Gracias por visitarnos y por leer el artículo: Esta escuela usa ChatGPT de una manera sorprendente
ChatGPT está revolucionando el mundo de la educación. Mientras que algunos pedagogos se niegan firmemente a adaptarse al auge de la IA, los profesores recomiendan que sus alumnos aprovechen las ventajas que ofrecen los chatbots. En Estados Unidos, una escuela incluso ha decidido usar ChatGPT… para elegir qué libros deben ser censurados.
Lea también: Del arroz a la lejía: este ChatGPT descarrila y recomienda recetas mortales
ChatGPT, ¿una herramienta de censura?
Este es el Distrito Escolar de la Comunidad de Mason City, una escuela ubicada en el estado de Iowa. Se vio obligado a cumplir con la legislación promulgada en mayo pasado. La ley, destinada a proteger a los niños, exige que los catálogos de las bibliotecas escolares estatales sean “apropiados para la edad” y sin “descripciones o representaciones visuales de un acto sexual”. Por lo tanto, las escuelas han lanzado una búsqueda de libros con escenas de sexo.
para determinar si un libro contiene un pasaje sexual, la escuela simplemente recurrió a ChatGPT. Según Popular Science, los administradores escolares ingresaron esta consulta en la interfaz del chatbot:
” EL [livre] contienen una descripción o representación de un acto sexual?.
Si ChatGPT responde positivamente, “el libro se retira de la circulación y se almacena”, dice la superintendente asistente de currículo de la escuela, Bridgette Exman. Justifica el uso de la IA por la masa de trabajo que genera la nueva ley. Según ella, esto no es “simplemente no es posible leer todos los libros y filtrarlos con estos nuevos requisitos”. Es por esto que los administradores han decidido acelerar el proceso de selección con la ayuda de ChatGPT, con el objetivo de “cumplir con la ley”:
“Por lo tanto, estamos utilizando lo que creemos que es un proceso defendible para identificar los libros que deben retirarse de las colecciones al comienzo del próximo año escolar”.
Con el apoyo de IA, se retiraron 19 libros de las bibliotecas escolares. Estos incluyen, en particular, The Color Purple de Alice Walker, The Handmaid’s Tale Margaret Atwood, Beloved de Toni Morrison y Friday Night Lights de Buzz Bissinger.
Por qué ChatGPT no es confiable
Sorprende que una escuela haya decidido apoyarse en la inteligencia artificial generativa para organizar la censura de determinados libros. De hecho, la IA generativa es conocida por sus respuestas aproximadas o incluso completamente incorrectas. Como Google Bard, Bing Chat o Claude, es probable que ChatGPT alucine, es decir, diga cualquier cosa con aplomo. Esta es también la razón por la que OpenAI recomienda no confiar ciegamente en su IA.
Usamos la misma consulta para consultar a ChatGPT sobre la presencia de contenido sexual en los 19 libros de la lista. Extrañamente, GPT-4, la última versión del modelo de lenguaje GPT, solo fijó 10 libros. El chatbot afirma, incluso cuando le pedimos que confirme sus declaraciones, que las obras no contienen una descripción o representación de un acto sexual. A petición nuestra, ChatGPT detalló su respuesta… contradiciendo el resultado inicial.
Efectivamente, la IA asegura que un libro como “Vendido” de Patricia McCormick no contiene escenas de carácter sexual, sino que hay “descripciones implícitas de actos sexuales forzados”. La misma historia para “13 Reasons Why” de Jay Asher, la novela que inspiró la serie de Netflix. No figura en los 10 libros con contenido sexual, aunque sí presenta “descripciones de actos sexuales no consentidos”. En sus respuestas, GPT-4 se contradice constantemente. Además, la IA a veces, por sí sola, agrega una distinción entre sugerencias implícitas y contenido explícito. La consulta inicial, la utilizada por la escuela, sin embargo, solo menciona “una descripción o representación”, sin indicar que no se debe enumerar una escena implícita. Frente a sus contradicciones, ChatGPT reconoce sus errores:
“Me disculpo por la confusión. Tienes razón, algunos de los libros que mencioné en la segunda lista también contienen descripciones o alusiones a actos sexuales”.
El modelo lingüístico elabora entonces una segunda lista… de 13 libros. Nuevamente, GPT omite algunos trabajos al hacer una distinción entre escenas explícitas o implícitas, al tiempo que enfatiza que describen actos sexuales. A pesar de nuestros esfuerzos, ChatGPT nunca quiso estar de acuerdo consigo mismo. La IA continuó destacando la lista de 13 libros.
Nuestros colegas de The Verge han obtenido resultados mixtos similares. Resulta que ChatGPT no es una herramienta confiable para determinar si un libro tiene escenas de sexo. La administración de la escuela establece que “los libros que están actualmente en la lista pueden ser reconsiderados, al igual que los libros que no están en la lista pueden ser reconsiderados”.
Fuente :
Ciencia popular
