El texto escrito por IA es cada vez más difícil de reconocer como tal. Los investigadores ahora han desarrollado una herramienta que les permite determinar si la IA escribió o no un texto.
La IA generativa ha llegado tan lejos: ChatGPT puede haber hecho los deberes de tus hijos y en la mayoría de los casos el profesor no lo habrá sabido. Eso a veces puede causar problemas: ¿cómo podemos estar seguros de que los estudiantes todavía están estudiando su materia y no simplemente descargando un trabajo de ChatGPT?
Mucha gente se sentiría tentada a probar una de las muchas herramientas disponibles en Internet. Sin embargo, estos ‘comprobadores de IA’ a menudo fallan y clasifican incorrectamente el material en la categoría de IA. Por tanto, no es una buena idea utilizar este tipo de herramientas en la educación. ¿Quiere predecir con precisión si la IA escribió un texto? Entonces para ello se necesita un equipo de investigación de la Universidad de Kansas.
Los investigadores han conseguido utilizar el aprendizaje automático con ese fin, aunque para un tipo concreto de textos académicos.
Investigación
Para el investigación Primero se seleccionaron 64 artículos de perspectiva científica. Se pidió a ChatGPT que reescribiera esos estudios, lo que dio como resultado 1276 párrafos de material generado por el sistema de inteligencia artificial, es decir, 128 artículos. Ese conjunto de datos se utilizó para entrenar el sistema de aprendizaje.
Luego se utilizó un segundo conjunto de datos, compuesto por material real y generado, para probar la precisión del sistema. A partir de 30 textos reales y 60 escritos de ChatGPT, el sistema sabe en todo momento si el texto fue escrito por IA. Cuando tienes párrafos marcados, el sistema se vuelve un poco menos seguro: en el 92% de los casos, el sistema reconoce la IA.
Conclusión
El hecho de que los investigadores hayan logrado reconocer el texto ChatGPT puede considerarse impresionante. Sin embargo, esto no significa que la IA pueda reconocerse en todas partes. Según los investigadores, funcionó en este caso porque un texto académico es bastante específico y tiene una estructura bastante específica.
Además, hay algunos marcadores que indican que se trata de un escritor real. Por ejemplo, los escritores humanos utilizan más conjunciones como “aunque”, “pero” o “gracias a”. Si la tecnología también se puede aplicar a otros tipos de texto debe determinarse mediante investigaciones de seguimiento.
