Edward Tian, un estudiante de último año de 22 años de la Universidad de Princeton, creó la aplicación GPTZero durante sus vacaciones de invierno. La aplicación está diseñada para evaluar si un texto fue generado por el popular chatbot. ChatGPT. Según Tian, la aplicación GPTZero puede determinar de manera rápida y eficiente si un texto fue escrito por un humano o ChatGPT, y se creó debido a preocupaciones sobre el uso poco ético de ChatGPT en el mundo académico.
Edward Tian, un estudiante de informática con una especialización en periodismo, desarrolló la aplicación GPTZero para abordar lo que él ve como un aumento en el plagio de IA. Él cree que las personas merecen saber si la IA o un ser humano es el autor de un texto, y este deseo lo llevó a crear la aplicación. En un tuit que promocionaba la aplicación GPTZero, escribió: “Hay tanta expectación en torno a ChatGPT. ¿Esto y aquello están escritos por AI? ¡Los humanos merecemos saberlo!”
Pasé Año Nuevo creando GPTZero, una aplicación que puede detectar rápida y eficientemente si un ensayo es ChatGPT o escrito por humanos.
—Edward Tian (@edward_the6) 3 de enero de 2023
Después de la introducción de ChatGPT en noviembre, ha habido informes de estudiantes que utilizan el modelo de lenguaje para enviar tareas generadas por IA como propias. Con el desarrollo de la aplicación GPTZero por parte de Tian, los maestros ahora tienen una nueva herramienta para identificar si los ensayos enviados por los estudiantes están escritos por ChatGPT. El 2 de enero, cuando Tian puso a disposición la aplicación, otros maestros se comunicaron con él para compartir comentarios positivos sobre su desempeño en la detección de ensayos escritos por IA.
Aplicación GPTZero: ¿Cómo detectar la escritura de ChatGPT?
La aplicación GPTZero utiliza “perplejidad” y “ráfaga” como indicadores para determinar si un texto fue escrito por un humano o un bot. La perplejidad es una medida de la complejidad del texto, si la aplicación GPTZero encuentra que el texto es difícil de entender, significa que el texto es más complejo y, por lo tanto, es probable que haya sido escrito por un humano. Si se encuentra fácil de entender, lo más probable es que haya sido generado por AI, ya que ha sido entrenado en textos similares. La “explosión” contrasta las diferentes versiones de oraciones y los humanos tienden a escribir más rápido, lo que puede incluir una combinación de palabras más largas y más cortas, mientras que las oraciones generadas por IA suelen ser más consistentes.
Tian demostró cómo la aplicación puede distinguir entre textos escritos por humanos y por IA al mostrar su análisis de un artículo del New Yorker y una publicación de ChatGPT en LinkedIn en un video. La aplicación demostró ser efectiva en su análisis. Una semana después de su lanzamiento, la aplicación GPTZero había sido utilizada por más de 30 000 usuarios y su popularidad hizo que la aplicación fallara. Streamlit, el software de código abierto que ejecuta la aplicación GPTZero, desde entonces ha proporcionado más recursos para manejar el alto tráfico en el sitio web para ayudar a Tian.
aquí hay una demostración rápida con el “marco de referencia” de john mcphee pic.twitter.com/WphxfxxFdr
—Edward Tian (@edward_the6) 3 de enero de 2023
Edward Tian no es el único que lucha contra el plagio y la fabricación de IA. OpenAI, el creador de ChatGPT, también ha mostrado su compromiso para detener ese uso malicioso de la IA. Según Scott Aaronson, un investigador de OpenAI especializado en seguridad de IA, la organización ha estado desarrollando una forma de incrustar una “señal secreta imperceptible” en el texto generado por GPT para rastrear su origen, que es similar al concepto de “marca de agua”. Esto ayudará a detectar plagio de IA u otros usos maliciosos.
La comunidad de IA de código abierto Hugging Face ha lanzado una herramienta que puede determinar si un texto fue generado por GPT-2, una versión anterior del modelo de IA utilizado para crear ChatGPT. Un profesor de filosofía en Carolina del Sur, que conocía esta técnica, informó que la usaron para detectar a un estudiante que presentaba un trabajo creado por IA.
Edward Tian no está en contra del uso de ChatGPT y otras tecnologías de inteligencia artificial. Él cree que la aplicación GPTZero no está destinada a evitar el uso de estas tecnologías, sino a proporcionar una forma de adoptarlas de manera responsable y tener la protección necesaria. Quiere traer transparencia a la IA, que ha sido una caja negra durante demasiado tiempo. Creó la aplicación para dar a la gente una idea de lo que diferencia la escritura humana de la escritura generada por IA, aunque entiende que la aplicación GPTZero no es perfecta y sigue trabajando para mejorar su precisión. Hizo hincapié en que su objetivo principal es hacer que la IA sea más transparente.
¡Aunque existen proyectos legítimos contra el plagio, algunos grandes jugadores, como Microsoft, están integrando ChatGPT en su software!
