OpenAI, la empresa responsable de crear ChatGPT, ha desarrollado AI Text Classifier para diferenciar entre texto escrito por IA y texto escrito por humanos. Lo llamamos “detector de ChatGPT”. Si bien no es posible identificar el texto escrito por IA con absoluta certeza, OpenAI cree que su nueva herramienta reducirá los casos de afirmaciones falsas de que el contenido escrito por humanos en realidad es generado por IA.
Comprender el clasificador de texto AI
En una declaraciónOpenAI afirma que su AI Text Classifier puede obstaculizar la difusión de información errónea automatizada, evitar el uso de AI para el engaño académico y bloquear los chatbots para que no pretendan ser humanos.
La precisión de la herramienta se probó en un conjunto de textos en inglés, donde identificó correctamente el texto escrito por IA el 26 % de las veces. Sin embargo, también clasificó erróneamente el texto escrito por humanos como generado por IA el 9% de las veces. Según OpenAI, la herramienta funciona mejor cuando el texto es más largo, por lo que requiere un mínimo de 1000 caracteres para ejecutar una prueba.
IA abierta compartido algunas otras limitaciones:
- Recomendamos usar el clasificador solo para texto en inglés. Funciona significativamente peor en otros idiomas y no es confiable en el código.
- El texto que es muy predecible no se puede identificar de forma fiable. Por ejemplo, es imposible predecir si una lista de los primeros 1000 números primos fue escrita por IA o por humanos, porque la respuesta correcta es siempre la misma.
- El texto escrito por IA se puede editar para evadir el clasificador. Los clasificadores como el nuestro se pueden actualizar y volver a entrenar en función de los ataques exitosos, pero no está claro si la detección tiene una ventaja a largo plazo.
- Se sabe que los clasificadores basados en redes neuronales están mal calibrados fuera de sus datos de entrenamiento. Para entradas que son muy diferentes del texto en nuestro conjunto de entrenamiento, el clasificador a veces tiene mucha confianza en una predicción incorrecta.
¿Cómo usar el detector ChatGPT de OpenAI?
El clasificador de texto OpenAI AI es fácil de usar. Simplemente ir a esta página, inicie sesión, pegue el texto que se probará y presione el botón Enviar. Luego, la herramienta proporcionará una calificación de la probabilidad de que el texto haya sido generado por IA. Los resultados pueden variar desde:
- muy improbable
- Improbable
- No está claro si es
- Posiblemente
- Probable
Evaluamos las habilidades de escritura de ChatGPT al hacer que escribiera un ensayo sobre ciberseguridad y luego enviáramos el ensayo a un clasificador de texto AI. El clasificador calificó el ensayo como “posiblemente generado por IA”, lo cual es una indicación fuerte pero no definitiva:
Esto resalta las limitaciones de la herramienta, ya que no puede decir con total certeza que el ensayo fue escrito por AI. Haciendo ligeros cambios sugeridos por Grammarly, bajé la calificación de “posiblemente” a “poco claro”. OpenAI es preciso al señalar que es simple omitir el clasificador, pero no pretende ser la única prueba de que AI escribió el texto.
OpenAI afirma en una sección de preguntas frecuentes en la parte inferior de la página:
“Nuestro uso previsto para AI Text Classifier es fomentar la conversación sobre la distinción entre el contenido escrito por humanos y el generado por IA. Los resultados pueden ayudar, pero no deben ser la única evidencia al decidir si un documento se generó con IA. El modelo está entrenado en texto escrito por humanos de una variedad de fuentes, que pueden no ser representativos de todos los tipos de texto escrito por humanos”.
OpenAI menciona que la herramienta no se ha sometido a pruebas exhaustivas para detectar texto que sea una mezcla de inteligencia artificial y escritura humana. Si bien el clasificador de texto AI puede ser útil para identificar texto que puede haber sido creado por AI, no se debe confiar en él como la única base para tomar una determinación final.
Si está tratando con el error ChatGPT 405: método no permitido, consulte nuestra guía especial.
