Como resultado de su baja precisión, OpenAI ha descontinuado AI Classifier Tool, diseñada para distinguir entre la escritura humana y la generada artificialmente.
OpenAI anunció en un Blog que descontinuará su herramienta AI Classifier. En respuesta a los comentarios de los clientes, la corporación ha dicho: “Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto”.
Se suponía que la herramienta de clasificación de IA de OpenAI cambiaría las reglas del juego. La herramienta fue diseñada para diferenciar la escritura humana del texto generado por IA, e inicialmente la comunidad tecnológica la recibió con entusiasmo. Sin embargo, la herramienta finalmente se cerró después de que no pudo mejorar su precisión.
La herramienta AI Classifier está cerrando por OpenAI
Hay algunas razones por las que OpenAI cerró la herramienta. Primero, la herramienta tenía una baja tasa de precisión. En algunos casos, la herramienta solo tenía una precisión del 60 %, lo que significa que clasificó erróneamente el texto escrito por humanos como texto generado por IA el 40 % de las veces. Este es un margen de error significativo y significa que la herramienta no era lo suficientemente confiable para usarse en un entorno de producción.
En segundo lugar, la herramienta era difícil de usar. La herramienta requería un mínimo de 1000 caracteres de texto para clasificarse y la herramienta podía tardar varios minutos en devolver un resultado. Esto hizo que la herramienta fuera engorrosa de usar y limitó su utilidad para aplicaciones del mundo real.
Finalmente, la aplicación no se pudo expandir. El programa requirió una nueva capacitación en un conjunto de datos más grande a medida que aumentaba el volumen de material generado por IA en Internet, ya que se entrenó en un conjunto de datos que contenía tanto texto escrito por humanos como generado por IA. No estaba claro si OpenAI estaba preparado para dedicar los recursos necesarios a un proyecto tan masivo.
¿Es posible desarrollar un detector de texto preciso generado por IA?
Es posible desarrollar un detector de texto preciso generado por IA, pero será un desafío. El problema es que el texto generado por IA se está volviendo cada vez más sofisticado y es difícil distinguirlo del texto escrito por humanos. Sin embargo, hay algunas cosas que se pueden hacer para mejorar la precisión de los detectores de texto generados por IA.
Necesitamos más información primero. La precisión de un detector de texto generado por IA mejora a medida que se le enseñan más datos. Como resultado, las empresas tendrán que acumular conjuntos de datos más grandes que consisten en material escrito por humanos y generado por IA.
En segundo lugar, se deben crear algoritmos más efectivos. Las técnicas de detección de texto generado por IA se actualizan y perfeccionan continuamente. Los detectores de texto fabricados por IA serán más precisos a medida que se desarrollen nuevos algoritmos.
Por último, debemos hacer que las herramientas sean más fáciles de usar. Las herramientas de detección de IA deben simplificarse para que más personas puedan beneficiarse de ellas. Esto aumentará el número de personas que pueden beneficiarse de las herramientas.
Mientras tanto, puede probar otros detectores de contenido de IA y verificadores de plagio de ChatGPT.
Conclusión
La herramienta clasificadora de IA de OpenAI falló, pero eso no significa que el problema de la detección de texto generado por IA sea insuperable. Con más datos, mejores algoritmos y herramientas más fáciles de usar, es posible desarrollar un detector de texto preciso generado por IA.
