Todas las Noticias en Pel√≠culas, Avances de Pel√≠culas y Rese√Īas.

OpenAI lanzó AI Text Classifier para detectar textos generados por IA

OpenAI, la empresa responsable de crear ChatGPT, ha desarrollado AI Text Classifier para diferenciar entre texto escrito por IA y texto escrito por humanos. Lo llamamos “detector de ChatGPT”. Si bien no es posible identificar el texto escrito por IA con absoluta certeza, OpenAI cree que su nueva herramienta reducir√° los casos de afirmaciones falsas de que el contenido escrito por humanos en realidad es generado por IA.

Comprender el clasificador de texto AI

En una declaraci√≥nOpenAI afirma que su AI Text Classifier puede obstaculizar la difusi√≥n de informaci√≥n err√≥nea automatizada, evitar el uso de AI para el enga√Īo acad√©mico y bloquear los chatbots para que no pretendan ser humanos.

La precisi√≥n de la herramienta se prob√≥ en un conjunto de textos en ingl√©s, donde identific√≥ correctamente el texto escrito por IA el 26 % de las veces. Sin embargo, tambi√©n clasific√≥ err√≥neamente el texto escrito por humanos como generado por IA el 9% de las veces. Seg√ļn OpenAI, la herramienta funciona mejor cuando el texto es m√°s largo, por lo que requiere un m√≠nimo de 1000 caracteres para ejecutar una prueba.

IA abierta compartido algunas otras limitaciones:

  • Recomendamos usar el clasificador solo para texto en ingl√©s. Funciona significativamente peor en otros idiomas y no es confiable en el c√≥digo.
  • El texto que es muy predecible no se puede identificar de forma fiable. Por ejemplo, es imposible predecir si una lista de los primeros 1000 n√ļmeros primos fue escrita por IA o por humanos, porque la respuesta correcta es siempre la misma.
  • El texto escrito por IA se puede editar para evadir el clasificador. Los clasificadores como el nuestro se pueden actualizar y volver a entrenar en funci√≥n de los ataques exitosos, pero no est√° claro si la detecci√≥n tiene una ventaja a largo plazo.
  • Se sabe que los clasificadores basados ‚Äč‚Äčen redes neuronales est√°n mal calibrados fuera de sus datos de entrenamiento. Para entradas que son muy diferentes del texto en nuestro conjunto de entrenamiento, el clasificador a veces tiene mucha confianza en una predicci√≥n incorrecta.
Recomendado:  Apple hace el truco y evitar√° que el iPhone tenga esto

¬ŅC√≥mo usar el detector ChatGPT de OpenAI?

El clasificador de texto OpenAI AI es fácil de usar. Simplemente ir a esta página, inicie sesión, pegue el texto que se probará y presione el botón Enviar. Luego, la herramienta proporcionará una calificación de la probabilidad de que el texto haya sido generado por IA. Los resultados pueden variar desde:

  • muy improbable
  • Improbable
  • No est√° claro si es
  • Posiblemente
  • Probable

Evaluamos las habilidades de escritura de ChatGPT al hacer que escribiera un ensayo sobre ciberseguridad y luego envi√°ramos el ensayo a un clasificador de texto AI. El clasificador calific√≥ el ensayo como “posiblemente generado por IA”, lo cual es una indicaci√≥n fuerte pero no definitiva:

Esto resalta las limitaciones de la herramienta, ya que no puede decir con total certeza que el ensayo fue escrito por AI. Haciendo ligeros cambios sugeridos por Grammarly, baj√© la calificaci√≥n de “posiblemente” a “poco claro”. OpenAI es preciso al se√Īalar que es simple omitir el clasificador, pero no pretende ser la √ļnica prueba de que AI escribi√≥ el texto.

OpenAI afirma en una sección de preguntas frecuentes en la parte inferior de la página:

‚ÄúNuestro uso previsto para AI Text Classifier es fomentar la conversaci√≥n sobre la distinci√≥n entre el contenido escrito por humanos y el generado por IA. Los resultados pueden ayudar, pero no deben ser la √ļnica evidencia al decidir si un documento se gener√≥ con IA. El modelo est√° entrenado en texto escrito por humanos de una variedad de fuentes, que pueden no ser representativos de todos los tipos de texto escrito por humanos‚ÄĚ.

OpenAI menciona que la herramienta no se ha sometido a pruebas exhaustivas para detectar texto que sea una mezcla de inteligencia artificial y escritura humana. Si bien el clasificador de texto AI puede ser √ļtil para identificar texto que puede haber sido creado por AI, no se debe confiar en √©l como la √ļnica base para tomar una determinaci√≥n final.

Recomendado:  Las 8 mejores aplicaciones de br√ļjula para Android en 2023

Si está tratando con el error ChatGPT 405: método no permitido, consulte nuestra guía especial.

Tabla de Contenido