Menos de seis meses después de que OpenAI, creador de ChatGPT, presentara una herramienta de detección de IA con el potencial de ayudar a los profesores y otros profesionales a detectar el trabajo generado por IA, la empresa ha sacó la característica. La herramienta no estuvo a la altura de sus expectativas y no logró ofrecer resultados precisos al analizar texto en busca de contenido generado por IA.
Desde que ChatGPT estuvo disponible para el público en general, las preocupaciones sobre su uso poco ético, incluidas las trampas en los exámenes, la falsificación de ensayos y otros fraudes académicos, han sido una parte importante del discurso en torno a la IA y ChatGPT específicamente. Es por eso que OpenAI se apresuró a intentar ofrecer una solución rápida. Pero parece que sus esfuerzos no fueron suficientes.
Si bien muchas personas y organizaciones esperaban protegerse contra el contenido generado por ChatGPT usando esta herramienta, vamos a tener que esperar un poco más para que la herramienta realmente funcione.
¿Por qué se retiró la herramienta de detección de IA?
Según la declaración del blog ChatGPT, retiraron esta herramienta debido a la tasa de precisión baja. Pero eso no quiere decir que nunca tendremos una herramienta eficaz para analizar contenido. En la misma declaración, cuando la compañía anunció que estaban retirando la herramienta de detección de IA, OpenAI también señaló que continuarían trabajando con comentarios y dedicarían más tiempo y recursos a la investigación para intentar desarrollar la herramienta para la detección de contenido generado por IA que Permitir a profesores, profesores y otras personas que quieran trabajar sin contenido generado por IA.
Este problema es extremadamente frecuente en la educación; sin embargo, otros campos también podrían beneficiarse de tener una herramienta que determinara efectivamente si el contenido fue generado o no por IA. A medida que avanzamos desde lo básico ¿Cómo funciona ChatGPT? preguntas y profundizar más, se hablará mucho en los campos creativos durante el posibles trampas de depender del contenido generado por IA y lo que este cambio podría significar para los artistas.
Debemos tener en cuenta que OpenAI también está trabajando para desarrollar herramientas que reconozcan el contenido visual y de audio generado por IA, no solo el texto generado por IA, que preocupa a la mayoría de la gente actualmente. Sin embargo, es fácil ver cómo esta herramienta de detección beneficiaría al campo creativo. Aún así, OpenAI todavía no ha compartido ningún anuncio específico o hito de logro en esta dirección.
Si bien esto es encomiable por parte de OpenAI, esta declaración revivió la conversación sobre la importancia de la protección en torno a ChatGPT y lo que la falta de ella podría significar a mayor escala.
El momento de esta declaración también es digno de mención. Este es el primer año escolar nuevo que comenzará con muchos estudiantes accediendo a ChatGPT, por lo que podemos ver por qué esta declaración ha tenido tantas repercusiones. Para aquellos que trabajan en educación, este anuncio puede interpretarse como que OpenAI los abandona frente a los problemas que la propia empresa ha causado, dejando en manos de los profesores encontrar formas de garantizar que el trabajo de los estudiantes sea completado por ellos y no por ChatGPT y abandonándolos. .
¿Existen alternativas?
Antes de que la empresa decidiera retirar por completo la herramienta de detección de IA, la herramienta en sí era bastante prometedora. Impulsado por un sistema de aprendizaje automático, trabajó exclusivamente con texto en inglés generado por IA, clasificándolo como una de las cinco categorías que van desde “probablemente generado por IA” hasta “muy improbable”. Sin embargo, incluso entonces, OpenAI dudó en hacer grandes promesas ya que la herramienta aún era relativamente nueva.
Mientras tanto, los profesores, establecimientos académicos y organizaciones que buscan detectar y excluir contenido generado por ChatGPT tienen mucho trabajo por delante. Algunas empresas ya han asumido el desafío de adelantarse a OpenAI y generar estas herramientas de forma independiente a ChatGPT.
Los estudiantes ya utilizan muchos sitios web y aplicaciones para su trabajo escolar, incluidas herramientas de citas, y han agregado la función de detección de IA a su arsenal. Sin embargo, todavía no tenemos idea de qué tan bien funcionan estas herramientas individuales y si los profesores pueden confiar cómodamente en ellas.
Otro punto que preocupa a los establecimientos académicos es cuán frecuente es ChatGPT entre sus estudiantes. Si bien algunas escuelas han tomado el asunto en sus propias manos al prohibir ChatGPT y otras herramientas de inteligencia artificial en las redes escolares, todos están de acuerdo en que impedir que los estudiantes utilicen estas herramientas será imposible cuando no estén en la escuela.
Si bien no es ideal, prohibir ChatGPT en las instalaciones escolares al menos les da a los profesores cierto control sobre el proceso, asegurando que los estudiantes creen los materiales escritos en clase. Sin embargo, esto se vuelve más complicado cuando tenemos en cuenta las tareas, ensayos y proyectos grupales que tardan un par de días en completarse.
Ya sea que veamos o no un gran aumento en las tareas generadas por IA en el transcurso de este año escolar, una cosa está clara: este año escolar requerirá mucho aprendizaje y adaptación en ambos extremos.
ⓒ 2023 . .
Etiquetas:
