La frase ‘Lo siento, como modelo de lenguaje…’ se cuela en artículos científicos (que no hablan de ChatGPT). Los atraparon en Twitter

“Lo siento, como modelo de lenguaje…” es un relleno común con el que ChatGPT comienza sus respuestas. cuando le pedimos que haga algo que no puede hacer, ya sea por limitaciones técnicas (por ejemplo, cuando se le solicita acceder a contenido en línea desde la versión gratuita) o por políticas de contenido impuestas por OpenAI.

Al mismo tiempo, como relleno que es, también constituye en este punto una ‘firma’ característica de ChatGPT… y, cuando la encontramos en algún texto fuera de la plataforma, en prueba inequívoca e irrefutable del descuido del ‘copiar y pegar’. Algo parecido —para los que todavía recuerdan lo que era Wikipedia— a encontrarnos, de la nada, con la frase “Para otros usos de este término, ver…” al principio de un texto.

Hace cuatro meses, la publicación estadounidense The Verge se hacía eco de cómo la frase de ChatGPT (en su versión en inglés) demostraba cómo era la inteligencia artificial “contaminando la web […] generando spam, reseñas falsas y otras formas de texto de baja calidad”.

En ese momento, ya había ejemplos de eso en Amazonas críticas, y la búsqueda de la frase en Twitter devolvió muchas respuestas de bots mal ajustados…y un creciente número de tuits que la frase ya fue tomada como un meme.

Sin embargo, muchos no vieron venir que, además de breves publicaciones en redes sociales, ‘Como modelo de lenguaje de IA’ —y otros textos resultantes de copiar directamente de ChatGPT, como ‘Regenerar respuesta’— terminarían contaminando también el sistema de publicaciones científicas arbitradasun supuesto pilar fundamental de nuestro sistema científico.

ZAO, la APP MÓVIL china que a través de DEEPFAKE te convierte en DICAPRIO en SEGUNDOS

No vas a ganar el Nobel así. oh si, guau

La liebre Ha sido planteada por Andrew Kean Gaoun estudiante de informática de Stanford, después de la curiosidad lo llevó a buscar la frase en cuestión en Google EruditoEl motor de búsqueda de artículos científicos de Google (excluidas las referencias explícitas a ChatGPT, para garantizar que este no sea el tema del artículo).

El resultado ha sido sorprendente: ya hay artículos, ‘revisados’ y publicadosque incluyen la frase en un contexto que solo puede explicarse por la inclusión descuidada de texto copiado de una respuesta de ChatGPT.

Incluso yo soy más cuidadoso cuando le pido a ChatGPT artículos para Genbeta. Es broma, es broma. regenerado

Ejemplo del tipo de artículos que han protagonizado esta captura:

Y otra:

Y aquí otra:

Y si en lugar de Google Scholar usamos otros servicios como PubPeer, encontramos algunos artículos más.

Como dice un usuario en Twitter:

“Lo siento, pero si una revista publica un artículo con esa declaración escrita como está, voy a instar a mi uni a que deje de suscribirse y nunca publique ningún artículo allí. No tengo nada en contra de AI, pero pongo en duda si el editor está haciendo su debida diligencia”.

y es que hay algo muy roto en el modelo de publicaciones científicas internacionales si el “Journal of Internet Banking and Commerce” acepta como “papel” un documento de una sola página de texto útil, que comienza con “Como modelo de lenguaje de IA, puedo…”, pero especificando en detalle cuándo se “revisó” el documento ‘ documento:

Siempre podemos decirles a aquellos que no pueden conseguir un trabajo en otros sectores usando esta técnica que se dediquen a ser revisores académicos. Lo decimos por esto:

“Tío, que los solicitantes [de empleo] directamente le piden a ChatGPT respuestas a estas preguntas, copian y pegan sin siquiera verificarlas, y realmente creen que terminarán consiguiendo el trabajo. ‘Como modelo de lenguaje de IA’, me estoy volviendo loco”.

Imagen | Marcos Merino a través de la IA

En Genbeta | El truco definitivo para copiar y pegar texto de PDF a MS Word sin alterar el texto