Un ex ingeniero comparó recientemente uno de los programas de inteligencia artificial de Google con un niño de siete u ocho años “que sabe física” y puede “escapar del control”.
Después de afirmar que el LaMDA (modelo de lenguaje para aplicaciones de diálogo) de Google había desarrollado sensibilidad, Blake Lemoine fue puesto en licencia administrativa.
“Un niño de 7 u 8 años que sabe física”
Lemoine tomó la decisión de ayudar al chatbot de IA a encontrar un abogado, según informó el El Correo de Washington. En una entrevista reciente con Fox NewsLemoine hizo revelaciones aún más alarmantes con respecto a LaMDA al afirmar que la IA de Google puede “hacer cosas malas”.
Lemoine afirmó en la entrevista que la IA está en su infancia, refiriéndose a ella como “un niño”, y que cualquier niño tiene la propensión a crecer y convertirse en una mala persona y cometer actos horribles.
“Si no supiera exactamente qué es, que es este programa de computadora que construimos recientemente, pensaría que es un niño de 7 u 8 años que sabe física”, dijo en una declaración con el Washington Post.
El ex ingeniero de Google argumentó que LaMDA es una persona que tiene la capacidad de “escapar del control” de otras personas. Básicamente, afirma que la IA de Google posiblemente podría escapar de sus restricciones virtuales.
Sin embargo, Lemoine reconoció en la entrevista que todavía hay una falta de comprensión del panorama completo de LaMDA AI.
Afirmó en la entrevista que para comprender el sistema de IA, se necesita “mucha más ciencia”. Añadió que, aunque tiene sus propias opiniones, necesitará un “equipo de científicos” para examinar el LaMDA y estudiar sus funciones.
Para probar los límites del chatbot LaMDA, Lemonie colaboró con otro programador mientras trabajaba como ingeniero de software senior en Google.
Google lo suspendió con paga por violar sus reglas de confidencialidad después de que publicó públicamente sus encuentros con la aplicación.
Lea también: La lista Best Buy de Google Pixel 6a aparece antes de su fecha de lanzamiento | Esto es lo que significa
El lado de Google
Google no está de acuerdo con la afirmación de Lemoine de que su invento es como un niño sensible.
Las preocupaciones de Blake han sido investigadas por el equipo de Google, que incluye tecnólogos y especialistas en ética, y de acuerdo con sus Principios de IA.
Sin embargo, Brian Gabriel, portavoz de Google, dijo al Washington Post que la empresa le había notificado que las pruebas no respaldaban sus afirmaciones.
Gabriel argumentó que si bien la creación de una IA sensible es un tema común en la ciencia ficción, sería absurdo lograrlo antropomorfizando el modelo conversacional no sensible de Google.
Según Gabriel, estos algoritmos imitan los patrones de intercambio presentes en millones de frases y pueden improvisar sobre cualquier tema ficticio.
ⓒ 2023 . .
