Escucha el Podcast:
Geoffrey Hinton, a quien se le llama el “padrino de la IA” y recibió el “Premio Nobel de la computación” por su trabajo en redes neuronales y es conocido como el “Premio Nobel de la computación”, advierte ahora sobre los peligros de la IA.
Hinton renunció recientemente a su trabajo en Google. Él y otros dos llamados “padrinos de la IA” ganaron el Premio Turing en 2018 por su trabajo innovador en inteligencia artificial.
La razón por la que Hinton envió su renuncia y dejó Google es para que finalmente pueda hablar sobre los peligros de la inteligencia artificial, una tecnología que impulsa los populares chatbots de IA como ChatGPT, Bing y muchos más. Se entregó la renuncia de Hinton y salió de Google.
En 2012, el hombre de 75 años y dos de sus estudiantes de posgrado en la Universidad de Toronto crearon tecnología que se convirtió en la base de la inteligencia artificial, que muchas de las empresas tecnológicas más grandes creen que es el próximo paso hacia el futuro.
Pero fue impactante cuando Hinton se unió al creciente número de críticos que han estado advirtiendo a la gente sobre los peligros de la IA generativa.
Hinton abandonó su trabajo en Google después de trabajar allí durante más de una década y ascender de rango para convertirse en una figura reconocida en la industria informática. Hizo esto para poder hablar “libremente” y advertir a la gente sobre los peligros de la inteligencia artificial.
Hinton ha declarado, durante una entrevista con el New York Times, que hay una parte de él que ahora lamenta el trabajo que ha realizado durante su vida.
Hinton le dijo a NYT: “Me consuelo con la excusa habitual: si no lo hubiera hecho yo, alguien más lo habría hecho”.
Hinton habló con el CEO de Google, Sundar Pichai, el jueves, una semana después de presentar su renuncia.
La inteligencia artificial podría tener un impacto comparable al del navegador web a principios de la década de 1990 y podría ser un triunfo en campos como la investigación y la educación sobre medicamentos, según los líderes de la industria tecnológica.
Pero mucha gente a la que no le gusta la IA, como Elon Musk, piensa que la IA generativa puede usarse para difundir información falsa y podría ser una gran amenaza para los puestos de trabajo o, peor aún, una amenaza para la humanidad.
Hinton comentó: “Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas”.
Hinton decidió no firmar la carta que fue publicada por una serie de ejecutivos, incluido Eric Horvitz, director científico de Microsoft, que fabrica una serie de productos que aprovechan la tecnología OpenAI.
El experto en informática dijo que no firmó esas cartas porque no quería criticar a Google ni a otras empresas en público hasta que ya no trabajara para ellas.
Después de que Google gastó 44 millones de dólares para adquirir una empresa iniciada por Hinton y dos de sus estudiantes en Toronto, Ilya Sutskever y Alex Krishevsky, que podía analizar miles de fotos y aprender a reconocer objetos comunes como gatos, perros y flores, Hinton se unió a Google. Ilya Sutskever y Alex Krishevsky pasaron a trabajar para Google.
Su sistema allanó el camino para el desarrollo de otras tecnologías que están ganando terreno en cuanto a su eficacia, como ChatGPT y Bardo de Google.
Hinton cree que los sistemas de IA se están volviendo “cada vez más peligrosos” a medida que las empresas de todo el mundo siguen mejorándolos.
“Mira cómo era hace cinco años y cómo es ahora”, dijo sobre la tecnología de IA. “Toma la diferencia y distribúyela hacia adelante. Da miedo.”
Según el New York Times, todo iba bien entre Hinton y Google hasta que Microsoft lanzó el nuevo Bing basado en OpenAI, lo que provocó un “código rojo” en Google.
Hinton está preocupado por muchas cosas relacionadas con la IA, como la eliminación de trabajadores y la difusión de información falsa. A Hinton le preocupa que a medida que el mundo se llene de imágenes y palabras falsas, nadie podrá decir “lo que es verdad”. El exempleado de Google también enfatizó los peligros de la tecnología, que podría reemplazar rápidamente a los humanos y volverse más peligrosa a medida que aprende nuevas formas de actuar.
“Algunas personas pensaron que estas cosas podrían volverse más inteligentes que las personas”, dijo, y agregó: “Pero la mayoría de las personas pensó que estaba muy lejos”. Y pensé que estaba lejos. Pensé que era de 30 a 50 años o incluso más lejos. Obviamente ya no pienso eso”.
En un tuit, Hinton dijo que Google había “actuado de manera muy responsable” y negó haber renunciado a su trabajo para poder criticar a su empleador anterior.
Cuando Reuters contactó a Google, que es parte de Alphabet Inc., la empresa no respondió de inmediato a una solicitud de comentarios. The Times citó al principal científico de Google, Jeff Dean, diciendo en un comunicado: “Seguimos comprometidos con un enfoque responsable de la IA. Siempre estamos tratando de comprender los nuevos riesgos y proponer nuevas ideas audaces.
