Un grupo de expertos en inteligencia artificial y ejecutivos de tecnología, incluidos Elon Musk y el cofundador de Apple, Steve Wozniak, han emitido un carta abierta instando a los principales laboratorios de inteligencia artificial a detener el desarrollo de sistemas de IA más avanzados que GPT-4. La carta abierta, publicada el martes por el Future of Life Institute, una organización sin fines de lucro, tiene alrededor de 1.000 signatarios y cita “riesgos profundos” para la sociedad humana como el motivo del llamado a la acción.
La carta pide la suspensión inmediata de la capacitación de los sistemas durante al menos seis meses, que debe ser pública, verificable e incluir a todos los actores públicos. “Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA”, comienza la carta.
Los expertos en inteligencia artificial hacen sonar la alarma sobre los “riesgos profundos” para la sociedad humana
El grupo argumenta que los sistemas avanzados de IA podrían representar un cambio profundo en la historia de la vida en la Tierra y deben planificarse y administrarse con el cuidado y los recursos correspondientes. Sin embargo, dicen que este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA se han enfrascado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender. , predecir o controlar de forma fiable.
La carta abierta llega solo un par de semanas después del debut público de GPT-4 de OpenAI, el modelo de lenguaje grande que impulsa la versión premium del popular chatbot ChatGPT. El nuevo GPT-4 puede manejar tareas más complejas y producir resultados más matizados que las versiones anteriores y también está menos sujeto a las fallas de las versiones anteriores, según OpenAI.
Para hacer su trabajo, los sistemas como GPT-4 deben entrenarse con grandes cantidades de datos que luego pueden utilizar para responder preguntas y realizar otras tareas. ChatGPT, que irrumpió en escena en noviembre, tiene una capacidad similar a la humana para escribir correos electrónicos de trabajo, planificar itinerarios de viaje, producir código de computadora y desempeñarse bien en pruebas como el examen de la barra.
Desde principios de año, empresas desde Google y Microsoft hasta Adobe, Snapchat y Grammarly han anunciado servicios que aprovechan esas habilidades generativas de IA.
Sin embargo, la propia investigación de OpenAI ha demostrado que existen riesgos que vienen con estas habilidades de IA. Los sistemas de IA generativa pueden citar fuentes no confiables o, como señaló OpenAI, “aumentar los desafíos de seguridad al tomar acciones dañinas o no intencionadas, aumentando las capacidades de los malos actores que defraudarían, engañarían o abusarían de otros”.
El grupo detrás de la carta abierta argumenta que las empresas están sacando productos sin las garantías adecuadas o sin comprender las implicaciones. Los expertos en inteligencia artificial están asustados por el rumbo que podría tomar todo esto. La carta dice: “Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores: pueden comprender, predecir o controlar de manera confiable”.
Los firmantes de la carta creen que la sociedad debe dar un paso atrás y detener el desarrollo mientras evalúa los riesgos y establece salvaguardas. Están pidiendo transparencia, discusión pública y participación pública en torno a los desarrollos de IA, para que todos puedan opinar sobre el futuro de la IA.
La carta abierta ha provocado un debate entre los expertos en IA, y algunos argumentan que es necesaria una pausa para garantizar que la IA se desarrolle de manera segura y ética. A otros, sin embargo, les preocupa que una pausa ralentizaría el progreso y daría a otros países una ventaja en el desarrollo de la IA.
A pesar del debate, está claro que la IA avanza a un ritmo acelerado y tiene el potencial de cambiar nuestras vidas de manera profunda. Corresponde a la sociedad en su conjunto hacer que este cambio se gestione de forma responsable y ética.
