OpenAI, la organización lÃder en investigación de IA, está desarrollando sistemas de IA “superinteligentes”; En consecuencia, la empresa ha creado un nuevo equipo para gestionar potentes sistemas de inteligencia artificial que pueden superar a los humanos en 10 años.
Sutskever y Leike enfatizaron recientemente la necesidad de encontrar métodos para regular la IA superinteligente, ya que no existe ningún mecanismo para evitar que dicha IA se vuelva deshonesta. Hicieron este punto en una publicación de blog. Cuando se trata de sistemas de IA que son mucho más inteligentes que los humanos, las estrategias actuales para alinear La IA depende de la supervisión humana, que puede necesitar más, según TechCrunch.
Para solucionar este problema, OpenAI está creando el equipo Superalignment, que tendrá acceso al 20% de las capacidades informáticas de la empresa. El equipo estará compuesto por investigadores de varios departamentos dentro de la corporación y cientÃficos e ingenieros del último equipo de alineación de OpenAI. Su objetivo es abordar las dificultades tecnológicas fundamentales asociadas con el control de la IA superinteligente durante los próximos cuatro años.
El equipo tiene la intención de utilizar la aportación humana para entrenar sistemas de IA, utilizar la IA para respaldar la evaluación humana y, finalmente, crear una IA capaz de realizar investigaciones de alineación. La investigación de alineación se centra en garantizar que los sistemas de IA proporcionen los resultados esperados.
Se deben tomar medidas para gestionar la IA
Según OpenAI, en comparación con los humanos, la IA puede hacer avanzar la investigación de alineación más rápidamente. Los sistemas de IA pueden asumir progresivamente más tareas de alineación a medida que desarrollan, desarrollan, implementan e investigan mejores métodos de alineación.
Se pretende que las generaciones futuras de IA estén más en lÃnea con los ideales humanos gracias a la cooperación entre los sistemas de IA y los investigadores humanos. En lugar de realizar una investigación de alineación, los investigadores humanos evaluarán la investigación de alineación realizada por sistemas de inteligencia artificial.
Sutskever y Leike muestran confianza en la capacidad de la IA para abordar las dificultades de la alineación de la superinteligencia, al tiempo que señalan los inconvenientes de su estrategia, como posibles inconsistencias y sesgos en la utilización de la IA para la evaluación. Destacan que la alineación de la superinteligencia es fundamentalmente un desafÃo del aprendizaje automático y sostienen que encontrar soluciones dependerá de las habilidades de los profesionales del aprendizaje automático.
OpenAI tiene la intención de difundir ampliamente los desarrollos y resultados de esta iniciativa. La empresa también comprende lo fundamental que es admitir modelos de IA externos al suyo que sean seguros y estén sincronizados. Destacan que abordar la alineación de la superinteligencia deberÃa ser una máxima prioridad en todo el mundo, a la par de otros peligros sociales importantes como las pandemias y la guerra nuclear.
La grave amenaza de la IA
A medida que la IA se desarrolla, las preocupaciones sobre posibles peligros y repercusiones sociales se vuelven más prominentes. La declaración del Centro para la Seguridad de la IA, que tiene como respaldo de expertosincluidos ejecutivos de OpenAI y Google DeepMind, enfatiza lo crucial que es reducir los peligros relacionados con la IA para proteger a la humanidad, según un informe de la BBC.
Estos peligros incluyen la capacidad de gestionar y manipular a las personas, el despliegue de armamento autónomo mortal, las consecuencias del desempleo generalizado en la salud mental de las personas y el potencial de que los sistemas de información impulsados ​​por la IA socaven la democracia y provoquen malestar social.
La tecnologÃa de IA también plantea preocupaciones sobre desplazamiento laboral; Las estimaciones indican que se podrÃan perder decenas y cientos de millones de puestos de trabajo en los próximos 10 años, según The Guardian.
â“’ 2023 . .
