OpenAI, la compañía detrás del ampliamente utilizado ChatGPT, ha anunciado el lanzamiento de un programa de subvenciones destinado a fomentar enfoques innovadores para la gobernanza de la IA.
A través de esta iniciativa, OpenAI pretende otorgar 10 subvenciones, cada una con un valor de 100.000 dólares, a equipos de todo el mundo para desarrollar pruebas de concepto para un proceso democrático que pueda dar forma al comportamiento y las reglas de los sistemas de IA.
Es probable que esta medida sea una respuesta a las crecientes preocupaciones sobre la IA a medida que los gobiernos de todo el mundo se apresuran a elaborar regulaciones para gobernar esta tecnología en constante crecimiento, con cuestiones de sesgo, privacidad y desinformación a la vanguardia de estas preocupaciones.
Esto también coincide con el viaje del director ejecutivo de OpenAI, Sam Altman, por todo el mundo para reunirse con líderes gubernamentales y abordar sus preocupaciones sobre la IA.
El programa busca explorar preguntas clave y desarrollar herramientas novedosas que puedan contribuir a la futura gobernanza de la IA.
Todo sobre el programa de subvenciones
En una declaración, OpenAI enfatizó la importancia del impacto de la IA en varios aspectos de la sociedad y destacó la importancia de incorporar diversas perspectivas en los procesos de toma de decisiones en torno al comportamiento de la IA.
La organización expresó su creencia de que las decisiones sobre la conducta de la IA no deberían ser dictadas únicamente por individuos, empresas o naciones. En cambio, OpenAI aboga por métodos democráticos que consideren el interés público y apunten a la inclusión en la configuración del futuro de la IA.
El programa de subvenciones alienta a individuos, equipos y organizaciones a presentar solicitudes que describan sus enfoques propuestos para abordar cuestiones de políticas específicas.
El período de solicitud se cerrará el 24 de junio de 2023 y los solicitantes seleccionados serán notificados antes del 14 de julio de 2023.
Los destinatarios seleccionados recibirán una subvención de 100 000 dólares para implementar la prueba de concepto propuesta, que involucrará al menos a 500 participantes, y publicarán un informe público sobre sus hallazgos antes del 20 de octubre de 2023.
Los resultados de los estudios realizados por los beneficiarios de la subvención serán de libre acceso y cualquier código o propiedad intelectual desarrollado durante el proyecto deberá estar disponible públicamente bajo una licencia de código abierto.
Preguntas de política
Las cuestiones de política que se están considerando para el programa de subvenciones cubren una amplia gama de temas, incluido el comportamiento modelo, las respuestas de los asistentes de IA a los puntos de vista de figuras públicas, la prestación de asesoramiento médico, financiero o legal por parte de los asistentes de IA y el equilibrio entre personalización y límites. en asistentes de IA alineados con las preferencias del usuario.
Otras preguntas exploran el manejo de información confidencial por parte de modelos de IA, incluida la identificación de género, raza y emociones a partir de imágenes, así como la representación de individuos en los resultados del modelo generativo.
OpenAI reconoce que, si bien las respuestas específicas a estas preguntas son importantes, el objetivo principal del programa de subvenciones es fomentar la innovación en los procesos democráticos para gobernar el comportamiento de la IA. La organización busca avances en el proceso mismo, reconociendo la complejidad y el amplio impacto de las tecnologías de IA.
Para obtener más información sobre las preguntas completas proporcionadas por OpenAI, haga clic aquí.
ⓒ 2023 . .
