Gracias por visitarnos y por leer el artículo: Google, Meta, Microsoft y otras grandes tecnológicas firman un acuerdo voluntario de seguridad contra la IA. La gran ausente es Apple
Desde que OpenAI lanzó ChatGPT a finales del año pasado, hemos visto a otras compañías lanzar software con Inteligencia Artificial a lo largo de estos meses para competir con ese popular chatbot, pero también para otros fines. Ha sido tiempo suficiente para vislumbrar casi todo lo que es capaz de hacer la IA, tanto para lo bueno como para lo no tan bueno, algo que expertos en el sector como Bill Gates o Geoffrey Hinton, el padrino de Google‘s AI, han reforzado. Pero un gran poder conlleva una gran responsabilidad, es por eso que ayer las empresas líderes de la industria se reunieron para llegar a una serie de compromisos voluntarios para el desarrollo seguro, protegido y transparente de la tecnología de Inteligencia Artificial.
En concreto, han sido siete las empresas que han asistido ayer viernes a una cumbre en la Casa Blanca para llegar a un acuerdo con la administración Biden: implementarán nuevas medidas de protección para mejorar la seguridad de sus sistemas y de quienes lo utilizancomo el uso de una marca de agua para contenido generado por IA.
Tras la reunión, el presidente de Estados Unidos, Joe Biden, ha declarado que se han alcanzado acuerdos “reales y concretos”: ‘La inteligencia artificial va a cambiar la vida de las personas en todo el mundo. Las personas aquí serán fundamentales para guiar esa innovación de manera responsable y segura por diseño.‘.
Quiénes son las siete empresas firmantes. AmazonasAnthropic, Google, Inflection, Meta, Microsoft y OpenAI son las entidades que se han comprometido voluntariamente (aunque de forma algo flexible) a invertir en investigación y seguridad, realizar pruebas de estrés de seguridad y respaldar auditorías de vulnerabilidades del sistema realizadas por terceros.
La ausencia de Manzana es llamativo, una gran empresa del sector que no estuvo presente en la reunión, como es lógico, ni en los compromisos alcanzados. Sin embargo, cabe recordar que la reunión en la Casa Blanca es voluntaria. Según los rumores, Apple está trabajando actualmente en su propio ChatGPT llamado Apple GPT.
Las promesas de las big tech en el sector
Tras la reunión, la mayoría de las empresas participantes han emitido comunicados reafirmando sus compromisos pero sin poner sobre la mesa un plan concreto y detallado de ejecución. La Casa Blanca tampoco ha hecho pública la existencia de mecanismos de aplicación. para hacer esas promesas realidad. En la nota de prensa de la Casa Blanca se puede leer el resumen de las promesas y otras declaraciones, aunque a continuación resumimos las más destacadas.
Una de las apuestas más interesantes para quienes consumen y están expuestos a la inteligencia artificial es la inserción de marcas de agua en el contenido audiovisual generado por la IAuna petición expresa de la Casa Blanca en la reunión, según ha filtrado The Verge.
La presencia de marcas de agua facilitaría mucho la identificación de que la persona detrás de una creación es inteligencia artificial, minimizando el riesgo de engaño, falsificaciones profundas y diversas falsificaciones. Como explica la Casa Blanca: “Esta acción permite que florezca la creatividad con IA, pero reduce los peligros de fraude y engaño”.
OpenAI ha recogido el guante, explicando en una publicación de blog que un acuerdo para implementar marcas de agua requeriría que las empresas “desarrollen herramientas o API para determinar si se creó contenido particular con su sistema” y una limitación: ni contenidos audiovisuales pre-creados ni asistentes de voz ellos mismos entrarán en este compromiso.
Google ya apuntó a este compromiso antes de la reunión, pero tras la misma, el presidente de asuntos globales de Google, Kent Walker, ha precisado que la compañía ‘pronto integrará marcas de agua, metadatos y otras técnicas innovadoras en los próximos sistemas generativos’.
La mayoría de las empresas que firmaron el acuerdo de la Casa Blanca ya habían hecho promesas similares antes. Por lo tanto, Meta declaró el martes que abriría su modelo de lenguaje grande Llama 2, haciéndolo gratuito para la investigación y la mayoría de los usos comerciales, similar a GPT-4, presente tanto en ChatGPT como en Bing.
La otra promesa que ha surgido de la reunión es compartir información sobre Gestión de riesgos de IA en toda la industria y con los gobiernos, la sociedad civil y la academia, proporcionando datos sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA. Según la Casa Blanca, el informe incluirá “tanto los riesgos de seguridad como los riesgos sociales, como los efectos sobre la equidad y el sesgo”.
En Genbeta | La amenaza de la inteligencia artificial es real: estos son los 20 puestos de trabajo con más riesgo de ser sustituidos por IA
