Gracias por visitarnos y por leer el artículo: EE. UU. quiere saber si ChatGPT o Midjourney generaron un texto o una imagen
Varias grandes empresas que trabajan en torno a la inteligencia artificial generativa se han comprometido con la Casa Blanca. Quieren desarrollar una tecnología para identificar el contenido generado por sus herramientas. Por el momento, la forma en que funcionará sigue siendo bastante vaga.
Uno de los grandes peligros de la IA generativa es que puede inducir a error a los ciudadanos: así lo observan todas las administraciones públicas del mundo. Además, están considerando establecer obligaciones para las empresas que comercializan herramientas de IA. En respuesta a esto, estos últimos empiezan a apostar por una mayor transparencia en los contenidos generados. Este es el caso de OpenAI, Microsoft, GoogleMeta, Amazonas, Antrópico e Inflexión. Estas siete empresas firmaron un compromiso voluntario con la administración Biden-Harris para “el desarrollo de una IA responsable”.
Las grandes empresas apuestan por una mayor transparencia en los contenidos generados por sus IA
En un comunicado, la Casa Blanca dijo que estas siete empresas, junto con la administración Biden-Harris, firmaron un acuerdo comprometiéndose voluntariamente a estas primeras “a contribuir al desarrollo seguro, protegido y transparente de la tecnología de IA”. Para el gobierno de EE. UU., “las empresas que desarrollan estas tecnologías emergentes tienen la responsabilidad de garantizar que sus productos sean seguros. Así que tres consignas: seguridad, protección y confianza.
La idea de este acuerdo es controlar el intercambio de textos, imágenes, videos y sonidos generados por IA. Como escribe OpenAI en su blog, “las empresas que se comprometen reconocen que los sistemas de IA pueden seguir presentando debilidades y vulnerabilidades, incluso después de un análisis exhaustivo» y, en general, después de haber sido puestos en el mercado. Estos contenidos deben ser autenticados como generados por una herramienta y no por un humano, evitando inducir a error a los ciudadanos. En el visor de la Casa Blanca, los videos “deepfakes”, que permiten por ejemplo decir lo que se quiere al presidente Joe Biden.
Este último se reunirá con estas empresas con el Congreso para cuestionarlas. El objetivo es redactar un decreto así como un texto legal para controlar mejor la IA. Joe Biden ya firmó una orden ejecutiva que ordena a las “agencias federales erradicar el sesgo en el diseño y uso de nuevas tecnologías, incluida la IA, y proteger al público de la discriminación algorítmica”.
Cómo funcionará el control «marca de agua»: aún no está claro
Las empresas interesadas tienen la intención de optar por una “marca de agua”, una marca que se coloca en todo el contenido para que se indique como tal. Tendrá que indicar qué herramienta de IA se utilizó durante la generación. El gobierno de los EE. UU. da la bienvenida a esta iniciativa y señala que “esta medida permite que florezca la creatividad en la IA al tiempo que reduce el riesgo de fraude y engaño”.
Sin embargo, no se mencionó ninguna solución técnica concreta. Algunas empresas ya han dado los primeros pasos, pero caso por caso. Ars Technicareporta la historia de un arresto falso de Donald Trump a través de imágenes falsas generadas por Midjourney, que se ha vuelto viral. El laboratorio del mismo nombre prohibió al fundador de la ONG Bellingcat Eliot Higgins, quien los creo.
Lo que menciona OpenAI, por ejemplo, es la implementación de herramientas o APIs “para determinar si un determinado elemento de contenido ha sido creado con un sistema de IA. Entre líneas, entendemos que si, por ejemplo, leemos un artículo en Internet, podríamos preguntarle a OpenAI si fue escrito por ChatGPT. Lo mismo para Midjourney: estaría disponible un sistema de búsqueda inversa para averiguar si la imagen en cuestión fue generada por esta IA. Estos sistemas no incluirán información sobre el usuario que generó el contenido.
Por el lado de Google, en su blog la firma indica que quiere integrar próximamente una marca de agua y metadatos en sus herramientas generativas. Se agregará un botón “Acerca de esta imagen” al buscador para conocer el contexto de una imagen así como la primera vez que se publicó en línea.
Las otras medidas previstas por los creadores de IA generativas
Además de la futura implementación de dichas marcas de agua, OpenAI, Microsoft, Google, Meta, Amazon, Anthropic e Inflection han acordado implementar sistemáticamente pruebas internas y externas antes de su disponibilidad pública. Serán realizadas por expertos independientes. Todos también dijeron que están invirtiendo más en ciberseguridad y que se fortalecerán los informes de vulnerabilidades. Respecto a este último punto, las empresas afectadas implementarán sistemas de recompensas, concursos o premios para incentivar la revelación responsable de debilidades, como comportamientos inseguros”.
Además, estas empresas se comprometen a compartir información sobre gestión de riesgos de IA con la industria, los gobiernos, la sociedad civil y la academia en general”, especifica la Casa Blanca. Esto incluye informar sobre las capacidades, las limitaciones, las áreas de uso apropiadas e inapropiadas y los riesgos sociales (efectos sobre la equidad y el sesgo) de las IA.
Consecuencias para la IA en todo el mundo
Además de todo esto, la administración Biden-Harris ha anunciado que está trabajando con los gobiernos socios “para establecer un marco internacional sólido que rija el desarrollo y uso de la IA. Entre los países con los que ha hablado se encuentran Alemania, Australia, Brasil, Canadá, Chile, Corea del Sur, Emiratos Árabes Unidos, Francia, India, Israel, Italia, Japón, Kenia, México, Nueva Zelanda, Nigeria, Países Bajos, Filipinas, Singapur y Reino Unido. El gobierno de EE. UU. también dice que está discutiendo con las Naciones Unidas y sus estados miembros.
Estas discusiones tuvieron lugar en paralelo con el desarrollo de la Ley AI, una pieza de legislación de la Unión Europea. También proporciona regulaciones con respecto a las IA generativas. El Parlamento y el Consejo de la Unión Europea quisieran que el texto final se adoptara antes de 2024.
¿Utiliza Google News (Noticias en Francia)? Puedes seguir tus medios favoritos. Seguir Frandroid en Google Noticias (y Numerama).
