Los depredadores de niños están aprovechando la IA generativa para producir contenido falso que represente el abuso sexual infantil. Los expertos advirtieron al público que esté atento a estas fotografías, que podrían suponer un peligro para la identidad de algunas personas.
Los depredadores infantiles están abusando de las tecnologías de inteligencia artificial
(Foto: Trenton Stevens de Unsplash)
Los expertos revelan que el inquietante uso de la IA para producir contenidos falsos de explotación sexual es alarmante.
Bloomberg informa que en los primeros cuatro meses de 2023 circularán por todas partes más fotografías generadas artificialmente de contenido sensible en línea.
ActiveFence, una startup especializada en moderación de contenidos, es consciente de la ocurrencia de este asunto. El jefe de seguridad infantil y explotación humana, Avi Jager, dice que hay un foro que promueve la depredación infantil y que hay 68 conjuntos de imágenes alteradas por IA en el hilo.
Jager mantuvo el anonimato de la persona que dio el nombre del foro por su seguridad. “Anticipamos que esto se hará más grande. Esto apenas está comenzando”, dijo Jager.
ActiveFence ha confirmado que no hubo seres humanos reales involucrados en las imágenes sensibles. Parece que todos fueron producidos mediante una herramienta de inteligencia artificial.
Es alarmante saber que toneladas de contenido predatorio se les están escapando a las autoridades. Dado que ahora es más fácil alterar una imagen mediante IA, cada vez más depredadores de niños aprovechan la oportunidad para detectar a las víctimas más vulnerables.
Cómo las autoridades combaten el contenido NSFW
De hecho, el uso indebido de la herramienta de IA con fines ilícitos puede afectar a otras personas que caen víctimas de la trampa maliciosa de las imágenes generadas por IA.
Según Motez Bishara, director de comunicaciones de Stability AI, la compañía ha implementado técnicas de mitigación cruciales para disminuir el riesgo de exposición a sus modelos a partir de contenido NSFW (No seguro para el trabajo).
Una solución que adoptaron para erradicar gradualmente el material de abuso sexual es bloquear el contenido malicioso y filtrarlo de sus sistemas.
Los depredadores en línea no se detendrán hasta que puedan chantajear a sus víctimas con sus scripts generados por IA. Es cuestión de tiempo actuar y proteger a los menores a toda costa antes de que sea demasiado tarde.
Aunque se considera que producir imágenes que contengan abuso infantil no es ilegal en los EE. UU., eso no significa que otros países tengan el mismo conjunto de reglas. Por ejemplo, no está prohibido en el Reino Unido, Canadá y Australia.
En Australia, la Comisión de Seguridad Electrónica ha advertido que los depredadores pueden automatizar el cuidado infantil mediante programas generados por IA, según El guardián.
La IA puede acabar con el abuso infantil
Si bien algunas herramientas de inteligencia artificial se crean para crear imágenes falsas de abuso infantil, algunas tecnologías de inteligencia artificial están diseñadas para ponerles fin, según IA para siempre.
Joelle Casteix, miembro fundador del Proyecto Abuso Cero, dijo que el equipo ahora está trabajando para llevar la IA a su objetivo de detener el abuso y la explotación de niños.
Con el Proyecto G, la organización ahora puede detectar los factores de riesgo relacionados con comportamientos depredadores. Además de los depredadores infantiles, el proyecto también pretende abordar el problema de las personas que encubren la explotación sexual.
ⓒ 2023 . .
