La Comisión Europea quiere que los principales servicios de chat escaneen nuestros mensajes a partir de 2024 para detectar pornografía infantil.
Esa propuesta ya estaba allí en octubre del año pasado, pero parece haber muchas posibilidades de que también sea aprobada. En ese caso, las principales plataformas de chat, como WhatsApp y Messenger de Meta, Signal y Telegram, estarán obligadas a comprobar si los textos y las fotos que nos enviamos entre nosotros contienen pornografía infantil. Los expertos advierten de un terreno resbaladizo, en particular de que esta tecnología pueda utilizarse posteriormente también para otros fines y para la “vigilancia” de los ciudadanos. Considere el ejemplo de las cámaras ANPR. Inicialmente se introdujeron para detectar sospechosos de terrorismo, pero ahora también comprueban el uso del teléfono móvil al volante.
Tecnológicamente neutral
El periódico La mañana habló con el profesor de KULeuven, Bart Preneel, especializado en seguridad informática y criptografía industrial. “El problema es que esta legislación es tecnológicamente neutral. Así que Europa no dice exactamente cómo deberían hacerlo los servicios de mensajería. Esto es imposible con la tecnología actual. Eso sólo sería posible manteniendo el cifrado y examinando los propios dispositivos”, afirma en la entrevista.
Peligro para la privacidad
Preneel señala el riesgo para nuestra privacidad. Por ejemplo, sostiene que las grandes empresas detrás de los servicios de mensajería simplemente obtienen acceso a todos los mensajes e imágenes que envías a amigos y familiares. Un riesgo adicional es que esta información personal pueda caer en manos de piratas informáticos o estados delincuentes.
Finalmente, como ocurrió con el ejemplo de las cámaras de la ANPR, existiría un alto riesgo de que la propuesta se extendiera a otros delitos. “Por lo tanto, hemos enviado una carta abierta del mundo científico a la Comisión señalando los diversos peligros y dificultades. Actualmente ha sido firmado por más de 400 científicos de 38 países diferentes. Espero que Europa se dé cuenta de que la propuesta va demasiado lejos”, concluye Preneel en De Morgen.
Controles por IA
Los expertos reaccionan positivamente y con cautela al anuncio de que la inteligencia artificial también se utilizará para detectar el abuso infantil. Pero eso también (ciertamente en la fase inicial) causará muchos resultados falsos positivos. Por ejemplo, cualquiera que quiera compartir una foto de sus hijos en la piscina con los abuelos puede tener problemas con su servicio de mensajería o proveedor de nube. Queda por ver con qué precisión se puede entrenar un algoritmo de este tipo.
