Apple ha decidido ir más allá en su lucha contra la pornografía infantil. La compañía ha creado un nuevo sistema de escaneo y cifrado con el que rastreará las fotografías de sus usuarios en busca de contenido sospechoso. La nueva función basada en el aprendizaje automático no llegará a algunos países por el momento, se probará primero en Estados Unidos, pero ya ha despertado sospechas entre los expertos en ciberseguridad.
La empresa confirmó así la información adelantada en Twitter por Matthew Green, profesor de criptografía de la Universidad Johns Hopkins, el jueves. A partir de ahora, los usuarios de iPhone recibirán una alerta si alguna de las imágenes que intentan enviar por iMessage es sospechosa de inculcar abuso sexual a menores.
“Messages utiliza el aprendizaje automático en el dispositivo para analizar imágenes adjuntas y determinar si una foto es sexualmente explícita. La función está diseñada para que Apple no tenga acceso a Mensajes”, detalla Apple en un informe que describe cómo funciona este sistema, que no es tan nuevo como parece.
¿Como funciona?
La tecnología se utilizará en iOS, macOS, WatchOS e iMessages desde donde se analizarán todas las imágenes que los usuarios pretendan compartir. Para ello han recurrido a algoritmos de aprendizaje automático conocidos como NeuralHash.
La tecnología hash analiza la imagen sin necesidad de visualizarla o abrir el archivo. Convierte cada fotografía en un número único que describe su contenido, como una huella digital, pero que sería imposible de entender para cualquier usuario.
Tras comparar ese código con los establecidos por la compañía como contenido sospechoso, si se detectan suficientes coincidencias entre un código y otro, se crea una alerta que difumina la imagen y bloquea su compartición.
Apple asegura que los padres podrán recibir alertas si sus hijos quieren enviar contenido catalogado como sospechoso. También se podría alertar a las autoridades de estas coincidencias para que un equipo humano revisara las imágenes.
mateo verde explica en su cuenta de Twitter que esta tecnología puede dar falsos positivos al no ser muy precisos: “Esto es intencionado. Están diseñados para encontrar imágenes que parecen malas, incluso si han sido redimensionadas, comprimidas, etc. La empresa niega esta afirmación: “El riesgo de que el sistema marque incorrectamente una cuenta es extremadamente bajo. Además, Apple revisa manualmente todos los informes realizados al NCMEC para garantizar la precisión de los mismos”.
Los riesgos de privacidad
Lo que podría ser una herramienta clave para perseguir a criminales, pedófilos y terroristas, supone al mismo tiempo una amenaza para la privacidad de ciudadanos inocentes y un arma muy útil para regímenes totalitarios, denuncia el experto en ciberseguridad.
El problema con esta nueva herramienta sería más bien dónde van a buscar esas similitudes. Las fotos almacenadas en los dispositivos y almacenadas en iCloud se almacenan cifradas en los servidores de Apple, pero como explican los expertos, las claves para descifrar estos códigos son propiedad de Apple.
Los únicos que tienen cifrado de extremo a extremo (E2E) son los de iMessages que, al igual que WhatsApp, están protegidos de un dispositivo a otro para que nadie más que los usuarios puedan verlos. Aquí es donde, en teoría, entraría el nuevo sistema de Apple.
Este análisis de contenido no es tan nuevo. Facebook escanea publicaciones en busca de desnudos en sus redes sociales (Facebook e Instagram). Apple también ha utilizado sistemas de hash para buscar imágenes de abuso infantil enviadas por correo electrónico, sistemas similares a Gmail y otros proveedores de correo electrónico en la nube, que no están protegidos por cifrado de extremo a extremo.
Green cree que esta tecnología envía un mensaje preocupante. “Independientemente de los planes a largo plazo de Apple, han enviado una señal muy clara. (…) es seguro construir sistemas que escaneen los teléfonos de los usuarios en busca de contenido prohibido”, explica en su perfil de Twitter.
Sin embargo, no todos los expertos en ciberseguridad han sido tan críticos. Nicholas Weaver, investigador principal del Instituto Internacional de Ciencias de la Computación de UC Berkeley, aseguró tarjeta madre que la nueva función Mensajes de Apple “parece una MUY buena idea”. “En general, el enfoque de Apple parece bien pensado para ser eficaz y maximizar la privacidad”, añade.
