En agosto, Apple anunció planes para agregar nuevas funciones a su sistema operativo iOS para combatir la explotación sexual infantil y la distribución de imágenes violentas y perturbadoras. En septiembre dijeron que pospondrían sus planes, pero aparentemente ese no es el final de la historia.
El escaneo del lado del cliente (CSS) permitirá escanear fotos en el iPhone y compararlas con una base de datos conocida de material de abuso sexual infantil (CSAM), notificando a Apple si se encuentra una coincidencia.
Si bien esto suena como una buena idea en la lucha contra el abuso sexual infantil, hay muchas razones por las que no lo es. Se considera que la política de Apple amenaza la privacidad del usuario, contrariamente a lo que se ha anunciado.
Primero, puede afectar a todos los que tienen un iPhone: el gobierno y la industria tecnológica quieren que esta tecnología sea obligatoria en todos los dispositivos.
Un artículo académico publicado la semana pasada por un destacado experto en seguridad informática decía lo siguiente: “La política de CSS de Apple, por naturaleza, crea graves riesgos de seguridad y privacidad para toda la sociedad, mientras que el impacto que puede tener en la aplicación de la ley podría ser una fuente de nuevos problemas. ”
El informe continúa diciendo que debido a que CSS brinda a las agencias gubernamentales acceso a contenido privado en los teléfonos de los usuarios, es como escuchar a escondidas. Y no debemos subestimar el “significativo efecto horrible”, es decir, la vigilancia masiva y el escaneo de nuestros dispositivos personales que esencialmente viola la libertad de expresión e incluso la democracia.
El plan de Apple también genera más preguntas sobre su implementación y si habrá una solución, como se señaló en un artículo publicado en el blog de Lawfare el año pasado:
¿Hay alguna opción para deshabilitar el escaneo CSS? Si es así, es probable que los infractores instalen o no instalen la función de escaneo en primer lugar.
Luego está la preocupación sobre cuán eficiente y preciso es el algoritmo de coincidencia: “Cada sistema de escaneo del lado del cliente se basa en la precisión del algoritmo de coincidencia. Un aspecto de la pregunta es el problema de los falsos positivos y cuántas instancias de CSAM se pierden en el algoritmo de comparación. Por ejemplo, porque hay cambios menores en el contenido. Luego también está la cuestión de si existe el riesgo de que el contenido inofensivo se identifique erróneamente como malicioso”.
También está la cuestión de con qué frecuencia y quién administrará la base de datos. ¿De dónde se obtendrá la lista de contenido prohibido y quién “determinará los términos bajo los cuales el contenido se incluirá en la lista de infracciones”?
En muchos países, la vigilancia estatal de las comunicaciones domésticas está prohibida. En Estados Unidos, por ejemplo, CSS puede violar la Cuarta Enmienda, mientras que en Europa puede violar la Carta de los Derechos Fundamentales.
Pero la principal preocupación es cómo se puede desarrollar esta tecnología. Una vez que se considere una práctica estándar que las agencias gubernamentales puedan acceder en cualquier momento al contenido almacenado en nuestros dispositivos personales, ¿qué más se puede escanear en el futuro?
Al final, si el plan para escanear contenido en los dispositivos de los usuarios se lleva a cabo, en el futuro surgirán una serie de nuevas preocupaciones, como:
Los regímenes políticos pueden escanear los mensajes de texto de cualquiera en busca de opiniones políticas, memes, nombres y más. Se utilizará como un medio de represión y manipulación política que tiene el potencial de ser utilizado en varios países para reprimir temas delicados, atacar a activistas políticos y marcar a cualquiera que esté en contra de un régimen. El abuso por parte de personas no autorizadas también es una gran preocupación, como policías corruptos que trabajan para el crimen organizado o países extranjeros. Luego está el riesgo de privacidad: ¿Cuánto puede aprender un adversario sobre su objetivo al piratear el sistema CSS? ¿Se puede abusar del sistema para acusar a otros a voluntad?
