Resulta que la versión de privacidad diferencial de Google puede ser más privada que la implementación de Apple. Escribiendo para Cableado, Andy Greenberg habla sobre la privacidad diferencial. En concreto, sobre un estudio [PDF] que examina cómo Apple usa la privacidad diferencial en macOS e iOS. Los investigadores descubrieron que podría no ser tan privado como Apple quiere hacernos creer.
Privacidad diferencial
La privacidad diferencial es un campo relativamente nuevo en la ciencia de datos. Implica insertar ruido aleatorio en un conjunto de datos, como la información personal de un usuario de iPhone. Después de agregar el ruido, los datos se cargan en los servidores de Apple. De esta manera, Apple puede tener su pastel y comérselo también. Puede realizar aprendizaje automático y recopilar análisis mientras mantiene su privacidad. Debido al ruido, los datos no pueden coincidir con su ID de usuario. ¿O puede?
Pérdida de privacidad diferencial
Un grupo de investigadores dice que han aplicado ingeniería inversa a la privacidad diferencial de Apple. Examinaron el código para averiguar cómo el software inserta el ruido aleatorio. Su efectividad se mide por una variable llamada “parámetro de pérdida de privacidad” o “épsilon”. El épsilon determina qué tan privados se mantienen sus datos.
En resumen, cuanto mayor sea el valor épsilon, menos privados serán los datos. Los investigadores descubrieron que macOS carga más datos de lo que generalmente se considera “privado”. Y iOS 10 carga más datos que son más específicos y menos privados.
epsilones
Apple señala que su recopilación de datos es opcional, aunque anima a los usuarios a participar durante la configuración del dispositivo. Y la compañía también dice que agrega diferentes niveles de ruido según los datos. Por ejemplo, el uso de emoji no necesita ser tan secreto como el historial de navegación o los datos de salud.
El estudio encontró que la privacidad diferencial de macOS tiene un valor épsilon de 6, mientras que iOS 10 tenía un valor épsilon de 14. Una versión beta de iOS 11 (versión desconocida) incluso tenía un valor épsilon de 43, aunque eso podría cambiar una vez que la versión final en lanzamiento. Frank McSherry, co-inventor de la privacidad diferencial, explica lo que significa un valor de 14:
Supongamos que alguien le ha dicho a la aplicación de salud de su teléfono que tiene una condición médica única en un millón, y su teléfono carga esos datos al creador del teléfono diariamente, usando privacidad diferencial con un épsilon de 14. Después de una carga ofuscada con una inyección de datos aleatorios, los analistas de datos de la empresa podrían averiguar con un 50 por ciento de certeza si la persona tenía la afección. Después de dos días de subidas, los analistas sabrían acerca de esa condición médica con casi un 100 por ciento de certeza.
Versión de Google
Google utiliza su propia versión de privacidad diferencial llamada Respuesta ordinal agregable aleatoria para preservar la privacidad (RAPPOR). análisis de Google [PDF] afirma mantener un valor épsilon de 2 para datos particulares que se cargan. El límite superior es épsilon 8-9 durante la vida útil del usuario.
En teoría, esto es mejor que la privacidad diferencial de Apple. Además, Google hizo que RAPPOR fuera de código abierto. Por el contrario, Apple mantiene su código y valores épsilon en secreto. Si Google cambiara el código o aceptara valores épsilon, los investigadores lo sabrían. Mientras tanto, el equipo tuvo que aplicar ingeniería inversa al código de Apple durante seis meses.
Desbloqueo de iPhoneA veces no mereces un trofeo
Ahora aquí es donde no estoy de acuerdo. Frank McSherry argumenta que Apple no debe ser juzgada con demasiada severidad, diciendo “Es un poco como aceptar los Acuerdos Climáticos de París y luego darte cuenta de que eres un gran contaminador y estás muy por encima de tus límites. Sigue siendo un primer paso interesante y probablemente bueno”.
Nosotros deberían Dar crédito a quien crédito merece. Si una empresa como Apple hace algo bueno, deberíamos darle palmaditas en la espalda. Pero eso no debería significar un trato de guante de seda. Como escribí en junio, Apple está impulsando la privacidad como una característica. Tim Cook se apresura a criticar a Google y Facebook por sus esfuerzos de extracción de datos:
“Están engullendo todo lo que pueden aprender sobre ti y tratando de monetizarlo. Creemos que eso está mal. Y no es el tipo de empresa que Apple quiere ser”.
Creo que si Apple realmente quiere ser una empresa que promueve la privacidad, debería ser más transparente con su tecnología. En este caso, privacidad diferencial. Apple permitió que sus investigadores de aprendizaje automático comenzaran a publicar. Ahora es el momento de que el equipo de seguridad haga lo mismo.
Apple, si vas a vender la privacidad como una característica, no puedes ser ambivalente al respecto. No existe tal cosa como ser abierto sobre ciertas cosas y ser secreto sobre el resto. El código de seguridad de código abierto, como la privacidad diferencial y el cifrado, contribuiría en gran medida a estar a la altura de su postura. A medida que las empresas son pirateadas de izquierda a derecha, es hora de asegurarles a los usuarios y a los expertos en seguridad que realmente nos respaldan.
