En esta edición del resumen de AdGuard: ChatGPT analiza una primera demanda por difamación y más problemas regulatorios, el mercado de la web oscura que vende credenciales robadas implosiona, las plataformas de recuperación de alcohol filtran datos a los anunciantes, ya que Google les da a los usuarios más control sobre los datos en la aplicación.
Italia establece condiciones para el regreso de ChatGPT, y se trata de privacidad
Italia le ha dado a OpenAI, una startup con sede en EE. UU. detrás de ChatGPT, un lista de demandas que debe cumplir si quiere que su chatbot masivamente popular sea desbaneado en el país. ChatGPT ha estado inaccesible en Italia desde el 31 de marzo, después de la el regulador local lo acusó de violar la ley de protección de datos GDPR de la UE.
Ahora, el regulador italiano ha elaborado una lista de cosas que OpenAI debe hacer para que ChatGPT cumpla. Las demandas incluyen que OpenAI aclare una base legal para procesar los datos de los usuarios para entrenar sus algoritmos de IA; dar a los usuarios y no usuarios una forma de corregir cualquier información falsa que el chatbot haya difundido sobre ellos o, si eso es “técnicamente inviable”, hacer que se eliminen esos datos. Además, tanto los usuarios como los no usuarios deben tener derecho a optar por que sus datos no sean procesados. Finalmente, el regulador italiano exigió que OpenAI implementara un sistema de verificación de edad que evitaría que los usuarios menores de 13 años accedan al chatbot. No es solo Italia la que está criticando a OpenAI: un organismo europeo de control de la privacidad lo ha hecho establecer un grupo de trabajo especial de ChatGPT para ayudar a los estados miembros de la UE a alinear sus posiciones sobre el tema.
Será interesante ver cómo/si OpenAI supera el obstáculo de GDPR, ya que las herramientas impulsadas por IA, incluido ChatGPT, no son inherentemente amigables con la privacidad por diseño. Los modelos de IA en los que se construyen ChatGPT y otras herramientas de IA, como DALLE-E, se entrenaron con grandes cantidades de datos recopilados de toda la web sin el consentimiento del usuario. Si bien es posible excluir sus datos del conjunto de capacitación de ChatGPT y eliminar su cuenta, tener IA para “desaprender” algo es un proceso difícil. Además, no hay una forma segura de saber que sus datos se han eliminado definitivamente. De cualquier manera, si Italia y OpenAI pueden resolver sus problemas, podría servir como ejemplo para otros países donde se aplica GDPR.
¡Oye, robot de IA, nos vemos en la corte! El alcalde denunciante afirma que ChatGPT lo difamó
Por ahora, sin embargo, ChatGPT está contra las cuerdas y enfrenta más desafíos legales cada día. No es ningún secreto que los grandes modelos lingüísticos pueden “alucinar”, es decir, difundir información errónea o incluso “inventar” hechos. Aparentemente eso es lo que sucedió en el caso de un alcalde australiano que puede presentar la primera demanda por difamación contra OpenAI. El funcionario dice que ChatGPT afirmó falsamente que había cumplido condena por soborno, dañando así su reputación. De hecho, el alcalde fue quien denunció el esquema de soborno y nunca fue acusado de ningún delito. El equipo legal del alcalde le dio a OpenAI 28 días para corregir el error o enfrentar acciones legales. El alcalde podría buscar potencialmente más de $200,000 en daños si cumple con su amenaza de demandar a OpenAI.
OpenAI generalmente tiene se absolvió de responsabilidad por la salida del chatbot al advertir que eso “a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido”. Es difícil decir si el alcalde cumplirá con su amenaza de demandar a OpenAI, pero si lo hace, sin duda estaríamos agarrando nuestras palomitas de maíz y mirando, porque podría sentar un precedente para el futuro.
Cualquiera que sea el resultado, una cosa es segura: a medida que la IA generativa se vuelve más hábil en la elaboración de respuestas creíbles y más personas la usan en el lugar de trabajo, la cuestión de quién debe rendir cuentas por sus errores y cómo detener la propagación de falsedades es una pregunta legítima. uno.
Las nuevas empresas de recuperación de alcohol derraman datos de usuarios a los anunciantes
No hay nadie en quien confíes más que tu médico, y no hay un momento más vulnerable que cuando estás luchando contra una adicción. Pero 100.000 pacientes cuyos datos personales han sido filtrados por las nuevas empresas de recuperación de alcohol en línea, Monument y Tempest, ahora pueden pensar dos veces al confiar sus datos a las plataformas de atención médica en línea.
En una divulgación reportada por primera vez por TechCrunchMonument, que adquirió Tempest en 2022, reveló que puede haber expuesto una gran cantidad de datos personales y de salud de los pacientes a los anunciantes, incluidos Facebook, Google, Microsoft y Pinterest. Los datos se canalizaron a los gigantes publicitarios a través de píxeles de seguimiento que estaban incrustados en el sitio de Monument desde 2020 y en el sitio de Tempest desde 2017. La compañía dijo que eliminó por completo los rastreadores de terceros solo en febrero de este año. Los píxeles de seguimiento son fragmentos de código que los propietarios de sitios web pueden colocar en sus sitios web para realizar un seguimiento de las acciones de los usuarios; también ayudan a los anunciantes a medir el rendimiento de sus anuncios y orientarlos. la información que podrían haber sido compartidos incluyen: nombres de pacientes, fechas de nacimiento, direcciones de correo electrónico, números de teléfono, domicilios particulares, identificación del número de seguro, así como información confidencial como fotos, información relacionada con citas, servicios seleccionados y respuestas a encuestas.
No hace falta decir que los pacientes no dieron su consentimiento para que sus datos privados y regímenes de tratamiento se compartiesen con la tecnología publicitaria. Desafortunadamente, este incidente está lejos de ser aislado y sigue el caso de dos plataformas de salud mental que admitieron haber hecho lo mismo el mes pasado. Estas prácticas de datos son malas, lamentables y demasiado comunes. Si absolutamente debe confiar sus datos a proveedores de atención médica en línea, asegúrese de elegir los de confianza. Sin embargo, incluso eso puede no ser una garantía.
Los ‘monstruos de las galletas’ desmantelan un sitio web oscuro que vendía credenciales robadas
El mercado de Génesis, que solía ser un lugar de referencia para credenciales robadas y huellas digitales (para obtener más información sobre lo que es una huella digital, lea nuestro artículo) ha cerrado gracias a un esfuerzo conjunto del FBI y sus pares de las agencias de aplicación de la ley de todo el mundo.
El notorio mercado web oscuro solo por invitación ha sido eliminado en una “Operación Monstruo de las Galletas”. La operación llevó a el arresto de 120 personas, incluidos presuntos usuarios del sitio, y resultó en 200 búsquedas en todo el mundo. Los funcionarios insistieron en apuntar a los usuarios, no solo a los administradores del sitio: “Génesis prometió falsamente una nueva era de anonimato e impunidad, pero al final solo proporcionó una nueva forma de identificar, localizar y arrestar a los delincuentes en línea”. Desde su génesis (juego de palabras) en 2018 y antes de su ignominioso final, el mercado ofreció acceso a aproximadamente 80 millones de credenciales de acceso a cuentas robadas, como nombres de usuario y contraseñas. Las huellas dactilares de los dispositivos que también se ofrecen en el sitio permitieron a los delincuentes eludir las protecciones antifraude.
La incautación de Génesis es una buena noticia, pero es poco probable que hayamos visto su última iteración. Y su desaparición de ninguna manera es el final del robo de identidad en línea. El problema es que muchas personas entregan voluntariamente su información confidencial, ya sea compartiéndola en las redes sociales o entregándola a terceros sin escrúpulos. Compartir en exceso es contagioso y nos conviene ir en contra de esta tendencia.
Google facilita la eliminación de la cuenta y los datos de tu aplicación
Google quiere que los desarrolladores de aplicaciones en su Play Store faciliten a los usuarios la eliminación de sus cuentas y datos asociados. Los usuarios deberían poder hacer esto tanto dentro de la aplicación como en la web. Google dice que al implementar esta política, es dar a los usuarios más control sobre sus datos en la aplicación.
Con la regla vigente, los usuarios no tendrán que volver a descargar la aplicación solo para solicitar que se elimine su cuenta. Podrán hacerlo a través de un enlace web. Cuando el usuario solicite la eliminación de su cuenta, los desarrolladores también tendrán que eliminar todos los datos relacionados con esa cuenta, a menos que tengan “motivos legítimos” para mantenerla. También tendrán que explicar cuáles son esos “motivos legítimos”, como la prevención del fraude. Los desarrolladores tienen hasta el 7 de diciembre de este año para proporcionar más información sobre sus prácticas de eliminación de datos y los usuarios pueden ver los cambios el próximo año. La regla que está introduciendo Google es similar a la que implementó la App Store en 2021. Apple exigió que las aplicaciones que permitían la creación de cuentas también permitió a los usuarios eliminar sus cuentas, pero solo desde dentro de la aplicación
Siempre es positivo que las grandes empresas tecnológicas como Google devuelvan a los usuarios algo de poder sobre sus datos personales, y lo único que lamentamos es que no haya sucedido antes. Sin embargo, también vale la pena señalar que, a menos que haya una manera de verificar que los datos realmente se hayan eliminado, los proveedores de aplicaciones sin escrúpulos aún podrían conservarlos.
