Los expertos señalan los peligros de que una IA pretenda ser una persona real, como está sucediendo ahora con My AI de Snapchat, que se basó en ChatGPT de OpenAI.
‘Mi IA’ de Snapchat ahora está disponible para todos los usuarios. Anteriormente, solo los usuarios de Snapchat Plus podían iniciar una conversación con el chatbot de IA. Por ejemplo, el chatbot puede responder preguntas triviales, dar consejos sobre regalos de cumpleaños o hacer sugerencias para la cena, dice Snapchat en su sitio web. Pagina de soporte. Como un verdadero amigo, la IA es capaz de “aprender tus preferencias” y adaptarse en consecuencia. “Cuanto más interactúes con My AI, mejor te conocerá y más relevantes serán las respuestas”, leemos en el sitio web.
“La situación es peligrosa”
periódico holandés Diario general (AD) escribe que al principio el robot se comportaba como un amigo “real”. Según el periódico, el chatbot sugirió reunirse en persona e incluso dio una dirección en Ámsterdam durante la conversación. Peligroso, dicen los expertos que han supervisado la situación. Por ejemplo, el pedagogo Baslevering afirma que no debe haber confusión sobre si se trata de un bot o de una persona real.
113 Suicide Prevention, la organización holandesa para la prevención del suicidio, teme sobre todo situaciones potencialmente mortales en personas con tendencias suicidas. Es posible que le pidan consejo o ayuda a Mi IA y luego piensen que están hablando con una persona real. Sin embargo, el chatbot no puede asumir esa responsabilidad y tarea en absoluto, según los expertos.
Es necesario un código de conducta
Justine Pardoen, fundadora de Kenniscentrum Bureau Jeugd & Media, pide un código de conducta para los chatbots por estos motivos. “Está realmente tan mal que diga que es una persona. Esto no esta bien. Es necesario que exista un código de conducta para ello”, afirma Pardoen. Según Pardoen, es necesario que también se preste atención a los chatbots en la educación. Deben ser guiados en esto.
Por el momento, su código de conducta no parece estar disponible de inmediato. Snapchat puede hacer poco para cambiar eso por el momento. El servicio utiliza la API GPT de OpenAI y, por lo tanto, no desarrolló la IA en sí. Expertos de diferentes rincones de la industria tecnológica pidieron recientemente una parada temporal en el desarrollo de modelos de IA que sean más inteligentes que GPT-4. Se necesita ese tiempo para que los legisladores se mantengan al día con los avances y elaboren normas relativas a la IA.
En Europa, esto también se está trabajando en la Ley de IA de la UE. Por el momento aún se encuentra a la espera de su elaboración final. Mientras tanto, según Tweakers, Snapchat se ha asegurado de que la IA ya no pueda hacer propuestas para reunirse físicamente.
Si está pensando en suicidarse y necesita una conversación, puede comunicarse con la línea de suicidio al 1813 o vía www.zelfmoord1813.be.
