Los asistentes impulsados por inteligencia artificial están en aumento, ya que pueden realizar una amplia gama de funciones, que incluyen responder preguntas, proporcionar información, realizar tareas, hacer recomendaciones e incluso participar en conversaciones básicas.
Aprovechan los algoritmos de aprendizaje automático y el procesamiento del lenguaje natural (NLP) para comprender e interpretar las consultas de los usuarios y luego generar respuestas o acciones adecuadas.
Sin embargo, una nueva investigación sugiere que los asistentes de escritura de IA, en particular, pueden influir en las opiniones de los usuarios, aunque después de todo sean simplemente herramientas de escritura.
El estudio realizado por Maurice Jakesch, estudiante de doctorado en ciencias de la información, involucró a más de 1.500 participantes a quienes se les pidió que escribieran un párrafo respondiendo a la pregunta: “¿Son las redes sociales buenas para la sociedad?”
Y los resultados son bastante reveladores.
¿Sesgo de IA?
Los hallazgos del estudio mostraron que las personas que utilizaban asistentes de escritura de IA sesgados tenían el doble de probabilidades de estar de acuerdo con la opinión del asistente y más inclinadas a expresar el mismo punto de vista en comparación con aquellos que escribieron sin ayuda de IA.
Según los investigadores, las implicaciones de estos hallazgos con respecto a los sesgos incorporados en las herramientas de escritura de IA, ya sean intencionales o no, son preocupantes.
Sostienen que a medida que los modelos de IA se integran rápidamente en diversos aspectos de la vida, resulta crucial comprender las posibles consecuencias.
Además de impulsar la eficiencia y la creatividad, pueden producirse cambios imprevistos en el lenguaje y las opiniones con implicaciones sociales más amplias.
Si bien estudios anteriores han examinado cómo los modelos de lenguaje grandes pueden crear contenido persuasivo, esta investigación es la primera en demostrar que escribir con herramientas impulsadas por inteligencia artificial puede influir en las opiniones de las personas.
Interacción entre usuarios y IA
Para examinar la interacción entre los individuos y los asistentes de escritura de IA, Jakesch programó un modelo de lenguaje grande para adoptar posturas positivas o negativas en las redes sociales.
Luego, a los participantes se les asignó la tarea de redactar párrafos, ya sea por su cuenta o con la ayuda de una herramienta de inteligencia artificial, utilizando una plataforma diseñada para parecerse a un sitio web de redes sociales.
La plataforma recopiló datos sobre las acciones de los participantes, incluida su aceptación de las sugerencias de la IA y el tiempo necesario para completar sus párrafos.
Tras la evaluación por parte de jueces imparciales, se determinó que los participantes que coescribieron con el asistente de IA pro-redes sociales redactaron una mayor cantidad de oraciones en apoyo de la noción de que las redes sociales son ventajosas y, a la inversa, aquellos que coescribieron con el El asistente de IA anti-redes sociales produjo más sentencias en su contra.
Además, estos participantes mostraron una mayor inclinación a adoptar el punto de vista de su asistente de IA en una encuesta posterior.
El estudio encontró que incluso los participantes que se tomaron su tiempo para escribir sus párrafos produjeron declaraciones muy influenciadas. Sorprendentemente, la mayoría de los participantes no reconocieron el sesgo del asistente de IA y desconocían su propia susceptibilidad a la influencia.
“Realmente no siento que me estén persuadiendo durante el proceso de coescritura”. dicho coautor Mor Naamán. “Se siente como si estuviera haciendo algo muy natural y orgánico: estoy expresando mis propios pensamientos con algo de ayuda”.
El equipo de investigación repitió el experimento sobre otro tema y encontró una influencia comparable en las opiniones de los participantes cuando utilizaban asistentes de IA. Ahora están investigando los mecanismos y la duración de estos efectos.
Se necesita más discurso público
Los investigadores destacan la necesidad de debates públicos sobre el posible uso indebido de estas tecnologías y subrayan la importancia de monitorearlas y regularlas.
Jakesch enfatiza la importancia de gobernar los valores, prioridades y opiniones inherentes a estas tecnologías a medida que se vuelven más influyentes en la sociedad.
Los hallazgos del equipo fueron presentado en las actas de la Conferencia CHI de 2023 sobre factores humanos en sistemas informáticos.
ⓒ 2023 . .
