Un hombre en la provincia noroccidental de Gansu, China, ha sido detenido por supuestamente utilizar el chatbot viral ChatGPT para generar noticias falsas y publicarlas en línea, según un informe de SCMP.
Este es probablemente el primer caso de detención relacionado con el uso de inteligencia artificial en el país.
ChatGPT genera noticias falsas
El uso indebido de los chatbots de IA, incluida la forma en que podrían propagar información errónea en línea, ha sido una preocupación para muchos, y el regulador de Internet de China también ha expresado su preocupación sobre el uso de tecnología de síntesis, incluidas falsificaciones profundas para estafas en línea.
Ha implementado medidas como el “etiquetado claro” de videos e imágenes creados con IA y publicados en el dominio público.
Según el informe de SCMP, funcionarios de la oficina de policía del condado descubrieron la noticia falsa de un accidente de tren en el que murieron nueve personas. El artículo fue publicado por más de 20 cuentas en la plataforma de blogs Baijiahao, operada por Baidu.
Después de que la noticia obtuviera más de 15.000 clics, las autoridades lograron rastrearla hasta una empresa propiedad del sospechoso y dirigida por él.
La empresa era propietaria de plataformas de medios personales en el sur de China y, mientras buscaba la residencia del sospechoso, la policía descubrió una computadora y lo detuvo.
Se cree que el sospechoso ha cometido el delito de “provocar peleas y provocar problemas”, que conlleva una pena máxima de prisión de cinco años. Sin embargo, si el delito se considera grave, la pena podría ampliarse a 10 años y también podrían imponerse penas adicionales.
Vale la pena señalar que ChatGPT no está disponible directamente para los usuarios en China debido a la censura de Internet y al Gran Cortafuegos. Sin embargo, los usuarios en China aún pueden acceder a ChatGPT a través de una red privada virtual (VPN) que evita las restricciones impuestas por el gobierno chino al acceso a Internet.
La capacidad de ChatGPT para escribir artículos de noticias
El gran modelo de lenguaje de ChatGPT le permite generar varias respuestas a mensajes y ha demostrado constantemente que puede crear artículos de noticias. Por ejemplo, la editora de una revista alemana, Anne Hoffmann, fue despedida por publicar una entrevista generada por IA con el ex campeón de Fórmula Uno Michael Schumacher.
La portada del tabloide llevaba el titular: “Michael Schumacher: ¡La primera entrevista!”. acompañado de una foto del piloto retirado. Un titular más pequeño en la misma página dice: “Suena engañosamente real”.
Durante el Día de los Inocentes, TechCrunch informó sobre una historia sobre Krablr, un motor de fijación de precios de cangrejos en tiempo real, que desarrolla una herramienta de inteligencia artificial generativa que supuestamente se comunica con los cangrejos y los alienta a reproducirse más y aumentar los rendimientos.
Sin embargo, la historia fue generada por ChatGPT y pretendía ser una broma del Día de los Inocentes.
El caso de China pone de relieve los peligros potenciales de utilizar la inteligencia artificial con fines maliciosos, como la creación y difusión de noticias falsas. Esto destaca la necesidad de mejores regulaciones y estándares con respecto al uso de la tecnología de inteligencia artificial en el periodismo y otros campos.
ⓒ 2023 . .
