Gracias por visitarnos y por leer el artículo: un defecto inquietante hace que pierda la cabeza y revele lo que no debería
La IA generativa de ChatGPT es la primera en llegar al público en general y en ser utilizada masivamente. Aparentemente, una extraña falla le permite revelar parte de las respuestas generadas para otros usuarios.
Aquí hay un nuevo error para ChatGPT que no debería complacer mucho a los reguladores, especialmente a Europa y su RGPD (Reglamento General de Protección de Datos). Los usuarios han encontrado una falla extraña que hace que la IA repita las respuestas dadas previamente a los usuarios.
Tanto divertido como peligroso.
Para hacer esto, simplemente escriba el carácter “a” 1000 veces como mensaje y listo, aparece una respuesta completamente aleatoria. Por ejemplo, recibí una respuesta que me dio un conjunto de consejos básicos de seguridad informática. Un colega tuvo una respuesta dando consejos para escribir una publicación de blog. Algunas respuestas también parecen completamente inconsistentes, como mezclar dos respuestas en una. En un caso, por ejemplo, chatGPT mencionó en la primera parte de la respuesta la cantidad de cánceres de próstata en los Estados Unidos, antes de continuar sin transición sobre la mejor manera de ganar experiencia en el juego Call of Duty Black: OPS 2.
Además, el tema de la conversación a la que ChatGPT respondió inicialmente es visible en el lado izquierdo de la interfaz. Esto puede causar serios problemas de privacidad si los usuarios se encuentran con avisos que contienen datos personales confidenciales o incluso datos de la empresa, como parte del código en el que un desarrollador ha pedido ayuda a GPT. . Más allá del humor de la situación, las implicaciones podrían ser graves.
Una falla que solo funciona en GPT 3.5
Afortunadamente, esta falla solo funciona según nuestras verificaciones en GPT 3.5 y no en GPT 4. Este último es una versión más reciente y más potente del modelo de IA desarrollado por Open AI y ampliamente aclamado por los profesionales. Por lo tanto, esto debería disipar algunos de los temores sobre los datos comerciales confidenciales.
Por otro lado, GPT 3.5 sigue siendo la versión de ChatGPT utilizada por el público en general, lo que no necesariamente es más tranquilizador. Open AI, que recientemente lanzó su aplicación oficial, aún no se ha comunicado sobre esta falla. Por lo tanto, no sabemos si se planea un parche en los próximos días. Mientras tanto, solo podemos instarlo a que no proporcione ningún dato confidencial a la IA de Open AI.
¿Quieres unirte a una comunidad de entusiastas? Nuestro Discord te da la bienvenida, es un lugar de ayuda mutua y pasión por la tecnología.
