En el panorama en constante evolución de la tecnología, el surgimiento de los modelos de lenguaje grande (LLM) ha traído consigo innovación y desafíos. Si bien estos modelos, como ChatGPT de OpenAI, han mostrado su potencial en varias aplicaciones, también ha surgido el lado más oscuro de sus capacidades.
Este artículo profundiza en el aumento inquietante de LLM maliciosos, centrándose específicamente en WormGPT y FraudGPT, dos chatbots que han generado preocupaciones en el ámbito de la ciberseguridad.
La génesis de los LLM maliciosos
Solo unos meses después de que ChatGPT de OpenAI hiciera olas en todas las industrias, los ciberdelincuentes aprovecharon la oportunidad de aprovechar el poder de los LLM para sus actividades nefastas. En una revelación sorprendente, los piratas informáticos y los delincuentes afirman haber desarrollado sus propias versiones de tecnologías de generación de texto que imitan las funcionalidades de modelos legítimos como ChatGPT y Bard de Google.
Estos sistemas maliciosos, incluidos GusanoGPT y FraudeGPTse comercializan con la intención de ayudar a las actividades delictivas, que van desde la creación de malware hasta la elaboración de correos electrónicos de phishing convincentes para engañar a las personas para que divulguen información confidencial.
Las crónicas de la web oscura
Los foros y mercados de la web oscura se han convertido en caldos de cultivo para estos LLM maliciosos. Los delincuentes han estado promocionando activamente WormGPT y FraudGPT, promocionando su potencial para facilitar actividades ilegales. Sin embargo, la autenticidad de estas afirmaciones sigue siendo objeto de escepticismo, dada la naturaleza sin escrúpulos de los ciberdelincuentes.
Existe la posibilidad de que estos desarrollos sean simplemente intentos de explotar la emoción en torno a la IA generativa para beneficio personal a través de estafas. Sin embargo, la aparición de estos chatbots coincide con una tendencia creciente de estafadores que aprovechan la fascinación que rodea a la IA generativa.
¿Qué es WormGPT?
WormGTP se describe como “similar a ChatGPT pero no tiene fronteras ni limitaciones éticas”. ChatGPT tiene un conjunto de reglas para tratar de evitar que los usuarios abusen del chatbot de manera poco ética. Esto incluye negarse a completar tareas relacionadas con la delincuencia y el malware. Sin embargo, los usuarios encuentran constantemente formas de eludir estas limitaciones.
El proyecto WormGPT pretende ser una “alternativa” blackhat a ChatGPT, “una que te permita hacer todo tipo de cosas ilegales y venderlas fácilmente en línea en el futuro”. Supuestamente, WormGPT fue creado por GPTJ LLM, capacitado con fuentes de datos que incluyen información relacionada con malware, pero los conjuntos de datos específicos siguen siendo conocidos solo por el autor de WormGPT.
¿Qué es FraudGPT?
FraudGPT es un producto vendido en la web oscura y Telegram que funciona de manera similar a ChatGPT pero crea contenido para facilitar los ataques cibernéticos. FraudGPT también tiene un modelo de precios basado en suscripción. Las personas pueden pagar $200 para usarlo mensualmente o $1,700 por un año.
Esta herramienta está diseñada para desarrollar herramientas de craqueo y realizar correos electrónicos de phishing y otro contenido relacionado con la cibernética sin reglas ni protección.
Las implicaciones
La introducción de LLM maliciosos plantea serias amenazas a la ciberseguridad. Estos chatbots, si son genuinos, podrían amplificar sustancialmente las capacidades de los ciberdelincuentes para llevar a cabo ataques sofisticados.
Al aprovechar los resultados aparentemente legítimos de estos modelos, los atacantes pueden crear correos electrónicos de phishing más convincentes, diseminar malware más efectivo y manipular a los usuarios para que comprometan su seguridad digital.
Medidas defensivas y perspectivas de futuro
La protección contra el uso indebido de los LLM requiere un enfoque multifacético que involucre métodos de detección proactivos, monitoreo en tiempo real de las actividades de la web oscura y colaboración continua entre los desarrolladores de IA y los expertos en seguridad. Además, crear conciencia sobre los peligros potenciales de los LLM maliciosos puede permitir a los usuarios mantenerse alerta frente a las amenazas en evolución en el panorama digital.
Conclusión
El aumento de LLM maliciosos ejemplificado por WormGPT y FraudGPT presenta un claro recordatorio de la naturaleza dual de la tecnología. Si bien los LLM tienen el potencial de revolucionar las industrias, también pueden convertirse en potentes herramientas en manos de los ciberdelincuentes.
La comunidad de ciberseguridad debe permanecer alerta, innovando continuamente para superar las tácticas de aquellos que buscan explotar estas tecnologías. Solo a través de esfuerzos de colaboración y estrategias proactivas podemos mitigar los riesgos que plantean estos desarrollos inquietantes y garantizar un futuro digital seguro.
