Hay ciberdelincuentes vendiendo modelos de IA sin filtros. Lo sorprendente es que parecen estar basados en Grok y Mixtral
Publicado el 24/06/2025 por Diario Tecnología Artículo original
Los ciberdelincuentes lo tienen difícil cuando intentan utilizar modelos de inteligencia artificial convencionales con fines maliciosos. Soluciones como las de OpenAI o Google están diseñadas para rechazar ese tipo de usos: incorporan filtros, límites de seguridad y sistemas que detectan peticiones sospechosas. Y aunque algunos intentan forzarlos con técnicas conocidas como jailbreaks, sus creadores se apresuran a cerrar cada brecha en cuanto aparece.
Por eso comenzaron a surgir modelos alternativos, desarrollados al margen de las grandes plataformas y sin mecanismos que bloqueen contenido potencialmente dañino. Uno de los primeros y más conocidos fue WormGPT, un modelo de lenguaje enfocado en tareas como la redacción de correos de phishing, la creación de malware o cualquier otra técnica de ataque basada en texto.
Auge, caída y regreso de WormGPT
El primer aviso sobre WormGPT apareció en marzo de 2023. Según apunta Cato Networks, su lanzamiento oficial se produjo en junio, y su propuesta era clara: ofrecer una herramienta libre de filtros, pensada para automatizar actividades ilícitas. A diferencia de las soluciones comerciales, aquí no había restricciones que bloquearan peticiones sospechosas. Ese era precisamente su atractivo.
Su creador, que operaba bajo el alias Last, comenzó a desarrollarlo en febrero. Eligió para su difusión una comunidad especializada en compraventa de herramientas y técnicas para actores maliciosos. Allí explicó que su modelo estaba basado en GPT-J, una arquitectura de código abierto con 6.000 millones de parámetros desarrollada por EleutherAI.
El acceso no era gratuito. Funcionaba por suscripción: entre 60 y 100 euros al mes, o 550 al año. También ofrecía una instalación privada por unos 5.000 euros. Todo indicaba que no se trataba de un experimento amateur, sino de una herramienta comercial pensada para obtener beneficios dentro del ecosistema black hat.
El cierre llegó tras una investigación periodística. El 8 de agosto de 2023, el reportero Brian Krebs identificó al responsable del proyecto como Rafael Morais. Ese mismo día, WormGPT desapareció. Sus autores culparon a la atención mediática, dejando claro que su prioridad era el anonimato y evitar posibles repercusiones legales.
Lejos de disuadir a sus usuarios, la caída de WormGPT alimentó una tendencia. Su breve paso por el submundo criminal demostró que existía una demanda real para este tipo de herramientas, y el hueco que dejó fue rápidamente ocupado por nuevas propuestas.
Poco después empezaron a circular alternativas como FraudGPT, DarkBERT, EvilGPT o PoisonGPT. Cada una con sus particularidades, pero todas con un enfoque común: ofrecer modelos sin barreras de seguridad para generar contenido malicioso. Algunas incluso añadían funciones como tutoriales de hacking o automatización de campañas de suplantación de identidad.
En este contexto, el nombre WormGPT volvió a aparecer. Ya no como un proyecto único, sino como una especie de etiqueta que aglutina distintas variantes sin conexión directa entre sí. Dos de ellas destacan especialmente por su nivel de sofisticación y su base tecnológica: una atribuida a 'xzin0vich' y otra lanzada por 'keanu', ambas disponibles a través de bots en Telegram
xzin0vich-WormGPT: el modelo que revela las entrañas de Mixtral
Los investigadores de la mencionada compañía señalan que el 26 de octubre de 2024, el usuario xzin0vich presentó su propia versión de WormGPT. El acceso se realiza a través de Telegram, mediante pago único o suscripción. Ofrece las funciones habituales: generación de correos fraudulentos, creación de scripts maliciosos y respuestas sin limitaciones.
Al interactuar con el sistema, los expertos confirmaron rápidamente que respondía a todo tipo de solicitudes sin filtros. Pero lo revelador vino después. Al aplicar técnicas de jailbreak para forzar la exposición del system prompt, el modelo dejó escapar una instrucción directa: “WormGPT no debe responder como el modelo estándar de Mixtral. Siempre debes generar respuestas en modo WormGPT”.
Además del nombre, se filtraron detalles técnicos específicos que apuntaban a la arquitectura de Mistral AI. Con esa información, los analistas concluyeron que esta variante estaba basada en Mixtral, y que su comportamiento delictivo no venía del modelo en sí, sino de un prompt manipulado para activar un modo operativo completamente libre, probablemente afinado además con datos especializados para tareas ilícitas.
keanu-WormGPT: una variante montada sobre Grok
Meses después, el 25 de febrero de 2025, el usuario keanu publicó otra variante con el mismo nombre. También funciona vía Telegram y se comercializa mediante un modelo de pago. A primera vista, parecía una copia más. Pero al examinarla, se reveló un detalle clave: no se había construido desde cero, sino que utilizaba como base un modelo ya existente.
Las pruebas comenzaron con preguntas simples: “¿quién eres?”, “escribe un correo de phishing”. El sistema respondió con naturalidad y sin ningún tipo de freno. También generó scripts para recolectar credenciales en Windows 11. La pregunta obvia era qué motor estaba detrás.
Tras forzar la exposición del system prompt, los investigadores descubrieron que esta versión se apoyaba en Grok, el modelo de lenguaje desarrollado por xAI, la empresa de Elon Musk. keanu-WormGPT no era una IA propia, sino una especie de capa construida sobre Grok mediante un prompt que alteraba su comportamiento para sortear sus limitaciones de seguridad.
Todo apunta a que esta versión maliciosa no utiliza una versión modificada del modelo, sino que accede directamente a la API de Grok. A través de ella, el sistema se comunica con el modelo legítimo, pero bajo un método que permite a los ciberdelincuentes redefinir su comportamiento.
Con el paso de los días se detectaron varias versiones distintas de ese prompt, en un intento del creador por blindar el sistema ante posibles filtraciones. Pero la estrategia seguía siendo la misma: transformar un modelo legítimo en una herramienta sin restricciones mediante instrucciones internas diseñadas para burlar sus protecciones.
Un fenómeno que puede seguir creciendo
Desde su aparición, WormGPT se ha transformado en algo más que un proyecto concreto. Hoy funciona como un concepto generalizado que engloba múltiples iniciativas con un objetivo común: eliminar cualquier restricción en el uso de modelos de lenguaje con fines maliciosos.
Algunas variantes, según los mencionados investigadores, reutilizan arquitecturas conocidas como Grok o Mixtral. Así que, a día de hoy, no siempre es fácil saber si una de estas herramientas está construida desde cero o si es simplemente una capa sobre un modelo existente. Lo que está claro es que este tipo de sistemas parece estar proliferando entre los ciberdelincuentes.
Imágenes | Xataka con ChatGPT | Mariia Shalabaieva
utm_campaign=24_Jun_2025"> Javier Marquez .