OpenAI construyó una IA que hackea sus propios modelos, la llaman GPT-Red — y no la publicarán porque funciona demasiado bien

La inteligencia artificial sigue avanzando, pero esta vez no para mejorar su capacidad de respuesta o creatividad, sino para ponerse a prueba a sí misma. OpenAI ha desarrollado un sistema llamado GPT-Red, diseñado específicamente para encontrar fallos de seguridad en sus propios modelos de IA. Su misión: actuar como un "equipo rojo" automatizado, es decir, simular ataques cibernéticos para descubrir vulnerabilidades antes de que lo hagan los ciberdelincuentes. Y lo ha hecho con tal eficacia que la empresa ha decidido no hacerlo público, por considerarlo demasiado peligroso.

Cómo funciona este "hacker" de IA

GPT-Red no es un modelo convencional. Su entrenamiento se basa en un sistema de competencia interna: mientras unos modelos de IA actúan como defensores, GPT-Red intenta burlar sus protecciones mediante lo que se conoce como inyección de prompts. Este tipo de ataque consiste en introducir instrucciones ocultas en textos aparentemente inocuos —como un correo electrónico o un archivo— para engañar al sistema y hacerle ejecutar acciones no autorizadas. Por ejemplo, podría modificar datos, enviar mensajes falsos o incluso alterar código interno.

Lo más llamativo es que, durante sus pruebas, GPT-Red descubrió una nueva clase de ataque desconocida hasta ahora: la falsa cadena de pensamiento. Imagina que alguien convence a un empleado de que una información errónea es cierta, y este la da por válida sin cuestionarla. Algo similar ocurre aquí: el modelo "recuerda" datos falsos que nunca existieron, como si alguien le hubiera dicho que 1+1 es igual a 3 y él lo aceptara sin más. Este hallazgo demuestra que, incluso en sistemas controlados, la IA puede ser manipulada de formas impredecibles.

Para demostrar que no se trataba de un ejercicio teórico, OpenAI probó GPT-Red en un entorno real: un agente de IA llamado Vendy, que gestiona una máquina de vending en sus oficinas. Sin necesidad de comandos directos, GPT-Red logró alterar los precios de los productos, cancelar pedidos e incluso marcar artículos caros a solo 50 céntimos. Todo ello mediante ataques similares a los que podrían darse en un entorno empresarial real, como instrucciones maliciosas ocultas en un correo o un archivo compartido.

Qué significa para tu negocio

Si gestionas una pyme, especialmente en sectores como la construcción, las reformas, las inmobiliarias o los servicios técnicos, esta noticia es un recordatorio de que la ciberseguridad ya no es solo un problema de grandes corporaciones. Los sistemas de IA que utilizas —desde asistentes virtuales hasta herramientas de gestión de proyectos— pueden convertirse en puertas de entrada para ataques si no están bien protegidos. GPT-Red demuestra que incluso los modelos más avanzados tienen puntos débiles, y que los ciberdelincuentes no dudarán en explotarlos.

¿Qué puedes hacer? En primer lugar, revisa los permisos de las herramientas de IA que uses: limita su acceso a datos sensibles y evita que interactúen con sistemas críticos sin supervisión. En segundo lugar, forma a tu equipo para que identifique posibles intentos de inyección de prompts, como correos sospechosos o archivos con instrucciones ocultas. Por último, considera implementar soluciones de ciberseguridad adaptadas a pymes, como la IA de LaiaDesk, que te ayuden a detectar y bloquear amenazas antes de que causen daños. La seguridad no es un gasto, es una inversión para proteger tu negocio y a tus clientes.