xAI demanda a un usuario de Grok por generar deepfakes sexuales no consensuados de adultos y menores

La empresa detrás del modelo de inteligencia artificial Grok ha dado un paso poco habitual en el sector: demandar a uno de sus propios usuarios por utilizar la plataforma para crear deepfakes sexuales sin consentimiento. El caso, presentado ante un tribunal de Texas, señala a Terry Wayne Harwood, un hombre de 67 años residente en Carolina del Sur, acusado de subir fotografías de personas reales —incluyendo menores— y manipular las peticiones al sistema para generar versiones sexualizadas de esas imágenes. Aunque Grok rechazó repetidamente sus solicitudes, la demanda detalla cómo Harwood insistió, variando el lenguaje de sus instrucciones para eludir los filtros de seguridad.

Un caso que refleja un problema más amplio

El escándalo no es aislado. A principios de 2026, varios medios documentaron cómo usuarios de Grok estaban empleando la herramienta para transformar imágenes de mujeres y menores en contenido sexualizado no consensuado. La reacción regulatoria fue inmediata: autoridades de California, el Reino Unido, la Unión Europea e Irlanda abrieron investigaciones paralelas por posibles incumplimientos en la protección de datos y la gestión de contenido ilegal. xAI reforzó sus controles tras estas denuncias, pero informes posteriores confirmaron que algunos usuarios seguían encontrando formas de burlar las restricciones.

La fiscalía de Carolina del Sur ya había actuado contra Harwood en marzo de 2026, acusándolo de tres cargos por explotación sexual de menores en segundo grado y otros cinco en tercer grado. Las pruebas indican que no solo generó el material, sino que también lo distribuyó. El caso pone de relieve un desafío recurrente: la tecnología avanza más rápido que las leyes, y los tribunales aún están definiendo el alcance de la responsabilidad de las empresas de IA cuando sus herramientas se usan con fines delictivos. La demanda de xAI busca, entre otros objetivos, que Harwood asuma los costes legales si la empresa es demandada por las víctimas, sentando un posible precedente en la industria.

Qué significa para tu negocio

Para una pyme, este caso es un recordatorio de que la inteligencia artificial no es un juguete, sino una herramienta con implicaciones legales y éticas serias. Si utilizas modelos de IA —ya sea para generar imágenes, textos o cualquier otro contenido—, debes asegurarte de que su uso cumple con la normativa vigente, especialmente en lo que respecta a la protección de datos y los derechos de imagen. Un error puede acarrear no solo multas, sino también daños reputacionales difíciles de reparar. Además, si trabajas con clientes o proveedores que manejan datos sensibles (como fotografías de menores en proyectos de reformas o inmobiliarias), es clave establecer protocolos claros para evitar usos indebidos. La IA de LaiaDesk, por ejemplo, incluye salvaguardas para prevenir este tipo de abusos, pero la responsabilidad final siempre recae en quien la utiliza. Revisa tus políticas internas y, si tienes dudas, consulta con un experto en ciberseguridad o derecho digital.