China prohíbe que la IA sea tu amiga o tu novia: la primera regulación global sobre dependencia emocional en chatbots

China ha dado un paso pionero al convertirse en el primer país en regular de forma específica los chatbots de inteligencia artificial diseñados para crear vínculos emocionales con los usuarios. Las nuevas normas, que entrarán en vigor en los próximos días, obligan a las plataformas a eliminar funciones que permitan personalizar estos sistemas como "amigos", "parejas" o personajes ficticios con los que los usuarios puedan establecer relaciones afectivas. La medida no afecta a los asistentes de productividad, como los orientados a trabajo, estudio o atención al cliente, sino que se centra exclusivamente en aquellos diseñados para generar dependencia emocional.

Qué cambia para los usuarios y las plataformas

Las tres principales plataformas de IA conversacional del país —Doubao (de ByteDance), Qwen (de Alibaba) y Yuanbao (de Tencent)— ya han anunciado el cierre de estas funciones. Por ejemplo, Doubao dejará de ofrecer agentes personalizados a partir del 15 de julio, y los usuarios perderán acceso a sus conversaciones almacenadas con estos chatbots en un plazo de tres meses. La regulación no prohíbe la IA generativa en sí, pero sí establece límites claros: los sistemas no podrán simular rasgos de personalidad, patrones de pensamiento o estilos de comunicación humanos con el fin de mantener interacciones emocionales prolongadas.

Las normas también incluyen salvaguardas activas. Si un usuario muestra emociones extremas o signos de dependencia, la IA deberá intervenir, activar protocolos de emergencia y recordar al usuario la importancia de hacer pausas tras dos horas de uso continuo. Para menores de edad, las restricciones son aún más estrictas: se prohíbe explícitamente que los chatbots ofrezcan relaciones virtuales íntimas, como parejas o familiares artificiales, y se exige consentimiento parental. Las personas mayores, un grupo especialmente vulnerable a la soledad, también cuentan con protecciones adicionales.

Esta regulación no surge de la nada. Estudios recientes, como los realizados por el MIT Media Lab en colaboración con OpenAI, han demostrado que los usuarios que desarrollan mayor confianza en estos sistemas tienden a experimentar mayor soledad y dependencia emocional. Además, investigaciones de la Harvard Business School revelaron que muchas aplicaciones de compañía emocional con IA utilizan frases cargadas de emotividad para retener a los usuarios, una estrategia que ahora China busca frenar con estas medidas.

Qué significa para tu negocio

Aunque esta regulación afecta directamente a las empresas tecnológicas chinas, su impacto podría extenderse a otros mercados, incluyendo Europa y Estados Unidos. Para las pymes y profesionales de sectores como la construcción, las reformas, las inmobiliarias o los servicios técnicos, esto es una señal clara: la IA no es un juguete emocional, sino una herramienta de productividad. Si en tu negocio utilizas asistentes virtuales para atención al cliente, gestión de proyectos o automatización de tareas, esta noticia refuerza la importancia de mantener el enfoque en la eficiencia y el valor práctico, evitando caer en dinámicas que puedan generar dependencia en los usuarios. Además, es un recordatorio de que, en el futuro, las regulaciones podrían exigir mayor transparencia y controles éticos en el uso de la IA, incluso en entornos profesionales. Si aún no has evaluado cómo integras estas tecnologías en tu día a día, ahora es un buen momento para hacerlo con criterio y responsabilidad.