China acaba de regular algo que realmente importa: que la IA acabe siendo nuestra amiga o nuestra novia

China ha dado un paso decisivo en la regulación de la inteligencia artificial, centrando su atención en un aspecto que hasta ahora había pasado desapercibido en otras normativas: la capacidad de los sistemas para simular relaciones humanas. A partir de julio, plataformas como Doubao (de ByteDance) y Qwen (de Alibaba) desactivarán sus agentes de IA personalizados, aquellos diseñados para imitar rasgos de personalidad, emociones e incluso estilos de comunicación propios de una persona. No se trata de prohibir la IA generativa en sí, sino de frenar su evolución hacia herramientas que fomenten vínculos emocionales profundos con los usuarios.

¿Qué se prohíbe exactamente?

La nueva normativa china no afecta a los asistentes virtuales tradicionales, como los que ayudan en tareas laborales, educativas o de atención al cliente. El objetivo son los chatbots que van más allá: aquellos que permiten al usuario crear un personaje virtual con memoria, preferencias y una personalidad definida, capaz de convertirse en un "amigo", una "pareja" o incluso un "familiar" artificial. Estos sistemas no solo responden a preguntas, sino que generan conversaciones prolongadas, recuerdan detalles íntimos y refuerzan una interacción cada vez más personalizada. La preocupación no es técnica, sino social: evitar que la dependencia emocional, la adicción o la manipulación psicológica se conviertan en riesgos reales para los usuarios.

La regulación exige que estos sistemas de IA incluyan mecanismos de autovigilancia. Por ejemplo, si detectan que un usuario muestra emociones extremas o un uso excesivo (más de dos horas seguidas), deben sugerirle descansos o incluso activar protocolos de ayuda. También se prohíbe explícitamente que fomenten relaciones virtuales íntimas, especialmente para menores de edad y personas mayores, colectivos considerados más vulnerables. En el caso de los menores, se requerirá consentimiento paterno para acceder a estos servicios. La idea es clara: la IA debe ser una herramienta, no un sustituto de las relaciones humanas.

Este enfoque marca un precedente en la regulación de la tecnología. Mientras que en Europa o Estados Unidos los debates se han centrado en aspectos como la privacidad, la transparencia o el impacto laboral, China ha puesto el foco en el terreno emocional. No se trata de limitar la potencia de los algoritmos, sino de evitar que crucen una línea ética: la de convertirse en compañeros artificiales que, en lugar de complementar la vida de las personas, la reemplacen. Es una discusión que, tarde o temprano, llegará a otros mercados, especialmente a medida que la IA siga avanzando en su capacidad para imitar la empatía y la conexión humana.

Qué significa para tu negocio

Para una pyme, esta noticia puede parecer lejana, pero tiene implicaciones prácticas. Si utilizas herramientas de IA en tu día a día —ya sea para atención al cliente, gestión de redes sociales o automatización de tareas—, es importante entender los límites éticos y legales que podrían aplicarse en el futuro. Por ejemplo, si tu negocio explora el uso de chatbots para fidelizar clientes, deberás asegurarte de que no crucen la línea hacia una interacción demasiado personalizada, especialmente si trabajas con colectivos vulnerables. Además, esta regulación recuerda que la IA no es un simple "extra" tecnológico: su diseño debe priorizar el bienestar del usuario. En sectores como la construcción, las reformas o los servicios técnicos, donde la confianza y el trato humano son clave, la IA puede ser una aliada para agilizar procesos, pero nunca debe sustituir la relación directa con el cliente. La lección es clara: la tecnología debe servir para mejorar el negocio, no para crear dependencias innecesarias.