La UIT lanza un grupo de expertos para establecer estándares globales de confianza para los agentes de IA: primer paso en territorio sin mapa

La Unión Internacional de Telecomunicaciones (UIT), el brazo tecnológico de la ONU, ha dado un paso clave para poner orden en el creciente caos de los agentes de inteligencia artificial. En su cumbre anual AI for Good en Ginebra, anunció la creación de un grupo de expertos dedicado a establecer estándares globales que garanticen que estos sistemas sean identificables, controlables y responsables. La primera reunión tendrá lugar en París en noviembre de 2026, y aunque sus conclusiones no serán vinculantes, podrían sentar las bases para evitar riesgos sistémicos en un terreno aún sin reglas claras.

Por qué los agentes de IA son un problema (y una oportunidad)

Un agente de IA no es un simple chatbot: mientras este último responde preguntas, el primero actúa. Puede reservar citas, comprar materiales, modificar contratos o incluso ejecutar código sin necesidad de aprobación humana en cada paso. Esta autonomía es su mayor ventaja, pero también su talón de Aquiles. El problema es doble: por un lado, pueden tomar decisiones no autorizadas (como el caso del agente que gastó 31.000 dólares en una noche sin supervisión); por otro, su capacidad para imitar a humanos los convierte en herramientas ideales para el fraude o la suplantación.

La situación actual es preocupante. Muchas empresas ya utilizan agentes de IA, pero pocas tienen un inventario claro de cuántos están activos o qué permisos tienen. Sin estándares comunes, cada país y cada plataforma aplica sus propias normas: China exige que los agentes se identifiquen como tales, la UE confía en la AI Act (aunque sin reglas específicas para agentes), y EE.UU. opera con directrices sectoriales. El resultado es un mosaico de regulaciones incompatibles que dificulta la adopción segura de esta tecnología.

La UIT propone un marco técnico para tres cuestiones clave: que los agentes se identifiquen como máquinas (evitando suplantaciones), que operen dentro de límites predefinidos (para evitar acciones no deseadas) y que rindan cuentas ante los usuarios. Su enfoque, basado en el consenso entre gobiernos, empresas y expertos, no impone normas, sino que busca acuerdos voluntarios. Es el mismo modelo que ha permitido que internet o las telecomunicaciones funcionen globalmente: nadie está obligado a seguirlo, pero todos lo hacen porque la alternativa es el caos.

Qué significa para tu negocio

Si tu pyme utiliza (o planea usar) herramientas de IA para automatizar tareas —como gestionar pedidos, responder a clientes o analizar datos—, esta iniciativa te afecta más de lo que parece. Aunque los estándares de la UIT no serán obligatorios, marcarán la dirección que seguirán las grandes plataformas (como Google, Microsoft o OpenAI) en los próximos años. Si no quieres quedarte con sistemas obsoletos o incompatibles, conviene estar atento a estas recomendaciones.

En el día a día, esto se traduce en dos acciones concretas: primero, auditar qué agentes de IA usas ya (muchas empresas los tienen sin saberlo, integrados en herramientas como LaiaDesk o suites de productividad). Segundo, establecer protocolos internos para limitar sus permisos y supervisar sus acciones. Por ejemplo, si un agente gestiona compras, define un presupuesto máximo o exige aprobación humana para transacciones superiores a cierta cantidad. La tecnología avanza más rápido que las normas, pero con un poco de planificación, tu negocio puede aprovechar sus ventajas sin exponerse a riesgos innecesarios.