El AI Act europeo ya exige explicar
de quién es la culpa cuando un agente de IA se equivoca.

Agosto de 2026 marcó un quiebre silencioso pero real: las provisiones de alto riesgo del AI Act —gestión de riesgo, supervisión humana obligatoria, evaluación de conformidad— pasaron de ser texto legal a ser exigibles, con sanciones que llegan a 15 millones de euros o 3% de la facturación global de la empresa, lo que sea mayor. En paralelo, un informe de OutSystems y KPMG encontró que el 93% de los ejecutivos ya planea implementar agentes de IA personalizados en sus organizaciones para escalar operaciones 'con gobernanza' —la frase que antes era opcional y ahora aparece en cada propuesta.

El problema de fondo no es nuevo, pero recién ahora tiene urgencia operativa: con más agentes autónomos corriendo en producción —no en demo, en flujos reales de atención, logística, finanzas—, la mayoría de las organizaciones todavía no tiene una respuesta clara sobre quién responde cuando un agente comete un error. No es una pregunta filosófica. Es una pregunta que un auditor, un cliente o un regulador puede hacer mañana, y que hoy muchas empresas no pueden responder con un documento.

Gartner proyecta que el 40% de las aplicaciones empresariales integrarán agentes de IA autónomos en 2026, frente a menos del 5% en 2025. Ese salto de adopción llegó más rápido que la infraestructura de gobernanza que debería sostenerlo. Las empresas que automatizaron primero y documentaron después están descubriendo ahora que 'funciona bien' no es lo mismo que 'puedo demostrar por qué tomó esa decisión'.

Para una empresa mediana en LATAM sin operación en Europa, el AI Act no aplica directamente, pero el patrón sí: es cuestión de tiempo para que reguladores locales —bancos centrales, defensorías del consumidor, entes de protección de datos— empiecen a pedir lo mismo. Construir ahora la disciplina de trazabilidad —qué datos vio el agente, qué decisión tomó, quién la revisó— es más barato que reconstruirla bajo presión regulatoria.

La gobernanza de agentes no es un tema de compliance que se resuelve con una política en PDF. Es una decisión de arquitectura: si el sistema no registra qué vio el agente y por qué actuó, no hay política que lo arregle después. Cuando en Synova diseñamos sistemas con IA agéntica, la capa de trazabilidad se construye al mismo tiempo que el agente, no se agrega cuando alguien pregunta. Las empresas que lo entendieron así hoy tienen una ventaja que no se nota hasta que hace falta.