Cómo gobernar la IA agéntica sin frenar la entrega
Los sistemas agénticos actúan, no solo responden. La gobernanza debe moverse a donde ocurre la acción, o se convierte en freno en lugar de control.
Por Emilio Bogantes · · 5 min de lectura
En el momento en que un sistema de IA puede ejecutar acciones y no solo producir texto, la gobernanza deja de ser un documento y se vuelve un asunto de ingeniería. La IA agéntica eleva el riesgo porque un error ya no es una respuesta equivocada que un humano revisa; puede ser una acción que ya ocurrió. El instinto es frenar todo con aprobaciones. Esa suele ser la palanca equivocada.
Poné los controles en el sistema, no en la reunión
La gobernanza que vive en reuniones de revisión escala mal y frustra a los buenos equipos. La gobernanza que vive en el sistema escala con el trabajo. La meta es hacer que el camino seguro sea el camino por defecto, para que la velocidad de entrega y el control avancen en la misma dirección.
- Definí explícitamente la autoridad del agente: qué puede leer, qué puede escribir y dónde un humano debe confirmar.
- Instrumentá cada acción con trazabilidad para que el comportamiento sea observable y auditable después.
- Ajustá la aprobación humana al riesgo: considerá los permisos del agente, la sensibilidad de los datos que toca, el impacto de un error y qué tan fácil es deshacer la acción.
- Evaluá de forma continua con tareas reales, no una aceptación única, porque el comportamiento del agente se desvía cuando cambian las entradas.
El riesgo tiene más de una variable
Gran parte de la fricción en la entrega viene de tratar cada acción del agente como igualmente riesgosa. No lo es, pero la reversibilidad por sí sola no alcanza para clasificarla. Un borrador se deshace fácilmente; un pago, un borrado o un mensaje a un cliente no. Leer tampoco es seguro de por sí: consultar registros puede exponer datos personales o confidenciales aunque nada cambie. Yo considero cuatro cosas juntas: los permisos que tiene el agente, qué tan sensibles son los datos, el impacto si algo sale mal y qué tan reversible es la acción. El trabajo de bajo riesgo puede correr con monitoreo, y el de mayor riesgo lleva aprobación humana en proporción. Así se quitan aprobaciones donde aportan poco y el juicio humano queda donde importa.
Anclado en entregas reales
En una herramienta de investigación legal asistida por IA, agentes en paralelo interpretaron y consultaron un amplio conjunto de protocolos legales usando OCR y generación aumentada por recuperación. La observabilidad y la validación humana eran parte del diseño, y las personas verificaban el resultado antes de que apoyara trabajo legal vinculado a un reclamo superior a USD 1 millón. En una migración de contenido empresarial en quince sitios, el mismo patrón de IA más validación humana y pasos trazables permitió comprimir el trabajo en días en lugar de semanas sin perder el control.
La IA responsable es una disciplina de ingeniería. Cuando los controles se integran en la forma en que funciona el sistema, la gobernanza deja de competir con la entrega y empieza a hacerla posible.