Tu agente ya puede actuar. ¿Quién controla sus permisos?
Un agente conectado a correo, CRM, pagos o sistemas internos ya no solo puede responder mal: también puede ejecutar una acción equivocada. La arquitectura de producción debe limitar sus herramientas, exigir aprobación en los pasos sensibles, aislar los datos y registrar cada decisión. Además, debe permitir retirar el acceso sin rehacer todo el sistema.
Por Reynier RiveroIngeniero de software
El agente necesitaba leer un correo.
Alguien le dio acceso a toda la bandeja “por si acaso”.
Esta escena es compuesta, no el relato de una empresa concreta.
La primera semana no ocurrió nada. En la segunda, el agente encontró un documento privado mientras buscaba contexto y lo incluyó en la respuesta equivocada.
Lo importante es el mecanismo: el sistema tenía más permisos de los que necesitaba para completar la tarea.
El acceso cambia el tipo de error
Un chatbot puede dar una respuesta incorrecta.
Un agente puede darla, enviarla y registrarla.
La frontera que hay que escribir
Leer no es escribir
consultar_cliente y actualizar_cliente deben ser herramientas distintas. Consultar disponibilidad no debe permitir reservar. Preparar una devolución no debe emitirla.
Cada acción necesita un dueño
Define qué acciones se ejecutan solas, cuáles requieren aprobación y quién recibe el caso cuando el agente no puede continuar. La persona que aprueba debe ver el cambio exacto, no solo la conversación completa.
El secreto no debe estar en el prompt
Guarda credenciales en un vault y usa cuentas de servicio con alcance limitado. El modelo puede solicitar una acción; la capa de autorización decide si esa acción está permitida.
El documento también es una entrada no confiable
La auditoría necesita el resultado real
Registra la herramienta, los parámetros sanitizados, la respuesta del sistema, la aprobación y el estado final. Un texto que dice “pago completado” no sustituye a la confirmación del sistema financiero.
La autonomía no es ausencia de controles. Es saber dónde están.
Una revisión útil para cualquier mercado hispanohablante
Antes de conectar otro sistema, dibuja el recorrido: datos que entran, herramientas disponibles, acciones de escritura, operaciones reversibles e irreversibles y momentos de intervención humana.
Ese mapa puede convertirse en un agente de IA con permisos acotados, una capa de automatización e integración o software a medida para una operación de riesgo.
Para separar seguridad operativa de transparencia regulatoria, si operas en la UE, revisa también la guía sobre cuándo un chatbot debe identificarse como IA yel Artículo 50 del AI Act. Si tu respuesta a “¿qué puede ejecutar el agente sin una persona?” es vaga, el problema ya no es el modelo.
¿Puedes enumerar qué herramientas usa el agente, qué acciones requieren aprobación y cómo se revoca cada acceso? Si la respuesta es vaga, Prontavel puede ayudar a diseñar y construir esa capa junto con la automatización.
El servicio del que habla este artículo: Chatbots y agentes de IA que sí conocen tu empresa