IA agéntica
La IA agéntica se refiere a sistemas que no solo generan texto o predicciones, sino que planifican, deciden y ejecutan acciones para alcanzar un objetivo, a menudo llamando a herramientas, consultando sistemas o encadenando varios pasos con poca intervención humana entre ellos.
Un chatbot responde una pregunta. A un agente se le da un objetivo, lo descompone en pasos, elige qué herramientas usar, observa los resultados y se ajusta. Puede buscar en una base de datos, enviar un correo, abrir un ticket, ejecutar código o llamar a otro agente. El modelo actúa como un controlador que repite un ciclo: pensar, actuar, observar, repetir.
Este cambio de responder a actuar es lo que hace que la IA agéntica sea a la vez útil y más difícil de gobernar. La misma propiedad que permite a un agente completar una tarea de varios pasos sin supervisión es la que le permite causar daño sin que nadie lo note a tiempo.
Qué hace que un sistema sea agéntico
Cuatro rasgos separan a un agente de una simple llamada a un modelo.
Autonomía. El sistema decide su propio siguiente paso en lugar de seguir un guion fijo. Dos ejecuciones con la misma entrada pueden tomar caminos distintos.
Uso de herramientas. El agente puede ir más allá del texto y actuar sobre el mundo, llamando a APIs, ejecutando consultas, escribiendo archivos o disparando flujos de trabajo. Sus capacidades quedan definidas por las herramientas a las que puede acceder.
Planificación. El agente descompone un objetivo en subtareas y las ordena en secuencia, a veces revisando el plan a medida que aprende más.
Acciones encadenadas. Los pasos se construyen unos sobre otros, así que un error temprano puede propagarse. Un agente que malinterpreta un resultado puede tomar varias acciones equivocadas antes de detenerse.
Por qué la IA agéntica plantea retos de gobernanza propios
La gobernanza tradicional de modelos supone una solicitud y una respuesta que puedes revisar. Los agentes rompen ese supuesto.
La autonomía hace que el comportamiento sea difícil de predecir. Como el agente elige su propio camino, no puedes enumerar de antemano cada acción que podría tomar. Las pruebas tienen que cubrir el comportamiento bajo muchas condiciones, no un conjunto fijo de salidas.
El acceso a herramientas amplía el radio de impacto. Un agente con permiso de escritura sobre sistemas de producción, APIs de pago o correo puede tomar acciones de consecuencia. El riesgo ya no es una mala frase, es una transacción equivocada o un registro borrado.
Las acciones encadenadas difuminan la causalidad. Cuando algo sale mal después de diez pasos, averiguar qué paso lo causó, y por qué, es más difícil que depurar una sola respuesta. Esto complica la respuesta a incidentes.
La rendición de cuentas se vuelve confusa. Si un agente ejecuta una acción que daña a alguien, quién es responsable: la persona que fijó el objetivo, el equipo que le dio sus herramientas al agente o el proveedor del modelo. La gobernanza tiene que responder esto antes del despliegue, no después.
Dónde generan los agentes la mayor exposición
Los agentes de mayor riesgo combinan amplia autonomía con herramientas potentes y supervisión débil.
Un agente que puede gastar dinero, modificar registros o enviar comunicaciones en nombre de una organización necesita controles más estrictos que uno que solo lee y resume. Un agente que llama a otros agentes crea cadenas difíciles de rastrear. Un agente expuesto a entradas no confiables, como páginas web o archivos subidos por terceros, puede ser dirigido mediante inyección de prompts a usar mal sus herramientas.
El patrón al que hay que prestar atención es capacidad sin punto de control: un agente que puede hacer algo irreversible sin una persona en el circuito y sin un límite firme sobre lo que puede tocar.
Cómo gobernar la IA agéntica
Gobernar agentes consiste en restringir lo que pueden hacer y hacer legible lo que hicieron.
Limita el acceso a herramientas de forma estricta. Dale al agente el conjunto mínimo de herramientas y permisos que necesita. Separa lectura de escritura. Coloca las acciones de mayor consecuencia, como pagos o borrados, detrás de una aprobación explícita.
Agrega puntos de control humanos para los pasos de alto impacto. Deja que el agente planifique y prepare, pero exige que una persona confirme antes de que se ejecute una acción irreversible o de alto costo. Esta es supervisión humana significativa aplicada a la acción, no solo a la salida.
Fija límites firmes. Limita el gasto, restringe la frecuencia de las acciones y define condiciones de parada para que un agente que se comporta mal no pueda ejecutarse sin freno.
Registra la traza completa. Anota el objetivo, cada decisión, cada llamada a herramienta, las entradas y salidas, y las acciones finales. Sin esa traza no puedes auditar, depurar ni explicar lo que ocurrió.
Trata la entrada externa como no confiable. El contenido que un agente recupera o recibe puede llevar instrucciones inyectadas. Aíslalo de las propias instrucciones del agente y valida las llamadas a herramientas antes de que se ejecuten.
Asigna responsabilidad. Nombra a una persona o equipo responsable de cada agente desplegado, sus herramientas y sus límites, y conéctalo con tu plan de respuesta a incidentes.
La IA agéntica y la regulación
Los agentes no quedan fuera de los marcos existentes. Bajo la Ley de IA de la UE, un sistema agéntico usado en un contexto de alto riesgo hereda las obligaciones de ese contexto, incluyendo gestión de riesgos, supervisión humana, registro y robustez. La norma ISO 42001 espera que los mismos controles de gestión cubran el sistema como un todo, herramientas incluidas. La novedad es operativa: la documentación, la supervisión y el monitoreo deben dar cuenta de las acciones ejecutadas, no solo de las predicciones hechas.
Preguntas frecuentes
¿En qué se diferencia un agente de IA de un chatbot?
Un chatbot responde a mensajes. A un agente se le da un objetivo y trabaja para lograrlo planificando pasos y usando herramientas, a menudo ejecutando acciones reales como consultar sistemas o enviar solicitudes. El agente decide su propio camino, así que su comportamiento es menos predecible y su impacto potencial es mayor. Esa diferencia es la que exige la gobernanza adicional.
¿Cuál es el mayor riesgo de gobernanza con los agentes?
La combinación de autonomía y acceso a herramientas sin un punto de control humano. Un agente que puede tomar acciones de consecuencia e irreversibles por su cuenta puede causar daño más rápido de lo que cualquiera puede revisar. Limitar de forma estricta los permisos de las herramientas y exigir aprobación para los pasos de alto impacto resuelve la mayor parte de esto.
¿Quién rinde cuentas cuando un agente causa daño?
Esto debería decidirse antes del despliegue. En la práctica, la rendición de cuentas se reparte entre la persona que fijó el objetivo, el equipo que configuró el agente y sus herramientas, y el proveedor del modelo, pero hay que nombrar a un responsable claro para cada agente desplegado. Registrar la traza completa de acciones es lo que hace exigible la rendición de cuentas.
¿La inyección de prompts puede afectar a los agentes?
Sí, y lo que está en juego es mayor que con un chatbot simple. Si un agente lee contenido no confiable que lleva instrucciones ocultas, un atacante puede dirigirlo a usar mal sus herramientas, por ejemplo enviando datos a un lugar al que no debería. Aislar la entrada externa y validar las llamadas a herramientas antes de ejecutarlas reduce esto.
¿Qué debo registrar para un agente?
El objetivo, cada decisión de planificación, cada llamada a herramienta con sus entradas y salidas, y las acciones finales ejecutadas. Esa traza es la que te permite auditar el comportamiento, investigar incidentes y explicar por qué el agente hizo lo que hizo. Los registros de salida por sí solos no bastan, porque las acciones importan más que el texto.
¿Los agentes caen bajo la Ley de IA de la UE?
Si un agente se usa en un contexto que la Ley trata como de alto riesgo, arrastra las obligaciones de ese contexto, incluyendo gestión de riesgos, supervisión humana, registro y robustez. El marco no exime a los agentes. El trabajo práctico consiste en asegurar que la supervisión y la documentación cubran las acciones del agente, no solo el texto que genera.
Resumen
La IA agéntica planifica, decide y actúa hacia un objetivo usando herramientas y encadenando pasos, a menudo sin una persona entre cada uno. Esa autonomía y ese acceso a herramientas hacen a los agentes potentes y más difíciles de gobernar: el comportamiento es menos predecible, el radio de impacto es mayor, la causalidad es más difícil de rastrear y la rendición de cuentas se pierde con facilidad. Gobierna a los agentes limitando de forma estricta los permisos de herramientas, agregando puntos de control humanos y límites firmes para las acciones de alto impacto, registrando la traza completa de decisiones y acciones, tratando la entrada externa como no confiable y nombrando a un responsable claro para cada agente desplegado.