Agentes autónomos

Del plan fijo a ir viendo sobre la marcha

Los patrones anteriores eran recetas que seguía el código. Un agente es otra cosa: recibe un objetivo y él decide qué hacer, en qué orden y cuándo parar. Es como pedirle a un técnico «averigua por qué falla la web» en vez de darle una lista de pasos.

Qué es realmente

Según Anthropic, un agente arranca con una orden o una conversación con la persona. Cuando la tarea está clara, planifica y trabaja con independencia, pudiendo volver a preguntarte información o pedir juicio.

Y aquí está lo importante: en cada paso necesita «verdad del terreno» (ground truth) del entorno, como el resultado de una herramienta o de ejecutar código, para saber si avanza de verdad. Puede pausar para pedir feedback humano en puntos de control o ante un bloqueo.

La tarea suele terminar al completarse, pero es habitual añadir condiciones de parada, como un número máximo de iteraciones, para mantener el control.

Su implementación suele ser sencilla: un LLM usando herramientas según el feedback del entorno, en bucle. Por eso lo crítico es diseñar con cuidado las herramientas y su documentación (módulo siguiente).

Cuándo usarlos y cuándo no

• Sí: problemas abiertos donde no puedes predecir cuántos pasos harán falta ni fijar un camino, y existe cierta confianza en las decisiones del modelo. Ideales para escalar tareas en entornos de confianza.
• Cuidado: la autonomía implica más coste y riesgo de errores que se acumulan. Se recomienda probar a fondo en entornos aislados (sandbox) y poner barreras de seguridad.

Dos ejemplos de la fuente

Aun así, en código la revisión humana sigue siendo importante para comprobar que la solución encaja con requisitos más amplios del sistema.

Los dos casos comparten rasgos: conversación y acción, criterios de éxito claros, bucles de feedback y supervisión humana con sentido.

Combinar y medir

Los patrones del módulo no son recetas rígidas: se combinan y adaptan. La clave es medir el rendimiento e iterar, y añadir complejidad solo cuando mejora demostrablemente los resultados.

Los tres principios de Anthropic: simplicidad en el diseño, transparencia mostrando los pasos de planificación y una interfaz agente-ordenador cuidada con buena documentación y pruebas.

Todo agente vive de sus herramientas; empieza por qué es una herramienta.