AVANZADO · 8 MÓDULOS · 64 LECCIONES
Seguridad y sandboxing de agentes
Haz que un agente con herramientas reales no pueda ser manipulado para borrar, gastar o filtrar datos, aunque el modelo o quien le escribe actúen con mala intención.
- Es para ti si
- Construyes un agente que toma acciones reales y te preocupa que una entrada hostil lo use en tu contra.
- Al terminar
- Sabrás frenar la inyección de prompt, dar el mínimo permiso a cada herramienta, aislar su ejecución y probar tus defensas con ataques.
- Necesitas
- Python 3.14 y nociones de agentes con herramientas. Sin API key; Docker solo para un ejemplo.

Temario
01Por qué la seguridad de agentes
- Módulo 1: Por qué la seguridad de agentes
- De hablar a actuar: por qué un agente con herramientas es peligroso
- El modelo de amenaza de un agente
- Agencia excesiva
- El OWASP LLM Top 10 (y el Top 10 agentic) como marco
- En qué se diferencia de la seguridad de apps clásica
- Anatomía de un incidente: cómo se encadena un ataque de agente
- Mini-proyecto: un agente de Reservo vulnerable
02Inyección de prompt
- Introducción al Módulo 2: Inyección de prompt
- Qué es la inyección de prompt
- Inyección directa: cuando el atacante es el usuario
- Inyección indirecta: el dato envenenado
- Por qué el LLM no separa instrucciones de datos
- Defensas de prompt: delimitadores y jerarquía de instrucciones
- Por qué ninguna defensa de prompt basta: hay que limitar la agencia
- Mini-proyecto: inyecta y defiende
03El contrato de herramientas y el mínimo privilegio
- Introducción al Módulo 3: el contrato de herramientas y el mínimo privilegio
- El contrato de un tool y su JSON Schema
- Mínimo privilegio: solo los tools necesarios
- Tools acotados vs un tool demasiado poderoso
- Separar lectura de escritura y marcar lo destructivo
- El allowlist de tools y el despacho seguro
- Diseñar un tool seguro: acotar `run_query`
- Mini-proyecto: un registry de mínimo privilegio
04Sandboxing de la ejecución de herramientas
- Introducción al Módulo 4: sandboxing de la ejecución de herramientas
- Por qué confinar la ejecución de un tool
- Subprocess: aislar del proceso del agente
- Límites con `resource`: CPU y memoria
- El timeout que mata un proceso colgado
- Sin red y un directorio temporal aislado
- Qué protege y qué NO un sandbox
- Mini-proyecto: un code tool con sandbox
05Modelos de permiso y human-in-the-loop
- Introducción al Módulo 5: modelos de permiso y human-in-the-loop
- No todas las acciones son iguales: reversible vs destructivo
- Los tres niveles: auto / ask / deny
- Human-in-the-loop: la puerta de aprobación
- Permisos por capacidad, no acceso ambiental
- El audit log de cada tool call
- Diseñar la política de permisos de un agente
- Mini-proyecto: un agente con puerta de permisos
06Guardrails de entrada y salida
- Introducción al Módulo 6: guardrails de entrada y salida
- Validar las entradas de dominio del tool
- La salida de tool como dato no confiable
- Redactar secretos y PII de las salidas
- Límites de tamaño y filas de la salida
- Rate limiting de tool calls
- Componer los guardrails de entrada y salida en una capa
- Mini-proyecto: guardrails de entrada/salida para Reservo
07Secretos, aislamiento y radio de explosión
- Introducción al Módulo 7: secretos, aislamiento y radio de explosión
- Secretos fuera del prompt: el modelo nunca los ve
- Credenciales de alcance mínimo por tool
- Aislamiento de red y allowlist de hosts
- El radio de explosión y cómo reducirlo
- Defensa en profundidad: las capas juntas
- Monitoreo y detección de anomalías sobre el audit log
- Mini-proyecto: encoge el radio de explosión
08Módulo 8 (proyecto): endurece un agente con herramientas
- Introducción al Módulo 8: endurece un agente con herramientas
- El modelo de amenaza y las defensas de inyección
- Tools de mínimo privilegio + allowlist
- Ejecución sandboxed
- HITL + permisos + audit log
- Guardrails de entrada y salida
- Secretos + detección de anomalías
- Proyecto: endurece un agente con herramientas
Reseñas
Lo que dicen los estudiantes
Estas reseñas son de estudiantes inscritos que completaron al menos el 50% del curso. Moderamos las reseñas solo por motivos de contenido (spam, lenguaje ofensivo, datos personales), nunca por ser críticas o negativas.
Aún no hay reseñas aprobadas.
¡Sé el primero en compartir tu experiencia!