AVANZADO · 8 MÓDULOS · 64 LECCIONES

Seguridad y sandboxing de agentes

Haz que un agente con herramientas reales no pueda ser manipulado para borrar, gastar o filtrar datos, aunque el modelo o quien le escribe actúen con mala intención.

Es para ti si
Construyes un agente que toma acciones reales y te preocupa que una entrada hostil lo use en tu contra.
Al terminar
Sabrás frenar la inyección de prompt, dar el mínimo permiso a cada herramienta, aislar su ejecución y probar tus defensas con ataques.
Necesitas
Python 3.14 y nociones de agentes con herramientas. Sin API key; Docker solo para un ejemplo.
  1. 01Por qué la seguridad de agentes8 LECCIONES
    1. Módulo 1: Por qué la seguridad de agentes
    2. De hablar a actuar: por qué un agente con herramientas es peligroso
    3. El modelo de amenaza de un agente
    4. Agencia excesiva
    5. El OWASP LLM Top 10 (y el Top 10 agentic) como marco
    6. En qué se diferencia de la seguridad de apps clásica
    7. Anatomía de un incidente: cómo se encadena un ataque de agente
    8. Mini-proyecto: un agente de Reservo vulnerable
  2. 02Inyección de prompt8 LECCIONES
    1. Introducción al Módulo 2: Inyección de prompt
    2. Qué es la inyección de prompt
    3. Inyección directa: cuando el atacante es el usuario
    4. Inyección indirecta: el dato envenenado
    5. Por qué el LLM no separa instrucciones de datos
    6. Defensas de prompt: delimitadores y jerarquía de instrucciones
    7. Por qué ninguna defensa de prompt basta: hay que limitar la agencia
    8. Mini-proyecto: inyecta y defiende
  3. 03El contrato de herramientas y el mínimo privilegio8 LECCIONES
    1. Introducción al Módulo 3: el contrato de herramientas y el mínimo privilegio
    2. El contrato de un tool y su JSON Schema
    3. Mínimo privilegio: solo los tools necesarios
    4. Tools acotados vs un tool demasiado poderoso
    5. Separar lectura de escritura y marcar lo destructivo
    6. El allowlist de tools y el despacho seguro
    7. Diseñar un tool seguro: acotar `run_query`
    8. Mini-proyecto: un registry de mínimo privilegio
  4. 04Sandboxing de la ejecución de herramientas8 LECCIONES
    1. Introducción al Módulo 4: sandboxing de la ejecución de herramientas
    2. Por qué confinar la ejecución de un tool
    3. Subprocess: aislar del proceso del agente
    4. Límites con `resource`: CPU y memoria
    5. El timeout que mata un proceso colgado
    6. Sin red y un directorio temporal aislado
    7. Qué protege y qué NO un sandbox
    8. Mini-proyecto: un code tool con sandbox
  5. 05Modelos de permiso y human-in-the-loop8 LECCIONES
    1. Introducción al Módulo 5: modelos de permiso y human-in-the-loop
    2. No todas las acciones son iguales: reversible vs destructivo
    3. Los tres niveles: auto / ask / deny
    4. Human-in-the-loop: la puerta de aprobación
    5. Permisos por capacidad, no acceso ambiental
    6. El audit log de cada tool call
    7. Diseñar la política de permisos de un agente
    8. Mini-proyecto: un agente con puerta de permisos
  6. 06Guardrails de entrada y salida8 LECCIONES
    1. Introducción al Módulo 6: guardrails de entrada y salida
    2. Validar las entradas de dominio del tool
    3. La salida de tool como dato no confiable
    4. Redactar secretos y PII de las salidas
    5. Límites de tamaño y filas de la salida
    6. Rate limiting de tool calls
    7. Componer los guardrails de entrada y salida en una capa
    8. Mini-proyecto: guardrails de entrada/salida para Reservo
  7. 07Secretos, aislamiento y radio de explosión8 LECCIONES
    1. Introducción al Módulo 7: secretos, aislamiento y radio de explosión
    2. Secretos fuera del prompt: el modelo nunca los ve
    3. Credenciales de alcance mínimo por tool
    4. Aislamiento de red y allowlist de hosts
    5. El radio de explosión y cómo reducirlo
    6. Defensa en profundidad: las capas juntas
    7. Monitoreo y detección de anomalías sobre el audit log
    8. Mini-proyecto: encoge el radio de explosión
  8. 08Módulo 8 (proyecto): endurece un agente con herramientas8 LECCIONES
    1. Introducción al Módulo 8: endurece un agente con herramientas
    2. El modelo de amenaza y las defensas de inyección
    3. Tools de mínimo privilegio + allowlist
    4. Ejecución sandboxed
    5. HITL + permisos + audit log
    6. Guardrails de entrada y salida
    7. Secretos + detección de anomalías
    8. Proyecto: endurece un agente con herramientas
Reseñas

Lo que dicen los estudiantes

Estas reseñas son de estudiantes inscritos que completaron al menos el 50% del curso. Moderamos las reseñas solo por motivos de contenido (spam, lenguaje ofensivo, datos personales), nunca por ser críticas o negativas.

Aún no hay reseñas aprobadas.

¡Sé el primero en compartir tu experiencia!

SEC. 06 · EL ESTUDIO

Por qué existe este estudio

Durante décadas, construir software fue cosa de perfiles técnicos con años de formación, y llevar un producto digital a la vida real le tomaba a las empresas meses o años. El no-code y la inteligencia artificial han acortado esa brecha, pero el conocimiento sigue en manos de unos cuantos.

Tech Benders existe para abrir ese conocimiento, para que los equipos de negocio y los perfiles no técnicos puedan poner sus ideas en producción con las decisiones técnicas correctas detrás. La IA hace lo que le pides. Sin una base técnica, lo que construye puede no escalar con el ecosistema de tu empresa, y sus costos se disparan con el tiempo.

El equipo conoce los dolores de las organizaciones grandes y la velocidad a la que tienen que moverse. Trae arquitectura de soluciones, ingeniería de datos, producto construido de punta a punta, del backend al frontend, y trabajo diario con IA. Software que resuelve lo que necesitas en días, no en meses, con los costos de la IA bajo control.

Fundadores

El estudioConoce Tech Benders →

Escríbenoshi@techbenders.io

Hecho con Wislab