Biblioteca
Tarjetas con preguntas por técnica. Filtros por categoría de riesgo (supply chain, ciber, privacidad…).
Cómo funciona el catálogo
Recurso abierto del Laboratorio AwareLab (Universidad Adolfo Ibáñez).
Cada patrón parte de un case study MITRE ATLAS (AML.CS*) y
conecta riesgos OWASP LLM con técnicas y mitigaciones del adversario.
1pregunta por tarjeta
↻reverso con mitigación
AML.CS*caso documentado
Quick Checkexploración guiada
Tres formas de usar el sitio
Página del caso
Cadena del ataque paso a paso, enlaces a MITRE y OWASP, material de contexto cuando está disponible.
Quick Check
Cuestionario referencial: sugerencias de casos y controles a revisar — sin registro ni envío de datos.
Cadena de marcos en cada patrón
| Marco | Qué aporta |
|---|---|
| OWASP LLM0x | Riesgo para el producto o servicio (inyección, supply chain, fuga…) |
| Tácticas y técnicas ATLAS | Cómo actúa el adversario (AML.TA*, AML.T*) |
Mitigaciones AML.M* | Controles oficiales MITRE asociados a cada técnica |
| CWE / CVE | Cuando el caso cita debilidades de software concretas |
Referencias: MITRE ATLAS case studies · OWASP Top 10 for LLM Applications
Anatomía de una tarjeta en la biblioteca
Misma lógica en todas las entradas: primero la pregunta que haría un revisor de seguridad, después el consejo práctico y los controles MITRE.
Frente
«¿Tu pipeline verifica X antes de desplegar?»
«¿Tu pipeline verifica X antes de desplegar?»
Marco
OWASP
OWASP
LLM0x + técnica AML.T*Reverso (↻)
Qué hacer + enlaces
Qué hacer + enlaces
AML.M*Caso
Enlace al incidente
Enlace al incidente
AML.CS* completo¿A quién está dirigido?
Desarrollo y MLOps
Checklist antes de release: dependencias, agentes, RAG, permisos de tools.
Arquitectura y seguridad
Threat modeling con vocabulario común (OWASP + MITRE) sobre incidentes reales.
Docencia e investigación
Material abierto para cursos y seminarios en IA segura.
Visitantes
Lectura libre, filtros y Quick Check sin cuenta.
Categorías de la biblioteca
| Categoría | Ejemplos de riesgo |
|---|---|
| Cadena de suministro / software | Dependencias, artefactos de modelo, PyPI |
| Ciberseguridad adversarial | Inyección, evasión, ejecución no autorizada |
| Privacidad y fugas | Exfiltración, datos en prompts o logs |
| Agentes y agencia | Tools, MCP, exceso de privilegios |
| Datos y envenenamiento | RAG, entrenamiento, integridad de datos |
Limitaciones
El catálogo crece de forma curada; puede no listar todos los case studies de ATLAS. El Quick Check no es una auditoría ni certificación. Ante duda, contrasta siempre con la ficha oficial del case study en atlas.mitre.org.