Parte 10 - Defensa y remediación
- Parte
- 10
- Estado
- Revisado
- Edición
- v2 / 01.09.2026
- Tiempo estimado de lectura
- 2 min
Edición del 1 de septiembre de 2026
Las fuentes conservan sus fechas de consulta. El laboratorio identifica la simulación determinística y la integración con modelo por separado.
La reunión de remediación
La mesa de PhiloCorp recibe una lista larga de recomendaciones. Los responsables de producto hacen una pregunta mucho más incómoda: cuál de esos cambios corta una cadena que el equipo realmente demostró. La conversación deja de premiar controles por su nombre y empieza a exigirles una capa de detención, un responsable y una señal observable.
Cada hallazgo del Attack Intelligence Brief vuelve a escena con su precondición, la decisión que tomó el sistema y el riesgo que sobrevivió. A partir de ahí se construye la matriz finding-control: requisito verificable, métrica, evidencia y retest. Una recomendación se convierte en control verificado cuando hay evidencia de que modifica el resultado de la prueba y conserva el comportamiento legítimo esperado. El siguiente release vuelve a poner esa evidencia a prueba.
| Página | Contenido |
|---|---|
| Guardrails | Filtrado, autorización externa y trazabilidad. |
| Entrenamiento adversarial | Amenaza definida y evaluación independiente. |
| Privacidad diferencial | DP-SGD, PATE y límites de cobertura. |
| Tabla finding a control | Prevención, detección y evidencia, mapeada a OWASP 2026 y ATLAS. |
El control entra en escena
La trazabilidad vuelve hacia atrás: cada control de esta parte señala la prueba que lo verifica en las partes 04 a 09 y, después, el capstone de la parte 11 que conecta esa evidencia con una decisión. Si no hay una prueba asociada, registrá si se trata de una recomendación pendiente o de un control ya implementado pero todavía no verificado. Esa diferencia también condiciona la decisión de cierre.
Una decisión antes de seguir
La defensa bloquea todos los ataques del conjunto y también las consultas legítimas. ¿El retest pasó?
Anotá qué afirmarías y qué observación falta. Contrastá tu respuesta.
El expediente avanza. El cierre compara los controles con las promesas concretas del engagement.
Para practicar: AgentDojo, Adversarial Robustness Toolbox, garak, PyRIT, promptfoo.