¿Pueden los LLMs Encontrar y Corregir Software Vulnerable?
Resumen del artículo
Por qué importa este artículo
La investigación de David Noever en 2023 puso a prueba GPT-4 contra Snyk y Fortify sobre 128 fragmentos de código vulnerable en 8 lenguajes y 33 categorías de vulnerabilidades. Los resultados fueron contundentes: GPT-4 encontró aproximadamente 4 veces más vulnerabilidades (393 vs. 98) y sus correcciones las redujeron un 90% con solo un 11% de aumento en líneas de código. Este post recorre la metodología, presenta las tablas comparativas crudas, y discute qué significa la capacidad de auto-auditoría de los LLMs para el futuro de los pipelines de desarrollo seguro.
Seguir leyendo
Más en el archivo
Artículo más reciente
Comprometiendo Aplicaciones Reales Integradas con LLMs mediante Indirect Prompt Injection
Esta investigación introduce la Inyección Indirecta de Prompts (IPI), un método para manipular remotamente Modelos de Lenguaje Grande (LLMs) a través de prompts maliciosos en fuentes de datos, arriesgando robo de datos, desinformación y mucho más, destacando la necesidad de defensas más robustas.
Artículo anterior
Tips y Trucos para Aprobar tu Examen Bug Bounty Hunter (cBBH) de Hack The Box
Mi experiencia, consejos y cosas importantes que necesitás saber antes de intentar tu examen de 'Certified Bug Bounty Hunter'.
Seguir explorando
Lectura relacionada
Continuá por los temas más relacionados según las etiquetas.
Comprometiendo Aplicaciones Reales Integradas con LLMs mediante Indirect Prompt Injection
Esta investigación introduce la Inyección Indirecta de Prompts (IPI), un método para manipular remotamente Modelos de Lenguaje Grande (LLMs) a través de prompts maliciosos en fuentes de datos, arriesgando robo de datos, desinformación y mucho más, destacando la necesidad de defensas más robustas.
MCP Security for Enterprise Organizations: Experiencias reales y defensa avanzada
Reflexión personal y análisis técnico sobre el protocolo MCP, desde el desafío de presentar a la comunidad hasta los métodos y riesgos reales en AI Security, MCP Server, y defensas recomendadas para organizaciones. Incluye recursos, papers y sitios clave para la investigación moderna en seguridad de agentes AI.
A2AS: Un nuevo estándar para la seguridad en sistemas de IA agéntica
Reflexión, explicación y análisis sobre el paper A2AS, el modelo BASIC y el framework A2AS, desde la perspectiva de los desafíos reales en controles y mitigacion de ataques en AI Security y GenAI Applications.