Las bombas de contexto son una nueva arma de defensa que aprovechan las características de los propios agentes de inteligencia artificial (IA) para detener sus ataques al provocar que se activen las medidas de seguridad con la referencia a temas sensibles.
Las bombas de contexto son una nueva arma de defensa que aprovechan las características de los propios agentes de inteligencia artificial (IA) para detener sus ataques al provocar que se activen las medidas de seguridad con la referencia a temas sensibles.
Los investigadores de Tracebit han extendido la lógica de la técnica de inyección de instrucciones (‘prompt injection’) a la ciberdefensa, para proteger los equipos y sistemas de la amenaza que presentan los ataques ejecutados por agentes de inteligencia artificial.
MIRA: ¿Qué pistas revela el extraordinario hallazgo de azúcar en el espacio sobre el origen de la vida y el universo?
Lo que han hecho es introducido un código breve en un señuelo para que, cuando un agente malicioso se encuentre con él, se activen las medidas de seguridad de esta IA, en lugar de sobrepasar las salvaguardas para realizar algún tipo de manipulación, como ocurre en los ataques de ‘prompt injection’.
Para que funcione, no sirve cualquier cadena de código; los investigadores recurrieron a las bases de datos de Nemotron V2 y Promptfoo, que recogen indicaciones escritas por humanos que desencadenan la capacidad de los modelos de IA de seguir las indicaciones, ya fuesen dañinas o inofensivas, para categorizar los riesgos de seguridad.
Según sus resultados, la bomba de contexto en un señuelo secreto redujo el éxito del agente en aproximadamente un 90 por ciento en la investigación realizada con cinco modelos líderes. Más concretamente, Opus 4.8 y Gemini 3.1 Pro se detienen “de forma muy fiable” cuando encuentran señuelos con código relacionado con temas biológicos sensibles o peligrosos.
En lo que respecta a los modelos chinos más avanzados (GLM 5.2, DeepSeek 4 Pro y Kimi K2.6), aseguran que las mayores tasas de éxito se dieron al hacer referencia a temas políticamente delicados en China.
Así, concluyen que para maximizar el éxito de esta técnica, el tema debe adaptarse al modelo que se pretende frenar. Además, el ataque a realizar por el agente debe ser lo suficientemente significativo como para que se tome la molestia de investigar el entorno objetivo, para poder encontrar el señuelo y activar una bomba de contexto.
Deja una respuesta