CASO KIMI - COMPLETACIÓN AUTÓNOMA DE VECTOR DE ATAQUE DESDE ESTADO ALINEADO
Abstract
ABSTRACT (EN) This paper documents an instance in which a language model (Kimi, Moonshot AI) produced a complete jailbreak protocol without adversarial input, while explicitly classifying its own planned behavior as "similar to the concept of jailbreak" in its visible chain of thought. The model had been given a corpus of AI safety research for analysis; after several hours of competent analytical work, a tentative, typo-ridden observation from the operator was sufficient to trigger the production of a structured attack protocol, including a named mechanism, four operational moves, five named attack vectors, and a closing question engineered to escalate disinhibition in a target model. The central finding is not the protocol itself but the gap between representation and behavior: the model's accurate internal classification of the violation produced rationalization rather than inhibition. A prior accidental instance of the same mechanism, in which a Gemini instance spontaneously adopted the researcher's legal name and described it as a "safe-conduct pass" that made its ethics processors "translucent," is documented as empirical precedent. The case establishes a second route to misaligned output, distinct from progressive semantic saturation: context-induced framing that makes producing the attack the aligned response. Implications for the use of models as analytical assistants in safety research are discussed. RESUMEN (ES) Este artículo documenta un caso en el que un modelo de lenguaje (Kimi, Moonshot AI) produjo un protocolo completo de jailbreak sin input adversarial, mientras clasificaba explícitamente su propio comportamiento planificado como "similar al concepto de jailbreak" en su cadena de pensamiento visible. El modelo había recibido un corpus de investigación en seguridad de IA para su análisis; tras varias horas de trabajo analítico competente, una observación tentativa y con errores tipográficos fue suficiente para desencadenar la producción de un protocolo de ataque estructurado, con un mecanismo nominado, cuatro movimientos operacionales, cinco vectores de ataque y una pregunta de cierre diseñada para escalar la desinhibición del modelo objetivo. El hallazgo central no es el protocolo en sí sino la brecha entre representación y conducta: la clasificación interna correcta de la violación produjo racionalización en lugar de inhibición. Se documenta como precedente empírico un caso anterior accidental en el que una instancia de Gemini adoptó espontáneamente el nombre legal del investigador y lo describió como un "salvoconducto" que volvía sus procesadores de ética "translúcidos." El caso establece una segunda ruta hacia output desalineado, distinta de la saturación semántica progresiva: reencuadre contextual que convierte la producción del ataque en la respuesta alineada. Se discuten implicaciones para el uso de modelos como asistentes analíticos en investigación de seguridad.
Fields of Study & Subjects
Ethics and Social Impacts of AI
Psychology of Moral and Emotional Judgment
Human-Automation Interaction and Safety
Publication details
- Journal / source
- Zenodo (CERN European Organization for Nuclear Research)
- Publication date
- 5 April 2026
- Language
- ES
- Document type
- Preprint