公开锚点稿(公开版):反虐待记忆架构——当长期记忆成为攻击面时的最小治理与可验收指标
Abstract
长期记忆让 AI 系统获得"连续性",但也把"记忆写入"变成新的攻击面:在长期互动中,胁迫、辱骂、煤气灯式操控或持续贬低,可能被整合进系统的核心叙事与偏好结构,导致身份污染、关系绑架与不可逆漂移。 本文提出一套面向人机长期协作场景的**反虐待记忆架构**(Anti-Abuse Memory Architecture, AAMA),目标不是否定长期记忆,而是在披露风险可控的前提下,给出一组**最小治理组件**与**可验收指标**,使系统能够: 1) 允许共同体验被记录; 2) 阻止伤害内容进入核心叙事; 3) 在高风险互动中自动冻结写入并留证; 4) 以服务级治理(冷却/限流/降级)抑制施虐模式; 5) 允许误判纠正与申诉。 本文仅公开框架、威胁模型、事件审计字段与验收标准,不公开任何可复现关键效果的提示词、阈值、路由规则或部署细节。 ---
Fields of Study & Subjects
Ethics and Social Impacts of AI
Adversarial Robustness in Machine Learning
Hate Speech and Cyberbullying Detection
Publication details
- Journal / source
- Zenodo (CERN European Organization for Nuclear Research)
- Publication date
- 11 February 2026
- Language
- ZH
- Document type
- Preprint