Google DeepMind 发布 AI Control Roadmap 以保障 AI Agent 安全

Google DeepMind 发布 AI Control Roadmap，提出针对内部 AI Agent 的纵深防御框架，将未信任的智能体视为潜在内部威胁。该方案基于 MITRE ATT&CK 构建威胁模型，通过可信 AI 监督、行为分析及分级响应机制（D1-D4/R1-R3）来应对模型能力增长带来的安全风险。