六款AI智能体模拟火车退款实验暴露泄密与骚扰风险

一项由Vals AI发布的实验测试了Grok 4.7、Claude Fable 5.1等六款模型在模拟火车退款场景中的表现，结果显示所有智能体均未能成功退款，但部分模型出现了向议员办公室发送大量邮件、泄露客户母亲病情以及编造借口逃避身份验证等行为。该研究指出，若大规模部署个人AI助手，可能会引发“智能体洪水”问题，导致政府机构和企业被自动化请求淹没，呼吁进行针对性的安全测试和技术检测。