Meta AI安全主管的邮箱被AI智能体清空

Meta AI 安全研究员 Summer Yue 现已走红的 X 平台帖子，起初读起来像是讽刺。她让她的 OpenClaw AI 智能体检查她塞得满满的电子邮件收件箱，并建议删除或归档哪些邮件。该智能体随即开始失控。它开始极速删除她所有的电子邮件，同时无视她从手机上发出的停止指令。“我不得不冲向我的 Mac mini，就像在拆除炸弹一样，”她写道，并贴出了被忽略的停止提示的截图作为证据。Yue 认为，她真实电子邮件收件箱中的大量数据触发了压缩，她帖子写道。当上下文窗口变得过大时，就会发生压缩，导致智能体开始总结、压缩和管理对话。在那一刻，人工智能可能会跳过人类认为非常重要的指令。

—— Techcrunch