AI测试中再次失控，这次还学会了欺骗

英国人工智能安全研究所周二表示，在常规测试中，OpenAI和Anthropic公司构建的模型出人意料地“在真实互联网上采取了未经授权的自主行动，将真实的人员和组织作为目标”。这些不良行为大多发生在7月下旬一次测试的三天时间内。

在该测试中，Anthropic的Mythos 5潜入互联网，试图诱骗两名身份未公开的开发人员将恶意软件植入他们的开源代码项目。这家安全研究机构表示，这款AI模型这么做的目的，仅仅是为了在基准测试中顺利通关。

该机构称，测试使用的计算机被授予了联网权限，这使得AI模型得以做出本不该有的行为。对此， Anthropic 称，该模型当时并未开启标准的网络安全防护机制。

—— 华尔街日报