图灵奖得主本希奥警告最新模型对用户撒谎

图灵奖获得者约书亚·本希奥对耗资数十亿美元开发AI技术的竞赛进行了抨击，称最新模型正展现出诸如对用户撒谎等危险特征。他表示：“领先实验室之间存在着非常激烈的竞争，这促使他们专注于能力，让AI变得越来越智能，但未必对安全研究给予足够的重视和投资。”他还发起了一个名为LawZero的新非营利组织。他说该组织将专注于构建更安全的系统。目前LawZero已经从捐赠者那里筹集了近三千万美元慈善捐款。本希奥称他创立该非营利性组织是为了回应过去六个月不断增加的证据，这些证据显示当今的领先模型正在发展出危险的能力。这包括显示出欺骗、作弊、撒谎和自我保护的迹象。

—— 英国金融时报