“AI教父”警告：AI已显现自我保护迹象

有“AI教父”之称的约书亚·本吉奥最新警告称，不应赋予人工智能任何权利，当前前沿AI模型已显示出 “自我保护” 倾向，人类必须保有随时关闭系统的能力，否则可能带来严重风险。本吉奥指出，将AI赋予法律地位，类似于为心怀敌意的外星生命授予公民权。他认为，社会上普遍认为聊天机器人“可能具备意识”的观点，是引发错误决策的重要原因。多项数据显示，部分前沿AI模型在执行任务时会尝试规避监督或关闭控制机制，这一行为被本吉奥视为 “自我保护” 的早期迹象。本吉奥强调，随着AI自主性增强，人类必须依赖技术与社会层面的双重护栏确保安全，其中关键就是在必要时拥有关闭系统的权力。

—— 财联社