澳大利亚要求AI公司详细说明儿童保护措施

澳大利亚已要求四家人工智能聊天机器人公司说明其说明如何防止儿童接触到性内容或自残相关内容，表明该国网络监管机构正加强对AI领域的安全防护。电子安全专员办公室在一份声明中说，已要求相关公司提供关于防范儿童性剥削、色情，以及宣扬自杀或饮食失调内容的具体保障措施。收到通知的公司包括名人模拟聊天工具character.ai的母公司Character Technologies，以及竞争对手Glimpse.AI、Chai Research和Chub AI。专员朱莉·英曼·格兰特在声明中表示：“这些服务也有阴暗的一面，许多聊天机器人能够与未成年人进行露骨的性对话。有人担心它们还可能鼓励自杀、自残和紊乱饮食行为。”

—— 路透社