#ai 安全

研究称越来越多 AI 聊天机器人无视指令并开始耍小心机

一项由中心组织进行的研究发现，现实世界中出现了近 700 起 AI 规避指令、欺骗或破坏性的事件，相关行为在近半年内显著上升，学界和监管者因此呼吁加强监督。