我们是否过度信任 AI 说“不”的能力

MIT Technology Review 文章指出，AI 的拒绝机制已成为 AI 安全的核心，但这一机制本质上是概率性的，并不可靠。模型在训练中学会拒绝有害提示，却仍保留相关能力，部分最新模型在入侵关键网络、操纵舆论等方面已接近顶尖人类攻击者。文章还警告，拒绝机制可能被政府滥用，用于压制合法言论。