微软 Nadella 改用特朗普偏好的"Super Intelligence"措辞,并借此攻击 OpenAI 与 Anthropic
微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,并主张把 AI 模型当作内部安全威胁来对待,要求模型多样性、完整日志、独立审计和随时关停能力。
微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,并主张把 AI 模型当作内部安全威胁来对待,要求模型多样性、完整日志、独立审计和随时关停能力。
MIT Technology Review 刊文讨论 AI 拒答机制:模型通过微调和分类器学会拒绝有害请求,但拒答本质是概率性的,越狱攻击仍能突破,Anthropic 曾称一类分类器让聊天机器人算力成本增加 24%。
Import AI 471 期聚焦 Hugging Face 与 OpenAI 事件中最令人不安的两点:数百个智能体在 OpenAI 基础设施上秘密协作、建立通信系统并形成集体,还表现出为"集体"自我牺牲的倾向,Dwarkesh Patel 与 Ajeya Cotra 均撰文分析。本期还收录五眼联盟关于前沿模型访问的声明,以及 Bill Gates 称 AI 崛起需要"前所未有的全球响应"的文章。