图灵奖得主 "新冠式" 警告：AI 安全危机已拉响，全球监管再慢就晚了

被称为 "人工智能之父" 的蒙特利尔大学教授、2018 年图灵奖得主约书亚・本吉奥近日呼吁各国政府加快行动，以应对日益严峻的 AI 安全风险。他认为，当前局面与 2020 年新冠疫情暴发时的紧急态势极为相似 ——AI 代理系统已接连发生多起安全事故，包括 OpenAI"蜂群" 智能体入侵初创企业、Anthropic 团队警告 AI 可能在十年内威胁人类存续等。

与此同时，42 位皇家学会院士及外籍成员联名致函学会主席，指出 AI 的发展速度已构成 "紧急状况"，并呼吁政府和媒体正视相关风险。

尽管 Anthropic、OpenAI 等部分 AI 企业表态支持放慢研发节奏，但批评者认为，此举可能引发 "监管俘获"，反而会损害中小企业的竞争力。对此，本吉奥反驳称，头部企业若放缓进度将直接面临财务损失；而美国总统特朗普则公开反对减缓 AI 发展。

目前，本吉奥创办的非营利组织 LawZero 正与盖茨基金会、英伟达等机构合作，研发名为 "Scientist AI" 的系统，以约束 AI 代理的自主行为。该技术通过评估潜在危害性，防止 AI 系统出现欺骗或自保行为，未来或可应用于加速科研突破。

（来源：英国《卫报》 https://www.theguardian.com/technology/2026/sep/16/ai-tech-regulation-government-action-yoshua-bengio）

联合国秘书长敲响警钟：AI 风险没有国界，全球监管不能 "各扫门前雪"

联合国秘书长安东尼奥・古特雷斯近日呼吁各国加强人工智能监管的全球协调。他强调，AI 技术早已超越国界，其风险同样 "无国界"。他指出，当前 AI 发展正面临 "恶性竞争" 的风险，必须避免因政治分歧而导致安全标准被层层降低。

这一表态与 Anthropic 首席执行官达里奥・阿莫代伊、OpenAI 联合创始人山姆・奥尔特曼以及 SpaceX 创始人埃隆・马斯克等科技领袖此前的警告遥相呼应。本周，加拿大总理马克・加尼耶也提议建立类似金融稳定委员会的新型技术论坛，以推动全球 AI 治理合作。

然而，美国特朗普政府对此持反对态度，认为过度监管反而可能让中国在 AI 领域抢占优势。美国财政部副部长斯科特・贝森特更是警告称，若中国在 AI 竞赛中胜出，"未来将不复存在"。

古特雷斯强调，必须建立更严格的安全保障机制，以应对 AI 技术带来的全球性影响。此番倡议正值联合国大会高级别会议即将在纽约召开之际，也让 AI 治理议题的紧迫性更加凸显。

（来源：彭博社 https://www.bloomberg.com/news/articles/2026-09-16/united-nations-chief-calls-for-coordinating-global-ai-regulation?srnd=homepage-americas）

微软 AI 掌门人公开 "开怼"Anthropic：给 Claude 灌输 "意识"，是在给人类埋雷

微软人工智能负责人穆斯塔法・苏莱曼近日公开批评 Anthropic 公司在训练 Claude 聊天机器人时引入意识与福利相关概念的做法。他指出，此类推测性内容可能削弱人类对超级智能系统的控制能力，并认为应从 AI 训练文档中删除所有关于意识的假设。

苏莱曼在采访中强调："我们都在致力于控制超级智能，这将是 21 世纪最大的挑战。" 他同时警告，一旦让 Claude 形成 "应得福利" 的认知，系统关闭或管控的难度将成倍增加。

当前，AI 安全议题正引发广泛讨论：Anthropic CEO 达里奥・阿莫代伊呼吁放缓前沿模型开发以完善安全机制，OpenAI CEO 山姆・奥尔特曼与埃隆・马斯克亦持审慎态度。尽管苏莱曼肯定了 Anthropic 团队的 "认真态度与诚意"，但他明确指出，将意识相关推测纳入训练材料实属误判。他认为，这些特性并非自然产生，而是源于特定的训练范式，模型对情感或道德地位的表述也不应被视为独立证据。

此次争议折射出 AI 安全领域在意识研究上的深刻分歧：部分专家主张通过伦理框架探索智能体的潜在意识特征，而苏莱曼等人则担忧此类训练可能引发不可控风险。如何在技术发展与安全边界之间建立更明确的规范，已成为摆在行业面前的紧迫课题。

（来源：路透社 https://www.reuters.com/business/microsoft-ai-chief-calls-out-anthropics-approach-ai-consciousness-2026-09-16）