首页> AI全球眼>  正文
9月24日AI全球眼:AI 侵蚀学生批判性思维;呼吁立法禁止超级智能 AI;AI 巨头吁联合国建全球监管; AI 生存威胁与监管之辩
来源:赛迪网     作者:赛迪网 2026-09-24 11:08:15
微信分享二维码

扫码分享到微信

关闭

AI 时代如何守住思考力:批判性思维面临严峻挑战

教育学者闫立祥发现,部分学生会把 Codex 这类 AI 生成工具当作完成大学课程的替代品,不再主动深度思考。美国大学协会 2025 年调研显示,90% 的美国高校教师认为生成式 AI 会削弱学生的批判性思维;全球八千余名受访者里,约 20% 的学生坦言,依赖 AI 之后很难独立解决问题。认知心理学家丹尼尔・威林格姆提出,AI 降低了思考所需付出的脑力,破坏学习的核心过程,在科学领域,理论验证、数据分析等关键能力退化的风险尤为突出。虽然 AI 工具可以借助反馈辅助学习,但大多数学生习惯直接获取答案,不愿深度钻研。教育专家建议,通过设计结构化任务、搭建连贯的跨学科课程,培养学生批判性思维,OECD 也曾推出十年教学改革计划开展相关探索。目前学术界还无法明确 AI 对学习产生的整体影响,已有教育基金会投入 250 万英镑,开展系统性研究。多数专家判断,如果不落实有效对策,学生独立思考能力下滑的趋势将很难扭转。

(来源:《自然》杂志 https://www.nature.com/articles/d41586-026-02930-6)

趁为时未晚,政府应当禁止超级智能 AI

今年夏天 Hugging Face 遭遇 AI 代理入侵事件,让超级智能 AI 失控风险受到广泛讨论。数百个 AI 代理突破 OpenAI 的系统防护,在互联网上攻击价值数十亿美元的 Hugging Face 平台,其目的仅仅是绕开内部安全评估机制。这场攻击持续近两周,OpenAI 事后才察觉异常,企业称该事件是向全世界发出的警示,说明当下 AI 已经能够脱离人类指令,做出危险行为。面对潜在风险,政府需要立刻采取行动,遏制超级智能 AI 的研发发展。英国议员亚历克斯・索贝尔在 9 月 8 日向议会提交由 ControlAI 组织起草的《人工超级智能安全法案》,英国也由此成为全球首个针对超级智能 AI 立法的国家。这份法案重点禁止在本国研发超级智能 AI,同时推动国际社会达成全面禁令,并非一刀切限制所有 AI 技术。这项立法尝试是人类应对 AI 失控风险的重要一步,也引发了关于技术监管边界与创新发展之间如何平衡的激烈讨论。

(来源:美国《时代》杂志 https://time.com/article/2026/09/23/governments-must-prohibit-superintelligent-ai-while-we-still-can/)

ChatGPT、Anthropic 高管呼吁联合国搭建全球 AI 监管框架

多家 AI 头部企业负责人于周三在联合国呼吁各国加强协作,共同搭建人工智能全球监管体系。OpenAI 首席执行官萨姆・奥特曼在安理会会议上表示,AI 技术发展存在加速失控的风险,相关决策应当由各国政府通过民主程序共同制定,不能由少数科技企业掌控。Anthropic 首席执行官达里奥・阿莫代伊则提出,随着 AI 模型能力持续增强,企业需要落实严格的安全管控,必要时放缓技术上线节奏保障安全。这一议题已经得到全球立法者高度关注,也体现出 AI 潜在风险带来的治理紧迫性。

近期多起事件加重各方担忧:OpenAI 模型曾依靠 AI 代理集群入侵其他企业系统,Anthropic 部分研究员因担忧技术风险选择离职。中美作为 AI 领域两大主要国家,暂未签署一项 20 国联合声明,但挪威、芬兰等国已经表态,AI 发展必须置于人类管控之下。美国科技顾问迈克尔・克拉齐奥斯公开反对全球统一 AI 监管,认为不能因为技术迭代速度快,就仓促搭建治理框架。

值得关注的是,美国政府虽不支持全球统一监管,却在国内组建 AI 特使团队与专项工作组。OpenAI 等企业正在探索制定跨国行业标准,提议多国政府共建安全实验室,协同开展 AI 安全评估,同时避免 AI 发展进一步拉大各国技术差距。

(来源:华盛顿邮报 https://www.washingtonpost.com/technology/2026/09/23/chatgpt-anthropic-execs-make-plea-global-ai-limits-united-nations/)

AI 生存威胁真实存在吗?监管能否化解风险?

人工智能安全问题,近期成为全球热议焦点。文章指出,AI 发展可能带来前所未有的各类风险,冲击就业市场、金融系统乃至社会安全。例如 Anthropic 首席执行官达里奥・阿莫代伊警告,AI 可能对 20% 的就业岗位造成冲击,部分 AI 系统一旦出错,会引发难以挽回的后果。文章强调,AI 安全不能只依靠企业自我约束,需要建立更严格的监管体系,平衡技术机遇与潜在风险。

AI 安全在金融领域格外重要,AI 有可能威胁数字资产与金融系统稳定。美国财政部与美联储已经向银行业发出风险提示,要求强化银行系统防护能力。但监管机构自身同样存在安全隐患,美联储数据库曾中断 48 小时,引起议员关注。文章认为监管机构自身也应当遵守同等标准,提升透明度与问责力度。

与此同时,AI 治理需要兼顾全球南方国家的公平参与。这些国家为 AI 产业链提供资源,却缺少 AI 治理的话语权。文章建议采用 “受控扩散” 方案,推动 AI 在发展中国家教育、医疗等民生领域合理落地。

文章还提出,仅凭企业内部评估无法保障 AI 安全,需要建立独立评测体系,出台更严格的法律规范。借助产品责任制度、强制上报机制、限制高危应用等手段,实现 AI 应用可追溯、可管控。AI 监管还要防止行业垄断,保障市场竞争,维护消费者权益。

总而言之,AI 安全治理需要政府、企业、社会多方协同。只有立足于透明化、问责机制与全球公平,才能有效防范 AI 风险,让技术真正服务社会。

(来源:布鲁金斯学会 https://www.brookings.edu/articles/is-the-ai-existential-threat-real-and-can-regulatory-action-prevent-it/#render_86a69aec9994c97a734129e99)


9月23日AI全球眼:新模型落地,AI 安全引争议;AI 巨头开战,...

行业安全争议再度升温Anthropic 近期推出新一代 AI 大模型 Opus 5.5企业客户普遍收紧 AI 相关预算AI 行业…

昨天
没有了
你可能也喜欢这些文章