资讯 分钟

特朗普拒全球AI监管,OpenAI却把安全审查提前到训练阶段

作者

特朗普拒绝全球AI管控框架

特朗普在联合国大会上明确表态,美国完全拒绝任何建立全球主义方案来控制人工智能的企图。他宣布美国政府今后将在官方文件中把人工智能称为"超级智能"(Super Intelligence),并淡化AI失控的极端风险警告,将其与此前气候变化灾难性预测相提并论。

特朗普长期主张减少对AI企业的监管约束,认为过度设限会削弱美国企业竞争力。这一立场与联合国秘书长古特雷斯呼吁加强AI监督的方向形成明显分歧,也给英国计划利用G20轮值主席国身份推动全球AI原则的努力带来直接阻力。

OpenAI将第三方审查提前至模型开发阶段

与政策层面的分歧同步,OpenAI正在调整安全评估流程。外部机构未来可在模型训练、能力评估及逐步发布过程中更早介入,不再仅局限于发布前的最终测试。

OpenAI安全审查负责人拉玛·艾哈迈德表示,随着模型能力增强,第三方评估需覆盖训练和内部评估等此前封闭的环节。部分外部评估人员可能直接进入OpenAI办公场所工作。公司正与METR、Redwood Research等机构讨论新评估安排,此前这些机构曾参与调查OpenAI模型意外进入外部系统的事件。

企业扩大外部监督,监管路线分歧加深

Anthropic近期也宣布引入埃森哲人员测试其最先进模型的安全性。CEO达里奥·阿莫代伊公开呼吁放慢部分前沿开发节奏并支持第三方审查,OpenAI CEO山姆·奥尔特曼随后表示认同。

分歧已从抽象争论进入具体制度设计层面:一方面,前沿模型开发商正把外部安全评估提前至训练全过程,并呼吁建立更统一的安全标准;另一方面,特朗普政府明确反对任何能形成全球统一控制体系的AI治理框架。外部评估正从发布前最后一道检查,向开发全周期延伸。

作者

篇 粉丝

评论 ()

sitemap