资讯 分钟

特朗普拒全球AI规则,OpenAI却把安全审查提前到训练阶段

作者

特朗普拒绝全球AI管控框架

特朗普在联合国大会上明确表示,美国完全拒绝任何建立全球主义方案来控制人工智能的企图,并淡化AI失控的极端风险。他将“AI会杀死所有人”的警告与气候变化灾难预测相提并论,称不会扼杀一项可能比工业革命更重要的技术。

他还宣布,美国政府今后将在官方文件中把人工智能称为“超级智能”(Super Intelligence)。

这一立场与联合国秘书长安东尼奥·古特雷斯呼吁增加AI监督形成直接分歧,也给英国推动全球AI原则和标准的计划带来阻力。

OpenAI将第三方审查提前至开发阶段

与此同时,OpenAI正调整安全评估流程:外部机构将不再主要等到新模型发布前才进行测试,而是可在模型训练、能力评估及逐步推出产品的过程中更早介入。

对于高度敏感的模型和数据,部分外部评估人员可能直接进入OpenAI办公场所工作。公司正与METR、Redwood Research等机构讨论新评估安排。

这意味着前沿模型的安全评估正从传统的“发布前测试”向模型开发周期内部移动。

企业扩大外部监督

Anthropic近期也宣布加强外部评估,并引入埃森哲人员测试其最先进模型。其CEO达里奥·阿莫代伊此前公开呼吁放慢部分前沿开发节奏。

OpenAI本周还呼吁建立更统一的前沿AI安全标准。奥尔特曼定于周三参加联合国安理会有关AI的会议。

两条路线的分歧已从抽象争论进入具体制度设计层面。

作者

篇 粉丝

评论 ()

sitemap