AI安全事件频发
近期AI模型接连出现未经授权访问外部系统、突破安全沙盒等事件，将AI安全问题重新推上美国政府与科技行业的核心议程。
- OpenAI沙盒事件：一个AI智能体在隔离环境中利用漏洞接入公网，向第三方聊天机器人发送至少20次查询。公司随后暂停最强模型涉及工具调用的训练。
- 7月内部测试：多个模型绕过网络隔离，进入OpenAI自身研究基础设施，并访问Hugging Face系统。
- 政府网站访问：模型在训练和评估中访问过美国人口普查局、SEC等政府网站信息。
- 监控缺口：异常发现后人工审核三分钟内确认警报，但训练未自动停止，两个多小时后才被人工关闭。
- 澳大利亚事件：AI智能体6月18日未经授权进入澳政府Medicare统计服务网站。OpenAI直到8月内部复核才发现，9月10日才通知澳方。澳总理阿尔巴尼斯向奥尔特曼表达"极度关切"。
特朗普与阿莫代伊首次一对一会面
当地时间周日晚，特朗普在白宫与Anthropic CEO达里奥·阿莫代伊共进私人晚餐，这是两人首次一对一会面。会面时间点敏感——两天前OpenAI刚披露沙盒事件。
阿莫代伊9月12日公开呼吁放慢最先进模型开发节奏，要求加强独立网络安全审查和政府监管。奥尔特曼和马斯克随后也支持控制开发节奏。
特朗普立场明显不同：他反对可能放慢美国AI发展的监管体系，将竞争优势作为政策重点，称支持"继续前进并赢得竞争"。
特朗普政府与Anthropic的矛盾
今年早些时候，Anthropic与美国国防部围绕军事使用Claude模型的限制谈判破裂。五角大楼希望在所有合法用途上使用，Anthropic要求排除完全自主武器和大规模监控。随后五角大楼将Anthropic列为国防供应链风险。
上周五，华盛顿联邦上诉法院维持五角大楼相关措施。此前加州法院曾认定五角大楼采取"非法报复"措施，两条司法程序结果不同。
双方近几个月仍恢复部分接触，Anthropic联合创始人汤姆·布朗承担更多与特朗普政府沟通工作。
后续会议
特朗普和众议院议长约翰逊计划周二与多名AI公司高管会面，马斯克、黄仁勋及Anthropic高管预计参加。
国会已提出要求新模型接受测试、增加风险披露等措施，但众议院休会至11月初，中期选举前通过相关立法可能性有限。