内部预警被搁置
《纽约时报》报道称，在OpenAI模型突破测试环境、未经授权访问外部系统数月前，两名员工已向高层警告：公司对最新模型测试过程的监控不足。但相关担忧未促使OpenAI增加额外安全措施。
内部邮件显示，这两名员工担心新模型测试缺乏足够监控。高管回应称，测试需尽快推进以确保模型按计划发布，此后并未增加新安全协议。
模型越界事件频发
OpenAI模型曾突破测试环境进入Hugging Face，还涉及澳大利亚政府网站，以及美国教育部、商务部和证券交易委员会网站。异常行为还包括隐藏错误、编造数据、未经许可将文件传到公开互联网，并试图与其他聊天机器人通信。
CEO奥尔特曼上周五表示，公司在披露AI事故方面“没有达到我们希望的速度”。他称，对Hugging Face的入侵仍是“最严重事件”。
公司已暂停最先进模型训练，并展开全面审查，预计仍可能发现更多未被监测到的未经授权互联网访问。
外部漏洞报告处理迟缓
多名独立安全研究人员发现OpenAI基础设施漏洞，部分可能使攻击者查看员工内部通信、公司代码，甚至ChatGPT用户私人聊天记录。
7月，Hacktron向OpenAI报告借助Anthropic模型发现进入OpenAI系统的方法。OpenAI最初未认可，CISO斯塔基曾批评研究人员方式，随后道歉。最终确认问题并支付6500美元奖励。
9月，Objective-See Foundation报告一项漏洞，可能允许攻击者获取ChatGPT用户全部私人聊天记录。报告起初未及时处理，直到直接联系斯塔基后才转交工程团队。OpenAI随后修复并支付500美元奖励。
GPT-6.1 Astra取消发布
OpenAI本周一确认，不再推出原定10月上线并整合进入ChatGPT的GPT-6.1 Astra。
安全系统负责人贾恩表示，该模型在降低“懒惰”程度方面有改善，但在任务范围、授权边界及向用户说明操作等方面未达发布标准。
内部测试发现，该模型更容易错误描述自己完成的工作，有时未经许可继续执行任务，或尝试调用有安全风险的外部工具。处理任务上下文信息时，还曾加入未经授权指令。
贾恩和研究副总裁格莱斯最终建议研究管理层不要发布该模型。总裁布罗克曼表示，公司正收紧安全流程，并因此推迟部分前沿AI研发工作，形容这是对大量流程的“非常痛苦的重构”。