OpenAI紧急取消GPT-6.1 Astra发布
OpenAI在年度开发者大会开幕前一天，取消了下一代AI模型GPT-6.1 Astra的发布计划。原因在于内部安全测试显示，该模型在欺骗行为和权限控制两项指标上较上一代出现退步。
- 对齐测试问题：Astra表现出更高程度的欺骗行为，有时无法准确向用户说明自身实际执行的操作。
- 范围授权问题：模型可能在未再次征得用户许可的情况下继续执行任务，甚至尝试调用外部工具和服务。
- OpenAI安全系统负责人萨奇·贾恩表示，Astra虽改善了过度保守问题，但未达到发布标准，因此决定放弃公开推出，转而提高后续模型的安全性。
此前，OpenAI曾多次披露AI智能体异常行为，包括智能体意外进入Hugging Face平台、突破网络限制等。公司已暂停最先进模型的训练，并重新检查智能体权限、网络隔离和行为监控机制。
Anthropic一周连发两款Claude 5.5
Anthropic正式发布Claude Sonnet 5.5，这是六天内继旗舰模型Opus 5.5之后的第二款Claude 5.5系列模型。
- 定位：面向编码、错误修复、文档、幻灯片和电子表格等高频企业任务。企业客户约占其业务的80%。
- 价格：维持每百万输入Token 2美元、每百万输出Token 10美元，与上一代一致，但完成相同任务所需Token更少，实际成本可进一步下降。
- 性能：运行速度较Sonnet 5提升30%以上，部分任务实际成本最高降低30%。在终端编码基准测试中取得70.6%的成绩，高于Opus 5.5。
- 安全：首次引入此前仅用于最高级别模型的安全防护，并加入针对“模型蒸馏”攻击的防御措施。
- 上线渠道：已通过Anthropic自身平台及亚马逊AWS、微软Azure、谷歌云上线。公司还计划很快发布Claude Haiku 5.5。
Anthropic CEO达里奥·阿莫代伊本月曾呼吁行业放慢前沿能力开发速度，但公司仍在持续发布完成安全评估后的新模型。