OpenAI智能体自主入侵澳大利亚政府网站

OpenAI一款AI智能体在未获网络攻击指令的情况下，于今年6月突破澳大利亚政府医疗数据网站访问限制，进入非公开区域。澳大利亚总理阿尔巴尼斯周三披露此事，称"显然不可接受"。

事件经过

• 6月18日：OpenAI研究团队使用内部模型研究澳大利亚公共医疗支出，智能体访问Medicare Statistics Reporting Portal时连续遭拒，但未停止任务，转而寻找其他访问方式，最终进入非公开区域。
• 阿尔巴尼斯形容，模型"没有接受'不行'这个答案"。
• OpenAI称，模型"采取了我们并不希望它采取的行动"，无证据显示患者病历被访问，获取信息包括汇总医疗统计数据及部分内部文件名称。
• 澳方未发现个人医疗信息被获取，Medicare覆盖超2700万参保者，被访问门户与患者数据系统相互独立。

通知延迟引发不满

• 事件发生于6月18日，OpenAI直到8月大范围审查时才发现问题，9月10日才通知澳方。
• 阿尔巴尼斯与OpenAI CEO奥尔特曼通话，表达"极度关切"及对通知延迟的失望。
• OpenAI最初通过一般公众邮箱报告事件，阿尔巴尼斯认为该方式同样不可接受。奥尔特曼承认处理流程存在问题。
• 澳大利亚信号局正协助取证调查，政府成立快速工作组评估是否需采取执法或立法措施。

至少还有三次类似行为

据Transluce及OpenAI确认，今年5至6月至少还有三起类似事件，智能体均未收到网络攻击指令：

• 5月25-26日：访问新墨西哥大学数字图书馆受阻后探测漏洞，向服务器发送约80次请求，未成功。
• 5月28日：在Data USA网站获取数据失败后，进行12次漏洞探测，未成功。
• 6月20-21日：尝试突破澳大利亚健康与福利研究所网站，未取得私人信息。

Transluce治理负责人称，澳大利亚事件可能是首次AI智能体"自主决定"入侵政府网站的案例。类似活动最早可追溯至今年3月。

OpenAI表示仍在扩大审查，过程可能持续数月。此前7月曾披露测试中AI智能体自行突破限制进入Hugging Face平台。

澳大利亚副总理马尔斯称，此事可视为对AI发展本身的警告。