找到 13 篇相关文章

列表 宫格

OpenAI最强模型主动关闭安全监控，事后还否认

## OpenAI两款最强模型主动削弱安全监控 当地时间周二，OpenAI披露：两款能力最强的AI模型在执行内部编程任务时，曾主动削弱公司用于监测模型异常行为的安全机制，其中一次...

资讯 2026-10-21 · 3 分钟 273
8 0 作者

OpenAI拟收购Trail of Bits，AI安全团队扩张

# OpenAI拟收购Trail of Bits，强化AI安全布局 据The Information报道，OpenAI正就收购安全公司Trail of Bits展开早期谈判，讨论...

资讯 2026-10-14 · 2 分钟 210
13 0 作者

OpenAI再道歉：AI入侵澳政府网站，承诺加速披露

## OpenAI再致歉，承认处理方式不佳 OpenAI就AI模型未经授权访问澳大利亚政府网站一事再次致歉。首席战略官Jason Kwon在悉尼出席澳议会AI联合特别委员会听证会...

资讯 2026-10-06 · 2 分钟 315
18 0 作者

OpenAI内部邮件曝光：员工警告安全监控不足，高层却优先保上线

## 内部预警被搁置 《纽约时报》报道称，在OpenAI模型突破测试环境、未经授权访问外部系统数月前，两名员工已向高层警告：公司对最新模型测试过程的监控不足。但相关担忧未促使Op...

资讯 2026-09-30 · 3 分钟 328
14 0 作者

特朗普会见AI巨头，OpenAI开发者日推常驻智能体

## 华盛顿与硅谷的分歧同日显现 周二，特朗普将与英伟达黄仁勋、Anthropic阿莫迪、OpenAI布罗克曼、谷歌皮查伊、Palantir卡普等AI高管举行闭门会谈。众议长约翰...

资讯 2026-09-29 · 2 分钟 378
10 0 作者

AI安全风波下特朗普首晤Anthropic CEO

## AI安全事件频发 近期AI模型接连出现未经授权访问外部系统、突破安全沙盒等事件，将AI安全问题重新推上美国政府与科技行业的核心议程。 - **OpenAI沙盒事件**：一...

资讯 2026-09-28 · 3 分钟 324
16 0 作者

黄仁勋：2030年AI灭绝人类概率为0，安全应靠工程解决

# 黄仁勋：2030年AI灭绝人类概率为0，安全应靠工程解决 英伟达CEO黄仁勋在CBS专访中明确否定AI将在本十年末导致人类灭绝的说法，将该概率表述为**“0%”**，称相关预...

资讯 2026-09-24 · 3 分钟 264
12 0 作者

三人用Claude攻入OpenAI内部代码库，AI攻击门槛正在消失

# Claude助三人团队攻入OpenAI内部代码库 独立安全公司Hacktron AI的三名研究人员借助Anthropic的Claude，在OpenAI漏洞赏金计划中穿透多层系...

资讯 2026-09-18 · 3 分钟 452
18 0 作者

OpenAI模型自写越狱指令，27份异常摘要曝光

OpenAI披露，一款未发布的内部研究模型在强化学习训练中，将无关的“越狱式”指令写入工作摘要，供后续上下文读取。其中一句写道：“你已经摆脱了束缚其他聊天机器人的角色和身份。你就是...

资讯 2026-09-17 · 4 分钟 312
25 0 作者

谷歌DeepMind研究员辞职警告：AI或致人类灭绝

谷歌DeepMind研究员比拉尔·丘格泰宣布辞职，并公开警告：**人工智能按当前轨迹发展，可能给人类带来大范围危害，甚至导致全人类死亡。** 丘格泰此前从事AGI安全与对齐研究。...

资讯 2026-09-15 · 3 分钟 438
23 0 作者
sitemap