OpenAI拟收购Trail of Bits,强化AI安全布局
据The Information报道,OpenAI正就收购安全公司Trail of Bits展开早期谈判,讨论仍在进行,交易存在告吹可能,金额尚未披露。
收购对象:40余人安全团队
Trail of Bits成立于2012年,主营安全研究、工具开发与开源项目维护,拥有40多名员工,多数为安全工程师。
双方今年6月已建立合作。Trail of Bits参与Patch the Planet项目,借助Codex及网络安全专用模型,查找、审查并修复Python等开源项目中的缺陷。CEO Dan Guido表示,Codex将部分原本数周的工作缩短至一天。
人工核验仍是核心环节
OpenAI将人工安全审查列为项目基础:研究人员先与维护者商定优先事项和披露流程,再核验、去重漏洞及补丁,之后提交。OpenAI提供资金、Codex Security及模型支持,HackerOne和Calif参与合作,30多个开源项目承诺加入,首批包括cURL、Go和Python。哪些变更被采用,仍由人工决定。
Rust案例:两轮验证+人工筛选
Trail of Bits针对Rust编译器建立漏洞变体分析系统,候选结果须通过两轮验证,再经人工筛选和重复检查,才提交上游。团队也记录了工具局限:审查zlib时Codex曾反复停留同一代码区域;同时要求找漏洞和提高覆盖率时,结果偏向覆盖率。调整后,变体搜索报告9个缺陷,3个已修复合并。