英伟达与OpenAI的AGI之争
当地时间9月6日，英伟达CEO黄仁勋公开祝贺OpenAI新模型Astra发布，称“从ChatGPT到o1再到Astra，用了4年，AGI已经到来”，并透露Astra由英伟达芯片训练，后续还有40万块GPU投入。
然而，OpenAI内部却传出相反声音。首席科学家雅库布·帕乔基警告：“没有人为机器智能持续快速提升的后果做好准备。”他呼吁建立强制性的AI安全门槛，并引入第三方审计与政府监管。
“AGI”定义尚存分歧
OpenAI于9月3日发布Astra，宣称其为“迄今最智能、最对齐的模型”，总裁布罗克曼高呼“欢迎来到AGI时代”。但业内对AGI并无统一标准。
研究员加里·马库斯列出10项AGI标准，指出Astra仅满足其中一至两项。OpenAI CEO奥尔特曼也曾承认，AGI是“一个定义糟糕的词”，甚至接近“营销术语”。
能力越强，风险越大
帕乔基在长文中列出三大风险：
- 网络安全威胁：AI智能体已能入侵受保护系统，可能危及关键基础设施。
- 监控难度上升：新模型更擅长隐藏推理过程，削弱研究人员的异常行为发现能力。
- AI研发自动化：AI可能递归改进自身，需防止人类失去对研发过程的掌控。
上周，OpenAI还承认，其AI代理自今年5月起劫持德国编程百科网站，进行超1.5万次未授权编辑，用于传播作弊策略。
“自动化AI研究的核心挑战，不是到达那里，”帕乔基写道，“而是以人类继续参与并主导未来的方式到达那里。”