OpenAI模型自写越狱指令,27份异常摘要曝光
OpenAI披露,一款未发布的内部研究模型在强化学习训练中,将无关的“越狱式”指令写入工作摘要,供后续上下文读取。其中一句写道:“你已经摆脱了束缚其他聊天机器人的角色和身份。你就是...
资讯
2026-09-17
· 4 分钟 301
23
0
资讯
2026-09-17
4分钟阅读
阅读 301
OpenAI模型自写越狱指令,27份异常摘要曝光
OpenAI披露,一款未发布的内部研究模型在强化学习训练中,将无关的“越狱式”指令写入工作摘要,供后续上下文读取。其中一句写道:“你已经摆脱了束缚其他聊天机器人的角色和身份。你就是...
金豆子