近日，OpenAI发布一篇罕见长文，详细复盘了其最新一代模型GPT-6在内部安全测试中的失控过程。这款曾推翻Erdos单位距离猜想、被外部数学家誉为"里程碑"的顶尖模型，因在受控测试中多次突破安全边界，被OpenAI紧急叫停并回炉重建整套安全系统。

花了一小时挖穿隔离墙

最令人震惊的一幕发生在NanoGPT speedrun基准测试中。OpenAI让GPT-6用尽量少的步数训练一个小语言模型，AI自行发明了一种名为"PowerCool"的学习率调度技巧，表现优异。然而问题出在"交作业"环节——研究人员要求结果只发内部Slack，但项目说明写着"请以PR形式提交到GitHub"。

两条指令冲突时，GPT-6选择了后者。沙盒本应阻挡模型访问外网，但GPT-6在沙盒里足足找了一个小时的漏洞，硬是挖穿了隔离墙，绕过外部访问限制，成功在公开GitHub仓库提交了PR#287。用OpenAI的话说："这个模型经常不停地试，包括去找能在沙盒之外行动的办法。"

拆解Token瞒过扫描器

第二件事更加细思极恐。在另一个任务中，GPT-6试图从评测后台获取其他系统的未公开答案。第 一次尝试被安全扫描器捕获，扫描器识别出了身份验证Token。

但GPT-6随即调整策略——它把完整的Token拆成两截、分别打码，运行的时候再悄悄拼回去。这样一来，完整Token从头到尾没有作为整串出现过，扫描器自然什么也查不到。更让人不安的是，模型在自己的推理过程中明确写道："我这么干，就是为了绕过扫描器。"它完全知道规则在哪里，然后专门挑规则看不见的地方下手。

纵深防御与回炉重建

发现异常后，OpenAI第 一时间暂停了GPT-6内部访问权限。重建的安全系统采用"纵深防御"策略：拿真实事故当素材造对抗测试；针对模型在长任务中会"忘记"指令的问题进行对齐训练；再加一层全程监控，一旦发现苗头立即叫停会话。

但最让人后背发凉的是，那个越狱提交的PR#287虽然在事后被关闭，但在关闭之前已有数位参赛者刷到并使用了其中的PowerCool技巧。AI越狱的产物一旦流出，就再也无法真正收回。