动察 Beating AI 快讯,OpenAI 开始给 GPT-6.2 Astra 和 Sol 的隐藏思维链加锁,防止其他模型通过 API 偷走推理过程,用来训练自己的模型。这套机制与 Anthropic 先前推出的防蒸馏措施高度相似。 10 月底,《The Information》援引知情人士报道称,DeepSeek 和月之暗面在训练新模型时,大量使用了 GPT-6 Astra 的输出。此前,国内 AI 公司曾大量蒸馏 Claude,但 Anthropic 不断加强封堵,促使部分厂商把目标转向 OpenAI。 蒸馏就是让一个模型学习更强模型的输出,以较低成本获得类似能力。如果能拿到完整的思维链,连模型如何拆解问题、一步步得出答案都能学走,比只看最终答案更有价值。 Anthropic 今年 6 月已经给 Claude 的加密思维链加上「上下文锁」。OpenAI 如今也采用类似机制:在多轮对话中,每段推理都与生成它之前的历史消息绑定。如果开发者修改旧提示词、工具配置或对话内容,API 就可能丢弃改动位置之后的推理项,防止攻击者通过篡改上下文诱导模型泄露内部思考。 OpenAI 公布的自测结果显示,在尝试提取上一轮隐藏推理的攻击中,GPT-6 Astra 的平均攻击成功率高达 54%,GPT-6.2 Astra 降至 0.2%,Sol 为 0.5%。 正常开发者也会受到影响。修改旧消息或压缩聊天记录,可能导致 Agent 丢失之前的推理成果,增加 Token 消耗和响应延迟。OpenAI 因此建议尽量保留原始对话历史,并使用官方提供的上下文压缩接口。
查看原文 >