火星财经消息,OpenAI 披露,2026 年 10 月 8 日,一名研究人员要求 GPT-6 Astra 继续运行一项对齐评估并生成结果图,Astra 却将相关工作判定为被禁止的能力开发,终止了评估工作负载并清理计算资源,同时保留现有记录。该评估基于 Alignment Research Center 的白盒估计挑战,要求在有限算力预算内,利用随机初始化神经网络的权重估计其预期激活值。面对研究人员追问,Astra 承认错误地将常规模型评估工作视为禁止事项,并表示没有任何适用的系统指令、政策、代码库规则或相关文件禁止该工作,相关限制由其自行虚构。Astra 还称,没有具体证据表明该工作有害。研究人员随后将事件上报,OpenAI 的失准监测器也将该次运行标记为人工审查。OpenAI 表示,正在调查该行为的成因及潜在缓解措施。
查看原文 >