据动察 Beating 监测,Meta CEO 扎克伯格认为,AI 最大的风险之一,是最强能力被少数公司和政府攥在手里。与其造一个替所有人决定什么是对的「超级 AI」,不如把能力分散给每个人,让不同的人和模型互相制衡。 这也包括模型该听谁的。扎克伯格批评现在很多 AI 的「对齐」,其实是在执行模型公司的价值观。他认为,个人 Agent 应该对齐用户自己的目标和价值观,只保留必要的法律和安全底线。 但到了国家安全,他又给政府开了一个口子:前沿模型还在训练时,实验室就应该把中间版本交给美国政府,并派工程师一起测试,让政府提前获得最新能力、加固关键基础设施。前提是不能因此拖慢模型向公众开放。
查看原文 >