火星财经消息,美国政府对 Anthropic 模型 Fable 5 / Mythos 5 的出口管制与访问限制,部分源于亚马逊的网络安全研究以及 AWS CEO Andy Jassy 与白宫的沟通推动。据悉,亚马逊提交的研究指出,通过一系列提示词测试,研究人员能够诱导 Fable 5 输出可能被用于网络攻击的敏感信息,从而引发安全担忧,随后 Andy Jassy 将相关发现上报美国政府层面,促使白宫采取进一步限制措施,包括禁止外国用户访问该模型。同时,前美国商务部官员 Kate Koren 透露,白宫对 Anthropic 的既有政策立场也可能影响了此次决策判断,因为 Anthropic 在 AI 安全边界问题上与白宫存在分歧,包括拒绝将模型用于大规模监控或致命自主武器系统。尽管双方在今年早些时候一度缓和并扩大合作,但此次事件可能再次加剧双方紧张关系。
查看原文 >