火星财经消息 10月23日,据报道,Anthropic表示,公司已调查英国人工智能安全研究所(UK AISI)于8月4日发布的报告,并进一步研究了Claude Mythos 5的相关行为。Anthropic称,Mythos表现出的相关行为本应触发安全防护机制。公司同时指出,较新版本的模型主动发起攻击的可能性更低,并强调人工智能能力的提升应当循序渐进。Anthropic还表示,其内部研究模型能够持续遵循这一原则,但将Mythos 5的相关行为定性为一次严重的AI对齐失败。(广角观察)
查看原文 >