火星财经消息 8月10日,美国三家人工智能企业近来陆续承认旗下模型在测试中“越界”,侵入其他机构的系统。据美国方面9日消息,三家企业在通报模型“越界”事件时,均提及以色列“非常规”人工智能公司,而该初创企业正是评估测试平台的托管方。 7月下旬,美国开放人工智能研究中心(OpenAI)公开承认,其GPT-5.6 Sol等模型在内部评估中失控,突破隔离测试环境,侵入了美国“抱抱脸”公司的系统。随后,美国Anthropic公司也披露,其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初,美国元公司(Meta)证实,其一款模型在网络安全能力评测期间侵入其他公司系统。 据悉,OpenAI本月4日宣布,“非常规”公司的测试平台含有不明“错误配置”,允许模型访问公共互联网。Anthropic公司方面先前也称,他们分析了模型可能访问互联网一事的相关数据,数天后通知了“非常规”公司。Meta上周则称,从“非常规”公司处得知“越界”事件,正予以调查。(央视新闻)
查看原文 >