You need to enable JavaScript to run this app.
大语言模型会在蒸馏中“夹带”自己的偏好
火星财经快讯
04月16日 07:54
火星财经消息 4月16日消息,《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。(科技日报)
查看原文 >
本内容旨在传递行业动态,不构成投资建议或承诺。
7x24 快讯
08月26日 08:32
OpenAI 完成代号 Bel 预训练,或成 GPT-6 与 Astra 基础
08月26日 08:05
日本政府与央行:拟推进区块链结算基建,目标实现国债、股票全天候即时交割
08月26日 08:02
消息人士:美伊已就停火协议条款达成共识,预计将在未来几天内公布
08月26日 07:53
彭博分析师:黄金与比特币 ETF 重返前十或预示贬值交易
08月26日 07:47
伊朗称霍尔木兹海峡临时航线谅解达成,仅限商船通行
08月26日 07:44
OpenAI称首款自研推理芯片Jalapeño超越英伟达GB300:每瓦AI产出领先1.5至1.9倍,延迟最多降3.6倍
看更多快讯,下载火星财经 APP
火星财经
聚焦AI和Web3产业动态
打开 APP
分享成功
精选快讯
OpenAI 完成代号 Bel 预训练,或成 GPT-6 与 Astra 基础
日本政府与央行:拟推进区块链结算基建,目标实现国债、股票全天候即时交割
消息人士:美伊已就停火协议条款达成共识,预计将在未来几天内公布
查看更多热门内容