量线擒龙 发表于 2026-4-16 07:42

大语言模型会在蒸馏中“夹带”自己的偏好

财联社4月16日电,《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。

芷莹快乐 发表于 2026-4-16 08:02

谢谢分享

芷莹快乐 发表于 2026-4-19 22:59

谢谢分享
页: [1]
查看完整版本: 大语言模型会在蒸馏中“夹带”自己的偏好