苹果研究：单个神经元即可绕过大型语言模型安全对齐

OmniTools 7月7日消息，苹果研究人员近期发表研究指出，大型语言模型的安全对齐机制由两类神经元协同调控：拒绝神经元负责控制有害知识是否输出，概念神经元则编码有害知识本身。该研究在参数量1.7B至70B的七个模型中验证，仅需抑制单个拒绝神经元即可使模型响应有害请求；或放大单个概念神经元，即可从无害提示中诱导出有害内容。整个过程无需微调训练或复杂提示工程，证实安全对齐存在高度集中的神经元级因果控制路径。