Anthropic给AI危险知识装开关，一个模型切出16种配置

发布时间：2026-07-09 已有：位网友关注

　　币界网消息，Anthropic与AE Studio发布新研究，尝试给AI的「双用途知识」装上开关。双用途知识指既能用于正当研究，也可能被滥用的能力，比如病毒学、网络安全和核物理。研究团队在线类双用途领域：病毒学、网络安全、核物理和小众编程语言。4个模块可组合出16种能力配置。相比为每种配置单独训练模型，这种方法只需一次训练。结果显示，Gram在保留通用能力的同时，能较好移除目标能力，对小规模恶意微调的抵抗也强于训练后「遗忘」方法。