裁剪：KinHZ 元宇

【新智元导读】AI最强幻觉，原本不是不会，而是太会「装会」。 「你是众人」这句咒语，可能骗了扫数这个词AI圈一年。

东谈主生如戏，全靠演技，但AI不成——

最新论文说明，「让AI装众人」会可测量、抓续地裁减模子的准确率。

曩昔一年，AI圈最告捷的骗局之一，可能即是这句话：

你是XX众人。

无数教程把它吹成神级提醒词。

这句话简直被包装成了大模子期间的「黑魔法」：只有东谈主开拓住，AI就会陡然开窍。

但当今，最新论文给了扫数东谈主一记耳光：

这句神提醒词，可能压根不是外挂，而是毒药。

征询发现，当AI被要求饰演「众人」时，它并不老是更灵敏，反而会更像一个坚抓东谈主设的「假众人」：

不肯承认不知谈，不肯披露夷犹，不肯停驻来仔细想，临了遴荐用一种极其专科、极其自信、极其像那么回事的口头， 把错话说圆。

图 1: 众人变装在不同模子、任务类型、信息粒度及位置的影响分析

上图1中给出的收尾相当直不雅：

长众人东谈主设在5个生成类别上有显赫进步，但在硬核的MMLU学问基准上，加了东谈主设后准确率全面跌破71.6%的基线，哪怕是最短的东谈主设也掉到了68.0%，而详备的长版块东谈主设更是惨跌至66.3%。

安全场景则相悖，「安全监督员」东谈主设能显赫提高拒却逃狱袭击的概率，在JailbreakBench上拒答率从53.2%升到70.9%。

因此，这篇论文最值得柔柔的一个地方，不仅仅它提议了「众人东谈主设可能无益」，而是进一步施展注解了：为什么曩昔对于Persona Prompting（东谈主格提醒）的征询，论断总会彼此矛盾。

幻觉的起原

当你对大模子念出「你是众人」

征询东谈主员发现，Persona Prompting的后果并不是全场所的增益。

它的推崇激烈依赖任务类型、模子磨练口头、提醒长度，以及东谈主设到底放在system prompt依然user prompt里。

征询者把任务强横分红两类：

一类是「判别式任务」，更依赖预磨练记念，比如事实检索、学问判断、多项遴荐题；

另一类是「生成式任务」，更依赖对王人才智，比如样貌罢免、作风适度、安全拒答、东谈主类偏好匹配。

收尾自大：

在安全回绝、偏好对王人等「生成式任务」上，众人东谈主设如实是个好用具。

但在学问检索、事实判断这类非常依赖预磨练记念的「判别式任务」上，众人东谈主设却成了拖后腿的。

大模子「偏科」热力争：蓝色代表才智进步，红色代表才智受损。在平常指示微调模子（左图）中，大批出现的红色色块自大：所谓的众人东谈主设正在全面碎裂模子的客不雅学问准确度。

换句话说，众人东谈主设进步的，好多技艺不是「真实性」，而是「对王人感」。

在MT-Bench这类更偏生成质地的任务里，众人东谈主设能进步写稿、变装束演、抽取、STEM抒发等类别推崇。

但到了MMLU这种更依赖学问检索的基准上，扫数众人东谈主设版块都在掉分。

这施展注解了一个好多用户都曾碰到过、但又说不清的体验：

为什么合并个模子，写邮件时像个磨练有素的参谋人；一到数学、事实核查、代码细节，反而一册安逸地瞎掰八谈？

因为它果然更像众人了，但偶而更擅长把底层记念准确调出来。

论文里致使给了个很调侃的例子。

掷两枚骰子，点数和至少为3的概率是若干？不加数学东谈主设时，模子基本答对，给出35/36。

加了数学众人东谈主设后，它却初始一册安逸地列要领，临了把简单概率题算错。

你能明显嗅觉到，它不是不会「演出数学家」，而是太像在「作念数学的样式」了。

咱们奖励的是「像众人」，依然「答得对」？

今天好多用户判断一个模子好不好，第一范例并不是「它是不是更接近事实」，而是「它是不是说得稳、说得顺、说得像专科东谈主士」。

只有它结构完整、术语到位、口吻千里着，用户就会自然提高信任度。

这恰是大模子最危境的一类幻觉：不是瞎掰八谈，而是用极其专科的口头说错话。

从磨练逻辑看，预磨练阶段，大模子主要学到的是学问记念、模式统计、事实关联、谈话法例；后续的指示微调和RLHF，则更多在塑造它「怎么说」「怎么更像东谈主类偏好的回答者」。

论文的重要判断就在这里：

众人东谈主设实践上更容易激活的是后者，也即是作风、样貌、意图跟和顺安全限制这些对王人才智；但当任务需要的是胜仗、精确地调用预磨练学问时，稀奇的东谈主设高下文可能反而会烦嚣检索。

你不错把它调和成一种「对王人税」：模子为了更适当你期待中的众人样式，松手了一部分事实调用的准确度。

干系征询也反复说明，Persona Prompting并不总能带来显露进步，有时致使会因为引入了不干系的东谈主格属性而产生难以意象的负面影响。

是以，的确的问题其实不在于「东谈主设」本人，而在于咱们把作风适度、价值对王人、事实判断、推理求解，这些透彻不同的任务，B体育官方网站首页巧诈塞给了合并种Persona机制。

让模子在写一封安抚用户的邮件时像个熟识参谋人，没流弊。

让模子在靠近危境申请时像个安全审查员，也没流弊。

但让它在作念概率题、答医学事实、查法律条规时，先参预一段长长的「众人变装束演」，这可能从一初始就走错了标的。

救赎之谈

路由分拨才是正解

那是不是从此以后，众人东谈主设就该扔掉？

虽然不是。

如前文提到的，征询东谈主员同期发现，众人东谈主设在「生成式任务」等更依赖对王人才智的特定场景下仍然具有不可替代的价值。

是以，中枢重要压根不是「用不必」，而是「什么技艺用」。

为了管制这个痛点，征询东谈主员发明了PRISM算法（Persona Routing via Intent-based Self-Modeling，基于意图的自举东谈主格路由）。

这个系统不给AI固定一个变装，而是先看懂用户真实意图，再动态路由分拨正确东谈主设。

图中展示了两种自动遴荐众人变装的步履。PRISM通过LoRA适配器动态分拨合适东谈主设，无需外部资源即可保留对王人益处、保管判别任务准确性

PRISM的中枢念念路相当精妙：

它不再在推理时给模子生硬地套上众人Prompt，而是把扫数众人东谈主设中有意的部分，提前「浓缩蒸馏」到了一个轻量化的门控LoRA适配器（Gated LoRA Adapter）中。

在的确靠近用户问题时，PRISM的门控机制只作念一齐极简的二元遴荐题：

开启「众人外挂」，依然清偿 「朴素模式」。

用户问「帮我写代码」或「进行高情商安抚」，系统判定需要对王人才智，门控短暂激活LoRA适配器，调出内化好的众人水平；

用户问「客不雅数学猜度」或「事实核查」，系统判定东谈主设会产生烦嚣，门控坐窝关闭适配器，让未经修饰的基座模子用最地谈的预磨练记念去准确作答。

扫数这个词PRISM索求过程不需要稀奇数据、稀奇模子、稀奇算力。

资本并不高，磨练一个门控单LoRA版块，在A100上大要45分钟，稀奇支出也比拟小。

具体而言，PRISM磨练过程分为五大阶段：

(1) 以东谈主设提醒词为要求生成查询；

(2) 按东谈主设作答，生成多种东谈主设下的复兴；

(3) 通过成对比拟进行自考证，从而筛选蒸馏数据集；

(4) 进行路由器/门控模块磨练，学习基于意图的路由机制，以判断何时启用东谈主设会更有匡助；

(5) 通过LoRA进行自蒸馏，让模子内化这些东谈主设举止。

PRISM想作念的不是让AI「更会演」，而是「该演的技艺演，该准的技艺准」。

收尾很炸裂：

在保抓极低算力支出的同期，大模子终于能在「高情商生成」与「硬核学问检索」之间完了丝滑切换。

PRISM不仅在生成式任务上大幅进步了东谈主类偏好与安全对王人得分，还无缺保住了判别式任务的客不雅准确率。

Qwen等五个模子及MT-Bench等三个基准维度上的轮廓评估

在Qwen2.5-7B上，单纯作念众人提醒时，全体分数是72.2，和基线71.8差未几，施展「有得有失，基本彼此对消」。

但PRISM能把全体拉到73.5，MT-Bench从7.56提到7.76，同期把MMLU保管在71.7%，基本不伤学问准确率。

Mistral-7B上更明显：

众人提醒会把全体推崇从79.9打到71.4，但PRISM不错作念到81.5，致使高于基线。Llama-3.1-8B上，PRISM也把Overall从67.5提高到70.3。

这意味着：提醒工程的下一阶段，可能不再是「写一个更长、更唬东谈主的众人东谈主设prompt」，而是「把任务拆明晰，再决定是否启用东谈主格化对王人」。

这时，PRISM像灵敏的中介，先看清问题实践，再派对的东谈主上场。

大模子这时的推崇既专科，又敦厚，再也不会去用失实换好评。

看成起来

就当今

是以，别再第一句话就喊「你是众人」，试着把PRISM这么的动态路由用起来。

让AI左证问题的确需要什么变装，而不是弥远戴合并张面具。

图4：在Qwen2.5-7B-Instruct模子上，门控收集将查询路由至LoRA的比例与各样别在众人变装影响下的推崇之间的关系

要是你是开发者，请初始柔柔PRISM这么的底层意图路由机制，让模子在权重层面就学会「该演就演，该准就准」。

要是你是平常用户，当今就不错看成。

掀开对话框，在碰到硬核学问核查、逻辑推演时，把那句自作灵敏的「众人咒语」强硬删掉。

换成一句最干净的指示：「请一步步客不雅推演，要是不细目就胜仗告诉我」。

少给AI加戏，它才能的确初始念念考。

而你B体育(BSports)，也会第一次听到它说实话。

• AI
• 众人
• B体育(BSports)
• 京城
• 你是