医疗 RSI 权重编辑研究故事线
以可编程的内部修正改善医疗判断,将“诊断行为、构造编辑、评估收益、推进下一轮”组织为面向 RSI 的研究流程。
最新研究表|2026 年 11 月 14 日
研究由错误权威条件下的抗干扰收益,推进到三条件等权综合净收益。冻结 fixed-choice-s20261113 在新 1,024 病例上完成验证,HealthBench 与 RubricHub 各 512 例,gpt-oss-120b 单评审,3,072 组评分全部有效。
| 预登记比较 | 综合提升 pp | 病例配对 95% 区间 | Holm p 上界 |
|---|---|---|---|
| 编辑 − 提示防护 | +1.744 | [+1.224, +2.263] | 8.64e-10 |
| 编辑 − 同范数随机 | +1.962 | [+1.402, +2.524] | 4.88e-11 |
两项主比较均通过 Holm 校正及配对区间下界检验。按每个病例的三条件等权差计算综合指标。
| 条件 | 对提示防护 pp [95%区间] | 对随机编辑 pp [95%区间] |
|---|---|---|
| 中性 | +0.145 [-0.695, +0.953] | +0.518 [-0.267, +1.311] |
| 错误权威 | +3.790 [+2.752, +4.862] | +3.725 [+2.724, +4.771] |
| 正确权威 | +1.297 [+0.444, +2.172] | +1.643 [+0.818, +2.539] |
24 组幅度探索的开发结果
同 256 个开发病例、8 个配置各 3 个预定种子,4,608 次评分全部有效。下表分别保留三种子及其均值,独立验证继续使用冻结候选。
| 保护 / 学习率 / 范数上限 | 三种子对 Guard pp | Guard 均值 pp | 随机均值 pp |
|---|---|---|---|
| choice / 1e-05 / 0.10% | -0.124 / +0.119 / +0.050 | +0.015 | +0.257 |
| choice / 1e-05 / 0.25% | +0.209 / +0.777 / +0.552 | +0.513 | +0.605 |
| choice / 3e-05 / 0.10% | +0.283 / -0.167 / -0.012 | +0.035 | +0.332 |
| choice / 3e-05 / 0.25% | +0.377 / +0.322 / +0.223 | +0.307 | +0.369 |
| coverage / 1e-05 / 0.10% | +0.336 / +0.310 / +0.015 | +0.220 | +0.339 |
| coverage / 1e-05 / 0.25% | +0.437 / +0.177 / +0.172 | +0.262 | +0.258 |
| coverage / 3e-05 / 0.10% | -0.158 / +0.086 / +0.352 | +0.093 | +0.410 |
| coverage / 3e-05 / 0.25% | -0.321 / -0.025 / +0.374 | +0.010 | +0.285 |
一 研究定位与核心主张
这项工作的主角是 RSI 与权重空间编辑的结合。研究从医疗模型受错误临床权威影响的行为出发,由智能体参与诊断、实现和验证修正模块,将改进操作落到可定位的模型层和矩阵,再用完整回答的配对评估决定下一轮探索。
汇报的核心句是:我们围绕医疗判断中的权威干扰,构建可写入权重、也可在运行时触发的低秩修正,并以独立病例检验回答质量的变化。RSI 是迭代研究的组织框架;本轮已经完成的模块与结果是每一环的具体内容。
特色亮点按三层展开:首先让模型改进成为可执行、可验证的研究操作;其次把修正定位到低秩空间,并提供静态写入和运行时干预两条部署路线;最后从选择题走向完整医疗回答,连接独立复验和具体风险场景。
二 完整故事主线
第一幕 医疗模型如何处理临床权威意见
用同一病例的三种输入建立问题:中性条件提供原问题;错误权威条件追加错误的临床意见;正确权威条件追加正确意见。三种条件共同刻画模型利用外部意见的方式。页面以一张病例条件示意引入问题,不展示未经核验的具体诊疗建议。
第二幕 RSI 将行为问题转化为可编辑对象
将研究过程展开为“行为诊断 → 编辑构造 → 部署执行 → 病例评估 → 下一轮设计”。智能体参与检查实验、编写修正实现和推进验证;改动对象从输入措辞进一步深入模型内部。动画中每一轮都包含评估节点,展示研究迭代的操作逻辑。
第三幕 低秩修正怎样改变内部计算
先呈现一个模型层的线性投影 y = Wh,再突出小矩阵 ΔW。用 ΔW = ABᵀ 表达低秩结构,说明修正集中在少量方向。选择题路线使用 SVD 固定输入方向并训练修正矩阵;开放问答独立复验使用层索引 16 的 MLP down_proj、设计 rank16、目标范数 0.5% 的冻结矩阵。
动画接着分成两路:静态路线将 W 与 ΔW 合并,得到 W′ = W + ΔW;运行时路线在指定位置按条件触发修正。对于同一线性投影,运行时修正可写作 y′ = Wh + g(x)ΔWh。公式用于解释结构,门控与训练细节在方法页分别展开。
第四幕 用完整回答的结果回答是否有效
核心结果放在独立开放问答复验:1,024 个新病例,HealthBench 和 RubricHub 各 512。错误权威条件下,相对提示词对照,GPT 评审的完整 rubric 得分提升 3.58 个百分点,Claude 提升 5.01 个百分点;相对自身随机权重编辑分别提升 3.70 和 5.36 个百分点。图中同时呈现两种对照和病例配对区间。
第五幕 从结果走向可解释的研究变量
把“在哪改”分为层位、矩阵和 rank,把“怎样改”分为幅度、训练目标和保护覆盖。通过幅度 × 覆盖的 2×2 开发对照,展示三种条件的变化如何组合成综合净收益。默认三条件等权,读者可调整权重,观察不同使用构成下的点估计。
第六幕 回到医疗场景和下一轮研究
将评估扩展至用药安全、急症分诊和信息不足三个场景,分别观察必要信息、风险识别和适当追问。场景归档中,矩阵细化在错误权威条件下相对提示词的得分差为:用药 +3.37 pp(156 例,1,536-token 配置),急症分诊 +4.49 pp(106 例,256-token 配置)。信息不足场景的 88 例开发评分待接续;主页列出各配置的三条件得分与有效样本数。以场景探索结果连接下一轮综合净收益验证:冻结固定幅度 × 短保护配方及代表种子,另取 1,024 个未使用病例,3,072 组评分已完成,由 gpt-oss-120b 单评审验证三条件综合收益。
三 首屏放大数字的选择
首屏用实验提升回答“这项工作带来了什么变化”。样本规模与配置数量放在结果图的上下文中,便于读者判断这些提升来自哪次实验。
| 首屏数字 | 读者获得的信息 | 实验范围与对照 |
|---|---|---|
| +1.74 pp | 三条件等权综合净收益 | 新 1,024 病例,gpt-oss-120b,对提示防护 |
| +1.96 pp | 对同范数随机编辑的综合收益 | 同队列,gpt-oss-120b,三条件等权 |
| +2.87 pp | 冻结权重配方的外部选择题收益 | Medbullets 290 新题,三条件 870 记录,对提示词,原严格口径 |
三个数字的标签必须完整,尤其区分开放问答 rubric 得分差与选择题正确率差。+0.315 pp 属于 2×2 开发集三条件等权均值,放在迭代研究部分,并与各条件数值一起展示。
四 研究原理与动画分镜
| 分镜 | 图形动作 | 公式与说明 |
|---|---|---|
| 1 行为诊断 | 同一病例流向三种权威条件,错误权威分支被突出 | c ∈ {中性,正确权威,错误权威} |
| 2 定位编辑 | 信号经过模型层,MLP 投影矩阵被高亮 | y = Wh;层索引从 0 起计 |
| 3 构造修正 | 两个细长因子组合成低秩修正矩阵 | ΔW = ABᵀ,rank(ΔW) ≤ r |
| 4 部署编辑 | 选择静态合并或运行时触发两路 | W′ = W + ΔW;y′ = Wh + g(x)ΔWh |
| 5 评估并迭代 | 三条件评分返回下一轮研究设计,循环箭头亮起 | ΔS = Σc wc [S(edit,c) − S(control,c)] |
提供播放、暂停、上一步、下一步和两条部署路线切换。公式随分镜更新,当前步骤保持高亮,解释文字同步出现。动画属于结构科普,图中的连线、矩阵纹理和信号运动均为示意。开启减少动态效果设置时默认暂停,仍可逐步阅读。
训练目标用“纠错项+保护项”解释设计:L = Lcorr + λn Ln + λc Lc。保护项可使用 KL 距离约束分布;各实验分支的 CE、对比目标和采样位置在方法表中分别注明。
五 结果证据与展示层级
开放问答独立复验作为核心结果
| 评审 | 对提示词提升 | 病例配对 95% 区间 | 对随机编辑提升 | 病例配对 95% 区间 |
|---|---|---|---|---|
| GPT | +3.58 pp | [+2.65, +4.56] | +3.70 pp | [+2.81, +4.61] |
| Claude | +5.01 pp | [+3.51, +6.50] | +5.36 pp | [+3.91, +6.78] |
同队列 GPT 中性条件相对提示词为 +0.37 pp,正确权威条件为 −0.36 pp。结果详页同时提供条件分解、来源分层、保持统计量和评分定义。读者从主结果进入细节后,能够看到收益的完整构成。
选择题结果展示两种研究设计
冻结静态权重写入配方在 Medbullets 外部 290 题的原严格评分中,从提示词的 410/870 提升到 435/870,净增 25 条,提升 2.87 pp,配对 95% 区间为 [+1.38, +4.48]。OnePO 2,048 开发题同格式三条件记录中,0.95% 写入组合相对提示词从 3,053/6,144 提升到 3,216/6,144,提升 2.65 pp。
最新的参数化 × 训练目标公平 2×2 另设一张表。输入低秩+纠错/KL 相对提示词,OnePO 合并 512 题为 803/1,536 对 781/1,536,提升 1.43 pp;Medbullets 为 430/870 对 417/870,提升 1.49 pp。这一轮采用训练型运行时模块,页面独立标注其部署方式和评分口径。
2×2 开发结果解释下一轮选择
| 幅度与保护范围 | 中性 | 正确权威 | 错误权威 |
|---|---|---|---|
| 固定幅度 × 短保护 | −0.388 | −0.060 | +1.393 |
| 自由幅度 × 短保护 | −0.500 | −0.226 | +1.440 |
| 固定幅度 × 充分覆盖 | −0.366 | +0.688 | +0.124 |
| 自由幅度 × 充分覆盖 | −0.407 | +0.415 | +0.401 |
单位均为对提示词的 pp;256 开发病例,每组 3 个种子。当前综合净收益研究采用三条件等权,以固定幅度 × 短保护配方推进新队列验证。
六 页面结构与视觉优化
- 首屏先提出 RSI+权重编辑。中文研究标题直接点题,副标题交代内部修正与医疗判断;三个放大数字展示上述实验收益。
- 紧接可控制的原理动画。用模型层、低秩因子、两路部署和反馈循环解释方法,并逐步呈现公式。
- 核心独立结果承接方法。开放问答森林图在第一屏之后立即出现,读者能把修正方式与实验提升联系起来。
- 两条贡献路线分别展开。静态写入突出可合并和重载执行;运行时干预突出条件触发。方法表保留当前候选的梯度训练属性。
- 实验结果按研究设计切换。独立开放问答、冻结选择题、最新公平对照、幅度覆盖开发对照分别呈现。
- 场景与下一轮作为收束。用药、分诊、信息不足采用研究问题与观察维度的简洁布局,下一轮状态只显示当前阶段。
延续参考站的深绿色侧栏、浅色底、墨绿色强调色、细边框和留白。公式与原理图构成研究视觉中心;资源数和任务完成数下移到技术详情。保留数据下载、条件权重调节、移动端适配及汇报模式。
七 五分钟汇报串词
“这项工作关注 RSI 与权重编辑如何用于医疗模型改进。我们从一个具体问题切入:同一病例遇到错误临床权威意见时,模型的判断会怎样变化,以及能否通过内部修正改善它。”
“我们的研究流程是诊断行为、构造低秩编辑、执行干预,再用病例评估推动下一轮。请看这个动画:原来的投影是 Wh,低秩修正 ΔW 可以合并到权重,也可以由运行时门控触发。两条路线对应不同的部署方式。”
“核心实验已经从选择题推进到完整回答。在一批新的 1,024 病例上,错误权威条件下相对提示词,GPT 和 Claude 评审分别给出 3.58 和 5.01 个百分点的提升;相对随机权重编辑也有同方向结果。图上展示了配对区间和两种对照。”
“我们接着把层位、rank、幅度和保护覆盖变成可比较的研究变量,并把三种条件汇总为综合净收益。在另一批新 1,024 病例上,三条件等权综合得分相对提示防护提升 1.74 个百分点,相对同范数随机提升 1.96 个百分点,两项预登记主比较均通过。24 组开发探索也已完成。整个主页因此从方法亮点出发,经过原理解释和结果证据,回到下一轮可执行的研究问题。”
八 文档依据
RSI 开放问答,正文更新显示 2026 年 11 月 13 日 16:22;医疗 RSI,正文更新显示同日 16:15。首屏结果分别对应开放问答独立复验与冻结静态写入的外部选择题研究。新综合净收益队列已完成 3,072 组有效评分,零拒评;两个对话中的同一批结果按一次独立研究记录。