中 / EN
2026-09-17 00:00 论文发表 基础与方法 原文语言 EN

脑机接口研究比较AI执行指令与外部门控

内容概述 研究用47名肌萎缩侧索硬化症患者的1,065个片段数据,测试五种语言模型作为AI代理执行指令的表现。在相同执行覆盖率下,向模型提供重建的解码器置信度,并未使其不忠实执行率低于确定性门控,两个模型还显著更差。看似改善的安全表现主要来自减少执行。在后续让十个模型与确定性解析器获得相同指令词表的测试中,直接执行的代理均未超越解析器的风险—覆盖率前沿;但由模型提出语义修正、外部门控决定是否放行的混合架构,在十个模型中的五个上扩大了覆盖范围,且未观察到不忠实执行。
推荐理由 这项研究把模型理解指令与系统批准执行分开检验:减少动作可能让错误看起来更少,却不代表同等执行机会下更可靠。部分代理甚至通过无效工具调用而非明确弃权减少执行,这一区别影响安全指标的解读。

脑机百科消息(bciwiki.com),据BIDMC消息,一项研究AI代理如何在脑机接口中执行指令的预印本于2026-09-17上传至medRxiv,未经同行评审。研究使用来自47名肌萎缩侧索硬化症患者的1,065个片段数据,测试了五种语言模型,重点考察解码环节的不确定性如何影响后续执行。

研究向代理提供重建的解码器置信度,即解码结果的可信程度信息。在相同执行覆盖率下,这种做法从未使不忠实执行率低于确定性门控,两个模型的表现显著更差。这里的覆盖率指执行所覆盖的比例,并非医保覆盖。表面上最高达22个百分点的安全改善反映的是执行次数减少,有时是通过无效工具调用,而非明确选择不执行。

在事后开展的信息条件对等测试中,十个模型获得了与确定性解析器相同的指令词表。没有一个直接执行的代理组改善了解析器的风险—覆盖率前沿,即不同覆盖率下可达到的风险水平。不过,一种混合架构让模型提出语义修正,同时由外部门控保留执行准入权限;它在十个模型中的五个上实现了超过解析器的覆盖范围,且未观察到不忠实执行。

作者据此主张,在代理式神经技术中区分推断与控制:模型可以提出对指令含义的修正,但是否执行仍交由外部机制决定。混合架构的结果限于此次测试中未观察到不忠实执行,不能据此认定其在实际使用中不会出错。

本文由 BCIwiki 根据公开信息撰写

关联信源 · 1
medrxiv.org 2026-09-17
阅读原文 ↗
指正 修订记录 · 无 中 / EN
© 2026 BCIwiki.com 产业简报 主题索引 提交线索 订阅本站 修订记录 关于我们