脑机百科消息(bciwiki.com),一项2026年9月27日上传至arXiv的预印本研究显示,用托管模型Jev替代数十亿参数的语言模型为语音神经假体重排候选句子,在一名渐冻症(ALS)参与者的978个保留句子上取得7.5%的词错误率,低于OPT-6.7b与Qwen2.5-7B的7.8%。作者为Gabriele Cinà,研究尚未经同行评审。
语音神经假体从大脑活动中解码患者尝试说出的话,最后一步用语言模型对解码器给出的候选句子重新评分,这是整套系统里唯一需要GPU的组件。作者指出,通用语言模型从列表中挑选句子时,往往依据标签在列表中的位置作答,而非句子本身。研究因此把重排设为一次类型化决策:一次调用为每个候选句返回一个概率,再与解码器自身的评分结合。
已发表的解码器单独使用时词错误率为8.1%。重新调整解码器权重后,Jev的词错误率为6.9%,OPT-6.7b与Qwen2.5-7B分别为7.2%和7.4%。据作者报告,Jev在全部4组比较中领先,在95%置信界上最多落后0.2个百分点。
成本方面,Jev每千句0.07美元,无需GPU;作者估算,专用GPU运行7B模型只有在利用率超过43%时单句成本才更低,远高于单一用户的使用量。经互联网的端到端延迟为262毫秒,其中62毫秒花在服务端,与本地GPU上运行7B模型(27毫秒)处于同一量级,但并不更快。