/ EN
2026-04-10 00:00 中国 论文发表 基础与方法 译自 EN

西安电子科技大学拆掉Transformer编码器,脑机解码准确率不降反升

内容概述 西安电子科技大学研究团队针对快速序列视觉呈现范式的单试次脑电解码,先构建了基于Transformer的DisCo-Former框架,融入3个由神经生理先验引导的部件。该研究2026年4月10日发表于《International Journal of Neural Systems》。DisCo-Former虽然超过了现有方法,但分析发现注意力持续坍缩,注意力图近乎均匀,值投影权重趋近于0。去掉Transformer编码器后得到的纯多层感知机版本DisCo-MLP,在2个数据集和3种评估方式下与Transformer版本持平或更优,受试者内解码的平均AUC约为0.94至0.98。
推荐理由 脑电解码圈近几年默认越大的模型越好,这项工作实测发现Transformer在快速序列视觉呈现任务上注意力坍缩,拆掉之后反而不掉性能,对做轻量、可部署脑机接口解码器的团队是一个直接的提醒。

脑机百科消息(bciwiki.com),做快速序列视觉呈现的脑电解码,几层多层感知机就能把受试者内平均AUC做到约0.94至0.98,比带Transformer的版本不差甚至更好,这是西安电子科技大学研究团队的发现,该研究2026年4月10日发表于《International Journal of Neural Systems》。

快速序列视觉呈现能支撑高效的脑电脑机接口,但单试次解码受信号重叠和多成分纠缠困扰。团队先开发了基于Transformer的DisCo-Former,加入3个由神经生理先验引导的部件,分别是趋势与周期性分离、保留全局时间模式的通道级嵌入,以及利用目标相邻非目标样本的对比学习。DisCo-Former超过了现有方法,但分析显示注意力持续坍缩,注意力图变得近乎均匀,值投影权重趋近于0。

研究者据此去掉Transformer编码器,保留其余模块,得到纯多层感知机的DisCo-MLP。在2个数据集和3种评估方式下,DisCo-MLP与Transformer版本持平或更优,受试者内解码的平均AUC约为0.94至0.98,稳定高于强基线。作者称,对这一范式的脑电解码而言,效果更多来自对信号结构的建模而非架构复杂度,由范式特定的神经生理先验驱动的简单模型是通向先进性能的一条务实路径。

本文由 BCIwiki 根据公开信息撰写

关联信源 · 1

西安电子科技大学 时间线

2026-08 EEG-fNIRS融合解码想象手写,FRED总体准确率0.7952而fNIRS单独解码处于随机水平 2026-02 脑电解码甩开GPU,新模型单轮训练仅68秒 查看机构页全部条目 →
阅读原文 ↗
指正 修订记录 · 无 / EN
© 2026 BCIwiki.com 产业简报 主题索引 提交线索 订阅本站 修订记录 关于我们