脑机百科消息(bciwiki.com),研究人员提出一种名为残差补丁适配器(RPA)的轻量模块,利用视觉编码器中间层的全部图块特征来对齐脑电和脑磁图信号,在THINGS-EEG2数据集上取得95.4%的受试者内Top-1准确率。该研究以预印本形式于2026年9月19日上传至arXiv,作者为Yuhui Jin、Yonghao Song和Bingchuan Liu,尚未经同行评审。
作者指出,现有多数脑电、脑磁图视觉解码方法只将脑信号与预训练视觉编码器输出的单一全局特征对齐,而中间层的图块特征保留了更丰富、更细粒度的视觉信息。RPA针对的正是这一点:它读取视觉Transformer(ViT)中间层的全部图块令牌参与对齐。消融实验显示,对图块令牌做池化或遮蔽都会削弱学到的表征,而分类令牌(CLS)几乎不提供额外信息。
研究还通过6项定量特征分析发现,高层语义与颜色、纹理等低层视觉特征对脑电—图像对齐都不可或缺。在现有评测协议下,系统在THINGS-EEG2上的受试者内与跨受试者Top-1准确率分别为95.4%和35.5%,在THINGS-MEG上分别为65.2%和6.7%,作者称在两个数据集上均达到当前最佳水平。
作者表示,换用包括预训练脑电基础模型在内的其他脑信号编码器后,该方法依然适用;RPA也提供即插即用接口,可替换为卷积、注意力或ConvNeXt结构。作者认为,这些结果为非侵入式脑机接口中的脑—图像对齐提供了设计原则。