中 / EN
2026-09-19 00:00 论文发表 基础与方法 原文语言 EN

新型适配器利用图像局部特征,脑电识别所见图片准确率达95.4%

内容概述 人看到一张图片时,大脑会留下可测量的电信号和磁信号,能否据此反推他看的是哪张图?多数现有方法只把脑信号和图像的一个整体特征做匹配。这项研究改用视觉模型中间层的全部局部图块特征,设计了一个轻量的残差补丁适配器(RPA)。在公开的THINGS-EEG2脑电数据集上,同一受试者内的Top-1识别准确率为95.4%,跨受试者为35.5%;在THINGS-MEG脑磁图数据集上分别为65.2%和6.7%。作者称在两个数据集上均达到当前最佳水平。分析显示,颜色、纹理等低层视觉特征与高层语义同样重要。该研究为预印本,尚未经同行评审。
推荐理由 这项研究表明,从脑电识别所见图片时,颜色、纹理等细节和整体语义同样有用,只取一个整体特征会丢信息。但受试者内95.4%与跨受试者35.5%差距很大,换一个人几乎要重新训练,而脑磁图跨受试者仅6.7%。

脑机百科消息(bciwiki.com),研究人员提出一种名为残差补丁适配器(RPA)的轻量模块,利用视觉编码器中间层的全部图块特征来对齐脑电和脑磁图信号,在THINGS-EEG2数据集上取得95.4%的受试者内Top-1准确率。该研究以预印本形式于2026年9月19日上传至arXiv,作者为Yuhui Jin、Yonghao Song和Bingchuan Liu,尚未经同行评审。

作者指出,现有多数脑电、脑磁图视觉解码方法只将脑信号与预训练视觉编码器输出的单一全局特征对齐,而中间层的图块特征保留了更丰富、更细粒度的视觉信息。RPA针对的正是这一点:它读取视觉Transformer(ViT)中间层的全部图块令牌参与对齐。消融实验显示,对图块令牌做池化或遮蔽都会削弱学到的表征,而分类令牌(CLS)几乎不提供额外信息。

研究还通过6项定量特征分析发现,高层语义与颜色、纹理等低层视觉特征对脑电—图像对齐都不可或缺。在现有评测协议下,系统在THINGS-EEG2上的受试者内与跨受试者Top-1准确率分别为95.4%和35.5%,在THINGS-MEG上分别为65.2%和6.7%,作者称在两个数据集上均达到当前最佳水平。

作者表示,换用包括预训练脑电基础模型在内的其他脑信号编码器后,该方法依然适用;RPA也提供即插即用接口,可替换为卷积、注意力或ConvNeXt结构。作者认为,这些结果为非侵入式脑机接口中的脑—图像对齐提供了设计原则。

本文由 BCIwiki 根据公开信息撰写

关联信源 · 1
arxiv.org 2026-09-19
阅读原文 ↗
指正 修订记录 · 无 中 / EN
© 2026 BCIwiki.com 产业简报 主题索引 提交线索 订阅本站 修订记录 关于我们