/ EN
2026-07-03 00:00 中国 论文发表 基础与方法 译自 EN

脑电结合视频与运动数据,北航清华团队提升晕动症检测准确率

内容概述 北京航空航天大学和清华大学的研究人员提出一种多模态对比学习框架,将脑电(EEG)与同步视频和运动数据配对,用于检测虚拟现实中的晕动症。研究发现,融合三种信号比任何单一模态或两两组合都更准确,且模型能自动剔除与晕动症无关的前额叶连接。研究使用mbt的Smarting PRO 32通道无线脑电系统和Pico 4 Ultra头显,29名健康成年人在主动导航的虚拟场景中参与实验。该研究将脑电信号构建为连接图,并利用注意力编码器将视频和运动数据映射到相同结构,使得分离晕动与非晕动状态的边界最清晰。
推荐理由 这项研究首次将脑电信号构建为连接图,并与视频和运动数据融合,在晕动症检测上超越了所有单一模态和既往多模态方法。它表明脑电在结合情境信息后更可靠,且自然交互的VR任务不影响信号质量。该研究仅招募29名健康成年人,且结果尚未在临床或实际VR产品中验证,距离应用仍有距离。

脑电结合视频与运动数据,北航清华团队提升晕动症检测准确率
图片来源:MBrainTrain

脑机百科消息(bciwiki.com),北京航空航天大学和清华大学的研究人员构建了一个多模态对比学习框架,将脑电(EEG)与同步视频和运动数据配对,用于检测虚拟现实(VR)中的晕动症。据MBrainTrain报道,该研究结果优于所有单一模态方法,也优于此前所有多模态方法,为基于脑电的晕动症检测提供了更可靠的路径。

为收集有效数据,研究团队搭建了一个25米×25米的Unity室外场景,散布红色目标球,29名健康成年人通过操纵杆控制导航,寻找20个目标。脑电数据使用mbt的Smarting PRO 32通道无线系统记录,VR体验使用Pico 4 Ultra头显,同时从头显采集第一人称视频,并通过Unity记录位置、速度、加速度和旋转等运动数据,硬件触发的标记将三路信号同步至毫秒级。参与者通过按住控制器扳机标记症状开始和结束,避免中断体验。

论文的核心贡献是脑连接图表示(BCGR),将30个电极位点(按标准10-20布局)的连接性表示为图,而非平面特征向量。脑电数据生成E-BCGR,并针对男性和女性参与者分别训练动态图卷积网络。随后将两个图合并为标准版本S-BCGR,仅保留男女共有的连接,剔除的多数为前额叶连接——该区域与记忆相关,与导致晕动症的感觉冲突无关,表明算法聚焦于真正相关的信号。

视频和运动数据通过基于注意力的编码器映射到与脑电相同的30节点结构,视觉特征路由至枕叶和顶叶节点,运动特征路由至中央和运动相关节点。消融测试比较了脑电、视频、运动及其组合,视频单独表现最佳,但所有成对组合均优于单一模态,三者联合又优于成对组合,且分离晕动与非晕动状态的边界最清晰。与五种现有方法相比,融合模型在准确率和曲线下面积上均领先。

研究还发现,自然、主动导航的VR任务可以在不牺牲信号质量的前提下实现。随着VR硬件和移动脑电系统的小型化,晕动症检测工具未来有望集成到头显中,而非局限于实验室。该研究论文题为《Multimodal Contrastive Learning for Cybersickness Recognition Using Brain Connectivity Graph Representation》,发表于2026年7月3日。

本文由 BCIwiki 根据公开信息撰写

关联信源 · 1
mbraintrain.com 2026-07-03

清华大学 时间线

2026-09 清华大学团队推出TrustBCI平台,让脑机接口数据在不出库的前提下共享 查看机构页全部条目 →
阅读原文 ↗
指正 修订记录 · 无 / EN
© 2026 BCIwiki.com 产业简报 主题索引 提交线索 订阅本站 修订记录 关于我们