
脑机百科消息(bciwiki.com),北京航空航天大学和清华大学的研究人员构建了一个多模态对比学习框架,将脑电(EEG)与同步视频和运动数据配对,用于检测虚拟现实(VR)中的晕动症。据MBrainTrain报道,该研究结果优于所有单一模态方法,也优于此前所有多模态方法,为基于脑电的晕动症检测提供了更可靠的路径。
为收集有效数据,研究团队搭建了一个25米×25米的Unity室外场景,散布红色目标球,29名健康成年人通过操纵杆控制导航,寻找20个目标。脑电数据使用mbt的Smarting PRO 32通道无线系统记录,VR体验使用Pico 4 Ultra头显,同时从头显采集第一人称视频,并通过Unity记录位置、速度、加速度和旋转等运动数据,硬件触发的标记将三路信号同步至毫秒级。参与者通过按住控制器扳机标记症状开始和结束,避免中断体验。
论文的核心贡献是脑连接图表示(BCGR),将30个电极位点(按标准10-20布局)的连接性表示为图,而非平面特征向量。脑电数据生成E-BCGR,并针对男性和女性参与者分别训练动态图卷积网络。随后将两个图合并为标准版本S-BCGR,仅保留男女共有的连接,剔除的多数为前额叶连接——该区域与记忆相关,与导致晕动症的感觉冲突无关,表明算法聚焦于真正相关的信号。
视频和运动数据通过基于注意力的编码器映射到与脑电相同的30节点结构,视觉特征路由至枕叶和顶叶节点,运动特征路由至中央和运动相关节点。消融测试比较了脑电、视频、运动及其组合,视频单独表现最佳,但所有成对组合均优于单一模态,三者联合又优于成对组合,且分离晕动与非晕动状态的边界最清晰。与五种现有方法相比,融合模型在准确率和曲线下面积上均领先。
研究还发现,自然、主动导航的VR任务可以在不牺牲信号质量的前提下实现。随着VR硬件和移动脑电系统的小型化,晕动症检测工具未来有望集成到头显中,而非局限于实验室。该研究论文题为《Multimodal Contrastive Learning for Cybersickness Recognition Using Brain Connectivity Graph Representation》,发表于2026年7月3日。