压缩后的脑电解码器抗攻击能力未见提升,剪枝与量化表现出不同的迁移特性
脑机接口要在算力有限的设备上运行,常用剪枝或低精度量化把解码模型压小。研究人员测试了这种压缩是否会改变模型面对对抗攻击时的表现。对抗攻击指对脑电信号加入人眼难以察觉的微小扰动,诱使模型判错。结果显示,在保持识别精度的前提下压缩模型,抗攻击能力并没有变强:在ε=0.005的扰动强度下,EEGNet模型在原始、50%剪枝和两种INT8量化版本下的准确率都只有22%到24%。不过,剪枝后的模型与原始模型之间,攻击样本相互迁移的效率明显下降,量化模型则几乎不变。该研究为预印本,尚未经同行评审。
推荐理由
脑机接口走向便携设备,模型压缩几乎是必经之路。这项研究提醒,压缩后精度不降不代表更安全,抗攻击能力、攻击迁移和部署效率要分别评估。结论只基于1个公开数据集9名受试者的运动想象数据,尚未经同行评审。