/ EN
2026-07-16 00:00 日本 论文发表 基础与方法 译自 EN

语境嵌入之外,surprisal对语言神经响应几乎不加预测力

内容概述 一篇bioRxiv预印本用高频伽马ECoG信号检验发现,在GPT-2语境嵌入之上加入surprisal预测因子,对语言理解神经响应的预测力几乎没有额外贡献。
推荐理由 该研究为脑机接口语音语言解码模型的特征选择提供了直接证据:语境嵌入可能已经隐含编码了surprisal所携带的信息,为未来解码模型简化特征工程、聚焦语境嵌入本身提供了方法学参考。

脑机百科消息(bciwiki.com),该预印本于2026年7月16日上传至bioRxiv,作者为Sakuma, T.,所属机构为Soka University。研究关注语言理解神经响应预测中常用的两类特征——surprisal与语境嵌入,二者均来自大语言模型,但此前尚不清楚surprisal能否在语境嵌入之外提供独立的预测信息。作者使用公开的自然语音ECoG记录,构建词对齐的岭回归编码模型,比较基线刺激特征、GPT-2 XL语境嵌入以及GPT-2 XL surprisal对高频伽马ECoG响应的预测表现。

研究者称,在已包含语境嵌入的模型中加入surprisal预测因子后,中心时延处的留出数据相关性基本没有变化,该效应在多种备选时延和敏感性分析中均落在预先设定的等效边界内。据此,研究者认为surprisal并非独立的预测因子,而更像是语境嵌入已经捕获的同一预测状态的压缩读出。该预印本尚未经过同行评审,相关结论有待同行评审后进一步确认。

本文由 BCIwiki 根据公开信息撰写

关联信源 · 1
biorxiv.org 2026-07-16
阅读原文 ↗
指正 修订记录 · 无 / EN
© 2026 BCIwiki.com 产业简报 主题索引 提交线索 订阅本站 修订记录 关于我们