IEEE TMI | 生成式AI赋能脑机接口双模态信号采集新范式
脑机接口(BCI)技术作为连接人脑与外部设备的重要桥梁,近年来在医疗、康复、智能家居等领域展现出了巨大的应用潜力。然而,传统的BCI系统多依赖单一的EEG信号,其空间分辨率低且易受干扰,限制了其性能的进一步提升。为此,研究者们开始探索将EEG与fNIRS(功能性近红外光谱)相结合的双模态BCI系统,以期通过两种信号的互补优势,实现更高效、更准确的脑机交互。 然而,同时记录EEG和fNIRS信号并非易事。由于两种传感器在头皮上的布局存在冲突,同时记录高质量的混合信号面临诸多挑战。
为突破这一瓶颈,中国科学院深圳先进技术研究院的王书强课题组提出了一种创新的解决方案——SCDM(Spatio-Temporal Controlled Diffusion Model),即时空控制扩散模型。该模型利用生成式AI技术,从EEG信号中生成fNIRS信号,从而实现双模态信号的采集。 2025年3月4日团队相关工作在IEEE Transactions on Medical Imaging发表了题为SCDM: Unified Representation Learning for EEG-to-fNIRS Cross-Modal Generation in MI-BCIs的研究成果,首次实现了基于生成式人工智能的EEG到fNIRS跨模态生成。
SCDM模型的核心在于其两个关键模块:空间跨模态生成(SCG)模块和多尺度时序表示(MTR)模块。SCG模块通过改进的二维注意力机制,学习EEG和fNIRS信号的空间表示,并实现从EEG到fNIRS的准确映射。MTR模块则通过因果扩张卷积和深度可分离卷积,捕捉多样化的时序特征,同时减少空间特征的干扰,从而提高表示的准确性。
研究团队通过对比真实fNIRS信号和合成fNIRS信号的分类性能,发现合成信号在多项指标上与真实信号相当,甚至在某些情况下表现更优。这表明,SCDM模型生成的fNIRS信号不仅在质量上接近真实信号,而且在实际应用中具有潜在的替代价值。 此外,研究还发现,合成fNIRS信号在空间分布和时间特征上与真实信号高度一致。通过对比fNIRS通道与EEG通道的相关性,发现合成信号保留了与EEG信号的空间对应关系,这为双模态信号的融合提供了有力支持。 SCDM模型不仅解决了同时记录EEG和fNIRS信号的难题,还为未来BCI系统的性能提升提供了新的可能性。
数字所研究生李逸升为第一作者,王怡珊研究员为共同作者,王书强研究员为论文通讯作者,该研究工作得到了国家重点研发计划、国家自然科学基金等科技项目资助。
SCDM模型图
合成fNIRS信号与真实fNIRS信号的血流动力学响应曲线对比