- 3 次围观
背景与目标 癫痫发作预测是一项关键挑战，需要将细微的发作前期生理变化与发作间期脑活动区分开来。尽管深度学习在这一领域已显示出前景，但现有模型常常受到以下限制：EEG 数据集规模较小、从头训练的计算成本较高，以及缺乏患者无关的泛化能力。本文提出了一种新颖的基于 EEG 的癫痫发作预测框架，该框架通过定制的架构修改和优化的再训练策略，利用预训练视觉 Transformer（ViT）。 方法 我们的主要贡献包括： [bullet] CVIT-ESP：一类视觉 Transformer 架构，以定制的 N 维 CNN 阶段替代标准的 patch embedding 层，从而优化 EEG 表征。 [bullet] ESPFormer：一种轻量级、定制设计的 Transformer，专门用于缓解在有限规模 EEG 数据集上的过拟合。 我们通过设计一种启发式搜索空间缩减策略，确定了 Transformer 模块的最优微调组合，显著降低了训练复杂度。我们使用患者无关的 MLSPred-Bench 对所提方法进行了验证，该基准包含 12 个具有不同发作预测时距的多样化测试基准。 结果 结果表明，性能呈现出清晰的提升趋势：虽然先前的 ResNet 和原始 Transformer 模型达到了 69.0% 的 AUC-ROC，但我们的 CVIT-ESP 架构取得了最高性能，最大平均 AUC 达到 76.4%。 结论 这些发现表明，通过结合领域特定的 CNN 前端并进行策略性微调来适配预训练 ViT，为临床癫痫发作预测系统提供了一条稳健、可泛化且资源高效的发展路径。我们的代码可见：https://github.com/pcdslab/CVitEsp 和 https://github.com/pcdslab/ESPFormer
背景与目标 癫痫发作预测是一项关键挑战，其要求能够将发作前期细微的生理变化与发作间期脑活动区分开来。尽管深度学习在该领域展现出良好前景，但现有模型往往受限于脑电（EEG）数据集规模较小、从头训练计算成本高，以及缺乏患者无关泛化能力等问题。本文提出了一种新颖的基于EEG的癫痫发作预测框架，该框架通过定制化架构修改和优化的再训练策略，利用预训练视觉Transformer（ViT）开展预测。
方法 我们的主要贡献包括：[bullet]CVIT-ESP：一类视觉Transformer架构，以定制的N维卷积神经网络（CNN）阶段替换标准的patch embedding层，从而优化EEG表征。[bullet]ESPFormer：一种轻量级、定制设计的Transformer，专门用于缓解有限规模EEG数据集上的过拟合问题。我们通过设计一种启发式搜索空间缩减策略，确定了Transformer模块的最优微调组合，从而显著降低了训练复杂度。我们使用患者无关的MLSPred-Bench对所提方法进行了验证，该基准包含12个具有不同发作预测时间窗的多样化测试基准。
结果 结果表明，性能呈现出明确的提升趋势：此前的ResNet和基础Transformer模型取得了69.0%的AUC-ROC，而我们的CVIT-ESP架构取得了最高性能，最大平均AUC达到76.4%。
结论 这些发现表明，通过结合领域特定的CNN前端并采用策略性微调来适配预训练ViT，为临床癫痫发作预测系统提供了一条稳健、可泛化且资源高效的发展路径。我们的代码可获取于：https://github.com/pcdslab/CVitEsp 和 https://github.com/pcdslab/ESPFormer
📄 原文链接：https://www.biorxiv.org/content/10.64898/2026.08.21.746341v1?rss=1
🏷️ 脑电图 癫痫发作预测 视觉Transformer 迁移学习 患者无关泛化 深度学习