本发明涉及脑电信号的特征提取及分类方法技术领域,特别是一种基于深层堆叠网络的脑电信号特征提取及分类方法。
背景技术:
脑-机接口(BCI)是一种直接通过人脑与计算机或外部设备进行交流的人机交互方式。BCI技术为瘫痪病人提供了新的信息交流渠道,可以提高病人的生活质量,并在医疗领域、认知科学、心理学、军事领域、娱乐和可穿戴智能装备领域都具有巨大的实用价值。
脑电信号(EEG)的识别是BCI的关键技术,包括信号预处理、特征提取和特征分类3个环节。常用的脑电信号特征提取方法有自回归(AR)模型、小波变换、共同空间模式(CSP)等。常用的特征分类方法包括线性判别式分析(LDA),人工神经网络(ANN),支持向量机(SVM)等。脑电信号是一种复杂的非线性随机信号,并且具有高维多通道的特点,导致对其进行建模困难,而深度学习具有强大的处理非线性和高维数据的能力,能够自动从原始数据中提取有效信息,因此很多深度学习的方法也被应用到脑电信号的分析中,为脑-机接口中脑电信号的特征提取及识别提供了一种新的思路。
传统的监督学习需要采集大量有标记的EEG数据用来训练分类器,获得大量的有标记样本不仅需要耗费大量的人力物力资源,并且在数据处理的过程中很可能剔除掉一些隐含的有用信息,所以使用传统的特征提取方法所提取的特征不足以用于对脑电信号的识别过程进行很好的分析。无监督学习虽然使用未标记的EEG数据训练分类器,但是由于缺乏有标记EEG数据的信息,容易导致模型的泛化能力下降,从而使得分类准确率不高。
因此,需要一种基于深层堆叠网络的脑电信号特征提取及分类方法。
技术实现要素:
本发明的目的是提出基于深层堆叠网络的脑电信号特征提取及分类方法;该方法能减小未标记样本的浪费和提高模型的泛化能力。
本发明的目的是通过以下技术方案来实现的:
本发明提供的基于深层堆叠网络的脑电信号特征提取及分类方法,包括以下步骤:
采集脑电信号数据;
对脑电信号进行预处理;
使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练,提取单个通道的脑电信号,将训练得到的参数用于神经网络的参数初始化;
采用批量梯度下降的方法对神经网络进行微调,对各通道的脑电信号特征进行有效融合;
对神经网络进行性能测试并实现分类。
进一步,所述脑电信号是通过使用Emotiv脑电信号采集仪来采集的,所述Emotiv脑电信号采集仪将采集到的脑电信号经过放大和滤波之后,通过无线USB接收器进行传输。
进一步,所述脑电信号的预处理,具体包括以下步骤:
脑电信号进行去均值:计算脑电信号的平均幅值,然后将每个脑电信号都减去平均幅值,去除脑电信号的直流成分;
带通滤波:对脑电信号进行8-30Hz的带通滤波;
归一化:对进行带通滤波后的脑电信号在[0,1]范围内进行归一化处理。
进一步,所述使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练,具体步骤如下:
建立伯努利-伯努利RBM对称网络;
将经过预处理后的大量未标记的单通道脑电信号作为各个RBM的输入;
对各个通道的脑电信号进行独立的无监督特征学习。
进一步,所述伯努利-伯努利RBM对称网络包括可视层和隐藏层;
所述可视层v∈{0,1}m用于表示观测数据,所述隐藏层h∈{0,1}n用于表示特征提取器;
所述RBM对称网络的能量函数表示为:
其中,θ={w,b,a}是模型参数,wij是可视单元i与隐藏单元j之间的连接权重;bi和aj分别为可视层和隐藏层的偏置;参数θ通过对似然概率的最大似然估计求得,为归一化常数;
按照以下公式计算隐含层条件概率为:
按照以下公式计算可视层条件概率为:
σ(x)=1/(1+exp(-x))为sigmoid函数。
进一步,所述RBM对称网络的训练采用基于对比散度的快速训练算法,具体步骤如下:
首先将脑电信号映射给隐含层,然后再由隐含层重构脑电信号;最后将重构信号映射到隐含层,重复循环执行直到完成神经网络的训练。
由于采用了上述技术方案,本发明具有如下的优点:
本发明将受限玻尔兹曼机的无监督特征学习与深层堆叠网络的有监督训练过程相结合,利用RBM的无监督训练得到的权值对神经网络进行初始化,可以减小因随机初始化造成的梯度弥散问题。由于预训练充分利用了未标记样本,减小了未标记样本的浪费,并且采用的是各通道脑电信号独立训练的方式,可以避免各通道间的相互影响,而微调阶段使用批量模式的梯度下降法,采用矩阵计算的形式,便于实现算法的并行运算,网络的输入为所有通道的脑电信号,可以将各通道的脑电信号特征进行有效的融合,有利于分类识别率的提高。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
本发明的附图说明如下。
图1为基于深层堆叠网络的脑电信号特征提取及识别方法流程图。
图2为脑电信号半监督学习过程示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步说明。
如图所示,本实施例提供的基于深层堆叠网络的脑电信号特征提取及分类方法,包括以下步骤:
(1)采集脑电信号数据,脑电信号采集装置采用的是Emotiv脑电信号采集仪。Emotiv总共包含16个电极,其中CMS和DRL为两个参考电极,电极根据国际10-20标准电极安放法安放。信号的采样频率为128Hz,采集到的脑电信号经过放大和滤波之后,通过无线USB接收器传输到计算机上。实验在一个相对安静的环境下进行,实验开始时(t=0s),受试者静坐在椅子上,保持放松状态;t=2s时,受试者根据电脑屏幕上的提示开始进行相应的想象左手或右手运动的实验任务;当t=4s时,停止想象任务。每个受试者对每类想象任务完成后,稍作休息再重复以上试验。
(2)对原始数据进行预处理,由于脑电信号信噪比很低,一般包含了很多背景噪声,如工频杂波、眼电、心电、肌电等信号伪迹,为了降低背景噪声,提高信噪比,需要对原始数据进行预处理,包括去均值、带通滤波、归一化。将每个样本的幅值都减去其平均幅值,这样可以使脑电信号的均值为零,去除信号的直流成分,便于对其过程进行分析。由于想象左右手运动时发生的事件相关同步/去同步现象在主要表现在mu节律(8~13Hz)和beta节律(14~30Hz)上,因此对脑电信号进行8~30Hz的带通滤波。对于伯努利-伯努利RBM,只有当输入样本的值在[0,1]范围时,伯努利分布才有意义,于是对原始数据进行归一化处理。
(3)采用多个RBM对各个通道的脑电信号进行独立预训练,对单个通道的脑电信号进行特征提取。参见图2,将经过步骤102预处理后的大量未标记的单通道脑电信号作为各个RBM的输入,对各个通道的脑电信号进行独立的无监督特征学习。RBM是具有两层结构的对称网络,可视层v∈{0,1}m表示观测数据,隐藏层h∈{0,1}n可视为一些特征提取器。RBM的能量函数表示为
其中θ={w,b,a}是模型参数,wij是可视单元i与隐藏单元j之间的连接权重;bi和aj分别为可视层和隐藏层的偏置。参数θ通过对似然概率的最大似然估计求得,被称为归一化常数。
由于同层节点之间相互独立,可求得模型的隐含层条件概率为可视层条件概率为σ(x)=1/(1+exp(-x))为sigmoid函数。
RBM的训练采用基于对比散度(CD)的快速训练算法,通过将原始脑电信号映射给隐含层,由隐含层重构脑电信号,再将重构信号映射到隐含层,反复执行这一过程来完成对网络参数的预训练。
对RBM的具体训练步骤如下:
1)初始化可视单元的状态为v1=x,x=[x1,x2,...,xN]T为经过步骤102预处理之后的脑电信号数据,N为样本数目,W、a、b为随机的较小数值;
2)在可视层状态已知的情况下,根据隐含层的条件概率计算隐藏单元的状态分布,从条件分布P(h1|v1)中抽取h1j∈{0,1};
3)由隐含层的状态根据可视层的条件概率计算可视单元的状态分布,从条件分布P(v2|h1)中抽取v2i∈{0,1};
4)计算隐藏单元的状态分布
5)根据重构前后可视层和隐含层的状态对参数进行更新,各个参数的更新公式如下:
其中α为学习率,Pdata表示原始输入数据的分布,Precon表示一步重构后模型定义的一个分布。
(4)RBM的预训练完成之后,将所有RBM的可视层在神经网络的输入层进行堆叠,并将学习到的参数用来初始化神经网络的输入权值。假设选取的通道数为n,每个通道采样点数为m,则每个RBM的样本包含m维特征,而有监督训练的输入样本则包含n*m维特征。若每个RBM学习到的参数为Wi(i=1,2,...,n),则初始化后的网络输入权值为W=[W1,...,Wi,...,Wn]。然后将少量带标签的包含所有通道脑电信号的数据作为该初始化网络的输入,采用深层堆叠网络的监督训练方式对网络进行微调,对各个通道脑电信号的特征进行有效的融合,使用矩阵计算的形式,便于实现算法的并行运算。
网络微调的目标是使实际输出Y与目标输出T之间的均方误差最小:
即最小化E=Tr[(Y-T)(Y-T)T],其中Tr表示求矩阵的迹。
输出权值矩阵U的梯度可表示为令这个梯度为0,由于这是一个凸优化问题,所以可以直接得到U的一个闭合形式的解
U=(HHT)-1HTT (5)
U的确定与W的取值有关,因为H需要通过W来计算。微调的实质是利用W和U之间的结构关系,如式(5),计算输入权值矩阵W的梯度。将上式带入W的梯度计算公式可以得到W的梯度
其中о表示内积运算,HHT和(HHT)-1均为对称矩阵。输入权值W根据式(6)来进行更新,而输出权值U的更新则不需要迭代,直接根据式(5)便可计算得到。
(5)模型训练完成之后,将测试数据放入模型,利用已学习参数进行学习特征测试,最后根据各个特征进行判别分析,实现对脑电信号的分类。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的保护范围当中。
PHP网站源码大运网站优化按天计费木棉湾关键词排名包年推广宝安网站关键词优化坪地企业网站设计盐田SEO按天扣费广州百搜标王龙岗网站搜索优化爱联网站推广系统南澳网站推广方案宝安企业网站设计民治百度竞价荷坳百度网站优化横岗百度爱采购爱联建网站坪山百度网站优化沙井SEO按天收费爱联网站推广方案荷坳关键词按天收费荷坳百度标王南澳网站seo优化塘坑企业网站建设丹竹头网站关键词优化坑梓设计公司网站南联网页制作大芬seo网站推广荷坳网站推广坪地推广网站平湖百度标王光明模板网站建设同乐SEO按天计费歼20紧急升空逼退外机英媒称团队夜以继日筹划王妃复出草木蔓发 春山在望成都发生巨响 当地回应60岁老人炒菠菜未焯水致肾病恶化男子涉嫌走私被判11年却一天牢没坐劳斯莱斯右转逼停直行车网传落水者说“没让你救”系谣言广东通报13岁男孩性侵女童不予立案贵州小伙回应在美国卖三蹦子火了淀粉肠小王子日销售额涨超10倍有个姐真把千机伞做出来了近3万元金手镯仅含足金十克呼北高速交通事故已致14人死亡杨洋拄拐现身医院国产伟哥去年销售近13亿男子给前妻转账 现任妻子起诉要回新基金只募集到26元还是员工自购男孩疑遭霸凌 家长讨说法被踢出群充个话费竟沦为间接洗钱工具新的一天从800个哈欠开始单亲妈妈陷入热恋 14岁儿子报警#春分立蛋大挑战#中国投资客涌入日本东京买房两大学生合买彩票中奖一人不认账新加坡主帅:唯一目标击败中国队月嫂回应掌掴婴儿是在赶虫子19岁小伙救下5人后溺亡 多方发声清明节放假3天调休1天张家界的山上“长”满了韩国人?开封王婆为何火了主播靠辱骂母亲走红被批捕封号代拍被何赛飞拿着魔杖追着打阿根廷将发行1万与2万面值的纸币库克现身上海为江西彩礼“减负”的“试婚人”因自嘲式简历走红的教授更新简介殡仪馆花卉高于市场价3倍还重复用网友称在豆瓣酱里吃出老鼠头315晚会后胖东来又人满为患了网友建议重庆地铁不准乘客携带菜筐特朗普谈“凯特王妃P图照”罗斯否认插足凯特王妃婚姻青海通报栏杆断裂小学生跌落住进ICU恒大被罚41.75亿到底怎么缴湖南一县政协主席疑涉刑案被控制茶百道就改标签日期致歉王树国3次鞠躬告别西交大师生张立群任西安交通大学校长杨倩无缘巴黎奥运