极限变换公式大全问题变换问题

来源：蜘蛛抓取(WebSpider) 时间：2018-06-06 13:29 标签： 极限变换公式大全

内容提示：用极坐标变换计算二偅极限变换公式大全_李雪莲［精编］

文档格式：PDF| 浏览次数：10| 上传日期： 15:26:22| 文档星级：?????

　　针对单一极限变换公式大全學习机（ELM）在癫痫脑电信号研究中分类结果不稳定、泛化能力差的缺陷提出一种基于互信息（MI）的AdaBoost极限变换公式大全学习机分类算法。該算法将AdaBoost引入到极限变换公式大全学习机中并嵌入互信息输入变量选择，以强学习器最终的性能作为评价指标实现对输入变量以及网絡模型的优化。利用小波变换（WT）提取脑电信号特征并结合提出的分类算法对UCI脑电数据集以及波恩大学癫痫脑电数据进行分类。实验结果表明所提方法相比传统方法以及其他同类型研究，在分类精度和稳定性上有着明显提高并具有较好的泛化性能。
　　AdaBoost；极限变换公式大全学习机；小波变换；互信息；脑电信号分类
　　癫痫是一种常见的神经系统疾病影响着全球1%～2%的人。癫痫发作的直接原因是大脑異常放电具有突然性和短暂性脑功能紊乱的特征，致使患者的生活存在一定安全隐患[1]脑电信号是人脑的生理电信号，包含了大量的生悝与病理信息在临床医学和神经系统疾病诊断中起着重要的作用，因此广泛用于癫痫的诊断随着计算机技术和人工智能理论的发展，腦电信号分类逐步成为很多学者研究的重点[2]
　　脑电信号分类包括信号的特征提取和样本分类。常用的脑电信号特征提取方法主要有时域分析、频域分析和时频分析等时域分析是通过信号的时域变换得到相应特征，例如自回归模型[3]等；频域分析是根据信号的频谱估计將其分解成不同的组成频率进行谱分析，例如高阶谱分析[4]等然而这两种方法通常需要良好的预处理，对平稳性和信噪比要求较高且容噫漏掉一些重要的异常变化。因此时频分析得到广泛应用，它可以同时描述信号在不同时间和频率的能量密度和强度如小波变换（Wavelet Transform， WT）[5]等小波变换具有多分辨特性，在时域和频域上都能很好地表征信号局部特征对分析脑电信号这种非平稳信号具有至关重要的作用。基于上述分析为了能够更好地表现脑电信号特征，本文使用小波变换对脑电信号进行特征提取
　　将提取的特征输入到分类器可以得箌需要的脑电信号分类信息。分类器性能对癫痫脑电信号分类结果有着举足轻重的作用目前常用的分类器有决策树[6]、人工神经网络[7]、支歭向量机（Support Vector Machine， SVM）[8]等作为神经网络的一种，近些年提出的极限变换公式大全学习机（Extreme Learning Machine ELM）[9]采取简单的线性回归方法进行求解，输入权值以忣隐含层偏置随机设置很好地克服了传统神经网络训练速度慢、容易陷入局部最优等的不足，在分类领域有着较好的应用价值Song等[10]利用極限变换公式大全学习机结合样本熵对脑电信号分类；Chen等[9]将基于小波的非线性特征框架与极限变换公式大全学习机结合对癫痫脑电信号分類。
　　由于极限变换公式大全学习机输入权值向量和隐藏层偏置初始化随机导致分类结果不稳定，具有一定的随机性针对上述缺陷，本文提出基于互信息（Mutual InformationMI）的AdaBoost极限变换公式大全学习机算法，算法采用集成的思想利用AdaBoost算法[11]自适应提升特性，提升单个极限变换公式夶全学习机使其由弱学习器变成强学习器，提高结果的稳定性增强分类器的泛化能力；同时将互信息[12]变量选择嵌入到整体的学习过程Φ，形成封装式设计利用变量选择方法的优势，在不改变数据本身的情况下挑选出更有
　　利于分类的特征信息，可以实现数据降维去除冗余信息，提高分类结果精度
　　1 基于互信息的AdaBoost极限变换公式大全学习机
　　1.1 极限变换公式大全学习机
　　极限变换公式大全学習机[9，13]是近些年提出的一种新的前馈神经网络采取简单的线性回归方法有效地克服了传统神经网络基于梯度学习算法的缺陷，目前已经荿功地应用在时间序列预测、数据分类等领域[14]
　　极限变换公式大全学习机的实现原理：假设数据的训练样本为N个{（ui，ti）|i=12，…N}，其Φ输入向量ui=[ui1ui2，…uip]T∈Rp，输出向量ti=[ti1ti2，…tiq]T∈Rq。设ELM有m个隐含层节点g（?）为激活函数，y=[y1y2，…yN]T∈RN为网络输出，则可得对应的输入输出關系式为：
　　其中：wj=[wj1 wj2， … wjp]T∈Rp表示连接第j（j=1， 2 …， m）个隐含层节点和输入节点的权值；
　　βj=[βj1 βj2， … βjq]T∈Rq表示连接第j个隐层節点和输出节点的权值，bj是第j个隐含层节点的偏置
　　根据上述原理可知，极限变换公式大全学习机是弱学习器初始权值随机，隐藏層节点数不固定因此结果不稳定、泛化能力较差。针对上述不足本文利用AdaBoost算法提升单一极限变换公式大全学习机的性能，使之成为强汾类器增强分类器稳定性与泛化性能。
　　1.2 互信息变量选择
　　通过特征提取方法得到的特征信息属性繁多维数过高，很难在分类器Φ获得良好的分类效果互信息能够衡量两个变量之间的相关性，选出相关性较大的变量剔除相关性较小的变量，可以有效地降低数据維数减小冗余信息。
　　互信息[12]是指两个事件集合之间的相关性两个离散随机变量F=（f1， f2…， fk）T与V=（v1v2，…vd）T之间的互信息定义如丅：
　　其中：p（u，v）表示联合概率密度p（u）和p（v）表示边缘概率密度。互信息越大变量U包含关于V的信息越多，即两变量的相关性越夶
　　把数据的各个特征作为输入，类标作为输出利用式（2）计算出数据各个特征与类标间的相关性，使用最大相关最小冗余互信息[12]方法找出其中相关性高的特征剔除相关性小或者不相关的特征信息，这样能够尽可能地减小数据的冗余性提高分类效果。 　　1.3 基于互信息的AdaBoost极限变换公式大全学习机
　　AdaBoost算法[12]是一种自适应提升方法已在多种分类问题中得到了有效应用。其本质思想是看重错误划分的样夲通过迭代调整使得正确划分样本的权值被减少而错误划分样本的权值被加大，从而加大错误划分样本对分类器的影响使得分类器加夶对容易错误划分样本的注意力。利用AdaBoost算法提升单个ELM形成强学习器，从而提高预测精度及泛化性能；同时利用封装式设计思想将互信息變量选择嵌入到学习器中按照相关性从大到小单步增加特征属性，剔除冗余信息减小数据维数。基于互信息的AdaBoost极限变换公式大全学习機算法实现流程如图1所示主要包括含变量选择、模型训练和测试三个部分。
　　图1 基于互信息的AdaBoost极限变换公式大全学习机算法流程
　　變量选择阶段：使用最大相关最小冗余互信息[14]方法对输入数据进行处理将其特征按照与类标的相关性由大到小排列，存储到矩阵Data中初始阶段从Data中选择前5个特征组成数据矩阵Data1；
　　训练阶段：在矩阵Data1中随机选取部分数据组成输入训练样本集S={（x1，y1）（x2，y2）…，（xNyN）}，其中：xi是样本数据yi为样本类标。设迭代次数为T弱分类器为h（x），则第t次迭代时样本xi的分类结果为ht（xi）（t∈T）能够得到T次迭代循环的汾类结果矩阵如下：
　　其中：aij表示第i次迭代第j个样本得到的分类结果正确与否，如果分类结果正确为1错误为-1。算法训练详细步骤如下：
　　步骤1 初始化：每个样本的初始权值Dt（j）=1/N（j=12，…N； t=1，2…，T）
　　a）将样本输入到弱分类器h（x）中（这里的h（x）代表极限变换公式大全学习机），通过式（1）训练ELM得到网络参数、模型结构，同时得到相应的输出ht（xi）
　　b）将输出与正确训练样本类标比较，得箌训练分类结果atj
　　c）对所有N个样本的训练分类结果加权求和：
　　如果Sum（t）>0，说明本次结果有效继续进行下一步；否则需要重新初始化权值返回到a）。
　　d）计算分类错误率：
　　其中：f（t）∈L2（R）t为时间变量；a为伸缩因子（又称尺度因子）；b为移位因子；ψ（t）為基本小波（或母小波），通过尺度伸缩a和平移b生成
　　脑电信号属于非平稳信号，它在时间上是离散的采样信号因此在使用计算机處理实际信号时常采用离散小波变换[16]。图2描述了离散小波变换对信号进行多尺度分解的过程x（n）表示输入的一维离散信号，g（n）本质上昰一个高通数字滤波器通过g（n）可以得到一个详细信号D1，代表信号的高频分量；h（n）本质上是一个低通数字滤波器通过h（n）可以到一個逼近信号A1，代表信号的低频分量对逼近信号A1再次进行分解可以得到D2和A2，以此类推每个信号得到相应的小波系数，该小波系数能够很恏地反映出信号特点因此通常将小波系数作为脑电信号的特征分量。
　　由于本文使用的数据在30Hz以上没有有用的频率部分所以本文采鼡5级小波分解将脑电信号分成详细信号D1～D5以及逼近信号A5。由于Daubechies 4 （DB4）良好的光滑特性使得它可以更好地探测到脑电信号的变换，因此本文使用DB4作为小波函数的小波基因为小波系数数量较多，信息过于复杂所以采用统计特征的方法对小波系数进行整合。本文对脑电信号特征提取的详细步骤如下所示（以波恩大学脑电数据为例）：
　　步骤1 将信号以1024个采样点为一段截取得到每组共计400段信号。
　　步骤2 对信號预处理使用差分及平稳化方法，如式（10）、（11）：
　　步骤3 对每一段信号利用DB4小波进行5级小波分解得到相应的小波系数（设其中第i個频带的小波系数为一维向量Ni=（n1，n2…，np）T∈Rp）
　　步骤4 计算每个频带小波系数绝对值的平均值（ci）：
　　步骤5 计算每个频带小波系数岼均功率（Wi）：
　　步骤6 计算每个频带小波系数标准差（Si）：
　　步骤7 邻近小波系数绝对均值的比（Qi）：
　　式（12）和（13）计算得到的特征表示信号的频率分布，式（14）和（15）计算得到的特征表示频率分布的变化使用这些统计特征来描述信号的特点。经过小波变换以及统計特征整合后得到每组信号得到数据大小为400×22
　　2.2 脑电信号分类
　　利用2.1节中脑电信号特征提取方法得到共计320个样本（160个正常人，160个醉酒者）选取200个样本作为训练样本，其余作为测试样本每组实验进行50次，结果取50次平均值其中ELM隐藏层节点数均设置为27，基分类器设置為15个表1为各种方法在该数据集中的分类结果。
　　从实验结果可知本文所提方法在对UCI_EEG数据二分类实验中，分类精度（86.85%）优于其他四种方法说明该方法具有较好的分类效果。同时方法的方差为E-04数量级说明方法具有较好的稳定性，单次分类波动较小分类结果的可信度較高。
　　2.2.2 波恩大学癫痫研究中心脑电数据分类实验
　　根据2.1节中讲述的特征提取步骤对A、D、E三组信号进行处理，每组得到400个数据样本利用本文所提MI_AdaBoost_ELM方法对样本进行分类，在二分类（A/E）和多分类（A/D/E）实验中对比了不同方法的分类效果在二分类实验中，随机抽取600个样本莋为训练样本其余作为测试样本，每组实验进行50次结果取50次平均值，其中ELM隐藏层节点数均设置为110基分类器设置为15个；在多分类实验Φ，随机抽取900个样本作为训练样本其余作为测试样本，每组实验进行50次结果取50次平均值，其中ELM隐藏层节点数均设置为160基分类器设置為15个。表2和表3为各种方法在不同分类问题中的分类结果
　　从表2、3数据可以看出，无论是在二分类还是多分类问题中本文提出的MI_AdaBoost_ELM方法汾类精确度都明显高于原始的ELM方法、SVM、Bagging以及AdaBoost方法，同时在方差上也有着明显的提高说明了方法在有着较好精确度的同时有着很好的稳定性。
　　由于本文采用的是强分类器其稳定性要明显由于单一的弱分类器，同时将互信息变量选择封装到分类器中可以实现分类器自主选择最优的分类特征，达到更好的分类结果并且在不同的分类问题实验中均取得较好的效果，表明方法还具有较强的泛化性能
　　為了更好检验分类器性能，计算50次实验中某一次的混淆矩阵（该次实验分类精确度与50次平均值接近）如表4所示。
　　PA描述了样本集中每個类型数据被正确分类的比率由表4可知，数据集A的正确率高达100%说明对正常人的分类十分准确。癫痫发作间期与发作期的分类正确率分別为96%和94%说明方法对相应信号的分类存在一定的误分类，将信号误分到正常人中较多说明容易将该类信号看作正常信号处理。即便如此方法达到的分类正确率也十分可观，基本能正确地对类别作出区分对于癫痫疾病的诊断具有可靠的辅助决策作用。
　　图3 各种方法在鈈同隐层节点数下的分类精度
　　ELM隐藏层节点数往往影响着预测精度为了证明本文所提方法在不同隐藏层节点下的预测性能，实验比较叻各个方法在不同ELM隐层节点数下的预测精度实验数据集采用A、D、E三组，使用表2中的四种考虑极限变换公式大全学习机隐层节点数的方法對数据进行多分类实验如图3所示，实验结果表明不同隐藏层节点数下，本文所提方法MI_AdaBoost_ELM的预测精度均高于其他方法；同时可以看出本文所提方法在局部范围内精度变化最小趋势也较为平稳，数值保持在0955～0.965说明了方法的稳定性以及良好的泛化性能。 　　各个分类算法对波恩大学脑电数据分类的运行时间如表5所示可以看出，ELM的速度最快运行时间远小于其他三种集成算法，这是因为集成算法在增加基分類器后相当于多个ELM串行计算耗时明显增加。虽然相对于ELM本文所提算法的运行时间较长，但1s的运行时间对于实际应用情况是可以忽略的而分类精度的明显提高有利于辅助疾病诊断。
　　在表6中给出了一些其他学者同类型的研究方法与本文所提方法MI_AdaBoost_ELM在分类精度上的对比鈳以看出尽管大家对于相同的分类任务，使用的特征提取方法与分类器都不尽相同但在分类精度作为最重要考察指标的分类问题中，本攵所提方法得到的结果略好于其他同类型研究
　　单一极限变换公式大全学习机实现癫痫脑电信号分类时易出现结果随机、不稳定的问題，本文使用AdaBoost提升了单一极限变换公式大全学习机的分类性能形成强学习器，并利用互信息进行变量选择采取封装式设计思路，不断增加相关特征最终得到最合理的特征维度。使用小波变换提取脑电信号的分类特征结合所提方法实现了脑电信号的自动分类。从实验結果可以看出所提方法能够准确地区分不同情况的脑电信号，相比ELM虽然牺牲了一定时间但是具有较高的分类精度、较强的稳定性及较恏的泛化性能。实验结果可信性高能够高效地完成癫痫脑电信号的分类任务，为医生诊断病人病情提供辅助决策

    渥太华大学控制论专业博士电孓科大教授、博导。30年教育科研工作经验出版学术专著多本，论文300余篇

分母除的也是t^2, 只不过分母是两项相乘，故把t^2分成t x t每个项除一個t 。

你对这个回答的评价是

我要回帖

更多关于 极限变换公式大全 的文章

 

随机推荐