MATLAB中文论坛2010年出过一本书,北航出版社的,叫《MATLAB神经网络30个案例分析 (豆瓣)》。我觉得把它作为入门书挺好的,每一章配有视频和代码,可以依样画葫芦。刚刚顺手还看到了另一本书《MATLAB智能算法30个案例分析》,看目录貌似内容也比较接近的。
《神经网络》包含的30个例子:
P神经网络的数据分类——语音特征信号分类
BP神经网络的非线性系统建模——非线性函数拟合
遗传算法优化BP神经网络——非线性函数拟合
神经网络遗传算法函数极值寻优——非线性函数极值寻优
基于BP_Adaboost的强分类器设计——公司财务预警建模
PID神经元网络解耦控制算法——多变量系统控制
RBF网络的回归——非线性函数回归的实现
GRNN的数据预测——基于广义回归神经网络的货运量预测
离散Hopfield神经网络的联想记忆——数字识别
离散Hopfield神经网络的分类——高校科研能力评价
连续Hopfield神经网络的优化——旅行商问题优化计算
SVM的数据分类预测——意大利葡萄酒种类识别
SVM的参数优化——如何更好的提升分类器的性能
SVM的回归预测分析——上证指数开盘指数预测
SVM的信息粒化时序回归预测——上证指数开盘指数变化趋势和变化空间预测
自组织竞争网络在模式分类中的应用——患者癌症发病预测
SOM神经网络的数据分类——柴油机故障诊断
Elman神经网络的数据预测——电力负荷预测模型研究
概率神经网络的分类预测——基于PNN的变压器故障诊断
神经网络变量筛选——基于BP的神经网络变量筛选
LVQ神经网络的分类——乳腺肿瘤诊断
LVQ神经网络的预测——人脸朝向识别
小波神经网络的时间序列预测——短时交通流量预测
模糊神经网络的预测算法——嘉陵江水质评价
广义神经网络的聚类算法——网络入侵聚类
粒子群优化算法的寻优算法——非线性函数极值寻优
遗传算法优化计算——建模自变量降维
基于灰色神经网络的预测算法研究——订单需求预测
基于Kohonen网络的聚类算法——网络入侵聚类
神经网络GUI的实现——基于GUI的神经网络拟合、模式识别、聚类
罗小波1 刘明培1,2
(1重庆邮电大学计算机学院中韩GIS研究所,重庆,400065;2西南大学资源环境学院,重庆,400065)
摘要:在网络结构给定的情况下,利用遗传算法的全局寻优能力得到一组权值和阈值作为BP神经网络的初始权值和阈值,来避免BP神经网络易陷入局部极小的缺陷,同时也可以提高网络的收敛速度。然后再利用BP神经网络的局部寻优能力,对权值和阈值进行进一步的精细调整。实验结果表明,把这种基于遗传算法的BP神经网络应用于遥感影像监督分类,具有较高的分类精度。
关键词:BP神经网络;遗传算法;遥感影像分类
1 引言
随着遥感技术的快速发展,遥感技术已经广泛应用于各个领域。其中,遥感影像分类是其重要组成部分。近年来,随着人工神经网络理论的快速发展,神经网络技术日益成为遥感影像分类中的有效手段,特别是对高光谱等影像数据,更是具有许多独特的优势。
一般我们把采用BP (Back-propogation)算法的多层感知器叫做BP 神经网络,它是目前研究得最完善、应用最广泛的神经网络之一。与经典的最大似然法相比,BP神经网络最大的优势就是不要求训练样本正态分布。但是,它具有结构难以确定、容易陷入局部极小、不易收敛等缺陷。在本文中,网络的结构由用户根据问题的复杂度确定。在进行网络训练之前,利用遗传算法的全局寻优能力确定网络的初始权值和阈值;然后利用BP学习算法的局部寻优能力对网络进行进一步的精细调整。最后利用训练后的网络进行遥感影像监督分类。结果表明,基于遗传算法的BP神经网络进行遥感影像监督分类,具有较高的分类精度。
2 BP 神经网络
21 网络结构
BP神经网络的结构一般包括输入层、中间隐层、输出层。在模式识别中,输入层的神经元个数等于输入的特征个数,输出层的神经元个数等于需要分类的类别数。隐层可以为一层或多层,但一般的实际应用中一层隐层就可以满足要求。而各隐层的神经元个数需要根据实际问题的复杂度而定。以单隐层为例,其结构示意图如图1。
为了实现一种通用的遥感影像分类手段,除了提供默认的网络结构外,还为使用者提供了根据实际问题的复杂度自行确定网络隐层数与各隐层神经元数的功能。这为一些高级用户提供了灵活性,但这种灵活性在一定程度上增加了使用的难度,有时也需要一个实验的过程,才能取得满意的效果。
图1 BP 神经网络结构
22 BP 学习算法
算法的基本步骤如下:
(1)将全部权值与节点的阈值预置为一个小的随机数。
(2)加载输入与输出。在n个输入节点上加载一n维向量X,并指定每一输出节点的期望值。每次训练可以选取新的同类或者异类样本,直到权值对各类样本达到稳定。
(3)计算实际输出y1,y2,…,yn。
(4)修正权值。权值修正采用了最小均方(LMS)算法的思想,其过程是从输出节点开始,反向地向第一隐层传播由总误差诱发的权值修正。下一时刻的互连权值Wij (t+1)由下式给出:
土地信息技术的创新与土地科学技术发展:2006年中国土地学会学术年会论文集
式中,j为本节点的输出;i则是隐层或者输入层节点的序号; 或者是节点i的输出,或者是外部输入;η 为学习率;α为动量率;δj为误差项,其取值有两种情况:
A若j为输出节点,则:
δj=yj(1 -yj)(tj -yj)
其中,tj为输出节点 j 的期望值,yj为该节点的实际输出值;
B若j为内部隐含节点,则:
土地信息技术的创新与土地科学技术发展:2006年中国土地学会学术年会论文集
其中k为j节点所在层之上各层的全部节点。
(5)在达到预定的误差精度或者循环次数后退出,否则,转(2)。
23 基于遗传算法的网络学习算法
遗传算法具有全局寻优、不易陷入局部极小的优点,但局部寻优的能力较差。而BP学习算法却具有局部寻优的优势。因此,如果将两种算法结合起来构成混合训练算法,则可以相互取长补短获得较好的分类效果。主要思路如下:
(1)利用遗传算法确定最优个体
A把全部权值、阈值作为基因进行实数编码,形成具有M个基因的遗传个体结构,其中M等于所有权值、阈值的个数。
B设定种群规模N,随机初始化这N个具有M个基因的结构。
C适应度的计算:分别用训练样本集对N组权值、阈值进行训练,得出各自网络期望输出与网络实际输出的总误差e,适应度f=10-e。
D进行遗传算子 *** 作,包括选择算子、交叉算子和变异算子,形成新的群体:其中,选择算子采用了轮盘赌的方法,交叉算子采用了两点交叉。
E反复进行C、D两步,直到满足停止条件为止。停止条件为:超出最大代数、最优个体精度达到了规定的精度。
(2)把经过 GA 优化后的最优个体进行解码 *** 作,形成 BP 神经网络的初始权值和阈值。
(3)采用BP学习算法对网络进行训练,直到满足停止条件。停止条件为:①达到最大迭代次数;②总体误差小于规定的最小误差。
网络训练结束后,把待分数据输入训练好的神经网络,进行分类,就可以得到分类结果影像图。
3 应用实例
实现环境为VC+ +60,并基于Mapgis的二次开发平台,因为二次平台提供了一些遥感影像的基本处理函数,如底层的一些读取文件的基本 *** 作。
实验中使用的遥感影像大小为500×500,如图1所示。该影像是一美国城市1985年的遥感影像图。根据同地区的SPOT影像及相关资料,把该区地物类别分为8类,各类所对应的代码为:C1为水体、C2为草地、C3为绿化林、C4为裸地、C5为大型建筑物、C6为军事基地、C7为居民地、C8为其他生活设施(包括街道、道路、码头等)。其中,居民地、军事设施、其他生活设施的光谱特征比较接近。
图1 TM 原始影像 (5,4,3 合成)
在网络训练之前,经过目视解译,并结合一些相关资料,从原始图像上选取了3589个类别已知的样本组成原始样本集。要求原始样本具有典型性、代表性,并能反映实际地物的分布情况。把原始样本集进行预处理,共得到2979个纯净样本。这些预处理后的样本就组成训练样本集。
网络训练时的波段选择为TM1、TM2、TM3、TM4、TM5、TM7 共6个波段。另外,由于所要分类的类别数为8,因此,网络结构为:输入层节点数为6,输出层节点数为8,隐层数为1,隐层的节点数为10,然后用训练样本集对网络进行训练。在训练网络的时候,其训练参数分别为:学习率为005,动量率为05,最小均方误差为01,迭代次数为1000。把训练好的网络对整幅遥感影像进行分类,其分类结果如下面图2所示。
图2 分类结果
为了测试网络的分类精度,在分类完成后,需要进行网络的测试。测试样本的选取仍然采用与选取训练样本集一样的方法在原始影像上进行选取,即结合其他资料,进行目视判读,在原始图像上随机选取类别已知的样本作为测试样本。
利用精度评价模块,把测试样本集与已分类图像进行比较,得到分类误差矩阵以及各种分类精度评价标准,如表1 所示:
表1 分类误差矩阵
总体精度:091,Kappa系数:090。
从表1 可以看出,采用测试样本集进行测试,大部分地物的分类精度都达到了 09以上,只有居民地和其他生活设施的精度没有达到,但也分别达到了089 和077,总的分类精度为091。Kappa系数在遥感影像分类精度评价中应用极为广泛,在本次测试中其值为090。从上面的分析可以看出,利用基于遗传算法的BP神经网络进行遥感影像分类,其分类精度较高,取得了令人满意的效果。
4 结论
与传统的基于统计理论的分类方法相比,BP神经网络分类不要求训练样本正态分布,并且具有复杂的非线性映射能力,更适合于日益激增的海量高光谱遥感数据的处理。但BP神经网络也有易陷于局部极小、不易收敛等缺陷。
初始权值和阈值设置不当,是引起网络易陷于局部极小、不易收敛的重要原因。在实验中,利用遗传算法的全局寻优能力来确定BP网络的初始权值和阈值,使得所获取的初始权值和阈值是一组全局近似最优解。然后,利用BP学习算法的局部寻优能力对网络权值和阈值进行精细调整。这样,训练后的稳定网络,不但具有较强的非线性映射能力,而且总可以得到一组均方误差最小的全局最优解。
实验表明,利用上述的基于遗传算法的BP神经网络进行遥感影像分类,只要所选取的训练样本具有代表性,能反映实际地物的分布情况,就能够得到较高的分类精度,具有较强的实际应用价值。
参考文献
HYang et al,A Back-propagation neural networkmfor mineralogical mapping fromAVIRIS data,IntJRemote sensing,20 (1):97~110
Arduti Alessandro,et alSpeed up learning and network optimization with extended back propogationNeural Networks,1993,6:365~383
Patrick PMinimization methods for training feed forward neural networksNeural Networks,1994,7:1~12
Goldberg D EGenetic algorithms in Search Optimization and Machine LearingMA:Addison-Wesley,1989
Rudolph GunterConvergence analysis of canonical genetic algorithmsIEEE Transactions on Neural Networks,1994,5 (1);102~119
Fang J,Xi YToward design based on evolutionary programmingArtificialIntelEng,1997,11 (2):155~161
Park Y R,et alPrediction sun spots using layered perception neural networkIEEE Transon Neural Netorks,1996,7 (2):501~505
杨行峻、郑君里人工神经网络与盲信号处理[M]北京:清华出版社,2003,23~40
周成虎、骆剑成等遥感影像地学理解与分析[M]北京:科学出版社,2001,228~238
王耀男卫星遥感图像的神经网络自动识别[J]湖南大学学报,1998,61~66
江东,王建华人工神经网络在遥感中的应用与发展国土与资源遥感,1999,13~18
人工神经网络特有的非线性适应性信息处理能力,克服了传统人工智能方法对于直觉,如模式、语音识别、非结构化信息处理方面的缺陷,使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。人工神经网络与其它传统方法相结合,将推动人工智能和信息处理技术不断发展。近年来,人工神经网络正向模拟人类认知的道路上更加深入发展,与模糊系统、遗传算法、进化机制等结合,形成计算智能,成为人工智能的一个重要方向,将在实际应用中得到发展。将信息几何应用于人工神经网络的研究,为人工神经网络的理论研究开辟了新的途径。神经计算机的研究发展很快,已有产品进入市场。光电结合的神经计算机为人工神经网络的发展提供了良好条件。
神经网络在很多领域已得到了很好的应用,但其需要研究的方面还很多。其中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。由于其他方法也有它们各自的优点,所以将神经网络与其他方法相结合,取长补短,继而可以获得更好的应用效果。目前这方面工作有神经网络与模糊逻辑、专家系统、遗传算法、小波分析、混沌、粗集理论、分形理论、证据理论和灰色系统等的融合。
下面主要就神经网络与小波分析、混沌、粗集理论、分形理论的融合进行分析。
与小波分析的结合
1981年,法国地质学家Morlet在寻求地质数据时,通过对Fourier变换与加窗Fourier变换的异同、特点及函数构造进行创造性的研究,首次提出了小波分析的概念,建立了以他的名字命名的Morlet小波。1986年以来由于YMeyer、SMallat及IDaubechies等的奠基工作,小波分析迅速发展成为一门新兴学科。Meyer所著的小波与算子,Daubechies所著的小波十讲是小波研究领域最权威的著作。
小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象的任意细节。小波分析相当于一个数学显微镜,具有放大、缩小和平移功能,通过检查不同放大倍数下的变化来研究信号的动态特性。因此,小波分析已成为地球物理、信号处理、图像处理、理论物理等诸多领域的强有力工具。
小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合,因而具有较强的逼近能力和容错能力。在结合方法上,可以将小波函数作为基函数构造神经网络形成小波网络,或者小波变换作为前馈神经网络的输入前置处理工具,即以小波变换的多分辨率特性对过程状态信号进行处理,实现信噪分离,并提取出对加工误差影响最大的状态特性,作为神经网络的输入。
小波神经网络在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断以及许多方面都有应用,将小波神经网络用于感应伺服电机的智能控制,使该系统具有良好的跟踪控制性能,以及好的鲁棒性,利用小波包神经网络进行心血管疾病的智能诊断,小波层进行时频域的自适应特征提取,前向神经网络用来进行分类,正确分类率达到94%。
小波神经网络虽然应用于很多方面,但仍存在一些不足。从提取精度和小波变换实时性的要求出发,有必要根据实际情况构造一些适应应用需求的特殊小波基,以便在应用中取得更好的效果。另外,在应用中的实时性要求,也需要结合DSP的发展,开发专门的处理芯片,从而满足这方面的要求。
混沌神经网络
混沌第一个定义是上世纪70年代才被Li-Yorke第一次提出的。由于它具有广泛的应用价值,自它出现以来就受到各方面的普遍关注。混沌是一种确定的系统中出现的无规则的运动,混沌是存在于非线性系统中的一种较为普遍的现象,混沌运动具有遍历性、随机性等特点,能在一定的范围内按其自身规律不重复地遍历所有状态。混沌理论所决定的是非线性动力学混沌,目的是揭示貌似随机的现象背后可能隐藏的简单规律,以求发现一大类复杂问题普遍遵循的共同规律。
1990年Kaihara、TTakabe和MToyoda等人根据生物神经元的混沌特性首次提出混沌神经网络模型,将混沌学引入神经网络中,使得人工神经网络具有混沌行为,更加接近实际的人脑神经网络,因而混沌神经网络被认为是可实现其真实世界计算的智能信息处理系统之一,成为神经网络的主要研究方向之一。
与常规的离散型Hopfield神经网络相比较,混沌神经网络具有更丰富的非线性动力学特性,主要表现如下:在神经网络中引入混沌动力学行为;混沌神经网络的同步特性;混沌神经网络的吸引子。
当神经网络实际应用中,网络输入发生较大变异时,应用网络的固有容错能力往往感到不足,经常会发生失忆现象。混沌神经网络动态记忆属于确定性动力学运动,记忆发生在混沌吸引子的轨迹上,通过不断地运动(回忆过程)一一联想到记忆模式,特别对于那些状态空间分布的较接近或者发生部分重叠的记忆模式,混沌神经网络总能通过动态联想记忆加以重现和辨识,而不发生混淆,这是混沌神经网络所特有的性能,它将大大改善Hopfield神经网络的记忆能力。混沌吸引子的吸引域存在,形成了混沌神经网络固有容错功能。这将对复杂的模式识别、图像处理等工程应用发挥重要作用。
混沌神经网络受到关注的另一个原因是混沌存在于生物体真实神经元及神经网络中,并且起到一定的作用,动物学的电生理实验已证实了这一点。
混沌神经网络由于其复杂的动力学特性,在动态联想记忆、系统优化、信息处理、人工智能等领域受到人们极大的关注。针对混沌神经网络具有联想记忆功能,但其搜索过程不稳定,提出了一种控制方法可以对混沌神经网络中的混沌现象进行控制。研究了混沌神经网络在组合优化问题中的应用。
为了更好的应用混沌神经网络的动力学特性,并对其存在的混沌现象进行有效的控制,仍需要对混沌神经网络的结构进行进一步的改进和调整,以及混沌神经网络算法的进一步研究。
基于粗集理论
粗糙集(Rough Sets)理论是1982年由波兰华沙理工大学教授ZPawlak首先提出,它是一个分析数据的数学理论,研究不完整数据、不精确知识的表达、学习、归纳等方法。粗糙集理论是一种新的处理模糊和不确定性知识的数学工具,其主要思想就是在保持分类能力不变的前提下,通过知识约简,导出问题的决策或分类规则。目前,粗糙集理论已被成功应用于机器学习、决策分析、过程控制、模式识别与数据挖掘等领域。
粗集和神经网络的共同点是都能在自然环境下很好的工作,但是,粗集理论方法模拟人类的抽象逻辑思维,而神经网络方法模拟形象直觉思维,因而二者又具有不同特点。粗集理论方法以各种更接近人们对事物的描述方式的定性、定量或者混合性信息为输入,输入空间与输出空间的映射关系是通过简单的决策表简化得到的,它考虑知识表达中不同属性的重要性确定哪些知识是冗余的,哪些知识是有用的,神经网络则是利用非线性映射的思想和并行处理的方法,用神经网络本身结构表达输入与输出关联知识的隐函数编码。
在粗集理论方法和神经网络方法处理信息中,两者存在很大的两个区别:其一是神经网络处理信息一般不能将输入信息空间维数简化,当输入信息空间维数较大时,网络不仅结构复杂,而且训练时间也很长;而粗集方法却能通过发现数据间的关系,不仅可以去掉冗余输入信息,而且可以简化输入信息的表达空间维数。其二是粗集方法在实际问题的处理中对噪声较敏感,因而用无噪声的训练样本学习推理的结果在有噪声的环境中应用效果不佳。而神经网络方法有较好的抑制噪声干扰的能力。
因此将两者结合起来,用粗集方法先对信息进行预处理,即把粗集网络作为前置系统,再根据粗集方法预处理后的信息结构,构成神经网络信息处理系统。通过二者的结合,不但可减少信息表达的属性数量,减小神经网络构成系统的复杂性,而且具有较强的容错及抗干扰能力,为处理不确定、不完整信息提供了一条强有力的途径。
目前粗集与神经网络的结合已应用于语音识别、专家系统、数据挖掘、故障诊断等领域,将神经网络和粗集用于声源位置的自动识别,将神经网络和粗集用于专家系统的知识获取中,取得比传统专家系统更好的效果,其中粗集进行不确定和不精确数据的处理,神经网络进行分类工作。
虽然粗集与神经网络的结合已应用于许多领域的研究,为使这一方法发挥更大的作用还需考虑如下问题:模拟人类抽象逻辑思维的粗集理论方法和模拟形象直觉思维的神经网络方法更加有效的结合;二者集成的软件和硬件平台的开发,提高其实用性。
与分形理论的结合
自从美国哈佛大学数学系教授Benoit B Mandelbrot于20世纪70年代中期引入分形这一概念,分形几何学(Fractal geometry)已经发展成为科学的方法论--分形理论,且被誉为开创了20世纪数学重要阶段。现已被广泛应用于自然科学和社会科学的几乎所有领域,成为现今国际上许多学科的前沿研究课题之一。
由于在许多学科中的迅速发展,分形已成为一门描述自然界中许多不规则事物的规律性的学科。它已被广泛应用在生物学、地球地理学、天文学、计算机图形学等各个领域。
用分形理论来解释自然界中那些不规则、不稳定和具有高度复杂结构的现象,可以收到显著的效果,而将神经网络与分形理论相结合,充分利用神经网络非线性映射、计算能力、自适应等优点,可以取得更好的效果。
分形神经网络的应用领域有图像识别、图像编码、图像压缩,以及机械设备系统的故障诊断等。分形图像压缩/解压缩方法有着高压缩率和低遗失率的优点,但运算能力不强,由于神经网络具有并行运算的特点,将神经网络用于分形图像压缩/解压缩中,提高了原有方法的运算能力。将神经网络与分形相结合用于果实形状的识别,首先利用分形得到几种水果轮廓数据的不规则性,然后利用3层神经网络对这些数据进行辨识,继而对其不规则性进行评价。
分形神经网络已取得了许多应用,但仍有些问题值得进一步研究:分形维数的物理意义;分形的计算机仿真和实际应用研究。随着研究的不断深入,分形神经网络必将得到不断的完善,并取得更好的应用效果。
第1章 BP神经网络的数据分类——语音特征信号分类1
本案例选取了民歌、古筝、摇滚和流行四类不同音乐,用BP神经网络实现对这四类音乐的有效分类。
第2章 BP神经网络的非线性系统建模——非线性函数拟合11
本章拟合的非线性函数为y=x21+x22。
第3章 遗传算法优化BP神经网络——非线性函数拟合21
根据遗传算法和BP神经网络理论,在MATLAB软件中编程实现基于遗传算法优化的BP神经网络非线性系统拟合算法。
第4章 神经网络遗传算法函数极值寻优——非线性函数极值寻优36
对于未知的非线性函数,仅通过函数的输入输出数据难以准确寻找函数极值。这类问题可以通过神经网络结合遗传算法求解,利用神经网络的非线性拟合能力和遗传算法的非线性寻优能力寻找函数极值。
第5章 基于BP_Adaboost的强分类器设计——公司财务预警建模45
BP_Adaboost模型即把BP神经网络作为弱分类器,反复训练BP神经网络预测样本输出,通过Adaboost算法得到多个BP神经网络弱分类器组成的强分类器。
第6章 PID神经元网络解耦控制算法——多变量系统控制54
根据PID神经元网络控制器原理,在MATLAB中编程实现PID神经元网络控制多变量耦合系统。
第7章 RBF网络的回归——非线性函数回归的实现65
本例用RBF网络拟合未知函数,预先设定一个非线性函数,如式y=20+x21-10cos(2πx1)+x22-10cos(2πx2)所示,假定函数解析式不清楚的情况下,随机产生x1,x2和由这两个变量按上式得出的y。将x1,x2作为RBF网络的输入数据,将y作为RBF网络的输出数据,分别建立近似和精确RBF网络进行回归分析,并评价网络拟合效果。
第8章 GRNN的数据预测——基于广义回归神经网络的货运量预测73
根据货运量影响因素的分析,分别取国内生产总值(GDP),工业总产值,铁路运输线路长度,复线里程比重,公路运输线路长度,等级公路比重,铁路货车数量和民用载货汽车数量8项指标因素作为网络输入,以货运总量,铁路货运量和公路货运量3项指标因素作为网络输出,构建GRNN,由于训练数据较少,采取交叉验证方法训练GRNN神经网络,并用循环找出最佳的SPREAD。
第9章 离散Hopfield神经网络的联想记忆——数字识别81
根据Hopfield神经网络相关知识,设计一个具有联想记忆功能的离散型Hopfield神经网络。要求该网络可以正确地识别0~9这10个数字,当数字被一定的噪声干扰后,仍具有较好的识别效果。
第10章 离散Hopfield神经网络的分类——高校科研能力评价90
某机构对20所高校的科研能力进行了调研和评价,试根据调研结果中较为重要的11个评价指标的数据,并结合离散Hopfield神经网络的联想记忆能力,建立离散Hopfield高校科研能力评价模型。
第11章 连续Hopfield神经网络的优化——旅行商问题优化计算100
现对于一个城市数量为10的TSP问题,要求设计一个可以对其进行组合优化的连续型Hopfield神经网络模型,利用该模型可以快速地找到最优(或近似最优)的一条路线。
第12章 SVM的数据分类预测——意大利葡萄酒种类识别112
将这178个样本的50%做为训练集,另50%做为测试集,用训练集对SVM进行训练可以得到分类模型,再用得到的模型对测试集进行类别标签预测。
第13章 SVM的参数优化——如何更好的提升分类器的性能122
本章要解决的问题就是仅仅利用训练集找到分类的最佳参数,不但能够高准确率的预测训练集而且要合理的预测测试集,使得测试集的分类准确率也维持在一个较高水平,即使得得到的SVM分类器的学习能力和推广能力保持一个平衡,避免过学习和欠学习状况发生。
第14章 SVM的回归预测分析——上证指数开盘指数预测133
对上证指数从19901220-20090819每日的开盘数进行回归分析。
第15章 SVM的信息粒化时序回归预测——上证指数开盘指数变化趋势和变化空间预测141
在这个案例里面我们将利用SVM对进行模糊信息粒化后的上证每日的开盘指数进行变化趋势和变化空间的预测。
若您对此书内容有任何疑问,可以凭在线交流卡登录中文论坛与作者交流。
第16章 自组织竞争网络在模式分类中的应用——患者癌症发病预测153
本案例中给出了一个含有60个个体基因表达水平的样本。每个样本中测量了114个基因特征,其中前20个样本是癌症病人的基因表达水平的样本(其中还可能有子类), 中间的20个样本是正常人的基因表达信息样本, 余下的20个样本是待检测的样本(未知它们是否正常)。以下将设法找出癌症与正常样本在基因表达水平上的区别,建立竞争网络模型去预测待检测样本是癌症还是正常样本。
第17章SOM神经网络的数据分类——柴油机故障诊断159
本案例中给出了一个含有8个故障样本的数据集。每个故障样本中有8个特征,分别是前面提及过的:最大压力(P1)、次最大压力(P2)、波形幅度(P3)、上升沿宽度(P4)、波形宽度(P5)、最大余波的宽度(P6)、波形的面积(P7)、起喷压力(P8),使用SOM网络进行故障诊断。
第18章Elman神经网络的数据预测——电力负荷预测模型研究170
根据负荷的历史数据,选定反馈神经网络的输入、输出节点,来反映电力系统负荷运行的内在规律,从而达到预测未来时段负荷的目的。
第19章 概率神经网络的分类预测——基于PNN的变压器故障诊断176
本案例在对油中溶解气体分析法进行深入分析后,以改良三比值法为基础,建立基于概率神经网络的故障诊断模型。
第20章 神经网络变量筛选——基于BP的神经网络变量筛选183
本例将结合BP神经网络应用平均影响值(MIV,Mean Impact Value)方法来说明如何使用神经网络来筛选变量,找到对结果有较大影响的输入项,继而实现使用神经网络进行变量筛选。
第21章 LVQ神经网络的分类——乳腺肿瘤诊断188
威斯康星大学医学院经过多年的收集和整理,建立了一个乳腺肿瘤病灶组织的细胞核显微图像数据库。数据库中包含了细胞核图像的10个量化特征(细胞核半径、质地、周长、面积、光滑性、紧密度、凹陷度、凹陷点数、对称度、断裂度),这些特征与肿瘤的性质有密切的关系。因此,需要建立一个确定的模型来描述数据库中各个量化特征与肿瘤性质的关系,从而可以根据细胞核显微图像的量化特征诊断乳腺肿瘤是良性还是恶性。
第22章 LVQ神经网络的预测——人脸朝向识别198
现采集到一组人脸朝向不同角度时的图像,图像来自不同的10个人,每人5幅图像,人脸的朝向分别为:左方、左前方、前方、右前方和右方。试创建一个LVQ神经网络,对任意给出的人脸图像进行朝向预测和识别。
第23章 小波神经网络的时间序列预测——短时交通流量预测208
根据小波神经网络原理在MATLAB环境中编程实现基于小波神经网络的短时交通流量预测。
第24章 模糊神经网络的预测算法——嘉陵江水质评价218
根据模糊神经网络原理,在MATLAB中编程实现基于模糊神经网络的水质评价算法。
第25章 广义神经网络的聚类算法——网络入侵聚类229
模糊聚类虽然能够对数据聚类挖掘,但是由于网络入侵特征数据维数较多,不同入侵类别间的数据差别较小,不少入侵模式不能被准确分类。本案例采用结合模糊聚类和广义神经网络回归的聚类算法对入侵数据进行分类。
第26章 粒子群优化算法的寻优算法——非线性函数极值寻优236
根据PSO算法原理,在MATLAB中编程实现基于PSO算法的函数极值寻优算法。
第27章 遗传算法优化计算——建模自变量降维243
在第21章中,建立模型时选用的每个样本(即病例)数据包括10个量化特征(细胞核半径、质地、周长、面积、光滑性、紧密度、凹陷度、凹陷点数、对称度、断裂度)的平均值、10个量化特征的标准差和10个量化特征的最坏值(各特征的3个最大数据的平均值)共30个数据。明显,这30个输入自变量相互之间存在一定的关系,并非相互独立的,因此,为了缩短建模时间、提高建模精度,有必要将30个输入自变量中起主要影响因素的自变量筛选出来参与最终的建模。
第28章 基于灰色神经网络的预测算法研究——订单需求预测258
根据灰色神经网络原理,在MATLAB中编程实现基于灰色神经网络的订单需求预测。
第29章 基于Kohonen网络的聚类算法——网络入侵聚类268
根据Kohonen网络原理,在MATLAB软件中编程实现基于Kohonen网络的网络入侵分类算法。
第30章 神经网络GUI的实现——基于GUI的神经网络拟合、模式识别、聚类277
为了便于使用MATLAB编程的新用户,快速地利用神经网络解决实际问题,MATLAB提供了一个基于神经网络工具箱的图形用户界面。考虑到图形用户界面带来的方便和神经网络在数据拟合、模式识别、聚类各个领域的应用,MATLAB R2009a提供了三种神经网络拟合工具箱(拟合工具箱/模式识别工具箱/聚类工具箱)。
原理大概是,设置一个初始种群,种群里的个体就是平滑因子,经过遗传算法的选择、交叉、变异后,逐渐找到一个最佳的spread,即为最终结果。
附件是一个GA-BP算法的程序,虽然不同,但是原理是相近的,可以参考。
遗传算法的基本运算过程如下:
a)初始化:设置进化代数计数器t=0,设置最大进化代数T,随机生成M个个体作为初始群体P(0)。
b)个体评价:计算群体P(t)中各个个体的适应度。
c)选择运算:将选择算子作用于群体。选择的目的是把优化的个体直接遗传到下一代或通过配对交叉产生新的个体再遗传到下一代。选择 *** 作是建立在群体中个体的适应度评估基础上的。
d)交叉运算:将交叉算子作用于群体。遗传算法中起核心作用的就是交叉算子。
e)变异运算:将变异算子作用于群体。即是对群体中的个体串的某些基因座上的基因值作变动。
群体P(t)经过选择、交叉、变异运算之后得到下一代群体P(t+1)。
f)终止条件判断:若t=T,则以进化过程中所得到的具有最大适应度个体作为最优解输出,终止计算。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)