有人可以介绍一下什么是"神经网络"吗?

由于神经网络是多学科交叉的产物，各个相关的学科领域对神经网络

都有各自的看法，因此，关于神经网络的定义，在科学界存在许多不同的

见解。目前使用得最广泛的是TKoholen的定义，即"神经网络是由具有适

应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经

系统对真实世界物体所作出的交互反应。"

如果我们将人脑神经信息活动的特点与现行冯·诺依曼计算机的工作方

式进行比较，就可以看出人脑具有以下鲜明特征：

1 巨量并行性。

在冯·诺依曼机中，信息处理的方式是集中、串行的，即所有的程序指

令都必须调到CPU中后再一条一条地执行。而人在识别一幅图像或作出一项

决策时，存在于脑中的多方面的知识和经验会同时并发作用以迅速作出解答。

据研究，人脑中约有多达10^(10)～10^(11)数量级的神经元，每一个神经元

具有103数量级的连接，这就提供了巨大的存储容量，在需要时能以很高的

反应速度作出判断。

2 信息处理和存储单元结合在一起。

在冯·诺依曼机中，存储内容和存储地址是分开的，必须先找出存储器的

地址，然后才能查出所存储的内容。一旦存储器发生了硬件故障，存储器中

存储的所有信息就都将受到毁坏。而人脑神经元既有信息处理能力又有存储

功能，所以它在进行回忆时不仅不用先找存储地址再调出所存内容，而且可

以由一部分内容恢复全部内容。当发生"硬件"故障（例如头部受伤）时，并

不是所有存储的信息都失效，而是仅有被损坏得最严重的那部分信息丢失。

3 自组织自学习功能。

冯·诺依曼机没有主动学习能力和自适应能力，它只能不折不扣地按照

人们已经编制好的程序步骤来进行相应的数值计算或逻辑计算。而人脑能够

通过内部自组织、自学习的能力，不断地适应外界环境，从而可以有效地处

理各种模拟的、模糊的或随机的问题。

神经网络研究的主要发展过程大致可分为四个阶段：

1 第一阶段是在五十年代中期之前。

西班牙解剖学家Cajal于十九世纪末创立了神经元学说，该学说认为神经

元的形状呈两极，其细胞体和树突从其他神经元接受冲动，而轴索则将信号

向远离细胞体的方向传递。在他之后发明的各种染色技术和微电极技术不断

提供了有关神经元的主要特征及其电学性质。

1943年，美国的心理学家WSMcCulloch和数学家WAPitts在论文《神经

活动中所蕴含思想的逻辑活动》中，提出了一个非常简单的神经元模型，即

M－P模型。该模型将神经元当作一个功能逻辑器件来对待，从而开创了神经

网络模型的理论研究。

1949年，心理学家DO Hebb写了一本题为《行为的组织》的书，在这本

书中他提出了神经元之间连接强度变化的规则，即后来所谓的Hebb学习法则。

Hebb写道："当神经细胞A的轴突足够靠近细胞B并能使之兴奋时，如果A重

复或持续地激发B，那么这两个细胞或其中一个细胞上必然有某种生长或代

谢过程上的变化，这种变化使A激活B的效率有所增加。"简单地说，就是

如果两个神经元都处于兴奋状态，那么它们之间的突触连接强度将会得到增

强。

五十年代初，生理学家Hodykin和数学家Huxley在研究神经细胞膜等效电

路时，将膜上离子的迁移变化分别等效为可变的Na+电阻和K+电阻，从而建

立了著名的Hodykin-Huxley方程。

这些先驱者的工作激发了许多学者从事这一领域的研究，从而为神经计

算的出现打下了基础。

2 第二阶段从五十年代中期到六十年代末。

1958年，FRosenblatt等人研制出了历史上第一个具有学习型神经网络

特点的模式识别装置，即代号为Mark I的感知机（Perceptron），这一重

大事件是神经网络研究进入第二阶段的标志。对于最简单的没有中间层的

感知机，Rosenblatt证明了一种学习算法的收敛性，这种学习算法通过迭代

地改变连接权来使网络执行预期的计算。

稍后于Rosenblatt，BWidrow等人创造出了一种不同类型的会学习的神经

网络处理单元，即自适应线性元件Adaline，并且还为Adaline找出了一种有

力的学习规则，这个规则至今仍被广泛应用。Widrow还建立了第一家神经计

算机硬件公司，并在六十年代中期实际生产商用神经计算机和神经计算机软

件。

除Rosenblatt和Widrow外，在这个阶段还有许多人在神经计算的结构和

实现思想方面作出了很大的贡献。例如，KSteinbuch研究了称为学习矩阵

的一种二进制联想网络结构及其硬件实现。NNilsson于1965年出版的

《机器学习》一书对这一时期的活动作了总结。

3 第三阶段从六十年代末到八十年代初。

第三阶段开始的标志是1969年MMinsky和SPapert所著的《感知机》一书

的出版。该书对单层神经网络进行了深入分析，并且从数学上证明了这种网

络功能有限，甚至不能解决象"异或"这样的简单逻辑运算问题。同时，他们

还发现有许多模式是不能用单层网络训练的，而多层网络是否可行还很值得

怀疑。

由于MMinsky在人工智能领域中的巨大威望，他在论著中作出的悲观结论

给当时神经网络沿感知机方向的研究泼了一盆冷水。在《感知机》一书出版

后，美国联邦基金有15年之久没有资助神经网络方面的研究工作，前苏联也

取消了几项有前途的研究计划。

但是，即使在这个低潮期里，仍有一些研究者继续从事神经网络的研究工

作，如美国波士顿大学的SGrossberg、芬兰赫尔辛基技术大学的TKohonen

以及日本东京大学的甘利俊一等人。他们坚持不懈的工作为神经网络研究的

复兴开辟了道路。

4 第四阶段从八十年代初至今。

1982年，美国加州理工学院的生物物理学家JJHopfield采用全互连型

神经网络模型，利用所定义的计算能量函数，成功地求解了计算复杂度为

NP完全型的旅行商问题（Travelling Salesman Problem，简称TSP）。这

项突破性进展标志着神经网络方面的研究进入了第四阶段，也是蓬勃发展

的阶段。

Hopfield模型提出后，许多研究者力图扩展该模型，使之更接近人脑的

功能特性。1983年，TSejnowski和GHinton提出了"隐单元"的概念，并且

研制出了Boltzmann机。日本的福岛邦房在Rosenblatt的感知机的基础上，

增加隐层单元，构造出了可以实现联想学习的"认知机"。Kohonen应用3000

个阈器件构造神经网络实现了二维网络的联想式学习功能。1986年，

DRumelhart和JMcClelland出版了具有轰动性的著作《并行分布处理-认知

微结构的探索》，该书的问世宣告神经网络的研究进入了高潮。

1987年，首届国际神经网络大会在圣地亚哥召开，国际神经网络联合会

（INNS）成立。随后INNS创办了刊物《Journal Neural Networks》，其他

专业杂志如《Neural Computation》，《IEEE Transactions on Neural

Networks》，《International Journal of Neural Systems》等也纷纷

问世。世界上许多著名大学相继宣布成立神经计算研究所并制订有关教育

计划，许多国家也陆续成立了神经网络学会，并召开了多种地区性、国际性

会议，优秀论著、重大成果不断涌现。

今天，在经过多年的准备与探索之后，神经网络的研究工作已进入了决

定性的阶段。日本、美国及西欧各国均制订了有关的研究规划。

日本制订了一个"人类前沿科学计划"。这项计划为期15－20年，仅

初期投资就超过了1万亿日元。在该计划中，神经网络和脑功能的研究占有

重要地位，因为所谓"人类前沿科学"首先指的就是有关人类大脑以及通过

借鉴人脑而研制新一代计算机的科学领域。

在美国，神经网络的研究得到了军方的强有力的支持。美国国防部投资

4亿美元，由国防部高级研究计划局（DAPRA）制订了一个8年研究计划，

并成立了相应的组织和指导委员会。同时，海军研究办公室（ONR）、空军

科研办公室（AFOSR）等也纷纷投入巨额资金进行神经网络的研究。DARPA认

为神经网络"看来是解决机器智能的唯一希望"，并认为"这是一项比原子d

工程更重要的技术"。美国国家科学基金会（NSF）、国家航空航天局（NASA）

等政府机构对神经网络的发展也都非常重视，它们以不同的形式支持了众多

的研究课题。

欧共体也制订了相应的研究计划。在其ESPRIT计划中，就有一个项目是

"神经网络在欧洲工业中的应用"，除了英、德两国的原子能机构外，还有多

个欧洲大公司卷进这个研究项目，如英国航天航空公司、德国西门子公司等。

此外，西欧一些国家还有自己的研究计划，如德国从1988年就开始进行一个

叫作"神经信息论"的研究计划。

我国从1986年开始，先后召开了多次非正式的神经网络研讨会。1990年

12月，由中国计算机学会、电子学会、人工智能学会、自动化学会、通信学

会、物理学会、生物物理学会和心理学会等八个学会联合在北京召开了"中

国神经网络首届学术会议"，从而开创了我国神经网络研究的新纪元。

问题一：自适应控制是什么意思啊？ 具备以下特点的控制系统，可以称为自适应控制系统：

1、在线进行系统结构和参数辨识或系统性能指标的度量，以便得到系统当前状态龚改变情况。

2、按一定的规律确定当前的控制策略。

3、在线修改控制器的参数或可调系统的输入信号。

问题二：自适应控制和智能控制的区别 自适应控制、模糊控制、切换控制等好多类。

现代控制区别于经典控制的主要特点是采用时域的状态空间描述方法而不是频域的传递函数方法，可将单输入单输出系统容易地推广至多输入多输出系统。

问题三：鲁棒控制与自适应控制的区别 鲁棒控制与自适应控制最大的区别在于是否需要在线调节控制器参数

鲁棒控制的优点在于无需在线调节控制器参数，它能保证当系统的动态特性在一定范围内发生波动时仍能保证较好的控制性能；自适应控制是一种跟踪系统特性变化的控制方案，它能感知系统动态特性的变化，并随时修正控制器参数，以使得控制效果保持较好的水平。

打个比方来说，人都需要穿衣服，随着一年四季气候的变化，人的衣服需要不断的更换，这叫自适应控制；但一般来说，尽管一天中的各个时段的气温变化也较大，人们也不需要早中晚换上不骇的衣服（当然除了个别体质弱的人除外），这就叫鲁棒控制。

问题四：自适应的自适应控制 自适应控制可以看作是一个能根据环境变化智能调节自身特性的反馈控制系统以使系统能按照一些设定的标准工作在最优状态。一般地说，自适应控制在航空、导d和空间飞行器的控制中很成功。可以得出结论，传统的自适应控制适合（1）没有大时间延迟的机械系统；（2）对设计的系统动态特性很清楚。但在工业过程控制应用中，传统的自适应控制并不如意。PID自整定方案可能是最可靠的，广泛应用于商业产品，但用户并不怎么喜欢和接受。传统的自适应控制方法，要么采用模型参考要么采用自整定，一般需要辨识过程的动态特性。它存在许多基本问题（1）需要复杂的离线训练；（2）辨识所需的充分激励信号和系统平稳运行的矛盾；（3）对系统结构假设；（4）实际应用中，模型的收敛性和系统稳定性无法保证。另外，传统自适应控制方法中假设系统结构的信息，在处理非线性、变结构或大时间延迟时很难。

问题五：自适应控制与自校正控制的区别 在日常生活中，所谓自适应是指生物能改变自己的习性以适应新的环境的一种特征。因此，直观地讲，自适应控制器应当是这样一种控制器，它能修正自己的特性以适应对象和扰动的动态特性的变化。　自适应控制的研究对象是具有一定程度不确定性的系统，这里所谓的“不确定性”是指描述被控对象及其环境的数学模型不是完全确定的，其中包含一些未知因素和随机因素。　　任何一个实际系统都具有不同程度的不确定性，这些不确定性有时表现在系统内部，有时表现在系统的外部。从系统内部来讲，描述被控对象的数学模型的结构和参数，设计者事先并不一定能准确知道。作为外部环境对系统的影响，可以等效地用许多扰动来表示。这些扰动通常是不可预测的。此外，还有一些测量时产生的不确定因素进入系统。面对这些客观存在的各式各样的不确定性，如何设计适当的控制作用，使得某一指定的性能指标达到并保持最优或者近似最优，这就是自适应控制所要研究解决的问题。 自校正控制是自适应控制的一部分，自适应控制理论包括自校正控制、模型参考自适应控制、非线性自适应控制、神经网络自适应控制和模糊自适应控制。

问题六：什么是自适应性 在日常生活中，所谓自适应是指生物能改变自己的习性以适应新的环境的一种特征。因此，直观地说，自适应控制器应当是这样一种控制器，它能修骇自己的特性以适应对象和扰动的动态特性的变化。

问题七：神经自适应控制属于智能控制吗 属于自动控制。但其实也是智能控制。因为机器能够根据您的需求进行自动调节。请采纳。

问题八：自适应控制和容错控制 标准定义就不说了，相信你自己看过了

自适应控制是指能够在运行过程中，自动改变控制参数的系统（通常是对PID控制参数进行调节，PID后述），最常用的手段是人工神经网络。

最典型的情况是，我没有去精确调节PID的参数，而让系统在实际使用中，根据情况（比如在某一个P值下，室内温度上升的很慢），自动去调整这些参数，以便让系统更加适合具体的环境（而不是对所有环境通用）。

具体的机制，说简单了就是如果反馈结果显示P项小了，就增加一点，否则就减小一点（其实真的就是这样简单）

容错控制是出于安全和稳定性考虑的，与自控相关的不是很大。容错就是指在部分传感器坏了（比如温度）的情况下，机器人仍能利用可以获得的信息进行工作的控制方式。通常的方法就是利用其他传感器的信息来推算坏掉的传感器的信息，或者干脆采用默认值的方式。

下面说下比例 积分 微分控制（也就是PID控制）

比例控制（P)是最好理解的一部分，简单来说就是，温度高的越多，我制冷量就越大。这个是PID中，通常肯定会存在的一项，当加入I和D时，控制器将获得额外好处，如下：

I是积分控制，积分用来解决的问题就是消除静差（就是说，你设定的是24度，实际到了25度的时候，制冷量就和室内热量持平了，温度不再降低），通过对误差（差的那1度）进行积丁（随时间会越来越大），系统将相应的调整输出以消除静差。

D是微分控制，最大的用途是消除震荡（就是一下温度过低了，到23度了，然后加温，加到了25，再降温……），是误差的变化值，这个就和阻尼的作用一样（在摆钟上加阻尼，摆动会越来越小）。

实际使用的时候，首先通过当前温度和期望温度计算出误差e，如果需要积分，则是对每个周期的e进行累加（就是都加起来），这里暂时记为ei，如果需要微分，就用本周期的e减去上周期的e,这里记做ed

最终输出（制冷量）=kpe + ki ei + kd ed

这里kp ki kd就是之前提到的PID的参数，可以通过理论计算，但实际引用中都是通过经验给定（简单说就是试)

问题九：自适应控制理论与应用 谁的书好 我建议先学“经典控制”类的书，再学现代控制，以后可以再学智能控制。这也是控制技术的发展方向。经典控制的书很多，都大同小异的。我以前用的是《控制理论基础》，上交的王显正老师编的，是我看到过最好的一本经典控制的书。现代控制书就了

神经网络技术对完成对微弱信号的检验和对各传感器信息实时处理，具有自适应自学习功能，能自动掌握环境特征，实现自动目标识别及容错性好，抗干扰能力强等优点。神经网络技术特别适用于密集信号环境的信息处理、数据收集目标识别、图像处理、无源探测与定位以及人机接口等方面，因而在作战指挥方面有广泛的应用前景。

目前为止，我们已经学习了2个机器学习模型。线性回归一般用来处理线性问题，逻辑回归用来处理2分类问题。虽然逻辑回归也可以处理非线性的分类问题，但是当我们有非常多的特征时，例如大于100个变量，将会有数量非常惊人的特征组合。这对于一般的逻辑回归来说需要计算的特征太多了，负荷太大。而神经网络既可以解决复杂的非线性分类问题，又可以避免庞大的计算量。

人工神经网络是由很多神经元（激活单元）构成的，神经元是神经网络的基本元素。

实际上，可以这样理解神经元工作过程，当将输入送进神经元后，神经元将输入与权值线性组合（实际上就是θ T X）输出一个线性表达式，再将这个表达式送入激活函数中，便得到了神经元的真实输出。

神经网络由好多个激活单元构成，如下图所示：

激活函数的选择是构建神经网络过程中的重要环节，下面简要介绍常用的激活函数。

(1) 线性函数( Liner Function )

(2) 斜面函数( Ramp Function )

(3) 阈值函数( Threshold Function )

以上3个激活函数都属于线性函数，下面介绍两个常用的非线性激活函数。

(4) S形函数( Sigmoid Function )

　S形函数与双极S形函数的图像如下：

双极S形函数与S形函数主要区别在于函数的值域，双极S形函数值域是(-1,1)，而S形函数值域是(0,1)。由于S形函数与双极S形函数都是 可导的 (导函数是连续函数)，因此适合用在BP神经网络中。（BP算法要求激活函数可导）

人工神经网络中，最常用的激活函数就是sigmoid函数

神经网络是由大量的神经元互联而构成的网络。根据网络中神经元的互联方式，常见网络结构主要可以分为下面3类：

前馈网络也称前向网络，是最常见的神经网络，前文提到的都是前馈网络。称之为前馈是因为它在输出和模型本身之间没有反馈，数据只能向前传送，直到到达输出层，层间没有向后的反馈信号。

反馈型神经网络是一种从输出到输入具有反馈连接的神经网络，其结构比前馈网络要复杂得多。

自组织神经网络是一种无监督学习网络。它通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。