神经网络及其控制
第一章 神经网络计算
§1-1神经元模型 一、概述
神经网络的特点
1. 定义：用于模拟人脑神经元活动过程，包括对信息的加工、处理、存贮和搜索过程。
2. 特点
（1） 信息分布式存贮
（2） 信息的并行处理与推理 （3） 信息的自组织、自学习 二、神经元的模型特征
神经元——多输入单输出的信息处理单元
膜电位——细胞内部和外部具有不同的电位，当外部电位为零时，内部电位称为膜电位。 ωi >0 —— 兴奋性神经元的突触 ωi <0 —— 抑制性
ωi =0 —— 第i 个输入信号对该神经元不起任何作用 神经元具有以下特征：
1. 时空整合功能： （1） 空间总和：
定量描述为：整个神经元的膜电位（状态变化）与输入信号与其权重的线性组合：
1
n
i i i x ω=∑ 是线性相关的
（2） 时间总和：不同时刻的输入信息对神经元的影响会重叠，加起来，同时起作
用。
（3） 时空整合： 根据空间和时间总和，神经元对不同时刻和不同部位的输入进
行处理，该过程称之为时空整合作用。 定量描述为：设第i 个输入信号t 时间后对膜电位的影响为ωi （t ′(t)）,则在t 时刻，神经元膜电位的变化与下式有关：
1
()()n
t
i i i t t x t dt ω-∞
=-∑?
’’’ （1—1）
式中
()i x t ’——第i 个输入在时间t ′时的输入信号
2
阈值特性
神经元的输入输出之间为非线性，如图1—2所示：
图1—2 阈值特性
即：
_0y u y u θθ
??
>==?
θ——阈值
3. 不应期
θ本身是随着兴奋程度的变化而变化。
绝对不应期——当θ—>∞时，无论输入信号多强大，也不会有输出信号。 4. 突触结合的可塑性：即权重ωi 是实时变化的。
二、 神经模型
入
图1—3 神经元模型
输入处理：
1
n
i K K
k u I ω==?∑ (1—2)
活化处理：()(,)i i i i x t F u x = （1—3）
输出处理：
()()i i i o t f x = （1—4）
式中，f i （）——输出函数，根据不同模型而定。
介绍三种典型的神经元模型： 1. 阈值单元模型（MP 模型）
MP 模型——处理0和1二值离散信息的阈值单元模型。 MP 模型的数学表达式为：
11()()0()n
ij j i
i ij j i j ij j i x y x x ωθωθωθ=≥??=
-=?
∑兴奋抑制 ()?——阶跃函数
2. 准线性单元模型
特点：输入和输出均为连续值。（BP 网络） 神经元i 的总输入为：
1
n
i
ij j i j x x ωθ==-∑ （1—6）
输出为：
1
()1exp()i i i i i y f x x θ==
+-+
（1—7）
3. 概率神经元模型：
特点：输入信号采用0与1的二值离散信息，并把神经元的兴奋与抑制以概率表示。 神经元的总输入为
1
n
i
ij j i j x x ωθ==-∑ （1—8）
有
i x 到输出i y 的概率分布为：
1
(1)1exp(/)i i P y x T ==
+- (1—9)
式中：T ——网络温度的函数
应用：用于Boltzman 神经网络。
三、 基于控制观点的神经元模型
其主要功能由下列三部分完成： 1. 加权加法器---空间总和，即：
1
1
()()()n M
i ij i ik k i
k k t a y t b u t υω===++∑∑ （1—10）
j
i ω——常数，其作用是控制神经元保持某一状态。
2. SISO 线性动态系统---时间总和：
SISO 线性系统对于单位脉冲函数的响应就完成了时间总和，该响应为卷积分：
(')(')'t
i i x h t t v t dt -∞
=-? （1—12）
式中，h （t ）函数常选用下列五种形式：
1
0 ()
001 (1)()():()1
001 (2)()()
10
11
(3)()()
1
11
(4)()()
(5)()()()
t
T
a t
a
sT
h t t H s
t
h t H s
t S
h t e H s
T Ts
h t e H s
a a s a
h t t T H s e
δ
δ
-
-?
-
==?
?<
??
==
??≥
?
?
?
?==
+?
?==?
+?
?=-=?
传递函数
附：δ函数是用于处理许多集中于一点或一瞬时常，例如，点电荷，点热源，窄脉冲，集中力等现象，它可用以下三种形式来定义：
2
1sin
()lim()()lim()lim
wt t G t t t
t wt
ξ
ξξω
ξ
δδδ
ξ
->∞->->∞
===
+
π
图a 图b 图c
图a
图b
图c0
故有：
()1t dt δ+∞
-∞
=?
对应于上述五种时间函数，()i
v t 与()i x t 之间的关系分别为：
011.
()()
2.()()
3.()()()
4.()()()
5.()()i i i i i i i i i i i i x t v t x t v t T x t x t v t a x t a x t v t x t v t T ?
??
=???=??
?
+=??
+=?
=-??
(1—14)
3. 非线性函数---输出函数：
()i i y g x = （1—16）
式中，非线性函数()g ?的常见类如下表所示：
名称 阈值函数
双向阈值函数
Sigma 函数
双曲正切函数
高斯函数
g(x)
10()0
0x g x x >?=?
≤? 10()10x g x x >?=?-≤?
1
()1x g x e -=+
()x x
x x e e
g x e e
---=+ 2
3()x g x e σ-=
图形
特征 不可微，类阶跃，
正值
不可微，类阶跃，零均值
可微，类阶跃，正值 可微，类阶跃，零均值
可微，类脉冲
§1-3 神经网络的结构和学习规则 一、 结构
层状结构：每层中有若干个神经元，相邻层中神
经元单向联接，同层内的神经内不连接
网状结构：任何两个神经元之间都可能双向联接。
１.前向网络（前馈网络）
属于层状网络，如图１—５所示：
图１—５前向网络
特点：（１）.相邻层之间的神经元之间相互连接，各层内神经元之间无连接（２）无反馈
（３）各神经元可以有多个输入（输入层除外），并只有一个输出给下一层的各神经元
（４）输入层中各输入关节无计算功能。
２. 反馈网络：
属于层状结构，如图１—６所示：
图１—６反馈网络
特点：（１）每个神经元都具有计算功能，即为计算节点。
（２）每一个节点接收两个输入
ａ）外界输入
ｂ）其它节点的反馈输入
（３）自环反馈：同一节点的输出反馈给自身做输入。
３. 相互结合型网络
属于网状结构，如图１—７所示：
图１—７相互结合型网络
特点：（１）各个神经元之间都有可能双向连接
（２）各个神经元既作输入又做输出
４.混合型网络
介于层状结构和网状结构之间的一种网络。如图１—８所示：
图１—８混合型神经网络
特点：在前向网络中，同层神经元之间有互联的结构，
目的：限制同层内神经元同时兴奋或者抑制的神经元数目。
二、神经网络的学习和训练
学习——一个节点收到兴奋输入，而且兴奋输入抑制输入足够大时，使神经元对另一个神经元的影响发生变化，此即发生了学习行为。
学习方式：有教师学习
无教师学习
神经网络控制
人工神经网络控制 摘要: 神经网络控制，即基于神经网络控制或简称神经控制，是指在控制系统中采用神经网络这一工具对难以精确描述的复杂的非线性对象进行建模，或充当控制器，或优化计算，或进行推理，或故障诊断等，亦即同时兼有上述某些功能的适应组合，将这样的系统统称为神经网络的控制系统。本文从人工神经网络，以及控制理论如何与神经网络相结合，详细的论述了神经网络控制的应用以及发展。 关键词: 神经网络控制；控制系统；人工神经网络 人工神经网络的发展过程 神经网络控制是20世纪80年代末期发展起来的自动控制领域的前沿学科之一。它是智能控制的一个新的分支，为解决复杂的非线性、不确定、不确知系统的控制问题开辟了新途径。是（人工）神经网络理论与控制理论相结合的产物，是发展中的学科。它汇集了包括数学、生物学、神经生理学、脑科学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。 在控制领域，将具有学习能力的控制系统称为学习控制系统，属于智能控制系统。神经控制是有学习能力的，属于学习控制，是智能控制的一个分支。神经控制发展至今，虽仅有十余年的历史，已有了多种控制结构。如神经预测控制、神经逆系统控制等。 生物神经元模型 神经元是大脑处理信息的基本单元，人脑大约含1012个神经元，分成约1000种类型，每个神经元大约与102~104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的行为方式，同时，如此大量的神经元与外部感受器之间的多种多样的连接方式也蕴含了变化莫测的反应方式。 图1 生物神经元传递信息的过程为多输入、单输出，神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近，当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质，突触有两
人工神经网络BP算法简介及应用概要
科技信息 2011年第 3期 SCIENCE &TECHNOLOGY INFORMATION 人工神经网络是模仿生理神经网络的结构和功能而设计的一种信息处理系统。大量的人工神经元以一定的规则连接成神经网络 , 神经元之间的连接及各连接权值的分布用来表示特定的信息。神经网络分布式存储信息 , 具有很高的容错性。每个神经元都可以独立的运算和处理接收到的信息并输出结果 , 网络具有并行运算能力 , 实时性非常强。神经网络对信息的处理具有自组织、自学习的特点 , 便于联想、综合和推广。神经网络以其优越的性能应用在人工智能、计算机科学、模式识别、控制工程、信号处理、联想记忆等极其广泛的领域。 1986年 D.Rumelhart 和 J.McCelland [1]等发展了多层网络的 BP 算法 , 使BP 网络成为目前应用最广的神经网络。 1BP 网络原理及学习方法 BP(BackPropagation 网络是一种按照误差反向传播算法训练的多层前馈神经网络。基于 BP 算法的二层网络结构如图 1所示 , 包括输入层、一个隐层和输出层 , 三者都是由神经元组成的。输入层各神经元负责接收并传递外部信息 ; 中间层负责信息处理和变换 ; 输出层向 外界输出信息处理结果。神经网络工作时 , 信息从输入层经隐层流向输出层 (信息正向传播 , 若现行输出与期望相同 , 则训练结束 ; 否则 , 误差反向进入网络 (误差反向传播。将输出与期望的误差信号按照原连接通路反向计算 , 修改各层权值和阈值 , 逐次向输入层传播。信息正向传播与误差反向传播反复交替 , 网络得到了记忆训练 , 当网络的全局误差小于给定的误差值后学习终止 , 即可得到收敛的网络和相应稳定的权值。网络学习过程实际就是建立输入模式到输出模式的一个映射 , 也就是建立一个输入与输出关系的数学模型 :
人工神经网络原理及实际应用
人工神经网络原理及实际应用 摘要：本文就主要讲述一下神经网络的基本原理，特别是BP神经网络原理，以及它在实际工程中的应用。 关键词：神经网络、BP算法、鲁棒自适应控制、Smith－PID 本世纪初，科学家们就一直探究大脑构筑函数和思维运行机理。特别是近二十年来。对大脑有关的感觉器官的仿生做了不少工作，人脑含有数亿个神经元，并以特殊的复杂形式组成在一起，它能够在“计算＂某些问题（如难以用数学描述或非确定性问题等）时，比目前最快的计算机还要快许多倍。大脑的信号传导速度要比电子元件的信号传导要慢百万倍，然而，大脑的信息处理速度比电子元件的处理速度快许多倍，因此科学家推测大脑的信息处理方式和思维方式是非常复杂的，是一个复杂并行信息处理系统。1943年Macullocu和Pitts融合了生物物理学和数学提出了第一个神经元模型。从这以后，人工神经网络经历了发展，停滞，再发展的过程，时至今日发展正走向成熟，在广泛领域得到了令人鼓舞的应用成果。本文就主要讲述一下神经网络的原理，特别是BP神经网络原理，以及它在实际中的应用。 1.神经网络的基本原理 因为人工神经网络是模拟人和动物的神经网络的某种结构和功能的模拟，所以要了解神经网络的工作原理，所以我们首先要了解生物神经元。其结构如下图所示： 从上图可看出生物神经元它包括，细胞体：由细胞核、细胞质与细胞膜组成；
轴突：是从细胞体向外伸出的细长部分，也就是神经纤维。轴突是神经细胞的输出端，通过它向外传出神经冲动；树突：是细胞体向外伸出的许多较短的树枝状分支。它们是细胞的输入端，接受来自其它神经元的冲动；突触：神经元之间相互连接的地方，既是神经末梢与树突相接触的交界面。 对于从同一树突先后传入的神经冲动，以及同一时间从不同树突输入的神经冲动，神经细胞均可加以综合处理，处理的结果可使细胞膜电位升高；当膜电位升高到一阀值（约40mV），细胞进入兴奋状态，产生神经冲动，并由轴突输出神经冲动；当输入的冲动减小，综合处理的结果使膜电位下降，当下降到阀值时。细胞进入抑制状态，此时无神经冲动输出。“兴奋”和“抑制”，神经细胞必呈其一。 突触界面具有脉冲/电位信号转换功能，即类似于D/A转换功能。沿轴突和树突传递的是等幅、恒宽、编码的离散电脉冲信号。细胞中膜电位是连续的模拟量。 神经冲动信号的传导速度在1～150m/s之间，随纤维的粗细，髓鞘的有无而不同。 神经细胞的重要特点是具有学习功能并有遗忘和疲劳效应。总之，随着对生物神经元的深入研究，揭示出神经元不是简单的双稳逻辑元件而是微型生物信息处理机制和控制机。 而神经网络的基本原理也就是对生物神经元进行尽可能的模拟，当然，以目前的理论水平，制造水平，和应用水平，还与人脑神经网络的有着很大的差别，它只是对人脑神经网络有选择的，单一的，简化的构造和性能模拟，从而形成了不同功能的，多种类型的，不同层次的神经网络模型。 2.BP神经网络 目前，再这一基本原理上已发展了几十种神经网络，例如Hopficld模型，Feldmann等的连接型网络模型，Hinton等的玻尔茨曼机模型，以及Rumelhart 等的多层感知机模型和Kohonen的自组织网络模型等等。在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。 这里我们重点的讲述一下BP神经网络。多层感知机神经网络的研究始于50年代，但一直进展不大。直到1985年，Rumelhart等人提出了误差反向传递学习算法（即BP算），实现了Minsky的多层网络设想，其网络模型如下图所示。它可以分为输入层，影层（也叫中间层），和输出层，其中中间层可以是一层，也可以多层，看实际情况而定。
神经网络模型预测控制器
神经网络模型预测控制器 摘要：本文将神经网络控制器应用于受限非线性系统的优化模型预测控制中，控制规则用一个神经网络函数逼近器来表示，该网络是通过最小化一个与控制相关的代价函数来训练的。本文提出的方法可以用于构造任意结构的控制器，如减速优化控制器和分散控制器。 关键字：模型预测控制、神经网络、非线性控制 1.介绍 由于非线性控制问题的复杂性，通常用逼近方法来获得近似解。在本文中，提出了一种广泛应用的方法即模型预测控制（MPC），这可用于解决在线优化问题，另一种方法是函数逼近器，如人工神经网络，这可用于离线的优化控制规则。 在模型预测控制中，控制信号取决于在每个采样时刻时的想要在线最小化的代价函数，它已经广泛地应用于受限的多变量系统和非线性过程等工业控制中[3,11,22]。MPC方法一个潜在的弱点是优化问题必须能严格地按要求推算，尤其是在非线性系统中。模型预测控制已经广泛地应用于线性MPC问题中[5]，但为了减小在线计算时的计算量，该部分的计算为离线。一个非常强大的函数逼近器为神经网络，它能很好地用于表示非线性模型或控制器，如文献[4,13,14]。基于模型跟踪控制的方法已经普遍地应用在神经网络控制，这种方法的一个局限性是它不适合于不稳定地逆系统，基此本文研究了基于优化控制技术的方法。 许多基于神经网络的方法已经提出了应用在优化控制问题方面，该优化控制的目标是最小化一个与控制相关的代价函数。一个方法是用一个神经网络来逼近与优化控制问题相关联的动态程式方程的解[6]。一个更直接地方法是模仿MPC方法，用通过最小化预测代价函数来训练神经网络控制器。为了达到精确的MPC技术，用神经网络来逼近模型预测控制策略，且通过离线计算[1,7.9,19]。用一个交替且更直接的方法即直接最小化代价函数训练网络控制器代替通过训练一个神经网络来逼近一个优化模型预测控制策略。这种方法目前已有许多版本，Parisini[20]和Zoppoli[24]等人研究了随机优化控制问题，其中控制器作为神经网络逼近器的输入输出的一个函数。Seong和Widrow[23]研究了一个初始状态为随机分配的优化控制问题，控制器为反馈状态，用一个神经网络来表示。在以上的研究中，应用了一个随机逼近器算法来训练网络。Al-dajani[2]和Nayeri等人[15]提出了一种相似的方法，即用最速下降法来训练神经网络控制器。 在许多应用中，设计一个控制器都涉及到一个特殊的结构。对于复杂的系统如减速控制器或分散控制系统，都需要许多输入与输出。在模型预测控制中，模型是用于预测系统未来的运动轨迹，优化控制信号是系统模型的系统的函数。因此，模型预测控制不能用于定结构控制问题。不同的是，基于神经网络函数逼近器的控制器可以应用于优化定结构控制问题。 在本文中，主要研究的是应用于非线性优化控制问题的结构受限的MPC类型[20,2,24,23,15]。控制规则用神经网络逼近器表示，最小化一个与控制相关的代价函数来离线训练神经网络。通过将神经网络控制的输入适当特殊化来完成优化低阶控制器的设计，分散和其它定结构神经网络控制器是通过对网络结构加入合适的限制构成的。通过一个数据例子来评价神经网络控制器的性能并与优化模型预测控制器进行比较。 2.问题表述 考虑一个离散非线性控制系统： 其中为控制器的输出，为输入，为状态矢量。控制
机器人神经网络控制
第一部分 机器人手臂的自适应神经网络控制 机器人是一具有高度非线性和不确定性的复杂系统，近年来各研究单位对机器人智能控制的研究非常热门，并已取得相当丰富的成果。 机器人轨迹跟踪控制系统的主要目的是通过给定各关节的驱动力矩，使得机器人的位置、速度等状态变量跟踪给定的理想轨迹。与一般的机械系统一样，当机器人的结构及其机械参数确定后，其动态特性将由动力学方程即数学模型来描述。因此，可采用经典控制理论的设计方法——基于数学模型的方法设计机器人控制器。但是在实际工程中，由于机器人模型的不确定性，使得研究工作者很难得到机器人精确的数学模型。 采用自适应神经网络，可实现对机器人动力学方程中未知部分的精确逼近，从而实现无需建模的控制。下面将讨论如何利用自适应神经网络和李雅普诺夫（Lyapunov ）方法设计机器人手臂跟踪控制的问题。 1、控制对象描述： 选二关节机器人力臂系统（图1），其动力学模型为： 图1 二关节机器人力臂系统物理模型 ()()()()d ++++=M q q V q,q q G q F q ττ （1） 其中 1232 232232 22cos cos ()cos p p p q p p q p p q p +++??=? ?+??M q ，322 3122312 sin ()sin (,)sin 0p q q p q q q p q q --+?? =???? V q q
41512512cos cos()()cos()p g q p g q q p g q q ++??=??+?? G q ，()()0.02sgn =F q q ，()()0.2sin 0.2sin T d t t =????τ。 其中，q 为关节转动角度向量，()M q 为2乘2维正定惯性矩阵，(),V q q 为2乘2维向心哥氏力矩，()G q 为2维惯性矩阵，()F q 为2维摩擦力矩阵，d τ为 未知有界的外加干扰，τ为各个关节运动的转矩向量，即控制输入。 已知机器人动力学系统具有如下动力学特性： 特性1：惯量矩阵M(q)是对称正定阵且有界； 特性2：矩阵 () ,V q q 有界； 特性3：()()2,-M q C q q 是一个斜对称矩阵，即对任意向量ξ，有 ()()()2,0T -=ξ M q C q q ξ (2) 特性4：未知外加干扰d τ 满足 d d b ≤τ， d b 为正常数。 我们取[][]2 12345,,,, 2.9,0.76,0.87,3.04,0.87p p p p p kgm ==p ，两个关节的位置 指令分别为()10.1sin d q t =，()20.1cos d q t =，即设计控制器驱动两关节电 机使对应的手臂段角度分别跟踪这两个位置指令。 2、传统控制器的设计及分析： 定义跟踪误差为： ()()()d t t t =-e q q （3） 定义误差函数为： =+∧r e e （4） 其中0>∧=∧T 。 则 d =-++∧q r q e
人工神经网络的发展及应用
人工神经网络的发展与应用 神经网络发展 启蒙时期 启蒙时期开始于1980年美国著名心理学家W．James关于人脑结构与功能的研究，结束于1969年Minsky和Pape~发表的《感知器》(Perceptron)一书。早在1943年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型(即M—P模型)，该模型把神经细胞的动作描述为：1神经元的活动表现为兴奋或抑制的二值变化；2任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；3任何抑制性突触有输入激励后，使神经元抑制；4突触的值不随时间改变；5突触从感知输入到传送出一个输出脉冲的延迟时问是0．5ms。可见，M—P模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看M—P 模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此，M—P模型被认为开创了神经科学理论研究的新时代。1949年，心理学家D．0．Hebb 提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则——Hebb规则，为神经网络的学习算法奠定了基础。1957年，计算机学家FrankRosenblatt提出了一种具有三层网络特性的神经网络结构，称为“感知器”(Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力，Rosenblatt认为信息被包含在相互连接或联合之中，而不是反映在拓扑结构的表示法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新 的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识别或坚定他们的过程。1962年Widrow提出了自适应线性元件(Ada—line)，它是连续取值的线性网络，主要用于自适应信号处理和自适应控制。 低潮期 人工智能的创始人之一Minkey和pape~经过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，于1969年出版了很有影响的《Perceptron)一书，该书提出了感知器不可能实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起低潮的更重要的原因是：20世纪7O年代以来集成电路和微电子技术的迅猛发展，使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的S．Grossberg教授和赫尔辛基大学的Koho—nen教授，仍致力于神经网络的研究，分别提出了自适应共振理论(Adaptive Resonance Theory)和自组织特征映射模型(SOM)。以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。 复兴时期 20世纪80年代以来，由于以逻辑推理为基础的人工智能理论和冯·诺伊曼型计算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们
人工神经网络大作业
X X X X大学 研究生考查课 作业 课程名称：智能控制理论与技术 研究生姓名：学号： 作业成绩： 任课教师(签名) 交作业日时间：2010年12月22日
人工神经网络(artificial neural network，简称ANN)是在对大脑的生理研究的基础上，用模拟生物神经元的某些基本功能元件(即人工神经元)，按各种不同的联结方式组成的一个网络。模拟大脑的某些机制，实现某个方面的功能，可以用在模仿视觉、函数逼近、模式识别、分类和数据压缩等领域，是近年来人工智能计算的一个重要学科分支。 人工神经网络用相互联结的计算单元网络来描述体系。输人与输出的关系由联结权重和计算单元来反映，每个计算单元综合加权输人，通过激活函数作用产生输出，主要的激活函数是Sigmoid函数。ANN有中间单元的多层前向和反馈网络。从一系列给定数据得到模型化结果是ANN的一个重要特点，而模型化是选择网络权重实现的，因此选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法就能得到包含学习训练样本范围的输人和输出的关系。如果用于学习训练的样本不能充分反映体系的特性，用ANN也不能很好描述与预测体系。显然，选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法是ANN的重要研究内容之一，而寻求应用合适的激活函数也是ANN研究发展的重要内容。由于人工神经网络具有很强的非线性多变量数据的能力，已经在多组分非线性标定与预报中展现出诱人的前景。人工神经网络在工程领域中的应用前景越来越宽广。 1人工神经网络基本理论[1] 1.1神经生物学基础 可以简略地认为生物神经系统是以神经元为信号处理单元,通过广泛的突触联系形成的信息处理集团,其物质结构基础和功能单元是脑神经细胞即神经元(neu ron)。(1)神经元具有信号的输入、整合、输出三种主要功能作用行为。突触是整个神经系统各单元间信号传递驿站,它构成各神经元之间广泛的联接。(3)大脑皮质的神经元联接模式是生物体的遗传性与突触联接强度可塑性相互作用的产物,其变化是先天遗传信息确定的总框架下有限的自组织过程。 1.2建模方法 神经元的数量早在胎儿时期就已固定,后天的脑生长主要是指树突和轴突从神经细胞体中长出并形成突触联系,这就是一般人工神经网络建模方法的生物学依据。人脑建模一般可有两种方法:①神经生物学模型方法,即根据微观神经生物学知识的积累,把脑神经系统的结构及机理逐步解释清楚,在此基础上建立脑功能模型。②神经计算模型方法,即首先建立粗略近似的数学模型并研究该模型的动力学特性,然后再与真实对象作比较(仿真处理方法)。 1.3概念 人工神经网络用物理可实现系统来模仿人脑神经系统的结构和功能,是一门新兴的前沿交叉学科,其概念以T.Kohonen.Pr的论述最具代表性:人工神经网络就是由简单的处理单元(通常为适应性)组成的并行互联网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 1.4应用领域 人工神经网络在复杂类模式识别、运动控制、感知觉模拟方面有着不可替代的作用。概括地说人工神经网络主要应用于解决下述几类问题:模式信息处理和模式识别、最优化问题、信息的智能化处理、复杂控制、信号处理、数学逼近映射、感知觉模拟、概率密度函数估计、化学谱图分析、联想记忆及数据恢复等。 1.5理论局限性 (1)受限于脑科学的已有研究成果由于生理试验的困难性,目前对于人脑思维与记忆机制的认识尚很肤浅,对脑神经网的运行和神经细胞的内部处理机制还没有太多的认识。 (2)尚未建立起完整成熟的理论体系目前已提出的众多人工神经网络模型,归纳起来一般都是一个由节点及其互连构成的有向拓扑网,节点间互连强度构成的矩阵可通过某种学
神经网络控制完整版
神经网络控制 HEN system office room 【HEN16H-HENS2AHENS8Q8-HENH1688】
人工神经网络控制 摘要: 神经网络控制，即基于神经网络控制或简称神经控制，是指在控制系统中采用神经网络这一工具对难以精确描述的复杂的非线性对象进行建模，或充当控制器，或优化计算，或进行推理，或故障诊断等，亦即同时兼有上述某些功能的适应组合，将这样的系统统称为神经网络的控制系统。本文从人工神经网络，以及控制理论如何与神经网络相结合，详细的论述了神经网络控制的应用以及发展。 关键词: 神经网络控制；控制系统；人工神经网络 人工神经网络的发展过程 神经网络控制是20世纪80年代末期发展起来的自动控制领域的前沿学科之一。它是智能控制的一个新的分支，为解决复杂的非线性、不确定、不确知系统的控制问题开辟了新途径。是（人工）神经网络理论与控制理论相结合的产物，是发展中的学科。它汇集了包括数学、生物学、神经生理学、脑科学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。 在控制领域，将具有学习能力的控制系统称为学习控制系统，属于智能控制系统。神经控制是有学习能力的，属于学习控制，是智能控制的一个分支。神经控制发展至今，虽仅有十余年的历史，已有了多种控制结构。如神经预测控制、神经逆系统控制等。 生物神经元模型 神经元是大脑处理信息的基本单元，人脑大约含1012个神经元，分成约1000种类型，每个神经元大约与 102~104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的行为方式，同时，如此大量的神经元与外部感受器之间的多种多样的连接方式也蕴含了变化莫测的反应方式。 图1 生物神经元传递信息的过程为多输入、单输出，神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近，当神经元细胞体通过轴突传到突触前膜的脉
人工神经网络的发展及应用
人工神经网络的发展及应用 西安邮电学院电信系樊宏西北电力设计院王勇日期：2005 1-21 1 人工神经网络的发展 1．1 人工神经网络基本理论 1．1．1 神经生物学基础生物神经系统可以简略地认为是以神经元为信号的处理单元，通过广泛的突触联系形成的信息处理集团，其物质结构基础和功能单元是脑神经细胞，即神经元(neuron) 。 (1)神经元具有信号的输人、整合、输出三种主要功能作用行为，结构如图1 所示： (2)突触是整个神经系统各单元间信号传递驿站，它构成各神经元之间广泛的联接。 (3)大脑皮质的神经元联接模式是生物体的遗传性与突触联接强度可塑性相互作用的产物，其变化是先天遗传信息确定的总框架下有限的自组织过程。 1．1．2 建模方法神经元的数量早在胎儿时期就已固定，后天的脑生长主要是指树突和轴突从神经细胞体中长出并形成突触联系，这就是一般人工神经网络建模方法的生物学依据。人脑建模一般可有两种方法：①神经生物学模型方法，即根据微观神经生物学知识的积累，把脑神经系统的结构及机理逐步解释清楚，在此基础上建立脑功能模型；②神 经计算模型方法，即首先建立粗略近似的数学模型并研究该模型的动力学特性，然后冉与真实对象作比较（仿真处理方法）。1．1．3 概
念人工神经网络用物理町实现系统采模仿人脑神经系统的结构和功能，是一门新兴的前沿交义学科，其概念以T．Kohonen．Pr 的论述 最具代表性：人工神经网络就是由简单的处理单元（通常为适应性神经元，模型见图2）组成的并行互联网络，它的组织能够模拟生物神 经系统对真实世界物体所作出的交互反应。 1．2 人工神经网络的发展 人工神经网络的研究始于40 年代初。半个世纪以来，经历了兴起、高潮与萧条、高潮及稳步发展的较为曲折的道路。1943 年，心理学家W．S．Mcculloch 和数理逻辑学家W．Pitts 提出了M—P 模型， 这是第一个用数理语言描述脑的信息处理过程的模型，虽然神经元的功能比较弱，但它为以后的研究工作提供了依据。1949 年，心理学家D. O. Hebb提出突触联系可变的假设，根据这一假设提出的学习规律为神经网络的学习算法奠定了基础。1957 年，计算机科学家Rosenblatt 提出了著名的感知机模型，它的模型包含了现代计算机的一些原理，是第一个完整的人工神经网络。1969 年，美国著名人工智能学者M．Minsky 和S．Papert 编写了影响很大的Perceptron 一书，从理论上证明单层感知机的能力有限，诸如不能解决异或问题，而且他们推测多层网络的感知能也不过如此，在这之后近10 年，神经网络研究进入了一个缓慢发展的萧条期。美国生物物理学家J．J．Hopfield 于1982年、1984 年在美国科学院院刊发表的两篇文章，有力地推动了神经网络的研究，引起了研究神经网络的
智能控制导论论文(人工神经网络)
智 能 控 制 导 论 论 文 ●系别： ●班级： ●学号： ●姓名： ●日期：
人工神经网络 关键词:人工神经网络、产生、发展、应用 内容摘要: 人工神经网络是二十世纪科学技术所取得的重大成果之一，是人类认识自然道路上的又一座里程碑。90年代以来，国际学术界掀起了研究人工神经网络的热潮，但是探讨其哲学思想方面的研究相对薄弱。我们知道，任何一门影响巨大、意义深远的科学技术，其发展过程必然揭示了科学技术发展的基本规律以及影响其发展的主要因素。 人工神经网络（Artificial Neural Networks, ANN），一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。人工神经网络具有自学习和自适应的能力，可以通过预先提供的一批相互对应的输入－输出数据，分析掌握两者之间潜在的规律，最终根据这些规律，用新的输入数据来推算输出结果，这种学习分析的过程被称为“训练”。人工神经网络是一门发展十分迅速的交叉学科，它是由大量处理单元组成的非线性大规模自适应动力系统，具有学习能力、记忆能力、计算能力以及智能处理能力，并在不同程度和层次上模仿人脑神经系统的信息处理、存储及检索功能。同时，人工神经网络具有非线性、非局域性、非定常性、非凸性等特点，因此在智能控制、模式识别、计算机视觉、自适应滤波和信号处理、非线性优化、自动目标识别、连续语音识别、声纳信号的处理、知识处理、智能传感技术与机器人、生物医学工程等方面都有了长足的发展。 人工神经网络产生的背景 自古以来，关于人类智能本源的奥秘，一直吸引着无数哲学家和自然科学家的研究热情。生物学家、神经学家经过长期不懈的努力，通过对人脑的观察和认识，认为人脑的智能活动离不开脑的物质基础，包括它的实体结构和其中所发生的各种生物、化学、电学作用，并因此建立了神经元网络理论和神经系统结构理论，而神经元理论又是此后神经传导理论和大脑功能学说的基础。在这些理论基础之上，科学家们认为，可以从仿制人脑神经系统的结构和功能出发，研究人类智能活动和认识现象。另一方面，19世纪之前，无论是以欧氏几何和微积分为代表的经典数学，还是以牛顿力学为代表的经典物理学，从总体上说，这些经典科学都是线性科学。然而，客观世界是如此的纷繁复杂，非线性情况随处可见，人脑神经系统更是如此。复杂性和非线性是连接在一起的，因此，对非线性科学的研究也是我们认识复杂系统的关键。为了更好地认识客观世界，我们必须对非线性科学进行研究。人工神经网络作为一种非线性的、与大脑智能相似的网络模型，就这样应运而生了。所以，人工神经网络的创立不是偶然的，而是20世纪初科学技术充分发展的产物。 发展历史 人工神经网络的研究始于20世纪40年代，至今已有60多年的历史，其发展很不平衡，既有其繁花似锦、兴旺昌盛的高速发展期，又有其困难重重、步履维艰的低潮期，甚至曾经有人对此理论持悲观态度，认为该理论“已走入死胡同，无发展的余地”。
人工神经网络应用实例
人工神经网络在蕨类植物生长中的应用 摘要：人工神经网络(ARTIFICIAL NEURAL NETWORK，简称ANN)是目前国际上一门发展迅速的前沿交叉学科。为了模拟大脑的基本特性，在现代神经科学研究的基础上，人们提出来人工神经网络的模型。根据此特点结合蕨类植物的生长过程进行了蕨类植物生长的模拟。结果表明，人工神经网络的模拟结果是完全符合蕨类植物的生长的，可有效的应用于蕨类植物的生长预测。 关键词：人工神经网络；蕨类植物；MATLAB应用 一人工神经网络的基本特征 1、并行分布处理：人工神经网络具有高度的并行结构和并行处理能力。这特别适于实时控制和动态控制。各组成部分同时参与运算，单个神经元的运算速度不高，但总体的处理速度极快。 2、非线性映射：人工神经网络具有固有的非线性特性，这源于其近似任意非线性映射(变换)能力。只有当神经元对所有输入信号的综合处理结果超过某一门限值后才输出一个信号。因此人工神经网络是一种具有高度非线性的超大规模连续时间动力学系统。 3、信息处理和信息存储合的集成：在神经网络中，知识与信息都等势分布贮存于网络内的各神经元，他分散地表示和存储于整个网络内的各神经元及其连线上，表现为神经元之间分布式的物理联系。作为神经元间连接键的突触，既是信号转换站，又是信息存储器。每个神经元及其连线只表示一部分信息，而不是一个完整具体概念。信息处理的结果反映在突触连接强度的变化上，神经网络只要求部分条件，甚至有节点断裂也不影响信息的完整性，具有鲁棒性和容错性。 4、具有联想存储功能：人的大脑是具有联想功能的。比如有人和你提起内蒙古，你就会联想起蓝天、白云和大草原。用人工神经网络的反馈网络就可以实现这种联想。神经网络能接受和处理模拟的、混沌的、模糊的和随机的信息。在处理自然语言理解、图像模式识别、景物理解、不完整信息的处理、智能机器人控制等方面具有优势。 5、具有自组织自学习能力：人工神经网络可以根据外界环境输入信息，改变突触连接强度，重新安排神经元的相互关系，从而达到自适应于环境变化的目的。 二人工神经网络的基本数学模型 神经元是神经网络操作的基本信息处理单位（图1）。神经元模型的三要素为： (1) 突触或联接，一般用，表尔神经元和神经元之间的联接强度，常称之为权值。 (2) 反映生物神经元时空整合功能的输入信号累加器。 图1 一个人工神经元（感知器）和一个生物神经元示意图 (3) 一个激活函数用于限制神经元输出（图2），可以是阶梯函数、线性或者是指数形式的
介绍人工神经网络的发展历程和分类.
介绍人工神经网络的发展历程和分类 1943年，心理学家W.S.McCulloch 和数理逻辑学家W.Pitts 建立了神经网络和数学模型，称为MP 模型。他们通过MP 模型提出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的时代。1949年，心理学家提出了突触联系强度可变的设想。60年代，人工神经网络的到了进一步发展，更完善的神经网络模型被提出。其中包括感知器和自适应线性元件等。M.Minsky 等仔细分析了以感知器为代表的神经网络系统的功能及局限后，于1969年出版了《Perceptron 》一书，指出感知器不能解决高阶谓词问题。他们的论点极大地影响了神经网络的研究，加之当时串行计算机和人工智能所取得的成就，掩盖了发展新型计算机和人工智能新途径的必要性和迫切性，使人工神经网络的研究处于低潮。在此期间，一些人工神经网络的研究者仍然致力于这一研究，提出了适应谐振理论（ART 网）、自组织映射、认知机网络，同时进行了神经网络数学理论的研究。以上研究为神经网络的研究和发展奠定了基础。1982年，美国加州工学院物理学家J.J.Hopfield 提出了Hopfield 神经网格模型，引入了“计算能量”概念，给出了网络稳定性判断。 1984年，他又提出了连续时间Hopfield 神经网络模型，为神经计算机的研究做了开拓性的工作，开创了神经网络用于联想记忆和优化计算的新途径，有力地推动了神经网络的研究，1985年，又有学者提出了波耳兹曼模型，在学习中采用统计热力学模拟退火技术，保证整个系统趋于全局稳定点。1986年进行认知微观结构地研究，提出了并行分布处理的理论。人工神经网络的研究受到了各个发达国家的重视，美国国会通过决议将1990年1月5日开始的十年定为“脑的十年”，国际研究组织号召它的成员国将“脑的十年”变为全球行为。在日本的“真实世界计算（RWC ）”项目中，人工智能的研究成了一个重要的组成部分。 人工神经网络的模型很多，可以按照不同的方法进行分类。其中，常见的两种分类方法是，按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。按照网络拓朴结构分类网络的拓朴结构，即神经元之间的连接方式。按此划分，可将神经网络结构分为两大类：层次型结构和互联型结构。层次型结构的神经网络将神经
模糊控制与神经网络
BP神经网络 BP (Back Propagation)神经网络是一种神经网络学习算法，全称基于误差反向传播算法的人工神经网络。 如图所示拓扑结构的单隐层前馈网络，一般称为三层前馈网或三层感知器，即：输入层、中间层（也称隐层）和输出层。它的特点是：各层神经元仅与相邻层神经元之间相互全连接，同层内神经元之间无连接，各层神经元之间无反馈连接，够成具有层次结构的前馈型神经网络系统。单计算层前馈神经网络只能求解线性可分问题，能够求解非线性问题的网络必须是具有隐层的多层神经网络。 在人工神经网络发展历史中，很长一段时间里没有找到隐层的连接权值调整问题的有效算法。直到误差反向传播算法（BP算法）的提出，成功地解决了求解非线性连续函数的多层前馈神经网络权重调整问题。 BP (Back Propagation)神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。 神经网络 神经网络是： 思维学普遍认为，人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。 逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。 人工神经网络就是模拟人思维的第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。 神经网络的研究内容相当广泛，反映了多学科交叉技术领域的特点。目前，主要的研究工作集中在以下几个方面： （1）生物原型研究。从生理学、心理学、解剖学、脑科学、病理学等生物科学方面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理。 （2）建立理论模型。根据生物原型的研究，建立神经元、神经网络的理论模型。其中包括概念模型、知识模型、物理化学模型、数学模型等。 （3）网络模型与算法研究。在理论模型研究的基础上构作具体的神经网络模型，以实现计算机馍拟或准备制作硬件，包括网络学习算法的研究。这方面的工作也称为技术模型研究。 （4）人工神经网络应用系统。在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功能、构作专家系统、制成机器人等等。 纵观当代新兴科学技术的发展历史，人类在征服宇宙空间、基本粒子，生命起源等科学技术领域的进程中历经了崎岖不平的道路。我们也会看到，探索人脑功能和神经网络的研究将伴随着重重困难的克服而日新月异。 【人工神经网络的工作原理】 人工神经网络首先要以一定的学习准则进行学习，然后才能工作。现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。 所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。
人工神经网络及其应用实例_毕业论文
人工神经网络及其应用实例人工神经网络是在现代神经科学研究成果基础上提出的一种抽 象数学模型，它以某种简化、抽象和模拟的方式，反映了大脑功能的 若干基本特征，但并非其逼真的描写。 人工神经网络可概括定义为：由大量简单元件广泛互连而成的复 杂网络系统。所谓简单元件，即人工神经元，是指它可用电子元件、 光学元件等模拟，仅起简单的输入输出变换y = σ (x)的作用。下图是 3 中常用的元件类型： 线性元件：y = 0.3x，可用线性代数法分析，但是功能有限，现在已不太常用。 2 1.5 1 0.5 -0.5 -1 -1.5 -2 -6 -4 -2 0 2 4 6 连续型非线性元件：y = tanh(x)，便于解析性计算及器件模拟，是当前研究的主要元件之一。
离散型非线性元件： y = ? 2 1.5 1 0.5 0 -0.5 -1 -1.5 -2 -6 -4 -2 2 4 6 ?1, x ≥ 0 ?-1, x < 0 ，便于理论分析及阈值逻辑器件 实现，也是当前研究的主要元件之一。 2 1.5 1 0.5 0 -0.5 -1 -1.5 -2 -6 -4 -2 2 4 6
每一神经元有许多输入、输出键，各神经元之间以连接键（又称 突触）相连，它决定神经元之间的连接强度（突触强度）和性质（兴 奋或抑制），即决定神经元间相互作用的强弱和正负，共有三种类型： 兴奋型连接、抑制型连接、无连接。这样，N个神经元（一般N很大）构成一个相互影响的复杂网络系统，通过调整网络参数，可使人工神 经网络具有所需要的特定功能，即学习、训练或自组织过程。一个简 单的人工神经网络结构图如下所示： 上图中，左侧为输入层（输入层的神经元个数由输入的维度决定），右侧为输出层（输出层的神经元个数由输出的维度决定），输入层与 输出层之间即为隐层。 输入层节点上的神经元接收外部环境的输入模式，并由它传递给 相连隐层上的各个神经元。隐层是神经元网络的内部处理层，这些神 经元在网络内部构成中间层，不直接与外部输入、输出打交道。人工 神经网络所具有的模式变换能力主要体现在隐层的神经元上。输出层 用于产生神经网络的输出模式。 多层神经网络结构中有代表性的有前向网络（BP网络）模型、
人工神经网络与其发展和应用的介绍
人工神经网络与其发展和应用的介绍 发表时间：2018-05-02T11:39:29.337Z 来源：《科技中国》2017年11期作者：卓一凡 [导读] 摘要：人工神经网络是人工智能的重要分支，自其创始伊始便成为了人工智能领域的研究热点。本文从人工神经网络的发展历史开始，介绍了其在医学，信息，控制等方面的应用及其现状，对其中的优缺点进行了简要的分析。并对人工神经网络未来的发展作简要的展望。 摘要：人工神经网络是人工智能的重要分支，自其创始伊始便成为了人工智能领域的研究热点。本文从人工神经网络的发展历史开始，介绍了其在医学，信息，控制等方面的应用及其现状，对其中的优缺点进行了简要的分析。并对人工神经网络未来的发展作简要的展望。关键词：人工神经网络，应用，优缺点，发展 1：人工神经网络的发展 纵观整个人工神经网络发展，大体经历了四个时期：启蒙，低潮，振兴，发展。 1.1：启蒙时期 人工神经网络和数学模型于1943年由W.S.McCulloch和W.Pitts建立，称为MP模型，证明了单个神经元能执行逻辑功能，人工神经网络的研究由此开始。1951年，心理学家 Donala O. Hebb提出了Hebb 法则：在神经网络中，信息在连接权中进行储存，突触之间的联系强度是可以变化的，而这种变化建立起了神经元间的连接。Hebb法则成为了构造具有学习功能的神经网络模型的基础。1954 年，生物学家Eccles提出了真实突触的分流模型，为神经网络模拟突触的功能提供了原理和生理学的依据。1956 年，Uttley 发明了一种由处理单元组成的推理机，用于模拟行为及条件反射。1958年，Rosenblatt将学习机制增加到了原有的MP模型上，首次把神经网络理论付诸实现。正是由于他的成功，引起了学者们对人工神经网络的研究兴趣。 1.2：低潮时期 当许多学者抱着极大的热忱去研究人工神经网络的时候，Minsky 和Papert 从数学角度对以感知器为代表的网络系统功能及其局限性进行了深入的研究，并在1969年出版《Percep2trons》一书。该书提出当前的网络只能对简单的线性问题进行解决，而对复杂的多层神经网络无能为力。这一结论使得许多国家的此类项目被暂停资助，自此开始了神经网络的低潮期。但不久后，转机出现。就在1972年，欧洲和美洲的两位学者：芬兰的Kohonen教授，美国的Anderson分别提出了自组织映射SOM(Self2Organizingfeature map)理论和一个名叫“交互存储器 ”的理论。而两者之间竟有着许多相似之处，不由得让人惊讶。但Kohonen的研究是目前所使用神经网络的主要依据。正是由于这些研究，引导了以后人工神经网络的振兴。 1.3：振兴时期 1982年，美国物理学家Hopfield博士发表了Hopfield模型理论，对人工神经网络的研究产生了深远的影响。如下图 Hopfield模型理论证明：神经网络并非不能达到稳定的状态，只是需要一定条件。而他的研究也让许多学者对人工神经网络的研究重新产生了兴趣。1986年，由美国的 Rumelhart 和 McCkekkand主编并撰写的《Parallel Distributed Processing : Ex2ploration in the Microstructures of Cognition》一书出版，提出了 PDP（Parallel Distributed Processing）网络思想，再一次推动了神经网络的发展。20世纪 90 年代， Edelman提出Darwinism 模型。1995 年,Jenkins等人进行了光学神经网络(PNN)的研究 .神经网络的研究重回人们的视野。 1.4：发展时期 20世纪80年代，人工神经网络在世界范围内全面复苏，这也引起了国家对神经网络的重视。“中国神经网络首届学术会议”于1990年2月由国内8个顶尖学会联合在北京召开。 1992年举办了中国第二届神经网络学术大会，中国神经网络学会便由此诞生。我国的“863”计划，“攀登”计划中，都有关于人工神经网络研究的内容。国际上，1987 年,在美国加洲举行了首届国际神经网络学会. 此后每年召开两次.至此，人工神经网络的研究得到了长足的发展。 2.人工神经网络的基本原理 自生物学发展伊始，大脑便是无数科学家研究的重点，人们想要弄清楚大脑是如何运作的？其机理是什么？人工神经网络便应运而生，它的目的是想要对人类神经网络进行开发与测试 2.1：人工神经网络的生物学基础 人工神经网络是人类神经网络的仿生学模拟。我们如果想要了解人工神经网络，就要先了解生物的神经元，如下图：