PNN神经网络聚类法
目录
摘要 (1)
1概率神经网络 (1)
1.1网络模型 (1)
1.2分类思想 (2)
1.3 PNN分类的优点 (3)
2 PNN网络的构建 (3)
2.1 构建步骤 (3)
2.2 Matlab中的主要代码 (4)
3 Matlab编程及结果分析 (4)
3.1 Matlab中的编程 (4)
3.2 仿真结果分析 (7)
3.3 结论 (10)
4 总结 (11)
参考文献 (12)
PNN神经网络聚类法
摘要
近几年来，对于神经网络的研究越来越普遍，神经网络在我们社会生活中的作用也越来越不可替代，尤其在模式识别的领域里，更是有着举足轻重的作用。
酒是由多种成分按不同的比例构成的，兑酒时需要三种原料（X,Y,Z），现在已测出不同酒中三种原料的含量，本文正是基于PNN神经网络针对酒中X、Y、Z三种含量的不同来对酒进行识别分类。本文首先介绍了PNN神经网络的网络模型以及它对不同的模式进行分类判别的思想，然后针对本文的酒类判别的要求来构建PNN网络，并在Matlab中进行编程仿真，最后对所仿真的结果进行了分析比较，最后找出最优的模式分类。
1概率神经网络
概率神经网络(Probabilistic Neural Networks,PNN)是由D. F. Specht在1990年提出的。主要思想是用贝叶斯决策规则,即错误分类的期望风险最小,在多维输入空间内分离决策空间。它是一种基于统计原理的人工神经网络,它是以Parzen 窗口函数为激活函数的一种前馈网络模型。PNN吸收了径向基神经网络与经典的概率密度估计原理的优点,与传统的前馈神经网络相比,在模式分类方面尤其具有较为显著的优势。
1.1网络模型
PNN的结构如图1所示,共由四层组成。
图1 概率神经网络结构
概率神经网络PNN 是径向基网络的一个分支,是前馈网络的一种。它是一种有监督的网络的分类器，基于概率统计思想,由Bayes 分类规则构成,采用Parzen 窗函数密度估计方法估算条件概率，进行分类模式识别。
PNN 的结构模型如图，共分四层：输入层、样本层（又称模式层）、求和层和决策层（又称竞争层输出层）。对应网络输入X=[x1,x2,…xm]T ，其输出为Y=[y1,y2,…,yL]T ,输入向量为m ，待匹配的类别数为L 。 1.2分类思想
在PNN 的神经网络模型中，输入层中的神经元数目等于学习样本中输入向量的m ，各神经元是简单的分布单元，直接将输入变量传递给样本层。
样本层的节点数由输入样本和待匹配类别的乘积决定，为m*L 。样本层是将输入节点传来的输入进行加权求和，然后经过一个激活函数运算后，再传给求和层。这里激活函数采用高斯函数，则输出为：
))2/||(||exp(22∑--=i i i c x σθ
式中i c 为径向基函数的中心，i σ表示特性函数第i 个分量对弈的开关参数。些层中每个节点均为RBF 的中心，采用的特性函数为径向基函数—高斯函数，计算未知模式与标准模式间相似度。
求和层各单元只与相应类别的模式单元相连，各单元只依据Parzen 方法求和估计各类的概率，即其条件概率为：
∑=---∏=n
i L T i m m i X X X X n C X P 12
2/]2)()(exp[1)2(1)|(σ
σ 式中i C 为类别，X 为识别样本，i X 为类别i 的模式样本（在概率神经网络中做为权值），m 为向量维数，σ为平滑参数，n 为类i 的模式样本数量。先验概率记为P(X)。
决策层节点数等于待匹配类别数，为L 。根据各类对输入向量概率的估计，采用Bayes 分类规则，选择出具有最小“风险”的类别，即具有最大后验概率的类别，可用下式来表达其决策方法对所有i ,j ≠
))(/()()|(j j i i C P C X P C P C X P
则输出y(X)= i C 。
与其它方法相比较,PNN 不需进行多次充分的计算,就能稳定收敛于Bayes 优化解。在训练模式样本一定的情况下,只需进行平滑因子的调节,网络收敛快。平滑因子值的大小决定了模式样本点之间的影响程度,关系到概率密度分布函数的变化。通常,网络只要求经验地给定一个平滑因子。 1.3 PNN 分类的优点
PNN 是一种可用于模式分类的人工神经网络,其实质是基于贝叶斯最小风险准则发展而来的一种并行算法,相比BP 网络,其主要优点为： (1) 训练速度快；
(2) 在足够训练样本下,总可以保证获得贝叶斯准则下的最优解；
(3) 只考虑样本空间的概率特性,允许增加训练样本而无需重新进行长时间的训练。
2 PNN 网络的构建
2.1 构建步骤
第一步：采集数据；本文采集的是兑酒所需要的三种原料的数据。
第二步：训练网络；选取该厂的30个样本数据作为训练和测试的数据。以其中的20个数据作为训练样本，以1、2、3、4四类酒作为期望输出矢量。训练网络从而得到酒类识别的PNN 网络模型。
第三步：进行网络性能测试；网络训练完成后，10个数据作为测试样本，进行网络性能检验。将各层神经元间的连接权值代回网络中，对训练样本进行回归模拟；当训练样本的期望值输出与PNN 网络的仿真输出完全重合时，这说明网络已训练成功，可用来预测未知样本的类别。
第四步：利用已训练好的网络进行预测；利用已建好的PNN 网络来对未知的20组样本数据进行分类。
2.2 Matlab中的主要代码
用Matlab实现过程的主要源代码如下:
P=[p1,p2,p3,p4,p5,p6,p7]; %输入样本
Tc %类别向量
T=ind2vec(Tc); %转为目标分类向量;
Net=newpnn(P,T,N); %创建一个PNN, SPREAD=N
Y=sim(net,P); %仿真
Yc=vec2ind(Y); %转为类别向量
输出网络训练结束后,输出层各节点和输入模式类的特定关系已确定,因此可用作模式分类器,当输入一个SPREAD值后,网络将对输入自动进行分类。
3 Matlab编程及结果分析
3.1 Matlab中的编程
前30组数据用来学习，利用训练好的PNN网络来对后20组数据进行预测。Matlab中的源程序如下：
clear all;
P=[
2232.43 3077.87 1298.87
1580.1 1752.07 2463.04
1962.4 1594.97 1835.95
1495.18 1957.44 3498.02
1125.17 1594.39 2937.73
24.22 3447.31 2145.01
1269.07 1910.72 2701.97
1802.07 1725.81 1966.35
1817.36 1927.4 2328.79
1860.45 1782.88 1875.13
1237.91 2055.13 3405.09
688.94 2104.72 3198.51
1675.65 1747.23 1580.39
1806.02 1810.19 2191.12
74.56 3288.02 2433.87
307.35 3363.84 2021.61
1988.27 1657.51 2069.2
2173.92 2608.55 1803.57
372.16 3077.44 2163.46
576.6 2140.98 3320
1724.13 1704.49 1798.75
2501.21 2652.65 984.56
1656.94 1913.34 2459.07
362.51 3150.03 2472
565.74 2284.97 3024.58
1978.06 1536.13 2375.64
1661.06 1552.4 2005.05
790.29 2419.98 3051.16
1557.27 1746.27 1879.13
];
P=P';
C=[2 3 3 1 1 4 1 3 3 3 1 1 3 3 4 4 3 2 4 1 3 2 3 4 1 3 3 1 3]; T=ind2vec(C);%将类别向量C 转换为目标向量T
t1=clock;%开始计时
net=newpnn(P,T,50);%网络创建
A=vec2ind(sim(net,P));
datat1=etime(clock,t1)
save netpnn net;
clear all;
load netpnn net;
T1=[
2793.36 3009.26 1073.55 1766.08 1803.14 1895.18 1207.88 1600.62 3123.07 245.75 3373.67 2248.45 2785.36 3052.81 1035.65 315.42 3088.29 2187.12 1243.28 2451.72 3111.99 829.84 1555.91 3139.21 1347.07 2364.31 3096.88 1926.98 1507.34 1626.47 1808.57 1608.78 1565.95 1124.1 1840.98 2819.41 2661 3302.39 1710.32 1805.55 1899.09 2400.6 1130.18 1902.42 2753.7 1355.19 1566.16 2927.81 1651.14 1774.03 1725.56 2110.63 3308.04 702.06 2788.11 3395.23 1684.45 1807.61 1680.56 2356.65 1363.58 1729.44 2749.55 1992.42 1526.9 1581.42 ];
T1=T1';
t2=clock;
y=sim(net,T1);
yc=vec2ind(y);
B=vec2ind(sim(net,T1));
datat2=etime(clock,t2)
yc
colr=zeros(4,3);
for i=1:4
colr(i,:)=rand(1,3);
end
for i=1:4
a=find(yc==i)
p=plot3(T1(1,a),T1(2,a),T1(3,a),'*');
axis([200 3200 1200 3500 1000 3200])
hold on;
grid on;
box;
set(p,'Color',colr(i,:));
end
for i=1:4,text(T1(1,i)+0.1,T1(2,i),T1(3,i),sprintf('%g',yc(i))),end
title('Testing the network.')
3.2 仿真结果分析
在前面章节中我们已经提到，平滑因子N 的重要性，N的取值直接影响着我们最后的分类结果。下面是采用不同的平滑因子所的结果：
当N=1时，仿真结果如下：
datat1 =
1.3590
datat2 =
0.4840
yc =
1 1 1 1 1 1 1 1 1 1
1 1 1 1 1 1 1 1 1 1 1
1
data1和data2分别为PNN网络的训练时间和预测时间，yc是输出的酒的类别。
从上面的仿真结果可以看出，该网络并没有输出我们所期望的结果，它把后20组数据都归成了一类，没有实现模式的识别。
为了找出原因所在，以及检测我们所建的PNN网络是否正确，本文采用了如下方法：即用前30组数据用来学习训练，同样也采用前30个样本来进行模式的分类与判别，仿真结果如下：
datat1 =
2.9530
datat2 =
0.3750
yc =
Columns 1 through 23
2 3 3 1 1 4 1 3 3 3 1 1 3 3 4 4 3 2 4 1 3 2 3
Columns 24 through 29
4 1 3 3 1 3
通过将上面结果与我们已知的数据相比较，可知此次的预测与所知的类别结果完全相吻合，这说明所构建的PNN网络是可信的，通过学习能正确地预测和判别。但是针对第一次不成功的仿真结果，说明有可能是我们所设的平滑因子不合理，N值过小，不能正确分类。下面我们将N值调大，看看结果如何。
N=50时，仿真结果如下：
datat1 =
0.3530
datat2 =
0.5220
yc =
2 3 1 4 2 4 1 1 1 3 3 1 2 3 1 1 3 2 2 3 1 3
表1 测试样本与期望输出对比表
为了验证上面的输出结果是否准确，现在我们采用同样的平滑因子，用前20个样本来学习，第21—30这10个样本作为测试，看输出的结果是否与我们所期望的结果一致。
见表1所示，通过表1中网络的输出与期望的输出对比，我们可知两个结果完全一致，说明此次的平滑因子取值较为成功，并且可以判定该PNN网络具有很高的准确性。
同样，通过上面验证我们可以判断出当N=50时对后20组数据的预测具有很高的准确性，下面我们可以通改变N 的大小进而来验证我们的推断是否正确。当N取100、150、200….、450时，PNN网络所输出的预测结果与上面的结果都是一致的，进而确保了此时的预测的正确性。
当N=500时，仿真的结果如下：
datat1 =
1.4370
datat2=
0.4380
yc =
2 3 1 4 2 4 1 1 1 3
3 1 2 3 1 1 3 2 2 3 3 3
Testing the network.
图2 N=50时分类的结果
Testing the network.
图3 N=500时分类的结果
通过与N=50时的结果对比，可知此时的输出中第1和第3类别的数量发生了改变。为了更清楚地对照两个输出结果，见三维图2和图3。
从图3中，以及运行的结果中可以看出当N取不同的值时，结果已经发生了改变。从三维的效果图中可以看出当N=500时，本次聚类的效果并不是十分理想，出现了边缘点。所以当N取500时，平滑因子过大，出现了逼近误差。
3.3 结论
在实际的模式识别中，N（平滑因子）的取值大小直接影响到最终的分类效果，所以选取合适的平滑因子在识别过程中显得尤为重要。如果取值太大，密度估计比较平滑但细节丢失严重；取值太小，密度估计会呈现较多的尖峰突起。常用的平滑因子选取方法大多为在数据样本究竟上取一个合适的固定值。
4 总结
本文针对概率神经网络在模式分类方面的显著特点,提出利用PNN模型进行酒类识别。经过网络模型的回判模拟与网络性能的测试及其实际识别结果来看,PNN模型进行识别是行之有效的。
从PNN网络的构建、训练、测试以及对最后的未知样本进行预测等，都可以看出网络的训练时间短，效率高，并且准确性也非常值得肯定，所以在模式识别领域里，PNN神经网络的确有着很大的优越性。
参考文献
[1] 边肇祺、张学工.模式识别（第二版）。清华大学出版社
[2] 袁曾任.人工神经元网络及其应用[M]。北京:清华大学出版
[3] 江东,王建华.人工神经网络在遥感中的应用与发展[J].国土资源遥感, 1999(2): 12-18。
[4] 段磊,马义德,许勇,韩明秋.一种改进的基于小波变换与PNN 的指纹识别算法。自动化技术与应用,2005 年,24(6):12-15。
PNN神经网络聚类法模式分类思想
目录 摘要 (1) 1概率神经网络 (1) 1.1网络模型 (1) 1.2分类思想 (2) 1.3 PNN分类的优点 (3) 2 PNN网络的构建 (3) 2.1 构建步骤 (3) 2.2 Matlab中的主要代码 (4) 3 Matlab编程及结果分析 (4) 3.1 Matlab中的编程 (4) 3.2 仿真结果分析 (7) 3.3 结论 (10) 4 总结 (11) 参考文献 (12)
PNN神经网络聚类法 摘要 近几年来，对于神经网络的研究越来越普遍，神经网络在我们社会生活中的作用也越来越不可替代，尤其在模式识别的领域里，更是有着举足轻重的作用。 酒是由多种成分按不同的比例构成的，兑酒时需要三种原料（X,Y,Z），现在已测出不同酒中三种原料的含量，本文正是基于PNN神经网络针对酒中X、Y、Z三种含量的不同来对酒进行识别分类。本文首先介绍了PNN神经网络的网络模型以及它对不同的模式进行分类判别的思想，然后针对本文的酒类判别的要求来构建PNN网络，并在Matlab中进行编程仿真，最后对所仿真的结果进行了分析比较，最后找出最优的模式分类。 1概率神经网络 概率神经网络(Probabilistic Neural Networks,PNN)是由D. F. Specht在1990年提出的。主要思想是用贝叶斯决策规则,即错误分类的期望风险最小,在多维输入空间内分离决策空间。它是一种基于统计原理的人工神经网络,它是以Parzen 窗口函数为激活函数的一种前馈网络模型。PNN吸收了径向基神经网络与经典的概率密度估计原理的优点,与传统的前馈神经网络相比,在模式分类方面尤其具有较为显著的优势。 1.1网络模型 PNN的结构如图1所示,共由四层组成。 图1 概率神经网络结构
神经网络C语言实现
#i n c l u d e"" #include <> const double e = ; //设置一个神经网络 //有一个隐藏层（含有两个节点） //输出层有一个节点 //输入数据是二维（两个节点） //一个样本数据为：x = , 标签为 //初始权值输入节点1到隐藏层：， //输入节点2到隐藏层：, //隐藏层到输出层初始权值为：, //学习速率为1 double changeWeightFromHiddenToOutput(double cost,double output,double hiddenLayerCode) { double result=0; result = cost*output*(1-output)*hiddenLayerCode; return result; } double changeWeightFromInputToHidden(double cost,double output,double weightOfHiddenCodeToOutput,double weightOfHiddenCode,double inputNum)
double result=0; result = cost*output*(1-output)*weightOfHiddenCodeToOutput*weightOfHiddenC ode*(1-weightOfHiddenCode)*inputNum; return result; } double sigmoidFunction(double x) { double result=0; result = 1/(1+pow(e,-x)); return result; } double costFunction(double originalSignal,double outputOfOurCalculation) { //此处采取的损失函数是最小二乘法 double cost=0; cost = (1/*(originalSignal-outputOfOurCalculation)*(originalSignal-outpu tOfOurCalculation); return cost;
深度学习系列(7)：神经网络的优化方法
机器?学习中，梯度下降法常?用来对相应的算法进?行行训练。常?用的梯度下降法包含三种不不同的形式，分别是BGD 、SGD 和MBGD ，它们的不不同之处在于我们在对?目标函数进?行行梯度更更新时所使?用的样本量量的多少。 以线性回归算法来对三种梯度下降法进?行行?比较。 ?一般线性回归函数的假设函数为： （即有n 个特征）对应的损失函数为下图即为?一个?二维参数和组对应的损失函数可视化图像：批量量梯度下降法（Batch Gradient Descent ，简称BGD ）是梯度下降法最原始的形式，它的具体思路路是在更更新每?一参数时都使?用所有的样本来进?行行更更新，其数学形式如下： 深度学习系列列（7）：神经?网络的优化?方法?一、Gradient Descent [Robbins and Monro, 1951,Kiefer et al., 1952] = h θ∑j =0n θj x j L (θ)=12m ∑i =1 m (h ()?)x i y i 2θ0θ11.1 BGD （Batch Gradient Descent ）
还是以上?面?小球的例例?子来看，momentum ?方式下?小球完全是盲?目被动的?方式滚下的。这样有个缺 三、NAG （Nesterov accelerated gradient ）[Nesterov, 1983]
点就是在邻近最优点附近是控制不不住速度的。我们希望?小球可以预判后?面的“地形”，要是后?面地形还是很陡峭，那就继续坚定不不移地?大胆?走下去，不不然的话就减缓速度。 当然，?小球?自?己也不不知道真正要?走到哪?里里，这?里里以 作为下?一个位置的近似，将动量量的公式更更改为： 相?比于动量量?方式考虑的是上?一时刻的动能和当前点的梯度，?而NAG 考虑的是上?一时刻的梯度和近似下?一点的梯度，这使得它可以先往前探探路路，然后慎重前进。 Hinton 的slides 是这样给出的： 其中两个blue vectors 分别理理解为梯度和动能，两个向量量和即为momentum ?方式的作?用结果。?而靠左边的brown vector 是动能，可以看出它那条blue vector 是平?行行的，但它预测了了下?一阶段的梯度是red vector ，因此向量量和就是green vector ，即NAG ?方式的作?用结果。 momentum 项和nesterov 项都是为了了使梯度更更新更更加灵活，对不不同情况有针对性。但是，?人?工设置?一些学习率总还是有些?生硬，接下来介绍?几种?自适应学习率的?方法 训练深度?网络的时候，可以让学习率随着时间退?火。因为如果学习率很?高，系统的动能就过?大，参数向量量就会?无规律律地变动，?无法稳定到损失函数更更深更更窄的部分去。对学习率衰减的时机把握很有技巧：如果慢慢减?小，可能在很?长时间内只能浪费计算资源然后看着它混沌地跳动，实际进展很少；但如果快速地减少，系统可能过快地失去能量量，不不能到达原本可以到达的最好位置。通常，实现学习率退?火有三种?方式： θ?γv t ?1 =γ+ηJ (θ?γ) v t v t ?1?θv t ?1θ=θ?v t 四、学习率退?火
人工神经网络原理及实际应用
人工神经网络原理及实际应用 摘要：本文就主要讲述一下神经网络的基本原理，特别是BP神经网络原理，以及它在实际工程中的应用。 关键词：神经网络、BP算法、鲁棒自适应控制、Smith－PID 本世纪初，科学家们就一直探究大脑构筑函数和思维运行机理。特别是近二十年来。对大脑有关的感觉器官的仿生做了不少工作，人脑含有数亿个神经元，并以特殊的复杂形式组成在一起，它能够在“计算＂某些问题（如难以用数学描述或非确定性问题等）时，比目前最快的计算机还要快许多倍。大脑的信号传导速度要比电子元件的信号传导要慢百万倍，然而，大脑的信息处理速度比电子元件的处理速度快许多倍，因此科学家推测大脑的信息处理方式和思维方式是非常复杂的，是一个复杂并行信息处理系统。1943年Macullocu和Pitts融合了生物物理学和数学提出了第一个神经元模型。从这以后，人工神经网络经历了发展，停滞，再发展的过程，时至今日发展正走向成熟，在广泛领域得到了令人鼓舞的应用成果。本文就主要讲述一下神经网络的原理，特别是BP神经网络原理，以及它在实际中的应用。 1.神经网络的基本原理 因为人工神经网络是模拟人和动物的神经网络的某种结构和功能的模拟，所以要了解神经网络的工作原理，所以我们首先要了解生物神经元。其结构如下图所示： 从上图可看出生物神经元它包括，细胞体：由细胞核、细胞质与细胞膜组成；
轴突：是从细胞体向外伸出的细长部分，也就是神经纤维。轴突是神经细胞的输出端，通过它向外传出神经冲动；树突：是细胞体向外伸出的许多较短的树枝状分支。它们是细胞的输入端，接受来自其它神经元的冲动；突触：神经元之间相互连接的地方，既是神经末梢与树突相接触的交界面。 对于从同一树突先后传入的神经冲动，以及同一时间从不同树突输入的神经冲动，神经细胞均可加以综合处理，处理的结果可使细胞膜电位升高；当膜电位升高到一阀值（约40mV），细胞进入兴奋状态，产生神经冲动，并由轴突输出神经冲动；当输入的冲动减小，综合处理的结果使膜电位下降，当下降到阀值时。细胞进入抑制状态，此时无神经冲动输出。“兴奋”和“抑制”，神经细胞必呈其一。 突触界面具有脉冲/电位信号转换功能，即类似于D/A转换功能。沿轴突和树突传递的是等幅、恒宽、编码的离散电脉冲信号。细胞中膜电位是连续的模拟量。 神经冲动信号的传导速度在1～150m/s之间，随纤维的粗细，髓鞘的有无而不同。 神经细胞的重要特点是具有学习功能并有遗忘和疲劳效应。总之，随着对生物神经元的深入研究，揭示出神经元不是简单的双稳逻辑元件而是微型生物信息处理机制和控制机。 而神经网络的基本原理也就是对生物神经元进行尽可能的模拟，当然，以目前的理论水平，制造水平，和应用水平，还与人脑神经网络的有着很大的差别，它只是对人脑神经网络有选择的，单一的，简化的构造和性能模拟，从而形成了不同功能的，多种类型的，不同层次的神经网络模型。 2.BP神经网络 目前，再这一基本原理上已发展了几十种神经网络，例如Hopficld模型，Feldmann等的连接型网络模型，Hinton等的玻尔茨曼机模型，以及Rumelhart 等的多层感知机模型和Kohonen的自组织网络模型等等。在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。 这里我们重点的讲述一下BP神经网络。多层感知机神经网络的研究始于50年代，但一直进展不大。直到1985年，Rumelhart等人提出了误差反向传递学习算法（即BP算），实现了Minsky的多层网络设想，其网络模型如下图所示。它可以分为输入层，影层（也叫中间层），和输出层，其中中间层可以是一层，也可以多层，看实际情况而定。
增量式神经网络聚类算法(
增量式神经网络聚类算法* 刘培磊1,2，唐晋韬1，谢松县1，王挺1 （1.国防科学技术大学 计算机学院，湖南 长沙 410073； 2.国防信息学院 信息化建设系 信息资源管理教研室，湖北 武汉 430010） 摘要：神经网络模型具有强大的问题建模能力，但是传统的反向传播算法只能进行批量监督学习，并且训练开销很大。针对传统算法的不足，提出了全新的增量式神经网络模型及其聚类算法。该模型基于生物神经学实验证据，引入了新的神经元激励函数和突触调节函数，赋予模型以坚实的统计理论基础。在此基础上，提出了一种自适应的增量式神经网络聚类算法。算法中引入“胜者得全”式竞争等学习机制，在增量聚类过程中成功避免了“遗忘灾难”问题。在经典数据集上的实验结果表明，该聚类算法与K-means 等传统聚类算法效果相当，特别是在增量学习任务的时空开销方面具有较大优势。 关键词：神经网络；增量学习；聚类算法；时间开销 中图分类号：TP393 文献标志码：A 文章编号： Incremental clustering algorithm of neural network LIU Peilei 1,2, TANG Jintao 1, XIE Songxian 1, WANG Ting 1 (1. College of Computer, National University of Defense Technology, Changsha 410073, China 2. Teaching and Research Section of Information Resource Management, Department of Information Construction, Academy of National Defense Information, Wuhan 430010, China) Abstract: Neural network model is powerful in problem modelling. But the traditional back propagating algorithm can only execute batch supervised learning, and its time expense is very high. According to these problems, we put forward a novel incremental neural network model and corresponding clustering algorithm. This model is supported by biological evidences, and it is built on the foundation of novel neuron’s activation function and synapse adjusting functi on. On this base, we put forward an adaptive incremental clustering algorithm, in which mechanisms such as “winner -take-all” are introduced. As a result, “catastrophic forgetting” problem can be successfully solved in the incremental clustering process. Experiments results on classic datasets show that this algorithm ’s performance is comparable with traditional clustering models such as K-means. Especially, its time and space expenses on incremental tasks are much lower than traditional clustering models. Keywords: neural network; incremental learning; clustering algorithm; time expense ① *收稿日期：2015-09-28 基金项目：国家自然科学基金资助项目（61532001，61472436） 作者简介：刘培磊（1984－），男，江苏连云港人，博士研究生，E-mail ：plliu@https://www.wendangku.net/doc/379417373.html, ； 王挺（通信作者），男，教授，博士，博士生导师，E-mail ：tingwang@https://www.wendangku.net/doc/379417373.html, 随着互联网和社交媒体的广泛发展，大量无标注的数据源源不断地产生 [1,2]。这些数据的海量性、无标注性、实时性等特点给传统的机器学习模型带来了很大的挑战[3]。传统的神经网络模型具有强大的问题建模能力，理论上含有足够多隐藏层神经元的神经网络可以逼近任意函数。但是主流的学习算法如BP （Back propergating ）算法使用梯度下降的方法进行学习，是批量监督学习算法，即所有的训练数据必须一次性全部输入学习模型。而模型一旦训练完毕，再碰到新的输入数据时，只能将新数据与旧数据并在一起重新训练模型。这个问题被称为“遗忘灾难”[4]，即新学习的内容会导致已经学习的内容的“遗忘”。 梯度下降的方法带来的另一个问题是训练的时间开销很大，难以在线处理海量的实时性数据[5]。近年热门的深度学习模型也面临类似的计算时间开销问题[6] ，因此训练规模较大的深度神经网络往往需要使用大规模并行计算集群。ART （Adaptive Resonance Theory ）模型提出了一套不错的应对
神经网络模式识别Matlab程序
神经网络模式识别Matlab程序识别加入20%噪声的A-Z26个字母。（20%噪声情况下，完全能够识别）clear;close all; clc; [alphabet,targets]=prprob; [R,Q]=size(alphabet); [S2,Q]=size(targets); S1=10; P=alphabet; net=newff(minmax(P),[S1,S2],{'logsig''logsig'},'traingdx'); net.LW{2,1}=net.LW{2,1}*0.01; net.b{2}=net.b{2}*0.01; T=targets; net.performFcn='sse'; net.trainParam.goal=0.1; net.trainParam.show=20; net.trainParam.epochs=5000; net.trainParam.mc=0.95; [net,tr]=train(net,P,T); netn=net; netn.trainParam.goal=0.6; netn.trainParam.epochs=300; T=[targets targets targets targets]; for pass=1:10; P=[alphabet,alphabet,... (alphabet+randn(R,Q)*0.1),... (alphabet+randn(R,Q)*0.2)]; [netn,tr]=train(netn,P,T); end netn.trainParam.goal=0.1; netn.trainParam.epochs=500; netn.trainParam.show=5; P=alphabet; T=targets; [netn,tr]=train(netn,P,T); noise_percent=0.2; for k=1:26 noisyChar=alphabet(:,k)+randn(35,1)*noise_percent; subplot(6,9,k+floor(k/9.5)*9); plotchar(noisyChar); de_noisyChar=sim(net,noisyChar); de_noisyChar=compet(de_noisyChar);
1BP神经网络实现(JAVA代码)
BP神经网络实现（Java代码） 神经网络的原理虽然理解起来不难，但是要是想实现它，还是需要做一些工作的，并且有很多细节性的东西需要注意。通过参阅各种相关资料，以及参考网络上已有的资源，自己写了一个含有一个隐含层，且只能有一个输出单元的简单的BP网络，经过测试，达到了预期的效果。 需要说明的是，神经网络的每个输入都在[0,1]中，输出也在[0,1]中，在使用神经网络解决实际问题的时候，还需要对实际问题的输入输出进行归一化处理。另外，尽量不要使得神经网络的输入或输出接近于0或1，这样会影响拟合效果。 我用正弦函数进行了一次测试，效果如图所示： 以下是相关的代码： 1.神经网络代码 [java]view plaincopy 1.package pkg1; 2. 3.import java.util.Scanner; 4. 5./* 6.* 7.*/ 8.public class TestNeuro{
9. 10.private int INPUT_DIM=1; 11.private int HIDDEN_DIM=20; 12.private double LEARNING_RATE=0.05; 13.double[][]input_hidden_weights=new double[INPUT_DIM][HIDDEN_DIM]; 14.double[]hidden_output_weights=new double[HIDDEN_DIM]; 15.double[]hidden_thresholds=new double[HIDDEN_DIM]; 16.double output_threshold; 17. 18.public static void main(String[]args){ 19.Scanner in=new Scanner(System.in); 20.TestNeuro neuro=new TestNeuro(1,5); 21.neuro.initialize(); 22.for(int i=0;i<10000;i++){ 23.double[]input=new double[1]; 24.input[0]=Math.random(); 25.double expectedOutput=input[0]*input[0]; 26.//System.out.println("input:"+input[0]+"\t\texpectedOutput: "+expectedOutput); 27.//System.out.println("predict before training:"+neuro.predict (input)); 28.neuro.trainOnce(input,expectedOutput); 29.//System.out.println("predict after training:"+neuro.predict( input)); 30.//in.next(); 31.} 32.while(true){ 33.//neuro.printLinks(); 34.double[]input=new double[1]; 35.input[0]=in.nextDouble(); 36.double expectedOutput=in.nextDouble(); 37.System.out.println("predict before training:"+neuro.predict(i nput)); 38.neuro.trainOnce(input,expectedOutput); 39.System.out.println("predict after training:"+neuro.predict(in put)); 40. 41.} 42.} 43. 44.public TestNeuro(int input_dimension,int hidden_dimension){ 45.this.INPUT_DIM=input_dimension; 46.this.HIDDEN_DIM=hidden_dimension; 47.this.initialize();
神经网络及深度学习
可用于自动驾驶的神经网络及深度学习 高级辅助驾驶系统(ADAS)可提供解决方案，用以满足驾乘人员对道路安全及出行体验的更高要求。诸如车道偏离警告、自动刹车及泊车辅助等系统广泛应用于当前的车型，甚至是功能更为强大的车道保持、塞车辅助及自适应巡航控制等系统的配套使用也让未来的全自动驾驶车辆成为现实。 作者：来源：电子产品世界|2017-02-27 13:55 收藏 分享 高级辅助驾驶系统(ADAS)可提供解决方案，用以满足驾乘人员对道路安全及出行体验的更高要求。诸如车道偏离警告、自动刹车及泊车辅助等系统广泛应用于当前的车型，甚至是功能更为强大的车道保持、塞车辅助及自适应巡航控制等系统的配套使用也让未来的全自动驾驶车辆成为现实。 如今，车辆的很多系统使用的都是机器视觉。机器视觉采用传统信号处理技术来检测识别物体。对于正热衷于进一步提高拓展ADAS功能的汽车制造业而言，深度学习神经网络开辟了令人兴奋的研究途径。为了实现从诸如高速公路全程自动驾驶仪的短时辅助模式到专职无人驾驶旅行的自动驾驶，汽车制造业一直在寻求让响应速度更快、识别准确度更高的方法，而深度学习技术无疑为其指明了道路。 以知名品牌为首的汽车制造业正在深度学习神经网络技术上进行投资，并向先进的计算企业、硅谷等技术引擎及学术界看齐。在中国，百度一直在此技术上保持领先。百度计划在2019 年将全自动汽车投入商用，并加大全自动汽车的批量生产力度，使其在2021 年可广泛投入使用。汽车制造业及技术领军者之间的密切合作是嵌入式系统神经网络发展的催化剂。这类神经网络需要满足汽车应用环境对系统大小、成本及功耗的要求。 1轻型嵌入式神经网络 卷积式神经网络(CNN)的应用可分为三个阶段：训练、转化及CNN在生产就绪解决方案中的执行。要想获得一个高性价比、针对大规模车辆应用的高效结果，必须在每阶段使用最为有利的系统。 训练往往在线下通过基于CPU的系统、图形处理器(GPU)或现场可编程门阵列(FPGA)来完成。由于计算功能强大且设计人员对其很熟悉，这些是用于神经网络训练的最为理想的系统。 在训练阶段，开发商利用诸如Caffe(Convolution Architecture For Feature Extraction，卷积神经网络架构)等的框架对CNN 进行训练及优化。参考图像数据库用于确定网络中神经元的最佳权重参数。训练结束即可采用传统方法在CPU、GPU 或FPGA上生成网络及原型，尤其是执行浮点运算以确保最高的精确度。 作为一种车载使用解决方案，这种方法有一些明显的缺点。运算效率低及成本高使其无法在大批量量产系统中使用。 CEVA已经推出了另一种解决方案。这种解决方案可降低浮点运算的工作负荷，并在汽车应用可接受的功耗水平上获得实时的处理性能表现。随着全自动驾驶所需的计算技术的进一步发展，对关键功能进行加速的策略才能保证这些系统得到广泛应用。 利用被称为CDNN的框架对网络生成策略进行改进。经过改进的策略采用在高功耗浮点计算平台上(利用诸如Caffe的传统网络生成器)开发的受训网络结构和权重，并将其转化为基于定点运算，结构紧凑的轻型的定制网络模型。接下来，此模型会在一个基于专门优化的成像和视觉DSP芯片的低功耗嵌入式平台上运行。图1显示了轻型嵌入式神经网络的生成
神经网络学习笔记及R实现
神经网络 一、神经网络简介 人工神经网络(ANN)，简称神经网络，是一种模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络由大量的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的基础上改变内部结构，是一种自适应系统。现代神经网络是一种非线性统计性数据建模工具，常用来对输入和输出间复杂的关系进行建模，或用来探索数据的模式物理结构：人工神经元将模拟生物神经元的功能 计算模拟：人脑的神经元有局部计算和存储的功能，通过连接构成一个系统。人工神经网络中也有大量有局部处理能力的神经元，也能够将信息进行大规模并行处理存储与操作：人脑和人工神经网络都是通过神经元的连接强度来实现记忆存储功能，同时为概括、类比、推广提供有力的支持 训练：同人脑一样，人工神经网络将根据自己的结构特性，使用不同的训练、学习过程，自动从实践中获得相关知识 神经网络是一种运算模型，由大量的节点(或称“神经元”，或“单元”)和之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。 二、BP神经网络算法描述 1、sigmoid函数分类 回顾我们前面提到的感知器，它使用示性函数作为分类的办法。然而示性函数作为分类器它的跳点让人觉得很难处理，幸好sigmoid函数y=1/(1+e^-x)有类似的性质，且有着光滑性这一优良性质。我们通过下图可以看见sigmoid函数的图像： 错误!
深度神经网络全面概述
深度神经网络全面概述从基本概念到实际模型和硬件基础 深度神经网络(DNN)所代表的人工智能技术被认为是这一次技术变革的基石(之一)。近日，由 IEEE Fellow Joel Emer 领导的一个团队发布了一篇题为《深度神经网络的有效处理：教程和调研(Efficient Processing of Deep Neural Networks: A Tutorial and Survey)》的综述论文，从算法、模型、硬件和架构等多个角度对深度神经网络进行了较为全面的梳理和总结。鉴于该论文的篇幅较长，机器之心在此文中提炼了原论文的主干和部分重要内容。 目前，包括计算机视觉、语音识别和机器人在内的诸多人工智能应用已广泛使用了深度神经网络(deep neural networks，DNN)。DNN 在很多人工智能任务之中表现出了当前最佳的准确度，但同时也存在着计算复杂度高的问题。因此，那些能帮助 DNN 高效处理并提升效率和吞吐量，同时又无损于表现准确度或不会增加硬件成本的技术是在人工智能系统之中广泛部署 DNN 的关键。 论文地址： 本文旨在提供一个关于实现 DNN 的有效处理(efficient processing)的目标的最新进展的全面性教程和调查。特别地，本文还给出了一个 DNN 综述——讨论了支持 DNN 的多种平台和架构，并强调了最新的有效处理的技术的关键趋势，这些技术或者只是通过改善硬件设计或者同时改善硬件设计和网络算法以降低 DNN 计算成本。本文也会对帮助研究者和从业者快速上手 DNN 设计的开发资源做一个总结，并凸显重要的基准指标和设计考量以评估数量快速增长的 DNN 硬件设计，还包括学界和产业界共同推荐的算法联合设计。 读者将从本文中了解到以下概念：理解 DNN 的关键设计考量;通过基准和对比指标评估不同的 DNN 硬件实现;理解不同架构和平台之间的权衡;评估不同 DNN 有效处理技术的设计有效性;理解最新的实现趋势和机遇。 一、导语 深度神经网络(DNN)目前是许多人工智能应用的基础 [1]。由于 DNN 在语音识别 [2] 和图像识别 [3] 上的突破性应用，使用DNN 的应用量有了爆炸性的增长。这些 DNN 被部署到了从自动驾驶汽车 [4]、癌症检测 [5] 到复杂游戏 [6] 等各种应用中。在这许多领域中，DNN 能够超越人类的准确率。而 DNN 的出众表现源于它能使用统计学习方法从原始感官数据中提取高层特征，在大量的数据中获得输入空间的有效表征。这与之前使用手动提取特征或专家设计规则的方法不同。 然而 DNN 获得出众准确率的代价是高计算复杂性成本。虽然通用计算引擎(尤其是 GPU)，已经成为许多 DNN 处理的砥柱，但提供对 DNN 计算更专门化的加速方法也越来越热门。本文的目标是提供对 DNN、理解 DNN 行为的各种工具、有效加速计算的各项技术的概述。 该论文的结构如下： Section II 给出了 DNN 为什么很重要的背景、历史和应用。 Section III 给出了 DNN 基础组件的概述，还有目前流行使用的 DNN 模型。 Section IV 描述了 DNN 研发所能用到的各种资源。 Section V 描述了处理 DNN 用到的各种硬件平台，以及在不影响准确率的情况下改进吞吐量(thoughtput)和能量的各种优化方法(即产生 bit-wise identical 结果)。 Section VI 讨论了混合信号回路和新的存储技术如何被用于近数据处理(near-data processing)，从而解决 DNN 中数据流通时面临的吞吐量和能量消耗难题。 Section VII 描述了各种用来改进 DNN 吞吐量和能耗的联合算法和硬件优化，同时最小化对准确率的影响。 Section VIII 描述了对比 DNN 设计时应该考虑的关键标准。
(完整版)深度神经网络及目标检测学习笔记
深度神经网络及目标检测学习笔记 https://youtu.be/MPU2HistivI 上面是一段实时目标识别的演示，计算机在视频流上标注出物体的类别，包括人、汽车、自行车、狗、背包、领带、椅子等。 今天的计算机视觉技术已经可以在图片、视频中识别出大量类别的物体，甚至可以初步理解图片或者视频中的内容，在这方面，人工智能已经达到了3岁儿童的智力水平。这是一个很了不起的成就，毕竟人工智能用了几十年的时间，就走完了人类几十万年的进化之路，并且还在加速发展。 道路总是曲折的，也是有迹可循的。在尝试了其它方法之后，计算机视觉在仿生学里找到了正确的道路（至少目前看是正确的）。通过研究人类的视觉原理，计算机利用深度神经网络（Deep Neural Network，NN）实现了对图片的识别，包括文字识别、物体分类、图像理解等。在这个过程中，神经元和神经网络模型、大数据技术的发展，以及处理器（尤其是GPU）强大的算力，给人工智能技术的发展提供了很大的支持。 本文是一篇学习笔记，以深度优先的思路，记录了对深度学习（Deep Learning）的简单梳理，主要针对计算机视觉应用领域。 一、神经网络 1.1 神经元和神经网络 神经元是生物学概念，用数学描述就是：对多个输入进行加权求和，并经过激活函数进行非线性输出。 由多个神经元作为输入节点，则构成了简单的单层神经网络（感知器），可以进行线性分类。两层神经网络则可以完成复杂一些的工作，比如解决异或问题，而且具有非常好的非线性分类效果。而多层（两层以上）神经网络，就是所谓的深度神经网络。 神经网络的工作原理就是神经元的计算，一层一层的加权求和、激活，最终输出结果。深度神经网络中的参数太多（可达亿级），必须靠大量数据的训练来设置。训练的过程就好像是刚出生的婴儿，在父母一遍遍的重复中学习“这是苹
人工神经网络在聚类分析中的运用
摘要：本文采用无导师监督的som网络，对全国31个省市自治区的人民生活质量进行了综合评价，在没有先验信息的条件下，不采用人为主观赋予各指标权重的办法，转而运用自组织神经网络自组织竞争学习的网络方法来进行赋值、计算和评价，消除了主观确定各指标的权重的主观性，得到的结果较为符合各省市自治区的实际结果。 关键词：聚类分析；k-means聚类；系统聚类；自组织神经网络；人民生活质量 一、引言（研究现状） 自改革开放以来，我国生产力极大发展，生活水平总体上得到了提高。但是，地区间的发展不平衡始终存在，而且差距越来越大，不同地区人民的生活水平也存在显著的差异。据此，我们利用自组织人工神经网络方法对全国31个省市自治区的人民生活水平质量进行分析评价。 二、指标选取与预处理 1.指标选取 遵循合理性、全面性、可操作性、可比性的原则，从以下5个层面共11个二级指标构建了人民生活质量综合评价指标体系（如下表所示）。 人民生活质量综合评价指标体系 2.指标预处理 （1）正向指标是指标数据越大，则评价也高，如人均可支配收入，人均公园等。 正向指标的处理规则如下（1）： kohonen 自组织神经网络 输入层是一个一维序列，该序列有n个元素，对应于样本向量的维度；竞争层又称为输出层，该层是由m′n=h个神经元组成的二维平面阵列其神经元的个数对应于输出样本空间的维数，可以使一维或者二维点阵。 竞争层之间的神经元与输入层之间的神经元是全连接的，在输入层神经元之间没有权连接，在竞争层的神经元之间有局部的权连接，表明竞争层神经元之间的侧反馈作用。训练之后的竞争层神经元代表者不同的分类样本。 自组织特征映射神经网络的目标：从样本的数据中找出数据所具有的特征，达到能够自动对样本进行分类的目的。 2.网络反馈算法 自组织网络的学习过程可分为以下两步： （1）神经元竞争学习过程 对于每一个样本向量，该向量会与和它相连的竞争层中的神经元的连接权进行竞争比较（相似性的比较），这就是神经元竞争的过程。相似性程度最大的神经元就被称为获胜神经元，将获胜神经元称为该样本在竞争层的像，相同的样本具有相同的像。 （2）侧反馈过程 竞争层中竞争获胜的神经元会对周围的神经元产生侧反馈作用，其侧反馈机制遵循以下原则：以获胜神经元为中心，对临近邻域的神经元表现为兴奋性侧反馈。以获胜神经元为中心，对邻域外的神经元表现为抑制性侧反馈。 对于竞争获胜的那个神经元j，其邻域内的神经元在不同程度程度上得到兴奋的侧反馈，而在nj（t）外的神经元都得到了抑制的侧反馈。nj（t）是时间t的函数，随着时间的增加，nj（t）围城的面积越来越小，最后只剩下一个神经元，而这个神经元，则反映着一个类的特征或者一个类的属性。 3.评价流程 （1）对n个输入层输入神经元到竞争层输出神经元j的连接权值为（6）式：
如何用MATLAB的神经网络工具箱实现三层BP网络
如何用MA TLAB的神经网络工具箱实现三层BP网络？ % 读入训练数据和测试数据 Input = []; Output = []; str = {'Test','Check'}; Data = textread([str{1},'.txt']); % 读训练数据 Input = Data(:,1:end-1); % 取数据表的前五列（主从成分） Output = Data(:,end); % 取数据表的最后一列（输出值） Data = textread([str{2},'.txt']); % 读测试数据 CheckIn = Data(:,1:end-1); % 取数据表的前五列（主从成分） CheckOut = Data(:,end); % 取数据表的最后一列（输出值） Input = Input'; Output = Output'; CheckIn = CheckIn'; CheckOut = CheckOut'; % 矩阵赚置 [Input,minp,maxp,Output,mint,maxt] = premnmx(Input,Output); % 标准化数据 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %%%% % 神经网络参数设置 %====可以修正处 Para.Goal = 0.0001; % 网络训练目标误差 Para.Epochs = 800; % 网络训练代数 Para.LearnRate = 0.1; % 网络学习速率 %==== Para.Show = 5; % 网络训练显示间隔 Para.InRange = repmat([-1 1],size(Input,1),1); % 网络的输入变量区间 Para.Neurons = [size(Input,1)*2+1 1]; % 网络后两层神经元配置
人工神经网络模式识别
人工神经网络模式识别 一、人工神经网络模式识别 1、人工神经网络的概述 人工神经网络从人脑的生理学和心理学角度出发，通过模拟人脑的工作机理，实现机器的部分智能行为，是从微观结构和功能上对人脑进行抽象和简化，是模拟人类智能的一条重要途径。具体的模式识别是多种多样的，如果从识别的基本方法上划分，传统的模式识别大体分为统计模式识别和句法模式识别，在识别系统中引入神经网络是一种近年来发展起来的新的模式识别方法。尽管引入神经网络的方法和引入网络的结构可以各不相同，但都可称为神经网络模式识别。而且这些识别方法在解决传统方法较难处理的某些问题上带来了新的进展和突破，因而得到了人们越来越多的重视和研究。 人工神经元网络(Artificial Neural Network)简称神经网络，是基于日前人们对自然神经系统的认识而提出的一些神经系统的模型，一般是由一系列被称为神经元的具有某种简单计算功能的节点经过广泛连接构成的一定网络结构，而其网络连接的权值根据某种学习规则在外界输入的作用下不断调节，最后使网络具有某种期望的输出特性。神经网络的这种可以根据输入样本学习的功能使得它非常适合于用来解决模式识别问题，这也是神经网络目前最成功的应用领域之一。 2、神经网络进行模式识别的方法和步骤 神经网络模式识别的基本方法是，首先用己知样本训练神经网络，使之对不同类别的己知样本给出所希望的不同输出，然后用该网络识别未知的样本，根据各样本所对应的网络输出情况来划分未知样本的类别。神经网络进行模式识别的一般步骤如图2-1所示，分为如下几个部分： 预处理 样本获取常规处理特征变换神经网络识别 图 2-1 神经网络模式识别基本构成 1、样本获取 这一步骤主要是为了得到一定数量的用于训练和识别的样本。
神经网络实现非线性系统设计范本
神经网络实现非线性系统设计
毕业设计（论文） 中文题目神经网络实现非线性系统设计英文题目 Neural Network Nonlinear System 院系： 年级专业： 姓名： 学号： 指导教师： 职称： 月日
【摘要】神经网络具有极强的非线性及自适应自学习的特性，常被用来模拟判断、拟合和控制等智能行为，成功渗透了几乎所有的工程应用领域，是一个在人工智能方向迅速发展的具有重大研究意义的前沿课题。 本文前两章主要介绍了神经网络的发展背景和研究现状，还有BP 网络的结构原理及相关功能。然后，对如何利用GUI工具和神经网络原理设计非线性系统的基本流程进行了详细的阐述。最后，经过利用Matlab软件进行编程，以及是经过对BP神经网络算法及函数的运用，研究其在函数逼近和数据拟合方面的应用，并分析了相关参数对运行结果的影响。 【关键词】BP网络，GUI，非线性系统 【ABSTRACT】Neural network has a strong nonlinear and adaptive self-organizing properties, often used to simulate the behavior of intelligent decision-making, cognitive control, and the successful penetration of almost all engineering applications, is a rapid development in the direction of artificial intelligence
聚类分析实例分析题(推荐文档)
5.2酿酒葡萄的等级划分 5.2.1葡萄酒的质量分类 由问题1中我们得知，第二组评酒员的的评价结果更为可信，所以我们通过第二组评酒员对于酒的评分做出处理。我们通过excel计算出每位评酒员对每支酒的总分，然后计算出每支酒的10个分数的平均值，作为总的对于这支酒的等级评价。 通过国际酿酒工会对于葡萄酒的分级，以百分制标准评级，总共评出了六个级别（见表5）。 在问题2的计算中，我们求出了各支酒的分数，考虑到所有分数在区间[61.6，81.5]波动，以原等级表分级，结果将会很模糊，不能分得比较清晰。为此我们需要进一步细化等级。为此我们重新细化出5个等级，为了方便计算，我们还对等级进行降序数字等级（见表6）。 通过对数据的预处理，我们得到了一个新的关于葡萄酒的分级表格（见表7）：
考虑到葡萄酒的质量与酿酒葡萄间有比较之间的关系，我们将保留葡萄酒质量对于酿酒葡萄的影响，先单纯从酿酒葡萄的理化指标对酿酒葡萄进行分类，然后在通过葡萄酒质量对酿酒葡萄质量的优劣进一步进行划分。 5.2.2建立模型 在通过酿酒葡萄的理化指标对酿酒葡萄分类的过程，我们用到了聚类分析方法中的ward 最小方差法，又叫做离差平方和法。 聚类分析是研究分类问题的一种多元统计方法。所谓类，通俗地说，就是指相似元素的集合。为了将样品进行分类，就需要研究样品之间关系。这里的最小方差法的基本思想就是将一个样品看作P 维空间的一个点，并在空间的定义距离，距离较近的点归为一类；距离较远的点归为不同的类。面对现在的问题，我们不知道元素的分类，连要分成几类都不知道。现在我们将用SAS 系统里面的stepdisc 和cluster 过程完成判别分析和聚类分析，最终确定元素对象的分类问题。 建立数据阵，具体数学表示为： 1111...............m n nm X X X X X ????=?????? （5.2.1） 式中，行向量1(,...,)i i im X x x =表示第i 个样品； 列向量1(,...,)'j j nj X x x =’，表示第j 项指标。(i=1,2,…,n;j=1,2,…m) 接下来我们将要对数据进行变化，以便于我们比较和消除纲量。在此我们用了使用最广范的方法，ward 最小方差法。其中用到了类间距离来进行比较，定义为： 2||||/(1/1/)kl k l k l D X X n n =-+ （5.2.2） Ward 方法并类时总是使得并类导致的类内离差平方和增量最小。 系统聚类数的确定。在聚类分析中，系统聚类最终得到的一个聚类树，如何确定类的个数，这是一个十分困难但又必须解决的问题；因为分类本身就没有一定标准，人们可以从不同的角度给出不同的分类。在实际应用中常使用下面几种