如何有效利用主成分分析进行综合评价

如何有效利用主成分分析进行综合评价

摘要由于主成分分析在多元统计分析中的降维作用，使之在社会、经济、医疗、生化等各领域运用越来越广泛，但由于传统主成分分析方法的局限性导致了一些问题的产生。这些问题吸引了许多领域专家的关注，并具有针对性的提出了一些不同的改进方法。本文介绍了主成分分析的基本和性质，并整理了近年来主成分分析在综合评价应用中遇到的普遍问题并整理验证了认同率较强的一些改进方法，以供大家研究学习。

关键词主成分分析，综合评价，均值化

1引言

1.1研究的背景和意义

随着生产力的不断进步，生产方式由外延式扩张转化为追求经济效益的内涵式发展，以致在生产过程中必须考虑经济效益的各个方面，如生产力水平、技术进步、资源占用等情况，并需要就综合各方面的因素进行综合评价。

评价是根据确定的目的来测定对象系统的属性，并将这种属性变为客观定量的计值或者主观效用行为，整个过程离不开评价者的参与，而综合评价作为评价的一种也需要评价者做出相应反应或指示，而很多综合评价过程易受到评价者的干预，使评价结果产生偏差。

主成分分析能将高维空间的问题转化到低维空间去处理，使问题变得比较简单、直观，而且这些较少的综合指标之间互不相关，又能提供原有指标的绝大部分信息。而且，伴随主成分分析的过程，将会自动生成各主成分的权重，这就在很大程度上抵制了在评价过程中人为因素的干扰，因此以主成分为基础的综合评价理论能够较好地保证评价结果的客观性，如实地反映实际问题。主成分综合评价提供了科学而客观的评价方法，完善了综合评价理论体系，为管理和决策提供了客观依据，能在很大程度上减少了上述不良现象的产生。

所以在社会经济、管理、自然科学等众多领域的多指标体系中，如节约型社会指标体系、生态环境可持续型指标体系、和谐社会指标体系、投资环境指标体系等，主成分分析法常被应用于综合评价与监控。

综上所述，对综合评价指标体系理论进行研究，既有理论上的必要性，更有实践中的迫切性。

1.2主成分分析的发展史

主成分分析，首先是由英国的皮尔生(Kar卜Pearson)对非随机变量引入的，而后美国的数理统计学家赫特林(Harold.Hotelling)在1933年将此方法推广到随机向量的情形团。主成分分析的降维思想从一开始就很好地为综合评价提供了有力的理论和技术支持。

20世纪80~90年代，是现代科学评价在我国向纵深发展的年代，人们对包括主成分综合评价在内的评价理论、方法和应用开展了多方面的、卓有成效的研究，主要表现为:常规评价方法在国民经济、生产控制和社会生活中的广泛应用;多种评价方法的组合研究，综合应用及比较;新评价方法的研究和应用;评价方法的深入研究，如:评价属性集的设计、标准化变换、评价模型选择等等。

1.3主成分做综合评价的研究现状

目前国内外关于综合评价的方法很多，在根据各指标间相关关系或各指标值的变异程度来确定权重系数的方法中，主成分分析法是应用尤为广泛。在使用该方法的早期，大多都是按照传统的主成分分析法做综合评价的步骤来计算综合得分来对样品排序，即利用主成分F1，F2，…，Fm 做线性组合，并以每个主成分Fi 的方差贡献率αi 作为权重系数来构造一个综合评价函数：

Y =α1F1 +α2F2 +…+αm F m

然而，随着传统主成分分析方法在综合评价中的进一步应用，人们发现此方法时经不起实践检验的。在实际应用中，经常发现运用此方法所得结果的解释往往与实际情况不符。举了一个简单的例子，假定高考中考试科目有四门：数学(x1)、语文(x2)、外语(x3)和物理(x4)，满分都是相同的150分。考生的四门考试成绩必须综合成一个综合评价函数，一般取为总分i

x i ∑=41。但从统计学的角度来看，可能取为*41i x i ∑=更为合理，这里xi*是xi 的标准化数值（x1* 、x2* 、x3* 、x4*有相同的均值和标准差）。如果我们使用传统的主成分分析法，根据上述综合评价函数F 的得分来对学生进行排名，那就酿成大错了。

就此，一些学者提出了一些改进的方法，其中具有代表性的方法有：Yan(1998)提出，当第一主成分的方差比较大时，即贡献率较大时，用它做综合评价指标。如果觉得用一个主成分解释的方差不够大时，综合反映X1 ，X 2 ，…，Xp 信息的能力不够，而用多个主成分构造综合评价函数又不合适时，可以像因子分析那样对主成分进行旋转。Hou(2006)也提出，当用第一主成分进行综合评价达不到理想结果时，可用分组主成分评价法。即先用因子分析法将p 个变量分成k 组，然后分别对各组变量进行主成分分析，只取每组的一主成分，求出各组第一主成分的得分Cj(j=1,2,…,k)以因子旋转后各因子的放差贡献率为权重∑==k j j

j

Wj 1λλ建立综合评价函数：∑==k j WjCj z 1。最后根据各评价样本综合得分y 来对样品进行排序。但其可行性也受到了一些学者的质疑【4】。由此可见，主成分综合评价法是一片有待进一步深耕细作的热土。

2关于主成分分析基本知识

2.1主成分分析

设要进行主成分分析的原指标有p 个，记作x 1 ，x2 ，…，x p 。现有n 个样品，相应的观测值为x ik ， i =1,2,…,n,而k =1,2,…，p 。

作标准化变换后，将Xk 变换为Xk*，即

Sk Xk

-Xk Xk*=，k =1,2,…，m. 式中，Xk 及Sk 分别是xk 的均值及标准差，x k*的均值为0、标准差为1.

主成分分析的原理是：

根据各样品原指标的观测值x ik 或标准化变换后的观测值x ik*求出系数

a ik (k=1,2,…,p,j=1,2,…,m ，m

建立用标准化变换后的指标x k*表示综合指标Fj 的方程

*xk akj Fj k ∑=，也可建立用原指标Xk 表示综合指标Fj 的方程*xk akj Fj k ∑=。

对系数a ik 由下列原则决定:

(1)各个综合指标Fj 彼此独立或不相关;

(2)各个综合指标Fj 所反映的各个样品的总信息等于原来p 个指标Xk*所反映的各个样品的总信息,即p 个Fj 的方差λj 之和等于p 个Xk*的方差之和,也就是

P

j j =∑λ且λ1≥λ 2 … ≥λP 。

称上述彼此独立或不相关又不损失或损失很少原有信息的各个综合指标。yj 为原指标 的主成分.其中,第一综合指标F1的方差最大，吸收原来p 个指标的总信息最多，称第一主成分；第二综合指标F2的方差次之，吸收原来p 个指标的总信息次之，称为第二主成分；同理，F3 F 4…Fp 分别称为第三主成分、第四主成分……第p 主成分。【9】

2.2 主成分分析能否旋转

2.2.1 主成分分析与因子分析的联系与区别

相当数量的应用文章对主成分分析与因子分析不加严格区分，因而对分析结果的解释非常模糊。文献【1】认为主成分分析与因子分析两者之间有联系，但也存在着明显的区别。

从联系上看，主成分分析和因子分析都是将多个相关变量（指标）转化为少数几个不相关变量的一种多元统计分析方法。其目的是使在高维空间中研究样本分布规律的问题，通过降维得到简化，并尽量保留原变量的信息量。两者都有消除相关、降维的功能。

主成分分析是通过变量变换把注意力集中到具有最大变差的那些主成分上，而视变量不

大的主成分为常数予以舍弃；因子分析是通过因子模型把注意力集中到少数不可观测的公共因子上，而舍弃特殊因子。主成分个数与公共因子个数的选择准则通常是相同的。

主成分分析中主成分向量Y 与原指标向量X 的表达式为X L Y T =,式中()p p ij l L .=；而

因子分析中的因子模型为ε+=AF X ,其中ε为特殊因子，

()0.m p ij a A =,当()0=εD 时，可采用主成分分析法估计A 阵，则ij j ij l a λ=。

对主成分分析中的主成分与因子分析中的公共因子的含义均需进行明确解释，否则，会遇到应用上的困难。

虽然主成分分析法与因子分析法有着密切的联系，但从应用上更需关注的是它们之间的区别。

1、 主成分分析的实质是P 维空间的坐标旋转，并不改变样本数据结构，不能作为模型来描述；因子分析的实质是P 维空间到M 维空间的一种映射，需构造模型。

2、 主成分的个数与原变量个数相等，而公因子的个数小于原变量的个数。

3、 主成分分析是把主成分表示为原变量的线性组合，因子分析是把原变量表示为公共因子和特殊因子的线性组合。

4、 主成分分析由可观测的变量X 直接求的主成分Y ，并可逆；因子分析只能通过可观测的原变量去估计不可观测的公共因子F ，不能用X 表示F 。

5、 主成分分析中的L 阵是唯一的正交阵；因子分析中的A 阵不唯一，也不一定是正交阵。

6、 主成分分析主要应用在综合评价和指标筛选上；因子分析除这两个作用以外，还可以应用于对样本或变量的分类。

2.2.2 能否对主成分实施旋转

对于主成分能否进行旋转这一问题，很多研究学者认为，当主成分不能很好解释综合评价结果时，可以像因子分析那样进行正交旋转，从而使主成分得到更好的解释。

关于主成分能否旋转的问题，文献【1】【4】【5】【7】【8】均做了论证，发现这种方法是不可行的。

论证具体如下：

主成分分析的实质是对原始指标变量进行线性变换，即F =XA ，其中

()p p ij a A .=

显然A 为正交矩阵，如果对主成分进行旋转，则有： T T T T A F

A FLL FA X ??=== 其中L 是正交矩阵。由于X 矩阵不变，其相关矩阵R 对应的特征根和单位特征向量也不

变，即说明矩阵A具有唯一性。由上式知：如果主成分能旋转则说明矩阵A不是唯一的。

从而我们可以得出：主成分不能进行旋转。

3.主成分分析的局限性

3.1.1第一主成分未必能用于综合评价

文献【8】通过论证指出，主成分贡献率的大小反映的是该主成分包含原始数据的信息量的大小，这种信息不一定指的是综合水平，也有可能指的是变量间的差异性。对于有些情况做综合评价，如一个班同学的综合排名，用于综合评价的需是水平因子，但只考虑第一主成分的话，得到的会是一个形状因子，所以在这种情况下，第一主成分贡献率再高，用于综合评价也是不合理的。

3.1.2 主成分分析标准化的不足

文献【2】【3】【7】等文献指出，原始数据保含两部分信息：一部分是个指标变异程度的差异信息；另一部分是个指标间相互影响程度上的相关信息。但在主成分分析过程中，为了消除指标纲量和数量级的影响往往对原始数据进行标准化：

j j

ij ij s x

x x -

=

，i =1，2，…，n；j =1,2,…,p

其中

∑

=

=

n

k

kj

ij

x

n

x

1

1

，

()2

1

2

1

1∑

=

-

-

=

n

k

j

ij

j

x

x

n

s

，j=1，2，…，p。

由此可以看出标准化使各指标的方差全为1，在消除量纲和数量级影响的同时，也消除了各指标变异程度上的差异信息。而从标准化后的数据提取的主成分，即从相关系数矩阵来计算主成分，实际上只包含了各指标间相互影响这一个方面的信息，所以不能准确反映原始数据所包含的全部信息。

3.1.3 “线性”相关度的不足

文献【3】指出，主成分分析只是一种“线性”降维技术，之梦处理线性问题：一方面主成分是原始指标的线性组合，另一方面对原始数据进行标准化处理，是协方差矩阵变成相关系数矩阵，而相关系数矩阵矩阵只能反映指标间的“线性”相关程度。

研究实际问题时，不仅指标见有非线性关系，有时主成分与原始数据之间也呈非线性关系，如果简单地进行先行处理，必然导致评价结果的偏差。

3.2关于主成分分析做综合评价的改进

3.2.1 可用于综合评价的主成分的条件

在用主成分分析做综合评价的改进时，对选择第一主成分还是多个主成分现在任有一定的分歧，就此问题许多学者都做了研究探讨【1】【7】【8】，过程如下：

当（Xi1，Xi2 ，…，Xip）>( Xk1 ,Xk2 ,…，Xkp)时，称第i个样本点优于第k个样

本点；

当（Xi1，Xi2 ，…，Xip ）≥( Xk1 ,Xk2 ,…，Xkp)时，称第i 个样本点不劣于第k 个样本点；若（Xi1，Xi2 ，…，Xip ）≥( Xk1 ,Xk2 ,…，Xkp)和( Xk1 ,Xk2 ,…，Xkp)≥（Xi1，Xi2 ，…，Xip ）同时成立，称第i 个样本点无异于第k 个样本点。

定义 若综合评价得分y 是有序的，当且仅当

yi ≥yk （其中yi 是第i 个样本点的综合得分 i =1,2,…,n ）时，有（Xi1，Xi2 ，…，Xip ）≥( Xk1 ,Xk2 ,…，Xkp)，否则称y 是无序的。

将y 改写成一般形式如下：???? ??==??????? ??=∑∑==p j j j j n j j j j n a t a X Xa t a y y y y 1121

上式中tj 可取-1,1或0（0表示不选择第j 个主成分），由上式得：综合评价得分y 对

应于指标Xi 的权数为

???? ??∑=p j ij j j a t a 1。由于各指标是正向指标，我们可以得到如下定理。 定理 综合评价得分y 是有序的，当且仅当

???? ??∑=p j ij j j a t a 1≥0，i=1,2,…,p 。 由上述推导可知，要想第一主成分能有效用于做综合评价，则按第一主成分做综合评价的得分值y 必须是有序的，当且仅当aij ≥0，j=1,2,…,p 。即第一主成分的系数均为正值时，第一主成分做综合评价的取值y 才是有序的，此时才可以用第一主成分做综合评价，否则不行。

类似地，还可以令ti =1，其它为0的情况，可得到第i 主成分有序的充要条件是aij ≥0，j=1,2,…,p 。

3.2.2均值法的应用

由于传统主成分分析无量纲化，即标准化处理会导致原始信息的丢失，许多学者就此思考了改进方法，并大多注意到了协方差举证能够完整的反映原始数据的信息；协方差矩阵的主对角线上的元素恰好为个指标的方差，而非主对角线上的元素则包含了各指标间的相关系数的信息。所以对数据的均值化处理【1-8】是大家普遍认同的一个对主成分分析较好的改进方法。

方法如下：

设有n 个被评价的对象，及p 个指标，原始数据为p

n ij x X ?=)(，各指标的均值为xi 均值化就是用各指标的原始数据除以相应的均值，即ij ij

ij x x y =,i =1,2,…,n ；j

=1,2,…,p 其中∑==n

k kj j x n x 11，j =1,2,…,p ，得到均值化数据矩阵()p n ij y Y ?=

设Y =（Y1 ，Y 2，…，Yp ）的协方差矩阵为U =(uij )p ×p,因为Y 中每个向量的均值为1，所以有：

()()

()()()()j i ij j i j kj n

k i ki j j n k i ki kj n k ki j kj n k i ki ij x x s x x x x x x n x x x x n y y n y y y y n u =---=???? ??-???? ??--=---=---=∑∑∑∑====1111111111111111

其中sij 为原始数据的协方差，i ,j =1,2,L,p.特别地()

2i ij ij x s u =，即均值化数据的协方差矩阵主对角线元素为各指标见变异系数的平方。

设均值化数据各指标的相关系数为*ij r ，则

ij jj ii ij jj ii ij

ij r s s s u u u r ===*，

其中ij r 为原始指标间的相关系数，由上可以得到：均值化不改变各指标间的相关系数， 相关系数矩阵的所有信息都在相应的协方差矩阵中得到了反映。

3.2.3 对原始数据的非线性化

根据主成分分析中“线性”相关度的缺点，文献【2】【3】提出了非线性主成分分析方法的一种——对数中心化，其基本方法是：

1、 对原始数据作中心对数化变换：

∑=-=p

l il yj ij x p x y 1log 1log

2、计算对数中心化的样本协方差矩阵()p p ij s S ?=

()()∑=---=n

l j lj i li ij y y y y n s 111

3、从S 出发求主成分

设λ1≥λ2≥… ≥λP 是S 的P 个特征根，a1,a2 ,… ,aP 是相应的标准化特征向量，则第i 个非线性主成分为∑==p j lj

lj l x a F 1log

从上述分析可知，非线性主成分分析与传统主成分分析相比有两处改进：一是通过对原始数据作对数中心化变换，将主成分表示为原始数据的非线性组合；二是分析的出发点是协方差矩阵，不再是相关系数矩阵。通过这两处的的改进，会明显提高降维效果，用更少的主成分更多的反映原始指标的信息。

4 结语

针对主成分分析在综合评价中的广泛应用中遇到的计算结论常与事实有所矛盾的问题，结合现行各类文献资料，整理归纳了主成分分析的传统方法在综合评价中的不足、不合理之处整理出了部分实验结果较好的改进方法，同时得出，在运用主成分分析进行综合评价时，应当根据原始数据情况做出及时合理的调整，采用适当的主成分或改进主成分传统分析中的不足之处，借此时主成分分析在综合评价应用中功能得到更大、更合理的发挥。

参考文献：

[1] 白雪梅,赵松山对主成分分析综合评价方法若干问题的探讨统计研究1995 第六期

[2] 高艳,于飞一种用于综合评价的主成分分析改进方法西安文理学院学报(自然科学版) 2011年1月第14卷第1期文章编号:1008 5564(2011)01 0105 04

[3] 叶双峰关于主成分分析做综合评价的改进数据统计与管理 2001年2期20卷

文章编号:1002-1566(2001)02-0052-04

[4] 林海明对主成分分析法运用中十个问题的解析理论新探

文章编号:1002-6487(2007)08-0016-03.

[5] 张鹏基于主成分分析的综合评价研究南京理工大学硕士论文 2004年6月

[6] 庞智强主成分分析能客观赋权吗？统计新论总第79期

[7] 余登榜改进的主成分分析在我国高校数学学科排名中的应用武汉科技大学硕士学位论文 2010年12月

[8] 洪素珍如何有效利用主成分华中师范大学硕士论文 2008年5 月

[9] 张文霖主成分分析在SPSS中的操作应用市场研究理论与方法2005年12月

[10] 张超陈秉赓计量地理学基础第二版高等教育出版社1991年

PCA主成分分析计算步骤

主成分分析（ Principal Component Analysis ， PCA ）是一种掌握事物主要矛盾的统计分析方法，它可以从多元事物中解析出主要影响因素，揭示事物的本质，简化复杂的问题。计算主成分的目的是将高维数据投影到较低维空间。给定 n 个变量的 m 个观察值，形成一个 n*m 的数据矩阵， n 通常比较大。对于一个由多个变量描述的复杂事物，人们难以认识，那么是否可以抓住事物主要方面进行重点分析呢？如果事物的主要方面刚好体现在几个主要变量上，我们只需要将这几个变量分离出来，进行详细分析。但是，在一般情况下，并不能直接找出这样的关键变量。这时我们可以用原有变量的线性组合来表示事物的主要方面， PCA 就是这样一种分析方法。 PCA 的目标是寻找 r （ r

基于主成分分析的经济发展水平综合评价

基于主成分分析的经济发展水平综合评价1 吴冲，王栋 哈尔滨工业大学管理学院，哈尔滨 (150001) E-mail：wuchong@https://www.wendangku.net/doc/c714297349.html, 摘要：衡量一个国家的经济发展程度，要从其社会生产的各个方面去考察，要看各项生产能力的综合效果。为了客观、科学地分析我国的经济发展状况，本文首次把居民消费价格指数和商品零售价格指数引入评价指标体系中，提出一种新的社会发展水平综合指标体系，并通过SPSS分析软件进行上机计算，应用主成分分析方法对我国31个省、直辖市、自治区（不包括香港、澳门和台湾）的经济发展水平进行综合分析和评价，突出了各大省市经济发展进程的特点和优势，为我国实现均衡发展提供理论依据。 关键词：主成分分析，经济发展，综合评价 1. 引言 要描述和评价一个社会的经济发展状况，最理想的是找到一个总括性社会指标体系评价方法，其测度结果能够反映社会经济发展的全部或大部分信息。20世纪60年代以来一些国际性组织、国家和地区的职能部门以及研究学者曾经提出各种不尽完全相同的指标体系评价方法[1]。我国系统地研究社会发展指标体系评价方法起步较晚，但发展很快，20世纪80年代以来，国内一些政府部门、研究单位和个人先后设计了一些“社会指标体系评价方法”[2-4]，如：唐晓东[5]采用了21个指标变量的函数模型来评价我国社会经济发展状况，然而此模型一个最大缺点，就是没有把所有反映经济情况的因素考虑在内，得不到预期效果。但到目前为止，还没有形成一套完善、客观的社会经济发展综合指标体系评价方法，为了更加全面、客观地反映我国各地区的社会发展水平，本文在借鉴国内外研究成果的基础上，通过对我国已有研究成果的修正和充实，首次把居民消费价格指数和商品零售价格指数引入评价指标体系中，提出一种新的社会发展水平综合指标体系。 在实际经济问题中，不同的经济变量之间具有一定的相关性，如职工平均工资和消费水平必然有一定的关联性，这样势必增加分析问题的复杂性，因此需要有一种进行简化的方法。主成分分析法可以用较少的指标来代替原来较多的指标，并使这些较少的指标尽可能地反映原来指标的信息，从根本上解决了指标间的信息重叠问题，又大大简化了原指标体系的指标结构，用主成分分析法分析经济发展水平的优势主要体现在: (1)全面性(消除评价指标的相互影响)，在满足n p f的条件下，不限制指标的个数，可以综合评价一国的经济发展状况，主成分分析的降维处理技术能较好地解决多指标评价的要求，在选择了() p个主成分后， m m p 仍能保留原是数据信息的85%以上，因此这一方法综合评价经济发展水平比较全面，可以克服片面追求个别经济指标而忽略全面经济发展指标的倾向；(2)可加性(数据标准化处理)，在综合评价经济发展水平时，所建立的评价指标量纲往往不同，变差不能直接综合，主成分分析法避免了此现象的发生，因为在计算过程中，主成分分析法把各个指标进行了标准化处理，这就使得各个经济指标之间具有可比性即可加性；(3)客观性(科学的确定权重)，在层次分析法计算过程中，通过专家打分来确定权重，也就是说在确定权重的问题上具有了人为因素，而主成分分析法在确定综合因子的权重时，克服了某些评价方法中人为确定权重的缺陷，使得综合评价结果唯一；(4)简单性(计算简介)，随着电子计算机技术的发展，SPSS、SAS等计 1本课题得到高校博士点基金(20050213037）资助。

主成分分析法总结

主成分分析法总结 在实际问题研究中，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。 因此，人们会很自然地想到，能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？ 一、概述 在处理信息时，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠，例如，高校科研状况评价中的立项课题数与项目经费、经费支出等之间会存在较高的相关性；学生综合评价研究中的专业基础课成绩与专业课成绩、获奖学金次数等之间也会存在较高的相关性。而变量之间信息的高度重叠和高度相关会给统计方法的应用带来许多障碍。 为了解决这些问题，最简单和最直接的解决方案是削减变量的个数，但这必然又会导致信息丢失和信息不完整等问题的产生。为此，人们希望探索一种更为有效的解决方法，它既能大大减少参与数据建模的变量个数，同时也不会造成信息的大量丢失。主成分分析正式这样一种能够有效降低变量维数，并已得到广泛应用的分析方法。 主成分分析以最少的信息丢失为前提，将众多的原有变量综合成较少几个综合指标，通常综合指标（主成分）有以下几个特点： ↓主成分个数远远少于原有变量的个数 原有变量综合成少数几个因子之后，因子将可以替代原有变量参与数据建模，这将大大减少分析过程中的计算工作量。 ↓主成分能够反映原有变量的绝大部分信息 因子并不是原有变量的简单取舍，而是原有变量重组后的结果，因此不会造成原有变量信息的大量丢失，并能够代表原有变量的绝大部分信息。 ↓主成分之间应该互不相关 通过主成分分析得出的新的综合指标（主成分）之间互不相关，因子参与数据建模能够有效地解决变量信息重叠、多重共线性等给分析应用带来的诸多问题。 ↓主成分具有命名解释性 总之，主成分分析法是研究如何以最少的信息丢失将众多原有变量浓缩成少数几个因子，如何使因子具有一定的命名解释性的多元统计分析方法。 主成分分析的具体步骤如下： （1）计算协方差矩阵 计算样品数据的协方差矩阵：Σ=(s ij )p ?p ，其中 1 1()() 1n ij ki i kj j k s x x x x n ==---∑i ，j=1，2，…，p （2）求出Σ的特征值 i λ及相应的正交化单位特征向量i a Σ的前m 个较大的特征值λ1≥λ2≥…λm>0,就是前m 个主成分对应的方差，i λ对应的单 位特征向量 i a 就是主成分Fi 的关于原变量的系数，则原变量的第i 个主成分Fi 为：

SPSS进行主成分分析的步骤(图文)精编版

主成分分析的操作过程 原始数据如下（部分） 调用因子分析模块（Analyze―Dimension Reduction―Factor），将需要参与分析的各个原始变量放入变量框，如下图所示：

单击Descriptives按钮，打开Descriptives次对话框，勾选KMO and Bartlett’s test of sphericity选项（Initial solution选项为系统默认勾选的，保持默认即可），如下图所示，然后点击Continue按钮，回到主对话框： 其他的次对话框都保持不变（此时在Extract次对话框中，SPSS已经默认将提取公因子的方法设置为主成分分析法），在主对话框中点OK按钮，执行因子分析，得到的主要结果如下面几张表。 ①KMO和Bartlett球形检验结果：

KMO为0.635>0.6，说明数据适合做因子分析；Bartlett球形检验的显著性P值为 0.000<0.05，亦说明数据适合做因子分析。 ②公因子方差表，其展示了变量的共同度，Extraction下面各个共同度的值都大于0.5，说明提取的主成分对于原始变量的解释程度比较高。本表在主成分分析中用处不大，此处列出来仅供参考。 ③总方差分解表如下表。由下表可以看出，提取了特征值大于1的两个主成分，两个主成分的方差贡献率分别是55.449%和29.771%，累积方差贡献率是85.220%；两个特征值分别是3.327和1.786。 ④因子截荷矩阵如下：

根据数理统计的相关知识，主成分分析的变换矩阵亦即主成分载荷矩阵U 与因子载荷矩阵A 以及特征值λ的数学关系如下面这个公式： λi i i A U = 故可以由这二者通过计算变量来求得主成分载荷矩阵U 。 新建一个SPSS 数据文件，将因子载荷矩阵中的各个载荷值复制进去，如下图所示： 计算变量（Transform-Compute Variables ）的公式分别如下二张图所示：

用主成分分析模型构造综合评价指数

用主成分分析模型构造中学考试综合评价指数 [摘要] 在中学考试的综合评价中，使用较多的指标进行描述使分析复杂化，难以对众多指标的影响作出正确的判断，需要少量几个“综合评价指标”。通过简单加权的合成方法，难以得到科学的结果。主成分分析是一种多元统计方法，可以将众多指标简化浓缩为少量几个甚至一个综合评价指标，使简化的指标既能基本包括全部指标具有的信息，又使指标之间相互无关，较好地解决了这一课题。 [关键词] 考试评价；主成分分析；数学模型；计算步骤，指数构造方法 一、问题的提出 在中学考试评价中，通常使用各学科的“平均分”、“优秀率”、“及格率”和“低分率”等指标。考虑到成绩的分布状况（“优秀率”与“及格率”之间的差距偏大，可能失去部分信息量），某些地区还使用了“良好率”指标。这样，k 个学科的考试评价的p 项指标将多达k ╳p 个。在对考试进行综合的评价时，使用较多的指标进行描述不仅会增加评价的工作量，而且会因评价指标间的相关性造成评价信息重叠，相互干扰，其结果使分析复杂化，难以对众多指标的影响作出正确的判断。因此，需要少数几个甚至一个“综合评价指标”来代替众多的且相互之间具有相关关系的指标，同时又需要不失去原有指标具有的信息量，这是考试评价中具有现实意义的课题。 某些地区采用一种“降维”的方法，较成功地把k ╳p 维指标降为p 维指标，即在使用“总分平均分”的同时，用“科平均╳╳率”取代各科的“╳╳率”（计算方法见备注1）。如何把p 维指标再合成为一个“综合评价指标”？采用一些简单加权的合成方法时，由于对各指标的影响不容易作出正确的定量化的判断，及权数产生的科学性等问题，往往难以得到令人信服的科学的结果。 主成分分析是一种多元统计方法，可以将众多指标简化浓缩为少数几个甚至一个综合评价指标，使简化的指标既能基本包括全部指标具有的信息，又使指标之间相互无关。较好地解决了这一课题。 二、主成分分析的数学模型 设有n 个样品，每个样品观测p 个指标（变量）：X 1，X 2，…，X p , 得到原始数据矩阵： 用数据矩阵X 的p 个列向量（即p 个指标向量）作线形组合（即综合指标向量）为： 上述方程组要求： 且系数αij 由下列原则决定： ①、F i 与F j （i ≠j ，i ，j =1，…，p ）不相关； ②、F 1是X 1，X 2，…，X p 的一切线性组合（系数满足上述方程组）中方差最大的，F 2是与F 1不相关的X 1，X 2，…，X p 的一切线性组合中方差最大的，…，F p 是是与F 1，F 2，…，F p-1都不相关的X 1，X 2，…，X p 的一切线性组合中方差最大的。 ?? ? ??? ? ???? ???=np n n p p x x x x x x x x x X 2122221 11211 ??? ?? ???????=ni i i i x x x X 2 1 ?? ???? ?+++=+++=+++=p pp p p p p p p p p X a X a X a F X a X a X a F X a X a X a F 22122221122122111111 2 2221=+++pi i i a a a

主成分分析法PCA的原理

主成分分析法原理简介 1.什么是主成分分析法 主成分分析也称主分量分析，是揭示大样本、多变量数据或样本之间内在关系的一种方法，旨在利用降维的思想，把多指标转化为少数几个综合指标，降低观测空间的维数，以获取最主要的信息。 在统计学中，主成分分析（principal components analysis, PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 2.主成分分析的基本思想 在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 对同一个体进行多项观察时必定涉及多个随机变量X1，X2，…，X p，它们之间都存在着相关性，一时难以综合。这时就需要借助主成分分析来概括诸多信息的主要方面。我们希望有一个或几个较好的综合指标来概括信息，而且希望综合指标互相独立地各代表某一方面的性质。

SPSS主成分分析操作步骤,详细的很啊^_^==

SPSS主成分分析操作步骤，详细的很啊^_^ SPSS在调用Factor Analyze过程进行分析时，SPSS会自动对原始数据进行标准化处理，所以在得到计算结果后指的变量都是指经过标准化处理后的变量，但SPSS不会直接给出标准化后的数据，如需要得到标准化数据，则需调用Descriptives过程进行计算。 图表 3 相关系数矩阵

图表 4 方差分解主成分提取分析表 主成分分析在SPSS中的操作应用(3) 图表 5 初始因子载荷矩阵

从图表3可知GDP与工业增加值，第三产业增加值、固定资产投资、基本建设投资、社会消费品零售总额、地方财政收入这几个指标存在着极其显著的关系，与海关出口总额存在着显著关系。可见许多变量之间直接的相关性比较强，证明他们存在信息上的重叠。 主成分个数提取原则为主成分对应的特征值大于1的前m个主成分。注：特征值在某种程度上可以被看成是表示主成分影响力度大小的指标，如果特征值小于1，说明该主成分的解释力度还不如直接引入一个原变量的平均解释力度大，因此一般可以用特征值大于1作为纳入标准。通过图表4（方差分解主成分提取分析）可知，提取2个主成分，即m=2，从图表5（初始因子载荷矩阵）可知GDP、工业增加值、第三产业增加值、固定资产投资、基本建设投资、社会消费品零售总额、海关出口总额、地方财政收入在第一主成分上有较高载荷，说明第一主成分基本反映了这些指标的信息；人均GDP和农业增加值指标在第二主成分上有较高载荷，说明第二主成分基本反映了人均GDP和农业增加值两个指标的信息。所以提取两个主成分是可以基本反映全部指标的信息，所以决定用两个新变量来代替原来的十个变量。但这两个新变量的表达还不能从输出窗口中直接得到，因为“Component Matrix”是指初始因子载荷矩阵，每一个载荷量表示主成分与对应变量的相关系数。用图表5（主成分载荷矩阵）中的数据除以主成分相对应的特征值开平方根便得到两个主成分中每个指标所对应的系数[2]。将初始因子载荷矩阵中的两列数据输入（可用复制粘贴的方法）到数据编辑窗口（为变量B1、B2），然后利用“TransformàCompute Variable”，在Compute Variable对话框中输入“A1=B1/SQR(7.22)” [注：第二主成分SQR后的括号中填1.235]，即可得到特征向量A1(见图表6)。同理，可得到特征向量A2。将得到的特征向量与标准化后的数据相乘，然后就可以得出主成分表达式[注：因本例只是为了说明如何在SPSS进行主成分分析，故在此不对提取的主成分进行命名，有兴趣的读者可自行命名]： F 1=0.353ZX 1 +0.042ZX 2 -0.041ZX 3 +0.364ZX 4 +0.367ZX 5 +0.366ZX 6 +0.352ZX 7 +0.364ZX 8+0.298ZX 9 +0.355ZX 10

主成分分析法的原理应用及计算步骤..

一、概述 在处理信息时，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠，例如，高校科研状况评价中的立项课题数与项目经费、经费支出等之间会存在较高的相关性；学生综合评价研究中的专业基础课成绩与专业课成绩、获奖学金次数等之间也会存在较高的相关性。而变量之间信息的高度重叠和高度相关会给统计方法的应用带来许多障碍。 为了解决这些问题，最简单和最直接的解决方案是削减变量的个数，但这必然又会导致信息丢失和信息不完整等问题的产生。为此，人们希望探索一种更为有效的解决方法，它既能大大减少参与数据建模的变量个数，同时也不会造成信息的大量丢失。主成分分析正式这样一种能够有效降低变量维数，并已得到广泛应用的分析方法。 主成分分析以最少的信息丢失为前提，将众多的原有变量综合成较少几个综合指标，通常综合指标（主成分）有以下几个特点： ↓主成分个数远远少于原有变量的个数 原有变量综合成少数几个因子之后，因子将可以替代原有变量参与数据建模，这将大大减少分析过程中的计算工作量。 ↓主成分能够反映原有变量的绝大部分信息 因子并不是原有变量的简单取舍，而是原有变量重组后的结果，因此不会造成原有变量信息的大量丢失，并能够代表原有变量的绝大部分信息。 ↓主成分之间应该互不相关 通过主成分分析得出的新的综合指标（主成分）之间互不相关，因子参与数据建模能够有效地解决变量信息重叠、多重共线性等给分析应用带来的诸多问题。 ↓主成分具有命名解释性 总之，主成分分析法是研究如何以最少的信息丢失将众多原有变量浓缩成少数几个因子，如何使因子具有一定的命名解释性的多元统计分析方法。 二、基本原理 主成分分析是数学上对数据降维的一种方法。其基本思想是设法将原来众多的具有一定相关性的指标X1，X2，…，XP （比如p 个指标），重新组合成一组较少个数的互不相关的综合指标Fm 来代替原来指标。那么综合指标应该如何去提取，使其既能最大程度的反映原变量Xp 所代表的信息，又能保证新指标之间保持相互无关（信息不重叠）。 设F1表示原变量的第一个线性组合所形成的主成分指标，即 11112121...p p F a X a X a X =+++,由数学知识可知，每一个主成分所提取的信息量可 用其方差来度量，其方差Var(F1)越大，表示F1包含的信息越多。常常希望第一主成分F1所含的信息量最大，因此在所有的线性组合中选取的F1应该是X1，X2，…，XP 的所有线性组合中方差最大的，故称F1为第一主成分。如果第一主成分不足以代表原来p 个指标的信息，再考虑选取第二个主成分指标F2，为有效地反映原信息，F1已有的信息就不需要再出现在F2中，即F2与F1要保持独立、不相关，用数学语言表达就是其协方差Cov(F1, F2)=0，所以F2是与F1不

如何有效利用主成分分析进行综合评价

如何有效利用主成分分析进行综合评价 摘要：由于主成分分析在多元统计分析中的降维作用，使之在社会、经济、医疗、生化等 各领域运用越来越广泛，但由于传统主成分分析方法的局限性导致了一些问题的产生。这些 问题吸引了许多领域专家的关注，并具有针对性的提出了一些不同的改进方法。本文介绍了 主成分分析的基本和性质，并整理了近年来主成分分析在综合评价应用中遇到的普遍问题并整理验证了认同率较强的一些改进方法，以供大家研究学习。 关键词：主成分分析；综合评价；均值化 1引言 1.1研究的背景和意义 随着生产力的不断进步，生产方式由外延式扩张转化为追求经济效益的内涵式发展，以 致在生产过程中必须考虑经济效益的各个方面，如生产力水平、技术进步、资源占用等情况， 并需要就综合各方面的因素进行综合评价。 评价是根据确定的目的来测定对象系统的属性，并将这种属性变为客观定量的计值或者主观效用行为，整个过程离不开评价者的参与，而综合评价作为评价的一种也需要评价者做出相应反应或指示，而很多综合评价过程易受到评价者的干预，使评价结果产生偏差。 主成分分析能将高维空间的问题转化到低维空间去处理【9】，使问题变得比较简单、直 观，而且这些较少的综合指标之间互不相关，又能提供原有指标的绝大部分信息。而且，伴 随主成分分析的过程，将会自动生成各主成分的权重，这就在很大程度上抵制了在评价过程 中人为因素的干扰，因此以主成分为基础的综合评价理论能够较好地保证评价结果的客观性，如实地反映实际问题。主成分综合评价提供了科学而客观的评价方法，完善了综合评价 理论体系，为管理和决策提供了客观依据，能在很大程度上减少了上述不良现象的产生。 所以在社会经济、管理、自然科学等众多领域的多指标体系中，如节约型社会指标体系、生态环境可持续型指标体系、和谐社会指标体系、投资环境指标体系等，主成分分析法常被应用于综合评价与监控【6】。 综上所述，对综合评价指标体系理论进行研究，既有理论上的必要性，更有实践中的迫 切性。 1.2研究的发展史

主成分分析计算方法和步骤

主成分分析计算方法和步骤： 在对某一事物或现象进行实证研究时,为了充分反映被研究对象个体之间的差异, 研究者往往要考虑增加测量指标,这样就会增加研究问题的负载程度。但由于各指标都是对同一问题的反映,会造成信息的重叠,引起变量之间的共线性,因此,在多指标的数据分析中,如何压缩指标个数、压缩后的指标能否充分反映个体之间的差异,成为研究者关心的问题。而主成分分析法可以很好地解决这一问题。 主成分分析的应用目的可以简单地归结为: 数据的压缩、数据的解释。它常被用来寻找和判断某种事物或现象的综合指标,并且对综合指标所包含的信息给予适当的解释, 从而更加深刻地揭示事物的内在规律。 主成分分析的基本步骤分为: ①对原始指标进行标准化,以消除变量在数量极或量纲上的影响;②根据标准化后的数据矩阵求出相关系数矩阵 R; ③求出 R 矩阵的特征根和特征向量; ④确定主成分,结合专业知识对各主成分所蕴含的信息给予适当的解释;⑤合成主成分,得到综合评价值。 结合数据进行分析 本题分析的是全国各个省市高校绩效评价，利用全国2014年的相关统计数据(见附录)，从相关的指标数据我们无法直接评价我国各省市的高等教育绩效，而通过表5-6的相关系数矩阵，可以看到许多的变量之间的相关性很高。如：招生人数与教职工人数之间具有较强的相关性，教育投入经费和招生人数也具有较强的相关性，教工人数与本科院校数之间的相关系数最高，到达了0.963，而各组成成分之间的相关性都很高，这也充分说明了主成分分析的必要性。 表5-6 相关系数矩阵 本科院校 数招生人数教育经费投入 相关性师生比0.279 0.329 0.252 重点高校数0.345 0.204 0.310 教工人数0.963 0.954 0.896 本科院校数 1.000 0.938 0.881 招生人数0.938 1.000 0.893 教育经费投 0.881 0.893 1.000 入

主成分分析法介绍(高等教育)

主成分分析方法 我们进行系统分析评估或医学上因子分析等时，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，我们就会很自然地想到，能否在各个变量之间相关关系研究的基础上，用较少的新变量代替原来较多的变量，而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上，这种想法是可以实现的，本节拟介绍的主成分分析方法就是综合处理这种问题的一种强有力的方法。 第一节 主成分分析方法的原理 主成分分析是把原来多个变量化为少数几个综合指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。假定有n 样本，每个样本共有p 个变量描述，这样就构成了一个n×p 阶的数据矩阵： 111212122212.....................p p n n np x x x x x x X x x x ?? ? ?= ? ? ??? (1)

如何从这么多变量的数据中抓住事物的内在规律性呢？要解决这一问题，自然要在p 维空间中加以考察，这是比较麻烦的。为了克服这一困难，就需要进行降维处理，即用较少的几个综合指标来代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多指标所反映的信息，同时它们之间又是彼此独立的。那么，这些综合指标（即新变量)应如何选取呢？显然，其最简单的形式就是取原来变量指标的线性组合，适当调整组合系数，使新的变量指标之间相互独立且代表性最好。 如果记原来的变量指标为p x x x ,,21 ，它们的综合指标——新变量指标为 21,z z ，m z （m≤p)。则 )2.........(..........22112222121212121111??? ??? ?+++=+++=+++=p mp m m m p p p p x l x l x l z x l x l x l z x l x l x l z 在（2)式中，系数l ij 由下列原则来决定： （1)z i 与 z j （i≠j；i ，j=1，2，…，m)相互无关； （2)z 1是x 1，x 2，…，x p 的一切线性组合中方差最大者；z 2是与z 1不相关的x 1，x 2，…，x p 的所有线性组合中方差最大者；……；z m 是与z 1，z 2，……z m-1都不相关的x 1，x 2，…，x p 的所有线性组合中方差最大者。

SPSS进行主成分分析报告地步骤(图文)

主成分分析の操作過程 原始數據如下（部分） 調用因子分析模塊（Analyze―Dimension Reduction―Factor），將需要參與分析の各個原始變量放入變量框，如下圖所示：

單擊Descriptives按鈕，打開Descriptives次對話框，勾選KMO and Bartlett’s test of sphericity選項（Initial solution選項為系統默認勾選の，保持默認即可），如下圖所示，然後點擊Continue按鈕，回到主對話框： 其他の次對話框都保持不變（此時在Extract次對話框中，SPSS已經默認將提取公因子の方法設置為主成分分析法），在主對話框中點OK按鈕，執行因子分析，得到の主要結果如下面幾張表。 ①KMO和Bartlett球形檢驗結果：

KMO為0.635>0.6，說明數據適合做因子分析；Bartlett球形檢驗の顯著性P值為0.000<0.05，亦說明數據適合做因子分析。 ②公因子方差表，其展示了變量の共同度，Extraction下面各個共同度の值都大於0.5，說明提取の主成分對於原始變量の解釋程度比較高。本表在主成分分析中用處不大，此處列出來僅供參考。 ③總方差分解表如下表。由下表可以看出，提取了特征值大於1の兩個主成分，兩個主成分の方差貢獻率分別是55.449%和29.771%，累積方差貢獻率是85.220%；兩個特征值分別是3.327和1.786。 ④因子截荷矩陣如下：

根據數理統計の相關知識，主成分分析の變換矩陣亦即主成分載荷矩陣U 與因子載荷矩陣A 以及特征值λの數學關系如下面這個公式： λ i i i A U = 故可以由這二者通過計算變量來求得主成分載荷矩陣U 。 新建一個SPSS 數據文件，將因子載荷矩陣中の各個載荷值複制進去，如下圖所示： 計算變量（Transform-Compute Variables ）の公式分別如下二張圖所示：

主成分分析的计算步骤

主成分分析的计算步骤 样本观测数据矩阵为： ??????? ??=np n n p p x x x x x x x x x X 21 2222111211 第一步：对原始数据进行标准化处理 )var(*j j ij ij x x x x -= ),,2,1;,,2,1(p j n i == 其中 ∑==n i ij j x n x 1 1 21 )(11)var(j n i ij j x x n x --=∑= ),,2,1(p j = 第二步：计算样本相关系数矩阵 ?????? ????????=pp p p p p r r r r r r r r r R 212222111211 为方便，假定原始数据标准化后仍用X 表示，则经标准化处理后的数据的相关系数为: tj n t ti ij x x n r ∑=-=1 11 ),,2,1,(p j i = 第三步：用雅克比方法求相关系数矩阵R 的特征值（p λλλ 21,）和相应的特征向量()p i a a a a ip i i i 2,1,,,21==。 第四步：选择重要的主成分，并写出主成分表达式 主成分分析可以得到p 个主成分，但是，由于各个主成分的方差是递减的，包含的信息量也是递减的，所以实际分析时，一般不是选取p 个主成分，而是根据各个主成分累计贡献率的大小选取前k 个主成分，这里贡献率就是指某个主成分的方差占全部方差的比重，

实际也就是某个特征值占全部特征值合计的比重。即 贡献率=∑=p i i i 1λ λ 贡献率越大，说明该主成分所包含的原始变量的信息越强。主成分个数k 的选取，主要根据主成分的累积贡献率来决定，即一般要求累计贡献率达到85%以上，这样才能保证综合变量能包括原始变量的绝大多数信息。 另外，在实际应用中，选择了重要的主成分后，还要注意主成分实际含义解释。主成分分析中一个很关键的问题是如何给主成分赋予新的意义，给出合理的解释。一般而言，这个解释是根据主成分表达式的系数结合定性分析来进行的。主成分是原来变量的线性组合，在这个线性组合中个变量的系数有大有小，有正有负，有的大小相当，因而不能简单地认为这个主成分是某个原变量的属性的作用，线性组合中各变量系数的绝对值大者表明该主成分主要综合了绝对值大的变量，有几个变量系数大小相当时，应认为这一主成分是这几个变量的总和，这几个变量综合在一起应赋予怎样的实际意义，这要结合具体实际问题和专业，给出恰当的解释，进而才能达到深刻分析的目的。 第五步：计算主成分得分 根据标准化的原始数据，按照各个样品，分别代入主成分表达式，就可以得到各主成分下的各个样品的新数据，即为主成分得分。具体形式可如下。 ?????? ? ??nk n n k k F F F F F F F F F 212222111211 第六步：依据主成分得分的数据，则可以进行进一步的统计分析 其中，常见的应用有主成份回归，变量子集合的选择，综合评价等。

主成分分析法介绍教学文稿

主成分分析法介绍

主成分分析方法 我们进行系统分析评估或医学上因子分析等时，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，我们就会很自然地想到，能否在各个变量之间相关关系研究的基础上，用较少的新变量代替原来较多的变量，而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上，这种想法是可以实现的，本节拟介绍的主成分分析方法就是综合处理这种问题的一种强有力的方法。 第一节 主成分分析方法的原理 主成分分析是把原来多个变量化为少数几个综合指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。假定有n 样本，每个样本共有p 个变量描述，这样就构成了一个n×p 阶的数据矩阵： 11121212221 2 .....................p p n n np x x x x x x X x x x ?? ? ? = ? ? ??? (1)

如何从这么多变量的数据中抓住事物的内在规律性呢？要解决这一问题，自然要在p 维空间中加以考察，这是比较麻烦的。为了克服这一困难，就需要进行降维处理，即用较少的几个综合指标来代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多指标所反映的信息，同时它们之间又是彼此独立的。那么，这些综合指标（即新变量)应如何选取呢？显然，其最简单的形式就是取原来变量指标的线性组合，适当调整组合系数，使新的变量指标之间相互独立且代表性最好。 如果记原来的变量指标为p x x x ,,21 ，它们的综合指标——新变量指标为 21,z z ，m z （m≤p)。则 )2.........(..........22112222121212121111??? ?? ? ?+++=+++=+++=p mp m m m p p p p x l x l x l z x l x l x l z x l x l x l z 在（2)式中，系数l ij 由下列原则来决定： （1)z i 与 z j （i≠j；i ，j=1，2，…，m)相互无关； （2)z 1是x 1，x 2，…，x p 的一切线性组合中方差最大者；z 2是与z 1不相关的x 1，x 2，…，x p 的所有线性组合中方差最大者；……；z m 是与z 1，z 2，……z m-1都

主成分进行综合评价 综合评价主成分分析方法与因子分析方法的比较

主成分进行综合评价综合评价主成分分析方法 与因子分析方法的比较 统计研究 主成分分析方法和因子分析方法都是寻求从高维空间到低维空间的映射的方法，其目的是起到降维的效果，以便于用几个较少的综合指标来综合所研究总体各方面的信息，且这几个指标所代表的信息不重叠，也就是说从高维空间到低维空间的映射仍保持高维空间的“序”的结构。但这两种综合评价方法往往易混淆，本文从这两种方法的统计依据、数学模型、计算方法、综合指标的选取等方面比较它们的异同，以供初学者参考。 １、统计依据不同。主成分分析方法的统计问题：依Ｐ个指标戈ｌ，ｘ２，Ａ，戈Ｐ的／７，个观察值矩阵Ｘ＝Ｇ０帅，能否找到能较好地综合反映这个Ｐ 、二 指标的线性函数Ｙ＝乞ａｔｘｔ，即 ｉ＝１ 找到这个主成分的方法就是主成分分析方法。 因子分析方法的统计问题仍 口由Ｐ个指标戈。，戈：，Ａ，却的几个观钱道察信息阵Ｘ＝ＧＦ）忡，用有限个不翠

可观测的潜在变量来解释原始变量间的相关性或协方差关系，寻求这几个公因子的方法就是因子缉含汗价士气分析劣珐乡图分奸劣珐的火仪 分析法。它的原理源于已知信息的指标向量戈＝０。，戈：，Ａ，菇Ｐ）’，总存在正交变换戈＝Ｑｙ使得记ｘ＝Ａｚ，这里正交阵Ｑ是Ｘ＝Ｇ０。巾的 协方差阵ｙ的特征向量排成的，ｙ的各分量是不相关的，若茹的方差集中在少数几个变量三，，Ａ，缸上，即ｙ的特征值Ａ，，Ａ，Ａ。较大，后几个特征值Ａ㈨，Ａ，Ａ。很小几乎为零，于是就有因子模型算＝４厂＋ｓ。寻求公因子、厂及因子载荷阵Ａ的方法就是因子分析法。 ， ２、数学模型不同。主成分分析的数学模型：Ｙ＝Ｅａｔ、、ｒｉ， １＝１ 即主成分是原始指标的线性函数。因子分析的数学模型：戈＝４厂＋￡，Ａ为因子载荷阵。厂为公因子向量，￡为随机误差项，Ｖｎｒｏｑ＝Ｉ。，Ｖａｒ＝ｏ，Ｖａｒ Ｉ３０圈羹堑绻过丝Ｑ丝生皇塑万 方数据＝Ｄ。从形式上看二者的模型不同，但主成分分析又为因子分析中因子的寻求提供了一个有效的途径。主成分分析与因子分析法最易混淆的地方在于，将主成分分析方法与因子分析

主成分分析法概念及例题

主成分分析法 主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法 目录 [显示] 1 什么是主成分分析法 2 主成分分析的基本思想 3 主成分分析法的基本原理 4 主成分分析的主要作用 5 主成分分析法的计算步骤 6 主成分分析法的应用分析 o案例一：主成分分析法在啤酒风味评价分析中的应用[1] 1 材料与方法 2 主成分分析法的基本原理 3 主成分分析法在啤酒质量一致性评价中的应用 4 结论 7 参考文献 [编辑] 什么是主成分分析法 主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。 在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 [编辑] 主成分分析的基本思想

在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 同样，在科普效果评估的过程中也存在着这样的问题。科普效果是很难具体量化的。在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。如上所述，主成分分析法正是解决这一问题的理想工具。因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。这样，综合指标不仅保留了原始变量的主要信息，且彼此间不相关，又比原始变量具有某些更优越的性质，就使我们在研究复杂的科普效果评估问题时，容易抓住主要矛盾。上述想法可进一步概述为：设某科普效果评估要素涉及个指标，这指标构成的维随机向量为。对作正交变换，令，其中为正交阵，的各分量是不相关的，使得的各分量在某个评估要素中的作用容易解释，这就使得我们有可能从主分量中选择主要成分，削除对这一要素影响微弱的部分，通过对主分量的重点分析，达到对原始变量进行分析的目的。的各分量是原始变量线性组合，不同的分量表示原始变量之间不同的影响关系。由于这些基本关系很可能与特定的作用过程相联系，主成分分析使我们能从错综复杂的科普评估要素的众多指标中，找出一些主要成分，以便有效地利用大量统计数据，进行科普效果评估分析，使我们在研究科普效果评估问题中，可能得到深层次的一些启发，把科普效果评估研究引向深入。 例如，在对科普产品开发和利用这一要素的评估中，涉及科普创作人数百万人、科普作品发行量百万人、科普产业化（科普示范基地数百万人）等多项指标。经过主成分分析计算，最后确定个或个主成分作为综合评价科普产品利用和开发的综合指标，变量数减少，并达到一定的可信度，就容易进行科普效果的评估。 [编辑] 主成分分析法的基本原理 主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。 [编辑] 主成分分析的主要作用

主成分分析在STATA中的实现以及理论介绍

主成分分析在S T A T A 中的实现以及理论介绍 文件编码（TTU-UITID-GGBKT-POIU-WUUI-0089）

第十二章 主成分分析 主成分分分析也称作主分量分析，是霍特林(Hotelling)在1933年首先提出。主成分分析是利用降维的思想，在损失较少信息的前提下把多个指标转化为较少的综合指标。转化生成的综合指标即称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分互不相关。Stata 对主成分分析的主要内容包括：主成分估计、主成分分析的恰当性（包括负偏协方差矩阵和负偏相关系数矩阵、KMO(Kaiser-Meyer-Olkin)抽样充分性、复相关系数、共同度等指标测度）、主成分的旋转、预测、各种检验、碎石图、得分图、载荷图等。 p j n i b a y ij j i ij ,,2,1,,2,1,' ==+=ε 主成分的模型表达式为： p p j i i i i diag v v v v i p V V C λλλλλλλ≥≥≥=∧='' ==∧=∑ 2121),,,,(0 1 其中，a 称为得分，b 称为载荷。主成分分析主要的分析方法是对相关系数矩阵（或协方差矩阵）进行特征值分析。

Stata中可以通过负偏相关系数矩阵、负相关系数平方和KMO值对主成分分析的恰当性进行分析。负偏相关系数矩阵即变量之间两两偏相关系数的负数。非对角线元素则为负的偏相关系数。如果变量之间存在较强的共性，则偏相关系数比较低。因此，如果矩阵中偏相关系数较高的个数比较多，说明某一些变量与另外一些变量的相关性比较低，主成分模型可能不适用。这时，主成分分析不能得到很好的数据约化效果。 Kaiser-Meyer-Olkin抽样充分性测度也是用于测量变量之间相关关系的强弱的重要指标，是通过比较两个变量的相关系数与偏相关系数得到的。KMO介于0于1之间。KMO越高，表明变量的共性越强。如果偏相关系数相对于相关系数比较高，则KMO比较低，主成分分析不能起到很好的数据约化效果。根据Kaiser（1974），一般的判断标准如下：不能接受（unacceptable）;非常差（miserable）；，勉强接受（mediocre）；可以接受（middling）；，比较好（meritorious）；非常好（marvelous）。 SMC即一个变量与其他所有变量的复相关系数的平方，也就是复回归方程的可决系数。SMC比较高表明变量的线性关系越强，共性越强，主成分分析就越合适。