主成分分析计算方法和步骤:
在对某一事物或现象进行实证研究时, 为了充分反映被研究对象个体之间的差异, 研究者往往要考虑 增加测量指标, 这样就会增加研究问题的负载程度。但由于各指标都 是对同一问题的反映, 会造成信息的重叠, 引起变量之间的共线性, 因此, 在多指标的数 据分析中, 如何压缩指标个数、压缩后的指标能否充分 反映个体之间的差异, 成为研究 者关心的问题。而主成分分析法可以很好地解决这一问题。
主成分分析的应用目 的可以简单地归结为: 数据的压缩、数据的解释。它常被用来寻 找和判断某种事物或现象的综合指标, 并 且对综合指标所包含的信息给予适当的解释, 从而更加深刻地揭示事物的内在规律。
主成分分析的基本步骤分为: ①对原始指标进行标准化, 以消除变量在数量极或量 纲上的影响; ②根据标准化后的数据矩阵求出相关系数矩阵 R; ③求出 R 矩阵的特征 根和特征向量; ④确定主成分, 结合专 业知识对各主成分所蕴含的信息给予适当的解 释; ⑤合成主成分, 得到综合评价值。
结合数据进行分析
本题分析的是全国各个省市高校绩效评价,利用全国2014年的相关统计数据(见附录) ,从相关的指标数据我们无法直接评价我国各省市的高等教育绩效,而通过表5-6的相关系数矩阵,可以看到许多的变量之间的相关性很高。如:招生人数与教职工人数之间具有较强的相关性,教育投入经费和招生人数也具有较强的相关性,教工人数与本科院校数之间的相关系数最高,到达了0.963,而各组成成分之间的相关性都很高,这也充分说明了主成分分析的必要性。 表5-6相关系数矩阵
相关性 本科院校数 招生人数 教育经费投入 师生比 重点高校数 教工人数 本科院校数 招生人数 教育经费投
入
表5-7给出的是各主成分的方差贡献率和累计贡献率,我们选取主成分的标准有两个:第一,特征根大于1,因为,如果特征根小于1,说明该主成分的解释力度太弱,还比不上直接引入一个原始变量的平均解释力度大;第二,方差贡献率大于85%,如果这两个标准不能同时符合要求, 则往往是因为选择的指标不合理或者样本容量太小, 应继续调整。表5-7还显示,只有前2个特征根大于1,因此SPSS 只提取了前两个主成分,而这两个主成分的方差贡献率达到了87.081%,因此选取前两个主成分已经能够很好地描述我国高等教育地区现状。
可以看出, 标准化后的第一主成分( 简称F 1) 对所有变量都有载荷, 且载荷绝对值几乎都在0.7以上, 因此可以说第一主成分是对人口结构的度量, 代表了一个地区人口结构状况, 可以称之为“综合因子”。在综合因子中, 平均每户人口,农业与非农业人口比例, 人口的自然增长率比重即 人口自然增长各指标具有较强的作用, 人与经济等其他指标所起的作用次之, 男女比例也起一定作用。第二主成分( 简称 F 2) 对重点高校数和教工人数具有负载荷, 其他变量具有正载荷, 并且除 师生比和重点高校数载荷绝对值均小于0.2, 有的甚至 接近于 0.1。因此, 第二个主成分只是汇集了第一主成分遗漏的部分信息, 我们称之为“辅助 因子”。
表5-8主成分矩阵
成分
师生比
重点高校数教工人数
本科院校数招生人数
教育经费投
入
F 1 F 2
表5-9 主成分评分系数矩阵
成分
师生比
重点高校数教工人数
本科院校数招生人数
教育经费投
入
根据表5-9可以得到各主成分的表达式 F 1 .079 .099 .247 .244 .242 .236 F 2 .643 -.612 -.077 .004 .106 .009
F 1=0.079x 1+0.099x 2+0.247x 3+0.244x 4+0.242x 5+0.236x 6
F 2=0.643x 1-0.612x 2-0.077x 3+0.004x 4+0.106x 5+0.009x 6
把变量分别代入以上表达式,可以得出F 1和F 2两个主成分得分,但单独一个主成分不能很好地评价十个地区人口结构的情况,因此需要按照各主成分对应的方
0.6639F 1+0.20691F 2差贡献率为权数计算综合统计F ,(F =) 0.87081
主成分分析法的优点:
1、 可消除评价指标之间的相关影响 因为主成分分析在对原指标变量进行变换后形成了彼此相互独立的主成分,而且实践证明指标之间相关程度越高,主成分分析效果越好。 2、 可减少指标选择的工作量 对于其它评价方法,由于难以消除评价指标间的相关影响,所以选择指标时要花费不少精力,而主成分分析由于可以消除这种相关影响,所以在指标选择上相对容易些。 3、 当评级指标较多时还可以在保留绝大部分信息的情况下用少数几个综合指标代替原指 标进行分析 主成分分析中各主成分是按方差大小依次排列顺序的,在分析问题时,可以舍弃一部分主成分,只取前后方差较大的几个主成分来代表原变量,从而减少了计算工作量。 4、 在综合评价函数中,各主成分的权数为其贡献率,它反映了该主成分包含原始数据的信 息量占全部信息量的比重,这样确定权数是客观的、合理的,它克服了某些评价方法中认为确定权数的缺陷。 5、 这种方法的计算比较规范,便于在计算机上实现,还可以利用专门的软件
主成分分析法的缺点:
1、在主成分分析中,我们首先应保证所提取的前几个主成分的累计贡献率达到
一个较高的水平(即变量降维后的信息量须保持在一个较高水平上),其次对这些被提取的主成分必须都能够给出符合实际背景和意义的解释(否则主成分将空有信息量而无实际含义)。
2、主成分的解释其含义一般多少带有点模糊性,不像原始变量的含义那么清楚、确切,这是变量降维过程中不得不付出的代价。因此,提取的主成分个数m 通常应明显小于原始变量个数p (除非p 本身较小),否则维数降低的“利”可能抵不过主成分含义不如原始变量清楚的“弊”。
主成分分析计算方法和步骤:
在对某一事物或现象进行实证研究时, 为了充分反映被研究对象个体之间的差异, 研究者往往要考虑 增加测量指标, 这样就会增加研究问题的负载程度。但由于各指标都 是对同一问题的反映, 会造成信息的重叠, 引起变量之间的共线性, 因此, 在多指标的数 据分析中, 如何压缩指标个数、压缩后的指标能否充分 反映个体之间的差异, 成为研究 者关心的问题。而主成分分析法可以很好地解决这一问题。
主成分分析的应用目 的可以简单地归结为: 数据的压缩、数据的解释。它常被用来寻 找和判断某种事物或现象的综合指标, 并 且对综合指标所包含的信息给予适当的解释, 从而更加深刻地揭示事物的内在规律。
主成分分析的基本步骤分为: ①对原始指标进行标准化, 以消除变量在数量极或量 纲上的影响; ②根据标准化后的数据矩阵求出相关系数矩阵 R; ③求出 R 矩阵的特征 根和特征向量; ④确定主成分, 结合专 业知识对各主成分所蕴含的信息给予适当的解 释; ⑤合成主成分, 得到综合评价值。
结合数据进行分析
本题分析的是全国各个省市高校绩效评价,利用全国2014年的相关统计数据(见附录) ,从相关的指标数据我们无法直接评价我国各省市的高等教育绩效,而通过表5-6的相关系数矩阵,可以看到许多的变量之间的相关性很高。如:招生人数与教职工人数之间具有较强的相关性,教育投入经费和招生人数也具有较强的相关性,教工人数与本科院校数之间的相关系数最高,到达了0.963,而各组成成分之间的相关性都很高,这也充分说明了主成分分析的必要性。 表5-6相关系数矩阵
相关性 本科院校数 招生人数 教育经费投入 师生比 重点高校数 教工人数 本科院校数 招生人数 教育经费投
入
表5-7给出的是各主成分的方差贡献率和累计贡献率,我们选取主成分的标准有两个:第一,特征根大于1,因为,如果特征根小于1,说明该主成分的解释力度太弱,还比不上直接引入一个原始变量的平均解释力度大;第二,方差贡献率大于85%,如果这两个标准不能同时符合要求, 则往往是因为选择的指标不合理或者样本容量太小, 应继续调整。表5-7还显示,只有前2个特征根大于1,因此SPSS 只提取了前两个主成分,而这两个主成分的方差贡献率达到了87.081%,因此选取前两个主成分已经能够很好地描述我国高等教育地区现状。
可以看出, 标准化后的第一主成分( 简称F 1) 对所有变量都有载荷, 且载荷绝对值几乎都在0.7以上, 因此可以说第一主成分是对人口结构的度量, 代表了一个地区人口结构状况, 可以称之为“综合因子”。在综合因子中, 平均每户人口,农业与非农业人口比例, 人口的自然增长率比重即 人口自然增长各指标具有较强的作用, 人与经济等其他指标所起的作用次之, 男女比例也起一定作用。第二主成分( 简称 F 2) 对重点高校数和教工人数具有负载荷, 其他变量具有正载荷, 并且除 师生比和重点高校数载荷绝对值均小于0.2, 有的甚至 接近于 0.1。因此, 第二个主成分只是汇集了第一主成分遗漏的部分信息, 我们称之为“辅助 因子”。
表5-8主成分矩阵
成分
师生比
重点高校数教工人数
本科院校数招生人数
教育经费投
入
F 1 F 2
表5-9 主成分评分系数矩阵
成分
师生比
重点高校数教工人数
本科院校数招生人数
教育经费投
入
根据表5-9可以得到各主成分的表达式 F 1 .079 .099 .247 .244 .242 .236 F 2 .643 -.612 -.077 .004 .106 .009
F 1=0.079x 1+0.099x 2+0.247x 3+0.244x 4+0.242x 5+0.236x 6
F 2=0.643x 1-0.612x 2-0.077x 3+0.004x 4+0.106x 5+0.009x 6
把变量分别代入以上表达式,可以得出F 1和F 2两个主成分得分,但单独一个主成分不能很好地评价十个地区人口结构的情况,因此需要按照各主成分对应的方
0.6639F 1+0.20691F 2差贡献率为权数计算综合统计F ,(F =) 0.87081
主成分分析法的优点:
1、 可消除评价指标之间的相关影响 因为主成分分析在对原指标变量进行变换后形成了彼此相互独立的主成分,而且实践证明指标之间相关程度越高,主成分分析效果越好。 2、 可减少指标选择的工作量 对于其它评价方法,由于难以消除评价指标间的相关影响,所以选择指标时要花费不少精力,而主成分分析由于可以消除这种相关影响,所以在指标选择上相对容易些。 3、 当评级指标较多时还可以在保留绝大部分信息的情况下用少数几个综合指标代替原指 标进行分析 主成分分析中各主成分是按方差大小依次排列顺序的,在分析问题时,可以舍弃一部分主成分,只取前后方差较大的几个主成分来代表原变量,从而减少了计算工作量。 4、 在综合评价函数中,各主成分的权数为其贡献率,它反映了该主成分包含原始数据的信 息量占全部信息量的比重,这样确定权数是客观的、合理的,它克服了某些评价方法中认为确定权数的缺陷。 5、 这种方法的计算比较规范,便于在计算机上实现,还可以利用专门的软件
主成分分析法的缺点:
1、在主成分分析中,我们首先应保证所提取的前几个主成分的累计贡献率达到
一个较高的水平(即变量降维后的信息量须保持在一个较高水平上),其次对这些被提取的主成分必须都能够给出符合实际背景和意义的解释(否则主成分将空有信息量而无实际含义)。
2、主成分的解释其含义一般多少带有点模糊性,不像原始变量的含义那么清楚、确切,这是变量降维过程中不得不付出的代价。因此,提取的主成分个数m 通常应明显小于原始变量个数p (除非p 本身较小),否则维数降低的“利”可能抵不过主成分含义不如原始变量清楚的“弊”。