系统聚类分析方法
聚类分析是研究多要素事物分类问题的数量方法。基本原理是根据样本自身的属性，用数学方法按照某种相似性或差异性指标，定量地确定样本之间的亲疏关系，并按这种亲疏关系程度对样本进行聚类。
常见的聚类分析方法有系统聚类法、动态聚类法和模糊聚类法等。
1. 聚类要素的数据处理
假设有m 个聚类的对象，每一个聚类对象都有 个要素构成。它们所对应的要素数据可用 表3.4.1给出。（点击显示该表） 在聚类分析中，常用的聚类要素的数据处理方法有如下几种。
① 总和标准化
② 标准差标准化
③ 极大值标准化
经过这种标准化所得的新数据，各要素的极大值为1，其余各数值小于1。
④ 极差的标准化
经过这种标准化所得的新数据，各要素的极大值为1，极小值为0，其余的数值均在0与1之间。
2. 距离的计算
距离是事物之间差异性的测度，差异性越大，则相似性越小，所以距离是系统聚类分析的依据和基础。
① 绝对值距离
选择不同的距离，聚类结果会有所差异。在地理分区和分类研究中，往往采用几种距离进行计算、对比，选择一种较为合适的距离进行聚类。
例：表3.4.2给出了某地区九个农业区的七项指标，它们经过极差标准化处理后，如表3.4.3所示。
对于表3.4.3中的数据，用绝对值距离公式计算可得九个农业区之间的绝对值距离矩阵：
3. 直接聚类法
直接聚类法是根据距离矩阵的结构一次并类得到结果。
▲ 基本步骤：
① 把各个分类对象单独视为一类；
② 根据距离最小的原则，依次选出一对分类对象，并成新类；③ 如果其中一个分类对象已归于一类，则把另一个也归入该类；如果一对分类对象正好属于已归的两类，则把这两类并为一类；每一次归并，都划去该对象所在的列与列序相同的行；④ 那么，经过m-1次就可以把全部分类对象归为一类，这样就可以根据归并的先后顺序作出聚类谱系图。
★ 直接聚类法虽然简便，但在归并过程中是划去行和列的，因而难免有信息损失。因此，直接聚类法并不是最好的系统聚类方法。
[举例说明]（点击打开新窗口，显示该内容）
例：已知九个农业区之间的绝对值距离矩阵，使用直接聚类法做聚类分析。
解：
根据上面的距离矩阵，用直接聚类法聚类分析：
第一步，在距离矩阵D中，除去对角线元素以外，d49=d94=0.51为最小者，故将第4区与第9区并为一类，划去第9行和第9列；
第二步，在余下的元素中，除对角线元素以外，d75= d57=0.83为最小者，故将第5区与第7区并为一类，划掉第7行和第7列；
第三步，在第二步之后余下的元素之中，除对角线元素以外，d82= d28=0.88为最小者，故将第2区与第8区并为一类，划去第8行和第8列；
第四步，在第三步之后余下的元素中，除对角线元素以外，d43= d34=1.23为最小者，故将第3区与第4区并为一类，划去第4行和第4列，此时，第3、4、9区已归并为一类；
第五步，在第四步之后余下的元素中，除对角线元素以外，d21= d12=1.52为最小者，故将第1区与第2区并为一类，划去第2行和第2列，此时，第1、2、8区已归并为一类；
第六步，在第五步之后余下的元素中，除对角线元素以外，d65= d56=1.78为最小者，故将第5区与第6区并为一类，划去第6行和第6列，此时，第5、6、7区已归并为一类；
第七步，在第六步之后余下的元素中，除对角线元素以外，d31= d13=3.10为最小者，故将第1区与第3区并为一类，划去第3行和第3列，此时，第1、2、3、4、8、9区已归并为一类；
第八步，在第七步之后余下的元素中，除去对角线元素以外，只有d51= d15=5.86，故将第1区与第5区并为一类，划去第5行和第5列，此时，第1、2、3、4、5、6、7、8、9、区均归并为一类；
根据上述步骤，可以做出直接聚类谱系图。（点击展开显示该图）
4. 最短距离聚类法
最短距离聚类法是在原来的m×m距离矩阵的非对角元素中找出 ，把分类对象Gp和Gq归并为一新类Gr，然后按计算公式
计算原来各类与新类之间的距离，这样就得到一个新的（m－1）阶的距离矩阵；再从新的距离矩阵中选出最小者dij，把Gi和Gj归并成新类；再计算各类与新类的距离，这样一直下去，直至各分类对象被归为一类为止。
[举例说明]（点击打开新窗口，显示该例）
例：已知九个农业区之间的绝对值距离矩阵，使用最短距离聚类法做聚类分析。
解：用最短距离聚类法对某地区的九个农业区进行聚类分析：
第一步，在9×9阶距离矩阵D中，非对角元素中最小者是d94=0.51，故首先将第4区与第9区并为一类，记为G10，即G10=｛G4，G9｝。分别计算G1，G2，G3，G5，G6，G7，G8与G10之间的距离得：
这样就得到G1，G2，G3，G5，G6，G7，G8，G10上的一个新的8×8阶距离矩阵：
第二步，在上一步骤中所得到的8×8阶距离矩阵中，非对角元素中最小者为d57=0.83，故将G5与G7归并为一类，记为G11，即G11=｛G5，G7｝。分别计算G1，G2，G3，G6，G8，G10与G11之间的距离，可得到一个新的7×7阶距离矩阵：
第三步，在第二步所得到的7×7阶距离矩阵中，非对角元素中最小者为d28=0.88，故将G2与G8归并为一类，记为G12，即G12=｛G2，G8｝。分别计算G1，G3，G6，G10，G11与G12之间的距离，可得到一个新的6×6阶距离矩阵：
第四步，在第三步中所得的6×6阶距离矩阵中，非对角元素中最小者为d6，11=1.07，故将G6与G11归并为一类，记为G13，即G13=｛G6，G11｝=｛G6，（G5，G7）｝。计算G1，G3，G10，G12与G13之间的距离，可得到一个新的5×5阶距离矩阵：
第五步，在第四步中所得的5×5阶距离矩阵中，非对角线元素中最小者为d3，10=1.20，故将G3与G10归并为一类，记为G14，即G14=｛G3，G10｝=｛G3，（G4，G9）｝。再按照公式（3.3.10）式计算G1，G12，G13与G14之间的距离，可得一个新的4×4阶距离矩阵：
第六步，在第五步所得到的4×4阶距离矩阵中，非对角线元素中最小者为d12，14=1.29，故将G12与G14
归并为一类，记为G15，即G15=｛G12，G14｝=｛（G2，G8），（G3，（G4，G9））｝。再按照公式（3.3.10）式计算G1，G13与G15之间的距离，可得一个新的3×3阶距离矩阵：
第七步，在第六步所得的3×3阶距离矩阵中，非对角线元素中最小者为d1，15=1.32，故将G1与G15归并为一类，记为G16，即G16=｛G1，G15｝=｛（G1，（G2，G8），（G3，（G4，G9））｝。再按照公式（3.3.10）式计算G13与G16之间的距离，可得一个新的2×2阶距离矩阵：
第八步，将G13与G16归并为一类。此时，所有分类对象均被归并为一类。
综合上述聚类过程，可以作出最短距离聚类谱系图。（点击展开显示）
5. 最远距离聚类法
最远距离聚类法与最短距离聚类法的区别在于计算原来的类与新类距离采用的公式不同。 最远距离聚类法的计算公式：
[举例说明]（点击打开新窗口，显示该例）
6. 系统聚类法计算类之间距离的统一公式
▲ 最短距离聚类法具有空间压缩性，而最远距离聚类法具有空间扩张性（图3.4.4）。最短距离为 dAB=da1b1，最远距离为 dAB=dap2。
▲ 最短距离聚类法和最远距离聚类法关于类之间的距离计算可以用统一的式子表示：
当γ= -1/2时，就是最短距离聚类法计算类间距离的公式；当γ=1/2时，就是最远距离聚类法计算类间距离的公式。
▲ 系统聚类的方法还有：
表示了八种不同系统聚类方法计算类间距离的统一表达式（见表3.3.4）。
7. 系统聚类分析实例
作为系统聚类分析方法的应用实例，下面对中国大陆31个省级区域第三产业综合发展水平进行类型划分及差异性程度分析。
1) 聚类指标选择
选取如下7项指标作为对中国第三产业综合发展水平进行聚类分析的基础指标：
① y1——人均GDP，反映经济社会发展的总体状况和一般水平；
② y2——人均第三产业增加值，反映人均服务产品占有量或服务密度；
③ y3——第二产业增加值比重，反映工业化水平和产业结构现代化程度；
④ y4——第三产业增加值比重，反映第三产业的发展程度及其对国民经济的贡献； ⑤ y5——第三产业从业人员比重，反映第三产业对劳动力的吸纳能力；
⑥ y6——第三产业固定资产投资比重，反映第三产业的资金投入程度；
⑦ y7——城市化水平，反映农村人口转化为城市人口的程度及对服务的需求量。
2) 聚类计算
以 1999年国家统计局出版的《中国统计年鉴》（1998年度的数据）为数据来源，运用上述7项指标(表3.4.5) （点击显示该表），借助于统计分析软件包SPSS10.0进行聚类分析计算，计算过程如下：
① 用标准差标准化方法对7项指标的原始数据进行处理。
② 采用欧氏距离测度31个省（市、区）之间的样本间距离。
③ 选用组平均法计算类间的距离，并对样本进行归类。
经过上述聚类计算步骤，得到的聚类结果见图3.4.5。 （点击在新窗口中显示该图）
一、模糊聚类分析基本原理
聚类分析是根据样本代表性指标在性质上的亲疏程度进行分类。因此，我们可以把模糊聚类分析的步骤分解如下：
1 ．确定样本统计指标与数据标准化
对样本进行分类的效果如何，关键在于要把统计指标选择合理。也就是统计指标应该有明确的实际意义，有较强的分辨力和代表性，即要有一定的普遍意义。
数据标准化就是把各个代表统计指标的数据标准化，以便于分析和比较，这一步也称为数据正规化。方法是：
式中 x 为原始数据，
差，
为标准化数据。 为原始数据的平均值， S 为原始数据的标准
若要把标准化数据压缩到 [ 0 ， 1 ] 闭区间，可用极值标准化公式：
x max ——原始数据组中的最大者；
x min ——原始数据组中的最小者。
当 x ＝ x max 时，
＝ 1 ；
x ＝ x min 时，
＝ 0 。
2 ．标定距离，建立相似关系矩阵
距离是衡量分类对象间相似程度的统计量，用 r ij （ i ＝ 1 ， 2, … n ； j ＝ 1 ， 2 ，… n ； n 为样本的个数）表示。利用 r ij 从而确
定相似关系矩阵
标定距离的方法有很多，下面只列举几种常用的计算方法： ⑴ 欧氏距离
其中， x ik 表示第 i 个样本的第 k 个指标的观察值， x jk 表示第 j 个样本的第 k 个指标的观察值， r ij 表示第 i 个样本与第 j 个样本之间的亲疏程度。 r ij 越小，则第 i 个样本与第 j 个样本之间的性质就越接近。性质接近的样本就可以划归为一类。
⑵ 绝对减数法
其中 c 应适当选取，使得 0 ≤ r ij ≤ 1 。
3 ．进行聚类
在确定了样本之间的距离后，就可以对样本进行归类，归类的方法很多，其中用得最广泛的是系统聚类法。它首先把 n 个样本每个自成一类，然后每次将具有最小距离的两类合并成一类，合并后又再重新计算类与类之间的距离，直至所有样品归为一类为止。
系统聚类分析方法
聚类分析是研究多要素事物分类问题的数量方法。基本原理是根据样本自身的属性，用数学方法按照某种相似性或差异性指标，定量地确定样本之间的亲疏关系，并按这种亲疏关系程度对样本进行聚类。
常见的聚类分析方法有系统聚类法、动态聚类法和模糊聚类法等。
1. 聚类要素的数据处理
假设有m 个聚类的对象，每一个聚类对象都有 个要素构成。它们所对应的要素数据可用 表3.4.1给出。（点击显示该表） 在聚类分析中，常用的聚类要素的数据处理方法有如下几种。
① 总和标准化
② 标准差标准化
③ 极大值标准化
经过这种标准化所得的新数据，各要素的极大值为1，其余各数值小于1。
④ 极差的标准化
经过这种标准化所得的新数据，各要素的极大值为1，极小值为0，其余的数值均在0与1之间。
2. 距离的计算
距离是事物之间差异性的测度，差异性越大，则相似性越小，所以距离是系统聚类分析的依据和基础。
① 绝对值距离
选择不同的距离，聚类结果会有所差异。在地理分区和分类研究中，往往采用几种距离进行计算、对比，选择一种较为合适的距离进行聚类。
例：表3.4.2给出了某地区九个农业区的七项指标，它们经过极差标准化处理后，如表3.4.3所示。
对于表3.4.3中的数据，用绝对值距离公式计算可得九个农业区之间的绝对值距离矩阵：
3. 直接聚类法
直接聚类法是根据距离矩阵的结构一次并类得到结果。
▲ 基本步骤：
① 把各个分类对象单独视为一类；
② 根据距离最小的原则，依次选出一对分类对象，并成新类；③ 如果其中一个分类对象已归于一类，则把另一个也归入该类；如果一对分类对象正好属于已归的两类，则把这两类并为一类；每一次归并，都划去该对象所在的列与列序相同的行；④ 那么，经过m-1次就可以把全部分类对象归为一类，这样就可以根据归并的先后顺序作出聚类谱系图。
★ 直接聚类法虽然简便，但在归并过程中是划去行和列的，因而难免有信息损失。因此，直接聚类法并不是最好的系统聚类方法。
[举例说明]（点击打开新窗口，显示该内容）
例：已知九个农业区之间的绝对值距离矩阵，使用直接聚类法做聚类分析。
解：
根据上面的距离矩阵，用直接聚类法聚类分析：
第一步，在距离矩阵D中，除去对角线元素以外，d49=d94=0.51为最小者，故将第4区与第9区并为一类，划去第9行和第9列；
第二步，在余下的元素中，除对角线元素以外，d75= d57=0.83为最小者，故将第5区与第7区并为一类，划掉第7行和第7列；
第三步，在第二步之后余下的元素之中，除对角线元素以外，d82= d28=0.88为最小者，故将第2区与第8区并为一类，划去第8行和第8列；
第四步，在第三步之后余下的元素中，除对角线元素以外，d43= d34=1.23为最小者，故将第3区与第4区并为一类，划去第4行和第4列，此时，第3、4、9区已归并为一类；
第五步，在第四步之后余下的元素中，除对角线元素以外，d21= d12=1.52为最小者，故将第1区与第2区并为一类，划去第2行和第2列，此时，第1、2、8区已归并为一类；
第六步，在第五步之后余下的元素中，除对角线元素以外，d65= d56=1.78为最小者，故将第5区与第6区并为一类，划去第6行和第6列，此时，第5、6、7区已归并为一类；
第七步，在第六步之后余下的元素中，除对角线元素以外，d31= d13=3.10为最小者，故将第1区与第3区并为一类，划去第3行和第3列，此时，第1、2、3、4、8、9区已归并为一类；
第八步，在第七步之后余下的元素中，除去对角线元素以外，只有d51= d15=5.86，故将第1区与第5区并为一类，划去第5行和第5列，此时，第1、2、3、4、5、6、7、8、9、区均归并为一类；
根据上述步骤，可以做出直接聚类谱系图。（点击展开显示该图）
4. 最短距离聚类法
最短距离聚类法是在原来的m×m距离矩阵的非对角元素中找出 ，把分类对象Gp和Gq归并为一新类Gr，然后按计算公式
计算原来各类与新类之间的距离，这样就得到一个新的（m－1）阶的距离矩阵；再从新的距离矩阵中选出最小者dij，把Gi和Gj归并成新类；再计算各类与新类的距离，这样一直下去，直至各分类对象被归为一类为止。
[举例说明]（点击打开新窗口，显示该例）
例：已知九个农业区之间的绝对值距离矩阵，使用最短距离聚类法做聚类分析。
解：用最短距离聚类法对某地区的九个农业区进行聚类分析：
第一步，在9×9阶距离矩阵D中，非对角元素中最小者是d94=0.51，故首先将第4区与第9区并为一类，记为G10，即G10=｛G4，G9｝。分别计算G1，G2，G3，G5，G6，G7，G8与G10之间的距离得：
这样就得到G1，G2，G3，G5，G6，G7，G8，G10上的一个新的8×8阶距离矩阵：
第二步，在上一步骤中所得到的8×8阶距离矩阵中，非对角元素中最小者为d57=0.83，故将G5与G7归并为一类，记为G11，即G11=｛G5，G7｝。分别计算G1，G2，G3，G6，G8，G10与G11之间的距离，可得到一个新的7×7阶距离矩阵：
第三步，在第二步所得到的7×7阶距离矩阵中，非对角元素中最小者为d28=0.88，故将G2与G8归并为一类，记为G12，即G12=｛G2，G8｝。分别计算G1，G3，G6，G10，G11与G12之间的距离，可得到一个新的6×6阶距离矩阵：
第四步，在第三步中所得的6×6阶距离矩阵中，非对角元素中最小者为d6，11=1.07，故将G6与G11归并为一类，记为G13，即G13=｛G6，G11｝=｛G6，（G5，G7）｝。计算G1，G3，G10，G12与G13之间的距离，可得到一个新的5×5阶距离矩阵：
第五步，在第四步中所得的5×5阶距离矩阵中，非对角线元素中最小者为d3，10=1.20，故将G3与G10归并为一类，记为G14，即G14=｛G3，G10｝=｛G3，（G4，G9）｝。再按照公式（3.3.10）式计算G1，G12，G13与G14之间的距离，可得一个新的4×4阶距离矩阵：
第六步，在第五步所得到的4×4阶距离矩阵中，非对角线元素中最小者为d12，14=1.29，故将G12与G14
归并为一类，记为G15，即G15=｛G12，G14｝=｛（G2，G8），（G3，（G4，G9））｝。再按照公式（3.3.10）式计算G1，G13与G15之间的距离，可得一个新的3×3阶距离矩阵：
第七步，在第六步所得的3×3阶距离矩阵中，非对角线元素中最小者为d1，15=1.32，故将G1与G15归并为一类，记为G16，即G16=｛G1，G15｝=｛（G1，（G2，G8），（G3，（G4，G9））｝。再按照公式（3.3.10）式计算G13与G16之间的距离，可得一个新的2×2阶距离矩阵：
第八步，将G13与G16归并为一类。此时，所有分类对象均被归并为一类。
综合上述聚类过程，可以作出最短距离聚类谱系图。（点击展开显示）
5. 最远距离聚类法
最远距离聚类法与最短距离聚类法的区别在于计算原来的类与新类距离采用的公式不同。 最远距离聚类法的计算公式：
[举例说明]（点击打开新窗口，显示该例）
6. 系统聚类法计算类之间距离的统一公式
▲ 最短距离聚类法具有空间压缩性，而最远距离聚类法具有空间扩张性（图3.4.4）。最短距离为 dAB=da1b1，最远距离为 dAB=dap2。
▲ 最短距离聚类法和最远距离聚类法关于类之间的距离计算可以用统一的式子表示：
当γ= -1/2时，就是最短距离聚类法计算类间距离的公式；当γ=1/2时，就是最远距离聚类法计算类间距离的公式。
▲ 系统聚类的方法还有：
表示了八种不同系统聚类方法计算类间距离的统一表达式（见表3.3.4）。
7. 系统聚类分析实例
作为系统聚类分析方法的应用实例，下面对中国大陆31个省级区域第三产业综合发展水平进行类型划分及差异性程度分析。
1) 聚类指标选择
选取如下7项指标作为对中国第三产业综合发展水平进行聚类分析的基础指标：
① y1——人均GDP，反映经济社会发展的总体状况和一般水平；
② y2——人均第三产业增加值，反映人均服务产品占有量或服务密度；
③ y3——第二产业增加值比重，反映工业化水平和产业结构现代化程度；
④ y4——第三产业增加值比重，反映第三产业的发展程度及其对国民经济的贡献； ⑤ y5——第三产业从业人员比重，反映第三产业对劳动力的吸纳能力；
⑥ y6——第三产业固定资产投资比重，反映第三产业的资金投入程度；
⑦ y7——城市化水平，反映农村人口转化为城市人口的程度及对服务的需求量。
2) 聚类计算
以 1999年国家统计局出版的《中国统计年鉴》（1998年度的数据）为数据来源，运用上述7项指标(表3.4.5) （点击显示该表），借助于统计分析软件包SPSS10.0进行聚类分析计算，计算过程如下：
① 用标准差标准化方法对7项指标的原始数据进行处理。
② 采用欧氏距离测度31个省（市、区）之间的样本间距离。
③ 选用组平均法计算类间的距离，并对样本进行归类。
经过上述聚类计算步骤，得到的聚类结果见图3.4.5。 （点击在新窗口中显示该图）
一、模糊聚类分析基本原理
聚类分析是根据样本代表性指标在性质上的亲疏程度进行分类。因此，我们可以把模糊聚类分析的步骤分解如下：
1 ．确定样本统计指标与数据标准化
对样本进行分类的效果如何，关键在于要把统计指标选择合理。也就是统计指标应该有明确的实际意义，有较强的分辨力和代表性，即要有一定的普遍意义。
数据标准化就是把各个代表统计指标的数据标准化，以便于分析和比较，这一步也称为数据正规化。方法是：
式中 x 为原始数据，
差，
为标准化数据。 为原始数据的平均值， S 为原始数据的标准
若要把标准化数据压缩到 [ 0 ， 1 ] 闭区间，可用极值标准化公式：
x max ——原始数据组中的最大者；
x min ——原始数据组中的最小者。
当 x ＝ x max 时，
＝ 1 ；
x ＝ x min 时，
＝ 0 。
2 ．标定距离，建立相似关系矩阵
距离是衡量分类对象间相似程度的统计量，用 r ij （ i ＝ 1 ， 2, … n ； j ＝ 1 ， 2 ，… n ； n 为样本的个数）表示。利用 r ij 从而确
定相似关系矩阵
标定距离的方法有很多，下面只列举几种常用的计算方法： ⑴ 欧氏距离
其中， x ik 表示第 i 个样本的第 k 个指标的观察值， x jk 表示第 j 个样本的第 k 个指标的观察值， r ij 表示第 i 个样本与第 j 个样本之间的亲疏程度。 r ij 越小，则第 i 个样本与第 j 个样本之间的性质就越接近。性质接近的样本就可以划归为一类。
⑵ 绝对减数法
其中 c 应适当选取，使得 0 ≤ r ij ≤ 1 。
3 ．进行聚类
在确定了样本之间的距离后，就可以对样本进行归类，归类的方法很多，其中用得最广泛的是系统聚类法。它首先把 n 个样本每个自成一类，然后每次将具有最小距离的两类合并成一类，合并后又再重新计算类与类之间的距离，直至所有样品归为一类为止。