最新厦门大学《应用多元统计分析》第10章_多维标度法PPT课件.ppt

第一节第一节 引引 言言n在实际中我们会经常遇到这些的问题，给你一组城市，你总在实际中我们会经常遇到这些的问题，给你一组城市，你总能从地图上测出任何一对城市之间的距离。但若给你若干城能从地图上测出任何一对城市之间的距离。但若给你若干城市的距离，你能否确定这些城市之间的相对位置呢？假定你市的距离，你能否确定这些城市之间的相对位置呢？假定你知道只是哪两个城市最近，哪两个城市次近等等，你是否还知道只是哪两个城市最近，哪两个城市次近等等，你是否还能确定它们之间的相对位置呢？假定通过调查了解了能确定它们之间的相对位置呢？假定通过调查了解了10种饮种饮料产品在消费者心中的相似程度，你能否确定这些产品在消料产品在消费者心中的相似程度，你能否确定这些产品在消费者心理空间中的相对位置呢？在实际中我们常常会遇到类费者心理空间中的相对位置呢？在实际中我们常常会遇到类似这样的问题。似这样的问题。n多维标度法（多维标度法（Multidimensional Scaling）就是解决这类问题）就是解决这类问题的一种方法，它是一种在低维空间展示的一种方法，它是一种在低维空间展示“距离距离”数据结构的数据结构的多元数据分析技术，简称多元数据分析技术，简称MDS。n多维标度法起源于心理测度学，用于理解人们判断的相似性。多维标度法起源于心理测度学，用于理解人们判断的相似性。Torgerson拓展了拓展了Richardson及及Klingberg等人在三、四十年等人在三、四十年代的研究，具有突破性地提出了多维标度法，后经代的研究，具有突破性地提出了多维标度法，后经 n在进行多维标度分析时，如果数据是多个分析变量的原始数在进行多维标度分析时，如果数据是多个分析变量的原始数据，则要根据聚类分析中介绍的方法，计算分析对象间的相据，则要根据聚类分析中介绍的方法，计算分析对象间的相似测度；如果数据不是广义距离阵，要通过一定的方法将其似测度；如果数据不是广义距离阵，要通过一定的方法将其转换成广义距离阵才能进行多维标度分析。转换成广义距离阵才能进行多维标度分析。 二、古典多维标度分析的思想及方二、古典多维标度分析的思想及方 法法n n n n n n n这里需要特别注意，并非所有的距离阵都存在一个这里需要特别注意，并非所有的距离阵都存在一个r维的欧维的欧氏空间和氏空间和n个点，使得个点，使得n个点之间的距离等于个点之间的距离等于D。因而，并不。因而，并不是所有的距离阵都是欧氏距离阵，还存在非欧氏距离阵。是所有的距离阵都是欧氏距离阵，还存在非欧氏距离阵。n当距离阵为欧氏时，可求得一个当距离阵为欧氏时，可求得一个D的构图的构图X，当距离阵不是，当距离阵不是欧氏时，只能求得欧氏时，只能求得D的拟合构图。在实际应用中，即使的拟合构图。在实际应用中，即使D为为欧氏，一般也只求欧氏，一般也只求r =2或或3的低维拟合构图。的低维拟合构图。n值得注意的是，由于多维标度法求解的值得注意的是，由于多维标度法求解的n个点仅仅要求它们个点仅仅要求它们的相对欧氏距离与的相对欧氏距离与D相近，也就是说，只与相对位置相近而相近，也就是说，只与相对位置相近而与绝对位置无关，根据欧氏距离在正交变换和平移变换下的与绝对位置无关，根据欧氏距离在正交变换和平移变换下的不变性，显然所求得解并不唯一。不变性，显然所求得解并不唯一。 三、度量三、度量MDS的古典解的古典解n （4）根据（）根据（10.7）式计算）式计算 ，得到，得到r维拟合构图（简称古典维拟合构图（简称古典解）。解）。 这里需要注意，如果这里需要注意，如果i i中有负值，表明中有负值，表明D是非欧氏是非欧氏型的。型的。（一）已知距离矩阵的（一）已知距离矩阵的CMDS计算计算n以前述美国以前述美国10城市间的飞行距离数据来说明古典度量多维标城市间的飞行距离数据来说明古典度量多维标度法的计算过程。度法的计算过程。n表表10.1美国美国10城市间的飞行距离为比率测度。数值越大表明城市间的飞行距离为比率测度。数值越大表明距离越远，数值越小表明距离越短，符合广义距离阵的定义，距离越远，数值越小表明距离越短，符合广义距离阵的定义，又只涉及一个距离阵，因此为度量又只涉及一个距离阵，因此为度量CMDS。n根据上述度量古典根据上述度量古典CMDS的计算方法，首先可求得内积矩阵，的计算方法，首先可求得内积矩阵，结果见表结果见表10.2。 表表10.2 美国美国10城市内积矩阵城市内积矩阵B n n10个城市的坐标分别为：个城市的坐标分别为： （-718.759，142.9942），（），（-382.056，-340.84），），（481.602，-25.285），（），（-161.466，572.77），（），（1203.738，390.100），（），（-1133.53，581.907），（），（1072.24，-519.024），），（1420.603，112.589），（），（1341.723，-579.739），（），（-979.622，-335.473）。）。n计算结果表明，较大的特征值有两个，说明在二维平面上表计算结果表明，较大的特征值有两个，说明在二维平面上表示示10城市间的相对位置是合适的。由于有特征值小于零，表城市间的相对位置是合适的。由于有特征值小于零，表明距离阵不是欧氏型，其结果为拟合构图。在此，城市是明距离阵不是欧氏型，其结果为拟合构图。在此，城市是“对象对象”，飞行里程是，飞行里程是“相似性相似性”。图。图10.1给出了给出了MDS反映反映美国美国10座城市相对位置的感知图。图中的座城市相对位置的感知图。图中的10个点，每个点代个点，每个点代表一个城市，相近的点代表飞行距离短的城市，相距较远的表一个城市，相近的点代表飞行距离短的城市，相距较远的点代表飞行距离远的城市。点代表飞行距离远的城市。 图图10.1 10城市坐标感知图城市坐标感知图 n n n相关系数的值越大，表示课程越相似，相关系数值越小，表相关系数的值越大，表示课程越相似，相关系数值越小，表明课程越不相似，显而易见，相关系数矩阵为相似系数矩阵，明课程越不相似，显而易见，相关系数矩阵为相似系数矩阵，记为记为C。 表表10.3 6门课程相关系数阵门课程相关系数阵 n根据变换（根据变换（10.8）式可得到距离阵）式可得到距离阵D，见表，见表10.4。在此基础。在此基础上，根据（上，根据（10.5）式得到内积矩阵）式得到内积矩阵B，具体结果见表，具体结果见表10.5。 表表10.4 距离阵距离阵D n 表表10.5 内积矩阵内积矩阵 n从结果知距离阵从结果知距离阵D不是欧氏型，我们取不是欧氏型，我们取r=2，由（，由（10.7）式求）式求得得D的古典解，结果如下：的古典解，结果如下：n图图10.2大体反映了这六门课程的基本结构，从图中可以直观大体反映了这六门课程的基本结构，从图中可以直观的看出，算术、代数、几何较为相近，英语和盖尔语较为相的看出，算术、代数、几何较为相近，英语和盖尔语较为相近，而历史课程与其他课程的差异性较大。近，而历史课程与其他课程的差异性较大。图图10.2 六门课程的古典解感知图六门课程的古典解感知图 四、非度量四、非度量MDS的古典解的古典解 (nonmetric MDS)n在实际问题中，我们涉及更多的是不易量化的相似性测度，在实际问题中，我们涉及更多的是不易量化的相似性测度，如两种颜色的相似性，虽然我们可以用如两种颜色的相似性，虽然我们可以用1表示颜色非常相似，表示颜色非常相似，10表示颜色非常不相似，但是这里的数字只表示颜色之间的表示颜色非常不相似，但是这里的数字只表示颜色之间的相似或不相似程度，并不表示实际的数值大小，因而是定序相似或不相似程度，并不表示实际的数值大小，因而是定序尺度，这时是由两两颜色间的不相似数据尺度，这时是由两两颜色间的不相似数据 ij形成形成“距离距离”矩矩阵。对于非度量的不相似性矩阵，我们如何进行多维标度分阵。对于非度量的不相似性矩阵，我们如何进行多维标度分析呢？假定有一个析呢？假定有一个n个对象的不相似矩阵个对象的不相似矩阵( ij)n n ，要寻找，要寻找n个对象的一个个对象的一个r维拟合构造点维拟合构造点X。下面介绍。下面介绍Kruskal的非度量的非度量MDS分析方法。分析方法。 n为了寻找一个较好的拟合构造点，我们可以从某一个拟合构为了寻找一个较好的拟合构造点，我们可以从某一个拟合构造点开始，即先将造点开始，即先将n个对象随意放置在个对象随意放置在r维空间，形成一个感维空间，形成一个感知图，用知图，用Xi =(Xi 1，Xi 2，Xir) 表示表示i对象在对象在r维空间的坐标，维空间的坐标，对象对象i与与j在在r维空间的距离为维空间的距离为 :n n n n也就是说，也就是说，S应力是将（应力是将（10.9）式中的）式中的dij和和 用它们的平方代用它们的平方代表后所得到的量度。表后所得到的量度。S应力的值介于应力的值介于0和和1之间。典型的情况之间。典型的情况是：此值小于是：此值小于0.1意味着感知图是意味着感知图是n个对象的一个好的几何表个对象的一个好的几何表示。示。n在非度量在非度量MDS分析过程中，另一个需要解决的问题是感知图分析过程中，另一个需要解决的问题是感知图空间维数空间维数r的确定。我们可以制作应力的确定。我们可以制作应力-r图确定感知图的维数图确定感知图的维数r 。从前述可知，对每一个。从前述可知，对每一个r ，可以找到使应力达到最小的点，可以找到使应力达到最小的点结构。随着结构。随着r的增加，最小应力将在运算误差的范围内逐渐的增加，最小应力将在运算误差的范围内逐渐下下降，且当降，且当r =n-1时达到零。从时达到零。从r 1开始，可将应力开始，可将应力S（ r ）对）对r作图。这些点随作图。这些点随r的增加而呈下降排列。若找到一个的增加而呈下降排列。若找到一个r ，上，上述述下降趋势到这一点开始接近水平状态，即形成一个下降趋势到这一点开始接近水平状态，即形成一个“肘肘”形形曲曲线，这个线，这个r便是便是“最佳最佳”维数。维数。n非度量非度量MDS虽然是基于非度量尺度数据的分析方法，但是，虽然是基于非度量尺度数据的分析方法，但是，当定量尺度的距离阵中的数据不可靠，而距离大小的顺序可当定量尺度的距离阵中的数据不可靠，而距离大小的顺序可靠时，采用非度量靠时，采用非度量MDS比度量比度量MDS得到的结果更接近与实得到的结果更接近与实际。际。 第三节第三节 权重多维标度权重多维标度(WMDS)n以上我们的讨论都是以单个以上我们的讨论都是以单个“距离距离”阵数据出发进行的，但阵数据出发进行的，但在实践中，往往需要确定多个距离阵数据的感知图，比如由在实践中，往往需要确定多个距离阵数据的感知图，比如由10个人分别对个人分别对5种饮料进行两两相似评测，结果就会得到种饮料进行两两相似评测，结果就会得到10个相似性矩阵，那么，我们如何根据这个相似性矩阵，那么，我们如何根据这10个人的评测结构得个人的评测结构得出出5种饮料的相似性感知图呢？显然，按照古典多维的方法，种饮料的相似性感知图呢？显然，按照古典多维的方法，我们只能是每一个相似性矩阵确定一个感知图，我们只能是每一个相似性矩阵确定一个感知图，10个人分别个人分别确定确定10个感知图。但是，往往我们想要得到的是这个感知图。但是，往往我们想要得到的是这10个人共个人共同的一个感知图而非同的一个感知图而非10个。这一节将介绍由个。这一节将介绍由Carroll和和Chang提出的解决这类问题的多维标度方法提出的解决这类问题的多维标度方法权重多维标度法权重多维标度法（WMDS）。基础权重多维标度法也称权重个体差异欧氏）。基础权重多维标度法也称权重个体差异欧氏距离模型。距离模型。 n n n n 第四节第四节 实例分析与计算实现实例分析与计算实现 一一 多维标度法在多维标度法在SPSS中的实现中的实现 二二 利用利用SPSS对本章美国十城市的例子对本章美国十城市的例子 进行多维标度进行多维标度 一、多维标度法在一、多维标度法在SPSS中的实现中的实现 实例实例1 n以以SPSS自带文件自带文件World95.sav为例，对亚洲国家和地区的为例，对亚洲国家和地区的17个国家的人口寿命情况进行分析。个国家的人口寿命情况进行分析。 （一）操作步骤：（一）操作步骤： 1. 在在DataSelect case对话框的对话框的If过滤条件中输入过滤条件过滤条件中输入过滤条件 “region=3”。得到。得到17个国家和地区。个国家和地区。 2. 主菜单中选择主菜单中选择AnalyzeScaleMultidimensional Scaling (ALSCAL) 。就进入多维标度法的主对话框（图。就进入多维标度法的主对话框（图10.3）。在）。在左上方是变量列表选择以下变量：左上方是变量列表选择以下变量：urban（城市人口比例），（城市人口比例），lifeexpf（女性平均寿命），（女性平均寿命），lifeexpm（男性平均寿命），（男性平均寿命），gdp_cap（人均（人均GDP），），death_rt（千人死亡率），（千人死亡率），birth_rt（千人出生率），（千人出生率），literacy（受教育人口比例）。由于原始（受教育人口比例）。由于原始数据不是距离阵，因此需要在下方数据不是距离阵，因此需要在下方Distances单选项中选择单选项中选择Create distances from data，这时，这时Measure子对话框被激活，子对话框被激活，默认计算默认计算Euclidean distance，即欧氏距离。，即欧氏距离。 图图10.3 多维标度法的主对话框多维标度法的主对话框 3. 点击进入点击进入Measure子对话框，对距离阵进行设定，（图子对话框，对距离阵进行设定，（图10.4）。由于我们的变量都是连续数值型的，所以应在）。由于我们的变量都是连续数值型的，所以应在Measure单选项中选择单选项中选择Interval。并在其下方的。并在其下方的Transform Values栏中选择变量标准化变换的方式，这里我们选择栏中选择变量标准化变换的方式，这里我们选择Z scores和和By variable，表示对变量进行正态标准化。然后在，表示对变量进行正态标准化。然后在Create Distance Matrix单选项中选择单选项中选择Between cases，表示计，表示计算样品之间的距离阵。设置完毕后，点击算样品之间的距离阵。设置完毕后，点击Continue回到主对回到主对话框。话框。 图图10.4 Measure子对话框子对话框 4. 在主对话框中点击进入在主对话框中点击进入Model子对话框，如图子对话框，如图10.5。这里。这里可以设定变量取值的类型。在可以设定变量取值的类型。在Level of Measurement中选择中选择Interval，即连续取值的数值型变量。其他设置无需改变，即连续取值的数值型变量。其他设置无需改变，点击点击Continue返回主对话框。返回主对话框。 图图10.5 Model子对话框子对话框 5. 点击进入点击进入Options子对话框（图子对话框（图10.6），该对话框中提供了），该对话框中提供了一些结果显示的选择。一些结果显示的选择。Display栏中默认不输出任何图表。栏中默认不输出任何图表。选择选择Group plots项可得到多维标度图项可得到多维标度图,这里图表的维度由这里图表的维度由Model中的中的Dimensions中填入最小维度中填入最小维度Minimum和最大维度和最大维度Maximum决定；择选决定；择选Data matrix项可得到距离阵和拟合构项可得到距离阵和拟合构造点的坐标；而造点的坐标；而Model and options summary是显示出多维是显示出多维标度法中的参数设置，计算方法等。这里我们选择标度法中的参数设置，计算方法等。这里我们选择Group plots和和Data matrix项后，点击项后，点击Continue返回主对话框，再点返回主对话框，再点击击OK运行。运行。 图图10.6 Options子对话框子对话框 （二）结果分析：（二）结果分析：1. 样品验证表，发现有一个样品存在缺失值。查原始数据后样品验证表，发现有一个样品存在缺失值。查原始数据后发现发现Taiwan缺少千人死亡率，该样品被去除。国家地区的编缺少千人死亡率，该样品被去除。国家地区的编号如下（表号如下（表10.6）。）。 表表10.6 国家和地区的编号国家和地区的编号 2. SPSS会依次输出原始距离阵（表会依次输出原始距离阵（表10.7），古典解的迭代过），古典解的迭代过程和有关压力指标值（表程和有关压力指标值（表10.8），拟合构造点在二维空间中），拟合构造点在二维空间中的坐标（表的坐标（表10.9），以及最优标度的距离阵（表），以及最优标度的距离阵（表10.10）。在）。在表表3中，中，Young氏压力指标值为氏压力指标值为0.02289，K压力指标为压力指标为0.03880，都小于，都小于0.05。RSQ=0.99485。这些都说明模型拟合。这些都说明模型拟合效果很好。效果很好。 表表10.7 原始距离阵（部分）原始距离阵（部分） 表表10.8 压力指标检验压力指标检验 表表10.9 拟合点的在拟合点的在2维标度中的坐标（部分）维标度中的坐标（部分） 3. 接下来是欧氏距离下的接下来是欧氏距离下的16个国家和地区的拟合构造点的二个国家和地区的拟合构造点的二维图（图维图（图10.7），从图上可以看出比较发达的地区基本都在），从图上可以看出比较发达的地区基本都在第三个象限，如香港，日本，新加坡。而中国和泰国，菲律第三个象限，如香港，日本，新加坡。而中国和泰国，菲律宾等国较为接近。而线性拟合散点图（图宾等国较为接近。而线性拟合散点图（图10.8）从图形上告）从图形上告诉我们采用欧氏距离来拟合原始数据的距离阵是非常合适的。诉我们采用欧氏距离来拟合原始数据的距离阵是非常合适的。 表表10.10 最优标度的距离阵（部分）最优标度的距离阵（部分） 图图10.7 拟合构造点的二维坐标图拟合构造点的二维坐标图 图图10.8 欧氏距离下的线性拟合散点图欧氏距离下的线性拟合散点图 二、利用二、利用SPSS对本章美国十城市的对本章美国十城市的例子进行多维标度例子进行多维标度（一）操作步骤：（一）操作步骤： 1. 打开文件之后，在主对话框的打开文件之后，在主对话框的distances单选项中选择单选项中选择Data are distances，此时，此时shape对话框被激活（图对话框被激活（图10.9），默认距），默认距离形式为离形式为Square symmetric。若原始数据的距离是对称的，则只需要输入三角阵即可，运算若原始数据的距离是对称的，则只需要输入三角阵即可，运算中中SPSS会自动填充，如本例；会自动填充，如本例；Square asymmetric表示不对称表示不对称的距离阵；而的距离阵；而Rectangular表示距离阵不是方阵，这时需要指表示距离阵不是方阵，这时需要指定矩阵使用的行数定矩阵使用的行数Number of rows，该数值必需大于等于，该数值必需大于等于4。本例中选择本例中选择Square symmetric，点击，点击Continue返回主对话框。返回主对话框。 图图10.9 shape子对话框子对话框 2. 在在Options子对话框中选中子对话框中选中Group plots，点击，点击Continue返返回，再点击回，再点击OK运行。运行。（二）结果分析：（二）结果分析：1. 首先观察压力指标（表首先观察压力指标（表10.11），），Young氏指标值为氏指标值为0.00291，K氏指标值为氏指标值为0.00272，RSQ=0.99996，说明欧氏距离模型拟，说明欧氏距离模型拟合效果很好。合效果很好。 表表10.11 压力指标检验压力指标检验 2. 拟合点的坐标（表拟合点的坐标（表10.12），二维坐标图（图），二维坐标图（图10.10）以及）以及线性拟合散点图（图线性拟合散点图（图10.11）。从图）。从图10.11可以看出采用欧氏可以看出采用欧氏距离的拟合标度非常符合原始距离阵。各个城市之间的距离距离的拟合标度非常符合原始距离阵。各个城市之间的距离可以非常好地用图可以非常好地用图10.10中的散点来表示。中的散点来表示。 图图10.10 欧氏距离模型下的二维散点图欧氏距离模型下的二维散点图 表表10.12 拟合点坐标拟合点坐标 图图10.11 拟合散点图拟合散点图本章结束本章结束61 结束语结束语