1、模式识别练习题填空题1、 模式识别系统的基本构成单元包括： 模式采集、特征选择与提取 和 模式分类 。2、 统计模式识别中描述模式的方法一般使用 特征矢量 ;句法模式识别中模式描述方法一般有 串、树、 网。3、 影响层次聚类算法结果的主要因素有 计算模式距离的测度、聚类准则、类间距离门限、预定的类别数目。4、 线性判别函数的正负和数值大小的几何意义是 正（负）表示样本点位于判别界面法向量指向的正 （负）半空间中；绝对值正比于样本点到判别界面的距离。5、 感知器算法丄。（1）只适用于线性可分的情况；（2 ）线性可分、不可分都适用。6、 在统计模式分类问题中，聂曼 -皮尔逊判决准则主要用于 某一种
2、判决错误较另一种判决错误更为重要_情况；最小最大判别准则主要用于 先验概率未知的 情况。7、 特征个数越多越有利于分类 ”这种说法正确吗？ 错误。特征选择的主要目的是 从n个特征中选出最有利于分类的的 m个特征（mn ）的条件下，可以使用分支定界法以减少计算量。8、 散度Jj越大，说明-1类模式与-j类模式的分布 差别越大；当1类模式与j类模式的分布相同时，Jj= _0_。选择题1、影响聚类算法结果的主要因素有（ BCD ）。2、 模式识别中，马式距离较之于欧式距离的优点是（ C D ）。A.平移不变性 B.旋转不变性 C.尺度不变性 D.考虑了模式的分布3、 影响基本K-均值算法的主要因素有
3、（ D A B ）。A.样本输入顺序 B.模式相似性测度 C.聚类准则 D.初始类中心的选取4、 在统计模式分类问题中，当先验概率未知时，可以使用（ B D ）。A.最小损失准则 B.最小最大损失准则 C.最小误判概率准则 D. N-P判决5、 散度Jd是根据（C ）构造的可分性判据。A.先验概率 B.后验概率 C.类概率密度 D.信息熵 E.几何距离6、 如果以特征向量的相关系数作为模式相似性测度，则影响聚类算法结果的主要因素有（ BC ）。A.已知类别样本质量 B.分类准则 C.特征选取 D.量纲F列函数可以作为聚类分析中的准则函数的有（简答题试问 模式”与 模式类”的含义。如果一位姓王的
4、先生是位老年人， 试问 王先生”和 老 头”谁是模式，谁是模式类?答：在模式识别学科中，就 模式”与 模式类”而言，模式类是一类事物的代表，概念 或典型，而 模式”则是某一事物的具体体现，如老头”是模式类，而王先生则是 模式”是 老 头”的具体化。二、 试说明Mahalanobis距离平方的定义，到某点的Mahalanobis距离平方为常数的轨迹的 几何意义，它与欧氏距离的区别与联系。2 T 1答：Mahalanobis距离的平方定义为：r (x,u) = (x - u) (x- u)其中x，u为两个数据，匚是一个正定对称矩阵(一般为协方差矩阵)。根据定义，距 某一点的Mahalanobis距
5、离相等点的轨迹是超椭球，如果是单位矩阵 厶则Mahalanobis 距离就是通常的欧氏距离。三、 试说明用监督学习与非监督学习两种方法对道路图像中道路区域的划分的基本做法， 以说明这两种学习方法的定义与它们间的区别。答：监督学习方法用来对数据实现分类，分类规则通过训练获得。该训练集由带分类 号的数据集组成，因此监督学习方法的训练过程是离线的。非监督学习方法不需要单独的离线训练过程，也没有带分类号(标号)的训练数据集， 一般用来对数据集进行分析，如聚类，确定其分布的主分量等。就道路图像的分割而言，监督学习方法则先在训练用图像中获取道路象素与非道路象 素集，进行分类器设计，然后用所设计的分类器对道
6、路图像进行分割。使用非监督学习方法，则依据道路路面象素与非道路象素之间的聚类分析进行聚类运 算，以实现道路图像的分割。四、 试述动态聚类与分级聚类这两种方法的原理与不同。答：动态聚类是指对当前聚类通过迭代运算改善聚类；分级聚类则是将样本个体，按相似度标准合并，随着相似度要求的降低实现合并f 1 1/2、五、已知一组数据的协方差矩阵为 ，试问J/2 11 协方差矩阵中各元素的含义。2.求该数组的两个主分量。3 主分量分析或称K-L变换，它的最佳准则是什么?4.为什么说经主分量分析后，消除了各分量之间的相关性。1.对角元素是各分量的方差，非对角元素是各分量之间的协方差。12，对应1/2，相应的：扎
7、=3/2，对应特征向量为3/2这两个特征向量，即为主分量。3.K-L变换的最佳准则为：对一组数据进行按一组正交基分解，在只取相同数量分量的条件下，以均方误差计算截尾误差最小。4.在经主分量分解后，协方差矩阵成为对角矩阵，因而各主分量间相关性消除。六、试列举线性分类器中最著名的三种最佳准则以及它们各自的原理。答：线性分类器三种最优准则：Fisher准则：根据两类样本一般类内密集，类间分离的特点，寻找线性分类器最佳的法线 向量方向，使两类样本在该方向上的投影满足类内尽可能密集，类间尽可能分开。这种度量通过类内离散矩阵 Sw和类间离散矩阵Sb实现。感知准则函数：准则函数以使错分类样本到分界面距离之和
8、最小为原则其优点是通过错分类样本提供的信息对分类器函数进行修正，这种准则是人工神经元 网络多层感知器的基础。支持向量机 ：基本思想是在两类线性可分条件下，所设计的分类器界面使两类之间的 间隔为最大，它的基本出发点是使期望泛化风险尽可能小。七、对一副道路图像，希望把道路部分划分出来，可以采用以下两种方法： 1在该图像中分别在道路部分与非道路部分画出一个窗口， 把在这两个窗口中的象素 数据作为训练集，用 Fisher 准则方法求得分类器参数，再用该分类器对整幅图进行分类。2将整幅图的每个象素的属性记录在一张数据表中， 然后用某种方法将这些数据按它 们的自然分布状况划分成两类。因此每个象素就分别得到
9、相应的类别号，从而实现了道路 图像的分割。试问以上两种方法哪一种是监督学习，哪个是非监督学习？ 答：第一种方法中标记了两类样本的标号， 需要人手工干预训练过程， 属于监督学习方法； 第二种方法只是依照数据的自然分布，把它们划分成两类，属于非监督学习方法。八、试分析五种常用决策规则思想方法的异同。答、五种常用决策是：1.基于最小错误率的贝叶斯决策 ，利用概率论中的贝叶斯公式，得出使得错误率最小 的分类规则。2.基于最小风险的贝叶斯决策 ，引入了损失函数，得出使决策风险最小的分类。当在0-1 损失函数条件下，基于最小风险的贝叶斯决策变成基于最小错误率的贝叶斯决3.在限定一类错误率条件下使另一类错误
10、率最小的两类别决策4.最大最小决策：类先验概率未知，考察先验概率变化对错误率的影响，找出使最小贝叶斯奉献最大的先验概率，以这种最坏情况设计分类器。5.序贯分类方法，除了考虑分类造成的损失外，还考虑特征获取造成的代价，先用一 部分特征分类，然后逐步加入性特征以减少分类损失，同时平衡总的损失，以求得 最有效益。九、假设在某个地区细胞识别中正常(wi)和异常(W2)两类先验概率分别为P(wJ = 0.9，P(W2)=0.1，现有一待识别的细胞，其观察值为x,从类条件概率密度分布曲线上查得 P(x w1) = 0.2， P(x w2) = 0.4，并且已知仆=0，二 12 = 6， .；“21 = 1
11、，二 22 二 0 试对该细胞x用一下两种方法进行分类：1.基于最小错误率的贝叶斯决策;2.基于最小风险的贝叶斯决策； 请分析两种结果的异同及原因。p(w2 x) =1 - p(w-! x) =0.1 8 2根据贝叶斯决策规则：P(W x) =0.818 p(W2 x)二0.182，所以把x归为正常状态。(2)根据条件和上面算出的后验概率，计算出条件风险:2R 1 x)=迟 x1j p(Wj x) = z12p(w2 x) = 1.092R（： 2|x）八 2j P（Wj|x）二 21 p（wjx） = 0.818j由于R（却x） R（二2 x），即决策为w-!的条件风险小于决策为 w2的条件
12、风险，因此米取 决策行动：-2，即判断待识别的细胞x为W2类 异常细胞。将1与2相对比，其分类结果正好相反，因为这里影响决策结果的因素多了 损失”而且两类错误决策所造成的损失相差很悬殊，因此 损失”起了主导作用。十、既然有线性判别函数，为什么还要引进非线性判别函数？试分析由 线性判别函数”向非线性判别函数”推广的思想和方法。答：实际中有很多模式识别问题并不是线性可分的，这时就需要采用非线性分类器，比如 当两类样本分不具有多峰性质并互相交错时，简单的线性判别函数往往会带来较大的分类 错误。这时，树分类器作为一种分段线性分类器，常常能有效地应用于这种情况。十一、1什么是特征选择？2.什么是Fish
13、er线性判别？答：1.特征选择就是从一组特征中挑选出一些最有效的特征以达到降低特征空间维数的目 的。2. Fisher线性判别：可以考虑把d维空间的样本投影到一条直线上，形成一维空间， 即把维数压缩到一维，这在数学上容易办到，然而，即使样本在 d维空间里形成若干紧凑的互相分得开的集群，如果把它们投影到一条任意的直线上，也可能使得几类样本混在一 起而变得无法识别。但是在一般情况下，总可以找到某个方向，使得在这个方向的直线上， 样本的投影能分开得最好。问题是如何根据实际情况找到这条最好的、最易于分类的投影 线，这就是Fisher算法所要解决的基本问题 十二、写出两类和多类情况下最小风险贝叶斯决策判
14、别函数和决策面方程。两类问题：判别函数 g(x)二11 p(w xp 12p(w2 x)g2(x) = ?；2ip(wi x) 22 P(W2 x)决策面方程：gi(x) = g2 (x)cC类问题：判别函数 gi(x) = j入j p(Wj x) , i =1,2,c决策面方程：gi(x)=gj(x)，i=j, i=1,2,c， j =1,2,c十三、请论述模式识别系统的主要组成部分及其设计流程，并简述各组成部分中常用方法 的主要思想。特征空间信号空间 I 分类决策数据获取*预处理 特征提取与选择L 分类器设计信息获取：通过测量、采样和量化，可以用矩阵或向量表示二维图像或波形。预处理：去除噪
15、声，加强有用的信息，并对输入测量仪器或其他因素造成的退化现象进 行复原。特征选择和提取：为了有效地实现分类识别，就要对原始数据进行变换，得到最能反映 分类本质的特征。分类决策：在特征空间中用统计方法把识别对象归为某一类。十四、有两类样本集x； =0,0,0T，Xi2=1,0,0T，x；=1,0,1T，x：=1,1,0T x；二0,0,1T，x| = 0,1,0T，x冷0,1,1T，x；二1,1,1T1.用K-L变换求其二维特征空间，并求出其特征空间的坐标轴;2.使用Fisher线性判别方法给出这两类样本的分类面。1 EXXT xxT0 20 ， 2=11 P十五、假设两类模式服从如下的正态分布
16、:_4 11,3, -1，巴=匚 1, 一1,1，乞1 =1 40 0分别求出使tr（SfSb）最大化的一维特征空间的变换矢量。 ：（Jw为标量，：“亠上胃十六、设两个家庭，每家3-5人，选每个人的一张照片，共 8张，混放在一起，将照片两 两对照，得出描述其 相似程度”的模糊关系矩阵。要求按相似程度聚类，希望把二个家庭 分开。rij12345678112013001400.80150.500.201600.800.40170.40.20.200.801800.50.2000.801十七、设Xx, X2, X3, X4, X5, X6，标准模型由以下模糊集合表示：A =(1.0, xj, (0.
17、8, X2), (0.5,X3),(04x4), (OOX5), (0.1, x6)A2 =( 0.0, Xi), (1.0, X2), (0.2, X3), (0.7, X4), (0.5, X5), (0.8, X6)A3 =( 0.8, Xi), (0.2, X2), (0, X3), (0.5, X4), (1.0, X5), (0.7, X6)A4 =( 0.5, X1), (0.7, X2), (0.8, X3), (0, X4), (0.5, X5), (1.0, X6)现有一待识别的模型B (0.7, X1), (0.2, X2), (0.1, X3), (0.4, X4),
18、(1.0, X5), (0.8,冷)采用海明贴近度计算，B与哪个标准模型最相近？1 n解：海明贴近度：叭(A, B)=1- 1瓦H(xi )-曲(x 0n i 吕 1 3二 H (Ai, B) =1 - 0.3 0.6 0.4 0 1 0.7 ；=1 0.5 6 61 2.4二H (A2, B) =1 0.7 0.8 0.1 0.3 0.5 0 ；=1 0.6 6 61 04二H (A3, B) =1 0.1 0 0.V 0.1 0 0.1 =1 0.93 6 61 2.5二H (A4, B) =1 0.2 0.5 0.7 0.4 0.5 0.2 =1 0.58 6 6常 maX0.5, 0.
19、6, 0.93, 0.58)=0.93=h (A3, B) B与A最相似。十八、设论域X =位1, X2,X3,X4,x5，给定模糊关系矩阵：广10.480.620.410.47 0.4810.480.410.47R =0.620.4810410.47要求按不同入水平分类0.410.410.4110.41Q470.470.470.411丿10.480.620.410.47、10.480.620.410.47 *10.480.620.410.47 *0.4810.480.410.470.4810.480.410.470.4810.480.410.47R QR =0.620.4810410.470
20、.620.4810410.47=0.620.4810410.47=R0.410.410.4110.410.410.410.4110.410.410.410.4110.41Q470.470.470.411 j0470.470.470.411 j10.470.470.470.411 jR为一模糊等价矩阵，可据不同水平分类X1X2 x3 此时分为 4 类：x1 ,x3 1x2、x4j、x5 X4x5十九、现有样本集 X=(0,0) T, (0,1) T, (2,1) T, (2,3) T, (3,4) T, (1,0) T ,试用C-均值算法进行聚类分析(类数C=2),初始聚类中心为(0, 0)T、
21、(0, 1) T 解：第一步：由题意知 C = 2,初始聚类中心为Z10=(0,0)T, Z20=(0,1) T第二步：|X1-Z10|=|(0,0) T -(0,0) T |=0|X1-Z20|=|(0,0)T -(0,1) T |=1因为 |X1-Z10|X2-Z20|,所以 X2 2同理因为 |X3-Z10|=51/2|X3-Z20|=2,所以 X3 亡 因为 |x4-Z10|=81/2|X4-Z20|=51/2,所以 X42X5 ；：2, X6 1由此得到新的类： 1=X 1, X6 N1=2, 2=x 2, X3, X4, X5 N2=4第三步：根据新分成的两类计算新的聚类中心Z11
22、=(x 1+X6)/2=(0.5, 0)TZ21=(X2+X3+X4+X5)/4=(1.75, 2.25)T第四步：因为新旧聚类中心不等，转第二步第二步：重新计算X1, X2, X3, X4, X5, X6到Z仆乙2的距离，把它们归为最近聚类中心，重新分为两类 ，1=X1, X2, X6 N 1=3, 2=x 3, X4, X5 N2=3第三步：根据新分成的两类计算新的聚类中心Zi2=(xi+X2+X6)/3=(1/3, 1/3)TZ22=(X3+X4+X5)/3=(7/3, 8/3)T第四步：因为新旧聚类中心不等，转第二步重新计算X1, X2, X3, X4, X5, X6到Zl2、Z22的
23、距离，把它们归为最近聚类中心，重新分为两类 1=X 1, X2, X6 Nl=3, 1=X3, X4, X5 N2=3和上次聚类结果一样，计算结束。二十.设语言L(G)的正样本集R =101,111，试推断出余码文法Gc o答：第一步：由R 得 Gc的终止符集Vt，为Vt二0,1 o第二步：求出R 的全部余码，并组成非终止符集Vn oR的全部余码为D ,R 二101,111，D1R 二01,11JUD10R 二1，D11R 二1D101 R ， D111 R - 合并： S = D 二1 0,1 11U1 二 DR =01,11，U2 二 D10R =1所以Vn 二SUU第三步：建立生成式集Po由D1S二U1，有生成式S 1U1 ；由D1U1二U2，有生成式U1 1U2 ；由D1U2二，有生成式U2 1 ； 由D0U1二U2，有生成式U1 0U2余码文法Gc:Gc =(Vn,Vt,P,S) , Vn 二S,Ui,U2 , Vt 二0,1p： s 1U, , U, 1U2 , u, ou2 , u2 1
