半监督分类的方法有哪些?Pléiades数据 地质制图 水文遥感

原标题:半监督分类的方法有哪些?Pléiades数据地质制图水文遥感
半监督分类的方法有哪些?

半监督分类的方法有哪些?Pléiades数据 地质制图 水文遥感
文章图片
现有的半监督学习算法主要包含:带有生成混合模型的EM算法 , 自训练算法、协同训练算法、主动学习算法、基于图的半监督学习算法 , 基于支持向量机的半监督学习算法等 。
带有生成混合模型的EM算法的主要思想是将未标记类别的数据隶属于每一个类别的概率当做一组隐含参数来输入 , 采用EM算法进行标记评估和模型参数估计 。 EM算法的贪心本质使其容易陷入局部极值 , 因此算法对初始值的选择具有很强的依赖性 。 常用的解决方法是采用多组初值进行重复运算 , 并从中选择最好的一组解 , 或者通过复杂的优化算法(如分裂合并EM算法)获取参数的优化解 。 这些做法尽管降低了对初始值选择的敏感性 , 但却引入了过多的运算负担 。
自训练算法是通过一个传统的分类器使用极少的标记数据对训练数据集中的未标记数据进行学习 , 得到一个初步的模型 , 然后利用这个模型对余下的未标记数据进行类别预测 , 将置信度较高的数据优先加入已标记的训练集中 , 重新训练分类器 , 反复迭代直到满足条件为止 。
协同训练算法需要使用两个或多个学习器 , 在数据集中选择不同的视图分别在各个不同的学习器中进行学习 , 并通过交换彼此的数据来提高学习器的精度 , 未标记的数据被分类器逐步预测并给手标记 , 然后抽出置信度较高的数据加入到训练集 , 不断迭代 , 直到未标记的数据全部被标记为止 , 从而得到一个最终模型 。 Ngnmnd和Chani通过大量的实验来比较协同训练算法和基于EM的半监督学习算法 。 其结果显示 , 当条件独立性假设成立时协同训练算法表现出更好分类效果;当面对没有明显的特征划分的数据集时 , 人工的特征划分方法仍然有效 。 Zhou和Li讲一步提出Tri-Training算法 , 该算法使用了三个分类器进行设计 , 如果其中任意两个分类器对一个未标记样本预测类别一致 , 那么这个样本及其先前预测的标记样本将被作为训练样本添加到另外一个分类器中 , 扩大原有的标记数据集 , 从而参与训练 。
基于图的半监督学习方法是把数据(包含己标记的和未标记的)定义为图的节点 , 把图的边表示成数据之间的关系(相似度或者距离) 。 基于图的半监督学习方法主要缺点是计算复杂度高 。 如果边代表数据(节点)的相似度 , 则权重较大的边连接的两个数据(节点)更相似并趋向于有相同的标记;此外 , 一个数据(节点)的标记可以通过加权的边传递给它的近邻数据(邻节点) , 权重大的边传递标记更快更容易些 。 如果边代表数据(节点)间的距离 , 则该距离代表所有连接它们之间的最小路径 。 一个构造好的图可以反映出数据集中相关的邻域信息 。 基于图的方法是无参数的判别方法 , 大部分基于图的方法都是求解一个关于图的函数映射 。 该函数映射满足两个条件 , 一是在标记样本点上必须近似地等于给定的数据类别标记 , 二是该函数在整个图上不是凹凸不平的 , 而是光滑的 。
支持向量机的半监督学习也叫直推式支持向量机 , 是在支持向量机技术上的一-种扩展 。 对于分类来说 , 它是利用已有类别标记和未知类别标记在样本空间中寻找具有最大边缘的超平面 , 使得各个分类的样本间的间隔最大 。 因此 , 直推式支持向量机采用极少的已有类别标记和大量无标记的样本来进行训练 , 找出分类间隔最大 , 但分隔的对象是已有类别标记的数据和无类别标记的数据 。 这个分隔的边缘决策边界比那些具有较小边缘的决策边界具有更好的泛化误差 。
【半监督分类的方法有哪些?Pléiades数据 地质制图 水文遥感】主动学习的基本思想是学习机自行挑选出一些未标记示例并通过一定的准则获得这些示例的标记 , 然后再将这些有标记示例作为训练例来进行常规的监督学习 , 而其技术难点则在于如何使用尽可能少的查询来获得强泛化能力 。
针对遥感影像分类而言 , Bruzone等提出了一种新的直推SVM的遥感影像分类算法;Marconcini等提出了混合半监督SVM分类算法;Bruzzone和Persello针对训练样本的不可靠性 , 提出了基于上下文相关的半监督SVM分类算法;Camps-Valls等构建了基于图论的半监督分类算法 , 在高光谱遥感影像分类性能上优于SVM;Gomez等在核方法和图论的基础上 , 提出了LaplacianSVM半监督分类算法 , 使用小样本对城市扩展和云图进行分类 , 得出较高的分类精度;Munoz-Marí等分别提出了半监督one-classSVM和半监督主动查询分类算法;Tuia和Campusvalls分别构建了单尺度和多尺度聚类核半监督分类算法;Li等构建了基于多项Logistic回归模型和主动学习的半监督分类策略;Maulik和Chakraborty提出了一种基于自训练集成的半监督SVM分类算法 。