论文摘要：基于KL散度的混合模型聚类算法研究

聚类分析是模式识别、机器学习与计算机视觉领域的关键技术之一。传统的聚类分析基于“奥卡姆剃刀”通常直接由数据样本点出发，对样本点所从属的类别进行划分。这类判别式的聚类算法忽视了数据产生的机制，特别是对于已经给定的生成式模型，如何能够使大量的多模态模型元件进行模型简化较少被人关注。本文研究大规模高斯混合模型元件通过聚类学习简化模型的问题，通过合理设计聚类算法实现模型参数的学习，并针对层次聚类过程中模型元件聚合准则进行了深入的研究，引入最近邻信息熵估计器对模型元件加权以优化模型元件的聚合，最后将该算法应用于基于超像素的图像分割问题中取得了良好的对象提取效果。具体的研究内容包括以下几个方面：

首先，针对基于聚类思想的元件参数学习，讨论了两方面的关键问题。第一，针对聚类算法的核心元素——距离度量，详细归纳了两种概率密度分布之间的距离度量f散度和Bregman散度，并说明了他们之间的相互关系；第二，给出了聚类算法的两种评价指标精度和正则化互信息（NMI）。

其次，从信息论中的经典比率失真理论出发，采用KL散度作为元件之间的距离度量，通过“相似”元件的聚合建立起聚类前后混合模型之间的学习方法，并设计了相应的聚类算法。算法能够达到与经典聚类算法相似的聚类精度和NMI数值，算法综合了EM算法及高斯树学习两种经典的混合模型参数学习方法的优点，能够在一定的算法复杂度内实现对高斯参数的完整学习。

然后，针对“相似”元件在“最优”聚合过程中元件权值影响最终聚类效果的问题，提出引入非参数信息熵估计器评价元件的权值，为了能够保证混合模型满足归一性并在聚类过程保持一致性，设计了一个与非参数信息熵估计器的数值和当前元件所包含的样本数量有关的权值迭代方案，增强了“最优”聚合对大量样本聚集区域和高确定性元件的偏移。在该方法基础上给出混合模型元件聚类算法，验证了算法使目标函数具有更佳的收敛性能。

最后，将第三、四章设计的元件聚类算法应用在了基于超像素的图像分割问题中，得到了比几种经典图像分割方法更加鲁棒的解决方案。详细阐述了超像素的生成方法，提出采用Mustlink和Cannotlink两种约束表达人工辅助标注的前景和背景信息，并将这两种约束嵌入层次聚类算法中，实现了满意的图像对象提取效果。

来源：半壳优胜鲸鱼幸运星转载请保留出处和链接！

本文链接：http://87cpy.com/293606.html