学位论文 > 优秀研究生学位论文题录展示

流形学习方法理论研究及图像中应用

作　者: 黄启宏
导　师: 刘钊
学　校: 电子科技大学
专　业: 信号与信息处理
关键词: 流形学习本征维数核技巧等距特征映射单纯复形图像数据
分类号: TP391.41
类　型: 博士论文
年　份: 2007年
下　载: 1633次
引　用: 17次
阅　读: 论文下载

内容摘要

科学的进步，尤其是信息产业的发展，把我们带入了一个崭新的信息时代。在信息时代的科学研究中，不可避免地会遇到大量的高维数据，特别是图像数据。在实际应用中，用图像数据来表示的观测点可以模拟成可能带有噪声的低维非线性流形上的样本点或近似这些样本点。因此，流形学习已成为数据挖掘的一个重要手段，目的是找出图像高维空间中隐藏的低维结构或一些有益的性质。有一些因素影响着流形学习方法的效率。本征维数估计方法研究是高维图像数据处理领域的重要研究方向，如何准确地寻求本征维数可以帮助人们认识图像数据的本征结构，对于高维图像数据的维数约简以及其它的后续处理都具有重要的指导意义。虽然先前的研究指出了不同流形学习之间的联系，但是在核框架下来看不同流形学习之间的联系却是一个新的研究方向。黎曼正则坐标包含了流形中指定点到邻近点的方向和距离信息，如何将这种源于微分几何的技术应用到流形学习中也是值得研究的课题之一。对于这些问题，本文给出了比较完善的解答。本文的主要贡献如下：1．探讨了一种新的图像数据的本征维数估计算法。在没有流形几何或拓扑的先验知识的条件下，算法的关键在于如何构建一个基于流形切丛的近似单纯复形。这种算法的一个重要性质就是其计算复杂度只跟流形维数相关，而不是嵌入空间的维数相关。实验结果说明了本文算法在平面、空间上重建曲线、表面以及人脸图像本征维数估计中都取得了较好的效果，也分析了一个失败的情况。2．探讨了一种新的鲁棒流形学习方法。近年来提出的概率子空间混合模型对于图像流形学习是一种非常有用的方法，其对全局映射的缺乏可以由最近发展起来的基于局部线性嵌入，也称为局部线性坐标的方法来改善。然而，在很多存在野值点的实际应用中，这种方法缺乏必要的鲁棒性。这里给出了一种结合概率子空间混合模型的t分布的鲁棒混合模型。实验结果表明这种鲁棒子空间混合模型在图像数据集的密度估计和分类中具有非常好的优势。通过在嵌入步骤中引入重新定义的加权，很好的解决了局部嵌入坐标中的鲁棒性问题。3．首先，我们从核技术观点出发，对几种众所周知的流形维数约简算法进行了说明。Isomap，图Laplacian特征映射和局部线性嵌入(LLE)都利用一个局部邻域信息来构建流形的全局嵌入，可以看作基于特别构造的格莱姆矩阵的KPCA，揭示了三种算法之间的相似之处和不同之处。最后，Isomap是一个广泛使用的低维嵌入方法，是加权图的几何距离跟经典尺度分析(测度多尺度分析)相结合。我们将注意力集中在Isomap中没有考虑到的两个关键问题：(1)泛化能力；(2)拓扑稳定性。我们探讨了一种具备以上两种性质的鲁棒核Isomap方法，将Isomap和Mercer核机器联系起起来。通过KPCA，泛化能力也就自然呈现出来。对于拓扑稳定性，观察图中的网络流，我们探讨了一种消除临界野值点的方法。本文方法的泛化能力和稳定性在(图像)数据集的实验结果中也得到了证实。4．探讨了一种基于黎曼正则坐标的快速流形学习方法。这种坐标系统可以看成Euclidean空间的笛卡尔坐标的一种泛化。借助一些来自微分几何的基本概念以及使用Diikstra算法用于计算图最短路径，可以实现高维数据的维数约简。我们希望本文方法开启一种新的图像处理的分析方法，其中，坐标系统是从高维实验数据学习获得，而不是事先采用定义好的模型。

全文目录

摘要  5-7
ABSTRACT  7-13
第一章绪论  13-21
  1.1 流形学习  14-19
    1.1.1 数学基础  14-16
    1.1.2 流形学习发展历史  16-17
    1.1.3 常见几种流形学习分析  17-19
    1.1.4 流形学习应用  19
  1.2 主要研究工作  19-20
  1.3 小结  20-21
第二章流形学习方法简介  21-32
  2.1 等距映射  21-22
  2.2 局部线性嵌入  22-23
  2.3 Laplacian特征映射  23-25
    2.3.1 Laplace Beltrami算子  23-24
    2.3.2 Laplacian特征映射  24-25
  2.4 海赛局部线性嵌入  25-27
  2.5 局部切空间排列  27
  2.6 流形学习方法分析  27-30
  2.7 小结  30-32
第三章高维数据本征维数估计  32-47
  3.1 数学基础  33-35
  3.2 常见本征维数估计  35-37
    3.2.1 局部主成分分析估计方法  35-36
    3.2.2 包数法  36
    3.2.3 极大似然估计方法  36-37
  3.3 本征维数估计方法  37-46
    3.3.1 问题的提出  37-38
    3.3.2 算法过程  38-42
    3.3.3 算法讨论  42-43
    3.3.4 实验  43-46
  3.4 小结  46-47
第四章流形学习方法的鲁棒性问题研究  47-68
  4.1 子空间混合模型  47-51
    4.1.1 局部线性嵌入  47-49
    4.1.2 局部线性坐标  49-51
    4.1.3 实验  51
  4.2 鲁棒流形学习算法  51-56
    4.2.1 基于概率的子空间模型  52-54
    4.2.2 基于概率的主成分分析混合模型  54-55
    4.2.3 存在问题  55-56
  4.3 混合模型  56-62
    4.3.1 t-分布子空间混合模型  56-59
    4.3.2 实验  59-62
  4.4 改进鲁棒流形学习  62-66
    4.4.1 鲁棒局部线性坐标  62-64
    4.4.2 实验  64-66
  4.5 小结  66-68
第五章流形学习方法在核技术下的统一  68-88
  5.1 核技术  69-71
    5.1.1 核技术相关定义  69-70
    5.1.2 常用核函数及其构造  70-71
  5.2 核主成分分析回顾  71-73
    5.2.1 主成分分析  71
    5.2.2 核主成分分析  71-73
  5.3 流形学习与核技术  73-77
    5.3.1 等距映射与核技术  73-74
    5.3.2 Laplacian特征映射与核技术  74-75
    5.3.3 局部线性嵌入与核技术  75-76
    5.3.4 讨论  76-77
  5.4 基于核技术的Isomap  77-86
    5.4.1 问题提出  77
    5.4.2 K-Isomap-1  77-80
    5.4.3 泛化能力  80-82
    5.4.4 拓扑稳定性  82-83
    5.4.5 实验  83-86
  5.5 小结  86-88
第六章黎曼流形学习方法  88-94
  6.1 数学基础  88-89
  6.2 基于黎曼流形算法  89-90
  6.3 实验  90-91
  6.4 讨论  91-93
  6.5 小结  93-94
第七章总结和展望  94-96
致谢  96-97
参考文献  97-103
攻博期间取得的研究成果  103

流形学习方法理论研究及图像中应用

内容摘要

全文目录

相似论文