学位论文 > 优秀研究生学位论文题录展示

稀疏编码算法及其应用研究

作　者: 尚丽
导　师: 黄德双
学　校: 中国科学技术大学
专　业: 模式识别与智能系统
关键词: 自然图像稀疏表示稀疏编码非负稀疏编码非负矩阵分解稳健自适应主分量分析基于Winner-take-all的独立分量分析特征提取图像去噪掌纹图像径向基概率神经网络分类器
分类号: TN911.2
类　型: 博士论文
年　份: 2006年
下　载: 1421次
引　用: 13次
阅　读: 论文下载

内容摘要

本文所研究的自然图像的稀疏编码(sparse coding，SC)算法(即神经稀疏表示法)是一种模拟哺乳动物视觉系统主视皮层V1区简单细胞感受野的人工神经网络方法，这种方法可以成功模拟V1区简单细胞神经元感受野的三个特性：空间的局部性、方向性和频域的带通性(在不同的空间尺度上具有选择性)。而且，这种方法编码方式的实现仅依靠外界感知信息的统计特性，并不依赖于输入数据的性质，因而是一种自适应的信号统计方法。目前，稀疏编码技术已被广泛应用于语音信号分离、视觉图像处理、生物DNA微阵列数据分类和模式识别等诸多领域。但是，由于神经生理学家目前对主视皮层V1区的了解仍然知之甚少，所以稀疏编码技术尚处于发展阶段，其在理论和应用方面的研究还有待于进一步深化和完善。本文首先回顾了初级视觉系统的生物背景知识以及SC问题的发展历史、研究现状和存在问题，并对SC问题进行了简单的数学描述。然后针对一些SC算法和应用问题进行了深入的研究，提出了一些有效的SC方法，并对现有的一些方法做出了相应的改进和完善。全文的主要研究工作可以概括如下： 1、提出了一种扩展的建模主视皮层V1区简单细胞感受野的SC算法。经典的SC算法收敛速度很慢，而且不能同时完全保证系数分量的稀疏性和独立性，其目标函数中也没有保证最大化稀疏性和最小图像重构误差平衡的约束项。针对这些问题，我们使用峭度的绝对值作为系数分量的稀疏性度量标准，可以同时保证系数分量的稀疏性和独立性；同时在目标函数中引入固定系数分量方差项，保证了图像最小重构误差和稀疏性惩罚函数之间的平衡。另外，为了快速地找到最优基向量，我们使用Gabor小波基初始化SC的特征基函数，使得该基函数具有一定的类似V1简单细胞感受野的初始结构，进一步提高了SC网络的收敛速度； 2、基于我们提出的SC模型，为自然图像的特征提取和压缩提供了一种基于视觉信息处理的新途径。传统的图像特征提取方法是建立在数字信息处理和概率统计的基础上，与人眼视觉系统强大而复杂的信息处理能力仍相差甚远，因此，基于视觉特征的自然图像特征提取方法要优于传统的特征提取方法。本文提出的

全文目录

摘要  3-5
ABSTRACT  5-12
表格目录  12-13
插图目录  13-15
第一章绪论  15-31
  1.1 研究背景和意义  15-16
  1.2 初级视觉系统概述  16-19
  1.3 稀疏编码的数学描述  19-21
  1.4 稀疏编码的研究历史  21-22
  1.5 稀疏编码的研究现状及存在问题  22-24
  1.6 本文的内容安排  24-25
  1.7 本文主要创新点  25-27
  参考文献  27-31
第二章主视皮层V1区神经元的建模和自然图像的神经稀疏编码  31-45
  2.1 主视皮层V1区神经元的建模  31-33
  2.2 自然图像的神经稀疏编码  33-37
    2.2.1 自然图像的概念及其状态空间  33
    2.2.2 自然图像的线性稀疏编码  33-36
    2.2.3 稀疏编码与ICA的关系  36-37
  2.3 基础预备知识  37-42
    2.3.1 独立和不相关的概念  37-38
    2.3.2 高阶特性  38-39
    2.3.3 峭度  39-40
    2.3.4 中心化和PCA预白化  40-42
      2.3.4.1 中心化(去均值)  40-41
      2.3.4.2 PCA预白化  41-42
  2.4 本章小结  42-43
  参考文献  43-45
第三章基于峭度稀疏性度量准则的稀疏编码及应用  45-73
  3.1 引言  45-46
  3.2 标准稀疏编码算法  46-48
  3.3 基于峭度稀疏性测度的稀疏编码算法  48-54
    3.3.1 目标函数的建模  49-50
    3.3.2 使用Gabor小波基初始化基函数  50-53
    3.3.3 学习规则  53-54
  3.4 基于SC的图像特征提取  54-63
    3.4.1 问题的提出  55
    3.4.2 图像数据的分块预处理  55-56
    3.4.3 模拟实验结果和相关讨论  56-63
      3.4.3.1 应用条纹图像模拟幼猫实验  56-58
      3.4.3.2 特定稀疏像素图像的特征提取  58-59
      3.4.3.3 自然图像的特征提取  59-61
      3.4.3.4 自然图像的重构  61-62
      3.4.3.5 图像重构的比较实验  62-63
  3.5 基于SC的自然图像压缩  63-69
    3.5.1 SC用于图像压缩的可行性  63-64
    3.5.2 SC压缩步骤  64-65
    3.5.3 实验结果和相关讨论  65-69
  3.6 本章小节  69-70
  参考文献  70-73
第四章基于非负稀疏编码的自然图像消噪  73-111
  4.1 引言  73-75
  4.2 NMF算法  75-76
    4.2.1 NMF的基本概念  75
    4.2.2 NMF的学习规则  75-76
  4.3 Hoyer的NNSC算法  76-78
    4.3.1 代价函数  76-77
    4.3.2 学习规则  77-78
  4.4 扩展的NNSC算法  78-90
    4.4.1 先验稀疏密度模型的选择  79-84
      4.4.1.1 拉普拉斯密度模型  79
      4.4.1.2 MSD密度模型  79-80
      4.4.1.3 SSD密度模型  80-81
      4.4.1.4 NIG密度模型  81-84
    4.4.2 扩展NNSC模型  84-85
    4.4.3 建模目标函数  85
    4.4.4 扩展NNSC算法的描述  85-90
      4.4.4.1 稳健PCA  86-88
      4.4.4.2 PRP共轭梯度下降算法  88
      4.4.4.3 基向量和系数分量的更新规则  88-90
  4.5 扩展的NNSC算法在自然图像消噪中的应用  90-106
    4.5.1 小波收缩法  91-92
    4.5.2 基于FastICA的SC收缩法  92-93
    4.5.3 收缩函数的选择  93-95
    4.5.4 NNSC收缩规则  95-96
    4.5.5 消噪结果和相关讨论  96-106
      4.5.5.1 图像数据的输入  96-97
      4.5.5.2 基于二参数估计的稀疏密度模型的消噪实验  97-103
      4.5.5.3 基于NIG稀疏密度模型的消噪实验  103-106
  4.6 本章小结  106-107
  参考文献  107-111
第五章 WTA-ICA稀疏表示在掌纹图像识别中的应用研究  111-141
  5.1 引言  111-113
  5.2 l~∞范数稀疏性度量标准  113-115
  5.3 基于Winner-take-all规则的ICA算法描述  115-120
    5.3.1 代价函数  115-116
    5.3.2 更新权值矩阵  116-117
    5.3.3 有效估计量  117-119
    5.3.4 基于遗忘均值的权值更新规则  119-120
  5.4 掌纹图像的WTA-ICA稀疏表示  120-124
    5.4.1 WTA-ICAⅠ稀疏表示:统计独立的特征基图像  121-123
    5.4.2 WTA-ICAⅡ稀疏表示:统计独立的特征系数  123-124
  5.5 径向基概率神经网络模型  124-127
    5.5.1 RBPNN模型  124-125
    5.5.2 RBPNN的映射特性  125-126
    5.5.3 RBPNN的ROLSA结构优化算法  126-127
  5.6 模拟实验和讨论  127-137
    5.6.1 掌纹图像数据的预处理  128-130
    5.6.2 基于FCM算法的基向量的初始化  130-131
    5.6.3 识别率  131-135
    5.6.4 标准误差率  135-137
  5.7 本章小结  137
  参考文献  137-141
总结与展望  141-144
攻读博士学位期间发表的论文、参加的科研项目及获奖情况  144-147
致谢  147

稀疏编码算法及其应用研究

内容摘要

全文目录

相似论文