学位论文 > 优秀研究生学位论文题录展示

多层感知器神经网络的局部泛化误差模型

作　者: 杨飞
导　师: 杨苏
学　校: 哈尔滨工业大学
专　业: 计算机科学与技术
关键词: 局部泛化误差模型 多层感知器神经网络 随机敏感度测量 结构选择 图像标注
分类号: TP183
类　型: 硕士论文
年　份: 2008年
下　载: 27次
引　用: 0次
阅　读: 论文下载
 

内容摘要


多层感知器神经网络在模式识别、函数逼近、风险预测和控制等领域中有广泛的应用,泛化能力是评价多层感知器神经网络训练成功的重要标准。多层感知器神经网络从训练样本提取“知识”,实现从输入空间到输出空间的映射,最后用训练过的多层感知器神经网络分类器对新到来的未知样本进行有效的分类。现有的评价多层感知器神经网络泛化能力的方法主要有两类:解析模型和交叉验证方法。解析模型提供了一种数学的方法来评价多层感知器神经网络的泛化能力,而交叉验证方法是一种实验性方法来评价多层感知器神经网络泛化能力。这些方法有以下缺点:不能区分有相同隐藏层神经元数而权值不同的网络的泛化能力、忽略了未知样本和训练样本之间存在多大差异、对大的数据集时间复杂度比较高。在实际应用中,对于一个特定的分类问题,期望训练的多层感知神经网络分类器能够正确识别与训练样本相差很大的未知样本是不合理的。这是本文研究多层感知器神经网络局部泛化误差模型的动机所在。局部泛化误差模型利用与训练样本“相似”的未知样本来确定训练网络泛化误差上界。未知样本与训练样本是“相似”的,如果这个未知样本特征值与训练样本的特征值的差异小于给定的实数值Q。局部泛化误差模型包括训练集误差,随机敏感度测量和给定训练集常数。在局部泛化误差模型中,训练误差和随机敏感度测量之间达到最好的折中时有最小化的局部泛化误差。在本文中,用局部泛化误差模型对多层感知器神经网络进行结构选择。即对于给定的分类问题,选择的隐藏层神经元数的多层感知器神经网络具有最好的泛化能力。用15个UCI数据集实验仿真,实验结果表明用局部泛化误差模型进行多层感知器神经网络结构选择的方法结果好于其他现有的几种方法。最后多层感知器神经网络的局部泛化误差模型应用到图像标注问题中,实验结果表明该方法有很好的应用前景。

全文目录


摘要  4-5
Abstract  5-9
第1章 绪论  9-18
  1.1 课题背景  9
  1.2 本课题研究的目的及意义  9-11
  1.3 国内外研究历史和现状  11-16
    1.3.1 多层感知器神经网络的历史与研究现状  11-15
    1.3.2 泛化误差模型的研究现状  15-16
  1.4 本课题特色与创新之处  16-17
  1.5 课题主要研究内容和本文结构  17-18
第2章 MLPNN 的原理、参数选择与泛化能力  18-36
  2.1 MLPNN 的基本原理  18-26
    2.1.1 MLPNN 的设计思想  18
    2.1.2 MLPNN 结构  18-20
    2.1.3 MLPNN 的特点和优点  20-21
    2.1.4 BP 算法的数学原理  21-24
    2.1.5 BP 算法步骤  24-26
  2.2 MLPNN 结构与训练参数的选取  26-31
    2.2.1 输入、输出层节点选定及数据的预处理  26
    2.2.2 MLPNN 结构的确定  26-27
    2.2.3 训练样本的选取  27
    2.2.4 训练参数的选取  27-29
    2.2.5 训练MLPNN  29-30
    2.2.6 合理MLPNN 模型的确定  30-31
  2.3 MLPNN 的泛化能力  31-34
    2.3.1 MLPNN 泛化能力的提出  31-32
    2.3.2 MLPNN 泛化能力的数学根源  32-34
    2.3.3 MLPNN 泛化能力的逻辑根源  34
  2.4 本章小结  34-36
第3章 基于局部泛化误差模型的MLPNN 结构选择方法  36-50
  3.1 引言  36-37
  3.2 Q 邻域与Q 联合  37-38
  3.3 局部泛化误差模型  38-39
  3.4 MLPNN 的随机敏感度测量  39-45
  3.5 MLPNN 的结构选择  45-48
    3.5.1 MLPNN 的结构选择的研究现状  45-46
    3.5.2 Q 值的意义  46-47
    3.5.3 用RSM*对MLPNN 进行架构选择  47-48
  3.6 本章小结  48-50
第4章 实验结果分析  50-58
  4.1 引言  50
  4.2 实验环境  50
  4.3 UCI 标准数据库实验  50-55
    4.3.1 实验建立  50-54
    4.3.2 实验结果分析  54-55
  4.4 图像标注实验  55-57
  4.5 本章小结  57-58
结论  58-59
参考文献  59-63
攻读硕士学位期间发表的论文  63-65
致谢  65

相似论文

  1. 基于稀疏回归模型的图像标注研究,TP391.41
  2. 风险与资本结构选择,F275
  3. ZnO超疏水结构的微纳米制造及润湿性研究,TB383.1
  4. 基于局部泛化误差的半监督图像检索方法,TP391.41
  5. 面向图像标注的图像分割与特征提取技术研究,TP391.41
  6. CG图像和相机图像的检测与分类标注,TP391.41
  7. 基于机器学习算法的自动图像标注,TP391.41
  8. 基于Semi-CCA的自动图像标注研究,TP391.41
  9. 基于本体的材料腐蚀特征信息检索模型及应用技术研究,TP391.41
  10. 基于本体的图像检索技术研究,TP391.3
  11. 基于场景语义图像标注关键技术的研究,TP391.41
  12. 基于图学习的唐卡图像自动标注技术研究,TP391.41
  13. 农户土地规模经营意愿和种植选择行为的实证研究,F321.1
  14. 基于区域特征的有监督图像语义标注,TP391.41
  15. 局部泛化误差模型的改进及其在特征选择中的应用,O157.5
  16. 基于敏感性分析的神经网络结构选择研究,TP183
  17. 融合视觉与语义双模态信息的自动图像标注,TP391.41
  18. 基于用户交互的web图像标注框架设计与实现,TP391.41
  19. 我国上市公司融资行为的治理效应研究,F275
  20. 顺应论视角下的化妆品品牌翻译,H315.9

中图分类: > 工业技术 > 自动化技术、计算机技术 > 自动化基础理论 > 人工智能理论 > 人工神经网络与计算
© 2012 www.xueweilunwen.com