学位论文 > 优秀研究生学位论文题录展示

委员会机器模型及其应用

作　者: 金健
导　师: 黄国兴
学　校: 华东师范大学
专　业: 系统分析与集成
关键词: 委员会机器人工神经网络聚类模块化类规模
分类号: TP183
类　型: 博士论文
年　份: 2008年
下　载: 67次
引　用: 0次
阅　读: 论文下载

内容摘要

委员会机器是由一个门网络和多个专家神经网络组成的模块化集成系统。门网络将任务划分成多个子任务,专家神经网络各自承担全局任务中的一项子任务,最后将各子任务的解进行组合,实现对全局任务的求解。大量文献已经证实,整个系统的泛化性能可通过联合多个简单专家网络并组成委员会机器的方法得以提高。但在现实应用中,人们常因问题太复杂而无法对任务进行准确分解;由于现实问题的复杂程度千差万别,导致对委员会机器中专家网络“简单”程度把握的困难。因此,如何自动地更准确划分任务并为各子任务分配合适的专家网络,成为发挥委员会机器潜在性能的关键。针对这些问题,本文着重做了以下工作:1.传统的委员会机器使用模糊C均值算法(FCM)对样本集进行聚类,以实现分解任务的目的。针对FCM算法只能对类别规模相似的数据集进行聚类的情况,提出了含影响力因子的模糊C均值算法(FCMef)。为每个类别都赋予一个影响力因子,使各类别的规模可以通过影响力因子得以控制。利用影响力因子指数来调节各类别的影响力对比度,使FCM算法和FCMef算法统一到一个通用的模型中。2.提出了自适应的含影响力因子的模糊C均值算法(AFCMef)及相对更稳定的两阶段AFCMef算法。在FCMef算法中:1)影响力因子取值较大时更能体现类别间的规模差异;2)如果影响力因子过大,则会出现类别消失的迹象。AFCMef算法利用上述两个现象,启发式地寻找最优影响力因子指数。3.针对传统的委员会机器中采用单层线性网络作为专家网络时“简单”程度过于单一的情况,对单层非线性专家网络作了推广,并最终推广到了采用多层BP网络作为专家网络的更一般情况。4.概括了神经网络(专家网络)训练的一般过程,总结了训练过程中对训练结果的影响因素,从训练策略的角度提出了积极训练策略和消极训练策略。5.分别对降水、南中国海台风移动路径和恶意代码行为特征三类实际数据进行实验,肯定了委员会机器及本文对它所做的一些改进的作用。特别地,在利用降水数据对改进的委员会机器模型进行参数建模,得到三个关键参数在模型中取得较好预测效果时取值的相互关系规律,为同类问题的参数取值提供参考。

全文目录

摘要  6-7
ABSTRACT  7-17
符号说明  17-19
第1章绪论  19-37
  1.1 委员会机器的产生背景  19-22
    1.1.1 人工神经网络的产生和发展  19-20
    1.1.2 委员会机器的产生  20-22
  1.2 委员会机器国内外研究现状  22-28
    1.2.1 相关概念  22-24
    1.2.2 委员会机器的优势和条件  24
    1.2.3 委员会机器的结构  24-28
  1.3 专家混成系统与模块化模糊神经网络(MFNN)  28-33
    1.3.1 Modular模糊神经网络的网络结构  29-30
    1.3.2 Modular模糊神经网络的门网络训练  30-33
    1.3.3 Modular模糊神经网络的专家网络训练  33
  1.4 内容及组织结构  33-37
    1.4.1 委员会机器模型存在的若干问题  33-35
    1.4.2 研究目标及组织结构  35-37
第2章基于门网络的改进技术  37-77
  2.1 C均值目标函数  37-38
  2.2 含影响力因子的硬聚类算法(HCMef)  38-62
    2.2.1 HCM算法回顾  38-40
    2.2.2 HCMef算法  40-52
    2.2.3 自适应HCMef算法(AHCMef)和两阶段聚类策略  52-58
    2.2.4 AHCMef算法实验  58-62
  2.3 含影响力因子的模糊聚类算法(FCMef)  62-74
    2.3.1 FCM算法回顾  62-63
    2.3.2 FCMef算法  63-69
    2.3.3 AFCMef算法和两阶段聚类策略  69
    2.3.4 AFCMef算法实验  69-74
  2.4 小结  74-77
第3章基于专家网络的改进技术  77-111
  3.1 含单层专家网络的委员会机器模型  77-93
    3.1.1 线性神经元  77-80
    3.1.2 线性委员会机器  80-84
    3.1.3 S形神经元  84-89
    3.1.4 S形委员会机器  89-93
  3.2 含多层专家网络的委员会机器模型  93-110
    3.2.1 BP网络概况  93-95
    3.2.2 BP网络结构  95-97
    3.2.3 BP训练算法回顾  97-106
    3.2.4 BP网络应用于委员会机器  106-109
    3.2.5 增加专家数量与提高单个专家能力  109-110
  3.3 小结  110-111
第4章神经网络训练策略  111-131
  4.1 训练策略相关因素  111-125
    4.1.1 训练过程  111-112
    4.1.2 结束训练条件  112-114
    4.1.3 权值更新条件  114-115
    4.1.4 增量训练与批量训练  115-118
    4.1.5 学习率调整技术  118-125
  4.2 消极和积极训练策略  125-128
  4.3 小结  128-131
第5章实验数据模拟  131-149
  5.1 实际数据介绍  131-133
    5.1.1 DS_RAINFALL数据集  131
    5.1.2 DS_TYPHOON数据集  131
    5.1.3 DS_VIRUS数据集  131-133
  5.2 数据模拟结果  133-149
    5.2.1 线性委员会机器对DS_RAINFALL数据集的比较分析  133-137
    5.2.2 线性委员会机器对DS_RAINFALL数据集的参数建模  137-140
    5.2.3 BP委员会机器对DS_RAINFALL数据集的测试  140-141
    5.2.4 线性委员会机器对DS_TYPHOON数据集的测试  141-143
    5.2.5 委员会机器对DS_VIRUS数据集的测试  143-149
第6章结论及展望  149-153
  6.1 本文小结及主要创新点  149-150
  6.2 本文局限不足和今后研究方向  150-153
致谢  153-155
参考文献  155-163
作者在学期间取得的学术成果  163-165
附录A 完整数据  165-171
  A.1 Sine曲线(DS_SINE)  165-166
  A.2 非线性方程数据  166-168
    A.2.1 Takagi-Sugeno连续数据(DS_TS_C)  166-167
    A.2.2 Takagi-Sugeno离散数据(DS_TS_D)  167-168
  A.3 Zimm数据(DS_ZIMM)  168-169
  A.4 两类相同规模点集(DS_C2E)  169
  A.5 两类不同规模点集(DS_C2UE)  169-170
  A.6 多类不同规模点集(DS_CNUE)  170-171

委员会机器模型及其应用

内容摘要

全文目录

相似论文