学位论文 > 优秀研究生学位论文题录展示

求解高维多目标优化问题的流形学习算法研究

作　者: 詹炜
导　师: 戴光明
学　校: 中国地质大学
专　业: 地学信息工程
关键词: 卫星星座设计流形学习高维多目标优化自组织映射局部线性嵌入
分类号: TP301.6
类　型: 博士论文
年　份: 2013年
下　载: 236次
引　用: 0次
阅　读: 论文下载

内容摘要

在科学研究中经常遇到多目标优化问题(Multi-Objective Optimization Problems,MOPs)。一个多目标优化问题通常包含多个相互冲突的子目标,要找到满足所有目标的设计方案,就要解决多目标与多约束之间的冲突。多目标优化问题应用范围广泛,涉及工程优化与设计、运筹学、生物医学、数据挖掘等诸多领域。因此,本文重点研究一类决策空间数据维度高、且决策空间解集分布呈非线性的多目标优化问题,即高维多目标优化问题(High-Dimensional Multi-Objective Optimization Problems)。传统的演化多目标优化算法和模型多目标优化是求解多目标优化问题的两种有效方法,但各有其优缺点：(1)对于某一类连续多目标优化问题,其Pareto解集在决策空间的分布是一个分段连续的(m-1)维“流形”(其中m是目标个数),传统演化多目标优化算法没有利用上述Pareto解集在决策空间的分布具有“流形”结构这一特性。另一方面,在传统演化多目标优化算法中,当种群接近收敛时,盲目交叉、变异操作会使本已近似收敛的种群偏离实际的Pareto解集(Pareto Set, PS),给算法性能造成不良影响；(2)鉴于传统演化多目标优化算法的不足,学者们提出了模型多目标优化,通过统计学习的方法建立问题决策空间分布模型,然后对该模型随机采样繁殖新的子代个体,如此反复,进而实现种群收敛,但是模型多目标优化算法也有不足：算法建模采用的是线性方法,如Local PC A、 PCA等,对于高维的非线性数据,线性方法建模过程复杂且模型不准确。“流形学习”算法能挖掘高维非线性数据集中蕴含的整体几何和拓扑规律,这种规律本质上不依赖于数据集的实际观测维数,也就是说：“流形学习”算法能发现嵌入在高维数据空间的低维光滑“流形”结构。因此,本文将“流形学习”算法引入到高维多目标优化算法中,提出一种名为“流形学习多目标优化算法”的新型多目标优化算法,以克服传统演化多目标优化算法和模型多目标优化算法的不足,利用“流形学习”算法降低高维多目标优化问题决策空间的数据维度,挖掘决策空间中内蕴的“流形”结构,建立准确的决策空间模型,指导算法演化,加速收敛。全文主要工作分为五个方面：(1)针对传统演化多目标优化算法和模型多目标优化算法的缺点,提出一种能直接通过“流形学习”算法挖掘高维多目标问题决策空间非线性模型的新型优化算法——流形学习多目标优化算法,提出一种通用的基于流形学习的多目标优化算法框架,方便相关后续研究。(2)为合理的评测算法性能,全面分析常用多目标测试函数决策空间及目标空间的几何分布形状,针对性选择高维多目标测试函数,选定算法性能评价指标,用于算法评测。(3)提出两大类流形学习多目标优化算法：基于自组织映射网络的多目标优化算法和基于局部线性嵌入的多目标优化算法。①分析自组织映射网络(Self-Organizing Maps,SOM)算法特性,针对基于规则模型的多目标分布估计算法(A Regularity Model-based Mul tiobjective Estimation of Distribution Algorithm, RM-MEDA)采用Local PCA聚类建立局部线性模型的不足,提出基于自组织映射的流形学习多目标优化算法(Multi-Objective Evol utionary Algorithm via Self-Organizing Maps,SOM-MOEA), SOM-MOEA先利用SOM神经元向种群流形学习,然后采用随机噪音向量“扩展”SOM神经元的策略来繁殖下一代个体,从而建立问题决策空间的“流形”结构,指导算法演化。②在SOM-MOEA和RM-MEDA算法中,分别采用了随机噪音向量扩展SOM神经元和聚类主成分的策略来繁殖种群个体,这种“扩展”过程具有盲目性,会破坏已经建立好的种群模型,针对上述SOM-MOEA和RM-MEDA算法不足,提出一种基于局部线性嵌入的流形学习多目标优化算法(Multi-Objective Evolutionary Algorithm via Locally Linear Embedding,LLE-MOEA),对比SOM-MOEA和RM-MEDA, LLE-MOEA最大的改进在于：LLE-MOEA能在不使用“扩展”策略的前提下,利用局部线性嵌入算法直接挖掘优化问题决策空间中内蕴的“流形”,由此“流形”上的数据点集直接繁殖下一代种群个体,无需“扩展”,从而建立问题决策空间的非线性模型,指导算法快速收敛。在此基础之上,进一步利用基本局部线性嵌入算法的改进算法：监督局部线性嵌入和Hessian局部线性嵌入,又分别提出了SLLE-MOEA (Multi-Objective Evolutionary Algorithm Based on Supervised Locally Linear Embedding)和HLLE-MOEA (Multi-Objective Evol-utionary Algorithm Based on Hessian Locally Linear E mbedding,HLLE-MOEA)两种流形学习多目标优化算法。(4)通过变量无关、线性相关和非线性相关三类多目标测试函数测试算法,结论如下：①当LLE、SLLE及HLLE算法单独用于数据降维时,其邻域参数k对最终降维效果影响大,但是当LLE、SLLE及HLLE用于本文提出的流形学习多目标优化算法时,算法性能表现出对LLE邻域参数k值不敏感,实验求得本文算法中的最优k=2,过大的k值不但会增加计算量,而且还会破坏决策空间流形结构,进一步实验表明LLE-MOEA算法适合求解变量无关型多目标优化问题。②LLE-MOEA算法表现出对SLLE算法类别参数a的敏感性,盲目添加类别信息会破坏种群流形结构。由于a值代表数据集中点之间的类别信息,因此,SLLE-MOEA算法适合求解变量线性相关型多目标优化问题。③对于变量非线性相关多目标优化问题,SOM-MOEA算法更优,原因在于SOM-MOEA的神经元繁殖策略适当增加了优化问题决策空间数据点的多样性。④SOM-MOEA和LLE-MOEA算法的收敛性和多样性优于RM-MEDA和NSGA-II。(5)利用流形学习多目标优化算法求解卫星星座设计问题。经过对卫星星座设计问题特性的分析发现：卫星星座设计问题涉及多种准则和优化指标,问题目标复杂甚至没有解析表达式,是典型的高维工程多目标优化问题,流形学习多目标优化算法适合求解此类问题。较传统的几何解析法和基于仿真的方法,流形学习方法具有明显优势,主要体现在：流形学习多目标优化算法可以降低卫星星座设计问题决策空间维度,扩展卫星星座设计问题的探索空间,能快速设计出均匀或不对称的卫星星座。利用本文提出的SOM-MOEA、 LLE-MOEA、SLLE-MOEA、HLLE-MOEA四种流形学习多目标优化算法求解区域覆盖卫星星座设计问题,实验表明：流形学习多目标优化算法确实能够降低卫星星座设计问题决策空间数据维度,挖掘问题决策空间中内蕴的“流形”结构,加速算法收敛,且性能优于RM-MEDA和NSGA-Ⅱ。综上所述,本文针对传统演化多目标优化算法和模型多目标优化算法的不足,提出一类基于流形学习的多目标优化算法,算法通过挖掘优化问题决策空间中内蕴的“流形”结构来直接繁殖下一代种群个体,建立准确的决策空间模型,指导算法演化,加速种群收敛。通过测试函数及卫星星座设计应用,验证了流形学习多目标优化算法在求解卫星星座设计这一类高维多目标工程优化问题上的有效性。本文的研究不仅丰富了多目标优化算法理论,而且将为流形学习算法的应用提供新的研究方向。

全文目录

作者简介  6-8
摘要  8-11
ABSTRACT  11-20
第1章绪论  20-23
  §1.1 引言  20-21
  §1.2 本文工作及章节安排  21-23
    1.2.1 主要工作  21-22
    1.2.2 全文章节安排  22-23
第2章流形学习多目标优化算法  23-42
  §2.1 流形学习算法  23-32
    2.1.1 数据降维  23-24
    2.1.2 线性降维  24-25
    2.1.3 流形学习的数学定义  25-27
    2.1.4 流形学习研究现状  27-31
    2.1.5 流形学习的研究内容  31
    2.1.6 流形学习算法框架  31-32
  §2.2 基于流形学习的多目标优化算法  32-41
    2.2.1 多目标优化问题  32-34
    2.2.2 演化多目标优化算法  34-35
    2.2.3 模型多目标优化算法  35-37
    2.2.4 流形学习多目标演化算法研究现状  37
    2.2.5 流形学习多目标优化算法框架  37-41
  §2.3 本章小结  41-42
第3章多目标优化测试函数  42-56
  §3.1 多目标测试函数决策空间特性  42-46
  §3.2 多目标测试函数最优前沿特征  46-47
  §3.3 典型多目标测试集分析  47-50
    3.3.1 ZDT测试集(ZDT Test Suite)  47-49
    3.3.2 DTLZ测试集(DTLZ Test Suite)  49-50
  §3.4 本文测试函数  50-53
  §3.5 本文算法性能评价指标  53-55
  §3.6 本章小结  55-56
第4章基于自组织映射网络的流形学习多目标优化算法  56-68
  §4.1 SOM-MOEA算法思想  56-57
  §4.2 SOM-MOEA算法流程  57
  §4.3 SOM算法及SOM-MOEA建模过程  57-61
    4.3.1 Self-Organizing Maps算法  57-60
    4.3.2 SOM-MOEA流形建模过程  60-61
  §4.4 算法测试与结果分析  61-66
    4.4.1 实验参数设置  61-62
    4.4.2 实验结果与分析  62-66
  §4.5 本章小结  66-68
第5章基于局部线性嵌入的流形学习多目标优化算法  68-95
  §5.1 LLE-MOEA算法思想  68-69
  §5.2 LLE-MOEA算法流程  69
  §5.3 LLE算法及LLE-MOEA流形学习过程  69-79
    5.3.1 LLE算法原理  69-72
    5.3.2 LLE-MOEA流形学习过程  72-74
    5.3.3 LLE-MOEA性能受LLE邻域参数k的影响研究  74-77
    5.3.4 LLE-MOEA实验结论  77-79
  §5.4 SLLE-MOEA算法  79-84
    5.4.1 SLLE算法原理  79
    5.4.2 SLLE-MOEA性能受SLLE类别参数α的影响研究  79-82
    5.4.3 SLLE-MOEA实验结论  82-84
  §5.5 HLLE-MOEA算法  84-85
    5.5.1 HLLE-MOEA算法原理  84
    5.5.2 HLLE算法步骤  84-85
  §5.6 LLE-MOEA/SLLE-MOEA/HLLE-MOEA算法性能评测  85-94
    5.6.1 参数设置  85-86
    5.6.2 LLE-MOEA/SLLE-MOEA/HLLE-MOEA性能对比  86-91
    5.6.3 LLE-MOEA与SOM-MOEA性能对比  91-93
    5.6.4 实验结论  93-94
  §5.7 本章小结  94-95
第6章流形学习多目标优化算法在卫星星座设计中的应用研究  95-104
  §6.1 卫星星座设计  95-97
    6.1.1 卫星星座  95
    6.1.2 卫星星座设计方法  95
    6.1.3 卫星星座设计问题的高维特性  95-96
    6.1.4 基于演化算法的卫星星座设计研究现状  96-97
  §6.2 基于流形学习多目标优化算法的卫星星座设计  97-100
    6.2.1 轨道六根数  97
    6.2.2 星座覆盖性能计算  97-98
    6.2.3 星座设计染色体编码  98-99
    6.2.4 卫星星座设计模型及算法流程  99
    6.2.5 卫星星座染色体适应度计算  99-100
  §6.3 本文算法在卫星星座设计中应用及分析  100-103
    6.3.1 星座问题定义  100-101
    6.3.2 实验参数设置  101
    6.3.3 优化结果及分析  101-103
  §6.4 本章小结  103-104
第7章总结与展望  104-106
  §7.1 全文总结  104
  §7.2 今后工作展望  104-106
致谢  106-108
参考文献  108-116

求解高维多目标优化问题的流形学习算法研究

内容摘要

全文目录

相似论文