学位论文 > 优秀研究生学位论文题录展示

一种改进的核函数参数选择方法

作　者: 王梅
导　师: 刘叶玲
学　校: 西安科技大学
专　业: 应用数学
关键词: 支持向量机高斯核函数网格搜索法线性模式搜索法
分类号: O174
类　型: 硕士论文
年　份: 2011年
下　载: 248次
引　用: 2次
阅　读: 论文下载

内容摘要

支持向量机(SVM)是20世纪90年代由Vapnik等研究者,在统计学习理论体系框架下提出的一种新的通用的学习方法,它在解决小样本、非线性以及高维模式识别等问题中有很强的优势。应用支持向量机解决问题的时候,核函数及其相关参数的选择对结果好坏起着至关重要的作用,直接影响机器学习的分类性能。只有选择合适的核函数及其参数,才能得到具有良好推广能力的SVM分类器。虽然目前关于核函数及其参数的研究在理论和应用方面日趋走向成熟,但还不足以指导其参数选择。核函数参数是影响SVM分类性能的关键因素,但其选择方法目前国际上还没有形成统一的模式,最优SVM参数选择算法只能凭借经验,实验对比,或者大范围的搜寻来进行寻优。在众多的核函数参数选择方法中,网格搜索法是最常用而且比较有效的一种方法。本文主要研究的就是支持向量机核函数参数选择方法。本文主要讨论了支持向量机的核函数及其参数的以下几方面内容:首先,系统和全面的总结了支持向量机基础理论,介绍了VC维理论、结构风险化最小化原则,研究了SVM分类算法,分析了用于解决多类分类问题的策略。其次,分析了影响SVM训练性能、学习性能的几个重要因素。讨论了支持向量机中的常用的核函数参数选择方法,分析了双线性搜索法,模式搜索法,网格搜索法的优缺点,结合SVM核函数参数自身参数空间分布的特点,通过理论上的分析论证和实验比较提出了一种新的核函数参数选择方法—双线性模式搜索法。最后,通过仿真实验对本文所提方法与经典的网格搜索法在学习精度和运行时间两方面进行比较分析得出,利用本文所提方法训练得到的SVM分类机不仅有较高的学习精度而且其学习时间也大大缩短,从而证明本文所提方法的优越性,可行性。

全文目录

摘要  2-3
ABSTRACT  3-7
1 绪论  7-10
  1.1 研究背景  7
  1.2 研究现状  7
  1.3 研究意义  7-8
  1.4 主要研究内容与论文结构安排  8-10
    1.4.1 主要研究内容  8
    1.4.2 论文结构安排  8-10
2 支持向量机  10-23
  2.1 统计学习理论  10-14
    2.1.1 机器学习的基本模型  10-11
    2.1.2 经验风险最小化  11-12
    2.1.3 函数集的VC 维  12
    2.1.4 推广性的界  12-13
    2.1.5 结构风险最小化准则  13-14
  2.2 支持向量机理论  14-23
    2.2.1 线性支持向量机  15-17
    2.2.2 非线性支持向量机  17-19
    2.2.3 多分类支持向量机  19-23
3 支持向量机核函数及其参数  23-31
  3.1 支持向量机中的核函数  23-24
  3.2 核函数的特点及作用  24-25
  3.3 局部核函数和全局核函数  25-27
    3.3.1 局部核函数  26
    3.3.2 全局核函数  26-27
  3.4 核函数参数对SVM 推广能力的影响  27-28
  3.5 核函数参数对SVM 分类性能的影响  28-31
    3.5.1 高斯核参数分析  29-30
    3.5.2 误差惩罚参数C  30-31
4 核函数参数选择方法的改进—双线性模式搜索法  31-39
  4.1 关于核参数C 和γ选择调整的讨论  31
  4.2 核函数参数的意义  31-32
  4.3 核函数参数选择方法  32-37
    4.3.1 双线性搜索法及其特点分析  33-34
    4.3.2 模式搜索算法及其特点分析  34-35
    4.3.3 网格搜索法及其特点分析  35-37
  4.4 一种改进的核函数参数快速选择方法研究--双线性模式搜索法  37-39
5 仿真实验结果与分析  39-49
  5.1 随机选择的参数的实验  39
  5.2 选择惩罚参数的C 的实验  39-41
  5.3 选择核参数γ的实验  41-43
  5.4 双线性模式快速选择参数的实验和结果分析  43-44
  5.5 本文算法步骤  44-45
  5.6 实验数据预处理  45
  5.7 实验结果及分析  45-47
  5.8 本章小结  47-49
6 结论  49-50
  6.1 总结  49
  6.2 展望  49-50
致谢  50-51
参考文献  51-54
附录  54

一种改进的核函数参数选择方法

内容摘要

全文目录

相似论文