学位论文 > 优秀研究生学位论文题录展示

支持向量回归机及其应用研究

作　者: 田英杰
导　师: 邓乃扬
学　校: 中国农业大学
专　业: 管理科学与工程
关键词: 支持向量机分类问题回归问题模型选择 LOO误差界
分类号: F224
类　型: 博士论文
年　份: 2005年
下　载: 2114次
引　用: 40次
阅　读: 论文下载

内容摘要

支持向量机是数据挖掘中的新方法。它是建立在统计学习理论基础之上的通用学习方法,并且已表现出很多优于已有方法的性能。目前在理论研究和实际应用两方面支持向量机正处于飞速发展的阶段。处理分类问题和回归问题的支持向量机分别称为支持向量分类机(SVC)和支持向量回归机(SVR),支持向量回归机无论在理论还是应用研究方面都没有支持向量分类机的研究工作深入和广泛,本文针对以下几个方面对支持向量回归机的理论和应用进行了研究和探讨: 1.模型选择问题决定了支持向量机实际应用的成功与否。对支持向量分类机,已经有了一些文献探讨如何选择最优参数,其最常用的评价标准是LOO误差界。对支持向量回归机目前还没有相应的结果。本文推导出三个支持向量回归机算法的LOO误差界,并在此基础上给出了一个新的支持向量回归机算法——LOO支持向量回归机; 2.本文给出了一个广义支持向量回归机模型,该模型的优化问题中含有一个可灵活选取的函数,通过该函数的不同选取,使其能够包含若干种已有的支持向量回归机模型,并且该广义模型不再要求核函数具有正定性,从而拓广了核函数的选择范围;把支持向量回归机中的原始凸二次规划问题转化为光滑的无约束问题,构建了无约束支持向量回归机,使得许多成熟有效的无约束最优化算法能够应用到支持向量回归机中去; 3.对标准的ε-SVR,我们给出了其两个导出途径:一是把回归问题转化为分类问题,利用SVC求解,推导出ε-SVR的原始最优化问题;二是对回归问题给出了相应于分类问题的间隔概念,利用最大间隔的思想推导出ε-SVR的原始问题; 4.目前支持向量回归机的研究都是基于有限维空间的优化理论,而对于无穷维空间则没有讨论。本文对无穷维空间中支持向量回归机的原始最优化问题和对偶问题的解的关系,给出了严谨的理论证明,完善了支持向量回归机的优化理论基础; 5.对小流域土壤侵蚀的预报问题,本文利用研究的理论结果建立小流域土壤侵蚀SVR预报模型,并根据最小化LOO误差界选择最优参数。与传统预报模型的比较结果表明了SVR预报模型的可行性和有效性,从而为支持向量回归机在新领域的应用做了有意义的尝试。

全文目录

第一章绪论  7-22
  1.1 研究背景  7-12
  1.2 支持向量回归机的基本思想  12-16
  1.3 支持向量回归机研究现状  16-19
  1.4 论文的研究内容  19-20
  1.5 论文的组织结构  20-22
第二章支持向量回归机理论基础  22-34
  2.1 统计学习理论  22-27
  2.2 优化理论  27-30
  2.3 核  30-32
  2.4 小结  32-34
第三章支持向量回归机模型  34-51
  3.1 e—支持向量回归机  34-40
  3.2 v—支持向量回归机  40-43
  3.3 其它形式的支持向量回归机  43-48
  3.4 求解支持向量回归机的算法  48-50
  3.5 小结  50-51
第四章支持向量回归机的分类导出途径  51-61
  4.1 构造e—带超平面的最大间隔回归算法  51-56
  4.2 从分类途径的导出  56-59
  4.3 支持向量回归机中的间隔  59-60
  4.4 小结  60-61
第五章支持向量回归机新模型  61-69
  5.1 广义的支持向量回归机  61-65
  5.2 无约束支持向量回归机  65-67
  5.3 小结  67-69
第六章模型选择和LOO—支持向量回归机  69-90
  6.1 模型选择问题  69-71
  6.2 算法的评价  71-72
  6.3 支持向量分类机的LOO误差界  72-74
  6.4 支持向量回归机的LOO误差界  74-87
  6.5 LOO支持向量回归机  87-89
  6.6 小结  89-90
第七章小流域土壤侵蚀的支持向量回归机预报模型  90-96
  7.1 问题提出  90-92
  7.2 线性规划SVR预报模型  92-93
  7.3 e—SVR预报模型  93-94
  7.4 小结  94-96
第八章总结与展望  96-99
  8.1 总结  96-98
  8.2 展望  98-99
参考文献  99-105
致谢  105-106
个人简历  106

支持向量回归机及其应用研究

内容摘要

全文目录

相似论文