学位论文 > 优秀研究生学位论文题录展示

基于集成学习模式的Boost-SVM算法研究

作　者: 任芳
导　师: 张晓龙
学　校: 武汉科技大学
专　业: 计算机应用技术
关键词: 集成学习 Adaboost算法 Boosting算法支持向量机(SVM)
分类号: TP181
类　型: 硕士论文
年　份: 2008年
下　载: 281次
引　用: 2次
阅　读: 论文下载

内容摘要

集成学习是一种新的机器学习范式,它使用多个学习器来解决同一个问题,能够显著地提高学习系统的泛化能力,因此从20世纪90年代开始,集成学习逐渐成为了机器学习领域的一个新的热点。在实际分类问题中,为了减少损失和失误的概率,往往会对分类方法提出更高的要求,使其达到尽可能高的分类精确率,例如,行星探测、地震波分析、Web信息过滤、生物特征识别、计算机辅助医疗诊断等一些需要精确分类的实际项目。集成学习方法目前还不能满足这样的高精度要求。基于此类现实问题的考虑,本文提出了一种新的集成学习方法,为其注入了新鲜血液,将具备强学习能力的支持向量机方法运用于集成学习模式当中,称之为Boost-SVM算法,以期得到更高的分类精确率。选用支持向量机(Support Vector Machines,简称SVM)作为分量学习机,作为基于统计学习理论发展起来的分类方法,它解决了模型选择与过学习、非线性和维数灾难问题、局部极小点等问题。Boost-SVM算法实质上是通过重点训练容易被分类器错误分类的样本来减少错误分类率。影响学习机分类效果的正是这部分被错误分类的样本,Boost-SVM重点标记错误分类的样本权值,并且在反复迭代中多次学习该类样本,以减少被错误分类的样本个数,从而达到降低错误分类率的目的。本文在LIBSVM平台上通过改造实现了Boost-SVM算法并在UCI分类数据集上进行了验证。实验结果表明Boost-SVM可以有效地提高分类精确率,并且相对于SVM结果上有了较大的提高。该方法具有可理解性强、算法易于实现等优点,并可以用来解决多类别分类问题,在解决分类问题上颇具竞争力。

全文目录

摘要  4-5
Abstract  5-8
第一章绪论  8-11
  1.1 本课题的研究背景和意义  8
  1.2 研究发展现状  8-9
  1.3 本文的主要工作  9-10
  1.4 本文的内容安排  10
  1.5 本章小结  10-11
第二章集成学习和Adaboost 算法  11-21
  2.1 集成学习的理论基础  11-13
    2.1.1 集成学习的起源  11
    2.1.2 集成学习基本概念  11-12
    2.1.3 集成学习的构成  12-13
    2.1.4 集成学习的作用  13
  2.2 集成学习算法  13-15
  2.3 Boosting 算法概述  15-16
  2.4 Adaboost 算法原理及分析  16-20
    2.4.1 Adaboost 算法原理  16-18
    2.4.2 Adaboost 算法分析  18-20
  2.5 本章小结  20-21
第三章支持向量机  21-29
  3.1 统计学习理论的核心内容  21-23
    3.1.1 VC 维  21
    3.1.2 推广性的界  21-22
    3.1.3 结构风险最小化  22-23
  3.2 支持向量机  23-26
    3.2.1 广义最优分类面  23-26
    3.2.2 核函数  26
  3.3 SVM 方法的特点  26-27
  3.4 SVM 解决实际问题的基本步骤  27-28
  3.5 本章小结  28-29
第四章 Boost-SVM 优化算法设计  29-35
  4.1 Boost-SVM 算法设计  29-30
  4.2 应用Boost-SVM 算法解决两类分类问题  30-32
  4.3 应用Boost-SVM 算法解决多类分类问题  32-34
  4.4 本章小结  34-35
第五章实验结果与分析  35-38
  5.1 实验数据的介绍  35
  5.2 Boost-SVM 的实验过程  35-36
  5.3 实验结果  36-37
  5.4 本章小结  37-38
第六章总结与展望  38-39
  6.1 总结  38
  6.2 展望  38-39
参考文献  39-41
致谢  41-42
附录 A 攻读硕士期间发表的文章和参加的项目  42

基于集成学习模式的Boost-SVM算法研究

内容摘要

全文目录

相似论文