学位论文 > 优秀研究生学位论文题录展示

在线学习的集成分类器研究

作 者: 卞桂龙
导 师: 沈海斌
学 校: 浙江大学
专 业: 电路与系统
关键词: 支持向量机 在线学习 壳向量 Learn++算法 增量学习
分类号: TP18
类 型: 硕士论文
年 份: 2014年
下 载: 13次
引 用: 0次
阅 读: 论文下载
 

内容摘要


在互联网领域,数据集是随着时间的推移不断产生的,所以在完整的数据集上进行机器学习是个几乎不可能的事情,这就需要学习器能够不断地进行学习,而传统的机器学习方法已经无法满足这一要求。在线学习就是针对上述情况应运而生的,目前在线学习的主要技术手段是增量学习。另一方面,支持向量机(SVM,Support Vector Machine)作为机器学习领域的一个重要研究分支,因为自身完善的数学理论和良好的实际应用效果,目前在很多领域都获得了应用。但支持向量机属于性能稳定的分类器,不能进行增量学习,并有“灾难性遗忘”现象。所以如何让支持向量机应用到在线学习领域,也成为了目前的研究热点。本文针对这一问题,进行了如下工作:首先,先简要介绍了支持向量机的数学理论基础、基本概念和算法优势。然后,详细地介绍了一种支持向量机的快速分类算法。该分类算法根据样本集的几何结构信息,先从样本集中挑选出位于样本集最边缘位置的样本—壳向量,并将其组成新的样本集,进行支持向量机的训练,从而找出最优分类超平面。由于在对样本集进行壳向量提取时,采用的是线性规划的运算操作,其次壳向量集组成的新样本集只是原样本集的一小部分,所以能有效地降低二次规划运算过程的复杂度,从而达到提高训练速度的目的。另外提取壳向量集时,支持向量等关键样本也同样被提取出来,不存在丢失现象,所以对原算法的精度不会造成太大影响。最后,本论文在上述算法的基础上提出了一种基于壳向量的支持向量机Learn++集成方法。该方法将壳向量引入到支持向量机基分类器的训练过程中,并对基分类器采用Learn++集成,使得集成后的支持向量机分类器不仅能够有效地进行增量学习,而且缩短了训练时间、减小了存储规模。实验结果表明,集成后的支持向量机分类器不但具有在线学习的能力,而且还可以避免“灾难性遗忘”现象的产生。

全文目录


致谢  4-5
摘要  5-6
Abstract  6-8
目录  8-10
图索引  10-11
表索引  11-12
1 绪论  12-24
  1.1 机器学习  12-13
  1.2 在线学习  13-14
  1.3 国内外研究现状  14-21
    1.3.1 增量学习  14-15
    1.3.2 集成学习  15-21
  1.4 支持向量机  21-22
  1.5 论文创新点  22-23
  1.6 论文章节安排  23-24
2 支持向量机  24-32
  2.1 统计学习理论  24-28
    2.1.1 学习模型  24
    2.1.2 风险最小化问题  24-25
    2.1.3 经验风险最小化原则  25-26
    2.1.4 学习过程一致性的条件  26
    2.1.5 VC维  26
    2.1.6 推广性的界  26-27
    2.1.7 结构风险最小化原则  27-28
  2.2 支持向量机  28-31
    2.2.1 支持向量机的基本概念  28-31
    2.2.2 支持向量机的特点  31
  2.3 本章小结  31-32
3 基于壳向量的支持向量机Learn++集成方法  32-45
  3.1 引言  32-33
  3.2 一种支持向量机的快速分类算法  33-38
    3.2.1 壳向量的定义  33-34
    3.2.2 非线性可分情况  34-35
    3.2.3 求解壳向量  35-36
    3.2.4 一种支持向量机的快速分类算法  36-37
    3.2.5 壳向量求取的时间复杂度分析  37-38
  3.3 基于壳向量的支持向量机Learn++集成方法  38-44
    3.3.1 Learn++算法简介  39-42
    3.3.2 基于壳向量的支持向量机Learn++集成方法  42-44
  3.4 本章小结  44-45
4 实验与分析  45-48
  4.1 实验数据设置  45
  4.2 实验结果  45-47
  4.3 本章小结  47-48
5 总结和展望  48-50
参考文献  50-54
作者简介  54-55
作者攻读硕士学位期间发表的论文  55

相似论文

  1. 基于SVM的常压塔石脑油干点软测量建模研究,TE622.1
  2. 基于SVM的高速公路路面浅层病害的自动检测算法研究,U418.6
  3. 基于PCA-SVM的液体火箭发动机试验台故障诊断算法研究,V433.9
  4. 空间目标ISAR成像仿真及基于ISAR像的目标识别,TN957.52
  5. 音乐结构自动分析研究,TN912.3
  6. 基于三维重建的焊点质量分类方法研究,TP391.41
  7. 胆囊炎和肾病综合症脉象信号的特征提取与分类研究,TP391.41
  8. 直推式支持向量机研究及其在图像检索中的应用,TP391.41
  9. 基于SVM的中医舌色苔色分类方法研究,TP391.41
  10. 基于图像的路面破损识别,TP391.41
  11. 基于支持向量机的故障诊断方法研究,TP18
  12. 过程支持向量机及其在卫星热平衡温度预测中的应用研究,TP183
  13. 基于监督流形学习算法的固有不规则蛋白质结构预测研究,Q51
  14. 基于车载3D加速传感器的路况监测研究,TP274
  15. 高光谱图像技术诊断黄瓜病害方法的研究,S436.421
  16. CMC环境下大学生在线学习评价研究,G434
  17. 不匹配信道下耳语音说话人识别研究,TN912.34
  18. 基于文本挖掘的学者简历自动生成,TP391.1
  19. 基于特征选择的入侵检测研究,TP393.08
  20. 基于SVM的跨膜蛋白结构预测应用研究,Q51
  21. LS-SVM算法预测煤层瓦斯涌出量技术研究及应用,TD712.5

中图分类: > 工业技术 > 自动化技术、计算机技术 > 自动化基础理论 > 人工智能理论
© 2012 www.xueweilunwen.com