学位论文 > 优秀研究生学位论文题录展示

基于支持向量机的在线学习算法研究

作 者: 刘健
导 师: 沈海斌
学 校: 浙江大学
专 业: 电路与系统
关键词: 支持向量机 在线学习 壳向量 KKT条件 增量学习
分类号: TP181
类 型: 硕士论文
年 份: 2013年
下 载: 11次
引 用: 0次
阅 读: 论文下载
 

内容摘要


支持向量机(SVM,Support Vector Machine)作为机器学习(Machine Learning)的一个重要研究分支,近年来正受到越来越多的重视,并成为了机器学习当中的一个研究热点。支持向量机理论的其中一个特点就是追求系统风险最小化。正是这种优越的特性使得其应用价值得到了广泛的肯定。随着支持向量机从理论研究走向实践应用,实际工程应用对其也提出了更高的要求,其中一个要求就是支持在线学习功能。机器学习中在线学习算法也是一个重要研究分支,而由于支持向量机的理论和应用价值突出,其在线学习算法近年来也成为了热点之一。几种支持向量机的在线学习软件算法也相继被提出,并有了良好的应用效果。随着机器学习的进一步发展,支持向量机的在线学习也将会突出其理论和应用价值。然而,近年来对支持向量机及其在线学习算法研究却比较少,之前所提出的在线学习算法训练时间和分类精度都需要得到提高,因此该研究分支将有很大的发展空间。本文针对以上问题,做了如下工作:(1)概述支持向量机的发展背景、应用领域和研究现状,并详细介绍了支持向量机的数学原理,对原理中中各部分所涉及的理论进行了比较完整的叙述。(2)介绍和总结了支持向量机的在线学习算法的研究现状和一些算法实现方法,并重点介绍了基于KKT条件增量学习算法和基于时间窗口的等量学习算法。(3)针对增量学习领域,提出了基于壳向量和中心密度的支持向量机增量学习算法。该算法利用壳向量和中心密度算法挑选出潜在的支持向量和可能转变为支持向量的原非支持向量,缩小了参加训练的样本数量。通过实验表明了该算法不但能加快训练速度还提高了分类精度;针对等量学习领域,提出了基于样本窗口选择的等量学习算法。该算法将新增样本与原样本进行排序,选择保留对训练分类精度更重要的样本,提高了分类精度且保持训练时间不增加。

全文目录


致谢  5-6
摘要  6-7
Abstract  7-9
目录  9-12
图索引  12-13
表索引  13-14
1. 绪论  14-23
  1.1 机器学习技术简介  14
  1.2 机器学习的发展历程  14-15
  1.3 支持向量机  15
  1.4 基于SVM的在线学习的应用领域  15-17
    1.4.1 文本分类  15-16
    1.4.2 图像识别  16-17
    1.4.3 空中手写识别  17
  1.5 基于SVM的在线学习的研究现状  17-21
    1.5.1 国内外研究现状  17-18
    1.5.2 各部分研究现状  18-21
  1.6 本文创新点  21
  1.7 本文内容安排  21-23
2 支持向量机理论  23-41
  2.1 统计学习理论简介  23-27
    2.1.1 学习问题的模型  23-24
    2.1.2 最小化风险的数学模型  24-25
    2.1.3 经验风险最小化原则  25
    2.1.4 VC维  25-26
    2.1.5 推广性的界  26
    2.1.6 结构风险最小化原则  26-27
  2.2 最优化理论  27-34
    2.2.1 最优化问题的定义  28-30
    2.2.2 Lagrange理论  30-34
  2.3 支持向量机  34-40
    2.3.1 最大间隔支持向量机模型  34-40
  2.4 本章小结  40-41
3 基于壳向量和中心密度的支持向量机的增量学习算法  41-55
  3.1 支持向量机的在线学习  41-42
    3.1.1 支持向量机的在线学习描述  41-42
    3.1.2 支持向量机的在线学习策略分类  42
  3.2 常用的具有代表性的SVM在线学习策略  42-45
    3.2.1 基于KKT条件的在线学习策略  42-45
    3.2.2 基于时间窗口的在线学习策略  45
  3.3 壳向量算法  45-49
    3.3.1 支持向量与壳向量  47-48
    3.3.2 壳向量的求解算法  48-49
  3.4 选取非支持向量的中心密度算法  49-50
  3.5 基于壳向量和中心密度的增量学习算法  50-51
  3.6 实验结果及分析  51-53
  3.7 本章小结  53-55
4 基于样本选择窗口的支持向量机的等量学习算法  55-65
  4.1 等量学习的支持向量机模型  55-59
    4.1.1 带松弛变量的支持向量机模型  55-57
    4.1.2 核函数与高维空间支持向量机模型  57-59
  4.2 样本选择窗口算法  59-62
  4.3 基于样本选择窗口的支持向量机的等量学习算法  62-63
  4.4 实验结果及分析  63-64
  4.5 本章小结  64-65
5 总结和展望  65-67
参考文献  67-71
作者简介  71-72
作者攻读硕学位期间发表的论文  72

相似论文

  1. 基于SVM的常压塔石脑油干点软测量建模研究,TE622.1
  2. 基于SVM的高速公路路面浅层病害的自动检测算法研究,U418.6
  3. 基于PCA-SVM的液体火箭发动机试验台故障诊断算法研究,V433.9
  4. 空间目标ISAR成像仿真及基于ISAR像的目标识别,TN957.52
  5. 音乐结构自动分析研究,TN912.3
  6. 基于三维重建的焊点质量分类方法研究,TP391.41
  7. 胆囊炎和肾病综合症脉象信号的特征提取与分类研究,TP391.41
  8. 直推式支持向量机研究及其在图像检索中的应用,TP391.41
  9. 基于SVM的中医舌色苔色分类方法研究,TP391.41
  10. 基于图像的路面破损识别,TP391.41
  11. 基于支持向量机的故障诊断方法研究,TP18
  12. 基于监督流形学习算法的固有不规则蛋白质结构预测研究,Q51
  13. 基于车载3D加速传感器的路况监测研究,TP274
  14. 高光谱图像技术诊断黄瓜病害方法的研究,S436.421
  15. CMC环境下大学生在线学习评价研究,G434
  16. 不匹配信道下耳语音说话人识别研究,TN912.34
  17. 基于特征选择的入侵检测研究,TP393.08
  18. 基于SVM的跨膜蛋白结构预测应用研究,Q51
  19. LS-SVM算法预测煤层瓦斯涌出量技术研究及应用,TD712.5
  20. 基于支持向量机的故障诊断研究,TH165.3
  21. 基于机器学习的入侵检测系统研究,TP393.08

中图分类: > 工业技术 > 自动化技术、计算机技术 > 自动化基础理论 > 人工智能理论 > 自动推理、机器学习
© 2012 www.xueweilunwen.com