学位论文 > 优秀研究生学位论文题录展示

局部支持向量机的研究

作　者: 朱莹莹
导　师: 尹传环
学　校: 北京交通大学
专　业: 计算机科学与技术
关键词: 局部支持向量机支持向量机协同聚类单类支持向量机加权支持向量机
分类号: TP18
类　型: 硕士论文
年　份: 2013年
下　载: 147次
引　用: 0次
阅　读: 论文下载

内容摘要

统计学习理论建立在结构风险最小化原则的基础上。与传统统计学习理论相比,V.Vapnik等人提出的统计学习理论是一种针对小样本情况研究统计学习规律的理论。与此同时,在这一理论基础上发展起来的支持向量机可用于模式识别和回归估计,因其具备理论完备化、全局优化、推广性好、适应性强等优点而不同于其余机器学习算法,并且也有力地推动着机器学习理论和技术的发展。然而支持向量机全局化的方法并不蕴含一致性理论,局部支持向量机的提出符合了“全局一致性蕴含局部性”的思路。近年来,局部支持向量机在理论研究及应用方面都得到了一定程度的关注,如遥感图像分类、脑电图信号处理、网络流量预测等领域。本文首先对机器学习和统计学习理论进行简单的介绍,并在此基础上引入支持向量机的特点及研究现状。其次,阐述局部支持向量机的研究现状及其意义,详细介绍并说明局部支持向量机在学习性能上的特点和优势及其一些改进策略。最后,分析当前几种局部支持向量机算法及其改进思路。本文具体完成工作如下：(1)针对局部支持向量机在大规模数据集中时间复杂度比较高的问题,提出基于协同聚类的局部支持向量机,在不降低分类精度的情况下,成功降低了算法的时间复杂度。(2)详细介绍加权支持向量机,并将加权思想应用到局部支持向量机中,提出加权局部支持向量机,以提高小样本数据的分类精度。(3)详细介绍单类支持向量机,并将其用于局部支持向量机,提出单类局部支持向量机进行探索性研究。

全文目录

致谢  5-6
摘要  6-7
ABSTRACT  7-11
1 引言  11-18
  1.1 研究背景  11-14
    1.1.1 机器学习的定义与发展  12
    1.1.2 统计学习理论的主要内容  12-14
  1.2 研究现状  14-16
    1.2.1 支持向量机的研究  14
    1.2.2 局部支持向量机的研究  14-15
    1.2.3 加权支持向量机的研究  15
    1.2.4 单类支持向量机的研究  15-16
  1.3 问题的提出及研究意义  16
  1.4 论文主要工作  16-17
  1.5 本章小结  17-18
2 支持向量机  18-24
  2.1 支持向量机的理论基础  18
  2.2 最优分类超平面  18-19
  2.3 线性情形  19-21
    2.3.1 线性可分  19-21
    2.3.2 线性不可分  21
  2.4 非线性情况及核函数  21-23
  2.5 Libsvm的特点及应用  23
  2.6 本章小结  23-24
3 局部支持向量机  24-35
  3.1 局部支持向量机的发展背景  24-26
    3.1.1 论背景  24-25
    3.1.2 应用背景  25
    3.1.3 局部支持向量机与支持向量机的对比  25-26
  3.2 局部支持向量机及其形式  26-29
    3.2.1 SVM-KNN  27
    3.2.2 kNNSVM  27-28
    3.2.3 LSVM  28-29
  3.3 局部支持向量机的几种改进  29-33
    3.3.1 PSVM  30-31
    3.3.2 Falk-SVM  31-33
  3.4 分析局部支持向量机及其改进  33-34
  3.5 本章小结  34-35
4 基于协同聚类的局部支持向量机  35-48
  4.1 聚类分析及相关概念  35-36
    4.1.1 簇和聚类  35-36
    4.1.2 聚类分析流程图  36
  4.2 常用聚类算法  36-39
    4.2.1 k-均值算法  37-38
    4.2.2 k-中心点算法  38-39
  4.3 协同聚类  39-41
    4.3.1 协同的生物学背景  39
    4.3.2 协同聚类思想  39-41
    4.3.3 基于协同聚类的局部支持向量机  41
  4.4 实验  41-47
    4.4.1 分类实验  42-45
    4.4.2 关于单个支持向量机模型的研究实验  45-47
  4.5 本章小结  47-48
5 加权局部支持向量机  48-57
  5.1 加权支持向量机  48-50
    5.1.1 加权支持向量机算法公式  48-49
    5.1.2 加权方式  49-50
  5.2 Weighted Falk-SVM算法  50-51
  5.3 实验  51-56
    5.3.1 分类实验  51-53
    5.3.2 单个加权局部支持向量机模型实验  53-56
  5.4 本章小结  56-57
6 单类局部支持向量机  57-69
  6.1 单类问题  57
  6.2 单类支持向量机  57-60
    6.2.1 超球体算法  58-59
    6.2.2 超平面算法  59-60
  6.3 单类支持向量机的改进方式  60-62
    6.3.1 引入未标号数据——BSVM  60-61
    6.3.2 选择样本点  61
    6.3.3 改变优化目标  61-62
  6.4 单类局部支持向量机  62-63
  6.5 实验  63-68
    6.5.1 OCFalk-SVM与Falk-SVM对比实验  63-64
    6.5.2 单个模型分类实验  64-66
    6.5.3 Libsvm单类验证实验  66-68
  6.6 本章小结  68-69
7 结论与展望  69-71
  7.1 研究工作总结  69
  7.2 实验评价  69-70
  7.3 进一步研究的考虑  70-71
参考文献  71-74
作者简历  74-76
学位论文数据集  76

局部支持向量机的研究

内容摘要

全文目录

相似论文