学位论文 > 优秀研究生学位论文题录展示

支持向量机算法研究

作　者: 娄钰
导　师: 庞丽萍
学　校: 大连理工大学
专　业: 运筹学与控制论
关键词: 支持向量机变尺度法 BFGS算法次梯度法
分类号: TP301.6
类　型: 硕士论文
年　份: 2007年
下　载: 530次
引　用: 2次
阅　读: 论文下载

内容摘要

随着现代信息技术的快速发展，各种数据库大量出现，如何从数据库中准确的抽取有用信息成了一个迫切需要解决的问题，数据挖掘技术应运而生。支持向量机作为数据挖掘中的新方法，在许多领域显示了巨大的魅力。支持向量机是九十年代中期在统计学习理论基础上发展起来的一种机器学习方法，它集成了最大间隔超平面、Mercer核、多项式核、凸二次规划、稀疏解和松弛变量等多项技术。在许多应用中，获得了目前的最好的性能。由于支持向量机出现不久，因此存在许多尚未解决的问题。如针对支持向量机训练速度慢及时间空间复杂度大的问题，人们做了大量的工作。本文在广义支持向量机的框架下，提出了一个快速算法。将带二维损失函数的支持向量机模型化为无约束凸问题，利用变尺度方法进行优化，并比较了不同线搜索规则下的优化性能。随后给出了数值实验结果，并与其他算法进行比较。实验表明本文给出的算法快速有效。标准支持向量机的非光滑算法研究比较少。然而随着模式识别技术的发展，组合分类器的出现，非光滑技术具有越来越重要的实际意义。本文第四章利用次梯度方法优化支持向量机的一种无约束模型。由于该算法在参数和步长选取方面只有启发式的规则，本文通过数值实验构造了步长规则和终止准则。数值结果表明该算法非常有效。

全文目录

中文摘要  4-5
Abstract  5-8
引言  8-10
1 数据挖掘  10-16
  1.1 数据挖掘技术  10-12
    1.1.1 数据挖掘的起源  10-11
    1.1.2 数据挖掘的概念  11-12
  1.2 数据挖掘的分类  12-13
  1.3 数据挖掘的应用和发展前景  13-16
2 支持向量机  16-30
  2.1 支持向量机的理论基础  16-20
    2.1.1 机器学习的基本问题  16-18
    2.1.2 统计学理论的基本内容  18-19
    2.1.3 结构风险最小化  19-20
  2.2 支持向量机模型  20-27
    2.2.1 支持向量机的基本思想  20-21
    2.2.2 支持向量机模型  21-27
  2.3 支持向量机的训练算法  27-30
3 支持向量机的一种变尺度方法  30-38
  3.1 线性可分问题  30-32
  3.2 拟牛顿法  32-33
    3.2.1 有限内存BFGS方法  33
  3.3 非线性可分问题  33-34
  3.4 数值实验  34-38
4 支持向量机的一种次梯度方法  38-44
  4.1 无约束模型  38-39
  4.2 预备知识  39-40
  4.3 算法及分析  40-42
  4.4 数值实验  42-44
结论  44-46
参考文献  46-48
读硕期间发表、完成论文  48-49
致谢  49-50

支持向量机算法研究

内容摘要

全文目录

相似论文