学位论文 > 优秀研究生学位论文题录展示

支持向量机参数选择的组合方法

作　者: 贾磊
导　师: 廖士中
学　校: 天津大学
专　业: 计算机应用技术
关键词: 支持向量机模型选择半径/间隔界参数调节
分类号: TP18
类　型: 硕士论文
年　份: 2007年
下　载: 231次
引　用: 0次
阅　读: 论文下载

内容摘要

支持向量机的参数选择直接决定着支持向量机的训练效率和应用效果,是支持向量机模型选择研究的重要问题。现有的支持向量机参数选择方法采用嵌套的两层循环优化过程,计算过程中,首先训练分类器,然后更新参数。这类方法存在迭代次数多、选择效果差等问题。针对支持向量机参数选择存在的这一问题,提出并实现了参数选择的组合方法,具体工作包括:1.提出了同时调节参数和分类器的组合优化框架。该框架应用启发式搜索方法搜索参数空间,并在同一迭代过程中调节分类器,实现了参数与分类器的组合优化。2.推导出一个新的半径/间隔界。该界是统计学习理论中的半径/间隔界的一个近似,可在保证学习精度的前提下有效地提高计算效率。3.给出了初始参数的选择方法。从理论上分析了核函数参数在两种极端情形下的渐近性质,讨论了参数选择原则,并给出了参数初始点选择方法。4.设计并实现了组合参数调节算法。该算法应用新推导的半径/间隔界,结合了序贯无约束最小化和变尺度法两个优化算法,能有效地给出参数的最优解。5.开展了实验研究。在UCI数据库Heart,Diabetes,A2a,W1a和Statlog数据库German.Numer五个标准数据集上,测试并比较了所提出的组合参数调节方法与传统的交叉验证、梯度下降等方法的性能。实验结果充分显示了组合方法的有效性。

全文目录

摘要  3-4
Abstract  4-7
第一章绪论  7-9
  1.1 工作背景  7-8
  1.2 本文工作  8-9
第二章支持向量机  9-17
  2.1 线性SVM  9-11
  2.2 软间隔SVM  11-12
  2.3 KKT条件  12-14
  2.4 非线性SVM  14-17
第三章支持向量机参数选择  17-27
  3.1 模型选择  17-20
  3.2 解析法  20-22
  3.3 取样法  22-23
  3.4 统计学习法  23-25
  3.5 迭代策略  25-27
第四章组合方法  27-35
  4.1 引言  27-28
  4.2 新半径/间隔界  28-30
  4.3 初始点选择  30-33
  4.4 同步方案  33-35
第五章实验分析  35-40
  5.1 实验设计  35-36
  5.2 结果分析  36-40
第六章结语  40-41
插图索引  41-42
表格索引  42-43
参考文献  43-46
致谢  46

支持向量机参数选择的组合方法

内容摘要

全文目录

相似论文