学位论文 > 优秀研究生学位论文题录展示

支持向量机在嵌入式控制系统的实现研究

作　者: 刘然
导　师: 包健
学　校: 杭州电子科技大学
专　业: 计算机系统结构
关键词: 嵌入式系统 支持向量机 训练速度 实时性能
分类号: TP273.5
类　型: 硕士论文
年　份: 2011年
下　载: 16次
引　用: 0次
阅　读: 论文下载
 

内容摘要


支持向量机(Support Vector Machine, SVM)作为统计学习理论的最新研究成果,成为近十几年来机器学习领域研究热点,由于其目标是在小样本情况下追求最优的泛化性能,从而在较大程度上解决了传统机器学习方法中的非线性、局部极值、过学习、维数灾难等问题；以结构风险最小化代替经验风险最小化、凸二次规划、Mercer核函数和解的稀疏性等特点,使得SVM算法具有结构简单、全局最优以及推广能力强等优点,自从被提出之日起,就在诸多复杂问题上凸显出其性能优势。但是,由于SVM在训练过程中需要消耗较大的存储资源,特别是在训练样本数量较多时,其训练速度往往成为实际应用的瓶颈,这在一定程度上制约了该算法的推广和应用。而在现实生活中各种嵌入式控制系统的使用越来越广泛,客观上也要求有更优秀的智能算法在这些平台上高效的应用,因此SVM算法在嵌入式系统中实现、应用研究成为不少研究人员努力的方向,也是比较具有实际意义的研究方向。现有的关于支持向量机算法在嵌入式系统平台上实现的研究大多关注于硬件平台的优化,包括并行处理单元的使用、分布式处理、存储单元的使用等,通常是以硬件花销换取性能提升。本文重点从软件的层面上研究支持向量机算法在嵌入式控制系统的实现,结合嵌入式控制系统的硬件资源极其有限的特性,以及支持向量机在训练算法上可以进行必要的改进的特点,力图以少量的性能损失换取实时学习速度的提升；首先根据目标平台的字长约束,将训练样本特征值进行必要的归一化、定点化或整型化处理后转化为定点数或整型数,以一定的精度损失带来训练过程数据计算的快捷性；然后根据字长k及设定的模型惩罚系数对标准SVM算法中的拉格朗日参数规范化为一定范围内的整数值,并作为训练过程待优化的参数,因此训练过程即为对每个在2K个整型值中的拉格朗日参数寻找最佳值作为最终模型参数；针对整型参数支持向量机算法模型中去除了等式约束条件而序贯最小优化(Sequential Minimum Optimum,SMO)算法不再适用的实际情况,文中采用改进的SMO算法,通过对优化目标的分析,提出了新的约束条件来选择最佳的优化参数,通过迭代的方法将训练过程的求解规模缩小至更小的范围,以此来提高整个训练过程的速度。最后,论文采用人工生成数据集和MNIST手写数字库数据集作为实验素材,以普通PC机和嵌入式实验系统为平台,对改进算法在多类分类问题上的应用进行了测试,并验证了这些改进方法的可行性,通过实验结果对这种平台上的性能进行了分析。

全文目录


摘要  5-6
ABSTRACT  6-10
第一章 绪论  10-16
  1.1 前言  10-11
  1.2 研究意义及研究现状  11-14
  1.3 本文主要工作  14-15
  1.4 论文结构组织  15-16
第二章 机器学习和统计学习理论  16-24
  2.1 机器学习的研究  16-19
    2.1.1 机器学习结构  16-17
    2.1.2 机器学习问题  17-18
    2.1.3 经验风险最小化  18
    2.1.4 机器学习的推广能力  18-19
  2.2 统计学习理论  19-24
    2.2.1 学习过程一致性和VC维理论  20-21
    2.2.2 推广性的界  21-22
    2.2.3 结构风险最小化  22-24
第三章 支持向量机  24-36
  3.1 最优分类超平面  24-26
  3.2 线性支持向量机  26-28
  3.3 非线性支持向量机  28-29
  3.4 回归支持向量机  29-30
  3.5 核函数  30-32
  3.6 多类分类支持向量机  32-36
    3.6.1 “一对一”多类分类法  33
    3.6.2 “一对其余”多类分类法  33-34
    3.6.3 有向无环图多分类法  34
    3.6.4 决策树多分类法  34-35
    3.6.5 纠错编码多分类法  35-36
第四章 基于嵌入式控制系统的支持向量机算法  36-51
  4.1 嵌入式控制系统的SVM实现问题  36-39
    4.1.1 嵌入式控制系统的特点  36-37
    4.1.2 算法实现的问题  37-39
  4.2 参数定点化表示  39-46
    4.2.1 嵌入式系统中的整型数和定点数  39-41
    4.2.2 输入数据的整型优化  41-42
    4.2.3 模型参数的整型优化  42-46
  4.3 训练算法的改进  46-51
第五章 算法实现及性能分析  51-56
  5.1 人工数据多类分类  51-53
  5.2 手写数字识别  53-56
第六章 总结与展望  56-58
致谢  58-59
参考文献  59-63
附录  63-64
详细摘要  64-67

相似论文

  1. 基于SVM的常压塔石脑油干点软测量建模研究,TE622.1
  2. 基于SVM的高速公路路面浅层病害的自动检测算法研究,U418.6
  3. 汽车的电动助力转向系统,U463.4
  4. 基于PCA-SVM的液体火箭发动机试验台故障诊断算法研究,V433.9
  5. 空间目标ISAR成像仿真及基于ISAR像的目标识别,TN957.52
  6. 音乐结构自动分析研究,TN912.3
  7. 基于三维重建的焊点质量分类方法研究,TP391.41
  8. 胆囊炎和肾病综合症脉象信号的特征提取与分类研究,TP391.41
  9. 直推式支持向量机研究及其在图像检索中的应用,TP391.41
  10. 基于ARM9的Windows CE系统移植,TP316.7
  11. 基于SVM的中医舌色苔色分类方法研究,TP391.41
  12. 基于嵌入式图像处理单元的运动目标跟踪系统研究,TP391.41
  13. 基于图像的路面破损识别,TP391.41
  14. 面向嵌入式超声检测系统的图形接口设计与应用,TP274.53
  15. 多线阵CCD视觉测量系统的数据采集与处理,TP274.2
  16. LXI-VXI适配器研制,TP274
  17. 基于支持向量机的故障诊断方法研究,TP18
  18. 过程支持向量机及其在卫星热平衡温度预测中的应用研究,TP183
  19. 高性能恒温晶体振荡器温度控制系统的研究,TN752
  20. 基于监督流形学习算法的固有不规则蛋白质结构预测研究,Q51
  21. 嵌入式中医经脉理疗仪的研究,R197.39

中图分类: > 工业技术 > 自动化技术、计算机技术 > 自动化技术及设备 > 自动化系统 > 自动控制、自动控制系统 > 计算机控制、计算机控制系统
© 2012 www.xueweilunwen.com