学位论文 > 优秀研究生学位论文题录展示

基于贝叶斯理论的增量文本分类算法研究

作　者: 马后锋
导　师: 樊兴华
学　校: 重庆邮电大学
专　业: 计算机应用技术
关键词: 文本分类贝叶斯增量学习半监督学习 AP算法
分类号: TP391.1
类　型: 硕士论文
年　份: 2009年
下　载: 44次
引　用: 0次
阅　读: 论文下载

内容摘要

传统的文本分类算法需要大量的标注文本,但标注大量训练文本需要艰苦而缓慢的手工劳动,从而制约了整个分类系统的构建。增量学习技术可以利用少量的已标注文本对大量的未标注文本进行标注,可以有效解决标注瓶颈问题,因此逐渐引起人们的关注。由于贝叶斯方法能够充分利用先验知识,使它成为增量式文本分类的重要选择。基于0-1分类损失的增量贝叶斯分类算法是通过计算测试集中文本的分类损失大小来确定新增训练集中文本加入到原始训练集的顺序。但该算法存在下述三个问题:首先,噪音数据影响分类器精度的问题。由于当前分类器存在知识储备不足等因素而容易产生噪音数据,一旦这些噪音数据被过早地加入到原始训练集中,就会降低当前分类器的性能,进而影响整体分类精度。其次,新增训练集的规模影响增量学习效率的问题。当新增训练集规模过大时会增加增量学习时间。因此在处理大规模新增训练集时,如何提高效率成为增量学习的一个重要问题。此外,如何利用新增训练集中有用知识的问题。新增训练集中存在一种有用知识——具有高度相似性的文本,把这些文本作为一个整体来处理,它能够有效改善增量学习的性能。针对以上问题,本文提出的基于序列选择增量贝叶斯分类算法,该算法既通过选择合理的增量学习序列解决噪音数据影响分类器精度的问题,又通过基于划分的思想对新增训练集进行分割解决新增训练集规模影响增量学习效率的问题;还提出了基于快速聚类的增量贝叶斯分类算法来解决新增训练集中有用知识的利用问题,即通过近邻传播算法对新增训练集中的高度相似文本进行聚类,实现增量学习过程中的批量学习,从而显著提高了增量学习的效率。最后通过实验验证这些算法的有效性。

全文目录

摘要  3-4
Abstract  4-8
第一章绪论  8-12
  1.1 论文选题背景  8-9
  1.2 国内外研究现状  9-10
  1.3 论文主要工作  10-11
  1.4 论文组织结构  11-12
第二章文本分类与增量学习技术基础  12-24
  2.1 文本分类技术  12-19
    2.1.1 文本分类的定义  12
    2.1.2 文本的表示模型  12-13
    2.1.3 文本特征项的权重  13-14
    2.1.4 特征选择和特征提取  14-17
    2.1.5 文本分类算法  17-19
  2.2 增量学习算法  19-23
    2.2.1 基于EM 的增量学习算法  20-21
    2.2.2 基于协同训练的增量学习算法  21-22
    2.2.3 基于实例的增量学习算法  22-23
    2.2.4 基于支持向量机的增量学习算法  23
    2.2.5 基于集成学习的增量学习算法  23
  2.3 小结  23-24
第三章基于序列选择的增量贝叶斯分类算法  24-34
  3.1 引言  24
  3.2 基于贝叶斯的增量学习模型  24-26
  3.3 增量贝叶斯算法存在的问题和解决的策略  26-27
  3.4 基于序列选择的增量贝叶斯分类算法  27-30
    3.4.1 算法思想  27
    3.4.2 算法描述  27-30
  3.5 实验测试  30-33
    3.5.1 实验性能评估指标  30
    3.5.2 实验特征选择  30
    3.5.3 实验结果与分析  30-33
  3.6 小结  33-34
第四章基于快速聚类的增量贝叶斯分类算法  34-47
  4.1 引言  34-35
  4.2 近邻传播(AP)聚类算法  35-37
  4.3 基于快速聚类的增量贝叶斯分类算法  37-42
    4.3.1 算法思想  37-39
    4.3.2 算法描述  39-42
  4.4 实验测试  42-46
    4.4.1 实验性能评估指标  42-43
    4.4.2 实验特征选择  43
    4.4.3 实验结果与分析  43-46
  4.5 小结  46-47
第五章总结及未来工作  47-50
  5.1 总结  47-48
  5.2 未来工作  48-50
致谢  50-51
攻硕期间从事的科研工作及取得的研究成果  51-52
参考文献  52-56

基于贝叶斯理论的增量文本分类算法研究

内容摘要

全文目录

相似论文