一种挖掘热点词的方法与装置制造方法及图纸

技术编号:8593947 阅读:204 留言:0更新日期:2013-04-18 07:06
本发明专利技术公开了一种挖掘热点词的方法与装置。该方法包括:获取输入的文本流;对文本流进行分词,获取候选词集;统计候选词集中各候选词在文本流中出现的当前频率,获取各候选词在预先存储的历史数据中的各历史频率;根据候选词的当前频率以及各历史频率计算该候选词的频率异常性值,在历史数据中存储该候选词的当前频率信息并输出预定数目的频率异常的候选词。应用本发明专利技术,可以扩展热点词的挖掘范围、提高热点词挖掘效率。

【技术实现步骤摘要】

本专利技术涉及计算机通信技术,特别涉及一种挖掘热点词的方法与装置
技术介绍
随着计算机通信技术的发展,尤其是3g网络和智能移动终端的发展,用户的网络生活越来越丰富,在网络上聊天、浏览新闻、看电影、玩游戏、搜索、购物、发布信息等,越来越成为网络生活的一部分。例如,微博客(MicroBlog),即微博作为一个基于用户关系的信息分享、传播以及获取平台,用户可以通过WEB、WAP以及各种客户端组建个人社区,以140字左右的文字更新信息,并实现即时分享。由于网络内容的丰富,网络用户从中获取相关信息所花费的时间也越来越多,为了提高用户的网络体验,各运营商通过热点词挖掘的方法,自动获取最新的时讯,及时向网络用户进行推荐,例如,根据微博输入的文本流信息,自动识别其中包含的热点词,并向关注的用户推荐热点信息,这样,在提升网络服务的同时,也有效降低了用户获取热点信息所需的时间。图1为现有挖掘热点词的方法流程示意图。参见图1,该流程包括步骤101,获取输入的文本流;本步骤中,通过对网页、微博包含的内容进行处理,获取网页、微博内容对应的文本流,文本流可以按照预先设定的时间周期进行获取,也可以进行随机获取本文档来自技高网...

【技术保护点】
一种挖掘热点词的方法,其特征在于,该方法包括:获取输入的文本流,对文本流进行分词,获取候选词集;统计候选词集中各候选词在文本流中出现的当前频率,获取各候选词在预先存储的历史数据中的各历史频率;根据候选词的当前频率以及各历史频率计算该候选词的频率异常性值,在历史数据中存储该候选词的当前频率信息并输出预定数目的频率异常的候选词。

【技术特征摘要】
1.一种挖掘热点词的方法,其特征在于,该方法包括 获取输入的文本流,对文本流进行分词,获取候选词集; 统计候选词集中各候选词在文本流中出现的当前频率,获取各候选词在预先存储的历史数据中的各历史频率; 根据候选词的当前频率以及各历史频率计算该候选词的频率异常性值,在历史数据中存储该候选词的当前频率信息并输出预定数目的频率异常的候选词。2.如权利要求1所述的方法,其特征在于,在获取候选词集后,进一步包括 将预先设置的停用词表与获取的候选词集进行匹配,将候选词集中与停用词表相匹配的词语进行过滤。3.如权利要求2所述的方法,其特征在于,所述停用词表包括无意义词语、和/或,高文档率词语。4.如权利要求1所述的方法,其特征在于,所述获取各候选词在预先存储的历史数据中的各历史频率包括 如果历史数据中存储有该候选词的各历史频率,读取该候选词的各历史频率; 如果历史数据中未存储有该候选词的历史频率,计算历史数据中存储的所有候选词的各历史频率的平均值,作为该候选词的各历史频率。5.如权利要求1所述的方法,其特征在于,所述根据候选词的当前频率以及各历史频率计算该候选词的频率异常性值包括 根据候选词的各历史频率获取该候选词的历史频率的平均值; 根据该候选词的各历史频率以及获取的该候选词的历史频率的平均值,计算该候选词的方差; 获取该候选词的当前频率与历史频率的平均值的差的绝对值,计算该绝对值与所述方差的商,得到该候选词的频率异常性值。6.如权利要求1至5任一项所述的方法,其特征在于,所述输出预定数目的频率异常的候选词为 将预定数目的频率异常的候选词聚合成用以描述一个事件或主题的词簇进行输出。7.如权利要求6所述的方法,其特征在于,所述将预定数目的频率异常的候选词聚合成用以描述一个事件或主题的词簇包括 基于预定数目的频率异常的候选词,统计每两个候选词组成的词组在同一文本流中出现的次数; 统计该两个候选词在同一文本流中分别出现的次数,并获取该两个候选词在同一文本流中分别出现的次数的乘积; 获取所述词组在同一文本流中出现的次数与所述乘积的商,作为所述两个候选词之间的点间互信息距离; 如果获取的点间互信息距离值大于预先设置的点间互信息距离值阈值,则将该点间互信息距离值对应的两个候选词合成为一个词簇。8.如权利要求1至5任一项所述的方法,其特征在于,进一步包括 基于选择的预定数目的频率异常的...

【专利技术属性】
技术研发人员:罗侃陈洪亮杨志峰
申请(专利权)人:腾讯科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1