CN110147482B - 用于获取突发热点主题的方法和装置 - Google Patents

用于获取突发热点主题的方法和装置 Download PDF

Info

Publication number
CN110147482B
CN110147482B CN201710812461.2A CN201710812461A CN110147482B CN 110147482 B CN110147482 B CN 110147482B CN 201710812461 A CN201710812461 A CN 201710812461A CN 110147482 B CN110147482 B CN 110147482B
Authority
CN
China
Prior art keywords
candidate
tag
candidate tag
dictionary
network data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710812461.2A
Other languages
English (en)
Other versions
CN110147482A (zh
Inventor
范涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing duxiaoman Youyang Technology Co.,Ltd.
Original Assignee
Shanghai Youyang New Media Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Youyang New Media Information Technology Co ltd filed Critical Shanghai Youyang New Media Information Technology Co ltd
Priority to CN201710812461.2A priority Critical patent/CN110147482B/zh
Publication of CN110147482A publication Critical patent/CN110147482A/zh
Application granted granted Critical
Publication of CN110147482B publication Critical patent/CN110147482B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/951Indexing; Web crawling techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2216/00Indexing scheme relating to additional aspects of information retrieval not explicitly covered by G06F16/00 and subgroups
    • G06F2216/03Data mining

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了用于获取突发热点主题的方法和装置。该方法的一具体实施方式包括:获取第一预设时间段内的网络数据;从网络数据中抽取出多个标签,生成标签集合;基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型;基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题。该实施方式提升了突发热点主题的挖掘效率和准确率。

Description

用于获取突发热点主题的方法和装置
技术领域
本申请涉及电数字数据处理领域,具体涉及互联网信息检索技术领域,尤其涉及用于获取突发热点主题的方法和装置。
背景技术
随着互联网技术的发展,互联网数据不断增长,出现了很多突发热点主题。突发热点主题是指发生在某个时间段被热烈讨论和研究的事件主题,例如“AlphaGo”等具有科学研究价值或商业推广价值的主题。这些主题通常最早出现在社交媒体数据和新闻资讯等网络数据中,可以利用这些网络数据进行突发热点主题的挖掘和追踪。
目前主要的突发热点主题挖掘方法是依靠人工分析师进行数据统计和分析,这种方式依靠分析师的经验,人力成本高、耗时长,而且覆盖不全面,容易丢失一些有价值的热点主题,突发热点主题挖掘的效率和成功率有待提升。
发明内容
为了解决上述背景技术部分提到的一个或多个技术问题,本申请实施例提供了用于获取突发热点主题的方法和装置。
第一方面,本申请实施例提供了一种用于获取突发热点主题的方法,包括:获取第一预设时间段内的网络数据;从网络数据中抽取出多个标签,生成标签集合;基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题。
在一些实施例中,上述从网络数据中抽取出多个标签,生成标签集合,包括:对网络数据按照主题进行聚类,得到多个主题簇;从各主题簇中抽取出多个标签,得到标签集合。
在一些实施例中,上述筛选词典包括热点主题词典;上述基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合,包括:从标签集合中剔除热点主题词典中包含的标签;根据包含各标签的网络数据的关注度信息计算各标签的热度数据,根据热度数据排序筛选出至少一个候选标签,得出候选标签集合。
在一些实施例中,上述筛选词典还包括与预设目标主题类别相关的关键词词典;上述基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合,还包括:将候选标签集合与关键词词典进行匹配,剔除与关键词词典中的关键词不匹配的候选标签。
在一些实施例中,上述基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,包括:按照发布时间对网络消息进行排序,计算相邻两个网络消息的发布时间间隔,并按照网络消息的排序,基于发布时间间隔构造候选标签的时间间隔序列;构造状态序列;计算候选标签的状态关于时间间隔序列的后验概率函数,并基于候选标签的状态关于时间间隔序列的后验概率函数确定代价函数;确定出使代价函数最小的状态序列,以形成状态迁移轨迹。
在一些实施例中,上述方法还包括:基于状态迁移轨迹确定突发热点主题对应的起始时间和结束时间。
第二方面,本申请实施例提供了一种用于获取突发热点主题的装置,包括:获取单元,用于获取第一预设时间段内的网络数据;抽取单元,用于从网络数据中抽取出多个标签,生成标签集合;过滤单元,用于基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;建模单元,用于对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;确定单元,用于基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题。
在一些实施例中,上述抽取单元进一步用于按照如下方式从网络数据中抽取出多个标签,生成标签集合:对网络数据按照主题进行聚类,得到多个主题簇;从各主题簇中抽取出多个标签,得到标签集合。
在一些实施例中,上述筛选词典包括热点主题词典;上述过滤单元进一步用于按照如下方式对标签集合进行过滤,得到候选标签集合:从标签集合中剔除热点主题词典中包含的标签;根据包含各标签的网络数据的关注度信息计算各标签的热度数据,根据热度数据排序筛选出至少一个候选标签,得出候选标签集合。
在一些实施例中,上述筛选词典还包括与预设目标主题类别相关的关键词词典;上述过滤单元进一步用于按照如下方式对标签集合进行过滤,得到候选标签集合:将候选标签集合与关键词词典进行匹配,剔除与关键词词典中的关键词不匹配的候选标签。
在一些实施例中,上述建模单元进一步用于按照如下方式对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型:按照发布时间对网络消息进行排序,计算相邻两个网络消息的发布时间间隔,并按照网络消息的排序,基于发布时间间隔构造候选标签的时间间隔序列;构造状态序列;计算候选标签的状态关于时间间隔序列的后验概率函数,并基于候选标签的状态关于时间间隔序列的后验概率函数确定代价函数;确定出使代价函数最小的状态序列,以形成状态迁移轨迹。
在一些实施例中,上述确定单元还用于:基于状态迁移轨迹确定突发热点主题对应的起始时间和结束时间。
第三方面,本申请实施例提供了一种设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述用于获取突发热点主题的方法。
本申请实施例提供的用于获取突发热点主题的方法和装置,通过获取第一预设时间段内的网络数据;随后从网络数据中抽取出多个标签,生成标签集合;而后基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;之后对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;最后基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题,实现了突发热点主题的自动挖掘,提升了突发热点主题的挖掘效率和准确率。
附图说明
通过阅读参照以下附图所作的对非限制性实施例详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的用于获取突发热点主题的方法的一个实施例的流程图;
图3是根据本申请的用于获取突发热点主题的方法中生成标签集合的一种具体实现方式的流程示意图;
图4是根据本申请的用于获取突发热点主题的方法中对标签集合进行过滤,得到候选标签集合的一种具体实现方式的流程示意图;
图5是根据本申请的用于获取突发热点主题的方法中对候选标签的时间序列进行建模,得到候选标签的状态迁移模型的一种具体实现方式的流程示意图;
图6是根据本申请实施例得到的一个状态迁移模型的示意图;
图7是本申请的用于获取突发热点主题的装置的一个实施例的结构示意图;
图8是适于用来实现本申请实施例的服务器的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于获取突发热点主题的方法或用于获取突发热点主题的装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种信息获取类应用,例如网页浏览器类、搜索类应用、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持互联网访问的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对包括终端设备101、102、103等设备提交网络数据进行数据挖掘的请求进行响应的后台服务器,后台服务器可以对数据挖掘请求进行分析、关联数据查找、数据分析等处理,并将处理结果返回给终端设备101、102、103等设备。
需要说明的是,本申请实施例所提供的用于获取突发热点主题的方法一般由服务器105执行,相应地,用于获取突发热点主题的装置一般设置于服务器105中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的用于获取突发热点主题的方法的一个实施例的流程200。该用于获取突发热点主题的方法,包括以下步骤:
步骤201,获取第一预设时间段内的网络数据。
在本实施例中,上述用于获取突发热点主题的方法运行于其上的电子设备可以搜集第一预设时间段内的网络数据。第一预设时间段可以是以当前时间为截止时间回溯预设时长的一个时间段,例如可以是当前时间之前的24小时内;第一预设时间段也可以是预先设定起始时间和结束时间的一个时间段,例如可以是一年中的某一天;第一预设时间段还可以是一个具有预设时长的时间段,例如可以是一周。
网络数据可以是互联网上公开的数据,可以包括新闻资讯、社交网络平台(例如微博)发布的消息、博客、门户网站的页面内容等等。在本实施例中,上述电子设备可以利用网络爬虫抓取网络数据,或者向网络数据的后台服务器发出数据获取请求,并接收网络数据的后台服务器提供的网络数据。
通常,用户可以通过终端设备在网络上发布内容,上述电子设备可以根据内容的发布时间筛选出发布时间在第一预设时间段内的网络数据并获取筛选出的网络数据。
步骤202,从网络数据中抽取出多个标签,生成标签集合。
在本实施例中,可以对获取的网络数据进行数据分析,从中提取出多个标签,每个标签可以是用于标识一个潜在热点主题的关键词。具体地,上述网络数据可以包括文本数据,具体来说,可以对文本数据进行切词、分词等处理,然后通过词频统计、关键词库匹配等方法提取出多个关键词,作为抽取出的多个标签,进而生成标签集合。
在本实施例的一些可选的实现方式中,上述网络数据中可以包含以特定的符号标识的关键语句,例如微博话题以符号“#”间隔,则可以根据这些特定的符号对关键语句进行定位,然后提取出关键语句,作为抽取得到的标签,或者可以对关键语句进行进一步的简化处理作为抽取出的标签。
上述网络数据可以包括来源于不同源网站的多条数据,例如可以包括来源于不同网站的多篇文章、多条微博、来源于多个门户网站的多条资讯。在本实施例中一些可选的实现方式中,可以对每条数据进行关键词抽取,得到每条数据对应的标签,然后将各条数据对应的标签合并,得到上述标签集合。进一步可选地,上述标签集合中还可以包括多阶标签组合,多阶标签组合可以是在不同数据中同时出现的多个标签的组合。上述电子设备还可以对各条数据的标签进行比对,得到多阶标签组合。举例来说,如果标签A和标签B同时出现在两篇以上文章中,则标签A和标签B的组合构成二阶标签组合;如果从多篇文章、多条微博中均提取出了标签C、标签D、标签E三个标签,则标签C、标签D、标签E的组合构成三阶标签组合。多阶标签组合可以更有效地表征各标签之间的潜在关联关系,通过提取多阶标签组合,能够为热点主题的挖掘提供更丰富、更有效的数据支持。
步骤203,基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合。
上述标签集合中可能包含一些不具有潜在价值的标签,例如可能包含一些热度较低的标签、或者已经被持续讨论了很长时间、不属于突发性的热点话题的标签,则可以对上述标签集合进行过滤。
上述电子设备可以利用已获取的筛选词典对标签集合进行过滤。可以预先获取筛选词典,利用筛选词典对标签集合中的标签进行筛选。具体可以根据筛选词典所包含的词句的类型来确定筛选的规则。在一些可选的实现方式中,筛选词典中可以包括当前时刻之前已获取的热点主题的关联词句,例如可以包括与已有突发热点事件相关联的关键词。然后根据筛选词典对标签集合进行过滤,将标签集合中的与筛选词典中的词句相匹配的标签剔除。
在另一些可选的实现方式中,筛选词典中也可以包括根据所需要获取的突发热点主题的应用场景设定的关键词。例如若所需要获取的突发热点主题的应用场景为市场投资,则筛选词典可以包括股票、证券相关的关键词。这时,可以将与筛选词典中的词句关联度过小的标签从标签集合剔除,或者将与筛选词典中的关键词没有共现的标签剔除。
上述电子设备也可以利用已获取的网络数据的关注度信息对标签集合进行过滤。具体地,网络数据的关注度信息可以包括网络数据的点击数量,或者转发、评论、点赞数量、也可以包括在搜集的所有网络数据中的出现次数等等。可选地,可以在获取上述网络数据的同时获取网络数据的上述关注度信息,或者在对网络数据进行标签抽取之后获取每一条网络数据的关注度信息。之后,可以根据关注度信息、将关注度低于预设阈值的标签滤除。
在对标签集合进行上述过滤步骤之后,可以得到包含多个候选标签的标签集合。每个候选标签可以是一个候选的热点主题。
步骤204,对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型。
在本实施例中,可以通过对候选标签集合中的每个候选标签的状态进行分析来确定候选标签是否对应为突发的热点主题。具体地,对于每个候选标签tag,可以执行如下操作:
首先,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间。第二预设时间段可以为以当前时间为截止时间点的一段时间,第二预设时间段可以比上述第一预设时间段长,例如为60天。可以抓取包含候选标签tag的网络消息,这里的网络消息可以为发布在网络中的各种消息,包括微博、新闻、文章等等,并记录各网络消息的发布时间。
然后,可以基于各网络消息的发布时间来构建候选标签tag的时间间隔序列。可以按照发布时间对网络消息进行排序,然后根据排序对网络消息进行分组,各组网络消息的数量相同。例如排序第1至第N位的网络消息为第一组,第N+1至第2N位的网络消息为第二组,其中N为正整数,依此类推。然后计算各相邻两组网络消息中第一条网络消息之间的时间间隔,构建出候选标签tag的时间间隔序列。
之后,采用机器学习方法对候选标签tag的时间间隔序列进行建模,得到候选标签的状态迁移模型,该状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹。具体地,上述时间间隔序列中的时间间隔可以表示包含候选标签的网络消息的产生速率,速率越高,则表示该候选标签的状态变化较迅速,突发性越强,速率越低,则表示该候选标签状态比较平稳,突发性越弱。可以预先设定一些状态,例如平稳、增强、减弱等,作为预设状态然后将上述时间间隔序列输入已利用机器学习算法训练的状态分析模型,该状态分析模型可以分析出候选标签在上述预设状态之间转换的轨迹,得出上述候选标签的状态迁移模型。例如可以采用隐马尔可夫模型得出该候选标签在不同时刻的状态链,即可构成上述状态迁移模型。
步骤205,基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题。
在上述状态迁移模型中,状态发生突变表示相应的候选标签相关的网络消息的产生速度发生了突变,即表明该候选标签对应的话题具有突发性。在这里,状态发生突变可以包括状态由平稳突然变化为增强,或者由增强突然变化为平稳或减弱。状态由平稳突然变化为增强,则表明候选标签相关的话题网络讨论度急剧上升;状态由增强突然变化为平稳或减弱,表明该候选标签相关的话题讨论度急剧下降,表明在增强状态时该候选标签相关的话题讨论热度超出平均阈值讨论热度。这两种情况下均可以确定候选标签为从突发热点事件相关的消息中提取出的标签,则可以将状态发生突变的候选标签作为获取到的突发热点主题。
本申请上述实施例的用于获取突发热点主题的方法,通过获取第一预设时间段内的网络数据,随后从网络数据中抽取出多个标签,生成标签集合;而后基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;之后对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;最后基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题,实现了突发热点主题的自动挖掘,提升了突发热点主题的挖掘效率和准确率。
本申请上述实施例的应用场景可以为:以天为粒度,搜集一天的财经新闻。微博等网络数据,从这些网络数据中提取出标签集合之后,基于转发数、评论数等关注度信息对标签集合进行过滤,并计算标签集合中每个标签与股票词典、证券词典中的关键词的共现次数,过滤掉没有共现的标签,得出候选标签集合。之后可以回溯历史一段时间(例如60天)内的网络消息,获取候选标签集合中每个候选标签出现的网络消息的发布时间,生成候选标签的时间间隔序列。然后对每个候选标签的时间间隔序列进行建模,得到候选标签所标识的主题的热度状态随时间的迁移轨迹,进而确定出突发的具有投资价值的主题。
由于通常网络数据量比较大,多条网络数据中抽取出的标签之间可能具有一定的相似度,上述电子设备可以将相似的标签聚合,形成标签子集,在标签集合中以标签子集的形式来组织标签。图3示出了根据本申请的用于获取突发热点主题的方法中生成标签集合的一种具体实现方式的流程示意图。
如图3所示,在一些实施例中,上述从网络数据中抽取出多个标签,生成标签集合的方法流程300可以包括:
步骤301,对网络数据按照主题进行聚类,得到多个主题簇。
可以采用已有的聚类算法对网络数据进行聚类,得到多个主题簇,每个主题簇内的网络数据具有相同或相似的主题。基于各网络数据的主题之间的相似度来进行聚类,例如利用K均值算法对获取到的网络数据进行聚类,可以提取每条网络数据的特征向量,该特征向量可以是表征该网络数据的主题的向量,在聚类过程中对每一条待处理的网络数据,计算其与已有主题簇的特征向量之间的距离,将该条待处理的网络数据归入距离最近的主题簇中,之后利用误差,并进行调整以使误差收敛,从而得出多个主题簇。
可选地,可以采用dbscan(Density-Based Spatial Clustering ofApplications with Noise,具有噪声的基于密度的聚类方法)方法来对网络数据进行主题聚类。
步骤302,从各主题簇中抽取出多个标签,得到标签集合。
每个主题簇中的网络数据具有相似的主题,则从同一个主题簇中提取出的标签之间也可能具有较大的相似度或较强的相关性。不同主题簇中提取出的标签之间的相关性较小。可以从各主题簇中采用关键词提取等方法抽取出多个标签,然后将各主题簇抽取出的标签聚合,得到标签集合。这样,通过将网络数据聚类,分别对每一个主题簇进行标签抽取,可以提升标签抽取效率。
图4示出了根据本申请的用于获取突发热点主题的方法中对标签集合进行过滤,得到候选标签集合的一种具体实现方式的流程示意图,也即示出了基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合的一种可选实现方式的流程示意图。在这里,上述已获取的筛选词典可以包括热点主题词典。
如图4所示,上述基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合的方法流程400可以包括:
步骤401,从标签集合中剔除热点主题词典中包含的标签。
上述热点主题词典为包含已有的热点主题的词典。热点主题词典中主题对应的事件或话题已经被获取,因此需要从标签集合中将已有的热点主题对应的标签剔除。具体地,可以利用上述热点主题词典与标签集合匹配,剔除与热点主题词典相匹配的标签,剔除之后标签集合中的标签为对应新的主题的标签。
步骤402,根据包含各标签的网络数据的关注度信息计算各标签的热度数据,根据热度数据排序筛选出至少一个候选标签,得出候选标签集合。
接着,可以对获取的网络数据按照其包含的标签进行分类,形成每个标签对应的网络数据的集合。在这里,如果一条网络数据中包含多个标签,则该条网络数据可以属于多个标签对应的网络数据的集合。然后,可以根据网络数据的集合中各条网络数据的关注度信息计算对应的标签的热度数据。其中关注度信息可以包括点击量、转发数、评论数、点赞数、发布消息的用户的影响力指数等。在计算一个标签的热度数据时,可以统计该标签对应的网络数据的集合中各网络数据的点击量总数、转发总数、评论总数、点赞总数,并可以进行加权求和,作为该标签的热度数据。
之后可以根据热度数据对标签集合中的各标签进行降序排序,选出前预设位的标签加入候选标签集合。
通过利用热点主题词典对标签集合进行过滤,并且筛选出热度排序较高的标签作为候选标签,可以剔除没有价值的标签,并且充分地网络数据的关注度信息来准确定义各标签的热度,能够有效地挖掘出尚未被发现的热点主题。
在进一步的实施例中,上述筛选词典还可以包括与预设目标主题类别相关的关键词词典。如图4所示,上述基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合的方法流程400还可以包括:
步骤403,将候选标签集合与预设目标主题类别相关的关键词词典进行匹配,剔除与关键词词典中的关键词不匹配的候选标签。
上述与预设目标主题类别相关的关键词词典可以收录与预设目标主题类别相关的关键词。这里的预设目标主题类别可以是需要获取的突发热点主题的类别,可以是根据需要获取的突发热点主题预先设定的某一类别的主题。
举例来说,如果需要获取的突发热点主题的类别为商业投资类,则预设目标主题类别为投资类。可以预先通过收集财经词汇(如股票词汇、证券词汇、基金词汇等)来构建与投资类主题相关的关键词词典。如果需要获取的突发热点主题的类别为科技类,则预设目标主题类别为科技类。可以预先通过收集门户网站的科技频道的文章、已发表的高科技产品说明书等中的科技关键词来构建科技类主题相关的关键词词典。
可以从候选标签集合中剔除与上述关键词词典不匹配的候选标签,以保证候选标签集合中的各候选标签均为与预设目标主题类别的标签。这样,可以进一步根据设定的热点突发主题的类别对候选标签进行进一步的过滤和筛选,有助于提升热点突发主题挖掘的针对性和准确率。
在上述实施例的一些可选的实现方式中,可以采用用于检测突发事件的状态机模型来对各候选标签的时间间隔序列进行建模。具体地,请参考图5,其示出了根据本申请的用于获取突发热点主题的方法中对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型的一种具体实现方式的流程示意图。
如图5所示,该对候选标签的时间序列进行建模,得到候选标签的状态迁移模型的一种具体实现方式的流程500可以包括:
步骤501,按照发布时间对网络消息进行排序,计算相邻两个网络消息的发布时间间隔,并按照网络消息的排序,基于发布时间间隔构造候选标签的时间间隔序列。
在本实施例中,对每一个候选标签tag,在获取包含各候选标签的网络消息的同时可以记录网络消息的发布时间。可以按照发布时间对网络消息进行排序,之后计算相邻两个网络消息的发布时间间隔,按照网络消息的发布时间排序来构建时间间隔序列。
举例来说,假设包含候选标签tag的网络消息按发布时间排序依次为M1、M2、M3、M4、….M(n+1),其中n为正整数,可以计算M2与M1的发布时间之间的间隔x1,作为候选标签的时间间隔序列中的第一项;计算M3与M2的发布时间之间的间隔x2,作为候选标签的时间间隔序列中的第二项;依次计算后一个网络消息与前一个网络消息的发布时间之间的间隔,即时间间隔序列中第k为第k+1个网络消息的发布时间与第k个网络消息的发布时间之间的间隔,k=0,1,2,…,n,得到时间间隔序列x =(x1,x2,,xn)。
步骤502,构造状态序列。
随后,可以构造包含多个状态的状态序列:q=q0,q1,q2,…,qi,…,其中每个状态为对应时刻的候选标签的时间间隔序列所表征的候选标签的状态。
步骤503,计算候选标签的状态关于时间间隔序列的后验概率函数,并基于候选标签的状态关于时间间隔序列的后验概率函数确定代价函数。
假设候选标签只在两个状态之间切换,可以基于上述网络消息随时间的分布来得出时间间隔序列的概率密度函数fq(x):
Figure 328DEST_PATH_IMAGE001
(1)
其中,i1=0,i2=1,i3=2,i4=3,…., in=n-1,fit(xt)为第t个时间间隔xt对应的由其中一个状态切换至另一个状态的概率。
假设b为状态序列q的状态转换次数,则状态序列q的先验概率P0为:
Figure 760473DEST_PATH_IMAGE001
(2)
其中,p为候选标签的状态发生迁移的概率,1-p为候选标签的状态保持不变的概率。
然后,根据贝叶斯原理,得到后验概率:
Figure 293086DEST_PATH_IMAGE001
(3)
基于后验概率可以构建代价函数c0 (q|x):
Figure 180401DEST_PATH_IMAGE001
(4)
同理,当候选标签可以在无限个状态之间迁移时,代价函数如式(5):
Figure 52542DEST_PATH_IMAGE001
(5)
其中,τ(it,it+1)表示从状态序列中第it个状态迁移至第it+1个状态的代价。当j>i时,从状态qi迁移至状态qj的代价为(j-i)γlnn;当j<i时,从状态qi迁移至状态qj的代价为0,其中γ为设定的代价参数。
步骤504,确定出使代价函数最小的状态序列,以形成状态迁移轨迹。
最后,可以采用动态规划算法来寻找最优状态集合,确定出使上述代价函数c (q|x)最小的状态序列q0,q1,q2,…,qi,…,以形成状态迁移轨迹。在这里,状态序列中的各状态可以表示具有不同热度的状态,例如可以利用数字来表示不同的热度状态,数字越小,热度越低。
请参考图6,其示出了一个状态迁移模型的示意图。其中黑色点表示当前时刻候选标签的状态。如图6所示,候选标签在用数字表示的四个状态0,1,2,3中迁移,由低状态向高状态迁移代表热度由低变高,突发开始,由高状态向低状态迁移代表热度由高变低,突发结束。在t1时刻,由状态0迁移至状态1,在t2时刻,由状态1迁移至热度更高的状态3,t3时刻状态保持状态3不变,t4时刻由状态3迁移至状态1。
进一步地,本申请实施例的用于获取突发热点主题的方法还可以包括:基于状态迁移轨迹确定突发热点主题对应的起始时间和结束时间。具体地,可以根据状态迁移轨迹确定出状态突变的时间点,突然由低热度状态变化为高热度状态的时间点为起始时间,由高热度状态变化为低热度状态的时间点为结束时间。
如图6所示,可以看出从t1至t2时刻,该候选标签的状态突发开始,从t3至t4时刻,该候选标签的状态突发结束。则可以确定t1为突发热点主题对应的起始时间,t4为突发热点主题对应的结束时间。
可以看出,本实施例的获取突发热点主题的方法不仅可以预测突发热点主题,还可以追踪突发热点主题的演化过程,例如合适开始爆发,是否为初次爆发,以及何时开始衰减,能够为基于突发热点主题的分析研究提供更丰富的数据支持。
进一步参考图7,作为对上述各图所示方法的实现,本申请提供了一种用于获取突发热点主题的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图7所示,本实施例的用于获取突发热点主题的装置700包括:获取单元701、抽取单元702、过滤单元703、建模单元704以及确定单元705。其中获取单元701可以用于获取第一预设时间段内的网络数据;抽取单元702可以用于从网络数据中抽取出多个标签,生成标签集合;过滤单元703可以用于基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;建模单元704可以用于对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;确定单元705可以用于基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题。
在本实施例中,获取单元701可以搜集第一预设时间段内的网络数据。第一预设时间段可以是以当前时间为截止时间回溯预设时长的一个时间段,也可以是预先设定起始时间和结束时间的一个时间段,还可以是一个具有预设时长的时间段。网络数据可以是互联网上公开的数据,可以包括新闻资讯、社交网络平台(例如微博)发布的消息、博客、门户网站的页面内容等等。在本实施例中,获取单元701可以通过网络爬虫来抓取网络数据。
抽取单元702可以对获取单元701获取的网络数据进行数据分析,从中提取出多个标签,例如可以对文本格式的网络数据进行关键词提取,作为抽取出的多个标签,进而生成标签集合。
过滤单元703可以依据筛选词典和已获取的网络数据的关注度信息从抽取单元702抽取得出的标签集合中过滤掉一些不具有潜在价值的标签,得到候选标签集合。具体地,可以根据关注度信息过滤掉关注度低于设定的阈值的标签,或者可以过滤掉已被收录在筛选词典中的标签。
建模单元704可以获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,其中第二预设时间段可以为以当前时间为截止时间点的一段时间;然后基于各网络消息的发布时间来构建候选标签tag的时间间隔序列;之后可以将预先设定的一些状态作为预设状态,将上述时间间隔序列输入已利用机器学习算法训练的状态分析模型,该状态分析模型可以分析出候选标签在上述预设状态之间转换的轨迹,得出上述候选标签的状态迁移模型。
确定单元705可以确定出状态由平稳突然变化为增强,或者状态由增强突然变化为平稳或减弱的候选标签为突发热点主题。
在一些实施例中,上述抽取单元702可以进一步用于按照如下方式从网络数据中抽取出多个标签,生成标签集合:对网络数据按照主题进行聚类,得到多个主题簇;从各主题簇中抽取出多个标签,得到标签集合。
在一些实施例中,上述筛选词典可以包括热点主题词典;上述过滤单元703可以进一步用于按照如下方式对标签集合进行过滤,得到候选标签集合:从标签集合中剔除热点主题词典中包含的标签;根据包含各标签的网络数据的关注度信息计算各标签的热度数据,根据热度数据排序筛选出至少一个候选标签,得出候选标签集合。
在一些实施例中,上述筛选词典还可以包括与预设目标主题类别相关的关键词词典,则上述过滤单元703可以进一步用于按照如下方式对标签集合进行过滤,得到候选标签集合:将候选标签集合与关键词词典进行匹配,剔除与关键词词典中的关键词不匹配的候选标签。
在一些实施例中,上述建模单元704可以进一步用于按照如下方式对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型:按照发布时间对网络消息进行排序,计算相邻两个网络消息的发布时间间隔,并按照网络消息的排序,基于发布时间间隔构造候选标签的时间间隔序列;构造状态序列;计算候选标签的状态关于时间间隔序列的后验概率函数,并基于候选标签的状态关于时间间隔序列的后验概率函数确定代价函数;确定出使代价函数最小的状态序列,以形成状态迁移轨迹。
在一些实施例中,上述确定单元704还可以用于:基于状态迁移轨迹确定突发热点主题对应的起始时间和结束时间。
本申请上述实施例的用于获取突发热点主题的装置700,通过获取单元获取第一预设时间段内的网络数据;随后利用抽取单元从网络数据中抽取出多个标签,生成标签集合;而后过滤单元基于已获取的筛选词典和已获取的网络数据的关注度信息对标签集合进行过滤,得到候选标签集合;之后建模单元对候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建候选标签的时间间隔序列,采用机器学习方法对候选标签的时间间隔序列进行建模,得到候选标签的状态迁移模型,状态迁移模型用于描述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;最后确定单元基于各候选标签的状态迁移模型确定出状态发生突变的候选标签,作为突发热点主题,实现了突发热点主题的自动挖掘,提升了突发热点主题的挖掘效率和准确率。
应当理解,装置700中记载的诸单元可以与参考图2、图3、图4和图5描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作和特征同样适用于装置700及其中包含的单元,在此不再赘述。
下面参考图8,其示出了适于用来实现本申请实施例的服务器的计算机系统800的结构示意图。图8示出的服务器仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图8所示,计算机系统800包括中央处理单元(CPU)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有系统800操作所需的各种程序和数据。CPU 801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
以下部件连接至I/O接口805:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、抽取单元、过滤单元、建模单元以及确定单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取第一预设时间段内的网络数据的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:获取第一预设时间段内的网络数据;从所述网络数据中抽取出多个标签,生成标签集合;基于已获取的筛选词典和已获取的所述网络数据的关注度信息对所述标签集合进行过滤,得到候选标签集合;对所述候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建所述候选标签的时间间隔序列,采用机器学习方法对所述候选标签的时间间隔序列进行建模,得到所述候选标签的状态迁移模型,所述状态迁移模型用于描述所述候选标签随时间变化在至少一个预设状态之间迁移的轨迹;基于各所述候选标签的状态迁移模型确定出状态发生突变的候选标签,作为所述突发热点主题。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (14)

1.一种用于获取突发热点主题的方法,其特征在于,所述方法包括:
获取第一预设时间段内的网络数据;
从所述网络数据中抽取出多个标签,生成标签集合;
基于已获取的筛选词典和已获取的所述网络数据的关注度信息对所述标签集合进行过滤,得到候选标签集合;
对所述候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建所述候选标签的时间间隔序列,采用机器学习方法对所述候选标签的时间间隔序列进行建模,得到所述候选标签的状态迁移模型,所述状态迁移模型用于描述所述候选标签随时间变化在至少两个预设状态之间迁移的轨迹,其中,候选标签的状态用于表征候选标签的热度;
基于各所述候选标签的状态迁移模型确定出状态发生突变的候选标签,作为所述突发热点主题。
2.根据权利要求1所述的方法,其特征在于,所述从所述网络数据中抽取出多个标签,生成标签集合,包括:
对所述网络数据按照主题进行聚类,得到多个主题簇;
从各所述主题簇中抽取出多个标签,得到所述标签集合。
3.根据权利要求1所述的方法,其特征在于,所述筛选词典包括热点主题词典;
所述基于已获取的筛选词典和已获取的所述网络数据的关注度信息对所述标签集合进行过滤,得到候选标签集合,包括:
从所述标签集合中剔除所述热点主题词典中包含的标签;
根据包含各标签的网络数据的关注度信息计算各标签的热度数据,根据热度数据排序筛选出至少一个候选标签,得出所述候选标签集合。
4.根据权利要求3所述的方法,其特征在于,所述筛选词典还包括与预设目标主题类别相关的关键词词典;
所述基于已获取的筛选词典和已获取的所述网络数据的关注度信息对所述标签集合进行过滤,得到候选标签集合,还包括:
将所述候选标签集合与所述关键词词典进行匹配,剔除与所述关键词词典中的关键词不匹配的候选标签。
5.根据权利要求1所述的方法,其特征在于,所述基于各网络消息的发布时间构建所述候选标签的时间间隔序列,采用机器学习方法对所述候选标签的时间间隔序列进行建模,得到所述候选标签的状态迁移模型,包括:
按照发布时间对所述网络消息进行排序,计算相邻两个网络消息的发布时间间隔,并按照所述网络消息的排序,基于所述发布时间间隔构造所述候选标签的时间间隔序列;
构造状态序列;
计算所述候选标签的状态关于所述时间间隔序列的后验概率函数,并基于所述候选标签的状态关于所述时间间隔序列的后验概率函数确定代价函数;
确定出使所述代价函数最小的状态序列,以形成所述状态迁移轨迹。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
基于所述状态迁移轨迹确定所述突发热点主题对应的起始时间和结束时间。
7.一种用于获取突发热点主题的装置,其特征在于,所述装置包括:
获取单元,用于获取第一预设时间段内的网络数据;
抽取单元,用于从所述网络数据中抽取出多个标签,生成标签集合;
过滤单元,用于基于已获取的筛选词典和已获取的所述网络数据的关注度信息对所述标签集合进行过滤,得到候选标签集合;
建模单元,用于对所述候选标签集合中的每个候选标签,获取第二预设时间段内的包含该候选标签的各网络消息的发布时间,基于各网络消息的发布时间构建所述候选标签的时间间隔序列,采用机器学习方法对所述候选标签的时间间隔序列进行建模,得到所述候选标签的状态迁移模型,所述状态迁移模型用于描述所述候选标签随时间变化在至少两个预设状态之间迁移的轨迹,其中,候选标签的状态用于表征候选标签的热度;
确定单元,用于基于各所述候选标签的状态迁移模型确定出状态发生突变的候选标签,作为所述突发热点主题。
8.根据权利要求7所述的装置,其特征在于,所述抽取单元进一步用于按照如下方式从所述网络数据中抽取出多个标签,生成标签集合:
对所述网络数据按照主题进行聚类,得到多个主题簇;
从各所述主题簇中抽取出多个标签,得到所述标签集合。
9.根据权利要求7所述的装置,其特征在于,所述筛选词典包括热点主题词典;
所述过滤单元进一步用于按照如下方式对所述标签集合进行过滤,得到候选标签集合:
从所述标签集合中剔除所述热点主题词典中包含的标签;
根据包含各标签的网络数据的关注度信息计算各标签的热度数据,根据热度数据排序筛选出至少一个候选标签,得出所述候选标签集合。
10.根据权利要求9所述的装置,其特征在于,所述筛选词典还包括与预设目标主题类别相关的关键词词典;
所述过滤单元进一步用于按照如下方式对所述标签集合进行过滤,得到候选标签集合:
将所述候选标签集合与所述关键词词典进行匹配,剔除与所述关键词词典中的关键词不匹配的候选标签。
11.根据权利要求7所述的装置,其特征在于,所述建模单元进一步用于按照如下方式对所述候选标签的时间间隔序列进行建模,得到所述候选标签的状态迁移模型:
按照发布时间对所述网络消息进行排序,计算相邻两个网络消息的发布时间间隔,并按照所述网络消息的排序,基于所述发布时间间隔构造所述候选标签的时间间隔序列;
构造状态序列;
计算所述候选标签的状态关于所述时间间隔序列的后验概率函数,并基于所述候选标签的状态关于所述时间间隔序列的后验概率函数确定代价函数;
确定出使所述代价函数最小的状态序列,以形成所述状态迁移轨迹。
12.根据权利要求11所述的装置,其特征在于,所述确定单元还用于:
基于所述状态迁移轨迹确定所述突发热点主题对应的起始时间和结束时间。
13.一种设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一所述的方法。
CN201710812461.2A 2017-09-11 2017-09-11 用于获取突发热点主题的方法和装置 Active CN110147482B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710812461.2A CN110147482B (zh) 2017-09-11 2017-09-11 用于获取突发热点主题的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710812461.2A CN110147482B (zh) 2017-09-11 2017-09-11 用于获取突发热点主题的方法和装置

Publications (2)

Publication Number Publication Date
CN110147482A CN110147482A (zh) 2019-08-20
CN110147482B true CN110147482B (zh) 2021-06-22

Family

ID=67588077

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710812461.2A Active CN110147482B (zh) 2017-09-11 2017-09-11 用于获取突发热点主题的方法和装置

Country Status (1)

Country Link
CN (1) CN110147482B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111209100B (zh) * 2020-01-03 2020-12-22 光大兴陇信托有限责任公司 一种业务处理和数据源确定方法
CN112434158B (zh) * 2020-11-13 2024-05-28 海创汇科技创业发展股份有限公司 一种企业标签的获取方法、获取装置、存储介质和计算机设备
CN114338586B (zh) * 2021-12-21 2024-05-28 中国农业银行股份有限公司 一种消息推送方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102289487A (zh) * 2011-08-09 2011-12-21 浙江大学 基于主题模型的网络突发热点事件检测方法
CN104216954A (zh) * 2014-08-20 2014-12-17 北京邮电大学 突发事件话题状态的预测装置及预测方法
CN106294333A (zh) * 2015-05-11 2017-01-04 国家计算机网络与信息安全管理中心 一种微博突发话题检测方法及装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140289332A1 (en) * 2013-03-25 2014-09-25 Salesforce.Com, Inc. System and method for prefetching aggregate social media metrics using a time series cache
CN103714185B (zh) * 2014-01-17 2017-02-01 武汉大学 主题事件更新方法库及城市多源时空信息并行更新方法
CN104133897B (zh) * 2014-08-01 2017-07-11 哈尔滨工程大学 一种基于话题影响力的微博话题溯源方法
CN106570140B (zh) * 2016-05-26 2018-03-02 中科鼎富(北京)科技发展有限公司 确定信息热点的方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102289487A (zh) * 2011-08-09 2011-12-21 浙江大学 基于主题模型的网络突发热点事件检测方法
CN104216954A (zh) * 2014-08-20 2014-12-17 北京邮电大学 突发事件话题状态的预测装置及预测方法
CN106294333A (zh) * 2015-05-11 2017-01-04 国家计算机网络与信息安全管理中心 一种微博突发话题检测方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"Hot topic detection in local areas us Twitter and Wikipedia";Shota Ishikawa等;《ARCS 2012》;20120229;全文 *
"基于时间序列分析的微博突发话题检测方法";贺敏等;《通信学报》;20160331;第37卷(第3期);48-54 *

Also Published As

Publication number Publication date
CN110147482A (zh) 2019-08-20

Similar Documents

Publication Publication Date Title
CN108021651B (zh) 一种网络舆情风险评估方法及装置
CN112395539B (zh) 一种基于自然语言处理的舆情风险监测方法及系统
US11573995B2 (en) Analyzing the tone of textual data
CN110888990A (zh) 文本推荐方法、装置、设备及介质
CN112231569A (zh) 新闻推荐方法、装置、计算机设备及存储介质
CN106126605B (zh) 一种基于用户画像的短文本分类方法
CN110020126B (zh) 电子内容的内容选择和呈现
CN110147482B (zh) 用于获取突发热点主题的方法和装置
CN109284367B (zh) 用于处理文本的方法和装置
CN110633423A (zh) 目标账号识别方法、装置、设备及存储介质
CN111414471B (zh) 用于输出信息的方法和装置
Seman et al. Machine learning-based technique for big data sentiments extraction
CN116049379A (zh) 知识推荐方法、装置、电子设备和存储介质
CN111723180A (zh) 一种面试方法和装置
Qureshi et al. Aspect Level Songs Rating Based Upon Reviews in English.
CN110674300A (zh) 用于生成信息的方法和装置
CN116881430A (zh) 一种产业链识别方法、装置、电子设备及可读存储介质
CN111382262A (zh) 用于输出信息的方法和装置
CN104240107A (zh) 社群数据筛选系统及其方法
CN111488450A (zh) 一种用于生成关键词库的方法、装置和电子设备
Badola et al. Twitter spam detection using natural language processing by encoder decoder model
KR20230059364A (ko) 언어 모델을 이용한 여론조사 시스템 및 운영 방법
CN113919446A (zh) 多媒体资源的模型训练及相似度确定方法和装置
Mathur et al. Analyzing sentiment of twitter data using machine learning algorithm
CN112632981A (zh) 一种新词发现方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20191122

Address after: 201210 room j1328, floor 3, building 8, No. 55, Huiyuan Road, Jiading District, Shanghai

Applicant after: SHANGHAI YOUYANG NEW MEDIA INFORMATION TECHNOLOGY Co.,Ltd.

Address before: 100085 Beijing, Haidian District, No. ten on the ground floor, No. 10 Baidu building, layer three

Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd.

TA01 Transfer of patent application right
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20190820

Assignee: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd.

Assignor: SHANGHAI YOUYANG NEW MEDIA INFORMATION TECHNOLOGY Co.,Ltd.

Contract record no.: X2020990000201

Denomination of invention: Method and device for obtaining sudden hot topic

License type: Exclusive License

Record date: 20200420

EE01 Entry into force of recordation of patent licensing contract
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: 401120 b7-7-2, Yuxing Plaza, No.5, Huangyang Road, Yubei District, Chongqing

Patentee after: Chongqing duxiaoman Youyang Technology Co.,Ltd.

Address before: 201210 room j1328, 3 / F, building 8, 55 Huiyuan Road, Jiading District, Shanghai

Patentee before: SHANGHAI YOUYANG NEW MEDIA INFORMATION TECHNOLOGY Co.,Ltd.

CP03 Change of name, title or address