CN102426575A - Iptv数据采集方法及系统 - Google Patents
Iptv数据采集方法及系统 Download PDFInfo
- Publication number
- CN102426575A CN102426575A CN2011102138614A CN201110213861A CN102426575A CN 102426575 A CN102426575 A CN 102426575A CN 2011102138614 A CN2011102138614 A CN 2011102138614A CN 201110213861 A CN201110213861 A CN 201110213861A CN 102426575 A CN102426575 A CN 102426575A
- Authority
- CN
- China
- Prior art keywords
- task
- metadata
- source data
- staqtistical
- forwarding module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种IPTV数据采集方法,该方法并非现有的固化好几个任务进行固定种类的数据的采集,而是根据具体情况灵活的配置任务中包含的元数据(一个元数据指一条标准SQL(Structured Query Language))和任务的属性,以完成任务的创建,然后将创建好的任务发送给源数据设备,由源数据设备根据任务中所包含的元数据进行相应的数据采集,并将采集结果反馈给统计数据库进行统计、分析。由于本发明在配置任务包括的元数据时,可根据实际需求实际选择,任务的创建方式更灵活、简单,也更具有目的性。因此本发明提供的数据采集方法采集数据时更简单灵活,实效性更好,更易适合IPTV的发展的需求。
Description
技术领域
本发明涉及IPTV(交互式网络电视)技术领域,具体涉及一种IPTV数据采集方法及系统。
背景技术
随着宽带的逐渐普及和组播技术的不断发展,IPTV以其优良的实时性和交互性为广大用户所接收。IPTV是一种以家用电视机或PC为显示终端,通过互联网,提供包括电视节目在内的内容丰富的多媒体服务业务,可以实现媒体服务者和消费者之间的互动,并可以根据用户的选择提供内容广泛的多媒体服务功能。
在IPTV领域,需收集各种业务的运营数据,根据收集数据分析出用户的不同行为等。随着IPTV的迅猛发展,根据各用户的需求开发出了越来越多的业务,因此往往面临一些新运营数据。目前在该领域收集数据的做法是在针对不同的运营数据固化好几个任务,指定每个任务负责采集一类运营数据,然后将固化好的任务下发至各数据源,进行相应的数据采集;因此在需要对新的类型的运行数据进行采集时,不能根据实际情况灵活的配置任务,需改动原有任务的版本,然后经测试成功后才能投入使用,实施起来复杂、时效性差,且成本高。
发明内容
本发明要解决的主要技术问题是,提供一种实现简单、实效性好、使用成本低的IPTV数据采集方法及系统。
为解决上述技术问题,本发明提供一种IPTV数据采集方法,包括:
创建任务:配置任务属性以及任务中包含的元数据,完成任务创建;
任务下发:将创建好的任务下发给与之对应的源数据设备;
任务处理:源数据设备接收到所述任务之后,根据所述任务包含的元数据进行数据采集,并将采集结果传递给统计数据库。
在本发明的一种实施例中,所述任务下发,是由所述统计数据库得到创建好的任务后,下发给所述源数据设备的。
在本发明的一种实施例中,所述任务属性包括目标地址信息,所述统计数据库下发所述任务时,根据所述目标地址信息将所述任务发送给与之对应的源数据设备。
在本发明的一种实施例中,所述任务属性还包括发送时间间隔信息,所述统计数据库根据所述发送时间间隔信息重复的发送所述任务给与之相对应的源数据设备。
在本发明的一种实施例中,所述任务创建,包括新创建任务,或者在已有任务中增加或删除元数据来创建。
本发明还提供了一种IPTV数据采集系统,包括通信连接的任务创建模块、统计数据库、转发模块和源数据设备:
所述任务创建模块用于配置任务属性以及任务中包含的元数据,完成任务创建,并将创建好的任务发送给所述统计数据库;
所述统计数据库用于保存接收到的任务,并将接收到的任务发送给所述转发模块;还用于接收、保存所述转发模块发送的采集结果;
所述转发模块用于将接收的任务发给所述源数据设备,还用于将所述源数据设备发送的采集结果转发给所述统计数据库;
所述源数据设备用于接收所述转发模块转发的任务,并根据所述任务中包含的元数据进行数据采集,将采集结果发送给所述转发模块。
在本发明的一种实施例中,所述源数据设备包括任务处理模块和源数据库,所述任务处理模块用于根据所述任务中包含的元数据在所述源数据库中进行数据采集,并将采集结果反馈给所述转发模块。
在本发明的一种实施例中,所述任务属性包括目标地址信息,所述转发模块根据所述目标地址信息将所述任务发送给与之对应的源数据设备。
在本发明的一种实施例中,所述任务属性包括发送时间间隔信息,所述统计数据库根据所述发送时间间隔信息将所述任务重复的发送给所述转发模块。
在本发明的一种实施例中,所述任务创建模块还用于提供用户操作界面,通过所述用户操作界面完成所述任务的属性及其包含的元数据的配置。
本发明的有益效果是:本发明提供的数据采集方法并非根据运营数据的种类而固化好几个任务进行固定种类的数据的采集,而是可根据具体情况灵活的配置任务中包含的元数据(本发明中一个元数据指一条标准SQL(StructuredQuery Language))和任务的属性,以完成任务的创建,然后将创建好的任务发送给源数据设备,由源数据设备根据任务中所包含的元数据进行相应的数据采集,并将采集结果反馈给统计数据库进行统计、分析或保存。本发明在配置任务包括的元数据时,可根据实际需求实际选择,因此任务的创建方式更灵活、简单,也更具有目的性。因此本发明提供的数据采集方法采集数据时更简单灵活,配置周期短,实效性更好,更易适合IPTV的发展的需求。
另外,本例中的任务并非之前就已固化好,而是根据实际需求配置的元数据进行有目的的任务创建,例如在有新的种类的运营数据时,或需改变任务采集的数据种类时,可选择根据与各种运营数据对应的元数据建立新的任务;或在已存在的任务中增加或删除相应的元数据以创建满足采集需求的新任务进行相应的数据采集,创建方式灵活,更能缩短配置周期、进一步提高采集的实效。
附图说明
图1为本发明一种实施例的数据采集流程图;
图2为本发明一种实施例的任务结构框图;
图3为本发明一种实施例的系统框图。
具体实施方式
本发明提供的方法,可根据实际需要采集的数据的种类动态的创建任务,使执行该任务任务的数据采集过程更具有更灵活、目标性更强,更适合IPTV的发展趋势。下面通过具体实施方式结合附图对本发明作进一步详细说明。
请参考图1,本例提供的数据采集方法包括以下步骤:
创建任务:配置任务属性以及任务中包含的元数据,完成任务创建;
任务下发:将创建好的任务下发给与之对应的源数据设备;
任务处理:源数据设备接收到所述任务之后,根据所述任务包含的元数据进行数据采集,并将采集结果传递给统计数据库。
本例中一个元数据指一个标准的SQL,本例中任务配置的元数据可由用户根据实际情况具体选择,本例中的一个任务可包括一个或多个元数据,请参见图2,每个元数据可用于采集一类运营数据。例如用户可选择两个元数据创建一个任务,其中一个元数据1用于采集用户的性别,另一个元数据2用于采集用户的年龄。然后根据上述选择好元数据完成任务的配置。
值得注意的是,本例中创建好任务之后,还包括将创建好的任务发送给统计数据库进行保存,然后通过统计数据库将创建好的任务进行下发。本例中将创建好的任务发给统计数据库进行保存有以下作用:在后续需要使用该任务时,可直接从统计数据库调出;另外,在创建新的任务时,还可从统计数据库中直接调用原有的任务,在原有任务基础上进行修改,可节约程序,实现更简单。例如:假设保存在统计数据库中的任务1只包含用于采集用户性别的统计数据库,现要求采集用户的性别和年龄方面的数据,则可选择直接从统计数据库中调出任务1,然后在任务1中添加用于采集用户年龄的元数据以组成新的任务2,则执行新的任务2即可采集用户的性别和年龄相关的数据。
综上可知,本例中在创建任务时,可根据具体实际情况配置任务内该包括的元数据以完成新任务的创建;也可选择在原有的任务基础上增加或删除相应的元素数据以构成新的任务,例如经上述任务2中的用于采集用户年龄的元数据删除,则变成了上述任务1。因此本例中提供的采集方法实现灵活、简单,可动态的创建和编辑任务以满足用户不同的需求。当然,本例中还可直接删除原有的任务,进行重建。
本例中配置的任务属性可包括目标地址信息、发送时间间隔信息等。本例中的目标地址信息包括与该任务对应的各个源数据设备的地址信息,本例中的发送时间间隔包括重复发送该任务的时间间隔。在下发该任务时,可根据目标地址信息包括的各源数据设备将该任务下发到相应的源数据设备;根据发送时间间隔信息包括的重复发送该任务的时间间隔重复的发送该任务给与之相对应的源数据设备。
本例中重复发送任务的时间间隔可根据具体情况实际设置,对于用户增加或减少频率相对较小的情况,可选择较大的重复发送任务的时间间隔以采集相应的数据,根据用户的增减情况及时更新。当用户增加或减少的频率较大时,可选择较小的重复发送任务的时间间隔以频繁的发送、执行该任务,及时的采集相关数据,了解相关动态并对相应的数据进行更新。
本例中的发送时间间隔信息还可包括上次发送该任务的时间信息,可根据上次发送该任务的时间信息和其包括的重复发送时间间隔计算该任务的下一个发送时间点。
本例还提供了一种用于IPTV的数据采集系统,请参见图3,包括通信连接的任务创建模块、统计数据库、转发模块和源数据设备,其中:
任务创建模块用于配置任务属性以及任务中包含的元数据,完成任务创建,并将创建好的任务发送给所述统计数据库;
所述统计数据库用于保存接收到的任务,并将接收到的任务发送给所述转发模块;还用于接收、保存所述转发模块发送的采集结果;
所述转发模块用于将接收的任务发给所述源数据设备,还用于将所述源数据设备发送的采集结果转发给所述统计数据库;
所述源数据设备用于接收所述转发模块转发的任务,并根据所述任务中包含的元数据进行数据采集,将采集结果发送给所述转发模块。
本例中任务创建模块可提供用户操作界面,通过用户操作界面进行任务属性以及包含的元数据的配置,具体的如可通过电脑等显示设备提供一个用户操作界面,用户在该操作界面上完成任务属性以及元数据的选择配置,或者增加或删除已经存在的任务里包括的元数据,设置直接删除原来存在的任务。
本例中的源数据设备包括任务处理模块和源数据库,其中,任务处理模块用于根据任务中包含的元数据在源数据库中进行相关的数据采集,并将采集结果反馈给转发模块,由转发模块将其转发给统计数据库进行保存,以及进行后续的统计分析。由于本例中的任务属性包括目标地址信息和发送时间间隔信息,统计数据库根据任务中包括的发送时间间隔信息将该任务重复的发送给所述转发模块,转发模块则根据任务包括的目标地址信息将其发送给与之对应的源数据设备以进行数据的采集。
本例中的任务创建模块除了根据用户选择的元数据利用上述创建任务外,还可根据用户的选择删除已经保存在统计数据库中的任务,以对保存的任务进行更新,避免过多的无用的任务堆积。
下面结合一个完整的采集过程对本发明做进一步说明:
假设配置时根据实际需求通过任务创建模块提供的用户操作界面选择用于采集用户的性别的元数据a和用于采集用户年龄的元数据b进行任务的配置,且配置好该任务的属性(至少包括目标地址信息和发送时间间隔信息,假设目标地址信息包括源数据设备3地址信息,该任务重发的时间间隔为10分钟)已完成任务的创建,创建模块将上述创建好的任务发送给统计数据库。
统计数据库根据接收到的任务包括的发送时间间隔信息将其发送给转发模块,例如,发送模块第一次发送了该任务之后,则过十分钟之后会再次发送该任务,按上述规律重复发送。另外,还可通过该任务包括的上次发送时间信息记录任务上次发送的时间,然后根据重复发送时间间隔可分到此次发送的时间点,例如上次发送的时间是十点整,则此次发送任务的时间点是十点十分。
转发模块接收到该任务之后,根据该任务包含的目标地址信息(即源数据设备3地址信息)将其转发给源数据设备3;
源数据设备3接收到的该任务后,其包括的任务处理模块解析该任务得到元数据a和元数据b,然后根据元数据a和元数据b在源数据库中进行数据采集、采集用户性别和用户年龄相关的数据,并将采集到的数据打包传送给转发模块,具体可采用FTP传送。
转发模块接收到源数据设备3转发的采集结果后,可先对其进行判断处理,然后将该采集结果传递给统计数据库进行统计分析,完成一次数据的采集。
综上可知,本发明中用于数据采集的任务可根据采集数据的种类和以及客户端用户的具体选择配置。或在原有任务的基础上添加相应的元数据或删除原有的元数据以构成新的任务,满足数据动态采集的需求。采集方式更灵活,实施更容易、有效,实效性更好,更适合IPTV发展的需求。
以上内容是结合具体的实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (10)
1.一种IPTV数据采集方法,其特征在于包括:
创建任务:配置任务属性以及任务中包含的元数据,完成任务创建;
任务下发:将创建好的任务下发给与之对应的源数据设备;
任务处理:源数据设备接收到所述任务之后,根据所述任务包含的元数据进行数据采集,并将采集结果传递给统计数据库。
2.如权利要求1所述的方法,其特征在于,所述任务下发,是由所述统计数据库得到创建好的任务后,下发给所述源数据设备的。
3.如权利要求2所述的方法,其特征在于,所述任务属性包括目标地址信息,所述统计数据库下发所述任务时,根据所述目标地址信息将所述任务发送给与之对应的源数据设备。
4.如权利要求2所述的方法,其特征在于,所述任务属性还包括发送时间间隔信息,所述统计数据库根据所述发送时间间隔信息重复的发送所述任务给与之相对应的源数据设备。
5.如权利要求1-4任一项所述的方法,其特征在于,所述任务创建,包括新创建任务,或者在已有任务中增加或删除元数据来创建。
6.一种IPTV数据采集系统,其特征在于包括通信连接的任务创建模块、统计数据库、转发模块和源数据设备:
所述任务创建模块用于配置任务属性以及任务中包含的元数据,完成任务创建,并将创建好的任务发送给所述统计数据库;
所述统计数据库用于保存接收到的任务,并将接收到的任务发送给所述转发模块;还用于接收、保存所述转发模块发送的采集结果;
所述转发模块用于将接收的任务发给所述源数据设备,还用于将所述源数据设备发送的采集结果转发给所述统计数据库;
所述源数据设备用于接收所述转发模块转发的任务,并根据所述任务中包含的元数据进行数据采集,将采集结果发送给所述转发模块。
7.如权利要求6所述的系统,其特征在于,所述源数据设备包括任务处理模块和源数据库,所述任务处理模块用于根据所述任务中包含的元数据在所述源数据库中进行数据采集,并将采集结果反馈给所述转发模块。
8.如权利要求7所述的系统,其特征在于,所述任务属性包括目标地址信息,所述转发模块根据所述目标地址信息将所述任务发送给与之对应的源数据设备。
9.如权利要求6-9任一项所述的系统,其特征在于,所述任务属性包括发送时间间隔信息,所述统计数据库根据所述发送时间间隔信息将所述任务重复的发送给所述转发模块。
10.如权利要求6-9所述的系统,其特征在于,所述任务创建模块还用于提供用户操作界面,通过所述用户操作界面完成所述任务的属性及其包含的元数据的配置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2011102138614A CN102426575A (zh) | 2011-07-28 | 2011-07-28 | Iptv数据采集方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2011102138614A CN102426575A (zh) | 2011-07-28 | 2011-07-28 | Iptv数据采集方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102426575A true CN102426575A (zh) | 2012-04-25 |
Family
ID=45960559
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2011102138614A Pending CN102426575A (zh) | 2011-07-28 | 2011-07-28 | Iptv数据采集方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102426575A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103747048A (zh) * | 2013-12-24 | 2014-04-23 | 乐视网信息技术(北京)股份有限公司 | 一种信息处理方法和装置 |
CN105243333A (zh) * | 2015-08-28 | 2016-01-13 | 苏州国云数据科技有限公司 | 多数据源远程接入方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1687922A (zh) * | 2005-05-30 | 2005-10-26 | 北京慧讯信息技术有限公司 | 分布式数据源数据集成系统及方法 |
US20060069815A1 (en) * | 2004-09-29 | 2006-03-30 | Warner William T Iii | Method and system for initiating a task and receiving task data via TWAIN interface from network-attached peripheral |
CN101202761A (zh) * | 2007-12-04 | 2008-06-18 | 赵晓宇 | 一种分布式资源调度系统及其方法 |
CN101262367A (zh) * | 2008-03-07 | 2008-09-10 | 中兴通讯股份有限公司 | 性能数据的采集方法和装置 |
CN201654777U (zh) * | 2009-04-22 | 2010-11-24 | 同方知网(北京)技术有限公司 | 动态数据采集装置 |
-
2011
- 2011-07-28 CN CN2011102138614A patent/CN102426575A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060069815A1 (en) * | 2004-09-29 | 2006-03-30 | Warner William T Iii | Method and system for initiating a task and receiving task data via TWAIN interface from network-attached peripheral |
CN1687922A (zh) * | 2005-05-30 | 2005-10-26 | 北京慧讯信息技术有限公司 | 分布式数据源数据集成系统及方法 |
CN101202761A (zh) * | 2007-12-04 | 2008-06-18 | 赵晓宇 | 一种分布式资源调度系统及其方法 |
CN101262367A (zh) * | 2008-03-07 | 2008-09-10 | 中兴通讯股份有限公司 | 性能数据的采集方法和装置 |
CN201654777U (zh) * | 2009-04-22 | 2010-11-24 | 同方知网(北京)技术有限公司 | 动态数据采集装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103747048A (zh) * | 2013-12-24 | 2014-04-23 | 乐视网信息技术(北京)股份有限公司 | 一种信息处理方法和装置 |
CN105243333A (zh) * | 2015-08-28 | 2016-01-13 | 苏州国云数据科技有限公司 | 多数据源远程接入方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104091287B (zh) | 一种基于数据驱动的任务实现方法及装置 | |
CN108197237B (zh) | 可视化数据采集到展现系统 | |
CN103209087B (zh) | 分布式日志统计处理方法和系统 | |
CN103312544B (zh) | 一种控制终端上报日志文件的方法、设备和系统 | |
CN105095107A (zh) | 清理缓存数据的方法及装置 | |
CN105050063B (zh) | 一种推送信息的方法及装置 | |
CN105574052A (zh) | 数据库查询方法及装置 | |
CN102375837A (zh) | 数据采集系统和方法 | |
CN112104897B (zh) | 视频获取方法、终端及存储介质 | |
CN102917061A (zh) | 资源同步方法和系统 | |
CN102209118A (zh) | 一种分布式海量数据汇聚方法 | |
CN102222112B (zh) | 资源管理装置和资源管理方法 | |
CN109640173A (zh) | 一种视频播放方法、装置、设备及介质 | |
CN104424244A (zh) | 一种获取搜索结果的方法、装置与设备 | |
JP6100900B2 (ja) | データのオンライン処理のための方法、デバイスおよびシステム | |
CN103324696A (zh) | 一种数据日志收集与统计分析系统和方法 | |
CN102036108A (zh) | 一种利用数字电视终端实现收视调查的方法及设备 | |
CN110032578B (zh) | 一种海量数据查询缓存的方法及装置 | |
CN103164425B (zh) | 应用程序平台系统中推送应用程序的方法和装置 | |
CN103227941B (zh) | 数据推送系统及数据推送方法 | |
CN102426575A (zh) | Iptv数据采集方法及系统 | |
CN104902432A (zh) | 生成移动终端应用操作日志的方法和设备 | |
CN101854249B (zh) | 一种基于单向广播网的互联网信息应用方法、系统及终端 | |
CN105354743A (zh) | 一种数据处理方法及装置 | |
US20110082839A1 (en) | Generating intellectual property intelligence using a patent search engine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20120425 |
|
RJ01 | Rejection of invention patent application after publication |