CN112000694B - 一种数据获取方法、装置、设备及介质 - Google Patents

一种数据获取方法、装置、设备及介质 Download PDF

Info

Publication number
CN112000694B
CN112000694B CN202010955212.0A CN202010955212A CN112000694B CN 112000694 B CN112000694 B CN 112000694B CN 202010955212 A CN202010955212 A CN 202010955212A CN 112000694 B CN112000694 B CN 112000694B
Authority
CN
China
Prior art keywords
data
target
target data
source
data acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010955212.0A
Other languages
English (en)
Other versions
CN112000694A (zh
Inventor
翁澍瑜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202010955212.0A priority Critical patent/CN112000694B/zh
Priority to CN202410325214.XA priority patent/CN118069687A/zh
Publication of CN112000694A publication Critical patent/CN112000694A/zh
Application granted granted Critical
Publication of CN112000694B publication Critical patent/CN112000694B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/258Data format conversion from or to a database
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Stored Programmes (AREA)

Abstract

本说明书实施例公开了一种数据获取方法,包括:数据接入条件触发后,确定待接入的数据源;对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;通过所述目标数据源获取所述目标数据。

Description

一种数据获取方法、装置、设备及介质
技术领域
本申请涉及计算机技术领域,尤其涉及一种数据获取方法、装置、设备及介质。
背景技术
现有技术中,出于各种目的,人们需要获取各种各样的数据。若待获取的数据具有多个数据来源方,则人们需要分别与各个数据来源方进行交互,以获取想要的数据,由此面临多方面问题,例如有的数据来源方即使进行交互后也不能提供所需要的数据,各个数据来源方的数据获取方式或数据获取要求不同的问题,增大了数据获取难度。
有鉴于此,需要更有效和更高效的数据获取方案。
发明内容
本说明书实施例提供一种数据获取方法、装置、设备及介质,用以解决如何更有效和更高效地进行数据获取的技术问题。
为解决上述技术问题,本说明书实施例提供如下技术方案:
本说明书实施例提供第一种数据获取方法,包括:
数据接入条件触发后,确定待接入的数据源;
对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;
获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;
通过所述目标数据源获取所述目标数据。
本说明书实施例提供第二种数据获取方法,包括:
数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征;
获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成数据获取请求;
向数据采集方发送所述数据获取请求,以使所述数据采集方接收所述数据获取请求后,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从所述数据采集方的已接入数据源中确定目标数据源,并通过所述目标数据源获取所述目标数据;
接收所述数据采集方发送的所述目标数据。
本说明书实施例提供一种数据获取装置,包括:
接入模块,用于数据接入条件触发后,确定待接入的数据源;以及,对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;
数据定位模块,用于获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;
数据获取模块,用于通过所述目标数据源获取所述目标数据。
本说明书实施例提供一种数据获取装置,包括:
配置模块,用于数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征;
请求生成模块,用于获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成数据获取请求;
获取驱动模块,用于向数据采集方发送所述数据获取请求,以使所述数据采集方接收所述数据获取请求后,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从所述数据采集方的已接入数据源中确定目标数据源,并通过所述目标数据源获取所述目标数据;
数据接收模块,用于接收所述数据采集方发送的所述目标数据。
本说明书实施例提供一种数据获取设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,使所述至少一个处理器能够执行上述第一种数据获取方法。
本说明书实施例提供一种数据获取设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,使所述至少一个处理器能够执行上述第二种数据获取方法。
本说明书实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现上述第一种数据获取方法。
本说明书实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现上述第二种数据获取方法。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
通过接入各个数据源,并确定数据源的数据特征,既能够根据待获取的目标数据的数据特征准确定位用于提供目标数据的目标数据源,又能够统一与各个目标数据源进行交互以获取目标数据,从而提高数据获取效率和效果。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对本说明书实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本说明书第一个实施例中的数据获取方法的执行主体示意图。
图2是本说明书第一个实施例中的数据获取方法的流程示意图。
图3是本说明书第二个实施例中的数据获取方法的流程示意图。
图4是本说明书第三个实施例中的数据获取装置的结构示意图。
图5是本说明书第四个实施例中的数据获取装置的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本说明书实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
现有技术中,当人们需要获取数据,例如各种互联网业务数据时,若待获取的数据具有多个数据来源方,则人们需要分别与各个数据来源方进行交互,以获取想要的数据,由此面临多方面问题,例如有的数据来源方即使进行交互后也不能提供所需要的数据,各个数据来源方的数据获取方式或数据获取要求不同的问题,这无疑增大了数据获取难度。
本说明书第一个实施例(以下简称“本实施例”)提供了一种数据获取方法,本实施例的执行主体可以是终端(包括但不限于手机、计算机、pad、电视)或者服务器或者操作系统或者数据获取平台或者数据获取系统等,即执行主体可以是多种多样的,可以根据需要设置、使用或者变换执行主体。另外,也可以有第三方应用程序协助所述执行主体执行本实施例。例如图1所示,可以由服务器来执行本实施例中的数据获取方法,并且可以在(用户所持有的)终端上安装(与所述服务器)相对应的应用程序,终端或应用程序与服务器之间可以进行数据传输,通过终端或应用程序来进行数据的采集或输入或输出或(向用户)进行页面或信息展示,从而辅助服务器执行本实施例中的数据获取方法。
如图2所示,本实施例提供的数据获取方法包括:
S101:(执行主体判定)数据接入条件触发后,(执行主体)确定待接入的数据源;
本实施例中,执行主体(即本实施例的执行主体,下同)可以预设各种数据接入条件,数据接入条件用于指示执行主体执行数据源接入进程。具体的,数据接入条件包括但不限于:数据接入条件可以是接收数据接入请求,即接收到数据接入请求后触发数据接入条件;或者数据接入条件可以是预设用户操作(预设用户操作包括用户点击预设按钮或输入预设指令),当用户做出所述预设用户操作时触发数据接入条件。
数据接入条件触发后,执行主体可以确定待接入的数据源。具体的,数据接入条件触发后,执行主体可以确定触发数据接入条件的对象(不妨称为接入条件触发对象)的身份或标识数据,这里的接入条件触发对象包括但不限于终端或服务器等各种主体。例如,若是由于接收数据接入请求而触发数据接入条件,数据接入请求的发送方可作为接入条件触发对象,接入条件触发对象的身份或标识数据可以包含在数据接入请求中。
上述的接入条件触发对象具有各自对应的数据,例如其数据库中存储的数据,包括但不限于交易数据、社交数据等,故所述接入条件触发对象可以作为数据源(或数据来源方),数据源可以用于提供数据。执行主体确定接入条件触发对象为待接入对象,待接入对象即为待接入的数据源。
S103:(执行主体)对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;
执行主体确定待接入的数据源后,可以为待接入的数据源执行数据源接入操作。具体的,执行主体执行数据源接入操作可以包括:执行主体为待接入的数据源开放接口,或待接入的数据源为执行主体接入接口,执行主体或待接入的数据源开放相关接口后,由执行主体存储相关接口信息,从而执行主体对待接入的数据源进行接入。具体的,执行主体可以基于包括但不限于java或groovy等在内的语言,以编码的形式接入所述接入条件触发对象,并配置相应的参数,例如配置数据源上的数据库的参数。
本实施例中,有的数据源具有与执行主体进行数据交互的能力,可以称之为动态数据源,例如终端或服务器等数据源,其能够与执行主体进行数据交互。有的数据源不具有与执行主体进行数据交互的能力,或者不具有向执行主体发送数据的能力,但可以接收执行主体的指令或数据,可以称之为静态数据源,例如Word文件、Excel文件等,其本身不能向执行主体发送数据。
数据接入条件触发后,若执行主体确定待接入的数据源为静态数据源,则执行主体同样可以通过上述编码形式接入静态数据源。
本实施例中,执行主体可以确定被接入的数据源对应的数据特征。其中,被接入的数据源对应的数据特征即被接入的数据源所能提供的数据(即数据源所拥有或存储的数据)的数据特征,数据特征包括但不限于数据类型、数据格式、数据内容、数据属性等。
具体的,确定被接入的数据源的数据特征可以采用1.1和/或1.2和/或1.3所述的方式(本实施例不限于1.1和/或1.2和/或1.3所述的方式):
1.1、数据接入请求中包含被接入的数据源对应的数据特征
若是由于接收数据接入请求而触发数据接入条件,则数据接入请求中可以包含待接入的数据源(待接入的数据源即接入条件触发对象,待接入的数据源在接入执行主体后即成为被接入的数据源)所能提供的数据的数据特征。
1.2、执行主体询问被接入的数据源对应的数据特征
执行主体可以向被接入的数据源发送数据特征查询请求,用于询问被接入的数据源的数据特征。当执行主体接收到被接入的数据源发送的对应所述数据特征查询请求的反馈数据后,可以根据所述反馈数据确定被接入的数据源对应的数据特征。
1.3、执行主体扫描被接入的数据源所能够提供的数据,以确定被接入的数据源对应的数据特征
数据源接入执行主体后,执行主体与被接入的数据源之间可以实现数据互通,执行主体可以读取被接入的数据源所拥有或存储的数据,自然执行主体可以对被接入的数据源所拥有或存储的数据进行扫描,从而确定被接入的数据源对应的数据特征。
S105:(执行主体)获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;
本实施例中,执行主体可以获取数据获取请求。这里的数据获取请求可以是数据获取请求方或数据需求方(数据获取请求方或数据需求方可以是各种各样的主体,包括但不限于终端或服务器)发送的,执行主体可以接收其发送的数据获取请求,数据获取请求所请求获取的目标数据即为数据获取请求方或数据需求方所请求获取的目标数据。执行主体获取数据获取请求后,可以确定数据获取请求所请求获取的目标数据的数据特征。具体的,数据获取请求中可以包含所请求获取的目标数据的数据特征,以便执行主体确定所请求获取的目标数据的数据特征。
执行主体如何获取(获取包括但不限于接收)数据获取请求可以采用2.1和/或2.2所述的方式(本实施例不限于2.1和/或2.2所述的方式):
2.1、执行主体接收其他主体发送的数据获取请求
如前述,执行主体可以接收数据获取请求方或数据需求方发送的数据获取请求。其中,执行主体可以设置数据获取条件,数据获取条件触发后,执行主体向数据获取条件的触发终端(即触发数据获取条件的终端)发送数据获取配置数据。
具体的,用户操作某终端或某终端安装的某应用程序,用户操作该终端过程中,该终端或该应用程序与执行主体进行数据交互(如图1所示),从而可以触发数据获取条件,该终端即为触发终端,该应用程序即为触发应用程序。
数据获取条件触发后,执行主体向数据获取条件的触发终端发送数据获取配置数据(“数据获取配置数据”也可以称为数据展示配置信息),以使触发终端根据数据获取配置数据显示“数据获取配置选项”,所述数据获取配置选项用于(用户)配置待获取数据(即目标数据)的数据特征。
用户可以根据自身需要选择各种数据获取配置选项,以配置待获取数据的数据特征。触发终端或触发应用程序获取用户对数据获取配置选项进行配置或选择后的配置信息(即配置数据,配置信息或配置数据与数据获取配置选项对应,下同),根据所述配置信息生成数据获取请求并发送给执行主体。数据获取配置选项用于(用户)配置待获取数据的数据特征,故配置信息可以包含待获取数据的数据特征,根据配置信息生成的数据获取请求也就可以包含待获取数据的数据特征。
2.2、执行主体接收配置信息,并生成数据获取请求
如前述,执行主体可以接收数据获取请求方或数据需求方发送的数据获取请求。其中,执行主体可以设置数据获取条件,数据获取条件触发后,执行主体向数据获取条件的触发终端(即触发数据获取条件的终端)发送数据获取配置数据。
具体的,用户操作某终端或某终端安装的某应用程序,用户操作该终端过程中,该终端或该应用程序与执行主体进行数据交互(如图1所示),从而可以触发数据获取条件,该终端即为触发终端,该应用程序即为触发应用程序。数据获取条件触发后,执行主体向数据获取条件的触发终端发送数据获取配置数据,以使触发终端根据数据获取配置数据显示数据获取配置选项,所述数据获取配置选项用于(用户)配置待获取数据的数据特征。
用户可以根据自身需要选择数据获取配置选项,以配置待获取数据的数据特征。触发终端或触发应用程序获取用户根据数据获取配置选项所选择的配置信息或配置数据(配置信息或配置数据与数据获取配置选项对应),并将所述配置信息或配置数据发送给执行主体,执行主体根据所述配置信息或配置数据生成数据获取请求。数据获取配置选项用于(用户)配置待获取数据的数据特征,故配置信息可以包含待获取数据的数据特征,根据配置信息生成的数据获取请求也就可以包含待获取数据的数据特征。
2.3、执行主体获取配置信息,并生成数据获取请求
如前述,执行主体可以接收数据获取请求方或数据需求方发送的数据获取请求。其中,执行主体可以设置数据获取条件,数据获取条件触发后,执行主体获取数据获取(自身存储的)配置数据,根据所述数据获取配置数据显示数据获取配置选项;其中所述数据获取配置选项用于配置待获取数据的数据特征。
执行主体可以获取用户对数据获取配置选项进行配置或选择后的配置信息,根据所述配置信息生成数据获取请求。数据获取配置选项用于(用户)配置待获取数据的数据特征,故配置信息可以包含待获取数据的数据特征,根据配置信息生成的数据获取请求也就可以包含待获取数据的数据特征。
不管是触发终端或触发应用程序或执行主体,根据据配置数据生成数据获取请求可以包括:
将配置数据转化为预设的查询语句,并根据所述查询语句生成数据获取请求。
由于执行主体确定了各个被接入的数据源对应的数据特征,在执行主体确定了数据获取请求所请求获取的目标数据的数据特征,即可以根据数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源。其中,目标数据源对应的数据特征与数据获取请求所请求获取的目标数据的数据特征是对应的。
本实施例中,所请求获取的目标数据的数据特征与目标数据源对应的数据特征可能不是一一对应或完全对应,包括但不限于:
(1)所请求获取的目标数据的数据特征为目标数据源对应的数据特征的一部分;例如,所请求获取的目标数据的数据特征有a,b两种,目标数据源对应的数据特征除了a,b,还有其他数据特征;
(2)目标数据源对应的数据特征包含所请求获取的目标数据的数据特征的一部分;例如,所请求获取的目标数据的数据特征有a,b两种,目标数据源对应的数据特征包含(但可能多于)a,但不包含b;
(3)目标数据源可以有多个,每个目标数据源对应的数据特征至少包含所请求获取的目标数据的数据特征的一部分;例如,所请求获取的目标数据的数据特征有c,d,e三种,目标数据源有两个,其中一个目标数据源对应的数据特征包含(但可能多于)c,d,另一个目标数据源对应的数据特征包括(但可能多于)e。
(4)所请求获取的目标数据的数据特征与目标数据源对应的数据特征一一对应。
上述(1)至(4)都可以看作目标数据源对应的数据特征与数据获取请求所请求获取的目标数据的数据特征对应。
S107:(执行主体)通过所述目标数据源获取所述目标数据。
本实施例中,目标数据源对应的数据特征是目标数据源所能够提供的数据的数据特征,若目标数据源对应的数据特征与数据获取请求所请求获取的目标数据的数据特征对应,则目标数据源可以用于提供目标数据,即执行主体可以通过目标数据源获取目标数据。
前面已经说明,执行主体可以确定待接入的数据源,则在确定待接入的数据源后,执行主体可以确定待接入的数据源对应的数据获取方式,即执行主体对待接入的数据源进行接入后,执行主体可以通过何种方式获取被接入的数据源的数据。假设数据源A是任一待接入的数据源,执行主体可以确定数据源A对应的数据获取方式,即执行主体对数据源A进行接入后,执行主体可以通过数据源A对应的数据获取方式获取数据源A的数据。同理,目标数据源也是被接入数据源,执行主体也可以事先确定目标数据源对应的数据获取方式。
本实施例中,通过所述目标数据源获取所述目标数据可以包括:
按照所述目标数据源对应的数据获取方式通过所述目标数据源获取所述目标数据。
具体的,通过所述目标数据源获取所述目标数据可以采用3.1和/或3.2所述的方式(本实施例不限于3.1和/或3.2所述的方式):
3.1、执行主体向目标数据源发送数据获取请求
执行主体可以向目标数据源发送数据获取请求,数据获取请求可以包含所请求获取的目标数据的数据特征。对任一目标数据源,假如该数据源对应的数据特征与所请求获取的目标数据的数据特征有部分相同,则执行主体向该目标数据源发送的数据获取请求中可以包含“该数据源对应的数据特征与所请求获取的目标数据的数据特征中相同的部分”。
对任一目标数据源,该目标数据源接收执行主体发送的数据获取请求后,确定数据获取请求包含的数据特征,确定与数据获取请求包含的数据特征对应的目标数据并发送给执行主体。执行主体接收该目标数据源发送的目标数据,从而通过目标数据源获取了目标数据。
若目标数据源有多个,单个目标数据源发送的目标数据可能只是数据获取请求所请求获取的目标数据的一部分。沿用上例,请求获取的目标数据的数据特征有c,d,e三种,目标数据源有两个,其中一个目标数据源对应的数据特征包含c,d,则该目标数据源向执行主体发送符合数据特征c,d的目标数据;另一个目标数据源对应的数据特征包括e,并向执行主体发送符合数据特征e的目标数据。
3.2、执行主体从目标数据源抓取目标数据
前面已经说明,由于执行主体与目标数据源进行了接入,故执行主体可以从目标数据源抓取目标数据。对任一目标数据源,假如该数据源对应的数据特征与所请求获取的目标数据的数据特征有部分相同,则执行主体从该目标数据源抓取“该数据源对应的数据特征与所请求获取的目标数据的数据特征中相同的部分”所对应的数据。
若目标数据源有多个,执行主体从单个目标数据源发送的目标数据可能只是数据获取请求所请求获取的目标数据的一部分。沿用上例,请求获取的目标数据的数据特征有c,d,e三种,目标数据源有两个,其中一个目标数据源对应的数据特征包含c,d,则执行主体从该目标数据源抓取符合数据特征c,d的目标数据;另一个目标数据源对应的数据特征包括e,并执行主体从该目标数据源抓取符合数据特征e的目标数据。
特别的,若目标数据源中包括静态数据源,由于静态数据源本身不能向执行主体发送数据,故本实施例采用对数据源进行接入这种方式,就可以使执行主体可以从静态数据源抓取数据,满足了对静态数据源的数据获取需求。
本实施例中,通过所述目标数据源获取所述目标数据还可以采用4.1和/或4.2和/或4.3和/或4.4所述的方式(本实施例不限于4.1和/或4.2和/或4.3和/或4.4所述的方式):
4.1、根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑
本实施例中,执行主体可以根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,即从目标数据源获取的数据需要经过所述数据处理逻辑才能作为目标数据。其中,从目标数据源获取的数据可以称为初始数据(下同),经执行所述数据处理逻辑得到的数据为目标数据。初始数据的获取方式参照3.1和/或3.2,即可以由执行主体向目标数据源发送数据获取请求,目标数据源发回初始数据,和/或执行主体从目标数据源抓取初始数据。
具体的,执行主体可以根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,并通过所述目标数据源获取初始数据;
执行主体对所述初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
所述数据处理逻辑包括判定是否对通过所述目标数据源获取的初始数据进行数据融合。
例如,一种情况是,若数据获取请求所请求获取的目标数据的数据特征有a,b,并且执行主体根据数据获取请求确定目标数据是将具有数据特征a和b的数据相融合后的数据,而目标数据源能提供符合数据特征a的数据(初始数据)以及符合数据特征b的数据(初始数据),则执行主体确定需要对从目标数据源获取的符合数据特征a的数据以及符合数据特征b的数据进行融合,数据融合即为数据处理逻辑的一种。
在所述数据处理逻辑包括数据融合的情况下,通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并通过所述目标数据源获取所述初始数据;
若判定对所述初始数据进行数据融合,则对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
4.2、根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑
执行主体可以通过目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑;
执行主体对所述初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
同理,在所述数据处理逻辑包括数据融合的情况下,通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
4.3、目标数据源有多个,根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑
若目标数据源有多个,则执行主体根据(各个)目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,并分别通过各个所述目标数据源获取初始数据;
执行主体对分别通过各个所述目标数据源获取的初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
同理,在所述数据处理逻辑包括数据融合的情况下,若目标数据源有多个,通过所述目标数据源获取所述目标数据包括:
根据(各个)目标数据源的数据特征以及所述数据获取请求判定是否对通过(各个)目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并分别通过各个所述目标数据源获取初始数据;
若判定对所述初始数据进行数据融合,则对分别通过各个所述目标数据源获取的初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
4.4、目标数据源有多个,根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑
若目标数据源有多个,则执行主体分别通过各个所述目标数据源获取初始数据,根据(各个目标数据源的)所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑;
执行主体对分别通过各个所述目标数据源获取的初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
同理,在所述数据处理逻辑包括数据融合的情况下,若目标数据源有多个,通过所述目标数据源获取所述目标数据包括:
分别通过各个所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对分别通过各个所述目标数据源获取的初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
需要说明的是,假如只对一部分初始数据进行融合,这同样是一种融合规则,“对一部分初始数据进行融合,其余初始数据不融合”也属于对初始数据执行融合规则。同理,假如只对一部分初始数据进行某种处理,这同样是一种数据处理逻辑,“对一部分初始数据进行该种处理,其余初始数据不进行该种处理”也属于对初始数据执行数据处理逻辑。
具体的,在进行数据融合时,若目标数据源有一个,获取目标数据源的初始数据后,对初始数据执行所述数据融合规则可以包括:
根据数据融合规则确定待进行数据融合的初始数据(比如可能是对初始数据中的一部分数据进行融合)以及数据融合格式(即进行数据融合时,被融合的数据所应具有的格式);
按照所述数据融合格式对所述待进行数据融合的初始数据进行格式转换,以使待融合的数据符合所述数据融合格式;
将经格式转换后得到的数据进行数据融合,经数据融合后得到的数据以及未被融合的初始数据共同作为目标数据。
或者,
若目标数据源有多个,获取目标数据源的初始数据后,对初始数据执行所述数据融合规则可以包括:
根据数据融合规则确定待进行数据融合的初始数据(比如是对哪个或哪些目标数据源的初始数据进行融合,或对目标数据源的哪些数据进行融合)以及数据融合格式(即进行数据融合时,被融合的数据所应具有的格式);
按照所述数据融合格式对所述待进行数据融合的初始数据进行格式转换,以使待融合的数据符合所述数据融合格式;
将经格式转换后得到的数据进行数据融合,经数据融合后得到的数据以及未被融合的初始数据共同作为目标数据。
执行主体通过目标数据源获取目标数据后,执行主体还可能需要展示目标数据。本实施例中,接收所述数据获取请求后,本实施例还包括:
根据所述数据获取请求确定获取到的目标数据的展示方式,例如通过图表、动画等形式展示目标数据。数据获取请求中可以包含相应的字段,用于定义展示方式,以使执行主体根据数据获取请求(或上述字段)确定目标数据的展示方式。
本实施例中,通过所述目标数据源获取所述目标数据后,执行主体可以按照上述展示方式展示目标数据。
具体的,通过所述目标数据源获取所述目标数据后,执行主体可以根据所述展示方式以及所述目标数据的数据特征判定是否对所述目标数据进行数据转换;
若是,则确定数据转换规则,对所述目标数据执行所述数据转换规则,以使执行所述数据转换规则后得到的数据与所述展示方式相对应,便于按照所述展示方式展示执行所述数据转换规则后得到的数据,也就实现了对目标数据的展示。
本实施例中,执行主体从所述目标数据源获取与所述数据获取请求对应的目标数据后,执行主体可以向所述数据获取请求的发送方(同时也是数据获取请求方)发送所述目标数据。特别的,执行主体可以对目标数据进行加密(包括但不限于哈希加密),将加密后的数据发送给数据获取请求的发送方,以提高目标数据安全性。另外,上述的展示方式也可以是数据获取请求的发送方对应的展示方式,执行主体可以如上进行或不进行数据转换,然后将进行或不进行数据转换的目标数据发送给数据获取请求的发送方。数据转换与数据加密可以都进行,两者没有绝对的先后顺序。
本实施例中,通过接入各个数据源,并确定数据源的数据特征,既能够自动根据待获取的目标数据的数据特征准确定位用于提供目标数据的目标数据源,又能够统一与各个目标数据源进行交互以获取目标数据,从而提高数据获取效率和效果,无需用户分别与各个数据源交互,也无需用户适应或学习各个数据源的数据获取要求或规则;本实施例中,可以根据需要自动对从目标数据源获取到的数据执行处理逻辑,例如进行数据融合,无需用户对数据进行融合,使得目标数据更能满足多样化的数据获取需求,进一步提高数据获取效率和效果;本实施例中,可以确定目标数据的展示方式,根据展示方式对目标数据进行处理,例如数据转换,实现将目标数据按照统一的方式进行展现;本实施例可供用户配置待获取数据的数据特征,满足了数据获取的个性化、多样化以及灵活性需求。
对于数据监管合规等场景,需要进行监管合规的数据的来源方众多,例如来自于金融结构、支付机构、商户、用户等,从各个来源方获取数据需要学习各个数据来源方的数据获取规则。通过本实施例,通过接入各个数据源,并确定数据源的数据特征,既能够自动根据待获取的目标数据的数据特征准确定位用于提供目标数据的目标数据源,又能够统一与各个目标数据源进行交互以获取目标数据,从而提高数据获取效率和效果以及数据监管合规效率和效果。
本说明书第二个实施例(以下简称“本实施例”)提供一种数据获取方法,本实施例的执行主体可以是终端(包括但不限于手机、计算机、pad、电视)或者服务器或者操作系统或者数据获取平台或者数据获取系统等,即执行主体可以是多种多样的,可以根据需要设置、使用或者变换执行主体。另外,也可以有第三方应用程序协助所述执行主体执行本实施例。例如图1所示,可以由服务器来执行本实施例中的数据获取方法,并且可以在(用户所持有的)终端上安装(与所述服务器)相对应的应用程序,终端或应用程序与服务器之间可以进行数据传输,通过终端或应用程序来进行数据的采集或输入或输出或(向用户)进行页面或信息展示,从而辅助服务器执行本实施例中的数据获取方法。
如图3所示,本实施例提供的数据获取方法包括:
S202:(执行主体判定)数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征;
本实施例的执行主体可以是第一个实施例中的数据获取请求方或数据需求方或触发终端。
执行主体可以上设置数据获取条件,数据获取条件触发(例如用户的操作可以触发数据获取条件)后,执行主体获取数据获取(自身存储的)配置数据,根据所述数据获取配置数据显示数据获取配置选项;其中所述数据获取配置选项用于配置待获取数据的数据特征。
S204:(执行主体)获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成数据获取请求;
执行主体获取用户根据数据获取配置选项所选择的配置信息或配置数据(配置信息或配置数据与数据获取配置选项对应),根据所述配置信息生成数据获取请求。数据获取配置选项用于(用户)配置待获取数据的数据特征,故配置信息可以包含待获取数据的数据特征,根据配置信息生成的数据获取请求也就可以包含待获取数据的数据特征。
S206:(执行主体)向数据采集方发送所述数据获取请求,以使所述数据采集方接收所述数据获取请求后,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从所述数据采集方的已接入数据源中确定目标数据源,并通过所述目标数据源获取所述目标数据;
所述数据采集方可以是第一个实施例的执行主体。
S208:(执行主体)接收所述数据采集方发送的所述目标数据。
本实施例未详细说明的内容参照第一个实施例。
本实施例中,通过接入各个数据源,并确定数据源的数据特征,既能够自动根据待获取的目标数据的数据特征准确定位用于提供目标数据的目标数据源,又能够统一与各个目标数据源进行交互以获取目标数据,从而提高数据获取效率和效果,无需用户分别与各个数据源交互,也无需用户适应或学习各个数据源的数据获取要求或规则;本实施例中,可以根据需要自动对从目标数据源获取到的数据执行处理逻辑,例如进行数据融合,无需用户对数据进行融合,使得目标数据更能满足多样化的数据获取需求,进一步提高数据获取效率和效果;本实施例中,可以确定目标数据的展示方式,根据展示方式对目标数据进行处理,例如数据转换,实现将目标数据按照统一的方式进行展现;本实施例可供用户配置待获取数据的数据特征,满足了数据获取的个性化、多样化以及灵活性需求。
对于数据监管合规等场景,需要进行监管合规的数据的来源方众多,例如来自于金融结构、第三方支付机构、商户、用户等,从各个来源方获取数据需要学习各个数据来源方的数据获取规则。通过本实施例,通过接入各个数据源,并确定数据源的数据特征,既能够自动根据待获取的目标数据的数据特征准确定位用于提供目标数据的目标数据源,又能够统一与各个目标数据源进行交互以获取目标数据,从而提高数据获取效率和效果以及数据监管合规效率和效果。
如图4所示,本说明书第三个实施例提供一种数据获取装置,包括:
接入模块301,用于数据接入条件触发后,确定待接入的数据源;以及,对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;
数据定位模块303,用于获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;
数据获取模块305,用于通过所述目标数据源获取所述目标数据。
可选的,通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,并通过所述目标数据源获取初始数据;
对所述初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑;
对所述初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
可选的,所述目标数据源有多个;
通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,并分别通过各个所述目标数据源获取初始数据;
对分别通过各个所述目标数据源获取的初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
分别通过各个所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑;
对分别通过各个所述目标数据源获取的初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
可选的,所述数据处理逻辑包括判定是否对通过所述目标数据源获取的初始数据进行数据融合。
可选的,通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并通过所述目标数据源获取所述初始数据;
若判定对所述初始数据进行数据融合,则对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
可选的,所述目标数据源有多个;
通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并分别通过各个所述目标数据源获取初始数据;
若判定对所述初始数据进行数据融合,则对分别通过各个所述目标数据源获取的初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
分别通过各个所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对分别通过各个所述目标数据源获取的初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
可选的,对初始数据执行所述数据融合规则包括:
根据数据融合规则确定待进行数据融合的初始数据以及数据融合格式;
按照所述数据融合格式对所述待进行数据融合的初始数据进行格式转换;
将经格式转换后得到的数据进行数据融合。
可选的,所述装置还包括:
第一配置模块,用于数据获取条件触发后,向所述数据获取条件的触发终端发送数据获取配置数据,以使所述触发终端根据所述数据获取配置数据显示数据获取配置选项;其中,所述数据获取配置选项用于配置待获取数据的数据特征。
可选的,所述数据获取请求来自于所述触发终端,所述数据获取请求根据与所述数据获取配置选项对应的配置数据生成。
可选的,所述第一配置模块还用于向所述数据获取条件的触发终端发送数据获取配置数据后,接收所述触发终端发送的与所述数据获取配置选项对应的配置数据,根据所述配置数据生成所述数据获取请求。
可选的,所述装置还包括:
第二配置模块,用于数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征。
可选的,所述第二配置模块还用于显示数据获取配置选项后,获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成所述数据获取请求。
可选的,根据配置数据生成数据获取请求包括:
将配置数据转化为预设的查询语句,并根据所述查询语句生成数据获取请求。
可选的,所述装置还包括:
展示模块,用于接收所述数据获取请求后,根据所述数据获取请求确定获取到的目标数据的展示方式;
获取所述目标数据后,所述方法还包括:
按照所述展示方式展示所述目标数据
可选的,所述展示模块还用于获取所述目标数据后,根据所述展示方式以及所述目标数据的数据特征判定是否对所述目标数据进行数据转换;
若是,则确定数据转换规则,对所述目标数据执行所述数据转换规则,以使执行所述数据转换规则后得到的数据与所述展示方式相对应。
可选的,所述数据获取模块305还用于定待接入的数据源后,确定所述待接入的数据源对应的数据获取方式;
通过所述目标数据源获取所述目标数据包括:
按照所述目标数据源对应的数据获取方式通过所述目标数据源获取所述目标数据
可选的,通过所述目标数据源获取所述目标数据包括:
向所述目标数据源发送数据获取请求,以使所述目标数据源反馈待获取的目标数据,并接收所述目标数据源发送的所述目标数据;
和/或,
从所述目标数据源抓取目标数据。
可选的,所述装置还包括:
发送模块,用于通过所述目标数据源获取所述目标数据后,向所述数据获取请求的发送方发送所述目标数据。
如图5所示,本说明书第四个实施例提供一种数据获取装置,包括:
配置模块402,用于数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征;
请求生成模块404,用于获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成数据获取请求;
获取驱动模块406,用于向数据采集方发送所述数据获取请求,以使所述数据采集方接收所述数据获取请求后,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从所述数据采集方的已接入数据源中确定目标数据源,并通过所述目标数据源获取所述目标数据;
数据接收模块408,用于接收所述数据采集方发送的所述目标数据。
本说明书第五个实施例提供一种数据获取设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,使所述至少一个处理器能够执行第一个实施例所述的数据获取方法。
本说明书第六个实施例提供一种数据获取设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,使所述至少一个处理器能够执行第二个实施例所述的数据获取方法。
本说明书第七个实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现第一个实施例所述的数据获取方法。
本说明书第八个实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现第二个实施例所述的数据获取方法。
上述各实施例可以结合使用,不同实施例之间或同一实施例内的名称相同的模块可相同可不同。
上述对本说明书特定实施例进行了描述,其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,附图中描绘的过程不一定必须按照示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、设备、非易失性计算机可读存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书实施例提供的装置、设备、非易失性计算机可读存储介质与方法是对应的,因此,装置、设备、非易失性计算机存储介质也具有与对应方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述对应装置、设备、非易失性计算机存储介质的有益技术效果。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书实施例可提供为方法、系统、或计算机程序产品。因此,本说明书实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带式磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (24)

1.一种数据获取方法,包括:
数据接入条件触发后,确定待接入的数据源;
对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;
获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;
通过所述目标数据源获取所述目标数据,包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并通过所述目标数据源获取所述初始数据;
若判定对所述初始数据进行数据融合,则对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
2.如权利要求1所述的方法,通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,并通过所述目标数据源获取初始数据;
对所述初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑;
对所述初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
3.如权利要求1所述的方法,所述目标数据源有多个;
通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求确定数据处理逻辑,并分别通过各个所述目标数据源获取初始数据;
对分别通过各个所述目标数据源获取的初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
分别通过各个所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求确定数据处理逻辑;
对分别通过各个所述目标数据源获取的初始数据执行所述数据处理逻辑,将执行所述数据处理逻辑后得到的数据作为所述目标数据。
4.如权利要求2或3所述的方法,所述数据处理逻辑包括判定是否对通过所述目标数据源获取的初始数据进行数据融合。
5.如权利要求1所述的方法,所述目标数据源有多个;
通过所述目标数据源获取所述目标数据包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并分别通过各个所述目标数据源获取初始数据;
若判定对所述初始数据进行数据融合,则对分别通过各个所述目标数据源获取的初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
分别通过各个所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对分别通过各个所述目标数据源获取的初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
6.如权利要求1或5所述的方法,对初始数据执行所述数据融合规则包括:
根据数据融合规则确定待进行数据融合的初始数据以及数据融合格式;
按照所述数据融合格式对所述待进行数据融合的初始数据进行格式转换;
将经格式转换后得到的数据进行数据融合。
7.如权利要求1所述的方法,所述方法还包括:
数据获取条件触发后,向所述数据获取条件的触发终端发送数据获取配置数据,以使所述触发终端根据所述数据获取配置数据显示数据获取配置选项;其中,所述数据获取配置选项用于配置待获取数据的数据特征。
8.如权利要求7所述的方法,所述数据获取请求来自于所述触发终端,所述数据获取请求根据与所述数据获取配置选项对应的配置数据生成。
9.如权利要求7所述的方法,向所述数据获取条件的触发终端发送数据获取配置数据后,所述方法还包括:
接收所述触发终端发送的与所述数据获取配置选项对应的配置数据,根据所述配置数据生成所述数据获取请求。
10.如权利要求1所述的方法,所述方法还包括:
数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征。
11.如权利要求10所述的方法,显示数据获取配置选项后,所述方法还包括:
获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成所述数据获取请求。
12.如权利要求8、9、11中任一项所述的方法,根据配置数据生成数据获取请求包括:
将配置数据转化为预设的查询语句,并根据所述查询语句生成数据获取请求。
13.如权利要求1所述的方法,接收所述数据获取请求后,所述方法还包括:
根据所述数据获取请求确定获取到的目标数据的展示方式;
获取所述目标数据后,所述方法还包括:
按照所述展示方式展示所述目标数据。
14.如权利要求13所述的方法,获取所述目标数据后,所述方法还包括:
根据所述展示方式以及所述目标数据的数据特征判定是否对所述目标数据进行数据转换;
若是,则确定数据转换规则,对所述目标数据执行所述数据转换规则,以使执行所述数据转换规则后得到的数据与所述展示方式相对应。
15.如权利要求1所述的方法,确定待接入的数据源后,所述方法还包括:
确定所述待接入的数据源对应的数据获取方式;
通过所述目标数据源获取所述目标数据包括:
按照所述目标数据源对应的数据获取方式通过所述目标数据源获取所述目标数据。
16.如权利要求1所述的方法,通过所述目标数据源获取所述目标数据包括:
向所述目标数据源发送数据获取请求,以使所述目标数据源反馈待获取的目标数据,并接收所述目标数据源发送的所述目标数据;
和/或,
从所述目标数据源抓取目标数据。
17.如权利要求1所述的方法,通过所述目标数据源获取所述目标数据后,所述方法还包括:
向所述数据获取请求的发送方发送所述目标数据。
18.一种数据获取方法,包括:
数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征;
获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成数据获取请求;
向数据采集方发送所述数据获取请求,以使所述数据采集方接收所述数据获取请求后,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从所述数据采集方的已接入数据源中确定目标数据源,并通过所述目标数据源获取所述目标数据;
所述通过所述目标数据源获取所述目标数据,包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并通过所述目标数据源获取所述初始数据;
若判定对所述初始数据进行数据融合,则对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
接收所述数据采集方发送的所述目标数据。
19.一种数据获取装置,包括:
接入模块,用于数据接入条件触发后,确定待接入的数据源;以及,对所述待接入的数据源进行接入,并确定被接入的数据源对应的数据特征;
数据定位模块,用于获取数据获取请求,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从已接入数据源中确定目标数据源;
数据获取模块,用于通过所述目标数据源获取所述目标数据,包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并通过所述目标数据源获取所述初始数据;
若判定对所述初始数据进行数据融合,则对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据。
20.一种数据获取装置,包括:
配置模块,用于数据获取条件触发后,获取数据获取配置数据,根据所述数据获取配置数据显示数据获取配置选项;所述数据获取配置选项用于配置待获取数据的数据特征;
请求生成模块,用于获取与所述数据获取配置选项对应的配置数据,根据所述配置数据生成数据获取请求;
获取驱动模块,用于向数据采集方发送所述数据获取请求,以使所述数据采集方接收所述数据获取请求后,确定所述数据获取请求所请求获取的目标数据的数据特征,根据所述数据获取请求所请求获取的目标数据的数据特征从所述数据采集方的已接入数据源中确定目标数据源,并通过所述目标数据源获取所述目标数据;
所述通过所述目标数据源获取所述目标数据,包括:
根据所述目标数据源的数据特征以及所述数据获取请求判定是否对通过所述目标数据源获取的初始数据进行数据融合以及若进行数据融合所需要的数据融合规则,并通过所述目标数据源获取所述初始数据;
若判定对所述初始数据进行数据融合,则对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
或者,
通过所述目标数据源获取所述目标数据包括:
通过所述目标数据源获取初始数据,根据所述初始数据的数据特征以及所述数据获取请求判定是否对所述初始数据进行数据融合;
若是,则确定数据融合规则,对所述初始数据执行所述数据融合规则,将执行所述数据融合规则后得到的数据作为所述目标数据;
数据接收模块,用于接收所述数据采集方发送的所述目标数据。
21.一种数据获取设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,使所述至少一个处理器能够执行权利要求1至17中任一项所述的数据获取方法。
22.一种数据获取设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,使所述至少一个处理器能够执行权利要求18所述的数据获取方法。
23.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现权利要求1至17中任一项所述的数据获取方法。
24.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现权利要求18所述的数据获取方法。
CN202010955212.0A 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质 Active CN112000694B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010955212.0A CN112000694B (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质
CN202410325214.XA CN118069687A (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010955212.0A CN112000694B (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202410325214.XA Division CN118069687A (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN112000694A CN112000694A (zh) 2020-11-27
CN112000694B true CN112000694B (zh) 2024-04-26

Family

ID=73469241

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202010955212.0A Active CN112000694B (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质
CN202410325214.XA Pending CN118069687A (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202410325214.XA Pending CN118069687A (zh) 2020-09-11 2020-09-11 一种数据获取方法、装置、设备及介质

Country Status (1)

Country Link
CN (2) CN112000694B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104933115A (zh) * 2015-06-05 2015-09-23 北京京东尚科信息技术有限公司 一种多维分析方法和系统
CN106649638A (zh) * 2016-12-08 2017-05-10 贵州数据宝网络科技有限公司 一种大数据获取方法
CN109189841A (zh) * 2018-07-24 2019-01-11 中国电力科学研究院有限公司 一种多数据源访问方法及系统
CN110390208A (zh) * 2019-06-26 2019-10-29 联动优势科技有限公司 一种复合数据项标签的优选数据源访问方法及装置
CN110704479A (zh) * 2019-09-12 2020-01-17 新华三大数据技术有限公司 任务处理方法、装置、电子设备及存储介质
CN110909059A (zh) * 2019-11-25 2020-03-24 杭州晨鹰军泰科技有限公司 一种数据集成系统、方法、设备及存储介质
CN111090691A (zh) * 2019-12-19 2020-05-01 北京百度网讯科技有限公司 一种数据处理方法、装置、电子设备和存储介质
CN111209277A (zh) * 2020-01-06 2020-05-29 北京思维造物信息科技股份有限公司 一种数据处理方法、装置、设备及介质
CN111414369A (zh) * 2020-04-08 2020-07-14 支付宝(杭州)信息技术有限公司 一种数据处理方法、装置及设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9317553B2 (en) * 2012-10-31 2016-04-19 Microsoft Technology Licensing, Llc Declarative partitioning for data collection queries

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104933115A (zh) * 2015-06-05 2015-09-23 北京京东尚科信息技术有限公司 一种多维分析方法和系统
CN106649638A (zh) * 2016-12-08 2017-05-10 贵州数据宝网络科技有限公司 一种大数据获取方法
CN109189841A (zh) * 2018-07-24 2019-01-11 中国电力科学研究院有限公司 一种多数据源访问方法及系统
CN110390208A (zh) * 2019-06-26 2019-10-29 联动优势科技有限公司 一种复合数据项标签的优选数据源访问方法及装置
CN110704479A (zh) * 2019-09-12 2020-01-17 新华三大数据技术有限公司 任务处理方法、装置、电子设备及存储介质
CN110909059A (zh) * 2019-11-25 2020-03-24 杭州晨鹰军泰科技有限公司 一种数据集成系统、方法、设备及存储介质
CN111090691A (zh) * 2019-12-19 2020-05-01 北京百度网讯科技有限公司 一种数据处理方法、装置、电子设备和存储介质
CN111209277A (zh) * 2020-01-06 2020-05-29 北京思维造物信息科技股份有限公司 一种数据处理方法、装置、设备及介质
CN111414369A (zh) * 2020-04-08 2020-07-14 支付宝(杭州)信息技术有限公司 一种数据处理方法、装置及设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Lili Zhang ; Yuxiang Xie ; Luan Xidao ; Xin Zhang.Multi-source heterogeneous data fusion.《2018 International Conference on Artificial Intelligence and Big Data (ICAIBD)》.2018,全文. *
基于Web内容的一种数据自动抽取方法;朱永生;王军;;计算机技术与发展;20120510(05);全文 *

Also Published As

Publication number Publication date
CN118069687A (zh) 2024-05-24
CN112000694A (zh) 2020-11-27

Similar Documents

Publication Publication Date Title
CN109614823B (zh) 一种数据的处理方法、装置及设备
CN112183039B (zh) 一种业务报表的合规校验方法及装置
CN110472438B (zh) 基于区块链的交易数据处理、交易查询方法、装置及设备
CN115242742B (zh) 一种服务控制方法、装置及系统
CN117196593A (zh) 一种发送和接收电子红包的方法、装置及设备
CN108345977A (zh) 一种业务处理方法及装置
CN113256426B (zh) 一种数据处理方法、装置、设备及介质
CN112015569B (zh) 消息提醒处理方法及装置
CN113079201B (zh) 一种信息的处理系统、方法、装置及设备
CN110046052B (zh) 一种服务调用方法及装置
US11158319B2 (en) Information processing system, method, device and equipment
CN111967269B (zh) 业务风险识别方法、装置及电子设备
CN116257303B (zh) 一种数据安全处理的方法、装置、存储介质及电子设备
CN112000694B (zh) 一种数据获取方法、装置、设备及介质
CN116974676A (zh) 一种页面内容发送方法、装置和设备
CN114201086B (zh) 信息的展示方法及装置
CN113672784B (zh) 基于区块链的车辆信息处理方法、装置及系统
CN114281500A (zh) 一种便于与外部系统对接的数据接口集成配置方法
CN111324778B (zh) 数据、业务处理方法、装置及电子设备
CN110502551A (zh) 数据读写方法、系统及架构组件
CN117348999B (zh) 一种业务执行系统及业务执行方法
CN115600177B (zh) 一种身份认证的方法、装置、存储介质及电子设备
CN111538722B (zh) 一种业务处理方法、装置、设备及业务系统
CN114611479B (zh) 文档生成方法、装置、存储介质及电子设备
CN109635147B (zh) 一种顶点的图嵌入向量生成、查询方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant