CN115934750A - 基于StarRocks的数据查询方法、装置、计算机设备和存储介质 - Google Patents
基于StarRocks的数据查询方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN115934750A CN115934750A CN202211510036.5A CN202211510036A CN115934750A CN 115934750 A CN115934750 A CN 115934750A CN 202211510036 A CN202211510036 A CN 202211510036A CN 115934750 A CN115934750 A CN 115934750A
- Authority
- CN
- China
- Prior art keywords
- service data
- data
- starrocks
- service
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及一种基于StarRocks的数据查询方法、装置、计算机设备和存储介质。所述方法包括:获取工程业务的多个业务数据,并将各所述业务数据存入数据库;通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。采用本方法能够提升业务数据查询的效率。
Description
技术领域
本申请涉及大数据技术领域,特别是涉及一种基于StarRocks的数据查询方法、装置、计算机设备和存储介质。
背景技术
随着工程业务的发展,工程业务的种类以及各工程业务对应的业务数据量也程指数型生长,而为了更好的对大连工业业务的业务数据进行分析,从而提升工程业务的工作效率,通常会采用数据查询的方式来从多个业务数据中获取目标业务数据,因此好的数据查询方式是现在工程业务的研究重点。
传统的数据查询方法是通过将各业务数据转储到Elasticsearch搜索引擎,并通过Elasticsearch对业务数据进行处理,并基于该Elasticsearch的专属查询语言,从而查询到目标业务数据。然而Elasticsearch对应的查询语句过于繁琐,需要技术人员预先学习Elasticsearch查询语句编写方式,并基于该方式进行专业查询操作才能查询到所需的数据,从而导致业务数据查询的效率较差。
发明内容
基于此,有必要针对上述技术问题,提供一种基于StarRocks的数据查询方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种基于StarRocks的数据查询方法。所述方法包括:
获取工程业务的多个业务数据,并将各所述业务数据存入数据库;
通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
可选的,所述通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,包括:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
可选的,所述各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据,包括:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
可选的,所述将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据,包括:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
可选的,所述将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据,包括:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
可选的,所述响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,包括:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
第二方面,本申请还提供了一种基于StarRocks的数据查询装置。所述装置包括:
获取模块,用于获取工程业务的多个业务数据,并将各所述业务数据存入数据库。
写入模块,用于通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
查询模块,用于响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
可选的,所述写入模块,具体用于:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
可选的,所述写入模块,具体用于:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
可选的,所述写入模块,具体用于:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
可选的,所述写入模块,具体用于:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
可选的,所述查询模块,具体用于:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
第三方面,本申请提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现第一方面中任一项所述的方法的步骤。
第四方面,本申请提供了一种计算机可读存储介质。其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面中任一项所述的方法的步骤。
第五方面,本申请提供了一种计算机程序产品。所述计算机程序产品包括计算机程序,该计算机程序被处理器执行时实现第一方面中任一项所述的方法的步骤。
上述基于StarRocks的数据查询方法、装置、计算机设备和存储介质,通过获取多个业务数据,并将各所述业务数据存入数据库;通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中查询所述业务数据查询请求所对应的目标查询数据。通过StarRocks搜索引擎存储各业务数据,并通过基础的SQL语句编写的业务数据查询请求SQLAdapter,即可查询业务数据,提升了业务数据查询的效率。
附图说明
图1为一个实施例中基于StarRocks的数据查询方法的流程示意图;
图2为一个实施例中基于StarRocks的数据查询示例的流程示意图;
图3为一个实施例中基于StarRocks的数据查询装置的结构框图;
图4为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供的基于StarRocks的数据查询方法可以应用于终端中,也可以应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。其中,终端可以包括但不限于是各种个人计算机、笔记本电脑、平板电脑等。该终端通过获取多个业务数据,并将各所述业务数据存入数据库;通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中查询所述业务数据查询请求所对应的目标查询数据。通过基础的SQL语句编写的业务数据查询请求SQLAdapter,即可查询业务数据,提升了业务数据查询的效率。
在一个实施例中,如图1所示,提供了一种基于StarRocks的数据查询方法,以该方法应用于终端为例进行说明,包括以下步骤:
步骤S101,获取工程业务的多个业务数据,并将各业务数据存入数据库。
本实施例中,终端通过工程业务的客户端,接受该客户端发送的多个业务数据。其中,工程业务可以但不限于是物流工程业务、仓储工程业务、施工工程业务、环境工程业务、以及产品加工工程业务等。工程业务的业务数据包括但不限于是工程项目名称、工程项目等级、工程项目类别、工程项目内容、工程项目备注、工程项目负责人信息等工程业务相关的业务数据。终端在获取到各业务数据后,将该业务数据存储进业务数据的数据库中,其中,数据库的数据源种类可以但不限于是Oracle(甲骨文数据库)、Mysql(关系型数据库管理系统)、PostgresSQL(特性非常齐全的自由软件的对象-关系型数据库管理系统)等数据源。
步骤S102,通过预置的开源数据同步工具CloudCanal,读取数据库中的各业务数据,并将各业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据。
本实施例中,终端通过阈值的开源数据同步工具CloudCanal,在数据库中,读取需要写入预置的搜索引擎StarRocks中的业务数据。其中,开源数据同步工具CloudCanal所读取的业务数据的形式为二进制日志文件。终端将该他业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据。
步骤S103,响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据业务数据查询请求SQLAdapter,通过搜索引擎StarRocks,在待查询的业务数据中,查询业务数据查询请求所对应的目标业务数据。
其中,业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
本实施例中,在用户需要查询业务数据时,终端响应于用户查询业务数据的操作,接受用户通过SQL语言编写的数据查询代码(即业务数据查询请求SQLAdapter),通过搜索引擎StarRocks,在待查询的业务数据中,查询与该业务数据查询请求SQLAdapter所对应的业务数据,并将该业务数据作为目标业务数据。
基于上述方案,通过StarRocks搜索引擎存储各业务数据,并通过基础的SQL语句编写的业务数据查询请求SQLAdapter,即可查询业务数据,提升了业务数据查询的效率。
可选的,通过预置的开源数据同步工具CloudCanal,读取数据库中的各业务数据,包括:通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;根据数据库的数据源种类,确定读取数据库的读取方式,并根据数据库的读取方式,读取所述数据库中的各业务数据。
本实施例中,终端预置开源数据同步工具CloudCanal,并通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类,并根据该数据源种类,确定读取该数据库的读取方式。具体的,读取方式为读取每个数据源的读取方式,本专利不做限定,而通过开源数据同步工具CloudCanal均可以执行上述各数据源的读取方式。终端根据该数据库的读取方式,通过预置的开源数据同步工具CloudCanal,读取该数据库中的各业务数据。
基于上述方案,通过开源数据同步工具CloudCanal读取多种类型的数据源的数据库,提升了业务数据读取的效率,并减少了读取数据库的限定类别。
可选的,各业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据,包括:将各业务数据,通过开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
本实施例中,终端针对每个业务数据,通过开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据。其中,已加工的业务数据可以写入预置的搜索引擎StarRocks,并可以通过该预置的搜索引擎StarRocks查询到该业务数据,具体的加工过程,后续将详细说明。终端将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
基于上述方案,通过对业务数据进行加工,确保用户可以通过搜索引擎StarRocks进行查询,提高了该业务数据的查询效率。
可选的,将各业务数据,通过开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据,包括:
通过开源数据同步工具Cloudcanal,提取业务数据的数据特征,并根据业务特征数据,在业务数据中建立业务数据的索引数据,得到已加工的业务数据。
本实施例中,终端通过开源数据同步工具Cloudcanal,提取业务数据的数据特征。其中业务数据的业务特征可以但不限于是该业务数据的数据名称、数据级别等,例如、业务项目名称、业务项目等级、以及项目负责人名称等。终端根据业务特征数据,在业务数据中建立业务数据的索引数据,得到已加工的业务数据。其中,建立业务数据的索引数据的过程为将该业务特征数据作为索引数据名称,并建立该索引数据名称与该业务数据的调取关系。将该索引数据名称、以及该调取关系作为该业务数据的索引数据。
基于上述方案,通过对业务数据进行加工,为后续索引该业务数据提供索引基础,提高了数据索引的效率。
可选的,将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据,包括:针对每个已加工的业务数据,根据业务数据的索引数据,在搜索引擎StarRocks中建立业务数据的索引关系;将业务数据的索引关系、以及业务数据写入搜索引擎StarRocks中,得到待查询的业务数据。
本实施例中,终端针对每个已加工的业务数据,根据该业务数据的索引数据,在搜索引擎StarRocks中建立业务数据的索引关系。其中,索引关系为用户可以通过该索引数据在搜索引擎StarRocks中查询索引数据对应的业务数据的关联关系。终端将业务数据的索引关系、以及业务数据写入搜索引擎StarRocks中,得到待查询的业务数据。同样的,通过上述步骤,终端得到所有待查询的业务数据。
基于上述方案,通过在搜索引擎StarRocks中建立每个索引关系对应的待查询的业务数据,确保用户可通过索引关系查询到该业务数据,提升了业务数据查询的精确度。
可选的,响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,包括:响应于用户查询业务数据的操作,获取用户编写的SQL查询语句;基于SQL查询语句,确定SQL查询语句对应的业务数据查询请求SQLAdapter。
本实施例中,在用户查询业务数据时,终端响应于用户查询业务数据的操作,获取该用户编写的SQL查询语句。终端基于SQL查询语句,确定SQL查询语句对应的业务数据查询请求SQLAdapter。
基于上述方案,通过SQL查询语句查询业务数据,提升了用户查询业务数据的便捷程度。
本申请还提供了一种基于StarRocks的数据查询示例,如2所示,具体处理过程包括以下步骤:
步骤S201,获取工程业务的多个业务数据,并将各业务数据存入数据库。
步骤S202,通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类。
步骤S203,根据数据库的数据源种类,确定读取数据库的读取方式,并根据数据库的读取方式,读取数据库中的各业务数据。
步骤S204,通过开源数据同步工具Cloudcanal,提取业务数据的数据特征,并根据业务特征数据,在业务数据中建立业务数据的索引数据,得到已加工的业务数据。
步骤S205,针对每个已加工的业务数据,根据业务数据的索引数据,在搜索引擎StarRocks中建立业务数据的索引关系。
步骤S206,将业务数据的索引关系、以及业务数据写入搜索引擎StarRocks中,得到待查询的业务数据。
步骤S207,响应于用户查询业务数据的操作,获取用户编写的SQL查询语句。
步骤S208,基于SQL查询语句,确定SQL查询语句对应的业务数据查询请求SQLAdapter。
步骤S209,根据业务数据查询请求SQLAdapter,通过搜索引擎StarRocks,在待查询的业务数据中,查询业务数据查询请求所对应的目标业务数据。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的基于StarRocks的数据查询方法的基于StarRocks的数据查询装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个基于StarRocks的数据查询装置实施例中的具体限定可以参见上文中对于基于StarRocks的数据查询方法的限定,在此不再赘述。
在一个实施例中,如图3所示,提供了一种基于StarRocks的数据查询装置,包括:获取模块310、写入模块320和查询模块330,其中:
获取模块310,用于获取工程业务的多个业务数据,并将各所述业务数据存入数据库。
写入模块320,用于通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
查询模块330,用于响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
可选的,所述写入模块320,具体用于:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
可选的,所述写入模块,具体用于:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
可选的,所述写入模块320,具体用于:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
可选的,所述写入模块320,具体用于:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
可选的,所述查询模块330,具体用于:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
上述基于StarRocks的数据查询装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种基于StarRocks的数据查询方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图3中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
获取工程业务的多个业务数据,并将各所述业务数据存入数据库;
通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
可选的,所述通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,包括:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
可选的,所述各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据,包括:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
可选的,所述将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据,包括:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
可选的,所述将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据,包括:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
可选的,所述响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,包括:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
获取工程业务的多个业务数据,并将各所述业务数据存入数据库;
通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
可选的,所述通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,包括:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
可选的,所述各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据,包括:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
可选的,所述将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据,包括:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
可选的,所述将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据,包括:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
可选的,所述响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,包括:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
获取工程业务的多个业务数据,并将各所述业务数据存入数据库;
通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
可选的,所述通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,包括:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
可选的,所述各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据,包括:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
可选的,所述将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据,包括:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
可选的,所述将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据,包括:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
可选的,所述响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,包括:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(MagnetoresistiveRandomAccessMemory,MRAM)、铁电存储器(FerroelectricRandomAccessMemory,FRAM)、相变存储器(PhaseChangeMemory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(RandomAccessMemory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(StaticRandomAccessMemory,SRAM)或动态随机存取存储器(DynamicRandomAccessMemory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (10)
1.一种基于StarRocks的数据查询方法,其特征在于,所述方法包括:
获取工程业务的多个业务数据,并将各所述业务数据存入数据库;
通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
2.根据权利要求1所述的方法,其特征在于,所述通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,包括:
通过预置的开源数据同步工具CloudCanal判断数据库的数据源种类;
根据所述数据库的数据源种类,确定读取所述数据库的读取方式,并根据所述数据库的读取方式,读取所述数据库中的各所述业务数据。
3.根据权利要求1所述的方法,其特征在于,所述各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据,包括:
将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据;
将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据。
4.根据权利要求3所述的方法,其特征在于,所述将各所述业务数据,通过所述开源数据同步工具CloudCanal,进行数据加工处理,得到已加工的业务数据,包括:
通过所述开源数据同步工具Cloudcanal,提取所述业务数据的数据特征,并根据所述业务特征数据,在所述业务数据中建立所述业务数据的索引数据,得到已加工的业务数据。
5.根据权利要求4所述的方法,其特征在于,所述将每个已加工的业务数据写入预置的搜索引擎StarRocks,得到各待查询的业务数据,包括:
针对每个已加工的业务数据,根据所述业务数据的索引数据,在所述搜索引擎StarRocks中建立所述业务数据的索引关系;
将所述业务数据的索引关系、以及业务数据写入所述搜索引擎StarRocks中,得到待查询的业务数据。
6.根据权利要求1所述的方法,其特征在于,所述响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,包括:
响应于用户查询业务数据的操作,获取所述用户编写的SQL查询语句;
基于所述SQL查询语句,确定所述SQL查询语句对应的业务数据查询请求SQLAdapter。
7.一种基于StarRocks的数据查询装置,其特征在于,所述装置包括:
获取模块,用于获取工程业务的多个业务数据,并将各所述业务数据存入数据库。
写入模块,用于通过预置的开源数据同步工具CloudCanal,读取所述数据库中的各所述业务数据,并将各所述业务数据写入预置的搜索引擎StarRocks中,得到各待查询的业务数据;
查询模块,用于响应于用户查询业务数据的操作,接收业务数据查询请求SQLAdapter,并根据所述业务数据查询请求SQLAdapter,通过所述搜索引擎StarRocks,在所述待查询的业务数据中,查询所述业务数据查询请求所对应的目标业务数据;所述业务数据查询请求SQLAdapter为通过SQL语言编写的数据查询代码。
8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211510036.5A CN115934750A (zh) | 2022-11-29 | 2022-11-29 | 基于StarRocks的数据查询方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211510036.5A CN115934750A (zh) | 2022-11-29 | 2022-11-29 | 基于StarRocks的数据查询方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115934750A true CN115934750A (zh) | 2023-04-07 |
Family
ID=86556963
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211510036.5A Pending CN115934750A (zh) | 2022-11-29 | 2022-11-29 | 基于StarRocks的数据查询方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115934750A (zh) |
-
2022
- 2022-11-29 CN CN202211510036.5A patent/CN115934750A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9367574B2 (en) | Efficient query processing in columnar databases using bloom filters | |
CN109558404B (zh) | 数据存储方法、装置、计算机设备和存储介质 | |
WO2017097159A1 (zh) | 一种随机字符串生成方法及装置 | |
CN110457401B (zh) | 数据存储方法、装置、计算机设备和存储介质 | |
CN114924911B (zh) | Windows操作系统有效数据备份方法、装置、设备和存储介质 | |
CN115934750A (zh) | 基于StarRocks的数据查询方法、装置、计算机设备和存储介质 | |
CN115858471A (zh) | 业务数据变更记录方法、装置、计算机设备及介质 | |
CN113254732B (zh) | 企业关系的确定方法、装置、计算机设备和存储介质 | |
CN114691653A (zh) | 账套迁移方法、装置、计算机设备和存储介质 | |
CN115292094B (zh) | 数据恢复处理方法、装置、设备、存储介质和程序产品 | |
CN112231377A (zh) | 数据映射方法、系统、装置、服务器和存储介质 | |
CN111161047A (zh) | 银行业务数据处理、查询方法及装置 | |
CN117540056B (zh) | 数据查询的方法、装置、计算机设备和存储介质 | |
CN117827978A (zh) | 数据冲突处理方法、装置、计算机设备和存储介质 | |
CN114385630A (zh) | 血缘关系梳理方法、装置、设备、存储介质和程序产品 | |
CN114036171B (zh) | 应用数据管理方法、装置、计算机设备和存储介质 | |
CN117435589A (zh) | 数据转存方法、装置、计算机设备、存储介质 | |
CN117909550A (zh) | 查询方法、装置、计算机设备和存储介质 | |
CN114138196A (zh) | 电力系统数据存储方法、装置、计算机设备和存储介质 | |
CN115987557A (zh) | 一种集群间调用方法、装置、计算机设备和存储介质 | |
CN116866419A (zh) | 信息推送方法、装置、计算机设备和存储介质 | |
CN116910115A (zh) | 客群查询方法、装置、计算机设备和存储介质 | |
CN116894044A (zh) | 数据管理方法、装置、计算机设备和存储介质 | |
CN115374114A (zh) | 数据维护的方法、装置、计算机设备和存储介质 | |
CN117648336A (zh) | 数据查询方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |