CN116662302A - 数据处理方法、装置、电子设备及存储介质 - Google Patents

数据处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN116662302A
CN116662302A CN202310654053.4A CN202310654053A CN116662302A CN 116662302 A CN116662302 A CN 116662302A CN 202310654053 A CN202310654053 A CN 202310654053A CN 116662302 A CN116662302 A CN 116662302A
Authority
CN
China
Prior art keywords
data
target
target data
database
data generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310654053.4A
Other languages
English (en)
Inventor
舒旺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202310654053.4A priority Critical patent/CN116662302A/zh
Publication of CN116662302A publication Critical patent/CN116662302A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3684Test management for test design, e.g. generating new test cases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3688Test management for test execution, e.g. scheduling of test suites
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2282Tablespace storage structures; Management thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2455Query execution
    • G06F16/24564Applying rules; Deductive queries
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

本公开提供了一种数据处理方法、装置、设备及存储介质,可以应用于计算机技术领域和金融技术领域。该方法应用于数据库服务器,包括:接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的;根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据;以及将目标数据导入至数据库中,其中,数据库部署在数据库服务器。

Description

数据处理方法、装置、电子设备及存储介质
技术领域
本公开涉及计算机技术领域和金融技术领域,尤其涉及一种数据处理方法、装置、电子设备、存储介质和程序产品。
背景技术
在金融机构的业务系统进行改造或者推行新的业务系统的情况下,需要经过大量的压力测试,确保新的业务系统能够正常使用,而测试过程中需要使用大量的测试数据。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:相关技术中生成测试数据的方法效率较低。
发明内容
鉴于上述问题,本公开提供了一种数据处理方法、装置、电子设备、存储介质和程序产品。
本公开的第一方面提供了一种数据处理方法,应用于数据库服务器,包括:
接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的;
根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据;以及
将目标数据导入至数据库中,其中,数据库部署在数据库服务器。
根据本公开的实施例,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据,包括:
对数据生成信息进行解析,确定目标表的目标数据类型;
根据目标数据类型,确定与目标表相匹配的目标数据生成规则;以及
根据目标数据生成规则,在数据库服务器中生成目标数据量的目标数据。
根据本公开的实施例,目标数据类型包括字符串类型、数字类型和日期类型中的至少一种;
根据目标数据类型,确定与目标表相匹配的目标数据生成规则,包括:
根据字符串类型,确定与目标表相匹配的目标数据生成规则是字符串生成规则,其中,字符串生成规则用于确定数据的字符串长度;
根据数字类型,确定与目标表相匹配的目标数据生成规则是数字生成规则,其中,数字生成规则用于确定数据的数字类型;和/或
根据日期类型,确定与目标表相匹配的目标数据生成规则是日期生成规则,其中,日期生成规则用于确定数据的日期。
根据本公开的实施例,根据目标数据生成规则,在数据库服务器中生成目标数据量的目标数据,包括:
根据字符串生成规则,在数据库服务器中生成第一子数据量的字符串数据;
根据数字生成规则,在数据库服务器中生成第二子数据量的数字数据;和/或
根据日期生成规则,在数据库服务器中生成第三子数据量的日期数据。
根据本公开的实施例,将目标数据导入至数据库中,包括:
根据目标数据的数据量大小,将目标数据划分为预设批量的数据集合;
根据数据集合和预设的数据分片量,从数据集合中确定多个分片目标数据;以及
将每个数据集合中的多个分片目标数据导入至数据库。
本公开的第二方面提供一种数据处理方法,应用于本地服务器,包括:
响应于由数据生成界面接收的第一输入,从与数据库相关的表信息中确定目标表,其中,数据库部署在数据库服务器;
根据目标表的目标数据类型,确定与目标表相匹配的目标数据生成规则;
根据目标数据生成规则和目标数据量,确定数据生成信息;以及
利用本地服务器与数据库服务器之间建立的传输路径,将数据生成信息发送至数据库服务器,以便数据库服务器接收本地服务器发送的数据生成信息,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据,以及将目标数据导入至数据库中。
根据本公开的实施例,上述应用于本地服务器的数据处理方法还包括:
响应于由数据生成界面接收的第二输入,确定与数据库服务器相关的传输信息;
基于传输信息,建立与数据库服务器之间的传输路径;以及
在确定传输路径建立成功的情况下,从数据库服务器中获取与数据库相关的表信息。
根据本公开的实施例,根据目标数据生成规则和目标数据量,确定数据生成信息,包括:
根据目标数据生成规则和目标数据量,确定原始数据生成指令;
将原始数据生成指令转换为目标语言的目标数据生成指令;以及
将目标数据生成指令进行处理,确定数据生成信息。
本公开的第三方面提供一种数据处理装置,应用于数据库服务器,包括:
接收模块,用于接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的;
生成模块,用于根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据;以及
导入模块,用于将目标数据导入至数据库中,其中,数据库部署在数据库服务器。
根据本公开的第四方面提供一种数据处理装置,应用于本地服务器,包括:
第一确定模块,用于响应于由数据生成界面接收的第一输入,从与数据库相关的表信息中确定目标表,其中,数据库部署在数据库服务器;
第二确定模块,用于根据目标表的目标数据类型,确定与目标表相匹配的目标数据生成规则;
第三确定模块,用于根据目标数据生成规则和目标数据量,确定数据生成信息;以及
发送模块,用于利用本地服务器与数据库服务器之间建立的传输路径,将数据生成信息发送至数据库服务器,以便数据库服务器接收本地服务器发送的数据生成信息,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据,以及将目标数据导入至数据库中。
本公开的第五方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述方法。
本公开的第六方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述方法。
本公开的第七方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述方法。
根据本公开提供的数据处理方法、装置、设备、介质和程序产品,通过接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的;根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据;以及将目标数据导入至数据库中,其中,数据库部署在数据库服务器,由于目标数据是在数据库服务器中生成的,而数据库服务器中部署了数据库,因此将目标数据导入至数据库服务器是本地传输,不需要网络传输,减少了数据传输的消耗,提高了数据生成的效率,至少部分的解决了相关技术中生成测试数据的方法效率较低的技术问题。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的数据处理方法的应用场景图;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开又一实施例的数据处理方法的流程图;
图4示意性示出了根据本公开又一实施例的数据处理方法的流程图;
图5示意性示出了根据本公开实施例的数据处理装置的结构框图;
图6示意性示出了根据本公开实施例的数据处理装置的结构框图;以及
图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的数据(如包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
随着金融机构的业务逐渐增多,对业务系统的要求也日益增高,这就需要对业务系统进行改造升级,或者退出新的业务系统以支持更多的业务需求。在对业务系统进行压力测试时,需要生成大量的测试数据,一种方法是测试人员通过手工复制单条数据进行重复插入构造大量数据进行模拟生产情况,受限于测试技术水平,手工制造数据需要耗费测试大量时间去等待,且数据样本单一,不能反映真实数据情况;又一种方法是通过脚本生成的方式,每次针对新的数据库表重新编写测试案例,测试人员通过数据库客户端执行脚本语言的方式进行数据的导入,效率较低,需要花费大量时间将测试数据导入至数据库。
有鉴于此,本公开的实施例提供了一种数据处理方法,应用于数据库服务器,包括:接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的;根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据;以及将目标数据导入至数据库中,其中,数据库部署在数据库服务器。由于目标数据是在数据库服务器中生成的,而数据库服务器中部署了数据库,因此将目标数据导入至数据库服务器是本地传输,不需要网络传输,减少了数据传输的消耗,提高了数据生成的效率,至少部分的解决了相关技术中生成测试数据的方法效率较低的技术问题。
图1示意性示出了根据本公开实施例的数据处理方法的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括数据库服务器101、本地服务器102和网络103。网络103用以数据库服务器101和本地服务器102之间提供通信链路的介质。网络103可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
数据库服务器101可以是部署有数据库的服务器。
本地服务器102可以是提供各种服务的服务器,例如对用户利用终端设备所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的应用于数据库服务器的数据处理方法一般可以由数据库服务器101执行。相应地,本公开实施例所提供的应用于数据库服务器的数据处理装置一般可以设置于数据库服务器101中。本公开实施例所提供的应用于数据库服务器的数据处理方法也可以由不同于数据库服务器101且能够与数据库服务器101和本地服务器102通信的服务器或服务器集群执行。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该实施例的数据处理方法应用于数据库服务器,包括操作S210~操作S230。
在操作S210,接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的。
根据本公开的实施例,本地服务器可以是用于在本地与数据库服务器建立连接的服务器。
根据本公开的实施例,目标表可以是预先从数据库中选定的表,数据库可以是关系型数据库。数据库可以部署在数据库服务器中。
根据本公开的实施例,数据生成信息可以是与数据生成相关的信息,例如,数据生成信息可以是数据生成的数量、数据生成的类型等。
在操作S220,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据。
根据本公开的实施例,数据生成信息中可以预先配置与数据生成相关的信息,从而可以根据数据生成信息,生成与目标表相关的目标数据。
根据本公开的实施例,目标数据可以是用于对与数据库相关联的系统进行测试的数据。
在操作S230,将目标数据导入至数据库中。
根据本公开的实施例,将目标数据导入至数据库中,可以是将目标数据导入至数据库的指定存储位置,也可以是将目标数据导入至数据库的指定文件位置。由于数据库是部署在数据库服务器中的,因此,将目标数据导入至数据库中,不需要消耗网络传输。
根据本公开的实施例,通过接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的;根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据;以及将目标数据导入至数据库中,其中,数据库部署在数据库服务器,由于目标数据是在数据库服务器中生成的,而数据库服务器中部署了数据库,因此将目标数据导入至数据库服务器是本地传输,不需要网络传输,减少了数据传输的消耗,提高了数据生成的效率,至少部分的解决了相关技术中生成测试数据的方法效率较低的技术问题。
根据本公开的实施例,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据,包括:对数据生成信息进行解析,确定目标表的目标数据类型;根据目标数据类型,确定与目标表相匹配的目标数据生成规则;以及根据目标数据生成规则,在数据库服务器中生成目标数据量的目标数据。
根据本公开的实施例,可以根据数据生成信息的数据格式,对数据生成信息进行解析,确定目标表的目标数据类型。数据生成信息的数据格式可以是爪哇代码(JavaScript,JS代码)。JS代码可以提供可以自定义函数和方法,使数据的生成更加灵活。
根据本公开的实施例,对数据生成信息进行解析,不同的数据类型可以对应不同的数据生成规则,不同的数据类型可以与数据生成规则具有类型规则匹配关系,从而可以根据目标表的目标数据类型,在类型规则匹配关系中确定与目标表相匹配的目标数据生成规则。
根据本公开的实施例,目标数据量可以是预先设置的,例如可以是十万条数据、五万条数据等。
根据本公开的实施例,根据目标数据类型确定目标数据生成规则,可以在数据库服务器中按照一定的规则生成目标数据,使得数据生成过程可以更加的合理。
根据本公开的实施例,目标数据类型包括字符串类型、数字类型和日期类型中的至少一种。
根据目标数据类型,确定与目标表相匹配的目标数据生成规则,包括:根据字符串类型,确定与目标表相匹配的目标数据生成规则是字符串生成规则,其中,字符串生成规则用于确定数据的字符串长度;根据数字类型,确定与目标表相匹配的目标数据生成规则是数字生成规则,其中,数字生成规则用于确定数据的数字类型;和/或根据日期类型,确定与目标表相匹配的目标数据生成规则是日期生成规则,其中,日期生成规则用于确定数据的日期。
根据本公开的实施例,字符串类型的数据需要确定字符串的长度,例如,字符串的长度可以是5、7等。可以设置字符串生成规则用于生成字符串类型的数据。字符串生成规则还可以用于确定是否生成定长字符串。
根据本公开的实施例,数字类型的数据需要确定数据的数字类型。例如,数字类型可以是整数、小数等。可以设置数字生成规则用于生成数字类型的数据。数字生成规则还可以确定数字的大小范围。
根据本公开的实施例,日期类型的数据需要确定数据的日期。数据的日期可以使用模板YYYY-MM-DD hh:mm:ss的自定义格式,例如,2023-01-01 00:00:00。因此可以设置日期生成规则用于生成日期类型的数据。
根据本公开的实施例,根据字符串类型、数字类型和日期类型,匹配不同的数据生成规则,可以进一步使得数据生成过程在数据库服务器更加的有序合理。
根据本公开的实施例,根据目标数据生成规则,在数据库服务器中生成目标数据量的目标数据,包括:根据字符串生成规则,在数据库服务器中生成第一子数据量的字符串数据;根据数字生成规则,在数据库服务器中生成第二子数据量的数字数据;和/或根据日期生成规则,在数据库服务器中生成第三子数据量的日期数据。
根据本公开的实施例,目标数据可以是仅包括一种目标数据类型的数据,也可以是包括多种目标数据类型的数据。例如,目标数据中可以仅包括字符串类型的数据,还可以同时包括字符串类型和数字类型的数据。
根据本公开的实施例,可以根据每一种目标数据类型的数据量生成对应的数据,例如,可以将生成字符串类型的数据的数据量设置为第一子数据量,从而根据字符串生成规则,生成第一子数据量的字符串数据;将数字类型的数据的数据量设置为第二子数据量,从而根据数字生成规则,生成第二子数据量的字符串数据;将日期类型的数据的数据量设置为第三子数据量,从而根据日期生成规则生成第三子数据量的日期数据。
根据本公开的实施例,第一子数据量的字符串数据、第二子数据量的数字数据和/或第三子数据量的日期数据可以共同组成目标数据。
根据本公开的实施例,将不同目标数据类型的数据设置不同的数据量,可以使得数据生成的划分更加细致,进一步提高了数据生成的有序性。
根据本公开的实施例,将目标数据导入至数据库中,包括:根据目标数据的数据量大小,将目标数据划分为预设批量的数据集合;根据数据集合和预设的数据分片量,从数据集合中确定多个分片目标数据;以及将每个数据集合中的多个分片目标数据导入至数据库。
根据本公开的实施例,如果将生成的目标数据一次性全部导入至数据库中,可能会影响数据库服务器的正常工作,因此,可以讲目标数据划分为预设批量的数据集合,例如,可以是十万条数据。
根据本公开的实施例,在每个数据集合中可以根据预设的数据分片量将数据集合进行分片,例如,预设的数据分片量可以是一千条数据。可以将数据集合按照预设的数据分片量划分为多个分片目标数据,分片目标数据可以是结构化查询语言(Structured QueryLanguage,SQL)语句。
根据本公开的实施例,按照分片目标数据的大小将分片目标数据导入至数据库,使得数据导入更加有序,提高了数据导入效率。
图3示意性示出了根据本公开又一实施例的数据处理方法的流程图。
如图3所示,该实施例的数据处理方法应用于本地服务器,包括操作S310~操作S340。
在操作S310,响应于由数据生成界面接收的第一输入,从与数据库相关的表信息中确定目标表,其中,数据库部署在数据库服务器。
根据本公开的实施例,数据生成界面可以是用于数据生成过程中进行信息输入的界面,可以部署在本地服务器中。
根据本公开的实施例,与数据库相关的表信息中可以包括多个表的表名信息、标识信息或者可以是用于识别表的编号信息,从而可以在表信息中确定目标表。
在操作S320,根据目标表的目标数据类型,确定与目标表相匹配的目标数据生成规则。
根据本公开的实施例,可以通过表类型查询命令对目标表的目标数据类型进行确定,从而根据目标数据类型确定与目标表相匹配的目标数据生成规则。目标数据生成规则可以参考本公开其他实施例,在此不再赘述。
在操作S330,根据目标数据生成规则和目标数据量,确定数据生成信息。
根据本公开的实施例,可以将目标数据生成规则和目标数据量的配置文件进行压缩,确定数据生成信息。
在操作S340,利用本地服务器与数据库服务器之间建立的传输路径,将数据生成信息发送至数据库服务器,以便数据库服务器接收本地服务器发送的数据生成信息,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据,以及将目标数据导入至数据库中。
根据本公开的实施例,可以预先验证本地服务器和数据库服务器之间的传输路径是否正常,在确定本地服务器和数据库服务器之间的传输路径正常的情况下,将数据生成信息发送至数据库服务器。
根据本公开的实施例,在本地服务器中确定数据生成信息可以更好的进行保存以及供其他测试人员进行使用。
根据本公开的实施例,上述应用于本地服务器的数据处理方法还包括:响应于由数据生成界面接收的第二输入,确定与数据库服务器相关的传输信息;基于传输信息,建立与数据库服务器之间的传输路径;以及在确定传输路径建立成功的情况下,从数据库服务器中获取与数据库相关的表信息。
根据本公开的实施例,第二输入可以是输入传输信息的操作,传输信息可以包括在数据库服务器中的用户名、用户密码、IP地址、数据库名称、数据库工具等等。
根据本公开的实施例,可以利用传输信息建立本地服务器和数据库服务器之间的连接,例如,可以根据用户名和用户密码登录到数据库服务器中。
根据本公开的实施例,可以对传输路径进行验证,在确定传输路径建立成功的情况下,可以将数据库服务器中的表信息传输回本地服务器,以便在本地服务器的数据生成界面进行目标表的选择。
根据本公开的实施例,根据目标数据生成规则和目标数据量,确定数据生成信息,包括:根据目标数据生成规则和目标数据量,确定原始数据生成指令;将原始数据生成指令转换为目标语言的目标数据生成指令;以及将目标数据生成指令进行处理,确定数据生成信息。
根据本公开的实施例,目标语言可以是爪哇(Java)语言,由于JS代码可以提供可以自定义函数和方法,使数据的生成更加灵活,因此,可以利用目标语言对应的软件程序将目标数据生成规则和目标数据量对应的原始数据生成指令转换为目标语言的目标数据生成指令。
根据本公开的实施例,将目标数据生成指令进行压缩,可以确定数据生成信息,以便将数据生成信息更好的传输至数据库服务器中。
图4示意性示出了根据本公开又一实施例的数据处理方法的流程图。
如图4所示,该方法包括操作S410~操作S490。
在操作S410,响应于由数据生成界面接收的第二输入,确定与数据库服务器相关的传输信息。
在操作S420,基于传输信息,建立与数据库服务器之间的传输路径。
在操作S430,在确定传输路径建立成功的情况下,从数据库服务器中获取与数据库相关的表信息。
在操作S440,根据目标表的目标数据类型,确定与目标表相匹配的目标数据生成规则。
在操作S450,根据目标数据生成规则和目标数据量,确定数据生成信息。
在操作S460,利用本地服务器与数据库服务器之间建立的传输路径,将数据生成信息发送至数据库服务器,
在操作S470,接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的。
在操作S480,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据。
在操作S490,将目标数据导入至数据库中。
根据本公开的实施例,操作S410~操作S490可以参考本公开其他实施例,在此不再赘述。
基于上述应用于数据库服务器的数据处理方法,本公开还提供了一种数据处理装置。以下将结合图5对该装置进行详细描述。
图5示意性示出了根据本公开实施例的数据处理装置的结构框图。
如图5所示,该实施例的数据处理装置500应用于数据库服务器,包括接收模块510、生成模块520和导入模块530。
接收模块510用于接收由本地服务器发送的数据生成信息,其中,数据生成信息是根据数据库中的目标表得到的。在一实施例中,接收模块510可以用于执行前文描述的操作S210,在此不再赘述。
生成模块520用于根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据。在一实施例中,生成模块520可以用于执行前文描述的操作S220,在此不再赘述。
导入模块530用于将目标数据导入至数据库中,其中,数据库部署在数据库服务器。在一实施例中,导入模块530可以用于执行前文描述的操作S230,在此不再赘述。
根据本公开的实施例,用于根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据的生成模块520包括:
第一生成单元,用于对数据生成信息进行解析,确定目标表的目标数据类型;
第二生成单元,用于根据目标数据类型,确定与目标表相匹配的目标数据生成规则;以及
第三生成单元,用于根据目标数据生成规则,在数据库服务器中生成目标数据量的目标数据。
根据本公开的实施例,目标数据类型包括字符串类型、数字类型和日期类型中的至少一种;
用于根据目标数据类型,确定与目标表相匹配的目标数据生成规则的第二生成单元包括:
第一生成子单元,用于根据字符串类型,确定与目标表相匹配的目标数据生成规则是字符串生成规则,其中,字符串生成规则用于确定数据的字符串长度;
第二生成子单元,用于根据数字类型,确定与目标表相匹配的目标数据生成规则是数字生成规则,其中,数字生成规则用于确定数据的数字类型;和/或
第三生成子单元,用于根据日期类型,确定与目标表相匹配的目标数据生成规则是日期生成规则,其中,日期生成规则用于确定数据的日期。
根据本公开的实施例,用于根据目标数据生成规则,在数据库服务器中生成目标数据量的目标数据的第三生成单元包括:
第四生成子单元,用于根据字符串生成规则,在数据库服务器中生成第一子数据量的字符串数据;
第五生成子单元,用于根据数字生成规则,在数据库服务器中生成第二子数据量的数字数据;和/或
第六生成子单元,用于根据日期生成规则,在数据库服务器中生成第三子数据量的日期数据。
根据本公开的实施例,用于将目标数据导入至数据库中的导入模块530包括:
第一导入单元,用于根据目标数据的数据量大小,将目标数据划分为预设批量的数据集合;
第二导入单元,用于根据数据集合和预设的数据分片量,从数据集合中确定多个分片目标数据;以及
第三导入单元,用于将每个数据集合中的多个分片目标数据导入至数据库。
基于上述应用于本地服务器的数据处理方法,本公开还提供了一种数据处理装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的数据处理装置的结构框图。
如图6所示,该实施例的数据处理装置600应用于本地服务器,包括第一确定模块610、第二确定模块620、第三确定模块630和发送模块640。
第一确定模块610用于响应于由数据生成界面接收的第一输入,从与数据库相关的表信息中确定目标表,其中,数据库部署在数据库服务器。在一实施例中,第一确定模块610可以用于执行前文描述的操作S320,在此不再赘述。
第二确定模块620用于根据目标表的目标数据类型,确定与目标表相匹配的目标数据生成规则。在一实施例中,第二确定模块620可以用于执行前文描述的操作S320,在此不再赘述。
第三确定模块630用于根据目标数据生成规则和目标数据量,确定数据生成信息。在一实施例中,第三确定模块630可以用于执行前文描述的操作S330,在此不再赘述。
发送模块640用于利用本地服务器与数据库服务器之间建立的传输路径,将数据生成信息发送至数据库服务器,以便数据库服务器接收本地服务器发送的数据生成信息,根据数据生成信息,在数据库服务器中生成与目标表相关的目标数据,以及将目标数据导入至数据库中。在一实施例中,发送模块640可以用于执行前文描述的操作S340,在此不再赘述。
根据本公开的实施例,上述应用于本地服务器的数据处理装置600还包括:
第四确定模块,用于响应于由数据生成界面接收的第二输入,确定与数据库服务器相关的传输信息;
建立模块,用于基于传输信息,建立与数据库服务器之间的传输路径;以及
获取模块,用于在确定传输路径建立成功的情况下,从数据库服务器中获取与数据库相关的表信息。
根据本公开的实施例,用于根据目标数据生成规则和目标数据量,确定数据生成信息的第三确定模块630包括:
第一确定单元,用于根据目标数据生成规则和目标数据量,确定原始数据生成指令;
第二确定单元,用于将原始数据生成指令转换为目标语言的目标数据生成指令;以及
第三确定单元,用于将目标数据生成指令进行处理,确定数据生成信息。
根据本公开的实施例,接收模块510、生成模块520和导入模块530中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,接收模块510、生成模块520和导入模块530中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,接收模块510、生成模块520和导入模块530中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。
如图7所示,根据本公开实施例的电子设备700包括处理器701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中,存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备700还可以包括输入/输出(I/O)接口705,输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至输入/输出(I/O)接口705的以下部件中的一项或多项:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至输入/输出(I/O)接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的数据处理方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器701执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分709被下载和安装,和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (13)

1.一种数据处理方法,应用于数据库服务器,包括:
接收由本地服务器发送的数据生成信息,其中,所述数据生成信息是根据数据库中的目标表得到的;
根据所述数据生成信息,在所述数据库服务器中生成与所述目标表相关的目标数据;以及
将所述目标数据导入至所述数据库中,其中,所述数据库部署在所述数据库服务器。
2.根据权利要求1所述的方法,其中,所述根据所述数据生成信息,在所述数据库服务器中生成与所述目标表相关的目标数据,包括:
对所述数据生成信息进行解析,确定所述目标表的目标数据类型;
根据所述目标数据类型,确定与所述目标表相匹配的目标数据生成规则;以及
根据所述目标数据生成规则,在所述数据库服务器中生成目标数据量的所述目标数据。
3.根据权利要求2所述的方法,其中,所述目标数据类型包括字符串类型、数字类型和日期类型中的至少一种;
所述根据所述目标数据类型,确定与所述目标表相匹配的目标数据生成规则,包括:
根据所述字符串类型,确定与所述目标表相匹配的目标数据生成规则是字符串生成规则,其中,所述字符串生成规则用于确定数据的字符串长度;
根据所述数字类型,确定与所述目标表相匹配的目标数据生成规则是数字生成规则,其中,所述数字生成规则用于确定数据的数字类型;和/或
根据所述日期类型,确定与所述目标表相匹配的目标数据生成规则是日期生成规则,其中,所述日期生成规则用于确定数据的日期。
4.根据权利要求3所述的方法,其中,所述根据所述目标数据生成规则,在所述数据库服务器中生成所述目标数据量的所述目标数据,包括:
根据所述字符串生成规则,在所述数据库服务器中生成第一子数据量的字符串数据;
根据所述数字生成规则,在所述数据库服务器中生成第二子数据量的数字数据;和/或
根据所述日期生成规则,在所述数据库服务器中生成第三子数据量的日期数据。
5.根据权利要求1所述的方法,其中,所述将所述目标数据导入至数据库中,包括:
根据所述目标数据的数据量大小,将所述目标数据划分为预设批量的数据集合;
根据所述数据集合和预设的数据分片量,从所述数据集合中确定多个分片目标数据;以及
将每个所述数据集合中的所述多个分片目标数据导入至所述数据库。
6.一种数据处理方法,应用于本地服务器,包括:
响应于由数据生成界面接收的第一输入,从与数据库相关的表信息中确定目标表,其中,所述数据库部署在数据库服务器;
根据所述目标表的目标数据类型,确定与所述目标表相匹配的目标数据生成规则;
根据所述目标数据生成规则和目标数据量,确定数据生成信息;以及
利用所述本地服务器与所述数据库服务器之间建立的传输路径,将所述数据生成信息发送至所述数据库服务器,以便所述数据库服务器接收所述本地服务器发送的所述数据生成信息,根据所述数据生成信息,在所述数据库服务器中生成与所述目标表相关的目标数据,以及将所述目标数据导入至数据库中。
7.根据权利要求6所述的方法,还包括:
响应于由所述数据生成界面接收的第二输入,确定与所述数据库服务器相关的传输信息;
基于所述传输信息,建立与所述数据库服务器之间的传输路径;以及
在确定所述传输路径建立成功的情况下,从所述数据库服务器中获取与所述数据库相关的表信息。
8.根据权利要求6所述的方法,其中,所述根据所述目标数据生成规则和目标数据量,确定数据生成信息,包括:
根据所述目标数据生成规则和所述目标数据量,确定原始数据生成指令;
将所述原始数据生成指令转换为目标语言的目标数据生成指令;以及
将所述目标数据生成指令进行处理,确定数据生成信息。
9.一种数据处理装置,应用于数据库服务器,包括:
接收模块,用于接收由本地服务器发送的数据生成信息,其中,所述数据生成信息是根据数据库中的目标表得到的;
生成模块,用于根据所述数据生成信息,在所述数据库服务器中生成与所述目标表相关的目标数据;以及
导入模块,用于将所述目标数据导入至所述数据库中,其中,所述数据库部署在所述数据库服务器。
10.一种数据处理装置,应用于本地服务器,包括:
第一确定模块,用于响应于由数据生成界面接收的第一输入,从与数据库相关的表信息中确定目标表,其中,所述数据库部署在数据库服务器;
第二确定模块,用于根据所述目标表的目标数据类型,确定与所述目标表相匹配的目标数据生成规则;
第三确定模块,用于根据所述目标数据生成规则和目标数据量,确定数据生成信息;以及
发送模块,用于利用所述本地服务器与所述数据库服务器之间建立的传输路径,将所述数据生成信息发送至所述数据库服务器,以便所述数据库服务器接收所述本地服务器发送的所述数据生成信息,根据所述数据生成信息,在所述数据库服务器中生成与所述目标表相关的目标数据,以及将所述目标数据导入至数据库中。
11.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~5中任一项所述的方法、或权利要求6~8中任一项所述的方法。
12.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~5中任一项所述的方法、或权利要求6~8中任一项所述的方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~5中任一项所述的方法、或权利要求6~8中任一项所述的方法。
CN202310654053.4A 2023-06-05 2023-06-05 数据处理方法、装置、电子设备及存储介质 Pending CN116662302A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310654053.4A CN116662302A (zh) 2023-06-05 2023-06-05 数据处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310654053.4A CN116662302A (zh) 2023-06-05 2023-06-05 数据处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN116662302A true CN116662302A (zh) 2023-08-29

Family

ID=87720279

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310654053.4A Pending CN116662302A (zh) 2023-06-05 2023-06-05 数据处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN116662302A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117746999A (zh) * 2024-02-20 2024-03-22 之江实验室 一种数据处理的方法、装置、存储介质及电子设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117746999A (zh) * 2024-02-20 2024-03-22 之江实验室 一种数据处理的方法、装置、存储介质及电子设备
CN117746999B (zh) * 2024-02-20 2024-05-03 之江实验室 一种数据处理的方法、装置、存储介质及电子设备

Similar Documents

Publication Publication Date Title
CN112463729B (zh) 数据文件的入库方法、装置、电子设备和介质
CN109672722B (zh) 数据部署方法及装置、计算机存储介质和电子设备
CN116662302A (zh) 数据处理方法、装置、电子设备及存储介质
CN113051183A (zh) 一种测试数据的推荐方法、系统、电子设备及存储介质
CN113448869B (zh) 测试用例生成的方法、装置、电子设备及计算机可读介质
CN112084102A (zh) 接口压力测试的方法和装置
CN112884376A (zh) 工单处理方法、装置、电子设备及计算机可读存储介质
CN112559024A (zh) 一种生成交易码变更列表的方法和装置
CN110110032B (zh) 用于更新索引文件的方法和装置
CN107247661B (zh) 支持对应用的安装包进行自动化验证的方法和系统
CN113918525A (zh) 数据交换调度方法、系统、电子设备、介质及程序产品
CN114281704A (zh) 一种网站测试方法、装置、电子设备和介质
CN111367791B (zh) 一种生成测试用例的方法、装置、介质和电子设备
CN112783903B (zh) 生成更新日志的方法和装置
CN113569256A (zh) 漏洞扫描方法和装置、系统、电子设备、计算机可读介质
CN112084114A (zh) 用于测试接口的方法和装置
CN110688295A (zh) 数据测试方法和装置
CN115374320B (zh) 文本匹配方法、装置、电子设备、计算机介质
CN116452208B (zh) 变更交易码的确定方法、装置、设备及介质
CN108509455B (zh) 数据表处理方法和装置
CN116594876A (zh) 一种接口测试方法、装置、设备及存储介质
CN117271360A (zh) 前后端联调方法、装置、设备、介质和程序产品
CN114840429A (zh) 识别版本冲突的方法、装置、设备、介质和程序产品
CN117130934A (zh) 一种数据处理方法、装置、电子设备及存储介质
CN116467209A (zh) 性能测试方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination