CN115471348A - 数据生成方法、装置、计算机设备及存储介质 - Google Patents
数据生成方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN115471348A CN115471348A CN202211154001.2A CN202211154001A CN115471348A CN 115471348 A CN115471348 A CN 115471348A CN 202211154001 A CN202211154001 A CN 202211154001A CN 115471348 A CN115471348 A CN 115471348A
- Authority
- CN
- China
- Prior art keywords
- data
- sampling
- condition
- spot check
- service interface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/08—Insurance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44505—Configuring for program initiating, e.g. using registry, configuration files
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Finance (AREA)
- Data Mining & Analysis (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例属于大数据领域,涉及一种数据生成方法,包括:接收用户触发的抽检数据生成任务;展示抽检信息配置页面,并接收用户在抽检信息配置页面输入的抽检配置信息;基于抽检类型确定任务处理时间,并在当前时间到达任务处理时间时,调用抽检引擎,基于任务名称查询预设的数据库得到初始数据;基于抽检策略、产品名称与业务名称生成第一抽检条件;基于抽检量类型,对第一抽检条件进行预设处理得到第二抽检条件;基于抽检策略条件与第二抽检条件对初始数据进行数据过滤处理得到目标数据。本申请还提供一种数据生成装置、计算机设备及存储介质。此外,本申请还涉及区块链技术,目标数据可存储于区块链中。本申请提高了目标数据的生成效率。
Description
技术领域
本申请涉及大数据技术领域,尤其涉及数据生成方法、装置、计算机设备及存储介质。
背景技术
在当前的社会背景下,越来越多的人开始重视保险的购入,随着保险的购入量不断增多,理赔案件的申请量也在不断增加,而对于审核理赔案件中是否存在异常数据的审核工作量也不断加重。在现有技术中,审核人员需要通过人工从理赔系统中的理赔案件查找出需要进行抽检的疑似数据,之后结合保全历史记录、核保历史记录以及理赔出现原因等对该疑似数据进行审核,而往往理赔案件中疑似数据的数量很多,通过人工查找需要进行抽检的数据的方式需要耗费大量的人力物力,处理效率低下,缺乏智能性。
发明内容
本申请实施例的目的在于提出一种数据生成方法、装置、计算机设备及存储介质,以解决现有的通过人工查找需要进行抽检的数据的方式需要耗费大量的人力物力,处理效率低下,缺乏智能性的技术问题。
为了解决上述技术问题,本申请实施例提供一种数据生成方法,采用了如下所述的技术方案:
接收用户触发的抽检数据生成任务;
展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
进一步的,所述基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件的步骤,具体包括:
基于所述产品名称与所述业务名称获取相对应的业务接口;
若所述抽检策略为第一预设抽检策略,将所述业务接口按照预设的优先等级信息划分为第一数量的第一业务接口集合,并将所述第一业务接口集合存储于预设的初始抽检条件内,得到所述第一抽检条件;
若所述抽检策略为第二预设抽检策略,按照预设的内容类型将所述业务接口划分为第二数量的第二业务接口集合;
确定各所述第二业务接口集合的优先级,并基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例;
将所述第二业务接口集合与所述数据抽取比例存储于所述初始抽检条件内,得到所述第一抽检条件。
进一步的,所述基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例的步骤,具体包括:
基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的优先级数值;
计算所有所述优先级数值的和值;
计算指定优先级数值与所述和值的商值;其中,所述指定优先级数值为任意一个第二业务接口集合的优先级数值;
将所述商值作为与所述指定优先级数值对应的第二业务接口集合的数据抽取比例。
进一步的,所述基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件的步骤,具体包括:
判断所述抽检量类型是否为不限量;
若所述抽检量类型为不限量,将预设的第一变量的数值设置为0,并将所述第一变量存储至所述第一抽检条件内,得到所述第二抽检条件;
若抽检量类型不为不限量,判断所述抽检量类型是否为百分比;
若所述抽检量类型为百分比,将所述第一变量的数值设置为1,并将与所述抽检量类型对应的百分比数值赋值给预设的第二变量;
将所述第一变量与所述第二变量存储至所述第一抽检条件内,得到所述第二抽检条件。
进一步的,所述基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据的步骤,具体包括:
获取所述第二抽检条件内的业务接口集合;
判断所述业务接口集合内是否包括所述第一业务接口集合;
若包括所述第一业务接口集合,基于所述抽检策略条件以及预设的排序顺序,对所述初始数据进行数据过滤处理得到第一数据,并将所述第一数据存储至预设的存储单元内;
获取所述第二抽检条件内的第一变量的数值;
若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第一数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据;
若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值;
基于所述第二变量的数值对存储单元内的所有所述第一数据进行数据抽取处理得到第二数据;
将所述第二数据存储至所述数据库的目标数据表内,得到所述目标数据。
进一步的,在所述判断所述业务接口集合内是否包括所述第一业务接口集合的步骤之后,还包括:
若不包括所述第一业务接口集合,判断所述业务接口集合内是否包括所述第二业务接口集合;
若包括所述第二业务接口集合,基于所述抽检策略条件与所述数据抽取比例对所述初始数据进行数据过滤处理得到第三数据,并将所述第三数据存储至所述存储单元内;
获取所述第二抽检条件内的第一变量的数值;
若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第三数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据;
若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值;
基于所述第二变量的数值对存储单元内的所有所述第三数据进行数据抽取处理得到第四数据;
将所述第四数据存储至所述数据库的目标数据表内,得到所述目标数据。
进一步的,在所述基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据的步骤之后,还包括:
生成与所述目标数据对应的抽检任务;
执行所述抽检任务;
获取与所述抽检任务对应的任务执行结果;
存储并展示所述任务执行结果。
为了解决上述技术问题,本申请实施例还提供一种数据生成装置,采用了如下所述的技术方案:
第一接收模块,用于接收用户触发的抽检数据生成任务;
第二接收模块,用于展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
查询模块,用于基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
第一生成模块,用于基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
第一处理模块,用于基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
第二处理模块,用于基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
为了解决上述技术问题,本申请实施例还提供一种计算机设备,采用了如下所述的技术方案:
接收用户触发的抽检数据生成任务;
展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
接收用户触发的抽检数据生成任务;
展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
与现有技术相比,本申请实施例主要有以下有益效果:
本申请实施例在接收到用户触发的抽检数据生成任务后,会先展示预设的抽检信息配置页面,并接收用户在抽检信息配置页面输入的抽检配置信息,然后基于抽检类型确定任务处理时间,并在当前时间到达任务处理时间时,调用预设的抽检引擎,基于任务名称查询预设的数据库得到相应的初始数据,之后基于抽检策略、产品名称与业务名称生成第一抽检条件,后续基于抽检量类型,对第一抽检条件进行预设处理得到第二抽检条件,最后基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。通过采用本申请的方案,用户只需在页面输入抽检配置信息,便可利用抽检引擎来自动快速地从数据库的初始数据中抽取出待抽检的目标数据,有效地提高了目标数据的生成效率与生成智能性,提高了用户的使用体验。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图;
图2根据本申请的数据生成方法的一个实施例的流程图;
图3是根据本申请的数据生成装置的一个实施例的结构示意图;
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是,本申请实施例所提供的数据生成方法一般由服务器/终端设备执行,相应地,数据生成装置一般设置于服务器/终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的数据生成方法的一个实施例的流程图。所述的数据生成方法,包括以下步骤:
步骤S201,接收用户触发的抽检数据生成任务。
在本实施例中,数据生成方法运行于其上的电子设备(例如图1所示的服务器/终端设备)内的内容审核平台,可以通过有线连接方式或者无线连接方式获取抽检数据生成任务。需要指出的是,上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。其中,用户在登录了电子设备的内容审核平台后进入提供审核抽检服务的抽检信息配置页面,并可基于实际情况创建抽检数据生成任务。审核抽检服务分为两个模块:基础配置信息与抽检策略条件。
步骤S202,展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称。
在本实施例中,上述基础配置信息由任务名称、抽检策略、抽检类型、抽检量类型四个因素构成,其中,上述任务名称可由用户自定义。上述抽检策略包括三种:优先抽高优先级、等比、平均。用户在抽检信息配置页面可选择以上三种抽检策略,电子设备可根据用户所选的抽检策略相应执行抽检处理。上述抽检类型分为单次抽检和循环抽检两大类型。用户可在抽检信息配置页面选择以上两种抽检类型。上述单次抽检:当选择单次抽检类型时,用户可选择立即抽取或定时抽取,若用户选择立即抽取,则立即执行抽检数据生成任务;若用户选择定时抽取时,则抽检信息配置页面会展示定时抽取时间,由用户选择抽取时间,抽检数据生成任务则在选择的抽检时间到来时执行抽检任务。上述循环抽检任务:当用户选择循环抽检任务时,页面会展示cron表达式输入框,用户可将抽检任务执行规则转换为cron表达式输入。上述抽检量类型分为百分比,不限量两种类型,当用户选择百分比类型时,页面展示百分比输入框,用户可自行输入抽取数据占比;当用户选择不限量类型时,执行抽检任务时无数据上限。
步骤S203,基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据。
在本实施例中,通过从接收到的用户在上述抽检信息配置页面输入的抽检配置信息中的基础配置信息中获取抽检类型,并基于该抽检类型确定出任务处理时间。上述抽检引擎为预先创建的用于执行抽检数据生成处理的规则引擎,抽检引擎一般按如下流程执行:首先获取抽检数据生成任务的任务名称,根据任务名称查询得到数据库中的初始数据,获取抽检配置信息,基于抽检配置信息进行抽检条件预处理,最后基于抽检策略条件过滤上述初始数据,通过抽检引擎过滤后得到的数据则为此次抽检数据生成任务对应的待抽检的数据。其中,上述数据库可为pg数据库。
步骤S204,上述基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件。
在本实施例中,可通过从接收到的用户在抽检信息配置页面输入的抽检配置信息中的基础配置信息中获取抽检策略,以及从抽检配置信息中的抽检策略条件中获取产品名称与业务名称。上述抽检策略包括第一预设抽检策略或第二预设抽检策略。上述基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
步骤S205,基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件。
在本实施例中,可通过从接收到的用户在抽检信息配置页面输入的抽检配置信息中的基础配置信息中获取抽检量类型。上述基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
步骤S206,基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
在本实施例中,上述抽检策略条件除了包括产品名称、业务名称,还包括数据状态、数据结果、起始时间与截止时间。上述基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
本申请在接收到用户触发的抽检数据生成任务后,会先展示预设的抽检信息配置页面,并接收用户在抽检信息配置页面输入的抽检配置信息,然后基于抽检类型确定任务处理时间,并在当前时间到达任务处理时间时,调用预设的抽检引擎,基于任务名称查询预设的数据库得到相应的初始数据,之后基于抽检策略、产品名称与业务名称生成第一抽检条件,后续基于抽检量类型,对第一抽检条件进行预设处理得到第二抽检条件,最后基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。通过采用本申请的方案,用户只需在页面输入抽检配置信息,便可利用抽检引擎来自动快速地从数据库的初始数据中抽取出待抽检的目标数据,有效地提高了目标数据的生成效率与生成智能性,提高了用户的使用体验。
在一些可选的实现方式中,步骤S204包括以下步骤:
基于所述产品名称与所述业务名称获取相对应的业务接口。
在本实施例中,用户可在抽检信息配置页面选择需要进行内容审核的产品,当用户确定产品名称后,在抽检信息配置页面的业务名称下拉框的数据展示内容为选定产品的所有业务模块。举例地,假设电子设备的接入平台为好车主,接入好车主平台的业务模块包括:用户昵称模块,评论模块,若用户在创建抽检数据生成任务时在抽检信息配置页面中选择的产品名称为好车主,则可供选择的业务名称则为用户昵称模块,评论模块,若用户选择用户昵称,则对应的接入接口,即业务接口为好车主用户昵称接口。
若所述抽检策略为第一预设抽检策略,将所述业务接口按照预设的优先等级信息划分为第一数量的第一业务接口集合,并将所述第一业务接口集合存储于预设的初始抽检条件内,得到所述第一抽检条件。
在本实施例中,上述第一预设抽检策略具体为优先抽高优先级的策略,上述优先等级信息是指该上述接口的风险等级,上述第一数量为3。基于该风险等级可将业务接口分为3个第一业务接口集合,具体为highList(高风险集合)、middleList(中风险集合)、lowList(低风险集合),且执行抽检数据生成任务的抽检顺序:highList=>middleList=>lowList。
若所述抽检策略为第二预设抽检策略,按照预设的内容类型将所述业务接口划分为第二数量的第二业务接口集合。
在本实施例中,上述第二预设抽检策略为等比执行的抽检策略。上述内容类型包括文本、图片、音频、视频、融媒体,上述第二数量为5。通过该内容类型可将业务接口划分在text,image,audio,video,media这五个集合中,即上述第二业务接口集合。若业务接口中接口的内容类型为文本则将该接口划分到text集合中,若接口的内容类型为图片则将该接口划分到image集合中,若接口的内容类型为音频则将该接口划分到audio集合中,若接口的内容类型为视频则将该接口划分到video集合中,若接口的内容类型为融媒体则将该接口划分到media集合中。
确定各所述第二业务接口集合的优先级,并基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例。
在本实施例中,对于各第二业务接口集合的优先级的确定过程不作具体限定,可根据实际的业务需求进行设置。其中,基于优先级高的集合的数据占比高的原则来确定出各所述第二业务接口集合的数据抽取比例。上述基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
将所述第二业务接口集合与所述数据抽取比例存储于所述初始抽检条件内,得到所述第一抽检条件。
在本实施例中,上述初始抽检条件为预先构建的包括有第一对象与第二对象等参数的条件数据。
在另一个实施例中,上述抽检策略还可包括平均执行的抽检策略。平均执行的抽检策略的平均执行规则为,对于所选业务接口,每个接口抽取同等数量。如果抽检策略为平均执行的抽检策略,则不对业务接口进行预处理,直接将业务接口存储于初始抽检条件内,以得到第一抽检条件。
本申请通过基于产品名称与业务名称获取相对应的业务接口,再针对不同的抽检策略来采用不同的预处理方式来生成相应的第一抽检条件,保证了第一抽检条件的生成准确性,且有利于后续可以基于抽检量类型对第一抽检条件进行预设处理得到第二抽检条件,进而基于抽检策略条件与第二抽检条件来快速地从数据库的初始数据内筛选出待抽检的目标数据,提高了目标数据的生成效率。
在本实施例的一些可选的实现方式中,所述基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例,包括以下步骤:
基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的优先级数值。
在本实施例中,上述第二预设抽检策略对应的等比执行规则为,根据表达式text:image:audio:video:media=a:b:c:d:e,计算各业务接口的数据抽取量,关于以上表达式解释如下:text表示文本类型数据,image表示图片类型数据,audio表示音频类型数据,video表示视频类型数据,media表示融媒体类型数据,a表示文本类型数据占比,b表示图片类型数据占比,c表示音频类型数据占比,d表示音频类型数据占比,e表示融媒体类型数据占比。抽检数据生成任务执行时,将上述业务接口分为文本,图片,音频,视频,融媒体五种集合,再根据上述表达式计算出业务接口中的五种集合需要从数据库内初始数据中抽取的数据量。其中,可通过查询预先创建的优先级数值表来确定各所述第二业务接口集合的优先级数值。上述优先级数值表存储有不同的优先级以及与各优先级具有一一对应的映射关系的优先级数值。
计算所有所述优先级数值的和值。
计算指定优先级数值与所述和值的商值;其中,所述指定优先级数值为任意一个第二业务接口集合的优先级数值。
将所述商值作为与所述指定优先级数值对应的第二业务接口集合的数据抽取比例。
在本实施例中,每一个第二业务接口集合的优先级数值的计算过程与上述指定优先级数值所对应的计算过程相同。
本申请通过基于各第二业务接口集合的优先级确定各第二业务接口集合的优先级数值,进而可以基于得到的优先级数值来快速准确地确定各第二业务接口集合的数据抽取比例,有利于后续可以基于该数据抽取比例来生成第一抽检条件,进而基于生成的第一抽检条件来快速地从数据库的初始数据内筛选出待抽检的目标数据,提高了目标数据的生成效率。
在一些可选的实现方式中,步骤S205包括以下步骤:
判断所述抽检量类型是否为不限量。
在本实施例中,上述抽检量类型分为百分比,不限量两种类型,当用户选择百分比类型时,页面展示百分比输入框,用户可自行输入抽取数据占比,即百分比数值;当用户选择不限量类型时,执行抽检任务时无数据上限。
若所述抽检量类型为不限量,将预设的第一变量的数值设置为0,并将所述第一变量存储至所述第一抽检条件内,得到所述第二抽检条件。
在本实施例中,通过将第一变量的数值设置为0,以构建出数值为0的第一变量与不限量的抽检量类型之间的映射关系。其中,上述第一变量可为f。
若抽检量类型不为不限量,判断所述抽检量类型是否为百分比。
若所述抽检量类型为百分比,将所述第一变量的数值设置为1,并将与所述抽检量类型对应的百分比数值赋值给预设的第二变量。
在本实施例中,通过将第一变量的数值设置为1,以构建出数值为1的第一变量与百分比的抽检量类型之间的映射关系。其中,上述第二变量可为g。
将所述第一变量与所述第二变量存储至所述第一抽检条件内,得到所述第二抽检条件。
本申请在从基础配置信息获得了抽检量类型后,会智能地针对不同的抽检量类型来采用不同的处理方式来生成相应的第二抽检条件,保证了第二抽检条件的生成准确性,有利于后续可以基于抽检策略条件与第二抽检条件来快速地从数据库的初始数据内筛选出待抽检的目标数据,提高了目标数据的生成效率。
在一些可选的实现方式中,步骤S206包括以下步骤:
获取所述第二抽检条件内的业务接口集合。
在本实施例中,上述业务接口集合可包括上述第一业务接口集合或上述第二业务接口集合。
判断所述业务接口集合内是否包括所述第一业务接口集合。
在本实施例中,可通过判断业务接口集合内的highList集合是否为空,若业务接口集合内的highList集合不为空,则判定该业务接口集合内包括第一业务接口集合。
若包括所述第一业务接口集合,基于所述抽检策略条件以及预设的排序顺序,对所述初始数据进行数据过滤处理得到第一数据,并将所述第一数据存储至预设的存储单元内。
在本实施例中,上述抽检策略条件由数据状态、数据结果、起始时间、截止时间、产品名称、业务名称六个因素构成。具体的,(1)数据状态分为已抽检、已机审、已人审、人审一次、归档这五种类型,关于待审核数据的生命周期归纳为如下过程:机审->抽检->人审->二次人审->归档。根据选择的不同数据状态,抽取处于不同生命周期环节的数据。(2)数据结果分为通过,疑似,不通过,所有结果状态这四种类型,数据每被审核一次会更新一次数据结果,若内容确定违规,则会给该数据打上不通过的结果;若内容疑似违规,则会给该数据打上疑似的结果;若内容确定不违规,则会给该数据打上通过的结果。(3)起始时间startTime与截止时间endTime构成时间区间[startTime,endTime],执行抽检任务时,基于业务数据上报时间抽取[startTime,endTime]这个时间区间内的数据。其中,上述预设的排序顺序是指highList集合->middleList集合->lowList集合的处理顺序。上述存储单元可为根据实际的使用需求在电子设备内创建的用于存储数据的单元。
获取所述第二抽检条件内的第一变量的数值。
在本实施例中,上述第一变量的数值可包括0或1。
若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第一数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据。
在本实施例中,上述目标数据表具体可为pool表。该目标数据表内的第一数据即视作待抽检的目标数据。
若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值。
在本实施例中,第二抽检条件内的第二变量的数值是指与抽检量类型对应的百分比数值。
基于所述第二变量的数值对存储单元内的所有所述第一数据进行数据抽取处理得到第二数据。
在本实施例中,可按照抽检量类型对应的百分比数值来对存储单元内的所有第一数据进行数据抽取处理得到第二数据。
将所述第二数据存储至所述数据库的目标数据表内,得到所述目标数据。
本申请通过获取第二抽检条件内的业务接口集合,如果检测出业务接口集合内包括第一业务接口集合,会基于抽检策略条件以及预设的排序顺序,对初始数据进行数据过滤处理得到第一数据并存储至预设的存储单元内,并且基于第二抽检条件内的第一变量的数值的不同,来对应采用不同的处理方式来对第一数据进行处理以生成最终的待抽检的目标数据,保证了目标数据的生成准确性与生成智能性。
在本实施例的一些可选的实现方式中,在判断所述业务接口集合内是否包括所述第一业务接口集合的步骤之后,上述电子设备还可以执行以下步骤:
若不包括所述第一业务接口集合,判断所述业务接口集合内是否包括所述第二业务接口集合。
在本实施例中,可通过判断业务接口集合内的text集合是否为空,若业务接口集合内的text集合不为空,则判定该业务接口集合内包括第二业务接口集合。
若包括所述第二业务接口集合,基于所述抽检策略条件与所述数据抽取比例对所述初始数据进行数据过滤处理得到第三数据,并将所述第三数据存储至所述存储单元内。
在本实施例中,如果业务接口集合内不包括第一业务接口集合,也不包括第二业务接口集合,则业务接口集合对应的抽检策略为平均执行的抽检策略,并会直接获取抽检数据生成任务中选定的业务接口,并基于业务接口与抽检策略条件初始数据进行数据过滤处理,并将得到的过滤后的数据存储至存储单元内。后续的处理流程可参考下述的技术内容,在此不作过多阐述。
获取所述第二抽检条件内的第一变量的数值。
在本实施例中,第一变量的数值可包括0或1。
若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第三数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据。
在本实施例中,上述目标数据表内的第三数据即视作待抽检的目标数据。
若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值。
在本实施例中,第二抽检条件内的第二变量的数值是指与抽检量类型对应的百分比数值。
基于所述第二变量的数值对存储单元内的所有所述第三数据进行数据抽取处理得到第四数据。
在本实施例中,可按照抽检量类型对应的百分比数值来对存储单元内的所有第三数据进行数据抽取处理得到第四数据。
将所述第四数据存储至所述数据库的目标数据表内,得到所述目标数据。
本申请通过获取第二抽检条件内的业务接口集合,如果检测出业务接口集合内包括第一业务接口集合,会基于抽检策略条件以及数据抽取比例,对初始数据进行数据过滤处理得到第三数据并存储至预设的存储单元内,并且基于第二抽检条件内的第一变量的数值的不同,来对应采用不同的处理方式来对第三数据进行处理以生成最终的待抽检的目标数据,保证了目标数据的生成准确性与生成智能性。
在本实施例的一些可选的实现方式中,在步骤S206之后,上述电子设备还可以执行以下步骤:
生成与所述目标数据对应的抽检任务。
在本实施例中,在基于抽检引擎从数据库内的初始数据中抽取出待抽检的目标任务后,还可以进一步基于该目标数据创建相应的抽检任务,以对目标数据内的内容进行审核。
执行所述抽检任务。
在本实施例中,可根据实际的业务使用需求预先创建用于执行抽检任务的实时抽检模型,并通过调用该实时抽检模型对生成的与目标数据对应的抽检任务进行执行处理。
获取与所述抽检任务对应的任务执行结果。
在本实施例中,在通过实时抽检模型对生成的与目标数据对应的抽检任务进行执行处理完毕后,会生成与该抽检任务对应的任务执行结果。
存储并展示所述任务执行结果。
在本实施例中,对于上述任务执行结果的存储方式不作限定,可根据实际的使用需求进行确定,例如可将该任务执行结果存储于数据库内或存储于区块链上。另外,对于上述任务执行结果的展示方式不作限定,可根据实际的使用需求进行确定,例如可以将该任务执行结果以文字的形式展示在当前界面。
本申请在基于抽检引擎从数据库内的初始数据中抽取出待抽检的目标任务后,还会进一步生成与目标数据对应的抽检任务,并通过执行该抽检任务得到任务执行结果,以及存储并展示任务执行结果,以实现快速地实现对目标数据内的内容进行审核处理并生成相应的结果数据,以便相关用户能够基于该任务执行结果及时清除的了解到与目标数据对应的审核结果,提高了用户的使用体验。
需要强调的是,为进一步保证上述目标数据的私密和安全性,上述目标数据还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random Access Memory,RAM)等。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3,作为对上述图2所示方法的实现,本申请提供了一种数据生成装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图3所示,本实施例所述的数据生成装置300包括:第一接收模块301、第二接收模块302、查询模块303、第一生成模块304、第一处理模块305以及第二处理模块306。其中:
第一接收模块301,用于接收用户触发的抽检数据生成任务;
第二接收模块302,用于展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
查询模块303,用于基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
第一生成模块304,用于基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
第一处理模块305,用于基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
第二处理模块306,用于基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
在本实施例的一些可选的实现方式中,第一生成模块304包括:
第一获取子模块,用于基于所述产品名称与所述业务名称获取相对应的业务接口;
第一划分子模块,用于若所述抽检策略为第一预设抽检策略,将所述业务接口按照预设的优先等级信息划分为第一数量的第一业务接口集合,并将所述第一业务接口集合存储于预设的初始抽检条件内,得到所述第一抽检条件;
第二划分子模块,用于若所述抽检策略为第二预设抽检策略,按照预设的内容类型将所述业务接口划分为第二数量的第二业务接口集合;
确定子模块,用于确定各所述第二业务接口集合的优先级,并基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例;
第一生成子模块,用于将所述第二业务接口集合与所述数据抽取比例存储于所述初始抽检条件内,得到所述第一抽检条件。
在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
在本实施例的一些可选的实现方式中,确定子模块包括:
确定单元,用于基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的优先级数值;
第一计算单元,用于计算所有所述优先级数值的和值;
第二计算单元,用于计算指定优先级数值与所述和值的商值;其中,所述指定优先级数值为任意一个第二业务接口集合的优先级数值;
确定单元,用于将所述商值作为与所述指定优先级数值对应的第二业务接口集合的数据抽取比例。
本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
在本实施例的一些可选的实现方式中,第一处理模块305包括:
第一判断子模块,用于判断所述抽检量类型是否为不限量;
第二生成子模块,用于若所述抽检量类型为不限量,将预设的第一变量的数值设置为0,并将所述第一变量存储至所述第一抽检条件内,得到所述第二抽检条件;
第二判断子模块,用于若抽检量类型不为不限量,判断所述抽检量类型是否为百分比;
第一处理子模块,用于若所述抽检量类型为百分比,将所述第一变量的数值设置为1,并将与所述抽检量类型对应的百分比数值赋值给预设的第二变量;
第三生成子模块,用于将所述第一变量与所述第二变量存储至所述第一抽检条件内,得到所述第二抽检条件。
在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
在本实施例的一些可选的实现方式中,第二处理模块306包括:
第二获取子模块,用于获取所述第二抽检条件内的业务接口集合;
第三判断子模块,用于判断所述业务接口集合内是否包括所述第一业务接口集合;
第二处理子模块,用于若包括所述第一业务接口集合,基于所述抽检策略条件以及预设的排序顺序,对所述初始数据进行数据过滤处理得到第一数据,并将所述第一数据存储至预设的存储单元内;
第三获取子模块,用于获取所述第二抽检条件内的第一变量的数值;
第三处理子模块,用于若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第一数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据;
第四获取子模块,用于若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值;
第一抽取子模块,用于基于所述第二变量的数值对存储单元内的所有所述第一数据进行数据抽取处理得到第二数据;
第四生成子模块,用于将所述第二数据存储至所述数据库的目标数据表内,得到所述目标数据。
在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
在本实施例的一些可选的实现方式中,第二处理模块306包括:
第四判断子模块,用于若不包括所述第一业务接口集合,判断所述业务接口集合内是否包括所述第二业务接口集合;
第四处理子模块,用于若包括所述第二业务接口集合,基于所述抽检策略条件与所述数据抽取比例对所述初始数据进行数据过滤处理得到第三数据,并将所述第三数据存储至所述存储单元内;
第五获取子模块,用于获取所述第二抽检条件内的第一变量的数值;
第五生成子模块,用于若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第三数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据;
第六获取子模块,用于若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值;
第五处理子模块,用于基于所述第二变量的数值对存储单元内的所有所述第三数据进行数据抽取处理得到第四数据;
第六生成子模块,用于将所述第四数据存储至所述数据库的目标数据表内,得到所述目标数据。
在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
在本实施例的一些可选的实现方式中,数据生成装置还包括:
第二生成模块,用于生成与所述目标数据对应的抽检任务;
执行模块,用于执行所述抽检任务;
获取模块,用于获取与所述抽检任务对应的任务执行结果;
第三处理模块,用于存储并展示所述任务执行结果。
在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的数据生成方法的步骤一一对应,在此不再赘述。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图4,图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是,图中仅示出了具有组件41-43的计算机设备4,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable GateArray,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器41可以是所述计算机设备4的内部存储单元,例如该计算机设备4的硬盘或内存。在另一些实施例中,所述存储器41也可以是所述计算机设备4的外部存储设备,例如该计算机设备4上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(FlashCard)等。当然,所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中,所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件,例如数据生成方法的计算机可读指令等。此外,所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中,所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据,例如运行所述数据生成方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口,该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
与现有技术相比,本申请实施例主要有以下有益效果:
本申请实施例中,。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的数据生成方法的步骤。
与现有技术相比,本申请实施例主要有以下有益效果:
本申请实施例中,。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (10)
1.一种数据生成方法,其特征在于,包括下述步骤:
接收用户触发的抽检数据生成任务;
展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
2.根据权利要求1所述的数据生成方法,其特征在于,所述基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件的步骤,具体包括:
基于所述产品名称与所述业务名称获取相对应的业务接口;
若所述抽检策略为第一预设抽检策略,将所述业务接口按照预设的优先等级信息划分为第一数量的第一业务接口集合,并将所述第一业务接口集合存储于预设的初始抽检条件内,得到所述第一抽检条件;
若所述抽检策略为第二预设抽检策略,按照预设的内容类型将所述业务接口划分为第二数量的第二业务接口集合;
确定各所述第二业务接口集合的优先级,并基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例;
将所述第二业务接口集合与所述数据抽取比例存储于所述初始抽检条件内,得到所述第一抽检条件。
3.根据权利要求2所述的数据生成方法,其特征在于,所述基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的数据抽取比例的步骤,具体包括:
基于各所述第二业务接口集合的优先级确定各所述第二业务接口集合的优先级数值;
计算所有所述优先级数值的和值;
计算指定优先级数值与所述和值的商值;其中,所述指定优先级数值为任意一个第二业务接口集合的优先级数值;
将所述商值作为与所述指定优先级数值对应的第二业务接口集合的数据抽取比例。
4.根据权利要求1所述的数据生成方法,其特征在于,所述基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件的步骤,具体包括:
判断所述抽检量类型是否为不限量;
若所述抽检量类型为不限量,将预设的第一变量的数值设置为0,并将所述第一变量存储至所述第一抽检条件内,得到所述第二抽检条件;
若抽检量类型不为不限量,判断所述抽检量类型是否为百分比;
若所述抽检量类型为百分比,将所述第一变量的数值设置为1,并将与所述抽检量类型对应的百分比数值赋值给预设的第二变量;
将所述第一变量与所述第二变量存储至所述第一抽检条件内,得到所述第二抽检条件。
5.根据权利要求2所述的数据生成方法,其特征在于,所述基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据的步骤,具体包括:
获取所述第二抽检条件内的业务接口集合;
判断所述业务接口集合内是否包括所述第一业务接口集合;
若包括所述第一业务接口集合,基于所述抽检策略条件以及预设的排序顺序,对所述初始数据进行数据过滤处理得到第一数据,并将所述第一数据存储至预设的存储单元内;
获取所述第二抽检条件内的第一变量的数值;
若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第一数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据;
若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值;
基于所述第二变量的数值对存储单元内的所有所述第一数据进行数据抽取处理得到第二数据;
将所述第二数据存储至所述数据库的目标数据表内,得到所述目标数据。
6.根据权利要求5所述的数据生成方法,其特征在于,在所述判断所述业务接口集合内是否包括所述第一业务接口集合的步骤之后,还包括:
若不包括所述第一业务接口集合,判断所述业务接口集合内是否包括所述第二业务接口集合;
若包括所述第二业务接口集合,基于所述抽检策略条件与所述数据抽取比例对所述初始数据进行数据过滤处理得到第三数据,并将所述第三数据存储至所述存储单元内;
获取所述第二抽检条件内的第一变量的数值;
若所述第二抽检条件内的第一变量的数值为0,将所述存储单元内的所有所述第三数据存储至所述数据库的目标数据表内,得到待抽检的所述目标数据;
若所述第二抽检条件内的第一变量的数值为1,获取所述第二抽检条件内的第二变量的数值;
基于所述第二变量的数值对存储单元内的所有所述第三数据进行数据抽取处理得到第四数据;
将所述第四数据存储至所述数据库的目标数据表内,得到所述目标数据。
7.根据权利要求1所述的数据生成方法,其特征在于,在所述基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据的步骤之后,还包括:
生成与所述目标数据对应的抽检任务;
执行所述抽检任务;
获取与所述抽检任务对应的任务执行结果;
存储并展示所述任务执行结果。
8.一种数据生成装置,其特征在于,包括:
第一接收模块,用于接收用户触发的抽检数据生成任务;
第二接收模块,用于展示预设的抽检信息配置页面,并接收所述用户在所述抽检信息配置页面输入的抽检配置信息;其中,所述抽检配置信息包括基础配置信息与抽检策略条件,所述基础配置信息至少包括所述抽检数据生成任务的任务名称、抽检策略、抽检类型以及抽检量类型,所述抽检策略条件至少包括产品名称与业务名称;
查询模块,用于基于所述抽检类型确定任务处理时间,并在当前时间到达所述任务处理时间时,调用预设的抽检引擎,基于所述任务名称查询预设的数据库得到相应的初始数据;
第一生成模块,用于基于所述抽检策略、所述产品名称与所述业务名称生成第一抽检条件;
第一处理模块,用于基于所述抽检量类型,对所述第一抽检条件进行预设处理得到第二抽检条件;
第二处理模块,用于基于所述抽检策略条件与所述第二抽检条件对所述初始数据进行数据过滤处理,得到待抽检的目标数据。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的数据生成方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的数据生成方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211154001.2A CN115471348A (zh) | 2022-09-21 | 2022-09-21 | 数据生成方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211154001.2A CN115471348A (zh) | 2022-09-21 | 2022-09-21 | 数据生成方法、装置、计算机设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115471348A true CN115471348A (zh) | 2022-12-13 |
Family
ID=84334604
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211154001.2A Pending CN115471348A (zh) | 2022-09-21 | 2022-09-21 | 数据生成方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115471348A (zh) |
-
2022
- 2022-09-21 CN CN202211154001.2A patent/CN115471348A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112052111A (zh) | 服务器异常预警的处理方法、装置、设备及存储介质 | |
CN112395390A (zh) | 意图识别模型的训练语料生成方法及其相关设备 | |
CN112990583A (zh) | 一种数据预测模型的入模特征确定方法及设备 | |
CN115712422A (zh) | 表单页面的生成方法、装置、计算机设备及存储介质 | |
CN115936895A (zh) | 基于人工智能的风险评估方法、装置、设备及存储介质 | |
CN116453125A (zh) | 基于人工智能的数据录入方法、装置、设备及存储介质 | |
CN116956326A (zh) | 权限数据的处理方法、装置、计算机设备及存储介质 | |
CN116843395A (zh) | 一种业务系统的告警分级方法、装置、设备及存储介质 | |
CN115378806A (zh) | 流量分配方法、装置、计算机设备及存储介质 | |
CN115471348A (zh) | 数据生成方法、装置、计算机设备及存储介质 | |
CN117934173A (zh) | 风险分析方法、装置、计算机设备及存储介质 | |
CN117933699A (zh) | 任务分析方法、装置、计算机设备及存储介质 | |
CN115936910A (zh) | 费用数据处理方法、装置、计算机设备及存储介质 | |
CN115080045A (zh) | 链路生成方法、装置、计算机设备及存储介质 | |
CN115185666A (zh) | 任务调度方法、装置、计算机设备及存储介质 | |
CN116737437A (zh) | 数据分析方法、装置、计算机设备及存储介质 | |
CN116795632A (zh) | 任务处理方法、装置、计算机设备及存储介质 | |
CN115936909A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN115202966A (zh) | 图片处理方法、装置、计算机设备及存储介质 | |
CN117076781A (zh) | 保单数据的处理方法、装置、计算机设备及存储介质 | |
CN116611936A (zh) | 数据分析方法、装置、计算机设备及存储介质 | |
CN117034173A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN117395310A (zh) | 任务处理方法、装置、计算机设备及存储介质 | |
CN117251502A (zh) | 数据看板生成方法、装置、计算机设备及存储介质 | |
CN117217684A (zh) | 指标数据的处理方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |