CN116185617A - 任务处理方法及装置 - Google Patents
任务处理方法及装置 Download PDFInfo
- Publication number
- CN116185617A CN116185617A CN202310096758.9A CN202310096758A CN116185617A CN 116185617 A CN116185617 A CN 116185617A CN 202310096758 A CN202310096758 A CN 202310096758A CN 116185617 A CN116185617 A CN 116185617A
- Authority
- CN
- China
- Prior art keywords
- task
- processing
- processing unit
- processed
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
- G06F16/2448—Query languages for particular applications; for extensibility, e.g. user defined types
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/04—Constraint-based CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/06—Multi-objective optimisation, e.g. Pareto optimisation using simulated annealing [SA], ant colony algorithms or genetic algorithms [GA]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Evolutionary Computation (AREA)
- Geometry (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Debugging And Monitoring (AREA)
- Stored Programmes (AREA)
Abstract
本说明书实施例提供了任务处理方法及装置,其中,一种任务处理方法包括:对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
Description
技术领域
本文件涉及数据处理技术领域,尤其涉及一种任务处理方法及装置。
背景技术
对问题进行求解以得到目标结果是运筹优化方向中的数学规划分支,也是应用数学的一个分支,主要指在一定约束条件下,选取某种研究方案使目标达到预期效果的一种方法。对问题进行求解以得到目标结果在机器学习、人工智能、图像和信号处理、金融和经济、管理科学等众多领域有着极其广泛的应用。优化问题按数学方程式的特征可分为整数规划、线性规划、非线性规划、二次规划和几何规划等等。
发明内容
本说明书一个或多个实施例提供了一种任务处理方法。所述任务处理方法,包括:对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令。根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据。加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
本说明书一个或多个实施例提供了一种任务处理装置,包括:解析处理模块,被配置为对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令。处理单元筛选模块,被配置为根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。转换模块,被配置为将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据。任务处理模块,被配置为加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
本说明书一个或多个实施例提供了一种任务处理设备,包括:处理器;以及,被配置为存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器:对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令。根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据。加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
本说明书一个或多个实施例提供了一种存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程:对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令。根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据。加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
附图说明
为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图;
图1为本说明书一个或多个实施例提供的一种任务处理方法处理流程图;
图2为本说明书一个或多个实施例提供的一种建模语言转换过程的处理示意图;
图3为本说明书一个或多个实施例提供的一种应用于问题求解场景的任务处理方法处理流程图;
图4为本说明书一个或多个实施例提供的另一种任务处理方法处理流程图;
图5为本说明书一个或多个实施例提供的应用于SQL语言场景的任务处理方法处理示意图;
图6为本说明书一个或多个实施例提供的应用于SQL语言场景的求解器适配过程的处理示意图;
图7为本说明书一个或多个实施例提供的一种应用于SQL语言场景的任务处理方法处理流程图;
图8为本说明书一个或多个实施例提供的一种任务处理装置示意图;
图9为本说明书一个或多个实施例提供的一种任务处理设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案,下面将结合本说明书一个或多个实施例中的附图,对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书的一部分实施例,而不是全部的实施例。基于本说明书一个或多个实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本文件的保护范围。
本说明书提供的一种任务处理方法实施例:
本实施例提供的任务处理方法,从待处理任务的数据操作指令出发,将待处理任务转换为与进行任务处理的多个处理单元的输入适配的输入数据,并将输入数据输入对应的处理单元进行任务处理,以获得待处理任务的任务处理结果;具体的,在获取到待处理任务的任务描述信息后,首先对任务描述信息进行解析处理,获得待处理任务的数据操作指令,然后在处理单元集群中筛选出待处理任务对应的至少一个处理单元,并将数据操作指令转换为与各处理单元的输入适配的输入数据,最后通过处理引擎将输入数据输入对应的处理单元进行任务处理,获得待处理任务的任务处理结果;以此,从感知程度高的数据操作指令出发,对待处理任务进行转换,获得至少一个处理单元适配的输入数据,进一步基于至少一个处理单元对待处理任务进行任务处理,确定待处理任务的任务处理结果,提升进行任务处理的效率,通过至少一个处理单元进行任务处理,提升任务处理结果的有效性。
参照图1,本实施例提供的任务处理方法,具体包括步骤S102至步骤S108。
步骤S102,对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令。
本实施例所述待处理任务,是指进行处理后会获得一个或多个响应结果的任务;所述待处理任务,包括待求解问题。例如,包含目标和约束的待处理问题;所述待求解问题,包括程序或者子程序中对用户的管理问题;例如,对子程序中的用户进行信用评级等。
实际应用中,为了提升提供待处理任务的用户提交待处理任务的便捷性,用户通过文字或者语音的形式进行待处理任务的提交;在此过程中,用户通过文字或者语音的形式提交的待处理任务的文本信息或者语音信息即为待处理任务的任务描述信息;但是计算机在进行处理过程中无法对文本信息或者语音信息直接进行处理,需要将文本信息或者语音信息转化为能够识别的内容,因此,获取到待处理任务的任务描述信息后,首先对任务描述信息进行解析处理,获得待处理任务的数据操作指令;
所述数据操作指令,包括适用范围广的可识别语言下的操作指令;也即是预先配置的可识别语言下的操作指令;换句话说,所述数据操作指令,包括预先配置的可识别语言下的表达式;例如SQL(Structured Query Language,结构化查询语言)表达式。
具体实施时,为了提升对任务描述信息的处理效率,在获取到任务描述信息后,对任务描述信息进行解析处理,获得数据操作指令,本实施例提供的一种可选实施方式中,在对待处理任务的任务描述信息进行解析处理,获得待处理任务的数据操作指令的过程中,执行如下操作:
解析所述任务描述信息,获得所述任务描述信息中的多个关键信息片段;
按照各关键信息片段的片段特征对所述多个关键信息片段进行片段拼接,获得所述数据操作指令。
具体的,按照任务描述信息中的关键信息片段的片段特征对关键信息片段进行片段拼接,获得数据操作指令。
在实际应用中,用户提交的任务描述信息中,可能包括其他信息,例如,为了表示语句连贯性的连接词。这些信息在进行任务处理的过程中会造成资源损失;因此,在获得任务描述信息后,首先对任务描述信息进行解析,获得任务描述信息中的关键信息片段;所述关键信息片段,包括表示待处理任务的任务关键字。
例如,用户提交的待处理任务为待优化问题,任务描述信息为“想要实现的目标是:风险最小化、余额最大化,约束为:总提额不超过300;风险最小化的参数为余额转化、增量风险和影响人数;约束的参数为提额额度和影响人数”;在将待处理任务的任务描述信息解析获得数据操作指令的过程中,首先解析任务描述信息,获得任务描述信息中的关键信息片段为:风险最小化、余额转化、增量风险、影响人数、余额、提额额度和影响人数;在获得关键信息片段后,将关键信息片段转化为预设语言类别下的变量,余额转化为delta_balance,增量风险为pbad,影响人数为cnt,提额额度为delta_credit,按照待处理任务的目标和约束对变量进行拼接,获得用SQL表示的目标为sum(delta_balance×pbad×cnt),最小化是问题的优化方向;约束用SQL表示为sum(delta_credit×cnt)<300。
也即是,在对待处理任务的任务描述信息进行解析处理,获得待处理任务的数据操作指令的过程中,首先对任务描述信息进行关键信息提取,获得任务描述信息中的关键信息;对关键信息进行转换处理,获得数据操作指令元素;最后按照任务描述信息和/或数据操作指令元素的语义对数据操作指令元素进行拼接,获得待处理任务的数据操作指令。
在具体执行过程中,对任务描述信息进行解析处理,获得待处理任务的数据操作指令之后,为了避免根据任务描述信息的语义和关键信息对任务描述信息进行解析处理,获得的数据操作指令的不完整或者不符合处理条件的情况下,对待处理任务进行任务处理无法获得有效的任务处理结果,进一步导致资源浪费,在获得待处理任务的数据操作指令之后,还可核验数据操作指令是否满足处理条件;以此,将处理单元的输入数据校验和实现逻辑校验统一转换为对数据操作指令的核验,无需每一种输入数据都进行校验来保证输入数据的准确性,同时,降低了对建模语言校验的复杂度;
核验数据操作指令是否满足处理条件,若是,则执行下述步骤S104,根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;若否,则不做处理即可。本实施例提供的一种可选实施方式中,获得待处理任务的数据操作指令后,采用如下方式对数据操作指令进行核验处理:
核验所述数据操作指令是否满足指令格式,和/或,基于所述数据操作指令中的关键指令要素核验所述待处理任务是否为有效任务;若是,确定所述待处理任务满足处理条件;若否,则确定数据操作指令不满足指令格式并确定数据操作指令的核验失败原因向用户发送和/或确定所述待处理任务不为有效任务并不做处理即可。
具体的,在获得待处理任务的数据操作指令后,核验数据操作指令是否满足指令格式;若否,不做处理即可;若是,基于数据操作指令中的关键指令要素核验所述待处理任务是否为有效任务;若否,不做处理即可,若是,执行下述步骤S104,根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。
可选的,所述指令格式,包括数据操作指令的组成部分不为空。例如上述表达式sum(delta_credit×cnt)<300中<后的数据为空,则确定该表达式不满足指令格式。可选的,所述关键指令要素,基于所述任务描述信息的语义确定。例如,待求解问题的目标为对50个用户进行额度提升,每个人的提额额度不能小于50,约束为总提额额度小于2000;其中,用户数量50,每人提额额度大于等于50和总提额额度小于2000即为关键指令要素;进一步,由于50×50=2500>2000,因此,该待求解问题的约束导致目标无法实现,该求解问题为无效的待求解任务。
需要说明的是,本实施例中,在获取到任务描述信息后,对任务描述信息进行解析处理,获得数据操作指令,由于数据操作指令为预先配置的可识别语言下的表达式,在这种情况下,由于预先配置可配置用户普遍擅长的可识别语言,因此,首先将待处理任务的任务描述信息进行解析处理获得数据操作指令,进一步基于数据操作指令对待处理任务进行任务处理,以此,提升提交待处理任务的用户对待处理任务的数据操作指令的感知程度,并且在数据操作指令不满足处理条件的情况下,提升用户对数据操作指令进行修改的便捷性,避免直接将任务描述信息转换为与处理单元的输入适配的输入数据的情况下,用户未掌握输入数据导致处理单元处理失败,提升输入数据的有效性和准确性,进一步提升处理单元对待处理任务进行任务处理的准确性,避免由于用户无法及时发现以及更改直接将任务描述信息转换为输入数据后产生的异常导致任务处理失败或者影响任务处理性能。
步骤S104,根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。
所述任务参数,包括根据待处理任务的任务描述信息确定的任务类别和/或任务数据数量,此外,所述任务参数还可包括其他能表征待处理任务的任务特征的数据,本实施例在此不做限定。所述处理单元,是指对待处理任务进行任务处理,以获得待处理任务的任务处理结构的信息化工具;包括求解器。本实施例中,多个处理单元组成处理单元集群;组成处理单元集群的处理单元即为候选处理单元。
实际应用中,为了实现对不同的待处理任务的有效的任务处理,针对不同的待处理任务,也即是待求解问题,基于对应的求解器进行求解,以此,避免由求解器集群中所有求解器对待处理任务进行求解导致求解器的资源浪费。
基于此,本实施例中,根据待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;以此,在处理单元集群中筛选出待处理任务对应的至少一个处理单元对待处理任务进行任务处理,在保证任务处理的有效的同时节省处理单元资源。
本实施例提供的一种可选实施方式中,采用如下方式根据待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在处理单元集群中筛选至少一个处理单元:
确定所述待处理任务的任务类别和/或任务数据数量;
在所述处理单元集群中筛选出所述任务类别和/或所述任务数据数量匹配的至少一个中间处理单元;
按照所述至少一个中间处理单元中各中间处理单元的可用资源信息,对所述至少一个中间处理单元进行二次筛选,获得所述至少一个处理单元。
具体的,在筛选对待处理任务进行任务处理的至少一个处理单元的过程中,首先确定待处理任务的任务类别和任务数据数量,在处理单元集群中筛选出任务类别和任务数据数量对应的至少一个中间处理单元;进一步,为了进一步节省处理单元的可用资源,按照至少一个中间处理单元中各中间处理单元的可用资源信息,对至少一个中间处理单元进行二次筛选,获得至少一个处理单元。可选的,在对至少一个中间处理单元进行二次筛选的过程中,筛选中间处理单元中可用资源信息大于或者等于资源阈值的中间处理单元作为至少一个处理单元;此外,还可根据任务类别和任务数据数量两者中任意一者进行中间处理单元的匹配。
可选的,本实施例中,所述任务数据数量,包括待处理人数;例如,在待求解问题中的参与人数的数量超过阈值的情况下,则判定待求解问题属于大规模求解问题;在参与人数的数量不超过阈值的情况下,则判定待求解问题属于小规模求解问题。可选的,所述任务类别,包括:单目标线性类别、单目标非线性类别、多目标类别。
需要说明的是,任务类别和/或任务数据数量匹配的求解器可预先配置;具体的,在所述处理单元集群中筛选出所述任务类别和/或所述任务数据数量匹配的至少一个中间处理单元的过程中,按照预先配置的任务-处理单元匹配表,在处理单元集群中筛选出所述任务类别和/或所述任务数据数量匹配的至少一个中间处理单元。
例如,如果是单目标线性类别的待求解问题,则确定bonmin求解器为与该待求解问题匹配的求解器,如果是整数求解类别,则确定cbc求解器为与该待求解问题匹配的求解器。
此外,上述在处理单元集群中筛选至少一个处理单元的过程,还可被替换为,基于所述任务描述信息确定所述待处理任务的任务数据数量;基于所述任务数据数量确定所述待处理任务的任务类别;基于所述任务类别以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元。在这种情况下,任务类别包括大规模类别和小规模类别。
除上述提供的根据待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在上述处理单元集群中筛选至少一个处理单元的过程中,还可根据任务参数和候选处理单元的可用资源信息两者中任意一者进行筛选;也即是,上述步骤S104,根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元,还可被替换为,根据所述待处理的任务参数在处理单元集群中筛选至少一个处理单元,并与本实施例提供的其他处理步骤组成新的实现方式;或者,还可被替换为,根据处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选对所述地处理任务进行任务处理的至少一个处理单元,并与本实施例提供的其他处理步骤组成新的实现方式。此外,上述步骤S104还可被替换为,在处理单元集群中筛选对所述待处理任务进行任务处理的至少一个处理单元,并与本实施例提供的其他处理步骤组成新的实现方式。
步骤S106,将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据。
实际应用中,不同的处理单元,适配的输入数据的格式存在不同;也即是不同的求解器能识别的语言类型不同;因此,在基于筛选获得的至少一个处理单元对待处理任务进行任务处理的过程中,需要将待处理任务转换为与至少一个处理单元的输入适配的输入数据。本实施例所述与至少一个处理单元的输入适配的输入数据,包括待处理任务在至少一个处理单元能够识别的语言类别下的表达式。以此,从数据操作指令出发,自动生成各处理单元对应的处理模型,也即是输入数据,无需用户手动建模,节省手动建模所消耗的时间,提升模型构建效率。
还需要说明的是,至少一个处理单元中存在一个或者多个处理单元的输入适配的输入数据一致,这种情况下,对数据操作指令进行一次转换即可与一个或者多个处理单元适配。
具体实施时,为了提升转换获得的与至少一个处理单元的输入适配的输入数据的有效性,本实施例提供的一种可选实施方式中,在将数据操作指令转换为与至少一个处理单元的输入适配的输入数据的过程中,执行如下操作:
确定所述至少一个处理单元中各处理单元的可识别数据类别;
按照所述可识别数据类别对所述数据操作指令进行建模处理,获得所述各处理单元对应的输入数据。
具体的,为了将数据操作指令转换为与至少一个处理单元的输入适配的输入数据,首先确定各处理单元的可识别数据类别,然后将数据操作指令转换为所述可识别数据类别下的操作指令作为所述输入数据。
其中,为了进一步保证获得的输入数据的有效性,避免直接将数据操作指令进行转换导致转换后的输入数据的不准确,本实施例提供的一种可选实施方式中,按照所述可识别数据类别对所述数据操作指令进行建模处理,获得所述各处理单元对应的输入数据的过程中,执行如下操作:
解析所述数据操作指令获得所述数据操作指令的指令要素;
按照所述可识别数据类别对所述指令要素进行类别转换处理,获得所述指令要素在所述可识别数据类别下的可识别要素;
对所述可识别要素进行要素拼接,获得所述输入数据。
具体的,对数据操作指令中的指令要素进行类别转换,获得各指令要素在可识别数据类别下的可识别要素,对可识别要素进行要素拼接获得所述输入数据。
在从待求解问题的问题描述信息出发,获得与处理单元的输入适配的输入数据的过程中,如图2所示,首先对待求解问题的问题描述信息进行解析,获得待求解问题的目标为余额最大化,约束为风险约束、盖帽约束和敞口约束,然后将风险和约束进行自定义建模DSL(领域特定语言),获得目标为sum(delta_balance),约束为sum(delta_balance×pbad)/sum(delta_balance)<0.005,再将自定义建模DSL后获得的目标和约束进行DSL自动建模,获得用pyomo表达式表达的待求解问题。
例如,将上述SQL表达式sum(delta_credit×cnt)<300转换为pyomo(PythonOptimization Modeling Object,优化建模对象)表达式,为了保证转换后的pyomo表达式的有效性和准确性,首先对sum(delta_credit×cnt)<300进行语法分析并将该表达式解析为三元组:左值、操作符、右值。其中,左值为sum(delta_credit×cnt),操作符为<,右值为300,解析获得左值、操作符和右值后,为进一步提升转换后的表达式的准确性,还可对左值、操作符和右值进行进一步解析,获得任务要素“delta_credit,cnt”、聚合函数“sum”和操作符<,对获得的任务要素、集合函数和操作符分别转换为pyomo下的元素,然后将获得的元素进行拼接获得pyomo表达式。
需要说明的是,上述步骤S102至步骤S106的过程中,首先对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令,然后根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元,再将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;简单来说,上述过程中,获得待处理任务的数据操作指令后,首先筛选至少一个处理单元,然后将数据操作指令转换为与至少一个处理单元的输入适配的输入数据;此外,本实施例中,在获得待处理任务的数据操作指令后,还可首先将数据操作指令转换为预先配置的可识别数据类型对应的输入数据,再基于待处理任务的任务参数、候选处理单元的可用资源信息和输入数据,在处理单元集群中筛选至少一个处理单元。
也即是,上述步骤S104和步骤S106还可被替换为,将所述数据操作指令转换为预先配置的可识别数据类型对应的输入数据;根据所述待处理任务的任务参数、处理单元集群中候选处理单元的可用资源信息和所述可识别数据类型,在所述处理单元集群中筛选至少一个处理单元,并与上述步骤S102和下述步骤S108组成新的实现方式。在筛选至少一个处理单元的过程中,根据任务参数和可用资源信息进行筛选的筛选过程与上述筛选过程类似,根据可识别数据类型进行筛选的过程中,筛选出输入与所述可识别数据类型适配的处理单元;还需要说明的是,根据任务参数、可用资源信息和可识别数据类型进行筛选的过程中的筛选顺序可随机确定,本实施例在此不做限定。
还需要说明的是,上述步骤S102至步骤S106可通过调用对应的引擎实现,也即是,步骤S102可被替换为,调用解析引擎对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;步骤S104可被替换为,调用筛选引擎根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;步骤S106可被替换为,调用转换引擎将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据,并与下述步骤S108组成新的实现方式。可选的,所述解析引擎、所述筛选引擎和所述转换引擎可以为同一个引擎;例如,步骤S102、步骤S104和步骤S106都通过调用转换引擎实现;上述三个引擎还可以是不同的引擎,本实施例在此不做限制。
步骤S108,加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
为了获得更加有效更加准确的任务处理结果,按照处理引擎的处理配置调用所述至少一个处理单元进行任务处理,获得待处理任务的任务处理结果;本实施例中,按照赛马处理的方式基于至少一个处理单元进行任务处理,以此,避免有用户人为选择处理单元的情况下导致任务处理结果为空或者无效。
所述处理配置,包括至少一个处理单元进行任务处理的过程中的约束条件;可选的,所述处理配置,包括下述至少一项:迭代次数上限、迭代次数下限、处理时间、线程数量、进程数量、缓存状态。
具体实施时,为了提升至少一个处理单元进行任务处理的效率以及确定的任务处理结果的准确性,本实施例提供的一种可选实施方式中,采用如下方式加载处理引擎的处理配置:
加载所述待处理任务的任务类别对应的历史处理配置;
若所述历史处理配置不为空,则将所述历史处理配置确定为所述处理配置;
若所述历史处理配置为空,则加载默认处理配置。
具体的,根据待处理任务的任务类别,加载历史处理配置;若该任务类别的待处理任务为首次参与赛马处理,加载默认处理配置即可。
在具体执行过程中,加载处理引擎的处理配置后,处理引擎按照处理配置将输入数据输入对应的处理单元进行任务处理,由于是至少一个处理单元对待处理任务进行任务处理,因此,需要在至少一个任务处理结果中确定一个作为待处理任务的任务处理结果。
本实施例提供的一种可选实施方式中,所述待处理任务的任务处理结果,采用如下方式确定:
将所述至少一个处理单元中目标处理单元输出的任务处理结果确定为所述待处理任务的任务处理结果;
其中,所述目标处理单元包括所述至少一个处理单元中处理耗时小于其他处理单元的处理单元。
具体的,将所述至少一个处理单元中处理耗时小于其他处理单元的处理单元输入的任务处理结果确定为待处理任务的任务处理结果;也即是,将所述至少一个处理单元中优先输出的任务处理结果确定为待处理任务的任务处理结果。进一步,为了节省处理单元的可用资源,在获得目标处理单元输出的任务处理结果后,也即是在获得第一个任务处理结果后,终止其他处理单元对待处理任务的任务处理;可选的,确定所述待处理任务的任务处理结果,包括:若检测到所述至少一个处理单元中任一处理单元输出的任务处理结果,终止所述至少一个处理单元中所述任一处理单元之外的其他处理单元对所述待处理任务的任务处理。
例如,针对待求解问题,筛选获得求解器1和求解器2,并转换获得与求解器1的输入适配的语言表达式1和与求解器2的输入适配的语言表达式2,读取到待求解问题的问题类型对应的赛马引擎配置为最大处理时间不超过10秒;将语言表达式1输入求解器1进行求解,以及将语言表达式2输入求解器2进行求解,3秒后获得求解器1输出的求解结果,则将该求解结果作为待求解问题的问题求解结果,并终止求解器2对待求解问题的求解。
除了上述提供的将第一个任务处理结果作为任务处理结果之外,还可在至少一个处理单元中各处理单元的任务处理结果中确定一个作为待处理任务的任务处理结果;本实施例提供的一种可选实施方式中,所述待处理任务的任务处理结果,还可采用如下方式确定:
按照预设排序策略将所述至少一个处理单元输出的任务处理结果进行排序处理,获得结果队列;
确定所述结果队列中第一位次的任务处理结果为所述待处理任务的任务处理结果。
具体的,加载处理引擎的处理配置,以通过所述处理引擎按照所述处理引擎将所述输入数据输入对应的处理单元进行任务处理,获得各处理单元输出的任务处理结果,在所述各处理单元输出的任务处理结果中确定所述待处理任务的任务处理结果。
其中,在各处理单元输出的任务处理结果中确定待处理任务的任务处理结果的过程中,可按照预先配置的排序策略对各处理单元输出的任务处理结果进行排序处理,获得结果队列,将结果队列中第一位次的任务处理结果确定为待处理任务的任务处理结果。
可选的,所述排序策略,包括按照处理耗时由小至大的排序策略、按照任务处理结果由小至大的排序策略;此外,还可由用户手动进行选择或者进行其他排序策略的配置,本实施例在此不做限定。
本实施例中,引入赛马机制,解决了如何选择输入数据和处理单元的问题,自动进行多种组合测试并展示各组合(处理单元和输入数据的组合)输出的任务处理结果,进而确定待处理任务的任务处理结果,替代手动多次进行任务处理,提升任务处理的质量和效率,并且至少一个处理单元同时进行任务处理,保证任务处理结果不为空。
在具体执行过程中,为了避免对每一个待处理任务都按照上述过程进行任务处理,导致资源浪费,本实施例提供的一种可选实施方式中,在确定待处理任务的任务处理结果后,还执行如下操作:
读取输出所述任务处理结果的处理单元的单元配置信息;
将所述单元配置信息与所述待处理任务和/或所述待处理任务的任务类别进行关联存储。
具体的,为了节省后续对同种任务类别下的待处理任务进行任务处理的过程中需要重新筛选处理单元以及进行输入内容的转换,最后通过处理引擎使处理单元进行任务处理的过程中导致的资源损失,本实施例中,在确定待处理任务的任务处理结果后,将输出该任务处理结果的处理单元的单元配置信息与该待处理任务进行对应存储,以在后续接收到该任务类别下的待处理任务后基于该单元配置信息对待处理任务进行任务处理,并且作为积累提升后续进行处理单元筛选以及输入数据转换的有效性。
综上所述,本实施例提供的任务处理方法,获取到待处理任务的任务描述信息后,将任务描述信息解析为预设数据类别下的数据操作指令,根据待处理任务的任务参数和/或处理单元集群中候选处理单元的可用资源信息在处理单元集群中筛选至少一个处理单元,以及,从数据操作指令出发,将待处理任务转换为与至少一个处理单元的输入适配的输入数据,调用加载了待处理任务对应的处理配置的处理引擎,将输入数据输入对应的处理单元进行任务处理,并将获得的第一个任务处理结果确定为待处理任务的任务处理结果,以此,通过匹配至少一个处理单元,并将待处理任务的任务描述信息转换为与至少一个处理单元的输入适配的输入数据,进一步将输入数据输入对应的处理单元进行任务处理,通过至少一个处理单元对待处理任务进行任务处理,提升任务处理的效率,并且通过确定待处理任务的任务处理结果,提升待处理任务的任务处理结果的准确性。
下述以本实施例提供的一种任务处理方法在问题求解场景的应用为例,对本实施例提供的任务处理方法进行进一步说明,参见图3,应用于问题求解场景的任务处理方法,具体包括如下步骤。
步骤S302,获取待求解问题的问题描述信息。
步骤S304,解析问题描述信息,获得待求解问题在预设数据类别下的数据操作指令。
步骤S306,根据待求解问题包含的待求解数据数量和求解器集群中候选求解器的剩余资源信息,在求解器集群中筛选至少一个求解器。
步骤S308,将数据操作指令转换为各求解器可识别的数据类别下的操作指令。
步骤S310,加载赛马引擎对待求解问题的问题类型对应的引擎配置。
步骤S312,基于加载引擎配置的赛马引擎将操作指令输入对应的求解器进行求解。
步骤S314,若检测到至少一个求解器输出第一个求解结果,则将该求解结果作为待求解问题的问题结果。
步骤S316,终止求解器对该待求解问题的求解并将该待求解问题与输出该问题结果的求解器的配置信息进行关联存储。
本实施例中,首先对待处理任务的任务描述信息进行解析处理,获得待处理任务的数据操作指令,然后根据待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在处理单元集群中筛选至少一个处理单元,再将数据操作指令转换为与至少一个处理单元的输入适配的输入数据,最后加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果的过程,还可被替换为,对待处理任务的任务描述信息进行解析处理,获得待处理任务的数据操作指令,将数据操作指令转换为预先配置的可识别数据类型对应的输入数据,根据待处理任务的任务参数、处理单元集群中候选处理单元的可用资源信息和所述可识别数据类型,在处理单元集群中筛选至少一个处理单元,加载处理引擎的处理配置,以通过处理引擎按照处理配置将输入数据输入对应的处理单元进行任务处理,并确定待处理任务的任务处理结果。
本说明书提供的另一种任务处理方法实施例:
参照图4,本实施例提供的任务处理方法,具体包括步骤S402至步骤S408。
步骤S402,对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令。
步骤S404,将所述数据操作指令转换为预先配置的可识别数据类型对应的输入数据。
步骤S406,根据所述待处理任务的任务参数、处理单元集群中候选处理单元的可用资源信息和所述可识别数据类型,在所述处理单元集群中筛选至少一个处理单元。
需要说明的是,步骤S406还可被替换为,根据所述可识别数据类型和处理单元及群众候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元,并与本实施例提供的其他处理步骤组成新的实现方式。
也即是,在处理单元集群中筛选至少一个处理单元的过程中,可根据上述任务参数、可用资源信息和可识别数据类型三者中至少一个或者两者进行至少一个处理单元的筛选。
步骤S408,加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
本实施例提供的任务处理方法,与上述实施例提供的任务处理方法中的相关内容的实现方式类似,阅读本实施例请参照上述实施例的相关内容,本实施例在此不再赘述。
下述以本实施例提供的一种任务处理方法在SQL语言场景的应用为例,结合图5至图7对本实施例提供的任务处理方法进行进一步说明,参见图7,应用于SQL语言场景的任务处理方法,具体包括如下步骤。
如图5所示,建模引擎首先对待求解问题进行解析获得待求解问题在SQL配置下的目标和约束,然后进行SQL解析和校验,并在校验通过后进行建模语言转换,也即是转换成可识别数据类型下的表达式;然后适配待对待求解问题进行求解的求解器,在进行求解器适配的过程中,根据待求解问题类型、建模语言和求解器集群的集群信息进行求解器的适配(例如:单目标线性问题适配cbc求解器,单目标非线性问题适配bonmin求解器,多目标问题适配多目标求解组件,用户维度大规模问题适配用户维度求解器),获得适配的4个求解器最后赛马引擎将建模语言输入对应的求解器得到待求解问题的求解结果,同时获得该待求解问题的建模语言和求解器;其中,在获得待求解问题的求解结果后,可以终止其他求解器的求解或者等待其他求解器的求解结果。需要说明的是,适配的求解器的过程也可由建模引擎实现,也可由路由分发组件实现,本实施例在此不做限定。
如图6所示的由建模引擎实现建模语言的转换,由路由分发组件实现求解器的筛选过程,首先对于不同类型的待求解问题,通过建模引擎进行建模语言的转换,获得建模语言1和建模语言2,路由分发组件根据建模语言的语言类别、求解器集群信息和待求解问题的问题类型进行求解器适配。
步骤S702,获取待求解问题的问题描述信息。
具体的,为了提升录入待求解问题的便捷性和高效性,获取用户通过文字形式或者语音形式录入的问题描述信息。
步骤S704,解析问题描述信息,获得待求解问题的SQL表达式。
在具体执行过程中,为了能够识别问题描述信息,对问题描述信息进行解析,获得带求解问题的SQL表达式。
例如,用户提交的待求解问题为待优化问题,问题描述信息为“想要实现的目标是:风险最小化、余额最大化,约束为:总提额不超过300;风险最小化的参数为余额转化、增量风险和影响人数;约束的参数为提额额度和影响人数”;在将待优化问题的问题描述信息解析获得SQL表达式的过程中,首先解析问题描述信息,获得问题描述信息中的关键信息片段为:风险最小化、余额转化、增量风险、影响人数、余额、提额额度和影响人数;在获得关键信息片段后,将关键信息片段转化为预设语言类别下的变量,余额转化为delta_balance,增量风险为pbad,影响人数为cnt,提额额度为delta_credit,按照待优化问题的目标和约束对变量进行拼接,获得用SQL表示的目标为sum(delta_balance×pbad×cnt),最小化是问题的优化方向;约束用SQL表示为sum(delta_credit×cnt)<300。
在具体执行过程中,对问题描述信息进行解析处理,获得待求解问题的数据操作指令之后,为了避免根据问题描述信息的语义和关键信息对问题描述信息进行解析处理,获得的SQL表达式的不完整或者不符合处理条件的情况下,对待求解问题进行问题处理无法获得有效的问题处理结果,进一步导致资源浪费,在获得待求解问题的SQL表达式之后,还可核验SQL表达式是否满足处理条件;以此,将求解器的建模语言校验和实现逻辑校验统一转换为对SQL表达式的核验,无需每一种建模语言都进行校验来保证建模语言的准确性,同时,降低了对建模语言校验的复杂度;
核验SQL表达式是否满足处理条件,若是,则执行下述步骤S706,将SQL语言表达式转换为可识别语言下的建模语言;若否,则不做处理即可。
步骤S706,将SQL表达式转换为可识别语言下的建模语言。
具体实施时,在解析待求解问题,获得待求解问题的SQL表达式之后,从SQL表达式出发,将待求解问题转换为可识别语言下的建模语言。
如图2所示,首先对待求解问题的问题描述信息进行解析,获得待求解问题的目标为余额最大化,约束为风险约束、盖帽约束和敞口约束,然后将风险和约束进行自定义建模DSL(领域特定语言),获得目标为sum(delta_balance),约束为sum(delta_balance×pbad)/sum(delta_balance)<0.005,再将自定义建模DSL后获得的目标和约束进行DSL自动建模,获得用pyomo表达式表达的待求解问题。
步骤S708,根据建模语言的语言类别、待求解问题的问题规模和求解器集群信息在求解器集群中确定待求解问题适配的至少一个求解器。
在获得待求解问题的建模语言后,本步骤中,根据建模语言的语言类别、待求解问题的问题规模和/或求解器集群信息在求解器集群中确定待求解问题适配的至少一个求解器,以对待求解问题进行求解。
如图5所示的适配求解器,通过待求解问题的问题规模或者问题类型、建模语言的语言类别和求解器集群信息进行求解器的适配;例如:单目标线性问题适配cbc求解器,单目标非线性问题适配bonmin求解器,多目标问题适配多目标求解组件,用户维度大规模问题适配用户维度求解器。
步骤S710,加载赛马引擎对该待求解问题的问题类型的历史引擎配置。
为了提升对待求解问题进行求解的效率以及获得的求解结果的准确性和有效性,本实施例中,通过加载赛马引擎对待求解问题的问题类型的历史引擎配置,基于赛马引擎对待求解问题进行求解。
具体实施时,若待求解问题的问题类型的历史引擎配置为空,则加载默认引擎配置,对应的,下述步骤S712被替换为,基于加载默认引擎配置的赛马引擎将建模语言输入对应的求解器进行求解,并与本实施例提供的其他处理步骤组成新的实现方式。
步骤S712,基于加载历史引擎配置的赛马引擎将建模语言输入对应的求解器进行求解。
步骤S714,若检测到输出第一个求解结果,则将该求解结果确定为该待求解问题的问题结果。
步骤S716,终止其他求解器对该待求解问题的求解并将该待求解问题与输出该问题结果的求解器的配置信息和建模语言进行关联存储。
除此之外,步骤S714至步骤S716还可被替换为,获取至少一个求解器输出的该待求解问题的问题结果,确定问题结果中的目标问题结果为该待求解问题的问题结果;将该目标问题结果对应的求解器的配置信息和建模语言和该待求解问题进行关联存储。
本说明书提供的一种任务处理装置实施例如下:
在上述的实施例中,提供了一种任务处理方法,与之相对应的,还提供了一种任务处理装置,下面结合附图进行说明。
参照图8,其示出了本实施例提供的一种任务处理装置示意图。
由于装置实施例对应于方法实施例,所以描述得比较简单,相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。
本实施例提供一种任务处理装置,包括:
解析处理模块802,被配置为对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
处理单元筛选模块804,被配置为根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
转换模块806,被配置为将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
任务处理模块808,被配置为加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
本说明书提供的一种任务处理设备实施例如下:
对应上述描述的一种任务处理方法,基于相同的技术构思,本说明书一个或多个实施例还提供一种任务处理设备,该任务处理设备用于执行上述提供的任务处理方法,图9为本说明书一个或多个实施例提供的一种任务处理设备的结构示意图。
本实施例提供的一种任务处理设备,包括:
如图9所示,任务处理设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器901和存储器902,存储器902中可以存储有一个或一个以上存储应用程序或数据。其中,存储器902可以是短暂存储或持久存储。存储在存储器902的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括任务处理设备中的一系列计算机可执行指令。更进一步地,处理器901可以设置为与存储器902通信,在任务处理设备上执行存储器902中的一系列计算机可执行指令。任务处理设备还可以包括一个或一个以上电源903,一个或一个以上有线或无线网络接口904,一个或一个以上输入/输出接口905,一个或一个以上键盘906等。
在一个具体的实施例中,任务处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对任务处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
本说明书提供的一种存储介质实施例如下:
对应上述描述的一种任务处理方法,基于相同的技术构思,本说明书一个或多个实施例还提供一种存储介质。
本实施例提供的存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程:
对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
需要说明的是,本说明书中关于存储介质的实施例与本说明书中关于任务处理方法的实施例基于同一发明构思,因此该实施例的具体实施可以参见前述对应方法的实施,重复之处不再赘述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪30年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书一个或多个实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书的一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本文件的实施例而已,并不用于限制本文件。对于本领域技术人员来说,本文件可以有各种更改和变化。凡在本文件的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本文件的权利要求范围之内。
Claims (15)
1.一种任务处理方法,包括:
对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
2.根据权利要求1所述的任务处理方法,所述对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令,包括:
解析所述任务描述信息,获得所述任务描述信息中的多个关键信息片段;
按照各关键信息片段的片段特征对所述多个关键信息片段进行片段拼接,获得所述数据操作指令。
3.根据权利要求1所述的任务处理方法,所述根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元,包括:
确定所述待处理任务的任务类别和/或任务数据数量;
在所述处理单元集群中筛选出所述任务类别和/或所述任务数据数量匹配的至少一个中间处理单元;
按照所述至少一个中间处理单元中各中间处理单元的可用资源信息,对所述至少一个中间处理单元进行二次筛选,获得所述至少一个处理单元。
4.根据权利要求1所述的任务处理方法,所述将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据,包括:
确定所述至少一个处理单元中各处理单元的可识别数据类别;
按照所述可识别数据类别对所述数据操作指令进行建模处理,获得所述各处理单元对应的输入数据。
5.根据权利要求4所述的任务处理方法,所述按照所述可识别数据类别对所述数据操作指令进行建模处理,获得所述各处理单元对应的输入数据,包括:
解析所述数据操作指令获得所述数据操作指令的指令要素;
按照所述可识别数据类别对所述指令要素进行类别转换处理,获得所述指令要素在所述可识别数据类别下的可识别要素;
对所述可识别要素进行要素拼接,获得所述输入数据。
6.根据权利要求1所述的任务处理方法,所述加载处理引擎的处理配置,包括:
加载所述待处理任务的任务类别对应的历史处理配置;
若所述历史处理配置不为空,则将所述历史处理配置确定为所述处理配置;
若所述历史处理配置为空,则加载默认处理配置。
7.根据权利要求1所述的任务处理方法,所述处理配置,包括下述至少一项:
迭代次数上限、迭代次数下限、处理时间、线程数量、进程数量、缓存状态。
8.根据权利要求1所述的任务处理方法,所述待处理任务的任务处理结果,采用如下方式确定:
将所述至少一个处理单元中目标处理单元输出的任务处理结果确定为所述待处理任务的任务处理结果;
其中,所述目标处理单元包括所述至少一个处理单元中处理耗时小于其他处理单元的处理单元。
9.根据权利要求1所述的任务处理方法,所述待处理任务的任务处理结果,采用如下方式确定:
按照预设排序策略将所述至少一个处理单元输出的任务处理结果进行排序处理,获得结果队列;
确定所述结果队列中第一位次的任务处理结果为所述待处理任务的任务处理结果。
10.根据权利要求1所述的任务处理方法,所述确定所述待处理任务的任务处理结果,包括:
若检测到所述至少一个处理单元中任一处理单元输出的任务处理结果,终止所述至少一个处理单元中所述任一处理单元之外的其他处理单元对所述待处理任务的任务处理。
11.根据权利要求1所述的任务处理方法,还包括:
读取输出所述任务处理结果的处理单元的单元配置信息;
将所述单元配置信息与所述待处理任务和/或所述待处理任务的任务类别进行关联存储。
12.根据权利要求2所述的任务处理方法,所述按照各关键信息片段的片段特征对所述多个关键信息片段进行片段拼接,获得所述数据操作指令子步骤执行之后,还包括:
核验所述数据操作指令是否满足指令格式,和/或,基于所述数据操作指令中的关键指令要素核验所述待处理任务是否为有效任务;
若是,确定所述待处理任务满足处理条件。
13.一种任务处理装置,包括:
解析处理模块,被配置为对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
处理单元筛选模块,被配置为根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
转换模块,被配置为将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
任务处理模块,被配置为加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
14.一种任务处理设备,包括:
处理器;以及,
被配置为存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器:
对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
15.一种存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程:
对待处理任务的任务描述信息进行解析处理,获得所述待处理任务的数据操作指令;
根据所述待处理任务的任务参数以及处理单元集群中候选处理单元的可用资源信息,在所述处理单元集群中筛选至少一个处理单元;
将所述数据操作指令转换为与所述至少一个处理单元的输入适配的输入数据;
加载处理引擎的处理配置,以通过所述处理引擎按照所述处理配置将所述输入数据输入对应的处理单元进行任务处理,并确定所述待处理任务的任务处理结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310096758.9A CN116185617A (zh) | 2023-01-19 | 2023-01-19 | 任务处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310096758.9A CN116185617A (zh) | 2023-01-19 | 2023-01-19 | 任务处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116185617A true CN116185617A (zh) | 2023-05-30 |
Family
ID=86450145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310096758.9A Pending CN116185617A (zh) | 2023-01-19 | 2023-01-19 | 任务处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116185617A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116578405A (zh) * | 2023-07-13 | 2023-08-11 | 中国船舶集团有限公司第七〇七研究所 | 基于虚拟化架构的模拟训练方法及系统 |
-
2023
- 2023-01-19 CN CN202310096758.9A patent/CN116185617A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116578405A (zh) * | 2023-07-13 | 2023-08-11 | 中国船舶集团有限公司第七〇七研究所 | 基于虚拟化架构的模拟训练方法及系统 |
CN116578405B (zh) * | 2023-07-13 | 2023-09-08 | 中国船舶集团有限公司第七〇七研究所 | 基于虚拟化架构的模拟训练方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108845936B (zh) | 一种基于海量用户的ab测试方法及系统 | |
CN110428137B (zh) | 一种风险防控策略的更新方法及装置 | |
CN111966334B (zh) | 一种业务处理方法、装置及设备 | |
CN111400681B (zh) | 数据权限处理方法、装置及设备 | |
CN116185617A (zh) | 任务处理方法及装置 | |
CN113379070A (zh) | 一种深度学习框架转换方法、系统、存储介质及设备 | |
CN115237920A (zh) | 面向负载的数据索引推荐方法及其装置、存储介质 | |
CN108804563B (zh) | 一种数据标注方法、装置以及设备 | |
CN117370034B (zh) | 一种算力调度系统评估方法、装置、存储介质及电子设备 | |
CN115878654A (zh) | 一种数据查询的方法、装置、设备及存储介质 | |
CN114398178A (zh) | 一种任务执行方法、装置及电子设备 | |
CN114912513A (zh) | 一种模型训练的方法、识别信息的方法及装置 | |
CN114817212A (zh) | 一种数据库的优化方法及优化装置 | |
CN110321433B (zh) | 确定文本类别的方法及装置 | |
CN109903165B (zh) | 一种模型合并方法和装置 | |
CN111242195A (zh) | 模型、保险风控模型训练方法、装置及电子设备 | |
CN111596946A (zh) | 一种区块链智能合约的推荐方法、设备及介质 | |
CN117369783B (zh) | 一种安全代码生成模型的训练方法及装置 | |
CN116341642B (zh) | 一种数据处理的方法、装置、存储介质及电子设备 | |
CN116501852B (zh) | 一种可控对话模型训练方法、装置、存储介质及电子设备 | |
CN116048523B (zh) | 一种决策引擎配置策略参数的方法 | |
CN117828360A (zh) | 一种模型训练、代码生成方法、装置、存储介质及设备 | |
CN117421319A (zh) | 数据校验方法、装置、电子设备及计算机可读存储介质 | |
CN117931672A (zh) | 应用于代码变更的查询处理方法及装置 | |
CN116909687A (zh) | 数据库脚本并行执行方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |