CN109582559B - 系统的验证方法、装置、电子设备及存储介质 - Google Patents

系统的验证方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN109582559B
CN109582559B CN201811141448.XA CN201811141448A CN109582559B CN 109582559 B CN109582559 B CN 109582559B CN 201811141448 A CN201811141448 A CN 201811141448A CN 109582559 B CN109582559 B CN 109582559B
Authority
CN
China
Prior art keywords
node
output
verification
input
nodes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811141448.XA
Other languages
English (en)
Other versions
CN109582559A (zh
Inventor
赵科科
曾海峰
赵星
杜玮
王文雯
程微宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Advantageous New Technologies Co Ltd
Original Assignee
Advanced New Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Advanced New Technologies Co Ltd filed Critical Advanced New Technologies Co Ltd
Priority to CN201811141448.XA priority Critical patent/CN109582559B/zh
Publication of CN109582559A publication Critical patent/CN109582559A/zh
Application granted granted Critical
Publication of CN109582559B publication Critical patent/CN109582559B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3604Software analysis for verifying properties of programs
    • G06F11/3612Software analysis for verifying properties of programs by runtime analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本公开实施例公开了一种系统的验证方法、装置、电子设备及存储介质。该方法包括:将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,预设节点为中间节点中的一个或多个;中间节点为用于实现至少一个功能的模型和/或执行规则;根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;根据所述第一输出和第二输出确定所述预设节点的验证结果。通过本公开实施例,可以从系统的整个实现逻辑上出发,实现对系统中各个功能的一次性验证,从而实现一次性定位出问题的效果,节省了系统的验证时间以及人力资源。

Description

系统的验证方法、装置、电子设备及存储介质
技术领域
本公开涉及计算机技术领域,具体涉及一种系统的验证方法、装置、电子设备及存储介质。
背景技术
系统通常包括两部分:传统的模型(比如逻辑回归等模型)和策略规则(比如不同用户对应的不同策略等);因此系统的部署需要把模型和策略规则部署在一起。系统在上线部署以及定期数据更新时,都需要进行严格的验证,保证线上的配置完全正确,且符合业务方想要的结果。由于涉及的逻辑复杂,尤其部分数据动态更新时,比对过程非常容易出错,在出错后又很难快速定位错误,找到解决方法。
发明内容
本公开实施例提供一种系统的验证方法、装置、电子设备及计算机可读存储介质。
第一方面,本公开实施例中提供了一种系统的验证方法。
具体的,所述系统的验证方法,包括:
将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,所述预设节点为所述中间节点中的一个或多个;所述中间节点为用于实现至少一个功能的模型和/或执行规则;
根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;
根据所述第一输出和第二输出确定所述预设节点的验证结果。
进一步地,所述验证数据包括完成所述系统的线上部署后,由所述系统进行处理的部分或者全部数据。
进一步地,根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出,包括:
获取所述预设节点对应的验证脚本;其中,所述验证脚本用于实现所述预设节点的正确处理逻辑;
将所述第一输入作为所述验证脚本的输入,执行所述验证脚本,并得到所述第二输出。
进一步地,所述将验证数据输入至所述系统进行处理之前,还包括;
基于计算图的方式对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述计算图中的节点;或者,
基于脚本或配置文件对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述脚本或配置文件中实现单一功能的逻辑节点。
第二方面,本公开实施例提供了一种系统的验证装置,包括:
第一处理模块,被配置为将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,所述预设节点为所述中间节点中的一个或多个;所述中间节点为用于实现至少一个功能的模型和/或执行规则;
第二处理模块,被配置为根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;
验证模块,被配置为根据所述第一输出和第二输出确定所述预设节点的验证结果。
进一步地,所述验证数据包括完成所述系统的线上部署后,由所述系统进行处理的部分或者全部数据。
进一步地,所述第二处理模块,包括:
获取子模块,被配置为获取所述预设节点对应的验证脚本;其中,所述验证脚本用于实现所述预设节点的正确处理逻辑;
执行子模块,被配置为将所述第一输入作为所述验证脚本的输入,执行所述验证脚本,并得到所述第二输出。
进一步地,所述第一处理模块之前,还包括;
第一部署模块,被配置为基于计算图的方式对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述计算图中的节点;或者,
第二部署模块,被配置为基于脚本或配置文件对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述脚本或配置文件中实现单一功能的逻辑节点。
所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块。
在一个可能的设计中,系统的验证装置的结构中包括存储器和处理器,所述存储器用于存储一条或多条支持系统的验证装置执行上述第一方面中系统的验证方法的计算机指令,所述处理器被配置为用于执行所述存储器中存储的计算机指令。所述系统的验证装置还可以包括通信接口,用于系统的验证装置与其他设备或通信网络通信。
第三方面,本公开实施例提供了一种电子设备,包括存储器和处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行以实现第一方面所述的方法步骤。
第四方面,本公开实施例提供了一种计算机可读存储介质,用于存储系统的验证装置所用的计算机指令,其包含用于执行上述第一方面中系统的验证方法所涉及的计算机指令。
本公开实施例提供的技术方案可以包括以下有益效果:
本公开实施例将系统从功能上划分为多个节点,包括输入节点、输出节点和中间节点;在完成对系统的部署后,对系统进行验证;在验证时将验证数据输入至系统,并获取系统中预设节点上对于该验证数据的第一输入和第一输出;并且将第一输入作为该预设节点对应的正确处理逻辑的输入,得到第二输出,通过第一输出和第二输出得到所述预设节点的验证结果。通过本公开实施例,可以从系统的整个实现逻辑上出发,实现对系统中各个功能的一次性验证,从而实现一次性定位出问题的效果,节省了系统的验证时间以及人力资源。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
结合附图,通过以下非限制性实施方式的详细描述,本公开的其它特征、目的和优点将变得更加明显。在附图中:
图1示出根据本公开一实施方式的系统的验证方法的流程图;
图2示出根据图1所示实施方式的步骤S102的流程图;
图3示出根据本公开一实施方式的系统的验证装置的结构框图;
图4示出根据图3所示实施方式的第二处理模块302的结构框图;
图5是适于用来实现根据本公开一实施方式的系统的验证方法的电子设备的结构示意图。
具体实施方式
下文中,将参考附图详细描述本公开的示例性实施方式,以使本领域技术人员可容易地实现它们。此外,为了清楚起见,在附图中省略了与描述示例性实施方式无关的部分。
在本公开中,应理解,诸如“包括”或“具有”等的术语旨在指示本说明书中所公开的特征、数字、步骤、行为、部件、部分或其组合的存在,并且不欲排除一个或多个其他特征、数字、步骤、行为、部件、部分或其组合存在或被添加的可能性。
另外还需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
目前对复杂系统进行验证得方法有基于单元测试的方法,即在复杂系统的每一个部署节点中预留单元测试的功能,允许部署人员输入少量样本在系统上做局部测试,检验每个部署节点是否正确。但是这种方法需要针对每个部署节点设置样本数据,并且针对每个部署节点进行验证,需要逐步定位,一个一个得进行排查,验证效率低下,且由于各个部署节点的验证是独立的,不够全面。
图1示出根据本公开一实施方式的系统的验证方法的流程图。如图1所示,所述系统的验证方法包括以下步骤S101-S103:
在步骤S101中,将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,所述预设节点为所述中间节点中的一个或多个;所述中间节点为用于实现至少一个功能的模型或执行规则;
在步骤S102中,根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;
在步骤S103中,根据所述第一输出和第二输出确定所述预设节点的验证结果。
本实施例中,待验证的系统可以是由多种实现单一功能和/或多个功能组合的逻辑共同构成的复杂业务系统,该系统可以包括一个或多个模型、一种或多种执行规则等。模型可以为用于实现某种业务功能的数学模型、逻辑模型、程序模型等,执行规则可以是计算规则、逻辑规则、条件规则、判断规则、策略规则等。该系统在上线后,可以针对输入的数据得到期望的结果。例如,芝麻信用打分系统用于根据用户信息得到不同用户的芝麻信用分,其包括打分卡、逻辑回归等多个模型,还包括策略规则,如用户分类、减分规则、新用户规则等。该系统可以由多个能够实现单一功能和/或多个功能的模型、规则等共同实现,因此可以从功能上将该系统划分成多个节点,包括输入节点、输出节点和中间节点,输入节点用于接收数据的输入,输出节点用于输出系统对输入数据的处理结果,而中间节点则可以从上一节点接收输入,并根据自身的处理逻辑(模型处理逻辑、规则处理逻辑)对输入进行处理,将处理结果输出至下一节点,上一节点可以是输入节点或者另一中间节点,而下一节点可以是另一中间节点或者输出节点。例如,在一实施例中,输入至系统的数据首先进入输入节点,之后输入节点输出给第一中间节点,第一中间节点将输入节点的输出作为输入进行相应处理后,将结果输出给第二中间节点,第二中间节点将第一中间节点的输出作为输入进行相应处理后输出,之后再经过一个或多个中间节点后的处理后,输出节点最终输出系统对输入数据的处理结果,此处仅是举例说明,在其他实施例中,输入节点还可以将输入的数据分发到多个第一中间节点,每个第一中间节点对其进行相应处理后,输出至一个或多个第二中间节点进行处理,依次类推,直到后续的一个或多个中间节点将结果输出至输出节点,作为系统的最终输出结果。预设节点可以是预先从中间节点中选择设定的一个或多个关键的中间节点,关键的中间节点跟系统具体实现的业务相关,可以是部分或者全部的中间节点,具体根据需要进行设置,在此不做限制。
正确处理逻辑可以是测试人员针对预设节点单独编写的预设节点的处理逻辑,且处理逻辑能够确保是正确(除非验证人员由于疏忽编写错了)。对于同一个输入数据,系统中的预设节点和对应的正确处理逻辑的输出如果一致,则说明系统中的预设节点不存在异常,而如果系统中的预设节点和对应的正确处理逻辑的输出结果不一致,则说明系统中的预设节点存在异常。
本公开通过模拟系统上线后的流程,将验证数据输入至部署好的系统中,并针对预先设置好的预设节点,记录在本次验证过程中预设节点的第一输入以及第一输出,之后在测试时,将该第一输入作为该预设节点对应的正确处理逻辑的输入,并根据正确处理逻辑的第二输出和第一输出确定预设节点的验证结果。例如,第一输出和第二输出如果一致,则可以确定预设节点正常的验证结果,如果第一输出和第二输出不一致,则可以确定预设节点不正常的验证结果。本公开实施例通过将验证数据输入至整个系统,进而对系统上的各个预设节点进行验证,既能够保证各个中间节点的处理环节的一致性,又能够一次性定位出问题节点,而不用像已有技术中单独对各个节点单独设计测试数据,并针对每个节点逐个进行验证。
验证数据可以是一条或者多条,为了确定验证结果的正确性,通常会采集多条验证数据对系统进行验证,这是因为中间节点可能针对一些验证数据的处理结果是正确的,但是对于另一些验证数据的处理结果是不正确的,这种情况下可以通过统计每个预设节点针对多条验证数据的多个验证结果,确定预设节点是否正常。在一些实施例中,为了确保系统的绝对准确,可以采集全量验证数据对系统进行验证。全量验证数据是指需要系统上线后进行处理的所有数据。例如,对于芝麻信用系统而言,全量验证数据是所有需要计算芝麻信用分的用户数据,同一用户的数据对应一条验证数据。
本公开实施例将系统从功能上划分为多个节点,包括输入节点、输出节点和中间节点;在完成对系统的部署后,对系统进行验证;在验证时将验证数据输入至系统,并获取系统中预设节点上对于该验证数据的第一输入和第一输出;并且将第一输入作为该预设节点对应的正确处理逻辑的输入,得到第二输出,通过第一输出和第二输出得到所述预设节点的验证结果。通过本公开实施例,可以从系统的整个实现逻辑上出发,实现对系统中各个功能的一次性验证,从而实现一次性定位出问题的效果,节省了系统的验证时间以及人力资源。
在本实施例的一个可选实现方式中,所述中间节点为用于实现至少一个功能的模型和/或执行规则。
该可选的实现方式中,系统可以由一个或多个模型、和/或一个或多个执行规则构成,这些模型和/或执行规则共同实现该系统的功能。为了更好地验证系统的准确性,确保系统在新上线或者进行功能更新后,能够正确无误地执行其功能,本公开实施例从功能上将该系统划分成了多个节点,包括输入节点、输出节点和中间节点。输入节点用于接收输入数据,而输出节点用于输出系统对输入数据的处理结果;一个中间节点则是一个独立的逻辑实现,例如实现单一功能和/或多个功能的模型和/或实现单一功能和/或多个功能的执行规则。模型可以是任意的能够实现一个或多个功能的模型,如逻辑回归模型、人工智能模型等等;而执行规则可以包括一个或多个可执行的逻辑运算、算术运算、分类、条件等规则,例如某一中间节点用于判断输入数据满足条件A还是条件B,如果满足条件A则将输入数据输出至中间节点A’,如果满足条件B则将输入数据输出至中间节点B’。在一实施例中,系统中的一个或多个中间节点的划分可以以其功能不可再拆分为准,也即划分后的中间节点为最小的功能单元,其实现的功能不可再拆分。通过这种方式,可以针对系统中的每个单独的逻辑实现进行验证,并且由于每个逻辑实现所实现的功能较为单一,处理异常时也较为容易。当然在其他实施例中,系统中的一个或多个节点的功能还可以再拆分,也即一个或多个节点可以实现多个功能的组合。
在本实施例的一个可选实现方式中,所述验证数据包括完成所述系统的线上部署后,由所述系统进行处理的部分或者全部数据。
该可选的实现方式中,验证数据为采集到的真实数据,且这些真实数据为该系统上线后需要进行处理的数据。本公开在系统上线之前,通过模拟系统上线后的处理过程,针对部分或者全部的待处理数据进行验证。例如,芝麻信用系统的全量验证数据包括所有需要计算芝麻信用分的用户数据,而对系统进行验证时,可以选择使用所有上述用户数据,也可以选择上述用户数据中的部分用户数据对芝麻信用系统进行验证。验证数据的选择可以根据实际情况而定,在此不做限制。
在本实施例的一个可选实现方式中,如图2所示,所述步骤S102,即根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出的步骤,进一步包括以下步骤S201-S202:
在步骤S201中,获取所述预设节点对应的验证脚本;其中,所述验证脚本用于实现所述预设节点的正确处理逻辑;
在步骤S202中,将所述第一输入作为所述验证脚本的输入,执行所述验证脚本,并得到所述第二输出。
该可选的实现方式中,可以由验证人员预先写好针对预设节点的验证脚本,验证脚本中利用脚本语言预先编写好预设节点的正确处理逻辑。验证数据输入至系统后,系统会对验证数据进行处理,在处理过程中,会记录预设节点的第一输入以及第一输出。在对预设节点进行验证时,将所述第一输入作为验证脚本的输入,并执行验证脚本,得到第二输出,之后再根据第一输出和第二输出得到预设节点的验证结果。通过这种方式,可以方便地为每个预设节点编写正确处理逻辑,并针对每个预设节点进行单独验证。
在本实施例的一个可选实现方式中,所述步骤S101,即所述将验证数据输入至所述系统进行处理的步骤之前,进一步还包括以下步骤:
基于计算图的方式对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述计算图中的节点;或者,
基于脚本或配置文件对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述脚本或配置文件中实现单一功能的逻辑节点。
该可选的实现方式中,为了能够更好地实现对系统的验证,可以按照功能将系统划分为输入节点、输出节点和中间节点。在一实施例中,可以按照计算图的方式对系统进行部署,系统的输入节点、输出节点和中间节点对应计算图中的各个节点。在具体实现时,可以针对计算图中的每个节点配置上一节点以及下一节点,使得系统从部署实现上就按照计算图的方式划分为不同的节点。例如,在系统部署时,划分后的不同节点对应的逻辑实现对应存储在不同的配置文件和/或脚本文件中。通过这种方式部署系统,使得系统的验证过程较为简单。
在另一实施例中,系统的输入节点、输出节点和中间节点可以是逻辑上的划分,而跟系统部署时的具体实现无关,也即系统部署时并不是按照计算图的方式进行部署,而可以直接使用脚本或者配置文件的方式部署系统,按照部署人员的习惯或者系统的功能进行配置。这种情况下,在对系统进行验证时,可以通过对脚本或者配置文件中逻辑实现进行逻辑拆分,得到输入节点、输出节点和中间节点,也即输入节点、输出节点和中间节点都为逻辑节点。例如,配置文件1中包括三个逻辑实现,而配置文件2中包括两个逻辑实现,且配置文件2中的其中一个逻辑实现需要依赖配置文件1中三个逻辑实现的输出,配置文件1中的三个逻辑实现分别实现三个功能,配置文件2中的两个逻辑实现分别实现两个功能,那么,在验证时配置文件1可以从逻辑上划分为三个节点,配置文件2可以从逻辑上划分为两个节点,且配置文件2对应的其中一个节点的输入为配置文件1对应的三个节点的输出,也即配置文件1对应的三个节点为配置文件2对应的其中一个节点的上一节点。这种方式下,系统的部署可以不同考虑验证流程,而是根据部署人员自身需求进行部署,不给部署人员增加额外的负担。
下述为本公开装置实施例,可以用于执行本公开方法实施例。
图3示出根据本公开一实施方式的系统的验证装置的结构框图,该装置可以通过软件、硬件或者两者的结合实现成为电子设备的部分或者全部。如图3所示,所述系统的验证装置包括第一处理模块301、第二处理模块302和验证模块303:
第一处理模块301,被配置为将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,所述预设节点为所述中间节点中的一个或多个;
第二处理模块302,被配置为根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;
验证模块303,被配置为根据所述第一输出和第二输出确定所述预设节点的验证结果。
本实施例中,待验证的系统可以是由多种实现单一功能或多个功能组合的逻辑共同构成的复杂业务系统,该系统可以包括一个或多个模型、一种或多种执行规则等。模型可以为用于实现某种业务功能的数学模型、逻辑模型、程序模型等,执行规则可以是计算规则、逻辑规则、条件规则、判断规则、策略规则等。该系统在上线后,可以针对输入的数据得到期望的结果。例如,芝麻信用打分系统用于根据用户信息得到不同用户的芝麻信用分,其包括打分卡、逻辑回归等多个模型,还包括策略规则,如用户分类、减分规则、新用户规则等。该系统可以由多个能够实现单一功能和/或多个功能的模型、规则等共同实现,因此可以从功能上将该系统划分成多个节点,包括输入节点、输出节点和中间节点,输入节点用于接收数据的输入,输出节点用于输出系统对输入数据的处理结果,而中间节点则可以从上一节点接收输入,并根据自身的处理逻辑(模型处理逻辑、规则处理逻辑)对输入进行处理,将处理结果输出至下一节点,上一节点可以是输入节点或者另一中间节点,而下一节点可以是另一中间节点或者输出节点。例如,在一实施例中,输入至系统的数据首先进入输入节点,之后输入节点输出给第一中间节点,第一中间节点将输入节点的输出作为输入进行相应处理后,将结果输出给第二中间节点,第二中间节点将第一中间节点的输出作为输入进行相应处理后输出,之后再经过一个或多个中间节点后的处理后,输出节点最终输出系统对输入数据的处理结果,此处仅是举例说明,在其他实施例中,输入节点还可以将输入的数据分发到多个第一中间节点,每个第一中间节点对其进行相应处理后,输出至一个或多个第二中间节点进行处理,依次类推,直到后续的一个或多个中间节点将结果输出至输出节点,作为系统的最终输出结果。预设节点可以是预先从中间节点中选择设定的一个或多个关键的中间节点,关键的中间节点跟系统具体实现的业务相关,可以是部分或者全部的中间节点,具体根据需要进行设置,在此不做限制。
正确处理逻辑可以是测试人员针对预设节点单独编写的预设节点的处理逻辑,且处理逻辑能够确保是正确(除非验证人员由于疏忽编写错了)。对于同一个输入数据,系统中的预设节点和对应的正确处理逻辑的输出如果一致,则说明系统中的预设节点不存在异常,而如果系统中的预设节点和对应的正确处理逻辑的输出结果不一致,则说明系统中的预设节点存在异常。
本公开通过模拟系统上线后的流程,将验证数据输入至部署好的系统中,并针对预先设置好的预设节点,记录在本次验证过程中预设节点的第一输入以及第一输出,之后在测试时,将该第一输入作为该预设节点对应的正确处理逻辑的输入,并根据正确处理逻辑的第二输出和第一输出确定预设节点的验证结果。例如,第一输出和第二输出如果一致,则可以确定预设节点正常的验证结果,如果第一输出和第二输出不一致,则可以确定预设节点不正常的验证结果。本公开实施例通过将验证数据输入至整个系统,进而对系统上的各个预设节点进行验证,既能够保证各个中间节点的处理环节的一致性,又能够一次性定位出问题节点,而不用像已有技术中单独对各个节点单独设计测试数据,并针对每个节点逐个进行验证。
验证数据可以是一条或者多条,为了确定验证结果的正确性,通常会采集多条验证数据对系统进行验证,这是因为中间节点可能针对一些验证数据的处理结果是正确的,但是对于另一些验证数据的处理结果是不正确的,这种情况下可以通过统计每个预设节点针对多条验证数据的多个验证结果,确定预设节点是否正常。在一些实施例中,为了确保系统的绝对准确,可以采集全量验证数据对系统进行验证。全量验证数据是指需要系统上线后进行处理的所有数据。例如,对于芝麻信用系统而言,全量验证数据是所有需要计算芝麻信用分的用户数据,同一用户的数据对应一条验证数据。
本公开实施例将系统从功能上划分为多个节点,包括输入节点、输出节点和中间节点;在完成对系统的部署后,对系统进行验证;在验证时将验证数据输入至系统,并获取系统中预设节点上对于该验证数据的第一输入和第一输出;并且将第一输入作为该预设节点对应的正确处理逻辑的输入,得到第二输出,通过第一输出和第二输出得到所述预设节点的验证结果。通过本公开实施例,可以从系统的整个实现逻辑上出发,实现对系统中各个功能的一次性验证,从而实现一次性定位出问题的效果,节省了系统的验证时间以及人力资源。
在本实施例的一个可选实现方式中,所述中间节点为用于实现至少一个功能的模型和/或执行规则。
该可选的实现方式中,系统可以由一个或多个模型、和/或一个或多个执行规则构成,这些模型和/或执行规则共同实现该系统的功能。为了更好地验证系统的准确性,确保系统在新上线或者进行功能更新后,能够正确无误地执行其功能,本公开实施例从功能上将该系统划分成了多个节点,包括输入节点、输出节点和中间节点。输入节点用于接收输入数据,而输出节点用于输出系统对输入数据的处理结果;一个中间节点则是一个独立的逻辑实现,例如实现单一功能和/或多个功能的模型和/或实现单一功能和/或多个功能的执行规则。模型可以是任意的能够实现一个或多个功能的模型,如逻辑回归模型、人工智能模型等等;而执行规则可以包括一个或多个可执行的逻辑运算、算术运算、分类、条件等规则,例如某一中间节点用于判断输入数据满足条件A还是条件B,如果满足条件A则将输入数据输出至中间节点A’,如果满足条件B则将输入数据输出至中间节点B’。在一实施例中,系统中的一个或多个中间节点的划分可以以其功能不可再拆分为准,也即划分后的中间节点为最小的功能单元,其实现的功能不可再拆分。通过这种方式,可以针对系统中的每个单独的逻辑实现进行验证,并且由于每个逻辑实现所实现的功能较为单一,处理异常时也较为容易。当然在其他实施例中,系统中的一个或多个节点的功能还可以再拆分,也即一个或多个节点可以实现多个功能的组合。
在本实施例的一个可选实现方式中,所述验证数据包括完成所述系统的线上部署后,由所述系统进行处理的部分或者全部数据。
该可选的实现方式中,验证数据为采集到的真实数据,且这些真实数据为该系统上线后需要进行处理的数据。本公开在系统上线之前,通过模拟系统上线后的处理过程,针对部分或者全部的待处理数据进行验证。例如,芝麻信用系统的全量验证数据包括所有需要计算芝麻信用分的用户数据,而对系统进行验证时,可以选择使用所有上述用户数据,也可以选择上述用户数据中的部分用户数据对芝麻信用系统进行验证。验证数据的选择可以根据实际情况而定,在此不做限制。
在本实施例的一个可选实现方式中,如图4所示,所述第二处理模块302,包括:
获取子模块401,被配置为获取所述预设节点对应的验证脚本;其中,所述验证脚本用于实现所述预设节点的正确处理逻辑;
执行子模块402,被配置为将所述第一输入作为所述验证脚本的输入,执行所述验证脚本,并得到所述第二输出。
该可选的实现方式中,可以由验证人员预先写好针对预设节点的验证脚本,验证脚本中利用脚本语言预先编写好预设节点的正确处理逻辑。验证数据输入至系统后,系统会对验证数据进行处理,在处理过程中,会记录预设节点的第一输入以及第一输出。在对预设节点进行验证时,将所述第一输入作为验证脚本的输入,并执行验证脚本,得到第二输出,之后再根据第一输出和第二输出得到预设节点的验证结果。通过这种方式,可以方便地为每个预设节点编写正确处理逻辑,并针对每个预设节点进行单独验证。
在本实施例的一个可选实现方式中,所述第一处理模块301之前,还包括;
第一部署模块,被配置为基于计算图的方式对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述计算图中的节点;或者,
第二部署模块,被配置为基于脚本或配置文件对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述脚本或配置文件中实现单一功能的逻辑节点。
该可选的实现方式中,为了能够更好地实现对系统的验证,可以按照功能将系统划分为输入节点、输出节点和中间节点。在一实施例中,可以按照计算图的方式对系统进行部署,系统的输入节点、输出节点和中间节点对应计算图中的各个节点。在具体实现时,可以针对计算图中的每个节点配置上一节点以及下一节点,使得系统从部署实现上就按照计算图的方式划分为不同的节点。例如,在系统部署时,划分后的不同节点对应的逻辑实现对应存储在不同的配置文件和/或脚本文件中。通过这种方式部署系统,使得系统的验证过程较为简单。
在另一实施例中,系统的输入节点、输出节点和中间节点可以是逻辑上的划分,而跟系统部署时的具体实现无关,也即系统部署时并不是按照计算图的方式进行部署,而可以直接使用脚本或者配置文件的方式部署系统,按照部署人员的习惯或者系统的功能进行配置。这种情况下,在对系统进行验证时,可以通过对脚本或者配置文件中逻辑实现进行逻辑拆分,得到输入节点、输出节点和中间节点,也即输入节点、输出节点和中间节点都为逻辑节点。例如,配置文件1中包括三个逻辑实现,而配置文件2中包括两个逻辑实现,且配置文件2中的其中一个逻辑实现需要依赖配置文件1中三个逻辑实现的输出,配置文件1中的三个逻辑实现分别实现三个功能,配置文件2中的两个逻辑实现分别实现两个功能,那么,在验证时配置文件1可以从逻辑上划分为三个节点,配置文件2可以从逻辑上划分为两个节点,且配置文件2对应的其中一个节点的输入为配置文件1对应的三个节点的输出,也即配置文件1对应的三个节点为配置文件2对应的其中一个节点的上一节点。这种方式下,系统的部署可以不同考虑验证流程,而是根据部署人员自身需求进行部署,不给部署人员增加额外的负担。
图5是适于用来实现根据本公开实施方式的系统的验证方法的电子设备的结构示意图。
如图5所示,电子设备500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行上述图1所示的实施方式中的各种处理。在RAM503中,还存储有电子设备500操作所需的各种程序和数据。CPU501、ROM502以及RAM503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本公开的实施方式,上文参考图1描述的方法可以被实现为计算机软件程序。例如,本公开的实施方式包括一种计算机程序产品,其包括有形地包含在及其可读介质上的计算机程序,所述计算机程序包含用于执行图1的方法的程序代码。在这样的实施方式中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。
附图中的流程图和框图,图示了按照本公开各种实施方式的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,路程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施方式中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中,这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定。
作为另一方面,本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施方式中所述装置中所包含的计算机可读存储介质;也可以是单独存在,未装配入设备中的计算机可读存储介质。计算机可读存储介质存储有一个或者一个以上程序,所述程序被一个或者一个以上的处理器用来执行描述于本公开的方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离所述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种系统的验证方法,其特征在于,包括:
将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,所述预设节点为所述中间节点中的一个或多个;所述中间节点为用于实现至少一个功能的模型和/或执行规则;
根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;
根据所述第一输出和第二输出确定所述预设节点的验证结果。
2.根据权利要求1所述的系统的验证方法,其特征在于,所述验证数据包括完成所述系统的线上部署后,由所述系统进行处理的部分或者全部数据。
3.根据权利要求1-2任一项所述的系统的验证方法,其特征在于,根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出,包括:
获取所述预设节点对应的验证脚本;其中,所述验证脚本用于实现所述预设节点的正确处理逻辑;
将所述第一输入作为所述验证脚本的输入,执行所述验证脚本,并得到所述第二输出。
4.根据权利要求1-2任一项所述的系统的验证方法,其特征在于,所述将验证数据输入至所述系统进行处理之前,还包括;
基于计算图的方式对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述计算图中的节点;或者,
基于脚本或配置文件对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述脚本或配置文件中实现单一功能的逻辑节点。
5.一种系统的验证装置,其特征在于,包括:
第一处理模块,被配置为将验证数据输入至所述系统进行处理,并获取所述系统中预设节点针对所述验证数据的第一输入以及第一输出;其中,所述系统从功能上被划分为输入节点、输出节点以及中间节点,所述预设节点为所述中间节点中的一个或多个;所述中间节点为用于实现至少一个功能的模型和/或执行规则;
第二处理模块,被配置为根据所述预设节点的正确处理逻辑对所述第一输入进行处理,并得到第二输出;
验证模块,被配置为根据所述第一输出和第二输出确定所述预设节点的验证结果。
6.根据权利要求5所述的系统的验证装置,其特征在于,所述验证数据包括完成所述系统的线上部署后,由所述系统进行处理的部分或者全部数据。
7.根据权利要求5-6任一项所述的系统的验证装置,其特征在于,所述第二处理模块,包括:
获取子模块,被配置为获取所述预设节点对应的验证脚本;其中,所述验证脚本用于实现所述预设节点的正确处理逻辑;
执行子模块,被配置为将所述第一输入作为所述验证脚本的输入,执行所述验证脚本,并得到所述第二输出。
8.根据权利要求5-6任一项所述的系统的验证装置,其特征在于,所述第一处理模块之前,还包括;
第一部署模块,被配置为基于计算图的方式对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述计算图中的节点;或者,
第二部署模块,被配置为基于脚本或配置文件对所述系统进行部署;其中,所述输入节点、输出节点和/或中间节点对应所述脚本或配置文件中实现单一功能的逻辑节点。
9.一种电子设备,其特征在于,包括存储器和处理器;其中,
所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行以实现权利要求1-4任一项所述的方法步骤。
10.一种计算机可读存储介质,其上存储有计算机指令,其特征在于,该计算机指令被处理器执行时实现权利要求1-4任一项所述的方法步骤。
CN201811141448.XA 2018-09-28 2018-09-28 系统的验证方法、装置、电子设备及存储介质 Active CN109582559B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811141448.XA CN109582559B (zh) 2018-09-28 2018-09-28 系统的验证方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811141448.XA CN109582559B (zh) 2018-09-28 2018-09-28 系统的验证方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN109582559A CN109582559A (zh) 2019-04-05
CN109582559B true CN109582559B (zh) 2021-07-20

Family

ID=65919928

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811141448.XA Active CN109582559B (zh) 2018-09-28 2018-09-28 系统的验证方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN109582559B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110210614B (zh) * 2019-05-31 2020-08-25 中科寒武纪科技股份有限公司 运算方法、装置及相关产品
CN110187873A (zh) * 2019-06-03 2019-08-30 秒针信息技术有限公司 一种规则代码生成方法和装置
CN110737985A (zh) * 2019-10-15 2020-01-31 上海联影医疗科技有限公司 运行数据验证方法、装置、计算机设备和可读存储介质
CN111831552A (zh) * 2020-06-08 2020-10-27 南通大学 一种对实时用户行为系统的自动化测试方法
CN112462731B (zh) * 2020-10-16 2022-06-24 北京西南交大盛阳科技股份有限公司 安全监督控制方法、安全监督控制装置、计算机设备及安全监督系统

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006185211A (ja) * 2004-12-28 2006-07-13 Internatl Business Mach Corp <Ibm> プログラム解析装置、テスト実行装置、その解析方法及びプログラム
CN100385410C (zh) * 2005-01-26 2008-04-30 华为技术有限公司 用标准测试体生成软件测试期望结果的方法及相应的软件测试方法
CN101436128B (zh) * 2007-11-16 2012-10-31 北京邮电大学 软件测试用例自动生成方法及系统
CN104391794A (zh) * 2014-12-03 2015-03-04 浪潮集团有限公司 一种多种脚本自动测试方法
CN105786686A (zh) * 2014-12-22 2016-07-20 阿里巴巴集团控股有限公司 边界值测试方法及装置
CN105022691B (zh) * 2015-07-22 2018-01-09 国家电网公司 一种基于uml图的高度自动化软件测试方法
CN108089987B (zh) * 2017-12-28 2021-04-27 天津芯海创科技有限公司 功能验证方法和装置

Also Published As

Publication number Publication date
CN109582559A (zh) 2019-04-05

Similar Documents

Publication Publication Date Title
CN109582559B (zh) 系统的验证方法、装置、电子设备及存储介质
CN108984418B (zh) 软件测试管理方法、装置、电子设备及存储介质
US11151024B2 (en) Dynamic automation of DevOps pipeline vulnerability detecting and testing
WO2019052234A1 (zh) 产品算法自动化测试方法及应用服务器
US20140325480A1 (en) Software Regression Testing That Considers Historical Pass/Fail Events
CN107579848A (zh) 实用拜占庭容错共识机制中动态更改共识节点的方法
US20190138431A1 (en) Conditional upgrade and installation of software based on risk-based validation
CN111752850B (zh) 区块链系统的测试方法及相关设备
US9329979B2 (en) Derivation of generalized test cases
CN113342669B (zh) 一种缩短芯片代码覆盖率收敛时间的验证方法及装置
Olsen et al. Increasing validity of simulation models through metamorphic testing
CN109858828B (zh) 一种配电网定值自动整定方法、装置及配网系统
CN112433944A (zh) 业务测试方法、装置、计算机设备和存储介质
CN108345979B (zh) 一种业务测试方法及装置
CN109857634A (zh) 接口测试参数校验方法、装置、电子设备及存储介质
CN117495544A (zh) 一种基于沙箱的风控评估方法、系统、终端及存储介质
CN110362294A (zh) 开发任务执行方法、装置、电子设备及存储介质
CN111859985B (zh) Ai客服模型测试方法、装置、电子设备及存储介质
CN114416596A (zh) 一种测试应用的方法、装置、计算机设备及存储介质
CN111666219B (zh) 业务功能的验证方法和装置、计算机系统和存储介质
CN112181485B (zh) 脚本执行方法、装置、电子设备及存储介质
CN114637636A (zh) 基于人工智能的ui界面校验方法、装置、设备及介质
CN114356781A (zh) 软件功能测试方法和装置
CN112882921B (zh) 故障模拟方法和装置
US20210303766A1 (en) Pre-silicon chip model of extracted workload inner loop instruction traces

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20200930

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant after: Innovative advanced technology Co.,Ltd.

Address before: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant before: Advanced innovation technology Co.,Ltd.

Effective date of registration: 20200930

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant after: Advanced innovation technology Co.,Ltd.

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant