CN111988579A - 数据审核方法、系统和电子设备 - Google Patents
数据审核方法、系统和电子设备 Download PDFInfo
- Publication number
- CN111988579A CN111988579A CN202010899370.9A CN202010899370A CN111988579A CN 111988579 A CN111988579 A CN 111988579A CN 202010899370 A CN202010899370 A CN 202010899370A CN 111988579 A CN111988579 A CN 111988579A
- Authority
- CN
- China
- Prior art keywords
- type
- target
- image
- user
- auditing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 230000005856 abnormality Effects 0.000 claims abstract description 63
- 238000012550 audit Methods 0.000 claims description 170
- 230000008569 process Effects 0.000 claims description 23
- 230000002159 abnormal effect Effects 0.000 claims description 17
- 238000003860 storage Methods 0.000 claims description 17
- 230000006399 behavior Effects 0.000 claims description 11
- 230000009471 action Effects 0.000 claims description 10
- 230000001960 triggered effect Effects 0.000 claims description 10
- 238000012544 monitoring process Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 abstract description 28
- 230000001939 inductive effect Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 20
- 230000006870 function Effects 0.000 description 19
- 238000004590 computer program Methods 0.000 description 7
- 230000005484 gravity Effects 0.000 description 4
- 238000012552 review Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000026676 system process Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000009826 distribution Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0633—Lists, e.g. purchase orders, compilation or processing
- G06Q30/0635—Processing of requisition or of purchase orders
- G06Q30/0637—Approvals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Signal Processing (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供了数据审核方法、系统和电子设备。本申请中当指定区域内已配置的智能系统在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常,则客户端通过双显示屏(第一显示屏、第二显示屏)对造成异常的场景和数据(比如第一类图像、第二类图像)进行拆解和分析,以获得纠正上述异常的目标数据,后续即可依据目标数据生成商品订单,确保了商品订单的准确性,提高了无感支付的购物体验。
Description
技术领域
本申请涉及图像处理技术,特别涉及数据审核方法、系统和电子设备。
背景技术
随着图像识别技术以及支付技术的发展,无感支付的应用越来越广泛。以无人超市为例,在无人超市中用户选购商品之后无需排队支付结算即可直接离开,无人超市对应的智能系统会基于智能算法判断用户购买了哪些商品并触发结算扣款。这种无感支付给用户带来了极大的便利。
但是,在无感支付应用中,智能系统在进行识别时常会出现一些异常,比如无法将新进入指定区域(比如无人超市、无人仓库等,统称指定区域)的用户和已注册的支付账户绑定、无法将用户与商品关联、无法确定用户选购的商品的类别、数量等。而这些异常会导致最终为用户生成的应用于上述指定区域(比如无人超市等)的商品订单不准确。
发明内容
本申请提供了数据审核方法、系统和电子设备,以确保商品订单的准确。
本申请提供的技术方案包括:
一种数据审核方法,该方法应用于客户端,包括:
通过所述客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像;所述审核服务请求是由指定区域内已配置的智能系统在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常所触发的;所述第一类图像至少包括所述至少一个采集图像;
通过所述客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像;所述事件类型用于表征所述异常;所述第二类图像至少包括:已获得的用于纠正所述异常的至少一个图像;
获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
可选地,所述审核服务请求至少包括:告警数据;
当通过客户端的第一显示屏显示与审核服务请求相关联的第一类图像时该方法进一步包括:在所述第一显示屏的指定位置显示所述告警数据和所述事件类型。
可选地,所述告警数据还包括目标时刻、目标位置;所述目标时刻依据所述采集图像的采集时刻确定,所述目标位置为所述指定区域内与所述采集图像对应的物理位置;
所述第一类图像包括:所述指定区域内已安装的M个采集设备已采集的与所述目标时刻的时差小于或等于第一设定时间阈值的视频;所述M个采集设备的视场区域包含所述目标位置,M大于或等于1。
可选地,所述事件类型为第一类型,所述第一类型用于指示商品识别异常;
所述目标位置通过所述指定区域内目标货架上的目标货格表示;
所述第二类图像包括:已获得的所述目标货架上各货格所存放的商品的商品图像;或者,
所述第二类图像包括:已获得的所述目标货架上各货格所存放的商品的商品图像、以及基于深度审核指令扩充的除目标货架之外的至少一个非目标货架上各货格所存放的商品的商品图像。
可选地,所述告警数据还包括:头肩框位置信息和用户轨迹ID;
所述通过所述第一显示屏显示第一类图像包括:在所述第一显示屏显示的第一类图像上叠加所述头肩框位置信息对应的头肩框;
所述审核结果是基于所述第一类图像上叠加的所述头肩框以及已获得的所述用户轨迹ID对应的用户轨迹从所述第二显示屏显示的商品图像中选中的目标商品图像;所述目标数据为所述目标商品图像对应的目标商品信息。
可选地,所述事件类型为:第二类型,所述第二类型用于指示非商品识别异常;
所述告警数据还包括:所述指定区域内已安装的N个采集设备的设备标识;所述N个采集设备的视场区域的中心位置与所述目标位置之间的距离小于或等于设定距离,N大于等于1;
所述第二类图像包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频;或者,
所述第二类图像包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频、以及基于深度审核指令扩充的除N个采集设备之外的至少一个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频。
可选地,所述告警数据还包括:至少一个头肩框位置信息;
所述通过客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像时进一步在所述第二类图像上叠加所述头肩框位置信息对应的头肩框。
可选地,所述非商品识别异常是指新生成的用户轨迹与任一用户在进入所述指定区域时被分配的用户ID无法关联;
所述审核结果是基于所述第一类图像、所述第二显示屏显示的第二类图像以及所述第二类图像上叠加的头肩框从已获得的所有用户ID中选中与所述用户轨迹相关联的目标用户ID;所述目标数据为所述目标用户ID;或者,
所述非商品识别异常是指所述指定区域内目标货格上的商品被两个以上疑似用户执行动作行为;所述动作行为包括取拿商品或者放回商品;
所述审核结果是基于所述第一类图像中各疑似用户执行的动作行为、以及所述第二类图像上叠加的头肩框从两个以上疑似用户中选中目标用户ID;所述目标数据为所述目标用户对应的目标用户ID。
可选地,该方法进一步包括:
将所述审核结果发送给已配置的服务端,以由所述服务端依据所述审核结果确定对应的商品订单。
本申请实施例提供了一种数据审核方法,该方法应用于服务端,包括:
当监测到指定区域内已配置的智能系统基于已配置的智能算法对至少一个采集图像进行处理时出现异常,则从当前已接入的且开启审核服务功能的所有客户端中确定一个目标客户端;
将与所述异常对应的审核服务请求发送给所述目标客户端,以由所述目标客户端在获得审核服务请求时通过所述客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像,以及通过所述客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像,并获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
可选地,该方法进一步包括:
当获得所述审核结果时,若所述事件类型为第一类型且所述审核结果还携带审核审核标识,则依据所述审核结果携带的目标商品信息更新用户ID对应的用户购物车数据,并依据更新后的购物车数据生成对应的商品订单,所述第一类型用于指示商品识别异常,所述用户ID为所述审核结果携带的用户ID。
本申请实施例提供一种数据审核系统,其特征在于,该系统包括:
服务端,用于执行如上第二种数据结算方法步骤;
客户端,用于执行如上第一种数据结算方法步骤。
本实施例提供一种电子设备,该电子设备包括:处理器和机器可读存储介质;
所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;
所述处理器用于执行机器可执行指令,以实现如上方法步骤
由以上技术方案可以看出,本申请中当指定区域内已配置的智能系统在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常,则客户端通过双显示屏(上述第一显示屏、第二显示屏)对造成异常的场景和数据(比如上述第一类图像、第二类图像)进行拆解和分析,以获得纠正上述异常的目标数据,后续即可依据目标数据生成商品订单,确保了商品订单的准确性,提高了无感支付的购物体验。
进一步地,本实施例提供的通过双显示屏(上述第一显示屏、第二显示屏)对造成异常的场景和数据(比如上述第一类图像、第二类图像)进行拆解和分析,这种可视化界面能方便人工审核,有效提高审核效率,减少因为异常而导致的人力成本过高问题。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1为本申请实施例提供的系统结构图;
图2为本申请实施例提供的方法流程图;
图3为本申请实施例提供的第一类图像的示意图;
图4为本申请实施例提供的第二类图像的示意图;
图5为本申请实施例提供的另一第一类图像的示意图;
图6为本申请实施例提供的另一第二类图像的示意图;
图7为本申请实施例提供的另一流程示意图;
图8为本申请实施例提供的审核服务请求分发流程图;
图9为本申请实施例提供的审核结果处理流程图;
图10为本申请实施例提供的装置结构图;
图11为本申请实施例提供的另一装置结构图;
图12为本申请实施例提供的装置硬件结构图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
为了解决如背景技术描述的异常事件引起的商品订单不准确问题,本申请提供了一种可视化的审核机制,通过该审核机制消除异常事件,以保证商品订单的准确性。为了使本领域技术人员更好地理解本申请实施例提供的技术方案,并使本申请实施例的上述目的、特征和优点能够更加明显易懂,下面结合附图对本申请实施例中技术方案作进一步详细的说明。
首先,对本申请提供的用于数据审核的系统进行描述:
参见图1,图1为本申请实施例提供的系统结构图。该系统可包括:客户端和服务端。在应用中,指定区域(比如智能无人超市等)对应的智能系统可通过网关设备与服务端连接。可选地,在本实施例中,智能系统集成了智能算法、网关设备等。这里的智能算法有很多种,比如应用于智能无人超市的识别、结算等算法,本实施例并不具体限定。在正常情况下,智能系统基于已配置的智能算法进行对应的处理(比如智能算法为商品识别算法,则从采集图像中识别商品等),根据处理结果生成对应的商品订单。而在异常情况下,即智能系统在处理过程中可能会出现异常,当出现该异常时,则通过网关设备通知该异常,具体见下文描述,这里暂不赘述。
作为一个实施例,客户端可部署在任一电子设备比如终端设备中,可用于执行下文图2所示方法中的步骤,这里暂不赘述。
作为一个实施例,服务端可部署在云平台或者指定的一个物理设备中,可用于执行下文图7所示方法中的步骤,这里暂不赘述。
下面对图2所示流程进行描述:
参见图2,图2为本申请实施例提供的方法流程图。该流程应用于上述的客户端,该客户端被配置了两个显示屏,其中一个可记为第一显示屏,另一个记为第二显示屏。这里,第一显示屏、第二显示屏只是为便于描述而进行的命名,并非用于限定。另外,本实施例不限定第一显示屏、第二显示屏的位置关系,比如第一显示屏和第二显示屏可上下部署,或者左右部署等,本实施例并不具体限定。需要说明的是,在一个实施例中,客户端配置的两个显示屏可集成在同一物理显示屏幕上,此时,两个显示屏可通过该物理显示屏幕上的两个画面区域表征。在另一个实施例中,客户端配置的两个显示屏也可集成在不同的物理显示屏幕上,此时,两个显示屏可通过两个不同的物理显示屏幕表征。本实施例并不限定两个显示屏的具体实现形式。
如图2所示,该流程可包括以下步骤:
步骤201,客户端通过第一显示屏显示与已获得的审核服务请求相关联的第一类图像。
在一个例子中,指定区域内已配置的智能系统在获得已被采集的至少一个图像(记为采集图像)时,会基于已配置的智能算法对采集图像进行对应的处理(比如智能算法为商品识别算法,则从采集图像中识别商品等),以根据处理结果生成对应的商品订单。而智能系统在对采集图像进行处理时有可能会出现异常。作为一个实施例,上述异常有很多种,比如新进入指定区域的用户无法与已注册的支付账户关联、指定区域内一商品(记为指定商品)与多个疑似用户关联(简称人货关联失败)、新生成的用户轨迹无法与已分配的任一用户ID关联、用户选购的商品(记为目标商品)的类别、数量等参数识别失败或者识别不出等。
而上述异常假若不纠正,则会影响后续商品订单,比如在新进入指定区域的用户无法与已注册的支付账户关联时,生成的商品订单无法结算,或者在指定区域内一商品(记为指定商品)与多个疑似用户关联时可能针对某一用户生成错误的订单(该用户没有选购该指定商品),依次类推。
基于此,应用于本实施例,一旦智能系统在对采集图像进行处理时出现异常,则触发上述审核服务请求。作为一个实施例,该触发的审核服务请求可通过网关设备上送至上述服务端。而当服务端接收到审核服务请求时,其会从当前已接入的且开启审核服务功能的所有客户端中确定一个目标客户端来处理该审核服务请求(具体可见下文图7所示流程中的步骤701)。即实现了本步骤201中客户端获得审核服务请求。
如上描述,客户端被配置了第一显示屏、第二显示屏,当客户端获得上述审核服务请求时,如步骤201描述,客户端会先通过第一显示屏显示与审核服务请求相关联的第一类图像。这里的第一类图像包括至少一个上述的采集图像。下面会对第一类图像、以及客户端如何通过第一显示屏显示与审核服务请求相关联的第一类图像进行描述,这里暂不赘述。
步骤202,客户端通过第二显示屏显示与审核服务请求所携带的事件类型对应的第二类图像。
在本实施例中,事件类型用于表征上述异常。基于此,上述与事件类型对应的第二类图像其可为已采集得到的一些图像。本实施例中,之所以通过客户端的第二显示屏显示与审核服务请求所携带的事件类型对应的第二类图像,其目的是方便审核员结合上述第一类图像和第二类图像审核以纠正上述异常。基于此,对应地,上述第二类图像也可称用于纠正上述异常的图像。下面会对第二类图像、以及客户端如何通过第二显示屏显示审核服务请求所携带的事件类型对应的第二类图像进行描述,这里暂不赘述。
步骤203,获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
如上描述的第一显示屏显示的第一类图像以及第二显示屏显示的第二类图像,则审核员通过结合上述第一类图像和第二类图像很容易直观纠正上述异常以得到审核结果。这里的审核结果至少包括用于纠正上述异常的目标数据。比如,假若上述异常为新生成的用户轨迹无法与已分配的任一用户ID关联,则最终的审核结果为:从已分配的所有用户ID中查找到与新用户轨迹关联的用户ID,将该新用户轨迹与查找到的用户ID关联起来(应用于该异常,上述的目标数据也即为查找到的目标用户ID)。再以上述异常为指定区域内一商品(记为指定商品)与多个疑似用户关联(简称人货关联失败),则最终的审核结果为:从多个疑似用户中选择到底是哪一位用户与指定商品关联(应用于该异常,上述的目标数据也即为选择出的用户对应的用户ID)。再以上述异常为用户选购的商品(记为目标商品)的类别、数量等参数识别失败或者识别不出等,则最终的审核结果为输出目标商品的商品类别、商品数量(应用于该异常,上述的目标数据也即为目标商品的商品类别、商品数量)。
至此,完成图2所示流程。
通过图2所示流程可以看出,本实施例中,当指定区域内已配置的智能系统在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常,则客户端通过双显示屏(上述第一显示屏、第二显示屏)对造成异常的场景和数据(比如上述第一类图像、第二类图像)进行拆解和分析,以获得纠正上述异常的目标数据,后续即可依据目标数据生成商品订单,确保了商品订单的准确性,提高了无感支付的购物体验。
进一步地,本实施例提供的通过双显示屏(上述第一显示屏、第二显示屏)对造成异常的场景和数据(比如上述第一类图像、第二类图像)进行拆解和分析,这种可视化界面能方便人工审核,有效提高审核效率,减少因为异常而导致的人力成本过高问题。
下面通过两个不同实施例对上述图2所示流程进行描述:
实施例1:
在本实施例1中,当客户端在获得审核服务请求后,若监测到该审核服务请求被触发(比如点击、触摸等),其会先通过客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像。
应用于本实施例1中,事件类型可为第一类型,第一类型用于指示商品识别异常比如商品重量、数量识别失败、有人拿放了异常的商品或无法识别商品等。可选地,在本实施例中,上述智能系统在基于已配置的智能算法并结合重力传感器(可配置在商品货格上)确定出的商品数量或重量以及至少一个采集图像将商品与用户关联时出现异常,或者在获知重力传感器(可配置在商品货格上)无法确定出的商品数量或重量时,或者在基于至少一个采集图像识别出有人拿放了异常的商品或无法识别商品时,都认为智能系统是在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常。本实施例并不具体限定智能系统监测到异常的具体形式。
应用于本实施例1中,审核服务请求还包括告警数据。可选地,在本实施例中,为方便审核员查看上述告警数据和事件类型,则可在上述步骤201通过客户端的第一显示屏显示与审核服务请求相关联的第一类图像时,进一步在第一显示屏的指定位置显示上述告警数据和所述事件类型。可选地,第一显示屏可划分至少两个区域,其中一个区域为画面区域,用于显示与审核服务请求相关联的第一类图像,另一个区域为告警显示区域,用于显示告警数据和所述事件类型。基于此,上述的指定位置即可为告警显示区域。
在本实施例1中,上述告警数据还包括目标时刻、目标位置。其中,目标时刻依据采集图像的采集时刻确定。目标位置是指定区域内与采集图像中对应的物理位置(该物理位置可为指定区域内一块区域,其显示在上述采集图像中)。应用于事件类型为上述第一类型,则这里的目标位置可为指定区域内目标货架上的目标货格(比如货架ID:15,货格ID:0304表示指定区域内目标货架上的目标货格,其也可由重力传感器感知)。而目标时刻具体可为上述目标货格上商品被执行动作行为(取拿商品或者放回商品)的时刻(其可通过目标位置上配置的重力传感器感知)。
基于上面第一类型的描述,则在本实施例1中,第一类图像可包括:指定区域内已安装的M个采集设备已采集的与上述目标时刻的时差小于或等于第一设定时间阈值的视频。M个采集设备的视场区域包含上述目标位置比如上述目标货架上的目标货格。可选地,作为一个实施例,本实施例中,客户端会预先从服务端获得指定区域内已安装的各采集设备(比如双目相机等)的视场区域,基于此,这里即可依据已获得的指定区域内已安装的各采集设备(比如相机等)的视场区域查找到视场区域包含上述目标位置的M个采集设备,之后可从该M个采集设备或者专用于存放该M个采集设备录制的视频的存储介质中获取该M个采集设备已采集的与目标时刻的时差小于或等于第一设定时间阈值的视频。在本实施例中,M大于或等于1。
在本实施例1中,第一设定时间阈值可根据实际需求设置比如设置为10秒,也即,上述第一类图像可包括:指定区域内已安装的M个采集设备已采集的在上述目标时刻前后10秒内的视频。图3举例示出了通过客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像。
在本实施例1中,第二类图像可包括:已获得的上述目标货架上各货格上商品的商品图像。在本实施例1之前,客户端可预先从服务端获取并存储指定区域内所有货架上各货格内商品的商品图像。基于此,当接收到上述审核服务请求时,直接从已存储的所有商品图像中查找到上述目标货架上各货格所存放的商品的商品图像,并通过上述客户端的第二显示屏显示。即最终实现了上述步骤202中通过客户端的第二显示屏显示与审核服务请求所携带的事件类型对应的第二类图像。图4以目标货架为货架ID为15的货架为例示出了通过客户端的第二显示屏显示与审核服务请求所携带的事件类型对应的第二类图像。
基于上述第一类图像、第二类图像,下面描述如何纠正上述异常:
本实施例1中,如上描述的事件类型为第一类型(用于指示商品识别异常比如商品识别失败、有人拿放了异常的商品或无法识别商品等),在此前提下,本实施例1应用于如下应用场景:商品未知,但对该未知商品执行上述动作行为的目标用户已知。基于该应用场景,为引导审核人员明确对哪一目标用户执行审核,上述告警数据还会进一步携带目标用户的头肩框位置信息和用户轨迹ID。这里的头肩框位置信息和用户轨迹ID可由上述智能系统或者其他系统基于上述异常确定的上述目标用户在上述第一类图像中的头肩框位置信息。以智能系统为例,则可选地,智能系统在触发上述审核请求服务前确定上述第一类图像(参考上面描述的第一类图像的确定方式),并确定上述目标用户在上述第一类图像中的头肩框位置信息,最终保证告警数据携带的头肩框位置信息正好为目标用户在上述第一类图像中的头肩框位置信息。
基于此,本实施例1中,上述步骤201通过第一显示屏显示第一类图像可包括:在第一显示屏显示的第一类图像上叠加头肩框位置信息对应的头肩框。具体可参见图3示出的头肩框。之后,审核员即可基于第一类图像上叠加的头肩框、已获得的上述用户轨迹ID对应的用户轨迹从第二显示屏显示的商品图像中选中目标商品图像。比如,审核员通过查看目标用户(对应上述头肩框)在第一类图像上的操作、以及上述用户轨迹最终会发现上述目标用户是对哪一个商品执行上述动作行为,即最终会得到上述审核结果(此时目标商品图像对应的商品即为上述目标数据)。
需要说明的是,在本实施例1中,也可能会存在以下情况:审核员在基于上述的第二类图像和第一类图像审核时发现还不能纠正上述异常,则需要扩大搜索范围进行深度审核。基于此,上述第二类图像可包括:已获得的目标货架上各货格所存放的商品的商品图像、以及基于深度审核指令扩充的除目标货架之外的至少一个非目标货架上各货格所存放的商品的商品图像。可选地,第二类图像可包括指定区域内所有货架上各货格所存放的商品的商品图像。之后,可按照上述类似的方式得到审核结果。为和上述审核方式区分,这里可在审核结果携带深度审核标识,以指示客户端基于深度审核指令确定审核结果的。需要说明的,应用于本实施例1,这里的深度审核指令一般是在目标用户离开上述指定区域后执行,基于此,审核员会主动确定目标用户进入指定区域至离开指定区域这一段时间内选购的所有商品信息(也即上述审核结果中目标数据)。下文会具体描述对应的处理,这里暂不赘述。
至此,完成实施例1的描述。
实施例2:
在本实施例2中,当客户端在获得审核服务请求后,若监测到该审核服务请求被触发(比如点击、触摸等),其会先通过客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像。应用于本实施例2中,事件类型可为第二类型,第二类型用于指示非商品识别异常。这里的非商品识别异常是指除上述商品识别异常之外的识别异常,比如上述的新生成的用户轨迹无法与已分配的任一用户ID关联、上述指定区域内一商品(记为指定商品)与多个疑似用户关联(简称人货关联失败)等。
与实施例1类似,应用于本实施例2中,审核服务请求还包括告警数据。可选地,在本实施例中,为方便审核员查看上述告警数据和事件类型,则可在上述步骤201通过客户端的第一显示屏显示与审核服务请求相关联的第一类图像时,进一步在第一显示屏的指定位置显示上述告警数据和所述事件类型。可选地,第一显示屏可划分至少两个区域,其中一个区域为画面区域,用于显示与审核服务请求相关联的第一类图像,另一个区域为告警显示区域,用于显示告警数据和所述事件类型。基于此,上述的指定位置即可为告警显示区域。
在本实施例2中,上述告警数据还包括目标时刻、目标位置。其中,目标时刻依据所述采集图像的采集时刻确定。目标位置是指定区域内与采集图像中对应的物理位置(该物理位置可为指定区域内一块区域,其显示在上述采集图像中)。应用于事件类型为上述第二类型,则这里的目标时刻具体可为上述采集图像的采集时刻。而目标位置依赖于导致上述异常确定,下文会进行举例描述。
与上述实施例一类似,在本实施例2中的第一类图像可包括:第一类图像可包括:指定区域内已安装的M个采集设备已采集的与上述目标时刻的时差小于或等于第一设定时间阈值的视频。M个采集设备的视场区域包含上述目标位置比如上述目标货架上的目标货格。可选地,作为一个实施例,本实施例中,客户端会预先从服务端获得指定区域内已安装的各采集设备(比如双目相机等)的视场区域,基于此,这里即可依据已获得的指定区域内已安装的各采集设备(比如相机等)的视场区域查找到视场区域包含上述目标位置的M个采集设备,之后可从该M个采集设备或者专用于存放该M个采集设备录制的视频的存储介质中获取该M个采集设备已采集的与目标时刻的时差小于或等于第一设定时间阈值的视频。在本实施例中,M大于或等于1。
在本实施例2中,第一设定时间阈值可根据实际需求设置比如设置为10秒,也即,上述第一类图像可包括:指定区域内已安装的M个采集设备已采集的在上述目标时刻前后10秒内的视频。
在本实施例2中,告警数据还可进一步包括:指定区域内已安装的N个采集设备的设备标识。在本实施例2中,N个采集设备的视场区域的中心位置与目标位置之间的距离小于或等于设定距离,N大于等于1。可选地,这里的N大于上述的M,以使得相比上述M个采集设备,选用N个采集设备可扩大搜索范围,具体见下文描述。在本实施例2中,上述N个采集设备可由上述智能系统检测到异常时确定的,其目的是为了借助该N个采集设备采集的视频纠正该异常,下文会具体描述。
基于此,在本实施例2中,第二类图像可包括:N个采集设备已采集的与目标时刻的时差小于或等于第二设定时间阈值的视频。这里的第二设定阈值可根据实际需求设置比如设置为300秒,也即,上述第二类图像可包括:N个采集设备已采集的在上述目标时刻前后300秒内的视频。
以上述的非商品识别异常为上述的新生成的用户轨迹无法与已分配的任一用户ID关联为例。在应用中,如无人超市等指定区域内会安装多个采集设备(比如双目相机),以保证能够完全覆盖指定区域内的所有位置。通过指定区域内安装的采集设备(比如双目相机)可以对进入指定区域的用户进行跟踪。而在跟踪过程中,常会出现本实施例2中描述的上述新生成的用户轨迹无法与任一用户在进入指定区域时被分配的用户ID关联。而之所以会发生新生成的用户轨迹无法与已分配的任一用户ID关联,其主要原因可能为:在指定区域内,如果跟踪系统是基于人脸跟踪,则可能是由于被跟踪的用户低头或者被遮挡等诸多原因导致人脸抓拍识别失败,进而导致上述新生成的用户轨迹无法与已分配的任一用户ID关联;而如果跟踪系统是基于全场目标跟踪,则可能是跟踪中断而导致上述新生成的用户轨迹无法与已分配的任一用户ID关联。本实施例并不具体限定导致上述新生成的用户轨迹无法与已分配的任一用户ID关联的具体原因。
图5举例示出了上述新生成的用户轨迹无法与已分配的任一用户ID关联时第一显示屏显示的第一类图像。
本实施例2中,应用于上述新生成的用户轨迹无法与已分配的任一用户ID关联这一场景,则上述目标位置可为上述新生成的用户轨迹(简称新用户轨迹),对应地,上述N个采集设备的视场区域的中心位置与新用户轨迹上指定位置之间的距离小于或等于设定距离(也可为视场区域包含上述新用户轨迹)。
为了方便审核员确定上述新用户轨迹关联的目标用户ID,上述告警数据可进一步携带至少一个用户的头肩框位置信息。可选地,头肩框位置信息具体可为上述第二类图像中各用户的头肩框位置信息。可选地,本实施例2中,可预先由智能系统或者其他系统在监测到上述新生成的用户轨迹无法与已分配的任一用户ID关联时确定上述第二类图像(参考上面描述的第二类图像的确定方式),并确定上述第二类图像中各用户在的头肩框位置信息,最终保证告警数据携带的头肩框位置信息正好为上述第二类图像中各用户在的头肩框位置信息。基于此,应用于本实施例2中,上述通过客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像包括:在通过客户端的第二显示屏显示的所述第二类图像上叠加头肩框位置信息对应的头肩框。图6举例示出在上述新生成的用户轨迹无法与已分配的任一用户ID关联时通过第二显示屏显示第二类图像和头肩框。
之后,即可基于第一类图像、第二显示屏显示的第二类图像上叠加的头肩框从已获得的所有用户ID中选中与上述新用户轨迹相关联的目标用户ID(即得到了审核结果,目标数据为目标用户ID)。比如,审核员通过查看第一类图像各个用户、并借鉴第二类图像上叠加的头肩框直接人工选中目标用户ID。
再以上述非商品识别异常是指指定区域内一商品(记为指定商品)与多个疑似用户关联(简称人货关联失败)为例,应用于本实施例2,之所以会出现这种异常(人货关联失败),其主要原因是识别出同一商品被两个以上疑似用户执行动作行为(包括取拿商品或者放回商品),无法具体识别哪一个用户。应用于人货关联失败,则上述目标位置可为指定区域内目标货架上的目标货格,对应地,上述N个采集设备的视场区域的中心位置与目标货格之间的距离小于或等于设定距离。
应用于上述第二异常,则本实施例2中上述告警数据还包括:两个以上头肩框位置信息。可选地,头肩框位置信息具体可为上述第二类图像中各用户的头肩框位置信息。可选地,本实施例2中,可预先由智能系统或者其他系统在监测到上述异常(人货关联失败)时确定上述第二类图像(参考上面描述的第二类图像的确定方式),并确定上述第二类图像中各用户在的头肩框位置信息,最终保证告警数据携带的头肩框位置信息正好为上述第二类图像中各用户在的头肩框位置信息。
基于此,上述通过客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像包括:在通过客户端的第二显示屏显示的所述第二类图像上叠加所述头肩框位置信息对应的头肩框。
之后,即可基于所述第一类图像中各疑似用户执行的动作行为、以及所述第二类图像上叠加的头肩框从两个以上疑似用户中选中目标用户ID;所述目标数据为所述目标用户对应的目标用户ID(即得到了审核结果,目标数据为目标用户ID)。比如,审核员通过查看第一类图像各个疑似用户对上述目标货格上商品执行上述动作行为的情况、并借鉴第二类图像上叠加的头肩框直接人工选中目标用户ID。
需要说明的是,在本实施例2中,也可能会存在以下情况:审核员在基于第二类图像审核时发现还不能纠正上述异常,则需要扩大搜索范围进行深度审核。基于此,上述第二类图像可包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频、以及基于深度审核指令扩充的除N个采集设备之外的至少一个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频。可选地,第二类图像可包括指定区域内所有采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频。之后,可按照上述类似的方式得到审核结果。为和上述审核方式区分,这里可将审核结果认为是客户端基于深度审核指令确定的。
至此,完成上述实施例2的描述。
需要说明的是,在上述实施例1或实施例2中,客户端还可将上述审核结果发送给已配置的服务端,以由服务端依据审核结果确定对应的商品订单。下文会站在服务端一侧描述,具体见图7至图9所示流程。
参见图7,图7为本申请实施例提供的另一流程示意图。该流程应用于上述服务端,包括以下步骤:
步骤701,当监测到指定区域内已配置的智能系统基于已配置的智能算法对至少一个采集图像进行处理时出现异常,则从当前已接入的且开启审核服务功能的所有客户端中确定一个目标客户端。
如上描述,指定区域内已配置的智能系统在获得已被采集的至少一个图像(记为采集图像)时,会基于已配置的智能算法对采集图像进行对应的处理(比如智能算法为商品识别算法,则从采集图像中识别商品等),以根据处理结果生成对应的商品订单。而智能系统在对采集图像进行处理时有可能会出现异常。作为一个实施例,上述异常有很多种,比如新进入指定区域的用户无法与已注册的支付账户关联、指定区域内一商品(记为指定商品)与多个疑似用户关联(简称人货关联失败)、新生成的用户轨迹无法与已分配的任一用户ID关联、用户选购的商品(记为目标商品)的类别、数量等参数识别失败或者识别不出等。应用于本实施例,一旦智能系统在对采集图像进行处理时出现异常,则触发审核服务请求。作为一个实施例,该触发的审核服务请求可通过网关设备上送至上述服务端。而当服务端接收到审核服务请求时,即认为服务端监测到指定区域内已配置的智能系统基于已配置的智能算法对至少一个采集图像进行处理时出现异常。
作为一个实施例,在本步骤701中,假若服务端发现当前没有一个客户端接入或者有客户端接入但接入的客户端未开启审核服务功能,则可选地,服务端可先将上述审核服务请求记录至已配置的数据库。依次类推,最终数据库可能会记录很多条审核服务请求。之后,当服务端后续发现有客户端接入且该客户端开启了审核服务功能或者发现已接入的客户端开启了审核服务功能,则按照审核服务请求记录至数据库的时间的先后顺序取出P(P大于等于1,比如P取值为10)条审核服务请求,并针对每一审核服务请求,从已接入的且开启审核服务功能的所有客户端中确定用于处理该审核服务请求的目标客户端。
作为另一个实施例,在本步骤701中,假若服务端发现当前有客户端接入且开启了审核服务功能,则针对该审核服务请求,可直接从已接入的且开启审核服务功能的所有客户端中确定用于处理该审核服务请求的目标客户端。
至于上述服务端如何从已接入的且开启审核服务请求功能的所有客户端中确定用于处理审核服务请求的目标客户端,下文图8所示流程举例进行了描述,这里暂不赘述。
步骤702,服务端将与上述异常对应的审核服务请求发送给目标客户端。
作为一个实施例,上述智能系统在基于已配置的智能算法对至少一个采集图像进行处理时若出现异常,则该智能系统会直接发送初始审核服务请求给服务端,执行到本步骤702时,服务端会将该初始审核服务请求作为上述审核服务请求发送给目标客户端,或者,服务端会对该初始审核服务请求进行处理(比如增加一个新的数据比如上述的头肩框位置信息等)发送给目标客户端,本实施例并不具体限定。
本实施例中,当上述步骤702中服务端将审核服务请求发送给目标客户端,则目标客户端会获得审核服务请求。当目标客户端获得审核服务请求时可执行上文图2所示流程,这里暂不赘述。
至此,完成图7所示流程。
通过图7所示流程,本实施例可在指定区域内已配置的智能系统基于已配置的智能算法对至少一个采集图像进行处理时出现异常触发客户端审核该异常,以及时纠正上述异常,确保了商品订单的准确性,提高了无感支付的购物体验。
下面对图8所示流程进行描述:
参见图8,图8为本申请实施例提供的审核服务请求分发流程图。图8所示流程以上述智能系统在基于已配置的智能算法对至少一个采集图像进行处理时发现异常直接触发审核服务请求(记为初始审核服务请求)为例。基于此,如图8所示,该流程可包括以下步骤:
步骤801,针对初始审核服务请求,检查与该初始审核服务请求相关联的客户端是否已接入本服务端且已开启审核服务功能,如果是,执行步骤802,如果否,执行步骤803。
在本实施例中,上述客户端在基于上述图2所示流程得到审核结果后,会将审核结果发送给上述服务端。在一个例子中,当上述服务端接收到审核结果时,如上描述,其会将审核结果、以及发送给审核结果的客户端的客户端标识对应记录至上述数据库。这里的审核结果可包含上述审核服务请、上述目标数据等,本实施例不具体限定。
可选地,执行到本步骤801时,服务端会将初始审核服务请求携带的用户ID作为关键字在数据库记录的所有审核结果中查找到包含该关键字的审核结果,依据与该查找到的审核结果对应的客户端标识确定为与该初始审核服务请求相关联的客户端(即该客户端标识对应的客户端)。
步骤802,依据该初始审核服务请求生成对应的审核服务请求并发送至与该初始审核服务请求相关联的客户端。
这里,初始审核服务请求可与其对应的审核服务请求相同,也可不同,当不同时,主要体现告警数据不同,比如审核服务请求携带的告警数据的内容多于初始审核服务请求携带的告警数据内容。最终审核服务请求携带的告警数据是帮助上述客户端获得上述审核结果,具体可参见上述图2所示流程,这里不再赘述。
步骤803,按照负载分担方式确定一个客户端,并依据该初始审核请求生成对应的审核服务请求并发送至确定的客户端。
这里,按照负载分担方式确定一个客户端有很多种实现方式,比如依据各客户端当前的负载(比如待审核的审核服务请求的数量等)、各客户端的数量确定一个客户端,本实施例不再一一限定。
当客户端获得审核服务请求时,执行上述图2所示流程,这里不再赘述。
至此,完成图8所示流程。
通过图8所示流程,最终实现了上述步骤701中如何从当前已接入的且开启审核服务功能的所有客户端中确定一个目标客户端。需要说明的是,图8只是一种举例,并非用于限定。
在本实施例中,如上描述,上述客户端在基于上述图2所示流程得到审核结果后,会将审核结果发送给上述服务端。在一个例子中,当上述服务端接收到审核结果时,如上描述,其会将审核结果、以及发送给审核结果的客户端的客户端标识对应记录至上述数据库,以便作为追溯、以及防止数据丢失而导致后续商品订单有误等缺陷。这里的审核结果可包含上述审核服务请、上述目标数据等,本实施例不具体限定。
此外,在本实施例中,当服务端接收到审核结果时,还会执行如图9所示流程。
参见图9,图9为本申请实施例提供的审核结果处理流程图。如图9所示,该流程可包括以下步骤:
步骤901,服务端获得审核结果时,若审核结果中事件类型为第一类型且审核结果还携带深度审核标识,则执行步骤902。
在本实施例中,如上描述,上述客户端在基于上述图2所示流程得到审核结果后,会将审核结果发送给上述服务端,即实现了服务端获得审核结果。
如上描述的第一类型用于指示商品识别异常。基于上述实施例1描述,当审核结果携带深度审核标识,则指示客户端基于深度审核指令确定审核结果。
步骤902,依据审核结果携带的目标商品信息更新用户ID对应的用户购物车数据,并依据更新后的购物车数据生成对应的商品订单,所述用户ID为所述审核结果携带的用户ID。
基于实施例1描述的深度审核指令一般是在目标用户离开上述指定区域后执行,则可选地,上述实施例1得到的审核结果即如实施例1中所述的审核员会主动确定目标用户进入指定区域至离开指定区域这一段时间内选购的所有商品信息(也即上述审核结果中目标数据),在此前提下,可直接将上述目标用户的用户ID对应的用户购物车数据更新为审核结果携带的目标商品信息。即实现了上述依据审核结果携带的目标商品信息更新用户ID对应的用户购物车数据。之后,依据更新后的购物车数据生成对应的商品订单。之后,可通过网关设备将商品订单发送给上述智能系统,以使智能系统触发根据商品订单进行商品结算。
以上是以审核结果中事件类型为第一类型且审核结果还携带深度审核标识为例描述,而在其他示例比如审核结果中事件类型不为第一类型,或者事件类型为第一类型但审核结果未携带深度审核标识等,则直接将上述审核结果通过网关设备发送给上述智能系统,以由智能系统触发根据审核结果生成商品订单并进行商品结算。
至此,完成图9所示流程。
以上对本申请提供的方法进行了描述,下面对本申请提供的装置进行描述:
参见图10,图10为本申请实施例提供的装置结构图。该装置对应上述图2所示流程。该装置应用于客户端,包括:
第一显示单元,用于通过所述客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像;所述审核服务请求是由指定区域内已配置的智能系统在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常所触发的;所述第一类图像至少包括所述至少一个采集图像;
第二显示单元,用于通过所述客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像;所述事件类型用于表征所述异常;所述第二类图像至少包括:已获得的用于纠正所述异常的至少一个图像;
获得单元,用于获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
可选地,所述审核服务请求还包括:告警数据;
第一显示单元通过客户端的第一显示屏显示与审核服务请求相关联的第一类图像时进一步在所述第一显示屏的指定位置显示所述告警数据和事件类型。
可选地,所述告警数据还包括目标时刻、目标位置;所述目标时刻依据所述采集图像的采集时刻确定,所述目标位置为所述指定区域内与所述采集图像对应的物理位置;
所述第一类图像包括:所述指定区域内已安装的M个采集设备已采集的与所述目标时刻的时差小于或等于第一设定时间阈值的视频;所述M个采集设备的视场区域包含所述目标位置,M大于或等于1。
可选地,所述事件类型为第一类型,所述第一类型用于指示商品识别异常;
所述目标位置通过所述指定区域内目标货架上的目标货格表示;
所述第二类图像包括:已获得的所述目标货架上各货格所存放的商品的商品图像;或者,
所述第二类图像包括:已获得的所述目标货架上各货格所存放的商品的商品图像、以及基于深度审核指令扩充的除目标货架之外的至少一个非目标货架上各货格所存放的商品的商品图像。
可选地,所述告警数据还包括:头肩框位置信息和用户轨迹ID;
所述通过所述第一显示屏显示第一类图像包括:在所述第一显示屏显示的第一类图像上叠加所述头肩框位置信息对应的头肩框;
所述审核结果是基于所述第一类图像上叠加的所述头肩框以及已获得的所述用户轨迹ID对应的用户轨迹从所述第二显示屏显示的商品图像中选中的目标商品图像;所述目标数据为所述目标商品图像对应的目标商品信息。
可选地,所述事件类型为:第二类型,所述第二类型用于指示非商品识别异常;
所述告警数据还包括:所述指定区域内已安装的N个采集设备的设备标识;所述N个采集设备的视场区域的中心位置与所述目标位置之间的距离小于或等于设定距离,N大于等于1;
所述第二类图像包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频;或者,
所述第二类图像包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频、以及基于深度审核指令扩充的除N个采集设备之外的至少一个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频。
可选地,所述告警数据还包括:至少一个头肩框位置信息;
所述第二显示单元通过客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像时进一步在第二类图像上叠加所述头肩框位置信息对应的头肩框。
可选地,所述非商品识别异常是指新生成的用户轨迹与任一用户在进入所述指定区域时被分配的用户ID无法关联;
所述审核结果是基于所述第一类图像、所述第二显示屏显示的第二类图像以及所述第二类图像上叠加的头肩框从已获得的所有用户ID中选中与所述用户轨迹相关联的目标用户ID;所述目标数据为所述目标用户ID;或者,
所述非商品识别异常是指所述指定区域内目标货格上的商品被两个以上疑似用户执行动作行为;所述动作行为包括取拿商品或者放回商品;
所述审核结果是基于所述第一类图像中各疑似用户执行的动作行为、以及所述第二类图像上叠加的头肩框从两个以上疑似用户中选中目标用户ID;所述目标数据为所述目标用户对应的目标用户ID。
可选地,该装置进一步包括:发送单元。
发送单元用于将所述审核结果发送给已配置的服务端,以由所述服务端依据所述审核结果确定对应的商品订单。
至此,完成图10所示装置的结构描述。
参见图11,图11为本申请实施例提供的另一装置结构图。该装置对应上述图7所示流程。该装置应用于服务端,包括:
确定单元,用于当监测到指定区域内已配置的智能系统基于已配置的智能算法对至少一个采集图像进行处理时出现异常,则从当前已接入的且开启审核服务功能的所有客户端中确定一个目标客户端;
收发单元,用于将与所述异常对应的审核服务请求发送给所述目标客户端,以由所述目标客户端在获得审核服务请求时通过所述客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像,以及通过所述客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像,并获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
进一步地,收发单元用于在获得所述审核结果时,若所述事件类型为第一类型且所述审核结果还携带深度审核标识,则依据所述审核结果携带的目标商品信息更新用户ID对应的用户购物车数据,并依据更新后的购物车数据生成对应的商品订单,所述第一类型用于指示商品识别异常,所述用户ID为所述审核结果携带的用户ID。
至此,完成图11所示装置的结构描述。
对应地,本申请还提供了图10或图11所示装置的硬件结构。参见图12,该硬件结构可包括:处理器和机器可读存储介质,机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现本申请上述示例公开的方法。
基于与上述方法同样的申请构思,本申请实施例还提供一种机器可读存储介质,所述机器可读存储介质上存储有若干计算机指令,所述计算机指令被处理器执行时,能够实现本申请上述示例公开的方法。
示例性的,上述机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:RAM(Radom Access Memory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
而且,这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上,使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (12)
1.一种数据审核方法,其特征在于,该方法应用于客户端,包括:
通过所述客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像;所述审核服务请求是由指定区域内已配置的智能系统在基于已配置的智能算法对至少一个采集图像进行处理时监测到异常所触发的;所述第一类图像至少包括所述至少一个采集图像;
通过所述客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像;所述事件类型用于表征所述异常;所述第二类图像至少包括:已获得的用于纠正所述异常的至少一个图像;
获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
2.根据权利要求1所述的方法,其特征在于,所述审核服务请求还包括:告警数据;
当通过客户端的第一显示屏显示与审核服务请求相关联的第一类图像时,该方法进一步包括:在所述第一显示屏的指定位置显示所述告警数据和所述事件类型。
3.根据权利要求2所述的方法,其特征在于,所述告警数据还包括目标时刻、目标位置;所述目标时刻依据所述采集图像的采集时刻确定,所述目标位置为所述指定区域内与所述采集图像对应的物理位置;
所述第一类图像包括:所述指定区域内已安装的M个采集设备已采集的与所述目标时刻的时差小于或等于第一设定时间阈值的视频;所述M个采集设备的视场区域包含所述目标位置,M大于或等于1。
4.根据权利要求3所述的方法,其特征在于,
所述事件类型为第一类型,所述第一类型用于指示商品识别异常;
所述目标位置通过所述指定区域内目标货架上的目标货格表示;
所述第二类图像包括:已获得的所述目标货架上各货格所存放的商品的商品图像;或者,
所述第二类图像包括:已获得的所述目标货架上各货格所存放的商品的商品图像、以及基于深度审核指令扩充的除目标货架之外的至少一个非目标货架上各货格所存放的商品的商品图像。
5.根据权利要求2-4任一项所述的方法,其特征在于,所述告警数据还包括:头肩框位置信息和用户轨迹ID;
所述通过所述第一显示屏显示第一类图像包括:在所述第一显示屏显示的第一类图像上叠加所述头肩框位置信息对应的头肩框;
所述审核结果是基于所述第一类图像上叠加的所述头肩框以及已获得的所述用户轨迹ID对应的用户轨迹从所述第二显示屏显示的商品图像中选中的目标商品图像;所述目标数据为所述目标商品图像对应的目标商品信息。
6.根据权利要求3所述的方法,其特征在于,
所述事件类型为:第二类型,所述第二类型用于指示非商品识别异常;
所述告警数据还包括:所述指定区域内已安装的N个采集设备的设备标识;所述N个采集设备的视场区域的中心位置与所述目标位置之间的距离小于或等于设定距离,N大于等于1;
所述第二类图像包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频;或者,
所述第二类图像包括:N个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频、以及基于深度审核指令扩充的除N个采集设备之外的至少一个采集设备已采集的与所述目标时刻的时差小于或等于第二设定时间阈值的视频。
7.根据权利要求6所述的方法,其特征在于,所述告警数据还包括:至少一个头肩框位置信息;
所述通过客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像时进一步在所述第二类图像上叠加所述头肩框位置信息对应的头肩框。
8.根据权利要求7所述的方法,其特征在于,所述非商品识别异常是指新生成的用户轨迹与任一用户在进入所述指定区域时被分配的用户ID无法关联;
所述审核结果是基于所述第一类图像、所述第二显示屏显示的第二类图像以及所述第二类图像上叠加的头肩框从已获得的所有用户ID中选中与所述用户轨迹相关联的目标用户ID;所述目标数据为所述目标用户ID;或者,
所述非商品识别异常是指所述指定区域内目标货格上的商品被两个以上疑似用户执行动作行为;所述动作行为包括取拿商品或者放回商品;
所述审核结果是基于所述第一类图像中各疑似用户执行的动作行为、以及所述第二类图像上叠加的头肩框从两个以上疑似用户中选中目标用户ID;所述目标数据为所述目标用户对应的目标用户ID。
9.一种数据审核方法,其特征在于,该方法应用于服务端,包括:
当监测到指定区域内已配置的智能系统基于已配置的智能算法对至少一个采集图像进行处理时出现异常,则从当前已接入的且开启审核服务功能的所有客户端中确定一个目标客户端;
将与所述异常对应的审核服务请求发送给所述目标客户端,以由所述目标客户端在获得审核服务请求时通过所述客户端的第一显示屏显示与已获得的审核服务请求相关联的第一类图像,以及通过所述客户端的第二显示屏显示与所述审核服务请求所携带的事件类型对应的第二类图像,并获得基于所述第一类图像以及所述第二类图像审核所述异常所得到的审核结果,所述审核结果至少包括用于纠正所述异常的目标数据。
10.根据权利要求9所述的方法,其特征在于,该方法进一步包括:
当获得所述审核结果时,若所述事件类型为第一类型且所述审核结果还携带深度审核标识,则依据所述审核结果携带的目标商品信息更新用户ID对应的用户购物车数据,并依据更新后的购物车数据生成对应的商品订单,所述第一类型用于指示商品识别异常,所述用户ID为所述审核结果携带的用户ID。
11.一种数据审核系统,其特征在于,该系统包括:
服务端,用于执行如权利要求9至10任一项中的方法步骤;
客户端,用于执行如权利要求1至8任一项中的方法步骤。
12.一种电子设备,其特征在于,该电子设备包括:处理器和机器可读存储介质;
所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;
所述处理器用于执行机器可执行指令,以实现权利要求1-10任一项的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010899370.9A CN111988579B (zh) | 2020-08-31 | 2020-08-31 | 数据审核方法、系统和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010899370.9A CN111988579B (zh) | 2020-08-31 | 2020-08-31 | 数据审核方法、系统和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111988579A true CN111988579A (zh) | 2020-11-24 |
CN111988579B CN111988579B (zh) | 2022-05-31 |
Family
ID=73446894
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010899370.9A Active CN111988579B (zh) | 2020-08-31 | 2020-08-31 | 数据审核方法、系统和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111988579B (zh) |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103632462A (zh) * | 2013-11-11 | 2014-03-12 | 青岛中科英泰商用系统有限公司 | 具有提醒、视频监控和多种防损措施的超市自助结算方法 |
US20160358145A1 (en) * | 2015-06-05 | 2016-12-08 | Yummy Foods, Llc | Systems and methods for frictionless self-checkout merchandise purchasing |
US20160379190A1 (en) * | 2015-06-25 | 2016-12-29 | Bank Of America Corporation | Element level presentation of elements of a payment instrument for exceptions processing |
EP3166062A1 (en) * | 2015-11-09 | 2017-05-10 | Toshiba TEC Kabushiki Kaisha | Accounting apparatus |
US20170269385A1 (en) * | 2013-08-22 | 2017-09-21 | Bespoke, Inc. d/b/a/ Topology Eyewear | Method and system to create custom, user-specific eyewear |
CN108198052A (zh) * | 2018-03-02 | 2018-06-22 | 北京京东尚科信息技术有限公司 | 用户选购商品识别方法、装置以及智能货架系统 |
CN108291880A (zh) * | 2015-03-13 | 2018-07-17 | 科内克斯伯德有限公司 | 用于检查货柜的布置、方法、装置和软件 |
US20180225534A1 (en) * | 2017-02-06 | 2018-08-09 | Toshiba Tec Kabushiki Kaisha | Article recognition apparatus and article recognition method |
CN109271847A (zh) * | 2018-08-01 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 无人结算场景中异常检测方法、装置及设备 |
WO2019062812A1 (zh) * | 2017-09-27 | 2019-04-04 | 缤果可为(北京)科技有限公司 | 用于自动结算的人机交互装置及其应用 |
WO2019179256A1 (zh) * | 2018-03-23 | 2019-09-26 | 阿里巴巴集团控股有限公司 | 一种自助购物风控方法及系统 |
CN110443109A (zh) * | 2019-06-11 | 2019-11-12 | 万翼科技有限公司 | 异常行为监控处理方法、装置、计算机设备和存储介质 |
CN111090327A (zh) * | 2018-10-23 | 2020-05-01 | 阿里巴巴集团控股有限公司 | 商品信息的处理方法、装置及电子设备 |
CN111382610A (zh) * | 2018-12-28 | 2020-07-07 | 杭州海康威视数字技术股份有限公司 | 一种事件检测方法、装置及电子设备 |
US20200242379A1 (en) * | 2019-01-25 | 2020-07-30 | Toyota Research Institute, Inc. | Sampling training data for in-cabin human detection from raw video |
-
2020
- 2020-08-31 CN CN202010899370.9A patent/CN111988579B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170269385A1 (en) * | 2013-08-22 | 2017-09-21 | Bespoke, Inc. d/b/a/ Topology Eyewear | Method and system to create custom, user-specific eyewear |
CN103632462A (zh) * | 2013-11-11 | 2014-03-12 | 青岛中科英泰商用系统有限公司 | 具有提醒、视频监控和多种防损措施的超市自助结算方法 |
CN108291880A (zh) * | 2015-03-13 | 2018-07-17 | 科内克斯伯德有限公司 | 用于检查货柜的布置、方法、装置和软件 |
US20160358145A1 (en) * | 2015-06-05 | 2016-12-08 | Yummy Foods, Llc | Systems and methods for frictionless self-checkout merchandise purchasing |
US20160379190A1 (en) * | 2015-06-25 | 2016-12-29 | Bank Of America Corporation | Element level presentation of elements of a payment instrument for exceptions processing |
EP3166062A1 (en) * | 2015-11-09 | 2017-05-10 | Toshiba TEC Kabushiki Kaisha | Accounting apparatus |
US20180225534A1 (en) * | 2017-02-06 | 2018-08-09 | Toshiba Tec Kabushiki Kaisha | Article recognition apparatus and article recognition method |
WO2019062812A1 (zh) * | 2017-09-27 | 2019-04-04 | 缤果可为(北京)科技有限公司 | 用于自动结算的人机交互装置及其应用 |
CN108198052A (zh) * | 2018-03-02 | 2018-06-22 | 北京京东尚科信息技术有限公司 | 用户选购商品识别方法、装置以及智能货架系统 |
WO2019179256A1 (zh) * | 2018-03-23 | 2019-09-26 | 阿里巴巴集团控股有限公司 | 一种自助购物风控方法及系统 |
CN109271847A (zh) * | 2018-08-01 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 无人结算场景中异常检测方法、装置及设备 |
CN111090327A (zh) * | 2018-10-23 | 2020-05-01 | 阿里巴巴集团控股有限公司 | 商品信息的处理方法、装置及电子设备 |
CN111382610A (zh) * | 2018-12-28 | 2020-07-07 | 杭州海康威视数字技术股份有限公司 | 一种事件检测方法、装置及电子设备 |
US20200242379A1 (en) * | 2019-01-25 | 2020-07-30 | Toyota Research Institute, Inc. | Sampling training data for in-cabin human detection from raw video |
CN110443109A (zh) * | 2019-06-11 | 2019-11-12 | 万翼科技有限公司 | 异常行为监控处理方法、装置、计算机设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
张心怡: "2017年"无人"领域的典型应用场景", 《大数据时代》 * |
Also Published As
Publication number | Publication date |
---|---|
CN111988579B (zh) | 2022-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230362325A1 (en) | Video surveillance system, video processing apparatus, video processing method, and video processing program | |
US9740941B2 (en) | Apparatus and method for visualizing loitering objects | |
US10846537B2 (en) | Information processing device, determination device, notification system, information transmission method, and program | |
US11416718B2 (en) | Item identification method, device and system based on vision and gravity sensing | |
JP6440327B2 (ja) | 防犯システム、防犯方法、及びロボット | |
US11257017B2 (en) | Distributed logbook for anomaly monitoring | |
CN111161486A (zh) | 基于结算箱的商品防盗方法及系统 | |
CN112651386A (zh) | 一种身份信息的确定方法、装置及设备 | |
CN111988579B (zh) | 数据审核方法、系统和电子设备 | |
CN117437264A (zh) | 行为信息的识别方法、设备和存储介质 | |
JP6536643B2 (ja) | 情報処理装置、制御方法、及びプログラム | |
CN116471384B (zh) | 无人值守商店监控系统的控制方法及控制装置 | |
US20230136054A1 (en) | Information processing method, information processing device, and recording medium | |
CN112001349B (zh) | 数据审核方法、系统及电子设备 | |
WO2015128939A1 (ja) | 安全性判定システム、安全性判定装置、及び安全性判定方法 | |
CN114756455A (zh) | 一种业务异常定位方法、装置、电子设备及存储介质 | |
CN116157849A (zh) | 一种物体信息管理方法、装置、设备及存储介质 | |
CN111985440B (zh) | 智能审核方法、装置及电子设备 | |
CN115546703B (zh) | 自助收银的风险识别方法、装置、设备及存储介质 | |
US20230386218A1 (en) | Information processing apparatus, control method of information processing apparatus, and program recording medium | |
US20220327017A1 (en) | Method, apparatus and system for storing fault data, and computerreadable medium | |
CN117997938A (zh) | 用户行为监控方法、系统、电子设备和可读存储介质 | |
CN115100597A (zh) | 双录场景下人数清点和跟踪的方法、服务器及系统 | |
CN116228201A (zh) | 设备运维管理方法、装置、设备、存储介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |