CN113297889A - 对象信息处理方法及装置 - Google Patents
对象信息处理方法及装置 Download PDFInfo
- Publication number
- CN113297889A CN113297889A CN202011132012.1A CN202011132012A CN113297889A CN 113297889 A CN113297889 A CN 113297889A CN 202011132012 A CN202011132012 A CN 202011132012A CN 113297889 A CN113297889 A CN 113297889A
- Authority
- CN
- China
- Prior art keywords
- image
- initial
- preset
- shelf
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 27
- 238000003672 processing method Methods 0.000 title claims abstract description 10
- 238000012545 processing Methods 0.000 claims abstract description 115
- 238000000034 method Methods 0.000 claims abstract description 46
- 238000007689 inspection Methods 0.000 claims description 48
- 230000008569 process Effects 0.000 claims description 24
- 238000012216 screening Methods 0.000 claims description 12
- 238000004891 communication Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 5
- 230000006698 induction Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000000725 suspension Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J11/00—Manipulators not otherwise provided for
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
Abstract
本说明书提供一种对象信息处理方法及装置,该方法可以包括:获取沿预设方向采集到的对象收纳装置的初始图像;沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
Description
技术领域
本说明书一个或多个实施例涉及信息处理技术领域,尤其涉及一种对象信息处理方法及装置。
背景技术
在各类线下门店中,通常会使用货架来展示和陈列商品,例如大型超市中,所有的货品都被摆放在货架上,以供人们自由选择。为了保证货品的正常销售,需要确保货架上的各类货品都被摆放在正确的摆放区域、货架上的各类货品不缺货以及货架上粘贴的各类货品标签正确等等。在相关技术中,通常由人工对货架上的货品的摆放情况进行排查,但是人工对货架进行检查的方式效率低且容易出错。
发明内容
有鉴于此,本说明书一个或多个实施例提供一种对象信息处理方法及装置。
为实现上述目的,本说明书一个或多个实施例提供技术方案如下:
根据本说明书一个或多个实施例的第一方面,提出了一种货品信息处理系统,包括:
图像采集设备,用于沿预设方向对货架进行图像采集,获得初始图像;
图像拼接设备,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
图像处理设备,用于处理所述拼接图像,以确定所述货架上所陈列货品的信息。
根据本说明书一个或多个实施例的第二方面,提出了一种巡检机器人,包括:
行走部,用于使所述巡检机器人行走至所述货架处;
采集部,用于沿预设方向对货架进行图像采集,获得初始图像;
控制部,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
通讯部,用于向图像处理设备传输所述拼接图像,以使所述图像处理设备通过对所述拼接图像的处理,确定所述货架上所陈列货品的信息。
根据本说明书一个或多个实施例的第三方面,提出了一种对象信息处理方法,包括:
获取沿预设方向采集到的对象收纳装置的初始图像;
沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
根据本说明书一个或多个实施例的第四方面,提出了一种对象信息处理装置,包括:
获取单元,用于获取沿预设方向采集到的对象收纳装置的初始图像;
拼接单元,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
触发单元,用于触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
根据本说明书一个或多个实施例的第五方面,提出了一种货品信息处理系统,包括:
包含多个摄像头的图像采集设备,用于在与货架保持预设距离区间、所述多个摄像头对应的拍摄范围在第一预设方向上覆盖所述货架的情况下,沿垂直于所述第一预设方向的第二预设方向对所述货架进行图像采集,获得初始图像;
图像拼接设备,用于沿所述第一预设方向和/或所述第二预设方向对所述初始图像进行拼接,生成拼接图像;
图像处理设备,用于处理所述拼接图像,以确定所述货架上所陈列货品的信息。
根据本说明书一个或多个实施例的第六方面,提出了一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器通过运行所述可执行指令以实现如第三方面所述的方法。
根据本说明书一个或多个实施例的第七方面,提出了一种计算机可读存储介质,其上存储有计算机指令,该指令被处理器执行时实现如第三方面所述方法的步骤。
附图说明
图1是本说明书一示例性实施例提供的一种对象信息处理系统的架构示意图。
图2是本说明书一示例性实施例提供的一种巡检机器人的组成结构的示意图。
图3是本说明书一示例性实施例提供的一种对象信息处理方法的流程图。
图4是本说明书一示例性实施例提供的一种将货品信息处理系统应用于线下超市的场景示意图。
图5是本说明书一示例性实施例提供的一种摄像头对应的拍摄范围的示意图。
图6是本说明书一示例性实施例提供的一种对象信息处理方法的流程图。
图7是本说明书一示例性实施例提供的一种电子设备的结构示意图。
图8是本说明书一示例性实施例提供的一种对象信息处理装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本说明书一个或多个实施例相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本说明书一个或多个实施例的一些方面相一致的装置和方法的例子。
需要说明的是:在其他实施例中并不一定按照本说明书示出和描述的顺序来执行相应方法的步骤。在一些其他实施例中,其方法所包括的步骤可以比本说明书所描述的更多或更少。此外,本说明书中所描述的单个步骤,在其他实施例中可能被分解为多个步骤进行描述;而本说明书中所描述的多个步骤,在其他实施例中也可能被合并为单个步骤进行描述。
在一实施例中,本说明书的方案可以应用于电子设备上,比如该电子设备可以包括手机、PC、平板设备、笔记本电脑、掌上电脑(PDAs,Personal Digital Assistants)、可穿戴设备(如智能眼镜、智能手表等)等,本说明书一个或多个实施例并不对此进行限制。在运行过程中,该电子设备可以包含对象信息处理系统,以获取对象收纳装置中所收纳的对象的信息,完成本说明书的方案。当然,该对象信息处理系统中对应的对象可以是货品、展品等需要进行收纳或者陈列展示的物体,那么当对象为货品时,相应的对象收纳装置为货架,当对象为展品时,相应的对象收纳装置为展台等,本说明书中并不对此进行限制。
图1是本说明书示出的一种对象信息处理系统的架构示意图。以对象收纳装置为货架,对象为货品进行示例性描述。如图1所述,该系统可以包括若干图像采集设备11、图像拼接设备12和图像处理设备13,其中,图像采集设备11可以包括摄像机111、摄像机112和摄像机113等。
图像采集设备11可以沿预设方向对货架进行图像采集,从而获得与货架相关的处理图像。图像采集设备11可以为具有图像采集功能的设备,例如图1所示的摄像机111-113。当然,该图像采集设备11还可以是相机、摄像机或者带有拍照功能的电子设备等,预设方向可以包括水平方向、垂直方向等其他方向,本说明书中并不对此进行限制。
图像拼接设备12可以沿至少一个预设方向对初始图像进行拼接,从而可以生成拼接图像。该图像拼接设备12可以为手机、PC、平板电脑、笔记本电脑等终端设备;或者,也可以为服务器,该服务器可以为包含一独立主机的物理服务器,或者该服务器可以为主机集群承载的虚拟服务器;或者,也可以为部署在云端的设备等。
图像处理设备13可以对上述拼接图像进行处理,从而可以确定出货架上所陈列的货品信息。该图像处理设备13可以为手机、PC、平板电脑、笔记本电脑等终端设备;或者,也可以为服务器,该服务器可以为包含一独立主机的物理服务器,或者该服务器可以为主机集群承载的虚拟服务器;或者,也可以为部署在云端的设备等。其中,货架上所陈列的货品信息可以包括下述至少之一:货品错放信息、货品缺少信息、货品标签错误信息等。图像处理设备13可以直接对拼接图像进行处理,可以避免直接对图像采集设备11中包含的多个摄像头分别采集到的大量图像进行处理,可以减少图像处理设备13需要处理的图像的数量,可以提升图像处理设备13的处理效率,从而可以提升确定货架上所陈列货品信息的效率。
在一实施例中,图像采集设备11、图像拼接设备12和图像处理设备13可以通过网络进行交互,该网络可以包括多种类型的有线或无线网络。当然,在图像采集设备11和图像拼接设备12上设置有相应的CSI(CMOS Serial Interface,相机串行接口)或者USB接口的情况下,图像采集设备11和图像拼接设备12还可以通过物理连接线相连进行交互,本说明书中并不对此进行限制。
在一实施例中,图像采集设备11可以包括沿第一预设方向排列的多个摄像头,那么在多个摄像头与货架保持预设距离区间的情况下,若多个摄像头对应的拍摄范围可以在第一预设方向上覆盖该货架,多个摄像头可以沿垂直于第一预设方向的第二预设方向同步进行图像采集,其中,第一预设方向可以包括垂直方向或者水平方向。此时,多个摄像头可以同步完成在第一预设方向对货架的图像的采集,可以保证采集到的图像在第一预设方向上覆盖货架,可以提升图像采集的效率。多个摄像头可以为一体式结构,也可以为分体式结构,本说明书中并不对此进行限制。
而若多个摄像头对应的拍摄范围在垂直方向和水平方向上均无法覆盖货架,那么多个摄像头可以沿垂直方向和水平方向进行图像采集。预设距离区间可以根据实际需求或者摄像头的焦距等其他参数进行设定,本说明书中并不对此进行限制。以及可以通过调整多个摄像头的镜头的朝向或者通过调整多个摄像头的位置,实现多个摄像头沿垂直方向或者水平方向进行图像采集,本说明书中并不对此进行限制。在通过调整多个摄像头的位置来实现多个摄像头沿垂直方向或者水平方向同步进行图像采集的情况下,可以将多个摄像头设置为一体的结构,从而便于多个摄像头同时调整位置,本说明书中并不对此进行限制。
在一实施例中,可以设置多个摄像头对货架进行图像采集,那么多个摄像头的朝向和角度等可以根据货架的尺寸信息进行适应性调整,多个摄像头的设置可以使得大多数的摄像头处于水平位置或者近似水平位置,其中,当摄像头处于水平位置时,摄像头采集到的图像的质量最佳并且畸变最小,从而可以有效提升摄像头采集到的图像的质量,同时多个摄像头相比于单个摄像头可以更近距离对货架进行图像采集,从而可以提升采集到的图像的清晰度。
在一实施例中,图像采集设备11可以包括单个摄像头,那么在单个摄像头与货架保持预设距离区间的情况下,若单个摄像头对应的拍摄范围可以在垂直方向上覆盖货架,该单个摄像头可以沿水平方向进行图像采集,而若单个摄像头对应的拍摄范围可以在水平方向上覆盖货架,该单个摄像头可以沿垂直方向进行图像采集,而若单个摄像头对应的拍摄范围在垂直方向和水平方向上均无法覆盖货架,那么单个摄像头需要分别沿垂直方向和水平方向进行图像采集。
在一实施例中,图像采集设备11可以沿预设方向对货架进行拍照,那么可以从图像采集设备11采集到的照片中选取出货架的初始图像。
在一实施例中,图像采集设备11可以沿预设方向对货架进行视频采集,那么可以从获取到的初始视频包含的多个图像帧中筛选出初始图像。图像采集设备11可以按照预先设定好的帧率对初始视频包含的图像帧进行筛选,从而可以获得筛选出的初始图像,使得筛选后的初始图像对应的帧率可以满足图像采集设备、图像拼接设备和图像处理设备之间的网络带宽要求,避免影响初始图像的正常传输,也可以避免消耗较多的网络资源。或者,图像采集设备11可以从初始视频包含的图像帧中选取出关键图像帧,从而可以将关键图像帧作为初始图像。其中,该关键图像帧可以是初始视频包含的图像帧中包含可识别的特征点的数量较多的或者可以是动态模糊程度较少的图像等,本说明书中并不对此进行限制。
当然,图像采集设备11还可以先按照预先设定的帧率对初始视频包含的图像帧进行筛选,再从筛选后的图像帧中选取出关键图像帧,或者,可以先从初始视频包含的图像帧中选取出关键图像帧,再按照预先设定的帧率对关键图像帧进行筛选,本说明书中并不对此进行限制。其中,预先设定的帧率可以根据图像采集设备的输出帧率、图像处理设备和图像拼接设备的处理能力以及图像采集设备、图像处理设备和图像拼接设备之间的网络带宽等进行设定,本说明书中并不对此进行限制。
在一实施例中,图像采集设备11可以沿预设方向对货架进行视频采集,从而只需要根据采集启动信号开始对货架的图像的采集,根据采集停止信号停止对货架的图像的采集,可以快速完成对整个货架的图像采集,可以避免控制图像采集设备11在指定位置暂停进行拍照的过程,可以显著提升货架的图像采集效率,可以简化图像采集过程。
在一实施例中,图像拼接设备12可以用于沿多个预设方向中的部分预设方向对初始图像进行拼接,生成拼接图像,而图像处理设备13还可以用于沿多个预设方向中的剩余预设方向对拼接图像继续进行拼接。例如,在多个预设方向包括垂直方向和水平方向的情况下,图像拼接设备12可以沿垂直方向对获取到的初始图像进行拼接,生成拼接图像,而由图像处理设备13沿水平方向对拼接图像继续进行拼接,或者,图像拼接设备12可以沿水平方向对获取到的初始图像进行拼接,生成拼接图像,而由图像处理设备13沿垂直方向对拼接图像继续进行拼接,或者,图像拼接设备12可以分别沿垂直方向和水平方向对获取到的初始图像进行拼接,生成拼接图像,而不再需要由图像处理设备13继续进行拼接,本说明书中并不对此进行限制。
在一实施例中,图像采集设备11和图像拼接设备12可以为一体式结构,也就是,图像采集设备11和图像拼接设备12可以集成为一体,当然,图像采集设备11和图像拼接设备12还可以是分体式结构,而图像处理设备13可以为云端设备,从而可以提升对拼接图像的处理效率。或者,图像拼接设备12和图像处理设备13均可以为云端设备。或者,图像采集设备11、图像拼接设备12和图像处理设备13可以为一体式结构,也就是,图像采集设备11、图像拼接设备12和图像处理设备13可以相当于一体式结构的电子设备中的不同功能组件。当然,上述举例仅是示意性的,本领域技术人员可以根据实际情况设定货品信息处理系统的具体结构及各设备的工作方式,本说明书对此不作限定。
在一实施例中,该货品信息处理系统还可以包括行走设备,该行走设备可以至少将图像采集设备携带至货架处,并且该行走设备还可以控制该图像采集设备的图像采集过程,例如,该行走设备可以向图像采集设备发送采集启动信号,从而控制图像采集设备开始进行图像采集,或者该行走设备可以向该图像采集设备发送采集停止信号,从而控制该图像采集设备停止进行图像采集。当然该行走设备可以将图像采集设备和图像处理设备同时携带至货架处,本说明书中并不对此进行限制。
在一实施例中,可以将图像采集设备11设置在巡检机器人上或者设置在相应的手持设备上,那么在巡检机器人或者手持设备沿预设方向进行移动时,图像采集设备可以沿该预设方向对货架进行图像采集。而图像拼接设备12或者图像处理设备13也可以设置在巡检机器人或者相应的手持设备上,图像拼接设备12或者图像处理设备13可以设置在区别于巡检机器人或者相应的手持设备的其他设备上,本说明书中并不对此进行限制。
图2是本说明书一示例性实施例示出的一种巡检机器人20的组成结构的示意图。以巡检机器人对货架进行巡检进行示例性描述。如图2所示,该巡检机器人20包括行走部201、采集部202、控制部203、和通讯部204。
行走部201可以使得巡检机器人行走至货架处,该货架上可以陈列有多个货品。
采集部202可以沿预设方向对货架进行图像采集,可以获得初始图像。
控制部203可以沿至少一个预设方向对上述采集部202获得的初始图像进行拼接,那么可以生成拼接图像。
通讯部204可以向图像处理设备传输拼接图像,而图像处理设备可以对拼接图像进行处理,可以确定出货架上所陈列货品的信息。其中,货架上所陈列的货品信息可以包括下述至少之一:货品错放信息、货品缺少信息、货品标签错误信息等。
采集部202可以是具有图像采集功能的设备,例如相机、摄像机或者带有拍照功能的电子设备等,预设方向可以包括水平方向、垂直方向等其他方向,本说明书中并不对此进行限制。
采集部202可以包括沿第一预设方向排列的多个摄像头,那么在多个摄像头与货架保持预设距离区间的情况下,若多个摄像头对应的拍摄范围可以在第一预设方向上覆盖该货架,多个摄像头可以沿垂直于第一预设方向的第二预设方向同步进行图像采集,其中,第一预设方向可以包括垂直方向或者水平方向。
而若多个摄像头对应的拍摄范围在垂直方向和水平方向上均无法覆盖货架,那么多个摄像头可以沿垂直方向和水平方向进行图像采集。其中,预设距离区间可以根据实际需求或者摄像头的焦距等其他参数进行设定,本说明书中并不对此进行限制。以及采集部202可以通过调整多个摄像头的镜头的朝向或者调整多个摄像头的位置,实现多个摄像头沿垂直方向或者水平方向进行图像采集,本说明书中并不对此进行限制。
采集部202可以包括单个摄像头,那么在单个摄像头与货架保持预设距离区间的情况下,若单个摄像头对应的拍摄范围可以在垂直方向上覆盖货架,该单个摄像头可以沿水平方向进行图像采集,而若单个摄像头对应的拍摄范围可以在水平方向上覆盖货架,该单个摄像头可以沿垂直方向进行图像采集,而若单个摄像头对应的拍摄范围在垂直方向和水平方向上均无法覆盖货架,那么单个摄像头需要沿垂直方向和水平方向进行图像采集,本说明书中并不对此进行限制。
采集部202可以沿预设方向对货架进行拍照,那么可以从采集部202采集到的照片中选取出货架的初始图像。或者,采集部202可以沿预设方向对货架进行视频采集,那么可以从获取到的初始视频包含的多个图像帧中筛选出初始图像。
采集部202可以按照预先设定好的帧率对初始视频包含的图像帧进行筛选,从而可以获得筛选出的初始图像。或者,采集部202可以从初始视频包含的图像帧中选取出关键图像帧,那么可以将关键图像帧作为初始图像。
当然,采集部202还可以先按照预先设定的帧率对初始视频包含的图像帧进行筛选,再从筛选后的图像帧中选取出关键图像帧,或者,可以先从初始视频包含的图像帧中选取出关键图像帧,再按照预先设定的帧率对关键图像帧进行筛选,本说明书中并不对此进行限制。其中,预先设定的帧率可以根据采集部202包含的摄像头的输出帧率、控制部203的处理能力和图像处理设备的处理能力等进行设定,关键图像帧可以是初始视频中包含可识别的特征点的数量较多的或者可以是动态模糊程度较少的图像帧等,本说明书中并不对此进行限制。
控制部203可以沿多个预设方向中的部分预设方向对初始图像进行拼接,生成拼接图像,而图像处理设备还可以用于沿多个预设方向中的剩余预设方向对拼接图像继续进行拼接。例如,在多个预设方向包括垂直方向和水平方向的情况下,控制部203可以沿垂直方向对获取到的初始图像进行拼接,生成拼接图像,并由通讯部204将该拼接图像传输至图像处理设备,可以由图像处理设备沿水平方向对拼接图像继续进行拼接,或者,控制部203可以沿水平方向对获取到的初始图像进行拼接,生成拼接图像,并由通讯部204将该拼接图像传输至图像处理设备,可以由图像处理设备沿垂直方向对拼接图像继续进行拼接,或者,控制部203可以分别沿水平方向和垂直方向对获取到的初始图像进行拼接,生成拼接图像,而由通讯部204将该拼接图像传输至图像处理设备,而不再需要图像处理设备对拼接图像继续进行拼接,本说明书中并不对此进行限制。
在巡检机器人移动的过程中,可以为巡检机器人设定巡检路线,那么可以控制巡检机器人依次移动到该巡检路线上的多个货架处进行排查,例如,当巡检路线中有货架H1、货架H2和货架H3需要进行排查时,可以控制巡检机器人首先移动至货架H1的起始位置,然后停下,那么巡检机器人可以根据接收到的采集启动信号开始对货架H1进行图像采集,然后巡检机器人可以在货架H1的终止位置根据接收到的采集停止信号停止对货架H1进行图像采集。在巡检机器人依次完成对货架H1、货架H2和货架H3的采集过程的情况下,完成本次巡检过程。
或者,还可以在地面上设置对应于巡检路线中的货架的感应带或者设置对应于巡检路线中的货架的感应点。这样巡检机器人可以在沿预设的巡检路线移动至货架H1的起始位置时,巡检机器人可以在经过对应于货架H1的感应带或者感应点时自动生成采集启动信号,那么巡检机器人可以自动对货架H1进行图像采集,同样的巡检机器人可以在经过下一个对应于货架H1的感应带或者感应点时自动生成采集停止信号,可以控制巡检机器人依次移动至货架H2、H3进行图像采集,完成本次巡检过程,从而可以避免巡检机器人采集到除货架外的其他图像,可以提升图像采集的准确性,巡检机器人可以自动控制图像采集过程,可以提升图像采集的效率。
当然,图像处理设备可以直接部署在巡检机器人上,或者该图像处理设备可以是部署在其他位置的设备,例如该图像处理设备可以是部署在云端的设备,从而可以保证巡检机器人运行的流畅性,本说明书中并不对此进行限制。
图3是本说明书一示例性实施例示出的一种对象信息处理方法的流程图。如图3所示,该方法应用于图像拼接设备(如图1所示的图像拼接设备12);该方法可以包括以下步骤:
步骤302,获取沿预设方向采集到的对象收纳装置的初始图像。
在一实施例中,图像拼接设备可以获取沿预设方向采集到的对象收纳装置的初始图像。预设方向可以包括水平方向和/或垂直方向。对象收纳装置可以是收纳物体的装置,例如收纳槽、收纳孔、货架和展台等,本说明书中并不对此进行限制。
在一实施例中,图像拼接设备可以接收到图像采集设备沿预设方向采集到的对象收纳装置的初始图像,图像采集设备可以沿预设方向对对象收纳装置进行拍照。图像采集装置可以将采集到的所有的对象收纳装置的图像作为初始图像发送至图像拼接设备,或者,图像采集装置可以从采集到的所有的对象收纳装置的图像中筛选出预设数量的图像,并将这些预设数量的图像作为初始图像发送至图像拼接设备,本说明书中并不对此进行限制。
在一实施例中,图像拼接设备可以接收图像采集设备沿预设方向采集到的对象收纳装置的初始图像,该初始图像由图像采集设备从采集到的对象收纳装置的初始视频中筛选而得。图像采集设备可以沿预设方向采集对象收纳装置的初始视频,那么图像采集设备可以按照预先设定好的帧率对初始视频包含的图像帧进行筛选,从而可以获得筛选出的初始图像,例如,在图像采集设备包含的摄像头的帧率设置为120帧/秒,而图像采集设备预先设定的帧率为60帧/秒,那么图像采集设备可以按照60帧/秒的帧率对初始视频中包含的图像帧进行筛选,从而将筛选出的图像帧作为初始图像。其中,图像采集设备包含的摄像头的帧率设置在较高的数值,可以提升摄像头采集到的图像帧质量,可以保证采集到的图像帧受运动模糊的影响较小,从而使得采集到的各个图像帧包含的实际有效信息多。
在一实施例中,图像采集设备可以从初始视频包含的图像帧中选取出关键图像帧,可以将关键图像帧作为初始图像。例如,图像采集设备可以预先设置有训练好的图像特征模型,该图像特征模型可以用于对初始视频包含的图像帧中的特征点进行识别。假定图像采集设备将单位时间内采集到的图像帧依次输入该图像特征模型中,从而确定出每一图像帧中包含的特征点的数量。比如,图像采集设备可以将在单位时间内采集到的第一图像帧输入图像特征模型,并获得该第一图像帧匹配到的特征点的第一数量;接着可以将采集到的第二图像帧输入图像特征模型,并获得该第二图像帧匹配到的特征点的第二数量,可以将第二数量与第一数量进行比较,并且在第二数量不小于第一数量的情况下,丢弃第一图像帧,而在第二数量小于第一数量的情况下,丢弃第二图像帧。当然,上述举例仅是示意性的,本领域技术人员可以根据实际情况设定选取初始视频中的关键图像帧的方式,本说明书对此不作限定。
在一实施例中,图像采集设备可以先按照预先设定的帧率对初始视频进行筛选,再从筛选后的图像帧中选取出关键图像帧,或者,可以先从初始视频包含的图像帧中选取出关键图像帧,再按照预先设定的帧率对关键图像帧进行筛选,本说明书中并不对此进行限制。
在一实施例中,图像采集设备可以沿预设方向对货架进行视频采集,从而只需要根据采集启动信号开始对货架的图像的采集,根据采集停止信号停止对货架的图像的采集,可以快速完成整个货架的图像采集,可以避免控制图像采集设备在指定位置暂停进行拍照的过程,可以显著提升货架的图像采集效率,可以简化图像采集过程。
步骤304,沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像。
在一实施例中,图像拼接设备可以沿至少一个预设方向对初始图像进行拼接,生成拼接图像。其中,该预设方向可以包括水平方向和/或垂直方向。
在一实施例中,在预设方向包括水平方向和垂直方向的情况下,若图像采集设备对应的拍摄范围可以在垂直方向上覆盖货架,那么图像拼接设备仅需要沿水平方向对获取到的初始图像进行拼接,生成拼接图像。
若图像采集设备对应的拍摄范围可以在水平方向上覆盖货架,那么图像拼接设备仅需要沿垂直方向对获取到的初始图像进行拼接,生成拼接图像。若图像采集设备对应的拍摄范围在水平方向和垂直方向上均无法覆盖货架,那么图像拼接设备可以分别沿水平方向和垂直方向对获取到的初始图像进行拼接,生成拼接图像。
若图像采集设备对应的拍摄范围在水平方向和垂直方向上均无法覆盖货架,而图像拼接设备仅沿垂直方向对获取到的初始图像进行拼接,生成拼接图像,那么图像拼接设备还可以将拼接图像传输至图像处理设备,由图像处理设备继续沿水平方向对获取到的拼接图像继续进行拼接。同样的,若图像采集设备对应的拍摄范围在水平方向和垂直方向上均无法覆盖货架,而图像拼接设备仅沿水平方向对获取到的初始图像进行拼接,生成拼接图像,那么图像拼接设备还可以将拼接图像传输至图像处理设备,由图像处理设备继续沿垂直方向对获取到的拼接图像继续进行拼接。也就是,在初始图像需要在多个预设方向上进行拼接的情况下,图像拼接设备可以仅沿多个预设方向中的部分预设方向对初始图像进行拼接,或者,图像拼接设备可以分别沿多个预设方向中的剩余预设方向对初始图像进行拼接,本说明书中并不对此进行限制。
在一实施例中,图像采集设备可以包括多个摄像头,而多个摄像头的朝向和角度等可以根据货架的尺寸信息进行适应性调整,多个摄像头的设置可以使得大多数的摄像头处于水平位置或者近似水平位置,其中,当摄像头处于水平位置时,摄像头采集到的图像的质量最佳并且畸变最小,从而可以有效提升摄像头采集到的图像的质量。同时多个摄像头相比与单个摄像头可以更近距离对货架进行图像采集,从而可以提升采集到的图像的清晰度。
步骤306,触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
在一实施例中,可以触发图像处理操作,从而在本地对拼接图像进行识别处理,从而可以在本地确定出对象收纳装置中所收纳的对象的信息。其中,对象收纳装置所收纳的对象的信息可以包括下述至少之一:对象错放信息、对象缺少信息、对象标签错误信息等。
在一实施例中,可以触发图像处理操作,从而图像拼接设备可以将图像拼接设备生成的拼接图像传输至图像处理设备,那么图像处理设备可以对拼接图像进行识别处理,从而可以确定出对象收纳装置中所收纳的对象的信息。
在一实施例中,可以触发图像处理操作,图像拼接设备可以将图像拼接设备生成的拼接图像传输至图像处理设备,在图像拼接设备仅沿多个预设方向中的部分预设方向对初始图像进行拼接的情况下,图像处理设备还可以沿多个预设方向中的剩余预设方向对拼接图像继续进行拼接,并且图像处理设备可以对拼接完成的图像进行识别处理,从而确定出对象收纳装置中所收纳的对象的信息。
为了便于理解,下面以将货品信息处理系统应用于线下超市进行示例性描述。如图4所示为将货品信息处理系统应用于线下超市的场景示意图。如图4所示该超市可以包括货架X和巡检机器人Y。其中,巡检机器人上安装有图像采集部,该图像采集部可以包括沿垂直方向设置的摄像头A、摄像头B、摄像头C和摄像头D,其中摄像头A-D的帧率可以被配置为120帧/秒,如图4所示。在巡检机器人Y对货架X所陈列的货品进行排查时,可以沿如图4所示的平行于货架X的方向401进行移动,从而由摄像头A-D沿方向401对货架X进行图像采集。
而假定如图4所示的巡检机器人Y上安装的摄像头A-D对应的拍摄范围可以在垂直方向上覆盖货架X,如图5所示为摄像头A-D对应的拍摄范围的示意图,在巡检机器人可以控制各个摄像头与货架X保持的距离处于距离区间L内的情况下,摄像头A对应的拍摄范围为501,摄像头B对应的拍摄范围为502,摄像头C对应的拍摄范围为503和摄像头D对应的拍摄范围为504,此时摄像头A-D对应的拍摄范围可以在垂直方向上覆盖货架X。其中距离区间L可以为预设的距离区间,在该距离区间L内,可以使得摄像头A-D对应的拍摄范围可以在垂直方向上覆盖货架X。
图6是本说明书一示例性实施例示出的一种对象信息处理方法的流程图。以对象为线下超市中的货品,对象收纳装置为相应的货架X进行示例性描述;如图6所示,该方法可以包括以下步骤:
步骤601,采集针对货架X的初始视频。
在本实施例中,巡检机器人Y在接收到针对货架X的采集启动信号,巡检机器人人Y沿如图4所示的平行于货架X的方向401进行移动,以使得巡检机器人上安装有的摄像头A-D进行同步图像采集。其中,摄像头A-D分别对货架X进行视频采集,生成针对货架X的初始视频。其中,该采集启动信号可以由相关人员触发采集启动选项而产生,或者该采集启动信号可以根据相应的触发事件而生成,本说明书中并不对获取采集启动信号的方式进行限定。巡检机器人Y可以在接收到针对货架X的采集停止信号后,停止对货架X的图像采集,或者巡检机器人Y可以在完成对货架X的图像采集后,自动停止,本说明书中并不对此进行限制。
在本实施例中,图像采集部还可以调用图像信息处理器对摄像头A-D采集到的初始视频中包含的图像帧进行图像质量处理,以提升初始视频中包含的多个图像帧的质量,便于后续对这些图像帧的识别。例如,该图像信息处理器可以为ISP(Image SignalProcessor,图像信号处理),ISP可以对摄像头A-D采集到的初始视频的信号做后期处理,ISP可以对初始视频中包含的图像帧进行线性纠正、噪声去除、坏点去除、内插、白平衡和主动曝光控制等等,从而使得摄像头A-D采集到的初始视频中包含的图像帧能较好地还原货架X的实际现场细节。
步骤602,从初始视频中筛选出初始图像。
在本实施例中,图像采集部在接收到经过图像质量处理后的初始视频后,图像采集部可以按照预设帧率对初始视频包含的图像帧进行筛选,获得筛选出的初始图像。假定摄像头A-D的预先配置的帧率为120帧/秒,而图像采集部中预先设定的帧率为60帧/秒,那么图像采集部可以根据预先设定的帧率60帧/秒对初始视频包含的图像帧进行筛选,获得初始图像。例如,图像采集部可以按照预先设定的帧率对单位时间为1秒内接收到的图像帧进行随机筛选,使得筛选后的初始图像的帧率符合60帧/秒的预设帧率。或者,图像采集设备可以每间隔一帧将接收到的图像帧作为初始图像,当然,图像采集部还可以按照摄像头预先配置的帧率与图像采集部预先设定的帧率的关联关系,确定图像采集部的筛选方式,本说明书中并不对此进行限制。为摄像头配置较高的帧率,可以避免摄像头在随着巡检机器人Y移动的过程中拍摄得到的图像帧出现运动模糊,可以使得摄像头拍摄得到的图像帧中包含的有效信息更多。而对摄像头采集到的初始视频包含的图像帧进行筛选,可以避免大量的图像帧的传输消耗较多的网络资源并且影响后续设备的处理效率,当然也可以不对摄像头采集到的初始视频包含的图像帧进行筛选,本说明书中并不对此进行限制。
步骤603,将初始图像传输至图像拼接设备。
在本实施例中,巡检机器人的图像采集部可以将筛选获得的初始图像传输至图像拼接设备。图像采集部可以将实时筛选出的初始图像传输至图像拼接设备,或者可以在摄像头A-D完成对货架X的初始视频采集的情况下,图像采集部将从初始视频包含的图像帧中筛选出的初始图像传输至图像拼接设备,本说明书中并不对此进行限制。
步骤604,将初始图像沿垂直方向进行拼接。
在本实施例中,初始图像中可以包括若干同步采集到的摄像头A对应的初始图像A1,摄像头B对应的初始图像B1,摄像头C对应的初始图像C1和摄像头D对应的初始图像D1,图像拼接设备可以将初始图像A1、初始图像B1、初始图像C1和初始图像D1进行拼接,从而获得多个拼接后的垂直拼接图。其中,图像拼接设备可以采用SURF(Speeded Up RobustFeatures,加速稳健特征)算法、SIFT(Scale-Invariant Feature Transform,尺度不变特征转换)算法或者ORB(Oriented FAST and Rotated BRIEF,快速特征点提取和描述)算法对每一初始图像进行特征点提取和匹配,比如,分别获得了初始图像A1对应的匹配点集和初始图像B1对应的匹配点集,那么图像拼接设备可以根据获得的匹配点集生成变换矩阵,从而通过变换矩阵将初始图像A1和初始图像B1中的像素点转换至同一坐标下,可以实现初始图像A1和初始图像B1的图像配准。接着图像拼接设备可以根据转换后的坐标关系将初始图像A1拷贝到初始图像B1中的特定位置。那么图像拼接设备还可以对初始图像A1和初始图像B1中的重叠区域的像素点的像素值进行调整,从而生成调整后的拼接图像。当然,上述举例仅是示意性的,本领域技术人员可以根据实际情况设定初始图像的拼接方式,本说明书对此不作限定。
步骤605,对获取到的垂直拼接图进行筛选。
在本实施例中,图像拼接设备可以继续从获取到的垂直拼接图中筛选出关键垂直拼接图像。图像拼接设备可以对获取到的垂直拼接图像分别进行特征点提取和匹配,比如,图像拼接设备可以获取接收到的第一帧的垂直拼接图像的匹配点集,和第二帧的垂直拼接图像的匹配点集。图像拼接设备可以确定第一帧的垂直拼接图像的匹配点集和第二帧的垂直拼接图像的匹配点集之间的相似度,在匹配点集的相似度不小于相似度阈值的情况下,可以表明第一帧的垂直拼接图像和第二帧的垂直拼接图像中包含的内容一致。那么在上述第一帧和第二帧的垂直拼接图像的匹配点集的相似度不小于相似度阈值的情况下,可以对第一帧的垂直拼接图像的匹配点的数量和第二帧的垂直拼接图像的匹配点的数量进行比较,并保留匹配点的数量较多的垂直拼接图像,以此类推,图像拼接设备可以选取出若干关键垂直拼接图像,使得获得的关键垂直拼接图像中包含的匹配点的数量较多,便于后续的识别和处理,从而可以提升处理效率。当然,上述举例仅是示意性的,本领域技术人员可以根据实际情况设定关键垂直拼接图像的筛选方式,本说明书对此不作限定。
在本实施例中,图像拼接设备还可以采用光流跟踪算法等其他算法保证选取出的关键垂直拼接图像在水平方向上的连续性,避免关键图像帧在货架X的水平方向上出现缺少,本说明书中并不对此进行限制。
步骤606,将关键垂直拼接图像沿水平方向进行拼接。
在本实施例中,图像拼接设备可以将获取到的关键垂直拼接图像沿水平方向进行拼接,从而获得拼接后的货架X的完整拼接图像。其中,沿水平方向进行拼接的过程与上述步骤604相类似,所涉及的实施细节可参考上述实施例,此处不再赘述。
当然,在本实施例中,图像拼接设备还可以将获取的关键垂直拼接图像上传至部署在云端的图像处理设备,由图像处理设备将接收到的关键垂直拼接图像沿水平方向进行拼接,从而获得拼接后的货架X的完整拼接图像,本说明书中并不对此进行限制。
步骤607,将货架X的完整拼接图像转换为指定格式的图片。
步骤608,将图片Z传输至图像处理设备。
在本实施例中,图像拼接设备还可以将货架X的完整拼接图像转换为指定格式的图片,例如,假定部署在云端的图像处理设备能够识别的照片格式为JPEG格式,那么图像处理设备可以将货架X的完整拼接图像编码成JPEG格式的图片Z,并将该图片Z上传至云端的图像处理设备。当然,该指定格式还可以是bmp、jpg或者png格式等,本说明书中并不对此进行限制。
步骤609,对图片Z进行识别处理。
在本实施例中,图像处理设备可以预先存储有货架X所陈列货品放置区域在货架中的预设区域位置、货品的ID、预设数量、货品的预设图像以及货品的预设标签等,预设区域位置可以包括该货品对应的陈列区域为货架X的第几层以及对应层的哪些格数等。
在本实施例中,假定图像处理设备可以预先存储有货品1的预设区域位置、货品1的ID、货品1的预设数量、货品1的预设图像以及货品1的预设标签等。那么图像处理设备可以通过对获取到的图片Z进行识别,将图片Z与货品1的预设图像进行匹配,从而可以确定出图片Z中对应于货品1的预设区域位置摆放的货品是否为货品1,以及可以确定出图片Z在预设区域位置摆放的货品1的数量是否满足货品1的预设数量的要求等。例如,假定货品1的预设数量为6个,图像处理设备识别到的货品1的数量为5个,那么在图像处理设备识别到的货品1的数量少于预设数量的情况下,可以确定该货品1存在缺货的情况。图像处理设备对货品错放信息或者货品标签错误信息等的识别过程与上述货品缺货信息的识别过程类型,此处不再赘述。当然,图像处理设备还可以采用其他方式确定货架上所陈列的货品的信息,本说明书中并不对此进行限制。
在本实施例中,可以仅将图像采集部中包括的摄像头设置在巡检机器人上,而图像采集部的其余部分、图像拼接设备、图像处理设备可以包含在一个或者多个电子设备中,或者可以为部署在云端的云端设备,本说明书中并不对此进行限制。
图7是一示例性实施例提供的一种电子设备的示意结构图。请参考图7,在硬件层面,该设备包括处理器702、内部总线704、网络接口706、内存708以及非易失性存储器710,当然还可能包括其他业务所需要的硬件。处理器702从非易失性存储器710中读取对应的计算机程序到内存708中然后运行,在逻辑层面上形成对象信息处理装置。当然,除了软件实现方式之外,本说明书一个或多个实施例并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
请参考图8,在软件实施方式中,该对象信息处理装置可以包括获取单元802、拼接单元804和触发单元806。
获取单元802,用于获取沿预设方向采集到的对象收纳装置的初始图像;
拼接单元804,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
触发单元806,用于触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
可选的,所述初始图像由下述方式获得:
接收图像采集设备沿预设方向采集到的对象收纳装置的初始图像;
或者,接收所述图像采集设备沿预设方向采集到的对象收纳装置的初始视频,并从获得的初始视频包含的图像帧中筛选出所述初始图像。
可选的,所述从获得的初始视频包含的图像帧中筛选出所述初始图像,包括下述至少之一:
按照预设帧率对所述初始视频包含的图像帧进行筛选,获得筛选出的初始图像;
从所述初始视频包含的图像帧中选取关键图像帧,将所述关键图像帧作为初始图像。
可选的,所述触发单元806具体用于:
在本地对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息;或者,
将所述拼接图像传输至图像处理设备,由所述图像处理设备对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
可选的,所述预设方向包括下述至少之一:垂直方向、水平方向。
可选的,所述对象收纳装置所收纳的对象的信息包括下述至少之一:对象错放信息、对象缺少信息、对象标签错误信息。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
在一个典型的配置中,计算机包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带、磁盘存储、量子存储器、基于石墨烯的存储介质或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在本说明书一个或多个实施例使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本说明书一个或多个实施例可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
以上所述仅为本说明书一个或多个实施例的较佳实施例而已,并不用以限制本说明书一个或多个实施例,凡在本说明书一个或多个实施例的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本说明书一个或多个实施例保护的范围之内。
Claims (25)
1.一种货品信息处理系统,其特征在于,包括:
图像采集设备,用于沿预设方向对货架进行图像采集,获得初始图像;
图像拼接设备,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
图像处理设备,用于处理所述拼接图像,以确定所述货架上所陈列货品的信息。
2.根据权利要求1所述的系统,其特征在于,所述图像采集设备包括沿第一预设方向排列的多个摄像头;
在与所述货架保持预设距离区间的情况下,所述多个摄像头对应的拍摄范围在所述第一预设方向上覆盖所述货架,并且所述多个摄像头沿垂直于所述第一预设方向的第二预设方向同步进行图像采集,其中,所述第一预设方向为垂直方向或者水平方向。
3.根据权利要求1所述的系统,其特征在于,所述图像采集设备包括单个摄像头;
在与所述货架保持预设距离区间的情况下,若所述单个摄像头对应的拍摄范围在垂直方向上覆盖所述货架,所述单个摄像头沿水平方向进行图像采集;
在与所述货架保持预设距离区间的情况下,若所述单个摄像头对应的拍摄范围在水平方向上覆盖所述货架,所述单个摄像头沿垂直方向进行图像采集;
在与所述货架保持预设距离区间的情况下,若所述单个摄像头对应的拍摄范围在垂直方向和水平方向上均无法覆盖所述货架,所述单个摄像头沿垂直方向和水平方向进行图像采集。
4.根据权利要求1所述的系统,其特征在于,
所述图像采集设备与所述图像拼接设备为一体式结构或者分体式结构,所述图像处理设备为云端设备;或者,
所述图像拼接设备与所述图像处理设备均为云端设备;或者,
所述图像采集设备、所述图像拼接设备与所述图像处理设备为一体式结构。
5.根据权利要求1所述的系统,其特征在于,所述图像采集设备用于:
沿预设方向对货架进行拍照,获得所述初始图像;或者,
沿预设方向对货架进行视频采集,并从获得的初始视频包含的图像帧中筛选出所述初始图像。
6.根据权利要求5所述的系统,其特征在于,所述图像采集设备通过下述方式中至少之一,从获得的初始视频包含的图像帧中筛选出所述初始图像:
按照预设帧率对所述初始视频包含的图像帧进行筛选,获得筛选出的初始图像;
从所述初始视频包含的图像帧中选取关键图像帧,将所述关键图像帧作为初始图像。
7.根据权利要求1所述的系统,其特征在于,所述图像拼接设备用于沿多个预设方向中的部分预设方向对所述初始图像进行拼接,生成拼接图像;其中,所述图像处理设备还用于:
沿所述多个预设方向中的剩余预设方向对所述拼接图像继续进行拼接。
8.根据权利要求1所述的系统,其特征在于,所述货架上所陈列货品的信息包括下述至少之一:货品错放信息、货品缺少信息、货品标签错误信息。
9.根据权利要求1所述的系统,其特征在于,还包括:
行走设备,用于至少将所述图像采集设备携带至所述货架处,并控制所述图像采集设备的图像采集过程。
10.一种巡检机器人,其特征在于,包括:
行走部,用于使所述巡检机器人行走至所述货架处;
采集部,用于沿预设方向对货架进行图像采集,获得初始图像;
控制部,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
通讯部,用于向图像处理设备传输所述拼接图像,以使所述图像处理设备通过对所述拼接图像的处理,确定所述货架上所陈列货品的信息。
11.根据权利要求10所述的巡检机器人,其特征在于,所述采集部包括沿第一预设方向排列的多个摄像头;
在与所述货架保持预设距离区间的情况下,所述多个摄像头对应的拍摄范围在所述第一预设方向上覆盖所述货架,并且所述多个摄像头沿垂直于所述第一预设方向的第二预设方向同步进行图像采集,其中,所述第一预设方向为垂直方向或者水平方向。
12.根据权利要求10所述的巡检机器人,其特征在于,所述采集部包括单个摄像头;
在与所述货架保持预设距离区间的情况下,若所述单个摄像头对应的拍摄范围在垂直方向上覆盖所述货架,所述单个摄像头沿水平方向进行图像采集;
在与所述货架保持预设距离区间的情况下,若所述单个摄像头对应的拍摄范围在水平方向上覆盖所述货架,所述单个摄像头沿垂直方向进行图像采集;
在与所述货架保持预设距离区间的情况下,若所述单个摄像头对应的拍摄范围在垂直方向和水平方向上均无法覆盖所述货架,所述单个摄像头沿垂直方向和水平方向进行图像采集。
13.根据权利要求10所述的巡检机器人,其特征在于,所述采集部用于:
沿预设方向对货架进行拍照,获得所述初始图像;或者,
沿预设方向对货架进行视频采集,并从获得的初始视频包含的图像帧中筛选出所述初始图像。
14.根据权利要求13所述的巡检机器人,其特征在于,所述采集部通过下述方式中至少之一,从获得的初始视频包含的图像帧中筛选出所述初始图像:
按照预设帧率对所述初始视频包含的图像帧进行筛选,获得筛选出的初始图像;
从所述初始视频包含的图像帧中选取关键图像帧,将所述关键图像帧作为初始图像。
15.根据权利要求10所述的巡检机器人,其特征在于,所述货架上所陈列货品的信息包括下述至少之一:货品错放信息、货品缺少信息、货品标签错误信息。
16.一种对象信息处理方法,其特征在于,应用于图像拼接设备;所述方法包括:
获取沿预设方向采集到的对象收纳装置的初始图像;
沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
17.根据权利要求16所述的方法,其特征在于,所述初始图像由下述方式获得:
接收图像采集设备沿预设方向采集到的对象收纳装置的初始图像;
或者,接收所述图像采集设备沿预设方向采集到的对象收纳装置的初始视频,并从获得的初始视频包含的图像帧中筛选出所述初始图像。
18.根据权利要求17所述的方法,其特征在于,所述从获得的初始视频包含的图像帧中筛选出所述初始图像,包括下述至少之一:
按照预设帧率对所述初始视频包含的图像帧进行筛选,获得筛选出的初始图像;
从所述初始视频包含的图像帧中选取关键图像帧,将所述关键图像帧作为初始图像。
19.根据权利要求16所述的方法,其特征在于,所述触发图像处理操作,包括:
在本地对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息;或者,
将所述拼接图像传输至图像处理设备,由所述图像处理设备对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
20.根据权利要求16所述的方法,其特征在于,所述预设方向包括下述至少之一:垂直方向、水平方向。
21.根据权利要求16所述的方法,其特征在于,所述对象收纳装置所收纳的对象的信息包括下述至少之一:对象错放信息、对象缺少信息、对象标签错误信息。
22.一种对象信息处理装置,其特征在于,应用于图像拼接设备;所述装置包括:
获取单元,用于获取沿预设方向采集到的对象收纳装置的初始图像;
拼接单元,用于沿至少一个预设方向对所述初始图像进行拼接,生成拼接图像;
触发单元,用于触发图像处理操作,所述图像处理操作用于对所述拼接图像进行处理,以确定所述对象收纳装置中所收纳的对象的信息。
23.一种货品信息处理系统,其特征在于,包括:
包含多个摄像头的图像采集设备,用于在与货架保持预设距离区间、所述多个摄像头对应的拍摄范围在第一预设方向上覆盖所述货架的情况下,沿垂直于所述第一预设方向的第二预设方向对所述货架进行图像采集,获得初始图像;
图像拼接设备,用于沿所述第一预设方向和/或所述第二预设方向对所述初始图像进行拼接,生成拼接图像;
图像处理设备,用于处理所述拼接图像,以确定所述货架上所陈列货品的信息。
24.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器通过运行所述可执行指令以实现如权利要求16-21中任一项所述的方法。
25.一种计算机可读存储介质,其上存储有计算机指令,其特征在于,该指令被处理器执行时实现如权利要求16-21中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011132012.1A CN113297889A (zh) | 2020-10-21 | 2020-10-21 | 对象信息处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011132012.1A CN113297889A (zh) | 2020-10-21 | 2020-10-21 | 对象信息处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113297889A true CN113297889A (zh) | 2021-08-24 |
Family
ID=77318392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011132012.1A Pending CN113297889A (zh) | 2020-10-21 | 2020-10-21 | 对象信息处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113297889A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113867655A (zh) * | 2021-09-29 | 2021-12-31 | 深圳市商汤科技有限公司 | 打印方法及装置、电子设备及计算机可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170286773A1 (en) * | 2016-03-29 | 2017-10-05 | Bossa Nova Robotics Ip, Inc. | Planogram Assisted Inventory System and Method |
US20180108120A1 (en) * | 2016-10-17 | 2018-04-19 | Conduent Business Services, Llc | Store shelf imaging system and method |
CN109064395A (zh) * | 2018-06-19 | 2018-12-21 | 广东数相智能科技有限公司 | 一种基于图书盘点的书架图像拼接方法、电子设备及存储介质 |
CN109214306A (zh) * | 2018-08-15 | 2019-01-15 | 京东方科技集团股份有限公司 | 货架扫货机器人及货架扫货系统 |
CN110012209A (zh) * | 2018-01-05 | 2019-07-12 | 广东欧珀移动通信有限公司 | 全景图像生成方法、装置、存储介质及电子设备 |
CN110738599A (zh) * | 2019-10-14 | 2020-01-31 | 北京百度网讯科技有限公司 | 图像拼接方法、装置、电子设备及存储介质 |
-
2020
- 2020-10-21 CN CN202011132012.1A patent/CN113297889A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170286773A1 (en) * | 2016-03-29 | 2017-10-05 | Bossa Nova Robotics Ip, Inc. | Planogram Assisted Inventory System and Method |
US20180108120A1 (en) * | 2016-10-17 | 2018-04-19 | Conduent Business Services, Llc | Store shelf imaging system and method |
CN110012209A (zh) * | 2018-01-05 | 2019-07-12 | 广东欧珀移动通信有限公司 | 全景图像生成方法、装置、存储介质及电子设备 |
CN109064395A (zh) * | 2018-06-19 | 2018-12-21 | 广东数相智能科技有限公司 | 一种基于图书盘点的书架图像拼接方法、电子设备及存储介质 |
CN109214306A (zh) * | 2018-08-15 | 2019-01-15 | 京东方科技集团股份有限公司 | 货架扫货机器人及货架扫货系统 |
CN110738599A (zh) * | 2019-10-14 | 2020-01-31 | 北京百度网讯科技有限公司 | 图像拼接方法、装置、电子设备及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113867655A (zh) * | 2021-09-29 | 2021-12-31 | 深圳市商汤科技有限公司 | 打印方法及装置、电子设备及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11887318B2 (en) | Object tracking | |
US9477891B2 (en) | Surveillance system and method based on accumulated feature of object | |
KR101530255B1 (ko) | 객체 자동 추적 장치가 구비된 cctv 시스템 | |
EP2709062B1 (en) | Image processing device, image processing method, and computer readable medium | |
US9418299B2 (en) | Surveillance process and apparatus | |
CN109447902B (zh) | 一种图像拼接方法、装置、储存介质及设备 | |
CN107749069B (zh) | 图像处理方法、电子设备和图像处理系统 | |
EP3285181A1 (en) | Event searching apparatus and system | |
CN110490196A (zh) | 主体检测方法和装置、电子设备、计算机可读存储介质 | |
US10198842B2 (en) | Method of generating a synthetic image | |
CN112640419B (zh) | 跟随方法、可移动平台、设备和存储介质 | |
CN105467741B (zh) | 一种全景拍照方法及终端 | |
CN113297889A (zh) | 对象信息处理方法及装置 | |
CN112116068B (zh) | 一种环视图像拼接方法、设备及介质 | |
US11069073B2 (en) | On-shelf commodity detection method and system | |
JP6132996B1 (ja) | 画像処理装置,画像処理方法,画像処理プログラム | |
JP2012527801A (ja) | デジタル画像を撮像する方法及び撮像装置 | |
CN110047115B (zh) | 星辰图像拍摄方法、装置、计算机设备和存储介质 | |
JP6600397B2 (ja) | ビデオシーケンスのフレームを選択する方法、システム、及び、装置 | |
CN110930437A (zh) | 目标跟踪方法和装置 | |
CN114390219B (zh) | 拍摄方法、装置、电子设备及存储介质 | |
JP2013149034A (ja) | 画像表示装置、画像表示方法及びプログラム | |
CN113297890A (zh) | 对象信息处理方法及装置 | |
JP2017184021A (ja) | コンテンツ提供装置及びコンテンツ提供プログラム | |
US11790483B2 (en) | Method, apparatus, and device for identifying human body and computer readable storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |