CN111105455B - 仓储系统与相关方法 - Google Patents
仓储系统与相关方法 Download PDFInfo
- Publication number
- CN111105455B CN111105455B CN201911285796.9A CN201911285796A CN111105455B CN 111105455 B CN111105455 B CN 111105455B CN 201911285796 A CN201911285796 A CN 201911285796A CN 111105455 B CN111105455 B CN 111105455B
- Authority
- CN
- China
- Prior art keywords
- autonomous mobile
- server
- mobile device
- autonomous
- mobile apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 25
- 238000012544 monitoring process Methods 0.000 claims abstract description 6
- 230000003287 optical effect Effects 0.000 claims description 4
- 230000009467 reduction Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 16
- 238000004891 communication Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000008439 repair process Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/005—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/87—Combinations of systems using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/087—Inventory or stock management, e.g. order filling, procurement or balancing against orders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
- H04L43/0811—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking connectivity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Business, Economics & Management (AREA)
- Computer Networks & Wireless Communication (AREA)
- Automation & Control Theory (AREA)
- Theoretical Computer Science (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Quality & Reliability (AREA)
- Accounting & Taxation (AREA)
- Entrepreneurship & Innovation (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Environmental & Geological Engineering (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Warehouses Or Storage Devices (AREA)
Abstract
一种仓储系统,包括:第一自主移动装置、伺服器以及影像传感器。所述第一自主移动装置用于在仓储内移动;所述伺服器电性连接至所述第一自主移动装置,并用于监控所述第一自主移动装置;所述影像传感器,电性连接至所述伺服器,并用于捕捉所述第一自主移动装置的影像;其中当所述第一自主移动装置与所述伺服器之间的连接断开时,所述伺服器通过所述影像传感器所捕捉的所述第一自主移动装置的影像来判断所述第一自主移动装置的位置。本发明所提出的仓储系统可以定位故障的自主移动装置,使人员快速的到场排除障碍,避免工作效率降低。
Description
技术领域
本发明是有关于一种系统,详细来说,是有关于一种仓储系统以及相关方法。
背景技术
现有的自主移动装置(如无人物流车)在仓储中移动时,通常依靠自主移动装置本身的传感器进行定位,并将定位结果回传伺服器。然而,当自主移动装置发生故障、断线、电量过低及其他意外状况(如传感器互相干扰)时,伺服器因失去与自主移动装置的连接而无法得知自主移动装置的状况,并且因为失去自主移动装置的定位而无法立刻排除状况,造成工作效率降低。
发明内容
本发明的目的之一在于提供一种仓储系统及应用于所述仓储系统的方法来解决上述问题,例如,在自主移动装置发生故障、断线、电量过低及其他意外状况(如传感器互相干扰)时,仍能顺利定位自主移动装置。
依据本发明的一实施例,揭露一种仓储系统,包括:第一自主移动装置、伺服器以及影像传感器。所述第一自主移动装置用于在仓储内移动;所述伺服器电性连接至所述第一自主移动装置,并用于监控所述第一自主移动装置;所述影像传感器电性连接至所述伺服器,并用于捕捉所述第一自主移动装置的影像;其中当所述第一自主移动装置与所述伺服器之间的连接断开时,所述伺服器通过所述影像传感器所捕捉的所述第一自主移动装置的影像来判断所述第一自主移动装置的位置。
依据本发明的一实施例,所述影像传感器整合于安防摄像头之上。
依据本发明的一实施例,所述伺服器通过特征点在所述影像中的尺寸与位置以及所述安防摄像头的拍摄角度与位置来判断所述第一自主移动装置的位置。
依据本发明的一实施例,所述特征点是所述第一自主移动装置的整体或其中一部件或所述第一自主移动装置的机身上的识别标示。
依据本发明的一实施例,所述影像传感器还用于捕捉第二自主移动装置的影像,所述伺服器还用于通过所述影像传感器所捕捉的所述第二自主移动装置的影像、所述第二自主移动装置的位置以及所述安防摄像头的位置来优化判断所述第一自主移动装置的位置的精准度。
依据本发明的一实施例,所述影像传感器设置于第二自主移动装置之上,其中所述第二自主移动装置与所述伺服器电性连接。
依据本发明的一实施例,所述第二自主移动装置通过感测装置感测所述第一自主移动装置与所述第二自主移动装置的距离,且所述伺服器通过所述第一自主移动装置与所述第二自主移动装置的距离以及所述第二自主移动装置的位置来判断所述第一自主移动装置的位置。
依据本发明的一实施例,所述感测装置包括光学雷达、深度相机、超声传感器及红外传感器的至少其中之一。
依据本发明的一实施例,所述伺服器还用于传送与其电性连接的多个自主移动装置的信息至所述第二自主移动装置,当所述第二自主移动装置通过所述影像传感器侦测到所述第一自主移动装置且所述第一自主移动装置不在所述多个自主移动装置之中时,所述第二自主移动装置通知所述伺服器。
依据本发明的一实施例,当所述第一自主移动装置与所述伺服器之间的连接断开时,所述伺服器还用于通过所述影像来辨识出现在所述影像中的人员的身份,并通知所述人员回传所述第一自主移动装置的位置。
依据本发明的一实施例,所述伺服器通过所述人员的外观特征或所述人员所穿戴的识别标示来判断所述人员的身份。
依据本发明的一实施例,揭露一种应用于仓储系统的方法,所述方法包括:通过伺服器监控自主移动装置在仓储内的移动;当所述自主移动装置与所述伺服器之间的连接断开时,通过影像传感器捕捉所述自主移动装置的影像;以及通过所述影像传感器捕捉的所述自主移动装置的影像来判断所述自主移动装置的位置。
依据本发明的一实施例揭露一种仓储系统。所述仓储系统包括第一自主移动装置及第二自主移动装置、伺服器以及影像传感器。所述第一自主移动装置及所述第二自主移动装置用于在仓储内移动。所述伺服器电性连接至所述第一自主移动装置及所述第二自主移动装置,并且是用于监控所述第一自主移动装置及所述第二自主移动装置。所述影像传感器整合于所述第二自主移动装置内,其用于捕捉所述第一自主移动装置的影像。当所述第一自主移动装置与所述伺服器之间的连接断开且所述影像传感器捕捉到所述第一自主移动装置的影像时,所述第二自主移动装置判断所述第一自主移动装置的位置,并将所述第一自主移动装置的位置传送至所述伺服器。
本发明所提出的仓储系统可以定位故障的自主移动装置,使人员快速的到场排除障碍,避免工作效率降低。
附图说明
图1是依据本发明一实施例之仓储系统的示意图。
图2是依据本发明一实施例之伺服器的显示器显示画面的示意图。
图3是依据本发明一实施例之自主移动装置的示意图。
图4是依据本发明另一实施例之伺服器的显示器显示画面的示意图。
图5是依据本发明一实施例之通过安防摄像头定位第一自主移动装置的示意图。
图6是依据本发明一实施例之定位自主移动装置的示意图。
图7是依据本发明一实施例之通过第二自主移动装置定位第一自主移动装置的示意图。
图8是依据本发明一实施例之辨识人员的示意图。
图9是依据本发明一实施例之仓储系统的系统方块图。
图10是依据本发明一实施例之应用于仓储系统的方法流程图。
具体实施方式
以下揭示内容提供了多种实施方式或例示,其能用以实现本揭示内容的不同特征。下文所述之组件与配置的具体例子系用以简化本揭示内容。当可想见,这些叙述仅为例示,其本意并非用于限制本揭示内容。举例来说,在下文的描述中,将一第一特征形成于一第二特征上或之上,可能包括某些实施例其中所述的第一与第二特征彼此直接接触;且也可能包括某些实施例其中还有额外的组件形成于上述第一与第二特征之间,而使得第一与第二特征可能没有直接接触。此外,本揭示内容可能会在多个实施例中重复使用组件符号和/或标号。此种重复使用乃是基于简洁与清楚的目的,且其本身不代表所讨论的不同实施例和/或组态之间的关系。
再者,在此处使用空间上相对的词汇,譬如「之下」、「下方」、「低于」、「之上」、「上方」及与其相似者,可能是为了方便说明图中所绘示的一组件或特征相对于另一或多个组件或特征之间的关系。这些空间上相对的词汇其本意除了图中所绘示的方位之外,还涵盖了装置在使用或操作中所处的多种不同方位。可能将所述设备放置于其他方位(如,旋转90度或处于其他方位),而这些空间上相对的描述词汇就应该做相应的解释。
虽然用以界定本申请较广范围的数值范围与参数皆是约略的数值,此处已尽可能精确地呈现具体实施例中的相关数值。然而,任何数值本质上不可避免地含有因个别测试方法所致的标准偏差。在此处,「约」通常系指实际数值在一特定数值或范围的正负10%、5%、1%或0.5%之内。或者是,「约」一词代表实际数值落在平均值的可接受标准误差之内,视本申请所属技术领域中具有通常知识者的考虑而定。当可理解,除了实验例之外,或除非另有明确的说明,此处所用的所有范围、数量、数值与百分比(例如用以描述材料用量、时间长短、温度、操作条件、数量比例及其他相似者)均经过「约」的修饰。因此,除非另有相反的说明,本说明书与附随申请专利范围所揭示的数值参数皆为约略的数值,且可视需求而更动。至少应将这些数值参数理解为所指出的有效位数与套用一般进位法所得到的数值。在此处,将数值范围表示成由一端点至另一端点或介于二端点之间;除非另有说明,此处所述的数值范围皆包括端点。
目前市面上的自主移动装置(如无人物流车)常应用于仓储之中来进行货物运输,自主移动装置依靠本身的传感器,如距离传感器、光学雷达(Light Laser Detection andRanging,LiDAR)、深度相机(或称为RGBD相机)等,来实现避障、移动等功能。另外,自主移动装置还可依据上述传感器来进行自身定位,并依靠通讯装置将定位信息传送至伺服器来进行控管。然而,当自主移动装置发生故障、断线、电量过低及其他意外状况(如传感器互相干扰)时,伺服器无法得知自主移动装置的状况,并且因为仓储占地广,一旦与自主移动装置失去连线,只能依靠人工方式缓慢的寻找故障的自主移动装置,造成工作效率降低。因此,本发明提供一种仓储系统以及应用于仓储系统的方法来解决上述问题。
图1是依据本发明一实施例之仓储系统100的示意图。仓储系统100包括用于在仓储中移动的自主移动装置,例如,图1中的第一自主移动装置110与第二自主移动装置120。在本实施例中,第一自主移动装置110与第二自主移动装置120是一种无人搬运车,用于在仓储的货架间,例如图示中的货架H1至H4,移动来进行货物的搬运。为求进行自主移动及顺利搬运货物,第一自主移动装置110与第二自主移动装置120具有传感器,例如,距离传感器、光学雷达、深度相机等,来实现避障、移动等功能。另外,第一自主移动装置110与第二自主移动装置120还能通过上述传感器来进行定位。
仓储系统100还包括伺服器130以及影像传感器140。伺服器130与第一自主移动装置110以及第二自主移动装置120电性连接,其中第一自主移动装置110与第二自主移动装置120可通过设置于其中的通讯装置来与伺服器130进行通讯,并回传定位信息至伺服器130,使伺服器130能够管理、监控自主移动装置、管控货物搬运状况、订单情形等等。另外,当自主移动装置(如第一自主移动装置110或第二自主移动装置120)出现故障或连线问题时,伺服器130能够及时地发现并解决问题。在本实施例中,伺服器130并不限定设置于仓储之中,伺服器130也可以远端地与自主移动装置以及影像传感器140连线。影像传感器140设置于仓储中,并且与伺服器130电性连接。影像传感器140用于捕捉仓储内的影像。在本实施例中,影像传感器140主要是用于捕捉自主移动装置的影像,详细来说,当自主移动装置(如第一自主移动装置110或第二自主移动装置120)发生故障使得伺服器130与故障的自主移动装置的连线断开时,伺服器130可通过设置于仓储中的影像传感器140捕捉故障的自主移动装置的影像,并依据影像传感器140所捕捉的影像判断故障的自主移动装置的位置,以便及时地排除故障。
然而,本发明并不限定仅应用于自主移动装置与伺服器130之间的连线断开时,在其他实施例中,当伺服器130判断自主移动装置所回传的资料错误时、当伺服器130判断自主移动装置在短时间内的位置出现不合理的改变是或者其他由伺服器130判断的异常状况,皆可以应用本发明。举例来说,当伺服器130判断自主移动装置(如第一自主移动装置110或第二自主移动装置120)所回传的位置明显不在自主移动装置能到达的位置时,伺服器130可通过设置于仓储中的影像传感器140捕捉自主移动装置的影像来判断自主移动装置的位置。举例来说,从自主移动装置所回传的信息,伺服器130观察自主移动装置的电量有不合理的大幅降低的异常情况,伺服器130可通过设置于仓储中的影像传感器140捕捉自主移动装置的影像来判断自主移动装置的位置,并确定自主移动装置的状态。必要时,可立刻通知人员到场处理。
总的来说,本发明利用伺服器130通过设置于仓储中的影像传感器140来捕捉自主移动装置的影像,借此可快速的排除影像传感器140的异常状况,进而避免工作效率的降低。
需说明的是,上述“电性连接”并不限定于通过实体线路实现物理连接,若两者以无线的方式进行通讯来传递信号同样可隶属于电性连接的范畴。举例来说,影像传感器140可以通过线缆将捕捉到的影像传送至伺服器130。以另一例子而言,影像传感器140可以通过访问接入点将捕捉到的影像传送至伺服器130,进而实现无线通讯。
图2显示在伺服器130与自主移动装置正常连线时,自伺服器130所观察到的画面。图2以第一自主移动装置110为例。伺服器130可以于显示器上显示第一自主移动装置110的状况,例如,第一自主移动装置110的型号、与伺服器130是否正常连线、最近的连线时间与任务信息、目前的电量与固件版本等等。伺服器130还可以于显示器上显示第一自主移动装置110所回传的定位信息,例如,显示第一自主移动装置110目前在货架H2和货架H3之间。另外,伺服器130还可以于显示器上显示第一自主移动装置110自身的传感器所捕捉到的现场实时影像,借以更加准确的定位第一自主移动装置110。
需注意的是,本发明并不限制伺服器130的显示器上所显示的信息,依照实际应用的需求,伺服器130的显示器上所显示的信息可以有所不同。
图3是依据本发明一实施例之自主移动装置的示意图。图3以第一自主移动装置110为范例说明。如同图1实施例所述,第一自主移动装置110是一种用于承载货物的无人物流车。第一自主移动装置110包括感测装置301、处理器302、通讯装置303、驱动组件304、立柱305、显示装置306以及机身307。感测装置301包括设置于立柱305之上的影像传感器3011以及设置于机身307前方的距离传感器3012。影像传感器3011用于捕捉物体的影像。距离传感器3012用于感测物体与第一自主移动装置110间的距离。在本实施例中,影像传感器3011可以用一般的相机来实现,距离传感器3012可以用深度相机、激光雷达、超声传感器、红外传感器的其中之一或其中多项的组合来实现,本发明并不以此为限。
处理器302设置于第一自主移动装置110中,是用于接收感测装置301所感测的信息,并依此做出判断。举例来说,处理器302接收影像传感器3011所捕捉的影像后判断第一自主移动装置110的行进路线,并控制第一自主移动装置110朝行进路线前进来完成货物搬运。以另一例子而言,为了有效地进行避障,处理器302接收距离传感器3012所感测的障碍物与第一自主移动装置110之间的距离信息后,判断第一自主移动装置110应进行避障的时间与距离,并控制第一自主移动装置110绕过障碍物来进行避障。
通讯装置303用于与伺服器130进行无线通讯。详细来说,第一自主移动装置110可通过通讯装置303,将自身的定位信息传送至第一自主移动装置110。另外,第一自主移动装置110可通过通讯装置303接收伺服器130发出的指令。需注意的是,在本发明中并不限定第一自主移动装置110与伺服器130所进行的通讯的种类。举例来说,第一自主移动装置110与伺服器130所进行的通讯可以是蓝牙、无线保真、紫蜂(ZIG-BEE)等无线通讯技术。驱动组件304用于驱动第一自主移动装置110以进行移动。在本实施例中,驱动组件304包括马达以及动力轮,所述马达提供动能至动力轮来驱动第一自主移动装置110。
显示装置306设置于立柱305的顶端,显示装置306可以显示第一自主移动装置110的任务清单,使得仓储管理人员可以通过显示装置306核对搬运的货物信息。在其他实施例中,显示装置306还可以显示警告标语来提醒路过人员避免碰撞第一自主移动装置110。另外,当第一自主移动装置110故障时,显示装置306还可以显示故障信息来提醒路过人员协助修缮。在某些实施例中,当第一自主移动装置110故障时,显示装置306可以通过固定显示或轮播转换的方式来显示故障信息。在轮播转换时,显示装置306可以轮流地播放故障信息、第一自主移动装置110的型号、二维识别码等等信息。
在图3的实施例中,机身307之上具有多个识别标识。举例来说,机身307可在顶面以及侧面贴有对应于第一自主移动装置110的二维识别码。除此之外,机身307还可在顶面以及侧面贴有对应于第一自主移动装置110的型号标识(如字样110)。机身307之上的识别标识可以供仓储人员识别第一自主移动装置110的型号。除了机身307上具有识别标识外,立柱305上也同样可具有识别标识(如二维识别码)以供仓储人员识别第一自主移动装置110的型号。
需说明的是,第一自主移动装置110还可包括其他组件、元件来实现第一自主移动装置110的其他功能。举例来说,第一自主移动装置110还包括用于储存信息的储存装置、用于提供功率的电池以及将功率分配至各个部件的功率分配模组。需注意的是,图3所示的第一自主移动装置110仅为范例说明,本发明并不限定第一自主移动装置110的详细架构,同样地,本发明并不限定仓储系统100中其他自主移动装置的详细架构。
当由于故障、断线、电量过低以及其他意外状况(如传感器互相干扰)等因素,使得自主移动装置与伺服器130之间断开连线时,伺服器130通过设置于仓储之中的影像传感器140来捕捉故障的自主移动装置的影像,并根据影像传感器140所捕捉的影像判断故障的自主移动装置的位置。参考图4,图4显示在伺服器130与自主移动装置断开连线时,自伺服器130所观察到的画面。图4以第一自主移动装置110为例。当第一自主移动装置110与伺服器130之间断开连线时,伺服器130可以于显示器上显示提示信息,以通知管理人员第一自主移动装置110出现错误。另外,伺服器130通过影像传感器140所捕捉的第一自主移动装置110的影像来判断第一自主移动装置110的位置,并且将判断的位置显示与显示器上。同时,伺服器130还在显示器上显示影像传感器140所捕捉的现场实时影像。
如此一来,即使第一自主移动装置110因为各种可能因素无法主动提供定位信息予伺服器130时,伺服器130仍能定位第一自主移动装置110的位置,避免工作效率低下。
在本发明的一实施例中,影像传感器140整合在安防摄像头之中。如此一来,当由于故障、断线、电量过低以及其他意外状况(如传感器互相干扰)等因素,使得自主移动装置与伺服器130之间断开连线时,伺服器130通过设置于仓储之中的安防摄像头来捕捉故障的自主移动装置的影像,并判断故障的自主移动装置的位置。参考图5,图5是依据本发明一实施例之通过安防摄像头定位第一自主移动装置110的示意图。在图5的实施例中,仓储系统100还包括设置在仓储之中的多个安防摄像头。例如,设置于仓储之中的安防摄像头510、520、530、540与550,并且上述实施例中的影像传感器140整合在安防摄像头510、520、530、540与550中的每一个。
在正常情况下,安防摄像头510、520、530、540与550作为监视器来监控仓储之中以达到安防的作用。当由于故障、断线、电量过低以及其他意外状况(如传感器互相干扰)等因素,使得第一自主移动装置110与伺服器130之间断开连线时,伺服器130开始浏览安防摄像头510、520、530、540与550中的每一个来寻找第一自主移动装置110。举例来说,伺服器130在安防摄像头530的监视画面中捕捉到第一自主移动装置110的影像,并且安防摄像头530的设置是用于拍摄货架H2与货架H3之间的画面,因此,伺服器130判断第一自主移动装置110位于货架H2与货架H3之间。
接着,伺服器130通过第一自主移动装置110的特征点在影像中的尺寸与位置以及安防摄像头530的拍摄角度来判断第一自主移动装置110的准确位置。图6是依据本发明一实施例之定位自主移动装置的示意图。在图6的实施例中,特征点是机身307或立柱305上的识别标识,且伺服器130根据识别标识在影像中的尺寸与位置以及安防摄像头530的拍摄角度来判断第一自主移动装置110的准确位置。
详细来说,伺服器130根据特征点在影像中所占的像素大小来判断第一自主移动装置110与安防摄像头530的实际距离。例如,机身307的二维识别码的宽度在影像中占有55至60个像素大小,则可推断二维识别码距离安防摄像头530大约6公尺;机身307的二维识别码的宽度在影像中占有65至70个像素大小,则可推断二维识别码距离安防摄像头530大约5公尺。不同摄像头、不同硬件及现场环境配置皆可能影响主移动装置110与安防摄像头530的实际距离判断,本处示例仅为表示伺服器130可根据特征点来进行判断,且在判断时,影像中所占的像素大小与主移动装置110与安防摄像头530的实际距离成反比。在本实施例中,二维识别码在影像中占有的像素大小所对应到的实际距离可预先输入在伺服器130中,使得伺服器130在侦测安防摄像头530所捕捉的影像时,可通过内插法的方式得到二维识别码距离安防摄像头530的实际距离。需注意的是,上述二维识别码在影像中占有的像素大小与对应的实际距离仅为范例说明。实际的对应关系取决于安防摄像头530(或者更准确的说是影像传感器140)的解析度等等原因。
接着,伺服器130根据特征点在影像中的位置以及安防摄像头530的拍摄角度来判断第一自主移动装置110的相对位置。例如,安防摄像头530的拍摄角度是往下偏转θ,伺服器130据此判断第一自主移动装置110是位在货架H2与货架H3之间的走道间,并且此时机身307的二维识别码位在影像中右下角区块,因此,伺服器130可据此判断第一自主移动装置110位在相对靠近货架H2的位置。
综上所述,伺服器130根据第一自主移动装置110的特征点在影像中的尺寸与位置以及安防摄像头530的拍摄角度与位置判断第一自主移动装置110的准确位置。
需注意的是,特征点并不限于机身307或立柱305上的识别标识。在本发明的其他实施例中,特征点可以是第一自主移动装置110的整体或其中一部件。例如,第一自主移动装置110的立柱305、显示装置306或机身307的其中之一作为特征点。伺服器130可根据第一自主移动装置110的整体或其中一部件在影像中占有的像素大小来推断第一自主移动装置110与安防摄像头530之间的距离。本领域具有通常知识者应能轻易理解根据不同特征点来判断第一自主移动装置110与安防摄像头530的距离的细节,详细说明在此省略以省篇幅。
如同图3实施例所述,当第一自主移动装置110故障时,显示装置306还可以显示第一自主移动装置110的故障信息来提醒路过人员协助修缮。因此,伺服器130不仅可从特征点在安防摄像头530所捕捉的影像中的尺寸与位置来获得第一自主移动装置110的位置,还可以直接从影像中观察显示装置306所显示的故障信息,借此得知第一自主移动装置110的故障原因。如此一来,伺服器130可更有效地排除第一自主移动装置110的故障,减少人员到场诊断的时间,避免工作效率的降低。举例来说,若第一自主移动装置110因为电量过低无法维持与伺服器130的连线,进而停止行进,则显示装置306可以固定地显示电量过低的信息。如此一来,管理人员观察伺服器130显示的画面后,可直接派遣人员携带电池或充电装置至第一自主移动装置110处进行故障排除。
本领域具有通常知识者应能轻易理解,若同时有两个以上的安防摄像头捕捉到故障的自主移动装置的影像时,伺服器130可同时参考多个安防摄像头所捕捉到的影像判断故障的自主移动装置的位置,借以提高判断的精准度。
为了优化判断的精准度,伺服器130可通过正常运作的自主移动装置来进行校正。举例来说,在第二自主移动装置120正常运作的情况下,第二自主移动装置120可通过自身的感测装置以及通讯装置将定位信息传送至伺服器130。如此一来,当第二自主移动装置120在仓储中移动并且被安防摄像头530捕捉到影像时,依据上述实施例所提及的方式,伺服器130首先通过第二自主移动装置120的特征点在影像中的尺寸与位置以及安防摄像头530的拍摄角度与位置来判断第二自主移动装置120的位置。同时,依据第二自主移动装置120传送至伺服器130的定位信息与判断出的位置进行比较,进而校正伺服器130的判断。校正的过程可简单归纳成下方公式:
PAMR(x,y)=f(α·Pcamera,β·Angle,γ·Depth,κ)
其中f()是某种函数,PAMR是第二自主移动装置120自身传送至伺服器130的定位信息、Pcamera是安防摄像头530的设置位置、Angle是安防摄像头530的拍摄角度、Depth是伺服器130所判断的安防摄像头530与第二自主移动装置120之间的距离,α、β、γ、κ是常数。伺服器130通过调整常数α、β、γ、κ来使得f()的函数值接近第二自主移动装置120自身传送至伺服器130的定位信息PAMR,借此达到校正的作用。如此一来,当第二自主移动装置120自主地在仓储中移动时,伺服器130可以通过每一个捕捉到第二自主移动装置120的安防摄像头来进行校正。
在本发明的另一实施例中,影像传感器140是整合在自主移动装置之中。换句话说,影像传感器140是自主移动装置的感测装置中的影像传感器。如此一来,当由于故障、断线、电量过低以及其他意外状况(如传感器互相干扰)等因素,使得自主移动装置与伺服器130之间断开连线时,伺服器130通过设置于另一自主移动装置之上的影像传感器来捕捉故障的自主移动装置的影像,并判断故障的自主移动装置的位置。
图7是依据本发明一实施例之通过第二自主移动装置120定位第一自主移动装置110的示意图,其中第二自主移动装置120的详细架构可参考但不限定于图3所示的架构。在第二自主移动装置120正常运作的情况下,第二自主移动装置120可以通过自身的感测装置以及通讯装置将定位信息传送至伺服器130,并且同时在货架间移动来执行搬运货物的任务。当故障的第一自主移动装置110出现在第二自主移动装置120的感测装置的感测范围时,第二自主移动装置120通过感测装置(如距离感测器)感测第一自主移动装置110与第二自主移动装置120的距离,并且将第一自主移动装置110与第二自主移动装置120的距离传送至伺服器130。如此一来,伺服器130可根据第一自主移动装置110与第二自主移动装置120的距离以及第二自主移动装置120所传送的定位信息来判断第一自主移动装置110的位置。
然而,此并非本发明的一限制。在其他实施例中,当故障的第一自主移动装置110出现在第二自主移动装置120的感测装置的感测范围时,第二自主移动装置120通过感测装置(如距离感测器)感测第一自主移动装置110与第二自主移动装置120的距离后,第二自主移动装置120通过自身的处理器来判断故障的第一自主移动装置110的位置,并将故障的第一自主移动装置110的位置回传给伺服器130。伺服器130在接收到故障的第一自主移动装置110的位置后,即可立即派遣人员到场排除异常状况。
在本实施例中,伺服器130可将目前与其保持电性连接的所有自主移动装置的信息传送予每一自主移动装置。如此一来,当第二自主移动装置120的感测装置感测到因故障而与伺服器130断开连接的第一自主移动装置110时,由于第一自主移动装置110不在与伺服器130保持连接的信息名单中,因此,第二自主移动装置120可判断第一自主移动装置110故障,并据此通知伺服器130。举例来说,当第二自主移动装置120的感测装置感测到第一自主移动装置110时,通过扫描第一自主移动装置110的识别标示(如二维识别码)来得知第一自主移动装置110的型号。接着,比对第一自主移动装置110的型号以及伺服器130传送来的信息名单后发现第一自主移动装置110不在信息名单中,则第二自主移动装置120可判断第一自主移动装置110已经与伺服器130断开连接,进而通知伺服器130。
为求更有效地排除第一自主移动装置110的故障原因,若影像传感器140所捕捉的第一自主移动装置110的影像中同时捕捉到工作人员时,伺服器130可通过影像辨识的方式辨别工作人员的身份,并指示该工作人员排除第一自主移动装置110的故障原因,借此减少派遣人员到场的时间,避免工作效率降低。
图8是依据本发明一实施例之辨识人员的示意图。当第一自主移动装置110与伺服器130断开连接时,伺服器130通过影像传感器140所捕捉的第一自主移动装置110的影像来判断第一自主移动装置110的位置。在本实施例中,影像传感器140所捕捉的影像中,同时还捕捉到一名工作人员正在第一自主移动装置110的附近。伺服器130通过事先在伺服器130注册的人员的外观(如骨架或脸孔)特征来辨识该工作人员的身份,并指示该工作人员排除第一自主移动装置110的故障原因。在另一实施例中,伺服器130可以通过其他方式来辨识该工作人员的身份。举例来说,若该工作人员穿戴着辨识标示(例如,衣服上绣有员工编号B24),则伺服器130可以通过辨识标示来辨识该工作人员的身份。
归纳本发明的仓储系统于图9,以方便理解本发明。图9是依据本发明实施例的仓储系统的系统方块图,以仓储系统100为例说明,仓储系统100包括多个在仓储中移动的自主移动装置,如第一自主移动装置110和第二自主移动装置120。所述自主移动装置包括感测装置301、处理器302、通讯装置303、驱动组件304及显示装置306。感测装置301用于感测物体距离及捕捉影像来实现移动、避障的功能;处理器302用于处理感测装置301所感测到的信息;驱动组件304用于驱动自主移动装置移动;显示装置306用于显示自主移动装置的任务信息。仓储系统100还包括伺服器130以及影像传感器140。伺服器130与所述多个自主移动装置电性连接,所述多个自主移动装置可通过设置于其中的通讯装置(如通讯装置303)来与伺服器130进行通讯,并回传定位信息至伺服器130,使伺服器130能够管理、监控自主移动装置、管控货物搬运状况、订单情形等等。另外,当自主移动装置出现故障或连线问题时,伺服器130能够及时地发现并解决问题。影像传感器140与伺服器130电性连接,并且影像传感器140是设置于仓储中,其用于捕捉仓储内的影像。在本实施例中,影像传感器140主要是用于捕捉自主移动装置的影像,详细来说,当伺服器130与自主移动装置(如第一自主移动装置110)的连线断开时,伺服器130可通过设置于仓储中的影像传感器140捕捉第一自主移动装置110的影像,并借此判断第一自主移动装置110的位置,以便及时地排除状况。
图10是依据本发明一实施例中应用于仓储系统的方法400的流程图。倘若大致上可得到相同的结果,本发明并不限定完全依照图10所示的流程步骤来实施。方法400可归纳如下:
步骤410:通过伺服器监控自主移动装置在仓储内的移动。
步骤420:当所述自主移动装置与所述伺服器之间的连接断开时,通过影像传感器捕捉所述自主移动装置的影像。
步骤430:通过所述影像传感器捕捉的所述自主移动装置的影像来判断所述自主移动装置的位置。
本领域具有通常知识者在阅读完上述实施例后应能轻易理解方法400的操作流程,详细说明在此省略以省篇幅。
上文概述若干实施例的特征,使得所属领域的技术人员可较佳理解本申请的方面。所属领域的技术人员应了解,其可容易使用本申请作为用于设计或修改用于实行相同目的及/或实现本文中介绍的实施例的相同优点的其它工艺及结构的基础。所属领域的技术人员还应意识到,这些等效构造不脱离本揭露的精神及范围且其可在本文中做出各种改变、替代及更改而不脱离本揭露的精神及范围。
再者,本申请的范围不旨在限于本说明书中描述的工艺、机器、制造、物质组成、构件、方法及步骤的特定实施例。所属领域的一般技术人员将根据本揭露的揭示内容容易了解,可根据本揭露利用大体上执行与本文中描述的对应实施例相同的功能或大体上实现与其相同的结果的目前存在或后续发展的工艺、机器、制造、物质组成、构件、方法或步骤。因此,随附权利要求书旨在将这些工艺、机器、制造、物质组成、构件、方法或步骤包含于其范围内。
Claims (10)
1.一种仓储系统,其特征在于,包括:
第一自主移动装置及第二自主移动装置,其用于在仓储内移动;
伺服器,电性连接至所述第一自主移动装置及所述第二自主移动装置,其用于监控所述第一自主移动装置;以及
影像传感器,电性连接至所述伺服器,其用于捕捉所述第一自主移动装置的影像;
其中当所述第一自主移动装置与所述伺服器之间的连接断开时,所述伺服器通过所述影像传感器所捕捉的所述第一自主移动装置的影像来判断所述第一自主移动装置的位置;
所述伺服器还用于传送与其电性连接的多个自主移动装置的信息名单至所述第二自主移动装置,当所述第二自主移动装置通过设置于所述第二自主移动装置上的所述影像传感器侦测到所述第一自主移动装置且所述第一自主移动装置不在所述信息名单之中时,所述第二自主移动装置通知所述伺服器。
2.如权利要求1所述的仓储系统,其特征在于,所述影像传感器整合于安防摄像头之上。
3.如权利要求2所述的仓储系统,其特征在于,所述伺服器通过特征点在所述影像中的尺寸与位置以及所述安防摄像头的拍摄角度与位置来判断所述第一自主移动装置的位置。
4.如权利要求3所述的仓储系统,其特征在于,所述特征点是所述第一自主移动装置的整体或其中一部件或所述第一自主移动装置的机身上的识别标示。
5.如权利要求2所述的仓储系统,其特征在于,所述影像传感器还用于捕捉第二自主移动装置的影像,所述伺服器还用于通过所述影像传感器所捕捉的所述第二自主移动装置的影像、所述第二自主移动装置的位置以及所述安防摄像头的拍摄角度与位置来优化判断所述第一自主移动装置的位置的精准度。
6.如权利要求1所述的仓储系统,其特征在于,所述第二自主移动装置通过感测装置感测所述第一自主移动装置与所述第二自主移动装置的距离,且所述伺服器通过所述第一自主移动装置与所述第二自主移动装置的距离以及所述第二自主移动装置的位置来判断所述第一自主移动装置的位置。
7.如权利要求6所述的仓储系统,其特征在于,所述感测装置包括光学雷达、深度相机、超声传感器及红外传感器的至少其中之一。
8.如权利要求1所述的仓储系统,其特征在于,当所述第一自主移动装置与所述伺服器之间的连接断开时,所述伺服器还用于通过所述影像来辨识出现在所述影像中的人员的身份,并通知所述人员回传所述第一自主移动装置的位置。
9.如权利要求8所述的仓储系统,其特征在于,所述伺服器通过所述人员的外观特征或所述人员所穿戴的识别标示来判断所述人员的身份。
10.一种应用于仓储系统的方法,其特征在于,所述仓储系统包括第一自主移动装置及第二自主移动装置、伺服器和影像传感器,所述伺服器电性连接至所述第一自主移动装置及所述第二自主移动装置,所述影像传感器电性连接至所述伺服器,所述方法包括:
通过所述伺服器监控所述第一自主移动装置在仓储内的移动;
当所述第一自主移动装置与所述伺服器之间的连接断开时,通过所述影像传感器捕捉所述第一自主移动装置的影像;以及
所述伺服器通过所述影像传感器捕捉的所述第一自主移动装置的影像来判断所述第一自主移动装置的位置;
所述伺服器还传送与其电性连接的多个自主移动装置的信息名单至所述第二自主移动装置,当所述第二自主移动装置通过设置于所述第二自主移动装置上的所述影像传感器侦测到所述第一自主移动装置且所述第一自主移动装置不在所述信息名单之中时,所述第二自主移动装置通知所述伺服器。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911285796.9A CN111105455B (zh) | 2019-12-13 | 2019-12-13 | 仓储系统与相关方法 |
PCT/CN2020/133514 WO2021115185A1 (zh) | 2019-12-13 | 2020-12-03 | 仓储系统与相关方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911285796.9A CN111105455B (zh) | 2019-12-13 | 2019-12-13 | 仓储系统与相关方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111105455A CN111105455A (zh) | 2020-05-05 |
CN111105455B true CN111105455B (zh) | 2024-04-16 |
Family
ID=70422611
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911285796.9A Active CN111105455B (zh) | 2019-12-13 | 2019-12-13 | 仓储系统与相关方法 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111105455B (zh) |
WO (1) | WO2021115185A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110980084A (zh) * | 2019-12-13 | 2020-04-10 | 灵动科技(北京)有限公司 | 仓储系统及相关方法 |
CN111105455B (zh) * | 2019-12-13 | 2024-04-16 | 灵动科技(北京)有限公司 | 仓储系统与相关方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107003662A (zh) * | 2014-11-11 | 2017-08-01 | X开发有限责任公司 | 具有视觉信息交换的位置控制机器人机群 |
CN107918840A (zh) * | 2016-10-09 | 2018-04-17 | 浙江国自机器人技术有限公司 | 一种移动单元、库存物品管理系统以及定位移动单元的方法 |
CN108303096A (zh) * | 2018-02-12 | 2018-07-20 | 杭州蓝芯科技有限公司 | 一种视觉辅助激光定位系统及方法 |
CN108955683A (zh) * | 2018-04-28 | 2018-12-07 | 温州大学激光与光电智能制造研究院 | 基于全局视觉的定位方法 |
CN108955687A (zh) * | 2018-05-31 | 2018-12-07 | 湖南万为智能机器人技术有限公司 | 移动机器人的综合定位方法 |
CN110533722A (zh) * | 2019-08-30 | 2019-12-03 | 的卢技术有限公司 | 一种基于视觉词典的机器人快速重定位方法及系统 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10022867B2 (en) * | 2014-11-11 | 2018-07-17 | X Development Llc | Dynamically maintaining a map of a fleet of robotic devices in an environment to facilitate robotic action |
US9682481B2 (en) * | 2015-10-26 | 2017-06-20 | X Development Llc | Communication of information regarding a robot using an optical identifier |
EP3480798B1 (en) * | 2016-07-04 | 2021-01-06 | Sony Corporation | Robot, robot system, and recording medium |
CN109213156A (zh) * | 2018-08-27 | 2019-01-15 | 芜湖智久机器人有限公司 | 一种用于agv小车的全局引导系统及其方法 |
CN111105455B (zh) * | 2019-12-13 | 2024-04-16 | 灵动科技(北京)有限公司 | 仓储系统与相关方法 |
-
2019
- 2019-12-13 CN CN201911285796.9A patent/CN111105455B/zh active Active
-
2020
- 2020-12-03 WO PCT/CN2020/133514 patent/WO2021115185A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107003662A (zh) * | 2014-11-11 | 2017-08-01 | X开发有限责任公司 | 具有视觉信息交换的位置控制机器人机群 |
CN107918840A (zh) * | 2016-10-09 | 2018-04-17 | 浙江国自机器人技术有限公司 | 一种移动单元、库存物品管理系统以及定位移动单元的方法 |
CN108303096A (zh) * | 2018-02-12 | 2018-07-20 | 杭州蓝芯科技有限公司 | 一种视觉辅助激光定位系统及方法 |
CN108955683A (zh) * | 2018-04-28 | 2018-12-07 | 温州大学激光与光电智能制造研究院 | 基于全局视觉的定位方法 |
CN108955687A (zh) * | 2018-05-31 | 2018-12-07 | 湖南万为智能机器人技术有限公司 | 移动机器人的综合定位方法 |
CN110533722A (zh) * | 2019-08-30 | 2019-12-03 | 的卢技术有限公司 | 一种基于视觉词典的机器人快速重定位方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111105455A (zh) | 2020-05-05 |
WO2021115185A1 (zh) | 2021-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111105455B (zh) | 仓储系统与相关方法 | |
CN102692899B (zh) | 操作设施中工业车辆的控制系统及方法 | |
KR101323705B1 (ko) | 무인 화물 이송로봇을 이용한 무인 화물 이송시스템 | |
CN111448737B (zh) | 自主机器人充电曲线选择 | |
KR101038581B1 (ko) | 트랙형 이동 로봇을 이용하여 발전설비 시설물의 감시점검을 제공하기 위한 방법, 이동 로봇 시스템 및 운영방법 | |
CN106020210A (zh) | 一种基于无线终端的自动导引小车控制方法及系统 | |
US20110017693A1 (en) | Container tracking and locating systems, methods, and computer program products | |
CN109827507A (zh) | 基于定焦距相机的视觉定位换电方法及换电系统 | |
US20220371199A1 (en) | System and method for connection of service lines to trailer fronts by automated trucks | |
US11796999B2 (en) | Systems and methods for monitoring a self-driving vehicle | |
CN111465525B (zh) | 机器人充电站保护构件 | |
WO2016195596A1 (en) | Method and apparatus for coupling an automated load transporter to a moveable load | |
CN107742202A (zh) | 基于物联网的智能物流系统 | |
CN113580155B (zh) | 自主移动装置及仓储物流系统 | |
US20190196488A1 (en) | Standing Test Device for Mobile Robots | |
CN115829467A (zh) | 一种应急物流仓库管理监控系统 | |
CN113721605B (zh) | 一种气缸套货物架摆放自识别系统 | |
US20210335007A1 (en) | Active targets for automatic optical sensor alignment | |
CN106292661A (zh) | 一种基于无线终端的自动导引控制系统及控制方法 | |
WO2021115189A1 (zh) | 仓储系统及相关方法 | |
CN116070989A (zh) | 一种智慧园区外部人员管理方法、系统及存储介质 | |
CN115626588A (zh) | 无人叉车的避障方法、无人叉车及存储介质 | |
CN111131503B (zh) | 一种故障上报方法、系统、物流仓库自动送货车和辅助上报设备 | |
EP4033035A1 (en) | A system and method therein for remote operation of a working machine comprising a tool | |
CN113064425A (zh) | 一种agv设备及其导航的控制方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |