CN112699746A - 一种对象检测方法、装置、设备及存储介质 - Google Patents
一种对象检测方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN112699746A CN112699746A CN202011507878.6A CN202011507878A CN112699746A CN 112699746 A CN112699746 A CN 112699746A CN 202011507878 A CN202011507878 A CN 202011507878A CN 112699746 A CN112699746 A CN 112699746A
- Authority
- CN
- China
- Prior art keywords
- image
- preset
- elevator car
- confidence
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 173
- 238000012549 training Methods 0.000 claims abstract description 15
- 238000000034 method Methods 0.000 claims description 39
- 238000004590 computer program Methods 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 14
- 238000010586 diagram Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 10
- 238000013473 artificial intelligence Methods 0.000 description 8
- 229910000831 Steel Inorganic materials 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 239000010959 steel Substances 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000032258 transport Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000010191 image analysis Methods 0.000 description 2
- 238000007477 logistic regression Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/08—Detecting or categorising vehicles
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Indicating And Signalling Devices For Elevators (AREA)
- Maintenance And Inspection Apparatuses For Elevators (AREA)
Abstract
本申请实施例提供了一种对象检测方法、装置、设备及存储介质。对象检测方法,包括:获取预设空间内的第一图像;将所述第一图像输入至预设检测模型,得到所述第一图像中包含目标对象类型的第一置信度;所述预设检测模型基于包含所述目标对象类型的历史图像和历史置信度训练得到;在所述第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果;所述第一检测结果用于指示所述预设空间内存在所述目标对象类型的第一对象。根据本申请实施例的对象检测方法,可以避免由于第一对象的存在导致有限的空间内较为拥挤,甚至不足以容纳其他对象的情况,避免给其他对象造成不便。
Description
技术领域
本申请属于数据处理领域,尤其涉及一种对象检测方法、装置、设备及存储介质。
背景技术
现阶段,很多用户会将体积较大的对象放置在一个有限空间中。这样,会占用有限空间中的较大部分空间,当有其他对象已存在该有限空间或有其他对象欲存在于该有限空间时,可能会导致该有限空间内较为拥挤,甚至不足以容纳其他对象,给其他对象带来不便。
以有限空间为电梯轿厢,体积较大的对象为电动车为例,当电梯轿厢内存在有电动车时,电动车会占用电梯轿厢内较多的空间,这样,当有其他乘客在电梯轿厢内或者想要乘梯时,则会导致电梯轿厢内较为拥挤,甚至可能会导致其他乘客无法乘梯,给乘客带来不便。
发明内容
本申请实施例提供一种对象检测方法、装置、设备及存储介质,能够提高检测方法的成功率。
第一方面,本申请实施例提供一种对象检测方法,包括:
获取预设空间内的第一图像;
将第一图像输入至预设检测模型,得到第一图像中包含目标对象类型的第一置信度;预设检测模型基于包含目标对象类型的历史图像和历史置信度训练得到;
在第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果;第一检测结果用于指示预设空间内存在目标对象类型的第一对象。
在一些实施例中,在预设空间为电梯轿厢时,获取预设空间内的第一图像之前,还包括:
获取电梯轿厢的电梯门的开关状态;
获取预设空间内的第一图像,包括:
在电梯轿厢的电梯门处于开启状态的情况下,获取电梯轿厢内的第一图像。
在一些实施例中,在将第一图像输入至预设检测模型,得到第一图像中包含目标对象类型的第一置信度之后,还包括:
在第一置信度小于第一预设阈值且大于零的情况下,获取电梯轿厢内的第二图像;第二图像为在电梯轿厢的电梯门由开启状态切换至关闭状态后的图像;
将第二图像输入至预设检测模型,得到第二图像中包含目标对象类型的第二置信度;
在第二置信度大于或等于第一预设阈值的情况下,输出第一检测结果。
在一些实施例中,在将第二图像输入至预设检测模型,得到第二图像中包含目标对象类型的第二置信度之后,还包括:
在第二置信度小于第一预设阈值且大于零的情况下,获取电梯轿厢的应力数据和第二对象的数量;
通过预设检测函数基于应力数据和第二对象的数量,得到目标应力值;
在目标应力值大于或等于第二预设阈值的情况下,输出第一检测结果。
在一些实施例中,在得到第一图像中包含目标对象类型的第一置信度之后,还包括:
在第一置信度等于零的情况下,确定预设空间内不存在目标对象类型的第一对象。
在一些实施例中,输出第一检测结果包括:
向预设空间的控制端发送第一检测结果;
在输出第一检测结果之后,还包括:
向控制端发送提示信息,提示信息用于提示预设空间内包含第一对象。
第二方面,提供了一种对象检测装置,包括:
获取模块,用于获取预设空间内的第一图像;
检测模块,用于将第一图像输入至预设检测模型,得到第一图像中包含目标对象类型的第一置信度;预设检测模型基于包含目标对象类型的历史图像和历史置信度训练得到;
输出模块,用于在第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果;第一检测结果用于指示预设空间内存在目标对象类型的第一对象。
第三方面,本发明实施例提供了一种对象检测设备,对象检测设备包括:处理器以及存储有计算机程序指令的存储器;
处理器执行计算机程序指令时实现如第一方面的对象检测方法。
第四方面,本发明实施例提供了一种计算机存储介质,计算机存储介质上存储有计算机程序指令,计算机程序指令被处理器执行时实现如第一方面的对象检测方法。
本申请实施例提供的对象检测方法、装置、设备及存储介质,通过获取预设空间内的第一图像,将第一图像输入至基于包含目标对象类型的历史图像和历史置信度训练得到的预设检测模型,得到第一图像中包含目标对象类型的第一置信度,在第一置信度大于或等于第一预设阈值的情况下,输出用于指示预设空间内存在目标对象类型的第一对象的第一检测结果。这样,不仅可以实现预设空间(如电梯轿厢)内有无目标对象类型的第一对象(如电动车)的自动检测;而且还可以输出指示预设空间内存在目标对象类型的第一对象的第一检测结果,以使其他对象(如电梯乘客)或者工作人员可以接收到该第一检测结果,根据该第一检测结果执行相应的处理,从而可以避免由于第一对象的存在导致有限的空间内较为拥挤,甚至不足以容纳其他对象的情况,避免给其他对象造成不便。
而且,在预设空间为电梯轿厢,第一对象为电动车时,根据第一检测结果执行相应处理,还可以避免当电梯轿厢内乘客较多时,由于电动车的存在导致电梯轿厢重量分布不均带来的安全隐患,故而,实现电梯轿厢内电动车的检测,还可以提高电梯轿厢的安全性。同时,如果用户将电动车运至楼上进行充电,还会存在较大的火灾隐患,故而,实现电梯轿厢内电动车的检测,还可以进一步提高用户的安全性。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单的介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种对象检测方法的流程示意图;
图2是本申请实施例提供的一种对象检测方法的逻辑框图;
图3是本申请实施例提供的一种对象检测方法的流程示意图;
图4是本申请实施例提供的一种对象检测装置的结构示意图;
图5是本申请实施例提供的一种对象检测设备的结构示意图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例,为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及具体实施例,对本申请进行进一步详细描述。应理解,此处所描述的具体实施例仅被配置为解释本申请,并不被配置为限定本申请。对于本领域技术人员来说,本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
根据背景技术可知,有限空间会由于体积较大的对象的存在导致该有限空间较为拥挤,甚至不足以容纳其他对象,给其他对象带来不便。
以有限空间为电梯轿厢,体积较大的对象为电动车为例,现阶段,电动车作为很多用户的日常出行的主要交通工具,为防止电动车丢失、或便于给电动车充电,很多用户会将电动车通过电梯轿厢运上楼。但是,由于电动车会占据电梯轿厢的大量空间,会导致电梯轿厢内较为拥挤,甚至会导致其他乘客无法乘梯,给其他乘客带来不便。
基于上述发现,为了解决现有技术存在的技术问题,本申请实施例提供了一种对象检测方法、装置、设备及存储介质,通过获取预设空间内的第一图像,将第一图像输入至基于包含目标对象类型的历史图像和历史置信度训练得到的预设检测模型,得到第一图像中包含目标对象类型的第一置信度,在第一置信度大于或等于第一预设阈值的情况下,输出用于指示预设空间内存在目标对象类型的第一对象的第一检测结果。这样,不仅可以实现预设空间(如电梯轿厢)内有无目标对象类型的第一对象(如电动车)的自动检测;而且还可以输出指示预设空间内存在目标对象类型的第一对象的第一检测结果,以使其他对象(如电梯乘客)或者工作人员可以接收到该第一检测结果,根据该第一检测结果执行相应的处理,从而可以避免由于第一对象的存在导致有限的空间内较为拥挤,甚至不足以容纳其他对象的情况,避免给其他对象造成不便。
下面对本申请实施例提供的对象检测方法进行介绍。
图1示出了本申请实施例提供的一种对象检测方法的流程示意图。如图1所示,该对象检测方法可以包括以下步骤:
S110,获取预设空间内的第一图像。
作为一个示例,在检测预设空间内是否存在目标对象类型的第一对象时,可以先获取预设空间内的图像,即第一图像。其中,预设空间可以是任一有限空间,如可以是电梯轿厢。
S120,将第一图像输入至预设检测模型,得到第一图像中包含目标对象类型的第一置信度。
其中,预设检测模型可以是基于包含目标对象类型的历史图像和历史置信度训练得到的,历史置信度可以是前述各个历史图像中包含目标对象类型的置信度。
目标对象类型可以是预先设置的基于预设检测模型检测的对象类型,如可以是电动车等体积较大的对象类型。
作为一个示例,在获取到预设空间的额第一图像之后,可以将该第一图像输入至预先训练好的预设检测模型中。利用预设检测模型基于第一图像分析输出该第一图像中包含目标对象类型的置信度,即第一置信度,该第一置信度可以是预设识别模型输出的第一图像中可能包含有目标对象类型的概率。
S130,在第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果。
其中,第一检测结果可以用于指示预设空间内存在目标对象类型的第一对象。
第一对象可以是目标对象类型的对象,如目标对象类型可以是体积较大的对象,第一对象可以是电动车。
第一预设阈值可以是预设设置的输出第一检测结果时,允许的置信度的最小值,当置信度大于或等于该最小值时,则可以认为预设空间内存在目标对象类型的第一对象。
作为一个示例,在得到第一图像中包含目标对象类型的第一置信度之后,可以获取第一预设阈值,将第一预设阈值和第一置信度进行比较,以判断第一置信度是否大于或等于第一预设阈值。在第一置信度大于或等于第一预设阈值的情况下,可以认为预设空间内存在所述目标对象类型的第一对象,此时,可以输出第一检测结果。
本申请实施例提供的对象检测方法、装置、设备及存储介质,通过获取预设空间内的第一图像,将第一图像输入至基于包含目标对象类型的历史图像和历史置信度训练得到的预设检测模型,得到第一图像中包含目标对象类型的第一置信度,在第一置信度大于或等于第一预设阈值的情况下,输出用于指示预设空间内存在目标对象类型的第一对象的第一检测结果。这样,不仅可以实现预设空间(如电梯轿厢)内有无目标对象类型的第一对象(如电动车)的自动检测;而且还可以输出指示预设空间内存在目标对象类型的第一对象的第一检测结果,以使其他对象(如电梯乘客)或者工作人员可以接收到该第一检测结果,根据该第一检测结果执行相应的处理,从而可以避免由于第一对象的存在导致有限的空间内较为拥挤,甚至不足以容纳其他对象的情况,避免给其他对象造成不便。
在一些实施例中,预设空间可以是电梯轿厢,相应的,上述步骤S110之前还可以执行如下处理:
获取电梯轿厢的电梯门的开关状态。
此时,上述步骤S110的具体实现方式可以如下:
在电梯轿厢的电梯门处于开启状态的情况下,获取电梯轿厢内的第一图像。
作为一个示例,在预设空间为电梯轿厢时,可以先获取电梯轿厢的电梯门的开关状态,如可以是开启状态或者关闭状态。在电梯轿厢的电梯门处于开启状态时,获取电梯轿厢内的第一图像,以基于该第一图像判断电梯轿厢内是否存在目标对象类型的第一对象,如电动车。
这样,由于在电梯门开启时电动车才能进入电梯,故而基于电梯门处于开启状态时的第一图像,可以更好的可以实现电梯轿厢内的目标对象类型的第一对象的检测,提高检测结果的准确性,从而可以进一步避免由于第一对象的存在导致电梯轿厢内较为拥挤,甚至不足以容纳其他对象的情况,避免给其他对象造成不便。而且,当电梯轿厢内乘客较多时,第一对象(如电动车)的存在还会导致电梯轿厢重量分布不均,如导致重心偏向门侧,从而带来安全隐患,故而,实现电梯轿厢内电动车的检测,还可以提高电梯轿厢的安全性。同时,在第一对象为电动车时,如果用户将第一对象运至楼上进行充电,还会存在较大的火灾隐患,故而,实现电梯轿厢内电动车的检测,还可以进一步提高用户的安全性。
在一些实施例中,可以结合电梯轿厢的电梯门关闭后的第二图像实现目标对象类型的检测,相应的,在上述步骤S120之后,还可以执行如下步骤:
在第一置信度小于所述第一预设阈值且大于零的情况下,获取电梯轿厢内的第二图像;
将第二图像输入至预设检测模型,得到第二图像中包含目标对象类型的第二置信度;
在第二置信度大于或等于第一预设阈值的情况下,输出第一检测结果。
其中,第二图像为在电梯轿厢的电梯门由开启状态切换至关闭状态后的图像。
作为一个具体的示例,在第一置信度小于第一预设阈值的情况下,可以判断该第一置信度是否大于零。在第一置信度小于第一预设阈值且大于零的情况下,可以认为不确定电梯轿厢内是否存在目标对象类型的第一对象。此时,可以获取电梯轿厢的电梯门的开关状态,在电梯轿厢的电梯门处于关闭状态的情况下,可以获取电梯轿厢内的图像,即第二图像。再将第二图像输入至预设检测模型,利用预设检测模型基于第二图像分析输出第二图像中包含目标对象类型的置信度,即第二置信度。
之后,可以将第一预设阈值与第二置信度进行比较,以判断第二置信度是否大于或等于第一预设阈值。在第二置信度大于或等于第一预设阈值的情况下,可以认为电梯轿厢内存在目标对象类型的第一对象,此时,可以输出第一检测结果。
这样,在第一置信度小于第一预设阈值且大于零的情况下,即不确定电梯轿厢内是否存在目标对象类型的第一对象的情况下,结合电梯轿厢的电梯门由开启状态切换至关闭状态后的第二图像,检测预设空间内是否存在目标对象类型的第一对象,可以进一步提高对象检测结果的准确性。
在一些实施例中,还可以在第二置信度小于第一预设阈值且大于的情况下,结合电梯轿厢的应力数据和第二对象的数量,检测预设空间内是否存在目标对象类型的第一对象,相应的,其具体实现方式可以如下:
在第二置信度小于第一预设阈值且大于零的情况下,获取电梯轿厢的应力数据和第二对象的数量;
通过预设检测函数基于应力数据和第二对象的数量,得到目标应力值;
在目标应力值大于或等于第二预设阈值的情况下,输出第一检测结果。
作为一个示例,在将第一预设阈值与第二置信度进行比较后,判断第二置信度小于第一预设阈值且大于时,可以获取电梯轿厢的应力数据以及电梯轿厢内的第二对象的数量,其中,第二对象可以是除第一对象外的对象,如可以是乘客。在获取到电梯轿厢的应力数据和第二对象的数量之后,可以获取预设检测函数,通过该预设检测函数基于应力数据和第二对象的数量,计算出一个应力值,即目标应力值,前述预设检测函数可以如下:
其中,hθ(x)表示目标应力值;θTx=θ0+θ1x1+…+θnxn+mθn+1+c1θn+2,n表示电梯轿厢的钢缆绳的数量,x1,x2,…,xn表示传感器采集的第i根钢缆绳的应力,i=0,…,n+2,m表示电梯轿厢内第二对象的数量(如可以是乘客的数量)。
在计算出目标应力值之后,可以获取第二预设阈值,该第二预设阈值为预先设置的表示电梯轿厢内无目标对象类型的第一对象时的最大允许应力值,如可以是0.5。将目标应力值和第二预设阈值进行比较,判断目标应力值是否大于或等于第二预设阈值。在目标应力值大于或等于第二预设阈值的情况下,可以认为电梯轿厢内存在目标对象类型的第一对象(如电动车),此时,可以输出第一检测结果。反之,在目标应力值小于第二预设阈值的情况下,可以认为电梯轿厢内不存在目标对象类型的第一对象(如电动车)。
这样,在第一图像和第二图像的基础上,结合应力数据和第二对象的数量,检测预设空间内是否存在目标对象类型的第一对象,可以进一步提高对象检测结果的准确性,从而可以进一步避免目标对象类型的第一对象对第二对象造成不便。
在一些实施例中,在预设检测模型输出的第一置信度为零时,可以认为预设空间内不存在目标对象类型的第一对象。同样的,在预设检测模型输出的第二置信度为零时,也可以认为预设空间内不存在目标对象类型的第一对象。此时可以输出第二检测结果,第二检测结果可以用于指示预设空间中无目标对象类型的第一对象。如可以是电梯轿厢内无电动车。
在一些实施例中,上述步骤S130中输出第一检测结果的具体实现方式可以如下:
向预设空间的控制端发送第一检测结果。
此时,在输出第一检测结果之后,还可以执行如下步骤:
向控制端发送提示信息。
其中,提示信息可以用于提示预设空间内包含第一对象。
作为一个示例,在输出第一检测结果之后,可以生成用于提示预设空间中包含第一对象的提示信息,并可以将该提示信息发送至预设空间的控制端,如可以是电梯轿厢的控制端。
这样,电梯轿厢的控制端的工作人员则可以接收到该提示信息,以基于该提示信息执行相应的处理,从而可以进一步避免由于第一对象的存在导致有限的空间内较为拥挤,甚至不足以容纳其他对象的情况,避免给其他对象造成不便。
而且,在预设空间为电梯轿厢,第一对象为电动车时,基于上述方法实施例提供的方法还可以减少电动车进入电梯轿厢的情况发生,从而可以提高电梯轿厢的安全性。在此基础上,还可以减少由于用户在楼上给电动车充电引发的火灾隐患,进而还可以进一步提高用户的安全性。
为更清楚的说明本申请实施例提供的对象检测方法,现以预设空间为电梯轿厢,第一对象为电动车为例,并结合图2所示的对象检测方法的逻辑框图对上述各方法实施例提供的对象检测方法进行简单说明。
如图2所示,对象检测方法涉及到云平台、边缘计算端和电梯轿厢控制端。其中:
云平台可以包括有视频存储、数据标注、模型训练和模型下发等功能。其中,视频存储指对电梯轿厢内的摄像装置采集到的视频流进行保存,为后续的对象检测和预设检测模型的训练提供数据基础。数据标注指可以对前述视频流中包含有电动车的图像帧进行标注得到图像数据,包括对象位置和对象类别。模块训练指可以基于标注好的图像数据用图形处理器GPU进行模型训练,优化模型,提升检测准确率,得到预设检测模型。模型下发指可以用于将训练好的预设检测模型下发至边缘计算端的人工智能(ArtificialIntelligence,AI)芯片。
边缘计算端包含摄像装置和AI芯片等硬件设施,基于摄像装置和AI芯片,边缘计算短可以包括有图像采集、电动车检测、电动车判定和结果上报等功能。其中,图像采集主要是通过安装在电梯轿厢内的摄像装置(如高清摄像头)进行拍摄,得到图像。电动车检测指利用AI芯片中的深度学习算法,即预设检测模型的算法,进行推理得到图像中的对象类别的置信度。电动车判定指结合置信度和电梯传感器的应力数据,得出电梯轿厢内是否有电动车的结论。结果上报指在电梯轿厢内有电动车时进行结果上报,将开关门这段时间内的视频片段和传感器的钢缆应力数据上传至云平台,同时将提示信息发送给电梯控制端。
电梯控制端可以包括有电梯控制器、传感器数据采集、显示和语音播报功能。其中,电梯控制器包括下位机运行控制软件,其可以获取电梯运行数据如电梯门的开关状态等。传感器数据采集指可以实时通过安装在电梯不同部位的传感器采集相应的数据,并由下位机统一接收处理。显示和语音播报指收到有电梯轿厢内存电动车的提示信息后,电梯控制器可以显示和语音播报该提示信息,以提示用户禁止电动车上电梯轿厢。
作为一个具体的示例,步骤1,边缘计算端的图像采集模块,可以实时从电梯控制端获取当前电梯门的开关状态。当电梯门处于开启状态时,摄像头可以每隔t时刻采集一帧RGB图像传输给边AI芯片进行计算。摄像头安置在电梯轿厢顶部两边角落的位置,头朝下面向电梯入口。这样,能够拍摄到整个电梯轿厢和电梯门口的区域,且在电动车进入电梯轿厢时,可以减少其它人或者物对电动车的遮挡,捕获更多的电动车的图像。
步骤2,电动车检测。AI芯片中部署已经训练好的预设检测模型,该算法模型文件由云平台通过边缘网关下发。预设检测模型可以用主流的网络算法,例如Faster Rcnn(Faster RCNN是基于机器学习的目标检测方法中的常见的框架之一,它是在RCNN的基础上进行了新的优化的网络框架)、单次多框检测器(Single Shot MultiBoxDetector,SSD)或者yolo(You Only Look Once)等,对单张RGB图像中的多个物体如人、电动车和自行车等进行检测,得到这些物体在图像上的位置信息、置信度和类别。置信度反映了该区域的物体为某个类别的概率,值越大说明可信度越高,一般超过某个阈值即可。置信度的阈值可以根据实际应用场景来定,这里设定为C(0<C<1)。摄像头采集的图像数据,经过AI芯片计算得到图像中的物体信息。
步骤3,电动车判定。记电动车的置信度为C0。如果C0等于0则表示摄像头拍摄到的范围内没有电动车;如果C0>C,则表明很大概率有电动车;如果C>C0>0表示不确认是否有电动车。但此时对于电动车的位置,即是否在电梯内,和之后的运动意图是未知的,需要待电梯关门后再次进行确认。因此,在电梯启动关门之后,图像采集模块从电梯控制端获取到关门信号,摄像头再次采集电梯轿厢内的图像信息,并经过AI芯片进行模型推理,得到图像中的物体信息,记此时电动车的置信度为C1。根据两次电动车检测的置信度结果C0和C1判定电梯轿厢内是否存在电动车,若C1>C,或者0<C0<C且C1>C则判定当前电梯轿厢内存在电动车搭载行为;若C1=0则判定当前电梯轿厢内没有电动车。对于0<C1<C且C0<C的情况,此时不能非常肯定的判断出电梯轿厢内是否有电动车,造成这样的原因有很多,比如人为刻意遮挡电动车或者电梯轿厢内光线不好等等。对于这种情况,鉴于电动车的重量跟一个成年人相仿,根据电梯轿厢内载重进行辅助判定。
步骤4,辅助判定。对于0<C1<C且C0<C的情况,需要进一步判定来确定电梯轿厢内是否有电动车。如可以采用逻辑回归算法,将电梯钢缆应力和检测到的人数以及置信度C1作为自变量,进行分类得到辅助判定结果。记传感器采集的电梯钢缆应力为x1,x2,…,xn,单位为kg,n表示钢缆绳的根数,一般为4到7之间。xi越大则表示钢缆绳受到的应力越大,轿厢内当前载重也就越大。记检测到的人数量为m,则逻辑回归的预测函数可以为公式(1),根据该公式可以得到目标应力值。若目标应力值大于第二预设阈值则认为电梯轿厢内存在电动车,否则认为电梯轿厢内不存在电动车。
步骤5,结果反馈。通过电梯轿厢内是否有电动车的判定结果进行结果反馈。若电梯轿厢内有电动车,则需要将结果反馈给云平台和电梯控制端。具体的,将从开门到判定结果这段时间内的视频流和传感器的钢缆应力数据上传至云平台,供云平台查看、数据标注和模型训练使用;将报警信息发送至电梯控制端,在屏幕上显示和进行语音播报,提示用户禁止电动车上梯,同时电梯轿厢停止上下行保持开门状态,重复步骤1-4,直到判定没有电动车上梯,才恢复正常运行。
上述各步骤的实现原理和技术效果与上述各方法实施例类似,为简洁起见,在此不再赘述。
为使本申请实施例提供的对象检测方法更清楚,现以预设空间为电梯轿厢,第一对象为电动车为例,结合图3所示的对象检测方法的流程示意图进行说明。如图3所示,该方法可以包括:
S310,获取电梯轿厢的电梯门的开关状态。
S320,在电梯门为开启状态的情况下,获取第一图像。
S330,将第一图像输入预设检测模型,得到第一置信度。
S340,判断第一置信度是否大于或等于第一预设阈值。
S350,在第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果。
S360,在第一置信度小于第一预设阈值的情况下,判断第一置信度是否大于零。
S370,第一置信度大于零的情况下,获取第二图像。
S380,将第二图像输入预设检测模型,得到第二置信度。
S390,判断第二置信度大于或等于第一预设阈值。
在第二置信度大于或等于第一预设阈值的情况下,执行步骤S350。
在第二置信度小于第一预设阈值,且大于零的情况下,执行S1110,获取电梯轿厢的应力数据和第二对象的数量。
S1110,计算目标应力值。
S1120,判断目标应力值是否大于或等于第二预设阈值。
在目标应力值大于或等于第二预设阈值的情况下,执行步骤S350。否则,执行步骤S3130,控制电梯轿厢正常运行。
上述各步骤的实现原理和技术效果与上述各方法实施例类似,为简洁起见,在此不再赘述。
以上为本申请实施例提供的一种对象检测方法,基于上述对象检测方法,本申请实施例还提供了一种对象检测装置。如图4所示,该对象检测装置400可以包括:
第一获取模块410,可以用于获取预设空间内的第一图像;
检测模块420,可以用于将第一图像输入至预设检测模型,得到第一图像中包含目标对象类型的第一置信度;预设检测模型基于包含目标对象类型的历史图像和历史置信度训练得到;
输出模块430,可以用于在第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果;第一检测结果用于指示预设空间内存在目标对象类型的第一对象。
在一些实施例中,获取模块410,可以包括:
第一获取单元,用于获取电梯轿厢的电梯门的开关状态;
第二获取单元,用于:在电梯轿厢的电梯门处于开启状态的情况下,获取电梯轿厢内的第一图像。
在一些实施例中,获取模块410,还可以包括:
第三获取单元,用于在第一置信度小于第一预设阈值且大于零的情况下,获取电梯轿厢内的第二图像;第二图像为在电梯轿厢的电梯门由开启状态切换至关闭状态后的图像;
检测模块420,可以包括:
第一检测单元,用于将第二图像输入至预设检测模型,得到第二图像中包含目标对象类型的第二置信度;
输出模块430,可以包括:
第一输出单元,用于在第二置信度大于或等于第一预设阈值的情况下,输出第一检测结果。
在一些实施例中,获取模块410,还可以包括:
第四获取单元,用于在第二置信度小于第一预设阈值且大于零的情况下,获取电梯轿厢的应力数据和第二对象的数量;
第二检测单元,用于通过预设检测函数基于应力数据和第二对象的数量,得到目标应力值;
输出模块430,可以包括:
第二输出单元,用于在目标应力值大于或等于第二预设阈值的情况下,输出第一检测结果。
在一些实施例中,对象检测装置400,还可以包括:
确认模块,用于在第一置信度等于零的情况下,确定预设空间内不存在目标对象类型的第一对象。
在一些实施例中,输出模块430,可以包括:
发送单元,用于向预设空间的控制端发送第一检测结果;
对象检测装置400,还可以包括:
提示模块,用于向控制端发送提示信息,提示信息用于提示预设空间内包含第一对象。
上述对象检测装置可以用于执行上述各方法实施例提供的方法,其实现原理和效果类似,为简洁起见,在此不再赘述。
以上为本申请实施例提供的对象检测方法和装置,基于上述对象检测方法和装置,本申请还提供了一种对象检测设备,具体参见以下实施例。
图5示出了本申请实施例提供的对象检测设备的硬件结构示意图。
该对象检测设备可以包括处理器501以及存储有计算机程序指令的存储器902。
具体地,上述处理器501可以包括中央处理器(Central Processing Unit,CPU),或者特定集成电路(Application Specific Integrated Circuit,ASIC),或者可以被配置成实施本发明实施例的一个或多个集成电路。
存储器502可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器502可包括硬盘驱动器(Hard Disk Drive,HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus,USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器502可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器502可在综合网关容灾设备的内部或外部。在特定实施例中,存储器502是非易失性固态存储器。
存储器可包括只读存储器(ROM),随机存取存储器(RAM),磁盘存储介质设备,光存储介质设备,闪存设备,电气、光学或其他物理/有形的存储器存储设备。因此,通常,存储器包括一个或多个编码有包括计算机可执行指令的软件的有形(非暂态)计算机可读存储介质(例如,存储器设备),并且当该软件被执行(例如,由一个或多个处理器)时,其可操作来执行参考根据本公开的一方面的方法所描述的操作。
处理器501通过读取并执行存储器502中存储的计算机程序指令,以实现上述实施例中的任意一种对象检测方法。
在一个示例中,对象检测设备还可包括通信接口503和总线510。其中,如图5所示,处理器501、存储器502、通信接口503通过总线510连接并完成相互间的通信。
通信接口503,主要用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。
总线510包括硬件、软件或两者,将对象检测设备的部件彼此耦接在一起。举例来说而非限制,总线可包括加速图形端口(Accelerated Graphics Port,AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture,EISA)总线、前端总线(Front Side Bus,FSB)、超传输(Hyper Transport,HT)互连、工业标准架构(IndustryStandard Architecture,ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线510可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线,但本申请考虑任何合适的总线或互连。
另外,结合上述实施例中的对象检测方法,本申请实施例可提供一种计算机存储介质来实现。该计算机存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种对象检测方法。
需要明确的是,本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本申请的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本申请的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时,本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RadioFrequency,RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是,本申请中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或系统。但是,本申请不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
上面参考根据本公开的实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各方面。应当理解,流程图和/或框图中的每个方框以及流程图和/或框图中各方框的组合可以由计算机程序指令实现。这些计算机程序指令可被提供给通用计算机、专用计算机、或其它可编程数据处理装置的处理器,以产生一种机器,使得经由计算机或其它可编程数据处理装置的处理器执行的这些指令使能对流程图和/或框图的一个或多个方框中指定的功能/动作的实现。这种处理器可以是但不限于是通用处理器、专用处理器、特殊应用处理器或者现场可编程逻辑电路。还可理解,框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合,也可以由执行指定的功能或动作的专用硬件来实现,或可由专用硬件和计算机指令的组合来实现。
以上所述,仅为本申请的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。
Claims (10)
1.一种对象检测方法,其特征在于,包括:
获取预设空间内的第一图像;
将所述第一图像输入至预设检测模型,得到所述第一图像中包含目标对象类型的第一置信度;所述预设检测模型基于包含所述目标对象类型的历史图像和历史置信度训练得到;
在所述第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果;所述第一检测结果用于指示所述预设空间内存在所述目标对象类型的第一对象。
2.根据权利要求1所述的方法,其特征在于,在所述预设空间为电梯轿厢时,所述获取预设空间内的第一图像之前,还包括:
获取所述电梯轿厢的电梯门的开关状态;
所述获取预设空间内的第一图像,包括:
在所述电梯轿厢的电梯门处于开启状态的情况下,获取所述电梯轿厢内的第一图像。
3.根据权利要求2所述的方法,其特征在于,在所述将所述第一图像输入至预设检测模型,得到所述第一图像中包含目标对象类型的第一置信度之后,还包括:
在所述第一置信度小于所述第一预设阈值且大于零的情况下,获取所述电梯轿厢内的第二图像;所述第二图像为在所述电梯轿厢的电梯门由所述开启状态切换至关闭状态后的图像;
将所述第二图像输入至所述预设检测模型,得到所述第二图像中包含所述目标对象类型的第二置信度;
在所述第二置信度大于或等于所述第一预设阈值的情况下,输出所述第一检测结果。
4.根据权利要求3所述的方法,其特征在于,在所述将所述第二图像输入至所述预设检测模型,得到所述第二图像中包含所述目标对象类型的第二置信度之后,还包括:
在所述第二置信度小于所述第一预设阈值且大于零的情况下,获取所述电梯轿厢的应力数据和第二对象的数量;
通过预设检测函数基于所述应力数据和所述第二对象的数量,得到目标应力值;
在所述目标应力值大于或等于第二预设阈值的情况下,输出所述第一检测结果。
5.根据权利要求1-4任一所述的方法,其特征在于,在所述得到所述第一图像中包含目标对象类型的第一置信度之后,还包括:
在所述第一置信度等于零的情况下,确定所述预设空间内不存在所述目标对象类型的第一对象。
6.根据权利要求1-4任一所述的方法,其特征在于,所述输出第一检测结果包括:
向所述预设空间的控制端发送所述第一检测结果;
在所述输出第一检测结果之后,还包括:
向所述控制端发送提示信息,所述提示信息用于提示所述预设空间内包含第一对象。
7.一种对象检测装置,其特征在于,包括:
获取模块,用于获取预设空间内的第一图像;
检测模块,用于将所述第一图像输入至预设检测模型,得到所述第一图像中包含目标对象类型的第一置信度;所述预设检测模型基于包含所述目标对象类型的历史图像和历史置信度训练得到;
输出模块,用于在所述第一置信度大于或等于第一预设阈值的情况下,输出第一检测结果;所述第一检测结果用于指示所述预设空间内存在所述目标对象类型的第一对象。
8.根据权利要求7所述的装置,其特征在于,在所述预设空间为电梯轿厢时,所述获取模块,包括:
第一获取单元,用于获取所述电梯轿厢的电梯门的开关状态;
第二获取单元,用于在所述电梯轿厢的电梯门处于开启状态的情况下,获取所述电梯轿厢内的第一图像。
9.一种对象检测设备,其特征在于,所述设备包括:处理器以及存储有计算机程序指令的存储器;
所述处理器执行所述计算机程序指令时实现如权利要求1-6任意一项所述的对象检测方法。
10.一种计算机存储介质,其特征在于,所述计算机存储介质上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现如权利要求1-6任意一项所述的对象检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011507878.6A CN112699746A (zh) | 2020-12-18 | 2020-12-18 | 一种对象检测方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011507878.6A CN112699746A (zh) | 2020-12-18 | 2020-12-18 | 一种对象检测方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112699746A true CN112699746A (zh) | 2021-04-23 |
Family
ID=75507488
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011507878.6A Pending CN112699746A (zh) | 2020-12-18 | 2020-12-18 | 一种对象检测方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112699746A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113671489A (zh) * | 2021-08-09 | 2021-11-19 | 珠海格力电器股份有限公司 | 状态提醒方法及装置、电子设备和计算机可读存储介质 |
CN118190633A (zh) * | 2024-05-17 | 2024-06-14 | 云南通衢工程检测有限公司 | 一种钢绞线钢丝应力测试仪应力测试控制系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190130230A1 (en) * | 2017-10-26 | 2019-05-02 | Samsung Sds Co., Ltd. | Machine learning-based object detection method and apparatus |
CN110127469A (zh) * | 2019-05-13 | 2019-08-16 | 苏州妙文信息科技有限公司 | 一种防止电梯搭载电动车时的判别方法 |
CN110298265A (zh) * | 2019-06-10 | 2019-10-01 | 东南大学 | 一种基于yolo神经网络的电梯中特定目标检测方法 |
CN111898430A (zh) * | 2020-06-25 | 2020-11-06 | 北京电通慧梯物联网科技有限公司 | 基于深度学习的电梯轿厢人员智能识别方法 |
-
2020
- 2020-12-18 CN CN202011507878.6A patent/CN112699746A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190130230A1 (en) * | 2017-10-26 | 2019-05-02 | Samsung Sds Co., Ltd. | Machine learning-based object detection method and apparatus |
CN110127469A (zh) * | 2019-05-13 | 2019-08-16 | 苏州妙文信息科技有限公司 | 一种防止电梯搭载电动车时的判别方法 |
CN110298265A (zh) * | 2019-06-10 | 2019-10-01 | 东南大学 | 一种基于yolo神经网络的电梯中特定目标检测方法 |
CN111898430A (zh) * | 2020-06-25 | 2020-11-06 | 北京电通慧梯物联网科技有限公司 | 基于深度学习的电梯轿厢人员智能识别方法 |
Non-Patent Citations (1)
Title |
---|
叶凯: ""基于图像处理的电梯轿厢拥挤度识别系统的研究"" * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113671489A (zh) * | 2021-08-09 | 2021-11-19 | 珠海格力电器股份有限公司 | 状态提醒方法及装置、电子设备和计算机可读存储介质 |
CN113671489B (zh) * | 2021-08-09 | 2023-10-17 | 珠海格力电器股份有限公司 | 状态提醒方法及装置、电子设备和计算机可读存储介质 |
CN118190633A (zh) * | 2024-05-17 | 2024-06-14 | 云南通衢工程检测有限公司 | 一种钢绞线钢丝应力测试仪应力测试控制系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109165620B (zh) | 一种电动车的检测方法、系统及终端设备 | |
CN105390021B (zh) | 车位状态的检测方法及装置 | |
CN101025825B (zh) | 异常行为探测装置 | |
CN112699746A (zh) | 一种对象检测方法、装置、设备及存储介质 | |
CN109447090B (zh) | 一种屏蔽门障碍物检测方法及检测系统 | |
CN107705572A (zh) | 停车场车辆控制方法、装置、系统及存储介质 | |
CN112396709B (zh) | 基于超宽带通信的终端交互方法及装置、介质、电子设备 | |
JP2008130086A (ja) | 分類境界確定方法及び分類境界確定装置 | |
CN109919066B (zh) | 一种检测轨道交通车厢内乘客密度异常的方法和装置 | |
CN109508667A (zh) | 一种电梯视频防夹方法及电梯视频监控装置 | |
CN111914656A (zh) | 一种人员行为检测方法、装置、电子设备及存储介质 | |
JP2021182131A (ja) | 情報を出力するための方法、装置及びシステム、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム | |
JP6483214B1 (ja) | エレベータシステム及びエレベータの迷子検出方法 | |
CN113615166B (zh) | 事故检测装置及事故检测方法 | |
JP2011011871A (ja) | エレベータの制御装置 | |
CN110634120B (zh) | 一种车辆损伤判别方法及装置 | |
CN110852253A (zh) | 梯控场景检测方法、装置及电子设备 | |
CN113955600B (zh) | 非机动车监测方法、电梯监测系统及存储介质 | |
CN114455414B (zh) | 电梯乘客晕倒告警方法及装置、电子设备 | |
CN213424011U (zh) | 一种用于旅检通道客行识别的监控系统 | |
CN114241752A (zh) | 场端拥堵提示方法、装置、设备及计算机可读存储介质 | |
CN112261380A (zh) | 一种电梯的控制方法和装置 | |
CN114359839A (zh) | 识别电动车进入电梯的方法及系统 | |
CN114167508A (zh) | 一种安检装置及方法 | |
JP5653093B2 (ja) | 鉄道車両用ドアの安全確認装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20210423 |