CN116758580A - 底栖生物识别方法、装置、电子设备及存储介质 - Google Patents
底栖生物识别方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116758580A CN116758580A CN202310500988.7A CN202310500988A CN116758580A CN 116758580 A CN116758580 A CN 116758580A CN 202310500988 A CN202310500988 A CN 202310500988A CN 116758580 A CN116758580 A CN 116758580A
- Authority
- CN
- China
- Prior art keywords
- benthonic
- organism
- optical image
- species
- organisms
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 81
- 230000003287 optical effect Effects 0.000 claims abstract description 151
- 230000000877 morphologic effect Effects 0.000 claims abstract description 64
- 238000000605 extraction Methods 0.000 claims abstract description 21
- 238000004590 computer program Methods 0.000 claims description 16
- 230000004044 response Effects 0.000 claims description 7
- 239000003086 colorant Substances 0.000 claims description 6
- 241000894007 species Species 0.000 description 104
- 230000008569 process Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 241001465754 Metazoa Species 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 239000003643 water by type Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
- Y02A40/80—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in fisheries management
- Y02A40/81—Aquaculture, e.g. of fish
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种底栖生物识别方法、装置、电子设备及存储介质,通过获取底栖生物的光学图像,对底栖生物的光学图像进行颜色重建,得到底栖生物的重建光学图像,对底栖生物的重建光学图像进行特征提取,得到底栖生物的形态特征信息,将底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出底栖生物的物种。相较于现有技术,本公开由于对底栖生物的光学图像进行颜色重建,得到底栖生物的重建光学图像,可以提高水下光学图像质量,进而提取出底栖生物的形态特征信息,将形态特征信息与特征数据库中的物种进行匹配,确定出底栖生物的物种,不需要人工识别,提高了识别效率、识别准确度,可以应用于对各种生物识别,普遍适应性强。
Description
技术领域
本公开涉及生物识别技术领域,尤其涉及一种底栖生物识别方法、装置、电子设备及存储介质。
背景技术
底栖生物是栖息于海洋或内陆水域底内或底表的生物,也是当前深海潜在资源和环境保护的关键目标。在大洋生态环境调查过程中,对于深海底栖生物目标的探测方式,目前主要采用的方法是首先通过光学摄像拖体、自主水下机器人(AUV)、有缆水下机器人(ROV)、深海着陆器(Lander)等水下无人系统拍摄含有底栖生物目标的照片,然后生物专业人员根据收集到的生物照片进行离线人工识别与类别标注。
传统底栖生物识别技术采用目视解译方法,仅依靠人的眼睛判断照片中的生物种类,目视解译首先需要了解各类深海大型底栖生物特征,然后根据特征分析照片中的生物,确定底栖生物的类别。但是,上述方法需要全过程人工参与,导致了过高的主观性且对解译人员的专业性有较高要求,而且随着海洋大型底栖生物种类和数量的增多,人工识别方法已无法满足海洋生物识别技术对识别效率、识别准确度和普适性的要求。
发明内容
为了解决上述技术问题,本公开提供了一种底栖生物识别方法、装置、电子设备及存储介质,以提高底栖生物的识别效率、识别准确度和普适性。
第一方面,本公开实施例提供一种底栖生物识别方法,所述方法包括:
获取底栖生物的光学图像;
对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像;
对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息;
将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
在一些实施例中,所述对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像之前,所述方法还包括:
对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下。
在一些实施例中,所述对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下,包括:
响应于对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像划分为至少一个类别;
分别为至少一个类别中的每个类别设置一个相应的目录;
对于任意一张所述底栖生物的光学图像,若所述光学图像中含有一个类别的底栖生物,将所述底栖生物的光学图像分类到所述类别相应的目录下;
若所述光学图像中含有多个类别的底栖生物,则将所述光学图像同时分类到多个类别相应的目录下。
在一些实施例中,所述底栖生物的形态特征信息包括所述底栖生物的外观特征信息以及所述底栖生物的几何特征信息;
所述对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息,包括:
对所述底栖生物的重建光学图像进行外观特征提取,得到所述底栖生物的外观特征信息,所述外观特征信息至少包括所述底栖生物的颜色、图斑、触角、角刺、形状;
对所述底栖生物的重建光学图像进行几何特征提取,得到所述底栖生物的几何特征信息,所述几何特征信息至少包括所述底栖生物的长、宽、周长、面积、圆形度。
在一些实施例中,所述将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种,包括:
根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,得到初步识别结果;
若所述初步识别结果中识别出至少一个相似物种,则分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种。
在一些实施例中,所述分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,包括:
确定所述底栖生物的几何特征信息中每个指标对应的权重;
根据所述底栖生物的几何特征信息、所述底栖生物的几何特征信息中每个指标对应的权重以及所述每个相似物种的特征信息,计算出所述底栖生物与所述每个相似物种的贴近度。
在一些实施例中,所述方法还包括:
若所述初步识别结果中未识别出相似物种,则响应于对所述底栖生物的形态特征信息进行人工识别,识别出所述底栖生物的物种以及所述底栖生物的特征信息,并将所述底栖生物的物种以及所述底栖生物的特征信息添加到所述特征数据库中。
第二方面,本公开实施例提供一种底栖生物识别装置,包括:
获取模块,用于获取底栖生物的光学图像;
重建模块,用于对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像;
得到模块,用于对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息;
确定模块,用于将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
第三方面,本公开实施例提供一种电子设备,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如第一方面所述的方法。
第四方面,本公开实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现如第一方面所述的方法。
第五方面,本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如第一方面所述的方法。
本公开实施例提供的底栖生物识别方法、装置、电子设备及存储介质,通过获取底栖生物的光学图像,对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像,对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息,将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。相较于现有技术,本公开由于对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像,可以提高水下光学图像质量,进而从重建光学图像中提取出所述底栖生物的形态特征信息,将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种,不需要人工识别,提高了识别效率、识别准确度,可以应用于对各种生物识别,普遍适应性强。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的底栖生物识别方法流程图;
图2为本公开另一实施例提供的底栖生物识别方法流程图;
图3为本公开另一实施例提供的底栖生物识别方法流程图;
图4为本公开实施例提供的底栖生物识别装置的结构示意图;
图5为本公开实施例提供的电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点,下面将对本公开的方案进行进一步描述。需要说明的是,在不冲突的情况下,本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开,但本公开还可以采用其他不同于在此描述的方式来实施;显然,说明书中的实施例只是本公开的一部分实施例,而不是全部的实施例。
传统底栖生物识别技术采用目视解译方法,仅依靠人的眼睛判断照片中的生物种类,目视解译首先需要了解各类深海大型底栖动物特征,然后根据特征分析照片中的动物,确定底栖动物的类别。但是,上述方法需要全过程人工参与,导致了过高的主观性且对解译人员的专业性有较高要求,而且随着海洋大型底栖动物种类和数量的增多,人工识别方法已无法满足海洋生物识别技术对识别效率、识别准确度和普适性的要求。针对该问题,本公开实施例提供了一种底栖生物识别方法,下面结合具体的实施例对该方法进行介绍。
图1为本公开实施例提供的底栖生物识别方法流程图,该方法可以应用于电子设备,该方法可以应用于对底栖生物进行识别的场景,不需要人工识别,提高了识别效率、识别准确度和普适性。可以理解的是,本公开实施例提供的底栖生物识别方法还可以应用在其他场景中。
下面对图1所示的底栖生物识别方法进行介绍,该方法包括如下几个步骤:
S101、获取底栖生物的光学图像。
可选的,电子设备获取底栖生物的光学图像。底栖生物的光学图像可以是航次中收集到的底栖生物光学图像,也可以是通过其他来源得到的,底栖生物的光学图像可以存储在电子设备中,也可以存储在服务器中,本公开实施例不对底栖生物的光学图像的来源和存储位置做具体限定。
S102、对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像。
获取到底栖生物的光学图像之后,电子设备对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像,可以提高水下光学图像质量,可以更好地识别出底栖生物。在一些实施例中,电子设备基于Sea-thru算法对所述底栖生物的光学图像进行水下图像颜色重建,得到所述底栖生物的重建光学图像。可以理解的是,本公开还可以通过其他方法对所述底栖生物的光学图像进行水下图像颜色重建,在此不做限定。
S103、对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息。
在得到所述底栖生物的重建光学图像之后,电子设备对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息。在一些实施例中,可以利用预训练的特征提取模型提取所述底栖生物的形态特征信息,在一些实施例中,可以利用特征提取算法提取所述底栖生物的形态特征信息。可以理解的是,本公开还可以通过其他方法对底栖生物的重建光学图像进行特征提取,在此不做限定。
S104、将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
在得到所述底栖生物的形态特征信息之后,进一步,电子设备将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。在一些实施例中,如果匹配成功,则将与底栖生物匹配的物种确定为所述底栖生物的物种;如果未匹配成功,则响应于人工识别的结果,确定出所述底栖生物的物种。
在一些实施例中,特征数据库是通过如下方法建立的:通过查阅文献和调查资料,提炼出底栖生物的特征信息,特征信息包括颜色、图斑、尺寸、圆形度、有无角刺和角刺数量、有无触角和触角数量等,将底栖生物的每个物种以及该物种对应的特征信息存储到特征数据库,并不断对特征数据库进行更新,从而建立出底栖生物的特征数据库。
本公开实施例通过获取底栖生物的光学图像,对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像,对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息,将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。相较于现有技术,本公开由于对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像,可以提高水下光学图像质量,进而从重建光学图像中提取出所述底栖生物的形态特征信息,将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种,不需要人工识别,提高了识别效率、识别准确度,可以应用于对各种生物识别,普遍适应性强。
图2为本公开另一实施例提供的底栖生物识别方法流程图,如图2所示,该方法包括如下几个步骤:
S201、获取底栖生物的光学图像。
具体的,S201和S101的实现过程和原理一致,此处不再赘述。
S202、对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下。
本步骤中,电子设备对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下。具体的,用户会对所述底栖生物的光学图像进行分类整理的操作,电子设备响应于用户对所述底栖生物的光学图像进行分类整理的操作,将所述底栖生物的光学图像分类到相应的目录下。
在一些实施例中,S202可以包括但不限于S2021、S2022、S2023、S2024:
S2021、响应于对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像划分为至少一个类别;
S2022、分别为至少一个类别中的每个类别设置一个相应的目录;
S2023、对于任意一张所述底栖生物的光学图像,若所述光学图像中含有一个类别的底栖生物,将所述底栖生物的光学图像分类到所述类别相应的目录下;
S2024、若所述光学图像中含有多个类别的底栖生物,则将所述光学图像同时分类到多个类别相应的目录下。
S203、对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像。
具体的,S203和S102的实现过程和原理一致,此处不再赘述。
S204、对所述底栖生物的重建光学图像进行外观特征提取,得到所述底栖生物的外观特征信息,所述外观特征信息至少包括所述底栖生物的颜色、图斑、触角、角刺、形状。
在一些实施例中,电子设备可以对所述底栖生物的重建光学图像进行外观特征提取,得到所述底栖生物的外观特征信息,所述外观特征信息至少包括所述底栖生物的颜色、图斑、触角(包括有无触角和触角数量)、角刺(包括有无角刺和角刺数量)、形状等。
S205、对所述底栖生物的重建光学图像进行几何特征提取,得到所述底栖生物的几何特征信息,所述几何特征信息至少包括所述底栖生物的长、宽、周长、面积、圆形度。
在一些实施例中,电子设备可以对所述底栖生物的重建光学图像进行几何特征提取,得到所述底栖生物的几何特征信息,所述几何特征信息至少包括所述底栖生物的长、宽、周长、面积、圆形度等。在一些实施例中,底栖生物的长、宽可以直接提取出来,底栖生物的周长、面积、圆形度可以通过计算得到。
具体的,可以根据底栖生物的长(高)与宽(直径),计算该底栖生物的最小外接矩形的面积和周长,面积=长×宽,周长=(长+宽)×2。圆形度能代表底栖生物的基本轮廓形态,计算圆形度的公式如下所示:
其中,C为圆形度,P为区域周长,A为区域面积。
S206、将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
具体的,S206和S104的实现过程和原理一致,此处不再赘述。
本公开实施例通过获取底栖生物的光学图像,对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下,对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像。进一步,对所述底栖生物的重建光学图像进行外观特征提取,得到所述底栖生物的外观特征信息,所述外观特征信息至少包括所述底栖生物的颜色、图斑、触角、角刺、形状,对所述底栖生物的重建光学图像进行几何特征提取,得到所述底栖生物的几何特征信息,所述几何特征信息至少包括所述底栖生物的长、宽、周长、面积、圆形度。进而将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。本公开由于对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下,为后续底栖生物识别降低难度,便于后续对底栖生物进行识别,对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像,可以提高水下光学图像质量,可以更好地识别出底栖生物,进而从重建光学图像中提取出所述底栖生物的形态特征信息,将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种,不需要人工识别,提高了识别效率、识别准确度,可以应用于对各种生物识别,普遍适应性强。
图3为本公开另一实施例提供的底栖生物识别方法流程图,如图3所示,该方法包括如下几个步骤:
S301、获取底栖生物的光学图像。
具体的,S301和S101的实现过程和原理一致,此处不再赘述。
S302、对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下。
具体的,S302和S202的实现过程和原理一致,此处不再赘述。
S303、对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像。
具体的,S303和S102的实现过程和原理一致,此处不再赘述。
S304、对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息。
具体的,S304和S103的实现过程和原理一致,此处不再赘述。
在一些实施例中,所述底栖生物的形态特征信息包括所述底栖生物的外观特征信息以及所述底栖生物的几何特征信息。
S305、根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,得到初步识别结果。
形态特征信息包括所述底栖生物的外观特征信息和所述底栖生物的几何特征信息,电子设备根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,得到初步识别结果。具体的,可以根据底栖生物的颜色、图斑、触角(包括有无触角和触角数量)、角刺(包括有无角刺和角刺数量)、形状等外观特征信息与特征数据库中的各个物种的特征信息进行比对,得到初步识别结果。可选的,初步识别结果可以包括识别出至少一个相似物种、或未识别出相似物种。
S306、若所述初步识别结果中识别出至少一个相似物种,则分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种。
本实施例中,如果所述初步识别结果中识别出至少一个相似物种,则分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种。
具体的,S306中的分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度可以包括但不限于S3061、S3062:
S3061、确定所述底栖生物的几何特征信息中每个指标对应的权重。
电子设备中预先存储了所述底栖生物的几何特征信息中每个指标与权重之间的对应关系,电子设备可以根据所述对应关系确定所述底栖生物的几何特征信息中每个指标对应的权重。
在一些实施例中,几何特征信息包括底栖生物的长、宽、周长、面积和圆形度5项指标。由于不同指标的物理性质与量纲不同,各指标之间可能不具有可比性。因此,在数据分析前可以对不同指标进行归一化处理,去除数据的单位限制,消除各特征分量幅度差异的影响。数据归一化方法如下所示:
例如,长、宽、周长、面积和圆形度5项指标分别为5、3、16、15、1,取5项指标的最大值做分母,5项指标分别做分子,得到归一化后的底栖生物的长、宽、周长、面积和圆形度分别为5/16、3/16、1、15/16、1/16。
进一步,将所述底栖生物的几何特征信息中每个指标权重w设为wj=(w1,w2,w3,w4,w5),即长对应的权重为w1,宽对应的权重为w2,周长对应的权重为w3,面积对应的权重为w4,圆形度对应的权重为w5。
S3062、根据所述底栖生物的几何特征信息、所述底栖生物的几何特征信息中每个指标对应的权重以及所述每个相似物种的特征信息,计算出所述底栖生物与所述每个相似物种的贴近度。
在确定出所述底栖生物的几何特征信息中每个指标对应的权重之后,电子设备可以根据所述底栖生物的几何特征信息、所述底栖生物的几何特征信息中每个指标对应的权重以及所述每个相似物种的特征信息,计算出所述底栖生物与所述每个相似物种的贴近度。
具体的,设待识别的底栖生物B有m个相似物种,即A1,A2,...Am。若存在某一个相似物种的贴近度N(Ak,B)=max{N(Ai,B),1≤i≤m},则认为B与Ak最贴近,即可判定B属于Ak类型。
设A,B为论域U上的相似物种,则二者的贴近度为:
N(A,B)=1/2[A·B+(1-A⊙B)]
该贴近度也称为格贴近度,其中,A·B=max{A(x)∧B(x)},为相似物种A和B的内积;A⊙B=min{A(x)∨B(x)},为相似物种A和B的外积。
引入权重因子wj后,贴近度公式需做如下修正:
电子设备根据上述公式计算出所述底栖生物与所述每个相似物种的贴近度,进而将最大贴近度相对应的物种确定为所述底栖生物的物种。
在一些实施例中,若所述初步识别结果中未识别出相似物种,则响应于对所述底栖生物的形态特征信息进行人工识别,识别出所述底栖生物的物种以及所述底栖生物的特征信息,并将所述底栖生物的物种以及所述底栖生物的特征信息添加到所述特征数据库中。
如果所述初步识别结果中未识别出相似物种,则响应于对所述底栖生物的形态特征信息进行人工识别,识别出所述底栖生物的物种以及所述底栖生物的特征信息,当识别出所述底栖生物为新物种时,将底栖生物的物种以及所述底栖生物的特征信息补充到特征数据库中,逐步完善特征数据库。
本公开实施例通过获取底栖生物的光学图像,对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下,对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像。进一步,对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息,根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,得到初步识别结果。进而若所述初步识别结果中识别出至少一个相似物种,则分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种。由于先根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,可以降低识别难度,减少后续计算,当识别出至少一个相似物种时,分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种,提高了识别效率、识别准确度,可以应用于对各种生物识别,普遍适应性强。
图4为本公开实施例提供的底栖生物识别装置的结构示意图。该底栖生物识别装置可以是如上实施例的电子设备,或者底栖生物识别装置可以该电子设备中的部件或组件。本公开实施例提供的底栖生物识别装置可以执行底栖生物识别方法实施例提供的处理流程,如图4所示,底栖生物识别装置40包括:获取模块41、重建模块42、得到模块43、确定模块44;其中,获取模块41用于获取底栖生物的光学图像;重建模块42用于对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像;得到模块43用于对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息;确定模块44用于将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
可选的,所述装置还包括:分类模块45;分类模块45用于对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下。
可选的,所述分类模块45对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下时,具体用于:响应于对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像划分为至少一个类别;分别为至少一个类别中的每个类别设置一个相应的目录;对于任意一张所述底栖生物的光学图像,若所述光学图像中含有一个类别的底栖生物,将所述底栖生物的光学图像分类到所述类别相应的目录下;若所述光学图像中含有多个类别的底栖生物,则将所述光学图像同时分类到多个类别相应的目录下。
可选的,所述底栖生物的形态特征信息包括所述底栖生物的外观特征信息以及所述底栖生物的几何特征信息;
所述得到模块43对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息时,具体用于:对所述底栖生物的重建光学图像进行外观特征提取,得到所述底栖生物的外观特征信息,所述外观特征信息至少包括所述底栖生物的颜色、图斑、触角、角刺、形状;对所述底栖生物的重建光学图像进行几何特征提取,得到所述底栖生物的几何特征信息,所述几何特征信息至少包括所述底栖生物的长、宽、周长、面积、圆形度。
可选的,所述确定模块44将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种时,具体用于:根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,得到初步识别结果;若所述初步识别结果中识别出至少一个相似物种,则分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种。
可选的,所述确定模块44分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度时,具体用于:确定所述底栖生物的几何特征信息中每个指标对应的权重;根据所述底栖生物的几何特征信息、所述底栖生物的几何特征信息中每个指标对应的权重以及所述每个相似物种的特征信息,计算出所述底栖生物与所述每个相似物种的贴近度。
可选的,所述装置还包括:添加模块46;添加模块46用于当未识别出相似物种时,响应于对所述底栖生物的形态特征信息进行人工识别,识别出所述底栖生物的物种以及所述底栖生物的特征信息,并将所述底栖生物的物种以及所述底栖生物的特征信息添加到所述特征数据库中。
图4所示实施例的底栖生物识别装置可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图5为本公开实施例提供的电子设备的结构示意图。本公开实施例提供的电子设备可以执行底栖生物识别方法实施例提供的处理流程,如图5所示,电子设备50包括:存储器51、处理器52、计算机程序和通讯接口53;其中,计算机程序存储在存储器51中,并被配置为由处理器52执行如上所述的底栖生物识别方法。
另外,本公开实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现上述实施例所述的底栖生物识别方法。
此外,本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如上所述的底栖生物识别方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(Hyper Text TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
获取底栖生物的光学图像;
对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像;
对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息;
将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
另外,该电子设备还可以执行如上所述的底栖生物识别方法中的其他步骤。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种底栖生物识别方法,其特征在于,包括:
获取底栖生物的光学图像;
对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像;
对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息;
将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
2.根据权利要求1所述的方法,其特征在于,所述对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像之前,所述方法还包括:
对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下。
3.根据权利要求2所述的方法,其特征在于,所述对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像分类到相应的目录下,包括:
响应于对所述底栖生物的光学图像进行分类整理,将所述底栖生物的光学图像划分为至少一个类别;
分别为至少一个类别中的每个类别设置一个相应的目录;
对于任意一张所述底栖生物的光学图像,若所述光学图像中含有一个类别的底栖生物,将所述底栖生物的光学图像分类到所述类别相应的目录下;
若所述光学图像中含有多个类别的底栖生物,则将所述光学图像同时分类到多个类别相应的目录下。
4.根据权利要求1所述的方法,其特征在于,所述底栖生物的形态特征信息包括所述底栖生物的外观特征信息以及所述底栖生物的几何特征信息;
所述对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息,包括:
对所述底栖生物的重建光学图像进行外观特征提取,得到所述底栖生物的外观特征信息,所述外观特征信息至少包括所述底栖生物的颜色、图斑、触角、角刺、形状;
对所述底栖生物的重建光学图像进行几何特征提取,得到所述底栖生物的几何特征信息,所述几何特征信息至少包括所述底栖生物的长、宽、周长、面积、圆形度。
5.根据权利要求4所述的方法,其特征在于,所述将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种,包括:
根据所述底栖生物的外观特征信息对特征数据库中的各物种进行初步识别,得到初步识别结果;
若所述初步识别结果中识别出至少一个相似物种,则分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,将所述至少一个相似物种中贴近度最大的物种确定为所述底栖生物的物种。
6.根据权利要求5所述的方法,其特征在于,所述分别计算所述底栖生物的形态特征信息与每个相似物种的特征信息的贴近度,包括:
确定所述底栖生物的几何特征信息中每个指标对应的权重;
根据所述底栖生物的几何特征信息、所述底栖生物的几何特征信息中每个指标对应的权重以及所述每个相似物种的特征信息,计算出所述底栖生物与所述每个相似物种的贴近度。
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
若所述初步识别结果中未识别出相似物种,则响应于对所述底栖生物的形态特征信息进行人工识别,识别出所述底栖生物的物种以及所述底栖生物的特征信息,并将所述底栖生物的物种以及所述底栖生物的特征信息添加到所述特征数据库中。
8.一种底栖生物识别装置,其特征在于,包括:
获取模块,用于获取底栖生物的光学图像;
重建模块,用于对所述底栖生物的光学图像进行颜色重建,得到所述底栖生物的重建光学图像;
得到模块,用于对所述底栖生物的重建光学图像进行特征提取,得到所述底栖生物的形态特征信息;
确定模块,用于将所述底栖生物的形态特征信息与特征数据库中的各物种的特征信息进行匹配,确定出所述底栖生物的物种。
9.一种电子设备,其特征在于,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如权利要求1-7中任一所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310500988.7A CN116758580A (zh) | 2023-05-05 | 2023-05-05 | 底栖生物识别方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310500988.7A CN116758580A (zh) | 2023-05-05 | 2023-05-05 | 底栖生物识别方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116758580A true CN116758580A (zh) | 2023-09-15 |
Family
ID=87952170
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310500988.7A Pending CN116758580A (zh) | 2023-05-05 | 2023-05-05 | 底栖生物识别方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116758580A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101477630A (zh) * | 2009-02-17 | 2009-07-08 | 吴俊� | 智能化水处理微生物机器视觉辨识系统和方法 |
CN110674823A (zh) * | 2019-09-26 | 2020-01-10 | 中国科学院声学研究所 | 一种基于深海大型底栖动物自动识别的样本库构建方法 |
US20210289759A1 (en) * | 2016-12-15 | 2021-09-23 | University Of The Philippines | Estimating fish size, population density, species distribution and biomass |
CN114299332A (zh) * | 2021-12-22 | 2022-04-08 | 苏州热工研究院有限公司 | 核电厂冷源海生物智能探测方法及系统 |
CN114937201A (zh) * | 2022-07-04 | 2022-08-23 | 中国海洋大学三亚海洋研究院 | 一种海洋生物目标检测算法模型的搭建方法及识别方法 |
CN115147862A (zh) * | 2022-04-13 | 2022-10-04 | 中国科学院水生生物研究所 | 底栖动物自动识别方法、系统、电子设备和可读存储介质 |
CN115984341A (zh) * | 2023-03-20 | 2023-04-18 | 深圳市朗诚科技股份有限公司 | 海洋水质微生物检测方法、装置、设备及存储介质 |
-
2023
- 2023-05-05 CN CN202310500988.7A patent/CN116758580A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101477630A (zh) * | 2009-02-17 | 2009-07-08 | 吴俊� | 智能化水处理微生物机器视觉辨识系统和方法 |
US20210289759A1 (en) * | 2016-12-15 | 2021-09-23 | University Of The Philippines | Estimating fish size, population density, species distribution and biomass |
CN110674823A (zh) * | 2019-09-26 | 2020-01-10 | 中国科学院声学研究所 | 一种基于深海大型底栖动物自动识别的样本库构建方法 |
CN114299332A (zh) * | 2021-12-22 | 2022-04-08 | 苏州热工研究院有限公司 | 核电厂冷源海生物智能探测方法及系统 |
CN115147862A (zh) * | 2022-04-13 | 2022-10-04 | 中国科学院水生生物研究所 | 底栖动物自动识别方法、系统、电子设备和可读存储介质 |
CN114937201A (zh) * | 2022-07-04 | 2022-08-23 | 中国海洋大学三亚海洋研究院 | 一种海洋生物目标检测算法模型的搭建方法及识别方法 |
CN115984341A (zh) * | 2023-03-20 | 2023-04-18 | 深圳市朗诚科技股份有限公司 | 海洋水质微生物检测方法、装置、设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
D AKKAYNAK等: "Sea-thru: A Method For Removing Water From Underwater Images", 《PROCEEDINGS OF THE IEEE/CVF CONFERENCE ON CVPR》, pages 1 - 10 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yamada et al. | Learning features from georeferenced seafloor imagery with location guided autoencoders | |
CN111680176A (zh) | 基于注意力与双向特征融合的遥感图像检索方法及系统 | |
JP2008097607A (ja) | 入力イメージを自動的に分類する方法 | |
CN112541458A (zh) | 基于元学习的域自适应的人脸识别方法、系统、装置 | |
CN114330488A (zh) | 一种多模态数据处理方法、装置、设备及存储介质 | |
WO2016037844A1 (en) | Method and apparatus for image retrieval with feature learning | |
CN109376783B (zh) | 机器人自适应地形分类方法、系统与计算机可读存储介质 | |
CN111310690B (zh) | 基于cn和三通道胶囊网络的森林火灾识别方法及装置 | |
CN114926469A (zh) | 语义分割模型训练方法、语义分割方法、存储介质及终端 | |
Thompson et al. | finFindR: Computer-assisted recognition and identification of bottlenose dolphin photos in r | |
Anand et al. | Pore detection in high-resolution fingerprint images using deep residual network | |
Ying et al. | Tyre pattern image retrieval–current status and challenges | |
CN115115863A (zh) | 水面多尺度目标检测方法、装置及系统和存储介质 | |
López-Cifuentes et al. | Attention-based knowledge distillation in scene recognition: the impact of a dct-driven loss | |
Mbani et al. | Implementation of an automated workflow for image-based seafloor classification with examples from manganese-nodule covered seabed areas in the Central Pacific Ocean | |
CN111291712B (zh) | 基于插值的cn和胶囊网络的森林火灾识别方法及装置 | |
CN116758580A (zh) | 底栖生物识别方法、装置、电子设备及存储介质 | |
CN115797795B (zh) | 基于强化学习的遥感影像问答式检索系统及方法 | |
Voinov et al. | Multiclass vessel detection from high resolution optical satellite images based on deep neural networks | |
CN111178370A (zh) | 车辆检索方法及相关装置 | |
Dahal et al. | Performance of different classification models on national coral reef monitoring dataset | |
CN112528905A (zh) | 一种图像处理方法、装置及计算机存储介质 | |
Amuthavalli et al. | Notice of Violation of IEEE Publication Principles: Sketch Based Image Retrieval System Using ExHoG | |
Junger et al. | Object detection | |
CN111797939A (zh) | 基于小波分析的无人图书馆深度学习智能识别系统与方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |