CN113870292A - 深度图像的边缘检测方法、装置和电子设备 - Google Patents
深度图像的边缘检测方法、装置和电子设备 Download PDFInfo
- Publication number
- CN113870292A CN113870292A CN202111063122.1A CN202111063122A CN113870292A CN 113870292 A CN113870292 A CN 113870292A CN 202111063122 A CN202111063122 A CN 202111063122A CN 113870292 A CN113870292 A CN 113870292A
- Authority
- CN
- China
- Prior art keywords
- pixel point
- target pixel
- dimensional space
- space coordinate
- adjacent pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003708 edge detection Methods 0.000 title claims abstract description 71
- 238000000034 method Methods 0.000 title claims abstract description 51
- 239000013598 vector Substances 0.000 claims abstract description 123
- 238000001514 detection method Methods 0.000 claims abstract description 47
- 238000004590 computer program Methods 0.000 claims description 12
- 238000010586 diagram Methods 0.000 description 10
- 230000009286 beneficial effect Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供一种深度图像的边缘检测方法、装置和电子设备,在对深度图像进行边缘检测时,针对深度图像中属于非背景区域的各目标像素点,可以根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果,检测结果包括边缘点或者非边缘点,以对深度图像进行边缘检测。这样通过深度图像中目标像素点对应的三维空间坐标,与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,对深度图像进行边缘检测,可以使得用户直观地确定边缘的尖锐程度,从而提高了用户体验。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种深度图像的边缘检测方法、装置和电子设备。
背景技术
在图像识别、目标跟踪、场景理解等领域中,边缘特征作为图像的一种重要的自然特征,发挥着重要作用,因此,如何准确地进行边缘检测,是至关重要的。
相关技术中,在对深度图像进行边缘检测时,通常是通过检测边缘两侧的深度变化实现对边缘的检测。为了检测边缘两侧的深度变化,通常使用拉普拉斯(LaplaceOperator)算子进行逐像素计算,得到幅值,并根据幅值与预设阈值之间的大小关系,确定该像素是否为边缘像素,从而实现边缘检测。
但是,采用预设阈值的方法对深度图像进行边缘检测时,不能直观地确定边缘的尖锐程度,导致用户体验较差。
发明内容
本申请实施例提供了一种基于空间向量夹角的深度图像的边缘检测方法、装置和电子设备,可以直观地确定边缘的尖锐程度,提高了用户体验。
第一方面,本申请实施例提供了一种深度图像的边缘检测方法,该深度图像的边缘检测方法可以包括:
获取待检测的深度图像。
针对所述深度图像中属于非背景区域的各目标像素点,根据所述目标像素点对应的三维空间坐标,与所述目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定所述目标像素点的检测结果;其中,所述检测结果包括边缘点或者非边缘点,以对所述深度图像进行边缘检测。
在一种可能的实现方式中,所述相邻像素点的个数为多个,根据所述目标像素点对应的三维空间坐标与所述目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定所述目标像素点的检测结果,包括:
根据多个相邻像素点中各相邻像素点的位置,将所述多个相邻像素点划分为所述目标像素点对应的多个相邻像素点对;其中,各相邻像素点对均包括两个相邻像素点,且各相邻像素点对包括的相邻像素点不同。
分别确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角;其中,所述向量夹角的顶点为所述目标像素点对应的三维空间坐标点。
根据所述多个向量夹角确定所述目标像素点的检测结果。
在一种可能的实现方式中,根据所述多个向量夹角确定所述目标像素点的检测结果,包括:
将所述多个向量夹角中,最小向量夹角的大小确定为所述目标像素点对应的梯度值,并将所述最小向量夹角的方向确定为所述目标像素点对应的梯度方向。
根据所述目标像素点对应的梯度值和梯度方向确定所述目标像素点的检测结果。
在一种可能的实现方式中,所述根据所述目标像素点对应的梯度值和梯度方向确定所述目标像素点的检测结果,包括:
若所述目标像素点对应的梯度值和梯度方向满足第一预设条件,则确定所述目标像素点为边缘点;若不满足所述第一预设条件,则确定所述目标像素点为非边缘点。
其中,所述第一预设条件包括:所述目标像素点对应的梯度值小于预设梯度阈值,且所述目标像素点的梯度值小于或等于所述梯度方向上的两个相邻像素点的梯度值。
在一种可能的实现方式中,所述分别确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角,包括:
确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的初始向量夹角;其中,所述初始向量夹角的顶点为所述目标像素点对应的三维空间坐标点。
针对所述各相邻像素点对,若所述相邻像素点对中两个相邻像素点满足第二预设条件,则对所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的初始向量夹角进行增大处理,并将增大处理后的角度确定为所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的向量夹角。
若所述相邻像素点对中两个相邻像素点不满足第二预设条件,并将所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的初始向量夹角,确定所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的向量夹角。
其中,所述第二预设条件包括:两个相邻像素点中存在一个像素点的梯度值小于所述目标像素点的梯度值,且所述像素点对应的三维空间坐标与所述目标像素点对应的三维空间坐标之间的欧式距离,与所述两个相邻像素点中另一个像素点对应的三维空间坐标与所述目标像素点对应的三维空间坐标之间的欧式距离的差值大于预设距离阈值。
在一种可能的实现方式中,所述确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的初始向量夹角,包括:
分别确定所述目标像素点与所述各相邻像素点对各自对应的三维坐标。
根据所述目标像素点与所述各相邻像素点对各自对应的三维坐标,确定所述目标像素点与所述各相邻像素点对之间的初始向量夹角。
第二方面,本申请实施例还提供了一种深度图像的边缘检测装置,该深度图像的边缘检测装置可以包括:
获取单元,用于获取待检测的深度图像。
处理单元,用于针对所述深度图像中属于非背景区域的各目标像素点,根据所述目标像素点与所述目标像素点的相邻像素点之间的向量夹角,确定所述目标像素点的检测结果;其中,所述检测结果包括边缘点或者非边缘点,以对所述深度图像进行边缘检测。
在一种可能的实现方式中,所述处理单元,具体用于根据多个相邻像素点中各相邻像素点的位置,将所述多个相邻像素点划分为所述目标像素点对应的多个相邻像素点对;其中,各相邻像素点对均包括两个相邻像素点,且各相邻像素点对包括的相邻像素点不同;分别确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角;其中,所述向量夹角的顶点为所述目标像素点对应的三维空间坐标点;根据所述多个向量夹角确定所述目标像素点的检测结果。
在一种可能的实现方式中,所述处理单元,具体用于在所述多个向量夹角中,将最小向量夹角的大小确定为所述目标像素点对应的梯度值,并将所述最小向量夹角的方向确定为所述目标像素点对应的梯度方向;根据所述目标像素点对应的梯度值和梯度方向确定所述目标像素点的检测结果。在一种可能的实现方式中,所述处理单元,具体用于若所述目标像素点对应的梯度值和梯度方向满足第一预设条件,则确定所述目标像素点为边缘点;若不满足所述第一预设条件,则确定所述目标像素点为非边缘点;其中,所述第一预设条件包括:所述目标像素点对应的梯度值小于预设梯度阈值,且所述目标像素点的梯度值小于或等于所述梯度方向上的两个相邻像素点的梯度值。
在一种可能的实现方式中,所述处理单元,具体用于确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的初始向量夹角;其中,所述初始向量夹角的顶点为所述目标像素点对应的三维空间坐标点;针对所述各相邻像素点对,若所述相邻像素点对中两个相邻像素点满足第二预设条件,则对所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的初始向量夹角进行增大处理,并将增大处理后的角度确定为所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的向量夹角;若所述相邻像素点对中两个相邻像素点不满足第二预设条件,则将所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的初始向量夹角,确定为所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的向量夹角。
其中,所述第二预设条件包括:两个相邻像素点中存在一个像素点的梯度值小于所述目标像素点的梯度值,且所述像素点对应的三维空间坐标与所述目标像素点对应的三维空间坐标之间的欧式距离,与所述两个相邻像素点中另一个像素点对应的三维空间坐标与所述目标像素点对应的三维空间坐标之间的欧式距离的差值大于预设距离阈值。
在一种可能的实现方式中,所述处理单元,具体用于分别确定所述目标像素点与所述各相邻像素点对各自对应的三维空间坐标;根据所述目标像素点与所述各相邻像素点对各自对应的三维空间坐标,确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的初始向量夹角。
第三方面,本申请实施例还提供了一种电子设备,所述电子设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的文本匹配程序,所述文本匹配程序被所述处理器执行时实现如上述第一方面任一种可能的实现方式所述的深度图像的边缘检测方法的步骤。
第四方面,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有文本匹配程序,所述文本匹配程序被处理器执行时实现如上述第一方面任一种可能的实现方式所述的深度图像的边缘检测方法的步骤。
第五方面,本申请实施例还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述第一方面任一种可能的实现方式所述的深度图像的边缘检测方法。
本申请实施例提供的深度图像的边缘检测方法、装置和电子设备,在对深度图像进行边缘检测时,针对深度图像中属于非背景区域的各目标像素点,可以根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果,检测结果包括边缘点或者非边缘点,以对深度图像进行边缘检测。这样通过深度图像中目标像素点对应的三维空间坐标,与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,对深度图像进行边缘检测,可以使得用户直观地确定边缘的尖锐程度,从而提高了用户体验。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请实施例提供的一种深度图像的边缘检测方法的流程示意图;
图2是本申请实施例提供的一种目标像素点和其多个相邻像素点的位置关系示意图;
图3是本申请实施例提供的一种采用本申请提供的技术方案进行边缘检测的示意图;
图4是本申请实施例提供的深度边缘检测的示意图;
图5是本申请实施例提供的一种深度图像的边缘检测装置的结构示意图;
图6是本申请实施例提供的一种电子设备的结构示意图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请的实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,其中A,B可以是单数或者复数。在本申请的文字描述中,字符“/”一般表示前后关联对象是一种“或”的关系。
本申请实施例提供的技术方案可以应用于图像边缘检测的场景中。目前,在众多领域中,都会涉及到图像边缘检测。例如,图像识别、目标跟踪、场景理解等领域。相关技术中,在进行图像边缘检测时,通常是使用拉普拉斯算子进行逐像素计算,得到幅值,并根据幅值与预设阈值之间的大小关系,确定该像素是否为边缘像素,从而实现边缘检测。
但是,采用该方法,由于边缘两侧的深度差不便于用户直观地判定边缘的尖锐程度,尤其是同一条边缘距离摄像机远近不同时,其两侧的深度差值计算结果可能会相应变化,导致用户体验较差。
为了直观地确定边缘的尖锐程度,从而提高用户体验,考虑到通过空间向量夹角的方式可以直观地确定边缘的尖锐程度,因此,本申请实施例提供了一种深度图像的边缘检测方法,在对深度图像进行边缘检测时,针对深度图像中属于非背景区域的各目标像素点,可以根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果,检测结果包括边缘点或者非边缘点,以对深度图像进行边缘检测。这样,通过深度图像中目标像素点对应的三维空间坐标及其相邻像素对应的三维空间坐标之间的向量夹角,对深度图像进行边缘检测,可以使得用户直观地确定边缘的尖锐程度,从而提高了用户体验。
下面,将结合具体应用场景对本申请提供的深度图像的边缘检测方法的实现过程进行详细描述。可以理解的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
图1是本申请实施例提供的一种深度图像的边缘检测方法的流程示意图,该深度图像的边缘检测方法可以由软件和/或硬件装置执行,该硬件装置可以为深度图像的边缘检测装置。示例的,请参见图1所示,该深度图像的边缘检测方法可以包括:
S101、获取待检测的深度图像。
其中,深度图像是指图像中每个像素存储的是相机坐标系下的深度值,可记为ZC。
示例的,在获取待检测的深度图像时,可以直接通过硬件设备拍摄获取深度图像,将其作为待检测的深度图像;当然,也可以通过其它方式获取待检测的深度图像,例如,先在图形渲染(Open Graphics Library,OpenGL)环境中获取Z-Buffer缓冲图,再将Z值转换为深度值,得到待检测的深度图像;具体可以根据实际需要进行设置,在此,对于待检测的深度图像的获取方式,本申请实施例不做具体限制。
S102、针对深度图像中属于非背景区域的各目标像素点,根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果;其中,检测结果包括边缘点或者非边缘点,以对深度图像进行边缘检测。
需要说明的是,对于深度图像中,远平面上的点或者摄像机没有测量到的点,在本申请实施例中,可记为无意义的背景点,背景点所属的区域为背景区域,且为了避免后续将无意义的背景点确定为目标像素点,可以将无意义的背景点的梯度值设为大数,例如远平面的深度。非背景区域是指深度图像中,除背景点所属的背景区域之外的其它区域,即具有实际梯度值的像素点所属的区域,非背景区域中的像素点可记为目标像素点。
示例的,在确定非背景区域的各目标像素点时,可以对深度图像进行遍历,判断深度图像中的像素点是否为非背景区域的像素点,若像素点为非背景区域的像素点,则即为目标像素点;若像素点为背景区域的像素点,则不做任何处理。
以任意一个目标像素点为例,在确定其相邻像素点时,可参见图2所示,图2是本申请实施例提供的一种目标像素点和其多个相邻像素点的位置关系示意图,其中,目标像素点为像素点0,目标像素点的多个相邻像素点包括像素点1、像素点2、像素点3、像素点4、像素点5、像素点6、像素点7、以及像素点8。
在根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果时,鉴于确定每一个目标像素点的检测结果的确定方法类似,因此,为了避免赘述,下面将以确定非背景区域中任一个目标像素点的检测结果为例,对如何确定非背景区域中各目标像素点的检测结果进行描述。
示例的,在根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果时,可以根据多个相邻像素点中各相邻像素点的位置,将多个相邻像素点划分为目标像素点对应的多个相邻像素点对;其中,各相邻像素点对均包括两个相邻像素点,且各相邻像素点对包括的相邻像素点不同;并分别确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角;其中,向量夹角的顶点为目标像素对应的三维空间坐标点;根据多个向量夹角确定目标像素点的检测结果。
示例的,在将多个相邻像素点划分为目标像素点对应的多个相邻像素点对时,通常情况下,一个目标像素点会对应有八个相邻像素点,可以将目标像素点左上角的像素点和右下角的像素点确定为目标像素点的一个相邻像素点对,将目标像素点左下角的像素点和右上角的像素点确定为目标像素点的一个相邻像素点对,将目标像素点左边的像素点和右边的像素点确定为目标像素点的一个相邻像素点对,将目标像素点上边的像素点和下边的像素点确定为目标像素点的一个相邻像素点对,分别对应于0°、45°、90°、135°方向,从而得到目标像素对应的4个相邻像素点对。可结合图2所示,目标像素点0对应的4个相邻像素点对包括像素点1和像素点5构成的相邻像素点对,像素点7和像素点3构成的相邻像素点对,像素点8和像素点4构成的相邻像素点对,像素点2和像素点6构成的相邻像素点对。
在分别确定出目标像素点对应的多个相邻像素点对后,就可以分别确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的向量夹角。可以理解的是,在分别确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的向量夹角时,鉴于确定目标像素点对应的三维空间坐标与每一个相邻像素点对对应的三维空间坐标之间的向量夹角的确定方式类似,下面,将以确定目标像素点对应的三维空间坐标与任一个相邻像素点对应的三维空间坐标之间的向量夹角为例,对如何确定目标像素点与各相邻像素点对之间的向量夹角进行描述。
示例的,在确定目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的向量夹角时,可以先将目标像素点和相邻像素点对中的相邻像素点的深度值转换为三维空间坐标值,具体可参见下述公式1:
在上述公式1中,(u,v)为像素坐标系下的二维坐标,dx,dy分别表示像素点在二维坐标系中x轴、y轴方向上的物理尺寸,(u0,v0)为摄像机主点在像素坐标系下的坐标,f为焦距,ZC为已知的深度值,最终得到像素点对应的三维空间坐标值,可记为(XC,YC,ZC)。
在确定出目标像素点和相邻像素点对中的相邻像素点的深度值转换为三维空间坐标值后,可以根据目标像素点和相邻像素点对中的相邻像素点的三维空间坐标值,确定目标像素点对应的三维空间坐标和相邻像素点对对应的三维空间坐标之间的向量夹角。例如,以目标像素点b为例,其相邻像素点对为a,c,像素点a对应的三维空间坐标点为A,像素点b对应的三维空间坐标点为B,像素点c对应的三维空间坐标点为C,以目标像素点b对应的三维空间坐标点B为起点,与像素点对内另外两个三维点A、C构成的向量为与两向量组成以目标像素点b对应的三维空间点B为顶点的向量夹角为∠ABC。
在基于上述确定出目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角后,就可以进一步根据多个向量夹角确定目标像素点的检测结果。
示例的,在根据多个向量夹角确定目标像素点的检测结果时,可以将多个向量夹角中的最小向量夹角的大小确定为目标像素点对应的梯度值,并将最小向量夹角的方向确定为目标像素点对应的梯度方向;根据目标像素点对应的梯度值和梯度方向确定目标像素点的检测结果。这样,根据多个向量夹角确定目标像素点的检测结果时,确定最小向量夹角为目标像素点对应的梯度值,最小向量夹角可以更好的反映边缘的尖锐程度,用户可以根据边缘的尖锐程度直观的判定目标像素点的检测结果。
示例的,根据目标像素点对应的梯度值和梯度方向确定目标像素点的检测结果时,可以再次对深度图像进行遍历,若目标像素点对应的梯度值和梯度方向满足第一预设条件,则确定目标像素点为边缘点;若不满足第一预设条件,则确定目标像素点为非边缘点,这样就可以目标像素点对应的梯度值和梯度方向确定出目标像素点的检测结果。
其中,第一预设条件包括:目标像素点对应的梯度值小于预设梯度阈值,且目标像素点的梯度值小于或等于梯度方向上的两个相邻像素点的梯度值。需要说明的是,目标像素点的梯度值小于或等于梯度方向上的两个相邻像素点的梯度值,是指目标像素点的梯度值不仅小于或等于梯度方向上的两个相邻像素点中一个像素点的梯度值,且小于或等于梯度方向上的两个相邻像素点中另一个像素点的梯度值。
示例的,结合图2所示,假设最小向量夹角为目标像素点0与像素点1和像素点5构成的相邻像素点对之间的夹角,则目标像素点的梯度值小于或等于梯度方向上的两个相邻像素点的梯度值,可以理解为目标像素点0的梯度值小于或等于像素点1和像素点5的梯度值。其中,预设梯度阈值的取值可以根据实际需要进行设置,在此,对于预设梯度阈值的取值,本申请实施例不做具体限制。示例的,图3是本申请实施例提供的一种采用本申请提供的技术方案进行边缘检测的示意图,结合图3所示,图3中的灰色线条为使用本申请提供的技术方案提取边缘的最终结果。
可以看出,本申请实施例中,在对深度图像进行边缘检测时,针对深度图像中属于非背景区域的各目标像素点,可以根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定目标像素点的检测结果,检测结果包括边缘点或者非边缘点,以对深度图像进行边缘检测。这样通过深度图像中目标像素点对应的三维空间坐标,与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,对深度图像进行边缘检测,可以使得用户直观地确定边缘的尖锐程度,从而提高了用户体验。
此外,鉴于现有技术在进行边缘检测会存在由于遮挡产生的虚假边缘的问题,可参见图4所示,图4是本申请实施例提供的深度边缘检测的示意图,其坐标系为相机坐标系,且为俯视图,如图4所示,图4中对于像素点b,可以通过拉普拉斯算子计算出A、C两点间的深度差,再根据幅值与预设阈值的大小关系,若幅值高于预设阈值,则判定B点是边缘点。通过同样的方法可以计算出B、D间的深度差,判定C点是边缘点,但从图4中可以看出,C点位于“凹陷”中心偏右的位置,并不是真正的边缘点,而是由于B点的遮挡导致将非边缘点误判为边缘点。此外,通过深度差的正负性判断由遮挡产生的假边缘时,如图4所示,位于“凹陷”边缘的D点与位于“凹陷”中心偏右位置的C点的深度差正负性是一样的,无法区分出C点和D点是否对应真正的边缘点。
因此,在上述图1所示的实施例的基础上,进一步地,为了解决由于遮挡产生的虚假边缘的问题,可以在上述S102中根据目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角时,可以先确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的初始向量夹角;其中,初始向量夹角的顶点为目标像素点对应的三维空间坐标点;针对各相邻像素点对,若相邻像素点对中两个相邻像素点满足第二预设条件,则对目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的初始向量夹角进行增大处理,并将增大处理后的角度确定为目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的向量夹角;若相邻像素点对中两个相邻像素点不满足第二预设条件,则将目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的初始向量夹角,确定目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的向量夹角。
其中,第二预设条件包括:两个相邻像素点中存在一个像素点的梯度值小于目标像素点的梯度值,且该像素点对应的三维空间坐标与目标像素点对应的三维空间坐标之间的欧式距离,与两个相邻像素点中另一个像素点对应的三维空间坐标与目标像素点对应的三维空间坐标之间的欧式距离的差值大于预设距离阈值。其中,预设距离阈值的取值可以根据实际需要进行设置,在此,对于预设距离阈值的取值,本申请实施例不做具体限制。
示例的,在确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的初始向量夹角时,可以先分别确定目标像素点与各相邻像素点对各自对应的三维空间坐标,根据目标像素点与各相邻像素点对各自对应的三维空间坐标,确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的初始向量夹角。
通过设置的第二预设条件,可以将位于假边缘上的像素点对应的初始向量夹角进行增大处理,再通过设置的第一预设条件,可以将位于假边缘上的像素点剔除。
这样,在确定出目标像素点对应的三维空间坐标与目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角初始向量夹角后,还可以进一步判断目标像素点是否满足第二预设条件,若目标像素点满足第二预设条件,判定目标像素点位于假边缘上,则对初始夹角进行增大处理,增大后的夹角即为目标像素点的梯度值,对应的方向为目标像素点的梯度方向,再通过设置的第一预设条件,就可以将位于假边缘上的像素点剔除掉,从而解决了边缘检测存在由于遮挡产生的虚假边缘的问题。
图5是本申请实施例提供的一种深度图像的边缘检测装置50的结构示意图,示例的,可参见图5所示,该深度图像的边缘检测装置50可以包括:
获取单元501,用于获取待检测的深度图像。
处理单元502,用于针对深度图像中属于非背景区域的各目标像素点,根据目标像素点与目标像素点的相邻像素点之间的向量夹角,确定目标像素点的检测结果;其中,检测结果包括边缘点或者非边缘点,以对深度图像进行边缘检测。
可选地,相邻像素点的个数为多个;处理单元502,具体用于根据多个相邻像素点中各相邻像素点的位置,将多个相邻像素点划分为目标像素点对应的多个相邻像素点对;其中,各相邻像素点对均包括两个相邻像素点,且各相邻像素点对包括的相邻像素点不同;分别确定目标像素点与各相邻像素点对之间的向量夹角,得到多个向量夹角;其中,向量夹角的顶点为目标像素点;根据多个向量夹角确定目标像素点的检测结果。
可选地,处理单元502,具体用于将多个向量夹角中,最小向量夹角的大小确定为目标像素点对应的梯度值,并将最小向量夹角的方向确定为目标像素点对应的梯度方向;根据目标像素点对应的梯度值和梯度方向确定目标像素点的检测结果。
可选地,处理单元502,具体用于若目标像素点对应的梯度值和梯度方向满足第一预设条件,则确定目标像素点为边缘点;若不满足第一预设条件,则确定目标像素点为非边缘点;其中,第一预设条件包括:目标像素点对应的梯度值小于预设梯度阈值,且目标像素点的梯度值小于或等于梯度方向上的两个相邻像素点的梯度值。
可选地,处理单元502,具体用于确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的初始向量夹角;其中,初始向量夹角的顶点为目标像素点对应的三维空间坐标点;针对各相邻像素点对,若相邻像素点对中两个相邻像素点满足第二预设条件,则对目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的初始向量夹角进行增大处理,并将增大处理后的角度确定为目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的向量夹角;若相邻像素点对中两个相邻像素点不满足第二预设条件,则将目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的初始向量夹角,确定目标像素点对应的三维空间坐标与相邻像素点对对应的三维空间坐标之间的向量夹角。
其中,第二预设条件包括:两个相邻像素点中存在一个像素点的梯度值小于目标像素点的梯度值,且像素点对应的三维空间坐标与目标像素点对应的三维空间坐标之间的欧式距离,与两个相邻像素点中另一个像素点对应的三维空间坐标与目标像素点对应的三维空间坐标之间的欧式距离的差值大于预设距离阈值。
可选地,处理单元502,具体用于分别确定目标像素点与各相邻像素点对各自对应的三维空间坐标;根据目标像素点与各相邻像素点对各自对应的三维坐标,确定目标像素点对应的三维空间坐标与各相邻像素点对对应的三维空间坐标之间的初始向量夹角。
本申请实施例提供的深度图像的边缘检测装置50,可以执行上述任一实施例中深度图像的边缘检测方法的技术方案,其实现原理以及有益效果与深度图像的边缘检测方法的实现原理及有益效果类似,可参见深度图像的边缘检测方法的实现原理及有益效果,此处不再进行赘述。
图6是本申请实施例提供的一种电子设备60的结构示意图,示例的,请参见图6所示,该电子设备60可以包括处理器601和存储器602;其中,
所述存储器602,用于存储计算机程序。
所述处理器601,用于读取所述存储器602存储的计算机程序,并根据所述存储器602中的计算机程序执行上述任一实施例中的深度图像的边缘检测方法的技术方案。
可选地,存储器602既可以是独立的,也可以跟处理器601集成在一起。当存储器602是独立于处理器601之外的器件时,电子设备60还可以包括:总线,用于连接存储器602和处理器601。
可选地,本实施例还包括:通信接口,该通信接口可以通过总线与处理器601连接。处理器601可以控制通信接口来实现上述电子设备60的获取和发送的功能。
本申请实施例所示的电子设备60,可以执行上述任一实施例中深度图像的边缘检测方法的技术方案,其实现原理以及有益效果与深度图像的边缘检测方法的实现原理及有益效果类似,可参见深度图像的边缘检测方法的实现原理及有益效果,此处不再进行赘述。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现上述任一实施例中深度图像的边缘检测方法的技术方案,其实现原理以及有益效果与深度图像的边缘检测方法的实现原理及有益效果类似,可参见深度图像的边缘检测方法的实现原理及有益效果,此处不再进行赘述。
本申请实施例还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时,实现上述任一实施例中深度图像的边缘检测方法的技术方案,其实现原理以及有益效果与深度图像的边缘检测方法的实现原理及有益效果类似,可参见深度图像的边缘检测方法的实现原理及有益效果,此处不再进行赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所展示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元展示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能模块的形式实现的集成的模块,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本申请各个实施例方法的部分步骤。
应理解的是,上述处理器可以是中央处理单元(英文:Central Processing Unit,简称:CPU),还可以是其他通用处理器、数字信号处理器(英文:Digital SignalProcessor,简称:DSP)、专用集成电路(英文:Application Specific IntegratedCircuit,简称:ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
存储器可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器,还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(Peripheral Component,PCI)总线或扩展工业标准体系结构(ExtendedIndustry Standard Architecture,EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
上述计算机可读存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (10)
1.一种深度图像的边缘检测方法,其特征在于,包括:
获取待检测的深度图像;
针对所述深度图像中属于非背景区域的各目标像素点,根据所述目标像素点对应的三维空间坐标,与所述目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定所述目标像素点的检测结果;其中,所述检测结果包括边缘点或者非边缘点,以对所述深度图像进行边缘检测。
2.根据权利要求1所述的方法,其特征在于,所述相邻像素点的个数为多个,根据所述目标像素点对应的三维空间坐标,与所述目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定所述目标像素点的检测结果,包括:
根据多个相邻像素点中各相邻像素点的位置,将所述多个相邻像素点划分为所述目标像素点对应的多个相邻像素点对;其中,各相邻像素点对均包括两个相邻像素点,且各相邻像素点对包括的相邻像素点不同;
分别确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角;其中,所述向量夹角的顶点为所述目标像素点对应的三维空间坐标;
根据所述多个向量夹角确定所述目标像素点的检测结果。
3.根据权利要求2所述的方法,其特征在于,所述根据所述多个向量夹角确定所述目标像素点的检测结果,包括:
将所述多个向量夹角中,最小向量夹角的大小确定为所述目标像素点对应的梯度值,并将所述最小向量夹角的方向确定为所述目标像素点对应的梯度方向;
根据所述目标像素点对应的梯度值和梯度方向确定所述目标像素点的检测结果。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标像素点对应的梯度值和梯度方向确定所述目标像素点的检测结果,包括:
若所述目标像素点对应的梯度值和梯度方向满足第一预设条件,则确定所述目标像素点为边缘点;若不满足所述第一预设条件,则确定所述目标像素点为非边缘点;
其中,所述第一预设条件包括:所述目标像素点对应的梯度值小于预设梯度阈值,且所述目标像素点的梯度值小于或等于所述梯度方向上的两个相邻像素点的梯度值。
5.根据权利要求2-4任一项所述的方法,其特征在于,所述分别确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角,包括:
确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的初始向量夹角;其中,所述初始向量夹角的顶点为所述目标像素点对应的三维空间坐标点;
针对所述各相邻像素点对,若所述相邻像素点对中两个相邻像素点满足第二预设条件,则对所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的初始向量夹角进行增大处理,并将增大处理后的角度确定为所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的向量夹角;
若所述相邻像素点对中两个相邻像素点不满足第二预设条件,则将所述目标像素点对应的三维空间坐标,与所述相邻像素点对对应的三维空间坐标之间的初始向量夹角,确定为所述目标像素点对应的三维空间坐标与所述相邻像素点对对应的三维空间坐标之间的向量夹角;
其中,所述第二预设条件包括:两个相邻像素点中存在一个像素点的梯度值小于所述目标像素点的梯度值,且所述像素点对应的三维空间坐标与所述目标像素点对应的三维空间坐标之间的欧式距离,与所述两个相邻像素点中另一个像素点对应的三维空间坐标与所述目标像素点对应的三维空间坐标之间的欧式距离的差值大于预设距离阈值。
6.一种深度图像的边缘检测装置,其特征在于,包括:
获取单元,用于获取待检测的深度图像;
处理单元,用于针对所述深度图像中属于非背景区域的各目标像素点,根据所述目标像素点对应的三维空间坐标,与所述目标像素点的相邻像素点对应的三维空间坐标之间的向量夹角,确定所述目标像素点的检测结果;其中,所述检测结果包括边缘点或者非边缘点,以对所述深度图像进行边缘检测。
7.根据权利要求6所述的装置,其特征在于,所述相邻像素点的个数为多个;
所述处理单元,具体用于根据多个相邻像素点中各相邻像素点的位置,将所述多个相邻像素点划分为所述目标像素点对应的多个相邻像素点对;其中,各相邻像素点对均包括两个相邻像素点,且各相邻像素点对包括的相邻像素点不同;分别确定所述目标像素点对应的三维空间坐标与所述各相邻像素点对对应的三维空间坐标之间的向量夹角,得到多个向量夹角;其中,所述向量夹角的顶点为所述目标像素点对应的三维空间坐标点;根据所述多个向量夹角确定所述目标像素点的检测结果。
8.一种电子设备,其特征在于,所述电子设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的文本匹配程序,所述文本匹配程序被所述处理器执行时实现如权利要求1至5任一项所述的深度图像的边缘检测方法的步骤。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有文本匹配程序,所述文本匹配程序被处理器执行时实现如权利要求1至5任一项所述的深度图像的边缘检测方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至5任一项所述的深度图像的边缘检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111063122.1A CN113870292A (zh) | 2021-09-10 | 2021-09-10 | 深度图像的边缘检测方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111063122.1A CN113870292A (zh) | 2021-09-10 | 2021-09-10 | 深度图像的边缘检测方法、装置和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113870292A true CN113870292A (zh) | 2021-12-31 |
Family
ID=78995376
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111063122.1A Pending CN113870292A (zh) | 2021-09-10 | 2021-09-10 | 深度图像的边缘检测方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113870292A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114396875A (zh) * | 2022-01-18 | 2022-04-26 | 安徽工业大学 | 一种基于深度相机垂直拍摄的长方形包裹体积测量方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080267508A1 (en) * | 2007-04-26 | 2008-10-30 | Geostudio Consultants Limited | System and method for determining edges of objects in an image |
US20130251270A1 (en) * | 2012-03-22 | 2013-09-26 | Digital Media Professionals Inc. | Robust Image Based Edge Detection |
CN109102518A (zh) * | 2018-08-10 | 2018-12-28 | 广东工业大学 | 一种图像边缘检测的方法、系统及相关组件 |
CN113034525A (zh) * | 2021-03-18 | 2021-06-25 | 河北工程大学 | 图像边缘检测方法、装置及设备 |
-
2021
- 2021-09-10 CN CN202111063122.1A patent/CN113870292A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080267508A1 (en) * | 2007-04-26 | 2008-10-30 | Geostudio Consultants Limited | System and method for determining edges of objects in an image |
US20130251270A1 (en) * | 2012-03-22 | 2013-09-26 | Digital Media Professionals Inc. | Robust Image Based Edge Detection |
CN109102518A (zh) * | 2018-08-10 | 2018-12-28 | 广东工业大学 | 一种图像边缘检测的方法、系统及相关组件 |
CN113034525A (zh) * | 2021-03-18 | 2021-06-25 | 河北工程大学 | 图像边缘检测方法、装置及设备 |
Non-Patent Citations (2)
Title |
---|
HUAN NI等: "Edge Detection and Feature Line Tracing in 3D-Point Clouds by Analyzing Geometric Properties of Neighborhoods", 《REMOTE SENSING》, vol. 8, no. 9, 1 September 2016 (2016-09-01), pages 1 - 20 * |
R. D. DONY等: "EDGE DETECTION ON COLOR IMAGES USING RGB VECTOR ANGLES", 《PROCEEDINGS OF THE 1999 IEEE CANADIAN CONFERENCE ON ELECTRICAL AND COMPUTER ENGINEERING》, 12 May 1999 (1999-05-12), pages 687 - 692 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114396875A (zh) * | 2022-01-18 | 2022-04-26 | 安徽工业大学 | 一种基于深度相机垂直拍摄的长方形包裹体积测量方法 |
CN114396875B (zh) * | 2022-01-18 | 2023-11-10 | 安徽工业大学 | 一种基于深度相机垂直拍摄的长方形包裹体积测量方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10909719B2 (en) | Image processing method and apparatus | |
CN109784250B (zh) | 自动引导小车的定位方法和装置 | |
CN107169489B (zh) | 倾斜图像校正的方法和装置 | |
WO2016018987A1 (en) | Detecting specified image identifiers on objects | |
US10535147B2 (en) | Electronic apparatus and method for processing image thereof | |
CN110458855B (zh) | 图像提取方法及相关产品 | |
CN108090486B (zh) | 一种台球比赛中的图像处理方法及装置 | |
CN112686950B (zh) | 位姿估计方法、装置、终端设备及计算机可读存储介质 | |
CN110660072A (zh) | 一种直线边缘的识别方法、装置、存储介质及电子设备 | |
CN108960012B (zh) | 特征点检测方法、装置及电子设备 | |
CN108960247B (zh) | 图像显著性检测方法、装置以及电子设备 | |
WO2021056501A1 (zh) | 提取特征点的方法、可移动平台及存储介质 | |
US11017557B2 (en) | Detection method and device thereof | |
CN113870292A (zh) | 深度图像的边缘检测方法、装置和电子设备 | |
CN114821274A (zh) | 一种用于识别分合指示牌的状态的方法和设备 | |
WO2018027527A1 (zh) | 一种光学系统成像质量的检测方法和装置 | |
CN113570725A (zh) | 基于聚类的三维表面重建方法、装置、服务器及存储介质 | |
CN113870190A (zh) | 竖直线条检测方法、装置、设备及存储介质 | |
KR102587298B1 (ko) | 멀티뷰 어안 렌즈들을 이용한 실시간 전방위 스테레오 매칭 방법 및 그 시스템 | |
CN114049380A (zh) | 目标物体定位追踪方法、装置、计算机设备和存储介质 | |
EP3588437B1 (en) | Apparatus that generates three-dimensional shape data, method and program | |
CN113705660A (zh) | 目标识别方法及相关设备 | |
CN115131273A (zh) | 信息处理方法、测距方法及装置 | |
CN113840135A (zh) | 色偏检测方法、装置、设备及存储介质 | |
CN113838032A (zh) | 棋盘定位方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |