CN112837424A - 图像处理方法、装置、设备和计算机可读存储介质 - Google Patents
图像处理方法、装置、设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN112837424A CN112837424A CN202110156554.0A CN202110156554A CN112837424A CN 112837424 A CN112837424 A CN 112837424A CN 202110156554 A CN202110156554 A CN 202110156554A CN 112837424 A CN112837424 A CN 112837424A
- Authority
- CN
- China
- Prior art keywords
- frame
- point set
- pose
- image
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 33
- 238000005070 sampling Methods 0.000 claims abstract description 160
- 238000000034 method Methods 0.000 claims description 78
- 238000012545 processing Methods 0.000 claims description 29
- 238000004422 calculation algorithm Methods 0.000 claims description 20
- 230000003287 optical effect Effects 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 19
- 238000013519 translation Methods 0.000 claims description 10
- 239000013598 vector Substances 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 17
- 238000004590 computer program Methods 0.000 description 9
- DMSMPAJRVJJAGA-UHFFFAOYSA-N benzo[d]isothiazol-3-one Chemical compound C1=CC=C2C(=O)NSC2=C1 DMSMPAJRVJJAGA-UHFFFAOYSA-N 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000003190 augmentative effect Effects 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000012795 verification Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000007619 statistical method Methods 0.000 description 2
- 241000190070 Sarracenia purpurea Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种图像处理方法、装置、设备和计算机可读存储介质。该图像处理方法包括：获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
Description
技术领域
本公开涉及图像处理领域，更具体地，本公开涉及一种图像处理方法、装置、设备和计算机可读存储介质。
背景技术
增强现实(Augmented Reality，AR)，指通过计算机系统提供的信息增加用户对现实世界感知的技术，将虚拟的信息应用到真实世界，并将计算机生成的虚拟对象、场景或系统提示信息叠加到真实场景中，从而实现对现实的增强。如何追踪目标对象在三维空间的平移、转动(六自由度追踪)是增强现实应用中的一个核心问题。现有的追踪方法通常需要预先知道目标对象的几何形状，以便准确的判断图像中的点和目标对象上的点的对应关系。然而，并不是所有的目标对象都能预先获取很好的几何形状(比如很多三维重建方法的结果是点云)，因此，对于几何形状的依赖使追踪算法的可用性受到局限，也增加了额外的存储负担。此外，判断图像上的点和目标对象的几何形状上的点的对应关系需要额外的计算开销。
发明内容
鉴于上述问题而提出了本公开。本公开提供了一种图像处理方法、装置、设备和计算机可读存储介质。
根据本公开的一个方面，提供了一种图像处理方法，包括：获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
根据本公开的一个示例，所述基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿包括：利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及利用所述第二帧对应集合，获取所述第二帧位姿。
根据本公开的一个示例，所述利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合包括：利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
根据本公开的一个示例，所述利用所述第二帧对应集合，获取所述第二帧位姿包括：利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿。
根据本公开的一个示例，所述方法还包括：利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿和所述第二投影点集合中未出错的投影点集合；以及通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果。
根据本公开的一个示例，所述通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果包括：若判断出所述未出错的投影点集合中元素的数量大于所述第一预定阈值，则获取跟踪匹配成功的结果，并输出第二帧位姿；以及若判断出所述未出错的投影点集合中元素的数量不大于所述第一预定阈值，则获取跟踪匹配失败的结果，且不输出第二帧位姿。
根据本公开的一个示例，在获取跟踪匹配成功的结果之后，所述方法还包括：利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，直到表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值。
根据本公开的一个示例，所述利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿包括：从所述第二帧对应集合中去除不在所述未出错的投影点集合中的投影点集合对应的元素，以获取修订的第二帧对应集合；以及利用所述修订的第二帧对应集合，获取所述下一帧位姿。
根据本公开的一个示例，所述第一帧位姿和所述第二帧位姿包括所述目标对象的平移矩阵、旋转矩阵。
根据本公开的一个示例，所述利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合包括：利用所述第一帧位姿，通过判断所述三维采样点集合上的每个三维采样点对所述第一帧图像是否可见，来获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合。
根据本公开的一个示例，对于所述三维采样点集合上的每个三维采样点，通过判断n*R(0)[:,:]是否小于零，来获取所述第一帧投影点集合，其中，n表示所述目标对象的每个三维采样点垂直于所述目标对象表面并朝向表面的外面的法向量，*表示点积运算，R(0)[:,:]表示第一帧位姿包含的目标对象的旋转矩阵的每一行和每一列。
根据本公开的一个示例，所述利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合包括：基于光流算法，利用所述第一帧投影点集合来获取所述第二帧投影点集合。
根据本公开的一个示例，其中所述光流算法包括OpenCV的calcOpticalFlowPyrLK方法。
根据本公开的一个示例，所述三维采样点集合是通过三维点云模型获取的。
根据本公开的一个方面，提供了一种图像处理装置，包括：获取单元，用于获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及跟踪匹配单元，用于基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
根据本公开的一个示例，所述跟踪匹配单元可操作以：利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及利用所述第二帧对应集合，获取所述第二帧位姿。
根据本公开的一个示例，所述跟踪匹配单元可操作以：利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
根据本公开的一个示例，所述跟踪匹配单元可操作以：利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿。
根据本公开的一个方面，提供了一种电子设备，包括：处理器；以及
存储器，其中存储计算机可读指令，其中，在所述计算机可读指令被所述处理器运行时执行图像处理方法，所述方法包括：获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
根据本公开的一个方面，提供了一种用于存储非暂时性计算机可读指令的计算机可读存储介质，所述程序使得计算机执行上述的图像处理方法。
如以下将详细描述的，根据本公开的图像处理方法、装置、设备和计算机可读存储介质，通过利用目标对象的三维采样点集合和目标对象的初始图像对应的图像获取装置的初始位姿来对目标对象进行跟踪匹配，从而获取目标对象的下一帧位姿，由此实现基于三维采样点模型的鲁棒、快速的六自由度追踪，减少了对于目标对象的几何形状的依赖，从而提高了追踪算法的适用性和效率。
附图说明
通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
图1是根据本公开实施例的用于进行三维跟踪的复杂场景下的跟踪示意图；
图2是根据本公开实施例的用于进行三维跟踪的复杂场景的另一跟踪示意图；
图3是根据本公开实施例的图像处理方法的流程图；
图4是根据本公开实施例的另一图像处理方法的流程图；
图5是根据本公开实施例的另一图像处理方法的流程图；
图6是根据本公开实施例的图像处理方法的示意图；
图7是根据本公开实施例的几何校验方法的流程图；
图8是根据本公开实施例的图像处理装置的功能框图；
图9是根据本公开实施例的电子设备的硬件框图；
图10是根据本公开实施例的计算机可读存储介质的示意图。
具体实施方式
为了使得本公开的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
图1示出了根据本公开实施例的用于进行三维跟踪的复杂场景(如无平面目标、高光严重、纹理单一等场景)下的跟踪示意图，其中，图1(a)为跟踪水杯的示意图，图1(b)为跟踪汽车的示意图，在这些场景中，基于该三维跟踪方法，均能获取较好的跟踪效果。本方案可由用户设备执行，也可由用户设备和网络设备配合执行，其中，用户设备包括但不限于智能手机、平板电脑、增强现实眼镜、增强现实头盔等计算设备；网络设备包括但不限于计算机、网络主机、单个网络服务器、多个网络服务器集或多个服务器构成的云；在此，将能够实施该方法的各设备统称为跟踪设备，该跟踪设备可以是单独实施该方法的用户设备，也可以是共同实施该方案的用户设备和网络设备，其中，用户设备和网络设备通过有线或无线的方式建立了通信连接。
本申请所指跟踪设备包括但不限于移动设备(如智能手机、平板电脑、笔记本电脑等)、PC设备、智能眼镜或头盔以及服务器、集成式服务器等计算设备。跟踪设备包括图像获取装置，用于获取关于目标对象的图像信息(如静态的图片或者动态的视频帧组成的视频等)，如摄像头等。该跟踪设备还包括数据处理装置，用于根据该图像信息获取图像获取装置的精确位姿。跟踪设备还包括输入装置，用于采集用户的输入操作，如键盘、鼠标、触摸板、触摸屏、麦克风等。为了方便用户观察，跟踪设备还包括显示装置，用于呈现拍摄的图像信息，在一些实施例中，该显示装置还用于叠加显示关于目标对象的增强现实内容，如显示屏幕等，在一些实施方式中，该显示屏幕不仅用于输出图形画面，还可作为跟踪设备的输入装置以接收用户的操作指令(如用户基于触摸控制操作指令)。
图2示出了根据本公开实施例的用于进行三维跟踪的复杂场景的另一跟踪示意图。如图2所示，对于目标对象21，通过跟踪设备(诸如绕着目标对象21旋转的图像获取装置)获取关于目标对象的图像信息(例如，图2中的第一帧图像22、第二帧图像23、第三帧图像24)。本公开可以基于目标对象的三维采样点集合以及与第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿获取第二帧图像对应的第二帧位姿，以实现对目标对象的跟踪匹配。
上文结合图1-2介绍了本申请的经典场景，以下结合图3-7对本申请的各实施例进行举例介绍。
首先，参照图3来描述根据本公开实施例的图像处理方法100。该图像处理方法100包括以下步骤S101-S102。
在步骤S101，获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿。
在步骤S102，基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
例如，对于步骤S101，目标对象的三维采样点集合可以是通过三维点云模型预先获取的。目标对象的三维点云模型可以是预先构建并存储的(存储于其他设备，跟踪设备调用该三维点云模型，或者存储于跟踪设备的数据库中等)。可替代地，跟踪设备可以根据当前目标对象，实时生成的目标对象的三维点云数据/三维采样点集合，其中该三维点云数据可以是目标对象的表面的采样点数据。
应当认识到，本公开不需要知道目标对象的几何形状，即不需要获取目标对象的三维模型，而在仅仅获取目标对象的三维点云数据之后即可实现本公开的图像处理方法。
例如，第一帧位姿包括图像获取装置相对于目标对象的位移及方位偏差等，包括表示目标对象的六自由度的旋转矩阵和平移矩阵。第一帧位姿可以是通过拍摄的第一帧图像进行匹配从而确定的，也可以是根据用户的操作从预设的几个位姿信息中选取的等。
例如，对于步骤S101，可以由图像获取装置预先获取关于目标对象的多个图像序列I(i)，(i＝0,1,2…，i表示图像帧的序号)，并且将与第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿作为初始位姿，利用本公开的方法来推断与下一帧图像对应的图像帧位姿。例如，三维采样点集合可以表示为P＝{p}。例如，第一帧位姿F可以包括图像获取装置相对于所述目标对象的平移矩阵T(0)和旋转矩阵R(0)(即第一帧图像的六自由度)，T(0)和R(0)可以是3×3的矩阵。
对于步骤S102，图4-5分别示出了根据本公开实施例的另一图像处理方法200、300的流程图，以进一步描述步骤S102。
例如，上述步骤S102可以包括参考图4的子步骤S1021、S1022和S1023。
例如，如图4所示，所述基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿(S102)可以包括：利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合(S1021)；利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合(S1022)；以及利用所述第二帧对应集合，获取所述第二帧位姿(S1023)。
对于步骤S1021，例如，利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合可以包括：利用所述第一帧位姿，通过判断所述三维采样点集合上的每个三维采样点对所述第一帧图像是否可见，来获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合。
例如，对于i＝0情况下的第一帧，可以通过诸如针孔相机模型(pinhole cameramode)将三维采样点集合P＝{p}上的每个三维采样点坐标投影到第一帧图像I(0)上，来获取三维采样点集合到图像序列I(i)中的第一帧图像I(0)上的第一帧投影点集合Q(0)。
作为一个示例，对于所述三维采样点集合P＝{p}上的每个三维采样点，通过判断n*R(0)[:,:]是否小于零，来获取所述第一帧投影点集合Q(0)。这里，n表示所述目标对象的每个三维采样点p垂直于所述目标对象表面并朝向表面的外面的法向量，*表示点积运算，R(0)[:,:]表示第一帧位姿包含的目标对象的旋转矩阵的每一行和每一列。例如，P和n都是3×1的向量。例如，对于P＝{p1,p2,p3}中的每个采样点，如果n*R(0)[:,2]小于零，则表示R(0)[:,:]的第三列对应的三维采样点(例如，p3)对所述第一帧图像不可见(例如，背对第一帧图像)，那么就不将该三维采样点p3的投影点计入投影点集合Q(0)中，那么最终得到的投影点集合为Q(0)＝{q1,q2}，其中q1和q2分别为采样点p1和p2的投影点。
通过上述计算，可以得到i＝0情况下的第一帧投影点集合Q(0)＝{q1,q2}。接下来，可以基于现有模型获取表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合C(0)，具体实现方法这里不再赘述。
应当认识到，将三维采样点集合上的每个三维采样点坐标投影到二维帧图像上的方法不限于此，可以采用任何合适的方法实现上述步骤。
返回到图4，上述步骤S1022可以包括参考图5的子步骤S1025和S1026。
例如，如图5所示，所述利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合(S1022)可以包括：利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合(S1025)；以及利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合(S1026)。
例如，对于步骤S1025，可以基于光流算法，利用所述第一帧投影点集合Q(0)来获取所述第二帧投影点集合Q(1)。例如，所述光流算法包括但不限于OpenCV的calcOpticalFlowPyrLK方法。
例如，对于步骤S1026，可以基于光流算法，利用所述第一帧对应集合C(0)、所述第一帧投影点集合Q(0)和所述第二帧投影点集合Q(1)，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合C(1)。
返回到图4，例如，对于步骤S1023，可以利用位姿估计方法(例如带有RANSAC的Perspective-n-Point算法(具体实现可以利用OpenCV的solvePnPRansac方法)、solvePnP等)鲁棒地从第二帧对应集合C(1)中获取第二帧位姿(例如，T(1)、R(1))。
图6示出了根据本公开实施例的图像处理方法的示意图。
如图6所示，根据本公开实施例的图像处理方法首先获取目标对象31的三维采样点集合P＝{p1,p2,p3}、通过图像获取装置获取的关于所述目标对象的第一帧图像32、第二帧图像33、第四帧图像34等图像序列I(i)、以及与所述第一帧图像I(0)对应的、图像获取装置相对于所述目标对象31的第一帧位姿(例如，图像获取装置相对于所述目标对象的平移矩阵T(0)和旋转矩阵R(0))。接下来，本公开的图像处理方法可以利用所述第一帧位姿(例如，平移矩阵T(0)和旋转矩阵R(0))，获取所述三维采样点集合P＝{p1,p2,p3}到所述第一帧图像I(0)的第一帧投影点集合Q(0)＝{q1,q2,q3}、以及表示所述三维采样点集合P＝{p1,p2,p3}与所述第一帧投影点集合Q(0)＝{q1,q2,q3}之间的对应关系的第一帧对应集合C(0)。接下来，本公开的图像处理方法可以利用所述第一帧投影点集合Q(0)＝{q1,q2,q3}，利用光流算法获取所述三维采样点集合P＝{p1,p2,p3}到所述第二帧图像I(1)的第二帧投影点集合Q(1)＝{q1’,q2’,q3’}，并利用所述第一帧对应集合C(0)、所述第一帧投影点集合Q(0)＝{q1,q2,q3}和所述第二帧投影点集合Q(1)＝{q1’,q2’,q3’}，利用光流算法获取表示所述三维采样点集合P＝{p1,p2,p3}与所述第二投影点集合Q(1)＝{q1’,q2’,q3’}之间的对应关系的第二帧对应集合C(1)。最后，本公开的图像处理方法可以利用solvePnPRansac方法，基于所述第二帧对应集合C(1)获取所述第二帧位姿(例如，平移矩阵T(1)和旋转矩阵R(1))。由此实现了基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，来获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。应当理解，还可以迭代进行上述步骤S102，以继续对目标对象进行跟踪匹配，从而获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，在此不再赘述。
此外，由于通过三维点云模型预先获取的三维采样点集合没有精确的目标对象形状，因此步骤S1021中对三维采样点集合在当前帧图像中的可见性判断可能并不可靠(例如，图6中通过光流算法获取的Q(1)＝{q1’,q2’,q3’}可能存在错误，例如q3’可能在当前帧图像外部)。因此，需要通过几何校验来去除不可见的采样点和光流计算中不可靠的投影点。
图7示出了几何校验方法400的流程图。
如图7所示，例如，根据本公开实施例的几何校验方法400可以包括步骤S301-S305。
在步骤S301中，利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿和所述第二投影点集合中未出错的投影点集合。
在步骤S302中，通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果。
接下来，若判断出所述未出错的投影点集合中元素的数量大于所述第一预定阈值，则执行步骤S303，即获取跟踪匹配成功的结果，并输出第二帧位姿。接下来，执行步骤S305：利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，直到表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值。
若判断出所述未出错的投影点集合中元素的数量不大于所述第一预定阈值，则执行步骤S304，即获取跟踪匹配失败的结果，且不输出第二帧位姿。
例如，由于solvePnPRansac方法具有一定的容忍性，因此可以在具有出错的投影点的情况下仍然输出第二帧位姿。此外，利用位姿估计方法，还可以基于所述第二帧对应集合获取所述第二投影点集合中未出错的投影点集合J(1)。因此，本公开可以通过判断J(1)中元素的数量是否大于第一预定阈值来获取跟踪匹配结果。该第一阈值可以通过统计分析预先指定，例如，该第一阈值可是20。
对于步骤S303，若判断出所述未出错的投影点集合中元素的数量大于所述第一预定阈值，那么表示追踪成功。接下来继续执行步骤S305，即本公开的图像处理方法可以利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，直到表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值。
例如，该第二阈值可以通过统计分析预先指定。
例如，对于步骤S305，如果表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值(例如，在目标对象转动了比较大的角度导致原来能看到的点变成了背对图像获取装置的点的情况下)，则表示追踪失败，那么本方法返回到步骤S1021，以对当前帧图像重新初始化当前帧投影点集合以及当前帧对应集合。
可替代地，对于步骤S305，如果表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量不小于第二预定阈值，则表示追踪成功，那么本方法返回到步骤S1022以利用上一帧对应集合继续处理下一帧图像，并迭代步骤S1022-S305。
此外，所述利用所述第二帧对应集合，获得包含对象的后续帧相机位姿可以包括：从所述第二帧对应集合中去除不在所述未出错的投影点集合中的投影点集合对应的集合，以获得修订的第二帧对应集合；以及利用所述修订的第二帧对应集合，获得包含对象的后续帧相机位姿。
从上述实施例可以看出，通过图1-6的描述，可以通过利用目标对象的三维采样点集合和目标对象的初始图像对应的图像获取装置的初始位姿来对目标对象进行跟踪匹配，从而获取目标对象的下一帧位姿，由此实现基于三维采样点模型的鲁棒、快速的六自由度追踪，减少了对于目标对象的几何形状的依赖，从而提高了追踪算法的适用性和效率。
以上，参照附图1-7描述了根据本公开实施例的图像处理方法。以下，将描述根据本公开实施例的图像处理装置。
图8是图示根据本公开实施例的图像处理装置的功能框图。如图8所示，根据本公开实施例的图像处理装置1000包括获取单元1010和跟踪匹配单元1020。上述各模块可以分别执行如上参照图1到图8描述的根据本公开的实施例的图像处理方法的各个步骤。本领域的技术人员理解：这些单元模块可以单独由硬件、单独由软件或者由其组合以各种方式实现，并且本公开不限于它们的任何一个。例如，可以通过中央处理单元(CPU)、图像处理器(GPU)、张量处理器(TPU)、现场可编程逻辑门阵列(FPGA)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元以及相应计算机指令来实现这些单元。
例如，获取单元1010可以用于获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿。
例如，目标对象的三维采样点集合可以是通过三维点云模型预先获取的。例如，跟踪设备可以根据当前目标对象，实时生成的目标对象的三维点云数据/三维采样点集合，其中该三维点云数据可以是目标对象的表面的采样点数据。
应当认识到，本公开不需要知道目标对象的几何形状，即不需要获取目标对象的三维模型，而在仅仅获取目标对象的三维点云数据之后即可实现本公开的图像处理方法。
例如，第一帧位姿包括图像获取装置相对于目标对象的位移及方位偏差等，包括表示目标对象的六自由度的旋转矩阵和平移矩阵。
例如，跟踪匹配单元可以用于基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
例如，所述跟踪匹配单元1020可以利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及利用所述第二帧对应集合，获取所述第二帧位姿。
例如，所述跟踪匹配单元1020可以利用所述第一帧位姿，通过判断所述三维采样点集合上的每个三维采样点对所述第一帧图像是否可见，来获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合。
例如，对于i＝0情况下的第一帧，可以通过诸如针孔相机模型(pinhole cameramode)将三维采样点集合P＝{p}上的每个三维采样点坐标投影到第一帧图像I(0)上，来获取三维采样点集合到图像序列I(i)中的第一帧图像I(0)上的第一帧投影点集合Q(0)。
应当认识到，将三维采样点集合上的每个三维采样点坐标投影到二维帧图像上的方法不限于此，可以采用任何合适的方法实现上述步骤。
例如，所述跟踪匹配单元1020可以利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
例如，跟踪匹配单元1020可以基于光流算法，利用所述第一帧投影点集合Q(0)来获取所述第二帧投影点集合Q(1)。例如，所述光流算法包括但不限于OpenCV的calcOpticalFlowPyrLK方法。
例如，跟踪匹配单元1020可以基于光流算法，利用所述第一帧对应集合C(0)、所述第一帧投影点集合Q(0)和所述第二帧投影点集合Q(1)，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合C(1)。
例如，跟踪匹配单元1020可以利用带有RANSAC的Perspective-n-Point算法(具体实现可以利用OpenCV的solvePnPRansac方法)鲁棒地从第二帧对应集合C(1)中获取第二帧位姿(例如，T(1)、R(1))。
例如，所述跟踪匹配1020单元可以利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿和所述第二投影点集合中未出错的投影点集合；以及通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果。
例如，若判断出所述未出错的投影点集合中元素的数量大于所述第一预定阈值，则跟踪匹配1020单元可以获取跟踪匹配成功的结果，并输出第二帧位姿；以及若判断出所述未出错的投影点集合中元素的数量不大于所述第一预定阈值，则跟踪匹配1020单元可以获取跟踪匹配失败的结果，且不输出第二帧位姿。
例如，在获取跟踪匹配成功的结果之后，所述跟踪匹配1020单元还可以利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，直到表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值。
例如，所述跟踪匹配1020单元可以从所述第二帧对应集合中去除不在所述未出错的投影点集合中的投影点集合对应的元素，以获取修订的第二帧对应集合；以及利用所述修订的第二帧对应集合，获取所述下一帧位姿。
本公开的图像处理装置通过利用目标对象的三维采样点集合和目标对象的初始图像对应的摄像装置的初始位姿来对目标对象进行跟踪匹配，从而获取目标对象的下一帧位姿，由此实现基于三维采样点模型的鲁棒、快速的六自由度追踪，减少了对于目标对象的几何形状的依赖，从而提高了追踪算法的适用性和效率。
下面，参照图9描述根据本公开实施例的电子设备600。图9是根据本公开实施例的电子设备600的示意图。根据本公开实施例的电子设备至少包括处理器；以及存储器，用于存储计算机程序指令。当计算机程序指令由处理器加载并运行时，所述处理器执行如上所述的图像处理方法。
下面参考图9，其示出了适于用来实现本公开实施例的电子设备(例如图1中的终端设备或服务器)600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图9示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置606加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置606；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图9示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置606被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。
图10是根据本公开实施例的计算机可读存储介质的示意图。如图10所示，本公开还包括一种计算机可读存储介质500，其上存储非暂时性计算机可读指令510，当该计算机可读指令由计算机执行时，计算机执行图像处理方法，包括：获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
根据本公开的图像处理设备和计算机可读存储介质，利用目标对象的三维采样点集合和目标对象的初始图像对应的摄像装置的初始位姿来对目标对象进行跟踪匹配，从而获取目标对象的下一帧位姿，由此实现基于三维采样点模型的鲁棒、快速的六自由度追踪，减少了对于目标对象的几何形状的依赖，从而提高了追踪算法的适用性和效率。
需要说明的是，本公开上述的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读存储介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取至少两个网际协议地址；向节点评价设备发送包括所述至少两个网际协议地址的节点评价请求，其中，所述节点评价设备从所述至少两个网际协议地址中，选取网际协议地址并返回；接收所述节点评价设备返回的网际协议地址；其中，所获取的网际协议地址指示内容分发网络中的边缘节点。
或者，上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：接收包括至少两个网际协议地址的节点评价请求；从所述至少两个网际协议地址中，选取网际协议地址；返回选取出的网际协议地址；其中，接收到的网际协议地址指示内容分发网络中的边缘节点。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
鉴于上述问题而提出了本公开。本公开提供了用于图像处理的方法和装置、电子设备以及计算机可读存储介质。
现在以基于解决方案的格式公开优选地由一些实施例实现的一些特征。
A1.一种图像处理方法，包括：
获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及
基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
A2.根据解决方案A1所述的方法，其中，所述基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿包括：
利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；
利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及
利用所述第二帧对应集合，获取所述第二帧位姿。
A3.根据解决方案A2所述的方法，其中，所述利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合包括：
利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及
利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
A4.根据解决方案A2所述的方法，其中，所述利用所述第二帧对应集合，获取所述第二帧位姿包括：
利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿。
A5.根据解决方案A4所述的方法，其中，所述方法还包括：
利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿和所述第二投影点集合中未出错的投影点集合；以及
通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果。
A6.根据解决方案A5所述的方法，其中，所述通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果包括：
若判断出所述未出错的投影点集合中元素的数量大于所述第一预定阈值，则获取跟踪匹配成功的结果，并输出第二帧位姿；以及
若判断出所述未出错的投影点集合中元素的数量不大于所述第一预定阈值，则获取跟踪匹配失败的结果，且不输出第二帧位姿。
A7.根据解决方案A6所述的方法，其中，在获取跟踪匹配成功的结果之后，所述方法还包括：
利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，直到表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值。
A8.根据解决方案A7所述的方法，其中，所述利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿包括：
从所述第二帧对应集合中去除不在所述未出错的投影点集合中的投影点集合对应的元素，以获取修订的第二帧对应集合；以及
利用所述修订的第二帧对应集合，获取所述下一帧位姿。
A9.根据解决方案A2-A8任一项所述的方法，其中，所述第一帧位姿和所述第二帧位姿包括所述目标对象的平移矩阵、旋转矩阵。
A10.根据解决方案A9所述的方法，其中，所述利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合包括：
利用所述第一帧位姿，通过判断所述三维采样点集合上的每个三维采样点对所述第一帧图像是否可见，来获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合。
A11.根据解决方案A9所述的方法，其中，对于所述三维采样点集合上的每个三维采样点，通过判断n*R(0)[:,:]是否小于零，来获取所述第一帧投影点集合，
其中，n表示所述目标对象的每个三维采样点垂直于所述目标对象表面并朝向表面的外面的法向量，*表示点积运算，R(0)[:,:]表示第一帧位姿包含的目标对象的旋转矩阵的每一行和每一列。
A12.根据解决方案A3所述的方法，其中，所述利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合包括：
基于光流算法，利用所述第一帧投影点集合来获取所述第二帧投影点集合。
现在以基于解决方案的格式公开优选地由一些实施例实现的一些特征。
B1.一种图像处理装置，包括：
获取单元，用于获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及
跟踪匹配单元，用于基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
B2.根据解决方案B1所述的图像处理装置，其中，所述跟踪匹配单元可操作以：
利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；
利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及
利用所述第二帧对应集合，获取所述第二帧位姿。
B3.根据解决方案B2所述的图像处理装置，其中，所述跟踪匹配单元可操作以：
利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及
利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
B4.根据解决方案B2所述的图像处理装置，其中，所述跟踪匹配单元可操作以：
利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿。
现在以基于解决方案的格式公开优选地由一些实施例实现的一些特征。
C1.一种电子设备，包括：
处理器；以及
存储器，其中存储计算机可读指令，
其中，在所述计算机可读指令被所述处理器运行时执行图像处理方法，所述方法包括：
获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及
基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
现在以基于解决方案的格式公开优选地由一些实施例实现的一些特征。
D1.一种用于存储非暂时性计算机可读指令的计算机可读存储介质，所述程序使得计算机执行如上述解决方案所述的图像处理方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (18)
1.一种图像处理方法，包括：
获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及
基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
2.根据权利要求1所述的方法，其中，所述基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿包括：
利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；
利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及
利用所述第二帧对应集合，获取所述第二帧位姿。
3.根据权利要求2所述的方法，其中，所述利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合包括：
利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及
利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
4.根据权利要求2所述的方法，其中，所述利用所述第二帧对应集合，获取所述第二帧位姿包括：
利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿。
5.根据权利要求4所述的方法，其中，所述方法还包括：
利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿和所述第二投影点集合中未出错的投影点集合；以及
通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果。
6.根据权利要求5所述的方法，其中，所述通过判断所述未出错的投影点集合中元素的数量是否大于第一预定阈值来获取跟踪匹配结果包括：
若判断出所述未出错的投影点集合中元素的数量大于所述第一预定阈值，则获取跟踪匹配成功的结果，并输出第二帧位姿；以及
若判断出所述未出错的投影点集合中元素的数量不大于所述第一预定阈值，则获取跟踪匹配失败的结果，且不输出第二帧位姿。
7.根据权利要求6所述的方法，其中，在获取跟踪匹配成功的结果之后，所述方法还包括：
利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿，直到表示所述三维采样点集合与所述三维采样点集合到所述下一帧图像的下一投影点集合之间的对应关系的下一帧对应集合中元素的数量小于第二预定阈值。
8.根据权利要求7所述的方法，其中，所述利用所述第二帧对应集合，获取下一帧图像对应的、图像获取装置相对于所述目标对象的下一帧位姿包括：
从所述第二帧对应集合中去除不在所述未出错的投影点集合中的投影点集合对应的元素，以获取修订的第二帧对应集合；以及
利用所述修订的第二帧对应集合，获取所述下一帧位姿。
9.根据权利要求2-8任一项所述的方法，其中，所述第一帧位姿和所述第二帧位姿包括所述目标对象的平移矩阵、旋转矩阵。
10.根据权利要求9所述的方法，其中，所述利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合包括：
利用所述第一帧位姿，通过判断所述三维采样点集合上的每个三维采样点对所述第一帧图像是否可见，来获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合。
11.根据权利要求9所述的方法，其中，对于所述三维采样点集合上的每个三维采样点，通过判断n*R(0)[:,:]是否小于零，来获取所述第一帧投影点集合，
其中，n表示所述目标对象的每个三维采样点垂直于所述目标对象表面并朝向表面的外面的法向量，*表示点积运算，R(0)[:,:]表示第一帧位姿包含的目标对象的旋转矩阵的每一行和每一列。
12.根据权利要求3所述的方法，其中，所述利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合包括：
基于光流算法，利用所述第一帧投影点集合来获取所述第二帧投影点集合。
13.一种图像处理装置，包括：
获取单元，用于获取目标对象的三维采样点集合、通过图像获取装置获取的关于所述目标对象的第一帧图像和第二帧图像以及与所述第一帧图像对应的、图像获取装置相对于所述目标对象的第一帧位姿；以及
跟踪匹配单元，用于基于所述三维采样点集合和第一帧位姿对所述目标对象进行跟踪匹配，以获取与所述第二帧图像对应的、图像获取装置相对于所述目标对象的第二帧位姿。
14.根据权利要求13所述的图像处理装置，其中，所述跟踪匹配单元可操作以：
利用所述第一帧位姿，获取所述三维采样点集合到所述第一帧图像的第一帧投影点集合、以及表示所述三维采样点集合与所述第一帧投影点集合之间的对应关系的第一帧对应集合；
利用所述第一帧投影点集合和所述第一帧对应集合，获取表示所述三维采样点集合与所述三维采样点集合到所述第二帧图像的第二投影点集合之间的对应关系的第二帧对应集合；以及
利用所述第二帧对应集合，获取所述第二帧位姿。
15.根据权利要求14所述的图像处理装置，其中，所述跟踪匹配单元可操作以：
利用所述第一帧投影点集合，获取所述三维采样点集合到所述第二帧图像的第二帧投影点集合；以及
利用所述第一帧对应集合、所述第一帧投影点集合和所述第二帧投影点集合，获取表示所述三维采样点集合与所述第二投影点集合之间的对应关系的第二帧对应集合。
16.根据权利要求14所述的图像处理装置，其中，所述跟踪匹配单元可操作以：
利用位姿估计方法，基于所述第二帧对应集合获取所述第二帧位姿。
17.一种电子设备，包括：
处理器；以及
存储器，其中存储计算机可读指令，
其中，当所述计算机可读指令由所述处理器运行时，执行如权利要求1-12任一项所述的图像处理方法。
18.一种用于存储非暂时性计算机可读指令的计算机可读存储介质，所述程序使得计算机执行如权利要求1-12任一项所述的图像处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110156554.0A CN112837424B (zh) | 2021-02-04 | 2021-02-04 | 图像处理方法、装置、设备和计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110156554.0A CN112837424B (zh) | 2021-02-04 | 2021-02-04 | 图像处理方法、装置、设备和计算机可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112837424A true CN112837424A (zh) | 2021-05-25 |
| CN112837424B CN112837424B (zh) | 2024-02-06 |
Family
ID=75932150
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110156554.0A Active CN112837424B (zh) | 2021-02-04 | 2021-02-04 | 图像处理方法、装置、设备和计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112837424B (zh) |
Citations (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20160086336A1 (en) * | 2014-09-19 | 2016-03-24 | Qualcomm Incorporated | System and method of pose estimation |
| CN109166140A (zh) * | 2018-07-27 | 2019-01-08 | 长安大学 | 一种基于多线激光雷达的车辆运动轨迹估计方法及系统 |
| CN110084885A (zh) * | 2019-05-06 | 2019-08-02 | 广州市百果园信息技术有限公司 | 一种点云和图像优化方法、装置、设备和存储介质 |
| CN110599605A (zh) * | 2019-09-10 | 2019-12-20 | 腾讯科技（深圳）有限公司 | 图像处理方法及装置、电子设备和计算机可读存储介质 |
| CN110766716A (zh) * | 2019-09-10 | 2020-02-07 | 中国科学院深圳先进技术研究院 | 一种空间未知运动目标的信息获取方法及系统 |
| CN110853075A (zh) * | 2019-11-05 | 2020-02-28 | 北京理工大学 | 一种基于稠密点云与合成视图的视觉跟踪定位方法 |
| CN111127524A (zh) * | 2018-10-31 | 2020-05-08 | 华为技术有限公司 | 一种轨迹跟踪与三维重建方法、系统及装置 |
| CN111127422A (zh) * | 2019-12-19 | 2020-05-08 | 北京旷视科技有限公司 | 图像标注方法、装置、系统及主机 |
| CN111161347A (zh) * | 2020-04-01 | 2020-05-15 | 亮风台（上海）信息科技有限公司 | 一种进行slam初始化的方法与设备 |
| CN111179309A (zh) * | 2019-12-19 | 2020-05-19 | 联想(北京)有限公司 | 一种跟踪方法及设备 |
| CN111311758A (zh) * | 2020-02-24 | 2020-06-19 | Oppo广东移动通信有限公司 | 增强现实处理方法及装置、存储介质和电子设备 |
| CN111311684A (zh) * | 2020-04-01 | 2020-06-19 | 亮风台（上海）信息科技有限公司 | 一种进行slam初始化的方法与设备 |
| CN111415387A (zh) * | 2019-01-04 | 2020-07-14 | 南京人工智能高等研究院有限公司 | 相机位姿确定方法、装置、电子设备及存储介质 |
| CN111429517A (zh) * | 2020-03-23 | 2020-07-17 | Oppo广东移动通信有限公司 | 重定位方法、重定位装置、存储介质与电子设备 |
| CN111652933A (zh) * | 2020-05-06 | 2020-09-11 | Oppo广东移动通信有限公司 | 基于单目相机的重定位方法、装置、存储介质与电子设备 |
| CN111768447A (zh) * | 2020-07-01 | 2020-10-13 | 哈工大机器人（合肥）国际创新研究院 | 一种基于模板匹配的单目相机物体位姿估计方法及系统 |
| CN111951325A (zh) * | 2019-05-14 | 2020-11-17 | 虹软科技股份有限公司 | 位姿跟踪方法、位姿跟踪装置及电子设备 |
-
2021
- 2021-02-04 CN CN202110156554.0A patent/CN112837424B/zh active Active
Patent Citations (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20160086336A1 (en) * | 2014-09-19 | 2016-03-24 | Qualcomm Incorporated | System and method of pose estimation |
| CN109166140A (zh) * | 2018-07-27 | 2019-01-08 | 长安大学 | 一种基于多线激光雷达的车辆运动轨迹估计方法及系统 |
| CN111127524A (zh) * | 2018-10-31 | 2020-05-08 | 华为技术有限公司 | 一种轨迹跟踪与三维重建方法、系统及装置 |
| CN111415387A (zh) * | 2019-01-04 | 2020-07-14 | 南京人工智能高等研究院有限公司 | 相机位姿确定方法、装置、电子设备及存储介质 |
| CN110084885A (zh) * | 2019-05-06 | 2019-08-02 | 广州市百果园信息技术有限公司 | 一种点云和图像优化方法、装置、设备和存储介质 |
| CN111951325A (zh) * | 2019-05-14 | 2020-11-17 | 虹软科技股份有限公司 | 位姿跟踪方法、位姿跟踪装置及电子设备 |
| CN110766716A (zh) * | 2019-09-10 | 2020-02-07 | 中国科学院深圳先进技术研究院 | 一种空间未知运动目标的信息获取方法及系统 |
| CN110599605A (zh) * | 2019-09-10 | 2019-12-20 | 腾讯科技（深圳）有限公司 | 图像处理方法及装置、电子设备和计算机可读存储介质 |
| CN110853075A (zh) * | 2019-11-05 | 2020-02-28 | 北京理工大学 | 一种基于稠密点云与合成视图的视觉跟踪定位方法 |
| CN111127422A (zh) * | 2019-12-19 | 2020-05-08 | 北京旷视科技有限公司 | 图像标注方法、装置、系统及主机 |
| CN111179309A (zh) * | 2019-12-19 | 2020-05-19 | 联想(北京)有限公司 | 一种跟踪方法及设备 |
| CN111311758A (zh) * | 2020-02-24 | 2020-06-19 | Oppo广东移动通信有限公司 | 增强现实处理方法及装置、存储介质和电子设备 |
| CN111429517A (zh) * | 2020-03-23 | 2020-07-17 | Oppo广东移动通信有限公司 | 重定位方法、重定位装置、存储介质与电子设备 |
| CN111161347A (zh) * | 2020-04-01 | 2020-05-15 | 亮风台（上海）信息科技有限公司 | 一种进行slam初始化的方法与设备 |
| CN111311684A (zh) * | 2020-04-01 | 2020-06-19 | 亮风台（上海）信息科技有限公司 | 一种进行slam初始化的方法与设备 |
| CN111652933A (zh) * | 2020-05-06 | 2020-09-11 | Oppo广东移动通信有限公司 | 基于单目相机的重定位方法、装置、存储介质与电子设备 |
| CN111768447A (zh) * | 2020-07-01 | 2020-10-13 | 哈工大机器人（合肥）国际创新研究院 | 一种基于模板匹配的单目相机物体位姿估计方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112837424B (zh) | 2024-02-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20200357136A1 (en) | Method and apparatus for determining pose of image capturing device, and storage medium | |
| CN109584276B (zh) | 关键点检测方法、装置、设备及可读介质 | |
| CN106846497B (zh) | 应用于终端的呈现三维地图的方法和装置 | |
| CN109754464B (zh) | 用于生成信息的方法和装置 | |
| CN111161398B (zh) | 一种图像生成方法、装置、设备及存储介质 | |
| CN110794962A (zh) | 一种信息融合方法、装置、终端及存储介质 | |
| CN111862352A (zh) | 定位模型优化方法、定位方法和定位设备 | |
| CN111862349A (zh) | 虚拟画笔实现方法、装置和计算机可读存储介质 | |
| CN111833459B (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
| CN109816791B (zh) | 用于生成信息的方法和装置 | |
| CN113178017A (zh) | Ar数据展示方法、装置、电子设备及存储介质 | |
| CN111862342A (zh) | 增强现实的纹理处理方法、装置、电子设备及存储介质 | |
| US8872832B2 (en) | System and method for mesh stabilization of facial motion capture data | |
| CN110717467A (zh) | 头部姿势的估计方法、装置、设备及存储介质 | |
| CN112837424B (zh) | 图像处理方法、装置、设备和计算机可读存储介质 | |
| CN113963000B (zh) | 图像分割方法、装置、电子设备及程序产品 | |
| CN110619615A (zh) | 用于处理图像方法和装置 | |
| CN113223012B (zh) | 视频处理方法、设备及电子设备 | |
| CN115170395A (zh) | 全景图像拼接方法、装置、电子设备、介质和程序产品 | |
| CN114049403A (zh) | 一种多角度三维人脸重建方法、装置及存储介质 | |
| CN112070903A (zh) | 虚拟对象的展示方法、装置、电子设备及计算机存储介质 | |
| WO2022194061A1 (zh) | 目标跟踪方法、装置、设备及介质 | |
| CN112818748B (zh) | 确定视频中的平面的方法和装置、存储介质和电子设备 | |
| CN111768443A (zh) | 基于移动摄像头的图像处理方法和装置 | |
| US11836437B2 (en) | Character display method and apparatus, electronic device, and storage medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |