CN114419292A - 图像处理方法、装置、设备及存储介质 - Google Patents

Abstract

本公开实施例公开了一种图像处理方法、装置、设备及存储介质。获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。本公开实施例提供的图像处理方法，根据检测到的目标物体和视野空间队列确定待新增虚拟物体，根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体，可以降低虚拟物体更新时的计算量，从而提高图像处理效率。

Description

图像处理方法、装置、设备及存储介质

技术领域

本公开实施例涉及增强现实技术领域，尤其涉及一种图像处理方法、装置、设备及存储介质。

背景技术

通过在检测到的目标物体上过载虚拟物体是增强现实中常见的应用场景。该应用场景中，需要对空间进行目标检测。通常，在对空间中同一目标物体多次检测后，需要进行重叠的判断及视野外目标物体的移除。现有技术中，可能通过目标跟踪和特征匹配的方式实现物体重复物体的过滤及视野外物体的删除，但是该方式计算量较大，效率较低。

发明内容

本公开实施例提供一种图像处理方法、装置、设备及存储介质，可以降低虚拟物体更新时的计算量，从而提高图像处理效率。

第一方面，本公开实施例提供了一种图像处理方法，包括：

获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；

根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由N个最近的关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；

根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；

根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

第二方面，本公开实施例还提供了一种图像处理装置，包括：

目标物体检测模块，用于获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；

待新增虚拟物体确定模块，用于根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由N个最近的关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；

待删除虚拟物体确定模块，用于根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；

虚拟物体更新模块，用于根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

第三方面，本公开实施例还提供了一种电子设备，所述电子设备包括：

一个或多个处理装置；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理装置执行，使得所述一个或多个处理装置实现如本公开实施例所述的图像处理方法。

第四方面，本公开实施例还提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现如本公开实施例所述的图像处理方法。

本公开实施例公开了一种图像处理方法、装置、设备及存储介质。获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，关键帧为触发物体检测的帧；根据检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，视野空间队列由N个最近的关键帧对应的视野空间组成，当前关键帧为队列中第N个关键帧；根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体；根据待新增虚拟物体和待删除虚拟物体对当前关键帧对应的虚拟物体进行更新。本公开实施例提供的图像处理方法，根据检测到的目标物体和视野空间队列确定待新增虚拟物体，根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体，可以降低虚拟物体更新时的计算量，从而提高图像处理效率。

附图说明

图1是本公开实施例中的一种图像处理方法的流程图；

图2是本公开实施例中的视椎体的示意图；

图3是本公开实施例中的在当前关键帧新增的目标物体示例图；

图4是本公开实施例中的一种图像处理装置的结构示意图；

图5是本公开实施例中的一种电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

图1为本公开实施例提供的一种图像处理方法的流程图，本实施例可适用于在三维空间的画面中的虚拟物体进行更新的情况，该方法可以由图像处理装置来执行，该装置可由硬件和/或软件组成，并一般可集成在具有图像处理功能的设备中，该设备可以是服务器、移动终端或服务器集群等电子设备。如图1所示，该方法具体包括如下步骤：

S110，获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体。

其中，关键帧为触发物体检测的帧，当满足设定触发条件时，终端设备触发物体检测模块对当前画面进行目标物体的检测。其中，设定触发条件可以是：每隔设定时长、每隔设定数量的视频帧或者当前已渲染虚拟物体数量小于设定值等。本实施例中，可以采用现有的目标物体检测算法对当前画面进行目标物体的检测，此处不做限定。

其中，已渲染虚拟物体可以理解为已经显示并挂载于三维空间的物体上的虚拟物体，虚拟物体为3D物体。虚拟物体可以是任意主题类别的，例如：“元宵节”主题，虚拟物体可以是：虚拟灯笼、虚拟汤圆等，此处不做限定。

S120，根据检测到的目标物体和视野空间队列确定待新增虚拟物体。

其中，视野空间队列由距离当前时刻最近的N个关键帧对应的视野空间组成，当前关键帧为队列中第N个关键帧，则上一个关键帧为第N-1帧，依次类推。视野空间可以理解为三维世界中在屏幕上可见的区域，即虚拟摄像机的视野范围。即视野空间为以相机拍摄角度为视角，且落入相机拍摄范围内的三维空间。可选的，视野空间由视椎体表征，视椎体由多个边界面围成，本实施例中，视椎体由6个边界面围成，分别为近视面(Near plane)、远视面(Far plane)及四个侧边界面。示例性的，图2是本实施例中视椎体的示意图，图中，Oc表示相机。视椎体i在空间构成的梯台空间的集合为Qi。对于视野空间队列，则为N个关键帧对应的视野空间构成的区域集合，表示为：Q＝Q₁∪Q₂∪...∪Q_N，若三维空间点p位于空间Q内，则表示为p∈Q。由于计算单元的内存限制以及随着时间差的增加，旧关键帧的信息对于新关键帧的参考价值降低，所以可以在适当的时机移除旧的关键帧，因此，视野空间队列中保存N个最近的关键帧对应的视野空间。

其中，待新增虚拟物体由在当前关键帧中新增的目标物体确定，若在当前关键帧新增了目标物体，则需要在新增的目标物体上挂载新的虚拟物体。具体的，根据检测到的目标物体和视野空间队列确定待新增虚拟物体的方式可以是：根据检测到的目标物体和视野空间队列确定新增目标物体；根据新增目标物体确定待新增虚拟物体。

其中，新增目标物体可以理解为在当前关键帧新检测到的目标物体，即在之前的关键帧中未检测到。根据新增目标物体确定待新增虚拟物体的过程可以是：根据新增目标物体的检测框确定虚拟物体框，并获取虚拟物体内对应的素材，将该素材添加至虚拟物体框内进行渲染，获得新增虚拟物体。

本实施例中，根据检测到的目标物体和视野空间队列确定新增目标物体的方式可以是：判断检测到的目标物体是否落入视野空间队列中第1到第N-1个视野空间中至少一个；若否，则检测到的目标物体为新增目标物体；若是，则检测到的物体为旧目标物体。

具体的，若检测到目标物体均未落入视野空间队列中第1到第N-1个视野空间中，则该检测到的目标物体为新增目标物体。假设由目标物体的中心点p表征目标物体，若

则表明该检测到的目标物体为新增目标物体。示例性的，图3是本实施例中在当前关键帧新增的目标物体示例图，如图3所示，检测到的目标物体未落入前1到N-1帧的任一视野空间，则为新增目标物体。

可选的，判断检测到的目标物体是否落入视野空间队列中第1到第N-1个视野空间中的方式可以是：对于第1到第N-1个中的每个视野空间，将视野空间投影至相机平面，获得视野空间对应的二维区域；将检测到的目标物体的三维中心点投影至相机平面，获得二维中心点；判断二维中心点是否处于二维区域内；若是，则检测到的目标物体落入视野空间。

本实施例中，可以基于投影原理将视野空间投影至相机平面以及检测到的目标物体的三维中心点投影至相机平面。判断二维中心点是否处于二维区域内的方式可以是判断二维中心的坐标是否满足二维区域对应的函数集，若满足，则二维中心点处于二维区域内。若二维中心点处于二维区域内，则表明目标物体的三维中心点在视椎体内部，此时检测到的目标物体落入该视野空间。由三维中心点来表征目标物体可以极大的减少计算量。

可选的，判断检测到的目标物体是否落入视野空间队列中第1到第N-1个视野空间中的方式可以是：对于第1到第N-1个中的每个视野空间，获取检测到的目标物体的三维中心点分别与视野空间对应的多个边界面组成的多棱锥；计算多个多棱锥的体积和；若体积和与视野空间对应的视椎体的体积相等，则检测到的目标物体落入视野空间。

本实施例中，视野空间对应的视椎体由6个边界面围成，且每个面包含四个边，因此，三维中心点与每个边界面构成四棱锥，从而获得6个四棱锥。分别计算各四棱锥的体积，并将6个四棱锥的体积求和，若体积和与视椎体的体积相等，则表明目标物体的三维中心点在视椎体内部，此时检测到的目标物体落入该视野空间。

S130，根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体。

本实施例中，若已渲染虚拟物体已有一段时间未检测到，则为了节省资源及内存，需要将这部分已渲染虚拟物体删除掉。

具体的，根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体的方式可以是：判断已渲染虚拟物体是否落入视野空间队列中最近设定数量的视野空间中；若否，则将已渲染虚拟物体确定为待删除虚拟物体。

其中，设定数量小于或者等于N，例如可以取N/2，示例性的，假设N为10，则设定数量可以取5。本实施例中，若已渲染虚拟物体在均为落入最近设定数量的视野空间中，则该已渲染虚拟物体为待删除虚拟物体。

可选的，判断已渲染虚拟物体是否落入视野空间中最近设定数量的视野空间中的方式可以是：对于视野空间队列中最近设定数量的每个视野空间，将视野空间投影至相机平面，获得视野空间对应的二维区域；将已渲染虚拟物体的三维中心点投影至相机平面，获得二维中心点；判断二维中心点是否处于二维区域内；若是，则已渲染虚拟物体落入视野空间。

本实施例中，可以基于投影原理将视野空间投影至相机平面以及已渲染虚拟物体的三维中心点投影至相机平面。判断二维中心点是否处于二维区域内的方式可以是判断二维中心的坐标是否满足二维区域对应的函数集，若满足，则二维中心点处于二维区域内。若二维中心点处于二维区域内，则表明已渲染虚拟物体的三维中心点在视椎体内部，此时检测到的已渲染虚拟物体落入该视野空间。由三维中心点来表征已渲染虚拟物体可以极大的减少计算量。

可选的，判断已渲染虚拟物体是否落入视野空间中最近设定数量的视野空间中的方式可以是：对于视野空间队列中最近设定数量的每个视野空间，获取已渲染虚拟物体的三维中心点分别与视野空间对应的多个边界面围成的多棱锥；计算多个多棱锥的体积和；若体积和与视野空间对应的视椎体的体积相等，则已渲染虚拟物体落入视野空间。

本实施例中，视野空间对应的视椎体由6个边界面围成，且每个面包含四个边，因此，三维中心点与每个边界面构成四棱锥，从而获得6个四棱锥。分别计算各四棱锥的体积，并将6个四棱锥的体积求和，若体积和与视椎体的体积相等，则表明已渲染虚拟物体的三维中心点在视椎体内部，此时已渲染虚拟物体落入该视野空间。

S140，根据待新增虚拟物体和待删除虚拟物体对当前关键帧对应的虚拟物体进行更新。

具体的，根据待新增虚拟物体和待删除虚拟物体对当前关键帧对应的虚拟物体进行更新的过程可以是：将待新增虚拟物体挂载于新增目标物体对应的位置，将待删除虚拟物体删除。

在当前关键帧中，新增虚拟物体后的已渲染虚拟物体集合为

其中，P_k表示更新后当前关键帧对应的已渲染虚拟物体，D_k表示新挂载的虚拟物体。

在当前关键帧中，删除虚拟物体后的已渲染虚拟物体集合为：P_k＝P_k-1∩(Q₁∪Q₂∪…∪Q_N)，P_k表示更新后当前关键帧对应的已渲染虚拟物体。

本公开实施例的技术方案，获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，关键帧为触发物体检测的帧；根据检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，视野空间队列由N个最近的关键帧对应的视野空间组成，当前关键帧为队列中第N个关键帧；根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体；根据待新增虚拟物体和待删除虚拟物体对当前关键帧对应的虚拟物体进行更新。本公开实施例提供的图像处理方法，根据检测到的目标物体和视野空间队列确定待新增虚拟物体，根据已渲染虚拟物体和视野空间队列确定待删除虚拟物体，可以降低虚拟物体更新时的计算量，从而提高图像处理效率。

图4是本公开实施例公开的一种图像处理装置的结构示意图，如图4所示，该装置包括：

目标物体检测模块210，用于获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；

待新增虚拟物体确定模块220，用于根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由距离当前时刻最近的N个关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；

待删除虚拟物体确定模块230，用于根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；

虚拟物体更新模块240，用于根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

可选的，待新增虚拟物体确定模块220，还用于：

根据所述检测到的目标物体和视野空间队列确定新增目标物体；

根据所述新增目标物体确定待新增虚拟物体；

可选的，虚拟物体更新模块240，还用于：

将所述待新增虚拟物体挂载于所述新增目标物体对应的位置。

可选的，待新增虚拟物体确定模块220，还用于：

判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中至少一个；

若否，则检测到的目标物体为新增目标物体；若是，则检测到的物体为旧目标物体。

可选的，待删除虚拟物体确定模块230，还用于：

判断所述已渲染虚拟物体是否落入所述视野空间队列中最近设定数量的视野空间中；

若否，则将所述已渲染虚拟物体确定为待删除虚拟物体；其中，所述设定数量小于或者等于N。

可选的，所述视野空间由视椎体表征，视椎体由多个边界面围成。

可选的，待新增虚拟物体确定模块220，还用于：

对于第1到第N-1个中的每个视野空间，将所述视野空间投影至相机平面，获得所述视野空间对应的二维区域；

将所述检测到的目标物体的三维中心点投影至相机平面，获得二维中心点；

判断所述二维中心点是否处于所述二维区域内；

若是，则所述检测到的目标物体落入所述视野空间。

可选的，待新增虚拟物体确定模块220，还用于：

对于第1到第N-1个中的每个视野空间，获取所述检测到的目标物体的三维中心点分别与所述视野空间对应的多个边界面组成的多棱锥；

计算多个多棱锥的体积和；

若所述体积和与所述视野空间对应的视椎体的体积相等，则所述检测到的目标物体落入所述视野空间。

可选的，待删除虚拟物体确定模块230，还用于：

对于所述视野空间队列中最近设定数量的每个视野空间，将所述视野空间投影至相机平面，获得所述视野空间对应的二维区域；

将所述已渲染虚拟物体的三维中心点投影至相机平面，获得二维中心点；

判断所述二维中心点是否处于所述二维区域内；

若是，则所述已渲染虚拟物体落入所述视野空间。

可选的，待删除虚拟物体确定模块230，还用于：

对于所述视野空间队列中最近设定数量的每个视野空间，获取所述已渲染虚拟物体的三维中心点分别与所述视野空间对应的多个边界面围成的多棱锥；

计算多个多棱锥的体积和；

若所述体积和与所述视野空间对应的视椎体的体积相等，则所述已渲染虚拟物体落入所述视野空间。

上述装置可执行本公开前述所有实施例所提供的方法，具备执行上述方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本公开前述所有实施例所提供的方法。

下面参考图5，其示出了适于用来实现本公开实施例的电子设备300的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端，或者各种形式的服务器，如独立服务器或者服务器集群。图5示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图5所示，电子设备300可以包括处理装置(例如中央处理器、图形处理器等)301，其可以根据存储在只读存储装置(ROM)302中的程序或者从存储装置305加载到随机访问存储装置(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。

通常，以下装置可以连接至I/O接口305：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行词语的推荐方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置309从网络上被下载和安装，或者从存储装置305被安装，或者从ROM 302被安装。在该计算机程序被处理装置301执行时，执行本公开实施例的方法中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由距离当前时刻最近的N个关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开实施例的一个或多个实施例，本公开实施例公开了一种图像处理方法，包括：

获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；

根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由距离当前时刻最近的N个关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；

根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；

根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

进一步地，根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体，包括：

根据所述检测到的目标物体和视野空间队列确定新增目标物体；

根据所述新增目标物体确定待新增虚拟物体；

根据所述待新增虚拟物体对所述当前关键帧对应的虚拟物体进行更新，包括：

将所述待新增虚拟物体挂载于所述新增目标物体对应的位置。

进一步地，根据所述检测到的目标物体和视野空间队列确定新增目标物体，包括：

判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中；

若否，则检测到的目标物体为新增目标物体；否则，检测到的物体为旧目标物体。

进一步地，根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体，包括：

判断所述已渲染虚拟物体是否落入所述视野空间队列中最近设定数量的视野空间中；

若否，则将所述已渲染虚拟物体确定为待删除虚拟物体；其中，所述设定数量小于或者等于N。

进一步地，所述视野空间由视椎体表征，视椎体由多个边界面围成。

进一步地，判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中，包括：

对于第1到第N-1个中的每个视野空间，将所述视野空间投影至相机平面，获得所述视野空间对应的二维区域；

将所述检测到的目标物体的三维中心点投影至相机平面，获得二维中心点；

判断所述二维中心点是否处于所述二维区域内；

若是，则所述检测到的目标物体落入所述视野空间。

进一步地，判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中，包括：

对于第1到第N-1个中的每个视野空间，获取所述检测到的目标物体的三维中心点分别与所述视野空间对应的多个边界面组成的多棱锥；

计算多个多棱锥的体积和；

若所述体积和与所述视野空间对应的视椎体的体积相等，则所述检测到的目标物体落入所述视野空间。

进一步地，判断所述已渲染虚拟物体是否落入所述视野空间中最近设定数量的视野空间中，包括：

对于所述视野空间队列中最近设定数量的每个视野空间，将所述视野空间投影至相机平面，获得所述视野空间对应的二维区域；

将所述已渲染虚拟物体的三维中心点投影至相机平面，获得二维中心点；

判断所述二维中心点是否处于所述二维区域内；

若是，则所述已渲染虚拟物体落入所述视野空间。

进一步地，判断所述已渲染虚拟物体是否落入所述视野空间中最近设定数量的视野空间中，包括：

对于所述视野空间队列中最近设定数量的每个视野空间，获取所述已渲染虚拟物体的三维中心点分别与所述视野空间对应的多个边界面围成的多棱锥；

计算多个多棱锥的体积和；

若所述体积和与所述视野空间对应的视椎体的体积相等，则所述已渲染虚拟物体落入所述视野空间。

注意，上述仅为本公开的较佳实施例及所运用技术原理。本领域技术人员会理解，本公开不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本公开的保护范围。因此，虽然通过以上实施例对本公开进行了较为详细的说明，但是本公开不仅仅限于以上实施例，在不脱离本公开构思的情况下，还可以包括更多其他等效实施例，而本公开的范围由所附的权利要求范围决定。

Claims (12)

1.一种图像处理方法，其特征在于，包括：

获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；

根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由距离当前时刻最近的N个关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；

根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；

根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

2.根据权利要求1所述的方法，其特征在于，根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体，包括：

根据所述检测到的目标物体和视野空间队列确定新增目标物体；

根据所述新增目标物体确定待新增虚拟物体；

根据所述待新增虚拟物体对所述当前关键帧对应的虚拟物体进行更新，包括：

将所述待新增虚拟物体渲染于所述新增目标物体对应的位置。

3.根据权利要求2所述的方法，其特征在于，根据所述检测到的目标物体和视野空间队列确定新增目标物体，包括：

判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中至少一个；

若否，则检测到的目标物体为新增目标物体；若是，则检测到的物体为旧目标物体。

4.根据权利要求1所述的方法，其特征在于，根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体，包括：

判断所述已渲染虚拟物体是否落入所述视野空间队列中最近设定数量的视野空间中；

若否，则将所述已渲染虚拟物体确定为待删除虚拟物体；其中，所述设定数量小于或者等于N。

5.根据权利要求3或4所述的方法，其特征在于，所述视野空间为以相机拍摄角度为视角，且落入所述相机拍摄范围内的三维空间；所述视野空间由视椎体表征，且所述视椎体由多个边界面围成。

6.根据权利要求5所述的方法，其特征在于，判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中，包括：

对于第1到第N-1个中的每个视野空间，将所述视野空间投影至相机平面，获得所述视野空间对应的二维区域；

将所述检测到的目标物体的三维中心点投影至相机平面，获得二维中心点；

判断所述二维中心点是否处于所述二维区域内；

若是，则所述检测到的目标物体落入所述视野空间。

7.根据权利要求5所述的方法，其特征在于，判断检测到的目标物体是否落入所述视野空间队列中第1到第N-1个视野空间中，包括：

对于第1到第N-1个中的每个视野空间，获取所述检测到的目标物体的三维中心点分别与所述视野空间对应的多个边界面组成的多棱锥；

计算多个多棱锥的体积和；

若所述体积和与所述视野空间对应的视椎体的体积相等，则所述检测到的目标物体落入所述视野空间。

8.根据权利要求5所述的方法，其特征在于，判断所述已渲染虚拟物体是否落入所述视野空间中最近设定数量的视野空间中，包括：

对于所述视野空间队列中最近设定数量的每个视野空间，将所述视野空间投影至相机平面，获得所述视野空间对应的二维区域；

将所述已渲染虚拟物体的三维中心点投影至相机平面，获得二维中心点；

判断所述二维中心点是否处于所述二维区域内；

若是，则所述已渲染虚拟物体落入所述视野空间。

9.根据权利要求5所述的方法，其特征在于，判断所述已渲染虚拟物体是否落入所述视野空间中最近设定数量的视野空间中，包括：

对于所述视野空间队列中最近设定数量的每个视野空间，获取所述已渲染虚拟物体的三维中心点分别与所述视野空间对应的多个边界面围成的多棱锥；

计算多个多棱锥的体积和；

若所述体积和与所述视野空间对应的视椎体的体积相等，则所述已渲染虚拟物体落入所述视野空间。

10.一种图像处理装置，其特征在于，包括：

目标物体检测模块，用于获取在当前关键帧检测到的目标物体以及当前关键帧对应的已渲染虚拟物体；其中，所述关键帧为触发物体检测的帧；

待新增虚拟物体确定模块，用于根据所述检测到的目标物体和视野空间队列确定待新增虚拟物体；其中，所述视野空间队列由距离当前时刻最近的N个关键帧对应的视野空间组成，所述当前关键帧为队列中第N个关键帧；

待删除虚拟物体确定模块，用于根据所述已渲染虚拟物体和所述视野空间队列确定待删除虚拟物体；

虚拟物体更新模块，用于根据所述待新增虚拟物体和所述待删除虚拟物体对所述当前关键帧对应的虚拟物体进行更新。

11.一种电子设备，其特征在于，所述电子设备包括：

一个或多个处理装置；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理装置执行，使得所述一个或多个处理装置实现如权利要求1-9中任一所述的图像处理方法。

12.一种计算机可读介质，其上存储有计算机程序，其特征在于，该程序被处理装置执行时实现如权利要求1-9中任一所述的图像处理方法。

Images