CN115965734A - 图像处理方法及装置 - Google Patents

图像处理方法及装置 Download PDF

Info

Publication number
CN115965734A
CN115965734A CN202111192756.7A CN202111192756A CN115965734A CN 115965734 A CN115965734 A CN 115965734A CN 202111192756 A CN202111192756 A CN 202111192756A CN 115965734 A CN115965734 A CN 115965734A
Authority
CN
China
Prior art keywords
image
post
rgb
template
processed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111192756.7A
Other languages
English (en)
Inventor
梁兴仑
王璨
王泽�
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202111192756.7A priority Critical patent/CN115965734A/zh
Priority to PCT/CN2022/120368 priority patent/WO2023061173A1/zh
Publication of CN115965734A publication Critical patent/CN115965734A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Architecture (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)

Abstract

本公开提供一种图像处理方法及装置。该方法包括:获取RGB图像和模板缓冲区,所述RGB图像包括物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,所述模板缓冲区用于存储所述RGB图像上各个像素对应的模板值;根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像;对所述目标图像进行后处理,得到后处理后的图像;根据所述后处理后的图像,确定待显示图像。这种方式使得后处理对象灵活可控。提升了用户参与感和体验感。

Description

图像处理方法及装置
技术领域
本公开涉及图像处理领域,尤其涉及一种图像处理方法及装置。
背景技术
在AR场景下,用户看到的图像是由两部分内容组成的,这两部分内容为物理相机拍摄的内容和虚拟相机渲染的内容。图像后处理指的是,在普通的场景渲染结束后,对渲染结果再次进行处理。
现有技术中,在做后处理时,所有的像素都参与运算,然而在AR场景下,如果后处理过程只作用于虚拟相机渲染得到的那部分内容,或者只作用于虚拟相机渲染得到的那部分内容中用户指定的对象,对用户来说有不一样的观感体验,可增强用户沉浸感。现有技术无法满足此需求。
发明内容
本公开提供一种图像处理方法及装置,用于解决现有技术中后处理过程无法只作用于指定对象的问题。
第一方面,本公开提供一种图像处理方法,包括:获取RGB图像和模板缓冲区,所述RGB图像包括:物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,所述模板缓冲区用于存储所述RGB图像上各个像素对应的模板值,所述RGB图像上需要进行后处理的像素和不需要进行后处理的像素对应的模板值不同;根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,所述目标图像中所述不需要进行后处理的像素为预设颜色;对所述目标图像进行后处理,得到后处理后的图像;根据所述后处理后的图像,确定待显示图像。
可选的,所述获取RGB图像和模板缓冲区,包括:根据所述物理相机拍摄的图像信息的RGB值和所述虚拟对象渲染模块渲染的图像信息的RGB值,得到所述RGB图像;将原始模板缓冲区中所述需要进行后处理的像素对应的模板值更新为预设值,得到所述模板缓冲区,所述原始模板缓冲区存储的各个像素对应的模板值均为默认值,所述预设值和所述默认值不同。
可选的,所述根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,包括:创建渲染目标;将所述RGB图像上各个像素的RGB值拷贝至所述渲染目标中;将所述RGB图像上各个像素的RGB值设为0;针对所述RGB图像上每个像素,从所述模板缓冲区中查询所述像素对应的模板值是否为预设值;若所述像素对应的模板值为预设值,则在所述渲染目标查询得到所述像素的RGB值,若所述像素对应的模板值不是预设值,则不作处理。
可选的,所述根据所述后处理后的图像,确定待显示图像,包括:将所述渲染目标和所述后处理后的图像进行融合,得到所述待显示图像。
可选的,所述对所述渲染目标和所述后处理后的图像进行融合,得到所述待显示图像,包括:使用所述后处理后的图像上目标像素的RGB值代替所述渲染目标中对应像素的RGB值,得到所述待显示图像,所述目标像素包括RGB值不是零的像素。
第二方面,本公开提供一种图像处理装置,包括:获取模块,用于获取RGB图像和模板缓冲区,所述RGB图像包括:物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,所述模板缓冲区用于存储所述RGB图像上各个像素对应的模板值,所述RGB图像上需要进行后处理的像素和不需要进行后处理的像素对应的模板值不同;所述获取模块,还用于根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,所述目标图像中所述不需要进行后处理的像素为预设颜色;后处理模块,用于对所述目标图像进行后处理,得到后处理后的图像;融合模块,用于根据所述后处理后的图像,确定待显示图像。
可选的,所述获取模块,具体用于:根据所述物理相机拍摄的图像信息的RGB值和所述虚拟对象渲染模块渲染的图像信息的RGB值,得到所述RGB图像;将原始模板缓冲区中所述需要进行后处理的像素对应的模板值更新为预设值,得到所述模板缓冲区,所述原始模板缓冲区存储的各个像素对应的模板值均为默认值,所述预设值和所述默认值不同。
第三方面,本公开提供一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现第一方面的方法。
第四方面,本公开提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面的方法。
第五方面,本公开提供一种终端设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来实现第一方面的方法。
本公开提供的图像处理方法及装置。首先,获取到RGB图像和模板缓冲区,该RGB图像包括物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,然后,根据模板缓冲区,对RGB图像进行处理,得到目标图像,该目标图像中除需要进行后处理的像素以外其余像素为预设颜色;然后,对目标图像进行后处理,得到后处理后的图像;最后根据后处理后的图像,获取待显示图像。这种方式使得后处理对象灵活可控。提升了用户参与感和体验感。
附图说明
图1为本公开提供的图像处理方法的实施例一的流程示意图;
图2为本公开提供的RGB图像的示意图;
图3为本公开提供的模板缓冲区的示意图;
图4为本公开提供的目标图像的示意图一;
图5为本公开提供的图像处理方法的实施例二的流程示意图;
图6为本公开提供的原始模板缓冲区的示意图;
图7为本公开提供的获取目标图像的原理图;
图8为本公开提供的图像处理装置的结构示意图;
图9为本公开提供的终端设备的硬件结构示意图。
具体实施方式
为使本公开的目的、技术方案和优点更加清楚,下面将结合本公开中的附图,对本公开中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
在本公开中,需要解释的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性。此外,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A,B可以是单数或者复数。字符“以是一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:单独a,单独b,单独c,a和b的组合,a和c的组合,b和c的组合,或a、b以及c的组合,其中a,b,c可以是单个,也可以是多个。
在AR场景下,用户看到的图像是由两部分内容组成的,这两部分内容为物理相机拍摄的内容和虚拟相机渲染的内容。图像后处理指的是,在普通的场景渲染结束后,对渲染结果再次进行处理。不同的后处理算法可使后处理后的图像呈现不同的效果,比如:泛光(Bloom)、颜色分级(Color Grading)、景深(Depth Of Field,简称DOF)、屏幕空间环境光遮蔽(Screen-Space Ambient Occlusion,简称SSAO)等。
在AR场景下,如果后处理过程只作用于虚拟相机渲染得到的那部分内容,或者只作用于虚拟相机渲染得到的那部分内容中用户指定的对象,对用户来说有不一样的观感体验,可增强用户沉浸感。现有技术无法满足此需求。
一些实施例中,创建两个虚拟相机,第一个虚拟相机用于渲染整个虚拟场景,第二个虚拟相机用于绘制需要参与后处理过程的像素遮罩图像。第一个虚拟相机对渲染的内容进行后处理时,采样第二个虚拟相机输出的像素遮罩图像,剔除掉不需要参与后处理的像素。最后,将后处理完后的内容和物理相机拍摄的内容叠加在一起,生成最终的图像。然而,上述方法需要创建额外的虚拟相机,而且需要额外绘制像素遮罩图像,对帧率有一定影响,容易引起视频卡顿。
本公开提出,在渲染整个图像的过程中,将原始缓冲模板中需要进行后处理的像素对应的模板值更新为预设值,得到对应的模板缓冲区。其中,需要进行后处理的像素可由用户指定。然后,利用该模板缓冲区从整个图像中将需要进行后处理的内容截取出来,对截取出来的内容进行后处理,并将后处理后的内容和渲染阶段得到的RGB图像叠加在一起,生成最终的图像。使得后处理过程仅作用在需要进行后处理的像素上,使得后处理对象灵活可控。提升了用户参与感和体验感。而且无需创建额外的虚拟相机,也无需额外绘制像素遮罩图像,减小了帧率的影响,减小了卡顿的可能性。
本公开提供的方法可由终端设备执行,终端设备上设置有物理相机,用于拍摄真实场景。物理相机可以是摄像头,或者照相机等任何能够实现图像采集功能的装置,本公开对此不作限制。终端设备还包括虚拟对象渲染模块,用于渲染虚拟对象,虚拟对象可以是虚拟场景或者虚拟人物等,本公开对此不作限制,虚拟对象渲染模块可以是虚拟相机。终端设备可以是手机,平板电脑,智能手表,电视机等。作为示例而非限定,在本公开中,该终端设备还可以是可穿戴设备。可穿戴设备也可以称为穿戴式智能设备,是应用穿戴式技术对日常穿戴进行智能化设计、开发出可以穿戴的设备的总称,如眼镜、手套、手表、服饰及鞋等。可穿戴设备即直接穿在身上,或是整合到用户的衣服或配件的一种便携式设备。本身对终端设备的形态不作限定。
下面以具体地实施例对本公开的技术方案以及本公开的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本公开的实施例进行描述。
实施例一
图1为本公开提供的图像处理方法的实施例一的流程示意图。如图1所示,本实施例提供的图像处理方法,包括:
S101、获取RGB图像和模板缓冲区(Stencil buffer)。
其中,RGB图像包括物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,本公开中物理相机拍摄的图像信息也可理解为物理相机拍摄的内容,虚拟对象渲染模块渲染的图像信息也可理解为虚拟对象渲染模块渲染的内容。示例性的,可基于物理相机拍摄的图像信息的RGB值和虚拟对象渲染模块渲染的图像信息的RGB值,渲染得到RGB图像。渲染过程结束后,可得到两个结果,一个是RGB图像,另一个是该RGB图像对应的模板缓冲区。模板缓冲区用于存储RGB图像上各个像素对应的模板值。模板缓冲区中的模板值通常是8位的,因此每个像素共有256种不同的模板值。RGB图像上需要进行后处理的像素和不需要进行后处理的像素对应的模板值不同,以便后续将需要进行后处理的像素找出来参与后处理过程。渲染过程参见现有技术,本公开在此不再赘述。
下面举例说明:
图2示出了基于物理相机拍摄的图像信息的RGB值和虚拟对象渲染模块渲染的图像信息的RGB值渲染得到的RGB图像。图3示出了RGB图像对应的模板缓冲区。图3所示模板缓冲区中存储有图2所示RGB图像上各个像素对应的模板值。参见图3所示,假设RGB图像上第4行第4-10列、第5行第4-10列、第6行第4、5、9、10列、第7行第4-10列、第8行第4-10列像素为需要进行后处理的像素,可将这些像素对应的模板值设为1,将其余所有像素对应的模板值均设为0。
S102、根据模板缓冲区,对RGB图像进行处理,得到目标图像。
其中,目标图像中不需要进行后处理的像素为预设颜色,该预设颜色例如可以是黑色,本公开以黑色为例说明。
可选的,针对RGB图像上的每个像素,在模板缓冲区查找该像素对应的模板值,并将查找到的模板值和预设值进行比较,若查找到的模板值为预设值,则保留的该像素原来的RGB值,若查找到的模板值不是预设值,则将该像素的RGB值归零,从而得到目标图像。由于,该目标图像仅保留了模板值为预设值的那些像素的RGB值,即,目标图像仅保留了需要进行后处理的像素的RGB值,因此,目标图像上除需要进行后处理的像素以外其余像素均为黑色。
下面举例说明:
结合图2和图3,由于,RGB图像上第4行第4-10列、第5行第4-10列、第6行第4、5、9、10列、第7行第4-10列、第8行第4-10列像素对应的模板值为1,其余所有像素对应的模板值均为0,因此,参见图4所示,只有第4行第4-10列、第5行第4-10列、第6行第4、5、9、10列、第7行第4-10列、第8行第4-10列像素的RGB值保留,其余所有像素均为黑色。
S103、对目标图像进行后处理,得到后处理后的图像。
结合实际情况,采用相应的后处理算法对目标图像进行后处理,得到后处理后的图像。常见的后处理算法有边缘检测算法(Edge Detection)、模糊算法(BlurAlgorithms)、泛光(Bloom)算法、颜色分级(Color Grading)算法、景深(Depth Of Field,简称DOF)算法、屏幕空间环境光遮蔽(Screen-Space Ambient Occlusion,简称SSAO)算法等。后处理的详细过程参见现有技术,本公开在此不再赘述。
S104、根据后处理后的图像,确定待显示图像。
具体的,对目标图像进行后处理,得到后处理后的图像后,将该后处理后的图像和S101得到的RGB图像进行融合,便可得到最终的待显示图像,参见上文描述,本实施例的方案中,可通过模板缓冲区将需要进行后处理的像素标记出来,然后基于该模板缓冲区和渲染阶段得到的RGB图像,将RGB图像上需要进行后处理的内容截取出来,对截取出来的内容进行后处理,并将后处理后的内容和S101得到的RGB图像叠加在一起,生成最终的图像。这种方式使得后处理过程仅作用在需要进行后处理的像素上,使得后处理对象灵活可控。提升了用户参与感和体验感。而且无需创建额外的虚拟相机,也无需额外绘制像素遮罩图像,减小了帧率的影响,减小了卡顿的可能性。
本实施例提供的图像处理方法,首先,获取到RGB图像和模板缓冲区,该RGB图像包括物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,然后,根据模板缓冲区,对RGB图像进行处理,得到目标图像,该目标图像中除需要进行后处理的像素以外其余像素为黑色;然后,对目标图像进行后处理,得到后处理后的图像;最后根据后处理后的图像,获取待显示图像。这种方式使得后处理对象灵活可控。提升了用户参与感和体验感。
实施例二
图5为本公开提供的图像处理方法的实施例二的流程示意图。如图5所示,本实施例提供的图像处理方法,包括:
S501、获取RGB图像和模板缓冲区。
可根据物理相机拍摄的图像信息的RGB值和虚拟对象渲染模块渲染的图像信息的RGB值,渲染得到RGB图像,在渲染过程中,将原始模板缓冲区中RGB图像上需要进行后处理的像素对应的模板值更新为预设值,从而得到模板缓冲区。原始模板缓冲区中存储的所有模板值可为默认值,该默认值和上述预设值不同,该默认值可为0。
下面对获取模板缓冲区的过程举例说明:
图6示出了原始模板缓冲区的示意图,原始模板缓冲区中存储的所有模板值可为0。在渲染过程中,可将需要进行后处理的像素对应的模板值更新为预设值,从而得到模板缓冲区,该预设值可以根据实际情况灵活设定,本公开以1示例,本公开对此不作限定。
在获取到RGB图像和模板缓冲区后,本实施例中可通过如下S502-S505获取目标图像。
S502、创建渲染目标(render target,简称RT)。
渲染目标为与RGB图像相同大小的图像。
S503、将RGB图像上各个像素的RGB值拷贝至渲染目标RT中。
由于后续要将后处理后的图像和S501获取到的RGB图像进行融合,因此要对S501获取到的RGB图像进行备份,在备份时,可创建渲染目标RT,将RGB图像上各个像素的RGB值拷贝至该渲染目标RT,便得到S501获取到的RGB图像的备份图像。
S504、将RGB图像上各个像素的RGB值设为0。
由于已经对S501获取到的RGB图像进行了备份,因此可以对RGB图像进行处理,首先需要将RGB图像上各个像素的RGB值设为0,这样RGB图像整个变成黑色,这样做可以避免背景像素(不需要进行后处理的像素)对后处理过程的影响。
S505、针对RGB图像上每个像素,从模板缓冲区中查询该像素对应的模板值是否为预设值;若该像素对应的模板值为预设值,则在渲染目标查询得到该像素的RGB值,若该像素对应的模板值不是预设值,则不作处理。
下面对S504-S505的过程举例说明:
图7示出了经过S504的处理得到的RGB图像,由于该RGB图像各个像素的RGB值均为(0,0,0),因此该RGB图像整体为黑色。假设S501得到的模板缓存为图3所示意,针对图7所示RGB图像上的每个像素,在图3所示模板缓存中查找该像素对应的模板值,若查找到的模板值为预设值,则从渲染目标查询该像素的RGB值,若该像素对应的模板值不是预设值,则该像素的RGB值仍为(0,0,0)。假设预设值为1,以图7中第4行第4列的像素为例,在图3所示模板缓存中查找到该像素对应的模板值1,则从备份图像查找该像素的RGB值,假设为(R=250,G=110,B=55),则可确定该像素的RGB值为(R=250,G=110,B=55)。采用相同的方法,可得到第4行第5-10列、第5行第4-10列、第6行第4、5、9、10列、第7行第4-10列、第8行第4-10列像素的RGB,如图7所示意。再以图7中第4行第3列的像素为例,在图3所示模板缓存中查找到该像素对应的模板值0,不是预设值,则可确定该像素的RGB值还是(0,0,0)。
S506、对目标图像进行后处理,得到后处理后的图像。
S507、根据后处理后的图像,确定待显示图像。
可选的,在得到后处理后的图像后,可将渲染目标和后处理后的图像进行融合,得到待显示图像。示例性的,在做融合时,可使用后处理后的图像上目标像素的RGB值代替渲染目标中对应像素的RGB值,从而得到待显示图像。上述目标像素包括RGB值不是零的像素。这样后处理过程就只作用到需要进行后处理过程的像素上,使得后处理对象灵活可控。提升了用户参与感和体验感。
本实施例提供的图像处理方法,对获取目标图像的过程进行了详细说明,本实施例利用该模板缓冲区从整个图像中将需要进行后处理的内容截取出来,对截取出来的内容进行后处理,并将后处理后的内容和渲染阶段得到的RGB图像叠加在一起,生成最终的图像。这种方式使得后处理对象灵活可控。提升了用户参与感和体验感。而且无需创建额外的虚拟对象渲染模块,也无需额外绘制像素遮罩图像,减小了帧率的影响,减小了卡顿的可能性。
在一些实施例中,本公开提供的图像处理方法应用在AR场景下,这种情况下,可将虚拟相机渲染的图像信息对应的像素作为需要进行后处理的像素,这样后处理过程仅仅作用在虚拟相机渲染的图像信息上,或者将虚拟相机渲染的图像信息中部分对象对应的像素作为需要进行后处理的像素,这样后处理过程仅作用在这些对象上,本公开的提供的这种方法,需要进行后处理的像素是灵活可控的,提升了用户参与感和体验感。
图8为本公开提供的图像处理装置的结构示意图。如图8所示,本公开提供的图像处理装置,包括:
获取模块801,用于获取RGB图像和模板缓冲区,所述RGB图像包括:物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,所述模板缓冲区用于存储所述RGB图像上各个像素对应的模板值,所述RGB图像上需要进行后处理的像素和不需要进行后处理的像素对应的模板值不同;
所述获取模块801,还用于根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,所述目标图像中所述不需要进行后处理的像素为黑色;
后处理模块802,用于对所述目标图像进行后处理,得到后处理后的图像;
融合模块803,用于根据所述后处理后的图像,确定待显示图像。
可选的,获取模块801,具体用于:
根据所述物理相机拍摄的图像信息的RGB值和所述虚拟对象渲染模块渲染的图像信息的RGB值,得到所述RGB图像;将原始模板缓冲区中所述需要进行后处理的像素对应的模板值更新为预设值,得到所述模板缓冲区,所述原始模板缓冲区存储的各个像素对应的模板值均为默认值,所述预设值和所述默认值不同。
可选的,获取模块801具体用于:
创建渲染目标;
将所述RGB图像上各个像素的RGB值拷贝至所述渲染目标中;
将所述RGB图像上各个像素的RGB值设为0;
针对所述RGB图像上每个像素,从所述模板缓冲区中查询所述像素对应的模板值是否为预设值;若所述像素对应的模板值为预设值,则在所述渲染目标查询得到所述像素的RGB值,若所述像素对应的模板值不是预设值,则不作处理。
可选的,融合模块803具体用于:
将所述渲染目标和所述后处理后的图像进行融合,得到所述待显示图像。
可选的,融合模块803具体用于:
使用所述后处理后的图像上目标像素的RGB值代替所述渲染目标中对应像素的RGB值,得到所述待显示图像,所述目标像素包括RGB值不是零的像素。
本公开提供的图像处理装置,可用于执行上述任一方法实施例中的步骤,实现原理和技术效果类似,本公开在此不再赘述。
图9为本公开提供的终端设备的硬件结构示意图。如图9所示,本实施例的终端设备可以包括:
处理器901;以及
存储器902,用于存储所述处理器的可执行指令;
其中,所述处理器901配置为经由执行所述可执行指令来实现上述任一方法实施例的步骤。其实现原理和技术效果类似,在此不再赘述。
本公开提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一方法实施例的步骤。其实现原理和技术效果类似,在此不再赘述。
本公开还提供一种程序产品,所述程序产品包括计算机程序,所述计算机程序存储在可读存储介质中,至少一个处理器可以从所述可读存储介质读取所述计算机程序,所述至少一个处理器执行所述计算机程序使得电子设备实施上述任一方法实施例的步骤。其实现原理和技术效果类似,在此不再赘述。
在本公开所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本公开各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(英文:Read-Only Memory,简称:ROM)、随机存取存储器(英文:Random Access Memory,简称:RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
应理解,本公开所描述的处理器可以是中央处理单元(英文:Central ProcessingUnit,简称:CPU),还可以是其他通用处理器、数字信号处理器(英文:Digital SignalProcessor,简称:DSP)、专用集成电路(英文:Application Specific IntegratedCircuit,简称:ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本公开所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
最后应说明的是:以上各实施例仅用以说明本公开的技术方案,而非对其限制;尽管参照前述各实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本公开各实施例技术方案的范围。

Claims (10)

1.一种图像处理方法,其特征在于,包括:
获取RGB图像和模板缓冲区,所述RGB图像包括:物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,所述模板缓冲区用于存储所述RGB图像上各个像素对应的模板值,所述RGB图像上需要进行后处理的像素和不需要进行后处理的像素对应的模板值不同;
根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,所述目标图像中所述不需要进行后处理的像素为预设颜色;
对所述目标图像进行后处理,得到后处理后的图像;
根据所述后处理后的图像,确定待显示图像。
2.根据权利要求1所述的方法,其特征在于,所述获取RGB图像和模板缓冲区,包括:
根据所述物理相机拍摄的图像信息的RGB值和所述虚拟对象渲染模块渲染的图像信息的RGB值,得到所述RGB图像;
将原始模板缓冲区中所述需要进行后处理的像素对应的模板值更新为预设值,得到所述模板缓冲区,所述原始模板缓冲区存储的各个像素对应的模板值均为默认值,所述预设值和所述默认值不同。
3.根据权利要求2所述的方法,其特征在于,所述根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,包括:
创建渲染目标;
将所述RGB图像上各个像素的RGB值拷贝至所述渲染目标中;
将所述RGB图像上各个像素的RGB值设为0;
针对所述RGB图像上每个像素,从所述模板缓冲区中查询所述像素对应的模板值是否为预设值;若所述像素对应的模板值为预设值,则在所述渲染目标查询得到所述像素的RGB值,若所述像素对应的模板值不是预设值,则不作处理。
4.根据权利要求3所述的方法,其特征在于,所述根据所述后处理后的图像,确定待显示图像,包括:
将所述渲染目标和所述后处理后的图像进行融合,得到所述待显示图像。
5.根据权利要求4所述的方法,其特征在于,所述对所述渲染目标和所述后处理后的图像进行融合,得到所述待显示图像,包括:
使用所述后处理后的图像上目标像素的RGB值代替所述渲染目标中对应像素的RGB值,得到所述待显示图像,所述目标像素包括RGB值不是零的像素。
6.一种图像处理装置,其特征在于,包括:
获取模块,用于获取RGB图像和模板缓冲区,所述RGB图像包括:物理相机拍摄的图像信息和虚拟对象渲染模块渲染的图像信息,所述模板缓冲区用于存储所述RGB图像上各个像素对应的模板值,所述RGB图像上需要进行后处理的像素和不需要进行后处理的像素对应的模板值不同;
所述获取模块,还用于根据所述模板缓冲区,对所述RGB图像进行处理,得到目标图像,所述目标图像中所述不需要进行后处理的像素为预设颜色;
后处理模块,用于对所述目标图像进行后处理,得到后处理后的图像;
融合模块,用于根据所述后处理后的图像,确定待显示图像。
7.根据权利要求6所述的图像处理装置,其特征在于,所述获取模块,具体用于:
根据所述物理相机拍摄的图像信息的RGB值和所述虚拟对象渲染模块渲染的图像信息的RGB值,得到所述RGB图像;
将原始模板缓冲区中所述需要进行后处理的像素对应的模板值更新为预设值,得到所述模板缓冲区,所述原始模板缓冲区存储的各个像素对应的模板值均为默认值,所述预设值和所述默认值不同。
8.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-5中任一项所述的方法。
10.一种终端设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来实现权利要求1-5中任一项所述的方法。
CN202111192756.7A 2021-10-13 2021-10-13 图像处理方法及装置 Pending CN115965734A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111192756.7A CN115965734A (zh) 2021-10-13 2021-10-13 图像处理方法及装置
PCT/CN2022/120368 WO2023061173A1 (zh) 2021-10-13 2022-09-21 图像处理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111192756.7A CN115965734A (zh) 2021-10-13 2021-10-13 图像处理方法及装置

Publications (1)

Publication Number Publication Date
CN115965734A true CN115965734A (zh) 2023-04-14

Family

ID=85888364

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111192756.7A Pending CN115965734A (zh) 2021-10-13 2021-10-13 图像处理方法及装置

Country Status (2)

Country Link
CN (1) CN115965734A (zh)
WO (1) WO2023061173A1 (zh)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011067755A1 (en) * 2009-12-02 2011-06-09 Yissum Research Development Company Of The Hebrew University Of Jerusalem, Ltd. Method and system for automatically recovering chromaticity and image variation of colour clipped image regions
CN107122777A (zh) * 2017-04-25 2017-09-01 云南省交通科学研究所 一种基于视频文件的车辆分析系统及分析方法
CN107833220B (zh) * 2017-11-28 2021-06-11 河海大学常州校区 基于深度卷积神经网络与视觉显著性的织物缺陷检测方法
CN108537815B (zh) * 2018-04-17 2020-10-30 国网浙江省电力有限公司 一种视频图像前景分割方法和装置

Also Published As

Publication number Publication date
WO2023061173A1 (zh) 2023-04-20

Similar Documents

Publication Publication Date Title
CN109064390B (zh) 一种图像处理方法、图像处理装置及移动终端
US9591237B2 (en) Automated generation of panning shots
US10970821B2 (en) Image blurring methods and apparatuses, storage media, and electronic devices
CN109905590B (zh) 一种视频图像处理方法及装置
AU2016286574B2 (en) Distortion rectification method and terminal
CN108230333B (zh) 图像处理方法、装置、计算机程序、存储介质和电子设备
EP3644599A1 (en) Video processing method and apparatus, electronic device, and storage medium
US20210099646A1 (en) Method and Apparatus for Detecting Subject, Electronic Device, and Computer Readable Storage Medium
CN109040596B (zh) 一种调整摄像头的方法、移动终端及存储介质
CN110248115B (zh) 图像处理方法、装置及存储介质
CN110084765B (zh) 一种图像处理方法、图像处理装置及终端设备
US9451165B2 (en) Image processing apparatus
CN112584034B (zh) 图像处理方法、图像处理装置及应用其的电子设备
CN108259770A (zh) 图像处理方法、装置、存储介质及电子设备
CN108600644B (zh) 一种拍照方法、装置及可穿戴设备
CN108024058A (zh) 图像虚化处理方法、装置、移动终端和存储介质
CN112258404A (zh) 图像处理方法、装置、电子设备和存储介质
CN108615261B (zh) 增强现实中图像的处理方法、处理装置及存储介质
CN108931852B (zh) 头戴式显示器系统、调整隐藏区遮罩的方法及程序产品
CN114040048A (zh) 一种隐私保护方法及电子设备
CN115965734A (zh) 图像处理方法及装置
CN114418897B (zh) 眼部光斑图像的修复方法、装置、终端设备及存储介质
CN113938578A (zh) 一种图像虚化方法、存储介质及终端设备
CN113870300A (zh) 图像处理方法、装置、电子设备及可读存储介质
CN110782491A (zh) 一种获得浅景深图像的方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination