CN113870439A - 用于处理图像的方法、装置、设备以及存储介质 - Google Patents
用于处理图像的方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN113870439A CN113870439A CN202111151493.5A CN202111151493A CN113870439A CN 113870439 A CN113870439 A CN 113870439A CN 202111151493 A CN202111151493 A CN 202111151493A CN 113870439 A CN113870439 A CN 113870439A
- Authority
- CN
- China
- Prior art keywords
- image
- rendering
- target object
- determining
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/21—Collision detection, intersection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了用于处理图像的方法、装置、设备以及存储介质,涉及人工智能领域,具体涉及计算机视觉和深度学习技术,具体可用于3D视觉场景下。具体实现方案为:获取目标图像;对目标图像中的目标对象进行分割,根据分割结果确定掩膜图像;根据目标图像以及掩膜图像,对目标对象进行渲染,确定渲染结果;根据渲染结果,进行AR显示。本实现方式可以提高对象的AR显示效率。
Description
技术领域
本公开涉及人工智能技术领域,具体涉及计算机视觉和深度学习技术领域,尤其涉及用于处理图像的方法、装置、设备以及存储介质,可用于3D视觉场景下。
背景技术
增强现实(Augmented Reality,AR)技术是一种将虚拟信息与真实世界巧妙融合的技术,广泛运用了多媒体、三维建模、实时跟踪及注册、智能交互、传感等多种技术手段,将计算机生成的文字、图像、三维模型、音乐、视频等虚拟信息模拟仿真后,应用到真实世界中,两种信息互为补充,从而实现对真实世界的“增强”。
虚拟现实技术(Virtual Reality,VR)技术囊括计算机、电子信息、仿真技术,其基本实现方式是计算机模拟虚拟环境从而给人以环境沉浸感。
AR、VR所展示的3D内容通常是需要专业人员手工制作的,这是非常耗费人力资源且昂贵的,特别是对真人进行建模的时候,非常艰难,容易陷入恐怖谷效应,通常需要专业的影棚进行建模,但是这个成本非常昂贵。
发明内容
本公开提供了一种用于处理图像的方法、装置、设备以及存储介质。
根据第一方面,提供了一种用于处理图像的方法,包括:获取目标图像;对目标图像中的目标对象进行分割,根据分割结果确定掩膜图像;根据目标图像以及掩膜图像,对目标对象进行渲染,确定渲染结果;根据渲染结果,进行AR显示。
根据第二方面,提供了一种用于处理图像的装置,包括:图像获取单元,被配置成获取目标图像;掩膜确定单元,被配置成对目标图像中的目标对象进行分割,根据分割结果确定掩膜图像;对象渲染单元,被配置成根据目标图像以及掩膜图像,对目标对象进行渲染,确定渲染结果;AR显示单元,被配置成根据渲染结果,进行AR显示。
根据第三方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,上述指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面所描述的方法。
根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,上述计算机指令用于使计算机执行如第一方面所描述的方法。
根据第五方面,一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如第一方面所描述的方法。
根据本公开的技术通过利用AI视觉技术将对象的影像变为伪全息影像,并使用AR技术展示出来,提高3D内的AR显示效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开的一个实施例可以应用于其中的示例性系统架构图;
图2是根据本公开的用于处理图像的方法的一个实施例的流程图;
图3是根据本公开的用于处理图像的方法的一个应用场景的示意图;
图4是根据本公开的用于处理图像的方法的另一个实施例的流程图;
图5是根据本公开的用于处理图像的装置的一个实施例的结构示意图;
图6是用来实现本公开实施例的用于处理图像的方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的用于处理图像的方法或用于处理图像的装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如图像处理类应用等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是各种电子设备,包括但不限于AR显示设备、VR显示设备、智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103提供的图像进行处理的后台服务器。后台服务器可以对图像进行处理,到伪全息内容,并将伪全息内容渲染后反馈给终端设备101、102、103,终端设备101、102、103可以对渲染后的内容进行AR展示。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器105为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本公开实施例所提供的用于处理图像的方法一般由终端设备101、102、103执行。相应地,用于处理图像的装置一般设置于终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本公开的用于处理图像的方法的一个实施例的流程200。本实施例的用于处理图像的方法,包括以下步骤:
步骤201,获取目标图像。
本实施例中,用于处理图像的方法的执行主体可以通过各种方式获取目标图像。这里,目标图像中可以包括目标对象。目标对象可以是物品,也可以是人物。
步骤202,对目标图像中的目标对象进行分割,根据分割结果确定掩膜图像。
执行主体可以对目标图像中的目标对象进行分割。具体的,如果目标对象为人物,则执行主体可以利用人体分割网络进行人体分割。如果目标对象为物体,则可以利用预先训练的网络进行物体分割。分割结果中包括目标对象所占的区域,还可以包括目标对象的轮廓。在确定目标对象所占的区域或轮廓后,可以确定掩膜图像。具体的,可以将目标对象所占的区域内的像素的值设置为(255,255,255),将目标对象所占的区域外的像素的值设置为(0,0,0)。掩膜图像的尺寸可以是预设尺寸,也可以与目标图像的尺寸相同。
步骤203,根据目标图像以及掩膜图像,对目标对象进行渲染,确定渲染结果。
在确定掩膜图像后,执行主体可以根据目标图像以及掩膜图像,对目标对象进行渲染,确定渲染结果。具体的,执行主体可以将目标图像与掩膜图像进行叠加,将目标对象之外的像素的透明度设置为0,将目标对象内的像素的透明度设置为1。这样,在显示时就可以显示出目标对象的各像素的像素值。
步骤204,根据渲染结果,进行AR显示。
执行主体在得到渲染结果后,可以在AR客户端进行显示。具体的,执行主体可以将渲染结果在AR客户端的任意位置处显示。或者,可以将AR客户端中显示的预设物体上进行显示,例如在平面上进行显示。
继续参见图3,其示出了根据本公开的用于处理图像的方法的一个应用场景的示意图。在图3的应用场景中,用户获取了目标人物的目标视频,通过对目标视频中的各视频帧进行处理,在AR显示端显示目标人物的图像。
本公开的上述实施例提供的用于处理图像的方法,可以将目标对象的影像变为伪全息影像,并使用AR技术展示出来,提高3D对象的AR显示效率。
继续参见图4,其示出了根据本公开的用于处理图像的方法的另一个实施例的流程400。如图4所示,本实施例的方法可以包括以下步骤:
步骤401,获取目标图像。
步骤402,对目标图像中的目标对象进行分割,根据分割结果,确定目标对象所占用的区域;根据目标对象所占用的区域,确定掩膜图像。
执行主体可以对目标图像中的目标对象进行分割,确定分割结果。根据分割结果,确定出目标对象所占的区域。在确定目标对象所占的区域后,可以将上述区域内的像素设置为(255,255,255),将上述区域外的像素的值设置为(0,0,0)。或者,执行主体还可以为掩膜图像的不同像素设置不同的透明度。例如各像素的透明度与各像素的位置关联。
步骤403,拼接目标图像和掩膜图像,得到拼接图像;根据拼接图像,对目标对象进行渲染,确定渲染结果。
执行主体在得到掩膜图像后,可以将目标图像和掩膜图像拼接在一起,拼接后得到的图像称为拼接图像。具体的,执行主体可以将目标图像的尺寸和掩膜图像的尺寸设置为相同,并且都为矩形。拼接时可以将目标图像的右边框与掩膜图像的左边框重合在一起,得到拼接图像。也可以将目标图像的上边框与掩膜图像的下边框重合在一起,得到拼接图像。
执行主体在得到拼接图像后,可以对目标对象进行渲染,确定渲染结果。具体的,可以将目标图像与掩膜图像进行对比,确定各像素的像素值,从而得到渲染结果。
在本实施例的一些可选的实现方式中,在上述拼接图像中,目标图像和掩膜图像的尺寸相同,并且目标对象在目标图像和掩膜图像中的位置相同。这里,位置相同可以理解为在目标图像和掩膜图像中,目标对象的各个像素点到目标图像和掩膜图像的边框之间的距离都相等。
执行主体可以通过以下步骤实现目标对象的渲染:根据拼接图像,确定各像素点对应的像素值和透明度值;根据像素值和透明度值,确定各像素点的渲染像素值。
本实现方式中,由于目标对象在目标图像和掩膜图像中的位置相同,则可以将目标图像中的各像素点与掩膜图像中的各像素点进行匹配,匹配的两个像素点的像素值和透明度可以用于渲染像素值的计算。例如,目标图像在拼接图像的左侧,掩膜图像在拼接图像的右侧。用户可以查询像素点(u,v)的像素值,其中,u和v的取值均位于(0,1)之间。这里,利用位于(0,1)之间的值表示各像素点的位置,可以避免图像尺寸的变化导致像素点的位置发生变化导致计算错误。
执行主体可以根据u的值判断查询的像素点是位于拼接图像的左侧,还是位于拼接图像的右侧。如果位于拼接图像的左侧,则可以确定查询像素点的RGB值。同时,可以确定拼接图像的右侧中匹配像素点的透明度。然后,将RGB值与透明度相乘,得到最终的渲染像素值。同理,如果查询的像素点位于图像的右侧,则可以首先确定出像素点的透明度。然后,根据匹配点,确定出像素点的RGB值,最终计算出渲染像素值。
可以理解的是,执行主体可以通过GPU(graphics processing unit,图型处理器)进行渲染。GPU在渲染时,需要首先将拼接图像读取到内存中,然后通过着色器读取上述拼接图像。
步骤404,从图像采集装置处获取采集图像;确定采集图像中的物理平面;根据物理平面确定虚拟平面;在虚拟平面上对渲染结果进行AR显示。
执行主体还可以从图像采集装置出获取采集图像。由于是进行AR显示,则在显示时可以调用图像采集装置进行图像采集。上述图像采集装置可以是终端中安装的相机。执行主体可以对采集图像进行分析,确定其中包括的物理平面。这里,物理平面是指采集图像中一个具体的平面。例如,可以是桌面、地面等。执行主体可以根据物理平面确定出虚拟平面。具体的,执行主体可以直接将上述物理平面所在的平面作为虚拟平面。或者,利用SLAM(simultaneous localization and mapping,即时定位与地图构建)算法对上述物理平面进行估计得到。然后,将渲染结果在虚拟平面上进行AR显示。
在本实施例的一些可选的实现方式中,执行主体可以通过图4中未示出的以下步骤实现AR显示:获取用户在虚拟平面上输入的二维位置点;根据预设的变换参数,将二维位置点变换到三维空间,得到三维位置点以及将虚拟平面变换到三维空间,得到三维平面;向三维位置点与原点的连线与三维平面的交点作为目标对象的显示位置;在显示位置处对渲染结果进行AR显示。
本实现方式中,执行主体可以首先建立世界坐标系,世界坐标系的原点利用SLAM算法初始化得到。并且本实现方式还允许用户自定义目标对象的显示位置。具体的,用户可以在上述虚拟平面中输入二维位置点。然后,执行主体可以根据相机内参和外参,将上述二维位置点变换到三维空间,得到三维位置点。同时,执行主体还可以利用上述内参和外参,将虚拟平面变换到三维空间,得到三维平面。然后将上述三维位置点与相机原点的连线与上述三维平面的交点作为目标对象的显示位置。然后,在上述显示位置处对渲染结果进行AR显示。
步骤405,在显示过程中,保持目标对象的重力轴与虚拟平面垂直。
本实施例中,在AR显示过程中,为了保持用户的观看体验或者提升交互性能,执行主体可以始终保持目标对象的重力轴与虚拟平面垂直。具体的,执行主体可以预先设置目标对象的重力轴,将上述重力轴设置为与虚拟平面的法线平行即可。
步骤406,在显示过程中,保持目标对象的朝向一致。
本实施例中,在AR显示过程中,执行主体可以预先设置目标对象的朝向。例如,上述朝向为朝向屏幕前方。执行主体可以通过设置坐标轴的方向来表示目标对象的朝向。在显示过程中,执行主体可以实时监测图像采集装置的转动角度,然后,将目标对象的朝向也转动上述角度即可。
本公开的上述实施例提供的用于处理图像的方法,可以将目标对象以伪全息的形式展示在AR客户端,不需要复杂的计算,提高了AR客户端中对象的显示效率。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种用于处理图像的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于处理图像的装置500包括:图像获取单元501、掩膜确定单元502、对象渲染单元503和AR显示单元504。
图像获取单元501,被配置成获取目标图像。
掩膜确定单元502,被配置成对目标图像中的目标对象进行分割,根据分割结果确定掩膜图像。
对象渲染单元503,被配置成根据目标图像以及掩膜图像,对目标对象进行渲染,确定渲染结果。
AR显示单元504,被配置成根据渲染结果,进行AR显示。
在本实施例的一些可选的实现方式中,掩膜确定单元502可以进一步被配置成:根据分割结果,确定目标对象所占用的区域;根据目标对象所占用的区域,确定掩膜图像。
在本实施例的一些可选的实现方式中,对象渲染单元503可以进一步被配置成:拼接目标图像和掩膜图像,得到拼接图像;根据拼接图像,对目标对象进行渲染,确定渲染结果。
在本实施例的一些可选的实现方式中,在拼接图像中,目标图像和掩膜图像的尺寸相同,并且目标对象在目标图像和掩膜图像中的位置相同。对象渲染单元503可以进一步被配置成:根据拼接图像,确定每个像素点对应的像素值和透明度值;根据像素值和透明度值,确定各像素点的渲染像素值。
在本实施例的一些可选的实现方式中,AR显示单元504可以进一步被配置成:从图像采集装置处获取采集图像;确定采集图像中的物理平面;根据物理平面确定虚拟平面;在虚拟平面上对渲染结果进行AR显示。
在本实施例的一些可选的实现方式中,AR显示单元504可以进一步被配置成:获取用户在虚拟平面上输入的二维位置点;根据预设的变换参数,将二维位置点变换到三维空间,得到三维位置点以及将虚拟平面变换到三维空间,得到三维平面;向三维位置点与原点的连线与三维平面的交点作为目标对象的显示位置;在显示位置处对渲染结果进行AR显示。
在本实施例的一些可选的实现方式中,AR显示单元504可以进一步被配置成:在显示过程中,保持目标对象的重力轴与虚拟平面垂直。
在本实施例的一些可选的实现方式中,AR显示单元504可以进一步被配置成:在显示过程中,保持目标对象的朝向一致。
应当理解,用于处理图像的装置500中记载的单元501至单元504分别与参考图2中描述的方法中的各个步骤相对应。由此,上文针对用于处理图像的方法描述的操作和特征同样适用于装置500及其中包含的单元,在此不再赘述。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了根据本公开实施例的执行用于处理图像的方法的电子设备600的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,电子设备600包括处理器601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储器608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM603中,还可存储电子设备600操作所需的各种程序和数据。处理器601、ROM 602以及RAM 603通过总线604彼此相连。I/O接口(输入/输出接口)605也连接至总线604。
电子设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储器608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许电子设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器601可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器601执行上文所描述的各个方法和处理,例如用于处理图像的方法。例如,在一些实施例中,用于处理图像的方法可被实现为计算机软件程序,其被有形地包含于机器可读存储介质,例如存储器608。在一些实施例中,计算机程序的部分或者全部可以经由ROM602和/或通信单元609而被载入和/或安装到电子设备600上。当计算机程序加载到RAM 603并由处理器601执行时,可以执行上文描述的用于处理图像的方法的一个或多个步骤。备选地,在其他实施例中,处理器601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行用于处理图像的方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。上述程序代码可以封装成计算机程序产品。这些程序代码或计算机程序产品可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器601执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读存储介质可以是机器可读信号存储介质或机器可读存储介质。机器可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学存储设备、磁存储设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(“Virtual Private Server”,或简称“VPS”)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开的保护范围之内。
Claims (19)
1.一种用于处理图像的方法,包括:
获取目标图像;
对所述目标图像中的目标对象进行分割,根据分割结果确定掩膜图像;
根据所述目标图像以及所述掩膜图像,对所述目标对象进行渲染,确定渲染结果;
根据渲染结果,进行AR显示。
2.根据权利要求1所述的方法,其中,所述根据分割结果确定掩膜图像,包括:
根据所述分割结果,确定所述目标对象所占用的区域;
根据所述目标对象所占用的区域,确定掩膜图像。
3.根据权利要求1所述的方法,其中,所述根据所述目标图像以及所述掩膜图像,对所述目标对象进行渲染,确定渲染结果,包括:
拼接所述目标图像和所述掩膜图像,得到拼接图像;
根据所述拼接图像,对所述目标对象进行渲染,确定渲染结果。
4.根据权利要求3所述的方法,其中,在所述拼接图像中,所述目标图像和所述掩膜图像的尺寸相同,并且所述目标对象在所述目标图像和所述掩膜图像中的位置相同;以及
所述对所述拼接图像进行渲染,确定渲染结果,包括:
根据所述拼接图像,确定每个像素点对应的像素值和透明度值;
根据所述像素值和所述透明度值,确定各像素点的渲染像素值。
5.根据权利要求1所述的方法,其中,所述根据渲染结果,进行AR显示,包括:
从图像采集装置处获取采集图像;
确定所述采集图像中的物理平面;
根据所述物理平面确定虚拟平面;
在所述虚拟平面上对所述渲染结果进行AR显示。
6.根据权利要求5所述的方法,其中,所述在所述虚拟平面上对所述渲染结果进行AR显示,包括:
获取用户在所述虚拟平面上输入的二维位置点;
根据预设的变换参数,将所述二维位置点变换到三维空间,得到三维位置点以及将所述虚拟平面变换到三维空间,得到三维平面;
向所述三维位置点与原点的连线与所述三维平面的交点作为所述目标对象的显示位置;
在所述显示位置处对所述渲染结果进行AR显示。
7.根据权利要求5或6所述的方法,其中,所述根据渲染结果,进行AR显示,包括:
在显示过程中,保持所述目标对象的重力轴与所述虚拟平面垂直。
8.根据权利要求1-7任一项所述的方法,其中,所述根据渲染结果,进行AR显示,包括:
在显示过程中,保持所述目标对象的朝向一致。
9.一种用于处理图像的装置,包括:
图像获取单元,被配置成获取目标图像;
掩膜确定单元,被配置成对所述目标图像中的目标对象进行分割,根据分割结果确定掩膜图像;
对象渲染单元,被配置成根据所述目标图像以及所述掩膜图像,对所述目标对象进行渲染,确定渲染结果;
AR显示单元,被配置成根据渲染结果,进行AR显示。
10.根据权利要求9所述的装置,其中,所述掩膜确定单元进一步被配置成:
根据所述分割结果,确定所述目标对象所占用的区域;
根据所述目标对象所占用的区域,确定掩膜图像。
11.根据权利要求9所述的装置,其中,所述对象渲染单元进一步被配置成:
拼接所述目标图像和所述掩膜图像,得到拼接图像;
根据所述拼接图像,对所述目标对象进行渲染,确定渲染结果。
12.根据权利要求11所述的装置,其中,在所述拼接图像中,所述目标图像和所述掩膜图像的尺寸相同,并且所述目标对象在所述目标图像和所述掩膜图像中的位置相同;以及
所述对象渲染单元进一步被配置成:
根据所述拼接图像,确定每个像素点对应的像素值和透明度值;
根据所述像素值和所述透明度值,确定各像素点的渲染像素值。
13.根据权利要求9所述的装置,其中,所述AR显示单元进一步被配置成:
从图像采集装置处获取采集图像;
确定所述采集图像中的物理平面;
根据所述物理平面确定虚拟平面;
在所述虚拟平面上对所述渲染结果进行AR显示。
14.根据权利要求13所述的装置,其中,所述AR显示单元进一步被配置成:
获取用户在所述虚拟平面上输入的二维位置点;
根据预设的变换参数,将所述二维位置点变换到三维空间,得到三维位置点以及将所述虚拟平面变换到三维空间,得到三维平面;
向所述三维位置点与原点的连线与所述三维平面的交点作为所述目标对象的显示位置;
在所述显示位置处对所述渲染结果进行AR显示。
15.根据权利要求13或14所述的装置,其中,所述AR显示单元进一步被配置成:
在显示过程中,保持所述目标对象的重力轴与所述虚拟平面垂直。
16.根据权利要求9-15任一项所述的装置,其中,所述AR显示单元进一步被配置成:
在显示过程中,保持所述目标对象的朝向一致。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111151493.5A CN113870439A (zh) | 2021-09-29 | 2021-09-29 | 用于处理图像的方法、装置、设备以及存储介质 |
US17/875,124 US20220358735A1 (en) | 2021-09-29 | 2022-07-27 | Method for processing image, device and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111151493.5A CN113870439A (zh) | 2021-09-29 | 2021-09-29 | 用于处理图像的方法、装置、设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113870439A true CN113870439A (zh) | 2021-12-31 |
Family
ID=78992762
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111151493.5A Pending CN113870439A (zh) | 2021-09-29 | 2021-09-29 | 用于处理图像的方法、装置、设备以及存储介质 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20220358735A1 (zh) |
CN (1) | CN113870439A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023207379A1 (zh) * | 2022-04-26 | 2023-11-02 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115908663B (zh) * | 2022-12-19 | 2024-03-12 | 支付宝(杭州)信息技术有限公司 | 一种虚拟形象的衣物渲染方法、装置、设备及介质 |
CN116112657B (zh) * | 2023-01-11 | 2024-05-28 | 网易(杭州)网络有限公司 | 图像处理方法、装置、计算机可读存储介质及电子装置 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108701372A (zh) * | 2017-05-19 | 2018-10-23 | 华为技术有限公司 | 一种图像处理方法及装置 |
CN110889890A (zh) * | 2019-11-29 | 2020-03-17 | 深圳市商汤科技有限公司 | 图像处理方法及装置、处理器、电子设备及存储介质 |
CN111277850A (zh) * | 2020-02-12 | 2020-06-12 | 腾讯科技(深圳)有限公司 | 一种互动方法和相关装置 |
CN111598777A (zh) * | 2020-05-13 | 2020-08-28 | 上海眼控科技股份有限公司 | 天空云图的处理方法、计算机设备和可读存储介质 |
CN112053370A (zh) * | 2020-09-09 | 2020-12-08 | 脸萌有限公司 | 基于增强现实的显示方法、设备及存储介质 |
WO2021000702A1 (zh) * | 2019-06-29 | 2021-01-07 | 华为技术有限公司 | 图像检测方法、设备以及系统 |
CN112419388A (zh) * | 2020-11-24 | 2021-02-26 | 深圳市商汤科技有限公司 | 深度检测方法、装置、电子设备和计算机可读存储介质 |
CN112801896A (zh) * | 2021-01-19 | 2021-05-14 | 西安理工大学 | 基于前景提取的逆光图像增强方法 |
CN112927354A (zh) * | 2021-02-25 | 2021-06-08 | 电子科技大学 | 基于实例分割的三维重建方法、系统、存储介质及终端 |
CN113240679A (zh) * | 2021-05-17 | 2021-08-10 | 广州华多网络科技有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
CN113269781A (zh) * | 2021-04-21 | 2021-08-17 | 青岛小鸟看看科技有限公司 | 数据生成方法、装置及电子设备 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8473862B1 (en) * | 2009-05-21 | 2013-06-25 | Perceptive Pixel Inc. | Organizational tools on a multi-touch display device |
US9972092B2 (en) * | 2016-03-31 | 2018-05-15 | Adobe Systems Incorporated | Utilizing deep learning for boundary-aware image segmentation |
JP7257370B2 (ja) * | 2020-11-18 | 2023-04-13 | 任天堂株式会社 | 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法 |
CN115311178A (zh) * | 2021-05-07 | 2022-11-08 | 北京字跳网络技术有限公司 | 图像拼接方法、装置、设备及介质 |
-
2021
- 2021-09-29 CN CN202111151493.5A patent/CN113870439A/zh active Pending
-
2022
- 2022-07-27 US US17/875,124 patent/US20220358735A1/en not_active Abandoned
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108701372A (zh) * | 2017-05-19 | 2018-10-23 | 华为技术有限公司 | 一种图像处理方法及装置 |
WO2021000702A1 (zh) * | 2019-06-29 | 2021-01-07 | 华为技术有限公司 | 图像检测方法、设备以及系统 |
CN110889890A (zh) * | 2019-11-29 | 2020-03-17 | 深圳市商汤科技有限公司 | 图像处理方法及装置、处理器、电子设备及存储介质 |
CN111277850A (zh) * | 2020-02-12 | 2020-06-12 | 腾讯科技(深圳)有限公司 | 一种互动方法和相关装置 |
CN111598777A (zh) * | 2020-05-13 | 2020-08-28 | 上海眼控科技股份有限公司 | 天空云图的处理方法、计算机设备和可读存储介质 |
CN112053370A (zh) * | 2020-09-09 | 2020-12-08 | 脸萌有限公司 | 基于增强现实的显示方法、设备及存储介质 |
CN112419388A (zh) * | 2020-11-24 | 2021-02-26 | 深圳市商汤科技有限公司 | 深度检测方法、装置、电子设备和计算机可读存储介质 |
CN112801896A (zh) * | 2021-01-19 | 2021-05-14 | 西安理工大学 | 基于前景提取的逆光图像增强方法 |
CN112927354A (zh) * | 2021-02-25 | 2021-06-08 | 电子科技大学 | 基于实例分割的三维重建方法、系统、存储介质及终端 |
CN113269781A (zh) * | 2021-04-21 | 2021-08-17 | 青岛小鸟看看科技有限公司 | 数据生成方法、装置及电子设备 |
CN113240679A (zh) * | 2021-05-17 | 2021-08-10 | 广州华多网络科技有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023207379A1 (zh) * | 2022-04-26 | 2023-11-02 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20220358735A1 (en) | 2022-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106846497B (zh) | 应用于终端的呈现三维地图的方法和装置 | |
CN113870439A (zh) | 用于处理图像的方法、装置、设备以及存储介质 | |
CN112652057B (zh) | 生成人体三维模型的方法、装置、设备以及存储介质 | |
CN113724368B (zh) | 图像采集系统、三维重建方法、装置、设备以及存储介质 | |
CN112784765B (zh) | 用于识别动作的方法、装置、设备以及存储介质 | |
CN114842121B (zh) | 贴图生成模型训练和贴图生成方法、装置、设备及介质 | |
CN112529097B (zh) | 样本图像生成方法、装置以及电子设备 | |
CN114792355B (zh) | 虚拟形象生成方法、装置、电子设备和存储介质 | |
CN113838217B (zh) | 信息展示方法、装置、电子设备及可读存储介质 | |
CN112634366A (zh) | 位置信息的生成方法、相关装置及计算机程序产品 | |
CN115965735B (zh) | 纹理贴图的生成方法和装置 | |
EP4086853A2 (en) | Method and apparatus for generating object model, electronic device and storage medium | |
CN115131507B (zh) | 图像处理方法、图像处理设备和元宇宙三维重建方法 | |
CN115775300A (zh) | 人体模型的重建方法、人体重建模型的训练方法及装置 | |
CN116385643B (zh) | 虚拟形象生成、模型的训练方法、装置及电子设备 | |
CN114820908B (zh) | 虚拟形象生成方法、装置、电子设备和存储介质 | |
CN112785524B (zh) | 一种人物图像的修复方法、装置及电子设备 | |
EP4120202A1 (en) | Image processing method and apparatus, and electronic device | |
CN116012666B (zh) | 图像生成、模型的训练、信息重建方法、装置及电子设备 | |
CN116843807A (zh) | 虚拟形象生成、模型的训练方法、装置及电子设备 | |
JP2023002703A (ja) | 表示方法、表示装置、電子機器、記憶媒体及びコンピュータプログラム | |
CN115984100A (zh) | 图像生成方法、装置、电子设备和存储介质 | |
CN116824052A (zh) | 一种3d场景重构方法、装置、设备及介质 | |
CN115908975A (zh) | 色彩预测模型训练方法、装置以及设备 | |
JP2023542598A (ja) | 文字の表示方法、装置、電子機器及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |