CN110390731A - 图像处理方法、装置、计算机可读存储介质及电子设备 - Google Patents

图像处理方法、装置、计算机可读存储介质及电子设备 Download PDF

Info

Publication number
CN110390731A
CN110390731A CN201910636694.0A CN201910636694A CN110390731A CN 110390731 A CN110390731 A CN 110390731A CN 201910636694 A CN201910636694 A CN 201910636694A CN 110390731 A CN110390731 A CN 110390731A
Authority
CN
China
Prior art keywords
image
target object
processed
target
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910636694.0A
Other languages
English (en)
Other versions
CN110390731B (zh
Inventor
杨彬
胡亦朗
朱毅
杨钰柯
向超然
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seashell Housing Beijing Technology Co Ltd
Original Assignee
Beike Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beike Technology Co Ltd filed Critical Beike Technology Co Ltd
Priority to CN201910636694.0A priority Critical patent/CN110390731B/zh
Publication of CN110390731A publication Critical patent/CN110390731A/zh
Priority to US16/929,082 priority patent/US10956626B2/en
Priority to JP2022502901A priority patent/JP7325602B2/ja
Priority to PCT/CN2020/102215 priority patent/WO2021008566A1/en
Priority to CA3147320A priority patent/CA3147320A1/en
Priority to AU2020315029A priority patent/AU2020315029B2/en
Application granted granted Critical
Publication of CN110390731B publication Critical patent/CN110390731B/zh
Priority to US17/180,415 priority patent/US20210173968A1/en
Priority to US17/180,377 priority patent/US20210173967A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Architecture (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本公开实施例公开了一种图像处理方法和装置,其中,该方法包括:获取包括目标物体图像的待处理图像;将目标物体图像从待处理图像中移除;对移除目标物体图像后的待处理图像进行还原,得到还原图像;获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置,其中,目标位置为移除目标物体图像的位置;调整待插入物体图像在还原图像中的尺寸至目标尺寸。本公开实施例实现了对目标物体图像的替换,使插入的图像在还原图像中显示地更加自然,有助于使用户快速、灵活地查看替换掉目标物体图像指示的物体的效果。

Description

图像处理方法、装置、计算机可读存储介质及电子设备
技术领域
本公开涉及计算机技术领域,尤其是一种图像处理方法、装置、计算机可读存储介质及电子设备。
背景技术
目前,互联网技术为人们的生活带来了大量的便利条件,人们可以使用互联网浏览各种信息,为生活的方方面面提供参考。例如,当用户在线上浏览家具时,无法想象这个家具摆放到自己家里是什么样子的,因此,需要将这种想象变成视觉呈现。而目前的技术中,并不能让用户只需要拍张全景图,就将现有家具图像拿走并摆上新家具的图像,从而给用户真实的视觉效果。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种图像处理方法、装置、计算机可读存储介质及电子设备。
本公开的实施例提供了一种图像处理方法,该方法包括:获取包括目标物体图像的待处理图像;将目标物体图像从待处理图像中移除;对移除目标物体图像后的待处理图像进行还原,得到还原图像;获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置,其中,目标位置为移除目标物体图像的位置;调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在一些实施例中,对移除目标物体图像后的待处理图像进行还原,得到还原图像,包括:将移除目标物体图像后的待处理图像输入预先训练的图像还原模型,得到还原图像。
在一些实施例中,待处理图像具有对应的深度信息;以及将目标物体图像从待处理图像中移除,包括:基于深度信息,确定待处理图像对应的三维点云信息;从三维点云信息中,确定用于表征目标物体图像的三维点云信息作为目标三维点云信息;基于目标三维点云信息,确定目标物体图像在待处理图像中的位置;根据位置,将目标物体图像从待处理图像中移除。
在一些实施例中,待插入物体图像具有对应的三维尺寸信息;以及调整待插入物体图像在还原图像中的尺寸至目标尺寸,包括:确定还原图像对应的三维点云信息;基于待插入物体图像对应的三维尺寸信息和还原图像对应的三维点云信息,调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在一些实施例中,方法还包括:确定还原图像的颜色信息和待插入物体图像的颜色信息;调整待插入物体图像的颜色信息,以使待插入物体图像的颜色信息与还原图像的颜色信息匹配。
根据本公开实施例的另一个方面,提供了一种图像处理装置,该装置包括:第一获取模块,用于获取包括目标物体图像的待处理图像;移除模块,用于将目标物体图像从待处理图像中移除;还原模块,用于对移除目标物体图像后的待处理图像进行还原,得到还原图像;第二获取模块,用于获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置,其中,目标位置为移除目标物体图像的位置;第一调整模块,用于调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在一些实施例中,还原模块进一步用于:将移除目标物体图像后的待处理图像输入预先训练的图像还原模型,得到还原图像。
在一些实施例中,待处理图像具有对应的深度信息;以及移除模块包括:第一确定单元,用于基于深度信息,确定待处理图像对应的三维点云信息;第二确定单元,用于从三维点云信息中,确定用于表征目标物体图像的三维点云信息作为目标三维点云信息;第三确定单元,用于基于目标三维点云信息,确定目标物体图像在待处理图像中的位置;移除单元,用于根据位置,将目标物体图像从待处理图像中移除。
在一些实施例中,待插入物体图像具有对应的三维尺寸信息;以及第一调整模块包括:第四确定单元,用于确定还原图像对应的三维点云信息;调整单元,用于基于待插入物体图像对应的三维尺寸信息和还原图像对应的三维点云信息,调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在一些实施例中,装置还包括:确定模块,用于确定还原图像的颜色信息和待插入物体图像的颜色信息;第二调整模块,用于调整待插入物体图像的颜色信息,以使待插入物体图像的颜色信息与还原图像的颜色信息匹配。
根据本公开实施例的另一个方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序用于执行上述图像处理方法。
根据本公开实施例的另一个方面,提供了一种电子设备,电子设备包括:处理器;用于存储处理器可执行指令的存储器;处理器,用于从存储器中读取可执行指令,并执行指令以实现上述图像处理方法。
基于本公开上述实施例提供的图像处理方法、装置、计算机可读存储介质及电子设备,通过将目标物体图像从待处理图像中移除,再对移除后的待处理图像进行还原,然后将待插入物体图像插入还原图像中的移除目标物体图像的位置,并调整插入的图像的尺寸。从而实现了对目标物体图像的替换,使插入的图像在还原图像中显示地更加自然,有助于使用户快速、灵活地查看替换掉目标物体图像指示的物体的效果。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本公开所适用的系统图。
图2是本公开一示例性实施例提供的图像处理方法的流程示意图。
图3是本公开另一示例性实施例提供的图像处理方法的流程示意图。
图4是本公开一示例性实施例提供的图像处理装置的结构示意图。
图5是本公开另一示例性实施例提供的图像处理装置的结构示意图。
图6是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备,其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境,等等。
终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
申请概述
目前,互联网技术为人们的生活带来了大量的便利条件,人们可以使用互联网浏览各种信息,为生活的方方面面提供参考。例如,当用户在线上浏览家具时,无法想象这个家具摆放到自己家里是什么样子的,因此,需要将这种想象变成视觉呈现。即用户只需要拍张全景图,将现有家具图像拿走并摆上新家具的图像,从而给用户真实的视觉效果。
示例性系统
图1示出了可以应用本公开的实施例的图像处理方法或图像处理装置的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101,网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101通过网络102与服务器103交互,以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用,例如购物类应用、搜索类应用、图像处理类应用、即时通信工具等。
终端设备101可以是各种电子设备,包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。
服务器103可以是提供各种服务的服务器,例如对终端设备101上传的图像进行处理的后台图像处理服务器。后台图像处理服务器可以对接收到的图像进行处理,得到处理结果(例如插入新的物体图像的图像)。
需要说明的是,本公开的实施例所提供的图像处理方法可以由服务器103执行,也可以由终端设备101执行,相应地,图像处理装置可以设置于服务器103中,也可以设置于终端设备101中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
示例性方法
图2是本公开一示例性实施例提供的图像处理方法的流程示意图。本实施例可应用在电子设备(如图1所示的终端设备101或服务器103)上,如图2所示,该方法包括如下步骤:
步骤201,获取包括目标物体图像的待处理图像。
在本实施例中,电子设备可以从远程或从本地获取包括目标物体图像的待处理图像。其中,待处理图像可以是摄像头对包含目标物体的空间进行拍摄得到的图像。目标物体图像指示的目标物体可以是诸如家具、服装等物体。上述摄像头可以是各种类型的摄像头。例如,可以是诸如双目摄像头等可以拍摄深度图像的摄像头。
步骤202,将目标物体图像从待处理图像中移除。
在本实施例中,电子设备可以将目标物体图像从待处理图像中移除。具体地,作为示例,电子设备可以利用现有的目标检测方法(例如基于卷积神经网络的目标检测方法),从待处理图像中首先确定目标物体图像,将目标物体图像对应的像素删除。即移除目标物体图像后的待处理图像中出现一个空白的区域,该区域为目标物体图像的轮廓。
步骤203,对移除目标物体图像后的待处理图像进行还原,得到还原图像。
在本实施例中,电子设备可以对移除目标物体图像后的待处理图像进行还原,得到还原图像。具体地,电子设备可以利用各种方式(例如神经网络模型)对图像进行还原。还原后的图像可以实现将目标物体图像移除后,将空白的区域恢复成背景图像,使还原图像的显示更加自然。例如,目标物体图像为家具图像,由于家具靠墙放置,当移除家具图像后,出现空白区域,将移除家具图像后的待处理图像还原后,可以将空白区域用墙面图像填充,从而实现了将家具移除的视觉效果。
在一些可选的实现方式中,电子设备可以将移除目标物体图像后的待处理图像输入预先训练的图像还原模型,得到还原图像。其中,图像还原模型用于表征含有空白区域的图像与还原图像的对应关系。
具体地,作为示例,图像还原模型可以是基于现有的image inpainting算法训练得到的模型。电子设备可以利用机器学习方法,将预设的训练样本集合中的训练样本包括的样本还原前图像作为输入,将与输入的样本还原前图像对应的样本还原后图像作为期望输出,对初始模型(例如各种结构的卷积神经网络)进行训练,针对每次训练输入的样本还原前图像,可以得到实际输出。其中,实际输出是初始模型实际输出的数据,用于表征还原后图像。然后,上述执行主体可以采用梯度下降法和反向传播法,基于实际输出和期望输出,调整初始模型的参数,将每次调整参数后得到的模型作为下次训练的初始模型,并在满足预设的训练结束条件的情况下,结束训练,从而训练得到图像还原模型。
在这里,电子设备可以采用批量训练的方法对初始模型进行训练,也可以采用随机训练的方法对初始模型进行训练,本公开实施例对此不做限定。
需要说明的是,这里预设的训练结束条件可以包括但不限于以下至少一项:训练时间超过预设时长;训练次数超过预设次数;利用预设的损失函数(例如交叉熵损失函数)计算所得的损失值小于预设损失值阈值。
本可选的实现方式,通过使用图像还原模型,可以更准确地还原移除目标物体图像后的待处理图像,使得所得到的还原图像的显示效果更好,有助于为用户更准确地展示替换掉目标物体的效果。
步骤204,获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置。
在本实施例中,电子设备可以获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置。其中,目标位置为移除目标物体图像的位置,即上述目标物体图像在待处理图像中所在的位置。电子设备可以从本地或远程获取待插入物体图像,待插入物体图像可以是各种物体的图像,例如,可以是用户从家具图像库中选择的家具图像。上述目标位置可以用坐标表征,例如,可以将目标物体图像的几何中心点的坐标作为目标位置。
步骤205,调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在本实施例中,电子设备可以调整待插入物体图像在还原图像中的尺寸至目标尺寸。其中,目标尺寸是待插入图像在还原图像中的尺寸。
作为示例,目标尺寸可以是上述目标物体图像的尺寸(例如包含目标物体图像的最小矩形的尺寸,或目标物体图像的轮廓尺寸)。目标尺寸也可以是电子设备根据还原图像中的目标位置所在的区域与待插入物体图像的尺寸确定的尺寸。例如,电子设备可以确定包含目标位置且不包含其他物体图像的区域的尺寸,再基于上述尺寸,对待插入物体图像进行缩放处理,从而将其尺寸调整至目标尺寸(例如上述区域的尺寸的预设比例)。目标尺寸也可以是电子设备根据目标物体的实际尺寸与目标物体图像的尺寸的比例关系,以及根据待插入物体图像指示的物体的实际尺寸与上述比例关系所确定的尺寸。
可选的,目标尺寸还可以是基于用户手动调整待插入图像的大小的操作,所调整至的尺寸。
在一些可选的实现方式中,电子设备还可以执行如下步骤:
首先,确定还原图像的颜色信息和待插入物体图像的颜色信息。其中,颜色信息可以包括但不限于以下至少一种:亮度、色调、对比度等。
然后,调整待插入物体图像的颜色信息,以使待插入物体图像的颜色信息与还原图像的颜色信息匹配。具体地,作为示例,电子设备可以调整颜色信息包括的各种分量,以使待插入物体图像的颜色信息包括的各个分量与还原图像的颜色信息包括的各种分量之差处于预设范围内。本可选的实现方式,可以使待插入物体图像与还原图像的颜色特征更为接近,使得插入图像后的还原图像的显示效果更加自然,有助于为用户更好地提供更换物体的参考。
本公开的上述实施例提供的方法,通过将目标物体图像从待处理图像中移除,再对移除后的待处理图像进行还原,然后将待插入物体图像插入还原图像中的移除目标物体图像的位置,并调整插入的图像的尺寸。从而实现了对目标物体图像的替换,使插入的图像在还原图像中显示地更加自然,有助于使用户快速、灵活地查看替换掉目标物体图像指示的物体的效果。
进一步参考图3,示出了图像插入方法图像处理方法的又一个实施例的流程示意图。在本实施例中,待处理图像具有对应的深度信息。如图3所示,在上述图2所示实施例的基础上,步骤202可以包括如下步骤:
步骤2021,基于深度信息,确定待处理图像对应的三维点云信息。
在本实施例中,电子设备可以基于深度信息,确定待处理图像对应的三维点云信息。其中,深度信息用于表征待处理图像中的物体图像与摄像头的成像面之间的距离。通常,待处理图像可以是深度相机拍摄的深度图像,深度图像中的每个像素点对应于一个深度值,深度值用于表征像素点指示的位置与摄像头的成像面之间的距离。
电子设备可以根据深度信息表征的距离,确定三维点云信息。其中,三维点云信息可以包括三维坐标值,对应于三维空间中的点。
步骤2022,从三维点云信息中,确定用于表征目标物体图像的三维点云信息作为目标三维点云信息。
在本实施例中,电子设备可以从三维点云信息中,确定用于表征目标物体图像的三维点云信息作为目标三维点云信息。具体地,目标物体图像的三维点云信息可以被划分为多个子集,每个子集对应于一个物体,电子设备可以根据用户的指定,从三维点云信息中确定目标物体的子集包括的三维点云信息作为目标三维点云信息。
步骤2023,基于目标三维点云信息,确定目标物体图像在待处理图像中的位置。
在本实施例中,电子设备可以基于目标三维点云信息,确定目标物体图像在待处理图像中的位置。具体地,电子设备可以根据目标三维点云信息,确定目标物体图像的边界,该边界包围的区域即为目标物体图像的位置。作为示例,可以基于机器学习,把海量的有标记的数据提供给计算机进行学习,从而使其具有能够从点云中识别标记物体的点云数据的边界的能力,将标记物品从整体模型的点云数据中识别出来。例如,在利用各种不同形状的带有标记的沙发点云数据来训练计算机,使其具备可以在输入的点云数据中识别出其中包含的沙发的点云数据边界。
步骤2024,根据上述位置,将目标物体图像从待处理图像中移除。
在本实施例中,电子设备可以根据位置,将目标物体图像从待处理图像中移除。具体地,电子设备可以将上述边界包围的区域中的像素点从待处理图像中移除(例如,可以将该区域中的像素点的颜色设置为预设颜色,例如白色)。
在一些可选的实现方式中,待插入物体图像具有对应的三维尺寸信息。通常,待插入物体图像可以对应于预先建立的三维模型,该三维模型具有对应的三维尺寸信息。作为示例,三维尺寸信息可以是预先基于待插入物体图像的三维点云数据确定的。
步骤205可以包括如下子步骤:
首先,确定还原图像对应的三维点云信息。通常,由于待处理图像是深度图像,因此,还原图像也为深度图像,电子设备可以利用如确定待处理图像的三维点云信息的方法,确定还原图像对应的三维点云信息。
然后,基于待插入物体图像对应的三维尺寸信息和还原图像对应的三维点云信息,调整待插入物体图像在还原图像中的尺寸至目标尺寸。具体地,电子设备可以调整待插入物体图像对应的三维模型的尺寸,使三维模型的尺寸适应还原图像中的目标位置所在的区域的三维空间。
作为示例,本可选的实现方式中的目标尺寸可以是目标三维点云信息表征的三维尺寸。
作为另一示例,目标尺寸可以是基于待插入图像对应的三维尺寸信息与还原图像对应的三维点云信息表征的空间三维尺寸信息之间的比例所确定的图像尺寸。例如,待插入图像对应的三维尺寸信息包括“高度1米”,还原图像对应的三维点云信息表征的空间三维尺寸信息包括“高度3米”,则调整待插入图像在还原图像中的尺寸,使得待插入图像的高度与还原图像的高度之比为1:3。
本可选的实现方式,通过基于待插入物体图像对应的三维尺寸和还原图像对应的三维点云信息,调整待插入物体图像的尺寸,实现了在三维空间调整待插入物体图像的尺寸,有助于使待插入物体图像与还原图像更好得融合,向用户准确地展示替换掉目标物体后的效果。
上述图3对应实施例提供的方法,突出了基于深度信息移除目标物体图像的步骤,从而有效地利用了三维点云信息,将目标物体图像准确地从待处理图像中移除,有助于结合待插入物体图像的三维尺寸信息,更准确地将目标物体图像替换为待插入物体图像,从而使向用户呈现的替换后的图像的效果更好。
本公开实施例提供的任一种图像处理方法可以由任意适当的具有数据处理能力的设备执行,包括但不限于:终端设备和服务器等。或者,本公开实施例提供的任一种图像处理方法可以由处理器执行,如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种图像处理方法。下文不再赘述。
示例性装置
图4是本公开一示例性实施例提供的图像处理装置的结构示意图。本实施例可应用在电子设备上,如图4所示,图像处理装置包括:第一获取模块401,用于获取包括目标物体图像的待处理图像;移除模块402,用于将目标物体图像从待处理图像中移除;还原模块403,用于对移除目标物体图像后的待处理图像进行还原,得到还原图像;第二获取模块404,用于获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置,其中,目标位置为移除目标物体图像的位置;第一调整模块405,用于调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在本实施例中,第一获取模块401可以从远程或从本地获取包括目标物体图像的待处理图像。其中,待处理图像可以是摄像头对包含目标物体的空间进行拍摄得到的图像。目标物体图像指示的目标物体可以是诸如家具、服装等物体。上述摄像头可以是各种类型的摄像头。例如,可以是诸如双目摄像头等可以拍摄深度图像的摄像头。
在本实施例中,移除模块402可以将目标物体图像从待处理图像中移除。具体地,作为示例,移除模块402可以利用现有的目标检测方法(例如基于卷积神经网络的目标检测方法),从待处理图像中首先确定目标物体图像,将目标物体图像对应的像素删除。即移除目标物体图像后的待处理图像中出现一个空白的区域,该区域为目标物体图像的轮廓。
在本实施例中,还原模块403可以对移除目标物体图像后的待处理图像进行还原,得到还原图像。具体地,还原模块403可以利用各种方式(例如神经网络模型)对图像进行还原。还原后的图像可以实现将目标物体图像移除后,将空白的区域恢复成背景图像,使还原图像的显示更加自然。例如,目标物体图像为家具图像,由于家具靠墙放置,当移除家具图像后,出现空白区域,将移除家具图像后的待处理图像还原后,可以将空白区域用墙面图像填充,从而实现了将家具移除的视觉效果。
在本实施例中,第二获取模块404可以获取待插入物体图像,并将待插入物体图像插入还原图像中的目标位置。其中,目标位置为移除目标物体图像的位置,即上述目标物体图像在待处理图像中所在的位置。第二获取模块404可以从本地或远程获取待插入物体图像,待插入物体图像可以是各种物体的图像,例如,可以是用户从家具图像库中选择的家具图像。上述目标位置可以用坐标表征,例如,可以将目标物体图像的几何中心点的坐标作为目标位置。
在本实施例中,第一调整模块405可以调整待插入物体图像在还原图像中的尺寸至目标尺寸。
作为示例,目标尺寸可以是上述目标物体图像的尺寸(例如包含目标物体图像的最小矩形的尺寸,或目标物体图像的轮廓尺寸)。目标尺寸也可以是第一调整模块405根据还原图像中的目标位置所在的区域与待插入物体图像的尺寸确定的尺寸。例如,第一调整模块405可以确定包含目标位置且不包含其他物体图像的区域的尺寸,再基于上述尺寸,对待插入物体图像进行缩放处理,从而将其尺寸调整至目标尺寸(例如上述区域的尺寸的预设比例)。
参照图5,图5是本公开另一示例性实施例提供的图像处理装置的结构示意图。
在一些可选的实现方式中,还原模块403可以进一步用于:将移除目标物体图像后的待处理图像输入预先训练的图像还原模型,得到还原图像。
在一些可选的实现方式中,待处理图像具有对应的深度信息;以及移除模块402可以包括:第一确定单元4021,用于基于深度信息,确定待处理图像对应的三维点云信息;第二确定单元4022,用于从三维点云信息中,确定用于表征目标物体图像的三维点云信息作为目标三维点云信息;第三确定单元4023,用于基于目标三维点云信息,确定目标物体图像在待处理图像中的位置;移除单元4024,用于根据位置,将目标物体图像从待处理图像中移除。
在一些可选的实现方式中,待插入物体图像具有对应的三维尺寸信息;以及第一调整模块405可以包括:第四确定单元4051,用于确定还原图像对应的三维点云信息;调整单元4052,用于基于待插入物体图像对应的三维尺寸信息和还原图像对应的三维点云信息,调整待插入物体图像在还原图像中的尺寸至目标尺寸。
在一些可选的实现方式中,装置还可以包括:确定模块406,用于确定还原图像的颜色信息和待插入物体图像的颜色信息;第二调整模块407,用于调整待插入物体图像的颜色信息,以使待插入物体图像的颜色信息与还原图像的颜色信息匹配。
本公开上述实施例提供的图像处理装置,通过将目标物体图像从待处理图像中移除,再对移除后的待处理图像进行还原,然后将待插入物体图像插入还原图像中的移除目标物体图像的位置,并调整插入的图像的尺寸。从而实现了对目标物体图像的替换,使插入的图像在还原图像中显示地更加自然,有助于使用户快速、灵活地查看替换掉目标物体图像指示的物体的效果。
示例性电子设备
下面,参考图6来描述根据本公开实施例的电子设备。该电子设备可以是如图1所示的终端设备101和服务器103中的任一个或两者、或与它们独立的单机设备,该单机设备可以与终端设备101和服务器103进行通信,以从它们接收所采集到的输入信号。
图6图示了根据本公开实施例的电子设备的框图。
如图6所示,电子设备600包括一个或多个处理器601和存储器602。
处理器601可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备600中的其他组件以执行期望的功能。
存储器602可以包括一个或多个计算机程序产品,计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器601可以运行程序指令,以实现上文的本公开的各个实施例的图像处理方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。处理器601被配置为能够读取存储器602中存储的计算机程序,来执行如图2-5中任一图所示的方法步骤。
在一个示例中,电子设备600还可以包括:输入装置603和输出装置604,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,在该电子设备是终端设备101或服务器103时,该输入装置603可以是摄像头、鼠标、键盘等设备,用于输入图像。在该电子设备是单机设备时,该输入装置603可以是通信网络连接器,用于从终端设备101和服务器103接收所输入的图像。
该输出装置604可以向外部输出各种信息,包括插入物体图像后的图像。该输出设备604可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图6中仅示出了该电子设备600中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备600还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的图像处理方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的图像处理方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种图像处理方法,包括:
获取包括目标物体图像的待处理图像;
将所述目标物体图像从所述待处理图像中移除;
对移除所述目标物体图像后的待处理图像进行还原,得到还原图像;
获取待插入物体图像,并将所述待插入物体图像插入所述还原图像中的目标位置,其中,所述目标位置为移除所述目标物体图像的位置
调整所述待插入物体图像在所述还原图像中的尺寸至目标尺寸。
2.根据权利要求1所述的方法,其中,所述对移除所述目标物体图像后的待处理图像进行还原,得到还原图像,包括:
将移除所述目标物体图像后的待处理图像输入预先训练的图像还原模型,得到还原图像。
3.根据权利要求1所述的方法,其中,所述待处理图像具有对应的深度信息;以及
所述将所述目标物体图像从所述待处理图像中移除,包括:
基于所述深度信息,确定所述待处理图像对应的三维点云信息;
从所述三维点云信息中,确定用于表征所述目标物体图像的三维点云信息作为目标三维点云信息;
基于所述目标三维点云信息,确定所述目标物体图像在所述待处理图像中的位置;
根据所述位置,将所述目标物体图像从所述待处理图像中移除。
4.根据权利要求3所述的方法,其中,所述待插入物体图像具有对应的三维尺寸信息;以及
所述调整所述待插入物体图像在所述还原图像中的尺寸至目标尺寸,包括:
确定所述还原图像对应的三维点云信息;
基于所述待插入物体图像对应的三维尺寸信息和所述还原图像对应的三维点云信息,调整所述待插入物体图像在所述还原图像中的尺寸至目标尺寸。
5.根据权利要求1-4之一所述的方法,其中,所述方法还包括:
确定所述还原图像的颜色信息和所述待插入物体图像的颜色信息;
调整所述待插入物体图像的颜色信息,以使所述待插入物体图像的颜色信息与所述还原图像的颜色信息匹配。
6.一种图像处理装置,包括:
第一获取模块,用于获取包括目标物体图像的待处理图像;
移除模块,用于将所述目标物体图像从所述待处理图像中移除;
还原模块,用于对移除所述目标物体图像后的待处理图像进行还原,得到还原图像;
第二获取模块,用于获取待插入物体图像,并将所述待插入物体图像插入所述还原图像中的目标位置,其中,所述目标位置为移除所述目标物体图像的位置;
第一调整模块,用于调整所述待插入物体图像在所述还原图像中的尺寸至目标尺寸。
7.根据权利要求6所述的装置,其中,所述还原模块进一步用于:
将移除所述目标物体图像后的待处理图像输入预先训练的图像还原模型,得到还原图像。
8.根据权利要求6所述的装置,其中,所述待处理图像具有对应的深度信息;以及
所述移除模块包括:
第一确定单元,用于基于所述深度信息,确定所述待处理图像对应的三维点云信息;
第二确定单元,用于从所述三维点云信息中,确定用于表征所述目标物体图像的三维点云信息作为目标三维点云信息;
第三确定单元,用于基于所述目标三维点云信息,确定所述目标物体图像在所述待处理图像中的位置;
移除单元,用于根据所述位置,将所述目标物体图像从所述待处理图像中移除。
9.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-5任一所述的方法。
10.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-5任一所述的方法。
CN201910636694.0A 2019-07-15 2019-07-15 图像处理方法、装置、计算机可读存储介质及电子设备 Active CN110390731B (zh)

Priority Applications (8)

Application Number Priority Date Filing Date Title
CN201910636694.0A CN110390731B (zh) 2019-07-15 2019-07-15 图像处理方法、装置、计算机可读存储介质及电子设备
US16/929,082 US10956626B2 (en) 2019-07-15 2020-07-14 Artificial intelligence systems and methods for interior design
CA3147320A CA3147320A1 (en) 2019-07-15 2020-07-15 Artificial intelligence systems and methods for interior design
PCT/CN2020/102215 WO2021008566A1 (en) 2019-07-15 2020-07-15 Artificial intelligence systems and methods for interior design
JP2022502901A JP7325602B2 (ja) 2019-07-15 2020-07-15 インテリアデザインのための人工知能システム及び方法
AU2020315029A AU2020315029B2 (en) 2019-07-15 2020-07-15 Artificial intelligence systems and methods for interior design
US17/180,415 US20210173968A1 (en) 2019-07-15 2021-02-19 Artificial intelligence systems and methods for interior design
US17/180,377 US20210173967A1 (en) 2019-07-15 2021-02-19 Artificial intelligence systems and methods for interior design

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910636694.0A CN110390731B (zh) 2019-07-15 2019-07-15 图像处理方法、装置、计算机可读存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN110390731A true CN110390731A (zh) 2019-10-29
CN110390731B CN110390731B (zh) 2020-07-24

Family

ID=68285065

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910636694.0A Active CN110390731B (zh) 2019-07-15 2019-07-15 图像处理方法、装置、计算机可读存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN110390731B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113239445A (zh) * 2021-06-11 2021-08-10 重庆电子工程职业学院 基于ar的室内管线信息展示方法及系统
WO2023051143A1 (zh) * 2021-09-28 2023-04-06 北京地平线信息技术有限公司 数据脱敏方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150178962A1 (en) * 2013-12-24 2015-06-25 Konica Minolta, Inc. Image processing apparatus, image forming apparatus, image generating method, and medium
US20160198097A1 (en) * 2015-01-05 2016-07-07 GenMe, Inc. System and method for inserting objects into an image or sequence of images
CN107194870A (zh) * 2017-05-24 2017-09-22 北京大学深圳研究生院 一种基于显著性物体检测的图像场景重构方法
CN109035385A (zh) * 2018-06-06 2018-12-18 链家网(北京)科技有限公司 一种房源虚拟三维模型中的全景图截图方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150178962A1 (en) * 2013-12-24 2015-06-25 Konica Minolta, Inc. Image processing apparatus, image forming apparatus, image generating method, and medium
US20160198097A1 (en) * 2015-01-05 2016-07-07 GenMe, Inc. System and method for inserting objects into an image or sequence of images
CN107194870A (zh) * 2017-05-24 2017-09-22 北京大学深圳研究生院 一种基于显著性物体检测的图像场景重构方法
CN109035385A (zh) * 2018-06-06 2018-12-18 链家网(北京)科技有限公司 一种房源虚拟三维模型中的全景图截图方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
匿名: "酷家乐3D云设计", 《HTTP://WWW.IQIYI.COM/W_19RSV9UPY9.HTML#CURID=6174573709_3E989FBC70EFCDC43BF7EAF5873E5761》 *
匿名: "酷家乐云设计软件如何添加和替换家具", 《HTTPS://WWW.7DOWN.COM/ARTICLE/91793.HTML》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113239445A (zh) * 2021-06-11 2021-08-10 重庆电子工程职业学院 基于ar的室内管线信息展示方法及系统
CN113239445B (zh) * 2021-06-11 2023-08-01 重庆电子工程职业学院 基于ar的室内管线信息展示方法及系统
WO2023051143A1 (zh) * 2021-09-28 2023-04-06 北京地平线信息技术有限公司 数据脱敏方法和装置

Also Published As

Publication number Publication date
CN110390731B (zh) 2020-07-24

Similar Documents

Publication Publication Date Title
US11978245B2 (en) Method and apparatus for generating image
CN108830235B (zh) 用于生成信息的方法和装置
US11270099B2 (en) Method and apparatus for generating facial feature
US10832037B2 (en) Method and apparatus for detecting image type
CN109255337B (zh) 人脸关键点检测方法和装置
CN108337505B (zh) 信息获取方法和装置
CN111612842B (zh) 生成位姿估计模型的方法和装置
CN108492364A (zh) 用于生成图像生成模型的方法和装置
CN108198044A (zh) 商品信息的展示方法、装置、介质及电子设备
CN112954450B (zh) 视频处理方法、装置、电子设备和存储介质
CN105512637A (zh) 图像处理方法和电子设备
CN110059623B (zh) 用于生成信息的方法和装置
CN108388889B (zh) 用于分析人脸图像的方法和装置
CN108229375B (zh) 用于检测人脸图像的方法和装置
CN110516598B (zh) 用于生成图像的方法和装置
CN110059624B (zh) 用于检测活体的方法和装置
CN111105375A (zh) 图像生成方法及其模型训练方法、装置及电子设备
US10628998B2 (en) System and method for three dimensional object reconstruction and quality monitoring
CN110390731A (zh) 图像处理方法、装置、计算机可读存储介质及电子设备
CN112639870B (zh) 图像处理装置、图像处理方法和图像处理程序
CN113033677A (zh) 视频分类方法、装置、电子设备和存储介质
CN110472558B (zh) 图像处理方法和装置
CN110673717A (zh) 用于控制输出设备的方法和装置
CN108921138B (zh) 用于生成信息的方法和装置
CN113516697A (zh) 图像配准的方法、装置、电子设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20191211

Address after: 100085 Floor 102-1, Building No. 35, West Second Banner Road, Haidian District, Beijing

Applicant after: Seashell Housing (Beijing) Technology Co., Ltd.

Address before: 300 457 days Unit 5, Room 1, 112, Room 1, Office Building C, Nangang Industrial Zone, Binhai New Area Economic and Technological Development Zone, Tianjin

Applicant before: Shell Technology Co., Ltd.

GR01 Patent grant
GR01 Patent grant