CN117392018A - 提升三维模型清晰度的方法、装置、电子设备及存储介质 - Google Patents

提升三维模型清晰度的方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN117392018A
CN117392018A CN202311389459.0A CN202311389459A CN117392018A CN 117392018 A CN117392018 A CN 117392018A CN 202311389459 A CN202311389459 A CN 202311389459A CN 117392018 A CN117392018 A CN 117392018A
Authority
CN
China
Prior art keywords
dimensional model
target
evaluation score
map
target map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311389459.0A
Other languages
English (en)
Inventor
吴俞醒
丁飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenli Vision Shenzhen Cultural Technology Co ltd
Original Assignee
Shenli Vision Shenzhen Cultural Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenli Vision Shenzhen Cultural Technology Co ltd filed Critical Shenli Vision Shenzhen Cultural Technology Co ltd
Priority to CN202311389459.0A priority Critical patent/CN117392018A/zh
Publication of CN117392018A publication Critical patent/CN117392018A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Processing (AREA)

Abstract

本公开涉及一种提升三维模型清晰度的方法、装置、电子设备及存储介质,该方法包括:获取第一三维模型的目标贴图,作为第一目标贴图,所述目标贴图包括至少一个贴图;根据所述第一目标贴图,确定所述第一三维模型的清晰度评估分数,作为第一清晰度评估分数;所述清晰度评估分数为表示对应三维模型的清晰程度的分数;根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图,根据所述第二目标贴图更新所述第一三维模型。根据本公开实施例可以提升三维模型的清晰度。

Description

提升三维模型清晰度的方法、装置、电子设备及存储介质
技术领域
本公开涉及互联网技术领域,更具体地,涉及一种提升三维模型清晰度的方法、一种提升三维模型清晰度的装置、一种电子设备、及一种非易失性计算机可读存储介质。
背景技术
在3D游戏、影视特效制作的场景中,每个静态物体指向美术资产中对应的每个网格。网格的组成要素为一个个的多边形,包含顶点、纹理坐标、法线、等数据。在游戏中,物体渲染的精细程度取决于网格的精细程度和贴图的质量。对于一些上线已经有一定年限的游戏,此前制作的贴图可能存在清晰度小、纹理模糊的情况,使得画面的质量较低。
在现有技术中,受限于扫描设备的精度,根据扫描设备对指定对象进行扫描所得到的图像所构建的三维模型的清晰度较低,使得渲染出来的虚拟对象的真实度较差。
发明内容
本公开的一个目的是提供一种提升三维模型清晰度的新技术方案。
根据本公开的第一方面,提供了一种提升三维模型清晰度的方法,包括:
获取第一三维模型的目标贴图,作为第一目标贴图,所述目标贴图包括至少一个贴图;
根据所述第一目标贴图,确定所述第一三维模型的清晰度评估分数,作为第一清晰度评估分数;所述清晰度评估分数为表示对应三维模型的清晰程度的分数;
根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图;
根据所述第二目标贴图更新所述第一三维模型。
在一种可能的实施方式中,所述根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图,包括:
基于预先训练得到的第一神经网络,根据所述第一清晰度评估分数确定图像增强参数;
基于所述第一神经网络,根据所述图像增强参数,对所述第一目标贴图进行图像增强处理,得到所述第二目标贴图。
在一种可能的实施方式中,所述方法还包括:
获取第二三维模型的目标贴图,作为第三目标贴图;
对所述第三目标贴图进行图像退化处理,得到所述第二三维模型的第四目标贴图;
根据所述第三目标贴图和对应的第四目标贴图,对所述第一神经网络进行训练,更新所述第一神经网络的网络参数。
在一种可能的实施方式中,所述对所述第三目标贴图的清晰度进行图像退化处理,得到所述第二三维模型的目标贴图,作为第四目标贴图,包括:
根据所述第三目标贴图,确定所述第二三维模型的清晰度评估分数,作为第二清晰度评估分数;
根据所述第二清晰度评估分数确定第三清晰度评估分数,其中,所述第二清晰度评估分数所表示的清晰度大于所述第三清晰度评估分数所表示的清晰度;
根据所述第三清晰度评估分数,对所述第三目标贴图进行图像退化处理,得到对应的第四目标贴图。
在一种可能的实施方式中,图像退化处理的方式包括以下至少一项:图像缩放处理,图像模糊处理,图像压缩处理。
在一种可能的实施方式中,所述目标贴图包括颜色贴图和法线贴图。
在一种可能的实施方式中,所述方法还包括:
根据所述第一目标贴图中的颜色贴图对所述第二目标贴图中的颜色贴图进行偏色校正处理。
根据本公开的第二方面,提供了一种提升三维模型清晰度的装置,所述装置包括:
第一贴图获取模块,用于获取第一三维模型的目标贴图,作为第一目标贴图,所述目标贴图包括至少一个贴图;
清晰度评估模块,用于根据所述第一目标贴图,确定所述第一三维模型的清晰度评估分数,作为第一清晰度评估分数;所述清晰度评估分数为表示对应三维模型的清晰程度的分数;
增强模块,用于根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图;
更新模块,用于根据所述第二目标贴图更新所述第一三维模型。
根据本公开的第三方面,提供了一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为在执行所述存储器存储的指令时,实现本公开第一方面所述的方法。
根据本公开的第四方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现本公开第一方面所述的方法。
通过本公开的实施例,根据第一三维模型的第一目标贴图,确定第一三维模型的第一清晰度评估分数,再根据第一清晰度评估分数对第一目标贴图进行图像增强处理,得到第二目标贴图,进而根据第二目标贴图更新第一三维模型后,可以提升第一三维模型的清晰度。能够实现第一三维模型对于对应的指定对象的高度还原,满足虚拟拍摄等应用的要求。
通过以下参照附图对本公开的示例性实施例的详细描述,本公开的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本公开的实施例,并且连同其说明一起用于解释本公开的原理。
图1示出了根据本公开一些实施例的应用场景的示意图;
图2示出了根据本公开一些实施例的提升三维模型清晰度的方法的流程示意图;
图3示出了根据本公开一些实施例的提升三维模型清晰度的方法的过程示意图;
图4示出了根据本公开一些实施例的虚拟拍摄方法的流程示意图;
图5示出了根据本公开一些实施例的提升三维模型清晰度的装置的结构框图;
图6示出了根据本公开一些实施例的电子设备的结构示意图;
图7示出了根据本公开另一些实施例的电子设备的结构示意图。
具体实施方式
现在将参照附图来详细描述本公开的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
<应用场景>
图1为本公开实施例的应用场景的示意图。
如图1所示,在一个应用场景中,可以通过扫描设备对指定对象进行扫描,得到指定对象的三维数据;之后,将三维数据输入至三维模型生成装置2000,由三维模型生成装置2000基于指定对象的三维数据对该指定对象进行三维重建,生成对应该指定对象的三维模型,再由提升三维模型清晰度的装置3000对该三维模型的目标贴图进行清晰度提升的处理,得到高清晰度的三维模型。该三维模型例如可以由实例化装置4000进行实例化应用,例如,所生成的三维模型可以用于虚拟拍摄、动漫制作或者游戏制作等。
其中,指定对象可以包括物品(如商品)和环境(如博物馆的室内环境)等。三维数据可以包括二维的图片或照片、指定对象的点云数据等,其可通过各手动或自动的扫描设备(如相机、航拍无人机、自动扫描机器人等)来采集。
扫描设备可以包括航拍扫描仪、室内扫描仪、室外扫描模仪、物体扫描仪和人体扫描仪中的至少一种。
航拍扫描仪可采用带有摄像头的无人机或其他空中扫描设备,其能通过航拍扫描的方式获取某个特定区域(如某个城市)的扫描数据。室内扫描仪,可以是手持扫描设备(如带支撑架的相机)或其他自动扫描设备(如自动扫描机器人),能扫描室内的空间数据。室外扫描仪,可以是手持扫描设备(如带支撑架的相机)或其他自动扫描设备(如自动扫描机器人),能扫描室外的空间数据。物体扫描仪,可以是手持的扫描设备(如带支撑架的RGB-D摄像机等),能扫描物体的结构数据。人体扫描仪,可以是现有专门针对人体建模的人体扫描仪,能扫描人体的三维数据。上述扫描设备应用光学原理,使用RGB或深度相机、激光雷达、结构光等方式对物体、室内外空间、航测地理信息等进行测距,并对物体结构进行数据模型采集。
如图1所示,三维模型生成、提升三维模型清晰度和三维模型实例化可以分别由三维模型生成装置2000、提升三维模型清晰度的装置3000与实例化装置4000实施,其中,三维模型生成装置2000可以是具有支持重建算法的计算能力的任意电子设备,这样的电子设备例如是PC机、笔记本电脑、工作站、服务器等等;提升三维模型清晰度的装置3000可以是具有支持增强算法的计算能力的任意电子设备,这样的电子设备例如是PC机、笔记本电脑、工作站、服务器等等;实例化装置4000可以是能够满足应用需求的任意电子设备,这样的电子设备例如是PC机、笔记本电脑、虚拟现实设备等等。本领域技术人员可以理解的是,三维模型生成、三维模型清晰度提升和三维模型实例化也可以由同一装置实施,在此不做限定。
以上提到的虚拟拍摄等实例化应用,对所使用的三维模型具有较高的精度要求。然而,在相关技术中,受扫描设备的精度的影响,生成的三维模型的清晰度可能较低。因此,基于精度较低的扫描设备所采集的三维扫描数据所构建得到的三维模型,无法满足虚拟拍摄、动漫制作、游戏制作等应用的需求。
以虚拟拍摄为例,在提升三维模型的清晰度的基础上,可以在三维模型中创建虚拟摄像机,并设置虚拟摄像机的位置、角度等参数,以通过虚拟摄像机在三维模型中完成作品拍摄。或者,也可以通过大屏幕显示所生成的第一三维模型进行作品拍摄等。
<方法实施例>
在本实施例中,提供一种提升三维模型清晰度的方法。该方法例如可以由图1所示的提升三维模型清晰度的装置3000实施。
根据图2所示,本实施例的方法可以包括如下步骤S2100~S2400:
步骤S2100,获取第一三维模型的目标贴图,作为第一目标贴图。
本实施例中的第一三维模型,可以是任意指定对象的三维模型,指定对象可以包括物品(如商品)和环境(如博物馆的室内环境)等。
具体的,可以是预先对指定对象的三维数据进行贴图处理,得到第一三维模型的贴图。
在一种可能的实施方式中,可以是将通过扫描设备采集的指定对象的二维图片和深度信息,作为指定对象的三维数据,再对三维数据进行贴图处理,得到第一三维模型的贴图。贴图处理主要是进行UV优化,并根据扫描设备等获取的二维图片和深度信息等进行图片贴合,以将二维图片按照深度信息贴合在对应的三维模型上。
在本公开的一个实施例中,目标贴图可以包括至少一个贴图。例如,该目标贴图可以包括颜色贴图、法线贴图、高度贴图、纹理贴图等贴图中的至少一个。
在一种可能的实施方式中,目标贴图可以包括颜色贴图和法线贴图。
在一种可能的实施方式中,执行本实施例方法的电子设备可以是在接收到提升第一三维模型的清晰度的指令的情况下,执行本实施例的步骤S2100~S2400。其中,提升第一三维模型的清晰度的指令可以是语音指令,还可以是通过电子设备中提供的按键所触发的指令,在此不做限定。
步骤S2200,根据第一目标贴图,确定第一三维模型的清晰度评估分数,作为第一清晰度评估分数。
其中,清晰度评估分数为表示对应三维模型的清晰程度的分数。
在一种可能的实施方式中,可以是清晰度评估分数越大,表示对应三维模型的清晰度越高。该清晰度评估分数可以是小于或者等于1的正数。
在一种可能的实施方式中,可以是基于预先训练得到的第二神经网络,根据第一目标贴图,确定第一三维模型的第一清晰度评估分数。
具体的,可以是将第一三维模型的第一目标贴图输入至第二神经网络中,得到第一三维模型的第一清晰度评估分数。在目标贴图包括颜色贴图和法线贴图的情况下,可以是将第一三维模型的颜色贴图和法线贴图均输入至第二神经网络中,得到第一三维模型的第一清晰度评估分数。
步骤S2300,根据第一清晰度评估分数,对第一目标贴图进行图像增强处理,得到第一三维模型的第二目标贴图。
本实施例中的图像增强处理,是指通过图像处理方法对第一目标贴图的某些图像特征,如边缘、轮廓、对比度等进行处理,以改善目标贴图的视觉效果,提高第一目标贴图的清晰度。图像增强可以包括空间域法和频率域法。频率域法是把目标贴图看成一种二维信号,对其进行基于二维傅里叶变换的信号增强,采用低通滤波(即只让低频信号通过)法,可去掉目标贴图中的噪声;采用高通滤波法,则可增强边缘等高频信号,使模糊的目标贴图变得清晰。空间域法是对目标贴图中的像素点进行操作,具体可以是在空间域中,直接对目标贴图进行各种线性或非线性运算,对目标贴图的像素灰度值做增强处理。空间域法分为点运算和模板处理两大类,点运算是作用于单个像素邻域的处理方法,包括图像灰度变换、直方图修正、伪彩色增强技术;模板处理是作用于像素领域的处理方法,包括图像平滑、图像锐化等。
在目标贴图包括颜色贴图和法线贴图的情况下,可以是根据第一清晰度评估分数,对第一三维模型的颜色贴图和法线贴图分别进行图像增强处理。
进一步地,通过对第一目标贴图进行图像增强处理,可以使得得到的第二目标贴图的清晰度高于第一目标贴图的清晰度。
步骤S2400,根据第二目标贴图更新第一三维模型。
通过本公开的实施例,根据第一三维模型的第一目标贴图,确定第一三维模型的第一清晰度评估分数,再根据第一清晰度评估分数对第一目标贴图进行图像增强处理,得到第二目标贴图,进而根据第二目标贴图更新第一三维模型后,可以提升第一三维模型的清晰度。能够实现第一三维模型对于对应的指定对象的高度还原,满足虚拟拍摄等应用的要求。
在一种可能的实施方式中,可以是根据第一清晰度评估分数,确定对第一目标贴图进行图像增强处理的方法。
具体的,可以是预先设置多个分数范围、以及与每个分数范围对应的图像增强处理方法。在得到第一清晰度评估分数的情况下,可以是根据第一清晰度评估分数所属的分数范围所对应的图像增强处理方法,对第一目标贴图进行图像增强处理,得到第二目标贴图。
在另一种可能的实施方式中,可以是随机确定一个或多个图像增强处理方法,根据第一清晰度评估分数,对第一目标贴图进行至少一轮图像增强处理,得到第二目标贴图。
在本实施例中,可以是根据第一清晰度评估分数确定对第一目标贴图进行图像增强处理的次数。具体的,可以是预先设置多个分数范围、以及与每个分数范围对应的图像增强处理次数。在得到第一清晰度评估分数的情况下,可以是根据第一清晰度评估分数所属的分数范围所对应的图像增强处理次数,对第一目标贴图进行图像增强处理,得到第二目标贴图。
在另一种可能的实施方式中,根据第一清晰度评估分数,对第一目标贴图进行图像增强处理,得到第一三维模型的第二目标贴图,包括:基于预先训练得到的第一神经网络,根据所述第一清晰度评估分数确定图像增强参数;基于所述第一神经网络,根据所述图像增强参数,对所述第一目标贴图进行图像增强处理,得到所述第二目标贴图。
其中,图像增强参数为表示第一目标贴图对应的待增强程度的参数。
在本实施例中,第一神经网络可以是根据第一清晰度评估分数确定图像增强参数,也可以是根据第一清晰度评估分数和设定清晰度评估分数之间的差值确定图像增强参数,还可以是根据第一清晰度评估分数和设定清晰度评估分数之间的比值确定图像增强参数。
其中,设定清晰度评估分数可以是预先根据应用场景或具体需求所设定的,该设定清晰度评估分数所表示的清晰程度高于第一清晰度评估分数所表示的清晰程度。例如,在第一清晰度评估分数为大于0小于1的数值的情况下,设定清晰度评估分数可以是1。
在根据第一清晰度评估分数和设定清晰度评估分数之间的差值、或者第一清晰度评估分数和设定清晰度评估分数之间的比值确定图像增强参数,再根据图像增强参数和第一神经网络,对第一目标贴图进行图像增强处理,得到第二目标贴图,根据得到的第二目标贴图更新第一三维模型,可以使得更新后的第一三维模型的清晰度评估分数能够达到设定清晰度评估分数。
在一种可能的实施方式中,第一神经网络可以是根据如下步骤所得到的:获取第二三维模型的目标贴图,作为第三目标贴图;对第三目标贴图进行图像退化处理,得到第二三维模型的目标贴图,作为第四目标贴图;根据第三目标贴图和对应的第四目标贴图,对第一神经网络进行训练,更新第一神经网络的网络参数。
本实施例中的第二三维模型的第三目标贴图的生成方式,与前述的第一三维模型的第一目标贴图的生成方式相同,在此不再赘述。
本实施例中的第二三维模型,可以是高清晰度、且具有纹理的三维模型。
在一种可能的实施方式中,可以是通过设定应用程序来获取第二三维模型的目标贴图,其中,该设定应用程序例如可以是megascan。
在本实施例中,可以是从通过设定应用程序所获取的三维模型的目标贴图中,筛选出第二三维模型的目标贴图。
具体的,可以是根据通过设定应用程序所获取的多个三维模型的目标贴图,确定对应第二三维模型的清晰度评估分数,作为第二清晰度评估分数,筛选出第二清晰度评估分数大于或者等于设定的分数阈值的三维模型的目标贴图,作为用于训练第一神经网络的第二三维模型的第三目标贴图。
其中,分数阈值可以是预先根据应用场景或具体需求所设定的。例如,该分数阈值可以是0.8。
进一步地,还可以是从通过设定应用程序所获取的三维模型的目标贴图中,剔除无纹理的三维模型的目标贴图,并将剩余的、第二清晰度评估分数大于或者等于设定的分数阈值的三维模型的目标贴图,作为第二三维模型的第三目标贴图。
在本实施例中,无纹理的三维模型的目标贴图,例如,可以是颜色单一的墙面的三维模型的目标贴图。
通过本实施例来获取高清晰度的第三目标贴图,可以提升根据第三目标贴图训练得到的第一神经网络的图像增强效果,进而提升第一三维模型的清晰度的提升效果。
在一种可能的实施方式中,对图像退化处理方式包括以下至少一项:缩放处理;模糊处理;压缩处理。
缩放处理方法可以是基于等间隔提取图像像素的缩放,也可以是基于区域子块提取图像缩放。基于等间隔提取图像像素的缩放是对第三目标贴图进行均匀采样来完成的。基于区域子块提取图像缩放是通过对第三目标贴图进行区域子块划分,然后提取子块中像素值作为采样像素用来作为目标图像的像素。提取子块的像素的方法通常是提取块像素中得中值或者计算块像素的平均值。
模糊处理方法可以是基于高斯模糊、方框模糊、Kawase模糊、双重模糊、散景模糊、移轴模糊、光圈模糊、粒状模糊、径向模糊、方向模糊等模糊算法中的任意一种或多种。
压缩处理可以是有损数据压缩也可以是无损数据压缩。其中,无损图像压缩方法可以包括行程长度编码法、熵编码法、自适应字典算法;有损压缩方法可以包括色度抽样、变换编码、分形压缩、将色彩空间化减到图像中常用的颜色等。
在第三目标贴图包括至少两个贴图的实施例中,对至少两个贴图进行图像退化处理的方式可以相同,也可以不同;对应的,对至少两个贴图进行图像退化处理的次数可以相同,也可以不同,在此不做限定。
在一种可能的实施方式中,对高清晰度第三目标贴图的清晰度进行图像退化处理,得到第二三维模型的低清晰度第三目标贴图,包括:随机采用一种或多种图像退化处理方式,对第三目标贴图进行至少一轮图像退化处理,得到对应的第四目标贴图。
在一种可能的实施方式中,对高清晰度第三目标贴图的清晰度进行图像退化处理,得到第二三维模型的低清晰度第三目标贴图,包括:根据第三目标贴图,确定第二三维模型的清晰度评估分数,作为第二清晰度评估分数;根据第二清晰度评估分数确定第三清晰度评估分数;根据第三清晰度评估分数,对第三目标贴图进行图像退化处理,得到对应的第四目标贴图。
本实施例中,第二清晰度评估分数所表示的清晰度高于第三清晰度评估分数所表示的清晰度。在清晰度评估分数越高、所表示的清晰度越高的情况下,第三清晰度评估分数可以是小于第二清晰度评估分数。
对于任一个第二三维模型,可以是确定对应的至少一个第三清晰度评估分数,并根据每个第三清晰度评估分数,对该第二三维模型的第三目标贴图进行图像退化处理,得到对应每个第三清晰度评估分数的第四目标贴图。
在本实施例中,根据第三清晰度评估分数对第三目标贴图进行图像退化处理,可以使得根据得到的第四目标贴图可以确定第二三维模型的清晰度评估分数大致等于该第三清晰度评估分数。
具体的,可以是采用任意随机采用一种或多种图像退化处理方式,对第三目标贴图进行至少一轮图像退化处理,直到根据图像退化处理后的第三目标贴图可以确定对第二三维模型的清晰度评估分数大致等于该第三清晰度评估分数,将图像退化处理后的第三目标贴图作为第四目标贴图。
通过本实施例来得到第四目标贴图,可以使得根据第三目标贴图和第四目标贴图所训练的第一神经网络,能够对第一目标贴图进行图像增强处理,以将第一三维模型的清晰度评估分数精准地提升至设定清晰度评估分数。
在一种可能的实施方式中,方法还包括:根据第一目标贴图中的颜色贴图对第二目标贴图中的颜色贴图进行偏色校正处理。
在本实施例中,可以是使用直方图匹配方法,对第二目标贴图中的颜色贴图进行校正,使得第二目标贴图中的颜色贴图的颜色接近第一目标贴图中的颜色贴图的颜色。
具体的,可以是确定第二目标贴图中的颜色贴图在各颜色通道的直方图分布曲线、及第一目标贴图中的颜色贴图在各颜色通道的直方图分布曲线,通过将第二目标贴图中的颜色贴图在每个颜色通道的直方图与第一目标贴图中的颜色贴图在对应颜色通道的直方图进行匹配,使得偏色校正的第二目标贴图中的颜色贴图和第一目标贴图中的颜色贴图在各颜色通道具有一致的直方图分布。
通过本实施例,可以在对第一目标贴图进行图像增强处理的情况下,对颜色贴图进行偏色校正处理,可以减小最终得到的第二目标贴图的颜色贴图与第一目标贴图的颜色贴图之间的颜色偏差,使得第一三维模型在提升清晰度的同时,也不会出现严重偏色。
在一种可能的实施方式中,第一三维模型的目标贴图包括第一颜色贴图和第一法线贴图。如图3所示,基于第二神经网络,根据第一颜色贴图和第一法线贴图,可以得到第一三维模型的第一清晰度评估分数;基于第一神经网络,根据第一清晰度评估分数,对第一颜色贴图和第一法线贴图分别进行图像增强处理,得到第二颜色贴图和第二法线贴图;基于增强模块,对第二颜色贴图进行偏色较正处理,得到第三颜色贴图,根据第二法线贴图和第三颜色贴图更新第一三维模型。
基于本公开实施例的方法所得到的第一三维模型的第二目标贴图,可以用于虚拟拍摄、动漫制作、游戏制作等。以虚拟拍摄为例,如图4所示,虚拟拍摄方法可以包括如下步骤S4100至步骤S4600:
步骤S4100,根据指定对象的三维扫描数据,构建对应的第一三维模型。
步骤S4200,获取第一三维模型的目标贴图,作为第一目标贴图。
步骤S4300,根据第一三维模型的第一目标贴图,确定第一三维模型的清晰度评估分数,作为第一清晰度评估分数。
步骤S4400,根据第一清晰度评估分数,对第一目标贴图进行图像增强处理,得到第一三维模型的第二目标贴图。
步骤S4500,根据第二目标贴图更新第一三维模型。
步骤S4600,基于更新后的第一三维模型进行作品拍摄。
在一些示例中,可以在第一三维模型中创建虚拟摄像机,并设置虚拟摄像机的位置、角度等参数,以通过虚拟摄像机在第一三维模型中完成作品拍摄。
在另一些示例中,也可以通过大屏幕显示所生成的第一三维模型进行作品拍摄等,在此不做赘述。
<装置实施例>
本公开还提供了用于实施以上任意方法实施例的提升三维模型清晰度的装置。图5示出了根据一些实施例的提升三维模型清晰度的装置的结构框图。如图5所示,该提升三维模型清晰度的装置500可以包括第一贴图获取模块510、清晰度评估模块520、增强模块530和更新模块540。
第一贴图获取模块510用于获取第一三维模型的目标贴图,作为第一目标贴图,所述目标贴图包括至少一个贴图。
清晰度评估模块520用于根据所述第一目标贴图,确定所述第一三维模型的清晰度评估分数,作为第一清晰度评估分数;所述清晰度评估分数为表示对应三维模型的清晰程度的分数。
增强模块530用于根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图。
更新模块540用于根据所述第二目标贴图更新所述第一三维模型。
在一些实施例中,所述增强模块530在根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图时,可以用于:基于预先训练得到的第一神经网络,根据所述第一清晰度评估分数确定图像增强参数;基于所述第一神经网络,根据所述图像增强参数,对所述第一目标贴图进行图像增强处理,得到所述第二目标贴图。
在一些实施例中,该提升三维模型清晰度的装置500还可以包括第二贴图获取模块、图像退化模块和网络训练模块。
第二贴图获取模块用于获取第二三维模型的目标贴图,作为第三目标贴图。
图像退化模块用于对所述第三目标贴图进行图像退化处理,得到所述第二三维模型的第四目标贴图。
网络训练模块用于根据所述第三目标贴图和对应的第四目标贴图,对所述第一神经网络进行训练,更新所述第一神经网络的网络参数。
在一些实施例中,图像退化模块在对所述第三目标贴图的清晰度进行图像退化处理,得到所述第二三维模型的目标贴图,作为第四目标贴图时,可以用于:根据所述第三目标贴图,确定所述第二三维模型的清晰度评估分数,作为第二清晰度评估分数;根据所述第二清晰度评估分数确定第三清晰度评估分数,其中,所述第二清晰度评估分数所表示的清晰度大于所述第三清晰度评估分数所表示的清晰度;根据所述第三清晰度评估分数,对所述第三目标贴图进行图像退化处理,得到对应的第四目标贴图。
在一些实施例中,图像退化处理的方式包括以下至少一项:图像缩放处理,图像模糊处理,图像压缩处理。
在一些实施例中,所述目标贴图包括颜色贴图和法线贴图。
在一些实施例中,在一些实施例中,该提升三维模型清晰度的装置500还可以包括偏色校正模块,用于根据所述第一目标贴图中的颜色贴图对所述第二目标贴图中的颜色贴图进行偏色校正处理。
本公开还提供了用于实施以上任意方法实施例的电子设备。图6示出了根据一些实施例的电子设备的结构框图。如图6所示,该电子设备600包括处理器610和用于存储处理器610可执行指令的存储器620。该处理器610被配置为在执行存储器620存储的指令时,实现根据本公开任意实施例的提升三维模型清晰度的方法。
该处理器610用于执行计算机指令,该计算机指令可以采用比如x86、Arm、RISC、MIPS、SSE等架构的指令集编写。存储器620例如包括ROM(只读存储器)、RAM(随机存取存储器)、诸如硬盘的非易失性存储器等,在此不做限定。
图7示出了根据另一些实施例的电子设备的结构框图。如图7所示,该电子设备700除了处理器710和存储器720,还可以包括显示装置730、接口装置740、通信装置750、输入装置760等。
接口装置740例如包括USB接口、总线接口、网络接口等。通信装置750例如能够进行有线或无线通信,通信装置750可以包括至少一种短距离通信模块,例如是基于Hil ink协议、WiFi(IEEE 802.11协议)、Mesh、蓝牙、ZigBee、Thread、Z-Wave、NFC、UWB、LiFi等短距离无线通信协议进行短距离无线通信的任意模块,通信装置750也可以包括远程通信模块,例如是进行WLAN、GPRS、2G/3G/4G/5G远程通信的任意模块。显示装置730可以显示提升三维模型清晰度的操作画面。输入装置760可以包括触摸屏、键盘、鼠标、麦克风、摄像头等,在此不做限定。
本公开还提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现根据本公开任意实施例的提升三维模型清晰度的方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括非易失性计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
非易失性计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。非易失性计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。非易失性计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的非易失性计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从非易失性计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的非易失性计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在非易失性计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本公开的范围由所附权利要求来限定。

Claims (10)

1.一种提升三维模型清晰度的方法,其特征在于,所述方法包括:
获取第一三维模型的目标贴图,作为第一目标贴图,所述目标贴图包括至少一个贴图;
根据所述第一目标贴图,确定所述第一三维模型的清晰度评估分数,作为第一清晰度评估分数;所述清晰度评估分数为表示对应三维模型的清晰程度的分数;
根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图;
根据所述第二目标贴图更新所述第一三维模型。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图,包括:
基于预先训练得到的第一神经网络,根据所述第一清晰度评估分数确定图像增强参数;
基于所述第一神经网络,根据所述图像增强参数,对所述第一目标贴图进行图像增强处理,得到所述第二目标贴图。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
获取第二三维模型的目标贴图,作为第三目标贴图;
对所述第三目标贴图进行图像退化处理,得到所述第二三维模型的第四目标贴图;
根据所述第三目标贴图和对应的第四目标贴图,对所述第一神经网络进行训练,更新所述第一神经网络的网络参数。
4.根据权利要求3所述的方法,其特征在于,所述对所述第三目标贴图的清晰度进行图像退化处理,得到所述第二三维模型的目标贴图,作为第四目标贴图,包括:
根据所述第三目标贴图,确定所述第二三维模型的清晰度评估分数,作为第二清晰度评估分数;
根据所述第二清晰度评估分数确定第三清晰度评估分数,其中,所述第二清晰度评估分数所表示的清晰度大于所述第三清晰度评估分数所表示的清晰度;
根据所述第三清晰度评估分数,对所述第三目标贴图进行图像退化处理,得到对应的第四目标贴图。
5.根据权利要求4所述的方法,其特征在于,图像退化处理的方式包括以下至少一项:图像缩放处理,图像模糊处理,图像压缩处理。
6.根据权利要求1所述的方法,其特征在于,所述目标贴图包括颜色贴图和法线贴图。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
根据所述第一目标贴图中的颜色贴图对所述第二目标贴图中的颜色贴图进行偏色校正处理。
8.一种提升三维模型清晰度的装置,其特征在于,所述装置包括:
第一贴图获取模块,用于获取第一三维模型的目标贴图,作为第一目标贴图,所述目标贴图包括至少一个贴图;
清晰度评估模块,用于根据所述第一目标贴图,确定所述第一三维模型的清晰度评估分数,作为第一清晰度评估分数;所述清晰度评估分数为表示对应三维模型的清晰程度的分数;
增强模块,用于根据所述第一清晰度评估分数,对所述第一目标贴图进行图像增强处理,得到所述第一三维模型的第二目标贴图;
更新模块,用于根据所述第二目标贴图更新所述第一三维模型。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为在执行所述存储器存储的指令时,实现权利要求1至7中任意一项所述的方法。
10.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至7中任意一项所述的方法。
CN202311389459.0A 2023-10-24 2023-10-24 提升三维模型清晰度的方法、装置、电子设备及存储介质 Pending CN117392018A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311389459.0A CN117392018A (zh) 2023-10-24 2023-10-24 提升三维模型清晰度的方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311389459.0A CN117392018A (zh) 2023-10-24 2023-10-24 提升三维模型清晰度的方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN117392018A true CN117392018A (zh) 2024-01-12

Family

ID=89464457

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311389459.0A Pending CN117392018A (zh) 2023-10-24 2023-10-24 提升三维模型清晰度的方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN117392018A (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111105375A (zh) * 2019-12-17 2020-05-05 北京金山云网络技术有限公司 图像生成方法及其模型训练方法、装置及电子设备
CN115330644A (zh) * 2022-10-13 2022-11-11 极限人工智能有限公司 一种内窥镜图像的自适应边缘增强方法及系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111105375A (zh) * 2019-12-17 2020-05-05 北京金山云网络技术有限公司 图像生成方法及其模型训练方法、装置及电子设备
CN115330644A (zh) * 2022-10-13 2022-11-11 极限人工智能有限公司 一种内窥镜图像的自适应边缘增强方法及系统

Similar Documents

Publication Publication Date Title
KR101793485B1 (ko) 깊이 카메라를 사용하는 실시간 3d 재구성
CN109242961B (zh) 一种脸部建模方法、装置、电子设备和计算机可读介质
US10489970B2 (en) 2D image processing for extrusion into 3D objects
JP6725110B2 (ja) レーザスキャンデータの画像レンダリング
US10223839B2 (en) Virtual changes to a real object
TWI526990B (zh) 用以轉換二維影像為三維模型的影像處理方法
US10204447B2 (en) 2D image processing for extrusion into 3D objects
CN112487979B (zh) 目标检测方法和模型训练方法、装置、电子设备和介质
US11557086B2 (en) Three-dimensional (3D) shape modeling based on two-dimensional (2D) warping
US20200211255A1 (en) Methods, devices, and computer program products for checking environment acceptability for 3d scanning
JP2019191874A (ja) データ処理装置及びデータ処理方法
US11288774B2 (en) Image processing method and apparatus, storage medium, and electronic apparatus
US10417789B2 (en) Motion blur using cached texture space blur
US20180253886A1 (en) Texturing of a three-dimensional (3d) model by uv map in-painting
US20230222736A1 (en) Methods and systems for interacting with 3d ar objects from a scene
EP3143586B1 (en) Perimeter detection
WO2020112733A1 (en) Online calibration of 3d scan data from multiple viewpoints
CN117392018A (zh) 提升三维模型清晰度的方法、装置、电子设备及存储介质
CN116468736A (zh) 基于空间结构的前景图像分割方法、装置、设备、介质
CN115375847A (zh) 材质恢复方法、三维模型的生成方法和模型的训练方法
CN115330918A (zh) 一种三维场景渲染方法及装置
JP2023540652A (ja) ソフトレイヤ化および深度認識インペインティングを用いた単画像3d写真技術
CN115035231A (zh) 阴影烘焙方法、装置、电子设备和存储介质
US12002292B2 (en) Online calibration of 3D scan data from multiple viewpoints
CN116870468A (zh) 图像处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination