CN116596985B - 一种自适应光照模型建模方法与系统 - Google Patents

一种自适应光照模型建模方法与系统 Download PDF

Info

Publication number
CN116596985B
CN116596985B CN202310869532.8A CN202310869532A CN116596985B CN 116596985 B CN116596985 B CN 116596985B CN 202310869532 A CN202310869532 A CN 202310869532A CN 116596985 B CN116596985 B CN 116596985B
Authority
CN
China
Prior art keywords
color
coordinate system
model
illumination model
vertex
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310869532.8A
Other languages
English (en)
Other versions
CN116596985A (zh
Inventor
何冰
王浩洋
徐晓明
何良华
郭歌
孟夏卿
余快
印明骋
刘龙飞
马野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
State Grid Shanghai Electric Power Co Ltd
Original Assignee
State Grid Shanghai Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by State Grid Shanghai Electric Power Co Ltd filed Critical State Grid Shanghai Electric Power Co Ltd
Priority to CN202310869532.8A priority Critical patent/CN116596985B/zh
Publication of CN116596985A publication Critical patent/CN116596985A/zh
Application granted granted Critical
Publication of CN116596985B publication Critical patent/CN116596985B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • G06T15/506Illumination models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04SSYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Abstract

本发明公开了一种自适应光照模型建模方法与系统,所述方法包括:根据深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,创建坐标系映射表,对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;根据彩色图自适应生成图中不同表面的渲染参数,并根据坐标系映射表将渲染参数映射到坐标系中,得到三角网格模型中每个顶点的渲染参数,根据渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到三维重建对象的光照模型。本发明可提高三维重建的可复用性,提高三维重建的外观真实性和艺术性,为架空输电线路运维检修三维重建外观重建提供了新思路。

Description

一种自适应光照模型建模方法与系统
技术领域
本发明属于电力系统三维重建与渲染技术领域,涉及一种自适应光照模型建模方法与系统。
背景技术
随着商用深度摄像机的发展,无人机载三维激光建模技术已广泛应用于架空输电线路运维检修作业,激光三维建模数据可以较好的反映架空输电线路运维检修作业的现场实际场景,然而,目前大多数架空输电线路运维检修建模工作关注高质量的几何与动作重建,而极少关注外观重建,尤其忽视了对具有不同表面属性材质的恢复。
在架空输电线路运维检修建模中,外观的重建可以使用从色彩图像中恢复的表面纹理贴图,通过对几何模型进行着色实现。这种方法重建出的外观仅能表现某一时刻的场景外观,重建结果无法进行重新照明,可复用性较低。在针对不同的工况诸如晴天、阴雨天、太阳光不同照射角度等情况时,不能实现不同工况下的实时变化下、相对应的、不同的渲染效果。针对该问题,通过在三维重建中构建光照模型,对表面与光线的交互行为进行建模,并根据光线方向、观察方向、表面法线等变量实时计算表面颜色,实现重建结果在不同光照条件下的渲染,极大提高重建结果的可复用性,以及重建外观的真实性和艺术性。
但是目前在三维重建工作中构造的光照模型属于经验模型,其模型参数并不能代表材质特征,不具有真实物理含义,难以实现表面光照属性到渲染效果的映射。并且由于对不同表面的光照模型的建模过程并不具有自适应性,导致具有不同光照属性的表面没有区分度,无法通过渲染结果观测出原始表面材质。因此,如何在三维重建中构造能够真实反映表面属性的光照模型,实现表面光照属性恢复,对于更好的反映架空输电线路运维检修作业的现场实际场景具有重要的研究意义。
发明内容
为解决现有技术中存在的不足,本发明提供一种自适应光照模型建模方法与系统,对架空输电线路运维检修作业的现场实际场景不同材质属性表面进行自适应光照模型建模,实现表面光照属性恢复。
本发明采用如下的技术方案。
一种自适应光照模型建模方法,包括以下步骤:
根据架空输电线路运维检修三维重建对象的深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,同时创建相应的坐标系映射表;
根据坐标系映射表对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;
对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,根据表面反照率在各彩色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率;
根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数;
建立基于物理的光照模型并采用光照模型根据每个顶点的渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到架空输电线路运维检修三维重建对象的光照模型。
优选地,表面采样点在相机坐标系空间中的位置/>计算公式为:
其中,为深度图中/>位置的深度值;
为/>位置的空间坐标缩放因子。
优选地,创建坐标系映射表和/>
优选地,所述根据坐标系映射表对点云进行孔洞填充的方式为:
在坐标系映射表中对深度相机噪声导致的采样点孔洞进行标记占位,并采用N-遍历中值滤波算法对其进行填充,在每次遍历中,对坐标系映射表中标记为孔洞的坐标点,使用其所有邻近非孔洞点坐标的中值进行赋值填充。
优选地,所述基于投影和空圆检测对点云进行三角网格化,得到三角网格模型的过程为:
将点云投影到相机坐标系的平面,对于投影空间中的每个顶点,借助坐标系映射表检索可能与其组成三角形的顶点的空间坐标,生成三角网格索引,即每个三角形顶点在点云中的下标序列;
基于三角网格索引,对三角网格中的每个三角在相机坐标系空间中进行空圆检测;
对未通过空圆检测的三角形在投影空间内对其所在的四边形网格进行局部优化,调整四边形网格四个相邻顶点的连接顺序;
删除局部优化后仍未通过空圆检测的三角形后得到三角网格模型。
优选地,空圆检测的方式为:
使用以三角形内接圆圆心和半径为球心和半径的外接球进行空圆检测,若外接球体内不包含除三角形顶点外的其他点,则三角形通过空圆检测。
优选地,所述对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,具体为:通过在彩色图片上执行中值漂移聚类算法,对彩色图片上所有表面点颜色进行聚类,并使用聚类中值对每个表面点聚类颜色进行替换,去除高光与阴影对表面反照率的影响,实现表面反照率复原,替换后的表面点聚类颜色即为表面反照率。
优选地,根据表面反照率在各彩色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率的具体计算公式如下:
上式中,为表面/>粗糙度,/>为表面/>的镜面反射率;
和/>分别为粗糙表面与光滑表面之间CAC临界值和粗糙度临界值;
为表面/>的反照率在各彩色通道的差异性,即CAC。
优选地,表面的反照率在各彩色通道的差异性/>计算公式为:
上式中,、/>、/>分别为彩色图在RGB色彩模型中的红色通道、绿色通道和蓝色通道;
为彩色图在HSV色彩模型中的色明度通道;
、/>、/>分别表示/>与/>色彩通道的形状差异性、/>与/>色彩通道的形状差异性、/>与/>色彩通道的形状差异性。
优选地,色彩通道的形状差异性计算公式为:
式中,和/>为色彩模型中的通道;
定义区间活跃度为表面采样点落在和/>不同区间中的数量百分比,/>为彩色通道的活跃区间范围,即将彩色通道上活跃度大于1%最大区间活跃度的连续区间范围;
为连续区间范围的区间数量;
为连续区间范围/>中的第/>段区间,其中,/>为/>或/>
是在连续区间范围/>上执行的长度填充操作,具体通过在该连续区间范围前插入/>个隐式区间,在区间范围后插入/>个隐式区间,实现区间范围长度的增加,其中,当/>时,/>为/>
优选地,所述根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数,具体为:根据坐标系映射表将表面反照率、粗糙度和镜面反射率以参数纹理贴图的格式映射到相机坐标系中,其中参数纹理贴图的每个像素点数据,代表在相机坐标系空间中对应空间点的渲染参数,即得到三角网格模型中每个顶点的渲染参数。
优选地,所述采用光照模型根据每个顶点的渲染参数计算表面颜色,具体为:根据每个顶点的渲染参数计算三角网格模型中每个顶点的表面颜色,表面颜色计算公式为:
式中,为观测方向,/>为光线入射方向;
为观测方向上观测到的表面颜色;
为表面采样点/>光线入射方向上的入射辐射率;
为顶点的法线方向;
代表对空间中所有方向的入射光进行积分;
为基于物理的光照模型;
式中,为基于表面反照率和粗糙度得到的表面的漫反射光照模型,/>为基于镜面反射率得到的表面的高光反射光照模型。
优选地,表面的漫反射光照模型为:
式中,为表面上的反照率;
为表面/>上的粗糙度;
为视半角方向,其取值为观测方向/>与光线入射方向/>夹角的一半。
优选地,表面的高光反射光照模型为:
式中,为法线分布函数,/>为阴影-遮掩函数,/>为菲涅尔反射函数,分别由如下公式计算:
为表面s上的镜面反射率。
一种自适应光照模型建模系统,包括:
网格模型构建模块,用于根据架空输电线路运维检修三维重建对象的深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,同时创建相应的坐标系映射表,根据坐标系映射表对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;
渲染参数生成模块,用于对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,根据表面反照率在各彩色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率,根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数;
渲染模块,用于建立基于物理的光照模型并采用光照模型根据每个顶点的渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到架空输电线路运维检修三维重建对象的光照模型。
优选地,所述渲染模块根据每个顶点的渲染参数计算三角网格模型中每个顶点的表面颜色,表面颜色计算公式为:
式中,为观测方向,/>为光线入射方向;
为观测方向上观测到的表面颜色;
为表面采样点/>光线入射方向上的入射辐射率;
为顶点的法线方向;
代表对空间中所有方向的入射光进行积分;
为基于物理的光照模型;
式中,为基于表面反照率和粗糙度得到的表面的漫反射光照模型,/>为基于镜面反射率得到的表面的高光反射光照模型。
优选地,表面的漫反射光照模型为:
式中,为表面上的反照率;
为表面/>上的粗糙度;
为视半角方向,其取值为观测方向/>与光线入射方向/>夹角的一半。
优选地,表面的高光反射光照模型为:
式中,为法线分布函数,/>为阴影-遮掩函数,/>为菲涅尔反射函数,分别由如下公式计算:
为表面s上的镜面反射率。
一种终端,包括处理器及存储介质;所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行所述方法的步骤。
计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现所述方法的步骤。
本发明的有益效果在于,与现有技术相比:
本发明在架空输电线路运维检修三角网格模型构建时,基于投影进行三维三角化,生成三角网格索引序列,实现了从单视角深度图中恢复高质量的表面网格模型,并使用坐标系映射表进行优化和加速,通过在以三角形外接圆圆心和半径作为球心和球半径的外接球内进行空圆检测,可以在保证高质量网格生成的同时,极大降低了算法复杂性和时间开销;
本发明在渲染参数生成时,根据表面反照率在各彩色通道差异性自适应计算不同材质表面的渲染参数表面反照率、粗糙度,使不同材质在重光照渲染中具有差异化表现,显著提高架空输电线路运维检修建模的外观真实性和艺术性,为架空输电线路运维检修建模外观重建提供了新思路;使用中值漂移聚类算法从彩色图中恢复表面反照率,相较于现有的聚类算法(均值漂移聚类算法),能够更好地去除高光与阴影对表面反照率的影响,实现表面反照率复原;
本发明在三维重建时,通过构建基于物理的光照模型,根据不同材质表面的渲染参数实时计算表面颜色,实现表面网格模型(三角网格模型)着色与渲染,通过在三维重建中构建光照模型实现表面着色,使重建结果可进行重新照明,极大提高了三维重建的可复用性,针对不同的工况诸如晴天、阴雨天、太阳光不同照射角度等情况,可以实现相对应工况下的渲染效果,实现的三维建模仿真数据可以更好地指导架空输电线路运维检修作业,尤其是架空输电线路的带电作业场景;本发明最后给出了架空输电线路典型的设备耐张线夹的渲染效果以及架空输电线路带电作业人员在实施带电作业过程必须穿着的带电作业用的屏蔽服的渲染效果;同时也发现本发明在对一些普通的家用生活用品也有显著的渲染效果,这也证明了本发明有较强的通用性。
附图说明
图1为本发明用于架空输电线路运维检修的自适应光照模型建模原理图;
图2为本发明N-遍历中值滤波算法伪代码;
图3为本发明P3DT算法伪代码;
图4为本发明中值漂移聚类算法伪代码;
图5为本发明计算的表面CAC对渲染的影响效果图;
图6为本发明基于物理的光照模型搭配自适应渲染参数,在不同光照条件下的出射照幅度实验效果图;
图7为本发明重建效果图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明的技术方案进行清楚、完整地描述。本申请所描述的实施例仅仅是本发明一部分的实施例,而不是全部实施例。基于本发明精神,本领域普通技术人员在没有作出创造性劳动前提下所获得的有所其它实施例,都属于本发明的保护范围。
如图1所示,本发明实施例1提出一种自适应光照模型建模方法,在本发明优选但非限制性的实施方式中,所述方法包括以下步骤:
根据架空输电线路运维检修三维重建对象的深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,同时创建相应的坐标系映射表;
根据坐标系映射表对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;
进一步优选地,从架空输电线路运维检修深度图中还原表面的三维结构,生成三角网格索引,传入渲染模块,具体的,通过网格模型构建模块采用基于点云的网格生成算法,从三维重建对象的深度图中还原表面的三维结构,生成三角网格索引,包括:
根据深度图计算表面采样点三维空间坐标,并以点云格式存储(即生成表面点云),同时创建坐标系映射表;
从深度图中还原表面采样点云:
本发明使用来表示采样点/>在相机坐标系空间中的位置,/>表示其在深度图中的位置。然后应用坐标转换计算/>
其中,代表深度图在/>位置的深度值,/>代表/>位置的空间坐标缩放因子,可通过深度相机接口访问。
构建点云的同时,创建坐标系映射表和/>
对于深度相机噪声导致的采样表面孔洞点,使用N-遍历中值滤波器(N-遍历中值滤波算法)进行孔洞点填充
对于深度相机噪声导致的采样点孔洞,本发明将它们在中进行标记占位,并使用图2所示的N-遍历中值滤波算法对其进行填充,该算法通过迭代次数N(一般取值3~5)控制孔洞填充程度。具体的,在每次遍历中,将坐标系映射表中标记为孔洞的坐标点,使用其所有邻近非孔洞点坐标的中值进行赋值,算法每次遍历仅对孔洞边缘的坐标进行填充,通过调整迭代次数N的大小控制孔洞填充程度,使用灵活并且时间开销较小。
在生成点云后,通过图3所示的基于投影的三维三角化算法(P3DT)进行三角网格生成。
P3DT算法使用坐标系映射表进行优化和加速,首先将点云投影到相机坐标系空间的平面,对于投影空间中的每个顶点,借助坐标系映射表/>快速检索可能与其组成三角形的顶点的空间坐标,生成三角网格索引,即每个三角形顶点在点云中的下标序列。
本发明对三角网格中的每个三角在相机坐标系空间中形执行空圆检测,若外接球体内不包含除三角形顶点外的其他点,则三角形通过空圆检测,以保证网格质量。与三维德劳内三角剖分的空圆检测不同,本发明不使用两组共边三角形顶点组成的四面体的外接球体,而是在以三角形外接圆圆心和半径作为球心和球半径的外接球内进行检测,这是由于从深度图中生成的点云在投影空间中总是呈较为均匀的网格分布,这样的简化空圆检测操作可以在保证高质量网格生成的同时,极大降低算法复杂性和时间开销。
对于那些不满足空圆属性的三角形,本发明在投影空间内对其所在的四边形网格内执行一次局部优化过程(LOP),调整四个相邻顶点的连接顺序,并删除仍然没有通过空圆检测的三角形。
对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,根据表面反照率在各彩色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率;
根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数;
进一步优选地,渲染参数生成模块根据彩色图,生成不同表面的渲染参数,以参数纹理贴图的形式传入渲染模块,其中渲染参数包括表面反照率、粗糙度和镜面反射率,具体的:
(1)使用中值漂移聚类算法从彩色图中恢复表面反照率;
本发明通过在彩色图片上执行如图4所示的中值漂移聚类算法,实现高光与阴影去除,恢复表面反照率。该算法对彩色图片上所有表面点颜色进行聚类,并使用聚类中值对每个表面点聚类颜色进行替换,通过调节阈值,可以控制不同色彩聚类之间的距离,从而控制图像去除光照程度,能够更好地去除高光与阴影对表面反照率的影响,实现表面反照率复原。
(2)使用自适应渲染参数生成算法从彩色图中计算表面粗糙度和镜面反射率。
表面光照属性参数的计算仅取决于其在彩色图像中表现出的特点,而不是其材质,本发明还在未去除光照的彩色图片上执行自适应渲染参数生成算法,计算表面粗糙度和镜面反射率。自适应渲染参数生成算法过程包括如下1)-3):
1)、首先定义色彩通道形状差异性:
上式中,和/>为彩色通道;
首先计算表面采样点落在和/>不同区间中的数量百分比,定义为区间活跃度;
为某通道的活跃区间范围,即将某通道上活跃度大于1%最大区间活跃度的连续区间范围;
为某段连续区间范围的区间数量;
为连续区间范围/>中的第/>段区间;
是在某段连续区间范围上执行的长度填充操作,通过在该连续区间范围前插入/>个隐式区间,在区间范围后插入/>个隐式区间,实现区间范围长度的增加。
2)、然后定义表面的反照率在各彩色通道差异性(CAC):
上式中,、/>、/>分别代表了彩色图在RGB色彩模型中的红色通道、绿色通道和蓝色通道;/>代表彩色图在HSV色彩模型中的色明度通道。即色明度是在HSV色彩模型下的一个彩色通道,红、绿、蓝是在RGB色彩模型下的彩色通道。实验发现,漫反射引起的色明度变化会以相似的方式分解在/>、/>、/>通道上,而镜面反射引起的变化则以不规则的方式分解。这意味着粗糙表面往往具有较小的CAC,而光滑表面通常具有较大的CAC。即反照率这一参数并不直接体现在CAC公式中,而是以分解在不同通道上的形状差异性/>体现。
3)、最后定义计算表面的粗糙度和镜面反射率的公式如下:
上式中,为表面粗糙度,/>为表面的镜面反射率;
和/>分别代表基于广泛实验观察到的粗糙表面与光滑表面之间CAC临界值和粗糙度临界值,其取值与光照环境密切相关。CAC对渲染结果的影响如图5所示。
每个顶点的表面反照率、粗糙度和镜面反射率将通过坐标系映射表格快速映射到图像坐标系中,以参数纹理贴图的格式进行存储,传入渲染模块。进一步优选地,根据坐标系映射表将表面反照率、粗糙度和镜面反射率以参数纹理贴图的格式映射到相机坐标系中,其中参数纹理贴图的每个像素点数据,代表在相机坐标系空间中对应空间点的渲染参数,即得到三角网格模型中每个顶点的渲染参数。即/>,其中,/>代表参数纹理贴图在位置/>处的值,/>即/>,代表空间点/>的渲染参数。
建立基于物理的光照模型并采用光照模型根据每个顶点的渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到架空输电线路运维检修三维重建对象的光照模型。即具体实施时,使用基于物理的光照模型描述光线在表面的反射情况,表现在实验效果上就是计算表面在不同光照下的表面颜色。
进一步优选地,渲染模块根据渲染参数生成模块的结果实时计算表面颜色,对网格模型构建模块的结果进行着色与渲染。
渲染模块根据反射方程实时计算表面颜色:
上式中,为观测方向,/>为光线入射方向,根据观测相机和虚拟光源与表面顶点的相对位置可得到;/>为在某观察方向上观测到的出射辐射率(表面颜色);/>代表光线在某方向上的入射辐射率;/>代表基于物理的光照模型,/>为顶点的法线方向;代表对空间中所有方向的入射光进行积分。
使用基于物理的光照模型:
上式中,为表面的漫反射光照模型,/>为表面的高光反射光照模型。
本发明构建的基于物理的光照模型,使用如下漫反射光照模型(其中基于物理的光照模型,描述表面对光的交互,漫反射光照模型描述的是表面的漫反射情况):
上式中,为表面反照率;/>为视半角方向,其取值为观测方向/>与光线入射方向/>夹角的一半。
使用如下高光反射光照模型结构:
上式中,代表法线分布函数(NDF),/>代表阴影-遮掩函数,/>代表菲涅尔反射函数,分别由如下公式计算:
为表面s上的镜面反射率。
具体实施时,根据每个顶点的渲染参数计算三角网格模型中每个顶点的表面颜色,当计算某一顶点表面颜色时,将该顶点对应的表面上的对应点反照率、粗糙度、镜面反射率代入公式即可,即基于物理的光照模型公式中、/>、/>分别取该顶点对应的表面上的对应点的反照率、粗糙度、对应点镜面反射率。
图6展示了渲染模块的基于物理的光照模型使用根据不同材质表面自适应生成的渲染参数,在不同光照条件下的出射照幅度实验效果图。其中表面原始灰度值为43,Z坐标表示在与表面法线成30度的方向观察到的表面灰度值,X坐标表示平行光的俯仰角,Y坐标表示平行光偏航角。从图6中可以看出,本发明的自适应光照模型适用于多种材质,并且能够真实地模拟不同表面对光线的交互行为。对于塑料、金属等光滑材料,当光线处于非高光区域时,本发明光照模型会有轻微的灰度值偏移,而随着平行光角度逐渐接近高光区域,观测灰度值会迅速达到峰值,这模拟了光滑表面对入射光的吸收和高光反射。对于亚麻和纤维等粗糙材料,本发明的模型没有明显的高亮区域,几乎不受偏航角的影响,模拟了以漫反射为主的粗糙表面的反射特性。
图7给出了本发明方法与基于贴图的着色方法在架空输电线路典型的设备耐张线夹、架空输电线路带电作业人员在实施带电作业过程必须穿着的带电作业用的屏蔽服、普通用品的重建与重照明效果对比。可以看到本发明的方法能体现出不同光照下渲染结果外,对于不同材质表面的渲染效果有着极高的区分度和真实性,在常见材料上获得了出色的外观重建效果和重光照性能。诸如塑料等光滑材料渲染结果会有较为明显的高光,布料等材质渲染结果则几乎不具有高光,同时也发现本发明在对一些普通的用品也有显著的渲染效果,这也证明了本发明有较强的通用性。
本发明实施例2提供一种自适应光照模型建模系统,包括:
网格模型构建模块,用于根据架空输电线路运维检修三维重建对象的深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,同时创建相应的坐标系映射表,根据坐标系映射表对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;
渲染参数生成模块,用于对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,根据表面反照率在各彩色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率,根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数;
渲染模块,用于建立基于物理的光照模型并采用光照模型根据每个顶点的渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到架空输电线路运维检修三维重建对象的光照模型。
进一步优选地,所述渲染模块根据每个顶点的渲染参数计算三角网格模型中每个顶点的表面颜色,表面颜色计算公式为:
式中,为观测方向,/>为光线入射方向;
为观测方向上观测到的表面颜色;
为表面采样点/>光线入射方向上的入射辐射率;
为顶点的法线方向;
代表对空间中所有方向的入射光进行积分;
为基于物理的光照模型;
式中,为基于表面反照率和粗糙度得到的表面的漫反射光照模型,/>为基于镜面反射率得到的表面的高光反射光照模型。
表面的漫反射光照模型为:
式中,为表面上的反照率;
为表面/>上的粗糙度;
为视半角方向,其取值为观测方向/>与光线入射方向/>夹角的一半。
表面的高光反射光照模型为:
式中,为法线分布函数,/>为阴影-遮掩函数,/>为菲涅尔反射函数,分别由如下公式计算:
为表面s上的镜面反射率。
一种终端,包括处理器及存储介质;所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行所述方法的步骤。
计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现所述方法的步骤。
本发明的有益效果在于,与现有技术相比:
本发明基于投影进行三维三角化,生成三角网格索引序列,实现从单视角深度图中恢复高质量的表面网格模型;
本发明可实现自适应渲染参数生成,根据表面反照率在各彩色通道差异性计算不同材质表面的渲染参数表面反照率、粗糙度;
本发明构建基于物理的光照模型,根据不同材质表面的渲染参数实时计算表面颜色,实现表面网格模型着色与渲染;
本发明通过在三维重建中构建光照模型实现表面着色,使重建结果可进行重新照明,极大提高了三维重建的可复用性,并且通过自适应渲染参数生成为不同材质表面生成独立的渲染参数,使不同材质在重光照渲染中具有差异化表现,显著提高三维重建的外观真实性和艺术性,为三维重建领域外观重建提供了新思路。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其它自由传播的电磁波、通过波导或其它传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
最后应当说明的是,以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照上述实施例对本发明进行了详细的说明,所属领域的普通技术人员应当理解:依然可以对本发明的具体实施方式进行修改或者等同替换,而未脱离本发明精神和范围的任何修改或者等同替换,其均应涵盖在本发明的权利要求保护范围之内。

Claims (12)

1.一种自适应光照模型建模方法,其特征在于:
所述方法包括以下步骤:
根据架空输电线路运维检修三维重建对象的深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,同时创建相应的坐标系映射表;具体的:
表面采样点在相机坐标系空间中的位置/>计算公式为:
其中, 为深度图中/>位置的深度值;
位置的空间坐标缩放因子;
创建坐标系映射表和/>
根据坐标系映射表对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;
对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,根据表面反照率在各颜色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率;
所述根据表面反照率在各颜色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率的具体计算公式如下:
上式中,为表面/>粗糙度,/>为表面/>的镜面反射率;
和/>分别为粗糙表面与光滑表面之间/>临界值和粗糙度临界值;
为表面/>的反照率在各颜色通道的差异性;
表面的反照率在各颜色通道的差异性/>计算公式为:
上式中,、/>、/>分别为彩色图在RGB色彩模型中的红色通道、绿色通道和蓝色通道;
为彩色图在HSV色彩模型中的色明度通道;
、/>、/>分别表示/>与/>颜色通道的形状差异性、/>与/>颜色通道的形状差异性、/>与/>颜色通道的形状差异性;
颜色通道的形状差异性计算公式为:
式中,和/>为色彩模型中的通道;
定义区间活跃度为表面采样点落在和/>不同区间中的数量百分比,/>为颜色通道的活跃区间范围,即将颜色通道上活跃度大于1%最大区间活跃度的连续区间范围;
为连续区间范围的区间数量;
为连续区间范围/>中的第/>段区间,其中,/>为/>或/>
是在连续区间范围/>上执行的长度填充操作,具体通过在该连续区间范围前插入/>个隐式区间,在区间范围后插入/>个隐式区间,实现区间范围长度的增加,其中,当/>时,/>为/>
根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数;
建立基于物理的光照模型并采用光照模型根据每个顶点的渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到架空输电线路运维检修三维重建对象的光照模型。
2.根据权利要求1所述的一种自适应光照模型建模方法,其特征在于:
所述根据坐标系映射表对点云进行孔洞填充的方式为:
在坐标系映射表中对深度相机噪声导致的采样点孔洞进行标记占位,并采用N-遍历中值滤波算法对其进行填充,在每次遍历中,对坐标系映射表中标记为孔洞的坐标点,使用其所有邻近非孔洞点坐标的中值进行赋值填充。
3.根据权利要求1所述的一种自适应光照模型建模方法,其特征在于:
所述基于投影和空圆检测对点云进行三角网格化,得到三角网格模型的过程为:
将点云投影到相机坐标系的平面,对于投影空间中的每个顶点,借助坐标系映射表检索可能与其组成三角形的顶点的空间坐标,生成三角网格索引,即每个三角形顶点在点云中的下标序列;
基于三角网格索引,对三角网格中的每个三角在相机坐标系空间中进行空圆检测;
对未通过空圆检测的三角形在投影空间内对其所在的四边形网格进行局部优化,调整四边形网格四个相邻顶点的连接顺序;
删除局部优化后仍未通过空圆检测的三角形后得到三角网格模型。
4.根据权利要求3所述的一种自适应光照模型建模方法,其特征在于:
所述空圆检测的方式为:
使用外接球进行空圆检测,其中外接球的球心和半径分别为三角形内接圆的圆心和半径,若外接球体内不包含除三角形顶点外的其他点,则三角形通过空圆检测。
5.根据权利要求1所述的一种自适应光照模型建模方法,其特征在于:
所述对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,具体为:
通过在彩色图上执行中值漂移聚类算法,对彩色图上所有表面点颜色进行聚类,并使用聚类中值对每个表面点聚类颜色进行替换,去除高光与阴影对表面反照率的影响,实现表面反照率复原,替换后的表面点聚类颜色即为表面反照率。
6.根据权利要求1所述的一种自适应光照模型建模方法,其特征在于:
所述根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数,具体为:
根据坐标系映射表将表面反照率、粗糙度和镜面反射率以参数纹理贴图的格式映射到相机坐标系中,其中参数纹理贴图的每个像素点数据,代表在相机坐标系空间中对应空间点的渲染参数,即得到三角网格模型中每个顶点的渲染参数。
7.根据权利要求1所述的一种自适应光照模型建模方法,其特征在于:
所述采用光照模型根据每个顶点的渲染参数计算表面颜色,具体为:
根据每个顶点的渲染参数计算三角网格模型中每个顶点的表面颜色,表面颜色计算公式为:
式中,为观测方向,/>为光线入射方向;
为观测方向上观测到的表面颜色;
为表面采样点/>光线入射方向上的入射辐射率;
为顶点的法线方向;
代表对空间中所有方向的入射光进行积分;
为基于物理的光照模型;
式中,为基于表面反照率和粗糙度得到的表面的漫反射光照模型,/>为基于镜面反射率得到的表面的高光反射光照模型。
8.根据权利要求7所述的一种自适应光照模型建模方法,其特征在于:
表面的漫反射光照模型为:
式中, 为表面上的反照率;
为表面/>上的粗糙度;
为视半角方向,其取值为观测方向/>与光线入射方向/>夹角的一半。
9.根据权利要求7所述的一种自适应光照模型建模方法,其特征在于:
表面的高光反射光照模型为:
式中,为法线分布函数,/>为阴影-遮掩函数,/>为菲涅尔反射函数,分别由如下公式计算:
为表面s上的镜面反射率。
10.一种自适应光照模型建模系统,利用权利要求1-9任意一项所述的自适应光照模型建模方法实现,其特征在于:所述系统包括:
网格模型构建模块,用于根据架空输电线路运维检修三维重建对象的深度图计算图中表面采样点在相机坐标系空间中的位置,构成三维表面采样点云,同时创建相应的坐标系映射表,根据坐标系映射表对点云进行孔洞填充后,基于投影和空圆检测对点云进行三角网格化,得到三角网格模型;
渲染参数生成模块,用于对架空输电线路运维检修三维重建对象的彩色图进行表面反照率复原,根据表面反照率在各颜色通道的差异性自适应计算图中不同材质表面的粗糙度和镜面反射率,根据坐标系映射表将表面反照率、粗糙度和镜面反射率映射到坐标系中,得到三角网格模型中每个顶点的渲染参数;
渲染模块,用于建立基于物理的光照模型并采用光照模型根据每个顶点的渲染参数计算表面颜色,根据计算的表面颜色对三角网格模型进行着色与渲染,得到架空输电线路运维检修三维重建对象的光照模型。
11.一种终端,包括处理器及存储介质;其特征在于:
所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行根据权利要求1-9任一项所述方法的步骤。
12.计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-9任一项所述方法的步骤。
CN202310869532.8A 2023-07-17 2023-07-17 一种自适应光照模型建模方法与系统 Active CN116596985B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310869532.8A CN116596985B (zh) 2023-07-17 2023-07-17 一种自适应光照模型建模方法与系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310869532.8A CN116596985B (zh) 2023-07-17 2023-07-17 一种自适应光照模型建模方法与系统

Publications (2)

Publication Number Publication Date
CN116596985A CN116596985A (zh) 2023-08-15
CN116596985B true CN116596985B (zh) 2023-10-20

Family

ID=87608561

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310869532.8A Active CN116596985B (zh) 2023-07-17 2023-07-17 一种自适应光照模型建模方法与系统

Country Status (1)

Country Link
CN (1) CN116596985B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117351130A (zh) * 2023-10-26 2024-01-05 广东工业大学 一种面向智能车间三维场景的真实感实时渲染方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3358528A1 (en) * 2017-02-07 2018-08-08 Siemens Healthcare GmbH Point cloud proxy for physically-based volume rendering
CN113345063A (zh) * 2021-08-05 2021-09-03 南京万生华态科技有限公司 基于深度学习的pbr三维重建方法、系统与计算机存储介质
CN115546371A (zh) * 2022-10-14 2022-12-30 中国科学院苏州纳米技术与纳米仿生研究所 点云优化方法、系统、电子设备及存储介质
CN116363290A (zh) * 2021-12-28 2023-06-30 复旦大学 一种用于大规模场景三维重建的纹理贴图生成方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102287472B1 (ko) * 2018-10-08 2021-08-09 한국과학기술원 인공조명 사진을 이용한 3차원 객체 획득 방법 및 그 장치
US20220335636A1 (en) * 2021-04-15 2022-10-20 Adobe Inc. Scene reconstruction using geometry and reflectance volume representation of scene
US11669986B2 (en) * 2021-04-16 2023-06-06 Adobe Inc. Generating enhanced three-dimensional object reconstruction models from sparse set of object images
US20230124117A1 (en) * 2021-10-20 2023-04-20 Disney Enterprises, Inc. Appearance capture under multiple lighting conditions

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3358528A1 (en) * 2017-02-07 2018-08-08 Siemens Healthcare GmbH Point cloud proxy for physically-based volume rendering
CN113345063A (zh) * 2021-08-05 2021-09-03 南京万生华态科技有限公司 基于深度学习的pbr三维重建方法、系统与计算机存储介质
CN116363290A (zh) * 2021-12-28 2023-06-30 复旦大学 一种用于大规模场景三维重建的纹理贴图生成方法
CN115546371A (zh) * 2022-10-14 2022-12-30 中国科学院苏州纳米技术与纳米仿生研究所 点云优化方法、系统、电子设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"基于机器学习的三维场景高度真实感绘制方法综述";赵烨梓;《软件学报》;第1-21页 *
"Multi-view Inverse Rendering for Large-scale Real-world Indoor Scenes";Zhen Li;《arXiv》;第1-21页 *

Also Published As

Publication number Publication date
CN116596985A (zh) 2023-08-15

Similar Documents

Publication Publication Date Title
US11257286B2 (en) Method for rendering of simulating illumination and terminal
US11069135B2 (en) On-set facial performance capture and transfer to a three-dimensional computer-generated model
CN115100339B (zh) 图像生成方法、装置、电子设备和存储介质
CN102096941B (zh) 虚实融合环境下的光照一致性方法
WO2017206325A1 (zh) 全局光照的计算方法及装置
CN114820906B (zh) 图像渲染方法、装置、电子设备及存储介质
US9202309B2 (en) Methods and apparatus for digital stereo drawing
WO2021009631A1 (en) Shape-refinement of triangular three-dimensional mesh using a modified shape from shading (sfs) scheme
US9508191B2 (en) Optimal point density using camera proximity for point-based global illumination
CN116596985B (zh) 一种自适应光照模型建模方法与系统
US10964083B1 (en) Facial animation models
CN115082639A (zh) 图像生成方法、装置、电子设备和存储介质
CN107092354B (zh) Sketchup模型虚拟现实转化技术的方法
CN113345063B (zh) 基于深度学习的pbr三维重建方法、系统与计算机存储介质
CN109448137A (zh) 交互方法、交互装置、电子设备及存储介质
CN103700134A (zh) 基于可控制纹理烘焙的三维矢量模型实时光影延迟着色渲染方法
CN111382618B (zh) 一种人脸图像的光照检测方法、装置、设备和存储介质
CN104157000B (zh) 模型表面法线的计算方法
CN109461197B (zh) 一种基于球面uv和重投影的云实时绘制优化方法
CN115100337A (zh) 一种基于卷积神经网络的全身人像视频重照明方法和装置
CN115861570A (zh) 基于光度一致性匹配和优化算法的多视角人体重建方法
CN109064533A (zh) 一种3d漫游方法及系统
CN109544671B (zh) 一种基于屏幕空间的视频在三维场景中投影映射方法
CN113658316B (zh) 三维模型的渲染方法和装置、存储介质及计算机设备
US20140306953A1 (en) 3D Rendering for Training Computer Vision Recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant