CN112419492B - 视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法 - Google Patents
视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法 Download PDFInfo
- Publication number
- CN112419492B CN112419492B CN202011463681.7A CN202011463681A CN112419492B CN 112419492 B CN112419492 B CN 112419492B CN 202011463681 A CN202011463681 A CN 202011463681A CN 112419492 B CN112419492 B CN 112419492B
- Authority
- CN
- China
- Prior art keywords
- iteration
- pixel
- path
- dimensional scene
- row
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Image Generation (AREA)
Abstract
本发明公开一种视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法。本方法使用迭代式蒙卡路径跟踪技术来渲染生成三维场景画面,并根据前两个相邻迭代步生成的三维场景画面图像差异的人眼可察觉概率,来自适应地控制当前迭代步的各个像素的路径采样数增量。本方法可以在确保三维场景画面视觉质量条件下,尽量减少路径跟踪计算开销。另外,本方法通过对差异可见性图执行最大池化操作,能尽量减小随机路径采样给像素蒙卡路径跟踪操作终止条件判断带来的影响。
Description
技术领域
本发明涉及一种视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法,属于三维图形绘制技术领域。
背景技术
蒙特卡罗(简称蒙卡)路径跟踪技术在三维影视场景画面渲染中得到广泛应用。蒙卡路径跟踪可以用比较通用的方式渲染出三维场景的各种全局光照效果。PearsonEducation公司2014年出版的《Computer Graphics:Principles and Practice,3rdEdition》的31.18.3节介绍了构建蒙卡路径跟踪程序的基本思想;在31.18.3节第一个方框的路径跟踪算法中,从视点E到虚拟相机的图像平面上的像素(x,y)的光线ray对应了一条路径采样的第一个直线传输段;一条路径采样包含若干个直线传输段,视点E是路径的起点;三维场景的光照沿路径采样对应的光线路径的反方向入射到虚拟相机的图像平面的像素上。对于虚拟相机的图像平面上的每个像素,从视点位置发射N条穿过其在图像平面上的覆盖区域的光线,并用路径跟踪技术计算沿光线逆向传到视点的光亮度(Radiance),对N条光线对应的光亮度求平均以得到入射到像素上的光亮度。这里的N就是像素的路径采样数。蒙卡路径跟踪的一个缺点是,当像素的路径采样数不足够大时,画面会呈现出明显的噪声。通常情况下,为了得到视觉上比较满意的三维场景画面,要求N取较大的值。然而,虚拟相机的图像平面上的不同像素对应的光照传播路径复杂程度并不相同,导致得到视觉上满意的光亮度计算结果所需的路径采样数会有所不同,即没有必要所有像素使用相同的路径采样数。这就需要对像素的路径采样数进行自适应控制。
三维影视场景画面通常是给人眼观看。因此,在评价三维影视场景蒙卡路径跟踪画面的视觉质量时,需要把人眼视觉感知特性因素考虑进去。在渲染三维影视场景画面时,如果把每个像素的路径采样数设置得很大,就可以生成质量非常高的画面,这种画面通常称为参考图像,可用作评价渲染算法生成画面质量的比较基准。当然,生成高质量参考图像的计算时间开销会很大。如果减小像素的路径采样数后生成的画面图像与参考图像之间的差异在视觉上无法察觉,则可以使用更小的路径采样数生成与参考图像具有相同视觉质量的画面,以便节省计算时间开销。发表在《ACM Transactions on Graphics》2018年37卷5期的论文“Dataset and Metrics for Predicting Local Visible Differences”给出了预测一幅畸变图像与参考图像之间局部视觉差异的方法。该方法使用卷积神经网络来预测畸变图像相对于参考图像的差异可见性图(Visibility Map),本发明称之为基于卷积神经网络的差异可见性图预测方法。差异可见性图的每个像素值表示畸变图像的对应像素相对于参考图像对应像素的差异能被人眼察觉的概率,取值为0到1之间的数。
在用蒙卡路径跟踪来生成三维影视场景画面时,可以利用人眼视觉感知特性来合理地控制每个像素的路径采样数。具体实现方法可以设计为:使用迭代式蒙卡路径跟踪来生成三维影视场景画面,在每个迭代步上逐渐为每个像素新增加路径采样数,以便渐进地提高每个像素的颜色计算质量;对于每个迭代步生成的画面,计算画面与高质量参考图像之间的差异可见性图,并根据差异可见性图来决定在下一轮迭代步上为每个像素增加多少路径采样数,即每个像素新增的路径采样数取决于差异可见性图对应像素的值;差异可见性图对应像素的值越大,则需为该像素新增更多的路径采样数。上述方法遇到的关键难题是,在迭代式蒙卡路径跟踪执行完前,不可能事先获得高质量参考图像。如果已经有高质量参考图像,就没有用迭代式蒙卡路径跟踪来生成三维影视场景画面的必要了。为了解决这个难题,本发明公开一种视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法,在迭代式蒙卡路径跟踪的每个迭代步上,计算前两个迭代步生成画面图像的差异可见性图,如果某个像素的差异可见性值小于给定阈值,则认为继续为该像素增加路径采样数对提高其颜色计算质量已没有帮助,因此可以终止该像素的蒙卡路径跟踪操作(即不再为该像素增加新的路径采样)。另外,为了提高本发明方法的鲁棒性,本发明在计算出前后两次迭代生成画面图像的差异可见性图后,先为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作,最后再根据执行最大池化操作后的差异可见性图来自适应地控制像素需新增的路径采样数。执行最大池化操作的目的是,通过用像素周围3×3范围内相邻像素的最大差异可见性值作为像素自身的差异可见性值,尽量减小随机路径采样给像素蒙卡路径跟踪操作终止条件判断带来的影响。最大池化操作在电子工业出版社2018年出版的《深度学习核心技术与实践》的4.4节有详细介绍。如图1所示,图中粗实线框内的方格表示差异可见性图的像素,图中的虚线框内的0是执行最大池化操作前为差异可见性图填充的1层零值边缘像素;填充1层零值边缘像素的目的是对差异可见性图执行尺寸为3×3、步长为1的最大池化操作后,使差异可见性图的像素行数和像素列数不发生变化。
发明内容
本发明的目的在于,提供一种视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法,本方法能根据前面相邻两个迭代步生成的三维场景画面图像差异的人眼可察觉概率来自适应地控制迭代式蒙卡路径跟踪在当前迭代步的各个像素的路径采样数增量,从而既能尽量减少路径跟踪计算开销,又能确保生成的三维场景画面的视觉质量。
本方法的技术方案是这样实现的:视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法,其特征在于,首先把三维场景模型加载到计算机存储器中,然后使用蒙卡路径跟踪技术以迭代方式计算从三维场景入射到虚拟相机的图像平面的各个像素上的光亮度值,最后把从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,从而生成三维场景画面图像;在迭代地计算从三维场景入射到虚拟相机的图像平面的各个像素上的光亮度值的过程中,为了确定在第i次迭代中应该为虚拟相机的图像平面的各个像素新增多少个路径采样,把第i-2次迭代完成后得到的从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,以得到第i-2次迭代对应的三维场景画面图像,把第i-1次迭代完成后得到的从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,以得到第i-1次迭代对应的三维场景画面图像,其中i=3,4,5,…,Niter;Niter表示总迭代次数;把第i-1次迭代对应的三维场景画面图像当作参考图像,把第i-2次迭代对应的三维场景画面图像当作畸变图像,使用基于卷积神经网络的差异可见性图预测方法计算畸变图像相对于参考图像的差异可见性图;为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作;根据执行最大池化操作后的差异可见性图来自适应地控制在第i次迭代中为虚拟相机的图像平面的各个像素新增的路径采样数。本方法的具体实现步骤如下:
步骤Step101:把三维场景模型加载到计算机存储器中;
步骤Step102:在第1次迭代中,对于I=1,2,…,Nrow,J=1,2,…,Ncol,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素产生n1条路径采样,并计算沿这n1条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;n1为一个正数,Nrow表示虚拟相机的图像平面的像素行数,Ncol表示虚拟相机的图像平面的像素列数;
步骤Step103:在第2次迭代中,对于I=1,2,…,Nrow,J=1,2,…,Ncol,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素新产生n2条路径采样,并计算沿这n2条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;n2为一个正数;
步骤Step104:在计算机存储器中创建一个包含Nrow行、Ncol列的二维数组IM1,在计算机存储器中创建一个包含Nrow行、Ncol列的二维数组IM2;把二维数组IM1的每个元素都赋值为纯黑色对应的光亮度值,把二维数组IM2的每个元素都赋值为纯黑色对应的光亮度值;
步骤Step105:令变量i=3;
步骤Step106:在第i次迭代中,执行如下子步骤:
子步骤Step106-1:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令Npp1为在从第1次迭代到第i-2次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LP1为在从第1次迭代到第i-2次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以Npp1得到的结果,把二维数组IM1的第I行、第J列元素赋值为LP1;
子步骤Step106-2:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令Npp2为在从第1次迭代到第i-1次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LP2为在从第1次迭代到第i-1次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以Npp2得到的结果,把二维数组IM2的第I行、第J列元素赋值为LP2;
子步骤Step106-3:二维数组IM1存储了第i-2次迭代完成后得到的入射到虚拟相机的图像平面的各个像素的光亮度值;二维数组IM2存储了第i-1次迭代完成后得到的入射到虚拟相机的图像平面的各个像素的光亮度值;把二维数组IM1存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第i-2次迭代对应的三维场景画面图像;把二维数组IM2存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第i-1次迭代对应的三维场景画面图像;
子步骤Step106-4:把第i-1次迭代对应的三维场景画面图像当作参考图像,把第i-2次迭代对应的三维场景画面图像当作畸变图像,使用基于卷积神经网络的差异可见性图预测方法计算畸变图像相对于参考图像的差异可见性图;为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作;
子步骤Step106-5:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令pvd为执行最大池化操作后的差异可见性图的第I行、第J列的像素值,如果pvd≥p1,则令新增路径采样数ni为M1,如果p2≤pvd<p1,则令新增路径采样数ni为M2,如果p3≤pvd<p2,则令新增路径采样数ni为M3,如果p4≤pvd<p3,则令新增路径采样数ni为M4,如果pvd<p4,则令新增路径采样数ni为0;p1、p2、p3和p4表示概率,M1、M2、M3、M4为正数,p1>p2>p3>p4>0,M1>M2>M3>M4>0,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素新产生ni条路径采样,并计算沿这ni条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;
步骤Step107:令变量i=i+1;如果i≤Niter,则转步骤Step106,否则转步骤Step108;
步骤Step108:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令NppN为在从第1次迭代到第Niter次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LPN为在从第1次迭代到第Niter次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以NppN得到的结果,把二维数组IM2的第I行、第J列元素赋值为LPN;
步骤Step109:把二维数组IM2存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第Niter次迭代对应的三维场景画面图像;第Niter次迭代对应的三维场景画面图像就是最终渲染生成的三维场景画面图像;把第Niter次迭代对应的三维场景画面图像以图像文件的形式保存在计算机磁盘中。
本发明的积极效果是:本方法使用迭代式蒙卡路径跟踪技术来渲染生成三维场景画面;本方法根据前两个相邻迭代步生成的三维场景画面图像差异的人眼可察觉概率来自适应地控制当前迭代步的各个像素的路径采样数增量。本方法可以在确保三维场景画面视觉质量条件下,尽量减少路径跟踪计算开销。另外,本方法通过对差异可见性图执行最大池化操作,能尽量减小随机路径采样给像素蒙卡路径跟踪操作终止条件判断带来的影响。
附图说明
图1为填充1层零值边缘像素的差异可见性图示例。
具体实施方式
为了使本方法的特征和优点更加清楚明白,下面结合具体实施例对本方法作进一步的描述。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。本实施例考虑如下虚拟房间三维场景:在房间中放着10张桌子和10把椅子,桌子上放着水果、书、围棋等众多物品,房间的天花板上有一个光源向下照射三维场景。计算机系统的CPU选择Intel(R)Xeon(R)Bronze 3104CPU@1.70GHz,内存选择32G MICRON内存,硬盘选择ST4000DM005-2DP166;计算机操作系统选用Windows 10,软件编程工具选用Visual Studio2016。
本方法的技术方案是这样实现的:视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法,其特征在于,首先把三维场景模型加载到计算机存储器中,然后使用蒙卡路径跟踪技术以迭代方式计算从三维场景入射到虚拟相机的图像平面的各个像素上的光亮度值,最后把从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,从而生成三维场景画面图像;在迭代地计算从三维场景入射到虚拟相机的图像平面的各个像素上的光亮度值的过程中,为了确定在第i次迭代中应该为虚拟相机的图像平面的各个像素新增多少个路径采样,把第i-2次迭代完成后得到的从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,以得到第i-2次迭代对应的三维场景画面图像,把第i-1次迭代完成后得到的从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,以得到第i-1次迭代对应的三维场景画面图像,其中i=3,4,5,…,Niter;Niter表示总迭代次数;把第i-1次迭代对应的三维场景画面图像当作参考图像,把第i-2次迭代对应的三维场景画面图像当作畸变图像,使用基于卷积神经网络的差异可见性图预测方法计算畸变图像相对于参考图像的差异可见性图;为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作;根据执行最大池化操作后的差异可见性图来自适应地控制在第i次迭代中为虚拟相机的图像平面的各个像素新增的路径采样数。本方法的具体实现步骤如下:
步骤Step101:把三维场景模型加载到计算机存储器中;
步骤Step102:在第1次迭代中,对于I=1,2,…,Nrow,J=1,2,…,Ncol,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素产生n1条路径采样,并计算沿这n1条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;n1为一个正数,Nrow表示虚拟相机的图像平面的像素行数,Ncol表示虚拟相机的图像平面的像素列数;
步骤Step103:在第2次迭代中,对于I=1,2,…,Nrow,J=1,2,…,Ncol,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素新产生n2条路径采样,并计算沿这n2条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;n2为一个正数;
步骤Step104:在计算机存储器中创建一个包含Nrow行、Ncol列的二维数组IM1,在计算机存储器中创建一个包含Nrow行、Ncol列的二维数组IM2;把二维数组IM1的每个元素都赋值为纯黑色对应的光亮度值,把二维数组IM2的每个元素都赋值为纯黑色对应的光亮度值;
步骤Step105:令变量i=3;
步骤Step106:在第i次迭代中,执行如下子步骤:
子步骤Step106-1:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令Npp1为在从第1次迭代到第i-2次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LP1为在从第1次迭代到第i-2次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以Npp1得到的结果,把二维数组IM1的第I行、第J列元素赋值为LP1;
子步骤Step106-2:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令Npp2为在从第1次迭代到第i-1次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LP2为在从第1次迭代到第i-1次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以Npp2得到的结果,把二维数组IM2的第I行、第J列元素赋值为LP2;
子步骤Step106-3:二维数组IM1存储了第i-2次迭代完成后得到的入射到虚拟相机的图像平面的各个像素的光亮度值;二维数组IM2存储了第i-1次迭代完成后得到的入射到虚拟相机的图像平面的各个像素的光亮度值;把二维数组IM1存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第i-2次迭代对应的三维场景画面图像;把二维数组IM2存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第i-1次迭代对应的三维场景画面图像;
子步骤Step106-4:把第i-1次迭代对应的三维场景画面图像当作参考图像,把第i-2次迭代对应的三维场景画面图像当作畸变图像,使用基于卷积神经网络的差异可见性图预测方法计算畸变图像相对于参考图像的差异可见性图;为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作;
子步骤Step106-5:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令pvd为执行最大池化操作后的差异可见性图的第I行、第J列的像素值,如果pvd≥p1,则令新增路径采样数ni为M1,如果p2≤pvd<p1,则令新增路径采样数ni为M2,如果p3≤pvd<p2,则令新增路径采样数ni为M3,如果p4≤pvd<p3,则令新增路径采样数ni为M4,如果pvd<p4,则令新增路径采样数ni为0;p1、p2、p3和p4表示概率,M1、M2、M3、M4为正数,p1>p2>p3>p4>0,M1>M2>M3>M4>0,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素新产生ni条路径采样,并计算沿这ni条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;
步骤Step107:令变量i=i+1;如果i≤Niter,则转步骤Step106,否则转步骤Step108;
步骤Step108:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令NppN为在从第1次迭代到第Niter次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LPN为在从第1次迭代到第Niter次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以NppN得到的结果,把二维数组IM2的第I行、第J列元素赋值为LPN;
步骤Step109:把二维数组IM2存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第Niter次迭代对应的三维场景画面图像;第Niter次迭代对应的三维场景画面图像就是最终渲染生成的三维场景画面图像;把第Niter次迭代对应的三维场景画面图像以图像文件的形式保存在计算机磁盘中。
在本实施例中,Niter=50,n1=8,n2=8,p1=0.7,p2=0.6,p3=0.5,p4=0.2,M1=8,M2=6,M3=4,M4=1,Nrow=1024,Ncol=768。
本领域技术人员应该清楚,二维数组是程序设计中的术语,在C++、Java、C#等编程语言中都能够定义二维数组。本发明中的描述“从三维场景入射到第I行、第J列像素的光亮度值”中的“第I行、第J列像素”是指“虚拟相机的图像平面的第I行、第J列像素”。
Claims (1)
1.一种视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法,其特征在于,首先把三维场景模型加载到计算机存储器中,然后使用蒙卡路径跟踪技术以迭代方式计算从三维场景入射到虚拟相机的图像平面的各个像素上的光亮度值,最后把从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,从而生成三维场景画面图像;在迭代地计算从三维场景入射到虚拟相机的图像平面的各个像素上的光亮度值的过程中,为了确定在第i次迭代中应该为虚拟相机的图像平面的各个像素新增多少个路径采样,把第i-2次迭代完成后得到的从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,以得到第i-2次迭代对应的三维场景画面图像,把第i-1次迭代完成后得到的从三维场景入射到虚拟相机的图像平面的像素上的光亮度值转换成三维场景画面像素的颜色值,以得到第i-1次迭代对应的三维场景画面图像,其中i=3,4,5,…,Niter;Niter表示总迭代次数;把第i-1次迭代对应的三维场景画面图像当作参考图像,把第i-2次迭代对应的三维场景画面图像当作畸变图像,使用基于卷积神经网络的差异可见性图预测方法计算畸变图像相对于参考图像的差异可见性图;为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作;根据执行最大池化操作后的差异可见性图来自适应地控制在第i次迭代中为虚拟相机的图像平面的各个像素新增的路径采样数;本方法的具体实现步骤如下:
步骤Step101:把三维场景模型加载到计算机存储器中;
步骤Step102:在第1次迭代中,对于I=1,2,…,Nrow,J=1,2,…,Ncol,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素产生n1条路径采样,并计算沿这n1条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;n1为一个正数,Nrow表示虚拟相机的图像平面的像素行数,Ncol表示虚拟相机的图像平面的像素列数;
步骤Step103:在第2次迭代中,对于I=1,2,…,Nrow,J=1,2,…,Ncol,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素新产生n2条路径采样,并计算沿这n2条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;n2为一个正数;
步骤Step104:在计算机存储器中创建一个包含Nrow行、Ncol列的二维数组IM1,在计算机存储器中创建一个包含Nrow行、Ncol列的二维数组IM2;把二维数组IM1的每个元素都赋值为纯黑色对应的光亮度值,把二维数组IM2的每个元素都赋值为纯黑色对应的光亮度值;
步骤Step105:令变量i=3;
步骤Step106:在第i次迭代中,执行如下子步骤:
子步骤Step106-1:对于I=1,2,…,Nrow,J=1,2,,Ncol,令Npp1为在从第1次迭代到第i-2次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LP1为在从第1次迭代到第i-2次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以Npp1得到的结果,把二维数组IM1的第I行、第J列元素赋值为LP1;
子步骤Step106-2:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令Npp2为在从第1次迭代到第i-1次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LP2为在从第1次迭代到第i-1次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以Npp2得到的结果,把二维数组IM2的第I行、第J列元素赋值为LP2;
子步骤Step106-3:二维数组IM1存储了第i-2次迭代完成后得到的入射到虚拟相机的图像平面的各个像素的光亮度值;二维数组IM2存储了第i-1次迭代完成后得到的入射到虚拟相机的图像平面的各个像素的光亮度值;把二维数组IM1存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第i-2次迭代对应的三维场景画面图像;把二维数组IM2存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第i-1次迭代对应的三维场景画面图像;
子步骤Step106-4:把第i-1次迭代对应的三维场景画面图像当作参考图像,把第i-2次迭代对应的三维场景画面图像当作畸变图像,使用基于卷积神经网络的差异可见性图预测方法计算畸变图像相对于参考图像的差异可见性图;为差异可见性图填充1层零值边缘像素,然后对差异可见性图执行尺寸为3×3、步长为1的最大池化操作;
子步骤Step106-5:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令pvd为执行最大池化操作后的差异可见性图的第I行、第J列的像素值,如果pvd≥p1,则令新增路径采样数ni为M1,如果p2≤pvd<p1,则令新增路径采样数ni为M2,如果p3≤pvd<p2,则令新增路径采样数ni为M3,如果p4≤pvd<p3,则令新增路径采样数ni为M4,如果pvd<p4,则令新增路径采样数ni为0;p1、p2、p3和p4表示概率,M1、M2、M3、M4为正数,p1>p2>p3>p4>0,M1>M2>M3>M4>0,使用蒙卡路径跟踪技术为虚拟相机的图像平面的第I行、第J列像素新产生ni条路径采样,并计算沿这ni条路径采样对应的光线路径的反方向从三维场景入射到第I行、第J列像素的光亮度值,每条路径采样对应一个光亮度值;
步骤Step107:令变量i=i+1;如果i≤Niter,则转步骤Step106,否则转步骤Step108;
步骤Step108:对于I=1,2,…,Nrow,J=1,2,…,Ncol,令NppN为在从第1次迭代到第Niter次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样总数,令LPN为在从第1次迭代到第Niter次迭代的过程中为虚拟相机的图像平面的第I行、第J列像素产生的所有路径采样对应的光亮度值之总和除以NppN得到的结果,把二维数组IM2的第I行、第J列元素赋值为LPN;
步骤Step109:把二维数组IM2存储的入射到虚拟相机的图像平面的各个像素的光亮度值转换成三维场景画面各个像素的颜色值,得到第Niter次迭代对应的三维场景画面图像;第Niter次迭代对应的三维场景画面图像就是最终渲染生成的三维场景画面图像;把第Niter次迭代对应的三维场景画面图像以图像文件的形式保存在计算机磁盘中。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011463681.7A CN112419492B (zh) | 2020-12-14 | 2020-12-14 | 视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011463681.7A CN112419492B (zh) | 2020-12-14 | 2020-12-14 | 视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112419492A CN112419492A (zh) | 2021-02-26 |
CN112419492B true CN112419492B (zh) | 2022-08-23 |
Family
ID=74776575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011463681.7A Active CN112419492B (zh) | 2020-12-14 | 2020-12-14 | 视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112419492B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115908684A (zh) * | 2022-11-30 | 2023-04-04 | 长春理工大学 | 视觉感知驱动的自适应三维场景渲染方法、系统及设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101751697A (zh) * | 2010-01-21 | 2010-06-23 | 西北工业大学 | 一种基于统计模型的三维场景重建方法 |
CN102314703A (zh) * | 2011-06-14 | 2012-01-11 | 天津大学 | 一种蒙特卡罗全局光照的自适应抽样方法 |
CN106898038A (zh) * | 2017-01-22 | 2017-06-27 | 浙江大学 | 一种使用光线频率曲线合并hm滤波器的迭代式自适应渲染方法 |
CN109448098A (zh) * | 2018-09-29 | 2019-03-08 | 北京航空航天大学 | 一种基于建筑物单张夜景图像重建虚拟场景光源的方法 |
CN110163948A (zh) * | 2019-04-15 | 2019-08-23 | 中国民航大学 | 一种基于模糊度评价的多通路Metropolis光线追踪自适应采样方法 |
CN110728741A (zh) * | 2019-10-11 | 2020-01-24 | 长春理工大学 | 基于多细节层次模型的面光源照射三维场景画面渲染方法 |
CN111583135A (zh) * | 2020-04-24 | 2020-08-25 | 华南理工大学 | 一种核预测神经网络蒙特卡罗渲染图像去噪方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160098820A1 (en) * | 2014-10-03 | 2016-04-07 | Raghu Kopalle | System for robust denoising of images |
US10109100B2 (en) * | 2016-03-25 | 2018-10-23 | Outward, Inc. | Adaptive sampling of pixels |
WO2020247145A1 (en) * | 2019-06-03 | 2020-12-10 | Nvidia Corporation | Bayesian machine learning system for adaptive ray-tracing |
-
2020
- 2020-12-14 CN CN202011463681.7A patent/CN112419492B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101751697A (zh) * | 2010-01-21 | 2010-06-23 | 西北工业大学 | 一种基于统计模型的三维场景重建方法 |
CN102314703A (zh) * | 2011-06-14 | 2012-01-11 | 天津大学 | 一种蒙特卡罗全局光照的自适应抽样方法 |
CN106898038A (zh) * | 2017-01-22 | 2017-06-27 | 浙江大学 | 一种使用光线频率曲线合并hm滤波器的迭代式自适应渲染方法 |
CN109448098A (zh) * | 2018-09-29 | 2019-03-08 | 北京航空航天大学 | 一种基于建筑物单张夜景图像重建虚拟场景光源的方法 |
CN110163948A (zh) * | 2019-04-15 | 2019-08-23 | 中国民航大学 | 一种基于模糊度评价的多通路Metropolis光线追踪自适应采样方法 |
CN110728741A (zh) * | 2019-10-11 | 2020-01-24 | 长春理工大学 | 基于多细节层次模型的面光源照射三维场景画面渲染方法 |
CN111583135A (zh) * | 2020-04-24 | 2020-08-25 | 华南理工大学 | 一种核预测神经网络蒙特卡罗渲染图像去噪方法 |
Non-Patent Citations (2)
Title |
---|
基于自适应迭代面光源采样的物理正确柔和阴影绘制算法;周文言等;《长春理工大学学报(自然科学版)》;20180615(第03期);全文 * |
用于整体光照的最小方差抽样;耿中元等;《天津大学学报》;20100615(第06期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112419492A (zh) | 2021-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7175197B2 (ja) | 画像処理方法および装置、記憶媒体、コンピュータ装置 | |
US8538144B2 (en) | Methods and systems for color correction of 3D images | |
KR102619261B1 (ko) | 이미지의 디지털 페인팅을 최적화시키기 위한 페인트 유어 플레이스 어플리케이션 | |
CN109064514B (zh) | 一种基于投影点坐标回归的六自由度位姿估计方法 | |
US9454810B2 (en) | Correcting chrominance values based onTone-mapped luminance values | |
JP4616749B2 (ja) | 適応コントラスト向上 | |
US9508190B2 (en) | Method and system for color correction using three-dimensional information | |
US20120008857A1 (en) | Method of time-efficient stereo matching | |
CN115082639A (zh) | 图像生成方法、装置、电子设备和存储介质 | |
EP3741107A1 (en) | Visual stylization on stereoscopic images | |
CN103778900B (zh) | 一种图像处理方法及系统 | |
US20080118176A1 (en) | Adjusting apparatus for enhancing the contrast of image and method therefor | |
CN112419492B (zh) | 视觉感知驱动蒙卡渲染像素路径采样数自适应控制方法 | |
US20220172322A1 (en) | High resolution real-time artistic style transfer pipeline | |
CN111899176A (zh) | 一种视频图像增强方法 | |
CN113724155A (zh) | 用于自监督单目深度估计的自提升学习方法、装置及设备 | |
CN112465715A (zh) | 一种基于大气传输矩阵迭代优化的图像去散射方法 | |
CN115115522A (zh) | 一种货架商品图像拼接方法及系统 | |
CN112435197A (zh) | 图像美化方法、装置、电子设备和存储介质 | |
US20170256083A1 (en) | Image processing device and image processing method | |
CN115713584A (zh) | 基于有向距离场渲染体积云方法、系统、设备及存储介质 | |
CN110189264B (zh) | 图像处理方法 | |
KR20180109845A (ko) | 디스플레이 장치 및 그 디스플레이 방법 | |
KR100999811B1 (ko) | 균등확률분할 히스토그램 평활화를 이용한 영상 화질 개선 방법 | |
JPWO2019041842A5 (zh) |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |