CN106384378A - 一种基于GPU的广义mipmap插值实时景深渲染方法 - Google Patents
一种基于GPU的广义mipmap插值实时景深渲染方法 Download PDFInfo
- Publication number
- CN106384378A CN106384378A CN201610784117.2A CN201610784117A CN106384378A CN 106384378 A CN106384378 A CN 106384378A CN 201610784117 A CN201610784117 A CN 201610784117A CN 106384378 A CN106384378 A CN 106384378A
- Authority
- CN
- China
- Prior art keywords
- mipmap
- image
- depth
- sigma
- gpu
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种基于GPU的广义mipmap插值实时景深渲染方法,用于对图像进行景深渲染,所述方法包括下列步骤:根据图像的像素深度计算图像在像素空间内的弥撒圈半径;将图像在像素空间内的弥撒圈半径映射为连续的mipmap等级;采用各向异性高斯过滤计算离散等级下的mipmap图像;根据连续的mipmap等级和离散等级下的mipmap图像,采用插值法生成连续等级的mipmap图像;混合利用GPU与CPU将连续等级的mipmap图像贴回原始图像,完成景深渲染。与现有技术相比,本发明具有避免深度图降维、避免整张图渲染、图像生成效率高以及避免失真等优点。
Description
技术领域
本发明涉及实时景深渲染领域,尤其是涉及一种基于GPU的广义mipmap插值实时景深渲染方法。
背景技术
景深渲染是一种模拟真实相机镜头光学特性的计算机图像合成技术,主要目的是为了增强图像的真实感、增加图像的深度暗示、吸引观众关注清晰成像的物体而忽略图像中的其他模糊部分,从而使观众对图像信息有更好的理解。
根据Sungkil等人在《IEEE Transactions on Visualization and ComputerGraphics》(IEEE可视化与计算机图形学学报)第453页到第464页发表的“Real-TimeDepth-of-Field Rendering Using Anisotropically Filtered Mipmap Interpolation”(基于各向异性过滤式mipmap插值的实时景深渲染)论文中的论述,景深渲染可分为三种:
(1)精确模拟透镜折射光的多通道方法,
(2)根据薄透镜模型计算弥散圈直径的单层后置过滤
(3)计算弥散圈直径的多层后置过滤。
其中,方法(1)往往需要大量的景观样本,方法(2)具有强度泄露(intensityleakage)和前景模糊质量(foreground blurring quality)等弱点,而方法(3)由于需要多层渲染很难满足实时VR渲染的速度要求。Sungkil等人提出了一种非线性的mipmap插值技术,能够有效地为图像中每个像素生成任意模糊程度的色彩,同时利用过滤方法遏制了双线性放大现象、提出各向异性mipmap策略以减少强度泄露、并减少了模糊不连续的问题。然而这种方法在平滑化非连续边界时,采用将深度图降维,通过新的模糊的DoB图来达到避免渲染图片中清晰部分与模糊部分的边界产生混合。采用先降维、再升维的方式,严重降低了图像生成效率,亟待改进。
发明内容
本发明的目的是针对上述问题提供一种基于GPU的广义mipmap插值实时景深渲染方法。
本发明的目的可以通过以下技术方案来实现:
一种基于GPU的广义mipmap插值实时景深渲染方法,用于对图像进行景深渲染,所述方法包括下列步骤:
1)根据图像的像素深度计算图像在像素空间内的弥撒圈半径;
2)将步骤1)中得到的图像在像素空间内的弥撒圈半径映射为连续的mipmap等级;
3)采用各向异性高斯过滤计算离散等级下的mipmap图像;
4)根据步骤2)得到的连续的mipmap等级和步骤3)得到的离散等级下的mipmap图像,采用插值法生成连续等级的mipmap图像;
5)混合利用GPU与CPU将步骤4)中得到的连续等级的mipmap图像贴回原始图像,完成景深渲染。
所述图像在像素空间内的弥撒圈半径具体为:
其中,C为图像在像素空间内的弥撒圈半径,α为可调节参量,d为原始深度,df为可调节的聚焦深度。
所述连续的mipmap等级具体为:
其中,m为连续的mipmap等级,kσ为缩放常数,σ为标准差。
所述离散等级下的mipmap图像具体为:
其中,Ip(l)为离散等级为l的mipmap图像,H为权重,wG为所有权重之和H的倒数,Ω为包括中心点p及周围八个相邻像素的点集,q为点集内的任意点。
所述权重H(p,q,l)具体为:
其中,σ为标准差,G为经典高斯权重,Zp(l)为深度,Zf为聚焦深度。
所述连续等级的mipmap图像具体为:
β=1-m
其中,Ip(m)为连续等级的mipmap图像,m为连续的mipmap等级,G为经典高斯权重,wG为所有权重之和G的倒数,Ω为包括中心点p及周围八个相邻像素的点集,q为点集内的任意点。
与现有技术相比,本发明具有以下有益效果:
(1)采用各向异性的高斯过滤技术,阻止某些临近的聚焦像素和模糊像素融合,避免了强度泄露的发生。
(2)采用分层渲染的方式,先渲染后景,再渲染前景,防止了模糊前景干扰聚焦的深层景观。
(3)在渲染过程中采用GPU与CPU混合使用的分层渲染,集合了GPU与CPU的优点,增加了实用性。
(4)由于采用了各向异性的高斯过滤技术,因此避免采用先降维再升维的方法来防止强度泄露,提高了图像生成效率。
(5)分层渲染避免了因为将整张图渲染而产生的边缘失真。
附图说明
图1为本发明的方法流程图;
图2为渲染前后的对比图,其中(2a)为渲染前,(2b)为渲染后;
图3为不同焦距下的渲染结果,其中(3a)为焦距为189时的渲染结果,(3b)为焦距为357时的渲染结果;
图4为不同模糊程度的渲染结果,其中(4a)为可调节参量α为13时的渲染结果,(4b)为可调节参量α为30时的渲染结果。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
如图1所示,本实施例提供了一种基于GPU的广义mipmap插值实时景深渲染方法,用于对图像进行景深渲染,该方法包括下列步骤:
1)根据图像的像素深度计算图像在像素空间内的弥撒圈半径;
2)将步骤1)中得到的图像在像素空间内的弥撒圈半径映射为连续的mipmap等级;
3)采用各向异性高斯过滤计算离散等级下的mipmap图像;
4)根据步骤2)得到的连续的mipmap等级和步骤3)得到的离散等级下的mipmap图像,采用插值法生成连续等级的mipmap图像;
5)混合利用GPU与CPU将步骤4)中得到的连续等级的mipmap图像贴回原始图像,完成景深渲染。
上述步骤的具体步骤如下:
1)根据像素深度计算其在像素空间内的弥散圈半径。在本实施例中,我们假设其等效相机模型为一个长度为E、焦距为F的理想薄透镜;我们选取聚焦深度为df,聚焦平面与透镜主光轴交于点Pf。对于任意深度d的物体,我们由薄透镜成像公式得到其像距:
同理,可以得到聚焦深度对应像距:
随后我们利用以下公式计算在成像平面上深度为d的物体的弥散圈半径:
进一步,可以得到该物体在像素空间内弥散圈的半径C:
其中,d为原始深度,α在本实施例中为一个可调节参量,df为可调节的聚焦深度。
2)根据第一步的结果,将像素空间内的弥散圈半径映射为连续的mipmap等级。在本实施例中,我们假设并建立数学模型:
其中,m为连续的mipmap等级,可用如下方式求得:
根据我们的模型,为缩放常数。
3)采用各向异性高斯过滤计算离散等级下的mipmap图像。我们将原色彩图是为Ip(0),然后采用以下递推式逐步计算:
其中,Ω为一个点集,包括中心点p及其周围的八个相邻像素,这里我们认为相邻像素与中心点间距离均为1,形成一个单位圆。wG为所有权重H之和的倒数,函数H通过以下过程计算:
其中,σ为第二步中得到的标准差,G为经典高斯权重,Z表示深度且Zf为聚焦深度。
4)采用插值法生成连续等级的mipmap图像。设l为不大于m的最大整数,β=1-m,则插值公式可如下表示:
其中,Ω为一个点集,包括中心点p及其周围的八个相邻像素;G为经典高斯权重,wG为所有权重G之和的倒数。
依据上述步骤,对于我们收集的色彩图和深度图进行测试和分析,比较了在不同聚焦深度和alpha参数情形下的景深渲染效果。所有实验均在PC计算机上实现,该PC计算机的主要参数为:中央处理器Intel(R)Core(TM)i5-4210M CPU@2.60GHz 2.60GHz,内存4GB。
如图2~图4所示,结果显示,所有测试图像均能得到高质量的景深渲染图,没有明显的强度泄露、模糊不连续等问题。同时,我们可以随时调节聚焦深度和alpha参数改变实时渲染效果,显示出了算法的高效性。
Claims (6)
1.一种基于GPU的广义mipmap插值实时景深渲染方法,用于对图像进行景深渲染,其特征在于,所述方法包括下列步骤:
1)根据图像的像素深度计算图像在像素空间内的弥撒圈半径;
2)将步骤1)中得到的图像在像素空间内的弥撒圈半径映射为连续的mipmap等级;
3)采用各向异性高斯过滤计算离散等级下的mipmap图像;
4)根据步骤2)得到的连续的mipmap等级和步骤3)得到的离散等级下的mipmap图像,采用插值法生成连续等级的mipmap图像;
5)混合利用GPU与CPU将步骤4)中得到的连续等级的mipmap图像贴回原始图像,完成景深渲染。
2.根据权利要求1所述的基于GPU的广义mipmap插值实时景深渲染方法,其特征在于,所述图像在像素空间内的弥撒圈半径具体为:
其中,C为图像在像素空间内的弥撒圈半径,α为可调节参量,d为原始深度,df为可调节的聚焦深度。
3.根据权利要求1所述的基于GPU的广义mipmap插值实时景深渲染方法,其特征在于,所述连续的mipmap等级具体为:
其中,m为连续的mipmap等级,kσ为缩放常数,σ为标准差。
4.根据权利要求1所述的基于GPU的广义mipmap插值实时景深渲染方法,其特征在于,所述离散等级下的mipmap图像具体为:
其中,Ip(l)为离散等级为l的mipmap图像,H为权重,wG为所有权重之和H的倒数,Ω为包括中心点p及周围八个相邻像素的点集,q为点集内的任意点。
5.根据权利要求4所述的基于GPU的广义mipmap插值实时景深渲染方法,其特征在于,所述权重H(p,q,l)具体为:
其中,σ为标准差,G为经典高斯权重,Zp(l)为深度,Zf为聚焦深度。
6.根据权利要求1所述的基于GPU的广义mipmap插值实时景深渲染方法,其特征在于,所述连续等级的mipmap图像具体为:
β=1-m
其中,Ip(m)为连续等级的mipmap图像,m为连续的mipmap等级,G为经典高斯权重,wG为所有权重之和G的倒数,Ω为包括中心点p及周围八个相邻像素的点集,q为点集内的任意点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610784117.2A CN106384378A (zh) | 2016-08-31 | 2016-08-31 | 一种基于GPU的广义mipmap插值实时景深渲染方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610784117.2A CN106384378A (zh) | 2016-08-31 | 2016-08-31 | 一种基于GPU的广义mipmap插值实时景深渲染方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106384378A true CN106384378A (zh) | 2017-02-08 |
Family
ID=57938587
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610784117.2A Pending CN106384378A (zh) | 2016-08-31 | 2016-08-31 | 一种基于GPU的广义mipmap插值实时景深渲染方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106384378A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107392986A (zh) * | 2017-07-31 | 2017-11-24 | 杭州电子科技大学 | 一种基于高斯金字塔和各向异性滤波的图像景深渲染方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120219236A1 (en) * | 2011-02-28 | 2012-08-30 | Sony Corporation | Method and apparatus for performing a blur rendering process on an image |
CN102750726A (zh) * | 2011-11-21 | 2012-10-24 | 新奥特(北京)视频技术有限公司 | 一种基于OpenGL实现景深效果的方法 |
CN102968814A (zh) * | 2012-11-22 | 2013-03-13 | 华为技术有限公司 | 一种图像渲染的方法及设备 |
CN103503032A (zh) * | 2011-05-02 | 2014-01-08 | 索尼电脑娱乐公司 | 图形硬件中的纹理化 |
-
2016
- 2016-08-31 CN CN201610784117.2A patent/CN106384378A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120219236A1 (en) * | 2011-02-28 | 2012-08-30 | Sony Corporation | Method and apparatus for performing a blur rendering process on an image |
CN103503032A (zh) * | 2011-05-02 | 2014-01-08 | 索尼电脑娱乐公司 | 图形硬件中的纹理化 |
CN102750726A (zh) * | 2011-11-21 | 2012-10-24 | 新奥特(北京)视频技术有限公司 | 一种基于OpenGL实现景深效果的方法 |
CN102968814A (zh) * | 2012-11-22 | 2013-03-13 | 华为技术有限公司 | 一种图像渲染的方法及设备 |
Non-Patent Citations (1)
Title |
---|
SUNGKIL LEE ET AL: "Real-Time Depth-of-Field Rendering Using Anisotropically Filtered Mipmap Interpolation", 《IEEE TRANSACTIONS ON VISUALIZATION AND COMPUTER GRAPHICS》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107392986A (zh) * | 2017-07-31 | 2017-11-24 | 杭州电子科技大学 | 一种基于高斯金字塔和各向异性滤波的图像景深渲染方法 |
CN107392986B (zh) * | 2017-07-31 | 2021-03-16 | 杭州电子科技大学 | 一种基于高斯金字塔和各向异性滤波的图像景深渲染方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ng et al. | Passive-blind image forensics | |
CN105374007A (zh) | 融合骨架笔画和纹理特征的铅笔画生成方法和装置 | |
CN110610526B (zh) | 一种基于wnet对单目人像进行分割和景深渲染的方法 | |
CN107767380A (zh) | 一种基于全局空洞卷积的高分辨率复合视野皮肤镜图像分割方法 | |
CN102968814B (zh) | 一种图像渲染的方法及设备 | |
Van Hoorick | Image outpainting and harmonization using generative adversarial networks | |
US10475229B2 (en) | Information processing apparatus and information processing method | |
Dong et al. | Real-time image-based Chinese ink painting rendering | |
CN103745430A (zh) | 一种数字图像的快速美容方法 | |
CN113822830A (zh) | 基于深度感知增强的多曝光图像融合方法 | |
Sun et al. | A GAN-based approach toward architectural line drawing colorization prototyping | |
Li et al. | D2c-sr: A divergence to convergence approach for real-world image super-resolution | |
Guérin et al. | Gradient terrain authoring | |
Li et al. | High-resolution network for photorealistic style transfer | |
CN106384378A (zh) | 一种基于GPU的广义mipmap插值实时景深渲染方法 | |
Wang et al. | NeRFocus: neural radiance field for 3D synthetic defocus | |
CN103595933B (zh) | 一种图像的降噪方法 | |
CN107392986A (zh) | 一种基于高斯金字塔和各向异性滤波的图像景深渲染方法 | |
Li et al. | Image stylization with enhanced structure on GPU | |
Lei et al. | HFF-SRGAN: super-resolution generative adversarial network based on high-frequency feature fusion | |
Garcia‐Dorado et al. | Image stylisation: from predefined to personalised | |
Lee et al. | Bokeh-loss gan: multi-stage adversarial training for realistic edge-aware bokeh | |
Gao et al. | Oil painting style rendering based on kuwahara filter | |
Inoue et al. | Rgb2ao: Ambient occlusion generation from rgb images | |
Vavilala et al. | Deep learned super resolution for feature film production |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170208 |
|
RJ01 | Rejection of invention patent application after publication |