CN109472855B - 一种体绘制方法、装置及智能设备 - Google Patents
一种体绘制方法、装置及智能设备 Download PDFInfo
- Publication number
- CN109472855B CN109472855B CN201811368577.2A CN201811368577A CN109472855B CN 109472855 B CN109472855 B CN 109472855B CN 201811368577 A CN201811368577 A CN 201811368577A CN 109472855 B CN109472855 B CN 109472855B
- Authority
- CN
- China
- Prior art keywords
- image
- light
- sampling
- light ray
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000009877 rendering Methods 0.000 title claims abstract description 37
- 238000005070 sampling Methods 0.000 claims abstract description 411
- 230000000007 visual effect Effects 0.000 claims abstract description 91
- 238000003384 imaging method Methods 0.000 claims abstract description 77
- 238000012545 processing Methods 0.000 claims abstract description 61
- 238000000605 extraction Methods 0.000 claims abstract description 26
- 238000001228 spectrum Methods 0.000 claims description 47
- 238000001914 filtration Methods 0.000 claims description 15
- 238000011084 recovery Methods 0.000 claims description 11
- 230000009466 transformation Effects 0.000 claims description 11
- 238000013507 mapping Methods 0.000 claims description 8
- 230000003935 attention Effects 0.000 description 74
- 238000004422 calculation algorithm Methods 0.000 description 19
- 210000001508 eye Anatomy 0.000 description 18
- 230000006870 function Effects 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 10
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 239000002131 composite material Substances 0.000 description 8
- 238000003860 storage Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 238000002595 magnetic resonance imaging Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 208000003464 asthenopia Diseases 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 238000005266 casting Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011960 computer-aided design Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 208000002173 dizziness Diseases 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000010332 selective attention Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/08—Volume rendering
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Generation (AREA)
Abstract
本发明公开了一种体绘制方法、装置及智能设备,属于计算机图形学领域。该方法包括:对待绘制的图像进行显著性提取处理,得到图像的显著区域;根据显著区域确定成像平面的视觉关注区域;基于视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,基于多条光线中每条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。其中,若某个光线方向的第一个采样点在视觉关注区域内,则接下来可以采用较小的采样步长进行采样,而若某个光线方向的第一个采样起始点在视觉关注区域外,则接下来可以采用较大的采样步长进行采样,这样,既可以保证用户关注区域内的图像的真实感,同时又可以减小计算量,提高绘制效率。
Description
技术领域
本发明涉及计算机图形学技术领域,特别涉及一种体绘制方法、装置及智能设备。
背景技术
计算机图形学的发展极大的促进了游戏、电影、动画、计算机辅助设计与制造、虚拟现实等产业的更新迭代。在计算机图形学技术领域中,对真实世界的仿真模拟以及抽象数据的可视化一直是研究热点。其中,抽象数据的可视化即需要通过体绘制来完成。具体的,体绘制是指根据三维体数据场中的体素,生成对应的二维图像的一种技术,其中,该二维图像中包含有三维体数据场中的所有体细节。
目前,应用最为广泛的体绘制方法是光线投射方法。在该种方法中,智能设备可以建立立方体模型,并将该立方体模型内的每个点的坐标与三维体数据场中每个体素的空间坐标进行映射。其中,该立方体模型内的每个点的坐标可以称为纹理坐标。之后,智能设备可以将多条光线中每条光线在成像平面上的入射点作为相应光线的起始点,并从多条光线中每条光线的起始点起延相应光线的光线方向按照第一采样步长依次确定多个采样点。其中,该多条光线是从成像平面发射的并穿越该立方体模型的光线。由于该立方体模型内每个点的纹理坐标与三维体数据场中的每个体素的空间坐标相对应,因此,该多条光线穿越该立方体模型实际上就相当于穿越三维体数据场。之后,智能设备可以基于在每条光线的光线方向上确定的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
在采用上述方法进行体绘制时,在多条光线中的每条光线的光线方向上,智能设备均是根据第一采样步长来确定得到多个采样点,在这种情况下,当该第一采样步长较小时,计算量将极其庞大,这样,不仅会导致智能设备的GPU(Graphics Processing Unit,图形处理器)的计算功耗过大,而且会导致绘制效率较低。
发明内容
本发明实施例提供了一种体绘制方法、装置及智能设备,可以用于解决体绘制时GPU计算功耗较大,绘制效率低下的问题。所述技术方案如下:
第一方面,提供了一种体绘制方法,所述方法包括:
对待绘制的图像进行显著性提取处理,得到所述图像的显著区域,所述显著区域是指所述图像中具有显著性特征的图像区域;
根据所述显著区域确定成像平面的视觉关注区域;
基于所述视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,所述多条光线是从所述成像平面发射并穿越立方体模型的光线;
其中,所述多条光线中的第一类光线的光线方向上相邻两个采样点之间的采样步长小于或等于第一采样步长,所述多条光线中第二类光线的光线方向上相邻两个采样点之间的采样步长大于所述第一采样步长,所述第一类光线是指沿光线方向上的第一个采样点位于所述视觉关注区域内的光线,所述第二类光线是指沿光线方向上的第一个采样点未位于所述视觉关注区域内的光线;
基于所述多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
可选地,所述对待绘制的图像进行显著性提取处理,得到所述图像的显著区域,包括:
对所述图像进行傅里叶正变换,得到所述图像的频谱;
从所述图像的频谱中提取所述图像的相位谱;
对所述相位谱进行傅里叶反变换,得到所述相位谱对应的恢复图像;
基于所述恢复图像,确定所述图像的显著区域。
可选地,所述基于所述恢复图像,确定所述图像的显著区域,包括:
确定所述恢复图像中以目标方式表征的第一显著图,将所述第一显著图的所在区域确定为所述显著区域;或者,
对所述恢复图像进行高斯滤波处理,确定滤波处理后的所述恢复图像中以目标方式表征的第二显著图,将所述第二显著图的所在区域确定为所述显著区域。
可选地,所述根据所述显著区域确定成像平面的视觉关注区域,包括:
确定所述图像与所述成像平面之间的尺寸比例;
根据所述尺寸比例,将所述显著区域在所述图像中的位置映射到所述成像平面中,将映射位置对应的图像区域确定为所述视觉关注区域。
可选地,所述基于所述视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,包括:
从所述多条光线中确定沿光线方向上的第一个采样点位于所述视觉关注区域内的所述第一类光线,以及沿光线方向上的第一个采样点未位于所述视觉关注区域内的所述第二类光线;
按照第二采样步长,沿所述第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿所述第二类光线中的每条光线的光线方向确定多个采样点,所述第二采样步长小于或等于所述第一采样步长,所述第三采样步长大于所述第一采样步长。
可选地,所述按照第二采样步长,沿所述第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿所述第二类光线中的每条光线的光线方向确定多个采样点,包括:
确定所述多条光线从所述成像平面起到穿越所述立方体模型的最大穿越距离;
对于所述多条光线中的任一条光线L,令i=1,基于第i个采样点的纹理坐标和所述光线L对应的采样步长,沿所述光线L的光线方向确定第i+1个采样点,其中,若所述光线L为所述第一类光线,则所述光线L对应的采样步长为所述第二采样步长,若所述光线L为所述第二类光线,则所述光线L对应的采样步长为所述第三采样步长;
确定所述第i+1个采样点与第1个采样点之间的距离;
若所述第i+1个采样点与所述第1个采样点之间的距离不大于所述最大穿越距离,则令所述i=i+1,并返回所述基于第i个采样点的纹理坐标和所述光线L对应的采样步长,沿所述光线L的光线方向确定第i+1个采样点的步骤;
若所述第i+1个采样点与所述第1个采样点之间的距离大于所述最大穿越距离,则将在所述第i+1个采样点之前确定的i个采样点确定为沿所述光线L的光线方向上的多个采样点。
可选地,所述基于所述多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像,包括:
基于所述多条光线中每条光线的光线方向上的多个采样点的纹理坐标,确定对应光线与所述成像平面的交点的像素值;
基于所述多条光线中每条光线与所述成像平面的交点的像素值,生成所述三维体数据场对应的二维图像。
第二方面,提供了一种体绘制装置,所述装置包括:
图像处理模块,用于对待绘制的图像进行显著性提取处理,得到所述图像的显著区域,所述显著区域是指所述图像中具有显著性特征的图像区域;
确定模块,用于根据所述显著区域确定成像平面的视觉关注区域;
采样模块,用于基于所述视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,所述多条光线是从所述成像平面发射的并穿越立方体模型的光线;
其中,所述多条光线中的第一类光线的光线方向上相邻两个采样点之间的采样步长小于或等于第一采样步长,所述多条光线中第二类光线的光线方向上相邻两个采样点之间的采样步长大于所述第一采样步长,所述第一类光线是指沿光线方向上的第一个采样点位于所述视觉关注区域内的光线,所述第二类光线是指沿光线方向上的第一个采样点未位于所述视觉关注区域内的光线;
生成模块,用于基于所述多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
可选地,所述图像处理模块包括:
第一变换单元,用于对所述图像进行傅里叶正变换,得到所述图像的频谱;
提取单元,用于从所述图像的频谱中提取所述图像的相位谱;
第二变换单元,用于对所述相位谱进行傅里叶反变换,得到所述相位谱对应的恢复图像;
第一确定单元,用于基于所述恢复图像,确定所述图像的显著区域。
可选地,所述确定单元具体用于:
确定所述恢复图像中以目标方式表征的第一显著图,将所述第一显著图的所在区域确定为所述显著区域;或者,
对所述恢复图像进行高斯滤波处理,确定滤波处理后的所述恢复图像中以目标方式表征的第二显著图,将所述第二显著图的所在区域确定为所述显著区域。
可选地,所述确定模块具体用于:
确定所述图像与所述成像平面之间的尺寸比例;
根据所述尺寸比例,将所述显著区域在所述图像中的位置映射到所述成像平面中,将映射位置对应的图像区域确定为所述视觉关注区域。
可选地,所述采样模块包括:
第二确定单元,用于从所述多条光线中确定沿光线方向上的第一个采样点位于所述视觉关注区域内的所述第一类光线,以及沿光线方向上的第一个采样点未位于所述视觉关注区域内的所述第二类光线;
第三确定单元,用于按照第二采样步长,沿所述第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿所述第二类光线中的每条光线的光线方向确定多个采样点,所述第二采样步长小于或等于所述第一采样步长,所述第三采样步长大于所述第一采样步长。
可选地,所述第三确定单元具体用于:
确定所述多条光线从所述成像平面起到穿越所述立方体模型的最大穿越距离;
对于所述多条光线中的任一条光线L,令i=1,基于第i个采样点的纹理坐标和所述光线L对应的采样步长,沿所述光线L的光线方向确定第i+1个采样点,其中,若所述光线L为所述第一类光线,则所述光线L对应的采样步长为所述第二采样步长,若所述光线L为所述第二类光线,则所述光线L对应的采样步长为所述第三采样步长;
确定所述第i+1个采样点与第1个采样点之间的距离;
若所述第i+1个采样点与所述第1个采样点之间的距离不大于所述最大穿越距离,则令所述i=i+1,并返回所述基于第i个采样点的纹理坐标和所述光线L对应的采样步长,沿所述光线L的光线方向确定第i+1个采样点的步骤;
若所述第i+1个采样点与所述第1个采样点之间的距离大于所述最大穿越距离,则将在所述第i+1个采样点之前确定的i个采样点确定为沿所述光线L的光线方向上的多个采样点。
可选地,所述生成模块具体用于:
基于所述多条光线中每条光线的光线方向上的多个采样点的纹理坐标,确定对应光线与所述成像平面的交点的像素值;
基于所述多条光线中每条光线与所述成像平面的交点的像素值,生成所述三维体数据场对应的二维图像。
第三方面,提供一种智能设备,所述智能设备包括:
处理器,所述处理器包括图像处理器GPU;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行上述第一方面所述的任一项方法的步骤。
第四方面,提供一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,所述指令被处理器执行时实现上述第一方面所述的任一项方法的步骤。
本发明实施例提供的技术方案带来的有益效果是:
本发明实施例中,可以对待绘制的图像进行显著性提取处理,得到图像的显著区域,并根据提取的显著区域确定成像平面的视觉关注区域,然后沿多条光线中每条光线的光线方向确定多个采样点,基于多条光线中每条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。其中,多条光线中沿光线方向上的第一个采样点位于视觉关注区域内的第一类光线的光线方向上相邻两个采样点之间的采样步长小于第一采样步长,而除此之外的第二类光线的光线方向上相邻两个采样点之间的采样步长则大于第一采样步长。也即,在本发明实施例中,只需对图像进行显著性提取处理,便可确定用户对成像平面的视觉关注区域,避免通过人眼追踪技术确定视觉关注区域的复杂度。另外,对于视觉关注区域内的光线,在沿光线方向进行采样时可以采用较小的采样步长,而对于视觉关注区域外的光线,则可以采用较大的采样步长沿光线方向进行采样,这样,以采样得到的体素值绘制得到二维图像,既可以保证用户关注区域内的图像的真实感,同时又可以减小计算量,提高绘制效率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种体绘制方法的流程图;
图2是本发明实施例提供的另一种体绘制方法的流程图;
图3是本发明实施例提供的一种图像中的显著区域的示意图;
图4是本发明实施例提供的一种体绘制装置的结构框图;
图5是本发明实施例提供的一种智能设备500的结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
在对本发明实施例进行详细的解释说明之前,先对本发明实施例涉及的应用场景予以介绍。
当前,在VR(Virtual Reality,虚拟现实)或AR(Augmented Reality,增强现实)技术中,以高沉浸感所需的高分辨率来呈现图像时,对智能设备的GPU的处理能力提出了极高的要求。而对于用户而言,智能设备绘制图像时的低延时、高帧率、高画质是保证良好的虚拟现实体验的必备条件。例如,对于VR头戴式显示设备而言,低分辨率会限制视场,导致用户体验较差。而若提高VR头戴式显示设备的分辨率,则相应地需要VR头戴式显示设备的GPU具备更高的处理能力。目前,高端GPU仍然无法为用户带来最优的VR或AR体验,因此,如何有效的利用GPU的处理能力,从而为用户提供更加符合人眼感知的高质量VR或AR内容是关键问题。而本发明实施例提供的体绘制方法即可以应用于上述场景中,以在满足用户对图像的高分辨率的要求的同时,减小智能设备的GPU的计算量。
另外,为了减小GPU的计算量,目前一般采用眼球追踪技术实时对人眼进行追踪,以确定人眼的注视点,然后对图像中人眼的注视点区域进行高分辨率处理。但是眼球追踪技术的硬件成本较高且计算复杂,对智能设备的硬件和处理能力有较高要求。而本发明实施例中提供的绘制方法即可在满足用户对图像的高分辨率的要求,以及减小智能设备的GPU的计算量同时,节省硬件成本。
接下来对本发明实施例提供的体绘制方法的具体实现方式进行介绍。
图1是本发明实施例提供的一种体绘制方法的流程图,该方法可以用于智能设备中,该智能设备可以是同时集成有图像处理功能以及显示功能的VR头戴式显示设备。或者,该智能设备可以是诸如手机、平板电脑、便携式电脑、台式电脑等终端,且该智能设备可以连接有VR头戴式显示设备或AR头戴式显示设备。如图1所示,该方法包括以下步骤:
步骤101:对待绘制的图像进行显著性提取处理,得到该图像的显著区域,显著区域是指图像中具有显著性特征的图像区域。
其中,显著区域是指图像中具有显著性特征的图像区域,即明显区别于图像背景的图像区域。由于显著区域的图像相对于其他区域的图像比较显著和突出,能够吸引人眼聚焦,因此,本发明实施例可以将图像中的显著区域作为能够吸引人眼注视的视觉关注区域。
步骤102:根据该显著区域确定成像平面的视觉关注区域。
其中,成像平面用于显示图像,可以将图像中的显著区域映射到成像平面,得到成像平面的视觉关注区域。
步骤103:基于该视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点。
其中,该多条光线中的第一类光线的光线方向上相邻两个采样点之间的采样步长小于或等于第一采样步长,该多条光线中第二类光线的光线方向上相邻两个采样点之间的采样步长大于第一采样步长,第一类光线是指沿光线方向上的第一个采样点位于该视觉关注区域内的光线,第二类光线是指沿光线方向上的第一个采样点未位于该视觉关注区域内的光线。
还需要说明的是,立方体模型内的每个点的坐标与三维体数据场中每个体素的空间坐标存在映射关系,且该立方体模型内的每个点的坐标可以称为纹理坐标。
步骤104:基于多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
本发明实施例中,可以对待绘制的图像进行显著性提取处理,得到图像的显著区域,并根据提取的显著区域确定成像平面的视觉关注区域,然后沿多条光线中每条光线的光线方向确定多个采样点,基于多条光线中每条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。其中,多条光线中沿光线方向上的第一个采样点位于视觉关注区域内的第一类光线的光线方向上相邻两个采样点之间的采样步长小于第一采样步长,而除此之外的第二类光线的光线方向上相邻两个采样点之间的采样步长则大于第一采样步长。也即,在本发明实施例中,只需对图像进行显著性提取处理,便可确定用户对成像平面的视觉关注区域,避免通过人眼追踪技术确定视觉关注区域的复杂度。另外,对于视觉关注区域内的光线,在沿光线方向进行采样时可以采用较小的采样步长,而对于视觉关注区域外的光线,则可以采用较大的采样步长沿光线方向进行采样,这样,以采样得到的体素值绘制得到二维图像中显著区域以高分辨率显示,非显著区域以低分辨率显示,既可以保证用户关注区域内的图像的真实感,同时又可以减小计算量,提高绘制效率。
图2是本发明实施例提供的另一种体绘制方法的流程图,该方法可以用于智能设备中,该智能设备可以是同时集成有图像处理功能以及显示功能的VR头戴式显示设备。或者,该智能设备可以是诸如手机、平板电脑、便携式电脑、台式电脑等终端,且该智能设备可以连接有VR头戴式显示设备或AR头戴式显示设备。如图2所示,该方法包括以下步骤:
步骤201:对待绘制的图像进行显著性提取处理,得到图像的显著区域,该显著区域是指图像中具有显著性特征的图像区域。
其中,待绘制的图像可以为智能设备待显示的图像或正在显示的图像,例如,可以为成像平面正在显示的图像。成像平面用于显示图像,示例的,可以为智能设备的显示屏。而且,该图像还可以为视频中的任一视频帧。
其中,显著区域是指图像中具有显著性特征的图像区域,即明显区别于图像背景的图像区域。由于显著区域的图像相对于其他区域的图像比较显著和突出,能够吸引人眼聚焦,因此,本发明实施例可以将图像中的显著区域作为能够吸引人眼注视的视觉关注区域。
具体地,可以采用图像内容显著性分析算法,对待绘制的图像进行显著性提取处理。该图像内容显著性分析算法主要用于提取图像中容易引导人眼聚焦的显著区域,具体地,该图像内容显著性分析算法可以为第一类显著性分析算法、第二类显著性分析算法或第三类显著性分析算法等。当然,也可以采用其他方式进行显著性提取。
其中,第一类显著性分析算法为基于底层视觉特征的显著性分析算法,也即是,能够模拟生物体视觉注意机制的选择性注意算法,如Itti算法等。第二类显著性分析算法是不基于任何生物视觉原理的纯数学计算方法,如SR(Spectral Residual,残留谱显著性检测)算法等。第三类显著性分析算法是将前两种算法进行融合的算法,这种算法在进行显著特征提取的过程中可以基于第一类算法去模拟视觉原理,但在显著图生成的过程中引入马尔科夫链,用纯数学计算来得到显著图。
在一个实施例中,可以采用PFT(Phase Fourier Transform,相位傅里叶变换)算法对待绘制的图像进行显著性提取处理。具体地,可以对待绘制图像进行傅里叶正变换,得到图像的频谱;从图像的频谱中提取图像的相位谱;对相位谱进行傅里叶反变换,得到相位谱对应的恢复图像;基于恢复图像,确定图像的显著区域。
对待绘制图像进行傅里叶正变换,可以得到图像的频谱。图像的频谱通常由图像的幅度谱和相位谱构成。幅度谱用于指示图像信号的幅度随频率的变化关系,相位谱用于指示图像信号的相位随频率的变化关系。
另外,本申请的发明人发现,图像中非周期性的纹理、边缘变化剧烈的部分是相位信号恢复图像输出较大的对应所在,同时这些部分往往是蕴藏信息量较大的位置,携带有大量的新颖信息,即图像的显著信息,因而也是人脑感应趣的地方。因此,可以以相位信号恢复的图像看作是表征人眼注意力选择区域的特征显著图。
具体地,基于恢复图像,确定图像的显著区域可以包括以下两种实现方式:
第一种实现方式:确定该恢复图像中以目标方式表征的第一显著图,将该第一显著图的所在区域确定为显著区域。
对相位谱进行傅里叶反变换,得到的相位谱对应的恢复图像通常是一个二值图,即分别用0和1指示的图像。一般的,二值图中1对应的像素点组成的图像区域通常为显著区域,0对应的像素点组成的区域通常为非显著区域。因此,目标方式表征的第一显著图可以为该恢复图像中1对应的像素点组成的图像,然后将1对应的像素点组成的图像的所在区域确定为显著区域。
第二种实现方式:对恢复图像进行高斯滤波处理,确定滤波处理后的恢复图像中以目标方式表征的第二显著图,将第二显著图的所在区域确定为显著区域。
对恢复图像进行高斯滤波处理,可以消除恢复图像中的图像噪声,使得滤波处理后的恢复图像更能反映图像的显著性,进而提高确定显著区域的准确度。
其中,滤波处理后的恢复图像也通常是一个二值图,一般的,二值图中1对应的像素点组成的图像区域通常为显著区域,0对应的像素点组成的区域通常为非显著区域。因此,目标方式表征的第二显著图可以为滤波处理后的恢复图像中1对应的像素点组成的图像,然后将1对应的像素点组成的图像的所在区域确定为显著区域。
在一个实施例中,假设待绘制的图像为I(x,y),则可以通过以下公式(1)对图像I(x,y)进行处理,以得到图像I(x,y)的显著区域:
其中,I(x,y)为待绘制的图像,(x,y)为图像中的像素点的坐标,F和F-1分别代表傅里叶正变化和傅里叶反变换,P(f)表示I(x,y)的相位谱,g(x,y)是一个高斯滤波器,sM(x,y)表示P(f)对应的恢复图像上坐标为(x,y)的像素点的值。
其中,恢复图像通常是一个二值图,可以将恢复图像上像素点的值为1的像素点组成的图像区域确定为显著区域。
其中,高斯滤波器g(x,y)是一种线性滤波器,能够有效的抑制噪声,平滑图像。可选地,可以选择如下形式的高斯滤波器:
其中,σ为预先设置的标准差。可选地,σ=8。
在另一实施例中,还可以采用SR算法对待绘制的图像进行显著性提取处理。具体地,可以对待绘制的图像进行傅里叶正变换,得到图像的频谱;从图像的频谱中提取图像的振幅谱;根据振幅谱,确定所述图像的先验信息;根据振幅谱和先验信息,确定图像的残留谱;对残留谱进行傅里叶反变换,得到残留谱的恢复图像;对恢复图像进行高斯滤波处理,得到图像的显著图;根据显著图,确定图像的显著区域。当然,也可以采用其他方式对待绘制的图像进行显著性提取处理,本发明实施例对此不做限定。
图3是本发明实施例提供的一种图像中的显著区域的示意图,如图3所示,该图像中特征较为明显的、明显区别于草地的树木所在区域为显著区域,其他特征不明显的草地和天空等背景区域为非显著区域。
步骤202:根据该显著区域确定成像平面的视觉关注区域。
得到图像的显著区域后,可以根据该显著区域确定成像平面的视觉关注区域。视觉关注区域是指人眼视觉聚焦的区域。
具体地,根据该显著区域确定成像平面的视觉关注区域可以包括以下两种实现方式:
第一种实现方式:获取该显著区域在智能设备的显示屏上的显示坐标,并将获取的显示坐标转换为三维纹理坐标,该三维纹理坐标对应的区域即为成像平面上的视觉关注区域。
第二种实现方式:确定图像与成像平面之间的尺寸比例;根据该尺寸比例,将显著区域在图像中的位置映射到成像平面中,将映射位置对应的图像区域确定为视觉关注区域。
在成像平面上确定视觉关注区域之后,智能设备还可以以成像平面为起始点,引射线穿过立方体模型,从而得到从成像平面发射并穿越立方体模型的多条光线。由于立方体模型中每个点的坐标与三维体数据场中的体素的空间坐标存在映射关系,因此,多条光线穿越该立方体模型实际上就相当于穿越了三维体数据场。
需要说明的是,待绘制的三维体数据场可以是由CT(Computed Tomography,计算机断层扫描)仪器或MRI(Magnetic Resonance Imaging,磁共振成像)仪器等扫描得到的,也可以是通过有限元模型得到的科学三维数据,例如,模拟得到的流场模拟数据或飓风模拟数据等。本发明实施例不对三维体数据场的具体来源进行限定。
步骤203:基于该视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,并基于每条光线的光线方向上的多个采样点的纹理坐标确定相应光线与成像平面的交点的像素值。
在确定视觉关注区域之后,智能设备可以基于该视觉关注区域,通过以下步骤2031-2032沿多条光线中每条光线的光线方向确定多个采样点:
步骤2031:从多条光线中确定沿光线方向上的第一个采样点位于视觉关注区域内的第一类光线,以及沿光线方向上的第一个采样点未位于视觉关注区域内的所述第二类光线。
其中,智能设备可以将多条光线中每条光线与成像平面的交点确定为相应光线的第一个采样点,并确定每条光线的第一个采样点是否位于成像平面上的视觉关注区域内。通过该种方式,智能设备可以从多条光线中确定至少一条对应的第一个采样点位于视觉关注区域内的第一类光线,并将除第一类光线之外的其他光线确定为第二类光线。
步骤2032:按照第二采样步长,沿第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿第二类光线中的每条光线的光线方向确定多个采样点,第二采样步长小于或等于第一采样步长,第三采样步长大于第一采样步长。
在确定得到第一类光线和第二类光线之后,对于第一类光线中的每条光线,智能设备均可以按照第二采样步长进行采样,而对于第二类光线中的每条光线,则均可以均按照第三采样步长进行采样。其中,第二采样步长小于或等于第一采样步长,第三采样步长大于第一采样步长。
其中,第二采样步长和第三采样步长可以预先设置得到,具体可以由智能设备默认设置,也可以由用户根据实际需要进行设置。
具体地,智能设备可以确定多条光线从成像平面起到穿越立方体模型的最大穿越距离;对于多条光线中的任一条光线L,令i=1,基于第i个采样点的纹理坐标和该光线L对应的采样步长,沿该光线L的光线方向确定第i+1个采样点,其中,若该光线L为第一类光线,则该光线L对应的采样步长为该第二采样步长,若该光线L为第二类光线,则该光线L对应的采样步长为该第三采样步长;确定该第i+1个采样点与第1个采样点之间的距离;若该第i+1个采样点与该第1个采样点之间的距离不大于该最大穿越距离,则令该i=i+1,并返回该基于第i个采样点的纹理坐标和该光线L对应的采样步长,沿该光线L的光线方向确定第i+1个采样点的步骤;若该第i+1个采样点与该第1个采样点之间的距离大于该最大穿越距离,则将在该第i+1个采样点之前确定的i个采样点确定为沿该光线L的光线方向上的多个采样点。
当智能设备通过上述方式沿每条光线的光线方向上确定多个采样点时,每当确定得到一个采样点,智能设备可以根据确定的这个采样点的纹理坐标获取这个采样点对应的体素值,根据获取的这个采样点对应的体素值确定这个采样点的合成颜色值和合成透明度值,直到确定得到最后一个采样点的合成颜色值和合成透明度值时,将最后一个采样点的合成颜色值和合成透明度值确定为相应光线与成像平面的交点的像素值。
示例性的,对于多条光线中的任一条光线L,智能设备可以确定多条光线从成像平面起穿越立方体模型的最大穿越距离,令i=1,基于第i个采样点和光线L对应的采样步长,沿光线L的光线方向确定第i+1个采样点;确定第i+1个采样点与第1个采样点之间的距离,若第i+1个采样点与第1个采样点之间的距离不大于最大穿越距离,则基于第i+1个采样点的纹理坐标获取第i+1个采样点对应的体素值;基于获取的第i+1个采样点的体素值和第i个采样点的合成颜色值和合成透明度值,计算第i+1个采样点的合成颜色值和合成透明度值;若第i+1个采样点的合成透明度值小于1,则令i=i+1,并返回基于第i个采样点的纹理坐标和光线L对应的采样步长,沿光线L的光线方向确定第i+1个采样点的步骤,直到第i+1个采样点的合成透明度值不小于1时,将第i+1个采样点的合成颜色值和合成透明度值确定为光线L与成像平面的交点的像素值。
具体地,智能设备可以确定多条光线中每条光线从成像平面起到穿越立方体模型的穿越距离,并从确定的多个穿越距离中确定最大穿越距离。其中,由于确定每条光线穿越立方体模型时的穿越距离时需要确定每条光线与立方体模型的表面的交点,而考虑到智能设备的GPU在确定光线与立方体模型的交点时的计算量较大,计算过程较为复杂,因此,智能设备可以将立方体模型中朝向成像平面的平面以及与该朝向成像平面的平面平行的表面之间的距离和成像平面到立方体模型中朝向成像平面的平面之间的距离之和确定为最大穿越距离。之后,当i=1时,智能设备可以将每条光线从成像平面开始入射至立方体模型的起始点作为光线L的光线方向上的第一个采样点。
在确定光线L在光线方向上的第一个采样点之后,智能设备可以获取第一个采样点的纹理坐标,并根据第一个采样点的纹理坐标获取第一采样点对应的体素值。由于第一个采样点实际上并不在立方体模型之内,也即第一个采样点并不对应有体素值,因此,第一个采样点的体素值为0。之后,智能设备可以基于第一个采样点的体素值,通过传输函数计算得到第一个采样点的颜色采样值和透明度采样值。由于第一个采样点之前没有其他采样点,因此,可以将计算得到的第一个采样点的颜色采样值和透明度采样值,作为该第一个采样点的合成颜色值和合成透明度值。
在确定第一个采样点的合成颜色值和合成透明度值之后,智能设备可以基于第一个采样点的纹理坐标和光线L对应的采样步长确定第二个采样点。
其中,当光线L为第一类光线时,光线L对应的采样步长将为第二采样步长,当光线L为第二类光线时,则光线L对应的采样步长将为第三采样步长,其中,第二采样步长可以是当前分辨率的最小步长,第三采样步长可以大于第二采样步长且大于第一采样步长,其中,第一采样步长可以是用户设置的大于或等于第二采样步长的采样步长,或者是根据GPU的处理能力设置的大于第二采样步长的步长,或者是根据当前三维体数据场的数据量确定的大于或等于第二采样步长的步长,或者是综合考虑GPU的处理能力、三维体数据场的数据量的大小以及其他诸多因素设置的大于或等于第二采样步长的步长。
在确定第二个采样点之后,智能设备可以确定第二个采样点与第一个采样点之间的距离,并判断第二个采样点与第一个采样点之间的距离是否大于最大穿越距离,以此来判断光线L是否已穿出该立方体模型。
若第二个采样点与第一个采样点之间的距离大于最大穿越距离,则说明光线L已经穿出该立方体模型,也即,第二个采样点已经位于该立方体模型之外,而第一个采样点即为该光线L的光线方向上的最后一个采样点,此时,智能设备可以将第一个采样点的合成颜色值和合成透明度值确定为光线L与成像平面的交点的像素值。
若第二个采样点与第一个采样点之间的距离不大于最大穿越距离,则说明光线L还未穿出该立方体模型。此时,智能设备可以基于第二个采样点的纹理坐标获取第二个采样点对应的体素值,并基于第二个采样点的体素值,通过传输函数确定第二个采样点的颜色采样值和透明度采样值。之后,智能设备可以根据第二个采样点的颜色采样值、第二个采样点的前一个采样点的合成颜色值和合成透明度值,通过下述公式(3)计算第二个采样点的合成颜色值,根据第二个采样点的透明度采样值和第二个采样点的前一个采样点的合成透明度值,通过下述公式(4)计算得到第二个采样点的合成透明度值。其中,第二个采样点的前一个采样点也即第一个采样点。
其中,为第二个采样点的合成颜色值,/>为第一个采样点的合成透明度值,C2为第二个采样点的颜色采样值,/>为第一个采样点的合成颜色值,/>为第二个采样点的合成透明度值,A2为第二个采样点的透明度采样值。
在确定第二个采样点的合成颜色值和合成透明度值之后,智能设备还可以进一步的判断第二个采样点的合成透明度值是否小于1,若第二个采样点的合成透明度值小于1,则智能设备可以参考前述根据第一个采样点确定第二个采样点以及计算第二个采样点的合成颜色值和合成透明度值的方法,根据第二个采样点确定第三个采样点并计算第三个采样点的合成颜色值和合成透明度值,以此类推,直到根据第i个采样点确定的第i+1个采样点与第一个采样点之间的距离大于最大穿越距离,也即,直到第i+1个采样点位于立方体模型之外时,或者,直到根据第i个采样点计算的第i+1个采样点的合成透明度值不小于1时,智能设备停止计算,并将确定的第i个采样点的合成颜色值和合成透明度值确定为光线L与成像平面的交点的像素值。
上述主要介绍了智能设备可以在每确定一个采样点时,即对采样点进行采样获取体素值,以确定每个采样点的像素值,进而得到每条光线与成像平面的交点的像素值的实现方式,可选地,在一种可能的实现方式中,智能设备也可以在沿每条光线的光线方向确定得到多个采样点之后,再按照采样顺序依次计算多个采样点中每个采样点的合成颜色值和合成透明度值。本发明实施例对此不再赘述。
步骤204:基于多条光线中每条光线与成像平面的交点的像素值,生成三维体数据场对应的二维图像。
当确定多条光线中每条光线与成像平面的交点的像素值之后,智能设备可以将多条光线与成像平面的多个交点作为多个像素点,以此生成三维体数据场对应的二维图像。其中,每个像素点的像素值也就是前述确定的相应地像素值。
本发明实施例中,可以对待绘制的图像进行显著性提取处理,得到图像的显著区域,并根据提取的显著区域确定成像平面的视觉关注区域,然后沿多条光线中每条光线的光线方向确定多个采样点,基于多条光线中每条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。其中,多条光线中沿光线方向上的第一个采样点位于视觉关注区域内的至少一条光线的光线方向上相邻两个采样点之间的采样步长小于第一采样步长,而其他光线的光线方向上相邻两个采样点之间的采样步长则大于第一采样步长。也即,在本发明实施例中,只需对图像进行显著性提取处理,便可确定用户对成像平面的视觉关注区域,避免通过人眼追踪技术确定视觉关注区域的复杂度。另外,对于视觉关注区域内的光线,在沿光线方向进行采样时可以采用较小的采样步长,而对于视觉关注区域外的光线,则可以采用较大的采样步长沿光线方向进行采样,这样,以采样得到的体素值绘制得到二维图像中显著区域以高分辨率显示,非显著区域以低分辨率显示,既可以保证用户关注区域内的图像的真实感,同时又可以减小计算量,提高绘制效率。
另外,由于本发明实施例是根据图像的显著区域确定成像平面的视觉关注区域后,根据视觉关注区域来确定采样步长,进而采样体绘制来绘制二维图像的,这样,当用户观看某个图像时,这个图像中人眼比较关注的显著区域一定会变得清晰,而人眼不会关注的非显著区域则会变模糊,从而可以增加用户看物体的空间感,可以更真实的模拟人眼视觉,从而有效的减轻用户的视疲劳、眩晕等生理性不适。
接下来对本发明实施例提供的体绘制装置进行介绍。
图4是本发明实施例提供的一种体绘制装置的结构框图,该装置可以集成于前述实施例中该的智能设备中,参见图4,该装置包括:
图像处理模块401,用于对待绘制的图像进行显著性提取处理,得到该图像的显著区域,该显著区域是指该图像中具有显著性特征的图像区域;
确定模块402,用于根据该显著区域确定成像平面的视觉关注区域;
采样模块403,用于基于该视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,该多条光线是从该成像平面发射并穿越立方体模型的光线;
其中,该多条光线中的第一类光线的光线方向上相邻两个采样点之间的采样步长小于或等于第一采样步长,该多条光线中第二类光线的光线方向上相邻两个采样点之间的采样步长大于该第一采样步长,该第一类光线是指沿光线方向上的第一个采样点位于该视觉关注区域内的光线,该第二类光线是指沿光线方向上的第一个采样点未位于该视觉关注区域内的光线;
生成模块404,用于基于该多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
可选地,图像处理模块401包括:
第一变换单元,用于对该图像进行傅里叶正变换,得到该图像的频谱;
提取单元,用于从该图像的频谱中提取该图像的相位谱;
第二变换单元,用于对该相位谱进行傅里叶反变换,得到该相位谱对应的恢复图像;
第一确定单元,用于基于该恢复图像,确定该图像的显著区域。
可选地,该确定单元具体用于:
确定该恢复图像中以目标方式表征的第一显著图,将该第一显著图的所在区域确定为该显著区域;或者,
对该恢复图像进行高斯滤波处理,确定滤波处理后的该恢复图像中以目标方式表征的第二显著图,将该第二显著图的所在区域确定为该显著区域。
可选地,该确定模块402具体用于:
确定该图像与该成像平面之间的尺寸比例;
根据该尺寸比例,将该显著区域在该图像中的位置映射到该成像平面中,将映射位置对应的图像区域确定为该视觉关注区域。
可选地,该采样模块403包括:
第二确定单元,用于从该多条光线中确定沿光线方向上的第一个采样点位于该视觉关注区域内的该第一类光线,以及沿光线方向上的第一个采样点未位于该视觉关注区域内的该第二类光线;
第三确定单元,用于按照第二采样步长,沿该第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿该第二类光线中的每条光线的光线方向确定多个采样点,该第二采样步长小于或等于该第一采样步长,该第三采样步长大于该第一采样步长。
可选地,该第三确定单元具体用于:
确定该多条光线从该成像平面起到穿越该立方体模型的最大穿越距离;
对于该多条光线中的任一条光线L,令i=1,基于第i个采样点的纹理坐标和该光线L对应的采样步长,沿该光线L的光线方向确定第i+1个采样点,其中,若该光线L为该第一类光线,则该光线L对应的采样步长为该第二采样步长,若该光线L为该第二类光线,则该光线L对应的采样步长为该第三采样步长;
确定该第i+1个采样点与第1个采样点之间的距离;
若该第i+1个采样点与该第1个采样点之间的距离不大于该最大穿越距离,则令该i=i+1,并返回该基于第i个采样点的纹理坐标和该光线L对应的采样步长,沿该光线L的光线方向确定第i+1个采样点的步骤;
若该第i+1个采样点与该第1个采样点之间的距离大于该最大穿越距离,则将在该第i+1个采样点之前确定的i个采样点确定为沿该光线L的光线方向上的多个采样点。
可选地,该生成模块404具体用于:
基于该多条光线中每条光线的光线方向上的多个采样点的纹理坐标,确定对应光线与该成像平面的交点的像素值;
基于该多条光线中每条光线与该成像平面的交点的像素值,生成该三维体数据场对应的二维图像。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本发明实施例中,可以对待绘制的图像进行显著性提取处理,得到图像的显著区域,并根据提取的显著区域确定成像平面的视觉关注区域,然后沿多条光线中每条光线的光线方向确定多个采样点,基于多条光线中每条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。其中,多条光线中沿光线方向上的第一个采样点位于视觉关注区域内的第一类光线的光线方向上相邻两个采样点之间的采样步长小于第一采样步长,而除此之外的第二类光线的光线方向上相邻两个采样点之间的采样步长则大于第一采样步长。也即,在本发明实施例中,只需对图像进行显著性提取处理,便可确定用户对成像平面的视觉关注区域,避免通过人眼追踪技术确定视觉关注区域的复杂度。另外,对于视觉关注区域内的光线,在沿光线方向进行采样时可以采用较小的采样步长,而对于视觉关注区域外的光线,则可以采用较大的采样步长沿光线方向进行采样,这样,以采样得到的体素值绘制得到二维图像,既可以保证用户关注区域内的图像的真实感,同时又可以减小计算量,提高绘制效率。
需要说明的是:上述实施例提供的体绘制装置在进行体绘制时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的体绘制装置与体绘制方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图5是本发明实施例提供的一种智能设备500的结构框图。其中,该智能设备500可以是:笔记本电脑、台式电脑、智能手机或平板电脑等。智能设备500还可能被称为用户设备、便携式终端、膝上型终端、台式终端等。
通常,智能设备500包括有:处理器501和存储器502。
处理器501可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器501可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器501也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器501可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器501还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器502可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器502还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器502中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器501所执行以实现本申请中方法实施例提供的体绘制方法。
在一些实施例中,智能设备500还可选包括有:外围设备接口503和至少一个外围设备。处理器501、存储器502和外围设备接口503之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口503相连。具体地,外围设备包括:射频电路504、触摸显示屏505、摄像头506、音频电路507、定位组件508和电源509中的至少一种。
外围设备接口503可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器501和存储器502。在一些实施例中,处理器501、存储器502和外围设备接口503被集成在同一芯片或电路板上;在一些其他实施例中,处理器501、存储器502和外围设备接口503中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路504用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路504通过电磁信号与通信网络以及其他通信设备进行通信。射频电路504将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路504包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路504可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:万维网、城域网、内联网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路504还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏505用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏505是触摸显示屏时,显示屏505还具有采集在显示屏505的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器501进行处理。此时,显示屏505还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏505可以为一个,设置智能设备500的前面板;在另一些实施例中,显示屏505可以为至少两个,分别设置在智能设备500的不同表面或呈折叠设计;在再一些实施例中,显示屏505可以是柔性显示屏,设置在智能设备500的弯曲表面上或折叠面上。甚至,显示屏505还可以设置成非矩形的不规则图形,也即异形屏。显示屏505可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件506用于采集图像或视频。可选地,摄像头组件506包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件506还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路507可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器501进行处理,或者输入至射频电路504以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在智能设备500的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器501或射频电路504的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路507还可以包括耳机插孔。
定位组件508用于定位智能设备500的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件508可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统或欧盟的伽利略系统的定位组件。
电源509用于为智能设备500中的各个组件进行供电。电源509可以是交流电、直流电、一次性电池或可充电电池。当电源509包括可充电电池时,该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池,无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
在一些实施例中,智能设备500还包括有一个或多个传感器510。该一个或多个传感器510包括但不限于:加速度传感器511、陀螺仪传感器512、压力传感器513、指纹传感器514、光学传感器515以及接近传感器516。
加速度传感器511可以检测以智能设备500建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器511可以用于检测重力加速度在三个坐标轴上的分量。处理器501可以根据加速度传感器511采集的重力加速度信号,控制触摸显示屏505以横向视图或纵向视图进行用户界面的显示。加速度传感器511还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器512可以检测智能设备500的机体方向及转动角度,陀螺仪传感器512可以与加速度传感器511协同采集用户对智能设备500的3D动作。处理器501根据陀螺仪传感器512采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器513可以设置在智能设备500的侧边框和/或触摸显示屏505的下层。当压力传感器513设置在智能设备500的侧边框时,可以检测用户对智能设备500的握持信号,由处理器501根据压力传感器513采集的握持信号进行左右手识别或快捷操作。当压力传感器513设置在触摸显示屏505的下层时,由处理器501根据用户对触摸显示屏505的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器514用于采集用户的指纹,由处理器501根据指纹传感器514采集到的指纹识别用户的身份,或者,由指纹传感器514根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器501授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器514可以被设置智能设备500的正面、背面或侧面。当智能设备500上设置有物理按键或厂商Logo时,指纹传感器514可以与物理按键或厂商Logo集成在一起。
光学传感器515用于采集环境光强度。在一个实施例中,处理器501可以根据光学传感器515采集的环境光强度,控制触摸显示屏505的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏505的显示亮度;当环境光强度较低时,调低触摸显示屏505的显示亮度。在另一个实施例中,处理器501还可以根据光学传感器515采集的环境光强度,动态调整摄像头组件506的拍摄参数。
接近传感器516,也称距离传感器,通常设置在智能设备500的前面板。接近传感器516用于采集用户与智能设备500的正面之间的距离。在一个实施例中,当接近传感器516检测到用户与智能设备500的正面之间的距离逐渐变小时,由处理器501控制触摸显示屏505从亮屏状态切换为息屏状态;当接近传感器516检测到用户与智能设备500的正面之间的距离逐渐变大时,由处理器501控制触摸显示屏505从息屏状态切换为亮屏状态。
也即是,本发明实施例不仅提供了一种体绘制装置,该装置可以应用于上述智能设备500中,包括处理器和用于存储处理器可执行指令的存储器,其中,处理器被配置为执行图1和图2所示的实施例中体绘制方法,而且,本发明实施例还提供了一种计算机可读存储介质,该存储介质内存储有计算机程序,该计算机程序被处理器执行时可以实现图1和图2所示的实施例中的体绘制方法。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种体绘制方法,其特征在于,所述方法包括:
对待绘制的图像进行显著性提取处理,得到所述图像的显著区域,所述显著区域是指所述图像中具有显著性特征的图像区域;
根据所述显著区域确定成像平面的视觉关注区域;
基于所述视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,所述多条光线是从所述成像平面发射并穿越立方体模型的光线;
其中,所述多条光线中的第一类光线的光线方向上相邻两个采样点之间的采样步长小于或等于第一采样步长,所述多条光线中第二类光线的光线方向上相邻两个采样点之间的采样步长大于所述第一采样步长,所述第一类光线是指沿光线方向上的第一个采样点位于所述视觉关注区域内的光线,所述第二类光线是指沿光线方向上的第一个采样点未位于所述视觉关注区域内的光线;
基于所述多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
2.根据权利要求1所述的方法,其特征在于,所述对待绘制的图像进行显著性提取处理,得到所述图像的显著区域,包括:
对所述图像进行傅里叶正变换,得到所述图像的频谱;
从所述图像的频谱中提取所述图像的相位谱;
对所述相位谱进行傅里叶反变换,得到所述相位谱对应的恢复图像;
基于所述恢复图像,确定所述图像的显著区域。
3.根据权利要求2所述的方法,其特征在于,所述基于所述恢复图像,确定所述图像的显著区域,包括:
确定所述恢复图像中以目标方式表征的第一显著图,将所述第一显著图的所在区域确定为所述显著区域;或者,
对所述恢复图像进行高斯滤波处理,确定滤波处理后的所述恢复图像中以目标方式表征的第二显著图,将所述第二显著图的所在区域确定为所述显著区域。
4.根据权利要求1所述的方法,其特征在于,所述根据所述显著区域确定成像平面的视觉关注区域,包括:
确定所述图像与所述成像平面之间的尺寸比例;
根据所述尺寸比例,将所述显著区域在所述图像中的位置映射到所述成像平面中,将映射位置对应的图像区域确定为所述视觉关注区域。
5.根据权利要求1所述的方法,其特征在于,所述基于所述视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,包括:
从所述多条光线中确定沿光线方向上的第一个采样点位于所述视觉关注区域内的所述第一类光线,以及沿光线方向上的第一个采样点未位于所述视觉关注区域内的所述第二类光线;
按照第二采样步长,沿所述第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿所述第二类光线中的每条光线的光线方向确定多个采样点,所述第二采样步长小于或等于所述第一采样步长,所述第三采样步长大于所述第一采样步长。
6.根据权利要求5所述的方法,其特征在于,所述按照第二采样步长,沿所述第一类光线中的每条光线的光线方向确定多个采样点,并按照第三采样步长,沿所述第二类光线中的每条光线的光线方向确定多个采样点,包括:
确定所述多条光线从所述成像平面起到穿越所述立方体模型的最大穿越距离;
对于所述多条光线中的任一条光线L,令i=1,基于第i个采样点的纹理坐标和所述光线L对应的采样步长,沿所述光线L的光线方向确定第i+1个采样点,其中,若所述光线L为所述第一类光线,则所述光线L对应的采样步长为所述第二采样步长,若所述光线L为所述第二类光线,则所述光线L对应的采样步长为所述第三采样步长;
确定所述第i+1个采样点与第1个采样点之间的距离;
若所述第i+1个采样点与所述第1个采样点之间的距离不大于所述最大穿越距离,则令所述i=i+1,并返回所述基于第i个采样点的纹理坐标和所述光线L对应的采样步长,沿所述光线L的光线方向确定第i+1个采样点的步骤;
若所述第i+1个采样点与所述第1个采样点之间的距离大于所述最大穿越距离,则将在所述第i+1个采样点之前确定的i个采样点确定为沿所述光线L的光线方向上的多个采样点。
7.根据权利要求1-6任一所述的方法,其特征在于,所述基于所述多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像,包括:
基于所述多条光线中每条光线的光线方向上的多个采样点的纹理坐标,确定对应光线与所述成像平面的交点的像素值;
基于所述多条光线中每条光线与所述成像平面的交点的像素值,生成所述三维体数据场对应的二维图像。
8.一种体绘制装置,其特征在于,所述装置包括:
图像处理模块,用于对待绘制的图像进行显著性提取处理,得到所述图像的显著区域,所述显著区域是指所述图像中具有显著性特征的图像区域;
确定模块,用于根据所述显著区域确定成像平面的视觉关注区域;
采样模块,用于基于所述视觉关注区域,沿多条光线中每条光线的光线方向确定多个采样点,所述多条光线是从所述成像平面发射的并穿越立方体模型的光线;
其中,所述多条光线中的第一类光线的光线方向上相邻两个采样点之间的采样步长小于或等于第一采样步长,所述多条光线中第二类光线的光线方向上相邻两个采样点之间的采样步长大于所述第一采样步长,所述第一类光线是指沿光线方向上的第一个采样点位于所述视觉关注区域内的光线,所述第二类光线是指沿光线方向上的第一个采样点未位于所述视觉关注区域内的光线;
生成模块,用于基于所述多条光线的光线方向上的多个采样点的纹理坐标,生成三维体数据场对应的二维图像。
9.根据权利要求8所述的装置,其特征在于,所述图像处理模块包括:
第一变换单元,用于对所述图像进行傅里叶正变换,得到所述图像的频谱;
提取单元,用于从所述图像的频谱中提取所述图像的相位谱;
第二变换单元,用于对所述相位谱进行傅里叶反变换,得到所述相位谱对应的恢复图像;
第一确定单元,用于基于所述恢复图像,确定所述图像的显著区域。
10.一种智能设备,其特征在于,所述智能设备包括:
处理器,所述处理器包括图像处理器GPU;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行权利要求1-7任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811368577.2A CN109472855B (zh) | 2018-11-16 | 2018-11-16 | 一种体绘制方法、装置及智能设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811368577.2A CN109472855B (zh) | 2018-11-16 | 2018-11-16 | 一种体绘制方法、装置及智能设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109472855A CN109472855A (zh) | 2019-03-15 |
CN109472855B true CN109472855B (zh) | 2023-03-28 |
Family
ID=65673708
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811368577.2A Active CN109472855B (zh) | 2018-11-16 | 2018-11-16 | 一种体绘制方法、装置及智能设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109472855B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111683238B (zh) * | 2020-06-17 | 2022-02-18 | 宁波视睿迪光电有限公司 | 基于观察跟踪的3d图像融合方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101783025A (zh) * | 2010-02-02 | 2010-07-21 | 冯前进 | 一种基于等值面的保留上下文环境体绘制方法 |
JP2011083440A (ja) * | 2009-10-15 | 2011-04-28 | Aloka Co Ltd | 超音波ボリュームデータ処理装置 |
-
2018
- 2018-11-16 CN CN201811368577.2A patent/CN109472855B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011083440A (ja) * | 2009-10-15 | 2011-04-28 | Aloka Co Ltd | 超音波ボリュームデータ処理装置 |
CN101783025A (zh) * | 2010-02-02 | 2010-07-21 | 冯前进 | 一种基于等值面的保留上下文环境体绘制方法 |
Non-Patent Citations (1)
Title |
---|
基于相关性的快速体绘制研究;张翔等;《计算机工程与科学》;20051231(第02期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109472855A (zh) | 2019-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110929651B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
US11205282B2 (en) | Relocalization method and apparatus in camera pose tracking process and storage medium | |
CN109685876B (zh) | 毛发渲染方法、装置、电子设备及存储介质 | |
CN111324250B (zh) | 三维形象的调整方法、装置、设备及可读存储介质 | |
CN110570460A (zh) | 目标跟踪方法、装置、计算机设备及计算机可读存储介质 | |
CN112581358B (zh) | 图像处理模型的训练方法、图像处理方法及装置 | |
CN114170349A (zh) | 图像生成方法、装置、电子设备及存储介质 | |
CN110853128B (zh) | 虚拟物体显示方法、装置、计算机设备及存储介质 | |
US20240212114A1 (en) | Method, apparatus, and device for processing image, and storage medium | |
CN111784841B (zh) | 重建三维图像的方法、装置、电子设备及介质 | |
CN110991457A (zh) | 二维码处理方法、装置、电子设备及存储介质 | |
CN110647881A (zh) | 确定图像对应的卡片类型的方法、装置、设备及存储介质 | |
CN110807769B (zh) | 图像显示控制方法及装置 | |
CN110189348B (zh) | 头像处理方法、装置、计算机设备及存储介质 | |
CN111680758A (zh) | 图像训练样本生成方法和装置 | |
CN111105474A (zh) | 字体绘制方法、装置、计算机设备及计算机可读存储介质 | |
CN111327819A (zh) | 选择图像的方法、装置、电子设备及介质 | |
CN110991445A (zh) | 竖排文字识别方法、装置、设备及介质 | |
CN110728744B (zh) | 一种体绘制方法、装置及智能设备 | |
CN109472855B (zh) | 一种体绘制方法、装置及智能设备 | |
CN112257594A (zh) | 多媒体数据的显示方法、装置、计算机设备及存储介质 | |
CN111860064A (zh) | 基于视频的目标检测方法、装置、设备及存储介质 | |
CN109685881B (zh) | 一种体绘制方法、装置及智能设备 | |
CN110335224B (zh) | 图像处理方法、装置、计算机设备及存储介质 | |
CN110443841B (zh) | 地面深度的测量方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 266555 Qingdao economic and Technological Development Zone, Shandong, Hong Kong Road, No. 218 Applicant after: Hisense Visual Technology Co., Ltd. Applicant after: BEIHANG University Address before: 266555 Qingdao economic and Technological Development Zone, Shandong, Hong Kong Road, No. 218 Applicant before: QINGDAO HISENSE ELECTRONICS Co.,Ltd. Applicant before: BEIHANG University |
|
CB02 | Change of applicant information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |