CN116405652A - 三维显示系统、三维显示方法、电子设备和存储介质 - Google Patents
三维显示系统、三维显示方法、电子设备和存储介质 Download PDFInfo
- Publication number
- CN116405652A CN116405652A CN202310315126.7A CN202310315126A CN116405652A CN 116405652 A CN116405652 A CN 116405652A CN 202310315126 A CN202310315126 A CN 202310315126A CN 116405652 A CN116405652 A CN 116405652A
- Authority
- CN
- China
- Prior art keywords
- image
- parallax image
- parallax
- dimensional display
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 230000003287 optical effect Effects 0.000 claims abstract description 166
- 238000012545 processing Methods 0.000 claims abstract description 121
- 210000001508 eye Anatomy 0.000 claims abstract description 82
- 238000006243 chemical reaction Methods 0.000 claims abstract description 42
- 210000005252 bulbus oculi Anatomy 0.000 claims description 31
- 230000001815 facial effect Effects 0.000 claims description 20
- 238000007781 pre-processing Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 238000011084 recovery Methods 0.000 claims description 9
- 238000012512 characterization method Methods 0.000 claims description 8
- 230000009466 transformation Effects 0.000 claims description 7
- 239000004973 liquid crystal related substance Substances 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 6
- 230000007797 corrosion Effects 0.000 claims description 4
- 238000005260 corrosion Methods 0.000 claims description 4
- 230000003321 amplification Effects 0.000 claims description 3
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 3
- 238000007526 fusion splicing Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 abstract description 29
- 238000003384 imaging method Methods 0.000 abstract description 11
- 230000000007 visual effect Effects 0.000 abstract description 3
- 238000009434 installation Methods 0.000 description 36
- 238000010586 diagram Methods 0.000 description 20
- 230000000694 effects Effects 0.000 description 15
- 230000006870 function Effects 0.000 description 15
- 238000004891 communication Methods 0.000 description 9
- 210000004279 orbit Anatomy 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 210000001061 forehead Anatomy 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005530 etching Methods 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000012535 impurity Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
- G03B35/10—Stereoscopic photography by simultaneous recording having single camera with stereoscopic-base-defining system
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/20—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/225—Image signal generators using stereoscopic image cameras using a single 2D image sensor using parallax barriers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
- H04N13/31—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
Abstract
本发明实施例提供三维显示系统、三维显示方法、电子设备和存储介质,涉及显示成像技术领域。三维显示系统通过拍摄镜头将拍摄目标的光信号分成两路,形成拍摄目标的第一视差图像和第二视差图像,再通过处理单元对第二视差图像进行处理,得到与第一视差图像相匹配的第三视差图像,再利用第一视差图像和第三视差图像进行融合得到3D帧画面图像,最后利用设置于显示单元表面的光学转换器件将3D帧画面图像投射到人物对象的视野范围,利用外置的拍摄镜头与光学转换器件使得一台设备即可实现实时裸眼的三维显示过程,降低三维显示系统的系统复杂度。
Description
技术领域
本发明涉及显示成像技术领域,尤其涉及三维显示系统、三维显示方法、电子设备和存储介质。
背景技术
裸眼三维显示(three-dimensional,3D)又称裸眼3D显示,其相比较二维显示,人物对象能够从中获得更多的信息。裸眼3D显示就是不借助偏振光眼镜等外部工具,在平面里显示三维图形,实现立体视觉效果。
相关技术中,用于裸眼3D显示的三维显示系统都是利用拍摄设备生成二维视频或图像后,发送到另一台用于进行三维显示的设备进行处理,从而形成三维观看效果,其实现三维显示的过程需要多台设备共同操作,三维显示系统较复杂。
发明内容
本申请实施例的主要目的在于提出三维显示系统、三维显示方法、电子设备和存储介质,降低三维显示系统的复杂性。
为实现上述目的,本申请实施例的第一方面提出了一种三维显示系统,包括:第一摄像头、拍摄镜头、处理单元和三维显示模组;
所述拍摄镜头包括:棱镜,所述棱镜置于所述第一摄像头的上方,将所述第一摄像头的镜头表面分为第一区域和第二区域;以使得拍摄目标的第一初始光信号到达所述第一区域在所述第一区域形成第一视差图像,所述拍摄目标的第二初始光信号经过所述棱镜后进入所述第二区域形成第二视差图像,所述第二视差图像与所述第一视差图像具有视差;
所述处理单元与所述第一摄像头电性连接,用于接收所述第一视差图像和所述第二视差图像,并根据所述第一视差图像对所述第二视差图像进行图像处理得到第三视差图像;所述处理单元还用于利用所述第一视差图像和所述第三视差图像生成3D帧画面图像;
所述三维显示模组包括:显示单元和光学转换器件,所述光学转换器件设置于所述显示单元的显示平面上,用于将所述显示单元出射的光束转换为出射到人物对象的左眼的左眼光束和出射到人物对象的右眼的右眼光束以实现三维显示;
所述显示单元与所述处理器电性连接,所述显示单元用于接收并显示所述3D帧画面图像,以使显示的所述3D帧画面图像经过所述光学转换器件后实现三维显示。
在一实施例中,所述处理单元用于根据所述第一视差图像对所述第二视差图像进行图像处理得到第三视差图像时执行下述以下步骤:
若所述第二视差图像为所述第一视差图像的镜像图像,对所述第二视差图像进行镜像恢复处理,得到与所述第一视差图像相匹配的第三视差图像;
或者,若所述第二视差图像为所述第一视差图像的旋转图像,对所述第二视差图像进行旋转恢复处理,得到与所述第一视差图像相匹配的第三视差图像;
或者,若所述第二视差图像为所述第一视差图像的缩小图像,对所述第二视差图像进行镜像放大处理,得到与所述第一视差图像相匹配的第三视差图像;
或者,若所述第二视差图像为所述第一视差图像的放大图像,对所述第二视差图像进行镜像缩小处理,得到与所述第一视差图像相匹配的第三视差图像。
在一实施例中,所述处理单元用于利用所述第一视差图像和所述第三视差图像生成3D帧画面图像时执行下述以下步骤:
将所述第三视差图像处理成3D格式下的第一帧画面图像,以及将所述第一视差图像处理成3D格式下的第二帧画面图像;所述第一帧画面图像和所述第二帧画面图像之间互为左右格式图像;
将所述第一帧画面图像与所述第二帧画面图像进行融合拼接,得到3D格式下的所述3D帧画面图像。
在一实施例中,所述将所述第三视差图像处理成3D格式下的第一帧画面图像,包括:
对变换恢复后的所述第三视差图像与所述第一视差图像进行图像比对,得到表征图像之间重合度的比对结果;
根据所述比对结果对所述第三视差图像进行图像校准,得到校准后的第四视差图像,以使校准后的所述第四视差图像与所述第一视差图像之间的重合度满足预设要求;
将校准后的所述第四视差图像处理成3D格式下的第一帧画面图像。
在一实施例中,所述对变换恢复后的所述第三视差图像与所述第二视差图像进行图像比对,得到表征图像之间重合度的比对结果,包括:
识别所述第三视差图像中的目标特征,得到所述目标特征在所述第三视差图像中的第一目标角点;
识别所述第一视差图像中的所述目标特征,得到所述目标特征在所述第一视差图像中的第二目标角点;
将所述第三视差图像和所述第一视差图像进行重叠,并对所述第一目标角点和所述第二目标角点进行虚拟重合对比,根据角点之间的重合度得到表征图像之间重合度的比对结果。
在一实施例中,所述将所述第三视差图像处理成3D格式下的第一帧画面图像,包括:
确定所述第三视差图像中与所述第一视差图像多余的部分,得到第一多余部分;
将所述第一多余部分从所述第三视差图像中裁剪掉,并将剩余的所述第三视差图像处理成3D格式下的第一帧画面图像;
或者,所述将所述第一视差图像处理成3D格式下的第二帧画面图像,包括:
确定所述第一视差图像中与所述第三视差图像多余的部分,得到第二多余部分;
将所述第二多余部分从所述第一视差图像中裁剪掉,并将剩余的所述第二视差图像处理成3D格式下的第二帧画面图像。
在一实施例中,所述第一帧画面图像包括以第一排列顺序排列的多个预设宽度的第一帧图像;所述第二帧画面图像包括以第二排列顺序进行排列的多个所述预设宽度的第二帧图像;
所述将所述第一帧画面图像与所述第二帧画面图像进行融合拼接,得到3D格式下的3D帧画面图像,包括:
根据所述第一排列顺序和所述第二排列顺序,依次将所述第一帧图像和所述第二帧图像交替排列,得到所述3D帧画面图像。
在一实施例中,所述拍摄镜头包括:
外壳,所述外壳为柱状结构,所述柱状结构的上方具有第一开口,所述柱状结构的下方具有第二开口,并且所述第二开口贴近第一摄像头平面,用于容纳所述第一摄像头;所述第一摄像头平面为所述第一摄像头的镜头表面所在平面;
棱镜,所述棱镜设置于所述第一摄像头的上方;所述棱镜贴合于所述外壳的内部的一侧,以使得所述外壳的另一侧的内壁和所述棱镜之间形成第一空腔,从而使得所述拍摄目标的第一初始光信号可通过所述第一开口,并经过所述第一空腔后进入所述第一摄像头,所述拍摄目标的第二初始光信号可通过所述第一开口,并经过所述棱镜后进入所述第一摄像头;
所述棱镜包括:第一棱镜面,以及沿所述第二初始光信号光路依次设置的入光面和出光面;
所述第一棱镜面垂直于所述第一摄像头平面,所述第一棱镜面的延展面将所述第一摄像头的镜头表面分为第一区域和第二区域;
所述第一区域用于接收所述第一初始光信号,第二区域用于接收所述出光面出射的光信号,以使得所述拍摄目标在所述第一区域形成第一视差图像,在所述第二区域形成与所述第一视差图像相对应的第二视差图像。
在一实施例中,所述棱镜还包括反射面;
所述入光面和所述反射面的夹角构成第一夹角,所述第一棱镜面和所述出光面的夹角构成第二夹角;
所述第一夹角使得所述第二初始光信号从所述入光面进入所述棱镜得到第一光信号,所述第一光信号经过所述反射面的反射得到第二光信号,所述第二光信号从所述出光面射出得到目标光信号,所述第二夹角使得所述目标光信号到达所述镜头表面的所述第二区域。
在一实施例中,设所述第一摄像头的镜头表面与所述第一区域和所述第二区域的交界线垂直的最长线段为第一线段,所述第一线段在所述第一区域的边缘形成第一端点;
所述外壳还包括:与所述棱镜相对设置的具有第一高度的第一外壳壁,所述第一外壳壁包含第一外壳边;
所述第一端点与所述第一外壳边构成所述第一摄像头的有效拍摄范围的第一边界面;
所述第一棱镜面的延展面构成所述第一摄像头的有效拍摄范围的第二边界面;
所述第一边界面和所述第二边界面限定出所述第一摄像头的有效拍摄范围,以使在所述有效拍摄范围内的所述拍摄目标的第一初始光束进入第一区域;在所述有效拍摄范围内的所述拍摄目标的第二初始光束通过所述棱镜进入第二区域。
在一实施例中,所述第一线段与所述第一区域和所述第二区域的交界线的交点为第二端点,所述交界线为所述第一棱镜面在所述镜头表面的投影线;
所述拍摄目标包括第一拍摄边界点和第二拍摄边界点;所述第一初始光信号包括所述第一拍摄边界点出射的第一边界光信号和第二拍摄边界点出射的第二边界光信号,所述第二初始光信号包括所述第一拍摄边界点出射的第三边界光信号和第二拍摄边界点出射的第四边界光信号;
所述第一边界光信号经过所述第一空腔到达所述第一端点,并且所述第二边界光信号经过所述第一空腔到达所述第二端点,以在所述第一区域形成所述第一视差图像;
所述第三边界光信号从所述入光面进入所述棱镜,依次经过所述反射面和所述出光面,到达所述第二区域的第一到达点;所述第四边界光信号从所述入光面进入所述棱镜,依次经过所述反射面和所述出光面,到达所述第二区域的第二到达点;所述第一到达点位于所述第一端点的镜像位置或第一临近镜像位置,所述第二到达点位于所述第二端点的镜像位置或第二临近镜像位置,以在所述第二区域形成与所述第一视差图像形成镜像或镜像缩放的所述第二视差图像。
在一实施例中,所述第一线段在所述第二区域的边缘形成第三端点,所述第一到达点的位置为所述第三端点,所述第二到达点的位置为所述第二端点,以在所述第一区域形成所述第一视差图像,在所述第二区域形成与所述第一视差图像形成镜像的所述第二视差图像。
在一实施例中,所述系统还包括第二摄像头,所述第二摄像头与所述处理器连接;
所述第二摄像头用于获取人物对象的面部图像,并将所述面部图像发送至所述处理单元;
所述处理单元用于根据所述面部图像解析得到人物对象的眼球位置信息,所述眼球位置信息用于表征人物对象眼睛眼球的位置;
所述处理单元还用于根据所述眼球位置信息对所述预设宽度进行调节,以使得所述第一视差图像以第一方向出射至人物对象的左眼,所述第三视差图像以第二方向出射至人物对象的右眼。
在一实施例中,所述处理单元用于根据所述面部图像解析得到人物对象的眼球位置信息时执行以下步骤:
基于预设的检测器对所述面部图像进行人脸眼睛区域检测,得到眼眶位置信息;
将所述面部图像转换为灰度图像,并对所述灰度图像进行二值化处理,得到第一预处理图像;
对所述第一预处理图像进行腐蚀和膨胀处理,并剔除图像中的噪声,得到第二预处理图像,并利用圆形的结构元素提取所述第二预处理图像中表征人物对象眼睛眼球的圆形区域的位置,得到人物对象眼睛的所述眼球位置信息。
在一实施例中,所述光学转换器件为三维显示转换贴膜,所述三维显示转换贴膜为狭缝式液晶光栅型贴膜、柱状透镜型贴膜或指向光源型贴膜。
为实现上述目的,本申请实施例的第二方面提出了一种三维显示方法,应用于如第一方面中任一项所述的三维显示系统,所述方法包括:
获取所述拍摄目标的第一初始光信号到达所述第一区域形成的所述第一视差图像,以及获取所述拍摄目标的第二初始光信号经过所述棱镜后进入所述第二区域形成的所述第二视差图像;
根据所述第一视差图像对所述第二视差图像进行镜像图像处理,得到第三视差图像;所述第三视差图像与所述第一视差图像具有视差;
利用所述第一视差图像和所述第三视差图像得到3D帧画面图像;
利用所述光学转换器件对所述3D帧画面图像进行三维显示。
为实现上述目的,本申请实施例的第三方面提出了一种电子设备,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
为实现上述目的,本申请实施例的第四方面提出了一种存储介质,所述存储介质为计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法。
本申请实施例提出的三维显示系统、三维显示方法、电子设备和存储介质,其中,三维显示系统包括:摄像头、拍摄镜头、处理单元和三维显示模组;拍摄镜头中棱镜置于摄像头的上方将摄像头的镜头表面分为第一区域和第二区域;拍摄目标的第一初始光信号到达第一区域在第一区域形成第一视差图像,拍摄目标的第二初始光信号经过棱镜后进入第二区域形成第二视差图像;处理单元根据第一视差图像对第二视差图像进行图像处理得到第三视差图像以及利用第一视差图像和第三视差图像生成3D帧画面图像;显示单元接收并显示3D帧画面图像,光学转换器件设置于显示单元的显示平面上,将3D帧画面图像进行三维显示。本实施例中三维显示系统通过拍摄镜头将拍摄目标的光信号分成两路,形成拍摄目标的第一视差图像和第二视差图像,再通过处理单元对第二视差图像进行处理,得到与第一视差图像相匹配的第三视差图像,再利用第一视差图像和第三视差图像进行融合得到3D帧画面图像,最后利用设置于显示单元表面的光学转换器件将3D帧画面图像投射到人物对象的视野范围,利用外置的拍摄镜头与光学转换器件使得一台设备即可实现实时裸眼的三维显示过程,降低三维显示系统的系统复杂度。
附图说明
图1是本发明实施例提供的三维显示系统的示意图。
图2a是本发明又一实施例提供的三维显示系统的实物示意图。
图2b是图2a中三维显示系统的另一角度示意图。
图3是图2a中三维显示系统不同角度的示意图。
图4是本发明又一实施例提供的三维显示系统中棱镜的示意图。
图5为图4中棱镜的六视图。
图6是本发明又一实施例提供的三维显示系统中棱镜的第一棱镜面与第一摄像头之间的位置关系示意图。
图7是本发明又一实施例提供的三维显示系统中拍摄镜头的结构示意图。
图8是本发明又一实施例提供的三维显示系统中拍摄镜头的光路图。
图9是本发明又一实施例提供的三维显示系统中拍摄镜头的又一光路图。
图10是本发明又一实施例提供的三维显示系统中拍摄镜头的成像示意图。
图11是本发明又一实施例提供的三维显示系统中处理单元进行图像处理得到第三视差图像的流程示意图。
图12是本发明又一实施例提供的三维显示系统中第二视差图像与第一视差图像左右镜像示意图。
图13是本发明又一实施例提供的三维显示系统中第二视差图像与第一视差图像上下倒立的示意图。
图14是本发明又一实施例提供的三维显示系统中第二视差图像是第一视差图像的缩小图像的示意图。
图15是本发明又一实施例提供的三维显示系统中第二视差图像是第一视差图像的放大图像的示意图。
图16是本发明又一实施例提供的三维显示系统中处理单元生成3D帧画面图像的生成过程流程图。
图17是本发明又一实施例提供的三维显示系统中处理单元将第三视差图像处理成3D格式下的第一帧画面图像的过程流程图。
图18是本发明又一实施例提供的三维显示系统中角点位置示意图。
图19是本发明又一实施例提供的三维显示系统中图像重叠示意图。
图20是本发明又一实施例提供的三维显示系统中第四视差图像示意图。
图21是本发明又一实施例提供的三维显示系统中第一帧图像和第二帧图像交替排列示意图。
图22是本发明又一实施例提供的三维显示系统中光学转换器件示意图。
图23是本发明又一实施例提供的三维显示系统中第二摄像头示意图。
图24是本发明又一实施例提供的三维显示系统中调整预设宽度示意图。
图25是本发明又一实施例提供的三维显示系统中处理单元根据面部图像解析得到人物对象的眼球位置信息流程示意图。
图26是本发明又一实施例提供的三维显示方法流程图。
图27是本发明实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本发明实施例的目的,不是旨在限制本发明。
裸眼三维显示(three-dimensional,3D)又称裸眼3D显示,其相比较二维显示,人物对象能够从中获得更多的信息。裸眼3D显示就是不借助偏振光眼镜等外部工具,在平面里显示三维图形,实现立体视觉效果。
相关技术中,用于裸眼3D显示的三维显示系统都是利用拍摄设备生成二维视频或图像后,发送到另一台用于进行三维显示的设备进行处理,从而形成三维观看效果,其实现三维显示的过程需要多台设备共同操作,三维显示系统较复杂。
基于此,本发明实施例提供一种三维显示系统、三维显示方法、电子设备和存储介质,其中三维显示系统通过拍摄镜头将拍摄目标的光信号分成两路,形成拍摄目标的第一视差图像和第二视差图像,再通过处理单元对第二视差图像进行处理,得到与第一视差图像相匹配的第三视差图像,再利用第一视差图像和第三视差图像进行融合得到3D帧画面图像,最后利用设置于显示单元表面的光学转换器件将3D帧画面图像投射到人物对象的视野范围,利用外置的拍摄镜头与光学转换器件使得一台设备即可实现实时裸眼的三维显示过程,降低三维显示系统的系统复杂度。
本发明实施例提供三维显示系统、三维显示方法、电子设备和存储介质,具体通过如下实施例进行说明,首先描述本发明实施例中的三维显示系统。
参照图1,本申请实施例中一种三维显示系统10包括:第一摄像头200、拍摄镜头100、处理单元300和三维显示模组400,其中三维显示模组400包括显示单元410和光学转换器件420。
在一实施例中,第一摄像头200、处理单元300和显示单元410可以是同一个电子设备的功能部件,该电子设备利用第一摄像头200完成拍照或摄像功能,以及利用处理单元300进行运算处理能力,再利用显示单元410进行画面显示。在该电子设备上安装拍摄镜头100和用于三维显示的光学转换器件420即可得到本实施例中的三维显示系统10。
电子设备可以是手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本或者个人数字助理(personal digital assistant,PDA)等,非移动电子设备可以为网络附属存储器(Network Attached Storage,NAS)、个人计算机(personal computer,PC)、电视机(television,TV)、柜员机或者自助机等,本申请实施例不作具体限定。
参照图2a和图2b,第一摄像头200安装在电子设备上,本实施方式中,电子设备为手机。其它实施方式中,电子设备可以为平板、照相机等其它形态的具有拍摄功能的设备。电子设备的背面上部左上角安装有第一摄像头200,电子设备外的光线入射至第一摄像头200,然后第一摄像头200采集光线进行成像。可以理解的是,图2a和图2b所示实施方式的电子设备的第一摄像头200的安装位置仅仅是示意性的。在一些其他的实施方式中,第一摄像头200也可以安装于电子设备上的其他位置。第一摄像头200可以安装于电子设备的背面的上部中间或右上角等。本实施例对第一摄像头200的安装位置不做任何限定。
同时,第一摄像头200可以是超广角镜头、广角镜头、主摄镜头、长焦镜头、2倍长焦镜头、单目镜头、红外镜头、深感镜头等。本实施例对第一摄像头200的类型也不做任何限定。另外,第一摄像头200的数量也可以是N个,N为大于等于1的整数,图2中以3个为例进行说明。如果电子设备中包含多个第一摄像头,则基于拍摄需求从中选取一个摄像头作为目标摄像头,这里的目标摄像头即本实施例中的第一摄像头200。例如,可以选取多个摄像头中的主摄像头作为目标摄像头。可以理解的是,本实施例对第一摄像头200的数量不做任何限定。
参照图2a和图2b,拍摄镜头100安装在第一摄像头的上方(图中虚线框出区域),拍摄镜头100包含棱镜110和外壳120(图中黑框所示),外壳120为柱状结构,柱状结构的上方具有第一开口。图2b是沿着垂直于第一开口的方向正对着电子设备的视角的示意图,结合图2b可知,该柱状结构中棱镜110贴合于外壳120的内部的一侧(图2b中示出的上侧),同时棱镜110设置于摄像头200的上方,外壳120的另一侧的内壁和棱镜110之间形成第一空腔。外壳120的下方具有第二开口,并且第二开口贴近摄像头平面,用于容纳第一摄像头。本实施例对第二开口的大小不做具体限定,只需要保证能够参照图2b的示意图,第二开口能够容纳摄像头200,这里定义摄像头平面为摄像头200的镜头表面所在平面。
在一实施例重,参照图3,棱镜110置于第一摄像头200的上方,将第一摄像头200的镜头表面分为第一区域Q1和第二区域Q2,拍摄目标的第一初始光信号到达第一区域Q1在第一区域形成第一视差图像,拍摄目标的第二初始光信号经过棱镜后进入第二区域Q2形成第二视差图像,第二视差图像与第一视差图像之间具有视差。
参照图3,棱镜110贴合于外壳120的内部的一侧,外壳120的上方具有第一开口,图中以K1对第一开口进行示意,外壳120的另一侧的内壁和棱镜110之间形成第一空腔。同时,棱镜110设置于第一摄像头200的上方,外壳120的下方具有第二开口,图中以K2对第二开口进行示意,第二开口K2不连续的区域代表容纳第一摄像头的区域。
其中,棱镜110贴合第一摄像头200的镜头表面,棱镜110的第一棱镜面111垂直于第一摄像头200,第一棱镜面111的向着第一摄像头200方向的延展面将第一摄像头200的镜头表面划分成第一区域Q1和第二区域Q2,棱镜110的第一棱边L1与第一摄像头200的镜头表面接触,或者即使未接触也处于非常接近的位置。在一实施例中,第一棱边L1的长度需要大于或者等于第一摄像头200的直径。
图3中拍摄目标AB位于第一摄像头200的拍摄范围,拍摄目标AB发出两路光信号,分别是第一初始光信号S1,第一初始光信号S1通过第一开口K1,经过第一空腔后进入第一摄像头200的第一区域Q1。同时,拍摄目标AB的另一路光信号为第二初始光信号S2,第二初始光信号S2通过第一开口K1,经过棱镜110的入光面113进入棱镜110,经过棱镜110的出光面115出射后进入第一摄像头200的第二区域Q2,图中以S2’表示经过出光面115出射的第二初始光信号S2。可以理解的是图中第一初始光信号S1和第二初始光信号S2的光路都仅作示意,不限定真实光路。
由上述可见,第一区域Q1接收的第一初始光信号S1和第二区域Q2接收的出光面出射的光信号S2’,是同一个拍摄目标在微小视差下的光信号,因此拍摄目标在第一区域Q1形成第一视差图像,在第二区域Q2形成与第一视差图像相对应的第二视差图像。此时得到的第一视差图像和第二视差图像可以用于三维显示,并能产生较好的显示效果。
接着描述棱镜110的详细结构,在一实施例中,图4是一实施例中棱镜的示意图,图5为图4中棱镜的六视图。棱镜的六视图包括:主视图、左视图、右视图、俯视图、仰视图和后视图。
参照图4,棱镜110包括:第一棱镜面111、第二棱镜面112、入光面113、反射面114、出光面115、第一斜面116和第二斜面117。
其中,第一棱镜面111分别与入光面113和出光面115相交,入光面113的另一端与反射面114相交构成第二棱边L2,出光面115的另一端与第二棱镜面112相交,构成第一棱边L1,第二棱镜面112的另一端与反射面114相交。同时,入光面113和反射面114的夹角构成第一夹角,第一棱镜面111和出光面115的夹角构成第二夹角,第二棱镜面112和反射面114的夹角构成第三夹角。
图4中棱镜110还包括:第一斜面116和第二斜面117,其中第一斜面116和第二斜面117均与第一棱镜面111垂直。可以理解的是,通过第一斜面116和第二斜面117将第一棱镜面111、第二棱镜面112、入光面113、反射面114和出光面115构成的棱柱状结构进行切割即可得本实施例的棱镜110。假设第一棱边L1的两个端点为第一顶点D1和第二顶点D2,第二棱边L2的两个端点为第三顶点D3和第四顶点D4,此时第一顶点D1和第三顶点D3构成第一斜边,第二顶点D2和第四顶点D4构成第二斜边,第一斜面116通过第一斜边,第二斜面117通过第二斜边。
另外,结合图5和图4,出于成本考虑,设定第一棱边L1和第二棱边L2的长度不同,因此第一斜面116和第二斜面117将棱镜110切割成如图5所示的梯形类结构,但是不代表本申请实施例中棱镜110只能是梯形类结构,如果第一棱边L1与第二棱边L2的长度相同,则棱柱的主视图就变为矩形形状。本实施例对第一棱边L1与第二棱边L2之间的长度关系不做具体限定。
图6为一实施例中第一棱镜面与第一摄像头之间的位置关系示意图。
参照图6,该实施例中第一摄像头的形状为圆形,由于第一棱镜面垂直于第一摄像头片平面,也就是垂直于镜头表面,因此第一棱镜面在镜头表面产生的投影是一条线,即图中投影线L3,投影线L3将镜头表面划分成第一区域Q1和第二区域Q2,也就是说投影线L3是第一区域Q1和第二区域Q2的交界线。
该实施例中,投影线L3刚好位于镜头表面的中线,因此第一区域Q1和第二区域Q2的大小相同,即投影线L3将镜头表面进行二等分,但是本申请实施例中并不对投影线L3是否一定位于镜头表面的中线进行限定,投影线L3可以与中线具有偏差,这种偏差会影响第一视差图像和第二视差图像的准确性,从而影响后续三维显示的成像效果。一般来说说,投影线L3越靠近镜头表面的中线,第一视差图像和第二视差图像的准确性越好,后续三维显示的成像效果也越好。可以理解的是,本实施例只需要这种偏差在可接受范围内即可,也就是说结合图6,投影线L3可以偏左或者偏右一定的范围。
图6中还示出了第一棱边L1在镜头表面生成垂直于交界线(即投影线L3)的多个线段,在其中选择最长线段作为第一线段,第一线段会经过镜头表面的圆心。该实施例中,定义第一线段与第一区域Q1的边缘形成的交点为第一端点C1,第一线段与投影线L3形成的交点为第二端点C2,第一线段与第二区域Q2的边缘形成的交点为第三端点C3。
图7为一实施例中拍摄镜头的结构示意图。
参照图3和图7,外壳120包括:与棱镜相对设置的具有第一高度h1的第一外壳壁W1,第一外壳壁W1包含第一外壳边R1,这里的第一外壳边R1是第一外壳壁W1在第一开口K1区域的边。参照图6,第一外壳边R1可以是直线,也可以是曲线,第一外壳边R1上包含第一顶点M1,当第一外壳边R1是直线时,第一顶点M1可以是第一外壳边R1上的任意位置,当第一外壳边R1是曲线时,第一顶点M1是第一外壳边R1上峰值最高的位置。其中,第一高度h1定义为第一顶点M1与摄像头平面的垂直距离。
参照图7,由于有外壳120对摄像头200的遮挡,因此摄像头200的视场角会发生变化,其拍摄范围也会随之变化。该实施例中,将摄像头200的在外壳120影响下的拍摄范围称为有效拍摄范围(图中阴影部分所示)。
其中,镜头表面的第一端点C1与第一外壳边R1构成摄像头200的有效视场角的第一边界面,第一棱镜面111的延展面构成摄像头200的有效视场角的第二边界面,然后第一边界面和第二边界面限定出摄像头的有效拍摄范围,如图中阴影部分所示。在有效拍摄范围内的拍摄目标,其第一初始光信号S1进入第一区域Q1,其第二初始光信号S2通过棱镜110进入第二区域Q2。可见,有效拍摄范围与第一外壳壁W1的高度和位置均有关系。
图8是一实施例中拍摄镜头的光路图。
图中假设拍摄目标AB包括两个边界点,分别是第一拍摄边界点A和第二拍摄边界点B,由于拍摄目标AB包含第一初始光信号和第二初始光信号,因此针对两个边界点,第一初始光信号S1包括:第一拍摄边界点A出射的第一边界光信号g1和第二拍摄边界点B出射的第二边界光信号g2,第二初始光信号S2包括:第一拍摄边界点A出射的第三边界光信号g3和第二拍摄边界点B出射的第四边界光信号g4。
分析光路图可知,第一边界光信号g1在有效拍摄范围内,经过第一空腔到达第一区域Q1的第一端点C1,第一摄像头200在第一端点C1的位置对第一拍摄边界点A成像。同时,第二边界光信号g2在有效拍摄范围内,经过第一空腔,沿着第一棱镜面111到达第一区域的第二端点C2,第一摄像头200在第二端点C2的位置对第二拍摄边界点B成像,因此,参照图10,第一区域Q1会形成关于拍摄目标AB的第一视差图像。
另一方面,由于第二初始光信号S2从入光面113进入棱镜110得到第一光信号,第一光信号经过反射面114的反射得到第二光信号,第二光信号从出光面115射出得到目标光信号,目标光信号到达镜头表面的第二区域。当第二初始光信号S2为第三边界光信号g3时,第一光信号为第一边界点第一光信号g31,第二光信号为第一边界点第二光信号g32,目标光信号为第一边界点目标光信号g33;当第二初始光信号S2为第四边界光信号g4时,第一光信号为第二边界点第一光信号g41,第二光信号为第二边界点第二光信号g42,目标光信号为第二边界点目标光信号g43。因此光路描述如下:
第三边界光信号g3从入光面113进入棱镜110,由于其并非垂直入射到入光面113,因此第三边界光信号g3在经过入光面113后发生折射,折射改变了第三边界光信号g3的传播方向生成第一边界点第一光信号g31,第一边界点第一光信号g31在棱镜110内部继续传播,经过反射面114对其进行反射,反射改变了第一边界点第一光信号g31的传播方向生成第一边界点第二光信号g32,第一边界点第二光信号g32在棱镜110内部继续传播,到达出光面115,图中以第一边界点第二光信号g32刚好从第一棱边射出为例进行说明,因此第一边界点第二光信号g32穿过出光面115到达第二区域的第一到达点F1。
同时,第四边界光信号g4从入光面113进入棱镜110,由于其并非垂直入射到入光面113,因此第四边界光信号g4在经过入光面113后发生折射,折射改变了第四边界光信号g4的传播方向生成第二边界点第一光信号g41,第二边界点第一光信号g41在棱镜110内部继续传播,经过反射面114对其进行反射,反射改变了第二边界点第一光信号g41的传播方向生成第二边界点第二光信号g42,第二边界点第二光信号g42在棱镜110内部继续传播,到达出光面115,由于其并非垂直入射到出光面115,因此出光面115在接触点发生折射,折射改变了第二边界点第二光信号g42的传播方向生成第二边界点目标光信号g43,因此第二边界点目标光信号g43穿过出光面115到达第二区域的第二到达点F2。
由上述可见,参照图9,如果第一边界点第二光信号g32并非刚好从第一棱边射出,其会在出光面115发生折射生成第一边界点目标光信号g33,则第一边界点目标光信号g33的第一到达点F1’会更接近第二端点C2。
参照图9,第四边界光信号g4直接透过入光面,并且第一边界点目标光信号g33是第一边界点第二光信号g32经过出光面折射得到的。因此本申请实施例中,第二初始光信号经过入光面时,可以是折射通过也可以是直接透过产生第一光信号,第二光信号经过出光面时,可以是折射通过也可以是直接透过产生目标光信号。可以理解的是,通过调整棱镜110的折射率、第一夹角和/或第二夹角来设计第二初始光信号经过入光面或第二光信号经过出光面的通过方式,本实施例对此不做具体限定。
分析光路图可知,第三边界光信号g3最终到达第二区域Q2的第一到达点F1,第一摄像头200在第一到达点F1的位置对第一拍摄边界点A成像,表示为A’。同时,第四边界光信号g4最终到达第二区域Q2的第二到达点F2,第一摄像头200在第二到达点F2的位置对第二拍摄边界点B成像,表示为B’,因此,参照图10,第二区域Q2会形成关于拍摄目标AB的第二视差图像。同时第二区域Q2形成的第二视差图像是第一视差图像的镜像图像,或者镜像缩放的第一视差图像的镜像图像。
在一实施例中,参照图10,第一到达点F1位于第一端点C1的镜像位置或第一临近镜像位置,第二到达点F2位于第二端点C2的镜像位置或第二临近镜像位置,以在第二区域形成与第一视差图像镜像或镜像缩放的第二视差图像。其中,第一端点C1的镜像位置为第三端点C3,第二端点C2的镜像位置为其本身,因此第一镜像位置是第三端点C3的朝向第二端点C2一侧的小范围区域,第二镜像位置是第二端点C2的朝向第三端点C3一侧的小范围区域。这里的小范围区域的大小会影响第二区域Q2中成像的缩放值,因此小范围区域的大小根据成效效果需求或棱镜加工工艺来选定,可以理解的是,如果第二区域Q2中形成的第二视差图像是镜像缩放的第一视差图像的镜像图像,则后续进行三维显示时,需要对第二视差图像进行对应的放大处理以和第一视差图像进行大小匹配。本实施例对第一到达点F1和第二到达点F2的位置不进行限定。
镜像缩放指的是第二视差图像与第一视差图像有镜像关系,但是存在一定的缩小或放大比例。这是因为第二初始光信号经过了棱镜的折射、和反射,第二区域接收到的目标光信号与第一区域接收到的第一初始光信号产生镜像倒置关系。如果第一到达点F1位于第一端点C1的第一临近镜像位置,或者第二到达点F2位于第二端点C2的第二临近镜像位置,此时第二区域的光信号的成像距离被缩小,导致第二区域的第二视差图像相比较于第一视差图像具有缩放特征,具体缩小或放大比例会跟入光面和/或出光面的角度设计以及棱镜材质的折射率有关。
在一实施例中,为了取得理想的拍摄效果,通过调整棱镜110的折射率、第一夹角和/或第二夹角,使得第一到达点F1的位置为第三端点C3,第二到达点F2的位置为第二端点C2,以在第一区域Q1形成第一视差图像,在第二区域Q2形成与第一视差图像形成镜像的第二视差图像。
由于第一摄像头的焦距不同,因此在一实施例中根据第一摄像头的焦距设定第二棱边的长度,第二棱边的长度与第一摄像头的焦距正相关,即焦距越大,第二棱边的长度随之增加,因为如果焦距过大,而第二棱边过短,就会产生边框遮挡,影响成像效果。例如一实施例中,焦距为24mm,可以设定第二棱边为41mm,焦距为26mm,可以设定第二棱边为46.7mm。可以理解的是,焦距大小和第二棱边长度之间的相关性可以根据实验得到,本实施例对此不做具体限定。
由上述可知,如果拍摄镜头只使用平面镜进行反射,则需要使用非常大的平面镜才能保证手机镜头拍摄的镜像完整,这将导致设备体积过大,不适合作为手机的外挂镜头,因此本申请实施例利用棱镜结构的设计可以解决平面镜体积过大的问题,只需使用很小的体积就能使拍摄画面全反射,并获得完整的镜像成像,这使得该设计更加便携实用。
在一实施例中,电子设备可以进行横屏拍摄或竖屏拍摄,拍摄镜头的安装位置可以是上下安装或左右安装,具体的安装方式可以根据需求设定,不同的安装位置得到的第一视差图像和第二视差图像不同。参照图1或图2所示,在竖屏拍摄时,上下安装拍摄镜头,将镜头表面进行上下划分得到第一区域和第二区域,此时得到的第一视差图像和第二视差图像为上下镜像对应的图像。此时如果转为竖屏拍摄,则拍摄镜头后将镜头表面进行左右划分得到第一区域和第二区域,得到的第一视差图像和第二视差图像为左右镜像对应的图像。或者在一实施例中,如果在竖屏拍摄时,左右安装拍摄镜头,将镜头表面进行左右划分得到第一区域和第二区域,此时第一视差图像和第二视差图像为左右镜像对应的图像。此时如果转为横屏拍摄,则拍摄镜头后将镜头表面进行上下划分得到第一区域和第二区域,得到的第一视差图像和第二视差图像为上下镜像对应的图像。
由上述可知,本申请实施例通过拍摄镜头和第一摄像头的结合能够直接得到关于拍摄目标的具有视差的两组图像,分别是第一视差图像和第二视差图像,下面描述处理单元的图像处理过程。
在一实施例中,处理单元300位于电子设备内部,图2和图3中均未示出。处理单元300与第一摄像头200在电子设备内部通过电性连接,例如处理单元300通过访问第一摄像头200的内部数据接口,获取第一摄像头200拍摄的图像数据。该实施例中,处理单元300通过摄像头数据接口获取第一摄像头200拍摄的第一视差图像和第二视差图像,然后根据第一视差图像对第二视差图像进行图像处理得到第三视差图像,接着处理单元300还利用第一视差图像和第三视差图像生成3D帧画面图像。
在一实施例中,参照图11,处理单元300根据第一视差图像对第二视差图像进行图像处理得到第三视差图像时,执行下述以下步骤:
步骤S1110:若第二视差图像为第一视差图像的镜像图像,对第二视差图像进行镜像恢复处理,得到与第一视差图像相匹配的第三视差图像。
在一实施例中,第二视差图像是与第一视差图像左右镜像、上下镜像或者多次镜像操作之后的图像,因此需要通过图像几何变换,将第二视差图像进行镜像翻转,得到第三视差图像。参照图12,为第二视差图像是与第一视差图像左右镜像示意。由于图像以像素点形式存储,通过改变像素点的空间位置即可实现图像的几何变换,具体是建立一种原图像像素与变换后图像像素之间的映射关系,通过这种映射关系实现图像的几何变换。
在一实施例中,如果只是经过一次镜像,则通过在OpenCV中调用函数flip()将第二视差图像进行镜像翻转得到第三视差图像,调用关系表示为:dst=cv2.flip(src,flipCode),其中,src表示第二视差图像,flipCode表示翻转方向(如果flipCode为0,则以X轴为对称轴翻转,如果flipCode>0,则以Y轴为对称轴翻转,如果flipCode<0,则在X轴,Y轴方向同时翻转),该实施例中,flipCode为0,表示对第二视差图像进行上下翻转得到第三视差图像;flipCode>0,表示第二视差图像进行左右翻转得到第三视差图像;flipCode<0,表示第二视差图像进行左右翻转之后进行上下翻转得到第三视差图像;
步骤S1120:若第二视差图像为第一视差图像的旋转图像,对第二视差图像进行旋转恢复处理,得到与第一视差图像相匹配的第三视差图像。
在一实施例中,第二视差图像是与第一视差图像旋转之后的图像。参照图13,第二视差图像是与第一视差图像上下倒立的图像,即第二视差图像为第一视差图像经过180°旋转之后的倒立图像,因此需要通过图像几何变换,将第二视差图像进行九十度旋转得到第三视差图像。可以理解的是,这里的旋转可以根据实际需求选择顺时针或者逆时针,图中以顺时针90°为例进行说明。
在一实施例中,通过OpenCV中调用图像旋转相关函数读第二视差图像进行处理,例如getRotationMatrix2D()函数和wrapAffine()函数,得到第三视差图像。其中,OpenCV中图像旋转相关函数能够实现绕图像的中心旋转。
例如,首先调用getRotationMatrix2D()函数,表示为:
M=cv2.getRotationMatrix2D((cols/2,rows/2),90,1)
其中,函数的参数具体是:M表示旋转参数,cols和rows表示第二视差图像的镜像翻转图像的宽和高,表示旋转度数为180,scale表示旋转像素数量。
然后调用wrapAffine()函数,表示为:
rotated=cv2.warpAffine(src,M,(cols,rows))
其中,函数的参数具体是:src表示第二视差图像的镜像翻转图像,M表示上述旋转参数参数。
步骤S1130:若第二视差图像为第一视差图像的缩小图像,对第二视差图像进行镜像放大处理,得到与第一视差图像相匹配的第三视差图像。
步骤S1140:若第二视差图像为第一视差图像的放大图像,对第二视差图像进行镜像缩小处理,得到与第一视差图像相匹配的第三视差图像。
在一实施例中,第二视差图像为第一视差图像的缩小或放大图像,即参照图10,第一到达点F1位于第一端点C1的第一临近镜像位置或者第二到达点F2位于第二端点C2的第二临近镜像位置,从而在第二区域形成与第一视差图像镜像缩放的第二视差图像。这里的镜像缩放指的是第二视差图像与第一视差图像有镜像关系,但是存在一定的缩小或放大比例。这是因为第二初始光信号经过了棱镜的折射、和反射,第二区域接收到的目标光信号与第一区域接收到的第一初始光信号产生镜像倒置关系。如果第一到达点F1位于第一端点C1的第一临近镜像位置,或者第二到达点F2位于第二端点C2的第二临近镜像位置,此时第二区域的光信号的成像距离被缩小,导致第二区域的第二视差图像相比较于第一视差图像具有缩放特征,具体缩小或放大比例会跟入光面和/或出光面的角度设计以及棱镜材质的折射率有关。
在一实施例中,参照图14,第二视差图像为第一视差图像的缩小图像,参照图15,第二视差图像为第一视差图像的放大图像,则图14中需要通过对第二视差图像进行图像放大改变大小之后得到第三视差图像,其中第三视差图像的图像大小和第一视差图像的大小一致。图15中需要通过对第二视差图像进行图像缩小改变大小之后得到第三视差图像,其中第三视差图像的图像大小和第一视差图像的大小一致。
上述实施例中,缩放后图像的宽度和高度会发生变换,利用水平缩放系数,控制图像宽度的缩放,其值为1,则图像的宽度不变;垂直缩放系数控制图像高度的缩放,其值为1,则图像高度不变。如果水平缩放和垂直缩放系数不相等,那么缩放后图像的宽度和高度的比例会发生变换,会使图像变形。因此本实施例中为了保持生成的第三视差图像的宽度和高度的比例与第二视差图像一致,设定水平缩放系数和垂直缩放系数相等。
在一实施例中,基于OpenCV的缩放实现上述步骤S1130和步骤S1140的缩放过程,图像缩放主要调用resize()函数实现,具体函数调用表示为:def=resize(src,dsize,dst=None,fx=None,fy=None,interpolation=None),其中函数中参数含义依次是:src表示第二视差图像,dsize表示第一视差图像的大小,并且,dsize=Size(round(fx*src.cols),round(fy*src.rows))其中fx和fy是第二视差图像中宽度width方向和高度height方向的缩放比例,fx是width方向的缩放比例,如果是0,那么就会按照(double)dsize.width/src.cols来计算;fy是height方向的缩放比例,如果是0,那么就会按照(double)dsize.height/src.rows来计算;interpolation表示指定插值的方式,由于图像缩放之后,像素要进行重新计算的,因此需要利用插值方式指定重新计算像素的方式,插值方式一般有以下几种:最邻近插值、双线性插值、使用像素区域关系进行重采样、4x4像素邻域内的双立方插值或8x8像素邻域内的Lanczos插值等。
可以理解的是,本发明实施例中以基于OpenCV实现对第二视差图像的处理来得到第三视差图像,并不代表为对本发明实施例的限制。
在一实施例中,对于上述步骤S1140,若第二视差图像为第一视差图像的放大图像,参照图15,可见第二视差图像中拍摄目标的完整性比第一视差图像中拍摄目标差,即第二视差图像中可能出现拍摄目标显示不完全的现象,因此,得到的第三视差图像与第一视差图像中拍摄目标会出现一定的偏差,可以通过调节棱镜,使得这种偏差在可接受范围内。
由上述可知,处理单元根据第一视差图像对第二视差图像进行处理得到与第一视差图像匹配的第三视差图像。下面描述处理单元利用第一视差图像和第三视差图像生成3D帧画面图像的过程。参照图16,3D帧画面图像的生成过程包括:
步骤S1610:将第三视差图像处理成3D格式下的第一帧画面图像,以及将第一视差图像处理成3D格式下的第二帧画面图像。
在一实施例中,参照图17,将第三视差图像处理成3D格式下的第一帧画面图像的过程包括:
步骤S1611:对变换恢复后的第三视差图像与第一视差图像进行图像比对,得到表征图像之间重合度的比对结果。
在一实施例中,步骤S1611包括以下步骤:
首先识别第三视差图像中的目标特征,得到目标特征在第三视差图像中的第一目标角点。然后识别第一视差图像中的目标特征,得到目标特征在第一视差图像中的第二目标角点。接着将第三视差图像和第一视差图像进行重叠,并对第一目标角点和第二目标角点进行虚拟重合对比,根据角点之间的重合度得到表征图像之间重合度的比对结果。
在一实施例中,第一目标角点是标记拍摄目标的预设位置在第三视差图像中的位置,第二目标角点是标记拍摄目标的预设位置在第一视差图像中的位置。参照图18,图中拍摄目标的预设位置设定为人物额头中央位置,将第三视差图像中人物额头中央位置定位第一目标角点,将第一视差图像中人物额头中央位置定位第二目标角点。可以理解的是,第一目标角点和第二目标角点的设定可以预先设定,例如拍摄目标为人物时,可以选择人物较为明显的特征点,如眼睛、额头、鼻子或嘴巴等;拍摄目标为风景时,可以选择特定风景内容,例如房子、车辆、树木、道路、山川或河流等。也可以在第一视差图像中随机选择第二目标角点,然后根据第二目标角点对应的像素点在第三视差图像中计算与其最为相似的像素点。本实施例对此不做具体限定。
在一实施例中,参照图19,将图18中第一视差图像和第三视差图像进行重叠,重叠过程中,判断第一目标角点与第二目标角点之间的距离,根据距离得到角点之间的重合度,由于重合度可以用来表征第一视差图像和第三视差图像的重合关系,从而根据角点之间的重合度得到表征图像之间重合度的比对结果。可以理解的是,两个角点之间的距离和重合度之间的对应关系,可以预先根据实际需求将其作为图表形式存储,在使用时通过查表得到距离对应的重合度。
步骤S1612:根据比对结果对第三视差图像进行图像校准,得到校准后的第四视差图像,以使校准后的第四视差图像与第一视差图像之间的重合度满足预设要求。
在一实施例中,如果重合度不满足预设要求,则通过平移调整第三视差图像,在移动过程中,不断计算重合度,直至重合度符合预设要求。当移动之后重合度符合预设要求,此时,第三视差图像变为第四视差图像。参照图20,移动过程满足预设要求时,第三视差图像为图中粗实线所示,第三视差图像中包含两部分,分别是和第一视差图像之间的重叠部分Q3和第一不重叠部分Q4,其中,第一视差图像中包括重叠部分Q3和第二不重叠部分Q5。由于第三视差图像和第一视差图像为同一个拍摄目标不同视角的图像,因此两者之间具备较高的相似性,通过重合度能够确保两者的主体部分重合情况满足要求,对用户来说,图像边界的影响度较低,因此将第三视差图像的主体部分(即重叠部分Q3)和第一视差图像的边缘部分(即第二不重叠部分Q5)合并在一起得到第四视差图像,第四视差图像的大小和第一视差图像相同。
步骤S1613:将校准后的第四视差图像处理成3D格式下的第一帧画面图像。
在一实施例中,为了进行后续的三维显示,根据预设宽度将第四视差图像依次切分得到多个预设宽度的第一帧图像,将多个预设宽度的第一帧图像以第一排列顺序排列,即可得到包含多个第一帧图像的第一帧画面图像。参照图20,这里的第一帧画面图像是一种图像序列,其中的第一帧图像按照第一排列顺序排列,第一排列顺序可以是从左到右从1数到N,N为大于等于1的整数。第一排列顺序可以根据实际需求设定。
同时,在一实施例中,根据预设宽度将第一视差图像依次切分得到多个预设宽度的第二帧图像,将多个预设宽度的第二帧图像以第二排列顺序排列,即可得到包含多个第二帧图像的第二帧画面图像。第一排列顺序可以根据实际需求设定。第二排列顺序可以根据实际需求设定。
可以理解的是,第一帧画面图像和第二帧画面图像之间互为左右格式图像,即一个的出射目标为左眼,另一个的出射目标为右眼。并且,上述预设宽度的设定可根据实际需求来。
步骤S1620:将第一帧画面图像与第二帧画面图像进行融合拼接,得到3D格式下的3D帧画面图像。
在一实施例中,融合拼接的过程即根据第一排列顺序和第二排列顺序,依次将第一帧图像和第二帧图像交替排列,得到3D帧画面图像。
参照图21,将第一帧画面图像作为出射到左眼的左图像,将第二帧画面图像作为出射到右眼的右图像,依次交替将左图像和右图像进行排列,即可得到3D帧画面图像。
由上述过程中,得到用于显示的3D帧画面图像,下面描述对3D帧画面图像进行三维显示的过程。
显示单元410与处理单元300电性连接,用于接收处理单元300发送的3D帧画面图像进行显示。该实施例中,显示单元410可以是电子设备的显示屏,将光学转换器件420覆盖于显示单元的显示平面上,能够将二维的3D帧画面图像转化进行三维显示,光学转换器件420可以将显示单元410出射的光束转换为出射到人物对象的左眼的左眼光束和出射到人物对象的右眼的右眼光束,以此实现三维显示。
在一实施例中,根据裸眼3D的显示技术,光学转换器件420可以是狭缝式液晶光栅设备、柱状透镜或者指向光源设备等。
在一实施例中,光学转换器件420为狭缝式液晶光栅设备,其技术原理是在显示单元410的屏幕前加了一个狭缝式光栅之后,应该由左眼看到的图像会出射到用户的左眼,此时不透明的条纹会遮挡右眼;同理,应该由右眼看到的图像会出射到用户的右眼,此时不透明的条纹会遮挡左眼,通过将左眼和右眼的可视画面分开,使用户能够看到3D影像,将显示单元410上显示的3D帧画面图像转化为三维显示的内容。
在一实施例中,参照图22,光学转换器件420为柱状透镜,其技术原理是通过透镜的折射原理,将左右眼对应的像素点分别投射在左右眼中,实现图像分离,使用户能够看到3D影像,将显示单元410上显示的3D帧画面图像中左图像和右图像转化为左右眼分别看到的三维显示的内容。
在一实施例中,光学转换器件420为指向光源设备,其技术原理是搭配两组LED,配合快速反应的LCD面板和驱动方法,让3D内容以排序方式,进入观看者的左右眼互换影像产生视差,进而让人眼感受到3D三维效果。
在一种实施例中,光学转换器件420可以做成贴膜形式,贴在显示单元410的屏幕上方。其中,光学转换贴膜为狭缝式液晶光栅型贴膜、柱状透镜型贴膜或指向光源型贴膜等,即将上述狭缝式液晶光栅、柱状透镜或指向光源设备等做成特殊结构的光学转换贴膜,可以是手机贴膜的形式,并能够按照不同显示单元410(例如手机或平板)的型号,设置不同的大小和规格。使用时,将该光学转换贴膜贴在显示单元410的屏幕上,在显示3D帧画面图像时,通过手机贴膜将其转换成三维形式进行显示,达到裸眼3D显示的效果,实现利用一台设备实现裸眼三维显示过程,包括图像采集、图像处理和图像显示的全过程,扩展电子设备的应用场景。
由于用户的观看距离和角度不同,在一实施例中,为了更好的显示效果,通过获取用户的观看距离调节显示内容。该实施例中,参照图23,三维显示系统还包括:第二摄像头500,第二摄像头500与处理单元300电性连接,第二摄像头500用于获取人物对象的面部图像,并将面部图像发送至处理单元300。这里的第二摄像头500可以是电子设备上设置的前置摄像头,其与第一摄像头200类似,通过摄像头接口与处理单元300连接。使用前置摄像头的好处是无需额外设置传感器或摄像头,即可实现图像的获取,成本低,适用于现有技术中的智能手机、平板电脑、3D训练终端等设备中。
然后处理单元300根据面部图像解析得到人物对象的眼球位置信息,这里的眼球位置信息用于表征人物对象眼睛眼球的位置。需要说明的是,本发明实施例中的面部图像,可以由前置摄像头直接识别到用户的面部获取得到,在一实施例中,面部图像由前置摄像头获取的图像进行裁剪处理得到,例如,终端通过前置摄像头获取图像,图像中包含了用户的面部,也将可能包含一些其他杂物,可能会对眼球识别造成干扰,因此本发明实施例通过对图像进行裁剪,裁剪去用户的面部区域得到面部图像,以提高识别的准确率。
上述实施例中,处理单元得到根据眼球位置信息对预设宽度进行调节,即调节第一帧画面图像中第一帧图像和第二帧画面图像中第二帧图像的预设宽度,改变了预设宽度,则第一帧图像和第二帧图像的数量会发生变化。参照图24,调整预设宽度的目的是不同观看距离的情况下,第一视差图像以第一方向出射至人物对象的左眼,第三视差图像以第二方向出射至人物对象的右眼。
在一实施例中,参照图25,处理单元根据面部图像解析得到人物对象的眼球位置信息时执行以下步骤:
步骤S2510:基于预设的检测器对面部图像进行人脸眼睛区域检测,得到眼眶位置信息。
步骤S2520:将面部图像转换为灰度图像,并对灰度图像进行二值化处理,得到第一预处理图像。
步骤S2530:对第一预处理图像进行腐蚀和膨胀处理,并剔除图像中的噪声,得到第二预处理图像,并利用圆形的结构元素提取第二预处理图像中表征人物对象眼睛眼球的圆形区域的位置,得到人物对象眼睛的眼球位置信息。
上述实施例中,眼眶位置信息表示的是用户眼眶的位置,眼眶是指人脸上眼皮的边缘所构成的框,是容纳眼球等组织的类似四边锥形的骨腔,左右各一,互相对称,且成人眶深约4到5cm。可以理解的是,本发明实施例中可以获取用户双眼的眼眶位置信息,也可以只获取其中一只眼睛的眼眶位置信息,基于先验知识得到另一只眼睛的眼眶位置信息,本实施例对此不做具体限制。
需要说明的是,本发明实施例中通过图像处理实现对面部图像进行识别,从而得到所需要的眼眶位置信息,具体的,本发明实施例基于预设的检测器对面部图像进行人脸眼睛区域检测,得到眼眶位置信息,并将面部图像转换为灰度图像,并对灰度图像进行二值化处理,得到第一预处理图像,进一步再对第一预处理图像进行腐蚀和膨胀处理,并剔除图像中的噪声,得到第二预处理图像,由于人眼的眼球呈圆形,因此利用圆形的结构元素提取第二预处理图像中表征用户眼睛眼球的圆形区域的位置,得到用户眼睛的眼球位置信息。
在一实施例中,本发明实施例基于OpenCV实现对面部图像的处理,并使用级联分类器作为检测器进行人脸识别,级联分类器是基于局部二值模式(Local Binary Pattern,LBP)特征与哈尔(Haar-like features,HAAR)特征实现的,基于LBP与HAAR特征针对特定目标训练得到的分类器数据,可以保存、加载、有效的进行对象识别,LBP算子在图像中的每个像素点都可以得到一个LBP编码,对图像提取原始的LBP算子之后,所得到的原始LBP特征仍然是图像,因此本发明实施例基于训练好的LBP特征级联检测器,在使用的时候通过调用相关的人脸检测级联分析器数据,在截取人脸区域后,取其上半部分,然后将上半部分均匀分为左右两个部分,即为人眼睛的左右两部分,再根据眼睛所占的上半部分的比例截取眼睛区域,完成对眼睛区域的选择标定,不仅如此,还再通过OpenCV中的眼睛级联检测器实现眼睛检测,将检测到的眼睛对象子图像缓存作为模板,以便当检测器无法检测到眼睛区域时,使用上述制作得到的模板图像来完成对眼睛区域的匹配,在进行眼球定位时,对上述标定的眼睛区域,进行二值化处理,从而可以得到眼睛的轮廓,从而得到眼眶位置信息。要想得到眼球的位置,可以通过一个圆形的结构元素,对这张图像做个开操作(先腐蚀再膨胀),此时,中心的圆形区域还存在噪声,需要先把这个噪声剔除。随后通过圆形的结构元素提取眼球位置,得到眼球位置信息,例如,可以将该圆形的结构的中心位置作为眼球的位置,即将圆形结构的中心位置作为眼球位置信息。
可以理解的是,本发明实施例中以基于OpenCV实现对面部图像的处理来得到眼眶位置信息,并不代表为对本发明实施例的限制。
示例性的,可以综合前述方式,通过多次测量确定不同距离和/或角度下三维显示的效果,建立基于不同角度和/或距离下预设宽度调整关系表,在实际使用时直接查询关系表即可获取当前需要调整的预设宽度。
由上述可知,本申请实施例的三维显示系统包括:摄像头、拍摄镜头、处理单元和三维显示模组;拍摄镜头中棱镜置于摄像头的上方将摄像头的镜头表面分为第一区域和第二区域;拍摄目标的第一初始光信号到达第一区域在第一区域形成第一视差图像,拍摄目标的第二初始光信号经过棱镜后进入第二区域形成第二视差图像;处理单元根据第一视差图像对第二视差图像进行图像处理得到第三视差图像以及利用第一视差图像和第三视差图像生成3D帧画面图像;显示单元接收并显示3D帧画面图像,光学转换器件设置于显示单元的显示平面上,将3D帧画面图像进行三维显示。
在一些实施例中,由于拍摄镜头可以安装在电子设备上,第一摄像头、第二摄像头、处理单元和显示单元可以是同一个电子设备的功能部件,因此处理单元还可以获取历史上安装拍摄镜头的目标安装误差;根据目标安装误差的大小确定裁剪参数,其中,裁剪参数用于对第三视差图像或第一视差图像中的多余部分进行裁剪。
在一些实施例中,获取历史上安装拍摄镜头的目标安装误差,包括:获取电子设备的设备型号信息;获取多个样本安装误差,其中,样本安装误差为设备型号信息下多个样本设备安装拍摄镜头时的安装误差;计算多个样本安装误差的方差;若方差大于预设的方差阈值,则从多个样本安装误差中选择最大误差值,将最大误差值作为安装拍摄镜头的目标安装误差;若方法小于或等于预设的方差阈值,则计算多个样本安装误差的平均误差值,将平均误差值作为安装拍摄镜头的目标安装误差。
示例性的,本申请实施例中可以通过确定预设的裁剪参数,以实现对第三视差图像或第二视差图像的裁剪,具体的,本申请实施例中可以通过安装拍摄镜头过程中的安装误差来得到裁剪参数。
示例性的,本申请实施例中可以获取历史上安装拍摄镜头的目标安装误差。目标安装误差是对应的摄像头在安装拍摄镜头的误差,如某一个目标摄像头在连接拍摄镜头时的安装误差。可以理解的是,安装误差可以是一个具体的参数,如位移差,表明拍摄镜头在安装后会偏移摄像头多远。
示例性的,在得到目标安装误差后,本申请实施例中处理单元可以根据目标安装误差的大小确定裁剪参数,不同的目标安装误差可以得到对应的裁剪参数。其中,裁剪参数用于对第一视差图像或第三视差图像中的多余部分进行裁剪,裁剪参数有多种。例如裁剪参数可以包含水平裁剪参数,可以表征水平方向上需要裁剪多少图像,裁剪参数还可以包含垂直裁剪参数,可以表征垂直方向上需要裁剪多少图像。
获取多个样本安装误差的步骤可以是:获取电子设备的设备型号信息;获取多个样本安装误差,其中,样本安装误差为设备型号信息下多个样本设备安装拍摄镜头时的安装误差;计算多个样本安装误差的方差;若方差大于预设的方差阈值,则从多个样本安装误差中选择最大误差值,将最大误差值作为安装拍摄镜头的目标安装误差;若方差小于或等于预设的方差阈值,则计算多个样本安装误差的平均误差值,将平均误差值作为安装拍摄镜头的目标安装误差。
示例性的,本申请实施例中可以根据不同电子设备的设备型号,实现目标安装误差的确定。首选,可以先获取电子设备的设备型号信息,该设备型号信息表征当前电子设备的设备型号,若电子设备为手机,则设备型号信息为具体的手机型号信息,也可以表征该设备型号所属的品牌。
实际应用过程中,申请人发现安装误差的稳定性和设备型号有关。由于拍摄镜头一般是与设备可拆卸连接,且由用户操作,安装误差难以控制。以设备为手机为例,对于某一A型号的手机,由于针对该型号设计的拍摄镜头与手机摄像头的贴合性和稳定性比较好,用户安装拍摄镜头后,安装误差一般比较稳定;对于另一B型号的手机,由于针对该型号设计的拍摄镜头与手机摄像头的贴合性和稳定性比较差,用户安装拍摄镜头后,安装误差一般比较不稳定。为此,本申请实施例针对上述情况设计了自适应算法实现根据不同设备型号匹配不同的裁剪参数,以实现在保障成像质量的同时,尽可能地减少图像裁剪范围,从而尽量提高3D成像效果。
本申请实施例中可以预先存储有多个样本安装误差。样本安装误差为同一设备型号信息下多个样本设备安装拍摄镜头时的安装误差,可以理解的是,本申请实施例中可以通过建立样本数据库,为得到目标安装误差提供数据支撑。在样本数据库中,存放有多个不同设备型号的电子设备在连接拍摄镜头时的安装误差,且同一设备型号的电子设备连接拍摄镜头时的安装误差也有多个。因此,本申请实施例中在得到当前电子设备的设备型号信息后,会与样本数据库进行匹配,从而找到多个该设备型号洗的样本安装误差。
示例性的,本申请实施例中会对当前设备型号下的电子设备的误差进行处理,具体的,包括进行方差处理,通过计算多个样本安装误差的方差,可以得到该设备型号下误差的离散程度。本申请实施例中会设定预设的方差阈值,通过方差阈值来判断误差离散程度是不是超过预设的范围。
具体的,若方差大于预设的方差阈值,说明该设备型号下的电子设备在连接拍摄镜头时,安装不稳定,因此误差变化大,为此,本申请实施例则从多个样本安装误差中选择最大误差值,将最大误差值作为安装拍摄镜头的目标安装误差。需要理解的是,通过设定最大误差值作为目标安装误差,确保了在安装误差变化大的情况下,都可以通过裁剪,使得裁剪后的第三视差图像和第一视差图像基本保持一致,从而提高了3D帧画面图像的图像质量。
具体的,若方差小于或等于预设的方差阈值,说明该设备型号下的电子设备在连接拍摄镜头时,安装较为稳定,因此误差变化小,为此,本申请实施例则计算多个样本安装误差的平均误差值,将平均误差值作为安装拍摄镜头的目标安装误差。需要理解的是,通过设定平均误差值作为目标安装误差,确保了在安装较为稳定、误差变化小的情况下,可以通过裁剪保证更大的3D画面,裁剪后的第三视差图像也和第一视差图像基本保持一致,从而提高了3D帧画面图像的图像质量和图像画面。
本实施例中三维显示系统通过拍摄镜头将拍摄目标的光信号分成两路,形成拍摄目标的第一视差图像和第二视差图像,再通过处理单元对第二视差图像进行处理,得到与第一视差图像相匹配的第三视差图像,再利用第一视差图像和第三视差图像进行融合得到3D帧画面图像,最后利用设置于显示单元表面的光学转换器件将3D帧画面图像投射到人物对象的视野范围,利用外置的拍摄镜头与光学转换器件使得一台设备即可实现实时裸眼的三维显示过程,降低三维显示系统的系统复杂度。
另外,本申请实施例还提供一种三维显示方法。
图26是本发明实施例提供的三维显示方法的一个可选的流程图,图26中的方法可以包括但不限于包括步骤S2610至步骤S2640。同时可以理解的是,本实施例对图26中步骤S2610至步骤S2640的顺序不做具体限定,可以根据实际需求调整步骤顺序或者减少、增加某些步骤。
步骤S2610:获取拍摄目标的第一初始光信号到达第一区域形成的第一视差图像,以及获取拍摄目标的第二初始光信号经过棱镜后进入第二区域形成的第二视差图像。
步骤S2620:根据第一视差图像对第二视差图像进行镜像图像处理,得到第三视差图像,其中,第三视差图像与第一视差图像具有视差。
步骤S2630:利用第一视差图像和第三视差图像得到3D帧画面图像。
步骤S2640:利用光学转换器件对3D帧画面图像进行三维显示。
本实施例的三维显示方法的具体实施方式与上述三维显示系统的具体实施方式基本一致,在此不再赘述。
本发明实施例还提供了一种电子设备,包括:
至少一个存储器;
至少一个处理器;
至少一个程序;
所述程序被存储在存储器中,处理器执行所述至少一个程序以实现本发明实施上述的三维显示方法。该电子设备可以为包括手机、平板电脑、个人数字助理(PersonalDigital Assistant,简称PDA)、车载电脑等任意智能终端。
请参阅图27,图27示意了另一实施例的电子设备的硬件结构,电子设备包括:
处理器2701,可以采用通用的CPU(CentralProcessingUnit,中央处理器)、微处理器、应用专用集成电路(ApplicationSpecificIntegratedCircuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本发明实施例所提供的技术方案;
存储器2702,可以采用ROM(ReadOnlyMemory,只读存储器)、静态存储设备、动态存储设备或者RAM(RandomAccessMemory,随机存取存储器)等形式实现。存储器2702可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器2702中,并由处理器2701来调用执行本发明实施例的三维显示方法;
输入/输出接口2703,用于实现信息输入及输出;
通信接口2704,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信;和
总线2705,在设备的各个组件(例如处理器2701、存储器2702、输入/输出接口2703和通信接口2704)之间传输信息;
其中处理器2701、存储器2702、输入/输出接口2703和通信接口2704通过总线2705实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种存储介质,存储介质为计算机可读存储介质,该存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述三维显示方法。
存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本发明实施例提出的三维显示系统、三维显示方法、电子设备和存储介质,通过三维显示系统包括:摄像头、拍摄镜头、处理单元和三维显示模组;拍摄镜头中棱镜置于摄像头的上方将摄像头的镜头表面分为第一区域和第二区域;拍摄目标的第一初始光信号到达第一区域在第一区域形成第一视差图像,拍摄目标的第二初始光信号经过棱镜后进入第二区域形成第二视差图像;处理单元根据第一视差图像对第二视差图像进行图像处理得到第三视差图像以及利用第一视差图像和第三视差图像生成3D帧画面图像;显示单元接收并显示3D帧画面图像,光学转换器件设置于显示单元的显示平面上,将3D帧画面图像进行三维显示。本实施例中三维显示系统通过拍摄镜头将拍摄目标的光信号分成两路,形成拍摄目标的第一视差图像和第二视差图像,再通过处理单元对第二视差图像进行处理,得到与第一视差图像相匹配的第三视差图像,再利用第一视差图像和第三视差图像进行融合得到3D帧画面图像,最后利用设置于显示单元表面的光学转换器件将3D帧画面图像投射到人物对象的视野范围,利用外置的拍摄镜头与光学转换器件使得一台设备即可实现实时裸眼的三维显示过程,降低三维显示系统的系统复杂度。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
本领域技术人员可以理解的是,图中示出的技术方案并不构成对本申请实施例的限定,可以包括比图示更多或更少的步骤,或者组合某些步骤,或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例,并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本申请实施例的权利范围之内。
Claims (18)
1.一种三维显示系统,其特征在于,包括:第一摄像头、拍摄镜头、处理单元和三维显示模组;
所述拍摄镜头包括:棱镜,所述棱镜置于所述第一摄像头的上方,将所述第一摄像头的镜头表面分为第一区域和第二区域;以使得拍摄目标的第一初始光信号到达所述第一区域在所述第一区域形成第一视差图像,所述拍摄目标的第二初始光信号经过所述棱镜后进入所述第二区域形成第二视差图像,所述第二视差图像与所述第一视差图像具有视差;
所述处理单元与所述第一摄像头电性连接,用于接收所述第一视差图像和所述第二视差图像,并根据所述第一视差图像对所述第二视差图像进行图像处理得到第三视差图像;所述处理单元还用于利用所述第一视差图像和所述第三视差图像生成3D帧画面图像;
所述三维显示模组包括:显示单元和光学转换器件,所述光学转换器件设置于所述显示单元的显示平面上,用于将所述显示单元出射的光束转换为出射到人物对象的左眼的左眼光束和出射到人物对象的右眼的右眼光束以实现三维显示;
所述显示单元与所述处理器电性连接,所述显示单元用于接收并显示所述3D帧画面图像,以使显示的所述3D帧画面图像经过所述光学转换器件后实现三维显示。
2.根据权利要求1所述的三维显示系统,其特征在于,所述处理单元用于根据所述第一视差图像对所述第二视差图像进行图像处理得到第三视差图像时执行下述以下步骤:
若所述第二视差图像为所述第一视差图像的镜像图像,对所述第二视差图像进行镜像恢复处理,得到与所述第一视差图像相匹配的第三视差图像;
或者,若所述第二视差图像为所述第一视差图像的旋转图像,对所述第二视差图像进行旋转恢复处理,得到与所述第一视差图像相匹配的第三视差图像;
或者,若所述第二视差图像为所述第一视差图像的缩小图像,对所述第二视差图像进行镜像放大处理,得到与所述第一视差图像相匹配的第三视差图像;
或者,若所述第二视差图像为所述第一视差图像的放大图像,对所述第二视差图像进行镜像缩小处理,得到与所述第一视差图像相匹配的第三视差图像。
3.根据权利要求1所述的三维显示系统,其特征在于,所述处理单元用于利用所述第一视差图像和所述第三视差图像生成3D帧画面图像时执行下述以下步骤:
将所述第三视差图像处理成3D格式下的第一帧画面图像,以及将所述第一视差图像处理成3D格式下的第二帧画面图像;所述第一帧画面图像和所述第二帧画面图像之间互为左右格式图像;
将所述第一帧画面图像与所述第二帧画面图像进行融合拼接,得到3D格式下的所述3D帧画面图像。
4.根据权利要求3所述的三维显示系统,其特征在于,所述将所述第三视差图像处理成3D格式下的第一帧画面图像,包括:
对变换恢复后的所述第三视差图像与所述第一视差图像进行图像比对,得到表征图像之间重合度的比对结果;
根据所述比对结果对所述第三视差图像进行图像校准,得到校准后的第四视差图像,以使校准后的所述第四视差图像与所述第一视差图像之间的重合度满足预设要求;
将校准后的所述第四视差图像处理成3D格式下的第一帧画面图像。
5.根据权利要求4所述的三维显示系统,其特征在于,所述对变换恢复后的所述第三视差图像与所述第二视差图像进行图像比对,得到表征图像之间重合度的比对结果,包括:
识别所述第三视差图像中的目标特征,得到所述目标特征在所述第三视差图像中的第一目标角点;
识别所述第一视差图像中的所述目标特征,得到所述目标特征在所述第一视差图像中的第二目标角点;
将所述第三视差图像和所述第一视差图像进行重叠,并对所述第一目标角点和所述第二目标角点进行虚拟重合对比,根据角点之间的重合度得到表征图像之间重合度的比对结果。
6.根据权利要求3所述的三维显示系统,其特征在于,所述将所述第三视差图像处理成3D格式下的第一帧画面图像,包括:
确定所述第三视差图像中与所述第一视差图像多余的部分,得到第一多余部分;
将所述第一多余部分从所述第三视差图像中裁剪掉,并将剩余的所述第三视差图像处理成3D格式下的第一帧画面图像;
或者,所述将所述第一视差图像处理成3D格式下的第二帧画面图像,包括:
确定所述第一视差图像中与所述第三视差图像多余的部分,得到第二多余部分;
将所述第二多余部分从所述第一视差图像中裁剪掉,并将剩余的所述第二视差图像处理成3D格式下的第二帧画面图像。
7.根据权利要求3所述的三维显示系统,其特征在于,所述第一帧画面图像包括以第一排列顺序排列的多个预设宽度的第一帧图像;所述第二帧画面图像包括以第二排列顺序进行排列的多个所述预设宽度的第二帧图像;
所述将所述第一帧画面图像与所述第二帧画面图像进行融合拼接,得到3D格式下的3D帧画面图像,包括:
根据所述第一排列顺序和所述第二排列顺序,依次将所述第一帧图像和所述第二帧图像交替排列,得到所述3D帧画面图像。
8.根据权利要求1所述的三维显示系统,其特征在于,所述拍摄镜头包括:
外壳,所述外壳为柱状结构,所述柱状结构的上方具有第一开口,所述柱状结构的下方具有第二开口,并且所述第二开口贴近第一摄像头平面,用于容纳所述第一摄像头;所述第一摄像头平面为所述第一摄像头的镜头表面所在平面;
棱镜,所述棱镜设置于所述第一摄像头的上方;所述棱镜贴合于所述外壳的内部的一侧,以使得所述外壳的另一侧的内壁和所述棱镜之间形成第一空腔,从而使得所述拍摄目标的第一初始光信号可通过所述第一开口,并经过所述第一空腔后进入所述第一摄像头,所述拍摄目标的第二初始光信号可通过所述第一开口,并经过所述棱镜后进入所述第一摄像头;
所述棱镜包括:第一棱镜面,以及沿所述第二初始光信号光路依次设置的入光面和出光面;
所述第一棱镜面垂直于所述第一摄像头平面,所述第一棱镜面的延展面将所述第一摄像头的镜头表面分为第一区域和第二区域;
所述第一区域用于接收所述第一初始光信号,第二区域用于接收所述出光面出射的光信号,以使得所述拍摄目标在所述第一区域形成第一视差图像,在所述第二区域形成与所述第一视差图像相对应的第二视差图像。
9.根据权利要求8所述的三维显示系统,其特征在于,所述棱镜还包括反射面;
所述入光面和所述反射面的夹角构成第一夹角,所述第一棱镜面和所述出光面的夹角构成第二夹角;
所述第一夹角使得所述第二初始光信号从所述入光面进入所述棱镜得到第一光信号,所述第一光信号经过所述反射面的反射得到第二光信号,所述第二光信号从所述出光面射出得到目标光信号,所述第二夹角使得所述目标光信号到达所述镜头表面的所述第二区域。
10.根据权利要求9所述的三维显示系统,其特征在于,设所述第一摄像头的镜头表面与所述第一区域和所述第二区域的交界线垂直的最长线段为第一线段,所述第一线段在所述第一区域的边缘形成第一端点;
所述外壳还包括:与所述棱镜相对设置的具有第一高度的第一外壳壁,所述第一外壳壁包含第一外壳边;
所述第一端点与所述第一外壳边构成所述第一摄像头的有效拍摄范围的第一边界面;
所述第一棱镜面的延展面构成所述第一摄像头的有效拍摄范围的第二边界面;
所述第一边界面和所述第二边界面限定出所述第一摄像头的有效拍摄范围,以使在所述有效拍摄范围内的所述拍摄目标的第一初始光束进入第一区域;在所述有效拍摄范围内的所述拍摄目标的第二初始光束通过所述棱镜进入第二区域。
11.根据权利要求10所述的三维显示系统,其特征在于,所述第一线段与所述第一区域和所述第二区域的交界线的交点为第二端点,所述交界线为所述第一棱镜面在所述镜头表面的投影线;
所述拍摄目标包括第一拍摄边界点和第二拍摄边界点;所述第一初始光信号包括所述第一拍摄边界点出射的第一边界光信号和第二拍摄边界点出射的第二边界光信号,所述第二初始光信号包括所述第一拍摄边界点出射的第三边界光信号和第二拍摄边界点出射的第四边界光信号;
所述第一边界光信号经过所述第一空腔到达所述第一端点,并且所述第二边界光信号经过所述第一空腔到达所述第二端点,以在所述第一区域形成所述第一视差图像;
所述第三边界光信号从所述入光面进入所述棱镜,依次经过所述反射面和所述出光面,到达所述第二区域的第一到达点;所述第四边界光信号从所述入光面进入所述棱镜,依次经过所述反射面和所述出光面,到达所述第二区域的第二到达点;所述第一到达点位于所述第一端点的镜像位置或第一临近镜像位置,所述第二到达点位于所述第二端点的镜像位置或第二临近镜像位置,以在所述第二区域形成与所述第一视差图像形成镜像或镜像缩放的所述第二视差图像。
12.根据权利要求11所述的三维显示系统,其特征在于,所述第一线段在所述第二区域的边缘形成第三端点,所述第一到达点的位置为所述第三端点,所述第二到达点的位置为所述第二端点,以在所述第一区域形成所述第一视差图像,在所述第二区域形成与所述第一视差图像形成镜像的所述第二视差图像。
13.根据权利要求7所述的三维显示系统,其特征在于,所述系统还包括第二摄像头,所述第二摄像头与所述处理器连接;
所述第二摄像头用于获取人物对象的面部图像,并将所述面部图像发送至所述处理单元;
所述处理单元用于根据所述面部图像解析得到人物对象的眼球位置信息,所述眼球位置信息用于表征人物对象眼睛眼球的位置;
所述处理单元还用于根据所述眼球位置信息对所述预设宽度进行调节,以使得所述第一视差图像以第一方向出射至人物对象的左眼,所述第三视差图像以第二方向出射至人物对象的右眼。
14.根据权利要求13所述的三维显示系统,其特征在于,所述处理单元用于根据所述面部图像解析得到人物对象的眼球位置信息时执行以下步骤:
基于预设的检测器对所述面部图像进行人脸眼睛区域检测,得到眼眶位置信息;
将所述面部图像转换为灰度图像,并对所述灰度图像进行二值化处理,得到第一预处理图像;
对所述第一预处理图像进行腐蚀和膨胀处理,并剔除图像中的噪声,得到第二预处理图像,并利用圆形的结构元素提取所述第二预处理图像中表征人物对象眼睛眼球的圆形区域的位置,得到人物对象眼睛的所述眼球位置信息。
15.根据权利要求1至14任一项所述的三维显示系统,其特征在于,所述光学转换器件为三维显示转换贴膜,所述三维显示转换贴膜为狭缝式液晶光栅型贴膜、柱状透镜型贴膜或指向光源型贴膜。
16.一种三维显示方法,其特征在于,应用于如权利要求1至15中任一项所述的三维显示系统,所述方法包括:
获取所述拍摄目标的第一初始光信号到达所述第一区域形成的所述第一视差图像,以及获取所述拍摄目标的第二初始光信号经过所述棱镜后进入所述第二区域形成的所述第二视差图像;
根据所述第一视差图像对所述第二视差图像进行镜像图像处理,得到第三视差图像;所述第三视差图像与所述第一视差图像具有视差;
利用所述第一视差图像和所述第三视差图像得到3D帧画面图像;
利用所述光学转换器件对所述3D帧画面图像进行三维显示。
17.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现权利要求16所述的三维显示方法。
18.一种计算机可读存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求16所述的三维显示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310315126.7A CN116405652A (zh) | 2023-03-22 | 2023-03-22 | 三维显示系统、三维显示方法、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310315126.7A CN116405652A (zh) | 2023-03-22 | 2023-03-22 | 三维显示系统、三维显示方法、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116405652A true CN116405652A (zh) | 2023-07-07 |
Family
ID=87013599
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310315126.7A Pending CN116405652A (zh) | 2023-03-22 | 2023-03-22 | 三维显示系统、三维显示方法、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116405652A (zh) |
-
2023
- 2023-03-22 CN CN202310315126.7A patent/CN116405652A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101351170B1 (ko) | 핸드헬드 디바이스의 카메라 응용 | |
CN108718373B (zh) | 影像装置 | |
US10192361B2 (en) | Head-mounted display device and computer program | |
US20230059657A1 (en) | Multi-camera zoom control method and apparatus, and electronic system and storage medium | |
US8441435B2 (en) | Image processing apparatus, image processing method, program, and recording medium | |
CN107992187B (zh) | 显示方法及其系统 | |
US8705846B2 (en) | Position measuring apparatus, position measuring method, image processing apparatus and image processing method | |
US9436973B2 (en) | Coordinate computation device and method, and an image processing device and method | |
US20120307132A1 (en) | Imaging module, imaging apparatus, image processing apparatus, and image processing method | |
US9241141B1 (en) | Projection block extraction | |
KR102176963B1 (ko) | 수평 시차 스테레오 파노라마를 캡쳐하는 시스템 및 방법 | |
CN107483915B (zh) | 三维图像的控制方法及装置 | |
US11054652B2 (en) | Augmented reality apparatus | |
CN116405653A (zh) | 实时裸眼3d的图像处理方法、系统、设备及介质 | |
EP2848996A1 (en) | Stereo imaging apparatus and stereo image generating method | |
CN116405652A (zh) | 三维显示系统、三维显示方法、电子设备和存储介质 | |
JP6608208B2 (ja) | 画像表示装置 | |
KR20110025083A (ko) | 입체 영상 시스템에서 입체 영상 디스플레이 장치 및 방법 | |
KR102062765B1 (ko) | 이미지 변환 메커니즘을 갖춘 3d 이미지 캡쳐 시스템과 그 사용 방법 | |
KR20140123418A (ko) | 거울을 이용한 증강현실 시스템 | |
CN219456650U (zh) | 拍摄镜头和电子设备 | |
US20230244305A1 (en) | Active interactive navigation system and active interactive navigation method | |
CN111327826B (zh) | 图像数据处理方法、装置和电子设备 | |
WO2022202775A1 (en) | Imaging device, imaging method, and information processing device | |
JP2000184397A (ja) | 仮想画像立体合成通信システム及び仮想画像立体合成通信方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |