CN104155839B - 用于提供3维图像的系统和方法 - Google Patents
用于提供3维图像的系统和方法 Download PDFInfo
- Publication number
- CN104155839B CN104155839B CN201410200292.3A CN201410200292A CN104155839B CN 104155839 B CN104155839 B CN 104155839B CN 201410200292 A CN201410200292 A CN 201410200292A CN 104155839 B CN104155839 B CN 104155839B
- Authority
- CN
- China
- Prior art keywords
- image
- rendering
- parallax
- multiple images
- described multiple
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/221—Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/211—Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/296—Synchronisation thereof; Control thereof
Abstract
这里公开了一种用于提供3维图像的系统和方法。所述系统包括:图像捕捉设备,获取对象的图像;加速度计,测量加速度;控制器,用于将由图像捕捉设备获取的一系列图像与所述一系列图像中的图像的各个位置进行同步。基于关于图像的加速度,计算每个图像的位置。基于图像获取参考区域,识别各个图像的3D图像区域。随后调整一个或更多个3D图像区域的位置。3D图像区域(调整的或未调整的)被随后用于产生3D图像。
Description
技术领域
本公开的实施例涉及一种用于提供3维(3D)图像的系统和方法。
背景技术
最近已提出了用于通过数字相机、摄像机等拍摄三维(3D)图像的各种技术。在一个示例中,已发展了将特定图像处理算法应用于2维(2D)图像以恢复3D图像的3D图像恢复技术。在另一示例中,已发展了使用具有两个镜头的视差相机(例如,立体相机)的技术。
然而,由于设计、成本和复杂度,难以重新配置2D相机以用作使用两个传感器或两个镜头的立体相机。因此,2D相机一般使用用于从单个2D图像创建3D图像的算法。
更具体地讲,2D相机一般根据单眼效果基于深度创建3D图像。然而,这个方法仅对特定场景有效,并且随之产生的3D图像(特别是柔和色调的图像)无法显示与由立体相机创建的3D图像一样多的深度。
发明内容
根据各种实施例,用于提供3维(3D)图像的系统和方法能够通过将左图像和右图像之间的间隔调整为恒定间隔来获取自然的3D图像。将在下面的描述中部分地阐述另外方面。
根据一方面,3维(3D)图像提供系统包括:图像捕捉设备,获取对象的图像;加速度计,用于测量加速度;控制器,将由图像捕捉设备获取的图像和图像的位置进行同步。基于关于各个图像的加速度来计算位置。控制器还基于图像获取参考区域,指定各个图像的一个或更多个3D图像区域,调整所述一个或更多个3D图像区域的位置,剪裁所述一个或更多个3D图像区域,以产生3D图像。
控制器可包括:相对坐标计算器,基于由加速度计测量的加速度,来计算每个图像被获取时每个图像的位置。控制器可还包括:同步处理器,将每个图像和它的计算的位置进行匹配;图像获取位置设置单元,基于参考视差和图像获取参考区域,调整各个图像的所述一个或更多个3D图像区域的位置;图像剪裁单元,剪裁每个图像的所述一个或更多个3D图像区域;3D图像产生器,基于经过剪裁的3D图像区域产生3D图像。
相对坐标计算器可使用下面的等式(1)计算在每个图像被获取时每个图像的位置:
其中,x(t1)表示在图像被获取时图像的位置,t0表示计算开始的时间,t1表示拍摄开始的时间,表示加速度值。
图像获取位置设置单元可将第一图像和第二图像之间的视差设置为参考视差,或将参考视差设置为由用户输入的任意值。
图像获取位置设置单元可移动图像的3D图像区域,使得所述图像和先前图像之间的视差变为参考视差。
图像获取位置设置单元可从图像捕捉设备发送的第一图像,设置图像获取参考区域。
图像获取位置设置单元可基于图像获取参考区域,调整获取的图像中的每个图像的竖向定线(vertical alignment)。
3D图像提供系统可还包括:3D全景图像产生器,用于基于由图像捕捉设备(例如,通过平移)获取并由图像剪裁单元剪裁的那些图像的3D图像区域,来产生3D全景图像。
3D图像提供系统可还包括:模式设置单元,根据来自用户的选择,设置3D图像产生模式或3D全景图像产生模式。
根据另一方面,3维(3D)图像提供方法包括:当3D图像产生模式被设置时,通过图像捕捉设备获取对象的图像;通过加速度计测量加速度;将由图像捕捉设备获取的图像与图像的位置进行同步。基于在图像被获取时关于图像的加速度,计算每个图像的位置。如果获取的图像是一系列图像中的第一图像,则所述方法还包括从第一图像设置图像获取参考区域;如果获取的图像不是一系列图像中的第一图像,则所述方法还包括基于图像获取参考区域识别各个图像的一个或更多个3D图像区域;调整所述一个或更多个3D图像区域的位置;从每个图像剪裁所述一个或更多个3D图像;基于经过剪裁的3D图像区域产生3D图像。
设置所述一个或更多个3D图像区域的步骤可包括:如果获取的图像不是一系列图像中的第一图像,则计算所述图像和先前图像之间的视差;移动3D图像区域,使得所述图像和先前图像之间的视差变为参考视差。
在计算所述图像和先前图像之间的视差之前,第一图像和第二图像之间的视差可被设置为参考视差。可选择地,参考视差可被设置为由用户输入的任意值。
在获取的图像的一个或更多个识别的3D区域中的3D图像区域被移动之后,可基于图像获取参考区域调整每个图像的竖向定线。
可通过下面的等式(1)计算每个图像被获取时每个图像的位置:
其中,x(t1)表示在图像被获取时图像的位置,t0表示计算开始的时间,t1表示拍摄开始的时间,表示加速度值。
在3D图像被产生之后,可连接3D图像以产生3D全景图像。
根据各种实施例,使用上述用于提供3D图像的系统和方法,可在沿左右方向平移时,通过补偿用户的平移速度,将左图像和右图像之间的间隔调整为恒定间隔,从而获取具有适当深度感的3D全景图像。
附图说明
从下面结合附图对实施例进行的描述,本发明的这些和/或其他方面将变得清楚和更易于理解,其中:
图1是示出根据实施例的相机设备的结构的横断面示图;
图2是根据实施例的3D图像提供系统的框图;
图3是根据实施例的图2的控制器的框图;
图4示出用于校正图像的视差的方法;
图5是根据实施例的3D图像提供方法的流程图;
图6是产生关于在图像被获取时图像的位置的信息的方法的流程图。
具体实施方式
现在将详细描述实施例,其中,在附图中示出实施例的示例,其中,相同的标号始终指示相同的元件。对此,实施例可具有不同的形式,并且不应被解释为限于在此阐明的描述。诸如“…中的至少一个”的表达在一列元素之后时,所述表达修饰整列元素。
将理解,虽然术语“第一”、“第二”等在此可用于描述各种元素,但这些术语不应限制这些元素。这些术语仅用于将一个元素与另一个元素区分开。
图1是示出根据实施例的相机设备的结构的横断面示图。
参照图1,相机设备1可包括镜头单元10、光圈20、主反射镜30、副反射镜40、自动聚焦(AF)模块50、焦平面快门60、图像捕捉区域70、聚焦屏幕80、五棱镜81和接目镜90。
镜头单元10收集从对象反射的光,并在图像捕捉区域70上形成图像。镜头单元10可包括多个镜头。所述多个镜头可根据它们的功能形成若干光学组。
另外,镜头单元10可包括图像稳定器(未示出)和AF驱动器(未示出)。图像稳定器防止由于用户的手抖而造成的图像质量恶化。AF驱动器从AF模块50接收AF信息,并基于AF信息调整镜头单元10的焦点。
同时,镜头单元10可包括光圈20。光圈20可调整透过镜头单元10的光量和图像密度。更具体地讲,当增加光圈20的直径使得通过光圈20透过更多光量时,用户可获取更亮的图像。然而,由于增加光圈20的直径导致更大的光圈值,因此图像密度降低。同时,当减小光圈20的直径使得通过光圈20透过更少光量时,用户可获取更暗的图像。另外,由于减少光圈20的直径导致更小的光圈值,因此与当增加光圈20的直径时相比,图像密度可相对地增加。
由于光圈20被布置在镜头之间,因此可由镜头形成光圈20的图像。由布置在光圈20的前面(即,在光圈20和对象之间)的镜头形成的光圈20的虚像被称为前透光孔(entrance pupil),由布置在光圈20的后面(即,在光圈20和图像捕捉区域70之间)的镜头形成的光圈20的虚像被称为后透光孔(exit pupil)。具体地,后透光孔极大地影响图像的亮度,并因此,在调整亮度和执行AF功能中起到重要的作用。
主反射镜30可发送透过镜头单元10的光的一部分,并反射光的剩余部分。更具体地,主反射镜30向聚焦屏幕80反射透过镜头单元10的光的一部分,使得用户可看到通过接目镜90的光。通过主反射镜30发送的光的剩余部分用于检测焦点。
相机设备1(具体地,数码单镜反光(DSLR)相机)可使用主反射镜30执行镜后测光(TTL)功能。TTL功能使用透过镜头单元10的光执行TTL取景器、TTL测距、TTL测光等。
详细地,TTL取景器用于反射透过镜头单元10的光,使得用户能够通过取景器查看将被拍摄的图像。TTL测光用于测量使用透过镜头单元10的光将被拍摄的图像的亮度。也就是说,TTL测量用于自动曝光(AE)调整功能。
TTL测距用于使用透过镜头单元10的光调整对象的焦点。也就是说,TTL测距用于AF功能。
副反射镜40反射透过主反射镜30的光,使得透过主反射镜30的光相对于主反射镜30被再次反射,并随后入射到AF模块50。为此,副反射镜40被布置为与主反光镜30成锐角(范围从0°到90°)。因此,副反射镜40被布置在主反射镜30的后面,以便向主反射镜30引导透过主反射镜30的光,从而构成光学装置。光学装置还用于向AF模块50提供光。
AF模块50用作在控制器(未示出)的控制下,对对象进行聚焦。当AF模块50未能聚焦到对象时,AF模块50将驱动信号发送到镜头单元10的驱动器(未示出),使得通过控制器的控制聚焦到对象。
焦平面快门60正好被安装在位于相机机身的焦平面附近的图像捕捉区域70的前面。焦平面快门60可包括涂有橡胶并被称为第一帘和第二帘的两个黑帘或金属层。在拍摄照片时,焦平面快门60通过打开第一帘来使图像捕捉区域70曝光并随后关闭第二帘来阻挡来自图像捕捉区域70的光,以进行操作。因此,焦平面快门60可使用第一帘打开的时间和第二帘关闭的时间之间的时间差,来调整快门速度。另外,焦平面快门60可根据第一帘和第二帘运转的方向被分类为水平运转类型和垂直运转类型。大多数相机采用垂直运转类型。另外,相机设备1可包括镜头快门、桑顿快门、光值快门等,以代替焦平面快门60。
图像捕获区域70可光学地感测对象的图像。当相机设备1是胶片相机时,胶片可被放置在图像捕捉区域70上。并且,当相机设备1是数字相机时,多个图像传感器可被布置在图像捕捉区域70上。当相机设备1是DSLR相机时,用于光学地感测光的多个图像传感器可被布置在图像捕捉区域70上。数字相机的图像传感器可被分类为以基本相同的原理操作的电荷耦合器件(CCD)和互补金属氧化物半导体(CMOS)。
聚焦屏幕80可包括薄毡表面(mat surface)和菲涅耳镜头。薄毡表面可被放置,使得它在光学上等同于图像拍摄时的焦点表面。因此,将被拍摄的图像的副本可出现在薄毡表面上。菲涅耳镜头聚集透过薄毡表面的光,以使用户能够通过接目镜90查看更亮的图像。
五棱镜81是五角棱镜。五棱镜81用于将形成在聚焦屏幕80上的直立翻转图像转换为直立非翻转图像。因此,用户可通过取景器以与相应对象相同的形式(如用裸眼观看)观看将被拍摄的图像。“直立翻转图像”表示在上下方向处于正确位置但在左右方向处于相反位置的图像。“直立非翻转图像”表示在所有方向都处于正确位置的图像。
接目镜90在前方1m处形成虚像,使得用户可看见聚焦屏幕80上的图像。因此,用户可通过接目镜90看见将被拍摄的图像。
图2是根据实施例的3维(3D)图像提供系统的框图,图3是根据实施例的图2的控制器的框图,图4示出用于校正图像的视差的方法。
参照图2,3D图像提供系统100可包括图像捕捉设备110、加速度计120、控制器130和存储单元140。
图像捕捉设备110可获取对象的图像。
加速度计120的采样率应高于图像被捕捉的速率。
加速度计120是检测速度的改变(即,加速度)的传感器。加速度计120可感测相机设备1的运动,测量它的加速度,并输出相应的加速度值。加速度计120可以是电子加速度计或压电加速度计。电子加速度计通过使用磁铁和线圈之间的电动势来测量具有特定质量的正在运动的装置的加速度。压电加速度计使用压电装置,基于施加的压力来测量加速度,其中,当对压电装置施加压力时,压电装置产生电压。然而,加速度计120不限于电子加速度计或压电加速度计,并可以是能够测量加速度的任何其他传感器。
控制器130将由图像捕捉设备110获取的多个图像与所述多个图像的(基于加速度计算的)获取位置进行同步,基于图像获取参考区域识别独立图像的一个或更多个3D图像区域,调整一个或更多个3D图像区域的位置,并剪裁(crop)得到的3D图像区域,从而产生3D图像。
参照图3,控制器130可包括模式设置单元131、相对坐标计算器132、同步处理器133、图像获取位置设置单元134、图像剪裁单元135、3D图像产生器136和3D全景图像产生器137。
更具体地,模式设置单元131可根据来自用户的选择,设置3D图像产生模式或3D全景图像产生模式。用户可按压安装在相机设备1的驱动按钮或触摸显示在相机设备1的显示器(未示出)上的菜单,以使模式设置单元选择3D图像产生模式或3D全景图像产生模式。
相对坐标计算器132可基于由加速度计120提供的加速度信息,计算在图像被获取时图像的位置。更详细地,相对坐标计算器132可使用下面的等式(1),计算在图像被获取时图像的位置。
其中,x(t1)表示在图像被获取时图像的位置,t0表示计算开始的时间,t1表示拍摄开始的时间,表示加速度值。
同步处理器133将图像和它的获取位置进行匹配。图像和位置可包括标识信息,使得可在匹配时参考标识信息。
图像获取位置设置单元134可从图像捕捉设备110发送的多个图像(例如,一系列图像)的第一图像设置图像获取参考区域。图像获取参考区域定义图像中的将被剪裁的区域。从第一图像设置的图像获取参考区域与3D图像区域相应,并可在稍后剪裁时被参考。
例如,当3D图像产生模式被设置,并由图像捕捉设备110获取多个图像时,图像获取位置设置单元134从所述多个图像的第一图像设置图像获取参考区域,并将图像获取参考区域应用于后面的图像,使得可基于图像获取参考区域剪裁一个或更多个3D图像区域。
另外,图像获取位置设置单元134可基于图像获取参考区域和参考视差调整各个图像的3D图像区域的位置。图像获取位置设置单元134可将第一图像和第二图像之间的视差设置为参考视差,或可将参考视差设置为由用户输入的任意值。
在两眼的左视网膜和右视网膜上形成的同一对象点的位置可彼此不同。形成在一个视网膜上的对象图像的位置和形成在另一视网膜上的相应对象图像的位置之间的差被定义为视差。例如,如果图像形成在左眼的视网膜中央凹向左4mm处,并且相应图像形成在右眼的视网膜中央凹向左3mm处,则视差是1mm。
另外,图像获取位置设置单元134可移动图像调整的3D图像区域,使得图像和先前图像之间的视差成为参考视差。需要小的视差来给出3D效果。然而,如果存在过大的视差,则观看者会将单个对象感知为两个对象。所有对象都具有一定的视差,除非他们位于双眼单视界。
参照图4中示出的示例,表示在多个图像(a)至图像(d)被获取时各个图像(a)至图像(d)的位置的相对坐标分别是0、10、15和23。参考视差已被设置为10。图像获取位置设置单元134校正图像(c)的相对坐标15和图像(d)的相对坐标23,使得图像(c)和图像(d)的视差成为10。然而,由于图像(a)和图像(b)的视差已经是10,因此图像获取位置设置单元134不校正图像(a)和图像(b)。
另外,图像获取位置设置单元134可基于图像获取参考区域来调整各个图像的竖向定线。例如,图像获取位置设置单元134可基于从第一图像设置的图像获取参考区域来调整竖向定线。更具体地,图像获取位置设置单元134可通过将作为普通图像处理技术的图像模式匹配技术应用于图像,来调整图像的竖向定线,或可使用下面的等式(2)计算图像的垂直坐标值。
其中,y(t1)表示在图像被获取时图像的位置,t0表示计算开始的时间,t1表示拍摄开始的时间,表示加速度值。
图像剪裁单元135可剪裁所述多个图像的一个或更多个3D图像区域。术语“剪裁”表示在编辑图像时,将图像修剪为期望的尺寸。指示在何处将图像修剪(剪裁)为更小尺寸的线的图案被称为剪裁标记,并且从图像裁出的部分被称为剪裁部分。在图4的示例中,绘制在图像(a)至图像(d)上的虚线是剪裁标记。
3D图像产生器136可基于3D图像区域产生3D图像。图像剪裁单元135可随后剪裁3D图像。更具体地,3D图像产生器136将经过平移速度补偿的通过快速连拍(burst shoot)连续获取的3D图像区域的图像创建为左图像和右图像,并将左图像和右图像合成,从而产生3D图像。
3D全景图像产生器137可基于由图像捕捉设备110通过平移获取的3D图像区域,来产生3D全景图像。图像剪裁单元135可随后剪裁3D全景图像。3D全景图像产生器137用于基于由3D图像产生器136产生的3D图像,产生3D全景图像。
存储单元140可存储与3D图像提供设备100有关的所有信息,以及图像获取参考区域、参考视差和3D图像区域。
图5是根据实施例的3D图像提供方法的流程图,其中,由图2中示出的3D图像提供系统100执行3D图像提供方法。
参照图2和图5,如果3D图像提供系统100进入3D图像产生模式,则3D图像提供系统100可通过图像获取设备110获取对象的图像(S101和S103)。
3D图像提供系统100可通过加速度计120测量加速度。加速度计120的采样速率应高于图像被获取的速度。加速度计120可感测相应相机设备1(见图1)的运动,并输出加速度值。加速度计120是用于检测速度的改变的传感器。加速度计120可以是电子加速度计或压电加速度计。电子加速度计使用磁铁和线圈之间的电动势来测量具有特定质量的正在运动的装置的加速度,压电加速度计使用压电装置,基于施加的压力来识别加速度,其中,当对压电装置施加压力时,压电装置产生电压。然而,加速度计120不限于电子加速度计或压电加速度计,并可以是能够测量加速度的任何其他传感器。
随后,3D图像提供系统100可将由图像捕捉设备110获取的图像和它们的获取位置进行同步(S105),其中,基于在每个图像被获取时(例如,图像捕捉设备110)的加速度计算它们的获取位置。
图像数据和在图像数据已被获取时的位置信息可包括标识信息,使得在匹配时可参考标识信息。
随后,如果图像是获取的多个图像中的第一图像,则3D图像提供系统100可基于第一图像设置图像的图像获取参考区域(S107和S109)。
图像获取参考区域是定义图像数据中将被剪裁的区域的参考匹配。从第一图像数据设置的图像获取参考区域与3D图像区域相应,并可在稍后的剪裁中被参考。例如,当3D图像产生模式被设置,并由图像捕捉设备110获取多条图像数据时,3D图像提供系统100从第一图像数据设置图像获取参考区域,并将图像获取参考区域应用到后面的图像数据,使得可基于图像获取参考区域剪裁3D图像区域。
同时,如果图像不是第一图像,则3D图像提供系统100可计算图像和先前图像之间的视差(S121)。
形成在两眼的左视网膜和右视网膜上的同一对象点的位置可彼此不同。形成在一个视网膜上的对象图像的位置和形成在另一视网膜上的相应对象图像的位置之间的差被定义为视差。例如,如果图像形成在左眼的视网膜中央凹向左4mm处,并且相应图像形成在右眼的视网膜中央凹向左3mm处,则视差是1mm。需要小的视差来给出立体效果,然而,如果存在过大的视差,则观看者会将单个对象感知为两个对象。只要不是位于双眼单视界的所有对象均具有一定的视差。
随后,3D图像提供系统100可移动获取的图像的3D图像区域,使得图像和先前图像之间的视差成为参考视差(S123)。
参照图4中示出的示例,当表示在多条图像数据(a)至图像数据(d)已被获取时的各条图像数据(a)至图像数据(d)的位置信息的相对坐标分别是0、10、15和23,并且参考视差已被设置为10时,3D图像提供系统100校正图像数据(c)的相对坐标15和图像数据(d)的相对坐标23,使得图像数据(c)和图像数据(d)的视差成为10。此时,由于图像数据(a)和图像数据(b)的视差是10,因此图像获取位置设置单元134不校正图像数据(a)和图像数据(b)。
随后,3D图像提供系统100可基于图像获取参考区域来调整图像的竖向定线(S125)。例如,3D图像提供系统100可基于从第一图像设置的图像获取参考区域来调整图像的竖向定线。
更具体地,3D图像提供系统100可通过将作为普通图像处理技术的图像模式匹配技术应用于图像,来调整图像的竖向定线,或可使用等式(2)计算图像的垂直坐标值。
随后,3D图像提供系统100可剪裁各个图像的3D图像区域,并存储剪裁的结果(S111和S113)。
术语“剪裁”表示在编辑图像时,将图像修剪为期望的尺寸。指示在何处将图像修剪(剪裁)为更小尺寸的线的图案被称为剪裁标记,并且从图像裁出的部分被称为剪裁部分。在图4的示例中,绘制在图像数据(a)至图像数据(d)上的虚线是剪裁标记。
之后,如果已完成了图像获取,则3D图像提供系统100可基于在步骤S111经过剪裁的3D图像区域产生3D图像(S115和S117)。
如果在步骤115确定还未完成图像获取,则处理返回步骤S105,使得3D图像提供系统100重复执行从步骤S105开始的上述处理。
随后,3D图像处理系统100可连接3D图像,以产生3D全景图像(S119)。
在步骤S121之前,3D图像提供系统100可将第一图像和第二图像之间的视差设置为参考视差。可选择地,3D图像提供系统100可将参考视差设置为由用户输入的任意值。
图6是产生在图像被获取时图像的位置的方法的流程图。
首先,3D图像提供系统100可获取从加速度计120输出的加速度数据(S201)。
随后,3D图像提供系统100可基于加速度数据计算图像被获取时图像的位置(S203)。
更详细地,3D图像提供系统100可根据等式(1)计算在图像数据已被获取时图像数据的位置信息。
接下来,在S205,3D图像提供系统100可使用图5的步骤S105中的图像的位置。
一般地,3D一扫全景(3D sweep panorama)技术在平移相机的同时通过快速连拍连续地创建左图像和右图像,从而制造左图像和右图像之间的间隔,并且连接左图像和右图像,以产生3D全景。一般地,在3D一扫全景技术中,由于通过平移单个镜头以一定间隔获取左图像和右图像,因此可获得双眼效果。然而,当由于平移速度的改变,左图像和右图像之间的间隔变得不规则时,应仅具有位置差的左图像和右图像会不自然的出现在屏幕上,并且当左图像和右图像被重新构造为全景时,会发生图像失真。然而,根据上述实施例,通过将左图像和右图像之间的间隔调整为固定间隔,可获取具有适当深度感的3D全景图像。
另外,根据上述实施例,通过保持适当的视差量,可提供自然的3D图像,并且通过基于由加速度计获取的信息剪裁图像来代替图像处理,可有效地减少创建3D图像所需的计算量。
通过参考相同的范围并入这里引用的包括出版物、专利申请和专利的所有文献,在此情况下,相当于每个文献被单独且特别指示为通过引用被包括并且在这里被完全阐述。
为了促进对本公开的原理的理解的目的,已参照附图中示出的实施例,并且已使用特定语言来描述这些实施例。然而,该特定语言并不意图限制本公开的范围,并且本公开应被解释为包括本领域的普通技术人员会通常想到的所有实施例。这里使用的术语是为了描述特定实施例的目的,而不意图限制示例性实施例。在实施例的描述中,当认为现有技术的特定详细解释会不必要地模糊本公开的实质时,省略现有技术的特定详细解释。
这里描述的设备可包括:处理器、用于存储由处理器运行的程序数据的存储器,永久性存储器(诸如磁盘驱动器)、用于处理与外部装置通信的通信端口以及用户接口装置(包括显示器、触摸板、按键、按钮等)。当涉及软件模块时,这些软件模块可被存储为非暂时性计算机可读介质(诸如,磁存储介质(例如,磁带、硬盘、软盘)、光学记录介质(例如,CD-ROM、数字通用盘(DVD)等)和固态存储器(例如,随机存取存储器(RAM)、只读存储器(ROM)、静态随机存取存储器(SRAM)、电可擦除可编程只读存储器(EEPROM)、闪存、拇指驱动器等))上的可由处理器运行的程序指令或计算机可读代码,。计算机可读记录介质还可分布在联网的计算机系统上,使得以分布方式存储和执行计算机可读代码。计算机可读记录介质可由计算机读取、存储在存储器中以及由处理器执行。
另外,使用本文的公开,本公开所属领域的普通技术程序员可容易地实现用于制造和使用实施例的功能程序、代码和代码段。
可依据功能块组件和各种处理步骤来描述实施例。这样的功能块可由为执行特定的功能而配置的任意数量的硬件和/或软件组件来实现。例如,实施例可采用可在一个或更多个微处理器或其他控制装置的控制下,执行各种功能的各种集成电路组件(例如,存储器元件、处理元件、逻辑元件、查找表等)。同样地,当使用软件编程或软件元件实现实施例时,可用具有用数据结构、对象、处理、程序或其他编程元素的任何组合实现的各种算法的任意编程或脚本语言(诸如,C、C++、汇编程序等)实现实施例。可以以运行在一个或更多个处理器上的算法实现功能方面。此外,实施例可采用用于电子配置、信号处理和/或控制、数据处理等的任意数量的传统技术。最后,除非这里另有指示或上下文另有明显的矛盾,否则可以以任意适当的顺序执行这里描述的所有方法的步骤。
为简洁起见,可不详细描述传统的电子设备、控制系统、软件开发和系统的其他功能方面(和系统的各个操作组件的组件)。此外,呈现的各种附图中示出的连接线或连接器意图表示示例性功能关系和/或各种元件之间的物理或逻辑连接。应注意,很多可选择或附加功能关系、物理连接或逻辑连接可存在于实际装置中。词语“机制”、“元件”、“单元”、“结构”、“装置”和“构造”被广义地使用,并且不限于机械或物理实施例,而是可包括与处理器结合的软件程序等。
使用这里提供的任何和所有示例或示例性语言(例如,“诸如”)仅意图更好地阐明本公开,并不造成对本公开的范围的限制,除非另有要求。在不脱离由权利要求限定的本公开的精神和范围的情况下,许多修改和调整对本领域的普通技术人员而言将是显而易见的。因此,本公开的范围不是由详细的描述限定而是由权利要求限定,并且在该范围内的所有差异将被解释为包括在本公开中。
除非元件被明确描述为“必需”或“关键”,否则没有项目或组件对实施例的实施是必需的。还将认识到,如这里所使用的术语“包括”、“包含”、“具有”是专门意图被解读为开放式技术术语。在描述实施例的上下文中(特别是在权利要求的上下文中),术语“一个”和“该”以及类似指示物的使用将被解释为包括单数和复数两者,除非该上下文另有明确说明。此外,应理解,虽然这里可使用术语“第一”,“第二”等来描述各种元件,但是这些术语不应限制这些元件,这些术语仅用于将一个元件与另一元件区分。另外,这里的数值范围的叙述仅意图用作单独提及落在该范围内的每个单独的值的速记方法,除非这里另有说明,并且每个单独的值被合并到本说明书中,如同这里单独叙述。
可以以任何适当的顺序来执行这里描述的方法的操作。本公开的范围不限于权利要求书、示例,或示例性术语。本领域普通技术人员将理解,在不脱离由权利要求及其等同物限定的精神和范围的情况下,可根据这里的设计条件和因素在形式和细节上进行各种修改、组合和改变。
Claims (14)
1.一种3维(3D)图像提供系统,包括:
图像捕捉设备,获取对象的多个图像,每个图像在各自位置被捕捉;
加速度计,测量加速度;
控制器,
将所述多个图像和所述多个图像的获取位置进行同步,其中,所述多个图像中的每个图像的获取位置基于测量到的加速度被计算,
基于所述多个图像中的第一图像设置图像获取参考区域,
基于图像获取参考区域,选择所述多个图像中的每个图像的一个或更多个3D图像区域,
调整一个或更多个选择的3D图像区域的位置,
剪裁选择的3D图像区域,从而产生3D图像。
2.根据权利要求1所述的3D图像提供系统,其中,控制器包括:
相对坐标计算器,基于测量的加速度,计算在所述多个图像中的每个图像被捕捉时每个图像的位置;
同步处理器,将所述多个图像中的每个图像与它的计算的位置进行匹配;
图像获取位置设置单元,基于参考视差和图像获取参考区域,调整所述多个图像中的每个图像的所述一个或更多个3D图像区域中的3D图像区域的位置;
图像剪裁单元,剪裁所述多个图像中的每个图像的所述一个或更多个3D图像区域;
3D图像产生器,基于经过剪裁的3D图像区域产生3D图像。
3.根据权利要求2所述的3D图像提供系统,其中,相对坐标计算器根据下式计算在每个图像被获取时每个图像的位置:
其中,x(t1)表示在图像被获取时图像的位置,t0表示计算开始的时间,t1表示拍摄开始的时间,表示加速度值。
4.根据权利要求2所述的3D图像提供系统,其中,图像获取位置设置单元将参考视差设置为所述多个图像中的第一图像和所述多个图像中的第二图像之间的视差,或将参考视差设置为由用户输入的任意值。
5.根据权利要求2所述的3D图像提供系统,其中,图像获取位置设置单元移动图像的3D图像区域,使得所述图像和先前图像之间的视差变为参考视差。
6.根据权利要求2所述的3D图像提供系统,其中,图像获取位置设置单元基于图像获取参考区域调整所述多个图像中的每个图像的竖向定线。
7.根据权利要求2所述的3D图像提供系统,还包括:3D全景图像产生器,基于所述多个图像的经过剪裁的3D图像区域,产生3D全景图像。
8.根据权利要求2所述的3D图像提供系统,还包括:模式设置单元,根据来自用户的选择,设置3D图像产生模式或3D全景图像产生模式。
9.一种3维(3D)图像提供方法,包括:
当3D图像产生模式被设置时,通过图像捕捉设备获取对象的多个图像的图像;
通过加速度计测量加速度;
基于测量的加速度,计算在所述多个图像中的每个图像被获得时每个图像的位置;
将所述多个图像中的每个图像与它的计算的位置进行匹配;
如果获取的图像是所述多个图像中的第一图像,则基于第一图像设置图像获取参考区域;
如果获取的图像不是第一图像,则基于图像获取参考区域识别获取的图像的3D图像区域,调整3D图像区域的位置;
从图像剪裁3D图像区域;
基于经过剪裁的3D图像区域来产生3D图像。
10.根据权利要求9所述的3D图像提供方法,其中,识别3D图像区域的步骤包括:
如果获取的图像不是第一图像,则计算所述图像和先前图像之间的视差;
移动所述图像的3D图像区域,使得所述图像和先前图像之间的视差变为参考视差。
11.根据权利要求10所述的3D图像提供方法,还包括:
在计算所述图像和先前图像之间的视差之前,将参考视差设置为所述多个图像中的第一图像和所述多个图像中的第二图像之间的视差,或将参考视差设置为由用户输入的任意值。
12.根据权利要求10所述的3D图像提供方法,还包括:
在移动获取的图像的3D图像区域之后,基于图像获取参考区域调整所述多个图像中的每个图像的竖向定线。
13.根据权利要求9所述的3D图像提供方法,其中,根据下式计算所述多个图像中的每个图像的位置;
其中,x(t1)表示在图像被获取时图像的位置,t0表示计算开始的时间,t1表示拍摄开始的时间,表示加速度值。
14.根据权利要求9所述的3D图像提供方法,还包括:在产生3D图像之后,连接3D图像以产生3D全景图像。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2013-0053657 | 2013-05-13 | ||
KR1020130053657A KR102068048B1 (ko) | 2013-05-13 | 2013-05-13 | 3차원 영상 제공 시스템 및 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104155839A CN104155839A (zh) | 2014-11-19 |
CN104155839B true CN104155839B (zh) | 2018-07-24 |
Family
ID=50137528
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410200292.3A Expired - Fee Related CN104155839B (zh) | 2013-05-13 | 2014-05-13 | 用于提供3维图像的系统和方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9426446B2 (zh) |
EP (1) | EP2804379A1 (zh) |
KR (1) | KR102068048B1 (zh) |
CN (1) | CN104155839B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9843724B1 (en) * | 2015-09-21 | 2017-12-12 | Amazon Technologies, Inc. | Stabilization of panoramic video |
GB2550854B (en) | 2016-05-25 | 2019-06-26 | Ge Aviat Systems Ltd | Aircraft time synchronization system |
WO2018090250A1 (zh) | 2016-11-16 | 2018-05-24 | 深圳市大疆创新科技有限公司 | 生成三维点云的方法、装置、计算机系统和移动设备 |
CN111353930B (zh) * | 2018-12-21 | 2022-05-24 | 北京市商汤科技开发有限公司 | 数据处理方法及装置、电子设备及存储介质 |
CN110719453B (zh) * | 2019-09-18 | 2021-02-05 | 宁波大学 | 一种立体视频裁剪方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6700604B1 (en) * | 1998-02-18 | 2004-03-02 | Ricoh Company, Ltd. | Image capturing method and apparatus for determining a shape of an object |
CN101577795A (zh) * | 2009-06-17 | 2009-11-11 | 深圳华为通信技术有限公司 | 一种实现全景图像的实时预览的方法和装置 |
CN102012625A (zh) * | 2009-06-16 | 2011-04-13 | 英特尔公司 | 根据单个相机和运动传感器的3d信息推导 |
CN102265627A (zh) * | 2009-01-02 | 2011-11-30 | 三星电子株式会社 | 图像数据获得方法和图像数据获得设备 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090027549A1 (en) * | 2004-05-17 | 2009-01-29 | Weisgerber Robert C | Method for processing motion pictures at high frame rates with improved temporal and spatial resolution, resulting in improved audience perception of dimensionality in 2-D and 3-D presentation |
JP4847051B2 (ja) * | 2005-06-09 | 2011-12-28 | クラリオン株式会社 | 車両周囲監視方法およびシステム |
US10080006B2 (en) * | 2009-12-11 | 2018-09-18 | Fotonation Limited | Stereoscopic (3D) panorama creation on handheld device |
EP2354893B1 (en) * | 2009-12-31 | 2018-10-24 | Sony Interactive Entertainment Europe Limited | Reducing inertial-based motion estimation drift of a game input controller with an image-based motion estimation |
CN101860589A (zh) | 2010-06-13 | 2010-10-13 | 中兴通讯股份有限公司 | 一种实现在被叫终端显示主叫信息的方法及系统 |
JP4880096B1 (ja) * | 2010-06-30 | 2012-02-22 | 富士フイルム株式会社 | 多視点撮影制御装置、多視点撮影制御方法及び多視点撮影制御プログラム |
KR101679080B1 (ko) * | 2010-09-09 | 2016-11-23 | 엘지디스플레이 주식회사 | 3d 영상 생성방법 및 이를 이용한 입체영상 표시장치 |
JP2012068380A (ja) * | 2010-09-22 | 2012-04-05 | Sony Corp | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム |
US8600194B2 (en) * | 2011-05-17 | 2013-12-03 | Apple Inc. | Positional sensor-assisted image registration for panoramic photography |
-
2013
- 2013-05-13 KR KR1020130053657A patent/KR102068048B1/ko active IP Right Grant
-
2014
- 2014-02-20 EP EP14155896.5A patent/EP2804379A1/en not_active Withdrawn
- 2014-02-24 US US14/187,680 patent/US9426446B2/en not_active Expired - Fee Related
- 2014-05-13 CN CN201410200292.3A patent/CN104155839B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6700604B1 (en) * | 1998-02-18 | 2004-03-02 | Ricoh Company, Ltd. | Image capturing method and apparatus for determining a shape of an object |
CN102265627A (zh) * | 2009-01-02 | 2011-11-30 | 三星电子株式会社 | 图像数据获得方法和图像数据获得设备 |
CN102012625A (zh) * | 2009-06-16 | 2011-04-13 | 英特尔公司 | 根据单个相机和运动传感器的3d信息推导 |
CN101577795A (zh) * | 2009-06-17 | 2009-11-11 | 深圳华为通信技术有限公司 | 一种实现全景图像的实时预览的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
US20140333733A1 (en) | 2014-11-13 |
KR102068048B1 (ko) | 2020-01-20 |
EP2804379A1 (en) | 2014-11-19 |
US9426446B2 (en) | 2016-08-23 |
CN104155839A (zh) | 2014-11-19 |
KR20140134043A (ko) | 2014-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107087107B (zh) | 基于双摄像头的图像处理装置及方法 | |
EP3248374B1 (en) | Method and apparatus for multiple technology depth map acquisition and fusion | |
KR101602394B1 (ko) | 3d 깊이 정보를 기반으로 한 이미지 블러 | |
CN103081455B (zh) | 从手持设备所捕获的多个图像进行肖像图像合成 | |
CN104155839B (zh) | 用于提供3维图像的系统和方法 | |
CN108419017B (zh) | 控制拍摄的方法、装置、电子设备及计算机可读存储介质 | |
US9781405B2 (en) | Three dimensional imaging with a single camera | |
TW200816800A (en) | Single lens auto focus system for stereo image generation and method thereof | |
CN108270967A (zh) | 自动对焦方法和用于执行该方法的电子设备 | |
TW201541141A (zh) | 使用多鏡頭的自動對焦系統及其方法 | |
CN101943841A (zh) | 摄像装置、变焦校正信息生成方法和程序以及记录介质 | |
CN108702456A (zh) | 一种对焦方法、设备及可读存储介质 | |
JP5963256B2 (ja) | 画像生成装置 | |
CN109451240A (zh) | 对焦方法、装置、计算机设备和可读存储介质 | |
CN107517345A (zh) | 拍摄预览方法及拍摄设备 | |
KR20150091064A (ko) | 단일의 카메라를 이용하여 3d 이미지를 캡쳐하는 방법 및 시스템 | |
JP6704679B2 (ja) | 制御装置、光学機器、制御方法、プログラム、および、記憶媒体 | |
CN108282622B (zh) | 照片拍摄方法和装置 | |
CN109068118A (zh) | 双摄模组的基线距离调整方法、装置及双摄模组 | |
CN106027889B (zh) | 控制方法、控制装置及电子装置 | |
Chen | Capturing fast motion with consumer grade unsynchronized rolling-shutter cameras | |
CN106713893A (zh) | 手机3d立体拍照方法 | |
CN105763801B (zh) | 控制方法、控制装置及电子装置 | |
CN113014791B (zh) | 图像生成方法及装置 | |
JP2012220603A (ja) | 3d映像信号撮影装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180724 Termination date: 20210513 |