JPWO2011132364A1 - 立体画像撮影装置および立体画像撮影方法 - Google Patents
立体画像撮影装置および立体画像撮影方法 Download PDFInfo
- Publication number
- JPWO2011132364A1 JPWO2011132364A1 JP2012511522A JP2012511522A JPWO2011132364A1 JP WO2011132364 A1 JPWO2011132364 A1 JP WO2011132364A1 JP 2012511522 A JP2012511522 A JP 2012511522A JP 2012511522 A JP2012511522 A JP 2012511522A JP WO2011132364 A1 JPWO2011132364 A1 JP WO2011132364A1
- Authority
- JP
- Japan
- Prior art keywords
- eye
- image
- vertical
- timing
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 49
- 238000012545 processing Methods 0.000 claims abstract description 71
- 238000009432 framing Methods 0.000 claims abstract description 30
- 230000001360 synchronised effect Effects 0.000 claims abstract description 28
- 238000003384 imaging method Methods 0.000 claims description 87
- 238000009966 trimming Methods 0.000 claims description 87
- 230000003287 optical effect Effects 0.000 claims description 68
- 238000005096 rolling process Methods 0.000 claims description 32
- 230000003111 delayed effect Effects 0.000 claims description 29
- 230000008859 change Effects 0.000 claims description 9
- 238000013459 approach Methods 0.000 claims description 8
- 239000004065 semiconductor Substances 0.000 claims description 4
- 229910044991 metal oxide Inorganic materials 0.000 claims description 3
- 150000004706 metal oxides Chemical class 0.000 claims description 3
- 230000000875 corresponding effect Effects 0.000 description 38
- 238000006073 displacement reaction Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 15
- 238000001514 detection method Methods 0.000 description 12
- 238000007781 pre-processing Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 230000002123 temporal effect Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 7
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 239000004973 liquid crystal related substance Substances 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 6
- 238000009825 accumulation Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000012937 correction Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 2
- 210000005069 ears Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 208000003464 asthenopia Diseases 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000000078 claw Anatomy 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 238000005304 joining Methods 0.000 description 1
- 238000007562 laser obscuration time method Methods 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
Abstract
Description
左目用イメージセンサ2Lを有する左目用撮像部1Lと、
右目用イメージセンサ2Rを有する右目用撮像部1Rと、
前記左目用、右目用イメージセンサ2L、2Rをフレーム同期して駆動制御するフレーム同期駆動制御部3と、
前記左目用撮像部1Lで取得される左目用撮影画像PLと、前記右目用撮像部1Rで取得される右目用撮影画像PRとに画像処理を行って、前記左目用撮影画像PLと前記右目用撮影画像PRとの視差画像を生成するカメラ処理部4と、
前記左目用撮影画像PLにおける被写体像のフレーミング位置と前記右目用撮影画像PRにおける被写体像のフレーミング位置との間の垂直方向ずれ量がゼロに近づくように、前記フレーム同期駆動制御部3において前記左目用、右目用イメージセンサ2L、2Rの駆動タイミングを調整する垂直タイミング調整器5と、
を備える。
左目用イメージセンサ2Lを有する左目用撮像部1Lで得られる左目用撮影画像PLにおける被写体像のフレーミング位置と、右目用イメージセンサ2Rを有する右目用撮像部1Rで得られる右目用撮影画像PRにおける被写体像のフレーミング位置との間の垂直方向ずれ量を求める第1のステップと、
前記垂直方向ずれ量Δhに基づいて、前記左目用、右目用イメージセンサ2L、2Rの駆動タイミングを調整する第2のステップと、
調整後の前記駆動タイミングに従って駆動する前記左目用、右目用イメージセンサ2L、2Rで取得された露光終了後の画像データをライン単位で順次に読み出す第3のステップと、
を含む。
前記駆動タイミングの調整を前記垂直タイミング調整器5に指示するためのずれ調整指示信号を、当該立体画像撮影装置の操作者による手動操作に基づいて生成する操作器を、
さらに有し、
前記垂直タイミング調整器5は、前記ずれ調整指示信号に基づいて前記駆動タイミングを前記フレーム同期駆動制御部3において調整するように構成されている。
垂直タイミング調整器5は、
前記左目用撮影画像PLにおける左側注目ポイントQLと前記右目用撮影画像PRにおける右側注目ポイントQRとをそれぞれ抽出したうえで、前記左側、右側注目ポイントQL,QRそれぞれの垂直方向座標を割り出す左右の注目ポイント座標算出器7L,7Rと、
前記左側注目ポイントQLの垂直方向座標YLと前記右側注目ポイントQRの垂直方向座標YRとの差分から前記垂直方向ずれ量Δhを算出する垂直方向ずれ量算出器8と、
垂直方向ずれ量算出器8による垂直方向ずれ量Δhを時間を単位とする遅延量Δtに換算する遅延量算出器9と、
前記駆動タイミングの遅延量Δtを加味した駆動タイミングをフレーム同期駆動制御部3に設定する駆動タイミング設定器10と、
を備えている、という態様である。
前記第1のステップは、
前記左目用撮影画像PLと前記右側撮像画像PRとを同一画面において左右に並べて表示する第1−1のステップと、
前記同一画面に表示された前記左目用、右目用撮影画像PL、PRそれぞれにおいて、同時刻の同一被写体の相対位置関係が前記左目用撮影画像PLと前記右目用撮影画像PRとで同じになるように設定されたトリミングエリアTL,TRを設定する第1−2のステップと、
前記左目用、右目用撮影画像それぞれの前記トリミングエリアTL,TRにおいて注目ポイントQL,QRを抽出する第1−3のステップと、
前記左目用撮影画像PLの前記注目ポイントQLと前記右目用撮影画像PRの前記注目ポイントQRとの間で前記垂直方向ずれ量Δhを検出する第1−4のステップと、
を備えている、という態様である。
前記第1−4のステップは、前記左目用撮影画像PLの前記トリミングエリアTLにおける前記注目ポイントQLが所属するラインの番号と、前記右目用撮影画像PRの前記トリミングエリアTRにおける前記注目ポイントQRが所属するラインのライン番号との間の差分を算出することで前記垂直方向ずれ量Δhを検出する、という態様である。
前記左目用、右目用撮影画像QL、PRにおける被写体の顔領域を検出する顔領域検出器をさらに備え、
前記注目ポイント座標算出器7L,7Rは、前記顔領域検出器によって検出された前記顔領域内の特定部位を前記左側、右側注目ポイントQL、PRに設定する、のが好ましい1態様である。
前記左目用、右目用撮像部1L、1Rは、変倍レンズを有する光学系をそれぞれ備え、前記左目用撮像部1Lの前記変倍レンズと、前記右目用撮像部1Rの前記変倍レンズとは、互いに連動するように構成されている、という態様である。
√n:n倍当たりの1辺の変化量
√b:倍率bでの1辺の変化量
と考えて(√nはnの平方根を意味する)、
Lb =[(Lt −Lw )/√n]×√b +Lw
となる。これは倍率bに対応したずれ量ライン数であるが、さらにこれから上記の駆動タイミングの遅延量Δtを算出し、フィードバックする。
前記左目用、右目用撮影画像PL、PRの撮影を開始する第4のステップと、
前記左目用、右目用撮影画像PL、PRを読み出す第5のステップと、
前記左目用、右目用撮影画像PL、PRにおいてトリミングエリアTL,TRをそれぞれ初期設定する第6のステップと、
前記左目用、右目用撮影画像PL、PRのトリミングエリアTL,TRそれぞれにおいて注目ポイントQL、QRを抽出する第7のステップと、
前記左目用撮影画像PLの前記注目ポイントQLと、前記右目用撮影画像PRの前記注目ポイントQRとの間で垂直方向ずれの有無を確認する第8のステップと、
前記垂直方向ずれがあるときに、前記左目用撮影画像PLのトリミングエリアTLと前記右目用撮影画像PRのトリミングエリアTRとのうちの一方の位置を垂直方向で調整する第9のステップと、
前記垂直方向ずれのずれ量Δhがゼロに収束するまで、前記第7の〜第9のステップを繰り返す第10のステップと、
前記垂直方向ずれのずれ量Δhがゼロになったときの前記第9のステップにおける前記一方のトリミングエリアの垂直方向の調整量を、前記第8のステップで検出した前記垂直方向ずれのずれ量Δhに対応する駆動タイミングの遅延量として保存する第11のステップと、
さらに含む。
前記左目用、右目用イメージセンサ2L、2Rが有する電子シャッタがローリングシャッタであるか否かを判定する第12のステップと、
前記第12のステップで前記電子シャッタが前記ローリングシャッタであると判定すると、前記ずれ量Δhに対応した駆動タイミングの遅延量を、前記第12のステップにおいて前記電子シャッタが前記ローリングシャッタであると判定した前記左目用、右目用イメージセンサ2L、2Rに設定する第13のステップと、
さらに含む。
Δt=T2−T1
である。
Δt+T1=T2
であり、右目用撮影画像PRにおけるお父さん像の帽子の頂点の読み出しタイミングT2と同じタイミングとなる。
T2′=T2+Δtα
になったと考えられる。これと連動して、遅延量Δt′も静止状態の場合のΔtが、
Δt′=Δt+Δtα
になる。上式の(Δt+T1=T2)にあてはめ、ΔtをΔt′で置き換えると、
Δt′+T1=Δt+Δtα+T1
=Δt+(T2′−T2)+T1
=(T2−T1)+(T2′−T2)+T1
=T2′
つまり、
Δt′+T1=T2′
であり、静止状態の場合と同様に、右目用撮影画像PRにおけるお父さん像の帽子の頂点の読み出しタイミングT2′と同じタイミングとなる。
上記では、左目用、右目用撮影画像PL,PRの垂直方向ずれの確認の仕方については、特に詳しくは説明していなかった。そこで、以下では、左目用、右目用撮影画像PL,PRの垂直方向ずれの確認の具体例を説明する。調整はマニュアル方式である。
図13の(a)に示すように、左目用、右目用撮影画像PL,PRそれぞれにおいて顔領域KL,KRの検出を行う。検出した顔領域KL,KR内で注目ポイントQL,QRの抽出を行う。注目ポイントQL,QRとしては、眼や口や耳や鼻などが考えられる。抽出した注目ポイントQL,QRのY座標を求め、両Y座標の差分を垂直方向ずれ量Δhとする。垂直方向ずれ量Δhを遅延量Δtに換算し、遅延量Δtをフレーム同期駆動制御部3に送出する。遅延量Δtに基づいて被写体像フレーミング位置が上方側のイメージセンサの読み出しスタートパルスSPの出力タイミングを遅延量Δtだけ遅らせる。結果として、図13の(b)に示すように、視差画像としてマッチングのとれた左目用、右目用撮影画像PL,PRが得られる。
次に、撮影者の操作を介さず自動調整する方法について説明する。図14は上記構成の立体画像撮影装置の動作を示すフローチャートである。この制御の主体は、カメラ処理部200におけるCPU41およびその周辺部分である。処理の様子はモニタディスプレイに映出する必要はない。ただし、映出してもよい。
変倍レンズ11,21によるズーム比率が変化する場合、フレーム同期駆動制御部3での読み出しスタートパルスSPの遅延量Δtは、ズーム比率に比例して変動する。特に拡大ズームを実施した場合は、露光タイミングのずれが増大する。したがって、ズーム比率に連動して読み出しスタートパルスSPの遅延量Δtを調整する必要がある。
Lb =[(Lt −Lw )/√n]×√b +Lw
となる。これは倍率bに対応したずれ量ライン数であるが、さらにこれから上記の駆動タイミングの遅延量Δtを算出し、フィードバックする。この遅延量Δtは、光軸下方ずれで被写体像上方ずれの側のイメージセンサに設定されることになる。これにより、変倍レンズのズーム比率変化の如何にかかわりなく、左目用、右目用撮影画像PL,PR間で空間的に垂直方向のずれのない撮影の同時性が確保された表示用/記録用の視差画像が得られ、良品質な立体画像を得ることが可能となる。
カメラシステムとしては、図16に示すようなものが考えられる。これは、立体画像撮影用アダプタを含むハイブリッド撮影システムとなっている。このハイブリッド撮影システムは、立体画像撮影用のステレオカメラSCと、立体画像撮影用ではない通常撮影用の一般的なカメラである非ステレオカメラNSとの組み合わせから構成されている。
1R 右目用撮像部
2L 左目用イメージセンサ
2R 右目用イメージセンサ
3 フレーム同期駆動制御部
4 カメラ処理部
5 垂直タイミング調整器
6 操作器
7L,7R 注目ポイント座標算出器
8 垂直方向ずれ量算出器
9 遅延量算出器
10 駆動タイミング設定器
11,21 変倍レンズ
41 CPU
44 前処理部
45 メモリ制御部
46 画像メモリ
50 顔領域検出器
53 モニタインターフェース
54 操作パネル
100 立体画像撮像部
200 カメラ処理部
PL 左目用撮影画像
PR 右目用撮影画像
AL 左目側被写体像
AR 右目側被写体像
TL 左目用トリミングエリア
TR 右目用トリミングエリア
PTL 左目用トリミング画像
PTR 右目用トリミング画像
SP 読み出しスタートパルス
ESSP 電子シャッタスタートパルス(シャッタゲートパルス)
KL,KR 検出顔領域
QL,QR 注目ポイント
Δh 垂直方向ずれ量
Δt 遅延量
Claims (24)
- 左目用イメージセンサを有する左目用撮像部と、
右目用イメージセンサを有する右目用撮像部と、
前記左目用、右目用イメージセンサをフレーム同期して駆動制御するフレーム同期駆動制御部と、
前記左目用撮像部で取得される左目用撮影画像と、前記右目用撮像部で取得される右目用撮影画像とに画像処理を行って、前記左目用撮影画像と前記右目用撮影画像との視差画像を生成するカメラ処理部と、
前記左目用撮影画像における被写体像のフレーミング位置と前記右目用撮影画像における被写体像のフレーミング位置との間の垂直方向ずれ量がゼロに近づくように、前記フレーム同期駆動制御部において前記左目用、右目用イメージセンサの駆動タイミングを調整する垂直タイミング調整器と、
を備える立体画像撮影装置。 - 前記垂直タイミング調整器は、前記視差画像に基づいて、同時刻の同一被写体の相対位置関係が前記左目用撮影画像と前記右目用撮影画像とで同じになるように設定された左右一対のトリミングエリアの間のずれ量を求め、求めたずれ量に対応する駆動タイミングの遅延量を前記フレーム同期駆動制御部に設定するように構成されている、
請求項1に記載の立体画像撮影装置。 - 前記左目用、右目用イメージセンサは、露光制御のための電子シャッタとしてのローリングシャッタを有するMOS(Metal Oxide Semiconductor)イメージセンサである、
請求項1に記載の立体画像撮影装置。 - 前記駆動タイミングは、垂直同期信号の出力タイミングを含み、
前記垂直タイミング調整器は、前記左側、右目用撮影画像のうちで被写体像フレーミング位置が相対的に一方より上方側に位置する他方を取得する前記左目用イメージセンサまたは前記右目用イメージセンサにおいて、前記垂直同期信号の出力タイミングを、同期基準信号のタイミングから、前記垂直方向ずれ量に対応したライン数に相当する垂直走査期間分だけ遅延させるように構成されている、
請求項1に記載の立体画像撮影装置。 - 前記駆動タイミングは、前記ローリングシャッタのシャッタパルスと読み出しスタートパルスとの出力タイミングとを含み、
前記垂直タイミング調整器は、前記シャッタパルスと前記読み出しスタートパルスとを、前記左目用、右目用イメージセンサの垂直同期信号の遅延に並行して同一時間遅延させるように構成されている、
請求項3に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、前記垂直方向ずれ量をライン数ずれ量に換算したうえで、前記左目用、右目用撮影画像のうちで被写体像フレーミング位置が相対的に一方より上方側に位置する他方を取得する前記左目用イメージセンサまたは前記右目用イメージセンサに、前記ライン数ずれ量を前記駆動タイミングの遅延量として設定するように構成されている、
請求項1に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、前記駆動タイミングの調整量を、当該立体画像撮影装置の操作者による手動操作で前記フレーム同期駆動制御部に送出可能に構成されている、
請求項1に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、前記駆動タイミングの調整量を、自動的に前記フレーム同期駆動制御部に送出可能に構成されている、
請求項1に記載の立体画像撮影装置。 - 前記駆動タイミングの調整を前記垂直タイミング調整器に指示するためのずれ調整指示信号を、当該立体画像撮影装置の操作者による手動操作に基づいて生成する操作器を、
さらに有し、
前記垂直タイミング調整器は、前記ずれ調整指示信号に基づいて前記駆動タイミングを前記フレーム同期駆動制御部において調整する、
請求項1に記載の立体画像撮影装置。 - 前記第1、第2の撮影画像を表示するモニタをさらに備え、
前記カメラ処理部は、同時刻の同一被写体の相対位置関係が左右で同じになるように設定された左右一対のトリミングエリアに対応する左右一対のトリミング画像をモニタサイズに縮小リサイズし、縮小リサイズした前記左右一対のトリミング画像を前記モニタ上で左側と右側に並べて表示する機能を有している、
請求項9に記載の立体画像撮影装置。 - 前記第1、第2の撮影画像を表示するモニタをさらに備え、
前記カメラ処理部は、同時刻の同一被写体の相対位置関係が左右で同じになるように設定された左右一対のトリミングエリアのうちで左側トリミングエリアに対応する左側トリミング画像の左側半分に位置する左側1/2画像をモニタサイズの2分の1に縮小リサイズし、縮小リサイズした前記左側1/2画像を前記モニタ上で左側に表示するとともに、前記左右一対のトリミングエリアのうちで右側トリミングエリアに対応する右側トリミング画像の右側半分に位置する右側1/2画像をモニタサイズの2分の1に縮小リサイズし、縮小リサイズした前記右側1/2画像を前記モニタ上で右側に表示する機能を有している、
請求項9に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、前記駆動タイミングの遅延量として、前記左目用トリミングエリアのスタートラインの位置情報と前記右目用トリミングエリアのスタートラインの位置情報との差分を時間に換算して得られる遅延量を用いる、
請求項10に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、前記駆動タイミングの遅延量として、前記左目用トリミングエリアのスタートラインの位置情報と前記右目用トリミングエリアのスタートラインの位置情報との差分を時間に換算して得られる遅延量を用いる、
請求項11に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、
前記左目用撮影画像における左側注目ポイントと前記右目用撮影画像における右側注目ポイントとをそれぞれ抽出したうえで、前記左側、右側注目ポイントそれぞれの垂直方向座標を割り出す注目ポイント座標算出器と、
前記左側注目ポイントの垂直方向座標と前記右側注目ポイントの垂直方向座標との差分から前記垂直方向ずれ量を算出する垂直方向ずれ量算出器と、
前記垂直方向ずれ量を時間を単位とする遅延量に換算する遅延量算出器と、
前記遅延量を加味した前記駆動タイミングを前記フレーム同期駆動制御部に設定する駆動タイミング設定器と、
を備えている、
請求項1に記載の立体画像撮影装置。 - 前記左目用、右目用撮影画像における被写体の顔領域を検出する顔領域検出器をさらに備え、
前記注目ポイント座標算出器は、前記顔領域検出器によって検出された前記顔領域内の特定部位を前記左側、右側注目ポイントに設定する、
請求項14に記載の立体画像撮影装置。 - 前記左目用、右目用撮像部は、変倍レンズを有する光学系をそれぞれ備え、前記左目用撮像部の前記変倍レンズと、前記右目用撮像部の前記変倍レンズとは、互いに連動するように構成されている、
請求項1に記載の立体画像撮影装置。 - 前記垂直タイミング調整器は、前記変倍レンズのズーム比率の変化に応じて前記駆動タイミングの遅延量を可変する、
請求項16に記載の立体画像撮影装置。 - 左目用イメージセンサを有する左目用撮像部で得られる左目用撮影画像における被写体像のフレーミング位置と、右目用イメージセンサを有する右目用撮像部で得られる右目用撮影画像における被写体像のフレーミング位置との間の垂直方向ずれ量を求める第1のステップと、
前記垂直方向ずれ量に基づいて、前記左目用、右目用イメージセンサの駆動タイミングを調整する第2のステップと、
調整後の前記駆動タイミングに従って駆動する前記左目用、右目用イメージセンサで取得された露光終了後の画像データをライン単位で順次に読み出す第3のステップと、
を含む立体画像撮影方法。 - 前記第1のステップは、
前記左目用撮影画像と前記右側撮像画像とを同一画面において左右に並べて表示する第1−1のステップと、
前記同一画面に表示された前記左目用、右目用撮影画像それぞれにおいて、同時刻の同一被写体の相対位置関係が前記左目用撮影画像と前記右目用撮影画像で同じになるように設定されたトリミングエリアを設定する第1−2のステップと、
前記左目用、右目用撮影画像それぞれの前記トリミングエリアにおいて注目ポイントを抽出する第1−3のステップと、
前記左目用撮影画像の前記注目ポイントと前記右目用撮影画像の前記注目ポイントとの間で前記垂直方向ずれ量を検出する第1−4のステップと、
を含む、請求項18に記載の立体画像撮影方法。 - 前記第1−4のステップは、前記左目用撮影画像の前記トリミングエリアと、前記右目用撮影画像の前記トリミングエリアとのうちの一方の位置を、他方の位置に合わせ込むために、当該一方を垂直方向にシフトする際のシフト量を検出することで前記垂直方向ずれ量を検出する、
請求項19に記載の立体画像撮影方法。 - 前記第1−4のステップは、前記左目用撮影画像の前記トリミングエリアにおける前記注目ポイントが所属するラインのライン番号と、前記右目用撮影画像の前記トリミングエリアにおける前記注目ポイントが所属するラインのライン番号との間の差分を算出することで前記垂直方向ずれ量を検出する、
請求項18に記載の立体画像撮影方法。 - 前記注目ポイントとして、前記左目用、右目用撮影画像における被写体の顔領域の特定部位を用いる、
請求項19に記載の立体画像撮影方法。 - 前記左目用、右目用撮影画像の撮影を開始する第4のステップと、
前記左目用、右目用撮影画像を読み出す第5のステップと、
前記左目用、右目用撮影画像においてトリミングエリアをそれぞれ初期設定する第6のステップと、
前記左目用、右目用撮影画像のトリミングエリアそれぞれにおいて注目ポイントを抽出する第7のステップと、
前記左目用撮影画像の前記注目ポイントと、前記右目用撮影画像の前記注目ポイントとの間で垂直方向ずれの有無を確認する第8のステップと、
前記垂直方向ずれがあるときに、前記左目用撮影画像のトリミングエリアと前記右目用撮影画像のトリミングエリアとのうちの一方の位置を垂直方向で調整する第9のステップと、
前記垂直方向ずれのずれ量がゼロに収束するまで、前記第7の〜第9のステップを繰り返す第10のステップと、
前記垂直方向ずれのずれ量がゼロになったときの前記第9のステップにおける前記一方のトリミングエリアの垂直方向の調整量を、前記第8のステップで検出した前記垂直方向ずれのずれ量に対応する駆動タイミングの遅延量として保存する第11のステップと、
さらに含む、
請求項18に記載の立体画像撮影方法。 - 前記左目用、右目用イメージセンサが有する電子シャッタがローリングシャッタであるか否かを判定する第12のステップと、
前記第12のステップで前記電子シャッタが前記ローリングシャッタであると判定すると、前記ずれ量に対応した駆動タイミングの遅延量を、前記第12のステップにおいて前記電子シャッタが前記ローリングシャッタであると判定した前記左目用、右目用イメージセンサに設定する第13のステップと、
さらに含む請求項23に記載の立体画像撮影方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012511522A JP5683025B2 (ja) | 2010-04-19 | 2011-03-24 | 立体画像撮影装置および立体画像撮影方法 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010095732 | 2010-04-19 | ||
JP2010095732 | 2010-04-19 | ||
PCT/JP2011/001726 WO2011132364A1 (ja) | 2010-04-19 | 2011-03-24 | 立体画像撮影装置および立体画像撮影方法 |
JP2012511522A JP5683025B2 (ja) | 2010-04-19 | 2011-03-24 | 立体画像撮影装置および立体画像撮影方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2011132364A1 true JPWO2011132364A1 (ja) | 2013-07-18 |
JP5683025B2 JP5683025B2 (ja) | 2015-03-11 |
Family
ID=44833909
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012511522A Active JP5683025B2 (ja) | 2010-04-19 | 2011-03-24 | 立体画像撮影装置および立体画像撮影方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9304388B2 (ja) |
JP (1) | JP5683025B2 (ja) |
CN (1) | CN102860016A (ja) |
WO (1) | WO2011132364A1 (ja) |
Families Citing this family (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2254091B1 (en) * | 2009-05-19 | 2020-03-25 | Veoneer Sweden AB | Vision system and method for a motor vehicle |
US9485495B2 (en) | 2010-08-09 | 2016-11-01 | Qualcomm Incorporated | Autofocus for stereo images |
KR101843450B1 (ko) * | 2011-08-23 | 2018-03-29 | 엘지전자 주식회사 | 이동 단말기 및 이동 단말기의 제어 방법 |
KR20130024504A (ko) * | 2011-08-31 | 2013-03-08 | 삼성전기주식회사 | 삼차원 카메라 시스템 및 주시각 조정 방법 |
US9438889B2 (en) | 2011-09-21 | 2016-09-06 | Qualcomm Incorporated | System and method for improving methods of manufacturing stereoscopic image sensors |
CN104247412B (zh) * | 2012-03-30 | 2016-08-24 | 富士胶片株式会社 | 图像处理装置、摄像装置、图像处理方法、记录介质以及程序 |
US9398264B2 (en) | 2012-10-19 | 2016-07-19 | Qualcomm Incorporated | Multi-camera system using folded optics |
US8908041B2 (en) | 2013-01-15 | 2014-12-09 | Mobileye Vision Technologies Ltd. | Stereo assist with rolling shutters |
US9818040B2 (en) * | 2013-06-20 | 2017-11-14 | Thomson Licensing | Method and device for detecting an object |
US9955142B2 (en) * | 2013-07-05 | 2018-04-24 | Mediatek Inc. | On-line stereo camera calibration device and method for generating stereo camera parameters |
US10178373B2 (en) | 2013-08-16 | 2019-01-08 | Qualcomm Incorporated | Stereo yaw correction using autofocus feedback |
US9197885B2 (en) | 2014-03-20 | 2015-11-24 | Gopro, Inc. | Target-less auto-alignment of image sensors in a multi-camera system |
US8988509B1 (en) | 2014-03-20 | 2015-03-24 | Gopro, Inc. | Auto-alignment of image sensors in a multi-camera system |
CN106233722B (zh) * | 2014-03-20 | 2018-05-15 | 高途乐公司 | 多相机系统中的图像传感器的自动对准 |
WO2015143037A1 (en) * | 2014-03-21 | 2015-09-24 | Omron Corporation | Method and apparatus for detecting and mitigating optical impairments in an optical system |
US9383550B2 (en) | 2014-04-04 | 2016-07-05 | Qualcomm Incorporated | Auto-focus in low-profile folded optics multi-camera system |
US9374516B2 (en) | 2014-04-04 | 2016-06-21 | Qualcomm Incorporated | Auto-focus in low-profile folded optics multi-camera system |
CN104977795A (zh) * | 2014-04-08 | 2015-10-14 | 立普思股份有限公司 | 立体摄影系统及其方法 |
US10013764B2 (en) | 2014-06-19 | 2018-07-03 | Qualcomm Incorporated | Local adaptive histogram equalization |
US9294672B2 (en) | 2014-06-20 | 2016-03-22 | Qualcomm Incorporated | Multi-camera system using folded optics free from parallax and tilt artifacts |
US9549107B2 (en) | 2014-06-20 | 2017-01-17 | Qualcomm Incorporated | Autofocus for folded optic array cameras |
US9386222B2 (en) | 2014-06-20 | 2016-07-05 | Qualcomm Incorporated | Multi-camera system using folded optics free from parallax artifacts |
US9541740B2 (en) | 2014-06-20 | 2017-01-10 | Qualcomm Incorporated | Folded optic array camera using refractive prisms |
US9819863B2 (en) | 2014-06-20 | 2017-11-14 | Qualcomm Incorporated | Wide field of view array camera for hemispheric and spherical imaging |
JP5847368B1 (ja) * | 2014-06-23 | 2016-01-20 | オリンパス株式会社 | 撮像装置および内視鏡装置 |
US9727967B2 (en) * | 2014-06-23 | 2017-08-08 | Samsung Electronics Co., Ltd. | Methods for determining estimated depth in an image and systems thereof |
US9832381B2 (en) | 2014-10-31 | 2017-11-28 | Qualcomm Incorporated | Optical image stabilization for thin cameras |
WO2017104276A1 (ja) * | 2015-12-14 | 2017-06-22 | オリンパス株式会社 | 撮像装置 |
EP3550821A4 (en) * | 2016-11-29 | 2020-04-01 | Sony Corporation | IMAGING DEVICE, IMAGING CONTROL METHOD, AND PROGRAM |
US10498968B1 (en) | 2017-03-01 | 2019-12-03 | Altia Systems, Inc. | Intelligent zoom method and video system implementing same |
JP7000050B2 (ja) * | 2017-06-29 | 2022-01-19 | キヤノン株式会社 | 撮像制御装置及びその制御方法 |
JP2019114884A (ja) * | 2017-12-22 | 2019-07-11 | セイコーエプソン株式会社 | 検出装置、表示装置、検出方法 |
JP6967464B2 (ja) * | 2018-01-26 | 2021-11-17 | 日立Astemo株式会社 | 画像処理装置 |
CN108259769B (zh) * | 2018-03-30 | 2020-08-14 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN108881737A (zh) * | 2018-07-06 | 2018-11-23 | 漳州高新区远见产业技术研究有限公司 | 一种应用于移动终端的vr成像方法 |
JP2020027957A (ja) * | 2018-08-09 | 2020-02-20 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
CN109089103A (zh) * | 2018-10-24 | 2018-12-25 | 长沙智能驾驶研究院有限公司 | 双目相机姿态调整方法以及装置、计算机设备和存储介质 |
JP7271215B2 (ja) | 2019-02-18 | 2023-05-11 | キヤノン株式会社 | 同期制御装置、同期制御方法、及びプログラム |
US10715783B1 (en) * | 2019-03-01 | 2020-07-14 | Adobe Inc. | Stereo-aware panorama conversion for immersive media |
DE102019207954B4 (de) * | 2019-05-29 | 2021-02-04 | Rodenstock Gmbh | Verfahren für ein Stereokamerasystem zur Erkennung von Abweichungen von einer Kalibrierung und Stereokamerasystem hierfür |
JP2020205498A (ja) * | 2019-06-14 | 2020-12-24 | マツダ株式会社 | 外部環境認識装置 |
CN110570368B (zh) * | 2019-08-21 | 2020-09-25 | 贝壳技术有限公司 | 深度图像的畸变矫正方法、装置、电子设备及存储介质 |
CN112203076B (zh) * | 2020-09-16 | 2022-07-29 | 青岛小鸟看看科技有限公司 | Vr系统中多摄像头曝光中心点的对齐方法、系统 |
CN112326202B (zh) * | 2020-10-23 | 2022-12-09 | 歌尔光学科技有限公司 | 虚拟现实设备的双目视差测试方法、装置及工装 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05130646A (ja) | 1991-11-08 | 1993-05-25 | Toshiba Corp | 立体カメラ装置 |
JPH0888868A (ja) * | 1994-09-20 | 1996-04-02 | Canon Inc | 複眼撮像装置 |
JP3266772B2 (ja) | 1995-11-10 | 2002-03-18 | 富士写真光機株式会社 | ズームレンズの駆動装置 |
JPH1145334A (ja) * | 1997-05-29 | 1999-02-16 | Dainippon Screen Mfg Co Ltd | 画像の比較表示方法及び記録媒体 |
JP3958638B2 (ja) * | 2002-06-25 | 2007-08-15 | 富士重工業株式会社 | ステレオ画像処理装置およびステレオ画像処理方法 |
JP4862129B2 (ja) * | 2005-12-02 | 2012-01-25 | 株式会社Jvcケンウッド | 車載カメラ装置を用いた運転支援装置 |
US20070165942A1 (en) * | 2006-01-18 | 2007-07-19 | Eastman Kodak Company | Method for rectifying stereoscopic display systems |
JP4867552B2 (ja) * | 2006-09-28 | 2012-02-01 | 株式会社ニコン | 撮像装置 |
JP4714176B2 (ja) * | 2007-03-29 | 2011-06-29 | 富士フイルム株式会社 | 立体撮影装置及び光軸調節方法 |
JP2008061259A (ja) * | 2007-09-18 | 2008-03-13 | Fujifilm Corp | 撮影装置 |
JP2009094632A (ja) * | 2007-10-04 | 2009-04-30 | Panasonic Corp | 固体撮像装置 |
JP5109691B2 (ja) * | 2008-01-31 | 2012-12-26 | コニカミノルタホールディングス株式会社 | 解析装置 |
CN101505433A (zh) * | 2009-03-13 | 2009-08-12 | 四川大学 | 一种实拍实显多镜头数码立体系统 |
WO2012014355A1 (ja) * | 2010-07-27 | 2012-02-02 | パナソニック株式会社 | 撮像装置 |
US20130016186A1 (en) * | 2011-07-13 | 2013-01-17 | Qualcomm Incorporated | Method and apparatus for calibrating an imaging device |
-
2011
- 2011-03-24 WO PCT/JP2011/001726 patent/WO2011132364A1/ja active Application Filing
- 2011-03-24 CN CN2011800198816A patent/CN102860016A/zh active Pending
- 2011-03-24 JP JP2012511522A patent/JP5683025B2/ja active Active
-
2012
- 2012-09-15 US US13/621,104 patent/US9304388B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP5683025B2 (ja) | 2015-03-11 |
WO2011132364A1 (ja) | 2011-10-27 |
US20130010084A1 (en) | 2013-01-10 |
US9304388B2 (en) | 2016-04-05 |
CN102860016A (zh) | 2013-01-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5683025B2 (ja) | 立体画像撮影装置および立体画像撮影方法 | |
US9077976B2 (en) | Single-eye stereoscopic image capturing device | |
EP2391119B1 (en) | 3d-image capturing device | |
JP5214826B2 (ja) | 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 | |
US20110280562A1 (en) | Camera body, imaging device, method for controlling camera body, program, and storage medium storing program | |
WO2015081870A1 (zh) | 一种图像处理方法、装置及终端 | |
EP2458842A1 (en) | 3d-image capturing device | |
US20130113875A1 (en) | Stereoscopic panorama image synthesizing device, multi-eye imaging device and stereoscopic panorama image synthesizing method | |
JP5371845B2 (ja) | 撮影装置及びその表示制御方法並びに3次元情報取得装置 | |
JP5950678B2 (ja) | 撮像装置、制御方法、及びプログラム | |
KR20140051112A (ko) | 영상 처리를 위한 주 및 보조 영상 캡처 장치들 및 관련 방법들 | |
JPWO2012132797A1 (ja) | 撮像装置及び撮像方法 | |
JP4763827B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム | |
JP5275789B2 (ja) | カメラ | |
WO2011136137A1 (ja) | 立体撮像装置及びその制御方法 | |
US20110018978A1 (en) | 3d image display apparatus and 3d image display method | |
JP2011035642A (ja) | 多眼撮影装置およびその調整方法並びにプログラム | |
JP5580486B2 (ja) | 画像出力装置、方法およびプログラム | |
US20130076867A1 (en) | Imaging apparatus | |
JP2012124650A (ja) | 撮像装置および撮像方法 | |
WO2011101928A1 (ja) | 立体画像撮影用アダプタ、ハイブリッド撮影システムおよび電子カメラ | |
JP5364625B2 (ja) | 撮像装置 | |
JP2012220603A (ja) | 3d映像信号撮影装置 | |
TWI413404B (zh) | 三維影像處理系統以及應用於其之攝影裝置以及三維影像產生裝置 | |
JP5307189B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20131031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140722 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140918 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141009 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20141216 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150109 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5683025 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
SZ03 | Written request for cancellation of trust registration |
Free format text: JAPANESE INTERMEDIATE CODE: R313Z03 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |