JP2001016612A - 視差画像撮像装置及び視差画像撮像方法 - Google Patents
視差画像撮像装置及び視差画像撮像方法Info
- Publication number
- JP2001016612A JP2001016612A JP11184163A JP18416399A JP2001016612A JP 2001016612 A JP2001016612 A JP 2001016612A JP 11184163 A JP11184163 A JP 11184163A JP 18416399 A JP18416399 A JP 18416399A JP 2001016612 A JP2001016612 A JP 2001016612A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- parallax
- subject
- light receiving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Measurement Of Optical Distance (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
(57)【要約】
【課題】 高精度で視差量を検出でき、被写体の正確な
奥行き情報を得ることのできる視差画像撮像装置を提供
する。 【解決手段】 被写体を結像する単一光軸の光学結像部
12と、複数の受光素子が配置され、光学結像部12に
より被写体が結像される受光部20と、光学結像部12
における第1及び第2の領域を通過した光を受光部20
に照射させる第1及び第2の開口部を有する光通過部1
4と、第1の開口部を通過して被写体を結像した第1の
画像及び第2の開口部を通過して被写体を結像した第2
の画像を、受光部20に同時に撮像させる撮像部16
と、受光部20に撮像された画像に基づいて、光学結像
部12から被写体上の少なくとも1点までの距離を計算
する距離計算部38とを備えた視差画像撮像装置であっ
て、異なる点から被写体を見た場合に得られる複数の視
差画像を同時に撮像することができる。
奥行き情報を得ることのできる視差画像撮像装置を提供
する。 【解決手段】 被写体を結像する単一光軸の光学結像部
12と、複数の受光素子が配置され、光学結像部12に
より被写体が結像される受光部20と、光学結像部12
における第1及び第2の領域を通過した光を受光部20
に照射させる第1及び第2の開口部を有する光通過部1
4と、第1の開口部を通過して被写体を結像した第1の
画像及び第2の開口部を通過して被写体を結像した第2
の画像を、受光部20に同時に撮像させる撮像部16
と、受光部20に撮像された画像に基づいて、光学結像
部12から被写体上の少なくとも1点までの距離を計算
する距離計算部38とを備えた視差画像撮像装置であっ
て、異なる点から被写体を見た場合に得られる複数の視
差画像を同時に撮像することができる。
Description
【0001】
【発明の属する技術分野】本発明は、異なる点から被写
体を見た場合に得られる視差画像を撮像する視差画像撮
像装置に関する。特に本発明は、複数の視差画像を同時
に撮像する視差画像撮像装置に関する。
体を見た場合に得られる視差画像を撮像する視差画像撮
像装置に関する。特に本発明は、複数の視差画像を同時
に撮像する視差画像撮像装置に関する。
【0002】
【従来の技術】画像処理や画像認識の分野において、対
象物の奥行き方向の情報を抽出する手法として、異なる
点から対象物を見た場合に得られる複数の視差画像を用
いて、視差画像間の視差量を検出し、視差量から対象物
の奥行きを計算する方法が一般に取られている。
象物の奥行き方向の情報を抽出する手法として、異なる
点から対象物を見た場合に得られる複数の視差画像を用
いて、視差画像間の視差量を検出し、視差量から対象物
の奥行きを計算する方法が一般に取られている。
【0003】従来、複数の視差画像を撮像する装置とし
て、図1に示す視差画像撮像装置があった。従来の視差
画像撮像装置は、光学レンズ4の瞳面における光を通過
させる開口部を有する光通過部5を持ち、開口部を光学
レンズに平行な方向へ移動させ、開口部を通過した画像
を受光部に撮像させることによって、複数の視差画像を
順次撮像させていた(特開平10−42314号公
報)。
て、図1に示す視差画像撮像装置があった。従来の視差
画像撮像装置は、光学レンズ4の瞳面における光を通過
させる開口部を有する光通過部5を持ち、開口部を光学
レンズに平行な方向へ移動させ、開口部を通過した画像
を受光部に撮像させることによって、複数の視差画像を
順次撮像させていた(特開平10−42314号公
報)。
【0004】図1において、開口部が6aの位置のある
時、対象物3の焦点の合った像3cが受光部7から離れ
た位置に形成され、受光部7では焦点のぼけた像3aが
撮像される。開口部が6bの位置に移動した時、対象物
3の焦点の合った像3cは同じ位置に形成されるが、受
光部7では焦点のぼけた像3bが像3aとは異なる位置
に撮像される。受光部7に撮像される像3aから像3b
へのずれを視差量と呼ぶ。
時、対象物3の焦点の合った像3cが受光部7から離れ
た位置に形成され、受光部7では焦点のぼけた像3aが
撮像される。開口部が6bの位置に移動した時、対象物
3の焦点の合った像3cは同じ位置に形成されるが、受
光部7では焦点のぼけた像3bが像3aとは異なる位置
に撮像される。受光部7に撮像される像3aから像3b
へのずれを視差量と呼ぶ。
【0005】視差量を測定すれば、開口部の位置6aか
ら6bまでの距離、レンズ4から受光部7までの距離、
及び光学レンズ4の焦点距離は既知であるから、レンズ
の公式により、光学レンズ4から対象物3までの距離を
計算することができる。被写体のすべての領域について
視差量を検出し、光学レンズ4からその領域までの距離
を計算すると、被写体の距離分布が得られる。
ら6bまでの距離、レンズ4から受光部7までの距離、
及び光学レンズ4の焦点距離は既知であるから、レンズ
の公式により、光学レンズ4から対象物3までの距離を
計算することができる。被写体のすべての領域について
視差量を検出し、光学レンズ4からその領域までの距離
を計算すると、被写体の距離分布が得られる。
【0006】また他の視差画像の撮像方法として、光通
過部5に複数の開口部を設け、所定の時間間隔で、開口
部の一つを開き、残りの開口部を閉じ、複数の視差画像
を順次撮像することもできる(特開平10−27153
4号公報)。
過部5に複数の開口部を設け、所定の時間間隔で、開口
部の一つを開き、残りの開口部を閉じ、複数の視差画像
を順次撮像することもできる(特開平10−27153
4号公報)。
【0007】
【発明が解決しようとする課題】被写体の奥行きを得る
には、視差画像間で画像を比較し、視差量を検出する必
要がある。しかしながら、上記のような方法で複数の視
差画像を順次撮像すると、第1の視差画像を撮影してか
ら、第2の視差画像を撮影するまでに時間差が生じる。
このため、動きの速い被写体では動きによるぶれが生じ
たり、カメラを手で持っている場合は、手ぶれの影響を
受けたりして、視差以外のノイズを含んでしまう。した
がって、撮像された複数の視差画像間の対応点を検出
し、視差量を求める際、誤差が生じることを避けられ
ず、被写体の正確な距離分布を得ることができないとい
う問題が生じていた。
には、視差画像間で画像を比較し、視差量を検出する必
要がある。しかしながら、上記のような方法で複数の視
差画像を順次撮像すると、第1の視差画像を撮影してか
ら、第2の視差画像を撮影するまでに時間差が生じる。
このため、動きの速い被写体では動きによるぶれが生じ
たり、カメラを手で持っている場合は、手ぶれの影響を
受けたりして、視差以外のノイズを含んでしまう。した
がって、撮像された複数の視差画像間の対応点を検出
し、視差量を求める際、誤差が生じることを避けられ
ず、被写体の正確な距離分布を得ることができないとい
う問題が生じていた。
【0008】そこで本発明は、上記の課題を解決するた
めに、高精度で視差量を検出でき、被写体の正確な奥行
きを得ることのできる視差画像撮像装置及びカメラを提
供することを目的とする。この目的は特許請求の範囲に
おける独立項に記載の特徴の組み合わせにより達成され
る。また従属項は本発明の更なる有利な具体例を規定す
る。
めに、高精度で視差量を検出でき、被写体の正確な奥行
きを得ることのできる視差画像撮像装置及びカメラを提
供することを目的とする。この目的は特許請求の範囲に
おける独立項に記載の特徴の組み合わせにより達成され
る。また従属項は本発明の更なる有利な具体例を規定す
る。
【0009】
【課題を解決するための手段】即ち、本発明の第1の形
態における視差画像撮像装置は、異なる点から被写体を
見た場合に得られる複数の視差画像を撮像する視差画像
撮像装置であって、被写体を結像する単一光軸の光学結
像部と、複数の受光素子が配置され、光学結像部により
被写体が結像される受光部と、光学結像部における第1
及び第2の領域を通過した光を受光部に照射させる第1
及び第2の開口部を有する光通過部と、第1の開口部を
通過して被写体を結像した第1の画像及び第2の開口部
を通過して被写体を結像した第2の画像を、受光部に同
時に撮像させる撮像部と、受光部に撮像された画像に基
づいて、光学結像部から被写体上の少なくとも1点まで
の距離を計算する距離計算部とを備えたことを特徴とす
る。
態における視差画像撮像装置は、異なる点から被写体を
見た場合に得られる複数の視差画像を撮像する視差画像
撮像装置であって、被写体を結像する単一光軸の光学結
像部と、複数の受光素子が配置され、光学結像部により
被写体が結像される受光部と、光学結像部における第1
及び第2の領域を通過した光を受光部に照射させる第1
及び第2の開口部を有する光通過部と、第1の開口部を
通過して被写体を結像した第1の画像及び第2の開口部
を通過して被写体を結像した第2の画像を、受光部に同
時に撮像させる撮像部と、受光部に撮像された画像に基
づいて、光学結像部から被写体上の少なくとも1点まで
の距離を計算する距離計算部とを備えたことを特徴とす
る。
【0010】距離計算部が、受光部に撮像された画像に
おける特定の領域について、第1の開口部を通過した第
1の画像及び第2の開口部を通過した第2の画像の視差
量を検出する視差量検出部を有し、視差量に基づいて、
光学結像部から特定の領域に結像された被写体までの距
離を計算してもよい。
おける特定の領域について、第1の開口部を通過した第
1の画像及び第2の開口部を通過した第2の画像の視差
量を検出する視差量検出部を有し、視差量に基づいて、
光学結像部から特定の領域に結像された被写体までの距
離を計算してもよい。
【0011】距離計算部が、受光部に撮像された特定の
領域の画像と、当該画像を視差方向にシフトすることに
よって得られる参照画像との相関を、シフト量を所定量
だけ変化させながら計算する自己相関計算部をさらに有
し、視差量検出部が、自己相関計算部が計算した相関を
用いて視差量を求めてもよい。
領域の画像と、当該画像を視差方向にシフトすることに
よって得られる参照画像との相関を、シフト量を所定量
だけ変化させながら計算する自己相関計算部をさらに有
し、視差量検出部が、自己相関計算部が計算した相関を
用いて視差量を求めてもよい。
【0012】距離計算部が、受光部に撮像された画像の
エッジ画像を抽出するエッジ抽出部をさらに有し、自己
相関計算部が、受光部に撮像された特定の領域のエッジ
画像と、当該エッジ画像を視差方向にシフトすることに
よって得られる参照画像との相関を、シフト量を所定量
だけ変化させながら計算してもよい。
エッジ画像を抽出するエッジ抽出部をさらに有し、自己
相関計算部が、受光部に撮像された特定の領域のエッジ
画像と、当該エッジ画像を視差方向にシフトすることに
よって得られる参照画像との相関を、シフト量を所定量
だけ変化させながら計算してもよい。
【0013】自己相関計算部が、受光部に撮像された特
定の領域の画像と、当該画像を、光通過部の第1の開口
及び第2の開口の並べられた方向と略同一の方向に、シ
フトさせることによって得られる参照画像との相関を、
シフト量を所定量だけ変化させながら計算してもよい。
定の領域の画像と、当該画像を、光通過部の第1の開口
及び第2の開口の並べられた方向と略同一の方向に、シ
フトさせることによって得られる参照画像との相関を、
シフト量を所定量だけ変化させながら計算してもよい。
【0014】受光素子が電荷結合素子であり、受光部
は、複数の電荷結合素子が配列された光電変換撮像体で
あってもよい。
は、複数の電荷結合素子が配列された光電変換撮像体で
あってもよい。
【0015】被写体を結像する第2の光学結像部と、第
2の光学結像部により被写体が結像される第2の受光部
と、距離計算部が計算した距離によって、第2の光学結
像部のフォーカス、絞り、及び第2の受光部の露光時間
の少なくとも一つを制御する制御部とをさらに備えても
よい。
2の光学結像部により被写体が結像される第2の受光部
と、距離計算部が計算した距離によって、第2の光学結
像部のフォーカス、絞り、及び第2の受光部の露光時間
の少なくとも一つを制御する制御部とをさらに備えても
よい。
【0016】第1の光学結像部により被写体が結像され
る第2の受光部と、距離計算部が計算した距離によっ
て、第1の光学結像部のフォーカス、絞り、及び第2の
受光部の露光時間の少なくとも一つを制御する制御部と
をさらに備えてもよい。
る第2の受光部と、距離計算部が計算した距離によっ
て、第1の光学結像部のフォーカス、絞り、及び第2の
受光部の露光時間の少なくとも一つを制御する制御部と
をさらに備えてもよい。
【0017】第2の受光部に撮像された被写体の画像、
及び距離計算部が計算した距離を記録する記録部とをさ
らに備えてもよい。
及び距離計算部が計算した距離を記録する記録部とをさ
らに備えてもよい。
【0018】光通過部を、被写体が受光部に受光される
間の光路外に移動する駆動部と、距離計算部により計算
された距離によって光学結像部又は受光部を制御する制
御部とをさらに備えてもよい。
間の光路外に移動する駆動部と、距離計算部により計算
された距離によって光学結像部又は受光部を制御する制
御部とをさらに備えてもよい。
【0019】光通過部が光学結像部における第3の領域
を通過した光を受光部に照射させる第3の開口部をさら
に有し、距離計算部により計算された距離によって光学
結像部又は受光部を制御する制御部と、被写体の視差画
像を撮像する場合に、光通過部において、第3の開口部
を閉じ、第1及び第2の開口部を開き、第1の開口部を
通過した画像及び第2の開口部を通過した画像を受光部
に同時に撮像させ、被写体を撮像する場合に、光通過部
において、第3の開口部を開いた状態で、第3の開口部
を通過した画像を受光部に撮像させる駆動部とを備えて
もよい。
を通過した光を受光部に照射させる第3の開口部をさら
に有し、距離計算部により計算された距離によって光学
結像部又は受光部を制御する制御部と、被写体の視差画
像を撮像する場合に、光通過部において、第3の開口部
を閉じ、第1及び第2の開口部を開き、第1の開口部を
通過した画像及び第2の開口部を通過した画像を受光部
に同時に撮像させ、被写体を撮像する場合に、光通過部
において、第3の開口部を開いた状態で、第3の開口部
を通過した画像を受光部に撮像させる駆動部とを備えて
もよい。
【0020】光通過部の第1、第2及び第3の開口部が
液晶光シャッターを有してもよい。
液晶光シャッターを有してもよい。
【0021】光通過部の第1及び第2の開口部は、光学
結像部の外周近傍に設けられ、光通過部の第3の開口部
は、光学結像部の光軸を含む領域に設けられ、第3の開
口部は、第1及び第2の開口部より大きい領域を有して
もよい。
結像部の外周近傍に設けられ、光通過部の第3の開口部
は、光学結像部の光軸を含む領域に設けられ、第3の開
口部は、第1及び第2の開口部より大きい領域を有して
もよい。
【0022】本発明の第2の形態における視差画像撮像
方法は、異なる点から被写体を見た場合に得られる複数
の視差画像を撮像する視差画像撮像方法であって、異な
る点以外の領域における光の通過を制限する光通過部を
介して、被写体の画像を受光部に撮像し、受光部に撮像
された画像のエッジ画像を抽出し、特定の領域のエッジ
画像と、当該エッジ画像を異なる点を結ぶ視差方向にシ
フトすることによって得られる参照画像との相関を、シ
フト量を所定量だけ変化させながら計算し、相関が最小
となるシフト量に基づいて、特定の領域のエッジ画像と
参照画像との視差量を求め、視差量に基づいて、光学結
像部から特定の領域に結像された被写体までの距離を計
算することを特徴とする。
方法は、異なる点から被写体を見た場合に得られる複数
の視差画像を撮像する視差画像撮像方法であって、異な
る点以外の領域における光の通過を制限する光通過部を
介して、被写体の画像を受光部に撮像し、受光部に撮像
された画像のエッジ画像を抽出し、特定の領域のエッジ
画像と、当該エッジ画像を異なる点を結ぶ視差方向にシ
フトすることによって得られる参照画像との相関を、シ
フト量を所定量だけ変化させながら計算し、相関が最小
となるシフト量に基づいて、特定の領域のエッジ画像と
参照画像との視差量を求め、視差量に基づいて、光学結
像部から特定の領域に結像された被写体までの距離を計
算することを特徴とする。
【0023】被写体までの距離に基づいて、被写体を撮
像するときの撮影条件を調整し、光通過部による光の通
過の制限を外し、被写体を撮影条件で撮像してもよい。
像するときの撮影条件を調整し、光通過部による光の通
過の制限を外し、被写体を撮影条件で撮像してもよい。
【0024】なお上記の発明の概要は、本発明の必要な
特徴の全てを列挙したものではなく、これらの特徴群の
サブコンビネーションも又発明となりうる。
特徴の全てを列挙したものではなく、これらの特徴群の
サブコンビネーションも又発明となりうる。
【0025】
【発明の実施の形態】以下、発明の実施の形態を通じて
本発明を説明するが、以下の実施形態は特許請求の範囲
にかかる発明を限定するものではなく、また、実施形態
の中で説明されている特徴の組み合わせの全てが発明の
解決手段に必須であるとは限らない。
本発明を説明するが、以下の実施形態は特許請求の範囲
にかかる発明を限定するものではなく、また、実施形態
の中で説明されている特徴の組み合わせの全てが発明の
解決手段に必須であるとは限らない。
【0026】(実施形態1)図2は、本発明の第1の実
施形態に係る視差画像撮像装置の一例としてのカメラの
構成図である。本実施形態のカメラは、視差画像撮像部
10と、レンズ52と、絞り54と、シャッター56
と、カラーフィルター58と、CCD(電荷結合素子)
60と、マルチプレクサー32と、A/D変換部34
と、メモリ36と、距離計算部38と、制御部39と、
記録部40とを有する。
施形態に係る視差画像撮像装置の一例としてのカメラの
構成図である。本実施形態のカメラは、視差画像撮像部
10と、レンズ52と、絞り54と、シャッター56
と、カラーフィルター58と、CCD(電荷結合素子)
60と、マルチプレクサー32と、A/D変換部34
と、メモリ36と、距離計算部38と、制御部39と、
記録部40とを有する。
【0027】視差画像撮像部10は被写体の視差画像を
撮像し、出力信号をマルチプレクサー32に入力する。
レンズ52は被写体を結像し、絞り54は絞り量を調整
し、シャッター56は露光時間を調整する。カラーフィ
ルター58はレンズ52を通して受光される光のRGB
成分を分解する。CCD60はレンズ52によって結像
された被写体の画像を受光して、電気信号に変換し、マ
ルチプレクサー32に出力する。
撮像し、出力信号をマルチプレクサー32に入力する。
レンズ52は被写体を結像し、絞り54は絞り量を調整
し、シャッター56は露光時間を調整する。カラーフィ
ルター58はレンズ52を通して受光される光のRGB
成分を分解する。CCD60はレンズ52によって結像
された被写体の画像を受光して、電気信号に変換し、マ
ルチプレクサー32に出力する。
【0028】マルチプレクサー32は、視差画像撮像部
10またはCCD60の出力信号のどちらかを選択し、
A/D変換部34に出力する。A/D変換部34は入力
されたアナログ信号をデジタル信号に変換し、メモリ3
6に出力する。メモリ36は入力されたデジタル信号を
格納する。メモリ36は、レンズ52がCCD60に撮
像した被写体の画像、及び視差画像撮像部10が撮像し
た被写体の視差画像を記憶する。
10またはCCD60の出力信号のどちらかを選択し、
A/D変換部34に出力する。A/D変換部34は入力
されたアナログ信号をデジタル信号に変換し、メモリ3
6に出力する。メモリ36は入力されたデジタル信号を
格納する。メモリ36は、レンズ52がCCD60に撮
像した被写体の画像、及び視差画像撮像部10が撮像し
た被写体の視差画像を記憶する。
【0029】距離計算部38はメモリ36から視差画像
を読み出し、視差画像に基づいて、当該カメラから被写
体までの距離を計算する。
を読み出し、視差画像に基づいて、当該カメラから被写
体までの距離を計算する。
【0030】制御部39は、メモリ36から読み出した
被写体の画像の色情報、明度、彩度、及び距離計算部3
8が出力した距離情報に基づいて、レンズ52のフォー
カス、絞り54の絞り量及びシャッター56の露光時間
の少なくとも一つを制御する。
被写体の画像の色情報、明度、彩度、及び距離計算部3
8が出力した距離情報に基づいて、レンズ52のフォー
カス、絞り54の絞り量及びシャッター56の露光時間
の少なくとも一つを制御する。
【0031】記録部40は、メモリ36から読み出した
被写体の画像及び距離計算部38が出力した被写体の距
離情報を記録する。記録部40はフロッピィディスクの
ような磁気記録媒体やフラッシュメモリのような不揮発
性メモリであってもよい。
被写体の画像及び距離計算部38が出力した被写体の距
離情報を記録する。記録部40はフロッピィディスクの
ような磁気記録媒体やフラッシュメモリのような不揮発
性メモリであってもよい。
【0032】従来は、被写体の画像の色分布、輝度分
布、テクスチャ分布等に基づいて、主要被写体を抽出し
ていたが、主要被写体とそれ以外の被写体の間で、色分
布、輝度分布、テクスチャ分布等が異ならないときは、
主要被写体とそれ以外の被写体を区別することが難し
く、いずれの被写体に合わせて、フォーカス、絞り量及
び露光時間等の撮影条件を調整するのがよいか判断する
のが困難であった。
布、テクスチャ分布等に基づいて、主要被写体を抽出し
ていたが、主要被写体とそれ以外の被写体の間で、色分
布、輝度分布、テクスチャ分布等が異ならないときは、
主要被写体とそれ以外の被写体を区別することが難し
く、いずれの被写体に合わせて、フォーカス、絞り量及
び露光時間等の撮影条件を調整するのがよいか判断する
のが困難であった。
【0033】本実施形態のカメラによれば、被写体の各
画素に写された被写体の距離分布を獲得することができ
るので、被写体の画像の色分布、輝度分布、テクスチャ
分布等の情報に加えて、被写体の距離分布情報に基づい
て、主要被写体をより確実に抽出することができる。こ
のため抽出された主要被写体に対して、フォーカス、絞
り量及び露光時間等の撮影条件の調整を適正に行い、被
写体を撮像することができる。
画素に写された被写体の距離分布を獲得することができ
るので、被写体の画像の色分布、輝度分布、テクスチャ
分布等の情報に加えて、被写体の距離分布情報に基づい
て、主要被写体をより確実に抽出することができる。こ
のため抽出された主要被写体に対して、フォーカス、絞
り量及び露光時間等の撮影条件の調整を適正に行い、被
写体を撮像することができる。
【0034】図3は、視差画像撮像部10の構成図であ
る。視差画像撮像部10は、被写体の光を結像する光学
結像部12と、光学結像部12を通過した光を撮像部1
6に照射させる第1及び第2の開口部15a、15bを
有する光通過部14と、光学結像部12により結像され
た被写体を撮像する撮像部16を有する。
る。視差画像撮像部10は、被写体の光を結像する光学
結像部12と、光学結像部12を通過した光を撮像部1
6に照射させる第1及び第2の開口部15a、15bを
有する光通過部14と、光学結像部12により結像され
た被写体を撮像する撮像部16を有する。
【0035】光通過部14は、光学結像部12の瞳面に
置かれ、第1及び第2の開口部15a、15bでは光を
通過させ、第1及び第2の開口部以外では光を遮断す
る。
置かれ、第1及び第2の開口部15a、15bでは光を
通過させ、第1及び第2の開口部以外では光を遮断す
る。
【0036】撮像部16は、複数の受光素子がマトリッ
クス状に配置され、光学結像部により被写体が結像され
る受光部20と、受光部20の表面を覆うカラーフィル
ター19を有する。カラーフィルターは光のRGB成分
を透過させ、受光部20の受光素子に受光させる。受光
部20の受光素子は、たとえばCCD(電荷結合素子)
のような光電変換素子であってもよく、受光部20は、
複数のCCDが配列された光電変換撮像体であってもよ
い。
クス状に配置され、光学結像部により被写体が結像され
る受光部20と、受光部20の表面を覆うカラーフィル
ター19を有する。カラーフィルターは光のRGB成分
を透過させ、受光部20の受光素子に受光させる。受光
部20の受光素子は、たとえばCCD(電荷結合素子)
のような光電変換素子であってもよく、受光部20は、
複数のCCDが配列された光電変換撮像体であってもよ
い。
【0037】本実施形態の視差画像撮像部10によれ
ば、光通過部14の第1の開口部15aを通過した第1
の画像、及び第2の開口部15bを通過した第2の画像
を、受光部20に同時に撮像させることができる。した
がって、受光部20には、第1の開口部15a及び第2
の開口部15bから見た場合の被写体の視差画像が重な
り合った二重像が撮像される。
ば、光通過部14の第1の開口部15aを通過した第1
の画像、及び第2の開口部15bを通過した第2の画像
を、受光部20に同時に撮像させることができる。した
がって、受光部20には、第1の開口部15a及び第2
の開口部15bから見た場合の被写体の視差画像が重な
り合った二重像が撮像される。
【0038】図4は、撮像された視差画像の処理部の構
成図である。図4において、図3と同一符号を付した、
光学結像部12、光通過部14及び撮像部16について
は、図3と同一であるから、説明を省略し、メモリ36
及び距離計算部38について説明する。図4では、マル
チプレクサーとA/D変換部を省略するが、実際の動作
では、撮像部16が撮像した画像は、マルチプレクサー
を介してA/D変換部に送られ、デジタル信号に変換さ
れてからメモリ36に格納される。
成図である。図4において、図3と同一符号を付した、
光学結像部12、光通過部14及び撮像部16について
は、図3と同一であるから、説明を省略し、メモリ36
及び距離計算部38について説明する。図4では、マル
チプレクサーとA/D変換部を省略するが、実際の動作
では、撮像部16が撮像した画像は、マルチプレクサー
を介してA/D変換部に送られ、デジタル信号に変換さ
れてからメモリ36に格納される。
【0039】図4において、メモリ36は、撮像部16
が撮像した被写体の視差画像37を格納する。距離計算
部38は、視差画像の特定領域について自己相関を計算
する自己相関計算部24と、自己相関計算部24が計算
した自己相関から当該視差画像の特定領域の視差量を検
出し、被写体の特定領域までの距離を計算し、被写体全
体の距離分布情報を出力する視差量検出部26とを有す
る。
が撮像した被写体の視差画像37を格納する。距離計算
部38は、視差画像の特定領域について自己相関を計算
する自己相関計算部24と、自己相関計算部24が計算
した自己相関から当該視差画像の特定領域の視差量を検
出し、被写体の特定領域までの距離を計算し、被写体全
体の距離分布情報を出力する視差量検出部26とを有す
る。
【0040】以下、一例として、被写体A、B及びCの
視差画像を撮像した場合について、メモリ36、自己相
関計算部24及び視差量計算部26の動作を説明する。
視差画像を撮像した場合について、メモリ36、自己相
関計算部24及び視差量計算部26の動作を説明する。
【0041】メモリ36は、撮像部16が撮像した、被
写体A、B及びCの被写体の視差画像37を格納する。
視差画像37は、被写体A、B及びCの二重像である。
写体A、B及びCの被写体の視差画像37を格納する。
視差画像37は、被写体A、B及びCの二重像である。
【0042】自己相関計算部24は、メモリ36から視
差画像37を読み出し、被写体A、B及びCの視差画像
が撮像されているそれぞれの特定領域について、後述の
方法により自己相関を計算し、被写体A、B及びCの視
差画像が撮像されているそれぞれの特定領域の自己相関
の値を格納した、被写体全体の自己相関情報25を出力
する。
差画像37を読み出し、被写体A、B及びCの視差画像
が撮像されているそれぞれの特定領域について、後述の
方法により自己相関を計算し、被写体A、B及びCの視
差画像が撮像されているそれぞれの特定領域の自己相関
の値を格納した、被写体全体の自己相関情報25を出力
する。
【0043】視差量検出部26は、被写体A、B及びC
の二重像が撮像されているそれぞれの特定領域につい
て、自己相関計算部24が計算した自己相関の値から、
視差量を算出する。光通過部14の開口部15a、15
b間の距離、光学結像部12から撮像部16までの距
離、及び光学結像部12の焦点距離は既知であるから、
視差量検出部26は、被写体A、B及びCのそれぞれの
視差量に基づいて、レンズの公式により、光学結像部1
2から被写体A、B及びCまでのそれぞれの距離A、B
及びCを算出することができる。視差量検出部26は、
被写体A、B及びCの距離を格納した、被写体全体の距
離分布情報27を出力する。
の二重像が撮像されているそれぞれの特定領域につい
て、自己相関計算部24が計算した自己相関の値から、
視差量を算出する。光通過部14の開口部15a、15
b間の距離、光学結像部12から撮像部16までの距
離、及び光学結像部12の焦点距離は既知であるから、
視差量検出部26は、被写体A、B及びCのそれぞれの
視差量に基づいて、レンズの公式により、光学結像部1
2から被写体A、B及びCまでのそれぞれの距離A、B
及びCを算出することができる。視差量検出部26は、
被写体A、B及びCの距離を格納した、被写体全体の距
離分布情報27を出力する。
【0044】図5は、自己相関及び視差量の算出方法の
説明図である。被写体の二重像が撮像されている特定領
域について、当該特定領域の画像を基準画像80とし、
基準画像80を視差方向に一定量だけずらした画像を参
照画像82とする(図5(a))。基準画像80と参照
画像82との間の類似の程度、すなわち相関は、基準画
像80の、視差方向へのずれに関する自己相関を表す。
説明図である。被写体の二重像が撮像されている特定領
域について、当該特定領域の画像を基準画像80とし、
基準画像80を視差方向に一定量だけずらした画像を参
照画像82とする(図5(a))。基準画像80と参照
画像82との間の類似の程度、すなわち相関は、基準画
像80の、視差方向へのずれに関する自己相関を表す。
【0045】基準画像80と参照画像82の相関を評価
する評価関数として、たとえば、基準画像80と参照画
像82の画素データの値の差分の自乗和、基準画像80
と参照画像82の画素データの値の差分の絶対値の和、
あるいは、基準画像80と参照画像82の画素データの
値に関する正規化された自己相関関数が用いられる。以
下、基準画像80と参照画像82の画素データの値の差
分の自乗和を評価関数とする場合について説明する。
する評価関数として、たとえば、基準画像80と参照画
像82の画素データの値の差分の自乗和、基準画像80
と参照画像82の画素データの値の差分の絶対値の和、
あるいは、基準画像80と参照画像82の画素データの
値に関する正規化された自己相関関数が用いられる。以
下、基準画像80と参照画像82の画素データの値の差
分の自乗和を評価関数とする場合について説明する。
【0046】基準画像80の(x,y)座標系における
座標(i,j)における画素データの値(たとえば、光
のRGBの値や明度などの指標の値)をF(i,j)と
する。基準画像80をx方向、y方向にそれぞれη,ξ
だけずらしたときの画像を参照画像82とする。このと
き、基準画像80のおける画素データの値をF(i,
j)と比較される参照画像82の画素データの値は、F
(i−η,j−ξ)となる。
座標(i,j)における画素データの値(たとえば、光
のRGBの値や明度などの指標の値)をF(i,j)と
する。基準画像80をx方向、y方向にそれぞれη,ξ
だけずらしたときの画像を参照画像82とする。このと
き、基準画像80のおける画素データの値をF(i,
j)と比較される参照画像82の画素データの値は、F
(i−η,j−ξ)となる。
【0047】基準画像80をx方向、y方向にそれぞれ
η,ξだけずらしたときの、基準画像80と参照画像8
2との相関関数Φ(η,ξ)を、次式で与える。 Φ(η,ξ)=ΣiΣj[F(i,j)−F(i−η,
j−ξ)]^2 ただし、ΣiΣjは二重像が撮像されている特定領域全
体について和を取ることを表す。
η,ξだけずらしたときの、基準画像80と参照画像8
2との相関関数Φ(η,ξ)を、次式で与える。 Φ(η,ξ)=ΣiΣj[F(i,j)−F(i−η,
j−ξ)]^2 ただし、ΣiΣjは二重像が撮像されている特定領域全
体について和を取ることを表す。
【0048】相関関数Φ(η,ξ)の値が小さくなるほ
ど、基準画像80と参照画像82の相関が強く、相関関
数Φ(η,ξ)の値が大きくなるほど、基準画像80と
参照画像82の相関が弱い。
ど、基準画像80と参照画像82の相関が強く、相関関
数Φ(η,ξ)の値が大きくなるほど、基準画像80と
参照画像82の相関が弱い。
【0049】相関関数Φ(η,ξ)はη=0、ξ=0の
とき最小値0をとる。これはη=0、ξ=0のとき、基
準画像80と参照画像82が完全に一致するため、最大
の相関が現れるのであり、当然である。
とき最小値0をとる。これはη=0、ξ=0のとき、基
準画像80と参照画像82が完全に一致するため、最大
の相関が現れるのであり、当然である。
【0050】視差(η,ξ)を視差方向に変化させなが
ら、相関関数Φを順次求めると、図5(b)に示すよう
に、基準画像80と参照画像82がちょうど元の二重像
のずれ分だけずれた位置では、相関関数Φが極小値をと
り、やや強い相関が現れる。また基準画像80と参照画
像82がそれ以外の位置関係にあるときは、相関関数Φ
は大きな値をとり、相関は弱くなる。これは参照画像8
2が二重像のずれ分だけ基準画像80からずれた場合、
基準画像80と参照画像82の一部が一致するためであ
る。
ら、相関関数Φを順次求めると、図5(b)に示すよう
に、基準画像80と参照画像82がちょうど元の二重像
のずれ分だけずれた位置では、相関関数Φが極小値をと
り、やや強い相関が現れる。また基準画像80と参照画
像82がそれ以外の位置関係にあるときは、相関関数Φ
は大きな値をとり、相関は弱くなる。これは参照画像8
2が二重像のずれ分だけ基準画像80からずれた場合、
基準画像80と参照画像82の一部が一致するためであ
る。
【0051】このように、基準画像80と参照画像82
がちょうど二重像のずれ分だけ左右どちらかにずれた位
置では、相関関数Φ(η,ξ)の値は極小値を取るの
で、相関関数Φ(η,ξ)の値が極小値を取るときの、
視差(η,ξ)を検出すれば、基準画像80と参照画像
82の視差量が得られる。
がちょうど二重像のずれ分だけ左右どちらかにずれた位
置では、相関関数Φ(η,ξ)の値は極小値を取るの
で、相関関数Φ(η,ξ)の値が極小値を取るときの、
視差(η,ξ)を検出すれば、基準画像80と参照画像
82の視差量が得られる。
【0052】視差(η,ξ)を視差方向に変化させなが
ら、相関関数Φ(η,ξ)の値を順次求め、Φが極小と
なるような(η,ξ)の組(η*,ξ*)を求める。こ
のとき、視差量ζは次式によって求められる。 ζ=√(η*^2+ξ*^2)
ら、相関関数Φ(η,ξ)の値を順次求め、Φが極小と
なるような(η,ξ)の組(η*,ξ*)を求める。こ
のとき、視差量ζは次式によって求められる。 ζ=√(η*^2+ξ*^2)
【0053】ここで、光通過部14の第1及び第2の開
口が、受光部の(x,y)座標系に関して、x方向また
はy方向に設けられている場合は、視差方向はx方向ま
たはy方向の一方のみを考えればよい。したがって、こ
の場合の視差量はζ=η*まはたζ=ξ*で与えられ
る。
口が、受光部の(x,y)座標系に関して、x方向また
はy方向に設けられている場合は、視差方向はx方向ま
たはy方向の一方のみを考えればよい。したがって、こ
の場合の視差量はζ=η*まはたζ=ξ*で与えられ
る。
【0054】上記の説明において、説明の便宜上、基準
画像80と参照画像82の二つの画像データの比較を行
うような説明をしたが、実際の相関関数Φの計算におい
ては、二つの画像データを必要としない。一定の視差
(η、ξ)に対して、基準画像80の画素データF
(i,j)及びF(i−η,j−ξ)の値を上述の相関
関数Φの式に値を代入して計算をすればよい。
画像80と参照画像82の二つの画像データの比較を行
うような説明をしたが、実際の相関関数Φの計算におい
ては、二つの画像データを必要としない。一定の視差
(η、ξ)に対して、基準画像80の画素データF
(i,j)及びF(i−η,j−ξ)の値を上述の相関
関数Φの式に値を代入して計算をすればよい。
【0055】また、上記の説明では、予め定められた画
素マトリックス上に写された、被写体の二重像の領域を
特定領域として、基準画像80と参照画像82を考え、
視差量を計算した。しかし視差量の計算方法はこれに限
定されない。別の実施形態として、予め定められた画素
マトリックス上に写された、被写体の二重像から、第1
の画像が写されている領域を抽出して特定領域とし、そ
の画像を一定の視差(η、ξ)だけずらし、予め定めら
れた画素マトリックス上の対応領域との相関を計算する
ことによって、視差量を求めてもよい。
素マトリックス上に写された、被写体の二重像の領域を
特定領域として、基準画像80と参照画像82を考え、
視差量を計算した。しかし視差量の計算方法はこれに限
定されない。別の実施形態として、予め定められた画素
マトリックス上に写された、被写体の二重像から、第1
の画像が写されている領域を抽出して特定領域とし、そ
の画像を一定の視差(η、ξ)だけずらし、予め定めら
れた画素マトリックス上の対応領域との相関を計算する
ことによって、視差量を求めてもよい。
【0056】この場合、特定領域の画素データF(i,
j)と、対応領域の画素データF(i+η,j+ξ)に
ついて、相関を計算すればよい。相関関数Φは次式で与
えられる。 Φ(η,ξ)=[F(i,j)−F(i+η,j+
ξ)]^2 ただし、ΣiΣjは第1の画像が写されている領域のみ
について和を取ることを表す。
j)と、対応領域の画素データF(i+η,j+ξ)に
ついて、相関を計算すればよい。相関関数Φは次式で与
えられる。 Φ(η,ξ)=[F(i,j)−F(i+η,j+
ξ)]^2 ただし、ΣiΣjは第1の画像が写されている領域のみ
について和を取ることを表す。
【0057】(実施形態2)図6は、本発明の第2の実
施形態に係る視差画像撮像装置の一例としてのカメラに
おける視差画像の処理部の構成図である。本実施形態の
カメラは、図4に示した第1の実施形態におけるカメラ
の距離計算部38の構成を、図6に示す距離計算部38
の構成に置き換えたものであり、その他は、第1の実施
形態と同じであるから、共通部分の構成と動作の説明を
省略する。
施形態に係る視差画像撮像装置の一例としてのカメラに
おける視差画像の処理部の構成図である。本実施形態の
カメラは、図4に示した第1の実施形態におけるカメラ
の距離計算部38の構成を、図6に示す距離計算部38
の構成に置き換えたものであり、その他は、第1の実施
形態と同じであるから、共通部分の構成と動作の説明を
省略する。
【0058】本実施形態では、撮像された被写体の視差
画像から、エッジ画像を抽出する処理を行い、得られた
エッジ画像をもとに、視差量の検出を行う点だけが第1
の実施形態と異なる。
画像から、エッジ画像を抽出する処理を行い、得られた
エッジ画像をもとに、視差量の検出を行う点だけが第1
の実施形態と異なる。
【0059】図6において、距離計算部38は、撮像さ
れた視差画像のエッジ画像を抽出するエッジ抽出部22
と、エッジ画像の特定領域について自己相関を計算する
自己相関計算部24と、自己相関計算部24が計算した
自己相関から当該視差画像の特定領域の視差量を検出
し、被写体の特定領域までの距離を計算し、被写体全体
の距離分布情報を出力する視差量検出部26とを有す
る。
れた視差画像のエッジ画像を抽出するエッジ抽出部22
と、エッジ画像の特定領域について自己相関を計算する
自己相関計算部24と、自己相関計算部24が計算した
自己相関から当該視差画像の特定領域の視差量を検出
し、被写体の特定領域までの距離を計算し、被写体全体
の距離分布情報を出力する視差量検出部26とを有す
る。
【0060】以下、一例として、被写体A、B及びCの
視差画像を撮像した場合について、メモリ36、エッジ
抽出部22、自己相関計算部24及び視差量計算部26
の動作を説明する。
視差画像を撮像した場合について、メモリ36、エッジ
抽出部22、自己相関計算部24及び視差量計算部26
の動作を説明する。
【0061】メモリ36は、撮像部16が撮像した、被
写体A、B及びCの被写体の視差画像37を格納する。
視差画像37は、被写体A、B及びCの二重像である。
写体A、B及びCの被写体の視差画像37を格納する。
視差画像37は、被写体A、B及びCの二重像である。
【0062】エッジ抽出部22は、メモリ36から視差
画像37を読み出し、被写体A、B及びCの二重像が撮
像されているそれぞれの領域について、被写体と背景の
境界を検出するための画像処理を行い、エッジを抽出
し、被写体全体のエッジ画像23を出力する。
画像37を読み出し、被写体A、B及びCの二重像が撮
像されているそれぞれの領域について、被写体と背景の
境界を検出するための画像処理を行い、エッジを抽出
し、被写体全体のエッジ画像23を出力する。
【0063】自己相関計算部24は、エッジ画像23に
基づいて、被写体A、B及びCの視差画像が撮像されて
いるそれぞれの領域について、自己相関を計算し、被写
体A、B及びCの視差画像が撮像されているそれぞれの
特定領域の自己相関の値を格納した、被写体全体の自己
相関情報25を出力する。
基づいて、被写体A、B及びCの視差画像が撮像されて
いるそれぞれの領域について、自己相関を計算し、被写
体A、B及びCの視差画像が撮像されているそれぞれの
特定領域の自己相関の値を格納した、被写体全体の自己
相関情報25を出力する。
【0064】視差量検出部26は、被写体A、B及びC
の二重像が撮像されているそれぞれの特定領域につい
て、自己相関計算部24が計算した自己相関の値から、
視差量を算出し、被写体全体の距離分布情報27を出力
する。
の二重像が撮像されているそれぞれの特定領域につい
て、自己相関計算部24が計算した自己相関の値から、
視差量を算出し、被写体全体の距離分布情報27を出力
する。
【0065】自己相関の値を求める処理、自己相関の値
から視差量を検出する処理、及び視差量から、被写体全
体の距離分布情報を算出する処理については、第1の実
施形態と同じであるから説明を省略する。
から視差量を検出する処理、及び視差量から、被写体全
体の距離分布情報を算出する処理については、第1の実
施形態と同じであるから説明を省略する。
【0066】一般に、撮像された視差画像には、被写体
の輪郭以外に、被写体の色、模様などの画像情報が含ま
れており、画素データの値から、相関を評価する際、輪
郭以外の情報は、ノイズ要因となる。本実施形態によれ
ば、被写体の視差画像のエッジを抽出した上で、エッジ
のみからなる被写体の視差画像から相関を計算すること
ができる。したがって、輪郭以外の画像情報を含む被写
体であっても、視差画像の相関を正確に求めることがで
き、正確な視差量に基づいて、被写体の距離分布を算出
することができる。
の輪郭以外に、被写体の色、模様などの画像情報が含ま
れており、画素データの値から、相関を評価する際、輪
郭以外の情報は、ノイズ要因となる。本実施形態によれ
ば、被写体の視差画像のエッジを抽出した上で、エッジ
のみからなる被写体の視差画像から相関を計算すること
ができる。したがって、輪郭以外の画像情報を含む被写
体であっても、視差画像の相関を正確に求めることがで
き、正確な視差量に基づいて、被写体の距離分布を算出
することができる。
【0067】(実施形態3)図7は、本発明の第3の実
施形態に係る視差画像撮像装置の一例としてのカメラの
構成図である。本実施形態のカメラは、光学結像部12
と、光通過部14と、カラーフィルター19と、受光部
20と、フィルター駆動部42と、A/D変換部34
と、メモリ36と、距離計算部38と、制御部39と、
記録部40を有する。
施形態に係る視差画像撮像装置の一例としてのカメラの
構成図である。本実施形態のカメラは、光学結像部12
と、光通過部14と、カラーフィルター19と、受光部
20と、フィルター駆動部42と、A/D変換部34
と、メモリ36と、距離計算部38と、制御部39と、
記録部40を有する。
【0068】図7において、光学結像部12、光通過部
14、カラーフィルター19、受光部20、A/D変換
部34、メモリ36、距離計算部38、及び記録部40
については、第1の実施形態と同じであるから、説明を
省略する。本実施形態の制御部39はフィルター駆動部
42を制御する以外は、第1の実施形態の制御部39と
同じであるから、共通部分の説明を省略する。
14、カラーフィルター19、受光部20、A/D変換
部34、メモリ36、距離計算部38、及び記録部40
については、第1の実施形態と同じであるから、説明を
省略する。本実施形態の制御部39はフィルター駆動部
42を制御する以外は、第1の実施形態の制御部39と
同じであるから、共通部分の説明を省略する。
【0069】フィルター駆動部42は、光通過部14を
移動させることができる。制御部39は、フィルター駆
動部42を制御し、所望の動作をさせる。
移動させることができる。制御部39は、フィルター駆
動部42を制御し、所望の動作をさせる。
【0070】フィルター駆動部42は、被写体の視差画
像を撮像する場合、光通過部14を光学結像部12から
受光部20に至る光路内に移動させる。これにより、カ
メラは被写体の視差画像を撮像することができる。
像を撮像する場合、光通過部14を光学結像部12から
受光部20に至る光路内に移動させる。これにより、カ
メラは被写体の視差画像を撮像することができる。
【0071】またフィルター駆動部42は、被写体を撮
像する場合、光通過部14を光学結像部12から受光部
20に至る光路外に移動させる。これにより、カメラは
被写体の画像を撮像することができる。
像する場合、光通過部14を光学結像部12から受光部
20に至る光路外に移動させる。これにより、カメラは
被写体の画像を撮像することができる。
【0072】視差画像から被写体の距離分布情報を算出
し、被写体の撮影条件を調整する処理については第1の
実施形態と同じであるから説明を省略する。
し、被写体の撮影条件を調整する処理については第1の
実施形態と同じであるから説明を省略する。
【0073】本実施形態によれば、第1の実施形態とは
違い、同一の光学系を用いて、視差画像の撮像及び被写
体の撮像を行うことができる。したがって、被写体の距
離分布測定及び被写体の撮像において、共通の光学結像
部12、カラーフィルター19及び受光部20を使用す
ることにより、カメラを小型化することができ、また安
価にカメラを製造することができる。
違い、同一の光学系を用いて、視差画像の撮像及び被写
体の撮像を行うことができる。したがって、被写体の距
離分布測定及び被写体の撮像において、共通の光学結像
部12、カラーフィルター19及び受光部20を使用す
ることにより、カメラを小型化することができ、また安
価にカメラを製造することができる。
【0074】(実施形態4)図8は、本発明の第4の実
施形態に係る視差画像撮像装置の一例としてのカメラの
構成図である。本実施形態のカメラは、光学結像部12
と、光通過部14と、カラーフィルター19と、受光部
20と、液晶駆動部44と、A/D変換部34と、メモ
リ36と、距離計算部38と、制御部39と、記録部4
0を有する。
施形態に係る視差画像撮像装置の一例としてのカメラの
構成図である。本実施形態のカメラは、光学結像部12
と、光通過部14と、カラーフィルター19と、受光部
20と、液晶駆動部44と、A/D変換部34と、メモ
リ36と、距離計算部38と、制御部39と、記録部4
0を有する。
【0075】図8において、光学結像部12、カラーフ
ィルター19、受光部20、A/D変換部34、メモリ
36、距離計算部38、及び記録部40については、第
1の実施形態と同じであるから、説明を省略する。本実
施形態の制御部39は液晶駆動部44を制御する以外
は、第1の実施形態の制御部39と同じであるから、共
通部分の説明を省略する。
ィルター19、受光部20、A/D変換部34、メモリ
36、距離計算部38、及び記録部40については、第
1の実施形態と同じであるから、説明を省略する。本実
施形態の制御部39は液晶駆動部44を制御する以外
は、第1の実施形態の制御部39と同じであるから、共
通部分の説明を省略する。
【0076】光通過部14は、第1、第2及び第3の開
口部15a、15b及び15cを有する。第1及び第2
の開口部15a、15bは、光学結像部12の外周近傍
に設けられ、第3の開口部15cは、光学結像部12の
光軸を含む領域に設けられ、第3の開口部15cは、第
1及び第2の開口部15a、15bより大きい領域を有
する。
口部15a、15b及び15cを有する。第1及び第2
の開口部15a、15bは、光学結像部12の外周近傍
に設けられ、第3の開口部15cは、光学結像部12の
光軸を含む領域に設けられ、第3の開口部15cは、第
1及び第2の開口部15a、15bより大きい領域を有
する。
【0077】第1、第2及び第3の開口部15a、15
b及び15cは、液晶光シャッターであってもよい。こ
の場合、電気光学効果により、開口部における光通過及
び光遮断の切り替えを電気的に行うことができる。
b及び15cは、液晶光シャッターであってもよい。こ
の場合、電気光学効果により、開口部における光通過及
び光遮断の切り替えを電気的に行うことができる。
【0078】液晶駆動部44は、光通過部14の第1、
第2及び第3の開口部15a、15b及び15cの光通
過及び光遮断の切り替えを制御することができる。制御
部39は、液晶駆動部44を制御し、所望の動作をさせ
る。
第2及び第3の開口部15a、15b及び15cの光通
過及び光遮断の切り替えを制御することができる。制御
部39は、液晶駆動部44を制御し、所望の動作をさせ
る。
【0079】液晶駆動部44は、被写体の視差画像を撮
像する場合、光通過部14の第1及び第2の開口部15
a、15bを電気的に開き、第3の開口部15cを電気
的に閉じる。これにより、カメラは被写体の視差画像を
撮像することができる。
像する場合、光通過部14の第1及び第2の開口部15
a、15bを電気的に開き、第3の開口部15cを電気
的に閉じる。これにより、カメラは被写体の視差画像を
撮像することができる。
【0080】また液晶駆動部44は、被写体を撮像する
場合、光通過部14の第3の開口部15cを電気的に開
き、第1及び第2の開口部15a、15bを電気的に閉
じる。これにより、カメラは被写体の画像を撮像するこ
とができる。
場合、光通過部14の第3の開口部15cを電気的に開
き、第1及び第2の開口部15a、15bを電気的に閉
じる。これにより、カメラは被写体の画像を撮像するこ
とができる。
【0081】視差画像から被写体の距離分布情報を算出
し、被写体の撮影条件を調整する処理については第1の
実施形態と同じであるから説明を省略する。
し、被写体の撮影条件を調整する処理については第1の
実施形態と同じであるから説明を省略する。
【0082】上記では、光通過部14の第1及び第2の
開口部15a、15bが、第3の開口部15cの外側に
ある場合について説明したが、実施形態はこれに限られ
ない。たとえば、第3の開口部15cの内部に第1及び
第2の開口部15a、15bを有してもよい。
開口部15a、15bが、第3の開口部15cの外側に
ある場合について説明したが、実施形態はこれに限られ
ない。たとえば、第3の開口部15cの内部に第1及び
第2の開口部15a、15bを有してもよい。
【0083】この場合、視差画像を撮像する時、第3の
開口部15cを電気的に閉じ、第1及び第2の開口部1
5a、15bを電気的に開いて、被写体を撮像する。被
写体を撮像する時は、さらに第3の開口部15cを開い
て被写体を撮像する。
開口部15cを電気的に閉じ、第1及び第2の開口部1
5a、15bを電気的に開いて、被写体を撮像する。被
写体を撮像する時は、さらに第3の開口部15cを開い
て被写体を撮像する。
【0084】このように光通過部14の第1及び第2の
開口部15a、15bを第3の開口部15cの内側に設
けた場合、第3の開口部15cを光学結像部12の領域
全体を覆うように設けることができ、光学結像部12の
領域を有効に利用することができる。
開口部15a、15bを第3の開口部15cの内側に設
けた場合、第3の開口部15cを光学結像部12の領域
全体を覆うように設けることができ、光学結像部12の
領域を有効に利用することができる。
【0085】本実施形態によれば、光通過部14を光学
的結像部12から受光部20に至る光路外へ移動させる
ことなく、視差画像の撮像と被写体の撮像を、同一の光
学系を用いて行うことができる。したがって、したがっ
て、被写体の距離分布測定及び被写体の撮像において、
共通の光学結像部12、光通過部14、カラーフィルタ
ー19、及び受光部20を使用し、また光通過部を移動
させる必要がないため、カメラを小型化することがで
き、また安価にカメラを製造することができる。
的結像部12から受光部20に至る光路外へ移動させる
ことなく、視差画像の撮像と被写体の撮像を、同一の光
学系を用いて行うことができる。したがって、したがっ
て、被写体の距離分布測定及び被写体の撮像において、
共通の光学結像部12、光通過部14、カラーフィルタ
ー19、及び受光部20を使用し、また光通過部を移動
させる必要がないため、カメラを小型化することがで
き、また安価にカメラを製造することができる。
【0086】(実施形態5)図9は、本発明の第5の実
施形態に係るカメラの構成図である。本実施形態のカメ
ラは、視差画像撮像部10と、レンズ52と、光路分割
素子53と、絞り54と、リレーレンズ55と、シャッ
ター56と、カラーフィルター58と、CCD60と、
マルチプレクサー32と、A/D変換部34と、メモリ
36と、距離計算部38と、制御部39と、記録部40
とを有する。
施形態に係るカメラの構成図である。本実施形態のカメ
ラは、視差画像撮像部10と、レンズ52と、光路分割
素子53と、絞り54と、リレーレンズ55と、シャッ
ター56と、カラーフィルター58と、CCD60と、
マルチプレクサー32と、A/D変換部34と、メモリ
36と、距離計算部38と、制御部39と、記録部40
とを有する。
【0087】図9において、図2と同一の符号を付し
た、レンズ52、絞り54、シャッター56、A/D変
換部34、メモリ36、距離計算部38、制御部39及
び記録部40については、第1の実施形態と同じである
から、説明を省略する。
た、レンズ52、絞り54、シャッター56、A/D変
換部34、メモリ36、距離計算部38、制御部39及
び記録部40については、第1の実施形態と同じである
から、説明を省略する。
【0088】本実施形態のカメラは、レンズ52を使っ
て被写体を結像する。光路分割素子53は、レンズ52
を通過した光の光路を分割し、絞り54、シャッター5
6及びカラーフィルター58を介してCCD60に受光
される光と、リレーレンズ55を介して視差画像撮像部
10に入力される光とに分割する。
て被写体を結像する。光路分割素子53は、レンズ52
を通過した光の光路を分割し、絞り54、シャッター5
6及びカラーフィルター58を介してCCD60に受光
される光と、リレーレンズ55を介して視差画像撮像部
10に入力される光とに分割する。
【0089】視差画像撮像部10は、第1の実施形態の
視差画像撮像部10である。レンズ52によって結像さ
れた被写体の像は、リレーレンズ55を介して視差画像
撮像部10に入力される。視差画像撮像部10の構成と
動作は既に述べたので説明を省略する。
視差画像撮像部10である。レンズ52によって結像さ
れた被写体の像は、リレーレンズ55を介して視差画像
撮像部10に入力される。視差画像撮像部10の構成と
動作は既に述べたので説明を省略する。
【0090】視差画像から視差量を検出し、被写体の距
離分布を算出し、カメラの撮影条件を制御する処理は第
1の実施形態と同じであるから説明を省略する。
離分布を算出し、カメラの撮影条件を制御する処理は第
1の実施形態と同じであるから説明を省略する。
【0091】リレーレンズ55は像を縮小する縮小リレ
ー系であってもよく、視差画像撮像部10を小型の光学
系と受光部で構成してもよい。一方、被写体の像を受光
するCCD60は素子数の多い、高精細なCCDであっ
てもよい。このように構成することによって、共通のレ
ンズ52を用いて、CCD60には、解像度の高い被写
体の画像を結像させ、視差画像撮像部10では、解像度
の低い被写体の視差画像を撮像させることができる。
ー系であってもよく、視差画像撮像部10を小型の光学
系と受光部で構成してもよい。一方、被写体の像を受光
するCCD60は素子数の多い、高精細なCCDであっ
てもよい。このように構成することによって、共通のレ
ンズ52を用いて、CCD60には、解像度の高い被写
体の画像を結像させ、視差画像撮像部10では、解像度
の低い被写体の視差画像を撮像させることができる。
【0092】本実施形態のカメラによれば、レンズ52
によって結像された被写体の像を用いて、被写体の撮像
と視差画像の撮像を行うことができる。被写体を結像す
るレンズを共通化したことにより、カメラを小型化する
ことができ、また安価にカメラを製造することができ
る。
によって結像された被写体の像を用いて、被写体の撮像
と視差画像の撮像を行うことができる。被写体を結像す
るレンズを共通化したことにより、カメラを小型化する
ことができ、また安価にカメラを製造することができ
る。
【0093】(実施形態6)図10は、本発明の第6の
実施形態に係る視差画像撮像装置の一例としての銀塩カ
メラの構成図である。本実施形態の銀塩カメラは、視差
画像撮像部10と、レンズ52と、絞り54と、シャッ
ター56と、撮像部46と、A/D変換部34と、メモ
リ36と、距離計算部38と、制御部39と、記録部4
0を有する。
実施形態に係る視差画像撮像装置の一例としての銀塩カ
メラの構成図である。本実施形態の銀塩カメラは、視差
画像撮像部10と、レンズ52と、絞り54と、シャッ
ター56と、撮像部46と、A/D変換部34と、メモ
リ36と、距離計算部38と、制御部39と、記録部4
0を有する。
【0094】図10において、図2と同一の符号を付し
た、レンズ52、絞り54、シャッター56、A/D変
換部34、メモリ36、距離計算部38、制御部39及
び記録部40については、第1の実施形態と同じである
から、説明を省略する。
た、レンズ52、絞り54、シャッター56、A/D変
換部34、メモリ36、距離計算部38、制御部39及
び記録部40については、第1の実施形態と同じである
から、説明を省略する。
【0095】視差画像撮像部10は、第1の実施形態の
視差画像撮像部10である。視差画像撮像部10の構成
と動作は既に述べたので説明を省略する。視差画像から
被写体の距離分布情報を算出し、被写体の撮影条件を制
御する処理は第1の実施形態と同じであるから説明を省
略する。
視差画像撮像部10である。視差画像撮像部10の構成
と動作は既に述べたので説明を省略する。視差画像から
被写体の距離分布情報を算出し、被写体の撮影条件を制
御する処理は第1の実施形態と同じであるから説明を省
略する。
【0096】撮像部46は、被写体の像を光化学反応に
よって銀塩感光フィルム等に撮像させる。
よって銀塩感光フィルム等に撮像させる。
【0097】本実施形態の銀塩カメラによれば、被写体
の各画素に写された被写体の距離分布を獲得することが
できるので、被写体の画像の色分布、輝度分布、テクス
チャ分布等の情報に加えて、被写体の距離分布情報に基
づいて、主要被写体をより確実に抽出することができ
る。このため抽出された主要被写体に対して、フォーカ
ス、絞り量及び露光時間等の撮影条件の調整を適正に行
い、被写体を撮像することができる。
の各画素に写された被写体の距離分布を獲得することが
できるので、被写体の画像の色分布、輝度分布、テクス
チャ分布等の情報に加えて、被写体の距離分布情報に基
づいて、主要被写体をより確実に抽出することができ
る。このため抽出された主要被写体に対して、フォーカ
ス、絞り量及び露光時間等の撮影条件の調整を適正に行
い、被写体を撮像することができる。
【0098】(実施形態7)図11は、本発明の第7の
実施形態に係る視差画像撮像装置の一例としてのビデオ
カメラの構成図である。本実施形態のビデオカメラは、
視差画像撮像部10と、レンズ52と、絞り54と、カ
ラーフィルター58と、CCD60と、A/D変換部3
4a及び34bと、メモリ36a及び36bと、距離計
算部38と、制御部39と、記録部40を有する。
実施形態に係る視差画像撮像装置の一例としてのビデオ
カメラの構成図である。本実施形態のビデオカメラは、
視差画像撮像部10と、レンズ52と、絞り54と、カ
ラーフィルター58と、CCD60と、A/D変換部3
4a及び34bと、メモリ36a及び36bと、距離計
算部38と、制御部39と、記録部40を有する。
【0099】図11において、図2と同一の符号を付し
た、レンズ52、絞り54、カラーフィルター58、C
CD60、A/D変換部34a、34b、メモリ36
a、36b、距離計算部38、制御部39及び記録部4
0については、第1の実施形態と同じであるから、説明
を省略する。本実施形態は、被写体の距離分布を測定し
ながら、被写体の動画の撮像を連続的に行う点が、第1
の実施形態と異なる。そこで、相違する部分だけを説明
し、共通部分の説明を省略する。
た、レンズ52、絞り54、カラーフィルター58、C
CD60、A/D変換部34a、34b、メモリ36
a、36b、距離計算部38、制御部39及び記録部4
0については、第1の実施形態と同じであるから、説明
を省略する。本実施形態は、被写体の距離分布を測定し
ながら、被写体の動画の撮像を連続的に行う点が、第1
の実施形態と異なる。そこで、相違する部分だけを説明
し、共通部分の説明を省略する。
【0100】視差画像撮像部10は、第1の実施形態の
視差画像撮像部10である。視差画像撮像部10によっ
て撮像された視差画像は、A/D変換部34aによって
デジタル信号に変換され、メモリ36aに記憶される。
距離計算部38はメモリ36aから視差画像を読み出
し、視差量を検出し、被写体の距離分布を算出する。
視差画像撮像部10である。視差画像撮像部10によっ
て撮像された視差画像は、A/D変換部34aによって
デジタル信号に変換され、メモリ36aに記憶される。
距離計算部38はメモリ36aから視差画像を読み出
し、視差量を検出し、被写体の距離分布を算出する。
【0101】視差画像から被写体の距離分布を算出し、
被写体の撮影条件を制御する処理は第1の実施形態と同
じであるから説明を省略する。
被写体の撮影条件を制御する処理は第1の実施形態と同
じであるから説明を省略する。
【0102】レンズ52が結像する被写体の画像はCC
D60に受光され、A/D変換部34bによってデジタ
ル信号に変換され、メモリ36bに格納される。撮像さ
れた被写体の画像は記録部40に格納される。記録部4
0はビデオテープ、MO及びDVD等の記録媒体であっ
てもよい。
D60に受光され、A/D変換部34bによってデジタ
ル信号に変換され、メモリ36bに格納される。撮像さ
れた被写体の画像は記録部40に格納される。記録部4
0はビデオテープ、MO及びDVD等の記録媒体であっ
てもよい。
【0103】本実施形態のビデオカメラによれば、被写
体の各画素に写された被写体の距離分布を獲得すること
ができるので、被写体の画像の色分布、輝度分布、テク
スチャ分布等の情報に加えて、被写体の距離分布情報に
基づいて、主要被写体をより確実に抽出することができ
る。このため抽出された主要被写体に対して、フォーカ
ス、絞り量等の撮影条件の調整を適正に行い、被写体を
撮像することができる。
体の各画素に写された被写体の距離分布を獲得すること
ができるので、被写体の画像の色分布、輝度分布、テク
スチャ分布等の情報に加えて、被写体の距離分布情報に
基づいて、主要被写体をより確実に抽出することができ
る。このため抽出された主要被写体に対して、フォーカ
ス、絞り量等の撮影条件の調整を適正に行い、被写体を
撮像することができる。
【0104】(実施形態8)図12は、本発明の第8の
実施形態に係る視差画像撮像装置の一例としての内視鏡
装置の構成図である。本実施形態の内視鏡装置は、胃や
腸などの体内を医療上の診断または治療のために映像と
して写す。体内の器官の壁表面の微細な凹凸を観察する
ためには、被写体の奥行きに関する情報を抽出すること
が重要である。本実施形態の内視鏡装置は視差画像を撮
像することによって被写体の距離分布情報を獲得しなが
ら、被写体を撮像する。
実施形態に係る視差画像撮像装置の一例としての内視鏡
装置の構成図である。本実施形態の内視鏡装置は、胃や
腸などの体内を医療上の診断または治療のために映像と
して写す。体内の器官の壁表面の微細な凹凸を観察する
ためには、被写体の奥行きに関する情報を抽出すること
が重要である。本実施形態の内視鏡装置は視差画像を撮
像することによって被写体の距離分布情報を獲得しなが
ら、被写体を撮像する。
【0105】本実施形態の内視鏡装置は、内視鏡70
と、信号処理部72と、記録部40と、モニタ74を有
する。本実施形態の内視鏡70の先端部は、レンズ52
と、CCD60と、光学結像部12と、光通過部14
と、撮像部16を有し、被写体と被写体の視差画像を結
像する。
と、信号処理部72と、記録部40と、モニタ74を有
する。本実施形態の内視鏡70の先端部は、レンズ52
と、CCD60と、光学結像部12と、光通過部14
と、撮像部16を有し、被写体と被写体の視差画像を結
像する。
【0106】内視鏡70の管内部は、伝送ケーブル78
を有し、CCD60及び撮像部16の出力電気信号を伝
達する。視差画像を撮像するための光学結像部12と、
光通過部14と、撮像部16の構成は、第1の実施形態
の視差画像撮像部10である。
を有し、CCD60及び撮像部16の出力電気信号を伝
達する。視差画像を撮像するための光学結像部12と、
光通過部14と、撮像部16の構成は、第1の実施形態
の視差画像撮像部10である。
【0107】信号処理部72は、CCD60及び撮像部
16に撮像された画像を処理するためのものであり、視
差画像から視差量を検出し、被写体の距離分布情報を算
出し、被写体の画像に画像処理を施し、モニタ74に出
力し、記録部40に出力する。信号処理部72はモニタ
74に出力する。視差画像から被写体の距離分布を算出
する処理は第1の実施形態と同じであるから説明を省略
する。
16に撮像された画像を処理するためのものであり、視
差画像から視差量を検出し、被写体の距離分布情報を算
出し、被写体の画像に画像処理を施し、モニタ74に出
力し、記録部40に出力する。信号処理部72はモニタ
74に出力する。視差画像から被写体の距離分布を算出
する処理は第1の実施形態と同じであるから説明を省略
する。
【0108】モニタ74は被写体の像を被写体の距離情
報とともに表示する。またモニタ74は被写体の立体画
像を表示してもよい。
報とともに表示する。またモニタ74は被写体の立体画
像を表示してもよい。
【0109】本実施形態では、CCD60及び撮像体1
6を内視鏡70の先端部に設けたが、実施形態はこれに
限定されない。CCD60及び撮像体16を内視鏡70
の後部に設け、内視鏡70の管内部に複数のリレーレン
ズを設け、レンズ52及び光学結像部12が結像した画
像を、リレーレンズに中継させ、内視鏡70の後部でC
CD60及び撮像体16に撮像させてもよい。
6を内視鏡70の先端部に設けたが、実施形態はこれに
限定されない。CCD60及び撮像体16を内視鏡70
の後部に設け、内視鏡70の管内部に複数のリレーレン
ズを設け、レンズ52及び光学結像部12が結像した画
像を、リレーレンズに中継させ、内視鏡70の後部でC
CD60及び撮像体16に撮像させてもよい。
【0110】本実施形態による内視鏡装置によれば、被
写体の距離分布情報を測定しながら、被写体を撮影で
き、体内の器官の壁表面の微細な凹凸を観察することが
できる。
写体の距離分布情報を測定しながら、被写体を撮影で
き、体内の器官の壁表面の微細な凹凸を観察することが
できる。
【0111】(実施形態9)図13は、本発明の第9の
実施形態に係る視差画像撮像方法のフローチャートであ
る。
実施形態に係る視差画像撮像方法のフローチャートであ
る。
【0112】図13におけるフローチャートを参照しな
がら、本実施形態の視差画像撮像方法を説明する。撮像
部16が、異なる点以外の領域における光の通過を制限
する光通過部を介して、被写体の画像を受光部に撮像し
(S102)、エッジ抽出部22が、受光部に撮像され
た画像における特定の領域について、エッジ画像を抽出
する(S104)。
がら、本実施形態の視差画像撮像方法を説明する。撮像
部16が、異なる点以外の領域における光の通過を制限
する光通過部を介して、被写体の画像を受光部に撮像し
(S102)、エッジ抽出部22が、受光部に撮像され
た画像における特定の領域について、エッジ画像を抽出
する(S104)。
【0113】自己相関計算部24が、特定の領域のエッ
ジ画像の(x,y)座標系における座標(i,j)にお
ける画素データの値をF(i,j)とし、エッジ画像の
自己相関を計算するために、必要な変数を初期化する
(S106)。視差量ηは0に、視差量の最適値η*は
所定の値MAX1にそれぞれ初期化する。相関値Φは0
に、相関値の最小値Φminは所定の値MAX2にそれ
ぞれ初期化する。ここでMAX1は検出される視差量の
値よりも、MAX2は検出される相関値の値よりも、そ
れぞれ十分に大きい値とする。
ジ画像の(x,y)座標系における座標(i,j)にお
ける画素データの値をF(i,j)とし、エッジ画像の
自己相関を計算するために、必要な変数を初期化する
(S106)。視差量ηは0に、視差量の最適値η*は
所定の値MAX1にそれぞれ初期化する。相関値Φは0
に、相関値の最小値Φminは所定の値MAX2にそれ
ぞれ初期化する。ここでMAX1は検出される視差量の
値よりも、MAX2は検出される相関値の値よりも、そ
れぞれ十分に大きい値とする。
【0114】自己相関計算部24は、視差量ηを1だけ
インクリメントし(S108)、相関値Φを次式によっ
て計算する(S110)。 Φ=ΣiΣj[F(i,j)−F(i−η,j)]^2
インクリメントし(S108)、相関値Φを次式によっ
て計算する(S110)。 Φ=ΣiΣj[F(i,j)−F(i−η,j)]^2
【0115】視差量検出部26が、現在の視差量ηに対
して得られた相関値Φが、これまでに得られた相関値Φ
の最小値Φminよりも小さいなら、相関値の最小値Φ
minに現在の相関値Φを代入し、視差量の最適値η*
に現在の視差量ηを代入する(S112)。現在の視差
量ηが所定量より大きくない場合、S108に戻り、S
108、S110及びS112の処理を繰り返す。
して得られた相関値Φが、これまでに得られた相関値Φ
の最小値Φminよりも小さいなら、相関値の最小値Φ
minに現在の相関値Φを代入し、視差量の最適値η*
に現在の視差量ηを代入する(S112)。現在の視差
量ηが所定量より大きくない場合、S108に戻り、S
108、S110及びS112の処理を繰り返す。
【0116】視差量検出部26は、現在の視差量ηが所
定量より大きい場合、視差量の最適値η*を出力し(S
116)、視差量の最適値η*に基づいて、光学結像部
から特定の領域に結像された被写体までの距離を計算す
る(S118)。視差量の値に基づいて、被写体の距離
を計算する方法は、第1の実施形態と同じであるから説
明を省略する。
定量より大きい場合、視差量の最適値η*を出力し(S
116)、視差量の最適値η*に基づいて、光学結像部
から特定の領域に結像された被写体までの距離を計算す
る(S118)。視差量の値に基づいて、被写体の距離
を計算する方法は、第1の実施形態と同じであるから説
明を省略する。
【0117】本実施形態の視差画像撮像方法によれば、
異なる点から被写体を見た場合に得られる複数の視差画
像を撮像し、撮像された画像の特定の領域についてエッ
ジ画像を抽出し、特定の領域の視差量を求め、被写体全
体の距離分布情報を得ることができる。これにより、被
写体の画像の色分布、輝度分布、テクスチャ分布等の情
報に加えて、被写体の距離分布情報に基づいて、主要被
写体をより確実に抽出することができる。
異なる点から被写体を見た場合に得られる複数の視差画
像を撮像し、撮像された画像の特定の領域についてエッ
ジ画像を抽出し、特定の領域の視差量を求め、被写体全
体の距離分布情報を得ることができる。これにより、被
写体の画像の色分布、輝度分布、テクスチャ分布等の情
報に加えて、被写体の距離分布情報に基づいて、主要被
写体をより確実に抽出することができる。
【0118】(実施形態10)図14は、本発明の第1
0の実施形態に係る視差画像撮像方法のフローチャート
である。
0の実施形態に係る視差画像撮像方法のフローチャート
である。
【0119】図14におけるフローチャートを参照しな
がら、本実施形態の視差画像撮像方法を説明する。撮像
部16が、異なる点以外の領域における光の通過を制限
する光通過部を介して、被写体の画像を受光部に撮像す
る(S202)。エッジ抽出部22が、受光部に撮像さ
れた画像における特定の領域を選択し(S204)、当
該特定の領域について、エッジ画像を抽出する(S20
6)。
がら、本実施形態の視差画像撮像方法を説明する。撮像
部16が、異なる点以外の領域における光の通過を制限
する光通過部を介して、被写体の画像を受光部に撮像す
る(S202)。エッジ抽出部22が、受光部に撮像さ
れた画像における特定の領域を選択し(S204)、当
該特定の領域について、エッジ画像を抽出する(S20
6)。
【0120】自己相関計算部24が、特定の領域のエッ
ジ画像と、当該エッジ画像を視差方向にシフトすること
によって得られる参照画像との相関を、シフト量を所定
量だけ変化させながら計算する。視差量検出部26が、
相関が最小となるシフト量に基づいて、特定の領域のエ
ッジ画像と参照画像との視差量を算出し(S208)、
その視差量に基づいて、光学結像部から特定の領域に結
像された被写体までの距離を計算する(S210)。
ジ画像と、当該エッジ画像を視差方向にシフトすること
によって得られる参照画像との相関を、シフト量を所定
量だけ変化させながら計算する。視差量検出部26が、
相関が最小となるシフト量に基づいて、特定の領域のエ
ッジ画像と参照画像との視差量を算出し(S208)、
その視差量に基づいて、光学結像部から特定の領域に結
像された被写体までの距離を計算する(S210)。
【0121】相関に基づいて視差量を算出する処理S2
08は、図13におけるS106からS116までの処
理と同一である。また、視差量の値に基づいて、被写体
の距離を算出する方法は、第1の実施形態と同じである
から説明を省略する。
08は、図13におけるS106からS116までの処
理と同一である。また、視差量の値に基づいて、被写体
の距離を算出する方法は、第1の実施形態と同じである
から説明を省略する。
【0122】視差量検出部26は、受光部に撮像された
すべての必要な領域について距離を計算したかどうかを
調べ(S212)、すべての必要な領域について距離を
計算していないなら、S204に戻り、次の特定領域を
選択し、S206からS210までの処理を繰り返す。
すべての必要な領域について距離を計算したかどうかを
調べ(S212)、すべての必要な領域について距離を
計算していないなら、S204に戻り、次の特定領域を
選択し、S206からS210までの処理を繰り返す。
【0123】すべての必要な領域について距離を計算し
ていれば、被写体全体の距離分布情報が得られている。
制御部39が、被写体の画像の色分布、輝度分布、テク
スチャ分布等の情報に加えて、被写体の距離分布情報に
基づいて、主要被写体を抽出する(S214)。制御部
39は、抽出された主要被写体に対して、フォーカス、
絞り量及び露光時間等の撮影条件の調整を適正に行う
(S216)。
ていれば、被写体全体の距離分布情報が得られている。
制御部39が、被写体の画像の色分布、輝度分布、テク
スチャ分布等の情報に加えて、被写体の距離分布情報に
基づいて、主要被写体を抽出する(S214)。制御部
39は、抽出された主要被写体に対して、フォーカス、
絞り量及び露光時間等の撮影条件の調整を適正に行う
(S216)。
【0124】制御部39は、フィルタ駆動部42を制御
して、光通過部を、被写体が受光部に受光される間の光
路外に移動させ(S218)、被写体を撮像する(S2
20)。また他の実施形態として、制御部39は、S2
18において、液晶駆動部44を制御して、光通過部の
開口部を電気的に開閉させてもよい。
して、光通過部を、被写体が受光部に受光される間の光
路外に移動させ(S218)、被写体を撮像する(S2
20)。また他の実施形態として、制御部39は、S2
18において、液晶駆動部44を制御して、光通過部の
開口部を電気的に開閉させてもよい。
【0125】本実施形態の視差画像撮像方法によれば、
被写体の各画素に写された被写体の距離分布を獲得する
ことができるので、被写体の画像の色分布、輝度分布、
テクスチャ分布等の情報に加えて、被写体の距離分布情
報に基づいて、主要被写体をより確実に抽出することが
できる。このため抽出された主要被写体に対して、フォ
ーカス、絞り量及び露光時間等の撮影条件の調整を適正
に行い、被写体を撮像することができる。
被写体の各画素に写された被写体の距離分布を獲得する
ことができるので、被写体の画像の色分布、輝度分布、
テクスチャ分布等の情報に加えて、被写体の距離分布情
報に基づいて、主要被写体をより確実に抽出することが
できる。このため抽出された主要被写体に対して、フォ
ーカス、絞り量及び露光時間等の撮影条件の調整を適正
に行い、被写体を撮像することができる。
【0126】以上、本発明を実施の形態を用いて説明し
たが、本発明の技術的範囲は上記実施の形態に記載の範
囲には限定されない。上記実施の形態に、多様な変更又
は改良を加えることができることが当業者に明らかであ
る。その様な変更又は改良を加えた形態も本発明の技術
的範囲に含まれ得ることが、特許請求の範囲の記載から
明らかである。
たが、本発明の技術的範囲は上記実施の形態に記載の範
囲には限定されない。上記実施の形態に、多様な変更又
は改良を加えることができることが当業者に明らかであ
る。その様な変更又は改良を加えた形態も本発明の技術
的範囲に含まれ得ることが、特許請求の範囲の記載から
明らかである。
【0127】
【発明の効果】上記説明から明らかなように、本発明に
よれば異なる点から被写体を見たときの視差画像を同時
に撮像し、撮像された画像から視差量を検出し、被写体
の距離分布を求めることができる。
よれば異なる点から被写体を見たときの視差画像を同時
に撮像し、撮像された画像から視差量を検出し、被写体
の距離分布を求めることができる。
【図1】 従来の視差画像撮像装置の構成図
【図2】 本発明の第1の実施形態のカメラの構成図
【図3】 視差画像撮像部の構成図
【図4】 視差画像の処理部の構成図
【図5】 自己相関及び視差量の算出方法の説明図
【図6】 本発明の第2の実施形態のカメラにおける視
差画像の処理部の構成図
差画像の処理部の構成図
【図7】 本発明の第3の実施形態のカメラの構成図
【図8】 本発明の第4の実施形態のカメラの構成図
【図9】 本発明の第5の実施形態のカメラの構成図
【図10】 本発明の第6の実施形態の銀塩カメラの構
成図
成図
【図11】 本発明の第7の実施形態のビデオカメラの
構成図
構成図
【図12】 本発明の第8の実施形態の内視鏡装置の構
成図
成図
【図13】 本発明の第9の実施形態の視差画像撮像方
法のフローチャート
法のフローチャート
【図14】 本発明の第10の実施形態の視差画像撮像
方法のフローチャート
方法のフローチャート
10 視差画像撮像部 12 光学結像部 14 光通過部 15a、b 開口部
16 撮像部 19 カラーフィルター 20 受光部 22 エッジ抽出部 24 自己相関計
算部 26 視差量検出部 32 マルチプレ
クサー 34 A/D変換部 36 メモリ 38 距離計算部 39 制御部
40 記録部 42 フィルター駆動部 44 液晶駆動部 46 撮像部 52 レンズ 54 絞り 56 シャッター 58 カラーフィルター 60 CCD
16 撮像部 19 カラーフィルター 20 受光部 22 エッジ抽出部 24 自己相関計
算部 26 視差量検出部 32 マルチプレ
クサー 34 A/D変換部 36 メモリ 38 距離計算部 39 制御部
40 記録部 42 フィルター駆動部 44 液晶駆動部 46 撮像部 52 レンズ 54 絞り 56 シャッター 58 カラーフィルター 60 CCD
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 2F065 AA06 DD02 FF04 FF09 JJ03 JJ26 LL00 LL04 LL10 LL21 LL30 NN11 PP21 QQ00 QQ03 QQ13 QQ23 QQ24 QQ27 QQ28 QQ41 2H059 AA09 AA18 AA24 AA35 5B057 BA02 BA11 BA15 BA21 BA29 DA07 DB03 DB06 DC16 DC34 5C061 AB03 AB12
Claims (15)
- 【請求項1】 異なる点から被写体を見た場合に得られ
る複数の視差画像を撮像する視差画像撮像装置であっ
て、 前記被写体を結像する単一光軸の光学結像部と、 複数の受光素子が配置され、前記光学結像部により前記
被写体が結像される受光部と、 前記光学結像部における第1及び第2の領域を通過した
光を前記受光部に照射させる第1及び第2の開口部を有
する光通過部と、 前記第1の開口部を通過して前記被写体を結像した第1
の画像及び前記第2の開口部を通過して前記被写体を結
像した第2の画像を、前記受光部に同時に撮像させる撮
像部と、 前記受光部に撮像された画像に基づいて、前記光学結像
部から前記被写体上の少なくとも1点までの距離を計算
する距離計算部とを備えたことを特徴とする視差画像撮
像装置。 - 【請求項2】 前記距離計算部が、前記受光部に撮像さ
れた前記画像における特定の領域について、前記第1の
開口部を通過した前記第1の画像及び前記第2の開口部
を通過した前記第2の画像の視差量を検出する視差量検
出部を有し、前記視差量に基づいて、前記光学結像部か
ら前記特定の領域に結像された前記被写体までの距離を
計算することを特徴とする請求項1に記載の視差画像撮
像装置。 - 【請求項3】 前記距離計算部が、前記受光部に撮像さ
れた前記特定の領域の画像と、当該画像を視差方向にシ
フトすることによって得られる参照画像との相関を、シ
フト量を所定量だけ変化させながら計算する自己相関計
算部をさらに有し、前記視差量検出部が、前記自己相関
計算部が計算した前記相関を用いて前記視差量を求める
ことを特徴とする請求項2に記載の視差画像撮像装置。 - 【請求項4】 前記距離計算部が、前記受光部に撮像さ
れた前記画像のエッジ画像を抽出するエッジ抽出部をさ
らに有し、前記自己相関計算部が、前記受光部に撮像さ
れた前記特定の領域のエッジ画像と、当該エッジ画像を
視差方向にシフトすることによって得られる参照画像と
の相関を、シフト量を所定量だけ変化させながら計算す
ることを特徴とする請求項3に記載の視差画像撮像装
置。 - 【請求項5】 前記自己相関計算部が、前記受光部に撮
像された前記特定の領域の画像と、当該画像を、前記光
通過部の前記第1の開口及び前記第2の開口の並べられ
た方向と略同一の方向に、シフトさせることによって得
られる参照画像との相関を、シフト量を所定量だけ変化
させながら計算することを特徴とする請求項3または4
に記載の視差画像撮像装置。 - 【請求項6】 前記受光素子が電荷結合素子であり、前
記受光部は、複数の前記電荷結合素子が配列された光電
変換撮像体であることを特徴とする請求項1に記載の視
差画像撮像装置。 - 【請求項7】 前記被写体を結像する第2の光学結像部
と、前記第2の光学結像部により前記被写体が結像され
る第2の受光部と、前記距離計算部が計算した前記距離
によって、前記第2の光学結像部のフォーカス、絞り、
及び前記第2の受光部の露光時間の少なくとも一つを制
御する制御部とをさらに備えたことを特徴とする請求項
1に記載の視差画像撮像装置。 - 【請求項8】 前記第1の光学結像部により前記被写体
が結像される第2の受光部と、前記距離計算部が計算し
た前記距離によって、前記第1の光学結像部のフォーカ
ス、絞り、及び前記第2の受光部の露光時間の少なくと
も一つを制御する制御部とをさらに備えたことを特徴と
する請求項1に記載の視差画像撮像装置。 - 【請求項9】 前記第2の受光部に撮像された前記被写
体の画像、及び前記距離計算部が計算した前記距離を記
録する記録部をさらに備えることを特徴とする請求項7
又は8に記載の視差画像撮像装置。 - 【請求項10】 前記光通過部を、前記被写体が前記受
光部に受光される間の光路外に移動する駆動部と、前記
距離計算部により計算された前記距離によって前記光学
結像部又は前記受光部を制御する制御部とをさらに備え
ることを特徴とする請求項1に記載の視差画像撮像装
置。 - 【請求項11】 前記光通過部が前記光学結像部におけ
る第3の領域を通過した光を前記受光部に照射させる第
3の開口部をさらに有し、 前記距離計算部により計算された前記距離によって前記
光学結像部又は前記受光部を制御する制御部と、 前記被写体の視差画像を撮像する場合に、前記光通過部
において、前記第3の開口部を閉じ、前記第1及び前記
第2の開口部を開き、前記第1の開口部を通過した画像
及び前記第2の開口部を通過した画像を前記受光部に同
時に撮像させ、前記被写体を撮像する場合に、前記光通
過部において、前記第3の開口部を開いた状態で、前記
第3の開口部を通過した画像を前記受光部に撮像させる
駆動部とを備えたことを特徴とする請求項1に記載の視
差画像撮像装置。 - 【請求項12】 前記光通過部の前記第1、第2及び第
3の開口部が液晶光シャッターを有することを特徴とす
る請求項11に記載の視差画像撮像装置。 - 【請求項13】 前記光通過部の前記第1及び第2の開
口部は、前記光学結像部の外周近傍に設けられ、前記光
通過部の前記第3の開口部は、前記光学結像部の光軸を
含む領域に設けられ、前記第3の開口部は、前記第1及
び第2の開口部より大きい領域を有することを特徴とす
る請求項12に記載の視差画像撮像装置。 - 【請求項14】 異なる点から被写体を見た場合に得ら
れる複数の視差画像を撮像する視差画像撮像方法であっ
て、 前記異なる点以外の領域における光の通過を制限する光
通過部を介して、前記被写体の画像を受光部に撮像し、 前記受光部に撮像された前記画像のエッジ画像を抽出
し、 特定の領域の前記エッジ画像と、当該エッジ画像を前記
異なる点を結ぶ視差方向にシフトすることによって得ら
れる参照画像との相関を、シフト量を所定量だけ変化さ
せながら計算し、 前記相関が最小となる前記シフト量に基づいて、前記特
定の領域の前記エッジ画像と前記参照画像との視差量を
求め、 前記視差量に基づいて、前記光学結像部から前記特定の
領域に結像された前記被写体までの距離を計算すること
を特徴とする視差画像撮像方法。 - 【請求項15】 前記距離に基づいて、前記被写体を撮
像するときの撮影条件を調整し、 前記光通過部による前記光の通過の制限を外し、 前記被写体を前記撮影条件で撮像することを特徴とする
請求項14に記載の視差画像撮像方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11184163A JP2001016612A (ja) | 1999-06-29 | 1999-06-29 | 視差画像撮像装置及び視差画像撮像方法 |
US09/605,984 US6807295B1 (en) | 1999-06-29 | 2000-06-29 | Stereoscopic imaging apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11184163A JP2001016612A (ja) | 1999-06-29 | 1999-06-29 | 視差画像撮像装置及び視差画像撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2001016612A true JP2001016612A (ja) | 2001-01-19 |
Family
ID=16148476
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP11184163A Pending JP2001016612A (ja) | 1999-06-29 | 1999-06-29 | 視差画像撮像装置及び視差画像撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2001016612A (ja) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003004441A (ja) * | 2001-06-18 | 2003-01-08 | Hitachi Ltd | 距離計測方法および距離計測機能を有する画像入力装置 |
JP2003043341A (ja) * | 2001-07-26 | 2003-02-13 | Fuji Photo Film Co Ltd | 距離情報取得装置、距離情報取得方法、プログラム、及び撮像装置 |
JP2004198732A (ja) * | 2002-12-18 | 2004-07-15 | Sony Computer Entertainment Inc | 撮影補助器、画像処理方法、画像処理装置、コンピュータプログラム、プログラムを格納した記録媒体 |
JP2006287811A (ja) * | 2005-04-04 | 2006-10-19 | Daisuke Omori | 立体映像撮影再生装置 |
JP2009080113A (ja) * | 2007-09-25 | 2009-04-16 | Seiko Epson Corp | 距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体 |
JP2012531789A (ja) * | 2009-06-25 | 2012-12-10 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 立体イメージ取得方法、システム及びカメラ |
CN102823230A (zh) * | 2011-01-17 | 2012-12-12 | 松下电器产业株式会社 | 摄像装置 |
WO2013038863A1 (ja) * | 2011-09-13 | 2013-03-21 | 富士フイルム株式会社 | 単眼立体撮影装置、撮影方法及びプログラム |
JP2013236343A (ja) * | 2012-05-10 | 2013-11-21 | Nikon Corp | 撮像装置および撮像方法 |
JP2015152423A (ja) * | 2014-02-14 | 2015-08-24 | アズビル株式会社 | 物体検知センサおよび物体検知方法 |
JP2016178655A (ja) * | 2010-08-10 | 2016-10-06 | モノタイプ.イメージング.インコーポレイテッド | マルチビューシーン内のグラフイックス表示 |
CN107636533A (zh) * | 2015-06-03 | 2018-01-26 | 奥林巴斯株式会社 | 摄像装置、内窥镜装置以及摄像方法 |
-
1999
- 1999-06-29 JP JP11184163A patent/JP2001016612A/ja active Pending
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003004441A (ja) * | 2001-06-18 | 2003-01-08 | Hitachi Ltd | 距離計測方法および距離計測機能を有する画像入力装置 |
JP2003043341A (ja) * | 2001-07-26 | 2003-02-13 | Fuji Photo Film Co Ltd | 距離情報取得装置、距離情報取得方法、プログラム、及び撮像装置 |
JP2004198732A (ja) * | 2002-12-18 | 2004-07-15 | Sony Computer Entertainment Inc | 撮影補助器、画像処理方法、画像処理装置、コンピュータプログラム、プログラムを格納した記録媒体 |
US7463305B2 (en) | 2002-12-18 | 2008-12-09 | Sony Computer Entertainment Inc. | Photographing assist device and image processing method for achieving simple stereoscopic photographing |
JP2006287811A (ja) * | 2005-04-04 | 2006-10-19 | Daisuke Omori | 立体映像撮影再生装置 |
JP4496122B2 (ja) * | 2005-04-04 | 2010-07-07 | 大介 大森 | 立体映像撮影再生装置 |
JP2009080113A (ja) * | 2007-09-25 | 2009-04-16 | Seiko Epson Corp | 距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体 |
US9131221B2 (en) | 2009-06-25 | 2015-09-08 | Koninklijke Philips N.V. | Stereoscopic image capturing method, system and camera |
JP2012531789A (ja) * | 2009-06-25 | 2012-12-10 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 立体イメージ取得方法、システム及びカメラ |
US10134150B2 (en) | 2010-08-10 | 2018-11-20 | Monotype Imaging Inc. | Displaying graphics in multi-view scenes |
JP2016178655A (ja) * | 2010-08-10 | 2016-10-06 | モノタイプ.イメージング.インコーポレイテッド | マルチビューシーン内のグラフイックス表示 |
CN102823230A (zh) * | 2011-01-17 | 2012-12-12 | 松下电器产业株式会社 | 摄像装置 |
CN102823230B (zh) * | 2011-01-17 | 2016-08-24 | 松下知识产权经营株式会社 | 摄像装置 |
CN103874960A (zh) * | 2011-09-13 | 2014-06-18 | 富士胶片株式会社 | 单眼立体摄影装置、摄影方法及程序 |
US9462252B2 (en) | 2011-09-13 | 2016-10-04 | Fujifilm Corporation | Single-eye stereoscopic imaging device, imaging method and recording medium |
WO2013038863A1 (ja) * | 2011-09-13 | 2013-03-21 | 富士フイルム株式会社 | 単眼立体撮影装置、撮影方法及びプログラム |
JP2013236343A (ja) * | 2012-05-10 | 2013-11-21 | Nikon Corp | 撮像装置および撮像方法 |
JP2015152423A (ja) * | 2014-02-14 | 2015-08-24 | アズビル株式会社 | 物体検知センサおよび物体検知方法 |
CN107636533A (zh) * | 2015-06-03 | 2018-01-26 | 奥林巴斯株式会社 | 摄像装置、内窥镜装置以及摄像方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6807295B1 (en) | Stereoscopic imaging apparatus and method | |
JP3863319B2 (ja) | 視差画像撮像装置及びカメラ | |
US8542941B2 (en) | Imaging device, image detecting method and focus adjusting method | |
US8890996B2 (en) | Imaging device, semiconductor integrated circuit and imaging method | |
JP6825073B2 (ja) | 撮像装置、制御方法、およびプログラム | |
US8009976B2 (en) | Camera having face detection and with automatic focus control using a defocus amount | |
US7614559B2 (en) | Apparatus and method for deciding in-focus position of imaging lens | |
RU2549143C1 (ru) | Устройство регистрации изображения и способ управления им | |
CN105555180A (zh) | 内窥镜装置和内窥镜装置的控制方法 | |
JP2001016612A (ja) | 視差画像撮像装置及び視差画像撮像方法 | |
JPWO2014046184A1 (ja) | 複数被写体の距離計測装置及び方法 | |
JP2009123081A (ja) | 顔検出方法及び撮影装置 | |
WO2015005249A1 (ja) | 撮像装置、カメラシステム及び画像処理方法 | |
JP2010243843A (ja) | オートフォーカスシステム | |
JP2010114577A (ja) | 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理方法 | |
JP2008089811A (ja) | 撮像装置及びその制御方法 | |
JP4871664B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP3897079B2 (ja) | 視差画像入力装置及び撮像装置 | |
JP2022173069A (ja) | 画像処理装置及び方法、及び、撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2021173803A (ja) | 撮像装置およびその制御方法、プログラム、記憶媒体 | |
JP2007005966A (ja) | 露出量算出システムならびにその制御方法およびその制御プログラム | |
KR102481179B1 (ko) | 빛 반사 감소기술이 적용된 자궁경부 진단 카메라 장치 | |
JPH03165672A (ja) | 画像入出力装置 | |
US20240331200A1 (en) | Endoscope device, endoscopic medical assistance system and endoscopic image processing method | |
JP2003319235A (ja) | 撮影装置 |