JP2019007826A - 測距カメラおよび測距方法 - Google Patents

測距カメラおよび測距方法 Download PDF

Info

Publication number
JP2019007826A
JP2019007826A JP2017123411A JP2017123411A JP2019007826A JP 2019007826 A JP2019007826 A JP 2019007826A JP 2017123411 A JP2017123411 A JP 2017123411A JP 2017123411 A JP2017123411 A JP 2017123411A JP 2019007826 A JP2019007826 A JP 2019007826A
Authority
JP
Japan
Prior art keywords
subject
image
distance
color
blur
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017123411A
Other languages
English (en)
Inventor
覚 須藤
Satoru Sudo
覚 須藤
正人 江原
Masato Ebara
正人 江原
賢 安食
Masaru Ajiki
賢 安食
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsumi Electric Co Ltd
Original Assignee
Mitsumi Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsumi Electric Co Ltd filed Critical Mitsumi Electric Co Ltd
Priority to JP2017123411A priority Critical patent/JP2019007826A/ja
Priority to PCT/JP2018/022674 priority patent/WO2018235709A1/ja
Publication of JP2019007826A publication Critical patent/JP2019007826A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】光学系の色収差を利用することにより被写体までの距離を測定することができる測距カメラおよび測距方法を提供する。【解決手段】測距カメラ1は、被写体からの光を結像する光学系3と、複数のカラーフィルターを有し、光学系3により結像された被写体像を撮像し、複数のカラーフィルターのそれぞれに対応する複数の色画像信号を取得する撮像素子5と、複数の色画像信号のそれぞれにおける被写体像のボケ量を検出するボケ検出部6と、ボケ検出部6によって検出された複数の色画像信号のそれぞれにおける被写体像のボケ量に基づいて、被写体までの距離を算出する距離算出部8と、を備える。【選択図】図1

Description

本発明は、一般に、被写体までの距離を測定するための測距カメラおよび測距方法に関し、より具体的には、撮像素子によって取得された複数の色画像信号のそれぞれにおける被写体像のボケ量を検出し、検出したボケ量に基づいて、被写体までの距離を測定する測距カメラおよび測距方法に関する。
近年、被写体の画像を取得することができるとともに、被写体までの距離を測定することができる測距カメラが提案されている。このような測距カメラとしては、被写体からの光を結像するための光学系と、該光学系によって結像された被写体像を画像信号に変換するための撮像素子とを2対以上備えるステレオカメラ方式の測距カメラ(例えば、特許文献1参照)や、被写体に対して一定パターン(例えば、格子パターン)の光を照射するためのプロジェクターと、一定パターンの光が照射された被写体を撮像するための撮像系とを備えるパターン照射式の測距カメラや被写体像のボケ量を解析することにより、被写体までの距離を推定するDFD(Depth From Defocus)方式の測距カメラ(例えば、特許文献2)等が知られている。
ステレオカメラ方式の測距カメラでは、光学系と撮像素子の組み合わせを2対以上用いることにより、異なる視差を有する複数の画像を取得し、取得した画像の視差に基づいて被写体までの距離を算出する。そのため、光学系と撮像素子の組み合わせを2対以上用いることが必要となる。2対以上の光学系と撮像素子の組み合わせを1つの測距カメラ内に設けることは、測距カメラの構成の複雑化、サイズの増大、コストの増加等の問題を引き起こす。また、被写体までの距離を正確に算出するためには、大きな視差を取得する必要があるため、1つの測距カメラ内において、2つ以上の光学系をそれぞれ大きく離間して配置する必要がある。このような理由によっても、測距カメラのサイズが増大してしまう。また、2つ以上の撮像素子を用いるため、測距カメラの消費電力が増大してしまう。
また、2つ以上の撮像素子が取得した画像間には視差が存在するため、算出した被写体までの距離と、2つ以上の撮像素子が取得した2次元画像とに基づいて、被写体の3次元画像を生成するためには、画像間の視差を補正するためのフィッティング処理が必要となる。このようなフィッティング処理によって、処理時間の増大、消費電力量の増加といった問題が発生する。
パターン照射方式の測距カメラでは、被写体に対して一定パターンの光を照射し、被写体に投影された一定パターンの歪みを解析することにより被写体までの距離を測定している。そのため、パターン照射方式の測距カメラでは、被写体に対して一定パターンの光を照射するためのプロジェクターが必要となり、測距カメラの構成が大規模になってしまう。また、パターン照射方式の測距カメラでは、一定パターンが照射された状態の被写体の2次元画像と一定パターンが照射されていない状態の被写体の2次元画像の双方を1度の撮影により取得することができない。
DFD方式の測距カメラでは、被写体の1枚の画像に含まれるボケ量を解析することで被写体までの距離を算出している。このようなDFD方式による被写体までの距離の測定は、画像に含まれるノイズの影響を受けやすく、距離測定の精度の安定性が低い。また、DFD方式による被写体までの距離の測定精度を高めるために、プリズムやハーフミラーを用いて被写体からの光の光路長を変更し、さらに、複数の撮像素子を用いて、それぞれ異なるボケ量を有する複数の画像を取得することも行われている。しかしながら、この場合、プリズム、ハーフミラー、および追加の撮像素子を測距カメラ内に設ける必要があり、測距カメラの構成の複雑化、サイズの増大、コストの増加等の問題を引き起こす。また、プリズムやハーフミラーによる分光により、1つの撮像素子に入射される光の量が減少してしまうため、ノイズの影響が大きくなり、被写体までの距離の測定精度が低下してしまう。
特開2013−190394号公報 特開平7−209576号公報
本発明は、上記従来の問題点を鑑みたものであり、その目的は、光学系の色収差を利用することにより被写体までの距離を測定することができる測距カメラおよび測距方法を提供することにある。
このような目的は、以下の(1)〜(8)の本発明により達成される。
(1)被写体からの光を結像する光学系と、
複数のカラーフィルターを有し、前記光学系により結像された被写体像を撮像し、前記複数のカラーフィルターのそれぞれに対応する複数の色画像信号を取得する撮像素子と、
前記複数の色画像信号のそれぞれにおける前記被写体像のボケ量を検出するボケ検出部と、
前記ボケ検出部によって検出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量に基づいて、前記被写体までの距離を算出する距離算出部と、を備えることを特徴とする測距カメラ。
(2)前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量と、前記光学系から前記被写体までの距離とを関連付ける関連付情報を記憶している関連付情報記憶部をさらに備え、
前記距離算出部は、前記ボケ検出部によって算出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量と、前記関連付情報記憶部内の前記関連付情報とに基づいて、前記被写体までの前記距離を算出する上記(1)に記載の測距カメラ。
(3)前記複数の色画像信号は、赤色画像信号と、緑色画像信号と、青色画像信号との少なくとも2つを含み、
前記複数のカラーフィルターは、前記赤色画像信号用の赤色カラーフィルターと、前記緑色画像信号用の緑色カラーフィルターと、前記青色画像信号用の青色カラーフィルターとのうち、前記赤色画像信号、前記緑色画像信号、および前記青色画像信号の前記少なくとも2つに対応する少なくとも2つを含む上記(1)または(2)に記載の測距カメラ。
(4)前記複数のカラーフィルターは、特定の波長帯の光のみを透過させ、それ以外の波長帯の光を実質的に遮断する複数のバンドパスフィルターをさらに含み、
前記複数のバンドパスフィルターのそれぞれの前記特定の波長帯は、互いに異なっており、
前記複数の色画像信号は、前記複数のバンドパスフィルターのそれぞれを通過する光によって得られた複数のバンドパス画像信号を含む上記(3)に記載の測距カメラ。
(5) 前記複数のカラーフィルターは、赤外線用カラーフィルターまたは紫外線用カラーフィルターの少なくとも一方をさらに含み、
前記複数の色画像信号は、赤外線画像信号と紫外線画像信号の少なくとも一方をさらに含む上記(3)または(4)に記載の測距カメラ。
(6)前記ボケ検出部は、前記複数の色画像信号のそれぞれにおいて、前記被写体像のエッジ部を抽出し、さらに、前記複数の色画像信号のそれぞれにおいて抽出された前記被写体像の前記エッジ部のボケ量を検出し、
前記距離算出部は、前記ボケ検出部によって検出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記エッジ部の前記ボケ量に基づいて、前記被写体の前記エッジ部までの距離を算出する上記(1)ないし(5)のいずれかに記載の測距カメラ。
(7)前記撮像素子が取得した前記複数の色画像信号と、前記距離算出部によって測定された前記被写体までの前記距離とに基づいて、前記被写体の3次元画像を生成する3次元画像生成部をさらに備える上記(1)ないし(6)のいずれかに記載の測距カメラ。
(8)被写体までの距離を測定するための測距方法であって、
光学系を用いて、前記被写体からの光を結像する工程と、
撮像素子を用いて、結像された被写体像の複数の色画像信号を取得する工程と、
プロセッサーを用いて、前記複数の色画像信号のそれぞれにおける前記被写体像のボケ量を検出する工程と、
前記プロセッサーを用いて、検出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量に基づいて、前記被写体までの距離を算出する工程と、を備えることを特徴とする測距方法。
本発明の測距カメラおよび測距方法では、1対の光学系と撮像素子から取得した1枚の被写体の画像から、被写体までの距離を測定することができるため、光学系と撮像素子の組み合わせを複数対用いる必要がない。そのため、ステレオカメラ方式の測距カメラと比較して、測距カメラの小型化、低消費電力化、および低コスト化が可能である。また、本発明の測距カメラでは、ステレオカメラ方式の測距カメラとは異なり、視差のある画像を用いないので、従来のステレオカメラ方式の測距カメラにおいて3次元画像を生成する際に実行される視差を修正するためのフィッティング処理が不要である。そのため、3次元画像を生成するための処理時間の短縮、および、消費電力の削減が可能である。
また、本発明の測距カメラおよび測距方法では、パターン照射方式の測距カメラと異なり、一定パターンの光を被写体に照射するプロジェクター等の特殊な光源を用いる必要がない。そのため、測距カメラのシステム、および、測距方法を実行するための構成をシンプルにすることができる。また、パターン照射方式の測距カメラでは、1度の撮像で、一定パターンが照射された状態の被写体の画像と一定パターンが照射されていない状態の被写体の画像の双方を取得することができないため、被写体までの距離の測定と、一定パターンが照射されていない被写体の画像の取得を1度の撮像で実行することはできない。一方、本発明の測距カメラおよび測距方法では、一定パターンを被写体に照射する必要がないため、被写体までの距離の測定と、一定パターンが照射されていない被写体の画像の取得とを1度の撮像で実行することができる。
また、本発明の測距カメラおよび測距方法では、DFD方式の測距カメラと異なり、プリズムやハーフミラー等の光の光路長を変えるための光学部品を用いる必要がない。そのため、測距カメラのシステム、および、測距方法を実行するためのシステムの構成をシンプルにすることができる。また、本発明の測距カメラおよび測距方法では、DFD方式の測距カメラと異なり、複数のボケ量に関する情報を被写体までの距離を測定するために用いている。そのため、DFD方式の測距カメラと比較して、本発明の測距カメラおよび測距方法は、被写体の画像のノイズの影響を受けにくい。
本発明の第1実施形態に係る測距カメラを概略的に示すブロック図である。 図1に示す測距カメラの使用例を概略的に示す図である。 図1に示す測距カメラの光学系の色収差を説明するための図である。 図1に示す測距カメラの撮像素子が有するカラーフィルターの特性を示す図である。 図1に示す測距カメラのボケ検出部によって実行されるエッジ部抽出処理を説明するための図である。 図1に示す測距カメラの撮像素子によって取得された複数の色画像信号間の被写体のエッジ部のボケ量の差を説明するための図である。 複数の色画像信号における被写体像のボケ量と、被写体までの距離とを関連付ける関連付情報を説明するための図である。 図1に示す測距カメラの距離算出部によって算出された被写体までの距離を表す距離画像を示す図である。 図1に示す測距カメラの3次元画像生成部によって生成される3次元画像を示す図である。 本発明の第2実施形態に係る測距カメラの撮像素子が有するカラーフィルターの特性を示す図である。 本発明の第2実施形態に係る測距カメラにおいて用いられるバンドパスフィルターの透過波長帯の調整を説明するための図である。 本発明の測距方法を示すフローチャートである。 測距システムの1例を概略的に示す図である。 測距システムの別の例を概略的に示す図である。
以下、本発明の測距カメラおよび測距方法を添付図面に示す好適な実施形態に基づいて説明する。
<第1実施形態>
最初に図1〜図9を参照して、本発明の第1実施形態に係る測距カメラの構成を詳述する。
図1は、本発明の第1実施形態に係る測距カメラを概略的に示すブロック図である。図2は、図1に示す測距カメラの使用例を概略的に示す図である。図3は、図1に示す測距カメラの光学系の色収差を説明するための図である。図4は、図1に示す測距カメラの撮像素子が有するカラーフィルターの特性を示す図である。図5は、図1に示す測距カメラのボケ検出部によって実行されるエッジ部抽出処理を説明するための図である。図6は、図1に示す測距カメラの撮像素子によって取得された複数の色画像信号間の被写体のエッジ部のボケ量の差を説明するための図である。図7は、複数の色画像信号における被写体像のボケ量と、被写体までの距離とを関連付ける関連付情報を説明するための図である。図8は、図1に示す測距カメラの距離算出部によって算出された被写体までの距離を表す距離画像を示す図である。図9は、図1に示す測距カメラの3次元画像生成部によって生成される3次元画像を示す図である。
図1に示す測距カメラ1は、測距カメラ1の制御を行う制御部2と、被写体からの光を結像する光学系3と、オートフォーカス機能、ズーム機能、および/または手振れ補正機能を実現するために光学系3を駆動する光学系駆動部4と、光学系3により結像された被写体像を撮像し、複数の色画像信号を取得する撮像素子5と、複数の色画像信号のそれぞれにおける被写体像のボケ量を検出するボケ検出部6と、複数の色画像信号のそれぞれにおける被写体像のボケ量と、光学系3から被写体までの距離とを関連付ける関連付情報を記憶している関連付情報記憶部7と、ボケ検出部6によって検出された複数の色画像信号のそれぞれにおける被写体像のボケ量に基づいて、被写体までの距離を算出する距離算出部8と、撮像素子5が取得した複数の色画像信号と、距離算出部8によって算出された被写体までの距離とに基づいて、被写体の3次元画像を生成する3次元画像生成部9と、液晶パネル等の任意の情報を表示するための表示部10と、使用者による操作を入力するための操作部11と、外部デバイスとの通信を実行するための通信部12と、測距カメラ1の各コンポーネント間のデータの授受を実行するためのデータバス13とを備えている。
図2に示すように、本発明の測距カメラ1は、被写体(図2の例では、近接物体、中間物体、および遠方物体)の2次元画像を取得するとともに、測距カメラ1から各被写体までの距離を測定するために用いられる。以下、測距カメラ1の各コンポーネントについて詳述する。
制御部2は、データバス13を介して、各コンポーネントとの間の各種データや各種指示の授受を行い、測距カメラ1の制御を実行する。制御部2は、演算処理を実行するためのプロセッサーと、測距カメラ1の制御を行うために必要なデータ、プログラム、モジュール等を保存しているメモリーとを備えており、制御部2のプロセッサーは、メモリー内に保存されているデータ、プログラム、モジュール等を用いることにより、測距カメラ1の制御を実行する。また、制御部2のプロセッサーは、測距カメラ1の各コンポーネントを用いることにより、所望の機能を提供することができる。例えば、制御部2のプロセッサーは、ボケ検出部6を用いることにより、複数の色画像信号のそれぞれにおける被写体像のボケ量を検出するための処理を実行することができる。
制御部2のプロセッサーは、例えば、1つ以上のマイクロプロセッサー、マイクロコンピューター、マイクロコントローラー、デジタル信号プロセッサー(DSP)、中央演算処理装置(CPU)、メモリーコントールユニット(MCU)、画像処理用演算処理装置(GPU)、状態機械、論理回路、特定用途向け集積回路(ASIC)、またはこれらの組み合わせ等のコンピューター可読命令に基づいて信号操作等の演算処理を実行する演算ユニットである。特に、制御部2のプロセッサーは、制御部2のメモリー内に保存されているコンピューター可読命令(例えば、データ、プログラム、モジュール等)をフェッチし、信号操作および制御を実行するよう構成されている。
制御部2のメモリーは、揮発性記憶媒体(例えば、RAM、SRAM、DRAM)、不揮発性記憶媒体(例えば、ROM、EPROM、EEPROM、フラッシュメモリー、ハードディスク、光ディスク、CD−ROM、デジタル多用途ディスク(DVD)、磁気カセット、磁気テープ、磁気ディスク)、またはこれらの組み合わせを含む着脱式または非着脱式のコンピューター可読媒体である。
光学系3は、被写体からの光を結像する機能を有する。光学系3は、1つ以上のレンズや絞り等の光学素子から構成され、被写体から入射してくる光を集光し、撮像素子5の撮像面上に被写体像を形成する。また、光学系3は、任意選択的に、オートフォーカス機能を提供するためのフォーカスレンズ、ズーム機能を提供するためのズームレンズ、および手振れ補正機能を提供するための手振れ補正レンズの少なくとも1つを含んでいてもよい。すなわち、光学系3は、被写体像を結像する機能のみを提供するよう構成されていてもよいし、該機能に加えて、追加的な機能として、オートフォーカス機能のみを提供するよう構成されていてもよく、該機能に加えて、追加的な機能として、オートフォーカス機能、ズーム機能、および手振れ補正機能の全てを提供するよう構成されていてもよい。光学系3が、オートフォーカス機能、ズーム機能、および手振れ補正機能の少なくとも1つを提供するよう構成されている場合、光学系3のフォーカスレンズ、ズームレンズおよび/または手振れ補正レンズは、光学系駆動部4によって駆動制御される。
本発明の測距カメラ1において、光学系3は、一般的な撮像用のカメラにおいて用いられる光学系と異なり、大きな色収差を有するよう構成されている。図3には、光学系3の色収差の概要が示されている。
光学系3の焦点距離は、光の波長に依存するので、波長の長い光(例えば、赤色光)に対しての焦点距離は長く、波長の短い光(例えば、青色光)に対しての焦点距離は短くなる。そのため、波長の長い光は、光学系3からより離間した位置で焦点を結び、波長の短い光は、光学系3により近い位置で焦点を結ぶ。
図3に示すように、被写体が点光源であり、かつ、撮像素子5の撮像面の位置が固定であると仮定すると、被写体が遠距離に位置する場合(図3(a)参照)、光学系3によって撮像素子5の撮像面上に結像される点像においては、波長の長い光のボケ量が比較的小さく、波長の短い光のボケ量が比較的大きくなる。また、被写体が中距離に位置する場合(図3(b)参照)、光学系3によって撮像素子5の撮像面上に結像される点像においては、波長が中間程度の光(例えば、緑色光)のボケ量が比較的少なく、波長の長い光および波長の短い光のボケ量が比較的大きくなる。また、被写体が近距離に位置する場合(図3(c)参照)、光学系3によって撮像素子5の撮像面上に結像される点像においては、波長の長い光のボケ量が比較的大きく、波長の短い光のボケ量が比較的小さくなる。
そのため、図3に示すように、光学系3から被写体までの距離に応じて、被写体の像(図3中では点像)のボケの様態が変化する。図3に示す例では、被写体が遠距離に位置する場合(図3(a)参照)、波長の短い光(青色光)のボケ量が最も大きく、波長が中間程度の光(緑色光)のボケ量が次に大きく、波長の長い光(赤色光)のボケ量が最も小さくなる。また、被写体が中距離に位置する場合(図3(b)参照)、波長が中間程度の光(緑色光)のボケ量が最も小さく、波長が長い光(赤色光)と波長が短い光(青色光)のボケ量が、波長が中間程度の光(緑色光)のボケ量よりも大きくなっている。また、被写体が近距離に位置する場合(図3(c)参照)、波長の短い光(青色光)のボケ量が最も小さく、波長が中間程度の光(緑色光)のボケ量が次に小さく、波長の長い光(赤色光)のボケ量が最も大きくなっている。
このように、比較的大きな色収差を有する光学系3を用いた場合、光学系3から被写体までの距離に応じて、結像される被写体像のボケの様態が大きく変化する。したがって、このような被写体像の各色間のボケ量の差を解析することにより、被写体までの距離を算出することが可能となる。
一般的な撮像用のカメラでは、複数のレンズの組み合わせにより色収差を極力小さくした光学系を用いることから、上述のような被写体までの距離に応じた被写体像の各色間のボケ量の差の変化は小さい。換言すれば、一般的な撮像用のカメラでは、全ての可視光領域の波長の光のボケ量の変化がほぼ同一となっており、被写体までの距離に応じた被写体像の各色間のボケ量の差の変化が小さい。
このように光学系の色収差を極力小さくすることは、撮像される被写体の画像の画質を向上させるためには必要であるが、一方、被写体までの距離に応じた被写体像の各色間のボケ量の差の変化が小さくなるため、色収差が小さい光学系を用いて取得された被写体の画像は、被写体までの距離を測定する用途には不向きである。
一方、本発明の測距カメラ1において用いられる光学系3は、上述のように、大きな色収差を有するよう構成されているので、被写体像の各色間のボケ量の差を解析することにより、被写体までの距離を正確に算出することができる。
図1に戻り、光学系駆動部4は、光学系3のフォーカスレンズ、ズームレンズおよび/または手振れ補正レンズを駆動させることにより、オートフォーカス機能、ズーム機能および/または手振れ補正機能を実現する機能を有している。光学系駆動部4は、例えば、光学系3のフォーカスレンズを光軸方向に移動させることにより光学系3のフォーカスを調整し、光学系3のズームレンズを光軸方向に移動させることにより光学系3の倍率を調整し、光学系3の手振れ補正レンズを光軸方向に対して垂直な方向に移動させることにより手振れを補正する。光学系駆動部4は、光学系3のフォーカスレンズ、ズームレンズおよび/または手振れ補正レンズを駆動させることができれば特に限定されないが、例えば、DCモーター、ステッピングモーター、ボイスコイルモーター等のアクチュエーターにより構成することができる。
撮像素子5は、その撮像面にベイヤーパターンやハニカムパターン等の一定パターンで配列された複数のカラーフィルターを有しており、光学系3によって撮像面上に結像された被写体像を撮像することにより、複数のカラーフィルターのそれぞれに対応する複数の色画像信号を取得する機能を有している。本実施形態では、撮像素子5が有する複数のカラーフィルターは、図4に示すような赤色画像信号用の赤色カラーフィルター、緑色画像信号用の緑色カラーフィルター、および青色画像信号用の青色カラーフィルターを含むベイヤー配列の原色系カラーフィルターであり、撮像素子5が被写体像を撮像することにより、被写体のカラー2次元画像を構成する複数の色画像信号(赤色画像信号、緑色画像信号、青色画像信号)を取得することができる。
なお、撮像素子5が有する複数のカラーフィルターは、被写体のカラー2次元画像を構成するための複数の色画像信号を取得することができれば特に限定されず、例えば、シアン画像信号用のカラーフィルター(Cフィルター)、マゼンダ画像信号用のカラーフィルター(Mフィルター)、およびイエロー画像信号用のカラーフィルター(Yフィルター)を含むベイヤー配列の補色系カラーフィルターであってもよい。
また、撮像素子5が有する複数のカラーフィルターは、原色系カラーフィルターを構成する複数のカラーフィルター、補色系カラーフィルターを構成する複数のカラーフィルター、およびその他任意のカラーフィルターのうちの少なくとも2つの組み合わせであってもよい。例えば、複数のカラーフィルターは、原色系カラーフィルターのうちの任意の2つであってもよいし補色系カラーフィルターのうちの任意の2つであってもよいし、原色系カラーフィルターのうちの1つ以上の任意のカラーフィルターと、補色系カラーフィルターのうちの1つ以上の任意のカラーフィルターとの組み合わせであってもよい。
また、複数のカラーフィルターは、上述の原色系カラーフィルターや補色系カラーフィルターに加えて、ホワイト(W)フィルターや、赤外線フィルター、紫外線フィルター、等の任意追加的なカラーフィルターを含んでいてもよい。この場合、複数のカラーフィルターの一定パターン(例えば、ベイヤーパターン)内に、上述の任意追加的なカラーフィルターが配置される。また、複数のカラーフィルターは、上述の原色系カラーフィルターや補色系カラーフィルターの前面または後面に配置されたIR(赤外線)カットフィルターや紫外線カットフィルター等を含んでいてもよい。
前述のように、光学系3によって結像される被写体像においては、被写体から測距カメラ1(光学系3)までの距離に応じて、各色間のボケ量の差が大きく変化する。そのため、撮像素子5が被写体像を撮像することにより取得される複数の色画像信号(本実施形態では、赤色画像信号、緑色画像信号、および青色画像信号)の少なくとも2つにおける被写体像のボケ量を解析することにより、被写体から測距カメラ1(光学系3)までの距離を算出することができる。
なお、撮像素子5が光学系3によって結像された被写体像を撮像する前に、任意の色画像信号(例えば、緑色画像信号)における任意の被写体(例えば、近接物体、中間物体、および遠方物体のいずれか1つ)がベストフォーカスとなるように光学系駆動部4によるオートフォーカスが実行されてもよい。一般に、デフォーカスによる被写体像のボケ量の増加は、デフォーカス量が大きくなればなるほど緩やかになる。そのため、デフォーカス量が大きすぎると、被写体から測距カメラ1(光学系3)までの距離に応じた、被写体像の各色間のボケ量の差の変化が小さくなってしまい、被写体像の各色のボケ量に基づいて被写体までの距離を算出することが困難となってしまう。このような理由により、撮像素子5が光学系3によって結像された被写体像を撮像する前に、いずれかの色画像信号において、任意の被写体がベストフォーカスとなるように光学系駆動部4によるオートフォーカスを実行することが好ましい。これにより、被写体から測距カメラ1(光学系3)までの距離に応じた、被写体像の各色間のボケ量の差の変化を十分に大きくすることができる。
また、撮像素子5の撮像面において光学系3によって結像された被写体像が占める割合が小さく(すなわち、被写体像が小さいとき)、被写体像のボケ量を正確に検出できない場合は、光学系駆動部4による被写体に対するズームが実行されてもよい。これにより、被写体像の各色のボケ量を正確に検出することができる。
図1に戻り、ボケ検出部6は、撮像素子5が取得した複数の色画像信号(本実施形態では、赤色画像信号、緑色画像信号、および青色画像信号)のそれぞれにおける被写体像のボケ量を検出する機能を有している。
最初に、ボケ検出部6は、図5に示すように、撮像素子5が取得した複数の色画像信号のそれぞれに対して、Cannyのようなフィルター処理を施し、複数の色画像信号のそれぞれにおける被写体のエッジ部を抽出する。その後、ボケ検出部6は、撮像素子5が取得した複数の色画像信号のそれぞれにおいて、互いに対応する被写体像のエッジ部、すなわち、同じ位置にある被写体像のエッジ部を検出する。さらに、ボケ検出部6は、複数の色画像信号のそれぞれにおいて、検出された同じ位置にある被写体像のエッジ部のボケ量を検出する。
前述のように、本発明の測距カメラ1において用いられる光学系3は、大きな色収差を有しているので、複数の色画像信号のそれぞれにおける被写体像のエッジ部のボケ量は、それぞれ大きく異なっている。
図6に示すように、被写体が遠方物体である場合には、被写体のエッジ部のボケ量(エッジ部のなまり度合)は、赤色画像信号で最も小さく、緑色画像信号で次に小さく、青色画像信号で最も大きい。また、被写体が中間物体である場合には、被写体のエッジ部のボケ量は、緑色画像信号で最も小さく、赤色画像信号および青色画像信号で同程度となっている。また、被写体が近接物体である場合には、被写体のエッジ部のボケ量は、青色画像信号で最も小さく、緑色画像信号で次に小さく、赤色画像信号で最も大きい。
このような複数の色画像信号のそれぞれにおける被写体像のエッジ部は、線像分布関数(LSF:Line Spread Function)とみなすことができるので、複数の色画像信号のそれぞれにおける被写体像のエッジ部を、エッジ部が形成されている方向(エッジ部に対して垂直な方向)に微分することにより、各色画像信号における1次元の点像分布関数(PSF:Point Spread Function)を取得することができる。この点像分布関数の半値全幅等の広がりを取得することにより、複数の色画像信号のそれぞれにおける被写体像のボケ量を検出することができる。
なお、ボケ検出部6は、抽出した被写体像のエッジ部の全てに対してボケ量の検出を実行してもよいし、一部のエッジ部のみに対してボケ量の検出を実行してもよい。
図1に戻り、関連付情報記憶部7は、複数の色画像信号のそれぞれにおける被写体像のボケ量と、光学系3から被写体までの距離とを関連付ける関連付情報を記憶するための任意の不揮発性記録媒体(例えば、ハードディスク、フラッシュメモリー)である。関連付情報記憶部7に保存されている関連付情報は、光学系3の色収差特性に基づいて事前に作成された、複数の色画像信号のそれぞれにおける被写体像のボケ量と、光学系3から被写体までの距離とを関連付ける情報である。
複数の色画像信号のそれぞれにおける被写体像のボケ量は、光学系3(測距カメラ1)から被写体までの距離に応じて変化する。複数の色画像信号のそれぞれにおける被写体像のボケ量は、以下のように、各カラーフィルターの主たる波長毎に算出される。
最初に、下記式(1)を用いて、基準となる光学系3のフォーカス調整時のEFLが算出される。
Figure 2019007826
ここで、f(λref)は、基準として用いる波長λrefの光(例えば、波長527.039nmの緑色の光)に対する光学系3の焦点距離であり、Lは、フォーカス調整時の被写体までの距離(一意の基準値)である。
なお、上記式(1)によって算出されたEFLは、基準として用いた波長の光(上の例では、緑色の光)に対応する緑色画像信号用のボケ量算出のためだけでなく、赤色画像信号用のボケ量および青色画像信号用のボケ量の算出のためにも用いられる。すなわち、緑色画像信号用のボケ量、赤色画像信号用のボケ量、および青色画像信号用のボケ量の算出の全てにおいて、同じ値のEFLが用いられる。
次に、下記式(2)を用いて、任意の距離に位置する被写体に対してのEFL(λ)が算出される。
Figure 2019007826
ここで、f(λ)は、各カラーフィルターの最も光の透過率の高い波長λ(緑色カラーフィルターであれば、緑色の光の波長、赤色カラーフィルターであれば、赤色の光の波長、青色カラーフィルターであれば、青色の光の波長)に対する光学系3の焦点距離であり、Lは、光学系3(測距カメラ1)から被写体までの距離(任意の変動値)である。なお、ここで算出されるEFL(λ)は、各色画像信号用に算出され、互いに異なる各色用のEFL(λ)(すなわち、赤色画像信号用のEFL(R)、緑色画像信号用のEFL(G)、および青色画像信号用のEFL(B))が取得される。
算出されたEFL(λ)とEFLとの差ΔEFL=EFL(λ)−EFLから、下記式(3)によって、光学系3(測距カメラ1)から被写体までの距離に応じて変化する、各色画像信号用の被写体像のボケ量Bk(λ)が算出される。
Figure 2019007826
ここで、FNOは、光学系3のFナンバーである。
このような手順により、光学系3(測距カメラ1)から被写体までの距離に応じて変化する、緑色画像信号用の被写体像のボケ量Bk(G)、赤色画像信号用の被写体像のボケ量Bk(R)、および青色画像信号用の被写体像のボケ量Bk(B)が算出される。ここで算出されるボケ量Bk(R)、Bk(G)、およびBk(B)は、フォーカス調整時のEFLを算出する際に用いた波長λrefの光に対応する色画像信号(上の例では、緑色画像信号)におけるベストピント時の被写体のボケ量を基準とした相対的なボケ量であって、被写体までの距離に応じて変化する。
図7には、このようにして算出された赤色画像信号用の被写体像のボケ量Bk(R)、緑色画像信号用の被写体像のボケ量Bk(G)および青色画像信号用の被写体像のボケ量Bk(B)と、被写体までの距離Lmの1例が示されている。
このようにして算出された赤色画像信号用の被写体像のボケ量Bk(R)、緑色画像信号用の被写体像のボケ量Bk(G)および青色画像信号用の被写体像のボケ量Bk(B)と被写体までの距離と関連付けることにより関連付情報が作成される。関連付情報の形式は特に限定されないが、例えば、被写体までの距離と、複数の色画像信号のそれぞれにおける被写体像のボケ量とを関連付けたテーブル形式で関連付情報を構成することができる。この場合、関連付情報は、任意の被写体までの距離と、複数の色画像信号のそれぞれにおける被写体像のボケ量Bk(λ)とを一意に関連付けたテーブル(例えば、被写体までの距離が1mのときのテーブル、1.5mのときのテーブル等)を複数含む。このような関連付情報は、測距カメラ1の製造時または出荷時に、関連付情報記憶部7内に記憶される。
これにより、ボケ検出部6が算出した複数の色画像信号のそれぞれにおける被写体像のボケ量と、関連付情報記憶部7内に保存されている関連付情報の複数の色画像信号のそれぞれにおける被写体像のボケ量とを照合することにより、被写体までの距離を算出することが可能となる。
図1に戻り、距離算出部8は、ボケ検出部6によって検出された複数の色画像信号のそれぞれにおける被写体像のボケ量に基づいて、被写体までの距離を算出する機能を有する。より具体的には、距離算出部8は、ボケ検出部6によって算出された複数の色画像信号のそれぞれにおける被写体像のエッジ部のボケ量と、関連付情報記憶部7内の関連付情報の複数の色画像信号のそれぞれにおける被写体像のボケ量とを照合することにより、被写体のエッジ部までの距離を算出(特定)する。
なお、距離算出部8は、全ての色画像信号(すなわち、赤色画像信号、緑色画像信号、および青色画像信号の3種類)の被写体像のボケ量に基づいて、被写体までの距離を算出してもよいが、複数の色画像信号のうちの少なくとも2つの色画像信号の被写体像のボケ量に基づいて、被写体までの距離を算出することができる。
少なくとも2つの色画像信号の被写体像のボケ量に基づいて被写体までの距離を算出する場合、波長差の大きい光によって取得された赤色画像信号と青色画像信号の被写体像のボケ量に基づいて、被写体までの距離を算出することが好ましい。
このような被写体までの距離の算出は、被写体のエッジ部毎に実行される。距離算出部8は、被写体の全てのエッジ部に対して距離の算出を実行してもよいし、一部のエッジ部に対してのみ距離の算出を実行してもよい。距離算出部8は、算出した被写体までの距離に基づいて、図8に示すような被写体の距離画像を生成する。
図1に戻り、3次元画像生成部9は、距離算出部8によって算出された被写体までの距離と、撮像素子5が取得した複数の色画像信号から構成される被写体の2次元画像に基づいて、図9に示すように、被写体の3次元画像を生成する機能を有している。ここで言う「被写体の3次元画像」とは、通常の被写体のカラー2次元画像のピクセルに対して、算出された被写体の距離が関連付けられているデータを意味する。
なお、被写体の3次元画像においては、被写体の2次元画像の全てのピクセルに、算出された被写体の距離が関連付けられていてもよいし、被写体の2次元画像の一部のピクセルだけに、算出された被写体の距離が関連付けられていてもよい。例えば、被写体の2次元画像のエッジ部にのみ、算出された被写体の距離が関連付けられていてもよい。
表示部10は、液晶表示部等のパネル型表示部であり、制御部2のプロセッサーからの信号に応じて、撮像素子5によって取得された被写体の2次元画像、距離算出部8によって生成された被写体の距離画像、3次元画像生成部9によって生成された被写体の3次元画像のような画像、測距カメラ1を操作するための情報等が文字または画像の様態で表示部10に表示される。
操作部11は、測距カメラ1の使用者が操作を実行するために用いられる。操作部11は、測距カメラ1の使用者が操作を実行することができれば特に限定されず、例えば、マウス、キーボード、テンキー、ボタン、ダイヤル、レバー、タッチパネル等を操作部11として用いることができる。操作部11は、測距カメラ1の使用者による操作に応じた信号を制御部2のプロセッサーに送信する。
通信部12は、測距カメラ1に対するデータの入力または測距カメラ1から外部デバイスへのデータの出力を行う機能を有している。通信部12は、インターネットのようなネットワークに接続されていてもよい。この場合、測距カメラ1は、通信部12を用いることにより、外部に設けられたウェブサーバーやデータサーバーのような外部デバイスと通信を行うことができる。
なお、本実施形態においては、複数のカラーフィルターは、赤色カラーフィルター、緑色カラーフィルター、および青色カラーフィルターから構成される原色系カラーフィルターを含んでいるが、本発明はこれに限られない。上述のように、距離算出部8は、少なくとも2つの色画像信号(好ましくは、赤色画像信号と青色画像信号)の被写体像のボケ量に基づいて、被写体までの距離を算出することができる。そのため、本実施形態の測距カメラ1が被写体までの距離を算出するためには、撮像素子5が、複数のカラーフィルターとして、赤色カラーフィルター、緑色カラーフィルター、および青色カラーフィルターのうちの少なくとも2つ、好ましくは、少なくとも赤色カラーフィルターと青色カラーフィルターを有していればよい。撮像素子5が、赤色カラーフィルター、緑色カラーフィルター、および青色カラーフィルターのうちの2つ、好ましくは、赤色カラーフィルターと青色カラーフィルターの2種類のカラーフィルターのみを有しているような様態も、本発明の範囲内である。なお、撮像素子5が2種類のカラーフィルターのみを有している場合、複数の色画像信号は、該2種類のカラーフィルターに対応した2種類の色画像信号を含む。
<第2実施形態>
次に、図10および図11を参照して、本発明の第2実施形態に係る測距カメラ1について詳述する。図10は、本発明の第2実施形態に係る測距カメラの撮像素子が有するカラーフィルターの特性を示す図である。図11は、本発明の第2実施形態に係る測距カメラにおいて用いられるバンドパスフィルターの透過波長帯の調整を説明するための図である。
以下、第2実施形態の測距カメラ1について、第1実施形態の測距カメラ1との相違点を中心に説明し、同様の事項については、その説明を省略する。第2実施形態の測距カメラ1では、撮像素子5の複数のカラーフィルターが、複数のバンドパスフィルターをさらに含み、撮像素子5によって取得される複数の色画像信号が、複数のバンドパス画像信号をさらに含んでいる点を除き、第1実施形態の測距カメラ1と同様である。
図10に示すように、本発明の第2実施形態に係る測距カメラ1の撮像素子5は、第1実施形態と同様の赤色カラーフィルター、緑色カラーフィルター、および青色カラーフィルターから構成される原色系カラーフィルターに加え、赤色用、緑色用、および青色用のバンドパスフィルターをさらに含んでいる。したがって、本実施形態の撮像素子5によって取得される複数の色画像信号は、第1実施形態と同様の赤色画像信号、緑色画像信号、および青色画像信号に加えて、複数のバンドパスフィルターのそれぞれを通過する光によって得られた複数のバンドパス画像信号(赤色バンドパス画像信号、緑色バンドパス画像信号、および青色バンドパス画像信号)を含んでいる。
ここでいうバンドパスフィルターとは、特定の波長帯の光のみを透過させ、それ以外の波長帯の光を実質的に遮断するカラーフィルターを意味する。図10に示すように、赤色用、緑色用、および青色用のバンドパスフィルターのそれぞれの特定の波長帯(透過波長帯)は互いに異なっており、重複していない。
複数のバンドパスフィルターのそれぞれは、原色系カラーフィルターのベイヤーパターン等の一定パターン内に組み込まれていてもよいし、原色系カラーフィルターの一部の前面上または後面上に設けられていてもよい。例えば、赤色用のバンドパスフィルターが赤色カラーフィルターの一部の前面上または後面上に設けられており、緑色用のバンドパスフィルターが緑色カラーフィルターの一部の前面上または後面上に設けられており、青色用のバンドパスフィルターが青色カラーフィルターの一部の前面上または後面上に設けられていてもよい。
なお、本実施形態では、撮像素子5は、原色系カラーフィルターに加え、赤色用、緑色用、および青色用の3種類のバンドパスフィルターをさらに備えているが、本発明はこれに限られず、撮像素子5は、原色系カラーフィルターに加え、少なくとも2種類のバンドパスフィルターをさらに備えていればよい。
図10に示すように、一般的な撮像用のカメラで用いられる原色系カラーフィルターは、透過波長帯が広い。そのため、例えば、赤色画像信号用の赤色カラーフィルターを通過する光は、赤色光だけでなく、緑色光や青色光も含んだ混色光となっている。一方、関連付情報を生成する際に、各波長の光毎に理論的に算出されたボケ量は、光が単色光または実質的に単色光であることを前提として算出されている。そのため、原色系カラーフィルターを通過する混色光を撮像することによって得られた色画像信号における被写体の実際のボケ量は、各波長の光毎に算出された理論上のボケ量と異なってしまう。このような実際のボケ量と理論上のボケ量の差は、被写体までの距離の算出精度を低下させる原因となる。
そこで、本実施形態においては、原色系カラーフィルターを通過した光によって得られた複数の色画像信号(赤色画像信号、緑色画像信号、および青色画像信号)を、被写体の2次元画像信号を構成するために用い、少なくとも2種類のバンドパスフィルターを通過した光によって得られたバンドパス画像信号を、被写体までの距離を算出するために用いている。
バンドパスフィルターを通過した光は、単色光なので、バンドパスフィルターを通過する単色光を撮像することによって得られたバンドパス画像信号における被写体の実際のボケ量と、各波長の光毎に算出された理論上のボケ量との差は非常に小さい。そのため、本実施形態の測距カメラ1の距離算出部8は、少なくとも2つのバンドパス画像信号に基づいて、被写体までの距離を、より高い精度で算出することができる。
また、少なくとも2つのバンドパス画像信号の被写体像のボケ量に基づいて被写体までの距離を算出する場合、波長差の大きい赤色バンドパス画像信号と青色バンドパス画像信号の被写体像のボケ量に基づいて、被写体までの距離を算出することが好ましい。
また、図11に示すように、各バンドパスフィルターの透過波長帯を調整し、各バンドパス画像信号間の色収差による被写体像のボケ量の差を大きくしてもよい。図11の例では、赤色バンドパス画像信号と青色バンドパス画像信号における被写体像のボケ量の差を大きくするために、赤色用のバンドパスフィルターの透過波長帯が長波長側にシフトされ、青色用のバンドパスフィルターの透過波長帯が短波長側にシフトされている。これにより、各バンドパス画像信号間の色収差による被写体像のボケ量の差が大きくなり、測距カメラ1の距離算出部8は、少なくとも2つのバンドパス画像信号に基づいて、被写体までの距離を、より高い精度で算出することが可能となる。
また、本実施形態において用いられる複数のカラーフィルターは、可視光波長領域に対応する原色カラーフィルターおよび原色カラーフィルターの各色に対応するバンドパスフィルターを含んでいるが、本発明はこれに限られない。例えば、複数のカラーフィルターは、赤外線波長帯や紫外線波長帯等の不可視光領域に対応するカラーフィルターおよび/またはバンドパスフィルター(例えば、赤外線用カラーフィルターおよび赤外線用バンドパスフィルター、および/または、紫外線用カラーフィルターおよび紫外線用バンドパスフィルター)をさらに含んでいてもよい。また、複数のカラーフィルターが、原色系カラーフィルターと、赤外線波長帯や紫外線波長帯等の不可視光領域に対応するカラーフィルターおよび/またはバンドパスフィルターとを含むような様態もまた、本発明の範囲内である。
これにより、不可視光に対応するカラーフィルターまたはバンドパスフィルターを通過した光によって取得された色画像信号(例えば、赤外線画像信号、紫外線画像信号、赤外線バンドパス画像、紫外線バンドパス画像)を用いた、被写体までの距離の算出が可能となる。例えば、赤外線画像信号を用いて被写体までの距離を算出する場合、夜間であっても被写体までの距離を算出することが可能となる。
また、上述のように、本実施形態の測距カメラ1は、少なくとも2つのバンドパス画像信号(好ましくは、赤色バンドパス画像信号と青色バンドパス画像信号)の被写体像のボケ量に基づいて、被写体までの距離を算出することができる。そのため、本実施形態の測距カメラ1が被写体までの距離を算出するためには、撮像素子5が、複数のカラーフィルターとして、少なくとも2種類のバンドパスフィルター(好ましくは、赤色用バンドパスフィルターおよび青色用バンドパスフィルター)を有していればよい。撮像素子5が、2種類のバンドパスフィルター、好ましくは、赤色用バンドパスフィルターと青色用バンドパスフィルターの2種類のバンドパスフィルターのみを有しているような様態も、本発明の範囲内である。
また、上述の第1および第2実施形態において、複数のカラーフィルターは、赤色カラーフィルター、緑色カラーフィルター、および青色カラーフィルターから構成される原色系カラーフィルターを含んでいるが、本発明はこれに限られない。例えば、撮像素子5は、原色系カラーフィルターを有さず、複数のカラーフィルターとして、赤外線領域において互いに異なる感度を有する少なくとも2つの赤外線用カラーフィルター(または赤外線用バンドパスフィルター)を有していてもよい。この場合、撮像素子5は、その撮像面上に、赤外線領域にそれぞれ異なる感度を有する少なくとも2つのカラーフィルターを搭載したカスタム撮像素子である。
このような撮像素子5を用いた測距カメラ1は、赤外線領域において互いに異なる感度を有する少なくとも2つの赤外線用カラーフィルター(または赤外線用バンドパスフィルター)を通過した光によって取得された少なくとも2つの色画像信号(例えば、第1の赤外線画像信号および第2の赤外線画像信号)を用いて、被写体までの距離を算出する。これにより、可視光の光量が極めて少ない暗所や夜であっても、測距カメラ1を用いて、被写体までの距離を測定することができる。
ここまで詳述したように、本発明の測距カメラ1は、複数の色画像信号のそれぞれにおける被写体像のボケ量に基づいて、被写体までの距離を算出することができる。
また、測距カメラ1は、1対の光学系3と撮像素子5から取得した1枚の被写体の画像だけで、被写体までの距離を測定することができるため、光学系と撮像素子の組み合わせを複数対用いる必要がない。そのため、ステレオカメラ方式の測距カメラと比較して、測距カメラ1の小型化、低消費電力化、および低コスト化が可能である。また、測距カメラ1では、ステレオカメラ方式の測距カメラとは異なり、視差のある画像を用いないので、従来のステレオカメラ方式の測距カメラにおいて3次元画像を生成する際に実行される視差を修正するためのフィッティング処理が不要である。そのため、3次元画像を生成するための処理時間の短縮、および、消費電力の削減が可能である。
また、測距カメラ1では、パターン照射方式の測距カメラと異なり、一定パターンを被写体に照射するプロジェクター等の特殊な光源を用いる必要がない。そのため、測距カメラ1のシステムの構成をシンプルにすることができる。また、パターン照射方式の測距カメラでは、1度の撮像で、一定パターンが照射された状態の被写体の画像と一定パターンが照射されていない状態の被写体の画像の双方を取得することができないため、被写体までの距離の測定と、一定パターンが照射されていない被写体の画像の取得を1度の撮像で実行することはできない。一方、本発明の測距カメラ1では、一定パターンを被写体に照射する必要がないため、被写体までの距離の測定と、一定パターンが照射されていない被写体の画像の取得とを1度の撮像で実行することができる。
また、測距カメラ1では、DFD方式の測距カメラと異なり、プリズムやハーフミラー等の光の光路長を変えるための光学部品を用いる必要がない。そのため、測距カメラ1のシステムの構成をシンプルにすることができる。また、測距カメラ1では、DFD方式の測距カメラと異なり、複数の色画像信号から得た被写体のボケ量に関する情報を被写体までの距離を測定するために用いている。そのため、1枚の画像から得た被写体のボケ量に関する情報に基づいて被写体までの距離を推定するDFD方式の測距カメラと比較して、測距カメラ1は、被写体の画像のノイズの影響を受けにくい。
<測距方法>
次に図12を参照して、本発明の測距方法について説明する。図12は、本発明の測距方法を示すフローチャートである。なお、本発明の測距方法は、上述した本発明の測距カメラ1および本発明の測距カメラ1と同等の機能を有する任意の装置を用いて実行することができるが、説明のため、測距カメラ1を用いて実行されるものとして説明する。
図12に示す測距方法S100は、測距カメラ1の使用者が操作部11を用いて、被写体までの距離を測定するための操作を実行することにより開始される。工程S110において、任意の色画像信号(例えば、緑色画像信号)における任意の被写体がベストフォーカスとなるように光学系駆動部4によるオートフォーカスが実行される。また、撮像素子5の撮像面において光学系3によって結像された被写体像が占める割合が小さく(すなわち、被写体像が小さいとき)、被写体像のボケ量を正確に検出できない場合は、光学系駆動部4によるズームが実行される。なお、測距カメラ1の光学系3がオートフォーカス機能やズーム機能を提供するよう構成されていない場合には、工程S110は省略される。
次に、工程S120において、撮像素子5が、光学系3によって撮像面上に結像された被写体像を撮像することにより、撮像素子5が有する複数のカラーフィルターのそれぞれに対応する複数の色画像信号を取得する。この際、光学系3が手振れ補正機能を提供するよう構成されている場合には、光学系駆動部4による手振れ補正が実行されてもよい。これにより、手振れに起因する被写体像のボケによって、複数の色画像信号のそれぞれにおける光学系3の色収差による被写体像のボケ量が正確に検出できなくなることを防止することができる。
工程S120において複数の色画像信号が取得されると、処理は、工程S130に移行する。工程S130において、ボケ検出部6は、複数の色画像信号のそれぞれにおける被写体像のボケ量を検出する。より具体的には、ボケ検出部6は、最初に、撮像素子5が取得した複数の色画像信号のそれぞれに対して、Cannyのようなフィルター処理を施し、複数の色画像信号のそれぞれにおける被写体のエッジ部を抽出する。次に、ボケ検出部6は、複数の色画像信号のそれぞれにおいて、互いに対応する被写体像のエッジ部、すなわち、同じ位置にある被写体像のエッジ部を検出し、さらに、検出された同じ位置にある被写体像のエッジ部のボケ量を検出する。
なお、工程S130における被写体のエッジ部のボケ量の検出は、抽出された被写体のエッジ部の全てに対して実行されてもよいし、抽出された被写体のエッジ部の一部に対してのみ実行されてもよい。
工程S130において複数の色画像信号のそれぞれにおける被写体像のボケ量が検出されると、処理は、工程S140に移行する。工程S140において、距離算出部8は、ボケ検出部6によって検出された複数の色画像信号のそれぞれにおける被写体像のボケ量に基づいて、被写体までの距離を算出する。より具体的には、距離算出部8は、ボケ検出部6によって検出された複数の色画像信号のそれぞれにおける被写体像のエッジ部のボケ量と、関連付情報記憶部7内の関連付情報の複数の色画像信号のそれぞれにおける被写体像のボケ量とを照合することにより、被写体のエッジ部までの距離を算出する。
工程S140において被写体までの距離が算出されると、処理は、工程S150に移行する。工程S150において、3次元画像生成部9が、距離算出部8によって算出された被写体までの距離と、撮像素子5が取得した複数の色画像信号から構成される被写体の2次元画像に基づいて、被写体の3次元画像を生成する。その後、ここまでの工程において生成された被写体の2次元画像、被写体の距離画像、および/または被写体の3次元画像が、表示部10に表示され、または通信部12によって外部デバイスに送信され、測距方法S100は終了する。
以上、本発明の測距カメラおよび測距方法を図示の実施形態に基づいて説明したが、本発明は、これに限定されるものではない。本発明の各構成は、同様の機能を発揮し得る任意のものと置換することができ、あるいは、本発明の各構成に任意の構成のものを付加することができる。
例えば、図1に示された測距カメラ1のコンポーネントの数や種類は、説明のための例示にすぎず、本発明は必ずしもこれに限られない。本発明の原理および意図から逸脱しない範囲において、任意のコンポーネントが追加若しくは組み合わされ、または任意のコンポーネントが削除された様態も、本発明の範囲内である。また、測距カメラ1の各コンポーネントは、ハードウェア的に実現されていてもよいし、ソフトウェア的に実現されていてもよいし、これらの組み合わせによって実現されていてもよい。
また、図12に示された測距方法S100の工程の数や種類は、説明のための例示にすぎず、本発明は必ずしもこれに限られない。本発明の原理および意図から逸脱しない範囲において、任意の工程が、任意の目的で追加若しくは組み合され、または、任意の工程が削除される様態も、本発明の範囲内である。
<測距システム>
上述の説明では、本発明の測距方法S100は、測距カメラ1によって実行されるものとして説明したが、本発明の測距方法S100および本発明の測距方法S100と同等の効果を奏する測距方法は、図13および図14に示すような測距システムによっても実行することができる。
以下、図13および図14を参照して、本発明の測距方法S100を実行可能な測距システムについて説明する。図13は、測距システムの1例を概略的に示す図である。図14は、測距システムの別の例を概略的に示す図である。
図13に示す測距システムは、被写体に対しそれぞれ異なる単色光を照射するための複数のプロジェクターと、複数のプロジェクターのそれぞれによって単色光が照射された状態の被写体を撮像する測距カメラとから構成されている。
図示の例では、複数のプロジェクターは、赤色の単色光を被写体に照射するための赤色光用プロジェクターと、緑色の単色光を被写体に照射するための緑色光用プロジェクターと、青色の単色光を被写体に照射するための青色光用プロジェクターとを含んでいる。
測距カメラは、本発明の測距カメラ1の光学系3と同様の大きな色収差を有する光学系と、該光学系により結像された被写体像を撮像し、被写体の2次元画像を取得するための撮像素子を備えている。この撮像素子は、カラーフィルターを有しておらず、この撮像素子によって取得される被写体の2次元画像は、白黒画像である。
複数のプロジェクターのそれぞれの照射タイミングと、測距カメラの撮像素子の撮像タイミングとを同期させ、被写体を撮像することにより、赤色画像信号、緑色画像信号、および青色画像信号のそれぞれが個別に取得される。具体的には、赤色光用プロジェクターのみを起動した状態で、被写体を撮像することにより、赤色画像信号を取得することができ、緑色光用プロジェクターのみを起動した状態で、被写体を撮像することにより、緑色画像信号を取得することができ、青色光用プロジェクターのみを起動した状態で、被写体を撮像することにより、青色画像信号を取得することができる。
本照射システムの測距カメラにおいて用いられる光学系は、上述のように大きな色収差を有しているので、被写体までの距離に応じた被写体像の各色間のボケ量の差が大きい。そのため、上述のように取得した複数の色画像信号のそれぞれにおける被写体像のボケ量を、本発明の測距カメラ1と同様の方法により解析することにより、被写体までの距離を算出することができる。
図14に示す測距システムは、被写体からの光を分光するための分光プリズムと、分光プリズムによって分光された被写体からの光を撮像するための複数の撮像素子とから構成されている。なお、分光プリズムと複数の撮像素子は、本発明の測距カメラ1の光学系3と同様の大きな色収差を有する光学系を備える測距カメラ内に設けられている。
被写体からの光は、分光プリズムによって赤色光、緑色光、および青色光に分光され、分光された各光の光路上に、各色用の撮像素子(赤色光用撮像素子、緑色光用撮像素子、および青色光用撮像素子)が配置されている。本照射システムにおいて用いられる複数の撮像素子のそれぞれは、カラーフィルターを有しておらず、この撮像素子によって取得される被写体の2次元画像は、白黒画像である。
被写体からの光は分光プリズムによって分光されるので、各色用の撮像素子に入射する光はすべて単色光である。すなわち、赤色光用撮像素子に入射される光は赤色光であり、緑色光用撮像素子に入射される光は緑色光であり、青色光用撮像素子に入射される光は青色光である。各色用の撮像素子のそれぞれから、それぞれ異なる色画像信号(赤色画像信号、緑色画像信号、および青色画像信号)が取得される。
本照射システムの測距カメラにおいて用いられる光学系は、上述のように大きな色収差を有しているので、被写体までの距離に応じた被写体像の各色間のボケ量の差が大きい。そのため、上述のように取得した複数の色画像信号のそれぞれにおける被写体像のボケ量を、本発明の測距カメラ1と同様の方法により解析することにより、被写体までの距離を算出することができる。
<利用例>
本発明の測距カメラ1および測距方法S100の利用例は特に限定されないが、例えば、被写体のポートレートを撮像するとともに、被写体の顔の3次元画像を取得するために、測距カメラ1および測距方法S100を用いることができる。このような利用様態では、本発明の測距カメラ1をスマートフォンや携帯電話等のモバイルデバイス内に組み込むことが好ましい。
また、本発明の測距カメラ1および測距方法S100は、精密機器の組み立てや検査のために用いられるハンドラーロボットにおいて利用することができる。測距カメラ1および測距方法S100によれば、精密機器を組み立てる際に、ハンドラーロボット本体またはハンドラーロボットのアームから、精密機器または精密機器の部品までの距離を測定することができることから、ハンドラーロボットの把持部によって正確に部品を把持することができる。
また、本発明の測距カメラ1および測距方法S100によれば、被写体までの距離を測定することができることから、被写体の3次元情報を取得することができる。このような被写体の3次元情報は、3Dプリンターによる3次元構造体の作製に用いることができる。
また、自動車内において、本発明の測距カメラ1を利用することにより、自動車から歩行者や障害物等の任意の物体までの距離を測定することができる。算出された任意の物体までの距離に関する情報は、自動車の自動ブレーキシステムや自動運転に用いることができる。
以上、本発明の測距カメラおよび測距方法の利用例について説明したが、本発明の測距カメラおよび測距方法の利用は、上述の例に限られるものではない。本分野における当業者が想到し得る様々な用途において、本発明の測距カメラおよび測距方法を利用することができる。
1…測距カメラ 2…制御部 3…光学系 4…光学系駆動部 5…撮像素子 6…ボケ検出部 7…関連付情報記憶部 8…距離算出部 9…3次元画像生成部 10…表示部 11…操作部 12…通信部 13…データバス S100…測距方法 S110、S120、S130、S140、S150…工程

Claims (8)

  1. 被写体からの光を結像する光学系と、
    複数のカラーフィルターを有し、前記光学系により結像された被写体像を撮像し、前記複数のカラーフィルターのそれぞれに対応する複数の色画像信号を取得する撮像素子と、
    前記複数の色画像信号のそれぞれにおける前記被写体像のボケ量を検出するボケ検出部と、
    前記ボケ検出部によって検出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量に基づいて、前記被写体までの距離を算出する距離算出部と、を備えることを特徴とする測距カメラ。
  2. 前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量と、前記光学系から前記被写体までの距離とを関連付ける関連付情報を記憶している関連付情報記憶部をさらに備え、
    前記距離算出部は、前記ボケ検出部によって算出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量と、前記関連付情報記憶部内の前記関連付情報とに基づいて、前記被写体までの前記距離を算出する請求項1に記載の測距カメラ。
  3. 前記複数の色画像信号は、赤色画像信号と、緑色画像信号と、青色画像信号との少なくとも2つを含み、
    前記複数のカラーフィルターは、前記赤色画像信号用の赤色カラーフィルターと、前記緑色画像信号用の緑色カラーフィルターと、前記青色画像信号用の青色カラーフィルターとのうち、前記赤色画像信号、前記緑色画像信号、および前記青色画像信号の前記少なくとも2つに対応する少なくとも2つを含む請求項1または2に記載の測距カメラ。
  4. 前記複数のカラーフィルターは、特定の波長帯の光のみを透過させ、それ以外の波長帯の光を実質的に遮断する複数のバンドパスフィルターをさらに含み、
    前記複数のバンドパスフィルターのそれぞれの前記特定の波長帯は、互いに異なっており、
    前記複数の色画像信号は、前記複数のバンドパスフィルターのそれぞれを通過する光によって得られた複数のバンドパス画像信号を含む請求項3に記載の測距カメラ。
  5. 前記複数のカラーフィルターは、赤外線用カラーフィルターまたは紫外線用カラーフィルターの少なくとも一方をさらに含み、
    前記複数の色画像信号は、赤外線画像信号と紫外線画像信号の少なくとも一方をさらに含む請求項3または4に記載の測距カメラ。
  6. 前記ボケ検出部は、前記複数の色画像信号のそれぞれにおいて、前記被写体像のエッジ部を抽出し、さらに、前記複数の色画像信号のそれぞれにおいて抽出された前記被写体像の前記エッジ部のボケ量を検出し、
    前記距離算出部は、前記ボケ検出部によって検出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記エッジ部の前記ボケ量に基づいて、前記被写体の前記エッジ部までの距離を算出する請求項1ないし5のいずれかに記載の測距カメラ。
  7. 前記撮像素子が取得した前記複数の色画像信号と、前記距離算出部によって測定された前記被写体までの前記距離とに基づいて、前記被写体の3次元画像を生成する3次元画像生成部をさらに備える請求項1ないし6のいずれかに記載の測距カメラ。
  8. 被写体までの距離を測定するための測距方法であって、
    光学系を用いて、前記被写体からの光を結像する工程と、
    撮像素子を用いて、結像された被写体像の複数の色画像信号を取得する工程と、
    プロセッサーを用いて、前記複数の色画像信号のそれぞれにおける前記被写体像のボケ量を検出する工程と、
    前記プロセッサーを用いて、検出された前記複数の色画像信号のそれぞれにおける前記被写体像の前記ボケ量に基づいて、前記被写体までの距離を算出する工程と、を備えることを特徴とする測距方法。
JP2017123411A 2017-06-23 2017-06-23 測距カメラおよび測距方法 Pending JP2019007826A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017123411A JP2019007826A (ja) 2017-06-23 2017-06-23 測距カメラおよび測距方法
PCT/JP2018/022674 WO2018235709A1 (ja) 2017-06-23 2018-06-14 測距カメラおよび測距方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017123411A JP2019007826A (ja) 2017-06-23 2017-06-23 測距カメラおよび測距方法

Publications (1)

Publication Number Publication Date
JP2019007826A true JP2019007826A (ja) 2019-01-17

Family

ID=64737028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017123411A Pending JP2019007826A (ja) 2017-06-23 2017-06-23 測距カメラおよび測距方法

Country Status (2)

Country Link
JP (1) JP2019007826A (ja)
WO (1) WO2018235709A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021019897A1 (ja) * 2019-07-26 2021-02-04 富士フイルム株式会社 制御装置、投影システム、制御方法、制御プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03204277A (ja) * 1990-01-05 1991-09-05 Canon Inc 合焦検出方法
JPH10206150A (ja) * 1997-01-22 1998-08-07 Takashi Matsuyama 多重フォーカス測距装置
JP2011095026A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 被写体距離推定装置
WO2013129387A1 (ja) * 2012-03-01 2013-09-06 日産自動車株式会社 距離計測装置及び距離計測方法
JP2016090568A (ja) * 2014-10-31 2016-05-23 キヤノン株式会社 距離計測装置、撮像装置、および距離計測方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI539139B (zh) * 2015-04-27 2016-06-21 原相科技股份有限公司 物件距離計算方法以及物件距離計算裝置
JP6608763B2 (ja) * 2015-08-20 2019-11-20 株式会社東芝 画像処理装置及び撮影装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03204277A (ja) * 1990-01-05 1991-09-05 Canon Inc 合焦検出方法
JPH10206150A (ja) * 1997-01-22 1998-08-07 Takashi Matsuyama 多重フォーカス測距装置
JP2011095026A (ja) * 2009-10-28 2011-05-12 Kyocera Corp 被写体距離推定装置
WO2013129387A1 (ja) * 2012-03-01 2013-09-06 日産自動車株式会社 距離計測装置及び距離計測方法
JP2016090568A (ja) * 2014-10-31 2016-05-23 キヤノン株式会社 距離計測装置、撮像装置、および距離計測方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021019897A1 (ja) * 2019-07-26 2021-02-04 富士フイルム株式会社 制御装置、投影システム、制御方法、制御プログラム
JPWO2021019897A1 (ja) * 2019-07-26 2021-02-04
JP7125561B2 (ja) 2019-07-26 2022-08-24 富士フイルム株式会社 制御装置、投影システム、制御方法、制御プログラム

Also Published As

Publication number Publication date
WO2018235709A1 (ja) 2018-12-27

Similar Documents

Publication Publication Date Title
US8018524B2 (en) Image-pickup method and apparatus having contrast and phase difference forcusing methods wherein a contrast evaluation area is changed based on phase difference detection areas
JP4826507B2 (ja) 焦点検出装置および撮像装置
US9008412B2 (en) Image processing device, image processing method and recording medium for combining image data using depth and color information
JP7104294B2 (ja) 測距カメラ
JP7104296B2 (ja) 測距カメラ
JP2008122835A (ja) 相関演算方法、相関演算装置、焦点検出装置および撮像装置
JP2014185917A (ja) 撮像装置
JP7288226B2 (ja) 測距カメラ
JP2015046019A (ja) 画像処理装置、撮像装置、撮像システム、画像処理方法、プログラム、および、記憶媒体
WO2019181622A1 (ja) 測距カメラ
JP2013097154A (ja) 距離測定装置、撮像装置、距離測定方法
JP2020008415A (ja) 測距カメラ
JP2016200629A (ja) 撮像装置、その制御方法及びプログラム
JP2015046777A (ja) 撮像装置および撮像装置の制御方法
JP2019007826A (ja) 測距カメラおよび測距方法
JP5794665B2 (ja) 撮像装置
US9906705B2 (en) Image pickup apparatus
JP2014194502A (ja) 撮像装置および撮像システム
JP6983531B2 (ja) 測距装置、測距システム、および測距方法
JP7328589B2 (ja) 測距カメラ
JP2013046395A (ja) 撮像装置及びその制御方法、プログラム、及び記録媒体
WO2020162003A1 (ja) 測距カメラ
WO2013133115A1 (ja) デフォーカス量検出装置およびカメラ
WO2013125398A1 (ja) 撮像装置及びフォーカス制御方法
JP6415139B2 (ja) 焦点検出装置、撮像装置、焦点検出方法および焦点検出プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200604

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220215