JPWO2018163335A1 - 距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、周辺監視システム、及び距離計測方法 - Google Patents

距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、周辺監視システム、及び距離計測方法 Download PDF

Info

Publication number
JPWO2018163335A1
JPWO2018163335A1 JP2019504209A JP2019504209A JPWO2018163335A1 JP WO2018163335 A1 JPWO2018163335 A1 JP WO2018163335A1 JP 2019504209 A JP2019504209 A JP 2019504209A JP 2019504209 A JP2019504209 A JP 2019504209A JP WO2018163335 A1 JPWO2018163335 A1 JP WO2018163335A1
Authority
JP
Japan
Prior art keywords
polarization
polarized light
distance measuring
imaging
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019504209A
Other languages
English (en)
Other versions
JP6756898B2 (ja
Inventor
啓太 山口
利樹 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Maxell Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Ltd filed Critical Maxell Ltd
Publication of JPWO2018163335A1 publication Critical patent/JPWO2018163335A1/ja
Application granted granted Critical
Publication of JP6756898B2 publication Critical patent/JP6756898B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • G02B5/1876Diffractive Fresnel lenses; Zone plates; Kinoforms
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/499Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using polarisation effects
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/283Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/283Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining
    • G02B27/285Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining comprising arrays of elements, e.g. microprisms
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/40Optical focusing aids
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

距離計測装置(101)は、撮像光学系(102)と、撮像光学系からの入射光を撮像する一つの撮像素子(105)と、撮像素子が撮像した複数の画像を基に、前記撮像素子から前記撮像対象までの距離を計測する距離計測部(107)と、を備える。撮像光学系は第1の偏光方向を有する第1の偏光と、第1の偏光方向と略直交する第2の偏光方向を有する第2の偏光とを分離させて撮像素子に入射させる偏光分離部を含み、撮像素子は、第1の偏光を受光して第1の偏光画像を撮像すると共に、第2の偏光を受光して第2の偏光画像を撮像し、距離計測部は、第1の偏光画像及び第2の偏光画像を基に前記撮像対象との距離を計測する。

Description

本発明は、距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、周辺監視システム、及び距離計測方法に関する。
光源が不要な距離計測技術として、ピントのボケに基づいて距離計測を行うレンズ焦点法や、複数の撮像素子間の視差を基に距離計測を行うステレオ法に代表される受動的距離計測装置がある。その一例として、特許文献1には、「本発明の多重フォーカスカメラは、撮像光学系のレンズと、レンズを介して被写体から入射する光のうち、有機光電変換膜により所定の光吸収率で光を吸収して光電変換し被写体の像を撮像する第1撮像素子と、第1撮像素子を透過させた光を光電変換し当該被写体の像を撮像する第2撮像素子と、第1撮像素子及び第2撮像素子による撮像動作を制御する制御部とを備える。制御部は、第1撮像素子及び第2撮像素子で撮像される当該被写体の像のボケ量の差に基づいて、当該被写体からレンズまでの距離を演算する測距演算部を有する(要約抜粋)」と記載されている。
特開2013−205516号公報
特許文献1に開示された多重フォーカスカメラは、複数の撮像素子をレンズの光軸に沿って間隔を空けて配置することで、レンズ焦点法に必要な複数の画像の同時撮像を実現している。そのため第1撮像素子及び第2撮像素子間の距離を確保する必要性から、多重フォーカスカメラの小型化に制約があるという実情がある。
そこで、本発明では小型化に対する制約をより低減した距離計測技術を提供することを目的とする。
上記課題は、例えば請求項の範囲に記載の発明により解決される。その一例を挙げるならば、複数の画像を基に当該画像に撮像された撮像対象までの距離を計測する距離計測装置であって、撮像光学系と、前記撮像光学系からの入射光を撮像する一つの撮像素子と、前記撮像素子が撮像した複数の画像を基に、前記撮像素子から前記撮像対象までの距離を計測する距離計測部と、を備え、前記撮像光学系は第1の偏光方向を有する第1の偏光と、前記第1の偏光方向と略直交する第2の偏光方向を有する第2の偏光とを分離させて前記撮像素子に入射させる偏光分離部を含み、前記撮像素子は、前記第1の偏光を受光して第1の偏光画像を撮像すると共に、前記第2の偏光を受光して第2の偏光画像を撮像し、前記距離計測部は、前記第1の偏光画像及び前記第2の偏光画像を基に前記撮像対象との距離を計測する、ことを特徴とする。
本発明によれば、小型化に対する制約をより低減した距離計測技術を提供することができる。なお、上記した以外の目的、構成、効果については以下の実施形態において明らかにされる。
本発明における距離計測装置の構成を示す図 第1実施形態における撮像光学系と撮像素子の構成を示す図 第1実施形態におけるレンズの構成を示す図 第1実施形態における偏光分離部と撮像素子の構成を示す図 本発明の距離計測装置において、第1の偏光で撮像対象物体を撮像する様子を示す図 本発明の距離計測装置において、第2の偏光で撮像対象物体を撮像する様子を示す図 撮像光学系で撮像した第1の偏光の点広がり関数を示す図 撮像光学系で撮像した第2の偏光の点広がり関数を示す図 第2実施形態において偏光制御素子を透過させた光の偏光が第1の偏光となるように偏光制御素子を制御した場合の撮像光学系と撮像素子の構成を示す図 第2実施形態において偏光制御素子を透過させた光の偏光が第2の偏光となるように偏光制御素子を制御した場合の撮像光学系と撮像素子の構成を示す図 第2実施形態における撮像光学系と撮像素子の構成を示す図 第3実施形態におけるレンズの構成を示す図 第4実施形態における撮像光学系と撮像素子の構成を示す図 第4実施形態における第1の偏光依存フレネルゾーンプレートの構成を示す図 第4実施形態における第2の偏光依存フレネルゾーンプレートの構成を示す図 第5実施形態における撮像光学系と撮像素子の構成を示す図 第1実施形態における距離計測処理フローを示す図 第1実施形態におけるPSFサイズ調整の処理フローを示す図 距離計測装置を映像表示装置で使用する場合の構成の例を示す図 距離計測装置を映像表示装置で使用する場合の構成の例を示す図 距離計測装置を使用する映像表示装置におけるジェスチャ入力の処理フローを示す図 距離計測装置を使用する映像表示装置において、ユーザの手認識処理時に撮像する画像を示す図 距離計測装置を使用する映像表示装置において、ユーザの手の特徴点抽出処理時に処理する画像を示す図 距離計測装置を使用する映像表示装置において、距離計測領域決定処理時に処理する画像を示す図 自動車の周辺監視システムに距離計測装置を使用する場合の構成を示す図 自動車の走行状態を基に距離計測レンジを決定する処理フローを示す図 可変な基線長を有するステレオ法距離計測装置において、2つのカメラを距離計測装置とした構成を示す図
以下、図面を参照して本発明の実施形態について説明する。全図を通じて同一の構成には同一の符号を付し、重複説明を省略する。
近年、拡張現実(Augmented Reality、AR)技術や仮想現実(Virtual Reality、VR)技術への適用に向けたヘッドマウントディスプレイなどのウェアラブル端末が製品化されている。AR・VR技術におけるユーザの入力方法の1つに手の動きを認識するジェスチャ入力がある。また、AR技術においては空間中に視覚情報を重畳するために空間中の物体の位置関係を把握する空間認識機能が必要である。これらの実現には物体の奥行き情報を計測する距離計測技術が必要であり、飛行時間(Time−of−Flight、TOF)法に代表される距離計測技術が利用されている。
TOF法に代表される、能動的距離計測装置には物体に光を照射する光源が必要になる。これに対し、以下説明する本実施形態に係る距離計測装置は、物体に光を照射する光源が不要な、所謂受動的距離計測装置である。
<第1実施形態>
本発明における第1実施形態について添付図面に従って説明する。図1は本発明における距離計測装置101の構成の一例を示したものである。距離計測装置101は撮像対象の画像を、撮像光学系102を介して撮像素子105で撮像する。撮像光学系102は2つの直交する偏光にそれぞれ異なる点広がり関数を付加する点広がり関数付加部103と、第1の偏光方向を有する入射光と、第1の偏光方向と略直交する第2の偏光方向を有する入射光とを分離する偏光分離部104を有する。ここでいう略直交とは、第1の偏光方向を有する入射光の偏光方向軸と第2の偏光方向を有する入射光の偏光方向軸とが正確に90度である場合に限定する趣旨ではなく、90度を中心に直交していると見做せる許容確度範囲に、第1の偏光方向を有する入射光の偏光方向軸と第2の偏光方向を有する入射光の偏光方向軸とのなす角が含まれる場合とを含む。
また「点広がり関数」とは、光学系の点光源に対する応答を表す関数であり、撮像対象の一点から生じた光線を撮像素子で撮像したときに得られる画像において、撮像光学系の点広がり関数が異なる場合、撮像した画像のボケ方に差が生じる。本実施形態では、この画像のボケ方の差を用いて、距離を計測する。
撮像素子105により撮像された画像データは画像処理部106へ受け渡され、距離計測部107は画像を基に距離情報を生成し、表示画像生成部108が距離情報を反映させた表示用の画像を生成する。画像処理部106で生成した距離情報や表示画像は制御部109へと出力され、表示画像の生成以外の使用用途、例えば後述する操作入力に利用されてもよい。
撮像光学系102における光の入射側には、例えば複数の可動羽根を含んで構成される開口絞り202及び開口絞り202を駆動させて開口サイズを変更させる絞り駆動部206を更に含む。制御部109は、絞り駆動部206に対して駆動制御信号を送り、開口絞り202を駆動させ、撮像光学系102の開口サイズの変更し、光学調整を行う。更に制御部109は、撮像素子105、画像処理部106における各処理の実行タイミングの制御や、映像表示装置などの外部機器との通信を行う。撮像素子105としてはCMOSイメージセンサやCCDイメージセンサ等を用いることができる。
図2は本実施形態における撮像光学系102と撮像素子105の構成の一例を示したものである。本実施形態に係る距離計測装置101に入射した入射光201は、撮像光学系102中の点広がり関数付加部103へ入射し、点広がり関数付加部103中の開口絞り202により形成される開口部202a及びレンズ203を透過する。点広がり関数付加部103を透過する光のうち、互いに直交する第1の偏光204と第2の偏光205は、それぞれ異なる点広がり関数を付加された状態で点広がり関数付加部103を透過する。その後、第1の偏光204と第2の偏光205は偏光分離部104を介して撮像素子105で受光され、撮像対象の画像が記録される。図2では説明の都合上、偏光分離部104と撮像素子105を離して記載しているが、近接していることが望ましく、両者を貼り合わせて構成しても良い。
図3は本実施形態におけるレンズ203の構成の一例を示したものである。なお、入射光201の進行方向は紙面垂直方向とし、第1の偏光204の偏光方向は軸301に対して平行であり、第2の偏光205の偏光方向は軸302に対して平行であるとする。
レンズ203は複屈折性の物質で構成されており、軸301に対して平行な第1の偏光204に対する屈折率はnであり、軸302に対して平行な第2の偏光205に対する屈折率はnであるため、レンズ203の焦点距離は第1の偏光204と第2の偏光205に対してそれぞれ異なった長さとなる。例えば、レンズ203が曲率半径Rの球面平凸レンズであった場合、第1の偏光204に対する焦点距離fと第2の偏光205に対する焦点距離fはそれぞれ式1、式2で表すことができるので、例えば、nがnに比べて大きい場合、fはfよりも小さい値となる。
(式1)f=R/(n−1)・・・(1)
(式2)f=R/(n−1)・・・(2)
図4は本実施形態における偏光分離部104と撮像素子105の構成の一例を示す。偏光分離部104は第1の偏光204を透過させ、第2の偏光205を遮光する第1の偏光子401、403、405、407、409と、第1の偏光204を遮光し、第2の偏光205を透過させる第2の偏光子402、404、406、408を並べた偏光子アレイである。偏光分離部104と撮像素子105は、第1の偏光子又は第2の偏光子401〜409を透過させた光が、それぞれ撮像素子105の画素410〜418で撮像されるように配置されている。このため、画素410、412、414、416、418は第1の偏光204のみを、画素411、413、415、417は第2の偏光205のみを撮像する。
図4は撮像素子105を構成する画素の一部について説明したものであり、画素数は図4に示したものに限らない。また、画素410〜418はそれぞれ単一のモノクロ画像センサであっても良いし、画素410〜418の各画素がRGBに対応する画素をそれぞれ1つ以上有するベイヤーフィルタ式の画像センサなどであっても良い。
以上の構成とすることで、第1の偏光204と第2の偏光205をそれぞれ異なる焦点距離で撮像素子105へ入射させ、撮像素子105で第1の偏光204を撮像した第1の偏光画像と第2の偏光205を撮像した第2の偏光画像をそれぞれ個別に撮像することが可能となる。このため、異なるボケ量の2つの画像である第1の偏光画像及び第2の偏光画像を同時に撮影でき、レンズ焦点法の1つであるDepth from defocus(DFD)法による距離計測を実行することができる。
レンズ焦点法は、ボケ量の異なる画像を少なくとも2つ以上必要とするため、従来のDFD法ではレンズと撮像素子の間の距離を変えながら複数回撮像が行われ、他の距離計測方式と比べ計測時間が長い問題があった。また、特許文献1に記載の構成では、撮像素子を2つ以上用いることで、ボケ量の異なる画像の同時撮像を可能としているが、撮像素子数が増えることで消費電力が増加してしまうという問題があった。これに対し、本実施形態の構成によれば、1つの撮像素子を用いて、ボケ量の異なる2つの第1の偏光画像及び第2の偏光画像を同時に撮像することができるため、DFD法による距離計測を高速に実行する小型・低消費電力な距離計測装置が提供できる。
なお、偏光分離部104を構成する偏光子の数、並べ方は図4に示したものに限らない。例えば、第1の偏光子401、403、405、407、409と、第2の偏光子402、404、406、408をストライプ状に配置したものであっても良い。また、偏光分離部104にフォトニック結晶を用いた偏光子アレイを利用しても良い。更に、撮像素子105を構成する画素の数は図4に示したものに限らない。
また、本実施形態の偏光分離部104と撮像素子105の構成では、第1の偏光画像の撮像に撮像素子105の画素のうち半数を使用し、第2の偏光画像の撮像にもう半数の画素を使用するため、撮像素子105で取得できる画像の画素数が半減するが、撮像できない画素については、近接した画素で受光した光強度信号を基に補間処理を行うことで第1の偏光画像及び第2の偏光画像を生成可能である。第2の偏光画像を例に考えると、図4の画素414では第2の偏光205の光強度信号を計測できないため、当該画素における光強度信号が欠けてしまうが、周囲の画素411、413、415、417で計測した第2の偏光205の光強度信号の平均値を画素414の第2の偏光205の光強度信号として挿入することで画素414の光強度信号を補間し、第2の偏光画像を生成できる。第1の偏光204の画像に関しても同様の補間処理を行うことで第1の偏光画像を生成できる。
また、本実施形態のレンズ203は、例えば水晶、カルサイト、フッ化マグネシウム、メタホウ酸バリウムなどの複屈折性結晶を用いたレンズでも良いし、複屈折性を示すプラスチックレンズでも良い。
ここで、本実施形態における距離計測方法を、図5、6を用いて説明する。図5は本実施形態の距離計測装置において、撮像対象である物体501を撮像する様子を説明した図である。物体501とレンズ203の間の距離をu、レンズ203と撮像素子105の間の距離をsとおく。また、開口部202aの直径をDとした。図5Aは第1の偏光204の入射光線を撮像素子105で撮像する様子を示す。物体501の1点から生じた第1の偏光204の光線はレンズ203を透過した後、焦点距離f1のレンズで結像される結像点502に結像する。
図5Bは第2の偏光205の入射光線を撮像素子105で撮像する様子を示す。物体501の1点から生じた第2の偏光205の光線はレンズ203を透過した後、焦点距離fのレンズで結像される結像点503に結像する。図5の場合、結像点502と撮像素子105の間の距離の方が、結像点503と撮像素子105の間の距離より短いため、第1の偏光204の画像よりも第2の偏光205の画像のほうがボケの強い画像となる。
第1の偏光204と第2の偏光205の撮像画像におけるボケ量の差を図6を用いて説明する。物体501の1点から生じた光線を撮像素子105で撮像した場合の像を点広がり関数(Point Spread Function、 PSF)と呼ぶ。図6は本実施形態の撮像光学系で撮像した点広がり関数を図示したものである。画像601は第1の偏光204の点広がり関数602を撮像した場合の画像の例であり、画像603は第2の偏光205の点広がり関数604を撮像した場合の画像の例である。点広がり関数602の直径DはD、u、sおよびfを用いると式3で表すことができ、点広がり関数604の直径DはD、u、sおよびfを用いると式4で表すことができる。
(式3)D=sD(1/f−1/u−1/s)・・・(3)
(式4)D=sD(1/f−1/u−1/s)・・・(4)
物体501の撮像を第1の偏光204や第2の偏光205で行うと、それぞれ式3や式4で示した点広がり関数と、ボケのない物体501の像との畳み込み積分に相当する画像を撮像することになる。このため、点広がり関数602や604の大きさを第1の偏光204や第2の偏光205の畳み込み画像から抽出することで、物体501とレンズ203の間の距離を計測することが可能となる。
2つの畳み込み画像から点広がり関数を抽出する方法としては、例えば2次元フーリエ変換を用いても良いし、下記文献に記載されたSpatial Domain Convolution/Deconvolution Transformを用いて計算しても良い。
(文献名)
Murali Subbarao、Gopal Surya、“Depth from defocus: A spatial domain approach、” International Journal of Computer Vision、 (US) Springer、1994年12月、13巻、3号 p.271−294
なお、撮像素子105は、第1の偏光画像と第2の偏光画像のうち、どちらか一方が撮像素子105上に結像するように配置しても良い。このような配置とすることで、距離計測のために撮像した2つの画像のうち一方をそのまま表示することで、ARシステム等においてユーザ向け表示画像として用いることが可能となる。また、第1の偏光画像及び第2の偏光画像のどちらも撮像素子105上に結像しない場合でも、2つの偏光画像からPSFを計算した後に、PSFの情報を基に撮像画像のボケを除去することで、ユーザ向け表示画像を生成しても良い。
次に、本実施形態の距離計測装置101を用いた距離計測処理フローの例を図13を用いて説明する。処理S1301ではPSFサイズの調整など、距離計測に関わる部分の初期化を行う。
処理S1302では第1の偏光204を撮像して第1のロー(raw)偏光画像を生成し、第2の偏光205を撮像して第2のロー偏光画像を生成する。
処理S1303では処理S1302で撮像した第1のロー偏光画像及び第2のロー偏光画像についてそれぞれ補間処理を行い、第1の偏光画像及び第2の偏光画像を生成する。
処理S1304では処理S1303で生成した第1の偏光画像及び第2の偏光画像からPSFを抽出する。
処理S1305では処理S1304で抽出したPSFを基に対象物体との距離を計算する。
処理S1306では処理S1305で計測した距離情報を、用途に応じた形式で出力する。例えば、物体との距離情報を表示画像としてユーザに提供する使用方法の場合は、処理S1302で撮像した画像に処理S1305で計測した距離情報を重畳した画像を生成し、表示ディスプレイ等に表示する。また、ARシステムのジェスチャ入力の認識に使用する場合は、距離計測情報を記録しておき、次回の距離計測時に処理S1305で計測した距離計測情報の差分を計算し、入力内容を判定し、ARシステムの入力へ出力する。
処理S1307では計測の継続・終了を判定し、継続の場合は(S1307/Yes)、処理S1302へ、終了の場合は(S1307/No)、距離計測処理を終了する。
次にPSFサイズの調整方法について説明する。一般的に、レンズ203の焦点距離、開口部202aの直径、撮像素子105とレンズ203の間の距離などが同じ条件の場合、遠方にある物体よりも近傍にある物体の方がPSFが大きくなる。PSFが撮像素子105と比較して一定以上のサイズになると正確な距離計測ができなくなる。このため、開口部202aの直径や撮像素子105とレンズ203間の距離を制御し、PSFのサイズを低減させる操作が必要となる。
PSFのサイズが適正かは例えば開口部202aの直径の変更前後に抽出したPSFの変化から判定可能である。本来、開口部202aの直径を小さくすると撮像素子105で撮像した画像のPSFは小さくなるが、PSFのサイズが撮像素子105と比較して一定以上のサイズになる場合、開口部202aの直径を小さくすると、画像から抽出したPSFサイズは変化しない、もしくは増加する。これは、PSFが一定以上のサイズの場合、DFDに用いる2つの画像のうち、少なくとも一方は開口部202aの直径を小さくしても、ボケ方に明確な変化が出ないためである。この状況で、もう一方の画像が開口部202aの直径が小さくなった影響でボケ量が低下すると、2つの画像の間のボケ量の差は増大する。本測定方法において、ボケ量の差の増大はPSFの増加を意味する。また、もう一方の画像も開口部202aの直径を小さくした場合に、明確な変化が出ない場合は、開口部202aの直径を変更しても2つの画像の間にボケ量の差が発生しないため、PSFは一定であるという計算結果となる。この特徴を利用してPSFサイズが適正であるか判定し、適正でない場合はPSFサイズを低減させる。
図14を用いてPSFサイズ調整の処理フローの例を説明する。
処理S1401では開口部202aの直径を設定する。
処理S1402では第1の偏光画像と第2の偏光画像を生成し、PSFを抽出する。ここでいう「第1の偏光画像を生成」とは、第1のロー偏光画像を撮像し、補間処理をして第1の偏光画像を生成する処理でもよいし、後述する第2実施形態のように、第1の偏光204を撮像した際に撮像素子105の画素に欠損がない状態で第1の偏光画像が得られる処理でもよい。第2の偏光画像についても同様である。
処理S1403では、開口部202aの直径を変更する。
処理S1404では再度第1の偏光画像と第2画像を撮像し、PSFを抽出する。
処理S1405では処理S1402で抽出したPSFと処理S1404で抽出したPSFを比較し、現在のPSFが適正か判定する。例えば、処理S1402で撮像したときの開口部202aの直径が処理S1404で撮像したときの開口部202aの直径に比べて大きいとき、処理S1402で抽出したPSFは処理S1404で抽出したPSFよりも大きければ適正であると判定し(S1405/Yes)、処理を終了する。
一方、処理S1402で抽出したPSFが、処理S1404で抽出したPSFよりも小さいか、不変という判定が出た場合、現在のPSFが適正なサイズを超過していると判定し(S1405/No)、処理S1403へ移行し開口部202aの直径を再度変更した後に処理S1404でPSFを抽出する。
処理S1405では1回目の処理S1404で抽出したPSFと2回目の処理S1404で抽出したPSFを比較し、PSFサイズが適正か再判定を行う。
なお、図14の処理は、図13の処理S1301内で1度のみ行っても良いし、処理S1307から処理S1302へ移る際に毎回、もしくは数回おきに行っても良い。また、図13の処理S1307から処理S1302へ移る際に図14の処理を行う場合、処理S1402や処理S1404で抽出したPSFサイズを用いて処理S1405の距離情報計算を行うことで、処理S1302〜処理S1304を省略しても良い。
なお、本実施形態の距離計測装置101を複数台併用することで、距離計測性能を向上させても良い。図21は可変な基線長を有するステレオ法距離計測装置において、2つのカメラを本実施形態の距離計測装置101とした構成の例を示すものである。2つの距離計測装置101はカメラ保持部2101に固定されている。カメラ保持部2101は伸縮機能を持っており、必要な距離計測精度に応じて基線長を変化させる。以上の構成とすることで、例えば、距離計測装置101で計測した距離情報と、ステレオ法で測定した距離情報を比較することで、カメラ保持部2101の伸縮時、もしくは温度変化や応力・経時劣化による基線長変化のキャリブレーションをすることが可能となる。
本実施形態の距離計測装置101の適用先は、例えばヘッドマウントディスプレイなどのAR対応型映像表示装置や、スマートフォンなどの携帯情報端末である。ヘッドマウントディスプレイなどの映像表示装置における距離計測装置101の使用例を図15〜18を用いて説明する。
図15は本実施形態の距離計測装置101を映像表示装置1501で使用する場合の外観の例を示し、図16は本実施形態の距離計測装置101を映像表示装置1501で使用する場合の構成の例を示す。映像表示装置1501は映像表示部1502、音声入力部1503、入力スイッチ1504、ネットワーク上のサーバやユーザが所有するパーソナルコンピュータ、携帯情報端末などと通信を行う通信部1604、情報を保管する情報記憶部1605、および制御部1602を含んで構成される。
距離計測装置101は一例として映像表示装置1501をユーザが装着した場合に前方を計測できるように配置する。制御部1602は距離計測装置101、音声入力部1503、入力スイッチ1504、通信部1604、情報記憶部1605からの入力を基に、映像表示部1502、距離計測装置101、通信部1604、情報記憶部1605の動作を制御する。
図17は距離計測装置101を使用する映像表示装置1501におけるジェスチャ入力の処理フローを示したものである。映像表示装置1501は制御部1602の指示に従い、距離計測装置101でのジェスチャ認識処理を開始する。ジェスチャ認識処理の開始タイミングは、映像表示装置1501の起動の直後でも良いし、常時例えば音声入力部1503、入力スイッチ1504、通信部1604と接続した携帯情報端末などからの入力に合わせて行っても良い。
処理S1701では距離計測に関わる部分の初期化を行う。
処理S1702では、撮像素子105で撮像した画像からユーザの手を認識し、特徴点を抽出する。
処理S1703では処理S1702で抽出した特徴点を基に距離計測領域を決定する。
処理S1704では処理S1703で決定した距離計測領域の距離計測を行い、それぞれの特徴点の3次元座標を取得する。
その後、処理S1705でユーザの手の特徴点を再度抽出し、処理S1706で距離計測領域を決定する。
処理S1707では処理S1706で決定した距離計測領域の距離計測を行い、それぞれの特徴点の3次元座標を再度取得する。
処理S1708では、処理S1704と処理S1707で取得した各特徴点の差から、特徴点の移動量を算出し、処理S1709で特徴点の移動量を反映した表示画像の更新を行う。
処理S1710で入力の終了・継続の判定を行い、終了の場合は(S1710/Yes)入力を終了し、継続の場合は(S1710/No)処理S1702へと戻る。なお、ユーザの手の位置の変化が少ない場面などでは、特徴点抽出処理と距離計測領域決定処理は特徴点座標取得処理を実行するたびに行わず、数回に一度実行しても良い。また、処理S1704と処理S1707の間に意図的に待機時間を設けても良い。
図18は処理S1702、処理S1703実行時で距離計測装置101が撮像・処理する画像の例を示したものである。撮像画面1801にユーザの手1802が映ったことを認識すると(図18A)、図18Bに示すように、処理S1702で特徴点1803を抽出する。ユーザの手1802の認識は、例えば色や形状を基に行う。また、映像表示装置1501にユーザ登録機能を用意することで、ユーザの手1802の色、サイズや、撮像画面上でジェスチャ入力に使用する頻度の高い領域を登録し、これらの登録情報を基に認識を行うことでユーザの手1802の認識精度を高めても良い。また、特徴点1803としては例えばユーザの手1802の関節などを用いる。
次に処理S1703では特徴点1803の奥行き情報が取得できるように距離計測領域1804を決定する(図18C)。以上の処理を行うと、撮像素子105の全画素で距離計測処理を行う必要がないため、計算処理の負荷を軽減することが可能となる。
また、映像表示部1502には、例えば図18B、図18Cのように、特徴点や距離計測領域を重畳した映像をユーザに対して表示しても良いし、各特徴点までの距離情報を重畳表示しても良い。距離の表示方法としては、例えば数値をそのまま重畳しても良いし、等値線や、距離に応じて段階的に彩色した等値線として表示しても良い。
上記の例ではヘッドマウントディスプレイを映像表示装置として用い、ヘッドマウントディスプレイに対する入力操作をユーザの手のジェスチャーで行い、本実施形態に係る距離計測装置により手の特徴点の移動量を算出しそれを示す操作信号を制御部に出力し、特徴点の移動量を反映した表示画像の更新を行った。しかし、ヘッドマウントディスプレイが映像表示装置とは異なる機能、例えばヘッドマウントディスプレイが外部機器と通信する機能を有する場合に通信先を切替える操作や、音声出力機能を有する場合にボリューム調整を行う入力操作をジェスチャーで行い、入力された操作を制御部が実行するように構成されてもよい。
本実施形態の距離計測装置101の他の適用先としては、例えば、自動車、ドローンなどの無人航空機、ロボット、外科手術支援システム、精密形状計測装置等がある。例えば自動車、ドローン、災害調査ロボット、産業用ロボットなどの移動式機械装置に距離計測装置101を搭載し、周囲監視による衝突回避に利用しても良いし、位置情報と距離計測情報をネットワーク上のサーバにアップロードし、遠隔地の操縦者へ提示しても良く、ネットワーク上のサーバにアップロードした位置情報と距離計測情報を他の移動式機械装置と共有し、自動運転・自律航行における移動式機械装置の協調的な位置制御に利用しても良い。
図19は自動車1901の周辺監視システムに距離計測装置101を使用する場合の構成の例において、距離計測装置101と連動する部分を抽出した図である。距離計測装置101は自動車制御部1902を介して速度計測部1904、電子料金支払い端末1905、GPS受信機1906などから現在の走行状態を取得し、距離計測レンジを決定する。
図20は自動車の走行状態を基に距離計測レンジを決定する処理フローの例を示す。自動車のエンジンが始動した後に処理S2001で自動車の走行モードを判定する。自動車の走行モードは例えば速度計測部1904で判定しても良いし、GPS受信機1906で走行速度および、現在走行中の道路が高速道路か一般道路か判定しても良い。また、電子料金支払い端末1905の通信記録をもとに、現在走行中の道路が有料高速道路か一般道路か判定しても良い。
処理S2001で現在の走行モードを判定した後に、判定結果を基に処理S2002で距離計測モードを決定する。距離計測モードは、例えば高速走行時は遠方の距離計測を高精度に行うためにPSFが大きくなるように開口部202aの直径を設定し、低速走行時では近距離での距離計測を高精度に行うためにPSFが小さくなるように開口部202aの直径を設定する。また、一般道路を走行中は、歩行者や軽車両の前方への急な割り込みにも対応する必要があるため、図14で説明した開口部202aの直径制御によるPSFサイズ適正化処理も行う。
また、処理S2002は、処理S2001の判定結果に基づいて撮像素子105中の画素のうち、距離計測に使用する画素領域を変更し、例えば、一般道路走行中は全画素で距離計測を行い、高速道路走行中は撮像素子の一部の画素のみで距離計測を行っても良い。他にも、交差点、カーブ、直線など、道路の形状に合わせて距離計測に使用する画素領域を変更しても良い。
処理S2002で距離計測モードを決定した後に、処理S2003で図13や図14で説明した距離計測処理を行い、車両周囲の物体との距離情報を、衝突回避制御や自動運転制御に利用する。
処理S2004では自動車走行モードを再度判定し、処理S2005で自動車走行モードが変化したか判定する。自動車走行モードが変化していない場合は(S2005/No)、処理S2003へ戻り、距離計測を続行する。走行モードが変化した場合は(S2005/Yes)、処理S2006でエンジンが停止しているか判定し、エンジンが停止している場合は(S2006/Yes)、処理を終了し、エンジンが停止していない場合は(S2006/No)、処理S2002へ戻り、走行状態に合った距離計測モードを選択しなおす。
また、本実施形態の距離計測装置101で得た、自動車周囲の距離情報は、自動車にフロントガラスに映像を表示するヘッドアップディスプレイやカーナビゲーションシステムの映像表示画面などの映像表示装置に表示しても良い。例えば、ヘッドアップディスプレイに表示する場合は、前方の車両や歩行者にマーカや距離情報を重畳して表示しても良いし、衝突の危険度が高い対象物に重畳するマーカを、他のマーカとは異なる色で表示させたりしても良い。また、自車両との距離変化から対象物の移動速度を推定し、映像表示部に表示させても良い。
更に、各車両が計測した距離情報をカーナビゲーションシステム等のセンターへ送信し、統合することで道路上の車両・歩行者の高精度な位置情報を生成し、生成情報を各車両へ送信し、カーナビゲーションシステムの映像表示部やヘッドアップディスプレイに表示させても良い。
<第2実施形態>
本実施形態が第1実施形態と異なるのは、偏光分離部が偏光子と偏光制御素子で構成されている点である。本構成とすることで、撮像素子105の全画素を利用して、第1の偏光204の画像と第2の偏光205の画像をそれぞれ撮像することが可能になり、第1実施形態の構成に比べて補間処理が不要であり、高解像度化することができる。
本実施形態における、第1の偏光画像と第2の画像の撮像方法を図7を用いて説明する。図7は本実施形態における撮像光学系102と撮像素子105の構成の一例を示したものである。撮像光学系102に入射した入射光201は、偏光分離部104へ入射し、偏光制御素子702、偏光子701を透過し、偏光分離部104を透過する。偏光分離部104を透過した後に点広がり関数付加部103を透過し、撮像素子105で撮像される。
偏光子701はランダムに偏光した入射光201のうち、特定の偏光成分を取り出す素子である。偏光制御素子702は、例えば液晶素子などで構成されており、電圧制御によって、偏光制御素子702を透過させる光の偏光を任意の方向に回転することができる。このため、偏光子701を透過させた光を偏光制御素子702に透過させ、電圧制御を行うことで、点広がり関数付加部103へ入射する偏光を偏光方向が異なる第1の偏光204と第2の偏光205に切り替えることが可能となる。
図7Aは偏光制御素子702を透過させた光の偏光が第1の偏光204となるように偏光制御素子702を制御した場合の撮像光学系102と撮像素子105の構成を示す。レンズ203は第1の偏光204に対して焦点距離fのレンズとして機能するため、撮像素子105で撮像する像は焦点距離fのレンズで撮像した画像となる。
図7Bは偏光制御素子702を透過させた光の偏光が第2の偏光205となるように偏光制御素子702を制御した場合の撮像光学系102と撮像素子105の構成を示す。レンズ203は第2の偏光205に対して焦点距離f(>f)のレンズとして機能するため、撮像素子105で撮像する像は焦点距離fのレンズで撮像した画像となる。
以上の構成とすることで、ボケ量の異なる2つの画像(第1の偏光画像及び第2の偏光画像に相当する)を撮像でき、DFD法による対象物体の距離計測を行うことができる。また、第1の偏光画像と第2の偏光画像を2回に分けて撮像するため、各画像撮像時に使用できる撮像素子の画素数が第1実施形態に比べて2倍に増加するため、高解像度化が可能である。
なお本実施形態における撮像光学系と撮像素子の構成は、以上の構成に限らず、例えば図8に示した、撮像光学系102と撮像素子105の構成でも良い。図8の構成では、偏光分離部104は点広がり関数付加部103の後方に配置されており、偏光分離部104に入射した光はまず偏光制御素子702へ入射したのちに、偏光子701へ入射し、撮像素子105で撮像される。偏光子701が焦点距離fで集光される偏光のみを透過させるように、偏光制御素子702を制御することで、撮像素子105は焦点距離fのレンズで撮像した画像が撮像でき、偏光子701が焦点距離fで集光される偏光のみを透過させるように、偏光制御素子702を制御することで、撮像素子105は焦点距離fのレンズで撮像した画像が撮像できる。
また、偏光分離部104は偏光子と偏光制御素子の組合わせに限らず、例えば透過させる偏光の向きが制御可能な回転式偏光子などであっても良い。
<第3実施形態>
本実施形態が第1実施形態、2と異なるのは、レンズ203が旋光性を有する物質で構成されている点である。本構成とすることで、距離計測装置の製造時のレンズ取付精度を緩和すること、および使用中のレンズ保持部の緩みによるレンズの回転に対して耐性を向上することができる。更に、レンズの回転を伴うズーム機能にも対応することができる。
図9は本実施形態におけるレンズ203の構成の例を示す図である。なお、入射光201の進行方向は紙面垂直方向とする。レンズ203を構成する物質は旋光性の物質であり、右円偏光と左円偏光の間で異なる屈折率を示す。例えば右円偏光901に対する屈折率をn、左円偏光902に対する屈折率をnとし、レンズ203の曲率半径をRとすると、右円偏光に対する焦点距離は式1のfとなり、左円偏光に対する焦点距離は式2のfとなる。
このため、右円偏光901による画像(第1の偏光画像)と左円偏光902による画像(第2の偏光画像)を偏光分離部104で分離した後に撮像素子105で撮像することで、第1実施形態、2と同様にボケ量の異なる2つの画像を撮像することができる。偏光分離部104は、例えば右円偏光のみ透過させる偏光子と左円偏光のみ透過させる偏光子を並べた偏光子アレイであっても良いし、第1実施形態に記載の偏光子アレイの手前に1/4波長板を配置した構成でも良いし、第2実施形態に記載の液晶素子と偏光子を組合わせて配置したものでも良い。
以上の構成とすることで、第1実施形態と2同様に2つのボケ量の異なる画像から対象物体との距離を計測することができる。更に、本実施形態のレンズ203は、左右円偏光に対する複屈折性を利用しているため、レンズ203が入射光201の進行方向を軸として回転した場合でも焦点距離fの画像と焦点距離fの画像が混ざって撮像されないため、距離計測精度が低下せず、距離計測装置の製造時のレンズ取付精度を緩和すること、および使用中のレンズ保持部の緩みによるレンズの回転に対して耐性を向上することができる。更に、レンズの回転を伴うズーム機能にも対応することができる。
<第4実施形態>
本実施形態が第1、2実施形態と異なるのは、点広がり関数付加部103に複屈折レンズを用いる代わりに、偏光依存フレネルゾーンプレート1001、1002を使用している点である。本構成とすることで、薄型軽量なフレネルゾーンプレートを用いて2つの直交する偏光に異なるボケ量を付加することが可能になるため、装置の軽量化が可能である。また、第1〜3実施形態では、2つの直交する偏光に付加できるボケ量の差は、使用する複屈折性物質の屈折率差によって制限されていたが、フレネルゾーンプレートを使用する構成とすることで、2つの直交する偏光の焦点距離の組合わせを任意に選択することができ、付加するボケ量の差を大きくすることできるため、距離計測の精度を向上することが可能となる。
図10は本実施形態における撮像光学系102と撮像素子105の構成の例を示したものである。点広がり関数付加部103は開口絞り202、偏光依存フレネルゾーンプレート1001、及び偏光依存フレネルゾーンプレート1002を含んで構成される。
フレネルゾーンプレートは透明な輪帯と不透明な輪帯を同心円状に交互に並べたパターンであり、光を集光する働きをする。波長λの光を焦点距離fで集光するフレネルゾーンプレートのn番目の輪帯の半径rは、式5で表される。このため、輪帯の間隔の設計次第で、任意の焦点距離のフレネルゾーンプレートを作成することができる。
(式5)r=(nλf)^1/2・・・(5)
図11は本実施形態における偏光依存フレネルゾーンプレートの構成の例を示す。図11Aの偏光依存フレネルゾーンプレート1001は、第1の偏光204を遮光し、第2の偏光205を透過させる不透明輪帯1101と、第1の偏光204と第2の偏光205の両方を透過させる透明輪帯1102を同心円状に並べたものである。偏光依存フレネルゾーンプレート1001は第2の偏光205に対しては透明なため、第1の偏光204のみを集光する。
一方、図11Bの偏光依存フレネルゾーンプレート1002は、第1の偏光204を透過させ、第2の偏光205を遮光する不透明輪帯1103と、第1の偏光204と第2の偏光205の両方を透過させる透明輪帯1102を同心円状に並べたものである。偏光依存フレネルゾーンプレート1002は第1の偏光204に対しては透明なため、第2の偏光205のみを集光する。偏光依存フレネルゾーンプレート1001、1002を構成する不透明輪帯1101、1103は、例えば偏光子やフォトニック結晶などを利用する。
偏光依存フレネルゾーンプレート1001の輪帯のn番目の半径を、偏光依存フレネルゾーンプレート1001の焦点距離がfとなるようにし、偏光依存フレネルゾーンプレート1002の輪帯のn番目の半径を、偏光依存フレネルゾーンプレート1002の焦点距離fとなるようにし、偏光依存フレネルゾーンプレート1001と偏光依存フレネルゾーンプレート1002を張り合わせて点広がり関数付加部103に配置すると、図10に示すように第1の偏光204は焦点距離fで結像され、第2の偏光205は焦点距離fで結像されるため、第1の偏光204と第2の偏光205を偏光分離部104で分離した後に撮像素子105で撮像することで、ボケ量の異なる2つの画像が撮像できるため、DFD法を用いた対象物体との距離計測を行うことが可能となる。
以上の構成とすることで、複屈折性のレンズの代わりに薄型軽量なフレネルゾーンプレートを用いて2つの直交する偏光に異なるボケ量を付加することが可能になるため、装置の軽量化が可能である。また、第1実施形態〜3では、2つの直交する偏光に付加できるボケ量の差は、使用する複屈折性物質の屈折率差によって制限されていたが、フレネルゾーンプレートを使用する構成とすることで、2つの直交する偏光の焦点距離の組合わせを任意に選択することができ、付加するボケ量の差を大きくすることできるため、距離計測の精度を向上することが可能となる。
また、偏光依存フレネルゾーンプレート1001、1002は、不透明輪帯の代わりに、第1の偏光204と第2の偏光205のどちらか一方のみに、透明輪帯を透過させた光線との位相差を付加する複屈折性の輪帯を配置した、位相型偏光依存ゾーンプレートを用いても良い。このような構成とすることで、偏光依存フレネルゾーンプレートの不透明輪帯で生じていた光強度の損失を抑制することが可能となる。
なお、本実施形態では、偏光分離部104での第1の偏光204と第2の偏光205の偏光分離方法は第1実施形態に記載の方法を用いても良いし、第2実施形態に記載の方法を用いても良い。また、第2実施形態に記載の方法を用いる場合は偏光分離部104を点広がり関数付加部103の手前に配置しても良い。また、偏光依存フレネルゾーンプレートを2つ利用する代わりに、一方を通常の撮像レンズとしてもよい。
<第5実施形態>
本実施形態が第1〜4実施形態と異なるのは、偏光依存開口を用いて、2つの直交する偏光それぞれを異なるサイズの開口で絞ることで、2つの直交する偏光に異なるボケ量を付加する点である。本構成とすることで、点広がり関数付加部103の薄型化・軽量化・低コスト化につながる。また、開口部202a、偏光依存開口部1201aの直径を変更するだけで、第1の偏光204と第2の偏光205の画像のボケ量の差を任意に偏光することが可能となり、使用目的に応じて測距精度を制御することが可能となる。
図12は本実施形態における撮像光学系102と撮像素子105の構成の例を示したものである。点広がり関数付加部103は、開口絞り202、偏光依存開口絞り1201、およびレンズ203を含んで構成されている。偏光依存開口絞り1201は、例えば、中心から直径D’の範囲内は第1の偏光204と第2の偏光205の両方を透過させるが、それよりも外側の入射光については、第1の偏光204を遮光し、第2の偏光205を透過させる円形の偏光依存開口部1201aを形成する。なお、偏光依存開口部1201aの開口直径D’は開口部202aの開口直径Dよりも小さいものとする。
また、レンズ203は複屈折性の物質を用いる必要は無く、第1の偏光204と第2の偏光205の両方に対して焦点距離fのレンズとして機能するものとする。
撮像光学系102に入射した入射光201のうち、第1の偏光204の光線は、開口部202aで開口直径Dに絞られた後、偏光依存開口部1201aで開口直径D’に絞られる。その後、第1の偏光204はレンズ203で集光され、偏光分離部104を透過した後に撮像素子105で撮像される。第1の偏光204の点広がり関数の直径DはD’、レンズ203と対象物体との距離u、レンズ203と撮像素子105の間の距離s、およびfを用いると式6で表すことができる。
一方、撮像光学系102に入射した入射光201のうち、第2の偏光205の光線は、開口部202aで開口直径Dに絞られた後、偏光依存開口部1201aを透過するが開口直径は変化しない。その後第2の偏光205はレンズ203で集光され、偏光分離部104を透過した後に撮像素子105で撮像される。第2の偏光205の点広がり関数の直径DはD、レンズ203と対象物体との距離u、レンズ203と撮像素子105の間の距離s、およびレンズ203の焦点距離fを用いると式7で表すことができる。
(式6)D=sD’(1/f−1/u−1/s)・・・(6)
(式7)D=sD(1/f−1/u−1/s)・・・(7)
以上の構成とすることで、第1の偏光204と第2の偏光205を偏光分離部104で分離した後に撮像素子105で撮像することで、ボケ量の異なる2つの画像が撮像できるため、DFD法を用いた対象物体との距離計測を行うことが可能となる。本実施形態では、第1実施形態〜3で使用する複屈折性のレンズの代わりに偏光子による円形開口を用いた偏光依存開口絞り1201を使用するため、点広がり関数付加部103を薄型・軽量化することができる。また、本実施形態の偏光依存開口絞り1201は、第4実施形態の偏光依存フレネルゾーンプレートよりも簡便な構造であり、製造コストを低減することが可能である。また、開口絞り202を既述の絞り駆動部206を用いて可動羽根を開閉する、所謂機械式開口絞りを用い、開口部202aを可変開口として形成することで、開口直径Dのサイズを変更するだけで、第1の偏光204と第2の偏光205の画像のボケ量の差を任意に偏光することが可能となり、使用目的に応じて測距精度を制御することが可能となる。
上記各実施形態は本発明を限定するものではなく、本発明の趣旨を逸脱しない様々な変更態様は本発明に含まれるものである。例えば、撮像する光の波長は可視光に限らず、赤外線よりも長い波長の電磁波であっても良いし、紫外線よりも短い波長の電磁波でも良い。また点広がり関数付与部と偏光分離部との組み合わせも上記に限定されない。また、上述のフローチャートに記載した処理順序は一例であり、処理の順序を入れ替えても同様の作用効果が得られる処理についてその前後を入れ替えた実施態様も、本発明に含まれる。更に図15から図21を参照して説明した本発明の適用例は、第1実施形態だけではなく第2〜第5実施形態に係る距離計測装置にも適用できる。
101・・・距離計測装置、102・・・撮像光学系、103・・・点広がり関数付加部、104・・・偏光分離部、105・・・撮像素子、106・・・画像処理部、107・・・距離計測部、108・・・表示画像生成部、201・・・入射光、202・・・開口、203・・・レンズ、701・・・偏光子、702・・偏光制御素子、1001・・・偏光依存フレネルゾーンプレート、1002・・・偏光依存フレネルゾーンプレート、1201・・・偏光依存開口、1501・・・映像表示装置、1502・・・映像表示部、1503・・・音声入力部、1504・・・入力スイッチ、2101・・・カメラ保持部

Claims (17)

  1. 複数の画像を基に当該画像に撮像された撮像対象までの距離を計測する距離計測装置であって、
    撮像光学系と、
    前記撮像光学系からの入射光を撮像する一つの撮像素子と、
    前記撮像素子が撮像した複数の画像を基に、前記撮像素子から前記撮像対象までの距離を計測する距離計測部と、を備え、
    前記撮像光学系は第1の偏光方向を有する第1の偏光と、前記第1の偏光方向と略直交する第2の偏光方向を有する第2の偏光とを分離させて前記撮像素子に入射させる偏光分離部を含み、
    前記撮像素子は、前記第1の偏光を受光して第1の偏光画像を撮像すると共に、前記第2の偏光を受光して第2の偏光画像を撮像し、
    前記距離計測部は、前記第1の偏光画像及び前記第2の偏光画像を基に前記撮像対象との距離を計測する、
    ことを特徴とする距離計測装置。
  2. 請求項1に記載の距離計測装置であって、
    前記偏光分離部は、少なくとも1つ以上の第1の偏光子と、少なくとも1つ以上の第2の偏光子を配置した偏光子アレイを有し、
    前記第1の偏光子は、前記第1の偏光を透過させ前記第2の偏光を遮光する偏光子であり、
    前記第2の偏光子は、前記第2の偏光を透過させ前記第1の偏光を遮光する偏光子であり、
    前記撮像素子は、一回の撮像において一部の画素は前記第1の偏光子を透過させた前記第1の偏光を受光し、残りの画素は前記第2の偏光子を透過させた前記第2の偏光を受光する、
    ことを特徴とする距離計測装置。
  3. 請求項1に記載の距離計測装置であって、
    前記偏光分離部は、前記入射光に含まれる前記第1の偏光及び前記第2の偏光を取り出す偏光子と、
    前記撮像素子に向けて前記第1の偏光又は前記第2の偏光のどちらを前記撮像素子に向けて透過させるかを切り替える偏光制御素子と、を含み、
    前記撮像素子は、前記偏光制御素子が前記第1の偏光を透過させると前記第1の偏光画像を撮像し、前記偏光制御素子が前記第2の偏光を透過させると前記第2の偏光画像を撮像する、
    ことを特徴とする距離計測装置。
  4. 請求項1に記載の距離計測装置であって、
    前記撮像光学系は、前記偏光分離部と、
    前記第1の偏光に対して第1の点広がり関数を付加し、前記第2の偏光に対して前記第1の点広がり関数とは異なる第2の点広がり関数を付加する点広がり関数付加部を更に備える、
    ことを特徴とする距離計測装置。
  5. 請求項4に記載の距離計測装置であって、
    前記距離計測部は、前記第1の点広がり関数と前記第2の点広がり関数の差から前記撮像対象までの距離を計測する
    ことを特徴とする距離計測装置。
  6. 請求項4に記載の距離計測装置であって、
    前記点広がり関数付加部は、前記第1の偏光と前記第2の偏光に対してそれぞれ異なる屈折率を有する複屈折性の物質で構成されたレンズを含み、
    前記レンズは、前記第1の偏光と前記第2の偏光に対して異なった焦点距離のレンズとして機能する、
    ことを特徴とする距離計測装置。
  7. 請求項6に記載の距離計測装置であって、
    前記レンズは左右円偏光の間で複屈折性を示す、旋光性の物質で構成されており、
    前記第1の偏光は前記レンズの左右円偏光のうちの一方であり、前記第2の偏光は前記レンズの左右円偏光のうちの他方である、
    ことを特徴とする距離計測装置。
  8. 請求項4に記載の距離計測装置であって、
    前記点広がり関数付加部は、
    前記第1の偏光を遮光し、前記第2の偏光を透過させる偏光子と、前記第1の偏光と第2の偏光を透過させる透過領域を同心円状に並べた第1のフレネルゾーンプレートと、
    前記第1の偏光を透過させ、前記第2の偏光を遮光する偏光子と、前記第1の偏光と前記第2の偏光を透過させる透過領域を同心円状に並べた第2のフレネルゾーンプレートと、
    を含み、
    前記第1のフレネルゾーンプレートの焦点距離と第2のフレネルゾーンプレートの焦点距離が異なる、
    ことを特徴とする距離計測装置。
  9. 請求項4に記載の距離計測装置であって、
    前記点広がり関数付加部は、開口部を形成し、非開口部は偏光方向に応じて遮光又は透過させる偏光依存開口絞りを含み、前記第1の偏光又は前記第2の偏光の一方は前記開口部及び前記非開口部を透過させ、他方は前記開口部のみを透過させ前記非開口部において遮光する、
    ことを特徴とする距離計測装置。
  10. 請求項1乃至9のいずれか一つの距離計測装置と、
    前記距離計測装置から操作信号を取得し、操作制御を行う制御部と、を備え、
    前記距離計測装置は、第1の撮像において前記撮像対象であるユーザの手の指を撮像して得られた前記第1の偏光画像及び前記第2の偏光画像から前記指の特徴点を抽出して2次元座標を取得し、前記第1の撮像の後に行われる第2の撮像において得られた前記第1の偏光画像及び前記第2の偏光画像から前記指の特徴点を抽出して3次元座標を取得し、前記第1の撮像で得られた特徴点の3次元座標と前記第2の撮像で得られた特徴点の3次元座標と差から、前記特徴点の移動量を算出して前記制御部に移動量を含む前記操作信号を出力し、
    前記制御部は、前記操作信号に基づいた操作制御を実行する、
    ことを特徴とするヘッドマウントディスプレイ装置。
  11. 請求項1乃至9のいずれか一つの距離計測装置と、
    前記距離計測装置から操作信号を取得し、操作制御を行う制御部と、を備え、
    前記距離計測装置は、第1の撮像において前記撮像対象であるユーザの手の指を撮像して得られた前記第1の偏光画像及び前記第2の偏光画像から前記指の特徴点を抽出して2次元座標を取得し、前記第1の撮像の後に行われる第2の撮像において得られた前記第1の偏光画像及び前記第2の偏光画像から前記指の特徴点を抽出して3次元座標を取得し、前記第1の撮像で得られた特徴点の3次元座標と前記第2の撮像で得られた特徴点の3次元座標と差から、前記特徴点の移動量を算出して前記制御部に移動量を含む前記操作信号を出力し、
    前記制御部は、前記操作信号に基づいた操作制御を実行する、
    ことを特徴とする携帯情報端末。
  12. 請求項1乃至9のいずれか一つの距離計測装置と、
    映像を表示する映像表示部と、を備え、
    前記距離計測装置は、第1の撮像において前記撮像対象であるユーザの手の指を撮像して得られた前記第1の偏光画像及び前記第2の偏光画像から前記指の特徴点を抽出して2次元座標を取得し、前記第1の撮像の後に行われる第2の撮像において得られた前記第1の偏光画像及び前記第2の偏光画像から前記指の特徴点を抽出して3次元座標を取得し、前記第1の撮像で得られた特徴点の3次元座標と前記第2の撮像で得られた特徴点の3次元座標と差から、前記特徴点の移動量を算出し、
    前記映像表示部は、前記特徴点の移動量を反映した表示画像の更新を行う、
    ことを特徴とする映像表示装置。
  13. 請求項1乃至9のいずれか一つの距離計測装置と、
    自動車の速度情報の入力を受け付けて、前記自動車の走行モードを判定する制御部と、
    を備え、
    前記距離計測装置に含まれる前記撮像素子は、前記自動車の周辺にある物体を前記撮像対象とする前記第1の偏光画像及び前記第2の偏光画像を撮像し、前記距離計測部は、前記走行モードに応じて計測する距離範囲を変更し、前記第1の偏光画像及び前記第2の偏光画像を基に前記物体までの距離を計測する、
    ことを特徴とする自動車の周辺監視システム。
  14. 入射光に含まれる第1の偏光を撮像した第1の偏光画像の点広がり関数と、前記入射光に含まれる第2の偏光を撮像した第2の偏光画像の点広がり関数との差から、撮像対象までの距離を計測する距離計測方法において、
    前記第1の偏光画像と前記第2の偏光画像を一つの撮像素子を用いて撮像する画像撮像ステップと、
    前記第1の偏光画像及び前記第2の偏光画像のそれぞれから点広がり関数を抽出する点広がり関数抽出ステップと、
    前記点広がり関数の差から距離情報を計算する距離情報計算ステップと、
    を含むことを特徴とする距離計測方法。
  15. 請求項14に記載の距離計測方法において、
    前記撮像対象の特徴点を抽出する特徴点抽出ステップと、
    前記距離情報計算ステップにおいて距離情報の計算に使用する画像内の画素領域を、前記特徴点に基づいて決定する距離計測領域決定ステップ、
    を有することを特徴とする距離計測方法。
  16. 請求項14に記載の距離計測方法において、
    前記距離計測方法を実行する距離計測装置に含まれる撮像光学系の開口直径を、距離計測に適正な点広がり関数のサイズにするように変更する開口直径変更ステップを更に含む、
    ことを特徴とする距離計測方法。
  17. 請求項14に記載の距離計測方法において、
    前記距離計測方法を実行する距離計測装置を搭載した移動式機械装置の走行状況を判定する走行モード判定ステップと、
    前記走行モード判定ステップでの判定結果に基づいて、前記点広がり関数の差から距離情報を計算する際の距離範囲を決定する距離範囲決定ステップと、
    を更に含む、
    ことを特徴とする距離計測方法。
JP2019504209A 2017-03-08 2017-03-08 距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、及び周辺監視システム Active JP6756898B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/009306 WO2018163335A1 (ja) 2017-03-08 2017-03-08 距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、周辺監視システム、及び距離計測方法

Publications (2)

Publication Number Publication Date
JPWO2018163335A1 true JPWO2018163335A1 (ja) 2019-11-21
JP6756898B2 JP6756898B2 (ja) 2020-09-16

Family

ID=63448611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019504209A Active JP6756898B2 (ja) 2017-03-08 2017-03-08 距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、及び周辺監視システム

Country Status (4)

Country Link
US (1) US11422372B2 (ja)
JP (1) JP6756898B2 (ja)
CN (1) CN110392818B (ja)
WO (1) WO2018163335A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11348269B1 (en) * 2017-07-27 2022-05-31 AI Incorporated Method and apparatus for combining data to construct a floor plan
CN111175769B (zh) * 2020-02-14 2022-05-27 深圳奥锐达科技有限公司 一种离轴扫描距离测量系统
CN112595674A (zh) * 2020-11-20 2021-04-02 江西欧迈斯微电子有限公司 接收器、取像模组及电子设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61277919A (ja) * 1985-05-31 1986-12-08 Canon Inc 焦点距離可変レンズ
JP2010016743A (ja) * 2008-07-07 2010-01-21 Olympus Corp 測距装置、測距方法、測距プログラム又は撮像装置
JP2013108990A (ja) * 2012-12-13 2013-06-06 Konica Minolta Inc 障害物計測方法、障害物計測装置及び障害物計測システム
JP2014013146A (ja) * 2012-07-03 2014-01-23 Canon Inc 3次元計測装置及びロボット装置
JP2015034732A (ja) * 2013-08-08 2015-02-19 キヤノン株式会社 距離算出装置、撮像装置および距離算出方法
JP2015046777A (ja) * 2013-08-28 2015-03-12 キヤノン株式会社 撮像装置および撮像装置の制御方法
WO2016208215A1 (ja) * 2015-06-24 2016-12-29 株式会社村田製作所 距離センサ及びユーザインタフェース装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007205918A (ja) * 2006-02-02 2007-08-16 Olympus Corp 計測内視鏡
JP5848177B2 (ja) 2012-03-27 2016-01-27 日本放送協会 多重フォーカスカメラ
JP6391316B2 (ja) * 2014-06-25 2018-09-19 キヤノン株式会社 撮像装置
JP2016148569A (ja) * 2015-02-12 2016-08-18 キヤノン株式会社 画像測定方法、及び画像測定装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61277919A (ja) * 1985-05-31 1986-12-08 Canon Inc 焦点距離可変レンズ
JP2010016743A (ja) * 2008-07-07 2010-01-21 Olympus Corp 測距装置、測距方法、測距プログラム又は撮像装置
JP2014013146A (ja) * 2012-07-03 2014-01-23 Canon Inc 3次元計測装置及びロボット装置
JP2013108990A (ja) * 2012-12-13 2013-06-06 Konica Minolta Inc 障害物計測方法、障害物計測装置及び障害物計測システム
JP2015034732A (ja) * 2013-08-08 2015-02-19 キヤノン株式会社 距離算出装置、撮像装置および距離算出方法
JP2015046777A (ja) * 2013-08-28 2015-03-12 キヤノン株式会社 撮像装置および撮像装置の制御方法
WO2016208215A1 (ja) * 2015-06-24 2016-12-29 株式会社村田製作所 距離センサ及びユーザインタフェース装置

Also Published As

Publication number Publication date
US11422372B2 (en) 2022-08-23
CN110392818B (zh) 2021-11-09
JP6756898B2 (ja) 2020-09-16
WO2018163335A1 (ja) 2018-09-13
US20210132382A1 (en) 2021-05-06
CN110392818A (zh) 2019-10-29

Similar Documents

Publication Publication Date Title
US10455218B2 (en) Systems and methods for estimating depth using stereo array cameras
US20150145950A1 (en) Multi field-of-view multi sensor electro-optical fusion-zoom camera
JP2018077190A (ja) 撮像装置及び自動制御システム
JP2013546238A (ja) カメラ撮像システムおよび方法
JP2018160228A (ja) 経路生成装置、経路制御システム、及び経路生成方法
KR101737085B1 (ko) 3차원 카메라
WO2018163335A1 (ja) 距離計測装置、ヘッドマウントディスプレイ装置、携帯情報端末、映像表示装置、周辺監視システム、及び距離計測方法
US20110090317A1 (en) Stereovision system and method for calcualting distance between object and diffractive optical element
JP5278814B2 (ja) ステレオカメラ装置及び車外監視装置
WO2013047627A1 (ja) 画像取得装置
JP2013025298A (ja) 立体画像撮像装置
KR101545971B1 (ko) 복합 영상 센싱 시스템
JP7288226B2 (ja) 測距カメラ
JP5802516B2 (ja) 画像取得装置
JP2011215545A (ja) 視差画像取得装置
JP2014036298A (ja) 撮像装置
JP6202364B2 (ja) ステレオカメラ及び移動体
WO2016104235A1 (ja) ステレオ撮像装置及び移動体
JP6598621B2 (ja) 撮像装置
JP2014041171A (ja) 偏光装置及び撮像装置
CN111258166B (zh) 摄像模组及其潜望式摄像模组和图像获取方法及工作方法
JP2011182041A (ja) 撮像装置
US11513266B2 (en) Systems and methods for an improved camera system using directional optics to estimate depth
WO2016092254A1 (en) Apparatus and method for optical imaging
JP7242822B2 (ja) 推定システムおよび自動車

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200827

R150 Certificate of patent or registration of utility model

Ref document number: 6756898

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250