JP2014199241A - ステレオカメラ - Google Patents

ステレオカメラ Download PDF

Info

Publication number
JP2014199241A
JP2014199241A JP2013152735A JP2013152735A JP2014199241A JP 2014199241 A JP2014199241 A JP 2014199241A JP 2013152735 A JP2013152735 A JP 2013152735A JP 2013152735 A JP2013152735 A JP 2013152735A JP 2014199241 A JP2014199241 A JP 2014199241A
Authority
JP
Japan
Prior art keywords
stereo camera
light
polarization
camera according
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013152735A
Other languages
English (en)
Inventor
亮介 笠原
Ryosuke Kasahara
亮介 笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2013152735A priority Critical patent/JP2014199241A/ja
Publication of JP2014199241A publication Critical patent/JP2014199241A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/283Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/22Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the stereoscopic type
    • G02B30/25Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the stereoscopic type using polarisation techniques
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • G03B35/10Stereoscopic photography by simultaneous recording having single camera with stereoscopic-base-defining system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/214Image signal generators using stereoscopic image cameras using a single 2D image sensor using spectral multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Optics & Photonics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Measurement Of Optical Distance (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】温度変化に伴うレンズの歪み変化や取付具の取付位置変化に影響されず、かつ安価なステレオカメラを提供する。【解決手段】被写体に対して視差を有する画像を取得するステレオカメラにおいて、直交する方向に偏光方向が異なる視差を有する2つの画像の光路を1つに重ね合わせるクロスプリズム205及び偏光ビームスプリッタ等を含む偏光合波手段と、少なくとも2つの偏光方向の輝度を検出する撮像素子202と、重ね合わさった画像を撮像素子202に結像させるレンズ204とを有する。【選択図】図4

Description

本発明は、被写体に対する視差を有する画像を取得するステレオカメラに関するものである。
従来、自車両前方の先行車両との車間距離を測定し、その車間距離を維持するための自車速度調整機能を有するACC(Adaptive Cruise Control)等の運転者支援システムが開発されている。先行車両との距離を測定する技術として、従来からステレオカメラが知られている。ステレオカメラは、被写体に対して視差を有する2つの撮像手段の撮影画像を解析することにより、被写体の位置情報を演算するものである。このステレオカメラとして特許文献1〜3に記載のものが知られている。特許文献1、2のステレオカメラでは、左右のレンズ群の光学部材を介して得られる2つの画像を形成する光を偏光フィルタに入射させることによって、2つの偏光成分の光をそれぞれ取得する。取得した2つの偏光成分の光は、撮像部の撮像素子における受光素子の配列に対応して配列されている偏光子領域にそれぞれ入射されて、2つの偏光成分の光の偏光方向に対応する受光素子に受光される。各受光素子で受光した2つの偏光成分の光によって形成される画像から視差画像を生成し、この視差画像に基づいて被写体までの距離を測定している。特許文献3のステレオカメラには、撮像素子上に領域分割した偏光子を組み込み、対応する左右の画像を形成する光をレンズへの違う入射角にそれぞれに割り当てることでステレオ画像を撮像するシステムが提案されている。
上記特許文献1、2のステレオカメラを用いて左右の画像の視差により被写体までの距離を高精度に測定するためには、対応する左右の画素どうしが0.1ピクセル精度でほぼ一致するようにする。そして、左右の撮像系によって撮影される同じ画像の対応する画素位置が一致させることが必要である。そのため、距離測定には、チャートなどを撮影してチャートの画像に基づいてレンズの固体差を含んだ歪みや左右の撮像手段の位置をキャリブレーションすることが必須となっている。
しかしながら、上記特許文献1、2のステレオカメラでは左右独立のレンズ群の光学部材を用いているので、左右の光学部材に温度差があるだけでも左右の光学部材の歪みの出方が互いに異なる。この結果、左右の撮像手段の対応画素に数ピクセルの位置誤差が発生してしまう。また、左右の撮像手段間の位置を固定する取付具には通常金属を用いており、金属の線膨張係数は一般にガラスに比べて非常に大きい。そのため、環境温度変化によって、左右の撮像手段の取付位置関係は容易にずれてしまい、左右の撮像手段において互いに対応する画素に数ピクセルの位置誤差が発生してしまう。このような問題は上記特許文献3の構成でも発生し、鏡を用いて2つの光を重ね合わせる構成では、レンズに入射して対応する左右からの光の入射角度をまったく同じに重なることはできない。つまり、左右からの光を完全に重ねることができない。このため、同じく温度によりレンズの歪みなどが変わった場合左右の対応画素がずれることになる。このような環境温度変化による誤差を修正するために、光学部材の歪みの補正や左右の撮像手段の取付位置に対する補正を含むキャリブレーションを随時行う必要があったため、装置自体が高価になるという問題があった。
本発明は以上の問題点に鑑みなされたものであり、その目的は、温度変化に伴うレンズの歪み変化や撮像手段の取付具の取付位置変化に影響されず、かつ安価なステレオカメラを提供することである。
上記目的を達成するために、請求項1の発明は、被写体に対して視差を有する画像を取得するステレオカメラにおいて、直交する方向に偏光方向が異なる視差を有する2つの画像の光路を1つに重ね合わせる偏光合波手段と、少なくとも2つの偏光方向の輝度を検出する撮像手段と、重ね合わさった画像を前記撮像手段に結像させる光学部材とを有することを特徴とするものである。
本発明では、視差を有する2つの画像を形成する左右の光の光路が重ね合わされて、重ね合わされた光は光学部材を介して撮像手段に結像している。このため、温度変化により光学部材の歪みが変化した場合、その歪みの影響は、視差を有する2つの画像を形成する光それぞれに同じように及ぶ。温度変化により撮像手段の取付位置がずれた場合、その取付位置ずれによって、視差を有する2つの画像を形成する光が撮像手段の受光面上でそれぞれ同じように変化する。この結果、温度による光学部材の歪みや撮像手段の取付位置変化が例えば被写体までの距離算出に与える影響は少ない。これにより、温度変化に伴う光学部材の歪みの補正や撮像手段の取付位置ずれに対する補正を含むキャリブレーションを行う必要がなくなる。よって、温度変化に伴うレンズの歪み変化や撮像手段の取付具の取付位置変化に影響されず、かつ安価なステレオカメラを提供できる、という特有な効果が得られる。
(a)、(b)はステレオカメラの実施例1の構成を示す概略図である。 (a)、(b)は被写体からプリズム分の光路厚さを通って、レンズにより撮像素子に結像する光路の例を示す図である。 ステレオカメラの実施例2の構成を示す図である。 ステレオカメラの実施例2の構成を示す図である。 ステレオカメラを車両に搭載した例を示す図である。 実施例2の変形例1の構成を示す図である。 実施例2の変形例2の構成を示す図である。 ステレオカメラの実施例3の構成を示す概略図である。 ステレオカメラの実施例4の構成を示す概略図である。 クロスプリズムとプリズムとの間を保持する様子を示す概略図である。 (a)、(b)はステレオカメラの実施例5の構成を示す概略図である。 光学絞りを撮像レンズの内部に配置した場合の概略図である。 ステレオカメラの実施例5の構成を示す図である。 ステレオカメラの実施例6の構成を示す図である。 ステレオカメラの実施例7の構成を示す図である。 ステレオカメラの実施例8の構成を示す図である。 ステレオカメラの実施例9の構成を示す図である。 ステレオカメラの実施例10の構成を示す図である。 キャリブレーションを説明する概略図である。 偏光選択型のクロスプリズムの構成の一例を示す概略斜視図である。 偏光選択型のクロスプリズムの構成を示す概略平面図である。 クロスプリズムに入射する光の光路の様子を示す概略平面図である。 クロスプリズムに入射する光の光路の様子を示す概略平面図である。 ワイヤグリッド構造で形成された偏光子膜の顕微鏡写真を示す図である。 クロスプリズムの製造工程の一例を示す模式工程図である。 クロスプリズムの製造工程の一例を示す模式工程図である。 クロスプリズムの製造工程の一例を示す模式工程図である。 クロスプリズムの変形例1を示す概略平面図である。 クロスプリズムの変形例2の構成を示す概略平面図である。 クロスプリズムの変形例2の光路の様子を示す概略平面図である。 クロスプリズムの変形例2の光路の様子を示す概略平面図である。 クロスプリズムの変形例3の構成を示す概略平面図である。 (a)は、クロスプリズムの変形例4の構成を示す概略平面図であり、(b)及び(c)は、クロスプリズムの変形例4の光の光路の様子を示す概略平面図である。 (a)、(b)、(c)はクロスプリズムの構成例を示す図である。 光学フィルタと撮像素子の位置関係の対応を例示する図である。 光学フィルタと撮像素子の位置関係の断面図である。 (a)はモノクロセンサにおける画像処理装置の全体構成を示すブロック図であり、(b)は視差計算処理部の構成を示すブロック図である。 (a)はRCCC/カラーセンサにおける画像処理装置の全体構成を示すブロック図であり、(b)は視差計算処理部の構成を示すブロック図である。 偏光分離処理を説明する図である。 クロスプリズムにおけるプリズム間の隙間を説明する図である。 (a)、(b)は画像上の隙間を埋める処理を説明する図である。 カラーフィルタ及び偏光フィルタの配列を説明する図である。 倍率色収差補正と歪曲収差補正の原理を説明する図である。 撮像素子で実際に撮像される位置を説明する図である。 (a)、(b)は倍率色収差と歪曲収差の補正を説明する図である。 (a)、(b)は等角直線フィッティング及びパラボラフィッティングにおけるサブピクセル推定値と相違度の関係を示す特性図である。
以下、本発明のステレオカメラに係る実施形態の構成について説明する。
図1は実施形態のステレオカメラの実施例1の構成を示す概略図である。各図1(a)と図1(b)に示すステレオカメラ100は、偏光合波手段としての偏光重畳モジュール101、光学部材としてのレンズ102、フィルタ103及び撮像素子104を含んで構成されている。フィルタ103及び撮像素子104は撮像手段として機能する。そして、偏光重畳モジュール101は、偏光ビームスプリッタ101−1、偏光フィルタ101−2及びミラー101−3を備えている。図1に示すステレオカメラ100は、偏光ビームスプリッタ101−1と偏光フィルタ101−2を用いて視差を有する2つの画像を形成する光(左右からの光)の2つの光路を合成し、1つのレンズ102を介して1つの撮像素子104で撮像する。つまり、レンズ102の前で完全に2つの光路は合成され、1つのレンズしか通らない。このため、レンズの特性が温度でずれたり、レンズの位置がずれたり、あるいはセンサの位置がずれたりしようが、両方の画像が同じようにずれるだけなので、完全に影響をキャンセルすることができる。これにより、非常に耐環境性のあるステレオカメラを実現できる。また、レンズとセンサが1つで済むため、安価である。更に、撮像素子とレンズとの位置関係がずれた場合にも、左右の画像が同じようにずれるため原理的に影響をキャンセルすることができる。各図1(a)及び図1(b)のフィルタ103は、画素ごとに偏光子を有するフィルタである。ただし、各図1(a)及び図1(b)の構成においては、左右からの光の光路において、光路長差が生じており、例えば2つ画像の視差におけるピクセルマッチング処理で生じた光路長差を補填する処理が必要となるため現実的ではない。
また、この構成では、左右からの各光の被写体からの距離が異なるため、レンズを通る同一位置の左右からの光の光路が互いに一致しない。そのため、温度特性などにより、左右の画像の位置関係がずれてしまうという問題があった。人が眼でみるための三次元撮影・表示システムであり、高精度な左右の画像のマッチングが必要とされる距離を測定する測距演算が目的ではない場合にはこのような構成でも問題ない。しかし、測距演算を行う場合には、前述のとおり、測距演算のためには左右の画素どうしが0.1ピクセル精度でほぼ一致するようにする必要がある。このため、この構成では温度が変化した場合などに測距距離の誤差が大きくなる。
次に、プリズム(偏光合波手段としての偏光重畳モジュール)分の光路厚さにより被写体からの光の光路が変わる点について説明する。図2(a)及び図2(b)に示す例は、被写体111からプリズム分の光路厚さを通って、レンズ113により撮像素子114に結像する光の光路の例である。図2(a)に示すように、被写体111からの左右の光は共に同じプリズム112を通る。そして、プリズム112の光路厚さが図2(a)に示されるような場合には、左右からの光ともレンズ113を通る同じ光路を有しているので、外乱の影響をキャンセルすることが可能である。しかし、図2(b)に示すように、プリズム112の光路厚さが図2(a)のプリズム112の光路厚さより厚くなった場合には、図2(b)中の点線で示すようにレンズ113を通る光の光路がずれることになる。図2(b)中の実線は図2(a)の光路を示している。ここで、例えば、左右からの各光の被写体111からの距離が異なり、レンズ113を通る同一位置の左右の光の光路が互いに一致しない場合には、右からの光が図2(a)の状態、左からの光が図2(b)の状態となる。これでは、温度など外乱の影響をキャンセルすることができない。
図3及び図4は本実施形態のステレオカメラの実施例2の構成を示す図である。図4に示すように、ステレオカメラ200は、基板201上に撮像素子202が実装され、撮像素子202上に光学フィルタ203が密着配置している。撮像レンズ204を介して被写体情報を得る。撮像レンズ204の前段には偏光選択型のクロスプリズム205が配置されている。更に、偏光選択型のクロスプリズム205の側面206、207に近接して二つの三角柱のプリズム208、209がそれぞれ左右に設けられている。
ステレオカメラ200では光学フィルタ203としてP偏光情報とS偏光情報を画素単位で抽出可能な領域分割型偏光フィルタを有している。また、撮像レンズ204の前段に偏光選択型のクロスプリズム205、さらにクロスプリズム205に隣接してプリズム208、209を2個配置している。プリズム208、209は+Z方向からの光をY軸方向に偏光反射する全反射面を有する。偏光選択型のクロスプリズム205は、−Y方向から側面206に入射するS偏光成分の光と、+Y方向から側面207に入射するP偏光成分の光を側面210の方向に偏光反射する。これにより、−Y方向のS偏光と、+Y方向のP偏光が抽出することが可能である。
図1のステレオカメラ100とは異なり、各図3及び図4に示されるステレオカメラ200は+Z方向のP偏光とS偏光を同時取得することが可能である。また、図4から明らかなように、左右のプリズム208、209の光線有効範囲の間に一定の距離を有するため、光路が互いに一致したP偏光とS偏光によって形成される画像から視差画像を形成することが可能である。このように本実施形態のステレオカメラは被写体までの距離情報が取得可能なステレオカメラとして構成されている。従来の単一撮像素子と単一レンズをふた組並列配置させたステレオカメラに比べて、撮像レンズと撮像素子がひと組で済むため低コスト化が図れる。また、従来のステレオカメラではレンズ間の隙間を支持する筐体の熱膨張などによる基線長の変化の測距誤差が生じる。しかし、本ステレオカメラでは撮像レンズは1つであり、かつ支持部材自体に対応するプリズム自体が金属に対して熱膨張率の小さいため、基線長変化の測距への影響も抑制することが可能である。
なお、プリズムのように、ガラスなどの媒質で充填された構造ではなく、後述するように単なるミラーとクロス形状に配置される偏光板の組み合わせでも同様の構造は作れる。その場合、レンズの画角が狭くならず、プリズムの場合と同じ角度で各ミラーは光を受ける必要がある。このため、偏光合波手段としての偏光重畳モジュールがきわめて大きくなる。よって、特に距離が長い被写体に近いミラー面から次のミラー面までが高屈折率の媒質で充填されている構造を用いることが小型化には重要である。
本実施形態のステレオカメラを、例えば、図5に示すように自動車の車両前方領域を確認するものとして使用することが可能である。車両前方確認装置は、自動車のフロントガラス内側のバックミラー付近に装備されたステレオカメラ301と、ステレオカメラ301からの情報に基づいて、ドライバへの警告や車両の制御を行うための信号処理装置302とを含んで構成されている。ドライバへの警告方法としては、スピーカを使って音声などにより障害物情報を警告する。また車両制御としては、障害物がある場合は減速させたりする。本実施形態のステレオカメラを用いれば、車両前方の画像情報だけでなく、車両前方の先行車や歩行者までの距離情報を取得可能であり、障害物がある場合は運転者に早期警告を行うなどの、運転の安全性を確保することができる。
なお、車の車内に本実施形態のステレオカメラを設置する場合には、フロントガラスなどガラスを通じて外の被写体を撮影することになる。その時、フロントガラスの歪みや厚みムラ、曲率などが左右の対応する部分で異なり、左右からの光が形成する画像のマッチングが取れなくなる場合がある。これをキャンセルするためには、車内に撮像素子やレンズ部のみを設置し、ガラスよりも外側にクロスプリズムを設置すると良い。こうすることで、左右からの光共に同じフロントガラスの部分を通ることになり、同じようにフロントガラスの影響を受けるため、左右からの光が形成する画像はフロントガラスの具合によらず常にマッチングが可能となる。
また、本実施形態のステレオカメラは、人間の左右の眼に異なる画像を映しだすことにより、人間の眼に3次元の画像を表示するテレビと映画投影機などの表示装置とを組み合わせる。この結果、3次元の画像の取得と表示とを行う3次元画像取得・表示システムを構成することができる。人間の眼は左右の画像の回転や、大きさ、上下のずれ、また画質の違いに敏感である。このため、従来の2つのレンズを有するステレオカメラでは、ズーム/フォーカスを変更する際に、左右のレンズを連動させ、光軸や画像サイズ、フォーカスのずれを生じさせないように複雑な操作技術が必要とされていた。それに対して、本発明の構成では、単一のレンズに対して視差を持った2つの画像を形成する光が入射されるため、単一のレンズのズームやフォーカスを変更すれば、人間の左右の眼で見られる画像に全く同じ変化が反映される。これにより、左右で2つの異なる光学特性を持つことによって生じる光軸や画像サイズ、フォーカスずれを抑制することが可能で自然な立体画像を取得することができる。なお、ズームなどの光学系を可変にする場合には、2つのレンズの特性を厳密に補正するのは非常に困難となるため、本発明の構成は特に有用である。
また、プリズムの屈折率により入射光の角度が浅くなる現象が使えなくなるために、光学レイアウトが若干大きくなるが、図4の構成のプリズム208、209をミラー211、212に替えた実施例2の変形例1の図6の構成でも良い。また、実施例2の変形例2の図7に示すように、中央に配置されるクロスプリズム205に関しても、プリズムではなく、単なるクロス形状に配置される偏光板250−1、250−2の組み合わせ(図7中では偏光選択型クロス板250)としても良い。その場合には、同じくプリズムの屈折率により入射光の角度が浅くなる現象が使えなくなるために、光学レイアウトが若干大きくなるものの、使用する硝材の量が少なくて済むため、コストを下げることができる。左右にはプリズムが配置され、中央部には偏光選択型クロス板が配置される構成でも良い。
次に、ステレオカメラの実施例3について説明する。
図8はステレオカメラの実施例3の構成を示す概略図である。図8に示すステレオカメラ200は、偏光選択型のクロスプリズム205の上と下でセンサユニットを設けている。例えば、撮像素子214がカラー、撮像素子202がモノクロとする。あるいは、撮像素子214を高解像度なモノクロ、撮像素子202を低解像度なカラーとする。一般に色情報は輝度情報、また距離情報よりも高い空間分解能は必要ないことを前提と考えると、高い測距性能を確保できる高感度高解像度なモノクロセンサと、モノクロよりも感度で劣るカラーセンサは低解像度というセットで使う。これにより、明るい場面から暗い場面まで高い測距性能と、色情報を同時に得ることができる。また、この場合も光軸が左右で一致するため、キャリブレーションが容易である。
次に、ステレオカメラの実施例4について説明する。
図9はステレオカメラの実施例4の構成を示す概略図である。図9に示すステレオカメラ200は、雨滴検出機能を持たせたものである。LED赤外光の光源220をウインドシールド221に投光し、センサ上面に付加した投光波長の光のみを通過させるフィルタ223を通じて、その反射光を見ることでウインドシールド221に付着した雨滴を検出することが可能である。そして、フロントガラスの全面が検出エリアとして利用できるため、より高感度な雨滴検出が可能となる。精度を向上させるためには、検出面積が大きいことが重要であるが、図9の上部を使うことで、ステレオカメラと干渉せずに画面全面に対して検出を行うことができる。また、検出としては、画面全面における反射光の光量の和を見ればよいので、必ずしも検出に撮像素子を用いる必要はなく、かつ雨滴検出用のレンズの解像度も必要ない。このため、1つのPD(Photo Detector)222と簡単なレンズ(例えば単レンズ)224などを用いる構成でも問題ない。
ここで、ステレオカメラの固定について説明する。
クロスプリズム205と各プリズム208、209との間は接着剤で固定しても良い。左右の光線を合わせるために、プリズムの角度を調整する必要がある場合には、クロスプリズム205と各プリズム208、209の間に若干隙間ができる場合がある。その場合には、図10のようにクロスプリズム205と各プリズム208、209との間を保持する保持部材230で固定するのが良い。保持部材230が金属の場合には、その金属はプリズム208、209を主に構成するガラスに比べて熱膨張率が非常に大きい。このため、なるべく金属の保持部材230が短くて済むように、図10のように隙間を埋めるだけのできるだけ小さい方が良い。また、可能であれば保持部材230に関しても同様に熱膨張率が小さいガラスで構成すると、温度特性に対する耐環境性が良くなる。
次に、ステレオカメラの実施例5について説明する。
各図11(a)及び図11(b)はステレオカメラの実施例5の構成を示す概略図である。本実施例は、実施例1〜4で用いていた、偏光選択型のクロスプリズムや偏光選択型の偏光板を用いずに、PBS(偏光ビームスプリッタ)膜とミラー面(反射面)を用いている。そして、実施例1における左右からの光の光路において、光路長差が生じているという課題を解決できる構成である。本実施例の構成では、左右からの光(光Lとしての左の光、及び光Rとしての右の光)の光路長は略同一となっている。このため、通常のステレオカメラと同じく、単に視差演算の際に横方向のピクセルのみを探索することで視差を得ることができる。また、この構成では、クロスプリズムを用いる構成と異なり、一枚のPBSとミラーとを用いるため、画面中央の欠陥部(隙間)は存在せず、後述の隙間を埋める処理は必要なくなる。光R(一方の光)はミラー面(反射面)233により反射され、更に光RのP偏光の光は偏光ビームスプリッタ膜231で反射される。光L(他方の光)はミラー面232、234によりそれぞれ反射され、光LのS偏光の光は偏光ビームスプリッタ膜231を透過する。そして、P偏光とS偏光の光が合波され、撮像レンズ204に入射されて撮像素子202に結像する。光L、Rとは互いに同じ光路長差を有する。ここで、偏光ビームスプリッタ膜231としては、多層膜を使ったものでもよく、ワイヤグリッド偏光子を用いたものでもよいが、広範囲な入射角および入射波長に対して、安定した性能を持つワイヤグリッド偏光子を用いることが望ましい。
また、実施例5において光学系を小さく構成するために、画角中央の光線との、偏光ビームスプリッタ膜及びミラー面のなす角度αを45度より大きく設定している。図11(a)は、偏光ビームスプリッタ膜で反射又は透過した光が入射するミラー面のなす角度αを52度に設定した場合である。同様に、図11(b)は角度αを45度に設定した場合である。図11(b)における角度αを45度にした場合では、図11(a)における角度αを52度とした場合と比較して、撮像レンズ204の画角端の光線が図中の左右方向へ大きく飛び出している。大きく飛び出した光線をカバーするため、プリズムの大きさが大きくなっている。つまり、画角中央の光線との、偏光ビームスプリッタ膜及びミラー面のなす角度αを45度より大きく設定することで、プリズムの大きさを小さくすることができる。角度αの上限値は90度となる。ただし、角度αの上限値が90度である場合には逆に角度αが45度の場合よりプリズムの大きさが大きくなるので、最適値はレンズの画角に依存する。更に、図11(a)に示すように光学絞り235をプリズム側寄りに配置していることに対して、図12に示すように光学絞り235を撮像レンズ204の内部に配置している。図12の光学絞り235の配置では、プリズムに対して既に画角に応じて光線が広がりを持つことになり、プリズムの大きさが図11(a)の光学絞り235の配置の場合のプリズムより大きくなっている。撮像レンズの光学絞りの位置は、撮像レンズよりプリズム側寄りの前方にある前絞りの位置であることが望ましい。なお、撮像レンズの絞りの位置はプリズム内部にあっても良く、その場合には例えば、偏光ビームスプリッタ表面に円形の絞りを形成すればよい。その場合にはより、プリズムを小型化することができる。
また、偏光ビームスプリッタ膜231は実際にはP偏光が反射モードにおいても、S偏光も若干反射するなど、完全な動作をするわけではない。そのため、左右からの光にクロストークを生ずる場合がある。その場合には図13に示すように、被写体から偏光ビームスプリッタ膜231までの光路の中に左右に偏光方向が互いに直交する偏光子241、241をそれぞれ設けることでこのクロストークを低減することができる。
また、以上の構成では、左右からの光において、偏光が異なるため、被写体からの光に偏光特性があった場合には、視差のほかに偏光特性の差までが左右の光の差として取得されることになる。このことは、被写体からの光の偏光特性まで取得できるという点では利点があるが、距離を測る視差演算に関しては誤差を発生させる要因ともなる。そのため、以下の構成を取ることで、左右で被写体からの同じ方向の偏光の光を得ることができ、測距精度を向上させることができる。
図14は本発明のステレオカメラの実施例6の構成を示す概略図である。同図において、被写体から偏光ビームスプリッタ膜231までの間に、被写体からの一方の光の偏光方向を被写体からの他方の光の偏光方向が互いに一致する角度で1/2波長板242をひとつ設ける。このため、被写体からの左右の光として同じ偏光方向の光を得ることができる。なお、図中の偏光子241、241はクロストークの低減のために入れているだけで、なくても良い。
図15は本発明のステレオカメラの実施例7の構成を示す概略図である。同図において、図14のような1/2波長板242の構成では被写体からのある偏光方向の光を撮像することになるが、1/2波長板242の代わりに、被写体から偏光ビームスプリッタ膜231までの間に、二つの1/4波長板243、243を左右にそれぞれ設ける。このため、左右とも円偏光を撮像していることとなり、偏光方向に依存しない光を撮像することになる。なお、図中の偏光子241、241はクロストークの低減のために入れているだけで、なくても良い。
図16は本発明のステレオカメラの実施例8の構成を示す概略図である。同図において、プリズム208、209の一部(ハッチングで示す部分)の材料を替え、ポリカーボネートなど光弾性係数が大きくランダムに複屈折があるような材料にする。これにより、入射してくる光の偏光をランダムにし、左右とも偏光方向に依存しない光を撮像することができる。
なお、上記実施例6〜8の構成は、実施例5の構成に限定されるものではなく、他の実施例の構成でも、1/2波長板、1/4波長板、又は光弾性係数が大きくランダムに複屈折があるような材料を用いることで実施可能である。
図17は本発明のステレオカメラの実施例9の構成を示す概略図である。同図において、実施例5との違いは、偏光ビームスプリッタ膜231に替えて、ハーフミラー244を用い、被写体からハーフミラー244までの光路の中に左右に偏光方向が互いに直交する偏光子241、241をそれぞれ設けている点である。本実施例の構成では、撮像素子に受光する光量が実施例1〜8に比して半分になってしまうが、高価な偏光ビームスプリッタ膜が必要ないため、安価に構成することができる。
図18は本発明のステレオカメラの実施例10の構成を示す概略図である。偏光ビームスプリッタ膜は光の長い波長域では特性が悪化する傾向がある。そのため、本実施例では、上記実施例9の構成に加えて、撮像素子と撮像レンズとの間に、赤外線カットフィルタ245を設け、光L、光R間で生じるクロストークを低減することができる。なお、赤外線カットフィルタ245の設置位置は、図18に示す位置に限らず、被写体から撮像素子までの間であればよい。また、偏光ビームスプリッタ膜に伴う光Lと光Rの透過光量を調整するために、光Lと光Rの光路のいずれかに減光フィルタを設けてもよい。
次に、アライメントマークを用いて左右からの光の位置を一致させる実施例について説明する。
この構成ではレンズに入射する光線を一致させるために利用するマーカーとして、図19に示すように光路上のクロスプリズム205やプリズム208、209に何等かのアライメントマーカー240を入れておくと良い。このアライメントマーカー240は例えば何らかのシールのようなものでも良いし、色を塗っても良いが、センサ上に結像していた方が望ましいため、曲率を持ったマーカーとすることが望ましい。このアライメントマーカー240を用いることで、製造時のキャリブレーションが容易になるほかに、使用中何らかの環境変化や衝撃などにより左右の位置関係がずれた場合に検出を行い、誤ってブレーキをかけるなどの重大アクシデントを防止することができる。
次に、本実施形態のステレオカメラに用いている偏光選択型のクロスプリズムの構成について説明する。
図20は偏光選択型のクロスプリズムの構成の一例を示す概略斜視図である。図21は偏光選択型のクロスプリズムの構成を示す概略平面図である。図20に示すように、クロスプリズム10は、三角柱プリズム1、2、3、4の頂角14、24、34、44どうしを突き合せて配置し、対向する三角柱プリズム1、2、3、4どうしを貼り合わせて接着固定されている。そして、対向する三角柱プリズム1、2、3、4の間には、上述したワイヤグリッド構造の偏光板がそれぞれ挟まれている。このように三角柱プリズムを設けることによって偏光板の平板収差を少なくすることができる。
そして、図21に示すように、クロスプリズム10の平面形状は、略正方形になっている。このクロスプリズム10は、ガラスなどから成る略直角二等辺三角柱の四個の三角柱プリズム1、2、3、4、4つのワイヤグリッド構造の偏光板5、6、7、8、および接着層9を備えている。四個の三角柱プリズム1、2、3、4どうしが対向して隔てて形成される間隙に、接着剤からなる接着層9及び偏光板5、6、7、8がそれぞれ形成されている。
三角柱プリズム1は、三つの側面11、12、13と、側面12、13が略直角に交わる頂角14を有し、略直角二等辺三角柱に形成されている。三角柱プリズム2は、三つの側面21、22、23と、側面22、23が略直角に交わる頂角24を有し、略直角二等辺三角柱に形成されている。三角柱プリズム3は、三つの側面31、32、33と、側面32、33が略直角に交わる頂角34を有し、略直角二等辺三角柱に形成されている。三角柱プリズム4は、三つの側面41、42、43と、側面42、43が略直角に交わる頂角44を有し、略直角二等辺三角柱に形成されている。そして、三角柱プリズム1、2、3、4は、頂角14、24、34、44どうしを突き合せて配置されている。
偏光板5は、平面基板51と、偏光子層52と、図示しない充填層とを有している。平面基板51上に偏光子層52が形成され、さらに偏光子層52は図示しない充填層によって覆われたものである。そして、図中の±X方向から進行してくる光に対して、Y方向に偏光方向を有する光は反射し、Z方向に偏光方向を有する光は透過する。偏光板6は、平面基板61と、偏光子層62と、図示しない充填層とを有している。平面基板61上に偏光子層62が形成され、さらに偏光子層62は図示しない充填層によって覆われたものである。そして、図中の±X方向から進行してくる光に対して、Y方向に偏光方向を有する光は透過し、Z方向に偏光方向を有する光は反射する。偏光板7は、平面基板71と、偏光子層72と、図示しない充填層とを有している。平面基板71上に偏光子層72が形成され、さらに偏光子層72は図示しない充填層によって覆われたものである。そして、図中の±X方向から進行してくる光に対して、Y方向に偏光方向を有する光は反射し、Z方向に偏光方向を有する光は透過する。偏光板8は、平面基板81と、偏光子層82と、図示しない充填層とを有している。平面基板81上に偏光子層82が形成され、さらに偏光子層82は図示しない充填層によって覆われたものである。そして、図中の±X方向から進行してくる光に対して、Y方向に偏光方向を有する光は透過し、Z方向に偏光方向を有する光は反射する。
また、偏光板5は、平面基板51に対して偏光子層52側を三角柱プリズム2の側面23側に向けて配置する。図示しない充填層面と側面23面間は接着剤で接合される。偏光板6は、平面基板61に対して偏光子層62側を三角柱プリズム2の側面22側に向けて配置する。図示しない充填層面と側面22面間は接着剤で接合される。偏光板7は、平面基板71に対して偏光子層72側を三角柱プリズム4の側面43側に向けて配置する。図示しない充填層面と側面43面間は接着剤で接合される。偏光板8は、平面基板81に対して偏光子層82側を三角柱プリズム4の側面42側に向けて配置する。図示しない充填層面と側面42面との間は接着剤で接合される。
そして、平面基板51と三角柱プリズム1の側面12との間は接着剤で接合される。平面基板61と三角柱プリズム3の側面33との間は接着剤で接合される。平面基板71と三角柱プリズム3の側面32との間は接着剤で接合される。平面基板81と三角柱プリズム1の側面13との間は接着剤で接合される。
接着層9は、三角柱プリズム1、2、3、4、偏光板5、6、7、8どうしが隔てる間隙に形成されている。そして、接着層9は、接着剤の硬化処理を一括して行うことにより形成され、四個の三角柱プリズムと、4枚の偏光板を接着固定している。この接着剤としては、透光性、ガラス接着性、精密性が良好な接着剤、例えば紫外線硬化型接着剤などが用いられる。
次に、図22及び図23を用いて、クロスプリズムに入射する光の光路について説明する。
図22に示すように、三角柱プリズム4の側面41から入射した光の光路I1、I2は、偏光方向に応じて光路が+Y方向、−Y方向それぞれに分岐される。三角柱プリズム4の側面41に入射する光の光路I1では、Y軸方向の偏光方向のP偏光成分の光は偏光板7の偏光子層72で反射され、偏光板8の偏光子層82で透過して−Y方向に進む。一方、三角柱プリズム4の側面41に入射する光の光路I1では、Z軸方向の偏光方向のS偏光成分の光は、偏光板7の偏光子層72を透過し、偏光板6の偏光子層62で反射され+Y方向に進む。三角柱プリズム4の側面41に入射する光路I2では、S偏光成分の光は偏光板8の偏光子層82で反射され、偏光板7の偏光子層72を透過して+Y方向に進む。一方、三角柱プリズム4の側面41に入射する光路I2ではP偏光成分の光は偏光板8の偏光子層82を透過し、偏光板5の偏光子層52で反射され−Y方向に進む。
図23に示すように、三角柱プリズム2の側面21から入射した光の光路I3、I4は、偏光方向に応じて光路が+Y方向、−Y方向それぞれに分岐される。三角柱プリズム2の側面21に入射する光路I3では、S偏光成分の光は偏光板6の偏光子層62で反射され、−Y方向に進む。一方、三角柱プリズム2の側面21に入射する光路I3では、P偏光成分の光は偏光板6の偏光子層62を透過し、偏光板7の偏光子層72で反射され+Y方向に進む。三角柱プリズム2の側面21に入射する光路I4では、P偏光成分の光は偏光板5の偏光子層52で反射され、偏光板6の偏光子層62を透過して+Y方向に進む。一方、三角柱プリズム2の側面21に入射する光路I4では、S偏光成分の光は偏光板5の偏光子層52を透過し、偏光板8の偏光子層82で反射され−Y方向に進む。
ここで、偏光板5、6、7、8としては、特定の偏光方向の偏光成分の光を透過し、それとは偏光方向が直交する偏光成分の光を反射する偏光板であればよい。この例では平面基板51、61、71、81上に、それぞれ偏光子層52、62、72、82を形成した偏光板を用いる。偏光子としてはワイヤグリッド構造などを用いればよい。偏光板5、6、7、8の平面基板51、61、71、81の材料としては、使用帯域(例えば、可視光域と赤外域)の光を透過可能な透明な材料、例えばガラス、サファイア、水晶等を用いることができる。この例では、ガラス、特に安価で、かつ耐久性もある石英ガラス(屈折率1.46)やテンパックスガラス(屈折率1.51)を用いると好適である。また、ガラスに限定されるものでなくプラスチックを用いてもよい。フィルム状のプラスチックを用いればプリズム間のギャップを狭くできるため、より望ましい。
次に、偏光子層について説明する。
偏光板5、6、7、8の偏光子層52、62、72、82はそれぞれ、図24に示すような、ワイヤグリッド構造で形成された偏光子膜を有し、その面は凹凸面である。ワイヤグリッド構造は、アルミニウム等の金属で構成された特定方向に延びる金属ワイヤー(導電体線)を特定のピッチで配列した構造になっている。図24に示す偏光子膜に溝方向の偏光方向の光が入射したとき、その光は反射され、図24に示す偏光膜に溝と直交する方向の偏光方向の光が入射したとき、その光は透過される。ワイヤグリッド構造のワイヤーのピッチ幅を、入射光の波長帯(例えば、可視光の波長域400[nm]から800[nm])に比べて十分に小さいピッチ(例えば1/2以下)とすることにより、以下の効果を奏する。すなわち、金属ワイヤーの長手方向に対して平行に振動する電場ベクトル成分の光をほとんど反射し、金属ワイヤーの長手方向に対して直交する方向に振動する電場ベクトル成分の光をほとんど透過させるため、単一偏光を作り出す偏光子層として使用できる。ワイヤグリッド構造の偏光子層は、一般に、金属ワイヤーの断面積が増加すると、消光比が増加し、更に金属ワイヤーのピッチ幅が所定の幅以上であると透過率が減少する。また、金属ワイヤーの長手方向に直交する断面形状がテーパー形状であると、広い帯域において透過率、偏光度の波長分散性が少なく、高消光比特性を示す。
そして、偏光子層をワイヤグリッド構造で形成することにより、以下の効果を有する。すなわち、ワイヤグリッド構造は、広く知られた半導体製造プロセスを利用して形成できる。具体的には、平面基板上にアルミニウム薄膜を蒸着した後、パターニングを行い、メタルエッチング等の手法によってワイヤグリッドのサブ波長凹凸構造を形成すればよい。また、ワイヤグリッド構造は、アルミニウム、チタン等の金属材料によって作製されるため、耐熱性に優れ、高温になりやすい環境下においても好適に使用できるという利点もある。ワイヤグリッド構造はサブミクロンオーダの構造物であるため組付などのハンドリングを想定すると保護しておくことが望ましい。
また、本例のように別部材(プリズムなど)へ密着接合する場合は、平行に配置されることが望ましく、平坦化層として充填材が形成されていることが望ましい。充填材は、偏光子層の金属ワイヤー間の凹部に充填される。充填材は、平面基板よりも屈折率が低いか又は同等の屈折率を有する無機材料が好適に利用できる。充填材は、偏光子層の金属ワイヤー部分の積層方向上面も覆うように形成されている。充填材の材料には、偏光子層の凹凸面を平坦化でき、かつ、偏光子層の機能を妨げない材料を用いる必要があるため、偏光機能を有しない材料を用いることが好ましい。また、充填材の材料には、その屈折率が空気の屈折率(屈折率=1)に極力近い低屈折率材料を用いることが好ましい。充填材の具体的な材料としては、例えばセラミックス中に微細な空孔を分散させて形成してなる多孔質のセラミックス材料が好ましい。より詳しくは、ポーラスシリカ(SiO)、ポーラスフッ化マグネシウム(MgF)、ポーラスアルミナ(Al)等を挙げることができる。
更に、これらの低屈折率の程度は、セラミックス中の空孔の数や大きさ(ポーラス度)によって決まる。平面基板の主成分が水晶やガラスからなる場合には、ポーラスシリカ(n=1.22〜1.26)が好適に使用できる。充填材の形成方法としては、これに限られるものではないが、例えば、SOG(Spin On Glass)法を好適に用いることができる。具体的には、シラノール(Si(OH))をアルコールに溶かした溶剤を、平面基板上に形成された偏光子層上にスピン塗布し、その後に熱処理によって溶媒成分を揮発させ、シラノール自体を脱水重合反応させることで形成できる。偏光子層はサブ波長サイズのワイヤグリッド構造であり、機械的強度が弱く、わずかな外力によって金属ワイヤーが損傷してしまう。本例の偏光板は、三角柱プリズムに密着配置することが望まれるため、その製造段階において偏光板と三角柱プリズムとが接触する可能性がある。
本例では、偏光子層の積層方向上面が充填材によって覆われているので、三角柱プリズムと接触した際にワイヤグリッド構造が損傷する事態を抑制できる。また、本例のように充填材を偏光子層のワイヤグリッド構造における金属ワイヤー間の凹部へ充填することで、その凹部への異物進入を防止できる。
次に、偏光選択型のクロスプリズムの作製工程について説明する。図25〜図27はそれぞれクロスプリズムの製造工程の一例を示す模式工程図である。図25は三角柱プリズム形成工程を示し、図28は偏光板の配置工程を示している。図29は三角柱プリズムの配置工程を示している。図25に示すように、三角柱プリズムの製造工程において、先ず三角柱プリズム1、2、3、4を製造する。例えば、三つの側面11、12、13のうち二つの側面12、13が略直角に交わるように形成され、略直角二等辺三角柱の三角柱プリズム1を製造する。同様にして、三角柱プリズム2、3、4が製造される。また、前述のとおり、偏光板5、6、7、8が製造される。そして、図26に示すように、配置工程において、例えば偏光板5、6、7、8の偏光子層52、62、72、82側の面に接着剤991、992、993、994を塗布して配置される。そして、偏光板5、6は三角柱プリズム2の側面22、23に、偏光板7、8は三角柱プリズム4の側面42、43にそれぞれは位置される。なお、この接着剤991、992、993、994としてはそれぞれ、透光性、ガラス接着性、精密性が良好な接着剤、例えば紫外線硬化型接着剤などが用いられる。
次に、図27に示すように、位置決め工程において、頂角14、24、34、44どうしを突き合わせて配置して、三角柱プリズム1、2、3、4どうしの位置を決める。三角柱プリズム1、3の側面に接着剤995〜998が塗布されている。
次に、硬化処理工程において、例えば紫外線照射を行い、接着剤991〜998の硬化処理を一括して行うことにより、同一の硬化処理条件で接着層を形成し、三角柱プリズム1、2、3、4及び偏光板5、6、7、8どうしを接着固定する。これにより、図20に示す角柱状のクロスプリズムを形成することができる。なお、接着硬化させるまえの三角柱プリズム、偏光板としてはZ軸方向に伸びた長尺状のものを用いていれば、配置ならびに接着硬化の工程が一回で済み、その後、切断工程だけをもうけてやればよい。
次に、クロスプリズムの変形例1について説明する。
クロスプリズムは上述の構成に限定されるものでなく、図28のような変形例1の構成であってもよい。図20及び図21のクロスプリズムの構成との違いは三角柱プリズム3を除いたことである。三角柱プリズム1と三角柱プリズム2からなる光路及び、三角柱プリズム1と三角柱プリズム4とからなる光路のみを光学系として使用して、三角柱プリズム3を経由する光路を使用しない場合は三角柱プリズム3を除いても構わない。
次に、クロスプリズムの変形例2について説明する。
図29はクロスプリズムの変形例2の構成を示す概略平面図である。変形例2のクロスプリズムは、クロスプリズム10の三角柱プリズム2の側面21と、クロスプリズム10の三角柱プリズム4の側面41に接着剤99からなる接着層9を介して、それぞれ三角柱プリズム311と三角柱プリズム312を接合してなる。三角柱プリズム311は、三つの側面321、322、323と、側面321、322が略直角に交わる頂角324を有し、略直角二等辺三角柱に形成されている。三角柱プリズム312は、三つの側面331、332、333と、側面331、333が略直角に交わる頂角334を有し、略直角二等辺三角柱に形成されている。
次に、図30及び図31を用いて、変形例2のクロスプリズムに入射する光の光路について説明する。
図30に示すように、三角柱プリズム312の側面333に入射した光の光路I1、I2は偏光方向に応じて光路が+Y方向、−Y方向それぞれに分岐される。三角柱プリズム312の側面333に入射する光の光路I1では、P偏光成分の光は反射面332で反射され、光路が90度変更され、偏光板7の偏光子層72で反射され、−Y方向に進む。一方、三角柱プリズム312の側面333に入射する光の光路I1では、S偏光成分の光は反射面332で反射され、光路が90度変更され、偏光板7の偏光子層72を透過し、偏光板6の偏光子層62で反射され+Y方向に進む。三角柱プリズム312の側面333に入射する光の光路I2では、S偏光成分の光は反射面332で反射され、光路が90度変更され、偏光板8の偏光子層82で反射され、+Y方向に進む。一方、三角柱プリズム312の側面333に入射する光の光路I2では、P偏光成分の光は反射面332で反射され、光路が90度変更され、偏光板8の偏光子層82を透過し、偏光板5の偏光子層52で反射され−Y方向に進む。
図31に示すように、三角柱プリズム311の側面323に入射した光の光路I3、I4は偏光方向に応じて光路が+Y方向、−Y方向それぞれに分岐される。三角柱プリズム311の側面323に入射する光の光路I3では、S偏光成分の光は反射面322で反射され、光路が90度変更され、偏光板6の偏光子層62で反射され、−Y方向に進む。一方、三角柱プリズム311の側面323に入射する光の光路I3では、P偏光成分の光は反射面322で反射され、光路が90度変更され、偏光板6の偏光子層62を透過し、偏光板7の偏光子層72で反射され+Y方向に進む。三角柱プリズム311の側面323に入射する光の光路I4では、P偏光成分の光は反射面322で反射され、光路が90度変更され、偏光板5の偏光子層52で反射され、+Y方向に進む。一方、三角柱プリズム311の側面323に入射する光の光路I4では、S偏光成分の光は反射面322で反射され、光路が90度変更され、偏光板5の偏光子層52を透過し、偏光板8の偏光子層82で反射され−Y方向に進む。
次に、クロスプリズムの変形例3について説明する。
クロスプリズムは上述の構成に限定されるものでなく、図32の変形例3のような構成であってもよい。図30のクロスプリズムの構成との違いは、三角柱プリズム312を接合するのではなく、三角柱プリズム4に三角柱プリズム312の機能を融合させた4辺プリズムを用いる点である。また、三角柱プリズム311を接合するのではなく、三角柱プリズム2に三角柱プリズム311の機能を融合させた4辺プリズムを用いた点である。4辺プリズム410の側面415と、4辺プリズム420の側面425は、三角柱プリズム1の側面11と平行となるように形成されてなる。接合する工程が省けるとともに、接合によるズレが抑制できるため、光路としての変化が抑制できる。結果、低コスト化が図れる。
次に、クロスプリズムの変形例4について説明する。クロスプリズムは上述の構成に限定されるものでなく、図33(a)のような変形例4の構成であってもよい。図25のクロスプリズムの構成との違いは、4辺プリズム410の側面415と、4辺プリズム420の側面425は、三角柱プリズム1の側面11と平行とならない構成であってもよい。このような構成とすることにより、側面415と側面425に入射する光の光路の各種角度に対応することができる。図33(b)及び図33(c)に変形例4のクロスプリズムに入射する光の光路が示されている。
ここで、クロスプリズムの構成としては正方形(図34(a))の構成に限定されるものでなく、図34(b)や図34(c)のような台形形状であってもよい。このような構成とすることにより、直交方向に光路を偏光するものに限定されず、各種偏光角のクロスプリズムを形成することができる。
次に、偏光分離用SWSフィルタについて説明する。
図35は光学フィルタと撮像素子の位置関係の対応を例示する図である。図36は図35の断面図である。光学フィルタ400において、フィルタ基板401は、撮像レンズを介して偏光フィルタ層402に入射する入射光を透過する透明な基板である。フィルタ基板401の撮像素子500側の面には、偏光フィルタ層402が形成されている。偏光フィルタ層402を覆うように、更に充填層403が形成されている。光学フィルタ400に入射した光のうち、偏光フィルタ層402を透過した光は、撮像素子500の画素領域に入射する。偏光フィルタ層402には撮像素子500の各画素サイズに対応した偏光子がそれぞれ領域分割形成されている。偏光子としてはS偏光成分透過領域とP偏光成分透過領域が形成されている。図36においてはS偏光成分透過領域とP偏光成分透過領域が短冊状のパタンであってもよい。ここでは撮像素子としてはモノクロのセンサを想定しているが、これに限定されるものでなく、カラーセンサであってもよい。偏光フィルタ層402が形成されている領域ではP偏光成分、S偏光成分の各領域の画像が撮像素子500によって撮像されるが、これらは後述するとおり差分画像を形成することにより視差画像として各種情報検知に使われる。
次に、距離算出手段としての画像処理装置について説明する。
図37(a)及び図37(b)はそれぞれモノクロセンサにおける距離算出手段としての画像処理装置の構成を示すブロック図である。図37(a)は全体構成、図37(b)は視差計算処理部の構成を示す。図38(a)及び図38(b)はそれぞれRCCC(Red/Clear)/カラーセンサにおける距離算出手段としての画像処理装置の構成を示すブロック図である。図38(a)は全体構成、図38(b)は視差計算処理部の構成を示す。図37において、イメージセンサからの画像が偏光分離処理部701に入力され、偏光分離処理部701によって偏光画像1及び偏光画像2に分離される。図39に示すように偏光分離処理部701では、入力画像全体からピクセル単位で、S偏光成分のピクセルを取り出してS画像を形成する。これが偏光画像1である。一方、入力画像全体からP偏光成分のピクセルを取り出してP画像を形成する。これが偏光画像2である。
なお、実際にはこのまま出力された画像で視差演算を行った場合、S偏光画像とP偏光画像で1ピクセル縦に対応位置がずれているため、エッジなどで誤差が発生する場合がある。そのため、この偏光分離処理部701では、間の画素を補間することで、全ピクセルに対して、対応するS画素とP画素を有する画像を出力することが望ましい。例えば、図39中のP画素に対応するS画素が欠陥している部分がある場合、その部分のS画素の値としては(S1+S2)/2を割り当てるという方法がある。同様に、P画素に関しても上下の対応するP画素を用いて補間を行うことが可能である。結果出力画像としては、全ピクセルに対して、対応するS画素とP画素を有する画像を出力することができる。
ここで、図40に示すクロスプリズムにおけるプリズム間の隙間が原因となって画面中央付近に画像の写らないエリアができる場合がある。そこで、この隙間を埋める処理が必要となる。図41(a)に示すように画面右側の画像を左に寄せて、図41(b)のように隙間を埋めてしまう。個体差により、画像の写らないエリアがばらつくので、どの部分を埋めるかは個体ごとにパラメータとして持っておくと良い。処理する場所としては、図37(a)及び図38(a)の座標変換手段としての座標変換処理部703の後段で行うのが良い。なぜなら、座標変換処理部703の前段で行うと、座標変換で非連続点が必要となってしまうため、実装が困難となるからである。
次に、図38(a)の座標変換処理部706による色画像と輝度画像の算出処理について説明する。
カラーフィルタがある撮像素子と、S偏光/P偏光の偏光フィルタを使う場合であれば、P偏光の画素のみを取り出し、その画素の単純平均や人間の見た目の輝度に変換するため以下の式の重みづけ平均を演算することで、輝度値を算出する。カラーフィルタは図42(a)に示す配列、偏光フィルタは図42(b)に示す配列となっている場合、輝度は以下の式で求められる。
もっとも簡単には以下の単純和が用いられる。
Y=R11+G21+B22
または、より輝度値を人間の見た目の輝度と合わせる場合には以下の式が用いられる。
Y=0.299*R11+0.587*G21+0.114*B22
(Yは輝度信号)
また、RGBカラーでは、RGBの画素値より、以下の式により、色差信号を作ることができる。
Cr=0.500*R11−0.419*G21−0.081*B22
Cb=−0.169*R11−0.332*G21+0.500*B22
(CrとCbは色差信号)
次に、図37(a)のクロストークキャンセル処理部702によるクロストークキャンセルについて説明する。理想的には、S偏光とP偏光として左右の画像がセンサ上に結像され、センサ上の偏光フィルタにより左右の画像が完全に分離される。しかし、実際には、クロスプリズムの偏光子の特性上、S偏光のみ反射すべき場合にも、S偏光だけではなく、P偏光も一部反射したり、その逆が起こる。また、センサ上に実装されているワイヤグリッド構造の偏光子もセンサのピクセル上にきれいに乗っているわけでなく、実際にはセンサのピクセル位置と偏光子の位置に微妙にずれが発生する。そのため、右画像に微弱な左画像が、また左画像に微弱な右画像が重畳される。これを以下ではクロストークと呼ぶ。得られた右画像や左画像に以下の式を演算することにより、このクロストークをキャンセルすることができる。
S=Sin-cc*Pin ・・・(1)
P=Pin-cc*Sin ・・・(2)

Scrosstalkcancel=S*(1+cc)/(1-cc^2) ・・・(3)
Pcrosstalkcancel=P*(1+cc)/(1-cc^2) ・・・(4)
但し、上記(1)から(4)の式において、cc : クロストーク除去係数、Sin,Pin : 入力信号、Scrosstalkcancel, Pcrosstalkcancel : クロストークが除去されたS,P成分信号である。
クロストーク量は画面上の場所により異なる場合があるため、画面上の場所に応じてccの量のテーブルを持っていることが望ましい。
上記の式の根拠を以下に解説する。
各画素には、クロストークにより以下のような信号が入ってくる。
Sin=(1-c)*Sori+c*Pori ・・・(5)
Pin=(1-c)*Pori+c*Sori ・・・(6)
但し、上記(5)及び(6)の式において、c:クロストーク量、Sori,Pori:クロストークがない真の入力信号である。(5)式を(1)式に代入すると、
S=(1-c)*Sori+c*Pori-cc*Pin ・・・(7)
さらに、(6)式を(7)式に代入すると、
S=(1-c)*Sori+c*Pori-cc*((1-c)*Pori+c*Sori)
=(1-c)*Sori+c*Pori-cc*Pori+cc*c*Pori-cc*c*Sori
=(1-c-cc*c)*Sori+(c-cc+cc*c)*Pori
ここで、c=cc/(1+cc)とすると、
S=(1-cc/(1+cc)-cc^2/(1+cc))*Sori
=(1-cc^2)/(1+cc)*Sori
逆に、Soriを解くと、(3)の式と同じ、 Sori=S*(1+cc)/(1-cc^2)が得られる。
次に、図37(a)及び図38(a)の座標変換処理部703による座標変換処理について説明する。
高い測距性能を出すためには、レンズの歪みを補正する処理が必要であり、そのレンズの歪みを補正するのが座標変換処理である。歪み補正量のパラメータはレンズの設計値でも良いし、一台一台パラメータのキャリブレーションを行っても良い。また、レンズ前面に配置する合波用のプリズム自体も製造誤差があるので、これを補正するために座標変換処理中で一般のステレオカメラで行われる外部パラメータの補正を同時に行うことが望ましい。
はじめに、座標変換処理の具体例である倍率色収差補正と歪曲収差補正の原理を説明する。モノクロセンサの場合には、歪曲収差補正のみを行い、カラーセンサの場合には、加えて倍率色収差補正も行うことが望ましい。図43に模式的に示すように、倍率色収差と歪曲収差のある光学系を用いて撮影を行った場合、画面右上の1で示す、本来の位置としての位置(ピクセル)に位置する画素データは、この本来の位置から歪曲収差によりずれる。さらに、倍率色収差によって画素データのRGB各色成分(R色成分、G色成分、B色成分のそれぞれ)でそれぞれ異なるずれをし、撮像素子で実際に撮像される位置は、図44に示すように、RGB各色成分は、それぞれ2(R),3(G),4(B)の位置となる。倍率色収差と歪曲収差の補正は、図45(a)及び図45(b)に示すように、2(R),3(G),4(B)の位置(ピクセル)のRGB各色成分画素データを本来の位置である1の位置(ピクセル)にコピーする。すなわち、座標変換することで可能である。ここで、2、3、4の各位置が座標変換元の座標、1の位置が座標変換先の座標となる。光学系の設計データより、歪曲収差の大きさ、倍率色収差の大きさがわかるため、本来の位置に対して、RGB各色成分がどの位置にずれるかを計算することができる。そして、その位置座標データを基に、多項式やテーブルを準備しておき、それらの情報を基に入力画像の歪み(歪曲収差)や倍率色収差を補正するのが座標変換処理である。
次に、図37(a)及び図38(a)の視差計算処理部704による視差計算処理について説明する。
ブロックマッチング処理について、以下のように様々な方法があるが、本発明の方式では左右の画像に対象物の反射光自体の偏光比に基づく輝度差が発生するため、ブロック内で正規化を行う方法が望ましい。これにより、その反射光自体の偏光比に基づく輝度差の分をキャンセルし、模様だけを視差計算に用いることが可能である。具体的には以下の方法の内、頭にZの付く、ZSAD,ZSSD,ZNCCなどの手法を用いることが望ましい。
(1)SAD(Sum of Absolute Difference)
SADは、輝度値をそのまま減算することにより、画像間のマッチングを行う手法である。このSADは計算量が少なくて済む。
(2)SSD(Sum of Squared Difference)
SSDは、SADと同じように、輝度値をそのまま減算することにより、画像間のマッチングを行う手法である。ただし、SADと異なり二乗を誤差量とする。
(3)ZSAD(Zero mean Sum of Absolute Difference)
SADの式から各ブロックの平均値を引いたものである。
(4)ZSSD(Zero mean Sum of Squared Difference)
SSDの式から各ブロックの平均値を引いたものである。
NCC(Normalized Cross Correlation)
正規化相互相関で、明るさやコントラストに影響されにくいという特徴を持つ。
(5)ZNCC(Zero mean Normalized Cross Correlation)
NCCから各ブロックの平均値を引いたものである。
次に、図37(b)及び図38(b)のサブピクセル推定処理部704−2によるサブピクセル推定処理について説明する。
高精度な視差演算を行うために、図46(a)及び図46(b)に示す等角直線フィッティング及びパラボラフィッティングによって、1ピクセル以下のマッチングを行うサブピクセル推定処理を行う。
等角直線フィッティングでは、サブピクセル推定値が次のように推定できる。
パラボラフィッティングでは、サブピクセル推定値が次のように推定できる。
次に、偏光算出処理について説明する。
マッチングした領域の差分を取り出す方法としては、視差計算によりブロックマッチングした後に、マッチしたブロック同士でS偏光成分とP偏光成分の比(差)を計算する。この方法ではマッチングがうまくいっている場合には、良好な結果が得られるが、S偏光成分とP偏光成分が大きくずれているところだと、そもそもマッチングが失敗して取れない虞がある。これに対して、マッチングしなかった部分を取り出す方法としては、視差計算で全くマッチングしなかった画素部分に関してエラーを出力するという方法がある。つまり、視差計算探索範囲を超えているか、P偏光成分とS偏光成分との比が大きくずれている部分が検出される。P偏光成分とS偏光成分の差が大きければ大きいほどマッチングしなかった部分が検出されるため、この方法はブロックマッチングが失敗する場合に有効である。上記の方法により取り出した偏光情報は、路端(路面)検出や、路面上の凍結部分検出に使うことができる。
以上に説明したものは一例であり、本発明は、次の態様毎に特有の効果を奏する。
(態様1)
被写体に対して視差を有する画像を取得するステレオカメラにおいて、直交する方向に偏光方向が異なる視差を有する2つの画像の光路を1つに重ね合わせる偏光合波手段と、少なくとも2つの偏光方向の輝度を検出する撮像手段と、重ね合わさった画像を撮像手段に結像させる光学部材とを有する。これによれば、上記実施形態1について説明したように、視差を有する2つの画像を形成する左右の光の光路が重ね合わされて、重ね合わされた光は光学部材を介して撮像手段に結像している。このため、温度変化により光学部材の歪みが変化した場合、その歪みの影響は、視差を有する2つの画像を形成する光それぞれに同じように及ぶ。温度変化により撮像手段の取付位置がずれた場合、その取付位置ずれによって、視差を有する2つの画像を形成する光が撮像手段の受光面上でそれぞれ同じように変化する。この結果、温度による光学部材の歪みや撮像手段の取付位置変化が、例えば被写体までの距離算出に与える影響は少ない。これにより、温度変化に伴う光学部材の歪みの補正や撮像手段の取付位置ずれに対する補正を含むキャリブレーションを行う必要がなくなる。よって、温度変化に伴うレンズの歪み変化や撮像手段の取付具の取付位置変化に影響されず、かつ安価なステレオカメラを提供できる。
(態様2)
(態様1)において、撮像手段によって撮像した画像から、偏光方向ごとに画像を分離することにより、視差をもった2つの画像を形成し、形成した2つの画像間の視差により被写体までの距離を算出する距離算出手段を有する。これによれば、上記実施形態1について説明したように、温度による光学部材の歪みや撮像手段の取付位置変化が被写体までの距離算出に与える影響は少ない。
(態様3)
(態様1)又は(態様2)において、視差を有する2つの画像を1つの光路に重ね合わせる偏光合波手段を設け、2つの画像の光路における光路長を互いに略同じにする。これによれば、上記実施形態1について説明したように、これによれば、上記実施形態について説明したように、通常のカメラと同じく、単に視差演算の最に横方向のピクセルのみを探索することで視差を得ることができる。
(態様4)
(態様1)において、光学部材は、ズーム機能を有する。これによれば、上記実施形態1について説明したように、これによれば、上記実施形態について説明したように、両眼の画像に全く同じ変化が反映される。これにより、右眼用と左眼用の2つの異なる光学特性を持つことによって生じる光軸や画像サイズ、フォーカスずれを抑制することが可能で自然な立体画像を取得することができる。
(態様5)
(態様1)〜(態様4)のいずれかにおいて、光学部材は車両の車内に設置し、偏光合波手段は車両の車外に設置する。これによれば、上記実施形態について説明したように、車両のフロントガラスの歪みや厚みムラ、曲率などが左右の対応する部分で異なり、左右の画像のマッチングが取れなくなる場合がある。これをキャンセルするためには、車内に撮像素子、またレンズ部のみを設置し、ガラスよりも外側にクロスプリズムを設置すると良い。これにより、左右の画像共に同じフロントガラスの部分を通ることになり、同じようにフロントガラスの影響を受けるため、左右の画像はフロントガラスの具合によらず常にマッチングが可能となる。
(態様6)
(態様1)において、偏光合波手段は、被写体からの画像が最初の反射面から次の反射面までに媒質で充填されている。これによれば、上記実施形態について説明したように、距離が長い被写体に近いミラー面から次のミラー面までが高屈折率の媒質で充填されていることにより小型化が図れる。
(態様7)
(態様1)において、偏光合波手段は、偏光ビームスプリッタ及びミラーを含んで構成されている。これによれば、上記実施形態1について説明したように、簡易な構成で、左右の光路長は略同一とすることができ、通常のカメラと同様に視差を得ることができる。
(態様8)
(態様1)において、偏光合波手段は、ハーフミラー及び偏光子を含んで構成されている。これによれば、上記実施形態について説明したように、簡易な構成で、左右の光路長は略同一とすることができ、通常のカメラと同様に視差を得ることができる。
(態様9)
(態様7)において、偏光合波手段は、偏光子を含んで構成されている。これによれば、上記実施形態について説明したように、クロストークを低減することができる。
(態様10)
(態様7)〜(態様9)のいずれかにおいて、偏光合波手段は、2つの画像のいずれかの画像に対して偏光する1/2波長板を含んで構成されている。これによれば、上記実施形態について説明したように、左右の被写体からの同じ偏光方向の画像を得ることができる。
(態様11)
(態様7)〜(態様9)のいずれかにおいて、偏光合波手段は、2つの画像のそれぞれに対して偏光する1/4波長板を含んで構成されている。これによれば、上記実施形態について説明したように、両眼とも円偏光を撮影していることとなり、偏光方向に依存しない画像を撮影することになる。
(態様12)
(態様7)〜(態様9)のいずれかにおいて、偏光合波手段は、偏光状態をランダムに変化させる媒質を含んで構成されている。これによれば、上記実施形態について説明したように、入射してくる光の偏光をランダムにし、両眼とも偏光方向に依存しない画像を撮影することができる。
(態様13)
(態様7)において、偏光ビームスプリッタの光学面又はミラーの反射面が光学部材の画角中央の光線とのなす角度が45度より大きく設定されるように、偏光ビームスプリッタ又はミラーを設置している。これによれば、上記実施形態1について説明したように、偏光ビームスプリッタ膜231又はミラー面232、233、234が設置されているプリズムの大きさを小さくすることができる。
(態様14)
(態様8)において、ハーフミラーの光学面又は偏光子の反射面が光学部材の画角中央の光線とのなす角度が45度より大きく設定されるように、ハーフミラー又は偏光子を設置している。これによれば、上記実施形態について説明したように、画角中央の光線との、ハーフミラー及びミラー面のなす角度を45度より大きく設定することで、プリズムの大きさを小さくすることができる。
(態様15)
(態様1)〜(態様14)のいずれかにおいて、偏光合波手段と光学部材との間に、光学部材に入射する光線の量を規制する光学絞りを配置する。これによれば、上記実施形態1について説明したように、偏光ビームスプリッタ膜231又はミラー面232、233、234が設置されているプリズムに入射するとき既に画角に応じて光線が広がりを有している。このため、光線の広がりに応じてプリズムの大きさを設定する必要があるが、光学絞り235をプリズム側寄りに設置することでプリズムが大きくなることを抑制できる。
(態様16)
(態様1)〜(態様15)のいずれかにおいて、偏光ビームスプリッタは、ワイヤグリッド構造の偏光子膜が形成された面を有する偏光板を備えている。これによれば、上記実施形態1について説明したように、広く知られた半導体製造プロセスを利用して形成できる。耐熱性に優れ、高温になりやすい環境下においても好適に使用できる。
(態様17)
(態様1)において、偏光合波手段は、クロスプリズムを含んで構成されている。これによれば、上記実施形態1について説明したように、偏光選択型のクロスプリズムを用いて偏光方向が異なる視差画像を取り込む。よって、耐環境性に富み、かつ安価なステレオカメラを提供できる。
(態様18)
(態様1)〜(態様17)のいずれかにおいて、視差をもった2つの画像間のクロストークを除去するクロストーク除去手段を有する。これによれば、上記実施形態1について説明したように、クロストークのない真の偏光成分の画像を得ることができる。
(態様19)
(態様18)において、クロストーク除去手段は、画面上の位置によってクロストークをキャンセルする量を変化させる。これによれば、上記実施形態1について説明したように、クロストークのない真の偏光成分の画像を得ることができる。
(態様20)
(態様17)において、クロスプリズムは、ワイヤグリッド構造の偏光子膜が形成された面を有する偏光板を備えている。これによれば、上記実施形態1について説明したように、偏光選択型のクロスプリズムを用いて偏光方向が異なる視差画像を取り込む。よって、耐環境性に富み、かつ安価なステレオカメラを提供できる。
(態様21)
(態様17)において、クロスプリズムにおける対向する側面に三角柱プリズム又は四辺柱プリズム又はミラーを設ける。これによれば、上記実施形態1について説明したように、三角柱プリズム又は四辺柱プリズムによって小型でかつ広範囲の視野を確保することができる。ミラーの場合は安価に構成することができる。
(態様22)
(態様1)〜(態様21)のいずれかにおいて、被写体から撮像手段までの間に赤外線カットフィルタを設ける。これによれば、上記実施形態について説明したように、左右の画像間のクロストークを低減することができる。
(態様23)
(態様1)〜(態様22)において、光学部材の光学面において撮像手段の撮像面に結像する光が入射する範囲にアライメントマーカーを設ける。これによれば、上記実施形態について説明したように、製造時、使用中何らかの環境変化や経時変化のときにも簡単にキャリブレーションを行うことができる。
(態様24)
(態様23)において、アライメントマーカーは、曲率を有する面を備える透明部材であり、曲率を有する面によって焦点を撮像手段の撮像面上に結ぶ。これによれば、上記実施形態について説明したように、本来の測距に影響することなく、キャリブレーションを行うことができる。
(態様25)
(態様1)〜(態様24)のいずれかにおいて、撮像手段とは視差を有する2つの画像を重ね合わせる手段を挟んで対峙するように、別の撮像手段を設ける。これによれば、上記実施形態1について説明したように、単体として多様な使用が可能となり、トータルとして低コスト化が図れる。
(態様26)
(態様25)において、移動体のウインドシールド上に特定波長の光を投光する光投光手段と、撮像手段とは視差を有する2つの画像を重ね合わせる手段を挟んで対峙するように設けられた光検出手段と、光検出手段に特定波長の光のみを透過させるフィルタとを有し、ウインドシールドからの反射光の光量に基づきウインドシールドに付着する雨滴を検出する。これによれば、上記実施形態について説明したように、偏光を利用して雨滴センサ機能を付加することができる。
(態様27)
(態様1)〜(態様26)のいずれかにおいて、視差をもった2つの画像の内の少なくとも一つに対して、座標変換処理を行う座標変換手段を有する。これによれば、上記実施形態について説明したように、光学系の歪みを補正して距離測定の高い性能とすることができる。
(態様28)
(態様2)〜(態様27)のいずれかにおいて、視差をもった2つの画像のブロックマッチング演算の中に、ブロック内の平均値を減算する距離算出手段を有する。これによれば、上記実施形態について説明したように、左右の画像における偏光による差の分をオフセットすることでキャンセルできる。
(態様29)
(態様1)において、撮像手段は、画素ごとに異なる方向の偏光子を有する。これによれば、上記実施形態について説明したように、異なる偏光方向の画素を取り出して左右の画像を構成できることで、左右の画像を分離することができる。
(態様30)
(態様29)において、撮像手段によって撮像化した画素の偏光状態を補間する偏光状態補間処理手段を有する。これによれば、上記実施形態について説明したように、出力画像としては、全ピクセルに対して、対応するS画素とP画素を有する画像を出力することができる。
100 ステレオカメラ
101 偏光重畳モジュール
101−1 偏光ビームスプリッタ
101−2 偏光フィルタ
101−3 ミラー
102 レンズ
103 フィルタ
104 撮像素子
111 被写体
112 プリズム
113 レンズ
114 撮像素子
200 ステレオカメラ
201 基板
202 撮像素子
203 光学フィルタ
204 撮像レンズ
205 クロスプリズム
206 側面
207 側面
208 三角柱プリズム
209 三角柱プリズム
210 側面
211 ミラー
212 ミラー
231 偏光ビームスプリッタ膜
232 ミラー面
233 ミラー面
234 ミラー面
235 光学絞り
240 アライメントマーカー
241 偏光子
242 1/2波長板
243 1/4波長板
244 ハーフミラー
251 撮像素子
255 領域分割フィルタ
253 レンズ
254 レンズ絞り
255 偏光フィルタ
256 1/2波長板
257 レンズ
301 ステレオカメラ
302 信号処理装置
特開2010−243463号公報 米国特許第7061532号公報 特開昭62−217790号公報

Claims (30)

  1. 被写体に対して視差を有する画像を取得するステレオカメラにおいて、
    直交する方向に偏光方向が異なる視差を有する2つの画像の光路を1つに重ね合わせる偏光合波手段と、
    少なくとも2つの偏光方向の輝度を検出する撮像手段と、
    重ね合わさった画像を前記撮像手段に結像させる光学部材と
    を有することを特徴とするステレオカメラ。
  2. 請求項1記載のステレオカメラについて、
    前記撮像手段によって撮像した画像から、偏光方向ごとに画像を分離することにより、視差をもった2つの画像を形成し、形成した2つの画像間の視差により被写体までの距離を算出する距離算出手段を有することを特徴とするステレオカメラ。
  3. 請求項1又は2に記載のステレオカメラにおいて、
    視差を有する2つの画像を1つの光路に重ね合わせる偏光合波手段を設け、2つの画像の光路における光路長を互いに略同じにすることを特徴とするステレオカメラ。
  4. 請求項1記載のステレオカメラにおいて、
    前記光学部材は、ズーム機能を有することを特徴とするステレオカメラ。
  5. 請求項1〜4のいずれかに記載のステレオカメラにおいて、
    前記光学部材は車両の車内に設置し、前記偏光合波手段は車両の車外に設置することを特徴とするステレオカメラ。
  6. 請求項1記載のステレオカメラにおいて、
    前記偏光合波手段は、被写体からの画像が最初の反射面から次の反射面までに媒質で充填されていることを特徴とするステレオカメラ。
  7. 請求項1記載のステレオカメラにおいて、
    前記偏光合波手段は、偏光ビームスプリッタ及びミラーを含んで構成されていることを特徴とするステレオカメラ。
  8. 請求項1記載のステレオカメラにおいて、
    前記偏光合波手段は、ハーフミラー及び偏光子を含んで構成されていることを特徴とするステレオカメラ。
  9. 請求項7記載のステレオカメラにおいて、
    前記偏光合波手段は、偏光子を含んで構成されていることを特徴とするステレオカメラ。
  10. 請求項7〜9のいずれかに記載のステレオカメラにおいて、
    前記偏光合波手段は、2つの画像のいずれかの画像に対して偏光する1/2波長板を含んで構成されていることを特徴とするステレオカメラ。
  11. 請求項7〜9のいずれかに記載のステレオカメラにおいて、
    前記偏光合波手段は、2つの画像のそれぞれに対して偏光する1/4波長板を含んで構成されていることを特徴とするステレオカメラ。
  12. 請求項7〜9のいずれかに記載のステレオカメラにおいて、
    前記偏光合波手段は、偏光状態をランダムに変化させる媒質を含んで構成されていることを特徴とするステレオカメラ。
  13. 請求項7記載のステレオカメラにおいて、
    前記偏光ビームスプリッタの光学面又は前記ミラーの反射面が前記光学部材の画角中央の光線とのなす角度が45度より大きく設定されるように、前記偏光ビームスプリッタ又は前記ミラーを設置していることを特徴とするステレオカメラ。
  14. 請求項8記載のステレオカメラにおいて、
    前記ハーフミラーの光学面又は前記偏光子の反射面が前記光学部材の画角中央の光線とのなす角度が45度より大きく設定されるように、前記ハーフミラー又は前記偏光子を設置していることを特徴とするステレオカメラ。
  15. 請求項1〜14のいずれかに記載のステレオカメラにおいて、
    前記偏光合波手段と前記光学部材との間に、前記光学部材に入射する光線の量を規制する光学絞りを配置することを特徴とするステレオカメラ。
  16. 請求項1〜15のいずれかに記載のステレオカメラにおいて、
    前記偏光ビームスプリッタは、ワイヤグリッド構造の偏光子膜が形成された面を有する偏光板を備えていることを特徴とするステレオカメラ。
  17. 請求項1記載のステレオカメラにおいて、
    前記偏光合波手段は、クロスプリズムを含んで構成されていることを特徴とするステレオカメラ。
  18. 請求項1〜17のいずれかに記載のステレオカメラにおいて、
    前記視差をもった2つの画像間のクロストークを除去するクロストーク除去手段を有することを特徴とするステレオカメラ。
  19. 請求項18記載のステレオカメラにおいて、
    前記クロストーク除去手段は、画面上の位置によってクロストークをキャンセルする量を変化させることを特徴するステレオカメラ。
  20. 請求項17記載のステレオカメラにおいて、
    前記クロスプリズムは、ワイヤグリッド構造の偏光子膜が形成された面を有する偏光板を備えていることを特徴とするステレオカメラ。
  21. 請求項17記載のステレオカメラにおいて、
    前記クロスプリズムにおける対向する側面に三角柱プリズム又は四辺柱プリズム又はミラーを設けることを特徴とするステレオカメラ。
  22. 請求項1〜21のいずれかに記載のステレオカメラにおいて、
    被写体から撮像手段までの間に赤外線カットフィルタを設けることを特徴とするステレオカメラ。
  23. 請求項1〜22のいずれかに記載のステレオカメラにおいて、
    前記光学部材の光学面において前記撮像手段の撮像面に結像する光が入射する範囲にアライメントマーカーを設けることを特徴とするステレオカメラ。
  24. 請求項23記載のステレオカメラにおいて、
    前記アライメントマーカーは、曲率を有する面を備える透明部材であり、前記曲率を有する面によって焦点を前記撮像手段の撮像面上に結ぶことを特徴とするステレオカメラ。
  25. 請求項1〜24のいずれかに記載のステレオカメラにおいて、
    前記撮像手段とは前記視差を有する2つの画像を重ね合わせる手段を挟んで対峙するように、別の撮像手段を設けることを特徴とするステレオカメラ。
  26. 請求項25記載のステレオカメラにおいて、
    移動体のウインドシールド上に特定波長の光を投光する光投光手段と、前記撮像手段とは前記視差を有する2つの画像を重ね合わせる手段を挟んで対峙するように設けられた光検出手段と、前記光検出手段に特定波長の光のみを透過させるフィルタとを有し、前記ウインドシールドからの反射光の光量に基づき前記ウインドシールドに付着する雨滴を検出することを特徴とするステレオカメラ。
  27. 請求項1〜26のいずれかに記載のステレオカメラにおいて、
    前記視差をもった2つの画像の内の少なくとも一つに対して、座標変換処理を行う座標変換手段を有することを特徴とするステレオカメラ。
  28. 請求項2〜27のいずれかに記載のステレオカメラにおいて、
    前記視差をもった2つの画像のブロックマッチング演算の中に、ブロック内の平均値を減算する距離算出手段を有することを特徴とするステレオカメラ。
  29. 請求項1記載のステレオカメラにおいて、
    前記撮像手段は、画素ごとに異なる方向の偏光子を有することを特徴とするステレオカメラ。
  30. 請求項29記載のステレオカメラにおいて、
    前記撮像手段によって撮像化した画素の偏光状態を補間する偏光状態補間処理手段を有することを特徴とするステレオカメラ。
JP2013152735A 2012-07-23 2013-07-23 ステレオカメラ Pending JP2014199241A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013152735A JP2014199241A (ja) 2012-07-23 2013-07-23 ステレオカメラ

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JP2012162344 2012-07-23
JP2012162344 2012-07-23
JP2012214673 2012-09-27
JP2012214673 2012-09-27
JP2013052721 2013-03-15
JP2013052721 2013-03-15
JP2013152735A JP2014199241A (ja) 2012-07-23 2013-07-23 ステレオカメラ

Publications (1)

Publication Number Publication Date
JP2014199241A true JP2014199241A (ja) 2014-10-23

Family

ID=49997222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013152735A Pending JP2014199241A (ja) 2012-07-23 2013-07-23 ステレオカメラ

Country Status (6)

Country Link
US (1) US20150172631A1 (ja)
EP (1) EP2875315B1 (ja)
JP (1) JP2014199241A (ja)
CN (1) CN104487803A (ja)
IN (1) IN2014KN02825A (ja)
WO (1) WO2014017409A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160086696A (ko) * 2015-01-12 2016-07-20 엘지전자 주식회사 스테레오 카메라 모듈 및 스테레오 카메라의 캘리브레이션 방법
WO2019021591A1 (ja) * 2017-07-28 2019-01-31 ソニー株式会社 画像処理装置と画像処理方法とプログラムおよび画像処理システム
WO2019171984A1 (ja) * 2018-03-08 2019-09-12 ソニー株式会社 信号処理装置、信号処理方法、及び、プログラム
WO2020085149A1 (ja) * 2018-10-22 2020-04-30 富士フイルム株式会社 撮像装置及び撮像方法

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150229910A1 (en) * 2014-02-07 2015-08-13 National University Of Singapore Method and apparatus for stereoscopic imaging
JP6469666B2 (ja) * 2014-05-28 2019-02-13 矢崎総業株式会社 表示装置
DE102014108317B4 (de) 2014-06-12 2020-12-17 Shoogee Gmbh & Co. Kg Anordnung zur optischen Erfassung des Raums aus mehreren Richtungen
TW201632949A (zh) * 2014-08-29 2016-09-16 伊奧克里公司 捕捉在一可攜式電子器件上之影像之影像轉向
US9718405B1 (en) 2015-03-23 2017-08-01 Rosco, Inc. Collision avoidance and/or pedestrian detection system
US20170214861A1 (en) * 2015-05-22 2017-07-27 Massachusetts Institute Of Technology Rapid and precise optically multiplexed imaging
US9651426B2 (en) * 2015-06-30 2017-05-16 Agilent Technologies, Inc. Light source with controllable linear polarization
US9894273B2 (en) * 2015-08-25 2018-02-13 Rockwell Automation Technologies, Inc. Modular lens for extremely wide field of view
US10184835B2 (en) * 2015-09-23 2019-01-22 Agilent Technologies, Inc. High dynamic range infrared imaging spectroscopy
CN108293093B (zh) * 2015-11-19 2020-11-03 索尼公司 图像处理设备和图像处理方法
CN105549184A (zh) * 2016-01-07 2016-05-04 珠海市运泰利自动化设备有限公司 微距成像定位装置
CN105530419B (zh) * 2016-02-05 2019-12-31 京东方科技集团股份有限公司 图像采集系统、图像采集处理系统和图像采集处理方法
JP6735474B2 (ja) * 2016-02-29 2020-08-05 パナソニックIpマネジメント株式会社 撮像装置
KR20190002488A (ko) * 2016-04-28 2019-01-08 트리나미엑스 게엠베하 적어도 하나의 물체를 광학적으로 검출하기 위한 검출기
WO2018125577A1 (en) * 2016-12-30 2018-07-05 Vuzix Corporation Light guide with polarization separator for dual images
US11194158B2 (en) 2016-12-30 2021-12-07 Vuzix Corporation Light guide with beam separator for dual images
NL2018854B1 (en) 2017-05-05 2018-11-14 Illumina Inc Systems and methodes for improved focus tracking using blocking structures
NL2018857B1 (en) * 2017-05-05 2018-11-09 Illumina Inc Systems and methods for improved focus tracking using a light source configuration
NL2018853B1 (en) 2017-05-05 2018-11-14 Illumina Inc Systems and methods for improved focus tracking using a hybrid mode light source
US10436953B2 (en) 2017-12-01 2019-10-08 Rockwell Automation Technologies Inc. Arched collimating lens forming a disk-like illumination
US10916026B2 (en) 2018-05-16 2021-02-09 Toyota Research Institute, Inc. Systems and methods of determining stereo depth of an object using object class information
US10872221B2 (en) 2018-06-21 2020-12-22 Amazon Technologies, Inc Non-contact biometric identification system
US10609266B2 (en) 2018-08-21 2020-03-31 Rockwell Automation Technologies, Inc. Camera for wide field of view with an arbitrary aspect ratio
JP7062606B2 (ja) * 2019-03-08 2022-05-06 株式会社東芝 マルチビュー光学系、光学装置、撮像装置、及び、移動体
CN110929691B (zh) * 2019-12-11 2022-12-06 中国科学院长春光学精密机械与物理研究所 一种冰层检测方法、装置、设备及可读存储介质
CN113218362A (zh) * 2020-01-21 2021-08-06 泰克霍隆株式会社 测距装置
CN111669565A (zh) * 2020-06-17 2020-09-15 中国科学技术大学 一种立体成像装置及其成像方法
CN112103768B (zh) * 2020-11-09 2021-03-19 深圳市星汉激光科技股份有限公司 一种半导体激光器
JP2022137896A (ja) * 2021-03-09 2022-09-22 本田技研工業株式会社 カメラを有する車体構造
WO2022256189A1 (en) * 2022-05-20 2022-12-08 Innopeak Technology, Inc. Hand gesture detection methods and systems with optimized hand detection

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4295153A (en) * 1980-03-31 1981-10-13 GIBSON Stephen Stereoscopic apparatus and method of using same
CN85203023U (zh) * 1985-07-17 1986-08-20 杜伯顺 双画面直接合成立体照相机
JP2001075201A (ja) * 1999-09-06 2001-03-23 Idemitsu Kosan Co Ltd 立体画像撮影用のカメラアダプタ
US7061532B2 (en) * 2001-03-27 2006-06-13 Hewlett-Packard Development Company, L.P. Single sensor chip digital stereo camera
JP2010056865A (ja) * 2008-08-28 2010-03-11 Fujifilm Corp 撮像装置
JP5278814B2 (ja) * 2009-04-10 2013-09-04 株式会社リコー ステレオカメラ装置及び車外監視装置
JP5278819B2 (ja) * 2009-05-11 2013-09-04 株式会社リコー ステレオカメラ装置及びそれを用いた車外監視装置
US8696133B2 (en) * 2009-09-11 2014-04-15 Konica Minolta Opto, Inc. Projection optical system and image projecting device
CN102402018B (zh) * 2010-09-07 2013-11-06 台达电子工业股份有限公司 偏极转换系统及其适用的立体投影光学系统
JP5609562B2 (ja) * 2010-11-10 2014-10-22 ソニー株式会社 立体画像撮像装置
JP5213998B2 (ja) * 2010-11-30 2013-06-19 シャープ株式会社 立体撮影装置、およびそれを備えた電子機器
JP2012123098A (ja) * 2010-12-07 2012-06-28 Jvc Kenwood Corp 立体映像撮影アダプタ及び撮像装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160086696A (ko) * 2015-01-12 2016-07-20 엘지전자 주식회사 스테레오 카메라 모듈 및 스테레오 카메라의 캘리브레이션 방법
KR102302574B1 (ko) * 2015-01-12 2021-09-14 엘지전자 주식회사 스테레오 카메라 모듈 및 스테레오 카메라의 캘리브레이션 방법
WO2019021591A1 (ja) * 2017-07-28 2019-01-31 ソニー株式会社 画像処理装置と画像処理方法とプログラムおよび画像処理システム
WO2019171984A1 (ja) * 2018-03-08 2019-09-12 ソニー株式会社 信号処理装置、信号処理方法、及び、プログラム
US11348208B2 (en) 2018-03-08 2022-05-31 Sony Corporation Signal processing apparatus and signal processing method
WO2020085149A1 (ja) * 2018-10-22 2020-04-30 富士フイルム株式会社 撮像装置及び撮像方法
JPWO2020085149A1 (ja) * 2018-10-22 2021-09-16 富士フイルム株式会社 撮像装置及び撮像方法

Also Published As

Publication number Publication date
EP2875315B1 (en) 2018-09-05
EP2875315A4 (en) 2015-08-12
US20150172631A1 (en) 2015-06-18
CN104487803A (zh) 2015-04-01
IN2014KN02825A (ja) 2015-06-12
EP2875315A1 (en) 2015-05-27
WO2014017409A1 (en) 2014-01-30

Similar Documents

Publication Publication Date Title
JP2014199241A (ja) ステレオカメラ
JP6156724B2 (ja) ステレオカメラ
TWI827566B (zh) 光學設備對準方法
JP2014178190A5 (ja)
KR101458287B1 (ko) 거리 측정용 카메라 장치
EP2690485B1 (en) Polarization device, and imaging apparatus using the same
JP2010261877A (ja) ステレオカメラ装置及びそれを用いた車外監視装置
JP5278814B2 (ja) ステレオカメラ装置及び車外監視装置
JP2011145115A (ja) 測距装置、測距用モジュール及びこれを用いた撮像装置
JP2010004090A (ja) 撮像装置
JP5440903B2 (ja) 撮像装置とステレオカメラ装置及び車外監視装置
JP2007295113A (ja) 撮像装置
EP3707551A1 (en) Imaging method and apparatus using circularly polarized light
JP6202364B2 (ja) ステレオカメラ及び移動体
JP2014036298A (ja) 撮像装置
CN110392818B (zh) 距离测量装置、头戴式显示器装置、便携信息终端、影像显示装置、周边监视系统
JP2014041171A (ja) 偏光装置及び撮像装置
JP2014178494A (ja) 視差画像撮像装置
JP6146006B2 (ja) 撮像装置及びステレオカメラ
JP2014178241A5 (ja)
JP2007333525A (ja) 距離測定装置
JPH1123216A (ja) 透明薄板測定用干渉計
KR20100020200A (ko) 3차원 영상 획득을 위한 스테레오 비젼 카메라
WO2016199468A1 (ja) 撮像装置、撮像方法及び液晶レンズの使用方法
JP2014178494A5 (ja)