JP7134925B2 - ステレオカメラ - Google Patents

ステレオカメラ Download PDF

Info

Publication number
JP7134925B2
JP7134925B2 JP2019125786A JP2019125786A JP7134925B2 JP 7134925 B2 JP7134925 B2 JP 7134925B2 JP 2019125786 A JP2019125786 A JP 2019125786A JP 2019125786 A JP2019125786 A JP 2019125786A JP 7134925 B2 JP7134925 B2 JP 7134925B2
Authority
JP
Japan
Prior art keywords
mirror
light
stereo camera
image sensor
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019125786A
Other languages
English (en)
Other versions
JP2021012075A (ja
Inventor
和良 山崎
利樹 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2019125786A priority Critical patent/JP7134925B2/ja
Priority to CN202010563578.3A priority patent/CN112255880B/zh
Priority to DE102020116468.8A priority patent/DE102020116468B4/de
Priority to US16/910,992 priority patent/US11405600B2/en
Publication of JP2021012075A publication Critical patent/JP2021012075A/ja
Application granted granted Critical
Publication of JP7134925B2 publication Critical patent/JP7134925B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B17/00Systems with reflecting surfaces, with or without refracting elements
    • G02B17/02Catoptric systems, e.g. image erecting and reversing system
    • G02B17/06Catoptric systems, e.g. image erecting and reversing system using mirrors only, i.e. having only one curved mirror
    • G02B17/0605Catoptric systems, e.g. image erecting and reversing system using mirrors only, i.e. having only one curved mirror using two curved mirrors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • G03B17/17Bodies with reflectors arranged in beam forming the photographic image, e.g. for reducing dimensions of camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/06Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe involving anamorphosis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/0017Devices integrating an element dedicated to another function
    • B60Q1/0023Devices integrating an element dedicated to another function the element being a sensor, e.g. distance sensor, camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/001Constructional or mechanical details

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Mechanical Engineering (AREA)
  • Measurement Of Optical Distance (AREA)
  • Lenses (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Studio Devices (AREA)

Description

本発明は、ステレオカメラに関する。
被写体を複数の異なる方向から同時に撮影し、これにより被写体までの距離等の情報を取得可能とされたステレオカメラが知られており、例えば自動車における自動運転、自動ブレーキ、自動追従等のためのカメラとしての開発が進められている。
自動車において完全自動運転を実現するためには、自車の周囲の広い範囲において、高速で移動する物体を正確に認識し、また測距する必要がある。例えば、時速70km/hで移動する物体(例えばオートバイ)を自動車前端のセンサで認識する場合、0.06°/pixelの角度分解能の撮像と、距離100mで10%の測距制度が必要と想定される。
このような要求に関し、既存のLiDAR(Laser Imaging Detection and Ranging)やミリ波レーダは、周囲の正確な認識のためにはカメラを併用する必要があるという問題がある。またスキャン型の検出装置の場合、可動部が必要となることから高価であり、応答速度も十分でないという問題がある。
従来のステレオカメラでは、通常2台のイメージセンサを視差に応じた間隔だけ離間させて搭載する必要があり、自動運転車両のコストの増大及び大型化の要因となっていた。また、大型であるため自動車左右前端に配置することが困難であり、また広角のセンシングも困難であるという問題がある。
このように、ステレオカメラを自動運転車両に搭載する場合において、高精度で且つ広角のセンシングが可能であり、しかも小型なステレオカメラが求められている。
特許第4388530号公報
本発明は、高精度で且つ広角のセンシングが可能であり、しかも小型なステレオカメラを提供することを目的とする。
上記の課題を解決するため、本発明に係るステレオカメラは、第1方向に凸である曲面である第1反射面を有し、第1頂点を有し、且つ第1扇形形状を有する第1ミラーと、前記第1方向とは反対の第2方向に凸である第2反射面を有し、前記第1頂点と対向する第2頂点を有し、且つ第2扇形形状を有する第2ミラーと、被写体から発して前記第1反射面で反射された後、更に第2反射面で反射される第1の光、及び被写体から発して前記第2反射面で反射する第2の光を結像させる結像光学系と、前記第1の光及び前記第2の光を前記結像光学系を介して受光するイメージセンサとを備える。前記第2ミラーは、内側ミラーと、前記内側ミラーよりも外周側に位置し前記内側ミラーとは円錐定数が異なる外側ミラーとを含む。前記第1扇形形状及び前記第2扇形形状の内角は180°以上である。更に前記イメージセンサは、その中心位置が前記結像光学系の光軸に対しずれた位置に配置されると共に、前記イメージセンサの受光面の短辺と、前記第1扇形形状又は前記第2扇形形状の画像の中心線とが略平行となるように配置される。
本発明によれば、高精度で且つ広角のセンシングが可能であり、しかも小型なステレオカメラ、及びステレオカメラ一体型ヘッドライトユニットを提供することができる。
第1の実施の形態に係るステレオカメラ101の構造を説明する概略斜視図である。 上側双曲面ミラー102、及び下側双曲面ミラー103(内側双曲面ミラー103A、外側双曲面ミラー103B)について更に詳細に説明する概略図である。 結像光学系104、及びイメージセンサ105の位置関係に関し説明する概略図である。 中心位置CP1が光軸Ox2と略一致している場合における、イメージセンサ105の受光状態の一例である。 中心位置CP1が光軸Ox2からずれた位置とされている場合における、イメージセンサ105の受光状態の一例である。 ステレオカメラ101の垂直方向の画角δと、解像度との関係を示すグラフである。 結像光学系104の画角θと、像高Hrとの関係を示すグラフである。 内側双曲面ミラー103A及び外側双曲面ミラー103Bの構造及びその効果について説明する概略図である。 第2の実施の形態に係るステレオカメラ101の構造を説明する概略斜視図である。
以下、添付図面を参照して本実施形態について説明する。添付図面では、機能的に同じ要素は同じ番号で表示される場合もある。なお、添付図面は本開示の原理に則った実施形態と実装例を示しているが、これらは本開示の理解のためのものであり、決して本開示を限定的に解釈するために用いられるものではない。本明細書の記述は典型的な例示に過ぎず、本開示の特許請求の範囲又は適用例を如何なる意味においても限定するものではない。
本実施形態では、当業者が本開示を実施するのに十分詳細にその説明がなされているが、他の実装・形態も可能で、本開示の技術的思想の範囲と精神を逸脱することなく構成・構造の変更や多様な要素の置き換えが可能であることを理解する必要がある。従って、以降の記述をこれに限定して解釈してはならない。
[第1の実施の形態]
図1を参照して、第1の実施の形態に係るステレオカメラ101を、説明する。このステレオカメラ101は、一例として、上側双曲面ミラー102、下側双曲面ミラー103、結像光学系104、イメージセンサ105から構成される。また、ステレオカメラ101は距離情報を生成するための距離算出部117、およびシステムの駆動・制御を行う駆動制御部118につながっている。結像光学系104、及びイメージセンサ105は、一対の双曲面ミラー(上側双曲面ミラー102、及び下側双曲面ミラー103)に対し各1個ずつあれば足りる。単一のイメージセンサ105により被写体の3次元空間での位置の情報を把握することができるので、2個のイメージセンサが必要な従来のステレオカメラに比べコストの低減を図ることができる。
上側双曲面ミラー102、及び下側双曲面ミラー103は、一体として双曲面ミラーを構成する。上側双曲面ミラー102は、下方向(Z軸の負の方向(第1方向))に凸な上側双曲面に沿った形状を備えており、一方、下側双曲面ミラーは、逆に上方向(Z軸の正の方向(第2方向))に凸な下側双曲面に沿った形状を有している。換言すれば、上側双曲面ミラー102の頂点と、下側双曲面ミラー103の頂点とが対向し、中心軸Oxが一致するよう、上側双曲面ミラー102及び下側双曲面ミラー103が配置されている。図1の例では、上側双曲面ミラー102が上側に、下側双曲面ミラー103が下側に配置されているが、この上下の位置関係を反対にすることも可能である。
下側双曲面ミラー103は、更に内側双曲面ミラー103Aと、外側双曲面ミラー103Bとに分割されている。内側双曲面ミラー103Aは、双曲面の頂点を含む位置に配置され、外側双曲面ミラー103Bは、この内側双曲面ミラー103の外縁よりも外周側に配置されている。内側双曲面ミラー103及び外側双曲面ミラー103Bは、その中心軸Oxを共通にしている。また、内側双曲面ミラー103Aと、外側双曲面ミラー103Bは、互いに異なる円錐定数を備える。また、両者はその境界において段差を有し、内側双曲面ミラー103Aが外側双曲面ミラー103Bに比べて上側に突出している。
上側双曲面ミラー102は、双曲面の全周(360°)に亘って反射面を有しておらず、180°以上360°未満の内角θ1を有する扇形形状(第1扇形形状)に切り欠かれている。同様に、上側双曲面ミラー103も、双曲面の全周(360°)に亘って反射面を有しておらず、180°以上360°未満の内角θ2を有する扇形形状(第2扇形形状)に切り欠かれている。内角θ1、θ2は、ステレオカメラ101の水平画角に応じた角度に設定される。
このような扇形形状を有することにより、イメージセンサ105の解像度を向上させることができ、結果としてステレオカメラの距離計測の精度を向上させることができる。この点については後述する。なお、ここにいう扇形形状は、円の一部をその半径に沿って直線的に切り欠いた形状に限定されるものではない。例えば、図1に示すように、頂点付近の反射面が切り欠かれた形状も、ここに言う扇形形状に含まれる。また、以下では、内角θ1、及びθ2は同一の値であるとして説明をするが、両者は異なった値であってもよい。
ステレオカメラ101は、被写体からの光を所定の水平画角の範囲で双曲面ミラー(上側双曲面ミラー102及び下側双曲面ミラー103)により反射させ、これにより被写体までの距離の情報を取得することを可能にしている。具体的には、被写体からの第1の光R1が、上側双曲面ミラー102で反射した後、更に下側双曲面ミラー103(内側双曲面ミラー103A)で反射し、その後結像光学系104を介してイメージセンサ105に入射される。また、被写体からの、第1の光R1とは異なる第2の光R2が、下側双曲面ミラー103(外側双曲面ミラー103B)で反射され、結像光学系104を介してイメージセンサ105に入射される。このように、第1の光R1、第2の光R2が、異なる方向からイメージセンサ105上の異なる箇所に入射されることで、被写体までの距離等が演算可能となる。
結像光学系104は、1枚以上のレンズの組合せにより構成され、好適には上側双曲面ミラー102及び下側双曲面ミラー103の頂点を結ぶ直線上に配置され得る。
イメージセンサ105は、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサ、又はCCD(Charge Coupled Device)センサにより構成され、駆動制御部118からの制御に従い、結像光学系104を介して受光された光に基づき画像信号を生成し、距離算出部117に出力するよう構成される。
駆動制御部118は、距離算出部117から出力された距離情報を基に車両の制御を行う。車両制御は例えば、衝突被害軽減ブレーキや車線逸脱防止支援などを含む。距離算出部117は、供給された出力画像に基づき、被写体の3次元位置情報を生成する。具体的に距離算出部117は、第1の光R1及び第2の光R2に基づく画像信号を解析することにより、被写体の三次元的な位置又は距離を演算する。三次元画像情報は、ステレオカメラ101が搭載される自動車のECU(Electronic Control Unit)に供給してもよいし、外部のサーバに図示しない通信制御部を介して送信してもよい。
次に、図2を参照して、上側双曲面ミラー102、及び下側双曲面ミラー103(内側双曲面ミラー103A、外側双曲面ミラー103B)について更に詳細に説明する。
上側双曲面ミラー102、内側双曲面ミラー103A、及び外側双曲面ミラー103Bの各々の双曲面は、次の[数1]によって表される2次曲面より規定され得る。円錐定数κが-1よりも小さい場合に、2次曲面は双曲面となる。内側双曲面ミラー103Aの円錐定数κの絶対値は、外側双曲面ミラー103Bの円錐定数κの絶対値よりも大きい値に設定されている。
Figure 0007134925000001
ここで、[数1]におけるz(r)は光軸上の頂点を原点とする光軸方向の面のサグ量である。cは光軸上の曲率(軸上曲率)を示し、rは光軸からの半径座標を示している。
一般に、双曲面は2つの焦点を有し、その座標は、面頂点を基準として次式[数2]によって表される。
Figure 0007134925000002
なお、双曲面の内側にある焦点の座標は、[数2]の±が+である場合のfにより表される。また、[数2]において、双曲面の外側にある焦点の座標は、±が-である場合のfにより表される。以下、双曲面の内側にある焦点を「第1焦点」と称し、双曲面の外側にある焦点を「第2焦点」と称する。
上側双曲面ミラー102と内側双曲面ミラー103Aとは、上側双曲面ミラー102の第2焦点FPu2が、内側双曲面ミラー103Aの第1焦点FPdi1と略一致するように配置されている。なお、外側双曲面ミラー103Bの第1焦点FPdo1は、第2焦点FPu2及び第1焦点FPdi1は、略一致する必要はないが、その近傍となるよう、外側双曲面ミラー103Bを配置することが好適である。
また、内側双曲面ミラー103Aと外側双曲面ミラー103Bとは、外側双曲面ミラー103Bの第2焦点FPdo2が、内側双曲面ミラー103Aの第2焦点FPdi2と略一致するよう配置されている。この第2焦点FPdo2及び第2焦点FPdi2の位置に結像光学系104が配置されている。なお、上側双曲面ミラー102の第1焦点FPu1は、第2焦点FPdo2及び第2焦点FPdi2の位置と略一致していてもよいが、その近傍、具体的には第2焦点FPdo2及び第2焦点FPdi2の位置よりも上方に位置していることが好適である。
上側双曲面ミラー102、及び下側双曲面ミラー103が上記の位置関係とされていることにより、被写体から第1焦点FPu1に向かう第1の光R1は、上側双曲面ミラー102で反射された後、第2焦点FPu2に向かう。第2焦点FPu2と第1焦点FPdi1が略一致していることから、内側双曲面ミラー103Aで反射された光は、第2焦点FPdi2(第2焦点FPdo2)に向けて集光される。この光が結像光学系104を介してイメージセンサ105に入射される。
また、被写体から第1焦点FPdo1に向かう第2の光R2は、外側双曲面ミラー103Bで反射された後、第2焦点FPdo2(第2焦点FPdi2)に向かう。第2の光R2は、第1の光R1とは異なる入射角度で結像光学系104に入射し、これにより第2の光R2は、イメージセンサ105の受光面において、第1の光R1とは異なる位置に入射する。
このように、イメージセンサ105には、第1の光R1に基づき、第1焦点1021から見た被写体の画像が写されると共に、第2の光R2に基づき、第1焦点FPdo1から見た被写体の画像が投影され、これらの画像が出力画像とされる。なお、前述したように、内側双曲面ミラー103Aの円錐定数κの絶対値は、外側双曲面ミラー103Bの円錐定数κの絶対値よりも大きい値に設定されている。これにより、イメージセンサ105の出力画像において、第1焦点(上側視点)FPu1から見た被写体の像と、第1焦点(下側視点)FPdo1から見た被写体の像の大きさが揃えられている。像の大きさが揃えられていることにより、両画像の解像度を合わせることができ、視差マッチング処理の精度を上げることができる。
次に、結像光学系104、及びイメージセンサ105の位置関係に関し、図3を参照して説明する。結像光学系104の光軸Ox2は、上側双曲面ミラー102、及び下側双曲面ミラー103の中心軸Oxと一致するように配置される。一方、イメージセンサ105の受光面の中心位置CP1は、この光軸Ox2からはズレた位置とされている。具体的には、結像光学系104の光軸OX2が、イメージセンサ105の中心位置CP1に対し、イメージセンサ105の短辺Lxに略平行な方向にズレるよう、イメージセンサ105が配置されている。これにより、内角180°以上の扇形形状とされた上側双曲面ミラー102、及び下側双曲面ミラー103から反射される光を、イメージセンサ105のより広い受光面で受光することができ、結果としてステレオカメラ101の解像度を向上させることができる。これを図4及び図5を参照して説明する。
図4は、中心位置CP1が光軸Ox2と略一致している場合における、イメージセンサ105の受光状態の一例である。この場合、第1の光R1に基づく扇形の画像Im1、及び第2の光R2に基づく扇形の画像Im2は、いずれも中心位置CP1の一方の側(図4では上半分)にのみ主に形成される。このため、イメージセンサ105において被写体の検知に寄与する画素数が少なくなり、十分な解像度が得られない。
一方、図5は、中心位置CP1が光軸Ox2からずれた位置とされている場合における、イメージセンサ105の受光状態の一例である。好適には、180°以上の内角θを有する扇形形状の上側双曲面ミラー102、及び下側双曲面ミラー103の画像Im1、Im2の中心付近に、イメージセンサ105の中心位置CP1が位置するよう、イメージセンサ105の位置が調整されている。そのため、光軸Ox2は、イメージセンサ105の受光面Piにおいて、中心位置CP1よりも下方にズレた位置とされている。好適には、光軸Ox2は、中心位置CP1から縦方向にズレた位置とされる。このため、扇形の画像Im1、Im2は、図4の場合とは異なり、中心位置CP1の上側だけではなく、下側も含むイメージセンサ105の広い受光面で受光され得る。
また、この実施の形態では、扇形の画像Im1及びIm2の中心線が、受光面Piの短辺Lxと略平行となり、これにより画像Im1及びIm2が受光面Piにおいて略左右対称になるようイメージセンサ105が配置されている。
このように、この実施の形態では、画像Im1、Im2が受光面Piにおいて略左右対称とされる。また、上側双曲面ミラー102及び下側双曲面ミラー103の焦点の位置、及び結像光学系104の倍率等が、画像Im1及びIm2の受光面Pi上での大きさを最大化するように設定される。そのため、ステレオカメラ101の解像度を向上させることができる。上側双曲面ミラー102、及び下側双曲面ミラー103の内角θが上述のように180°以上である場合、光軸Ox2をイメージセンサ105の受光面Piの中心からズラし、且つ扇形の画像Im1、Im2の中心線を受光面Piの短辺Lxと略平行とすることにより、受光面Piでの受光面積を最大化することができる。結果として、解像度が向上し、被写体までの距離を正確に認識することが可能になる。
図6のグラフは、ステレオカメラ101の垂直方向の画角δと、解像度との関係を示している。ここで画角δは、0°が水平方向を表し、負の値の画角δは、水平方向よりも下方向を意味し、正の値の画角δは、水平方向よりも上方向を意味している。
ステレオカメラ101が自動車の自動運転制御のためのカメラである場合、水平方向及びその上方において高解像度が求められる一方、水平方向よりも下方では、高解像度は不要であり、道路上の停止線やセンターラインが読めれば十分である。このため、画角δが0以上の方向において、解像度(°/pixel)の値が小さくされる一方、画角δの負の値が大きくなるほど、解像度(°/pixel)の値が大きくなるよう、結像光学系104及び双曲面ミラーが設定されている。
なお、ステレオカメラ101の解像度は、第1の光R1に基づき、第1焦点FPu1(上側視点)から受光される光に基づく画像の解像度(上視点解像度)と、第2の光R2に基づき、第1焦点FPu1(下側視点)から受光される光に基づく画像の解像度(下視点解像度)とに分けることができる。図6に示すように、上視点解像度と、下視点解像度とは、所定の画角δの範囲において略等しくなるよう、結像光学系104または双曲面ミラー(102、103)または、結像光学系104と双曲面ミラー(102、103)を設計することが好適である。図6のような関係が得られることにより、画像Im1、Im2の解像度が略同一となり、より正確に被写体までの距離を演算することが可能になる。
図7のグラフは、結像光学系104の画角θと、像高Hrとの関係を示している。この第1の実施の形態では、光軸Ox2に近い領域Aにおいては、像高Hrが理想像高Hi(=f・tanθ)よりも小さくなり、一方、領域Aよりも外側の領域Bにおいては、像高Hrが理想像高Hiよりも大きくなるよう、の結像光学系104が設計されている。また、画角θと像高Hrとの関係を示す曲線は、領域Aと領域Bの境界の近傍において変曲点を有し、境界付近における曲線の傾きが、他の領域に比べ大きくなるよう設計されている。これにより、結像光学系104の中周付近での角度分解能が、光軸付近や外周付近に比べ大きくなる。このような結像光学系の104の設計により、例えばステレオカメラ101を自動運転制御に使用した場合、車両の斜め前方を移動する物体をより高精度に検知することが可能になる。
なお、前述したように、内側双曲面ミラー103Aと、外側双曲面ミラー103Bは、その境界において段差を有し、内側双曲面ミラー103Aが外側双曲面ミラー103Bに比べて上側に突出していることが好ましい。図8(a)は、本実施形態の如く、内側双曲面ミラー103Aが外側双曲面ミラー103Bに比べて上側に突出している場合の第1の光R1及び第2の光R2の受光状態の一例を示している。一方、図8(b)は、本実施形態とは異なり、内側双曲面ミラー103Aと外側双曲面ミラー103Bとの間に段差がない場合における、第1の光R1及び第2の光R2の受光状態の一例を示している。
図8(b)の場合には、第1焦点FPu1と、第1焦点FPdo1との間の距離が大きく、このため、イメージセンサ105において、第1の光R1と第2の光P2の受光位置の間の距離も大きくなり、立体視できる画角が小さくなる。この点、第1の実施の形態(図8(a))では、第1の光R1と第2の光P2の受光位置の間の距離を小さくすることができ、立体視できる画角を大きくすることができる。または、イメージセンサ105の解像度を向上させ、被写体までの距離の検知精度を向上させることができる。
上述した第1の実施の形態では、被写体からの光を反射させる一対のミラーとして、対向配置される双曲面ミラーを用いている。しかし、一対のミラーは図示のような双曲面ミラーには限られず、対向配置される球面ミラー、放物面ミラー、楕円ミラー、非球面ミラーなどを双曲面ミラーに代えて採用することも可能である。
以上説明したように、第1の実施の形態のステレオカメラ101は、双曲面ミラーを構成する上側双曲面ミラー102及び下側双曲面ミラー103が180°以上の内角θを有する扇形形状に形成される。また、この扇形形状の双曲面ミラーからの画像が最大限に受光可能となるよう、イメージセンサ105の中心位置は、結像光学系の光軸に対しズレた位置とされている。更に、扇形形状の画像の中心線が、イメージセンサ105の短辺と略平行となるようにイメージセンサ105が配置されている。これにより、高精度で且つ広角のセンシングが可能であり、しかも小型なステレオカメラを提供することが可能になる。
[第2の実施の形態]
次に、第2の実施の形態に係るステレオカメラ101を、図9を参照して説明する。図9において、図1と同一の構成要素については図1と同一の参照符号を付しているので、重複する説明は省略する。
この第2の実施の形態は、結像光学系104と下側双曲面ミラー103との間に反射ミラー106が設けられている。また、結像光学系104の配置位置も、この反射ミラー106の反射方向とされており、この点、第1の実施の形態では、結像光学系104が上側双曲面ミラーの双曲面の頂点付近に配置されているのと異なっている。
この構成によれば、結像光学系104への入射光を反射ミラー106で折り返すことができるため、結像光学系104及びイメージセンサ105を、双曲面ミラー(上側双曲面ミラー102及び下側双曲面ミラー103)の高さの範囲内に収納することができるので、ステレオカメラ101の大きさを小さくすることができる。
以上、本発明に係る各実施形態及び変形例の説明を行ってきたが、本発明は、上記した実施形態の一例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施形態の一例は、本発明を分かり易くするために詳細に説明したものであり、本発明は、ここで説明した全ての構成を備えるものに限定されない。また、ある実施形態の一例の構成の一部を他の一例の構成に置き換えることが可能である。また、ある実施形態の一例の構成に他の一例の構成を加えることも可能である。また、各実施形態の一例の構成の一部について、他の構成の追加・削除・置換をすることもできる。また、上記の各構成、機能、処理部、処理手段等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。
101・・・ステレオカメラ、102・・・上側双曲面ミラー、103・・・下側双曲面ミラー、103A・・・内側双曲面ミラー、103B・・・外側双曲面ミラー、104・・・結像光学系、105・・・イメージセンサ、117・・・距離算出部、118・・・駆動制御部。

Claims (9)

  1. 第1方向に凸である曲面である第1反射面を有し、第1頂点を有し、且つ第1扇形形状を有する第1ミラーと、
    前記第1方向とは反対の第2方向に凸である第2反射面を有し、前記第1頂点と対向する第2頂点を有し、且つ第2扇形形状を有する第2ミラーと、
    被写体から発して前記第1反射面で反射された後、更に前記第2反射面で反射される第1の光、及び被写体から発して前記第2反射面で反射する第2の光を結像させる結像光学系と、
    前記第1の光及び前記第2の光を前記結像光学系を介して受光するイメージセンサと、
    を備え、
    前記第2ミラーは、内側ミラーと、前記内側ミラーよりも外周側に位置し前記内側ミラーとは円錐定数が異なる外側ミラーとを含み、
    前記第1扇形形状及び前記第2扇形形状の内角は180°以上であり、
    前記イメージセンサは、その中心位置が前記結像光学系の光軸に対しずれた位置に配置されると共に、前記イメージセンサの受光面の短辺と、前記第1扇形形状又は前記第2扇形形状の画像の中心線とが略平行となるように配置される
    ことを特徴とするステレオカメラ。
  2. 前記第1の光は、前記第1ミラーの第1焦点に向かい前記第1反射面で反射され、更に前記内側ミラーの第1焦点に向かい前記第2反射面で反射される光であり、
    前記第2の光は、前記外側ミラーの第1焦点に向かい前記第2反射面で反射される光である、請求項1に記載のステレオカメラ。
  3. 前記第1ミラーの第2焦点と、前記内側ミラーの第1焦点とが略一致するよう、前記第1ミラー及び前記第2ミラーが配置される、請求項1に記載のステレオカメラ。
  4. 前記内側ミラーの第2焦点と、前記外側ミラーの第2焦点とが略一致するよう、前記内側ミラー及び前記外側ミラーが配置される、請求項3に記載のステレオカメラ。
  5. 前記第1の光又は前記第2の光を前記結像光学系に向けて反射させるように配置されたミラーを更に備える、請求項1に記載のステレオカメラ。
  6. 前記外側ミラーは、前記内側ミラーの外周と段差を有する、請求項1に記載のステレオカメラ。
  7. 前記結像光学系の光軸が、前記イメージセンサの中心位置に対し、前記イメージセンサの短辺に略平行な方向にズレるよう、前記イメージセンサが配置される、請求項1に記載のステレオカメラ。
  8. 前記第1の光に基づいて前記イメージセンサに形成される画像の解像度である上視点解像度と、前記第2の光に基づいて前記イメージセンサに形成される画像の解像度である下視点解像度とが、所定の画角の範囲において略等しくなるよう、前記第1ミラー、前記第2ミラー、及び前記結像光学系が設計されている、請求項1に記載のステレオカメラ。
  9. 前記結像光学系は、第1領域においては像高が理想像高よりも小さくなり、一方、前記第1領域よりも外側の第2領域においては、像高が理想像高よりも大きくなるよう、前記結像光学系が設計されている、請求項1に記載のステレオカメラ。
JP2019125786A 2019-07-05 2019-07-05 ステレオカメラ Active JP7134925B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019125786A JP7134925B2 (ja) 2019-07-05 2019-07-05 ステレオカメラ
CN202010563578.3A CN112255880B (zh) 2019-07-05 2020-06-19 立体照相机
DE102020116468.8A DE102020116468B4 (de) 2019-07-05 2020-06-23 Stereokamera
US16/910,992 US11405600B2 (en) 2019-07-05 2020-06-24 Stereo camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019125786A JP7134925B2 (ja) 2019-07-05 2019-07-05 ステレオカメラ

Publications (2)

Publication Number Publication Date
JP2021012075A JP2021012075A (ja) 2021-02-04
JP7134925B2 true JP7134925B2 (ja) 2022-09-12

Family

ID=74065899

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019125786A Active JP7134925B2 (ja) 2019-07-05 2019-07-05 ステレオカメラ

Country Status (4)

Country Link
US (1) US11405600B2 (ja)
JP (1) JP7134925B2 (ja)
CN (1) CN112255880B (ja)
DE (1) DE102020116468B4 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023006232A (ja) 2021-06-30 2023-01-18 日立Astemo株式会社 距離測定装置
JP2023104035A (ja) * 2022-01-17 2023-07-28 株式会社日立製作所 距離計測装置および方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6304285B1 (en) 1998-06-16 2001-10-16 Zheng Jason Geng Method and apparatus for omnidirectional imaging
JP2002185957A (ja) 2000-12-12 2002-06-28 Nippon Lsi Card Co Ltd 周囲の視覚的特徴検出方法、半周撮影機及び移動体の周囲監視システム
JP2006330735A (ja) 2005-05-26 2006-12-07 Korea Advanced Inst Of Sci Technol 単一カメラの全方向両眼視映像獲得装置
JP2008537157A (ja) 2005-04-18 2008-09-11 シャープ株式会社 光学機器に用いるパノラマ式三次元アダプタおよびパノラマ式三次元アダプタと光学機器との組み合わせ
JP2010256296A (ja) 2009-04-28 2010-11-11 Nippon Computer:Kk 全方位3次元空間認識入力装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6449103B1 (en) * 1997-04-16 2002-09-10 Jeffrey R. Charles Solid catadioptric omnidirectional optical system having central coverage means which is associated with a camera, projector, medical instrument, or similar article
JP3752063B2 (ja) * 1997-09-18 2006-03-08 松下電器産業株式会社 全方位ステレオ画像撮影装置
JP3804916B2 (ja) * 2001-02-09 2006-08-02 シャープ株式会社 撮像システムとその画像データ制御に用いられるプログラムおよびその撮像システムにおける撮像画像の歪み補正方法とその手順を記憶させた記憶媒体
EP1452899A1 (en) * 2001-11-13 2004-09-01 Matsushita Electric Industrial Co., Ltd. Wide-angle imaging optical system and wide-angle imaging device, monitoring imaging device, on-vehicle imaging device and projection device with the wide-angle imaging optical system
EP2316054A1 (en) * 2008-08-14 2011-05-04 Remotereality Corporation Three-mirror panoramic camera
CN201837826U (zh) * 2010-10-15 2011-05-18 肖继忠 单相机全方位立体视觉系统
WO2014204794A1 (en) * 2013-06-21 2014-12-24 Magna Electronics Inc. Vehicle vision system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6304285B1 (en) 1998-06-16 2001-10-16 Zheng Jason Geng Method and apparatus for omnidirectional imaging
JP2002185957A (ja) 2000-12-12 2002-06-28 Nippon Lsi Card Co Ltd 周囲の視覚的特徴検出方法、半周撮影機及び移動体の周囲監視システム
JP2008537157A (ja) 2005-04-18 2008-09-11 シャープ株式会社 光学機器に用いるパノラマ式三次元アダプタおよびパノラマ式三次元アダプタと光学機器との組み合わせ
JP2006330735A (ja) 2005-05-26 2006-12-07 Korea Advanced Inst Of Sci Technol 単一カメラの全方向両眼視映像獲得装置
JP2010256296A (ja) 2009-04-28 2010-11-11 Nippon Computer:Kk 全方位3次元空間認識入力装置

Also Published As

Publication number Publication date
DE102020116468A8 (de) 2021-04-01
CN112255880A (zh) 2021-01-22
US11405600B2 (en) 2022-08-02
JP2021012075A (ja) 2021-02-04
DE102020116468A1 (de) 2021-01-07
CN112255880B (zh) 2021-08-06
US20210006771A1 (en) 2021-01-07
DE102020116468B4 (de) 2023-09-14

Similar Documents

Publication Publication Date Title
JP6807543B2 (ja) 撮像装置
WO2016068095A1 (ja) 光学系、撮像装置および距離測定システム
WO2016121550A1 (ja) 撮像レンズ及びそれを用いた撮像装置並びに距離測定システム
US10761406B2 (en) Optical system, image capturing apparatus, distance measuring apparatus, and vehicle-mounted system
JP7134925B2 (ja) ステレオカメラ
WO2019030995A1 (ja) ステレオ画像処理装置
JP6983740B2 (ja) ステレオカメラシステム、及び測距方法
JP2020150427A (ja) 撮像装置、撮像光学系及び移動体
US20180338095A1 (en) Imaging system and moving body control system
WO2020235249A1 (ja) ステレオカメラシステム、及び測距方法
JP7264749B2 (ja) ステレオカメラ、及びステレオカメラ一体型ライトユニット
JP7043375B2 (ja) ステレオカメラ、車載灯具ユニット、及びステレオカメラシステム
JP2021196544A (ja) ステレオカメラ
WO2022068896A1 (zh) 成像装置和电子设备
FI128501B (en) Stereo imaging device
JP7207889B2 (ja) 測距装置および車載カメラシステム
JP7244129B1 (ja) ナイトビジョンカメラ
JP6195491B2 (ja) 撮像システムおよび撮像システムを有する運転支援システム
US11588992B2 (en) Surround-view imaging system
JP2019028128A (ja) 光学系、それを備える撮像装置及び投影装置
WO2007125876A1 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211112

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220817

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220831

R150 Certificate of patent or registration of utility model

Ref document number: 7134925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150