JP2004354435A - Stereoscopic imaging apparatus - Google Patents
Stereoscopic imaging apparatus Download PDFInfo
- Publication number
- JP2004354435A JP2004354435A JP2003148701A JP2003148701A JP2004354435A JP 2004354435 A JP2004354435 A JP 2004354435A JP 2003148701 A JP2003148701 A JP 2003148701A JP 2003148701 A JP2003148701 A JP 2003148701A JP 2004354435 A JP2004354435 A JP 2004354435A
- Authority
- JP
- Japan
- Prior art keywords
- lens group
- objective lens
- imaging device
- imaging
- stereo
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、ステレオ撮像装置に関し、特に、小型かつ水平方向の画角が大きいステレオ画像が撮影可能なステレオ撮像装置に関するものである。
【0002】
【従来の技術】
従来より、同一被写体に対して視差のある2つの画像を左右に並べて同時に撮影するカメラが知られているが、それらは、通常、撮影における撮像面が一般には横長であることから、2つの画像を左右に並べて撮影するようにしているのが一般的である。しかしながら、このような撮影においては、水平方向に長いステレオ画像を得ようとすると、水平方向に長い画像2枚を水平方向に並べる結果になり、撮像面上に無駄なスペースが生じてしまい、例えば単一の撮像素子でこの2枚の画像を同時に撮像して距離測定等に利用しようとするとき、詳細な画像情報を得ることは困難となってくる。
【0003】
このような問題を解決するために、横長の撮像面の上下方向にステレオ画像を取り込むステレオ撮影光学系が特許文献1に記載されている。
【0004】
この光学系は、その特許文献1の図1、図2に示されるように、フイルム面を上下に分割し、各々2枚の反射面にて左右の視差のある画像をフイルム画面の上下に導く構成のものである。
【0005】
また、特許文献1の図7には、被写体側に負レンズを配してレトロフォーカスタイプのレンズ構成として、小型広角化を行ったステレオ撮像光学系も開示されている。
【0006】
【特許文献1】
特開平8−171151号公報
【0007】
【発明が解決しようとする課題】
しかしながら、この特許文献1に記載された撮影光学系は、像面が撮影者側に位置する構成となっている。そのため、光学系全体を見たときに、奥行き方向(入射方向)が大きくなる構成となっている。
【0008】
本発明は従来技術のこのような問題点に鑑みてなされたものであり、その目的は、小型かつ水平方向(視差方向)の画角が大きいステレオ撮像光学系を備えたステレオ撮像装置を提供することである。
【0009】
さらには、収差補正をより良好になし得るステレオ撮像光学系を備えたステレオ撮像装置を提供することを目的とする。
【0010】
また、さらには、撮像素子上における視差を持つ画像の利用効率が良好なステレオ撮像光学系を備えたステレオ撮像装置を提供することを目的とする。
【0011】
【課題を解決するための手段】
上記目的を達成する本発明の第1のステレオ撮像装置は、単一の撮像素子及び前記単一の撮像素子上に相互に視差を持つ少なくとも2つの視差像を形成するステレオ撮像光学系を備えたステレオ撮像装置であって、
前記ステレオ撮像光学系は、間隔をもって配された負の屈折力を持つ第1対物レンズ群及び第2対物レンズ群と、
前記第1対物レンズ群及び前記第2対物レンズ群よりも撮像素子側の光路中に配された正の屈折力を持つ結像レンズ群と、
前記第1対物レンズ群への入射光束を前記第2対物レンズ群側に反射させる第1−1反射面及び前記第1−1反射面からの光束を前記撮像素子側に反射させる第1−2反射面と、
前記第2対物レンズ群への入射光束を前記第1対物レンズ群側に反射させる第2−1反射面及び前記第2−1反射面からの光束を前記撮像素子側に反射させる第2−2反射面と、を有し、
前記第1−2反射面と前記第2−2反射面は各々の反射光束を被写体側に反射するように配置され、かつ、前記単一の撮像素子は前記第1−2反射面と前記第2−2反射面による反射光束側に配置されていることを特徴とするものである。
【0012】
以下に、この本発明の第1のステレオ撮像装置の作用効果を説明する。
【0013】
説明に先立って、本発明において、視差方向とは、ステレオ撮像光学系については、同一被写体から第1の対物レンズ群の入射面に入射する中心光線位置と第2の対物レンズ群の入射面に入射する中心光線位置とを結んだ方向であり、通常は水平方向(左右方向)に選ばれるが、この方向は限定的ではなく、垂直方向あるいは斜め方向何れでも可能である。また、撮像素子(結像面)上での視差像においては、複数の視差像における同一被写体の相対的なずれ方向が視差方向となる。
【0014】
また、本発明において、単一の撮像素子とは、受光面(撮像面)が1個のものに限定されず、同一基板(サブストレート。半導体基板が通常である。)上に複数の受光面が併設されているものも意味する。
【0015】
さて、本発明のステレオ撮像装置のステレオ撮像光学系においては、左右(以後、特に断らない限り、視差方向を意味する。)に併設して配された負の対物レンズ群(第1、第2の対物レンズ群)に被写体から入射した光束は、途中、それぞれ上記の各反射面(第1の対物レンズ群に関しては、第1−1反射面及び第1−2反射面、第2の対物レンズ群に関しては、第2−1反射面及び第2−2反射面)にて反射されると共に、結像レンズ群を経由して、視差を持った画像(視差像)が撮像素子上に導かれる。
【0016】
このとき、撮像素子を共通部材とすることができ、部品点数の削減を行うことができ、装置を小型化、軽量化が行える。
【0017】
また、撮像素子を左右視差像別々に2つ設ける場合、左右の撮像素子の特性のバラツキを補正すること、及び、左右の撮像素子の読み出しの同期をとることが容易ではないが、これらを共通の単一の撮像素子とすることにより、これらの問題も解決できる。
【0018】
また、対物レンズ群に負の屈折力を持たせ、像面側の結像レンズ群に正の屈折力を持たせたので、左右の光学系各々をレトロフォーカスタイプの構成とすることができ、広画角化を行うことができる。
【0019】
ところで、さらなるステレオ撮像光学系の小型化のために、左右方向を小さくしようとすると、適度な視差が得られず、有効なステレオ画像を得ることが困難となる。ステレオ撮像光学系の奥行き方向や高さ方向の大型化を抑えるために、本発明では、上記のように光路を折り曲げるようにすることで、左右の対物レンズ群間に撮像素子を配する構成としている。
【0020】
それにより、従来、奥行き方向や高さ方向が大きくなる方向に光路を折り曲げていた構成に比べ、左右の対物レンズ群間のデッドスペースに撮像素子を配置することで、光学系の一層の小型化を達成することができる。
【0021】
本発明の第2のステレオ撮像装置は、第1のステレオ撮像装置において、前記結像レンズ群は、前記単一の撮像素子の直前に配されていることを特徴とするものである。
【0022】
この第2のステレオ撮像装置の作用効果を説明する。
【0023】
このように結像光学系を撮像素子の直前に配置することで、2つの反射面間にのみ結像光学系を配した場合に比べ、結像光学系の径を大きくしなくてもよく、撮像素子に対してテレセントリック性を確保しやすい。
【0024】
本発明の第3のステレオ撮像装置は、第2のステレオ撮像装置において、前記結像レンズ群が、前記少なくとも2つの視差像を形成する光束が入射し、かつ、1つのみの光軸を持つことを特徴とするものである。
【0025】
この第3のステレオ撮像装置の作用効果を説明する。
【0026】
撮像素子に加えて、反射面より後のレンズ群を共通部材とすることができ、さらなる部品点数の削減を行える。
【0027】
本発明の第4のステレオ撮像装置は、第1〜第3のステレオ撮像装置において、前記第1−1反射面、前記第1−2反射面、前記第2−1反射面、前記第2−2反射面は、前記単一の撮像素子上に投影される各々の視差像の並列配置方向が、前記第1対物レンズ群及び前記第2対物レンズ群の並列配置方向とは異なる方向になるように設けられていることを特徴とするものである。
【0028】
この第4のステレオ撮像装置の作用効果を説明する。
【0029】
各反射面をこのように構成することで、左右の対物レンズ群に入射した光束は、それぞれの反射面を介して撮像素子の概ね上下方向に並列して結像される。したがって、撮像素子をこの結像位置に合わせて配置すると、左右方向に広画角な画像を得ることが可能となる。
【0030】
本発明の第5のステレオ撮像装置は、第4のステレオ撮像装置において、前記結像レンズ群の逆光線追跡での光軸が前記第1−2反射面及び前記第1−1反射面と前記第1対物レンズ群を通るように構成された場合の光軸を第1仮想光軸、前記結像レンズ群の逆光線追跡での光軸が前記第2−2反射面及び前記第2−1反射面と前記第1対物レンズ群を通るように構成された場合の光軸を第2仮想光軸とするとき、前記第1対物レンズ群に入射する第1仮想光軸と前記第2対物レンズ群に入射する第2仮想光軸とは、相互に非平行で、かつ、同一平面内に位置しないことを特徴とするものである。
【0031】
この第5のステレオ撮像装置の作用効果を説明する。
【0032】
結像レンズ群の逆光線追跡での光軸は、その結像レンズ群を左右共通の光学系とするとき、左右の複数の反射面と対物レンズ群を通るように構成すると、左右の視差像が撮像素子上で一部重畳して投影されてしまうため、これを避けるために、最も結像レンズ群側の光学部材である第1−2反射面、第2−2反射面でケラレるように構成するが、このようなケラレを起こさないように、第1−2反射面、第2−2反射面を拡大して構成したときの第1−2反射面、第2−2反射面及び対物レンズ群を通る光軸を各々仮想光軸とする。
【0033】
この仮想光軸を相互に非平行で、かつ、同一平面内に位置しない関係とすることで、共通する被写体からの光束を結像レンズ群を経て共通の撮像素子上に重畳しないように導くことが可能となり、視差像間の視野のずれを防止することができる。また、共通する被写体を配するステレオ撮像装置からの距離範囲を広くとることができる。
【0034】
本発明の第6のステレオ撮像装置は、第4のステレオ撮像装置において、前記第1対物レンズ群及び前記第2対物レンズ群は各々回転対称となる光軸を持つレンズ系からなり、各光軸は、光路を展開した状態において、前記結像レンズ群の光軸と概略一致し、かつ、前記第1対物レンズ群の光軸と前記第2対物レンズ群の光軸とは相互に非平行で、かつ、同一平面内に位置しないことを特徴とするものである。
【0035】
この第6のステレオ撮像装置の作用効果を説明する。
【0036】
光路を展開した状態にて、対物レンズ群と結像レンズ群との光軸のズレ幅が大きい場合、対物レンズ群、結像レンズ群の双方にて収差補正を行わないと、両者の光軸のズレによる偏心収差が生じやすくなる。
【0037】
一方、本発明のように、光路を展開した状態にて、対物レンズ群と結像レンズ群との光軸を略共通にした場合、結像レンズ群での光軸に対称な残存収差を略同軸の対物レンズ群にて補正できるので、光軸ズレによる影響が小さくて済むようになる。
【0038】
しかしながら、このように対物レンズ群の光軸を結像レンズ群の光軸と概略一致させた場合、単純に光軸を同一面上で折り曲げたのみでは、左右の入射光束が被写体側にて重複しなくなり、視差のある複数の視差像を撮影するステレオ撮影ができなくなる。
【0039】
そこで、上述するように、双方の対物レンズ群の光軸を非平行で、かつ、同一平面内に位置しない関係とすることで、共通被写体からの光束により相互に視差のある左右の視差像を撮像素子上に別々に導くことが可能となる。
【0040】
本発明の第7のステレオ撮像装置は、第5のステレオ撮像装置において、前記第1対物レンズ群と前記第1−1反射面と前記第1−2反射面と前記結像レンズ群を経て前記単一の撮像素子上に投影される視差像の中心に達する光束の中心光線を第1主光線、前記第2対物レンズ群と前記第2−1反射面と前記第2−2反射面と前記結像レンズ群を経て前記単一の撮像素子上に投影される視差像の中心に達する光束の中心光線を第2主光線とするとき、前記第1対物レンズ群に入射する前記第1主光線と前記第2対物レンズ群に入射する前記第2主光線との角度差が、前記第1対物レンズ群に入射する前記第1仮想光軸と前記第2対物レンズ群に入射する前記第2仮想光軸との角度差よりも小さいことを特徴とするものである。
【0041】
本発明の第8のステレオ撮像装置は、第6のステレオ撮像装置において、前記第1対物レンズ群と前記第1−1反射面と前記第1−2反射面と前記結像レンズ群を経て前記単一の撮像素子上に投影される視差像の中心に達する光束の中心光線を第1主光線、前記第2対物レンズ群と前記第2−1反射面と前記第2−2反射面と前記結像レンズ群を経て前記単一の撮像素子上に投影される視差像の中心に達する光束の中心光線を第2主光線とするとき、前記第1対物レンズ群に入射する前記第1主光線と前記第2対物レンズ群に入射する前記第2主光線との角度差が、前記第1対物レンズ群の光軸と前記第2対物レンズ群の光軸との角度差よりも小さいことを特徴とするものである。
【0042】
この第7、第8のステレオ撮像装置の作用効果を説明する。
【0043】
これら角度差が以上の関係を満たすことで、左右両視差像中に対応点が存在し、例えば被写体の距離測定に利用することができるようになる。
【0044】
本発明の第9のステレオ撮像装置は、第4〜第8のステレオ撮像装置において、前記単一の撮像素子の撮像面が長辺方向と短辺方向を持つ矩形形状であり、前記撮像面の長辺方向を前記ステレオ撮像光学系の視差方向に対して傾けたことを特徴とするものである。
【0045】
本発明の第10のステレオ撮像装置は、第4〜第9のステレオ撮像装置において、前記異なる方向が、前記視差像の視差方向に対して略直交する方向であることを特徴とするものである。
【0046】
この第9、第10のステレオ撮像装置の作用効果を説明する。
【0047】
本発明のように、光路を展開したときに各々の視差像に至る入射側主光線が相互に傾いている光学系の場合、視差像相互を近接させつつ両主光線を平行に近づけるように光路を折り曲げようとすると、第1反射面(第1−1反射面、第2−1反射面)、第2反射面(第1−2反射面、第2−2反射面)の少なくとも一方を、その法線をステレオ撮像光学系の視差方向を含む平面に対して傾けなければならないため、像面がステレオ撮像光学系の視差方向に対して傾いてしまう。
【0048】
したがって、この傾斜した像面に沿うように撮像素子の撮像面を傾けることで、撮像領域を有効利用することが可能となる。そして、特に、左右の視差像が相互に並ぶ方向を視差像の視差方向に対して略直交する方向とすることで、撮像領域を最も有効利用することが可能となる。
【0049】
本発明の第11のステレオ撮像装置は、第1〜第10のステレオ撮像装置において、前記単一の撮像素子の撮像面が長辺方向と短辺方向を持つ矩形形状であり、前記第1対物レンズ群を介した視差像及び前記第2対物レンズ群を介した視差像が、前記単一の撮像素子の短辺方向に並んで投影されるように前記単一の撮像素子を配したことを特徴とするものである。
【0050】
この第11のステレオ撮像装置の作用効果を説明する。
【0051】
矩形形状の撮像素子の短辺方向へ左右の視差像が並んで投影されるため、より横長の視差像を得ることが可能となる。それにより、概略水平方向に広い画角の情報が要求される車両搭載型のステレオ撮像装置等に好適なステレオ撮像装置とすることができる。
【0052】
本発明の第12のステレオ撮像装置は、第1〜第11のステレオ撮像装置において、前記単一の撮像素子の走査方向を前記ステレオ撮像光学系の視差方向に対して傾けたことを特徴とするものである。
【0053】
本発明の第13のステレオ撮像装置は、第1〜第12のステレオ撮像装置において、前記単一の撮像素子の走査方向を視差像の視差方向と略平行にしたことを特徴とするものである。
【0054】
この第12、第13のステレオ撮像装置の作用効果を説明する。
【0055】
本発明のように、光路を展開したときに各々の視差像に至る入射側主光線が相互に傾いている光学系の場合、視差像相互を近接させつつ両主光線を平行に近づけるように光路を折り曲げようとすると、第1反射面(第1−1反射面、第2−1反射面)、第2反射面(第1−2反射面、第2−2反射面)の少なくとも一方を、その法線をステレオ撮像光学系の視差方向を含む平面に対して傾けなければならないため、像面がステレオ撮像光学系の視差方向に対して傾いてしまう。したがって、この傾いた像面に沿うように撮像素子の走査方向を傾けることで、画像処理時間を短縮することが可能となる。
【0056】
本発明の第14のステレオ撮像装置は、第1〜第13のステレオ撮像装置において、前記第1対物レンズ群を介した視差像及び前記第2対物レンズ群を介した視差像が、前記単一の撮像素子の走査方向に略直交する方向に並んで投影されるように前記単一の撮像素子を配したことを特徴とするものである。
【0057】
この第14のステレオ撮像装置の作用効果を説明する。
【0058】
撮像素子が受像面を上下分割して同時に読み出し可能なものを用いる場合に、メモリを用いなくとも、同時並列処理が可能になり、画像情報処理時間を短縮することができる。
【0059】
本発明の第15のステレオ撮像装置は、第1〜第14のステレオ撮像装置において、前記第1対物レンズ群、前記第2対物レンズ群の焦点距離をそれぞれfT1、fT2、前記結像レンズ群の焦点距離をfK 、前記第1対物レンズ群を含む全系の焦点距離をf1 、前記第2対物レンズ群を含む全系の焦点距離をf2 としたときに、以下の条件式(1)、(2)、(3)、(4)を満足することを特徴とするものである。
【0060】
−10.0<fT1/f1 <−2.0 ・・・(1)
−10.0<fT2/f2 <−2.0 ・・・(2)
1.5<fK /f1 <10 ・・・(3)
1.5<fK /f2 <10 ・・・(4)
この第15のステレオ撮像装置の作用効果を説明する。
【0061】
これらの条件式は、全系によって短い焦点距離と適度な視差を持った画像を得るために、各々の対物レンズ群の焦点距離と結像レンズ群の焦点距離を全系の焦点距離で規定したものである。条件式(1)、(2)の下限値の−10.0を越えて対物レンズ群の屈折力が弱くなると、広画角を得ることができなくなると共に、対物レンズ群の径が大きくなる。
【0062】
一方、条件式(1)、(2)の上限値の−2.0を上回ると、両レンズ群間の間隔が短くなり、両レンズ群間に複数のミラーを配して折り曲げることが困難となってくる。
【0063】
同様に、条件式(3)(4)の下限値の1.5を越えて結像レンズ群の屈折力が強くなると、両レンズ群間の間隔が短くなり、上限値の10を越えて結像レンズ群の屈折力が小さくなると、両レンズ群間の間隔が長くなりすぎて、装置が大きくなる。
【0064】
さらには、条件式(1)、(2)の下限値を−8.0としてもよい。さらには、条件式(1)、(2)の下限値を−6.0としてもよい。
【0065】
また、さらには、条件式(1)、(2)の上限値を−3.0としてもよい。さらには、条件式(1)、(2)の上限値を−4.0としてもよい。
【0066】
また、さらには、条件式(3)、(4)の下限値を2.5としてもよい。さらには、条件式(3)、(4)の下限値を3.0としてもよい。
【0067】
また、さらには、条件式(3)、(4)の上限値を7.0としてもよい。さらには、条件式(3)、(4)の上限値を5.0としてもよい。
【0068】
本発明の第16のステレオ撮像装置は、第1〜第15のステレオ撮像装置において、前記結像レンズ群の横倍率をβK とするときに、以下の条件式(5)を満足することを特徴とするものである。
【0069】
−0.4<βK <−0.06 ・・・(5)
この第16のステレオ撮像装置の作用効果を説明する。
【0070】
この条件式(5)は、結像レンズ群の横倍率を規定するものである。条件式(5)の下限値の−0.4を下回ると、バックフォーカスが長くなり光学系全体が大きくなる。一方、条件式(5)の上限値の−0.06を越えると、対物レンズ群の屈折力が弱くなるので、広画角が達成できなくなると共に、対物レンズ群の径が大きくなりすぎる。
【0071】
さらには、条件式(5)の下限値を−0.3としてもよい。さらには、条件式(5)の下限値を−0.25としてもよい。
【0072】
また、さらには、条件式(5)の上限値を−0.1としてもよい。さらには、条件式(5)の上限値を−0.15としてもよい。
【0073】
以上の、条件式(1)〜(5)に関して、後記の実施例のステレオ撮像光学系の値は次の通りである。
【0074】
fT1 =−22.908
fT2 =−22.908
fK = 18.714
f1 = 5.00
f2 = 5.00
fT1/f1 = −4.57
fT2/f2 = −4.57
fK /f1 = 3.74
fK /f2 = 3.74
βK = −0.218
本発明の第17のステレオ撮像装置は、第1〜第16のステレオ撮像装置において、前記第1対物レンズ群及び前記第2対物レンズ群と前記結像レンズ群間に射出瞳を形成する絞り部材が位置することを特徴とするものである。
【0075】
この第17のステレオ撮像装置の作用効果を説明する。
【0076】
このようにすると、撮像素子への入射光束をテレセントリックにしやすくなる。また、対物レンズ群及び結像レンズ群の径の肥大化も抑えられる。
【0077】
本発明の第18のステレオ撮像装置は、第17のステレオ撮像装置において、光路を展開した状態において、前記絞り部材から前記結像レンズ群の入射面までの距離をDPK、前記結像レンズ群の焦点距離をfK とするときに、以下の条件式(6)を満足することを特徴とするものである。
【0078】
0.03<DPK/fK <1.5 ・・・(6)
この第18のステレオ撮像装置の作用効果を説明する。
【0079】
条件式(6)の下限値の0.03を越えると、撮像素子側へテレセントリックにする効果が小さくなる。一方、上限値の1.5を越えると、結像レンズ群による軸外光束のケラレが生じやすくなる。
【0080】
さらには、条件式(6)の下限値を0.1としてもよい。さらには、条件式(6)の下限値を0.2としてもよい。
【0081】
また、さらには、条件式(6)の上限値を1.0としてもよい。さらには、条件式(6)の上限値を0.5としてもよい。
【0082】
以上の、条件式(6)に関して、後記の実施例のステレオ撮像光学系の値は次の通りである。
【0083】
DPK = 8.24
fK = 18.714
DPK/fK = 0.440
本発明の第19のステレオ撮像装置は、第1〜第18のステレオ撮像装置において、前記少なくとも2つの視差像を前記撮像素子の撮像面上にて分離させて結像する視野制限部材を備えていることを特徴とするものである。
【0084】
この第19のステレオ撮像装置の作用効果を説明する。
【0085】
左右の視差像が撮像面上にてオーバーラップしないように、左右の光路中の何れかの位置にそれぞれ視野制限部材を配することが好ましい。この場合、左右の光路中に中間像結像位置が存在しない場合は、ケラレにより視野を制限するようにする。
【0086】
本発明の第20のステレオ撮像装置は、第19のステレオ撮像装置において、前記視野制限部材の少なくとも1つが、前記対物レンズ群の被写体側に配され、かつ、概略矩形の開口部を持つ視野マスクであることを特徴とするものである。
【0087】
この第20のステレオ撮像装置の作用効果を説明する。
【0088】
対物レンズ群の被写体に近い位置に視野マスクを配することで、マスクに視野絞りの機能を持たせやすくできる。また、その形状を得たい像形状に近い形状(概略矩形)とすることで、視野絞りの機能とフードの機能を併せて果たさせることができる。
【0089】
本発明の第21のステレオ撮像装置は、第20のステレオ撮像装置において、前記視野マスクが前記対物レンズ群の光軸に対して偏った位置に配置されていることを特徴とするものである。
【0090】
この第21のステレオ撮像装置の作用効果を説明する。
【0091】
撮像素子の所望領域に視差像を形成したい場合は、対物レンズ群の傾きによらず視野マスクを対物レンズ群に対して偏った位置に配することが好ましい。
【0092】
本発明の第22のステレオ撮像装置は、第1〜21のステレオ撮像装置において、前記第1対物レンズ群と前記第1−1反射面と前記第1−2反射面と前記結像レンズ群を経て前記単一の撮像素子上に投影される視差像の中心に達する光束の中心光線を第1主光線、前記第2対物レンズ群と前記第2−1反射面と前記第2−2反射面と前記結像レンズ群を経て前記単一の撮像素子上に投影される視差像の中心に達する光束の中心光線を第2主光線とするとき、前記第1対物レンズ群及び前記第2対物レンズ群の少なくとも何れかのレンズの外形が、該レンズの光軸に対してそれぞれの主光線が入射する側とは反対側において光軸に最も近づく非回転対称の形状となっていることを特徴とするものである。
【0093】
この第22のステレオ撮像装置の作用効果を説明する。
【0094】
対物レンズ群中の有効面以外の部分は欠落させることが好ましい。特に、対物レンズ群が主光線に対して偏心している場合は、主光線とは反対側の領域の一部は不要となるため、上記のような形状とすることで、軽量化が図れる。さらには、そのようなレンズ形状にして視野制限部材の一部として機能させることも可能となる。
【0095】
【発明の実施の形態】
以下、本発明のステレオ撮像装置を実施例に基づいて説明する。
【0096】
図1は、本発明の1実施例のステレオ撮像装置の概略の構成を示す模式的な斜視図であり、図1(a)と(b)は視野マスク5L、5Rの形状が異なるのみで、その他の構成は同じであるので、以下に特別な場合以外は区別しない。
【0097】
以下の説明において、特に断らない限り、符号の後の“L”と“R”は左右の光路に属する構成要素等を区別するためのものである。
【0098】
このステレオ撮像装置は、左右の光路に対して、左右の対物レンズ群1L、1Rと、それら対物レンズ群1L、1Rから入射した光を順に反射する第1反射面21L、21R、第2反射面22L、22Rと、左右の第2反射面22L、22Rで反射された光が入射する共通の結像レンズ群3と、結像レンズ群3の像面に配置されている共通の単一の撮像素子4とからなる。
【0099】
第1反射面21L、21Rと第2反射面22L、22Rの反射方向は、図から明らかなように、左の第1反射面21Lは、左の対物レンズ群1Lから入射した光路を右の対物レンズ群1R側へ概ね90°折り曲げ、第2反射面22Lは、その折り曲げられた光路を左の対物レンズ群1Lへ入射する光路と略平行な方向であって反対の方向へ概ね90°折り曲げて、共通の結像レンズ群3へ入射させ、同様に、右の第1反射面21Rは、右の対物レンズ群1Rから入射した光路を左の対物レンズ群1L側へ概ね90°折り曲げ、第2反射面22Rは、その折り曲げられた光路を右の対物レンズ群1Rへ入射する光路と略平行な方向であって反対の方向へ概ね90°折り曲げて、共通の結像レンズ群3へ入射させる構成になっている。
【0100】
そのために、このステレオ撮像装置は、左右の対物レンズ群1L、1R間に共通の結像レンズ群3と撮像素子4を配置することができ、左右方向の幅は左右の対物レンズ群1L、1Rの端部間の距離(基線長に一方の対物レンズ群の口径を加えた距離)で決まり、被写体に対して奥行き方向の厚さは、対物レンズ群1L、1R先端面と、第1反射面21L、21R及び第2反射面22L、22Rで構成される導光光学系2L、2Rの後端面との間に距離で決まり、さらに、高さは対物レンズ群1L、1Rの口径以下(対物レンズ群1L、1Rの有効領域以外はトリミングできるので、口径以下となる。)で略決まるため、小型に構成することができる。
【0101】
そして、左の対物レンズ群1Lから入射し、第1反射面21L、第2反射面22Lを順に経て結像レンズ群3で撮像素子4上に結像される両眼視差像の左の視差像は、撮像素子4の矩形の撮像面の下半分に倒立して投影され、右の対物レンズ群1Rから入射し、第1反射面21R、第2反射面22Rを順に経て結像レンズ群3で撮像素子4上に結像される両眼視差像の右の視差像は、撮像素子4の矩形の撮像面の上半分に倒立して投影される。
【0102】
ここで、このステレオ撮像装置の光学系全体の視差方向は、左右の主光線を10L、10Rとするとき、左右の対物レンズ群1L、1Rの入射レンズ面あるいは視野マスク5L、5Rに左右の主光線10L、10Rが入射する点間を結んだ直線A−A’の方向であり、撮像素子4上に投影される視差像の視差方向は、撮像素子4の矩形の辺に平行な直線B−B’の方向であり、図1から明らかなように、この実施例のステレオ撮像装置においては、光学系全体の視差方向A−A’と撮像素子4上に投影される視差像の視差方向B−B’とは平行でなく視差方向A−A’に対して視差方向B−B’が傾いている。これは、第1反射面21L、21Rと第2反射面22L、22Rの傾きが、単純に同一平面に直交する軸回りでの傾きでなく、2軸の回りでの傾きであることにより、撮像素子4上に投影される被写体像に回転が起きるためである。ここで、左右の主光線10L、10Rは、それぞれ対物レンズ群1L、1Rから入射し、第1反射面21L、21R、第2反射面22L、22Rを順に経て結像レンズ群3で撮像素子4上に結像される左右の視差像各々の中心に達する光束の中心光線で定義される。
【0103】
この実施例の光学系の詳細な説明の前に、簡単に説明しておくと、左右の主光線10L、10Rは上記のように定義されるのに対して、左右の対物レンズ群1L、1Rはそれぞれ光軸(中心軸、回転軸)111L、111Rを有し、また、結像レンズ群3は1つの光軸(中心軸、回転軸)113 を有している。そして、第1反射面21L、21Rと第2反射面22L、22Rでの光路を展開して左右の光学系(レンズ系)をそれぞれ1つのレンズ系とするとき、左の対物レンズ群1Lの光軸111Lと結像レンズ群3の光軸113 は一致して1つの光軸となっている。また、右の対物レンズ群1Rの光軸111Rと結像レンズ群3の光軸113 は一致して1つの光軸となっている。そして、同一被写体からの左右の光束は、左右の主光線10L、10Rに沿って左右の対物レンズ群1L、1Rに入射して、撮像素子4の矩形の撮像面の下半分、上半分にそれぞれの左右の視差像を倒立して結像する。
【0104】
ここで、この実施例において、左右の対物レンズ群1L、1Rに入射する主光線10L、10Rは、それぞれの光軸111L、111Rとは一致せず、左の入射する主光線10Lは左の光軸111Lの上側に角度をなしており、右の入射する主光線10Rは右の光軸111Rの下側に角度をなしている。ただし、左右視差像を結像させるために、左右の対物レンズ群1L、1Rに入射する主光線10L、10Rは相互に平行かあるいは略同一面内で被写体までの距離に応じた内輳角を形成しており、そのため、左右の対物レンズ群1L、1Rの光軸111L、111Rは、結像レンズ群3の光軸113 を中心に相互にねじれの関係にあり、180°回転対称の関係にある。
【0105】
左右の対物レンズ群1L、1Rの入射側に、それぞれ主光線10L、10Rを中心とする結像光束を通し、不要光を制限する視野マスク5L、5Rが配置されているが、図1(a)の場合は、左の対物レンズ群1Lの略下側を覆い、右の対物レンズ群1Rの略上側を覆う単純な形状に構成した例であり、図1(b)の場合は、左の対物レンズ群1Lの略下側を覆い、撮像素子4上に結像される視差像を左右に長い長方形状に制限する横長の長方形形状、右の対物レンズ群1Rの略上側を覆い、撮像素子4上に結像される視差像を左右に長い長方形状に制限する横長の長方形形状に構成した例である。
【0106】
そして、第1反射面21L、21Rは、対物レンズ群1L、1Rを透過した有効光束を制限しないサイズと形状を持ち、水平方向には約45°、垂直方向には撮像素子3側に数度傾いて配置されており、第2反射面22L、22Rに反射光束を入射させる。第2反射面22L、22Rは、水平方向には第2反射面22L、22Rに略垂直に、垂直方向には撮像素子側に微小な角度傾いて配置されており、結像レンズ群3に光束を入射させる。第2反射面22L、22Rは、図1に示すように、垂直方向から見た場合は、左の第2反射面22Lが上、右の第2反射面22Rが下で相互に交差するように配置されており、左右から入射してくる光束を結像レンズ群3の方向に上下方向から入射するように偏向する。ここで、この第2反射面22L、22Rが射出瞳を形成する絞り部材を構成している。
【0107】
視野マスク5L、5Rにより制限された光束は、結像レンズ群3により、図示しないローパスフィルターを透過した後、撮像素子4の上下の半分の何れか半分の領域にそれぞれの視差像を結像する。視野マスク5L、5Rの作用により、上下の視差像は相互にオーバーラップせずに、撮像素子4上に分離平行して結像される。
【0108】
ここで、重要なことであるが、左右の対物レンズ群1L、1R、左右の導光光学系2L、2Rは同じものを用いており、結像レンズ群3の光軸113 を中心に相互に180°の回転対称の関係に配置されるので、同一の一対の部品を左右に相互に180°の回転した位置に配置して構成すればよい。
【0109】
そして、対物レンズ群1L、1Rは負の屈折力を持ち、結像レンズ群3は正の屈折力を持つので、左右の光学系はそれぞれレトロフォーカスタイプの構成となっており、広画角な左右の視差像を撮像することができる。
【0110】
なお、図1中、符号6、7は、このステレオ撮像装置の回路部品を配置する上下のスペースを示している。
【0111】
次に、本実施例のステレオ撮像装置のステレオ撮像光学系の詳細を説明する。
【0112】
上記したように、左右の対物レンズ群1L、1R、左右の導光光学系2L、2Rは同一構成のものであり、結像レンズ群3の光軸113 を中心に相互に180°の回転対称の関係に配置される。そして、左右の対物レンズ群1L、1Rの光軸111Lと結像レンズ群3の光軸113 は一致した1つの光軸となっているので、主として左の光学系を説明する。
【0113】
図2は、左の光学系を示す光路展開図であり、左の対物レンズ群1L、第1反射面21L、第2反射面22L、結像レンズ群3は、一転鎖線で示す光軸11Lを中心とする回転対称光学系を構成している。この図では、第1反射面21L、第2反射面22Lは光軸11Lに垂直な直線で代表させてあるが、光路展開しない状態では、第1反射面21Lと第2反射面22Lはこの光軸11Lに対して、後で説明するように、2軸の回りで傾いているので、光学系の配置上は回転対称ではない。
【0114】
図2から明らかなように、左の対物レンズ群1Lは、物体側に凸面を向けた負メニスカスレンズL1 と、平凹負レンズL2 と、物体側に凸面を向けた正メニスカスレンズL3 の3枚からなる負パワーのレンズ群からなり、結像レンズ群3は、両凸正レンズL4 と、物体側に凸面を向けた正メニスカスレンズL5 と、平凹負レンズL6 と、両凸正レンズL7 の4枚からなる正パワーのレンズ群からなり、第2反射面22Lの位置に絞りが配置されている(第2反射面22Lの外形が絞りを構成している。)。そして、撮像素子4の撮像面(像面)の下半分に結像される左の視差像の中心に至る主光線10Lの通る画角(光軸11Lと主光線10Lのなす角度)は9.7°である。
【0115】
このレンズ系のレンズデータは後記の表1の通りである。ただし、表中、r1 、r2 …はレンズL1 の入射側の面から数えて順の各レンズ面(反射面、像面を含む。)の曲率半径、d1 、d2 …は各レンズ面間の間隔、nd1、nd2…は各レンズのd線の屈折率、νd1、νd2…は各レンズのアッベ数である。表1中では、このレンズ系自体の全画角を示してあるが、左の光学系として示す画角は、縦方向(垂直方向)では9.7°±7°の2.7°から16.7°の14°であり、左右方向(水平方向、視差方向)では、42°となる。
【0116】
この実施例のレンズ系の縦収差図を図3に、横収差図を図4に示す。これら収差図において、“SA”は球面収差、“AS”は非点収差、“DT”は歪曲収差、“CC”は倍率色収差を示す。また、各収差図中、“ω”は片側の画角を示す。
【0117】
さて、ここで、座標を定義する。撮像素子4の像面(撮像面)中心において、その法線方向であって被写体方向に向かう方向(像面の表から裏へ向かう方向)を正としたz軸、z軸に直交し、像面から対物レンズ群方向に正を向いたx軸、z軸とx軸とに直交し右手座標系を構成するy軸を定義する。
【0118】
図5に本実施例のステレオ撮像装置の左の光学系のx−z面への投影図、図6にそのy−z面への投影図を示す。第1反射面21Lと第2反射面22Lは、上記のように、2軸の回りで傾いているが、この第1反射面21L、第2反射面22Lの回転(傾き)については、y軸回りでの回転角として、その像面中心に設定した座標系のy軸正方向に向いて右回りを正、左回りを負とし、各反射面の法線がz軸正方向を向いている位置を回転角0°として定義する。また、x軸回りでの回転角として、その像面中心に設定した座標系のx軸を各反射面の回転と共に回転するもの、すなわち、x軸は各反射面内にy軸に直交して存在するものとし、その新たに設定されたx軸正方向に向いて右回りを正、左回りを負と定義する。
【0119】
この実施例においては、後記の表2の通り、第1反射面21Lのy軸回りでの回転角は−44.6°、x軸回りでの回転角は+8°、第2反射面22Lのy軸回りでの回転角は+45°、x軸回りでの回転角は−1.2°である。
【0120】
また、上記の撮像素子4の像面(撮像面)中心に定義した座標系における各レンズ面(反射面、像面を含む。)の面頂位置は、後記の表3の通りである。
【0121】
以上の図2で光路展開図、図5のでx−z面への投影図、図6でy−z面への投影図に示した左の光学系の斜視図は、図7のようになる。
【0122】
【0123】
【0124】
【0125】
以上の表1〜表3において、寸法を表す値の単位はmmである。
【0126】
以上にこの実施例のステレオ撮像光学系の左の光学系を説明したが、上記のように、右の光学系は、結像レンズ群3を共有し、右の対物レンズ群1Rと右の導光光学系2Rは、左の対物レンズ群1Lと右の導光光学系2Lと同一構成のものであり、右の対物レンズ群1Rと右の導光光学系2Rは、結像レンズ群3の光軸113 を中心に相互に180°の回転対称の位置に配置されるものであり、同一の撮像素子4の撮像面の上半分に右の視差像が結像されることになる。
【0127】
図8は、撮像素子4の撮像面に投影される左の視差像12Lと右の視差像12Rの位置関係を示す図であり、撮像素子4の撮像面は長辺方向と短辺方向を持つ矩形形状をしており、その長辺方向は左右の視差像12L、12Rの回転に合わせてz軸正方向に向いて右回りに13.1°回転して配置される。そして、右の視差像12Rと左の視差像12Lは、矩形の撮像素子4の撮像面の走査方向である長辺方向に略直交する短辺方向に並んで投影される。この際、左の光学系に入射する主光線10Lは、この像面のx=0.19mm、y=−0.82mmの位置に入射する。右の光学系に入射する主光線10Rは、それと対称なx=−0.19mm、y=0.82mmの位置に入射する。なお、ここで用いた座標系は先に撮像素子4の像面(撮像面)中心に定義した座標系である。
【0128】
以上の説明から明らかなように、本実施例のステレオ撮像光学系は、左右の同一構成の対物レンズ群1L、1Rを視差方向へずらして配置し、それら対物レンズ群1L、1Rから入射した光束を、それぞれ2枚の反射面21Lと22L、21Rと22Rからなる左右の同一の導光光学系2L、2Rにより、共通の結像レンズ群3の入射瞳位置へ導き、結像レンズ群3の入射瞳のそれぞれ下半分と上半分を通って結像レンズ群3の像面の下半分と上半分に左右の視差像を投影するようにしたものであり、しかも、対物レンズ群1Lと結像レンズ群3、対物レンズ群1Rと結像レンズ群3は、それぞれ同じ同軸光学系を構成するように対物レンズ群1L、1Rを配置するため、等価的には1つの対物レンズ群の上側所定画角範囲の光束で左の視差像を、下側所定画角範囲の光束で右の視差像を同じ像面に分けて投影させるようにするために、それら上側所定画角範囲と下側所定画角範囲が被写体の同じ画角範囲をカバーできるように、左右の対物レンズ群1L、1Rのへ入射する主光線10L、10Rは相互に平行か被写体までの距離に応じた微小な内輳角を形成するようにする。そのため、左右の対物レンズ群1L、1Rの光軸111L、111Rは平行ではなく、結像レンズ群3の光軸113 を中心に相互にねじれの関係になるように、途中の複数の反射面からなる導光光学系2L、2Rで光路を導くように構成したものである。したがって、左右の対物レンズ群1L、1Rの光軸111L、111R相互の角度差は、入射主光線10L、10R相互の角度差に比較して大きくなる。入射主光線10L、10R相互は、上記のように平行か被写体までの距離に応じた微小な内輳角を形成しているが、左の対物レンズ群1Lの光軸111Lと右の対物レンズ群1Rの光軸111Rとは相互に非平行で反対側を向いている。なお、上記実施例の場合、左の対物レンズ群1Lの光軸111Lと右の対物レンズ群1Rの光軸111Rとは交差しないが、一方を含む平面に他方を投影したときの角度差は上記の関係にある。
【0129】
ところで、撮像素子4の撮像面は、上記のように、左右の視差像12L、12Rの回転に合わせて傾けて配置しており、視差像12L、12の視差方向が撮像素子4の走査線に対して概ね平行になるようにすることが望ましい。通常、撮像系で取得された画像は、水平走査によって画像処理系のフレームメモリーに転送され、一旦記憶され、その後の一連の画像処理に利用される。画像処理の一例として、視差像12L、12R間の視差画像ステレオマッチング処理の対応点探索を考えると、視差像中の対応点は視差方向に存在するため、対応点探索方向は視差方向に行われるのが最も効率が高い。
【0130】
上記のようにフレームメモリーに蓄積された画像情報の読み出しは、読み出しアドレスの指定の観点から、蓄積順に順次読み出すのが効率が高く、結局水平走査方向が視差方向であれば、その後の画像処理に最も効率的な撮像が可能となる。
【0131】
また、画像処理の高速化のための並列処理を考えた場合にも、水平走査が前提となれば、垂直走査方向に所定量シフトさせた水平走査線上の画像の処理が、結果的に画素読み出しアドレスにオフセットを加えて処理するだけの単純処理になり、効果的な処理が可能となる。
【0132】
したがって、本実施例の場合、CCD等の撮像素子4の撮像面を傾け、視差方向が走査線に対して概ね平行になるよう設置されているため、フレームメモリーから無駄なアドレッシング処理なしに、高速に画像処理のための画像読み出しが可能となる。
【0133】
ところで、図1〜図8の実施例においては、共通の単一の撮像素子4の撮像面は被写体側と反対側を向くように、導光光学系2L、2Rの第1反射面21L、21Rと第2反射面22L、22Rによって光路折り曲げているが、その撮像素子4の撮像面が被写体側を向くように導光光学系2L、2Rを構成することも可能である。その場合は、例えば図1において、左の第1反射面21Lは、左の対物レンズ群1Lから入射した光路を右の対物レンズ群1R側へ概ね90°折り曲げ、第2反射面22Lは、その折り曲げられた光路を左の対物レンズ群1Lへ入射する光路と略平行な方向であってその入射光路と略同じ方向へ概ね90°折り曲げて、共通の結像レンズ群3へ入射させ、同様に、右の第1反射面21Rは、右の対物レンズ群1Rから入射した光路を左の対物レンズ群1L側へ概ね90°折り曲げ、第2反射面22Rは、その折り曲げられた光路を右の対物レンズ群1Rへ入射する光路と略平行な方向であってその入射光路と略同じ方向へ概ね90°折り曲げて、共通の結像レンズ群3へ入射させるようにすればよい。この場合でも、左右の対物レンズ群1L、1R、左右の導光光学系2L、2Rは同一構成のものを用い、結像レンズ群3の光軸113 を中心に相互に180°の回転対称の関係に配置し、かつ、左右の対物レンズ群1L、1Rの光軸111L、111Rと結像レンズ群3の光軸113 とを一致した1つの光軸とすることができる。
【0134】
ところで、図1(a)、(b)からも明らかなように、対物レンズ群1L、1Rに入射する光束は視野マスク5L、5Rによって制限される。これら視野マスク5L、5Rの開口形状は、主光線10L、10Rを略中心にした半円形あるいは視差方向に長い矩形のものであり、対物レンズ群1L、1Rの光軸111L、111Rから外れた位置にそれら開口が位置するため、対物レンズ群1L、1Rに入射する光束が通る有効領域も光軸111L、111Rに対して偏心しており、対物レンズ群1L、1Rの有効領域以外をトリミングする際には、対物レンズ群1L、1Rの少なくとも何れかのレンズの外形を、光軸111L、111Rに対して主光線10L、10Rが入射する側とは反対側において光軸111L、111Rに最も近づく非回転対称な形状にトリミングすることが望ましい。
【0135】
次に、図9は、上記の本発明の実施例に係るステレオ撮像装置を適用したステレオ撮像システムの構成を示す図である。なお、このステレオ撮像システムは、車両に搭載された例として説明する。
【0136】
すなわち、このステレオ撮像システムは、距離画像入力装置100と、制御装置104、物体認識装置105、警告装置106、運転装置107、表示装置108、車速センサ109、測距レーダ110、照度センサ111、外部カメラ112、GPS(全地球測位システム)113、VICS(渋滞情報取得装置)114、及び、外部通信装置115から構成されるものである。
【0137】
ここで、上記距離画像入力装置100は、被写体400を撮影する撮像素子102とこの撮像素子102の前方に取り付けられるステレオ撮像光学系101とを備えたステレオ撮像装置116と、被写体400の距離画像205を計測する距離画像処理装置103と、から構成される。
【0138】
ステレオ撮像装置116は、一般のビデオカメラ、デジタルスティルカメラなどと同様に、撮影絞り調整装置(図示せず)と、撮影フォーカス調整装置(図示せず)と、撮影シャッタ速度調整装置(図示せず)と、感度調整装置(図示せず)とを適宜備えている。
【0139】
また、ステレオ撮像光学系101は、複数のミラー(101A、101Bの対)からなる反射光学系211を有する。この反射光学系211は、撮像素子102の前方の結像レンズ群102Aの前に取り付けられ、対物レンズ群101Cから入射した異なる視点からの被写体400の像を撮像素子102に結像することができるようになっている。
【0140】
このようにしてステレオ撮像装置116で撮影された、すなわち、撮像素子102で捕らえたステレオ画像201は、図9に示すように、距離画像処理装置103に供給される。そして、この距離画像処理装置103により処理されて三次元距離画像205となり、制御装置104及び物体認識装置105に出力される。
【0141】
なお、「距離画像」という用語は、本明細書では、被写体画像のピクセルに距離情報を有する画像を意味している。
【0142】
なお、図9中の参照番号212は露出制御装置であり、この露出制御装置212は、ステレオ撮像装置116が備える上記撮影絞り調整装置、撮影フォーカス調整装置、撮影シャッタ、速度調整装置、及び、感度調整装置(何れも図示せず)に接続されている。また、この露出制御装置212は、制御装置104に接続されており、この制御装置104で、撮像素子102からの輝度情報により算出された露出値に応じて撮像装置116を制御する。
【0143】
また、距離画像処理装置103には、上述したように、撮像素子102で撮像されたステレオ画像201が入力される。このステレオ画像201は、フレームメモリ213に入力され、デジタル画像202となる。
【0144】
このフレームメモリ213の出力は、レクティフィケーション装置214に入力される。このレクティフィケーション装置214は、距離算出装置215に、左画像203及び右画像204を出力する。距離算出装置215は、距離画像出力216を通して物体認識装置105に、三次元距離画像205を出力する。また、制御装置104に対しても、二次元画像(ステレオ画像201)、距離画像205なども出力する。
【0145】
なお、距離画像処理装置103には、キャリブレーション装置217が別途存在し、レクティフィケーション装置214に対してはレクティフィケーションパラメータを、距離算出装置215に対しては距離算出用パラメータを、物体認識装置105に対しては、物体認識用パラメータを出力する。
【0146】
物体認識装置105は、入力された三次元距離画像205を利用して、その中にある物体あるいは物体領域を認識し、その結果である物体データ(図示せず)を出力する。
【0147】
なお、距離画像処理装置103内の各装置は、計算機上のソフトウェアで実現してもよい。
【0148】
制御装置104は、画像情報と車両情報を統括する役割を持っており、例えば、距離画像処理装置103で処理された結果を表示装置108に表示したり、距離画像処理装置103で得られた距離情報と車速センサ109等の情報とを分析して、警告装置106に警告を発生させたり、運転装置107を制御して運転者に安全運転を促すことができるようになっている。なお、警告装置106は、音声装置や振動装置などからなり、例えば、音声装置はスピーカ等からの音声、振動装置は運転席シートの振動により運転者に警告を発するものである。
【0149】
このように、このステレオ撮像装置を用いたシステムによると、本発明に直接関係しないためその詳細説明は省略するが、本実施例に係るステレオ撮像装置116及び距離画像入力装置100から得られた画像情報と各種センサ等から得られた車両情報とを統合することができ、表示装置108による画像情報の表示、警告装置106による警告、運転装置107の制御等により、運転者に安全走行を促すことができる。
【0150】
例えば、前方の被写体に近づきすぎたときに注意を促す表示、警告、さらには運転装置107(例えばブレーキ)の制御を行うことができる。
【0151】
若しくは、道路の分離帯を読み取って自動で運転を制御する等に用いることができる。
【0152】
その他に、車外を観察し、前方や後方の走行車両、障害物、白線検知等に用いる他、車内の運転者、搭乗者の顔の位置、向きを検出し、脇見運転や居眠りの検知、エアバック点火時に、大人か子供かや顔の位置方向を判断し、安全にエアバッグを作動させるセンサとして利用することも可能である。
【0153】
また、本発明によるステレオ撮像装置は、車載のステレオ撮像システムの他に、ロボット、鉄道、飛行機、船舶、監視カメラ、遠隔会議システム用カメラ等にも応用ができるものである。
【0154】
なお、図9のミラー101A、101Bは、それぞれ図1〜8の第1反射面21L、21R、第2反射面22L、22Rに対応し、対物レンズ群101Cは対物レンズ群1L、1Rに対応し、結像レンズ群102Aは結像レンズ群3に対応し、撮像素子102は撮像素子4に対応する。
【0155】
以上の本発明のステレオ撮像装置を適用したステレオ撮像システムは次のように構成することができる。
【0156】
〔1〕 請求項1から22の何れか1項記載のステレオ撮像装置と、前記ステレオ撮像装置からの画像を元に、被写体までの距離を算出し距離信号を出力する画像処理装置と、その距離信号に基づいて他の装置を制御する制御装置とを備えたことを特徴とするステレオ撮像システム。
【0157】
〔2〕 前記他の装置が表示装置である上記〔1〕記載のステレオ撮像システム。
【0158】
〔3〕 前記他の装置が警告装置である上記〔1〕記載のステレオ撮像システム。
【0159】
〔4〕 前記他の装置が運転装置である上記〔1〕記載のステレオ撮像システム。
【0160】
【発明の効果】
以上の説明から明らかなように、本発明のステレオ撮像装置によると、小型かつ水平方向(視差方向)の画角が大きいステレオ撮像光学系を備えたステレオ撮像装置を提供することができる。また、収差補正をより良好になし得るステレオ撮像光学系を備えたステレオ撮像装置を提供することができる。さらには、撮像素子上における視差を持つ画像の利用効率が良好なステレオ撮像光学系を備えたステレオ撮像装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の1実施例のステレオ撮像装置の概略の構成を示す模式的な斜視図である。
【図2】図1の実施例の左の光学系の例を示す光路展開図である。
【図3】図2の例のレンズ系の縦収差図である。
【図4】図2の例のレンズ系の横収差図である。
【図5】図2の例のステレオ撮像装置の左の光学系のx−z面への投影図である。
【図6】図2の例のステレオ撮像装置の左の光学系のy−z面への投影図である。
【図7】図2の例のステレオ撮像装置の左の光学系の斜視図である。
【図8】図1の実施例のステレオ撮像装置の撮像素子の撮像面に投影される左の視差像と右の視差像の位置関係を示す図である。
【図9】本発明の実施例に係るステレオ撮像装置を適用したステレオ撮像システムの構成を示す図である。
【符号の説明】
L1 …負メニスカスレンズ(第1レンズ)
L2 …平凹負レンズ(第2レンズ)
L3 …正メニスカスレンズ(第3レンズ)
L4 …両凸正レンズ(第4レンズ)
L5 …正メニスカスレンズ(第5レンズ)
L6 …平凹負レンズ(第6レンズ)
L7 …両凸正レンズ(第7レンズ)
1L、1R…対物レンズ群
2L、2R…導光光学系
3…結像レンズ群
4…撮像素子
5L、5R…視野マスク
6、7…回路部品を配置するスペース
10L、10R…主光線
111L、111R…対物レンズ群の光軸(中心軸、回転軸)
113 …結像レンズ群の光軸(中心軸、回転軸)
11L…光軸
12L、12R…視差像
21L、21R…第1反射面
22L、22R…第2反射面
100…距離画像入力装置
101…ステレオ撮像光学系
101A、101B…ミラー
101C…対物レンズ群
102A…結像レンズ群
102…撮像素子
103…距離画像処理装置
104…制御装置
105…物体認識装置
106…警告装置
107…運転装置
108…表示装置
109…車速センサ
110…測距レーダ
111…照度センサ
112…外部カメラ
113…GPS(全地球測位システム)
114…VICS(渋滞情報取得装置)
115…外部通信装置
116…ステレオ撮像装置
201…ステレオ画像
202…デジタル画像
203…左画像
204…右画像
205…三次元距離画像
211…反射光学系
212…露出制御装置
213…フレームメモリ
214…レクティフィケーション装置
215…距離算出装置
216…距離画像出力
217…キャリブレーション装置
400…被写体[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a stereo imaging device, and more particularly, to a stereo imaging device capable of capturing a stereo image having a small size and a large angle of view in a horizontal direction.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, cameras are known in which two images with parallax are arranged side by side and photographed at the same time for the same subject. It is common to shoot images side by side. However, in such photographing, if it is attempted to obtain a stereo image that is long in the horizontal direction, the result is that two images that are long in the horizontal direction are arranged in the horizontal direction, and a useless space is generated on the imaging surface. When a single image sensor simultaneously captures these two images and uses them for distance measurement or the like, it becomes difficult to obtain detailed image information.
[0003]
To solve such a problem,
[0004]
As shown in FIGS. 1 and 2 of
[0005]
FIG. 7 of
[0006]
[Patent Document 1]
JP-A-8-171151
[0007]
[Problems to be solved by the invention]
However, the imaging optical system described in
[0008]
SUMMARY OF THE INVENTION The present invention has been made in view of such a problem of the related art, and an object of the present invention is to provide a stereo imaging apparatus including a stereo imaging optical system which is small and has a large angle of view in a horizontal direction (parallax direction). That is.
[0009]
Still another object of the present invention is to provide a stereo image pickup apparatus including a stereo image pickup optical system capable of better correcting aberrations.
[0010]
It is still another object of the present invention to provide a stereo image pickup apparatus including a stereo image pickup optical system having good use efficiency of an image having parallax on an image pickup device.
[0011]
[Means for Solving the Problems]
A first stereo imaging apparatus according to the present invention that achieves the above object includes a single imaging device and a stereo imaging optical system that forms at least two parallax images having parallax on the single imaging device. A stereo imaging device,
The stereo imaging optical system includes a first objective lens group and a second objective lens group having a negative refractive power and arranged at intervals.
An imaging lens group having a positive refractive power and disposed in an optical path closer to the image sensor than the first objective lens group and the second objective lens group;
A 1-1 reflecting surface for reflecting the light beam incident on the first objective lens group toward the second objective lens group, and a 1-2 for reflecting the light beam from the 1-1 reflecting surface toward the image sensor. A reflective surface,
A 2-1 reflecting surface that reflects the light beam incident on the second objective lens group toward the first objective lens group and a 2-2 that reflects the light beam from the 2-1 reflecting surface toward the image sensor. And a reflecting surface,
The 1-2 reflection surface and the 2-2 reflection surface are disposed so as to reflect the respective reflected light beams toward the subject, and the single imaging device includes the 1-2 reflection surface and the second reflection surface. 2-2 It is characterized by being arranged on the side of the light beam reflected by the reflecting surface.
[0012]
Hereinafter, the operation and effect of the first stereo imaging device of the present invention will be described.
[0013]
Prior to the description, in the present invention, the parallax direction refers to the position of a center ray of light incident on the entrance surface of the first objective lens group and the entrance surface of the second objective lens group from the same subject in the stereo imaging optical system. This is a direction connecting the position of the incident central ray and is usually selected in a horizontal direction (left-right direction), but this direction is not limited, and may be either a vertical direction or an oblique direction. In a parallax image on an image sensor (imaging plane), a relative displacement direction of the same subject in a plurality of parallax images is a parallax direction.
[0014]
Further, in the present invention, a single image sensor is not limited to one having a single light receiving surface (imaging surface), but includes a plurality of light receiving surfaces on the same substrate (substrate; usually a semiconductor substrate). Also means that it is attached.
[0015]
Now, in the stereo imaging optical system of the stereo imaging apparatus of the present invention, a negative objective lens group (first and second lens groups) arranged side by side (hereinafter, the parallax direction means unless otherwise specified). The luminous flux incident from the subject on the objective lens group) is reflected on the respective reflective surfaces (the first objective lens group, the 1-1 reflective surface and the 1-2 reflective surface, and the second objective lens). The group is reflected by the (2-1 reflection surface and the 2-2 reflection surface), and an image having parallax (parallax image) is guided to the image sensor via the imaging lens group. .
[0016]
At this time, the image sensor can be used as a common member, the number of components can be reduced, and the device can be reduced in size and weight.
[0017]
Further, when two image sensors are provided separately for the left and right parallax images, it is not easy to correct the variation in the characteristics of the left and right image sensors and to synchronize the reading of the left and right image sensors. These problems can also be solved by using a single imaging device.
[0018]
Also, since the objective lens group has a negative refractive power and the imaging lens group on the image plane side has a positive refractive power, each of the left and right optical systems can be configured as a retrofocus type, Wide angle of view can be achieved.
[0019]
By the way, if the left and right directions are reduced to further reduce the size of the stereo imaging optical system, an appropriate parallax cannot be obtained, and it is difficult to obtain an effective stereo image. In order to suppress the stereo imaging optical system from being enlarged in the depth direction and the height direction, in the present invention, the optical path is bent as described above, so that the imaging element is disposed between the left and right objective lens groups. I have.
[0020]
As a result, compared to the conventional configuration in which the optical path is bent in the direction in which the depth direction and the height direction increase, the image sensor is arranged in the dead space between the left and right objective lens groups, thereby further miniaturizing the optical system. Can be achieved.
[0021]
According to a second stereo imaging device of the present invention, in the first stereo imaging device, the imaging lens group is disposed immediately before the single imaging device.
[0022]
The operation and effect of the second stereo imaging device will be described.
[0023]
By arranging the imaging optical system in front of the imaging device in this way, it is not necessary to increase the diameter of the imaging optical system as compared with the case where the imaging optical system is arranged only between two reflection surfaces, It is easy to secure telecentricity for the image sensor.
[0024]
According to a third stereo imaging device of the present invention, in the second stereo imaging device, the imaging lens group receives a light beam forming the at least two parallax images and has only one optical axis. It is characterized by the following.
[0025]
The operation and effect of the third stereo imaging device will be described.
[0026]
In addition to the imaging element, the lens group behind the reflecting surface can be used as a common member, and the number of components can be further reduced.
[0027]
A fourth stereo imaging device according to the present invention is the stereoscopic imaging device according to any one of the first to third stereo imaging devices, wherein the 1-1-reflecting surface, the 1-2-reflecting surface, the 2-1-reflecting surface, and the 2- The two reflecting surfaces are arranged such that the parallel arrangement direction of each parallax image projected on the single image sensor is different from the parallel arrangement direction of the first objective lens group and the second objective lens group. Are provided.
[0028]
The operation and effect of the fourth stereo imaging device will be described.
[0029]
By configuring each of the reflecting surfaces in this way, the light beams incident on the left and right objective lens groups are imaged in parallel in a substantially vertical direction of the image sensor through the respective reflecting surfaces. Therefore, when the image sensor is arranged in accordance with the image forming position, it is possible to obtain an image having a wide angle of view in the left-right direction.
[0030]
According to a fifth stereo imaging device of the present invention, in the fourth stereo imaging device, the optical axis of the imaging lens group in the reverse ray tracing of the imaging lens group is equal to the 1-2 reflection surface and the 1-1 reflection surface, and The optical axis when configured to pass through one objective lens group is a first virtual optical axis, and the optical axis of the imaging lens group in reverse ray tracing is the 2-2 reflection surface and the 2-1 reflection surface. And the second virtual optical axis when the optical axis is configured to pass through the first objective lens group, the first virtual optical axis incident on the first objective lens group and the second objective lens group The incident second virtual optical axes are not parallel to each other and are not located in the same plane.
[0031]
The operation and effect of the fifth stereo imaging device will be described.
[0032]
When the imaging lens group is configured to pass through a plurality of left and right reflecting surfaces and the objective lens group when the imaging lens group is used as a common optical system for the left and right rays, the left and right parallax images are formed. In order to avoid this, the light is vignetted by the first and second reflecting surfaces, ie, the first and second reflecting surfaces, which are the optical members closest to the image forming lens group. In order to prevent the occurrence of such vignetting, the first and second reflecting surfaces, the second and second reflecting surfaces, and the objective when the first and second reflecting surfaces are enlarged. Each optical axis passing through the lens group is defined as a virtual optical axis.
[0033]
By setting the virtual optical axes to be non-parallel to each other and not positioned on the same plane, light beams from a common subject are guided so as not to be superimposed on a common image sensor via an imaging lens group. Is possible, and the displacement of the visual field between the parallax images can be prevented. Further, the distance range from the stereo image pickup device where the common subject is arranged can be widened.
[0034]
A sixth stereo imaging apparatus according to the present invention is the fourth stereo imaging apparatus, wherein the first objective lens group and the second objective lens group each include a lens system having a rotationally symmetric optical axis. Are substantially coincident with the optical axis of the imaging lens group when the optical path is expanded, and the optical axis of the first objective lens group and the optical axis of the second objective lens group are non-parallel to each other. , And are not located in the same plane.
[0035]
The operation and effect of the sixth stereo imaging device will be described.
[0036]
If the deviation of the optical axis between the objective lens group and the imaging lens group is large in the state where the optical path is expanded, if the aberration correction is not performed for both the objective lens group and the imaging lens group, the optical axis of both Eccentric aberration is likely to occur due to the deviation.
[0037]
On the other hand, as in the present invention, when the optical axis of the objective lens group and the imaging lens group is made substantially common in a state where the optical path is expanded, residual aberration symmetrical to the optical axis of the imaging lens group is substantially reduced. Since the correction can be performed by the coaxial objective lens group, the influence of the optical axis shift can be reduced.
[0038]
However, when the optical axis of the objective lens group is substantially coincident with the optical axis of the imaging lens group in this way, simply bending the optical axis on the same plane causes the left and right incident light beams to overlap on the subject side. And stereo photography in which a plurality of parallax images having parallax are photographed cannot be performed.
[0039]
Therefore, as described above, by making the optical axes of both objective lens groups non-parallel and not located in the same plane, the left and right parallax images having parallax mutually due to the light flux from the common subject. It can be guided separately on the image sensor.
[0040]
A seventh stereo imaging device of the present invention is the fifth stereo imaging device, wherein the first objective lens group, the 1-1 reflection surface, the 1-2 reflection surface, and the imaging lens group The central ray of the light flux reaching the center of the parallax image projected on a single image sensor is a first principal ray, the second objective lens group, the 2-1 reflecting surface, the 2-2 reflecting surface, and When a central ray of a light flux reaching the center of the parallax image projected onto the single imaging device via the imaging lens group is a second principal ray, the first principal ray incident on the first objective lens group And the second principal ray incident on the second objective lens group is different from the first virtual optical axis incident on the first objective lens group and the second virtual ray incident on the second objective lens group. It is characterized in that it is smaller than the angle difference with the optical axis.
[0041]
An eighth stereo imaging device according to the present invention, in the sixth stereo imaging device, wherein the first objective lens group, the 1-1 reflecting surface, the 1-2 reflecting surface, and the imaging lens group are passed through the first and second reflecting surfaces. The central ray of the light flux reaching the center of the parallax image projected on a single image sensor is a first principal ray, the second objective lens group, the 2-1 reflecting surface, the 2-2 reflecting surface, and When a central ray of a light flux reaching the center of the parallax image projected onto the single imaging device via the imaging lens group is a second principal ray, the first principal ray incident on the first objective lens group And the second principal ray incident on the second objective lens group has an angle difference smaller than the angle difference between the optical axis of the first objective lens group and the optical axis of the second objective lens group. It is assumed that.
[0042]
The operation and effect of the seventh and eighth stereo imaging devices will be described.
[0043]
When these angle differences satisfy the above relation, corresponding points exist in the left and right parallax images, and can be used for, for example, distance measurement of a subject.
[0044]
According to a ninth stereo imaging device of the present invention, in the fourth to eighth stereo imaging devices, the imaging surface of the single imaging element has a rectangular shape having a long side direction and a short side direction. A long-side direction is inclined with respect to a parallax direction of the stereo imaging optical system.
[0045]
According to a tenth stereo imaging device of the present invention, in the fourth to ninth stereo imaging devices, the different direction is a direction substantially orthogonal to a parallax direction of the parallax image. .
[0046]
The operation and effect of the ninth and tenth stereoscopic imaging devices will be described.
[0047]
As in the present invention, in the case of an optical system in which the incident principal rays reaching each parallax image when the optical path is developed are mutually inclined, the optical path is set so that the two principal rays come closer to parallel while bringing the parallax images closer to each other. Is bent, at least one of the first reflection surface (1-1 reflection surface, 2-1 reflection surface) and the second reflection surface (1-2 reflection surface, 2-2 reflection surface) Since the normal must be inclined with respect to a plane including the parallax direction of the stereo imaging optical system, the image plane is inclined with respect to the parallax direction of the stereo imaging optical system.
[0048]
Therefore, by inclining the imaging surface of the imaging device along the inclined image plane, it is possible to effectively use the imaging area. In particular, by setting the direction in which the left and right parallax images are arranged to be substantially perpendicular to the parallax direction of the parallax image, the imaging region can be used most effectively.
[0049]
According to an eleventh stereo imaging device of the present invention, in the first to tenth stereo imaging devices, the imaging surface of the single imaging device has a rectangular shape having a long side direction and a short side direction; Disposing the single imaging element such that a parallax image via a lens group and a parallax image via the second objective lens group are projected side by side in a short side direction of the single imaging element. It is a feature.
[0050]
The operation and effect of the eleventh stereo imaging device will be described.
[0051]
Since the left and right parallax images are projected side by side in the short side direction of the rectangular image sensor, a more horizontally long parallax image can be obtained. This makes it possible to provide a stereo imaging device suitable for a vehicle-mounted stereo imaging device that requires information of a wide angle of view in a substantially horizontal direction.
[0052]
According to a twelfth stereo imaging device of the present invention, in the first to eleventh stereo imaging devices, a scanning direction of the single imaging device is inclined with respect to a parallax direction of the stereo imaging optical system. Things.
[0053]
According to a thirteenth stereo imaging device of the present invention, in the first to twelfth stereo imaging devices, a scanning direction of the single imaging element is substantially parallel to a parallax direction of a parallax image. .
[0054]
The function and effect of the twelfth and thirteenth stereo imaging devices will be described.
[0055]
As in the present invention, in the case of an optical system in which the incident principal rays reaching each parallax image when the optical path is developed are mutually inclined, the optical path is set so that the two principal rays come closer to parallel while bringing the parallax images closer to each other. Is bent, at least one of the first reflection surface (1-1 reflection surface, 2-1 reflection surface) and the second reflection surface (1-2 reflection surface, 2-2 reflection surface) Since the normal must be inclined with respect to a plane including the parallax direction of the stereo imaging optical system, the image plane is inclined with respect to the parallax direction of the stereo imaging optical system. Therefore, by inclining the scanning direction of the image sensor along the inclined image plane, it is possible to shorten the image processing time.
[0056]
According to a fourteenth stereo imaging device of the present invention, in the first to thirteenth stereo imaging devices, the parallax image via the first objective lens group and the parallax image via the second objective lens group are the single unit. Wherein the single imaging element is arranged so as to be projected side by side in a direction substantially perpendicular to the scanning direction of the imaging element.
[0057]
The operation and effect of the fourteenth stereo imaging device will be described.
[0058]
In the case where the image pickup device uses an image receiving surface that is vertically divided and can be read simultaneously, simultaneous parallel processing becomes possible without using a memory, and the image information processing time can be reduced.
[0059]
According to a fifteenth stereo imaging device of the present invention, in the first to fourteenth stereo imaging devices, the focal lengths of the first objective lens group and the second objective lens group are each set to f. T1 , F T2 , The focal length of the imaging lens group is f K , The focal length of the entire system including the first objective lens group is f 1 , The focal length of the entire system including the second objective lens group is f 2 , The following conditional expressions (1), (2), (3), and (4) are satisfied.
[0060]
-10.0 <f T1 / F 1 <-2.0 (1)
-10.0 <f T2 / F 2 <-2.0 (2)
1.5 <f K / F 1 <10 ... (3)
1.5 <f K / F 2 <10 ... (4)
The operation and effect of the fifteenth stereo imaging device will be described.
[0061]
These conditional expressions define the focal length of each objective lens group and the focal length of the imaging lens group by the focal length of the entire system in order to obtain an image with a short focal length and an appropriate parallax by the entire system. Things. If the lower limit of conditional expressions (1) and (2) exceeds -10.0 and the refractive power of the objective lens group becomes weak, a wide angle of view cannot be obtained, and the diameter of the objective lens group becomes large.
[0062]
On the other hand, when the value exceeds the upper limit of -2.0 of the conditional expressions (1) and (2), the interval between both lens groups becomes short, and it is difficult to arrange and bend a plurality of mirrors between both lens groups. It is becoming.
[0063]
Similarly, when the refractive power of the imaging lens group is increased beyond the lower limit of 1.5 of the conditional expressions (3) and (4), the distance between the two lens groups is shortened, and the imaging exceeds the upper limit of 10 to form a lens. When the refractive power of the image lens group becomes small, the distance between the two lens groups becomes too long, and the device becomes large.
[0064]
Furthermore, the lower limit of conditional expressions (1) and (2) may be set to -8.0. Furthermore, the lower limit of conditional expressions (1) and (2) may be set to -6.0.
[0065]
Further, the upper limit of conditional expressions (1) and (2) may be set to −3.0. Further, the upper limit of conditional expressions (1) and (2) may be set to -4.0.
[0066]
Further, the lower limit of conditional expressions (3) and (4) may be set to 2.5. Furthermore, the lower limit of conditional expressions (3) and (4) may be set to 3.0.
[0067]
Furthermore, the upper limit of conditional expressions (3) and (4) may be set to 7.0. Further, the upper limit of conditional expressions (3) and (4) may be set to 5.0.
[0068]
According to a sixteenth stereo imaging device of the present invention, in the first to fifteenth stereo imaging devices, the lateral magnification of the imaging lens group is β K Satisfies the following conditional expression (5).
[0069]
−0.4 <β K <−0.06 (5)
The operation and effect of the sixteenth stereo imaging device will be described.
[0070]
This conditional expression (5) defines the lateral magnification of the imaging lens unit. If the lower limit of -0.4 to condition (5) is not reached, the back focus becomes longer and the entire optical system becomes larger. On the other hand, when the value exceeds the upper limit of -0.06 in the conditional expression (5), the refractive power of the objective lens group becomes weak, so that a wide angle of view cannot be achieved and the diameter of the objective lens group becomes too large.
[0071]
Further, the lower limit of conditional expression (5) may be set to -0.3. Further, the lower limit of conditional expression (5) may be set to -0.25.
[0072]
Further, the upper limit of conditional expression (5) may be set to -0.1. Further, the upper limit of conditional expression (5) may be set to -0.15.
[0073]
With respect to the above conditional expressions (1) to (5), the values of the stereo imaging optical system of the later-described embodiment are as follows.
[0074]
f T1 = -22.908
f T2 = -22.908
f K = 18.714
f 1 = 5.00
f 2 = 5.00
f T1 / F 1 = -4.57
f T2 / F 2 = -4.57
f K / F 1 = 3.74
f K / F 2 = 3.74
β K = -0.218
A seventeenth stereo imaging device according to the present invention is the diaphragm member according to any one of the first to sixteenth stereo imaging devices, wherein an aperture pupil is formed between the first objective lens group, the second objective lens group, and the imaging lens group. Is located.
[0075]
The function and effect of the seventeenth stereo imaging device will be described.
[0076]
This makes it easier for the light beam incident on the image sensor to be telecentric. In addition, enlargement of the diameters of the objective lens group and the imaging lens group can be suppressed.
[0077]
An eighteenth stereo imaging device according to the present invention is the seventeenth stereo imaging device, wherein the distance from the aperture member to the entrance surface of the imaging lens group is D when the optical path is expanded. PK , The focal length of the imaging lens group is f K Satisfies the following conditional expression (6).
[0078]
0.03 <D PK / F K <1.5 ... (6)
The operation and effect of the eighteenth stereo imaging device will be described.
[0079]
Exceeding the lower limit of 0.03 to condition (6) will reduce the effect of making the image sensor telecentric. On the other hand, when the value exceeds the upper limit of 1.5, vignetting of off-axis light flux by the imaging lens group is likely to occur.
[0080]
Further, the lower limit of conditional expression (6) may be set to 0.1. Further, the lower limit of conditional expression (6) may be set to 0.2.
[0081]
Further, the upper limit of conditional expression (6) may be set to 1.0. Further, the upper limit of conditional expression (6) may be set to 0.5.
[0082]
Regarding the above conditional expression (6), the values of the stereo imaging optical system of the later-described embodiment are as follows.
[0083]
D PK = 8.24
f K = 18.714
D PK / F K = 0.440
According to a nineteenth stereo imaging device of the present invention, in the first to eighteenth stereo imaging devices, a visual field limiting member that separates and forms the at least two parallax images on an imaging surface of the imaging device is provided. It is characterized by having.
[0084]
The function and effect of the nineteenth stereo imaging device will be described.
[0085]
It is preferable to arrange the view restriction members at any positions in the left and right optical paths so that the left and right parallax images do not overlap on the imaging surface. In this case, if there is no intermediate image forming position in the left and right optical paths, the visual field is limited by vignetting.
[0086]
According to a twentieth stereo imaging device of the present invention, in the nineteenth stereo imaging device, at least one of the field limiting members is arranged on a subject side of the objective lens group, and has a substantially rectangular opening. It is characterized by being.
[0087]
The operation and effect of the twentieth stereo imaging device will be described.
[0088]
By disposing the field mask at a position near the subject in the objective lens group, the mask can be easily provided with a field stop function. In addition, by forming the shape close to the desired image shape (substantially rectangular), the function of the field stop and the function of the hood can be fulfilled at the same time.
[0089]
According to a twenty-first stereo imaging device of the present invention, in the twentieth stereo imaging device, the field mask is disposed at a position deviated from the optical axis of the objective lens group.
[0090]
The function and effect of the twenty-first stereo imaging device will be described.
[0091]
When it is desired to form a parallax image in a desired area of the imaging device, it is preferable to dispose the field mask at a position deviated from the objective lens group regardless of the inclination of the objective lens group.
[0092]
According to a twenty-second stereo imaging device of the present invention, in the first to twenty-first stereo imaging devices, the first objective lens group, the 1-1 reflection surface, the 1-2 reflection surface, and the imaging lens group are included. The central ray of the light beam that reaches the center of the parallax image projected on the single image sensor via the first principal ray, the second objective lens group, the 2-1 reflection surface, and the 2-2 reflection surface The first objective lens group and the second objective lens when a central ray of a light flux reaching the center of the parallax image projected onto the single imaging device via the imaging lens group and the second principal ray The outer shape of at least one of the lenses in the group has a non-rotationally symmetrical shape that is closest to the optical axis on the side opposite to the side on which the respective principal rays are incident with respect to the optical axis of the lens. Is what you do.
[0093]
The function and effect of the twenty-second stereo imaging device will be described.
[0094]
It is preferable to remove portions other than the effective surface in the objective lens group. In particular, when the objective lens group is decentered with respect to the principal ray, a part of the region on the opposite side to the principal ray becomes unnecessary, so that the above-described shape can reduce the weight. Furthermore, it is also possible to make such a lens shape to function as a part of the field limiting member.
[0095]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, a stereo imaging device of the present invention will be described based on embodiments.
[0096]
FIG. 1 is a schematic perspective view showing a schematic configuration of a stereoscopic imaging apparatus according to one embodiment of the present invention. FIGS. 1A and 1B differ only in the shape of
[0097]
In the following description, “L” and “R” after a symbol are used to distinguish components and the like belonging to left and right optical paths, unless otherwise specified.
[0098]
This stereo image pickup apparatus includes, for left and right optical paths, left and right objective lens groups 1L and 1R, and first reflection surfaces 21L and 21R and a second reflection surface for sequentially reflecting light incident from the objective lens groups 1L and 1R. 22L and 22R, a common
[0099]
As can be seen from the drawing, the reflection directions of the first reflection surfaces 21L and 21R and the second reflection surfaces 22L and 22R are such that the left
[0100]
For this purpose, in this stereo image pickup apparatus, a common
[0101]
Then, the left parallax image of the binocular parallax image which enters from the left objective lens group 1L, passes through the
[0102]
Here, the parallax direction of the entire optical system of the stereo imaging device is such that when the left and right principal rays are 10L and 10R, the left and right principal rays are incident on the incident lens surfaces of the left and right objective lens groups 1L and 1R or the field masks 5L and 5R. The parallax direction of the parallax image projected on the image sensor 4 is a direction of a straight line B- parallel to a rectangular side of the image sensor 4, which is a direction of a straight line AA 'connecting the points where the
[0103]
Before the detailed description of the optical system of this embodiment, it is briefly described that the left and right
[0104]
Here, in this embodiment, the
[0105]
Field masks 5L and 5R for passing an image forming light beam centered on the
[0106]
The first reflecting
[0107]
The luminous fluxes restricted by the field masks 5L and 5R are transmitted through a low-pass filter (not shown) by the
[0108]
Here, it is important that the left and right objective lens groups 1L and 1R and the left and right light guide
[0109]
Since the objective lens groups 1L and 1R have a negative refractive power and the
[0110]
In FIG. 1,
[0111]
Next, details of the stereo imaging optical system of the stereo imaging device of the present embodiment will be described.
[0112]
As described above, the left and right objective lens groups 1L and 1R and the left and right light guide
[0113]
FIG. 2 is an optical path development diagram showing the left optical system. The left objective lens group 1L, the first reflecting
[0114]
As is clear from FIG. 2, the left objective lens group 1L has a negative meniscus lens L having a convex surface facing the object side. 1 And a plano-concave negative lens L 2 And a positive meniscus lens L having a convex surface facing the object side 3 The
[0115]
The lens data of this lens system is as shown in Table 1 below. However, in the table, r 1 , R 2 ... is the lens L 1 The radius of curvature of each lens surface (including the reflecting surface and the image surface) in order from the incident side surface of d, d 1 , D 2 ... is the distance between the lens surfaces, n d1 , N d2 ... is the d-line refractive index of each lens, ν d1 , Ν d2 ... is the Abbe number of each lens. In Table 1, the full angle of view of the lens system itself is shown, but the angle of view shown as the left optical system is from 9.7 ° ± 7 ° in the vertical direction (vertical direction) from 2.7 ° to 16 °. In the left-right direction (horizontal direction, parallax direction), it is 42 °.
[0116]
FIG. 3 shows a longitudinal aberration diagram of the lens system of this embodiment, and FIG. 4 shows a lateral aberration diagram thereof. In these aberration diagrams, “SA” indicates spherical aberration, “AS” indicates astigmatism, “DT” indicates distortion, and “CC” indicates lateral chromatic aberration. In each aberration diagram, “ω” indicates an angle of view on one side.
[0117]
Now, the coordinates are defined here. At the center of the image plane (imaging plane) of the imaging element 4, the z-axis, which is a normal direction toward the subject (a direction from the front to the back of the image plane), is orthogonal to the z-axis, An x-axis that is positively directed from the surface in the direction of the objective lens group, a y-axis that is orthogonal to the z-axis and the x-axis and that constitutes a right-handed coordinate system are defined.
[0118]
FIG. 5 is a projection view of the left optical system of the stereo imaging device of the present embodiment on the xz plane, and FIG. 6 is a projection view of the left optical system on the yz plane. As described above, the
[0119]
In this embodiment, as shown in Table 2 below, the rotation angle of the
[0120]
In addition, the surface top positions of the lens surfaces (including the reflection surface and the image surface) in the coordinate system defined at the center of the image plane (imaging plane) of the imaging element 4 are as shown in Table 3 below.
[0121]
FIG. 7 is a perspective view of the left optical system shown in the optical path development view in FIG. 2 described above, the projection view on the xz plane in FIG. 5, and the projection view on the yz plane in FIG. .
[0122]
[0123]
[0124]
[0125]
In Tables 1 to 3 above, the unit of the value representing the dimension is mm.
[0126]
The left optical system of the stereo imaging optical system of this embodiment has been described above. However, as described above, the right optical system shares the
[0127]
FIG. 8 is a diagram showing a positional relationship between the
[0128]
As is apparent from the above description, the stereo imaging optical system of the present embodiment arranges the left and right objective lens groups 1L and 1R having the same configuration so as to be displaced in the parallax direction, and the luminous flux incident from the objective lens groups 1L and 1R. Are guided to the entrance pupil position of the common
[0129]
By the way, as described above, the imaging surface of the imaging element 4 is arranged to be inclined in accordance with the rotation of the left and
[0130]
As described above, in order to read out the image information stored in the frame memory, it is highly efficient to sequentially read out the image data in the order of storage from the viewpoint of specifying the read address. If the horizontal scanning direction is the parallax direction after all, the subsequent image processing is performed. The most efficient imaging becomes possible.
[0131]
Also, in consideration of parallel processing for speeding up image processing, if horizontal scanning is assumed, processing of an image on a horizontal scanning line shifted by a predetermined amount in the vertical scanning direction results in pixel reading. Simple processing is performed simply by adding an offset to an address, and effective processing can be performed.
[0132]
Therefore, in the case of the present embodiment, since the image pickup surface of the image pickup device 4 such as a CCD is tilted and the parallax direction is set substantially parallel to the scanning line, high-speed operation can be performed without unnecessary addressing processing from the frame memory. Thus, image reading for image processing becomes possible.
[0133]
By the way, in the embodiment of FIGS. 1 to 8, the first reflecting
[0134]
By the way, as is clear from FIGS. 1A and 1B, the light flux incident on the objective lens groups 1L and 1R is restricted by the field masks 5L and 5R. The aperture shape of each of the field masks 5L, 5R is a semicircle centered on the
[0135]
Next, FIG. 9 is a diagram showing a configuration of a stereo imaging system to which the stereo imaging device according to the embodiment of the present invention is applied. Note that this stereo imaging system will be described as an example mounted on a vehicle.
[0136]
That is, this stereo imaging system includes a range
[0137]
Here, the range
[0138]
The stereo imaging device 116 includes a shooting aperture adjustment device (not shown), a shooting focus adjustment device (not shown), and a shooting shutter speed adjustment device (not shown), like a general video camera, digital still camera, or the like. ) And a sensitivity adjusting device (not shown) as appropriate.
[0139]
Further, the stereo imaging
[0140]
The
[0141]
Note that the term “distance image” in this specification means an image having distance information in pixels of a subject image.
[0142]
[0143]
Further, the
[0144]
The output of the
[0145]
Note that a calibration device 217 is separately provided in the distance
[0146]
The
[0147]
Each device in the distance
[0148]
The
[0149]
As described above, according to the system using the stereo imaging device, since it is not directly related to the present invention, the detailed description is omitted, but the image obtained from the stereo imaging device 116 and the range
[0150]
For example, it is possible to perform a display, a warning, and a control of the driving device 107 (for example, a brake) for calling attention when the subject is too close to the subject in front.
[0151]
Alternatively, it can be used for reading a road divider and automatically controlling driving.
[0152]
In addition to observing the outside of the vehicle and using it to detect vehicles running ahead and behind, obstacles, white lines, etc., it also detects the position and orientation of the driver's and passenger's faces in the vehicle, detection of inattentive driving and dozing, air At the time of back ignition, it is also possible to determine the position direction of an adult, a child, or a face, and use the sensor as a sensor for activating an airbag safely.
[0153]
Further, the stereo imaging device according to the present invention can be applied to a robot, a railway, an airplane, a ship, a surveillance camera, a camera for a remote conference system, and the like, in addition to a stereo imaging system mounted on a vehicle.
[0154]
The
[0155]
A stereo imaging system to which the above-described stereo imaging apparatus of the present invention is applied can be configured as follows.
[0156]
[1] The stereo imaging device according to any one of
[0157]
[2] The stereo imaging system according to [1], wherein the other device is a display device.
[0158]
[3] The stereo imaging system according to the above [1], wherein the other device is a warning device.
[0159]
[4] The stereo imaging system according to the above [1], wherein the other device is a driving device.
[0160]
【The invention's effect】
As is clear from the above description, according to the stereo imaging apparatus of the present invention, it is possible to provide a stereo imaging apparatus including a stereo imaging optical system that is small and has a large angle of view in the horizontal direction (parallax direction). Further, it is possible to provide a stereo image pickup device including a stereo image pickup optical system capable of better correcting aberration. Further, it is possible to provide a stereo image pickup apparatus provided with a stereo image pickup optical system having good use efficiency of an image having parallax on an image pickup device.
[Brief description of the drawings]
FIG. 1 is a schematic perspective view showing a schematic configuration of a stereo imaging device according to an embodiment of the present invention.
FIG. 2 is an optical path development diagram showing an example of a left optical system in the embodiment of FIG. 1;
FIG. 3 is a longitudinal aberration diagram of the lens system in the example of FIG. 2;
FIG. 4 is a lateral aberration diagram of the lens system in the example of FIG. 2;
FIG. 5 is a projection view of the left optical system of the example of the stereoscopic imaging apparatus in FIG. 2 onto the xz plane.
FIG. 6 is a projection view of the left optical system of the example of the stereoscopic imaging apparatus of FIG. 2 onto the yz plane.
FIG. 7 is a perspective view of a left optical system of the stereo imaging device in the example of FIG. 2;
8 is a diagram illustrating a positional relationship between a left parallax image and a right parallax image projected on an imaging surface of an imaging element of the stereoscopic imaging device of the embodiment in FIG.
FIG. 9 is a diagram illustrating a configuration of a stereo imaging system to which the stereo imaging device according to the embodiment of the present invention is applied.
[Explanation of symbols]
L 1 … Negative meniscus lens (first lens)
L 2 … Plano-concave negative lens (second lens)
L 3 … Positive meniscus lens (third lens)
L 4 … Biconvex positive lens (4th lens)
L 5 … Positive meniscus lens (fifth lens)
L 6 ... plano-concave negative lens (sixth lens)
L 7 … A biconvex positive lens (seventh lens)
1L, 1R: Objective lens group
2L, 2R ... Light guide optical system
3 ... imaging lens group
4: Image sensor
5L, 5R: Field mask
6, 7 ... space for arranging circuit components
10L, 10R ... chief ray
11 1L , 11 1R … The optical axis of the objective lens group (center axis, rotation axis)
11 3 … Optical axis (center axis, rotation axis) of the imaging lens group
11L: Optical axis
12L, 12R: Parallax image
21L, 21R: first reflection surface
22L, 22R: second reflecting surface
100 distance image input device
101: Stereo imaging optical system
101A, 101B ... Mirror
101C: Objective lens group
102A: imaging lens group
102: Image sensor
103: Range image processing device
104 ... Control device
105: Object recognition device
106 warning device
107 ... Driving device
108 display device
109 ... Vehicle speed sensor
110 ... Ranging radar
111 ... Illuminance sensor
112 ... External camera
113 ... GPS (Global Positioning System)
114 ... VICS (Congestion information acquisition device)
115 ... External communication device
116: Stereo imaging device
201: Stereo image
202 ... Digital image
203 ... left image
204 ... right image
205: 3D range image
211 ... Reflection optical system
212 ... Exposure control device
213 ... Frame memory
214 ... Rectification device
215—Distance calculation device
216: Distance image output
217: Calibration device
400 subject
Claims (22)
前記ステレオ撮像光学系は、間隔をもって配された負の屈折力を持つ第1対物レンズ群及び第2対物レンズ群と、
前記第1対物レンズ群及び前記第2対物レンズ群よりも撮像素子側の光路中に配された正の屈折力を持つ結像レンズ群と、
前記第1対物レンズ群への入射光束を前記第2対物レンズ群側に反射させる第1−1反射面及び前記第1−1反射面からの光束を前記撮像素子側に反射させる第1−2反射面と、
前記第2対物レンズ群への入射光束を前記第1対物レンズ群側に反射させる第2−1反射面及び前記第2−1反射面からの光束を前記撮像素子側に反射させる第2−2反射面と、を有し、
前記第1−2反射面と前記第2−2反射面は各々の反射光束を被写体側に反射するように配置され、かつ、前記単一の撮像素子は前記第1−2反射面と前記第2−2反射面による反射光束側に配置されていることを特徴とするステレオ撮像装置。A stereo imaging device comprising a single imaging device and a stereo imaging optical system that forms at least two parallax images having parallax mutually on the single imaging device,
The stereo imaging optical system includes a first objective lens group and a second objective lens group having a negative refractive power and arranged at intervals.
An imaging lens group having a positive refractive power and disposed in an optical path closer to the image sensor than the first objective lens group and the second objective lens group;
A 1-1 reflecting surface for reflecting the light beam incident on the first objective lens group toward the second objective lens group, and a 1-2 for reflecting the light beam from the 1-1 reflecting surface toward the image sensor. A reflective surface,
A 2-1 reflecting surface that reflects the light beam incident on the second objective lens group toward the first objective lens group and a 2-2 that reflects the light beam from the 2-1 reflecting surface toward the image sensor. And a reflecting surface,
The 1-2 reflection surface and the 2-2 reflection surface are disposed so as to reflect the respective reflected light beams toward the subject, and the single imaging device includes the 1-2 reflection surface and the second reflection surface. 2-2 A stereo imaging device, which is disposed on the side of a light beam reflected by a reflection surface.
−10.0<fT1/f1 <−2.0 ・・・(1)
−10.0<fT2/f2 <−2.0 ・・・(2)
1.5<fK /f1 <10 ・・・(3)
1.5<fK /f2 <10 ・・・(4)The focal lengths of the first objective lens group and the second objective lens group are f T1 and f T2 , respectively, the focal length of the imaging lens group is f K , and the focal length of the whole system including the first objective lens group is f T1 . f 1 , when the focal length of the entire system including the second objective lens group is f 2 , the following conditional expressions (1), (2), (3), and (4) are satisfied. The stereo imaging device according to any one of claims 1 to 14, wherein:
-10.0 <f T1 / f 1 < -2.0 ··· (1)
-10.0 <f T2 / f 2 < -2.0 ··· (2)
1.5 <f K / f 1 < 10 ··· (3)
1.5 <f K / f 2 < 10 ··· (4)
−0.4<βK <−0.06 ・・・(5)The lateral magnification of the imaging lens when the beta K, the following conditional expression (5) Stereo imaging apparatus according to any one which satisfies the preceding claims, wherein 15 of the.
−0.4 <β K <−0.06 (5)
0.03<DPK/fK <1.5 ・・・(6)In developed state of the optical path, the diaphragm distance D PK from member to the entrance surface of the imaging lens, the focal length of the imaging lens group when the f K, the following conditional expression (6) The stereo imaging device according to claim 17, wherein the stereo imaging device is satisfied.
0.03 <D PK / f K <1.5 (6)
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003148701A JP4358553B2 (en) | 2003-05-27 | 2003-05-27 | Stereo imaging device |
US10/853,003 US7075735B2 (en) | 2003-05-27 | 2004-05-25 | Stereo imaging system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003148701A JP4358553B2 (en) | 2003-05-27 | 2003-05-27 | Stereo imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004354435A true JP2004354435A (en) | 2004-12-16 |
JP4358553B2 JP4358553B2 (en) | 2009-11-04 |
Family
ID=34044997
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003148701A Expired - Fee Related JP4358553B2 (en) | 2003-05-27 | 2003-05-27 | Stereo imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4358553B2 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101120932B1 (en) | 2008-10-03 | 2012-02-27 | 후지쯔 가부시끼가이샤 | Imaging apparatus, computer-readable recording medium having imaging program recorded thereon, imaging method, authentication apparatus, computer-readable recording medium having authentication program recorded thereon, and authentication method |
JP2015163913A (en) * | 2014-02-28 | 2015-09-10 | 日本電産コパル株式会社 | Imaging device and mounting component imaging apparatus |
CN107728290A (en) * | 2017-11-02 | 2018-02-23 | 浙江舜宇光学有限公司 | Optical imaging system |
WO2019085524A1 (en) * | 2017-11-02 | 2019-05-09 | 浙江舜宇光学有限公司 | Optical imaging system |
-
2003
- 2003-05-27 JP JP2003148701A patent/JP4358553B2/en not_active Expired - Fee Related
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101120932B1 (en) | 2008-10-03 | 2012-02-27 | 후지쯔 가부시끼가이샤 | Imaging apparatus, computer-readable recording medium having imaging program recorded thereon, imaging method, authentication apparatus, computer-readable recording medium having authentication program recorded thereon, and authentication method |
JP2015163913A (en) * | 2014-02-28 | 2015-09-10 | 日本電産コパル株式会社 | Imaging device and mounting component imaging apparatus |
CN107728290A (en) * | 2017-11-02 | 2018-02-23 | 浙江舜宇光学有限公司 | Optical imaging system |
WO2019085524A1 (en) * | 2017-11-02 | 2019-05-09 | 浙江舜宇光学有限公司 | Optical imaging system |
CN107728290B (en) * | 2017-11-02 | 2019-11-15 | 浙江舜宇光学有限公司 | Optical imaging system |
US11067777B2 (en) | 2017-11-02 | 2021-07-20 | Zhejiang Sunny Optical Co., Ltd | Optical imaging system |
Also Published As
Publication number | Publication date |
---|---|
JP4358553B2 (en) | 2009-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6746328B2 (en) | Optical system, imaging apparatus and projection apparatus including the same | |
US7136236B2 (en) | Superwide-angle lens optical system, and imaging unit and display unit comprising the same | |
US6124989A (en) | Image-forming optical system | |
WO2017150493A1 (en) | Imaging device and projection device | |
WO2017150486A1 (en) | Optical system, imaging device provided with same, and projection device | |
JP7005207B2 (en) | Optical system, imaging device and projection device equipped with it | |
JP7086572B2 (en) | Optical systems, imaging devices, ranging devices, in-vehicle systems, and mobile devices | |
US7075735B2 (en) | Stereo imaging system | |
JP5043473B2 (en) | Viewfinder optical system and imaging apparatus using the same | |
JP2893768B2 (en) | Focus detection device | |
JP2019101181A (en) | Imaging device | |
JP4358553B2 (en) | Stereo imaging device | |
US6758570B2 (en) | Reflective optical element, reflective optical system, image display system, and finder optical system | |
JP2019028127A (en) | Optical system, and imaging apparatus and projection apparatus including the same | |
JP6983584B2 (en) | Imaging device, range measuring device equipped with it, and in-vehicle camera system | |
JP4225606B2 (en) | Imaging optics | |
JP2021081663A (en) | Optical system and imaging apparatus with the same | |
JP7207889B2 (en) | Range finder and in-vehicle camera system | |
JP2004354434A (en) | Stereo image pickup unit | |
JP2004354436A (en) | Stereoscopic imaging apparatus | |
JP2019028128A (en) | Optical system, and imaging apparatus and projection apparatus including the same | |
EP1111427A2 (en) | Dual channel optical imaging system | |
JP2007192966A (en) | Optical system, especially optical system where three-dimensional cylindrical, spherical, or conical display screen is projected in all directions of 360°c without using rotation center or videos from all directions of 360°c are imaged on cylindrical, spherical and conical three-dimensional imaging screen, and optical system capable of projecting or imaging video using circular optical element with high definition | |
WO2017150492A1 (en) | Optical system, and imaging apparatus and projection apparatus provided with same | |
JP2018189747A (en) | Optical system, and imaging apparatus and projection device including the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060426 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090715 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090806 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120814 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120814 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130814 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |