JP4326104B2 - Image input device - Google Patents

Image input device Download PDF

Info

Publication number
JP4326104B2
JP4326104B2 JP2000069575A JP2000069575A JP4326104B2 JP 4326104 B2 JP4326104 B2 JP 4326104B2 JP 2000069575 A JP2000069575 A JP 2000069575A JP 2000069575 A JP2000069575 A JP 2000069575A JP 4326104 B2 JP4326104 B2 JP 4326104B2
Authority
JP
Japan
Prior art keywords
image
reflecting surface
reflecting
optical axis
input device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000069575A
Other languages
Japanese (ja)
Other versions
JP2001257914A (en
Inventor
靖 曽我部
英一 長岡
茂樹 村田
隆宜 矢吹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2000069575A priority Critical patent/JP4326104B2/en
Publication of JP2001257914A publication Critical patent/JP2001257914A/en
Application granted granted Critical
Publication of JP4326104B2 publication Critical patent/JP4326104B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、反射面によって反射した画像を撮像する画像入力装置に関するものである。
【0002】
【従来の技術】
一般の単眼のカメラにおいては、一方向の画角の画像を撮像するように構成されている。これに対して、特許第2939087号や特開平11−174603号公報などのように、反射面によって反射した画像を撮像するようにしてカメラの周囲の広い画角を一度に撮影する画像入力装置が知られている。
【0003】
広い画角を一度に撮影するこの画像入力装置は、曲面の形状の一つの反射面をカメラの光軸上に配置し、その反射面による反射像を撮像することにより、1つのカメラでカメラの光軸まわりの360度の画像を撮像するように構成されており、いわゆる、全方位画像撮像装置と呼ばれている。
【0004】
この全方位画像撮像装置は、一つのカメラに一つの反射曲面という極めて単純な構成により簡便に装置の構成が可能であるにも関わらず、死角のない画像を得ることができるため、空間認識装置として、ロボットの誘導などに適用されている。
【0005】
前記反射面の形状は、カメラの光軸回りの軸回転対称の形状を有する場合が多く、例えば円錐、球、双曲面などの形状を有する。これらの反射面を用いた場合には、カメラに円形の画像が撮像され、円形の半径方向がカメラの光軸方向、円周方向がカメラの光軸回りの方向を示す全方位画像となる。
【0006】
したがって、得られた円形の画像データを幾何変換すれば、カメラの光軸回りの全周の画像いわゆるパノラマ画像を再構築できる。特に、双曲面の場合には、双曲面の内部焦点の位置の一点から全方向を観測した時の画像が再生できるため、視点の移動のない違和感のないパノラマ画像が得られることが知られている。また、反射面の形状により、カメラの光軸方向に撮像できる範囲すなわち画角が異なることも知られている。
【0007】
【発明が解決しようとする課題】
しかしながら、上記の全方位画像撮像装置のような反射面を有する画像入力装置では、以下のような課題を有する。
【0008】
従来の装置では、一つの曲率を有した反射面に対して構成されているため、例えば、一つの曲率を有する双曲面の反射面を用いた構成の場合には、その双曲面の形状により画角が固定となるため、通常の可変倍率のカメラ、いわゆるズーム付きカメラのように画角の変更ができない。
【0009】
また、全方位の画像を1つのカメラで撮像すると、360度全周の画像を1つの結像素子に結像するため、原理的に通常の視野のカメラに比べて空間解像度の低い画像となってしまう。そのため、同一のカメラで通常の視野の画像を撮像することが望まれるが、従来装置ではその要望を満たすことができない。
【0010】
本発明は、反射面を有する画像入力装置において、全方位画像や通常の平面反射による画像などの異なる画角の画像を簡便に撮像できる画像入力装置を提供することを目的とする。
【0011】
【課題を解決するための手段】
本発明の請求項1記載の画像入力装置は、画像撮像素子と、結像光学系と、互いに異なる形状を有する複数の反射面と、前記複数の反射面から任意の反射面を選択する選択手段とを設け、前記選択手段により選択した任意の反射面と前記結像光学系とが共働して前記結像光学系の光軸回りの画像を前記画像撮像素子に結像することを特徴とする。
【0012】
本発明の請求項2記載の画像入力装置は、請求項1において、前記選択手段により選択された反射面を検出する検出手段と、前記検出手段の出力に応じて前記画像撮像素子から出力された画像を幾何変換処理する変換処理手段とを設けたことを特徴とする。
【0013】
本発明の請求項3記載の画像入力装置は、請求項1において、前記選択手段により前記複数の反射面から選択する第一の反射面を、前記結像光学系の光軸上かつ前記画像撮像素子の結像面に相対する位置に配置し、前記第一の反射面とは異なる形状の第二の反射面を、前記結像光学系の光軸上かつ前記第一の反射面の背面位置に配置して保持する保持手段と、前記第一の反射面の位置と前記第二の反射面の位置を逆転させる反転手段とを設けたことを特徴とする。
【0014】
本発明の請求項4記載の画像入力装置は、請求項3において、前記反転手段は、前記保持手段を前記結像光学系の光軸に垂直な軸回りに回転する回転機構であることを特徴とする。
【0015】
本発明の請求項5記載の画像入力装置は、請求項1において、前記複数の反射面の第一の反射面は、前記結像光学系の光軸回りの全方向の画像を、前記画像撮像素子上に、ほぼ同心円状に結像する軸回転対称面であることを特徴とする。
【0016】
本発明の請求項6記載の画像入力装置は、請求項5において、前記複数の反射面の第二の反射面は、前記第一の反射面と異なる曲率を有し、前記結像光学系の光軸方向において前記第一の反射面と異なる画角の全方向の画像を前記画像撮像素子上に、ほぼ同心円状に結像する軸回転対称面であることを特徴とする。
【0017】
本発明の請求項7記載の画像入力装置は、請求項6において、前記第一の反射面が第一の双曲面であり、前記第二の反射面が前記第一の双曲面と異なる曲率の第二の双曲面であり、前記選択手段により、前記第一の反射面を選択した時の前記第一の双曲面の内部焦点の位置と、前記第二の反射面を選択した時の前記第二の双曲面の内部焦点の位置とが略一致することを特徴とする。
【0018】
本発明の請求項8記載の画像入力装置は、請求項7において、前記第一の反射面を選択した時の前記第一の双曲面により結像した第一の画像と前記第二の反射面を選択した時の前記第二の双曲面により結像した第二の画像とを記憶する記憶手段と、前記記憶手段に記憶された前記第一の画像および第二の画像を、幾何変換し、1視点からの画像に変換する幾何変換手段と、前記変換処理手段により変換された第一の画像および第二の画像を合成処理する合成処理手段とを設けたことを特徴とする。
【0019】
本発明の請求項9記載の画像入力装置は、請求項5において、前記複数の反射面の第二の反射面は、前記結像光学系の光軸回りの単一方向からの画像を、前記画像撮像素子上に結像する反射面であることを特徴とする。
【0020】
本発明の請求項10記載の画像入力装置は、請求項9において、前記複数の反射面の第二の反射面を駆動し、前記結像光学系の光軸回りの任意の方向からの画像を前記画像撮像素子上に結像させる方向選択手段を設けたことを特徴とする。
【0021】
本発明の請求項11記載の画像入力装置は、請求項10において、前記複数の反射面の第一の反射面を用いて前記画像撮像素子に結像した前記結像光学系の光軸回りの全方向の画像を表示する表示手段と、前記表示手段に表示された表示画像の任意の領域を指示する指示手段と、前記方向選択手段が前記指示手段により指示された前記表示画像の領域に一致する方向からの画像を前記第二の反射面により前記画像撮像素子上に結像するように制御する制御手段とを設けたことを特徴とする。
【0022】
本発明の請求項12記載の画像入力装置は、請求項11において、前記第一の反射面を用いて前記画像撮像素子上に結像した第一の画像を記憶する記憶手段と、前記記憶手段に記憶した第一の画像を幾何変換した変換画像を生成し、前記制御手段により制御された前記第二の反射面により前記画像撮像素子上に結像した第二の画像を前記変換画像に重ねる画像処理手段とを設けたことを特徴とする。
【0023】
【発明の実施の形態】
以下、本発明の各実施の形態を図1〜図16に基づいて説明する。
(実施の形態1)
図1〜図8は(実施の形態1)を示す。
【0024】
図1,図2は(実施の形態1)の画像入力装置を示し、カメラ部とこのカメラ部の出力データを処理する処理装置とで構成されている。
1はカメラ部である。カメラ部1については、その断面形状を示している。カメラ部1は以下の部品により構成される。
【0025】
2はCCDまたはCMOSなどの画像撮像素子である。3は結像レンズで、結像レンズ3の光軸4の方向の像を結像し画像撮像素子2に画像を結像する。5aは第一の反射鏡で、光軸4を中心とした回転対称の形状であり、双曲面形状である。5bは第二の反射鏡で、光軸4を中心とした回転対称の形状であり、第一の反射鏡とは異なる双曲面形状である。6は保持部材で、第一の反射鏡5aと第二の反射鏡5bを保持している。7は反転手段としての回転装置で、保持部材6に連結して保持部材6を回転させ、第一の反射鏡5aと第二の反射鏡5bの位置を逆転(図1では上下逆)する。この回転装置7は、自己の回転位置を認識する機能を有している。
【0026】
9はカメラ台座で、画像撮像素子2と結像レンズ3と透明保持部材10とを固定保持している。透明保持材10は、ガラスなどの透明体の楕円柱または円柱の構造を有しており、第一の反射鏡5aと第二の反射鏡5b、保持部材6、回転装置7、保護部材8を、カメラ台座9上に、結像レンズ3から一定距離をもって位置決めするとともに、ガラス等の透明な材料で構成することにより、光軸4まわりの空間の画像を遮ることなく、反射鏡5aまたは反射鏡5bで反射させることができる。
【0027】
上記のカメラ部1の信号を処理する部分は次のように構成されている。
11は画像記憶装置で、画像撮像素子2に結像した画像を取り込み記憶する。12は幾何変換装置で、画像記憶装置11に記憶された画像を幾何変換して、一点の視点から観測した時のようなパノラマ画像を生成する。13は合成処理装置で、第一の反射鏡5aと第二の反射鏡5bにより撮像して画像記憶装置11に記憶され、さらに幾何変換装置12により変換されたそれぞれの画像を合成した画像を生成する。14は表示装置で、合成処理装置13からの画像出力を表示する。15は制御装置で、内部に保有するプログラムに記述された内容に応じて画像撮像素子2、回転装置7、画像記憶装置11、幾何変換装置12、合成処理装置13の動作を制御する。
【0028】
ここで、図3を用いて第一の反射鏡5aと第二の反射鏡5bの位置関係について示す。
図3は図1,図2の画像入力装置のカメラ部1を示し、16aは第一の反射鏡5aの双曲面の内部焦点、16bは第二の反射鏡5bの双曲面の内部焦点を示している。17は結像レンズ3の主点を示している。18は保持部材6の回転装置7による回転中心軸を示している。矢印Dが回転中心軸18の周りの回転方向を示している。第一の反射鏡5aの双曲面と第二の反射鏡5bの双曲面の回転中心軸は、光軸4と一致しており、それらの双曲面の凸面は上下逆方向を向いている。
【0029】
ここで、 内部焦点16aと回転中心軸18の距離をRa、内部焦点16bと回転中心軸18の距離をRbとすると、
Ra = Rb
の式が成立するように構成する。ここで、双曲面形状の反射面によって反射結像した画像は、その内部焦点の位置から観測した画像に変換できることが知られている。
【0030】
したがって、回転装置7により保持部材6が矢印Dの方向に回転し、第一の反射鏡5aと第二の反射鏡5bの位置が入れ換わっても、それぞれの内部焦点と結像レンズ3の主点17からの距離Lは不変となる。
【0031】
そのため、第一の反射鏡5aと第二の反射鏡5bから反射した全方向の画像を変換すると、空間上の同一視点からのパノラマ像が再生できる。
つぎに、図4(a)(b)(c)を用いて、第一の反射鏡5aと第二の反射鏡5bによる画角の違いについて説明する。
【0032】
図4(a)は第二の反射鏡5bで画像を撮像する時の画角を示し、図4(b)は第一の反射鏡5aで画像を撮像する時の画角を示している。図4(c)は第一の反射鏡5aと第二の反射鏡5bの画角を比較した図である。
【0033】
図4(a)において、第二の反射鏡5bは光軸4の周りには360度で、光軸4方向には角度αの画角の画像を撮像する。一方、図4(b)において、第一の反射鏡5aは第二の反射鏡5bよりも曲率半径の小さい形状をしているため、光軸4の周りには360度で、かつ第二の反射鏡5bの場合に比べて、より光軸4方向に向かって結像レンズ3より遠い側を撮像することがわかる。
【0034】
図4(c)が画角の違いを明確にするために示した模式図である。点19にそれぞれの内部焦点の位置を一致させて示している。図4(c)に明かなように、それぞれの反射鏡での撮像できる画角は一部重なりながら、異なる画角を撮像していることがわかる。
【0035】
制御装置15は図5のステップ20a〜20iのように構成されている。
以下、制御装置15の構成を、図5のフローチャートに従って説明する。
(ステップ20a)回転位置の認識:
制御装置15は回転装置7の位置を認識し、2つの反射鏡のうちどちらが画像撮像素子2の方向を向いているかを認識する。図1,図2の場合には第二の反射鏡5bが認識される。以下、初期の反射鏡の位置を図1,図2として説明する。
(ステップ20b)画像Aの撮像:
制御装置15は画像撮像素子2を駆動して画像を撮像する。この画像を画像Aとする。画像Aは、第二の反射鏡5bによって反射した画像である。図6(a)に画像Aの模式図を示した。図6(a)のように、ドーナッツ型の画像が撮像され、画像Aの円周方向θが図4(a)の光軸4回りの方向を示し、αは、図4(a)と同じく、光軸4方向の画角方向となる。
(ステップ20c)画像Aの記憶:
ステップ20bで撮像された画像は、画像記憶装置11に送られ記憶される。このとき、第二の反射鏡5bを用いて撮像された画像Aであることがわかるように区別して記憶しておく。
(ステップ20d)回転装置7の駆動:
制御装置15は回転装置7を駆動し、第一の反射鏡5aと第二の反射鏡5bの位置を逆転する。
(ステップ20e)画像Bの撮像:
制御装置15は、画像撮像素子2を駆動して画像を撮像する。この画像を画像Bとする。画像Bは、第一の反射鏡5aによって反射した画像である。図6(b)に画像Bの模式図を示した。図6(b)のように、ドーナッツ型の画像が撮像され、画像Bの円周方向θが図4(b)の光軸4回りの方向を示し、βは、図4(b)と同じく、光軸4方向の画角方向となる。
(ステップ20f)画像Bの記憶:
(ステップ20e)で撮像された画像は、画像記憶装置11に送られ記憶される。このとき、第一の反射鏡5aを用いて撮像された画像Bであることがわかるように区別して記憶しておく。
(ステップ20g)画像A、画像Bの変換:
幾何変換装置12により、画像記憶装置11に記憶された画像Aと画像Bをそれぞれパノラマ画像に変換する。図6(a)(b)において、θ方向を長軸方向に、α方向およびβ方向を短軸方向となる矩形画像に幾何変換することによりパノラマ画像が生成できる。図7の破線21が画像Aをパノラマ画像に変換したパノラマ画像A、図7の実線22が画像Bをパノラマ画像に変換したパノラマ画像Bである。
【0036】
幾何変換装置12は、撮像した第一の反射鏡5aと第二の反射鏡5bで異なる変換パラメータを内蔵しており、画像記憶装置11から呼び出した画像の種類に応じて処理パラメータを入れ替えて処理を実行する。
(ステップ20h)画像A、画像Bの合成:
図7は破線21で示したパノラマ画像Aと実線22で示したパノラマ画像Bを合成した位置を示している。図4に示したように、破線21で示したパノラマ画像Aは、画角αの位置を撮像し、実線22で示したパノラマ画像Bは、画角βの位置を撮像している。パノラマ画像Aとパノラマ画像Bはいずれも、空間上同一の視点から観測した画像である。
【0037】
したがって、図7のように合成して一枚の画像(21−22)を生成することにより、より画角の広いパノラマ画像を生成する。パノラマ画像Aとパノラマ画像Bの互いに重なりあった領域では画像を補間し合って画像の解像度が向上している。
(ステップ20i)表示:
ステップ20hにより生成された画像を、図1(b)に示した表示装置14に表示して処理を終わる。
【0038】
図1,図2のように、単一の画像撮像素子に対して、複数の画角の反射鏡5a,5bを有する構造であるため、異なる画角の画像を簡便に撮像することができる。特に、反射面が一度に光軸回りの全方位の画像を撮像する場合においては、異なる画角の全方位画像を単一の画像撮像素子により撮像できる。
【0039】
さらに、複数の反射鏡のうち撮像に用いない反射鏡が、画像を撮像する時の光軸方向の死角の位置に格納されているため、撮像方向を遮ることなく良好な画角で画像を撮像することが可能である。特に、全方位の画像を一度に得るような場合においては、死角が少ないため特に有効である。
【0040】
さらに、図1,図2に示したような異なる曲率を有する二つの双曲面の反射鏡で撮像した画像を合成することにより、360度のパノラマ画像の画角を広げることが可能となると同時に画像の解像度も向上することができる。
【0041】
なお、本実施の形態では、二つの双曲面の反射鏡を切り替える場合について示したが、必ずしも双曲面である必要はない。たとえば、図8(a)や図8(b)のように、両者ともに円錐面や一方が球面でもかまわない。これらの場合も同様に360度のパノラマ画像が生成できるため、二つの異なる画角のパノラマ画像を得ることができ、これらを合成することにより画角を広げることが可能であることは言うまでもない。
【0042】
なお、図2に示すように透明保持部材10を楕円形状にしたのは、下記の理由による。
図1において第一の反射鏡5aと第二の反射鏡5bを回転して位置を入れ替える場合に、小さな直径の円筒形であると第一,第二の反射鏡5a,5bが衝突して回転できない。そのため、第一,第二の反射鏡5a,5bの回転軌道に接触しない範囲でできるだけ小さい形状になるように、第一,第二の反射鏡5a,5bの先端が衝突しないように楕円形状に構成している。
【0043】
さらに、透明保持部材10は全周を覆っているので、光が通過する際の光の劣化(減衰,屈折)が周方向に均一になって、局所的に画像が劣化しない。
(実施の形態2)
図9〜図14は(実施の形態2)を示す。
【0044】
図9,図10は(実施の形態2)の画像入力装置を示し、図1,図2と同様の作用を成すもの同一の符号を付けて説明を省略する。
図9,図10の100は(実施の形態2)のカメラ部である。カメラ部100のうち、101は平面ミラーである。102は平面ミラー保持部材である。103は双曲面ミラーである。104は方向選択手段としての平面ミラー回転装置で、平面ミラー101と平面ミラー保持部材102を光軸4まわりに回転させる。105は保持部材で、平面ミラー101、平面ミラー保持部材102と双曲面ミラー103と平面ミラー回転装置104を保持している。106は回転装置で、保持部材105を光軸4方向に回転させることにより、平面ミラー101と双曲面ミラー103の位置を逆転(図9,図10では上下)させることができる。
【0045】
上記のカメラ部100の信号を処理する部分は次のように構成されている。
107は画像処理装置で、画像記憶装置11に記憶された画像に対して加工処理を施して表示装置14に表示する。108は入力装置で、表示装置14に表示された画像に対して位置の指定などの指示を行う装置である。109は制御装置で、平面ミラー回転装置104と回転装置105と画像撮像素子2と画像記憶装置11と画像処理装置107を内部に保有するプログラムに記述された内容に応じて制御を行う。
【0046】
制御装置109は図11のステップ110a〜110iのように構成されている。
図12は図9,図10におけるカメラ部100の動作を示した説明図である。
【0047】
図13は図9,図10におけるカメラ部100により撮像された全方位画像の説明図である。
図14は図9,図10における画像処理装置107により処理され表示装置14に表示された合成画像の説明図である。
【0048】
以下、制御装置109の構成を、図11のフローチャートに従って説明する。
(ステップ110a)全方位画像の撮像:
双曲面ミラー103の位置が、図7に示したように結像レンズ3に相対する位置にあることを確認後、画像撮像素子2を動作させて画像を撮像する。図12(a)がステップ110a動作時のカメラ部100を示す。
【0049】
図13が撮像された全方位画像である。θが光軸4周りを示し、αが光軸4方向を示しており、光軸4周りの全方向の画像が撮像される。このような画像を、全方位画像と呼ぶことにする。
(ステップ110b)全方位画像の記憶:
画像記憶装置11に全方位画像を記憶する。
(ステップ110c)全方位画像の表示:
画像記憶装置11に記憶された全方位画像を表示装置14に表示する。
なお、画像処理装置107は、画像記憶装置11から表示装置14に画像をスルーする。
(ステップ110d)視線方向の指示:
図13に示した全方位画像のうち、任意の点を入力装置108により入力する。入力する点の選択は、全方位画像のうち、より詳細な画像を得たい場所を指示する。図13における点111が入力した点であるとする。
(ステップ110e)反射鏡の上下反転:
制御装置109が回転装置105に働きかけて、保持部材105を光軸4方向に回転させることにより、平面ミラー101と双曲面ミラー103の位置を逆転させる。図12(b)が(ステップ110e)において平面ミラー101が回転した状態を示す。
(ステップ110f)平面ミラーの方向制御:
平面ミラー101は光軸4周りの一方向のみの画像を反射する。したがって、(ステップ110d)で指定した点111の位置に対応する光軸4まわりの方向を向くように、平面ミラー回転装置104を回動させる。図12(c)が、平面ミラ−が平面ミラー回転装置104により回動している状態を示す。
(ステップ110f)平面反射画像の撮像:
画像撮像素子2を動作させて平面ミラー101で反射した画像(平面反射画像と呼ぶ)を撮像する。
(ステップ110g)平面反射画像の記憶:
画像記憶装置11に平面反射画像を記憶する。
(ステップ110h)全方位画像と平面反射画像の合成:
画像記憶装置11に記憶された全方位画像を画像処理装置107が呼び出し、パノラマ画像に変換する。図14の112が、図13の全方位画像を幾何変換して展開して得られたパノラマ画像である。ここで、点113が図13における点111に対応する位置を示している。次に、画像記憶装置11から平面反射画像を呼び出して、パノラマ画像に合成する。114が平面反射画像が張り付けられた場所を示している。
【0050】
このように、双曲面ミラー103により得られた全方位画像の一部を指示すると、平面ミラー101が所定の方向に回動し、指示した位置に対応する詳細な画像を撮像することができる。
【0051】
なお、(実施の形態2)では全方位画像に平面反射画像を合成したが、必ずしも重ねる必要はなく、平面反射画像を直接に表示装置14に示しても、全方位の画像の一部を視線方向を詳細に観測する目的を達成できる。
【0052】
さらに、(実施の形態2)では双曲面ミラーを用いたが、一度に全方位の画像を得ることができれば、その限りでなく、円錐、球などの形状でもよい。
(実施の形態3)
図15と図16は(実施の形態3)を示す。
【0053】
(実施の形態1)(実施の形態2)では、動作を制御装置の制御により自動で動作させていたが、必ずしも自動制御する必要はない。たとえば、図15に示したような構造にすれば、極めて簡便にミラーの回動が可能である。図16(a)〜(f)は使用状態の説明図である。
【0054】
図15(a)(b)において、200がカメラ部である。カメラ部200において、図1,図2と同様の作用をなすものには同一の符号を付けて説明を省略する。
【0055】
201が保持部材で、上下に平面ミラー101と双曲面ミラー103とを保持している。ここで保持部材201は、図16(b)のように透明保持材10Cならびに保護部材8とは分離できるような構造となっている。そこで、図16(c)のように保持部材201を手動操作で回転させて再び図16(d)に示すように透明保持材10に接合させる。次に、図16(e)のように平面ミラー101で撮像したい方向になるように保持部材201を手動操作で回転させる。最後に、図16(f)のように保護部材8を保持部材201に接合して動作を完了する。
【0056】
このような構造であれば、回動のための装置が必要なく、極めて簡単な構造で異なる形状のミラーを置き換えることが可能である。
【0057】
【発明の効果】
以上のように本発明によれば、単一の画像撮像素子に対して、複数の画角の反射鏡を有する構造であるため、異なる画角の画像を簡便に撮像することができる。
【0058】
特に、反射面が一度に光軸回りの全方位の画像を撮像する場合においては、異なる画角の全方位画像を単一の画像撮像素子により撮像できる。
さらに、撮像に用いない反射鏡が光軸方向の全方位の画像を撮像する時の死角の位置に格納しているため、良好な画角で全方位の画像を撮像することが可能である。
【0059】
さらに、異なる曲率を有する曲面の反射鏡で撮像した画像を合成することにより、360度のパノラマ画像の画角を広げることが可能となると同時に画像の解像度も向上することができる。
【0060】
また、特に一方が全方位の画像を得ることができる反射鏡を有し、もう一方が平面ミラーを有する場合には、全方位の画像の一部を指示することにより、平面ミラーが所定の方向に回動し、指示した位置に対応する詳細な画像を撮像することができる。
【0061】
さらに、全方位の画像に平面ミラーによる詳細な画像を重ねて表示することも可能である。
さらに、以上のような効果をアクチュエータなどの動力を用いずに、手動で簡便に行える構成を採用した場合には、単純で安価な構成で実現できる。
【図面の簡単な説明】
【図1】(実施の形態1)の画像入力装置の構成図
【図2】同実施の形態の画像入力装置の平面図
【図3】同実施の形態のカメラ部の位置関係の説明図
【図4】同実施の形態の異なる反射鏡の画角の違いの説明図
【図5】同実施の形態の動作を示すフローチャート図
【図6】同実施の形態において形状の異なる反射鏡で撮像された画像の説明図
【図7】同実施の形態において形状の異なる反射鏡で撮像された画像の合成結果を示した説明図
【図8】同実施の形態の画像入力装置の説明図
【図9】(実施の形態2)の画像入力装置の構成図
【図10】同実施の形態の画像入力装置の構成図
【図11】同実施の形態の動作を示すフローチャート図
【図12】同実施の形態のカメラ部の動作の説明図
【図13】同実施の形態の撮像画像の説明図
【図14】同実施の形態の合成画像を示す説明図
【図15】(実施の形態3)の画像入力装置の説明図
【図16】同実施の形態の使用状態の説明図
【符号の説明】
1 カメラ部
2 画像撮像素子
3 結像レンズ
4 結像レンズの光軸
5a 第一の反射鏡
5b 第二の反射鏡
6 保持部材
7 回転装置
8 保護部材
9 カメラ台座
10 透明保持材
11 画像記憶装置
12 幾何変換装置
13 合成処理装置
14 表示装置
15 制御装置
16a,16b 双曲面の内部焦点
17 結像レンズ3の主点
18 回転中心軸
100 カメラ部
101 平面ミラー
102 平面ミラー保持部材
103 双曲面ミラー
104 平面ミラー回転装置
105 保持部材
106 回転装置
107 画像処理装置
108 入力装置
109 制御装置
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image input apparatus that captures an image reflected by a reflecting surface.
[0002]
[Prior art]
A general monocular camera is configured to capture an image having an angle of view in one direction. On the other hand, as in Japanese Patent No. 2939087 and Japanese Patent Application Laid-Open No. 11-174603, an image input device that captures a wide angle of view around the camera at a time by capturing an image reflected by a reflecting surface. Are known.
[0003]
In this image input device that captures a wide angle of view at one time, a single reflecting surface having a curved surface is arranged on the optical axis of the camera, and a reflected image by the reflecting surface is captured, so that one camera can It is configured to capture an image of 360 degrees around the optical axis, and is called a so-called omnidirectional image capturing device.
[0004]
This omnidirectional image pickup device can obtain an image without a blind spot despite the fact that the configuration of the device can be simply configured by a very simple configuration of one reflection curved surface for one camera, and thus a space recognition device. It is applied to robot guidance.
[0005]
In many cases, the shape of the reflection surface has a shape that is axially symmetric about the optical axis of the camera, such as a cone, a sphere, or a hyperboloid. When these reflecting surfaces are used, a circular image is captured by the camera, and the circular radial direction is an omnidirectional image indicating the direction of the optical axis of the camera and the circumferential direction is a direction around the optical axis of the camera.
[0006]
Therefore, if the obtained circular image data is geometrically transformed, an image of the entire circumference around the optical axis of the camera, that is, a so-called panoramic image can be reconstructed. In particular, in the case of a hyperboloid, it is known that an image obtained by observing all directions from one point of the position of the internal focal point of the hyperboloid can be reproduced, so that a panoramic image without a sense of incongruity without movement of the viewpoint can be obtained. Yes. It is also known that the range that can be imaged in the optical axis direction of the camera, that is, the angle of view, varies depending on the shape of the reflecting surface.
[0007]
[Problems to be solved by the invention]
However, an image input apparatus having a reflecting surface such as the above omnidirectional image pickup apparatus has the following problems.
[0008]
Since the conventional apparatus is configured with a reflecting surface having one curvature, for example, in the case of a configuration using a hyperboloid reflecting surface having one curvature, the shape of the hyperboloid is different. Since the angle is fixed, the angle of view cannot be changed as in a normal variable magnification camera, that is, a so-called zoom camera.
[0009]
In addition, when an omnidirectional image is captured by one camera, an image of 360 degrees all around is formed on one imaging element, so that in principle, the image has a lower spatial resolution than a normal field of view camera. End up. Therefore, it is desired to capture an image with a normal field of view with the same camera, but the conventional apparatus cannot satisfy the request.
[0010]
An object of the present invention is to provide an image input device that can easily capture images of different angles of view such as an omnidirectional image and an image by normal planar reflection in an image input device having a reflective surface.
[0011]
[Means for Solving the Problems]
The image input device according to claim 1 of the present invention is an image pickup device, an imaging optical system, a plurality of reflecting surfaces having different shapes, and a selecting unit that selects an arbitrary reflecting surface from the plurality of reflecting surfaces. And an arbitrary reflection surface selected by the selection means and the imaging optical system cooperate to form an image around the optical axis of the imaging optical system on the image pickup device. To do.
[0012]
The image input device according to a second aspect of the present invention is the image input device according to the first aspect, wherein the detection unit detects the reflection surface selected by the selection unit, and is output from the image pickup device according to the output of the detection unit. Conversion processing means for performing geometric conversion processing on the image is provided.
[0013]
According to a third aspect of the present invention, there is provided the image input device according to the first aspect, wherein the first reflecting surface selected from the plurality of reflecting surfaces by the selecting means is on the optical axis of the imaging optical system and the image capturing is performed. The second reflecting surface, which is disposed at a position opposite to the imaging surface of the element and has a shape different from that of the first reflecting surface, is positioned on the optical axis of the imaging optical system and on the back surface of the first reflecting surface. And holding means for arranging and holding and reversing means for reversing the position of the first reflecting surface and the position of the second reflecting surface.
[0014]
The image input device according to a fourth aspect of the present invention is the image input device according to the third aspect, wherein the inverting means is a rotation mechanism that rotates the holding means about an axis perpendicular to the optical axis of the imaging optical system. And
[0015]
The image input device according to claim 5 of the present invention is the image input device according to claim 1, wherein the first reflecting surface of the plurality of reflecting surfaces captures an image in all directions around the optical axis of the imaging optical system. It is characterized by an axially rotationally symmetric surface that forms an image substantially concentrically on the element.
[0016]
The image input device according to a sixth aspect of the present invention is the image input device according to the fifth aspect, wherein the second reflective surface of the plurality of reflective surfaces has a curvature different from that of the first reflective surface, It is an axially rotationally symmetric surface that forms an image in all directions at different angles of view from the first reflecting surface in the optical axis direction on the image pickup device in a substantially concentric manner.
[0017]
The image input device according to a seventh aspect of the present invention is the image input device according to the sixth aspect, wherein the first reflective surface is a first hyperboloid, and the second reflective surface has a curvature different from that of the first hyperboloid. A second hyperboloid, and when the first reflecting surface is selected by the selecting means, the position of the internal focal point of the first hyperboloid and the second hyperboloid when the second reflecting surface is selected. It is characterized in that the positions of the internal focal points of the two hyperboloids substantially coincide.
[0018]
The image input device according to an eighth aspect of the present invention is the image input device according to the seventh aspect, wherein the first image formed by the first hyperboloid when the first reflective surface is selected and the second reflective surface. Storage means for storing the second image formed by the second hyperboloid when selected, and the first image and the second image stored in the storage means are geometrically transformed, Geometric conversion means for converting into an image from one viewpoint and synthesis processing means for synthesizing the first image and the second image converted by the conversion processing means are provided.
[0019]
The image input device according to a ninth aspect of the present invention is the image input device according to the fifth aspect, wherein the second reflective surface of the plurality of reflective surfaces is an image from a single direction around the optical axis of the imaging optical system. It is a reflecting surface that forms an image on the image pickup device.
[0020]
An image input device according to a tenth aspect of the present invention is the image input device according to the ninth aspect, wherein the second reflective surface of the plurality of reflective surfaces is driven, and an image from an arbitrary direction around the optical axis of the imaging optical system is obtained. Direction selection means for forming an image on the image pickup device is provided.
[0021]
An image input device according to an eleventh aspect of the present invention is the image input device according to the tenth aspect, wherein the first optical surface of the plurality of reflective surfaces is used to form an image about the optical axis of the imaging optical system formed on the image pickup device. Display means for displaying an image in all directions, instruction means for designating an arbitrary area of the display image displayed on the display means, and the direction selection means matches the area of the display image designated by the instruction means And a control means for controlling the second reflection surface to form an image on the image pickup device with the second reflecting surface.
[0022]
According to a twelfth aspect of the present invention, there is provided the image input device according to the eleventh aspect, wherein the storage means stores the first image formed on the image pickup device using the first reflecting surface, and the storage means. A converted image obtained by geometrically converting the first image stored in the image is generated, and a second image formed on the image pickup device by the second reflecting surface controlled by the control unit is superimposed on the converted image. An image processing means is provided.
[0023]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, each embodiment of the present invention will be described with reference to FIGS.
(Embodiment 1)
1 to 8 show (Embodiment 1).
[0024]
1 and 2 show an image input apparatus according to (Embodiment 1), which is composed of a camera unit and a processing unit that processes output data of the camera unit.
Reference numeral 1 denotes a camera unit. About the camera part 1, the cross-sectional shape is shown. The camera unit 1 includes the following parts.
[0025]
Reference numeral 2 denotes an image pickup device such as a CCD or a CMOS. An imaging lens 3 forms an image in the direction of the optical axis 4 of the imaging lens 3 and forms an image on the image pickup device 2. Reference numeral 5a denotes a first reflecting mirror which has a rotationally symmetric shape around the optical axis 4 and has a hyperboloid shape. Reference numeral 5b denotes a second reflecting mirror, which has a rotationally symmetric shape about the optical axis 4, and has a hyperboloid shape different from that of the first reflecting mirror. A holding member 6 holds the first reflecting mirror 5a and the second reflecting mirror 5b. Reference numeral 7 denotes a rotating device as a reversing unit, which is connected to the holding member 6 to rotate the holding member 6 and reverses the positions of the first reflecting mirror 5a and the second reflecting mirror 5b (upside down in FIG. 1). This rotating device 7 has a function of recognizing its rotational position.
[0026]
Reference numeral 9 denotes a camera pedestal, which fixedly holds the image pickup element 2, the imaging lens 3, and the transparent holding member 10. The transparent holding material 10 has a transparent elliptical cylinder or columnar structure such as glass, and includes a first reflecting mirror 5a and a second reflecting mirror 5b, a holding member 6, a rotating device 7, and a protective member 8. The reflecting mirror 5a or the reflecting mirror is positioned on the camera base 9 with a certain distance from the imaging lens 3 and is made of a transparent material such as glass so that the image in the space around the optical axis 4 is not obstructed. It can be reflected by 5b.
[0027]
The portion for processing the signal of the camera unit 1 is configured as follows.
An image storage device 11 captures and stores an image formed on the image pickup device 2. A geometric transformation device 12 geometrically transforms an image stored in the image storage device 11 to generate a panoramic image as observed from a single viewpoint. Reference numeral 13 denotes a synthesizing processing device, which generates an image obtained by synthesizing the respective images that are captured by the first reflecting mirror 5a and the second reflecting mirror 5b, stored in the image storage device 11, and further converted by the geometric transformation device 12. To do. A display device 14 displays an image output from the composition processing device 13. Reference numeral 15 denotes a control device that controls the operations of the image pickup device 2, the rotation device 7, the image storage device 11, the geometric transformation device 12, and the composition processing device 13 in accordance with the contents described in the program held therein.
[0028]
Here, the positional relationship between the first reflecting mirror 5a and the second reflecting mirror 5b will be described with reference to FIG.
3 shows the camera unit 1 of the image input apparatus of FIGS. 1 and 2, 16a shows the internal focal point of the hyperboloid of the first reflecting mirror 5a, and 16b shows the internal focal point of the hyperboloid of the second reflecting mirror 5b. ing. Reference numeral 17 denotes a principal point of the imaging lens 3. Reference numeral 18 denotes a rotation center axis of the holding member 6 by the rotation device 7. An arrow D indicates the direction of rotation around the rotation center axis 18. The rotation center axes of the hyperboloid of the first reflecting mirror 5a and the hyperboloid of the second reflecting mirror 5b coincide with the optical axis 4, and the convex surfaces of these hyperboloids face in the opposite directions.
[0029]
Here, when the distance between the internal focus 16a and the rotation center axis 18 is Ra, and the distance between the internal focus 16b and the rotation center axis 18 is Rb,
Ra = Rb
It is constituted so that the following formula is established. Here, it is known that an image reflected and imaged by a hyperboloidal reflecting surface can be converted into an image observed from the position of the internal focal point.
[0030]
Therefore, even if the holding member 6 is rotated in the direction of the arrow D by the rotating device 7 and the positions of the first reflecting mirror 5a and the second reflecting mirror 5b are switched, the respective internal focal points and the main lenses of the imaging lens 3 are changed. The distance L from the point 17 remains unchanged.
[0031]
Therefore, when images in all directions reflected from the first reflecting mirror 5a and the second reflecting mirror 5b are converted, a panoramic image from the same viewpoint in space can be reproduced.
Next, the difference in the angle of view between the first reflecting mirror 5a and the second reflecting mirror 5b will be described with reference to FIGS.
[0032]
4A shows an angle of view when an image is captured by the second reflecting mirror 5b, and FIG. 4B shows an angle of view when an image is captured by the first reflecting mirror 5a. FIG. 4C is a diagram comparing the angle of view of the first reflecting mirror 5a and the second reflecting mirror 5b.
[0033]
In FIG. 4A, the second reflecting mirror 5b captures an image having an angle of view of 360 degrees around the optical axis 4 and an angle α in the optical axis 4 direction. On the other hand, in FIG. 4B, since the first reflecting mirror 5a has a smaller radius of curvature than the second reflecting mirror 5b, the first reflecting mirror 5a has 360 degrees around the optical axis 4 and the second reflecting mirror 5b. As compared with the case of the reflecting mirror 5b, it can be seen that the farther side from the imaging lens 3 is imaged in the direction of the optical axis 4.
[0034]
FIG. 4C is a schematic diagram shown for clarifying the difference in the angle of view. A point 19 is shown in which the positions of the respective internal focal points coincide with each other. As is clear from FIG. 4C, it can be seen that different angles of view are captured while the angles of view that can be captured by the respective reflecting mirrors partially overlap.
[0035]
The control device 15 is configured as shown in steps 20a to 20i in FIG.
Hereinafter, the configuration of the control device 15 will be described with reference to the flowchart of FIG.
(Step 20a) Recognition of rotational position:
The control device 15 recognizes the position of the rotating device 7 and recognizes which of the two reflecting mirrors faces the image pickup element 2. In the case of FIGS. 1 and 2, the second reflecting mirror 5b is recognized. Hereinafter, the position of the initial reflecting mirror will be described with reference to FIGS.
(Step 20b) Image A:
The control device 15 drives the image pickup device 2 to pick up an image. This image is referred to as an image A. Image A is an image reflected by the second reflecting mirror 5b. A schematic diagram of the image A is shown in FIG. As shown in FIG. 6A, a donut-shaped image is taken, and the circumferential direction θ of the image A indicates the direction around the optical axis 4 in FIG. 4A, and α is the same as in FIG. The angle of view is in the direction of the optical axis 4.
(Step 20c) Storage of image A:
The image captured in step 20b is sent to and stored in the image storage device 11. At this time, it is distinguished and stored so that it can be seen that the image A is picked up using the second reflecting mirror 5b.
(Step 20d) Driving the rotating device 7:
The control device 15 drives the rotating device 7 to reverse the positions of the first reflecting mirror 5a and the second reflecting mirror 5b.
(Step 20e) Image B:
The control device 15 drives the image pickup device 2 to pick up an image. This image is designated as an image B. Image B is an image reflected by the first reflecting mirror 5a. A schematic diagram of the image B is shown in FIG. As shown in FIG. 6B, a donut-shaped image is taken, the circumferential direction θ of the image B indicates the direction around the optical axis 4 in FIG. 4B, and β is the same as in FIG. The angle of view is in the direction of the optical axis 4.
(Step 20f) Storage of image B:
The image captured in (Step 20e) is sent to and stored in the image storage device 11. At this time, the images are distinguished and stored so as to be recognized as an image B imaged using the first reflecting mirror 5a.
(Step 20g) Conversion of image A and image B:
The geometric conversion device 12 converts the images A and B stored in the image storage device 11 into panoramic images, respectively. In FIGS. 6A and 6B, a panoramic image can be generated by geometric conversion into a rectangular image in which the θ direction is the major axis direction and the α and β directions are the minor axis directions. A broken line 21 in FIG. 7 is a panoramic image A obtained by converting the image A into a panoramic image, and a solid line 22 in FIG. 7 is a panoramic image B obtained by converting the image B into a panoramic image.
[0036]
The geometric conversion device 12 includes different conversion parameters for the first reflecting mirror 5a and the second reflecting mirror 5b that have been imaged, and the processing parameters are switched according to the type of image called from the image storage device 11 for processing. Execute.
(Step 20h) Composition of Image A and Image B:
FIG. 7 shows a position where the panoramic image A indicated by the broken line 21 and the panoramic image B indicated by the solid line 22 are combined. As shown in FIG. 4, the panoramic image A indicated by the broken line 21 images the position of the angle of view α, and the panoramic image B indicated by the solid line 22 images the position of the angle of view β. Both panorama image A and panorama image B are images observed from the same viewpoint in space.
[0037]
Therefore, a panoramic image with a wider angle of view is generated by generating one image (21-22) by combining as shown in FIG. In the region where the panorama image A and the panorama image B overlap each other, the images are interpolated to improve the resolution of the image.
(Step 20i) Display:
The image generated in step 20h is displayed on the display device 14 shown in FIG.
[0038]
As shown in FIGS. 1 and 2, since the structure has a plurality of reflecting mirrors 5 a and 5 b with respect to a single image pickup device, it is possible to easily pick up images with different angles of view. In particular, in the case where the reflecting surface captures omnidirectional images around the optical axis at a time, omnidirectional images with different angles of view can be captured by a single image capturing element.
[0039]
Furthermore, since the reflecting mirrors that are not used for imaging among the multiple reflecting mirrors are stored at the blind spot position in the optical axis direction when the image is captured, the image is captured with a good angle of view without obstructing the imaging direction. Is possible. In particular, in the case where images in all directions are obtained at one time, this is particularly effective because there are few blind spots.
[0040]
Furthermore, by combining images captured by two hyperboloidal reflectors having different curvatures as shown in FIGS. 1 and 2, it is possible to widen the angle of view of a 360-degree panoramic image and at the same time Resolution can also be improved.
[0041]
In the present embodiment, the case where two hyperboloidal reflecting mirrors are switched has been described. However, the hyperboloidal surface is not necessarily required. For example, as shown in FIGS. 8A and 8B, both may be conical surfaces or one may be a spherical surface. In these cases as well, a 360-degree panoramic image can be generated, so that panoramic images having two different angles of view can be obtained, and it is needless to say that the angle of view can be widened by combining them.
[0042]
In addition, as shown in FIG. 2, the transparent holding member 10 was made into an elliptical shape for the following reason.
In FIG. 1, when the first reflecting mirror 5a and the second reflecting mirror 5b are rotated to change their positions, the first and second reflecting mirrors 5a and 5b collide and rotate when the cylindrical shape has a small diameter. Can not. For this reason, the first and second reflecting mirrors 5a and 5b have an elliptical shape so that the tips of the first and second reflecting mirrors 5a and 5b do not collide so as to be as small as possible without contacting the rotation orbits of the first and second reflecting mirrors 5a and 5b. It is composed.
[0043]
Further, since the transparent holding member 10 covers the entire circumference, the deterioration (attenuation, refraction) of light when light passes through becomes uniform in the circumferential direction, and the image does not deteriorate locally.
(Embodiment 2)
9 to 14 show (Embodiment 2).
[0044]
FIGS. 9 and 10 show the image input apparatus of (Embodiment 2), and the same reference numerals as those in FIGS.
Reference numeral 100 in FIGS. 9 and 10 denotes the camera unit of the second embodiment. Of the camera unit 100, 101 is a plane mirror. Reference numeral 102 denotes a flat mirror holding member. Reference numeral 103 denotes a hyperboloid mirror. Reference numeral 104 denotes a plane mirror rotating device serving as direction selection means, which rotates the plane mirror 101 and the plane mirror holding member 102 around the optical axis 4. A holding member 105 holds the flat mirror 101, the flat mirror holding member 102, the hyperboloid mirror 103, and the flat mirror rotating device 104. A rotating device 106 rotates the holding member 105 in the direction of the optical axis 4 so that the positions of the plane mirror 101 and the hyperboloid mirror 103 can be reversed (up and down in FIGS. 9 and 10).
[0045]
The portion for processing the signal of the camera unit 100 is configured as follows.
Reference numeral 107 denotes an image processing apparatus that performs processing on the image stored in the image storage device 11 and displays it on the display device 14. Reference numeral 108 denotes an input device, which is a device for instructing the position of the image displayed on the display device 14. Reference numeral 109 denotes a control device that performs control according to the contents described in a program that internally holds the flat mirror rotation device 104, the rotation device 105, the image pickup device 2, the image storage device 11, and the image processing device 107.
[0046]
The control device 109 is configured as steps 110a to 110i in FIG.
FIG. 12 is an explanatory diagram showing the operation of the camera unit 100 in FIGS.
[0047]
FIG. 13 is an explanatory diagram of an omnidirectional image captured by the camera unit 100 in FIGS. 9 and 10.
FIG. 14 is an explanatory diagram of a composite image processed by the image processing device 107 in FIGS. 9 and 10 and displayed on the display device 14.
[0048]
Hereinafter, the configuration of the control device 109 will be described with reference to the flowchart of FIG.
(Step 110a) Imaging of omnidirectional image:
After confirming that the position of the hyperboloid mirror 103 is at a position facing the imaging lens 3 as shown in FIG. 7, the image pickup device 2 is operated to pick up an image. FIG. 12A shows the camera unit 100 during the operation of step 110a.
[0049]
FIG. 13 is a captured omnidirectional image. θ indicates the periphery of the optical axis 4, α indicates the direction of the optical axis 4, and images in all directions around the optical axis 4 are captured. Such an image is called an omnidirectional image.
(Step 110b) Storage of omnidirectional image:
The omnidirectional image is stored in the image storage device 11.
(Step 110c) Display of omnidirectional image:
The omnidirectional image stored in the image storage device 11 is displayed on the display device 14.
Note that the image processing device 107 passes the image from the image storage device 11 to the display device 14.
(Step 110d) Gaze direction instruction:
Any point in the omnidirectional image shown in FIG. The selection of a point to be input indicates a place where a more detailed image is to be obtained from the omnidirectional images. Assume that a point 111 in FIG. 13 is an input point.
(Step 110e) Upside down of the reflecting mirror:
The control device 109 works on the rotation device 105 to rotate the holding member 105 in the direction of the optical axis 4, thereby reversing the positions of the plane mirror 101 and the hyperboloid mirror 103. FIG. 12B shows a state in which the plane mirror 101 is rotated in (Step 110e).
(Step 110f) Direction control of plane mirror:
The plane mirror 101 reflects an image in only one direction around the optical axis 4. Accordingly, the plane mirror rotating device 104 is rotated so as to face the direction around the optical axis 4 corresponding to the position of the point 111 designated in (Step 110d). FIG. 12C shows a state in which the plane mirror is rotated by the plane mirror rotating device 104.
(Step 110f) Imaging of plane reflection image:
The image pickup device 2 is operated to pick up an image reflected by the flat mirror 101 (referred to as a flat reflection image).
(Step 110g) Storage of plane reflection image:
The plane reflection image is stored in the image storage device 11.
(Step 110h) Synthesis of Omnidirectional Image and Plane Reflection Image:
The omnidirectional image stored in the image storage device 11 is called by the image processing device 107 and converted into a panoramic image. Reference numeral 112 in FIG. 14 denotes a panoramic image obtained by expanding the omnidirectional image in FIG. Here, the point 113 indicates a position corresponding to the point 111 in FIG. Next, a plane reflection image is called from the image storage device 11 and synthesized into a panoramic image. Reference numeral 114 denotes a place where the plane reflection image is pasted.
[0050]
As described above, when a part of the omnidirectional image obtained by the hyperboloid mirror 103 is designated, the plane mirror 101 rotates in a predetermined direction, and a detailed image corresponding to the designated position can be taken.
[0051]
In (Embodiment 2), the plane reflection image is synthesized with the omnidirectional image, but it is not always necessary to superimpose it. The objective of observing the direction in detail can be achieved.
[0052]
Furthermore, although the hyperboloidal mirror is used in (Embodiment 2), the shape is not limited as long as an omnidirectional image can be obtained at one time, and may be a shape such as a cone or a sphere.
(Embodiment 3)
15 and 16 show (Embodiment 3).
[0053]
(Embodiment 1) In (Embodiment 2), the operation is automatically performed under the control of the control device. However, the automatic control is not necessarily required. For example, if the structure shown in FIG. 15 is used, the mirror can be rotated very easily. FIGS. 16A to 16F are explanatory diagrams of the usage state.
[0054]
In FIGS. 15A and 15B, reference numeral 200 denotes a camera unit. In the camera unit 200, components having the same functions as those in FIGS.
[0055]
Reference numeral 201 denotes a holding member, which holds the flat mirror 101 and the hyperboloid mirror 103 up and down. Here, the holding member 201 has a structure that can be separated from the transparent holding member 10C and the protective member 8 as shown in FIG. Therefore, the holding member 201 is manually rotated as shown in FIG. 16C and joined to the transparent holding material 10 again as shown in FIG. Next, as shown in FIG. 16E, the holding member 201 is manually rotated so that the image is taken in the plane mirror 101. Finally, the protection member 8 is joined to the holding member 201 as shown in FIG.
[0056]
With such a structure, there is no need for a device for rotation, and it is possible to replace mirrors having different shapes with a very simple structure.
[0057]
【The invention's effect】
As described above, according to the present invention, a single image pickup device has a structure having a plurality of angle-of-view reflecting mirrors, so that images with different angles of view can be easily picked up.
[0058]
In particular, in the case where the reflecting surface captures omnidirectional images around the optical axis at a time, omnidirectional images with different angles of view can be captured by a single image capturing element.
Furthermore, since the reflecting mirror not used for imaging is stored in the position of the blind spot when the omnidirectional image is captured in the optical axis direction, it is possible to capture the omnidirectional image with a favorable angle of view.
[0059]
Furthermore, by synthesizing images picked up by curved reflectors having different curvatures, it is possible to widen the angle of view of a 360-degree panoramic image and at the same time improve the resolution of the image.
[0060]
In particular, when one has a reflecting mirror capable of obtaining an omnidirectional image and the other has a plane mirror, the plane mirror is in a predetermined direction by indicating a part of the omnidirectional image. The detailed image corresponding to the instructed position can be taken.
[0061]
Furthermore, it is also possible to display a detailed image by a plane mirror superimposed on an omnidirectional image.
Furthermore, when a configuration in which the above effects can be easily performed manually without using power such as an actuator, it can be realized with a simple and inexpensive configuration.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of an image input apparatus according to a first embodiment.
FIG. 2 is a plan view of the image input apparatus according to the embodiment;
FIG. 3 is an explanatory diagram of the positional relationship of the camera unit according to the embodiment;
FIG. 4 is an explanatory diagram of a difference in angle of view of different reflecting mirrors of the embodiment
FIG. 5 is a flowchart showing the operation of the embodiment.
FIG. 6 is an explanatory diagram of an image captured by a reflecting mirror having a different shape in the embodiment.
FIG. 7 is an explanatory diagram showing a synthesis result of images picked up by reflecting mirrors having different shapes in the embodiment;
FIG. 8 is an explanatory diagram of the image input apparatus according to the embodiment;
FIG. 9 is a configuration diagram of an image input device according to a second embodiment.
FIG. 10 is a configuration diagram of an image input apparatus according to the embodiment;
FIG. 11 is a flowchart showing the operation of the embodiment.
FIG. 12 is an explanatory diagram of the operation of the camera unit according to the embodiment;
FIG. 13 is an explanatory diagram of a captured image according to the embodiment;
FIG. 14 is an explanatory diagram showing a composite image of the embodiment
FIG. 15 is an explanatory diagram of an image input apparatus according to the third embodiment.
FIG. 16 is an explanatory diagram of a use state of the embodiment
[Explanation of symbols]
1 Camera unit
2 Image sensor
3 Imaging lens
4 Optical axis of imaging lens
5a First reflector
5b Second reflector
6 Holding member
7 Rotating device
8 Protection members
9 Camera base
10 Transparent holding material
11 Image storage device
12 Geometric transformation device
13 Synthesis processing device
14 Display device
15 Control device
16a, 16b Hyperboloid internal focus
17 Main point of imaging lens 3
18 rotation center axis
100 camera section
101 Flat mirror
102 Flat mirror holding member
103 Hyperboloid mirror
104 Flat mirror rotating device
105 Holding member
106 Rotating device
107 Image processing apparatus
108 Input device
109 Controller

Claims (12)

画像撮像素子と、
結像光学系と、
互いに異なる形状を有する複数の反射面と、
前記複数の反射面から任意の反射面を選択する選択手段と
を設け、
前記選択手段により選択した任意の反射面と前記結像光学系とが共働して前記結像光学系の光軸回りの画像を前記画像撮像素子に結像する
画像入力装置。
An image sensor;
An imaging optical system;
A plurality of reflecting surfaces having different shapes,
Selecting means for selecting an arbitrary reflecting surface from the plurality of reflecting surfaces;
An image input device that forms an image around the optical axis of the imaging optical system on the image pickup element by cooperation between an arbitrary reflecting surface selected by the selection means and the imaging optical system.
前記選択手段により選択された反射面を検出する検出手段と、
前記検出手段の出力に応じて前記画像撮像素子から出力された画像を幾何変換処理する変換処理手段とを設けた
請求項1記載の画像入力装置。
Detecting means for detecting the reflecting surface selected by the selecting means;
The image input apparatus according to claim 1, further comprising: a conversion processing unit that performs a geometric conversion process on the image output from the image pickup device in accordance with the output of the detection unit.
前記選択手段により前記複数の反射面から選択する第一の反射面を、前記結像光学系の光軸上かつ前記画像撮像素子の結像面に相対する位置に配置し、前記第一の反射面とは異なる形状の第二の反射面を、前記結像光学系の光軸上かつ前記第一の反射面の背面位置に配置して保持する保持手段と、
前記第一の反射面の位置と前記第二の反射面の位置を逆転させる反転手段を有する
請求項1記載の画像入力装置。
A first reflecting surface selected from the plurality of reflecting surfaces by the selecting means is disposed on the optical axis of the imaging optical system and at a position facing the imaging surface of the image pickup device, and the first reflecting surface is arranged. A holding means for holding the second reflecting surface having a shape different from the surface on the optical axis of the imaging optical system and at the back position of the first reflecting surface;
The image input apparatus according to claim 1, further comprising a reversing unit that reverses the position of the first reflecting surface and the position of the second reflecting surface.
前記反転手段は、前記保持手段を前記結像光学系の光軸に垂直な軸回りに回転する回転機構である
請求項3記載の画像入力装置。
The image input device according to claim 3, wherein the reversing unit is a rotation mechanism that rotates the holding unit around an axis perpendicular to the optical axis of the imaging optical system.
前記複数の反射面の第一の反射面は、前記結像光学系の光軸回りの全方向の画像を、前記画像撮像素子上に、ほぼ同心円状に結像する軸回転対称面である
請求項1記載の画像入力装置。
The first reflecting surface of the plurality of reflecting surfaces is an axially rotationally symmetric surface that forms an image in all directions around the optical axis of the imaging optical system in an approximately concentric manner on the image pickup device. Item 2. The image input device according to Item 1.
前記複数の反射面の第二の反射面は、前記第一の反射面と異なる曲率を有し、前記結像光学系の光軸方向において前記第一の反射面と異なる画角の全方向の画像を前記画像撮像素子上に、ほぼ同心円状に結像する軸回転対称面である
請求項5記載の画像入力装置。
The second reflecting surface of the plurality of reflecting surfaces has a curvature different from that of the first reflecting surface, and has an angle of view different from that of the first reflecting surface in the optical axis direction of the imaging optical system. The image input device according to claim 5, wherein the image input device is an axially rotationally symmetric surface that forms an image substantially concentrically on the image pickup device.
前記第一の反射面が第一の双曲面であり、前記第二の反射面が前記第一の双曲面と異なる曲率の第二の双曲面であり、前記選択手段により、前記第一の反射面を選択した時の前記第一の双曲面の内部焦点の位置と、前記第二の反射面を選択した時の前記第二の双曲面の内部焦点の位置とが略一致する
請求項6記載の画像入力装置。
The first reflecting surface is a first hyperboloid, the second reflecting surface is a second hyperboloid having a curvature different from that of the first hyperboloid, and the first reflecting surface is selected by the selecting means. 7. The position of the internal focal point of the first hyperboloid when the surface is selected and the position of the internal focal point of the second hyperboloid when the second reflecting surface is selected are substantially the same. Image input device.
前記第一の反射面を選択した時の前記第一の双曲面により結像した第一の画像と前記第二の反射面を選択した時の前記第二の双曲面により結像した第二の画像とを記憶する記憶手段と、
前記記憶手段に記憶された前記第一の画像および第二の画像を、幾何変換し、1視点からの画像に変換する幾何変換手段と、
前記変換処理手段により変換された第一の画像および第二の画像を合成処理する合成処理手段と
を設けた請求項7記載の画像入力装置。
The first image formed by the first hyperboloid when the first reflecting surface is selected and the second image formed by the second hyperboloid when the second reflecting surface is selected Storage means for storing images;
Geometric conversion means for geometrically converting the first image and the second image stored in the storage means to convert the image into an image from one viewpoint;
The image input apparatus according to claim 7, further comprising a synthesis processing unit that performs a synthesis process on the first image and the second image converted by the conversion processing unit.
前記複数の反射面の第二の反射面は、前記結像光学系の光軸回りの単一方向からの画像を、前記画像撮像素子上に結像する反射面である
請求項5記載の画像入力装置。
The image according to claim 5, wherein the second reflecting surface of the plurality of reflecting surfaces is a reflecting surface that forms an image from a single direction around the optical axis of the imaging optical system on the image pickup device. Input device.
前記複数の反射面の第二の反射面を駆動し、前記結像光学系の光軸回りの任意の方向からの画像を前記画像撮像素子上に結像させる方向選択手段を設けた
請求項9記載の画像入力装置。
10. A direction selecting unit that drives a second reflecting surface of the plurality of reflecting surfaces and forms an image on an image pickup element from an arbitrary direction around an optical axis of the imaging optical system. The image input device described.
前記複数の反射面の第一の反射面を用いて前記画像撮像素子に結像した前記結像光学系の光軸回りの全方向の画像を表示する表示手段と、
前記表示手段に表示された表示画像の任意の領域を指示する指示手段と、
前記方向選択手段が前記指示手段により指示された前記表示画像の領域に一致する方向からの画像を前記第二の反射面により前記画像撮像素子上に結像するように制御する制御手段と
を設けた請求項10記載の画像入力装置。
Display means for displaying an omnidirectional image around the optical axis of the imaging optical system formed on the image pickup element using the first reflecting surface of the plurality of reflecting surfaces;
Instruction means for instructing an arbitrary area of the display image displayed on the display means;
Control means for controlling the direction selecting means to form an image on the image pickup element by the second reflecting surface from a direction coinciding with the area of the display image indicated by the instruction means; The image input device according to claim 10.
前記第一の反射面を用いて前記画像撮像素子上に結像した第一の画像を記憶する記憶手段と、
前記記憶手段に記憶した第一の画像を幾何変換した変換画像を生成し、前記制御手段により制御された前記第二の反射面により前記画像撮像素子上に結像した第二の画像を前記変換画像に重ねる画像処理手段と
を設けた請求項11記載の画像入力装置。
Storage means for storing a first image formed on the image pickup device using the first reflecting surface;
A converted image obtained by geometrically converting the first image stored in the storage unit is generated, and the second image formed on the image pickup device by the second reflecting surface controlled by the control unit is converted. The image input device according to claim 11, further comprising image processing means for superimposing the image.
JP2000069575A 2000-03-14 2000-03-14 Image input device Expired - Fee Related JP4326104B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000069575A JP4326104B2 (en) 2000-03-14 2000-03-14 Image input device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000069575A JP4326104B2 (en) 2000-03-14 2000-03-14 Image input device

Publications (2)

Publication Number Publication Date
JP2001257914A JP2001257914A (en) 2001-09-21
JP4326104B2 true JP4326104B2 (en) 2009-09-02

Family

ID=18588423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000069575A Expired - Fee Related JP4326104B2 (en) 2000-03-14 2000-03-14 Image input device

Country Status (1)

Country Link
JP (1) JP4326104B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3841621B2 (en) * 2000-07-13 2006-11-01 シャープ株式会社 Omnidirectional visual sensor
JP3979522B2 (en) 2002-02-21 2007-09-19 シャープ株式会社 Camera device and monitoring system
JP5287706B2 (en) 2009-12-25 2013-09-11 ソニー株式会社 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM
JP4819960B1 (en) * 2010-08-24 2011-11-24 暁 吉井 Full-field projection device and full-field image system
JP2014164216A (en) * 2013-02-27 2014-09-08 Omron Corp Wide-angle imaging device
CN105527782A (en) * 2015-02-13 2016-04-27 福州瑞芯微电子股份有限公司 Portable electronic equipment, image shooting structure of portable electronic equipment, and method for obtaining images
CN106550181B (en) * 2016-11-09 2020-01-03 华为机器有限公司 Camera module and terminal equipment
EP3955562A4 (en) 2019-05-05 2022-06-15 Huawei Technologies Co., Ltd. Camera module, terminal device, imaging method and imaging apparatus

Also Published As

Publication number Publication date
JP2001257914A (en) 2001-09-21

Similar Documents

Publication Publication Date Title
JP6322753B2 (en) Wide-angle (FOV) imaging device with active foveal capability
JP3841621B2 (en) Omnidirectional visual sensor
JP5514072B2 (en) Imaging device that enables capturing landscape images at different resolutions
US6734911B1 (en) Tracking camera using a lens that generates both wide-angle and narrow-angle views
US7298548B2 (en) Multi-directional viewing and imaging
JP2001526471A (en) Omnidirectional imaging device
JPH08125835A (en) Omniazimuth photographing device and omniazimuth image synthesizer
JP4326104B2 (en) Image input device
TW522254B (en) A wide-angle camera device
JP2000165738A (en) Image pickup device
JP3467785B2 (en) Display system and imaging device
JPH114373A (en) Method and system for configurating full circumference panorama image
JPH1054939A (en) Reflection type viewing angle converting optical device and optical system using the device
US7253969B2 (en) Spherical and nearly spherical view imaging assembly
JP2003005273A (en) Imaging device
KR101873987B1 (en) A multiscale imaging system
JP2001257924A (en) Wide view angle image pickup device
JP2000358174A (en) Image input system
KR101957353B1 (en) Multiscale Imaging system with mirror rotation
KR101815696B1 (en) Divisional Imaging System
KR101957357B1 (en) Multiscale Imaging system using one mirror
JP2002262157A (en) Multiple focus omnidirectional image pickup device
JP3526805B2 (en) Objective mirror and wide-angle image input device
KR101819977B1 (en) Dual Lens Multiscale Imaging System
JP2010237284A (en) Vision system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090512

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090609

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees