JP4650367B2 - 動き検出用撮像装置 - Google Patents

動き検出用撮像装置 Download PDF

Info

Publication number
JP4650367B2
JP4650367B2 JP2006203443A JP2006203443A JP4650367B2 JP 4650367 B2 JP4650367 B2 JP 4650367B2 JP 2006203443 A JP2006203443 A JP 2006203443A JP 2006203443 A JP2006203443 A JP 2006203443A JP 4650367 B2 JP4650367 B2 JP 4650367B2
Authority
JP
Japan
Prior art keywords
image
lens
images
solid
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006203443A
Other languages
English (en)
Other versions
JP2008034948A (ja
Inventor
良純 中尾
孝 豊田
康生 政木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Funai Electric Co Ltd
Original Assignee
Funai Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Funai Electric Co Ltd filed Critical Funai Electric Co Ltd
Priority to JP2006203443A priority Critical patent/JP4650367B2/ja
Priority to US11/828,827 priority patent/US7619653B2/en
Priority to CN200710136974.2A priority patent/CN100521747C/zh
Priority to EP07014695.6A priority patent/EP1883223B9/en
Publication of JP2008034948A publication Critical patent/JP2008034948A/ja
Application granted granted Critical
Publication of JP4650367B2 publication Critical patent/JP4650367B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Optical Elements Other Than Lenses (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、動き検出用撮像装置に関する。
固体撮像素子上に時間差をもって撮像される画像同士の差分を算出し、算出した差分に基づいて被写体の動きを検出する動き検出装置が知られている(例えば、特許文献1参照)。また、ディジタル化した画像同士の差分に基づいて移動物体の検出を行う装置が知られている(例えば、特許文献2乃至特許文献4参照)。
一方、イメージセンサの受光面が複数領域に分割され、その複数領域に被写体の像を順次露光させ、複数領域の画像を一括して読出すことによって連写の時間間隔を短くするように構成された電子スチルカメラが知られている(例えば、特許文献5参照)。
また、フィルム前方にフィルムの1フレーム内に収まるように4個の撮影レンズが配置され、撮影レンズの前面を順次通過するようにスリット部材が設けられて、フィルムの1フレーム内に連続した複数コマの映像が記録されるように構成されたカメラが知られている(例えば、特許文献6参照)。
特開2003−32552号公報 特開2001−177836号公報 特開平8−106534号公報 特開2004−171431号公報 特開平11−352550号公報 特許第2524818号公報
上記特許文献1に記載されたような動き検出装置の実際上の用途としては、監視カメラ装置とか自動車の後方確認装置が挙げられる。いずれの装置においても動きが検出可能な範囲は極力広い方が望ましい。例えば壁面に設けられた1台の監視カメラによって室内の全域に及ぶ広い領域(被写領域)が監視できることが、システムを簡素にする上において、及び設備コスト上望ましい。
ところが、上記のように1台の監視カメラによって室内のほぼ全域を撮像できるようにするためには、少なくとも120°以上の画角を有する光学レンズを用いなければならない。一般的に光学レンズの画角が60°を大きく超えるようになると、魚眼レンズに代表されるように撮像した画像に樽状の歪が生じ、その歪をディジタル的に補正するための複雑な処理プログラムが必要になる。
また、例えば画角が60°以内の光学レンズを有する監視カメラによって120°以上の領域を監視するためには、監視カメラが2台以上必要になるし、各監視カメラの被写領域同士の間に撮像されない領域が生じないように調整が必要になる。つまり、簡素な構成で広い領域を撮像でき、動きの検出が可能な撮像装置は未だ実現されていない。
一方、動きを検出するためには、時間差をもって撮像された複数枚の画像が必要であり、従来の監視カメラ等においては、時間差をもった撮像を行うためにシャッタを所定の時間間隔で開閉動作させることによって行っていたが、シャッタの動作間隔が長い(フレームレートが遅い)場合には早い速度で移動する被写体(例えば、走行する自動車)の動きを検出できない可能性が高くなるという問題があった。
そこで、本発明は、画角が60°を大きく超える光学レンズを使用することなく極力簡素な光学系により広角の被写領域が撮像可能な装置を構成でき、しかも容易に短い時間間隔で動き検出のための複数の画像を撮像することができて、早い速度で移動する被写体に対しても検出確率が低下しないようにできる動き検出用撮像装置を提供することを目的とする。
上記目的を達成するために、請求項1の発明は、単位画素が行列状に配置された固体撮像素子と、被写領域からの光を集光して前記固体撮像素子上に結像させるレンズ光学系とを備え、前記固体撮像素子上に結像される画像を時間差をもって撮像し、撮像した複数の画像の差分に基づいて画像中の被写体の動きを検出する動き検出用撮像装置において、前記レンズ光学系が、前記被写領域の正面略40°の範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿って配置された3つの光学レンズ(以下、センタレンズという)と、前記被写領域のうち左右略40°の範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿い前記センタレンズの左右に配置された3つの光学レンズ(以下、サイドレンズという)を有する光学レンズアレイと、前記左右のサイドレンズの光入射側において、前記被写領域の正面略40°の範囲から入射する光を遮らないように前記各サイドレンズに対して設けられ、前記被写領域のうち左右略40°の範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内する左右の45°直角プリズムと、を備え、前記固体撮像素子が、前記センタレンズと前記サイドレンズにより結像される9つの画像(以下、個眼像という)をそれぞれ撮像する3行3列の個眼像撮像エリアを備え、さらに、前記固体撮像素子を構成する単位画素の行方向に沿った前記個眼像撮像エリア(以下、行方向個眼像撮像エリアという)ごとに時間差をもたせて前記固体撮像素子に個眼像を撮像させるローリングシャッタ手段と、前記ローリングシャッタ手段によって時間差をもって撮像された、行方向個眼像撮像エリアごとの3つの個眼像を、前記センタレンズによって結像された個眼像を正面略40°の被写領域の画像とし、前記サイドレンズによって結像された左右の個眼像をそれぞれ左右略40°の被写領域の画像として合成して画角が120°以上の広角画像に再生する画像合成手段と、前記画像合成手段によって前記行方向個眼像撮像エリアごとに再生された広角画像同士の差分に基づいて前記広角画像中の被写体の動きを検出する動き検出手段と、を備え、前記ローリングシャッタ手段による1回のシャッタ動作によって時間差を有する複数枚の広角画像が再生され、それら複数枚の広角画像に基づいて120°以上の広い範囲の被写領域内の被写体の動きが検出されることを特徴とする。
請求項2の発明は、単位画素が行列状に配置された固体撮像素子と、被写領域からの光を集光して前記固体撮像素子上に結像させるレンズ光学系とを備え、前記固体撮像素子上に結像される画像を時間差をもって撮像し、撮像した複数の画像の差分に基づいて画像中の被写体の動きを検出する動き検出用撮像装置において、前記レンズ光学系が、前記被写領域の正面の所定範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿って配置された複数の光学レンズ(以下、センタレンズという)と、前記被写領域のうち左右の所定範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿って前記センタレンズの左右に配置された複数の光学レンズ(以下、サイドレンズという)を有する光学レンズアレイと、前記左右のサイドレンズの光入射側に設けられ、前記被写領域のうち左右の所定範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内するプリズム又はミラーと、を備え、前記固体撮像素子が、前記センタレンズと前記サイドレンズにより結像される複数の画像(以下、個眼像という)をそれぞれ撮像する個眼像撮像エリアを備え、さらに、前記固体撮像素子を構成する単位画素の行方向に沿った前記個眼像撮像エリア(以下、行方向個眼像撮像エリアという)ごとに時間差をもたせて前記固体撮像素子に個眼像を撮像させるローリングシャッタ手段と、前記ローリングシャッタ手段によって時間差をもって撮像された、各行方向個眼像撮像エリアごとの複数の個眼像を、前記センタレンズによって結像された個眼像を被写領域正面の画像とし、前記サイドレンズによって結像された左右の個眼像をそれぞれ被写領域左右の画像として合成して1枚の広角画像に再生する画像合成手段と、前記画像合成手段によって前記行方向個眼像撮像エリアごとに再生された複数の広角画像同士の差分に基づいて画像中の被写体の動きを検出する動き検出手段と、を備え、前記ローリングシャッタ手段による1回のシャッタ動作によって時間差を有する複数枚の広角画像が再生され、それら複数枚の広角画像に基づいて広い範囲の被写領域内の被写体の動きが検出されることを特徴とする。
請求項3の発明は、請求項2の発明において、前記左右のサイドレンズの光入射側に設けられ、前記被写領域のうち左右の所定範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内するプリズムが45°直角プリズムであることを特徴とする。
請求項4の発明は、請求項2の発明において、前記左右のサイドレンズの光入射側に設けられ、前記被写領域のうち左右の所定範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内するプリズムが60°−30°直角プリズムであることを特徴とする。
本発明によれば、レンズ光学系が、被写領域の正面方向からの光を集光するセンタレンズと、被写領域の左右方向からの光を集光する左右列のサイドレンズを有する光学レンズアレイと、被写領域の左右方向からの光をサイドレンズに案内するプリズム又はミラーとを備えるので、画角が60°を大きく超える光学レンズを使用することなく簡素な光学系により広角の被写領域を撮像可能な装置を構成でき、しかも各光学レンズによって結像される個眼像を行方向ごとに時間差をもたせて撮像させるローリングシャッタ手段と、行方向ごとの複数の個眼像を広角画像に再生する画像合成手段と、広角画像同士の差分に基づいて被写体の動きを検出する動き検出手段とを備えるので、1回のシャッタ動作で容易に短い時間間隔の複数の画像を撮像することができて、早い速度で移動する被写体に対しても極力検出確率が低下しないようにできる。
(第1の実施形態)
以下、本発明の第1の実施形態に係る動き検出用撮像装置について、図1乃至図8を参照して説明する。本実施形態の動き検出用撮像装置1は、図1に示されるように、単位画素uが行列状(X、Y方向)に多数配置された固体撮像素子2と、前方120°の被写領域からの光を集光して固体撮像素子2上に結像させるレンズ光学系3と、固体撮像素子2上の結像を画像情報として読出して元の120°の範囲の広角画像に再生し、時間差をもって撮像された複数の広角画像間の差分に基づいて被写体の動きを検出する動き検出回路4と、動き検出回路4によって再生される広角画像等を表示する液晶パネル等の表示装置5とを備える。
固体撮像素子2は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサから構成され、回路基板6上に固定されている(図2参照)。動き検出回路4は、固体撮像素子2からの画像情報の読出しタイミングを所定のタイミングに制御するタイミング信号を生成するタイミングジェネレータ(ローリングシャッタ手段)7と、ADコンバータ8を介して固体撮像素子2から読出される画像情報をディジタル信号として処理するDSP(Digital Signal Processor)9と、DSP9によって処理される画像情報に画像処理を施して複数の広角画像に再生し、各広角画像間の差分画像を生成することによって被写体の動きを検出するマイクロプロセッサ(画像合成手段、動き検出手段)11を備える。
なお、固体撮像素子2はCMOSイメージセンサにより構成され、タイミングジェネレータ7によって生成されるタイミング信号に基づいて固体撮像素子2からの画像情報の読出しが行われるので、固体撮像素子2からの読出しタイミングが固体撮像素子2による撮像タイミングに相当する。また、動き検出回路4を構成するタイミングジェネレータ7、ADコンバータ8、DSP9及びマイクロプロセッサ11は、回路基板6上に実装されている。DSP9及びマイクロプロセッサ11による具体的な処理内容については、後に詳述する。
次に、レンズ光学系3について、図1乃至図4を参照して説明する。本実施形態のレンズ光学系3は、光軸Lが互いに平行な3行3列の9個の光学レンズ12が1枚の透明基板13に一体的に形成された光学レンズアレイ14と、光学レンズアレイ14の光入射側において、左右の列の光学レンズ12にそれぞれ対向して配置された45°直角プリズム15と、光学レンズアレイ14を固体撮像素子2及び回路基板6に対して固定支持するレンズホルダ16と、45°直角プリズム15をレンズホルダ16に対して固定支持するプリズムホルダ17と、光学レンズ12と固体撮像素子2間の空間を各光学レンズ12ごとに画成する隔壁部材18と、赤外線カットフィルタ19を備える。
光学レンズ12の行列状配置は、固体撮像素子2の単位画素uの行列状配置と平行に構成される。つまり、光学レンズ12は、図1におけるX方向(行方向)及びY方向(列方向)に沿って配置される。また、9個の光学レンズ12は、全て40°の画角を有する。
45°直角プリズム15は、断面が直角二等辺三角形であり、図2に示されるように、光学レンズアレイ14に対して傾斜して配置される。傾斜角度等の具体的な配置については、後に詳述する。なお、各45°直角プリズム15と光学レンズアレイ14の間にはレンズホルダ16に開けられた開口16aによって構成される絞りが配置される。また、光学レンズ12は、透明基板13に一体的に形成されたものではなく、レンズホルダ16によって2次元平面(図1におけるXY平面)上に支持されたものであってもよい。
光学レンズアレイ14の中央の列の3個の光学レンズ(以下、センタレンズという)12aは、被写領域の正面略40°の範囲から入射する光を直接受光し、左右の列の各3個の光学レンズ(以下、サイドレンズという)12b、cは、被写領域の左右のそれぞれ略40°の範囲から入射する光を45°直角プリズム15を介して受光する。
45°直角プリズム15は、直角を挟む2つの辺15a、15bのうち外側向きの一辺15aから光が入射し、入射した光が斜辺15cによって反射されて他の一辺15bから出射するように配置される。なお、本明細書においては、プリズムの光が入射する面、光が出射する面等を、光の進行経路を示す側面図と対比させて説明する都合上、「一辺」、「斜辺」等の用語を用いて示す。
具体的には、45°直角プリズム15は、図4に示されるように、サイドレンズ12b、cに対向する一辺15bが光学レンズアレイ14に対して25°の角度に傾斜するように配置され、斜辺15cが光学レンズアレイ14に対して70°の角度に傾斜するように配置される。これによって、センタレンズ12aから向かって正面方向への略40°の範囲には、45°直角プリズム15が存在せず、センタレンズ12aへ入射する光が遮られないように構成される。
また、45°直角プリズム15の直角を挟む2つの辺15a、15bのうち外側向きの一辺15aから入射する光のうち略40°の角度の範囲の光がサイドレンズ12b、cによって集光され、固体撮像素子2上に結像される。
次に固体撮像素子2と固体撮像素子2上に結像される像について、図5を参照して説明する。固体撮像素子2は、光学レンズ12a、b、cにより結像される9つの画像21(以下、個眼像という)をそれぞれ撮像する3行3列の個眼像撮像エリア2aを備える。センタレンズ12aによって結像される中央の列の個眼像21は、上下及び左右が反転され、左右のサイドレンズ12b、cによって結像される左右の列の個眼像21は、サイドレンズ12b、c及び45°直角プリズム15によって上下が反転される。
さらに、図6及び図7を参照して詳細に説明する。図6に示された固体撮像素子2上の像は、被写体側から見た像である。いま、動き検出用撮像装置1の前方に、図5に示されるように120°の被写領域Bに亘って40°ごとの等間隔に「L」「C」「R」と表示された被写体が配置されている場合を想定する。この場合、中央の「C」(中央40°の領域)は、センタレンズ12aによって上下及び左右が反転されて中央の列の個眼像撮像エリア2aに上下3個の個眼像21として結像される(被写体側から見た像としては、図6に示されるように上下が反転された像になる)。
また、左の「L」(左側40°の領域)と右の「R」(右側40°の領域)は、45°直角プリズム15によって左右反転された後にそれぞれサイドレンズ12b、cによって上下及び左右が反転されて左右の列の個眼像撮像エリア2aにそれぞれ上下3個の個眼像21として結像される(被写体側から見た像としては、図6に示されるように上下及び左右が反転された像になる)。
これら9個の個眼像21の画像情報が、タイミングジェネレータ7によって生成される所定のタイミング信号に基づいて行方向に沿った個眼像撮像エリア(以下、行方向個眼像撮像エリア2A、2B、2Cという)ごとに時間差をもって読出される。具体的には、図6に示されるように、最初に固体撮像素子2を構成する一隅の単位画素u1が読出され、続いて行方向(X方向)の単位画素u2、u3・・が順に行の最後まで読出され、1行分の単位画素uの読出しが終了すると、次に2行目の単位画素uの読出しが行われる。このようにして、固体撮像素子2の対向する一隅の単位画素uxまで順に読出される。図6の右側に読出しタイミングの流れが矢印で示される。なお、固体撮像素子2を構成する有効な全ての単位画素u1、u2・・uxの読出しが、1回のシャッタ動作によって行われる。
上記のようにして読出された9個の個眼像21は、図7の左側に示されるように、元の被写体に対して左右の領域の個眼像21が逆の位置になっており、かつそれらの画像自体が左右反転している。この画像情報が、マイクロプロセッサ11によって、左右の領域の個眼像21の位置を入替えられると共に、画像自体が左右反転されて図7の右側に示されるように元の被写体を正確に再現する広角画像PA、PB、PCに再生される。
具体的には、マイクロプロセッサ11は、まず左右反転された「L」(左側40°領域の画像)と「R」(右側40°領域の画像)の個眼像21の位置を入替えた後、各個眼像21をミラー反転して正常な画像に戻し、その正常に戻した画像「L」と「R」を、中央40°領域の画像「C」と合成して120°の広角画像PA、PB、PCに再生する。マイクロプロセッサ11は、上記処理を、行方向個眼像撮像エリア2A、2B、2Cごとに行い、3つの広角画像PA、PB、PCを再生する。
このとき、各個眼像撮像エリア2aは、略40°の領域の画像であるので接合部の重なり部分をほとんど生じることなく中央と左右の画像21が接合される。また、光学レンズ12a、b、cは、画角40°のレンズであるので各個眼像21の外周部の歪はほとんど生じず、画像同士の接合時に各画像に対する複雑な歪補正の処理が必要とされることがない。
行方向個眼像撮像エリア2A、2B、2Cごとに再生された3つの広角画像PA、PB、PCは、固体撮像素子2からの読出しのタイミングが上述のようにして時間差をつけられているので、広角画像PA、広角画像PB、広角画像PCの順で時間の流れに沿った被写体の状態を示す。
上記の例では、被写体の「L」「C」「R」が静止しているので、再生された3つの広角画像PA、PB、PCは全く同一の画像になるが、被写体が動きのあるものであった場合には、再生された広角画像は、被写体の動きを反映して少しずつ異なった画像になる。
いま、被写領域Bの左方から右方へ走行する自動車Mが動き検出用撮像装置1によって撮像されたとすると、図8の左側に示される3つの広角画像PA、PB、PCが再生される。これらの画像は、広角画像PA、広角画像PB、広角画像PCの順で時間経過に沿った被写体の状態が撮像された画像になる。
マイクロプロセッサ11は、次にディジタル的に広角画像PCから広角画像PAを引き算して差分の画像PD(図8の右側)を作成する。この処理によって広角画像PAと広角画像PCとの間の相違部分Maが反転し自動車Mが暗色で再生される。従って、マイクロプロセッサ11は、差分画像PDにおける暗色部分の有無によって被写体の動きを判別する。なお、再生される広角画像PA、PB、PCは3つであるので、マイクロプロセッサ11は、広角画像PAと広角画像PB同士、又は広角画像PBと広角画像PC同士の差分を作成し、それらの差分画像に基づいて動きを検出するようにしてもよい。
以上のように、本実施形態の動き検出用撮像装置1においては、レンズ光学系が3行3列の光学レンズ12a、b、cを有する光学レンズアレイ14と、左右の列の光学レンズ12b、cに対向して設けられた45°直角プリズム15とから構成されるので構造が簡素であり、装置全体を容易に小型にできる。
また、1回のシャッタ動作(固体撮像素子2の有効な単位画素u1〜uxが読出される動作)によって、時間差を有する3つの広角画像PA、PB、PCが再生され、それらの広角画像PA、PB、PC間の差分に基づいて略120°の被写領域B内の被写体の動きが検出されるので、容易に短い時間間隔で複数の画像を撮像することができ、被写体が自動車Mのように早い速度で移動するものであっても高い確率で検出することができる。
従って、本実施形態の動き検出用撮像装置1を自動車の後部に付設される後部確認装置として用いる場合に、小型でありながら自動車後方の広い範囲の被写領域を監視することができ、早い速度で移動する自動車等を高い確率で検出することができる。
(第2の実施形態)
次に、第2の実施形態について図9を参照して説明する。第2の実施形態の動き検出用撮像装置1は、第1の実施形態におけるレンズ光学系3の45°直角プリズム15が60°−30°直角プリズム215に変更されたものであり、その他の部分は同一であるので、レンズ光学系についてのみ説明する。
第2の実施形態におけるレンズ光学系203は、図9に示されるように左右のサイドレンズ12b、cに対向して60°−30°直角プリズム215が配置される。60°−30°直角プリズム215は、断面が直角三角形であり、直角に対向する2つの角が60°と30°に形成されたプリズムである。
60°−30°直角プリズム215は、直角を挟む2つの辺215a、215bのうちの短辺215bが光学レンズアレイ14に対して平行であり、直角を挟む長辺215aが外側向きに垂直になるように配置される。従って、斜辺215cは、光学レンズアレイ14に対して60°の傾斜を有する。そして、被写領域120°のうちの左右40°の範囲からの光が60°−30°直角プリズム215の長辺215aから入射し、斜辺215cによって反射され、短辺215bから出射してサイドレンズ12b、cによって集光され、固体撮像素子2上に左右略40°の範囲の画像として結像される。
そして、第1の実施形態と同様に、サイドレンズ12b、cによって結像された左右略40°の範囲の画像(個眼像)21と、センタレンズ12aによって結像された中央略40°の範囲の画像(個眼像)21が、マイクロプロセッサ11によって略120°の範囲の広角画像PA、PB、PCに再生され、広角画像PA、PB、PC間の差分に基づいて被写体の動きが検出される。
この第2の実施形態においても、60°−30°直角プリズム215の斜辺215cは、光学レンズアレイ14に対して60°の傾斜を有するので、センタレンズ12aから向かって正面方向への略40°の範囲には、60°−30°直角プリズム215が存在せず、センタレンズ12aへ入射する光が遮られない。
また、各個眼像21は、第1の実施形態と同様に、略40°の領域の画像であるので接合部の重なり部分を大きく生じることなく中央と左右の画像(個眼像)21が接合され、各画像21の外周部の歪がほとんど生じないので複雑な歪補正の処理が必要とされることがない。
(第3の実施形態)
次に、第3の実施形態について図10を参照して説明する。第3の実施形態の動き検出用撮像装置1は、第1の実施形態におけるレンズ光学系3の45°直角プリズム15が正三角形プリズム315に変更され、各光学レンズ12a、b、cが60°の画角を有するものに変更されたものである。これによって被写領域が略180°に広げられている。その他の部分については、第1の実施形態と同一であるのでレンズ光学系についてのみ説明する。
第3の実施形態におけるレンズ光学系303は、図10に示されるように左右のサイドレンズ12b、cに対向して正三角形プリズム315が配置される。正三角形プリズム315は、断面が正三角形のプリズムである。
正三角形プリズム315は、一辺315bが光学レンズアレイ14に対して平行になるように配置される。従って、内側向きの斜辺315cは、光学レンズアレイ14に対して60°の傾斜を有する。そして、略180°の被写領域の左右60°の範囲からの光が正三角形プリズム315の外側向きの斜辺315aから入射し、内側向きの斜辺315cによって反射され、光学レンズアレイ14に平行な辺315bから出射してサイドレンズ12b、cによって集光され、固体撮像素子2上に左右略60°の範囲の画像として結像される。
そして、第1の実施形態と同様に、サイドレンズ12b、cによって結像された左右略60°の範囲の画像(個眼像)21と、センタレンズ12aによって結像された中央略60°の範囲の画像(個眼像)21が、マイクロプロセッサ11によって略180°の範囲の広角画像PA、PB、PCに再生され、広角画像PA、PB、PC間の差分に基づいて被写体の動きが検出される。
この第3の実施形態において、正三角形プリズム315の内側向きの斜辺315cは、光学レンズアレイ14に対して60°の傾斜を有するので、センタレンズ12aから向かって正面方向への略60°の範囲には、正三角形プリズム315が存在せず、センタレンズ12aへ入射する光が遮られない。
なお、この第3の実施形態の場合には、左右の正三角形プリズム315に入射する光の角度範囲が60°よりも大きくなる可能性があり、各サイドレンズ12b、cによって結像される画像21の画角が60°よりも大きくなる可能性がある。その場合には、各画像21の接合部の重なり部分を大きくすることによって調整される。
また、この第3の実施形態の場合には、各光学レンズ12a、b、cが60°の画角を有するレンズで構成されるので、固体撮像素子2上の各個眼像21の外周部に歪が生じる可能性があるが、各光学レンズ12a、b、cを2枚又は3枚の組合せレンズによって構成することにより歪の大きさを実質的に支障がない程度に抑えることができる。
(第4の実施形態)
次に、第4の実施形態について、図11を参照して説明する。第4の実施形態の動き検出用撮像装置は、第1の実施形態におけるレンズ光学系3の45°直角プリズム15がミラーに変更されたものである。その他の部分については、第1の実施形態と同一であるのでレンズ光学系についてのみ説明する。
第4の実施形態におけるレンズ光学系403は、左右のサイドレンズ12b、cに対向する位置に光学レンズアレイ14に対して略30°の傾斜姿勢で第1のミラー415aが配置される。左右のサイドレンズ12b、cの外方位置には第1のミラー415aからサイドレンズ12b、cへの光路を遮らない位置に第2のミラー415bが配置される。センタレンズ12aから向かって正面方向への略40°の範囲には、ミラーが存在せず、被写領域からセンタレンズ12aへ入射する光が遮られない。
略120°の被写領域のうち左右40°の範囲からの光が第2のミラー415bと第1のミラー415aによって順に反射されて左右のサイドレンズ12b、cに入射し、固体撮像素子2上に左右40°の範囲の画像(個眼像)21として結像される。略120°の被写領域のうち中央の40°の範囲からの光は、直接センタレンズ12aに入射し、固体撮像素子2上に中央40°の範囲の画像(個眼像)21として結像される。
第1の実施形態と同様に、左右40°の範囲の画像(個眼像)21と中央40°の範囲の画像(個眼像)21が、マイクロプロセッサ11によって略120°の被写領域の広角画像PA、PB、PCに再生され、広角画像PA、PB、PC間の差分に基づいて被写体の動きが検出される。なお、この第4の実施形態の場合には、左右の範囲の画像21は、左右反転されないので、その分だけマイクロプロセッサ11による再生処理の手順が簡単化される。
なお、上記第1乃至第4の実施形態において、光学レンズアレイ14における光学レンズ12の配置は、3行3列に限られず、固体撮像素子2を構成する単位画素uの行列配置に平行に配置されたn行m列の配置であってもよい(nは2以上の整数、mは3以上の整数)。また、ローリングシャッタ手段は、タイミングジェネレータ7に限られず、マイクロプロセッサ11に内蔵されたタイミング信号の生成手段であってもよい。
本発明の第1の実施形態に係る動き検出用撮像装置の概略構成を示す図。 同動き検出用撮像装置におけるレンズ光学系と固体撮像素子を示す側断面図。 同動き検出用撮像装置におけるレンズ光学系の平面図。 同動き検出用撮像装置におけるレンズ光学系と光の進行経路を示す側面図。 同動き検出用撮像装置における固体撮像素子上に結像される像と被写体との関係を示す斜視図。 同動き検出用撮像装置における固体撮像素子上の個眼像の結像状態と画像情報の読出し順序を示す説明図。 同動き検出用撮像装置における固体撮像素子から読出された個眼像が3つの広角画像に再生される過程を示す説明図。 同動き検出用撮像装置における再生された3つの広角画像から差分画像が作成される過程を示す説明図。 本発明の第2の実施形態に係る動き検出用撮像装置のレンズ光学系と光の進行経路を示す側面図。 本発明の第3の実施形態に係る動き検出用撮像装置のレンズ光学系と光の進行経路を示す側面図。 本発明の第4の実施形態に係る動き検出用撮像装置のレンズ光学系と光の進行経路を示す側面図。
符号の説明
1 動き検出用撮像装置
2 固体撮像素子
2a 個眼像撮像エリア
2A、2B、2C 行方向個眼像撮像エリア
3、203、303、403 レンズ光学系
7 タイミングジェネレータ(ローリングシャッタ手段)
11 マイクロプロセッサ(画像合成手段、動き検出手段)
12 光学レンズ
12a センタレンズ
12b、12c サイドレンズ
14 光学レンズアレイ
15 45°直角プリズム
215 60°−30°直角プリズム
315 正三角形プリズム
415a 第1のミラー
415b 第2のミラー
21 個眼像
u、u1、u2・・ux 単位画素
B 被写領域
L 光軸
PA、PB、PC 広角画像
PD 差分画像(差分)

Claims (4)

  1. 単位画素が行列状に配置された固体撮像素子と、
    被写領域からの光を集光して前記固体撮像素子上に結像させるレンズ光学系とを備え、
    前記固体撮像素子上に結像される画像を時間差をもって撮像し、撮像した複数の画像の差分に基づいて画像中の被写体の動きを検出する動き検出用撮像装置において、
    前記レンズ光学系が、
    前記被写領域の正面略40°の範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿って配置された3つの光学レンズ(以下、センタレンズという)と、前記被写領域のうち左右略40°の範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿い前記センタレンズの左右に配置された3つの光学レンズ(以下、サイドレンズという)を有する光学レンズアレイと、
    前記左右のサイドレンズの光入射側において、前記被写領域の正面略40°の範囲から入射する光を遮らないように前記各サイドレンズに対して設けられ、前記被写領域のうち左右略40°の範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内する左右の45°直角プリズムと、を備え、
    前記固体撮像素子が、
    前記センタレンズと前記サイドレンズにより結像される9つの画像(以下、個眼像という)をそれぞれ撮像する3行3列の個眼像撮像エリアを備え、
    さらに、
    前記固体撮像素子を構成する単位画素の行方向に沿った前記個眼像撮像エリア(以下、行方向個眼像撮像エリアという)ごとに時間差をもたせて前記固体撮像素子に個眼像を撮像させるローリングシャッタ手段と、
    前記ローリングシャッタ手段によって時間差をもって撮像された、行方向個眼像撮像エリアごとの3つの個眼像を、前記センタレンズによって結像された個眼像を正面略40°の被写領域の画像とし、前記サイドレンズによって結像された左右の個眼像をそれぞれ左右略40°の被写領域の画像として合成して画角が120°以上の広角画像に再生する画像合成手段と、
    前記画像合成手段によって前記行方向個眼像撮像エリアごとに再生された広角画像同士の差分に基づいて前記広角画像中の被写体の動きを検出する動き検出手段と、を備え、
    前記ローリングシャッタ手段による1回のシャッタ動作によって時間差を有する複数枚の広角画像が再生され、それら複数枚の広角画像に基づいて120°以上の広い範囲の被写領域内の被写体の動きが検出されることを特徴とする動き検出用撮像装置。
  2. 単位画素が行列状に配置された固体撮像素子と、
    被写領域からの光を集光して前記固体撮像素子上に結像させるレンズ光学系とを備え、
    前記固体撮像素子上に結像される画像を時間差をもって撮像し、撮像した複数の画像の差分に基づいて画像中の被写体の動きを検出する動き検出用撮像装置において、
    前記レンズ光学系が、
    前記被写領域の正面の所定範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿って配置された複数の光学レンズ(以下、センタレンズという)と、前記被写領域のうち左右の所定範囲からの光が入射し、前記固体撮像素子を構成する単位画素の列方向に沿って前記センタレンズの左右に配置された複数の光学レンズ(以下、サイドレンズという)を有する光学レンズアレイと、
    前記左右のサイドレンズの光入射側に設けられ、前記被写領域のうち左右の所定範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内するプリズム又はミラーと、を備え、
    前記固体撮像素子が、
    前記センタレンズと前記サイドレンズにより結像される複数の画像(以下、個眼像という)をそれぞれ撮像する個眼像撮像エリアを備え、
    さらに、
    前記固体撮像素子を構成する単位画素の行方向に沿った前記個眼像撮像エリア(以下、行方向個眼像撮像エリアという)ごとに時間差をもたせて前記固体撮像素子に個眼像を撮像させるローリングシャッタ手段と、
    前記ローリングシャッタ手段によって時間差をもって撮像された、各行方向個眼像撮像エリアごとの複数の個眼像を、前記センタレンズによって結像された個眼像を被写領域正面の画像とし、前記サイドレンズによって結像された左右の個眼像をそれぞれ被写領域左右の画像として合成して1枚の広角画像に再生する画像合成手段と、
    前記画像合成手段によって前記行方向個眼像撮像エリアごとに再生された複数の広角画像同士の差分に基づいて画像中の被写体の動きを検出する動き検出手段と、を備え、
    前記ローリングシャッタ手段による1回のシャッタ動作によって時間差を有する複数枚の広角画像が再生され、それら複数枚の広角画像に基づいて広い範囲の被写領域内の被写体の動きが検出されることを特徴とする動き検出用撮像装置。
  3. 前記左右のサイドレンズの光入射側に設けられ、前記被写領域のうち左右の所定範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内するプリズムが45°直角プリズムであることを特徴とする請求項2に記載の動き検出用撮像装置。
  4. 前記左右のサイドレンズの光入射側に設けられ、前記被写領域のうち左右の所定範囲から入射する光を、前記各サイドレンズの光軸に一致するように屈曲させて前記各サイドレンズへ案内するプリズムが60°−30°直角プリズムであることを特徴とする請求項2に記載の動き検出用撮像装置。
JP2006203443A 2006-07-26 2006-07-26 動き検出用撮像装置 Expired - Fee Related JP4650367B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006203443A JP4650367B2 (ja) 2006-07-26 2006-07-26 動き検出用撮像装置
US11/828,827 US7619653B2 (en) 2006-07-26 2007-07-26 Motion detection imaging device
CN200710136974.2A CN100521747C (zh) 2006-07-26 2007-07-26 运动检测成像设备
EP07014695.6A EP1883223B9 (en) 2006-07-26 2007-07-26 Motion detection imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006203443A JP4650367B2 (ja) 2006-07-26 2006-07-26 動き検出用撮像装置

Publications (2)

Publication Number Publication Date
JP2008034948A JP2008034948A (ja) 2008-02-14
JP4650367B2 true JP4650367B2 (ja) 2011-03-16

Family

ID=38531739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006203443A Expired - Fee Related JP4650367B2 (ja) 2006-07-26 2006-07-26 動き検出用撮像装置

Country Status (4)

Country Link
US (1) US7619653B2 (ja)
EP (1) EP1883223B9 (ja)
JP (1) JP4650367B2 (ja)
CN (1) CN100521747C (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009286234A (ja) * 2008-05-28 2009-12-10 Funai Electric Co Ltd 車載用サイドビューカメラ
JP2010087598A (ja) * 2008-09-29 2010-04-15 Fujifilm Corp 撮影装置及び撮影制御方法ならびにそのプログラム、画像表示装置及び画像表示方法ならびにそのプログラム、撮影システム及びその制御方法ならびにそのプログラム
CN102171544B (zh) * 2008-10-02 2014-08-27 皇家飞利浦电子股份有限公司 包含胆甾型液晶混合物的光谱检测器
JP4618370B2 (ja) * 2008-12-08 2011-01-26 ソニー株式会社 撮像装置、撮像方法、およびプログラム
JP5353393B2 (ja) * 2009-04-07 2013-11-27 大日本印刷株式会社 画像処理装置及び画像処理方法等
GB2473636A (en) * 2009-09-18 2011-03-23 Sharp Kk Multiple view display comprising lenticular lens having regions corresponding to two different centres of curvature
US20140168415A1 (en) * 2012-12-07 2014-06-19 Magna Electronics Inc. Vehicle vision system with micro lens array
US10018510B2 (en) * 2013-04-22 2018-07-10 Excelitas Technologies Singapore Pte. Ltd. Motion and presence detector
JP6184271B2 (ja) * 2013-09-19 2017-08-23 キヤノン株式会社 撮像管理装置、撮像管理システムの制御方法およびプログラム
KR20190041501A (ko) * 2016-08-22 2019-04-22 노벨리스 인크. 마찰 교반 용접 및 관련 프로세스를 위한 부품 및 시스템
SG11201914041TA (en) * 2017-08-01 2020-01-30 Nat Univ Singapore Light deflection prism for mounting to a surface of a device, device, and method for altering a field of view of a camera
CN109688291B (zh) * 2017-10-19 2021-01-26 宏碁股份有限公司 物体追踪方法及系统
EP3776021A4 (en) * 2018-04-03 2021-12-22 National University of Singapore METHOD AND SYSTEM FOR RECORDING AN IMAGE USING AT LEAST ONE PRISM
JP2020042228A (ja) * 2018-09-13 2020-03-19 キヤノン株式会社 撮像装置
CN112468684A (zh) * 2019-09-09 2021-03-09 北京小米移动软件有限公司 摄像头模组和具有该摄像头模组的移动终端
WO2021050005A1 (en) * 2019-09-13 2021-03-18 National University Of Singapore A wide-angle composite multi-camera system and method for in-automotive vehicle recording and/or viewing
CN114096801B (zh) * 2020-04-24 2023-10-20 达闼机器人股份有限公司 镜头模块和物体探测装置
CN114051088B (zh) * 2022-01-12 2022-03-25 四川大学 一种基于视场分解的高速摄像模组拍摄方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003143459A (ja) * 2001-11-02 2003-05-16 Canon Inc 複眼撮像系およびこれを備えた装置
JP2003153251A (ja) * 2001-11-16 2003-05-23 Auto Network Gijutsu Kenkyusho:Kk 車両用周辺視認システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2524818B2 (ja) 1988-10-14 1996-08-14 コニカ株式会社 1フレ―ム連続撮影カメラ
JPH08106534A (ja) 1994-10-06 1996-04-23 Hitachi Ltd 移動物体検出装置
JPH11352550A (ja) 1998-06-11 1999-12-24 Casio Comput Co Ltd 電子スチルカメラ
JP4157661B2 (ja) 1999-12-15 2008-10-01 松下電器産業株式会社 動画像内の移動物体検出方法および装置
JP3899860B2 (ja) 2001-07-11 2007-03-28 ソニー株式会社 固体撮像素子およびその駆動方法、並びに動き検出装置
JP2003299121A (ja) * 2002-04-05 2003-10-17 Canon Inc 立体画像表示装置および立体画像表示システム
JP4005456B2 (ja) * 2002-09-10 2007-11-07 株式会社オートネットワーク技術研究所 カメラ装置及び車両周辺視認装置
JP2004171431A (ja) 2002-11-22 2004-06-17 Chuo Electronics Co Ltd 移動体画像の検出方法
US7643055B2 (en) * 2003-04-25 2010-01-05 Aptina Imaging Corporation Motion detecting camera system
JP3955002B2 (ja) * 2003-09-09 2007-08-08 三洋電機株式会社 映像表示装置
JP4223420B2 (ja) * 2004-03-05 2009-02-12 メガビジョン株式会社 撮影装置
US7038863B2 (en) * 2004-06-02 2006-05-02 Raytheon Company Compact, wide-field-of-view imaging optical system
ATE430244T1 (de) * 2004-07-22 2009-05-15 Bea Sa Thermo-empfindliche vorrichtung zur anwesenheitsbestimmung von automatischen türen
US20060044451A1 (en) * 2004-08-30 2006-03-02 Eastman Kodak Company Wide angle lenslet camera
US7671321B2 (en) * 2005-01-18 2010-03-02 Rearden, Llc Apparatus and method for capturing still images and video using coded lens imaging techniques
CN101533202B (zh) * 2005-07-26 2011-04-13 松下电器产业株式会社 复眼方式的摄像装置
US7315014B2 (en) * 2005-08-30 2008-01-01 Micron Technology, Inc. Image sensors with optical trench

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003143459A (ja) * 2001-11-02 2003-05-16 Canon Inc 複眼撮像系およびこれを備えた装置
JP2003153251A (ja) * 2001-11-16 2003-05-23 Auto Network Gijutsu Kenkyusho:Kk 車両用周辺視認システム

Also Published As

Publication number Publication date
US20080025571A1 (en) 2008-01-31
EP1883223A2 (en) 2008-01-30
EP1883223B9 (en) 2017-05-17
JP2008034948A (ja) 2008-02-14
US7619653B2 (en) 2009-11-17
CN100521747C (zh) 2009-07-29
CN101115154A (zh) 2008-01-30
EP1883223B1 (en) 2017-02-08
EP1883223A3 (en) 2015-04-29

Similar Documents

Publication Publication Date Title
JP4650367B2 (ja) 動き検出用撮像装置
JP4396674B2 (ja) パノラマ撮像装置
JP4259541B2 (ja) パノラマ撮像装置
US8305425B2 (en) Solid-state panoramic image capture apparatus
JP4172512B2 (ja) パノラマ撮像装置
JP6027560B2 (ja) 自動追尾撮像装置
US20050231590A1 (en) Three-dimensional image-capturing apparatus
JP2008197540A (ja) 広角撮像装置
JPH0313074A (ja) 画像処理システム
KR20120094864A (ko) 촬상 장치 및 화상 신호 처리 장치
JP3678792B2 (ja) 立体画像撮像装置
JP2016048824A (ja) 追尾装置、追尾システム、及び表示装置
JP5061858B2 (ja) 焦点検出装置および撮像装置
JP2009232278A (ja) パノラマ撮像装置
JPH1141510A (ja) 撮像装置
JP2016046774A (ja) 撮像装置
JP2008187440A (ja) 撮像装置及び撮像装置の駆動方法
JP2003207813A (ja) 撮像装置
JP2011135374A (ja) 3次元デジタルカメラ
JPH1141504A (ja) 撮像装置
JP2009053709A (ja) パノラマ撮像装置
KR100360695B1 (ko) 파노라마 촬영용 섹터렌즈 및 그 배치 방법
JP5696192B1 (ja) 撮像装置、撮像方法並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090522

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101116

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101129

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees