JP2006115074A - 撮像装置及び撮像方法 - Google Patents
撮像装置及び撮像方法 Download PDFInfo
- Publication number
- JP2006115074A JP2006115074A JP2004298689A JP2004298689A JP2006115074A JP 2006115074 A JP2006115074 A JP 2006115074A JP 2004298689 A JP2004298689 A JP 2004298689A JP 2004298689 A JP2004298689 A JP 2004298689A JP 2006115074 A JP2006115074 A JP 2006115074A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image information
- imaging
- pixels
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】画素ずらしによる一連の撮像時間を短縮し、手ぶれなどに強い画素ずらしによる擬似高解像度化を実現する。
【解決手段】画素ずらし手段2により、撮像素子5上に結像した被写体像の位置を変化させながら、所定時間内に複数フレームの画像情報を画像メモリ7上に転送し、画像合成することによって、高精細画像を合成する撮像装置において、転送制御手段3は、少なくとも複数フレームの画像情報のうち1つのフレームは、画像全体に対応する画素の画像情報を画像メモリ7に転送し、その他のフレームは、画像の一部に対応する画素の画像情報のみを画像メモリ7に転送する撮像装置。
【選択図】図1
【解決手段】画素ずらし手段2により、撮像素子5上に結像した被写体像の位置を変化させながら、所定時間内に複数フレームの画像情報を画像メモリ7上に転送し、画像合成することによって、高精細画像を合成する撮像装置において、転送制御手段3は、少なくとも複数フレームの画像情報のうち1つのフレームは、画像全体に対応する画素の画像情報を画像メモリ7に転送し、その他のフレームは、画像の一部に対応する画素の画像情報のみを画像メモリ7に転送する撮像装置。
【選択図】図1
Description
本発明は、画素ずらしによる擬似高解像度化を用いた撮像装置及び撮像方法に関するものである。
撮像装置により高精細(高解像度)画像を撮像する方法として、撮像光学系によって撮像素子上に結像する被写体像の位置を空間的、時系列的にずらして(一般的に画素ずらしと言われる)、複数フレームの画像を取り込み、それらの画像を合成することにより、画素数を擬似的に増やして高精細画像を合成する方法がある。
この画素ずらしを用いた擬似高解像度化では、撮像光学系によって撮像素子上に結像する被写体像の位置をずらすことが必要になる。画像ずらしの方法としては、撮像レンズ前面に取り付けられた可変頂角プリズムの角度を変えて光軸を変更する方式や、レンズ郡をシフトして光軸偏向する方式や、撮像素子を圧電体などで移動する方式などがある(たとえば、特許文献1参照)。このように画像ずらしの方法には多数の方式があるが、どの方式を用いても原理的には同様の擬似高解像度化が可能である。
この画素ずらしを用いた擬似高解像度化は、撮像と画素ずらしを交互に行うことによって実現されている。たとえば、4フレームの画像を合成する場合は、まず、撮像開始指令により、最初のフレームの画像を取り込み画像メモリに蓄積する。そして、前述の画素ずらしの方法により、撮像素子上に結像した被写体像をX方向に画素ピッチの1/2だけ移動し、2フレーム目の画像を取り込む。次に、被写体像をY方向に画素ピッチの1/2だけ移動させて、3フレーム目の画像を取り込む。次に、被写体像を、X方向であって2フレーム目の画像を取り込む前の移動方向とは逆方向に画素ピッチの1/2だけ移動させて、4フレーム目の画像を取り込む。
このようにして取り込んだ4フレーム分の各画像は、それぞれ水平方向または垂直方向に画素ピッチの1/2だけずれており、水平方向または垂直方向において互いに画素間を補完し合う関係にある。したがって、これらの各画像を合成することにより、1フレーム目のオリジナル画像に対して、水平方向および垂直方向ともに2倍の解像度を持つ高精細画像を合成することができる(たとえば、特許文献2参照)。
特開平7−240932号公報
特開平10−304235号公報
しかしながら、画素ずらしを用いた擬似高解像度化においては、撮像および画像ずらしを繰り返し行い複数の画像を取り込む間は、撮像装置及び被写体が静止している必要がある。この間に撮像対象が移動したり、カメラを支持する人の手がぶれしたりすると、本来、画素間を補完すべきそれぞれの画像がうまく重なり合わず画質が劣化してしまう。従来の撮像装置では、撮像の時間間隔が長いため、三脚などを利用してカメラを固定しないと高精細画像を合成することができなかった。
一般に、撮像素子は、所定時間の間に受光した光を各画素で光電変換することにより、電荷として蓄積する(露光)。そして、この蓄積した電荷を取り出してA/D変換を行い各画素の画像情報として画像メモリ等に転送する(転送)。すなわち、撮像素子を用いた撮像装置の撮像の時間間隔は、主に露光に要する時間と転送に要するとの合計である。露光に要する時間は、撮像素子の感度、被写体の明るさ、光学系の特性によって最適な時間が決まるが、転送に要する時間は、各画素について転送を行う必要があり、撮像素子の画素数が多くなると、転送に要する時間が多く必要となり、撮像の時間間隔が大きくなる。なお、画像ずらしに要する時間は、転送に要する時間に比べ短いため、撮像の時間間隔を律速するのは転送に要する時間である。
本発明は、この転送に要する時間を削減することによって、撮像の時間間隔を短縮し、三脚などの固定手段を用いることなく、画素ずらしによる擬似高解像度化を可能とするものである。
上記課題を達するために、本発明に係る撮像装置は、光学系と、光学系により結像した被写体像を受光し画像情報に変換する複数の画素を有する撮像素子と、画像情報を蓄積する画像メモリと、撮像素子から画像メモリへの画像情報の転送を制御する転送制御手段と、撮像素子上の被写体像の位置を移動させる画素ずらし手段と、上記画像メモリに蓄積された複数フレームの画像情報を合成する画像合成手段とを有し、上記転送制御手段は、画像ずらし手段による移動を間に挟んで撮像素子により変換された複数フレームの画像情報を画像メモリに転送し、複数フレームの画像情報の内、第1のフレームの画像情報として画像全体に対応する画素の画像情報を画像メモリに転送し、第2のフレームの画像情報として画像の一部に対応する画素の画像情報のみを画像メモリに転送する撮影装置である。
上記構成により、画素ずらしによる撮像の時間間隔が短くなり、三脚などの固定手段を用いることなく、画素ずらしにより擬似高解像度化を実現できる。
上記撮像装置において、画像メモリに蓄積された画像全体に対応する画素の画像情報を分析し、所定の条件を満たす画素を選択する画像分析手段を有し、上記転送制御手段は、上記第2のフレームの画像情報として画像分析手段により選択された画素の画像情報のみを画像メモリに転送することが好ましい。これにより、画素ずらしによる擬似高解像度化が有効な画素を的確に選択することが可能となり、より高精細な画像を合成することができる。
また、画像メモリに蓄積された、画素ずらしによる移動を間に挟んで撮像素子により変換された連続する2つのフレームの画像全体に対応する画素の画像情報を分析し、所定の条件を満たす画素を選択する画像分析手段を有し、上記転送制御手段は、上記第2のフレームの画像情報として画像分析手段により選択された画素の画像情報のみを画像メモリに転送することが好ましい。これにより、1つのフレームの画像情報だけでは、画素ずらしによる擬似高解像度化が有効な画素か否かを判別するのが困難である画素についても判別が可能となり、より高精細な画像を合成することができる。
また、上記画像分析手段は、撮像開始指令前の待機状態において分析及び選択を行うことが好ましい。これにより、撮像の時間間隔をさらに短くすることが可能となる。
また、上記転送制御手段は、上記複数フレームの画像情報を前記画像メモリへ転送する際の最後に、上記第1のフレームの画像情報を前記画像メモリに転送することが好ましい。これにより、撮像の時間間隔をさらに短くすることが可能となる。
本発明に係る撮像方法は、複数の画素を有する撮像素子により、撮像素子上に結像した被写体像の画像情報を得る撮像工程と、撮像素子上の被写体像の位置を移動させる移動工程と、複数の画素の中から所定の条件を満たす画素を選択する選択工程と、上記撮像工程と上記移動工程とを繰り返して得られる複数のフレームの画像情報から1つのフレームの画像情報を合成する合成工程とを有し、上記撮像工程は、撮像素子の、画像全体に対応する画素の画像情報を得る第1の撮像工程と、上記選択工程により選択された画像の一部に対応する画素の画像情報のみを得る第2の撮像工程とを有し、上記合成工程は、上記第1の撮像工程により得られた画像情報と、上記第2の撮像工程により得られた画像情報とを合成する。
上記構成により、画素ずらしによる撮像の時間間隔が短くなり、三脚などの固定手段を用いることなく、画素ずらしにより擬似高解像度化を実現できる。
上記撮像方法において、上記第2の撮像工程により得られた画像情報において、選択された画素以外の画素の画像情報を、上記第1の撮像工程により得られた画像情報に基づいて補完することが好ましい。これにより、より高精細な画像を得ることが可能となる。
また、上記選択工程は、上記第1の撮像工程により得られた1つのフレームの画像情報に基づいて、所定の条件を満たす画素を選択することが好ましい。これにより、画素ずらしによる擬似高解像度化が有効な画素を的確に選択することが可能となり、より高精細な画像を合成することができる。
また、上記選択工程は、上記第1の撮像工程により得られた2つのフレームの画像情報に基づいて、所定の条件を満たす画素を選択することが好ましい。これにより、1つのフレームの画像情報だけでは、画素ずらしによる擬似高解像度化が有効な画素か否かを判別するのが困難である画素についても判別が可能となり、より高精細な画像を合成することができる。
また、上記選択工程は、撮像開始指令前の待機状態において行われることが好ましい。これにより、撮像の時間間隔をさらに短くすることが可能となる。
また、上記第1の撮像工程は、上記撮像工程の最後に行われることが好ましい。最も転送に時間がかかる第1の撮像工程を最後に行うことにより、撮像の時間間隔をさらに短くすることが可能となる。
本発明の撮像装置及び撮像方法によると、画素ずらしを用いた一連の撮像の時間間隔を短縮することができる。これにより、三脚などの固定手段を用いて撮像装置を固定することなく、画素ずらしを用いた擬似高解像度化により高精細画像を得ることが可能となる。
以下、本発明の実施の形態を図面に基づいて詳細に説明する。
(実施の形態1)
図1は本発明の撮像装置の構成を示すブロック図である。5は被写体像を撮像素子6上に結像させるための撮像光学系である。6は撮像素子であり、画像ずらし手段2により移動可能に支持されている。画素ずらし手段2は、撮像素子6上における被写体像の位置をずらすものである。図3は画素ずらし手段2の一例であり、撮像光学系5側から撮像素子6を見た構成図である。積層型の圧電素子300a、300bによって撮像素子6を図中のX軸方向に微動する。また、撮像素子固定枠301を積層型の圧電素子302a、302b、302c、302dによって図中のY軸方向に微動する。これにより、撮像素子6は水平面内で直交する2軸方向に独立に微動可能となっている。
図1は本発明の撮像装置の構成を示すブロック図である。5は被写体像を撮像素子6上に結像させるための撮像光学系である。6は撮像素子であり、画像ずらし手段2により移動可能に支持されている。画素ずらし手段2は、撮像素子6上における被写体像の位置をずらすものである。図3は画素ずらし手段2の一例であり、撮像光学系5側から撮像素子6を見た構成図である。積層型の圧電素子300a、300bによって撮像素子6を図中のX軸方向に微動する。また、撮像素子固定枠301を積層型の圧電素子302a、302b、302c、302dによって図中のY軸方向に微動する。これにより、撮像素子6は水平面内で直交する2軸方向に独立に微動可能となっている。
図1において、1は撮像装置の全体の制御を行うシステム制御手段としてのCPUであり、画素ずらし手段2、転送制御手段3および画像合成手段4を制御する。転送制御手段3は撮像素子6から画像メモリ7への画素情報の転送を制御する。システム制御手段1は、画像メモリ7に蓄積した画像情報を分析して、次の画像情報の画素の中から、画素ずらしによる画像合成が有効な画素のみを選択し、転送制御手段3は選択された画素の画素情報のみを撮像素子6から画像メモリ7に転送する。画像合成手段4は、画像メモリ7に蓄積した複数フレームの画像を合成し、1つのフレームの高精細画像を合成する。
次に、画素ずらしによる擬似高解像度化が有効な画素とはどのようなものかについて説明する。図2(a)は、撮像素子6の受光面における所定方向の位置と、その位置における画像情報(光の強度)を示す。201a〜201jは、画素ピッチ200間隔で並んだ各画素を示し、203a〜203jは、各画素201a〜201jで検出した画像情報を示す。また、実線202は実際の被写体像の光の強度を示したものである。被写体像の光の強度202はアナログデータであり連続的に変化しているが、それが撮像素子6によってデジタルデータ203a〜203jに離散化される。
図2(b)は、画素ずらし手段により、図2(a)と同じ被写体像202に対して、撮像素子6を画素ピッチの1/2(図中の204)だけ右方向に移動させたものである。このとき撮像素子6の各画素の画像情報は205a〜205jに示すように変化する。
図2(c)は、図2(a)の203a〜203j、および図2(B)の205a〜205jを合成したものである。また、206a〜206jは、図2(a)の203a〜203jより、それぞれの画素間における画像情報を線形補完により求めたものである。したがって、205a〜205jと、206a〜206jとの差は、画像ずらしにより実際に各画素が検出した画像情報と、隣接する画素の画像情報から線形補完により求めた画像情報との差を示している。
図2(c)において、領域208に示すような被写体像の光の強度の変化が緩やかな部分では、205a〜205jと、206a〜206jとの差は比較的小さい。したがって、1フレーム目の画像の各画素における画像情報から、その画素間における画像情報を線形補完により求めた場合でも、画素ずらしによって各画素間における画像情報を実際に得た場合と、ほぼ同様の画質の画像情報を得ることができる。一方、領域209に示すような被写体像の光の強度の変化が激しい部分においては、205a〜205jと、206a〜206jとの差は大きくなる。したがって、1フレーム目の画像の各画素における画像情報から、その画素間における画像情報を線形補完により求める場合と、画素ずらしによって画素間の画像情報を実際に得る場合とでは、画像情報に大きな差が生じる。
以上のように、領域208のような被写体像の光の強度の変化が緩やかな領域では、画素ずらしによる擬似高解像度化を行っても画質の向上は小さく、画素データの転送時間を余分に必要とするだけである。そこで本発明では、画素ずらしを行なわずに線形補完すると大きな誤差が発生する画素(例えば領域209に含まれる画素)を画素ずらしによる画像の合成が有効な画素として選択し、これらの画素の画像情報のみを撮像素子6から画像メモリ7に転送する。
なお、本実施の形態では、4つのフレームの画像情報を取り込み、解像度を水平および垂直方向でそれぞれ2倍にする例について示したが、これに限るものではなく、任意のフレーム数の画像情報の取り込みを行い、取り込みフレーム数に応じて最適な画素ずらしの移動量に調整すれば、画素ずらしにより高精細画像を合成することができる。
また、撮像素子をX方向、Y方向に順次移動させたが、この順番に限るものではなく、任意の順番でそれぞれの撮像位置に移動させて画像の取り込みを行ってもよい。
また、撮像素子を移動することによって、撮像素子上に結像した被写体像の位置を移動させたが、この方法に限るものではなく、撮像光学系と撮像素子の間に、可変頂プリズムによる光軸変更手段を用いたり、シフト光学系による光軸変更手段を用いたり、撮像光学系レンズを圧電素子などのアクチュエータにより撮像素子と平行に微動させて光軸を変更してもよい。
(実施の形態2)
本実施の形態では、画素ピッチ2.5μmの白黒100万画素の撮像素子を用いて、画素ずらしによる擬似高解像度化を用いた撮像装置を構成した。撮像装置の全体の動作について、図4のフローチャートを用いて説明する。
本実施の形態では、画素ピッチ2.5μmの白黒100万画素の撮像素子を用いて、画素ずらしによる擬似高解像度化を用いた撮像装置を構成した。撮像装置の全体の動作について、図4のフローチャートを用いて説明する。
まず、最初のステップ400では、撮像装置に撮像開始指令が入力されるまで待機を行う。次のステップ401では、所定の時間露光して、撮像素子に結像した被写体像の画像全体に対応する画素について画像情報を画像メモリに転送し蓄積する。次に、ステップ402では、画像メモリに蓄積した画像の分析を行い、画素ずらしによる擬似高解像度化が有効な画素を決定する。本実施の形態では、画像メモリに蓄積した画像情報において、所定方向に隣接する隣の画素との画像情報の差(光の強度に対する1階微分)を計算することにより画像情報の変化率を求め、所定の画素の変化率が、周辺に位置する3×3画素の内、前記所定の画素を除いた8画素の平均値よりも10%以上大きい場合、前記所定の画素を中心にして、その周辺に位置する5×5画素の計25画素を、画素ずらしが有効な画素として選択し記録する。
次のステップ403では、画素ずらし手段2により、撮像素子6をX方向の正向きに画素ピッチの1/2だけ平行に移動させる。なお、この画素ずらし動作は、画像の転送、分析処理とは重複しない処理であるので、ステップ401において、露光が終了した後、画像の転送を開始するのと同時に行う。
次のステップ404では、上記ステップ402で分析の結果、画素ずらしによる擬似高解像度化が有効であると判断された画素の画像情報のみを画像メモリ7に転送し蓄積する。
次のステップ405では、撮像素子をY方向の正向きに画素ピッチの1/2だけ平行移動させ、ステップ406では、ステップ404と同様に、画素ずらしによる擬似高解像度化が有効であると判断された画素の画像情報のみを画像メモリ7に転送し蓄積する。さらに、ステップ407、ステップ408においても同様に、撮像素子の移動と、画像情報の転送を行う。
このようにして4フレームの画像情報を取り込んだ後、ステップ409において、画像の合成を行った後、ステップ410において画像出力を行う。以上が撮像開始指令の入力から取り込んだ画像の出力までの一連の動作である。このようにして、4フレームの画像情報を合成して高精細画像を合成した。
図8に従来および本実施例における撮像のタイミングチャートを示す.図8(a)は、各撮像ごとに撮像素子の画像全体に対応する全画素の画像情報を画像メモリに転送する従来方式を用いた場合であり、図8(b)は、実施の形態のものである。また、図8(c)、(d)、(e)は、後述の実施の形態3、実施の形態4、実施の形態5に対応するものである。
図8の横軸は時間であり、800は撮像開始指令が入力された時刻、801a、801b、801c、801d、801eは、画素ずらしのために必要な4フレーム目の露光が終了した時刻である。この間の時間は、画像ずらしを用いた擬似高解像度化を行うために、被写体を静止させ、また撮像装置を固定する必要がある時間を示している。各実施例の露光時間802は1/100sすなわち10msであり、撮像素子の画像全体に対応する全画素の画像情報を転送するのに必要な時間804は40msである。また、画像情報を分析するのに要した時間803bは10msであり、選択された一部の画素の画像情報のみを転送するのに要した時間805は20msである。
従来の撮像装置では、図8(a)に示したように、一連の撮像を行うために必要な時間(時刻800から時刻801aまでの時間)は、160msである。一方、本実施の形態の撮像装置では、図8(b)に示すように、一連の撮像を行うために必要な時間は、130ms(時刻800から時刻801aまでの時間)であり、従来例に比べ30ms短縮できる。
なお、本実施の形態では、画素ずらしが有効な画素の選択方法として、各画素の画像情報の1階微分について、所定の画素とその周辺に位置する8画素の平均値との比較により選択したが、周辺8画素に限定する必要はなく、例えば周辺20画素の平均値と比較しても良い。また、各画素の画像情報の1階微分に代えて、各画素の画像情報を2階微分した値を用いて、画素ずらしが有効な画素を決定しても良い。さらに別の実施の形態として、所定領域内の画素(例えば3×3画素の計9画素)において、画像情報の最大値と最小値との差が所定値以上の場合に、上記所定領域内の画素を画像ずらしによる擬似解像度化が有効な画素と決定しても良い。
また、撮像前に、ユーザが予め画像における所定の領域を指定し、その領域内の画素を選択した画素とすることも可能である。ユーザによる領域指定の手段としては、液晶画面に画像を表示し、画面上で任意の領域を指定する方法がある。また、中央部30%の領域や中央部50%の領域等の領域をいくつか決めておき、ユーザがそれらの中から選択して指定することも可能である。これらの場合には、演算に要する時間が不要となるため、より手ブレ等の影響を受け難くなる。
また、ステップ409において、2〜4フレーム目の選択された画素以外の画素、即ち撮像素子により実際に画像情報を得ていない画素については、1フレーム目の画像情報に基づいて、例えば線形補完等により補完することも可能である。
また、本発明はカラーの撮像装置にも適用可能である。例えば、撮像素子の各画素に、R(レッド)、G(グリーン)、B(ブルー)の各カラーフィルタを、ベイヤー配列に貼り付けることにより、各色の光の強度の信号を取り出すことができ、カラー画像を取得することができる。この場合、従来においては、フィルタ色の異なる画素(たとえば、Gの画像を取得する場合のBまたはRの画素)の画像情報から補完するため、解像度が低下していた。しかしながら、本発明を用いた場合には、撮像素子を1画素ピッチずつずらしながら画像を取り込み、合成することにより、同じフィルタ色の画素の画像情報に基づいて画素間の画像情報を取得できるので、解像度が向上し、より高精細なカラー画像を合成することができる。
(実施の形態3)
本実施の形態は、画素ずらしによる擬似高解像度化が有効な画素の選択方法が実施の形態2と異なる。本実施の形態の動作のフローチャートを図5に示す。実施の形態2では、1フレーム目の画像を画像メモリ7に転送して蓄積した後、1フレーム目の画像の分析を行い、2フレーム目以降は、一部の画素の画像情報のみを画像メモリ7に転送していた。これに対し本実施の形態では、ステップ501で1フレーム目の画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積した後、すぐに、ステップ502でX方向に撮像素子の移動を行い、その後、ステップ503で、2フレーム目の画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積する。そして、ステップ504において、1フレーム目と2フレーム目の対応する各画素について、画像情報の差分を計算し、所定の画素の差分値が、周辺に位置する3×3画素の内、前記所定の画素を除いた8画素の差分値の平均値よりも10%以上大きい場合、前記所定の画素を中心にして、その周辺に位置する5×5画素の計25画素を、画素ずらしが有効な画素として選択し記録する。
本実施の形態は、画素ずらしによる擬似高解像度化が有効な画素の選択方法が実施の形態2と異なる。本実施の形態の動作のフローチャートを図5に示す。実施の形態2では、1フレーム目の画像を画像メモリ7に転送して蓄積した後、1フレーム目の画像の分析を行い、2フレーム目以降は、一部の画素の画像情報のみを画像メモリ7に転送していた。これに対し本実施の形態では、ステップ501で1フレーム目の画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積した後、すぐに、ステップ502でX方向に撮像素子の移動を行い、その後、ステップ503で、2フレーム目の画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積する。そして、ステップ504において、1フレーム目と2フレーム目の対応する各画素について、画像情報の差分を計算し、所定の画素の差分値が、周辺に位置する3×3画素の内、前記所定の画素を除いた8画素の差分値の平均値よりも10%以上大きい場合、前記所定の画素を中心にして、その周辺に位置する5×5画素の計25画素を、画素ずらしが有効な画素として選択し記録する。
以後のステップは実施の形態2と同様に、3フレーム目および4フレーム目においては、画素ずらしによる擬似高解像度化が有効な画素の画像情報のみを画像メモリ7に転送、蓄積して、高精細画像の合成を行う。
本実施の形態における撮像のタイミングチャートを図8(c)示す。2つのフレームの差分を計算するだけであるので、微分処理を行う場合に比べて負荷が小さく、画像の分析に要する時間803cは5msである。なお、その他の時間は実施例1と同じである。したがって、画素ずらしによる一連の撮像を行うために必要な時間(時刻800から時刻801cまでの時間)は145msであり、従来例に比べ15ms短縮できる。
なお、本実施の形態では、画素ずらしが有効な画素の選択方法として、連続する2つのフレームの対応する画素の差分を計算し、所定の画素の差分値と、周辺に位置する画素の差分値の平均値との比較により画素ずらしが有効な画素を決定したが、より簡便には、連続する2つのフレームの対応する画素の差分値が所定の値よりも大きい場合に、その画素を含めて周辺に位置する数画素を、画素ずらしによる擬似高解像度化が有効な画素と決定しても良い。
また、ステップ509において、3〜4フレーム目の選択された画素以外の画素、即ち撮像素子により実際に画像情報を得ていない画素については、1フレーム目または2フレーム目の画像情報に基づいて、例えば線形補完等により補完することも可能である。
(実施の形態4)
本実施の形態は、実施の形態3に改良を加えたものである。本実施の形態のフローチャートを図6に示す。本実施の形態では、撮像開始指令前の待機状態において、連続する2つのフレームの画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積するステップ600と、画像メモリ7に蓄積した連続する2つのフレームの分析を行い、画素ずらしによる擬似高解像度化が有効な画素を決定するステップ601とを繰り返し行う。ステップ602において撮像開始指令が検出されると、以後、ステップ603において1フレーム目の画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積した後、2〜4フレーム目においては、撮像素子を移動した後、ステップ601において決定された、画素ずらしによる擬似高解像度化が有効な画素の画像情報のみを画像メモリ7に転送、蓄積し、高精細画像の合成を行う。
本実施の形態は、実施の形態3に改良を加えたものである。本実施の形態のフローチャートを図6に示す。本実施の形態では、撮像開始指令前の待機状態において、連続する2つのフレームの画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積するステップ600と、画像メモリ7に蓄積した連続する2つのフレームの分析を行い、画素ずらしによる擬似高解像度化が有効な画素を決定するステップ601とを繰り返し行う。ステップ602において撮像開始指令が検出されると、以後、ステップ603において1フレーム目の画像全体に対応する画素の画像情報を画像メモリ7に転送、蓄積した後、2〜4フレーム目においては、撮像素子を移動した後、ステップ601において決定された、画素ずらしによる擬似高解像度化が有効な画素の画像情報のみを画像メモリ7に転送、蓄積し、高精細画像の合成を行う。
本実施の形態における撮像のタイミングチャートを図8(d)に示す。本実施の形態では、撮像開始指令を検出する前に、ステップ600およびステップ601において画素ずらしによる擬似高解像度化が有効な画素を決定しているため、画素ずらしによる一連の撮像を行うために必要な時間(時刻800から時刻801dまでの時間)は120msとなり、従来例と比べ40ms短縮できる。
なお、本実施の形態では、撮像開始指令前の待機状態において、図6のステップ600、ステップ601を繰り返し、2つのフレームの画像全体に対応する画素の画像情報に基づいて画素ずらしによる擬似高解像度化が有効な画素を決定したが、これに代えて、撮像開始指令前の待機状態において、実施の形態2に示したように、図4のステップ401とステップ402を繰り返し、1つのフレームの画像全体に対応する画素の画像情報に基づいて画像ずらしによる擬似高解像度化が有効な画素を決定しても良い。
(実施の形態5)
本実施の形態は、実施の形態4にさらに改良を加えたものである。本実施の形態のフローチャートを図7に示す。本実施の形態と実施の形態4との違いは、画像全体に対応する画素の画像情報を取り込むステップの位置である。すなわち、本実施の形態では、ステップ709において、最終フレームである4フレーム目で画像全体に対応する画素の画像情報を画像メモリ7に転送する。本実施の形態のように最終フレームの取り込み時に画像全体に対応する画素の画像情報を取り込むことにより、画素ずらしによる一連の撮像を行うために必要な時間を短くすることが可能となる。
本実施の形態は、実施の形態4にさらに改良を加えたものである。本実施の形態のフローチャートを図7に示す。本実施の形態と実施の形態4との違いは、画像全体に対応する画素の画像情報を取り込むステップの位置である。すなわち、本実施の形態では、ステップ709において、最終フレームである4フレーム目で画像全体に対応する画素の画像情報を画像メモリ7に転送する。本実施の形態のように最終フレームの取り込み時に画像全体に対応する画素の画像情報を取り込むことにより、画素ずらしによる一連の撮像を行うために必要な時間を短くすることが可能となる。
本実施の形態における撮像のタイミングチャートを図8(e)に示す。実施の形態4と同様に、撮像命令を検出する前に、ステップ700およびステップ701において、画素ずらしによる擬似高解像度化が有効な画素を決定していることと、画像全体に対応する画素の画像情報の取り込みを最終フレームにすることにより、画素ずらしによる一連の撮像を行うために必要な時間(時刻800から時刻801eまでの時間)は100msとなり、従来例に比べ60ms短縮できる。
なお、本実施の形態では、撮像開始指令前の待機状態において、図7のステップ700、ステップ701を繰り返し、2つのフレームの画像全体に対応する画素の画像情報に基づいて画素ずらしによる擬似高解像度化が有効な画素を決定したが、これに代えて、撮像開始指令前の待機状態において、実施の形態2に示したように、図4のステップ401とステップ402を繰り返し、1つのフレームの画像全体に対応する画素の画像情報に基づいて画像ずらしによる擬似高解像度化が有効な画素を決定しても良い。
本発明は、携帯電話などに用いられるカメラモジュールや、デジタルスチルカメラ等の撮像装置に適用できる。
1 システム制御手段
2 画素ずらし手段
3 転送制御手段
4 画像合成手段
5 撮像光学系
6 撮像素子
7 画像メモリ
2 画素ずらし手段
3 転送制御手段
4 画像合成手段
5 撮像光学系
6 撮像素子
7 画像メモリ
Claims (11)
- 光学系と、
前記光学系により結像した被写体像を受光し画像情報に変換する複数の画素を有する撮像素子と、
前記画像情報を蓄積する画像メモリと、
前記撮像素子から前記画像メモリへの前記画像情報の転送を制御する転送制御手段と、
前記撮像素子上の前記被写体像の位置を移動させる画素ずらし手段と、
前記画像メモリに蓄積された複数フレームの画像情報を合成する画像合成手段と、を有し、
前記転送制御手段は、前記画像ずらし手段による移動を間に挟んで前記撮像素子により変換された複数フレームの画像情報を前記画像メモリに転送し、前記複数フレームの画像情報の内、第1のフレームの画像情報として画像全体に対応する画素の画像情報を前記画像メモリに転送し、第2のフレームの画像情報として画像の一部に対応する画素の画像情報のみを前記画像メモリに転送する撮影装置。 - 前記画像メモリに蓄積された画像全体に対応する画素の画像情報を分析し、所定の条件を満たす画素を選択する画像分析手段を有し、
前記転送制御手段は、前記第2のフレームの画像情報として前記画像分析手段により選択された画素の画像情報のみを前記画像メモリに転送する請求項1に記載の撮像装置。 - 前記画像メモリに蓄積された、前記画素ずらしによる移動を間に挟んで前記撮像素子により変換された連続する2つのフレームの画像全体に対応する画素の画像情報を分析し、所定の条件を満たす画素を選択する画像分析手段を有し、
前記転送制御手段は、前記第2のフレームの画像情報として前記画像分析手段により選択された画素の画像情報のみを前記画像メモリに転送する請求項1に記載の撮像装置。 - 前記画像分析手段は、撮像開始指令前の待機状態において前記分析及び選択を行う請求項2または3に記載の撮像装置。
- 前記転送制御手段は、前記複数フレームの画像情報を前記画像メモリへ転送する際の最後に、前記第1のフレームの画像情報を前記画像メモリに転送する請求項4に記載の撮像装置。
- 複数の画素を有する撮像素子により、前記撮像素子上に結像した被写体像の画像情報を得る撮像工程と、
前記撮像素子上の前記被写体像の位置を移動させる移動工程と、
前記複数の画素の中から所定の条件を満たす画素を選択する選択工程と、
前記撮像工程と前記移動工程とを繰り返して得られる複数のフレームの画像情報から1つのフレームの画像情報を合成する合成工程と、
を有し、
前記撮像工程は、前記撮像素子の、画像全体に対応する画素の画像情報を得る第1の撮像工程と、前記選択工程により選択された画像の一部に対応する画素の画像情報のみを得る第2の撮像工程とを有し、
前記合成工程は、前記第1の撮像工程により得られた画像情報と、前記第2の撮像工程により得られた画像情報とを合成する撮像方法。 - 前記第2の撮像工程により得られた画像情報において、前記選択された画素以外の画素の画像情報を、前記第1の撮像工程により得られた画像情報に基づいて補完する請求項6に記載の撮像方法。
- 前記選択工程は、前記第1の撮像工程により得られた1つのフレームの画像情報に基づいて、所定の条件を満たす画素を選択する請求項6に記載の撮像方法。
- 前記選択工程は、前記第1の撮像工程により得られた2つのフレームの画像情報に基づいて、所定の条件を満たす画素を選択する請求項6に記載の撮像方法。
- 前記選択工程は、撮像開始指令前の待機状態において行われる請求項6に記載の撮像方法。
- 前記第1の撮像工程は、前記撮像工程の最後に行われる請求項10に記載の撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004298689A JP2006115074A (ja) | 2004-10-13 | 2004-10-13 | 撮像装置及び撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004298689A JP2006115074A (ja) | 2004-10-13 | 2004-10-13 | 撮像装置及び撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006115074A true JP2006115074A (ja) | 2006-04-27 |
Family
ID=36383241
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004298689A Pending JP2006115074A (ja) | 2004-10-13 | 2004-10-13 | 撮像装置及び撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006115074A (ja) |
-
2004
- 2004-10-13 JP JP2004298689A patent/JP2006115074A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5241355B2 (ja) | 撮像装置とその制御方法 | |
EP2181349B1 (en) | Image sensing apparatus | |
JP5563283B2 (ja) | 画像処理装置 | |
JP5662667B2 (ja) | 撮像装置 | |
JP5108802B2 (ja) | 撮像装置及びそのスルー画像表示方法 | |
JP4576280B2 (ja) | 自動焦点調節装置及び焦点調節方法 | |
JP5853166B2 (ja) | 画像処理装置及び画像処理方法並びにデジタルカメラ | |
JP3704238B2 (ja) | 撮像装置 | |
JP2007150643A (ja) | 固体撮像素子、固体撮像素子の駆動方法および撮像装置 | |
JP5096645B1 (ja) | 画像生成装置、画像生成システム、方法、およびプログラム | |
EP2355491A1 (en) | Imaging device, imaging method and imaging program | |
WO2012132306A1 (en) | Lens driving control apparatus and lens apparatus | |
JP3854754B2 (ja) | 撮像装置、画像処理装置及びその方法、並びにメモリ媒体 | |
EP2690875A1 (en) | Color image sensor, imaging device, and control program for imaging device | |
JP2020053771A (ja) | 画像処理装置、撮像装置 | |
JP4097966B2 (ja) | 画像取得装置 | |
JP2004328117A (ja) | ディジタルカメラおよび撮像制御方法 | |
JP5033711B2 (ja) | 撮像装置及び撮像装置の駆動方法 | |
JP2007243917A (ja) | 撮像装置および画像処理プログラム | |
JP2007274504A (ja) | デジタルカメラ | |
JP5990008B2 (ja) | 撮像装置およびその制御方法 | |
JP4317117B2 (ja) | 固体撮像装置および撮像方法 | |
US20070269133A1 (en) | Image-data noise reduction apparatus and method of controlling same | |
JP5446955B2 (ja) | 撮像装置 | |
JP2004104195A (ja) | 画像信号処理装置 |