JP2008109477A - 画像生成装置および画像生成方法 - Google Patents

画像生成装置および画像生成方法 Download PDF

Info

Publication number
JP2008109477A
JP2008109477A JP2006291451A JP2006291451A JP2008109477A JP 2008109477 A JP2008109477 A JP 2008109477A JP 2006291451 A JP2006291451 A JP 2006291451A JP 2006291451 A JP2006291451 A JP 2006291451A JP 2008109477 A JP2008109477 A JP 2008109477A
Authority
JP
Japan
Prior art keywords
image
imaging
resolution
low
objective lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006291451A
Other languages
English (en)
Inventor
Yoshio Tange
吉雄 丹下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
Original Assignee
Fuji Electric Holdings Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Holdings Ltd filed Critical Fuji Electric Holdings Ltd
Priority to JP2006291451A priority Critical patent/JP2008109477A/ja
Publication of JP2008109477A publication Critical patent/JP2008109477A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Input (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】同一の撮像対象から同一の時刻に同一の視点から撮像された低解像度画像から高解像度画像を精度よく生成できるようにする。
【解決手段】画像撮影装置100は、サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に同一のサイズの光学像をそれぞれ同時に結像させることで、同一の時刻に同一の視点上で撮像された複数の低解像度画像を撮影し、画像処理装置300は、超解像アルゴリズムを適用することにより、それらの複数の低解像度画像から高解像度画像を生成する。
【選択図】 図1

Description

本発明は画像生成装置および画像生成方法に関し、特に、複数の低解像度画像から高解像度画像を生成する方法に適用して好適なものである。
超解像は、測定されたデータの持つ解像度を超えた解像度を持つ信号や画像を合成する技術を総称したものである(非特許文献1)。
この超解像度技術では、同一の撮像対象に対して、互いにサブピクセル単位で撮影位置をずらした複数枚の低解像度画像からサブピクセル単位の分解能を持つ高解像度画像を生成する方法が知られている(非特許文献2)。また、低解像度画像間の微小なずれ量を推定する方法も知られている(特許文献1)。
図15は、従来の複数の低解像度画像から高解像度画像を生成する方法を示す図である。
図15において、高解像度画像を生成する場合、同一の撮像対象5100に対して、互いにサブピクセル単位で撮影位置の変化5821を撮像装置5811に与えながら複数枚の低解像度画像5311を撮像し、これらの複数枚の低解像度画像5311を合成することで高解像度画像を生成する。
図16は、従来の超解像度化処理にかかる処理時間を示す図である。
図16において、撮影位置をずらしながら複数枚の低解像度画像5311から高解像度画像を生成する方法では、1枚の低解像度画像5311を撮像するごとに露光1202、画像転送1203および撮像位置移動1204が行われる。そして、これらの露光1202、画像転送1203および撮像位置移動1204が複数回繰り返し行われた後、超解像度化1205が行われる。
このため、低解像度画像5311から高解像度画像を生成するまでにかかる処理時間1201は、(露光1202にかかる時間+画像転送1203にかかる時間+(撮像位置移動1204にかかる時間−1))×(低解像度画像5311の枚数)+(超解像度化1205にかかる時間)となる。
なお、撮影位置をずらした複数枚の低解像度画像5311から高解像度画像を生成する方法では、高解像度画像の画質が劣化しないようにするために、(1)撮影位置のずれ量のベクトル値が高精度で既知あるいは推定可能であり、(2)低解像度画像5311間での輝度や色の変化がなく、(3)同一の撮像対象5100が時間的かつ空間的に同じ瞬間に撮影されたものであるという条件を満たす必要がある。
ここで、撮影位置をずらす方法として、撮像素子またはレンズをアクチュエータにて高速に振動させる方法がある(非特許文献3)。
また、撮影位置をずらすことなく複数枚の低解像度画像から高解像度画像を生成するために、同一の撮像対象に対して複数の撮像装置で低解像度画像を異なる視点から同時に撮像し、これらの複数枚の低解像度画像を合成することで高解像度画像を生成する方法も知られている。
特開2005−20761号公報 O plus E28巻3号 頁252−253 IEEE TRANSACTIONS ON IMAGE PROCESSING VOL.6 NO.12,IEEE,1997,p.1646(Restoration of a Single Superresolution Image from Several Blurred,Noisy,and Undersampled Measured Images) IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE VOL.27 NO.6 IEEE computer Society,2005,p.977(Video Super−Resolution Using Controlled Subpixel Detector Shifts)
しかしながら、従来の超解像度化処理では、撮像位置を移動させながら複数枚の低解像度画像を撮像するため、同一の撮像対象を時間的かつ空間的に同じ瞬間に撮影することは原理的にできない。このため、撮像対象5100が動いている場合や照明環境が変化する場合あるいは撮像装置5811の手ブレが発生した場合には、低解像度画像間で輝度や色の変化が発生したり、撮像対象5100の位置が異なったりするようになり、低解像度画像から合成された高解像度画像の画質が劣化するという問題があった。
特に、撮影位置をずらすために、撮像素子またはレンズをアクチュエータにて高速に振動させる方法では、機械的な動きを伴うことから、露光1202にかかる時間や画像転送1203にかかる時間に比べて、撮像位置移動1204にかかる時間が無視できないほど大きくなる。このため、複数枚の低解像度画像を撮像する際に、撮像対象5100が動いたり、照明環境が変化したり、撮像装置5811の手ブレが発生したりする可能性が大きくなり、低解像度画像から合成された高解像度画像の画質が劣化しやすくなる上に、機械的な動きを伴うことから、耐久性が悪いという問題があった。
また、同一の撮像対象に対して複数の撮像装置で低解像度画像を同時に撮像する方法では、個々の撮像装置からの撮像対象に対する視点が異なるため、低解像度画像が撮像装置で歪んだものとなり、低解像度画像から合成された高解像度画像の画質が劣化するという問題があった。
さらに、高解像度画像を得るために、高分解能の撮像素子を用いた場合においても、半導体製造プロセスの制約によって撮像素子の分解能には限界がある上に、撮像素子の集積度を上げれば感度の低下を招くという問題があった。
そこで、本発明の目的は、同一の時刻に同一の視点上で撮像された低解像度画像から高解像度画像を精度よく生成することが可能な画像生成装置および画像生成方法を提供することである。
上述した課題を解決するために、請求項1記載の画像生成装置によれば、サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子と、前記複数の撮像素子上に同一の視点から見た同一のサイズの光学像をそれぞれ同時に結像させる光学系と、前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする。
また、請求項2記載の画像生成装置によれば、入射ビームを平行ビームに変換するテレセントリックレンズと、前記テレセントリックレンズから出射された平行ビームを複数の光ビームに分光するビームスプリッタと、サブピクセル単位で互いに撮像位置がずらされて配置され、前記ビームスプリッタにて分光された光ビームをそれぞれ入射させる複数の撮像素子と、前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする。
また、請求項3記載の画像生成装置によれば、入射ビームを集光する対物レンズと、サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子と、前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする。
また、請求項4記載の画像生成装置によれば、入射ビームを集光する対物レンズと、前記対物レンズにて集光された光ビームを複数の光ビームに分光するビームスプリッタと、サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記ビームスプリッタによる分光回数が互いに一致するようにして前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子と、前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする。
また、請求項5記載の画像生成装置によれば、前記画像処理手段は、前記低解像度画像の画素値を正規化する画素値正規化手段と、ベクトル表現した前記複数の低解像度画像と高解像度画像との関係を線形一次方程式化する線形一次方程式化手段と、前記線形一次方程式を最適化問題として解くことにより、前記高解像度画像を算出する最適化演算処理手段とを備えることを特徴とする。
また、請求項6記載の画像生成方法によれば、サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に同一のサイズの光学像をそれぞれ同時に結像させるステップと、前記複数の撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする。
また、請求項7記載の画像生成方法によれば、入射ビームを平行ビームに変換するステップと、前記平行ビームを複数の光ビームに分光するステップと、サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に、前記分光された光ビームをそれぞれ同時に入射させるステップと、前記複数の撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする。
また、請求項8記載の画像生成方法によれば、入射ビームを対物レンズにて集光するステップと、サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子上に、前記集光された光ビームをそれぞれ同時に入射させるステップと、前記撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする。
また、請求項9記載の画像生成方法によれば、入射ビームを対物レンズにて集光するステップと、前記対物レンズにて集光された光ビームを複数の光ビームに分光するステップと、サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記分光回数が互いに一致するようにして前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子上に、前記分光された光ビームをそれぞれ同時に入射させるステップと、前記撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする。
また、請求項10記載の画像生成方法によれば、前記低解像度画像から高解像度画像を生成するステップは、前記低解像度画像の画素値を正規化するステップと、ベクトル表現した前記複数の低解像度画像と高解像度画像との関係を線形一次方程式化するステップと、前記線形一次方程式を最適化問題として解くことにより、前記高解像度画像を算出するステップとを備えることを特徴とする。
以上説明したように、本発明によれば、複数の撮像素子上に同一の視点から見た同一のサイズの光学像を同時に結像させることができ、撮像対象が動いている場合や照明環境が変化する場合あるいは撮像装置の手ブレが発生した場合においても、低解像度画像間で輝度や色の変化が発生したり、撮像対象の位置が異なったりするのを防止することができる。このため、半導体製造プロセスの制約によって撮像素子の分解能に限界がある場合においても、画質の低下を抑制しつつ、その撮像素子の分解能を超える高解像度画像を生成することが可能となる。
以下、本発明の実施形態に係る画像生成装置について図面を参照しながら説明する。
図1は、本発明の第1実施形態に係る画像生成装置の概略構成を示すブロック図である。
図1において、画像生成装置には、複数の低解像度画像を取得する画像取得装置200および複数の低解像度画像から高解像度画像を生成する画像処理装置300が設けられている。そして、画像取得装置200には、サブピクセル単位で互いに撮像位置がずらされるようにして同一の視点から見た複数の低解像度画像を同時に撮影する画像撮影装置100、画像撮影装置100にて撮影された複数の低解像度画像を転送する画像転送装置211、画像取得装置200を画像処理装置300に接続する接続インターフェース212、画像取得装置200に電源を供給する電源装置213が設けられている。
そして、画像撮影装置100は、サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に同一のサイズの光学像をそれぞれ同時に結像させることで、同一の時刻に同一の視点から見た複数の低解像度画像を撮影する。そして、画像撮影装置100にて同時に撮影された複数の低解像度画像は画像転送装置211に送られ、画像転送装置211は、それらの複数の低解像度画像を接続インターフェース212を介して画像処理装置300に転送する。
そして、画像処理装置300は、複数の低解像度画像を画像取得装置200から受け取ると、超解像アルゴリズムを適用することにより、それらの複数の低解像度画像から高解像度画像を生成する。なお、超解像アルゴリズムでは、複数の低解像度画像の画素値を正規化し、ベクトル表現した複数の低解像度画像と高解像度画像との関係を線形一次方程式化し、その線形一次方程式を最適化問題として解くことにより、高解像度画像を算出することができる。
図2(a)は、本発明の第1実施形態に係る画像撮影装置の光学系の概略構成を示す側面図、図2(a)は、本発明の第1実施形態に係る画像撮影装置の光学系の概略構成を示す斜視図である。
図2において、画像撮影装置100には、入射ビームを平行ビームに変換するテレセントリックレンズ101、テレセントリックレンズ101から出射された平行ビームを複数の光ビームに分光するビームスプリッタ121〜123、ビームスプリッタ121〜123にて分光された光ビームがそれぞれ入射される撮像素子131〜134、ビームスプリッタ121〜123にて分光された光ビームを撮像素子131〜134上にそれぞれ結像させるレンズ141〜144、サブピクセル単位で互いに撮像位置がずらされた状態で撮像素子131〜134を支持する支持体161が設けられている。
なお、テレセントリックレンズ101は、テレセントリックレンズ101から撮像素子131〜134までの光路長が互いに異なる場合においても、テレセントリックレンズ101から撮像対象110までの距離に依存することなく、撮像素子131〜134上のサイズが同一になるように光学像を結像させることができる。
また、撮像素子131〜134上の受光量が同一になるようにビームスプリッタ121〜123の透過光と反射光との分光比率を定めることができ、例えば、4個の撮像素子131〜134が設けられている場合、ビームスプリッタ121の透過光と反射光との分光比率は3:1、ビームスプリッタ122の透過光と反射光との分光比率は2:1、ビームスプリッタ123の透過光と反射光との分光比率は1:1に設定することができる。
そして、撮像対象110から反射された光ビームはテレセントリックレンズ101に入射し、テレセントリックレンズ101にて平行ビームに変換された後、ビームスプリッタ121に入射する。そして、ビームスプリッタ121に入射した光ビームは透過光と反射光に分光され、ビームスプリッタ121にて分光された反射光はレンズ141を介して撮像素子131に入射し、撮像対象110に対応した光学像が撮像素子131上に結像される。
一方、ビームスプリッタ121にて分光された透過光はビームスプリッタ122に入射し、透過光と反射光に分光される。そして、ビームスプリッタ122にて分光された反射光はレンズ142を介して撮像素子132に入射し、撮像素子131上に結像された光学像と同一のサイズの光学像が撮像素子132上に結像される。
一方、ビームスプリッタ122にて分光された透過光はビームスプリッタ123に入射し、透過光と反射光に分光される。そして、ビームスプリッタ123にて分光された反射光はレンズ143を介して撮像素子133に入射し、撮像素子131、132上に結像された光学像と同一のサイズの光学像が撮像素子133上に結像される。
一方、ビームスプリッタ123にて分光された透過光はレンズ144を介して撮像素子134に入射し、撮像素子131〜133上に結像された光学像と同一のサイズの光学像が撮像素子134上に結像される。
なお、ビームスプリッタ121〜123によって撮像素子131〜134の受光量が減少することから、ビームスプリッタ121〜123がない場合に比べて撮像素子131〜134の露光時間を長めに設定することが好ましい。
図3は、図2のテレセントリックレンズの構成例を示す側面図である。
図3において、テレセントリックレンズ101には、物体側レンズ511、像側レンズ512および絞り521が設けられ、絞り521は物体側レンズ511と像側レンズ512との間に配置されている。ここで、絞り521と像側レンズ512との距離541は、像側レンズ512の焦点距離に等しくなるように設定することができる。
そして、幾何光学におけるガウスの結像公式に基づいて物体側レンズ511および像側レンズ512を通して光線が屈折する角度や結像位置が決定される。このガウスの結像公式によれば、絞り521と像側レンズ512との距離541が像側レンズ512の焦点距離に等しいならば、絞り521において物体側レンズ511によって結像する光線群は像側レンズ512を通過した後、互いに平行な光線となる。このため、絞り521の大きさ543が十分に小さければ、ビームスプリッタ121〜123を通過した後に撮像素子131〜134上に結像する光学像のサイズを互いに等しくすることができる。
また、物体側レンズ511と絞り521との間の距離542を変更したり、物体側レンズ511の焦点距離を変えたりすることで、物体側レンズ511から撮像対象110の物体面までのピントの合う範囲を調整することができる。この場合、像側レンズ512から先の光学系および撮像素子131〜134は変更する必要がないため、様々の撮像対象110に対して同一の画像撮影装置100を用いることを可能としつつ、超解像度技術を適用することが可能となる。
図4は、本発明の一実施形態に係る画像処理装置の概略構成を示すブロック図である。
図4において、画像処理装置300には、複数の低解像度画像を記憶する低解像度画像メモリ311、複数の低解像度画像から生成された高解像度画像を記憶する高解像度画像メモリ312、超解像アルゴリズムを適用することにより、複数の低解像度画像から高解像度画像を生成する演算処理部321、画像表示装置350との間で高解像度画像の入出力を行う入出力装置322、演算処理部321にて生成された高解像度画像を記憶する画像データ記憶部331および演算処理部321にて生成された高解像度画像を表示する画像表示装置350が設けられている。
なお、低解像度画像メモリ311は複数の撮像素子131〜134の個数分だけ設け、撮像素子131〜134にて撮像された低解像度画像をそれぞれ別個に記憶できるようにしてもよい。
そして、画像取得装置200にて取得された複数の低解像度画像が画像処理装置300に転送されると、それら複数の低解像度画像が低解像度画像メモリ311に記憶される。そして、低解像度画像メモリ311に記憶された複数の低解像度画像は演算処理部321に送られ、超解像アルゴリズムを適用することにより、それらの複数の低解像度画像から高解像度画像が生成され、高解像度画像メモリ312に記憶される。そして、高解像度画像メモリ312に記憶された高解像度画像が画像表示装置350に送られることで、高解像度画像が画像表示装置350に表示される。
図5は、本発明の一実施形態に係る超解像アルゴリズムを示すフローチャートである。
図5において、図4の演算処理部321は、複数枚分の低解像度画像データ311を取得すると、複数枚分の低解像度画像間の輝度を調整するために、画素値の正規化411を行う。
ここで、画素値の正規化411の方法としては、以下の式を用いることができる。
(x,y)=d(x,y)/u(i)
ただし、u(i)は観測された低解像度画像の平均輝度、d(x,y)は変換前の低解像度画像の座標(x,y)における画素値、d(x,y)は変換後の低解像度画像の座標(x,y)における画素値である。
次に、撮像素子131〜134のずれ、レンズ141〜144のぼかし効果、高解像度画像のサイズなどが考慮された結像パラメータ421に基づいて、複数の低解像度画像と高解像度画像との関係を線形一次方程式にて表現することで、線形一次方程式化412を行う。ここで、画像撮影装置100にて撮影されたM×M画素のサイズを持つN枚の低解像度画像をそれぞれベクトル表現し、以下の記号によって表す。
Y(i)
また、N枚の低解像度画像から生成されるL×L画素のサイズを持つ高解像度画像をベクトル表現し、以下の記号によって表す。

そして、これらの低解像度画像Y(i)と高解像度画像Xとの間には、次の関係式が成り立つものとする。
Y(i)=A(i)X+E(i) ・・・(1)
ただし、Y(i)はi番目の低解像度画像データ311を表すベクトル、Xは推定する高解像度画像データ312を表すベクトル、A(i)は空間変換、光学的ぼかし効果およびアンダーサンプリングを表す線形行列、E(i)はノイズである。
ここで、線形行列A(i)のうち空間変換は既知であるとすることができる。また、光学的ぼかし効果は低解像度画像Y(i)と高解像度画像Xとの間のずれ量に基づいて、ガウス関数と線形和を用いて表すことができる。さらに、アンダーサンプリングは低解像度画像Y(i)のサイズと高解像度画像Xのサイズとによって一意に決定することができる。そして、空間変換、光学的ぼかし効果およびアンダーサンプリングをまとめて結像パラメータ421として表すことができる。
ただし、低解像度画像Y(i)のサイズおよび枚数をそれぞれM×M画素およびNとし、高解像度画像XのサイズをL×L画素とすると、以下の関係を満たさなければならない。
≦NM
例えば、4個の撮像素子131〜134を用いた場合、水平および垂直の解像度を最大で2倍まで上げることができる。また、3個の撮像素子を用いた場合、水平および垂直の解像度を最大で約1.73倍まで上げることができる。
図6は、本発明の一実施形態に係る複数の低解像度画像から高解像度画像を生成する方法を示す図である。
図6において、撮像素子131〜134にて撮像された低解像度画像は画素701〜704からそれぞれ構成されるものとすると、低解像度画像の画素701〜704がサブピクセル単位で互いにずらされるようにして撮像素子131〜134上に光学像が結像される。
そして、低解像度画像の画素701〜704の画素値は、高解像度画像の画素700の空間的移動、ぼかし効果および間引き効果を考慮することで算出することができる。
そして、上述した低解像度画像Y(i)と高解像度画像Xとの間の関係式(1)を番号iについて連立することで、以下の式が得られる。
Figure 2008109477
また、記号Yおよび記号Wを以下の式で定義する。
Y=HX+E ・・・(3)
ただし、Eの期待値について、E[E]=0が成り立つものとする。
また、低解像度画像間のノイズの相関がないものとすると、以下の式が成り立つ。
Figure 2008109477
この時、(3)式は確立項Eを伴う線形一次方程式になっている。そして、最適化アルゴリズムにて(3)式の解を求めることで、高解像度画像Xを求めることができる。
すなわち、図4の演算処理部321は、設定パラメータ422に基づいて最適化演算処理423を実行することで、高解像度画像Xを求めることができる。
ここで、最適化アルゴリズムにて(3)式の解を求めるために、以下の最適化問題を解くことができる。
Figure 2008109477
この(5)式の最適化問題は古典的な2次計画問題であり、最急降下法や擬似逆行列による方法などによって容易に解くことができる。
また、高解像度画像Xに滑らかさを持たせるために、以下に示すように、滑らかさを考慮した最適化問題を解くことができる。
Figure 2008109477
ただし、Sはラプラシアンを表す作用素、Vは重みである。
さらに、高解像度画像Xを確率変数とみなし、その自己相関関数をQとおくと、以下の最適化問題を解くことで、事後確率最大化原理に準じた高解像度画像Xを計算することができる。
Figure 2008109477
上述した最適化問題は、以下の形式で表現することができる。
Figure 2008109477
ただし、(5)式の最適化問題では、RおよびPは以下の式で表すことができる。
Figure 2008109477
また、(7)式の最適化問題では、RおよびPは以下の式で表すことができる。
Figure 2008109477
また、(6)式の最適化問題では、RおよびPは以下の式で表すことができる。
Figure 2008109477
(8)式は連立一次方程式であり、ガウスザイデル法、共役勾配法、ヤコビ法などの様々な方法にて解くことができる。
例えば、最急降下法に倣って繰り返し演算によって(8)式を解く方法を以下に示す。
第k番目の高解像度画像Xの候補をXとすると、第k番目の高解像度画像Xから第(k+1)番目の高解像度画像Xk+1を以下の式によって求める。
k+1=X−αR(RX−P) ・・・(9)
ただし、αは最適化問題を解く際の設定パラメータ422であり、非負の値をとる。
また、αは以下の式にて定義される行列Aのスペクトル半径が1未満になるように選択することができる。
A=I−αR
第1番目の高解像度画像Xを設定する方法としては、観測画像それ自体を用いる方法や全ての画素値を一定値とする方法などがある。
そして、(9)式で与えられる繰り返し演算を適当な回数だけ実行することにより、最終的な高解像度画像Xを求めることができる。
これにより、複数の撮像素子131〜134上に同一の視点から見た同一のサイズの光学像をそれぞれ同時に結像させた上で、複数の低解像度画像から高解像度画像を生成することができる。このため、撮像対象110が動いている場合や照明環境が変化する場合あるいは撮像装置の手ブレが発生した場合においても、低解像度画像間で輝度や色の変化が発生したり、撮像対象110の位置が異なったりするのを防止することができ、半導体製造プロセスの制約によって撮像素子131〜134の分解能に限界がある場合においても、画質の低下を抑制しつつ、その撮像素子131〜134の分解能を超える高解像度画像を生成することが可能となる。
また、撮像素子131〜134間の微小な位置ずれを機械的に固定させることができ、予めキャリブレーションすることで、撮像素子131〜134間の微小な位置ずれを毎回検出する必要がなくなることから、超解像アルゴリズムを高速かつ精密に適用することができ、計算量やメモリ容量を低減することができる。
また、撮像素子131〜134間のサブピクセル精度の位置ずれが固定されることから、FPGAやDSPを用いたハードウェア処理によって超解像アルゴリズムを実行させることができ、高解像度画像を高速に生成することができる。
さらに、テレセントリックレンズ101を用いることにより、ビームスプリッタ121〜123の配置にある程度の自由度を持たせることができ、撮像素子131〜134の大きさに左右されることなく、画像撮影装置100を組み立てることが可能となる。
なお、撮像素子131〜134間の微小なずれ位置は製造過程によってばらつくことがある。このため、キャリブレーション用のパターンを予め撮影し、各撮像素子131〜134によって撮影された画像の違いから撮像素子131〜134間の微小なずれ位置を決定することができる。そして、この決定された微小なずれ位置を結像パラメータ421として利用することにより、撮像素子131〜134間の微小なずれ位置のばらつきを吸収することができる。
図7は、本発明の第2実施形態に係る画像取得装置200の概略構成を示すブロック図である。
図7において、画像取得装置201には、サブピクセル単位で互いに撮像位置がずらされるようにして同一の時刻に同一の視点から見た複数の低解像度画像を同時に撮影する画像撮影装置100、画像撮影装置100にて撮影された複数の低解像度画像を転送する画像転送装置211、画像取得装置201を計算機301に接続する接続インターフェース212、画像取得装置200に電源を供給する電源装置213が設けられている。さらに、超解像アルゴリズムを適用することにより、複数の低解像度画像から高解像度画像を生成する演算処理部321、複数の低解像度画像や低解像度画像から生成された高解像度画像を記憶するメモリ611が設けられている。そして、画像転送装置211、演算処理部321、メモリ611および接続インターフェース212はバス612を介して互いに接続されている。
そして、画像撮影装置100は、サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に同一のサイズの光学像をそれぞれ同時に結像させることで、同一の時刻に同一の視点から見た複数の低解像度画像を撮影する。そして、画像撮影装置100にて同時に撮影された複数の低解像度画像は画像転送装置211に送られ、画像転送装置211は、それらの複数の低解像度画像をバス612を介してメモリ611に転送する。そして、画像撮影装置100にて撮影された複数の低解像度画像がメモリ611に転送されると、それら複数の低解像度画像がメモリ611に記憶される。そして、メモリ661に記憶された複数の低解像度画像は演算処理部321に送られ、超解像アルゴリズムを適用することにより、それらの複数の低解像度画像から高解像度画像が生成され、メモリ611に記憶される。
これにより、画像取得装置200を単体として用いた場合においても、複数の撮像素子131〜134上に同一の視点から見た同一のサイズの光学像をそれぞれ同時に結像させた上で、複数の低解像度画像から高解像度画像を生成することができ、画質の低下を抑制しつつ、撮像素子131〜134の分解能を超える高解像度画像を得ることが可能となる。
また、FPGAやDSPなどの高速プロセッサを演算処理部321に用いることで、低コストで高速に一連の処理を実行し、高解像度画像をリアルタイムで出力させることが可能となる。
図8は、本発明の一実施形態に係る超解像度化処理にかかる処理時間を示す図である。
図8において、図7のメモリ611へ同時に転送できる画像データが、撮像素子131〜134にてそれぞれ撮像された低解像度画像の1枚分に相当する場合、複数の撮像素子131〜134の露光1002が画像撮影装置100にて行われた後、複数枚の低解像度画像の画像転送1003が1枚ずつ行われ、さらに超解像度化1004が行われる。
このため、低解像度画像から高解像度画像を生成するまでにかかる処理時間1001は、(露光1002にかかる時間)+(画像転送1003にかかる時間)×(低解像度画像の枚数)+(超解像度化1004にかかる時間)となり、図16の撮像位置移動1204にかかる時間がなくなることから、図16の方法に比べて大幅に短縮することができる。
図9は、本発明の一実施形態に係る超解像度化処理にかかる処理時間のその他の例を示す図である。
図9において、図7のメモリ661へ同時に転送できる画像データが、撮像素子131〜134にてそれぞれ撮像された低解像度画像の枚数分に相当する場合、複数の撮像素子131〜134の露光1102が画像撮影装置100にて一度に行われた後、複数枚の低解像度画像の画像転送1103が一度に行われ、さらに超解像度化1104が行われる。
このため、低解像度画像から高解像度画像を生成するまでにかかる処理時間1101は、(露光1102にかかる時間)+(画像転送1103にかかる時間)+(超解像度化1104にかかる時間)となり、図8の方法よりもさらに短縮することができる。
図10は、本発明の第3実施形態に係る画像生成装置における光学系の概略構成を示す側面図である。
図10において、画像撮影装置2100には、入射ビームを平行ビームに変換するテレセントリックレンズ2101、テレセントリックレンズ2101から出射された平行ビームを複数の光ビームに分光するビームスプリッタ2121〜2123、ビームスプリッタ2121〜2123にて分光された光ビームがそれぞれ入射される撮像素子2131〜2134、ビームスプリッタ2121〜2123にて分光された光ビームを撮像素子2131〜2134上にそれぞれ結像させるレンズ2141〜2144、ビームスプリッタ2121〜2123にて分光された光ビームを反射させるミラー2124、サブピクセル単位で互いに撮像位置がずらされた状態で撮像素子2131〜2134を同一平面上で支持する支持体2161が設けられている。
そして、撮像対象2110から反射された光ビームはテレセントリックレンズ2101に入射し、テレセントリックレンズ2101にて平行ビームに変換された後、ビームスプリッタ2121に入射する。そして、ビームスプリッタ2121に入射した光ビームは透過光と反射光に分光され、ビームスプリッタ2121にて分光された反射光はレンズ2141を介して撮像素子2131に入射し、撮像対象2110に対応した光学像が撮像素子2131上に結像される。
一方、ビームスプリッタ2121にて分光された透過光はビームスプリッタ2122に入射し、透過光と反射光に分光される。そして、ビームスプリッタ2122にて分光された反射光はレンズ2142を介して撮像素子2132に入射し、撮像素子2131上に結像された光学像と同一のサイズの光学像が撮像素子2132上に結像される。
一方、ビームスプリッタ2122にて分光された透過光はビームスプリッタ2123に入射し、透過光と反射光に分光される。そして、ビームスプリッタ2123にて分光された反射光はレンズ2143を介して撮像素子133に入射し、撮像素子2131、2132上に結像された光学像と同一のサイズの光学像が撮像素子2133上に結像される。
一方、ビームスプリッタ2123にて分光された透過光はミラー2124にて反射された後、レンズ2144を介して撮像素子2134に入射し、撮像素子2131〜2133上に結像された光学像と同一のサイズの光学像が撮像素子2134上に結像される。
これにより、撮像素子2131〜2134を同一平面上に配置することを可能としつつ、複数の撮像素子2131〜2134上に同一の視点から見た同一のサイズの光学像をそれぞれ同時に結像させることができ、画質の低下を抑制しつつ、複数の低解像度画像から高解像度画像を生成することが可能となるとともに、撮像素子2131〜2134間のすれのキャリブレーションを効率よく行うことができる。
図11は、本発明の第4実施形態に係る画像生成装置における光学系の概略構成を示す側面図である。
図11において、画像撮影装置3100には、入射ビームを集光する対物レンズ3101、対物レンズ3101から出射された光ビームを複数の光ビームに分光するビームスプリッタ3121〜3123、ビームスプリッタ3121〜3123にて分光された光ビームがそれぞれ入射される撮像素子3131〜3134、サブピクセル単位で互いに撮像位置がずらされた状態で対物レンズ3101から結像面までの光路長が等しくなるように撮像素子3131〜3134を支持する支持体3161が設けられている。
ここで、撮像素子3131〜3134は、対物レンズ3101から結像面までの光路長が等しくなるように支持体3161にて支持することができる。具体的には、(対物レンズ3101からビームスプリッタ3121までの光路長3141+ビームスプリッタ3121から撮像素子3131までの光路長3151)=(対物レンズ3101からビームスプリッタ3122までの光路長3142+ビームスプリッタ3122から撮像素子3132までの光路長3152)=(対物レンズ3101からビームスプリッタ3123までの光路長3143+ビームスプリッタ3123から撮像素子3133までの光路長3153)=(対物レンズ3101から撮像素子3134までの光路長3144)となるように、撮像素子3131〜3134を支持体3161にて支持することができる。
そして、撮像対象3110から反射された光ビームは対物レンズ3101に入射し、対物レンズ3101にて集光された後、ビームスプリッタ3121に入射する。そして、ビームスプリッタ3121に入射した光ビームは透過光と反射光に分光され、ビームスプリッタ3121にて分光された反射光は撮像素子3131に入射し、撮像対象3110に対応した光学像が撮像素子3131上に結像される。
一方、ビームスプリッタ3121にて分光された透過光はビームスプリッタ3122に入射し、透過光と反射光に分光される。そして、ビームスプリッタ3122にて分光された反射光は撮像素子3132に入射し、撮像素子3131上に結像された光学像と同一のサイズの光学像が撮像素子3132上に結像される。
一方、ビームスプリッタ3122にて分光された透過光はビームスプリッタ3123に入射し、透過光と反射光に分光される。そして、ビームスプリッタ3123にて分光された反射光は撮像素子3133に入射し、撮像素子3131、3132上に結像された光学像と同一のサイズの光学像が撮像素子3133上に結像される。
一方、ビームスプリッタ3123にて分光された透過光は撮像素子3134に入射し、撮像素子3131〜3133上に結像された光学像と同一のサイズの光学像が撮像素子3134上に結像される。
これにより、テレセントリックレンズ2101を用いることなく、複数の撮像素子2131〜2134上に同一の視点から見た同一のサイズの光学像をそれぞれ同時に結像させることができ、画質の低下を抑制しつつ、複数の低解像度画像から高解像度画像を生成することが可能となるとともに、光学系の簡略化を図ることができる。
図12は、図11の対物レンズの構成例を示す側面図である。
図12において、図11の対物レンズ3101が単一のレンズで構成されるものとする。この場合、撮像対象3110の物体面から対物レンズ3101までの距離3644は、対物レンズ3101の焦点距離3646と、対物レンズ3101から撮像素子3134の結像面までの距離3645によってガウスの結像公式にて求めることができる。このガウスの結像公式によれば、撮像素子3134の結像面までの距離3645は比較的長くとれるため、撮像対象3110の物体面から対物レンズ3101までの距離3644は短くなる。このため、対物レンズ3101を単一のレンズで構成する方法は、接写距離が比較的小さな微細構造の観察用途などに適している。また、レンズが1つであるため、製造コストを抑えることができる。
図13は、図11の対物レンズのその他の構成例を示す側面図である。
図13において、図11の対物レンズ3101が複数のレンズで構成されるものとする。この場合、対物レンズ3101には、物体側レンズ3711、像側レンズ3712および絞り3721が設けられ、絞り3721は物体側レンズ3711と像側レンズ3712との間に配置される。
そして、物体側レンズ3711を通して絞り3721付近で結像した光学像は、像側レンズ3712を通して再び撮像素子3134の結像面上で結像する。ここで、像側レンズ3712の焦点距離や絞り3721から像側レンズ3712までの距離3741を用いて像側レンズ3712から撮像素子3134の結像面までの距離3745を調整し、物体側レンズ3711の焦点距離や絞り3721から物体側レンズ3711までの距離3742を用いて物体側レンズ3711から撮像対象3110の物体面までの距離3744を調整することにより、対物レンズ3101から撮像対象3110までの距離や対物レンズ3101から撮像素子3134までの距離に比較的大きな設計の自由度を持たせることができる。
図14は、本発明の第5実施形態に係る画像生成装置における光学系の概略構成を示す側面図である。
図14において、画像撮影装置4100には、入射ビームを集光する対物レンズ4101、対物レンズ4101から出射された光ビームを複数の光ビームに分光するビームスプリッタ4121〜4123、ビームスプリッタ4121〜4123にて分光された光ビームがそれぞれ入射される撮像素子4131〜4134が設けられている。ここで、ビームスプリッタ4122はビームスプリッタ4121の反射光が入射されるようにしてビームスプリッタ4121に接するように配置され、ビームスプリッタ4123はビームスプリッタ4121の透過光が入射されるようにしてビームスプリッタ4121に接するように配置されている。そして、撮像素子4131〜4134は、サブピクセル単位で互いに撮像位置がずらされた状態で対物レンズ4101から結像面までの光路長が等しくなるようにビームスプリッタ4121〜4123にて支持されている。
具体的には、撮像素子4131は、ビームスプリッタ4122の透過光が入射されるようにしてビームスプリッタ4122に接するように配置され、撮像素子4132は、ビームスプリッタ4122の反射光が入射されるようにしてビームスプリッタ4122に接するように配置され、撮像素子4133は、ビームスプリッタ4123の透過光が入射されるようにしてビームスプリッタ4123に接するように配置され、撮像素子4134は、ビームスプリッタ4123の反射光が入射されるようにしてビームスプリッタ4123に接するように配置されている。
なお、撮像素子4131〜4134上の受光量が同一になるようにビームスプリッタ4121〜4123の透過光と反射光との分光比率を定めることができ、例えば、4個の撮像素子4131〜4134が設けられている場合、ビームスプリッタ4121の透過光と反射光との分光比率は1:1、ビームスプリッタ4122の透過光と反射光との分光比率は1:1、ビームスプリッタ4123の透過光と反射光との分光比率は1:1に設定することができる。
そして、撮像対象4110から反射された光ビームは対物レンズ4101に入射し、対物レンズ4101にて集光された後、ビームスプリッタ4121に入射する。そして、ビームスプリッタ4121に入射した光ビームは透過光と反射光に分光され、ビームスプリッタ4121にて分光された反射光はビームスプリッタ4122に入射し、ビームスプリッタ4122にてさらに透過光と反射光に分光される。そして、ビームスプリッタ4122にて分光された透過光は撮像素子4131に入射し、撮像対象4110に対応した光学像が撮像素子4131上に結像される。
一方、ビームスプリッタ4122にて分光された反射光は撮像素子4132に入射し、撮像素子4131上に結像された光学像と同一のサイズの光学像が撮像素子4132上に結像される。
一方、ビームスプリッタ4121にて分光された透過光はビームスプリッタ4123に入射し、ビームスプリッタ4123にてさらに透過光と反射光に分光される。そして、ビームスプリッタ4123にて分光された透過光は撮像素子4133に入射し、撮像素子4131、4132上に結像された光学像と同一のサイズの光学像が撮像素子4133上に結像される。
一方、ビームスプリッタ4123にて分光された反射光は撮像素子4134に入射し、撮像素子4131、4132、4133上に結像された光学像と同一のサイズの光学像が撮像素子4134上に結像される。
これにより、テレセントリックレンズ2101を用いることなく、複数の撮像素子4131〜4134上に同一の視点から撮像された同一のサイズの光学像をそれぞれ同時に結像させることができ、画質の低下を抑制しつつ、複数の低解像度画像から高解像度画像を生成することが可能となるとともに、画像撮影装置のコンパクト化を実現しつつ、光学系の簡略化を図ることができる。
本発明では、複数の低解像度の撮像素子を用いることで、空間的な歪がなく、しかも時間的にずれのない高解像画像を生成することができ、品質検査装置分野、コンピュータビジョン分野、画像認識応用分野、映像製作分野などに利用することができる。
本発明の第1実施形態に係る画像生成装置の概略構成を示すブロック図である。 図2(a)は、本発明の第1実施形態に係る画像生成装置における光学系の概略構成を示す側面図、図2(b)は、本発明の第1実施形態に係る画像生成装置における光学系の概略構成を示す斜視図である。 図2のテレセントリックレンズの構成例を示す側面図である。 本発明の一実施形態に係る画像処理装置の概略構成を示すブロック図である。 本発明の一実施形態に係る超解像アルゴリズムを示すフローチャートである。 本発明の一実施形態に係る複数の低解像度画像から高解像度画像を生成する方法を示す図である。 本発明の第2実施形態に係る画像取得装置200の概略構成を示すブロック図である。 本発明の一実施形態に係る超解像度化処理にかかる処理時間を示す図である。 本発明の一実施形態に係る超解像度化処理にかかる処理時間のその他の例を示す図である。 本発明の第3実施形態に係る画像生成装置における光学系の概略構成を示す側面図である。 図11(a)は、本発明の第4実施形態に係る画像生成装置における光学系の概略構成を示す側面図、図11(b)は、本発明の第4実施形態に係る画像生成装置における光学系の概略構成を示す斜視図である。 図11の対物レンズの構成例を示す側面図である。 図11の対物レンズのその他の構成例を示す側面図である。 本発明の第5実施形態に係る画像生成装置における光学系の概略構成を示す側面図である。 従来の複数の低解像度画像から高解像度画像を生成する方法を示す図である。 従来の超解像度化処理にかかる処理時間を示す図である。
符号の説明
100、2100、3100、4100 画像撮影装置
101、2101 テレセントリックレンズ
110、2100、3100、4110 撮像対象
121〜123、2121〜2123、3121〜3123、4121〜4123 ビームスプリッタ
131〜134、2131〜2134、3131〜3134、4131〜4134 撮像素子
141〜144、2141〜2144 レンズ
161、2161、3161 支持体
2124 ミラー
200 画像取得装置
211 画像転送装置
212 接続インターフェース
213 電源装置
300 画像処理装置
311 低解像度画像メモリ
312 高解像度画像メモリ
321 演算処理部
322 入出力装置
331 画像データ記憶部
350 画像表示装置
511、3711 物体側レンズ
512、3712 像側レンズ
521、3721 絞り
700〜704 画素
3101、4101 対物レンズ

Claims (10)

  1. サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子と、
    前記複数の撮像素子上に同一の視点から見た同一のサイズの光学像をそれぞれ同時に結像させる光学系と、
    前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする画像生成装置。
  2. 入射ビームを平行ビームに変換するテレセントリックレンズと、
    前記テレセントリックレンズから出射された平行ビームを複数の光ビームに分光するビームスプリッタと、
    サブピクセル単位で互いに撮像位置がずらされて配置され、前記ビームスプリッタにて分光された光ビームをそれぞれ入射させる複数の撮像素子と、
    前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする請求項1記載の画像生成装置。
  3. 入射ビームを集光する対物レンズと、
    サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子と、
    前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする請求項1記載の画像生成装置。
  4. 入射ビームを集光する対物レンズと、
    前記対物レンズにて集光された光ビームを複数の光ビームに分光するビームスプリッタと、
    サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記ビームスプリッタによる分光回数が互いに一致するようにして前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子と、
    前記撮像素子にて同時に撮像された複数の低解像度画像から高解像度画像を生成する画像処理手段とを備えることを特徴とする請求項3記載の画像生成装置。
  5. 前記画像処理手段は、
    前記低解像度画像の画素値を正規化する画素値正規化手段と、
    ベクトル表現した前記複数の低解像度画像と高解像度画像との関係を線形一次方程式化する線形一次方程式化手段と、
    前記線形一次方程式を最適化問題として解くことにより、前記高解像度画像を算出する最適化演算処理手段とを備えることを特徴とする請求項1から4のいずれか1項記載の画像生成装置。
  6. サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に同一のサイズの光学像をそれぞれ同時に結像させるステップと、
    前記複数の撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする画像生成方法。
  7. 入射ビームを平行ビームに変換するステップと、
    前記平行ビームを複数の光ビームに分光するステップと、
    サブピクセル単位で互いに撮像位置がずらされて配置された複数の撮像素子上に、前記分光された光ビームをそれぞれ同時に入射させるステップと、
    前記複数の撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする請求項6記載の画像生成方法。
  8. 入射ビームを対物レンズにて集光するステップと、
    サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子上に、前記集光された光ビームをそれぞれ同時に入射させるステップと、
    前記撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする請求項6記載の画像生成方法。
  9. 入射ビームを対物レンズにて集光するステップと、
    前記対物レンズにて集光された光ビームを複数の光ビームに分光するステップと、
    サブピクセル単位で互いに撮像位置がずらされて配置されるとともに、前記分光回数が互いに一致するようにして前記対物レンズから結像面までの光路長が等しくなるように配置された複数の撮像素子上に、前記分光された光ビームをそれぞれ同時に入射させるステップと、
    前記撮像素子にて同時に撮像された低解像度画像から高解像度画像を生成するステップとを備えることを特徴とする請求項8記載の画像生成方法。
  10. 前記低解像度画像から高解像度画像を生成するステップは、
    前記低解像度画像の画素値を正規化するステップと、
    ベクトル表現した前記複数の低解像度画像と高解像度画像との関係を線形一次方程式化するステップと、
    前記線形一次方程式を最適化問題として解くことにより、前記高解像度画像を算出するステップとを備えることを特徴とする請求項6から9のいずれか1項記載の画像生成方法。
JP2006291451A 2006-10-26 2006-10-26 画像生成装置および画像生成方法 Pending JP2008109477A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006291451A JP2008109477A (ja) 2006-10-26 2006-10-26 画像生成装置および画像生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006291451A JP2008109477A (ja) 2006-10-26 2006-10-26 画像生成装置および画像生成方法

Publications (1)

Publication Number Publication Date
JP2008109477A true JP2008109477A (ja) 2008-05-08

Family

ID=39442454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006291451A Pending JP2008109477A (ja) 2006-10-26 2006-10-26 画像生成装置および画像生成方法

Country Status (1)

Country Link
JP (1) JP2008109477A (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010157831A (ja) * 2008-12-26 2010-07-15 Canon Inc 画像処理装置及び画像処理方法、並びに、コンピュータプログラムおよび記憶媒体
JP2014511155A (ja) * 2011-03-31 2014-05-12 ビジュアル インテリジェンス,エルピー 自己較正リモートイメージング及びデータ処理システム
US9389298B2 (en) 2002-09-20 2016-07-12 Visual Intelligence Lp Self-calibrated, remote imaging and data processing system
CN107077601A (zh) * 2014-09-30 2017-08-18 高通股份有限公司 使用基于事件的视觉传感器进行低功率始终接通脸部检测、跟踪、辨识及/或分析
CN107687812A (zh) * 2017-09-19 2018-02-13 南通爱慕希机械股份有限公司 一种基于机器视觉的外螺纹智能检测系统
US10614332B2 (en) 2016-12-16 2020-04-07 Qualcomm Incorportaed Light source modulation for iris size adjustment
US10984235B2 (en) 2016-12-16 2021-04-20 Qualcomm Incorporated Low power data generation for iris-related detection and authentication
US11068712B2 (en) 2014-09-30 2021-07-20 Qualcomm Incorporated Low-power iris scan initialization
USRE49105E1 (en) 2002-09-20 2022-06-14 Vi Technologies, Llc Self-calibrated, remote imaging and data processing system
WO2022201501A1 (ja) * 2021-03-26 2022-09-29 パイオニア株式会社 センサ装置
WO2022201502A1 (ja) * 2021-03-26 2022-09-29 パイオニア株式会社 センサ装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02295383A (ja) * 1989-05-10 1990-12-06 Clarion Co Ltd 高精細度撮像装置
JPH0490284A (ja) * 1990-08-02 1992-03-24 Kyodo Printing Co Ltd 撮像装置
JP2005136868A (ja) * 2003-10-31 2005-05-26 Sony Corp 撮像装置および撮像方法、画像処理装置および画像処理方法、画像表示システム、記録媒体、並びにプログラム
JP2005333336A (ja) * 2004-05-19 2005-12-02 Olympus Corp 撮像装置
JP2006127241A (ja) * 2004-10-29 2006-05-18 Tokyo Institute Of Technology 超解像処理の高速化方法
JP2006126974A (ja) * 2004-10-26 2006-05-18 Tohken Co Ltd コード読取装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02295383A (ja) * 1989-05-10 1990-12-06 Clarion Co Ltd 高精細度撮像装置
JPH0490284A (ja) * 1990-08-02 1992-03-24 Kyodo Printing Co Ltd 撮像装置
JP2005136868A (ja) * 2003-10-31 2005-05-26 Sony Corp 撮像装置および撮像方法、画像処理装置および画像処理方法、画像表示システム、記録媒体、並びにプログラム
JP2005333336A (ja) * 2004-05-19 2005-12-02 Olympus Corp 撮像装置
JP2006126974A (ja) * 2004-10-26 2006-05-18 Tohken Co Ltd コード読取装置
JP2006127241A (ja) * 2004-10-29 2006-05-18 Tokyo Institute Of Technology 超解像処理の高速化方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9389298B2 (en) 2002-09-20 2016-07-12 Visual Intelligence Lp Self-calibrated, remote imaging and data processing system
US9797980B2 (en) 2002-09-20 2017-10-24 Visual Intelligence Lp Self-calibrated, remote imaging and data processing system
USRE49105E1 (en) 2002-09-20 2022-06-14 Vi Technologies, Llc Self-calibrated, remote imaging and data processing system
JP2010157831A (ja) * 2008-12-26 2010-07-15 Canon Inc 画像処理装置及び画像処理方法、並びに、コンピュータプログラムおよび記憶媒体
JP2014511155A (ja) * 2011-03-31 2014-05-12 ビジュアル インテリジェンス,エルピー 自己較正リモートイメージング及びデータ処理システム
CN107077601A (zh) * 2014-09-30 2017-08-18 高通股份有限公司 使用基于事件的视觉传感器进行低功率始终接通脸部检测、跟踪、辨识及/或分析
US11068712B2 (en) 2014-09-30 2021-07-20 Qualcomm Incorporated Low-power iris scan initialization
US10614332B2 (en) 2016-12-16 2020-04-07 Qualcomm Incorportaed Light source modulation for iris size adjustment
US10984235B2 (en) 2016-12-16 2021-04-20 Qualcomm Incorporated Low power data generation for iris-related detection and authentication
CN107687812A (zh) * 2017-09-19 2018-02-13 南通爱慕希机械股份有限公司 一种基于机器视觉的外螺纹智能检测系统
WO2022201501A1 (ja) * 2021-03-26 2022-09-29 パイオニア株式会社 センサ装置
WO2022201502A1 (ja) * 2021-03-26 2022-09-29 パイオニア株式会社 センサ装置

Similar Documents

Publication Publication Date Title
JP2008109477A (ja) 画像生成装置および画像生成方法
JP6702323B2 (ja) カメラモジュール、固体撮像素子、電子機器、および撮像方法
JP5988790B2 (ja) 画像処理装置、撮像装置、画像処理方法、および、画像処理プログラム
TWI480832B (zh) 用於三維感測的參考圖像技術
JP5751986B2 (ja) 画像生成装置
JP5489897B2 (ja) ステレオ測距装置及びステレオ測距方法
JP4440341B2 (ja) キャリブレーション方法、キャリブレーション装置及びその装置を備えるキャリブレーションシステム
US7646938B2 (en) Method and system for super-resolution of confocal images acquired through an image guide, and device used for implementing such a method
US8675062B2 (en) Shape measuring device, observation device, and image processing method
CN106483105B (zh) 基于强度关联成像的透射式微视觉系统及图像获取方法
US10410366B2 (en) Imaging system using structured light for depth recovery
CN107113370A (zh) 图像捕获装置及图像捕获方法
CN111833248B (zh) 基于部分哈达玛矩阵的超分辨率鬼成像方法及系统
JP2006127241A (ja) 超解像処理の高速化方法
JP4699406B2 (ja) 画像処理装置、画像処理方法、画像処理装置制御プログラム、及び該プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2012052921A (ja) 撮像システム
JP2016162833A (ja) 撮像素子、撮像装置および画像処理装置
JP6113406B2 (ja) 赤外線目標検出装置
JPWO2014171438A1 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
CN109923854B (zh) 图像处理装置、图像处理方法以及记录介质
CN109923853B (zh) 图像处理装置、图像处理方法以及程序
JP2013021636A (ja) 画像処理装置および方法、学習装置および方法、プログラム、並びに記録媒体
JP4556803B2 (ja) 画像処理装置及びプログラム
JP2018133064A (ja) 画像処理装置、撮像装置、画像処理方法および画像処理プログラム
JP4695557B2 (ja) 要素画像群補正装置、要素画像群取得システム、要素画像群補正方法及び要素画像群補正プログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120124

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20120125

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120612