JP2008306492A - 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体 - Google Patents
画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体 Download PDFInfo
- Publication number
- JP2008306492A JP2008306492A JP2007152019A JP2007152019A JP2008306492A JP 2008306492 A JP2008306492 A JP 2008306492A JP 2007152019 A JP2007152019 A JP 2007152019A JP 2007152019 A JP2007152019 A JP 2007152019A JP 2008306492 A JP2008306492 A JP 2008306492A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- resolution
- super
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】従来よりも少ない数の低解像度画像から復元精度の高い高解像度画像を超解像処理により得る。
【解決手段】制御装置3は、撮像素子を有し、撮像対象物に対する相対位置が固定された撮像装置2が、その撮像素子を露光させた状態で、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うように当該撮像装置2を制御することにより、撮像対象物の複数の撮像画像を取得する撮像制御部4と、撮像制御部4が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理部6とを備えている。
【選択図】図1
【解決手段】制御装置3は、撮像素子を有し、撮像対象物に対する相対位置が固定された撮像装置2が、その撮像素子を露光させた状態で、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うように当該撮像装置2を制御することにより、撮像対象物の複数の撮像画像を取得する撮像制御部4と、撮像制御部4が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理部6とを備えている。
【選択図】図1
Description
本発明は、低解像度画像を高解像度化して超解像画像を生成する画像処理装置、画像処理方法、画像処理プログラムおよび当該画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。
表示装置等の検査を自動的に行う自動検査装置では、一般的に、エリアセンサ等の撮像装置を用いて検査対象を撮像して得られた検査画像を、所定のアルゴリズムで処理して欠陥検出等を行っている。そのため、自動検査装置においては、検査画像の解像度が高いほど詳細な検査が可能となるため、解像度の高い画像が撮像できる高解像度の撮像装置が求められる。
しかしながら、例えば、検査対象が液晶表示パネルである場合、近年の液晶表示パネルのパネルサイズ大型化に伴い、液晶表示パネルの表示画素数は飛躍的に増大しているため、最新のエリアセンサを用いても検査に十分な解像度は得られなくなってきている。そのため、検査装置において、複数の低解像度画像から1枚の高解像度画像を生成する、超解像処理やイメージシフト処理等の高解像度化処理を行う手法、または、1台の検査装置に複数台のカメラを設置し、十分な解像度で撮像する手法が用いられる。
前者の高解像度化手法は、後者の複数台のカメラを用いる手法と比較すると、1)撮像時間が多くかかる、2)高解像度化画像生成のための画像処理が必要である、等のデメリットがある反面、1)検査装置のコストが安くなる、2)メンテナンス性が良い、等のメリットがある。
近年、国内工場に導入する検査装置のコストダウンや、安価な検査装置が求められる海外への展開に向けて、高解像度化手法の研究が多く行われている。
この高解像度化手法とは、位置ずれのある複数の低解像度画像から、1つの高解像度画像を生成する手法であるが、大きく分類してイメージシフト処理と超解像処理との2種類に分けられる。
イメージシフト処理は、生成される高解像度画像において、撮像された低解像度画像の画素に対応する画素を、その低解像度画像の画素の輝度値に基づいて高解像度画像にマッピングする手法である。
一方、超解像処理は、複数の低解像度画像より1つの高解像度画像を推定する処理であり、例えば、ML(Maximum-likelihood)法、MAP(Maximum A Posterior)法や、POCS(Projection On to Convex Sets)法など、様々な超解像処理方法が提案されている。
ML法とは、高解像度画像から推定された低解像度画像の画素値と、実際に観測された画素値との二乗誤差を評価関数とし、この評価関数を最小化するような高解像度画像を推定画像とする方法である。つまり、ML法とは、最尤推定の原理に基づく超解像処理方法である。
また、MAP法とは、二乗誤差に高解像度画像の確率情報を付加した評価関数を最小化するような高解像度画像を推定する方法である。つまり、ML法とは、高解像度画像に対するある先見情報を利用して、事後確率を最大化する最適化問題として高解像度画像を推定する超解像処理方法である。
そして、POCS法とは、高解像度画像と低解像度画像との画素値に関して連立方程式を作成し、その方程式を逐次的に解くことにより、高解像度画像を得る超解像処理方法である。
これらの超解像処理は、まず、高解像度画像を仮定し、そして仮定した高解像度画像から、カメラモデルから得られる点広がり関数(PSF関数)に基づき、全ての低解像度画像の画素について、その画素値を推定し、その推定値と観測された画素値(観測値)との差が小さくなるような高解像度画像を探索するという処理を有している。そのため、これらの超解像処理は、再構成型超解像処理方法と呼ばれている。
イメージシフト処理では、低解像度画像の全画素を高解像度画像の画素にマッピングする必要があるため、低解像度画像の撮像位置及び撮像枚数は固定であるのに対して、超解像処理では、低解像度画像の撮像位置は既知であればよく、使用する低解像度画像の枚数にも制限はない。
また、非特許文献1に記載されているように、超解像処理では使用する低解像度画像の枚数が多くなるほど高解像度画像の画像復元精度は向上する。さらに、非特許文献2に記載されているように、計算で用いられる低解像度画像の各画素位置を、その画素位置を高解像度画像における最近傍の画素の位置で近似したとしても、高解像度画像の復元精度はほとんど変化しないとの特徴が報告されている。
複数の低解像度の撮像画像を用いて高解像度の画像を生成する手法として、特許文献1または特許文献2に記載の手法を挙げることができる。
特許文献1には、撮像装置または撮像素子を移動させ、その移動速度または加速度が小さくなった時点で、超解像処理のための低解像度画像を撮像する方法が記載されている。この撮像方法により、超解像処理に用いられる低解像度画像のブレを小さくすることができる。
また、特許文献2に記載の手法は、移動する対象の撮像画像を高解像度化するものである。
なお、イメージシフト時に移動撮像を行う方法としては、例えば、特許文献3に記載の手法がある。この手法では、ローパスフィルタの効果を発生させることが可能である。
特開2006−140885号公報(2006年6月1日公開)
特開2002−358529号公報(2002年12月13日)
特開平10−178578号公報(1998年6月30日)
川崎洋、池内克史、坂内正夫、「時空間画像解析を用いた全方位カメラ映像の超解像度化」、電子情報通信学会論文誌D-II、2001年8月、第J84―D―II巻、第8号、p.1891―1902
田中正行、奥富正敏、「再構成型超解像処理の高速化アルゴリズム」、社団法人情報処理学会研究報告、2004年11月12日、第2004-CVIM-146巻、第14号、p.97―104
しかしながら、上記従来の構成では、以下の問題が生じる。
特許文献1および2に記載の手法は、撮像画像の枚数を低減させて、撮像時間を短縮することを目的としたものではない。すなわち、特許文献1および2に記載の手法では、超解像度画像を生成するために、多数の撮像画像を取得する必要があり、撮像時間が長くなるという問題が生じる。
特許文献3に記載の手法は、イメージシフト処理に関するものであるが、イメージシフト処理では、撮像画像の枚数が一定であるため、撮像画像の枚数を低減させて、撮像時間を短縮することはできない。なお、イメージシフト処理では、移動撮像画像を用いる場合と静止撮像画像を用いる場合とを比較すると、平滑化関数が変化するのみであるため、ローパスフィルタの効果は得られるが、必ずしも静止撮像画像を用いた場合に比べ処理後の画像における復元精度が向上するわけではない。
超解像処理において画像復元精度を向上させるためには、多数の低解像度画像を撮像する必要がある。しかし、検査装置においては撮像時間の上限が決まっているため、可能な撮像枚数が制限されている。一方、少ない数の低解像度画像で超解像処理を行った場合には、推定された高解像度画像が、検査で必要な復元精度を満たしていないことがある。
本発明は、上記の問題点を解決するためになされたもので、その目的は、従来よりも少ない数の低解像度画像から復元精度の高い高解像度画像を超解像処理により得ることができる画像処理装置を提供することにある。
本発明に係る画像処理装置は、上記の課題を解決するために、撮像素子を有し、撮像対象物に対する相対位置が固定された撮像手段が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うように当該撮像手段を制御することにより、当該撮像対象物の複数の撮像画像を取得する撮像制御手段と、上記撮像制御手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理手段とを備えることを特徴としている。
本発明に係る画像処理方法は、上記の課題を解決するために、撮像対象物に対する相対位置が固定された撮像手段が有する撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像処理を複数回行う撮像工程と、上記撮像工程において取得された複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理工程とを含むことを特徴としている。
従来の超解像処理では、生成される高解像度の画像に対応する基準位置から撮像位置をずらした撮像画像を多数用いる。そのため、従来の超解像処理には多大な処理時間を要する。
上記の構成によれば、撮像制御手段は、撮像対象物に対する相対位置が固定された撮像手段が、その撮像素子を露光させた状態で、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うように、当該撮像手段を制御する。これにより、撮像制御手段は、撮像対象を撮像した複数の撮像画像を取得する。超解像処理手段は、撮像制御手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも解像度の高い画像を生成する。
すなわち、撮像制御手段が取得する撮像画像は、撮像素子を露光させた状態で、撮像対象の像と撮像素子との相対位置を変化させながら撮像されたものであり、このひとつの撮像画像は、撮像対象の像と撮像素子との相対位置を変化させるごとに撮像した多数の撮像画像と同等の情報を有するものである。
それゆえ、撮像制御手段が取得した複数の撮像画像を超解像処理することにより、従来よりも少ない枚数の撮像画像から高解像度の画像を生成でき、超解像処理に要する時間を従来よりも短縮することができる。
また、上記撮像制御手段は、上記撮像手段に、上記像の位置を所定の範囲内で変化させながら当該撮像対象物を撮像する撮像工程を複数回行わせるものであり、上記所定の範囲は、生成される高解像度の画像に含まれるひとつの画素に対応するものであることが好ましい。
上記の構成によれば、撮像制御手段は、撮像手段が、その撮像素子を露光させた状態で、撮像素子の撮像面に結像した撮像対象物の像の位置を、生成される高解像度の画像に含まれるひとつの画素に対応する領域内で変化させながら当該撮像対象物を撮像するように、当該撮像手段を制御する。換言すれば、上記撮像工程は、生成される高解像度の画像に含まれるひとつの画素を生成するための撮像画像を複数取得するものである。
それゆえ、上記撮像工程において撮像された複数の撮像画像から、生成される高解像度の画像に含まれる画素値を推定することができる。
また、上記撮像制御手段は、上記撮像手段に、上記所定の範囲を所定の間隔でずらしながら上記撮像工程を複数回行わせることが好ましい。
上記の構成によれば、上記所定の範囲を所定の間隔でずらすことにより、生成される高解像度の画像の解像度に対応した数の撮像画像を取得することができる。
また、上記撮像手段は、上記撮像対象物に対する上記撮像素子の位置を変化させる変位手段を備え、上記撮像制御手段は、上記変位手段を制御することにより上記像の位置を変化させることが好ましい。
上記の構成によれば、撮像手段が備える変位手段を撮像制御手段が制御することにより、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させる。
それゆえ、撮像手段の全体を移動させる場合よりも、より正確かつ、より少ないエネルギーで撮像対象物の像の位置を変化させることができる。
また、上記撮像手段は、上記撮像素子へ入射する光の光路を変化させる光路変更手段を備え、上記撮像制御手段は、上記光路変更手段を制御することにより上記像の位置を変化させることが好ましい。
上記の構成によれば、撮像手段が備える光路変更手段を撮像制御手段が制御することにより、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させる。
それゆえ、撮像手段の全体を移動させる場合よりも、より正確かつ、より少ないエネルギーで撮像対象物の像の位置を変化させることができる。
また、上記光路変更手段は、上記像を結像させる光学的結像手段を変位させることが好ましい。
上記の構成によれば、光学的結像手段を変位させることにより撮像素子へ入射する光路を変化させることができ、それゆえ、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させることができる。
また、上記光路変更手段は、入射光の光路に対する自身の傾きに応じて出射光の光路が当該入射光の光路に対して変化する光学素子の、上記撮像手段の光軸に対する傾きを変化させるものであることが好ましい。
上記の構成によれば、上記光学素子の、撮像手段の光軸に対する傾きを変化させることにより撮像素子へ入射する光路を変化させることができ、それゆえ、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させることができる。
本発明の画像処理システムは、撮像素子を有する撮像手段と、上記画像処理装置とを備えることを特徴としている。
上記の構成によれば、画像処理装置は、撮像手段を制御することによって複数の撮像画像を取得することができ、取得した複数の撮像画像を超解像処理することにより、従来よりも少ない枚数の撮像画像から高解像度の画像を生成できる。それゆえ、超解像処理に要する時間を従来よりも短縮することができる。
また、上記画像処理装置を動作させる画像処理プログラムであって、コンピュータを上記各手段として機能させるための画像処理プログラム、および当該画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の技術的範囲に含まれる。
本発明に係る画像処理装置は、上記の課題を解決するために、撮像素子を有し、撮像対象物に対する相対位置が固定された撮像手段が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うことにより生成した複数の撮像画像を取得する撮像画像取得手段と、上記撮像画像取得手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理手段とを備えることを特徴としている。
上記の構成によれば、撮像画像取得手段は、撮像対象物に対する相対位置が固定された撮像手段が、その撮像素子を露光させた状態で、撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うことにより生成した複数の撮像画像を取得する。超解像処理手段は、撮像画像取得手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも解像度の高い画像を生成する。
それゆえ、撮像画像取得手段が取得した複数の撮像画像を超解像処理することにより、従来よりも少ない枚数の撮像画像から高解像度の画像を生成でき、超解像処理に要する時間を従来よりも短縮することができる。
本発明に係る画像処理装置は、以上のように、撮像素子を有し、撮像対象物に対する相対位置が固定された撮像手段が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うように当該撮像手段を制御することにより、当該撮像対象物の複数の撮像画像を取得する撮像制御手段と、上記撮像制御手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理手段とを備える構成である。
本発明に係る画像処理装置は、以上のように、撮像素子を有し、撮像対象物に対する相対位置が固定された撮像手段が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うことにより生成された複数の撮像画像を取得する撮像画像取得手段と、上記撮像画像取得手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理手段とを備える構成である。
本発明に係る画像処理方法は、以上のように、撮像対象物に対する相対位置が固定された撮像手段が有する撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像処理を複数回行う撮像工程と、上記撮像工程において取得された複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理工程とを含む構成である。
それゆえ、撮像制御手段が取得した複数の撮像画像を超解像処理することにより、従来よりも少ない枚数の撮像画像から高解像度の画像を生成でき、超解像処理に要する時間を従来よりも短縮することができるという効果を奏する。
〔実施の形態1〕
本発明の実施の一形態について図1〜図9に基づいて説明すれば、以下のとおりである。ここでは、撮像対象物である液晶パネル30を撮像した撮像画像を処理する画像処理装置(画像処理システム)1について説明する。しかし、本発明における撮像対象物は、液晶パネルに限定されず、どのようなものであってもよい。
本発明の実施の一形態について図1〜図9に基づいて説明すれば、以下のとおりである。ここでは、撮像対象物である液晶パネル30を撮像した撮像画像を処理する画像処理装置(画像処理システム)1について説明する。しかし、本発明における撮像対象物は、液晶パネルに限定されず、どのようなものであってもよい。
(画像処理装置1の構成)
図2は、本実施の形態に係る画像処理装置1の構成を示す概略図である。図2に示すように、画像処理装置1は、撮像装置2、制御装置(画像処理装置)3およびモニタ9から構成される。
図2は、本実施の形態に係る画像処理装置1の構成を示す概略図である。図2に示すように、画像処理装置1は、撮像装置2、制御装置(画像処理装置)3およびモニタ9から構成される。
撮像装置2は、静止した液晶パネル30を撮像するために液晶パネル30に対向するようにフレーム25に固定されている。すなわち、撮像装置2の筐体24と撮像対象物である液晶パネル30との相対位置は固定されている。撮像装置2は、複数の撮像素子を有しており、光学的に結像した液晶パネル30の像を、空間的に離散化させ、サンプリングし、それらの像を画像信号に変換する。この撮像装置2は、筐体24の内部にレンズ(光学的結像手段)21、固体撮像素子(撮像素子)22および当該固体撮像素子の位置を変化させる固体撮像素子用アクチュエータ(変位手段)23(以下、単にアクチュエータ23と称する)を有している。
レンズ21は、液晶パネル30の像を固体撮像素子22の撮像面上に結像させる。
固体撮像素子22は、レンズ21によって光学的に結像した液晶パネル30の像を、空間的に離散化させてサンプリングし、それらの像を画像信号に変換する。固体撮像素子22は、複数の撮像素子が、例えばマトリクス状に配列したものである。
固体撮像素子22として、例えばCCD(Charge Coupled Devices)イメージセンサ、CMOS(Complementary Metal-Oxide-Semiconductor)イメージセンサを使用することができる。本実施形態では、固体撮像素子22は、CCDやCMOS等のエリアセンサである。
アクチュエータ23は、液晶パネル30と固体撮像素子22との相対位置を変化させる。より具体的には、アクチュエータ23は、液晶パネル30とレンズ21とを結ぶ光軸に対して垂直な平面において固体撮像素子22を2次元的に移動させる。
撮像装置2において、レンズ21は、筐体24に固定されている。アクチュエータ23は、筐体24に固定された内壁24aに固定されており、固体撮像素子22は、このアクチュエータ23によって支持されている。そのため、アクチュエータ23が固体撮像素子22を変位させることによって、固体撮像素子22は、筐体24に対して相対的に変位することができる。
アクチュエータ23として、例えば、ピエゾアクチュエータまたはステッピングモータを使用することができる。本実施形態では、アクチュエータ23としてピエゾアクチュエータを用いる。
一方、撮像装置2の撮像対象である液晶パネル30は、フレーム31に固定され、液晶パネルコントローラ32によって、バックライトの点灯および表示パターンの切り替え等が実行される。
制御装置3は、撮像装置2を制御し、撮像装置2が取得した液晶パネル30の撮像画像を超解像処理することにより、高解像度画像を生成する。
モニタ9は、撮像装置2が取得した撮像画像および当該撮像画像から生成された高解像度画像等を表示する。
図1は、画像処理装置1の構成を示す機能ブロック図である。なお、図1には、図2において示した構成要素のうち、主要なもののみを示している。
図1に示すように、制御装置3は、撮像制御部(撮像制御手段、撮像画像取得手段)4、撮像画像保存部5、超解像処理部(超解像処理手段)6、高解像度画像保存部7および画像出力制御部8を有している。
撮像制御部4は、撮像装置2の撮像タイミングの制御、撮像装置2が備えるアクチュエータ23の運動の制御、および撮像装置2からの撮像画像データの受信等を行う。より具体的には、撮像制御部4は、撮像装置2が備える固体撮像素子22の露光時間に応じて当該固体撮像素子22の移動を制御する。撮像制御部4は、アクチュエータ制御部41および撮像タイミング制御部42を備えている。
アクチュエータ制御部41は、アクチュエータ23を所定のパターンで動作させることにより、固体撮像素子22の位置を制御する。具体的には、アクチュエータ制御部41は、アクチュエータ23の運動開始のタイミング、運動速度および運動距離等の制御を行う。
撮像タイミング制御部42は、撮像装置2へ制御信号を送ることにより、固体撮像素子22による撮像(露光)のタイミング(撮像開始時間、露光時間の長さ等)を制御する。本実施形態では、撮像タイミング制御部42は、当該撮像タイミングを撮像装置2へ送信する信号の電圧の変化により制御する。
アクチュエータ制御部41および撮像タイミング制御部42による制御の詳細については後述する。
撮像制御部4は、撮像装置2によってサンプリングされた撮像画像データ(撮像画像データ5a)を、当該撮像画像データを取得した時の撮像位置(固体撮像素子22の位置)と対応付けて撮像画像保存部5に格納する。
超解像処理部6は、撮像画像保存部5に格納された、複数の低解像度の撮像画像データ5aに所定の処理を施して1枚の高解像度画像を生成し、当該高解像度画像のデータ(高解像度画像データ7a)を高解像度画像保存部7に格納する。
画像出力制御部8は、高解像度画像保存部7に格納された高解像度画像データ7aを取得し、当該高解像度画像データ7aが示す画像をモニタ9に表示する。
(超解像処理部6における超解像度処理)
次に、超解像処理部6における超解像処理の詳細について説明する。
次に、超解像処理部6における超解像処理の詳細について説明する。
超解像処理は、生成される高解像度画像に対して定義される評価関数の最適化問題として定式化される。つまり、再構成型超解像処理は、推定された低解像度画像と観測された観測画像との二乗誤差に基づく評価関数の最適化問題に帰着される。
超解像処理は、未知数の非常に大きな最適化計算であるため、その評価関数の最適化には、例えば最急降下法などの繰返し計算法がよく利用される。このとき、繰返しごとに、評価関数と当該評価関数の高解像度画像に対する微分とを計算する必要がある。この超解像処理に用いられる評価関数は下記(1)式で表される。
上記(1)式において、hは高解像度画像のベクトル表現を、σ2は観測値のノイズ分散を、b(xi,yi)は、高解像度画像における位置(xi,yi)に対応するPSFカーネルのベクトル表現を、Cは高解像度画像の事前確率情報を表す行列を、αは拘束の強さを表す拘束パラメータを表す。また、Nlは複数の低解像度画像の総画素数を表している。このNlは下記(2)式に示すように、低解像度画像のサイズ(1つの低解像度画像に含まれる画素の数)(Wl×Hl)と低解像度画像の枚数Flとの積となる。また、Tは、行列の転置を表している。
この評価関数のhに対する勾配を計算すると下記(3)式のようになる。
この勾配の値を用いて下記(4)式により、hを更新する処理を所定の回数だけ繰り返すことによって最終的なhの値を決定する。なお、ここでβは画像更新のための定数である。
すなわち、超解像処理部6は、複数の撮像画像に基づいて生成した高解像度画像の高解像度化精度を示す評価値を、上記撮像画像と高解像度画像との誤差を示す項と、生成された高解像度画像自体の、事前確率情報に対する類似性を示す項との和からなる評価関数を用いて算出し、上記評価値が所定の値より小さくなるように高解像度画像を更新することによって超解像画像を生成する。
なお、上述の説明は、MAP法に関するものであるが、超解像処理部6は、ML法またはPOCS法を用いて超解像画像を生成してもよい。
(超解像処理を行う目的)
本実施形態では、撮像対象物として液晶パネル30を想定している。図3は、液晶パネル30が有する表示画素の配置の一例を示す図である。図3に示すように、液晶パネル30は、例えば、R画素33a、G画素33b、B画素33cの3色の画素から構成される表示画素33を有している。これらRGBの各画素は、一定の周期(RGB−RGB−RGB…の順)で繰り返して配列している。
本実施形態では、撮像対象物として液晶パネル30を想定している。図3は、液晶パネル30が有する表示画素の配置の一例を示す図である。図3に示すように、液晶パネル30は、例えば、R画素33a、G画素33b、B画素33cの3色の画素から構成される表示画素33を有している。これらRGBの各画素は、一定の周期(RGB−RGB−RGB…の順)で繰り返して配列している。
そのため、液晶パネル30の欠陥検出検査を行う場合には、R画素33aの輝度と、当該R画素33aが属する表示画素に隣接する表示画素に属する、R画素33aと同色の画素であるR画素33dの輝度とを比較し、その輝度の差が所定の閾値よりも大きい場合に、R画素33aが欠陥部として抽出される。
図4(a)〜図4(c)は、液晶パネル30と当該液晶パネル30を撮像した撮像画像の画素との対応関係を示す図である。
液晶パネル30を撮像した撮像画像に対して、上述の欠陥検出方法を適用する場合、RGBの画素ごとに欠陥部の抽出を行う。それゆえ、RGBの画素は、固体撮像素子22を構成する複数の撮像素子のうち、それぞれ別の撮像素子によって撮像されることが望ましい。
また、RGBの画素と撮像素子との位置ずれも考慮することが望ましい。図4(a)に示すように、液晶パネル30の1つの表示画素に対して、少なくとも6×6の撮像素子が割り当てられるように撮像することが望ましい。なお、同図では、点線で示される各四角形が撮像素子を表している。
一方、液晶パネル30の表示画素数が1920×1080程度である場合、1100万画素のCCDセンサを用いて当該液晶パネル30を撮像すると、図4(b)に示すように、1つの表示素子に対する撮像素子の割当は2×2程度になり、1600万画素のCCDセンサを用いて撮像すると、図4(c)に示すように、1つの表示素子に対して2.3×2.3程度の撮像素子が割り当てられる。
そこで、これらの、必ずしも1つの表示素子に対する固体撮像素子の割当が整数でない複数枚の画像から、例えば固体撮像素子の割当が6×6のような高解像度の画像を生成しなければならず、そのために超解像処理が求められる。
(撮像素子の移動様式)
画像処理装置1では、低解像度の撮像画像を撮像する時に、固体撮像素子22の撮像素子の中心(光軸)を、例えば図5に示すように移動させながら撮像を行う。図5は、固体撮像素子22の運動制御および撮像制御の方法を示す図である。図5には、9つの画像素子71からなる高解像度画像70が示されている。また、同図において、実線矢印および点線矢印は、固体撮像素子22を構成する複数の撮像素子のうちの1つの撮像素子の中心が、復元すべき高解像度画像70に対応する空間において移動する軌道を示している。
画像処理装置1では、低解像度の撮像画像を撮像する時に、固体撮像素子22の撮像素子の中心(光軸)を、例えば図5に示すように移動させながら撮像を行う。図5は、固体撮像素子22の運動制御および撮像制御の方法を示す図である。図5には、9つの画像素子71からなる高解像度画像70が示されている。また、同図において、実線矢印および点線矢印は、固体撮像素子22を構成する複数の撮像素子のうちの1つの撮像素子の中心が、復元すべき高解像度画像70に対応する空間において移動する軌道を示している。
この軌道は、超解像処理において生成される高解像度画像のサイズおよび当該高解像度画像を構成する画像素子のサイズに基づいて決めればよい。すなわち、超解像処理部6において生成される高解像度画像全体のサイズ(高解像度画像を構成する画像素子の数)および高解像度画像の画像素子のサイズは、予め決められており、これらのサイズに基づいて撮像素子の中心の軌道が予め決められている。アクチュエータ制御部41は、この所定の軌道に沿って撮像素子の中心が移動するように固体撮像素子22を移動させる。
換言すれば、撮像素子の移動空間は、撮像素子の撮像面(撮像領域)に相当する平面内である。撮像素子の移動空間は、仮想的に設定した高解像度画像の素子のサイズによって定められる。また、撮像素子の移動空間は、撮像対象である液晶パネル30の位置とは無関係である。
なお、固体撮像素子のサイズは、高解像度画像の画像素子サイズの整数倍でなくともよい。
図5において、実線矢印の始端において、固体撮像素子22による撮像が開始され、その終端において、固体撮像素子22による撮像が終了するように、固体撮像素子22の運動速度が決定される。換言すれば、撮像タイミング制御部42は、実線矢印の始端において、固体撮像素子22による撮像が開始され、その終端において、固体撮像素子22による撮像が終了するように、固体撮像素子22の撮像タイミングを制御する。
これにより、1度の撮像において、実線矢印に沿って移動平均化された画像が撮像される。また、点線矢印の軌道においては、撮像素子の移動のみが行われ、撮像は行われない。
次に、図5に示す、画像素子71を3つ含む領域72の部分のみを用いて、固体撮像素子22の運動制御および撮像制御の方法について、より詳細に説明する。図6は、固体撮像素子22の運動制御および撮像制御の方法をより詳細に示す図である。図6では、領域72に含まれる3つの画像素子71のそれぞれに新たな番号(73、74、75)を付けて示している。
また、画像素子73、画像素子74、画像素子75内における撮像素子の中心の軌道を、それぞれV字矢印76、V字矢印77、V字矢印78によって示している。また、画像素子75内における撮像素子の中心の軌道の終端から、領域72の下段に位置する領域における撮像素子の中心の軌道の始端まで移動する時の軌道は、矢印79によって示されている。すなわち、アクチュエータ制御部41は、領域72において、撮像素子の中心が、V字矢印76、V字矢印77、V字矢印78、矢印79が示す軌道に沿って順に移動するように固体撮像素子22を変位させる。
より具体的には、アクチュエータ制御部41は、撮像素子の中心が、例えば、始端76aから、画像素子73の底辺に位置する中間点76bまで直線移動し、中間点76bから終端76cまで直線移動するように固体撮像素子22を変位させる。
そして、撮像タイミング制御部42は、実線矢印の始端(例えば、始端76a)において、固体撮像素子22による撮像が開始され、その終端(例えば、終端76c)において、固体撮像素子22による撮像が終了するように、固体撮像素子22の撮像タイミングを制御する。撮像制御部4は、9つの画像素子71のすべてに関して上述のV字移動撮像を行う。
換言すれば、液晶パネル30と固体撮像素子22の各撮像素子との割当が変化するように、当該固体撮像素子22を移動させながら液晶パネル30を複数回撮像する。このことについて、図7を用いて、別の観点から説明する。図7は、仮想的に設定された高解像度画像の素子と固体撮像素子22の各撮像素子との相対関係を示す図である。CCDやCMOS等のエリアセンサである固体撮像素子22は、複数の撮像素子によって構成され、その各撮像素子は液晶パネル30の一部、より正確には、仮想的に設定された高解像度画像の素子に対応する空間の一部を撮像する。例えば、図7に示すように、撮像素子のサイズが9μmの正方形である場合、その1/3ずつ領域を区切ると3μmの正方形81が9個できる。これら9個の領域(撮像素子の撮像領域を分割することによって生じる分割領域)は、図5に示した画像素子71に相当する。
撮像素子の中心が、9個の領域のうちのひとつである領域Aの中心にある場合、この撮像素子の撮像領域は斜線領域A´となる。一方、撮像素子の中心が領域Bの中心にある場合には、当該撮像素子の撮像領域は斜線領域B´となる。
画像処理装置1では、複数の画像を撮像する場合、例えば、1枚目の画像は撮像素子の中心が領域Aの中を走査するように撮像し、2枚目の画像は撮像素子の中心が領域Bの中を走査するように撮像する。そして、9個の領域(画像素子)のすべてについて撮像を行い、合計9枚の撮像画像を取得する。超解像処理部6は、これら9枚の撮像画像を用いて、1枚の高解像度画像を生成する。
上記領域内(図5に示す画像素子内)の撮像素子の中心の移動様式は、上述したV字移動に限定されず、斜め方向の直線移動(例えば、図5に示す画像素子の対角線に対応する軌道を描く移動)であってもよく、画像素子の辺に平行な直線移動であってもよい。
ただし、上記移動様式は、V字移動の方が好ましい。なぜなら、直線移動の場合と比較すると、V字移動の場合には、所定の領域に対する走査範囲を均一にすることが可能であるからである。例えば、直線移動様式では、固体撮像素子22は、ある1次元の方向のみに走査されるのに対して、V字移動では2次元の方向に対して走査が行われる。
また、画像素子73、74、75の順番で撮像する必要はなく、逆の順番で撮像してもよいし、縦方向(図5においてY軸方向)に撮像素子の中心を移動させてもよい。
以上のように、撮像制御部4は、固体撮像素子22の撮像素子が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した液晶パネル30の像の位置を変化させながら液晶パネル30を撮像する撮像工程を複数回行うように撮像装置2を制御することにより、液晶パネル30の複数の撮像画像を取得する。
換言すれば、撮像制御部4は、液晶パネル30の像が固体撮像素子22の撮像素子の撮像面において所定の軌道を描くように撮像装置2を制御する。
より具体的には、撮像制御部4は、撮像装置2に、液晶パネル30像の位置を所定の範囲内で変化させながら液晶パネル30を撮像する撮像工程を複数回行わせるものであり、上記所定の範囲は、生成される高解像度の画像に含まれるひとつの画素(画像素子)に対応するものである。
また、撮像制御部4は、撮像装置2に、上記所定の範囲を所定の間隔でずらしながら(例えば、画像素子73、画像素子74、画像素子75の順にずらしながら)上記撮像工程を複数回行わせる。
(アクチュエータ23および固体撮像素子22の制御方法)
画像処理装置1では、アクチュエータ23としてピエゾアクチュエータを用い、撮像タイミング制御部42が、撮像タイミングを電圧により制御する。ピエゾアクチュエータは、入力された電圧に応じてその移動距離が制御される。また、撮像タイミングの制御では、固体撮像素子22にVONの電圧が入力された時点で撮像が開始され、入力される電圧がVOFFになった時点で撮像が終了する。
画像処理装置1では、アクチュエータ23としてピエゾアクチュエータを用い、撮像タイミング制御部42が、撮像タイミングを電圧により制御する。ピエゾアクチュエータは、入力された電圧に応じてその移動距離が制御される。また、撮像タイミングの制御では、固体撮像素子22にVONの電圧が入力された時点で撮像が開始され、入力される電圧がVOFFになった時点で撮像が終了する。
図6に示した領域72に関して、アクチュエータ23の運動制御、および固体撮像素子22の撮像制御を行うための入力信号(換言すれば、アクチュエータ制御部41からの出力信号)の例を図8に示す。図6に示すV字矢印76〜78によって示される軌道を撮像素子の中心が移動する場合には、アクチュエータ23の、図5に示すX軸方向の移動量は、休止期間(図8において、矢印83によって示される期間)を挟んで単調に増加するため、アクチュエータ23に入力される、X軸方向の移動を制御する電圧も当該休止期間を挟んで単調増加する。上記休止期間とは、V字矢印76〜78のそれぞれによって示される、各V字形状の移動が終了した時点で撮像素子の移動が一時的に停止する期間である。この期間では、撮像素子の露光は行われない。
これに対して、図5に示すY軸方向に関しては、撮像素子の移動方向は、一定周期で振動するため、アクチュエータ23に入力される、Y軸方向の移動を制御する電圧も同じ周期で振動する波形となっている。
また、固体撮像素子22による撮像を制御するための入力信号は、撮像開始および撮像終了するタイミングに合わせて固体撮像素子22の撮像をオン、オフする信号とすればよい。すなわち、図8において矢印82によって示される期間、固体撮像素子22の撮像をオンにする。
(画像処理装置1における処理の流れ)
次に、画像処理装置1における処理の流れの一例について説明する。図9は、画像処理装置1における処理の流れの一例を示すフローチャートである。以下では、図5および図6に示した撮像方法により液晶パネル30を撮像する場合について説明する。
次に、画像処理装置1における処理の流れの一例について説明する。図9は、画像処理装置1における処理の流れの一例を示すフローチャートである。以下では、図5および図6に示した撮像方法により液晶パネル30を撮像する場合について説明する。
まず、撮像制御部4のアクチュエータ制御部41は、固体撮像素子22が有する撮像素子の中心が撮像開始位置である始端76aに位置するように、アクチュエータ23を介して固体撮像素子22を移動させる(S1)。
そして、撮像制御部4の撮像タイミング制御部42は、固体撮像素子22の撮像をオンにする(すなわち、受光を開始する)信号を固体撮像素子22に出力し、それと同時に、アクチュエータ制御部41は、画像素子73に対応する空間において撮像素子の中心がV字軌道を描くように、固体撮像素子22を移動させる(S2)。
撮像素子の中心がV字軌道を描き終わると(すなわち、撮像素子の中心が終端76cに到達すると)、撮像タイミング制御部42は、固体撮像素子22の撮像をオフにする(すなわち、受光を終了する)信号を固体撮像素子22に出力する(S3)。
この撮像工程が終了すると、固体撮像素子22は、取得した撮像画像データ(低解像度画像)と、当該撮像画像データを取得した位置を示す位置情報(換言すれば、高解像度画像の画像素子を特定する情報)とを互いに関連付けて撮像画像保存部5へ保存する。
そして撮像制御部4は、画像素子74に関するV字撮像を開始する。撮像制御部4は、このようなV字撮像を、高解像度画像の9個の画像素子すべてに関して行う。
すべてのV字撮像(撮像工程)が終了すると(S4にてYES)、超解像処理部6は、撮像画像保存部5に保存された撮像画像データ5aと、対応する位置情報とを用いて、撮像画像データ5aから、超解像処理により高解像度画像を生成する(超解像処理工程)(S5)。超解像処理部6は、生成した高解像度画像を高解像度画像保存部7に保存する。
そして、画像出力制御部8は、高解像度画像保存部7に保存された高解像度画像データ7aが示す画像をモニタ9に表示させる(S6)。
(画像処理装置1の効果)
ここで、上述のように移動平均化されて撮像された画像(例えば、撮像素子が、V字矢印76が示す軌道を描いている間に撮像された低解像度画像)を用いて超解像処理を行うことの効果について説明する。図10は、撮像装置2によって撮像された低解像度画像と生成される高解像度画像との関係を説明するための図である。
ここで、上述のように移動平均化されて撮像された画像(例えば、撮像素子が、V字矢印76が示す軌道を描いている間に撮像された低解像度画像)を用いて超解像処理を行うことの効果について説明する。図10は、撮像装置2によって撮像された低解像度画像と生成される高解像度画像との関係を説明するための図である。
超解像処理では撮像画像の枚数が多ければ多いほど復元精度は向上する。これは超解像処理では繰り返し最適化処理によって高解像度画像を再構成しており、その復元精度が平滑化関数に依存しているからだと考えられる。
図10に示すように、固体撮像素子22の撮像素子がV字軌道を描きながら、連続的に受光しつつ撮像した画像は、同様の軌道に沿って固体撮像素子22の1つの撮像素子の中心85aを移動させながら撮像された多数の低解像度画像85に含まれる画素群に関して、多数の低解像度画像85の中心85aを高解像度画像86の中心86aに近似させて、輝度値の平均値を算出したものと同等である。
よって、この移動平均化された画像を用いて、超解像処理によって高解像度画像を生成した場合、同様の軌道にそって撮像された多数の低解像度画像を用いて超解像処理を行った場合と同等の復元精度を有する高解像度画像を少ない枚数の撮像画像から得ることができる。
すなわち、本発明においては移動撮像によって平滑化関数を変化させることで、撮像枚数を増加させた場合と同等の平滑化関数を実現し、それにより撮像枚数の削減と復元精度の向上を実現している。
また、移動撮像を行うことによって、原画像に対する平滑化関数(PSF)が変化する。撮像装置2によって表示用パネルを撮像し、当該撮像画像から生成された高解像度画像を用いて、表示パネルの欠陥部を検出する場合、移動撮像を行うことにより、静止撮像の場合と比較すると欠陥部のコントラストが弱くなってしまう。これに対して、超解像処理でPSFの影響を除去することによって、欠陥部のコントラストを移動撮像の場合と静止撮像の場合とで同等の値にまで復元することが可能である。
〔実施の形態2〕
本発明の他の実施形態について図11〜図12に基づいて説明すれば、以下のとおりである。なお、実施の形態1と同様の部材に関しては、同じ符号を付し、その説明を省略する。
本発明の他の実施形態について図11〜図12に基づいて説明すれば、以下のとおりである。なお、実施の形態1と同様の部材に関しては、同じ符号を付し、その説明を省略する。
実施の形態1における撮像装置2は、アクチュエータ23によって、液晶パネル30に対する固体撮像素子22の相対位置を変化させているが、撮像装置が備えるレンズの位置(傾き)を変え、固体撮像素子22へ入射する光路を変更することにより、固体撮像素子22の撮像面における液晶パネル30の像の位置を変えてもよい。
図11は、画像処理装置1が備える別の撮像装置50の構成を示す断面図である。本実施形態における撮像装置50は、筐体24の内部に、複数のレンズ(レンズ51a、レンズ51b、レンズ51c)からなるレンズ群(光学的結像手段)、固体撮像素子22およびレンズ用アクチュエータ(光路変更手段)53を有している。
なお、上記レンズ群に含まれるレンズの数は、複数であればよく、3つに限定されない。
固体撮像素子22は、筐体24との相対位置が変化しない状態で内壁24aに固定されている。レンズ51a、レンズ51cは、支持部52を介して筐体24に固定されている。また、レンズ用アクチュエータ53は、筐体24に固定して取り付けられており、レンズ51bは、このレンズ用アクチュエータ53によって支持されている。レンズ用アクチュエータ53として、例えばピエゾアクチュエータ等を利用することができる。
本実施形態では、アクチュエータ制御部41は、レンズ用アクチュエータ53を制御する。
図12は、撮像装置50における光路の変更方法を説明するための図である。撮像装置50では、図12に示すように、レンズ51aとレンズ51cとの間に位置するレンズ51bの位置および傾きを変える(換言すれば、レンズ51bを位置54aから位置54bに変位させる)ことにより、液晶パネル30の像の結像位置を、固体撮像素子22の撮像面における位置55aから位置55bへ移動させることができる。
実施の形態1のように、配線された固体撮像素子22を移動させる場合には、配線の断線等による故障が発生する可能性がある。撮像装置50のように、固体撮像素子22ではなく、レンズ側を変位させる構成にすることにより、撮像装置が故障する可能性を低減できる。
〔実施の形態3〕
本発明の他の実施形態について図13〜図14に基づいて説明すれば、以下のとおりである。なお、実施の形態1と同様の部材に関しては、同じ符号を付し、その説明を省略する。
本発明の他の実施形態について図13〜図14に基づいて説明すれば、以下のとおりである。なお、実施の形態1と同様の部材に関しては、同じ符号を付し、その説明を省略する。
実施の形態1における撮像装置2は、アクチュエータ23によって、液晶パネル30に対する固体撮像素子22の相対位置を変化させているが、撮像装置に透明平行平板を備え、当該透明平行平板を変位させることにより、固体撮像素子22へ入射する光路を変更し、固体撮像素子22の撮像面における液晶パネル30の像の位置を変えてもよい。
図13は、画像処理装置1が備える別の撮像装置60の構成を示す断面図である。同図に示すように、撮像装置60は、筐体24の内部にレンズ21、固体撮像素子22、透明平行平板(光学素子)61および透明平行平板用アクチュエータ(光路変更手段)62を有する。透明平行平板61は、入射光の光路に対する自身の傾き及び厚さに応じて出射光の光路が当該入射光の光路に対して平行移動する光学素子である。
固体撮像素子22は、筐体24との相対位置が変化しない状態で内壁24aに固定されている。レンズ21および透明平行平板用アクチュエータ62は筐体24に固定して取り付けられており、透明平行平板61は、透明平行平板用アクチュエータ62によって支持されている。
本実施形態では、アクチュエータ制御部41は、透明平行平板用アクチュエータ62を制御する。
図14は、撮像装置60における光路の変更方法を説明するための図である。撮像装置60では、図14に示すように、透明平行平板61の傾斜を位置63aから位置63bに変化させる(すなわち、レンズ21の光軸に対して透明平行平板61を傾ける)ことにより、液晶パネル30の像の結像位置を、固体撮像素子22の撮像面において位置64aから位置64bに変化させることができる。
撮像装置60の構成では、透明平行平板61を傾斜させるだけで、固体撮像素子22へ入射する光路を変更できるため、撮像装置の構造を簡単にすることができ、かつ配線の断線等による故障が発生する可能性を低減できる。
(変更例)
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
また、上述した画像処理装置1の各ブロック、特に撮像制御部4、超解像処理部6は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、画像処理装置1は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである画像処理装置1の制御プログラム(画像処理プログラム)のプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記画像処理装置1に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、画像処理装置1を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
なお、本発明は、以下のようにも表現できる。
すなわち、本発明の撮像装置は、撮像対象物を固体撮像素子にて撮像する撮像装置であって、前記撮像対象物の被写体画像を結像させる光学的結像手段と、光学的に結像した被写体画像を空間的に離散化してサンプリングした画像信号に変換する撮像手段と、撮像手段の撮像タイミングを制御する撮像タイミング制御手段と、前記被写体画像を前記撮像手段に対して2次元的に相対的に運動させるイメージシフト手段と、前記撮像手段にて撮像された複数の撮像画像から高解像度画像を生成する超解像処理手段と、前記イメージシフト手段の運動を制御する運動制御手段を備え、前記運動制御手段は撮像装置全体または被写体の動きとは独立して、前期撮像手段の撮像タイミングに基づいてイメージシフト機構を運動させることを特徴としている。
また、前記イメージシフト手段、は前記撮像手段を運動させることが好ましい。
また、前記イメージシフト手段は、光学的結合手段を運動させることが好ましい。
また、前記イメージシフト手段は、前期光学的結合手段と前記撮像手段の間に配置された光学素子と前記光学素子を運動させる駆動手段であることが好ましい。
従来よりも少ない数の低解像度画像から復元精度の高い高解像度画像を超解像処理により得ることができるため、高解像度画像を生成するための撮像装置および画像処理装置として利用できる。特に、表示パネルの欠陥検出検査を行うための高解像度画像を生成するための撮像装置および画像処理装置として好適に利用できる。
1 画像処理装置(画像処理システム)
2 撮像装置(撮像手段)
3 制御装置(画像処理装置)
4 撮像制御部(撮像制御手段、撮像画像取得手段)
5a 撮像画像データ(撮像画像)
6 超解像処理部(超解像処理手段)
7 液晶パネル(撮像対象物)
7a 高解像度画像データ(高解像度画像)
21 レンズ(光学的結像手段)
22 固体撮像素子(撮像素子)
23 固体撮像素子用アクチュエータ(変位手段)
30 液晶パネル(撮像対象物)
50 撮像装置(撮像手段)
51 レンズ群(光学的結像手段)
51a レンズ(光学的結像手段)
51b レンズ(光学的結像手段)
51c レンズ(光学的結像手段)
53 レンズ用アクチュエータ(変位手段)
60 撮像装置(撮像手段)
61 透明平行平板(光学素子)
62 透明平行平板用アクチュエータ(変位手段)
70 高解像度画像
71 画像素子(画素)
73 画像素子(画素)
74 画像素子(画素)
75 画像素子(画素)
86 高解像度画像
2 撮像装置(撮像手段)
3 制御装置(画像処理装置)
4 撮像制御部(撮像制御手段、撮像画像取得手段)
5a 撮像画像データ(撮像画像)
6 超解像処理部(超解像処理手段)
7 液晶パネル(撮像対象物)
7a 高解像度画像データ(高解像度画像)
21 レンズ(光学的結像手段)
22 固体撮像素子(撮像素子)
23 固体撮像素子用アクチュエータ(変位手段)
30 液晶パネル(撮像対象物)
50 撮像装置(撮像手段)
51 レンズ群(光学的結像手段)
51a レンズ(光学的結像手段)
51b レンズ(光学的結像手段)
51c レンズ(光学的結像手段)
53 レンズ用アクチュエータ(変位手段)
60 撮像装置(撮像手段)
61 透明平行平板(光学素子)
62 透明平行平板用アクチュエータ(変位手段)
70 高解像度画像
71 画像素子(画素)
73 画像素子(画素)
74 画像素子(画素)
75 画像素子(画素)
86 高解像度画像
Claims (12)
- 撮像素子を有し、撮像対象物に対する相対位置が固定された撮像手段が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うように当該撮像手段を制御することにより、当該撮像対象物の複数の撮像画像を取得する撮像制御手段と、
上記撮像制御手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理手段とを備えることを特徴とする画像処理装置。 - 上記撮像制御手段は、上記撮像手段に、上記像の位置を所定の範囲内で変化させながら当該撮像対象物を撮像する撮像工程を複数回行わせるものであり、
上記所定の範囲は、生成される高解像度の画像に含まれるひとつの画素に対応するものであることを特徴とする請求項1に記載の画像処理装置。 - 上記撮像制御手段は、上記撮像手段に、上記所定の範囲を所定の間隔でずらしながら上記撮像工程を複数回行わせることを特徴とする請求項2に記載の画像処理装置。
- 上記撮像手段は、上記撮像対象物に対する上記撮像素子の位置を変化させる変位手段を備え、
上記撮像制御手段は、上記変位手段を制御することにより上記像の位置を変化させることを特徴とする請求項1に記載の画像処理装置。 - 上記撮像手段は、上記撮像素子へ入射する光の光路を変化させる光路変更手段を備え、
上記撮像制御手段は、上記光路変更手段を制御することにより上記像の位置を変化させることを特徴とする請求項1に記載の画像処理装置。 - 上記光路変更手段は、上記像を結像させる光学的結像手段を変位させることを特徴とする請求項5に記載の画像処理装置。
- 上記光路変更手段は、入射光の光路に対する自身の傾きに応じて出射光の光路が当該入射光の光路に対して変化する光学素子の、上記撮像手段の光軸に対する傾きを変化させるものであることを特徴とする請求項5に記載の画像処理装置。
- 請求項1に記載の画像処理装置を動作させる画像処理プログラムであって、コンピュータを上記各手段として機能させるための画像処理プログラム。
- 請求項8に記載の画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
- 撮像素子を有する撮像手段と、
請求項1に記載の画像処理装置とを備えることを特徴とする画像処理システム。 - 撮像対象物に対する相対位置が固定された撮像手段が有する撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像処理を複数回行う撮像工程と、
上記撮像工程において取得された複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理工程とを含むことを特徴とする画像処理方法。 - 撮像素子を有し、撮像対象物に対する相対位置が固定された撮像手段が、当該撮像素子を露光させた状態で、当該撮像素子の撮像面に結像した撮像対象物の像の位置を変化させながら当該撮像対象物を撮像する撮像工程を複数回行うことにより生成された複数の撮像画像を取得する撮像画像取得手段と、
上記撮像画像取得手段が取得した複数の撮像画像を超解像処理することにより、当該撮像画像よりも高解像度の画像を生成する超解像処理手段とを備えることを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007152019A JP2008306492A (ja) | 2007-06-07 | 2007-06-07 | 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007152019A JP2008306492A (ja) | 2007-06-07 | 2007-06-07 | 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008306492A true JP2008306492A (ja) | 2008-12-18 |
Family
ID=40234810
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007152019A Pending JP2008306492A (ja) | 2007-06-07 | 2007-06-07 | 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008306492A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011101139A (ja) * | 2009-11-05 | 2011-05-19 | Panasonic Corp | 撮像装置及びネットワークカメラシステム |
DE102010043520A1 (de) | 2009-11-05 | 2011-05-26 | Panasonic Corporation, Kadoma-shi | Bilderfassungsvorrichtung und Netzwerk-Kamerasystem |
JP2011227578A (ja) * | 2010-04-15 | 2011-11-10 | Olympus Corp | 画像処理装置、撮像装置、プログラム及び画像処理方法 |
WO2015083220A1 (ja) * | 2013-12-02 | 2015-06-11 | 富士機械製造株式会社 | 組立機 |
WO2020065698A1 (ja) * | 2018-09-25 | 2020-04-02 | 株式会社Fuji | 部品データ、部品データ作成システム、部品実装機及び部品実装ラインの生産最適化システム |
-
2007
- 2007-06-07 JP JP2007152019A patent/JP2008306492A/ja active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011101139A (ja) * | 2009-11-05 | 2011-05-19 | Panasonic Corp | 撮像装置及びネットワークカメラシステム |
DE102010043520A1 (de) | 2009-11-05 | 2011-05-26 | Panasonic Corporation, Kadoma-shi | Bilderfassungsvorrichtung und Netzwerk-Kamerasystem |
US8390724B2 (en) | 2009-11-05 | 2013-03-05 | Panasonic Corporation | Image capturing device and network camera system |
JP2011227578A (ja) * | 2010-04-15 | 2011-11-10 | Olympus Corp | 画像処理装置、撮像装置、プログラム及び画像処理方法 |
WO2015083220A1 (ja) * | 2013-12-02 | 2015-06-11 | 富士機械製造株式会社 | 組立機 |
JPWO2015083220A1 (ja) * | 2013-12-02 | 2017-03-16 | 富士機械製造株式会社 | 組立機 |
US9980420B2 (en) | 2013-12-02 | 2018-05-22 | Fuji Machine Mfg. Co., Ltd. | Assembling machine |
WO2020065698A1 (ja) * | 2018-09-25 | 2020-04-02 | 株式会社Fuji | 部品データ、部品データ作成システム、部品実装機及び部品実装ラインの生産最適化システム |
JPWO2020065698A1 (ja) * | 2018-09-25 | 2021-02-25 | 株式会社Fuji | 部品データ、部品データ作成システム、部品実装機及び部品実装ラインの生産最適化システム |
JP7019065B2 (ja) | 2018-09-25 | 2022-02-14 | 株式会社Fuji | 部品実装ラインの生産最適化システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5909540B2 (ja) | 画像処理表示装置 | |
US8223235B2 (en) | Digital imager with dual rolling shutters | |
US8305434B2 (en) | Photographing apparatus and microscope system | |
JP2007150643A (ja) | 固体撮像素子、固体撮像素子の駆動方法および撮像装置 | |
JP2011101159A (ja) | 電子カメラ | |
JP2012023497A (ja) | 撮像装置、撮像制御方法、およびプログラム | |
JP2008306492A (ja) | 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体 | |
JP2007281555A (ja) | 撮像装置 | |
CN116055909A (zh) | 成像元件、摄像装置、成像元件的工作方法及计算机可读存储介质 | |
JP2007243917A (ja) | 撮像装置および画像処理プログラム | |
JP2009063658A (ja) | 顕微鏡システム | |
JP5240585B2 (ja) | 撮像方法及び撮像装置 | |
JP2006235719A (ja) | 撮像方法及び撮像装置 | |
JP5042954B2 (ja) | 画像生成装置、画像生成方法、画像生成プログラム、および該プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2009063655A (ja) | 顕微鏡システム | |
WO2019188934A1 (ja) | 撮像装置、撮像方法、及びプログラム | |
JP2007110289A (ja) | 固体撮像装置 | |
JP2013021636A (ja) | 画像処理装置および方法、学習装置および方法、プログラム、並びに記録媒体 | |
JP7173067B2 (ja) | 撮像装置、撮影システム、撮像方法及びプログラム | |
CN113728613B (zh) | 成像元件、摄像装置、成像元件的工作方法及程序 | |
JP5915720B2 (ja) | 撮像装置 | |
JP2012244243A (ja) | 撮像装置および撮像装置の制御方法 | |
JP5948062B2 (ja) | 撮像装置および顕微鏡システム | |
JP2009063656A (ja) | 顕微鏡システム | |
JP2009063657A (ja) | 顕微鏡システム |