JP4602860B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP4602860B2
JP4602860B2 JP2005216388A JP2005216388A JP4602860B2 JP 4602860 B2 JP4602860 B2 JP 4602860B2 JP 2005216388 A JP2005216388 A JP 2005216388A JP 2005216388 A JP2005216388 A JP 2005216388A JP 4602860 B2 JP4602860 B2 JP 4602860B2
Authority
JP
Japan
Prior art keywords
data
image
reduced
original image
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005216388A
Other languages
English (en)
Other versions
JP2007036613A (ja
Inventor
史紀 高橋
Original Assignee
日東光学株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2005180336 priority Critical
Application filed by 日東光学株式会社 filed Critical 日東光学株式会社
Priority to JP2005216388A priority patent/JP4602860B2/ja
Priority claimed from US11/917,980 external-priority patent/US20100013940A1/en
Publication of JP2007036613A publication Critical patent/JP2007036613A/ja
Application granted granted Critical
Publication of JP4602860B2 publication Critical patent/JP4602860B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、画像処理装置に関する。

従来から、カメラ等で撮影した際には、画像劣化が生ずることが知られている。画像劣化の要因としては撮影時の手ぶれ、光学系の各種の収差、レンズの歪み等がある。

撮影時の手ぶれを補正するためには、レンズを動かす方式と、回路処理する方式とが知られている。たとえば、レンズを動かす方式としては、カメラの手ぶれを検出し、所定のレンズを、その検出した手ぶれに合わせて動かすことで補正する方式が知られている(特許文献1参照)。

また、回路処理する方式としては、カメラの光軸の変動を角加速度センサで検出し、検出した角速度等から撮影時のぼけ状態を表す伝達関数を取得し、撮影画像に対し、取得した伝達関数の逆変換を行い、画像を復元する方式が知られている(特許文献2参照)。

特開平6−317824号公報(要約書参照) 特開平11−24122号公報(要約書参照)

特許文献1記載の手ぶれ補正を採用したカメラは、モータ等、レンズを駆動するハードウェアのスペースが必要となり大型化してしまう。また、そのようなハードウェア自体やそのハードウェアを動かす駆動回路が必要となり、コストアップとなってしまう。

また、特許文献2記載の手ぶれ補正の場合は、上述した問題点はなくなるものの、次のような問題を有する。すなわち、取得した伝達関数の逆変換で画像復元がなされることは理論上成り立つが、実際問題として、以下の2つの理由で、画像復元が困難である。

第1に、取得する伝達関数は、ノイズやブレ情報誤差等に非常に弱く、これらのわずかな変動により、値が大きく変動する。このため、逆変換で得られる復元画像は、手ぶれがない状態で写した画像とはほど遠いものとなり、実際上は利用できない。第2に、ノイズ等を考慮した逆変換を行う場合、連立方程式の解の特異値分解等で解を推定する方法も採用できるが、その推定のための計算値が天文学的な大きさになり、実際的には解くことができなくなるリスクが高い。

上述したように、本発明の課題は、画像を復元するに当たり、装置の大型化を防止すると共に、現実性のある回路処理方式を有する画像処理装置を提供することである。

上記課題を解決するために、本発明の画像処理装置は、画像を処理する処理部を有しており、処理部は、画像変化の要因となる変化要因情報のデータを利用して、所定の画像のデータから比較用データを生成し、この比較用データと、処理対象となる原画像のデータの一部からなる原画像縮小データと、を比較し、得られた差分のデータを、変化要因情報のデータに基づいて、所定の画像のデータに配分し、縮小復元データを生成し、この縮小復元データを所定の画像のデータの代わりに使用し、以後、得られた縮小復元データを前回の縮小復元データに置き換えて同様の処理を繰り返すことで、原画像縮小データへ変化する前の縮小元画像に近似する縮小復元データを生成する処理を行い、原画縮小データと近似する縮小復元データとから伝達関数を求め、その伝達関数を利用して原画像へ変化する前の元画像に近似する復元データを生成する処理を行っている。

この発明によれば、原画像の元となる変化前の元画像に近い近似する縮小復元データを得るための繰り返し処理と、伝達関数を利用したデコンボリューション処理とを組み合わせているため、装置が大型化せず、また現実的な復元作業となるのに加え、処理が高速化される。

また、他の発明は、上述の発明に加え、処理部は、繰り返しの処理の際、差分のデータが所定値以下または所定値より小さくなったら、停止させる処理を行なっている。この構成を採用した場合、差分が「0」にならなくても処理を停止させるので、処理の長時間化を防止することができる。また、所定値以下としているので、近似する縮小復元データは原画像の元となる変化前(劣化等する前)の縮小元画像により近いものとなる。さらに、ノイズなどがあった場合、差分が「0」になることが現実的にはあり得ない状況が生じがちであるが、そのような場合であっても無限に処理を繰り返すことにはならない。

さらに、他の発明は、上述の発明に加え、処理部は、繰り返しの処理の際、繰り返しの回数が所定回数となったら停止させる処理を行っている。この構成を採用した場合、差分が「0」になってもならなくても処理を停止させるので、処理の長時間化を防止することができる。また、所定回数まで処理を継続させているので、近似する縮小復元データは原画像の元となる劣化等する前の縮小元画像により近いものとなる。さらに、ノイズなどがあった場合、差分が「0」にならない状況が現実的には生じがちであるが、そのような場合であっても所定回数で終了させているので、無限に処理を繰り返すことにはならない。

さらに他の発明は、上述の発明に加え、処理部は、繰り返しの処理の際、繰り返しの回数が所定回数に到達したときの差分のデータが所定値以下または所定値より小さい場合は停止し、所定値より超えるまたは所定値以上の場合は、さらに所定回数繰り返す処理を行っている。この発明では、処理の回数と、差分の値とを組み合わせて行うようにしているので、単に処理回数に制限を加えたり、差分の値に制限を行う場合に比較して、画像の良さと処理時間の短さのバランスが取れた処理とすることができる。

また、他の発明の画像処理装置は、画像を処理する処理部を有しており、処理部は、画像変化の要因となる変化要因情報のデータを利用して、所定の画像のデータから比較用データを生成し、この比較用データと、処理対象となる原画像のデータの一部からなる原画像縮小データと、を比較し、得られた差分のデータが所定値より大きいまたは所定値以上の場合は、差分のデータを、変化要因情報のデータに基づいて、所定の画像のデータに配分し、縮小復元データを生成し、この縮小復元データを所定の画像に置き換え、以後、得られた縮小復元データを前回の縮小復元データに置き換えて同様の処理を繰り返す処理を行い、原画像縮小データへ変化する前の縮小元画像に近似する縮小復元データを生成する処理を行い、差分のデータが所定値以下または所定値より小さい場合は処理を停止し、比較用データの元となった縮小復元データを近似する縮小復元データとして、かつ原画像へ変化する前の縮小元画像として扱い、原画像縮小データと近似する縮小復元データとから伝達関数を求め、その伝達関数を利用して原画像へ変化する前の元画像に近似する復元データを生成する処理を行っている。

この発明によれば、原画像の元となる変化前の元画像に近い近似する縮小復元データを得るための繰り返し処理と、伝達関数を利用したデコンボリューション処理とを組み合わせているため、装置が大型化せず、また現実的な復元作業となるのに加え、処理が高速化される。しかも、差分のデータが小さくなったら処理を停止しているので、ある程度の処理回数で処理を停止させることが可能となる。

また、他の発明は、上述の発明に加え、処理部は、繰り返しの処理の際、繰り返しの回数が所定回数となったら停止させる処理を行っている。この構成を採用した場合、差分が「0」になってもならなくても処理を停止させるので、処理の長時間化を防止することができる。また、所定回数まで処理を継続させているので、近似する縮小復元データは原画像縮小データの元となる変化前の縮小元画像により近いものとなる。さらに、ノイズなどがあった場合、差分が「0」にならない状況が現実的には生じがちであるが、そのような場合、無限に処理を繰り返すことになってしまうが、この構成を採用すると、そのような問題が生じない。

さらに他の発明は、上述の発明に加え、原画像縮小データは、原画像のデータを間引くことで形成されたものであり、処理部は、伝達関数を、原画像縮小データの原画像からの縮小率の逆数倍にし、かつ拡大された間を補間して新伝達関数を得、その新伝達関数を使用して元画像に近似する復元データを生成している。この構成を採用すると、全体像に対応した伝達関数を得られることとなる。

また、他の発明は、上述の発明に加え、原画像縮小データは、原画像のデータから一部の領域をそのまま取り出すことで形成されたものとしている。この構成を採用すると、部分的な領域に対応し、かつ全体画像にも適用できる伝達関数が得られることとなる。

本発明によれば、劣化等変化した画像を復元するに当たり、装置の大型化を防止できると共に、現実性のある回路処理方式を有する画像処理装置とすることができる。

以下、本発明の第1の実施の形態に係る画像処理装置1について図を参照しながら説明する。なお、この画像処理装置1は、民生用のカメラとしているが、監視用カメラ、テレビ用カメラ、内視鏡カメラ、等他の用途のカメラとしたり、顕微鏡、双眼鏡、さらにはNMR撮影等の画像診断装置等、カメラ以外の機器にも適用できる。

画像処理装置1は、人物等の映像を撮影する撮影部2と、その撮影部2を駆動する制御系部3と、撮影部2で撮影された画像を処理する処理部4と、を有している。また、この実施の形態に係る画像処理装置1は、さらに処理部4で処理された画像を記録する記録部5と、角速度センサ等からなり、画像劣化など変化の要因となる変化要因情報を検知する検出部6と、画像劣化などを生じさせる既知の変化要因情報を保存する要因情報保存部7を有する。

撮像部2は、レンズを有する撮影光学系やレンズを通過した光を電気信号に変換するCCD(Charge Coupled Devices)やC−MOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備える部分である。制御系部3は、撮影部2,処理部4,記録部5、検出部6,および要因情報保存部7等、画像処理装置1内の各部を制御するものである。

処理部4は、画像処理プロセサで構成されており、ASIC(Application Specific Integrated Circuit)のようなハードウェアで構成されている。この処理部4には、後述する比較用データを生成する際の元となる画像が保管されることもある。処理部4は、ASICのようなハードウェアとして構成されのではなく、ソフトウェアで処理する構成としても良い。記録部5は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段や、DVD(Digital Versatile Disk)等を使用する光記録手段等を採用しても良い。

検出部6は、図2に示すように、画像処理装置1の光軸であるZ軸に対して垂直方向となるX軸、Y軸の回りの速度を検出する2つの角速度センサを備えるものである。ところで、カメラで撮影する際の手ぶれは、X方向、Y方向、Z方向の各方向への移動やZ軸回りの回動も生ずるが、各変動により最も大きな影響を受けるのは、Y軸回りの回転とX軸回りの回転である。これら2つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図2のX軸回りとY軸回りの2つの角速度センサのみを配置している。しかし、より完全を期すためZ軸回りの角速度センサをさらに付加したり、X方向やY方向への移動を検出するセンサを付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。

要因情報保存部7は、既知の劣化要因情報などの変化要因情報、たとえば光学系の収差等を保存しておく記録部である。なお、この実施の形態では、要因情報保存部7には、光学系の収差やレンズのひずみの情報が保存されているが、後述する手ぶれのぼけの復元の際にはそれらの情報は、利用していない。

次に、以上のように構成された画像処理装置1の処理部4の処理方法の概要を、図3に基づいて説明する。

図3中、「Io」は、任意の初期画像であって、処理部4の記録部に予め保存されている画像のデータである。「Io′」は、その初期画像のデータのIoの劣化画像のデータを示し、比較のための比較用データである。「G」は、検出部6で検出された変化要因情報(=劣化要因情報(点像関数))のデータで、処理部4の記録部に保存されるものである。「Img′」は、撮影された画像、すなわち劣化画像のデータを指し、この処理において処理対象となる原画像のデータである。

「δ」は、原画像のデータImg′と、比較用データIo′との差分のデータである。「k」は、変化要因情報のデータに基づく配分比である。「Io+n」は、初期画像のデータIoに、差分のデータδを変化要因情報のデータに基づいて配分して新たに生成した復元画像のデータ(復元データ)である。「Img」は、撮影された劣化画像である原画像のデータImg′の基となった、劣化のない本来の正しい画像のデータである。ここで、ImgとImg′の関係は、次の(1)式で現されるとする。
Img′=Img×G …(1)
なお、差分のデータδは、対応する画素の単純な差分でも良い場合もあるが、一般的には、変化要因情報のデータGにより異なり、次の(2)式で現される。
δ=f(Img′,Img,G)…(2)

処理部4の処理ルーチンは、まず、任意の画像のデータIoを用意する(ステップS101)ことから始まる。この初期画像のデータIoとしては、撮影された劣化画像のデータImg′を用いても良く、また、黒ベタ、白ベタ、灰色ベタ、市松模様等どのような画像のデータを用いても良い。ステップS102で、(1)式のImgの代わりに初期画像となる任意の画像のデータIoを入れ、劣化画像である比較用データIo´を求める。次に、撮影された劣化画像である原画像のデータImg′と比較用データIo´と比較し、差分のデータδを算出する(ステップS103)。

次に、ステップS104で、この差分のデータδが所定値以上であるか否かを判断し、所定値以上であれば、ステップS105で新たな復元画像のデータ(=復元データ)を生成する処理を行う。すなわち、差分のデータδを変化要因情報のデータGに基づいて、任意の画像のデータIoに配分し、新たな復元データIo+nを生成する。その後、ステップS102,S103,S104を繰り返す。

ステップS104において、差分のデータδが所定値より小さい場合、処理を終了する(ステップS106)。そして、処理を終了した時点での復元データIo+nを正しい画像、すなわち劣化のない画像のデータImgと推定し、そのデータを記録部5に記録する。なお、記録部5には、初期画像のデータIoや変化要因情報のデータGを記録しておき、必要により処理部4に渡すようにしても良い。

以上の処理方法の考え方をまとめると以下のようになる。すなわち、この処理方法においては、処理の解を逆問題としては解かず、合理的な解を求める最適化問題として解くのである。逆問題として解く場合、特許文献2の記載にもあるように、理論上は可能であるが、現実問題としては困難である。

最適化問題として解くということは、次の条件を前提としている。
すなわち、
(1)入力に対する出力は、一意に決まる。
(2)出力が同じであれば、入力は同じである。
(3)出力が同じになるように、入力を更新しながら反復処理することにより、解を収束させていく。

このことを換言すれば、図4(A)(B)に示すように、撮影された画像である原画像のデータImg′と近似である比較用データIo′(Io+n′)を生成できれば、その生成の元データとなる初期画像のデータIoまたは復元データIo+nは、原画像のデータImg′の元となる正しい画像のデータImgに近似したものとなる。

なお、この実施の形態では、角速度検出センサは5μsec毎に角速度を検出している。また、差分のデータδの判定基準となる値は、各データを8ビット(0〜255)で現した場合に、この実施の形態では「6」としている。すなわち、6より小さい、つまり5以下の時は、処理を終了している。また、角速度検出センサで検出したブレの生データは、センサ自体の校正が不十分なときは、実際のブレとは対応しない。よって実際のブレに対応させるため、センサが校正されていないときは、センサで検出した生データに所定の倍率をかけたりする補正が必要とされる。

次に、図3および図4に示す処理方法の詳細を、図5,図6,図7,図8,図9,図10,図11および図12に基づいて説明する。

(手ぶれの復元アルゴリズム)
手ぶれが無いとき、所定の画素に対応する光エネルギーは、露光時間中、その画素に集中する。また、手ぶれがある場合、光エネルギーは、露光時間中にぶれた画素に分散する。さらに、露光時間中のブレがわかれば、露光時間中のエネルギーの分散の仕方がわかるため、ぶれた画像からブレの無い画像を作ることが可能となる。

以下、簡単のため、横一次元で説明する。画素を左から順に、n-1,n,n+1,n+2,n+3,…,とし、ある画素nに注目する。ブレが無いとき、露光時間中のエネルギーは、その画素に集中するため、エネルギーの集中度は「1.0」である。この状態を図5に示す。このときの撮影結果を、図6の表に示す。図6に示すものが、劣化しなかった場合の正しい画像データImgとなる。なお、各データは、8ビット(0〜255)のデータで現している。

露光時間中にブレがあり、露光時間中の50%の時間はn番目の画素に、30%の時間はn+1番目の画素に、20%の時間はn+2番目の画素に、それぞれぶれていたとする。エネルギーの分散の仕方は、図7に示す表のとおりとなる。これが変化要因情報のデータGとなる。

ブレは、全ての画素で一様であるので、上ぶれ(縦ぶれ)が無いとすると、ブレの状況は、図8に示す表のとおりとなる。図8中の「撮影結果」として示されるデータが、元の正しい画像のデータImgで、「ブレ画像」として示されるデータが、撮影された劣化画像のデータImg′となる。具体的には、たとえば「n−3」の画素の「120」は、ぶれ情報である変化要因情報のデータGの「0.5」「0.3」「0.2」の配分比に従い、「n−3」の画素に「60」、「n−2」の画素に「36」、「n−1」の画素に「24」というように分散する。同様に、「n−2」の画素のデータである「60」は、「n−2」に「30」、「n−1」に「18」、「n」に「12」として分散する。この劣化画像のデータImg′と、図7に示す変化要因情報のデータGからぶれの無い撮影結果を算出することとなる。

ステップS101に示す任意の画像のデータIoとしては、どのようなものでも採用できるが、この説明に当たっては、撮影した原画像のデータImg′を用いる。すなわち、Io=Img′として処理を開始する。図9の表中に「入力」とされたものが初期画像のデータIoに相当する。このデータIoすなわちImg′に、ステップS102で変化要因情報のデータGをかける。すなわち、たとえば、初期画像のデータIoの「n−3」の画素の「60」は、n−3の画素に「30」が、「n−2」の画素に「18」が、「n−1」の画素に「12」がそれぞれ割り振られる。他の画素についても同様に配分され、「出力Io′」として示される比較用データIo′が生成される。このため、ステップS103の差分のデータδは、図9の最下欄に示すようになる。

この後、ステップS104にて差分のデータδの大きさを判断する。具体的には、差分のデータδが全て絶対値で5以下となった場合に処理を終了するが、図9に示す差分のデータδは、この条件に合わないため、ステップS105に進む。すなわち、差分のデータδを変化要因情報のデータGを使用して、任意の画像のデータIoに配分して、図10中の「次回入力」として示される復元データIo+nを生成する。この場合、第1回目であるため、図10では、Io+1と現している。

差分のデータδの配分は、たとえば「n−3」の画素のデータ「30」に自分の所(=「n−3」の画素)の配分比である0.5をかけた「15」を「n−3」の画素に配分し、また「n−2」の画素のデータ「15」にその「n−2」の画素にきているはずの配分比である0.3をかけた「4.5」を配分し、さらに、「n−1」の画素のデータ「9.2」に、その「n−1」の画素にきているはずの配分比である0.2をかけた「1.84」を配分する。「n−3」の画素に配分された総量は、「21.34」となり、この値を初期画像のデータIo(ここでは撮影された原画像のデータImg′を使用)にプラスして、復元データIo+1を生成している。

図11に示すように、この復元データIo+1がステップS102の入力画像のデータ(=初期画像のデータIo)になり、ステップS102が実行され、ステップS103へと移行し、新しい差分のデータδを得る。その新しい差分のデータδの大きさをステップS104で判断し、所定値より大きい場合、ステップS105で新しい差分のデータδを前回の復元データIo+1に配分し、新しい復元データIo+2を生成する(図12参照)。その後、ステップS102の遂行により、復元データIo+2から新しい比較用データIo+2′が生成される。このように、ステップS102,S103が実行された後、ステップS104へ行き、そこでの判断によりステップS105へ行ったり、ステップS106へ移行する。このような処理を繰り返す。

この画像処理装置1では、処理するに当たり、ステップ104Sにおいて、事前に処理回数と、差分のデータδの判断基準値のいずれか一方または両者を設定できる。たとえば処理回数として20回、50回等任意の回数を設定できる。また、処理を停止させる差分のデータδの値を8ビット(0〜255)中の「5」と設定し、5以下になったら処理を終了させたり、「0.5」と設定し「0.5」以下になったら処理を終了させることができる。この設定値を任意に設定できる。処理回数と判断基準値の両者を入力した場合、いずれか一方が満足されたとき処理は停止される。なお、両者の設定を可能としたとき、判断基準値を優先し、所定の回数の処理では判断基準値内に入らなかった場合、さらに所定回数の処理を繰り返すようにしても良い。

この実施の形態の説明の中では、要因情報保存部7に保存されている情報を利用しなかったが、ここに保存されている既知の劣化要因、たとえば光学収差やレンズのひずみなどのデータを使用するようにしても良い。その場合、たとえば、先の例(図3)の処理方法では、ブレの情報と光学収差の情報を合わせて1つの劣化要因として捉えて処理を行うのが好ましいが、ブレの情報での処理を終了した後に光学収差の情報での補正を行うようにしても良い。また、この要因情報保存部7を設置しないようにして、撮影時の動的要因、たとえばブレのみで画像を修正したり復元したりしても良い。

以上、本発明の実施の形態に係る画像処理装置1について説明したが、以下では、この画像処理装置1を使用した例または変形例について説明する。たとえば、処理部4で行った処理は、ソフトウエアで構成しているが、それぞれ、一部の処理を分担して行うようにした部品からなるハードウェアで構成しても良い。

また、処理対象となる原画像としては撮影画像の他に、その撮影画像を色補正したり、フーリエ変換したり等、加工を施したものとしても良い。さらに、比較用データとしては、変化要因情報のデータGを使用して生成したデータ以外に、変化要因情報のデータGを使用して生成したものに色補正を加えたり、フーリエ変換したりしたデータとしても良い。また、変化要因情報のデータとしては、劣化要因情報のデータのみではなく、単に画像を変化させる情報や、劣化とは逆に、画像を良くする情報を含むものとする。

また、処理の反復回数が画像処理装置1側で自動的にまたは固定的に設定されている場合、その設定された回数を変化要因情報のデータGによって変更するようにしても良い。たとえば、ある画素のデータがブレにより多数の画素に分散している場合は、反復回数を多くし、分散が少ない場合は反復回数を少なくするようにしても良い。

さらに、反復処理中に、差分のデータδが発散してきたら、すなわち大きくなっていったら処理を中止させるようにても良い。発散しているか否かは、たとえば差分のデータδの平均値を見てその平均値が前回より大きくなったら発散していると判断する方法を採用できる。また、発散が1回生じたら、処理を即中止させても良いが、発散が2回続けて生じたら中止させる方法としたり、発散が所定回数続いたら処理を中止させる方法を採用しても良い。

また、反復処理中に、入力を異常な値に変更しようとしたときには、処理を中止させるようにしても良い。たとえば8ビットの場合、変更されるようとする値が255を超える値であるときには、処理を中止させる。また、反復処理中、新たなデータである入力を異常な値に変更しようとしたとき、その値を使用せず、正常な値とするようにしても良い。たとえば、8ビットの0〜255の中で、255を超える値を入力データとしようとした際は、マックスの値である255として処理するようにする。すなわち、復元データ中に許容される数値(上述の例では、0〜255)以外の異常数値(上述の例では、255を超える値)が含まれるときは、その処理を中止したり、復元データ中に許容される数値以外の異常数値が含まれるときは、その異常数値を許容される数値に変更して処理を継続させたりすることができる。

また、出力画像となる復元データを生成する際、変化要因情報のデータGによっては、復元させようとする画像の領域外へ出てしまうようなデータが発生する場合がある。このような場合、領域外へはみ出るデータは反対側へ入れる。また、領域外から入ってくるべきデータがある場合は、そのデータは反対側から持ってくるようにするのが好ましい。たとえば、領域内の最も下に位置する画素XN1(N行1列)のデータから、さらに下の画素に割り振られるデータが発生した場合、その位置は領域外になる。そこで、そのデータは画素XN1の真上で最も上に位置する画素X11(1行1列)に割り振られる処理をする。画素XN1の隣の画素XN2(N行2列)についても同様に真上で最上欄の画素X12(=画素X11の隣りで1行2列))に割り振ることとなる。このように、復元データを生成する際、復元対象領域外となるデータが発生するときは、そのデータの発生位置の縦、横、または斜めのいずれか1つの方向の反対側の位置の復元対象領域内に配置するようにすると、復元しようとする対象領域について、確実な復元が可能となる。

また、復元データIo+nを生成するとき、配分比kを使用せず、対応する画素の差分のデータδをそのまま前回の復元データIo+n−1の対応する画素に加えたり、対応する画素の差分のデータδを変倍した後に加えたり、また差分のデータδが割り振られた後のデータkδ(図10、図12中の「更新量」として示される値)を変倍して、前回の復元データIo+n−1に加えるようにしても良い。これらの処理方法をうまく活用すると、処理速度が速くなる。

また、復元データIo+nを生成するとき、劣化等の変化要因の重心を算出し、その重心のみの差分、またはその差分の変倍を前回の復元データIo+n−1に加えるようにしても良い。この考え方、すなわち、変化要因の重心を利用した処理方法を、図3に示す処理方法を利用した第1の処理方法として、図13および図14に基づいて以下に説明する。

図13に示すように、正しい画像のデータImgが画素11〜15,21〜25,31〜35,41〜45,51〜55で構成されているとき、図13(A)に示すように、画素33に注目する。手ブレなどにより画素33が画素33,43,53,52の位置へと動いていくと、劣化した画像である原画像のデータImg′では、図13(B)に示すように、画素33,43,52,53に初めの画素33の影響が出る。

このような劣化の場合、画素33が移動する際、画素43の位置に最も長時間位置していたとすると、劣化、すなわち変化の要因の重心は、正しい画像のデータImg中の画素33に関しては原画像のデータImg′では画素43の位置にくる。これにより、差分のデータδは、図14に示すように、原画像のデータImg′と比較用データIo′のそれぞれの画素43の差として計算する。その差分のデータδは、初期画像のデータIoや復元データIo+nの画素33に加えられる。

また、先の例で言えば、「0.5」「0.3」「0.2」の3つの重心は、最も値が大きい「0.5」の位置であり、自分の位置となる。よって「0.3」や「0.2」の割り振りを考慮せず、差分のデータδの「0.5」または0.5の変倍分のみ自己の位置に割り振るようにすることとなる。このような処理は、ブレのエネルギーが集中している場合に好適となる。

さらに、変化要因情報のデータGの内容によって自動的に上述した各処理方法を選択させるようにすることもできる。すなわち、処理部4は、変化要因情報のデータGを複数の種類の内のいずれかに分類付けし、その分類毎に違う処理を行わせることができる。たとえば、処理方法として、図5〜図12に示したように、(1)配分比kを使用して差分のデータδを配分する方法(実施例方式)、(2)対応する画素の差分、または差分のデータδを変倍する方法(対応画素方式)、(3)劣化要因の重心を検出してその重心部分のデータを利用する方法(重心方法)の3方法を実行できるプログラムを処理部4内に保存しておき、劣化要因の状況を分析し、その分析結果に基づき、その3つの方法のいずれか1つを選択するようにする。また、3つの方法のうちいずれか複数を選択し、1ルーチンの度に交互に利用したり、最初の数回はある方式で処理し、その後は他の方式で処理するようにしても良い。

また、復元処理の高速化を図る意味で、逆問題と組み合わせる方法が存在する。すなわち、縮小データで反復処理を行い、縮小した原画像から縮小した復元データへの伝達関数を算出する。そして算出された伝達関数を拡大、補間し、その拡大、補間された伝達関数を使って原画像の復元データを得る。この処理方法は大きな画像の処理に有利となる。

以下に、大きな画像の復元に有利な高速処理化の基本的な考え方について説明する。

反復処理だけでは、どうしても収束に時間がかかってしまう。この欠点は、大きな画像の場合、顕著となる。一方、周波数空間でのデコンボリューションは、高速フーリエ変換(Fast Fourier Transform:FFT)を利用して高速計算ができるため、非常に魅力的である。ここでいう光学的なデコンボリューションとは、歪みやぼけなどにより劣化等した画像からその歪みなどを除去して、劣化等していない元画像を復元することをいう。

画像の場合、入力をin(x)、出力をou(x)、伝達関数をg(x)としたとき、理想状態では、出力ou(x)はコンボリューション積分となり、
ou(x)=∫in(t)g(x−t)dt…(3)
となる。なお、「∫」は積分の記号である。この式(3)は、周波数空間で、
0(u)=I(u)G(u)…(4)
となる。この既知の出力ou(x)と伝達関数g(x)から未知の入力in(x)を求めるのがデコンボリューションであり、この目的のため、周波数空間で、I(u)=O(u)/G(u)が求められれば、これを実空間に戻すことで、未知の入力in(x)を求めることができる。

しかし、実際はノイズ等より、式(3)は、「ou(x)+α(x)=∫in(t)g(x−t)dt+α(x)」となる。ここで、「ou(x)+α(x)」は既知だが、ou(x)とα(x)のそれぞれは未知である。これを、たとえ近似的に逆問題として解いたとしても、充分満足できる解を得ることは現実的には難しい。そこで、ou(x)+α(x)=∫in(t)g(x−t)dt+α(x)≒∫jn(t)g(x−t)dtとなる、jn(x)を、反復法を用いて収束させていき、得るのが上述した図3の処理フローである。
ここで、「α(x)≪ou(x)」であれば、jn(x)≒in(x)と考えられる。

しかしながら、この方法は全データ領域内での計算を反復、収束させるため、充分満足な解は得られるが、データ数が多くなると時間がかかるのが欠点である。一方、ノイズの無い理想的状態では、周波数空間でのデコンボリューション計算で高速に解を求めることができる。そこで、この2つの処理を組み合わせることで、充分満足な解を高速で得ることができる。

このような処理方法としては、2つの方法が考えられる。第1は、データを間引くことで縮小されたデータとする方法である。この方法を、図3に示す処理方法を利用した第2の処理方法として説明する。データを間引く場合、たとえば、図15に示すように、原画像のデータImg′が、画素11〜16,21〜26,31〜36,41〜46,51〜56,61〜66で構成されているとき、1つおきに画素を間引き、画素11,13,15,31,33,35,51,53,55からなる4分の1の大きさの原画像縮小データISmg′を生成する方法である。

このように、原画像のデータImg′と変化要因情報データGを間引き、間引かれた原画像縮小データISmg′と縮小された変化要因情報のデータGSを生成し、原画像縮小データISmg′と縮小された変化要因情報のデータGSを用いて、図3に示す反復処理を行い、原画像縮小データISmg′へ変化する前の縮小元画像ISmgに近似する充分満足な間引かれた近似した縮小復元データISo+nを得る。

この縮小された近似する縮小復元データISo+nを原画像縮小データISmg′へ変化する前の縮小元画像ISmg、すなわち正しい画像Imgの縮小した画像と推定する。そして、原画像縮小データISmg′は、縮小復元データISo+nと伝達関数g(x)のコンボリューション積分と考え、得られた縮小復元データISo+nと既知の原画像縮小データISmg′から未知の伝達関数g1(x)を得ることができる。

縮小復元データISo+nは充分満足なデータではあるが、あくまで近似である。したがって、本来の復元データIo+nと原画像のデータImg′の伝達関数g(x)は、縮小されたデータでの反復処理で得られた伝達関数g1(x)ではない。そこで、縮小復元データISo+nと縮小した原画像のデータである原画像縮小データISmg′から伝達関数g1(x)を算出し、算出した伝達関数g1(x)を拡大し、拡大した間を補間して、修正することで得られた新伝達関数g2(x)を、元データとなる原画像のデータImg′に対する伝達関数g(x)とする。新伝達関数g2(x)は、得られた伝達関数g1(x)に対して原画像縮小データの縮小率の逆数倍にし、その後、拡大した間の値を線形補間やスプライン補間等の補間処理をすることで得られる。たとえば、図5のように縦横共に1/2に間引いた場合、1/4の縮小率となるため、逆数倍としては4倍となる。

そして、その修正した新伝達関数g2(x)(=g(x))を使用し、周波数空間でデコンボリューション計算(ボケを含む画像群から計算によってボケを除去する計算)を行い、全体画像の完全な復元データIo+nを得て、それを劣化していない元の正しい画像Img(元画像)と推定する。

以上の処理の流れを、図16に示すフローチャート図で示す。

ステップS201では、原画像のデータImg′と変化要因情報のデータGを1/Mに縮小する。図15の例では1/4に縮小される。得られた原画像縮小データISmg′と、縮小変化要因情報のデータGSと、任意の画像(所定の画像)のデータIoとを使用し、図3に示すステップS102〜ステップS105を繰り返す。そして、差分のデータδが小さくなる画像、すなわち原画像縮小データISmg′へ変化する前の縮小元画像ISmgに近似する縮小復元データISo+nを得る(ステップS202)。このとき、図3に示す「G,Img′,Io+n」は、「GS,ISmg′,ISo+n」に置き換えられる。

得られた縮小復元データISo+nと既知の原画像縮小データISmg′とから、原画像縮小データISmg′から縮小復元データISo+nへの伝達関数g1(x)を算出する(ステップS203)。その後、ステップS204では、得られた伝達関数g1(x)をM倍(図15の例では4倍)して拡大し、拡大されたその間を線形補間等の補間手法にて補間し、新伝達関数g2(x)を得る。この新伝達関数g2(x)を元画像に対しての伝達関数g(x)と推定する。

次に、算出した新伝達関数g2(x)と原画像のデータImg′からデコンボリューションを行い、復元データIo+nを求める。この復元データIo+nを元画像とする(ステップS205)。以上のように、イ)繰り返し処理と、ロ)伝達関数g1(x),g2(x)を求め、その求められた新伝達関数g2(x)を使用した処理と、を併用することで、復元処理の高速化が図れる。

なお、この処理の場合、得られた正しい画像と推定された復元データIo+nを図3に示す処理の初期画像のデータIoとして使用し、変化要因情報のデータGと劣化した原画像のデータImg′とを用い、さらに繰り返し処理を実行するようにしても良い。

縮小されたデータを利用する方法の第2は、原画像のデータImg′の一部の領域のデータを取り出すことで原画像縮小データISmg′とする方法である。この方法を、図3に示す処理方法を利用した第3の処理方法として説明する。たとえば、図17に示すように、原画像のデータImg′が、画素11〜16,21〜26,31〜36,41〜46,51〜56,61〜66で構成されているとき、その中央の領域である、画素32,33,34,42,43,44からなる領域を取り出し、原画像縮小データISmg′を生成する方法である。

この第2の方法を図18のフローチャートを用いて詳細に説明する。

第2の方法では、まずステップS301で上述のように原画像縮小データISmg′を得る。次に、この原画像縮小データISmg′と、変化要因情報データGと、任意の画像データで原画像縮小データISmg′と同じ大きさ(=同じ画素数)の初期画像のデータIoを使用し、図3に示すステップS102〜ステップS105の処理を繰り返し、縮小復元データISo+nを得る(ステップS302)。この処理では、図3中の「Img′」を「ISmg′」に、「Io+n」を「ISo+n」にそれぞれ置き換えられる。

得られた縮小復元データISo+nと既知の原画像縮小データISmg′とから、縮小復元データISo+nから原画像縮小データISmg′への伝達関数g1′(x)を算出する(ステップS303)。次に、算出された伝達関数g1′(x)を元画像Imgに対する伝達関数g′(x)とし、この伝達関数g1′(x)(=g′(x))と既知の原画像のデータ Img′を用いて、元画像Imgを逆計算により求める。なお、求められたものは、実際は、元画像Imgに近似する画像のデータとなる。

以上のように、イ)繰り返し処理と、ロ)伝達関数g1′(x)を求め、その求められた伝達関数g1′(x)を使用した処理と、を併用することで、復元処理の高速化が図れる。なお、求められた伝達関数g1′(x)をそのまま全体の伝達関数g′(x)とせず、変化要因情報データGを利用して修正するようにしても良い。

このように、上述した高速化のための第2の方法では、画像領域全体を反復処理で復元せず、領域の一部分を反復処理し良好な復元画像を求め、それを使ってその部分に対する伝達関数g1′(x)を求め、その伝達関数g1′(x)自体またはそれを修正(拡大など)したものを用いて画像全体の復元を行うものである。ただし、取り出してくる領域は、変動領域よりも充分大きな領域とする必要がある。図5等に示した先の例では、3画素に渡って変動しているので、3画素以上の領域を取り出してくる必要がある。

なお、図17、図18に示す縮小領域を取り出してくる方法の場合、原画像のデータImg′を、たとえば図19に示すように、4分割し、各分割領域から一部の領域を取り出し、小さい領域である4つの原画像縮小データISmg′をそれぞれ反復処理し、4分割された分割区域をそれぞれ復元し、復元された4つの分割画像を一つにすることで元の全体画像としても良い。なお、複数に分割する際、必ず複数領域に渡って重なる領域(オーバーラップ領域)を持つようにするのが好ましい。また、各復元された画像のオーバーラップ領域は、平均値を使ったり、オーバーラップ領域で滑らかにつなぐなどの処理を行うようにするのが好ましい。

さらに、実際に図3の処理方法を採用した場合、コントラストの急激な変化のある画像等については、良好な近似の復元画像への収束が遅いことが判明した。このように、元の画像である被写体の性質によっては、反復処理の収束スピードが遅く、反復回数を多くしなければならない場合がある。このような被写体の場合、次のような処理方法を採用すると、この問題を解決できると推定される。

その方法とは以下のとおりである。すなわち、コントラストの急激な変化のある被写体は、図3に示す処理方法による復元の反復処理を使用し、元の画像に近似したものを得ようとすると、反復数が非常に多くなると共に多くの回数の処理を行った後も、元の被写体に近似する復元データIo+nを生成できない。そこで、撮影された原画像(ブレ画像)のデータImg′に、既知の画像のデータBから撮影時の変化要因情報のデータGを用いてブレ画像のデータB’を生成し、そのデータB’を重ね合わせ、「Img′+B’」を作る。その後、重ね合わせた画像を図3に示す処理にて復元処理し、その復元データIo+nとなる結果データCから既知の加えた場像のデータBを取り去り、求めたい復元画像のデータImgを取り出す。

この方法では、正しい画像のデータImgは急激なコントラスト変化を含んでいるが、既知の画像のデータBを加えることで、この急激なコントラスト変化を軽減することができ、復元処理の反復数を低減する事ができる。

また、復元の困難な被写体の処理方法および高速な処理方法として、他の処理方法も採用できる。たとえば、復元処理の反復数を多くすれば良好な復元画像により近づけることができるが、処理に時間がかかる。そこで、ある程度の反復処理数で得られた画像を用いて、そこに含まれる誤差成分を算出し、誤差を含む復元画像から、算出した誤差を取り去ることで良好な復元画像すなわち復元データIo+nを得ることができる。

この方法を具体的に以下に説明する。求めたい正しい画像をAとし、撮影した原画像をA’とし、原画像A’から復元した画像をA+γとし、その復元データから生成したブレた比較用データをA’+γ’とする。この「A’+γ’」に、撮影した原画像「A’」を付加し、それを復元処理すると、「A+γ+A+γ+γ」となり、これは「2A+3γ」であり、また、「2(A+γ)+」である。「A+γ」は前回の復元処理で求まっているので、「2(A+γ)+γ−2(A+γ)」が計算でき、「γ」が求まる。よって「A+γ」から「γ」を取り去ることで、求めたい正しい画像Aが得られる。

以上説明した各処理方法、すなわち、(1)配分比kを使用して差分のデータδを配分する方法(実施例方式)、(2)対応する画素の差分、または差分のデータδを変倍する方法(対応画素方式)、(3)劣化要因の重心を検出してその重心部分のデータを利用する方法(重心方法)、(4)データを間引き、逆問題と組み合わせる方法(逆問題間引き方法)、(5)縮小領域を取り出し、逆問題と組み合わせる方法(逆題間領域取り出し方法)、(6)所定の画像を重ね合わせて反復処理し、その後、その所定の画像を取り去る方法(苦手画像対策重ね合わせ方法)、(7)誤差を含む復元画像から、算出した誤差を取り去る方法(誤差取り出し方法)の各処理方法のプログラムを処理部4に保存しておき、使用者の選択または画像の種類に応じて自動的に、処理方法を選択できるようにしても良い。

また、処理部4は、変化要因情報のデータGを複数の種類の内のいずれかに分類付けし、その分類毎に違う処理(上述した各方法のいずれか1つ)を行うようにしたり、また、その分類毎に、繰り返しの回数を異ならせるようにしても良い。

また、これら(1)〜(7)のいずれか複数を処理部4に保存しておき、使用者の選択または画像の種類に応じて自動的に、処理方法を選択できるようにしても良い。また、これら7つの方法のうちいずれか複数を選択し、1ルーチンの度に交互または順番に利用したり、最初の数回はある方式で処理し、その後は他の方式で処理するようにしても良い。なお、画像処理装置1は、上述した(1)〜(7)のいずれか1つまたは複数の他に、それらとは異なる処理方法をも有するようにしても良い。

また、上述した各処理方法は、プログラム化されても良い。また、プログラム化されたものが記憶媒体、たとえばCD(Compact Disc)、DVD、USB(Universal Serial Bus)メモリに入れられ、コンピュータによって読みとり可能とされても良い。この場合、画像処理装置1は、その記憶媒体内のプログラムを読み込む読み込み手段を持つこととなる。さらには、そのプログラム化されたものが画像処理装置1の外部のサーバに入れられ、必要によりダウンロードされ、使用されるようにしても良い。この場合、画像処理装置1は、その記憶媒体内のプログラムをダウンロードする通信手段を持つこととなる。

本発明の実施の形態に係る画像処理装置の主要構成を示すブロック図である。 図1に示す画像処理装置の概要を示す外観斜視図で、角速度センサの配置位置を説明するための図である。 図1に示す画像処理装置の処理部で行う処理方法(処理ルーチン)を説明するための処理フロー図である。 図3に示す処理方法の概念を説明するための図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、手ぶれのないときのエネルギーの集中を示す表である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、手ぶれのないときの画像データを示す図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、手ぶれが生じたときのエネルギーの分散を示す図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、任意の画像から比較用データを生成する状況を説明するための図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、比較用データと、処理対象となるぶれた原画像とを比較して、差分のデータを生成する状況を説明するための図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、差分のデータを配分し任意の画像に加えることで復元データを生成する状況を説明するための図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、生成された復元データから新たな比較用データを生成し、そのデータと処理対象となるぶれた原画像とを比較して差分のデータを生成する状況を説明するための図である。 図3に示す処理方法を、手ぶれを例にして具体的に説明するための図で、新たに生成された差分のデータを配分し、新たな復元データを生成する状況を説明するための図である。 図3に示す処理方法を利用した第1の処理方法である変化要因の重心を利用した処理を説明するための図で、(A)は正しい画像のデータ中の1つの画素に注目する状態を示す図で、(B)は原画像のデータを示す図中で、注目した画素のデータが拡がる状態を示す図である。 図13に示す第1の処理方法である変化要因の重心を利用した処理を、具体的に説明するための図である。 図3に示す処理方法を利用した第2の処理方法を説明するための図で、(A)は処理対象となる原画像のデータを示し、(B)は(A)のデータを間引いたデータを示す図である。 図15に示す第2の処理方法のフローチャート図である。 図3に示す処理方法を利用した第3の処理方法を説明するための図で、(A)は処理対象となる原画像のデータを示し、(B)は(A)のデータの一部を取り出したデータを示す図である。 図17に示す第3の処理方法のフローチャート図である。 図17、図18に示す第3の処理方法の変形例を説明するための図で、原画像のデータを4分割し、各分割領域から、反復処理するための一部の領域を取り出すことを示す図である。

符号の説明

1 画像処理装置
2 撮影部
3 制御系部
4 処理部
5 記録部
6 検出部
7 要因情報保存部
Io 初期画像のデータ(任意の画像のデータ)
Io′比較用データ
G 変化要因情報のデータ(劣化要因情報のデータ)
GS 縮小された変化要因情報のデータ
Img′ 原画像のデータ(撮影された画像)
ISmg′ 原画像縮小データ
δ 差分のデータ
k 配分比
Io+n 復元データ(復元画像のデータ)
ISo+n 縮小復元データ
Img 劣化のない本来の正しい画像のデータ(元画像)
ISmg 縮小元画像
g(x),g′(x),g2(x) 伝達関数(大きい画像を復元するための伝達関数)
g1(x),g1′(x) 伝達関数(縮小されたデータから得られた伝達関数)

Claims (8)

  1. 画像を処理する処理部を有する画像処理装置において、上記処理部は、画像変化の要因となる変化要因情報のデータを利用して、所定の画像のデータから比較用データを生成し、この比較用データと、処理対象となる原画像のデータの一部からなる原画像縮小データと、を比較し、得られた差分のデータを、上記変化要因情報のデータに基づいて、上記所定の画像のデータに配分し、縮小復元データを生成し、この縮小復元データを上記所定の画像のデータの代わりに使用し、以後、得られた上記縮小復元データを前回の縮小復元データに置き換えて同様の処理を繰り返すことで、上記原画像縮小データへ変化する前の縮小元画像に近似する縮小復元データを生成する処理を行い、上記原画縮小データと上記近似する縮小復元データとから伝達関数を求め、その伝達関数を利用して上記原画像へ変化する前の元画像に近似する復元データを生成する処理を行うことを特徴とする画像処理装置。
  2. 前記処理部は、前記繰り返しの処理の際、前記差分のデータが所定値以下または所定値より小さくなったら、停止させる処理を行うことを特徴とする請求項1記載の画像処理装置。
  3. 前記処理部は、前記繰り返しの処理の際、繰り返しの回数が所定回数となったら停止させる処理を行うことを特徴とする請求項1記載の画像処理装置。
  4. 前記処理部は、前記繰り返しの処理の際、繰り返しの回数が所定回数に到達したときの前記差分のデータが所定値以下または所定値より小さい場合は停止し、所定値より超えるまたは所定値以上の場合は、さらに所定回数繰り返す処理を行うことを特徴とする請求項1記載の画像処理装置。
  5. 画像を処理する処理部を有する画像処理装置において、上記処理部は、画像変化の要因となる変化要因情報のデータを利用して、所定の画像のデータから比較用データを生成し、この比較用データと、処理対象となる原画像のデータの一部からなる原画像縮小データと、を比較し、得られた差分のデータが所定値より大きいまたは所定値以上の場合は、上記差分のデータを、上記変化要因情報のデータに基づいて、上記所定の画像のデータに配分し、縮小復元データを生成し、この縮小復元データを上記所定の画像に置き換え、以後、得られた上記縮小復元データを前回の縮小復元データに置き換えて同様の処理を繰り返す処理を行い、上記原画像縮小データへ変化する前の縮小元画像に近似する縮小復元データを生成する処理を行い、上記差分のデータが所定値以下または所定値より小さい場合は処理を停止し、上記比較用データの元となった上記縮小復元データを上記近似する縮小復元データとして、かつ上記原画像へ変化する前の縮小元画像として扱い、上記原画像縮小データと上記近似する縮小復元データとから伝達関数を求め、その伝達関数を利用して上記原画像へ変化する前の元画像に近似する復元データを生成する処理を行うことを特徴とする画像処理装置。
  6. 前記処理部は、前記繰り返しの処理の際、繰り返しの回数が所定回数となったら停止させる処理を行うことを特徴とする請求項5記載の画像処理装置。
  7. 前記原画像縮小データは、前記原画像のデータを間引くことで形成されたものであり、前記処理部は、前記伝達関数を、前記原画像縮小データの前期原画像からの縮小率の逆数倍にし、かつ拡大された間を補間して新伝達関数を得、その新伝達関数を使用して前記元画像に近似する復元データを生成することを特徴とする請求項1から6のいずれか1項記載の画像処理装置。
  8. 前記原画像縮小データは、前記原画像のデータから一部の領域をそのまま取り出すことで形成されたものであることを特徴とする請求項1から6のいずれか1項記載の画像処理装置。
JP2005216388A 2005-06-21 2005-07-26 画像処理装置 Active JP4602860B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005180336 2005-06-21
JP2005216388A JP4602860B2 (ja) 2005-06-21 2005-07-26 画像処理装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2005216388A JP4602860B2 (ja) 2005-06-21 2005-07-26 画像処理装置
US11/917,980 US20100013940A1 (en) 2005-06-21 2006-06-14 Image processing apparatus
PCT/JP2006/311946 WO2006137309A1 (ja) 2005-06-21 2006-06-14 画像処理装置

Publications (2)

Publication Number Publication Date
JP2007036613A JP2007036613A (ja) 2007-02-08
JP4602860B2 true JP4602860B2 (ja) 2010-12-22

Family

ID=37795329

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005216388A Active JP4602860B2 (ja) 2005-06-21 2005-07-26 画像処理装置

Country Status (1)

Country Link
JP (1) JP4602860B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4926450B2 (ja) * 2005-11-01 2012-05-09 日東光学株式会社 画像処理装置
JP4869971B2 (ja) * 2007-02-13 2012-02-08 日東光学株式会社 画像処理装置および画像処理方法
JP5247169B2 (ja) * 2008-01-30 2013-07-24 日東光学株式会社 画像処理装置、画像処理方法および画像処理プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000004363A (ja) * 1998-06-17 2000-01-07 Olympus Optical Co Ltd 画像復元方法
JP2004235700A (ja) * 2003-01-28 2004-08-19 Fuji Xerox Co Ltd 画像処理装置、画像処理方法、およびそのプログラム
JP2005117462A (ja) * 2003-10-09 2005-04-28 Seiko Epson Corp 印刷装置、画像読み取り装置、印刷方法及び印刷システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000004363A (ja) * 1998-06-17 2000-01-07 Olympus Optical Co Ltd 画像復元方法
JP2004235700A (ja) * 2003-01-28 2004-08-19 Fuji Xerox Co Ltd 画像処理装置、画像処理方法、およびそのプログラム
JP2005117462A (ja) * 2003-10-09 2005-04-28 Seiko Epson Corp 印刷装置、画像読み取り装置、印刷方法及び印刷システム

Also Published As

Publication number Publication date
JP2007036613A (ja) 2007-02-08

Similar Documents

Publication Publication Date Title
US9628696B2 (en) Image processing apparatus, image processing method, image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium
JP5909540B2 (ja) 画像処理表示装置
US9007482B2 (en) Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium
EP2652678B1 (en) Systems and methods for synthesizing high resolution images using super-resolution processes
EP2489007B1 (en) Image deblurring using a spatial image prior
US9071754B2 (en) Image capturing apparatus, image processing apparatus, image processing method, and image processing program
CN101192400B (zh) 图像处理设备、图像处理方法和程序
US9049356B2 (en) Image processing method, image processing apparatus and image processing program
US9747672B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
US8379120B2 (en) Image deblurring using a combined differential image
EP1523730B1 (fr) Procede et systeme pour calculer une image transformee a partir d'une image numerique
JP4585456B2 (ja) ボケ変換装置
US9412151B2 (en) Image processing apparatus and image processing method
US6973218B2 (en) Dynamic range compression
US20140218557A1 (en) Image processing method, image processing apparatus, non-transitory computer-readable medium, and image-pickup apparatus
US8659672B2 (en) Image processing apparatus and image pickup apparatus using same
US9177368B2 (en) Image distortion correction
Ben-Ezra et al. Video super-resolution using controlled subpixel detector shifts
JP5274623B2 (ja) 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法
JP2004336106A (ja) 画像処理装置、画像処理方法ならびに撮像装置
US8605999B2 (en) Signal processing apparatus and method, noise reduction apparatus and method, and program therefor
JP4942216B2 (ja) 画像処理方法、画像処理装置、撮像装置及びプログラム
JP2006129236A (ja) リンギング除去装置およびリンギング除去プログラムを記録したコンピュータ読み取り可能な記録媒体
JP5794705B2 (ja) 撮像装置、その制御方法及びプログラム
KR101274061B1 (ko) 화상 처리장치 및 화상 처리방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100921

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100930

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4602860

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250