JP6361195B2 - 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 - Google Patents

画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 Download PDF

Info

Publication number
JP6361195B2
JP6361195B2 JP2014054211A JP2014054211A JP6361195B2 JP 6361195 B2 JP6361195 B2 JP 6361195B2 JP 2014054211 A JP2014054211 A JP 2014054211A JP 2014054211 A JP2014054211 A JP 2014054211A JP 6361195 B2 JP6361195 B2 JP 6361195B2
Authority
JP
Japan
Prior art keywords
base
image
dictionary
frequency
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014054211A
Other languages
English (en)
Other versions
JP2015176500A (ja
Inventor
直樹 本橋
直樹 本橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014054211A priority Critical patent/JP6361195B2/ja
Publication of JP2015176500A publication Critical patent/JP2015176500A/ja
Application granted granted Critical
Publication of JP6361195B2 publication Critical patent/JP6361195B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、画像処理装置、画像処理方法、画像処理プログラム及び記録媒体に関する。
従来、画像の解像度を向上させるための技術として、画像を拡大する際に、存在しない画素を、元画像の画素値を用いて算出する補間技術が知られている。但し、補間技術は、本来は存在しない画素を、複数の画素の平均値等から算出するため、より強い輝度変化が存在するエッジ部等がなまり、全体的にぼけた画像になる可能性がある。そこで、最近では、画像を拡大する際に、失われてしまう高周波成分を元画像とは異なる他の画像から抽出し、他の画像から抽出した高周波成分を元画像に内挿することで、画像の解像度を向上させる技術がある。かかる技術は、超解像と呼ばれ、超解像の技術のうち学習型超解像が注目されている。
例えば、学習型超解像では、高解像度画像と、該高解像度画像をカメラのCCD等を通して得られる画像が生成される過程を模擬することで生成した低解像度画像とをペアとする。そして、学習型超解像では、多数の小矩形領域(パッチ)を、ペアとした2枚の画像の同位置から抽出して辞書を構築する。続いて、学習型超解像では、超解像する際に、低解像度画像から抽出した低解像度パッチに対して、構築した辞書の低解像度パッチを全数探索し、類似度のより高いペアを取得する。その後、学習型超解像では、取得されたペアの高解像度パッチを低解像度画像の同位置に内挿することにより高解像度化する。
また、特に、上述したパッチベースの手法よりも高い復元精度が得られることから、基底のスパースコーディング学習型超解像の手法が注目されている。かかる手法では、パッチをそのまま使用するのではなく、複数のパッチから基底と呼ばれる抽象パターンを生成して辞書を構築する。なお、パッチベースの手法と同様に、低解像度基底と高解像度基底とは対応関係にある。そして、超解像時には、低解像度パッチを線形和で近似するために少数個の低解像度基底と、それらにかかる係数とをコーディングアルゴリズムによって決定する。この決定処理は、スパースコーディングと呼ばれる。最後に、探索された低解像度基底に対応する高解像度基底に係数を掛けて、それらの線形和によって高解像度パッチを復元する。
しかしながら、上述した従来技術は、処理負荷が増大するという問題がある。具体的には、従来技術に係る学習型超解像では、パッチ単位で復元処理が行われるため、適した高解像度パッチが復元されない場合にはノイズを内挿してしまう可能性があり、パッチベースの学習型超解像では膨大な数のパッチのペアを蓄積した辞書が必要となる。また、基底を用いた学習型超解像では、パッチを抽象化した基底を構築し、それらを複数個組み合わせて高周波パッチを生成するため、辞書サイズはパッチベースよりも小さくなるものの、それでも膨大な数の基底ペアを蓄積した辞書が必要となる。これらの結果、従来技術は、膨大な数のパッチのペアを蓄積した辞書を、ペアの照合のために探索する処理負荷が増大する。
本発明は、上記に鑑みてなされたものであって、処理負荷を削減することが可能である画像処理装置、画像処理方法、画像処理プログラム及び記録媒体を提供することを目的とする。
上述した課題を解決し、目的を達成するため、本発明に係る画像処理装置は、高解像度画像を入力する第1画像入力部と、前記高解像度画像の色形式及び解像度を変換し、特定の周波数成分を抽出して、任意のサイズの矩形領域を表すパッチを抽出する前処理部と、抽出された前記パッチから、基底を蓄積した第1基底辞書を構築する辞書構築部と、構築された前記第1基底辞書から、該第1基底辞書よりも小規模の複数の第2基底辞書を新たに再構築する辞書再構築部とを有し、前記辞書再構築部は、前記探索順序ごとに、各基底の参照回数をカウントし、前記第2基底辞書に参照頻度が多い複数個の基底を蓄積する
本発明の一つの様態によれば、処理負荷を削減することができるという効果を奏する。
図1は、実施の形態1に係る画像処理装置の機能構成例を示すブロック図である。 図2は、実施の形態1に係る前処理部の詳細な構成例を示すブロック図である。 図3は、実施の形態1に係る後処理部の詳細な構成例を示すブロック図である。 図4は、実施の形態1に係る基底辞書構築部による処理の例を説明する図である。 図5は、実施の形態1に係る基底辞書再構築部による処理の例を説明する図である。 図6は、実施の形態1に係る基底辞書学習部による処理の流れの例を示すフローチャートである。 図7は、実施の形態1に係る頻度マップの作成処理の流れの例を示すフローチャートである。 図8は、実施の形態1に係る小規模基底辞書の作成処理の流れの例を示すフローチャートである。 図9は、実施の形態1に係る超解像部による処理の流れの例を示すフローチャートである。 図10は、実施の形態1に係るコーディング部による処理の流れの例を示すフローチャートである。 図11は、実施の形態2に係る小規模基底辞書の作成処理の流れの例を示すフローチャートである。 図12は、画像処理装置のハードウェア構成例を示す図である。
以下に添付図面を参照して、本発明に係る画像処理装置、画像処理方法、画像処理プログラム及び記録媒体の実施の形態を説明する。なお、以下の実施の形態により本発明が限定されるものではない。
(実施の形態1)
[実施の形態1に係る機能構成]
図1を用いて、実施の形態1に係る画像処理装置の機能構成を説明する。図1は、実施の形態1に係る画像処理装置の機能構成例を示すブロック図である。本実施形態では、カラー画像から明度成分のみを抽出して処理する(1チャネルのみの処理)ことを前提として説明する。多数のチャネルを処理する場合には、以下で説明する処理と同様の処理を各チャネルに対して独立して行なえば良い。
図1に示すように、画像処理装置100は、基底辞書学習部1000と、超解像部2000とを有する。これらのうち、基底辞書学習部1000は、画像入力部1100と、前処理部1200と、基底辞書構築部1300と、基底辞書再構築部1400と、基底辞書出力部1500とを有する。画像入力部1100は、「第1画像入力部」の一例である。また、超解像部2000は、画像入力部2100と、画像出力部220と、基底辞書入力部2300と、前処理部2400と、コーディング部2500と、後処理部2600とを有する。画像入力部2100は、「第2画像入力部」の一例である。なお、上記各部については、これらの一部又は全てがソフトウェア(プログラム)で実現されても良いし、ハードウェア回路で実現されても良い。
画像入力部1100は、処理対象の画像を入力する。より具体的には、画像入力部1100は、HDDやCD、DVD等の記憶媒体から、入力画像を読み込むことにより、処理対象の画像を入力する。また、画像入力部1100は、基底を構築する際に多数のパッチが利用されるため、複数の画像を入力する。画像入力部1100によって入力される画像は、カラー画像等の高解像度画像に該当し、ユーザが獲得したい解像度が高い理想の画像を指す。
前処理部1200は、処理対象の高解像度画像から、対応する低解像度画像を生成する。より具体的には、前処理部1200は、色形式及び解像度を変換し、特定の周波数成分を抽出して、任意のサイズの小矩形領域を表すパッチを抽出する。図2は、実施の形態1に係る前処理部1200の詳細な構成例を示すブロック図である。図2に示すように、前処理部1200は、色形式変換部1210と、入力画像生成部1220と、低解像度画像生成部1230と、中周波画像生成部1240と、高周波画像生成部1250と、パッチ抽出部1260とを有する。なお、前処理部1200は、後述する前処理部2400と同様の構成及び機能を有する。
色形式変換部1210は、多数のチャネルを有するカラー画像等の高解像度画像が入力された場合に、明度成分(1チャネル)のみを抽出する。色形式変換部1210は、明度成分を抽出することにより高解像度画像を生成する。例えば、色形式としては、YIQ、YUV、Lb等が考えられる。色形式変換部1210は、各色形式に変換したうえで、それぞれの明度成分(Y成分画像)のみを抽出する。このとき、I成分画像やQ成分画像等のほかの2成分に関しては、単純に、バイキュービック補間等の補間技術を用いて拡大し、後段の処理において、Y成分と統合したうえでカラー画像に逆変換することになる。
入力画像生成部1220は、色形式変換部1210によって生成された高解像度画像から、ユーザが入力する画像と同等の解像度を有する入力画像を生成する。一般に、ディジタル画像は、カメラ等のCCDやCMOS等の撮像素子を通して計測された光量の強さで画素値がサンプリングされて生成されている。このとき、ディジタル画像は、実世界の情景に対して、手ぶれ等によるぼけや、サンプリング間隔による情報の欠落、また、ノイズの混入等の過程を経て生成されていると仮定できる。このように生成される過程をモデル化したものを、画像の観測モデルと呼び、ぼけのフィルタ関数や画素の間引き等の解像度変換処理を用いて模擬される。高解像度画像を実世界に例えた場合、ガウシアンフィルタをかけてぼけを模擬し、バイキュービック補間で情報の欠落を模擬することで入力画像を生成する。これらにより、実画像が得られる過程を良好にモデル化することができる。
低解像度画像生成部1230は、補間技術を用いて、入力画像生成部1220によって生成された入力画像を高解像度画像と同等の解像度となるように拡大し、低解像度画像を生成する。このときの補間技術としては、バイキュービック補間やバイリニア補間等の手法を採用すれば良い。なお、後段の超解像技術は、低解像度画像生成部1230によって生成される低解像度画像に不足している高周波成分を補うことを目的としている。
中周波画像生成部1240は、低解像度画像生成部1230によって生成された低解像度画像から、中周波成分を抽出する。ここで、中周波成分とは、低解像度画像に残っている高周波成分を指す。中周波画像生成部1240は、中周波成分を抽出することにより中周波画像を生成する。低解像度画像の状態で使用しても良いが、低解像度画像の中でも比較的周波数が高いエッジ等の中周波成分を抽出する。つまり、後段の照合処理等において、低周波成分に有効な情報が含まれていないために、悪影響を及ぼしてしまう可能性を低減する。
例えば、中周波画像は、ある画素に対して、該画素の垂直方向及び水平方向に存在する周辺画素との一次微分・二次微分を計算することにより生成される。従って、中周波画像における一画素は、元の画素数の4倍の情報を持つことになる。エッジ等を抽出する処理のために微分が行なわれているため、低解像度画像に適用すると、平坦な部分は微分値が小さく、エッジ等の高周波成分は微分値が大きくなる。
高周波画像生成部1250は、色形式変換部1210によって生成された高解像度画像と、低解像度画像生成部1230によって生成された低解像度画像との差分を計算し、高周波成分のみを抽出した高周波画像を生成する。高解像度画像と低解像度画像との差分を計算することで、両方の画像に共通する画素に関しては値が0になり、エッジ周辺等の画素値が異なる画素に関してはその差が算出される。つまり、中周波画像生成部1240による中周波成分の抽出と同様の理由で、高解像度画像において、より周波数が高い成分のみを抽出することができる。
パッチ抽出部1260は、中周波画像生成部1240によって生成された中周波画像と、高周波画像生成部1250によって生成された高周波画像とからパッチを抽出する。かかるパッチは、任意のサイズの矩形領域とする。例えば、パッチは、5×5ピクセル程度の小矩形領域を用いても良い。パッチ抽出部1260は、中周波画像と高周波画像との同位置からパッチを抽出する。中周波画像のパッチは中周波パッチと呼び、高周波画像のパッチは高周波パッチと呼ぶ。これらにより、それぞれを中周波パッチ、高周波パッチのペアとして、辞書に蓄積していく。なお、微分値から中周波画像を生成しているため、中周波パッチのデータ量は、高周波パッチの4倍となる。
図1の説明に戻り、基底辞書構築部1300は、前処理部1200によって生成された中周波パッチと高周波パッチとのペアを用いて、中周波基底と高周波基底との基底辞書を構築する。基底とは、複数のパッチから共通する成分を抽出したものであり、パッチをより画像表現に適した抽象パターンに変換したものと考えられる。基底辞書構築部1300によって構築される基底辞書は、「第1基底辞書」の一例である。図4は、実施の形態1に係る基底辞書構築部1300による処理の例を説明する図である。なお、図4では、前処理部1200によって、中周波パッチと高周波パッチとが対応関係を保持した状態で生成されていることを前提として説明する。
図4の右辺に示す中周波パッチと高周波パッチとの行列は、行数Nを高周波パッチの次元とし、列数Mを抽出したパッチ数としている。上述したように、中周波パッチの次元数は、高周波パッチの次元数Nの4倍である4Nとなる。また、Kは、基底数を表している。学習型超解像では、中周波パッチをベースに係数行列を決定し、決定した係数行列を高周波パッチに適用することで、対応関係を担保した基底が構築され、使用される。従って、処理のメインとしては、中周波基底の構築となる。基底の構築は、以下のアルゴリズムに従って行なわれる。
4N次元の中周波基底1301に関し、0〜255の範囲の値でランダムに決定したうえで、各基底を単位ベクトルに変換することで、中周波基底を初期化する。基底の初期化では、ランダムに生成する方法の他にも適当な中周波パッチを初期値に使用しても良い。超解像する対象が事前に決定している場合には、超解像する対象と同カテゴリの画像から抽出した中周波パッチを初期値に使用しても良い。
次に、初期化した基底と中周波パッチとをもとに、係数行列1302を構築する。本実施の形態において、コーディングアルゴリズムは、直交マッチング追跡を用いる。直交マッチング追跡では、ある中周波パッチに対して、初期残差をこのパッチ自身として初期化される。そして、残差と基底との内積が最大となる、すなわち残差を最小にする基底を探索する。続いて、このときの残差を新たな残差として更新する。これらの処理を繰り返し行ない、複数の基底を探索する。直交マッチング追跡は、貪欲法ではあるが、良好な結果が得られるアルゴリズムとして知られている。この処理を中周波パッチごとに行ない、係数行列を決定する。つまり、パッチ数がMである場合には、M回の処理を独立して行なう。
次に、決定した係数行列と中周波パッチとをもとに、基底(行列)の更新を行なう。例えば、基底の更新は、K−SVD法により実現する。K−SVD法は、ある基底を更新するときに、まず、直交マッチング追跡でコーディングしたときに、基底を用いていた中周波パッチを収集する。そして、直交マッチング追跡でコーディングしたときの基底を使用しなかったときの残差を、中周波パッチごとに計算する。そして、これらの残差が最小になるような基底を特異値分解によって更新する。この処理を全ての基底に対して行なう。図4では、K個の基底として表している。
また、上述した係数行列の決定(構築)と、基底(行列)の更新とは、交互に行なわれ、収束するまで繰り返される。初期値をランダムにとった場合、序盤は基底を更新する度に、各中周波パッチが使用する基底が変動する。その後、数十回処理を繰り返していくと、中周波パッチが使用する基底に変動がなくなるため、基底の更新も行なわれなくなる。すなわち、中周波パッチが使用する基底は、一定のものに収束する。
その後、上記により構築された係数行列と、高周波パッチとから、高周波基底1303を構築する。学習型超解像で用いる辞書を構築する場合は、中周波と高周波のパッチや基底等の要素は対応関係を保持していることが好ましい。そこで、中周波基底の構築で用いられた係数行列を高周波基底の構築に使用することで、対応関係を保持した高周波基底を構築する。このような処理は、単純な行列計算によって実施することができる。例えば、図4に示した高周波基底が未知の状態で、他の2項が既知であるため、擬似逆行列を計算すれば良い。係数行列を決定することで、ある中周波基底に対して、該中周波基底を構築する際に使用された複数の中周波パッチ(係数が0ではないパッチ)が記憶されている。従って、擬似逆行列の計算の直感的解釈は、これらの中周波パッチに対応する高周波パッチを収集して、共通する成分を抽出することで、対応した高周波基底を構築していることになる。
図1の説明に戻り、基底辞書再構築部1400は、基底辞書構築部1300によって構築された基底辞書から、複数の小規模基底辞書を構築する。基底辞書再構築部1400によって構築される基底辞書は、「第2基底辞書」の一例である。再構築に関する処理としては、スパースコーディング時の基底が探索される順序に着目する。順序ごとの基底の評価は、別に用意された高解像度画像を用いる。別に用意する画像は、一枚又は複数枚で良い。また、種類に関しては、超解像の対象が決定している場合は、その対象と同等のカテゴリに属する画像を評価用として用いても良い。また、種類に関しては、元々パッチという最小単位で処理を行なっているため、画像ごとのパッチの種類に大きな違いはないものと仮定し、カテゴリを限定せずに他種類の画像を用いても良い。
本実施の形態では、これらの評価用画像から、前処理部1200によって同様に中周波パッチを生成する。すなわち、評価は中周波パッチのみを用いて行なわれるため、高周波画像生成部1250において高周波画像を生成しなくても良い。これらの中周波パッチを基底辞書構築部1300で構築された基底辞書を用いて、スパースコーディングする。すなわち、直交マッチング追跡によって複数個の基底を探索していく。最後に、探索順序ごとに、各基底の参照回数をカウントし、回数がより多い複数個の基底を、新たな小規模基底辞書に蓄積していく。図5は、実施の形態1に係る基底辞書再構築部1400による処理の例を説明する図である。
図5に示すように、本実施の形態に係る基底辞書の再構築は、基底のコーディング時の探索順序に基づいて行なわれる。従って、基底辞書構築部1300によって最初に構築された各基底に順位付けを行なうことにより、基底辞書の再構築を行なう。
例えば、N個の評価用中周波パッチに対して、M個の基底を直交マッチング追跡によりコーディングする場合を考える。このコーディング結果から、探索順序ごとに、各基底が参照された回数(頻度C)をカウントした頻度マップ1410を作成する。次に、頻度マップ1410を探索順序ごとに頻度の多い順にソートし、ソート済み頻度マップ1420を構築する。図5では、頻度がより多い基底を、マップの左側から順に並べるものとしている。
次に、頻度のより多い上位M’件の基底(C’)を各探索順序で使われる確率がより高い基底と仮定し、小規模基底辞書1430に蓄積する。図5に示したRは、探索する基底数を表し、そのインデックスは順序を表している。Rの値は、超解像を実施する際に、いくつの基底を用いて線形近似を行なうかにより、任意の値を設定することができる。直交マッチング追跡では、図4で説明したように、残差を最小化する基底から順に探索していくため、Rの値を増やす度に残差をより小さくできるため近似精度が向上する。これにより、後段で説明するように、精度がより高い復元を実現することができる。なお、本実施の形態では、高周波基底に関しては特に操作は行なわれない。また、図5に示した係数(α、β、θ)も特に使用されない。
図1の説明に戻り、基底辞書出力部1500は、基底辞書再構築部1400によって構築された複数の小規模基底辞書を出力する。例えば、基底辞書出力部1500は、出力方法として、テキストファイルに辞書データを書き出し、HDDやCD、DVD等の記憶メディアに格納する。
画像入力部2100は、超解像の対象となる入力画像を入力する。例えば、画像入力部2100は、HDDやCD、DVD等の記憶媒体から入力画像を読み出すことにより、入力画像を入力する。また、色形式については、基底辞書学習部1000と統一する。従って、基底辞書が明度成分(1チャネル)を対象に構築されている場合には、超解像の対象となる入力画像も同様に、1チャネルの明度成分を抽出した画像であるか、又は、入力された後に1チャネルの明度成分を抽出した画像を用いる。また、基底辞書入力部2300は、基底辞書学習部1000によって構築された基底辞書を入力する。
前処理部2400は、超解像の対象となる入力画像を基底辞書学習部1000で用いた色形式に変換したうえで、低解像度画像を生成し、中周波画像に変換する。この中周波画像から、基底辞書学習部1000で抽出されたものと同サイズの中周波パッチを抽出する。前処理部2400は、前処理部1200と同様の機能を有している。但し、前処理部2400では、入力画像が高周波成分を失った画像であるため、高周波画像の生成は行なわれず、中周波画像のみの生成となる。
コーディング部2500は、中周波パッチごとに、直交マッチングによる基底の探索と、それらにかかる係数の決定とを行なう。そして、コーディング部2500は、探索した中周波基底に対応する高周波基底に、決定した係数を掛けて、線形和で高周波パッチを復元する。なお、超解像処理の詳細については後述する。
後処理部2600は、コーディング部2500によって復元された高周波パッチを貼り合わせて一枚の復元高周波画像を生成し、生成した復元高周波画像をもとに、高解像度画像を復元する。図3は、実施の形態1に係る後処理部2600の詳細な構成例を示すブロック図である。図3に示すように、後処理部2600は、色形式逆変換部2610と、復元高周波画像生成部2620と、高解像度画像生成部2630とを有する。
復元高周波画像生成部2620は、コーディング部2500によって復元された高周波パッチを貼り合わせて一枚の復元高周波画像を生成する。例えば、中周波パッチは、数ピクセルオーバーラップした状態で中周波画像から抽出される。従って、中周波パッチを抽出した画像内の同座標(同位置)に、復元した高周波パッチを配置していった場合、複数の値が重なる領域が存在する。複数の値が重なる領域の最終的な画素値は、重なった領域における値の総和を平均しても良いし、重なった領域における値に何かしらの重み付けを行なったうえで最終的な値を算出しても良い。オーバーラップさせる利点としては、復元した高周波パッチにノイズが含まれていた場合に、複数の値の平均値を用いることで、該ノイズの影響を緩和することができる。
高解像度画像生成部2630は、前処理部2400によって生成された低解像度画像に、復元高周波画像生成部2620によって生成された復元高周波画像を内挿することにより、復元高解像度画像を生成する。高解像度画像生成部2630の処理により、失われた高周波成分(例えば、テクスチャ等の細部情報)を復元することができるし、ぼけたエッジ部分をよりシャープに修正することができる。
色形式逆変換部2610は、高解像度画像生成部2630によって生成された高解像度画像(復元高解像度画像)の色形式を元に戻す。ここで、カラー画像からY成分のみを抽出して処理が行なわれている場合には、3チャネルを統合したうえで、3チャネルのカラー画像に逆変換する。例えば、RGB画像をYIQ画像に変換して処理が行なわれている場合には、超解像処理を明度成分(Y成分)のみに対して行ない、I成分、Q成分に関してはバイキュービック補間等により拡大する。そして、最後に復元された高解像度画像(Y成分のみ)と、拡大されたI成分画像及びQ成分画像とを統合し、逆変換することにより最終的な高解像度画像(RGB)を生成すれば良い。
図1の説明に戻り、画像出力部2200は、後処理部2600によって生成された高解像度画像(復元高解像度画像)を出力する。例えば、画像出力部2200は、出力先として、HDDやCD、DVD等の記憶媒体、又は、ディスプレイ等に直接出力する。
[実施の形態1に係る基底辞書学習部による処理]
次に、図6を用いて、実施の形態1に係る基底辞書学習部1000による処理の流れを説明する。図6は、実施の形態1に係る基底辞書学習部1000による処理の流れの例を示すフローチャートである。
図6に示すように、画像入力部1100は、処理対象となる複数の画像を、格納された記憶媒体等から読み出して入力する(ステップS101)。前処理部1200は、画像入力部1100によって入力された画像を前処理する(ステップS102)。基底辞書構築部1300は、前処理部1200による前処理によって抽出された中周波パッチと高周波パッチとから、基底辞書を構築する(ステップS103)。基底辞書再構築部1400は、基底辞書構築部1300によって構築された基底辞書から、該基底辞書よりも小規模である複数の小規模基底辞書を構築する(ステップS104)。基底辞書出力部1500は、基底辞書再構築部1400によって構築された小規模基底辞書を出力する(ステップS105)。
[実施の形態1に係る頻度マップの作成処理]
次に、図7を用いて、実施の形態1に係る頻度マップ1410の作成処理の流れを説明する。図7は、実施の形態1に係る頻度マップ1410の作成処理の流れの例を示すフローチャートである。なお、図7では、使用する探索順序数をRとし、そのインデックスをrとする。また、使用する評価用中周波パッチ数をNとし、そのインデックスをnとする。また、元の基底辞書(基底辞書構築部1300によって構築された基底辞書)に含まれる基底数をMとし、そのインデックスをmとする。
図7に示すように、基底辞書再構築部1400は、探索順序r番目の基底mに対する参照回数を0に初期化する(ステップS201)。また、基底辞書再構築部1400は、nを1に初期化する(ステップS202)。そして、基底辞書再構築部1400は、全評価用中周波パッチの中から、n番目のパッチを探索する(ステップS203)。続いて、基底辞書再構築部1400は、rを1に初期化する(ステップS204)。
その後、基底辞書再構築部1400は、直交マッチング追跡により、既に探索された基底を重複して探索せずに、適した基底mを探索する(ステップS205)。そして、基底辞書再構築部1400は、探索順序r番目で基底mが参照されたことにより、順序と基底とのインデックスを対応付けて、参照回数をインクリメントする(ステップS206)。
ここで、基底辞書再構築部1400は、設定した順序に相当する数の基底を探索した場合、すなわち「r=R」である場合に(ステップS207:Yes)、ステップS209における処理を実行する。一方、基底辞書再構築部1400は、設定した順序に相当する数の基底を探索していない場合、すなわち「r≠R」である場合に(ステップS207:No)、rにr+1を代入し(ステップS208)、r+1個目の基底を探索するためのステップS205における処理を実行する。
また、基底辞書再構築部1400は、全ての中周波パッチを処理した場合、すなわち「n=N」である場合に(ステップS209:Yes)、処理を終了する。一方、基底辞書再構築部1400は、全ての中周波パッチを処理していない場合、すなわち「n≠N」である場合に(ステップS209:No)、nにn+1を代入し(ステップS210)、n+1個目の中周波パッチのコーディングを行なうためのステップS203における処理を実行する。
[実施の形態1に係る小規模基底辞書の作成処理]
次に、図8を用いて、実施の形態1に係る小規模基底辞書1430の作成処理の流れを説明する。図8は、実施の形態1に係る小規模基底辞書1430の作成処理の流れの例を示すフローチャートである。なお、図8では、新たな小規模基底辞書(基底辞書再構築部1400によって構築される基底辞書)のサイズをBとし、そのインデックスをbとする。
図8に示すように、基底辞書再構築部1400は、探索順序(C’)ごとに、基底(C’rm)を頻度のより多い順にソートする(ステップS301)。また、基底辞書再構築部1400は、rを1に初期化する(ステップS302)。そして、基底辞書再構築部1400は、頻度マップ(C’)について、探索順序r番目のデータを参照する(ステップS303)。続いて、基底辞書再構築部1400は、bを1に初期化する(ステップS304)。
その後、基底辞書再構築部1400は、探索順序r番目の辞書に、b番目の中周波基底(C’rb)を選択する(ステップS305)。そして、基底辞書再構築部1400は、辞書rに中周波基底(C’rb)と対応する高周波基底を蓄積する(ステップS306)。ここでは、同様の基底が重複して複数の辞書に蓄積されることを許容する。また、基底辞書構築部1300によって構築された基底辞書の各中周波基底は、高周波基底と対応付けて蓄積されているため、ステップS306における処理では、高周波基底も合わせて蓄積する。
ここで、基底辞書再構築部1400は、設定した個数分の基底ペアを蓄積した場合、すなわち「b=B」である場合に(ステップS307:Yes)、ステップS309における処理を実行する。一方、基底辞書再構築部1400は、設定した個数分の基底ペアを蓄積していない場合、すなわち「b≠B」である場合に(ステップS307:No)、bにb+1を代入し(ステップS308)、b+1個目の基底ペアを探索するためのステップS305における処理を実行する。
また、基底辞書再構築部1400は、探索順序分の小規模基底辞書の構築が完了した場合、すなわち「r=R」である場合に(ステップS309:Yes)、処理を終了する。一方、基底辞書再構築部1400は、探索順序分の小規模基底辞書の構築が完了していない場合、すなわち「r≠R」である場合に(ステップS309:No)、rにr+1を代入し(ステップS310)、r+1個目の辞書を構築するためのステップS303における処理を実行する。
なお、ステップS305における処理では、同様の基底が複数の小規模基底辞書に蓄積される場合を例に挙げたが、他の方法として、1つの基底を1つの辞書にのみ蓄積しても良い。かかる場合には、Rの数を大きくすると、個々の辞書に含まれる基底数が少なくなる。
[実施の形態1に係る超解像部による処理]
次に、図9を用いて、実施の形態1に係る超解像部2000による処理の流れを説明する。図9は、実施の形態1に係る超解像部2000による処理の流れの例を示すフローチャートである。
図9に示すように、画像入力部2100は、超解像する対象となる入力画像を、格納された記憶媒体等から読み出して入力する(ステップS401)。前処理部2400は、画像入力部2100によって入力された画像を前処理する(ステップS402)。コーディング部2500は、超解像処理を行なう(ステップS403)。後処理部2600は、コーディング部2500によって復元された高周波パッチを貼り合わせて一枚の復元高周波画像を生成し、生成した復元高周波画像をもとに、高解像度画像を復元する(ステップS404)。画像出力部2200は、後処理部2600によって生成された高解像度画像を出力する(ステップS405)。
[実施の形態1に係るコーディング部による処理]
次に、図10を用いて、実施の形態1に係るコーディング部2500による処理の流れを説明する。図10は、実施の形態1に係るコーディング部2500による処理の流れの例を示すフローチャートである。なお、図10では、前処理部2400によって抽出された中周波パッチの総数をNとし、そのインデックスをnとする。また、スパースコーディング時に使用する基底数をRとし、そのインデックスをrとする。
図10に示すように、コーディング部2500は、nを1に初期化する(ステップS501)。そして、コーディング部2500は、n番目の中周波パッチを探索する(ステップS502)。続いて、コーディング部2500は、基底辞書再構築部1400によって構築された複数の小規模基底辞書から、探索順序がr番目の辞書を探索する(ステップS503)。その後、コーディング部2500は、r番目の辞書内の基底を対象に、直交マッチング追跡を実施し、1つの中周波基底と、かかる係数とを決定する(ステップS504)。
そして、コーディング部2500は、線形近似に必要な個数の中周波基底を決定した場合、すなわち「r=R」である場合に(ステップS505:Yes)、決定した中周波基底に対応する高周波基底に対して、求めた係数を掛けて、線形和を計算する(ステップS507)。ステップS507における処理により、複数の高周波基底から1つの高周波パッチを生成することになる。一方、コーディング部2500は、線形近似に必要な個数の中周波基底を決定していない場合、すなわち「r≠R」である場合に(ステップS505:No)、rにr+1を代入し(ステップS506)、r+1個目の中周波基底の探索を行なうためのステップS503における処理を実行する。
また、コーディング部2500は、全ての中周波パッチの処理が完了した場合、すなわち「n=N」である場合に(ステップS508:Yes)、処理を終了する。一方、コーディング部2500は、全ての中周波パッチの処理が完了していない場合、すなわち「n≠N」である場合に(ステップS508:No)、nにn+1を代入し(ステップS509)、n+1個目の中周波パッチの復元処理を行うためのステップS502における処理を実行する。
上記処理フローでは、中周波パッチごとに基底とその係数とを決定する処理をまとめて行ない、復元高周波画像の生成はその後の後処理部2600で行なう場合を例に挙げた。他の方法として、コーディング部2500に復元高周波画像を生成する処理を組み込むことが考えられる。かかる場合には、ステップS507で高周波パッチを復元した後、一枚の高周波画像に貼り合わせていく。処理結果は何れの場合も同様である。
また、辞書の探索方法として、順序に適した辞書を切り替えて使用する方法と、一定順序になるまでは同一の小規模基底辞書を用いる方法とが考えられる。後者の方法の場合には、例えば、順序が1〜5番目までは1番目の基底辞書を使用し、6〜10番目までは6番目の基底辞書を使用する。これは、r番目とr+1番目との基底辞書に同一の基底(例えば、1つの基底が複数の辞書に重複して蓄積されている場合を想定)、又は類似した基底が多く含まれる場合に、一定間隔で使用する辞書を切り替えた方が、基底のバリエーションを担保でき、線形和による高周波パッチの表現力をより向上させる効果が期待できるためである。
[実施の形態1による効果]
画像処理装置100は、スパースコーディングに使用する基底辞書を、複数の小規模基底辞書に構築し直すことで、超解像処理時に要する低解像度パッチと基底辞書との照合回数を削減し、画像処理全体にかかる処理負荷を削減するとともに、処理時間を短縮することができる。
(実施の形態2)
さて、これまで本発明に係る画像処理装置100の実施の形態について説明したが、上述した実施の形態以外にも種々の異なる形態にて実施されて良いものである。そこで、(1)小規模基底辞書の構築、(2)構成、(3)プログラム、について異なる実施の形態を説明する。
(1)小規模基底辞書の構築
小規模基底辞書の構築については、再構築前の元の基底辞書を複数個事前に構築しておき、上記実施の形態1と同様の処理方法により、小規模基底辞書を構築しても良い。このとき、類似した基底の蓄積を回避することで、多種類の形状の基底ペアを小規模基底辞書に蓄積することができる。
図11を用いて、実施の形態2に係る小規模基底辞書の作成処理の流れを説明する。図11は、実施の形態2に係る小規模基底辞書の作成処理の流れの例を示すフローチャートである。図11では、複数の学習画像から複数の基底辞書が構築されていること、また、それらから複数の頻度マップ1410が構築されていること、を前提に説明する。なお、頻度マップ1410の作成時に使用される評価用中周波画像は、実施の形態1と同様のものを使用しても良いし、任意のものを別に用意して使用しても良い。また、新たな小規模基底辞書サイズをBとし、そのインデックスをbとし、蓄積した数をb’とする。これら以外のパラメタについては、図8と同様である。
図11に示すように、基底辞書再構築部1400は、探索順序(C’)をもとに、複数の頻度マップを統合する(ステップS601)。これにより、頻度マップC’の列数は、全頻度マップにおける基底数となる。そして、基底辞書再構築部1400は、探索順序(C’)ごとに、基底(C’rm)を頻度のより多い順にソートする(ステップS602)。また、基底辞書再構築部1400は、rを1に初期化する(ステップS603)。続いて、基底辞書再構築部1400は、頻度マップ(C’)について、探索順序r番目のデータを参照する(ステップS604)。その後、基底辞書再構築部1400は、bを1に初期化する(ステップS605)。
そして、基底辞書再構築部1400は、探索順序r番目の辞書に、b番目の中周波基底(C’rb)を選択する(ステップS606)。続いて、基底辞書再構築部1400は、小規模基底辞書(C’)に、ステップS606において探索された規定と類似したものが含まれているか否かを評価することにより、類似した基底が存在するか否かを判定する(ステップS607)。ここで、類似度の尺度としては、多次元ベクトルの類似度や、距離を計算するものであれば、任意の尺度を適用することができる。例えば、距離計算の尺度であるユークリッド距離や、類似度計算の尺度であるコサイン類似度等が挙げられる。ステップS607において、ベクトル間の距離が所定距離以上である場合には、類似した基底が存在しない(ステップS607:Yes)ものとする。同様に、ステップS607において、類似度が所定類似度未満である場合には、類似した基底が存在しない(ステップS607:Yes)ものとする。
基底辞書再構築部1400は、類似した基底が存在しない場合に(ステップS607:Yes)、辞書rに中周波基底(C’rb)と対応する高周波基底を蓄積する(ステップS609)。一方、基底辞書再構築部1400は、類似した基底が存在する場合に(ステップS607:No)、bにb+1を代入し(ステップS608)、b+1個目の基底の評価を行なうためのステップS606における処理を実行する。
その後、基底辞書再構築部1400は、新たな基底として、中周波基底(C’rb)と対応する高周波基底を蓄積したため、蓄積した基底数b’をインクリメントする(ステップS610)。そして、基底辞書再構築部1400は、設定した個数分の基底ペアを、小規模基底辞書に蓄積した場合、すなわち「b’=B」である場合に(ステップS611:Yes)、ステップS612における処理を実行する。一方、基底辞書再構築部1400は、設定した個数分の基底ペアを、小規模基底辞書に蓄積していない場合、すなわち「B’≠B」である場合に(ステップS611:No)、bにb+1を代入し(ステップS608)、b+1個目の基底の評価を行なうためのステップS606における処理を実行する。
また、基底辞書再構築部1400は、探索順序分の小規模基底辞書の構築が完了した場合、すなわち「r=R」である場合に(ステップS612:Yes)、処理を終了する。一方、基底辞書再構築部1400は、探索順序分の小規模基底辞書の構築が完了していない場合、すなわち「r≠R」である場合に(ステップS612:No)、rにr+1を代入し(ステップS613)、r+1個目の辞書を構築するためのステップS604における処理を実行する。
実施の形態2では、実施の形態1と同数(変数B)の基底を蓄積したとき、実施の形態1と同サイズの小規模基底辞書となり、且つ、多種類の形状の基底を担保することができるため、線形和で表現できるパッチのバリエーションも増加し、復元精度を向上させることができる。これは、直交マッチング追跡で探索された中周波パッチを線形和で近似したときの残差が、実施の形態1における近似精度に比べて小さくなり、これにより、高周波パッチを線形和で復元したときに、より正確な高周波成分が復元されるためである。なお、ステップS607における処理は、省略することも可能である。かかる場合には、類似した基底ペアが複数含まれる可能性がある。
また、Bの値を大きくし、小規模基底辞書のサイズを大きくする方法が考えられる。例えば、Bの値を元の基底辞書のサイズにした場合、元の基底辞書と同サイズの辞書がR個構築される。かかる場合には、照合にかかる計算コストは元の辞書を使用したときと同様になるが、元の辞書サイズ×R個の基底を担保できるため、より表現力を増加させることができる。
(2)構成
また、上記文書中や図面中等で示した処理手順、制御手順、具体的名称、各種のデータやパラメタ等を含む情報は、特記する場合を除いて任意に変更することができる。また、図示した装置の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、装置の分散又は統合の具体的形態は、図示のものに限られず、その全部又は一部を各種の負担や使用状況等に応じて、任意の単位で機能的又は物理的に、分散又は統合することができる。
図12を用いて、画像処理装置100のハードウェア構成を説明する。図12は、画像処理装置100のハードウェア構成例を示す図である。図12に示すように、画像処理装置100は、バス101に接続された、CPU(Central Processing Unit)102と、RAM(Random Access Memory)103と、ROM(Read Only Memory)104とを有する。CPU102は、画像処理装置100の動作を統括的に制御する。CPU102は、RAM103をワークエリア(作業領域)として、ROM104等に格納されたプログラムを実行することで、画像処理装置100全体の動作を制御する。
(3)プログラム
また、画像処理装置100で実行される画像処理プログラムは、一つの様態として、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。また、画像処理装置100で実行される画像処理プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するようにしても良い。また、画像処理装置100で実行される画像処理プログラムをインターネット等のネットワーク経由で提供又は配布するように構成しても良い。また、画像処理装置100で実行される画像処理プログラムを、ROM等に予め組み込んで提供するように構成しても良い。
画像処理装置100で実行される画像処理プログラムは、上述した各部(画像入力部1100、前処理部1200、基底辞書構築部1300、基底辞書再構築部1400)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が記憶媒体から画像処理プログラムを読み出して実行することにより、上記各部が主記憶装置上にロードされ、画像入力部1100、前処理部1200、基底辞書構築部1300、基底辞書再構築部1400が主記憶装置上に生成されるようになっている。
100 画像処理装置
1000 基底辞書学習部
1100 画像入力部
1200 前処理部
1210 色形式変換部
1220 入力画像生成部
1230 低解像度画像生成部
1240 中周波画像生成部
1250 高周波画像生成部
1260 パッチ抽出部
1300 基底辞書構築部
1400 基底辞書再構築部
1500 基底辞書出力部
2000 超解像部
2100 画像入力部
2200 画像出力部
2300 基底辞書入力部
2400 前処理部
2500 コーディング部
2600 後処理部
2610 色形式逆変換部
2620 復元高周波画像生成部
2630 高解像度画像生成部
特開2011−188478号公報

Claims (10)

  1. 高解像度画像を入力する第1画像入力部と、
    前記高解像度画像の色形式及び解像度を変換し、特定の周波数成分を抽出して、任意のサイズの矩形領域を表すパッチを抽出する前処理部と、
    抽出された前記パッチから、基底を蓄積した第1基底辞書を構築する辞書構築部と、
    構築された前記第1基底辞書から、該第1基底辞書よりも小規模の複数の第2基底辞書を、前記第1基底辞書をスパースコーディングする際の探索順序ごとに新たに再構築する辞書再構築部と
    を有し、
    前記辞書再構築部は、前記探索順序ごとに、各基底の参照回数をカウントし、前記第2基底辞書に参照頻度が多い複数個の基底を蓄積する、
    ことを特徴とする画像処理装置。
  2. 前記辞書再構築部は、
    前記高解像度画像から抽出される中周波画像のパッチを、前記第1基底辞書に含まれる中周波基底を用いてスパースコーディングし、
    前記スパースコーディング時に前記第1基底辞書から前記中周波基底が選択される順序を表す探索順序ごとに、前記第1基底辞書に含まれる全ての前記中周波基底が参照された回数をカウントし、
    前記探索順序ごとに参照回数がより多い順に、複数個の前記中周波基底と、該中周波基底それぞれに対応する高周波基底とのペアを前記第1基底辞書から抽出し、前記第2基底辞書を新たに再構築する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記前処理部は、
    前記高解像度画像の色形式を変換し、明度成分を抽出した明度成分画像を生成し、
    前記明度成分画像を、実際に出現するノイズが考慮された関数を用いてぼかし、ダウンサンプリング関数により低解像度化させ、入力画像を生成し、
    前記入力画像を補間により拡大し、前記高解像度画像と同一の解像度を有する低解像度画像を生成し、
    前記高解像度画像から、高周波成分を抽出した画像を表す高周波画像を生成し、
    前記低解像度画像から、高周波成分を抽出した画像を表す中周波画像を生成し、
    前記高周波画像と、前記中周波画像との同位置から、ペアとなる前記パッチを複数個抽出する
    ことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 処理対象となる復元対象画像を入力する第2画像入力部をさらに有し、
    前記前処理部は、前記復元対象画像に前処理を適用し、
    前記辞書再構築部によって再構築された前記第2基底辞書を入力する基底辞書入力部と、
    前記前処理部によって前記復元対象画像から抽出された前記中周波画像のパッチをスパースコーディングする際に、探索順序に応じて前記第2基底辞書を切り替えて使用するコーディング部と、
    前記復元対象画像を復元する後処理部と、をさらに有する
    ことを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記コーディング部は、
    前記復元対象画像から抽出された前記中周波画像のパッチをスパースコーディングする際に、前記探索順序に応じて前記第2基底辞書を切り替えて使用する、又は、前記探索順序が特定の範囲内に存在する場合に、同一の前記第2基底辞書を一定間隔で切り替えて使用する、ことにより中周波基底を探索する
    ことを特徴とする請求項4に記載の画像処理装置。
  6. 前記辞書構築部は、
    任意の複数の画像を用いて前記第1基底辞書を構築し、
    前記辞書再構築部は、
    前記第1基底辞書ごとに、任意の前記中周波画像のパッチを複数個スパースコーディングし、
    前記第1基底辞書ごとに、前記スパースコーディングする際の探索順序において、前記中周波基底が参照された回数をカウントし、
    前記探索順序ごとに、全ての前記第1基底辞書に含まれる全ての前記中周波基底のうち、参照頻度のより多い順に、複数の前記中周波基底と、該中周波基底それぞれに対応する高周波基底とのペアを前記第1基底辞書から抽出し、前記第2基底辞書を新たに再構築する
    ことを特徴とする請求項に記載の画像処理装置。
  7. 前記辞書再構築部は、
    既に再構築された前記中周波基底と、新たに再構築する前記中周波基底との距離が所定距離以上である場合、又は、類似度が所定類似度未満である場合に、前記中周波基底に対応する前記高周波基底を前記第1基底辞書から抽出し、前記第2基底辞書を新たに再構築する
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 高解像度画像を入力するステップと、
    前記高解像度画像の色形式及び解像度を変換し、特定の周波数成分を抽出して、任意のサイズの矩形領域を表すパッチを抽出するステップと、
    抽出された前記パッチから、基底を蓄積した第1基底辞書を構築するステップと、
    構築された前記第1基底辞書から、該第1基底辞書よりも小規模の複数の第2基底辞書を、前記第1基底辞書をスパースコーディングする際の探索順序ごとに新たに再構築するステップと
    を含み、
    前記再構築するステップは、前記探索順序ごとに、各基底の参照回数をカウントし、前記第2基底辞書に参照頻度が多い複数個の基底を蓄積する、
    ことを特徴とする画像処理方法。
  9. 高解像度画像を入力するステップと、
    前記高解像度画像の色形式及び解像度を変換し、特定の周波数成分を抽出して、任意のサイズの矩形領域を表すパッチを抽出するステップと、
    抽出された前記パッチから、基底を蓄積した第1基底辞書を構築するステップと、
    構築された前記第1基底辞書から、該第1基底辞書よりも小規模の複数の第2基底辞書を、前記第1基底辞書をスパースコーディングする際の探索順序ごとに新たに再構築するステップと
    をコンピュータに実行させ
    前記再構築するステップは、前記探索順序ごとに、各基底の参照回数をカウントし、前記第2基底辞書に参照頻度が多い複数個の基底を蓄積する、
    画像処理プログラム。
  10. 請求項9に記載の画像処理プログラムを記憶したコンピュータ読み取り可能な記録媒体。
JP2014054211A 2014-03-17 2014-03-17 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 Active JP6361195B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014054211A JP6361195B2 (ja) 2014-03-17 2014-03-17 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014054211A JP6361195B2 (ja) 2014-03-17 2014-03-17 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JP2015176500A JP2015176500A (ja) 2015-10-05
JP6361195B2 true JP6361195B2 (ja) 2018-07-25

Family

ID=54255604

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014054211A Active JP6361195B2 (ja) 2014-03-17 2014-03-17 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体

Country Status (1)

Country Link
JP (1) JP6361195B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6962725B2 (ja) * 2017-07-07 2021-11-05 オリンパス株式会社 観察装置および観察方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9020273B2 (en) * 2011-04-20 2015-04-28 Panasonic Intellectual Property Corporation Of America Image processing method, image processor, integrated circuit, and program
US9324133B2 (en) * 2012-01-04 2016-04-26 Sharp Laboratories Of America, Inc. Image content enhancement using a dictionary technique

Also Published As

Publication number Publication date
JP2015176500A (ja) 2015-10-05

Similar Documents

Publication Publication Date Title
KR102281017B1 (ko) 이미지 처리를 위한 신경망 모델 훈련 방법, 장치 및 저장 매체
JP6275260B2 (ja) 入力低解像度(lr)画像を処理して出力高解像度(hr)画像にする方法
US9865037B2 (en) Method for upscaling an image and apparatus for upscaling an image
JP2021100247A (ja) 歪んだドキュメント画像の矯正方法及び装置
US9697583B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP6320649B1 (ja) 機械学習装置及び画像認識装置
US9436981B2 (en) Dictionary creation device, image processing device, image processing system, dictionary creation method, image processing method, and program
CN109447897B (zh) 一种真实场景图像合成方法及系统
CN105488759B (zh) 一种基于局部回归模型的图像超分辨率重建方法
Rajput et al. A robust face super-resolution algorithm and its application in low-resolution face recognition system
CN114219890A (zh) 一种三维重建方法、装置、设备及计算机存储介质
CN114641790A (zh) 红外图像的超分辨率的处理方法及系统
Liu et al. Multi-scale residual hierarchical dense networks for single image super-resolution
US20230260083A1 (en) Computer-implemented method, computer program product and system for processing images
JP6361195B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
Wang et al. Efficient super-resolution using mobilenetv3
Moustafa et al. Rapid real-time generation of super-resolution hyperspectral images through compressive sensing and GPU
JP5198500B2 (ja) 信号処理装置及びプログラム
CN106557772B (zh) 用于提取局部特征子的方法、装置及图像处理方法
CN113902617B (zh) 基于参考图像的超分辨率方法、装置、设备及介质
Schirrmacher et al. SR 2: Super-resolution with structure-aware reconstruction
JP2012043437A (ja) 画像処理方法及び画像処理装置
CN115439397A (zh) 用于无卷积图像处理的方法和装置
CN117952901B (zh) 基于生成对抗网络的多源异构图像变化检测方法及装置
JP2016103089A (ja) 情報処理装置、信号処理方法、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180529

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180611

R151 Written notification of patent or utility model registration

Ref document number: 6361195

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151