JP6308496B2 - 画像復元装置、方法、及びプログラム - Google Patents

画像復元装置、方法、及びプログラム Download PDF

Info

Publication number
JP6308496B2
JP6308496B2 JP2014030104A JP2014030104A JP6308496B2 JP 6308496 B2 JP6308496 B2 JP 6308496B2 JP 2014030104 A JP2014030104 A JP 2014030104A JP 2014030104 A JP2014030104 A JP 2014030104A JP 6308496 B2 JP6308496 B2 JP 6308496B2
Authority
JP
Japan
Prior art keywords
image information
observation
state quantity
image
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014030104A
Other languages
English (en)
Other versions
JP2015156539A (ja
Inventor
造 田邉
造 田邉
龍 長保
龍 長保
利博 古川
利博 古川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo University of Science
Original Assignee
Tokyo University of Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo University of Science filed Critical Tokyo University of Science
Priority to JP2014030104A priority Critical patent/JP6308496B2/ja
Publication of JP2015156539A publication Critical patent/JP2015156539A/ja
Application granted granted Critical
Publication of JP6308496B2 publication Critical patent/JP6308496B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、画像復元装置、方法、及びプログラムに関する。
従来、画像工学の分野において、劣化した画像から原画像を復元する技術の研究開発が多くなされている。すなわち、原画像情報(所望の情報)に劣化情報(ぼけ、雑音、裏写り等)が混在した劣化画像情報(取得された情報)から劣化画像情報を取り除き、原画像を復元する技術が提案されている。その中で、スキャナなどを用いて両面印刷された文書を読み取ってディジタル画像へ変換する際に、表面に裏面の情報が写りこむことで裏写りが生じてしまう現象が存在する。この裏写り問題は近年の情報のデータベース化が進むとともに注目されている問題であり、この問題を解決するための技術が提案されている。
例えば、両面に画像がプリントされた文書をスキャンした際の裏写り(劣化情報)を除去するために、ガンマ補正を用い画像全体の濃度調整を行い、裏写りの除去を行う補正手法が提案されている(例えば、非特許文献1参照)。
また、文書をスキャンした際の裏写り(劣化情報)を除去するために、両面文書の表面および裏面をそれぞれ読取って電子化した画像情報を取得する画像読取り装置と、画像読取り装置によって取得された画像情報を一時的に記憶する画像記憶手段と、画像記憶手段に記憶された画像情報に対して画像処理を行い、画像処理後の画像情報を出力する画像処理手段と、を具備する画像処理装置であって、あらかじめパラメータとして設定される読み取り対象となる文書の画像情報と、画像読取り装置で読み取った文書の裏面の明度情報と、にしたがって読取った文書の表面に現れる裏面による裏写り情報を除去する裏写り情報除去手段を備えることを特徴とする画像処理装置が提案されている。
杉山賢二、「実践 映像信号処理」、2008、コロナ社
特開2009−224873号公報
しかしながら、非特許文献1に記載の技術では、両面の画像情報のうち、表面画像情報の薄い色に対しても補正処理が行われるため、カラー画像などに対しては鮮明な裏写り除去が困難である。加えて、補正量を左右するパラメータを一意に決定することが困難である問題も存在する。
また、特許文献1に記載の技術では、エッジ抽出による輝度値の変化量をパラメータとして用いることから、エッジの抽出が難しい広範囲に渡る裏写り情報に対しては処理が困難である。また、2値化処理の際で用いる閾値の最適な決定は困難である、という問題がある。
本発明は、上記事情に鑑みてなされたものであり、画像情報に含まれるぼけ、雑音および裏写り画像情報からなる劣化画像情報を除去することができる画像復元装置、方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、第1の発明に係る画像復元装置は、原画像情報にぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、文書を読み取ことにより得られた表面画像情報を、前記観測画像情報として取得する画像取得手段と、前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記各画素にぼけおよび雑音が混在しているか否かを判定する判定手段と、前記観測画像情報の時刻nでの処理領域nにおける状態量を時刻(n−1)での処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない時刻nにおける処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、時刻nにおける処理領域nの状態量に基づき、前記判定手段によりぼけおよび雑音が混在していると判定された前記処理領域nの各画素の画素値について、前記原画像情報にぼけおよび雑音が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、時刻nにおける処理領域nの状態量の最適値を原画像情報として推定する推定手段と、を含んで構成されている。
第2の発明に係る画像処理方法は、原画像情報にぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、判定手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、前記画像取得手段が、文書を読み取ことにより得られた表面画像情報を、前記観測画像情報として取得するステップと、前記判定手段が、前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記各画素にぼけおよび雑音が混在しているか否かを判定するステップと、前記状態量算出手段が、前記観測画像情報の時刻nでの処理領域nにおける状態量を時刻(n−1)での処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない時刻nにおける処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、前記観測量算出手段が、時刻nにおける処理領域nの状態量に基づき、前記判定手段によりぼけおよび雑音が混在していると判定された前記処理領域nの各画素の画素値について、前記原画像情報にぼけおよび雑音が加わって観測画像情報となる過程を観測量として算出するステップと、前記推定手段が、時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、時刻nにおける処理領域nの状態量の最適値を原画像情報として推定するステップと、を含んで構成されている。
第1の発明に係る画像復元装置、第2の発明に係る画像処理方法、及びプログラムによれば、画像に含まれるぼけおよび雑音を除去することができる。
上記目的を達成するために、第3の発明に係る画像復元装置は、両面に画像を有する文書の一方の面の原画像情報に不必要な情報である他方の面の裏写り画像情報を含むぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、前記文書の一方の面を読み取ることにより得られた表面画像情報を前記観測画像情報として取得する画像取得手段と、前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記観測画像情報の各画素に裏写り画像情報を含むぼけおよび雑音からなる劣化画像情報が混在しているか否かを判定する裏写り判定手段と、前記観測画像情報における時刻nでの処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、前記処理領域nを前記裏写り判定手段によって算出された分散値及び前記処理領域nの状態量に基づいて、前記裏写り判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素について、前記算出された分散値の標準偏差を前記雑音として用いて、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定する推定手段と、を含んで構成されている。
第4の発明に係る画像処理方法は、両面に画像を有する文書の一方の面の原画像情報に不必要な情報である他方の面の裏写り画像情報を含むぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、裏写り判定手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、前記画像取得手段が、前記文書の一方の面を読み取ることにより得られた表面画像情報を前記観測画像情報として取得するステップと、前記裏写り判定手段が、前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記観測画像情報の各画素に裏写り画像情報を含むぼけおよび雑音を含む劣化画像情報が混在しているか否かを判定するステップと、前記状態量算出手段が、前記観測画像情報における時刻nでの処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、前記観測量算出手段が、前記処理領域nを前記裏写り判定手段によって算出された分散値及び前記処理領域nの状態量に基づいて、前記裏写り判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素を、前記算出された分散値の標準偏差を前記雑音として用いて、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出するステップと、前記推定手段が、前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定するステップと、を含んで構成されている。
第3の発明に係る画像復元装置、第4の発明に係る画像処理方法、及びプログラムによれば、観測画像情報の各画素の画素値に基づいて分散値を算出し、当該分散値から算出された閾値に基づき、観測画像情報の各画素に裏写り画像情報を含むぼけおよび雑音を含む劣化画像情報が混在しているか否かを判定し、観測画像情報における時刻nでの処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む駆動源を用いて算出し、算出された分散値及び処理領域nの状態量に基づいて、劣化画像情報が混在していると判定された処理領域nの各画素を、算出された分散値の標準偏差を雑音として用いて、原画像情報に雑音が加わって観測画像情報となる過程を観測量として算出し、算出された状態量、及び算出された観測量に基づいて、状態空間モデルに基づく予測法により、処理領域nの状態量の最適値を処理領域nの原画像情報として推定することにより、表面画像のみから裏写りを除去することができる。
第5の発明に係る画像復元装置は、原画像情報に文書の地色を含むぼけおよび雑音を含む劣化画像情報が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、文書を読み取り取得した表面画像情報を前記観測画像情報として取得する画像取得手段と、前記観測画像情報の各画素の画素値に基づき分散値を算出し、前記分散値から算出された閾値に基づいて前記観測画像情報の各画素に前記劣化画像情報が混在しているか否かを判定する地色判定手段と、前記観測画像情報の時刻nにおける処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、時刻nにおける処理領域nの情報及び状態量に基づき、前記地色判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素の画素値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を原画像情報として推定する推定手段と、を含んで構成されている。
第6の発明に係る画像処理方法は、原画像情報に文書の地色を含むぼけおよび雑音を含む劣化画像情報が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、地色判定手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、前記画像取得手段が、文書を読み取り取得した表面画像情報を前記観測画像情報として取得するステップと、前記地色判定手段が、前記観測画像情報の各画素の画素値に基づき分散値を算出し、前記分散値から算出された閾値に基づいて前記観測画像情報の各画素に前記劣化画像情報が混在しているか否かを判定するステップと、前記状態量算出手段が、前記観測画像情報の時刻nにおける処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、前記観測量算出手段が、時刻nにおける処理領域nの情報及び状態量に基づき、前記地色判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素の画素値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出するステップと、前記推定手段が、前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を原画像情報として推定するステップと、を含んで構成されている。
第5の発明に係る画像復元装置、第6の発明に係る画像処理方法、及びプログラムによれば、観測画像情報の各画素の画素値に基づき分散値を算出し、当該分散値から算出された閾値に基づいて観測画像情報の各画素に劣化画像情報が混在しているか否かを判定し、観測画像情報の時刻nにおける処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む駆動源を用いて算出し、時刻nにおける処理領域nの情報及び状態量に基づき、劣化画像情報が混在していると判定された処理領域nの各画素の画素値を劣化画像情報として用い、原画像情報に劣化画像情報が加わって観測画像情報となる過程を観測量として算出し、算出された状態量、及び算出された観測量に基づいて、状態空間モデルに基づく予測法により、処理領域nの状態量の最適値を原画像情報として推定することにより、地色を除去することができる。
第7の発明に係る画像復元装置は、両面に画像を有する文書の一方の面の読取り原画像情報に劣化画像情報である他方の面の裏写り情報を含む、ぼけおよび雑音が混在した観測画像情報に対し、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、前記文書の両面を各々読み取り表面画像情報及び裏面画像情報を取得し、前記表面画像情報を前記観測画像情報とする画像取得手段と、前記観測画像情報の時刻nでの処理領域nにおける状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、前記観測画像情報の時刻nにおける処理領域nの状態量、及び前記裏面画像情報に基づいて、前記裏面画像情報を水平方向に反転させた画像情報における時刻nにおける処理領域nに対応する領域の情報に基づき算出された値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、前記表面画像情報の時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定する推定手段と、を含んで構成されている。
第8の発明に係る画像処理方法は、両面に画像を有する文書の一方の面の読取り原画像情報に劣化画像情報である他方の面の裏写り情報を含む、ぼけおよび雑音が混在した観測画像情報に対し、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、前記画像取得手段が、前記文書の両面を各々読み取り表面画像情報及び裏面画像情報を取得し、前記表面画像情報を前記観測画像情報とするステップと、前記状態量算出手段が、前記観測画像情報の時刻nでの処理領域nにおける状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、前記観測量算出手段が、前記観測画像情報の時刻nにおける処理領域nの状態量、及び前記裏面画像情報に基づいて、前記裏面画像情報を水平方向に反転させた画像情報における時刻nにおける処理領域nに対応する領域の情報に基づき算出された値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出するステップと、前記推定手段が、前記表面画像情報の時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定するステップと、を含んで構成されている。
第7の発明に係る画像復元装置、第8の発明に係る画像処理方法、及びプログラムによれば、文書の両面を各々読み取り表面画像情報及び裏面画像情報を取得し、表面画像情報を観測画像情報とし、観測画像情報の時刻nでの処理領域nにおける状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む駆動源を用いて算出し、観測画像情報の時刻nにおける処理領域nの状態量、及び裏面画像情報に基づいて、裏面画像情報を水平方向に反転させた画像情報における時刻nにおける処理領域nに対応する領域の情報に基づき算出された値を劣化画像情報として用い、原画像情報に劣化画像情報が加わって観測画像情報となる過程を観測量として算出し、表面画像情報の時刻nにおける処理領域nを、算出された状態量、及び算出された観測量に基づいて、状態空間モデルに基づく予測法により、処理領域nの状態量の最適値を処理領域nの原画像情報として推定することにより、精度よく裏写りを除去することができる。
上記第7の発明に係る画像復元装置、及び第8の発明に係る画像処理方法は、前記画像取得手段により取得された前記表面画像情報と前記裏面画像情報との間の位置合わせを行い、前記観測画像情報内の時刻nにおける処理領域nの領域を、前記裏面画像情報に対して設定する位置変化量設定手段を更に含むようにすることができる。
上記第3の発明に係る画像復元装置、及び第4の発明に係る画像処理方法における前記裏写り判定手段は、前記観測画像情報の部分領域の各画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき前記部分領域の各画素に前記劣化画像情報が混在しているか否かを判定し、前記観測量算出手段は、前記観測画像情報の時刻nにおける処理領域nが前記裏写り判定手段により、前記処理領域nを含む部分領域について算出された前記分散値及び処理領域nの状態量に基づき、前記裏写り判定手段によって前記劣化画像情報が混在していると判定された前記処理領域nの各画素が前記部分領域について算出された前記分散値の標準偏差を前記雑音として用い、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出するようにすることができる。
上記第5の発明に係る画像復元装置、及び第6の発明に係る画像処理方法における前記地色判定手段は、前記観測画像情報の各部分領域の各画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき前記部分領域の各画素に前記地色が混在しているか否かを判定し、前記観測量算出手段は、前記観測画像の処理領域nに前記地色判定手段によって処理領域nを含む部分領域について算出された前記分散値及び前記処理領域nの状態量に基づいて、前記地色判定手段によって前記地色が混在していると判定された処理領域nの各画素について、部分領域について算出された前記分散値の標準偏差を前記雑音として用いて、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出するようにすることができる。
上記各発明は、各手段の処理を、前記観測画像情報に対して設定した部分領域L毎に行うようにすることができる。
また、前記処理領域nは、前記処理領域(n−1)と一部重複するように設定されるようにすることができる。
本発明に係るプログラムは、コンピュータを、上記画像復元装置の各手段として機能させるためのプログラムである。
以上説明したように、本発明の画像復元装置、方法、及びプログラムによれば、画像に含まれる不必要な情報を除去することができる、という効果が得られる。
第1、第2及び第3の実施の形態に係る画像復元装置の概略構成を示すブロック図である。 画像に対して設定される部分領域と処理領域とを説明するための図である。 第1の実施の形態における画像復元処理部の概略構成を示すブロック図である。 画像の劣化過程を説明するための図である。 画像の劣化原理を説明するための図である。 第1の実施の形態における画像復元処理の前半部分の内容を示すフローチャートである。 第1の実施の形態における画像復元処理の後半部分の内容を示すフローチャートである。 同一の状態量を持つ領域を説明するための図である。 本実施の形態における状態量算出処理の内容を示すフローチャートである。 第1の実施の形態における状態n−1の状態ベクトルと状態nの状態ベクトルとの構成を説明するための図である。 第1の実施の形態における状態方程式の構成を示すイメージ図である。 第1の実施の形態における観測方程式の構成を示すイメージ図である。 本実施の形態における状態空間に基づく予測処理の内容を示すフローチャートである。 発明手法1のシミュレーションに用いた画像を示す図である。 発明手法1のシミュレーション結果(視覚評価)の一例を示す図である。 図15の一部拡大図である。 第2の実施の形態における画像復元処理部の概略構成を示すブロック図である。 第2の実施の形態における画像復元処理の前半部分の内容を示すフローチャートである。 発明手法2のシミュレーションに用いた画像を示す図である。 発明手法2のシミュレーション結果(視覚評価)の一例を示す図である。 図20の一部拡大図である。 発明手法2のシミュレーション結果(視覚評価)の他の例を示す図である。 図22の一部拡大図である。 第3の実施の形態における主記憶部の概略構成を示すブロック図である。 第3の実施の形態における画像復元処理部の概略構成を示すブロック図である。 第3の実施の形態における画像復元処理の前半部分の内容を示すフローチャートである。 第3の実施の形態における状態方程式の構成を示すイメージ図である。 第3の実施の形態における、表面画像における状態nの状態ベクトルと、裏面画像における状態nの状態ベクトルとの構成を説明するための図である。 第3の実施の形態における観測方程式の構成を示すイメージ図である。 発明手法3のシミュレーションに用いた画像の一例を示す図である。 発明手法3のシミュレーション結果(視覚評価)の一例を示す図である。 図31の一部拡大図である。 発明手法3のシミュレーション結果(視覚評価)の他の例を示す図である。 図33の一部拡大図である。 発明手法3のシミュレーション結果(主観評価)を示す図である。 発明手法3のシミュレーションに用いた画像の他の例を示す図である。 発明手法3のシミュレーション結果(視覚評価)を示す図である。 図37の一部拡大図である。 発明手法3のシミュレーション結果(視覚評価)を示す図である。 図39の一部拡大図である。 図39の一部拡大図である。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
<第1の実施の形態>
まず、第1の実施の形態について説明する。第1の実施の形態に係る画像復元装置は、両面に画像を有する文書の一方の面の原画像情報に劣化画像情報である他方の面の裏写り画像情報を含むぼけと雑音が混在した観測画像情報のシステムにおける状態空間モデルであって、かつ、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、観測画像情報から、原画像情報を推定する。
第1の実施の形態では、両面に画像を有する文書を対象とし、文書の一方の面の原画像情報に劣化画像情報である他方の面の裏写り画像情報を含むぼけと雑音が混在した観測画像情報(表面画像情報)から、原画像情報を推定する画像復元装置に本発明を適用した場合について説明する。
図1に示すように、第1の実施の形態に係る画像復元装置10は、CPU、ROM、RAM、及びHDDを含むコンピュータで構成されており、入力インタフェース部20、操作部30、記憶部40、画像復元処理部60、及び出力インタフェース部70を備えている。入力インタフェース部20は、画像取得手段の一例である。
入力インタフェース部20は、文書の一方の面を読み取ることにより得られた表面画像情報を、観測画像情報として取得する。すなわち、入力インタフェース部20は、画像入力装置から提供される画像情報をコンピュータで処理可能なデータ形式に変換するなどの入力処理を行う。入力インタフェース部20は、画像取得手段の一例である。また、文書を読み取る方法の一例として、図2に図示しているとおり、読取り文書の横幅N×長さ方向Mの部分領域Lを読取り単位として文書を読み取り、部分領域毎に得られた画像情報(L+(L+1)+・・・+(L+n))を結合して、読取り文書全体の表面画像情報が得られる。
画像入力装置は、処理の対象となる画像情報(観測画像情報)をデジタルデータとしてコンピュータに入力するための入力装置であり、動画像を構成する時系列に連続した各フレームの各画像情報を画像復元装置10に入力する。画像入力装置としては、例えば、カメラ、記録メディア、モデムなどを用いることができる。カメラは、撮像機能を有する全ての装置を意味し、例えば、デジタルビデオカメラの他に、カメラ機能を搭載した携帯電話や、防犯カメラ(監視カメラ)、画像診断を行うための医療機器(内視鏡、レントゲン、エコー、CT、MRIなど)などを含むことができる。記録メディアは、画像情報を記録可能な記録媒体を広く意味し、例えば、磁気ディスク(HDDやFDなど)や、光ディスク(CDやDVD、BDなど)、光磁気ディスク(MO)、フラッシュメモリ(メモリカードやUSBメモリなど)などである。モデムは、外部の通信ネットワーク(例えば、電話回線やLAN、インターネットなど)と接続するための装置である。なお、画像入力装置の種類は、画像復元装置10の用途に応じて適用可能なものを選択すればよい。本実施の形態では、画像入力装置としてスキャナを想定する。
図示は省略するが、入力インタフェース部20は、画像入力装置の種類に応じて別個独立に設けられる。例えば、記録メディアの入力インタフェース部20は、ドライブとも呼ばれ、記録メディアの種類に応じて様々な種類のドライブが使用可能である。なお、ドライブは、記録メディアを読み書きする装置であり、記録メディアに関する限り、通常は、入力インタフェース部20と出力インタフェース部70とは一体化されている。また、通常、モデムは、画像入力装置としても画像出力装置としても機能しうるため、モデムに関しても、通常、入力インタフェース部20と出力インタフェース部70とは一体化されている。入力インタフェース部20は、コンピュータ本体の内部に格納された内蔵カード(ボード)であってもよいし、内部インタフェース部(図示省略)を介して接続された外部設置型機器であってもよい。
なお、画像入力装置が画像情報をアナログデータとして出力する場合、対応する入力インタフェース部20は、サンプリング部及びA/D変換部(共に図示せず)を有する。サンプリング部は、所定のサンプリング周波数で、入力されたアナログ信号をサンプリング処理し、A/D変換部に出力する。サンプリング周波数は、復元処理となる画像の種類に応じて変更可能である。A/D変換部は、サンプリングされた信号の振幅値を所定の分解能でA/D変換処理する。
操作部30は、例えば、キーボートやマウス、タッチパネル等であるが、音声認識装置などを用いてもよい。使用者は、操作部30を用い、本装置を操作することができる。また、操作部30は、パラメータ設定部31、領域指定部32、及び画像情報設定部33を有する。パラメータ設定部31は、使用者の入力操作により、本実施の形態における画像処理に必要な各種パラメータの値を設定する。領域指定部32は、使用者の入力操作により、入力された画像情報に対して画像処理の対象となる処理領域(画像の特定の範囲)を指定する。画像情報設定部33は、入力された画像を白黒画像、又はRGB画像の何れかとするかを設定する。
記憶部40は、コンピュータの本体を構成する一要素であって、主記憶部41、補助記憶部47、及び表示メモリ48を有する。主記憶部41は、入力インタフェース部20を介して取り込んだ画像データが記憶される取込画像メモリ42と、後述する劣化画像情報判定部62によって算出される分散値が記憶される分散値メモリ43と、後述する劣化画像情報判定部62によって算出される基準値が記憶される基準値メモリ44と、後述する推定部65によって推定された処理結果が記憶される被写体領域メモリ45と、後述する画像処理を実行するための画像処理プログラムや各種パラメータが記憶された処理パラメータメモリ46と、を有する。
表示メモリ48は、ディスプレイ等で構成された画像出力装置(図示省略)に表示するための画像情報が記憶される領域であり、取り込んだ画像情報(観測画像情報)を表示するために処理前の画像情報(取り込んだ画像情報)が記憶される取込画像メモリ49と、画像処理において一時的に必要な記憶領域である処理メモリ50と、処理された画像情報を表示するために処理後の画像情報が記憶される復元画像メモリ51とを有する。
補助記憶部47は、主記憶部41の容量不足を補う。補助記憶部47は、例えば、ハードディスク(HD)であってもよいし、CD−ROM、DVD、SSD(Solid State Drive)、フラッシュメモリなどの可搬性のあるものであってもよいし、また、それらの組み合わせであってもよい。
また、本実施の形態では、処理パラメータメモリ46に予め画像処理プログラムが記憶されている場合について説明するが、画像処理プログラムは、記録メディアから入力インタフェース部20を介して記憶部40にインストールしたり、モデム及び入力インタフェース部20を介して外部から記憶部40にダウンロードしたりしてもよい。
画像復元処理部60は、後述する画像処理を実行するための処理部であり、機能的には、図3に示すように、領域設定部61と、劣化画像情報判定部62と、状態量算出部63と、観測量算出部64と、推定部65と、復元画像出力部66とを含んだ構成で表すことができる。
領域設定部61は、取込画像メモリ42に記憶された画像情報である観測画像情報について、時刻nにおける注目画素領域を囲む周辺画素領域p×qの大きさの処理領域nを設定する。注目画素領域は、1画素としてもよいし、複数画素領域と2次元的に大きくしてもよい。注目画素領域を複数画素領域とすることで、処理効率のよい復元が可能となる。領域設定部61は、注目画素領域の大きさ及び周辺画素領域の大きさを設定する。また、取込画像メモリ49内で時刻nにおける処理領域を時刻変化に伴い注目画素領域を含むように時刻(n+i)と一部重複移動させるよう設定する。
劣化画像情報判定部62は、取込画像メモリ42に記憶された画像情報である観測画像情報の部分領域Lの各画素の画素値に基づいて分散値を算出し、分散値から算出された当該部分領域Lの基準値(閾値)に基づいて、当該部分領域Lの各画素に前記裏写り画像情報が混在しているか否かを判定する。
状態量算出部63は、部分領域Lの時刻nでの処理領域nにおける状態量を、時刻(n−1)の処理領域(n−1)状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む有色性駆動源を用いて算出する。
観測量算出部64は、部分領域Lの時刻nにおける処理領域nについて、劣化画像情報判定部62によって処理領域を含む部分領域Lについて算出された分散値及び時刻nにおける当該処理領域nの状態量に基づいて、劣化画像情報判定部62によって劣化画像情報が混在していると判定された処理領域nの画素について、当該分散値の標準偏差を雑音として用いて、原画像情報に雑音が加わって観測画像情報となる過程を観測量として算出する。
推定部65は、部分領域Lの時刻nにおける処理領域nについて、状態量算出部63により算出された状態量、及び観測量算出部64により算出された観測量から状態空間モデルに基づいた予測法を用い、処理領域nの状態量の最適値を処理領域nの原画像情報として推定し復元する。
復元画像出力部66は、推定部65により得られた結果から、時刻nにおける処理領域nの注目画素領域を復元する。
なお、画像復元処理部60の各部の処理については、後述する画像復元処理ルーチンにおいて詳述する。
出力インタフェース部70は、画像復元処理部60で復元処理され、復元画像メモリ51に記憶された画像情報(復元画像情報)を、ディスプレイなどで構成された画像出力装置に出力可能なデータ形式に変換して出力処理を行う。
なお、処理画像の出力形態は画像出力装置に表示する場合に限定されず、他の画像出力装置に出力するようにしてもよい。例えば、画像出力装置として、プリンタ、記録メディア、モデムなどを用いることができる。記録メディア及びモデムは、画像入力装置としての記録メディア及びモデムとそれぞれ共用してもよい。なお、画像出力装置の種類は、画像復元装置10の用途に応じて適用可能なものを選択すればよい。
また、図示は省略するが、出力インタフェース部70は、画像出力装置の種類に応じて別個独立に設けられる。上記のように、記録メディア及びモデムに関しては、通常、入力インタフェース部20と出力インタフェース部70とは一体化されている。出力インタフェース部70も、入力インタフェース部20と同様に、コンピュータ本体の内部に格納された内蔵カード(ボード)であってもよいし、内部インタフェース部を介して接続された外部設置型機器であってもよい。
次に、第1の実施の形態における画像復元の理論となる観測画像モデル及び状態空間モデルについて説明する。
観測画像情報は、一般的に、原画像情報とぼけの点拡がり関数(PSF:Point Spread Function、以下単に「ぼけ関数」ともいう)の畳み込み(コンボリューション)に雑音を加えたモデルによって得られる。
図4に、画像の劣化の過程を説明するための図を示す。例えば、両面に画像がプリントされた文書をスキャンした場合、表面画像の原画像情報に裏面画像の画像情報が裏写りして、図4の右端に示す劣化画像情報となる。裏写りは、図5に示すように、原画像(表面画像)をスキャンした画像情報に、裏面画像が透過し、かつぼけおよび雑音が生じた状態の画像情報が重畳された画像である。なお、裏面画像が透過する透過率は、印刷媒体の厚さ、画像の濃度、スキャン時の照明強度等に依存する。従って、第1の実施の形態は、劣化画像情報を取り除くことである。
第1の実施の形態では、原画像情報(原画像情報)のみを用いて状態量を算出し、かつ、観測画像情報、原画像情報、ぼけ、雑音および裏写り画像情報からなる劣化画像情報を用いて観測量を算出した状態空間モデルであって、かつ、有色性駆動源を含む状態空間モデルに基づく予測法を用い状態量の最適推定値を求めることにより、観測画像情報から復元画像情報を生成する。
上記の状態空間モデルは、下記(1)式の状態方程式と、下記(2)式の観測方程式とで表される。ただし、状態方程式において、時刻nにおける状態ベクトルx p1(n)は表面画像を原画像情報とする状態量からなるベクトル、行列状態遷移行列Φp1は処理領域(n−1)から処理領域nへの遷移を表す行列、駆動源ベクトルδ p1(n)は原画像情報からなる。また、観測方程式において、観測ベクトルy p1(n)は観測画像情報からなるベクトル、観測行列Mは表面画像情報に生ずるぼけを表す行列、観測雑音ベクトルε p1(n)は裏移り情報からなるベクトルである。また、添え字p1は第1の実施の形態に係るものであることを表し、添え字fは表面画像であることを表す。
(1)式の状態方程式は、観測対象のシステムを状態空間モデルで記述したものであり、内部状態つまり状態変数(ここでは、状態ベクトルx p1(n−1)、x p1(n))の状態に対する生成過程を表している。また、(2)式の観測方程式は、何らかの観測装置を通じて観測する過程を記述したものであり、観測ベクトルy p1(n))が状態ベクトルx p1(n)に依存して生成される様子を示している。
次に、図6及び図7を参照して、第1の実施の形態に係る画像復元装置10の作用について説明する。なお、図6及び図7に示す画像復元処理ルーチンは、記憶部40に制御プログラムとして格納されており、図示しないCPUによって実行される。
ステップ100で、画像入力装置であるスキャナにより、両面に画像がプリントされた文書から読み取られた表面画像の画像情報を、入力インタフェース部20を介して取り込み、主記憶部41の取込画像メモリ42に記憶する。なお、表面画像の画像情報には表面画像のカラー情報も含まれているため、画像情報設定部33によって、入力された画像を白黒画像、又はRGB画像の何れかとするかを設定する。
次に、ステップ102で、領域設定部61が、裏写り画像情報の分散値を求めるための処理単位となる部分領域Lの画素サイズM×Nと、画像復元の処理単位となる処理領域nの画素サイズp×qを設定する。部分領域L及び処理領域nは、例えば、表面画像情報に対して図2に示すように設定される。また、部分領域M×N及び処理領域p×qの設定は、ユーザにより操作部30の領域指定部32から指定された値を設定するようにしてもよい。
ここでは、ステップ102において、処理領域nの画素サイズをp×q=3×3画素と設定されたものとする。この場合、図8に示すように、左から右へ1画素分移動し、時刻(n−1)における処理領域(n−1)、時刻nにおける処理領域nという画像情報が処理対象となる。
次に、ステップ104で、状態量算出部63が、時刻nにおける処理領域nと時刻(n−1)における処理領域(n−1)との位置関係に基づいて、状態遷移行列Φp1を構成する。
具体的には、まず、時刻(n−1)における処理領域(n−1)から時刻nにおける処理領域nに、水平に左から右へ1画素ずつ移動していたとする。この場合、各処理領域nにおいて、上記図8に示すように、同一の状態量を持つ領域が存在する。同一の状態量を持つ領域は、上記図8において網掛けされた画素領域である。上記図8に示すように、時刻(n−1)における処理領域(n−1)の状態量x1,2,x2,2,x3,2,x1,3,x2,3,x3,3と、時刻nにおける処理領域nの状態量x1,1,x2,1,x3,1,x1,2,x2,2,x3,2とが同一の状態量を持つ領域となる。
そして、上述した同一の状態量を持つ領域が時刻(n−1)における処理領域(n−1)の状態ベクトルから時刻nにおける処理領域nの状態ベクトルへの変化によって一致した状態遷移行列Φp1を構成する。
次に、ステップ106で、上記ステップ100で記憶した表面画像の画像情報のうち、部分領域Lの画素サイズM×Nにおいて、処理領域nの画素サイズを変更する場合はp‘×q’に再生設定でき、また注目画素領域の画素数をも再設定する場合には変更設定する。
次に、ステップ108で、上記ステップ100において画像がRGB画像と設定された場合、記憶した表面画像の画像情報のうちR、G、Bの各色のうち、特定の色を処理対象として設定する。
次に、ステップ110で、劣化画像情報判定部62が、取込画像メモリ42に記憶された表面画像の画像情報において、上記ステップ102で設定された部分領域Lの画素サイズM×Nの画素値に基づき分散値を算出する。また、劣化画像情報判定部62が、算出された分散値に基づき表面画像の各画素に裏写り情報が含まれているか否かを判定するための基準値(閾値)を算出する。
具体的には、劣化画像情報判定部62は、設定された部分領域Lの画素サイズM×Nにおいて、上記ステップ108で設定された色の平均画素値 ̄yを算出する。そして、算出された平均画素値 ̄yを用いて、上記ステップ108で設定された色の分散値σ を算出する。すなわち、劣化画像情報判定部62は、上記ステップ108で設定された色に応じて、以下の(3)式に示すように、分散値σ を算出する。
ここで、ym,nは、表面画像における、上記ステップ108で設定された色の画素値を表す。また、M、Nは、上記図2に示すように、部分領域Lの画素サイズM×Nを表す。
そして、劣化画像情報判定部62は、平均画素値 ̄yと分散値σ とに基づいて、表面画像内の画素に裏写り画像情報が含まれているか否かを判定するための基準値ythを、以下の(4)式に示すように算出する。
次に、ステップ112で、設定された部分領域Lが初期値であるか否かを判定する。すなわち、設定された部分領域Lが上記図2の最上段に位置するか否かを判定する。そして、上記設定された部分領域Lが初期値である場合にはステップ116へ進む。一方、設定された部分領域Lが初期値でない場合には、ステップ114へ進む。
次に、ステップ114で、上記ステップ110で算出された分散値σ について、前回のステップ110で算出された部分領域(L−1)における分散値を考慮し、上記ステップ110で算出された分散値σ を修正する。例えば、部分領域Lにおける分散値を一旦算出した後、算出された部分領域Lにおける分散値と、部分領域(L−1)における分散値との平均値を、部分領域Lにおける分散値と再設定することができる。
次に、ステップ116で、領域設定部61が、ステップ106で再設定された場合は、処理領域nの画素サイズをp‘×q’とし、再設定されない場合はステップ102で設定された処理領域nの画素サイズのままとする。
次に、ステップ118で、劣化画像情報判定部62が、上記ステップ116で設定された処理領域nに含まれる各画素について、上記ステップ110で算出された基準値ythに基づいて、当該画素に裏写り画像情報が混在しているか否かを判定する。
具体的には、劣化画像情報判定部62は、処理領域nの画素サイズp×qに含まれる各画素について、当該画素の上記ステップ108で設定された色の画素値ym,n、及び当該画素の濃淡値ygrayと、基準値ythとを比較する。そして、以下の(5)式を満たす場合には、当該画素値ym,nには裏写りが混在していると判断する。
また、
上記(数5)は、当該画素のR,G,Bの各色の画素値を表す。なお、上記ステップ100において画像が白黒画像と設定された場合には、各画素の画素値が基準値ythより大きい場合に、当該画素に裏写り画像情報が混在していると判断する。
次に、ステップ120で、状態量算出部63が、状態量算出処理を実行する。ここで、図9を参照して、状態量算出処理ルーチンについて説明する。
ステップ1200で、状態量算出部63が、時刻(n−1)における処理領域(n−1)の各画素の状態量を要素とする処理領域(n−1)の状態ベクトルと、時刻nにおける処理領域nの各画素の状態量を要素とする処理領域nの状態ベクトルとを導出する。以下、各処理領域の状態ベクトルの導出方法を具体的に説明する。
まず、処理領域(n−1)の状態ベクトルは、図10に示すように、画素サイズp×qの処理領域(n−1)の各画素の状態量を組み合わせて構成される。すなわち、処理領域(n−1)の状態ベクトルx p1(n−1)は9次元のベクトルx p1(n−1)=[x 1,1(n−1) x 2,1(n−1)・・・x 3,3(n−1)]となる。次に、処理領域nの状態ベクトルx p1(n)は、上記図10に示すように、画素サイズp×qの処理領域nの各画素の状態量を組み合わせて構成される。すなわち、処理領域nの状態ベクトルx p1(n)は9次元のベクトルx p1(n)=[x 1,1(n) x 2,1(n)・・・x 3,3(n)]となる。ただし、Tはベクトルの転置を表す。また、状態ベクトルx p1(n−1)及びx p1(n)のサイズ(次元数)は設定された処理領域の画素サイズp×qによって変化する。
次に、ステップ1202で、状態量算出部63が、駆動源ベクトルを構成する。図11(A)に示すように、処理領域nの状態量x1,3,x2,3,x3,3は、処理領域(n−1)の情報からは構成することができないため、本実施の形態では、駆動源と呼ばれる領域に状態量x1,3,x2,3,x3,3を用いることで、図11(B)に示すように、駆動源ベクトルδ p1(n)を構成する。これは、フレーム内を移動した際に、処理領域(n−1)の状態量では表せられない領域の状態量を、処理領域nの状態量で構成することを表しており、原画像の情報が含まれることから、駆動源ベクトルδ p1(n)は有色性駆動源となる。
次に、ステップ1204で、状態量算出部63が、上記ステップ1200で導出した状態(n−1)及び状態nの状態ベクトルx p1(n−1)及びx p1(n)、上記ステップ105で構成した状態遷移行列Φp1、及び上記ステップ1202で構成した駆動源ベクトルδ p1(n)に基づいて、状態量を算出する。上記図11(B)に示すように、本実施の形態における状態方程式は、画像情報からなる状態ベクトルx p1(n)と、0及び1からなる状態遷移行列Φp1と、有色信号である画像情報からなる駆動源ベクトルδ p1(n)とから構成されるため、所望の状態量、つまり、画像情報のみで構成されることになる。
状態量算出処理ルーチンが終了すると、画像復元処理ルーチンにリターンして、ステップ122へ移行し、観測量算出部64が、上記図4に示した観測画像モデルに基づいて、図12に示すように、表面画像の原画像情報に裏面画像の裏写り画像情報が加わって観測画像情報となる過程を、観測量(観測方程式)として算出する。観測ベクトルy p1(n)は、観測画像情報を含む観測量として表面画像情報の処理領域nの各画素の画素情報を要素とする9次元のベクトルである。また、観測行列Mは、観測方程式を満たすための行列である。ベクトルx p1(n)は、表面画像の原画像情報における処理領域nの各画素の状態量を要素とするベクトルである。また、ε p1(n)は、観測雑音ベクトルである。観測雑音ベクトルには、裏写り画像情報に関する透過率と、画像の劣化モデルにおけるぼけの点拡がり関数(PSF)に対応した値が含まれている。透過率は、上述のように、文書の厚さ、画像の濃度、スキャン時の照明の強度等に応じて決定される。ぼけは、裏面画像の画像情報が表面画像情報に透過する際に生ずるぼけの程度を表す量である。
ここで、観測雑音ベクトルε p1(n)の各要素は、上記ステップ118での判定結果に応じて、各値が設定される。具体的には、上記ステップ118で画素値ym,nは裏写り画像情報が混在していると判定された場合、当該画素値ym,nに対応する観測雑音ベクトルの要素vym,nに上記ステップ110で算出された分散値σ の標準偏差が代入される。一方、上記ステップ118で画素値ym,nに裏写り画像情報が混在していないと判定された場合、当該画素値ym,nに対応する観測雑音ベクトルの要素vym,nは一定値が代入される。
次に、ステップ124で、推定部65が、上記ステップ120で算出された状態量(状態方程式)及び上記ステップ122で算出された観測量(観測方程式)により、下記に示す有色性駆動源を含む状態空間モデルに基づく予測法を導出する。
上記のアルゴリズムは、初期設定の過程[Initialization]と反復の過程[Iteration]とに大別され、反復の過程では、1〜5の手順を逐次繰り返す。以下、図13を参照して、有色性駆動源を含む状態空間モデルに基づく予測法のアルゴリズムの詳細について説明する。
ステップ1240で、アルゴリズムの処理が初回か否かを判定する。初回の場合には、ステップ1242へ移行し、2回目以降の場合には、ステップ1244へ移行する。
ステップ1242では、初期設定を行う。具体的には、状態ベクトル、つまり、状態量である所望信号(原画像信号)ベクトルの最適推定値(以下「所望信号の最適推定値ベクトル」という)の初期値x^ p1(0|0)、所望信号ベクトルの推定誤差(以下「所望信号の推定誤差ベクトル」という)の相関行列の初期値Pp1(0|0)、駆動源ベクトルの共分散の値Rδp1(n)[i,j]、及び観測雑音ベクトルの共分散の値Rεp1(n)[i,j]を、上述の初期設定の過程[Initialization]に示した初期状態に設定する。
ただし、ベクトル0は、J次元の零ベクトルであり、行列Iは、J次の単位行列である。また、Jは、処理領域の画素数である。本実施の形態では、処理領域nの画素サイズp×q=3×3=9である。また、E[x^ p1(n),x^ p1 (n)]は、駆動源ベクトルx^ p1(n)の自己相関行列の期待値である。E[ε p1(n)ε p1 (n)][i,j]は、観測雑音ベクトルεp1の自己相関行列の期待値であり、ここでは分散値σ εを裏写りの自己相関値としている。裏写り画像情報が白色信号の場合は、E[ε p1(n)ε p1 (n)]は対角のみ要素を有する。同様に、裏写り画像情報が有色信号の場合は、E[ε p1(n)ε p1 (n)]はゼロを要素に持たない帯行列を有する。裏写り画像情報が、例えば、変化のない紙の地色のような一定の場合は、E[ε p1(n)ε p1 (n)]は、行列の全て要素に一定値を有する。なお、ベクトル及び行列の要素を示す場合、ベクトルa(n)のi番目の要素をa(n)[i]と表記し、行列A(n)のi行j列の要素をA(n)[i,j]と表記することとする。
次に、ステップ1244で、上記ステップ 104で定義した状態空間モデルにおける状態遷移行列Φp1、上記ステップ1242で設定した所望信号の推定誤差ベクトルの相関行列の初期値Pp1(0|0)(n=2の場合)、または処理領域(n−1)におけるステップ1250で更新された相関行列Pp1(n|n)(n>2の場合)、及び駆動源ベクトルの共分散の値Rδp1(n)[i,j]を用いて、処理領域(n−1)までの情報により処理領域nの状態ベクトルを推定した場合の誤差である相関行列Pp1(n|n−1)を計算する(上述の反復の過程[Iteration]の手順1)。
次に、ステップ1246で、上記ステップ1244で計算した相関行列Pp1(n|n−1)、上記ステップ110で定義した状態空間モデルにおける観測行列M、及び観測雑音ベクトルの共分散の値Rεp1(n)[i,j]を用いて、重み係数行列Kp1(n)を計算する(同手順2)。
次に、ステップ1248で、状態遷移行列Φp1、及び上記ステップ1242で設定した所望信号の最適推定値ベクトルの初期値x^ p1(0|0)(n=2の場合)、または処理領域(n−1)において、本ステップで得られた所望信号の最適推定値ベクトルx^ p1(n|n)(n>2の場合)を用いて、処理領域(n−1)までの情報による処理領域nでの所望信号の最適推定値ベクトルx^ p1(n|n−1)を計算する(同手順3)。そして、計算した所望信号の最適推定値ベクトルx^ p1(n|n−1)、上記ステップ1246で計算した重み係数行列Kp1(n)、観測ベクトルy p1(n)、及び観測行列Mを用いて、処理領域nまでの情報における所望信号の最適推定値ベクトルx^ p1(n|n)を計算する(同手順4)。
次に、ステップ1250で、単位行列I、重み係数行列Kp1(n)、観測行列M、及び上記ステップ1244で計算された相関行列Pp1(n|n−1)を用いて、処理領域nまでの情報における相関行列Pp1(n|n)を更新する(同手順5)。次に、ステップ1252で、上記ステップ1248で計算された所望信号の最適推定値ベクトルx^ p1(n|n)を、現在設定されている処理領域の処理結果として一旦被写体領域メモリ45に記憶する。
有色性駆動源を含む状態空間モデルに基づく予測法のアルゴリズムが終了すると、画像処理ルーチンへリターンして、ステップ126へ移行し、上記ステップ102で設定された部分領域Lの全処理領域について画像復元が終了したか否かを判定する。部分領域Lの全処理領域について処理が終了していない場合には、ステップ128へ移行して処理領域nを1インクリメントして、ステップ116へ戻り、次の処理領域(n+1)を設定して処理を繰り返す。全部分領域Lの全処理領域について処理が終了した場合には、ステップ130へ移行して、上記ステップ100において画像がRGB画像と設定された場合には、全ての色(RGB)について処理が終了したか否かを判定する。全ての色について処理が終了していない場合には、ステップ108へ戻って、次の色について処理を繰り返す。全ての色について処理が終了した場合には、ステップ132へ移行する。なお、上記ステップ100において画像が白黒画像と設定された場合には、ステップ130の処理は行わず、ステップ132へ移行する。
ステップ132では、上記ステップ1252で被写体領域メモリ45に記憶された処理領域の処理結果から部分領域Lの画像情報を復元し、被写体領域メモリ45に記憶すると共に、当該部分領域の復元画像を復元画像出力部66へ出力する。
次に、ステップ134で、上記ステップ100で取り込んだ表面画像内の全ての部分領域について画像復元が終了したか否かを判定する。全部分領域について処理が終了していない場合には、ステップ136へ移行してLを1インクリメントして、ステップ106へ戻って、次の部分領域(L+1)における処理領域nを再設定して処理を繰り返す。全部分領域について処理が終了した場合には、ステップ138へ移行する。
次に、ステップ138で、復元画像出力部66が、上記ステップ1252で被写体領域メモリ45に記憶された各部分領域の処理領域の処理結果を被写体領域メモリ45に記憶する。
そして、ステップ140で、画像復元処理部60が、被写体領域メモリ45に記憶された表面画像の復元画像情報を、出力インタフェース部70を介して出力して、画像出力装置に表示して、画像復元処理ルーチンを終了する。
以上説明したように、第1の実施の形態の画像復元装置10によれば、表面画像の各画素の画素値に基づいて各部分領域の分散値を算出し、当該分散値から算出された基準値に基づき表面画像の各画素に裏写り画像情報が混在しているか否かを判定し、処理領域nにおける状態量を、処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む有色性駆動源を用いて算出し、裏写り画像情報が混在していると判定された画素について、分散値の標準偏差を雑音として用い、観測画像情報における処理領域nの観測量を算出し、算出された状態量、及び算出された観測量に基づき、状態空間モデルによる予測法を用い、処理領域nの状態量の最適値から画像情報を復元し、表面画像情報のみから裏写り画像情報を除去することができる。
また、各部分領域を処理していくことで、逐次処理が可能となる。更に、処理領域のサイズを再設定すると演算量を抑えることができ、高速に実行することができる。また、部分領域Lを設定することにより、処理領域ごとに適した分散値を使用可能であり、画像1枚の読み込みを待つことなく処理開始が可能であり、また並列処理が適用できることにより高速な画像処理を実行することができる。
<シミュレーション1>
次に、第1の実施の形態に係る画像復元装置10の効果を実証するためのシミュレーションについて説明する。本シミュレーションでは、観測画像として、図14に示す画像を用いた。観測画像(表面画像)は、階調24ビットのカラー画像で、解像度は3508×2480画素である。観測画像の原画像(裏写りのない画像)は、左上に小さな文字列と中心部分に「表面 210mm×297mm A4」とがプリントされた画像である。一方、裏写りの画像(裏面画像)は、左上に小さな文字列と中心部分に「裏面 210mm×297mm A4」とがプリントされた画像である。観測画像上では、左右反転した状態で裏写りの画像が現れている。上記の画像について、同一の上記シミュレーション条件の下で、第1の実施の形態における手法(発明手法1:Prop.1)と、非特許文献1による手法(従来手法1:Conv.1)と、特許文献1による手法(従来手法2:Conv.2)とを、視覚評価によって比較した。なお、画像復元処理は、R、G、Bの各色について行った。
(1)視覚評価
観測画像についてのシミュレーション結果を図15及び図16に示す。なお、図16は図15の一部を拡大したものである。
図15に示すように、従来手法1及び2は、裏写りを除去できず、原画像情報を復元できていない。一方、発明手法1は、従来手法1及び2に比べ、裏写り画像情報を除去できており、原画像情報を復元できている。また、図16に示すように、従来手法1及び2は、表面画像情報よりも色が薄くなっている。一方、発明手法1は、従来手法1及び2に比べ、色がはっきりと復元できている。このように、発明手法1の有効性を確認することができる。
以上のシミュレーション結果により、第1の実施の形態に係る画像復元装置10における手法(発明手法1)は、従来手法1及び2に比べて高い画像復元能力を発揮していることがわかる。
<第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態では、文書紙面の地色を含む画像から、地色を除去する画像復元装置に本発明を適用した場合について説明する。
具体的には、第2の実施の形態では、片面の文書紙面の地色を含む画像を有する文書、及び両面に画像を有する文書を対象とし、文書の一方の面の原画像情報にぼけ、雑音および地色を含む裏写り画像情報からなる劣化画像情報から、原画像情報を推定する画像復元装置に本発明を適用する。
すなわち、第2の実施の形態に係る画像復元装置は、原画像情報にぼけ、雑音および地色を含む裏写り画像情報からなる劣化画像情報が混在した観測画像情報を用いた状態空間モデルであって、かつ、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、観測画像情報から、原画像情報を推定する。
本実施の形態では、文書紙面の地色とは、印刷紙の下地の色、又は画像の背景に存在する塗りつぶされた領域の色をいう。この地色は、文字の識別を困難にするため、印刷する際には不要となる場合が多い。
第2の実施の形態に係る画像復元装置210の構成について、第1の実施の形態に係る画像復元装置10と異なる部分について説明し、他の部分については第1の実施の形態と同一符号を付して詳細な説明を省略する。
図17に示すように、第2の実施の形態における画像復元処理部260は、領域設定部61と、地色判定部262と、状態量算出部63と、観測量算出部64と、推定部65と、復元画像出力部66とを含んだ構成である。
地色判定部262は、観測画像情報の部分領域Lの各画素の画素値に基づいて分散値を算出し、分散値から算出された当該部分領域の基準値(閾値)に基づいて、当該部分領域L内の各画素に地色情報が混在しているか否かを判定する。
次に、図18及び上記図7を参照して、第2の実施の形態に係る画像復元装置210の作用について説明する。なお、図18及び上記図7に示す画像復元処理ルーチンは、記憶部40に制御プログラムとして格納されており、図示しないCPUによって実行される。
ステップ210では、地色判定部262が、上記ステップ106で設定された部分領域Lの画素サイズM×Nにおいて、処理領域nの画素サイズを変更する場合はp‘×q’に再生設定でき、また注目画素領域の画素数をも再設定する場合には変更設定する。
ステップ218では、地色判定部262が、上記ステップ116で設定された処理領域nを構成する各画素について、上記ステップ110で算出された基準値ythに基づいて、当該画素に地色情報が混在しているか否かを判定する。
具体的には、地色判定部262は、処理領域nを構成する各画素の上記ステップ108で設定された色の画素値ym,n、及び当該画素の濃淡値ygrayと、基準値ythとを比較する。そして、上記(5)式を満たす場合には、当該画素値ym,nには裏写り画像情報が混在していると判断する。
なお、第2の実施の形態に係る画像復元装置の他の構成及び作用については、第1の実施の形態と同様であるため、説明を省略する。
以上説明したように、第2の実施の形態の画像復元装置210によれば、観測画像情報の各画素の画素値に基づいて分散値を算出し、当該分散値から算出された基準値に基づいて、観測画像情報の各画素に地色情報が混在しているか否かを判定し、観測画像情報の処理領域nにおける状態ベクトルx p1(n)は表面画像を原画像情報とする状態量からなるベクトル、状態遷移行列Φp1は処理領域(n−1)の)状態量からなるベクトルx p1(n)、処理領域(n−1)から処理領域nへの遷移を表す行列、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む有色性駆動源を用いて算出し、地色情報が混在していると判定された画素について、分散値の標準偏差を雑音として用い観測画像情報の処理領域nの観測量を算出し、算出された状態量及び算出された観測量に基づいて、状態空間モデルに基づく予測法により、処理領域nの状態量の最適値を、処理領域nの原画像情報として推定し、地色情報を除去する。
<シミュレーション2>
次に、第2の実施の形態に係る画像復元装置210の効果を実証するためのシミュレーションについて説明する。本シミュレーションでは、観測画像として、図19に示す2つの画像を用いた。図19に示す2つの画像は、片面に画像を有し、かつ地色を含む文書画の像(Text1画像)と、両面に画像を有し、かつ地色を含む文書面の画像(Text2画像)とである。図19に示す2つの画像は、いずれも階調24ビットのカラー画像で、解像度は3508×2480画素である。上記の画像について、第2の実施の形態における手法(発明手法2:Prop.2)のシミュレーションを行い、視覚評価を行った。なお、画像復元処理は、R、G、Bの各色について行った。
(1)視覚評価
観測画像についてのシミュレーション結果を図20〜図23に示す。なお、図21は図20の一部を拡大したものであり、図23は図22の一部を拡大したものである。
図20に示すように、発明手法2は、地色情報を除去できている。また、図21に示すように、発明手法2は、文書面の画像の文字部分、及び曲線の模様部分をはっきりと復元しつつ、地色情報を除去できている。このように、発明手法2の有効性を確認することができる。
また、図22に示すように、両面に画像を有し、かつ地色を含む文書面の画像であるText2画像に対しても、地色情報を除去できていることがわかる。図21に示す拡大図では、発明手法2は、表面画像情報の文字部分をはっきりと復元しつつ、地色情報のみならず、裏写り画像情報も除去できている。このように、発明手法2の有効性を確認することができる。
以上のシミュレーション結果により、第2の実施の形態に係る画像復元装置210における手法(発明手法2)は、高い画像復元能力を発揮していることがわかる。
<第3の実施の形態>
次に、第3の実施の形態について説明する。第3の実施の形態では、両面に画像がプリントされた文書について、表面画像と裏面画像とを両面から同時にスキャンし、表面画像情報と裏面画像情報とに基づいて、表面画像情報にぼけ、雑音および地色を含む裏写り画像情報からなる劣化画像情報を除去する画像復元装置に本発明を適用した場合について説明する。
具体的には、第3の実施の形態に係る画像復元装置は、両面に画像を有する文書の一方の面の原画像情報にぼけ、雑音および地色を含む裏写り画像情報からなる劣化画像情報が混在した観測画像情報の状態空間モデルであって、かつ、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、観測画像情報から原画像情報を推定する。
第3の実施の形態に係る画像復元装置310の構成について、第1の実施の形態に係る画像復元装置10と異なる部分について説明し、他の部分については第1の実施の形態と同一符号を付して詳細な説明を省略する。
第3の実施の形態における入力インタフェース部320は、文書の両面を同時に読み取ることにより得られた表面画像情報及び裏面画像情報を取得し、表面画像情報を観測画像情報とする。
また、第3の実施の形態における主記憶部341は、図24に示すように、取込表画像メモリ342と、取込裏画像メモリ343と、被写体領域メモリ45と、処理パラメータメモリ46とを含んだ構成で表すことができる。
取込表画像メモリ342には、入力インタフェース部20を介して取り込んだ画像情報うち表面画像情報が記憶される。また、取込裏画像メモリ343には、入力インタフェース部20を介して取り込んだ画像情報のうち裏面画像情報が記憶される。
第3の実施の形態における画像復元処理部360は、図25に示すように、スキャン情報受付部361と、領域設定部61と、位置変化量設定部362と、状態量算出部363と、観測量算出部364と、推定部365と、復元画像出力部66とを含んだ構成で表すことができる。
スキャン情報受付部361は、入力インタフェース部20を介して取り込んだ画像情報が、両面スキャンによって取得されたものであるか、片面ずつのスキャンによって取得されたものであるかを示すスキャン情報を受け付ける。
位置変化量設定部362は、スキャン情報受付部361によって、片面ずつのスキャンによって取得されたものであるかを示すスキャン情報を受け付けた場合に、入力インタフェース部20により取得された裏写り画像情報を含む表面画像情報と裏面画像情報との間の位置合わせをブロックマッチッング法、あるいはLucas−Kanade法といった既存の手法を用いて行い、観測画像情報に設定される処理領域nの位置情報に対応して裏面画像情報に対する処理領域nを設定する。添え字Fは、表面画像情報であることを表し、添え字Bは、裏面画像情報であることを表す。なお、両面スキャンである場合には、観測画像情報の処理領域nに対応する裏面画像情報の処理領域nは、予め定められている。
状態量算出部363は、観測画像情報の処理領域nにおける状態量を、処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移行列Φp1、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む有色性駆動源を用いて算出する。
観測量算出部364は、観測画像情報における処理領域nの状態量、及び裏面画像情報に基づいて、裏面画像情報を水平方向に反転させた画像情報における処理領域nに対応する領域に基づき算出された値をぼけ、雑音および裏写り画像情報からなる劣化画像情報として用いて、原画像情報に上記劣化画像情報が加わって観測画像情報となる過程を観測量として算出する。
推定部365は、表面画像情報の観測画像情報の処理領域nについて、状態量算出部363により算出された状態量、及び観測量算出部364により算出された観測量からなる状態空間モデルに基づく予測法により、処理領域nの状態量の最適値を処理領域nの原画像情報として推定し復元する。
次に、第3の実施の形態における画像復元の理論となる状態空間モデルについて説明する。
例えば、両面に画像がプリントされた文書をスキャンした場合、表面画像の原画像情報に裏面画像の画像情報が裏写りして、図4の右端に示す劣化画像となる。裏写りは図4に示すように、原画像(表面画像)をスキャンした画像情報に裏面画像が透過し、ぼけ、雑音および裏写り画像情報からなる劣化画像情報が重畳された画像情報である。なお、裏面画像が透過する透過率は、文書紙面の厚さ、画像の濃度、スキャン時の照明強度等に依存する。従って、第3の実施の形態にける劣化画像情報の復元は、第1の実施の形態と同様に、劣化画像情報から裏写りした裏面画像情報を取り除くことである。
第3の実施の形態では、原画像情報のみを用いて状態量を算出し、かつ、観測画像情報、原画像情報、ぼけ、雑音および裏写り画像情報からなる劣化画像情報を用いて観測量を算出した状態空間モデルであって、有色性駆動源を含む状態空間モデルに基づく予測法により、状態量の最適推定値を求めることにより、観測画像情報から復元画像情報を生成する。
上記の状態空間モデルは、下記(6)式の状態方程式と、下記(7)式の観測方程式とで表される。ただし、状態方程式において、ベクトルx p3(n)は状態ベクトル(表面画像情報を原画像情報とする状態量からなるベクトル)、状態遷移行列Φp3は処理領域n−1)から処理領域nへの遷移を表す行列、駆動源ベクトルδ p3(n)は原画像情報である。また、観測方程式において、ベクトルy p3(n)は観測ベクトル(観測画像情報)、観測行列Mは表面画像情報に生ずるぼけを表す行列、sは透過率、HはぼけのPSF、ベクトルybr p3(n)は状態ベクトル(裏面画像情報を水平方向に反転させた場合の状態量)である。添え字p3は第3の実施の形態に係るものであることを表す。また、添え字fは表面画像情報であることを表し、添え字bは裏面画像情報であることを表し、添え字rは水平方向への反転を表す。すなわち添え字brは、裏面画像情報を水平方向に反転させたことを表す。
(6)式の状態方程式は、観測対象の状態空間モデルを記述したものであり、状態変数(ここでは、状態ベクトルx p3(n−1)、x p3(n))は生成過程を表している。また、(7)式の観測方程式は、何らかの観測装置を通じて観測する過程を記述したものであり、観測結果(ここでは、観測ベクトルy p3(n))が、被観測量つまり入力(ここでは、状態ベクトルx p3(n))に依存して生成される。
ここで、上記(7)式に示した観測方程式の導出方法について説明する。上記図4に示すように、裏写りは、原画像(表面画像)をスキャンした画像情報に、裏面画像が透過しぼけ、雑音および裏写り画像情報からなる劣化画像情報が重畳された画像情報である。従って、原則として、観測方程式は、以下の(8)式で表すことができる。
上記(8)式では、裏面画像情報に対応する状態ベクトルx p3(n)に、透過率sとぼけのPSFである行列Hとが重畳されている。
一方、裏面画像情報を基準とし、裏面画像情報の観測方程式を算出すると、以下の(9)式で表すことができる。以下の(9)式の観測方程式において、ベクトルy(n)は裏面画像情報の観測ベクトル(観測画像情報)、行列Mは観測行列、sは透過率、HはぼけのPSF、ベクトルx(n)は状態ベクトル(裏面画像情報を原画像情報とする状態量)、ベクトルx(n)は状態ベクトル(表面画像情報を原画像情報とする状態量)である。添え字bは裏面画像情報であることを表し、添え字fは表面画像情報であることを表す。
上記(9)式において、透過率sは小さいため、以下の(10)式を満たす。
従って、上記(9)式は、上記(10)式を考慮すると、以下の(11)式となる。
上記(11)を変形すると、以下の(12)式となる。
そして、裏面画像情報は、水平方向に反転して表面画像情報に付加されることを考慮して上記(12)式を上記(8)式に代入すると、上記(7)式となる。
次に、図26及び上記図7を参照して、第3の実施の形態に係る画像復元装置310の作用について説明する。なお、図26及び上記図7に示す画像復元処理ルーチンは、記憶部40に制御プログラムとして格納されており、図示しないCPUによって実行される。
まず、ステップ300では、画像入力装置であるスキャナにより、両面に画像がプリントされた文書から読み取られた表面画像及び裏面画像の画像情報を、入力インタフェース部20を介して取り込み、主記憶部41の取込画像メモリ42に記憶する。なお、表面画像の画像情報には表面画像のカラー情報も含まれているため、画像情報設定部33によって、入力された画像を白黒画像、又はRGB画像の何れかとするかを設定してもよい。
次に、ステップ301で、スキャン情報受付部361が、入力インタフェース部20を介して取り込んだ画像情報が、両面スキャンによって取得されたものであるか、片面ずつのスキャンによって取得されたものであるかを示すスキャン情報を受け付ける。
次に、ステップ302で、領域設定部61が、部分領域Lの画素サイズと、画像復元の処理単位となる処理領域nの画素サイズとを設定する。
なお、処理領域nの画素サイズの設定は、ユーザにより操作部30の領域指定部32から指定された値を設定するようにしてもよい。
次に、ステップ303で、上記ステップ301で受け付けたスキャン情報に基づいて、取り込んだ画像情報が、両面スキャンによって取得されたものであるか、片面ずつのスキャンによって取得されたものであるかを判定する。取り込んだ画像情報が、両面スキャンによって取得されたものである場合には、ステップ104に移行する。一方、取り込んだ画像情報が、片面ずつのスキャンによって取得されたものである場合には、ステップ304へ移行する。
次に、ステップ304で、位置変化量設定部362が、取込表画像メモリ342に記憶されている表面画像情報と、取込裏画像メモリ343とに記憶されている裏面画像情報とを読み出し、裏写り画像情報を含む表面画像情報と裏面画像情報との間の位置合わせを行い、処理領域nの各領域を裏面画像情報に対して設定する。画像情報の位置合わせには、ブロックマッチングやLucas−Kanade法といった既存の手法を用いることができる。本実施の形態では、ブロックマッチングを用いる場合について説明する。
ブロックマッチングとは、表面画像情報で設定した探索範囲内において、裏面画像情報で類似する領域を探す手法であり、表面画像情報の小領域の画素値と裏面画像情報で取り出した小領域の画素値との誤差の総和が最小となる領域を求め、対応する位置を探す手法である。画素値の誤差の総和を取る手段として、下記(13)式に示す各画素値の2乗距離の総和を取るSSD(Sum of Squared Distance)や、下記(14)式に示す各画素値の絶対値距離の総和を取るSAD(Sum of Absolute Distance)が挙げられる(参考特許文献「藤原 慎矢、田口 亮、“ブロックマッチング動き推定に基づくフレームレート向上に関する一手法”、IEICE Technical Report SIS2006-15, Jun. 2006」参照)。なお、(13)式及び(14)式におけるxi,jは画素(i,j)の画素値である。
次に、ステップ320で、状態量算出部363が、状態量算出処理を実行する。ここで、上記図9を参照して、状態量算出処理ルーチンについて説明する。
ステップ1200で、状態量算出部263が、処理領域(n−1)の各画素の状態量を要素とする状態ベクトルと、処理領域nの各画素の状態量を要素とする状態ベクトルとを導出する。以下、状態ベクトルの導出方法を具体的に説明する。
まず、図27に示す状態ベクトルは、画素サイズp×qの処理領域(n−1)の各画素の状態量を組み合わせて構成される。すなわち、状態ベクトルは9次元のベクトルx p3(n−1)=[x 1,1(n−1) x 2,1(n−1)・・・x 3,3(n−1)]となる。次に、画素サイズp×qの処理領域nの各画素の状態量を組み合わせて構成される。すなわち、状態nの状態ベクトルは9次元のベクトルx p3(n)=[x 1,1(n) x 2,1(n)・・・x 3,3(n)]となる。ただし、Tはベクトルの転置を表す。また、状態ベクトルx p3(n−1)及びx p3(n)のサイズ(次元数)は設定された処理領域nの画素サイズp×qによって変化する。
次に、ステップ1202で、状態量算出部263が、駆動源ベクトルを構成する。上記図27に示すように、状態量x1,3(n),x2,3(n),x3,3(n)は、処理領域(n−1)の情報からは構成することができないため、本実施の形態では、駆動源ベクトルに状態量x1,3(n−1),x2,3(n−1),x3,3(n−1)を用いることで、駆動源ベクトルδ p3(n)を構成する。これは、処理領域が変化した際に、処理領域(n−1)の状態量では表せられない状態量を、処理領域nの状態量で構成することを表しており、表面画像情報の原画像情報が含まれることから、駆動源ベクトルδ p3(n)は有色性駆動源となる。
次に、ステップ1204で、状態量算出部363が、ステップ1200で導出した状態ベクトルx p3(n−1)及びx p3(n)、ステップ105で構成した状態遷移行列Φp3、及びステップ1202で構成した駆動源ベクトルδ p3(n)に基づいて、状態量を算出する。上記図27に示すように、本実施の形態における状態方程式は、原画像情報からなる状態ベクトルx p3(n)と、0及び1からなる状態遷移行列Φp3と、有色信号である原画像情報からなる駆動源ベクトルδ p3(n)とから構成されるため、所望の状態量は原画像情報(復元画像情報)のみで構成されることになる。
状態量算出処理ルーチンが終了すると、画像復元処理ルーチンにリターンして、ステップ322へ移行し、観測量算出部364が、上記図4に示した観測画像モデルに基づいて、図28及び図29に示すように、表面画像の原画像情報に裏面画像の裏写り画像情報が加わって観測画像情報となる過程を、観測量(観測方程式)として算出する。観測ベクトルy p3(n)は、観測画像情報を含む観測量として表面画像情報の処理領域nの各画素の画素値を要素とする9次元のベクトルである。また、観測行列Mは、観測方程式を満たすための単位行列であり、M−1は、観測行列Mの一般化逆行列である。ベクトルx p3(n)は、表面画像の原画像情報における処理領域nの各画素の状態量を要素とするベクトルである。また、sは裏写りに関する透過率であり、Hは画像の劣化モデルにおけるぼけの点拡がり関数(PSF)に対応した値を要素とする行列である。ベクトルybr p3(n)は、裏面画像の観測画像情報を水平方向に反転させた画像情報における処理領域nの各画素の状態量を要素とするベクトルである。
次に、ステップ124で、推定部65が、上記ステップ320で算出された状態量(状態方程式)及び上記ステップ322で算出された観測量(観測方程式)により、第1の実施の形態と同様に、有色性駆動源を含む状態空間モデルに基づく予測法を導出する。なお、状態空間モデルに基づく予測法においては、第1の実施の形態における観測雑音ベクトルε p1(n)は、上記(7)式におけるsHM−1br p3(n)に対応する。
以下、ステップ126〜140を実行して、画像復元処理ルーチンを終了する。
なお、第3の実施の形態に係る画像復元装置の他の構成及び作用については、第1の実施の形態と同様であるため、説明を省略する。
以上説明したように、第3の実施の形態の画像復元装置310によれば、文書の両面を読み取ることにより得られた表面画像情報及び裏面画像情報を取得し、表面画像情報を観測画像情報とし、観測画像情報の処理領域nにおける状態量を、処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む有色性駆動源を用いて算出し、観測画像情報の処理領域nについて、観測画像情報における処理領域nの状態量、及び裏面画像に情報基づき裏面画像情報を水平方向に反転させた画像情報における処理領域nで算出された値をぼけ、雑音および裏写り画像情報からなる劣化画像情報として用い、原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出し、算出された状態量、及び算出された観測量に基づいて、状態空間モデルに基づく予測法により、処理領域nの状態量の最適値から画像情報を復元し、劣化画像情報を除去できる。
<シミュレーション3>
次に、第3の実施の形態に係る画像復元装置310の効果を実証するためのシミュレーションについて説明する。本シミュレーションでは、第3の実施の形態に係る画像復元装置10の画像復元能力を評価するために、(1)視覚評価、(2)客観評価、及び(3)主観評価を行った。視覚評価は、原画像と復元画像とを視覚により比較した評価である。客観評価は、数値による評価である。主観評価は、聞き取り調査である。以下、これらを順に説明する。
まず、シミュレーションの条件について説明する。本シミュレーションでは、原画像として、図30に示す3つの画像(「Flowchart」、「Lenna」及び「Word」)を用いた。
ここで、画像「Flowchart」は、表面画像1として用いることとする。画像「Flowchart」は、階調8ビットのグレースケール画像で、解像度は256×256画素である。また、画像「Lenna」は、表面画像2として用いることとする。画像「Lenna」は、階調24ビットのカラー画像で、解像度は256×256画素である。また、画像「Word」は、裏面画像として用いることとする。画像「Word」は、階調8ビットのグレースケール画像で、解像度は256×256画素である。
そして、同一の上記シミュレーション条件の下で、第3の実施の形態における手法(発明手法3:Prop.1)と、非特許文献1による手法(従来手法1:Conv.1)と、特許文献1による手法(従来手法2:Conv.2)とを比較した。
(1)視覚評価
画像「Flowchart」についてのシミュレーション結果を図31及び図32に、画像「Lenna」についてのシミュレーション結果を図33及び図34に示す。なお、図32は図31の一部を拡大したもの、図34は図33の一部を拡大したものである。
画像「Flowchart」についてのシミュレーション結果では、図32に示すように、従来手法1は、裏写りが完全には消えておらず、不完全であることがわかる。また、従来手法2は、裏写りは消えているものの、表面画像の情報が劣化していることがわかる。一方、発明手法3は、表面画像の情報を維持しつつ、裏写りの鮮明な除去をすることができている。
画像「Lenna」についてのシミュレーション結果では、図34に示すように、従来手法1は、画像全体が白くなっており、裏写りの除去も不完全であることがわかる。また、従来手法2は、完全には裏写りが除去できておらず、不鮮明な結果となっている。一方、発明手法3は、裏写りが除去できており、鮮明な画像となっている。
このように、発明手法3の有効性を確認することができる。
(2)客観評価(数値による評価)
下表1に、原画像に対するシミュレーション結果(客観評価)を示す。
ここでは、従来手法1、従来手法2及び発明手法3の画像復元能力を数値により評価するため、下記(15)式に示すPSNR[dB]を用いて画像復元能力を評価した。なお、PSNR(Peak Signal-to-Noise Ratio)は、画像の信号に対する雑音の比であり、数値が大きいほど劣化(ぼけや雑音など)が少なく画像として良好であるといえる。
表1に示すように、「Flowchart」及び「Lenna」のどちらの画像についても、発明手法3は、従来手法1及び従来手法2よりもPSNRの数値が大きいことが確認できる。これにより、発明手法3は、客観評価の点でも、従来手法1及び従来手法2に比べて画像復元能力が高いことがわかる。
(3)主観評価(聞き取り調査)
図35に、原画像に対するシミュレーション結果(主観評価)を示す。
ここでは、従来手法1、従来手法2及び発明手法3の画像復元能力を評価するために、聞き取り調査による主観評価を行った。画像復元の性能評価は、下表2に示すように、MOS(Mean Opinion Score)評価基準に基づく5段階の評価値を用いた聞き取り調査により行った。50人(男性25人、女性25人)の聴取者が画像復元により得られた画像(図18〜図21参照)を評価した。各々の聴取者は、評価値「1」から「5」を決定する。評価値「5」が最良である。
図35に示すように、「Flowchart」及び「Lenna」のどちらの画像についても、発明手法3は、従来手法1及び従来手法2よりも高いMOS評価値を得ていることが確認できる。これにより、発明手法3は、主観評価の点でも、従来手法1及び従来手法2に比べて画像復元能力が高いことがわかる。
以上の実験結果により、第3の実施の形態に係る画像復元装置310における手法(発明手法3)は、従来手法1及び従来手法2に比べて高い画像復元能力を発揮していることがわかる。
<シミュレーション4>
次に、第1の実施の形態に係る画像復元装置10と比較して、第3の実施の形態に係る画像復元装置310の効果を実証するためのシミュレーションについて説明する。本シミュレーションでは、第3の実施の形態に係る画像復元装置10の画像復元能力を評価するために、視覚評価を行った。
まず、シミュレーションの条件について説明する。本シミュレーションでは、原画像として、図36に示す2つの画像(「Front」、及び「Back」)を用いた。
ここで、画像「Front」は、表面画像として用い、画像「Back」は、裏面画像として用いることとする。いずれの画像も、階調24ビットのカラー画像で、解像度は3508×2480画素である。
そして、同一の上記シミュレーション条件の下で、第1の実施の形態における手法(発明手法1:Prop.1)と、第3の実施の形態における手法(発明手法3:Prop.3)と、非特許文献1による手法(従来手法1:Conv.1)と、特許文献1による手法(従来手法2:Conv.2)とを比較した。
(1)視覚評価
第3の実施の形態における手法(発明手法3:Prop.3)と、非特許文献1による手法(従来手法1:Conv.1)と、特許文献1による手法(従来手法2:Conv.2)とについてのシミュレーション結果を図37及び図38に示す。なお、図38は図37の一部を拡大したものである。
また、第1の実施の形態における手法(発明手法1:Prop.1)と、第3の実施の形態における手法(発明手法3:Prop.3)とについてのシミュレーション結果を図39〜図41に示す。なお、図40及び図41は図39の一部を拡大したものである。
第3の実施の形態における手法(発明手法3:Prop.3)と、非特許文献1による手法(従来手法1:Conv.1)と、特許文献1による手法(従来手法2:Conv.2)とについてのシミュレーション結果では、図38に示すように、従来手法1及び従来手法2では、裏写りが完全には消えておらず、不完全であることがわかる。一方、発明手法3は、表面画像の情報を維持しつつ、裏写りの鮮明な除去をすることができている。
また、第1の実施の形態における手法(発明手法1:Prop.1)と、第3の実施の形態における手法(発明手法3:Prop.3)とについてのシミュレーション結果では、図41に示すように、発明手法1では、背景については裏写りを除去できているが、文字「A」の中に裏写りが混在していることがわかる。一方、発明手法3では、背景の裏写りが除去されていると共に、文字「A」の中に裏写りについても除去できていることがわかる。
このように、発明手法3の有効性を確認することができる。
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
例えば、上記の実施の形態では、部分領域毎に各処理を行う場合を例に説明したが、これに限定されるものではなく、観測画像全体について処理を行ってもよい。
また、第1及び第2の実施の形態では、部分領域の各々について、当該部分領域内の画素の各々の画素値に基づいて分散値を算出する場合を例に説明したが、これに限定されるものではなく、観測画像全体について、観測画像内の画素の各々の画素値に基づいて分散値を算出してもよい。
なお、上記実施の形態では、CPUによりプログラムを実行することで各部の処理を実行する場合について説明したが、各部をハードウエアにより構成するようにしてもよい。
10,210,310 画像復元装置
20,320 入力インタフェース部
30 操作部
31 パラメータ設定部
32 領域指定部
34 画像情報設定部
40 記憶部
41,341 主記憶部
42 取込画像メモリ
45 被写体領域メモリ
46 処理パラメータメモリ
47 補助記憶部
48 表示メモリ
49 取込画像メモリ
50 処理メモリ
51 復元画像メモリ
60,260,360 画像復元処理部
61 領域設定部
62 劣化画像情報判定部
63,263,363 状態量算出部
64,364 観測量算出部
65,365 推定部
66 復元画像出力部
70 出力インタフェース部
262 地色判定部
342 取込表画像メモリ
343 取込裏画像メモリ
361 スキャン情報受付部
362 位置変化量設定部

Claims (14)

  1. 原画像情報にぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、
    文書を読み取ことにより得られた表面画像情報を、前記観測画像情報として取得する画像取得手段と、
    前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記各画素にぼけおよび雑音が混在しているか否かを判定する判定手段と、
    前記観測画像情報に基づいて、時刻nでの処理領域nにおける状態量を時刻(n−1)での処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない時刻nにおける処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、
    時刻nにおける処理領域nの状態量に基づき、前記判定手段によりぼけおよび雑音が混在していると判定された前記処理領域nの各画素の画素値について、前記原画像情報にぼけおよび雑音が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、
    時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、時刻nにおける処理領域nの状態量の最適値を原画像情報として推定する推定手段と、
    を含む画像復元装置。
  2. 両面に画像を有する文書の一方の面の原画像情報に不必要な情報である他方の面の裏写り画像情報を含むぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、
    前記文書の一方の面を読み取ることにより得られた表面画像情報を前記観測画像情報として取得する画像取得手段と、
    前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記観測画像情報の各画素に裏写り画像情報を含むぼけおよび雑音からなる劣化画像情報が混在しているか否かを判定する裏写り判定手段と、
    前記観測画像情報に基づいて、時刻nでの処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、
    前記処理領域nを前記裏写り判定手段によって算出された分散値及び前記処理領域nの状態量に基づいて、前記裏写り判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素について、前記算出された分散値の標準偏差を前記雑音として用いて、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、
    前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定する推定手段と、
    を含む画像復元装置。
  3. 原画像情報に文書の地色を含むぼけおよび雑音を含む劣化画像情報が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、
    文書を読み取り取得した表面画像情報を前記観測画像情報として取得する画像取得手段と、
    前記観測画像情報の各画素の画素値に基づき分散値を算出し、前記分散値から算出された閾値に基づいて前記観測画像情報の各画素に前記劣化画像情報が混在しているか否かを判定する地色判定手段と、
    前記観測画像情報に基づいて、時刻nにおける処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、
    時刻nにおける処理領域nの情報及び状態量に基づき、前記地色判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素の画素値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、
    前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を原画像情報として推定する推定手段と、
    を含む画像復元装置。
  4. 両面に画像を有する文書の一方の面の読取り原画像情報に劣化画像情報である他方の面の裏写り情報を含む、ぼけおよび雑音が混在した観測画像情報に対し、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、
    前記文書の両面を各々読み取り表面画像情報及び裏面画像情報を取得し、前記表面画像情報を前記観測画像情報とする画像取得手段と、
    前記観測画像情報に基づいて、時刻nでの処理領域nにおける状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出する状態量算出手段と、
    前記観測画像情報の時刻nにおける処理領域nの状態量、及び前記裏面画像情報に基づいて、前記裏面画像情報を水平方向に反転させた画像情報における時刻nにおける処理領域nに対応する領域の情報に基づき算出された値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出する観測量算出手段と、
    前記表面画像情報の時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定する推定手段と、
    を含む画像復元装置。
  5. 前記画像取得手段により取得された前記表面画像情報と前記裏面画像情報との間の位置合わせを行い、前記観測画像情報内の時刻nにおける処理領域nの領域を、前記裏面画像情報に対して設定する位置変化量設定手段を更に含む請求項4に記載の画像復元装置。
  6. 前記裏写り判定手段は、前記観測画像情報の部分領域の各画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき前記部分領域の各画素に前記劣化画像情報が混在しているか否かを判定し、
    前記観測量算出手段は、前記観測画像情報の時刻nにおける処理領域nが前記裏写り判定手段により、前記処理領域nを含む部分領域について算出された前記分散値及び処理領域nの状態量に基づき、前記裏写り判定手段によって前記劣化画像情報が混在していると判定された前記処理領域nの各画素が前記部分領域について算出された前記分散値の標準偏差を前記雑音として用い、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出する請求項2記載の画像復元装置。
  7. 前記地色判定手段は、前記観測画像情報の各部分領域の各画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき前記部分領域の各画素に前記地色が混在しているか否かを判定し、
    前記観測量算出手段は、前記観測画像情報の処理領域nに前記地色判定手段によって処理領域nを含む部分領域について算出された前記分散値及び前記処理領域nの状態量に基づいて、前記地色判定手段によって前記地色が混在していると判定された処理領域nの各画素について、部分領域について算出された前記分散値の標準偏差を前記雑音として用いて、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出する請求項3記載の画像復元装置。
  8. 各手段の処理を、前記観測画像情報に対して設定した部分領域L毎に行う請求項1〜請求項7のいずれか1項記載の画像復元装置。
  9. 前記処理領域nは、前記処理領域(n−1)と一部重複するように設定される請求項1〜請求項8のいずれか1項記載の画像復元装置。
  10. 原画像情報にぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、判定手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、
    前記画像取得手段が、文書を読み取ことにより得られた表面画像情報を、前記観測画像情報として取得するステップと、
    前記判定手段が、前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記各画素にぼけおよび雑音が混在しているか否かを判定するステップと、
    前記状態量算出手段が、前記観測画像情報に基づいて、時刻nでの処理領域nにおける状態量を時刻(n−1)での処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない時刻nにおける処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、
    前記観測量算出手段が、時刻nにおける処理領域nの状態量に基づき、前記判定手段によりぼけおよび雑音が混在していると判定された前記処理領域nの各画素の画素値について、前記原画像情報にぼけおよび雑音が加わって観測画像情報となる過程を観測量として算出するステップと、
    前記推定手段が、時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、時刻nにおける処理領域nの状態量の最適値を原画像情報として推定するステップと、
    を含む画像復元方法。
  11. 両面に画像を有する文書の一方の面の原画像情報に不必要な情報である他方の面の裏写り画像情報を含むぼけおよび雑音が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、裏写り判定手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、
    前記画像取得手段が、前記文書の一方の面を読み取ることにより得られた表面画像情報を前記観測画像情報として取得するステップと、
    前記裏写り判定手段が、前記観測画像情報の各画素の画素値に基づいて分散値を算出し、前記分散値から算出された閾値に基づき、前記観測画像情報の各画素に裏写り画像情報を含むぼけおよび雑音を含む劣化画像情報が混在しているか否かを判定するステップと、
    前記状態量算出手段が、前記観測画像情報に基づいて、時刻nでの処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、前記処理領域(n−1)から前記処理領域nへの状態遷移、及び前記処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、
    前記観測量算出手段が、前記処理領域nを前記裏写り判定手段によって算出された分散値及び前記処理領域nの状態量に基づいて、前記裏写り判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素を、前記算出された分散値の標準偏差を前記雑音として用いて、前記原画像情報に前記雑音が加わって観測画像情報となる過程を観測量として算出するステップと、
    前記推定手段が、前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定するステップと、
    を含む画像復元方法。
  12. 原画像情報に文書の地色を含むぼけおよび雑音を含む劣化画像情報が混在した観測画像情報に対し、前記原画像情報を駆動源として含む状態空間モデルに基づく予測法を用いて、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、地色判定手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、
    前記画像取得手段が、文書を読み取り取得した表面画像情報を前記観測画像情報として取得するステップと、
    前記地色判定手段が、前記観測画像情報の各画素の画素値に基づき分散値を算出し、前記分散値から算出された閾値に基づいて前記観測画像情報の各画素に前記劣化画像情報が混在しているか否かを判定するステップと、
    前記状態量算出手段が、前記観測画像情報に基づいて、時刻nにおける処理領域nの状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、
    前記観測量算出手段が、時刻nにおける処理領域nの情報及び状態量に基づき、前記地色判定手段により前記劣化画像情報が混在していると判定された前記処理領域nの各画素の画素値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出するステップと、
    前記推定手段が、前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を原画像情報として推定するステップと、
    を含む画像復元方法。
  13. 両面に画像を有する文書の一方の面の読取り原画像情報に劣化画像情報である他方の面の裏写り情報を含む、ぼけおよび雑音が混在した観測画像情報に対し、原画像情報を駆動源として含む状態空間モデルに基づく予測法を用い、前記観測画像情報から前記原画像情報を推定する画像復元装置であって、かつ、画像取得手段、状態量算出手段、観測量算出手段、及び推定手段を含む画像復元装置における画像復元方法であって、
    前記画像取得手段が、前記文書の両面を各々読み取り表面画像情報及び裏面画像情報を取得し、前記表面画像情報を前記観測画像情報とするステップと、
    前記状態量算出手段が、前記観測画像情報の時刻nでの処理領域nにおける状態量を、時刻(n−1)における処理領域(n−1)の状態量、処理領域(n−1)から処理領域nへの状態遷移、及び処理領域(n−1)の状態量に含まれない前記処理領域nの状態量の要素を含む前記駆動源を用いて算出するステップと、
    前記観測量算出手段が、前記観測画像情報に基づいて、時刻nにおける処理領域nの状態量、及び前記裏面画像情報に基づいて、前記裏面画像情報を水平方向に反転させた画像情報における時刻nにおける処理領域nに対応する領域の情報に基づき算出された値を前記劣化画像情報として用い、前記原画像情報に前記劣化画像情報が加わって観測画像情報となる過程を観測量として算出するステップと、
    前記推定手段が、前記表面画像情報の時刻nにおける処理領域nを前記状態量算出手段により算出された状態量、及び前記観測量算出手段により算出された観測量に基づいて、前記状態空間モデルに基づく予測法により、前記処理領域nの状態量の最適値を前記処理領域nの原画像情報として推定するステップと、
    を含む画像復元方法。
  14. コンピュータを、請求項1〜請求項9のいずれか1項記載の画像復元装置の各手段として機能させるためのプログラム。
JP2014030104A 2014-02-19 2014-02-19 画像復元装置、方法、及びプログラム Active JP6308496B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014030104A JP6308496B2 (ja) 2014-02-19 2014-02-19 画像復元装置、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014030104A JP6308496B2 (ja) 2014-02-19 2014-02-19 画像復元装置、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2015156539A JP2015156539A (ja) 2015-08-27
JP6308496B2 true JP6308496B2 (ja) 2018-04-11

Family

ID=54775628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014030104A Active JP6308496B2 (ja) 2014-02-19 2014-02-19 画像復元装置、方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6308496B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7029140B2 (ja) * 2016-11-28 2022-03-04 学校法人東京理科大学 画像復元装置、方法、及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3846524B2 (ja) * 1999-03-02 2006-11-15 セイコーエプソン株式会社 画像データの下地判定方法、画像データの下地判定装置および画像データの下地判定プログラムを記録した媒体
JP2006197445A (ja) * 2005-01-17 2006-07-27 Ricoh Co Ltd 画像処理装置
JP5493191B2 (ja) * 2010-02-10 2014-05-14 学校法人東京理科大学 画像復元装置および画像復元方法

Also Published As

Publication number Publication date
JP2015156539A (ja) 2015-08-27

Similar Documents

Publication Publication Date Title
US8379120B2 (en) Image deblurring using a combined differential image
EP2164040B1 (en) System and method for high quality image and video upscaling
JP2017010092A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2012208553A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2010134700A (ja) 画像評価装置および画像評価方法
JP5918200B2 (ja) 超音波診断装置
JPWO2018225133A1 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP2011250013A (ja) 画質評価方法、画質評価装置、及びプログラム
JP4763525B2 (ja) 映像整合方法
JP2019169000A (ja) 画像処理装置、画像処理方法、およびプログラム
JP6308496B2 (ja) 画像復元装置、方法、及びプログラム
JP2017010094A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP5431501B2 (ja) 画像処理装置、及びその方法
Sadhar et al. Image estimation in film-grain noise
JP5963166B2 (ja) 画像復元装置、方法、及びプログラム
JP2012169701A (ja) 画像処理装置、画像処理方法及びプログラム
JP6661491B2 (ja) 画像処理装置および画像処理方法
JP5447867B2 (ja) 画像復元装置および画像復元方法
KR101116800B1 (ko) 저해상도 이미지로부터 고해상도 이미지를 생성하는 해상도 변환 방법
JP7029140B2 (ja) 画像復元装置、方法、及びプログラム
JP2019045996A (ja) 画像処理装置、画像処理方法及びプログラム
JP5934019B2 (ja) 階調復元装置及びそのプログラム
JP4729127B2 (ja) 画像評価装置
JP4714062B2 (ja) 高解像度画像を生成する画像拡大装置、その画像拡大方法及びその画像拡大プログラムを記録した記録媒体
Taha et al. Neutrosophic Similarity Measure for Assessing Digital Watermarked Images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180305

R150 Certificate of patent or registration of utility model

Ref document number: 6308496

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250