JP4204733B2 - 合成画像形成装置 - Google Patents
合成画像形成装置 Download PDFInfo
- Publication number
- JP4204733B2 JP4204733B2 JP2000021041A JP2000021041A JP4204733B2 JP 4204733 B2 JP4204733 B2 JP 4204733B2 JP 2000021041 A JP2000021041 A JP 2000021041A JP 2000021041 A JP2000021041 A JP 2000021041A JP 4204733 B2 JP4204733 B2 JP 4204733B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- sub
- block
- images
- parameter set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3876—Recombination of partial images to recreate the original image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/32—Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/32—Indexing scheme for image data processing or generation, in general involving image mosaicing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10008—Still image; Photographic image from scanner, fax or copier
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Editing Of Facsimile Originals (AREA)
Description
【発明の属する技術分野】
本発明は画像処理に関する。詳細には、本発明は、スキャナから取得した部分的な画像部分を、単一のより大きな画像における位置決めをすることに関する。
【0002】
【従来の技術及び発明が解決しようとする課題】
デスクトップパブリッシング(DTP)、画像処理、及びWWW(ウェブ)出版のようなアプリケーションのための、画像走査の重要性が高まっている。現在のところ、画像走査は、一般的に、ハイエンドのドラムスキャナ又はローエンドのフラットベッドスキャナのいずれかを用いて行われている。ドラムスキャナは、フラットベッドスキャナよりも高い画素解像度を有する。ドラムスキャナは、大きなサイズの原稿を走査することもできる。しかし、ドラムスキャナは、フラットベッドスキャナ、特に、安価なCCDイメージャよりも高価である。また、将来的には、感光性のCMOS感知(読取)素子がフラットベッドスキャナに組み込まれる。
【0003】
更に、ドラムスキャナは、ドラムの曲面に付着されるには堅過ぎる大きなサイズの原稿を走査することはできない。フラットベッドスキャナはコンパクトであるが、一般的に、比較的小さなサイズのプラテンを有する。従って、一般的に、スキャナ、特にフラットベッドスキャナは、部分的に走査した画像を互いに位置決めして組み合わせて、大きな画像を完成させなければならない。
【0004】
アプリケーション、及び画像部分間の変形のタイプに依存して、部分的な画像部分間の対応を確立するために有用な技術において、異なる種々の技術を使用することができる。本明細書に全文を参照として援用する、ブラウン(L.G. Brown)の「画像位置決め技術の調査("A Survey Of Image Registration Techniques")」、ACM Computing Surveys, vol. 24, no. 4、1992年12月、325-376頁(以降“ブラウン”と呼ぶ)は、画像位置決めイメージング(技術)の総括的な概観を提供している。それぞれを本明細書に参照として全文を援用する、リーら(H. Li, et al.)(以降“リー”と呼ぶ)の「複数センサー画像の位置決めに対する輪郭ベースの手法(A Contour Based Approach To Multi-Sensor Image Registration)」(IEEE Trans. Image Processing, Vol. 4、1995年3月、320-334頁)、ウッズら(R.P. Woods, et al.)(以降“ウッズ”と呼ぶ)の「自動化アルゴリズムを用いたMRI−PETレジストレーション(MRI-PET Registration with Automated Algorithm)」(Journal of Computer Assisted Topography, vol. 17、1993年、536-546頁)、スゼリスキ(R. Szeliski)(以降“スゼリスキ”と呼ぶ)の「バーチャル環境用のビデオモザイク(Video Mosaics for Virtual Environments)」(IEEE Computer Graphics and Applications、1996年3月、20-30頁)、及びテオドシアら(L.Teodosia et al.)(以降“テオドシア”と呼ぶ)の「目覚ましいビデオスチール:保存された内容及びコンテキスト(Salient Video Stills: Content and Context Preserved)」(ACM Multimedia、1993年、39-46頁)は、遠隔現実(telereality)アプリケーション及びスチールビデオ表現について論じている。
【0005】
画像の位置決めにおいては、走査中に生じた部分画像間の位置ずれの解消を可能にするために、一般的に、問題の画像間の空間的な変形を見つける必要がある。位置ずれは、画像間の平行移動及び回転(グローバル変形)、並びに、個々の部分画像内のローカルな歪み(ローカル変形)を表す。整合フィルタリング技術を用いて、空間的な変形を見つけることができる。前述のブラウンに、幾つかの整合フィルタリング技術が述べられている。この方法では、空間変形を、純粋な平行移動と見なしている。この技術の主な短所は、計算の複雑さである。
【0006】
画像の位置決めのための別の公知の方法は、ウェーブレット解析を用いて空間的な変形をモデリングすることである。これは、例えば、本明細書に参照として全部を引用する、アミット(Y. Amit)の「画像整合のための非線形変分問題(A Nonlinear Variational Problem for Image Matching)」(SIAM Journal Sci. Comput., vol. 15, no. 1、1994年1月、207-224頁)で提案されている。更に別の手法は、本明細書に参照として全部を引用する、マガレーら(L. Magarey et al.)の「複合ウェーブレットを用いた動きの推定(Motion Estimation Using Complex Wavelets)」(Technical Report, Cambridge University, Dept. of Engineering、1995年)で述べられているように、画像のウェーブレット分解の位相から、空間的な変形を推定することである。これらの技術の基本的な短所は、走査という目的では主要な変形であるグローバル変形ではなく、ローカル変形をモデリングすることである。
【0007】
本明細書に参照として全部を引用する、カトヴィークら(J. van Katwijk et al.)の「走査した地図の正確なモザイク、又は仮想A0スキャナを生成する方法(Accurate Mosaiking of Scanned Maps, or How to Generate a Virtual A0 Scanner)」(the First Annual Conf. of the Advanced School for Computing and Imaging会報、オランダ、1995年5月、353-359頁)は、走査した文書の部分的な画像を位置決めするための別の画像位置決め技術を提案している。この方法を用いると、走査した実用地図を構造的な記述に変換することができる。グローバル変形の推定に対してロバストなアフィン変換が、変形モデルとして用いられる。しかし、画像上に、変形が推定される領域を予め描くので、手作業の介入を必要とする。
【0008】
【課題を解決するための手段】
本発明は、走査した原稿の画像を再構成するために、走査した原稿の部分画像間のグローバル変形を推定するための、システム及び方法を提供する。
【0009】
本発明は、変換を用いてグローバル変形を判定するシステム及び方法を、個別に提供する。
【0010】
本発明は、アフィン変換を用いてグローバル変形を判定するシステム及び方法を、個別に提供する。
【0011】
本発明は、各部分画像を重なり合わないブロックに分割し、各ブロックのグローバル変形を推定するシステム及び方法を、個別に提供する。
【0012】
本発明は、推定されたブロックパラメータをクラスタ化して、全ての部分画像の全体的な実際の変形を見つけるシステム及び方法を、個別に提供する。
【0013】
本発明の、上記及び他の特徴及び長所は、以下の好ましい実施の形態の詳細な記述で説明され、又は明らかとなる。
【0014】
【発明の実施の形態】
添付の図面を参照して、本発明の好ましい実施の形態を説明する。
【0015】
画像の位置決めとは、部分的に重複する画像間の対応を確立することを意味する。画像の位置決めは、上述のリーで述べられている衛星イメージング、上述のウッズで述べられている、断層撮影した脳の画像の隣接する画像どうしの位置決め、スゼリスキで述べられている遠隔現実アプリケーション、及び上述のテオドシアで述べられている静止ビデオ映像の分野において、広く用いられている。本発明に従ったシステム及び方法では、詳細を後述するように、部分画像即ちサブ画像の取得に用いられる走査装置の走査ウィンドウよりも大きいソース文書を走査することにより、部分画像即ちサブ画像を取得する。走査されたソース文書は、イメージ領域、グラフィック領域、テキスト領域、又は他の任意のタイプの画像データ領域を含み得る。
【0016】
本発明に従って、各部分画像即ちサブ画像の、適切なグローバル変形(変換)が取得される。このグローバル変形を用いて、各部分画像即ちサブ画像を基準座標系に位置決めする。基準座標系は、走査した部分画像の最初の部分画像によって定めることができることを認識されたい。
【0017】
サブ画像を歪曲することによって、サブ画像即ち部分画像が基準座標系に位置決めされる。全てのサブ画像即ち部分画像が座標系に位置決めされると、空間平均化を用いてサブ画像が結合され、走査した原稿の合成画像になる。従って、後述するシステム及び方法に基づき、ユーザは、低コストのフラットベッドスキャナ、又は他の低コストの手で持つタイプの(ハンドヘルド)スキャナを用いて、走査装置の走査ウィンドウよりも大きい文書を走査することができる。
【0018】
詳細には、本発明のシステム及び方法に従い、走査された各部分画像間の適切な変形(変換)は、推定値を用いて見つけられる。これらの推定値により、様々な部分画像間の平行移動及び/又は一様なスケーリングが可能となる。本発明のシステム及び方法に従って生成される推定値は、走査した原稿の合成画像を構成するために、走査した原稿の部分画像間の平行移動及び回転の両方を推定する。本明細書に参照として全文を援用する、ボズダギ(Gozde Bozdagi)の米国特許第5,784,115号は、高品質のプログレッシブビデオフレームを生成するための、動き補償インターレースビデオフレームのインターレースを解除するためのシステム及び方法を提供している。また、この米国特許第5,784,115号で開示されているシステム及び方法は、計算の複雑さを低く抑えるとともに、2つのフィールド、即ち単一フレームしか必要としない。
【0019】
上述の米国特許第5,784,115号で開示されているように、米国特許第5,784,115号のシステム及び方法は、2つの時間的にずれたフィールドで構成される単一画像フレーム内に、グローバルモーションが存在するか否かを決定する。グローバルモーションが検出された場合は、そのグローバルモーションが推定され、補償される。そのグローバルに補償された画像を解析し、ローカルモーションが存在するか否かを決定する。ローカルモーションが検出された場合は、モーションに適応する技術を用いて、ローカルモーションの影響を受けている画素を補間する。グローバルモーションが検出された場合は、オプティカルフロー解析及びアフィンパラメータ化を用いて、そのグローバルモーションを推定する。
【0020】
上述の米国特許第5,784,115号で述べられているように、各フィールドは複数の離散的なブロックに分割され、一方のフィールドの各ブロックのアフィンパラメータが、他方のフィールドの対応するブロックとの相対関係において、推定される。単一の画像フレーム内で、グローバルモーションが主要なモーションである場合には、各ブロックの推定アフィンパラメータの個々の値は、グローバルモーションを表す値のまわりにクラスタ化する傾向がある。最も多くの要素を有するクラスタの中心にあるアフィンパラメータ値(複数)が、グローバルモーションのアフィンパラメータ(複数)の最終的な推定値として選択される。グローバルモーションは、インターレースされている2つのフィールドの一方を、選択したアフィンパラメータを用いて歪曲することによって、補償される。
【0021】
ローカルモーションは、2つのフィールドのうちの歪曲されたフィールドと他方のフィールドとの間のモーションマップを決定することにより、得られた単一フレーム内で決定される。上述の米国特許第5,784,115号で開示されているように、第2モーションマップ内に含まれる画素、即ちローカルモーションに影響された画素は、エッジに適応する補間を用いて補償される。
【0022】
図1は、原稿30の走査に用いられるフラットベッドスキャナの走査ベッド、即ち走査ウィンドウ又はスキャナ・フットプリントよりも長い原稿30を示す。図1に示されるように、原稿30は、1つの方向においては、走査ウィンドウ又はスキャナ・フットプリントよりも長いが、第2の垂直方向においては、走査ウィンドウ又はスキャナ・フットプリントよりも長くはない。従って、図1に示されるように、6つの独立したサブ画像31から36を形成するように、原稿30を走査することができる。詳細には、第1のサブ画像31は、原稿30の一番左の部分を走査することによって取得される。次に、第2のサブ画像32は、原稿30の、第1サブ画像31の右側で第1サブ画像31に僅かに重なる部分を走査することによって取得される。原稿30全体が走査されるまで、更に、それぞれが前に走査されたサブ画像の一番右の部分に僅かに重なっているサブ画像33から35が走査される。図1に示されるように、サブ画像31から36の各々は、個々にAからFの参照文字でも印がつけられている。
【0023】
図2は、得られた6つのサブ画像31から36が、本発明のシステム及び方法に従って、ブロックに分割された後を示している。例えば、図2に示されるように、サブ画像31から36の各々は、64個のブロックに分割される。各ブロックは、同じ数の画素を含む。サブ画像31から36は、各ブロックが固定数の画素を含む、任意の数のブロックに分割できることも認識されたい。従って、図2に示されている64個のブロックは、説明的なものであり、限定するものではないことを理解されたい。
【0024】
図2に示されるように、原稿30を走査することによってサブ画像31から36が形成される際、任意の2つのサブ画像31から36の間には、固有の関係も、固有の重複量も存在しないことを認識されたい。
【0025】
以下の、本発明に従った走査画像位置決めシステム及び方法の例示的な実施の形態の説明は、理解を容易にするために、アフィン変換と関係して述べられる。しかしながら、サブ画像を単一画像にコンパイルできるようにする、公知の又は今後開発される任意の変換を、本発明のシステム及び方法に用いることができることを認識されたい。そのような他の変換の1つは、投影変換である。従って、以下の説明及び特許請求の範囲は、アフィン変換に限定されると解釈されるべきではない。
【0026】
図3は、本発明に従った走査画像位置決めシステム200の1つの例示的な実施の形態を示している。図3に示されるように、スキャナ100はリンク110を介して走査画像位置決めシステム200に接続されている。同様に、画像データシンク(受信側)300はリンク310を介して走査画像位置決めシステム200に接続できる。
【0027】
スキャナ100は、公知の又は今後開発される任意のタイプのスキャナであり得ることを認識されたい。スキャナ100がとり得る形態には制限はない。しかし、スキャナ100が本発明の走査画像位置決めシステム200と共に用いられる場合には、スキャナ100が原稿全体を完全に走査することはできないことを前提としている。
【0028】
リンク110は、スキャナ100を走査画像位置決めシステムに接続するための、直接ケーブル接続、WAN又はLANを介した接続、イントラネットを介した接続、インターネットを介した接続、又は任意の他の分散形処理ネットワーク又はシステムを含む、公知の又は今後開発される任意の装置又はシステムであり得る。一般的に、リンク110は、スキャナ100の走査画像位置決めシステム200への接続に使用可能な、公知の又は今後開発される任意の接続システム又は構造であり得る。
【0029】
画像データシンク300は、走査画像位置決めシステム200から、再構成された合成画像を受信できる、公知の又は今後開発される任意の装置であり得る。従って、画像データシンク300は、ディスプレイ、又はレーザプリンタ、デジタルコピー機、インクジェットプリンタ、ドットマトリックスプリンタ、昇華型プリンタのような画像出力ターミナル等であり得る。画像データシンク300は、フロッピーディスク及びドライブ、ハードディスク及びドライブ、書き込み可能CD−ROM若しくはDVDディスク及びドライブ、又はフラッシュメモリ等のような、公知の又は今後開発される任意の記憶装置であってもよい。画像データシンク300は、走査画像位置決めシステム200にローカルに配置されてもよく、又は走査画像位置決めシステム200から遠隔に配置されてもよいことも認識されたい。従って、リンク110と同様に、リンク310は、走査画像位置決めシステム200の画像データシンク300への接続に使用可能な、公知の又は今後開発される任意の接続システム又は構造であり得る。詳細には、リンク310は、リンク110に関して上述した任意の装置又はシステムを用いて実現され得る。
【0030】
走査画像位置決めシステム200は、コントローラ210、入出力インタフェース220、メモリ230、サブ画像ブロック化回路240、アフィンパラメータ生成回路250、サブ画像歪曲回路270、及びサブ画像結合回路280を含み、全ての要素は、データ及び/又は制御信号バス290を介して相互接続されている。更に、スキャナ110及び画像データシンク300は、それぞれリンク110及び310を介して、入出力インタフェース220に接続されている。
【0031】
図3に示されるように、メモリ230は、サブ画像メモリ部231、アフィンパラメータメモリ部232、クラスタメモリ部233、制御プログラムメモリ部234、及び歪曲済サブ画像メモリ部235を含む。サブ画像メモリ部231は、スキャナ110を用いて原稿から取得され、リンク110をわたって入出力インタフェース220を介して走査画像位置決めシステム200に送信される、様々なサブ画像を格納する。アフィンパラメータメモリ部232は、後述するように、サブ画像メモリ部231に格納されている(もしあれば)ベースとなるサブ画像以外の各サブ画像に対して生成される様々なアフィンパラメータを格納する。
【0032】
クラスタメモリ部233は、ベースとならないサブ画像のブロックに対して生成されたブロックアフィンパラメータのセットをクラスタ化する間に生成されるクラスタデータを格納する。歪曲済サブ画像メモリ部235は、ベースとなるサブ画像又は所定の基準位置に位置決めされるように配置するために歪曲された後のサブ画像を格納する。
【0033】
制御プログラムメモリ部234は、走査画像位置決めシステム200の任意の制御プログラムを格納する。詳細には、走査画像位置決めシステム200は、好ましくは、プログラムされた汎用コンピュータ、マイクロプロセッサ、又はマイクロコントローラを用いて実施される。従って、制御プログラムメモリ部234は、本発明のシステム及び方法を実施するためにコントローラ210によって実行される制御プログラムを格納する。
【0034】
上記に示したように、入出力インタフェース220は、コントローラ210の制御下で、スキャナ110からサブ画像を入力し、それらをサブ画像メモリ部231に格納する。入出力インタフェース220は、やはりコントローラ210の制御下で、サブ画像結合回路280又はメモリ230からの再構成された合成画像を、信号ライン310を介して、画像データシンク300に出力できる。
【0035】
サブ画像ブロック化回路240は、コントローラ210の制御下で、各サブ画像を、入出力インタフェース220から直接入力するか、又はサブ画像メモリ部231から入力し、各サブ画像を、各々が同数の画素を有する同数のブロックに分割する。次に、ブロック化されたサブ画像は、サブ画像メモリ部231に格納されるか、又は直接、アフィンパラメータ生成回路250に出力される。
【0036】
アフィンパラメータ生成回路250は、コントローラ210の制御下で、サブ画像メモリ部231、歪曲済サブ画像メモリ部235、及び/又はサブ画像ブロック化回路240から、2つのブロックサブ画像を入力し、2つの画像のうちの一方の画像を、2つの画像のうちの他方の画像及び/又はベースとなるサブ画像に位置決めするように歪曲するのに必要な、画像アフィンパラメータを生成する。次に、これらの画像アフィンパラメータは、アフィンパラメータメモリ部232に格納される。
【0037】
サブ画像歪曲回路270は、サブ画像メモリ部231からの(もしあれば)未歪曲のサブ画像、及び、アフィンパラメータメモリ部232に格納されている、そのサブ画像の対応する画像アフィンパラメータを入力する。次に、サブ画像歪曲回路270は、入力された画像アフィンパラメータを用いて、入力されたサブ画像を、ベースとなるサブ画像に位置決めされるように配置するために、歪曲する。次に、歪曲されたサブ画像は、歪曲済サブ画像メモリ部235に格納される。
【0038】
サブ画像結合回路280は、サブ画像メモリ部231からのベースとなるサブ画像、及び歪曲済サブ画像メモリ部235に格納されている歪曲済のベースとならないサブ画像を入力し、それらを結合して、原稿の再構成された合成画像を形成する。次に、この再構成された合成画像を、メモリ230に格納するか、又は、上記に示したように、入出力インタフェース220を介して直接画像データシンク300に出力することができる。
【0039】
上記に示したように、図3に示されているアフィンパラメータ生成回路250は、より一般的には、用いられる特定の変換用の特定の変換パラメータを生成する、変換パラメータ生成回路250として説明できることを認識されたい。同様に、図3に示されているアフィンパラメータメモリ部232は、より一般的には、変換パラメータ生成回路250によって生成される変換パラメータを格納する、変換パラメータメモリ部232として説明できる。この場合、サブ画像歪曲回路270は、変換パラメータ生成回路250によって生成され、変換パラメータメモリ部232に格納されている、入力画像変換パラメータを用いて、入力サブ画像を、ベースとなるサブ画像に位置決めされるように配置するために、歪曲する。
【0040】
図4は、アフィンパラメータ生成回路250の1つの例示的な実施の形態をより詳細に示している。図4に示されるように、アフィンパラメータ生成回路250は、ブロック比較回路251、ブロックアフィンパラメータセット推定回路252、サブ画像アフィンパラメータセット生成回路253、アフィンパラメータ修正回路254、及びクラスタ生成回路260を含む。アフィンパラメータ生成回路250が、ベースとなるサブ画像及びベースとなる画像と重複する歪曲されるサブ画像のような2つのサブ画像を入力した後、ブロック比較回路251は、歪曲されるサブ画像の各ブロックを、他方のサブ画像の1つ以上のブロックと比較する。例えば、2つのサブ画像がベースとなるサブ画像を含む場合は、ベース画像内のブロック及び歪曲されるサブ画像内のブロックの各対について、一方のブロック内の各画素が、他方のブロック内の対応して位置する画素と比較される。
【0041】
2つのブロックのうちの一方のブロック内の全画素が、他方のブロック内の対応する画素と比較されたら、その比較結果が、ブロック比較回路251からブロックアフィンパラメータセット推定回路252に出力される。ブロックアフィンパラメータセット推定回路252は、一方のブロック内の画素の画像値を他方のブロック内の画素の画像値に最も良好に変換する、平行移動の垂直及び水平成分並びに任意の回転の垂直及び水平成分を定義する、1セットのブロックアフィンパラメータを推定する。詳細には、ブロックアフィンパラメータセット推定回路は、上述の米国特許第5,784,115号に述べられているように、及び、更に詳細を後述するように、アフィンパラメータを推定する。ブロック比較回路251によって、比較されたブロックの各対について、1つのブロックアフィンパラメータセットが生成されることを認識されたい。
【0042】
推定されたブロックパラメータセットは、次に、ブロックアフィンパラメータセット推定回路252によってクラスタ生成回路260に出力される。クラスタ生成回路260は、2つのサブ画像の比較されたブロックに対して推定されたブロックアフィンパラメータを、n次元空間(nは通常6であるが、これより高い値でも、又はこれより低い3の値でもよい)に作図する。また、クラスタ生成回路260は、作図されたブロックアフィンパラメータセットのどのクラスタが最も多くの要素を有するかを決定する。次に、ブロックアフィンパラメータセットのこのクラスタは、クラスタ生成回路260によってサブ画像アフィンパラメータセット生成回路253に出力される。六次元空間を使用できるのは、画像は平面上にあり、そのような平面の全ての可能な変形の定義には、6つのパラメータで十分だからであることを認識されたい。これらの6つのパラメータは、水平及び垂直の平行移動及び任意の回転のサイン及びコサイン値を定義する。本発明に従ったサブ画像の生成にスキャナを用いる場合の全ての可能な変形の記述には、3つのパラメータで十分なので、3つのパラメータだけを用いてもよいことを更に認識されたい。これらの3つのパラメータは、水平及び垂直の平行移動及び任意の回転の角度を定義する。
【0043】
次に、サブ画像アフィンパラメータセット生成回路253は、クラスタ生成回路260によって識別されたクラスタを形成しているブロックアフィンパラメータセットを解析し、一方のサブ画像の全てのブロックの画素値に適用されたときに、他方のサブ画像の対応するブロックの対応する画素の画素値に最も近い画素値を生じる、平行移動及び回転のパラメータを定義する、全体的な画像アフィンパラメータセットを決定する。サブ画像アフィンパラメータセット生成回路253が、歪曲されるサブ画像に対するこの画像アフィンパラメータのセットを決定したら、これらの画像アフィンパラメータは、アフィンパラメータ修正回路254に出力される。
【0044】
次に、アフィンパラメータ修正回路254は、他方のサブ画像、即ち、歪曲されるサブ画像の画像アフィンパラメータの決定に用いられたサブ画像に対する、格納されている画像アフィンパラメータを入力する。次に、アフィンパラメータ修正回路254は、他方のサブ画像の画像アフィンパラメータに基づいて、歪曲されるサブ画像に対して決定された画像アフィンパラメータを修正し、それにより、歪曲されるサブ画像は、歪曲されるサブ画像を(もしあれば)ベースサブ画像又は所定の基準位置に位置決めするように歪曲する画像アフィンパラメータを有するようになる。勿論、他方のサブ画像がベース画像である場合は、歪曲されるサブ画像についての画像アフィンパラメータは、実際には修正されないことを認識されたい。
【0045】
上記に示したように、図4に示されているブロックアフィンパラメータセット推定回路252は、より一般的には、用いられる特定の変換用の特定のブロック変換パラメータを生成する、ブロック変換パラメータセット推定回路252として説明できることを認識されたい。同様に、図4に示されているサブ画像アフィンパラメータセット生成回路253は、より一般的には、ブロック変換パラメータセットから特定のサブ画像変換パラメータを生成する、サブ画像変換パラメータセット生成回路253として説明できる。同様に、図4に示されているアフィンパラメータ修正回路254は、より一般的には、歪曲されるサブ画像に対して他方のサブ画像の画像変換パラメータに基づいて決定された画像変換パラメータを修正する、変換パラメータ修正回路254として説明できる。
【0046】
図5は、クラスタ生成回路260の1つの例示的な実施の形態をより詳細に示している。詳細には、図5に示されるように、クラスタ生成回路260は、作図回路261、クラスタ中心定義回路262、距離決定回路263、クラスタ割付回路264、クラスタ中心修正回路265、及びクラスタ併合回路266を含む。クラスタ生成回路260が、ブロックアフィンパラメータセット推定回路252によって出力された各ブロックアフィンパラメータセットを受け取ると、そのブロックアフィンパラメータセットは、まず、作図回路261に入力され、作図回路261は、そのブロックアフィンパラメータセットを六次元空間又は可能であれば三次元空間に作図する。作図回路261によって作図されたブロックアフィンパラメータセットが、サブ画像の新たな対の最初のブロックアフィンパラメータセットであるとき、クラスタ中心定義回路262は、その最初に作図されたブロックアフィンパラメータセットを、六次元空間又は可能であれば三次元空間内の最初のクラスタ中心として定義する。次に、クラスタ中心定義回路262は、米国特許第5,784,115号で述べられているように、合計k個のクラスタ中心について、最初のクラスタ中心との相対関係において、更なる(k-1)クラスタ中心を定義する。一般的に、更なる (k-1)クラスタ中心は、作図された最初のクラスタ中心との相対関係において定義され、これにより、初期kクラスタ中心が画像全体に概ね均等に配分される。一般的に、これは、次のクラスタ中心が前に定義されたクラスタ中心から距離閾値と等しい距離にあるような距離閾値を用いることによって保証される。これにより、確実に、重複領域から少なくとも1つのクラスタ中心を得る。
【0047】
或いは、クラスタ中心定義回路262は、クラスタ中心を定義する前に、ブロックアフィンパラメータセット推定回路252によって出力される全てのブロックアフィンパラメータセットが、作図回路261によって作図されるまで、待機してもよいことも認識されたい。この場合は、クラスタ中心定義回路262は、最初のクラスタ中心を、作図されたブロックアフィンパラメータセットの任意の1つとして定義する。そして、他のクラスタ中心は、同じ方法で、この選択されたブロックアフィンパラメータセットとの相対関係において決定される。
【0048】
ブロックアフィンパラメータセット推定回路252によって出力された全てのブロックアフィンパラメータセットが、作図回路261によって作図され、クラスタ中心定義回路262によってクラスタ中心が定義されたら、距離決定回路263は、各クラスタ中心と作図された各ブロックアフィンパラメータセットとの間の距離を決定する。次に、クラスタ割付回路264は、距離決定回路263によって決定された距離に基づいて、作図された各ブロックアフィンパラメータセットをクラスタの1つに割付ける。距離決定回路263及びクラスタ割付回路264は、或いは、各ブロックアフィンパラメータセットについての距離を決定し、作図回路261がクラスタを作図したら、そのクラスタにそのブロックアフィンパラメータセットを割付けてよいことも認識されたい。
【0049】
一旦、全てのブロックアフィンパラメータセットが作図され、クラスタに割付けられたら、クラスタ中心修正回路265は、特定の各クラスタに割付けられた全てのブロックアフィンパラメータセットを調べる。クラスタ中心修正回路265は、そのクラスタに割付けられたブロックアフィンパラメータセットに基づいて、そのクラスタのクラスタ中心を修正する。次に、クラスタ併合回路266は、任意の2つのクラスタのクラスタ中心が、相互に接近し過ぎているか否かを決定する。そうである場合は、クラスタ併合回路266は、2つのクラスタを併合して単独のより大きなクラスタにする。次に、この単独のより大きなクラスタは、そのクラスタ中心が更に修正されるように、再びクラスタ中心修正回路265へと出力される。
【0050】
上記に示したように、図5に示されているクラスタ生成回路260は、より一般的には、ブロック変換パラメータセット推定回路252によって生成されるブロック変換パラメータセットに基づいて、クラスタを生成することを認識されたい。
【0051】
作用としては、走査画像位置決めシステム200がスキャナ100からサブ画像31から36のようなサブ画像を受け取ると、それらはメモリ230に格納される。次に、サブ画像ブロック化回路240は、図2に示されるように、各サブ画像をブロック化する。一旦、サブ画像がブロック化されて再格納されたら、サブ画像の1つがベースとなるサブ画像として識別される。他のサブ画像は全て、最終的には歪曲されて、このベースとなるサブ画像に位置決めされる。走査画像位置決めシステム200は、処理を容易にするために、通常は、最初に走査されたサブ画像をベースとなるサブ画像として扱う。しかし、走査画像位置決めシステム200は、或いは、スキャナ100から、又は、走査したサブ画像の特定の1つをベースとなるサブ画像として識別する、走査画像位置決めシステム200のオペレータから、入力を受け取ってもよい。
【0052】
全てのサブ画像が入力されてブロックに分割され、ベースとなるサブ画像が識別又は選択されたら、ベースとなるサブ画像及び他のサブ画像の1つがアフィンパラメータ生成回路へと出力され、他のサブ画像の画素値をベースとなるサブ画像の画素値に位置決めするように歪曲する画像アフィンパラメータが決定される。詳細には、歪曲されたサブ画像は、処理を容易にするために、走査された順序で相互に比較される。従って、図1に示されている原画像30については、第1のサブ画像31がベースのサブ画像になる。次に、ベースとなるサブ画像31及び第2のサブ画像32がアフィンパラメータ生成回路250へと出力され、第2のサブ画像32を第1即ちベースのサブ画像31と位置決めするように歪曲する画像アフィンパラメータが生成される。次に、第3のサブ画像33がアフィンパラメータ生成回路250へと出力され、第3のサブ画像33を第2のサブ画像32と位置決めするように歪曲する画像アフィンパラメータが決定される。次に、第4のサブ画像34がアフィンパラメータ生成回路250へと出力され、第4のサブ画像34を第3のサブ画像33と位置決めするように歪曲する画像アフィンパラメータが決定される。これは、全てのサブ画像31から36が入力されて歪曲されるまで続く。
【0053】
走査画像位置決めシステム200の上述の作用から、カレント(現在の)サブ画像を直前のサブ画像に位置決めするように歪曲する適切な画像アフィンパラメータセットを生成できるように、各サブ画像が直前のサブ画像と十分に重複する、特定の順序で、サブ画像が走査されなければならないことは明白である。この走査順序は、例えば、図15に示されている。
【0054】
しかしながら、走査画像位置決めシステム200は、この走査順序に限定されない。むしろ、この走査順序は、ユーザに最大の負担をかけて適切な順序でサブ画像を走査する一方で、アフィンパラメータ生成回路250にかかる計算上の負荷を最小にして、走査画像位置決めシステム200がより速く原画像の合成画像を再構成できるようにするものである。
【0055】
或いは、原稿を走査する際のユーザへの負担は緩和するが、アフィンパラメータ生成回路250にかかる計算上の負荷を増大させる、異なる走査順序を用いてもよい。この第2の走査スキーム(組立て)では、サブ画像は任意の特定の順序で走査されなくてよい。その代わりに、ユーザは、各サブ画像を走査する際に、アフィンパラメータ生成回路250が、前に走査したサブ画像のどれを用いて、現在走査されるサブ画像の画像アフィンパラメータセットを生成するべきかを、指示する必要がある。この場合、走査順序は固定されないが、走査画像位置決めシステム200は、歪曲される特定のサブ画像が、前に走査した他のサブ画像のどれに位置決めされるように、歪曲されるべきであるかを、明示的に知る必要がある。そのような走査順序の1つが、例えば図16に示されている。
【0056】
更に、第3の走査順序を用いることもできよう。この第3の走査スキームは、ユーザにかかる負担は最大限に低減するが、アフィンパラメータ生成回路250にかかる計算上の負荷は最大限に増大させる。この第3の走査スキームでは、図17に示されるように、サブ画像を任意の特定の順序で走査しなくてよい。詳細には、サブ画像は、図15及び図16に示される走査順序のように、任意の後続のサブ画像が前に走査したサブ画像の少なくとも1つと重複する必要があるようには、走査されなくてよい。むしろ、図17に示されるように、走査された全てのサブ画像は最終的には1つ以上の他の走査されたサブ画像と相互に重複しなければならないが、続けて走査されたサブ画像がその前に走査されたサブ画像と重複する必要はない。
【0057】
この第3の走査スキームでは、アフィンパラメータ生成回路250は、選択されたサブ画像と、重複する各サブ画像との間の十分な画像アフィンパラメータセットを生成できるように、全ての未歪曲のサブ画像を、前に歪曲済のサブ画像のうちの任意の特定の選択されたサブ画像又はベースとなるサブ画像と比較して、どのサブ画像(単数又は複数)が、選択されたベースのサブ画像又は前に歪曲済のサブ画像と十分に重複しているかを、決定する必要があろう。実際には、これには、各歪曲済サブ画像又はベースとなるサブ画像を選択したら、それを比較して、各未歪曲サブ画像のサブ画像アフィンパラメータセットを生成する必要がある。次に、生成したサブ画像アフィンパラメータセットを検討し、どのサブ画像アフィンパラメータセットが、実際に、対応する未歪曲サブ画像と選択された歪曲済サブ画像又はベースのサブ画像との重複を反映しているかを、決定しなければならない。
【0058】
比較されるサブ画像の選択方法、及び比較されるサブ画像の数に関わらず、ブロック比較回路251は、一方のサブ画像の各ブロックを、他方のサブ画像内の対応する位置にあるブロックと比較する。従って、図2のサブ画像31及び32を参照すると、第1サブ画像31のA1ブロックは、第2サブ画像32のB1ブロックと比較される。同様に、第1サブ画像31のA2からA64のブロックは、個々に、第2サブ画像32のB2からB64のブロックと比較される。1つのサブ画像のブロックを次のサブ画像のブロックと比較するためのこの方法は、平行移動量が小さいときにだけ、適正なブロックアフィンパラメータを生成することを認識されたい。平行移動量が大き過ぎる場合は、ブロックを比較するための以下の代替の方法のうちの1つを用いるべきである。
【0059】
この第1の代替の方法では、ブロック比較回路251、ブロックアフィンパラメータセット推定回路252、及びクラスタ生成回路260にかかる計算上の負荷を増大させはするが、A1からA64までの各ブロックを、B1からB64までの各ブロックと比較することが可能である。従って、A1からA64までの各ブロックに対して、64組の画素ごとの比較値が存在する。その結果、A1からA64のブロックの各々に対して、64セットのブロックアフィンパラメータが生成される。これは、比較操作回数及びブロックアフィンパラメータセット推定操作回数を二乗する一方で、サブ画像アフィンパラメータ生成の精度を、操作回数の増加に比例するほどではないが、大いに向上させる。従って、必要な精度及び使用可能な計算リソースに応じて、これらの比較スキームのいずれか1つを用いることができることを認識されたい。
【0060】
第2の代替の方法では、第1の代替の方法の大きな平行移動を扱う能力と、第1の方法のブロック比較回路251、ブロックアフィンパラメータセット推定回路252、及びクラスタ生成回路260にかかる計算上の負荷を最小にする能力とを組み合わせ、A1からA64のブロックの、小さな選択されたサブセットだけを、B1からB64のブロックと比較することが可能である。A1からA64のブロックの選択されたサブセットは、概して、サブ画像の境界に存在するブロックである。従って、ブロックの選択されたサブセットは、重複するブロックの幾つかを確実に含む。
【0061】
選択されたサブセットの各ブロックに対して、64組の画素ごとの比較値が存在する。その結果、選択されたサブセットの各ブロックに対して、64セットのブロックアフィンパラメータが生成されることになる。これらのブロックアフィンパラメータセットはクラスタ化され、B1からB64のブロックのどれが、選択されたサブセットの各ブロックと最もよく整合するかが識別される。これにより、少数の選択されたサブセットのブロックと整合すると識別された、B1からB64のブロックの各ブロックに基づいて、A1からA64のブロックとB1からB64のブロックとの1対1の比較が、より適切にできるようになる。
【0062】
図3から図5に示されている各回路は、適切にプログラムされた汎用コンピュータの一部として実現できることを認識されたい。或いは、図3から図5に示されている各回路は、ASIC内の物理的に別々のハードウェア回路として、又は、FPGA、PDL、PLA、若しくはPALを用いて、又は、ディスクリート論理素子又はディスクリート回路素子を用いて実現できる。図3から図5に示されている各回路がとる特定の形態は、設計上の選択事項であり、当業者には明白であるとともに予測可能なものである。
【0063】
図23は、本発明に従った走査画像位置決めシステム400の第2の例示的な実施の形態を示す。図23に示されるように、走査画像位置決めシステム400は、スキャナ100からリンク110を介して画像信号を受け取るバッファ410を含む。バッファ410は、画像信号をサブ画像に変換し、2つまでの連続するサブ画像を格納する。つまり、バッファ410は、処理のために、2つのサブ画像だけを記憶に留める。詳細には、この走査画像位置決めシステム400では、スキャナ100から受け取られてバッファ410に格納された最初のサブ画像が、他の全てのサブ画像が歪曲されて位置決めされる、ベースとなる画像として用いられる。
【0064】
これらの2つのサブ画像の解析が完了すると、バッファ410は、古い方のサブ画像を削除し、スキャナ100から又は暫定メモリから次のサブ画像を入力する。バッファ410は、格納している2つのサブ画像を、推定ユニット420に送信する。
【0065】
図7及び図9、並びに図8又は図10のいずれかに関して後述するように、推定ユニット430は、バッファ410に格納されている2つのサブ画像の画像アフィンパラメータセットを推定する。推定ユニット420によって画像アフィンパラメータセットが推定されたら、その画像アフィンパラメータセットは加算ユニット430及び歪曲装置440に転送される。同時に、格納されている2つのサブ画像は、バッファ410から信号ライン412を介して歪曲装置に転送される。
【0066】
加算ユニット430は、推定ユニット420によって出力された画像アフィンパラメータセットを、その画像アフィンパラメータセットのランニングサム(running sum)に加える。推定ユニットによってサブ画像の最初の対が解析される前に、ランニングサムは0にリセットされる。従って、サブ画像の最初の対に対する加算ユニットの出力は、推定ユニット420によって出力される画像アフィンパラメータセットと同じである。
【0067】
歪曲装置440は、バッファユニット410が格納している2つのサブ画像のうちの最新のサブ画像とベースとなるサブ画像との間の、グローバル変形を補償する。詳細には、歪曲装置440は、加算ユニット430によって出力された画像アフィンパラメータセットのランニングサムを用いて、バッファユニット410が格納している2つのサブ画像のうちの最新のサブ画像を“歪曲”する。
【0068】
歪曲済のサブ画像は、ベースとなるサブ画像とともに、歪曲済サブ画像及びベースサブ画像バッファーユニット450に格納される。一旦、歪曲装置440によって、原稿の、ベースとなるサブ画像以外の全てのサブ画像が歪曲されたら、ベースとなるサブ画像を含む全てのサブ画像が、歪曲済サブ画像及びベースサブ画像バッファーユニット450から平均フィルタ460へと出力される。平均フィルタ460は、歪曲済サブ画像及びベースサブ画像バッファーユニット450から受け取ったサブ画像を、後述する式10で概要を示されるように結合し、合成画像を形成する。次に、平均フィルタ460によって、合成画像が再びバッファ410へと出力され、これにより、リンク310を介して画像データシンク300へと合成画像を出力できる。
【0069】
上述したように、図23に示されている特定の要素は、より一般的には、変換パラメータの生成及び処理に用いることができることを認識されたい。
【0070】
図23に示されている各要素は、適切にプログラムされた汎用コンピュータの一部として実現できることを認識されたい。或いは、図23に示されている各要素は、ASIC内の物理的に別個のハードウェア回路として、又はFPGA、PDL、PLA、若しくはPALを用いて、又はディスクリート論理素子又はディスクリート回路素子を用いて実現できる。図23に示されている各要素がとる特定の形態は設計上の選択事項であり、当業者には明白であるとともに予測できるものである。
【0071】
図6は、本発明に従った、複数の走査したサブ画像から合成画像を構成する方法の、1つの例示的な実施の形態の概要を示すフロー図である。制御はステップS1000で開始し、ステップS2000へと続き、そこで、スキャナから、原稿のN個のサブ画像が取得される。次に、ステップS3000では、N個のサブ画像の各々が、M個のブロックに分割される。次に、ステップS4000では、上記に概要を述べたように、N個のサブ画像のうちの1つがベースとなるサブ画像として選択される。次に、制御はステップS5000へと続く。
【0072】
ステップS5000では、他の各サブ画像に対して、1セットの画像アフィンパラメータが、ベースとなるサブ画像との相対関係において決定される。次に、他のサブ画像の各々は、そのサブ画像に対してベースとなるサブ画像との相対関係において決定された画像アフィンパラメータセットに基づいて、歪曲される。次に、ステップS6000では、ベースとなるサブ画像及びN-1歪曲済サブ画像が結合され、走査した文書の合成画像が形成又は再構成される。次に、ステップS7000では、ステップS6000で形成された再構成済の走査した合成画像が格納及び/又は出力される。次に、制御はステップS8000へと続き、そこでこの方法は停止する。
【0073】
上述したように、図7のステップS5000、及び後述する図7から図14のステップS5000の特定のサブステップは、より一般的には、サブ画像に対する変換パラメータを生成し、その変換パラメータに基づいてサブ画像を歪曲するために用いることができることを認識されたい。
【0074】
図7は、図6の画像アフィンパラメータ決定ステップS5000の1つの例示的な実施の形態の概要をより詳細に示すフロー図である。この例示的な実施の形態では、制御はステップS5000で開始し、ステップS5020へと続き、そこで、ステップS4000で選択されたベースとなるサブ画像が、カレント画像に設定される。次に、ステップS5040では、走査順序において次のサブ画像が、ネクスト(次の)画像として選択される。次に、ステップS5060では、ネクスト画像の各ブロックに対する1つ以上のブロックアフィンパラメータセットが、カレント画像のブロックとの相対関係において決定される。次に、制御はステップS5080へと続く。
【0075】
ステップS5080では、ステップS5060で決定されたブロックアフィンパラメータセットがクラスタ化される。次に、ステップS5100では、ステップS5080で形成されたクラスタから、ネクスト画像に対する1セットの画像アフィンパラメータが決定される。次に、ステップS5120では、ネクスト画像に対して決定された画像アフィンパラメータが、画像アフィンパラメータのランニングサムに加算される。画像アフィンパラメータのランニングサムは、まず、ベース画像に位置決めされるようにベース画像を歪曲するための画像アフィンパラメータが全て0であることを示す、0に設定される。次に、第2のサブ画像がベース画像との相対関係において決定される際に、第2サブ画像の画像アフィンパラメータセットがランニングサムに加算される。従って、第3のサブ画像の画像アフィンパラメータセットが第2サブ画像との相対関係において決定される際には、第3サブ画像を第1即ちベースとなるサブ画像に位置決めするように完全に歪曲するために、これらの(第2サブ画像及び第3サブ画像の)画像アフィンパラメータがランニングサムに加算される。次に、制御はステップS5140へと続く。
【0076】
ステップS5140では、ステップS5120で更新された画像アフィンパラメータの更新されたランニングサムに基づいて、ネクスト画像が歪曲される。次に、ステップS5160では、画像アフィンパラメータの更新されたランニングサム及び歪曲済のネクスト画像が格納される。詳細には、歪曲済ネクスト画像は選択されたネクスト画像の歪曲済バージョンとして格納される。次に、ステップS5180では、サブ画像がチェックされ、ベースとなるサブ画像以外の全てのサブ画像が歪曲されたか否かが決定される。そうである場合は、制御はステップS5220にジャンプする。そうでない場合は、制御はステップS5200へと続く。
【0077】
ステップS5200では、ネクスト画像として選択されていた、前に選択された次のサブ画像が、カレント画像になる。次に、制御はステップS5040に戻り、その次のサブ画像をネクスト画像として選択する。一方、ステップS5220では、制御はステップS6000に戻る。
【0078】
図8は、図7のブロックアフィンパラメータセット決定ステップS5060の1つの例示的な実施の形態の概要を示すフロー図である。制御はステップS5061で開始し、ステップS5062へと続き、そこで、ネクスト画像の各ブロックが、カレント画像の対応する1つのブロックと比較される。詳細には、カレント画像の対応するブロックは、カレント画像内で、ネクスト画像内の対応するブロックと同じ相対ロケーションにあるブロックである。次に、ステップS5063では、M個のブロックのうちの1つに対する比較に基づき、ネクスト画像のそのブロックに対して1セットのブロックアフィンパラメータが推定される。次に、ステップS5064で、制御は、図7のステップS5060に続くステップである、ステップS5080に戻る。
【0079】
図9は、図7のブロックアフィンパラメータクラスタ化ステップS5080の1つの例示的な実施の形態の概要を示すフロー図である。制御は、ステップS5087で開始し、ステップS5082へと続き、そこで、ブロックアフィンパラメータセットのうちの1つがカレントブロックアフィンパラメータセットとして選択される。次に、ステップS5083では、選択されたブロックアフィンパラメータセットのブロックアフィンパラメータが、第1のクラスタ中心として、三次元空間又は六次元空間に作図される。次に、ステップS5084では、更なる(k-1)クラスタ中心が、作図された第1クラスタ中心との相対関係において定義され、これにより、最初のkクラスタ中心が画像全体に概ね均等に分散される。一般的に、これは、前に定義されたクラスタ中心から次のクラスタ中心までの距離が距離閾値と等しくなるような距離閾値を用いることによって保証される。これにより、確実に、重複領域から少なくとも1つのクラスタ中心を得る。次に、制御はステップS5085へと続く。
【0080】
ステップS5085では、ブロックアフィンパラメータセットの次の1セットが、カレントセットとして選択される。次に、ステップS5086では、カレントセットのブロックアフィンパラメータが、三次元空間又は六次元空間に作図され、作図されたブロックアフィンパラメータのカレントセットに最も近いクラスタ中心が決定される。次に、ステップS5087では、ブロックアフィンパラメータのカレントセットが、ステップS5086で決定された最も近いクラスタ中心のクラスタに割付けられる。次に、制御はステップS5088へと続く。
【0081】
ステップS5088では、ブロックアフィンパラメータセットがチェックされ、まだ割付けられていないブロックアフィンパラメータセットが残っているか否かが決定される。そうである場合は、制御はステップS5085にジャンプして戻る。そうでない場合は、制御はステップS5089へと続く。
【0082】
ステップS5089では、クラスタが再度中心を定義される。次に、ステップS5090では、クラスタ中心間の距離が閾値の距離内であるクラスタが併合される。次に、ステップS5091では、ステップS5089でのように、併合されたクラスタが再度中心を定義される。次に、制御はステップS5092へと続き、そこから、図7のステップS5080に続くステップであるステップS5100へと戻る。
【0083】
図7から図9のステップS5060及びステップS5080の上記の概要説明は、任意のブロックアフィンパラメータセットが図9で概要を示す方法に従って作図される前に、ネクスト画像のM個のブロックの各々に対する全てのブロックアフィンパラメータセットが決定されることを前提とすることを認識されたい。しかしながら、一方では、ステップS5060及びステップS5080の方法が断続的に関連しあって、ステップS5062及びステップS5063に従ってM個のブロックの特定の1ブロックに対する各ブロックアフィンパラメータセットを決定した後、そのブロックに対して決定されたブロックアフィンパラメータセットがステップS5083又はステップS5086で直ちに作図され、次に、個々に、第1のクラスタ中心として定義されるか、又は特定の定義済クラスタに割付けられてもよいことを認識されたい。
【0084】
上記に概説した、本発明に従った例示的な画像再構成方法は、上述の、計算上の要求が最小となる走査順序に対応している。詳細には、上記に概説した本発明に従った画像再構成方法の例示的な実施の形態は、一方の画像の各ブロックを、他方のサブ画像の対応する単独のブロックと比較する、単純なブロックアフィンパラメータ決定ステップを用いる。より正確なブロックアフィンパラメータセットのグループを与えるために、図8に示されている単純なブロックアフィンパラメータ決定方法を、図10に示されている、より複雑なブロックアフィンパラメータ決定方法と置き換えることができる。
【0085】
従って、図10に示されるように、ブロックアフィンパラメータセット決定ステップS5060を行う際には、制御は、ステップS5061へと続く代わりにステップS5065へと続いてもよい。制御はステップS5065からステップS5066へと続き、そこで、カレント画像ブロックカウンターM及びネクストサブ画像ブロックカウンターLが、1に設定される。次に、ステップS5067で、カレント画像の“m番目(mth)”のブロックが選択される。次に、ステップS5068で、ネクスト画像の“l番目(lth)”のブロックが選択される。次に、制御はステップS5069へと続く。
【0086】
ステップS5069では、mthブロックがlthブロックと比較される。次に、ステップS5070では、lthブロックとmthブロックとの比較に基づいて、lthブロックのブロックアフィンパラメータセットが推定される。次に、ステップS5071では、lthブロックがチェックされ、それがネクスト画像の最後のブロックであるか否かが決定される。否の場合は、制御はステップS5072へと続く。最後のブロックである場合は、制御はステップS5073にジャンプする。ステップS5072では、“l”の値が増分値1で増分され、制御はステップS5068に戻る。
【0087】
一方、ステップS5073では、mthブロックがチェックされ、それがカレント画像の最後のブロックであるか否かが決定される。否の場合は、制御はステップS5074へと続く。最後のブロックである場合は、制御はステップS5075にジャンプする。ステップS5074では、“m”の値が増分値1で増分され、制御はステップS5067に戻る。一方、ステップS5075では、制御は、図7のステップS5060に続くステップであるステップS5080に戻る。
【0088】
図7から図9のステップS5060及びステップS5080に関して上述したように、図9及び図10に関して上記に概説したステップも、それらを組み合わせることにより、ネクスト画像の各ブロックがカレント画像のブロックの1つと比較され、得られたブロックアフィンパラメータセットが直ちに作図されて、クラスタ中心を定義するために用いられるか又は定義済クラスタに直ちに割付けられるようにすることができる。
【0089】
より計算効率の良い方法で、より正確なブロックアフィンパラメータセットのグループを与えるために、図8に示されている単純なブロックアフィンパラメータ決定方法を、上述した第2の代替の方法と置き換えることができる。この方法では、カレントサブ画像のブロックの小さなサブセットが選択される。次に、選択されたサブセットの最初のブロックが選択される。次に、選択されたブロックと比較された、ネクストサブ画像のブロック数をカウントするために、カウンターがリセットされる。
【0090】
次に、ネクストサブ画像の最初のブロックが選択される。次に、カレントサブ画像の選択されたブロックが、ネクストサブ画像の選択されたブロックと比較される。次に、ネクストサブ画像の選択されたブロックとカレントサブ画像の選択されたブロックとの比較に基づいて、カレントサブ画像の選択されたブロックのブロックアフィンパラメータセットが推定される。
【0091】
次に、カウンターがチェックされ、ネクストサブ画像の全てのブロックがカレントサブ画像の選択されたブロックと比較されたか否かが決定される。否の場合は、ネクストサブ画像の次のブロックが選択され、比較及び推定ステップが繰返される。そうである場合は、カレントサブ画像のブロックの選択されたサブセットがチェックされ、そのサブセットの全てのブロックが選択されたか否かが決定される。否の場合は、そのサブセットの次のブロックが選択され、リセット、選択、比較、及び推定ステップが繰返される。
【0092】
そうである場合は、推定されたブロックアフィンパラメータに基づいて、オフセット値が決定される。オフセット値は、カレントサブ画像とネクストサブ画像との間の平行移動量の概算を表し、カレントサブ画像のブロックとネクストサブ画像のブロックとをどのように比較して、画像アフィンパラメータを決定すべきかを示す。次に、そのオフセット値に基づいて、図8のフロー図のステップS5062からステップS5064が実行される。
【0093】
図9及び図10に関して上述したように、上記に概説したステップも、それらを図9のステップと組み合わせることにより、ネクスト画像の各ブロックがカレント画像のブロックの1つと比較され、得られたブロックアフィンパラメータセットが直ちに作図されて、クラスタ中心を定義するために用いられるか又は定義済クラスタの1つに直ちに割付けられるようにすることができる。
【0094】
図11及び図12は、図6の画像アフィンパラメータ決定ステップS5000の第2の例示的な実施の形態の概要をより詳細に示すフロー図である。上記に示したように、この画像アフィンパラメータ決定ステップS5000の第2の例示的な実施の形態は、ユーザが、ベースとなるサブ画像を明示的に識別するとともに、どのサブ画像が他のどのサブ画像と重複するかを明示的に識別するときに、用いることができる。
【0095】
図11及び図12に示されるように、制御はステップS5000で開始し、ステップS5300へと続き、そこで、識別されたベースとなるサブ画像がカレント画像として選択される。次に、ステップS5320では、カレント画像と重複するものとしてマーク又は識別されたサブ画像そのものが識別される。次に、ステップS5340では、識別されたサブ画像がチェックされ、カレント画像と重複する少なくとも1つの未歪曲のサブ画像が残っていることが確認される。カレント画像と重複するものとしてマークされたそのようなサブ画像がある場合は、制御はステップS5360へと続く。そうでない場合は、制御はステップS5540にジャンプする。
【0096】
ステップS5360では、カレント画像と重複する、識別されたサブ画像の1つが、ネクスト画像として選択される。次に、ステップS5380では、カレント画像と相対関係にあるネクスト画像のブロックのブロックアフィンパラメータセットが決定される。ステップS5380では、図8及び図10に関して上記に概説したブロックアフィンパラメータセット決定方法のいずれかを用いることができることを認識されたい。上述したように、使用可能な計算リソース、所望の精度、及び/又は処理を実行するための所望の時間に基づいて、図8及び図10に示されているブロックアフィンパラメータセット決定方法の様々な実施の形態が選択される。次に、制御はステップS5400へと続く。
【0097】
ステップS5400では、ステップS5380で決定されたブロックアフィンパラメータセット(複数)がクラスタ化される。次に、ステップS5420では、ステップS5400で実行されたクラスタ化に基づいて、カレント画像と相対関係にあるネクスト画像の画像アフィンパラメータセットが決定される。次に、ステップS5440では、カレント画像の画像アフィンパラメータセットが、ステップS5420で決定された、ネクスト画像の決定された画像アフィンパラメータセットと連結される。つまり、ステップS5440では、カレント画像をベース画像に位置決めするように歪曲するカレント画像の画像アフィンパラメータが、ネクスト画像の画像アフィンパラメータと連結される。ステップS5420で決定された、ネクスト画像の画像アフィンパラメータのカレントセットは、単に、その画像を、必ずしもベース画像ではないカレント画像に位置決めするように歪曲する。カレント画像の画像アフィンパラメータセットを、カレント画像と相対関係にあるネクスト画像の画像アフィンパラメータと連結することにより、ネクスト画像をベース画像に位置決めするように歪曲することができる。次に、制御はステップS5460へと続く。
【0098】
画像アフィンパラメータが平行移動及び角度を表す場合は、カレント画像の画像アフィンパラメータとネクスト画像の画像アフィンパラメータとは、平行移動画像アフィンパラメータを合計するとともに角度画像アフィンパラメータを合計することにより連結される。しかし、画像アフィンパラメータが、角度そのものではなく、角度のサイン値及びコサイン値を表す場合は、サイン値及びコサイン値を直接合計することはできない。
【0099】
ステップS5460では、ステップS5440で修正された、修正済画像アフィンパラメータに基づいて、ネクスト画像がベース画像に位置決めされるように歪曲される。次に、ステップS5480では、歪曲されたネクスト画像は、選択中のネクストサブ画像の歪曲済バージョンとして格納される。次に、ステップS5500では、選択中のネクストサブ画像の修正済画像アフィンパラメータが格納され、これにより、この選択中のネクスト画像に重複するものとして識別された、任意の未歪曲のサブ画像そのものを、ステップS5440及びステップS5460で、ベースサブ画像に位置決めするように歪曲することができる。次に、制御はステップS5520へと続く。
【0100】
ステップS5520では、カレント画像と重複する、識別されたサブ画像のセットがチェックされ、そのような識別されたサブ画像が全て歪曲されたか否かが決定される。そうである場合は、制御はステップS5540へと続く。そうでない場合、即ち、未歪曲の識別されたサブ画像が残っている場合は、制御はステップS5360にジャンプして戻る。
【0101】
ステップS5540では、ベースとならないサブ画像が全てチェックされ、それら全てがベースとなるサブ画像に位置決めされるように歪曲されたか否かが決定される。そうである場合は、制御はステップS5580にジャンプする。そうでない場合、即ち、未歪曲のベースとならないサブ画像が残っている場合は、制御はサブ画像5560へと続く。
【0102】
ステップS5560では、歪曲済のサブ画像のうち前に選択されなかったサブ画像がカレント画像として選択される。次に、制御はステップS5320にジャンプして戻る。一方、ステップS5580では、制御はステップS6000に戻される。
【0103】
図13及び図14は、ブロックアフィンパラメータセット決定ステップS5000の第3の例示的な実施の形態の概要をより詳細に示す。この、ブロックアフィンパラメータセット決定ステップS5000の第3の例示的な実施の形態は、ユーザがサブ画像を任意の特定の順序で走査しておらず、ベースとなるサブ画像、又はベースとなるサブ画像若しくは他のサブ画像と重複するベースとならないサブ画像を、別の方法で識別していないときに、用いることができる。この第3の例示的な実施の形態では、概して、最初に走査されたサブ画像が、自動的にベースとなるサブ画像として扱われるが、ベースとなるサブ画像は、走査されたサブ画像の任意の1つであってよい。
【0104】
従って、図13及び図14に示されるように、この、ブロックアフィンパラメータセット決定ステップの第3の例示的な実施の形態は、ステップS5000で開始し、ステップS5600へと続く。ステップS5600では、ベースとなるサブ画像がカレント画像として選択される。次に、ステップS5620では、次の未歪曲のサブ画像がネクスト画像として選択される。次に、ステップS5640では、ネクスト画像のブロック(複数)のブロックアフィンパラメータセット(複数)がカレント画像との相対関係において決定される。図11及び図12に関して上述したように、ステップS5640では、図8及び図10で概要を示したブロックアフィンパラメータ決定ステップS5060の例示的な実施の形態のいずれか一方を用いることができる。次に、制御はステップS5660へと続く。
【0105】
ステップS5660では、図9に示されているステップS5080に従って、ブロックアフィンパラメータセット(複数)がクラスタ化される。ステップS5060及びステップS5080、並びに図7乃至図9に関して上述したように、図9及び図10に関して上記に概説したステップも、それらを組み合わせることにより、ネクスト画像の各ブロックがカレント画像のブロックの1つと比較され、得られたブロックアフィンパラメータセットが直ちに作図されて、クラスタ中心を定義するために用いられるか、又は定義済クラスタに直ちに割付けられるようにすることができる。次に、ステップS5680では、ステップS5660で実行されたクラスタ化から、カレント画像と相対関係にあるネクスト画像の1セットの画像アフィンパラメータが決定される。次に、制御はステップS5770へと続く。
【0106】
ステップS5700では、サブ画像がチェックされ、カレント画像との相対関係において画像アウトラインパラメータセットを決定する必要がある、まだ未選択及び未歪曲のサブ画像があるか否かが決定される。そうである場合は、制御はステップS5620にジャンプして戻る。そうでない場合、即ち未歪曲サブ画像が全て選択されている場合は、制御はステップS5720へと続く。
【0107】
ステップS5720では、カレント画像と相対関係にある、全ての未歪曲サブ画像の画像アフィンパラメータセットがチェックされ、画像アフィンパラメータセットの少なくとも1つのセットが、カレント画像と実際に重複する対応する未歪曲サブ画像を示しているか否かが決定される。概して、良好な画像アフィンパラメータセットは、その画像アフィンパラメータセットに対応するクラスタが、閾値を超える要素を数多く含んでいるときに生じる。その閾値が示すのは、そのクラスタが生じた理由は、恐らくそれが、対応する未歪曲サブ画像とカレント画像との両方に出現するブロックを表すからであろう、ということである。そのようなセットが存在しない場合は、制御はステップS5820にジャンプする。存在する場合は、制御はステップS5740へと続く。
【0108】
ステップS5740では、ステップS5720で決定された、全ての未歪曲サブ画像の画像アフィンパラメータセットがチェックされ、そのような未歪曲サブ画像のどれが、カレント画像の所定距離内の画像アフィンパラメータを有しているかが決定される。つまり、未歪曲サブ画像がチェックされ、どのサブ画像が実際にカレント画像と重複しているかが識別される。次に、ステップS5760では、そのような識別されたサブ画像の各々について、カレント画像の画像アフィンパラメータがその識別されたサブ画像の画像アフィンパラメータに加算される。次に、ステップS5780では、ステップS5740で識別された、識別済の各サブ画像が、ステップS5760で修正された、対応するそれぞれの画像アフィンパラメータ基づいて、ベースとなるサブ画像に位置決めされるように歪曲される。次に、制御はステップS5800へと続く。
【0109】
ステップS5800では、識別されたサブ画像に対する歪曲済のサブ画像及びそれに対応する修正済の画像アフィンパラメータが格納される。次に、ステップS5820では、ベースとならないサブ画像がチェックされ、ベースとならないサブ画像が全てベースとなるサブ画像に位置決めされるように歪曲されたか否かが決定される。そうである場合は、制御はステップS5860にジャンプする。そうでない場合は、制御はステップS5840へと続く。
【0110】
ステップS5840では、前に選択されなかった歪曲済サブ画像の1つが、カレント画像として選択される。次に、制御はステップS5620に戻る。一方、ステップS5860では、制御はステップS6000に戻る。
【0111】
米国特許第5,784,115号の図12から図14に関して上述したように、ステップS5062又はステップS5067で比較されるカレント画像内の1ブロックとネクスト画像内の1ブロックの任意の対について、これらのブロックが比較され、1セットのアフィンパラメータが生成される。詳細には、走査したサブ画像を位置決めして合成走査画像を形成するためのシステム及び方法に関して、2つの重複するサブ画像間の平行移動オフセット及び回転オフセットの両方を含む空間的オフセットは、次式に示される、1セットの画像アフィンパラメータ推定値AAiを生成することによって決定される。
【数1】
【0112】
画像アフィンパラメータ推定値の各セットAAiは、公知のオプティカルフロー解析及びブラック(Black)で述べられているアフィンパラメータ化技術を用いて決定される。詳細には、2つの重複するサブ画像間に回転又は平行移動のいずれか又は両方を含むアフィン変形が生じている場合には、その空間変換は、次式で得ることができる。
【数2】
【0113】
式中、
a0、a1、a2、a3、a4、及びa5はアフィンパラメータであり、
(x,y)はサブ画素のうちのカレントサブ画像内の対応する画素の座標であり、(x',y')はネクストサブ画像内、即ちカレントサブ画像に位置決めされるように歪曲されるサブ画像内の対応する画素の座標である。
【0114】
1つのサブ画像と、第1のサブ画像に重複する第2のサブ画像との間に、平行移動変形だけが生じている場合は、係数“a0”は1になり、 係数“a1”は0になることを認識されたい。同様に、この場合、係数“a3”は0になり、係数“a4”は1になる。係数“a2”及び係数“a5”は、2つのサブ画像間の水平オフセット及び垂直オフセットを与える。2つのサブ画像間に回転変形が生じている場合は、係数“a0”、“a1”、“a3”、及び“a4”は、回転角度のサイン値及びコサイン値を与える。
【0115】
詳細には、画像アフィンパラメータセットAAiの画像アフィンパラメータは、最小二乗法推定技術を用いて推定される。次に、画像アフィンパラメータ推定値a0、a2、a3、a4、及びa5を用いてネクストサブ画像を歪曲することにより、ネクストサブ画像をカレントサブ画像に位置決めするように配置できる。詳細には、ネクストサブ画像の歪曲済バージョンを得るために、ネクストサブ画像内の各画素が、決定された推定画像アフィンパラメータセットAAiを用いて歪曲される。
【0116】
Ior(i,j)が歪曲前のネクストサブ画素内の画素(i,j)の画像値であるとき、ネクストサブ画像の歪曲済バージョンとネクストサブ画像のオリジナルバージョンとの関係は、次式のようになる。
【数3】
【0117】
式中、Iw[a0i+a1j+a2,a3i+a4j+a5]は、ネクストサブ画像の歪曲済バージョンの画像値である。
【0118】
標準的な明るさの恒常性を仮定すると、カレントサブ画像kとネクストサブ画像(k+1)と間の画像アフィン変形に伴う誤差は、次式のようになる。
【数4】
【0119】
式中、
Ikはカレント画像の画像明度を表し、
Ik+1はネクストサブ画像の画像明度を表し、
Nは、原稿の合成画像を構成するために結合されなければならないサブ画像の数であり、
kはどのサブ画像が比較されているかを示す索引であり、
a(k+1,k)は、kthサブ画像と相対関係にある(k+1)thサブ画像と関連する推定画像アフィンパラメータであり、
E(a k+1,k)は、カレントサブ画像とネクストサブ画像との間のアフィン変形に伴う誤差である。
カレントサブ画像とネクストサブ画像との間のアフィン変形と関連する誤差E(a k+1,k)を決定する際、カレント画像の画像明度Ikとネクストサブ画像の画像明度Ik+1との差の二乗が合計されることを認識されたい。
【0120】
式5(数4)では、変形が画像全体にわたって一定であると仮定している。しかし、この仮定は、サブ画像間に大きな変形が生じている場合、即ち、サブ画像が少量しか重複していない場合には無効である。従って、各サブ画像は、重複しないブロックに分割される。次に、誤差E(a k+1,k)を最小化することにより、各ブロックのブロックアフィンパラメータが推定される。次に、各ブロックの推定されたブロックアフィンパラメータセットがクラスタ化され、カレントサブ画像との相対関係におけるネクストサブ画像の全体的な変形が定義される。
【0121】
詳細には、上述したように、各サブ画像が複数のブロックに分割される。1つの例示的な実施の形態では、各サブ画像は8×8画素ブロックに分割される。次に、これらの画素ブロックの各々は、別のサブ画像内の画素ブロックのうちの、空間ロケーションに基づいて対応している1つの画素ブロックと比較されるか、又は、図8及び図10に関して上述したように、一方のサブ画像の各ブロックが他方のサブ画像の全てのブロックと個々に比較される。比較された各組のブロックに対して、ブラックに述べられている最小二乗法推定技術を用いて、ブロックアフィンパラメータセットAAiが推定される。
【0122】
図9に関して上述したように、推定ブロックアフィンパラメータセットAAiはクラスタ化される。推定ブロックアフィンパラメータの任意の1セットAAiを最初のクラスタ中心AAclとして割付けることにより、クラスタができる。次に、更なる(k-1)クラスタ中心が、次式のように定義される。
【数5】
【0123】
即ち、任意の1つのクラスタ中心AAiは、他のクラスタ中心AAiから相互に少なくとも距離Tcのところになければならない。詳細には、更なる(k-1)クラスタ中心は、作図された最初のクラスタ中心との相対関係において定義され、それにより、初期kクラスタ中心が画像全体に概ね均等に分散される。一般的に、これは、次のクラスタ中心が前に定義されたクラスタ中心から距離Tcにあるような、距離閾値Tcを用いることによって保証される。これにより、確実に、重複領域から少なくとも1つのクラスタ中心を得る。
【0124】
次に、残りの推定ブロックアフィンパラメータセットAAiが全て、定義されたkクラスタの1つに割付けられる。詳細には、推定ブロックアフィンパラメータセットAAiは、どのクラスタ中心AAckが、特定の各推定ブロックアフィンパラメータセットに最も近いかを決定することにより、kクラスタに割付けられる。全ての推定ブロックアフィンパラメータセットAAiがkクラスタ中心(複数)に割付けられたら、再度中心を定義されたクラスタ中心AAck'が、次式のように決定される。
【数6】
【0125】
式中、Wはクラスタk内の要素数である。
【0126】
全てのクラスタ中心AAciが再定義されたら、これらのクラスタ中心AAciが検討され、任意の2つのクラスタ中心AAciが相互に近過ぎるか否かが決定される。つまり、任意の2つのクラスタ中心AAcl及びAAcmについては、2つのクラスタ中心に対応するクラスタは、次式の場合に併合される。
【数7】
【0127】
式中、Tmは併合閾値距離である。
【0128】
つまり、併合閾値距離Tmは、各個別のクラスタが、そのクラスタ中心と他の各クラスタのクラスタ中心との間に有していなくてはならない最小距離を定める。2つのクラスタが、少なくとも併合閾値距離Tmだけ離れていない場合は、それらのクラスタは別々ではなく、併合されるべきである。システムを較正するために、併合閾値距離Tmが調整されてもよい。
【0129】
そのような併合されたクラスタの各対に対して、新たなクラスタ中心AAclmが、次式のように決定される。
【数8】
【0130】
式中、
W1及びW2は、それぞれ、クラスタl及びm内の要素数であり、
AAjはクラスタl又はmいずれかの要素である。
【0131】
次に、最も多くの要素を有するクラスタnが識別される。次に、この識別されたクラスタnの中心AAcnが、カレントサブ画像と相対関係にある次のサブ画像の画像アフィンパラメータセットとして選択される。
【0132】
原稿を走査して生成された全てのベースとならないサブ画像が、ベースとなるサブ画像に位置決めされるように歪曲されたら、ベースとなるサブ画像及び歪曲済のサブ画像が結合され、合成画像が形成される。詳細には、合成画像即ち再構成された原画像I(i,j)内の各画像画素は、その画素が生じるサブ画像について、それらのサブ画像内のその画素に対する画像値を平均することによって決定される。従って、合成画像即ち再構成された原画像内の画素(i,j)の画像値I(i,j)は、次式となる。
【数9】
【0133】
式中、
Ik(i,j)は、画素(i,j)を含むkthサブ画像内のロケーション(i,j)の画素の画像値であり、
Nは、画素(i,j)を含む走査したサブ画像の数である。
従って、任意の画素(i,j)についての平均化は、その画素ロケーションに重複する特定のサブ画像にだけ行われる。一般的に、画像は少ししか重複していないので、通常、任意の特定の画素ロケーションに重複するのは(サブ)画像のうちの1つだけである。2つ以上のサブ画像が重複する画素ロケーションに対しては、一般的に、そのようなサブ画像は2つだけ存在し、まれに、4つ以上のそのようなサブ画像が存在する。例えば、図15から図17に示されているサブ画像では、画素ロケーションの大半は、1つのサブ画像だけに含まれており、それ以外の画素ロケーションの大半は、2つのサブ画像に含まれており、残りの画素ロケーションは、4つのサブ画像に含まれており、4つ以上のサブ画像に含まれている画素ロケーションはない。
【0134】
上述したように、本発明のシステム及び方法が生成する合成画像即ち再構成された原画像は、原稿を完全に走査して生成された走査画像と比較しても遜色なく、しかも、オーバーサイズの走査領域を用いる原稿走査を必要としない。従って、本発明のシステム及び方法は、比較的合理化された処理方法を用いて、精度の高い画像の位置決めを達成し、フラットベッドスキャナを用いて取得したサブ画像から得たオーバーサイズの文書の高解像度の合成走査画像を生成する能力がある。
【0135】
図3から図5に示されるように、走査画像位置決めシステム200は、好ましくは、プログラムされた汎用コンピュータ上で実施される。しかし、走査画像位置決めシステム200は、専用コンピュータ、プログラムされたマイクロプロセッサ又はマイクロコントローラ及び周辺集積回路素子、ASIC又は他の集積回路、デジタル信号プロセッサ、ディスクリート素子回路のようなハードワイヤード電子又は論理回路、PLD、PLA、FPGA又はPALのようなプログラム可能論理デバイス等でも実施可能である。一般的に、有限状態機械の実施能力があり、ひいては、図6から図14に示されているフロー図の実施能力がある、任意の装置を用いて、走査画像位置決めシステム2000を実施することができる。
【0136】
図3に示されるように、メモリ230の可変部は、好ましくは、スタティック又はダイナミックRAMを用いて実現される。しかし、メモリ230の可変部は、フロッピーディスク及びディスクドライブ、書き込み可能光ディスク及びディスクドライブ、ハードドライブ、フラッシュメモリ等を用いて実現することもできる。
【0137】
図3に示されるように、メモリ230の不揮発性の部分は、好ましくは、ROMを用いて実現される。しかし、メモリ230の不揮発性の部分は、フラッシュメモリ、CMOSメモリ、PROM、EEPROM、又はCD−ROM及びディスクドライブ等を用いて実現することもできる。
【0138】
更に、スキャナ100及び画像データシンク300を走査画像位置決めシステム200に接続しているリンク110及び310は、ネットワーク(図示せず)への有線又は無線リンクであり得ることを認識されたい。ネットワークは、LAN、WAN、イントラネット、インターネット、又は他の任意の分散形処理及び記憶装置ネットワークであってよい。
【0139】
本発明の、走査したサブ画像を位置決めするための例示的なシステム及び方法の上記の記述は、説明的なものであり、これを実現する上での様々な変更は、当業者にとって明白であり且つ予測できるものである。例えば、本発明のシステム及び方法は、デスクトップで走査した画像を引き合いに出して述べられてきたが、例えば衛星画像やロボット画像の部分(画像)のような、画像のシーケンスの正確に位置決めを必要とする、他の任意のタイプの画像読み取りシステムを、本発明のシステム及び方法と共に用いることができる。
【0140】
従って、本発明のシステム及び方法は、上記に概説した特定の実施の形態と共に述べられてきたが、当業者にとって、多くの代替、修正、変更が明白であることは明らかである。従って、本発明のシステム及び方法の例示的な実施の形態は、上述のように、本発明の説明を意図するものであり、本発明を限定するものではない。本発明の精神及び範囲を逸脱することなく、様々な変更がなされ得る。
【0141】
なお、本明細書で用いた符号AAは、原文における以下の記号と対応している。
【外1】
【図面の簡単な説明】
【図1】例示的な大きな文書及び原稿から取得した走査済サブ画像を示す図である。
【図2】図1に示されている原稿から取得した6つのサブ画像がブロックに分割された後を示す図である。
【図3】本発明に従った走査画像位置決めシステムの1つの例示的な実施の形態の概要を示すブロック図である。
【図4】図3のアフィンパラメータ生成回路の1つの例示的な実施の形態の概要を示すブロック図である。
【図5】図4のクラスタ生成回路の1つの例示的な実施の形態の概要を示すブロック図である。
【図6】本発明に従った走査画像位置決めシステムの1つの例示的な実施の形態の概要を示すフロー図である。
【図7】図6の画像アフィンパラメータ決定方法の1つの例示的な実施の形態の概要をより詳細に示すフロー図である。
【図8】図7のブロックアフィンパラメータセット決定方法の1つの例示的な実施の形態の概要をより詳細に示すフロー図である。
【図9】図7のブロックアフィンパラメータセットクラスタ化方法の1つの例示的な実施の形態の概要をより詳細に示すフロー図である。
【図10】図7のブロックアフィンパラメータセット決定方法の第2の例示的な実施の形態の概要をより詳細に示すフロー図である。
【図11】図6の画像アフィンパラメータ決定ステップの第2の例示的な実施の形態の概要をより詳細に示すフロー図である。
【図12】図6の画像アフィンパラメータ決定ステップの第2の例示的な実施の形態の概要をより詳細に示すフロー図である。
【図13】図6の画像アフィンパラメータ決定ステップの第3の例示的な実施の形態の概要をより詳細に示すフロー図である。
【図14】図6の画像アフィンパラメータ決定ステップの第3の例示的な実施の形態の概要をより詳細に示すフロー図である。
【図15】二次元においてスキャナウィンドウよりも大きな原稿の、図6の画像アフィンパラメータ決定ステップの第1の例示的な実施の形態とともに使用可能な走査順序を示す図である。
【図16】図15の原稿の、図6の画像アフィンパラメータ決定ステップの第2及び第3の例示的な実施の形態とともに使用可能な走査順序を示す図である。
【図17】図15の原稿の、図6の画像アフィンパラメータ決定ステップの第2及び第3の例示的な実施の形態とともに使用可能な走査順序を示す図である。
【図18】図1に示されている原稿の5番目と6番目のサブ画像であって5番目のサブ画像の歪曲後を示す図である。
【図19】例示的な文書の3つのサブ画像、及び得られた合成画像、即ち再構成された原画像を示す図である。
【図20】原画像を走査して取得した4つのサブ画像を示す図である。
【図21】本発明に従った、図20に示されている4つのサブ画像から再構成された合成画像を示す図である。
【図22】図21に示されている画像に対応する、補間によって得た再構成画像を示す図である。
【図23】本発明に従った走査画像位置決めシステムの第2の例示的な実施の形態の概要を示すブロック図である。
【符号の説明】
200 走査画像位置決めシステム
210 コントローラ
220 入出力インタフェース
230 メモリ
240 サブ画像ブロック化回路
250 アフィンパラメータ生成回路
270 サブ画像歪曲回路
280 サブ画像結合回路
Claims (2)
- 各サブ画像が複数の画素を有する複数の重複するサブ画像から合成画像を形成する装置であって、
複数のサブ画像を格納できるメモリと、
サブ画像の各々を、ブロックの各々が同数の画素を有する複数のブロックに分割するサブ画像ブロック化回路と、
変換パラメータ生成回路と、
サブ画像歪曲回路と、
サブ画像結合回路と、
を有し、
前記変換パラメータ生成回路は、
ブロック比較回路と、
ブロック変換パラメータセット推定回路と、
クラスタ生成回路と、
サブ画像変換パラメータセット生成回路と、
サブ画像変換パラメータ修正回路と、
を有し、
前記変換パラメータ生成回路は、
複数のサブ画像の対を入力し、
サブ画像の前記対の一方のサブ画像の、少なくともサブ画像の該対の他方のサブ画像に対する歪曲を示す変換パラメータセットを生成し、
前記サブ画像歪曲回路は、前記変換パラメータ生成回路によって生成された対応する変換パラメータセットにもとづいて、複数の前記サブ画像から選択された一つのサブ画像に対する、複数の前記サブ画像の少なくとも一つのサブ画像を歪曲し、
前記サブ画像結合回路は、合成画像を形成するために、歪曲された少なくとも一つの前記サブ画像と選択された前記サブ画像とを結合し、
前記ブロック変換パラメータセット推定回路は、
前記ブロック比較回路によって比較されたブロックの対の各々について、他方のブロックに対する一方のブロックの歪曲を示すブロック変換パラメータセットを生成し、
ブロックの前記対は、第1のサブ画像の第1のブロックと第2のサブ画像の第2のブロックとを含み、
前記クラスタ生成回路は、前記ブロック変換パラメータセット推定回路によって生成されたブロック変換パラメータセットから、複数のセットクラスタを生成し、
前記サブ画像変換パラメータセット生成回路は、前記クラスタ生成回路によって生成された変換パラメータセットの複数のクラスタにもとづいて、第2のサブ画像に対する第1のサブ画像の歪曲を示す画像変換パラメータセットを生成し、
前記サブ画像変換パラメータ修正回路は、
前記サブ画像変換パラメータセット生成回路によって生成された画像変換パラメータセットを、前記第2のサブ画像の固定座標系に対する歪曲を示す変換パラメータセットにもとづいて修正し、
前記画像変換パラメータセットは第1のサブ画像の第2のサブ画像に対する歪曲を示す、
合成画像を形成する装置。 - 前記変換パラメータ生成回路はアフィンパラメータを生成する、請求項1に記載の装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/239,296 US6594403B1 (en) | 1999-01-29 | 1999-01-29 | Systems and methods for registering scanned documents |
US239296 | 1999-01-29 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000295463A JP2000295463A (ja) | 2000-10-20 |
JP4204733B2 true JP4204733B2 (ja) | 2009-01-07 |
Family
ID=22901535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000021041A Expired - Fee Related JP4204733B2 (ja) | 1999-01-29 | 2000-01-31 | 合成画像形成装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US6594403B1 (ja) |
EP (1) | EP1024656B1 (ja) |
JP (1) | JP4204733B2 (ja) |
DE (1) | DE60014723T2 (ja) |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6208765B1 (en) * | 1998-06-19 | 2001-03-27 | Sarnoff Corporation | Method and apparatus for improving image resolution |
US7346184B1 (en) * | 2000-05-02 | 2008-03-18 | Digimarc Corporation | Processing methods combining multiple frames of image data |
DE10054814A1 (de) * | 2000-11-04 | 2002-05-08 | Philips Corp Intellectual Pty | Verfahren und Vorrichtung zur Registrierung von Bildern |
SE517626C3 (sv) | 2001-04-12 | 2002-09-04 | Cellavision Ab | Förfarande vid mikroskopering för att söka av och positionera ett objekt, där bilder tas och sammanfogas i samma bildkoordinatsystem för att noggrant kunna ställa in mikroskopbordet |
ATE422064T1 (de) * | 2001-04-12 | 2009-02-15 | Cellavision Ab | Verfahren in der mikroskopie und mikroskop, wobei teilbilder aufgezeichnet und in demselben koordinatensystem im puzzle-verfahren angeordnet werden, um eine präzise positionierung der mikroskopstufe zu ermöglichen |
DE10134651A1 (de) * | 2001-07-20 | 2003-02-06 | Siemens Ag | Verfahren und Vorrichtung zur Erstellung eines Gesamtbildes aus mehreren Teilbildern |
KR100538224B1 (ko) * | 2003-06-09 | 2005-12-21 | 삼성전자주식회사 | 잉크 젯 프린터의 스캔 및 인쇄 방법 및 장치 |
US20050213174A1 (en) * | 2004-02-27 | 2005-09-29 | Seiko Epson Corporation | Image processing system and image processing method |
US20060025667A1 (en) * | 2004-07-29 | 2006-02-02 | Edward Ashton | Method for tumor perfusion assessment in clinical trials using dynamic contrast enhanced MRI |
JP2006107366A (ja) * | 2004-10-08 | 2006-04-20 | Fujitsu Ltd | 生体情報入力装置,生体認証装置,生体情報処理方法,生体情報処理プログラムおよび同プログラムを記録したコンピュータ読取可能な記録媒体 |
JP4398474B2 (ja) * | 2004-12-28 | 2010-01-13 | 富士通株式会社 | 画像内の処理対象の位置を特定する画像処理装置 |
US7817307B2 (en) | 2005-01-06 | 2010-10-19 | Zenographics, Inc. | Digital image processing without rasterization |
US7880750B2 (en) * | 2005-01-06 | 2011-02-01 | Zenographics, Inc. | Digital image processing with inherent compression |
US8194277B2 (en) * | 2005-06-20 | 2012-06-05 | Canon Kabushiki Kaisha | Image combining apparatus, and control method and program therefor |
US7599556B2 (en) | 2005-08-25 | 2009-10-06 | Joseph Stanley Czyszczewski | Apparatus, system, and method for scanning segmentation |
US7930627B2 (en) * | 2005-09-22 | 2011-04-19 | Konica Minolta Systems Laboratory, Inc. | Office document matching method and apparatus |
US7567729B2 (en) * | 2005-09-22 | 2009-07-28 | Konica Minolta Systems Laboratory, Inc. | Photo image matching method and apparatus |
JP4658078B2 (ja) * | 2006-03-13 | 2011-03-23 | 株式会社沖データ | 画像形成装置 |
US8068697B2 (en) * | 2006-10-19 | 2011-11-29 | Broadcom Corporation | Real time video stabilizer |
US7649658B2 (en) * | 2006-12-11 | 2010-01-19 | Pitney Bowes Inc. | Method of reconstructing an image |
US7978932B2 (en) * | 2007-08-02 | 2011-07-12 | Mauna Kea Technologies | Robust mosaicing method, notably with correction of motion distortions and tissue deformations for in vivo fibered microscopy |
AU2008202672B2 (en) * | 2008-06-17 | 2011-04-28 | Canon Kabushiki Kaisha | Automatic layout based on visual context |
EP2157800B1 (en) * | 2008-08-21 | 2012-04-18 | Vestel Elektronik Sanayi ve Ticaret A.S. | Method and apparatus for increasing the frame rate of a video signal |
US8767240B1 (en) | 2011-01-28 | 2014-07-01 | Marvell International Ltd. | Method and apparatus for encoding data to perform real-time rendering |
US9147265B2 (en) * | 2012-06-04 | 2015-09-29 | Raytheon Company | System and method for rapid cluster analysis of hyperspectral images |
US9058655B2 (en) * | 2012-11-06 | 2015-06-16 | Apple Inc. | Region of interest based image registration |
US20150073958A1 (en) * | 2013-09-12 | 2015-03-12 | Bank Of America Corporation | RESEARCH REPORT RECOMMENDATION ENGINE ("R+hu 3 +lE") |
US9118830B2 (en) * | 2013-09-17 | 2015-08-25 | Seiko Epson Corporation | Recording apparatus |
US9984438B1 (en) * | 2016-02-09 | 2018-05-29 | Goodrich Corporation | Robust image registration for multi-spectral/multi-modality imagery |
JP6732594B2 (ja) * | 2016-08-04 | 2020-07-29 | キヤノン株式会社 | 画像処理装置及び光学機器及び画像処理方法 |
JP7310151B2 (ja) * | 2019-01-25 | 2023-07-19 | 富士フイルムビジネスイノベーション株式会社 | マーク選定装置および画像処理装置 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4393410A (en) * | 1981-11-13 | 1983-07-12 | Wespac | Multiple camera automatic digitizer and method |
US4945502A (en) * | 1988-12-27 | 1990-07-31 | Eastman Kodak Company | Digital image sharpening method using SVD block transform |
CA2101932A1 (en) * | 1991-12-10 | 1993-06-11 | Dominique Pitteloud | Apparatus and methods for automerging images |
US5339170A (en) * | 1991-12-31 | 1994-08-16 | Xerox Corporation | Image processing system and method employing hybrid filtering to provide improved reconstruction of continuous tone images from halftone screen-structured images |
JP3679426B2 (ja) * | 1993-03-15 | 2005-08-03 | マサチューセッツ・インスティチュート・オブ・テクノロジー | 画像データを符号化して夫々がコヒーレントな動きの領域を表わす複数の層とそれら層に付随する動きパラメータとにするシステム |
US5649032A (en) * | 1994-11-14 | 1997-07-15 | David Sarnoff Research Center, Inc. | System for automatically aligning images to form a mosaic image |
JPH08287218A (ja) * | 1995-04-10 | 1996-11-01 | Sharp Corp | 画像合成装置 |
US5917962A (en) * | 1995-06-06 | 1999-06-29 | Apple Computer, Inc. | Method and apparatus for partitioning an image |
JP3380660B2 (ja) * | 1995-10-25 | 2003-02-24 | 大日本スクリーン製造株式会社 | 画像処理装置 |
US5706416A (en) * | 1995-11-13 | 1998-01-06 | Massachusetts Institute Of Technology | Method and apparatus for relating and combining multiple images of the same scene or object(s) |
JPH09149192A (ja) * | 1995-11-17 | 1997-06-06 | Minolta Co Ltd | 画像読取装置 |
US5787422A (en) * | 1996-01-11 | 1998-07-28 | Xerox Corporation | Method and apparatus for information accesss employing overlapping clusters |
KR100230254B1 (ko) * | 1996-04-17 | 1999-11-15 | 윤종용 | 잡음 감소 회로 |
US5784115A (en) | 1996-12-31 | 1998-07-21 | Xerox Corporation | System and method for motion compensated de-interlacing of video frames |
US5819258A (en) * | 1997-03-07 | 1998-10-06 | Digital Equipment Corporation | Method and apparatus for automatically generating hierarchical categories from large document collections |
-
1999
- 1999-01-29 US US09/239,296 patent/US6594403B1/en not_active Expired - Lifetime
-
2000
- 2000-01-24 DE DE60014723T patent/DE60014723T2/de not_active Expired - Lifetime
- 2000-01-24 EP EP00300513A patent/EP1024656B1/en not_active Expired - Lifetime
- 2000-01-31 JP JP2000021041A patent/JP4204733B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP1024656A3 (en) | 2001-11-14 |
EP1024656A2 (en) | 2000-08-02 |
DE60014723D1 (de) | 2004-11-18 |
DE60014723T2 (de) | 2005-10-20 |
EP1024656B1 (en) | 2004-10-13 |
JP2000295463A (ja) | 2000-10-20 |
US6594403B1 (en) | 2003-07-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4204733B2 (ja) | 合成画像形成装置 | |
EP1004988B1 (en) | Method, apparatus and computer program product for generating perspective corrected data from warped information | |
EP1395952B1 (en) | Method and system for processing a non-linear two dimensional spatial transformation | |
US5490221A (en) | Digital data registration and differencing compression system | |
KR101737338B1 (ko) | 주석이 달린 문서 이미지들로부터 클린 문서를 복원하기 위한 시스템 및 방법 | |
US6535650B1 (en) | Creating high resolution images | |
US6154518A (en) | Three dimensional locally adaptive warping for volumetric registration of images | |
US6400848B1 (en) | Method for modifying the perspective of a digital image | |
US8280180B2 (en) | Method and system for image restoration in the spatial domain | |
KR100525425B1 (ko) | 영상 워핑 방법 및 장치 | |
US20050134734A1 (en) | Noise reduction in color digital images using pyramid decomposition | |
JP2002269556A (ja) | デジタル画像からノイズを除去する複数解像度に基づく方法 | |
US8068695B2 (en) | Positional distortion compensation | |
US6141017A (en) | Method and apparatus for scaling an array of digital data using fractal transform | |
US10346949B1 (en) | Image registration | |
WO2012029238A1 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
JPWO2016098323A1 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
JP2021133247A5 (ja) | ||
US6631499B1 (en) | Laser image connectable to medical modality of a workstation | |
EP1486917A2 (en) | Medical image processing system and method | |
Shibayama et al. | Reconstruction of 3D surface and restoration of flat document image from monocular image sequence | |
JPH05101221A (ja) | 画像歪補正装置 | |
JP2005516314A (ja) | コンピュータ・グラフィックスのステップを発生させ無い3次元テクスチャ・マッピング | |
US6836571B1 (en) | Method for converting digital raster data of a first resolution into digital target data of a second resolution | |
JPWO2021060068A1 (ja) | 機械学習モデル、生成装置、コンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070129 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080530 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080610 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080815 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080916 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081015 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111024 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121024 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121024 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131024 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |