JP6107310B2 - 画像処理装置、方法及びプログラム - Google Patents

画像処理装置、方法及びプログラム Download PDF

Info

Publication number
JP6107310B2
JP6107310B2 JP2013068831A JP2013068831A JP6107310B2 JP 6107310 B2 JP6107310 B2 JP 6107310B2 JP 2013068831 A JP2013068831 A JP 2013068831A JP 2013068831 A JP2013068831 A JP 2013068831A JP 6107310 B2 JP6107310 B2 JP 6107310B2
Authority
JP
Japan
Prior art keywords
distance
search target
target image
search
graph
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013068831A
Other languages
English (en)
Other versions
JP2014191744A (ja
Inventor
武部 浩明
浩明 武部
堀田 悦伸
悦伸 堀田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013068831A priority Critical patent/JP6107310B2/ja
Publication of JP2014191744A publication Critical patent/JP2014191744A/ja
Application granted granted Critical
Publication of JP6107310B2 publication Critical patent/JP6107310B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

開示の技術は画像処理装置、画像処理方法及び画像処理プログラムに関する。
与えられた画像に対して所望のパターンを検索して抽出する技術としてテンプレートマッチング法が知られている(図20参照)。テンプレートマッチング法は、被検索対象画像全体に亘ってウィンドウを走査させ、各位置のウィンドウに相当する部分領域の画像とテンプレート画像との距離計算を行うことで、被検索対象画像上のテンプレート画像が最も合致する位置を求める方法である。2つの画像の距離は次の(1)式によって計算される。

なお、(1)式において、I(x,y)は被検索対象画像、T(x,y)は横M画素、縦N画素のテンプレート画像、W(u,v)は左上頂点の座標を(u,v)とするウィンドウである。
しかし、上記のテンプレートマッチング法は、被検索対象の画像から切り出した部分領域画像とテンプレート画像との距離計算を多数回繰り返す必要があり、処理に多くの時間が掛かる。このため、被検索対象画像から切り出した部分領域画像とテンプレート画像との距離計算の途中で、それ迄に計算した値が閾値を超えている場合に、距離計算を打ち切って次の部分領域の計算に移る残差逐次検定法(SSDA法)が提案されている。また、三角不等式から得られる距離の下限値を算出することにより、各照合位置で具体的な距離計算をせずに候補対象外としてよいか否か判定するSuccessive Elimination Algorithm(SEA法)も提案されている。
SEA法では、距離計算を行う前に三角不等式によって距離計算の必要性を判定する。具体的には、テンプレート画像の大きさ|T|((2)式参照)、被検索対象画像のウィンドウW(u,v)の部分領域画像の大きさ|W(u,v)|((3)式参照)及び閾値θminが||T|−|W(u,v)||≧θminを満たすならば距離計算の候補対象外としてスキップし、次の距離計算に移る。
DANIEL I.BARNEA,HARVEY F.SILVERMAN,"A Class of Algorithms for Fast Digital Image Registration",IEEE TRANSACTIONS ON COMPUTERS,VOL.C-21,NO.2,FEBRUARY 1972,pp.179-186 W.Li,E.Salari,"Successive Elimination Algorithm for Motion Estimation",IEEE TRANSACTIONS ON IMAGE PROCESSING,VOL.4,NO.1,JANUARY 1995,pp.105-107
コンピュータの画面をキャプチャした画像から指定された文字やアイコンの画像を検出することによって、コンピュータの画面が予定通りに表示されているかどうかを確認する作業を自動化したいというニーズがある。上記作業の自動化は、検索対象の文字やアイコンの画像をテンプレートとして複数用意しておき、被検索対象画像から検索対象の個々の文字やアイコンを自動で検出することで実現される。なお、コンピュータの画面をキャプチャした画像上において、文字やアイコンなどの検索対象の画像は、背景から独立した形で配置されていることが多いという特徴を有する。
しかしながら、従来の画像検索技術は、何れも検索対象の画像(テンプレート)毎に被検索対象画像の全体を走査する必要があり、検索対象の画像の数が増加するに従い、検索に要する時間が長時間化するという課題があった。なお、三角不等式を用いて距離下限値を推定して距離計算を省略したとしても、テンプレートや対象領域の大きさのみに基づいて距離下限値を推定しているため、画像の大きさが非常に異なる場合にしか距離計算が省略できない。このため、顕著な効率化には繋がらず、検索対象の画像の数が増加するに従い、検索に要する時間が長時間化することになる。
開示の技術は、一つの側面として、複数の画像の検索に要する時間を短縮することが目的である。
開示の技術は、階層グラフ作成部により、被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフが各々作成される。探索部は、前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する。距離演算部は、前記被検索対象画像の階層グラフのうち前記探索部によって探索された前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出する。また距離演算部は、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算する。そして距離演算部は、演算した距離の下限値がそれ迄に得られた距離よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する。
開示の技術は、一つの側面として、複数の画像の検索に要する時間を短縮することができる、という効果を有する。
実施形態に係る画像処理装置の機能ブロック図である。 図1の画像処理装置として機能することが可能なコンピュータの概略ブロック図である。 被検索対象画像上の検索対象画像の一例を示すイメージ図である。 テンプレートマッチング処理を示すフローチャートである。 マッチング候補検出処理を示すフローチャートである。 キーコンポーネント探索処理を示すフローチャートである。 キーコンポーネント照合処理を示すフローチャートである。 配列生成・距離下限値計算処理を示すフローチャートである。 距離下限値計算処理を示すフローチャートである。 コンポーネントツリーの作成を説明するための概念図である。 コンポーネントツリーからのキーコンポーネントの抽出を説明するための概念図である。 コンポーネントツリーに対する深さ優先探索を説明するための概念図である。 距離下限値の算出を説明するための説明図である。 距離下限値の算出を説明するための説明図である。 距離下限値の算出を説明するための説明図である。 テンプレート画像とキーコンポーネント画像との距離演算を説明するための概念図である。 テンプレート画像とキーコンポーネント画像との距離演算を説明するための概念図である。 被検索対象画像上でのキーコンポーネント画像の領域の一例を示すイメージ図である。 処理結果の一例を示す図表である。 テンプレートマッチング法を説明するための概念図である。
以下、図面を参照して開示の技術の実施形態の一例を詳細に説明する。図1には、本実施形態に係る画像処理装置10が示されている。画像処理装置10は、コンピュータの画面をキャプチャする等によって得られた被検索対象画像に対し、検索対象画像(テンプレート画像)を探索するテンプレートマッチング処理を行う装置である。画像処理装置10によるテンプレートマッチング処理により、コンピュータの画面が予定通りに表示されているかどうかを確認する作業が自動化される。
画像処理装置10は、マッチング候補検出部12及びマッチング候補検証部14を備えており、マッチング候補検出部12はコンポーネントツリー作成部16、キーコンポーネント抽出部18及びキーコンポーネント照合部20を含んでいる。
マッチング候補検出部12は、被検索対象画像に対し、検索対象画像(テンプレート画像)と対応していると推定されるマッチング候補を検出する処理を行う。マッチング候補検出部12によるマッチング候補の検出は、より詳しくは、コンポーネントツリー作成部16、キーコンポーネント抽出部18及びキーコンポーネント照合部20によって実現される。
すなわち、コンポーネントツリー作成部16は、被検索対象画像をグレー化し、被検索対象画像のグレー画像を走査する。そしてコンポーネントツリー作成部16は、被検索対象画像のグレー画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフ(コンポーネントツリー)を作成する。また、コンポーネントツリー作成部16は、複数の検索対象画像もグレー化し、複数の検索対象画像のグレー画像も走査する。そしてコンポーネントツリー作成部16は、複数の検索対象画像のグレー画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフ(コンポーネントツリー)を各々作成する。
キーコンポーネント抽出部18は、検索対象画像(テンプレート画像)とのサイズの違いが閾値以内で、コンポーネントツリー作成部16によって作成されたコンポーネントツリーの系列上で、対応する二値化閾値が最も低濃度側に位置している連結成分を探索する。なお、本実施形態では、キーコンポーネント抽出部18によって探索される連結成分をキーコンポーネントと称する。
キーコンポーネント照合部20は、被検索対象画像のコンポーネントツリーのうちキーコンポーネントを端部とする部分階層グラフ及び検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出する。またキーコンポーネント照合部20は、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算する。またキーコンポーネント照合部20は、演算した距離の下限値がそれ迄に得られた距離よりも小さい場合に部分階層グラフと検索対象画像の階層グラフとの距離を演算する。そしてキーコンポーネント照合部20は、演算した距離が所定値以下の部分階層グラフに対応する領域をマッチング候補として出力する。
マッチング候補検証部14は、マッチング候補検出部12によって検出されたマッチング候補が検索対象画像(テンプレート画像)と対応しているか否かを、色情報を照合して検証する処理を行う。
なお、コンポーネントツリー作成部16は開示の技術に係る階層グラフ作成部の一例であり、キーコンポーネント抽出部18は開示の技術における探索部の一例であり、キーコンポーネント照合部20は開示の技術における距離演算部の一例である。
画像処理装置10は、例えば図2に示すコンピュータ30で実現することができる。コンピュータ30はCPU32、メモリ34、記憶部36、入力部38及び表示部40を備えている。CPU32、メモリ34、記憶部36、入力部38及び表示部40はバス42を介して互いに接続されている。
記憶部36はHDD(Hard Disk Drive)やフラッシュメモリ等によって実現できる。記憶部36には、コンピュータ30を画像処理装置10として機能させるためのテンプレートマッチングプログラム44が記憶されている。CPU32は、テンプレートマッチングプログラム44を記憶部36から読み出してメモリ34に展開し、テンプレートマッチングプログラム44が有するプロセスを順次実行する。
テンプレートマッチングプログラム44は、マッチング候補検出プロセス46及びマッチング候補検証プロセス48を有する。またマッチング候補検出プロセス46は、コンポーネントツリー作成プロセス50、キーコンポーネント抽出プロセス52及びキーコンポーネント照合プロセス54を含んでいる。
CPU32は、マッチング候補検出プロセス46を実行することで、図1に示すマッチング候補検出部12として動作する。またCPU32は、マッチング候補検証プロセス48を実行することで、図1に示すコンポーネントツリー作成部16として動作する。またCPU32は、コンポーネントツリー作成プロセス50を実行することで、図1に示すマッチング候補検証部14として動作する。またCPU32は、キーコンポーネント抽出プロセス52を実行することで、図1に示すキーコンポーネント抽出部18として動作する。またCPU32は、キーコンポーネント照合プロセス54を実行することで、図1に示すキーコンポーネント照合部20として動作する。
これにより、テンプレートマッチングプログラム44を実行したコンピュータ30が、画像処理装置10として機能することになる。なお、テンプレートマッチングプログラム44は開示の技術に係る画像処理プログラムの一例である。また、コンピュータ30としては、例えばパーソナル・コンピュータ(PC:Personal Computer)や、携帯情報端末(PDA:Personal Digital Assistants)の機能を搭載した携帯型の情報処理装置であるスマート端末を適用できる。
また、記憶部36には、被検索対象画像が記憶されており、複数の検索対象画像(テンプレート画像)も記憶されている。本実施形態において、被検索対象画像はコンピュータの画面をキャプチャする等によって得られる画像であり、検索対象画像はコンピュータの画面に含まれるアイコン等を表す画像である。なお、被検索対象画像及び検索対象画像は記憶部36に予め記憶されていることに限られるものではなく、外部の機器から取得するようにしてもよい。
なお、画像処理装置10は、例えば半導体集積回路、より詳しくはASIC(Application Specific Integrated Circuit)等で実現することも可能である。
次に本実施形態の作用を説明する。コンピュータの画面をキャプチャする等によって得られた被検索対象画像において、画像中の文字やアイコンなどの検索対象画像は、例えば図3に示すように、濃度や色の相違に基づき二値化等を行うことで背景から容易に分離することができる。このため、被検索対象画像から検索対象画像(テンプレート画像)の大きさにほぼ等しい部分領域を特定して抽出し、その領域のみに対して距離計算を行えば距離計算を効率化できる。
被検索対象画像から検索対象画像の大きさにほぼ等しい部分領域を抽出する方法としては、被検索対象を二値化し、二値画像に対してラベリング処理を行うことにより二値画像の中から検索対象画像の大きさにほぼ等しい部分領域を抽出する方法が考えられる。但し、被検索対象画像上での検索対象画像の背景の色及び濃度は未知であるため、二値化閾値をどのように設定すればよいのかが問題になる。例えば0〜255迄の全ての値を二値化閾値として二値化を256回行い、256枚の二値画像に対してラベリング処理を行い、検索対象画像の大きさにほぼ等しい領域を抽出することも考えられる。しかし、この方法は処理に時間が掛かり大容量のメモリを必要とするので効率的ではない。
上記に鑑み、本実施形態では被検索対象画像についてコンポーネントツリーを作成し、作成したコンポーネントツリーの情報を用いることにより、被検索対象画像に対する検索対象画像の探索を効率的に行う。コンポーネントツリーは、画像を1回走査することにより得られるグラフ情報であり、階調画像の各階調値に関する切断画像(階調値を二値化閾値とする二値画像)の各連結成分を要素(コンポーネント)としている。コンポーネントツリーは、階調値(二値化閾値)を変えていったときの連結成分の包含関係によって要素(コンポーネント)を関係付けたツリー状の階層グラフである。
以下、コンピュータ30によってテンプレートマッチングプログラム44が実行されることで実現されるテンプレートマッチング処理について説明する。なお、テンプレートマッチング処理は、例えば、コンピュータの画面をキャプチャした画像から指定された文字やアイコンの画像を検出することによって、コンピュータの画面が予定通りに表示されているかどうかを確認する等を目的として実行が指示される。
図4に示すように、テンプレートマッチング処理のステップ100において、マッチング候補検出部12は、被検索対象画像に対して検索対象画像(テンプレート画像)と対応していると推定されるマッチング候補領域を検出するマッチング候補検出処理を行う。なお、マッチング候補検出処理の詳細は後述する。
また、次のステップ102において、マッチング候補検証部14は、マッチング候補検出部12によって検出されたマッチング候補領域が検索対象画像(テンプレート画像)と対応しているか否かを、色情報を照合して検証するマッチング候補検証処理を行う。具体的には、検出されたマッチング候補領域について、原画像のカラー画像における被検索対象画像と検索対象画像(テンプレート画像)との色情報の差分を求め、求めた差分が閾値以内であれば、マッチング領域として出力する。出力する処理結果は、図19に示すように、個々の検索対象画像について、検出した領域の数と、検出した個々の領域を表す外接矩形の座標を情報として含んでいる。
次に図5を参照し、マッチング候補検出処理の詳細を説明する。マッチング候補検出処理のステップ110において、コンポーネントツリー作成部16は、カラー画像である被検索対象画像をグレー画像に変換する。カラー画像のグレー化は、3次元のRGB空間において、原点を通る所定の直線へ射影することに相当するので、3次元空間の方向ベクトルの取り方だけバリエーションがある。例えば、最もよく使用されるのが明度であり、次の(4)式によって計算される。ここで、RGB空間の点を座標(R,G,B)によって表す。
明度=0.299R+0.587G+0.114B …(4)
なお、カラー画像のグレー化は上記に明度に限られるものではなく、例えば色差R−Bや色差G−Bを明度に代えて用いてもよい。
次のステップ112において、コンポーネントツリー作成部16は、被検索対象画像のグレー画像に対してコンポーネントツリーを作成する。グレー画像のコンポーネント・ツリーは、グレー画像の各濃度値に関する切断画像(各濃度値を二値化閾値とする二値画像)の各連結成分を要素(コンポーネント)としている。コンポーネント・ツリーは、グレー画像を1回走査し、二値化閾値を変えていったときの連結成分の包含関係によって要素(コンポーネント)を階層的に関係付けたツリー状の階層グラフである。グレー画像とコンポーネント・ツリーの具体例を図10に示す。
コンポーネントツリーの階層グラフ上では、個々のコンポーネント(黒画素で構成される連結成分)がノードとして表現され、個々のコンポーネントの関係はノードとノードを結ぶエッジで表現される。また、コンポーネントツリーには、二値化閾値が最も低濃度側に単一のノードが存在しており、それをルートノードと称する。図10の例では、二値化閾値がt0のときに切断画像は全面黒画素の画像となり、対応するノードは単一のルートノードとなる。
作成されたコンポーネントツリーは以下の情報を含む。
(1)ノードの集合
(2)ノードの個数
(3)ルートへのポインタ
また、コンポーネントツリーの個々のノードは以下の情報を含む。
(1)ノードID(正の整数)
(2)濃度値
(3)コンポーネントの外接矩形の座標
(4)コンポーネントの黒画素の個数(コンポーネントの面積)
(5)コンポーネントの濃度に等しい黒画素の個数
(6)子供コンポーネントのノードID
(7)子供コンポーネントの個数
(8)親コンポーネントのノードID
なお、コンポーネントツリーの作成に関しては、幾つかの方法が提案されている(例えば、Laurent Najman,Michel Couprie,"Building the Component Tree in Quasi-Linear Time",IEEE Transactions on Image Processing,2006,3531〜3539)。
次のステップ114において、マッチング候補検出部12は、未処理の検索対象画像が有るか否か判定する。ステップ114の判定が肯定された場合はステップ115へ移行する。ステップ115において、コンポーネントツリー作成部16は、未処理の検索対象画像に対し、先のステップ110と同様にグレー画像化した後に、先のステップ112と同様にして未処理の検索対象画像のコンポーネントツリーを作成する。
次のステップ116において、キーコンポーネント抽出部18は、被検索対象画像のコンポーネントツリーからキーコンポーネントを探索するキーコンポーネント探索処理を行う。また、次のステップ118において、キーコンポーネント照合部20は、キーコンポーネント探索処理で探索されたキーコンポーネントを検索対象画像と照合するキーコンポーネント照合処理を行う。
ステップ118の処理を行うとステップ114に戻り、ステップ114の判定が肯定される迄、ステップ114〜ステップ118を繰り返す。これにより、個々の検索対象画像に対して、ステップ116のキーコンポーネント探索処理及びステップ118のキーコンポーネント照合処理が各々行われる。
次に図6を参照し、キーコンポーネント探索処理の詳細について説明する。キーコンポーネント探索処理の実行が開始される際には、コンポーネントツリーのルートノードが基準ノード及び入力ノードに設定される。そしてステップ120において、入力ノード(最初は基準ノード)がキーコンポーネントの大きさの条件を満たすか否か判定する。
キーコンポーネントとは、検索対象画像(テンプレート画像)とほぼ同じ大きさを持つコンポーネントのことである(図11も参照)。具体的には、検索対象のテンプレート画像の大きさを横M画素×縦N画素とするとき、|M−X|<ε1かつ|N−Y|<ε2を満たすX画素×Y画素の大きさを持ち、かつ、コンポーネントツリーの系列上で最もルートノード側に位置しているコンポーネントである。なお、ε1,ε2は定数である。
ステップ120の判定が肯定された場合はステップ126へ移行し、ステップ126において、キーコンポーネント抽出部18は、入力ノードをキーコンポーネントとして登録し、キーコンポーネント探索処理を終了する。
一方、ステップ120の判定が否定された場合はステップ122へ移行する。ステップ122において、キーコンポーネント抽出部18は、現在の入力ノードよりも下位(二値化閾値の高濃度側)に、キーコンポーネントか否かを未判定の子ノードが有るか否か判定する。なお、ステップ122において、現在の入力ノードよりも下位に、キーコンポーネントか否かを未判定の子ノードが存在しない場合、基準ノードよりも下位に、キーコンポーネントか否かを未判定の子ノードが有るか否かを判定する。
ステップ122の判定が否定された場合はキーコンポーネント探索処理を終了する。また、ステップ122の判定が肯定された場合は、発見された、キーコンポーネントか否かを未判定の子ノードを入力ノードに設定して、図6に示すキーコンポーネント探索処理を再帰的に実行する。これにより、コンポーネントツリーに対して、深さ優先探索によりルートノードよりも下位に存在する全てのキーコンポーネントが探索されることになる(図10も参照)。
続いて図7を参照し、キーコンポーネント照合処理の詳細について説明する。
キーコンポーネント照合処理のステップ140において、キーコンポーネント照合部20は、距離の閾値θに非常に大きな値を、距離最小値を与える領域の個数argmin_noに0を設定し、距離最小値を与える領域の座標情報の配列argmin[]を初期化する。次のステップ142において、キーコンポーネント照合部20は、未処理のキーコンポーネントが有るか否か判定する。
ステップ142の判定が肯定された場合はステップ144へ移行する。ステップ144において、キーコンポーネント照合部20は、配列生成・距離下限値計算処理を行う。なお、配列生成・距離下限値計算処理の詳細は後述する。次のステップ146では、配列生成・距離下限値計算処理で計算された距離下限値d_infが距離の閾値θよりも小さいか否か判定する。ステップ146の判定が否定された場合は、以下で説明する距離計算を行うことなくステップ142に戻る。また、ステップ146の判定が肯定された場合はステップ148へ移行し、ステップ148において、キーコンポーネント照合部20は、複数位置でキーコンポーネントと検索対象画像(テンプレート画像)との距離計算を行う。
距離計算は、図16に示すように、キーコンポーネントに対応する被検索対象画像の領域に対し、検索対象画像(テンプレート画像)の相対位置を左上から右下へ順次変化させながら各位置で各々行う。キーコンポーネントと検索対象画像(テンプレート画像)とは必ずしも大きさが一致するとは限らないので、若干のマージンを設定して計算を行う。
具体的には、図17に示すように、キーコンポーネントに対応する領域の大きさを横X画素、縦Y画素とし、左上頂点を座標(0, 0)で表す。このとき、座標(−α,−α)の点に検索対象画像の左上点が一致する位置で距離計算を開始し、検索対象画像を右側に1画素ずつずらしていき、検索対象画像の右上点が座標(X+α,0)に一致するまで距離計算を繰り返す。次に、検索対象画像を下に1画素ずらし、同じように右側の限界まで距離計算を繰り返す。下方向の限界はY+αで、座標(−α,Y+α)の点に検索対象画像の左下点が一致する位置から距離計算を開始し、検索対象画像を右側に1画素ずつずらしていき、検索対象画像の右下点が(X+α,Y+α)に一致するまで距離計算を繰り返す。そして、複数位置で演算した距離の最小値を距離dとして抽出する。
次のステップ150において、キーコンポーネント照合部20は、ステップ148で計算した距離dが距離の閾値θよりも小さいか否か判定する。ステップ150の判定が肯定された場合はステップ154へ移行する。ステップ154において、キーコンポーネント照合部20は、距離の閾値θに距離dを設定し、距離最小値を与える領域の座標情報の配列argmin[0]にキーコンポーネントに対応する被検索対象画像の領域の座標を設定する。また、距離最小値を与える領域の個数argmin_noに1を設定する。ステップ154の処理を行うとステップ142に戻る。
また、ステップ150の判定が否定された場合はステップ152へ移行する。ステップ152において、キーコンポーネント照合部20は、ステップ148で計算した距離dが距離の閾値θに等しいか否か判定する。ステップ152の判定が否定された場合はステップ142に戻る。一方、ステップ152の判定が肯定された場合はステップ156へ移行する。ステップ156において、キーコンポーネント照合部20は、距離最小値を与える領域の座標情報の配列argmin[argmin_no]にキーコンポーネントに対応する被検索対象画像の領域の座標を設定する。また、キーコンポーネント照合部20は、距離最小値を与える領域の個数argmin_noを1だけインクリメントする。ステップ156の処理を行うとステップ142に戻る。
なお、ステップ148における距離dの計算の途中で、それ迄に計算した距離dが距離の閾値θを超えている場合には、距離dの計算を打ち切り、次のキーコンポーネントの計算に移ってもよい。
次に、図13(A)に示す画像を一例として距離下限値の演算を説明する。図13(A)に示す画像A,Bは、説明の簡略化のため1次元の画像としている。すなわち、図13(A)における横軸が画像上の位置を表し、図13(A)における縦軸が階調値を表している。ここで、図13(A)に示す画像A,Bの距離|A−B|は、(4)式に従い200になる。また、画像Aの大きさ|A|は(5)式より200、画像Bの大きさ|B|は(6)式より200である。従って、従来方式で見積もられる画像A,Bの距離下限値は||A|−|B||であり0になるので、距離の閾値θの値よりは小さくならない(図7のステップ146の判定が否定されない)ことから距離dの計算を行う必要がある。
|A−B|=|0−50|+|0−50|+|100−0|+|100−100|=200 …(4)
|A|=100+100=200 …(5)
|B|=50+50+100=200 …(6)
このように、従来方式では、距離下限値の演算に際して画像の構造を考慮していないため、距離下限値が実際の距離と乖離することで、距離dの計算を省略できない場合が多々生ずる。
一方、コンポーネント・ツリーにより、画像A,Bを図13(B)に示すように階調値毎の画素の総数を表す配列に変換する場合を考える。図13(B)に示す画像Aの配列は階調値100の画素が2画素、階調値0の画素が4画素あることを示し、図13(B)に示す画像Bの配列は階調値100の画素が1画素、階調値50の画素が2画素、階調値0の画素が3画素あることを示している。
このとき、画像Aの画素を画像Bの画素に対応付ける方法の中で最も距離が小さくなる方法を考えると、図13(C)に示すようになる。つまり、画像Aの階調値100の2画素のうち1画素は画像Bの階調値100の画素に対応付け、残りの1画素は画像Bの階調値50の画素に対応付ける。また、画像Aの階調値0の4画素のうちの3画素は画像Bの階調値0の画素に対応付け、残りの1画素は画像Bの階調値50の画素に対応付ける。この画素の対応付けに基づく距離下限値は(7)式より100と計算され、この方式によれば従来方式よりも実際の距離値に近い値を得ることができるので、従来方式よりも距離dの計算を省略できる場合が生ずることになる。。
1×|100−100|+1×|100−50|+1×|0−50|+3×|0−0|=100 …(7)
本実施形態では、上記の方式により距離下限値を算出する。以下、図7のステップ144の配列生成・距離下限値計算処理の詳細について、図8を参照して説明する。図8のステップ160において、キーコンポーネント照合部20は、被検索対象画像のコンポーネントツリーのうちのキーコンポーネントを基準ノードに設定する。次のステップ161において、キーコンポーネント照合部20は、被検索対象画像のコンポーネントツリーのうち、基準ノードの下位に存在する部分ツリーについて、配列(階調値毎の画素の総数を表す配列numofpts[g])を作成済みか否か判定する。ステップ161の判定が肯定された場合はステップ166へ移行し、ステップ161の判定が否定された場合はステップ162へ移行する。ステップ162において、キーコンポーネント照合部20は、被検索対象画像のコンポーネントツリーのうち、基準ノードの下位に存在する部分ツリーの中に未処理の子ノードが有るか否か判定する。
ステップ162の判定が肯定された場合はステップ164へ移行する。ステップ164において、キーコンポーネント照合部20は、部分ツリーに含まれる未処理の子ノードを対象として、同じ階調値のコンポーネントに含まれる画素の個数の総和を算出する総和算出処理ContractCompsを行う。すなわち、未処理の子ノードにおける階調値をg、未処理の子ノードにおける画素数をnumofptsとしたときに、配列numofpts[g]に対して次の(8)式の演算を行うことで、階調値毎の画素の総数を表す配列numofpts[g]を更新する。
numofpts[g]=numofpts[g]+numofpts …(8)
ステップ164の処理を行うとステップ162に戻り、ステップ162の判定が否定される迄、ステップ162,164が繰り返される。これにより、ステップ164における総和算出処理ContractCompsは再帰的に実行され、キーコンポーネント以下の部分ツリーに対し、深さ優先探索により下位に存在する全ての子ノードが探索され、階調値毎の画素の総数を表す配列numofpts[g]が生成される。
ステップ162の判定が否定されるとステップ166へ移行し、ステップ166において、キーコンポーネント照合部20は、検索対象画像のコンポーネントツリーのルートノードを基準ノードに設定する。次のステップ168において、キーコンポーネント照合部20は、検索対象画像のコンポーネントツリーの中に未処理の子ノードが有るか否か判定する。
ステップ168の判定が肯定された場合はステップ170へ移行する。ステップ170において、キーコンポーネント照合部20は、検索対象画像のコンポーネントツリーに含まれる未処理の子ノードを対象として、同じ階調値のコンポーネントに含まれる画素の個数の総和を算出する総和算出処理ContractCompsを行う。すなわち、未処理の子ノードにおける階調値をg、未処理の子ノードにおける画素数をnumofptsとしたときに、配列numofpts[g]に対して先の(8)式の演算を行うことで、階調値毎の画素の総数を表す配列numofpts[g]を更新する。
ステップ170の処理を行うとステップ168に戻り、ステップ168の判定が否定される迄、ステップ168,170が繰り返される。これにより、ステップ170における総和算出処理ContractCompsは再帰的に実行され、検索対象画像のコンポーネントツリーに対し、深さ優先探索により下位に存在する全ての子ノードが探索され、階調値毎の画素の総数を表す配列numofpts[g]が生成される。
上述した処理の処理結果の具体例を図14に示す。図14の左側には処理対象の2つのコンポーネントツリー(被検索対象画像の部分ツリーと検索対象画像のコンポーネントツリー)を示した。各コンポーネントに添えられている数値は、各階調値における画素の個数を表している。図14の右側には、各々の処理結としての配列を示した。各配列に添えられている数値は、各階調値における画素の個数を総和した値を表している。
また、ステップ168の判定が否定されるとステップ172へ移行し、ステップ172において、キーコンポーネント照合部20は距離下限値計算処理を行う。以下、図9を参照し、距離下限値計算処理の詳細を説明する。
距離下限値計算処理のステップ180において、キーコンポーネント照合部20は、被検索対象画像のコンポーネントツリーのうち、キーコンポーネント以下の部分ツリーから生成した配列(配列A)をマッチング対象に設定する。また、次のステップ182において、キーコンポーネント照合部20は、変数iに0を代入する。また、ステップ184において、キーコンポーネント照合部20は、変数jに1を代入し、変数mに変数iと256−iのうちの大きい方の値を代入し、変数num_iに値numofpts(=配列Aの値numofpts[i])を代入し、距離sumに0を代入する。
次のステップ186において、キーコンポーネント照合部20は、変数jが変数mよりも小さく、かつ変数num_iが0よりも大きいか否か判定する。ステップ186の判定が肯定された場合はステップ188へ移行する。ステップ188において、キーコンポーネント照合部20は、変数jが偶数か否か判定する。ステップ188の判定が肯定された場合はステップ190へ移行し、ステップ188の判定が否定された場合はステップ192へ移行する。
ステップ190において、キーコンポーネント照合部20は、以下の(9)式の演算を行って変数gに値を設定する。
g=i+[j/2] …(9)
なお、上記の(9)式における[]は、[]内の演算結果の端数を切り捨てることを表すガウス記号である。一方、ステップ192において、キーコンポーネント照合部20は、以下の(10)式の演算を行って変数gに値を設定する。
g=i−[j/2] …(10)
なお、上記の(10)式における[]も、[]内の演算結果の端数を切り捨てることを表すガウス記号である。
ステップ190又はステップ192の演算を行うとステップ194へ移行する。ステップ194において、キーコンポーネント照合部20は、変数gが0以上で、かつ変数gが256よりも小さいか否か判定する。ステップ194の判定が肯定された場合はステップ196へ移行し、ステップ196において、キーコンポーネント照合部20は、以下の(11)〜(13)式の演算を行う。
val=min(numofpts[g],num_i) …(11)
sum=sum+val×|i-g| …(12)
num_i=num_i−val …(13)
ステップ196の処理を行うとステップ198へ移行する。なお、ステップ194の判定が否定された場合もステップ198へ移行する。ステップ198において、キーコンポーネント照合部20は、変数jを1だけインクリメントし、ステップ186に戻る。これにより、ステップ186の判定が否定される迄、ステップ186〜ステップ198が繰り返される。
また、ステップ186の判定が否定された場合はステップ200へ移行する。ステップ200において、キーコンポーネント照合部20は、変数iの値が255になったか否か判定する。ステップ200の判定が否定された場合はステップ202へ移行する。ステップ202において、キーコンポーネント照合部20は、変数iを1だけインクリメントしてステップ184に戻る。これにより、ステップ200の判定が肯定される迄、ステップ184〜ステップ202が繰り返される。
上記では、配列Aの画素を検索対象画像のコンポーネントツリーから生成した配列(配列B)の画素に対応させて、複数の二値化閾値が各値のときの画素数の対応関係を求めたときの距離の下限値を求めている。詳しくは、変数iを0から255まで動かし、配列Aのi番目のnumofpts個の画素を配列Bの階調として近いところから、すなわち、i,i−1,i+1,i−2,i+2,…の順番でマッチングさせ、numofpts個の画素分の距離sumの総和を計算している。なお、配列Aの配列Bに対する距離下限値(=距離sumの総和)をθ(A,B)とすると、実際の2つの画像の距離θに対しては、以下の(14)式を満たす。
θ(A,B)≦θ …(14)
具体例を挙げて更に説明する。図15に示す配列Aの階調値100の画素数は40であり、この40個の画素は配列Bの階調値100の画素に20画素分がマッチングし、残りの20画素分は配列Bの階調値150の画素に20画素分がマッチングする。従って、配列Aにおける1番目の40個の画素に対応する距離sumは(15)式より1000となる。また、配列Aの階調値210の画素数は30であり、この30個の画素は配列Bの階調値200の画素に20画素分がマッチングし、残りの10画素分は配列Bの階調値150の画素に10画素分がマッチングする。従って、配列Aにおける2番目の30個の画素に対応する距離sumは(16)式より800となる。これにより、(17)式よりθ(A,B)は1800となる。
20×(100−100)+20×(150−100)=1000 …(15)
20×(210−200)+10×(210−150)=800 …(16)
1000+800=1800 …(17)
配列Aの画素を配列Bの画素に対応させたときの距離の下限値(θ(A,B))が求まると、ステップ200の判定が肯定されてステップ204へ移行する。ステップ204において、キーコンポーネント照合部20は、演算を2回行ったか、すなわち配列Bの画素を配列Aの画素に対応させたときの距離の下限値も演算したか否か判定する。ステップ204の判定が否定された場合はステップ206へ移行する。ステップ206において、キーコンポーネント照合部20は、配列Bをマッチング対象に設定した後にステップ182に戻る。これにより、ステップ204の判定が肯定される迄、ステップ182〜ステップ206が繰り返され、配列Bの画素を配列Aの画素に対応させたときの距離の下限値(θ(B,A))が計算される。
配列Bの画素を配列Aの画素に対応させたときの距離の下限値(θ(B,A))が求まると、ステップ204の判定が肯定されてステップ208へ移行する。ステップ208において、キーコンポーネント照合部20は、2回の演算によって得られた距離の下限値θ(A,B),θ(B,A)のうちの大きい方を距離下限値d_infに設定し、距離下限値計算処理を終了する。
本実施形態では、被検索対象画像のコンポーネントツリーを作成するために被検索対象画像を1回走査する必要がある。但し、作成したコンポーネントツリーは複数の検索対象画像の探索に共通に用いることができるので、被検索対象画像のコンポーネントツリーの作成(被検索対象画像の走査)は1回のみで済む。また、検索対象画像のコンポーネントツリーの作成は、検索対象画像の面積が限られているため短時間で済む。また、コンポーネントツリーからのキーコンポーネントの探索は簡単な処理で済む。そして、コンポーネントツリーからキーコンポーネントを抽出した後に距離計算を行うことで、図18に黒塗りの領域で示すように、検索対象画像(テンプレート画像)との距離計算を行う対象領域も絞られる。これにより、複数の画像の検索に要する時間を短縮することができる。
また、本実施形態では、被検索対象画像のコンポーネントツリーのうち、キーコンポーネント以下の部分ツリーから生成した配列Aの画素を検索対象画像のコンポーネントツリーから生成した配列B)の画素に対応させて、距離の下限値を求めている。そして、求めた距離の下限値がそれ迄に得られた距離よりも小さい場合にのみ、キーコンポーネント以下の部分ツリーと検索対象画像のコンポーネントツリーとの距離を演算している。これにより、必要以外の距離演算を省略することができ、複数の画像の検索に要する時間を一層短縮することができる。
また、本実施形態では、配列Aの画素を配列Bの画素に対応させたときの距離の下限値(θ(A,B))と、配列Bの画素を配列Aの画素に対応させたときの距離の下限値(θ(B,A))を各々求め、大きい方の値を距離下限値d_infに設定している。これにより、一方の距離の下限値のみを求める場合と比較して、必要以外の距離演算を確実に省略することができ、複数の画像の検索に要する時間を一層短縮することができる。
また、上記ではコンポーネントツリーに対するキーコンポーネントの探索に深さ優先探索を適用している。これにより、キーコンポーネントの探索に幅優先探索を適用する場合と比較して、見つかったキーコンポーネントと同系列で二値化閾値がより高濃度側に位置しているノードに対してキーコンポーネントの判定を省略する場合に、アルゴリズムが簡単になる。
また、上記ではキーコンポーネントに対応する被検索対象画像の領域に対し、検索対象画像(テンプレート画像)の相対位置を左上から右下へ順次変化させながら各位置で距離計算を各々行っている。これにより、キーコンポーネントと検索対象画像(テンプレート画像)との大きさが一致しない場合にも距離の最小値を得ることができる。
なお、上記では被検索対象画像の一例としてコンピュータの画面をキャプチャする等によって得られた画像を挙げたが、これに限定されるものではない。開示の技術は、被検索対象画像が、被検索対象画像上での検索対象画像のサイズや向き、色が変化しない画像であれば適用可能であり、例えばイラストなどの画像であってもよい。
また、上記ではテンプレートマッチングプログラム44が記憶部36に予め記憶(インストール)されている態様を説明したが、これに限定されるものではない。開示の技術に係る画像処理プログラムは、CD−ROMやDVD−ROM等の記録媒体に記録されている形態で提供することも可能である。
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
以上の実施形態に関し、更に以下の付記を開示する。
(付記1)
被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフを各々作成する階層グラフ作成部と、
前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する探索部と、
前記被検索対象画像の階層グラフのうち前記探索部によって探索された前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出し、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算し、演算した距離の下限値がそれ迄に得られた距離よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する距離演算部と、
を含む画像処理装置。
(付記2)
前記探索部は、前記階層グラフの系列に対して階層の深さ優先で探索することで、検索対象画像とのサイズの違いが閾値以内で、かつ前記階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する付記1記載の画像処理装置。
(付記3)
前記距離演算部は、前記部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出することで得られた一対の配列のうち、一方の配列の画素を他方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値と、他方の配列の画素を一方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値を各々求め、求めた距離の下限値のうちの大きい方の値を前記距離の下限値として用いる付記1又は付記2記載の画像処理装置。
(付記4)
前記距離演算部は、前記探索部によって探索された連結成分と前記検索対象画像との相対位置をずらしたときの複数の位置について前記距離を各々演算し、演算した距離が所定値以下の位置に対応する連結成分の対応領域を検索結果として出力する付記1〜付記3の何れか1項記載の画像処理装置。
(付記5)
前記探索部は、前記階層グラフ作成部によって作成された単一の前記階層グラフに基づき、複数の前記検索対象画像について前記連結成分の探索を順に行い、
前記距離演算部は、複数の前記検索対象画像について前記距離の演算及び検索結果の出力を順に行う付記1〜付記4の何れか1項記載の画像処理装置。
(付記6)
前記距離演算部から検索結果として出力された領域と前記検索対象画像との色の差に基づいて、前記領域が前記検索結果として適正か否か検証する検証部を更に備えた付記1〜付記5の何れか1項記載の画像処理装置。
(付記7)
被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフを各々作成し、
前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索し、
前記被検索対象画像の階層グラフのうち探索した前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出し、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算し、演算した距離の下限値がそれまでに得られているしきい値よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する
ことを含む画像処理方法。
(付記8)
前記階層グラフの系列に対して階層の深さ優先で探索することで、検索対象画像とのサイズの違いが閾値以内で、かつ前記階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する付記7記載の画像処理方法。
(付記9)
前記部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出することで得られた一対の配列のうち、一方の配列の画素を他方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値と、他方の配列の画素を一方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値を各々求め、求めた距離の下限値のうちの大きい方の値を前記距離の下限値として用いる付記7又は付記8記載の画像処理方法。
(付記10)
探索した連結成分と前記検索対象画像との相対位置をずらしたときの複数の位置について前記距離を各々演算し、演算した距離が所定値以下の位置に対応する連結成分の対応領域を検索結果として出力する付記7〜付記9の何れか1項記載の画像処理方法。
(付記11)
作成した単一の前記階層グラフに基づき、複数の前記検索対象画像について前記連結成分の探索を順に行い、
複数の前記検索対象画像について前記距離の演算及び検索結果の出力を順に行う付記7〜付記10の何れか1項記載の画像処理方法。
(付記12)
前記検索結果として出力した領域と前記検索対象画像との色の差に基づいて、前記領域が前記検索結果として適正か否か検証する付記7〜付記11の何れか1項記載の画像処理方法。
(付記13)
コンピュータに、
被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフを各々作成し、
前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索し、
前記被検索対象画像の階層グラフのうち探索した前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出し、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算し、演算した距離の下限値がそれまでに得られているしきい値よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する
ことを含む処理を行わせるための画像処理プログラム。
(付記14)
前記階層グラフの系列に対して階層の深さ優先で探索することで、検索対象画像とのサイズの違いが閾値以内で、かつ前記階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する付記13記載の画像処理プログラム。
(付記15)
前記部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出することで得られた一対の配列のうち、一方の配列の画素を他方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値と、他方の配列の画素を一方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値を各々求め、求めた距離の下限値のうちの大きい方の値を前記距離の下限値として用いる付記13又は付記14記載の画像処理プログラム。
(付記16)
探索した連結成分と前記検索対象画像との相対位置をずらしたときの複数の位置について前記距離を各々演算し、演算した距離が所定値以下の位置に対応する連結成分の対応領域を検索結果として出力する付記13〜付記15の何れか1項記載の画像処理プログラム。
(付記17)
作成した単一の前記階層グラフに基づき、複数の前記検索対象画像について前記連結成分の探索を順に行い、
複数の前記検索対象画像について前記距離の演算及び検索結果の出力を順に行う付記13〜付記16の何れか1項記載の画像処理プログラム。
(付記18)
前記検索結果として出力した領域と前記検索対象画像との色の差に基づいて、前記領域が前記検索結果として適正か否か検証する付記13〜付記17の何れか1項記載の画像処理プログラム。
12 マッチング候補検出部
14 マッチング候補検証部
16 コンポーネントツリー作成部
18 キーコンポーネント抽出部
20 キーコンポーネント照合部
30 コンピュータ
32 CPU
34 メモリ
36 記憶部
44 テンプレートマッチングプログラム

Claims (7)

  1. 被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフを各々作成する階層グラフ作成部と、
    前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する探索部と、
    前記被検索対象画像の階層グラフのうち前記探索部によって探索された前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出し、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算し、演算した距離の下限値がそれ迄に得られた距離よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する距離演算部と、
    を含む画像処理装置。
  2. 前記探索部は、前記階層グラフの系列に対して階層の深さ優先で探索することで、検索対象画像とのサイズの違いが閾値以内で、かつ前記階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索する請求項1記載の画像処理装置。
  3. 前記部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出することで得られた一対の配列のうち、一方の配列の画素を他方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値と、他方の配列の画素を一方の配列の画素に対応させて前記対応関係を求めたときの距離の下限値を各々求め、求めた距離の下限値のうちの大きい方の値を前記距離の下限値として用いる請求項1又は請求項2記載の画像処理装置。
  4. 前記距離演算部は、前記探索部によって探索された連結成分と前記検索対象画像との相対位置をずらしたときの複数の位置について前記距離を各々演算し、演算した距離が所定値以下の位置に対応する連結成分の対応領域を検索結果として出力する請求項1〜請求項3の何れか1項記載の画像処理装置。
  5. 前記探索部は、前記階層グラフ作成部によって作成された単一の前記階層グラフに基づき、複数の前記検索対象画像について前記連結成分の探索を順に行い、
    前記距離演算部は、複数の前記検索対象画像について前記距離の演算及び検索結果の出力を順に行う請求項1〜請求項4の何れか1項記載の画像処理装置。
  6. 被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフを各々作成し、
    前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索し、
    前記被検索対象画像の階層グラフのうち探索した前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出し、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算し、演算した距離の下限値がそれまでに得られている距離よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する
    ことを含む画像処理方法。
  7. コンピュータに、
    被検索対象画像及び検索対象画像から、値が異なる複数の二値化閾値における対応する連結成分を階層的に関連付けた階層グラフを各々作成し、
    前記検索対象画像とのサイズの違いが閾値以内で、かつ前記被検索対象画像の階層グラフの系列上で対応する二値化閾値が最も低濃度側に位置している連結成分を探索し、
    前記被検索対象画像の階層グラフのうち探索した前記連結成分を端部とする部分階層グラフ及び前記検索対象画像の階層グラフから、複数の二値化閾値が各値のときの画素数を各々算出し、複数の二値化閾値が各値のときの画素数の対応関係から前記部分階層グラフと前記検索対象画像の階層グラフとの距離の下限値を演算し、演算した距離の下限値がそれまでに得られている距離よりも小さい場合に前記部分階層グラフと前記検索対象画像の階層グラフとの距離を演算し、演算した距離が所定値以下の部分階層グラフに対応する領域を検索結果として出力する
    ことを含む処理を行わせるための画像処理プログラム。
JP2013068831A 2013-03-28 2013-03-28 画像処理装置、方法及びプログラム Active JP6107310B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013068831A JP6107310B2 (ja) 2013-03-28 2013-03-28 画像処理装置、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013068831A JP6107310B2 (ja) 2013-03-28 2013-03-28 画像処理装置、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2014191744A JP2014191744A (ja) 2014-10-06
JP6107310B2 true JP6107310B2 (ja) 2017-04-05

Family

ID=51837891

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013068831A Active JP6107310B2 (ja) 2013-03-28 2013-03-28 画像処理装置、方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6107310B2 (ja)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012141670A (ja) * 2010-12-28 2012-07-26 Fujitsu Frontech Ltd 帳票認識装置、方法およびプログラム

Also Published As

Publication number Publication date
JP2014191744A (ja) 2014-10-06

Similar Documents

Publication Publication Date Title
CN109343920B (zh) 一种图像处理方法及其装置、设备和存储介质
CN111797821B (zh) 文本检测方法、装置、电子设备及计算机存储介质
CN110852349A (zh) 一种图像处理方法、检测方法、相关设备及存储介质
JP2008217347A (ja) ナンバープレート認識装置、その制御方法、コンピュータプログラム
JP7132050B2 (ja) テキスト行の区分化方法
JP6179224B2 (ja) 画像処理フィルタの作成装置及びその方法
CN115546116B (zh) 全覆盖式岩体不连续面提取与间距计算方法及系统
CN110598581B (zh) 基于卷积神经网络的光学乐谱识别方法
JP2016095640A (ja) 密度計測装置、密度計測方法、およびプログラム
JP2021051589A5 (ja)
AU2011265380B2 (en) Determining transparent fills based on a reference background colour
US11164036B2 (en) Human-assisted machine learning through geometric manipulation and refinement
CN114973064A (zh) 一种伪标签框生成方法、装置及电子设备
CN108960247A (zh) 图像显著性检测方法、装置以及电子设备
JP2014182617A (ja) 画像処理装置、方法及びプログラム
JP6107310B2 (ja) 画像処理装置、方法及びプログラム
JP2012043437A (ja) 画像処理方法及び画像処理装置
CN110942062A (zh) 图像验证码生成方法、介质、装置和计算设备
Bayer et al. Instance segmentation based graph extraction for handwritten circuit diagram images
JP7138503B2 (ja) オブジェクト検出システム
CN117292210B (zh) 分类图像矢量化的方法、装置、电子设备和存储介质
KR102351235B1 (ko) 이미지 교정 방법 및 장치
JP2006235817A (ja) 文字認識装置、文字認識方法、及び文字認識プログラムの記録媒体
JP6493559B2 (ja) 文字認識装置及び文字認識方法
Kumar et al. Intellectual Curve Scene Text Detection from Natural Images Using MSER Descriptor Based Region Segmentation Approach

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170220

R150 Certificate of patent or registration of utility model

Ref document number: 6107310

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150