以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
まず本実施形態の手法について説明する。時間的或いは空間的に連続する大量の画像から構成される画像列が取得された場合、当該画像列を用いてユーザが何らかの処理(例えば内視鏡画像列であれば診断等の医療行為)を行う際に、画像要約処理を行うことが望ましい。なぜなら、画像列に含まれる画像の枚数は非常に多く、ユーザがその全てを見た上で判断を行うことは多大な労力を要するためである。また、画像列に含まれる画像の中には、互いに似通った画像が存在する可能性が高く、そのような似通った画像を全てチェックしたとしても取得できる情報量は限られ、労力に見合わない。
具体例としては、カプセル内視鏡を用いて撮像される画像列が考えられる。カプセル内視鏡とは、小型カメラを内蔵したカプセル形状の内視鏡であり、所与の時間間隔(例えば1秒に2回等)で画像を撮像する。カプセル内視鏡は、内服から排出までに数時間(場合によっては十数時間)を要するため、1ユーザの1回の検査において数万枚の撮像画像が取得されることになる。また、カプセル内視鏡は生体内での移動の際に、当該生体の動きの影響を受けること等により、同じ場所にとどまったり、逆方向へ戻ったりする。そのため、大量の画像の中には他の画像と同じような被写体を撮像していて、病変の発見等において有用性の高くない画像も多数存在してしまう。
従来の画像要約処理では、シーンが変化する境目の画像や、画像列を代表する画像を抽出していた。しかしこのような手法では、画像を削除する際に、その削除対象となる画像に撮像されていた被写体と、残す画像に撮像されている被写体との関係は特に考慮していない。そのため、要約前の画像列に含まれる画像上に撮像されていた被写体が、要約後の画像列に含まれるどの画像上にも撮像されていないということが起こりえる。
このことは特に医療分野での画像要約処理においては好ましくない。医療分野では、その目的上、注目すべき領域である注目領域(例えば病変部)の見落としは極力抑止しなくてはならない。そのためには、生体内のできるだけ広い範囲を撮像することが望ましく、画像要約処理において、所与の画像を削除することで観察できなくなる被写体範囲が生じることは抑止すべきである。
これに対して、画像列から基準画像(残す画像、基準画像の設定手法によっては残す候補となる画像)と判定対象画像(削除するか否かの判定の対象画像)を選択し、基準画像と判定対象画像の間の変形情報に基づいた画像要約処理を行う手法が有効である。具体的には、図6に示したように、基準画像を変形することで判定対象画像上に被覆領域を算出する。基準画像で撮像された被写体と、判定対象画像の被覆領域上に撮像された被写体とは対応することになる。つまり、判定対象画像における被覆領域外の範囲(以下、非被覆領域と表記する)は、当該判定対象画像を削除した場合、基準画像を残したとしてもカバーすることができない領域となる。
よって、一例としては判定対象画像に占める被覆領域の割合等を被覆率として算出し、算出した被覆率に基づいて判定対象画像を削除するか否かを判定することで、観察できなくなる被写体範囲の発生度合いを制御する。例えば被覆率が閾値以上である際に判定対象画像を削除し、被覆率が閾値未満の際に判定対象画像を削除しないものとすれば、閾値の設定に応じてカバーできない領域の発生度合いを制御できる。
変形情報を用いた画像要約処理の別の例としては、図10(A)〜図10(E)に示したように、非被覆領域に対する構造要素(注目領域に対応する)による収縮処理の結果に基づいて、判定対象画像の削除可否を判定してもよい。詳細については後述するが、この場合、判定対象画像を削除したとしても当該判定対象画像上に撮像された構造要素のサイズ以上の領域の少なくとも一部は、基準画像上に撮像されることを保証できる。そのため、判定対象画像に注目領域全体が撮像されていた場合に、当該注目領域の判定対象画像上の位置によらず、その少なくとも一部を基準画像により観察できるため、注目領域の見逃し可能性を抑止することが可能になる。
しかし被覆率による削除可否判定だけでは、注目領域が撮像された画像である注目画像の削除可否について特に配慮されていない。例えば、注目画像の、他の画像(他の注目画像であってもよいし、注目画像ではない画像であってもよい)による被覆率が高ければ、注目画像であっても削除対象となる。よって、極端な場合には、画像列から注目画像が全て削除されてしまい、画像要約処理後の要約画像列から注目領域が観察できないという可能性もある。
また、構造要素による削除可否判定では、注目領域全体が撮像された画像を削除し、当該注目領域のごく一部しか撮像されていない画像が残されるケースがあり、注目領域の観察という観点からは好ましくない場合もあり得る。
もちろん、変形情報を用いた処理(被覆率、構造要素、或いはその両方を用いた処理等)により効果的な画像要約処理を行うことが可能なケースも十分考えられる。しかし、カプセル内視鏡を用いた場合の病変部のように、重点的に観察すべき注目領域があるのであれば、注目領域が撮像されているか否かという観点による処理の有用性は高い。具体的には、注目画像を積極的に(狭義には必ず)要約画像列に残すことで、変形情報を用いた処理で生じうる問題に対処できる。
そこで本出願人は、取得した画像列のうち、注目領域が撮像された1又は複数の画像を注目画像列として設定し、設定した注目画像列に基づいて、変形情報を用いた画像削除可否判定処理を行って要約画像列を取得する手法を提案する。ただし、図1(A)に示したように注目画像列を求め、それとは独立に変形情報に基づいて画像要約処理を行った結果の画像列を求めた場合、単純な和集合をとったのでは、図1(B)のA1に示した箇所のように画像が密となる部分が存在する可能性がある。この箇所では、他の画像により十分カバーされている画像が要約画像列に残されてしまうおそれがあり、画像要約処理による画像枚数の削減効果が低くなってしまう可能性がある。そのためここでは、注目画像列に基づく第1の削除可否判定処理を行い、その後第1の削除可否判定処理の結果に基づく第2の削除可否判定処理を行うという2段階処理により、画像要約処理による画像枚数の削減効果を高めるものとする。第1,第2の削除可否判定処理は変形情報を用いた処理であり、その詳細については後述する。
ここでの画像処理装置の1つの実施形態としては、図19に示したように処理部100と、画像列取得部200を含むものが考えられる。画像列取得部200は、複数の画像を有する画像列を取得する。そして処理部100は、複数の画像に含まれる1又は複数の注目画像から構成される注目画像列を設定し、設定した注目画像列から第1の基準画像を選択するとともに、複数の画像から第1の判定対象画像を選択し、第1の基準画像と第1の判定対象画像の間の変形を表す第1の変形情報に基づいて、第1の判定対象画像の削除可否を判定する処理を、第1の削除可否判定処理として行う。また、処理部100は、画像列から、第1の削除可否判定処理において削除不可と判定された画像が複数連続する部分画像列を設定する。さらに、処理部100は、部分画像列から第2の基準画像と第2の判定対象画像を選択し、第2の基準画像と第2の判定対象画像の間の変形を表す第2の変形情報に基づいて、第2の判定対象画像の削除可否を判定する処理を、第2の削除可否判定処理として行う。
以下、第1の実施形態では基本的な手法について説明する。第1の実施形態では、第1,第2の削除可否判定処理として被覆率を用いた例について説明する。ただし、第1,第2の削除可否判定処理には種々の変形例(例えば構造要素を用いる手法)が考えられる。よって、それらの変形例について第2の実施形態で説明する。また、第2の削除可否判定処理における基準画像(第2の基準画像)と、判定対象画像(第2の判定対象画像)の選択手法にも種々の変形例が考えられるため、それらの変形例を第3の実施形態で説明する。
2.第1の実施形態
本実施形態の基本的な手法について説明する。具体的には、画像処理装置のシステム構成例を説明し、フローチャートを用いて処理の流れを説明した後、第1の削除可否判定処理、第2の削除可否判定処理の各処理の詳細について説明する。
2.1 システム構成例
図2に本実施形態における画像処理装置のシステム構成例を示す。画像処理装置は、処理部100と、画像列取得部200と、記憶部300を含む。
処理部100は、画像列取得部200が取得した画像列に対して、当該画像列に含まれる複数の画像の一部を削除することで、画像要約処理を行う。この処理部100の機能は、各種プロセッサ(CPU等)、ASIC(ゲートアレイ等)などのハードウェアや、プログラムなどにより実現できる。
画像列取得部200は、画像要約処理の対象となる画像列を取得する。取得する画像列は、時系列順に並んだRGB3チャンネル画像が考えられる。或いは、横一列に並べられた撮像機器により撮影された、空間的に並んだ画像列のように空間的に連続する画像列であってもよい。なお、画像列を構成する画像はRGB3チャンネル画像に限定されるものではなく、Gray1チャンネル画像等、他の色空間を用いてもよい。
記憶部300は、画像列取得部200が取得した画像列を記憶する他、処理部100等のワーク領域となるもので、その機能はRAM等のメモリーやHDD(ハードディスクドライブ)などにより実現できる。
また、処理部100は、図2に示したように注目画像列設定部1001と、第1の基準画像選択部1002と、第1の判定対象画像選択部1003と、第1の削除可否判定部1004と、部分画像列設定部1005と、第2の基準画像選択部1006と、第2の判定対象画像選択部1007と、第2の削除可否判定部1008と、を含んでもよい。なお処理部100は、図2の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。また上述の各部は、処理部100で実行される画像要約処理を複数のサブルーチンに分割した際に、各サブルーチンを説明するために設定したものであり、必ずしも処理部100が上述の各部を構成要件として有するわけではない。
注目画像列設定部1001は、画像列取得部200が取得した画像列(以下、注目画像列や要約画像列等との区別を明確にするため、取得画像列とも表記する)を構成する複数の画像から注目画像を抽出し、抽出した1又は複数の注目画像から構成される注目画像列を設定する。ここで、注目画像とは例えば注目領域(病変部等)が撮像された画像のことである。注目領域の検出は処理部100で行われることが想定され、例えば取得画像列の各画像に対して所与の画像処理を行うことで注目領域が撮像されたか否かを判定し、注目領域が撮像されている画像を注目画像とすればよい。注目領域の検出手法は種々考えられ、例えば画像からエッジ成分を抽出するものであってもよいし、画素値から色味等を判定する処理が行われてもよい。
ただし、注目領域の検出が画像処理装置において行われるものには限定されず、例えば画像列取得部200が、各画像に対して注目画像であるか否かを表すメタデータが付与された画像列を取得するものであってもよい。その場合、注目画像列設定部1001は注目領域の検出処理を行う必要はなく、メタデータの読み出し処理に基づいて注目画像列を設定することになる。
第1の基準画像選択部1002は、注目画像列の複数の画像から第1の基準画像を選択する。第1の判定対象画像選択部1003は、取得画像列の複数の画像のうち、第1の基準画像とは異なる画像を第1の判定対象画像として選択する。なお、第1の判定対象画像選択部1003は、狭義には取得画像列の複数の画像のうち、注目画像ではない画像から第1の判定対象画像を選択する。
第1の削除可否判定部1004は、選択された第1の基準画像と第1の判定対象画像に基づいて、第1の判定対象画像の削除可否を判定する。詳細については後述する。
部分画像列設定部1005は、第1の削除可否判定部1004での第1の削除可否判定処理の結果に基づいて、取得画像列の一部の画像から構成される部分画像列を設定する。部分画像列の数は1つに限定されず、複数の部分画像列が設定されてもよい。詳細については後述する。
部分画像列が複数設定された場合、第2の基準画像選択部1006、第2の判定対象画像選択部1007、第2の削除可否判定部1008での処理は、各部分画像列に対して独立に行われる。具体的には、部分画像列の複数の画像から第2の基準画像を選択する。第2の判定対象画像選択部1007は、部分画像列の複数の画像のうち、第2の基準画像とは異なる画像を第2の判定対象画像として選択する。第2の削除可否判定部1008は、選択された第2の基準画像と第2の判定対象画像に基づいて、第2の判定対象画像の削除可否を判定する。各処理の詳細については後述する。
2.2 処理の流れ
図3に本実施形態の画像要約処理を説明するフローチャートを示す。この処理が開始されると、まず取得画像列の複数の画像から注目画像を抽出し、注目画像列を設定する(S101)。そして、注目画像列から第1の基準画像を選択する(S102)。S102の処理が初めて行われる場合には、注目画像列に含まれる画像のうち先頭の画像を第1の基準画像とすればよい。図1(A)の例であれば、B1で示した注目画像が最初の第1の基準画像となる。また、S102の2回目以降の処理では現在の第1の基準画像の注目画像列における位置に基づいて、第1の基準画像を更新する処理を行う。具体的には、注目画像列において、現在の第1の基準画像よりも1つ後方の画像を新たな第1の基準画像とすればよい。図1(A)の例では、現在の第1の基準画像がB1の画像であれば、新たな第1の基準画像としてB2の画像を選択することになる。
第1の基準画像が選択されたら、取得画像列から第1の判定対象画像を選択する。ここではS102の処理が初めて行われる場合には、取得画像列に含まれ、且つ注目画像列に含まれない画像のうち、取得画像列において最も前にある画像を第1の判定対象画像とする。また、S103の2回目以降の処理では現在の第1の判定対象画像の取得画像列における位置に基づいて、第1の判定対象画像を更新する処理を行う。具体的には、取得画像列に含まれ、且つ注目画像列に含まれない画像のうち、取得画像列において、現在の第1の判定対象画像よりも1つ後方の画像を新たな第1の判定対象画像とすればよい。
第1の基準画像と、第1の判定対象画像が選択されたら、第1の削除可否判定処理を行う(S104)。ここでは被覆率に基づく判定を行うものであり、具体的な処理は後述する。S104の処理後は、その時点での第1の判定対象画像が削除可能であるか削除不可であるかという情報を記憶し、S103に戻る。S103,S104での処理が繰り返されることで、取得画像列に含まれ、且つ注目画像列に含まれない画像が順次第1の判定対象画像として選択されて、選択された各画像に対して削除可能或いは削除不可という結果が求められる。
取得画像列に含まれ、且つ注目画像列に含まれない画像のうち、取得画像列において最後の画像についてS104の判定が行われると、S103に戻った際に第1の判定対象画像として選択する画像がないということになり、S102に戻る。S102では、第1の基準画像の更新処理が行われ、更新された場合にはS103,S104の処理を繰り返すことで、新たな第1の基準画像を用いて、取得画像列に含まれ、且つ注目画像列に含まれない全ての画像(図1(A)の例ではB1〜B3以外の全ての画像)の削除可否判定が行われる。
そして、注目画像列の最後の画像(図1(A)の例ではB3)を第1の基準画像とし、当該第1の基準画像を用いたS103,S104の処理による削除可否判定が終わってS102に戻った際に、S102において第1の基準画像として選択する画像がないということになり、第1の削除可否判定処理を終了してS105に移行する。
以上の処理により、取得画像列に含まれ、且つ注目画像列に含まれない各画像について、削除可能であるか否かの判定が行われる。なお、注目画像が複数有る場合には、各画像について複数回削除可否判定が行われるが、ここでは、少なくとも1回削除可能と判定された画像は削除可能であるものとする。なぜなら、本実施形態では注目画像は全て要約画像列に残されるものとしており、その注目画像のうちどれか1つによりカバーされているのであれば、他の注目画像によりカバーされていなかったとしても、削除することに問題はないためである。
この結果、削除可能とされた画像は要約画像列に残さないものとして確定させる。しかし、削除不可とされた画像については、要約画像列に残すものとは確定せず、さらに第2の削除可否判定処理を行う。なぜなら、削除不可とされた画像は、注目画像によりカバーされていないというだけであり、削除不可とされた画像のうち所与の画像により他の画像がカバーされるのであれば、当該他の画像は削除しても問題ないためである。
ここで、第1の削除可否判定処理で削除不可である画像は、その全てが連続するとは限らない。例えば、第1の削除可否判定処理の結果、図1(C)に示したように注目画像により削除可能となる区間が求められた場合には、A2〜A4に示したように、削除不可である画像は3つの部分に分かれている。この際に、削除不可である画像全体に対して削除可否判定処理を行うのは非効率である。なぜなら、複数の部分のうち、第1の部分と第2の部分は取得画像列において離れていることから、撮像対象である被写体も変化している可能性が高く、第1の部分の画像により第2の部分の画像が削除可能となる可能性は低いことが想定される。つまり、複数の部分にまたがった処理を行う必要性は低く、各部分で閉じた処理を行えば十分である。
よってここでは、取得画像列において、第1の削除可否判定処理で削除不可とされた画像が連続する区間を検出し、当該区間に相当する画像から構成される部分画像列を設定する(S105)。図1(D)の例ではA5〜A7の3つの部分画像列が設定されることになる。なお、第1の削除可否判定処理で削除不可とされた画像が1枚であり、連続していない場合には部分画像列として設定しない。なぜなら、各部分画像列に対して閉じた処理を行う以上、1枚の画像から構成される部分画像列を設定しても、部分画像列の所与の画像により他の画像が削除できるという状況は起こりえないためである。よって、第1の削除可否判定処理で削除不可とされた連続しない1枚の画像については、第2の削除可否判定処理を行うことなく、要約画像列に残す画像として確定させる。
部分画像列が設定されたら、当該部分画像列の先頭の画像を第2の基準画像として選択する(S106)。そして、部分画像列に含まれる画像のうち、第2の基準画像以外の画像から第2の判定対象画像を選択する(S107)。ここでは、第2の基準画像の設定後に初めてS107の処理が行われる場合には、第2の基準画像の1つ後方の画像(部分画像列の2番目の画像)を第2の判定対象画像とする。また、S108の後にS107の処理が行われる場合には、現在の第2の判定対象画像の部分画像列における位置に基づいて、第2の判定対象画像の更新処理が行われる。具体的には、部分画像列において、現在の第2の判定対象画像よりも1つ後方の画像を新たな第2の判定対象画像とすればよい。
第2の基準画像、第2の判定対象画像が選択されたら、第2の削除可否判定処理が行われる(S108)。本実施形態では第1の削除可否判定処理と同様に、被覆率に基づく判定処理が行われるものであり、詳細については後述する。
S108で削除可能と判定された場合には、S107に戻り第2の判定対象画像を更新する。S107,S108の処理を繰り返し、部分画像列における最後の画像を第2の判定対象画像とした際に、S108で削除可能とされS107に戻った場合には、第2の基準画像により部分画像列の他の画像が全てカバーされるということであるため、第2の基準画像を要約画像列に残し、他の画像を全て削除するものとして、当該部分画像列に対する処理を終了する。具体的には、S107において第2の判定対象画像として選択する画像がないということになり、S105に戻る。
一方、少なくとも1つの第2の判定対象画像が削除不可とされた場合には、その時点での第2の判定対象画像は第2の基準画像ではカバーできないということであるから、要約画像列に残す必要がある。よって、S108で削除不可の場合には、S105に戻り、その時点での第2の判定対象画像、及び部分画像列におけるそれ以降の画像から構成される画像列を新たな部分画像列として設定する。この新たな部分画像列に対してS106〜S108の処理を行うことで、新たな部分画像列の先頭の画像、つまり上述の処理において削除不可とされた第2の判定対象画像を第2の基準画像として設定できる(要約画像列に残すことができる)。
S105では、第1の削除可否判定処理の結果設定された1又は複数の部分画像列、及びそれらに対するS106〜S108の処理結果として新たに設定された部分画像列を順次選択することになる。そして、全ての部分画像列に対して処理が終了したら(S105で選択する部分画像列がなかったら)、本実施形態の画像要約処理を終了する。なお、本実施形態では、第2の基準画像として設定された画像は要約画像列に残されることになり、他の画像は削除されることになる。
第1の削除可否判定処理の結果設定された部分画像列のうちの1つの画像列に対する処理の流れを図示したものが図4(A)〜図4(D)である。図4(A)に示したように、N枚の画像を有する画像列が第1の削除可否判定処理の結果部分画像列として設定された場合には、まず1番目の画像が第2の基準画像として選択され、2番目の画像が第2の判定対象画像として選択される。そして、第2の判定対象画像の削除可否が判定される。
第2の判定対象画像が削除可能と判定された場合には、新たに第2の判定対象画像を選択する。具体的には第2の判定対象画像の位置を後ろにずらす処理となり、図4(B)に示したように3番目の画像が第2の判定対象画像として選択される。そして、新たな第2の判定対象画像の削除可否が判定され、削除不可と判定される第2の判定対象画像が見つかるまで、第2の判定対象画像として選択される画像を更新していく。
図4(C)に示したように、2番目〜k−1番目までの画像が削除可能と判定され、k番目の画像が削除不可と判定された場合、2番目〜k−1番目までの画像とは第2の基準画像によりある程度カバーされているということであるから、削除処理を行い要約画像列には含めない。それに対して、k番目の画像は第2の基準画像では十分カバーできないため、要約画像列に残す必要がある。そのために、ここではk番目の画像とそれ以降の画像(k〜N番目の画像)を新たな部分画像列として設定する。
そして、この新たな部分画像列に対して再度図4(A)〜図4(C)の処理を繰り返せばよい。具体的には図4(D)に示したように、N−x+1枚の画像からなる新たな部分画像列に対して、先頭(図4(C)等ではk番目)の画像を第2の基準画像、2番目(図4(C)等ではk+1番目)の画像を第2の判定対象画像として処理を行う。以降の処理は同様であり、第2の判定対象画像が削除可能と判定されたら、次の画像を新たな第2の判定対象画像として選択する。また、第2の判定対象画像が削除不可と判定されたら、第2の基準画像を要約画像列に残し、削除可能と判定された画像を削除し、その時点での第2の判定対象画像以降の画像を新たな部分画像列に設定する。最終的には、部分画像列の最後の画像まで全て削除可能と判定された場合、或いは部分画像列に含まれる画像が1枚のみであり第2の判定対象画像が設定できなかった場合に処理が終了することになる。
なお、図3のフローチャートでは、第1の削除可否判定処理の結果、複数の部分画像列が設定された場合には、当該複数の部分画像列を1つずつ順次処理していくものとしたが、これに限定されるものではない。処理部100の構成が並列処理に適している(例えば処理部100として複数のコアを有するCPUが用いられている)場合や、複数のコンピュータにより本実施形態の画像処理装置が構成され、各コンピュータで分散処理が行われる場合等では、複数の部分画像列に対して並列に第2の削除可否判定処理を行ってもよい。このようにすれば、第2の削除可否判定処理に要する時間を短縮すること等が可能になる。
2.3 第1の削除可否判定処理
次に、第1の削除可否判定処理の具体例として、被覆率を用いた処理について説明する。図5に示したように、第1の削除可否判定部1004は、変形情報取得部1009と、被覆領域算出部1010と、被覆率算出部1011と、閾値判定部1012と、を含んでもよい。ただし、第1の削除可否判定部1004は、図5の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
変形情報取得部1009は、2つの画像間の変形情報を取得する。ここで変形情報とは、一方の画像において撮像された範囲が、他方の画像においてどのような形状(範囲)として撮像されているかを表すものであり、例えば特許文献2に開示されている変形パラメータ等であってもよい。変形情報取得部1009は、第1の基準画像選択部1002で選択された第1の基準画像と、第1の判定対象画像選択部1003で選択された第1の判定対象画像の間の変形情報を取得する。
被覆領域算出部1010は、2つの画像間の変形情報(変形パラメータ)を利用して、一方の画像を他方の画像へ射影して被覆領域を求める。被覆率算出部1011は、被覆領域に基づいて被覆率を算出する。閾値判定部1012は、算出された被覆率と所与の閾値との比較処理を行う。
被覆領域算出部1010で算出される被覆領域の例を図6に示す。具体的には、第1の基準画像と第1の判定対象画像との間の変形情報に基づいて、第1の基準画像を変形して第1の判定対象画像上に射影した領域が被覆領域となる。被覆領域は変形情報に基づいて算出されるため、第1の基準画像において撮像された被写体と、第1の判定対象画像上の被覆領域において撮像された被写体は、対応する(狭義には同一の)ものとなっている。
被覆率は例えば、図6に示したように判定対象画像全体の面積に対する被覆領域の面積の割合等から求めることができる。ただし、被覆率とは、第1の基準画像による第1の判定対象画像のカバーの程度を表す情報であればよく、割合・比率等に限定されるものではない。例えば、図7に示したように、第1の判定対象画像上に設定された複数の点を、変形情報に基づいて第1の基準画像上に射影し、前記複数の点の数に対する第1の基準画像内に含まれる点の割合(或いは第1の基準画像内に含まれる点の数そのもの)を被覆率として用いてもよい。
第1の判定対象画像の削除可否は、被覆率と閾値との比較処理に基づいて行われればよく、被覆率が閾値以上であれば第1の判定対象画像を削除可能とし、被覆率が閾値よりも小さい場合には第1の判定対象画像を削除不可とすればよい。被覆率に基づく削除可否判定により、第1の判定対象画像を削除したとしても、当該第1の判定対象画像に撮像されたある程度(閾値に対応する程度)の割合の領域は第1の基準画像によりカバーできることが保証される。
2.4 第2の削除可否判定処理
次に第2の削除可否判定処理について説明する。本実施形態では、第2の削除可否判定処理も被覆率に基づいて行われる。図8に示したように、第2の削除可否判定部1008は、変形情報取得部1013と、被覆領域算出部1014と、被覆率算出部1015と、閾値判定部1016と、を含んでもよい。ただし、第2の削除可否判定部1008は、図8の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
変形情報取得部1013は第2の基準画像と第2の判定対象画像の間の変形情報を取得する。被覆領域算出部1014は、第2の基準画像と第2の判定対象画像との間の変形情報に基づいて、第2の基準画像を変形して第2の判定対象画像上に射影して被覆領域を算出する。被覆率算出部1015は、第2の判定対象画像全体の面積に対する被覆領域の面積等から被覆率を求める。閾値判定部1016は、算出された被覆率と所与の閾値との比較処理を行う。なお、第2の削除可否判定処理で用いる閾値は、第1の削除可否判定処理で用いる閾値と異なる値であってもよい。
本実施形態では第1の削除可否判定処理と、第2の削除可否判定処理は同様の処理となる。つまり、変形情報取得部は、1009と1013の2つが設けられる必要はなく、1つにまとめられてもよく、その他の各部についても同様である。よって、本実施形態の処理部100は、変形情報取得部と、被覆領域算出部と、被覆率算出部と、閾値判定部とを含み、それらの各部が第1の削除可否判定処理と第2の削除可否判定処理の両方を行うものであってもよい。
以上の本実施形態では、画像処理装置は図2に示したように、複数の画像を有する画像列を取得する画像列取得部200と、画像列取得部200が取得した画像列の複数の画像の一部を削除する第1の削除可否判定処理及び第2の削除可否判定処理に基づいて、要約画像列を取得する画像要約処理を行う処理部100を含む。処理部100は、複数の画像に含まれる1又は複数の注目画像から構成される注目画像列を設定する。そして、設定した注目画像列から第1の基準画像を選択するとともに、複数の画像から第1の判定対象画像を選択し、第1の基準画像と第1の判定対象画像の間の変形を表す第1の変形情報に基づいて、第1の判定対象画像の削除可否を判定する処理を、第1の削除可否判定処理として行う。また、処理部100は、画像列から、第1の削除可否判定処理において削除不可と判定された画像が複数連続する部分画像列を設定する。そして、処理部100は、部分画像列から第2の基準画像と第2の判定対象画像を選択し、第2の基準画像と第2の判定対象画像の間の変形を表す第2の変形情報に基づいて、第2の判定対象画像の削除可否を判定する処理を、第2の削除可否判定処理として行う。
ここで、注目画像とはユーザとって注目すべき画像のことであり、例えば特定の被写体が撮像されている画像であってもよいし、特定の色味を持った画像であってもよい。また、注目画像か否かは画像そのものから(例えば画像処理等により)決定されることに限定されず、例えば撮像装置に設けられたセンサからのセンサ情報をメタデータとして画像に付与しておき、当該メタデータに基づいて注目画像か否かが決定されてもよい。
これにより、注目画像か否かという観点と、複数の画像間の変形情報に基づき残す画像により削除する画像がカバーされているか否かという観点の2つの観点を用いた画像要約処理ができるため、効果的な画像要約処理を行うことが可能になる。ただし、各観点の処理を行い、結果を単純に組み合わせただけでは、図1(B)に示すように画像枚数の削減効果が十分でない。よってここでは、残すことが確定している注目画像を基準とした第1の削除可否判定処理と、注目画像基準では削除できない部分画像列に対する第2の削除可否判定処理の2段階処理を行うことで、効率的な画像要約処理を可能にしている。なお、第1の削除可否判定処理における第1の判定対象画像は、画像列の複数の画像全体から選択されてもよいが、処理効率を考慮すれば狭義には複数の画像のうち、注目画像列に含まれない画像から選択される。
また、処理部100は、第1の被覆率判定処理、及び第1の構造要素判定処理の少なくとも一方の処理を、第1の削除可否判定処理として行ってもよい。また、処理部100は、第2の被覆率判定処理、及び第2の構造要素判定処理の少なくとも一方の処理を、第2の削除可否判定処理として行ってもよい。ここで、第1の被覆率判定処理は、第1の変形情報に基づいて、第1の基準画像による第1の判定対象画像の被覆率を求め、求めた被覆率に基づいて第1の判定対象画像の削除可否を判定する処理である。第1の構造要素判定処理は、注目領域に対応する構造要素及び第1の変形情報を用いた処理の結果に基づいて、第1の判定対象画像の削除可否を判定する処理である。同様に、第2の被覆率判定処理は、第2の変形情報に基づいて、第2の基準画像による第2の判定対象画像の被覆率を求め、求めた被覆率に基づいて第2の判定対象画像の削除可否を判定する処理である。第2の構造要素判定処理は、注目領域に対応する構造要素及び前記第2の変形情報を用いた処理の結果に基づいて、前記第2の判定対象画像の削除可否を判定する処理である。
ここで、注目領域とは、ユーザにとって観察の優先順位が他の領域よりも相対的に高い領域であり、例えば、ユーザが医者であり治療を希望した場合、粘膜部や病変部を写した領域を指す。また、他の例として、医者が観察したいと欲した対象が泡や便であれば、注目領域は、その泡部分や便部分を写した領域になる。すなわち、ユーザが注目すべき対象は、その観察目的によって異なるが、いずれにしても、その観察に際し、ユーザにとって観察の優先順位が他の領域よりも相対的に高い領域が注目領域となる。
これにより、変形情報を用いた処理として、被覆率を用いた処理、及び第2の実施形態で詳述する構造要素を用いた処理の少なくとも一方の処理を行うことが可能になる。被覆率を用いた場合には、所与の画像を削除したとしても、その画像のある程度の割合(例えば面積を基準とした割合)の領域は、要約画像列に残す要約画像によりカバーされることを保証でき、画像要約処理により観察できなくなる領域の発生を抑止できる。また、構造要素を用いた場合には、所与の画像を削除したとしても、その画像に撮像された構造要素に対応するサイズの領域の少なくとも一部は、要約画像に撮像されることを保証できる。よって、注目領域に対応する構造要素を設定することで、画像要約処理により観察できなくなる注目領域が発生することを抑止できる。
また、処理部100は、複数の画像から注目領域を検出する処理を行い、複数の画像のうち、注目領域が検出された画像を注目画像として設定してもよい。
これにより、注目領域に基づいて注目画像を設定することが可能になる。ここでの注目領域は、構造要素の設定基準となる注目領域と同様のものであることが想定されるが、異なる注目領域を設定してもよい。例えば、注目画像はエッジ成分の多い領域を注目領域として設定し(例えば生体内のヒダや血管構造等を抽出する)、構造要素は病変部を注目領域として設定する(例えば所与の大きさ以上の病変見逃しを抑止する)といった手法を用いてもよい。
また、画像列取得部200は、画像列として、生体内を撮像した複数の生体内画像を取得してもよい。処理部100は、複数の生体内画像から、病変領域を注目領域として検出する処理を行い、複数の生体内画像のうち、病変領域が検出された画像を注目画像として設定する。
これにより、注目領域として病変領域を用いた処理を行うことができるため、例えばカプセル内視鏡等で取得された画像を用いた診断等に用いることが可能になる。
また、以上の本実施形態は、撮像部(例えば内視鏡スコープの先端部等に設けられる)と、上記の画像処理装置と、を含む内視鏡装置に適用してもよい。
また、処理部100は、部分画像列を複数設定した場合には、複数の部分画像列に対して並列に第2の削除可否判定処理を行ってもよい。
これにより、第2の削除可否判定処理の部分を並列処理により行うことができるため、処理の高速化が可能になる。
また、本実施形態の画像処理装置等は、その処理の一部または大部分をプログラムにより実現してもよい。この場合には、CPU等のプロセッサがプログラムを実行することで、本実施形態の画像処理装置等が実現される。具体的には、情報記憶媒体に記憶されたプログラムが読み出され、読み出されたプログラムをCPU等のプロセッサが実行する。ここで、情報記憶媒体(コンピュータにより読み取り可能な媒体)は、プログラムやデータなどを格納するものであり、その機能は、光ディスク(DVD、CD等)、HDD(ハードディスクドライブ)、或いはメモリ(カード型メモリー、ROM等)などにより実現できる。そして、CPU等のプロセッサは、情報記憶媒体に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち、情報記憶媒体には、本実施形態の各部としてコンピュータ(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピュータに実行させるためのプログラム)が記憶される。
3.第2の実施形態
次に、第1の削除可否判定処理、及び第2の削除可否判定処理の他の手法について説明する。本実施形態の画像処理装置の構成例は、第1の削除可否判定部1004、及び第2の削除可否判定部1008での処理内容が異なるものの、図2と同様であるため詳細な説明は省略する。また、処理の流れについても、S104及びS108での処理内容が異なるものの、図3のフローチャートと同様であるため詳細な説明は省略する。
3.1 構造要素を用いた削除可否判定
まず、第1の削除可否判定処理及び第2の削除可否判定処理として、注目領域に対応した構造要素を用いた処理を行う例について説明する。ここでの注目領域は、図2の注目画像列設定部1001で用いられる注目画像の基準と同一のものである(例えば、病変部が撮像された画像を注目画像として注目画像列を設定したのであれば、ここでの構造要素も病変部に基づいて設定される)としてもよいし、別のものであってもよい。
ここで、注目画像列の設定における注目領域と、第1の削除可否判定処理での注目領域が同一のものであるとした場合、注目領域が撮像された画像は注目画像列に含まれるため、要約画像列に残されることが想定されている以上、第1の削除可否判定において注目領域の見逃し可能性を判定することに意味があるのかという疑問も生じる。しかし、画像要約処理が必要なほど大量の画像を処理対象としている以上、注目領域の検出はシステムにより自動的に行われることが自然である。その場合、注目領域を100%の精度で検出することは困難であり、注目領域が撮像されながら検出できない(注目画像とすることができない)画像が生じうる。そのような画像における注目領域も見逃すことなく観察しようとすれば、注目領域の見逃し可能性に基づく判定を行うことには意味があり、以下で説明するように注目画像列の設定に用いた注目領域と同等の注目領域を、構造要素の設定に用いることにも利点があると言える。
なお、第2の削除可否判定処理は第1の削除可否判定処理と同様となるため、詳細な説明は省略し、第1の削除可否判定処理について説明する。
図9に示したように、第1の削除可否判定部1004は、構造要素生成部1017と、変形情報取得部1009と、被覆領域算出部1010と、注目領域見逃し可能性判定部1018と、を含んでもよい。ただし、第1の削除可否判定部1004は、図9の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
構造要素生成部1017は、注目領域に基づいて、注目領域見逃し可能性判定部1018での処理に用いられる構造要素を生成する。ここでは、見逃しが好ましくない注目領域と同一形状、同一サイズの領域を設定するが、これに限定されるものではない。
被覆領域算出部1010は、被覆領域を算出するとともに、第2の判定対象画像のうち被覆領域ではない領域を非被覆領域として設定してもよい。
注目領域見逃し可能性判定部1018は、第1の判定対象画像を削除した場合に、第1の判定対象画像上に撮像された注目領域が、第1の基準画像では撮像されない状況となる(つまり注目領域を見逃す状況となる)可能性についての判定処理を行う。
具体的な処理の流れを説明する。構造要素生成部1017は、注目領域に基づいて構造要素を生成しておく。ここでは、注目領域の典型的な大きさ等を考慮して、見逃すことが好ましくないサイズ、形状の領域を構造要素として設定する。例えば、注目領域が病変部であり、画像上で直径30ピクセルの円よりも大きい病変は深刻度が高く見逃すべきではない、ということがわかっているのであれば、構造要素は直径30ピクセルの円を設定することになる。
第1の基準画像と第1の判定対象画像が選択されたら、変形情報取得部1009は、第1の基準画像と第1の判定対象画像の間の変形情報を取得する。被覆領域算出部1010は、取得された変形情報を利用して、第1の基準画像を第1の判定対象画像上へ射影し、被覆領域を求める。
被覆領域が算出されたら、注目領域見逃し可能性判定部1018は、注目領域の見逃し可能性を判定する。具体的には、第1の判定対象画像のうち被覆領域以外の領域である非被覆領域に対して、構造要素を用いた収縮処理を行い、残留領域があるか否かの判定を行う。
収縮処理の具体例について図10(A)〜図10(E)を用いて説明する。非被覆領域は図10(A)に示したように、必ず閉じた領域となり、その境界を設定することができる。例えば、図10(A)では外側境界であるBO1と、内側境界であるBO2を設定することになる。
この際、構造要素による収縮処理とは、当該構造要素の基準点を非被覆領域の境界上に設定した場合に、非被覆領域と構造要素の重複領域を削る処理となる。例えば、構造要素として円形状の領域を設定し、その基準点を円の中心とした場合には、非被覆領域の境界上に中心を有する円を描き、当該円と非被覆領域とが重なる部分を非被覆領域から除外する処理を行うことになる。具体的には、図10(A)に示したように、非被覆領域の外側境界BO1上の点を中心とする円を描き、非被覆領域との重複領域(ここでは、斜線で示した半円形状の領域)を除外する。
外側境界BO1は離散的に処理されることを考えれば複数の点から構成されていることになるため、当該複数の点の各点について上述した処理を行えばよい。一例としては、図10(A)に示したように境界上の一点を起点として、所与の方向において順次境界BO1上の点を中心とする円を描き、非被覆領域との重複領域を非被覆領域から除外していけばよい。
非被覆領域の境界の一部が判定対象画像の境界と一致する場合等では、非被覆領域の境界は1つの場合も考えられ、その際には当該1つの境界について上述の処理を行えばよい。また、図10(A)に示したように、非被覆領域の境界としてBO1とBO2の2つが考えられる場合には、それぞれについて上述の処理を行う。具体的には、図10(B)に示したように、内側境界BO2についても、BO2上に中心を有する円を描き、非被覆領域との重複領域を除外する処理を行い、この処理をBO2を構成する各点について繰り返せばよい。
このような収縮処理を行うことで、非被覆領域の面積は小さくなる。例えば、図10(A)の非被覆領域の左部に着目した場合、図10(A)で示したBO1での収縮処理、及び図10(B)で示したBO2での収縮処理により、非被覆領域は完全に削除され、残留する領域は存在しない。一方、非被覆領域の右下部分に着目した場合、図10(C)に示したように、BO1での収縮処理でもBO2での収縮処理でも除外対象とならずに残存する残留領域REが生じる。よって、ここでの非被覆領域全体に対して構造要素による収縮処理を行った結果は、図10(D)のようになり、残留領域REが生じることになる。
ここで、半径rの円を構造要素とした場合の収縮処理の持つ意味について考える。閉じた領域である非被覆領域は、境界(BO1とBO2のように異なる境界であってもよいし、1つの境界であってもよい)の内側にある領域と考えることができる。この境界について上述の収縮処理を行うことで、非被覆領域に含まれる点のうち、上記境界上の点から距離r以内にある点は削除の対象となる。つまり、削除対象とならなかった残留領域に含まれる点を考えた場合、当該点からは境界上の任意の点までの距離がrより大きくなるということである。よって、残留領域上の任意の点を中心とする半径rの円を描いた場合に、当該円の円周はどの境界とも交差することがない。これは言い換えれば、半径R(=r)の円で表される注目領域が、残留領域中の点をその中心とすることで、非被覆領域の中に完全に収まってしまうという状況を表す。なお、構造要素として円以外の形状(四角形等)を用いた場合であっても、基本的な考え方は同一である。
つまり、残留領域が存在する場合とは、図10(E)の右下に示したように、構造要素に対応する領域が非被覆領域に含まれる場合となり、そのような位置に病変部等の注目領域があった場合には、第1の判定対象画像を削除してしまうと、第1の基準画像を残したとしても注目領域を観察できない可能性が生じてしまう。逆に、残留領域が存在しない場合とは、図10(E)の左上に示したように、注目領域の少なくとも一部は被覆領域に含まれることになり、第1の判定対象画像を削除したとしても、注目領域の少なくとも一部は第1の基準画像に残すことができる。以上のことより、注目領域見逃し可能性判定部1018では、非被覆領域に対して構造要素による収縮処理を行い、残留領域が存在するか否かに基づいて、第1の判定対象画像の削除可否判定を行う。
3.2 削除可否判定の変形例
上述したように、第1,第2の削除可否判定処理としては、被覆率を用いたものや構造要素を用いたものが考えられる。ただし、第1,第2の削除可否判定処理はそれらを単体で用いる処理に限定されず、複数を組み合わせてもよい。
例えば、第1の削除可否判定処理として、被覆率を用いた処理と構造要素を用いた処理の両方を行い、第2の削除可否判定処理としても、被覆率を用いた処理と構造要素を用いた処理の両方を行ってもよい。この場合、観察できなくなる領域の発生を抑止し、且つ注目領域の見落とし可能性を抑止することで要約画像列の有用性を高めるという観点から考えれば、被覆率に基づく判定で削除可能とされ、且つ構造要素に基づく判定で削除可能とされた場合に削除可能として、それ以外の場合には削除不可とすればよい。なお、第1の削除可否判定処理での被覆率との比較処理に用いる閾値と、第2の削除可否判定処理での被覆率との比較処理に用いる閾値とは同一のものであってもよいし、異なるものであってもよい。同様に、第1の削除可否判定処理で用いる構造要素(狭義にはそのサイズ)と、第2の削除可否判定処理で用いる構造要素(狭義にはそのサイズ)は同一のものであってもよいし、異なるものであってもよい。
また、第1の削除可否判定処理と第2の削除可否判定処理は同一の処理であるものに限定されない。例えば、第1の削除可否判定処理は被覆率に基づく処理であり、第2の削除可否判定処理は被覆率に基づく処理と構造要素に基づく処理の両方の処理であってもよい。このようにすれば、複数の観点(上述の例では被覆率と構造要素)を用いた処理が第1,第2の削除可否判定処理の少なくとも一方で行われるため、単一観点の処理に比べて判定精度の向上が期待でき、且つ所与の観点(上述の例では構造要素)での処理は第1,第2の削除可否判定処理の一方では省略できるため、第1,第2の削除可否判定処理の両方において全ての観点を用いて処理を行う場合に比べて、処理負荷を軽減することが可能になる。
ただし2つの観点を用いるのであれば、第1,第2の削除可否判定処理の少なくとも一方の処理では、両方の観点での処理が用いられることが望ましい。例えば、第1の削除可否判定処理では被覆率を用い、第2の削除可否判定処理では構造要素を用いる、といったことは避けるとよい。なぜなら、処理対象となる画像によっては被覆率単体、或いは構造要素単体での処理では十分な精度が出せない可能性があるからである。被覆率と構造要素の両方を用いることで判定精度が向上するというのは、ある基準画像と判定対象画像の組み合わせにおいて両方の処理を行うからこそ実現されるものである。しかし、第1の削除可否判定処理での第1の基準画像と第1の判定対象画像の組み合わせと、第2の削除可否判定処理での第2の基準画像と第2の判定対象画像の組み合わせとは、上述の選択手法に従えば重複することはない。つまり第1の削除可否判定処理では被覆率を用い、第2の削除可否判定処理では構造要素を用いるような例では、画像要約処理全体としてみれば、被覆率と構造要素の両方を用いて処理しているとはいえ、それぞれは別個独立に用いられているに過ぎず、判定精度の向上効果が十分でない可能性がある。それにもかかわらず、処理部100が複数の異なる削除可否判定処理を実行できなくてはならないため、システム構成として効率的ではない。
なお、被覆率とも構造要素とも異なる観点を導入して、3つ以上の観点による削除可否判定処理を行ってもよい。その場合、第1の削除可否判定処理と第2の削除可否判定処理の少なくとも一方の処理では、全ての観点を用いた処理を行うことが望ましい。
以上の本実施形態では、処理部100は、第1の削除可否判定処理として、第1の被覆率判定処理を行う場合には、第2の削除可否判定処理として、第2の被覆率判定処理を行ってもよい。また、処理部100は、第1の削除可否判定処理として、第1の構造要素判定処理を行う場合には、第2の削除可否判定処理として、第2の構造要素判定処理を行ってもよい。
これにより、第1,第2の削除可否判定処理として、被覆率に基づいた判定処理を行うことが可能になる。同様に、第1,第2の削除可否判定処理として、構造要素に基づいた判定処理を行うことが可能になる。この場合、第1,第2の削除可否判定処理は単一の観点による処理で実現できるため、被覆率と構造要素の両方を併用する場合に比べて、処理負荷を軽くすることができる。
また、処理部100は、第1の被覆率判定処理及び第1の構造要素判定処理の両方の処理を、第1の削除可否判定処理として行ってもよい。また、処理部100は、第2の被覆率判定処理及び第2の構造要素判定処理の両方の処理を、第2の削除可否判定処理として行ってもよい。
これにより、第1の削除可否判定処理と第2の削除可否判定処理の少なくとも一方は、被覆率判定処理と構造要素判定処理の両方の処理が行われることになり、第1,第2の削除可否判定処理がともに被覆率判定処理だけの場合、或いは第1,第2の削除可否判定処理がともに構造要素判定処理だけの場合に比べて、判定精度を向上させることが可能になる。なお、当然第1の削除可否判定処理と第2の削除可否判定処理の両方で、被覆率判定処理と構造要素判定処理の両方の処理が行われてもよい。ただし、第1,第2の削除可否判定処理のどちらか一方の処理を簡略化する(例えば構造要素判定処理を省略する)ことで、処理負荷を軽くすることができる。
また、第1の被覆率判定処理は、第1の基準画像による第1の判定対象画像の被覆率を表す値と、第1の被覆率閾値との比較結果に基づく判定処理であってもよい。第1の構造要素判定処理は、第1のサイズの要素を構造要素として設定し、設定した構造要素による収縮処理、又は第1の基準画像により第1の判定対象画像が覆われない領域に、設定した構造要素が含まれるか否かを判定する処理であってもよい。
同様に、第2の被覆率判定処理は、第2の基準画像による第2の判定対象画像の被覆率を表す値と、第2の被覆率閾値との比較結果に基づく判定処理であってもよい。第2の構造要素判定処理は、第2のサイズの要素を構造要素として設定し、設定した構造要素による収縮処理、又は第2の基準画像により第2の判定対象画像が覆われない領域に、設定した構造要素が含まれるか否かを判定する処理であってもよい。
これにより、被覆率に基づく判定処理として、求めた被覆率と閾値との比較処理を行うことが可能になる。図6や図7のように被覆率を求めれば、判定処理自体は閾値との比較を行えばよいため処理が容易である。また、構造要素に基づく判定処理として、図10(A)〜図10(E)に示したような構造要素を用いた収縮処理を行うことが可能になる。ただし、構造要素による収縮処理の対象は非被覆領域に限定されるものではない。
例えば、図11(A)に示したように、判定対象画像を対象として構造要素による収縮処理を行ってもよい。この場合、収縮処理により削られる領域内に注目領域が完全に収まってしまわないように設定する(典型的には構造要素として注目領域の2倍のサイズの要素を設定する)ことで、図11(B)に示したように、残存領域は基準画像により被覆されることが求められる要被覆領域となる。つまりこの場合、要被覆領域全体が基準画像により被覆されているか否かにより削除可否判定を行えばよく、具体的には図12(A)、図12(B)に示したように、基準画像及び要被覆領域の一方を変形情報により変形し、変形後の領域を用いた包含判定を行えばよい。要被覆領域が基準画像に包含される場合には、判定対象画像は削除可能となり、包含されない部分があれば判定対象画像は削除不可となる。
また、構造要素を用いた削除可否判定処理は収縮処理を用いるものに限定されず、非被覆領域に構造要素が含まれるか否かを判定する処理であればよい。例えば、図13(A)や図13(B)に示したように、被覆領域の境界上の点(p1〜p6等)から判定対象画像の境界までの距離(k1〜k6等)、或いは判定対象画像の境界上の点から被覆領域の境界までの距離に基づいて、非被覆領域の最大径に相当する値を求め、求めた値と構造要素(この場合注目領域と同等のサイズ)の最小径との比較処理を行うような、簡易的な手法であってもよい。
また、処理部100は、第2の被覆率閾値として、第1の被覆率閾値とは異なる値を設定してもよい。また、処理部100は、第2のサイズとして、第1のサイズとは異なるサイズを設定してもよい。
これにより、第1の削除可否判定処理と第2の削除可否判定処理で、同一観点の処理を行う場合であっても、それぞれで判定の基準値を変更することが可能になり、柔軟な2段階判定処理が実現できる。
4.第3の実施形態
第1の実施形態では、第2の削除可否判定処理における第2の基準画像と第2の判定対象画像の選択手法として、図4(A)〜図4(D)の手法を説明した。しかし、第2の基準画像と第2の判定対象画像の選択手法は図4(A)〜図4(D)の手法に限定されるものではない。本実施形態では、第2の基準画像として2枚の画像(前方基準画像と後方基準画像)を設定し、その間の画像を第2の判定対象画像とする手法について説明する。
基準画像が2枚あるが、この際の被覆領域は図14に示したように、前方基準画像を前方基準画像と第2の判定対象画像との間の変形情報に基づいて変形して求めた領域と、後方基準画像を後方基準画像と第2の判定対象画像との間の変形情報に基づいて変形して求めた領域との和集合となる領域を被覆領域とすればよい。なぜなら、前方基準画像と後方基準画像の少なくとも一方によりカバーされていれば、第2の判定対象画像は削除しても問題ないためである。なお、被覆領域算出後の処理は、被覆率を用いる手法でも構造要素を用いる手法でも上述したものと同様である。
前方基準画像と後方基準画像により間の画像が全て削除可能と判定された場合とは、前方基準画像と後方基準画像を要約画像列に残せば、その間の画像を全て削除してもよいということである。しかし、画像要約処理後の画像枚数の削減効果を高めるのであれば、間の画像を全て削除可能という条件を満たしつつ、前方基準画像と後方基準画像をできるだけ離れた位置に設定することが望ましい。よってここでは、前方基準画像は固定して、後方基準画像の位置を変化させつつ、最適な位置を探索することになる。具体的には、図15(A)、図15(B)に示したように、後方基準画像を所与の位置にすれば間の画像を全て削除でき、後方基準画像を当該所与の位置の1つ後方にすると、間の画像の少なくとも1枚が削除できない位置を探索する。そして、図15(A)における前方基準画像及び後方基準画像を要約画像列に残せばよく、図15(A)での後方基準画像及びそれより後方の画像を新たな部分画像列に設定することになる。
以下、文章を簡略化するために、第qの画像を後方基準画像として選択して削除可否判定を行った結果、前方基準画像と後方基準画像の間の画像が全て削除可能と判定された状況を「第qの画像がOKである」と表記し、前方基準画像と後方基準画像の間の少なくとも1枚の画像が削除不可である状況を「第qの画像がNGである」と表記する。
ここでは、部分画像列として第1〜第Nの画像が入力され、第1の画像を前方基準画像、第qの画像を後方基準画像として選択して、最適な後方基準画像の位置を探索する場合に、第2〜第q−1の画像を順次第2の判定対象画像として選択し、第qの画像がOKかNGかを判定する。第qの画像がOKである場合には、前方基準画像と後方基準画像の間隔をもっと広げてもよい可能性があるということであるから、新たな後方基準画像を第q+1の画像及びその後方の画像から選択する。一方、第qの画像がNGである場合には、前方基準画像と後方基準画像の間を広げすぎたということであるから、基本的には第qの画像よりも前方の画像を新たな後方基準画像として選択することで前方の画像について判定を行うことになる。
つまり、本実施形態では終了条件を満たすまでは、OKの場合は後方に、NGの場合は前方に後方基準画像を更新することで、前方基準画像の次の要約画像を探索することになる。新たな後方基準画像の位置を適切に更新することで、次の要約画像の発見までに後方基準画像として選択される画像の枚数を減らすことができ、計算量の削減効果も期待できる。以下、本実施形態の手法を詳細に説明する。
本実施形態では、図16に示したように第2の基準画像選択部1006は、前方基準画像選択部1019と、後方基準画像選択部1020を含む。前方基準画像選択部1019は前方基準画像を選択し、後方基準画像選択部1020は後方基準画像を選択する。
ここでは上述したように部分画像列の先頭の画像(第1の画像)を前方基準画像として選択する。なお、部分画像列が第1の削除可否判定処理により取得された部分画像列である場合(最初の前方基準画像選択処理が行われる場合)には、先頭以外の画像を前方基準画像として選択してもよいが、以下では断りがない限り、前方基準画像は先頭の画像であるものとして説明する。
その後、後方基準画像を選択する。ここでは、後方基準画像の選択対象となる画像に対応する後方基準画像選択区間(実際には前方基準画像の次の要約画像を探索する範囲に相当)を設定する。第iの画像〜第jの画像に対応する半開区間[i,j)を後方基準画像選択区間とし、iを前方基準画像の次の画像に対応させ(狭義にはi=2)、j=N+2とする。なお、j=N+2としたのは、後方基準画像として仮想的な第N+1の画像を設定してもよいためである。後方基準画像が第N+1の画像である場合とは、前方基準画像だけでその後方の画像全てをカバーでき、後方基準画像が不要であるか否かを判定する場合に相当する。
そして、設定された後方基準画像選択区間から後方基準画像を選択する。ここでは効率的に処理を行うために、後方基準画像を所与の条件に基づいて決定する。まず、前方基準画像設定後、初めて後方基準画像が選択される場合には、後方基準画像として第i+1の画像(狭義には第3の画像)を選択する。
ここまでの処理を図示したものが図17(A)である。ここではN=12の画像列を考えており、前方基準画像が1番目の画像、後方基準画像選択区間が2番目の画像〜14番目の画像(i=2,j=14)、後方基準画像が3番目の画像となっている。
後方基準画像が選択された後の、第2の判定対象画像選択処理、被覆率算出処理、削除可否判定処理、及びこれらの処理の繰り返しについては詳細な説明は省略する。図17(A)の場合、第2の判定対象画像としては2番目の画像を選択するだけでよい。
所与の画像(最初は第3の画像)を後方基準画像として選択した場合に、その画像がOKであれば、後方基準画像の位置を前方基準画像からさらに離してもよいということであるから、新たな後方基準画像として、現在のものよりも後方の画像を選択する。
一例としては、現在の後方基準画像が前方基準画像から数えてa番目の画像である場合に、前方基準画像から数えて2×a番目の画像を新たな後方基準画像としてもよい。具体的には図17(B)に示したように、3番目の画像(前方基準画像から数えて2番目)が後方基準画像として選択された場合に、当該3番目の画像がOKであれば、次の後方基準画像は5番目(前方基準画像から数えて4番目)の画像を選択することになる。
ところで、q番目の画像がOKならば、q−1番目以前の画像は要約画像列に残される要約画像として選択する必要はない。よって、後方基準画像として現在位置(q番目)よりも前方の画像を選択するメリットはないため、後方基準画像選択区間を更新するとよい。具体的には、選択区間の始点iをi=qとすればよい。この変形例では、後方基準画像は後方基準画像選択区間から選択されることとしているため、こうすることで現在位置よりも前方の画像を選択することがなくなる。例えば、図17(B)に示したように、3番目の画像がOKである場合、2番目の画像は要約画像とはならないため、選択区間から外してよく、選択区間の始点を3番目の画像に更新する。
同様に、5番目の画像がOKならば(この場合、2〜4番目の画像が第2の判定対象画像として選択され第2の削除可否判定処理が行われる)、図17(C)に示したように9番目の画像を新たな後方基準画像として選択するとともに、後方基準画像選択区間の始点を5番目の画像に更新する。
しかし、図17(C)において仮に9番目の画像がOKである場合を考えればわかるように、q番目の画像を後方基準画像として、当該第qの画像がOKの場合に、qの値が大きくなると新たな後方基準画像が極端に後方になってしまう可能性がある。例えば、N+1番目よりも後方の画像が候補になってしまい後方基準画像が選択不可となったり、そうでなくても更新前後の後方基準画像の間隔が広くなりすぎて、次の要約画像の探索が非効率的になったりする。
そこで、新たな後方基準画像として現在位置よりも後方の画像を選択する場合に、他の手法を併用してもよい。一例としては新たな後方基準画像を、(q+j)/2の値に基づいて決定する。例えば9番目の画像がOKの場合、後方基準画像選択区間の始点が9番目の画像に更新されるため、[9,14)の半開区間となる。つまり、その中央付近の画像を新たな後方基準画像とすることで、探索範囲の中央を処理対象とすることになる。探索範囲の中央について判定を行うことで探索範囲を半減させていく手法は、広く知られている二分探索に他ならず、二分探索が計算量の面で利点があることもまた広く知られている。本実施形態の後方基準画像選択区間とは、所与の画像がOKであればそれより前方の画像は全てOKと考えてよく、所与の画像がNGであればその後方の画像は全てNGと考えてよいという性質のものであり、二分探索の手法を適用可能である。つまり、更新前の後方基準画像と、後方基準画像選択区間の終点との中間付近から、新たな後方基準画像を選択することで、効率的な処理が期待できる。
ここでは、前方基準画像起点の距離を2倍にしていく手法と、二分探索に対応する手法を併用するものとする。例えば、第qの画像が更新前の後方基準画像である場合に、次の後方基準画像として下式(1)を満たす第kの画像とすればよい。ここでmin(a,b)はaとbのうち小さい方を表すものである。
一方、上述したように第qの画像がNGの場合には、OKの場合とは逆に現在位置よりも前方から新たな後方基準画像を選択することになる。どの程度前方の画像を選択するかは種々の手法により決定可能であるが、例えばここでも二分探索に対応した手法を用いてもよい。この場合、後方基準画像選択区間の始点が第iの画像であるため、新たな後方基準画像は、(i+q)/2の値に基づいて決定される。また、第qの画像がNGである以上、第qの画像及びその後方の画像は要約画像として選択されることはない。よって後方基準画像選択区間の終点を更新してよく、j=qとすればよい。9番目の画像がNGである場合の例を図17(D)に示す。新たな後方基準画像として7番目の画像が選択されるとともに、後方基準画像選択区間の終点jがj=9に更新される。
なお、後方基準画像選択区間が半開区間であるとしたのは、ここでの説明の便宜のためである。つまり、第qの画像がOKの場合は、当該第qの画像は要約画像として選択される可能性を残しているため、後方基準画像選択区間の始点iをi=qとした場合に、iは後方基準画像選択区間に含まれているとよい。一方、第qの画像がNGの場合は、当該第qの画像は要約画像として選択されないため、後方基準画像選択区間の終点jをj=qとした場合に、jは後方基準画像選択区間に含めないほうがよい。以上のことから、後方基準画像選択区間を[i,j)としたにすぎず、符号や式の表記次第では開区間や閉区間により後方基準画像選択区間を表すことに何も問題はない。
以上の処理により、後方基準画像選択区間(狭義には次の要約画像の探索範囲)を狭めていく。次の要約画像とは、第kの画像がOKであり且つ第k+1の画像がNGである場合の第kの画像であるから、OKの画像とNGの画像が隣り合っている箇所が見つかったら処理を終了することになる。上述の例では、終了の直前では二分探索的に処理を行っていくことが想定され、例えば図17(E)のようになる。第iの画像はOKであり、その2つ隣の第jの画像はNGであり、その間の第qの画像が後方基準画像となっている。この場合、第qの画像がOKであれば図17(F)、NGであれば図17(G)のようになり、どちらにせよ後方基準画像選択区間の始点と終点が隣り合い、且つ始点に対応する画像がOK、終点に対応する画像がNGとなる。よって、次の要約画像として始点に対応する画像を選択すればよいため、部分画像列に対する探索処理は終了する。
次の要約画像が見つかったのであれば、当該画像及びそれ以降の画像からなる画像列を新たな部分画像列として設定すればよい。新たな部分画像列が設定されたら、それ以降の処理については同様であるため詳細な説明は省略する。
図18に本実施形態の画像要約処理を説明するフローチャートを示す。S201〜S205については、図3のS101〜S105と同様であるため詳細な説明は省略する。部分画像列の設定後、処理対象である部分画像列の先頭の画像を前方基準画像として選択し(S206)、後方基準画像選択区間を設定する(S207)。S206の直後に行われるS207の処理としては、例えば上述したようにi=2,j=N+2を満たす[i,j)の半開区間を設定すればよい。また、後述するようにS210やS211の後にS207の処理が行われる場合には、すでに設定されている後方基準画像選択区間の更新処理となる。
S207で後方基準画像選択区間の設定(或いは更新)処理が行われたら、その始点と終点が隣り合うか(j=i+1を満たすか)の判定を行う(S208)。S208でYesの場合には、図17(F)に示したように第iの画像が、第1の画像(前方基準画像)の次の要約画像であるとわかった状況であるから、S205に戻り第iの画像及びそれ以降の画像を部分画像列に設定する。
S208でNoの場合には、まだ次の要約画像が見つかっていない状況であるから、S207で設定した後方基準画像選択区間から後方基準画像を選択する(S209)。S206による前方基準画像設定後、初めてS209の処理が行われる場合には、例えば第i+1の画像(前方基準画像の2つ後方の画像)を選択すればよい。それ以外の場合には、直前の後方基準画像の位置に応じて、新たな後方基準画像を選択する処理を行うことになる。
S209で後方基準画像を選択したら、第2の判定対象画像を選択する(S210)。S209での後方基準画像選択後、初めてS210の処理が行われる場合には、前方基準画像と後方基準画像の間の画像のうち先頭の画像(図17(A)等では2番目の画像)を選択する。第2の判定対象画像選択後の第2の削除可否判定処理(例えば、被覆領域算出処理、被覆率算出処理、閾値判定処理等)については図3のS108と同様である。S211で削除可能と判定された場合には、S209に戻り第2の判定対象画像を1つ後方の画像に更新し、同様の処理を行う。S210,S211の処理を繰り返すことで、前方基準画像と後方基準画像の間の画像が全て削除可能であるか、或いは少なくとも1つが削除不可であるかの判定が実行される。全て削除可能の場合にはS210の判定で、第2の判定対象画像=後方基準画像となり、S207に戻る。また、少なくとも1枚の画像が削除不可である場合にはS211の判定で削除不可となりS207に戻る。なお、図18では不図示であるが、S210からS207に戻ったのか、或いはS211からS207に戻ったのかという情報を保持しておき、それに応じて次のS207等での処理を変更する必要がある。
S210からS207に戻った場合には、全ての画像が削除可能な状況であるため、後方基準画像選択区間の始点を更新する処理を行い、その結果S207では1つ前の後方基準画像よりも後方の画像が新たな後方基準画像として選択される。一方、S211からS207に戻った場合には、少なくとも1枚の画像が削除不可である状況であるため、後方基準画像選択区間の終点を更新する処理を行い、その結果S207では1つ前の後方基準画像よりも前方の画像が新たな後方基準画像として選択される。
以上の本実施形態では、第1〜第N(Nは2以上の整数)の画像が部分画像列として設定された場合に、処理部100は、第p(pは1≦p≦Nを満たす整数)の画像である前方基準画像と、第q(qはp+2以上の整数)の画像である後方基準画像を、第2の基準画像として選択する。それとともに、第r(rはp+1≦r≦q−1を満たす整数)の画像を第2の判定対象画像として選択する。そして、前方基準画像と第2の判定対象画像の間の変形を表す前方変形情報、及び後方基準画像と第2の判定対象画像の間の変形を表す後方変形情報を、第2の変形情報として求め、求めた前方変形情報及び後方変形情報に基づいて、第2の判定対象画像の削除可否の判定を行う。
これにより、第2の削除可否判定処理において、基準画像を前方と後方に2枚設定することが可能になる。上述したように、残す画像により削除される画像がカバーされる(被覆率であれば面積等の割合が高いこと、構造要素であれば注目領域の少なくとも一部が撮像されることを表す)ことを保証する、ということが本実施形態での変形情報を用いた処理の基本である。よって、残す画像が複数有るのであれば、そのうちの1枚ではカバーしきれない画像であっても、複数の残す画像を組み合わせることでカバーできるのであれば、削除しても問題はない。よってここでは、基準画像を2枚用いることで、判定対象画像が削除可能と判定される可能性を上げて、画像要約処理による画像枚数の削減効果を向上させるものとする。
また、処理部100は、第p+2〜第Nの画像に対応する始点及び終点が設定された後方基準画像選択区間から後方基準画像を選択して、前方基準画像及び後方基準画像に基づいて2の判定対象画像の削除可否の判定を行ってもよい。そして、第p+1〜第q−1の画像が削除可能と判定された場合には、後方基準画像選択区間に含まれる第x(xはx>qを満たす整数)の画像を新たな後方基準画像として選択するとともに、後方基準画像選択区間の始点を第qの画像に更新する。
ここで、後方基準画像選択区間は、後方基準画像の候補となる画像という性質を鑑みれば、第p+2〜第Nの画像を含むことになる。ただし、後方基準画像として第N+1の画像のように仮想的な画像を選択してもよいため、後方基準画像選択区間の終点がNより大きくなってもよい。また、後方基準画像選択区間には次の要約画像(前方基準画像は要約画像として確定しており、その次の要約画像という意味)の探索範囲という側面もあるため、後方基準画像として選択されない画像であっても、要約画像として選択されうる画像は当該選択区間に含まれるものとしてもよい。その場合後方基準画像選択区間の始点として前方基準画像の1つ後方の画像(第p+1の画像)を設定してもよいことになる。
これにより、後方基準画像を更新する際に、新たな後方基準画像の位置を柔軟に決定することが可能になる。後方基準画像を1つずつ後方に更新していくように、探索範囲を先頭から1つずつチェックして、探索範囲を減らしていく手法を用いてもよい。或いは、隣り合わない画像も新たな後方基準画像として選択可能にすることで、一単位の判定(第qの画像がOKかNGかという判定)により探索範囲を大きく減らすようにしてもよい。どのような更新手法が効果的であるかは、処理対象である部分画像列の性質等にもよる。例えば、正解位置がある程度予測可能な状況では、予測位置近辺を重点的に探索すべきであるため、後方基準画像を1つずつ移動させる手法を用いればよいし、正解位置が予測できない場合等では、計算量の期待値削減等を考慮して、上述した二分探索等を用いればよい。
また、処理部100は、第p+1〜第q−1の画像のうち少なくとも1つが削除不可と判定された場合には、後方基準画像選択区間に含まれる第y(yはy<qを満たす整数)の画像を新たな後方基準画像として選択してもよい。それとともに、後方基準画像選択区間の終点を第qの画像に更新する
これにより、後方基準画像を更新する際に、現在の後方基準画像よりも前方の画像を、新たな後方基準画像として選択することが可能になる。上述したように、後方への探索が隣り合う画像を選択するものに限定されない以上、現在の後方基準画像よりも前方に未探索範囲が残っていることがありえ、削除可否の判定結果によっては当該未探索範囲に正解があるということが考えられる。その場合には、前方への探索を行うことで適切な処理を行うことが可能になる。また、後方への探索と同様に、新たな後方基準画像の選択は隣り合う画像に限定されない。
また、処理部100は、第j(jは整数)の画像が後方基準画像選択区間の終点に対応する場合に、(q+j)/2の値に基づいてxの値を設定してもよい。或いは、第i(iは整数)の画像が後方基準画像選択区間の始点に対応する場合に、(i+q)/2の値に基づいてyの値を設定してもよい。
これにより、新たな後方基準画像を選択するに当たって、二分探索の手法を用いることが可能になる。後方への探索の場合には、現在の後方基準画像と終点との中間となる画像を選択し、前方への探索の場合には、現在の後方基準画像と始点との中間となる画像を選択することになる。よって、探索範囲(後方基準画像選択区間の長さに相当)を半減させていくことが可能になり、後方基準画像としてlogN枚の画像を選択すれば、全探索範囲の探索が終了することが期待される。よって、計算量のオーダーはN×logNに抑えることができ、Nが非常に大きい場合には、後方基準画像を前方から1つずつ後ろに移動させていく手法(計算量のオーダーはN2)に比べて計算量の削減効果が大きい。なお、(q+j)/2及び(i+q)/2は整数になるとは限らないため、それぞれの値に対応する画像が存在しない場合もある。その際には、例えば(q+j)/2を超えない最大の整数、或いはそれより1大きい整数等を考えればよい。
また、処理部100は、後方基準画像選択区間の始点又は終点を更新した結果、始点と終点が隣り合う場合に、前方基準画像として選択された複数の画像の1つを、要約画像列に含める処理を行ってもよい。それとともに、始点に対応する複数の画像の1つ、及び始点に対応する複数の画像の1つよりも部分画像列において後方の画像を新たな部分画像列として設定し、設定された新たな部分画像列に対して、上記pの値を1に設定して再度処理を行ってもよい。
ここで、始点と終点が隣り合うとは、始点に対応する画像と終点に対応する画像が、部分画像列において隣り合うことを表す。部分画像列としてN枚の画像が与えられた場合には、部分画像列は時系列的に或いは空間的に連続する画像の集合であることが想定されているため、その連続性から画像列の前方、後方を定義することができる。例えば時系列的に早い時刻に取得された画像は、それより遅い時刻に取得された画像よりも前方の画像となる。具体的には、部分画像列の各画像を第1〜第Nの画像として表し、振られた数値が小さい画像ほど前方にあるものとする。よって、画像列中の第iの画像と第j(>i)の画像が隣り合うとは、j=i+1を満たす状況を指す。
これにより、部分画像列に対する処理の終了条件として、後方基準画像選択区間の始点、終点に基づく条件を設定することが可能になる。このような終了条件を設定することで、後方基準画像として選択された場合にOKと判定される画像群のうち、前方基準画像から最も離れていると予想される画像を、新たな部分画像列の先頭画像(次の要約画像に相当)として選択することができる。なぜなら、図17(F)等に示したように、この終了条件とはOKの画像とNGの画像が隣り合う位置を探索することに等しいためである。そのため、最終的に出力される要約画像列に含まれる要約画像の枚数を少なくすることができ、ユーザの負担軽減等が可能になる。
以上、本発明を適用した3つの実施の形態1〜3およびその変形例について説明したが、本発明は、各実施の形態1〜3やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜3や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜3や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。