JP2018164814A - 画像処理装置及び画像処理装置の作動方法 - Google Patents

画像処理装置及び画像処理装置の作動方法 Download PDF

Info

Publication number
JP2018164814A
JP2018164814A JP2018146716A JP2018146716A JP2018164814A JP 2018164814 A JP2018164814 A JP 2018164814A JP 2018146716 A JP2018146716 A JP 2018146716A JP 2018146716 A JP2018146716 A JP 2018146716A JP 2018164814 A JP2018164814 A JP 2018164814A
Authority
JP
Japan
Prior art keywords
image
images
representative
positions
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018146716A
Other languages
English (en)
Other versions
JP6594499B2 (ja
Inventor
裕之 今村
Hiroyuki Imamura
裕之 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018146716A priority Critical patent/JP6594499B2/ja
Publication of JP2018164814A publication Critical patent/JP2018164814A/ja
Application granted granted Critical
Publication of JP6594499B2 publication Critical patent/JP6594499B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Eye Examination Apparatus (AREA)

Abstract

【課題】 異なる複数の撮影位置それぞれで撮影して得た複数の画像から代表画像を取得する際に、該代表画像同士の連続性が良くなるように画像を選択すること。
【解決手段】 画像処理装置は、眼部の異なる複数の位置それぞれで撮影して得た複数の画像から得られた代表画像であって、複数の位置に対応する複数の代表画像の特性の連続性に基づいて、複数の位置それぞれで複数の画像から少なくとも1つの画像を選択する選択手段と、選択された少なくとも1つの画像により得られた代表画像であって、複数の位置に対応する複数の代表画像を用いて、広範囲の画像を生成する画像生成手段と、を備える。
【選択図】 図6

Description

本発明は眼科診療に用いられる画像処理装置及び画像処理装置の作動方法に関する。
生活習慣病や失明原因の上位を占める疾病の早期診療を目的として、眼部の検査が広く行われている。共焦点レーザー顕微鏡の原理を利用した眼科装置である走査型レーザー検眼鏡(SLO;Scanning Laser Ophthalmoscope)は、測定光であるレーザーを眼底に対してラスター走査し、その戻り光の強度から平面画像を高分解能かつ高速に得る装置である。以下、このような平面画像を撮像する装置をSLO装置、該平面画像をSLO画像と記す。
近年、SLO装置において測定光のビーム径を大きくすることにより、横分解能を向上させた網膜のSLO画像を取得することが可能になってきた。しかし、測定光のビーム径の大径化に伴い、網膜のSLO画像の取得において、被検眼の収差によるSLO画像のS/N比及び分解能の低下が問題になってきた。それを解決するために、被検眼の収差を波面センサでリアルタイムに測定し、被検眼にて発生する測定光やその戻り光の収差を波面補正デバイスで補正する補償光学系を有する補償光学SLO装置が開発され、高横分解能なSLO画像(高倍率画像)の取得を可能にしている。
このような高倍率画像は、動画像として取得することができ、血流動態を非侵襲に観察する目的等に利用される。このとき、各フレームから網膜血管を抽出した上で毛細血管における血球の移動速度等が計測される。また、高倍率画像を用いて視機能との関連を評価するために視細胞Pを検出した上で視細胞Pの密度分布や配列の計測が行われている。図6(b)に高倍率画像の例を示す。視細胞Pや毛細血管の位置に対応した低輝度領域Q、白血球の位置に対応した高輝度領域Wが観察できる。
ここで、高倍率画像を用いて視細胞Pを観察する場合や視細胞Pの分布を計測する場合には、フォーカス位置を網膜外層(図6(a)のB5)付近に設定し、図6(b)のような高倍率画像を撮影する。一方、網膜内層(図6(a)のB2からB4)には網膜血管や分岐した毛細血管が走行している。このとき、患眼を撮影する場合には、その撮像対象領域が高倍率画像の画角よりも大きい場合がしばしば見られる。これは、広範な視細胞欠損領域を撮像する場合や、初期の毛細血管病変の後発部位である傍中心窩領域を撮像する場合等である。そこで、異なる撮影位置で撮影して得た複数の高倍率画像を貼り合わせて表示する技術が、特許文献1に開示されている。
また、ある撮影位置の高倍率の動画像における固視微動等の影響が大きな例外フレームを判定し、高倍率の動画像における判定された例外フレーム以外のフレームを表示する技術が、特許文献2に開示されている。
特開2012−213513号公報 特開2013−169309号公報
ここで、例えば、異なる撮影位置で撮影して得た複数の高倍率の動画像それぞれの動画像から、あるフレームを選択して張り合わせて表示する場合を考える。このとき、一般的には、複数の高倍率の動画像それぞれの動画像の各フレームからいくつかのフレームを選択し、選択されたフレームを利用して代表画像を取得する。そして、取得された代表画像同士を張り合わせることによって、広範囲の画像が生成される。この場合、取得された代表画像のうち隣接する代表画像同士を比較した場合、撮影位置や輝度特性、画像特徴等に関して、代表画像同士の連続性が良くないことがあった。このような広範囲の画像を用いて広範囲に分布する細胞群や組織、及びそれらの病変(視細胞欠損や毛細血管瘤)の分布を計測すると、解析不能な領域が発生する場合や解析対象が抽出できない場合等があった。
本発明の目的の一つは、例えば、異なる複数の撮影位置それぞれで撮影して得た複数の画像から代表画像を取得する際に、該代表画像同士の連続性が良くなるように画像を選択することである。
本発明に係る画像処理装置の一つは、
異なる時間に眼部の異なる複数の位置それぞれで撮影して得た複数の画像から得られた代表画像であって、前記複数の位置に対応する複数の代表画像の特性の連続性を示す情報が所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択する選択手段と、
前記選択された少なくとも1つの画像により得られた代表画像であって、前記複数の位置に対応する複数の代表画像を用いて、広範囲の画像を生成する画像生成手段と、を備える。
本発明の一つによれば、例えば、異なる複数の撮影位置それぞれで撮影して得た複数の画像から代表画像を取得する際に、該代表画像同士の連続性が良くなるように画像を選択することができる。
本発明の第一の実施形態に係る画像処理装置10の機能構成例を示すブロック図である。 本発明の実施形態に係る画像処理装置10を含むシステムの構成例を示すブロック図である。 本発明の実施形態に係るSLO像撮像装置20の全体の構成について説明する図である。 記憶部120、画像処理部130に相当するハードウェアを有し、且つその他の各部をソフトウェアとして保持し、実行するコンピュータのハードウェア構成例を示すブロック図である。 本発明の実施形態に係る画像処理装置10が実行する処理のフローチャートである。 本発明の第一の実施形態での画像処理内容を説明する図である。 本発明の第一の実施形態に係るS530及びS540で実行される処理の詳細を示すフローチャートである。 本発明の第二の実施形態に係る画像処理装置10の機能構成例を示すブロック図である。 本発明の第二の実施形態での画像処理内容を説明する図である。 本発明の第二の実施形態に係るS530及びS540で実行される処理の詳細を示すフローチャートである。 本発明の第三の実施形態に係る断層像撮像装置60の全体の構成について説明する図である。 本発明の第三の実施形態での画像処理内容を説明する図である。 本発明の第四の実施形態に係る画像処理装置10の機能構成例を示すブロック図である。 本発明のその他の実施形態での画像処理内容を説明する図である。
本実施形態に係る画像処理装置の一つは、眼部の異なる複数の位置それぞれで撮影して得た複数の画像(例えば、動画像)から得られた代表画像であって、異なる複数の位置に対応する複数の代表画像(代表画像群)の特性の連続性に基づいて、複数の画像から少なくとも1つの画像を選択する選択手段(例えば、図1の選択部134)を備える。これにより、例えば、異なる複数の撮影位置それぞれで撮影して得た複数の画像から代表画像を取得する際に、異なる複数の撮影位置に対応する複数の代表画像同士の連続性が良くなるように画像を選択することができる。このため、例えば、複数の代表画像を張り合わせることによって、広範囲の画像(張り合わせ画像)を画像生成することができる。
ここで、複数の画像(画像群)の特性(複数の代表画像の特性)とは、例えば、複数の画像の相対位置と輝度特性と画像特徴とのうち少なくとも一つのことである。また、複数の画像(画像群)のそれぞれの画像(動画像から選択されて得た画像)は、動画像から取得される代表画像であり、動画像から選択された1枚の画像でも良いし、ノイズやアーチファクト等が比較的少ない複数枚の画像が選択され、選択された画像が重ね合わされた画像でも良い。重ね合わされた画像を用いる場合には、複数の画像の特性の連続性が高くなるように、重ね合わせる画像の枚数を減らすことが好ましい。また、連続性を示す値を判定する判定手段を更に備えることが好ましく、これにより、判定された値が所定の条件を満たすように動画像から画像を選択することができる。ここで、判定された値が所定の条件を満たす場合とは、例えば、判定された値が閾値を超える(あるいは閾値以上である)場合や最大となる場合である。また、連続性を示す値は、複数の画像が張り合わせられた張り合わせ画像(広範囲の画像)を用いて判定されることが好ましい。例えば、張り合わせ画像の面積と無血管領域境界の長さとのうち少なくとも一つに基づいて判定されるが、これらについては各実施形態で詳述する。以下、添付図面に従って本発明に係る画像処理装置及びその作動方法の好ましい実施形態について詳説する。ただし本発明はこれに限定されるものではない。
[第1の実施形態:異なる位置の複数の画像の相対位置や輝度特性の連続性]
本実施形態に係る画像処理装置は、異なる位置の複数の画像(画像群)の相対位置と輝度特性とのうち少なくとも一つの連続性に基づいて、画像群の適合度を判定する。最も適合度の高いフレームもしくは画像を選択して貼り合わせ表示することにより、撮影対象領域(撮影範囲)を略同一条件で観察できるように構成したものである。
具体的には、図6(g)に示すような合計9枚の高倍率画像で画像群が構成され、各撮影位置単位で選択手段によって選択されたフレームを用いて重ね合わせ画像を生成し、該重ね合わせ画像を貼り合わせて画像群としての適合度を判定する場合について説明する。
(全体構成)
図2(a)は、本実施形態に係る画像処理装置10を含むシステムの構成図である。図2(a)に示すように画像処理装置10は、SLO像撮像装置20やデータサーバ40と、光ファイバ、USBやIEEE1394等で構成されるローカル・エリア・ネットワーク(LAN)30を介して通信可能に接続されている。なおこれらの機器との接続は、インターネット等の外部ネットワークを介して通信可能に接続される構成であってもよいし、あるいは画像処理装置10がSLO像撮像装置20に直接接続されている構成であってもよい。
まず、SLO像撮像装置20は、眼部の広画角画像Dlや高倍率画像Dhを撮像する装置であり、前記広画角画像Dlや前記高倍率画像Dh、及びその撮影時に用いた固視標位置Fl、Fhの情報を画像処理装置10及びデータサーバ40へ送信する。なお、各倍率の画像を異なる撮影位置で取得する場合にはDli,Dhjのように表す。すなわちi,jは各々撮影位置番号を示す変数であり、i=1,2,...,imax、j=1,2,...,jmaxとする。また、高倍率画像を異なる倍率で取得する場合には、最も倍率の高い画像から順にD1j,D2k,...のように表記し、D1jのことを高倍率画像、D2k,...を中間倍率画像と表記する。
また、データサーバ40は、被検眼の広画角画像Dlや高倍率画像Dh、及びその撮影時に用いた固視標位置Fl、Fhのような撮像条件データ、眼部の画像特徴、眼部の画像特徴の分布に関する正常値などを保持する。眼部の画像特徴として、本発明では視細胞Pや毛細血管Q、血球W、網膜血管や網膜層境界に関する画像特徴を扱う。SLO像撮像装置20が出力する前記広画角画像Dl、前記高倍率画像Dh、撮影時に用いた固視標位置Fl、Fh、画像処理装置10が出力する眼部の画像特徴を該サーバに保存する。また画像処理装置10からの要求に応じ、広画角画像Dl、高倍率画像Dh、眼部の画像特徴及び該画像特徴の正常値データを画像処理装置10に送信する。
次に、図1を用いて本実施形態に係る画像処理装置10の機能構成を説明する。図1は、画像処理装置10の機能構成を示すブロック図であり、画像処理装置10はデータ取得部110、記憶部120、画像処理部130、指示取得部140を有する。また、データ取得部110は、画像取得部111を備える。画像処理部130は位置合わせ部131、個別画像判定部132、画像群判定部133、選択部134、表示制御部135を備える。さらに、画像群判定部133は位置判定部1331及び輝度判定部1332を有する。
(補償光学系を備えたSLO像撮像装置)
次に、図3を用いて補償光学系を備えたSLO像撮像装置20の構成を説明する。まず、201は光源であり、SLD光源(Super Luminescent Diode)を用いた。本実施例では眼底撮像と波面測定のための光源を共用しているが、それぞれを別光源とし、途中で合波する構成としても良い。光源201から照射された光は、単一モード光ファイバー202を通って、コリメータ203により、平行な測定光205として照射される。照射された測定光205はビームスプリッタからなる光分割部204を透過し、補償光学の光学系に導光される。
補償光学系は、光分割部206、波面センサー215、波面補正デバイス208および、それらに導光するための反射ミラー207−1〜4から構成される。ここで、反射ミラー207−1〜4は、少なくとも眼の瞳と波面センサー215、波面補正デバイス208とが光学的に共役関係になるように設置されている。また、光分割部206として、本実施例ではビームスプリッタを用いる。また、本実施例では波面補正デバイス208として液晶素子を用いた空間位相変調器を用いる。なお、波面補正デバイスとして可変形状ミラーを用いる構成としてもよい。補償光学系を通過した光は、走査光学系209によって、1次元もしくは2次元に走査される。走査光学系209として、本実施形態では主走査用(眼底水平方向)と副走査用(眼底垂直方向)に2つのガルバノスキャナーを用いた。より高速な撮影のために、走査光学系209の主走査側に共振スキャナーを用いてもよい。走査光学系209で走査された測定光205は、接眼レンズ210−1および210−2を通して眼211に照射される。眼211に照射された測定光205は眼底で反射もしくは散乱される。接眼レンズ210−1および210−2の位置を調整することによって、眼211の視度にあわせて最適な照射を行うことが可能となる。ここでは、接眼部にレンズを用いたが、球面ミラー等で構成しても良い。
眼211の網膜から反射もしくは散乱された反射散乱光(戻り光)は、入射した時と同様の経路を逆向きに進行し、光分割部206によって一部は波面センサー215に反射され、光線の波面を測定するために用いられる。波面センサー215は、補償光学制御部216に接続され、受光した波面を補償光学制御部216に伝える。波面補正デバイス208も補償光学制御部216に接続されており、補償光学制御部216から指示された変調を行う。補償光学制御部216は波面センサー215の測定結果による取得された波面を基に収差のない波面へと補正するような変調量(補正量)を計算し、波面補正デバイス208にそのように変調するように指令する。なお、波面の測定と波面補正デバイス308への指示は繰り返し処理され、常に最適な波面となるようにフィードバック制御が行われる。
光分割部206を透過した反射散乱光は光分割部204によって一部が反射され、コリメータ212、光ファイバー213を通して光強度センサー214に導光される。光強度センサー214で光は電気信号に変換され、制御部217によって眼部画像として画像に構成されて、ディスプレイ218に表示される。なお、図3の構成で走査光学系の振り角を大きくし、補償光学制御部216が収差補正を行わないよう指示することによってSLO像撮像装置20は通常のSLO装置としても動作し、広画角なSLO画像(広画角画像Dl)を撮像できる。
(画像処理装置10のハードウェア構成及び実行手順)
次に、図4を用いて画像処理装置10のハードウェア構成について説明する。図4において、301は中央演算処理装置(CPU)、302はメモリ(RAM)、303は制御メモリ(ROM)、304は外部記憶装置、305はモニタ、306はキーボード、307はマウス、308はインターフェースである。本実施形態に係る画像処理機能を実現するための制御プログラムや、当該制御プログラムが実行される際に用いられるデータは、外部記憶装置304に記憶されている。これらの制御プログラムやデータは、CPU301による制御のもと、バス309を通じて適宜RAM302に取り込まれ、CPU301によって実行され、以下に説明する各部として機能する。画像処理装置10を構成する各ブロックの機能については、図5のフローチャートに示す画像処理装置10の具体的な実行手順と関連付けて説明する。
<ステップ510:画像取得>
画像取得部111は、SLO像撮像装置20に対して、広画角画像Dl、高倍率画像Dhjおよび対応する固視標位置Fl、Fhの取得を要求する。本実施形態では、黄斑部の中心窩に固視標位置Fl及びFhを設定して広画角画像Dl及び高倍率画像Dhjを取得する。なお、撮影位置の設定方法はこれに限定されず、任意の位置に設定してよい。
SLO像撮像装置20は、該取得要求に応じて広画角画像Dlと高倍率画像Dhj、対応する固視標位置Fl、Fhを取得し送信する。画像取得部111はSLO像撮像装置20からLAN30を介して当該広画角画像Dl、高倍率画像Dhj及び固視標位置Fl、Fhを受信し、記憶部120に格納する。なお、本実施形態では前記広画角画像Dl及び高倍率画像Dhjはフレーム間位置合わせ済みの動画像とする。
<ステップ520:位置合わせ>
位置合わせ部131は、広画角画像Dlと高倍率画像Dhjとの位置合わせを行い、広画角画像Dl上の高倍率画像Dhjの相対位置を求める。高倍率画像Dhj間で重なり領域がある場合には、該重なり領域に関しても画像間類似度を算出し、最も画像間類似度が最大となる位置に高倍率画像Dhj同士の位置を合わせる。
次に、S510において異なる倍率の画像が取得されている場合には、より低倍率な画像から順に位置合わせを行う。例えば高倍率画像D1jと中間倍率画像D2kが取得されている場合には、まず、広画角画像Dlと中間倍率画像D2kとの間で位置合わせを行い、次いで中間倍率画像D2kと高倍率画像D1jとの間で位置合わせを行う。高倍率画像のみの場合には、広画角画像Dlと高倍率画像Dhjとの位置合わせのみ行うことは言うまでもない。
なお、位置合わせ部131は、記憶部120から高倍率画像Dhjの撮影時に用いた固指標位置Fhを取得し、広画角画像Dlと高倍率画像Dhjとの位置合わせにおける位置合わせパラメータの探索初期点の設定に用いる。また、画像間類似度や座標変換手法としては任意の公知の手法を用いることができ、本実施形態では画像間類似度として相関係数、座標変換手法としてAffine変換を用いて位置合わせを行う。
<ステップ530:動画像毎に適合度を判定する処理>
個別画像判定部132が、フレームの輝度値やフレーム間の移動量に基づいて適合度の判定処理を行う。さらに選択部134が適合度の判定結果に基づいて選択処理(決定処理)を行い、個別画像を形成する。ここで、個別画像は、動画像の各フレームを全て重ね合わされた画像でも良いし、選択された1枚のフレームでも良い。また、ノイズ等が比較的少ない複数の画像が選択され、選択された画像が重ね合わされた画像でも良い。本ステップの処理については、図7(a)に示すフローチャートを用いて後に詳しく説明する。
<ステップ540:画像群として適合度を判定する処理>
S530で形成された個別画像に基づいて、画像群判定部133が画像群(異なる位置の隣接する複数の画像)の間の相対位置及び相対輝度に基づいて適合度を判定し、選択部134が最も適合度の高い組み合わせの画像を選択して貼り合わせ画像を形成する。本実施形態では、選択部134が各取得位置で画像群判定部133が最も適合度の高いと判定した組み合わせのフレーム区間を選択して重ね合わせ画像を生成し、貼り合わせ画像を形成する。本ステップの処理については、図7(b)に示すフローチャートを用いて後に詳しく説明する。
<ステップ550:表示>
表示制御部135は、S520において得られた位置合わせパラメータの値及びS540において選択された領域もしくはフレームもしくは画像に基づき、広画角画像Dl上に高倍率画像群Dhjを表示する。ここで、表示制御部135は、複数の高倍率画像Dhjが取得されている場合に高倍率画像間の濃度差を補正して表示してもよい。任意の公知の輝度補正法を適用でき、本実施形態では各高倍率画像DhjにおいてヒストグラムHjを生成し、ヒストグラムHjの平均と分散が高倍率画像Dhj間で共通した値になるように各高倍率画像Dhjの輝度値を線形変換することにより濃度差を補正する。なお、高倍率画像間の輝度補正法はこれに限らず、任意の公知の輝度補正法を用いてよい。さらに、表示倍率については、指示取得部140を通じて操作者が指定した高倍率画像を拡大してモニタ305に表示する。
<ステップ560:結果を保存するか否かの指示>
指示取得部140は、広画角画像Dl、選択部134によって選択された高倍率画像Dhj、固視標位置Fl、Fh、S520において取得された位置合わせパラメータ値をデータサーバ40へ保存するか否かの指示を外部から取得する。この指示は例えばキーボード306やマウス307を介して操作者により入力される。保存が指示された場合はS570へ、保存が指示されなかった場合はS580へと処理を進める。
<ステップ570:結果の保存>
画像処理部130は、検査日時、披検眼を同定する情報、広画角画像Dl、選択部134によって選択された高倍率画像Dhjと固視標位置Fl、Fh、位置合わせパラメータ値を関連付けてデータサーバ40へ送信する。
<ステップ580:処理を終了するか否かの指示>
指示取得部140は、画像処理装置10による広画角画像Dlと高倍率画像Dhjに関する処理を終了するか否かの指示を外部から取得する。この指示は、キーボード306やマウス307を介して操作者により入力される。処理終了の指示を取得した場合は処理を終了する。一方、処理継続の指示を取得した場合にはS510に処理を戻し、次の披検眼に対する処理(または同一披検眼に対する再処理を)行う。
(動画像毎に適合度を判定する処理)
次に、図7(a)に示すフローチャートを参照しながら、S530で実行される処理の詳細について説明する。
<ステップ710:適合度判定基準の取得>
個別画像判定部132は、指示取得部140を通じて適合度判定基準を取得する。ここで、判定基準としては、以下の項目a)〜d)が挙げられる。
a)画像の輝度値が適正範囲であること
b)画質(S/N比等)の適正値の範囲
c)参照フレームに対する移動量が適正範範囲であること
d)フォーカス位置が適正範囲にあること
ここで、本実施形態では、a)を適合度として取得する。これは、瞬目や、固視位置が極端にずれて測定光が眼底に届かないといった要因で発生する低輝度フレームを除外するためである。
<ステップ720:適合度判定>
個別画像判定部132は、高倍率SLO画像Dhjの各フレームに対してS710で取得した基準に従って適合度を判定する。本実施形態では、a)が各々適正範囲であれば1、適正範囲外であれば−1とする。
<ステップ730:画像選択>
選択部134は、S720で判定された適合度に基づいて撮影位置単位で表示のために使用する画像(動画像の場合はフレーム)を選択し、画像を形成する。本実施形態では高倍率画像は図6(c)に示すように視細胞を撮影した動画像とし、該動画像から重ね合わせ画像を形成するものとする。ここで、個別画像の形成方針としては、以下の項目(i)と(ii)が挙げられる。
(i)重ね合わせ枚数を最大化する(画質優先)
(ii)重ね合わせ画像の面積を最大化する(画像欠け防止優先)
(i)の場合、S720で選択された全てのフレームを用いて重ね合わせる。例えば、個別高倍率動画像の各フレームの位置が図6(c)のように対応づけられる(Nf:フレーム番号)場合、重ね合わせ結果は図6(d)になる。(この例では先頭フレームを参照フレームとする。なお、この図では重ね合わせに用いない領域(画像欠け)を黒色で示した)高画質だが、フレーム間位置合わせの結果画素値のないフレームがある領域は重ね合わせに用いられないため画像欠けが生じやすい。また、(ii)の場合、S720で選択されたフレームのうち少しでも位置ずれのあるフレームを除外する。例えば図6(c)の場合には、2〜4フレーム目が除外される。画像欠けは生じないものの、重ね合わせ枚数が減るため画質は(i)の場合より下がりやすい。ここで、本実施形態では、S720で算出された適合度が1のフレームを選択するとともに、(i)の方針、すなわち該選択された全てのフレームにおいて画素値が正である領域のみを用いて重ね合わせ画像を形成する。
(画像群として適合度を判定する処理)
次に、図7(b)に示すフローチャートを参照しながら、S540で実行される処理の詳細について説明する。
<ステップ740:適合度判定>
画像群判定部133は、S730で形成された画像群をS520で実行された位置合わせパラメータに基づいて貼り合わせし、該画像群の相対位置及び輝度特性に基づいて画像群としての適合度を判定する。なお、本実施形態では画像群は図6(g)に示すような9つの重ね合わせ画像で構成され、左上からラスター走査(ジグザグ走査)の順で画像番号jが増加するものとする。貼り合わせ画像(画像群)の適合度に関する判定方針を優先度順に表記すると以下のようになる。
1.貼り合わせ画像内に画像欠け領域を生じない
2.画質が撮影位置によってばらつかない
3.できるだけ多くの枚数で重ね合わせを行う
上記のうち、1、2は貼り合わせ画像内を同一条件で観察可能にするために設定される条件であり、位置判定部1331が条件1を、輝度判定部1332が条件2を判定する。なお、画像群の相対位置と輝度特性との両方を条件とする必要はなく、いずれか一つを条件とすれば良い。
ここで、画像群としての適合度を判定しない場合、例えば、撮影位置ごとにS730の(ii)の方針で貼り合わせ画像を生成した場合、上記条件2を満たさない場合が生じる。また、(ii)の方針で張り合わせ画像を生成し且つ上記条件2を満たすようにした場合、最も重ね合わせ枚数の少ない画像の重ね合わせ枚数に合わせることになるため、画像群としての適合度を判定して画像を選択する場合よりも画質が低下してしまう。そこで、隣接する画像の端部や重なり領域におけるデータの連続性や補完性を考慮した適合度判定を行うことで、条件1と2を満たしつつ、より高画質な貼り合わせ画像を得る(多くの枚数で重ね合わせを行う)ことが可能になる。
本実施形態では、図6(f)の灰色領域に示すような隣接する2画像間での重複領域と、図6(f)の黒色領域に示すような隣接する4画像間での重複領域が存在する。具体的には、以下の手順で画像群の適合度を判定する。
(1)S730で生成した個別画像(画質優先)を、S520で求めた位置合わせパラメータで貼り合わせる。
(2)(1)で生成した貼り合わせ画像内の画像欠け領域の有無を調べ、画像群の適合度として
(貼り合わせ画像の面積−画像欠けの面積)/(貼り合わせ画像の面積)
を算出する。
<ステップ750:画像選択>
選択部134は、S740で判定された適合度に基づき、該適合度が最も高くなるように各高倍率画像における画像選択を行い、選択された画像に基づいて画像群の形成処理を行う。具体的には、以下の手順で画像選択(フレームもしくは領域の選択)を行い、画像群の形成処理を行う。
(3)もし画像欠けがなければそのまま貼り合わせ画像を形成して終了
(4)画像欠けがある場合は画像欠け領域の位置を求める。
(5)画像欠け領域が含まれる、もしくは画像欠け領域に隣接する辺をもつ画像の重複領域における補完(代替)データの有無を調べる。
(例えば図6(g)では画像6と画像9に画像欠けが生じているので、画像6と画像5の左端、画像9において補完データの有無を調べる)
(6)補完(代替)データがある場合は、補完データのうち最も画質の良い(重ね合わせ枚数の多い)補完データで画像欠け領域を置き換え、(8)を実行する(選択部134による画像内の領域選択処理に相当する)
(7)補完(代替)データがない場合は、画像欠け領域が解消されるよう画像欠け領域が含まれる画像もしくは該領域に隣接する辺を持つ画像の選択フレームを変更する。もし画像欠け領域を解消するフレームの選択法が複数ある場合は、最も重ね合わせ枚数が多くなるフレーム選択法を用いる。
(8)(7)で得られた重ね合わせ画像群のうち、最も重ね合わせ枚数の少ない重ね合わせ画像の重ね合わせ枚数ANminを貼り合わせ画像の重ね合わせ枚数とし、各撮影位置での重ね合わせ枚数をANminに変更して再び重ね合わせ画像を生成する。
(9)(8)で生成した重ね合わせ画像を用いて貼り合わせ画像を生成する。
(図6(h)のように画像欠けがなくなり、重ね合わせ枚数が同一かつ最大の貼り合わせ画像が形成される)
なお、同一検査の同一撮影位置で動画像がNt回(Nt≧2)取得されている場合には、S730において(1〜Nt回目のうちで)最も適合度の高い動画像を選択しておき、S750における画像選択の(5)において画像欠け領域に対する他の撮影回での代替データの有無を調べ、代替データのうち最も画質の良い代替データで置き変える。それでも画像欠け領域がある場合に隣接画像の重複領域での代替データの有無を調べるようにすればよい。なお、本実施形態では画像群としての適合度の判定に基づいて形成される
貼り合わせ画像は静止画像(重ね合わせ画像)としたが、本発明はこれに限定されない。例えば、隣接する動画像の端部や重なり領域におけるデータの補完性を考慮した適合度判定を行った上で、図6(j)に示すように動画像を貼り合わせ表示してもよい。
動画像の貼り合わせ表示の場合も基本的な処理の流れは静止画像の貼り合わせ表示の場合と同様であるが、以下の点が異なる。すなわち、
(i)画像処理装置10に対して図2(b)に示すような時相データ取得装置50を接続し、動画像と同時に時相データを取得しておく。時相データとは、例えば脈波計により取得された生体信号データである。時相データを参照することで各動画像の心周期、すなわち再生すべき周期が得られる。動画像のフレーム補間処理によって該再生周期を動画像間で同一に揃えておく。
(ii)S730の撮影位置単位での画像形成処理において、輝度異常のフレームを除いた最長の連続したフレーム区間を選択する。
(iii)S740の画像群としての適合度判定処理において、以下の方針で適合度判定を行う。
貼り合わせ画像内に画像欠け領域を生じない
再生フレーム数が撮影位置によってばらつかない
できるだけ多くのフレーム数(周期)の動画像を貼り合わせ表示する
(iv)S750の画像群としての画像形成処理の(6)(7)(8)において選択されるフレームは、連続したフレーム区間とする。
これにより、動画像の貼り合わせ表示において画像欠けがなくなり、再生フレーム数が同一かつ最長の連続したフレームの貼り合わせ動画像が形成される。なお、もし時相データが取得されていない場合には再生時刻を調整せずに動画像として貼り合わせ表示してもよい。
以上述べた構成によれば、画像処理装置10は異なる撮影位置の補償光学SLO画像を貼り合わせ表示する際に撮影対象領域と比較した場合の画像群の適合度、すなわち観察不能領域の少なさに基づく適合度を判定する。該適合度が最も高くなるように隣接する画像の端部や重なり領域におけるデータの連続性や補完性に基づいて画像内の領域もしくはフレームもしくは画像を選択し、貼り合わせ表示する。これにより、観察対象の細胞や組織、及びそれらの病変が複数の高倍率画像にまたがっている場合に、略同一の条件で観察可能な貼り合わせ画像を生成できる。
[第2の実施形態:異なる位置の複数の画像の画像特徴の連続性]
本実施形態に係る画像処理装置は、第1実施形態のように隣接する高倍率画像の相対位置や輝度特性の連続性に基づき画像群の適合度を判定するのではなく、隣接する高倍率画像から抽出された画像特徴の連続性に基づき画像群の適合度を判定するよう構成したものである。具体的には、高倍率SLO画像から抽出された傍中心窩の毛細血管領域の連続性に基づいて画像群の適合性を判定する。
本実施形態に係る画像処理装置10と接続される機器の構成は第1実施形態の場合と同様である。なお、データサーバ40は被検眼の広画角画像Dl、高倍率画像Dh、及びその取得時に用いた固視標位置Fl、Fhのような取得条件データ以外に、眼部の画像特徴や眼部の画像特徴の分布に関する正常値も保持する。眼部の画像特徴としては任意のものを保持できるが、本実施形態では網膜血管、毛細血管Q、血球Wを扱う。画像処理装置10が出力する眼部の画像特徴は該データサーバ40に保存される。また画像処理装置10からの要求に応じて眼部の画像特徴や眼部の画像特徴の分布に関する正常値データが画像処理装置10に送信される。ここで、本実施形態に係る画像処理装置10の機能ブロックを図8に示す。画像処理部130に画像特徴取得部136を備える点が実施形態1の場合と異なっている。また、本実施形態での画像処理フローは図5と同様であり、S510、S520、S560、S570、S580は実施形態1の場合と同様である。そこで、本実施形態ではS530、S540、S550の処理のみ説明する。
<ステップ530:動画像毎に適合度を判定する処理>
個別画像判定部132がフレームの輝度値やフレーム間の移動量に基づいて適合度の判定処理を行う。さらに選択部134が適合度の判定結果に基づいて選択処理(決定処理)を行い、個別画像を形成する。本ステップの処理については、図10(a)に示すフローチャートを用いて後に詳しく説明する。
<ステップ540:画像群として適合度を判定する処理>
S530で形成された個別画像に基づいて、画像群判定部133が画像特徴の画像間の連続性に基づいて適合度を判定し、画像選択部134が最も適合度の高い組み合わせの画像を選択し、貼り合わせ画像を形成する。本ステップの処理については、図10(b)に示すフローチャートを用いて後に詳しく説明する。
<ステップ550:表示>
表示制御部135は、S520において得られた位置合わせパラメータ値を用いて、S540で形成した貼り合わせ画像を表示する。本実施形態では、図9(b)のような毛細血管を抽出した画像の貼り合わせ表示を行う。
(動画像毎に適合度を判定する処理)
次に、図10(a)に示すフローチャートを参照しながら、S530で実行される処理の詳細について説明する。なお、S1010〜S1020は、第1実施形態におけるS710〜S720と同様であるので、説明は省略する。
<ステップ1030:画像選択>
選択部134は、S1020で判定された適合度に基づいて撮影位置単位で表示のために使用する画像(動画像の場合はフレーム)を選択し、画像を形成する。本実施形態では高倍率画像は毛細血管を撮影した動画像とし、該動画像から毛細血管領域を抽出した画像(以下、毛細血管画像と表記)を形成するものとする。
個別画像の形成方針としては、以下の項目(i)と(ii)が挙げられる。
(i)毛細血管画像の形成に使用するフレーム数を最大化する(画質優先)
(ii)毛細血管領域の面積を最大化する(画像欠け防止優先)
(i)の場合、S720で選択された全てのフレームを用いて毛細血管を抽出する。また、(ii)の場合、S720で選択されたフレームのうち少しでも位置ずれのあるフレームを除外する。例えば図6(c)の場合には、2〜4フレーム目が除外される。画像欠けは生じないものの、毛細血管の抽出に用いられるフレーム数が減るため画質は(i)の場合より下がりやすい。ここで、本実施形態では、S1020で算出された適合度が1のフレームを選択するとともに、(i)の方針、すなわち該選択された全てのフレームにおいて画素値が正である領域のみを用いて毛細血管領域を抽出する。
<ステップ1040:画像特徴の抽出>
画像特徴取得部136は、高倍率画像Dhjから毛細血管を検出し、検出された毛細血管領域から無血管領域の境界を検出する。本実施形態では、まず毛細血管を高倍率画像Dhjから以下の手順で血球成分の移動範囲として特定する。
(a) フレーム間位置合わせ済み高倍率画像Dhjの隣接フレーム間で差分処理を行う(差分動画像を生成する)。
(b) (a)で生成した差分動画像の各x−y位置においてフレーム方向に関する輝度統計量(分散)を算出する。
(c) 前記差分動画像の各x−y位置において輝度分散が閾値Tv以上の領域を血球が移動した領域、すなわち毛細血管領域として特定する。
なお、毛細血管の検出処理はこの方法に限定されるものではなく、任意の公知の方法を用いて良い。例えば、高倍率画像Dhjの特定のフレームに対し線状構造を強調するフィルタを適用して血管を検出してもよい。
次に、画像特徴取得部136は得られた毛細血管領域から無血管領域の境界を検出する。網膜の中心窩付近には網膜血管の存在しない領域(無血管領域)が存在する(例えば図6(i)のDh5)。網膜血管の初期病変は無血管領域境界周囲に生じやすく、また糖尿病網膜症等の疾病の進行に伴って無血管領域が拡大していく。従って無血管領域境界は観察及び解析の対象として重要である。
本実施形態では、高倍率画像群の中心に位置する高倍率画像Dh5に円形の可変形状モデルを配置し、該形状モデルを無血管領域境界に一致するよう変形させることで無血管領域を特定する。変形が完了した該可変形状モデルの位置を無血管領域境界の候補位置とする。なお、無血管領域境界の特定方法はこれに限らず任意の公知の手法を用いてよい。
(画像群として適合度を判定する処理)
次に図10(b)に示すフローチャートを参照しながら、S540で実行される処理の詳細について説明する。
<ステップ1050:適合度判定>
画像群判定部133は、高倍率画像Dhjから取得された画像特徴(毛細血管領域)に関して以下の指標を算出し、該指標値に基づいて画像群としての適合度を判定する。
(実際に取得された無血管領域境界の長さの総和)
/(S1040にて設定した無血管領域境界候補点列の長さの総和)
<ステップ1060:画像選択と画像特徴の更新>
選択部134は、S1050で判定された適合度に基づき、該適合度が最も大きくなるように各高倍率画像における画像選択を行い、選択された画像に基づいて画像群の形成処理を行う。
具体的には、以下の手順で画像選択を行い、画像群の形成処理を行う。
(3´)もし画像特徴欠けがなければそのまま貼り合わせ画像を形成し終了
(4´)画像特徴欠けがある場合は画像特徴欠け領域の位置を求める。
(5´)画像特徴欠け領域が含まれる、もしくは画像特徴欠け領域に隣接する辺をもつ画像の重複領域における補完(代替)データの有無を調べる。例えば図9(a)では画像6に画像特徴欠けが生じているので、画像6と画像5の左端において補完データの有無を調べる)
(6´)補完(代替)データがある場合は、補完データのうち最も画質の良い(毛細血管抽出に用いるフレーム数の多い)補完データで画像特徴欠け領域を置き換え、(8´)を実行する
(7´)補完(代替)データがない場合は、画像特徴欠け領域が解消されるよう画像特徴欠け領域が含まれる画像もしくは該領域に隣接する辺を持つ画像の選択フレームを変更する。もし画像特徴欠け領域を解消するフレームの選択法が複数ある場合は、最も選択されるフレーム数が多くなるフレーム選択法を用いる。
(8´)(7´)で得られた毛細血管画像群のうち、最も毛細血管抽出に用いられたフレーム数の少ない毛細血管画像の生成に用いられたフレーム数ANmin´を各毛細血管画像で使用されるフレーム数とする。各撮影位置での毛細血管抽出に用いられるフレーム数をANmin´に変更して再び毛細血管画像を生成する。
(9´)(8´)で生成した毛細血管画像を用いて貼り合わせ画像を生成する。
(図6(h)のように画像特徴欠けがなくなり、毛細血管抽出に使用されるフレーム数が同一かつ最大の貼り合わせ画像が形成される)
なお、画像群としての適合度を算出するために用いられる画像特徴は無血管領域境界に限定されず、任意の画像特徴を利用してよい。例えば、図9(c)に示すように視神経乳頭部を撮影した4枚の高倍率画像の画像群としての適合度を判定する場合には、閾値処理により陥凹部を検出し該陥凹部の境界位置の連続性に基づいて画像群としての適合度を判定できる。
具体的には陥凹部境界のエッジの総和を画像群としての適合度として用いる。もちろん画像群としての適合度はこれに限らず、例えば閾値処理により検出された陥凹領域の面積でもよい。
画像群としての適合度が最大になるような画像選択法は基本的に実施形態1のS750と同様である。ただし、フレーム選択後に生成された重ね合わせ画像に対して特徴抽出(陥凹部境界検出)を行い、該画像特徴の連続性を用いて画像群としての適合度を判定することと、該特徴抽出された画像を貼り合わせる点が第1実施形態の場合と異なる。このような画像群としての適合度判定及び画像群形成処理により、図9(d)の右下の高倍率画像Dh3のように画像特徴の不連続部が存在した貼り合わせ画像は、図9(e)のように該不連続部分が解消され解析対象の組織を略同一の条件で解析できるようになる。
以上述べた構成によれば、画像処理装置10は、隣接する高倍率画像から抽出された画像特徴の連続性に基づいて画像群の適合度を判定する。これにより、解析対象の細胞や組織、及びそれらの病変が複数の高倍率画像にまたがっている場合に、略同一の条件で解析可能な貼り合わせ画像を生成できる。なお、画像群の適合度を判定する際の条件として、画像特徴の他に、例えば、第1の実施形態の条件である画像群の相対位置と輝度特性とのうち少なくとも一つを条件に加えても良い。
[第3の実施形態:補償光学系を備えた断層像撮像装置]
本実施形態に係る画像処理装置は、異なる撮影位置の高倍率な補償光学OCT断層画像を貼り合わせ表示する際に、撮影(解析)対象領域と比較した場合の観察(解析)不能領域の少なさに基づいて画像群としての適合度を判定する。
具体的には、中心窩付近で複数(3×3×3=27)の高倍率画像を直方体状に取得し、位置合わせ処理によって貼り合わせる際に撮像(解析)対象領域と比較した場合の観察(解析)不能領域の少なさを画像群の適合度として判定する場合について説明する。
本実施形態に係る画像処理装置10と接続される機器の構成を図2(c)に示す。本実施形態では補償光学系を備えた断層像撮像装置60と接続される点が第1実施形態と異なっている。断層像撮像装置60は眼部の断層像を撮像する装置であり、例えばスペクトラルドメイン方式のOCT(SD−OCT;Spectral Domain Optical Coherence Tomography)として構成される。眼部断層像撮像装置60は不図示の操作者による操作に応じ、被検眼の断層像を3次元的に撮像する。撮像した断層像は画像処理装置10へと送信される。
次に、本実施形態に係る画像処理装置10の機能ブロックは実施形態1の場合と同様であるので省略する。また、データサーバ40は眼部の画像特徴や眼部の画像特徴の分布に関する正常値データを保持しており、本実施形態では網膜層境界やその形状・厚みに関する正常値データを保持している。
次に、図11を用いて補償光学系を備えた断層像撮像装置60の構成を説明する。図11において、201は光源であり、本実施例では波長840nmのSLD光源を用いる。光源201は低干渉性のものであれば良く、波長幅30nm以上のSLD光源が好適に用いられる。また、チタンサファイアレーザなどの超短パルスレーザなどを光源に用いることもできる。光源201から照射された光は、単一モード光ファイバー202を通って、ファイバーカプラー520まで導光される。ファイバーカプラー520によって、測定光経路521と参照光経路522に分岐される。ファイバーカプラーは10:90の分岐比のものを使用し、投入光量の10%が測定光経路521に行くように構成する。測定光経路521を通った光は、コリメータ203により、平行な測定光として照射される。コリメータ203以降の構成は実施形態1と同様であり、補償光学系や走査光学系を通して眼211に照射し、眼211からの反射散乱光は再度同様の経路をたどって光ファイバー521に導光されてファイバーカプラー520に到達する。一方、参照光経路522を通った参照光はコリメータ523で出射され、光路長可変部524で反射して再度ファイバーカプラー520に戻る。ファイバーカプラー520に到達した測定光と参照光は合波され、光ファイバー525を通して分光器526に導光される。分光器526によって分光された干渉光情報をもとに、制御部217によって眼部の断層像が構成される。制御部217は光路長可変部524を制御し、所望の深さ位置の画像を取得できる。なお、図11の構成で走査光学系の振り角を大きくし、補償光学制御部216が収差補正を行わないよう指示することによって断層像撮像装置60は通常の断層像撮像装置としても動作し、広画角な断層像(広画角画像Dl)を撮像できる。
また、本実施形態では補償光学系を備えた断層像撮像装置60はSD−OCTとして構成しているが、SD−OCTであることが必須の要件ではない。例えば、タイムドメインOCTもしくはSS−OCT(Swept Source Optical Coherence Tomography)として構成してもよい。SS−OCTの場合には異なる波長の光を異なる時間で発生させる光源を用い、スペクトル情報を取得するための分光素子は不要となる。また、SS−OCTでは、網膜だけでなく脈絡膜も画像に含まれる高深達な画像を取得できる。
本実施形態に係る画像処理装置10の画像処理フローを図5に示す。S510、S520、S530、S540、S550以外は実施形態1の場合と同様であるので、本実施形態ではS510、S520、S530、S540、S550の処理の説明のみ行う。
<ステップ510:画像取得>
画像取得部111は断層像撮像装置60に対して、広画角画像Dlと高倍率画像Dhj、及び対応する固視標位置Fl、Fhの取得を要求する。本実施形態では、黄斑部の中心窩に固視標位置Fl及びFhを設定して広画角画像Dl及び高倍率画像Dhjを取得する。なお本実施形態では高倍率画像をDhjを同じ撮影位置でNp回(本実施形態ではNp=3とする)繰り返し撮影するものとし、例えば、同一撮影位置で複数回撮影され、n回目に撮影された高倍率画像をDhj_n、と表記する。また撮影位置の設定方法はこれに限定されず、任意の位置に設定してよい。
断層像撮像装置60は該取得要求に応じて広画角画像Dlと高倍率画像Dhj_n、対応する固視標位置Fl、Fhを取得し送信する。画像取得部111は断層像撮像装置60からLAN30を介して当該広画角画像Dlと高倍率画像Dhj_n、及び対応する固視標位置FlとFhを受信し、記憶部120に格納する。なお、本実施形態では前記広画角画像Dl及び高倍率画像Dhj_nはスライス間位置合わせ済みの3次元画像とする。
<ステップ520:位置合わせ>
位置合わせ部131は、広画角画像Dlと高倍率画像Dhj_nとの位置合わせを行い、広画角画像Dl上の高倍率画像Dhj_nの位置を決定する。まず、位置合わせ部133は記憶部120から高倍率画像Dhj_nの撮影時に用いた固指標位置Fhを取得し、該固視標位置からの相対距離に基づいて広画角画像Dlと高倍率画像Dhj_nとの位置合わせにおける位置合わせパラメータの探索初期点を設定する。高倍率画像Dhj_n間で重なり領域がある場合には、該重なり領域に関して画像間類似度を算出し、画像間類似度が最大となる位置に高倍率画像Dhj_n同士の位置を合わせる。
次に、S530において異なる倍率の画像が取得されている場合には、より低倍率な画像から順に位置合わせを行う。本実施形態では高倍率画像のみであるので、広画角画像Dlと高倍率画像Dhj_nとの位置合わせのみ行う。なお、画像間類似度や座標変換手法としては任意の公知の手法を用いることができ、本実施形態では画像間類似度として(3次元の)相関係数、座標変換手法として3次元のAffine変換を用いて位置合わせを行う。
<ステップ530:異なる位置の画像毎に適合度を判定する処理>
個別画像判定部132がフレームの輝度値やフレーム間の移動量に基づいて適合度の判定処理を行う。さらに選択部134が適合度の判定結果に基づいて選択処理(決定処理)を行い、個別画像を形成する。ここで、判定基準の取得と適合度判定法は第1実施形態(のS710及びS720)と同であるため省略する。次に、判定された適合度に基づいて選択部134が撮影位置単位で表示のために使用する画像を選択し、画像を形成する。本実施形態では高倍率画像は図12(a)に示すような3次元の断層画像とする。ここでは撮影位置をわかりやすくするために高倍率画像間の重なりは省略して表示している。
個別画像の形成方針としては、
(i)S/N比を最大化する(画質優先)
S510で取得された同一撮影位置の断層画像のうち、最もS/N比の高い画像を選択し、画素値のないスライスが含まれる領域(画像端部)は画素値を0に設定する。高画質であるものの、画像欠けが生じやすい。
(ii)3次元断層画像内の総画素数を最大化する(画像欠け防止優先)
S510で取得された3次元断層画像(計3つ)のうち、最も画像端の0埋め処理の少ない3次元断層画像を選択する。画像欠けは生じないものの、必ずしもS/N比が高いとは限らないため画質は(i)の場合より下がりやすい。
が考えられる。本実施形態では、適合度が1のスライスを選択するとともに、適合度がー1のスライスにおける輝度値は、前後のスライスの画素値を補間処理した値とする。ここでは(i)の方針、すなわちS/N比最大の3次元断層画像を用いて高画質な個別画像を形成する。
<ステップ540:画像群として適合度を判定する処理>
S530で形成された個別画像に基づいて、画像群判定部133が画像群の適合度を判定し、画像選択部134が最も適合度の高い組み合わせの画像を選択して貼り合わせ画像を形成する。なお、本実施形態では画像群の左上からラスター走査(ジグザグ走査)の順で画像番号jが増加するものとする。貼り合わせ画像(画像群)の適合度に関する判定方針を優先度順に表記すると以下のようになる。
1.貼り合わせ画像内に画像欠け領域を生じない
2.できるだけ高画質な貼り合わせ画像を形成する
上記のうち、1は貼り合わせ画像内を同一条件で観察可能にするために設定される条件である。ここで、画像群としての適合度を判定しない場合には、例えば撮影位置ごとに画像欠け領域を生じないようにフレームを選択する必要があり、画像群の適合度判定に基づいて貼り合せ画像を生成する場合に比べて上記条件2に関して画質の低い貼り合せ画像を形成することになってしまう。そこで隣接する3次元断層画像の端部や重なり領域におけるデータの連続性や補完性を考慮した適合度判定を行うことで、1を満たしつつ、より高画質な貼り合わせ画像を得ることが可能になる。
本実施形態では図12(b)の灰色領域に示すような隣接する2画像間での重複領域と、図12(b)の黒色領域に示すような隣接する4画像間での重複領域、図12(c)の白色格子点で示すような隣接する8画像間での重複領域が存在する。具体的には、以下の手順で画像群の適合度を判定する。
(1)S530で生成した個別画像(画質優先)を、S520で求めた位置合わせパラメータで貼り合わせる。
(2)(1)で生成した貼り合わせ画像内の画像欠け領域の有無を調べ、画像群の適合度として
(貼り合わせ3次元画像の体積(画素数)−画像欠けの体積(画素数))
/(貼り合わせ3次元画像の体積(画素数))
を算出する。
なお画像群の適合度はこれに限らず、例えば個別画像の投影像を広画角画像の投影像上にS520で求めた位置合わせパラメータに基づいて貼り合わせ、
(貼り合わせ2次元画像の面積―画像欠けの面積)
/(貼り合わせ2次元画像の面積)
を判定してもよい。
選択部134は、上記判定された画像群としての適合度に基づき、該適合度が最も高くなるように各撮影位置における画像選択を行い、選択された画像に基づいて画像群の形成処理を行う。
具体的には、以下の手順で画像選択を行い、画像群の形成処理を行う。
(3)もし画像欠けがなければそのまま貼り合わせ画像を形成して終了
(4)画像欠けがある場合は画像欠け領域の位置を求める。
(5)画像欠け領域が含まれる、もしくは画像欠け領域に隣接する辺をもつ画像の重複領域における代替データの有無を調べる。
(例えば図12(d)では高倍率画像Dh3、Dh7に画像欠けが生じているので、Dh3とDh4の奥端、Dh7とDh12の上端において補完(代替)データの有無を調べる)
(6)補完(代替)データがある場合は、補完データのうち最も画質の良い(S/N比の高い)補完データで画像欠け領域を置き換えて画像貼り合せ処理を行う。
(7)補完(代替)データがない場合は、画像欠け領域が最小になるよう画像端の切り落とし(0埋め)処理を解除し、残りの画像欠け領域については近傍画素からの補間処理によって画素値を決定した上で画像貼り合せ処理を行う。以上より、画像欠けのない、最も高画質の貼り合わせ画像が形成される。なお、画像群の適合度の判定方針は上記に限定されるものではなく、任意の適合度を設定してよい。例えば、面積等の他に、画像特徴の一例である無血管領域境界の長さを適合度の条件に加えても良い。
<ステップ550:表示>
表示制御部131は、S540で形成された貼り合わせ画像をモニタ305に表示する。
本実施形態において広画角画像Dl及び高倍率画像Dhj_nはともに3次元断層像であるため、以下の2種類の表示を行う。
i)z軸方向に関し広画角画像Dlと高倍率画像Dhj_nの投影画像を生成し、広画角画像Dlの投影画像上に高倍率画像Dhj_nの投影画像を貼り合わせ表示する。
ii)広画角3次元断層像Dlのみ取得された位置では広画角画像3次元断層像Dlの画素値で、広画角3次元断層像Dlと高倍率3次元断層像Dhjともに取得された位置では該高倍率3次元断層像Dhj_nの画素値で表示した広画角3次元断層像Dl”を生成する。さらに広画角3次元断層像Dl”上の特定の走査位置をi)の重畳画像上に矢印で表示し、該矢印の位置で切り出した広画角3次元断層像Dl”の2次元断層像を、i)のような重畳画像と並べて表示させる。本表示では、広画角3次元断層像Dlの2次元断層像だけでなく、高倍率3次元断層像Dhj_nの2次元断層像も重畳表示される。
さらにii)の表示では操作者が指示取得部140を通じて広画角断層像Dl”の表示位置を示す矢印を(上下もしくは左右に)動かせるので、該操作に連動して切り出される(表示される)広画角画像Dl及び高倍率画像Dhj_nの表示スライスも変化する。
なお、上記投影画像を生成する方法としては平均値投影に限らず、任意の投影法を用いてよい。また、高倍率画像Dhj_nは静止画に限定されるものではなく、動画像でもよい。また、本実施形態では撮影対象領域に対する観察不能領域の少なさに基づいて断層画像群としての適合度を判定したが、本発明はこれに限定されない。第2の実施形態の場合と同様に、画像処理装置10に画像特徴取得部136を備え、各高倍率画像から抽出された画像特徴の隣接画像間の連続性に基づき断層画像群の適合度を判定してもよい。例えば、以下の手順で136が画像特徴として層境界の抽出を行う。すなわち、画像特徴取得部136は、記憶部120に格納された広画角画像Dl、すなわち眼部の3次元断層像から、画像特徴として、内境界膜B1、神経線維層境界B2、内網状層境界B4、視細胞内節外節境界B5、網膜色素上皮境界B6の各境界位置を抽出する。そして、抽出した各々の画像特徴を記憶部120に格納する。
ここで、広画角画像Dlに対する特徴抽出手順を具体的に説明する。はじめに、層の境界を抽出するための抽出手順について説明する。なお、ここでは処理対象である3次元断層像を2次元断層像(Bスキャン像)の集合と考え、各2次元断層像に対して以下の処理を行う。まず、着目する2次元断層像に平滑化処理を行い、ノイズ成分を除去する。次に2次元断層像からエッジ成分を検出し、その連結性に基づいて何本かの線分を層境界の候補として抽出する。そして、該抽出した候補から1番上の線分を内境界膜B1、上から2番目の線分を神経線維層境界B2、3番目の線分を内網状層境界B4として抽出する。また、内境界膜B1よりも外層側(図6(a)において、z座標が大きい側)にあるコントラスト最大の線分を視細胞内節外節境界B5として抽出する。さらに、該層境界候補群のうち一番下の線分を網膜色素上皮境界B6として抽出する。なお、これらの線分を初期値としてSnakesやレベルセット法等の可変形状モデルを適用し、更に精密抽出を行うように構成してもよい。また、グラフカット法により層の境界を抽出するように構成してもよい。なお、可変形状モデルやグラフカットを用いた境界抽出は、3次元断層像に対し3次元的に実行してもよいし、各々の2次元断層像に対し2次元的に実行してもよい。また、層の境界を抽出する方法は、眼部の断層像から層の境界を抽出可能な方法であれば、いずれの方法を用いてもよいことはいうまでもない。
また各高倍率画像Dhj_nからの層境界抽出は、広画角画像Dlと各高倍率画像Dhj_nの相対位置と、広画角画像Dlから検出された層境界位置に基づいて実行できる。すなわち、各高倍率画像Dhj_nに対応づけられた広画角画像Dlから検出された各層の境界位置付近で高倍率画像Dhj_n上の対応する層の境界検出を行えばよい。
以上述べた構成によれば、画像処理装置10は、異なる撮影位置の高倍率な補償光学OCT断層画像を貼り合わせ表示する際に撮影(解析)対象領域と比較した場合の貼り合わせ画像内の観察(解析)不能領域の少なさに基づいて画像群としての適合度を判定する。これにより、観察もしくは解析対象の細胞や組織、及びそれらの病変が複数の高倍率断層画像にまたがっている場合に、略同一の条件で観察もしくは解析可能な貼り合わせ画像を生成できる。
[第4の実施形態:張り合わせ画像と異なる検査で撮影(解析)された領域とを比較]本実施形態に係る画像処理装置は、異なる撮影位置の高倍率な補償光学SLO画像を貼り合わせ表示する際に異なる検査で撮影(解析)された領域と比較した場合の観察(解析)不能領域の少なさに基づいて画像群としての適合度を判定する。具体的には、過去の検査日時に撮影された画像群Dhjf(f=1,2,...,n−1)と比較した場合の、貼り合わせ画像における観察(解析)不能領域の少なさに基づいて画像群としての適合度を判定する場合について説明する。
本実施形態に係る画像処理装置10と接続される機器の構成は第1実施形態の場合と同様である。次に、本実施形態に係る画像処理装置10の機能ブロックを図13に示す。画像群判定部133に経時比較部1333を備える点が実施形態1の場合と異なっている。また本実施形態での画像処理フローは図5と同様であり、S530、S560、S570、S580は実施形態1の場合と同様である。そこで、本実施形態ではS510、S520、S540、S550の処理のみ説明する。なお、SLO画像や固視標を異なる倍率、異なる撮影位置、異なる検査日時で取得する場合には各々Dsjf、Fsfのように表す。すなわちsは倍率、jは撮影位置番号、fは検査日時を示す変数であり、s=1,2,...,smax、j=1,2,...,jmax、f=1,2,...,fmaxと表記する。ここで、sが小さいほど撮影倍率は大きくなる(画角が狭くなる)。また、fが小さいほど検査日時が古いことを表す。本実施形態では、最も低倍率な画像(広画角画像)の撮影位置は1つとし、簡単のため撮影位置番号は省略する。
<ステップ510:画像取得>
画像取得部111は、データサーバ40に対し過去のSLO画像Dsjf(f=1,2,...,n−1)、固視標位置Fsf、SLO画像Dsjfに対応する位置合わせパラメータ値の転送を要求する。データサーバ40は、該要求に対応するデータを画像処理装置10に転送し、記憶部120に保存する。本実施形態では、n=4とする。
次に、画像取得部111はSLO像撮像装置20に対して最新の検査画像及び固視標位置、すなわちSLO画像Dsjnおよび固視標位置Fsnの取得を要求する。本実施形態では、黄斑部の中心窩に固視標位置F2n及びF1nを設定してSLO像撮像装置20から低倍率なSLO画像D2n及び高倍率なSLO画像D1jnを取得する。
<ステップ520:位置合わせ>
位置合わせ部131は、広画角画像D2f(f=1,2,...,n)と高倍率画像D1jfとの位置合わせを行い、広画角画像D2f上の高倍率画像D1jfの相対位置を求めて高倍率画像D1jfの貼り合わせ画像が生成される。
同一検査日の高倍率画像D1jf間で重なり領域がある場合には、該重なり領域に関して画像間類似度を算出し、最も画像間類似度が最大となる位置に高倍率画像D1jf同士の位置を合わせる。なお、もし3種類以上の異なる倍率の画像が取得されている場合には、より低倍率な画像から順に位置合わせを行う。例えば画像D3fと画像D2kf、画像D1jfが取得されている場合にはまず画像D3fと画像D2kfとの間で位置合わせを行い、次いで画像D2kfと画像D1jfとの間で位置合わせを行う。さらに、位置合わせ部131は記憶部120から画像D1jfの撮影時に用いた固視標位置F1fを取得し、該位置からの相対距離を用いて画像D2fと画像D1jfとの位置合わせにおける位置合わせパラメータの探索初期点を設定する。なお、画像間類似度や座標変換手法としては任意の公知の手法を用いることができ、本実施形態では画像間類似度として相関係数、座標変換手法としてAffine変換を用いて位置合わせを行う。
次に、最新の検査における広画角画像D2nと過去の検査における広画角画像D2f(f=1,2,...,n−1)との位置合わせを行う。さらに高倍率画像D1jnに対する広画角画像D2nの相対位置、D2nに対する広画角画像D2fの相対位置と、D2fに対する高倍率画像D1jfの相対位置を用いて、最新検査の高倍率画像D1jnに対する過去検査の高倍率画像D1jfの相対位置を求める。なお、最新検査の高倍率画像群D1jnと過去検査の高倍率画像群D1jfとの位置合わせを直接行ってもよい。ここで、位置合わせ部131は記憶部120から各画像の固視標位置を取得する。位置合わせ部131はこれらの固視標位置を用いて最新検査の高倍率画像D1jnと最新検査の広画角画像D2n、D2nと過去検査の広画角画像D2f、D2fと過去検査の高倍率画像D1jfとの位置合わせにおける探索初期点を設定する。
位置合わせ手法としては任意の公知の手法を用いることができ、本実施形態ではまず概略の位置合わせとして、Affine変換を用いて位置合わせを行う。次に、詳細な位置合わせとして非剛体位置合わせ手法の一つであるFFD(Free Form Deformation)法を行いて位置合わせを行う。いずれの位置合わせにおいても、画像間類似度としては相関係数を用いる。もちろんこれに限らず、任意の公知の画像間類似度を用いてよい。以上より、最新の検査画像(広画角画像D2nもしくは高倍率画像D1jn)の画素と、過去の検査画像(広画角画像D2fもしくは高倍率画像D1jf)の画素とが対応づけられる。
なお、本発明は画素値の類似度に基づく位置合わせに限定されるものではない。例えば実施形態2の場合と同様に画像処理装置10に画像特徴取得部136を備え、画像特徴取得部136が毛細血管領域を特定した上で、該特定された血管領域を用いて特徴ベースの位置合わせを行ってよい。
<ステップ540:画像群として適合度を判定する処理>
画像群判定部133が異なる検査で撮影(解析)された領域と比較した場合の観察(解析)不能領域の少なさに基づいて画像群としての適合度を判定し、画像選択部134が最も適合度の高い組み合わせの画像を選択し、貼り合わせ画像を形成する。
なお、本実施形態では画像群は図6(g)に示すような9つの重ね合わせ画像で構成され、左上からラスター走査(ジグザグ走査)の順で画像番号jが増加するものとする。
貼り合わせ画像(画像群)の適合度に関する判定方針を優先度順に表記すると以下のようになる。
貼り合わせ画像内に画像欠け領域を生じない
画質が撮影位置によってばらつかない
異なる検査で撮影(解析)された領域と比較した場合に観察(解析)不能領域を生じにくくする
上記のうち、1、2は貼り合わせ画像内を同一条件で観察可能にするために設定される条件である。ここで、画像群としての適合度を判定しない場合、例えば
(i)撮影位置ごとにS730の(ii)の方針で貼り合わせ画像を生成した場合、上記条件2を満たせない場合が生じる。また
(ii)(i)を満たし、かつ条件2を満たすようにした場合、最も重ね合わせ枚数の少ない画像の重ね合わせ枚数に合わせることになるため、画像群としての適合度を判定して画像を選択する場合よりも画質が低下してしまう。そこで、隣接する画像の端部や重なり領域におけるデータの連続性や補完性を考慮した適合度判定を行うことで、条件1〜3を満たしつつ、より高画質な貼り合わせ画像を得る(多くの枚数で重ね合わせを行う)ことが可能になる。
本実施形態では図6(f)の灰色領域に示すような隣接する2画像間での重複領域と、図6(f)の黒色領域に示すような隣接する4画像間での重複領域が存在する。具体的には、以下の手順で画像群の適合度を判定する。
(1)S530で生成した個別画像(画質優先)を、S520で求めた位置合わせパラメータで貼り合わせる。
(2)経時画像比較部1333は、(1)で生成した貼り合わせ画像を過去の検査で生成した貼り合わせ画像と比較した場合の画像欠け領域の有無を調べる。
具体的には、各検査の画像群D1jfの貼り合わせ、つまりD1jfの論理和領域(∪D1jf)に対する論理積(∩(∪D1jf))を比較対象領域とする。本実施形態では比較対象(異なる検査)の画像群が3つあるので、各検査の画像群D1jfの貼り合わせ、つまり∪D1jfに対する論理積((∪D1j1)∩(∪D1j2)∩(∪D1j3))を比較対象領域とした場合の画像欠け領域の有無を調べる。
従って、画像群の適合度として
((1)で生成した貼り合わせ画像の面積−画像欠けの面積)
/((1)で生成した貼り合わせ画像の面積)
を算出する。なお、比較対象領域の設定法はこれに限定されず、任意の比較領域を設定してよい。また、手動で比較対象領域を設定しても良い。選択部134は、画像群としての適合度に基づき、該適合度が最も高くなるように各高倍率画像における画像選択を行い、選択された画像に基づいて画像群の形成処理を行う。
具体的には、以下の手順で画像選択を行い、画像群の形成処理を行う。
(3)もし画像欠けがなければそのまま貼り合わせ画像を形成して終了
(4)画像欠けがある場合は画像欠け領域の位置を求める。
(5)画像欠け領域が含まれる、もしくは画像欠け領域に隣接する辺をもつ画像の重複領域における補完(代替)データの有無を調べる。
(例えば図6(g)では画像6と画像9に画像欠けが生じているので、画像6と画像5の左端、画像9において補完データの有無を調べる)
(6)補完(代替)データがある場合は、補完データのうち最も画質の良い(重ね合わせ枚数の多い)補完データで画像欠け領域を置き換え、(8)を実行する
(7)補完(代替)データがない場合は、画像欠け領域が解消されるよう画像欠け領域が含まれる画像もしくは該領域に隣接する辺を持つ画像の選択フレームを変更する。もし画像欠け領域を解消するフレームの選択法が複数ある場合は、最も重ね合わせ枚数が多くなるフレーム選択法を用いる。
(8)(7)で得られた重ね合わせ画像群のうち、最も重ね合わせ枚数の少ない重ね合わせ画像の重ね合わせ枚数ANminを貼り合わせ画像の重ね合わせ枚数とし、各撮影位置での重ね合わせ枚数をANminに変更して再び重ね合わせ画像を生成する。
(9)(8)で生成した重ね合わせ画像を用いて貼り合わせ画像を生成する。
(図6(h)のように画像欠けがなくなり、重ね合わせ枚数が同一かつ最大の貼り合わせ画像が形成される)
なお、本実施形態では画像群としての適合度の判定に基づいて形成される
貼り合わせ画像は静止画像(重ね合わせ画像)としたが、本発明はこれに限定されない。例えば、隣接する動画像の端部や重なり領域におけるデータの補完性を考慮した適合度判定を行った上で、図6(j)に示すように動画像を貼り合わせ表示してもよい。
動画像の貼り合わせ表示の場合も基本的な処理の流れは静止画像の貼り合わせ表示の場合と同様であるが、以下の点が異なる。すなわち、
(i)画像処理装置10に対して図2(b)に示すような時相データ取得装置50を接続し、動画像と同時に時相データを取得しておく。時相データとは、例えば脈波計により取得された生体信号データである。時相データを参照することで各動画像の再生周期が得られる。動画像のフレーム補間処理によって該再生周期を動画像間(撮影位置間もしくは検査間、もしくはその両方)で同一に揃えておく。
(ii)撮影位置単位での画像形成処理において、輝度異常のフレームを除いた最長の連続したフレーム区間を選択する。
(iii)画像群としての適合度判定処理において、以下の方針で適合度判定を行う。
貼り合わせ画像内に画像欠け領域を生じない再生フレーム数(拍動周期)が撮影位置によって略同一である再生フレーム数(拍動周期)が検査間で略同一であるできるだけ多くのフレーム数(拍動周期)の動画像を貼り合わせ表示する
(iv)画像群としての画像形成処理の(6)(7)(8)において選択されるフレームは、連続したフレーム区間とする。
これにより、動画像の貼り合わせ表示において画像欠けがなくなり、再生フレーム数が同一かつ最長の連続したフレームの貼り合わせ動画像が形成される。なお、もし時相データが取得されていない場合には再生時刻を調整せずに動画像として貼り合わせ表示してもよい。また、本実施形態では画像群(静止画像群及び動画像群)の適合度として上記の条件1〜3を用いたが、本発明はこれに限定されず任意の適合度を設定して良い。
<ステップ550:表示>
表示制御部135は、S520で得られた位置合わせパラメータ及びS540で形成された画像群を用いて、広画角画像D2n上に高倍率画像D1jnを貼り合わせ表示する。
以上述べた構成によれば、画像処理装置10は、異なる撮影位置の高倍率な補償光学SLO画像を貼り合わせ表示する際に異なる検査で撮影(解析)された領域と比較した場合の観察(解析)不能領域の少なさに基づいて画像群としての適合度を判定する。これにより、観察もしくは解析対象の細胞や組織、及びそれらの病変が複数の高倍率画像にまたがっている場合に、略同一の条件で観察もしくは解析可能な貼り合わせ画像を生成できる。
[その他の実施形態]
上述の実施形態では画像群を1つ撮影して適合度を判定する場合について述べたが、本発明の実施形態はこれに限定されない。すなわち、図14(a)(b)に示すように1回の検査で複数の画像群を撮像する場合には、各画像群で上述の実施形態と同様にして画像を仮選択した後、画像群間の適合度を判定して該画像群間の適合度に基づいて画像を選択してもよい。
例えば、図14(a)のように各撮影位置で異なる倍率の補償光学SLO画像を取得して貼り合わせ画像を生成する場合には、まず倍率ごとに画像群としての適合度を判定して画像を仮選択する。それから倍率間での適合度(低倍率画像D2k群の撮像領域外にはみ出ていない高倍率画像D1j群の論理和領域の面積/高倍率画像D1j群の論理和領域の面積)を判定し、該画像群間の適合度に基づいて画像を選択してもよい。
また、図14(b)に示すように複数の画像群MnDhjを持つ場合(多配置型)には、まず上述の実施形態と同様に各画像群内で適合度を判定して画像を仮選択する。それから画像群間(例えば隣合う画像群間)の輝度特性に関する適合度(例えば画像群内の平均輝度もしくはS/N比の類似度)に基づき画像群間の適合度を判定し、該画像群間の適合度に基づいて画像を選択してもよい。なお、多配置型では各画像群は離れていてもよいし、隣接していても良いし、重なりがあっても良い。また、画像群の大きさ(例えば画像群を構成する画像の取得位置数)が画像群間で異なっている場合も本発明に含まれる。
なお、図14(c)に示すように多配置型の画像群が複数倍率で取得された場合には、異なる倍率の画像群間の適合度と異なる取得位置の画像群間の適合度のいずれを先に判定する場合も本発明に含まれる。
また、上述の実施形態では位置合わせ対象画像をSLO画像や眼部断層像として実現したが、本発明の実施形態はこれに限定されない。例えば、広画角画像Dlを眼底カメラ画像、高倍率画像Dhを補償光学眼底カメラ画像として実現してもよい。また、広画角画像Dlを広画角SLO画像、高倍率画像Dhを補償光学断層像の投影像、あるいは広画角画像Dlを補償光学断層像、高倍率画像を補償光学SLO画像のようにモダリティの異なる画像として実現してもよい。また、補償光学SLO像撮像装置20と断層像撮像装置60との複合機と、画像処理装置10が直接接続された構成として実現してもよい。
さらに、上述の実施形態では本発明を画像処理装置として実現したが、本発明の実施形態は画像処理装置のみに限定されない。例えばコンピュータのCPUにより実行されるソフトウェアとして実現しても良い。本ソフトウェアを記憶した記憶媒体も本発明を構成することは言うまでもない。
ここで、動画像から画像を選択する際には、複数の画像の端部と重なり領域とのうち少なくとも一つを利用することが好ましい。また、張り合わせ画像と複数の動画像それぞれの動画像よりも広い画角である広画角画像とを比較する比較手段(例えば、図1の画像群判定部133)を更に備えることが好ましい。これにより、判定手段は、比較手段による比較結果に基づいて連続性を示す値を判定することができる。また、選択された画像が張り合わせられた張り合わせ画像を表示手段に表示させる表示制御手段(例えば、図1の表示制御部135)を更に備えるが好ましい。また、貼り合わせ画像から血管を自動的に(あるいはユーザの手動による指示や半自動で)抽出し、抽出された血管における血球の移動速度等が計測されることが好ましい。なお、複数の画像については張り合わせずに、複数の画像それぞれの画像を並べて表示手段に表示させても良いし、1枚ずつ切り替えて表示手段に表示させても良い。
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (24)

  1. 異なる時間に眼部の異なる複数の位置それぞれで撮影して得た複数の画像から得られた代表画像であって、前記複数の位置に対応する複数の代表画像の特性の連続性を示す情報が所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択する選択手段と、
    前記選択された少なくとも1つの画像により得られた代表画像であって、前記複数の位置に対応する複数の代表画像を用いて、広範囲の画像を生成する画像生成手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記選択手段は、前記複数の代表画像の相対位置と輝度特性と画像特徴とのうち少なくとも1つの連続性を示す情報が所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択することを特徴とする請求項1に記載の画像処理装置。
  3. 前記選択手段は、前記複数の代表画像の端部と重なり領域とのうち少なくとも1つにおける前記複数の代表画像の特性の連続性を示す情報が所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記選択手段は、前記複数の代表画像を張り合わせて得た前記広範囲の画像の面積と無血管領域境界の長さとのうち少なくとも1つが前記連続性を示す情報として所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記複数の代表画像を張り合わせて得た前記広範囲の画像と前記複数の画像それぞれの画像よりも広い画角である広画角画像とを比較する比較手段を更に備え、
    前記選択手段は、前記比較手段による比較結果に基づいて、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択することを特徴とする請求項4に記載の画像処理装置。
  6. 異なる時間に眼部の異なる複数の位置それぞれで撮影して得た複数の画像から得られた代表画像であって、前記複数の位置に対応する複数の代表画像の画像群としての適合度を示す情報に基づいて、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択する選択手段と、
    前記選択された少なくとも1つの画像により得られた代表画像であって、前記複数の位置に対応する複数の代表画像を用いて、広範囲の画像を生成する画像生成手段と、
    を備えることを特徴とする画像処理装置。
  7. 前記選択手段は、同一検査または異なる検査の画像間の相対位置、輝度特性の連続性、画質の類似度、画像特徴の少なくとも1つが前記適合度を示す情報として所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択することを特徴とする請求項6に記載の画像処理装置。
  8. 前記選択手段は、前記画像群として異なる倍率の画像の画像群が得られている場合または前記画像群として取得位置の異なる複数の画像群が得られている場合に、各倍率の画像群の適合度を判定した上で、画像群間の相対位置、輝度特性の連続性、画質の類似度、の少なくとも一つを異なる倍率の画像群間の適合度として所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択することを特徴とする請求項6または7に記載の画像処理装置。
  9. 前記複数の代表画像を張り合わせて得た前記広範囲の画像を表示手段に表示させる表示制御手段を更に備えることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
  10. 前記選択された少なくとも1つの画像における血球の移動速度を計測する計測手段を更に備えることを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。
  11. 眼科装置と通信可能に接続され、前記眼科装置により異なる時間に前記眼部の異なる複数の位置それぞれで複数回撮影して得た複数の画像を取得する画像取得手段を更に備えることを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。
  12. 異なる時間に眼部の第1の領域で複数回撮影して得た第1の画像群のうち少なくとも1つの画像と、異なる時間に前記第1の領域とは異なる第2の領域で複数回撮影して得た第2の画像群のうち少なくとも1つの画像とを決定する決定処理を実行する決定手段において、前記第1の領域と前記第2の領域とが前記第1の画像群において決定された少なくとも1つの画像により得られた代表画像と前記第2の画像群において決定された少なくとも1つの画像により得られた代表画像とに含まれるように、前記決定処理を実行する決定手段と、
    前記第1の画像群において決定された少なくとも1つの画像により得られた代表画像と前記第2の画像群において決定された少なくとも1つの画像により得られた代表画像とを用いて、広範囲の画像を生成する画像生成手段と、
    を備えることを特徴とする画像処理装置。
  13. 前記決定手段は、前記第1の画像群において決定された少なくとも1つの画像により得られた代表画像と前記第2の画像群において決定された少なくとも1つの画像により得られた代表画像との類似度が閾値以上になるように、前記決定処理を実行することを特徴とする請求項12に記載の画像処理装置。
  14. 眼科装置と通信可能に接続され、前記眼科装置により前記眼部を複数回撮影して得た前記第1の画像群及び前記第2の画像群を取得する画像取得手段を更に備えることを特徴とする請求項12または13に記載の画像処理装置。
  15. 前記眼科装置は、前記眼部において測定光を走査する走査光学系を更に備え、前記画像取得手段は、前記眼部における前記第1の領域及び前記第2の領域で繰り返し前記測定光が走査されるように前記走査光学系が制御されることにより、前記第1の画像群及び前記第2の画像群を取得することを特徴とする請求項14に記載の画像処理装置。
  16. 前記眼科装置は、前記眼部において測定光を走査する走査光学系を更に備え、前記画像取得手段は、前記眼部における前記第1の領域及び前記第2の領域で繰り返し前記測定光が走査されるように前記眼部を固視するための固視標の位置が制御されることにより、前記第1の画像群及び前記第2の画像群を取得することを特徴とする請求項14に記載の画像処理装置。
  17. 前記眼科装置は、測定光と前記眼部からの戻り光とのうち少なくとも一つの光の波面を補正する波面補正デバイスを更に備え、
    前記画像取得手段は、前記波面が補正された光を用いて前記眼部を複数回撮影して得た前記第1の画像群及び前記第2の画像群を取得することを特徴とする請求項14乃至16のいずれか1項に記載の画像処理装置。
  18. 前記広範囲の画像は、複数の画像または画像群のうち1つの画像の撮影範囲よりも広い範囲の画像であることを特徴とする請求項1乃至17のいずれか1項に記載の画像処理装置。
  19. 前記複数の画像または画像群は、OCT断層画像であることを特徴とする請求項1乃至18のいずれか1項に記載の画像処理装置。
  20. 前記代表画像は、選択または決定された1つの画像と、選択または決定された複数の画像を重ね合わせて得た画像とのいずれかであることを特徴とする請求項1乃至19のいずれか1項に記載の画像処理装置。
  21. 異なる時間に眼部の異なる複数の位置それぞれで撮影して得た複数の画像から得られた代表画像であって、前記複数の位置に対応する複数の代表画像の特性の連続性を示す情報が所定の条件を満たすように、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択する工程と、
    前記選択された少なくとも1つの画像により得られた代表画像であって、前記複数の位置に対応する複数の代表画像を用いて、広範囲の画像を生成する工程と、
    を有することを特徴とする画像処理装置の作動方法。
  22. 異なる時間に眼部の異なる複数の位置それぞれで撮影して得た複数の画像から得られた代表画像であって、前記複数の位置に対応する複数の代表画像の画像群としての適合度を示す情報に基づいて、前記複数の位置それぞれで前記複数の画像から少なくとも1つの画像を選択する工程と、
    前記選択された少なくとも1つの画像により得られた代表画像であって、前記複数の位置に対応する複数の代表画像を用いて、広範囲の画像を生成する工程と、
    を有することを特徴とする画像処理装置の作動方法。
  23. 異なる時間に眼部の第1の領域で複数回撮影して得た第1の画像群のうち少なくとも1つの画像と、異なる時間に前記第1の領域とは異なる第2の領域で複数回撮影して得た第2の画像群のうち少なくとも1つの画像とを決定する決定処理を実行する工程において、前記第1の領域と前記第2の領域とが前記第1の画像群において決定された少なくとも1つの画像により得られた代表画像と前記第2の画像群において決定された少なくとも1つの画像により得られた代表画像とに含まれるように、前記決定処理を実行する工程と、
    前記第1の画像群において決定された少なくとも1つの画像により得られた代表画像と前記第2の画像群において決定された少なくとも1つの画像により得られた代表画像とを用いて、広範囲の画像を生成する工程と、
    を有することを特徴とする画像処理装置の作動方法。
  24. 請求項21乃至23のいずれか1項に記載の画像処理装置の作動方法の各工程をコンピュータに実行させることを特徴とするプログラム。
JP2018146716A 2018-08-03 2018-08-03 画像処理装置及び画像処理装置の作動方法 Active JP6594499B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018146716A JP6594499B2 (ja) 2018-08-03 2018-08-03 画像処理装置及び画像処理装置の作動方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018146716A JP6594499B2 (ja) 2018-08-03 2018-08-03 画像処理装置及び画像処理装置の作動方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014181342A Division JP6463048B2 (ja) 2014-09-05 2014-09-05 画像処理装置及び画像処理装置の作動方法

Publications (2)

Publication Number Publication Date
JP2018164814A true JP2018164814A (ja) 2018-10-25
JP6594499B2 JP6594499B2 (ja) 2019-10-23

Family

ID=63922247

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018146716A Active JP6594499B2 (ja) 2018-08-03 2018-08-03 画像処理装置及び画像処理装置の作動方法

Country Status (1)

Country Link
JP (1) JP6594499B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012115578A (ja) * 2010-12-02 2012-06-21 Nidek Co Ltd 眼科撮影装置
JP2012213513A (ja) * 2011-03-31 2012-11-08 Nidek Co Ltd 眼科撮影装置
JP2013070941A (ja) * 2011-09-29 2013-04-22 Nidek Co Ltd 眼科撮影装置
JP2013198719A (ja) * 2012-02-20 2013-10-03 Canon Inc 画像処理装置及び画像処理方法
WO2014103501A1 (ja) * 2012-12-28 2014-07-03 興和株式会社 画像処理装置、画像処理方法、画像処理プログラム及びそのプログラムを格納した記録媒体
JP2014128366A (ja) * 2012-12-28 2014-07-10 Canon Inc 眼科装置および位置合わせ方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012115578A (ja) * 2010-12-02 2012-06-21 Nidek Co Ltd 眼科撮影装置
JP2012213513A (ja) * 2011-03-31 2012-11-08 Nidek Co Ltd 眼科撮影装置
JP2013070941A (ja) * 2011-09-29 2013-04-22 Nidek Co Ltd 眼科撮影装置
JP2013198719A (ja) * 2012-02-20 2013-10-03 Canon Inc 画像処理装置及び画像処理方法
WO2014103501A1 (ja) * 2012-12-28 2014-07-03 興和株式会社 画像処理装置、画像処理方法、画像処理プログラム及びそのプログラムを格納した記録媒体
JP2014128366A (ja) * 2012-12-28 2014-07-10 Canon Inc 眼科装置および位置合わせ方法

Also Published As

Publication number Publication date
JP6594499B2 (ja) 2019-10-23

Similar Documents

Publication Publication Date Title
JP6108827B2 (ja) 眼科装置および位置合わせ方法
JP6463048B2 (ja) 画像処理装置及び画像処理装置の作動方法
JP6463047B2 (ja) 眼科装置及び眼科装置の作動方法
US9517004B2 (en) Information processing apparatus, information processing method and computer readable storage medium
JP5822485B2 (ja) 画像処理装置、画像処理方法、画像処理システム、slo装置、およびプログラム
JP5989523B2 (ja) 眼科装置
JP6220022B2 (ja) 眼科装置
JP6504903B2 (ja) 眼科撮像装置、その作動方法、及びコンピュータプログラム
JP6594499B2 (ja) 画像処理装置及び画像処理装置の作動方法
JP6882242B2 (ja) 眼科装置およびその制御方法
JP2018023818A (ja) 眼科観察装置
JP6732093B2 (ja) 情報処理装置、情報処理装置の制御方法、及び、コンピュータプログラム
JP6636188B2 (ja) 情報処理装置、情報処理装置の制御方法、及び、コンピュータプログラム
JP6419238B2 (ja) 眼科装置および位置合わせ方法
JP6465930B2 (ja) 情報処理装置、情報処理装置の制御方法、及び、コンピュータプログラム
WO2020209012A1 (ja) 画像解析方法及び画像解析装置
JP2019054990A (ja) 眼科撮影装置、その制御方法、プログラム、及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180809

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190320

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190827

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190924

R151 Written notification of patent or utility model registration

Ref document number: 6594499

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151