以下、実施例を図面を参照して詳細に説明する。ただし、以下の実施例で説明する波長等の数値及び構成要素の相対的な位置等は任意であり、装置の構成又は様々な条件に応じて変更できる。また、図面において、同一であるか又は機能的に類似している要素を示すために図面間で同じ参照符号を用いる。また、各図面において説明上重要ではない構成要素、部材、処理の一部は省略して表示する場合がある。
(実施例1)
図1乃至図9を参照して、実施例1による画像処理装置について説明する。本実施例に係る画像処理装置は、2次元パノラマ画像を生成するために必要な深さ範囲のEn-Face画像を用いて位置合わせを行うため、複数の3次元画像から効率的に2次元パノラマ画像を生成することができる。なお、以下において、被検査物として被検眼を例として説明する。
(本体構成)
図1は、本実施例による画像処理装置の概略的な全体構成を示す。画像処理装置には、撮影光学系100、制御部101、入力部102、表示部103及び記憶部104が設けられている。
撮影光学系(撮影装置)100は、被検眼の前眼部像やSLO(Scanning Laser Ophothalmoscope:走査型検眼鏡)眼底像、断層像に関するデータを取得する。具体的には撮影装置100はOCT装置を含んでおいる。すなわち、撮影装置100は光干渉断層計を含む。撮影光学系100は、電動ステージ等によってベース部分より上部がXYZ方向に移動可能である。
制御部(情報処理装置)101は、撮影光学系100、入力部102、表示部103及び記憶部104に接続される。制御部101は、撮影光学系100の撮影制御、取得した前眼部像やSLO眼底像、断層像に関するデータの解析・再構成、並びに前眼部画像、SLO画像、断層画像及びOCTA画像などの生成を行う。制御部101は、汎用のコンピュータを用いて構成されることができるが、OCT装置の専用コンピュータとして構成されてもよい。入力部102は、制御部101への指示を行うための入力装置であり、例えば、キーボードやマウス等から構成される。表示部103は、制御部101から送られる各種情報や各種画像、入力部102の操作に従ったマウスカーソル等を表示する。表示部103は任意のモニタを用いて構成されることができる。記憶部104は、断層画像の撮像用のプログラム、画像処理方法に関するプログラム、患者情報、撮像データ、及び正常データベースの統計情報などを記憶する。記憶部104は、例えば、ハードディスクなどの任意の記憶装置やRAMやROM等によって構成されることができる。なお、本実施例においては、撮影光学系100、制御部101、入力部102、表示部103及び記憶部104はそれぞれ別個に構成されているが、これらは一部又は全体が一体として構成されてもよい。
(撮影光学系及びベースの構成)
次に、図2を参照して撮影光学系100の構成について説明する。図2は、撮影光学系100の概略的な構成を示す。
まず、撮影光学系100の内部について説明する。被検眼200に対向して対物レンズ201が設置されている。対物レンズ201の光軸上には、第1ダイクロイックミラー202及び第2ダイクロイックミラー203が設けられている。対物レンズ201からの光路は、第1及び第2ダイクロイックミラー202,203によって、OCT光学系の光路250、SLO光学系と固視灯用の光路251、及び前眼観察用の光路252が光路を通る光の波長帯域ごとに分岐される。
本実施例では、第1ダイクロイックミラー202の透過方向にOCT光学系の光路250並びにSLO光学系と固視灯用の光路251が配置され、反射方向に前眼部観察用の光路252が配置される。また、第2ダイクロイックミラー203の透過方向にSLO光学系と固視灯用の光路251が配置され、反射方向にOCT光学系の光路250が配置される。しかしながら、これらの光路の配置は当該配置に限られず、第1ダイクロイックミラー202及び第2ダイクロイックミラー203の透過方向並びに反射方向にそれぞれ逆の配置となるように各光路が配置されてもよい。
SLO光学系と固視灯用の光路251は、SLO眼底像の取得と被検眼200の固視の用途に用いられる。光路251には、SLO走査手段204、レンズ205,206、ミラー207、第3ダイクロイックミラー208、フォトダイオード209、SLO光源210、及び固視灯211が設けられている。なお、光路251上の固視灯211以外の構成要素はSLO光学系を構成する。
SLO走査手段204は、SLO光源210と固視灯211から発せられた光を被検眼200上で走査する。SLO走査手段204は、X方向に走査するXスキャナ、Y方向に走査するYスキャナから構成されている。本実施例では、Xスキャナはポリゴンミラーによって、Yスキャナはガルバノミラーによって構成されている。しかしながら、Xスキャナ及びYスキャナはこれに限られず、所望の構成に応じて任意の偏光手段を用いて構成することができる。
レンズ205は合焦レンズであり、SLO光学系及び固視灯の焦点合わせのため、制御部101によって制御される不図示のモータにより、図中矢印で示される光軸方向に沿って駆動される。
ミラー207は、穴あきミラーや中空のミラーが蒸着されたプリズムであり、SLO光源210による照明光及び固視灯211からの光と、被検眼200からの戻り光とを分離する。具体的には、ミラー207は、SLO光源210からの照明光及び固視灯からの光を通過させ、被検眼200からの戻り光を反射してフォトダイオード209に導く。なお、ミラー207の通過方向にフォトダイオード209が設けられ、反射方向に第3ダイクロイックミラー208、SLO光源210及び固視灯211が設けられてもよい。
第3ダイクロイックミラー208は、光路251をSLO光源210への光路と固視灯211への光路とに光路251を通る光の波長帯域ごとに分岐する。具体的には、第3ダイクロイックミラー208の透過方向に固視灯211が設けられ、反射方向にSLO光源210が設けられている。なお、第3ダイクロイックミラー208の透過方向にSLO光源210が配置され、反射方向に固視灯211が設けられてもよい。
フォトダイオード209は、被検眼200からの戻り光を検出し、戻り光に対応する信号を生成する。制御部101は、フォトダイオード209によって生成された信号(SLO信号)に基づいて被検眼200の眼底の正面画像(SLO画像)を得ることができる。
SLO光源210は例えば780nm付近の波長の光を発生する。SLO光源210から発せられた光は、第3ダイクロイックミラー208で反射され、ミラー207を通過し、レンズ206,205を通り、SLO走査手段204によって、被検眼200上で走査される。被検眼200からの戻り光は、照明光と同じ経路を戻った後、ミラー207によって反射され、フォトダイオード209へと導かれる。フォトダイオード209の出力信号を制御部101によって処理することで、被検眼200のEn-Face画像を得ることができる。
なお、本明細書において、En-Face画像とは、OCT装置で取得された3次元データ(3次元ボリュームデータ)に対して、所望の深さ範囲(膜厚方向の範囲)を設定し、その範囲内のボクセルのデータ値から生成される2次元正面画像をいう。例えば、制御部101は、深さ方向におけるデータ値の最大値、最小値、平均値または中央値を求めることで2次元正面画像を生成する。ここで、データ値とは、3次元データから生成された3次元画像の画素値であってよく、例えば、輝度値や、偏光を用いて取得することができるリターデーション等の偏光パラメータの値であってよい。また、データ値は、干渉光の干渉スペクトルに含まれる被検体の断層に関する情報であってもよい。En-Faceの技術を用いて取得できる画像には、輝度値を画素値としたEn-Face輝度画像や、OCTを用いた血管造影法(OCT Angiography:OCTA)によって得られるOCTA画像などが含まれる。
固視灯211は、可視光を発生して被検者の固視を促すことができる。固視灯211から発せられた光は、第3ダイクロイックミラー208を透過し、ミラー207、及びレンズ206,205を通り、SLO走査手段204によって、被検眼200上で走査される。この時、制御部101によって、SLO走査手段204の動きに合わせて固視灯211を点滅させることで、被検眼200上の任意の位置に任意の形状をつくり、被検者の固視を促すことができる。
なお、本実施例では、眼底を観察するための眼底観察系としてSLOを用いているが、眼底観察系の構成はこれに限られない。例えば、眼底を撮影する眼底カメラ等の既知の観察系を用いて眼底観察系を構成してもよい。
次に、前眼部観察用の光路252には、レンズ212,213、スプリットプリズム214、及び赤外光を検知する前眼部観察用のCCD215が設けられている。なお、前眼部観察用の光路252に配置されるこれらの構成要素は、前眼部観察光学系を構成する。
光路252では、不図示の前眼部観察用光源から970nm付近の波長を有する光が被検眼200の前眼部に対して照射される。被検眼200の前眼部からの反射光は対物レンズ201、第1ダイクロイックミラー202、及びレンズ212を介してスプリットプリズム214に入射する。
スプリットプリズム214は、被検眼200の瞳孔と共役な位置に配置されている。スプリットプリズム214から出射された光はレンズ213を介してCCD215に入射する。
CCD215は、不図示の前眼部観察用光源からの照射光の波長、具体的には970nm付近に感度を持つ。CCD215は、前眼部からの反射光を検出し、前眼部からの反射光に対応する信号を生成する。制御部300は、CCD215によって生成された信号に基づいて、被検眼200の前眼部画像を生成することができる。この際、制御部101は、CCD215によってスプリットプリズム214を通った反射光を検出することで、前眼部のスプリット像から被検眼200に対する撮影光学系100のZ方向(深さ方向)の距離を検出することができる。生成される前眼部画像は、撮影光学系100と被検眼200とのアライメント時などに用いられることができる。
次に、OCT光学系の光路250について説明する。光路250は、前述の通りOCT光学系用の光路を成しており、被検眼200の断層画像を形成するための干渉信号の取得に用いられる。光路250には、XYスキャナ216、及びレンズ217,218が設けられている。
XYスキャナ216は、測定光を被検眼200上で走査するためのOCT走査手段を構成する。XYスキャナ216は1枚のミラーとして図示されているが、X軸及びY軸方向の走査をそれぞれ行う2枚のガルバノミラーで構成されている。なお、XYスキャナ216の構成はこれに限られず、任意の偏光手段を用いて構成されることができる。また、XYスキャナ216は、MEMSミラー等の1枚で2次元方向に光を偏向させられる偏向ミラーによって構成されてもよい。
レンズ217は、光カプラー219に接続されている光ファイバー224から出射する測定光を被検眼200に焦点合わせするために用いられる合焦レンズである。レンズ217は、制御部101によって制御される不図示のモータにより、図中矢印で示される測定光の光軸方向に駆動される。この焦点合わせによって、被検眼200からの測定光の戻り光は同時に光ファイバー224の先端に、スポット状に結像されて入射される。なお、光ファイバー224、光路250に配置される各光学部材、第1及び第2ダイクロイックミラー202,203、並びに対物レンズ201等は、OCT光学系において測定光が伝播するOCT測定光学系を構成する。
次に、OCT光源220からの光路と参照光学系、分光器230の構成について説明する。光ファイバー224は、光カプラー219に接続されている。光カプラー219には、OCT測定光学系の光ファイバー224、OCT光源220に接続された光ファイバー225、OCT参照光学系の光ファイバー226、及び分光器230に接続された光ファイバー227が接続されている。光カプラー219は、OCT光源220からの光を測定光と参照光に分割する分割器、及び被検眼200からの測定光の戻り光と参照光とを干渉させ、干渉光を発生させる干渉部として機能する。本実施例において、光ファイバー224~227は、光カプラー219に接続されて一体化しているシングルモードの光ファイバーである。
OCT光源220は、代表的な低コヒーレント光源であるSLD(Super Luminescent Diode)である。本実施例では、OCT光源220として、中心波長が855nm、波長バンド幅が約100nmのものを用いている。ここで、バンド幅は、得られる断層画像の光軸方向の分解能に影響するため、重要なパラメータである。
なお、本実施例ではOCT光源220としてSLDを用いたが、OCT光源220としては、低コヒーレント光が出射できればよく、ASE(Amplified Spontaneous Emission)等を用いることもできる。また、眼を測定することを鑑みて中心波長が近赤外光のものを用いることができる。また、中心波長は得られる断層画像の横方向の分解能に影響し、なるべく中心波長が短波長のものを用いてもよい。本実施例では、上記双方の理由から中心波長855nmの光源を用いている。
OCT光源220から出射された光は、光ファイバー225を通じ、光カプラー219を介して、光ファイバー224等のOCT測定光学系を伝播する測定光と、光ファイバー226等のOCT参照光学系を伝播する参照光とに分割される。測定光は、偏光調整部228、前述のOCT光学系の光路250を通じ、観察対象である被検眼200に照射され、被検眼200による反射や散乱により、戻り光として同じ光路を通じて光カプラー219に到達する。
一方、参照光は光ファイバー226、偏光調整部229、レンズ223、及び測定光と参照光の分散を合わせるために挿入された分散補償ガラス222を介して参照ミラー221に到達し反射される。そして、同じ光路を戻り、光カプラー219に到達する。ここで、光ファイバー226、偏光調整部229、レンズ223、分散補償ガラス222、及び参照ミラー221はOCT参照光学系を構成する。偏光調整部228は、光ファイバー224中に設けられた測定光側の偏光調整部である。偏光調整部229は、光ファイバー226中に設けられた参照光側の偏光調整部である。偏光調整部228,229は光ファイバーをループ状にひきまわした部分を幾つか有する。偏光調整部228,229では、このループ状の部分をファイバーの長手方向を中心として回動させることでファイバーに捩じりを加え、測定光と参照光の偏光状態を各々調整して合わせることができる。
被検眼200からの測定光の戻り光と参照光は、光カプラー219によって合波され干渉光となる。ここで、測定光の光路長と参照光の光路長がほぼ等しい状態となったときに、測定光の戻り光と参照光は互いに干渉し、干渉光となる。参照ミラー221は、制御部300によって制御される不図示のモータ及び駆動機構により、図中矢印で示される参照光の光軸方向に調整可能に保持され、被検眼200の被測定部によって変わる測定光の光路長に参照光の光路長を合わせることが可能である。干渉光は、光ファイバー227を介して分光器230に導かれる。
分光器230には、レンズ232,234、回折格子233、及びラインセンサ231が設けられている。光ファイバー227から出射された干渉光は、レンズ234を介して略平行光となった後、回折格子233で分光され、レンズ232によってラインセンサ231に結像される。なお、ラインセンサ231は、干渉光を受光して、干渉光に応じた出力信号を出力する受光素子の一例として示される。制御部300は、ラインセンサ231によって生成された信号に基づいて、被検眼200の断層に関する情報を取得し、断層画像を生成することができる。
本実施例では、上記構成のように、干渉系としてマイケルソン干渉系を用いたが、マッハツェンダー干渉系を用いてもよい。例えば、測定光と参照光との光量差に応じて、光量差が大きい場合にはマッハツェンダー干渉系を、光量差が比較的小さい場合にはマイケルソン干渉系を用いることができる。
画像処理装置では、以上のような構成により、被検眼200の断層画像を取得することができ、且つ、近赤外光であってもコントラストの高い被検眼200のSLO画像等を取得することができる。
また、撮像光学系100の構成は、上記の構成に限られず、撮像光学系100に含まれる構成の一部を撮像光学系100と別体の構成としてもよい。
(制御部の構成)
図3を参照して、制御部101の構成について説明する。図3は、制御部101の構成を概略的に示す。制御部101には、取得部301、3次元画像生成部302、選択部303、En-Face画像生成部304、パノラマ画像生成部305が設けられている。
取得部301は撮影光学系100のラインセンサ231の出力信号から被検眼の断層画像を取得する。例えば、取得部301は、取得した被検眼200のある一点における深さ方向(Z方向)の断層データを輝度或いは濃度情報に変換し、当該一点における深さ方向の断層画像を取得する。すなわち、眼底の3次元断層画像を取得する。なお、被検査物の一点における深さ方向の干渉信号を取得するためのスキャン方式をAスキャンと呼び、得られる断層画像をAスキャン画像と呼ぶ。なお、断層画像の生成方法は公知の手法により実現可能であるため詳細な説明は省略する。XYスキャナ216によって測定光を被検査物の所定の横断方向に走査しながら、このようなAスキャンを繰り返し行うことにより、複数のAスキャン画像を取得することができる。例えば、測定光をXYスキャナ216によってX方向に走査すればXZ面における断層画像が得られ、Y方向に走査すればYZ面における断層画像が得られる。このように被検査物を所定の横断方向に走査する方式をBスキャンと呼び、得られる断層画像をBスキャン画像と呼ぶ。
3次元画像生成部302は、取得部301で取得した複数の断層画像に基づいて3次元画像を生成する。例えば、図4のように撮影光学系100で被検眼200の特定の部位の断層画像40-1~40-nを連続的に取得して座標系に並べることで、3次元画像400を生成することができる。また、取得部301は、各部位の断層画像からモーションコントラスト画像を生成し、生成した各部位のモーションコントラスト画像を座標系に配置することで3次元モーションコントラスト画像を生成することができる。例えば、取得部301は、略同一位置における複数回のBスキャンにより取得された複数の断層像間の脱相関をモーションコントラスト値とするモーションコントラスト画像を取得する。なお、モーションコントラスト画像の生成方法としては公知の種々の手法を用いることが可能である。また、本明細書では3次元画像(3次元輝度画像)およびモーションコントラスト画像をボリュームデータと総称する。
すなわち、3次元画像生成部302は、3次元断層画像に基づくボリュームデータを複数取得する取得手段の一例に相当する。以降の実施例においては3次元画像を用いた説明を行うが、3次元画像を3次元モーションコントラスト画像に置き換えることも可能である。これは、本明細書の他の実施例においても同様である。
本実施例において、取得部301と3次元画像生成部302は同一被検眼上の異なる部位の断層画像群40-1~40-nおよび3次元画像400を取得する。
ここで、図5を参照してパノラマ撮影による3次元画像の取得方法を説明する。撮影光学系100は、制御部101が有する同一被検眼の異なる部位の断層画像を複数取得するためのモードである、パノラマ撮影モードに応じて動作する。本モードでは、例えば被検眼の部分領域501の撮影が終了すると、内部固視灯が移動して被検眼の視線を異なる方向へ誘導する。この状態で撮影することで、部分領域501とは異なる、部分領域502の断層画像を取得することができる。同様の処理を連続して行うことで、部分領域503、504などの断層画像を取得部301が取得し、3次元画像生成部302で異なる部位それぞれの3次元画像400を生成する。パノラマ撮影モードで撮影された複数の3次元画像には、例えばパノラマ撮影モードで撮影されたことを示す情報が付加される。従って、選択部303は、この付加された情報に基づいてパノラマ撮影モードで撮影された複数の3次元画像を選択することが可能となる。
なお、パノラマ撮影モードで撮影した断層画像に基づく広角のパノラマ画像を生成する場合、部分領域501と部分領域502の少なくとも一部の領域が重なるように内部固視灯を移動することが望ましい。例えば、部分領域501と部分領域502の面積の各25%の領域が重なるように内部固視灯を移動する。なお、各部分領域の重なる領域の割合はこれに限定されない。このように、複数のボリュームデータは、隣接するボリュームデータ間で少なくとも1部重なる領域を有する。
また、部分領域同士が接するように内部固視灯が移動してもよい。また、本実施例では固視灯を移動することにより、4つの部分領域を取得したが、部分領域の数はこれに限定されない。
なお、上記取得部301と3次元画像生成部302で得られた3次元画像400は、撮影光学系100から取得したデータに基づいて生成されたものであるが、既に取得された不図示のデータベースから取得した断層画像や3次元画像でもよい。
選択部303は、2次元のパノラマ画像を生成するための合成対象を選択する。合成対象は、自動で選択してもよいし、操作者からの指示を受付ける構成にしてもよい。例えば、上記パノラマ撮影モードを使用して撮影された複数の3次元画像400を合成対象として自動的に選択し、操作者によって合成対象に追加したり合成対象から外したりできるようにしてもよい。ここで、合成対象は例えばボリュームデータである。すなわち、選択部303は、パノラマ画像を生成するための複数のボリュームデータを選択する選択手段の一例に相当する。
En-Face画像生成部304は選択部303で選択した合成対象のEn-Face画像を、3次元画像生成部302で生成した3次元画像400から生成する。図4の符号410は、画像処理装置により生成されたEn-Face画像の一例である。En-Face画像410は、3次元画像400の3次元画像400の網膜の深さ方向(膜厚方向)の任意の範囲である基準範囲をZ方向に投影した画像である。具体的には、En-Face画像生成部304は、複数の断層画像40-1~40-nで構成される3次元画像400における特定の深さの範囲のみ情報を抽出し、XY平面に投影することで、En-Face画像410を生成する。より具体的には、XY軸方向の各画素位置において、3次元データ400の深さ方向の所定の範囲におけるデータ(画素値)を積算した値を当該画素位置の画素値として決定し、En-Face画像410を生成する。
なお、3次元画像400からEn-Face画像410を生成する場合には、深さ方向の所定の範囲における画像を積算する以外に、当該画像を可算平均して各画素位置の画素値を決定してもよい。また、深さ方向の所定の範囲における画像から代表値を決め、当該代表値を各画素位置の画素値として決定してもよい。代表値の決め方としては、深さ方向の所定の範囲における画像を画素値に応じて昇順又は降順に並べて中央の値を代表値としてもよいし、深さ方向の所定の範囲における画像のうちの一番高い値若しくは一番低い値、又は平均値を代表値としてもよい。なお、3次元画像を構成する断層画像の枚数nは所望の構成に応じて任意の数であってよい。また、ここでは、3次元画像400を断層画像40-1~40-nから構成される画像としているが、3次元画像400は断層画像40-1~40-nに対応する2次元データ(OCT干渉信号)によって構成される画像であってもよい。
パノラマ画像生成部305は、En-Face画像生成部304で生成したEn-Face画像を位置合わせして合成し、パノラマ画像を生成する。なお、位置合わせを行うEn-Face画像同士は一部領域が重なるように位置合わせを行い合成してもよいし、En-Face画像同士が接するように位置合わせを行い合成してもよい。生成されたパノラマ画像は表示部103に表示される。また、パノラマ画像生成部305は、3次元画像の異なる深さ範囲から生成された複数のEn-Face画像を複合した複合画像を生成する。そして、パノラマ画像生成部305は、複数の3次元画像から生成された複数の複合画像を位置合わせすることで1枚の複合パノラマ画像を生成する。すなわち、パノラマ画像生成部305は、複数のボリュームデータそれぞれに設定された、第1基準範囲から生成されるEn-Face画像と第2基準範囲から生成されるEn-Face画像とを複合した複合画像を複数生成する複合画像生成手段の一例に相当する。また、パノラマ画像生成部305は、複数の複合画像を位置合わせすることにより1つの複合パノラマ画像を生成する複合パノラマ画像生成手段の一例に相当する。
(ユーザーインターフェースの構成)
図6を参照して、本実施例に係るパノラマ画像生成のためのユーザーインターフェースの構成について、説明する。図6は、制御部101が表示部103に表示させるインターフェースの一例であり、パノラマ画像を生成する際に表示されるユーザーインターフェースの一例である。
表示部103は、撮影光学系100による撮影の終了後、画面上にパノラマ画像を生成するためのユーザーインターフェースを表示部103に表示する。表示部103には、画像選択領域610、眼底画像表示領域620、断層画像表示領域630、En-Face画像表示領域640、合成指示ボタン650、合成対象選択画面660、パノラマ画像表示領域670が設けられている。
画像選択領域610には被検眼200で撮影された3次元画像又は3次元画像を含む検査データのセットがリストとして表示される。本実施例では3つの検査が候補として表示されている。なお、表示される検査データの数はこれに限定されない。画像選択領域610では、操作者が操作部102を使用してパノラマ合成を行うための調整を行う代表3次元画像611を選択できる。画像選択領域内610は候補を選択しやすいように、本実施例では3つの選択候補に対応して、それぞれの眼底画像と断層画像を表示している。また、リストで表示される画像は不図示のデータベースに保存されている被検眼200のデータを表示してもよい。さらに、リストは撮影日時や左右眼、撮影モードなどで検索や並べ替えがされていてもよい。
眼底画像表示領域620には、現在選択されている代表3次元画像611に対応した眼底画像621が表示されている。眼底画像621は、例えば代表3次元画像611と略同時に撮影された画像である。眼底画像621は撮影光学系100で撮影されたSLOや別途撮影された眼底カメラの画像をインポートして3次元画像と紐づけたものでもよい。眼底画像621上には選択された代表3次元画像611を撮影した領域を示す撮影領域アノテーション622が表示され、撮影領域アノテーション622内には断層画像表示部630に表示する断層画像631の位置を示す断層画像位置アノテーション623が表示される。
断層画像表示領域630には、眼底画像表示領域620上の断層画像位置アノテーション623の位置にあたる断層画像631を表示する。断層画像位置アノテーション623は操作者によるマウスドラッグやキーボードの矢印キーによって動かすことができ、断層画像630は断層画像位置アノテーション623の位置変更に応じて、表示する断層画像631を変更する。制御部101は、断層画像631に、En-Face画像表示領域640に表示するEn-Face画像並びにパノラマ画像生成部305でパノラマ画像を生成する対象となるEn-Face画像を生成する基準範囲の上端632および下端633を重畳して表示部103に表示させる。なお、上端632および下端633のデフォルトの表示位置は任意の位置に設定することが可能である。さらに、選択した代表3次元画像611が3次元モーションコントラストデータを持つ場合は、モーションコントラストのXZ断面画像を表示したり、断層画像上にモーションコントラスト情報を重ねて表示したりしてもよい。
En-Face画像表示部640には、断層画像表示領域630上で設定した基準範囲の上端632および下端633を基にEn-Face画像生成部304で生成したEn-Face画像641を表示する。選択された代表3次元画像611が3次元モーションコントラストデータを持つ場合は、3次元モーションコントラストデータから生成したEn-Face画像(OCTA画像)641を表示してもよい。基準範囲の上端632および下端633は、マウス等を介した操作者の操作により位置を変更することが可能である。なお、基準範囲の上端632および下端633の変更に応じて、En-Face画像表示部640に表示されるEn-Face画像641はEn-Face画像生成部304で再度生成し直され、新しいEn-Face画像641として更新される。
合成指示ボタン650は、パノラマ画像の生成プロセスを開始するボタンである。操作者が合成指示ボタンを選択すると、合成対象選択画面660が表示部103上に表示される。
合成対象選択画面660は、パノラマ画像を生成する基となる3次元画像の候補のリストを表示する。なお、例えば、代表3次元画像611としてパノラマ撮影モードで撮影された画像が選択された場合には、合成対象選択画面660には同じパノラマ撮影モードで撮影された他の画像が候補として表示される。
操作者は、操作部102を用いて合成する複数の合成対象3次元画像661を合成対象選択画面660上で選択する。合成対象3次元画像661を選択後、操作者は合成実施の判断を、合成指示ボタン662を使って行う。なお、代表3次元画像611は必ず合成対象となるものとして、合成対象選択画面660のリストには含まれなくてもよい。合成指示ボタン662が選択されるとパノラマ画像生成部305はパノラマ画像を生成する。
パノラマ画像表示領域670は、画像選択領域610及び合成対象選択画面660で選択された複数の3次元画像と断層画像表示領域630で指定した基準範囲とからパノラマ画像生成部305によって生成されたパノラマ画像731を表示する。
(本実施例に係るパノラマ画像生成フロー)
次に、図7および図8を参照して本実施例に係るパノラマ画像生成処理のフローについて説明する。図7は本実施例に係るパノラマ画像生成処理の操作のフローチャート、図8は本実施例に係るパノラマ画像生成処理の動作のフローチャートを示す。
パノラマ撮影モードを使用して取得された複数の3次元断層画像それぞれから、特定の基準範囲のEn-Face画像を生成し、それらを合成(位置合わせ)する際、基準範囲によってはEn-Face画像間の情報量が乏しく、合成の精度や成功率が下がる。そこで、本実施例に係るパノラマ画像生成処理では、En-Face画像生成部304は、図6に示すインターフェースにより設定された深さ範囲(第2基準範囲)のEn-Face画像に追加して、予めユーザ若しくは制御部101によりセットされた合成の精度や成功率の高い基準範囲(第1基準範囲)のEn-Face画像を生成する。第1基準範囲は例えば表層である。ここで、表層とは例えば内境界膜から内顆粒層の上端までの層の少なくとも一部を含む層であり、明瞭な血管が他の層に比べて多いことから位置合わせに好適な層である。本実施例では、この表層のEn-Face画像を位置合わせに利用することでEn-Face画像の位置合わせの精度や成功率を向上させる。なお、図6に示すインターフェースを介してユーザが表層を指定した場合には、追加のEn-Face画像を生成する必要はない。
具体的には、ステップS700で操作者は例えば図6に示したユーザーインターフェースを介して、合成対象となる3次元断層画像の中から、パノラマ画像の生成条件(深さ範囲等の条件)を設定するための、代表3次元画像611を選択する。代表3次元画像611の選択によって、制御部101は、表示部103上の眼底画像表示領域620、断層画像表示領域630に、眼底画像621、断層画像631を表示する。すなわち、制御部101は、ボリュームデータに含まれる断層画像を表示手段に表示させる表示制御手段の一例に相当する。
ステップS710で、操作者は合成するEn-Face画像の生成条件を設定する。まず、ステップS700で選択した代表3次元画像611からEn-Face画像の生成条件となる基準範囲を決めるための断層画像631の位置を眼底画像621上の断層画像位置アノテーション623を動かして設定する。なお、断層画像位置アノテーション623のデフォルト位置から必ず動かす必要はない。
次に、操作者は、断層画像表示領域630に表示された断層画像631631上で、En-Face画像の生成条件となる基準範囲を上端632および下端633を動かして設定する。En-Face画像生成部304は、基準範囲の上端632および下端633の変更を受付ける。すなわち、En-Face画像生成部304は、第2基準範囲のユーザによる指定を受付ける受付手段の一例に相当する。なお、基準範囲の上端632と下端633は予め定義された位置をプルダウンで指定することにより設定されてもよい。例えば、プルダウンで「表層血管」という項目を指定した場合、神経線維層の上端(または内境界膜)と内網状層の下端(内顆粒層の上端)の位置に上端632と下端633がそれぞれ設定される。また、本実施例では一例として上端632と下端633を点線で表したが、実線でもよい。さらに、上端632と下端633で線の態様は同じでも異なっていてもよい。
なお、プルダウンで基準範囲を設定した後に操作者がマウスドラッグやキーボードの矢印キーにより微調整を行ってもよい。また、操作者が基準範囲の微調整を行った場合、En-Face画像生成部304は、その情報を記憶部104に記憶させておき、次にプルダウンでその項目が指定されたときは微調整を行った後の基準範囲が指定されるように上端632と下端633の定義された位置を更新してもよい。
基準範囲は、予め記憶部104に断層画像を解析した層境界や層境界からの一定距離などを記憶しておき設定することができる。また、基準範囲の上端632および下端633は断層画像上の任意の直線でもよいが、その場合は断層画像間の深さ方向の位置合わせを行った上で設定される。なお、設定した基準範囲に対して、En-Face画像生成部304により代表3次元画像611のEn-Face画像641がEn-Face画像表示領域640上に表示されるので、操作者はEn-Face画像を確認しながら基準範囲を調整することができる。
なお、断層画像に重畳される基準範囲の上端632および下端633は、第2基準範囲のものに限定されるものではなく、制御部101は、第1基準範囲の上端および下端を第2基準範囲の上端および下端と同時または切り替え可能に表示部103に表示させてもよい。すなわち、表示制御手段の一例である制御部101は、断層画像上に第1基準範囲および第2基準範囲の少なくとも一方を示す線を重畳して表示手段に表示させる。また、第1基準範囲の上端および下端を第2基準範囲の上端および下端と同時に表示部103に表示させる場合、制御部101は第1基準範囲の上端および下端の表示形態と第2基準範囲の上端および下端の表示形態とを異なる形態で表示部103に表示させることとしてもよい。すなわち、表示制御手段の一例である制御部101は、第1基準範囲および第2基準範囲それぞれを示す線を表示手段に表示させる場合、第1基準範囲を示す線の表示態様と第2基準範囲を示す線との表示態様を異なる態様で表示手段に表示させる。 ステップS720で、選択部303は、操作者からの指示に応じて合成する3次元断層画像の対象を選択する。まず、合成ボタン650が操作者により押下げられると、表示部103は合成対象選択画面660を表示する。合成対象選択画面660には、代表3次元画像611と合成する候補となる3次元画像が表示される。合成対象選択画面660を表示部103に表示させる制御部101は、例えば、候補として患者と左右眼と撮影モードが同じものを選定する。さらに撮影の画角や解像度、撮影日時を選定条件としてもよい。そして、操作者は表示されている候補の3次元画像から合成対象の3次元画像を選択する。この時、眼底画像を表示し、眼底画像上に選択した3次元画像の撮影位置を表示すると、合成対象が正しいかどうかを操作者が確認できるのでさらに良い。また、初期選択状態として、代表3次元画像611が撮影されたパノラマ撮影モード内で撮影された3次元画像が選択されていると、操作者の選択操作が短縮できる。
ステップS730で、操作者は選択した合成対象となる3次元画像の合成を制御部101(En-Face画像生成部304およびパノラマ画像生成部305)に指示し、合成を開始する。合成対象選択画面660上にある合成開始ボタンを押下することで複数の3次元画像の合成の開始を制御部101に指示できる。
ここから、ステップS730の合成開始指示後の制御部101の動作について図8を参照して説明する。
まず、ステップS800で、En-Face画像生成部304が、選択された全ての合成対象の3次元画像に対し、ステップS710で操作者が指定した基準範囲を生成条件としてEn-Face画像を生成する。
具体的には、画像選択領域610において代表3次元画像611および合成対象の3次元画像が選択されている状態で合成ボタン650が押下された場合、En-Face画像生成部304は、合成対象として選択された3次元画像から代表3次元画像611に設定された基準範囲を生成条件としてEn-Face画像を生成する。
次に、ステップS810でEn-Face画像生成部304は、操作者が図6に示すユーザーインターフェースを介して指定した基準範囲(第2基準範囲)ではない、予め記憶部104に記憶してある基準範囲(第1基準範囲)を生成条件として設定しEn-Face画像を生成する。En-Face画像生成部304は、選択された全ての合成対象の3次元画像それぞれから予め記憶部104に記憶してある基準範囲のEn-Face画像を生成する。この予め記憶部104に記憶してある基準範囲は、例えばパノラマ画像生成時に、画像を合成する精度や成功率が高い基準範囲(例えば表層)である。第1基準範囲である表層は例えば内境界膜から内顆粒層上端までの範囲の少なくとも一部の層である。すなわち、第1基準範囲は第2基準範囲より硝子体側に位置する網膜の深さ範囲である。特にEn-Face画像内の特徴量などを用いてモーションコントラストデータから得られたEn-Face画像の合成を行う場合、網膜の深層は表層に比べ特徴量が乏しく合成精度や成功率が低くなるため、網膜表層を示す基準範囲を記憶しておくことが望ましい。ここで、深層とは例えば内顆粒層を含む深さ範囲である。なお、予め記憶部104に記憶してある基準範囲は表層に限定されない。なお、ステップS800とS810の実行順序は逆であってもよいし、同時に行うこととしてもよい。
上記のように、ステップS800とステップS810において、En-Face画像生成部304は3次元画像に設定された複数の基準範囲から複数のEn-Face画像を生成する。すなわち、En-Face画像生成部304は、複数のボリュームデータそれぞれの膜厚方向に共通して設定された第1基準範囲および前記第1基準範囲とは異なる第2基準範囲それぞれにおける複数のEn-Face画像を、複数のボリュームデータそれぞれから生成するEn-Face画像生成手段の一例に相当する。また、3次元輝度画像それぞれの膜厚方向に共通して設定された複数の基準範囲における複数のEn-Face画像を、複数の3次元輝度画像それぞれから生成する第1En-Face画像生成手段の一例に相当する。
また、ボリュームデータが3次元モーションコントラスト画像である場合には、En-Face画像生成部304は、3次元モーションコントラスト画像それぞれの膜厚方向に共通して設定された複数の基準範囲における複数のEn-Face画像を、複数の3次元モーションコントラスト画像それぞれから生成する第2En-Face画像生成手段の一例に相当する。
ステップS820では、パノラマ画像生成部305は、ステップS800およびステップ810で生成された異なる複数の基準範囲のEn-Face画像を重畳し、複合画像として生成する。複合画像生成方法の一例を、図9を参照して説明する。パノラマ画像生成部305はEn-Face画像生成部304が生成した2つのEn-Face画像の内、操作者が指定した基準範囲から生成したEn-Face画像901を青色が強調された画像に変換する。さらに、予め記憶部104に記憶してある基準範囲から生成したEn-Face画像902を赤色・緑色が強調された画像として変換する。すなわち、パノラマ画像生成部305は、En-Face画像に色を付加する。なお、パノラマ画像生成部305が付加する色は、異なる基準範囲のEn-Face画像間で異なる色であればよく上記の例に限定されるものではない。すなわち、パノラマ画像生成部305は、第1基準範囲から生成されるEn-Face画像と第2基準範囲から生成されるEn-Face画像とに異なる色を付加する。なお、図9においてEn-Face画像902に含まれる血管を点線で示しているが、En-Face画像901との識別のためであり、実際の画像において点線となっているわけではない。
そして、パノラマ画像生成部305は、変換した2つのEn-Face画像を複合する。パノラマ画像生成部305は、具体的には複数のEn-Face画像を基準範囲毎に識別可能に変換し複合する。すなわち、パノラマ画像生成部305は、第1基準範囲から生成されるEn-Face画像と第2基準範囲から生成されるEn-Face画像とを識別可能に複合することにより複合画像を生成する複合画像生成手段の一例に相当する。また、パノラマ画像生成部305は、例えば上述のように、第1基準範囲から生成されるEn-Face画像は第2基準範囲から生成されるEn-Face画像よりも赤色を強くし、第2基準範囲から生成されるEn-Face画像は第1基準範囲から生成されるEn-Face画像よりも青色を強くして複合画像を生成する。すなわち、パノラマ画像生成部305は、第1基準範囲から生成されるEn-Face画像と第2基準範囲から生成されるEn-Face画像とに異なる色を付加することで第1基準範囲から生成されるEn-Face画像と第2基準範囲から生成されるEn-Face画像とを識別可能に複合することにより複合画像を生成する。
例えば、パノラマ画像生成部305は、8ビットのグレースケールのEn-Face画像を、RGB(Red、Green、Blue、以下R、G、B)の各色チャネルが8ビットのカラースケールで表されるEn-Face画像に変換する。すなわち、パノラマ画像生成部305はEn-Face画像に色を付加する。なおビット数はこれに限定されない。そしてカラー画像に変換されたEn-Face画像901において、R、Gの画素値を0もしくは0に近い値にする。また、カラー画像に変換されたEn-Face画像902において、GおよびBの画素値を0もしくは0に近い値にする。
具体的には、グレースケールのEn-Face画像901において100という画素値をもった画素があった場合には、RGBのカラー画像上では(R,G,B)=(0,0,100)という画素値の画素に変換する。なお、上記の例ではR、Gを0としたが0に近い値であればよい。また、強調する色の組み合わせは上記に限定されない。
なお、本実施例では、パノラマ画像生成部305が2つのEn-Face画像を複合する場合について述べたが、複合するEn-Face画像が3つある場合には、それぞれ赤色、緑色、青色のみの画像に変換する。なお、この場合も、必ずしも強調したい色以外の色の画素値を0に変換しなくてもよい。さらに、割り当てる色は表層側のEn-Face画像から順に赤色、緑色、青色が望ましいがこれに限定されない。
また、複数のEn-Face画像を識別可能にする際に利用する情報は色に限定されるものではない。例えば、複数のEn-Face画像において割り当てるグレースケールのビットの値を変えて画像変換をしてもよい。例えば、En-Face画像901と902は8ビットのグレースケールで表されるとし、En-Face画像902には上位4ビットを割り当て、En-Face画像901には下位4ビットを割り当てる。具体的には、En-Face画像902の画素値は上位4ビットの値のみ残し、下位4ビットの値は重みづけをしてビット値を0にしたEn-Face画像に変換する。また、En-Face画像901の画素値は下位4ビットの値のみを残し、上位4ビットの値は重みづけをしてビット値を0にしたEn-Face画像に変換する。なお、各En-Face画像において重みづけをするビット数は上記に限定されない。さらに、本実施例では、2つのEn-Face画像を複合する場合について述べたが、複合するEn-Face画像が3つ以上ある場合にも、割り当てるビットをEn-Face画像毎に変え、画像変換を行う。
上記のように、En-Face画像の画像変換や、網膜表層を示す基準範囲の画素への重みづけをすることで後述の合成(位置合わせ)の際に、特徴量が大きい基準範囲をもとに合成が行われるため合成の精度が向上する。
これら複合画像903を3次元画像毎に生成することで、合成用の複数の複合画像が作られる。
ステップS830で、パノラマ画像生成部305は、ステップS820で生成した複数の複合画像を合成し、複合パノラマ画像を生成する。合成方法としては、合成対象の画像それぞれに対して特徴点を抽出し、各画像の特徴点と特徴点の位置から、画像間の位置関係を解析し、その結果をもとに画像を合成する手段などがある。パノラマ画像生成部305は、例えば、青色が付加されたEn-Face画像901より赤色が付加されたEn-Face画像902を重視して複数の複合画像を位置合わせして複合パノラマ画像を生成する。パノラマ画像生成部305は、例えばEn-Face画像902の特徴に基づいて複数の複合画像の位置合わせを行う。また、ビットにより各基準範囲のEn-Face画像を識別可能としている場合には、パノラマ画像生成部305は、例えば、より上位ビットで表されるEn-Face画像を下位ビットで表されるEn-Face画像より重視して複数の複合画像の位置合わせを行う。例えば、位置合わせの対象がモーションコントラスト画像に基づく複合画像であれば、パノラマ画像生成部305は位置合わせが容易な表層における血管を他の血管よりも重視して複数の複合画像の位置合わせを行うことができる。複合パノラマ画像生成手段の一例であるパノラマ画像生成部305は、複合画像のうち第2基準範囲の画像より複合画像のうち第1基準範囲の画像を重視して複数の複合画像の位置合わせを行う。この結果、表層以外のEn-Face画像同士での位置合わせよりも位置合わせ精度を向上させることが可能となる。
最後にステップS840で、パノラマ画像生成部305は、生成された複合パノラマ画像から、操作者が指定した基準範囲のパノラマ画像を分離することで、所望のパノラマ画像を生成する。すなわち、パノラマ画像生成部305は、複合パノラマ画像から第2基準範囲の画像を分離することにより第2基準範囲のパノラマ画像を生成するパノラマ画像生成手段の一例に相当する。
具体的には、パノラマ画像生成部305は、図9にある複合パノラマ画像911にあるように、複合パノラマ画像911を色成分で分離して画像を抽出してもよい。図9において符号912は、青色が付加されたEn-Face画像であり、符号913は赤色・緑色が付加されたEn-Face画像である。例えば、操作者が指定した基準範囲から得られるパノラマ画像は青色を強調して生成されているため、パノラマ画像生成部305は、複合パノラマ画像の青色の部分のみを取り出す。そして、パノラマ画像生成部305は、複合パノラマ画像から取り出した青色の部分をグレースケール画像にすることで、所望のパノラマ画像を生成する。すなわち、パノラマ画像生成手段の一例であるパノラマ画像生成部305は、色に基づいて複合パノラマ画像から第2基準範囲の画像を分離することにより第2基準範囲のパノラマ画像を生成する。なお、パノラマ画像生成部305は、複合パノラマ画像の赤色・緑色部分のみを別途取り出してグレースケール画像にすることで第1基準範囲のパノラマ画像も生成してもよい。
また、パノラマ画像生成部305は、複合パノラマ画像911をビット値で分離して画像を抽出してもよい。例えば、8ビットで表されるパノラマ画像において、パノラマ画像生成部305は、操作者が指定した基準範囲から得られるパノラマ画像には下位4ビットを割り当てて複合する。この場合、パノラマ画像生成部305は、複合パノラマ画像の下位4ビットの画素のみを分離し、グレースケール画像にすることで、所望のパノラマ画像を生成する。
なお、本実施例では、操作者が1つの基準範囲を指定して生成したが、複数を指定する場合も可能である。例えば、操作者が2つの基準範囲を指定して、予め記憶部104に記憶してある基準範囲を赤色のみの画像、操作者が指定した基準範囲をそれぞれ青色と緑色の画像で複合画像を生成することで一度に2つの基準範囲での合成が可能となる。また、複数の基準範囲を指定する場合、全ての基準範囲を予め記憶部104に記憶してある範囲に設定してもよい。
本実施例では画面上で操作者が基準範囲を合成直前に指定したが、操作者が指定する合成範囲も前もって指定しておき、画面上では合成対象の選択のみで合成を行ってもよい。さらに、本実施例では、操作者が合成対象を選択して合成を行ったが、制御部101がパノラマ撮影モードで撮影されたものを自動的に選択することで、合成対象の選択を省略してもよい。さらに、本実施例ではパノラマ撮影モードで撮影された撮影部位の異なる3次元画像からパノラマ画像を生成したが、略同一部位を撮影した3次元データを用いて合成を行ってもよい。
上述した本実施例によれば、操作者が指定した基準範囲のEn-Face画像のパノラマ画像を、位置合わせの精度の低下を抑制しながら、効率的に得ることが可能となる。
また、本実施例によれば、3次元画像のうち一部の範囲(第1基準範囲および第2基準範囲の和で表される範囲)の3次元画像のみを用いるため、効率的に2次元パノラマ画像を生成することができる。また、指定した基準範囲の2次元En-Face画像を複数生成して、パノラマ画像を生成することで、合成にかかる時間を短縮できるとともに、3次元のパノラマ画像を保持する必要がないためストレージの容量を抑えることができる。
(実施例2)
本実施例では、ステップS710で、操作者がEn-Face画像の生成条件に複数の基準範囲を選択する場合の例について説明する。複数の3次元画像から2次元画像を生成する際、例えば病眼において操作者がモーションコントラストデータの表層と深層といった組み合わせの複数のEn-Face画像のパノラマ画像の各基準範囲をその病眼に合わせて指定し、パノラマ画像を表示させる場合がある。そのため、ステップS710において、複数のEn-Face画像生成条件となる基準範囲を指定できることが望ましい。
図11はステップS710で予め記憶部104に記憶してある基準範囲を含む複数の生成条件を操作者が設定する場合の表示画面の一例である。表示部103は画像選択領域1110、眼底画像表示領域1120、1つ目の断層画像表示領域1130、2つ目の断層画像表示領域1150、1つ目のEn-Face画像表示領域1140、2つ目のEn-Face画像表示領域1160、合成指示ボタン1170、合成対象選択画面1180、1つ目のパノラマ画像表示領域1190、2つ目のパノラマ画像領域1192を持つ。画面には2つのパノラマ画像の生成条件となる基準範囲を決定するための断層画像表示領域1130、1150およびEn-Face画像表示領域1140、1160が操作でき、それぞれのパノラマ画像を表示するパノラマ画像表示領域1190、1192が表示される。なお、各表示領域の操作については、実施例1と同様のため、説明を省略する。なお、実施例1における図6と図11との機能の対応を示す。符号610,611と符号1110と1111とが対応し、符号620-623と符号1120-123とが対応している。さらに、符号630-633は符号1150-1153と対応し、符号640,641は符号1160,1161と対応している。また、符号650は符号1170に対応し、符号670,671は富豪1192,1193に対応している。すなわち、図6に示したインターフェースに断層画像表示領域1130、断層画像1131、第1基準範囲の上端1132、下端1133、En-Face画像表示領域1140、En-Face画像1141、パノラマ画像表示領域1190およびパノラマ画像1191が追加されている。ここで、断層画像1131は断層画像位置アノテーション1123の位置における断層画像である。すなわち、断層画像1131と断層画像1151とは同一の断層画像である。また、En-Face画像1141は、上端1132と下端1133とにより規定される深さ範囲のEn-Face画像である。また、パノラマ画像1191は第1基準範囲におけるパノラマ画像である。なお、パノラマ画像1193は第2基準領域におけるパノラマ画像である。なお、図11示した例では上端1132、下端1133と上端1152、下端1153とがそれぞれ同一位置であるため、En-Face画像1141,1161とパノラマ画像1191,1193は同一のものとなっている。なお、例えば、デフォルト状態では、上端1132、下端1133は予め記憶部104に記憶してある基準範囲として表層を示す位置に表示されることとしてもよい。
なお、図16に示したユーザーインターフェースは、制御部101が表示部103に表示させる。また、上端1132と下端1133とは第1基準範囲を示す線の一例であり、上端1152と下端1153とは第2基準範囲を示す線の一例である。すなわち、表示制御手段の一例に相当する制御部101は、複数の断層画像を表示手段に表示させるとともに、第1基準範囲を示す線と第2基準範囲を示す線とを異なる断層画像に重畳して表示手段に表示させる。上端1132、下端1133と上端1152、下端1153と識別可能なように異なる表示態様で表示されることとしてもよい。
図10は本実施例において、ステップS730で、合成開始ボタン1182を押下後のパノラマ画像生成処理の動作の一例を示すフローチャートである。
ステップS1000では、En-Face画像生成部304が、操作者が1つ目の断層画像表示領域1130で指定した基準範囲(第1基準範囲)を生成条件として、合成対象の複数のボリュームデータから複数のEn-Face画像を生成する。
ステップS1010では、En-Face画像生成部304が、操作者が2つ目の断層画像表示領域1150で指定した基準範囲(第2基準範囲)を生成条件として、合成対象の複数のボリュームデータから複数のEn-Face画像を生成する。
ステップS1020およびステップS1030では、実施例1と同様の方法を用いて、ステップS1000とステップS1010で生成したEn-Face画像を用いてパノラマ画像生成部305が複合画像を複数生成する。そして、画像生成部305は、生成された複数の複合画像を合成して複合パノラマ画像を実施例1と同様の方法を用いて生成する。
ステップS1040では、画像生成部305は、生成された複合パノラマ画像から、例えば断層画像表示領域1130で指定した基準範囲のパノラマ画像と断層画像表示領域1150で指定した基準範囲とを分離し基準範囲毎にパノラマ画像1191、1193を生成する。そして、制御部101は、それぞれを画面上のパノラマ画像表示領域1190、1192に表示させる。ここでは、基準範囲毎にパノラマ画像を生成し表示しているが、2つの基準範囲のうち一方のパノラマ画像のみを生成・表示することとしてもよい。なお、複合パノラマ画像から複数のパノラマ画像に分離する場合、操作者が基準範囲を指定しなくても、予め記憶部104に記憶してある基準範囲のパノラマ画像に自動で分離するようにしてもよい。
上述の実施例によれば、病眼のモーションコントラストデータのパノラマ画像を生成する場合、操作者が複合画像に組み合わせる全ての基準範囲を指定することにより、より確実にパノラマ画像を生成することができる。
上記方法により、事前に精度や成功率の高い生成範囲を指定しづらい場合においても、複数の3次元画像から2次元のパノラマ画像を、より高い精度と成功率で正確に、かつ効率よく生成することができる。なお、断層画像上で指定できる基準範囲の数は2つに限定されるものではく、3以上であってもよく、指定可能とする基準範囲の数に応じた数の断層画像を表示することとすればよい。また、上端1132と下端1133とのデフォルト位置を表層を示す位置、上端1152と下端1153とのデフォルト位置を深層を示す位置とすることとしてもよい。すなわち、第1基準範囲および第2基準範囲のデフォルト位置は異なる位置であることとしてもよい。この場合、図11に示したユーザーインターフェースで各基準範囲を確認し、ユーザは基準位置の変更を行うことなくパノラマ画像の生成を装置に指示することとしてもよい。なお、第1基準範囲および第2基準範囲のデフォルト位置は同じであってもよい。
(実施例3)
本実施例ではステップS730の合成開始指示後に、合成の精度や成功率の高い生成条件となる基準範囲での位置合わせ情報を用いて、操作者が指定した基準範囲のパノラマ画像を生成する例について説明する。脈絡膜の血管構造はメッシュ状となっており、例えば脈絡膜血管部分のEn-Face画像を合成する場合、特徴点が多く抽出されることによって、間違った位置合わせ結果を算出してしまう場合がある。そのため、合成の精度や成功率が高い生成条件の基準範囲を参照することで、参照した基準範囲と同じ精度と成功率で合成することができる。なお、本実施例は、脈絡膜のEn-Face画像の位置合わせに限定されるものではない。本実施例では、所定の基準範囲よりも合成の精度が高い基準範囲のEn-Face画像の位置合わせ結果を、所定の基準範囲のEn-Face画像の位置合わせに用いることができる。
本実施例のステップS730で合成開始指示した後の動作の一例を、図12を参照して説明する。なお、各生成条件の指定や合成対象の選択については、実施例1、2と同様の方法を用いるものとし、説明を省略する。
ステップS1200では、En-Face画像生成部304は、合成(位置合わせ)に必要な合成の精度や成功率の高い基準範囲を含む複数の基準範囲(第1基準範囲)のEn-Face画像を合成対象となる複数の3次元画像から生成する。
ステップS1210では、パノラマ画像生成部305は、1つ目の基準範囲の複数のEn-Face画像からパノラマ画像を生成する。この際に合成時に算出した位置合わせ情報を記憶部104に保持しておく。すなわち、記憶部104は、位置合わせの結果を記憶する記憶手段の一例に相当する。また、パノラマ画像生成部305は、複数の基準範囲のうち少なくとも1つの基準範囲における前記複数のEn-Face画像の位置合わせを行う位置合わせ手段の一例に相当する。パノラマ画像生成部305は、例えば、表層を1つ目の基準範囲とする。
ステップS1220では、パノラマ画像生成部305は、ステップS1210で算出した位置合わせ情報を記憶部104から参照して、操作者が指定した2つ目の基準範囲(第2基準範囲)のEn-Face画像からパノラマ画像を生成する。例えば、2つ目の基準範囲は1つ目の基準範囲とは異なる層であり、脈絡膜層を含む深さ範囲または内顆粒層を含む深さ範囲(深層)である。また1つ目の基準範囲は第2基準範囲よりも硝子体側に位置する例えば表層である。上記のように本実施形態では、パノラマ画像生成部305は基準範囲毎にEn-Face画像の位置合わせを行っている。すなわち、パノラマ画像生成部305は、複数のEn-Face画像を第1基準範囲および第2基準範囲毎に位置合わせすることにより複数のパノラマ画像を生成するパノラマ画像生成手段の一例に相当する。
また、ステップS1220のように、パノラマ画像生成手段の一例に相当するパノラマ画像生成部305は、第1基準範囲における複数のEn-Face画像を位置合わせすることにより第1パノラマ画像を生成し、第2基準範囲における複数のEn-Face画像を第1基準範囲における複数のEn-Face画像の位置合わせの結果を用いて位置合わせする。このとき、パノラマ画像生成手段の一例に相当するパノラマ画像生成部305は、第1基準範囲における複数のEn-Face画像の位置合わせの結果が記憶手段に記憶されている場合は、第2基準範囲における複数のEn-Face画像を第1基準範囲における複数のEn-Face画像の位置合わせの結果を用いて位置合わせする。なお、第1基準範囲のEn-Face画像の位置合わせに失敗により記憶部104に位置合わせのパラメータが記録されていない場合には、第2基準範囲のEn-Face画像の位置合わせは独立して行うこととしてもよい。
上述の実施例によれば、パノラマ画像生成のための複数の画像の位置合わせを基準範囲毎に行うため、3次元画像の位置合わせに比べて処理負荷が低くなる。従って、効率てきにパノラマ画像を生成することが可能となる。また、本実施例によれば、例えば脈絡膜の合成など、合成の精度が悪い場合においても、合成精度と成功率の高い基準範囲(例えば表層)の位置合わせ情報を参照することにより、より確実にパノラマ画像を生成することができる。なお、本実施例では、合成の精度や成功率の高い1つ目の基準範囲での合成を実施後に、2つ目の基準範囲の合成を行ったが、事前に制御部101が記憶部104から1つ目の基準範囲の位置合わせ情報を取得しておき、合成実施時に記憶部104に記憶しておいた該位置合わせ情報の参照のみを行ってもよい。
上記方法により、単独の基準範囲では間違った位置合わせを行ってしまう基準範囲においても、複数の3次元画像から2次元のパノラマ画像を効率的に生成することができる。
なお、本実施例は実施例1および実施例2と組み合わせることが可能である。また、第1基準範囲のEn-Face画像の位置合わせ結果を使って、第2基準範囲のEn-Face画像の位置合わせを行っているが、それぞれの基準範囲で独立してEn-Face画像の位置合わせを行うこととしてもよい。この場合でも、三次元画像同士の位置合わせよりも位置合わせに要する処理負荷を低減することが可能となる。
(実施例4)
本実施例では、3次元画像生成部302で生成した3次元輝度画像の位置合わせの情報を用いて3次元モーションコントラスト画像の位置合わせを行い、パノラマ画像を生成する例について説明する。
本実施例の、ステップS730で合成開始指示後の動作の一例を、図13を参照して説明する。なお、各生成条件の指定や合成対象の選択については、実施例1、2と同様の方法を用いるものとし、説明を省略する。
ステップS1310では、En-Face画像生成部304は、3次元画像生成部302で生成した3次元輝度画像において設定された少なくとも1つの基準範囲のEn-Face画像を合成対象となる複数の3次元輝度画像から生成する。
ステップS1320では、パノラマ画像生成部305は、ステップS1310においてEn-Face画像生成部304が生成した1つの基準範囲の複数のEn-Face画像からパノラマ画像を生成する。このとき、合成時に算出した位置合わせ情報(位置合わせのパラメータ)を記憶部104に保持しておく。
ステップS1330では、パノラマ画像生成部305は、3次元モーションコントラスト画像において合成対象となる複数の基準範囲のEn-Face画像を基準範囲毎に複数の3次元モーションコントラスト画像から複数取得する。なお、3次元モーションコントラスト画像に設定される基準範囲は3次元輝度画像に設定された基準範囲と共通であってもよいし、異なっていても良い。また、3次元モーションコントラスト画像に設定される基準範囲は1つであってもよい。
ステップS1340では、パノラマ画像生成部305は、ステップS1320で算出した位置合わせ情報を用いて、3次元モーションコントラスト画像において取得した複数のEn-Face画像を基準範囲毎に合成しパノラマ画像を生成する。すなわち、パノラマ画像生成部305は、3次元輝度画像から生成されるEn-Face画像の位置合わせ結果を用いて、3次元モーションコントラスト画像から生成されるEn-Face画像の位置合わせを行う。なお、3次元輝度画像に対して設定された1つの基準範囲において得られた位置合わせパラメータを、3次元モーションコントラスト画像に設定された複数の基準範囲におけるEn-Face画像の位置合わせに共通して用いることとしてもよい。
上記方法により、モーションコントラスト画像に比べ、どの層においても比較的位置合わせ精度の高い3次元輝度画像の位置合わせ情報を用いてモーションコントラスト画像の位置合わせを行うことで2次元のパノラマ画像をより高精度に生成することができる。
(その他の実施例)
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、実施例を参照して本発明について説明したが、本発明は上記実施例に限定されるものではない。本発明の趣旨に反しない範囲で変更された発明、及び本発明と均等な発明も本発明に含まれる。また、上述の各実施例及び変形例は、本発明の趣旨に反しない範囲で適宜組み合わせることができる。