<概要>
本開示で例示する眼底画像処理装置の制御部は、第1正面画像と第2正面画像を取得する。第1正面画像は、被検眼の眼底上で第1の光を走査し、眼底からの反射光を受光することで作成される。第2正面画像は、第1の光とは異なる第2の光の眼底からの反射光と、第2の光に対応する参照光との干渉光から得られるOCTデータに基づいて作成される。第2正面画像の撮影範囲は、第1正面画像の撮影範囲内に含まれる。つまり、第1正面画像の撮影範囲は、第2正面画像の撮影範囲よりも広い。また、第2正面画像の解像度(つまり、画像に写り込んでいる組織上の単位面積当たりの画素数)は、第1正面画像の解像度よりも高い。制御部は、第1正面画像のうち第2正面画像と撮影範囲が重複する位置に、第2正面画像を合成する。
第1正面画像を撮影するSLO装置等は、OCT装置に比べて眼底の広い範囲を撮影することができる。一方で、OCT装置は、第1正面画像の撮影範囲よりも狭い範囲を高い解像度で撮影することができる。従って、本開示の眼底画像処理装置によって作成された第1正面画像と第2正面画像の合成画像(以下、単に「合成画像」という)によると、ユーザは、眼底の広範囲を確認することができ、且つ、眼底の一部の状態を詳細に確認することも可能である。よって、ユーザは、被検眼の眼底の状態を適切に確認することができる。なお、「眼底の正面画像」とは、画像を撮影する光の光軸に沿う方向から眼底を見た場合の二次元画像である。
また、OCTデータに基づいて作成される第2正面画像(OCT正面画像)の具体的な態様は、適宜選択できる。例えば、OCT正面画像は、眼底の三次元OCTデータに基づいて作成される正面画像(所謂「Enface画像」)であってもよい。また、OCT正面画像は、同一位置から異なる時間に取得された複数のOCTデータを処理することで得られるモーションコントラストデータから作成される画像(所謂「モーションコントラスト画像」)であってもよい。
第1正面画像と第2正面画像は、共に、眼底における網膜表層よりも深部に位置する組織のうち、同一の深さに位置する組織の情報を含む画像であってもよい。この場合、ユーザは、網膜表層よりも深部の組織のうち、特定の深さに位置する組織の状態を、作成された合成画像によって適切に把握することができる。
ただし、第1正面画像に写る組織の深さと、第2正面画像に写る組織の深さが異なっていてもよい。また、第1正面画像と第2正面画像は、共に、網膜表層が写り込んだ画像であってもよい。
第1正面画像は、赤色光または赤外光によって眼底における脈絡膜を含む組織が撮影された画像であってもよい。赤色光または赤外光が用いられることで、第1正面画像には脈絡膜が適切に写り込むが、画質はぼけやすくなる。これに対し、本開示に係る眼底画像処理装置は、第1正面画像に、解像度が高い第2正面画像を合成することができる。従って、ユーザは、脈絡膜の組織(例えば、脈絡膜の血管)の状態を、合成画像によって適切に把握することができる。合成画像は、侵襲性のある造影検査を経ずに得られる第1正面画像と第2正面画像から形成されるので、被検者の負担が増加することを抑制しつつ、適切に脈絡膜の状態が把握される。
なお、第1正面画像を撮影する第1の光の波長を変更することによって、深さ方向に関して脈絡膜とは異なる位置の組織が撮影されてもよい。
第2正面画像は、眼底の三次元OCTデータのうち、眼底における脈絡膜を含む組織のデータに基づいて作成されてもよい。この場合、ユーザは、脈絡膜の組織(例えば、脈絡膜の血管)の状態を、合成画像によって適切に把握することができる。
なお、第2正面画像は、モーションコントラストデータから作成された、脈絡膜の血管の情報を含む正面画像であってもよい。この場合でも、ユーザは、脈絡膜の血管の状態を合成画像によって適切に把握することが可能である。
また、第2正面画像は、OCT正面画像以外の画像(例えば、レーザ走査型検眼装置によって撮影されたSLO画像等)であってもよい。つまり、本開示における他の態様の眼底画像処理装置は、第1正面画像と第2正面画像を取得する。第1正面画像は、被検眼の眼底上で光を走査し、眼底からの反射光を受光することで作成される。第2正面画像は、第1正面画像が撮影された眼底と同一の眼底上で光を走査することで作成された眼底の正面画像(例えばSLO画像等)である。第2正面画像の撮影範囲は、第1正面画像の撮影範囲内に含まれる。また、第2正面画像の解像度(つまり、画像に写り込んでいる組織上の単位面積当たりの画素数)は、第1正面画像の解像度よりも高い。第1正面画像と第2正面画像は、共に、眼底における網膜表層よりも深部に位置する組織のうち、同一の深さに位置する組織の情報を含む。制御部は、第1正面画像のうち第2正面画像と撮影範囲が重複する位置に、第2正面画像を合成する。この場合、ユーザは、網膜表層よりも深部の組織のうち、特定の深さに位置する組織の状態を、作成された合成画像によって適切に把握することができる。
なお、第2正面画像にOCT画像以外の画像(例えばSLO画像等)を採用する場合、第1正面画像および第2正面画像の各々は、赤色光または赤外光によって眼底における脈絡膜を含む組織が撮影された画像であってもよい。この場合、ユーザは、脈絡膜の組織(例えば、脈絡膜の血管)の状態を、合成画像によって適切に把握することができる。合成画像は、侵襲性のある造影検査を経ずに得られる第1正面画像と第2正面画像から形成されるので、被検者の負担も増加し難い。
制御部は、第2正面画像の形状を変換することで、第2正面画像と第1正面画像に共通して写っている組織の形状を一致させる処理を行ってもよい。制御部は、形状を変換した第2正面画像を第1正面画像に合成してもよい。この場合、合成画像がより適切に形成される。
なお、第2正面画像の形状を変換するための具体的な処理は適宜選択できる。例えば、第2正面画像と第1正面画像の各々に対し、写っている組織上の複数の共通箇所に対応点が付与されてもよい。この場合、制御部は、ユーザからの操作指示に応じて、各々の画像上に複数の対応点を付与してもよい。また、制御部は、特徴点抽出法(例えば、Scale-Invariant Feature Transform(SIFT)、またはSpeed-Up Robust Features(SURF)等)に基づいて、各々の画像上に自動で複数の対応点を付与してもよい。また、対応点は、コントラスト強調処理等が行われる前の画像上に付与されてもよいし、コントラスト強調処理等が行われた画像上に付与されてもよい。制御部は、各々の画像上に付与された複数の対応点の位置に基づいて、第2正面画像の形状を変換してもよい。対応点の位置に基づく第2正面画像の形状の変換方法には、例えば、射影変換(ホモグラフィ)等が用いられてもよい。また、第1正面画像および第2正面画像の撮影中に被検眼が動いてしまい、画像が歪む場合等もあり得る。従って、制御部は、非剛体の位置合わせを行うことで、画像の歪みの影響を低下させてもよい。
制御部は、第1正面画像および第2正面画像の少なくともいずれかに対し、輝度調整処理およびネガポジ反転処理の少なくともいずれかを行うことで、第1正面画像と第2正面画像の各々の輝度を近似させてもよい。制御部は、輝度を近似させた第1正面画像と第2正面画像を合成してもよい。この場合、より違和感が少ない合成画像が作成される。
制御部は、作成した合成画像に対して線強調処理を行ってもよい。この場合、ユーザは、線構造(例えば血管等)が強調された状態で、眼底の広範囲を確認することができ、且つ、眼底の一部の状態を詳細に確認することも可能である。よって、より適切に被検眼の眼底の状態が確認される。
なお、線強調処理の具体的な方法は適宜選択できる。例えば、制御部は、ヘッセ行列を利用した線強調フィルタによって線強調処理を行ってもよい。
また、制御部は、線強調処理が行われた合成画像に対して二値化処理を行ってもよい。この場合、合成画像から血管が適切に抽出される。なお、二値化処理は、線強調処理が行われる前の合成画像に対して実行されてもよい。
また、制御部は、線強調処理とは別に、または線強調処理と共に、他の処理を合成画像に対して実行してもよい。例えば、制御部は、合成画像に対して疾患部位を抽出する処理を実行してもよい。
制御部は、取得した第1正面画像に対してコントラスト強調処理を行うと共に、コントラスト強調処理が行われた第1正面画像に第2正面画像を合成してもよい。また、制御部は、第1正面画像に対してノイズ除去処理を行うと共に、ノイズ除去処理が行われた第1正面画像に第2正面画像を合成してもよい。この場合、より鮮明な合成画像が作成される。
制御部は、取得した第2正面画像に対してコントラスト強調処理を行うと共に、コントラスト強調処理が行われた第2正面画像を第1正面画像に合成してもよい。また、制御部は、第2正面画像に対してノイズ除去処理を行うと共に、ノイズ除去処理が行われた第2正面画像を第1正面画像に合成してもよい。この場合も、より鮮明な合成画像が作成される。
なお、コントラスト強調処理の具体的な処理内容は適宜選択できる。例えば、コントラスト制限付き適応的ヒストグラム平坦化(CLAHE)等を、コントラスト強調処理として採用してもよい。同様に、ノイズ除去処理の具体的な処理内容も適宜選択できる。例えば、Non Local Means(NL-Means)フィルタによるノイズ除去処理等を採用してもよい。
制御部は、第1正面画像に写っている組織の単位面積当たりの大きさと、第2正面画像に写っている組織の単位面積当たりの大きさが同一となるように、第1正面画像および第2正面画像の少なくともいずれかを、拡大または縮小させてもよい。この場合、合成画像が適切に作成される。
<実施形態>
以下、本開示に係る典型的な実施形態の1つについて説明する。一例として、本実施形態では、パーソナルコンピュータ(以下、「PC」という)1が、他のデバイス(本実施形態では、SLO装置20およびOCT装置50)から眼底の第1正面画像(SLO正面画像)および第2正面画像(OCT正面画像)を取得し、取得した画像に対して各種処理を行う。つまり、本実施形態では、PC1が画像処理装置として機能する。しかし、画像処理装置として機能するデバイスは、PC1に限定されない。例えば、SLO装置20またはOCT装置50が画像処理装置として機能してもよい。また、複数のデバイスの制御部(例えば、PC1のCPU11とOCT装置50の制御部)が協働して各種画像処理を行ってもよい。
PC1の概略構成について説明する。PC1は、CPU11、RAM12、ROM13、およびNVM14を備える。後述する眼底画像処理(図4参照)を実行するための眼底画像処理プログラムは、NVM14に記憶されていてもよい。また、PC1には、モニタ16および操作部17が接続されている。モニタ16は、各種画像を表示する表示部の一例である。操作部17は、ユーザが各種操作指示をPC1に入力するために、ユーザによって操作される。操作部17には、マウス、キーボード、タッチパネル等の種々のデバイスを用いることができる。また、マイクに音が入力されることで、各種操作指示がPC1に入力されてもよい。
PC1は、SLO装置20およびOCT装置50から各種データを取得することができる。一例として、本実施形態のPC1は、SLO装置20から眼底の第1正面画像のデータ(以下、単に「第1正面画像」という場合もある)を取得すると共に、OCT装置50から眼底の第2正面画像のデータ(以下、単に「第2正面画像」という場合もある)を取得することができる。各種データは、例えば、有線通信、無線通信、および着脱可能な記憶装置(例えばUSBメモリ)等の少なくともいずれかによって取得されればよい。
図2を参照して、SLO装置20の光学系の構成について説明する。SLO装置20は、所謂レーザ走査型検眼装置(Scanning Laser Ophthalmoscope)である。SLO装置20は、被検眼Eの眼底Er上でレーザ光(第1の光)を走査し、眼底Erからのレーザ光の戻り光を受光することで、眼底Erの正面画像を作成(撮影)する。なお、本実施形態では、観察面上でスポット状に集光されるレーザ光を二次元的に走査することで、第1正面画像を撮影する場合について例示する。しかし、第1正面画像の撮影方法を変更することも可能である。例えば、SLO装置20は、所謂ラインスキャンタイプの装置であってもよい。この場合、ライン状の光束が観察面上で走査される。また、SLO装置20の代わりに、レーザ光以外の光(例えば、LEDから出射された光)を走査させることで眼底の正面画像を撮影する装置が用いられてもよい。SLO装置20は、照射光学系30と受光光学系40を有する。
照射光学系30は、レーザ光源31、コリメーティングレンズ32、穴開きミラー33、レンズ34、レンズ35、走査部36、および対物光学部37を備える。本実施形態のレーザ光源11が出射するレーザ光の波長には、赤の波長および赤外域の波長の少なくともいずれかが含まれる。SLO装置20は、撮影に用いる光の波長に応じて、眼底Erにおいて深さ方向に積層されている層状の組織のうち、撮影対象とする組織を変えることができる。一例として、本実施形態では、赤色光または赤外光によって眼底Erが撮影されることで、眼底Erにおいて深さ方向に積層されている層状の組織のうち、脈絡膜を含む組織が第1正面画像に写り込む。
レーザ光源31から出射されたレーザ光は、コリメーティングレンズ32を経て穴開きミラー33に形成された開口部を通り、レンズ34およびレンズ35を介した後、走査部36に向かう。走査部36によって反射されたレーザ光は、対物光学部37を通過した後、被検眼Eの眼底Erに照射される。
走査部36は、レーザ光源31から出射されたレーザ光を、眼底Er上で走査させる。本実施形態の走査部36は、主走査用(例えば、光軸に交差するX方向への走査用)の光スキャナ36Aと、副走査用(例えば、光軸とX方向に共に交差するY方向への走査用)の光スキャナ36Bを含む。一例として、本実施形態では、主走査用の光スキャナ36Aはレゾナントスキャナであり、副走査用の光スキャナ36Bはガルバノミラーである。ただし、走査部36の具体的な構成を変更することも可能である。例えば、ポリゴンミラー、MEMS、音響光学素子(AOM)等が走査部36に用いられてもよい。
対物光学部37は、走査部36によって走査されるレーザ光を被検眼Eの眼底Erに導く。レーザ光は、対物光学部37を通過することによって、旋回点Pを経て眼底Erに照射される。つまり、レーザ光は、走査部36の動作に伴って旋回点Pを中心に旋回される。また、本実施形態では、対物光学部37にレンズアタッチメント38が着脱されることで、撮影画角が変更される。一例として、本実施形態では、レンズアタッチメント38が取り外された状態の、瞳孔中心を基準とした撮影画角は、45度~60度となる。また、レンズアタッチメント38が装着された状態の撮影画角は、90度~150度となる。従って、レンズアタッチメント38が装着されると、被検眼Eの眼底Erが広画角で撮影される。後述する第1正面画像60,60A(図5および図7等参照)は、レンズアタッチメント38が装着された状態で、眼底Erが広画角で撮影された画像である。
受光光学系40は、穴開きミラー33の反射光路に、レンズ41、ピンホール板43、レンズ45、および受光素子46を備える。ピンホール板43は、眼底共役面に配置されており、SLO装置20における共焦点絞りとして機能する。眼底Erからの光は、ピンホール板43およびレンズ45を通過し、受光素子46によって受光される。なお、SLO装置20はCPU等を備えた制御ユニットを備えるが、この説明は省略する。
図3を参照して、OCT装置50の光学系の構成について説明する。OCT装置50は、被検眼Eの眼底Erの組織のOCTデータを取得して処理することができる。OCTデータとは、光コヒーレンストモグラフィ(OCT)の原理に基づいて取得されるデータである。OCTデータには、例えば、組織における二次元の情報を含む二次元OCTデータ、組織における三次元の情報を含む三次元OCTデータ、およびモーションコントラストデータ等がある。OCT装置50は、OCT光源51、カップラー(光分割器)52、測定光学系53、参照光学系57、受光素子58、および正面観察光学系59を備える。
OCT光源51は、OCTデータを取得するための光(OCT光)を出射する。カップラー52は、OCT光源51から出射されたOCT光を、測定光と参照光に分割する。また、本実施形態のカップラー52は、被検体(本実施形態では患者眼Eの眼底Er)によって反射された測定光と、参照光学系57によって生成された参照光を合波して干渉させる。つまり、本実施形態のカップラー52は、OCT光を測定光と参照光に分岐する分岐光学素子と、測定光の反射光と参照光を合波する合波光学素子を兼ねる。なお、分岐光学素子および合波光学素子の少なくともいずれかの構成を変更することも可能である。例えば、カップラー以外の素子(例えば、サーキュレータ、ビームスプリッタ等)が使用されてもよい。
測定光学系53は、カップラー52によって分割された測定光を被検体に導くと共に、被検体によって反射された測定光をカップラー52に戻す。測定光学系53は、走査部54と照射光学系56を備える。走査部54は、駆動部55によって駆動されることで、測定光の光軸に交差する二次元方向に測定光を走査(偏向)させることができる。本実施形態では、互いに異なる方向に測定光を偏向させることが可能な2つのガルバノミラーが、走査部54として用いられている。しかし、光を偏向させる別のデバイス(例えば、ポリゴンミラー、レゾナントスキャナ、音響光学素子等の少なくともいずれか)が走査部54として用いられてもよい。照射光学系56は、走査部54よりも光路の下流側(つまり被検体側)に設けられており、測定光を被検体の組織に照射する。
参照光学系57は、参照光を生成してカップラー52に戻す。本実施形態の参照光学系57は、カップラー52によって分割された参照光を反射光学系(例えば、参照ミラー)によって反射させることで、参照光を生成する。しかし、参照光学系57の構成も変更できる。例えば、参照光学系57は、カップラー52から入射した光を反射させずに透過させて、カップラー52に戻してもよい。また、参照光学系57は、測定光と参照光の光路長差を変更する光路長差調整部を備える。なお、光路長差を変更するための構成は、測定光学系53の光路中に設けられていてもよい。
受光素子58は、カップラー52によって生成された測定光と参照光の干渉光を受光することで、干渉信号を検出する。本実施形態では、フーリエドメインOCTの原理が採用されている。フーリエドメインOCTでは、干渉光のスペクトル強度(スペクトル干渉信号)が受光素子58によって検出され、スペクトル強度データに対するフーリエ変換によって複素OCT信号が取得される。フーリエドメインOCTの一例として、Spectral-domain-OCT(SD-OCT)、Swept-source-OCT(SS-OCT)等を採用できる。また、例えば、Time-domain-OCT(TD-OCT)等を採用することも可能である。
本実施形態では、SD-OCTが採用されている。SD-OCTの場合、例えば、OCT光源51として低コヒーレント光源(広帯域光源)が用いられると共に、干渉光の光路における受光素子58の近傍には、干渉光を各周波数成分(各波長成分)に分光する分光光学系(スペクトロメータ)が設けられる。SS-OCTの場合、例えば、OCT光源51として、出射波長を時間的に高速で変化させる波長走査型光源(波長可変光源)が用いられる。この場合、OCT光源51は、光源、ファイバーリング共振器、および波長選択フィルタを備えていてもよい。波長選択フィルタには、例えば、回折格子とポリゴンミラーを組み合わせたフィルタ、および、ファブリー・ペローエタロンを用いたフィルタ等がある。
また、本実施形態では、測定光のスポットが、走査部54によって二次元の測定領域内で走査されることで、三次元OCTデータおよびモーションコントラストデータの少なくともいずれかが取得される。しかし、OCTデータを取得する原理を変更することも可能である。例えば、ラインフィールドOCT(以下、「LF-OCT」という)の原理によってOCTデータが取得されてもよい。LF-OCTでは、組織において一次元方向に延びる照射ライン上に測定光が同時に照射され、測定光の反射光と参照光の干渉光が、一次元受光素子(例えばラインセンサ)または二次元受光素子によって受光される。二次元の測定領域内において、照射ラインに交差する方向に測定光が走査されることで、OCTデータが取得される。また、フルフィールドOCT(以下、「FF-OCT」という)の原理によってOCTデータが取得されてもよい。FF-OCTでは、組織上の二次元の測定領域に測定光が照射されると共に、測定光の反射光と参照光の干渉光が、二次元受光素子によって受光される。この場合、OCT装置1は、走査部54を備えていなくてもよい。
正面観察光学系59は、被検体の組織(本実施形態では患者眼Eの眼底Er)の二次元正面画像を取得するために設けられている。本実施形態における二次元正面画像とは、OCTの測定光の光軸に沿う方向(正面方向)から組織を見た場合の二次元の画像である。正面観察光学系59の構成には、例えば、前述したレーザ走査型検眼装置(SLO)、眼底カメラ、および、二次元の撮影範囲に赤外光を一括照射して正面画像を撮影する赤外カメラ等の少なくともいずれかの構成を採用できる。OCT装置50の正面観察光学系59にSLO等の構成が採用されている場合、PC1は、OCT装置50の正面観察光学系59によって撮影された正面画像を第1正面画像として取得してもよい。なお、OCT装置50はCPU等を備えた制御ユニットを備えるが、この説明は省略する。
図4から図12を参照して、PC1が実行する眼底画像処理について説明する。PC1のCPU11は、NVM14に記憶された眼底画像処理プログラムに従って、図4に示す眼底画像処理を実行する。
まず、CPU11は、被検眼Eの眼底Erの第1正面画像60を取得する(S1)。図5に、後述するコントラスト強調処理等が行われる前の状態の第1正面画像60(つまり、第1正面画像の生画像)の一例を示す。SLO装置20は、90度~150度の広画角で眼底Erを撮影する。その結果、図5に示すように、本実施形態の第1正面画像60には、視神経乳頭および黄斑を含む眼底の広い範囲が写り込んでいる。また、SLO装置20は、赤色光または赤外光によって眼底Erを撮影する。その結果、図5に示すように、本実施形態の第1正面画像60には、眼底Erにおける網膜表層よりも深部に位置する組織のうち、脈絡膜(特に、脈絡膜の血管)を含む組織が写り込んでいる。第1正面画像60では、血管の色は白色となる。
次いで、CPU11は、被検眼Eの眼底Erの第2正面画像70を取得する(S2)。図6に、後述するコントラスト強調処理等が行われる前の状態の第2正面画像70(つまり、第2正面画像の生画像)の一例を示す。第1正面画像60と第2正面画像70は、同一の被検眼Eの眼底Erの画像である。また、第2正面画像70の撮影範囲は、第1正面画像60の撮影範囲内に含まれる。つまり、第2正面画像70の撮影範囲は、第1正面画像60の撮影範囲の一部と重複する。また、第2正面画像70の解像度は、第1正面画像60の解像度よりも高い。つまり、画像に写り込んでいる組織上の単位面積当たりの画素数(ポイント数)は、第1正面画像よりも第2正面画像の方が多い。
また、本実施形態では、第1正面画像60と第2正面画像70は、共に、眼底Erにおける網膜表層よりも深部に位置する組織のうち、同一の深さに位置する組織の情報を含む。詳細には、前述した通り、本実施形態の第1正面画像60は、脈絡膜を含む組織の情報を含む。従って、第2正面画像70も、少なくとも脈絡膜を含む組織の情報を含むように形成される。
本実施形態の第2正面画像70は、一例として、OCT装置50によって取得されたOCTデータから形成される。OCTデータから第2正面画像70を形成する方法は、適宜選択できる。本実施形態では、CPU11は、OCT装置50から取得した眼底Erの三次元OCTデータに基づいて、測定光の光軸に沿う方向(正面方向)から組織を見た場合の画像(所謂「Enface画像」)を作成する。一般的には、Enface画像のデータは、例えば、XY方向の各位置で深さ方向(Z方向)に輝度値が積算された積算画像データ、XY方向の各位置でのスペクトルデータの積算値、ある一定の深さ方向におけるXY方向の各位置での輝度データ、網膜のいずれかの層におけるXY方向の各位置での輝度データ等である。本実施形態では、CPU11は、三次元OCTデータを解析し、眼底Erにおける脈絡膜を含む組織の情報を三次元OCTデータから抽出することで、第2正面画像70を作成する。図6に示すように、三次元OCTデータに基づいて作成されたEnface画像では、血管の色は黒色となる。なお、第2正面画像70は、OCT装置50の制御部によって作成されてもよい。この場合、CPU11は、OCT装置50によって作成された第2正面画像70のデータを取得すればよい。
なお、CPU11は、OCTデータとしてモーションコントラストデータを取得し、取得したモーションコントラストデータに基づいて第2正面画像70を形成してもよい。モーションコントラストデータは、被検体の組織(本実施形態では眼底Er)の同一位置に関して時間的に異なる複数のOCTデータを処理することで得られるデータである。モーションコントラストデータには、組織における動きを示す情報が含まれる。従って、モーションコントラストデータに基づいて作成された第2正面画像70(モーションコントラスト画像)には、脈絡膜の血流(血管)が写り込む。モーションコントラスト画像は、OCT装置50の制御部によって作成されてもよい。
なお、モーションコントラスト画像では、眼底における地図状萎縮等の影響で脈絡膜からのOCT信号が得られると、血管の色は白色となる。従って、萎縮等が存在する領域とその他の領域で、血管の色が異なる場合がある。よって、CPU11は、萎縮等が存在する領域を、画像処理等の種々の方法で検出すると共に、萎縮等が存在する領域およびその他の領域の少なくともいずれかの血管の色を調整することで、モーションコントラスト画像全体における血管の色を同一としてもよい。
次いで、CPU11は、第1正面画像60に対し、コントラスト強調処理およびノイズ除去処理を実行する(S3)。その結果、より鮮明な合成画像が作成される。図7に、コントラスト強調処理およびノイズ除去処理が行われた後の第1正面画像60Aの一例を示す。
一例として、本実施形態では、コントラスト強調処理として、コントラスト制限付き適応的ヒストグラム平坦化(CLAHE)が採用されている。詳細には、CPU11は、画像領域を複数の局所領域に分割すると共に、それぞれの局所領域内のコントラストを上げた後にヒストグラム平坦化を実行する。その結果、ノイズが強調されてしまう不具合が抑制される。また、本実施形態では、ノイズ除去処理として、NL-Meansフィルタによるノイズ除去処理が採用されている。詳細には、CPU11は、複数の局所領域間の類似度を用いた重みづけによって、画素値を平均化する。
なお、コントラスト強調処理およびノイズ除去処理の具体的な方法を変更することも可能である。また、コントラスト強調処理およびノイズ除去処理の少なくとも一方を省略してもよい。
次いで、CPU11は、第2正面画像70に合わせて第1正面画像60Aを拡大する(S4)。詳細には、本実施形態では、CPU11は、第1正面画像60Aに写っている組織の単位面積当たりの大きさと、第2正面画像70に写っている組織の単位面積当たりの大きさが同一となるように、第1正面画像60Aを拡大する。その結果、第2正面画像70の解像度が高い解像度で維持されたまま、各々の画像に写っている組織の大きさが同一となる。
次いで、CPU11は、第2正面画像70に対し、コントラスト強調処理およびノイズ除去処理を実行する(S5)。本実施形態のS5の処理では、一例として、前述したCLAHEおよびNL-Meansが採用されている。ただし、S3の処理と同様に、S5の具体的な方法を変更してもよいし、コントラスト強調処理およびノイズ除去処理の少なくとも一方を省略してもよい。
次いで、CPU11は、ネガポジ反転処理および輝度調整処理を実行する。前述したように、第1正面画像60では血管の色は白色となるのに対し(図5および図7参照)、Enface画像である第2正面画像70では血管の色は黒色となる(図6参照)。従って、CPU11は、第1正面画像60および第2正面画像70の一方(本実施形態では第2正面画像70)に対してネガポジ反転処理を行うことで、両画像の血管の色を同一にする。なお、例えば第2正面画像70としてモーションコントラスト画像が用いられている場合等には、ネガポジ反転処理を省略してもよい。また、CPU11は、第1正面画像60および第2正面画像70の少なくとも一方の輝度を調整することで、両画像の輝度を近似させる。ただし、輝度調整処理を省略することも可能である。図8に、コントラスト強調処理、ノイズ除去処理、ネガポジ反転処理、および輝度調整処理が行われた後の第2正面画像70Aの一例を示す。
次いで、CPU11は、第1正面画像60Aと第2正面画像70Aに共通して写っている組織の形状を一致させるために、第2正面画像70Aの形状を変換する処理を実行する(S7,S8)。
第2正面画像70Aの形状を変換するための具体的な方法も、適宜選択できる。一例として、本実施形態のCPU11は、第1正面画像60A(第1正面画像60でもよい)と、第2正面画像70A(第2正面画像70でもよい)の各々に対し、写っている組織上の複数の共通箇所に、対応点を付与する(S7)。図9に示す例では、第1正面画像60Aに写っている組織上の5つの箇所に、対応点P1~P5が付与されている。また、第2正面画像70Aに写っている組織のうち、第1正面画像60Aにおいて対応点P1~P5が付与された箇所と同一の5つの箇所に、対応点p1~p5が付与されている。CPU11は、ユーザからの操作指示に応じて対応点を付与してもよい。また、CPU11は、特徴点抽出法(例えば、SIFTまたはSURF等)に基づいて対応点を付与してもよい。また、CPU11は、機械学習等を利用して対応点を付与してもよい。
本実施形態のCPU11は、第1正面画像60A(第1正面画像60でもよい)および第2正面画像70A(第2正面画像70でもよい)の各々に付与した対応点の位置に基づいて、第2正面画像70Aの形状を変換することで、第1正面画像60Aと第2正面画像70Aに共通して写っている組織の形状を一致させる(S8)。図9に、形状変換後の第2正面画像70Bの一例を示す。対応点の位置に基づく第2正面画像70Aの形状の具体的な変換方法は、適宜選択できる。一例として、本実施形態のCPU11は、ホモグラフィ行列を推定し、第2正面画像70Aの組織の形状が第1正面画像60Aの組織の形状に一致するように、第2正面画像70Aを射影変換する。
次いで、第1正面画像60Aのうち第2正面画像70Bと撮影範囲が重複する位置(同一の組織が写っている位置)に、形状変換後の第2正面画像70Bを合成する(S9)。図10に、S9で作成された合成画像80の一例を示す。合成画像80(後述する合成画像80Aおよび合成画像80Bも同様)によると、ユーザは、眼底Erの広範囲を確認することができ、且つ、眼底Erの一部(本実施形態では、視神経乳頭および黄斑の近傍)の状態を詳細に確認することも可能である。なお、本実施形態では、第1正面画像60Aと第2正面画像70Bの位置合わせを行ったうえで、第2正面画像70Bを第1正面画像60Aに合成する。しかし、第1正面画像60Aの撮影位置(スキャン位置)に対する第2正面画像70Bの撮影位置(スキャン位置)が予め設定されている場合等には、予め判明している撮影位置の関係に基づいて画像が合成されてもよい。
なお、本実施形態では、合成画像80が作成される場合、第1正面画像60Aのうち、第2正面画像70Bと撮影範囲が重複する位置の画像が、第2正面画像70Bに置き換えられる。従って、合成画像80のうち、第2正面画像70Bが合成された位置では、組織が高い解像度で表される。ただし、画像を合成する具体的な方法を変更することも可能である。例えば、第1正面画像60A上に第2正面画像70Bが重畳されてもよい。
次いで、CPU11は、合成画像80に対する線強調処理を実行する(S10)。図11に、線強調処理が行われた後の合成画像80Aの一例を示す。合成画像80Aによると、ユーザは、線構造(図11に示す例では血管の線構造)が強調された状態で、眼底Erの広範囲を確認することができ、且つ眼底Erの一部の状態を詳細に確認することも可能である。線強調処理の具体的な方法も適宜選択できる。一例として、本実施形態のCPU11は、ヘッセ行列を利用した線強調フィルタを用いて線強調処理を行う。
次いで、CPU11は、合成画像80または合成画像80Aに対する二値化処理を実行する(S11)。図12に、二値化処理が行われた後の合成画像80Bの一例を示す。二値化処理が行われた合成画像80Bでは、眼底Erにおける血管がより鮮明に抽出される。
上記実施形態で開示された技術は一例に過ぎない。従って、上記実施形態で例示された技術を変更することも可能である。例えば、図4で例示した複数の処理の順番は一例である。従って、図4で例示した複数の処理の一部の順番を変更してもよい。また、図4で例示した複数の処理の一部を省略することも可能である。
また、上記実施形態のS2では、第2正面画像として、OCTデータに基づいて生成される第2正面画像(OCT正面画像)70が取得される。CPU11は、第2正面画像60に対して各種処理(例えば、S5~S8等)を行った後、第1正面画像60Aに第2正面画像70Bを合成する(S9)。しかし、第2正面画像70も、第1正面画像60と同様に、レーザ走査型検眼装置(例えばSLO装置20等)、または、レーザ光以外の光を走査させることで画像を撮影する装置等によって撮影された画像(例えばSLO画像等)であってもよい。この場合、第2正面画像70の撮影範囲は、第1正面画像60の撮影範囲内に含まれていてもよい。また、第2正面画像70の解像度は、第1正面画像60の解像度よりも高い。一例として、レンズアタッチメント38が装着された状態でSLO装置20によって広画角で撮影された画像が、第1正面画像60として取得されると共に、レンズアタッチメント38が使用されない状態でSLO装置20によって通常画角で撮影された画像が、第2正面画像70として取得されてもよい。また、第1正面画像60を撮影する装置と、第2正面画像70を撮影する装置は異なっていてもよい。なお、第2正面画像70としてOCT正面画像以外の画像が用いられる場合でも、上記実施形態におけるS3~S11(図4参照)の少なくとも一部を、上記実施形態と同様に実行することが可能である。
なお、図4のS1で第1正面画像を取得する処理は、「第1画像取得ステップ」の一例である。図4のS2で第2正面画像を取得する処理は、「第2画像取得ステップ」の一例である。図4のS9で合成画像を生成する処理は、「合成ステップ」の一例である。図4のS3,S5におけるコントラスト強調処理およびノイズ除去処理は、「コントラスト強調ステップ」および「ノイズ除去ステップ」の一例である。図4のS4で第1正面画像を拡大する処理は、「第1画像拡大ステップ」の一例である。図4のS6におけるネガポジ反転処理および輝度調整処理は、「ネガポジ反転ステップ」および「輝度調整ステップ」の一例である。図4のS7,S8で第2正面画像の形状を変換する処理は、「形状変換ステップ」の一例である。図4のS10における線強調処理は、「線強調ステップ」の一例である。図4のS11における二値化処理は、「二値化ステップ」の一例である。