以下、添付図面に従って本発明に係る画像表示装置及び方法の好ましい実施形態について詳説する。ただし本発明はこれに限定されるものではない。
[第1実施形態]
第1実施形態に係る画像表示装置は、撮影位置の異なる複数のSLO動画像を、広画角画像上の撮影位置情報に基づいた位置に、脈波データに基づいて同期表示する。また、この同期表示は、複数のSLO動画像群において固視ずれや瞬目、収差補正不良による影響を略同一にした上で行われる。
より、具体的には、画像表示装置は、撮影位置の異なる複数のSLO動画像Di(i=1,2,...,n0)を撮影し、各々のSLO動画像Diの撮影と同時に脈波データPi(i=1,2,...,n0)を取得しておく。次に、画像表示装置は、各SLO動画像Diから固視ずれや瞬目等の影響が表れている例外フレームを判定し、脈波データPiの例えば極値を基準にSLO動画像Diから表示させるフレーム番号系列を選択する。このとき、判定された例外フレームが除外されるように、表示させるフレーム番号系列が選択される。そして、画像表示装置は、選択されたフレーム番号系列のフレーム群についてSLO動画像Di間での再生スピードを調整し、撮影時に取得した固視標位置Fi(i=1,2,...,n0)に基づいてこれらフレーム群を広画角SLO画像W上に同期表示する。このような処理により、拍動や瞬目のような生体反応及び収差補正位置のずれのような撮像条件の違いに起因する画像特性のばらつきの影響をSLO動画像Di間で略同一にすることができる。加えて撮影位置及び撮影時刻が異なるSLO動画像Di上の血管形状変化や血球動態を、SLO動画像Diの撮像範囲外にある病態や解剖学的部位との関連性を理解しながら比較観察可能にすることができる。
図2は本実施形態に係る画像表示装置10を含む撮影システムの構成例を示す図である。図2に示す撮影システムにおいて、画像表示装置10は、SLO装置20、時相データ取得装置30、データサーバ50と、光ファイバ、USBやIEEE1394等で構成されるローカル・エリア・ネットワーク(以下、LAN40)を介して接続されている。なおこれらの機器間の接続は、インターネット等の外部ネットワークを介して接続される構成であってもよい。また、これらの画像表示装置10、SLO装置20、時相データ取得装置30、データサーバ50のうちのいくつかが一つの装置において実現されてもよい。たとえば、画像表示装置10とデータサーバ50が一つの情報処理装置によって実現されてもよい。
図2において、SLO装置20はレーザ光を眼底に対して走査して眼底部の平面画像(SLO動画像)を撮像する走査型レーザ検眼鏡であり、補償光学系(収差補正デバイスともいう)を有する。SLO装置20は、撮影位置が異なるSLO動画像Diを撮像し、上述したSLO動画像Di及びその撮影時に用いた固視標位置Fiの情報を、LAN40を介して画像表示装置10やデータサーバ50へ送信する。補償光学走査型レーザ検眼鏡(AO−SLO)であるSLO装置20はSLD、シャックハルトマン波面センサ、補償光学系、第一及び第二のビームスプリッタ、X−Y走査ミラー、フォーカスレンズ、絞り、光センサ、画像形成部、出力部を有する。光源であるSLD(Super Luminescent Diode)から照射された光は眼底で反射され、一部が第二のビームスプリッタ経由でシャックハルトマン波面センサへ、それ以外は第一のビームスプリッタ経由で光センサへ入力される。シャックハルトマン波面センサは眼の収差を測定するためのデバイスであり、レンズアレイにCCDが接続されている。入射光がレンズアレイを透過するとCCDに輝点群が現れ、該投影された輝点の位置ずれに基づき波面収差が測定される。補償光学系はシャックハルトマン波面センサで測定された波面収差に基づき、収差補正デバイス(可変形状ミラーもしくは空間光位相変調器)を駆動して収差を補正する。該収差補正された光はフォーカスレンズ、絞りを経由し光センサにて受光される。X/Y走査ミラーを動かすことで眼底上の走査位置を制御でき、操作者が予め指定した撮影対象領域、時間(フレームレート×フレーム数)のデータを取得する。該データを画像形成部へ伝送し、走査速度のばらつきに起因する画像歪みの補正や、輝度値の補正を行って画像データ(動画像もしくは静止画像)を形成する。出力部は画像形成部が形成した画像データを出力する。眼底上の特定の深さ位置にフォーカスを合わせるためには、補償光学系内の収差補正デバイスを用いた調整か、光学系内に不図示のフォーカス調整用レンズを設置し、該レンズを移動することによる調整かの少なくともいずれかを用いることができる。なお、SLO装置20の代わりに補償光学系または収差補正デバイスを有する眼底カメラ等の眼科撮影装置を用いることもできる。
時相データ取得装置30は、自律的に変化する生体信号データ(時相データ)を取得する装置であり、例えば脈波計もしくは心電計を備える。本実施形態では、時相データとして脈波データが用いられるため、上述した脈波データPiを時相データPiと記載する。時相データ取得装置30は不図示の操作者による操作に応じ、SLO動画像Diの取得と同時に時相データPiを取得する。得られた時相データPiは、LAN40を介して画像表示装置10、データサーバ50へ送信される。
データサーバ50は、被検眼のSLO動画像Diや、固視標位置Fiのような撮像条件データ、時相データPi、画像表示装置10からの情報などを保持する。すなわち、SLO装置20が出力する広画角画像W、SLO動画像Di、固視標位置Fiや、時相データ取得装置30が出力する時相データPi、画像表示装置10が出力する情報(図4のステップS460)は、データサーバ50に保存される。また、データサーバ50は、画像表示装置10からの要求に応じ、広画角画像WやSLO動画像Di、時相データPi、眼部の画像特徴及び該画像特徴の正常値データを、LAN40を介して、画像表示装置10に送信する。以下では、画像表示装置10がSLO装置20や時相データ取得装置30からSLO動画像や時相データを取得して画像表示を行なう構成を説明するが、これに限られるものではない。たとえば、画像表示装置10が、データサーバ50に格納されているSLO画像やこれに関連付けられた時相データを取得して、以下に説明する画像表示処理を行なうようにしてもよいことは明らかである。
次に、図3を用いて画像表示装置10のハードウェア構成について説明する。図3において、301は中央演算処理装置(以下、CPU301)、302は読み書きが可能なメモリ(以下、RAM302)、303は制御メモリ(以下、ROM303)、304は外部記憶装置である。また、図3において、305はモニタ、306はキーボード、307はポインティングデバイス(たとえばマウス)、308はインターフェースである。また、上記各部はバス309を介して通信可能似接続されている。本実施形態に係る画像処理機能を実現するための制御プログラムや、当該制御プログラムが実行される際に用いられるデータは、外部記憶装置304に記憶されている。これらの制御プログラムやデータは、CPU301による制御のもと、バス309を通じて適宜RAM302に取り込まれ、CPU301によって実行され、以下に図1を参照して説明する各部として機能する。
次に、図1を用いて本実施形態に係る画像表示装置10の機能構成を説明する。図1は第1実施形態による画像表示装置10の機能構成を示すブロック図であり、画像表示装置10は、画像取得部110、時相データ取得部120、記憶部130、画像処理部140、指示取得部150を有する。また、画像処理部140は撮影位置情報取得部141、例外フレーム判定部142、同期部143、表示部144を備え、同期部143は時相データ解析部1431、画像選択部1432、フレーム間隔調整部1433を有する。以下、画像表示装置10を構成する各ブロックの機能について、図4のフローチャートに示す画像表示装置10の具体的な実行手順と関連付けて説明する。
<ステップS410> 画像取得部110と時相データ取得部120とにより、眼底の複数の撮影範囲を撮影して得られた複数の動画像(SLO動画像)と、それらの複数の範囲を含む範囲を撮影して得られた広画角画像とが取得される。ここで、複数の動画像は、それぞれの撮影時に取得された生体信号に基づく時相データと関連付けられて記憶部130に記憶される。より具体的に説明すると、時相データ取得部120は時相データ取得装置30に対し生体信号に関する時相データPiの取得を要求する。本実施形態では時相データ取得装置30として脈波計を用い、被験者の耳垂(耳たぶ)から脈波データを時相データPiとして取得する。ここで時相データPiは図5(e)に示すように一方の軸に取得時刻(t)、他方の軸に脈波計が計測した脈波信号値(p)を持つ点列として表現される。時相データ取得装置30は時相データ取得部120からの取得要求に応じて対応する時相データPiを取得して送信し、時相データ取得部120は時相データ取得装置30からLAN40を介して当該脈波データPiを受信する。時相データ取得部120は受信した時相データPiを記憶部130に格納する。
上記時相データの取得と並行して、画像取得部110はSLO装置20に、広画角のSLO画像(以下、広画角画像W)と、複数の異なる固視標位置Fiで撮影された撮影位置の異なる複数のSLO動画像Di、固視標位置Fiデータの取得を要求する。本実施形態では、黄斑部の広画角画像Wと傍中心窩における鼻側(F1)・耳側(F2)・上側(F3)・下側(F4)の計4か所に固視標位置を設定して、SLO動画像Di(D1〜D4)を順次に取得していく。なお、撮影位置の設定方法はこれに限定されず、任意の位置に設定してよい。
SLO動画像と、その撮影時に取得された生体信号に基づく時相データとを関連付けるためには、たとえば、
・時相データ取得装置30が取得する時相データPiのある位相に合わせて画像取得部110がSLO動画像Diを取得開始する、或いは、
・SLO動画像Diの取得要求後直ちに脈波データPiとSLO動画像Diの取得を同時に開始する、などの手順が考えられる。本実施形態ではSLO動画像Diの取得要求後直ちに時相データPiとSLO動画像Diの取得を開始するものとする。
SLO装置20は、画像取得部110からの取得要求に応じて広画角のSLO画像(以下、広画角画像W)とSLO動画像Di、固視標位置Fiを取得して送信する。画像取得部110は、SLO装置20からLAN40を介してこれら広画角画像W及びSLO動画像Di、固視標位置Fiを受信する。画像取得部110は受信した広画角画像W及びSLO動画像Di、固視標位置Fiを記憶部130に格納する。なお、本実施形態では、受信された各々のSLO動画像Diは既にフレーム間位置合わせ済の動画像とする。フレーム間位置合わせとは、隣接するフレーム間で画像が同じ位置になるように調整することであり、周知の技術により実現される。また、SLO装置20は収差補正デバイスを有し、SLO動画像Diについては収差補正を行なった画像を出力する。なお、広画角画像Wについては、各位置のSLO動画像に比べて高い解像度画要求されないので収差補正デバイスによる収差補正を行なわなくてもよい。
<ステップS420> 例外フレーム判定部142は、SLO動画像Diの各フレームから画像特徴を取得し、SLO動画像Diを構成する複数のフレームから例外フレームを判定する。本実施形態では、例外フレーム判定部142は、SLO動画像Diの各フレームj(j=1,2,...,n1)における平均輝度値Aij、及び血管領域Vijを画像特徴として取得する。但し、ここで挙げた画像特徴は、一例であり、これらに限られるものではない。なお、血管領域の取得方法は任意の公知の血管抽出法を用いることができ、本実施形態では輝度値が閾値T1以下の領域を血管領域とする。また、血管領域Vjを細線化して得られる点列Bijk(k=1,2,...,n2)の血管交差部Cijl(l=1,...,n3)も取得しておく。
次に、各SLO動画像Diにおいて例外フレーム、すなわち瞬目により輝度が極端に低いフレームや固視微動により画像歪みが生じているフレーム、収差補正不良によりS/N比(信号対雑音比)が低いフレームを検出する。本実施形態では、平均輝度値Aijが閾値T2以下であれば、SLO動画像Diのフレームjが瞬目による輝度異常とみなして、そのフレームを例外フレームと判定する。また、血管交差部Cijl間の距離の二乗和の値が隣接フレーム間で閾値T3以上異なっていれば、固視微動による画像歪みとみなして、そのフレームを例外フレームと判定する。さらに、S/N比が閾値T4以下であれば収差補正不良とみなして、そのフレームを例外フレームと判定する。
<ステップS430> 同期部143は、後述のステップS440における複数のSLO動画像の再生表示において、各動画像の再生タイミングを時相データに基づいて同期させるための処理を行う。まず、同期部143は、時相データ取得部120より各SLO動画像Diの時相データPiを取得し、各々の時相データPiの極値を検出して拍動周期を算出する。次に、同期部143は、各SLO動画像Diについて、ステップS420において検出された例外フレーム番号系列を取得する。そして、同期部143は、これら例外フレームを含まないように、表示対象のフレームを選択する。さらに、選択したフレームにおける拍動周期がSLO動画像Di間で異なる場合は、同期部143は、SLO動画像Di間における表示フレーム間隔の調整処理を行う。同期部143による処理の詳細は図6、図7により後述する。
<ステップS440> 表示部144は、広画角画像W上の、複数の撮影範囲の位置に関する情報に基づいて決定される位置に、複数のSLO動画像を重畳して再生する。第1実施形態では、撮影範囲の位置に関する情報として、固視標位置が用いられる。すなわち、表示部144は、撮影位置の異なるSLO動画像Diを、広画角画像W上の撮影位置情報取得部141によって取得された固視標位置Fiに対応した位置に、同期部143によって決定された再生タイミングで同期表示する。このように、撮影位置の異なる動画像Diは、脈波同期して単純に並置されるのではなく、広画角画像W上の対応する部位に配置され、重畳して表示される。このため、観察者(医師など)である操作者が、SLO動画像Diの撮像範囲外の病変や、該撮像範囲と解剖学的部位との位置関係を把握することを助け、観察者はSLO動画像Di上の病態を、より容易に、より深く理解することができる。
なお画像表示法はこれに限るものではなく、任意の表示法を用いて良い。例えば、SLO動画像Diから血管領域Viや病変領域といった特定の領域を公知の特徴抽出手法を用いて検出しておき、該血管領域Viや病変領域といった特定の領域のみ広画角画像W上に同期表示させてもよい。
<ステップS450> 指示取得部150は、ステップS440において表示された広画角画像W及びSLO動画像Di、固視標位置Fi、例外フレーム番号系列、脈波の解析データ(極値・周期)をデータサーバ50へ保存するか否かの指示を取得する。この指示は例えばキーボード306やポインティングデバイス307を介して操作者により入力される。保存が指示された場合はS460へ、保存が指示されなかった場合はS470へと処理を進める。
<ステップS460> 画像処理部140は、検査日時、披検眼を同定する情報、広画角画像WやSLO動画像Diと該画像群の固視標位置Fi、例外フレーム番号系列、脈波の解析データを関連付けてデータサーバ50へ送信する。
<ステップS470> 指示取得部150は画像表示装置10によるSLO動画像の表示処理を終了するか否かの指示を外部から取得する。この指示はキーボード306やポインティングデバイス307を介して操作者により入力される。処理終了の指示を取得した場合は解析処理を終了する。一方、処理継続の指示を取得した場合にはステップS410に処理を戻し、次の披検眼に対する処理(または同一披検眼に対する再処理を)行う。
次に図6及び図7を参照して、ステップS430で実行される同期処理の詳細について説明する。同期処理では、再生される例外フレームの数が制限(例外フレームの再生を所定数以下(所定数は0を含む)にする)されるように、複数のSLO動画像の各々から再生対象となる区間を選択し、選択された区間を同期表示させる。
<ステップS610> 時相データ解析部1431は、時相データ取得部120より各SLO動画像Diの時相データPiを取得し、各々の時相データPiの極値を検出して拍動周期を算出する。本実施形態では、時相データにおいて隣接する極大値間または極小値間の時間間隔を拍動周期とする。
<ステップS620> 同期部143は、例外フレーム判定部142がステップS420にて判定したSLO動画像Diの例外フレーム番号系列を取得する。
<ステップS630> 画像選択部1432はSLO動画像Diから、例外フレームができるだけ少なくなるように、表示部144において表示させるフレーム番号系列を選択する。
図7(a)を用いてステップS630における具体的なフレーム選択法を説明する。図7(a)では、異なる固視標位置F1〜F4においてSLO動画像D1〜D4が取得されている。各SLO動画像Diにおいて、白色部が例外フレームを含まずに連続したフレームからなる正常フレーム系列(Dioi)、灰色部(ハッチング部)が例外フレーム系列(Eipi)を表している。また各SLO動画像Di(D1〜D4)の撮像期間は同一であるが、開始フレームにおける時相データPiの位相が異なっている。本実施形態では、D1o1(o1=1,2)、D2o2(o2=1,2)、D3o3(o3=1)、D4o4(o4=1,2)から一つずつ正常フレーム系列を選択して共通する時相の区間長を求める。そして、その最大値をとる時相区間C1に含まれるフレーム番号系列を各SLO動画像Di(D1〜D4)から選択する。すなわち、全てのSLO動画像にわたって時相が共通し、且つ、正常フレームが連続している(例外フレームが存在しない)区間を共通区間とし、これら共通区間のうちの最長のものが選択される。表示部144では、各SLO動画像の上記選択された共通区間に対応するフレームを同期表示させる。なお、各SLO動画像Diの取得において拍動周期は厳密に一定とはならない。そのため、これら拍動周期を正規化し、共通する時相の区間長が長くなるように各SLO動画像Diを配置する。
なお、表示フレーム選択法はこの限りではなく任意の選択法を用いて良い。例えば時相の周期単位での最長区間を選択してもよい。図7(a)の例では、1周期分の長さを有する最長区間C2が選択されている。あるいは例外フレーム系列数の許容値T5(ここでは1)を設定し、時相区間C1を基に時相区間を拡大して例外フレーム系列数が許容値T5以下となる最長の時相区間に含まれるフレーム番号系列を各SLO動画像Di(D1〜D4)から選択してもよい。たとえば、図7(a)では、T5=1とした場合の例として、最長の時相区間C3が選択された例が示されている。
<ステップS640> フレーム間隔調整部1433は、少なくとも同期して再生する区間におけるフレーム数が各SLO動画像でほぼ一致するように、フレームの追加、削減を行う。本実施形態では、時相データが示す一周期毎のフレーム数が同じになるように、以下のような処理が行われる。フレーム間隔調整部1433はS640で各SLO動画像Diから選択されたフレーム番号系列Iiにおける拍動周期Hiを求める。一般にSLO動画像Di間はもとより、同一SLO動画像内においても図7(b)に示すように拍動周期Hiが異なる場合がある。本実施形態では最も正常に近い拍動周期Hr(図7(b)においては1.0[sec])を基準周期とし、基準周期Hrとの差が許容値T6以上ある場合には周期が異なると見なしてステップS650へ処理が進む。また基準周期Hrとの差が許容値T6未満であった場合には同期処理を終了し、ステップS440へ処理が進む。
なお基準周期Hrの設定法はこの限りではなく、任意の設定法を用いて良い。例えば、単純に一般的な正常値(1.0[sec])を基準周期に設定してもよいし、視認しやすい遅めの値(5.0[sec])を基準周期に設定しても良い。あるいは単一の値ではなく、許容区間(例えば0.9〜1.1[sec])を設定してもよい。
<ステップS650> フレーム間隔調整部1433は、フレーム番号系列Iiに対応する時相データの拍動周期Hiが基準周期Hrと許容値T6以上異なっている場合に、再生するフレーム間隔の調整処理を行う(ステップS650)。再生フレーム間隔の具体的な調整法として、本実施形態では、
・Hi<Hrの場合には前後のフレームを補間処理することにより生成したフレームを内挿し、
・Hi>Hrの場合にはフレームを削減する、
処理を行なうことにより、拍動周期Hiが基準周期Hrと略同一となるように調整する。
たとえば、図7(b)のSLO動画像の区間710が表示フレームとして選択された場合に、区間711は基準周期Hr(1秒)よりも拍動周期が短く(0.9秒)、区間712は基準周期Hrよりも拍動周期が長い(1.1秒)。この場合、区間711においては、10フレームに1フレームの割合で補間処理によりフレームが生成、挿入される。また、区間712においては、11フレームに1フレームの割合でフレームが削除される。
なお、本実施形態においては、広画角画像Wは静止画像とし、ステップS420で実行される例外フレーム判定処理及びステップS430で実行される同期処理はSLO動画像Diに対して行われるものとして記述したが、これに限定されるものではない。例えば広画角画像Wを動画像とし、広画角画像Wに対してもS420と同様の例外フレーム判定処理を行った上で、広画角画像WとSLO動画像Di間の同期処理を行うようにしてもよい。
以上のように、第1実施形態による画像表示装置10は、撮影位置の異なる複数のSLO動画像Diを、広画角画像上の固視標位置情報に基づいた位置に、時相データPiに基づいて同期させて合成表示する。このとき、固視ずれまたは瞬目を含むフレームや低S/N比のフレームが例外フレームとして表示対象から除外される。これにより、撮影位置が異なるSLO動画像Di間の血管形状変化や血球動態が、拍動や瞬目のような生体反応及び撮像条件の違いに起因する画像特性の違いの影響を略同一にした上で観察することができる。そのため、複数のSLO動画像Diを、それら動画像の撮像範囲外の病態や解剖学的部位との関連性を理解しながら比較観察できる。
[第2実施形態]
第1実施形態では、SLO動画像Diを固視標位置Fiに基づいて広画角画像W上に配置した。第2実施形態では、位置合わせ部145(図8)により得られた位置合わせパラメータに基づいてSLO動画像を広画角画像W上により正確に配置する構成を説明する。
したがって、第2実施形態によれば、固視微動の影響でSLO動画像Diが固視標位置Fiから多少ずれている場合でも広画角画像W上の位置を正確に決定することができる。そのため、拍動や瞬目、固視ずれのような生体反応や、収差補正位置のずれのような撮像条件の違いに起因する画像特性の違いが見られる場合においても、撮影位置が異なるSLO動画像Di間の血管形状変化や血球動態を比較観察しやすくすることができる。
第2実施形態に係る画像表示装置10の機能ブロック図を図8に示す。第2実施形態による画像表示装置10は、第1実施形態の撮影位置情報取得部141の代わりに位置合わせ部145が設けられており、位置合わせ部145が例外フレーム判定部142を備えている。また、第2実施形態による画像表示フローを図9に示すが、ステップS920以外のステップは、第1実施形態と同様である(図9のステップS910、S930〜S970は、それぞれ図4のステップS410、S430〜S470に対応する)。以下ではステップS920における処理について説明する。
<ステップS920> 位置合わせ部145は、記憶部130から広画角画像Wと撮影位置の異なる複数のSLO動画像Diを読み込んで、
(i)SLO動画像Diにおけるフレーム間位置合わせ、
(ii)広画角画像WとSLO動画像Diとの位置合わせ、
を行う。以下、図10(a)に示すフローチャートを参照してステップS920で実行される処理についてより詳細に説明する。
<ステップS1010> 位置合わせ部145は、SLO動画像Diにおいて位置合わせの基準となる基準フレームを設定し、Affine変換により大まかな位置合わせ(粗位置合わせ)を行う。さらに、位置合わせ部145は、精密位置合わせとして非剛体位置合わせを行う。なお本ステップにおいて、例外フレーム判定部142がSLO動画像Diに含まれる輝度異常、画像歪み、低S/N比もしくはフレームアウトの見られる例外フレームを検出する。上記フレーム間位置合わせ処理を全てのSLO動画像Diに対して行う。本実施形態では、フレーム間位置合わせの前にフレーム単独の画像特徴を用いて例外フレームを判定し、例外フレームを除くフレームでフレーム間位置合わせが行われる。その後、フレーム間位置合わせ済みのフレームにおいて、フレーム間の画像特徴の差による例外フレームの判定が行われる。このように、フレーム間位置合わせに例外フレームが用いられなくなるので、より効率的に、且つ、より正確にフレーム間位置合わせを行える。本処理の更なる詳細については、図10(b)のフローチャートにより後述する。また、フレーム間位置合わせ後の動画像を用いて、フレーム間の差異に基づく例外フレームの判定を行うので、より精度よく例外フレームを判定できる。
<ステップS1020> 位置合わせ部145は、広画角画像Wに対する各SLO動画像Diの位置合わせを行なう。位置合わせ部145は、位置合わせパラメータを変えながら広画角画像WとSLO動画像Diとの画像間類似度を算出し、画像間類似度が最大となる位置合わせパラメータを用いて広画角画像Wに対する各SLO動画像Diの相対位置を決定する。本処理の更なる詳細については、図10(c)のフローチャートにより後述する。
次に、図10(b)に示すフローチャートを参照しながら、ステップS1010で実行されるフレーム間位置合わせの処理の詳細について説明する。
<ステップS1011> 例外フレーム判定部142は、SLO動画像Diの各フレームについて単独フレームでの例外フレーム判定を行う。本実施形態においては、例外フレーム判定部142が各フレームの平均輝度値Aij及びS/N比SNjを算出し、Aijが閾値T2以下、もしくはS/N比SNjがT4以下であれば輝度異常もしくは低画質であるとみなして例外フレームと判定する。
なお、単独フレームでの例外フレームの判定方法はこれに限られるものではなく、任意の例外判定法を用いて良い。例えば、各フレームに対し微分処理を行うことにより得られる微分画像の輝度統計量(平均値、最頻値、もしくは最大値)を算出し、これが閾値T7以下であれば被写体の動きによるボケが発生しているとみなして例外フレームと判定しても良い。
<ステップS1012> 位置合わせ部145は、位置合わせの基準となる基準フレームを設定する。本実施形態では、ステップS1011において例外フレームと判定されたフレーム以外で、最もフレーム番号の小さいフレームを基準フレームとする。なお、基準フレームの設定法はこれに限るものではなく、任意の設定法を用いて良い。例えば、ユーザが指定した基準フレーム番号を指示取得部150から取得して基準フレームを設定してもよい。
<ステップS1013> 位置合わせ部145は、フレーム間の大まかな位置の対応付け(粗位置合わせ)を行う。この粗位置合わせには、任意の位置合わせ手法を用いることができるが、本実施形態では、画像間類似度評価関数として相関係数、座標変換手法としてAffine変換を用いて粗位置合わせを行う。
<ステップS1014> 位置合わせ部145は、ステップS1013で得られたフレーム間の大まかな位置の対応関係のデータに基づいて精密位置合わせを行う。本実施形態ではステップS1013で得られた粗位置合わせ済みの動画像Dicに対し、非剛体位置合わせ手法の一種であるFFD(Free Form Deformation)法を用いてフレーム間の精密位置合わせを行う。なお、精密位置合わせの手法はこれに限らず、任意の位置合わせ手法を用いて良い。
<ステップS1015> 例外フレーム判定部142は、ステップS1014の精密位置合わせによって得られた精密位置合わせ済みの動画像Difの各フレームに対して例外フレーム判定を行う。本実施形態では、例外フレーム判定部142が基準フレームと(基準フレーム以外の)各フレームとの差分演算を行って該差分画像のヒストグラムを求める。該ヒストグラムの平均値及び分散が、それぞれ閾値T8以上かつ閾値T9以上であれば固視微動により一時的に眼底上の異なる位置が撮影された、すなわち、フレーム間移動量が所定値を超えた、とみなして例外フレームと判定する。
なお、ステップS1015における、フレーム間の画像特徴の差を用いた例外フレームの判定法はこれに限らず任意の判定法を用いて良い。例えば精密位置合わせ済動画像Difの各フレームに対して、第1実施形態の場合と同様に血管抽出及び血管交差部Cijlの検出を行う。そして、各フレームにおいて血管交差部Cijl間の距離の二乗和を求めて該距離の二乗和の値が隣接フレーム間で閾値T3以上異なっていれば画像歪みが発生したとみなして例外フレームと判定するようにしても良い。
次に、図10(c)に示すフローチャートを参照しながら、S1020で実行される、広画角画像と動画像の位置合わせ処理の詳細について説明する。
<ステップS1021> 位置合わせ部145は、記憶部130からSLO動画像Diの撮影時に用いた固視標位置Fiを取得し、広画角画像WとSLO動画像Diとの位置合わせにおける位置合わせパラメータの探索初期点とする。本実施形態においては、位置合わせパラメータとして並進(x及びy)・回転θ・拡大率sを求める。該パラメータの初期値として、
(x0,y0,θ0,s0)
=(Fiのx成分、Fiのy成分、0、(広画角画像の画素サイズ/動画像Diの画素サイズ))
を設定する。
<ステップS1022> 位置合わせ部145は、ステップS1021で設定された位置合わせパラメータ値の組み合わせ(x0,y0,θ0,s0)を初期値として、該パラメータ値の組み合わせを変化させながら広画角画像WとSLO動画像Diとの位置合わせを行う。
なお、本実施形態では広画角画像Wは静止画像であるものとし、広画角画像WとSLO動画像Diの基準フレームとの画像間類似度が最も高い位置合わせパラメータ値の組み合わせを広画角画像Wに対するSLO動画像Diの相対位置として採用する。但し、位置合わせ手法はこれに限らず、任意の位置合わせ手法を用いて良い。
また、本実施形態では、画素値ベースの画像間類似度を用いて、SLO動画像Diのフレーム間位置合わせを行ない、基準フレームが広画角画像Wに最も類似する位置合わせパラメータの組み合わせを広画角画像W上の相対位置として求めた。しかしながら、本発明はこれらに限定されるものではない。例えば、
・SLO動画像Diの各フレームもしくは広画角画像Wにおいて観察対象の画像特徴(病変や中心窩などの部位、血管の分岐などの特徴点)を検出し、
・該画像特徴の位置が最も精密に合うようにSLO動画像Diのフレーム間もしくは広画角画像WとSLO動画像Diとの間で位置合わせを行う、ようにしても良い。
また、本実施形態では広画角画像Wは静止画として広画角画像WとSLO動画像Diの基準フレームとの位置合わせを行ったが、これに限定されるものではない。例えば広画角画像Wを動画像として広画角画像WとSLO動画像Di間の位置合わせを行っても良い。この場合は、たとえば、以下のように処理が行なわれる。
・ステップS920では、広画角画像Wを含めた全ての動画像のフレーム間位置合わせを行い、
・ステップS930では、第1実施形態で述べたような同期処理を行い、
・広画角画像WのフレームjとSLO動画像Diの対応するフレームDijとの間で画像間類似度が最大となる位置合わせパラメータの組み合わせを求め、これを広画角画像Wの各フレームについて行ない広画角画像W上の相対位置を決定する、ようにしても良い。
以上のように、第2実施形態によれば、画像表示装置10は、各SLO動画像について、フレーム間位置合わせの前後で固視ずれや瞬目、収差補正不良による影響を排除し、広画角画像W上に重畳表示する。これにより撮影位置が異なるSLO動画像Di間の血管形状変化や血球動態を、拍動や瞬目のような生体反応や撮像条件の違いに起因する画像特性への影響を略同一にした上で、表示することができる。そのため、観察者は、撮像範囲外の病態や解剖学的部位との関連を理解しながら比較観察できる。なお、フレーム間位置合わせ時に得られた画像特徴を用いてSLO動画像Diから固視ずれや瞬目の見られるフレーム、低画質なフレームを例外フレームとして判定するようにしてもよい。あるいは、例外フレームの判定において取得した画像特徴を利用してフレーム間位置合わせを行うようにしてもよいこのように、フレーム間位置合わせと例外フレームの判定に用いる画像特徴を共用することで、より処理の効率化を図ることができる。
[第3実施形態]
第3実施形態では、第2実施形態の構成に加えて、表示部144が撮影位置の異なるSLO動画像Di間、及び/または、広画角画像WとSLO動画像Diとの間、で輝度調整を行うように構成したものである。これにより、撮影位置の異なるSLO動画像Di間あるいはSLO動画像Diと広画角画像Wとの間で位置関係や表示タイミングだけでなく輝度特性も調整されるので、観察者はより血管形状変化や血球動態を比較観察しやすくなる。
第3実施形態に係る画像表示装置10の機能ブロック図を図11に示す。表示部144において、画像間表示調整部1441を持つ点が第2実施形態(図8)と異なっている。また、第3実施形態による画像表示処理のフローチャートを図12に示す。ステップS1240以外は第2実施形態と同様である(図12のステップS1210〜S1230、S1250〜S1270は、それぞれ図9のステップS910〜S930、S950〜S970に対応する)。よって、以下ではステップS1240における処理について説明する。
<ステップS1240> 画像間表示調整部1441は、SLO動画像Di間の輝度調整を行うとともに、広画角画像WとSLO動画像Di間の輝度調整を行う。また、本実施形態では表示部144が指示取得部150を通じて得られたユーザからの指示に基づき、広画角画像WとSLO動画像Diとの合成画像全体の拡大率や再生タイミングをインタラクティブに調整する。以下、図13に示すフローチャートを参照しながら、S1240で実行される処理の詳細について説明する。
<ステップS1310> 画像間表示調整部1441は、SLO動画像Di間の輝度調整を行うとともに、広画角画像WとSLO動画像Di間の輝度調整を行う。本実施形態では、各SLO動画像Diのヒストグラムを求め、理想的な輝度平均値Gaと輝度分散値Jaに最も近い輝度特性を持つSLO動画像Diの輝度平均Giと輝度分散Jiに一致するようにその他のSLO動画像や広画角画像Wの輝度値を線形変換する。ここで、ヒストグラムの算出は、SLO動画像の任意の1フレームについて行う、任意の複数フレームについて行う、全フレームについて行う、のいずれでもよい。
なお、輝度調整の方法はこれに限るものではなく、任意の輝度調整法を用いて良い。例えば、模型眼を撮影して得られたSLO動画像Diや広画角画像Wの持つ輝度統計量(輝度平均や輝度分散)に一致するように該SLO動画像Diの輝度値を調整しても良い。あるいは各SLO動画像Diから公知の血管抽出法を用いて血管領域Viを抽出する。血管領域Viのみに限定したヒストグラムKviを生成して該ヒストグラムKviから算出される輝度統計量(平均と分散)が血管領域Viを視認しやすい特定の値(GvとJv)に一致するように輝度値を調整しても良い。
あるいは、詳しく比較観察したい対象物(例えばSLO動画像D1における血管病変とSLO動画像D2における正常血管部位)の位置の輝度特性が一致するように動画像を調整してもよい。この場合、たとえば、以下の手順となる。
・詳しく比較観察したい対象物の位置または範囲をユーザがポインティングデバイスを用いて(たとえば、マウスクリックにより)指定する、
・該指定した位置または範囲を、指示取得部150を通じて画像間表示調整部1441が取得し、両位置の近傍における輝度特性(輝度平均及び輝度分散)が一致するようにSLO動画像D1とSLO動画像D2の輝度値を調整する。
<ステップS1320> 表示部144は、合成表示された画像全体の表示法調整を行う。本実施形態では、表示部144が指示取得部150を通じて得られたユーザからの指示に基づき、広画角画像W及びSLO動画像Diの合成画像全体の拡大率や再生スピードをインタラクティブに調整する。
なお、本実施形態では画像間の表示法調整及び合成画像全体での表示法調整について記述したが、表示部144の機能はこれに限定されない。例えば、個々のSLO動画像Diや広画角画像W単独の輝度特性や拡大率、再生スピードを指示取得部150から調整できるようにしてもよい。あるいは、フレームや関心領域(ROI)単位で表示法を調整してもよい。
以上説明したように、第3実施形態の画像表示装置10では、表示部144が撮影位置の異なるSLO動画像Di間、広画角画像WとSLO動画像Diとの間で輝度調整が行われる。このように、撮影位置の異なるSLO動画像Di間あるいはSLO動画像Diと広画角画像Wとの間で位置関係や再生タイミングだけでなく輝度も調整して表示されるので、撮影位置が異なるSLO動画像Di間の血管形状変化や血球動態を比較観察しやすくなる。
[第4実施形態]
第4実施形態では、第3実施形態の機能構成(図11)に、更に背景画像生成部1442(図14)が追加されている。背景画像生成部1442は、動画として得られた広画角画像Wの重ね合わせを行って高画質な背景画像を生成したり、撮影位置の異なるSLO動画像Diと位置や輝度が合うように広画角画像Wから代表フレームを選択したりするように構成したものである。これにより、SLO動画像により適した広画角画像Wを生成することができ、撮影位置が異なるSLO動画像Di間の血管形状変化や血球動態をより比較観察しやすくすることができる。
第4実施形態に係る画像表示装置10の機能ブロック図を図14に示す。表示部144において、背景画像生成部1442を持つ点が第3実施形態と異なっている。また第4実施形態による画像表示処理の手順は図12に示す通りであり、ステップS1220、S1230及びS1240以外は第3実施形態と同様である。以下、第4実施形態によるステップS1220、S1230、S1240の処理について説明する。
<ステップS1220> 位置合わせ部145は、動画像のフレーム間位置合わせを行う。第5実施形態では、SLO動画像Diに対してだけでなく、広画角画像Wに対しても図10(b)のフローチャートに従って例外フレームの判定及びフレーム間位置合わせを行う。具体的な例外フレームの判定及びフレーム間位置合わせ手順については、第2実施形態のSLO動画像Diに対して実施したフレーム間位置合わせの場合と同様の手順である。
<ステップS1230> 同期部143は、広画角画像W(動画)とSLO動画像Diを含めた全動画像間の同期処理を行う。広画角画像W(動画)とSLO動画像Di間の同期処理の具体的手順は、第1実施形態のS610〜S650で述べたSLO動画像Di間の同期処理と同様であり、各動画像から再生すべき時相区間が抽出される。
<ステップS1240> 背景画像生成部1442は、広画角画像Wの抽出された時相区間の複数フレームを重ね合わせ処理することで、或いは、抽出された時相区間の複数フレームの中から広画角画像Wから代表フレームを選択することで、背景画像を生成する。次に、位置合わせ部145は、背景画像生成部1442が生成した背景画像とSLO動画像Diとの位置合わせを行う。さらに、画像間表示調整部1441が背景画像の輝度特性(輝度平均及び輝度分散)と一致するようにSLO動画像Diの輝度値を調整する。最後に表示部144が広画角画像WとSLO動画像Diとの合成画像全体の表示調整を指示取得部150から取得した指示に基づいて行う。
次に図15に示すフローチャートを参照しながら、ステップS1240で実行される処理の詳細について説明する。なお、図15においてステップS1530とステップS1540の処理は第3実施形態のステップS1310とステップS1320(図13)と同様である。
<ステップS1510> 背景画像生成部1442は広画角画像W(動画)から背景画像を生成する。上述のように第5実施形態では、ステップS1220において広画角画像Wの例外フレーム判定及びフレーム間位置合わせ処理が実行済みであり、ステップS1230において例外フレームを含まないように広画角動画像のフレームが選択されている。具体的には、フレーム間位置合わせ及び同期処理済の広画角動画像における各画素をフレーム方向に加算平均することで、重ね合わせ画像が生成される。
なお、背景画像の生成法はこれに限らず、任意の方法を用いてよい。例えば、上述のように代表フレームを選択して背景画像として用いる場合には、
・同期処理によって選択された広画角画像Wの各フレームWfと、各SLO動画像Diの同期処理によって選択された全フレームとの間で画像類似度(たとえば輝度特性の類似度)の総和Σfを求め、
・この総和Σfが最大となるフレーム番号の広画角画像フレームWfを背景画像(代表フレーム)として選択する。
<ステップS1520> 位置合わせ部145は、背景画像生成部1442が生成した背景画像とSLO動画像Diとの位置合わせを行う。具体的な位置合わせ方法は、第2実施形態のステップS1021〜S1022で説明した手順と同様である。
以上のように、第5実施形態では、背景画像生成部1442が、
・広画角画像Wの複数フレームの重ね合わせを行うことでより高画質な背景画像を生成して広画角画像として表示する、あるいは、
・広画角画像Wの複数フレームの中から、撮影位置の異なるSLO動画像Diと位置や輝度が合うように代表フレームを選択し、これを広画角画像として表示する。これにより、撮影位置が異なるSLO動画像Di間の血管形状変化や血球動態を比較観察しやすくする。
以上説明したように、上記各実施形態によれば、眼底の複数の撮影位置(撮影範囲)に対応した複数の動画像を、被験者の生体反応や撮像条件の違いによる影響を略同一にして表示することができる。さらに、それらの複数の動画像は、眼底の広画角画像(複数の撮影範囲を含む広範囲の画像)の、対応する位置に表示される。そのため、撮影範囲の異なる複数の動画像における組織・細胞の形態変化や動態を、それら動画像の撮像範囲外にある病変や正常部位・解剖学的部位との関連性を理解しながら比較観察することが可能になる。
[その他の実施形態]
上述の実施形態では、複数の動画像を同期再生することとしたが、これに限らず各動画像から対応する1フレームをそれぞれ取得し表示することとしてもよい。ユーザの指示に応じてフレーム画像のコマ送りをさせるように画像処理装置10が表示部144を制御することとすれば、時相の合った各フレーム画像をユーザが比較しやすくなる。
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。