JP6590513B2 - 情報処理装置、その作動方法、及びコンピュータプログラム - Google Patents

情報処理装置、その作動方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP6590513B2
JP6590513B2 JP2015093541A JP2015093541A JP6590513B2 JP 6590513 B2 JP6590513 B2 JP 6590513B2 JP 2015093541 A JP2015093541 A JP 2015093541A JP 2015093541 A JP2015093541 A JP 2015093541A JP 6590513 B2 JP6590513 B2 JP 6590513B2
Authority
JP
Japan
Prior art keywords
image
confocal
images
processing apparatus
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015093541A
Other languages
English (en)
Other versions
JP2016209135A (ja
JP2016209135A5 (ja
Inventor
裕之 今村
裕之 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015093541A priority Critical patent/JP6590513B2/ja
Priority to US15/138,676 priority patent/US10674902B2/en
Publication of JP2016209135A publication Critical patent/JP2016209135A/ja
Publication of JP2016209135A5 publication Critical patent/JP2016209135A5/ja
Application granted granted Critical
Publication of JP6590513B2 publication Critical patent/JP6590513B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0041Operational features thereof characterised by display arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/1025Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for confocal scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • A61B3/1225Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes using coherent radiation
    • A61B3/1233Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes using coherent radiation for measuring blood flow, e.g. at the retina
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/14Arrangements specially adapted for eye photography

Description

本発明は、眼科診療に用いられる情報処理装置、その作動方法、及びコンピュータプログラムに関する。
生活習慣病や失明原因の上位を占める疾病の早期診療を目的として、眼部の検査が広く行われている。共焦点レーザー顕微鏡の原理を利用した眼科装置である走査型レーザー検眼鏡(SLO;Scanning Laser Ophthalmoscope)は、測定光であるレーザーを眼底に対してラスター走査し、その戻り光の強度から平面画像を高分解能かつ高速に得る装置である。開口部(ピンホール内)を通過した光のみを検出することで、特定の深度位置の戻り光のみを画像化でき、眼底カメラ等に比べてコントラストの高い画像を取得できる。以下、このような平面画像を撮像する装置をSLO装置、該平面画像をSLO画像と記す。
近年、SLO装置において測定光のビーム径を大きくすることにより、横分解能を向上させた網膜のSLO画像を取得することが可能になってきた。しかし、測定光のビーム径の大径化に伴い、網膜のSLO画像の取得において、被検眼の収差によるSLO画像のS/N比及び分解能の低下が問題になってきた。それを解決するために、被検眼の収差を波面センサでリアルタイムに測定し、被検眼にて発生する測定光やその戻り光の収差を波面補正デバイスで補正する補償光学系を有する補償光学SLO装置が開発され、高横分解能なSLO画像の取得を可能にしている。
このような高横分解能なSLO画像は動画像として取得することができ、たとえば血流動態を非侵襲に観察するために、各フレームから網膜血管を抽出した上で毛細血管における血球の移動速度などが計測される。また、SLO画像を用いて視機能との関連を評価するために視細胞Pを検出した上で視細胞Pの密度分布や配列の計測が行われている。図6(b)に高横分解能なSLO画像の例を示す。視細胞Pや毛細血管の位置に対応した低輝度領域Q、白血球の位置に対応した高輝度領域Wが観察できる。前記SLO画像において、視細胞Pを観察する場合にはフォーカス位置を網膜外層(図6(a)のB5)付近に設定して図6(b)のようなSLO画像を撮影する。一方、網膜内層(図6(a)のB2からB4)には網膜血管や分岐した毛細血管が走行している。フォーカス位置を網膜内層に設定して補償光学SLO画像を取得すると、例えば網膜血管壁を直接観察できる。
しかし、網膜内層を撮影した共焦点画像では神経線維層から反射する光の影響でノイズ信号が強く、血管壁の観察や壁境界の検出が難しい場合があった。そこで、近年は受光部手前にあるピンホールの径や形状、位置を変えることにより散乱光を取得して得られた非共焦点画像を観察する方法が用いられるようになってきている(非特許文献1)。非共焦点画像ではフォーカス深度が大きいために血管のように深度方向に凹凸のある物体の観察がしやすく、また、神経線維層からの反射光を直接受光しにくくなるためノイズが低減される。また、網膜外層の視細胞を観察する場合でも、これまで共焦点画像では主に視細胞外節が画像化されていたのに対し、非共焦点画像では視細胞内節の凹凸が画像化されることがわかってきている(非特許文献2)。視細胞障害の初期で外節は欠損しているが内節は生存している細胞が存在する領域については、共焦点画像では黒く欠損する(図6(k)のDc5)のに対し非共焦点画像では高輝度な粒状の物体が存在する領域として観察できる(図6(l)のDn5)。
これまで、補償光学SLO装置を用いて網膜血管の非共焦点画像を取得する技術が非特許文献1に、また、補償光学SLO装置を用いて共焦点画像と非共焦点画像を同時に取得する技術が非特許文献2に開示されている。
Sulai,Dubura et al.;"Visualization of retinal vascular structure and perfusion with a nonconfocal adaptive optics scanning light ophthalmoscope",J.Opt.Soc.Am.A,Vol.31,No.3,pp.569−579,2014. Scoles,Dubura et al.;"In vivo Imaging of Human Cone Photoreceptor Inner Segment",IOVS,Vol.55,No.7,pp.4244−4251,2014.
共焦点画像及び非共焦点画像を取得可能なSLO装置においては、共焦点信号の方が、信号強度が大きいために共焦点信号を用いて画像位置合わせを行うのが一般的である。しかし、例えば、網膜内層にフォーカス位置を設定して網膜血管を補償光学SLOで撮影する場合には、共焦点信号を用いて位置合わせを行うとノイズの影響で位置合わせの類似度の評価値分布のピーク位置がばらつき易く、位置合わせが不正確になり易いという課題があった。また、網膜外層にフォーカス位置を設定して視細胞を撮影する場合であっても、視細胞外節欠損部位においては、位置合わせの目印になる高輝度な領域が少ないために画像間の類似度の評価値が低く、位置合わせが不正確になり易いという課題があった。
本発明の目的の一つは、上記の課題に鑑みてなされたものであり、共焦点画像の位置ずれを求める精度を向上することである。
本発明の目的を達成するために、例えば本発明の情報処理装置及びその作動方法は以下の構成を備える。
本発明の一態様による情報処理装置は、
異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置ずれを示す情報を取得するための画像の種類を選択する選択手段と、
前記選択された種類の画像として前記複数の非共焦点画像が選択された場合に、前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する情報取得手段と、を有する。
また、本発明の一態様による情報処理装置の作動方法は、
異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置ずれを示す情報を取得するための画像の種類を選択する工程と、
前記選択された種類の画像として前記複数の非共焦点画像が選択された場合に、前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する工程と、を有する。
本発明の一つによれば、共焦点画像の位置ずれを求める精度を向上することができる。
第一の実施形態に係る情報処理装置10の機能構成例を示すブロック図である。 第一の実施形態に係る情報処理装置10を含むシステムの構成例を示すブロック図である。 第一の実施形態に係るSLO像撮像装置20の全体の構成について説明する図である。 記憶部120、画像処理部130に相当するハードウェアを有し、且つその他の各部をソフトウェアとして保持し、実行するコンピュータのハードウェア構成例を示すブロック図である。 第一の実施形態に係る情報処理装置10が実行する処理のフローチャートである。 第一の実施形態での画像処理内容を説明する図である。 第一及び第四の実施形態に係るS520及びS530、第三の実施形態に係るS532及びS542で実行される処理の詳細を示すフローチャートである。 第二の実施形態に係る情報処理装置10の機能構成例を示すブロック図である。 第三の実施形態に係る情報処理装置10の機能構成例を示すブロック図である。 第四の実施形態に係る情報処理装置10の機能構成例を示すブロック図である。
本実施形態の一態様は、異なる時間に眼部を撮影して得た複数の共焦点画像と少なくとも1種類の複数の非共焦点画像とを含む複数種類の画像を取得する画像取得手段(一例として、図1のデータ取得部110)を有する。また、本実施形態の一態様は、少なくとも1種類の複数の非共焦点画像に基づいて、複数種類の画像の少なくとも一つの位置ずれを示す情報を取得する情報取得手段(一例として、図1の画像処理部130)を有する。これにより、共焦点画像の位置ずれを求める精度を向上することができる。ここで、位置ずれを示す情報とは、画像の類似度の評価値等で、本明細書において位置合わせパラメータ等とも呼ぶ。
また、本実施形態の一態様は、例えば、位置ずれを示す情報に基づいて、複数種類の画像の少なくとも一つを位置合わせする位置合わせ手段(一例として、図1の位置合わせ部131)を更に有しても良い。これにより、精度の良い共焦点画像の位置ずれを示す情報を用いることができるため、結果として、共焦点画像の位置合わせ精度を向上することができる。なお、画像取得後に画像の位置合わせを行う以外に、画像取得前あるいは画像取得中において、眼部を追尾するように眼科撮像装置(SLO像撮像装置20の一例)を制御しても良い。このとき、位置ずれを示す情報に基づいて、眼部に照射する光を走査する走査光学系を制御する制御手段を有することが好ましい。また、眼科撮像装置の光学ヘッド(走査光学系を覆う筺体)をステージに対して駆動する駆動手段を制御する制御手段を有することが好ましい。ここで、制御手段は、一例として、図1のデータ取得部110である。なお、制御手段は、情報処理装置10に設けられる必要はなく、眼科撮像装置に設けられたCPU等により構成されても良い。
なお、別の本実施形態の一態様としては、共焦点画像と非共焦点画像を取得する装置で、非共焦点画像に基づいて位置合わせパラメータ値を決定することが好ましい。これにより、該パラメータ値を用いて非共焦点画像だけでなく共焦点画像も位置合わせを行うことができる。このため、網膜内層の血管や網膜外層の病変を撮影した画像であっても、ロバスト良く且つ高精度に画像の位置合わせを行うことができる。
ここで、上述した非特許文献1に記載の技術では、非共焦点画像を取得する補償光学SLO装置において非共焦点画像を用いて画像位置合わせを行っている。共焦点画像及び非共焦点画像を取得する場合に非共焦点画像を用いて位置合わせパラメータ値を決定し、共焦点画像に対しても非共焦点画像に対して決定された位置合わせパラメータ値を適用して位置合わせする方法については開示されていない。また、非特許文献2に記載の技術は、共焦点画像及び非共焦点画像を同時に取得しているものの、共焦点画像を用いて位置合わせを行っている。視細胞外節欠損領域のように共焦点信号の値が低く、類似度評価値が低くなりがちな画像で位置合わせを正確に行うことは難しい。
以下、添付図面に従って本発明に係る情報処理装置、その作動方法、及びコンピュータプログラムの好ましい実施形態について詳説する。ただし本発明はこれに限定されるものではない。
[第1の実施形態:非共焦点画像を用いて位置合わせパラメータを取得]
本実施形態に係る情報処理装置は、共焦点画像と非共焦点画像を略同時に取得するSLO装置を用いて網膜血管を撮影する場合に、非共焦点画像に基づいて決定される位置合わせパラメータ値を用いて共焦点画像と非共焦点画像を位置合わせするよう構成したものである。具体的には、図3(a)(b)に示すような共焦点画像Dcと非共焦点画像Dnを略同時に取得するSLO装置で網膜血管に関する共焦点画像Dcおよび非共焦点画像Dnを取得する。非共焦点画像Dnに基づいて決定される位置合わせパラメータ値を用いて共焦点画像Dc及び非共焦点画像Dnのフレーム間位置合わせ及び画像貼り合わせ処理を行う場合について説明する。なお、共焦点画像と非共焦点画像は、完全に同時に取得される必要はなく、時間的に対応していれば良い。例えば、眼の移動に伴う画像の位置ずれが比較的小さい時間間隔に取得されたものであれば良い。
(全体構成)
図2は、本実施形態に係る情報処理装置10を含むシステムの構成図である。図2に示すように情報処理装置10は、眼科撮像装置の一例であるSLO像撮像装置20やデータサーバ40、時相データ取得装置50と、光ファイバ、USBやIEEE1394等で構成されるローカル・エリア・ネットワーク(LAN)30を介して通信可能に接続されている。なお、これらの機器との接続は、インターネット等の外部ネットワークを介して通信可能に接続される構成であってもよいし、あるいは情報処理装置10と直接接続されている構成であってもよい。また、情報処理装置が眼科撮像装置に内蔵されて一体として構成されても良い。
また、SLO像撮像装置20は、眼部の広画角画像Dlや高倍率画像である共焦点画像Dcと非共焦点画像Dnを撮像する装置である。SLO撮像装置20は、広画角画像Dlや共焦点画像Dc、非共焦点画像Dn、及びその撮影時に用いた固視標位置Fl、Fcnの情報を情報処理装置10及びデータサーバ40へ送信する。時相データ取得装置50は、自律的に変化する生体信号データ(時相データ)を取得する装置であり、例えば脈波計もしくは心電計からなる。時相データ取得装置50は不図示の操作者による操作に応じ、前記広画角画像Dlや前記共焦点画像Dcと非共焦点画像Dnの取得と同時に時相データPiを取得する。得られた時相データPiは、情報処理装置10、データサーバ40へ送信される。なお、時相データ取得装置50は、SLO像撮像装置20に直接接続されている構成であってもよい。なお、各画像を異なる撮影位置で取得する場合にはDli,Dcj,Dnkのように表す。すなわちi,jは各々撮影位置番号を示す変数であり、i=1,2,...,imax、j=1,2,...,jmax、k=1,2,...,kmaxとする。また、共焦点画像Dcや非共焦点画像Dnを異なる倍率で取得する場合には、最も倍率の高い画像から順にDc1m,Dc2o,...(Dn1m,Dn2o,...)のように表記する。Dc1m(Dn1m)のことを高倍率共焦点(非共焦点)画像、Dc2o,...(Dn2o,...)を中間倍率共焦点(非共焦点)画像と表記する。
また、データサーバ40は、被検眼の広画角画像Dlや共焦点画像Dc、非共焦点画像Dn、及びその撮影時に用いた固視標位置Fl、Fcnのような撮像条件データ、時相データPi、眼部の画像特徴などを保持する。眼部の画像特徴として、本発明では視細胞Pや毛細血管Q、血球W、網膜血管壁に関する画像特徴を扱う。SLO像撮像装置20が出力する広画角画像Dl、共焦点画像Dc、非共焦点画像Dn、撮影時に用いた固視標位置Fl、Fcn、時相データ取得装置50が出力する時相データPi、情報処理装置10が出力する眼部の画像特徴を該サーバに保存する。また情報処理装置10からの要求に応じ、広画角画像Dl、共焦点画像Dc、非共焦点画像Dn、時相データPi、眼部の画像特徴を情報処理装置10に送信する。
次に、図1を用いて本実施形態に係る情報処理装置10の機能構成を説明する。図1は情報処理装置10の機能構成を示すブロック図であり、情報処理装置10はデータ取得部110、記憶部120、画像処理部130、指示取得部140を有する。また、データ取得部110は共焦点データ取得部111、非共焦点データ取得部112、時相データ取得部113を備える。画像処理部130は位置合わせ部131、表示制御部132を備える。さらに、位置合わせ部131は例外領域判定部1310、フレーム間位置合わせ部1311、画像貼り合わせ部1312を有する。
図3(a)(b)を用いて補償光学を適用したSLO撮像装置20を説明する。SLO撮像装置20はSLD201、シャックハルトマン波面センサ206、補償光学系204、ビームスプリッタ(202、203)、X−Y走査ミラー205、フォーカスレンズ209、絞り210、光センサ211、画像形成部212、出力部213を有する。
光源であるSLD(Super Luminescent Diode)201から照射された光は眼底で反射され、一部が第二のビームスプリッタ203経由でシャックハルトマン波面センサ206へ、それ以外は第一のビームスプリッタ202経由で光センサ211へ入力される。ここで、光源は、共焦点画像を取得するための光源と、非共焦点画像とを取得するための光源とが兼用であるが、異なる波長によって構成された複数の光源等を用いても良い。シャックハルトマン波面センサ206は眼の収差を測定するためのデバイスであり、レンズアレイ207にCCD208が接続されている。入射光がレンズアレイ207を透過するとCCD208に輝点群が現れ、該投影された輝点の位置ずれに基づき波面収差が測定される。補償光学系204はシャックハルトマン波面センサ206で測定された波面収差に基づき、収差補正デバイス(可変形状ミラーもしくは空間光位相変調器)を駆動して収差を補正する。該収差補正された光はフォーカスレンズ209、絞り210を経由し光センサ211にて受光される。ここで、絞り210、光センサ211は、各々本発明に係る開口部、受光部の一例である。なお、開口部は、受光部の前段で且つ受光部付近に設けられていることが好ましい。X―Y走査ミラー205を動かすことで眼底上の走査位置を制御でき、操作者が予め指定した撮影対象領域、時間(フレームレート×フレーム数)のデータを取得する。該データを画像形成部212へ伝送し、走査速度のばらつきに起因する画像歪みの補正や、輝度値の補正を行って画像データ(動画像もしくは静止画像)を形成する。出力部213は画像形成部212が形成した画像データを出力する。
SLO撮像装置20において、共焦点画像Dcと非共焦点画像Dnを取得可能な構成であれば、図3(a)における絞り210及び光センサ211の部分は任意の構成にしてよい。本実施形態では、遮光部210−1(図3(b)・図3(c))及び光センサ211−1、211−2、211−3(図3(b))で構成する。戻り光は、結像面に配置された遮光部210−1に入射した一部光は反射して光センサ211−1へ入射する。ここで、図3(c)を用いて遮光部210−1の説明を行う。遮光部210−1は、透過領域210−1−2及び210−1−3、遮光領域(不図示)、反射領域210−1−1で形成され、中心は戻り光の光軸中心に位置するように配置される。遮光部210−1は戻り光の光軸に対して斜めに配置されたときに、光軸方向から見て円形になるような楕円形状のパターンを持っている。遮光部で分割された戻り光は光センサ211−1に入射する。遮光部210−1の透過領域210−1−2及び210−1−3を通過した光は、結像面に配置された四角錐プリズム210−2によって分割され、図3(b)に示すように、光センサ211−2、211−3へそれぞれ入射する。各光センサで得られた電圧信号は、画像形成部212内のADボードにてデジタル値に変換され、2次元画像として形成される。光センサ211−1に入射された光に基づく画像は、特定の狭い範囲に焦点を合わせた共焦点画像となる。また、光センサ211−2及び211−3に入力される光に基づく画像は、広い範囲に焦点を合わせた非共焦点画像となる。ここで、遮光部210−1は、光源からの光が照射された眼部からの戻り光を、共焦点領域を通る戻り光と非共焦点領域を通る戻り光とに分割する光学部材の一例である。また、透過領域210−1−2及び210−1−3は、非共焦点領域の一例であり、非共焦点領域を通る戻り光に基づいて非共焦点画像が取得される。また、反射領域210−1−1は、共焦点領域の一例であり、共焦点領域を通る戻り光に基づいて共焦点画像が取得される。
なお、非共焦点信号の分割法はこれに限られるものではなく、例えば図3(d)のように4つに分割して受信するよう構成してもよい。また、共焦点信号及び非共焦点信号の受信方法はこれに限定されるものではなく、例えば、絞り210(開口部)の径や位置が可変となる機構を有することが好ましい。このとき、図3(c)のように共焦点信号として受信したり、図3(d)のように非共焦点信号を受信するように、開口部の径と光軸方向における位置とのうち少なくとも一つを調整可能に構成されることが好ましい。なお、開口部の径や移動量は任意に調節して良く、例えば、図3(c)では開口部の径を1ADD(Airy Disc Diameter)、図3(d)では開口部の径を10ADD程度、移動量を6ADD程度に調節できる。あるいは、図3(g)や(h)のように、複数の非共焦点信号を略同時に受信するよう構成してもよい。本実施形態では、非共焦点信号が2種類あることから、片側をRチャンネル画像の意味でDnr、もう一方をLチャンネル画像の意味でDnlと表記する。非共焦点画像Dnと標記する場合は、Rチャンネル画像Dnr及びLチャンネル画像Dnlの両方を指している。
なお、図3(a)の構成で走査光学系の振り角を大きくし、補償光学系204が収差補正を行わないよう指示することによってSLO像撮像装置20は通常のSLO装置としても動作し、広画角な共焦点画像および非共焦点画像を撮像できる。なお、以下では高倍率画像Dc、Dnよりも低倍率で、データ取得手段110が取得した画像の中で最も低倍率な画像のことを広画角画像Dl(Dlc、DlrDll)と呼ぶ。従って、広画角画像Dlは補償光学が適用されたSLO画像の場合もあるし、単なるSLO画像の場合も含まれる。なお、共焦点の広画角画像と非共焦点の広画角画像を区別する場合は、各々Dlc、Dlnr、Dlnlと表記する。
次に、図4を用いて情報処理装置10のハードウェア構成について説明する。図4において、301は中央演算処理装置(CPU)、302はメモリ(RAM)、303は制御メモリ(ROM)、304は外部記憶装置、305はモニタ、306はキーボード、307はマウス、308はインターフェースである。本実施形態に係る画像処理機能を実現するための制御プログラムや、当該制御プログラムが実行される際に用いられるデータは、外部記憶装置304に記憶されている。これらの制御プログラムやデータは、CPU301による制御のもと、バス309を通じて適宜RAM302に取り込まれ、CPU301によって実行され、以下に説明する各部として機能する。情報処理装置10を構成する各ブロックの機能については、図5(a)のフローチャートに示す情報処理装置10の具体的な実行手順と関連付けて説明する。
<ステップ510:画像の取得>
データ取得部110はSLO像撮像装置20に対して、広画角画像Dlc、Dlr、Dll、共焦点画像Dcj、非共焦点画像DnrkおよびDnlk、対応する固視標位置Fl、Fcnの取得を要求する。SLO像撮像装置20は該取得要求に応じて広画角画像Dlc、Dlr、Dll、共焦点画像Dcjや非共焦点画像Dnrk、Dnlk、対応する固視標位置Fl、Fcnを取得し送信する。データ取得部110はSLO像撮像装置20からLAN30を介して当該広画角画像Dlc、Dlr、Dll、共焦点画像Dcj、非共焦点画像Dnrk、Dnlk、及び固視標位置Fl、Fcnを受信し、記憶部120に格納する。また、時相データ取得部113は時相データ取得装置50に対し生体信号に関する時相データPiの取得を要求する。本実施形態では時相データ取得装置として脈波計を用い、被験者の耳垂(耳たぶ)から脈波データPiを取得する。ここで脈波データPiは一方の軸に取得時刻、他方の軸に脈波計が計測した脈波信号値を持つ点列として表現される。時相データ取得装置50は該取得要求に応じて対応する時相データPiを取得し送信するので、時相データ取得部113は時相データ取得装置50からLAN30を介して当該脈波データPiを受信する。時相データ取得部113は受信した時相データPiを記憶部120に格納する。ここで、時相データ取得装置50が取得する時相データPiのある位相に合わせて共焦点データ取得部111もしくは非共焦点データ取得部112が画像を取得開始する場合と、画像の取得要求後直ちに脈波データPiと画像取得を同時に開始する場合が考えられる。本実施形態では画像取得要求後直ちに時相データPiと画像取得を開始する。時相データ取得部113より各画像の時相データPiを取得し、各々の時相データPiの極値を検出して拍動周期及び心時相の相対値(relative cardiac cycle)を算出する。なお、網膜血管を撮影した場合の共焦点画像Dc、非共焦点画像Dnrの例を図6(c)及び(d)に示す。共焦点画像Dcでは背景の神経線維層の反射が強く、背景部分のノイズにより位置合わせが難しくなりやすい。また、Rチャンネル(Lチャンネル)の非共焦点画像Dnr(Dnl)では、右側(左側)の血管壁のコントラストが高くなる。
一方、非共焦点画像の例はこれに留まらない。例えば非共焦点画像DnrとDnlとの加算処理画像Dnr+l、差分処理の1種((L−R)/(R+L))を適用したSplit Detector画像Dnsdを生成してもよい。Dnr+lとDnsdの例を各々図3(e)と(f)に示す。Dnr+lやDnsdでは、背景ノイズが低減されていたり、血管のエッジが強調されているので共焦点画像Dcよりも位置合わせをロバストかつ正確に実行しやすい。以下では、非共焦点画像Dnkと表記した場合にはいずれの非共焦点画像Dnkも位置合わせに適用できるが、特に断らない場合はDnr+lを用いるものとして説明を進める。
<ステップ520:フレーム間の位置合わせ>
位置合わせ部131は、広画角画像Dln及び非共焦点画像Dnkにおけるフレーム間位置合わせを行う。広画角画像Dln及び非共焦点画像Dnkにおいて位置合わせの基準となる基準フレームを設定し、Affine変換により大まかな位置合わせ(粗位置合わせ)を行う。さらに精密位置合わせとして非剛体位置合わせを行う。なお本ステップにおいて、例外領域判定部1310が広画角画像Dln及び非共焦点画像Dnkに含まれる輝度異常、画像歪み、低S/N比もしくはフレームアウトの見られる例外フレームを検出する。
また、広画角画像Dlnr+lや非共焦点画像Dnr+lに対して決定されたフレーム間位置合わせパラメータ値をDlnr+lやDnr+lだけでなく各々広画角画像Dlc、Dlr、Dll、共焦点画像Dcj、非共焦点画像Dnr、Dnlに対しても適用し、フレーム間位置合わせを行う。さらに、フレーム間位置合わせ済みの動画像(図6(g))に対して時相データPiが特定の位相を持つフレームのみを選択した上で、本ステップで決定した位置合わせパラメータ値を用いて各動画像DlやDcj、Dnkを重ね合わせする(図6(h))。ここでは、特定の位相として拡張末期を指定する。なお、具体的なフレーム間位置合わせ方法についてはS710からS750で詳述する。
<ステップ530:画像を貼り合わせる>
位置合わせ部131は、S520で形成された広画角非共焦点画像Dlnの重ね合わせ画像と高倍率非共焦点画像Dnkの重ね合わせ画像との位置合わせを行い、Dln上のDnkの相対位置を求める。すなわち、位置合わせパラメータの組み合わせを変えながら広画角非共焦点画像Dlnr+lと高倍率非共焦点画像Dnr+lの重ね合わせ画像との画像間類似度を算出する。最も画像間類似度の大きい位置合わせパラメータの組み合わせを用いて広画角非共焦点画像Dlnr+lに対する各非共焦点画像Dnr+lの相対位置を決定する。
さらに、広画角非共焦点画像Dlnr+lと非共焦点画像Dnr+lに対して決定された画像貼り合わせパラメータ値を共焦点画像(DlcとDcj)、各チャンネルの非共焦点画像(DlrとDnrk、DllとDnlk)の貼り合わせに対しても適用する。広画角画像Dlc上の高倍率共焦点画像Dcjの相対位置、広画角画像Dlr上の高倍率非共焦点画像Dnrkの相対位置、広画角画像Dll上の高倍率非共焦点画像Dnlkの相対位置が決定される。なお、具体的な画像貼り合わせ方法についてはS711からS721で詳述する。
<ステップ540:表示>
表示制御部132は、形成された画像群をモニタ305上に表示する。ここでは、時相データPiが特定の位相(拡張末期)を持つフレームのみを選択した上でS520で決定された位置合わせパラメータ値を用いて各動画像を重ね合わせした画像を、S530で決定した位置合わせパラメータ値を用いて貼り合わせ表示する。また、指示取得部140を経由して指示された撮影位置について、S520で決定されたフレーム間位置合わせパラメータ値を用いて重ね合わせ画像もしくはフレーム間位置合わせ済み動画像を表示する。
ここで、表示する画像種はGUIを用意して切り替える。本実施形態ではラジオボタンを用いて表示を切り替えるが、任意のGUIを用いて切り替えてよい。切り替える画像種としては、共焦点、Rチャンネル、Lチャンネルの3種類のみならず、これらの画像種同士の任意の演算によって生成される画像も含む。例えば、共焦点画像、Rチャンネル画像、Lチャンネル画像、R+L画像、SplitDetector画像((L−R)/(R+L))の5種類を切替表示してよい。
ここで、表示制御部132は、複数の共焦点画像Dcj及び非共焦点画像Dnkが取得されている場合に共焦点画像Dcj間、及び非共焦点画像Dnk間の濃度差を補正して表示してもよい。任意の公知の輝度補正法を適用でき、本実施形態では各画像Dcj及びDnkにおいてヒストグラムHj及びHkを生成し、ヒストグラムHjとHkの各平均と各分散が画像Dcj間及びDnk間で共通した値になるように各画像Dcj及びDnkの輝度値を線形変換することにより濃度差を補正する。なお、共焦点画像間及び非共焦点画像間の輝度補正法はこれに限らず、任意の公知の輝度補正法を用いてよい。さらに、表示倍率については、指示取得部140を通じて操作者が指定した画像を拡大してモニタ305に表示する。
<ステップ550:結果の保存の要否>
指示取得部140は、広画角画像Dlc、Dlr、Dll、高倍率共焦点画像Dc、高倍率非共焦点画像Dnr及びDnl、固視標位置Fl、Fcn、S520及びS530において取得された位置合わせパラメータ値、S540で形成された重ね合わせ画像及び貼り合わせ画像をデータサーバ40へ保存するか否かの指示を外部から取得する。この指示は例えばキーボード306やマウス307を介して操作者により入力される。保存が指示された場合はS560へ、保存が指示されなかった場合はS570へと処理を進める。
<ステップ560:結果の保存>
画像処理部130は、検査日時、披検眼を同定する情報、広画角画像Dlc、Dlr、Dll、高倍率画像Dc、Dnr、Dnlと固視標位置Fl、Fcn、位置合わせパラメータ値、各動画像Dlc、Dlr、Dll、Dc、Dnr、Dnlの重ね合わせ画像、貼り合わせ画像を関連付けてデータサーバ40へ送信する。
<ステップ570:終了の要否>
指示取得部140は情報処理装置10による広画角画像Dlと高倍率共焦点画像Dcj、高倍率非共焦点画像Dnkに関する処理を終了するか否かの指示を外部から取得する。この指示はキーボード306やマウス307を介して操作者により入力される。処理終了の指示を取得した場合は処理を終了する。一方、処理継続の指示を取得した場合にはS510に処理を戻し、次の披検眼に対する処理(または同一披検眼に対する再処理を)行う。
さらに、図7(a)に示すフローチャートを参照しながら、S520で実行される処理の詳細について説明する。
<ステップ710:例外フレームの判定>
高倍率非共焦点画像Dnkの各フレームにおいて、単独フレームでの例外フレーム判定を行う。本実施形態においては、例外領域判定部1310が各フレームの平均輝度値Akj及びS/N比SNjを算出し、Akjが閾値T1以下、もしくはS/N比SNjがT2以下であれば輝度異常もしくは低画質であるとみなして例外フレームと判定する。ただし、例外フレームの判定法はこれに限るものではなく、任意の例外判定法を用いて良い。
<ステップ720:基準フレームの決定>
位置合わせ部131は、高倍率非共焦点画像Dnkに対して位置合わせの基準となる基準フレームを設定する。本実施形態では、S710において例外フレームと判定されたフレーム以外で、最もフレーム番号の小さいフレームを基準フレームとする。なお、基準フレームの設定法はこれに限るものではなく、任意の設定法を用いて良い。例えば、ユーザが指定した基準フレーム番号を指示取得部140から取得して基準フレームを設定してもよい。
<ステップ730:粗い位置合わせ>
位置合わせ部131は、高倍率非共焦点画像Dnkに対してフレーム間の大まかな位置の対応付け(粗位置合わせ)を行う。任意の位置合わせ手法を用いることができ、本実施形態では画像間類似度評価関数として相関係数、座標変換手法としてAffine変換を用いて粗位置合わせを行う。なお、評価関数や座標変換手法はこれに限定されず、任意の評価関数あるいは座標変換手法を用いてよい。
<ステップ740:精密な位置合わせ>
位置合わせ部131は、S730で得られた高倍率非共焦点画像Dnkのフレーム間の大まかな位置の対応関係のデータに基づき、高倍率非共焦点画像Dnkの各フレームに対して精密位置合わせを行う。本実施形態ではS730で得られた高倍率非共焦点画像Dnkの粗位置合わせ済動画像に対し、非剛体位置合わせ手法の一種であるFFD(Free Form Deformation)法を用いてフレーム間の精密位置合わせを行う。なお、精密位置合わせの手法はこれに限らず、任意の位置合わせ手法を用いて良い。
<ステップ750:>
S740の高倍率非共焦点画像Dnkに対する精密位置合わせによって得られた精密位置合わせ済動画像の各フレームに対して例外フレーム判定を行う。本実施形態では、例外領域判定部1310が基準フレームと(基準フレーム以外の)各フレームとの差分演算を行って該差分画像のヒストグラムを求める。該ヒストグラムの平均値及び分散が閾値T3以上かつ閾値T4以上であれば固視微動により一時的に眼底上の異なる位置が撮影されたとみなして例外フレームと判定する。
なお、例外フレームの判定法はこれに限らず任意の判定法を用いて良い。例えば高倍率非共焦点画像Dnkの精密位置合わせ済動画像の各フレームに対して、血管抽出及び血管交差部検出を行う。各フレームにおいて血管交差部間の距離の二乗和を求めて該距離の二乗和の値が隣接フレーム間で閾値T5以上異なっていれば画像歪みが発生したとみなして例外フレームと判定しても良い。
さらに、図7(b)に示すフローチャートを参照しながら、S530で実行される処理の詳細について説明する。
<ステップ711>
位置合わせ部131は、記憶部120から高倍率非共焦点画像Dnkの撮影時に用いた固指標位置Fcnを取得し、広画角画像Dlnと非共焦点画像Dnkとの位置合わせにおける位置合わせパラメータの探索初期点とする。本実施形態においては、位置合わせパラメータとして並進(x及びy)・回転θ・拡大率sを求める。該パラメータの初期値として、(x0,y0,θ0,s0)=(Fcnのx成分、Fcnのy成分、0°、1.0)を設定する。
<ステップ721>
S711で設定された位置合わせパラメータ値の組み合わせ(x0,y0,θ0,s0)を初期値として、該パラメータ値の組み合わせを変化させながら広画角画像Dlnと高倍率非共焦点画像Dnkとの位置合わせを行う。なお、本実施形態では広画角画像Dlnは重ね合わせ画像であるものとする。広画角画像Dlnの重ね合わせ画像と高倍率非共焦点画像Dnkの重ね合わせ画像との類似度が最も高い位置合わせパラメータ値の組み合わせを広画角画像Dlnに対する非共焦点画像Dnkの相対位置として決定する。位置合わせ手法はこれに限らず、任意の位置合わせ手法を用いて良い。なお、高倍率非共焦点画像Dnk間で重なり領域がある場合には、該重なり領域に関しても画像間類似度を算出し、最も画像間類似度が最大となる位置に高倍率非共焦点画像Dnk同士の位置を合わせる。
また、S510において中間倍率の画像が取得されている場合には、より低倍率な画像から順に位置合わせを行う。例えば高倍率非共焦点画像Dn1mと中間倍率非共焦点画像Dn2oが取得されている場合にはまず広画角画像Dlnと中間倍率画像Dn2oとの間で位置合わせを行い、次いで中間倍率画像Dn2oと高倍率画像Dn1mとの間で位置合わせを行う。
本実施形態では、画素値ベースの画像間類似度を用いて、高倍率動画像Dnkのフレーム全体が基準フレームもしくは広画角画像Dlnに最も類似する位置合わせパラメータの組み合わせを広画角画像W上の相対位置として求めたが、これに限定されるものではない。例えば、高倍率動画像Dnkの各フレームもしくは広画角画像Dlnにおいて観察対象の画像特徴(病変や中心窩などの部位、血管の分岐などの特徴点)を検出する。さらに該画像特徴の位置が最も精密に合うように高倍率動画像Dnkのフレーム間もしくは広画角画像Dlnと高倍率動画像Dnkとの間で位置合わせを行っても良い。
また、本実施形態では広画角画像Dlnは動画像とし、広画角画像Dlnの重ね合わせ画像と非共焦点画像Dnkの重ね合わせ画像との位置合わせを行ったが、これに限定されるものではない。例えば広画角画像Dlnを静止画像とし、Dlnの所定のフレーム(基準画像)との位置合わせを行っても良い。あるいは、広画角画像Dlが共焦点画像しか撮影されていない場合も本発明に含まれる。その場合は広画角画像Dlcの重ね合わせ画像と高倍率画像Dnr+lの重ね合わせ画像間で相互情報量のようなマルチモダリティ画像間での位置合わせに用いられる類似度評価関数値を計算し、最大評価値の位置合わせパラメータ値で位置合わせを行えばよい。
また、貼り合わせ表示する画像は共焦点画像及び非共焦点画像のみならず、それらを画像処理して生成した画像をS520及びS530で決定した位置合わせパラメータ値を用いて貼り合わせ表示してもよい。例えば、フレーム間位置合わせ済動画像の隣接フレーム同士を除算し、各画素位置において該除算値の全フレームにおける標準偏差を算出することによって血管画像(いわゆるperfusion画像)が生成される(図6(i))。該血管画像をS530で決定した位置合わせパラメータ値を用いて貼り合わせ表示することも本発明に含まれる。
さらに、広画角画像Dlc(Dln)上に静止画でなく高倍率動画像Dcj(Dnk)を貼り合わせ同期表示させてもよい。同期表示させる場合には、例外フレームを除いた最長の連続フレーム区間を各動画像で求め、動画像のフレーム補間処理によって再生周期を動画像間で同一に揃えた上で表示すればよい。もちろん、時相データが取得されていない場合には再生時刻や再生周期を調整せずにそのまま動画像を貼り合わせ表示してもよい。
以上述べた構成によれば、情報処理装置10は共焦点画像Dcと非共焦点画像Dnを同時に取得するSLO装置を用いて網膜血管を撮影する場合に以下の処理を行う。すなわち、非共焦点画像Dnに基づいて決定される位置合わせパラメータ値を用いて共焦点画像Dc及び非共焦点画像Dnのフレーム間位置合わせ及び画像貼り合わせ処理を行う。これにより、網膜内層の血管を撮影した画像を、ロバストかつ高精度に位置合わせできる。
[第2の実施形態:非共焦点画像を用いて追尾処理]
本実施形態に係る情報処理装置は、共焦点画像と非共焦点画像を同時に取得するSLO装置で網膜血管を撮影する場合に、第1実施形態のように画像取得後に位置合わせするのではなく、画像取得中に非共焦点画像を用いて追尾処理を行うように構成したものである。ここで言う追尾処理とは、高速で局所領域ごとの画像位置合わせを行い、その結果をSLO装置にフィードバックしてスキャナの走査位置を随時修正することで略同一の領域を常に撮影可能にすることを指す。具体的には、図3(a)(b)に示すような共焦点画像Dcjと非共焦点画像Dnkを同時に取得するSLO装置で網膜血管の非共焦点動画像Dnkを取得する。該画像内を複数の矩形領域で分割する場合の、隣接矩形領域間での類似度評価値に基づいて決定された並進移動パラメータ値を用いて追尾する場合について説明する。
本実施形態に係る情報処理装置10と接続される機器の構成は第1実施形態の場合と同様である。なお、データサーバ40は被検眼の広画角画像Dlc、Dlr、Dll、高倍率画像Dcj、Dnrk、Dnlk、及びその取得時に用いた固視標位置Fl、Fcnのような取得条件データ以外に、眼部の画像特徴も保持する。眼部の画像特徴としては任意のものを保持できるが、本実施形態では網膜血管及び血管壁、毛細血管Q、血球Wを扱う。情報処理装置10が出力する眼部の画像特徴は該データサーバ40に保存される。また情報処理装置10からの要求に応じて眼部の画像特徴が情報処理装置10に送信される。
次に、本実施形態に係る情報処理装置10の機能ブロックを図8に示す。位置合わせ部131に局所領域位置合わせ部1313を備える点が実施形態1と異なっている。また局所領域位置合わせ部1313が算出した局所領域間位置合わせパラメータ値をデータ取得部110に送信し、データ取得部110がSLO撮像装置20にフィードバックしてX−Y走査ミラー205の走査位置を修正する点も実施形態1の場合と異なっている。また、本実施形態での画像処理フローは図5(b)に示す通りであり、S561、S565、S571、S575は実施形態1の場合と同様である。そこで、本実施形態ではS511、S521、S531、S541、S545、S551、S563の処理のみ説明する。なお、本実施形態では高倍率画像Dnkのフレーム番号をp(p=1,2,...,pmax)として、非共焦点高倍率画像Dnkのpフレーム目の画像をDnkpのように表す。
<ステップ511:部分画像の取得>
データ取得部110が非共焦点高倍率動画像Dnkのpフレーム目Dnkp内の部分画像としてSpx(x=1,2,...,xmax)を取得する。ここで高倍率動画像Dnkの主走査方向は横方向であるので、本実施形態では図6(g)に示すような非共焦点高倍率動画像Dnkの部分画像Spxを図6(j)のSp1〜Sp5に示すように横長の矩形領域の画像として定義する。なお、局所領域(部分画像)の縦横のサイズは1以上画像サイズ以下の値であれば任意の自然数値を設定してよい。また、局所領域として任意の形状を指定してよい。なお、本実施形態ではフレーム内の最下部の部分画像(図6(g)ではSp5)が位置合わせされた後に次の部分画像を取得する場合には、次のフレームの最上部の部分画像S(p+1)1を取得するものとする。
<ステップ521:フレーム内の位置合わせ>
データ取得部110によって非共焦点高倍率動画像Dnkpの部分画像Spx+1が取得されたら、局所領域位置合わせ部1313が部分画像Spx+1とその隣接部分画像Spxとの間で位置合わせを行う。具体的には、所定のパラメータ探索範囲で水平方向及び垂直方向の並進移動に関して部分画像間の類似度(あるいは相違度)評価値を算出する。評価値としては任意の評価関数を用いることができ、本実施形態では相互相関係数値を用いる。パラメータ値の組合わせを変化させながら該類似度評価値の算出を繰り返し、類似度評価値が最大(相違度評価値の場合は最小)となるような並進移動量の組み合わせを決定する。なお、フレーム内の最下部の部分画像(図6(j)Sp5)を位置合わせ後、S520で次の部分画像(次フレーム最上部の部分画像)S(p+1)1を取得した際は前フレーム最上部の部分画像Sp1と位置合わせし、評価値最大の位置合わせパラメータ値を算出する。
網膜内層にフォーカス位置を設定して血管撮影する場合でも非共焦点動画像のフレーム内で位置合わせするため、背景部の高輝度ノイズの影響を排除でき、共焦点画像Dcjでフレーム内位置合わせする場合に比べロバストかつ高精度にフレーム内位置合わせできる。
<ステップ531:走査位置の修正>
局所領域位置合わせ部1313が決定した位置合わせパラメータ値(隣接部分画像間の水平及び垂直方向の並進移動量)に基づき、位置合わせ部131がデータ取得部110に該位置合わせパラメータ値を送信する。さらに、データ取得部110はSLO撮像装置20に対して該位置合わせパラメータ値を送信する。SLO撮像装置20は算出された並進移動量がキャンセルされるようにX−Y走査ミラー205の走査位置を修正する。
<ステップ541:表示>
表示制御部132は、S521で算出された位置合わせパラメータ値(水平方向及び垂直方向の並進移動量)に基づいて、各部分画像をつなぎ合わせて合成フレームとしてモニタ305に表示する。部分画像Spxの取得ごとに走査位置の修正が行われているため、合成フレームはほぼ静止したフレームとして表示され、観察しやすい網膜血管の画像を高速に得ることができる。
<ステップ545:1動画像分の取得を終了するか否かを判定>
データ取得部110は、現在撮影中の動画像Dc、Dnr、Dnlに関して、撮影指示されたフレーム数分の取得が完了したか否かを判定し、1動画像分の画像取得が完了していればS551に処理を進める。もしまだ取得未完了のフレームが残っている場合は、S511に処理を進めて次の部分画像(Spx+1もしくはS(p+1)1)を取得するようSLO撮像装置20に対して要求する。
<ステップ551:画像を貼り合わせる>
画像貼り合わせ部1312が、広画角画像Dln上に非共焦点高倍率画像Dnkの貼り合わせを行う。基本的な貼り合わせ方法は実施形態1と同様である。ただし実施形態1では全高倍率画像Dncj、Dnrk、Dnlkを1度に広画角画像に貼り合わせたのに対し、本実施形態では1高倍率動画像Dncj、Dnrk、Dnlkを取得する度に広画角画像Dlc、Dnr、Dnlへ貼り合わせる点が異なる。
<ステップ563:全動画像の取得を終了するか否かを判定>
データ取得部110は、全ての動画像取得が終了したか否かを判定し、全動画像の取得が完了していればS565に処理を進める。もしまだ取得未完了の動画像が残っている場合は、S511に処理を進めて次の動画像を取得するようSLO撮像装置20に対して要求する。なお、本実施形態ではS561の後で本ステップの処理を実行したが、S571の処理の後で行ってもよい。
以上述べた構成によれば、情報処理装置10は共焦点画像Dcと非共焦点画像Dnを同時に取得するSLO装置を用いて網膜血管を撮影する場合に、非共焦点画像Dnに基づいて決定される位置合わせパラメータ値を用いて追尾処理を行う。これにより、網膜内層の血管を撮影した画像を、ロバストかつ高精度に位置合わせできる。
[第3の実施形態:位置合わせされる画像の種類を決定]
本実施形態に係る情報処理装置は第1実施形態のように常に非共焦点画像で決定した位置合わせパラメータ値で位置合わせするのではなく、画像の面内または深度方向の取得位置に基づき位置合わせ用の画像種を決定し、該画像種で位置合わせパラメータ値を決定する。具体的には、黄斑部の網膜外層を撮影した画像に対しては共焦点画像、視神経乳頭部の網膜内層を撮影した画像に対しては非共焦点画像を位置合わせに用いる画像として決定し、該決定された種類の画像を用いてフレーム間位置合わせ及び画像貼り合わせ処理を行う。
本実施形態に係る情報処理装置10と接続される機器の構成は第1実施形態の場合と同様である。なお、データサーバ40は被検眼の広画角画像Dlc、Dlr、Dll、高倍率画像Dcj、Dnr、Dnl及びその取得時に用いた固視標位置Fl、Fcnのような取得条件データ以外に、眼部の画像特徴も保持する。眼部の画像特徴としては任意のものを保持できるが、本実施形態では網膜血管や血管壁、毛細血管Q、血球Wを扱う。情報処理装置10が出力する眼部の画像特徴は該データサーバ40に保存される。また情報処理装置10からの要求に応じて眼部の画像特徴が情報処理装置10に送信される。
次に、本実施形態に係る情報処理装置10の機能ブロックを図9に示す。データ取得部110に属性データ取得部114と、画像処理部130に決定部133を備える点が第1実施形態の場合と異なっている。また、本実施形態での画像処理フローは図5(c)の通りであり、S512、S522、S532、S542、S552以外は実施形態1の場合と同様である。そこで、本実施形態ではS512、S522、S532、S542、S552の処理のみ説明する。
<ステップ512:画像取得>
共焦点画像取得部111が広画角画像Dlcと黄斑部網膜外層及び視神経乳頭部網膜内層における共焦点高倍率画像Dlcを取得する。非共焦点画像取得部112が広画角画像Dlr、Dllと、黄斑部網膜外層及び視神経乳頭部網膜内層における非共焦点高倍率画像Dnr、Dnlとを取得する。また属性取得部113が、共焦点画像取得部111及び非共焦点画像取得部112が取得した画像の属性として画像の取得位置(面内及び深度方向)を取得する。ここでは網膜黄斑部網膜外層では視細胞、視神経乳頭部網膜内層については網膜血管を観察することを目的としている。なお、視神経乳頭部網膜内層においては時相データPiも同時に取得する。
<ステップ522:位置合わせ用の画像の種類を決定>
S512において属性取得部113が取得した画像取得位置データに基づいて、決定部133が画像のフレーム位置合わせ及び貼り合わせに用いる画像種を決定する。本実施形態では、決定部133が位置合わせに用いる画像種を視神経乳頭部もしくは網膜内層に対しては非共焦点画像、それ以外では共焦点画像と決定するものとする。
<ステップ532:フレーム間の位置合わせ>
S512で取得された画像に対して、S522で決定された種類の画像を用いて、フレーム間位置合わせ部1311がフレーム間位置合わせ処理を実行する。フレーム間位置合わせ処理の手順は、基本的に第1実施形態におけるS710〜S750と同様である。ただし、決定部133が決定した種類の画像でフレーム間位置合わせを行い、その結果得られた位置合わせパラメータ値を用いて他種類の画像のフレーム間位置合わせを行う、という点が第1実施形態と異なる。すなわち、視神経乳頭部網膜内層では、非共焦点動画像Dnr+lを生成した上で該動画像のフレーム間位置合わせを行い、得られたフレーム間位置合わせパラメータ値を用いて共焦点動画像Dcのフレーム間位置合わせを行う。また、黄斑部網膜外層では、共焦点動画像Dcのフレーム間位置合わせを行い、得られたフレーム間位置合わせパラメータ値を用いて非共焦点動画像Dnkのフレーム間位置合わせを行う。さらに、得られたフレーム間位置合わせ済みの各動画像の重ね合わせ処理を行い、重ね合わせ画像を生成する。なお、時相データPiが取得されている視神経乳頭部網膜内層の画像に関しては、心拍動の影響による血管径の変化によって重ね合わせ画像がぼけるのを防止するため、所定の脈波位相を持つ区間に属するフレームを選択して重ね合わせ画像を生成するものとする。
<ステップ542:画像を貼り合わせる>
画像貼り合わせ部1312が、S532で生成した画像を貼り合わせる処理を実行する。画像貼り合わせ処理の手順は、基本的に第1実施形態におけるS711〜S721と同様である。ただし、決定部133が決定した種類の画像で貼り合わせ処理を行い、その結果得られた位置合わせパラメータ値を用いて他種類の画像を貼り合わせる処理を行う、という点が第1実施形態と異なる。
すなわち、視神経乳頭部網膜内層では、非共焦点画像Dnr+lを生成して重ね合わせ画像を生成した上で、該画像を貼り合わせる処理を行い、得られたパラメータ値を用いて共焦点画像Dcの重ね合わせ画像を貼り合わせる処理を行う。また、黄斑部網膜外層では、共焦点画像Dcの重ね合わせ画像を貼り合わせる処理を行い、得られたパラメータ値を用いて非共焦点画像Dnr+lの重ね合わせ画像を貼り合わせる処理を行う。
<ステップ552:表示>
表示制御部132が、形成された画像群をモニタ305に表示する。本実施形態では、S542で決定した位置合わせパラメータに基づいて貼り合わせ画像を表示する。また、指示取得部140を経由して指示された撮影位置について、S532で決定されたフレーム間位置合わせパラメータ値を用いて重ね合わせ画像もしくはフレーム間位置合わせ済み動画像を表示する。ここで、撮影位置によって表示する画像種を変えてもよい。本実施形態では、既定の表示設定として、視神経乳頭部では非共焦点(R+L)画像Dnr+l、黄斑部では共焦点画像Dcの表示が選択されているものとする。表示制御部132は、表示する画像種を複数の撮影位置でまとめて切り替えるためのGUIも備えてよい。例えば、矩形や円形領域で指定した範囲の撮影位置の画像種をまとめて切り替えたり、深度位置を示すスライダで深度位置の範囲をまとめて指定してよい。さらに、表示する画像種を複数の撮影位置でまとめて切り替えるのに、撮影位置や深度位置の範囲を数値で入力することによってまとめて指定してよい。
以上述べた構成によれば、情報処理装置10は、画像の面内方向もしくは深度方向の取得位置に基づいて位置合わせに用いる画像種を決定し、該決定された種類の画像を用いて画像間の位置合わせパラメータ値を決定する。これにより、網膜内層の血管もしくは網膜外層の視細胞を撮影した画像を、ロバストかつ高精度に位置合わせできる。
[第4の実施形態:画像の種類毎に画像間の類似度を評価して、評価結果に基づいて位置合わせに用いる画像の種類を決定]
本実施形態に係る情報処理装置は、全ての種類の画像に対してフレーム間の類似度評価値及び貼り合わせ時の類似度評価値を算出し、最も類似度評価値の高い種類の画像を用いてフレーム間位置合わせ及び画像貼り合わせ処理を行うよう構成したものである。具体的には、図6(k)(l)に示すように視細胞外節欠損領域を含む共焦点画像及び非共焦点画像を異なる撮影位置で取得する場合に、共焦点画像間の類似度と非共焦点画像間の類似度を算出し、より類似度が高い方の画像を選択して位置合わせを行う。すなわち、視細胞外節が健全な領域では共焦点画像、視細胞外節が欠損している領域では非共焦点画像に基づいて位置合わせを行う場合について説明する。本実施形態に係る情報処理装置10と接続される機器の構成は、第1の実施形態の場合と比較して時相データ取得装置50が接続されていないという点が異なる。
次に、本実施形態に係る情報処理装置10の機能ブロックを図10に示す。データ取得部110に時相データ取得部113がない点、位置合わせ部131に座標変換部1314、評価値算出部1315、最適化部1316を備える点が実施形態1の場合と異なっている。また、本実施形態での画像処理フローを図5(a)に示す。S510、S520、S530、S540以外は実施形態1の場合と同様である。そこで、本実施形態ではS510、S520、S530、S540の処理のみ説明する。
<ステップ510:画像取得>
情報処理装置10は指示取得部140を通じて、ユーザが指定した画像取得パターン(撮影位置等)に関する情報を取得する。本実施形態では、黄斑部の中心窩に固視標位置Fl及びFcnを設定して広画角画像Dlと図6(k)に示す高倍率共焦点画像Dcj(j=1,2,...,9)や図6(l)に示す高倍率非共焦点画像Dnrk及びDnlk(k=1,2,...,9)を取得する。なお撮影位置の設定方法はこれに限定されず、任意の位置に設定してよい。データ取得部110は、SLO像撮像装置20に対して、広画角画像Dlc、Dlr、Dll、共焦点画像Dcj、非共焦点画像DnrkおよびDnlk、対応する固視標位置Fl、Fcnの取得を要求する。本実施形態では、黄斑部の中心窩に固視標位置Fl及びFcnを設定して画像を取得する。SLO像撮像装置20は該取得要求に応じて広画角画像Dlc、Dlr、Dll、共焦点画像Dcjや非共焦点画像Dnrk、Dnlk、対応する固視標位置Fl、Fcnを取得し送信する。データ取得部110はSLO像撮像装置20からLAN30を介して当該広画角画像Dlc、Dlr、Dll、共焦点画像Dcj、非共焦点画像Dnrk、Dnlk、及び固視標位置Fl、Fcnを受信し、記憶部120に格納する。なお、本実施形態では非共焦点データ取得部112は非共焦点画像としてSplit Detector画像Dlnsd及びDnsdkを生成し、記憶部120に格納する。以下、非共焦点画像Dln及びDnkとして表記しているところでは実際にはSplitDetector画像DlnsdやDnsdkを用いて位置合わせを行うものとする。
<ステップ520:フレーム間位置合わせ>
位置合わせ部131は、各撮影位置においてフレーム間位置合わせを行う。本実施形態では共焦点広画角画像Dlcに対する高倍率共焦点画像Dcjの類似度評価値と、非共焦点広画角画像Dlnに対する高倍率非共焦点画像Dnkの類似度評価値とを比較し、より高評価値である種類の画像を用いてフレーム間位置合わせを行う。なお、各々の種類の画像におけるフレーム間位置合わせ具体的な手順は基本的に第1実施形態のS710〜750と同様であり、フレーム間位置合わせに用いる画像が非共焦点画像でなく共焦点画像である場合も含まれるという点が異なる。例えば、図6(k)の共焦点画像Dc5では視細胞外節が欠損して類似度評価値が低いため高精度な位置合わせが難しいのに対し、図6(l)の非共焦点画像Dn5では視細胞内節が残存していて評価値が高くなり、より高精度にフレーム間位置合わせできる。従って、5番目の撮影位置では決定部133が非共焦点画像Dn5を位置合わせ用の画像として決定し、非共焦点画像Dn5を用いて決定したフレーム間位置合わせパラメータ値を用いて共焦点画像Dc5のフレーム間位置合わせを行う。それ以外の撮影位置、例えばDc1では共焦点画像の方が、信号値が大きく、非共焦点画像よりも類似度評価値が高くなるため決定部133は共焦点画像Dc1をフレーム間位置合わせ用の画像として決定する。さらに、位置合わせ部131は共焦点画像Dc1を用いて決定した位置合わせパラメータ値を用いて非共焦点画像Dn1のフレーム間位置合わせを行う。
<ステップ530:画像を貼り合わせる>
位置合わせ部131は、各撮影位置において画像貼り合わせを行う。本実施形態では共焦点広画角画像Dlcに対する高倍率共焦点画像Dcjの類似度評価値と、非共焦点広画角画像Dlnに対する高倍率非共焦点画像Dnkの類似度評価値とを比較し、より高評価値である種類の画像を用いて広画角画像への貼り合わせを行う。なお、各種類の画像における画像貼り合わせ手順は基本的に第2実施形態のS551における画像貼り合わせ手順と同様であり、貼り合わせ処理を全高倍率画像に対して一度に行うのではなく、単一高倍率画像と広画角画像との貼り合わせ処理を撮影位置ごとに行う。ただし、類似度評価値比較の結果共焦点画像に基づいて貼り合わせされる場合もあり得るという点が第2実施形態の場合と異なっている。例えば、図6(k)の共焦点画像Dc5では視細胞外節が欠損して類似度評価値が低いため広画角画像への高精度な貼り合わせが難しいのに対し、図6(l)の非共焦点画像Dn5では視細胞内節が残存して類似度評価値が高くなり、より高精度に貼り合わせできる。従って、5番目の撮影位置では決定部133が非共焦点画像Dn5を位置合わせ用の画像として決定し、非共焦点画像Dn5を用いて決定した貼り合わせパラメータ値を用いて共焦点画像Dc5の広画角画像Dclへの貼り合わせを行う。それ以外の撮影位置、例えばDc1では共焦点画像の方が信号値が大きく、非共焦点画像よりも類似度評価値が高くなるため決定部133は共焦点画像Dc1を貼り合わせ用の画像として決定する。さらに、位置合わせ部131は共焦点画像Dc1を用いて決定した位置合わせパラメータ値を用いて非共焦点画像Dn1の広画角画像Dlnへの貼り合わせを行う。
<ステップ540:表示>
表示制御部132は、これまでに形成された画像群をS520及びS530で決定された位置合わせパラメータ値に基づいて貼り合わせし、モニタ305上に表示する。これにより視細胞欠損領域であるか否かによらず、ロバストにフレーム間位置合わせ及び画像貼り合わせできる。なお、本実施形態では撮影位置の異なる9つの画像を撮影して撮影位置ごとに全ての画像種でフレーム間の類似度評価値を算出してフレーム間位置合わせを行った。また、撮影位置ごとに全ての画像種で広画角画像との類似度評価値を算出して撮影位置ごとに最高評価値の画像種を決定して画像貼り合わせを行う構成としたが、本発明はこれに限定されない。例えば、画像内を複数の局所領域に分割し、局所領域ごとに全画像種でのフレーム間位置合わせ及び広画角画像への位置合わせ類似度評価値を算出する。最高評価値の画像種を用いて決定した位置合わせパラメータ値で局所領域ごとにフレーム間位置合わせや画像貼り合わせを行うことも本発明に含まれる。
以上述べた構成によれば、情報処理装置10は、全ての種類の画像に対してフレーム間の類似度評価値や異なる撮影位置間の類似度評価値を算出し、最も類似度評価値の高い種類の画像を用いてフレーム間位置合わせ及び画像貼り合わせ処理を行う。これにより、網膜外層の病変を撮影した画像を、ロバストかつ高精度に位置合わせできる。
なお、上述した実施形態において、上述した非共焦点画像を含む複数種類の画像から位置ずれを求めるための画像の種類が選択可能に構成されても良い。これにより、ユーザは、撮影位置に対して最適な種類の画像を用いて位置ずれを求めることができる。このため、位置ずれ取得の精度を向上することができる。
[その他の実施形態]
上述の実施形態では本発明を情報処理装置として実現したが、本発明の実施形態は情報処理装置のみに限定されない。例えばコンピュータのCPUにより実行されるソフトウェアとして実現しても良い。本ソフトウェアを記憶した記憶媒体も本発明を構成することは言うまでもない。

Claims (19)

  1. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置ずれを示す情報を取得するための画像の種類を選択する選択手段と、
    前記選択された種類の画像として前記複数の非共焦点画像が選択された場合に、前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する情報取得手段と、
    を有することを特徴とする情報処理装置。
  2. 前記取得された位置ずれを示す情報に基づいて、前記複数種類の画像のうちの少なくとも一つを位置合わせする位置合わせ手段を更に有することを特徴とする請求項1に記載の情報処理装置。
  3. 前記複数種類の画像のうち前記位置合わせされる画像の種類を決定する決定手段を更に有し、
    前記位置合わせ手段は、前記決定された種類の画像として前記複数の共焦点画像が決定された場合に、前記取得された位置ずれを示す情報に基づいて、前記複数の共焦点画像を位置合わせすることを特徴とする請求項2に記載の情報処理装置。
  4. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置合わせされる画像の種類を決定する決定手段と、
    前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する情報取得手段と、
    前記決定された種類の画像として前記複数の共焦点画像が決定された場合に、前記取得された位置ずれを示す情報に基づいて、前記複数の共焦点画像を位置合わせする位置合わせ手段と、
    を有することを特徴とする情報処理装置。
  5. 前記決定手段は、画像が取得された取得位置、取得された画像の種類毎に算出される画像内もしくは画像間の評価値、の少なくとも一方に基づいて、前記位置合わせに用いる画像の種類を決定することを特徴とする請求項3または4に記載の情報処理装置。
  6. 前記位置合わせ手段は、フレーム間位置合わせ、画像内の局所領域間の位置合わせ、画像貼り合わせ、異なる種類の画像間の位置合わせ、の少なくとも一つを行うことを特徴とする請求項2乃至のいずれか1項に記載の情報処理装置。
  7. 前記位置合わせ手段によって位置合わせされた画像を表示手段に表示させる表示制御手段を更に有することを特徴とする請求項2乃至のいずれか1項に記載の情報処理装置。
  8. 前記眼部の複数種類の画像を撮る眼科撮像装置と通信可能に接続され
    記眼部を略同時に撮像して得た複数種類の画像取得されることを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像であって、前記眼部を略同時に撮像して得た前記複数種類の画像を撮る眼科撮像装置と通信可能に接続される情報処理装置であって、
    前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する情報取得手段を有することを特徴とする情報処理装置。
  10. 前記取得された位置ずれを示す情報に基づいて、前記眼部を追尾するように前記眼科撮像装置を制御する制御手段を更に有することを特徴とする請求項8または9に記載の情報処理装置。
  11. 前記眼科撮像装置は、前記複数の共焦点画像と前記複数の非共焦点画像とを取得するための兼用の光源と、前記光源からの光が照射された前記眼部からの戻り光を、共焦点領域を通る戻り光と非共焦点領域を通る戻り光とに分割する光学部材とを有し
    記共焦点領域を通る戻り光に基づいて、前記複数の共焦点画像を取得し、前記非共焦点領域を通る戻り光に基づいて、前記複数の非共焦点画像取得されることを特徴とする請求項8乃至10のいずれか1項に記載の情報処理装置。
  12. 記共焦点領域を通る戻り光と前記非共焦点領域を通る戻り光とのうち少なくとも一つを受光する受光部の前段に設けられた開口部の位置と形状とのうち少なくとも一つが調整されて得た前記眼部の共焦点画像と非共焦点画像と取得されることを特徴とする請求項1に記載の情報処理装置。
  13. 前記眼部における前記複数の共焦点画像の取得位置と前記複数の非共焦点画像の取得位置とが同じであることを特徴とする請求項1乃至1のいずれか1項に記載の情報処理装置。
  14. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として、前記複数の非共焦点画像の位置ずれを示す情報を取得する情報取得手段を有し、
    前記眼部における前記複数の共焦点画像の取得位置と前記複数の非共焦点画像の取得位置とが同じであることを特徴とする情報処理装置。
  15. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置ずれを示す情報を取得するための画像の種類を選択する工程と、
    前記選択された種類の画像として前記複数の非共焦点画像が選択された場合に、前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する工程と、
    を有することを特徴とする情報処理装置の作動方法。
  16. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置合わせされる画像の種類を決定する工程と、
    前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する工程と、
    前記決定された種類の画像として前記複数の共焦点画像が決定された場合に、前記取得された位置ずれを示す情報に基づいて、前記複数の共焦点画像を位置合わせする工程と、
    を有することを特徴とする情報処理装置の作動方法。
  17. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像であって、前記眼部を略同時に撮像して得た前記複数種類の画像を撮る眼科撮像装置と通信可能に接続される情報処理装置の作動方法であって、
    前記複数の非共焦点画像の位置ずれを示す情報を、前記複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として取得する工程を有することを特徴とする情報処理装置の作動方法。
  18. 異なる時間に眼部を撮影して得た複数の共焦点画像と前記複数の共焦点画像に時間的に対応する複数の非共焦点画像とを含む複数種類の画像のうちの少なくとも一つの位置ずれを示す情報として、前記複数の非共焦点画像の位置ずれを示す情報を取得する工程を有し、
    前記眼部における前記複数の共焦点画像の取得位置と前記複数の非共焦点画像の取得位置とが同じであることを特徴とする情報処理装置の作動方法。
  19. 請求項15乃至18のいずれか1項に記載の情報処理装置の作動方法をコンピュータで実行するためのプログラム。
JP2015093541A 2015-04-30 2015-04-30 情報処理装置、その作動方法、及びコンピュータプログラム Active JP6590513B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015093541A JP6590513B2 (ja) 2015-04-30 2015-04-30 情報処理装置、その作動方法、及びコンピュータプログラム
US15/138,676 US10674902B2 (en) 2015-04-30 2016-04-26 Information processing apparatus, operation method thereof, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015093541A JP6590513B2 (ja) 2015-04-30 2015-04-30 情報処理装置、その作動方法、及びコンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2016209135A JP2016209135A (ja) 2016-12-15
JP2016209135A5 JP2016209135A5 (ja) 2018-06-07
JP6590513B2 true JP6590513B2 (ja) 2019-10-16

Family

ID=57204378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015093541A Active JP6590513B2 (ja) 2015-04-30 2015-04-30 情報処理装置、その作動方法、及びコンピュータプログラム

Country Status (2)

Country Link
US (1) US10674902B2 (ja)
JP (1) JP6590513B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019154992A (ja) * 2018-03-16 2019-09-19 株式会社トプコン 眼科装置、その制御方法、プログラム、及び記録媒体
CN109325942B (zh) * 2018-09-07 2022-03-25 电子科技大学 基于全卷积神经网络的眼底图像结构分割方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9901365D0 (en) * 1999-01-22 1999-03-10 Isis Innovations Ltd Confocal microscopy apparatus and method
US6341035B1 (en) 1999-07-09 2002-01-22 Olympus Optical Co., Ltd. Confocal microscope
GB2375679A (en) * 2001-04-09 2002-11-20 Patrick Kerr Retinal function camera using plural light wavelengths to produce a retinal function image showing haemoglobin oxygenation.
US7425067B2 (en) 2003-11-14 2008-09-16 Ophthonix, Inc. Ophthalmic diagnostic instrument
JP5269396B2 (ja) * 2007-09-29 2013-08-21 株式会社ニデック 眼底撮影装置
US8057039B2 (en) * 2007-09-29 2011-11-15 Nidek Co., Ltd. Fundus imaging apparatus
US8550626B2 (en) * 2009-04-01 2013-10-08 Centervue S.P.A. Instrument for eye examination
JP5928844B2 (ja) * 2010-09-28 2016-06-01 サイファイ メドテック エッセ.エッレ.エッレ. 角膜共焦点顕微鏡(ccm)
JP5979904B2 (ja) * 2012-02-20 2016-08-31 キヤノン株式会社 画像処理装置、眼科撮影システム、及び画像処理方法
JP6224908B2 (ja) * 2013-04-17 2017-11-01 キヤノン株式会社 撮像装置
JP6147080B2 (ja) * 2013-05-14 2017-06-14 オリンパス株式会社 顕微鏡システム、貼り合わせ領域の決定方法、及び、プログラム
JP6174908B2 (ja) * 2013-05-27 2017-08-02 キヤノン株式会社 情報処理装置、情報処理方法、及び、コンピュータプログラム

Also Published As

Publication number Publication date
JP2016209135A (ja) 2016-12-15
US20160317014A1 (en) 2016-11-03
US10674902B2 (en) 2020-06-09

Similar Documents

Publication Publication Date Title
US9320424B2 (en) Image display apparatus, image display method and imaging system
JP6101048B2 (ja) 画像処理装置及び画像処理方法
JP6438216B2 (ja) 画像生成装置および画像生成方法
WO2013164943A1 (ja) 眼科装置
US10791920B2 (en) Image forming apparatus and image forming method
JP6463047B2 (ja) 眼科装置及び眼科装置の作動方法
JP6463048B2 (ja) 画像処理装置及び画像処理装置の作動方法
JP2020089768A (ja) 画像処理装置及び画像処理方法
JP2019201952A (ja) 撮影装置及びその制御方法
JP2019201951A (ja) 撮影装置及びその制御方法
JP6590513B2 (ja) 情報処理装置、その作動方法、及びコンピュータプログラム
JP6516597B2 (ja) 画像処理装置及び画像処理方法
US10383514B2 (en) Ophthalmologic imaging apparatus, operation method thereof, and computer program
JP6468907B2 (ja) 画像処理装置及び画像処理方法及びプログラム
JP6470604B2 (ja) 画像処理装置及び画像処理方法及びプログラム
JP6604743B2 (ja) 情報処理装置、その作動方法、及びコンピュータプログラム
JP6602043B2 (ja) 情報処理装置、その作動方法、及びコンピュータプログラム
JP2019000728A (ja) 眼底画像処理装置及び眼底画像処理方法、撮影システム
JP6420859B2 (ja) 画像表示装置及び画像表示方法、撮影システム
JP6711617B2 (ja) 画像形成装置、画像形成方法及びそのプログラム
JP2018164814A (ja) 画像処理装置及び画像処理装置の作動方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190917

R151 Written notification of patent or utility model registration

Ref document number: 6590513

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151