JP7210927B2 - 眼科画像処理装置、oct装置、および眼科画像処理プログラム - Google Patents

眼科画像処理装置、oct装置、および眼科画像処理プログラム Download PDF

Info

Publication number
JP7210927B2
JP7210927B2 JP2018147141A JP2018147141A JP7210927B2 JP 7210927 B2 JP7210927 B2 JP 7210927B2 JP 2018147141 A JP2018147141 A JP 2018147141A JP 2018147141 A JP2018147141 A JP 2018147141A JP 7210927 B2 JP7210927 B2 JP 7210927B2
Authority
JP
Japan
Prior art keywords
image
degree
ophthalmologic
tissue
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018147141A
Other languages
English (en)
Other versions
JP2020018794A (ja
JP2020018794A5 (ja
Inventor
涼介 柴
壮平 宮崎
祐輔 坂下
佳紀 熊谷
直樹 竹野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nidek Co Ltd
Original Assignee
Nidek Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2018147141A priority Critical patent/JP7210927B2/ja
Application filed by Nidek Co Ltd filed Critical Nidek Co Ltd
Priority to PCT/JP2019/016209 priority patent/WO2020026535A1/ja
Priority to US17/265,367 priority patent/US11961229B2/en
Priority to EP19843402.9A priority patent/EP3831275A4/en
Priority to CN201980051471.6A priority patent/CN112533526A/zh
Publication of JP2020018794A publication Critical patent/JP2020018794A/ja
Publication of JP2020018794A5 publication Critical patent/JP2020018794A5/ja
Priority to JP2022204040A priority patent/JP2023024614A/ja
Application granted granted Critical
Publication of JP7210927B2 publication Critical patent/JP7210927B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本開示は、被検眼の眼科画像を処理する眼科画像処理装置、OCT装置、および、眼科画像処理装置において実行される眼科画像処理プログラムに関する。
従来、画像に写っている物体の構造等の異常を推定するための種々の技術が提案されている。例えば、非特許文献1で開示されている技術では、まず、正常な画像を訓練データとして、Generative Adversarial Network(GAN)が訓練される。訓練されたGANは、入力された画像を潜在空間上の座標に写像することを学習している。入力される画像の構造等に異常があれば、写像によって生成される画像と、入力される画像との間に差が生じる。非特許文献1の技術では、写像によって生成される画像と、入力される画像の誤差を取ることで、構造の異常部位の推定が試みられている。
非特許文献1の手法では、写像によって生成される画像と、入力される画像の誤差を取ることで異常部位の推定が試みられているので、構造の異常度を定量化することは困難であった。従って、眼科画像に写っている組織の構造の異常をユーザに適切に判断させることは難しかった。
本開示の典型的な目的は、眼科画像に写っている組織の構造の異常をユーザに適切に判断させることが可能な眼科画像処理装置、OCT装置、および眼科画像処理プログラムを提供することである。
本開示における典型的な実施形態が提供する眼科画像処理装置は、被検眼の組織の画像である眼科画像を処理する眼科画像処理装置であって、前記眼科画像処理装置の制御部は、眼科画像撮影装置によって撮影された、前記組織の三次元断層画像を取得し、機械学習アルゴリズムによって訓練された数学モデルに前記三次元断層画像を入力することで、前記三次元断層画像における複数の層および前記層の境界に含まれる、1つ以上の特定の層または境界を識別するための確率分布を、前記1つ以上の特定の層または境界に交差する方向に延びる複数の一次元領域毎に取得し、前記1つ以上の特定の層または境界が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記複数の一次元領域の各々について取得し、取得した前記乖離度の二次元分布を示す構造異常度マップを、前記組織の構造の異常度を示す構造情報として表示部に出力する。
本開示における典型的な実施形態が提供するOCT装置は、参照光と、被検眼の組織に照射された測定光の反射光とによるOCT信号を処理することで、前記組織の三次元断層画像を撮影するOCT装置であって、前記OCT装置の制御部は、撮影した前記三次元断層画像を、機械学習アルゴリズムによって訓練された数学モデルに入力することで、前記三次元断層画像における複数の層および前記層の境界に含まれる、1つ以上の特定の層または境界を識別するための確率分布を、前記1つ以上の特定の層または境界に交差する方向に延びる複数の一次元領域毎に取得し、前記1つ以上の特定の層または境界が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記複数の一次元領域の各々について取得し、取得した前記乖離度の二次元分布を示す構造異常度マップを、前記組織の構造の異常度を示す構造情報として表示部に出力する。
本開示における典型的な実施形態が提供する眼科画像処理プログラムは、被検眼の組織の画像である眼科画像を処理する眼科画像処理装置によって実行される眼科画像処理プログラムであって、前記眼科画像処理プログラムが前記眼科画像処理装置の制御部によって実行されることで、眼科画像撮影装置によって撮影された、前記組織の三次元断層画像を取得する画像取得ステップと、機械学習アルゴリズムによって訓練された数学モデルに前記三次元断層画像を入力することで、前記三次元断層画像における複数の層および前記層の境界に含まれる、1つ以上の特定の層または境界を識別するための確率分布を、前記1つ以上の特定の層または境界に交差する方向に延びる複数の一次元領域毎に取得する確率分布取得ステップと、前記1つ以上の特定の層または境界が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記複数の一次元領域の各々について取得し、取得した前記乖離度の二次元分布を示す構造異常度マップを、前記組織の構造の異常度を示す構造情報として表示部に出力する構造情報取得ステップと、を前記眼科画像処理装置に実行させる。
本開示に係る眼科画像処理装置、OCT装置、および眼科画像処理プログラムによると、眼科画像に写っている組織の異常をユーザに適切に判断させることができる。
数学モデル構築装置1、眼科画像処理装置21、および眼科画像撮影装置11A,11Bの概略構成を示すブロック図である。 数学モデル構築装置1が実行する数学モデル構築処理のフローチャートである。 訓練用眼科画像30の一例を示す図である。 訓練用データ31の一例を示す図である。 眼科画像処理装置21が実行する眼科画像処理のフローチャートである。 数学モデルに入力される二次元断層画像40と、二次元断層画像40中の一次元領域A1~ANの関係を模式的に示す図である。 境界Bi近傍の構造の異常度が低い場合の、境界Biを識別するための確率分布を示すグラフの一例である。 境界Bi近傍の構造の異常度が高い場合の、境界Biを識別するための確率分布を示すグラフの一例である。 二次元断層画像51A、構造異常度グラフ52A、および乖離度表53Aが表示された表示画面の一例である。 二次元断層画像51B、構造異常度グラフ52B、および乖離度表53Bが表示された表示画面の一例である。 構造異常度マップ55の一例を示す図である。
<概要>
本開示で例示する眼科画像処理装置の制御部は、眼科画像撮影装置によって撮影された眼科画像を取得する。制御部は、機械学習アルゴリズムによって訓練された数学モデルに眼科画像を入力することで、眼科画像中の組織を識別するための確率分布を取得する。制御部は、組織が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度を、組織の構造の異常度を示す構造情報として取得する。
組織の構造に異常が無い場合には、数学モデルによって組織が正確に識別され易いので、取得される確率分布が偏り易い。一方で、組織の構造に異常がある場合は、取得される確率分布が偏り難くなる。従って、組織が正確に識別される場合の確率分布と、実際に取得された確率分布の乖離度は、構造の異常度に応じて増減する。よって、本開示の眼科画像処理装置によると、構造の異常度が乖離度によって適切に定量化される。また、数学モデルを訓練する際に、異常が存在する組織の眼科画像を大量に使用しなくても、組織の構造の異常度が乖離度によって把握される。よって、ユーザは、眼科画像に写っている組織の構造の異常を適切に判断することができる。
なお、乖離度は、数学モデルによって出力されてもよい。また、制御部が、数学モデルによって出力された確率分布に基づいて乖離度を算出してもよい。
数学モデルに入力される眼科画像には、種々の画像を用いることができる。例えば、眼科画像は、OCT装置によって撮影された被検眼の組織の二次元断層画像または三次元断層画像であってもよい。断層画像は、OCT装置以外の装置(例えばシャインプルーフカメラ等)によって撮影されてもよい。また、眼科画像は、眼底カメラによって撮影された二次元正面画像、レーザ走査型検眼装置(SLO)によって撮影された二次元正面画像等であってもよい。眼科画像は、OCT装置によって撮影された三次元断層画像のデータに基づいて生成される二次元正面画像(所謂「Enface画像」)であってもよい。また、眼科画像は、同一位置から異なる時間に取得された複数のOCTデータを処理することで得られるモーションコントラストデータから作成される二次元正面画像(所謂「モーションコントラスト画像」)であってもよい。二次元正面画像とは、撮影光の光軸の方向から組織を撮影した二次元の画像である。また、撮影対象となる組織も適宜選択できる。例えば、被検眼の眼底、前眼部、隅角等のいずれかを撮影した画像が眼科画像として用いられてもよい。
数学モデルは、入力側を過去に撮影された被検眼の組織の眼科画像のデータとし、且つ、出力側を入力側の眼科画像における組織を示すデータとする訓練データセットを用いて訓練されていてもよい。この場合、訓練された数学モデルは、眼科画像を入力することで、組織を識別するための確率分布を適切に出力することができる。
なお、確率分布を出力する数学モデルの具体的な態様は適宜選択できる。例えば、数学モデルは、入力された眼科画像中の領域内において、組織の特定の境界および特定部位の少なくともいずれかが存在する座標を確率変数とする確率分布を出力してもよい。この場合、数学モデルによって出力される確率分布に基づいて、眼科画像中の組織(この場合は、境界および特定部位の少なくともいずれか)が適切且つ直接的に識別される。なお、この場合、確率分布を取得する対象となる「特定の境界」は、1つの境界であってもよいし、複数の境界であってもよい。複数の境界の確率分布を取得する場合、制御部は、複数の境界の各々について別々に確率分布を取得してもよい。同様に、確率分布を取得する対象となる「特定部位」の数も、1つであってもよいし複数であってもよい。また、確率分布を取得する単位となる眼科画像中の領域は、一次元領域、二次元領域、および三次元領域のいずれであってもよい。確率変数とする座標の次元は、確率分布を取得する単位となる領域の次元と一致していてもよい。また、数学モデルは、被検眼における各々の組織の種類を確率変数とする確率分布を、入力された眼科画像の各領域毎(例えば画素毎)に出力してもよい。この場合でも、数学モデルによって出力される確率分布に基づいて、眼科画像中の組織が識別される。
乖離度には、取得された確率分布のエントロピー(平均情報量)が含まれていてもよい。エントロピーは、不確実性、乱雑さ、無秩序の度合いを表す。本開示では、組織が正確に識別される場合に出力される確率分布のエントロピーは0となる。また、組織の構造の異常度が増加し、組織の識別が困難になる程、エントロピーは増大する。従って、乖離度として確率分布のエントロピーを用いることで、組織の構造の異常度がより適切に定量化される。
ただし、エントロピー以外の値が乖離度として採用されてもよい。例えば、取得された確率分布の散布度を示す標準偏差、変動係数、分散等の少なくともいずれかが乖離度として使用されてもよい。確率分布同士の差異を図る尺度であるKLダイバージェンス等が乖離度として使用されてもよい。また、取得された確率分布の最大値が乖離度として使用されてもよい。
眼科画像は、組織の二次元断層画像または三次元断層画像であってもよい。制御部は、数学モデルに眼科画像を入力することで、眼科画像における複数の層および層の境界に含まれる、1つ以上の層または境界を識別するための確率分布を取得してもよい。制御部は、前記1つ以上の層または境界について乖離度を取得してもよい。この場合、特定の層または境界の構造の異常度が、乖離度によって適切に把握される。例えば、疾患の影響によって構造の異常が生じやすい層または境界の乖離度のみが取得された場合には、取得された乖離度は、疾患に関して、より有益な情報となり得る。
制御部は、組織における位置に対する乖離度の大きさを示すグラフおよびマップの少なくともいずれかを取得してもよい。ユーザは、グラフおよびマップの少なくともいずれかによって、組織におけるいずれの位置の異常度が高いかを適切に把握することができる。
例えば、眼科画像は、XZ方向に広がる二次元の画像であってもよい。制御部は、数学モデルに眼科画像を入力することで、眼科画像上でZ方向に平行に延びる複数の一次元領域毎に、一次元座標を確率変数とする確率分布を取得し、複数の一次元領域毎に乖離度を取得してもよい。制御部は、複数の一次元領域毎に取得された乖離度に基づいて、X方向の各々の位置における乖離度の大きさを示す構造異常度グラフを取得してもよい。この場合、ユーザは、二次元の眼科画像のうち、X方向のいずれの位置の異常度が高いかを、構造異常度グラフによって適切に把握することができる。
この場合、二次元の画像は、組織の二次元断層画像であってもよいし、組織の二次元正面画像であってもよい。二次元断層画像である場合、複数の一次元領域毎に取得される乖離度は、層または境界毎に取得されてもよいし、複数の層および境界の平均値として取得されてもよい。なお、構造異常度グラフは数学モデルによって出力されてもよい。また、制御部が、複数の軸毎に取得された乖離度に基づいて構造異常度グラフを生成してもよい。制御部は、取得した構造異常度グラフを表示装置に表示させてもよい。
また、制御部は、組織における乖離度の二次元分布を示す構造異常度マップを取得してもよい。この場合、ユーザは、二次元の領域内の各々の位置における構造の異常度を、構造異常度マップによって的確に把握することができる。なお、構造異常度マップは数学モデルによって出力されてもよい。また、制御部が、取得された乖離度に基づいて構造異常度マップを生成してもよい。制御部は、取得した構造異常度マップを表示装置に表示させてもよい。
なお、グラフおよびマップを用いずに、組織の構造の異常度をユーザに把握させることも可能である。例えば、制御部は、取得した乖離度そのものを、構造の異常度を示す構造情報としてユーザに通知してもよい。
制御部は、組織のうち、乖離度が閾値以上の部位を撮影する撮影指示を眼科画像撮影装置に出力する処理を実行してもよい。また、制御部は、乖離度が閾値以上の部位の断層画像または拡大画像を表示装置に表示させる処理を実行してもよい。この場合、構造の異常度が高い部位の画像が、適切にユーザによって確認される。
なお、制御部は、乖離度が閾値以上の部位を撮影する撮影指示を出力する場合に、乖離度が閾値以上の部位の眼科画像を複数回撮影し、撮影された複数の眼科画像の加算平均画像を取得する指示を出力してもよい。この場合、構造の異常度が高い部位の眼科画像が、高い品質で取得される。
制御部は、同一の被検眼の組織を撮影した複数の眼科画像のうち、乖離度が最も高い眼科画像、または、乖離度が閾値以上の眼科画像を表示装置に表示させてもよい。例えば、制御部は、撮影された眼科画像をユーザに確認させる撮影確認画面に、複数の眼科画像のうち、乖離度が高い眼科画像を表示させることで、構造の異常度が高い部位が撮影された眼科画像を、容易にユーザに確認させることができる。また、制御部は、撮影された眼科画像をユーザに確認させるビューワーを起動させた際に、複数の眼科画像のうち、乖離度が高い眼科画像を表示させることで、構造の異常度が高い部位が撮影された眼科画像を最初にユーザに確認させることができる。
制御部は、三次元断層画像を構成する複数の二次元断層画像のうち、乖離度が最も高い二次元断層画像、または、乖離度が閾値以上の二次元断層画像を、被検眼の疾患に関する自動診断結果を出力する数学モデルに入力してもよい。この場合、三次元断層画像を構成する複数の二次元断層画像のうち、構造の異常度が高い二次元断層画像によって、効率よく自動診断結果が得られる。
制御部は、取得した乖離度を記憶装置に記憶させてもよい。制御部は、同一の被検眼の組織を異なる時間に撮影した複数の眼科画像の各々に関する複数の乖離度を、表示装置に表示させてもよい。この場合、ユーザは、複数の乖離度を比較することで、構造の異常の進行具合等を適切に把握することができる。なお、制御部は、複数の乖離度の値そのものを表示させてもよいし、前述した構造異常度グラフを複数並べて表示させてもよい。また、制御部は、前述した構造異常度マップを複数並べて表示させてもよい。
制御部は、眼科画像について取得された乖離度に基づいて、眼科画像の画質を評価する画質評価情報を生成してもよい。乖離度は、組織の構造に異常がある場合だけでなく、眼科画像の画質が悪い場合にも高くなる場合がある。従って、乖離度に基づいて画質評価情報が生成されることで、眼科画像の画質が適切に把握される。
なお、画質評価情報の具体的な生成方法は適宜選択できる。例えば、乖離度の値そのものが画質評価情報として使用されてもよい。また、組織の構造の一部に異常がある場合には、異常がある部位の乖離度が、他の部位の乖離度よりも高くなる。一方で、画質が悪い場合には、眼科画像の各部の乖離度が全体的に高くなる。従って、眼科画像の各部の各々について乖離度が取得されている際には、制御部は、各部の乖離度の全てが高い場合(例えば、各部の乖離度の全てが閾値以上である場合等)に、画質が悪いことを示す画質評価情報を生成してもよい。また、制御部は、撮影された眼科画像の信号の強さ、または、信号の良好さを示す指標(例えば、SSI(Signal Strength Index)またはQI(Quality Index)等)と、取得された乖離度を共に考慮して、画質評価情報を生成してもよい。
また、制御部は、眼科画像の信号の強さまたは良好さを示す指標と、取得された乖離度とに基づいて、組織の構造の異常度を示す情報を生成してもよい。例えば、制御部は、画像の信号の指標が閾値以上であり、且つ、乖離度が閾値以上である場合に、構造に異常が存在する可能性が高いことを示す情報を生成してもよい。この場合、眼科画像の画質が考慮されたうえで、より適切に構造の異常が判断される。
なお、乖離度を、組織の構造の異常度を示す構造情報として使用せずに、画質評価情報に使用することも可能である。この場合、眼科画像処理装置は以下のように表現することができる。被検眼の組織の画像である眼科画像を処理する眼科画像処理装置であって、前記眼科画像処理装置の制御部は、眼科画像撮影装置によって撮影された眼科画像を取得し、機械学習アルゴリズムによって訓練された数学モデルに前記眼科画像を入力することで、前記眼科画像中の組織を識別するための確率分布を取得し、前記組織が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記眼科画像の画質を評価する画質評価情報として取得することを特徴とする眼科画像処理装置。
<実施形態>
(装置構成)
以下、本開示における典型的な実施形態の1つについて、図面を参照して説明する。図1に示すように、本実施形態では、数学モデル構築装置1、眼科画像処理装置21、および眼科画像撮影装置11A,11Bが用いられる。数学モデル構築装置1は、機械学習アルゴリズムによって数学モデルを訓練させることで、数学モデルを構築する。構築された数学モデルは、入力された眼科画像に基づいて、眼科画像中の組織を識別するための確率分布を出力する。眼科画像処理装置21は、数学モデルを用いて確率分布を取得し、取得した確率分布と、組織が正確に識別される場合の確率分布との乖離度を、組織の構造の異常度を示す構造情報として取得する。眼科画像撮影装置11A,11Bは、被検眼の組織の画像である眼科画像を撮影する。
一例として、本実施形態の数学モデル構築装置1にはパーソナルコンピュータ(以下、「PC」という)が用いられる。詳細は後述するが、数学モデル構築装置1は、眼科画像撮影装置11Aから取得した眼科画像(以下、「訓練用眼科画像」という)と、訓練用眼科画像における少なくともいずれかの組織の位置を示す訓練用データとを利用して数学モデルを訓練させることで、数学モデルを構築する。しかし、数学モデル構築装置1として機能できるデバイスは、PCに限定されない。例えば、眼科画像撮影装置11Aが数学モデル構築装置1として機能してもよい。また、複数のデバイスの制御部(例えば、PCのCPUと、眼科画像撮影装置11AのCPU13A)が、協働して数学モデルを構築してもよい。
また、本実施形態の眼科画像処理装置21にはPCが用いられる。しかし、眼科画像処理装置21として機能できるデバイスも、PCに限定されない。例えば、眼科画像撮影装置11Bまたはサーバ等が、眼科画像処理装置21として機能してもよい。眼科画像撮影装置(本実施形態ではOCT装置)11Bが眼科画像処理装置21として機能する場合、眼科画像撮影装置11Bは、眼科画像を撮影しつつ、撮影した眼科画像から乖離度を取得することができる。また、眼科画像撮影装置11Bは,取得した乖離度に基づいて適切な部位を撮影することもできる。また、タブレット端末またはスマートフォン等の携帯端末が、眼科画像処理装置21として機能してもよい。複数のデバイスの制御部(例えば、PCのCPUと、眼科画像撮影装置11BのCPU13B)が、協働して各種処理を行ってもよい。
また、本実施形態では、各種処理を行うコントローラの一例としてCPUが用いられる場合について例示する。しかし、各種デバイスの少なくとも一部に、CPU以外のコントローラが用いられてもよいことは言うまでもない。例えば、コントローラとしてGPUを採用することで、処理の高速化を図ってもよい。
数学モデル構築装置1について説明する。数学モデル構築装置1は、例えば、眼科画像処理装置21または眼科画像処理プログラムをユーザに提供するメーカー等に配置される。数学モデル構築装置1は、各種制御処理を行う制御ユニット2と、通信I/F5を備える。制御ユニット2は、制御を司るコントローラであるCPU3と、プログラムおよびデータ等を記憶することが可能な記憶装置4を備える。記憶装置4には、後述する数学モデル構築処理(図2参照)を実行するための数学モデル構築プログラムが記憶されている。また、通信I/F5は、数学モデル構築装置1を他のデバイス(例えば、眼科画像撮影装置11Aおよび眼科画像処理装置21等)と接続する。
数学モデル構築装置1は、操作部7および表示装置8に接続されている。操作部7は、ユーザが各種指示を数学モデル構築装置1に入力するために、ユーザによって操作される。操作部7には、例えば、キーボード、マウス、タッチパネル等の少なくともいずれかを使用できる。なお、操作部7と共に、または操作部7に代えて、各種指示を入力するためのマイク等が使用されてもよい。表示装置8は、各種画像を表示する。表示装置8には、画像を表示可能な種々のデバイス(例えば、モニタ、ディスプレイ、プロジェクタ等の少なくともいずれか)を使用できる。なお、本開示における「画像」には、静止画像も動画像も共に含まれる。
数学モデル構築装置1は、眼科画像撮影装置11Aから眼科画像のデータ(以下、単に「眼科画像」という場合もある)を取得することができる。数学モデル構築装置1は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、眼科画像撮影装置11Aから眼科画像のデータを取得してもよい。
眼科画像処理装置21について説明する。眼科画像処理装置21は、例えば、被検者の診断または検査等を行う施設(例えば、病院または健康診断施設等)に配置される。眼科画像処理装置21は、各種制御処理を行う制御ユニット22と、通信I/F25を備える。制御ユニット22は、制御を司るコントローラであるCPU23と、プログラムおよびデータ等を記憶することが可能な記憶装置24を備える。記憶装置24には、後述する眼科画像処理(図5参照)を実行するための眼科画像処理プログラムが記憶されている。眼科画像処理プログラムには、数学モデル構築装置1によって構築された数学モデルを実現させるプログラムが含まれる。通信I/F25は、眼科画像処理装置21を他のデバイス(例えば、眼科画像撮影装置11Bおよび数学モデル構築装置1等)と接続する。
眼科画像処理装置21は、操作部27および表示装置28に接続されている。操作部27および表示装置28には、前述した操作部7および表示装置8と同様に、種々のデバイスを使用することができる。
眼科画像処理装置21は、眼科画像撮影装置11Bから眼科画像を取得することができる。眼科画像処理装置21は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、眼科画像撮影装置11Bから眼科画像を取得してもよい。また、眼科画像処理装置21は、数学モデル構築装置1によって構築された数学モデルを実現させるプログラム等を、通信等を介して取得してもよい。
眼科画像撮影装置11A,11Bについて説明する。一例として、本実施形態では、数学モデル構築装置1に眼科画像を提供する眼科画像撮影装置11Aと、眼科画像処理装置21に眼科画像を提供する眼科画像撮影装置11Bが使用される場合について説明する。しかし、使用される眼科画像撮影装置の数は2つに限定されない。例えば、数学モデル構築装置1および眼科画像処理装置21は、複数の眼科画像撮影装置から眼科画像を取得してもよい。また、数学モデル構築装置1および眼科画像処理装置21は、共通する1つの眼科画像撮影装置から眼科画像を取得してもよい。なお、本実施形態で例示する2つの眼科画像撮影装置11A,11Bは、同一の構成を備える。従って、以下では、2つの眼科画像撮影装置11A,11Bについて纏めて説明を行う。
また、本実施形態では、眼科画像撮影装置11(11A,11B)として、OCT装置を例示する。ただし、OCT装置以外の眼科画像撮影装置(例えば、レーザ走査型検眼装置(SLO)、眼底カメラ、シャインプルーフカメラ、または角膜内皮細胞撮影装置(CEM)等)が用いられてもよい。
眼科画像撮影装置11(11A,11B)は、各種制御処理を行う制御ユニット12(12A,12B)と、眼科画像撮影部16(16A,16B)を備える。制御ユニット12は、制御を司るコントローラであるCPU13(13A,13B)と、プログラムおよびデータ等を記憶することが可能な記憶装置14(14A,14B)を備える。
眼科画像撮影部16は、被検眼の眼科画像を撮影するために必要な各種構成を備える。本実施形態の眼科画像撮影部16には、OCT光源、OCT光源から出射されたOCT光を測定光と参照光に分岐する分岐光学素子、測定光を走査するための走査部、測定光を被検眼に照射するための光学系、被検眼の組織によって反射された光と参照光の合成光を受光する受光素子等が含まれる。
眼科画像撮影装置11は、被検眼の眼底の二次元断層画像および三次元断層画像を撮影することができる。詳細には、CPU13は、スキャンライン上にOCT光(測定光)を走査させることで、スキャンラインに交差する断面の二次元断層画像を撮影する。二次元断層画像は、同一部位の複数の断層画像に対して加算平均処理を行うことで生成された加算平均画像であってもよい。また、CPU13は、OCT光を二次元的に走査することによって、組織における三次元断層画像を撮影することができる。例えば、CPU13は、組織を正面から見た際の二次元の領域内において、位置が互いに異なる複数のスキャンライン上の各々に測定光を走査させることで、複数の二次元断層画像を取得する。次いで、CPU13は、撮影された複数の二次元断層画像を組み合わせることで、三次元断層画像を取得する。
(数学モデル構築処理)
図2~図4を参照して、数学モデル構築装置1が実行する数学モデル構築処理について説明する。数学モデル構築処理は、記憶装置4に記憶された数学モデル構築プログラムに従って、CPU3によって実行される。数学モデル構築処理では、訓練データセットによって数学モデルが訓練されることで、眼科画像中の組織を識別するための確率分布を出力する数学モデルが構築される。訓練データセットには、入力側のデータ(入力用訓練データ)と出力側のデータ(出力用訓練データ)が含まれる。
図2に示すように、CPU3は、眼科画像撮影装置11Aによって撮影された眼科画像である訓練用眼科画像のデータを、入力用訓練データとして取得する(S1)。本実施形態では、訓練用眼科画像のデータは、眼科画像撮影装置11Aによって生成された後、数学モデル構築装置1によって取得される。しかし、CPU3は、訓練用眼科画像を生成する基となる信号(例えばOCT信号)を眼科画像撮影装置11Aから取得し、取得した信号に基づいて訓練用眼科画像を生成することで、訓練用眼科画像のデータを取得してもよい。
なお、本実施形態のS1では、OCT装置である眼科画像撮影装置11Aによって撮影された二次元断層画像が、訓練用眼科画像として取得される。図3に、眼底の二次元断層画像である訓練用眼科画像30の一例を示す。図3に例示する訓練用眼科画像30には、眼底における複数の層が表れている。また、本実施形態では、構造の異常度が低い組織の眼科画像が訓練用眼科画像として取得される。この場合、訓練データセットによって訓練される数学モデルは、構造の異常度が高い組織を識別することが困難になる。その結果、構造の異常度が高い眼科画像について取得される乖離度が大きくなり易い。
ただし、訓練用眼科画像として使用される眼科画像を変更することもできる。例えば、被検眼の組織の二次元正面画像が、訓練用眼科画像として使用されてもよい。この場合、訓練用眼科画像を撮影する眼科画像撮影装置には、種々の装置(例えば、OCT装置、SLO装置、眼底カメラ、赤外カメラ、角膜内皮細胞撮影装置等の少なくともいずれか)を使用できる。また、三次元画像が訓練用眼科画像として使用されてもよい。
次いで、CPU3は、訓練用眼科画像における組織のうち、少なくともいずれかの組織の位置を示す訓練用データを取得する(S2)。図4に、訓練用眼科画像30として眼底の二次元断層画像が使用される場合の訓練用データ31の一例を示す。図4に例示する訓練用データ31には、訓練用眼科画像30に写っている複数の組織(詳細には、複数の層および境界)のうち、6つの境界の各々の位置を示すラベル32A~32Fのデータが含まれている。本実施形態では、訓練用データ31におけるラベル32A~32Fのデータは、作業者が訓練用眼科画像30における境界を見ながら操作部7を操作することで生成される。ただし、ラベルのデータの生成方法を変更することも可能である。
なお、訓練用データを変更することも可能である。例えば、訓練用眼科画像30として眼底の二次元断層画像が使用される場合には、訓練用データは、眼底における少なくともいずれかの層の位置を示すデータであってもよい。また、訓練用データは、層および境界でなく、組織中の点状の部位等の位置を示すデータであってもよい。
次いで、CPU3は、機械学習アルゴリズムによって、訓練データセットを用いた数学モデルの訓練を実行する(S3)。機械学習アルゴリズムとしては、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン(SVM)等が一般的に知られている。
ニューラルネットワークは、生物の神経細胞ネットワークの挙動を模倣する手法である。ニューラルネットワークには、例えば、フィードフォワード(順伝播型)ニューラルネットワーク、RBFネットワーク(放射基底関数)、スパイキングニューラルネットワーク、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク(リカレントニューラルネット、フィードバックニューラルネット等)、確率的ニューラルネット(ボルツマンマシン、ベイシアンネットワーク等)等がある。
ランダムフォレストは、ランダムサンプリングされた訓練データに基づいて学習を行って、多数の決定木を生成する方法である。ランダムフォレストを用いる場合、予め識別器として学習しておいた複数の決定木の分岐を辿り、各決定木から得られる結果の平均(あるいは多数決)を取る。
ブースティングは、複数の弱識別器を組み合わせることで強識別器を生成する手法である。単純で弱い識別器を逐次的に学習させることで、強識別器を構築する。
SVMは、線形入力素子を利用して2クラスのパターン識別器を構成する手法である。SVMは、例えば、訓練データから、各データ点との距離が最大となるマージン最大化超平面を求めるという基準(超平面分離定理)で、線形入力素子のパラメータを学習する。
数学モデルは、例えば、入力データと出力データの関係を予測するためのデータ構造を指す。数学モデルは、訓練データセットを用いて訓練されることで構築される。前述したように、訓練データセットは、入力用訓練データと出力用訓練データのセットである。例えば、訓練によって、各入力と出力の相関データ(例えば、重み)が更新される。
本実施形態では、機械学習アルゴリズムとして多層型のニューラルネットワークが用いられている。ニューラルネットワークは、データを入力するための入力層と、予測したいデータを生成するための出力層と、入力層と出力層の間の1つ以上の隠れ層を含む。各層には、複数のノード(ユニットとも言われる)が配置される。詳細には、本実施形態では、多層型ニューラルネットワークの一種である畳み込みニューラルネットワーク(CNN)が用いられている。
一例として、本実施形態で構築される数学モデルは、眼科画像中の領域(一次元領域、二次元領域、三次元領域、および、時間軸を含む四次元領域のいずれか)内において、特定の組織(例えば、特定の境界、特定の層、または特定の部位等)が存在する座標(一次元座標、二次元座標、三次元座標、および四次元座標のいずれか)を確率変数とする確率分布を、組織を識別するための確率分布として出力する。本実施形態では、数学モデルに確率分布を出力させるために、ソフトマックス関数が適用されている。詳細には、S3で構築される数学モデルは、二次元断層画像中の特定の境界に交差する方向(本実施形態では、OCTのAスキャン方向)に延びる一次元領域における、特定の境界が存在する座標を確率変数とする確率分布を出力する。
ただし、数学モデルが組織を識別するための確率分布を出力する具体的方法は、適宜変更できる。例えば、数学モデルは、二次元領域または三次元領域において、特定の組織(例えば特徴部位等)が存在する二次元座標または三次元座標を確率変数とする確率分布を、組織を識別するための確率分布として出力してもよい。また、数学モデルは、被検眼における複数の組織(例えば、複数の層および境界)の種類を確率変数とする確率分布を、入力された眼科画像の各領域毎(例えば画素毎)に出力してもよい。また、数学モデルに入力される眼科画像が動画像であってもよい。
また、他の機械学習アルゴリズムが用いられてもよい。例えば、競合する2つのニューラルネットワークを利用する敵対的生成ネットワーク(Generative adversarial networks:GAN)が、機械学習アルゴリズムとして採用されてもよい。
数学モデルの構築が完了するまで(S4:NO)、S1~S3の処理が繰り返される。数学モデルの構築が完了すると(S4:YES)、数学モデル構築処理は終了する。構築された数学モデルを実現させるプログラムおよびデータは、眼科画像処理装置21に組み込まれる。
(眼科画像処理)
図5から図11を参照して、眼科画像処理装置21が実行する眼科画像処理について説明する。眼科画像処理は、記憶装置21に記憶された眼科画像処理プログラムに従って、CPU23によって実行される。
まず、CPU23は、被検眼の組織(本実施形態では眼底)の三次元断層画像を取得する(S11)。三次元断層画像は、眼科画像撮影装置11Bによって撮影されて、眼科画像処理装置21によって取得される。前述したように、三次元断層画像は、互いに異なるスキャンライン上に測定光を走査させることで撮影された複数の二次元断層画像を組み合わせることで構成されている。なお、CPU23は、三次元断層画像を生成する基となる信号(例えばOCT信号)を眼科画像撮影装置11Bから取得し、取得した信号に基づいて三次元断層画像を生成してもよい。
CPU23は、取得した三次元断層画像を構成する複数の二次元断層画像のうち、T番目(Tの初期値は「1」)の二次元断層画像を抽出する(S12)。図6に、二次元断層画像40の一例を示す。二次元断層画像40には、被検眼の眼底における複数の境界が表れている。図6に示す例では、内境界膜(ILM)である境界Biと、神経線維層(NFL)と神経節細胞層(GCL)の境界Bgを含む複数の境界が表れている。また、二次元断層画像40中に、複数の一次元領域A1~ANが設定される。本実施形態では、二次元断層画像40中に設定される一次元領域A1~ANは、特定の境界(本実施形態では、境界Biと境界Bgを含む複数の境界)に交差する軸に沿ってに延びる。詳細には、本実施形態の一次元領域A1~ANは、OCT装置によって撮影された二次元断層画像40を構成する複数(N本)のAスキャンの各々の領域に一致する。
なお、複数の一次元領域を設定する方法を変更することも可能である。例えば、CPU23は、各々の一次元領域の軸と特定の境界の角度が極力垂直に近づくように、複数の一次元領域を設定してもよい。この場合、各々の一次元領域の位置および角度は、例えば、一般的な被検眼の組織(本実施形態では眼底)の形状に基づいて、角度が垂直に近づくように設定されてもよい。
CPU23は、数学モデルにT番目の二次元断層画像を入力することで、複数の一次元領域A1~ANの各々において、M番目(Mの初期値は「1」)の境界が存在する座標の確率分布を、組織を識別するための確率分布として取得する(S14)。図7および図8に、一次元座標A1から取得される、境界Biが存在する座標の確率分布を示すグラフの一例を示す。図7および図8に示す例では、一次元領域A1の一次元座標を確率変数として、境界Biが存在する座標の確率分布が示されている。つまり、図7および図8に示す例では、横軸は確率変数、縦軸は前記確率変数の確率であり、前記確率変数は一次元領域A1における境界Biの存在する座標である。S14では、複数の一次元領域A1~ANの各々における確率分布が取得される。
図7に示す確率分布は、組織(詳細には、境界Biの近傍の組織)の構造の異常度が低い場合に出力される確率分布の一例である。構造の異常度が低い位置では、数学モデルによって組織が正確に識別され易いので、組織の位置の確率が偏り易い。図7に示すグラフによると、一次元領域A1上の各点の中で、境界Biが存在する可能性が最も高い点が、点Pであると判断できる。数学モデルが正確に組織を識別した場合の確率分布(つまり、理想的な確率分布)は、一次元領域A1上の1つの点でのみ1の値を取り、他の点では0となる。
一方で、図8に示す確率分布は、組織の構造の異常度が高い場合に出力される確率分布の一例である。図8に示すように、構造の異常度が高い位置では、確率分布が偏り難くなる。以上のように、組織の構造の異常度に応じて、組織を識別するための確率分布の偏りは変化する。
次いで、CPU23は、M番目の境界に関する、確率分布Pの乖離度を取得する(S15)。乖離度とは、組織が正確に識別される場合の確率分布に対する、S14で取得された確率分布Pの差である。本実施形態では、乖離度は、組織の構造の異常度を示す構造情報として取得される。本実施形態のS15では、複数の一次元領域A1~ANについて取得された複数の確率分布Pの各々に対して乖離度が取得(算出)される。
本実施形態では、乖離度として、確率分布Pのエントロピーが算出される。エントロピーは、以下の(数1)で与えられる。エントロピーH(P)は、0≦H(P)≦log(事象の数)の値を取り、確率分布Pが偏っている程小さな値になる。つまり、エントロピーH(P)が小さい程、組織の構造の異常度が低いことになる。組織が正確に識別される場合の確率分布のエントロピーは、0となる。また、組織の構造の異常度が増加し、組織の識別が困難になる程、エントロピーH(P)は増大する。従って、乖離度として確率分布PのエントロピーH(P)を用いることで、組織の構造の異常度が適切に定量化される。
H(P)=-Σplog(p)・・・(数1)
ただし、エントロピー以外の値が乖離度として採用されてもよい。例えば、取得された確率分布Pの散布度を示す標準偏差、変動係数、分散等の少なくともいずれかが乖離度として使用されてもよい。確率分布P同士の差異を図る尺度であるKLダイバージェンス等が乖離度として使用されてもよい。また、取得された確率分布Pの最大値(例えば、図7および図8に例示する確率の最大値)が乖離度として使用されてもよい。また、取得された確率分布Pの最大値と、2番目に大きい値の差が乖離度として使用されてもよい。
次いで、CPU23は、T番目の二次元断層画像において検出対象とする、全ての境界の乖離度が取得されたか否かを判断する(S16)。一部の境界の乖離度が取得されていなければ(S16:NO)、境界の順番Mに「1」が加算されて(S17)、処理はS14に戻り、次の境界の乖離度が取得される(S14,S15)。全ての境界の乖離度が取得されると(S16:YES)、CPU23は、T番目の二次元断層画像の乖離度を記憶装置24に記憶させると共に、表示装置28に表示させる(S19)。CPU23は、T番目の二次元断層画像の構造異常度グラフを取得(本実施形態では生成)し、表示装置28に表示させる(S20)。
図9および図10を参照して、構造異常度グラフ52について説明する。図9は、構造の異常度が低い二次元断層画像51Aと、二次元断層画像51Aに関する構造異常度グラフ52Aと、二次元断層画像51Aに関する乖離度を示す乖離度表53Aとが表示された表示画面の一例である。また、図10は、構造の異常度が高い二次元断層画像51Bと、二次元断層画像51Bに関する構造異常度グラフ52Bと、二次元断層画像51Bに関する乖離度を示す乖離度表53Bとが表示された表示画面の一例である。
図9および図10に示すように、二次元断層画像51は、X方向(図面の左右方向)およびZ方向(図面の上下方向)に広がる二次元の画像である。前述したように、乖離度は、眼科画像上でZ方向に平行に延びる複数の軸(本実施形態では、複数のAスキャン)毎に取得される。図9および図10に示す構造異常度グラフ52では、横軸をX軸とし、X方向の各々の位置における乖離度が縦軸に示されている。
一例として、本実施形態の構造異常度グラフ52では、複数の境界の各々について取得された、複数の乖離度(本実施形態ではエントロピー)の平均値が、X方向の位置毎に示されている。しかし、1つの境界の乖離度が構造異常度グラフ52によって示されてもよい。また、特定の複数の境界(例えば、IPL/INLの境界と、OPL/ONLの境界)の平均値が、構造異常度グラフ52によって示されてもよい。また、平均値の代わりに、平均値以外の各種統計値(例えば、中央値、最頻値、最大値、または最小値等)が用いられてもよい。
図9に示すように、X方向の全体で構造の異常度が低い場合には、構造異常度グラフ52Aによって示される乖離度が、X方向の全体で低い値となる。一方で、図10に示すように、構造の異常度が高いX方向の位置では、構造異常度グラフ52Bによって示される乖離度は高い値となる。以上のように、構造異常度グラフ52によると、X方向のいずれの位置の異常度が高いかが、ユーザによって適切に把握される。
図9および図10を参照して、乖離度の表示方法の一例について説明する。図9および図10に示すように、本実施形態の乖離度表53では、複数の境界毎に、取得された乖離度(本実施形態ではエントロピー)が表示される。従って、ユーザは、構造の異常度が高い境界を、定量化された値に基づいて適切に把握することができる。本実施形態の乖離度表53で表示される乖離度は、複数の一次元領域(本実施形態ではAスキャン)毎に取得された複数の乖離度の平均値である。また、本実施形態の乖離度表53では、全ての境界に関する乖離度の平均値が表示される。従って、ユーザは、眼科画像に写っている組織中に、構造の異常度が高い部位があるか否かを、平均値によって容易に把握することができる。さらに、本実施形態の乖離度表53では、全ての境界のうち、複数の特定の境界に関する乖離度の平均値が表示される。一例として、本実施形態では、疾患による影響で構造が崩れやすい境界(IPL/INLの境界と、OPL/ONLの境界)の平均値が表示される。従って、ユーザは、疾患による構造異常が存在するか否かを容易に把握することができる。なお、前述したように、平均値以外の各種統計値が用いられてもよい。
次いで、CPU23は、三次元断層画像を構成する全ての二次元断層画像の乖離度が取得されたか否かを判断する(S21)。一部の二次元断層画像の乖離度が取得されていなければ(S21:NO)、二次元断層画像の順番Tに「1」が加算されて(S22)、処理はS12に戻り、次の二次元断層画像の乖離度が取得される(S12~S20)。全ての二次元断層画像の乖離度が取得されると(S21:YES)、CPU23は、構造異常度マップを取得(本実施形態では生成)し、表示装置28に表示させる(S24)。
図11を参照して、構造異常度マップ55について説明する。構造異常度マップ55は、組織における乖離度の二次元分布を示すマップである。前述したように、本実施形態では、三次元断層画像を構成する複数の二次元断層画像の各々について乖離度が取得されている。つまり、三次元断層画像に写っている組織の全体の乖離度が取得されている。本実施形態の構造異常度マップ55では、組織(本実施形態では眼底)を正面から見た場合の、乖離度の二次元分布が示されている。ただし、二次元分布を示す方向は適宜変更できる。また、本実施形態の構造異常度マップ55では、乖離度が高い程、表示されている輝度が低くなる。しかし、構造異常度マップ55において各位置の乖離度を示すための具体的な方法も、適宜変更できる。また、本実施形態の構造異常度マップ55では、複数の境界に関する乖離度の平均値が用いられている。しかし、特定の境界に関する乖離度が用いられてもよい。
次いで、CPU23は、眼科画像(本実施形態では三次元断層画像)に写っている組織の中に、乖離度が閾値以上の部位(以下、「異常部位」という)が存在する場合に、異常部位の断層画像(二次元断層画像および三次元断層画像の少なくともいずれか)または拡大画像を、表示装置28に表示させる(S25)。従って、異常部位の画像が、ユーザによって適切に確認される。
詳細には、本実施形態のCPU23は、同一の被検眼の組織を撮影した複数の眼科画像(本実施形態では、三次元断層画像を構成する複数の二次元断層画像)のうち、乖離度が最も高い眼科画像、または、乖離度が閾値以上の眼科画像を表示装置28に表示させる。例えば、CPU23は、撮影された眼科画像をユーザに確認させる撮影確認画面に、複数の眼科画像のうち乖離度が高い眼科画像を表示させてもよい。また、CPU23は、撮影された眼科画像を表示するためのビューワーを起動させた際に、複数の眼科画像のうち乖離度が高い眼科画像を表示させてもよい。この場合、構造の異常度が高い部位が撮影された眼科画像が、容易にユーザによって確認される。この処理は、眼科画像撮影装置11Bが眼科画像処理を実行している場合にも同様に実行できる。
また、眼科画像撮影装置11Bが眼科画像処理を実行している場合には、眼科画像撮影装置11BのCPU13Bは、乖離度が閾値以上の部位の画像(本実施形態では、二次元断層画像、三次元断層画像、およびモーションコントラスト画像等の少なくともいずれか)を撮影する撮影指示を出力する(S25)。なお、なお、CPU13Bは、乖離度が閾値以上の部位の画像を撮影する際に、同一部位の眼科画像を複数回撮影し、撮影された複数の眼科画像の加算平均画像を取得してもよい。この場合、構造の異常度が高い部位の眼科画像が高い品質で取得される。また、眼科画像処理装置23が眼科画像撮影装置11Bに撮影指示を出力してもよい。
次いで、CPU23は、フォローアップ処理を実行する(S26)。フォローアップ処理は、被検眼の経過観察をユーザに行わせるための処理である。前述したように、取得された乖離度は、記憶装置24に記憶されている(S19)。フォローアップ処理では、CPU23は、同一の被検眼の組織を異なる時間に撮影した複数の眼科画像の各々に関する、複数の乖離度を、表示装置28に表示させる。従って、ユーザは、複数の乖離度を比較することで、構造の異常の進行具合等を適切に把握することができる。なお、CPU23は、複数の乖離度の値そのもの(例えば乖離度表53)を表示させてもよいし、複数の構造異常度グラフ52を表示させてもよいし、複数の構造異常度マップ55を表示させてもよい。
次いで、CPU23は、眼科画像について取得された乖離度に基づいて、眼科画像の画質を評価する画質評価情報を生成する(S27)。乖離度は、眼科画像の画質が悪い場合にも高くなる場合がある。従って、乖離度に基づいて画質評価情報が生成されることで、眼科画像の画質が適切に把握される。画質評価情報の具体的な生成方法は、適宜選択できる。一例として、本実施形態では、CPU23は、制御部は、眼科画像の信号の強さ、または信号の良好さを示す指標(例えば、SSI(Signal Strength Index)またはQI(Quality Index)等)を取得する。CPU23は、取得した指標が閾値以下であり、且つ、乖離度の平均値が閾値以上である場合に、画質が悪いことを示す画質評価情報を生成する。また、CPU23は、眼科画像の各部の乖離度の全てが高い場合(例えば、各部の乖離度の全てが閾値以上である場合等)に、画質が悪いことを示す画質評価情報を生成してもよい。また、乖離度の値そのもの、構造異常度グラフ52、および構造異常度マップ55の少なくともいずれかが、画質評価情報として使用されてもよい。
上記実施形態で開示された技術は一例に過ぎない。従って、上記実施形態で例示された技術を変更することも可能である。まず、上記実施形態で例示された複数の技術のうちの一部のみを実行することも可能である。例えば、眼科画像処理装置21は、二次元断層画像の乖離度を取得する処理(S11~S20)のみを実行し、三次元断層画像全体の乖離度を取得する処理を省略してもよい。この場合、S11で取得される眼科画像は、二次元断層画像であってもよい。また、眼科画像処理装置21は、組織の構造の異常度を示す構造情報として乖離度を使用せずに、画質評価情報として乖離度を使用してもよい。
また、取得された乖離度を利用する方法を変更することも可能である。例えば、CPU23は、三次元断層画像を構成する複数の二次元断層画像のうち、乖離度が最も高い二次元断層画像、または、乖離度が閾値以上の二次元断層画像を、被検眼の疾患に関する自動診断結果を出力する数学モデルに入力してもよい。この数学モデルは、入力された眼科画像に基づいて自動診断結果を出力するように、機械学習アルゴリズムによって予め訓練されている。この場合、三次元断層画像を構成する複数の二次元断層画像のうち、構造の異常度が高い二次元断層画像によって、効率よく自動診断結果が得られる。
なお、図5のS11で眼科画像を取得する処理は、「画像取得ステップ」の一例である。図5のS14で確率分布を取得する処理は、「確率分布取得ステップ」の一例である。図5のS15で乖離度を構造情報として取得する処理は、「構造情報取得ステップ」の一例である。図5のS20で構造異常度グラフを取得する処理は、「グラフ取得ステップ」の一例である。図5のS24で構造異常度マップを取得する処理は、「マップ取得ステップ」の一例である。図5のS25で断層画像または拡大画像を表示させる処理は、「表示ステップ」の一例である。図5のS25で撮影指示を出力する処理は、「撮影指示出力ステップ」の一例である。
11A,11B 眼科画像撮影装置
13A,13B CPU
21 眼科画像処理装置
23 CPU
24 記憶装置
28 表示装置
30 訓練用眼科画像
31 訓練用データ
40,51 二次元断層画像
52 構造異常度グラフ
53 乖離度表
55 構造異常度マップ

Claims (5)

  1. 被検眼の組織の画像である眼科画像を処理する眼科画像処理装置であって、
    前記眼科画像処理装置の制御部は、
    眼科画像撮影装置によって撮影された、前記組織の三次元断層画像を取得し、
    機械学習アルゴリズムによって訓練された数学モデルに前記三次元断層画像を入力することで、前記三次元断層画像における複数の層および前記層の境界に含まれる、1つ以上の特定の層または境界を識別するための確率分布を、前記1つ以上の特定の層または境界に交差する方向に延びる複数の一次元領域毎に取得し、
    前記1つ以上の特定の層または境界が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記複数の一次元領域の各々について取得し、取得した前記乖離度の二次元分布を示す構造異常度マップを、前記組織の構造の異常度を示す構造情報として表示部に出力することを特徴とする眼科画像処理装置。
  2. 請求項1に記載の眼科画像処理装置であって、
    前記数学モデルは、入力側を過去に撮影された被検眼の組織の眼科画像のデータとし、且つ、出力側を前記入力側の前記眼科画像における前記組織を示すデータとする訓練データセットを用いて訓練されていることを特徴とする眼科画像処理装置。
  3. 請求項1または2に記載の眼科画像処理装置であって、
    前記乖離度には、取得された前記確率分布のエントロピーが含まれることを特徴とする眼科画像処理装置。
  4. 参照光と、被検眼の組織に照射された測定光の反射光とによるOCT信号を処理することで、前記組織の三次元断層画像を撮影するOCT装置であって、
    前記OCT装置の制御部は、
    撮影した前記三次元断層画像を、機械学習アルゴリズムによって訓練された数学モデルに入力することで、前記三次元断層画像における複数の層および前記層の境界に含まれる、1つ以上の特定の層または境界を識別するための確率分布を、前記1つ以上の特定の層または境界に交差する方向に延びる複数の一次元領域毎に取得し、
    前記1つ以上の特定の層または境界が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記複数の一次元領域の各々について取得し、取得した前記乖離度の二次元分布を示す構造異常度マップを、前記組織の構造の異常度を示す構造情報として表示部に出力することを特徴とするOCT装置。
  5. 被検眼の組織の画像である眼科画像を処理する眼科画像処理装置によって実行される眼科画像処理プログラムであって、
    前記眼科画像処理プログラムが前記眼科画像処理装置の制御部によって実行されることで、
    眼科画像撮影装置によって撮影された、前記組織の三次元断層画像を取得する画像取得ステップと、
    機械学習アルゴリズムによって訓練された数学モデルに前記三次元断層画像を入力することで、前記三次元断層画像における複数の層および前記層の境界に含まれる、1つ以上の特定の層または境界を識別するための確率分布を、前記1つ以上の特定の層または境界に交差する方向に延びる複数の一次元領域毎に取得する確率分布取得ステップと、
    前記1つ以上の特定の層または境界が正確に識別される場合の前記確率分布に対する、取得された前記確率分布の乖離度を、前記複数の一次元領域の各々について取得し、取得した前記乖離度の二次元分布を示す構造異常度マップを、前記組織の構造の異常度を示す構造情報として表示部に出力する構造情報取得ステップと、
    を前記眼科画像処理装置に実行させることを特徴とする眼科画像処理プログラム。
JP2018147141A 2018-08-03 2018-08-03 眼科画像処理装置、oct装置、および眼科画像処理プログラム Active JP7210927B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2018147141A JP7210927B2 (ja) 2018-08-03 2018-08-03 眼科画像処理装置、oct装置、および眼科画像処理プログラム
US17/265,367 US11961229B2 (en) 2018-08-03 2019-04-15 Ophthalmic image processing device, OCT device, and non-transitory computer-readable storage medium
EP19843402.9A EP3831275A4 (en) 2018-08-03 2019-04-15 OPHTHALMIC IMAGE PROCESSING DEVICE, OCT DEVICE AND OPHTHALMIC IMAGE PROCESSING PROGRAM
CN201980051471.6A CN112533526A (zh) 2018-08-03 2019-04-15 眼科图像处理装置、oct装置及眼科图像处理程序
PCT/JP2019/016209 WO2020026535A1 (ja) 2018-08-03 2019-04-15 眼科画像処理装置、oct装置、および眼科画像処理プログラム
JP2022204040A JP2023024614A (ja) 2018-08-03 2022-12-21 眼科画像処理装置、oct装置、および眼科画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018147141A JP7210927B2 (ja) 2018-08-03 2018-08-03 眼科画像処理装置、oct装置、および眼科画像処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022204040A Division JP2023024614A (ja) 2018-08-03 2022-12-21 眼科画像処理装置、oct装置、および眼科画像処理プログラム

Publications (3)

Publication Number Publication Date
JP2020018794A JP2020018794A (ja) 2020-02-06
JP2020018794A5 JP2020018794A5 (ja) 2021-08-05
JP7210927B2 true JP7210927B2 (ja) 2023-01-24

Family

ID=69587823

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018147141A Active JP7210927B2 (ja) 2018-08-03 2018-08-03 眼科画像処理装置、oct装置、および眼科画像処理プログラム
JP2022204040A Pending JP2023024614A (ja) 2018-08-03 2022-12-21 眼科画像処理装置、oct装置、および眼科画像処理プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022204040A Pending JP2023024614A (ja) 2018-08-03 2022-12-21 眼科画像処理装置、oct装置、および眼科画像処理プログラム

Country Status (1)

Country Link
JP (2) JP7210927B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005076258A1 (ja) 2004-02-03 2005-08-18 Matsushita Electric Industrial Co., Ltd. ユーザ適応型装置およびその制御方法
JP2009098970A (ja) 2007-10-17 2009-05-07 Fuji Heavy Ind Ltd 安全運転支援システム
JP2014505552A (ja) 2011-01-28 2014-03-06 オプトビュー,インコーポレーテッド 光干渉断層法の正面鉛直断面ビューを使用する網膜疾患のコンピュータ援用診断
US20180012359A1 (en) 2016-07-06 2018-01-11 Marinko Venci Sarunic Systems and Methods for Automated Image Classification and Segmentation

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005076258A1 (ja) 2004-02-03 2005-08-18 Matsushita Electric Industrial Co., Ltd. ユーザ適応型装置およびその制御方法
JP2009098970A (ja) 2007-10-17 2009-05-07 Fuji Heavy Ind Ltd 安全運転支援システム
JP2014505552A (ja) 2011-01-28 2014-03-06 オプトビュー,インコーポレーテッド 光干渉断層法の正面鉛直断面ビューを使用する網膜疾患のコンピュータ援用診断
US20180012359A1 (en) 2016-07-06 2018-01-11 Marinko Venci Sarunic Systems and Methods for Automated Image Classification and Segmentation

Also Published As

Publication number Publication date
JP2020018794A (ja) 2020-02-06
JP2023024614A (ja) 2023-02-16

Similar Documents

Publication Publication Date Title
US11633096B2 (en) Ophthalmologic image processing device and non-transitory computer-readable storage medium storing computer-readable instructions
JP2018121885A (ja) 画像処理装置、画像処理システム、および画像処理プログラム
WO2020026535A1 (ja) 眼科画像処理装置、oct装置、および眼科画像処理プログラム
US20240020839A1 (en) Medical image processing device, medical image processing program, and medical image processing method
JP2024045441A (ja) 眼科画像処理装置、および眼科画像処理プログラム
WO2020116351A1 (ja) 診断支援装置、および診断支援プログラム
JP6703319B1 (ja) 眼科画像処理装置、およびoct装置
JP7210927B2 (ja) 眼科画像処理装置、oct装置、および眼科画像処理プログラム
JP7147888B2 (ja) 眼科画像処理装置、oct装置、および眼科画像処理プログラム
JP7328489B2 (ja) 眼科画像処理装置、および眼科撮影装置
JP2021037177A (ja) 眼科画像処理プログラムおよび眼科画像処理装置
US20220164949A1 (en) Ophthalmic image processing device and ophthalmic image processing method
JP6747617B2 (ja) 眼科画像処理装置、およびoct装置
JP7180187B2 (ja) 眼科画像処理装置、oct装置、および眼科画像処理プログラム
US11961229B2 (en) Ophthalmic image processing device, OCT device, and non-transitory computer-readable storage medium
JP2021074095A (ja) 眼科画像処理装置および眼科画像処理プログラム
WO2021045019A1 (ja) 眼科画像処理プログラムおよび眼科画像処理装置
WO2020241794A1 (ja) 眼科画像処理装置、眼科画像処理プログラム、および眼科画像処理システム
JP7302184B2 (ja) 眼科画像処理装置、および眼科画像処理プログラム
WO2023281965A1 (ja) 医療画像処理装置、および医療画像処理プログラム
JP7435067B2 (ja) 眼科画像処理装置および眼科画像処理プログラム
JP2022138552A (ja) 眼科画像処理装置、眼科画像処理プログラム、および眼科画像撮影装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210625

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221226

R150 Certificate of patent or registration of utility model

Ref document number: 7210927

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150