JP2024001913A - 画像処理方法、画像処理装置、プログラム、及び記録媒体 - Google Patents

画像処理方法、画像処理装置、プログラム、及び記録媒体 Download PDF

Info

Publication number
JP2024001913A
JP2024001913A JP2022100776A JP2022100776A JP2024001913A JP 2024001913 A JP2024001913 A JP 2024001913A JP 2022100776 A JP2022100776 A JP 2022100776A JP 2022100776 A JP2022100776 A JP 2022100776A JP 2024001913 A JP2024001913 A JP 2024001913A
Authority
JP
Japan
Prior art keywords
oct
image
images
birefringence
applying
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022100776A
Other languages
English (en)
Inventor
神之介 東
Shinnosuke Azuma
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Topcon Corp
Original Assignee
Topcon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Topcon Corp filed Critical Topcon Corp
Priority to JP2022100776A priority Critical patent/JP2024001913A/ja
Priority to US18/212,212 priority patent/US20230419451A1/en
Publication of JP2024001913A publication Critical patent/JP2024001913A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/60Image enhancement or restoration using machine learning, e.g. neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10101Optical tomography; Optical coherence tomography [OCT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

【課題】偏光分離検出機能を持たないOCTモダリティで取得された画像から、複屈折由来アーティファクトが低減された画像を生成するための新たな技術を提供する。【解決手段】実施形態の1つの態様は、OCT画像を処理する装置(眼科装置1)であって、画像取得部(OCTスキャナ:OCTユニット100、光スキャナ44など)と、処理部(データ処理部230の平均画像生成部231)とを含んでいる。画像取得部は、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する。処理部は、画像取得部により取得された複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する。【選択図】図3

Description

本開示は、光コヒーレンストモグラフィ(OCT)画像を処理するための方法、装置、プログラム、及び記録媒体に関する。
近年、レーザー光源等からの光ビームを用いて被測定物体(サンプル)の表面形態や内部形態を表す画像を生成するためのOCTが注目を集めている。OCTは、X線CT(Computed Tomography)のような生体に対する侵襲性を持たないことから、特に医療分野や生物学分野における応用の展開が期待されている。例えば眼科分野においては、眼底や角膜等の画像を生成するための装置が実用化されている。
OCT画像には様々なアーティファクトが生じる。その1つとして、サンプルの複屈折性に由来するアーティファクトがある。複屈折性は、光の偏光及び伝搬方向に依存する屈折率を持つ物質の光学特性である。複屈折性を持つサンプルを透過する光線は、その偏光の状態によって2つの光線に分けられる。複屈折に由来するアーティファクト(複屈折由来アーティファクト)は、偏光を検出可能なOCTモダリティで生成されたOCT画像だけでなく、通常のOCT強度画像にも生じる。なお、偏光を検出可能なOCTモダリティ(偏光感受型OCT)には、例えば、特許文献1~3に記載されたものがある。
複屈折由来アーティファクトを除去するための技術として、OCT信号を2つの偏光成分に分離して検出し、検出された2つの偏光成分信号の強度を合成してOCT強度信号を生成する手法が知られている。この手法は、例えば、非特許文献1に記載されているように、偏光ビームスプリッターと2つの光検出器とを組み合わせた検出モジュール(偏光分離検出機能)を用いて実現される。
特許第4344829号明細書 特許第6256879号明細書 特許第6579718号明細書
Shuichi Makita、Toshihiro Mino、Tastuo Yamaguchi、Mashiro Miura、Shinnosuke Azuma、 and Yoshiaki Yasuno、 "Clinical prototype of pigment and flow imaging optical coherence tomography for posterior eye investigation"、 Biomedical Optics Express、 Vol. 9、 Issue 9、 pp. 4372-4389 (2018)
本開示の目的の1つは、偏光分離検出機能を持たないOCTモダリティで取得された画像から、複屈折由来アーティファクトが低減された画像を生成するための新たな技術を提供することにある。
実施形態の1つの態様は、光コヒーレンストモグラフィ(OCT)画像を処理する方法であって、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して複数の画像を取得し、前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する。
実施形態の別の態様は、光コヒーレンストモグラフィ(OCT)画像を処理する装置であって、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する画像取得部と、前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する処理部とを含んでいる。
実施形態の更に別の態様は、光コヒーレンストモグラフィ(OCT)画像を処理するためのプログラムであって、コンピュータに、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する工程と、前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する工程とを実行させる。
実施形態の更に別の態様は、光コヒーレンストモグラフィ(OCT)画像を処理するためのプログラムが記録された、コンピュータ可読な非一時的記録媒体であって、前記プログラムは、コンピュータに、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する工程と、前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する工程とを実行させる。
実施形態によれば、偏光分離検出機能を持たないOCTモダリティで取得された画像から複屈折由来アーティファクトが低減された画像を生成するための新たな技術を提供することが可能である。
実施形態の例示的な態様に係る画像処理装置(眼科装置)の構成の一例を表す概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の構成の一例を表す概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の構成の一例を表す概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の構成の一例を表す概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)により生成された画像の利用方法の一例を説明するための概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)により生成された画像の利用方法の一例を説明するための概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)により生成された画像の利用方法の一例を説明するための概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)により生成された画像の利用方法の一例を説明するための概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)により生成された画像の利用方法の一例を説明するための概略図である。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の応用の一例を表すフローチャートである。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の応用の一例を表すフローチャートである。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の動作の一例を表すフローチャートである。 実施形態の例示的な態様に係る画像処理装置(眼科装置)の動作の一例を表すフローチャートである。
実施形態の幾つかの例示的な態様に係る画像処理方法、画像処理装置、プログラム、及び記録媒体について、図面を参照しながら詳細に説明する。本開示では、特に眼科分野への幾つかの応用例を説明するが、実施形態はそれらに限定されるものではなく、OCTを利用可能な分野であって複屈折由来アーティファクトが生じる又はその可能性のある分野への応用が可能である。
本開示において引用されている文献に記載された任意の事項や、他の任意の公知技術に関する事項を、実施形態に組み合わせることが可能である。また、本開示においては、特に言及しない限り、「画像データ」とそれに基づく可視化情報である「画像」とは区別されない。
実施形態に係る画像処理装置は、サンプルのOCT画像を取得する機能を有する。この機能を実現するために採用可能な構成は任意であってよい。幾つかの例示的な態様において、画像処理装置は、サンプルのOCT画像を取得するために、サンプルにOCTスキャンを適用してデータを収集し、収集されたデータを処理してOCT画像を構築するように構成される。このOCTスキャンに用いられるOCTの種類(OCTモダリティ)は任意であってよく、例えば、フーリエドメインOCT(スウェプトソースOCT、又は、スペクトラルドメインOCT)でもタイムドメインOCTでもよい。
また、幾つかの例示的な態様において、画像処理装置は、サンプルのOCT画像を外部から取得するように構成される。このような画像処理装置は、例えば、記憶装置に保存されているOCT画像を通信回線を介して受信するための通信デバイス、OCT装置により取得されたOCT画像を通信回線を介して受信するための通信デバイス、及び、記録媒体に記録されているOCT画像を読み出すためのデータリーダーのいずれかを備えていてよい。
実施形態に係る画像処理装置は、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して複数の画像を取得するように構成される。すなわち、実施形態に係る画像処理装置は、当該画像処理装置のOCTスキャナを用いて異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用することによって複数の画像を取得するように構成され、及び/又は、他のOCT装置を用いて異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用することによって複数の画像を取得するように構成される。複数の偏光条件は、例えば、OCTスキャナの測定アーム及び/又は参照アームに設けられた偏光変調器を用いて実現される。
更に、実施形態に係る画像処理装置は、取得された複数の画像から、複屈折由来アーティファクトが低減された画像を生成する機能を有する。より具体的には、実施形態に係る画像処理装置は、複数の偏光条件に対応する複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された画像を生成する。このようにして生成される画像を平均画像と呼ぶ。
実施形態に係る画像処理装置により生成された平均画像は、例えば、記憶され及び/又は提供される。幾つかの例示的な態様において、平均画像は、画像処理装置の内部又は外部に配置されている記憶装置に保存される。画像処理装置の内部の記憶装置は、例えば、ハードディスクドライブ、ソリッドステートドライブなどであってよい。画像処理装置の外部の記憶装置は、例えば、データベースシステム、データ管理システムなどであってよい。このようなシステムの例として、医療分野の代表的な画像管理システムであるPicture archiving and communication system(PACS)がある。
また、幾つかの例示的な態様において、画像処理装置により生成された平均画像は、画像処理装置の内部又は外部に設けられたコンピュータに提供される。このコンピュータは、平均画像を処理して新たな情報を生成する機能を有する。このコンピュータの機能の例として、平均画像を解析して解析情報を生成する機能、平均画像を処理して可視化情報を生成する機能、平均画像を別の情報と組み合わせて新たな情報を生成する機能、平均画像に基づき機械学習用の訓練データ(教師データ、学習データ)を生成する機能、平均画像を含む訓練データ及び/又は平均画像に基づく情報を含む訓練データを用いて機械学習を実行する機能、平均画像及び/又はそれに基づく情報を用いて推論を実行する機能、これらの機能のうちの2つ以上を少なくとも部分的に組み合わせた機能などがある。
本開示に係る要素の機能の少なくとも一部は、回路構成(circuitry)又は処理回路構成(processing circuitry)を用いて実装される。回路構成又は処理回路構成は、開示された機能の少なくとも一部を実行するように構成及び/又はプログラムされた、汎用プロセッサ、専用プロセッサ、集積回路、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、プログラマブル論理デバイス(例えば、SPLD(Simple Programmable Logic Device)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)、従来の回路構成、及びそれらの任意の組み合わせのいずれかを含む。プロセッサは、トランジスタ及び/又は他の回路構成を含む、処理回路構成又は回路構成とみなされる。本開示において、回路構成、ユニット、手段、又はこれらに類する用語は、開示された機能の少なくとも一部を実行するハードウェア、又は、開示された機能の少なくとも一部を実行するようにプログラムされたハードウェアである。ハードウェアは、本開示に記載されているハードウェアであってよく、或いは、本開示に記載されている機能の少なくとも一部を実行するようにプログラム及び/又は構成された既知のハードウェアであってもよい。ハードウェアが或るタイプの回路構成とみなされ得るプロセッサである場合、回路構成、ユニット、手段、又はこれらに類する用語は、ハードウェアとソフトウェアとの組み合わせであり、このソフトウェアはハードウェア及び/又はプロセッサを構成するために使用される。
<画像処理装置(眼科装置)の構成>
図1に示す眼科装置1は、実施形態に係る画像処理装置の1つの例示的な態様であり、サンプルのOCT画像を取得するために、サンプルにOCTスキャンを適用してデータを収集し、収集されたデータを処理してOCT画像を構築するように構成されている。本態様において、サンプルはヒトの生体眼(被検眼)である。
眼科装置1は、OCT装置と眼底カメラとを組み合わせた複合機であり、被検眼E(眼底Ef及び前眼部Ea)にOCTスキャンを適用する機能と、被検眼E(眼底Ef及び前眼部Ea)のデジタル写真撮影を行う機能とを備えている。
眼科装置1は、眼底カメラユニット2、OCTユニット100、及び演算制御ユニット200を含む。眼底カメラユニット2には、被検眼の正面画像を取得するための各種の要素(光学系、機構など)が設けられている。OCTユニット100には、OCTスキャンのための各種の要素(光学系、機構など)の一部が設けられている。OCTスキャンのための他の幾つかの要素は、眼底カメラユニット2に設けられている。演算制御ユニット200は、各種の処理(演算、制御など)を実行するように構成された1つ以上のプロセッサと1つ以上の記憶装置とを含む。更に、眼科装置1は、顎受け、額当てなどを含む。
アタッチメント400は、OCTスキャンを適用する部位を後眼部(眼底Ef)と前眼部Eaとの間で切り替えるためのレンズ群を含む。アタッチメント400は、例えば、特開2015-160103号公報に開示された光学ユニットであってよい。アタッチメント400は、対物レンズ22と被検眼Eとの間に配置可能である。眼底EfにOCTスキャンを適用するためにアタッチメント400は光路から退避され、前眼部EaにOCTスキャンを適用するためにアタッチメント400は光路に配置される。逆に、前眼部EaにOCTスキャンを適用するためにアタッチメント400は光路から退避され、眼底EfにOCTスキャンを適用するためにアタッチメント400は光路に配置される構成であってもよい。アタッチメント400の移動は、手動又は自動で行われる。OCTスキャンを適用する部位を切り替えるための要素は、このようなアタッチメントに限定されず、例えば、光路に沿って移動可能な1つ以上のレンズを含む構成であってもよい。
<眼底カメラユニット2>
眼底カメラユニット2には、被検眼Eのデジタル写真撮影を行うための要素(光学系、機構など)が設けられている。取得されるデジタル写真は、観察画像、撮影画像などの正面画像である。観察画像は、例えば近赤外光を用いた動画撮影により取得され、アライメント、フォーカシング、トラッキングなどに利用される。撮影画像は、例えば可視領域又は赤外領域のフラッシュ光を用いた静止画像であり、診断、解析などに利用される。
眼底カメラユニット2は、照明光学系10と撮影光学系30とを含む。照明光学系10は被検眼Eに照明光を照射する。撮影光学系30は、被検眼Eからの照明光の戻り光を検出する。OCTユニット100からの測定光は、眼底カメラユニット2内の光路を通じて被検眼Eに導かれ、その戻り光は、同じ光路を通じてOCTユニット100に導かれる。
照明光学系10の観察光源11から出力された光(観察照明光)は、凹面鏡12により反射され、集光レンズ13を経由し、可視カットフィルタ14を透過して近赤外光となる。更に、観察照明光は、撮影光源15の近傍にて一旦集束し、ミラー16により反射され、リレーレンズ系17、リレーレンズ18、絞り19、及びリレーレンズ系20を経由する。そして、観察照明光は、孔開きミラー21の周辺部(孔部の周囲の領域)にて反射され、ダイクロイックミラー46を透過し、対物レンズ22(及びアタッチメント400内の光学素子)により屈折されて被検眼Eを照明する。観察照明光の被検眼Eからの戻り光は、(アタッチメント400内の光学素子、及び)対物レンズ22により屈折され、ダイクロイックミラー46を透過し、孔開きミラー21の中心領域に形成された孔部を通過し、ダイクロイックミラー55を透過し、撮影合焦レンズ31を経由し、ミラー32により反射される。更に、この戻り光は、ハーフミラー33Aを透過し、ダイクロイックミラー33により反射され、結像レンズ34によりイメージセンサ35の受光面に結像される。イメージセンサ35は、所定のフレームレートで戻り光を検出する。撮影光学系30のフォーカス(焦点位置)は、典型的には、眼底Ef又は前眼部Eaに合致するように調整される。
撮影光源15から出力された光(撮影照明光)は、観察照明光と同様の経路を通って被検眼Eに照射される。被検眼Eからの撮影照明光の戻り光は、観察照明光の戻り光と同じ経路を通ってダイクロイックミラー33まで導かれ、ダイクロイックミラー33を透過し、ミラー36により反射され、結像レンズ37によりイメージセンサ38の受光面に結像される。
液晶ディスプレイ(LCD)39は固視標(固視標画像)を表示する。LCD39から出力された光束は、その一部がハーフミラー33Aに反射され、ミラー32に反射され、撮影合焦レンズ31及びダイクロイックミラー55を経由し、孔開きミラー21の孔部を通過する。孔開きミラー21の孔部を通過した光束は、ダイクロイックミラー46を透過し、対物レンズ22により屈折されて眼底Efに投射される。固視標画像の表示位置を変更することによって、固視標による被検眼Eの固視位置を変更できる。これにより、被検眼Eの視線を所望の方向に誘導することができる。
アライメント光学系50は、被検眼Eに対する光学系のアライメントに用いられるアライメント指標を生成する。発光ダイオード(LED)51から出力されたアライメント光は、絞り52、絞り53、及びリレーレンズ54を経由し、ダイクロイックミラー55により反射され、孔開きミラー21の孔部を通過し、ダイクロイックミラー46を透過し、対物レンズ22を介して被検眼Eに投射される。アライメント光の被検眼Eからの戻り光は、観察照明光の戻り光と同じ経路を通ってイメージセンサ35に導かれる。その受光像(アライメント指標像)に基づいてマニュアルアライメントやオートアライメントを実行できる。
アライメントの手法は、アライメント指標を用いる手法に限定されない。例えば、幾つかの例示的な態様の眼科装置は、特開2013-248376号公報に記載されているように、前眼部を異なる方向から撮影して2つ以上の前眼部画像を取得し、これらの前眼部画像を解析して被検眼の3次元位置を求め、この3次元位置に基づき光学系を移動させるように構成されていてよい(ステレオアライメント)。
フォーカス光学系60は、被検眼Eに対するフォーカス調整に用いられるスプリット指標を生成する。撮影光学系30の光路(撮影光路)に沿った撮影合焦レンズ31の移動に連動して、フォーカス光学系60は照明光学系10の光路(照明光路)に沿って移動される。フォーカス調整を行うために、反射棒67が照明光路に挿入されて傾斜配置される。LED61から出力されたフォーカス光は、リレーレンズ62を通過し、スプリット指標板63により2つの光束に分離され、二孔絞り64を通過し、ミラー65により反射され、集光レンズ66により反射棒67の反射面に一旦結像されて反射される。更に、フォーカス光は、リレーレンズ20を経由し、孔開きミラー21に反射され、ダイクロイックミラー46を透過し、対物レンズ22を介して被検眼Eに投射される。フォーカス光の被検眼Eからの戻り光は、アライメント光の戻り光と同じ経路を通ってイメージセンサ35に導かれる。その受光像(スプリット指標像)に基づいてマニュアルフォーカシングやオートフォーカシングを実行できる。
孔開きミラー21とダイクロイックミラー55との間の撮影光路には、視度補正レンズ70及び71が選択的に挿入される。視度補正レンズ70は、強度遠視を補正するためのプラスレンズ(凸レンズ)である。視度補正レンズ71は、強度近視を補正するためのマイナスレンズ(凹レンズ)である。
ダイクロイックミラー46は、デジタル写真撮影用光路(照明光路及び撮影光路)にOCT用光路(測定アーム)を結合する。ダイクロイックミラー46は、OCTスキャン用の波長帯の光を反射し、デジタル写真撮影用の波長帯の光を透過させる。測定アームには、OCTユニット100側から順に、コリメータレンズユニット40、リトロリフレクタ41、分散補償部材42、OCT合焦レンズ43、光スキャナ44、及びリレーレンズ45が設けられている。
リトロリフレクタ41は、図1の矢印が示す方向(測定光LSの入射方向及び出射方向)に移動可能とされている。それにより、測定アームの長さが変更される。測定アーム長の変更は、例えば、眼軸長に応じた光路長の補正や、角膜形状や眼底形状に応じた光路長の補正や、干渉状態の調整などのために利用される。
分散補償部材42は、参照アームに配置された分散補償部材113(後述)とともに、測定光LSの分散特性と参照光LRの分散特性とを合わせるよう作用する。
OCT合焦レンズ43は、測定アームのフォーカス調整を行うために図1の矢印が示す方向(測定アームの光軸)に沿って移動可能とされている。それにより、測定アームのフォーカス状態(焦点の位置、焦点距離)が変更される。眼科装置1は、撮影合焦レンズ31の移動、フォーカス光学系60の移動、及びOCT合焦レンズ43の移動を連係的に制御可能であってよい。
光スキャナ44は、実質的に、被検眼Eの瞳孔と光学的に共役な位置に配置される。光スキャナ44は、測定アームにより導かれる測定光LSの進行方向(伝搬方向)を変化させるための偏向器である。光スキャナ44は、例えば、x方向のスキャンを行うための偏向器(x-スキャナ)と、y方向のスキャンを行うための偏向器(y-スキャナ)とを含む、2次元偏向器である。偏向器の種類は任意であってよく、例えばガルバノスキャナであってよい。
光スキャナ44は、後眼部OCTのためにアタッチメント400が測定アームから退避されているときには、被検眼Eの瞳孔に対して実質的に光学的に共役に配置され、前眼部OCTのためにアタッチメント400が測定アームに挿入されているときには、前眼部Eaの近傍位置(例えば、前眼部Eaとアタッチメント400との間の位置)に対して実質的に光学的に共役に配置される。
<OCTユニット100>
図2に示す例示的なOCTユニット100には、スウェプトソースOCTを適用するための光学系や機構が設けられている。この光学系は干渉光学系を含む。この干渉光学系は、波長可変光源(波長掃引型光源)からの光を測定光と参照光とに分割し、被検眼Eからの測定光の戻り光と参照光路を経由した参照光とを重ね合わせて干渉光を生成し、この干渉光を検出する。干渉光検出により生成される電気信号(検出信号)は、干渉光のスペクトルを表す信号(干渉信号)を含み、演算制御ユニット200(画像構築部220)に送られる。
光源ユニット101は、例えば、出射光の波長を高速で変化させる近赤外波長可変レーザーを含む。光源ユニット101から出力された光L0は、光ファイバ102により偏光コントローラ103に導かれてその偏光状態が調整され、光ファイバ104によりファイバカプラ105に導かれて測定光LSと参照光LRとに分割される。測定光LSの光路は測定アームなどと呼ばれ、参照光LRの光路は参照アームなどと呼ばれる。
参照光LRは、光ファイバ110によりコリメータ111に導かれて平行光束に変換され、光路長補正部材112及び分散補償部材113を経由し、リトロリフレクタ114に導かれる。光路長補正部材112は、参照光LRの光路長と測定光LSの光路長とを合わせるための光学素子である。分散補償部材113は、測定アームに配置された分散補償部材42とともに、参照光LRと測定光LSとの間の分散特性を合わせるよう作用する。リトロリフレクタ114は、これに入射する参照光LRの光路に沿って移動可能であり、それにより参照アームの長さが変更される。参照アーム長の変更は、例えば、眼軸長に応じた光路長の補正や、角膜形状や眼底形状に応じた光路長の補正や、干渉状態の調整などに利用される。
リトロリフレクタ114を経由した参照光LRは、分散補償部材113及び光路長補正部材112を経由し、コリメータ116によって平行光束から集束光束に変換され、光ファイバ117に入射する。光ファイバ117に入射した参照光LRは、偏光コントローラ118に導かれてその偏光状態が調整される。偏光コントローラ118は、例えば、測定光LSと参照光LRとの干渉強度を最適化するために用いられる。偏光コントローラ118を通過した参照光LRは、光ファイバ119を通じてアッテネータ120に導かれてその光量が調整され、光ファイバ121を通じてファイバカプラ122に導かれる。
一方、ファイバカプラ105により生成された測定光LSは、光ファイバ127によりコリメータレンズユニット40に導かれて平行光束に変換された後、リトロリフレクタ41、分散補償部材42、OCT合焦レンズ43、光スキャナ44、リレーレンズ45、ダイクロイックミラー46、及び対物レンズ22(及び、アタッチメント400)を経由して、被検眼Eに投射される。被検眼Eに入射した測定光LSは、被検眼Eの様々な深さ位置において散乱・反射される。測定光LSの被検眼Eからの戻り光(後方散乱光、反射光など)は、往路と同じ経路を逆向きに進行してファイバカプラ105に導かれ、光ファイバ128を通じてファイバカプラ122に導かれる。
ファイバカプラ122は、光ファイバ128からの測定光LS(被検眼Eからの戻り光)と、光ファイバ121からの参照光LRとを重ね合わせて干渉光を生成する。ファイバカプラ122は、生成された干渉光を所定の分割比(例えば1:1)で2つの光に分割することによって一対の干渉光LCを生成する。一対の干渉光LCは、それぞれ光ファイバ123及び124を通じて検出器125に導かれる。
検出器125は、例えばバランスドフォトダイオードを含む。バランスドフォトダイオードは、一対の干渉光LCをそれぞれ検出する一対のフォトディテクタを含み、一対のフォトディテクタにより生成される一対の電気信号の差分を出力する。出力された差分信号(検出信号)はデータ収集システム(DAQ、DAS)130に送られる。
データ収集システム130には、光源ユニット101からクロックKCが供給される。クロックKCは、光源ユニット101において、波長可変光源により所定の波長範囲内で掃引される各波長の出力タイミングに同期して生成される。光源ユニット101は、例えば、各出力波長の光L0を分岐して2つの分岐光を生成し、一方の分岐光に対して光学的遅延を印可し、遅延を受けた一方の分岐光と他方の分岐光とを合成し、得られた合成光を検出し、その検出結果に基づきクロックKCを生成する。データ収集システム130は、光源ユニット101から入力されるクロックKCに基づいて、検出器125から入力される検出信号のサンプリングを実行する。このサンプリングの結果は演算制御ユニット200に送られる。
本態様では、測定アーム長を変更するための要素(リトロリフレクタ41など)と、参照アーム長を変更するための要素(リトロリフレクタ114、参照ミラーなど)との双方が設けられているが、幾つかの例示的な態様では、これら2つの要素の一方のみが設けられていてもよい。
本態様では、参照光LRの偏光状態を変化させるための要素(偏光コントローラ118)が設けられている。幾つかの例示的な態様では、参照光LRの偏光状態を変化させるための要素の代わりに、測定光LSの偏光状態を変化させるための要素(偏光コントローラ)が設けられていてもよい。また、幾つかの例示的な態様では、参照光LRの偏光状態を変化させるための要素と、測定光LSの偏光状態を変化させるための要素との双方が設けられていてもよい。
図2のOCTユニット100に採用されているスウェプトソースOCTは、波長可変光源からの光を測定光と参照光とに分割し、被検物からの測定光の戻り光を参照光と重ね合わせて干渉光を生成し、この干渉光を光検出器で検出し、波長の掃引及び測定光のスキャンに応じて収集された検出データにフーリエ変換等を施して画像を構築する手法である。これに対し、スペクトラルドメインOCTは、低コヒーレンス光源(広帯域光源)からの光を測定光と参照光とに分割し、被検物からの測定光の戻り光を参照光と重ね合わせて干渉光を生成し、この干渉光のスペクトル分布を分光器で検出し、検出されたスペクトル分布にフーリエ変換等を施して画像を構築する手法である。端的に言うと、スウェプトソースOCTは、干渉光のスペクトル分布を時分割で取得するOCT手法であり、スペクトラルドメインOCTは、干渉光のスペクトル分布を空間分割で取得するOCT手法である。実施形態に適用可能なOCT手法がスウェプトソースOCTに限定されないことは、当業者にとって明らかである。
<制御系・処理系>
眼科装置1の制御系及び処理系の構成例を図3に示す。制御部210、画像構築部220、及びデータ処理部230は、例えば演算制御ユニット200に設けられている。図示は省略するが、眼科装置1は、通信デバイス、ドライブ装置(リーダー/ライター)を含んでいてもよい。
<制御部210>
制御部210は、各種の制御を実行する。制御部210は、主制御部211と記憶部212とを含む。主制御部211は、プロセッサを含み、眼科装置1の要素(図1~図4に示された要素)を制御する。主制御部211は、プロセッサを含むハードウェアと、制御ソフトウェアとの協働によって実現される。記憶部212は、ハードディスクドライブ、ソリッドステートドライブなどの記憶装置を含み、データを記憶する。
撮影合焦駆動部31Aは、主制御部211の制御の下に、撮影光路に設けられた撮影合焦レンズ31と照明光路に設けられたフォーカス光学系60とを移動する。リトロリフレクタ(RR)駆動部41Aは、主制御部211の制御の下に、測定アームに設けられたリトロリフレクタ41を移動する。OCT合焦駆動部43Aは、主制御部211の制御の下に、測定アームに設けられたOCT合焦レンズ43を移動する。リトロリフレクタ(RR)駆動部114Aは、主制御部211の制御の下に、参照アームに設けられたリトロリフレクタ114を移動する。移動機構150は、眼科装置1の光学系を3次元的に移動する(x方向、y方向、及びz方向に移動する)。挿脱機構400Aは、アタッチメント400の光路への挿入及び光路からの退避を行う。
<画像構築部220>
画像構築部220は、データ収集システム130から入力された信号(サンプリングデータ)に基づいて、被検眼EのOCT画像データを構築する。構築されるOCT画像データは、1つ以上のAスキャン画像データであり、例えば、複数のAスキャン画像データからなるBスキャン画像データ(2次元断面像データ)である。画像構築部220は、プロセッサを含むハードウェアと、画像構築ソフトウェアとの協働によって実現される。
サンプリングデータからOCT画像データを構築するために、画像形成部220は、例えば、従来のスウェプトソースOCTと同様に、Aラインごとのサンプリングデータに基づくスペクトル分布に信号処理を施してAラインごとの反射強度プロファイル(Aラインプロファイル)を生成し、各Aラインプロファイルを画像化して複数のAスキャン画像データを生成し、これらAスキャン画像データをスキャンパターン(複数のスキャン点の配置)にしたがって配列する。Aラインプロファイルを生成するための上記信号処理には、ノイズリダクション(デノイジング)、フィルタリング、高速フーリエ変換(FFT)などが含まれる。他のOCT手法を用いる場合には、その手法に応じた公知のOCT画像データ構築処理が実行される。
画像構築部220は、被検眼Eの3次元領域(ボリューム)を表現した3次元画像データを構築するように構成されてもよい。3次元画像データは、3次元座標系により画素(ピクセル)の位置が定義された画像データであり、その例としてスタックデータやボリュームデータがある。スタックデータは、複数のスキャンラインに沿って得られた複数の断面像を、これらスキャンラインの位置関係にしたがって配列して得られた画像データである。ボリュームデータは、例えばスタックデータに補間処理やボクセル化処理などを適用することによって構築された、3次元的に配列されたボクセルを画素とする画像データであり、ボクセルデータとも呼ばれる。
画像構築部220は、このようにして構築されたOCT画像データから新たなOCT画像データを作成することができる。幾つかの例示的な態様において、画像構築部220は、3次元画像データにレンダリングを適用することができる。レンダリングの例として、ボリュームレンダリング、サーフェスレンダリング、最大値投影(MIP)、最小値投影(MinIP)、多断面再構成(MPR)などがある。
幾つかの例示的な態様において、画像構築部220は、3次元画像データからOCT正面画像を構築するように構成されてよい。例えば、画像構築部220は、3次元画像データをz方向(Aライン方向、深さ方向)に投影してプロジェクションデータを構築することができる。また、画像構築部220は、3次元画像データの部分データ(例えば、スラブ)からプロジェクションデータを構築することができる。この部分データは、例えば、画像セグメンテーション(単に、セグメンテーションとも呼ばれる)を用いて自動で指定され、又は、ユーザーによって手動で指定される。このセグメンテーションの手法は任意であってよく、例えば、エッジ検出等の画像処理、及び/又は、機械学習を利用したセグメンテーションを含んでいてよい。このセグメンテーションは、例えば、画像構築部220又はデータ処理部230により実行される。
眼科装置1は、OCTモーションコントラスト撮影(motion contrast imaging)を実行可能であってよい。OCTモーションコントラスト撮影は、眼内に存在する液体等の動きを抽出するイメージング技術である(例えば、特表2015-515894号公報を参照)。OCTモーションコントラスト撮影は、例えば、血管の描出を描出するためのOCTアンジオグラフィ(OCT Angiography、OCTA)に用いられる。
<データ処理部230>
データ処理部230は、被検眼Eの画像に対して特定のデータ処理を適用するように構成されている。データ処理部230は、例えば、プロセッサを含むハードウェアと、データ処理ソフトウェアとの協働によって実現される。本態様のデータ処理部230は、図4に示す平均画像生成部231を含んでいる。
まず、平均画像生成部231が実行する処理に提供される画像について説明する。本態様の眼科装置1は、異なる複数の偏光条件に対応する複数のOCTスキャンを被検眼Eに適用する。複数の偏光条件は、予め設定された単一の条件群でもよいし、予め設定された2つ以上の条件群のうちから選択された1つの条件群でもよいし、被検眼Eに対して個別に設定された条件群でもよい。
眼科装置1は、参照アームに設けられた偏光コントローラ118の制御とOCTスキャナ(OCTユニット100、光スキャナ44など)の制御とを実行することにより、異なる複数の偏光条件に対応する複数のOCTスキャンを被検眼Eに適用する。これにより、複数の偏光条件に対応する複数のデータセットが収集される。画像構築部220は、収集された複数のデータセットのそれぞれからOCT画像を構築する。これにより、複数の偏光条件に対応する複数のOCT画像が得られる。
平均画像生成部231は、このようにして取得された複数のOCT画像に平均化処理を適用する。この平均化処理により、複数のOCT画像に混入している複屈折由来アーティファクトが平均化され、複屈折由来アーティファクトが低減された画像が得られる。得られた画像を平均画像と呼ぶ。
平均化処理は、画素値の平均を算出する処理である。平均化処理に用いられる演算の種類は任意であってよい。例えば、平均化処理に用いられる平均演算は、加算平均(算出平均、相加平均、単純平均)、加重平均、幾何平均(相乗平均)、及び、対数平均のうちのいずれか1つを含んでいてよい。或いは、平均化処理に用いられる平均演算は、加算平均、加重平均、幾何平均、及び、対数平均のうちのいずれか2つ以上を含んでいてもよい。また、2つ以上の種類の平均演算を選択的に用いて平均化処理を実行するようにしてもよい。
幾つかの例示的な態様の平均画像生成部231は、平均化処理のみを実行することによって平均画像を生成するように構成されてよい。また、幾つかの例示的な態様の平均画像生成部231は、平均化処理に加えて、他の処理を実行するように構成されていてもよい。幾つかの例示的な態様において、平均画像生成部231は、平均化処理よりも前に所定の処理(前処理)を実行するように構成されていてよい。前処理の種類は任意であってよく、その例として、OCT画像間の位置合わせ(レジストレーション)、OCT画像のコントラスト補正、OCT画像のノイズリダクションなどがある。幾つかの例示的な態様において、平均画像生成部231は、平均化処理よりも後に所定の処理(後処理)を実行するように構成されていてよい。後処理の種類は任意であってよく、その例として、平均画像のコントラスト補正、平均画像のノイズリダクションなどがある。
平均化処理が加算平均処理を含む場合について説明する。加算平均以外の平均演算が実行される場合の説明は省略するが、採用される種類の平均演算の特性や特徴に応じた作用効果が奏されることは、当業者であれば理解できるであろう。
加算平均は、複数のOCT画像における複数の対応画素群(N個のOCT画像から1つずつ選択されたN個の画素からなる群)のそれぞれについて、その対応画素群を構成する複数の画素の値を加算し、得られた和の値を複数の画素の個数で除算する平均演算である。加算平均によれば、複数のOCT画像に生じたスペックルノイズを低減することができる(例えば、国際公開第2011/052131号を参照)。一般に、加算平均は、ランダムノイズの低減に寄与する。
平均化処理が加算平均処理を含む場合、平均画像生成部231は、複数の偏光条件に対応する複数のOCT画像に対して加算平均処理(より一般に、加算平均処理を含む平均化処理)を適用する。これにより、複屈折由来アーティファクト及びスペックルノイズ(より一般に、複屈折由来アーティファクト及びランダムノイズ)の双方が低減された平均画像が生成される。この平均画像を加算平均画像と呼ぶ。
<ユーザーインターフェイス240>
ユーザーインターフェイス240は表示部241と操作部242とを含む。表示部241は表示装置3を含む。操作部242は各種の操作デバイスや入力デバイスを含む。ユーザーインターフェイス240は、例えばタッチパネルのような表示機能と操作機能とが一体となったデバイスを含んでいてもよい。ユーザーインターフェイス240の少なくとも一部を含まない実施形態を構築することも可能である。例えば、表示デバイスは、眼科装置1に接続された外部装置であってよい。
<平均画像の利用方法>
平均画像生成部231により生成された平均画像は、複屈折由来アーティファクトが低減された、元のOCT画像よりも高品質の画像である。更に、加算平均画像は、複屈折由来アーティファクトに加えてスペックルノイズ(ランダムノイズ)も低減された、より高品質の画像である。平均画像の品質の高さは、観察、解析、評価などの品質向上に寄与するものであるが、平均画像の利用方法はこれらに限定されない。ここでは、平均画像の利用方法の幾つかの例を説明する。以下、加算平均画像の利用方法の幾つかの例を説明するが、他の種類の平均画像においても同様の利用が可能であることは、当業者であれば理解できるであろう。
図5は、眼科装置1により生成された加算平均画像を利用するためのシステムの例を示す。図5において、眼科装置1の構成は略示されている。
本例の眼科装置1は、前述した通信デバイスを含む通信部250を備えている。通信部250は、情報処理装置300との間でデータ通信を行う。平均画像生成部231により生成された加算平均画像は、制御部210の制御の下、通信部250によって情報処理装置300に送られる。なお、本例の眼科装置1は、通信部250の代わりに、又は、通信部250に加えて、記録媒体にデータを記録するドライブ装置を備えていてもよい。記録媒体に記録されたデータは、情報処理装置300に提供される。
情報処理装置300は、眼科装置1から提供された情報を処理する。情報処理装置300は、眼科装置1の一部であってもよいし、眼科装置1とは別の装置であってもよい。情報処理装置300は、制御部310、処理部320、及び通信部330を含む。制御部310は、情報処理装置300の各部の制御を実行する。処理部320は、情報処理を実行する。通信部330は、眼科装置1との間でデータ通信を行う。なお、情報処理装置300は、通信部330の代わりに、又は、通信部330に加えて、記録媒体からデータを読み出すドライブ装置を備えていてもよい。
眼科装置1から情報処理装置300に提供されるデータは、少なくとも1つ以上の加算平均画像を含み、加算平均画像を生成するために処理された複数の画像を更に含んでいてもよい。この複数の画像は、異なる複数の偏光条件に対応する複数のOCTスキャンを被検眼Eに適用して取得された複数のOCT画像である。1つの加算平均画像を生成するために処理された複数の画像を「元画像群」と呼ぶ。
処理部320は、図6に示すモデル構築部400を含む。モデル構築部400は、眼科装置1から提供されたデータを含む訓練データ440を用いた機械学習を実行する。これにより、眼科装置1から提供されたデータに基づき訓練された機械学習モデルが構築される。
幾つかの例示的な態様における訓練データ440は、複数の加算平均画像(加算平均画像集合)を含む(図7Aを参照)。また、幾つかの例示的な態様における訓練データ440は、加算平均画像とその元画像群とのペアの集合、換言すると、元画像群とそれに基づく加算平均画像とのペアの集合、を含む(図7Bを参照)。
図7Aの訓練データ440Aに含まれる加算平均画像集合441は、前述した要領で取得された複数の加算平均画像を含んでいる。これらの加算平均画像の全てが眼科装置1により取得されたものであってもよいし、一部のみが眼科装置1により取得されたものであってもよい。訓練データ440Aに含まれる加算平均画像にメタデータ(ラベル、タグ)が付されていてもよい。ラベルは、事前に実行されるアノテーションによって生成され、対応する加算平均画像に付与される。アノテーションは、例えば、医師、技術者、コンピュータ、及び、他の推論モデルのうちの少なくとも1つによって実行されてよい。
図7Bの訓練データ440Bに含まれる集合442(加算平均画像とその元画像群とのペアの集合442)は、前述した要領で取得された複数の加算平均画像に加えて、各加算平均画像を生成するために処理された複数のOCT画像(当該加算平均画像に対応する元画像群)を含んでいる。集合442に含まれる加算平均画像の全てが眼科装置1により取得されたものであってもよいし、一部のみが眼科装置1により取得されたものであってもよい。前述したように、加算平均画像においては、複屈折由来アーティファクトとスペックルノイズ(ランダムノイズ)とが低減されている。
訓練データ440Bに含まれるペア(加算平均画像とその元画像群とのペア)にメタデータ(ラベル、タグ)が付されていてもよい。ラベルは、事前に実行されるアノテーションによって生成され、対応するペアに付与される。このアノテーションは、例えば、元画像群からの複屈折由来アーティファクトの特定を含む。複屈折由来アーティファクト特定は、例えば、複屈折由来アーティファクトの特性に基づいて元画像群における複屈折由来アーティファクトを検出することにより実行されてよく、及び/又は、加算平均画像と元画像群とを比較して元画像群における複屈折由来アーティファクトを検出することにより実行されてよい。このようにして実行された複屈折由来アーティファクト特定により得られた情報がラベルとして、対応するペアに付与される。本例のアノテーションも、例えば、医師、技術者、コンピュータ、及び、他の推論モデルのうちの少なくとも1つによって実行されてよい。
訓練データ440Bを用いて構築された機械学習モデルは、例えば、眼のOCT画像(1つ又は複数のOCT画像)の入力を受けて複屈折由来アーティファクトに関する情報(複屈折由来アーティファクト情報)を出力するように機能する学習済みモデル(推論モデル)である。
訓練データ440Bを用いて構築された機械学習モデルから出力される複屈折由来アーティファクト情報は、入力されたOCT画像から複屈折由来アーティファクト(及びスペックルノイズ)が除去(低減)された画像であってよい。この出力画像は、眼科装置1の平均画像生成部231により実行される処理で得られる平均画像(加算平均画像)に類似したものであるから、これを疑似平均画像と呼ぶ。
モデル構築部400の学習処理部410は、このような訓練データ440Bを用いた教師あり学習をニューラルネットワーク420に適用することによって機械学習モデルを構築することができる。構築された機械学習モデルは、例えば、図8の疑似平均画像生成器500における機械学習モデル510(機械学習モデル510の少なくとも一部)として用いられる。疑似平均画像生成器500は、眼のOCT画像(群)600(1つのOCT画像、又は、2つ以上のOCT画像)の入力を受けて、複屈折由来アーティファクト及びスペックルノイズの双方が低減された疑似平均画像700を出力するように構成されている。
なお、複数の画像を加算平均してスペックルノイズを低減する処理を単一の画像で再現するための機械学習については、例えば以下に示すように、様々な手法が知られている:Dewei Hu、Joseph D. Malone、Yigit Atay、Yuankai K. Tao、and Ipek Oguz、“Retinal OCT Denoising with Pseudo-Multimodal Fusion Network”、arXiv:2107.04288v1 [eess.IV]、9 Jul 2021;及び、Jose J. Rico-Jimenez、Dewei Hu、Eric M. Tang、Ipek Oguz、and Yuankai K. Tao、“Real-time OCT image denoising using a self-fusion neural network”、Biomedical optics Express、Vol.13、Issue 3、pp.1398-1409 (2022)。しかしながら、本例のように、複数の画像を加算平均して複屈折由来アーティファクト及びスペックルノイズの双方を低減する処理を単一の画像で再現することが可能な機械学習は、新規な手法である。
疑似平均画像生成器500は、上記のような疑似平均画像生成機能に加えて、他の機能を有していてもよい。例えば、疑似平均画像生成器500は、疑似平均画像生成機能に加えて、OCT画像群600のレジストレーション、OCT画像(群)600のコントラスト補正、OCT画像(群)600のノイズリダクションなどの前処理機能、及び/又は、疑似平均画像のコントラスト補正、疑似平均画像のノイズリダクションなどの後処理機能を有していてもよい。
訓練データ440Bを用いて構築された機械学習モデルから出力される複屈折由来アーティファクト情報は、疑似平均画像に限定されない。例えば、複屈折由来アーティファクト情報は、機械学習モデルに入力されたOCT画像からの複屈折由来アーティファクトの検出結果、複屈折由来アーティファクトの属性情報、サンプルの真の構造の像と複屈折由来アーティファクトとの弁別結果(弁別情報)、及び、複屈折由来アーティファクトに関する画像セグメンテーション情報のうちの1つ以上を含んでいてよい。
複屈折由来アーティファクトの属性情報は、機械学習モデルに入力されたOCT画像中の複屈折由来アーティファクトに関する任意の性質(特徴)を表す情報であり、複屈折由来アーティファクトの位置、大きさ、形状、強さ、影響度など、複屈折由来アーティファクトに関する任意のパラメータについての情報であってよい。本例においては、訓練データ440Bは、OCT画像中の複屈折由来アーティファクトの属性に関するアノテーションで生成されたラベルを含んでおり、機械学習モデルは、OCT画像の入力を受けて属性情報を出力するように訓練され構成される。
弁別情報は、サンプルの真の構造に由来する像(構造由来像)と複屈折由来アーティファクトとを弁別する(識別する、区別する)ための処理によって得られる情報である。機械学習モデルに入力されるOCT画像は、サンプルにOCTスキャンを適用して得られた画像である。このようなOCT画像は、理想的にはサンプルの構造を表す構造由来像のみを含むものであるが、実際には複屈折由来アーティファクトなどのアーティファクトが混入していることが多い。例えば、眼にOCTスキャンを適用して得られたOCT画像は、理想的には、眼の真の構造(眼の組織、眼の部位、眼に移植された人工物など)の像である構造由来像のみを含むものであるが、実際にはアーティファクトが混入していることが多い。ここで、人工物としては、眼内レンズ(IOL)、眼内コンタクトレンズ(ICL)、低侵襲緑内障手術(MIGS)デバイスなどがある。弁別情報は、例えば、OCT画像における任意の位置(任意の画素、任意の画素群、任意の画像領域など)に関する情報であり、その位置が構造由来像に相当するものであるか、或いは、複屈折由来アーティファクトに相当するものであるかを示す情報を含んでいる。より具体的には、弁別情報は、眼のOCT画像における各画素に対して、構造由来像の画素であることを示す識別子、又は、複屈折由来アーティファクトの像の画素であることを示す識別子が割り当てられた情報(弁別リスト情報、弁別テーブル情報、弁別マップ情報など)であってよい。構造由来像の画素であることを示す識別子は、眼の組織(部位)の像であることを示す識別子と、眼に移植された人工物の像であることを示す識別子とを含んでいてもよい。また、眼の組織(部位)の像であることを示す識別子は、組織ごと(部位ごと)の識別子を含んでいてもよい。また、人工物の像であることを示す識別子は、人工物の種類ごとの識別子を含んでいてもよい。また、構造由来像の画素であることを示す識別子、及び、複屈折由来アーティファクトの像の画素であることを示す識別子のいずれとも異なる識別子を用いてもよい。その例として、弁別に失敗した画素を示す識別子、弁別結果の品質(確信度、信頼度、正確度など)を示す識別子などがある。本例においては、訓練データ440Bは、OCT画像における構造由来像と複屈折由来アーティファクトとの弁別に関するアノテーションで生成されたラベルを含んでおり、機械学習モデルは、OCT画像の入力を受けて弁別情報を出力するように訓練され構成される。
画像セグメンテーション情報は、機械学習モデルを用いて実行された画像セグメンテーションによって得られた情報を含む。画像セグメンテーションは、画像を複数のセグメント(複数の領域、複数の画素群)に分割する処理である。本態様の画像セグメンテーションに使用される手法は任意であってよく、例えば、セマンティックセグメンテーション、インスタンスセグメンテーション、パノプティックセグメンテーションなどであってよい。また、閾値処理、クラスタリング、デュアルクラスタリング、ヒストグラム、エッジ検出、リジョングローイング、偏微分方程式、変分法、グラフ分割、分水嶺(watershed)アルゴリズムなど、任意の公知のセグメンテーション法を利用又は組み合わせてもよい。本例においては、訓練データ440Bは、OCT画像の画像セグメンテーションに関するアノテーションで生成されたラベルを含んでおり、機械学習モデルは、OCT画像の入力を受けて画像セグメンテーション情報を出力するように訓練され構成される。
上記のような機械学習モデルを構築するモデル構築部400の例の詳細を説明する。モデル構築部400が実行する機械学習に用いられる訓練データ440は、平均画像(加算平均画像)を含んでいてよく、異なる複数の偏光条件に対応する複数のOCTスキャンを物体に適用して取得された複数の画像(元画像群)を含んでいてもよい。訓練データ440に含まれる画像の少なくとも一部は、実際のOCTスキャンで取得された画像そのもの(無加工画像)であってよく、及び/又は、訓練データ440に含まれる画像の少なくとも一部は、実際のOCTスキャンで取得された無加工画像に加工を施して得られた画像(加工画像)であってよい。
幾つかの例示的な態様の機械学習モデルは、サンプル(ヒト生体眼)にOCTスキャンを適用して得られたOCT画像の入力を受け、このOCT画像における複屈折由来アーティファクト情報を出力するように構成されている。前述したように、複屈折由来アーティファクト情報は、疑似平均画像、属性情報、弁別情報、画像セグメンテーション情報、又は、これら以外の情報を含んでいてよい。
図6に示すモデル構築部400は、学習処理部410とニューラルネットワーク420とを含む。
ニューラルネットワーク420は、典型的には、畳み込みニューラルネットワーク(CNN)を含む。図6の符号430は、この畳み込みニューラルネットワークの構造の一例を示している。
畳み込むニューラルネットワーク430の入力層には、画像が入力される。入力層の後ろには、畳み込み層とプーリング層とのペアが複数配置されている。図6に示す例には畳み込み層とプーリング層とのペアが3つ設けられているが、ペアの個数は任意であってよい。
畳み込み層では、画像から特徴(輪郭など)を把握するための畳み込み演算が行われる。畳み込み演算は、入力された画像に対する、この画像と同じ次元のフィルタ関数(重み係数、フィルタカーネル)の積和演算である。畳み込み層では、入力された画像の複数の部分にそれぞれ畳み込み演算を適用する。より具体的には、畳み込み層では、フィルタ関数が適用された部分画像の各ピクセルの値に、そのピクセルに対応するフィルタ関数の値(重み)を乗算して積を算出し、この部分画像の複数のピクセルにわたって積の総和を求める。このように得られた積和値は、出力される画像における対応ピクセルに代入される。フィルタ関数を適用する箇所(部分画像)を移動させながら積和演算を行うことで、入力された画像の全体についての畳み込み演算結果が得られる。このような畳み込み演算によれば、多数の重み係数を用いて様々な特徴が抽出された画像が多数得られる。つまり、平滑化画像やエッジ画像などの多数のフィルタ処理画像が得られる。畳み込み層により生成される多数の画像は特徴マップと呼ばれる。
プーリング層では、直前の畳み込み層により生成された特徴マップの圧縮(データの間引きなど)が行われる。より具体的には、プーリング層では、特徴マップ内の注目ピクセルの所定の近傍ピクセルにおける統計値を所定のピクセル間隔ごとに算出し、入力された特徴マップよりも小さな寸法の画像を出力する。なお、プーリング演算に適用される統計値は、例えば、最大値(max pooling)又は平均値(average pooling)である。また、プーリング演算に適用されるピクセル間隔は、ストライド(stride)と呼ばれる。
畳み込みニューラルネットワークは、畳み込み層とプーリング層との複数のペアによって処理を行うことにより、入力された画像から多くの特徴を抽出することができる。
畳み込み層とプーリング層との最後のペアの後ろには、全結合層が設けられている。図6に示す例においては2つの全結合層が設けられているが、全結合層の個数は任意であってよい。全結合層では、畳み込みとプーリングとの組み合わせによって圧縮された特徴量を用いて、画像分類、画像セグメンテーション、回帰などの処理を行う。最後の全結合層の後ろには、出力結果を提供する出力層が設けられている。
幾つかの例示的な態様において、畳み込みニューラルネットワークは、全結合層を含まなくてもよいし(例えば、全層畳み込みネットワーク(FCN))、及び/又は、サポートベクターマシンや再帰型ニューラルネットワーク(RNN)などを含んでいてもよい。また、ニューラルネットワーク420に対する機械学習は、転移学習を含んでいてもよい。つまり、ニューラルネットワーク420は、他の訓練データ(訓練画像)を用いた学習が既に行われてパラメータ調整が為されたニューラルネットワークを含んでいてもよい。また、モデル構築部400(学習処理部410)は、学習済みのニューラルネットワーク(ニューラルネットワーク420)にファインチューニングを適用可能に構成されてもよい。ニューラルネットワーク420は、公知のオープンソースのニューラルネットワークアーキテクチャを用いて構築されたものであってもよい。
学習処理部410は、訓練データ440を用いた機械学習をニューラルネットワーク420に適用する。ニューラルネットワーク420が畳み込みニューラルネットワークを含んでいる場合、学習処理部410によって調整されるパラメータは、例えば、畳み込み層のフィルタ係数と、全結合層の結合重み及びオフセットとを含む。
訓練データ440に含まれる画像の種類は、平均画像や、元画像群(異なる複数の偏光条件に対応する複数のOCTスキャンを物体に適用して取得された複数の画像)に限定されない。例えば、訓練データ440は、任意の種類のOCT画像、他の眼科モダリティ(眼底カメラ、スリットランプ顕微鏡、SLO、手術用顕微鏡など)により取得された画像、任意の診療科の画像診断モダリティ(超音波診断装置、X線診断装置、X線CT装置、磁気共鳴イメージング(MRI)装置など)により取得された画像、実際の眼の画像を加工して作成された画像(加工画像データ)、コンピュータにより生成された画像、擬似的な画像、及び、これら以外の任意の画像のうちのいずれかを含んでいてもよい。また、データ拡張(データオーギュメンテーション)などの技術を利用して、訓練データ440に含まれるデータの個数を増加させてもよい。
本態様で使用される機械学習の手法は、例えば教師あり学習であるが、これに限定されるものではない。幾つかの例示的な態様では、教師あり学習に加えて、又は、教師あり学習に代えて、教師なし学習、強化学習、半教師あり学習、トランスダクション、マルチタスク学習など、任意の公知の手法を利用することができる。
ニューラルネットワーク2312の特定のユニットに処理が集中することを避けるために、学習処理部410は、ニューラルネットワーク420の幾つかのユニットをランダムに選んで無効化し、残りのユニットを用いて学習を行ってもよい(ドロップアウト)。
本態様で使用される機械学習の手法は、ここに示した例に限定されない。幾つかの例示的な態様では、サポートベクターマシン、ベイズ分類器、ブースティング、k平均法、カーネル密度推定、主成分分析、独立成分分析、自己組織化写像、ランダムフォレスト、敵対的生成ネットワーク(GAN)など、任意の公知の手法を、推論モデルを構築するために利用することが可能である。
<OCTスキャンの態様>
実施形態は、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して取得された複数のOCT画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成するように構成されている。複数のOCT画像を取得するために実行されるOCTスキャンの態様は任意である。
例えば、本態様の眼科装置1は、偏光コントローラ118の制御とOCTスキャナ(OCTユニット100、光スキャナ44など)の制御との組み合わせ制御を主制御部211により実行することによって、異なる複数の偏光条件に対応する複数のOCTスキャンを被検眼Eに適用する。これにより、異なる複数の偏光条件に対応する複数のOCT画像が得られる。本態様の上記組み合わせ制御のような偏光変調器の制御とOCTスキャナの制御との組み合わせ制御により実行されるOCTスキャンモードを偏光変調OCTスキャンと呼ぶ。
幾つかの例示的な態様において、偏光変調OCTスキャンと他のOCTスキャンモードとを組み合わせることができる。例えば、サンプルのデータを冗長的に収集するために一連のOCTスキャンを実行するOCTスキャンモード(冗長的OCTスキャンと呼ぶ)を、偏光変調OCTスキャンに組み合わせることができる。冗長的OCTスキャンは、サンプルにおける1つ以上の箇所に対するOCTスキャンを複数回実行するOCTスキャンモードである。換言すると、冗長的OCTスキャンは、サンプルにおける1つ以上の箇所からのデータ収集を複数回実行するOCTスキャンモードである。
冗長的OCTスキャンの1つの例として、特開2021-040854号公報などに記載されたリサジュースキャン(Lissajous scan)がある。リサジュースキャンは、サイクル同士が交差する位置からのデータ収集を冗長的に行うことによって、サンプルの運動に起因するアーティファクト(モーションアーティファクト)の補正を可能にするOCTスキャンモードである。
リサジュースキャンのように、交点を有するパターンにしたがってスキャンを実行するOCTスキャンモードでは、交点に相当する複数の画像領域(交差領域)のレジストレーションを行う際にこれらの画像領域の加算平均を求めるため、スペックルノイズが低減される。
このようなリサジュースキャンに偏光変調OCTスキャンを組み合わせることによって、交点に相当する複数の画像領域のスペックルノイズ及び複屈折由来アーティファクトの双方を低減することが可能になる。例えば、サイクルごとに偏光条件を切り替えることにより、サイクル間の交差領域におけるスペックルノイズ及び複屈折由来アーティファクトの双方を低減することができる。これにより、交差領域を利用したモーションアーティファクト補正の品質向上を図ることが可能になり、リサジュースキャンで構築される画像の品質向上を図ることが可能になる。なお、全てのサイクルに対して偏光条件の切り替えを適用してもよいし、一部のサイクルのみに対して偏光条件の切り替えを適用してもよい。
以上に説明したように、リサジュースキャンと偏光変調OCTスキャンとを組み合わせた本例のOCTスキャンモードにおいては、サンプルのデータを冗長的に収集するための一連のスキャン(リサジュースキャン)として、互いに交差する複数のサイクルに基づく一連のスキャンが実行される。すなわち、リサジュースキャンとして実行される一連のOCTスキャンは、互いに交差する複数の部分パターン(複数のサイクル)を含むスキャンパターン(リサジューパターン)に基づいてサンプルのデータを冗長的に収集するものである。なお、リサジューパターンは、互いに直交する2つの単振動を合成して得られるリサジュー曲線として生成される2次元パターンである。
更に、本例のOCTスキャンモードでは、このようなリサジュースキャンと並行して、異なる複数の偏光条件に対応する複数のOCTスキャン(偏光変調OCTスキャン)が実行される。ここで、偏光変調OCTスキャンにおける複数のOCTスキャンは、リサジュースキャンにおける一連のスキャンに含まれている。すなわち、本例のOCTスキャンモードでは、リサジュースキャンにおける全てのサイクルに対して偏光変調OCTスキャンにおける偏光条件の切り替えを適用してもよいし、リサジュースキャンにおける一部のサイクルのみに対して偏光変調OCTスキャンにおける偏光条件の切り替えを適用してもよい。
互いに交差する複数の部分パターンを含むスキャンパターンに基づいてサンプルのデータを冗長的に収集するように実行される一連のOCTスキャンは、互いに交差する複数のサイクルを含むリサジューパターンに基づいてサンプルのデータを冗長的に収集するように実行されるリサジュースキャンに限定されない。
冗長的OCTスキャンの他の例として、特開2020-049147号公報などに記載されたOCTアンジオグラフィ(OCTA)がある。OCTアンジオグラフィは、モーションコントラスト撮影(motion contrast imaging)技術を利用した血管造影法であり、サンプルの同じ領域を目標としたOCTスキャンを複数回実行して複数のOCT画像を取得し、取得された複数のOCT画像の間においてスキャン時間間隔内において変化する成分(差分、信号強度の変化、位相の変化)を抽出することによって画像を生成する。複数のOCT画像の間において、眼組織などの静的な構造物は極めて微小な変化のみを呈する一方、血管内の赤血球などの動的な構造物は大きな変化を呈するため、或る一定の閾値以上の大きさの変化信号を画像化することで、血流成分を選択的に描出することが可能になる。
OCTアンジオグラフィのように、サンプルの同じ領域を目標としたOCTスキャンを複数回実行するOCTスキャンモードにおいては、複数回のOCTスキャンに対応する複数のOCT画像の加算平均を求めてスペックルノイズを低減することができる。
このようなOCTアンジオグラフィに偏光変調OCTスキャンを組み合わせることによって、スペックルノイズだけでなく複屈折由来アーティファクトも低減することが可能になる。例えば、OCTアンジオグラフィにおいてサンプルの同じ領域に対してOCTスキャンを4回実行する場合、所定方向に対する角度が第1の角度(例えば0度)、第2の角度(例えば45度)、第3の角度(例えば90度)、及び第4の角度(例えば135度)となる4つの偏光条件を、それぞれ、第1回目、第2回目、第3回目、及び第4回目のOCTスキャンに適用する。このようにして得られた、4つの偏光条件に対応する4つのOCT画像を加算平均することで、スペックルノイズ及び複屈折由来アーティファクトの双方が低減された画像を生成することができる。
以上に説明したように、OCTアンジオグラフィと偏光変調OCTスキャンとを組み合わせた本例のOCTスキャンモードにおいては、サンプルのデータを冗長的に収集するための一連のスキャン(OCTアンジオグラフィ)として、サンプルの同じ領域を目標とした複数のOCTスキャンが実行される。サンプルの同じ領域を目標とした複数のOCTスキャンのそれぞれのOCTスキャンは、予め決められたスキャンパターンで実行される。このスキャンパターンは、例えば、ラスタースキャンなどの3次元スキャン(ボリュームスキャン)である。すなわち、OCTアンジオグラフィとして実行される一連のOCTスキャンは、所定のスキャンパターン(ラスタースキャンなど)に基づくOCTスキャンをサンプルの同じ領域を目標として複数回適用することによってサンプルのデータを冗長的に収集するものである。
更に、本例のOCTスキャンモードでは、このようなOCTアンジオグラフィと並行して、異なる複数の偏光条件に対応する複数のOCTスキャン(偏光変調OCTスキャン)が実行される。ここで、偏光変調OCTスキャンにおける複数のOCTスキャンは、OCTアンジオグラフィにおける一連のスキャンに含まれている。すなわち、本例のOCTスキャンモードでは、OCTアンジオグラフィにおける全てのOCTスキャン(例えば、ラスタースキャンにおける全てのBスキャン)に対して偏光変調OCTスキャンにおける偏光条件の切り替えを適用してもよいし、OCTアンジオグラフィにおける一部のOCTスキャンのみに対して偏光変調OCTスキャンにおける偏光条件の切り替えを適用してもよい。
OCTアンジオグラフィと偏光変調OCTスキャンとを組み合わせたOCTスキャン(複合OCTスキャンと呼ぶ)について、幾つかの応用例を説明する。これらの応用例に係る処理は眼科分野に関するものであるが、同様の処理を他の分野に応用することも可能である。また、これらの応用例に係る処理は特定の眼組織を対象としたものであるが、他の眼組織に対して同様の処理を応用することや、眼組織以外の生体組織に対して同様の処理を応用することも可能である。複合OCTスキャンには、OCTアンジオグラフィと偏光変調OCTスキャンとを別々に行う場合よりも手間や時間を省くことができるという利点に加え、応用例ごとの利点もある。
第1の応用例を説明する。本例は、被検眼Eの強膜血管解析を行うために複合OCTスキャンを利用するものである。本例の処理の流れを図9に示す。本例において、眼科装置1は、まず、被検眼Eに複合OCTスキャンを適用する(S1)。複合OCTスキャンでは、OCTアンジオグラフィと偏光変調OCTスキャンとが並行して実行される。
眼科装置1(及び/又は情報処理装置300)は、ステップS1の複合OCTスキャンで被検眼Eから収集されたデータセットに基づいて、加算平均画像を生成し(S2)、OCTA画像を生成し(S3)、強膜血管像を検出する(S4)。加算平均画像は、平均画像生成部231により生成される。OCTA画像は、公知のOCTアンジオグラフィ技術を用いて生成される。強膜血管像は、被検眼Eの強膜血管に由来する像(強膜血管の構造由来像)であり、例えば、前述した弁別情報又は画像セグメンテーション情報として求められる。なお、ステップS4で得られる強膜血管像には、脈絡膜血管像などが混入している可能性がある。
次に、眼科装置1(及び/又は情報処理装置300)は、ステップS2で生成された加算平均画像とステップS3で生成されたOCTA画像とに基づいて脈絡膜-強膜境界(CSI)を検出する(S5)。脈絡膜-強膜境界の検出は、例えば、高密度の血管網を有する脈絡膜のOCTA信号の強度の高さを利用することによって実行される。より具体的には、ステップS3で生成されたOCTA画像を用いて脈絡膜領域(脈絡膜に相当する画像領域)と強膜領域(強膜に相当する画像領域)とを弁別することによって当該OCTA画像における脈絡膜-強膜境界を特定し、このOCTA画像中の脈絡膜-強膜境界に対応する加算平均画像中の領域を特定する。これにより、加算平均画像における脈絡膜-強膜境界が検出される。なお、加算平均画像及びOCTA画像はともに、ステップS1の複合OCTスキャンで被検眼Eから収集されたデータセットに基づき生成されたものであるから、加算平均画像における位置(座標)とOCTA画像における位置(座標)との間には自明な対応関係がある。この自明な対応関係を利用して、OCTA画像中の脈絡膜-強膜境界に対応する加算平均画像中の領域を特定することができる。
次に、眼科装置1(及び/又は情報処理装置300)は、ステップS4で検出された強膜血管像と、ステップS5で検出された脈絡膜-強膜境界とに基づいて、強膜血管解析を行う(S6)。ステップS6では、まず、ステップS5で検出された脈絡膜-強膜境界を用いて、ステップS4で検出された強膜血管像から脈絡膜血管像などが除外される。これにより、ステップS4で検出された強膜血管像から、真に強膜血管に由来する像(補正強膜血管像)が抽出される。更に、ステップS6では、補正強膜血管像に基づいて強膜血管解析が実行される。強膜血管解析は、強膜血管に関する任意の解析処理であってよく、例えば、強膜血管の形態の定量解析であってよい。強膜血管の定量的形態解析のパラメータとしては、強膜血管の太さ、密度、曲率、蛇行度などがある。
このような第1の応用例によれば、OCTアンジオグラフィと偏光変調OCTスキャンとを組み合わせた複合OCTスキャンを採用したことにより、真に強膜血管に由来する像(補正強膜血管像)を対象として強膜血管解析を行うことが可能になる。しかも、複屈折由来アーティファクト及びスペックルノイズが低減された高品質なOCT画像(加算平均画像)を利用することで、強膜血管解析の品質(正確度、確度、再現性など)の向上を図ることが可能になる。
第2の応用例を説明する。本例は、被検眼Eの強膜の正面画像(enface slice)を表示するために複合OCTスキャンを利用するものである。本例の処理の流れを図10に示す。本例において、眼科装置1は、まず、被検眼Eに複合OCTスキャンを適用する(S11)。複合OCTスキャンでは、OCTアンジオグラフィと偏光変調OCTスキャンとが並行して実行される。
眼科装置1(及び/又は情報処理装置300)は、ステップS11の複合OCTスキャンで被検眼Eから収集されたデータセットに基づいて、加算平均画像を生成し(S12)、OCTA画像を生成する(S13)。加算平均画像は、平均画像生成部231により生成される。OCTA画像は、公知のOCTアンジオグラフィ技術を用いて生成される。
次に、眼科装置1(及び/又は情報処理装置300)は、ステップS12で生成された加算平均画像とステップS13で生成されたOCTA画像とに基づいて脈絡膜-強膜境界(CSI)を検出する(S14)。脈絡膜-強膜境界の検出は、第1の応用例のステップS5と同じ要領で実行されてよい。
次に、眼科装置1(及び/又は情報処理装置300)は、ステップS12で生成された加算平均画像と、ステップS14で検出された脈絡膜-強膜境界とに基づいて、強膜正面画像を生成して表示する(S15)。ステップS15では、まず、ステップS14で検出された脈絡膜-強膜境界に基づいて、ステップS12で生成された加算平均画像において強膜に相当する画像領域(強膜領域)が特定される。更に、ステップS15では、特定された強膜領域の部分領域(スラブ)にプロジェクションを適用することによって、強膜正面画像が生成される。生成された強膜正面画像は表示部241又は他の表示デバイスに表示される。スラブは、自動又は手動で設定される。設定されるスラブの個数は任意であってよく、生成及び表示される強膜正面画像の個数も任意であってよい。表示された強膜正面画像は、強膜観察や強膜解析(強膜血管解析など)のために使用される。
このような第2の応用例によれば、OCTアンジオグラフィと偏光変調OCTスキャンとを組み合わせた複合OCTスキャンを採用したことにより、真に強膜に由来する像(強膜の構造由来像)を提供することが可能になる。しかも、複屈折由来アーティファクト及びスペックルノイズが低減された高品質なOCT画像(加算平均画像)を利用することで、提供される強膜の構造由来像の品質の向上を図ることが可能になる。
OCTアンジオグラフィと偏光変調OCTスキャンとを組み合わせた複合OCTスキャンで収集されたデータセットに基づいて生成される情報は、上記のものに限定されない。例えば、複合OCTスキャンにおける偏光変調OCTスキャンで取得された、偏光方向が互いに直交する2つの画像に基づいて、偏光非感受画像(polarization-independent image)を生成することができる。偏光非感受画像の生成方法は公知であり、例えば、上記の非特許文献1における数式(5)を参照されたい。このようにして生成された偏光非感受画像を、例えば、第1の応用例における加算平均画像の代わりに又はそれに加えて使用することができ、また、第2の応用例における加算平均画像の代わりに又はそれに加えて使用することができる。
所定のスキャンパターンに基づくOCTスキャンをサンプルの同じ領域を目標として複数回適用することによってサンプルのデータを冗長的に収集するように実行される一連のOCTスキャンは、OCTアンジオグラフィに限定されない。
例えば、従来はスペックルノイズの低減を目的として行われていた(つまり、従来は複屈折由来アーティファクトに着目することなく行われていた)、アベレージングのための反復的OCTスキャンに対して、偏光変調OCTスキャンを組み合わせてもよい。
また、特開2020-048825号公報などに記載されたパノラマOCTスキャン(モンタージュOCTスキャン)に偏光変調OCTスキャンを組み合わせることによって、パノラマOCTスキャンで得られた隣接OCT画像の間の重畳領域(糊代)における複屈折由来アーティファクト及びスペックルノイズの双方を低減することができる。
<眼科装置の動作>
眼科装置1の動作について幾つかの例を説明する。
<第1の動作例>
図11を参照して眼科装置1の動作の第1の例を説明する。
患者IDの入力、アライメント、フォーカス調整などのスキャン準備動作は、既に行われたものとする。また、偏光変調OCTスキャンを行うための眼科装置1の動作モードが指定される。偏光変調OCTスキャンでは、異なる複数の偏光条件に対応する複数回のOCTスキャンが被検眼Eに適用される。複数の偏光条件は、予め設定された単一の条件群でもよいし、予め設定された2つ以上の条件群のうちから選択された1つの条件群でもよいし、被検眼Eに対して個別に設定された条件群でもよい。
(S21:被検眼の複数のOCT画像を取得する)
眼科装置1は、上記の動作モードにしたがって偏光コントローラ118の制御とOCTスキャナ(OCTユニット100、光スキャナ44など)の制御とを実行することにより、異なる複数の偏光条件に対応する複数回のOCTスキャンを被検眼Eに適用して複数のOCT画像を構築する。
ステップS21で実行されるOCTスキャンは、偏光変調OCTスキャンであってもよいし、偏光変調OCTスキャンに他のOCTスキャンモードを組み合わせたOCTスキャンであってもよい。偏光変調OCTスキャンに組み合わせることが可能なOCTスキャンモードの種類については、その幾つかの例が上記されているが、これらに限定されるものではない。
(S22:複屈折由来アーティファクトが低減された画像を生成する)
次に、眼科装置1の平均画像生成部231は、ステップS21で取得された複数のOCT画像に所定の平均化処理を適用することによって、複屈折由来アーティファクトが低減された画像(平均画像)を生成する。
ステップS22で実行される平均化処理の種類は任意であってよく、例えば加算平均であってよい。平均化処理が加算平均処理を含んでいる場合、ステップS22で生成される画像は、複屈折由来アーティファクト及びスペックルノイズの双方が低減された平均画像(加算平均画像)である。
<第2の動作例>
図12を参照して眼科装置1の動作の第2の例を説明する。スキャン準備動作や動作モード指定については、第1の動作例と同様であってよい。
(S31:被検眼の複数のOCT画像を取得する)
第1の動作例のステップS21と同じ要領で、眼科装置1は、異なる複数の偏光条件に対応する、被検眼Eの複数のOCT画像を構築する。ステップS31で実行されるOCTスキャンの種類についても、第1の動作例のステップS21と同様であってよい。
(S32:複屈折由来アーティファクトが低減された画像を生成する)
次に、第1の動作例のステップS22と同じ要領で、眼科装置1の平均画像生成部231は、ステップS31で取得された複数のOCT画像に所定の平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する。本例で生成される画像は、複屈折由来アーティファクト及びスペックルノイズの双方が低減された加算平均画像であるとする。
(S33:訓練データを準備する)
次に、機械学習モデルを構築するための機械学習に用いられる訓練データが準備される。訓練データは、異なる複数の偏光条件に対応する複数のOCTスキャンを物体に適用して取得された複数のOCT画像を含んでいる。
特に、本例の訓練データは、ステップS32で生成された加算平均画像を含んでいる。更に、本例の訓練データは、ステップS32で生成された加算平均画像と、その元画像群(ステップS31で取得された複数のOCT画像)とのペアを含んでいる。
ステップS31及びS32は、眼科装置1及び他の眼科装置によって複数回実行され、それにより得られた複数の加算平均画像及び複数の元画像群が、訓練データの作成に提供される。
これにより、本例で準備される訓練データは、異なる複数の偏光条件に対応する複数のOCT画像(元画像群)と、当該複数の画像に基づく加算平均画像とのペアを、複数個含むものとなる。すなわち、本例で準備される訓練データは、異なる複数の偏光条件に対応する複数のOCT画像(元画像群)と当該複数の画像に基づく加算平均画像とのペアの集合を含むものとなる。
なお、訓練データに含まれる画像の種類は任意であってよく、前述したように、OCTスキャンで取得された眼の画像、OCT以外のモダリティで取得された眼の画像、眼の画像を加工して作成された画像、コンピュータグラフィクスで生成された画像、データ拡張で生成された画像、擬似的な画像などを含んでいてもよい。
その他、訓練データ、機械学習、機械学習モデルなどについて本開示で説明した任意の事項を本例に適用することが可能である。また、訓練データ、機械学習、機械学習モデルなどに関する任意の公知の事項を本例に適用することも可能である。
(S34:機械学習モデルを生成する)
次に、例えばモデル構築部400(処理部320)は、ステップS33で取得された訓練データを用いた機械学習をニューラルネットワークに適用することによって機械学習モデルを生成する。この機械学習モデルは、OCT画像の入力を受け、複屈折由来アーティファクト及びスペックルノイズの双方が低減された画像を出力する。機械学習モデルに入力されるOCT画像の個数は任意であり、1つ又は2つ以上であってよい。
ステップS34で生成された機械学習モデルは、眼科装置や情報処理装置に提供され、例えば図8の疑似平均画像生成器500として用いられる。
<効果>
本態様の幾つかの効果について説明する。
本態様によれば、異なる複数の偏光条件に対応する複数のOCTスキャンをサンプル(眼)に適用して複数のOCT画像を取得し、取得された複数のOCT画像に平均化処理を適用することによって複屈折由来アーティファクトが低減された平均画像を生成することができる。
このように、本態様は、偏光分離検出機能を持たないOCTモダリティ(眼科装置1)で取得された画像から複屈折由来アーティファクトが低減された画像を生成するための新たな技術を提供するものである。
本態様において説明した様々な事項は、複屈折由来アーティファクト低減画像生成機能の向上を図るための様々な例、生成された複屈折由来アーティファクト低減画像の応用の様々な例、異なる複数の偏光条件に対応する複数のOCTスキャン(偏光変調OCTスキャン)の様々な例、などを提供するものである。
<プログラム及び記録媒体>
上記の態様に係る画像処理装置(眼科装置1)により実現されるOCT画像処理方法をコンピュータに実行させるプログラムを構成することができる。このプログラムに対して、上記の態様において説明した任意の事項を組み合わせることができる。
また、このようなプログラムを記録したコンピュータ可読な非一時的記録媒体を作成することが可能である。このプログラムに対して、上記の態様において説明した任意の事項を組み合わせることができる。非一時的記録媒体は任意の形態であってよく、その例として、磁気ディスク、光ディスク、光磁気ディスク、半導体メモリなどがある。
本開示において説明した実施形態及びその態様は例示に過ぎない。本開示に係る発明を実施しようとする者は、この発明の要旨の範囲内において任意の変形(省略、置換、付加等)を施すことが可能である。
1 眼科装置
44 光スキャナ
100 OCTユニット
230 データ処理部
231 平均画像生成部

Claims (11)

  1. 光コヒーレンストモグラフィ(OCT)画像を処理する方法であって、
    異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して複数の画像を取得し、
    前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する、
    方法。
  2. 前記平均化処理は、加算平均処理を含み、
    前記加算平均処理を含む前記平均化処理を前記複数の偏光条件に対応する前記複数の画像に適用することによって、前記複屈折由来アーティファクト及びスペックルノイズの双方が低減された加算平均画像を生成する、
    請求項1の方法。
  3. 前記加算平均画像を含む訓練データを用いた機械学習を実行して機械学習モデルを生成する、
    請求項2の方法。
  4. 前記訓練データは、異なる複数の偏光条件に対応する複数の画像と当該複数の画像に基づく加算平均画像とのペアの集合を含む、
    請求項3の方法。
  5. 前記訓練データを用いた機械学習により生成される機械学習モデルは、1つ以上のOCT画像の入力を受け、複屈折由来アーティファクト及びスペックルノイズの双方が低減された画像を出力する、
    請求項4の方法。
  6. 前記複数の偏光条件に対応する前記複数のOCTスキャンは、前記サンプルのデータを冗長的に収集するための一連のOCTスキャンに含まれる、
    請求項1の方法。
  7. 前記一連のOCTスキャンは、互いに交差する複数の部分パターンを含む第1のスキャンパターンに基づいて前記サンプルのデータを冗長的に収集する、
    請求項6の方法。
  8. 前記一連のOCTスキャンは、第2のスキャンパターンに基づくOCTスキャンを前記サンプルの同じ領域を目標として複数回適用することによって前記サンプルのデータを冗長的に収集する、
    請求項6の方法。
  9. 光コヒーレンストモグラフィ(OCT)画像を処理する装置であって、
    異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する画像取得部と、
    前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する処理部と
    を含む、
    装置。
  10. 光コヒーレンストモグラフィ(OCT)画像を処理するためのプログラムであって、
    コンピュータに、
    異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する工程と、
    前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する工程と
    を実行させる、プログラム。
  11. 光コヒーレンストモグラフィ(OCT)画像を処理するためのプログラムが記録された、コンピュータ可読な非一時的記録媒体であって、
    前記プログラムは、コンピュータに、
    異なる複数の偏光条件に対応する複数のOCTスキャンをサンプルに適用して生成された複数の画像を取得する工程と、
    前記複数の偏光条件に対応する前記複数の画像に平均化処理を適用することによって、複屈折由来アーティファクトが低減された平均画像を生成する工程と
    を実行させる、記録媒体。

JP2022100776A 2022-06-23 2022-06-23 画像処理方法、画像処理装置、プログラム、及び記録媒体 Pending JP2024001913A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022100776A JP2024001913A (ja) 2022-06-23 2022-06-23 画像処理方法、画像処理装置、プログラム、及び記録媒体
US18/212,212 US20230419451A1 (en) 2022-06-23 2023-06-21 Image processing method, image processing apparatus, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022100776A JP2024001913A (ja) 2022-06-23 2022-06-23 画像処理方法、画像処理装置、プログラム、及び記録媒体

Publications (1)

Publication Number Publication Date
JP2024001913A true JP2024001913A (ja) 2024-01-11

Family

ID=89323227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022100776A Pending JP2024001913A (ja) 2022-06-23 2022-06-23 画像処理方法、画像処理装置、プログラム、及び記録媒体

Country Status (2)

Country Link
US (1) US20230419451A1 (ja)
JP (1) JP2024001913A (ja)

Also Published As

Publication number Publication date
US20230419451A1 (en) 2023-12-28

Similar Documents

Publication Publication Date Title
JP7229881B2 (ja) 医用画像処理装置、学習済モデル、医用画像処理方法及びプログラム
JP7250653B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7269413B2 (ja) 医用画像処理装置、医用画像処理システム、医用画像処理方法及びプログラム
JP7478216B2 (ja) 眼科装置、眼科装置の制御方法、及びプログラム
JP7362403B2 (ja) 画像処理装置および画像処理方法
JP7368568B2 (ja) 眼科装置
JP2016054786A (ja) 眼科装置及び眼科装置の作動方法
WO2020075719A1 (ja) 画像処理装置、画像処理方法及びプログラム
JP7348374B2 (ja) 眼科情報処理装置、眼科撮影装置、眼科情報処理方法、及びプログラム
JP7384987B2 (ja) 眼科装置
JP2019054992A (ja) 眼科装置及びプログラム
JP7220509B2 (ja) 眼科装置及び眼科画像処理方法
WO2020050308A1 (ja) 画像処理装置、画像処理方法及びプログラム
JP7378557B2 (ja) 眼科撮影装置、その制御方法、プログラム、及び記録媒体
JP7215862B2 (ja) 眼科撮影装置、その制御方法、プログラム、及び記録媒体
WO2022145129A1 (ja) 眼科情報処理装置、眼科装置、眼科情報処理方法、及びプログラム
CN112638234A (zh) 图像处理装置、图像处理方法和程序
JP6882242B2 (ja) 眼科装置およびその制御方法
US20230419451A1 (en) Image processing method, image processing apparatus, and recording medium
JP2022132898A (ja) 眼科データ処理方法、眼科データ処理装置、その制御方法、眼科検査装置、その制御方法、プログラム、及び記録媒体
JP2024003982A (ja) 画像処理方法、画像処理装置、プログラム、及び記録媒体
JP2020031873A (ja) 眼科装置、その制御方法、プログラム、及び記録媒体
JP2024008246A (ja) 画像処理方法、画像処理装置、プログラム、及び記録媒体
JP2024004792A (ja) 画像処理方法、画像処理装置、プログラム、及び記録媒体
JP7355331B2 (ja) 走査型イメージング装置、その制御方法、画像処理装置、その制御方法、走査型イメージング方法、画像処理方法、プログラム、及び記録媒体