JP2019047841A - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP2019047841A
JP2019047841A JP2017172336A JP2017172336A JP2019047841A JP 2019047841 A JP2019047841 A JP 2019047841A JP 2017172336 A JP2017172336 A JP 2017172336A JP 2017172336 A JP2017172336 A JP 2017172336A JP 2019047841 A JP2019047841 A JP 2019047841A
Authority
JP
Japan
Prior art keywords
region
image
tomographic image
dimensional tomographic
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017172336A
Other languages
English (en)
Other versions
JP2019047841A5 (ja
Inventor
好彦 岩瀬
Yoshihiko Iwase
好彦 岩瀬
治 嵯峨野
Osamu Sagano
治 嵯峨野
佐藤 眞
Makoto Sato
眞 佐藤
弘樹 内田
Hiroki Uchida
弘樹 内田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017172336A priority Critical patent/JP2019047841A/ja
Priority to US16/122,471 priority patent/US10803568B2/en
Priority to EP18192978.7A priority patent/EP3453315B1/en
Publication of JP2019047841A publication Critical patent/JP2019047841A/ja
Publication of JP2019047841A5 publication Critical patent/JP2019047841A5/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/102Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for optical coherence tomography [OCT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10101Optical tomography; Optical coherence tomography [OCT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging

Abstract

【課題】 高画質な断層画像を生成する画像処理装置を提供する。【解決手段】 第一の2次元断層像の水平方向において互いに一部の領域が重複する第一の領域と第二の領域とを前記第一の2次元断層像に対して設定し、前記第一の領域と前記第二の領域とのそれぞれにおいて、前記第一の2次元断層像と第二の2次元断層像とのズレ量を取得し、前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量とに基づいて決定する。【選択図】 図1

Description

開示の技術は、画像処理装置、位置合わせ方法及びプログラムに関する。
光干渉断層計(OCT;Optical Coherence Tomography)で得られる複数の2次元の断層画像から加算平均画像またはOCTA(OCT Angiography)画像を生成することが可能である。被検眼は動くため、加算平均画像またはOCTA画像を生成するためには、複数の2次元の断層画像の位置合わせを行うことが求められる。
特許文献1は、精度良く位置合わせを行うために、断層画像を水平方向に複数の領域に分割し、領域毎に断層画像間のズレ量を求めて位置合わせを行うことを開示している。
特開2010−110392号公報
しかし、水平方向に分割された複数の領域のうち特徴的な部分が含まれない領域では、たとえ隣接する領域に特徴的な部分が含まれていたとしても位置合わせの精度が低下する場合があった。
開示の技術は上記課題に鑑みてなされたものであり、断層画像の位置合わせの精度を向上させることを目的とする。
なお、前記目的に限らず、後述する発明を実施するための形態に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本件の他の目的の1つとして位置付けることができる。
開示の画像処理装置は、眼の同一位置を走査するように制御された測定光に基づいて得られた第一の2次元断層像と第二の2次元断層像とを取得する第一取得手段と、前記第一の2次元断層像の水平方向において互いに一部の領域が重複する第一の領域と第二の領域とを前記第一の2次元断層像に対して設定する設定手段と、前記第一の領域と前記第二の領域とのそれぞれにおいて、前記第一の2次元断層像と前記第二の2次元断層像とのズレ量を取得する第二取得手段と、前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量とに基づいて決定する決定手段と、を備える。
開示の技術によれば、高速で正確な位置合わせを行い、高画質な断層画像を得る事ができる。
画像処理システムの構成の一例を示す図。 眼部の構造と断層画像と眼底画像を説明するための図。 画像処理システムにおける処理の流れの一例を示すフローチャート。 大局位置合わせ処理の流れの一例を示すフローチャート。 局所位置合わせ処理の流れの一例を示すフローチャート。 投影像の一例を説明するための図。 ライン投影像位置合わせの一例を説明するための図。 境界線位置合わせの一例を説明するための図。 基準画像選択の一例を説明するための図。 位置合わせと画像選択を説明するための図。 大局位置合わせによる画像変形の一例を説明するための図。 局所位置合わせの一例を説明するための図。 局所位置合わせの一例を説明するための図。 大局位置合わせの一例を説明するための図。
[実施例1]
以下、図面を参照しながら、本発明の第一の実施形態について説明する。なお、本実施形態に係る画像処理装置は、ノイズを低減した2次元断層画像を生成するにあたり、高速で正確に複数の断層画像の位置合わせをすると共に、加算平均を行うために位置合わせの基準となる断層画像を適切に選択することを特徴としている。なお、以降の実施例に示す数値は例示であり、開示の数値に限定されるものではない。
本実施形態によれば、固視微動などにより、2次元断層画像内の網膜層が変形している場合においても高画質な2次元断層画像を取得することが可能となる。ここで、高画質とは一度の撮影と比較してS/N比が向上している画像をいう。または、診断に必要な情報量が増えている画像のことをいう。
以下、本実施形態に係る画像処理装置を備える画像処理システムについて、詳細を説明する。
図1は、本実施形態に係る画像処理装置300を備える画像処理システム100の構成を示す図である。図1に示すように、画像処理システム100は、画像処理装置300が、インタフェースを介して断層画像撮影装置(OCTとも言う)200、眼底画像撮影装置400、外部記憶部500、表示部600、入力部700と接続されることにより構成されている。
断層画像撮影装置200は、眼部の断層画像を撮影する装置である。断層画像撮影装置に用いる装置は、例えばSD−OCTやSS−OCTからなる。なお、断層画像撮影装置200は既知の装置であるため詳細な説明は省略し、ここでは、画像処理装置300からの指示により行われる断層画像の撮影について説明を行う。
図1において、ガルバノミラー201は、測定光の眼底における走査を行うためのものであり、OCTによる眼底の撮影範囲を規定する。また、駆動制御部202は、ガルバノミラー201の駆動範囲及び速度を制御することで、眼底における平面方向の撮影範囲及び走査線数(平面方向の走査速度)を規定する。ここでは、簡単のためガルバノミラーは一つのユニットとして示したが、実際にはXスキャン用のミラーとYスキャン用の2枚のミラーで構成され、眼底上で所望の範囲を測定光で走査できる。
フォーカス203は被検体である眼の前眼部を介し、眼底の網膜層にフォーカスするためのものである。測定光は、非図示のフォーカスレンズにより、被検体である眼の前眼部を介し、眼底の網膜層にフォーカスされる。眼底を照射した測定光は各網膜層で反射・散乱して戻る。
内部固視灯204は、表示部241、レンズ242で構成される。表示部241として複数の発光ダイオード(LED)がマトリックス状に配置されたものを用いる。発光ダイオードの点灯位置は、駆動制御部202の制御により撮影したい部位に合わせて変更される。表示部241からの光は、レンズ242を介し、被検眼に導かれる。表示部241から出射される光は520nmで、駆動制御部202により所望のパターンが表示される。
コヒーレンスゲートステージ205は、被検眼の眼軸長の相違等に対応するため、駆動制御部202により制御されている。コヒーレンスゲートとは、OCTにおける測定光と参照光の光学距離が等しい位置を表す。さらには、撮影方法としてコヒーレンスゲートの位置を制御することにより、網膜層側か、あるいは網膜層より深部側とする撮影を行うことを制御する。ここで、画像処理システムで取得する眼の構造と画像について図2を用いて説明する。
図2(a)に眼球の模式図を示す。図2(a)において、Cは角膜、CLは水晶体、Vは硝子体、Mは黄斑部(黄斑の中心部は中心窩を表す)、Dは視神経乳頭部を表す。本実施形態にかかる断層画像撮影装置200は、主に、硝子体、黄斑部、視神経乳頭部を含む網膜の後極部を撮影する場合について説明を行う。なお、本発明では説明をしないが、断層画像撮影装置200は、角膜、水晶体の前眼部を撮影することも可能である。
図2(b)に断層画像撮影装置200が取得する網膜を撮影した場合の断層画像の例を示す。図2(b)において、ASはAスキャンというOCT断層画像における画像取得の単位を表す。このAスキャンが複数集まって一つのBスキャンを構成する。そしてこのBスキャンのことを断層画像(あるいは断層像)と呼ぶ。図2(b)において、Vは硝子体、Mは黄斑部、Dは視神経乳頭部を表す。また、L1は内境界膜(ILM)と神経線維層(NFL)との境界、L2は神経線維層と神経節細胞層(GCL)との境界、L3は視細胞内節外節接合部(ISOS)、L4は網膜色素上皮層(RPE)、L5はブルッフ膜(BM)、L6は脈絡膜を表す。断層画像において、横軸(OCTの主走査方向)をx軸、縦軸(深さ方向)をz軸とする。
図2(c)に眼底画像撮影装置400が取得する眼底画像の例を示す。眼底画像撮影装置400は、眼部の眼底画像を撮影する装置であり、当該装置としては、例えば、眼底カメラやSLO(Scanning Laser Ophothalmoscope)等が挙げられる。図2(c)において、Mは黄斑部、Dは視神経乳頭部を表し、太い曲線は網膜の血管を表す。眼底画像において、横軸(OCTの主走査方向)をx軸、縦軸(OCTの副走査方向)をy軸とする。なお、断層画像撮影装置200と眼底画像撮影装置400の装置構成は、一体型でもよいし別体型でもよい。
画像処理装置300は、画像取得部301、記憶部302、画像処理部303、指示部304、表示制御部305を備える。画像取得部301は、断層画像生成部311からなる。画像処理装置300は、例えば、不図示の1以上のプロセッサと1以上のメモリを備え、1以上のプロセッサが1以上のメモリに記憶されたプログラムを実行することで、1以上のプロセッサは画像取得部301、画像処理部303、指示部304、表示制御部305として機能する。プロセッサは例えばCPUまたはGPU等のハードウエアである。例えば、画像処理装置300は、断層画像撮影装置200により撮影された断層画像の信号データを取得し、信号処理を行うことで断層画像の生成を行う。例えば、画像取得部301は、断層画像の加算平均を行う対象である眼の同一位置を走査するように制御された測定光に基づいて得られた複数の2次元断層像を取得する。また、眼底画像撮影装置400により撮影された眼底画像データを取得する。そして、生成した断層画像と眼底画像を記憶部302に格納する。画像処理部303は、検出部331、第一の位置合わせ部332、第二の位置合わせ部333、画像選択部334、第三の位置合わせ部335、画像合成部336からなる。
検出部331は、網膜から各層の境界線を検出する。第一の位置合わせ部332は、網膜の横方向(x軸)の位置合わせを行う。第二の位置合わせ部333は、網膜の深さ方向(z軸)の位置合わせを行う。画像選択部334は、複数の断層画像から位置合わせの基準となる断層画像を選択すると共に、加算平均をする断層画像を選択する。第三の位置合わせ部335は、断層画像内部の特徴がある部分に位置合わせのための領域を複数設定し、その領域単位で網膜の横方向(x軸)と深さ方向(z軸)の位置合わせを同時に行う。画像合成部336は、画像選択部334が選択した断層画像を加算平均する。
外部記憶部500は、被検眼に関する情報(患者の氏名、年齢、性別など)と、撮影した画像データ、撮影パラメータ、画像解析パラメータ、操作者によって設定されたパラメータをそれぞれ関連付けて保持している。
入力部700は、例えば、マウス、キーボード、タッチ操作画面などであり、操作者は、入力部700を介して、画像処理装置300や断層画像撮影装置200、眼底画像撮影装置400へ指示を行う。
次に、図3を参照して本実施形態の画像処理装置300の処理手順を示す。図3(a)は、本実施形態における本システム全体の動作処理、図3(b)は、本実施形態における高画質画像生成処理の流れを示すフローチャートである。
<ステップS301>
ステップS301では、不図示の被検眼情報取得部は、被検眼を同定する情報として被検者識別番号を外部から取得する。そして、被検者識別番号に基づいて、外部記憶部500が保持している当該被検眼に関する情報を取得して記憶部302に記憶する。
<ステップS302>
ステップS302では被検眼をスキャンして撮影を行う。被検眼のスキャンは、操作者が非図示のスキャン開始を選択すると、断層画像撮影装置200は、駆動制御部202を制御し、ガルバノミラー201を動作させて断層画像のスキャンを行う。ガルバノミラー201は、水平方向用のXスキャナと垂直方向用のYスキャナで構成される。そのため、これらのスキャナの向きをそれぞれ変更すると、装置座標系における水平方向(X)、垂直方向(Y)それぞれの方向に走査することが出来る。そして、これらのスキャナの向きを同時に変更させることで、水平方向と垂直方向とを合成した方向に走査することが出来るため、眼底平面上の任意の方向に走査することが可能となる。
撮影を行うにあたり各種撮影パラメータの調整を行う。具体的には、内部固視灯の位置、スキャン範囲、スキャンパターン、コヒーレンスゲート位置、フォーカスを少なくとも設定する。駆動制御部202は、表示部241の発光ダイオードを制御して、黄斑部中心や視神経乳頭に撮影を行うように内部固視灯204の位置を制御する。スキャンパターンは、3次元ボリュームを撮影するラスタスキャンや放射状スキャン、クロススキャンなどのスキャンパターンを設定する。なお、どのスキャンパターンを選択したとしても、一つのライン上を繰り返し複数枚(繰り返し回数は2枚以上)撮影する。なお、本実施形態においては、スキャンパターンはクロススキャン、同一箇所を150枚繰り返し撮影した場合について説明をする。これら撮影パラメータの調整終了後、操作者が非図示の撮影開始を選択することで撮影を行う。なお、本発明においては説明を省略するが、断層画像撮影装置200は、加算平均用に同じ場所(一つのライン)を撮影するために、被検眼のトラッキングを行うことで、固視微動の影響を少なくして被検眼のスキャンを行う。
<ステップS303>
ステップS303では、断層画像の生成を行う。断層画像生成部311は、それぞれの干渉信号に対して、一般的な再構成処理を行うことで、断層画像を生成する。
まず、断層画像生成部311は、干渉信号から固定パターンノイズ除去を行う。固定パターンノイズ除去は検出した複数のAスキャン信号を平均することで固定パターンノイズを抽出し、これを入力した干渉信号から減算することで行われる。次に、断層画像生成部311は、有限区間でフーリエ変換した場合にトレードオフの関係となる深さ分解能とダイナミックレンジを最適化するために、所望の窓関数処理を行う。次に、FFT処理を行う事によって断層信号を生成する。
<ステップS304>
ステップS304では、画像処理部303が合成画像生成を行う。画像処理部303の処理について、図3(b)、図4、図5のフローチャートと、図6〜図13を用いて説明をする。
<ステップS341>
ステップS341では、検出部331は、断層画像撮影装置200が撮影した複数の断層画像において網膜層の境界線を検出する。検出部331は、図2(b)の断層画像においてL1〜L6の各境界のいずれかを検出する。処理の対象とする断層画像に対して、メディアンフィルタとSobelフィルタをそれぞれ適用して画像を作成する(以下、メディアン画像、Sobel画像とする)。次に、作成したメディアン画像とSobel画像から、Aスキャン毎にプロファイルを作成する。メディアン画像では輝度値のプロファイル、Sobel画像では勾配のプロファイルとなる。そして、Sobel画像から作成したプロファイル内のピークを検出する。検出したピークの前後やピーク間に対応するメディアン画像のプロファイルを参照することで、網膜層の各領域の境界を検出する。
<ステップS342>
ステップS342では、複数の断層画像間において網膜の横方向(x軸)の位置合わせと、網膜の深さ方向(z軸)の位置合わせをそれぞれ行う。なお、ここでの位置合わせは大局位置合わせとして説明をする。大局位置合わせS342の方法について、図4のフローチャートを用いて説明をする。
<ステップS3421>
ステップS3421では、各断層画像をそれぞれ位置合わせした場合の位置合わせパラメータを保存するための2次元行列を初期化する。各行列の要素には、位置合わせ時の変形パラメータや画像類似度などの画像高画質化に必要な情報をまとめて保存する。
<ステップS3422>
ステップS3422では、第一の位置合わせ部332は、ライン投影像を作成する。ライン投影像は、投影画像の一例である。ライン投影像とその作成方法について図6を用いて説明をする。図6(a)は1枚の断層画像の模式図を表す。断層画像において、L1〜L4は境界線、ASはAスキャン、Vesselは血管を表す。なお、図6(a)において、血管は2本の縦線で囲まれた領域で示しており、浅層部の血管により、深層部の方は影が生じている様子を表している。ライン投影像とは、各Aスキャン単位で断層画像をZ軸方向に加算平均して作成した画像の事を意味する。図6(b)に1枚の断層画像から作成したライン投影像の模式図を示す。本実施形態においては、同一箇所を複数枚撮影した断層画像を用いて高画質化処理を行うため、断層画像は複数枚撮影する。そのため、同一箇所を複数枚撮影した断層画像群から作成したライン投影像の一例を図6(c)に示す。図6(c)において、横軸は断層画像と同じX、縦軸はtで時間軸を表す。断層画像において血管下部には影が出来るため周囲と比較して輝度値が低くなる。そのため、ライン投影像で見た場合に血管に相当する個所は輝度値が低くなる。
<ステップS3423>
ステップS3423では、位置合わせ対象を選択する。本実施形態においては、全ての断層画像を基準画像に設定して残りの断層画像と位置合わせを行う。そのため、ステップS3423においては、Index0の断層画像を基準とする場合に、Index1〜149とそれぞれ位置合わせを行う。次に、Index1の断層画像を基準とする場合には、Index2〜149とそれぞれ位置合わせを行う。次に、Index2の断層画像を基準とする場合には、Index3〜149とそれぞれ位置合わせを行う。これらの処理を繰り返す。繰り返しの判定は後述のステップS3428で行う。
なお、ここで示したように基準画像のIndexを1つずつ繰り上げた場合に、位置合わせの対象とする画像のスタートIndexも1つずつ大きくする。これについてIndex2の断層画像を基準とする場合について説明をする。Index2を基準とする場合に、Index0とIndex1、Index0とIndex2、Index1とIndex2の位置合わせは、それまでの処理により既に位置合わせ済みである。そのため、Index2の断層画像を基準とする場合には、Index3から位置合わせをすればよい。これにより、全部の断層画像同士の位置合わせとはいえ、半分の組み合わせを計算すればよいことになる。
<ステップS3424>
ステップS3424では、第一の位置合わせ部332は、複数の断層画像間において網膜の横方向(x軸)の位置合わせを行う。ここで、横方向(水平方向)位置合わせには、ステップS3422で作成したライン投影像を用いる。ライン投影像を用いた位置合わせは第一の方法の位置合わせの一例に相当する。ライン投影像位置合わせについて図7を用いて説明をする。図7(a)は、同一箇所を複数枚撮影した断層画像群から作成したライン投影像の一例を示す。図7(a)において、血管部分に注目すると、撮影時に被検眼のトラッキングを行っていてもわずかにずれがあることが分かる。そのため、ここではその位置ずれを補正する。ここでは、画像データを用いているが、位置合わせ時の画像データは図7(b)に示すように1次元データとなる。図7(b)では、Index0とIndex1のライン投影像であり、画像サイズは1024×1である。Index0を基準としてIndex1のROIの範囲の画像を位置合わせする。ROIのサイズは、画像サイズよりも横方向を小さく、縦方向は同じサイズを設定する。例えば、ROIのサイズを1000×1とする。画像同士の位置合わせ処理としては、例えば、2つのライン投影像の類似度を表す評価関数を事前に定義しておき、ライン投影像位置をずらしながら評価値を計算し、評価値が最もよくなる場所を位置合わせ結果とする。すなわち、評価値が最もよくなる場所までの移動量をライン投影像間のズレ量として、位置合わせが行われる評価関数としては、画素値で評価する方法が挙げられる(例えば、相関係数を用いて評価を行う方法が挙げられる)。
類似度を表す評価関数として相関係数を用いた場合の式を数1に示す。
数1において、1枚目のライン投影像の領域をf(x,z)、2枚目のライン投影像の領域をg(x,z)とする。
は、それぞれ領域f(x,z)と領域g(x,z)の平均を表す。なお、ここで領域とは位置合わせに用いるための画像領域であり、通常ライン投影像のサイズ以下の領域が設定され、上述したROIサイズが設定される。
また、評価関数としては、これに限らずSSD(Sum of Squared Difference)や、SAD(Sum of Absolute Difference)でもよく、画像の類似度あるいは相違度を評価出来ればよい。
あるいは、POC(Phase Only Correlation)のような方法で、位置合わせを行っても良い。
ライン投影像で位置合わせを行うため、画像の位置合わせが1次元となり、高速かつ安定して横方向の位置合わせを行うことが出来る。また、画像特徴が似ているか否かという情報も計算しておくことが出来る。
<ステップS3425>
ステップS3425では、ステップS341で検出した境界線情報を取得する。なお、取得する境界線は、現在の位置合わせ対象の断層画像の境界線情報だけである。例えば、Index0とIndex1の境界線情報を取得する。
<ステップS3426>
ステップS3426では、第二の位置合わせ部333は、網膜の深さ方向(z軸)の位置合わせを行う。ここで、深さ方向の位置合わせにおいては境界線情報を用いる。境界情報を用いた位置合わせは第一の方法の位置合わせとは異なる時刻に実行される第二の方法の位置合わせの一例に相当する。境界線情報位置合わせについて、図8を用いて説明をする。図8(a)は、位置合わせに用いる境界線の例を示している。本実施形態においては、境界線L1(ILM)と境界線L3(ISOS)を用いる場合について説明をする。
図8(a)において、基準画像をIndex0、対象画像をIndex1としている。基準画像と対象画像とは、ステップS3424で横方向の位置合わせがされている。そのため、基準となる境界線L1、L3と、横方向位置合わせパラメータで補正した位置合わせ対象の境界線L1’、L3’とを用いて深さ方向の位置合わせをする。なお、位置合わせに利用する層境界は上記の層境界に限定されるものではなく、利用する層境界の数も2つに限定されるものではない。
図8(b)に、説明のために基準画像の境界線L1、L3と位置合わせ対象の境界線L1’、L3’とを同時に表示する。図8(b)において、境界線を縦方向にN分割している。それぞれの領域はArea0〜AreaN−1とする。なお、図8(b)において、画像中心部に分割領域を描画していないが、実際には画像全体を領域分割している。そして、上下矢印Difference1は、L1とL1’との差(ズレ量)を表し、上下矢印Difference3は、L3とL3’との差を表す。これらの差は、それぞれの領域Area0〜AreaN−1それぞれにおいて求める。本実施例では簡単のため、横方向の境界線サイズを同じで表示しているが、実際には、網膜層が画像の上方向にずれ(Z軸で0の方向)、網膜層の一部領域が画像から欠損する場合がある。その場合には、画像全体で境界線が検出出来ない。そのため、境界線同士の位置合わせにいては、基準画像の境界線L1、L3と位置合わせ対象の境界線L1’、L3’との境界線が検出出来ている範囲をN分割して位置合わせをすることが望ましい。以下では、分割数Nを12として説明をする。なお、分割数Nは横方向の画像サイズに応じて変更しても良い。あるいは、分割数Nは、共通して検出した境界線の横幅のサイズに応じて変更しても良い。
図8(b)において各領域のDifference1とDifference3との平均をそれぞれD0t〜D11tとする。すなわち、ILMとISOSとの差の平均をその領域の差分の代表値とする。次に各領域で求めた代表値D0t〜D11tを小さい順にソートする。そして、ソートした代表値を小さい順からM個用いて、平均と分散を計算する。なお、本実施形態ではM個は8個とする。しかし、数はこれに限定されない。Mの数はNよりも小さければよい(M<N)。平均と分散の計算は、ソートした代表値を一つずつずらして計算する。すなわち、本実施形態では12個に分割した領域のうち8個の代表値を用いて計算をするため、全部で5個の平均値と分散値が求まる。次に、求めた5個の分散値の中で最小となる分散値に対応する平均値を深さ方向のシフト値とする。例えば、5個の分散値の中で最小となる分散値がVar0とする場合、深さ方向のシフト値はAvg0となる。このように境界線位置合わせ時に領域を分割し、分割した領域の差分値の組み合わせにおいて最もバラつきが小さくなる値を用いることで、境界線検出に誤りがあったとしても、それらの領域の値は使用しない。そのため、安定して深さ方向のシフト値を計算することが出来る。なお、深さ方向のシフト値として平均値としたが中央値でも良く、代表的な値を用いることが出来ればよい。さらに、バラつきを示す値として分散値を用いたが標準偏差でもよく、値のバラつきを評価出来る指標であればよい。なお、代表値の小さい順にソートする例を述べたが代表値の大きい順にソートすることとしてもう良い。このように、第二の位置合わせ部333は、複数の領域のズレ量を、ズレ量の値に従った順序に並び替え、値の小さい方または大きい方から予め定められた個数のズレ量の組み合わせを順次選択し、各組み合わせにおけるバラつきを示す値を算出し、バラつきを示す値が最も小さくなるズレ量の組み合わせを選択する。
最後に、上記で求めた深さ方向のシフト値を用いて境界線全体をZ方向にシフトさせる。この例を図8(c)に示す。再度各領域Area0〜AreaN−1で差分値を計算する。そして、各領域で求めた差分値の代表値D0〜D11を小さい順にソートする。そして、ソートした代表値を小さい方からM個だけ用いて平均値を計算する。この平均値をglobalDistanceとする。それにより、基準画像と対象画像とをX方向とZ方向とに位置合わせした後の境界線同士の最終的な位置ずれ量(globalDistance)が求まる。
なお、深さ方向のシフト値を計算するための分割数Nと選択数Mと、最終的な位置ずれ量(globalDistance)を計算する際の分割数NとMを同じとして説明をしたが、これに限らない。これらの数は別々でもよいし同じでもよい。例えば、シフト値を計算するための分割数Nは12、選択数Mは8として、位置ずれ量(globalDistance)を計算するための分割数Nは15、選択数Mは10としても良い。
また、図8(c)では、説明のため境界線自体をシフトさせているが、データを実際にシフトさせなくとも、差分値を計算する式において、深さ方向のシフト値を考慮して各領域の差分値を求めても良い。
<ステップS3427>
ステップS3427では、ステップS3421で初期化した位置合わせや画像類似度などの画像高画質化に必要なパラメータを保存するための2次元行列に対して値を保存する。例えば、基準画像をIndex0、対象画像をIndex1とする場合、2次元行列の要素(0、1)に横方向の位置合わせパラメータX、深さ方向の位置合わせパラメータZ、各領域での差分値の代表値D0〜D11、globalDistance、画像類似度を保存する。これらの情報の他に、まばたき等により画像が暗く境界線があまり検出出来ていない画像には、境界線検出の結果としてfalseのフラグを保存しても良い。一方、層境界検出が成功した場合には、画像に対してtrueのフラグを対応付けて保存しても良い。さらに、本実施形態では説明をしないが、境界線位置合わせにおいて、境界線自体を回転させて位置合わせする場合、回転角度、回転軸の中心座標を保存しても良い。さらに倍率補正を行う場合には、倍率を保存しても良い。
<ステップS3428>
ステップS3428では、全ての画像を基準画像として残りの対象画像と位置合わせを行ったか否かを判定する。全ての画像を基準として処理をしていない場合には、ステップS3423に戻る。そして、全ての画像を基準として処理をした場合には、ステップS3429に進む。
<ステップS3429>
ステップS3429では、2次元行列の残りの要素を更新する。上記処理は、ステップS3423で説明したように、半分の組み合わせしか計算をしていない。そのため、計算をしていない要素にこれらの値をコピーする。例えば、2次元行列の要素(0、1)のパラメータは(1、0)の要素にコピーされる。すなわち、要素(i、j)を要素(j、i)にコピーする。この際、位置合わせパラメータX、Zと回転角度は逆になるため、負の値を掛けてコピーをする。なお、画像類似度などは逆にならないため、同じ値をそのままコピーする。
これらの処理により大局位置合わせが行われる。上記フローにおいて、X方向位置合わせの後にZ方向位置合わせを行ったが、Z方向位置合わせの後にX方向位置合わせを行うようにしても良い。さらには、X方向位置合わせ後にZ方向位置合わせ、再度X方向位置合わせ後にZ方向位置合わせのように、何度か位置合わせを繰り返すようにしても良い。次に、図3(b)の処理フローに戻って説明を行う。
<ステップS343>
ステップS343では、画像選択部334が基準画像の選択を行う。ステップS342で行った大局位置合わせの結果に基づいて基準画像選択を行う。ステップS342において、2次元行列を作成しており、行列の各要素に高画質化画像生成に必要な情報が保存されている。そのため、その情報を用いることで基準画像選択を行う。基準画像選択において、境界線検出フラグが保存してある場合はその情報を用いると共に、横方向位置合わせで求めた画像類似度(投影画像間の比較結果の一例)と、深さ方向位置合わせで求めた各領域で求めた差分値の代表値D0〜D11の値とを用いる。具体的には、Index0の場合において、2次元行列の要素(0、0)〜(0、149)の範囲で、境界線検出フラグがTrueかつ、画像類似度が閾値以上、各領域で求めた差分値の代表値D0〜D11が12領域中8領域以上において閾値以内(所定閾値以下)となるものをカウントする。同様に、Index1の場合において、2次元行列の要素(1、0)〜(1、149)の範囲で、境界線検出フラグがTrueかつ、画像類似度が閾値以上、各領域で求めた差分値の代表値D0〜D11が12領域中8領域以上において閾値以内となるものをカウントする。これらの処理を全ての画像において同様に行う。なお、横方向位置合わせで求めた画像類似度と、深さ方向位置合わせで求めた各領域で求めた差分値の代表値D〜D11の値とのいずれか一方のみを用いることとしてもよい。
ここで、画像類似度と各領域で求めた差分値の代表値D0〜D11の条件を満たす場合の例について図9を用いて説明を行う。図9(a)の図は、画像類似度と各領域で求めた差分値の代表値D0〜D11が12領域中8領域以上において閾値以内の条件を同時に満たす場合の例を示しており、図の斜線部分がそれにあたる。図9(b)の図は、画像類似度の条件を満たす数と、各領域で求めた差分値の代表値D0〜D11が12領域中8領域以上において閾値以内の条件を満たす数の合計の例を示しており、図の斜線部分がそれにあたる。本実施形態では、図9(a)のように両方の条件を同時に満たす場合で説明をしているが、これに限らない。図9(b)のように、それぞれの条件を独立して満たし、これらの数の合計をカウントするようにしても良い。なお、この基準画像選択においても12領域中8領域という数値に限らず他の数値でもよい。
そして、上記の条件で最大の数となる断層画像を基準画像として選択する。すなわち、画像選択部334は、複数の2次元断層像のうち、1の2次元断層像と他の複数の2次元断層像とを比較した場合において、類似度が所定閾値以上であり且つ層境界のズレ量が所定閾値以下となる2次元断層像の数に基づいて基準画像を選択する。より具体的には、画像選択部334は、複数の2次元断層像のうち、1の2次元断層像と他の複数の2次元断層像とを比較した場合において、類似度が所定閾値以上であり且つ2次元断層像を水平方向に分割した複数の領域毎に得られる層境界のズレ量のうち所定閾値以下となる領域の数が所定個数以上となる2次元断層像の数に基づいて基準画像を選択する。
なお、カウント数が同じになるものがいくつか存在する場合には、画像類似度の合計値あるいは平均値が最大となるもの、各領域で求めた差分値の代表値D0〜D11が閾値以内となる数の合計値が最大となるもの、globalDistanceの合計値あるいは平均値が最小となるもの、検出している境界線の長さが最大のもの、境界線の深さ方向の位置が中心に近い位置に存在しているものなど、その他の評価値と合わせて基準画像を選択するようにしても良い。これらは一つではなく複数組み合わせて用いても良い。さらには、カウント数が同じになった場合の絞り込みの判定条件に用いるだけではなく、基準画像選択において条件を満たす画像をカウントする際に用いるようにしても良い。
<ステップS344>
ステップS344では、画像選択部334が加算画像の選択を行う。加算画像の選択では、ステップS343で求めた基準画像に対して、他の画像が条件を満たしているか否かで判定を行う。加算画像の選択においては、画像選択フラグを設定しておき、条件を満たす場合はTrue、満たさない場合はFalseに設定をする。加算画像選択の条件としては、例えば、ステップS343と同様に、境界線検出フラグがTrueかつ、画像類似度が閾値以上で、各領域で求めた差分値の代表値D0〜D11が12領域中8領域以上において閾値以内となるものをカウントする。なお、加算画像選択と基準画像選択においては、それぞれの閾値を変更するようにしても良い。例えば、基準画像選択においては閾値の条件を厳しくし、加算画像選択では基準画像選択よりは条件を緩くするようにしても良い。あるいは、基準画像選択と加算画像選択の条件を同じにしてもよい。
図10に第一の位置合わせ部332、第二の位置合わせ部333、画像選択部334によって位置合わせされた後に選択された断層画像を用いて作成したライン投影像の例を示す。図10(a)は位置合わせ前の断層画像から作成したライン投影像、図10(b)は位置合わせ後の断層画像から作成したライン投影像、図10(c)は、位置合わせ後に選択された断層画像を用いて作成したライン投影像となる。血管の特徴に注目すると、図10(b)では、図10(a)よりも血管の特徴が直線的に揃っている。さらに、図10(c)では、局所的に血管がずれている部分が除外され、ほぼ同じ位置を撮影した画像のみが選択されている。
<ステップS345>
ステップS345では、第三の位置合わせ部335は、基準画像と選択された複数の断層画像間において、断層画像内部の特徴がある部分に位置合わせのための領域を複数設定し、その領域単位で網膜の横方向(x軸)と深さ方向(z軸)の位置合わせを同時に行う。なお、ここでの位置合わせは局所位置合わせとして説明をする。第三の位置合わせ部335が行う局所位置合わせS345の方法について、図5のフローチャートを用いて説明をする。
<ステップS3451>
ステップS3451では、ステップS344において選択済みの画像か否かで処理を分ける。画像選択フラグがTrueの場合は、ステップS3452に進み、画像選択フラグがFalseの場合は、ステップS3459に進む。
<ステップS3452>
ステップS3452では、後述する加算平均処理のためにマスク画像を生成する。マスク画像は、例えば、全てのピクセルの値が1.0の画像とする。本実施形態においては全ての値を同じとして説明をするが、マスク画像はこれに限らない。場所に応じて重みをつけても良い。例えば、画像の上下左右の周辺部(数ピクセル程度)の値は1.0よりも小さくするようにしても良い。その場合は、一律で小さくするよりは、画像の中心から端に行くにつれ徐々に値を小さくする方が望ましい。
<ステップS3453>
ステップS3453では、断層画像(Bスキャン)単位で画像変形を行う。これについて、図11を用いて説明をする。図11(a)は、基準画像と基準のマスク画像、図11(b)は、対象画像1と対象マスク画像1で右下方向にシフトした例を示している。図11に示すように、ここでは、ステップS342の大局位置合わせで求めた位置合わせパラメータXとZに基づいて、基準画像以外の断層画像を変形させる。図11(b)に示す黒い領域は、位置合わせの結果、画像をXZ方向にシフトさせたために生じる無効領域を示している。ここには画像データが存在しないため値は0となる。なお、断層画像だけではなく、マスク画像も同じパラメータで変形させておく。
<ステップS3454>
ステップS3454では、ステップS341で検出した境界線情報を取得する。なお、取得する境界線は、現在の位置合わせ基準断層画像の境界線情報だけである。本実施形態においては取得する境界線はL1とL3とする。
<ステップS3455>
ステップS3455では、対象画像の特徴領域を含むように位置合わせ用の領域を設定する。これについて、図12を用いて説明をする。
図12には基準画像と対象画像1を示し、対象画像1には、基準断層画像の境界線情報L1とL3を基にして設定する複数の位置合わせ用の領域(ROI:Region of Interesting)の例を示す。ROIの深さ方向サイズは、L1とL3を基準として、それよりもそれぞれ数10ピクセル程度、上方向と下方向に広く設定する。なお、上下方向に数10ピクセル程度パラメータを設定する場合において、大局位置合わせの結果を用いてパラメータを補正することがある。これは、図12の対象画像1に示すように大局位置合わせにおいて、画像全体を下方向にシフトさせている場合、画像の上端部に無効領域が存在する。この場合、ROIを設定する範囲とその探索領域が無効領域を含まないように初期のROIサイズを補正する必要がある。ROIの横方向サイズは、画像をK分割したサイズから設定する。分割数Kは、画像のサイズ(Aスキャン本数)や画像の撮影サイズ(10mm)など、撮影パラメータに合わせて設定をする。例えば、本実施形態において、Aスキャン本数を1024、撮影サイズを10mmとした場合、分割数Kは10とする。なお、横方向のサイズとROIの設定値においても大局位置合わせの結果を用いて補正を行う。上下方向のパラメータ同様に横方向においても無効領域が存在することがあるため、ROIを設定する範囲とその探索領域が無効領域を含まないように設定する必要がある。
そして、局所位置合わせ用のROIは、それぞれ重畳するように設定する。これは、ROIを重複させずに、ROIのサイズを小さくする場合、ROIの中に特徴的な部位を含まない場所が存在することがあるためである。例えば、網膜を狭画角(3mm程度)で撮影した場合、画像内に平坦な組織が広い範囲において写る場合がある。また一方、ROIを重複させずに、特徴を含むようにROIの範囲を広く設定すると、局所位置合わせのためのサンプリング数が少なくなり、粗い位置合わせとなってしまうためである。そのため、これらの問題を解決するために、ROIのX方向のサイズを広くして、かつそれぞれのROI同士を重畳させて設定する。なお、図12において、画像中心部にROIを描画していないが、実際には画像の左端から右端まで網膜上にROIを設定する。さらに、ROIを設定する間隔は、ROI位置合わせ時の探索範囲を考慮するのが望ましい。具体的には、ROI位置合わせ時の横方向探索範囲をXRとする場合、隣接するROIの中心座標の間隔が2XR以上となるように設定をする。これは、中心座標の間隔を2XR未満とする場合、隣接するROI同士の中心位置が入れ替わる可能性があるためである。このように、複数のROI(第一の領域と第二の領域)の水平方向における位置関係は、ROI位置合わせ時の探索範囲に基づいて設定される。
<ステップS3456>
ステップS3456では、ROIを使って領域位置合わせを行う。領域位置合わせは画像で行う。そのため、ステップS3424で示したライン投影像位置合わせと同様に数1を用いて画像類似度に応じた位置合わせを行う。ただし、類似度の評価値はこれに限らず、SSD(Sum of Squared Difference)や、SAD(Sum of Absolute Difference)などでも良い。あるいは、POC(Phase Only Correlation)のような方法で、位置合わせを行っても良い。
画像位置合わせは、対象画像に設定したROIが基準画像ではどこにあるかを探索する。この際、ステップS342で行った大局位置合わせの結果を用いてステップS3453で断層画像の変形を行っているので、基準画像と対象画像とのおおよその位置は合っている。そのため、基準画像での位置合わせの探索範囲は、ROIの初期位置から上下左右数ピクセルを探索すればよく、最も類似する場所を位置合わせ結果とする。なお、局所位置合わせの類似度の評価値計算において、場所に応じて重み付けをしてもよい。その場合、探索範囲の中心が最も重みが高く(例えば、重み1.0)、探索範囲の外側に行くほど徐々に重みを下げる(例えば、重み0.9)ようにしても良い。重みを変える場合は、1ピクセル毎に滑らかに重みを下げていくのが望ましい。それにより、わずかな差の評価値であった場合、初期位置の方が選択される。
さらに、ROIの探索範囲は固定でも良いし、撮影画角、撮影部位、画像の場所(端や中心)に応じて変更しても良い。
<ステップS3457>
ステップS3457では、ステップS3456で求めた位置合わせパラメータを補間する。これについて、図13を用いて説明をする。図13(a)は、初期設定した領域のROI1〜ROI3を表している。C1〜C3の下三角はROI1〜ROI3の中心位置を表している。また、図13(b)は、ステップS3456での位置合わせ後のROIの移動例を示している。図13(b)においては、ROI1とROI3がそれぞれ右側に移動し、ROI2が移動しない場合の例である。そのため、ROIの中心C1とC3がそれぞれC1’とC3’に移動している。各ROIの移動量からAスキャンの移動量を算出するためには、隣接するROIとROIの中心位置の移動量に基づいて算出をする。例えば、ROI1の中心位置はC1からC1’に移動しており、ROI2の中心位置はC2のままである。ここで、変形前のC1からC2の間にある各AスキャンのX方向移動量を求める式を数3に示す。
数3において、X1、X2は各ROIの初期中心座標、ΔX1、ΔX2は各ROIの中心座標のX方向移動量、A_beforeは変形前のAスキャンインデックスの値、A_afterはA_beforeが参照する、変形前のAスキャンインデックスの値となる。例えば、A_beforeが55、計算の結果でA_afterが56とする場合、Aスキャンインデックス55には、Aスキャンインデックス56のAスキャンデータが入る。数3は、複数のROIが重複する領域においては、複数のROIのどちらのROIに近いかに応じて移動量の重みが変化することを示している。具体的には、複数のROIが重複する領域においては、複数のROIのうち近いROIの中心座標の移動量に対する重みを複数のROIのうち遠いROIの中心座標の移動量に対する重みより大きくするようになっている。
なお、Z方向の移動量も数2と同様の考え方に基づき、各ROIの中心位置の移動量から求めることが出来、上下方向に数ピクセルデータを移動する。なお、A_afterの値は実数でも整数でも良い。実数の場合は、複数のAスキャンデータから既知の補間方法(BilinearやBicubic等)により新しいAスキャンデータを作成する。整数の場合は、対応するAスキャンインデックスのデータをそのまま参照する。
このように、第三の位置合わせ部335は、第一の領域と第二の領域とが重複する領域における第一の2次元断層像に対する第二の2次元断層像の移動量を、第一の領域における前記ズレ量と第二の領域におけるズレ量とに基づいて決定する決定手段の一例に相当する。
<ステップS3458>
ステップS3458では、ステップS3457で求めたAスキャン移動量を基に、Aスキャン毎にX方向とZ方向に移動させる。それにより、Aスキャン単位で変形した断層画像を生成することが出来る。なお、断層画像だけではなく、マスク画像も同じパラメータで変形させておく。
<ステップS3459>
ステップS3459では、基準画像に対して全ての断層画像を局所位置合わせ行ったか否かを判定する。全ての画像を処理していない場合には、ステップS3451に戻る。そして、全ての画像を局所位置合わせした場合には、局所位置合わせの処理が終了する。
これらの処理により局所位置合わせが行われる。次に、図3(b)の処理フローに戻って説明を行う。
<ステップS346>
ステップS346では、画像合成部336は、画像選択部334が選択した基準となる断層画像と、複数の断層画像同士を加算平均する。加算平均処理では、ピクセル毎に、複数の断層画像とマスク画像の値を掛け算した値の合計値SUM_Aと、複数のマスク画像の値の合計値SUM_Bをそれぞれ保持しておく。マスク画像には位置合わせにより画像データが存在しない無効領域が0として保存されているため、マスク画像の合計値SUM_Bにはピクセル毎に異なる値が保持されている。通常、位置合わせにおいて上下左右に数10ピクセルの移動が想定されるため、重ね合わせに用いた画像枚数がN枚である場合、画像中心付近のSUM_Bのピクセル値はNであり、画像端部のSUM_Bのピクセル値は、Nよりも少ない値になる。
そして、加算平均処理では、SUM_AをSUM_Bで割ることにより加算平均を計算した断層画像を求めることが出来る。
<ステップS305>
ステップS305では、ステップS304で作成した高画質な断層画像に対して、検出部331が境界線検出を行う。境界線検出は、例えば、ステップS341と同様の方法で行うことが出来る。
<ステップS306>
ステップS306では、加算平均して作成した高画質な断層画像の結果を表示部600に表示する。
<ステップS307>
ステップS307において、不図示の指示取得部は、画像処理システム100による断層画像の撮影を終了するか否かの指示を外部から取得する。この指示は、入力部700を用いて、操作者によって入力される。処理を終了する指示を取得した場合には、画像処理システム100はその処理を終了する。一方、処理を終了せずに、撮影を続ける場合には、ステップS302に処理を戻して撮影を続行する。以上によって、画像処理システム100の処理が行われる。
以上で述べた構成によれば、本実施形態では、境界線と画像特徴量を用いて大局的な位置合わせを行うと同時に高画質画像生成のための基準画像と加算画像の選択を行った。さらに、位置合わせ済みの複数の2次元断層画像において、対応する局所的な領域を用いて領域間の類似度を計算し、各領域単位で位置合わせ処理を行った。それにより、高画質画像を生成するために必要な画像の選択が出来、固視微動などにより局所的に網膜層が変形している場合においても、部分領域単位で位置合わせを行うため、高画質な2次元断層画像を生成することができる。
(変形例1)
本実施形態において、第一の位置合わせ部332がライン投影像を作成し、ライン投影像の画像類似度を基にして網膜の横方向(x軸)の位置合わせを行う例を示した。しかし、横方向(x軸)位置合わせはこれに限らない。例えば、第一の位置合わせ部332は、ライン投影像からエッジを検出し、エッジ検出したラインエッジ画像を用いて位置合わせを行っても良い。あるいは、第一の位置合わせ部332は、SIFT(Scale−Invariant Feature Transform)や、AKAZE(Accelerated KAZE)のような方法を用いてライン投影像から特徴点を検出し、検出した特徴点を基にして位置合わせを行っても良い。
(変形例2)
本実施形態において、第二の位置合わせ部333が境界線情報を用いて、網膜の深さ方向(z軸)の位置合わせを行う例を示した。しかし、深さ方向(z軸)位置合わせはこれに限らない。例えば、第二の位置合わせ部333は、複数のAスキャンをX軸方向に加算平均した横方向ライン投影像を生成し、それを基に深さ方向の位置合わせを行っても良い。なお、この場合の位置合わせは実施例1で説明した方法や変形例1で説明した方法を用いることが出来る。なお、横方向投影像を生成する場合には、撮影したままの断層画像を用いても良いが、撮影時の状態に応じて網膜層に傾きが生じるため、画像を補正することが望ましい。その場合の補正方法は、例えば、境界線L1(ILM)、あるいは境界線L3(ISOS)の形状をフラットにするように画像変形を行う。この場合の画像補正例を図14に示す。図14(a)の左側の図は変形前の断層画像で、右側の図は変形前の断層画像から生成した横方向ライン投影像を示している。図14(b)はL1をフラットにした場合の変形後の断層画像と横方向ライン投影像、図14(c)はL3をフラットにした場合の変形後の断層画像と横方向ライン投影像である。深さ方向の位置合わせを行うため、画像変形時には変形させる境界線の基準場所はそのままとし、他の場所を変形させる。なお、図14では画像中心(図の破線部分)の位置は変えずに、他の部分を変形させた例を示している。なお、基準場所は画像中心に限らない。例えば、第一の位置合わせ部332によって横方向位置合わせを行った後の画像に対して画像中心を基準としても良いし、画像の端を基準としても良い。第二の位置合わせを行う複数の画像同士で基準を揃えてあればよい。図14には、境界線を基準として網膜形状をフラットにする例を示したがこれに限らない。例えば、検出した網膜層に対して、2次曲線で近似を行い、その近似曲線を基準に網膜層をフラットに変形しても良い。
あるいは、網膜形状をフラットにせず、網膜層の回転成分のみを補正してもよい。回転を補正した例を図14(d)に示す。図14(d)は、画像中心を基準として画像両端部の網膜層の深さ方向の位置が合うように画像変形をする男装画像と横方向ライン投影像の例である。補正方法は、例えば、任意の境界線あるいは近似曲線を使用して、その線を画像に対して回転させ、回転させた線の画像両端(X=0、X=Aスキャンの数)の深さ方向の位置が同じになるように断層画像を回転させる。あるいは、回転させた線と回転前の線の深さ方向の差分値に応じて、Aスキャン単位で深さ方向を補正しても良い。
上述した方法を用いて網膜層の傾きを補正した後に、X軸方向に加算平均した横方向ライン投影像を生成する。横方向ライン投影像を用いることで、深さ方向での網膜層位置を把握することが出来る。
(変形例3)
本実施形態において、第三の位置合わせ部335は、領域単位で網膜の横方向(x軸)と深さ方向(z軸)の位置合わせを同時に行う。その際の局所位置合わせ用のROIは、それぞれ重畳するように設定する例を示した。しかし、局所位置合わせ用のROIは必ずしも重畳しなくても良い。例えば、設定するROIの領域内に十分な画像特徴量が含まれる場合には、ROIは重複しないように設定しても良い。さらには、重複する場合と重複しない場合を1つの画像の中に同時に設定しても良い。画像特徴とは断層画像に対する解析結果の一例であり、例えば、血管や疾病、あるいは、網膜の形状が横にフラットではなく、形に変化がみられる場合を含む。血管や疾病の特徴検出は、断層画像かライン投影像から検出できる。網膜形状は境界線L1(ILM)や、境界線L3(ISOS)を用いることで、把握することが出来る。なお、複数の断層画像は同じ場所を撮影した画像であるため、複数の断層画像全部において特徴を検出する必要はなく、代表的な1枚(例えば、基準画像)で検出をすればよい。
あるいは、単純に撮影画角によってROI重複をするかしないか変更しても良い。例えば、3mmのような狭画角撮影をした場合には、画像の広い範囲において網膜形状がフラットに写る可能性が高いため重複をさせ、10mmのような広画角撮影をした場合には、画像の一部領域でのみ網膜形状がフラットに写る可能性が高いため重複領域を少しにするか、重複をしないなどとしても良い。
さらに、ROIの重複領域の変更だけではなく、ROIの探索範囲においても同様に、画像特徴や画角に応じて動的に変更するようにしても良い。
(変形例4)
本実施形態において、画像合成部336が加算平均処理において無効領域を除去するために、局所位置合わせ時にマスク画像を生成する例について説明を行ったが、これに限らない。マスク画像を生成せずに断層画像から無効領域を検出し、無効領域部分を加算平均の計算に含めないようにしても良い。
(変形例5)
本実施形態において、OCT画像の高画質化のための位置合わせについて説明を行ったが、対象はこれに限らない。例えば、OCTA(OCT Angiography)のための位置合わせに用いても良い。OCTAでは、血流部分を可視化するために、同一部分を複数回撮影して位置合わせを行った後に、断層画像間の変化部分を計算する。断層画像間の変化は、例えば脱相関などを計算することで算出することが出来る。脱相関を計算することで、動きのある部分(血液の流れ)だけが残り、それを可視化することでOCTA画像を生成する。このように、OCTA画像を生成する時の断層画像位置合わせに適用しても良い。
(変形例6)
本実施形態において、撮影から表示までを一連の流れで示したがこれに限らない。例えば、既に撮影が済んでいるデータを用いて高画質画像生成処理を行ってもよい。その場合、撮影に関する処理をスキップし、その代わりに撮影済みの複数の断層画像を取得する。そして、ステップS304で高画質画像生成処理を行う。
(その他の実施形態)
上記のそれぞれの実施形態は、本発明を画像処理装置として実現したものである。しかしながら、本発明の実施形態は画像処理装置のみに限定されるものではない。本発明をコンピュータ上で動作するソフトウェアとして実現することも可能である。画像処理装置のCPUは、RAMやROMに格納されたコンピュータプログラムやデータを用いてコンピュータ全体の制御を行う。また、画像処理装置の各部に対応するソフトウェアの実行を制御して、各部の機能を実現する。また、ボタンなどのユーザーインターフェイスや表示のレイアウトは上記で示したものに限定されるものではない。
100 画像処理システム
200 断層画像撮影装置
300 画像処理装置
301 画像取得部
303 画像処理部
305 表示制御部
311 断層画像生成部
331 検出部
332 第一の位置合わせ部
333 第二の位置合わせ部
334 画像選択部
335 第三の位置合わせ部
336 画像合成部
400 眼底画像撮影装置
500 外部記憶部
600 表示部
700 入力部

Claims (10)

  1. 眼の同一位置を走査するように制御された測定光に基づいて得られた第一の2次元断層像と第二の2次元断層像とを取得する第一取得手段と、
    前記第一の2次元断層像の水平方向において互いに一部の領域が重複する第一の領域と第二の領域とを前記第一の2次元断層像に対して設定する設定手段と、
    前記第一の領域と前記第二の領域とのそれぞれにおいて、前記第一の2次元断層像と前記第二の2次元断層像とのズレ量を取得する第二取得手段と、
    前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量とに基づいて決定する決定手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記決定手段は、前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量との差および前記重複する領域内での位置に基づいて決定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記決定手段は、前記第一の領域の中心と前記第二の領域の中心との間の領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量との差および前記第一の領域の中心と前記第二の領域の中心との間の領域内での位置に基づいて決定することを特徴とする請求項1に記載の画像処理装置。
  4. 前記決定手段は、前記第一の領域の中心における2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量とのうち前記第一の領域における前記ズレ量のみに基づいて決定することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記第一の領域と前記第二の領域とは前記水平方向において同じサイズであることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  6. 前記第一の領域と前記第二の領域との前記水平方向における位置関係は、前記第二取得手段によりズレ量を取得する際に、前記第一の2次元断層像と前記第二の2次元断層像とを比較する前記水平方向における範囲に基づいて設定されることを特徴とする請求項4に記載の画像処理装置。
  7. 前記設定手段は、前記第一の2次元断層像に対する解析結果または前記第一の2次元断層画像の画角に基づいて前記第一の領域と前記第二の領域とに替えて、互いに重複しない第三の領域と第四の領域とを前記第一の2次元断層像に対して設定し、
    前記第二取得手段は、前記第三の領域と前記第四の領域とのそれぞれにおいて、前記第一の2次元断層像と前記第二の2次元断層像とのズレ量を取得し、
    前記決定手段は、前記第三の領域と前記第四の領域とにおける前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、それぞれ前記第三の領域における前記ズレ量と前記第四の領域における前記ズレ量とに基づいて決定することを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  8. 前記設定手段は、前記第一の2次元断層画像の画角に基づいて前記第一の領域と前記第二の領域とが重複する領域の大きさを変更することを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  9. 眼の同一位置を走査するように制御された測定光に基づいて得られた第一の2次元断層像と第二の2次元断層像とを取得する第一取得工程と、
    前記第一の2次元断層像の水平方向において互いに一部の領域が重複する第一の領域と第二の領域とを前記第一の2次元断層像に対して設定する設定工程と、
    前記第一の領域と前記第二の領域とのそれぞれにおいて、前記第一の2次元断層像と前記第二の2次元断層像とのズレ量を取得する第二取得工程と、
    前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量とに基づいて決定する決定工程と、
    前記移動量に基づいて、前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像と前記第二の2次元断層像との位置合わせを行う位置合わせ工程と、
    を備えることを特徴とする位置合わせ方法。
  10. 眼の同一位置を走査するように制御された測定光に基づいて得られた第一の2次元断層像と第二の2次元断層像とを取得する第一取得工程と、
    前記第一の2次元断層像の水平方向において互いに一部の領域が重複する第一の領域と第二の領域とを前記第一の2次元断層像に対して設定する設定工程と、
    前記第一の領域と前記第二の領域とのそれぞれにおいて、前記第一の2次元断層像と前記第二の2次元断層像とのズレ量を取得する第二取得工程と、
    前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像に対する前記第二の2次元断層像の移動量を、前記第一の領域における前記ズレ量と前記第二の領域における前記ズレ量とに基づいて決定する決定工程と、
    前記移動量に基づいて、前記第一の領域と前記第二の領域とが重複する領域における前記第一の2次元断層像と前記第二の2次元断層像との位置合わせを行う位置合わせ工程と、
    をコンピュータに実行させることを特徴とするプログラム。
JP2017172336A 2017-09-07 2017-09-07 画像処理装置、画像処理方法及びプログラム Pending JP2019047841A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017172336A JP2019047841A (ja) 2017-09-07 2017-09-07 画像処理装置、画像処理方法及びプログラム
US16/122,471 US10803568B2 (en) 2017-09-07 2018-09-05 Image processing apparatus, alignment method and storage medium
EP18192978.7A EP3453315B1 (en) 2017-09-07 2018-09-06 Image processing apparatus, alignment method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017172336A JP2019047841A (ja) 2017-09-07 2017-09-07 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019047841A true JP2019047841A (ja) 2019-03-28
JP2019047841A5 JP2019047841A5 (ja) 2020-08-27

Family

ID=63524170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017172336A Pending JP2019047841A (ja) 2017-09-07 2017-09-07 画像処理装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (1) US10803568B2 (ja)
EP (1) EP3453315B1 (ja)
JP (1) JP2019047841A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3135729A1 (fr) 2022-04-26 2023-11-24 La Fabrique Vegetale EXTRAIT de beurre de karité enrichi en insaponifiable détriterpéné

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3599987A4 (en) * 2017-03-23 2020-12-16 Doheny Eye Institute SYSTEMS, METHODS AND DEVICES FOR OPTICAL COHERENCE TOMOGRAPHY WITH MULTI-ENFACE ANGIOGRAPHY MEANS

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011254959A (ja) * 2010-06-08 2011-12-22 Canon Inc 画像処理装置、画像処理方法、及びプログラム
JP2017127580A (ja) * 2016-01-22 2017-07-27 キヤノン株式会社 検査装置及び検査方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8223143B2 (en) 2006-10-27 2012-07-17 Carl Zeiss Meditec, Inc. User interface for efficiently displaying relevant OCT imaging data
JP5199031B2 (ja) 2008-11-05 2013-05-15 株式会社ニデック 眼科撮影装置
JP5737830B2 (ja) * 2009-04-13 2015-06-17 キヤノン株式会社 光断層撮像装置及びその制御方法
AU2011206927B2 (en) 2010-01-13 2015-12-03 Fei Company A computed tomography imaging process and system
JP5511437B2 (ja) 2010-02-25 2014-06-04 株式会社ニデック 光断層像撮影装置
CN103025229A (zh) 2010-04-29 2013-04-03 麻省理工学院 适用于光学相干断层扫描技术的移动修正和图像增强的方法和装置
WO2012018303A1 (en) 2010-08-03 2012-02-09 Agency For Science, Technology And Research Corneal graft evaluation based on optical coherence tomography image
US9795292B2 (en) 2012-02-29 2017-10-24 Nidek Co., Ltd. Method for taking tomographic image of eye
EP2693397B1 (en) 2012-07-30 2017-09-06 Canon Kabushiki Kaisha Method and apparatus for noise reduction in an imaging system
JP6099903B2 (ja) 2012-08-30 2017-03-22 キヤノン株式会社 画像処理装置および画像処理方法
JP6241040B2 (ja) 2013-01-23 2017-12-06 株式会社ニデック 眼科解析装置、及び眼科解析プログラム
EP2865324B1 (en) 2013-09-27 2016-06-15 Tomey Corporation Anterior segment three-dimensional image processing apparatus, and anterior segment three-dimensional image processing method
JP2015080679A (ja) 2013-10-24 2015-04-27 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN105939652B (zh) 2014-02-04 2018-07-24 南加利福尼亚大学 具有相位敏感的b扫描配准的光学相干断层扫描(oct)系统
JP6679505B2 (ja) 2014-06-16 2020-04-15 エージェンシー フォー サイエンス,テクノロジー アンド リサーチ 光干渉断層撮影画像内のスペックルノイズの低減
JP6731919B2 (ja) 2014-11-20 2020-07-29 エージェンシー フォー サイエンス,テクノロジー アンド リサーチ 光コヒーレンス断層撮影像におけるスペックル低減
US20170358077A1 (en) 2014-12-30 2017-12-14 Agency For Science, Technology And Research Method and apparatus for aligning a two-dimensional image with a predefined axis

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011254959A (ja) * 2010-06-08 2011-12-22 Canon Inc 画像処理装置、画像処理方法、及びプログラム
JP2017127580A (ja) * 2016-01-22 2017-07-27 キヤノン株式会社 検査装置及び検査方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3135729A1 (fr) 2022-04-26 2023-11-24 La Fabrique Vegetale EXTRAIT de beurre de karité enrichi en insaponifiable détriterpéné

Also Published As

Publication number Publication date
US10803568B2 (en) 2020-10-13
US20190073758A1 (en) 2019-03-07
EP3453315A1 (en) 2019-03-13
EP3453315B1 (en) 2020-04-01

Similar Documents

Publication Publication Date Title
US20210224997A1 (en) Image processing apparatus, image processing method and computer-readable medium
GB2591890A (en) Medical image processing device, medical image processing method, and program
WO2020036182A1 (ja) 医用画像処理装置、医用画像処理方法及びプログラム
US11887288B2 (en) Image processing apparatus, image processing method, and storage medium
JP7374615B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2019047839A (ja) 画像処理装置、位置合わせ方法及びプログラム
JP7027076B2 (ja) 画像処理装置、位置合わせ方法及びプログラム
JP7362403B2 (ja) 画像処理装置および画像処理方法
JP7102112B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2019047841A (ja) 画像処理装置、画像処理方法及びプログラム
JP7297952B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP7005382B2 (ja) 情報処理装置、情報処理方法およびプログラム
WO2019230643A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP2019150485A (ja) 画像処理システム、画像処理方法及びプログラム
WO2020090439A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP2022062620A (ja) 画像処理装置、画像処理方法及びプログラム
JP7158860B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7086708B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2019063446A (ja) 画像処理装置、画像処理方法及びプログラム
JP7281872B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20220110521A1 (en) Image processing apparatus, image processing method, and storage medium
JP2020065811A (ja) 画像処理装置、画像処理方法及びプログラム
JP2022062619A (ja) 画像処理装置、画像処理方法及びプログラム
JP2019198384A (ja) 画像処理装置、画像処理方法及びプログラム
JP2020093125A (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200717

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200717

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210813

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220118