JP2019126572A - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP2019126572A
JP2019126572A JP2018010522A JP2018010522A JP2019126572A JP 2019126572 A JP2019126572 A JP 2019126572A JP 2018010522 A JP2018010522 A JP 2018010522A JP 2018010522 A JP2018010522 A JP 2018010522A JP 2019126572 A JP2019126572 A JP 2019126572A
Authority
JP
Japan
Prior art keywords
image
motion contrast
contrast data
data
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018010522A
Other languages
English (en)
Other versions
JP7158860B2 (ja
Inventor
好彦 岩瀬
Yoshihiko Iwase
好彦 岩瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018010522A priority Critical patent/JP7158860B2/ja
Publication of JP2019126572A publication Critical patent/JP2019126572A/ja
Application granted granted Critical
Publication of JP7158860B2 publication Critical patent/JP7158860B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Eye Examination Apparatus (AREA)

Abstract

【課題】 断層構造とモーションコントラストデータとの関係が明確な画像を提供する。【解決手段】 画像処理装置は、被検眼の複数の断層画像が合成された画像である合成画像を取得する第1取得手段と、前記被検眼のモーションコントラストデータを取得する第2取得手段と、前記合成画像に前記合成画像と対応する位置の前記モーションコントラストデータを重畳した状態で前記合成画像と前記モーションコントラストデータとを表示部に表示させる表示制御手段と、を備える。【選択図】 図1

Description

本明細書の開示は、画像処理装置、画像処理方法及びプログラムに関する。
Optical Coherence Tomography造影剤を用いない血管造影法としてOCT(Optical Coherence Tomography:OCT)を用いた血管造影法(OCT Angiography:OCTA)が知られている(特許文献1)。測定対象の同一断面をOCTで繰り返し撮影し、その撮影間における測定対象の時間的な変化をモーションコントラストデータとして検出する。
特開2017−77414号公報
断層構造とモーションコントラストデータとの関係が明確ではない場合があった。
本明細書の開示は、断層構造とモーションコントラストデータとの関係が明確な画像を提供することを目的の一つとする。
なお、前記目的に限らず、後述する発明を実施するための形態に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本件の他の目的の1つとして位置付けることができる。
本明細書に開示の画像処理装置は、
被検眼の複数の断層画像が合成された画像である合成画像を取得する第1取得手段と、
前記被検眼のモーションコントラストデータを取得する第2取得手段と、
前記合成画像に前記合成画像と対応する位置の前記モーションコントラストデータを重畳した状態で前記合成画像と前記モーションコントラストデータとを表示部に表示させる表示制御手段と、
を備える。
本明細書に開示の技術によれば、断層構造とモーションコントラストデータとの関係が明確な画像を提供することが可能となる。
画像処理システムの構成の一例を示す図。 眼部の構造、断層画像および眼底画像の一例を説明するための図。 画像処理システムにおける処理の一例を示すフローチャート。 第一の位置合わせ処理の一例を示すフローチャート。 第三の位置合わせ処理の一例を示すフローチャート。 第四の位置合わせ処理の一例を示すフローチャート。 モーションコントラストデータ生成の一例を説明するための図。 アーティファクト除去の一例を説明するための図。 第一の位置合わせの一例を説明するための図。 第二の位置合わせの一例を説明するための図。 第三の位置合わせの一例を説明するための図。 第三の位置合わせ結果の一例を説明するための図。 三次元でのデータ変形結果の一例を説明するための図。 第四の位置合わせの一例を説明するための図。 第四の位置合わせの一例を説明するための図。 モーションコントラストデータと断層画像の加算平均前後の一例を説明するための図。 モーションコントラストデータと断層画像の加算平均前後の一例を説明するための図。 モーションコントラストデータの加算平均前後の一例を説明するための図。 画像を表示する画面の一例を説明するための図。 モーションコントラストデータと断層画像の加算平均前後の一例を説明するための図。 画像を表示する画面の一例を説明するための図。 モーションコントラストデータと断層画像の対応の一例を説明するための図。 画像を表示する画面の一例を説明するための図。 モーションコントラストデータの表示形態の一例を説明するための図。
〔実施例1〕
以下、図面を参照しながら、第1の実施形態について説明する。なお、本実施形態に係る画像処理装置は、アーティファクトを低減した三次元のモーションコントラストデータを生成するにあたり、複数のモーションコントラストデータの位置合わせをすると共に、加算平均を行うために位置合わせの基準となるモーションコントラストデータを選択する。
本実施形態によれば、固視微動などにより、モーションコントラストデータにアーティファクトが存在する場合においても高画質な三次元のモーションコントラストデータを取得することが可能となる。ここで、高画質とは一度の撮影と比較してS/N比が向上している画像をいう。または、診断に必要な情報量が増えている画像のことをいう。なお、本実施形態において、三次元データは、輝度値からなる三次元の断層像データ(三次元断層画像)と、脱相関値からなる三次元のモーションコントラストデータのことを指す。
以下、本実施形態に係る画像処理装置を備える画像処理システムについて、詳細を説明する。
図1は、本実施形態に係る画像処理装置300を備える画像処理システム100の構成を示す図である。図1に示すように、画像処理システム100は、画像処理装置300が、インタフェースを介して断層画像撮影装置(OCTとも言う)200、眼底画像撮影装置400、外部記憶部500、表示部600、入力部700と接続されることにより構成されている。
断層画像撮影装置200は、眼部の断層画像を撮影する装置である。断層画像撮影装置に用いる装置は、例えばSD−OCTやSS−OCTからなる。なお、断層画像撮影装置200は既知の装置であるため詳細な説明は省略し、ここでは、画像処理装置300からの指示により行われる断層画像の撮影について説明を行う。
図1において、ガルバノミラー201は、測定光の眼底における走査を行うためのものであり、OCTによる眼底の撮影範囲を規定する。また、駆動制御部202は、ガルバノミラー201の駆動範囲および速度を制御することで、眼底における平面方向の撮影範囲及び走査線数(平面方向の走査速度)を規定する。ここでは、簡単のためガルバノミラーは一つのユニットとして示したが、実際にはXスキャン用のミラーとYスキャン用の2枚のミラーで構成され、眼底上で所望の範囲を測定光で走査できる。
フォーカス203は被検体である眼の前眼部を介し、眼底の網膜層にフォーカスするためのものである。測定光は、不図示のフォーカスレンズにより、被検体である眼の前眼部を介し、眼底の網膜層にフォーカスされる。眼底を照射した測定光は各網膜層で反射・散乱して戻る。
内部固視灯204は、表示部241、レンズ242で構成される。表示部241として複数の発光ダイオード(LD)がマトリックス状に配置されたものを用いる。発光ダイオードの点灯位置は、駆動制御部202の制御により撮影したい部位に合わせて変更される。表示部241からの光は、レンズ242を介し、被検眼に導かれる。表示部241から出射される光は例えば520nmで、駆動制御部202により所望のパターンが表示される。
コヒーレンスゲートステージ205は、被検眼の眼軸長の相違等に対応するため、駆動制御部202により制御されている。コヒーレンスゲートとは、OCTにおける測定光と参照光の光学距離が等しい位置を表す。さらには、撮影方法としてコヒーレンスゲートの位置を制御することにより、網膜層側か、あるいは網膜層より深部側とする撮影を行うことを制御する。ここで、画像処理システムで取得する眼の構造と画像について図2を用いて説明する。
図2(a)に眼球の模式図を示す。図2(a)において、Cは角膜、CLは水晶体、Vは硝子体、Mは黄斑部(黄斑の中心部は中心窩を表す)、Dは視神経乳頭部を表す。本実施形態に係る断層画像撮影装置200は、主に、硝子体、黄斑部、視神経乳頭部を含む網膜の後極部を撮影する場合について説明を行う。なお、本実施例では説明をしないが、断層画像撮影装置200は、角膜、水晶体の前眼部を撮影することも可能である。
図2(b)に断層画像撮影装置200が取得する網膜を撮影した場合の断層画像の例を示す。図2(b)において、ASはAスキャンというOCT断層画像における画像取得の単位を表す。このAスキャンが複数集まって一つのBスキャンを構成する。そしてこのBスキャンのことを断層画像(あるいは断層像)と呼ぶ。図2(b)において、Veは血管、Vは硝子体、Mは黄斑部、Dは視神経乳頭部を表す。また、L1は内境界膜(ILM)と神経線維層(NFL)との境界、L2は神経線維層と神経節細胞層(GCL)との境界、L3は視細胞内節外節接合部(ISOS)、L4は網膜色素上皮層(RPE)、L5はブルッフ膜(BM)、L6は脈絡膜を表す。断層画像において、横軸(OCTの主走査方向)をx軸、縦軸(深さ方向)をz軸とする。
図2(c)に眼底画像撮影装置400が取得する眼底画像の例を示す。眼底画像撮影装置400は、眼部の眼底画像を撮影する装置であり、当該装置としては、例えば、眼底カメラやSLO(Scanning Laser Ophothalmoscope)等が挙げられる。図2(c)において、Mは黄斑部、Dは視神経乳頭部を表し、太い曲線は網膜の血管を表す。眼底画像において、横軸(OCTの主走査方向)をx軸、縦軸(OCTの副走査方向)をy軸とする。なお、断層画像撮影装置200と眼底画像撮影装置400の装置構成は、一体型でもよいし別体型でもよい。
画像処理装置300は、画像取得部301、記憶部302、画像処理部303、指示部304、表示制御部305を備える。画像処理装置300は、例えば、不図示の1以上のプロセッサと1以上のメモリを備え、1以上のプロセッサが1以上のメモリに記憶されたプログラムを実行することで、1以上のプロセッサは画像取得部301、画像処理部303、指示部304、表示制御部305として機能する。プロセッサは例えばCPUまたはGPU等のハードウエアである。画像取得部301は、断層画像生成部311、モーションコントラストデータ生成部312からなり、断層画像撮影装置200により撮影された断層画像の信号データを取得し、信号処理を行うことで断層画像の生成、ならびにモーションコントラストデータの生成を行う。また、眼底画像撮影装置400により撮影された眼底画像データを取得する。そして、生成した断層画像と眼底画像を記憶部302に格納する。画像処理部303は、前処理部331、画像生成部332、検出部333、第一の位置合わせ部334、選択部335、第二の位置合わせ部336、第三の位置合わせ部337、第四の位置合わせ部338、画像合成部339からなる。
前処理部331は、モーションコントラストデータからアーティファクトを除去する処理を行う。画像生成部332は、三次元のモーションコントラストデータから二次元のモーションコントラスト正面画像(OCTA画像とも言う)を生成する。検出部333は、網膜から各層の境界線を検出する。第一の位置合わせ部334は、二次元の正面画像の位置合わせを行う。選択部335は、第一の位置合わせ部334の結果から基準とするデータを選択する。第二の位置合わせ部336は、OCTA画像を用いて網膜の横方向(x軸)の位置合わせを行う。第三の位置合わせ部337は、網膜の深さ方向(z軸)の位置合わせを行う。第四の位置合わせ部338は、断層画像内部の特徴がある部分に位置合わせのための領域を複数設定し、その領域単位で網膜の深さ方向(z軸)の位置合わせを行う。画像合成部339は、第一から第四の位置合わせ部によって位置合わせされた三次元データを加算平均する。なお、画像処理装置300は、断層画像撮影装置200と別体であってもよいし一体であってもよい。
外部記憶部500は、被検眼に関する情報(患者の氏名、年齢、性別など)と、撮影した画像データ、撮影パラメータ、画像解析パラメータ、操作者によって設定されたパラメータをそれぞれ関連付けて保持している。
入力部700は、例えば、マウス、キーボード、タッチ操作画面などであり、操作者は、入力部700を介して、画像処理装置300や断層画像撮影装置200、眼底画像撮影装置400へ指示を行う。
次に、図3を参照して本実施形態の画像処理装置300の処理手順を示す。図3(a)は、本実施形態における本システム全体の動作処理、図3(b)は、本実施形態における高画質画像生成処理の流れを示すフローチャートである。
<ステップS301>
ステップS301では、不図示の被検眼情報取得部は、被検眼を同定する情報として被検者識別番号を外部から取得する。そして、被検者識別番号に基づいて、外部記憶部500が保持している当該被検眼に関する情報を取得して記憶部302に記憶する。
<ステップS302>
ステップS302では被検眼をスキャンして撮影を行う。被検眼のスキャンは、操作者が不図示のスキャン開始を選択すると、断層画像撮影装置200は、駆動制御部202を制御し、ガルバノミラー201を動作させて断層画像のスキャンを行う。ガルバノミラー201は、水平方向用のXスキャナと垂直方向用のYスキャナで構成される。そのため、これらのスキャナの向きをそれぞれ変更すると、装置座標系における水平方向(X)、垂直方向(Y)それぞれの方向に走査することが出来る。そして、これらのスキャナの向きを同時に変更させることで、水平方向と垂直方向とを合成した方向に走査することが出来るため、眼底平面上の任意の方向に走査することが可能となる。
撮影を行うにあたり各種撮影パラメータの調整を行う。具体的には、内部固視灯の位置、スキャン範囲、スキャンパターン、コヒーレンスゲート位置、フォーカスを少なくとも設定する。駆動制御部202は、表示部241の発光ダイオードを制御して、黄斑部中心や視神経乳頭に撮影を行うように内部固視灯204の位置を制御する。スキャンパターンは、三次元ボリュームを撮影するラスタスキャンや放射状スキャン、クロススキャンなどのスキャンパターンを設定する。これら撮影パラメータの調整終了後、操作者が不図示の撮影開始を選択することで撮影を行う。
本実施形態においては、スキャンパターンはラスタスキャンによる三次元ボリュームで、高画質データ生成のために三次元ボリュームをN回(Nは2以上)撮影する。N回繰り返し撮影するデータは、同じ撮影範囲を同じスキャンパターンで撮影する。例えば、3mm×3mmの範囲を300×300(主走査×副走査)の間隔で繰り返し撮影を行う。三次元ボリュームにおいては、モーションコントラストを計算するために同一のライン箇所をM回(Mは2以上)繰り返し撮影する。すなわち、Mが2回だとする場合、実際には300×600のデータを撮影し、そこから300×300の三次元モーションコントラストデータを生成する。なお、本明細書における同一とは完全に同一な場合およびトラッキングの不完全さに起因する誤差があり完全に同一とならない場合の両者を含む概念である。
本実施例においては詳細な説明を省略するが、断層画像撮影装置200は、加算平均用に同じ場所を撮影するために、被検眼のトラッキングを行うことで、固視微動の影響を少なくして被検眼のスキャンを行う。さらに、まばたきなどの画像を生成するにあたりアーティファクトとなる動きを検出した場合には、アーティファクトが発生した場所で再スキャンを自動的に行う。
<ステップS303>
ステップS303では、断層画像生成部311が断層画像の生成を行う。断層画像生成部311は、それぞれの干渉信号に対して、一般的な再構成処理を行うことで、断層画像を生成する。
まず、断層画像生成部311は、干渉信号から固定パターンノイズ除去を行う。固定パターンノイズ除去は検出した複数のAスキャン信号を平均することで固定パターンノイズを抽出し、これを入力した干渉信号から減算することで行われる。次に、断層画像生成部311は、有限区間でフーリエ変換した場合にトレードオフの関係となる深さ分解能とダイナミックレンジを最適化するために、所望の窓関数処理を行う。次に、FFT処理を行う事によって断層信号を生成する。
<ステップS304>
ステップS304では、モーションコントラストデータ生成部312がモーションコントラストデータの生成を行う。このデータ生成について図7を用いて説明を行う。MCは三次元のモーションコントラストデータを示し、LMCは三次元のモーションコントラストデータを構成する二次元のモーションコントラストデータを示している。ここでは、このLMCを生成する方法について説明をする。
モーションコントラストデータ生成部312は、まず被検眼の同一範囲で撮影された複数の断層像間の位置ずれを補正する。位置ずれの補正方法は任意の方法であってよい。例えば、モーションコントラストデータ生成部312は、同一範囲をM回撮影し、同一箇所に相当する断層像データ(断層画像)同士について、眼底形状等の特徴等を利用して位置合わせを行う。具体的には、M個の断層像データのうちの1つをテンプレートとして選択し、テンプレートの位置と角度を変えながらその他の断層像データとの類似度を求め、テンプレートとの位置ずれ量を求める。その後、モーションコントラストデータ生成部312は、求めた位置ずれ量に基づいて、各断層像データを補正する。
次にモーションコントラストデータ生成部312は、各断層像データに関する撮影時間が互いに連続する、2つの断層像データ間で数1により脱相関値M(x,z)を求める。
ここで、A(x,z)は断層像データAの位置(x、z)における輝度、B(x,z)は断層像データBの同一位置(x、z)における輝度を示している。
脱相関値M(x,z)は0〜1の値となり、2つの輝度の差が大きいほどM(x,z)の値は大きくなる。モーションコントラストデータ生成部312は、同一位置で繰り返し取得したMが3以上の場合には、同一位置(x、z)において複数の脱相関値M(x,z)を求めることができる。モーションコントラストデータ生成部312は、求めた複数の脱相関値M(x,z)の最大値演算や平均演算などの統計的な処理を行うことで、最終的なモーションコントラストデータを生成することができる。なお、繰り返し回数Mが2の場合、最大値演算や平均演算などの統計的な処理は行わず、隣接する二つの断層画像AとBの脱相関値M(x,z)が、位置(x、z)におけるモーションコントラスト値となる。
数1に示したモーションコントラストの計算式はノイズの影響を受けやすい傾向がある。例えば、複数の断層像データの無信号部分にノイズがあり、互いに値が異なる場合には、脱相関値が高くなり、モーションコントラスト画像にもノイズが重畳してしまう。これを避けるために、モーションコントラストデータ生成部312は、前処理として、断層像データにおいて所定の閾値を下回る輝度値の部分はノイズとみなして、脱相関値(モーションコントラスト値)をゼロに置き換えることができる。これにより、画像生成部332は、生成されたモーションコントラストデータに基づいて、ノイズの影響を低減したモーションコントラスト画像を生成することができる。
上述したステップS302からステップS304の処理を所定回数繰り返す。それにより、複数の三次元断層画像と複数の三次元モーションコントラストデータを取得することができる。これら取得した複数のデータを用いて、ステップS305では、画像処理部303が高画質データ生成を行う。高画質データを生成するためのデータ選択と実行の表示形態に関しては後述(ステップS306)する。ここでは、画像処理部303の処理について、図3(b)、図4〜図6のフローチャートと、図7〜図15を用いて説明をする。
<ステップS351>
ステップS351では、検出部333は、断層画像撮影装置200が撮影した複数の断層画像において網膜層の境界線を検出する。検出部333は、図2(b)の断層画像においてL1〜L6の各境界、あるいは不図示のGCL/IPL、IPL/INL、INL/OPL、OPL/ONL境界のいずれかを検出する。処理の対象とする断層画像に対して、メディアンフィルタとSobelフィルタをそれぞれ適用して画像を作成する(以下、メディアン画像、Sobel画像とする)。次に、作成したメディアン画像とSobel画像から、Aスキャン毎にプロファイルを作成する。メディアン画像では輝度値のプロファイル、Sobel画像では勾配のプロファイルとなる。そして、Sobel画像から作成したプロファイル内のピークを検出する。検出したピークの前後やピーク間に対応するメディアン画像のプロファイルを参照することで、網膜層の各領域の境界を検出する。
<ステップS352>
ステップS352では、画像生成部332が、三次元のモーションコントラストデータに対して指定された生成範囲上端と生成範囲下端との範囲に対応するモーションコントラストデータを二次元平面上に投影し、OCTA画像を生成する。具体的には、画像生成部332が、全体のモーションコントラストデータのうち生成範囲上端と生成範囲下端の間の範囲に対応するモーションコントラストデータに基づいて、その範囲内のモーションコントラストデータを平均値投影(AIP)、あるいは最大値投影(MIP)などの処理を行うことで、モーションコントラスト画像の正面画像であるOCTA画像を生成する。なお、OCTA画像の生成方法は平均値や最大値に限らない。最小値、中央値、分散、標準偏差、総和などの値で生成しても良い。
本実施形態においては、生成範囲上端をILM/NFL境界線とし、生成範囲下端をGCL/IPLから深度方向に50μm下端の境界線とする。そして、平均値投影法でOCTA画像を生成する。
なお、モーションコントラストデータ生成部312が、生成範囲上端と生成範囲下端との間の範囲の断層像データを用いてモーションコントラストデータを生成する構成としてもよい。この場合、画像生成部332は、生成されたモーションコントラストデータに基づいてOCTA画像を生成することで、指定された深度範囲の断層像データに基づくOCTA画像を生成することができる。
<ステップS353>
ステップS353では、N枚のOCTA画像において、画像の横方向(x軸)と縦方向(y軸)、xy面内の回転位置合わせをそれぞれ行う。これについて、図4のフローチャートを用いて説明をする。
<ステップS3531>
ステップS3531では、前処理部331は、画像生成部332が生成したOCTA画像から黒帯や白線のようなアーティファクトを検出し、除去する。これについて図8を用いて説明をする。図8において、OCTA画像の黒い領域は脱相関値が高い場所、すなわち血液の流れが検出された場所(血管に相当する)を表し、白い領域は、脱相関値が低い場所を表す。図8(a)のBBは黒帯の例で、図8(b)のWLは白線の例を示している。黒帯は、撮影中の動きにより、網膜の位置が感度の高い位置から遠ざかることで網膜断層像の輝度値が低下し脱相関の値が低くなったり、まばたき等により画像全体が暗くなることで脱相関の値が低くなったりすることで発生する。白線は、脱相関の計算においてM個の断層像を位置合わせして計算をするが、位置合わせがうまくいかなかったり、位置合わせで位置を補正しきれなかったりする場合に、画像全体の脱相関値が高くなることで発生する。これらのアーティファクトは脱相関の計算において発生するため、主走査方向の1ライン単位で発生する。そのため、前処理部331は、1ライン単位でアーティファクトを検出する。
例えば、黒帯検出は、1ラインでの脱相関の平均値が閾値THAVG_B以下の場合、黒帯とする。白線検出は、1ラインでの脱相関値の平均値が閾値THAVG_W以上で、かつ、標準偏差(あるいは分散値)がTHSD_W以下である場合、白線とする。白線の場合、平均値だけで判定を行うと大血管などで脱相関値が高く出る場合があり、これらのような脱相関値の高い血管が含まれる領域を白線と誤検出してしまう事がある。そのため、標準偏差や分散のような値のバラつきを評価する指標と組み合わせて判断する。すなわち、脱相関値の高い血管が含まれる1ラインは、平均値が高くて標準偏差も高くなる。一方、白線の1ラインは、平均値は高いが値のバラつきは小さいため標準偏差は低くなる。なお、OCTA画像は健常眼や患眼、患眼などでも病気の種類に応じて脱相関値の値が変動する。そのため、閾値は画像毎に設定することが望ましく、P−tileや判別分析のような動的閾値法を用いて、OCTA画像の明るさに応じて設定することが望ましい。なお、動的閾値法を用いる場合、上限閾値と下限閾値は事前に設定しておき、その値を上回るか下回る場合には、それらの上限閾値、あるいは下限閾値を閾値として設定する。
前処理部331は、上記で求めたアーティファクト領域を、OCTA画像に対応するMask画像に記憶しておく。図のMask画像において、白い領域は1、黒い領域は0の値を設定した例を示す。
<ステップS3532>
ステップS3532では、第一の位置合わせ部334は、各OCTA画像をそれぞれ位置合わせした場合の位置合わせパラメータを保存するための二次元行列を初期化する。各行列の要素には、位置合わせ時の変形パラメータや画像類似度などの画像高画質化に必要な情報をまとめて保存する。
<ステップS3533>
ステップS3533では、第一の位置合わせ部334は、位置合わせ対象を選択する。本実施形態においては、全てのOCTA画像を基準画像に設定して残りのOCTA画像と位置合わせを行う。そのため、ステップS3533においては、Data0のOCTA画像を基準とする場合に、Data1〜Data(N−1)とそれぞれ位置合わせを行う。次に、Data1のOCTA画像を基準とする場合には、Data2〜Data(N−1)とそれぞれ位置合わせを行う。次に、Data2のOCTA画像を基準とする場合には、Data3〜Data(N−1)とそれぞれ位置合わせを行う。これらの処理を繰り返す。この例を図9(a)に示す。図9では簡単のため、Data0〜Data2を示しているが、三次元ボリュームをN回撮影している場合には、N個のOCTA画像間での位置合わせを行う。
なお、ここで示したように基準画像のDataを1つずつ繰り上げた場合に、位置合わせの対象とする画像のスタートDataも1つずつ大きくする。これについてData2のOCTA画像を基準とする場合について説明をする。Data2を基準とする場合に、Data0とData1、Data0とData2、Data1とData2の位置合わせは、それまでの処理により既に位置合わせ済みである。そのため、Data2のOCTA画像を基準とする場合には、Data3から位置合わせをすればよい。これにより、全部のOCTA画像同士の位置合わせとはいえ、半分の組み合わせを計算すればよいことになる。
<ステップS3534>
ステップS3534では、第一の位置合わせ部334は、複数のOCTA画像間において画像の横方向(x軸)と縦方向(y軸)、xy面内の回転位置合わせを行う。OCTA画像間の位置合わせでは、xy面内においてサブピクセル位置合わせを行うために、OCTA画像のサイズを拡大して位置合わせを行う。サブピクセル位置合わせとすることで、ピクセル位置合わせよりも位置合わせの精度が向上することが期待される。例えば、OCTA画像の撮影サイズを300×300とした場合、600×600に拡大をする。拡大する際にはBicubicやLanczos(n)法のような補間方法を用いる。そして、画像同士の位置合わせ処理としては、例えば、2つのOCTA画像の類似度を表す評価関数を事前に定義しておき、OCTA画像位置をずらしたり、回転させたりしながら評価値を計算し、評価値が最もよくなる場所を位置合わせ結果とする。評価関数としては、画素値で評価する方法が挙げられる(例えば、相関係数を用いて評価を行う方法が挙げられる)。
類似度を表す評価関数として相関係数を用いた場合の式を数2に示す。
数2において、Data0のOCTA画像の領域をf(x,y)、Data1のOCTA画像の領域をg(x,y)とする。
は、それぞれ領域f(x,y)と領域g(x,y)の平均を表す。なお、ここで領域とは位置合わせに用いるための画像領域であり、通常OCTA画像のサイズ以下の領域が設定され、上述したROIサイズが設定される。
また、評価関数としては、これに限らずSSD(Sum of Squared Difference)や、SAD(Sum of Absolute Difference)でもよく、画像の類似度あるいは相違度を評価出来ればよい。あるいは、POC(Phase Only Correlation)のような方法で、位置合わせを行っても良い。この処理により、XY面内の大局的な位置合わせが行われる。
なお、ここではOCTA画像のサイズを拡大して位置合わせを行う例について示したが、これに限らない。また、入力のOCTA画像サイズが900×900のような高密度スキャンの場合には、必ずしも拡大をする必要はない。また、位置合わせを高速で行うため、ピラミッド構造データを生成して位置合わせをしてもよい。
<ステップS3535>
ステップS3535では、第一の位置合わせ部334は、OCTA画像の画像評価値を計算する。画像評価値は、ステップS3534での二次元位置合わせ済みのOCTA画像において、位置合わせにより発生する無効領域を含まない画像の共通領域を用いて計算する。例えば、画像評価値Qは数4で求めることが出来る。
数4において、Data0のOCTA画像の領域をf(x,y)、Data1のOCTA画像の領域をg(x,y)とする。最初の項は相関係数を表し、数2で示した式と同様である。そのため、式の中のσ、σはそれぞれ、数2で示したものと対応する。2番目の項は明るさを評価する項であり、
は、それぞれ領域f(x,y)と領域g(x,y)の平均を表す。3番目の項はコントラストを評価する項である。それぞれの項は、最小値0で、最大値は1となる。例えば、Data0とData1が同じ画像である場合には評価値は1となる。そのため、N個のOCTA画像の中で平均的な画像を基準とした場合に評価値は高く、他のOCTA画像と異なるようなOCTA画像を基準とした場合には評価値は低くなる。ここで、他のOCTA画像と異なるとは、撮影位置が異なる、画像がひずんでいる、全体的に暗いあるいは明るすぎる、白線や黒帯などのアーティファクトが含まれているような場合である。なお、画像評価値は必ずしもここで示した式である必要はなく、それぞれの項を単独で評価しても良いし、組み合わせを変えても良い。
<ステップS3536>
ステップS3536では、第一の位置合わせ部334は、ステップS3532で初期化した位置合わせや画像類似度などの画像高画質化に必要なパラメータを保存するための二次元行列に対して値を保存する。例えば、基準画像をData0、対象画像をData1とする場合、二次元行列の要素(0、1)に横方向の位置合わせパラメータX、縦方向の位置合わせパラメータY、XY面内の回転パラメータα、画像評価値、画像類似度を保存する。これらの情報の他に、図8で示したMask画像をOCTA画像と関連付けて保存しておく。さらに、本実施形態では説明をしないが、倍率補正を行う場合には、倍率を保存しても良い。
<ステップS3537>
ステップS3537では、第一の位置合わせ部334は、全ての画像を基準画像として残りの対象画像と位置合わせを行ったか否かを判定する。全ての画像を基準として処理をしていない場合には、ステップS3533に戻る。そして、全ての画像を基準として処理をした場合には、ステップS3538に進む。
<ステップS3538>
ステップS3538では、第一の位置合わせ部334は、二次元行列の残りの要素を更新する。上記処理は、ステップS3533で説明したように、半分の組み合わせしか計算をしていない。そのため、計算をしていない要素にこれらの値をコピーする。例えば、二次元行列の要素(0、1)のパラメータは(1、0)の要素にコピーされる。すなわち、要素(i、j)を要素(j、i)にコピーする。この際、位置合わせパラメータX、Yと回転パラメータαは逆になるため、負の値を掛けてコピーをする。なお、画像類似度などは逆にならないため、同じ値をそのままコピーする。これらの処理によりOCTA画像位置合わせが行われる。次に、図3(b)の処理フローに戻って説明を行う。
<ステップS354>
ステップS354では、選択部335が基準画像の選択を行う。ステップS353で行った位置合わせの結果に基づいて基準画像選択を行う。ステップS353において、二次元行列を作成しており、行列の各要素に高画質化画像生成に必要な情報が保存されている。そのため、その情報を用いることで基準画像選択を行う。基準画像選択において、画像評価値、位置合わせパラメータ評価値、アーティファクト領域評価値を用いて選択を行う。画像評価値は、ステップS3535で求めた値を用いる。位置合わせパラメータは、ステップS3534で求めた位置合わせ結果のXとYを用いて、例えば、数6を用いて評価値とする。数6では、移動量が大きいほど大きな値となる。
アーティファクト領域評価値は、ステップS3531で求めたMask画像を用いて、例えば、数7を用いて評価値とする。数7では、T(x,y)はMask画像でのアーティファクトではない領域のピクセルを表し、A(x,y)はMask画像の全ピクセルを表す。そのため、アーティファクトが存在しない場合、最大値は1となる。
画像評価値とアーティファクト領域評価値は数値が大きい方が良く、位置合わせパラメータ評価値は数値が小さい方が良い。また、画像評価値と位置合わせパラメータ評価値は、ある画像を基準とした時に、その他の画像との関係で求める値であるため、N−1個の合計値となる。これらの評価値は評価尺度が異なるため、それぞれの値でソートを行い、ソートしたインデックスの合計値により基準画像を選択する。例えば、画像評価値とアーティファクト領域評価値は数値が大きいほど、ソート後のインデックスが小さくなるようにソートを行い、位置合わせパラメータ評価値は数値が小さいほど、ソート後のインデックスが小さくなるようにソートを行う。これらのソート後のインデックス値が最も小さくなる画像を基準画像として選択する。
なお、基準画像選択の方法について、ソート値を合計することで基準画像を選択する例について述べたがこれに限らない。それぞれの評価値のソート後のインデックスに重みをつけて評価値を計算するようにしても良い。
あるいは、ソート値ではなく、それぞれの評価値が1になるように正規化をして計算するようにしても良い。例えば、画像評価値は1に正規化しているが、本実施形態においてはN−1個の合計値であるため、平均値を用いるようにすればよい。
位置合わせパラメータ評価値は、数8のように定義すれば1に正規化でき、この場合、評価値が1に近い方が良い評価値となる。
数8において、SVは数6で求めた値のN−1個の合計値で、添え字のnはData番号に対応する。そのため、Data0の場合は、SVである。SVmaxは、Data0〜Data(N−1)の間で最大の位置合わせパラメータ評価値である。αは重みであり、SVとSVmaxが同じ数値の時に、NSVの値をいくつに設定するかを調整するパラメータである。なお、最大値SVmaxは上述したように実際のデータから決めても良いし、閾値として事前に定義しておいても良い。
アーティファクト領域評価値は0〜1に正規化してあるので、そのまま用いればよい。
このように、全ての評価値を1に正規化した場合には、評価値の合計値が最も大きくなるものを基準画像として選択する。
ここで説明したように、基準画像は、N個の画像の中で平均的な画像であり、他の画像を位置合わせする際に移動量が少なく、アーティファクトが少ないという条件を最も満たす画像が選択される。この例により選択される基準画像の例を図9(b)に示す。この例では、基準画像にData1を選択している。そして、Data0とData2は、第一の位置合わせ部334で求めた位置合わせパラメータに基づき、それぞれ移動している。
<ステップS355>
ステップS355では、第二の位置合わせ部336がOCTA画像を用いて網膜の横方向(x軸)の位置合わせを行う。これについて図10を用いて説明をする。図10(a)は、基準画像がData1で、位置合わせ対象がData2との横方向位置合わせを行う例を示している。また、Maskは、Data2に含まれるアーティファクト(図では横方向の黒いライン)と、Data1との位置合わせの結果Data2が移動することにより生じる無効領域(図では縦方向の黒いライン)に0を設定してある。基準画像と位置合わせ対象画像は、それぞれのラインで横方向に位置合わせを行い、ライン単位での類似度を計算する。類似度の計算には、例えば数2を用いる。そして、類似度が最大となる位置にラインを移動させる。また、ライン単位で基準画像に対しての類似度を計算し、類似度に応じてMaskに重みを設定する。なお、Maskに対する重み付けは必須の処理ではなく、実施しないこととしてもよい。
第二の位置合わせ部336による位置合わせ結果の例を図10(b)に示す。図10(b)では、画像上端と画像中心付近では、基準画像と似ていないと判断し、重ね合わせに使用しないラインとしてMask画像に横方向の黒ラインを設定した例を示している。また、画像中心付近と画像下端では、ライン単位の位置合わせの結果として、中心付近では左側にずらし、画像下端では右側にずらした例を示している。画像をずらす事で無効領域が生じるため、Maskには無効領域に0を設定する。この処理により、XY面内の局所的な位置合わせが行われる。
なお、第一の位置合わせで求めた回転パラメータαに関して、第二の位置合わせを行う前にそれぞれの画像に対して適用しても良いし、第二の位置合わせを行った後に適用するようにしても良い。
<ステップS356>
ステップS356では、第三の位置合わせ部335は、基準の三次元データとその他の三次元データとの深さ方向(Z方向)における位置合わせを行う。この処理に関して、図5のフローチャートを用いて説明をする。
<ステップS3561>
ステップS3561では、第三の位置合わせ部335は、基準となる三次元モーションコントラストデータと基準となる三次元の断層像データをそれぞれ記憶しておく。例えば、本実施形態ではData1の三次元モーションコントラストデータと三次元の断層像データを記憶する。
<ステップS3562>
ステップS3562では、第三の位置合わせ部335は、ステップS351で検出した境界線情報を取得する。なお、本実施形態において深さ方向位置合わせに用いる境界線はL1とする。
<ステップS3563>
ステップS3563では、第三の位置合わせ部335は、それぞれの三次元データ毎に深さ方向の位置と傾きを合わせる。三次元の断層像を撮影する際に眼は動いている。XY面内の移動に関しては、リアルタイムにトラッキングを行いながら撮影を行うため、撮影時にほとんど位置合わせが出来ている。しかし、深さ方向に関してはリアルタイムトラッキングをしていないため、データ内部でも位置合わせを行う必要がある。すなわち、ここでの説明は一つの三次元データ内の位置合わせに関する。これについて、図11を用いて説明をする。図11(a)は、位置合わせに用いる境界線の例を示している。本実施形態においては、境界線L1(ILM)を用いる場合について説明をする。なお、本実施形態においては境界線L1を使用する例について説明を行うが、境界線の種類はこれに限らない。他の境界線でも良いし、複数の境界線を組み合わせても良い。
図11(a)において、基準データをIndexc、対象データをIndexc−1としている。なお、最初の基準データは三次元データの中心、対象データは基準データに対して副走査方向において隣の境界線とする。
図11(b)に、説明のために基準データの境界線L1と位置合わせ対象の境界線L1’とを同時に表示する。図11(b)において、境界線を縦方向に12分割している。本実施例では分割数を12として説明をする。それぞれの領域はArea0〜Area11とする。なお、図11(b)において、画像中心部に分割領域を描画していないが、実際には画像全体を領域分割している。そして、上下矢印Difference1は、L1とL1’との差を表す。これらの差は、それぞれの領域Area0〜Area11それぞれで求める。これらの分割数は横方向の画像サイズに応じて変更しても良い。あるいは、共通して検出した境界線の横幅のサイズに応じて変更しても良い。本実施例では簡単のため、横方向の境界線サイズを同じで表示しているが、実際には、網膜層が画像の上方向にずれ(Z軸で0の方向)、網膜層の一部領域が画像から欠損する場合がある。その場合には、画像全体で境界線が検出出来ない。そのため、境界線同士の位置合わせにおいては、基準データの境界線L1と位置合わせ対象の境界線L1’との境界線が検出出来ている範囲を分割して位置合わせをすることが望ましい。
図11(b)において各領域のDifference1の平均をそれぞれD〜D11とする。すなわち、ILMの差の平均をその領域の差分の代表値とする。次に各領域で求めた代表値D〜D11を小さい順にソートする。そして、ソートした代表値を小さい順から8個用いて、平均と分散を計算する。なお、本実施形態では選択数は8個とする。しかし、数はこれに限定されない。選択する数は分割数よりも小さければよい。平均と分散の計算は、ソートした代表値を一つずつずらして計算する。すなわち、本実施形態では12個に分割した領域のうち8個の代表値を用いて計算をするため、全部で5種類の平均値と分散値が求まる。次に、求めた5種類の分散値の中で最小となる分散値を算出した際の8個の差分の代表値を用いて深さ方向のシフト値と傾きを求める。これについて、図11(c)と数9を用いて説明をする。図11(c)は、横軸に分割領域の中心x座標、縦軸に差分の代表値としたグラフである。図11(c)において、黒丸は分散値が最小となった組み合わせの差分の代表値の例であり、黒三角は選択されなかった差分の代表値の例を示している。数9は、分散値が最小となった組み合わせの差分の代表値(図11(c)における黒丸)を用いて計算をする。
数9においてDが深さ方向のシフト値であり、xはx座標、すなわちAスキャン位置である。数9におけるaとbに関して、数10と数11に示す。数10、数11において、xは選択された分割領域の中心x座標、Dは選択された差分の代表値であり、nは選択した代表値の数なので、本実施例においてnは8となる。数7により、各Aスキャンの深さ方向のシフト値が求まる。
ここで示すように境界線位置合わせ時に領域を分割し、分割した領域の差分値の組み合わせにおいて最もバラつきが小さくなる値を用いることで、境界線検出に誤りがあったとしても、それらの領域の値は使用しない。そのため、安定して深さ方向のシフト値を計算することが出来る。なお、各領域の深さ方向の代表値として平均値としたが中央値でも良く、代表的な値を用いることが出来ればよい。さらに、バラつきの値として分散値としたが標準偏差でもよく、値のバラつきを評価出来る指標であればよい。
この処理に関して、基準データと対象データを変えながら全てのデータに関して位置合わせを行う。すなわち、最初の基準データは三次元データの中心境界線、対象データは基準データの隣の境界線データとした。この位置合わせが終了したら、その次には、先ほど対象データとしたデータを基準データとして、さらにその隣のデータを対象データとして位置合わせを行う。この処理が画像の端まで完了したら、再度、基準データを中心境界線として、最初の位置合わせとは反対側の隣の境界線データを対象データとして位置合わせをする。反対側においてもこの処理を画像の端まで行う。万が一、層検出出来ていないデータがある場合には、一つ前の位置合わせパラメータを用いて補正を行い、次のデータに進む。
この処理を適用した例を図12(a)に示す。図12は、境界線L1のZ座標を輝度値として表現したDepthMapである。すなわち、DepthMapが明るい場合はZ座標の値が大きく、DepthMapが暗い場合はZ座標の値が小さいことを表している。図12(a)にはData0〜Data2を示し、上側のDepthMapは位置合わせ前で、下側のDepthMapは位置合わせ後である。位置合わせ前のDepthMapには、全てのDataにおいて、横方向の色むらがある。これは、撮影時にZ方向に網膜が動いていることを表している。一方、位置合わせ後のDepthMapには、横方向の色むらが無く、隣接するデータ間でZ方向の位置が合っていることを表している。なお、深さ方向位置合わせにおいて、データの片側を位置合わせした後に、反対側の位置合わせをする例について示したが、それに限らない。最初の基準データを同じにして、両側の処理を並列に実行しても良い。
なお、第三の位置合わせ部335は、基準データ(本実施形態ではData1)の各Aスキャンの深度方向への移動量を記憶しておく。
<ステップS3564>
ステップS3564では、第三の位置合わせ部335は、複数の三次元データ間での深さ方向の位置と傾きを合わせる。ここでは、ステップS3563で三次元データ内での深さ方向の位置合わせをしたデータを用いて、三次元データ間での位置合わせを行う。ここでも、先ほどと同様に境界線L1を用いて位置合わせをする。計算方法は、ステップS3563と同様であるが、計算する対象は、データ内ではなくデータ間となる。そのため、基準データと対象データとの位置合わせを行う。これについて、図12(b)を用いて説明をする。本実施形態において、基準データはData1で、位置合わせの対象データはData0とData2とする。そのため、DepthMapに対して、第一の位置合わせ、第二の位置合わせで求めたパラメータを適用して、Data0とData2のDepthMapをそれぞれ変形させる。そして、Data0とData2共に、Data1に対して、各Bスキャンに相当する境界線L1の深さ方向位置合わせを実行する。これらの計算式は数9と同様の方法で行う。
図12(b)では、Data0〜Data2を示し、上側のDepthMapはデータ内での位置合わせ後で、下側のDepthMapはデータ間での位置合わせ後である。データ内での位置合わせ後のDepthMapでは、Data0〜Data2において網膜のZ位置が異なるため、DepthMapの明るさが異なっている。一方、データ間での位置合わせ後のDepthMapでは、Data0〜Data2において網膜のZ位置が揃っているため、DepthMapの明るさも揃っていることを表している。
これらの処理により、Z方向の大局的な位置合わせが行われる。
<ステップS3565>
ステップS3565では、第三の位置合わせ部335は、第一の位置合わせ、第二の位置合わせ、第三の位置合わせで求めたX、Y、Rotation、Zに関する変形パラメータを適用して三次元データを変形する。第三の位置合わせ部335は、例えば、三次元データに含まれる断層像データおよびモーションコントラストデータの両方とも変形をする。なお、ステップS3534においてxy面内において画像を拡大して位置合わせを行っている場合、三次元データ変形時に元のサイズに相当する変形パラメータに戻す。すなわち、2倍に拡大した画像でのxy面内位置合わせパラメータの数値が1であった場合、ここでは、0.5であるとする。そして、元のサイズで三次元データの形状変形を行う。
三次元データを変換する際に、X、Y、Rotation、Zに関する変形パラメータがサブピクセルあるいはサブボクセルでの移動量である場合、三次元データを補間処理で変形させる。ここで、サブピクセルあるいはサブボクセルであるとは、移動量が0.5のような実数値の場合や、Rotationパラメータが0ではなく、データを回転させる場合などの事である。形状データの補間には、BicubicやLanczos(n)法などを用いる。
図13は、Data0〜Data2の三次元断層画像を示しており、上側の三次元断層画像は、位置合わせを行う前の三次元断層画像であり、下側の三次元断層画像は、第一の位置合わせ、第二の位置合わせ、第三の位置合わせを行った後に画像変形した三次元断層画像である。ここで示すように、データ内かつデータ間での位置合わせ後の三次元断層画像は、Data0〜Data2において網膜のXYZに関する位置合わせが成されたことを表している。
<ステップS3566>
ステップS3566では、第三の位置合わせ部335は、データ間でのZ位置合わせを行ったDepthMapにおいて、基準データと対象データとの差分検出を行う。そして、差分の絶対値が閾値以上の場所(x、y)においては、位置合わせの精度が低いと判断し重ね合わせに使用しない。そのため、対象データのMask画像に無効領域として0を設定する。
<ステップS357>
ステップS357では、第四の位置合わせ部338は、基準データと対象データ間において、断層画像内部の特徴がある部分に位置合わせのための領域を複数設定し、その領域単位で網膜の横方向(x軸)と深さ方向(z軸)の位置合わせを行う。なお、ここでの位置合わせはZ方向の局所位置合わせとして説明をする。第四の位置合わせ部338が行う局所位置合わせについて、図6のフローチャートを用いて説明をする。
<ステップS3571>
ステップS3571では、第四の位置合わせ部338は、ステップS351で検出した境界線情報を取得する。なお、本実施形態において深さ方向位置合わせに用いる境界線はL1とL3とする。
<ステップS3572>
ステップS3572では、第四の位置合わせ部338は、対象画像の特徴領域を含むように位置合わせ用の領域を設定する。これについて、図14を用いて説明をする。
図14には基準データの三次元断層画像の中の断層画像と、位置合わせ対象となる三次元断層画像の中の断層画像を示している。位置合わせ対象となる対象画像1には、基準断層画像の境界線情報L1とL3を基にして設定する複数の位置合わせ用の領域(ROI:Region of Interesting)の例を示す。ROIの深さ方向サイズは、L1とL3を基準として、それよりもそれぞれ数10ピクセル程度、上方向と下方向に広く設定する。なお、上下方向に数10ピクセル程度パラメータを設定する場合において、大局位置合わせの結果を用いてパラメータを補正することがある。これは、図14の対象画像1に示すように大局位置合わせにおいて、画像全体を下方向にシフトさせている場合、画像の上端部に無効領域が存在する。この場合、ROIを設定する範囲とその探索領域が無効領域を含まないように初期のROIサイズを補正する必要がある。ROIの横方向サイズは、画像を分割したサイズから設定する。分割数は、画像のサイズ(Aスキャン本数)や画像の撮影サイズ(3mm)など、撮影パラメータに合わせて設定をする。例えば、本実施形態において、Aスキャン本数を300、撮影サイズを3mmとした場合、分割数は10とする。なお、横方向のサイズとROIの設定値においても大局位置合わせの結果を用いて補正を行う。上下方向のパラメータ同様に横方向においても無効領域が存在することがあるため、ROIを設定する範囲とその探索領域が無効領域を含まないように設定する必要がある。
そして、局所位置合わせ用のROIは、それぞれ重畳するように設定する。これは、ROIを重複させずに、ROIのサイズを小さくする場合、ROIの中に特徴的な部位を含まない場所が存在することがあるためである。例えば、網膜を狭画角で撮影した場合、画像内に平坦な組織が広い範囲において写る場合がある。また一方、ROIを重複させずに、特徴を含むようにROIの範囲を広く設定すると、局所位置合わせのためのサンプリング数が少なくなり、粗い位置合わせとなってしまうためである。そのため、これらの問題を解決するために、ROIのX方向のサイズを広くして、かつそれぞれのROI同士を重畳させて設定する。なお、図14において、画像中心部にROIを描画していないが、実際には画像の左端から右端まで網膜上にROIを設定する。さらに、ROIを設定する間隔は、ROI位置合わせ時の探索範囲を考慮するのが望ましい。具体的には、ROI位置合わせ時の横方向探索範囲をXRとする場合、隣接するROIの中心座標の間隔が2XR以上となるように設定をする。これは、中心座標の間隔を2XR未満とする場合、隣接するROI同士の中心位置が入れ替わる可能性があるためである。
<ステップS3573>
ステップS3573では、第四の位置合わせ部338は、ROIを使って領域位置合わせを行う。領域位置合わせは断層画像で行う。そのため、ステップS3534で示したOCTA画像位置合わせと同様に数1を用いて画像類似度に応じた位置合わせを行う。ただし、類似度の評価値はこれに限らず、SSD(Sum of Squared Difference)や、SAD(Sum of Absolute Difference)などでも良い。あるいは、POC(Phase Only Correlation)のような方法で、位置合わせを行っても良い。
画像位置合わせは、対象画像に設定したROIが基準となる断層画像ではどこにあるかを探索する。この際、第一〜第三の位置合わせにより、三次元の断層像データの変形を行っているので、基準画像と対象画像とのおおよその位置は合っている。そのため、基準画像での位置合わせの探索範囲は、ROIの初期位置から上下左右数〜数10ピクセルを探索すればよく、最も類似する場所を位置合わせ結果とする。なお、探索領域は固定でも良いし、撮影画角、撮影部位、画像の場所(端や中心)に応じて変更しても良い。撮影画角が狭くスキャンスピードが速い場合には、1枚の画像を撮影している間の眼の移動量は小さいが、撮影画角が広くなると眼の移動量も大きくなる。そのため、撮影画角が大きい場合には探索範囲を広くしても良い。また、眼が回転する中心部分と周辺部とでは、移動量は周辺部の方が大きくなるため、周辺部の方を探索範囲を広くしてもよい。
<ステップS3574>
ステップS3574では、第四の位置合わせ部338は、ステップS3573で求めた位置合わせパラメータを補間することで各Aスキャンの移動量を算出する。これについて、図15を用いて説明をする。図15(a)は、初期設定した領域のROI1〜ROI3を表している。C1〜C3の下三角はROI1〜ROI3の中心位置を表している。また、図15(b)は、ステップS3573での位置合わせ後のROIの移動例を示している。図15(b)においては、ROI1とROI3がそれぞれ右側に移動し、ROI2が移動しない場合の例である。そのため、ROIの中心C1とC3がそれぞれC1’とC3’に移動している。各ROIの移動量からAスキャンの移動量を算出するためには、隣接するROIとROIの中心位置の移動量に基づいて算出をする。例えば、ROI1の中心位置はC1からC1’に移動しており、ROI2の中心位置はC2のままである。ここで、変形前のC1からC2の間にある各AスキャンのX方向移動量を求める式を数12〜14に示す。
数12〜14において、X1、X2は各ROIの初期中心座標、ΔX1、ΔX2は各ROIの中心座標のX方向移動量、A_beforeは変形前のAスキャンインデックスの値、A_afterはA_beforeが参照する、変形前のAスキャンインデックスの値となる。例えば、A_beforeが55、計算の結果でA_afterが56とする場合、Aスキャンインデックス55には、Aスキャンインデックス56のAスキャンデータが入る。なお、Z方向の移動量も数12〜14と同様の考え方に基づき、各ROIの中心位置の移動量から求めることが出来、上下方向に数ピクセルデータを移動する。なお、A_afterの値は実数でも整数でも良い。実数の場合は、複数のAスキャンデータから補間方法(BilinearやBicubic等)により新しいAスキャンデータを作成する。整数の場合は、対応するAスキャンインデックスのデータをそのまま参照する。なお、ここでは、X方向とZ方向の両方を局所的に位置合わせする例を示したがこれに限らない。例えば、X方向だけ、Z方向だけのどちらか一方のみを局所的に変形させるようにしても良い。なお、X方向はトラッキングで撮影時に位置合わせを行っているため、処理負荷を軽減するために、Z方向のみ局所的な位置合わせをするようにしても良い。
<ステップS3575>
ステップS3575では、第四の位置合わせ部338は、ステップS3574で求めたAスキャン移動量を基に、Aスキャン毎にX方向とZ方向に移動させる。それにより、Aスキャン単位で変形した断層画像を生成することが出来る。なお、第四の位置合わせ部338は、断層像データおよびモーションコントラストデータの両方を変形をする。
<ステップS3576>
ステップS3576では、第四の位置合わせ部338は基準となる三次元データの全ての断層画像に対して、位置合わせの対象となるデータの全てを局所位置合わせ行ったか否かを判定する。全てのデータを処理していない場合には、ステップS3561に戻る。そして、全てのデータを局所位置合わせした場合には、局所位置合わせの処理が終了する。
これらの処理により局所位置合わせが行われる。次に、図3(b)の処理フローに戻って説明を行う。
<ステップS358>
ステップS358では、画像合成部339は、選択部335が選択した基準となる三次元モーションコントラストデータと、複数の三次元モーションコントラストデータ同士を加算平均(合成)する。加算平均処理では、ボクセル毎に、複数のモーションコントラストデータとMask画像の値を掛け算した値の合計値SUM_Aと、複数のMask画像の値の合計値SUM_Bをそれぞれ保持しておく。Mask画像にはアーティファクトとして除去した無効領域や、位置合わせによりデータが存在しない無効領域が0として保存されているため、Mask画像の合計値SUM_Bにはボクセル毎に異なる値が保持されている。通常、位置合わせにおいてXYZ毎、数10ボクセルの移動が想定されるため、重ね合わせに用いたデータ数がN個である場合、画像中心付近のSUM_Bのボクセル値はNであり、画像端部のSUM_Bのボクセル値はNよりも少ない値になる。そして、加算平均処理では、SUM_AをSUM_Bで割ることにより加算平均を計算したモーションコントラストデータを求めることが出来る。
これらの加算平均処理を行う前後のモーションコントラストデータを図16〜図18に示す。図16はXZ面、図17はXY面、図18は三次元モーションコントラストデータをボリュームレンダリングして表示する例である。
図16(a)の左側は加算平均前の三次元モーションコントラストデータの1断面を示し、図16(a)の右側が加算平均後の三次元モーションコントラストデータの1断面を示す。図17(a)の左側は加算平均前の三次元モーションコントラストデータから生成する網膜表層のOCTA画像、図17(a)の右側が加算平均後の三次元モーションコントラストデータから生成する網膜表層のOCTA画像を示す。図18(a)は加算平均前の三次元モーションコントラストデータのボリュームレンダリングデータ、図18(b)は加算平均後の三次元モーションコントラストデータのボリュームレンダリングデータの例である。図16〜図18に示すように加算平均処理により、コントラストが向上した三次元モーションコントラストデータを得ることが出来る。図18のようにモーションコントラストデータのボリュームレンダリングを行うと、二次元のOCTA画像では認識しにくい血管の深さ方向における上下関係なども把握しやすくなる。
三次元モーションコントラストデータと同様に、複数の三次元断層画像データに関しても加算平均処理を行う。なお、モーションコントラストデータと同様に加算平均処理を行う前後の三次元断層画像の1断面を図16(b)に示す。図16(b)の左側が加算平均前の三次元断層画像を示し、図16(b)の右側が加算平均後の三次元断層画像の1断面を示す。図16(b)に示すように、加算平均前の画像ではノイズが多く血管とノイズの差や、層の境界が不明瞭である。しかし、加算平均後の画像ではノイズが少なく血管や網膜層の構造を認識することが出来る。図17(b)には、三次元断層画像から生成する正面画像を示す。図17(b)の左側は加算平均前の三次元断層画像から生成する正面画像、図17(b)の右側が加算平均後の三次元断層画像から生成する正面画像を示す。なお、加算平均された三次元断層画像は、1つの三次元モーションコントラストデータを取得する際に得られる複数の三次元断層画像を加算平均することで取得してもよいし、複数の三次元モーションコントラストデータを取得する際に得られる複数の三次元断層画像を加算平均することで取得してもよい。また、必ずしも三次元断層画像を加算平均する必要はなく、後述するモーションコントラストデータ(モーションコントラスト画像)を重畳する二次元断層画像に関して加算平均画像が取得されればよい。なお、加算平均される三次元断層画像の数は、モーションコントラストデータを算出するために用いられる三次元断層画像の数と異なっていても良いし、同じであってもよい。
<ステップS359>
ステップS359では、第三の位置合わせ部337は、ステップS3561で記憶している入力の三次元モーションコントラストデータと三次元の断層像データと、ステップS3563で記憶している各Aスキャンの深度方向移動量に基づいて、基準データ(本実施形態ではData1)の網膜位置を入力時の深度位置の状態に戻す。具体的には、ステップS358で加算平均後の三次元モーションコントラストデータと三次元の断層像データを、ステップS3563で記憶している各Aスキャンの深度方向移動量を用いて元の状態に戻す。例えば、あるAスキャンにおいて下方向に5移動させている場合、ここでは上方向に5移動させる。さらに、上方向に5移動させることで、データ下部に無効領域が発生してしまう。そのため、その無効領域には、ステップS3561で記憶している入力の三次元モーションコントラストデータと三次元の断層像データにおいて、同じ座標位置のデータをそれぞれコピーする。
なお、加算平均後データの無効領域に対して入力のデータをコピーする例を示したが、これに限らない。第三の位置合わせ部337で記憶した入力の三次元データに対して、加算平均後の三次元データから元々の座標位置に対応する範囲のデータを切り出してコピーするようにしても良い。それにより、上述ではデータ移動後に無効領域へのコピーという2ステップでの処理であったが、ここでは、コピーのみの1ステップとなるため、処理負荷を減らすことが出来る。なお、この場合、第三の位置合わせ部337で記憶している入力の三次元データに対してコピーをしているため、最終的な出力データは第三の位置合わせ部337で記憶しているデータとなる。
これらの処理を行った後、図3(a)のフローチャートに処理が戻る。
<ステップS306>
ステップS306では、加算平均して作成した高画質な三次元モーションコントラストデータと高画質な三次元断層画像を対応可能な状態で表示する。
ここで、表示制御部305による制御に基づいて表示部600に表示される画面の例を図19に示す。1900は画面全体、1901は患者タブ、1902は撮影タブ、1903はレポートタブ、1904は設定タブを表し、1903のレポートタブにおける斜線は、レポート画面のアクティブ状態を表している。本実施形態においては、レポート画面を表示する例について説明をする。1905は患者情報表示部、1906は検査ソートタブ、1907は検査リスト、1908の黒枠は検査リストの選択を表し、選択されている検査データを画面に表示する。図19の検査リスト1907には、SLOと断層画像のサムネイルを表示している。しかし、OCTA撮影の場合には、図示はしないがOCTAのサムネイルを表示しても良い。サムネイル表示の例としては、SLOとOCTAのサムネイル、OCTAのサムネイルだけ、断層画像とOCTAのサムネイルとしても良い。本実施形態においては、撮影で取得した検査データと高画質化処理により生成した検査データとを検査リスト1907に一覧で表示している。高画質化処理により生成した検査データにおいては、サムネイルに表示する画像も高画質化処理済みのデータから生成したものを表示するようにしても良い。
1930、1931はビューモードのタブを表す。1930のタブでは、三次元のモーションコントラストデータから生成した二次元のOCTA画像を表示し、1931のタブでは、図18に示したような三次元モーションコントラストデータを表示する。
1929はモーションコントラストの高画質生成を実行するボタンを表す。なお、本実施形態においては、1929の高画質生成を実行するボタンを押下することで、ステップS305に示した高画質データ生成処理を実行する。例えば高画質化に用いるデータ候補を表示するためにはこのボタンを押下すると表示制御部305は現在表示しているOCTA画像(選択データ)と同じ撮影条件で繰り返し撮影した検査データをデータ候補として表示部600に一覧表示させる。データ候補のうちユーザにより選択された検査データに基づいて画像処理部303はステップS305に示した高画質データ生成処理を実行する。なお、選択データと同じ撮影条件で繰り返し撮影したデータを自動的に選択する場合には、データ候補を表示せずに高画質データ生成を実行するようにしてもよい。生成した高画質データは検査リスト1907に表示することでレポート表示として選択することが可能となる。なお、本実施形態においては、既に高画質化処理は完了しており、図19では、その高画質化処理済みのデータを選択して表示している。そのため、以降の説明では、高画質化処理(加算平均)済みのデータに関して説明を行う。
1909はSLO画像、1910は第一のOCTA画像(OCTAのEnFace画像)、1911は第一の断層画像、1912は三次元の断層画像から生成した正面画像(輝度のEnFace画像)、1913は第二のOCTA画像(OCTAのEnFace画像)、1914は第二の断層画像を表す。なお、本実施形態において1910〜1914に示す画像は、図16と図17に示したように加算平均処理済みの画像を表示しているものとする。例えば、第一の断層画像1911および第二の断層画像1914は、上述のステップS358で加算平均された三次元断層画像データから、任意の位置(例えば矢印1945、1946で指定された位置)の断層画像(二次元断層画像)を切り出したものであり、この断層画像の切り出しの処理は例えば表示制御部305により行われる。すなわち、表示制御部305は、被検眼の複数の断層画像が合成された画像である合成画像を取得する第1取得手段の一例に相当する。ここで、合成画像とは例えば加算平均された断層画像(加算平均画像)である。
第一のOCTA画像1910および第二のOCTA画像1913は、上述のステップS358で加算平均された三次元モーションコントラストデータにおける所定の深さ方向の領域のモーションコントラストデータから生成されたOCTA画像である。このOCTA画像の生成は例えば画像生成部332により実行される。なお、第一のOCTA画像1910および第二のOCTA画像1913は、加算平均されたモーションコントラストデータから生成することに限定されるものではなく、加算平均前の複数のモーションコントラストデータから生成された複数のOCTA画像を加算平均することで生成されてもよい。
1915は1909のSLO画像に重畳されている画像、1916は1915の画像の種類を切り替えるタブを表す。1917は第一のOCTA画像として表示するOCTA画像の種類を表す。OCTAの種類としては、表層、深層、脈絡膜等や任意の範囲で作成したOCTA画像がある。なお、1918、1925は第一のOCTA画像1910の深さ方向の作成範囲の上端を示し、1919,1926は第一のOCTA画像1910の深さ方向の作成範囲の下端を示している。1918は上端の境界線の種類とそのオフセット値を示し、1925は第一の断層画像1911に重畳表示された上端の境界線を示している。1919は下端の境界線の種類とそのオフセット値を示し、1926は第一断層画像1911に重畳表示された下端の境界線を示している。第二のOCTA画像1913も第一のOCTA画像1910と同様で、第二のOCTA画像1913の深さ方向における上端(1923、1927)と下端(1924、1928)が表示される。なお、1923は上端の境界線の種類とそのオフセット値を示し、1927は第二断層画像1914に重畳表示された上端の境界線を示している。1924は下端の境界線の種類とそのオフセット値を示し、1928は第二断層画像1914に重畳表示された下端の境界線を示している。
図19は、加算平均処理を行ったモーションコントラストデータにおいて、閾値以上のモーションコントラストデータ1940を加算平均処理した断層画像(第一の断層画像1911、第二の断層画像1914)に重畳表示をしている例を示している。表示制御部305は、モーションコントラストデータを加算平均された断層画像に重畳した状態でモーションコントラストデータと加算平均された断層画像とを表示部600に表示させている。なお、第一のOCTA画像1910における血管に相当するデータと、血管に相当するモーションコントラストデータ1940の一部(境界線1925と1926との間のモーションコントラストデータ)が対応している。
ここでモーションコントラストデータ1940は加算平均処理されたモーションコントラストデータである。なお、モーションコントラストデータの加算平均処理と、断層画像の加算平均処理とは上述したステップS358において実行されている。モーションコントラストデータ1940は、加算平均された三次元モーションコントラストデータから、任意の位置(例えば矢印1945、1946で指定された位置)のモーションコントラストデータを切り出したものであり、このモーションコントラストデータの切り出しの処理は例えば表示制御部305により行われる。すなわち、表示制御部305は、被検眼のモーションコントラストデータを取得する第2取得手段の一例に相当する。また、第一の断層画像1911にモーションコントラストデータ1940が重畳されていることから明らかなように、表示制御部305は、合成画像に合成画像と対応する位置のモーションコントラストデータを重畳した状態で合成画像とモーションコントラストデータとを表示部に表示させる表示制御手段の一例に相当する。
なお、本明細書における表示制御部305による加算平均処理された断層画像へのモーションコントラストデータの重畳とは、加算平均処理された断層画像とモーションコントラストデータとを別々のレイヤーとして重畳表示する場合および加算平均処理された断層画像にモーションコントラストデータを合成して1つのレイヤーとして重畳表示する場合を含む。
図19の第一のOCTA画像は、境界線1925と1926の間(所定深さ範囲)のモーションコントラストデータ1940の値に基づいて作成されている。なお、表示制御部305は、表示部600にモーションコントラストデータを断層画像に重畳表示させる際、モーションコントラストデータ1940を、モーションコントラストデータの値に応じた色で表示させることとしてもよい。表示制御部305は、例えば、モーションコントラストの値の大きさに応じて連続的に色を変化させてもよい。一例として、モーションコントラスト値が高いほど赤色に近づき、モーションコントラスト値が低いほど黄色に近づくようにしてもよい。し、段階的に変化させることとしてもよい。色はここで示したものに限らず、断層画像で表示している網膜と差が付く色で表現する方がよい。例えば、断層画像は、輝度値の明るさで表示をするが、輝度値の大きさに応じた疑似カラーで網膜を表現することも可能である。その場合、表示制御部305は、第一断層画像1911に重畳表示をするモーションコントラスト1940の色を、網膜の疑似カラーと異なる色で表示部600に表示させる。なお、矢印1945は、第一の断層画像1911のXY面内における位置を示し、矢印1946は、第二の断層画像1914のXY面内における位置を示している。なお、矢印1945の位置と矢印1946の位置とはユーザからの指示に応じて独立して変更可能である。また、矢印1945の位置と矢印1946の位置とが連動して移動することとしてもよい。
正面画像1912は、例えばステップS358得られた加算平均後の三次元断層画像データにおけるOCTA画像1910と同一の深さ範囲から生成されたEnFace画像である。なお、加算平均前の三次元断層画像データから正面画像1912が生成されてもよい。また、1920は同一深さ範囲とするOCTA画像を選択可能なタブであり図19に示す例においてはOCTA画像1910が選択されている。タブ1920に対するユーザの指示に基づいて、表示制御部305は正面画像1912の深さ範囲をOCTA画像1913と同一にするように変更可能である。
次に、図20に第一のOCTA画像1910と第一の断層画像1911の加算平均処理を行う前後の画像の例を示す。図20(a)は、加算平均前のモーションコントラストデータから生成したOCTA画像1910’と、加算平均前の断層画像に、加算平均前のモーションコントラストデータを重畳表示した断層画像1911’を示す。図20(b)は、加算平均後のモーションコントラストデータから生成したOCTA画像1910と、加算平均後の断層画像に、加算平均後のモーションコントラストデータを重畳表示した断層画像1911を示す。それぞれの図において断層画像に重畳されるモーションコントラストデータはグレーで示している。図20(b)に示すように、加算平均後のモーションコントラストデータを加算平均後の断層画像に重畳表示することで、モーションコントラストデータから算出した血管に相当する領域と網膜断層の構造部との関係が明確になり観察しやすくなる。
<ステップS307>
ステップS307において、不図示の指示取得部は、画像処理システム100による断層画像の撮影を終了するか否かの指示を外部から取得する。この指示は、入力部700を用いて、操作者によって入力される。処理を終了する指示を取得した場合には、画像処理システム100はその処理を終了する。一方、処理を終了せずに、撮影を続ける場合には、ステップS302に処理を戻して撮影を続行する。以上によって、画像処理システム100の処理が行われる。
以上で述べた構成によれば、複数の三次元断層画像を位置合わせ・加算平均処理を行うことで得られた断層構造が明瞭な断層画像にモーションコントラストデータを重畳しているため、断層構造とモーションコントラストデータとの関係が明確になる。また、本実施形態では、複数の三次元断層画像と複数の三次元モーションコントラストデータを取得し、それぞれのデータにおいて位置合わせと加算平均処理を行う。それにより断層画像のS/N比が向上し、網膜断層の構造が把握しやすくなるとともに、モーションコントラストデータもノイズが低減された高画質なデータを生成することができる。それにより、本来の血管に相当する部分を断層画像上に表示することが出来る。また、三次元断層画像に基づいて三次元モーションコントラストデータは生成されるため、三次元断層画像と三次元モーションコントラストデータとの位置関係の対応はついている。そのため、OCTA画像で観測される注目部位に関して断層画像において血管や網膜の構造を容易に確認することが出来る。
〔実施例2〕
実施例1においては、加算平均後の断層画像に、加算平均後のモーションコントラストデータにおいて、閾値以上の値のデータを全て重畳表示する例について示した。本実施形態においては、OCTA画像を表示するために選択している層の内外において、重畳表示するモーションコントラストデータの表示形態を変更することを特徴とする。
上記第一の実施形態と同様の機能を有するものに関しては、ここでは説明を省略する。本実施形態の処理について図21と図22を用いて説明を行う。
図21は、本実施形態における表示部600に表示する画面の例である。図21において、モーションコントラストデータ2140は、加算平均処理を行ったモーションコントラストデータで閾値以上のモーションコントラストデータであり且つ第一のOCTA画像1910の深さ範囲のモーションコントラストデータである。図21は、このモーションコントラストデータ2140が、加算平均処理した断層画像に重畳表示されている例を示している。すなわち、第一のOCTA画像1910で示す血管に相当するデータと、領域2140に示す血管に相当するデータとが対応している。表示制御部305は、断層画像にモーションコントラストデータを重畳表示する際には、閾値以上の値を表示部600に表示させるが、本実施形態においては、値だけではなく、モーションコントラストデータの深さ方向の情報を用いて断層画像に重畳するモーションコントラストデータを決定している。例えば、図21において、表示制御部305は、断層画像1911には閾値以上のモーションコントラストデータのうち境界線1925と1926との間のモーションコントラストデータ2140だけを重畳表示させる。表示制御部305による断層画像に重畳して表示するモーションコントラストデータの判定には、モーションコントラストデータの値と、境界線1925および1926の座標値とが用いられる。ユーザの指示に応じて境界線を切り替えたり、境界線のオフセット値を変更したりすることで、表示制御部305は第一のOCTA画像1910として表示する深さ方向の領域を変更する。この変更と同時に、表示制御部305はモーションコントラストデータ2140として表示するピクセルの判断を行う。断層画像1914では、境界線1927と1928との座標値に基づいてモーションコントラストデータ2140を重畳表示する例を示している。具体的には、表示制御部305は、例えば境界線1927と境界線1928との間にある座標値を有するモーションコントラストデータを断層画像に重畳して表示部600に表示させると判断する。
なお、深さ方向の情報を用いて表示内容を変更する例はこれに限らない。他の例について図22を用いて説明をする。
図22(a)は、断層画像1911、境界線1925と1926、モーションコントラストデータ2240を示している。図22(a)では、図21の表示例とは逆に、選択している2つの境界線で挟まれている領域の外部(所定深さ範囲外)にあるモーションコントラストデータ2240を表示するようにしても良い。
図22(b)では、断層画像1911、境界線1925と1926、モーションコントラストデータ2240、モーションコントラストデータ2241を示している。図22(b)で示すように選択している境界線1925と境界線1926とで挟まれる領域内のモーションコントラストデータ2241の色を境界線1925と境界線1926とで挟まれる領域外のモーションコントラストデータ2240とは異なる色にするようにしても良い。モーションコントラストデータ2240とモーションコントラストデータ2241はモーションコントラストの値に基づいてカラー表示をしているが、領域2240と領域2241では、それぞれ異なる色となるようにそれぞれ異なるルックアップテーブルに基づいてカラー表示を行うようにしても良い。さらに、図示しないが、カラー表示は同じとして、表示制御部305は、境界線1925と境界線1926とに挟まれる領域の内と外でモーションコントラストデータ2240とモーションコントラストデータ2241とに設定する透明度αを異なる値にしても良い。例えば、表示制御部305は、モーションコントラストデータ2240の透明度αを0.0、モーションコントラストデータ2241の透明度αは0.5としてもよい。さらに、これらを組み合わせて、カラー表示を変えると同時に透明度も変えるようにしても良い。なお、境界線内外のカラーと透明度の設定を逆にすることも可能である。
以上で述べた構成によれば、本実施形態では、モーションコントラストデータを断層画像に重畳表示する際に、深さ方向の位置情報を用いて表示内容を変更する。それにより、OCTA画像として表示している血管情報を強調するように断層画像に重畳表示することが出来る。したがって、OCTA画像で観測される注目部位に関して、断層画像において血管や網膜の構造を容易に確認することが出来る。
〔実施例3〕
実施例2においては、加算平均後の断層画像に、加算平均後のモーションコントラストデータを重畳表示する際に、深さ方向の位置情報を用いて重畳表示領域の色や透明度を変更する例を示した。本実施形態においては、加算平均後のモーションコントラストデータを重畳表示する際に、領域の輪郭に相当する情報を重畳表示する例について説明をする。上記第一、第二の実施形態と同様の機能を有するものに関しては、ここでは説明を省略する。本実施形態の処理について図23と図24を用いて説明を行う。
図23は、本実施形態における表示部600に表示する画面の例である。図23において、領域2340は、加算平均処理を行ったモーションコントラストデータで閾値以上のデータを、加算平均処理した断層画像に重畳表示している例を示している。なお、断層画像に重畳表示する際のモーションコントラストデータの表示形態は、モーションコントラストデータにおいて求めた領域の輪郭を表示する。この例について図24に例を示す。
図24(a)は実施例1で示したモーションコントラストデータ1940の表示形態である。そして、注目領域2411は、モーションコントラストデータ1940を拡大表示している例を示している。実施形態1では、モーションコントラストデータ1940はルックアップテーブルに基づいたカラーで断層画像に重畳表示している。本実施形態においては、図24(b)に示すモーションコントラストデータ2340のように、表示制御部305は、モーションコントラストデータ1940の輪郭だけを表示して輪郭内部は塗りつぶさない。あるいは、領域内部の透明度を領域の輪郭部分の透明度よりも高く設定して、断層画像における構造を直接確認出来るようにする。したがって、位置に関する情報としてモーションコントラストデータ2340を重畳表示するとともに、モーションコントラストデータ2340の内部は断層画像が視認可能となるため、構造自体も確認することが出来る。なお、モーションコントラストデータ2340は、検出したモーションコントラストデータに基づいて表示しているため、ピクセル毎に凹凸のある形状をしている。そのため、他の表示例として、図24(c)に示すモーションコントラストデータ2440のように、モーションコントラストデータ2340を囲む楕円や円、直方体の図形で近似して表示するようにしても良い。すなわち、表示制御部305は、閾値以上のモーションコントラストデータを囲む線を断層画像に重畳して表示部600に表示させてもよい。なお、表示される線で囲まれる領域の内部は線が重畳された断層画像が視認可能なように透明または当該線の透明度より透明度が高くなっている。
なお、表示制御部305は、例えばモーションコントラストデータが閾値以上の画素が連続する部分(または閾値以上の画素が所定の距離未満に存在する部分)を1つの塊として捉え、その塊の輪郭をモーションコントラストデータ2340として表示してもよいし、当該塊を囲む線をモーションコントラストデータ2440として表示してもよい。
本実施形態においても、実施形態2で示したように、深さ方向の情報を用いて、OCTA画像として出力している領域のみを輪郭として重畳表示するようにしても良いし、逆に、OCTA画像として出力している領域以外を輪郭として重畳表示するようにしても良い。実施形態1や2で示した表示形態と本実施形態で示した実施形態とは切り替えて表示出来るようにしても良いし、組み合わせて表示できるようにしても良い。切り替え表示の場合には、不図示の設定画面において表示形態を選択出来るようにしても良いし、レポート画面上で、表示形態を選択出来るメニューを表示して切り替えが出来るようにしても良い。組み合わせて表示する例としては、OCTA画像として出力している領域のみを輪郭として重畳表示し、OCTA画像として出力している領域以外を実施形態1のように塗りつぶして重畳表示するようにしても良い。
以上で述べた構成によれば、本実施形態では、モーションコントラストデータを断層画像に重畳表示する際に、モーションコントラストデータの輪郭や近似した形状の図形で重畳表示を行う。それにより、OCTA画像として表示している血管情報の位置が把握できるとともに、断層画像における構造も同時に確認することが出来る。したがって、OCTA画像で観測される注目部位に関して、断層画像において血管や網膜の構造を容易に確認することが出来る。
なお、上記の実施例1−3を適宜組み合わせて実施することも可能である 。例えば、実施例2,3を組み合わせて、表示制御部305は、モーションコントラストデータのうち2つの境界線で挟まれた領域内のモーションコントラストデータの輪郭のみを断層画像に重畳して表示部600に表示させることとしてもよい。また、実施例2,3を組み合わせて表示制御部305は、モーションコントラストデータのうち2つの境界線で挟まれた領域外のモーションコントラストデータの輪郭のみを断層画像に重畳して表示部600に表示させることとしてもよい。さらに、実施例2,3を組み合わせて表示制御部305は、モーションコントラストデータのうち2つの境界線で挟まれた領域内のモーションコントラストデータの輪郭の色と2つの境界線で挟まれた領域外のモーションコントラストデータの輪郭の色とを異なる色として表示部600に表示させることとしてもよい。また、実施例2,3を組み合わせて表示制御部305は、モーションコントラストデータのうち2つの境界線で挟まれた領域内のモーションコントラストデータの輪郭または輪郭の内部の透明度と2つの境界線で挟まれた領域外のモーションコントラストデータの輪郭または輪郭の内部透明度とを異なる値として表示部600に表示させることとしてもよい。
以下、上記の実施例1−3に関する変形例を説明する。各変形例のうち1の変形例または複数の変形例の組み合わせを上記の実施例1−3のそれぞれまたは実施例1−3のうち任意の組み合わせに適用することとしてもよい。
(変形例1)
本実施形態では、加算平均後の断層画像に加算平均後のモーションコントラストデータを重畳表示する例を示したが、これに限らない。重畳表示するモーションコントラストデータの表示と非表示は切り替えられるものとしても良い。例えば、断層画像上において右クリックを行うことにより、表示制御部305は表示部600にメニューを表示させる。そして表示制御部305は、表示メニューの一部の選択を受け付けることで、重畳しているモーションコントラストデータの表示と非表示を切り替えるよう表示部600を制御することとしても良い。なお、表示と非表示の選択方法はこれに限らない。例えばチェックボックスの選択により表示と非表示を切り替えても良いし、タブレットのようなデバイスで画像を表示している際には、ジェスチャー入力によって表示と非表示を切り替えても良い。同じ断層画像上において、注目部位の表示と非表示を切り替えることで、XY面における注目部位の場所とXZ面における注目部位との対応関係を把握しやすくするとともに、構造自体の観察も行いやすくすることが出来る。
(変形例2)
本実施形態では、加算平均時のモーションコントラストデータと、断層画像データとは、それぞれ同じ重みを用いて加算平均処理を行う例を示したが、これに限らない。例えば、断層画像における重みとモーションコントラストデータにおける重みとを別々にしてもよい。なお、重みとは重ね合わせに用いる画像の枚数とも言い換えられる。すなわち、画像AとBに対する重みを1.0とした場合、加算平均画像は画像AとBの平均となる。画像Aの重みを1.0、画像Bの重みを0.0とした場合、加算平均画像は画像Aと等しくなる。なお、重みの値は整数値ではなく実数値である。そのため、画像の枚数と言い換えた場合においても、枚数は整数値ではなく1.5のような実数値である。
断層画像とモーションコントラスト画像との加算平均枚数の違いについて説明をする。例えば、OCTA画像に発生する白線はアーティファクト領域として除外する例を示したが、断層画像加算においては必ずしも除外する必要はない。モーションコントラストの値は、脱相関値を計算することで求められるため、少しの位置ずれにより脱相関値が高く検出されて白線のようになってしまうが、断層画像だけを評価すると撮影出来ている。一方、黒帯のようなアーティファクトは、まばたきや網膜のZ方向ずれにより発生するため、モーションコントラスト、断層画像ともにアーティファクトとして除外した方がよい。すなわち、白線によるアーティファクト領域は、モーションコントラストの加算平均においては除外をするが、断層画像における加算平均では除外をしなくても良い。そのため、加算平均処理に用いている重みMaskは、モーションコントラストデータ用と断層画像用と別々に用意し、それぞれのMaskに重みを設定する。重みの例としては、モーションコントラストデータ用には0.0とし、断層画像用には0.5とする。従って、モーションコントラストデータと断層画像とでは、Ascan単位で加算平均する枚数が異なることになる。それにより、モーションコントラストデータと断層画像とそれぞれのデータにおいて、適切な重みによる加算平均処理を行うことが出来る。
(変形例3)
本実施形態では、撮影した断層画像を用いて境界線検出を行う例を示したが、これに限らない。上述の加算平均処理を行った断層画像を用いて境界線検出を行っても良い。例えば、高画質データ生成に境界線情報を用いるため、撮影した断層画像に対してステップS351で境界線検出をしている。この処理を、ステップS305における高画質データ生成処理の後に、再度実行する。それにより、境界線検出のための断層画像は、撮影時の断層画像と比較してノイズの低減した断層画像であるため、境界線検出の精度が向上することが見込まれる。
(変形例4)
本実施形態では、繰り返しN回撮影するデータは、同じ撮影範囲を同じスキャンパターンで撮影する例を説明したが、これに限らない。例えば、3mm×3mmの範囲を300×300(主走査×副走査)で撮影したデータと、3mm×3mmの範囲を600×600で撮影したデータとを位置合わせするようにしても良い。この時の深度方向のサイズはどちらのデータにおいても共通で、例えば1000とする。その場合には、1ボクセルあたりの物理サイズを揃えるデータ変換処理を行った後に、上述した位置合わせ処理を実行する。なお、この例では、300×300のデータを補間処理によって600×600に拡大してから処理をするようにしても良いし、600×600のデータを補間処理によって300×300に縮小してから処理をするようにしても良い。また、3mm×3mmの範囲を300×300で撮影したデータと、6mm×6mmの範囲を600×600で撮影したデータとを位置合わせする場合には、1ボクセルあたりの物理サイズは同じであるため、このままのサイズ同士で位置合わせを行う。これにより、異なる撮影範囲や異なるスキャン密度で撮影したデータ同士も加算平均することが出来る。
(変形例5)
本実施形態では、基準画像選択において、画像評価値、位置合わせパラメータ評価値、アーティファクト領域評価値を用いて選択を行う例を説明したが、これに限らない。例えば、さらに層検出の評価値を用いて基準画像選択をしても良い。
層検出の評価値は、検出部333が層検出する際に算出する。層検出時にAスキャン毎に断層像の輝度値を参照するが、検出時の断層像の輝度値の情報を基に、Aスキャン毎に検出精度の信頼度を設定して判定するようにしても良い。例えば、断層像の輝度値が低い場合などは、まばたき等があり、正しく網膜を検出できていない可能性があるため、検出の信頼度が低くなるように定義する。あるいは、輝度値だけではなく境界線の位置に基づいて定義しても良い。例えば、境界線の位置がZ方向において上端や下端に接している場合には、正しく層を検出できない可能性があるため検出の信頼度が低くなる。
上記のような層検出の信頼度を用いて、閾値以上の層検出領域を評価する。層検出領域の評価値は、数7のアーティファクト領域評価値と同様の方法で評価することが出来る。例えば、数7において、T(x,y)のアーティファクトではない領域を、閾値以上の層検出領域と置き換えればよい。これにより、断層像データの深さ情報も用いるため、基準画像として、より確からしいデータを選択することが出来る。
(変形例6)
本実施形態では、データ内でのZ方向位置合わせにおいて、最初の基準データをデータの中心としたがこれに限らない。例えば、画像中心付近において境界線L1の層検出の信頼度が高い場所を基準として始めるようにしてもよい。層検出の信頼度は、変形例2で示したように、画像の明るさや検出した層境界のZ方向位置によって定義される。これにより、信頼度の高い箇所を基にして位置合わせを開始するため、位置合わせのエラーを低減することが期待できる。
(変形例7)
本実施形態において、三次元のモーションコントラストデータと三次元の断層像の両方を三次元的に形状変形し、加算平均する例を示したが、これに限らない。断層像だけを変形させても良い。その場合、画像合成部339による加算平均処理は三次元の断層像のみ行う。三次元の断層像のみを高画質にすれば良い場合は、三次元の断層像のみを形状変形させるため、処理負荷を軽減することが出来る。
(変形例8)
本実施形態において、ステップS3534においてOCTA画像をxy面内で拡大して位置合わせを行い、ステップS3565において、xy面内の移動パラメータを元のサイズに相当する移動パラメータに変換した。そして、元のサイズで三次元データの形状変形を行う例を示したが、これに限らない。例えば、三次元データそのものを拡大して位置合わせを行い、そのままの状態で出力をするようにしても良い。具体的には、三次元データのサイズが300×300×1000(主走査×副走査×深度)のような数値だとする。これを600×600×1000に拡大して位置合わせと加算平均を行い、そのままのサイズでデータ出力を行っても良い。あるいは、600×600×1000に拡大して位置合わせと加算平均を行った後、最後に300×300×1000のサイズに戻して出力するようにしても良い。これにより、出力される三次元の加算平均後のデータは、より高画質になることが期待される。
(変形例9)
本実施形態において、第三の位置合わせ部337は、Z方向に移動させたデータをステップS359において、入力時のZ位置に戻す処理を行ったが、これに限らない。例えば、入力時のZ位置に戻さずに第三の位置合わせ部337で行ったZ位置合わせの結果のまま出力するようにしても良い。これにより、Z方向に関する深さと傾きの位置合わせが済んだデータを表示することが出来る。なお、この場合には、ステップS3561の基準データ記憶の処理を行う必要がない。その代わり、Z方向にデータ全体を変形させているため、検出部333が検出した層境界のZ方向位置をステップS3563で記憶している移動量に基づいて補正する。
(変形例10)
本実施形態において、撮影から表示までを一連の流れで示したがこれに限らない。例えば、既に撮影が済んでいるデータを用いて高画質画像生成処理を行ってもよい。その場合、撮影に関する処理をスキップし、その代わりに撮影済みの複数の三次元のモーションコントラストデータと三次元の断層像を取得する。そして、ステップS305で高画質画像生成処理を行う。これにより、複数回撮影を行ったデータに関して、撮影時に処理をしなくても、必要な時に高画質化処理を実行することが出来る。そのため、撮影時には撮影だけに集中することが出来る。
(変形例11)
上記の例において閾値以上のモーションコントラストデータを断層画像に重畳することとしているが、当該閾値は可変であってもよい。例えば、表示制御部305は、表示部600に閾値の変更を受け付けるGUIを表示させることとしてもよい。例えば、GUIを介して変更された閾値に基づいて表示制御部305は、断層画像に重畳させるモーションコントラストデータを変更することができる。
また、断層画像に重畳するモーションコントラストデータを決定するための閾値を設けないこととしてもよい。
(変形例12)
上記の例において断層画像に重畳するモーションコントラストデータは、ステップS358において加算平均処理が施されたモーションコントラストデータであったが、加算平均処理されていないモーションコントラストデータであってもよい。この場合であっても、モーションコントラストデータが重畳される二次元断層画像が加算平均されたものであるため、断層構造とモーションコントラストデータとの関係は明確なものになっている。
(変形例13)
三次元の断層画像データおよび三次元のモーションコントラストデータの位置合わせ方法は上述の例に限定されるものではなく、公知の種々の手法を用いることとしてもよい。
(その他の実施形態)
上記のそれぞれの実施形態は、本発明を画像処理装置として実現したものである。しかしながら、本発明の実施形態は画像処理装置のみに限定されるものではない。本発明をコンピュータ上で動作するソフトウェアとして実現することも可能である。画像処理装置のCPUは、RAMやROMに格納されたコンピュータプログラムやデータを用いてコンピュータ全体の制御を行う。また、画像処理装置の各部に対応するソフトウェアの実行を制御して、各部の機能を実現する。また、ボタンなどのユーザーインターフェイスや表示のレイアウトは上記で示したものに限定されるものではない。
100 画像処理システム
200 断層画像撮影装置
300 画像処理装置
301 画像取得部
303 画像処理部
305 表示制御部
311 断層画像生成部
312 モーションコントラストデータ生成部
331 前処理部
332 画像生成部
333 検出部
334 第一の位置合わせ部
335 表示制御部
336 第二の位置合わせ部
337 第三の位置合わせ部
338 第四の位置合わせ部
339 画像合成部
400 眼底画像撮影装置
500 外部記憶部
600 表示部
700 入力部

Claims (20)

  1. 被検眼の複数の断層画像が合成された画像である合成画像を取得する第1取得手段と、
    前記被検眼のモーションコントラストデータを取得する第2取得手段と、
    前記合成画像に前記合成画像と対応する位置の前記モーションコントラストデータを重畳した状態で前記合成画像と前記モーションコントラストデータとを表示部に表示させる表示制御手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記モーションコントラストデータは、複数のモーションコントラストデータが合成されたデータであることを特徴とする請求項1記載の画像処理装置。
  3. 合成画像の生成のために合成される断層画像は前記モーションコントラストデータの生成に用いられる断層画像と共通していることを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 合成画像の生成のために合成される断層画像の数は前記モーションコントラストデータの生成に用いられる断層画像の数と異なることを特徴とする請求項1または請求項2に記載の画像処理装置。
  5. 前記合成画像は、前記被検眼の深さ方向を含む二次元の断層画像であることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  6. 前記表示制御手段は、前記表示部に前記被検眼の所定深さ範囲のEnFace画像を表示させ、
    前記表示制御手段は、前記モーションコントラストデータのうち前記所定深さ範囲に基づいて決定される一部のモーションコントラストデータのみを前記合成画像に重畳した状態で、前記合成画像と前記モーションコントラストデータとを前記表示部に表示させることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  7. 前記表示制御手段は、前記モーションコントラストデータのうち前記所定深さ範囲に含まれるモーションコントラストデータのみを前記合成画像に重畳した状態で、前記合成画像と前記モーションコントラストデータとを前記表示部に表示させることを特徴とする請求項6記載の画像処理装置。
  8. 前記表示制御手段は、前記モーションコントラストデータのうち前記所定深さ範囲に含まれないモーションコントラストデータのみを前記合成画像に重畳した状態で、前記合成画像と前記モーションコントラストデータとを前記表示部に表示させることを特徴とする請求項6記載の画像処理装置。
  9. 前記表示制御手段は、前記表示部に前記被検眼の所定深さ範囲のEnFace画像を表示させ、
    前記表示制御手段は、前記所定深さ範囲に含まれる前記モーションコントラストデータと前記所定深さ範囲外の前記モーションコントラストデータとを異なる表示形態で前記表示部に表示させることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  10. 前記表示形態は、色および透明度の少なくとも1つを含むことを特徴とする請求項9記載の画像処理装置。
  11. 前記表示制御手段は、前記所定深さ範囲に含まれる前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分の輪郭部分で囲まれた内部の領域の透明度を前記輪郭部分の透明度よりも高くして前記表示部に表示させ、前記所定深さ範囲外の前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分の輪郭部分の内部の領域の透明度を前記輪郭部分の透明度と同じにして前記表示部に表示させることを特徴とする請求項9記載の画像処理装置。
  12. 前記表示制御手段は、前記所定深さ範囲に含まれる前記モーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分の輪郭部分のみを前記表示部に表示させることを特徴とする請求項9記載の画像処理装置。
  13. 前記表示制御手段は、前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分の輪郭部分で囲まれた内部の領域の透明度を前記輪郭部分の透明度よりも高くして前記表示部に表示させることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
  14. 前記表示制御手段は、前記モーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分の輪郭部分のみを前記表示部に表示させることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
  15. 前記表示制御手段は、前記所定深さ範囲に含まれる前記モーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分を囲む線からなる図形を前記モーションコントラストデータとして前記表示部に表示させることを特徴とする請求項9記載の画像処理装置。
  16. 前記表示制御手段は、前記モーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分を囲む線からなる図形を前記モーションコントラストデータとして前記表示部に表示させることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
  17. 前記第2取得手段が取得する前記モーションコントラストデータは複数の三次元のモーションコントラストデータが合成されたモーションコントラストデータであり、
    前記EnFace画像は、前記複数の三次元のモーションコントラストデータが合成されたモーションコントラストデータから生成されたEnFace画像または前記複数の三次元のモーションコントラストデータそれぞれから生成されたEnFace画像を合成することで得られたEnFace画像であることを特徴とする請求項6乃至12のいずれか1項に記載の画像処理装置。
  18. 前記合成画像は加算平均画像であることを特徴とする請求項1乃至17のいずれか1項に記載の画像処理装置。
  19. 被検眼の複数の断層画像が合成された画像である合成画像を取得する第1取得工程と、
    前記被検眼のモーションコントラストデータを取得する第2取得工程と、
    前記合成画像に前記合成画像と対応する位置の前記モーションコントラストデータを重畳した状態で前記合成画像と前記モーションコントラストデータとを表示部に表示させる表示制御工程と、
    を備えることを特徴とする画像処理方法。
  20. 請求項19記載の画像処理方法の各工程をコンピュータに実行させることを特徴とするプログラム。
JP2018010522A 2018-01-25 2018-01-25 画像処理装置、画像処理方法及びプログラム Active JP7158860B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018010522A JP7158860B2 (ja) 2018-01-25 2018-01-25 画像処理装置、画像処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018010522A JP7158860B2 (ja) 2018-01-25 2018-01-25 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019126572A true JP2019126572A (ja) 2019-08-01
JP7158860B2 JP7158860B2 (ja) 2022-10-24

Family

ID=67471487

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018010522A Active JP7158860B2 (ja) 2018-01-25 2018-01-25 画像処理装置、画像処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7158860B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015160105A (ja) * 2014-02-28 2015-09-07 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US20170112377A1 (en) * 2015-10-21 2017-04-27 Nidek Co., Ltd. Ophthalmic analysis device and ophthalmic analysis program
JP2017127506A (ja) * 2016-01-21 2017-07-27 キヤノン株式会社 画像形成方法及び装置
WO2017155015A1 (ja) * 2016-03-11 2017-09-14 キヤノン株式会社 情報処理装置
JP2017158687A (ja) * 2016-03-08 2017-09-14 キヤノン株式会社 光干渉断層データの処理方法、該方法を実行するためのプログラム、及び処理装置
JP2017221525A (ja) * 2016-06-16 2017-12-21 株式会社ニデック 光コヒーレンストモグラフィ装置、および光コヒーレンストモグラフィ制御プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015160105A (ja) * 2014-02-28 2015-09-07 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US20170112377A1 (en) * 2015-10-21 2017-04-27 Nidek Co., Ltd. Ophthalmic analysis device and ophthalmic analysis program
JP2017127506A (ja) * 2016-01-21 2017-07-27 キヤノン株式会社 画像形成方法及び装置
JP2017158687A (ja) * 2016-03-08 2017-09-14 キヤノン株式会社 光干渉断層データの処理方法、該方法を実行するためのプログラム、及び処理装置
WO2017155015A1 (ja) * 2016-03-11 2017-09-14 キヤノン株式会社 情報処理装置
JP2017221525A (ja) * 2016-06-16 2017-12-21 株式会社ニデック 光コヒーレンストモグラフィ装置、および光コヒーレンストモグラフィ制御プログラム

Also Published As

Publication number Publication date
JP7158860B2 (ja) 2022-10-24

Similar Documents

Publication Publication Date Title
US10973406B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable medium
JP2017127506A (ja) 画像形成方法及び装置
JP6526145B2 (ja) 画像処理システム、処理方法及びプログラム
US10102621B2 (en) Apparatus, method, and program for processing image
JP7362403B2 (ja) 画像処理装置および画像処理方法
JP7102112B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2021122559A (ja) 画像処理装置、画像処理方法及びプログラム
JP2019047839A (ja) 画像処理装置、位置合わせ方法及びプログラム
WO2020050308A1 (ja) 画像処理装置、画像処理方法及びプログラム
US10803568B2 (en) Image processing apparatus, alignment method and storage medium
JP7027076B2 (ja) 画像処理装置、位置合わせ方法及びプログラム
JP7005382B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP2019150485A (ja) 画像処理システム、画像処理方法及びプログラム
JP7297952B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP2019063446A (ja) 画像処理装置、画像処理方法及びプログラム
JP2020039851A (ja) 画像処理装置、画像処理方法、及びプログラム
WO2020090439A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP7158860B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2022062620A (ja) 画像処理装置、画像処理方法及びプログラム
JP7204345B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7281872B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7086708B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7237786B2 (ja) 画像処理装置、画像処理方法
WO2020049828A1 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2022062619A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220506

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221012

R151 Written notification of patent or utility model registration

Ref document number: 7158860

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151