JP7158860B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP7158860B2 JP7158860B2 JP2018010522A JP2018010522A JP7158860B2 JP 7158860 B2 JP7158860 B2 JP 7158860B2 JP 2018010522 A JP2018010522 A JP 2018010522A JP 2018010522 A JP2018010522 A JP 2018010522A JP 7158860 B2 JP7158860 B2 JP 7158860B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion contrast
- data
- contrast data
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Eye Examination Apparatus (AREA)
Description
前記被検眼の前記撮影範囲の三次元のモーションコントラストデータを複数取得する第2取得手段と、
前記複数の三次元のモーションコントラストデータを合成した合成三次元のモーションコントラストデータを生成する合成手段と、
前記三次元の断層画像から加算平均処理された二次元の断層画像に、当該二次元の断層画像と対応する位置の前記合成三次元のモーションコントラストデータを重畳した画像を表示部に表示させる表示制御手段と、
を備える。
以下、図面を参照しながら、第1の実施形態について説明する。なお、本実施形態に係る画像処理装置は、アーティファクトを低減した三次元のモーションコントラストデータを生成するにあたり、複数のモーションコントラストデータの位置合わせをすると共に、加算平均を行うために位置合わせの基準となるモーションコントラストデータを選択する。
ステップS301では、不図示の被検眼情報取得部は、被検眼を同定する情報として被検者識別番号を外部から取得する。そして、被検者識別番号に基づいて、外部記憶部500が保持している当該被検眼に関する情報を取得して記憶部302に記憶する。
ステップS302では被検眼をスキャンして撮影を行う。被検眼のスキャンは、操作者が不図示のスキャン開始を選択すると、断層画像撮影装置200は、駆動制御部202を制御し、ガルバノミラー201を動作させて断層画像のスキャンを行う。ガルバノミラー201は、水平方向用のXスキャナと垂直方向用のYスキャナで構成される。そのため、これらのスキャナの向きをそれぞれ変更すると、装置座標系における水平方向(X)、垂直方向(Y)それぞれの方向に走査することが出来る。そして、これらのスキャナの向きを同時に変更させることで、水平方向と垂直方向とを合成した方向に走査することが出来るため、眼底平面上の任意の方向に走査することが可能となる。
ステップS303では、断層画像生成部311が断層画像の生成を行う。断層画像生成部311は、それぞれの干渉信号に対して、一般的な再構成処理を行うことで、断層画像を生成する。
ステップS304では、モーションコントラストデータ生成部312がモーションコントラストデータの生成を行う。このデータ生成について図7を用いて説明を行う。MCは三次元のモーションコントラストデータを示し、LMCは三次元のモーションコントラストデータを構成する二次元のモーションコントラストデータを示している。ここでは、このLMCを生成する方法について説明をする。
ステップS351では、検出部333は、断層画像撮影装置200が撮影した複数の断層画像において網膜層の境界線を検出する。検出部333は、図2(b)の断層画像においてL1~L6の各境界、あるいは不図示のGCL/IPL、IPL/INL、INL/OPL、OPL/ONL境界のいずれかを検出する。処理の対象とする断層画像に対して、メディアンフィルタとSobelフィルタをそれぞれ適用して画像を作成する(以下、メディアン画像、Sobel画像とする)。次に、作成したメディアン画像とSobel画像から、Aスキャン毎にプロファイルを作成する。メディアン画像では輝度値のプロファイル、Sobel画像では勾配のプロファイルとなる。そして、Sobel画像から作成したプロファイル内のピークを検出する。検出したピークの前後やピーク間に対応するメディアン画像のプロファイルを参照することで、網膜層の各領域の境界を検出する。
ステップS352では、画像生成部332が、三次元のモーションコントラストデータに対して指定された生成範囲上端と生成範囲下端との範囲に対応するモーションコントラストデータを二次元平面上に投影し、OCTA画像を生成する。具体的には、画像生成部332が、全体のモーションコントラストデータのうち生成範囲上端と生成範囲下端の間の範囲に対応するモーションコントラストデータに基づいて、その範囲内のモーションコントラストデータを平均値投影(AIP)、あるいは最大値投影(MIP)などの処理を行うことで、モーションコントラスト画像の正面画像であるOCTA画像を生成する。なお、OCTA画像の生成方法は平均値や最大値に限らない。最小値、中央値、分散、標準偏差、総和などの値で生成しても良い。
ステップS353では、N枚のOCTA画像において、画像の横方向(x軸)と縦方向(y軸)、xy面内の回転位置合わせをそれぞれ行う。これについて、図4のフローチャートを用いて説明をする。
ステップS3531では、前処理部331は、画像生成部332が生成したOCTA画像から黒帯や白線のようなアーティファクトを検出し、除去する。これについて図8を用いて説明をする。図8において、OCTA画像の黒い領域は脱相関値が高い場所、すなわち血液の流れが検出された場所(血管に相当する)を表し、白い領域は、脱相関値が低い場所を表す。図8(a)のBBは黒帯の例で、図8(b)のWLは白線の例を示している。黒帯は、撮影中の動きにより、網膜の位置が感度の高い位置から遠ざかることで網膜断層像の輝度値が低下し脱相関の値が低くなったり、まばたき等により画像全体が暗くなることで脱相関の値が低くなったりすることで発生する。白線は、脱相関の計算においてM個の断層像を位置合わせして計算をするが、位置合わせがうまくいかなかったり、位置合わせで位置を補正しきれなかったりする場合に、画像全体の脱相関値が高くなることで発生する。これらのアーティファクトは脱相関の計算において発生するため、主走査方向の1ライン単位で発生する。そのため、前処理部331は、1ライン単位でアーティファクトを検出する。
ステップS3532では、第一の位置合わせ部334は、各OCTA画像をそれぞれ位置合わせした場合の位置合わせパラメータを保存するための二次元行列を初期化する。各行列の要素には、位置合わせ時の変形パラメータや画像類似度などの画像高画質化に必要な情報をまとめて保存する。
ステップS3533では、第一の位置合わせ部334は、位置合わせ対象を選択する。本実施形態においては、全てのOCTA画像を基準画像に設定して残りのOCTA画像と位置合わせを行う。そのため、ステップS3533においては、Data0のOCTA画像を基準とする場合に、Data1~Data(N-1)とそれぞれ位置合わせを行う。次に、Data1のOCTA画像を基準とする場合には、Data2~Data(N-1)とそれぞれ位置合わせを行う。次に、Data2のOCTA画像を基準とする場合には、Data3~Data(N-1)とそれぞれ位置合わせを行う。これらの処理を繰り返す。この例を図9(a)に示す。図9では簡単のため、Data0~Data2を示しているが、三次元ボリュームをN回撮影している場合には、N個のOCTA画像間での位置合わせを行う。
ステップS3534では、第一の位置合わせ部334は、複数のOCTA画像間において画像の横方向(x軸)と縦方向(y軸)、xy面内の回転位置合わせを行う。OCTA画像間の位置合わせでは、xy面内においてサブピクセル位置合わせを行うために、OCTA画像のサイズを拡大して位置合わせを行う。サブピクセル位置合わせとすることで、ピクセル位置合わせよりも位置合わせの精度が向上することが期待される。例えば、OCTA画像の撮影サイズを300×300とした場合、600×600に拡大をする。拡大する際にはBicubicやLanczos(n)法のような補間方法を用いる。そして、画像同士の位置合わせ処理としては、例えば、2つのOCTA画像の類似度を表す評価関数を事前に定義しておき、OCTA画像位置をずらしたり、回転させたりしながら評価値を計算し、評価値が最もよくなる場所を位置合わせ結果とする。評価関数としては、画素値で評価する方法が挙げられる(例えば、相関係数を用いて評価を行う方法が挙げられる)。
ステップS3535では、第一の位置合わせ部334は、OCTA画像の画像評価値を計算する。画像評価値は、ステップS3534での二次元位置合わせ済みのOCTA画像において、位置合わせにより発生する無効領域を含まない画像の共通領域を用いて計算する。例えば、画像評価値Qは数4で求めることが出来る。
ステップS3536では、第一の位置合わせ部334は、ステップS3532で初期化した位置合わせや画像類似度などの画像高画質化に必要なパラメータを保存するための二次元行列に対して値を保存する。例えば、基準画像をData0、対象画像をData1とする場合、二次元行列の要素(0、1)に横方向の位置合わせパラメータX、縦方向の位置合わせパラメータY、XY面内の回転パラメータα、画像評価値、画像類似度を保存する。これらの情報の他に、図8で示したMask画像をOCTA画像と関連付けて保存しておく。さらに、本実施形態では説明をしないが、倍率補正を行う場合には、倍率を保存しても良い。
ステップS3537では、第一の位置合わせ部334は、全ての画像を基準画像として残りの対象画像と位置合わせを行ったか否かを判定する。全ての画像を基準として処理をしていない場合には、ステップS3533に戻る。そして、全ての画像を基準として処理をした場合には、ステップS3538に進む。
ステップS3538では、第一の位置合わせ部334は、二次元行列の残りの要素を更新する。上記処理は、ステップS3533で説明したように、半分の組み合わせしか計算をしていない。そのため、計算をしていない要素にこれらの値をコピーする。例えば、二次元行列の要素(0、1)のパラメータは(1、0)の要素にコピーされる。すなわち、要素(i、j)を要素(j、i)にコピーする。この際、位置合わせパラメータX、Yと回転パラメータαは逆になるため、負の値を掛けてコピーをする。なお、画像類似度などは逆にならないため、同じ値をそのままコピーする。これらの処理によりOCTA画像位置合わせが行われる。次に、図3(b)の処理フローに戻って説明を行う。
ステップS354では、選択部335が基準画像の選択を行う。ステップS353で行った位置合わせの結果に基づいて基準画像選択を行う。ステップS353において、二次元行列を作成しており、行列の各要素に高画質化画像生成に必要な情報が保存されている。そのため、その情報を用いることで基準画像選択を行う。基準画像選択において、画像評価値、位置合わせパラメータ評価値、アーティファクト領域評価値を用いて選択を行う。画像評価値は、ステップS3535で求めた値を用いる。位置合わせパラメータは、ステップS3534で求めた位置合わせ結果のXとYを用いて、例えば、数6を用いて評価値とする。数6では、移動量が大きいほど大きな値となる。
ステップS355では、第二の位置合わせ部336がOCTA画像を用いて網膜の横方向(x軸)の位置合わせを行う。これについて図10を用いて説明をする。図10(a)は、基準画像がData1で、位置合わせ対象がData2との横方向位置合わせを行う例を示している。また、Maskは、Data2に含まれるアーティファクト(図では横方向の黒いライン)と、Data1との位置合わせの結果Data2が移動することにより生じる無効領域(図では縦方向の黒いライン)に0を設定してある。基準画像と位置合わせ対象画像は、それぞれのラインで横方向に位置合わせを行い、ライン単位での類似度を計算する。類似度の計算には、例えば数2を用いる。そして、類似度が最大となる位置にラインを移動させる。また、ライン単位で基準画像に対しての類似度を計算し、類似度に応じてMaskに重みを設定する。なお、Maskに対する重み付けは必須の処理ではなく、実施しないこととしてもよい。
ステップS356では、第三の位置合わせ部335は、基準の三次元データとその他の三次元データとの深さ方向(Z方向)における位置合わせを行う。この処理に関して、図5のフローチャートを用いて説明をする。
ステップS3561では、第三の位置合わせ部335は、基準となる三次元モーションコントラストデータと基準となる三次元の断層像データをそれぞれ記憶しておく。例えば、本実施形態ではData1の三次元モーションコントラストデータと三次元の断層像データを記憶する。
ステップS3562では、第三の位置合わせ部335は、ステップS351で検出した境界線情報を取得する。なお、本実施形態において深さ方向位置合わせに用いる境界線はL1とする。
ステップS3563では、第三の位置合わせ部335は、それぞれの三次元データ毎に深さ方向の位置と傾きを合わせる。三次元の断層像を撮影する際に眼は動いている。XY面内の移動に関しては、リアルタイムにトラッキングを行いながら撮影を行うため、撮影時にほとんど位置合わせが出来ている。しかし、深さ方向に関してはリアルタイムトラッキングをしていないため、データ内部でも位置合わせを行う必要がある。すなわち、ここでの説明は一つの三次元データ内の位置合わせに関する。これについて、図11を用いて説明をする。図11(a)は、位置合わせに用いる境界線の例を示している。本実施形態においては、境界線L1(ILM)を用いる場合について説明をする。なお、本実施形態においては境界線L1を使用する例について説明を行うが、境界線の種類はこれに限らない。他の境界線でも良いし、複数の境界線を組み合わせても良い。
ステップS3564では、第三の位置合わせ部335は、複数の三次元データ間での深さ方向の位置と傾きを合わせる。ここでは、ステップS3563で三次元データ内での深さ方向の位置合わせをしたデータを用いて、三次元データ間での位置合わせを行う。ここでも、先ほどと同様に境界線L1を用いて位置合わせをする。計算方法は、ステップS3563と同様であるが、計算する対象は、データ内ではなくデータ間となる。そのため、基準データと対象データとの位置合わせを行う。これについて、図12(b)を用いて説明をする。本実施形態において、基準データはData1で、位置合わせの対象データはData0とData2とする。そのため、DepthMapに対して、第一の位置合わせ、第二の位置合わせで求めたパラメータを適用して、Data0とData2のDepthMapをそれぞれ変形させる。そして、Data0とData2共に、Data1に対して、各Bスキャンに相当する境界線L1の深さ方向位置合わせを実行する。これらの計算式は数9と同様の方法で行う。
ステップS3565では、第三の位置合わせ部335は、第一の位置合わせ、第二の位置合わせ、第三の位置合わせで求めたX、Y、Rotation、Zに関する変形パラメータを適用して三次元データを変形する。第三の位置合わせ部335は、例えば、三次元データに含まれる断層像データおよびモーションコントラストデータの両方とも変形をする。なお、ステップS3534においてxy面内において画像を拡大して位置合わせを行っている場合、三次元データ変形時に元のサイズに相当する変形パラメータに戻す。すなわち、2倍に拡大した画像でのxy面内位置合わせパラメータの数値が1であった場合、ここでは、0.5であるとする。そして、元のサイズで三次元データの形状変形を行う。
ステップS3566では、第三の位置合わせ部335は、データ間でのZ位置合わせを行ったDepthMapにおいて、基準データと対象データとの差分検出を行う。そして、差分の絶対値が閾値以上の場所(x、y)においては、位置合わせの精度が低いと判断し重ね合わせに使用しない。そのため、対象データのMask画像に無効領域として0を設定する。
ステップS357では、第四の位置合わせ部338は、基準データと対象データ間において、断層画像内部の特徴がある部分に位置合わせのための領域を複数設定し、その領域単位で網膜の横方向(x軸)と深さ方向(z軸)の位置合わせを行う。なお、ここでの位置合わせはZ方向の局所位置合わせとして説明をする。第四の位置合わせ部338が行う局所位置合わせについて、図6のフローチャートを用いて説明をする。
ステップS3571では、第四の位置合わせ部338は、ステップS351で検出した境界線情報を取得する。なお、本実施形態において深さ方向位置合わせに用いる境界線はL1とL3とする。
ステップS3572では、第四の位置合わせ部338は、対象画像の特徴領域を含むように位置合わせ用の領域を設定する。これについて、図14を用いて説明をする。
ステップS3573では、第四の位置合わせ部338は、ROIを使って領域位置合わせを行う。領域位置合わせは断層画像で行う。そのため、ステップS3534で示したOCTA画像位置合わせと同様に数1を用いて画像類似度に応じた位置合わせを行う。ただし、類似度の評価値はこれに限らず、SSD(Sum of Squared Difference)や、SAD(Sum of Absolute Difference)などでも良い。あるいは、POC(Phase Only Correlation)のような方法で、位置合わせを行っても良い。
ステップS3574では、第四の位置合わせ部338は、ステップS3573で求めた位置合わせパラメータを補間することで各Aスキャンの移動量を算出する。これについて、図15を用いて説明をする。図15(a)は、初期設定した領域のROI1~ROI3を表している。C1~C3の下三角はROI1~ROI3の中心位置を表している。また、図15(b)は、ステップS3573での位置合わせ後のROIの移動例を示している。図15(b)においては、ROI1とROI3がそれぞれ右側に移動し、ROI2が移動しない場合の例である。そのため、ROIの中心C1とC3がそれぞれC1’とC3’に移動している。各ROIの移動量からAスキャンの移動量を算出するためには、隣接するROIとROIの中心位置の移動量に基づいて算出をする。例えば、ROI1の中心位置はC1からC1’に移動しており、ROI2の中心位置はC2のままである。ここで、変形前のC1からC2の間にある各AスキャンのX方向移動量を求める式を数12~14に示す。
ステップS3575では、第四の位置合わせ部338は、ステップS3574で求めたAスキャン移動量を基に、Aスキャン毎にX方向とZ方向に移動させる。それにより、Aスキャン単位で変形した断層画像を生成することが出来る。なお、第四の位置合わせ部338は、断層像データおよびモーションコントラストデータの両方を変形をする。
ステップS3576では、第四の位置合わせ部338は基準となる三次元データの全ての断層画像に対して、位置合わせの対象となるデータの全てを局所位置合わせ行ったか否かを判定する。全てのデータを処理していない場合には、ステップS3561に戻る。そして、全てのデータを局所位置合わせした場合には、局所位置合わせの処理が終了する。
ステップS358では、画像合成部339は、選択部335が選択した基準となる三次元モーションコントラストデータと、複数の三次元モーションコントラストデータ同士を加算平均(合成)する。加算平均処理では、ボクセル毎に、複数のモーションコントラストデータとMask画像の値を掛け算した値の合計値SUM_Aと、複数のMask画像の値の合計値SUM_Bをそれぞれ保持しておく。Mask画像にはアーティファクトとして除去した無効領域や、位置合わせによりデータが存在しない無効領域が0として保存されているため、Mask画像の合計値SUM_Bにはボクセル毎に異なる値が保持されている。通常、位置合わせにおいてXYZ毎、数10ボクセルの移動が想定されるため、重ね合わせに用いたデータ数がN個である場合、画像中心付近のSUM_Bのボクセル値はNであり、画像端部のSUM_Bのボクセル値はNよりも少ない値になる。そして、加算平均処理では、SUM_AをSUM_Bで割ることにより加算平均を計算したモーションコントラストデータを求めることが出来る。
ステップS359では、第三の位置合わせ部337は、ステップS3561で記憶している入力の三次元モーションコントラストデータと三次元の断層像データと、ステップS3563で記憶している各Aスキャンの深度方向移動量に基づいて、基準データ(本実施形態ではData1)の網膜位置を入力時の深度位置の状態に戻す。具体的には、ステップS358で加算平均後の三次元モーションコントラストデータと三次元の断層像データを、ステップS3563で記憶している各Aスキャンの深度方向移動量を用いて元の状態に戻す。例えば、あるAスキャンにおいて下方向に5移動させている場合、ここでは上方向に5移動させる。さらに、上方向に5移動させることで、データ下部に無効領域が発生してしまう。そのため、その無効領域には、ステップS3561で記憶している入力の三次元モーションコントラストデータと三次元の断層像データにおいて、同じ座標位置のデータをそれぞれコピーする。
ステップS306では、加算平均して作成した高画質な三次元モーションコントラストデータと高画質な三次元断層画像を対応可能な状態で表示する。
ステップS307において、不図示の指示取得部は、画像処理システム100による断層画像の撮影を終了するか否かの指示を外部から取得する。この指示は、入力部700を用いて、操作者によって入力される。処理を終了する指示を取得した場合には、画像処理システム100はその処理を終了する。一方、処理を終了せずに、撮影を続ける場合には、ステップS302に処理を戻して撮影を続行する。以上によって、画像処理システム100の処理が行われる。
実施例1においては、加算平均後の断層画像に、加算平均後のモーションコントラストデータにおいて、閾値以上の値のデータを全て重畳表示する例について示した。本実施形態においては、OCTA画像を表示するために選択している層の内外において、重畳表示するモーションコントラストデータの表示形態を変更することを特徴とする。
実施例2においては、加算平均後の断層画像に、加算平均後のモーションコントラストデータを重畳表示する際に、深さ方向の位置情報を用いて重畳表示領域の色や透明度を変更する例を示した。本実施形態においては、加算平均後のモーションコントラストデータを重畳表示する際に、領域の輪郭に相当する情報を重畳表示する例について説明をする。上記第一、第二の実施形態と同様の機能を有するものに関しては、ここでは説明を省略する。本実施形態の処理について図23と図24を用いて説明を行う。
本実施形態では、加算平均後の断層画像に加算平均後のモーションコントラストデータを重畳表示する例を示したが、これに限らない。重畳表示するモーションコントラストデータの表示と非表示は切り替えられるものとしても良い。例えば、断層画像上において右クリックを行うことにより、表示制御部305は表示部600にメニューを表示させる。そして表示制御部305は、表示メニューの一部の選択を受け付けることで、重畳しているモーションコントラストデータの表示と非表示を切り替えるよう表示部600を制御することとしても良い。なお、表示と非表示の選択方法はこれに限らない。例えばチェックボックスの選択により表示と非表示を切り替えても良いし、タブレットのようなデバイスで画像を表示している際には、ジェスチャー入力によって表示と非表示を切り替えても良い。同じ断層画像上において、注目部位の表示と非表示を切り替えることで、XY面における注目部位の場所とXZ面における注目部位との対応関係を把握しやすくするとともに、構造自体の観察も行いやすくすることが出来る。
本実施形態では、加算平均時のモーションコントラストデータと、断層画像データとは、それぞれ同じ重みを用いて加算平均処理を行う例を示したが、これに限らない。例えば、断層画像における重みとモーションコントラストデータにおける重みとを別々にしてもよい。なお、重みとは重ね合わせに用いる画像の枚数とも言い換えられる。すなわち、画像AとBに対する重みを1.0とした場合、加算平均画像は画像AとBの平均となる。画像Aの重みを1.0、画像Bの重みを0.0とした場合、加算平均画像は画像Aと等しくなる。なお、重みの値は整数値ではなく実数値である。そのため、画像の枚数と言い換えた場合においても、枚数は整数値ではなく1.5のような実数値である。
本実施形態では、撮影した断層画像を用いて境界線検出を行う例を示したが、これに限らない。上述の加算平均処理を行った断層画像を用いて境界線検出を行っても良い。例えば、高画質データ生成に境界線情報を用いるため、撮影した断層画像に対してステップS351で境界線検出をしている。この処理を、ステップS305における高画質データ生成処理の後に、再度実行する。それにより、境界線検出のための断層画像は、撮影時の断層画像と比較してノイズの低減した断層画像であるため、境界線検出の精度が向上することが見込まれる。
本実施形態では、繰り返しN回撮影するデータは、同じ撮影範囲を同じスキャンパターンで撮影する例を説明したが、これに限らない。例えば、3mm×3mmの範囲を300×300(主走査×副走査)で撮影したデータと、3mm×3mmの範囲を600×600で撮影したデータとを位置合わせするようにしても良い。この時の深度方向のサイズはどちらのデータにおいても共通で、例えば1000とする。その場合には、1ボクセルあたりの物理サイズを揃えるデータ変換処理を行った後に、上述した位置合わせ処理を実行する。なお、この例では、300×300のデータを補間処理によって600×600に拡大してから処理をするようにしても良いし、600×600のデータを補間処理によって300×300に縮小してから処理をするようにしても良い。また、3mm×3mmの範囲を300×300で撮影したデータと、6mm×6mmの範囲を600×600で撮影したデータとを位置合わせする場合には、1ボクセルあたりの物理サイズは同じであるため、このままのサイズ同士で位置合わせを行う。これにより、異なる撮影範囲や異なるスキャン密度で撮影したデータ同士も加算平均することが出来る。
本実施形態では、基準画像選択において、画像評価値、位置合わせパラメータ評価値、アーティファクト領域評価値を用いて選択を行う例を説明したが、これに限らない。例えば、さらに層検出の評価値を用いて基準画像選択をしても良い。
本実施形態では、データ内でのZ方向位置合わせにおいて、最初の基準データをデータの中心としたがこれに限らない。例えば、画像中心付近において境界線L1の層検出の信頼度が高い場所を基準として始めるようにしてもよい。層検出の信頼度は、変形例2で示したように、画像の明るさや検出した層境界のZ方向位置によって定義される。これにより、信頼度の高い箇所を基にして位置合わせを開始するため、位置合わせのエラーを低減することが期待できる。
本実施形態において、三次元のモーションコントラストデータと三次元の断層像の両方を三次元的に形状変形し、加算平均する例を示したが、これに限らない。断層像だけを変形させても良い。その場合、画像合成部339による加算平均処理は三次元の断層像のみ行う。三次元の断層像のみを高画質にすれば良い場合は、三次元の断層像のみを形状変形させるため、処理負荷を軽減することが出来る。
本実施形態において、ステップS3534においてOCTA画像をxy面内で拡大して位置合わせを行い、ステップS3565において、xy面内の移動パラメータを元のサイズに相当する移動パラメータに変換した。そして、元のサイズで三次元データの形状変形を行う例を示したが、これに限らない。例えば、三次元データそのものを拡大して位置合わせを行い、そのままの状態で出力をするようにしても良い。具体的には、三次元データのサイズが300×300×1000(主走査×副走査×深度)のような数値だとする。これを600×600×1000に拡大して位置合わせと加算平均を行い、そのままのサイズでデータ出力を行っても良い。あるいは、600×600×1000に拡大して位置合わせと加算平均を行った後、最後に300×300×1000のサイズに戻して出力するようにしても良い。これにより、出力される三次元の加算平均後のデータは、より高画質になることが期待される。
本実施形態において、第三の位置合わせ部337は、Z方向に移動させたデータをステップS359において、入力時のZ位置に戻す処理を行ったが、これに限らない。例えば、入力時のZ位置に戻さずに第三の位置合わせ部337で行ったZ位置合わせの結果のまま出力するようにしても良い。これにより、Z方向に関する深さと傾きの位置合わせが済んだデータを表示することが出来る。なお、この場合には、ステップS3561の基準データ記憶の処理を行う必要がない。その代わり、Z方向にデータ全体を変形させているため、検出部333が検出した層境界のZ方向位置をステップS3563で記憶している移動量に基づいて補正する。
本実施形態において、撮影から表示までを一連の流れで示したがこれに限らない。例えば、既に撮影が済んでいるデータを用いて高画質画像生成処理を行ってもよい。その場合、撮影に関する処理をスキップし、その代わりに撮影済みの複数の三次元のモーションコントラストデータと三次元の断層像を取得する。そして、ステップS305で高画質画像生成処理を行う。これにより、複数回撮影を行ったデータに関して、撮影時に処理をしなくても、必要な時に高画質化処理を実行することが出来る。そのため、撮影時には撮影だけに集中することが出来る。
上記の例において閾値以上のモーションコントラストデータを断層画像に重畳することとしているが、当該閾値は可変であってもよい。例えば、表示制御部305は、表示部600に閾値の変更を受け付けるGUIを表示させることとしてもよい。例えば、GUIを介して変更された閾値に基づいて表示制御部305は、断層画像に重畳させるモーションコントラストデータを変更することができる。
上記の例において断層画像に重畳するモーションコントラストデータは、ステップS358において加算平均処理が施されたモーションコントラストデータであったが、加算平均処理されていないモーションコントラストデータであってもよい。この場合であっても、モーションコントラストデータが重畳される二次元断層画像が加算平均されたものであるため、断層構造とモーションコントラストデータとの関係は明確なものになっている。
三次元の断層画像データおよび三次元のモーションコントラストデータの位置合わせ方法は上述の例に限定されるものではなく、公知の種々の手法を用いることとしてもよい。
上記のそれぞれの実施形態は、本発明を画像処理装置として実現したものである。しかしながら、本発明の実施形態は画像処理装置のみに限定されるものではない。本発明をコンピュータ上で動作するソフトウェアとして実現することも可能である。画像処理装置のCPUは、RAMやROMに格納されたコンピュータプログラムやデータを用いてコンピュータ全体の制御を行う。また、画像処理装置の各部に対応するソフトウェアの実行を制御して、各部の機能を実現する。また、ボタンなどのユーザーインターフェイスや表示のレイアウトは上記で示したものに限定されるものではない。
200 断層画像撮影装置
300 画像処理装置
301 画像取得部
303 画像処理部
305 表示制御部
311 断層画像生成部
312 モーションコントラストデータ生成部
331 前処理部
332 画像生成部
333 検出部
334 第一の位置合わせ部
335 表示制御部
336 第二の位置合わせ部
337 第三の位置合わせ部
338 第四の位置合わせ部
339 画像合成部
400 眼底画像撮影装置
500 外部記憶部
600 表示部
700 入力部
Claims (19)
- 被検眼の撮影範囲の三次元の断層画像を複数取得する第1取得手段と、
前記被検眼の前記撮影範囲の三次元のモーションコントラストデータを複数取得する第2取得手段と、
前記複数の三次元のモーションコントラストデータを合成した合成三次元のモーションコントラストデータを生成する合成手段と、
前記三次元の断層画像から加算平均処理された二次元の断層画像に、当該二次元の断層画像と対応する位置の前記合成三次元のモーションコントラストデータを重畳した画像を表示部に表示させる表示制御手段と、
を備えることを特徴とする画像処理装置。 - 前記合成三次元のモーションコントラストデータは、前記複数の三次元のモーションコントラストデータが加算平均処理されたデータであることを特徴とする請求項1記載の画像処理装置。
- 前記複数の三次元の断層画像は、前記複数の三次元のモーションコントラストデータの生成に用いられる断層画像と共通していることを特徴とする請求項1または請求項2に記載の画像処理装置。
- 前記複数の三次元の断層画像の数は、前記合成三次元のモーションコントラストデータの生成に用いられる断層画像の数と異なることを特徴とする請求項1または請求項2に記載の画像処理装置。
- 前記合成三次元のモーションコントラストデータを重畳した画像は、前記被検眼の深さ方向を含む二次元の断層画像であることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
- 前記表示制御手段は、前記表示部に前記被検眼の所定深さ範囲のEnFace画像を表示させ、
前記表示制御手段は、前記合成三次元のモーションコントラストデータのうち前記所定深さ範囲に基づいて決定される一部のモーションコントラストデータのみを前記EnFace画像に重畳した状態で、前記表示部に表示させることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。 - 前記表示制御手段は、前記合成三次元のモーションコントラストデータのうち前記所定深さ範囲に含まれるモーションコントラストデータのみを前記EnFace画像に重畳した状態で、前記合成三次元のモーションコントラストデータと共に前記表示部に表示させることを特徴とする請求項6記載の画像処理装置。
- 前記表示制御手段は、前記合成三次元のモーションコントラストデータのうち前記所定深さ範囲に含まれないモーションコントラストデータのみを前記合成三次元の画像に重畳した状態で、前記合成三次元のモーションコントラストデータと共に前記表示部に表示させることを特徴とする請求項6記載の画像処理装置。
- 前記表示制御手段は、前記表示部に前記被検眼の所定深さ範囲のEnFace画像を表示させ、
前記表示制御手段は、前記所定深さ範囲に含まれる前記合成三次元のモーションコントラストデータと前記所定深さ範囲外の前記合成三次元のモーションコントラストデータとを異なる表示形態で前記表示部に表示させることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。 - 前記表示形態は、色および透明度の少なくとも1つを含むことを特徴とする請求項9記載の画像処理装置。
- 前記表示制御手段は、前記所定深さ範囲に含まれる前記合成三次元のモーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分の輪郭部分で囲まれた内部の領域の透明度を前記輪郭部分の透明度よりも高くして前記表示部に表示させ、前記所定深さ範囲外の前記合成三次元のモーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分の輪郭部分の内部の領域の透明度を前記輪郭部分の透明度と同じにして前記表示部に表示させることを特徴とする請求項9記載の画像処理装置。
- 前記表示制御手段は、前記所定深さ範囲に含まれる前記合成三次元のモーションコントラストデータのうち前記合成三次元のモーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分の輪郭部分のみを前記表示部に表示させることを特徴とする請求項9記載の画像処理装置。
- 前記表示制御手段は、前記合成三次元のモーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分の輪郭部分で囲まれた内部の領域の透明度を前記輪郭部分の透明度よりも高くして前記表示部に表示させることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
- 前記表示制御手段は、前記合成三次元のモーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分の輪郭部分のみを前記表示部に表示させることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
- 前記表示制御手段は、前記所定深さ範囲に含まれる前記合成三次元のモーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分を囲む線からなる図形を前記モーションコントラストデータとして前記表示部に表示させることを特徴とする請求項9記載の画像処理装置。
- 前記表示制御手段は、前記合成三次元のモーションコントラストデータのうち前記モーションコントラストデータにおけるモーションコントラスト値が閾値以上の部分では、当該部分を囲む線からなる図形を前記モーションコントラストデータとして前記表示部に表示させることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
- 前記EnFace画像は、前記複数の三次元のモーションコントラストデータが合成された合成三次元のモーションコントラストデータから生成されたEnFace画像または前記複数の三次元のモーションコントラストデータそれぞれから生成されたEnFace画像を合成することで得られたEnFace画像であることを特徴とする請求項6乃至12のいずれか1項に記載の画像処理装置。
- 被検眼の撮影範囲の三次元の断層画像を複数取得する第1取得工程と、
前記被検眼の前記撮影範囲の三次元のモーションコントラストデータを複数取得する第2取得工程と、
前記複数の三次元のモーションコントラストデータを合成した合成三次元のモーションコントラストデータを生成する合成工程と、
前記三次元の断層画像から加算平均処理された二次元の断層画像に、当該二次元の断層画像と対応する位置の前記合成三次元のモーションコントラストデータを重畳した画像を表示部に表示させる表示制御工程と、
を備えることを特徴とする画像処理方法。 - 請求項18記載の画像処理方法の各工程をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018010522A JP7158860B2 (ja) | 2018-01-25 | 2018-01-25 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018010522A JP7158860B2 (ja) | 2018-01-25 | 2018-01-25 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019126572A JP2019126572A (ja) | 2019-08-01 |
JP7158860B2 true JP7158860B2 (ja) | 2022-10-24 |
Family
ID=67471487
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018010522A Active JP7158860B2 (ja) | 2018-01-25 | 2018-01-25 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7158860B2 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015160105A (ja) | 2014-02-28 | 2015-09-07 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
US20170112377A1 (en) | 2015-10-21 | 2017-04-27 | Nidek Co., Ltd. | Ophthalmic analysis device and ophthalmic analysis program |
JP2017127506A (ja) | 2016-01-21 | 2017-07-27 | キヤノン株式会社 | 画像形成方法及び装置 |
WO2017155015A1 (ja) | 2016-03-11 | 2017-09-14 | キヤノン株式会社 | 情報処理装置 |
JP2017158687A5 (ja) | 2016-03-08 | 2019-01-10 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6702764B2 (ja) | 2016-03-08 | 2020-06-03 | キヤノン株式会社 | 光干渉断層データの処理方法、該方法を実行するためのプログラム、及び処理装置 |
JP6703730B2 (ja) | 2016-06-16 | 2020-06-03 | 株式会社ニデック | 光コヒーレンストモグラフィ装置、および光コヒーレンストモグラフィ制御プログラム |
-
2018
- 2018-01-25 JP JP2018010522A patent/JP7158860B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015160105A (ja) | 2014-02-28 | 2015-09-07 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
US20170112377A1 (en) | 2015-10-21 | 2017-04-27 | Nidek Co., Ltd. | Ophthalmic analysis device and ophthalmic analysis program |
JP2017127506A (ja) | 2016-01-21 | 2017-07-27 | キヤノン株式会社 | 画像形成方法及び装置 |
JP2017158687A5 (ja) | 2016-03-08 | 2019-01-10 | ||
WO2017155015A1 (ja) | 2016-03-11 | 2017-09-14 | キヤノン株式会社 | 情報処理装置 |
JP2017221525A5 (ja) | 2016-06-16 | 2019-06-13 |
Also Published As
Publication number | Publication date |
---|---|
JP2019126572A (ja) | 2019-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10973406B2 (en) | Image processing apparatus, image processing method, and non-transitory computer readable medium | |
JP2017127506A (ja) | 画像形成方法及び装置 | |
US10102621B2 (en) | Apparatus, method, and program for processing image | |
JP6526145B2 (ja) | 画像処理システム、処理方法及びプログラム | |
JP7362403B2 (ja) | 画像処理装置および画像処理方法 | |
JP7374615B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7195745B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20190073780A1 (en) | Image processing apparatus, alignment method and storage medium | |
JP7102112B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2020050308A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021122559A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US10803568B2 (en) | Image processing apparatus, alignment method and storage medium | |
US10789721B2 (en) | Image processing apparatus, alignment method and storage medium | |
JP7297952B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP7005382B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2019150485A (ja) | 画像処理システム、画像処理方法及びプログラム | |
JP7158860B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019063446A (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2020090439A1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP7281872B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7204345B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7086708B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2022062619A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021058285A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2019115827A (ja) | 画像処理システム、処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210806 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210810 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211006 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220315 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220506 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220913 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221012 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7158860 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |