JP6639973B2 - 超音波診断装置、医用画像処理装置及び医用画像処理プログラム - Google Patents

超音波診断装置、医用画像処理装置及び医用画像処理プログラム Download PDF

Info

Publication number
JP6639973B2
JP6639973B2 JP2016055845A JP2016055845A JP6639973B2 JP 6639973 B2 JP6639973 B2 JP 6639973B2 JP 2016055845 A JP2016055845 A JP 2016055845A JP 2016055845 A JP2016055845 A JP 2016055845A JP 6639973 B2 JP6639973 B2 JP 6639973B2
Authority
JP
Japan
Prior art keywords
curvature
volume data
image
diagnostic apparatus
smoothing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016055845A
Other languages
English (en)
Other versions
JP2016174905A (ja
Inventor
スペンサー ロス ポール
スペンサー ロス ポール
デイ ティモシー
デイ ティモシー
デイビー ロバート
デイビー ロバート
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Canon Medical Systems Corp
Original Assignee
Toshiba Corp
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Canon Medical Systems Corp filed Critical Toshiba Corp
Publication of JP2016174905A publication Critical patent/JP2016174905A/ja
Application granted granted Critical
Publication of JP6639973B2 publication Critical patent/JP6639973B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30044Fetus; Embryo

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Image Processing (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Generation (AREA)
  • Image Analysis (AREA)

Description

本実施形態は、シェーディング等の画像処理を行う超音波診断装置、医用画像処理装置及び医用画像処理プログラム
に関する。
超音波を使用して、トランスデューサからの超音波を送信および受信することにより、子宮内の胎児を撮像することが知られている。
3次元(3D)超音波画像は、様々な位置または角度で取られた超音波データを組合せ、かつ単純な表面シェーディングまたは直接ボリュームレンダリングなどの方法を用いて、組み合わされたデータから画像をレンダリングするソフトウェアを用いて取得され得る。4次元(4D)超音波撮像システムでは、様々な時間に取得された一連の3次元画像が動的にレンダリングされて、例えば、3D超音波映画などの動く3D画像を生成する。
近年では、3Dおよび4D超音波画像は、以前使用されていたものよりも物理的にさらに正確なモデルを用いて照明をシミュレートする進んだライティング技法(グローバルイルミネーション、勾配のないライティング(gradient free lighting)、表面下散乱、またはフォトンマッピングと呼ばれる)を使用することにより、より現実感のあるものとなってきている。
3Dおよび4Dの胎児超音波走査(時には、胎児の記念走査として知られている)の人気のある対象は、胎児の顔を撮像することである。多くの親は、走査の現実感のある様子により動機付けられて、自分のまだ生まれていない子供とよい絆を結ぶために、3Dまたは4D超音波走査を受けている。3Dまたは4D超音波走査はまた、口唇裂もしくは口蓋裂などの異常を有する胎児の外観を親に知らせるためにも有用であり得る。
しかしながら、超音波走査から受信されたボリュームデータには、ノイズが多い可能性がある。ボリューム超音波データは、レンダリングを行う前に平滑化されて、得られたレンダリングされた画像におけるノイズを低減することができる。しかし、ボリューム画像データを平滑化するプロセスはまた、レンダリングされた画像における細部のレベルを低下させるおそれがある。
目的は、従来に比して、ノイズ低減しつつ撮影対象の細部レベルを好適に描出可能な超音波診断装置、医用画像処理装置及び医用画像処理プログラムを提供することにある。
本実施形態に係る超音波診断装置は、計算手段と、画像生成手段とを具備する。計算手段は、被検体の少なくとも一部を超音波走査して得られる第1のボリュームデータに対し平滑化処理を実行して第2のボリュームデータを生成し、第1のボリュームデータ又は第2のボリュームデータの表面上における複数位置において曲率を計算し、複数位置における曲率を平滑化する。画像生成手段は、第2のボリュームデータを用いたレンダリング処理により第1の画像を生成し、第1の画像と平滑化された曲率とを用いたシェーディング処理を実行し、第2の画像を生成する。
実施形態による画像処理装置の概略図。 実施形態によるオペレーションモードを概略的に示す流れ図。 実施形態の方法が適用されていない、平滑化されたボリューム画像データからレンダリングされた画像の図。 実施形態の方法が適用されている、平滑化されたボリューム画像データからレンダリングされた画像の図。
実施形態による超音波診断装置2が図1で概略的に示されている。超音波診断装置2は、データストア20と、関連するトランスデューサプローブ4と接続される。例えば、3Dまたは4D撮像に適した胎児の超音波画像データを取得するように構成された任意の超音波診断装置2およびトランスデューサプローブ4など、任意の適切なタイプの超音波診断装置2および測定プローブ4が使用され得る。
超音波診断装置2は、主超音波画像を表示するための主表示画面6と、制御情報を表示するための制御画面8と、スキャナコンソール10とを備える。この実施形態では、スキャナコンソール10は、入力ボタンもしくはノブ、コンピュータキーボード、マウスもしくはトラックボールなど、1つまたは複数の入力デバイスを備える。代替の実施形態では、制御画面8は、表示デバイスとユーザ入力デバイスの両方であるタッチスクリーンである。さらなる実施形態は、超音波診断装置2の一部を形成しない制御画面8、表示画面、または主表示画面6を備えることができる。
超音波診断装置2は、画像データを含むデータを処理するための処理装置12を備える。本実施形態では、処理装置12は、超音波データを処理するように構成される。他の実施形態では、例えば、CT、MR、PET、またはSPECTデータなど、任意のモダリティのデータが処理され得る。
処理装置12は、平滑化回路14と、レンダリング回路15と、曲率回路16と、シェーディング付加回路17と、表示制御回路18とを含む。
本実施形態では、平滑化回路14、レンダリング回路15、曲率回路16、シェーディング付加回路17、および表示制御回路18はそれぞれ、実施形態の方法を実施することが実行可能なコンピュータ可読命令を有するコンピュータプログラムにより、処理装置12に実装される。しかし、他の実施形態では、様々な回路は、ソフトウェアで、ハードウェアで、またはハードウェアとソフトウェアの任意の適切な組合せで実施することができる。いくつかの実施形態では、様々な回路は、1つまたは複数のASIC(特定用途向け集積回路)またはFPGA(書替え可能ゲートアレイ)として実施され得る。
処理装置12はまた、RAM、ROM、データバスを含むハードドライブおよび他の構成要素と、様々なデバイスドライバを含むオペレーティングシステムと、グラフィックスカードを含むハードウェアデバイスとを含む。このような構成要素は、分かりやすくするために、図1に示されていない。代替の実施形態では、処理装置12は、超音波診断装置2の一部ではなく、例えば、パーソナルコンピュータまたはワークステーションとすることができる。
本実施形態では、画像処理装置が超音波診断装置2を備えているが、他の実施形態では、画像処理装置は、代替のモダリティ(例えば、CT、MR、PET、またはSPECT)のスキャナ、医用画像データを処理するための装置(例えば、PCTまたはワークステーション)、またはスキャナおよび処理装置の組合せを備えることができる。
図1のシステムは、図2の流れ図で概略的に例示された一連の段階を有するプロセスを実施するように構成される。
平滑化回路14は、画像ボリューム30を受け取る。画像ボリューム30は、ボリューム医用画像データを備え、ボリューム医用画像データセットと呼ばれ得る。画像ボリューム30は、被検体の3D領域に対応しており、構造の表面の少なくとも一部を表す。
画像ボリューム30は、平滑化されていない超音波データを備えていると見なされ得る。画像ボリューム30は、例えば、超音波走査取得段階から得られたデータなど、最初に利用可能なデータとすることができる。いくつかの状況では、最初に利用可能なデータが取得段階で実施される、ある程度の平滑化を有することもある。
本実施形態では、画像ボリューム30は、超音波診断装置2とプローブ4とを用いて取得された患者の超音波走査から得られたボリューム画像データを備える。走査される患者の領域は患者の子宮であり、また画像は、胎児の表面の少なくとも一部、特に、胎児の顔を表している。
本実施形態では、ボリューム医用画像データは超音波データを備えているが、ボリューム画像データは、任意の適切な医用撮像装置を用いて取得することができ、例えば、CT、MR、PET、またはSPECTデータを備えることができる。
実施形態では、画像ボリューム30は、例えば、患者の頭部、胸部、または腹部など、患者の任意の3D領域を表すことができる。画像ボリューム30は、撮像され得る任意の適切な解剖学的構造を表すことができる。例えば、一実施形態では、3D領域は患者の胸部であり、撮像される構造は心臓である。
画像ボリューム30は、複数のボクセルを備え、各ボクセルは、画像ボリューム30の3次元空間に関連付けられた位置と、関連付けられた強度を有する。
段階32で、平滑化回路14が、画像ボリューム30に対して特徴保存フィルタを適用して、部分的にノイズが除去された画像ボリューム34を生成する。特徴保存フィルタは、高い強度勾配を保存するフィルタとすることができる。本実施形態では、特徴保存フィルタは、バイラテラルフィルタ(例えば、TomasiおよびManduchiによる「Bilateral Filtering for Gray and Color Images」、Computer Vision(コンピュータビジョン)に関する1988年IEEE国際会議の会議録、インド国ボンベイを参照のこと)である。他の実施形態では、特徴保存フィルタは、標準の異方性拡散(Perona Malik)フィルタ(例えば、PeronaおよびMalikによる「Scale−Space and Edge Detection Using Anisotropic Diffusion」、IEEE Transactions on Pattern Analysis and Machine Intelligence、12巻、No.7、1990年7月を参照のこと)である。
いくつかの代替の実施形態では、等方性および対称フィルタ(例えば、ガウシアンフィルタ)が、段階32における特徴保存フィルタの代わりに使用され得る。
本実施形態で使用されるバイラテラルフィルタは、一般的な異方性拡散の特別な場合であると見なされ得るが、それは、別の方法で(通常、1回の反復と、大きなカーネル半径とを用いて)適用され得る。バイラテラルフィルタは、(範囲成分として知られた)強度値の別個のガウス関数によりそのカーネル係数が調整された標準のガウシアンフィルタと同様に働くことができる。Perona Malik異方性拡散は、勾配の関数に基づいて平滑化を実施する。Perona Malik異方性拡散では、高い勾配のエリア(エッジ)は、低い勾配のエリアよりも少ない平滑化が適用される。
バイラテラルフィルタは、各ボクセルの強度値を、近傍のボクセルの強度値の関数と置き換えることにより、ボリューム画像データを平滑化し、その関数は、各近傍のボクセルの位置と、各近傍のボクセルの強度値および考慮中のボクセルの強度値の間の類似度とを共に考慮に入れる。
本実施形態では、平滑化回路14は、段階36で使用するために、部分的にノイズが除去された画像ボリューム34をレンダリング回路15に渡す。代替の実施形態では、平滑化回路14は、部分的にノイズが除去された画像ボリューム34に対してさらなる平滑化段階35を行う。このような一実施形態では(図2では点線で示されている)さらなる段階35が、段階34と段階36との間に加えられる。
段階35で、曲率ベースの平滑化フィルタが、部分的にノイズが除去された画像ボリューム34に適用される。曲率ベースの平滑化フィルタは、特徴保存平滑化フィルタである。曲率ベースの平滑化フィルタは、領域の境界を保存しながら、画像データの領域を平滑化する。
本実施形態では、曲率ベースの平滑化フィルタは、Hossain Mollerフィルタ(例えば、HossainおよびMollerによる「Edge Aware Anisotropic Diffusion for 3D Scalar Data」、IEEE Transactions on Visualization and Computer Graphics、第6号、11月/12月(2010年16巻)、1376〜1385頁を参照のこと)である。
Hossain Mollerフィルタは、1組の基底ベクトル(主曲率方向ベクトルと法線ベクトルの両方)により規定される3つの直交方向で異なる程度の平滑化を実施する非線形拡散の偏微分方程式により記述され得る。実際の主曲率方向(形状作用素の固有ベクトル)が、明示的に計算される必要はないはずである。いくつかの場合に、関連するスカラー量の固有値が使用されることがあるに過ぎない。
曲率ベースの平滑化フィルタは、更新された、部分的にノイズが除去された画像ボリュームを生成する。平滑化回路14は、段階36で使用するために、更新された、部分的にノイズが除去された画像ボリュームを、レンダリング回路15に渡す。他の実施形態では、曲率ベースの平滑化フィルタに代えて、またはそれに加えて、異なる平滑化フィルタが段階35で使用され得る。例えば、段階35で、任意の適切な特徴保存フィルタが使用され得る。いくつかの実施形態では、段階35の曲率ベースの平滑化フィルタは、レベルセット法(LSM)平滑化フィルタとすることができる。段階35のフィルタは、第2のフィルタと呼ぶことができる。
段階32の最初の特徴保存フィルタに加えて、段階35の第2のフィルタが使用可能であるとき、段階35の第2のフィルタは、入力データの特徴保存平滑化の大部分を提供することができ、段階32の最初の特徴保存フィルタは、平滑化に対する寄与は少なくなり得る。段階32の最初の特徴保存フィルタは、段階35の曲率ベースの平滑化フィルタに対して、より平滑な1組の初期条件を提供するように働くことができる。段階35の曲率ベースの平滑化フィルタは、安定性および効率のために、比較的平滑なデータセット曲率が必要になり得る。曲率ベースの平滑化フィルタは、段階32の最初の特徴保存フィルタにより平滑化されたデータが提供されたとき、画像ボリューム30が直接提供された場合よりも、より安定性があり、効率的になり得る。
段階36で、レンダリング回路15は、部分的にノイズが除去された画像ボリューム34を受け取る、または段階35が実施される実施形態では、更新された、部分的にノイズが除去された画像ボリュームを受け取る。部分的にノイズが除去された画像ボリューム34、または更新された、部分的にノイズが除去された画像ボリュームは、平滑化された医用画像データセットと呼ばれ得る。
レンダリング回路15は、以下で述べるように、平滑化された医用画像データセットに対してレイキャスティングプロセスを実施する。
段階36のレイキャスティングプロセスにおける第1の段階として、レンダリング回路15は、ピクセルの2次元配列を規定する。ピクセルの配列は、主表示画面6上に表示するように画像を形成するのに適したサイズである。
段階36のレイキャスティングプロセスにおける第2の段階として、レンダリング回路15は、平滑化された医用画像データセットにより表される3Dボリュームに対するカメラ位置を規定する。カメラ位置は、平滑化された医用画像データセットにより表されるボリュームの境界の外側である。
段階36のレイキャスティングプロセスにおける第3の段階として、レンダリング回路15は、平滑化された医用画像データセットにより表されたボリュームの中に、カメラ位置(光源)から光線を投じる。ピクセル配列における各ピクセルに対して1つの光線が投じられる。
ここで、光線の方向は、カメラ位置と、ピクセル配列におけるピクセルの位置に依存する。本実施形態においては、光源等の位置に特に限定はない。従って、大域照明(グローバルイルミネーション法)、局所照明(遠近投影法、平行投影法等)のいずれも適用可能である。
平滑化された医用画像データセットにより表されたボリュームの中に入ると、光線は、いくつかのサンプリング点で、平滑化された医用画像データセットにより表されたボリュームをサンプリングする。各サンプリング点は、平滑化された医用画像データセットのボクセルの位置と一致することも、一致しないこともあり得る。サンプリング点がボクセルの位置と一致する場合、光線は、そのボクセルにおける強度値を決定する。サンプリング点がその位置と一致しない場合、光線は、近傍のボクセルの強度値から強度値を補間することにより、サンプリング点における強度値を決定する。
光線が、撮像された構造の表面に達したことをその強度値が示すサンプリング点に達したとき光線は終了し、またレンダリング回路15は、そのサンプリング点(光線終了点と呼ばれ得る)の位置と強度値とを記録する。
光線終了点の位置は、撮像された構造の表面を表す等値面(isosurface)を形成すると見なされ得る。本実施形態では、撮像された構造の表面は、胎児の顔を備える。
段階36のレイキャスティングプロセスにおける第4の段階として、レンダリング回路15は、2Dにレンダリングされたデータセットを、記録された光線終了点の位置と強度値とを使用してレンダリングする。2Dにレンダリングされたデータセットは、各ピクセルにカラー値を割り当てることによりレンダリングされる。カラー値は、例えば、RGBまたはHSLカラー値を備えることができる。
本実施形態では、レンダリングは、1つまたは複数のライティング位置からの照明をシミュレートするために、進んだライティング技法が使用されるグローバルイルミネーションレンダリングを備える。
各光線に対して、曲率回路16は、光線終了点における曲率値を計算する。本実施形態では、曲率回路16は、平滑化された医用画像データセットに基づいて曲率値を計算する。また、曲率回路は、ボリューム医用画像データセットに基づいて、またはボリューム医用画像データセットおよび平滑化された医用画像データセットの組合せに対して、構造物の表面上の複数の位置において、曲率値を計算する。
光線終了点は、撮像された構造を表す等値面と交差する点であると表現され得る。曲率は、例えば、3次元における法線ベクトルの変化など、法線ベクトルの変化を表すことができる。各光線終了点に対して、光線終了点の付近の領域(例えば、平滑化された医用画像データセットの領域)がサンプリングされて、その点における等値面の勾配および二階微分(例えば、Hessian)を得ることができる。勾配および二階微分が次いで使用されて、その点における曲率が導かれ得る。
概して、ある点における曲率は、2つの主平面における曲率を備えることができ、そのそれぞれは、その点の表面の勾配に対して直角である。2つの主平面は互いに直交する。
本実施形態では、曲率回路16は、光線終了点における最小の主曲率を計算する。曲率回路16は、主平面のそれぞれにおける曲率を計算し、より負の曲率値を選択する。そのプロセスは、表面にある谷もしくはしわ部(高い負の曲率の領域)を見出すことを目指している。
他の実施形態では、最小の主曲率に代えて、またはそれに加えて、最大の主曲率が使用される。最大の主曲率を使用することは、表面にある隆起部(高い正曲率の領域)を見出すことを目指している。
さらなる実施形態では、例えば、平均曲率またはガウス曲率など、各光線終了点に対して、任意の適切な曲率値が決定され得る。
本実施形態では、曲率回路16は、各光線に対して単一の位置における曲率を決定する。曲率回路16は、光線が(光線終了点で)当たる最初の表面の曲率を決定する。他の実施形態では、曲率は、光線に沿った複数の点で計算され得る。例えば、曲率は、あらゆるサンプリング点に対して計算され得る。曲率値は、光線に沿って積分され得る。曲率値は、光線に沿った各サンプリング点における色を調整するために使用され、調整された色は、光線に沿って積分され得る。
本実施形態では、曲率回路16は、レンダリング回路15が各光線終了点に対してカラー値を決定したのと同じ段階で、各光線終了点の曲率を計算する。他の実施形態では、曲率は、プロセス中の別の段階で計算され得る。いくつかの実施形態では、レンダリング回路15および曲率回路16は、1つの回路に組み合わされる。
本実施形態では、各光線がどこで終了するかを求めるために、強度値を使用することによって、レイキャスティングプロセスの一部として、構造の表面における位置が求められる。他の実施形態では、構造の表面を表す等値面は、段階36が実施される前に任意の適切な方法を用いて求められる。このような実施形態では、段階36のレイキャスティングプロセスは、各光線が、前に求められた等値面とどこで交差するかを求めることにより、構造の表面上の位置を決定することができる。
段階38で、レンダリング回路15は、2Dにレンダリングされたデータセット(それは、関連付けられた位置および色をそれぞれが有する複数のピクセルを備える)を2Dバッファに記憶する。段階40で、レンダリング回路15は、2Dバッファに記憶された2Dにレンダリングされたデータセットに、エッジ保存平滑化フィルタを適用する。本実施形態では、エッジ保存平滑化フィルタは、異方性拡散平滑化を実施する。他の実施形態では、任意の適切なエッジ保存平滑化フィルタが使用され得る。他の実施形態では、段階40は、除外される(2次元画像データセットに対して平滑化が行われない)。
段階42で、曲率回路16は、2D曲率データセットを2D曲率バッファに記憶する。
2D曲率データは、曲率メトリックの浮動小数点データを備えることができる。本実施形態では、曲率メトリックは、最小の主曲率(2つの直交する主曲率メトリックのうちのより負のもの)である。本実施形態では、曲率メトリックに対する値は、大部分が負であるが、いくつかの場所では正であり得る。最小の主曲率メトリックは、谷強調のために使用され得る。
代替の実施形態では、曲率メトリックは、例えば、ガウス曲率などの別のメトリックである。2D曲率バッファは、浮動小数点形式で(段階36で曲率回路16により求められた)生の曲率メトリックデータを記憶する。生の曲率メトリックデータは、任意選択で、段階44で平滑化され得る。
段階44で、エッジ保存平滑化フィルタが曲率データに適用される。本実施形態では、曲率データに適用されるエッジ保存平滑化フィルタは、異方性拡散を備える。異方性拡散は、曲率データにおけるエッジを保存することができる。他の実施形態では、任意のエッジ保存平滑化法が使用され得る。
いくつかの実施形態では、段階44のエッジ保存平滑化フィルタが、2D曲率バッファ中の1組の曲率データに適用された後、段階44で平滑化された曲率データに対して、さらなる平滑化プロセス(図示せず)が適用される。例えば、一実施形態では、段階44の異方性拡散により生成されたいずれかの粗い、鋭利な、またはピクセル化されたエッジを改良するために、段階44の後に、ガウス平滑化プロセスが使用される。
本実施形態のこの説明では、図2のプロセスの段階42および44は、段階38および40の後に述べられている。しかし、実施形態では、段階42および44は、段階38および40の後に、段階38および40と同時に、または段階38および40の前に行うことができる。段階38、40、42、および44は、段階36の一部と同時に行うこともできる。
段階46で、シェーディング付加回路17は、2Dにレンダリングされたデータセット(この実施形態では、平滑化が行われている)と、2D曲率データセット(これも平滑化されている)とを合成することにより、最終的な2Dデータセットを作成する。段階46は、遅延シェーディング段階と呼ばれ得る。
各ピクセルに対して、シェーディング付加回路17は、平滑化された、2Dにレンダリングされたデータセットからのそのピクセルに対するカラー値を、平滑化された曲率データセットからのそのピクセルに対する曲率値により調整する。本実施形態では、色は、各RGBチャネルが同じ割合(この実施形態では、同じパーセンテージ)で調整されるように調整される。
各RGBチャネルに対する値は、特定の点における曲率メトリックが負または正の値を有するかどうかに応じて低減または増加され得る。谷領域では、曲率メトリックは負となり、RGB値のそれぞれは減少する結果となる。
ここで、式中、Rin、Gin、およびBinは、平滑化された、2Dにレンダリングされたデータセットからのカラー値であり、cは平滑化された2D曲率データセットからの曲率メトリック値であり、mは一定な乗算ファクタであり、かつRout、Gout、およびBoutは、段階46から得られた修正されたカラー値である。
代替の実施形態では、乗算値mは、チャネルに依存することができる。さらなる実施形態では、カラー調整は、別の色空間(例えば、HSVまたはHSL)で計算され得る。いくつかの実施形態では、シェーディング付加回路17は、平滑化された2D曲率データセットにおける所与のピクセルに対する曲率値を使用して、変換関数テクスチャを参照し、直接最終的な色を求めることができる。他の実施形態では、シェーディング付加回路17は、上記で述べた合成演算において、ダイレクトカラー用にカラーテーブルを参照する、またはチャネル依存の重み付けを設定することができる。
表示制御回路18は、主表示画面6上に最終的な2Dデータセットを表示する。代替の実施形態では、最終的な2Dデータセットに対して、それが表示される前に、最終的な平滑化が行われる。
本実施形態では、所与の曲率メトリック(本実施形態では、最小の主曲率)に対して、2D曲率データが、正と負の両方の小さな浮動小数点値として曲率バッファに記憶される。他の実施形態では、曲率データを記憶する任意の適切な方法が使用され得る。上記の実施形態のように、2Dにレンダリングされたデータセットを用いて合成された曲率データは、平滑化された曲率データであり得る。
上記の実施形態では、2Dにレンダリングされたデータセットは、各ピクセルに対してカラー値を備える。いくつかの実施形態では、カラー値は、例えば、最終的な2Dデータセットが白黒で表示される場合、グレースケール値とすることができる。カラー値は、従来の3D超音波表示に対して、セピア色調とすることができる。
図3aおよび図3bは、図3の方法を、グローバルイルミネーション「ベビーフェース」レンダリングに適用した結果を示している。画像3aは、高度のボリューム平滑化を用いてレンダリングするグローバルイルミネーションを使用して生成された画像の線で描かれた図である。画像3bは、図3aで示された画像を生成するために使用されたものと同じ平滑化およびレンダリング段階を使用するが、図2の方法を加えて生成されたさらなる画像の線で描かれた図である。
細部と平滑化との間の良好なバランスを得ることは、グローバルイルミネーションなどの現実感のあるレンダリング方法では特に重要であり得る。
シェーディングを調整するために曲率データを使用することにより、顔のしわ部などの高い負の曲率のエリアは、グローバルイルミネーションレンダリングが、図2のプロセスを使用せずに行われたときよりも大きな強度でシェーディングされ得る。本実施形態では、段階46の遅延シェーディングは、最小の主曲率値を使用する。最小の主曲率に対する大きな負の値は谷領域を強調する。最小の主曲率に対する正の値はまた、高い領域と谷部との間のコントラストを提供する微妙なシェーディング効果を提供する。任意選択で、厳密に負の最小の主曲率値が指定され得るが、それは、より平坦な結果になり得る。代替の実施形態では、最大の主曲率値が使用され得る。最大の主曲率値を使用することは、隆起部領域を強調することができる。
曲率値をカラー値と合成することにより、高い曲率エリアの輪郭を描くことに類似した効果が達成され得る。高い負の曲率を有する領域は、黒の方向にシェーディングされ得る。
本実施形態では、色を曲率値に割り当てる明示的なマッピング段階がない。他の実施形態では、色は、例えば、カラーテーブルを用いることによって、曲率値に明示的にマップされ得る。曲率乗算定数は、RGBチャネルを調整するために使用される。高い負の曲率の領域は、各RGBカラーチャネルに対する曲率調整定数が同一である場合、黒の方向にシェーディングされることになる。
段階36のレンダリングプロセスの後まで、曲率ベースのシェーディングを遅延させることは、性能を向上させることができる。例えば、レンダリングプロセスの後まで、曲率ベースのシェーディングを遅延させることは、例えば、3次元ボリュームに対してではなく2次元データセットにシェーディングを適用することにより、レンダリング時にシェーディングを適用することと比較して必要な計算資源が低減され得る。
曲率ベースのシェーディングをレンダリングプロセスの後まで遅延させることは、シェーディングを行う前に曲率データの平滑化を可能にする。曲率データの平滑化は、ボリューム平滑化段階(例えば、段階34)からのシェーディング残留ノイズの結果として生成され得るアーティファクトを低減する、または除去することができる。遅延された曲率ベースのシェーディングは、単一の等値面が表示される(例えば、超音波)データセットに適用可能であり得る。
曲率データに基づく遅延シェーディングを使用することにより、最初の平滑化段階(例えば、段階34で)の後に失われる可能性のある出力画像のいくつかのエリアにおける細部(例えば、顔の特徴)を強調させることが可能になり得る。概して、細部を強調することは、ノイズも強調される場合には、困難になるおそれがある。超音波データは、他の医用撮像モダリティと比べて、特にノイズが多い可能性がある。また、上記で述べた諸実施形態の方法は、シェーディングにより細部を強調するが、ノイズから派生するシェーディングアーティファクトを最小化することができる。
曲率−シェーディングはそれ自体ノイズを高めるので、最初のボリューム平滑化段階は、細部とノイズとの間のバランスを達成するために、曲率−シェーディングと組み合わせて使用され得る。画像ボリュームは、特徴保存フィルタを用いて、または特徴保存フィルタの組合せを用いて最初に平滑化され得る。いくつかの実施形態では、最初のボリューム平滑化は、特徴保存フィルタリング(段階34)と曲率ベースの平滑化との組合せを備える。他の実施形態では、代替の平滑化方法が、最初の平滑化段階で使用され得る。最初の曲率ベースの平滑化で使用される曲率尺度は、段階36で実行される曲率の計算に対するさらなる計算とすることができ、段階42でその結果を記憶する。
いくつかの実施形態では、図2の方法は、画像ボリュームが取り込まれると、実時間で、またはほぼ実時間で実施され得る。いくつかの実施形態では、ユーザは、表示する前にシェーディングを画像に加えるかどうかを選択することができる。いくつかの実施形態では、ユーザは、表示する前に、どれだけ多くのシェーディングを画像に加えるかを選択することができる。
オフラインの実施形態として述べることのできる他の実施形態では、図2の方法は、記憶されたデータに対して実施され得る。例えば、ユーザは、図2のプロセスを使用して、記憶されたボリュームデータを操作し、所望の結果を達成することができる。
曲率を用いて特徴を強調するために遅延シェーディングを用いることは、美的に満足する結果を生成することができる。美的に満足する結果を生成することは、胎児を撮像する場合に特に適切なものであり得る。図2を参照して述べた実施形態は、胎児の顔の撮像について述べているが、図2の方法はまた、例えば、足もしくは手など、胎児の他の部分に対しても実施され得る。例えば、胎児の手をレンダリングするときに遅延シェーディングを使用することは、指を良好に識別できるようにする。
いくつかの実施形態では、遅延シェーディングを使用することは、遅延シェーディングを使用せずにレンダリングされた対応する画像よりも解釈するのが容易な画像を生成することができる。例えば、一実施形態では、遅延シェーディングは、例えば、心臓弁の構造など、心臓の特徴を強調するために使用される。遅延シェーディングは、最初の平滑化により失われている細部を回復させるために使用され得る。
いくつかの実施形態は、ノイズから派生するアーティファクトを最小化しながら、曲率尺度を用いて、細部の強調を行うための医用撮像法を提供し、方法は、最初の特徴保存ボリュームの平滑化と、光線終了時におけるレンダラでの曲率計算と、曲率データを後で平滑化するためにバッファに記憶することと、ノイズから派生するシェーディングアーティファクトを最小化するためにシェーディング前に曲率データを平滑化することと、平滑化された曲率データを用いた遅延シェーディング段階(ポストレンダリング)とを備える。
いくつかの実施形態は、医用撮像方法を提供し、方法は、被検体の3D領域に対応する第1の医用画像に含まれる構造の表面の複数位置の曲率を計算する曲率計算段階と、前記第1の医用画像に含まれる構造の表面の少なくとも一部における前記曲率に従って平滑化を行うことにより第2の医用画像を生成する平滑化段階と、構造の前記含まれた表面に対応する前記第2の医用画像にシェーディングを加えるシェーディング段階とを含む。
前記複数位置は、前記第1の医用画像に含まれる前記構造の周囲に設定された開始点に基づき、構造の前記表面に対する複数の光線の入射点とすることができる。曲率計算段階は、ターゲット画像として、前記第1の医用画像を取ることにより、前記曲率の計算を実施することを備えることができ、少なくとも前記構造の表面は、所定の平滑化プロセスによりすでに平滑化されている。前記構造は、前記被検体の胎児の頭部の少なくとも一部を含むことができる。方法は、前記シェーディング段階から得られた前記シェーディングされた第2の医用画像を、所定の表示画面上に表示させる表示制御段階をさらに備えることができる。
また、本実施形態に係る超音波診断装置及び医用画像処理装置は、次の変形例に係る構成を採用することも可能である。
変形例に係る超音波診断装置及び医用画像処理装置は、被検体の3D領域に対応するボリューム医用画像データセットを受け取り、かつボリューム医用画像データセットを平滑化して、平滑化された医用画像データセットを生成する平滑化回路であって、構造の表面の少なくとも一部が、ボリューム医用画像データセットで、かつ平滑化された医用画像データセットで表される、平滑化回路と、平滑化された医用画像データセットから、2Dにレンダリングされたデータセットを作成するレンダリング回路と、構造の表面の少なくとも一部上の複数位置のそれぞれにおける各曲率を計算し、かつ計算された曲率を平滑化して、平滑化され、計算された曲率を取得する曲率計算回路と、平滑化され、計算された曲率に応じて、2Dにレンダリングされたデータセットにシェーディングを加えるシェーディング付加回路とを備える。
また、他の変形例に係る超音波診断装置及び医用画像処理装置は、被検体の3D領域に対応するボリューム医用画像データセットを受け取ることと、ボリューム医用画像データセットを平滑化して、平滑化された医用画像データセットを生成することと、ここにおいて、構造の表面の少なくとも一部が、ボリューム医用画像データセットで、かつ平滑化された医用画像データセットで表される、平滑化された医用画像データセットから2Dにレンダリングされたデータセットを作成することと、構造の表面の少なくとも一部上の複数位置のそれぞれにおける各曲率を計算することと、計算された曲率を平滑化して、平滑化され、計算された曲率を取得することと、平滑化され、計算された曲率に応じて、2Dにレンダリングされたデータセットにシェーディングを加えることとを備える。
いくつかの実施形態が述べられてきたが、これらの実施形態は、例示的なものとして提示されているに過ぎず、本発明の範囲を限定することは意図されていない。実際に、本明細書で述べられた新規の方法およびシステムは、様々な他の形態で実施され得る。さらに、本明細書で述べられた方法およびシステムの形態における様々な除外、置き換え、および変更は、本発明の趣旨から逸脱することなく行うことができる。添付の特許請求の範囲およびその均等な形態は、このような形態および変更を本発明の範囲に含まれるものとして包含するように意図されている。
2…超音波診断装置、4…トランスデューサプローブ(超音波プローブ)、6…メインディスプレイ画面、8…制御画面、10…スキャナコンソール、12…処理装置、14…平滑化回路、15…レンダリング回路、16…曲率回路、17…シェーディング付加回路、18…表示制御回路、20…データストア。

Claims (18)

  1. 被検体の少なくとも一部を超音波走査して得られる第1のボリュームデータに対し平滑化処理を実行して第2のボリュームデータを生成し、前記第1のボリュームデータ又は前記第2のボリュームデータの表面上における複数位置において曲率を計算し、前記複数位置における曲率を平滑化する計算手段と、
    前記第2のボリュームデータを用いたレンダリング処理により第1の画像を生成し、前記第1の画像と前記平滑化された曲率とを用いたシェーディング処理を実行し、第2の画像を生成する画像生成手段と、
    を具備することを特徴とする超音波診断装置。
  2. 前記計算手段は、エッジ保存平滑化プロセスを用いて、前記複数位置における曲率を平滑化することを特徴とする請求項1記載の超音波診断装置。
  3. 前記計算手段は、曲率ベースの平滑化プロセスおよび特徴保存平滑化プロセスの少なくとも一方を用いて、前記第1のボリュームデータに対し平滑化処理を実行することを特徴とする請求項1又は2記載の超音波診断装置。
  4. 前記計算手段は、前記第1のボリュームデータ又は前記第2のボリュームデータの表面に対する複数の光線の入射点を前記複数位置として前記曲率を計算することを特徴とする請求項1乃至3のうちいずれか一項記載の超音波診断装置。
  5. 前記被検体の少なくとも一部は、胎児の頭部、胎児の足、及び胎児の手の少なくともいずれかを含むことを特徴とする請求項1乃至4のうちいずれか一項記載の超音波診断装置。
  6. 前記画像生成手段は、前記第1のボリュームデータ又は前記第2のボリュームデータの表面上における谷または隆起部の少なくとも一方を強調するように前記シェーディング処理を実行することを特徴とする請求項1乃至4のうちいずれか一項記載の超音波診断装置。
  7. 前記第2の画像を表示する表示手段をさらに具備することを特徴とする請求項1乃至6のうちいずれか一項記載の超音波診断装置。
  8. 前記計算手段は、前記第1のボリュームデータ又は前記第2のボリュームデータの表面上における複数位置において、三次元としての前記曲率を計算することを特徴とする請求項1乃至7のうちいずれか一項記載の超音波診断装置。
  9. 前記計算手段は、前記第1のボリュームデータ又は前記第2のボリュームデータの表面上における複数位置において、法線ベクトルの変化に基づいて前記曲率を計算すること特徴とする請求項1乃至8のうちいずれか一項記載の超音波診断装置。
  10. 前記計算手段は、前記曲率の計算において最小の主曲率を取得し、
    前記画像生成手段は、前記最小の主曲率に基づいて前記シェーディング処理を実行すること、
    を特徴とする請求項1乃至9のうちいずれか一項記載の超音波診断装置。
  11. 前記計算手段は、前記曲率の計算において最大の主曲率を取得し、
    前記画像生成手段は、前記最大の主曲率に基づいて前記シェーディング処理を実行すること、
    を特徴とする請求項1乃至9のうちいずれか一項記載の超音波診断装置。
  12. 前記計算手段は、前記曲率の計算において、最小の主曲率、最大の主曲率、平均曲率、ガウス曲率のうちの少なくとも1つを取得することを特徴とする請求項1乃至9のうちいずれか一項記載の超音波診断装置。
  13. 前記計算手段は、前記被検体の少なくとも一部の構造の表面において、その少なくとも一部を平滑化するように、前記第1のボリュームデータに対する平滑化処理を実行することを特徴とする請求項1乃至12のうちいずれか一項記載の超音波診断装置。
  14. 前記画像生成手段は、前記シェーディング処理において、前記第1の画像のピクセルに対する平滑化と、前記曲率と前記ピクセルのカラー値又はグレースケール値の少なくとも一方とを合成する合成処理と、を実行することを特徴とする請求項1乃至13のうちいずれか一項記載の超音波診断装置。
  15. 前記画像生成手段は、グローバルイルミネーションを用いて、前記レンダリング処理を実行することを特徴とする請求項1乃至14のうちいずれか一項記載の超音波診断装置。
  16. 被検体の少なくとも一部を医用画像診断装置で撮影することで得られる第1のボリュームデータに対し、平滑化処理を実行して第2のボリュームデータを生成し、前記第1のボリュームデータ又は前記第2のボリュームデータの表面上における複数位置において曲率を計算し、前記複数位置における曲率を平滑化する計算手段と、
    前記第2のボリュームデータを用いたレンダリング処理により第1の画像を生成し、前記第1の画像と前記平滑化された曲率とを用いたシェーディング処理を実行し、第2の画像を生成する画像生成手段と、
    を具備することを特徴とする医用画像処理装置。
  17. 前記医用画像処理装置は、超音波診断装置、X線コンピュータ断層撮影装置、磁気共鳴イメージング装置、PET、SPECT、X線診断装置のうちのいずれかであることを特徴とする請求項16記載の医用画像処理装置。
  18. コンピュータに、
    被検体の少なくとも一部を医用画像診断装置で撮影することで得られる第1のボリュームデータに対し、平滑化処理を実行して第2のボリュームデータを生成させ、前記第1のボリュームデータ又は前記第2のボリュームデータの表面上における複数位置において曲率を計算させ、前記複数位置における曲率を平滑化させる計算機能と、
    前記第2のボリュームデータを用いたレンダリング処理により第1の画像を生成させ、前記第1の画像と前記平滑化された曲率とを用いたシェーディング処理を実行させ、第2の画像を生成させる画像生成機能と、
    を実現させることを特徴とする医用画像処理プログラム。
JP2016055845A 2015-03-18 2016-03-18 超音波診断装置、医用画像処理装置及び医用画像処理プログラム Active JP6639973B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/661,456 US10019784B2 (en) 2015-03-18 2015-03-18 Medical image processing apparatus and method
US14/661,456 2015-03-18

Publications (2)

Publication Number Publication Date
JP2016174905A JP2016174905A (ja) 2016-10-06
JP6639973B2 true JP6639973B2 (ja) 2020-02-05

Family

ID=56925757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016055845A Active JP6639973B2 (ja) 2015-03-18 2016-03-18 超音波診断装置、医用画像処理装置及び医用画像処理プログラム

Country Status (2)

Country Link
US (1) US10019784B2 (ja)
JP (1) JP6639973B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017197114A1 (en) 2016-05-11 2017-11-16 Affera, Inc. Anatomical model generation
US11728026B2 (en) 2016-05-12 2023-08-15 Affera, Inc. Three-dimensional cardiac representation
CN108154066B (zh) * 2016-12-02 2021-04-27 中国科学院沈阳自动化研究所 一种基于曲率特征递归神经网络的三维目标识别方法
US10453193B2 (en) * 2017-05-05 2019-10-22 General Electric Company Methods and system for shading a two-dimensional ultrasound image
US11259782B2 (en) * 2017-06-20 2022-03-01 Canon Medical Systems Corporation Medical imaging data processing apparatus and method
CN116797486A (zh) * 2020-04-27 2023-09-22 北京蓝亚盒子科技有限公司 用于体素模型的平滑方法、装置及电子设备
JP2024129200A (ja) * 2023-03-13 2024-09-27 ホヤ レンズ タイランド リミテッド 眼鏡レンズの設計方法、眼鏡レンズの製造方法、眼鏡レンズの設計システム、及び眼鏡レンズの設計システム用のプログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6246784B1 (en) * 1997-08-19 2001-06-12 The United States Of America As Represented By The Department Of Health And Human Services Method for segmenting medical images and detecting surface anomalies in anatomical structures
GB9904692D0 (en) * 1999-03-01 1999-04-21 Isis Innovation X-ray image processing
US6535623B1 (en) * 1999-04-15 2003-03-18 Allen Robert Tannenbaum Curvature based system for the segmentation and analysis of cardiac magnetic resonance images
US7819806B2 (en) * 2002-06-07 2010-10-26 Verathon Inc. System and method to identify and measure organ wall boundaries
JP4847334B2 (ja) * 2004-09-13 2011-12-28 株式会社日立メディコ 超音波撮像装置及び投影像生成方法
US7439974B2 (en) * 2005-02-09 2008-10-21 Siemens Medical Solutions Usa, Inc. System and method for fast 3-dimensional data fusion
JP4864554B2 (ja) * 2006-06-12 2012-02-01 株式会社東芝 超音波診断装置、医用画像処理装置、及び医用画像処理プログラム
JP2008017906A (ja) * 2006-07-11 2008-01-31 Ziosoft Inc 画像処理方法および画像処理プログラム
US7903113B2 (en) * 2006-07-14 2011-03-08 Siemens Medical Solutions Usa, Inc. Systems and methods of image rendering from datasets
JP5523681B2 (ja) * 2007-07-05 2014-06-18 株式会社東芝 医用画像処理装置
US7912264B2 (en) * 2007-08-03 2011-03-22 Siemens Medical Solutions Usa, Inc. Multi-volume rendering of single mode data in medical diagnostic imaging
JP5699165B2 (ja) * 2011-01-26 2015-04-08 株式会社日立メディコ 超音波診断装置および画像処理方法
JP2012221395A (ja) * 2011-04-13 2012-11-12 Tomtec Imaging Systems Gmbh ボリュームデータセット内の表面様構造を可視化するための方法及び装置
JP2012221448A (ja) * 2011-04-14 2012-11-12 Tomtec Imaging Systems Gmbh ボリュームデータセット内の表面様構造を可視化するための方法及び装置
WO2013059358A2 (en) * 2011-10-17 2013-04-25 Butterfly Network, Inc. Transmissive imaging and related apparatus and methods
US9533873B2 (en) * 2013-02-05 2017-01-03 Butterfly Network, Inc. CMOS ultrasonic transducers and related apparatus and methods
US10008026B2 (en) * 2013-07-19 2018-06-26 Toshiba Medical Systems Corporation Apparatus for, and method of, rendering image data
US10231704B2 (en) * 2013-12-20 2019-03-19 Raghu Raghavan Method for acquiring ultrasonic data
US9741161B2 (en) * 2014-08-26 2017-08-22 General Electric Company Method, system, and medical imaging device for shading with multiple light sources

Also Published As

Publication number Publication date
US20160275653A1 (en) 2016-09-22
JP2016174905A (ja) 2016-10-06
US10019784B2 (en) 2018-07-10

Similar Documents

Publication Publication Date Title
JP6639973B2 (ja) 超音波診断装置、医用画像処理装置及び医用画像処理プログラム
CN107808156B (zh) 感兴趣区域提取方法
JP4413504B2 (ja) 医用画像処理装置、医用画像処理方法および医用画像処理プログラム
Huang et al. Bezier interpolation for 3-D freehand ultrasound
JP6688618B2 (ja) 医用画像処理装置及び医用画像診断装置
CN106023200A (zh) 一种基于泊松模型的x光胸片图像肋骨抑制方法
US10008026B2 (en) Apparatus for, and method of, rendering image data
EP3511908B1 (en) Hybrid interactive rendering of medical images with physically based rendering and direct volume rendering
JP2014505491A (ja) 医療用画像の非線形分解能の低減
JP2017536547A (ja) 光コヒーレンス断層撮影像におけるスペックル低減
JP2015100702A5 (ja)
US8139891B2 (en) System and method for structure enhancement and noise reduction in medical images
WO2023077942A1 (zh) 超声图像的处理方法和超声设备
Wen et al. A novel Bayesian-based nonlocal reconstruction method for freehand 3D ultrasound imaging
Wen et al. An adaptive kernel regression method for 3D ultrasound reconstruction using speckle prior and parallel GPU implementation
Dawood et al. The importance of contrast enhancement in medical images analysis and diagnosis
JP7237623B2 (ja) 医用画像診断装置、医用画像処理装置及び医用画像処理プログラム
EP4014878A1 (en) Multi-phase filter
JP7122918B2 (ja) 画像処理装置および画像処理方法
EP3707672A1 (en) Method of segmenting a 3d object in a medical radiation image
US11457877B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable medium
CN117094920A (zh) 用于对医学图像进行滤波的系统和方法
de Farias Macedo et al. Improving on-patient medical data visualization in a markerless augmented reality environment by volume clipping
JP5632920B2 (ja) ボケイメージ内のブラーの特性を決定するシステム及び方法
JP6161748B2 (ja) ボリュームレンダリングに基づく3d画像フィルタリング及びリアルタイムシネマティックレンダリングの方法及び装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191225

R150 Certificate of patent or registration of utility model

Ref document number: 6639973

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350