JP2019005558A - 手術決定支援用のインコンテキストフォトリアリスティック三次元視覚化 - Google Patents

手術決定支援用のインコンテキストフォトリアリスティック三次元視覚化 Download PDF

Info

Publication number
JP2019005558A
JP2019005558A JP2018094673A JP2018094673A JP2019005558A JP 2019005558 A JP2019005558 A JP 2019005558A JP 2018094673 A JP2018094673 A JP 2018094673A JP 2018094673 A JP2018094673 A JP 2018094673A JP 2019005558 A JP2019005558 A JP 2019005558A
Authority
JP
Japan
Prior art keywords
sub
region
parameters
data set
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018094673A
Other languages
English (en)
Other versions
JP6981726B2 (ja
Inventor
アスマン シュテファン
Stefan Assmann
アスマン シュテファン
エンゲル クラウス
Klaus Engel
エンゲル クラウス
ペトコフ カロイアン
Petkov Kaloian
ペトコフ カロイアン
ジェイ.ソエニウス ルース
J Soenius Ruth
ジェイ.ソエニウス ルース
ユー ダフニー
Yu Daphne
ユー ダフニー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens Healthcare GmbH
Original Assignee
Siemens Healthcare GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Healthcare GmbH filed Critical Siemens Healthcare GmbH
Publication of JP2019005558A publication Critical patent/JP2019005558A/ja
Application granted granted Critical
Publication of JP6981726B2 publication Critical patent/JP6981726B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/466Displaying means of special interest adapted to display 3D data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/483Diagnostic techniques involving the acquisition of a 3D volume of data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/523Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for generating planar views from image data in a user selectable plane not corresponding to the acquisition plane
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/06Ray-tracing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/30Clipping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Abstract

【課題】複数の埋め込み構造物を互いの状況で視覚化するための改善された方法を提供する。【解決手段】医用画像データセットを視覚化する方法を提案し、視覚化データセットは、少なくとも第1のオブジェクトと第2のオブジェクトを有する三次元構成を表示し、方法は、第1組のパラメータを第1のオブジェクトに割り当てるステップと、第2組のパラメータを第2のオブジェクトに割り当てるステップと、医用画像データセットを第1のサブ領域と第2のサブ領域に分割するステップと、ボリュームレンダリング法(VRM)(詳細には、レイキャスティング法又はフォトリアリスティックボリュームパストレーシング)によって、三次元構成の視覚化を提供するステップとを含み、第1組のパラメータが、第1のオブジェクトを視覚化するための第1のサブ領域に適用され、第2組のパラメータが、第2のオブジェクトを視覚化するための第2のサブ領域に適用される。【選択図】図1

Description

本発明は、画像データセット、詳細には医用画像データセットを視覚化するための方法、画像データセットを視覚化するためのシステム、及びコンピュータプログラム製品について述べる。
詳細には、方法は、3次元(3D)又は4次元(4D)医用画像内の複数の関心構造物を互いの状況下で効率的に視覚化することに取り組む。例えば、方法は、栄養血管系又は埋没物を、腫瘍を含む臓器との状況下で視覚化するように適用されうる。1つ以上の医用画像データセットをソースデータとして使用できる。例えば、医用画像データセットは、コンピュータトモグラフィ(CT)又は磁気共鳴(MR)によって生成される。
そのような医用画像データセットのボリューム視覚化は、解剖学的構造を3D/4Dで検査する手段を提供する。ボリューム視覚化方法の強力なツールは、様々な濃度(intensity)クラシファイヤを使用して、データセット内の組織と構造物を選択し、各濃度を、対応色、不透過度及び材料特性値(例えば、拡散、光沢、反射、屈折、透過度、放射率、位相関数)にマッピングする。パストレーシングなどの1つの高度なボリューム視覚化方法により、分類値が、照明モデルと相互作用する利用材料特性に基づく複雑なパスに沿って蓄積されて、含まれる組織と臓器に関するよりフォトリアリスティックな印象を表現する。また、この方法は、レイキャスティングなどの別のより単純なボリューム視覚化方法と共に使用されてもよく、その場合、分類値がビューイングレイに沿って蓄積され、その結果として、蓄積された色値及び/又は不透過値が、オブジェクトの視覚化面上で知覚される。
臓器内に埋まった腫瘍など、それぞれ分類された組織又は構造物内の一部分は、更に、関心領域を画定しその外側の閉塞領域を除去することによって明らかにされる。例えば、単純なクリッピング面が、特に効果的かつ効率的である。クリッピング面がひとつの半空間を関心領域として画定し、他の半空間内の領域が切り抜かれる。クリッピング面の位置及び/又は向きは、画像データセットの視覚化される部分を決定する。したがって、ユーザは、平面を移動させて検索して臓器内の内部を調査できる。しかしながら、同時に、クリッピング面は、関心構造物の一部分も除去し、従って、ユーザは、複数の構造物(例えば、臓器のまわりの血管)の相対的位置決めの情報を失う。しかしながら、臓器の隣り又は近くにある血管の位置が、手術中の処置の自由を制限するので、この情報は、特に関心が高いものである。
あるいは、複数の部分及び構造物(例えば、腫瘍及びそれぞれの栄養血管)を同時に表示するために、最新技術は、セグメント化を提案する。これは、各関心構造物がボクセルごとに明示的に決定されることを意味する。しかしながら、この方法は、微細血管を摘出するにはしばしば不十分な解像度で、異常で罹患した解剖学的組織を自動的にセグメント化するのが難しいので、長たらしく時間がかかる。更に、セグメント化が失敗したときは手動の編集を必要とする。
したがって、本発明の目的は、複数の埋め込み構造物を互いの状況で視覚化するための改善された方法を提供することである。
この目的は、請求項1による画像データセットを視覚化する方法、請求項13による画像データセットを視覚化するシステム、及び請求項14によるコンピュータプログラム製品によって達成される。
本発明の第1の態様により、画像データセット(詳細には、医用画像データセット)を視覚化するための方法が提供され、視覚化データセットは、少なくとも第1のオブジェクトと第2のオブジェクトを有する三次元構成を表示し、
第1組のパラメータ(即ち、参照組のパラメータ)を第1のオブジェクトに割り当てるステップと、
第2組のパラメータ(即ち、インコンテキスト組の分類パラメータ)を第2のオブジェクトに割り当てるステップと、
医用画像データセットを、第1のサブ領域(即ち、参照サブ領域)と第2のサブ領域(即ち、インコンテキストサブ領域、詳細には関心領域)に分割するステップと、
三次元構成の視覚化をボリュームレンダリング法(VRM)によって、詳細には、レイキャスティング法又はボリュームパストレーシング法によって提供するステップとを含み、第1組のパラメータが、第1のオブジェクトを視覚化するための第1のサブ領域に適用され、第2組のパラメータが、第2のオブジェクトを視覚化するための第2のサブ領域に適用される。
最新技術とは対照的に、本発明による方法は、第2のオブジェクトの第2のサブ領域内にある部分を切り抜く代わりに、第2のオブジェクト又は少なくとも第2のオブジェクトの第2のサブ領域内の部分を視覚化することを可能にする。詳細には、第2のサブ領域内で第1のオブジェクトの少なくとも一部分が、同時に切り抜かれる。換言すると、本発明による方法により、視覚化データが、一方では、第1のオブジェクトの第1の視覚化サブ領域内にある部分を、詳細には画面上に示し、他方では同時に、第2のオブジェクトの第2の視覚化サブ領域内にある部分を、詳細には画面上に示す。プロセッサが提供され、プロセッサは、少なくとも、ボリュームレンダリング法(VRM)によって三次元構成の視覚化を提供するように構成され、第1のオブジェクトの第1の視覚化サブ領域内の視覚化部分と、第2のオブジェクトの第2の視覚化サブ領域内の視覚化部分を、ワークステーションの画面などの画面上に表示することが好ましい。詳細には、第1の視覚化サブ領域と第2の視覚化サブ領域は、画面上に互いに隣接する。その結果、第1のオブジェクトの内部構造(例えば、肝臓などの臓器の内部構造)を第1の仮想化サブ領域内に表示でき、同時に、第2のオブジェクトの少なくとも一部分が、第1のオブジェクトと第2のオブジェクトの間の相対位置を識別するために第2の視覚化サブ領域内で視覚化される。第1のオブジェクトは、好ましくは臓器であり、第2のオブジェクトは、血管又は埋没物である。また、第2のオブジェクトが、第1のオブジェクト(即ち、臓器)内にある腫瘍であることが考えられる。詳細には、第1のオブジェクトと第2のオブジェクトが、第1のサブ領域と第2のサブ領域の上に延在する。明瞭にするために、熟練者は、本発明が第1のオブジェクトと第2のオブジェクトに限定されず、任意数のオブジェクトに拡張されうることを理解されたい。
一般に、第1組のパラメータ及び/又は第2組のパラメータが、ボリュームレンダリング法の一部であり、即ち、これらのパラメータは、ボリュームレンダリング法に組み込まれ、ボリュームレンダリング法の出力に影響を及ぼしうる。第1組のパラメータ及び/又は第2組のパラメータを、第1のオブジェクト及び/又は第2のオブジェクトの画像化特徴(ハウンズフィールドスケールで対応範囲のような特徴)に適応させることによって、第1のサブ領域内の第1のオブジェクトと第2のサブ領域内の第2のオブジェクト上に視覚化プロセス(詳細には、ボリュームレンダリング法)を集中できる。詳細には、所定の照明及びカメラパラメータ化においてレイパスがボリューム内に進められるとき、クリッピング、分類及び照明の複合効果が蓄積される。第1組のパラメータが第1のオブジェクトに最適化され、第2組のパラメータが第2のオブジェクトに最適化されることが好ましい。詳細には、用語「最適化」は、ボリュームレンダリング法(VRM)によって第1のオブジェクトの値がゼロでなくなり、第2のオブジェクトの値がほとんどゼロになるように、第1組のパラメータが選択されることを意味する。例えば、第1のパラメータセットと第2のパラメータセットは、第1のオブジェクトと第2のオブジェクトにそれぞれ割り当てられた様々なハウンズフィールド領域に基づいて選択される。
第2のサブ領域は、画像データセットの、第1のオブジェクト内で見えるように切り抜かれた部分を表わすことが好ましい。更に、画像データセットは、コンピュータトモグラフィ(CT)又は磁気共鳴(MR)によって生成されたデータセットなどの医用画像データセットであることが好ましい。例えば、データセットは、三次元又は四次元データセットである。それにより、データセットは、第1のオブジェクトと第2のオブジェクトの各ボリューム要素の密度(即ち、密度値)を含む。密度は、物理的密度、光学的密度、屈折率及び/又は濃度、色、透明性及び/又は不透過値でよく、スカラー値、ベクトル又はテンソルとして示されうる。
第1のオブジェクトの空間関係とコンテキスト(即ち、第2のオブジェクトの位置)を知ることによって、外科医は、血管を傷つけることなく、最良角度でオブジェクトに近づくことを決定できる。更に、外科医は、患者が手術可能かどうかを早く決定でき、また患者に、行っていることとリスクが何かを示すことができる。更に、難しい事例で未熟な外科医と学生を訓練できる。
本発明の更に有利な実施形態及び特徴は、以下の記述で明らかにされるように、従属クレームによって示される。本明細書に記載されていない更なる実施形態を示すために、必要に応じて、様々な請求カテゴリの特徴が組み合わされうる。
好ましい実施形態によれば、第1のサブ領域と第2のサブ領域両方のボリュームレンダリング法に、1組のクラシファイヤリソースが使用される。同じクラシファイヤリソースを使用することによって、メモリ使用量とコンピュータメモリ内へのフェッチ量が最小化され、したがって、描写速度を改善する。用語「クラシファイヤリソース」は、本発明の文脈では、画像データセットの対応濃度値を、明るさ、濃度、色、透明度及び/又は不透明度値にマッピングする基本色パレットを表す。クラシファイヤを適用することによって、様々な濃度値によって特徴付けられる内部構造が見えるようになる。この手法で、速度とメモリが最適化され、領域全体に色統一性がよりよく確保される。更に、実行時に適用される各サブ領域の様々な種類のオフセットと材料を有する同じクラシファイヤリソースを使用することによって、ボリュームレンダリング法は、領域ごとに完全に独立したリソースセットの使用よりも単純化され、利用可能な計算時間を利用して、パストレーシングアルゴリズムでより高品質な対話型画像を実行でき、その結果、より正確なフォトリアリスティック描写が生成される。
好ましい実施形態では、第1組のパラメータ及び/又は第2組のパラメータのパラメータが、材料パラメータ(即ち、分類パラメータ)である。材料パラメータは、例えば、画像データセットのボリューム要素に割り当てられた組織若しくは領域密度重量、又は組織若しくは領域固有の拡散、光沢、反射、屈折、透過度、放射率、位相関数を定義するパラメータである。
画像データセットが、クリッピング要素(詳細には、クリッピング面)によって第1のサブ領域と第2のサブ領域に分割されることが好ましい。それにより、クリッピング要素は、第1のサブ領域と第2のサブ領域の境界を画定し、クリッピング要素は、詳細には、画面上の第1の視覚化サブ領域と第2の視覚化サブ領域を分割する視覚化されたクリッピング面を指す。詳細には、クリッピング要素は、第1のオブジェクトの視覚化部分が画面上に表示されないように配置され方向付けされる。換言すると、クリッピング要素は、内部構造又は第1のオブジェクトを分析するために第1のオブジェクト内を通る。また、クリッピング要素又は視覚化クリッピング要素が、少なくとも部分的に曲げられることが考えられる。例えば、クリッピング要素の輪郭が、第1及び/又は第2のオブジェクトの形状に適応される。ユーザがクリッピング要素の好きな輪郭を選択できることが好ましい。また、このクリッピング要素に加えて更に他のクリッピング要素が提供されることが考えられる。したがって、例えば、第1のオブジェクトの一部分をクリッピング要素によって切り抜くことに加えて、第2のオブジェクトの一部分を更に他のクリッピング要素によって切り抜くことができる。
好ましい実施形態によれば、
第1組のパラメータを第1のサブ領域内にあるサンプリング点に割り当てるステップ、及び/又は、
第2組のパラメータを第2のサブボリューム内にあるサンプリング点に割り当てるステップを含むボリュームレンダリング法が提供される。そのようなボリュームレンダリング法は、パストレーシングボリュームレンダリング法としても知られ、レイパスをボリューム内に進めてレイパスに沿って各交差サンプリング点をサンプリングし、レイパスは、ボリューム内の構造物ではね返るか透過するか反射し、最終的に光に遭遇したときに見えるようになる。
好ましくは、ボリュームレンダリング法は、更に、
サンプリング点が第2のサブ領域内にあり、かつ詳細には非コンテキストモードが選択されている場合に、レイパスに沿ったサンプリング点を無視するステップと、
第1のサブ領域内のサンプリング点に第1組の分類パラメータを適用するステップと、
詳細にはインコンテキストモードが選択された場合に、第2組の分類パラメータを第2のサブ領域内のサンプリング点に適用するステップとを含む。
したがって、第2の視覚化サブ領域内の第2のオブジェクトを選択的に表示でき有利である。詳細には、第2のオブジェクトの視覚化部分は、非コンテキストモードでは、視覚化された第2のサブ領域内に表示されず、コンテキストモードでは、視覚化された第2のサブ領域内に表示される。従って、例えば、第2の視覚化サブ領域内の第2のオブジェクトの部分が、第1のオブジェクトの第1の視覚化サブ領域内の部分のビューを妨げるとき、ユーザは、非コンテキストモードとコンテキストモードを切り替えることができる。
複雑な照明効果を含むために、更に、各サンプリング点又は画像化データセットのボリューム要素における散乱イベント(散乱光の方向が統計的に分散された)を考慮できる。好ましくは、散乱イベントが、モンテカルロシミュレーションによって実現され、最終照明値は、複数の光線の各照明値の統計的平均化の結果である。
好ましくは、MPRモードが提供され、MPRモードでは、多断面変換(MPR)が、クリッピング要素(詳細には、クリッピング面)上に付加的に示され、好ましくは選択的不透過値がMPRモード描写ステップ中であることが好ましい。一般に、多断面変換は、第1及び/又は第2の臓器の二次元断面として視覚化され、断面は、第1及び/又は第2のオブジェクトのクリッピング要素の現在位置に対応する。詳細には、半透明埋め込みMPRは、放射線技師(MPRの二次元断面ビューに使用される)と外科医(三次元視覚化に使用される)の両方に対応するために、クリッピング要素の表面、好ましくはクリッピング面上にマッピングされる。サンプリング点がクリッピング要素上にある場合、MPRモードステップで不透過値が確認される。不透過値に基づいて、MPRサンプリング点が見えるかどうかが決定される。例えば、MPRがサンプリング点で完全に不透明なとき、MPR値が、サンプリング点におけるパスに適用される。MPRが半透明の場合は、MPR値が記憶され、レイがその経路をボリューム内に続ける。そのパスを終了した後で、記憶されたMPR値が、MPR透過度値を表わすために終了パスに割り当てられた値と組み合わされる。また、クリッピング面の現在位置又は向きに対応する二次元断面が別々に表示されることが考えられる。例えば、現在のクリッピング要素の二セクション断面は、ボリューム視覚化の隣りに表示される。
好ましい実施形態では、クリッピング要素が移動可能であり、サンプリングの量が、クリッピング要素(10)の移動中に減少されることが好ましい。クリッピング要素を移動させることによって、第1のサブ領域と第2のサブ領域を変化させ、従って第1の視覚化サブ領域と第2の視覚化サブ領域を変化させうる。プロセッサは、ユーザがクリッピング要素をシフト又は回転できるか、クリッピング要素が自動的にシフト又は回転されるように構成されることが好ましい。したがって、平面がシフトされるときにオブジェクト内を検索するために、よく知られているスクロール及び「メルトスルー」効果が提供される。更に、プロセッサは、視覚化された三次元構成を回転させるように構成される。
クリッピング要素上にあるサンプリング点のサンプリング繰り返しは、第2のサブ領域及び/又は第1のサブ領域内にあるサンプリング点のサンプリング繰り返しよりも大きいことが好ましい。詳細には、クリッピング要素上にMPRのクリーンでノイズの少ないビューを達成し、従ってクリーンなメルトスルー効果を達成するために、MPRステップが正確に実行される。クリッピング要素の後ろで繰り返す繰り返しの数を少なくすることによって、クリッピング要素の後ろのオブジェクトはノイズが多くなるが、クリッピング要素の近く又はその上の視覚化構造が正確になる。更に、第1のオブジェクト及び/又は第2のオブジェクトが、境界におけるより高い精度を保証するためにクリッピング要素の近くにあるとき、バイナリサーチなどの改良が行われることが考えられる。
別の好ましい実施形態では、準備ステップでデータセットが選択され、データセットは、画像データセットとメタデータ情報を含む。メタデータ情報を組み込むことによって、追加情報をプロセッサに提供できる。追加情報は、例えば、第1のオブジェクト及び/又は第2のオブジェクトに関する情報、患者又は疾病に関する情報を含む。プロセッサは、画像データセットを視覚化する方法が自動的に適応されるように構成されることが好ましい。また、データセットがメタデータ情報を含まない場合に、メタデータ情報を組み込むためのワークフローが提供されることが考えられる。
好ましくは、用語「自動的に」は、例えばトレーニングされたニューラルネットから得られた検出器が、スキャンタイプ(例えば、動脈、静脈、門脈、コントラストタイプ)などの関連メタデータ情報を検出するために使用されることを示す。詳細には、検出は、ラベル付き画像データセットの調査によるトレーニングに基づく。従って、より信頼できるメタデータ情報を使用して、デフォルトセットのパラメータの微調整、例えば、血管系が動脈相データセットなどの高コントラストを含むかどうかに基づいて、第1と第2の領域のクラシファイヤパラメータ間の関係と変化量を自動的に決定できる。
本発明の別の実施形態によれば、第1組のパラメータと第2組のパラメータの割り当ては、好ましくはメタデータ情報に基づいて自動的に実行される。第1のオブジェクトにはデフォルトの第1組のパラメータがあり、第2のオブジェクトにはデフォルトの第2組のパラメータがあることが好ましい。これらのデフォルトセットのパラメータは、メタデータ情報が第1及び/又は第2のオブジェクトを示すときに、プロセッサによってデフォルトで使用される。この方法を個別の画像データセットとその特定の特性に適応させるために、ユーザは、デフォルトセットのパラメータを修正できることが好ましい。
更に他の好ましい実施形態では、好ましくはメタデータ情報と詳細には画像内の特徴に基づいて、画像データセットが、第1のサブ領域と第2のサブ領域に自動的に分割される。例えば、メタデータ情報は、臓器内の腫瘍の位置を含み、クリッピング要素は、クリッピング要素が腫瘍の最良ビューを得るために第1のオブジェクトを適正位置で分割するように方向付けされる。クリッピング要素の位置及び/又は向きの選択は、トレーニングされたネットワークのデータベースに基づいており、データベースは、類似の事例でクリッピング要素の位置及び/又は向きを含むことが好ましい。また、クリッピング要素の輪郭が、詳細には検出器の使用によって、メタデータ情報に基づいて自動的に選択されることが考えられる。
例えば、医用画像ヘッダ及び他の添付情報からの指示などのメタデータ情報が提供され、この情報は、画像内容と共に、第1の臓器を識別し、画像データセットを第1のサブ領域と第2のサブ領域に自動分割するために使用される。次に、腫瘍などの潜在的疾病が、第1の臓器の分析、詳細には濃度テクスチャ分析を実行することによって大雑把に識別される。最後に、クリッピング面が、前向きで識別腫瘍に対して所望位置に位置決めされ、周囲の血管(即ち、第2のオブジェクト)が表示される。
別の好ましい実施形態では、分類パラメータが、メタデータ情報に基づいて又はワークフローによって選択される。
本発明の別の態様は、画像データセット(詳細には、医用画像データセット)を視覚化するためのシステムであり、視覚化データセットは、少なくとも第1のオブジェクトと第2のオブジェクトがある三次元構成を表示し、
第1組の分類パラメータを第1のオブジェクトに割り当て、
第2組の分類パラメータを第2のオブジェクトに割り当て、
表示可能なボリュームを第1のサブ領域と第2のサブ領域に分割し、
ボリュームレンダリング法(詳細には、パストレーシング法)によって三次元構成の視覚化を提供するよう構成された装置を含んでおり、第1組の分類パラメータが第1のサブ領域に適用され、第2組の分類パラメータが第2のサブ領域に適用される。システムは、プロセッサ、画面などの表示装置、及び/又は人間機械インタフェースとしての入力装置を含むことが好ましい。
本発明の別の態様は、コンピュータプログラム製品がプログラマブル装置のメモリにロードされたときに本発明による方法のステップを実行するためのコンピュータプログラム製品である。
更に他の利点及び特徴は、添付図面を参照して本発明による分析方法の以下の好ましい実施形態の以下の説明から明らかになる。個々の実施形態の個々の特徴は、本発明の範囲内で互いに組み合わされうる。
本発明による三次元構成を視覚化する方法の好ましい実施形態を概略的に示す図である。 画像データセットを視覚化する方法の更に他の好ましい実施形態を示す図である。 本発明による視覚化三次元構成を示す図である。
図1に、画像データセット(詳細には、三次元画像データセット)を視覚化する方法が概略的に示される。好ましくは、この方法は、第1のオブジェクト1と、第1のオブジェクト1とは異なる第2のオブジェクト2を視覚化するために使用され、第1のオブジェクト1と第2のオブジェクト2は、三次元構成で互いに配列される。画像データセットは、CT又はMR画像によって生成された三次元医用画像セットであることが好ましい。例えば、第1のオブジェクト1は、肝臓などの臓器を表わし、第2のオブジェクト2は、血管又は装置(埋没物など)を表わす。そのような血管又は装置は、手術の際に潜在切除領域の近くに埋め込まれることが多い。換言すると、第1のオブジェクト1と第2のオブジェクト2は、互いにすぐ隣りに配置されることが多い。
CT又はMRT画像のボリューム視覚化は、外科医が解剖学的構造物を三次元で確認する手段を提供する。それにより、ボリューム視覚化に利用されるボリュームレンダリング法は、典型的には、画像データセットのボリューム要素に割り当てられた密度などの値を選択し、次にこの値を特定の色及び不透過値にマッピングする伝達関数tfを使用する。レイキャスティング法により、色及び不透過値が、ビューイングレイに沿った幾つかのサンプリング点にわたって蓄積され、その結果として、蓄積された色が、視覚化された第1のオブジェクトと視覚化された第2のオブジェクトの面上で知覚される。それにより、各サンプリング点は、画像データセットのボリューム要素に対応する。
第1のオブジェクト1内(例えば、臓器内)の内部部分は、クリッピング要素10(例えば、クリッピング面)を位置決めしかつ/又は方向付けすることによって明らかにされうる。そのようなクリップ面は、腫瘍内を検索して第1のオブジェクト1(即ち、臓器)内の腫瘍の位置を識別するために使用されうる。しかしながら、腫瘍に移動することによって、クリッピング要素10は、血管(即ち、第2のオブジェクト2)も切り抜く。従って、外科医は、腫瘍に対する血管の位置を確認できない。
あるいは、各画素がそれぞれ第1のオブジェクト1又は第2のオブジェクト2に割り当てられる画像セグメント化が実行されうる。この結果、臓器、腫瘍及び血管の空間関係を示すビューが得られるが、比較的退屈で時間がかかる。更に、自動画像処理が失敗したときは手動の編集を必要とする。
画像処理時間を著しく長くすることなく第1のオブジェクト1と第2のオブジェクト2の空間関係を視覚化するために、方法は、
第1組のパラメータp_1を第1のオブジェクト1(例えば、臓器)に割り当てるステップ21と、
第2組のパラメータp_2を第2のオブジェクト2(例えば、血管又は埋没物)に割り当てるステップ21と、
第1のサブ領域11と第2のサブ領域12内の画像データセットを、好ましくはクリッピング要素10によって分割するステップ22と、
ボリュームレンダリング法(VRM)によって(詳細には、レイキャスティング法によって)三次元構成の視覚化を提供するステップとを含み、第1組のパラメータp_1が、第1のオブジェクト1を視覚化するための第1のサブ領域11に適用され、第2組のパラメータp_2が、第2のオブジェクト2を視覚化するための第2のサブ領域12に適用される方法が提供される。この方法は、第1のオブジェクトの視覚化部分が、第1のサブ領域11に対応する第1の視覚化サブ領域11’内に表され、第2のオブジェクト2の視覚化部分が、第2のサブ領域12に対応する第2の視覚化サブ領域12’内に表されることが好ましい。
詳細には、ボリュームレンダリング法(VRM)は、第1のサブ領域と第2のサブ領域の両方に適用される。第1組のパラメータp_1は、第1のオブジェクト1を視覚化するために最適化され、第2組のパラメータp_1は、第2のオブジェクト2を視覚化するために最適化されることが好ましい。その結果、第1のオブジェクト1が、第1の視覚化サブ領域11’内に表示され、第2のオブジェクトが同時に、第2の視覚化サブ領域12’に表示され、第1のオブジェクト1が、第2の視覚化サブ領域12’内で切り抜かれる。即ち、第2のオブジェクト2、又は第2のオブジェクト2の第2のサブ領域12内にある部分を、第1の視覚化サブ領域11’内の第1のオブジェクト1の視覚化に追加できると有利であり、第1のオブジェクト1が部分的に切り抜かれる。したがって、外科医は、第1のオブジェクト1と第2のオブジェクト2の互いの空間関係を確認し、同時に第1のオブジェクト1の内部構造に関する情報を得る。
例えば、第1のオブジェクト1と第2のオブジェクト2は、ハウンズフィールドスケールで値が互いに異なる。例えば、ハウンズフィールドスケールで第1のオブジェクト1に対する関連値に対応する第1の間隔は、ハウンズフィールドスケールで第2のオブジェクト2に対する関連値に対応する第2の間隔と異なる。このように、第1の間隔に基づく第1のパラメータセットp_1と、第2の間隔に基づく第2のパラメータセットp_2が選択される。その結果、第1のサブ領域11に適用される分類は、第1の間隔の濃度を有する濃度値だけをマッピングし、第2のサブ領域12に適用される分類は、第2の間隔12の密度を有する密度値だけをマッピングする。有利には、第1のサブ領域11と第2のサブ領域12の両方に同じ分類リソースが使用され、従って、第2の視覚化サブ領域12’内には第2のオブジェクト2が表示され第1のオブジェクト1が表示されない。
図2で、本発明により画像データセットを視覚化する方法の更なる好ましい実施形態が示される。好ましくは、レイキャスティング法又はパストレーシングを利用したボリュームレンダリング法が使用される。そのようなレイキャスティング法又はパストレーシングを利用したボリュームレンダリング法は、レイパスをボリューム内で前進させて、レイパスに沿った各交差サンプリング点をサンプリングする。レイキャスティング法で使用される様々な分類を具体化するために、以下のステップが提供されることが好ましい。
画像データセットを第1のサブ領域11と第2のサブ領域12に分割するステップ22の後で、表示ボリュームのサンプリング点が、クリッピング要素10及び/又は更に他のクリッピング要素によって切り抜かれるかを確認するステップ、
クリッピング要素及び/又は更に他のクリッピング要素の識別(ID)をサンプリング点に割り当てるステップ、及び/又は、
第1組の分類パラメータ又は第2組の分類パラメータをサンプリング点に割り当てるステップが提供されることが好ましい。
画像データセット内のそれぞれのサンプリング点又はボリューム要素を第1のサブ領域11又は第2のサブ領域12に割り当てることによって、各サンプリング点がラベル付けされる。結果として、画像データセットを視覚化する方法を様々なモードで実行できる。例えば、第2のオブジェクト2のクリッピング要素10及び更に他のクリッピング要素によって切り抜かれた部分を隠すことができ、第2のオブジェクト2の更に他のクリッピング要素だけによって切り抜かれた部分を表示できる。したがって、ユーザは、特に個別の画像データセットの特別要件に応じて、視覚化を自分の好みに適応させることができる。
更に、非コンテキストモードとコンテキストモードを選択でき、したがって、実施形態は、第1のオブジェクト1と第2のオブジェクト2を画面上に表示するステップ26の前に、
サンプリング点が、クリッピング要素10及び/又は更に他のクリッピング要素によって切り抜かれ、かつ非コンテキストモードが選択された場合に、サンプリング点を無視するステップ27と、
インコンテキストモードが選択された場合に、第1組の分類パラメータp_1を、第1のサブ領域12内のサンプリング点に適用するステップ25と、
インコンテキストモードが選択された場合に、第2組の分類パラメータp_2を第2のサブ領域12内のサンプリング点に適用するステップ25とを含む。
したがって、第2のオブジェクトの一部分が、コンテキストモードで表示され、非コンテキストモードでは表示されない。
MPRモードが提供され、多断面変換(multiplanar reformation)(即ち、二次元断面14)が、クリッピング要素10上に更に示されることが好ましい。サンプリング点がクリッピング要素10上にある場合、MPRモードステップで不透過値が確認される。不透過値に基づいて、サンプリング点がレイキャスティング法に寄与するかどうかが決定される。例えば、MPRが関連サンプリング点で完全に不透明なときは、MPR値が、サンプリング点におけるパスに適用される。MPRが半透明の場合、MPR値が記憶され、レイは、そのパスをボリューム内で続ける。そのパスを終了した後、記憶されたMPR値が、MPR透過値を表わすために終了パスに割り当てられた値と組み合わされる。
更に、方法は、データセットが選択される準備20ステップを含むことが好ましい。そのようなデータセットは、画像データセット、並びに画像データセットを指定するメタデータ情報(詳細には、第1のオブジェクト1と第2のオブジェクト2)を含む。メタデータ情報は、コンピュータメイン又はグラフィックプロセッサユニットメモリなど、プロセッサを有する分析装置又は検出器によって選択されることが好ましい。詳細には、メタデータ情報に基づいて、又はユーザに情報を提供させるワークフローによって、後の描写ステップに適用する1組の描写パラメーが選択される。そのような描写パラメータは、好ましくは、照明パラメータ、カメラパラメータ、及び分類パラメータなどのパストレースボリュームレンダリングパラメータを含む。照明パラメータの例は、使用される照明のタイプ、光マップ又は光源の数、及び/又は光源の方向である。カメラパラメータの例は、位置、カメラの向き、視界、絞り、被写界深度、又は露出である。分類パラメータの例は、色及び透明度のマッピング、密度、材料特性(例えば、拡散、光沢、反射、屈折、透過度、放射率、位相関数)、又は各画素の濃度である。
好ましくは、第1組のパラメータp_1及び/又は第2組のパラメータp_2は、分類パラメータであり、第1組の分類パラメータが第1のオブジェクト1に最適化され、第2組の分類パラメータが第2のオブジェクト2に最適化される。
図3に、第1のオブジェクト1と第2のオブジェクト2の視覚化三次元構成が示され、第1の視覚化サブ領域11’と第2の視覚化サブ領域12’が示される。詳細には、図3は、HCC肝臓腫瘍4を含む肝臓3のCTデータセットの実例を示す。クリッピング面10は、肝臓3(真ん中左側)の一部が切り抜かれるように選択される。結果として、肝臓3の非切り抜き部分が、第1の視覚化サブ領域11に表示され、一方、肝臓腫瘍3と周囲の血管(即ち、第2のオブジェクト12)が、第2の視覚化サブ領域12’内に維持され表示される。腫瘍4は、実際に肝臓3内にあり、肝臓3の非切り抜き部分の上に雲のように現われる。血管は、特に腫瘍栄養動脈を示す。更に、クリッピング要素10(詳細には、肝臓3内を通るクリッピング面)の現在位置と向きに対応する多断面変換(即ち、二次元断面14)が、第1の視覚化サブ領域と第2の視覚化サブ領域によって表わされたボリューム視覚化と共に示される。
本発明を形式又は好ましい実施形態及びその変形で開示したが、本発明の範囲から逸脱せずに多数の追加の修正及び変形が行えることを理解されよう。
分かりやすくするために、本明細書全体にわたる「a」及び「an」の使用は、複数を除外せず、「含む(comprising)」は他のステップ又は要素を除外しないことを理解されたい。
1,2 オブジェクト
10 クリッピング要素
11,12 サブ領域

Claims (14)

  1. 画像データセット(詳細には、医用画像データセット)を視覚化する方法であって、前記視覚化データセットが、少なくとも第1のオブジェクトと第2のオブジェクトとを有する三次元構成を表示し、
    前記第1のオブジェクト(1)に第1組のパラメータ(p_1)を割り当てるステップ(21)と、
    前記第2のオブジェクト(2)に第2組のパラメータ(p_2)を割り当てるステップ(21)と、
    前記医用画像データセットを第1のサブ領域(11)と第2のサブ領域(12)に分割するステップ(22)と、
    ボリュームレンダリング法(VRM)によって、詳細にはレイキャスティング法又はフォトリアリスティックボリュームパストレーシングによって、前記三次元構成の視覚化を提供するステップとを含み、
    前記第1組のパラメータ(p_1)が、前記第1のオブジェクト(1)を視覚化するための前記第1のサブ領域(11)に適用され、前記第2組のパラメータ(p_2)が、前記第2のオブジェクト(2)を視覚化するための前記第2のサブ領域(12)に適用される方法。
  2. 前記第1組のパラメータ(p_1)及び前記第2組のパラメータ(p_2)の少なくとも一方のパラメータが、材料パラメータである、請求項1に記載の方法。
  3. 同じ組の基本分類色テンプレートが、速度とメモリを最適化しかつ色統一性を保存するために前記第1及び第2のサブ領域に適用可能であり、前記第1のサブ領域と前記第2のサブ領域のそれぞれ不透明度と材料分類だけが変更される、請求項2に記載の方法。
  4. 前記画像データセットが、クリッピング要素(10)(詳細には、クリッピング面)によって前記第1のサブ領域(11)と前記第2のサブ領域(12)に分割される、請求項1から3のいずれかに記載の方法。
  5. パスレイに沿ったサンプリング点が前記第2のサブ領域(12)内にある場合に、前記サンプリング点を無視するステップ(27)と、
    前記第1組の分類パラメータを前記第1のサブ領域内の前記サンプリング点に適用するステップ(25)と、
    前記第2組の分類パラメータを前記第2のサブ領域(12)内の前記サンプリング点に適用するステップ(25)とを含む、請求項1から4のいずれかに記載の方法。
  6. MPRモード(25)が提供され、前記MPRモードで、前記クリッピング要素上に多断面変換(MPR)が付加的に示され、好ましくは、選択的不透過値が、MPRモード描写ステップ中である、請求項5に記載の方法。
  7. 前記クリッピング要素(10)が移動可能であり、好ましくは、前記クリッピング要素(10)の移動中にサンプリング量が減少される、請求項1から6のいずれかに記載の方法。
  8. 前記クリッピング要素(10)上にあるサンプリング点のサンプリング繰り返しが、前記第2のサブ領域(12)内及び前記第1のサブ領域(11)内の少なくとも一方にあるサンプリング点のサンプリング繰り返しよりも多い、請求項5から7のいずれかに記載の方法。
  9. 準備ステップで、データセットが選択され、前記データセットが、画像データセットとメタデータ情報を含む、請求項1から8のいずれかに記載の方法。
  10. 前記第1組のパラメータ(p_1)と前記第2組のパラメータ(p_2)を割り当てるステップが、例えば前記メタデータ情報に基づいて自動的に実行される、請求項1から9のいずれかに記載の方法。
  11. 前記画像データセットが、前記第1のサブ領域(11)と前記第2のサブ領域(12)に自動的に分割される、請求項1から10のいずれかに記載の方法。
  12. 前記分類パラメータが、前記メタデータ情報に基づくかワークフローによって選択される、請求項1から11のいずれかに記載の方法。
  13. 画像データセット(詳細には、医用画像データセット)を視覚化するためのシステムであって、前記視覚化データセットが、少なくとも第1のオブジェクトと第2のオブジェクトがある三次元構成を表示し、
    第1組の分類パラメータを前記第1のオブジェクト(1)に割り当て、
    第2組の分類パラメータを前記第2のオブジェクト(2)に割り当て、
    前記表示可能なボリュームを第1のサブ領域(11)と第2のサブ領域(12)に分割し、
    ボリュームレンダリング法(詳細には、レイキャスティング法)によって前記三次元構成の前記視覚化を提供し、前記第1組の分類パラメータが、前記第1のサブ領域(11)に適用され、前記第2組の分類パラメータが、前記第2のサブ領域(12)に適用されるように構成された装置を含むシステム。
  14. コンピュータプログラム製品が、プログラマブル装置のメモリにロードされる、請求項1から13のいずれかに記載の方法のステップを実行するためのコンピュータプログラム製品。
JP2018094673A 2017-06-01 2018-05-16 手術決定支援用のインコンテキストフォトリアリスティック三次元視覚化 Active JP6981726B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/610,804 US10692273B2 (en) 2017-06-01 2017-06-01 In-context photorealistic 3D visualization for surgical decision support
US15/610,804 2017-06-01

Publications (2)

Publication Number Publication Date
JP2019005558A true JP2019005558A (ja) 2019-01-17
JP6981726B2 JP6981726B2 (ja) 2021-12-17

Family

ID=62116745

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018094673A Active JP6981726B2 (ja) 2017-06-01 2018-05-16 手術決定支援用のインコンテキストフォトリアリスティック三次元視覚化

Country Status (4)

Country Link
US (1) US10692273B2 (ja)
EP (1) EP3410403B1 (ja)
JP (1) JP6981726B2 (ja)
CN (1) CN108986196B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019045144A1 (ko) 2017-08-31 2019-03-07 (주)레벨소프트 의료용 항법 장치를 위한 의료 영상 처리 장치 및 의료 영상 처리 방법
CN109978000A (zh) * 2019-02-19 2019-07-05 深圳点猫科技有限公司 一种基于图形化编程工具的分类ai实现方法及电子设备
CN111612792B (zh) * 2019-02-22 2024-03-08 曹生 基于VRDS 4D医学影像的静脉的Ai内镜分析方法及产品
WO2020202612A1 (ja) * 2019-03-29 2020-10-08 富士フイルム株式会社 画像処理装置、方法およびプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002503855A (ja) * 1998-02-17 2002-02-05 サン・マイクロシステムズ・インコーポレーテッド 可変解像度スーパーサンプリングによるグラフィックス・システム
US20070229500A1 (en) * 2006-03-30 2007-10-04 Siemens Corporate Research, Inc. System and method for in-context mpr visualization using virtual incision volume visualization
JP2011200625A (ja) * 2010-03-05 2011-10-13 Fujifilm Corp 画像診断支援装置、方法およびプログラム
JP2015114775A (ja) * 2013-12-10 2015-06-22 キヤノン株式会社 画像処理装置および画像処理方法
JP2016202247A (ja) * 2015-04-15 2016-12-08 東芝メディカルシステムズ株式会社 画像処理装置及びx線診断装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3836097B2 (ja) * 2003-09-19 2006-10-18 ザイオソフト株式会社 医用画像生成装置および方法、ならびに、プログラム
US8466916B2 (en) * 2006-02-21 2013-06-18 Siemens Aktiengesellschaft System and method for in-context volume visualization using virtual incision
US9058679B2 (en) * 2007-09-26 2015-06-16 Koninklijke Philips N.V. Visualization of anatomical data
DE602007006811D1 (de) * 2007-10-09 2010-07-08 Agfa Healthcare Nv Verfahren und Vorrichtung zur Volumendarstellung medizinischer Datensätze
EP2144199B1 (en) * 2008-07-11 2018-12-26 Agfa HealthCare NV Method and apparatus for multimodal visualization of volume data sets
JP5545971B2 (ja) 2010-03-26 2014-07-09 株式会社不動テトラ 土壌浄化方法
US9076247B2 (en) * 2012-08-10 2015-07-07 Ppg Industries Ohio, Inc. System and method for visualizing an object in a simulated environment
US9536342B2 (en) * 2014-08-15 2017-01-03 Intel Corporation Automatic partitioning techniques for multi-phase pixel shading
EP3270770A1 (en) * 2015-03-18 2018-01-24 Canfield Scientific, Incorporated Methods and apparatus for identifying skin features of interest
CN106652012A (zh) * 2016-12-09 2017-05-10 江西中科九峰智慧医疗科技有限公司 医学图像体绘制的方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002503855A (ja) * 1998-02-17 2002-02-05 サン・マイクロシステムズ・インコーポレーテッド 可変解像度スーパーサンプリングによるグラフィックス・システム
US20070229500A1 (en) * 2006-03-30 2007-10-04 Siemens Corporate Research, Inc. System and method for in-context mpr visualization using virtual incision volume visualization
JP2011200625A (ja) * 2010-03-05 2011-10-13 Fujifilm Corp 画像診断支援装置、方法およびプログラム
JP2015114775A (ja) * 2013-12-10 2015-06-22 キヤノン株式会社 画像処理装置および画像処理方法
JP2016202247A (ja) * 2015-04-15 2016-12-08 東芝メディカルシステムズ株式会社 画像処理装置及びx線診断装置

Also Published As

Publication number Publication date
EP3410403A3 (en) 2019-02-06
CN108986196A (zh) 2018-12-11
EP3410403B1 (en) 2023-08-30
JP6981726B2 (ja) 2021-12-17
US20180350129A1 (en) 2018-12-06
US10692273B2 (en) 2020-06-23
EP3410403A2 (en) 2018-12-05
CN108986196B (zh) 2024-03-08

Similar Documents

Publication Publication Date Title
US9330485B2 (en) Volume rendering of medical images
CN107924580B (zh) 在医学成像中的表面体积混合模块的可视化
JP6981726B2 (ja) 手術決定支援用のインコンテキストフォトリアリスティック三次元視覚化
CN109584349B (zh) 用于渲染材料属性的方法和设备
US7924279B2 (en) Protocol-based volume visualization
CN108701370A (zh) 基于机器学习的基于内容的医学成像渲染
JP2016193196A (ja) 医用画像処理装置
JP4105176B2 (ja) 画像処理方法および画像処理プログラム
JP2020506452A (ja) Hmdsに基づく医学画像形成装置
US11810243B2 (en) Method of rendering a volume and a surface embedded in the volume
US9224236B2 (en) Interactive changing of the depiction of an object displayed using volume rendering
US20130135306A1 (en) Method and device for efficiently editing a three-dimensional volume using ray casting
Bozorgi et al. GPU-based multi-volume ray casting within VTK for medical applications
Jainek et al. Illustrative hybrid visualization and exploration of anatomical and functional brain data
Manssour et al. Visualizing inner structures in multimodal volume data
WO2006067714A2 (en) Transparency change of view-obscuring objects
CN114387380A (zh) 用于生成3d医学图像数据的基于计算机的可视化的方法
Fiorentino et al. Cinematic rendering technique in adult congenital heart disease
CN110998668A (zh) 利用依赖于对象的聚焦参数使图像数据集可视化
CA2365062A1 (en) Fast review of scanned baggage, and visualization and extraction of 3d objects of interest from the scanned baggage 3d dataset
Sharifi Enhancing Visual Perception in Interactive Direct Volume Rendering of Medical Images
Ajani et al. Volumetric Clipping Surface: Un-occluded visualization of structures preserving depth cues into surrounding organs
Monclús Lahoya Advanced interaction techniques for medical models
JP2022138098A (ja) 医用画像処理装置および方法
CN111724388A (zh) 医学图像数据的可视化

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180803

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190521

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191018

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200515

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200515

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200601

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200602

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200612

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200616

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200707

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201117

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20201201

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210224

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210329

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210413

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210521

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210706

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210914

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20211019

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20211019

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211116

R150 Certificate of patent or registration of utility model

Ref document number: 6981726

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150