JP6745998B2 - 手術を誘導する画像を提供するシステム - Google Patents

手術を誘導する画像を提供するシステム Download PDF

Info

Publication number
JP6745998B2
JP6745998B2 JP2019531706A JP2019531706A JP6745998B2 JP 6745998 B2 JP6745998 B2 JP 6745998B2 JP 2019531706 A JP2019531706 A JP 2019531706A JP 2019531706 A JP2019531706 A JP 2019531706A JP 6745998 B2 JP6745998 B2 JP 6745998B2
Authority
JP
Japan
Prior art keywords
interest
marker
region
respect
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019531706A
Other languages
English (en)
Other versions
JP2020501691A (ja
Inventor
ベルナルドス ヘンドリクス ウィルヘルムス ヘンドリクス
ベルナルドス ヘンドリクス ウィルヘルムス ヘンドリクス
ドラゼンコ バビッチ
ドラゼンコ バビッチ
ヤーリッチ ウィレム スプリートホフ
ヤーリッチ ウィレム スプリートホフ
トーレ ミシェル バイドロン
トーレ ミシェル バイドロン
グジェゴジ アンドレイ トポレク
グジェゴジ アンドレイ トポレク
アレクサンドラ ポポヴィッチ
アレクサンドラ ポポヴィッチ
クリスティアン ライヒ
クリスティアン ライヒ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Priority claimed from PCT/EP2017/083253 external-priority patent/WO2018109227A1/en
Publication of JP2020501691A publication Critical patent/JP2020501691A/ja
Application granted granted Critical
Publication of JP6745998B2 publication Critical patent/JP6745998B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/085Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating body or organic structures, e.g. tumours, calculi, blood vessels, nodules
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2063Acoustic tracking systems, e.g. using ultrasound

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Robotics (AREA)
  • Vascular Medicine (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明は、広くは、手術の間において医師を支援及び誘導する態様に関する。本発明は、特に、外科的介入治療を実施する際に医師を補助することができる視覚化情報を提供するシステムに関する。
例えば、乳腺腫瘍の外科的除去(例えば、乳腺摘出法)は、乳腺新生物(腫瘍)の先行する発生率及び罹患率による大きな率の増加を伴う最も頻繁に実施される外科的切除法の1つである。乳腺外科手術の臨床的目標は、局所的以上の陽性マージンを残すことなく腫瘍組織を完全に除去することである。残された如何に僅かな腫瘍組織も、潜在的に、腫瘍の再発及び後の再手術を引き起こすであろう。放射線療法も他の治療選択肢であり、その場合、取り残された微視的部分は電離放射線により治療される。
乳腺切除法のための典型的なワークフローは、切除計画を作成するための2D画像の調査で開始する。触知不能な腫瘍の場合又は患者が術前補助化学療法により治療される場合、外科手術の間における誘導(案内)のために、当該腫瘍内にマーカが配置される。外科手術の間においては、腫瘍細胞の存在が検査される近傍のリンパ節を位置特定するために青色染料が注入される。乳腺腫瘍が切除され、該切除が完全であるかが視覚的に検査される。切除が完全であるかの至適基準は、典型的に2日掛かる病理解析によるものである。
種々の術前データセットが取得されても(マンモグラフィ、CT、MR、US等)、当該外科医師は外科的腫瘍切除を実行する場合、診断スキャン及び該外科医師の目に暴露される解剖構造に基づく心象的マッピングは別として、当該撮像データからは何の参考情報も有さない。患者が手術室に居る場合、撮像の可能性は限定される一方、利用可能な術前の解剖学的撮像情報は、しばしば、採用されないままとなる。手術の間において、当該外科医師は視覚的及び触覚的フィードバックに依存しなければならず、腫瘍マージンは、しばしば、不十分に画定され得る。必要とされるリアルタイムなフィードバックの不足は、後の段階で追加の手術を要するような重大な割合の陽性マージンにつながる。
本発明により克服する問題は、腫瘍マージンの手術用器具に対する視覚化を提供することである。
超音波画像誘導は、例えば、生検針(バイオプシニードル)を案内するために使用される。腫瘍切除の間に同一の手持ち超音波誘導法を適用することは、例えば胸部の高度の変形可能性及び腫瘍境界の限られた視認性により一層大幅に困難である。結果として、腫瘍境界に対する手術用ナイフ等の切除器具の位置を決定することは非常に困難である。
本発明の他の目的は、陽性腫瘍マージンに対するリスクを低減するシステムを提供することに見ることができる。これら及び他の目的は、各独立請求項の主題により解決される。他の実施態様は、従属請求項に各々記載されている。
概して言えば、器具を追跡することができる追跡装置、身体組織内のマーカを撮像、従って追跡することができる超音波撮像システムであって、前記追跡装置により追跡することができる超音波撮像システム、及び処理ユニットを有するシステムが提案される。オプションとして、前記追跡装置により手術(外科手術)用器具も追跡可能である。
一例において、前記処理ユニットは、切除されるべき組織内に既に配置されたマーカの位置に基づいて超音波画像を該切除されるべき組織の術前画像と重ね合わせることができ、その場合において、上記術前画像は当該マーカ及び腫瘍境界の位置を含む。
当該システムの処理ユニットは、特に、追跡装置に対するマーカの位置を、該追跡装置に対する超音波システムの位置及び超音波画像において見える該マーカの位置に基づいて計算することができる。該計算に基づいて、術前画像の重ね合わせ(オーバーレイ)を医師に対し提示することができ、該画像は腫瘍境界を例えば外科手術用器具に対して示す。
一実施態様によれば、システムは、通常、追跡装置、超音波装置及び処理ユニットを有する。上記超音波装置の位置及び向きは上記追跡装置により追跡可能である。上記処理ユニットは、(i)関心領域及びマーカが共に身体内に位置する場合の前記マーカに対する前記関心領域の3D情報を受信し、(ii)前記超音波装置に対する前記マーカの位置を、該マーカを含む前記身体の超音波画像に基づいて決定し、(iii)前記追跡装置に対する前記マーカの位置及び向きを決定するように構成することができる。
当該マーカは超音波装置により発生される超音波画像内で見ることができ、従って、超音波装置に対するマーカ位置並びに該超音波装置自体の追跡される位置及び向きから、追跡装置に対するマーカの位置及び向きを決定することを可能にすることが理解される。
一実施態様によれば、当該システムは視覚化装置を更に有し、前記処理ユニットは、更に、前記身体の外側表面に対する前記関心領域の視覚化情報を発生するように構成することができる。
一実施態様によれば、当該システムの前記視覚化装置は、前記発生された視覚化情報を適切な表面上に投影するよう構成された投影ユニットを有する。適切な表面はホワイトボードとすることができ、該ホワイトボードは医師が何らかの手術手順を実行している間に該ホワイトボード上の投影を見ることができるように配置することができる。
一実施態様によれば、前記視覚化情報の投影を示すホワイトボードは、医師が当該関心領域を治療する間に該関心領域を見渡すような印象を有するように該医師の頭部と該医師の手との間に配置することができる。該ホワイトボードは透明とし、投影された情報を介して患者への視界を可能にすることができる。
他の例として、前記投影ユニットは前記視覚化情報を患者の身体の外側表面上に直接投影することもできる。該視覚化情報は患者の情報、例えば腫瘍境界に関する情報を有することができることに注意されたい。該情報は、身体構造の及び/又は腫瘍構造の如何なる輪郭線を含むこともできる。
当該視覚化情報は、患者の構造の識別を容易化するために、該患者の外側表面のカメラ画像の様子を更に含むことができる。該視覚化情報は、特に、情報の組み合わせ、即ち、上述した情報及び視覚化情報のみならず、患者を処置する際に医師を支援するのに適した他の情報も含むことができることが理解されよう。例えば、該情報は切開点/腫瘍の切除を開始するラインの指示情報、及び/又は境界を含む関心領域の指示情報を含むことができる。
一実施態様によれば、当該システムは上述したような追跡装置及び投影ユニットの両方を含む視察(ビジョン)装置を含むことができる。
他の実施態様によれば、当該システムの視覚化装置は、前記発生された視覚化情報を能動的に示すよう構成されたディスプレイを有することができる。
更に他の実施態様によれば、当該視覚化は、例えば患者の外側表面のカメラ画像を示すディスプレイと、該ディスプレイ上への投影との組み合わせにより実現することができ、該投影は例えば当該人体の内部にある構造を示す。言い換えると、情報の重ね合わせを、既に他の情報を示すディスプレイ上への情報の投影により実現することができる。情報の重ね合わせは前記処理ユニットにより発生することもでき、ディスプレイは既に組み合わされた情報を1つの画像に示すことができることが理解される。
当該マーカは超音波画像に基づいた該マーカの3D位置及び向きの決定を可能にするような構造を有することができることに注意されたい。該マーカの3D位置及び向きは、該マーカの3D位置の決定のために単一の超音波画像が十分ではないなら、少なくとも2つの又は複数の投影/画像に基づいて決定することもできる。このことは、前記超音波装置に対する該マーカの空間的位置及び向きの決定を容易にすることができる。このような決定は、3D超音波装置によっても、又は斯かる3D超音波装置により付加的にも改善され得る。
他の実施態様によれば、当該システムは器具を更に有することができ、該器具の位置及び向きは前記追跡装置により追跡可能であり、前記発生された視覚化情報は該器具の前記関心領域に対する関係の指示情報を含む。
更に、当該システムは前記身体の外側表面を撮像するためのカメラを有することができる。前述したように、前記関心領域の前記発生された視覚化情報は該カメラにより発生された画像上への重ね合わせ(オーバーレイ)を含むことができる。
一実施態様によれば、当該システムは、ハイパー/マルチスペクトル撮像を行うこともできる撮像装置を有することができる。該撮像装置は熱(温度)撮像及び/又はPPG撮像を実行することができる。
更に他の実施態様によれば、当該システムは、前記追跡装置により追跡可能であると共に、超音波、光学分光組織センシング、インピーダンス、THzセンシング、温度及びPPGセンシングからなる群からの少なくとも1つに基づいて組織を感知することができるプローブを更に有することができる。
医師に対する表示(即ち、視覚化)は、物差しの感覚を与えることができ、及び/又は当該腫瘍及び手術用器具の両方を他の目印に関係付けることができる。また、当該表示を一層直感的なものにさせるために、追加の基準を当該患者の皮膚上に配置することもできる。
本発明の他の態様は、コンピュータプログラム製品に関するものである。該コンピュータプログラム製品は、身体内のマーカの関心領域に対する位置を第1画像データに基づいて決定し、超音波装置に対する前記マーカの位置を超音波画像データである第2画像データに基づいて決定し、前記超音波装置の位置及び向きを追跡装置から受信されるデータに基づいて決定し、前記関心領域と前記追跡装置との間の空間的関係を決定し、前記身体の外側表面上に前記関心領域の位置を示す視覚化情報を発生するための命令の組を有することができる。
このようにして、本発明の目標、即ち、介入外科治療の結果を改善するために医師を誘導(案内)及び/又は少なくとも補助することができる画像を提供することを、コンピュータソフトウェアとして実施化することができる。
一実施態様によれば、当該コンピュータプログラム製品は、カメラから受信される前記身体の外側表面の画像上への前記視覚化情報の重ね合わせ(オーバーレイ)を発生するための命令の組を更に有することができる。
他の実施態様によれば、当該コンピュータプログラム製品は、投影装置を制御し、関心領域の境界を決定し、前記身体の外側表面上への前記関心領域の境界の投影を含む視覚化情報を発生するための命令の組を更に有する。
一実施態様によるコンピュータプログラム製品によれば、撮像データ及び追跡データのリアルタイム処理が、当該関心領域における変化に対する視覚化情報のリアルタイムな適合を可能にする。
対応するコンピュータプログラムは、好ましくは、データプロセッサの作業メモリにロードすることができる。このように、該データプロセッサ又は処理ユニットは本明細書に記載される方法の少なくとも一部を実行するように装備され得る。更に、本発明は前記コンピュータプログラムを記憶することができるCD−ROM等のコンピュータ読取可能な媒体に関するものでもある。しかしながら、斯かるコンピュータプログラムは、ワールドワイドウェブ等のネットワークを介して提供することもでき、このようなネットワークからデータプロセッサの作業メモリにダウンロードすることもできる。
他の態様によれば、身体内の関心領域をマーカに対して術前画像である第1画像に基づいて決定するステップと、超音波装置に対する前記マーカの空間位置を該超音波装置により発生される第2画像に基づいて決定するステップと、前記超音波装置の空間位置及び向きを決定するステップと、前記身体の外側表面に対する前記関心領域の空間位置の指示情報を発生するステップと、を有する方法が提供される。
一実施態様によれば、当該方法は、前記身体の外側表面上への前記指示情報の投影を行うステップを更に有することができる。
一実施態様によれば、当該方法は、器具の空間位置及び向きを決定するステップ、及び前記関心領域に対する前記器具の空間位置の指示情報を発生するステップを更に有することができる。
他の実施態様によれば、当該方法は外科手術による人又は動物の処置の如何なるステップも含まない。例えば、当該方法は、前記マーカを前記関心領域に挿入するステップは含まない。前記視覚化情報はリアルタイムに及び手術手順と併行して発生することができるが、当該方法は、組織への如何なる切り込みのステップも有さず、組織(特に、腫瘍組織)の切除の如何なるステップも有さない。
実施態様は異なる主題に関して説明されることに注意すべきである。特に、幾つかの実施態様は方法のタイプの請求項(コンピュータプログラム)に関して説明される一方、他の実施態様は装置のタイプの請求項(システム)に関して説明される。しかしながら、当業者であれば、上記及び以下の説明から、明示しない限り、或るタイプの主題に属するフィーチャの任意の組み合わせにも加えて、異なる主題に関係するフィーチャの間の如何なる組み合わせも本出願により開示されていると見なされることが分かるであろう。
本発明の上述した態様並びに他の態様、フィーチャ及び利点は、以下に記載されるべき実施態様の例から導出することもでき、実施態様の例を参照して説明される。本発明は、実施態様の例を参照して後述されるが、本発明は、これらに限定されるものではない。
尚、図面における各図は概略的なものに過ぎず、実寸通りではない。また、異なる図において、適切ならば、同様の要素には同一の符号が付されている。
図1は、一実施態様による画像を提供するシステムを示す。 図2は、マーカを撮像する超音波装置を示す。 図3は、超音波装置の追跡を示す。 図4は、関心領域にマーカを配置するのに適した装置を示す。 図5は、一実施態様によるマーカを示す。 図6は、本発明の一実施態様によるシステムを有利に使用することができる一連の状況を示す。 図7は、一実施態様による方法のステップを図示したフローチャートである。
図1は、一実施態様によるシステムを図示している。図2及び図3は、該システムの要素を一層詳細に示す。図1に示されるものは、患者用寝椅子又はテーブル10及び手術用ライト20であり、これらは典型的に手術室に存在する。ここに記載される一実施態様によるシステムは、追跡装置30、超音波装置40、処理ユニット50及び視覚化装置としてのディスプレイ60を有する。図1に概念的に視覚化されたものは、身体120内の関心領域110内に配置されたマーカ100である。
オプションとして、該システムは少なくとも1つのカメラ90を有することができる。カメラ90は、身体の外側表面を撮像するためのビデオカメラとすることができるか、又は、加えて若しくは代わりに、光の可視スペクトル外での撮像を可能にするカメラとすることができる。これらのカメラの何れかにより発生された画像は、当該カメラ画像の、前記超音波装置からの超音波画像との及び/又は術前に発生された画像との重ね合わせ画像を発生するために使用することができる。ワールド座標系に対する(即ち、固定された空間座標系に対する)又は少なくとも前記追跡装置等の当該システムの他の要素に対する当該カメラの位置及び向きは、分かり得る。カメラ90は、例えば、手術又は外科手術用ライトに組み込むことができる。
追跡装置30は、手術又は外科手術用ライト20に、該追跡装置が特に当該手術ライトの視野を観察することができるように配置することができる。該配置において、当該追跡装置の位置及び向きは既知であると見なすことができる(即ち、当該手術用ライトに対して、従ってワールド座標フレームに対して固定の関係で決定することができる)。
追跡装置30は、例えば器具に取り付けられた光トレーサ板80を使用して器具の3D追跡を行うことができる少なくとも1つの、好ましくは2以上のカメラを含むことができる。代わりに又は加えて、カメラ画像内で識別可能な当該器具自体上の適切なマーカパターンを用いることもできる。2以上のカメラに基づけば、三角測量により精度を向上させることができる。
追跡装置30のカメラも、オプションとしての前記カメラ90に関して前述したように構成することができる。本例において、このようなカメラからのビデオ画像のストリームは、身体の外側表面を追跡及び撮像する両目的のために使用される。この場合、当該カメラ位置及び向きは、追跡装置のものに対応する。このように、追跡装置カメラのビデオ画像、超音波装置、マーカ、及び従ってMRT又はCTのような術前3D撮像等の3D情報の間の空間的関係は既知となる。結果として、追跡装置カメラからのビデオ画像は全体の視覚化に相対的に容易に使用することができる。
処理ユニット50は、追跡装置の画像内の物体の視差を決定すると共に、これらを該追跡装置に対して、従って固定された座標系に対して或る位置に平行移動するよう構成することができる。当該システムは、当該身体を異なるスペクトル波長帯域でモニタすることができるハイパースペクトルカメラを含むこともできる。該システムは、ディスプレイ60に加えて又はディスプレイ60の代わりに、患者上に情報を投影することができる投影装置70を含むこともできる。該システムは、温度、PPGカメラを含むこともできる。
図2に一層良く見られるように、超音波装置40は身体120の外側表面と接触するように配置することができ、該身体内の関心領域110を該超音波装置40により撮像することができるようにする。該超音波装置は3D超音波撮像を実行することができる超音波プローブとすることができる。超音波装置40は、前記追跡装置のカメラにより決定するのに適した複数のエレメント82を備えたトレーサ板80を有することができる。例えば、エレメント82は、当該トレーサ板80の向きを1つの追跡カメラにより決定することができるように互いに対して固有の態様で配置された球体とすることができる。向き及び平行移動の両方(6DOF)を、カメラを使用し2D−3D位置合わせ法(RANSACアルゴリズム等)を利用して決定することができることに注意されたい。
それ以外として、追跡装置30に対するエレメント82の(従って、トレーサ板80の)、従って超音波装置40の位置の一種の三角測量を可能にする2以上のカメラも存在し得る。図3は、超音波装置40におけるトレーサ板80の3D位置及び向きを識別するための複数の追跡カメラ30を含む一実施態様を示している。
例えば腫瘍等の関心領域の位置は、下記のステップによりワールド座標フレーム内で決定することができる。手術前に既に腫瘍内に配置されたマーカ100は、超音波プローブ40により撮像される。従って、該マーカの位置は該プローブに関して決定することができる(図1におけるM->US)。該マーカの位置は、当該超音波画像のピクセル空間において分かる。超音波装置に対するマーカの位置を決定するために、ピクセル空間からプローブ空間へのマッピングが実行される。該超音波プローブは、取り付けられたトレーサ板80を有することができ、該マーカ板は当該システムの追跡装置30により追跡される。代わりに又は加えて、超音波プローブに、例えば追跡装置30内のカメラにより発生されるビデオ画像において識別可能な適切なマーカパターンが設けられる。
従って、トレーサ板80のエレメント82の位置を、当該追跡装置に関して決定することができる(図1におけるUS->T及びT->S)。手術器具が当該システムにより追跡されねばならない場合、当該関心領域におけるマーカに対する該器具の相対位置も決定することができる。固定空間座標に対する追跡装置の位置(図1におけるS->W)を最終的に決定することができ、このことは、特に2以上の器具又は超音波プローブが追跡される場合の座標基準を可能にする。
図4は、O状ツイスト(環状撚り体)マーカ100の、及び該マーカを関心領域に挿入するのに適合化された導入針130の図である。O状ツイストマーカは、例えば術前補助化学療法の完了後に撮像では見えなくなり得る乳腺病変を印すために使用することができる。
図5は、他のマーカ100、即ち、外側表面に超音波撮像に基づくマーカの向きの決定を容易にする特徴的リム102を備えた円柱状マーカを示す。マーカ100における上記リムは、該マーカの三次元における向きの認識を可能にすることができる(6つの自由度)。最終的に器具に対し境界を含めて当該関心領域の位置が決定されなければならないので、当該マーカ及び当該関心領域の内での該マーカの相対位置が、MRT又はCTのような術前3D撮像等の3D情報に基づいて決定されるようにして、分からねばならない。
図4及び図5に示されたマーカ以外に、位置特定のためにシード線源を用いることができる。このようなマーカは、X線及び超音波の両方で良く見え得る。これらは長い円柱状の形状を有し得る。
マーカは手術の間において腫瘍と一緒に除去されるであろうことが理解される。それ以外として、生分解性である超音波マーカを使用することもできる。例えば、ポリ乳酸/ポリグリコール酸(PLA/PGA)パレットは4〜6週間の超音波可視性を提供すると共に、約12週で再吸収される。これらのマーカは、切除されないであろう組織領域に配置することができる。
マーカの他の組は、固定長の可撓性ワイヤにより接続される少なくとも2つの剛性マーカを含むことができる。このようなマーカが体内に配置される場合、これらマーカの相対移動は身体組織の変形に関する指示情報となり得る。他のマーカのタイプも存在し得る。
他の態様によれば、ハイパースペクトルカメラ又はマルチスペクトルカメラの使用が提案され、ここで使用される“ハイパースペクトル撮像”なる用語は可視領域を超えて延びる電磁スペクトル領域にわたる情報を収集及び処理することを指し、ここで使用される“マルチスペクトル撮像”なる用語は斯かる電磁スペクトルにまたがる特定の周波数における画像データをキャプチャすることを示す。当該波長はフィルタにより又は特定の波長に敏感な器具の使用により分離することができ(即ち、複数のスペクトルが使用され)、このことが、“マルチスペクトル撮像”なる用語の理由である。これは、赤外線等の可視光領域を超える周波数からの光を含むことができ、このことは、上述した“ハイパースペクトル撮像”なる用語における“ハイパー”なる用語により定義することもできる。
スペクトル(マルチスペクトル又はハイパースペクトル)撮像は、画像からの付加的情報、特に人の目が赤、緑及び青の受容体によりキャプチャすることができない情報の抽出を可能にすることができる。一実施態様によれば、カメラ90は、400〜1000nm(ナノメートル)、1000〜1700nm又は500〜1700nmのスペクトル範囲を持つハイパースペクトル若しくはマルチスペクトル撮像のためのハイパースペクトル若しくはマルチスペクトル・フィルターホイールカメラであって、種々の(例えば6個、8個又はそれ以上の)交換可能なフィルタを備え、ラスタ画像で1392×1040ピクセル若しくは物理点の解像度を持つ電荷結合デバイスCCD、640×512ピクセルの解像度を持つインジウムガリウムヒ素(InGaAs)若しくは何らかの他の半導体センサ、又は何らかの他の解像度を持つセンサを備えたカメラとすることができる。カメラ90の波長帯域は、例えば:
(1)青:0.450〜0.520μm(マイクロメートル)
(2)緑:0.515〜0.600μm
(3)赤:0.60〜0.69μm
(4)可視:0.45〜0.7μm
(5)赤外:0.7〜1.0μm
(6)近赤外:1.0〜3.0μm
(7)中赤外:3.0〜50.0μm
(8)遠赤外:50.0〜1000.0μm
等の幾つかの波長帯域を有する可視又は非可視光スペクトル内とすることができる。
波長を拡張することは、幾つかの構造の間の組織コントラストが向上されることを可能にする。
前述したように、異なる画像源からの画像を少なくとも部分的に融合させることが重要であり得る。例えば、或る画像から抽出された情報の他の画像からの情報との重ね合わせは興味深いものであり得る。このような合成画像を得るために、これら画像は位置合わせされねばならない。
例えば、術中3D超音波ボリューム画像と術前2Dマンモグラフィ画像との間の位置合わせは、超音波画像における腫瘍マージンの表示を可能にし得る。当該超音波トランスジューサは、同一の又は同様の撮像面が観察されることを可能にするために、マンモグラフィシステムに対して略垂直に配置することができる。手順の第1ステップにおいて、各超音波スライス(超音波ボリュームから取られた)は当該マーカを2Dで識別及び区切るために処理される。このことは、閾処理又は動的輪郭勾配ベースセグメンテーション(active contour gradient based segmentation)を用いて実行することができる。当該マーカが識別され、該マーカの形状が区切られたら、該形状は、マンモグラフィ画像からのマーカ形状と照合及び比較される。2つの観測される形状の間の類似性を測定するコスト関数が適用される。このコスト関数は、グラフマッチング、ハウスドルフ距離及び特徴ベースの方法(例えば、当該マーカの目立つ点を用いる)を含む任意の既知の方法を用いて実施することもできる。ボリュームの掃引が完了した後、最低のコスト関数を持つスライスは、当該スライスにおける腫瘍マージンの表示を可能にするようなマンモグラフィ投影に最も密に類似すると見なすことができる。この方法の精度を改善するために、スライス掃引に超音波ビームの電子ステアリングを追加することができる。
更に、マーカ形状は、X線の投影画像に似せるために、電子的にステアリングされたビーム及びマンモグラフィからの投影的超音波合成画像(同じボリュームからの複数の超音波スライスの融合)の間で比較することができる。
更に、超音波スライスにおける腫瘍マージンの重ね合わせは、超音波ボリュームのセグメンテーションを初期化するために使用することもできる。即ち、マージンは、当該腫瘍(例えば、混合ガウスモデル又は同様のものを使用してモデル化される)の音響特性を知ると共にセグメンテーションアルゴリズム(例えば、動的輪郭又はレベルセット)を初期化するために使用される。更に、3D超音波をデジタル胸部トモシンセシス(DBT)画像に位置合わせすることもできる。DBT画像は、画像取得の間における制限された回転角のために典型的には再構成されない。この制限は、上述した方法を用いて超音波に位置合わせすることにより克服することができる。この位置合わせの結果は、各X線画像におけるマーカの既知の形状及び超音波画像からの形状により置き換えることが可能な、欠けている回転からのマーカの既知の形状に基づくものである。この情報を用いて、DBTからの3Dボリュームの完全な再構成を、当業技術において既知の逆投影アルゴリズムを用いて達成することができる。
図6は、腫瘍切除の間における一連の状況を、外科手術処置において誘導(案内)する画像を提供する当該システムの適用の一例として示す。図6に示されるシステムの実施態様は、トレーサ板80を備えた超音波装置40、追跡装置30及び投影装置70を有する。更に、該システムはマーカを関心領域110に挿入するための器具130を有し、該器具もトレーサ板80を有する。該システムは、更に、組織(特に、関心領域110における組織)を切除するための器具140を有し、該器具140にもトレーサ板80が設けられる。該システムはトレーサ板80を備えるプローブ150も有し、該プローブ150は組織検査に適合させることができる。このようなシステムによれば、下記のような筋書きが可能である。
画像内で見えるエコー源性(エコーを発生する)マーカを伴う術前画像を撮影した後(ステップ1)、追跡システム30により追跡される超音波プローブ80により上記エコー源性マーカの位置に基づいて3D病変が位置特定される(ステップ2)。超音波による追跡を向上させるために腫瘍110内には導入器130により追加のマーカを配置することができる(ステップ3)。プロジェクタ70により病変逆投影72が身体120上に視覚化情報として発生される(ステップ4)。術前画像上で見える腫瘍マージンに対して位置が決定される器具140により腫瘍を切除することができる(ステップ5)。当該介入治療は更にハイパースペクトル、熱、PPG撮像に基づいて誘導することができる(ステップ6)。切除領域は追跡されるプローブ150による組織感知(超音波、光学分光、インピーダンス等)により調べることができる(ステップ7)。
図7におけるフローチャートは、ここに記載された実施態様により実行されるステップの原理を示す。記載されるステップは主要なステップであり、これらの主要なステップは異ならせることができるか又は幾つかの副ステップに分割することができることが理解されよう。更に、これらの主要なステップの間には副ステップも存在し得る。
第1態様として、当該腫瘍の位置をワールド座標フレームにおいて決定することができる。このことは、マーカを例えば腫瘍等の関心領域に配置し(ステップS1)、該マーカを超音波プローブにより位置特定及び追跡し(ステップS2)、該超音波プローブを追跡装置により位置特定し(ステップS3)、マーカ位置データ及び超音波画像を超音波コンソールから処理ユニットに直接的に受信し(ステップS4)、そして、超音波プローブ位置データを追跡装置から処理ユニットに受信する(ステップS5)ことにより達成される。最後に、該処理ユニットは上記マーカ、超音波プローブ及び追跡装置の間の位置関係を決定することができる(ステップS6)。
更なる態様として、介入治療のためのガイド情報として有用であり得る(必要ではないが)処理情報を発生し、供給することができる。ステップS7において、腫瘍マージンを含む術前画像の当該マーカとの重ね合わせを発生することができる。代わりに又は加えて、リアルタイム超音波画像データ(ステップS8)、ハイパースペクトル画像データ(ステップS9)及び/又はビデオカメラ画像データ(ステップS10)を、前記マーカを位置合わせのための主要エレメントとして(即ち、異なる画像における一種のアンカリング要素として)前記術前画像データと位置合わせすることができる。次いで、視覚化情報を前記画像データに基づいて発生することができ(ステップS10)、投影として及び/又はディスプレイ上に示すことができる(ステップS11)。例えば、ステップS11において当該マーカの位置を患者上に投影することができる。
更に、ステップS12において介入治療器具の位置及び向きを決定することができ、該器具の当該関心領域の境界に対する関係を決定することができる(ステップS13)。ステップS14において、該器具の表示を当該視覚化情報に加えることができる。該視覚化情報は、該器具の先端からの組織フィードバック情報により改善することができる(ステップS15)。利用可能なリアルタイム画像は、発生される視覚化情報の当該介入治療の任意の進展に対する適合化も可能にすることに注意すべきである。
以上、本発明を図面及び上記記載において詳細に図示及び説明したが、斯かる図示及び説明は解説的又は例示的なものであって、限定するものではないと見なされるべきである。即ち、本発明は開示された実施態様に限定されるものではない。開示された実施態様に対する他の変形例は、当業者によれば、請求項に記載の本発明を実施するに際して図面、本開示及び添付請求項の精査から理解し、実施することができるものである。
尚、請求項において“有する”なる文言は他の要素又はステップを排除するものではなく、単数形は複数を排除するものではない。また、特定の手段が互いに異なる従属請求項に記載されているという単なる事実は、これら手段の組み合わせを有利に使用することができないということを示すものではない。また、請求項における如何なる符号も当該範囲を限定するものと見なしてはならない。
10 患者の寝椅子
20 手術用ライト
30 追跡装置
40 超音波装置
50 処理ユニット
60 ディスプレイ
70 投影装置
72 投影
80 トレーサ板
82 追跡可能なエレメント
90 カメラ
100 マーカ
102 リム
110 関心領域
120 身体
122 身体の外側表面
130 導入器
140 器具
150 プローブ

Claims (15)

  1. 手術を誘導する画像を提供するシステムであって、
    追跡装置と、
    該追跡装置により位置及び向きが追跡可能な超音波装置と、
    処理ユニットと、
    を有し、前記処理ユニットが、
    (i)関心領域と超音波又はX線により識別可能なマーカとが共に術前に身体内に位置する場合の前記マーカに対する前記関心領域の3D情報を受信し、
    (ii)前記超音波装置に対する前記マーカの位置を、該マーカを含む前記身体の超音波画像に基づいて決定し、
    (iii)(i)及び(ii)に基づいて、前記追跡装置に対する前記マーカの位置及び向きを決定することにより、前記関心領域と前記追跡装置との間の空間的関係を決定する
    システム。
  2. 前記関心領域の視覚化情報であって、前記身体の外側表面に投影される視覚化情報を発生する視覚化装置を更に有する、請求項1に記載のシステム。
  3. 発生された関心領域の視覚化情報が該関心領域の境界の投影を含む、請求項1又は請求項2に記載のシステム。
  4. 前記視覚化装置が発生された視覚化情報を示すディスプレイを有する、請求項1ないし3の何れか一項に記載のシステム。
  5. 前記視覚化装置が発生された視覚化情報を投影する投影ユニットを有する、請求項1ないし4の何れか一項に記載のシステム。
  6. 前記マーカが、超音波画像に基づいて該マーカの3D位置及び向きの決定を可能にする構造を有する、請求項1ないし5の何れか一項に記載のシステム。
  7. 器具を更に有し、該器具の位置及び向きは前記追跡装置により追跡可能であり、発生された視覚化情報が該器具の前記関心領域に対する関係の指示情報を含む、請求項1ないし6の何れか一項に記載のシステム。
  8. 前記関心領域を含む前記身体を撮像するためのカメラを更に有し、前記関心領域の視覚化情報と前記カメラからの画像とが重ねられる、請求項1ないし7の何れか一項に記載のシステム。
  9. 前記関心領域を撮像するためのハイパースペクトル又はマルチスペクトルカメラを更に有する、請求項1ないし8の何れか一項に記載のシステム。
  10. 関心領域と超音波又はX線により識別可能なマーカとが共に術前に身体内に位置する場合の前記マーカに対する前記関心領域の3D情報を受信して、身体内のマーカの関心領域に対する位置を前記3D情報に基づいて決定し、
    超音波装置に対する前記マーカの位置を超音波画像データに基づいて決定し、
    追跡装置に対する前記超音波装置の位置及び向きを前記追跡装置から受信されるデータに基づいて決定し、
    決定された前記マーカの関心領域に対する位置と、決定された前記超音波装置に対する前記マーカの位置と、決定された前記追跡装置に対する前記超音波装置の位置及び向きとから、前記関心領域と前記追跡装置との間の空間的関係を決定し、
    前記関心領域の位置を示す視覚化情報を前記身体の外側表面上に投影する、
    ための命令の組を有する、コンピュータプログラム。
  11. カメラから受信される前記身体の外側表面の画像上への前記視覚化情報の重ね合わせを発生するための命令の組を更に有する、請求項10に記載のコンピュータプログラム。
  12. 前記視覚化情報が前記身体の外側表面上への前記関心領域の境界の投影を含む、請求項10又は請求項11に記載のコンピュータプログラム。
  13. 関心領域と超音波又はX線により識別可能なマーカとが共に術前に身体内に位置する場合の前記マーカに対する前記関心領域の3D情報を受信して、身体内のマーカの関心領域に対する位置を前記3D情報に基づいて決定するステップと、
    超音波装置に対する前記マーカの空間位置を該超音波装置により発生される超音波画像データに基づいて決定するステップと、
    追跡装置に対する前記超音波装置の空間位置及び向きを前記追跡装置から受信されるデータに基づいて決定するステップと、
    決定された前記マーカの関心領域に対する位置と、決定された前記超音波装置に対する前記マーカの空間位置と、決定された前記追跡装置に対する前記超音波装置の位置及び向きとから、前記関心領域と前記追跡装置との間の空間的関係を決定するステップと、
    前記関心領域の位置を示す視覚化情報を前記身体の外側表面上に投影するステップと、
    を有する、方法。
  14. 前記身体の外側表面上への前記指示情報の投影を行うステップを更に有する、請求項13に記載の方法。
  15. 器具の空間位置及び向きを決定するステップ、及び前記関心領域に対する前記器具の空間位置の指示情報を発生するステップを更に有する、請求項13又は請求項14に記載の方法。
JP2019531706A 2016-12-16 2017-12-18 手術を誘導する画像を提供するシステム Active JP6745998B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662435152P 2016-12-16 2016-12-16
US62/435,152 2016-12-16
EP17152112 2017-01-19
EP17152112.3 2017-01-19
PCT/EP2017/083253 WO2018109227A1 (en) 2016-12-16 2017-12-18 System providing images guiding surgery

Publications (2)

Publication Number Publication Date
JP2020501691A JP2020501691A (ja) 2020-01-23
JP6745998B2 true JP6745998B2 (ja) 2020-08-26

Family

ID=61027664

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019531706A Active JP6745998B2 (ja) 2016-12-16 2017-12-18 手術を誘導する画像を提供するシステム

Country Status (4)

Country Link
US (1) US11571180B2 (ja)
EP (1) EP3554383B1 (ja)
JP (1) JP6745998B2 (ja)
CN (1) CN110072467B (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020041177A1 (en) * 2018-08-20 2020-02-27 Butterfly Network, Inc. Methods and apparatuses for guiding collection of ultrasound data
CN110420036B (zh) * 2019-08-01 2021-03-09 无锡海斯凯尔医学技术有限公司 多类型探头兼容的数据处理方法、装置及可读存储介质
CN112568935B (zh) * 2019-09-29 2024-06-25 中慧医学成像有限公司 基于三维追踪相机的三维超声成像方法和系统
CN112914755A (zh) * 2021-01-25 2021-06-08 深圳市奥昇医疗科技有限责任公司 手术追踪系统及其控制方法
CN115500868B (zh) * 2022-11-09 2023-03-10 中南大学 可与被探测目标进行位置信息交互确认的b超定位系统

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01244740A (ja) * 1988-03-28 1989-09-29 Fujitsu Ltd 超音波診断装置
JP3053389B1 (ja) * 1998-12-03 2000-06-19 三菱電機株式会社 動体追跡照射装置
US20030220557A1 (en) * 2002-03-01 2003-11-27 Kevin Cleary Image guided liver interventions based on magnetic tracking of internal organ motion
US20070225553A1 (en) * 2003-10-21 2007-09-27 The Board Of Trustees Of The Leland Stanford Junio Systems and Methods for Intraoperative Targeting
JP4594675B2 (ja) 2004-08-20 2010-12-08 株式会社東芝 超音波診断装置及びその制御方法
US7912258B2 (en) * 2005-09-27 2011-03-22 Vanderbilt University Method and apparatus for standardizing ultrasonography training using image to physical space registration of tomographic volumes from tracked ultrasound
US8340374B2 (en) 2007-01-11 2012-12-25 Kabushiki Kaisha Toshiba 3-dimensional diagnostic imaging system
JP5127371B2 (ja) * 2007-08-31 2013-01-23 キヤノン株式会社 超音波画像診断システム、及びその制御方法
JP5707148B2 (ja) 2010-01-27 2015-04-22 株式会社東芝 医用画像診断装置及び医用画像処理装置
JP6085598B2 (ja) * 2011-07-01 2017-02-22 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 画像ガイドインターベンションのための術中画像補正
CN102266250B (zh) * 2011-07-19 2013-11-13 中国科学院深圳先进技术研究院 超声手术导航系统
CA2851659A1 (en) 2011-10-09 2013-04-18 Clear Guide Medical, Llc Interventional in-situ image guidance by fusing ultrasound and video
US9295449B2 (en) * 2012-01-23 2016-03-29 Ultrasonix Medical Corporation Landmarks for ultrasound imaging
JP2013255658A (ja) 2012-06-12 2013-12-26 Toshiba Corp 超音波診断装置
JP6198839B2 (ja) * 2012-11-06 2017-09-20 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 超音波画像のエンハンスメント
WO2014091330A1 (en) * 2012-12-11 2014-06-19 Koninklijke Philips N.V. Assisting apparatus for assisting in performing a brachytherapy
WO2014132209A1 (en) * 2013-02-28 2014-09-04 Koninklijke Philips N.V. Segmentation of large objects from multiple three-dimensional views
JP5410629B1 (ja) * 2013-05-14 2014-02-05 健司 三木 超音波診断システム、画像処理装置およびその制御方法と制御プログラム
WO2014210430A1 (en) * 2013-06-27 2014-12-31 Tractus Corporation Systems and methods for tissue mapping
WO2015092667A1 (en) * 2013-12-20 2015-06-25 Koninklijke Philips N.V. System and method for tracking a penetrating instrument
US20160367216A1 (en) * 2014-02-28 2016-12-22 Koninklijke Philips N.V. Zone visualization for ultrasound-guided procedures
NL2012416B1 (en) * 2014-03-12 2015-11-26 Stichting Katholieke Univ Anatomical Image Projection System.
EP2926736B1 (en) * 2014-03-31 2020-06-17 Esaote S.p.A. Apparatus and method for ultrasound image acquisition, generation and display
JP6328993B2 (ja) * 2014-05-12 2018-05-23 株式会社共伸 超音波診断装置での観察下で用いられる医療用針
WO2016064921A1 (en) * 2014-10-20 2016-04-28 MedSight Tech Corp. Automatic detection of regions of interest in 3d space
US11026750B2 (en) * 2015-01-23 2021-06-08 Queen's University At Kingston Real-time surgical navigation
US9436993B1 (en) 2015-04-17 2016-09-06 Clear Guide Medical, Inc System and method for fused image based navigation with late marker placement
JP6510301B2 (ja) * 2015-04-17 2019-05-08 株式会社日本未来医療研究所 医療支援システム、医療支援方法、画像処理装置およびその制御方法と制御プログラム
CN118319487A (zh) 2015-06-12 2024-07-12 达特默斯大学托管会 引导组织切除的系统和方法
WO2016201637A1 (en) 2015-06-17 2016-12-22 Covidien Lp Guided ultrasound breast cancer screening system

Also Published As

Publication number Publication date
EP3554383A1 (en) 2019-10-23
CN110072467B (zh) 2022-05-24
US11571180B2 (en) 2023-02-07
JP2020501691A (ja) 2020-01-23
US20200015781A1 (en) 2020-01-16
CN110072467A (zh) 2019-07-30
EP3554383B1 (en) 2020-04-22

Similar Documents

Publication Publication Date Title
JP6745998B2 (ja) 手術を誘導する画像を提供するシステム
US10758209B2 (en) Photoacoustic tracking and registration in interventional ultrasound
JP6671432B2 (ja) 患者装着式の針ガイドの位置合わせおよび動き補償
US11730562B2 (en) Systems and methods for imaging a patient
JP6707535B2 (ja) コンピュータ断層撮影の拡張された蛍光透視法のシステム、装置、およびその利用方法
KR101572487B1 (ko) 환자와 3차원 의료영상의 비침습 정합 시스템 및 방법
US20200275988A1 (en) Image to world registration for medical augmented reality applications using a world spatial map
US10055848B2 (en) Three-dimensional image segmentation based on a two-dimensional image information
US20140073907A1 (en) System and method for image guided medical procedures
EP3165153A1 (en) System for fluorescence aided surgery
US20230200720A1 (en) Systems, devices and methods for lymph specimen tracking, drainage determination, visualization and treatment
WO2014031531A1 (en) System and method for image guided medical procedures
CA2940256A1 (en) Methods and systems for performing segmentation and registration of images using neutrosophic similarity scores
JP7221190B2 (ja) 最適化されたデバイス対画像の位置合わせのための構造マスキングまたはアンマスキング
Li et al. Augmenting intraoperative ultrasound with preoperative magnetic resonance planning models for percutaneous renal access
Mirota et al. High-accuracy 3D image-based registration of endoscopic video to C-arm cone-beam CT for image-guided skull base surgery
Stolka et al. A 3D-elastography-guided system for laparoscopic partial nephrectomies
CN111466935A (zh) 医学成像设备、用于支持医务人员的方法和存储介质
WO2018109227A1 (en) System providing images guiding surgery
WO2016010737A2 (en) Computer assisted surgical system with position registration mechanism and method of operation thereof
WO2015087203A1 (en) Imaging systems and methods for monitoring treatment of tissue lesions
US20230120638A1 (en) Augmented reality soft tissue biopsy and surgery system
Galloway et al. Overview and history of image-guided interventions
Ribeiro et al. Augmented reality guided laparoscopic liver resection: a phantom study with intraparenchymal tumors
Chen et al. Video-guided calibration of an augmented reality mobile C-arm

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190617

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190617

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20191024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200804

R150 Certificate of patent or registration of utility model

Ref document number: 6745998

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250