JP2018134197A - 医用手技ナビゲーションシステムおよび方法 - Google Patents

医用手技ナビゲーションシステムおよび方法 Download PDF

Info

Publication number
JP2018134197A
JP2018134197A JP2017030215A JP2017030215A JP2018134197A JP 2018134197 A JP2018134197 A JP 2018134197A JP 2017030215 A JP2017030215 A JP 2017030215A JP 2017030215 A JP2017030215 A JP 2017030215A JP 2018134197 A JP2018134197 A JP 2018134197A
Authority
JP
Japan
Prior art keywords
image
ray
unit
navigation system
ultrasonic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017030215A
Other languages
English (en)
Inventor
隆志 飯村
Takashi Iimura
隆志 飯村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2017030215A priority Critical patent/JP2018134197A/ja
Publication of JP2018134197A publication Critical patent/JP2018134197A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

【課題】医用手技用のデバイスを予め確認した病変位置に的確に位置づけることができるようにデバイスをナビゲートすることが可能なナビゲーションシステムを提供する。【解決手段】デバイスを挿入する際の参照画像として、超音波撮像装置の回転プローブを挿入しながら取得した超音波画像やX線画像を利用する。そしてデバイスを挿入しながら、その位置を演算し、デバイスの位置に対応する参照画像を表示装置に表示させる。デバイスが患部位置に到達したならば、X線画像からその角度を推定し提示する。これにより検査者はデバイス先端を提示された角度に相当する角度回転させて患部に位置づけることができる。【選択図】図2

Description

本発明は、X線画像と超音波画像を利用して、生検や気管支内病変治療などの手技を支援するためのナビゲーションシステムに関し、特にこれら手技のために体内に挿入された鉗子等のデバイスの位置、傾きを認識、表示する技術に関する。
生体内に、内視鏡を装着したデバイスを挿入し、気管支等の管や腔の病変の組織を採取したり病変を治療したりする手技においては、デバイスの挿入を支援するために、内視鏡で得られる映像の他にX線撮像装置を用いたフルオロスコピーの画像などが利用される。さらに予めX線CTやMRIなどで撮像して得た三次元画像やそれらから作成した管腔内の三次元画像(まとめて参照画像という)をモニターに表示し、手技の対象である病変にデバイスの先端が到達するのを支援する。医用手技ナビゲーションシステム(以下、単にナビゲーションシステムともいう)は、このような内視鏡下での手技を支援する複数のモダリティからなるシステムである。
例えば肺の末梢腫瘍のような、内視鏡の挿入ができない部位では、モダリティの一つとして、メカラジアルプローブ(回転プローブ)を用いて撮像した超音波画像が利用される。メカラジアルプローブは先端径が2mm程度で小さく、内視鏡では進入できない細い管部に挿入することができ、またプローブの先端が回転することで360°の管壁の超音波画像を取得することができる。従ってメカラジアルプローブを用いることで肺末梢病変を確認することができ、その超音波画像は、例えば、肺の末梢腫瘍の細胞を採取する気管支内視鏡を用いた生検検査の参照画像として役立つ。
ただし管腔内の超音波画像は、プローブ位置を通り管腔に概ね直交する断面の画像であり、画像から撮像した部位の管腔における位置を判別することはできない。このため超音波画像を参照画像として表示する場合には、三次元参照画像と位置合わせして表示することが重要であり、そのための技術もいくつか提案されている。
例えば、特許文献1には、電磁場発生ボードと、管腔網をナビゲートするための伸長式の作業チャンネルと、作業チャンネルの遠位端近傍に取り付けた超音波変換器と、作業チャンネルに挿入されるカテーテルの遠位端に取り付けた磁気センサと、を組み合わせたシステムが開示されている。この技術では、電磁場を検出する磁気センサによってカテーテル先端の位置を検出し、また作業チャンネルに取り付けた超音波変換器によって、遠位端が位置する管腔内を可視化する。このシステムでは、超音波変換器の位置、即ち超音波画像を取得している位置は、磁気センサによって検出されたカテーテル先端位置から知ることができる。
また特許文献2には、検査対象内に超音波プローブを挿入しながらリアルタイムで取得した3D超音波画像と、予め取得した3次元医用画像データとを位置合わせして、超音波画像に対応する3次元医用画像データの断面を逐次表示する技術が開示されている。この技術では、超音波画像と3次元画像データとの位置合わせは、例えば超音波プローブに取り付けた位置センサから得た位置情報を利用する。
国際公開2015/034906号公報 特開2011−11001号公報
ところで上述したような肺の末梢腫瘍のような部位では、例えば、メカラジアルプローブを用いて撮像した超音波画像で病変を確認した後、細胞を採取する場合は、一旦メカラジアルプローブを抜き、鉗子(デバイス)を再挿入する必要がある。
しかし、特許文献1に記載された技術は、管腔網の3次元モデルと磁気センサを組み合わせたシステムであるため、デバイスをナビゲーションするためには磁気センサを必要とする。また、デバイスは、例えば生検鉗子であれば、軸が回転して先端部を採取すべき組織に対向させることができるように構成されているが、磁気センサのみでは、軸の回転状態を把握することはできない。
特許文献2に記載された技術は、超音波プローブ先端の位置を把握し、参照画像上に位置づけるものであるが、超音波プローブを抜いた後の別のデバイス、例えば内視鏡付鉗子を挿入する際のナビゲーションには適用できない。すなわち、特許文献2に記載された技術では、直接の視認が困難な管腔臓器においては、各モダリティの画像から体内デバイスの相対的な位置を推定するため、位置の認識精度が低いという課題がある。
本発明は、磁気センサなどを用いることなく、デバイスを予め確認した病変位置に的確に位置づけることができるようにデバイスをナビゲートすることが可能なナビゲーションシステムを提供することを課題とする。
上記課題を解決するため、本発明のナビゲーションシステムは、デバイスを挿入する際の参照画像として、超音波撮像装置の回転プローブを挿入しながら取得した超音波画像やX線画像を利用する。そしてデバイスを挿入しながら、その位置を演算し、デバイスの位置に対応する参照画像を表示装置に表示させる。
すなわち、本発明のナビゲーションシステムは、検査対象の内部にデバイスを挿入して行う手技を支援するためのナビゲーションシステムであって、検査対象内部に挿入可能な回転プローブを有する超音波撮像部と、X線撮像部と、前記X線撮像部が、前記デバイスを前記検査対象に挿入しながら撮像したX線画像を用いて前記デバイスの位置を算出する演算部と、予め取得した前記検査対象の画像データから参照画像を作成し、当該参照画像及び前記X線画像を表示装置に表示させる表示制御部と、を備える。前記表示制御部は、前記参照画像として、前記回転プローブを挿入しながら前記超音波撮像部が撮像した超音波画像を含む参照画像を作成し、前記演算部が算出した前記デバイスの位置と前記回転プローブの位置が一致する参照画像を表示装置に表示させる。
本発明のナビゲーションシステムにおいて、演算部は、例えば、デバイス挿入時に取得する複数のX線画像からデバイス先端の位置を推定し、X線画像と予め取得したデバイス先端の角度画像データとを用いて、デバイス先端の角度を推定し、挿入中のデバイス先端の位置や角度の情報(位置情報)を得る。この位置情報を用いて、参照画像との位置合わせ、表示を行う。
本発明によれば、回転プローブの挿入時に取得した画像を参照画像として利用することで、磁気センサ等を用いることなく、デバイスを適切に手技の対象である部位にナビゲーションすることが可能なシステムを提供することができる。
医用手技ナビゲーションシステムの全体概要を示す機能ブロック図。 医用手技ナビゲーションシステムの動作の概要を示す図。 実施形態の医用手技ナビゲーションシステムの全体概要を示す図。 第一実施形態による、ナビゲーション部の動作の流れを示す図。 プローブ先端位置の算出手法を説明する図。 先端形状データベースを用いた先端の傾き(角度)推定の様子を示す図。 第一実施形態の医用ナビゲーションシステムの表示例を示す図で、(A)はナビゲーション画像と超音波画像が重畳された画像を示す図、(B)は(A)に超音波弾性画像が追加された画像を示す図。 第二実施形態のナビゲーション部の機能ブロック図。 第三実施形態による、ナビゲーション部の動作の流れを示す図。 第三実施形態の医用手技ナビゲーションシステムの表示例を示す図で、(A)は参照X線画像とリアルタイムX線画像を並列に配置した表示例、(B)は参照X線画像にリアルタイムX線画像に現れるデバイス経路を重畳して表示した表示例。
以下、図面を参照して本発明の医用手技ナビゲーションシステムの実施形態を説明する。
図1は、医用手技ナビゲーションシステム(以下、単にナビゲーションシステムという)の概要を示す図であり、このナビゲーションシステムは、主な構成要素として、手技を行う際に使用する撮像装置10と、撮像装置10で取得した画像やナビゲーションのための画像を表示する表示部20と、予め取得した被検体の三次元画像や手技に用いるデバイス等の画像データをデータベースとして保存する記憶装置30と、撮像装置10で取得した画像や記憶装置30に格納されている画像データを用いて、ナビゲーション用の情報を作成し出力するナビゲーション部(演算装置を含む)40と、を備えている。
撮像装置10は、X線撮像装置100及び超音波撮像装置200を含む。超音波撮像装置は、超音波の送信及び受信を行う超音波プローブが微細な径の管腔に挿入可能な単一トランスデューサを備えたプローブ、特にトランスデューサが軸を中心に360度回転可能なメカラジアルプローブ、を備えた超音波撮像装置であり、この超音波撮像装置200で取得した超音波画像は参照画像を作成するために用いられる。
X線撮像装置100は、X線源と、被検体を挟んでX線源と対向して配置されるX線検出器とを備えた一般的なX線診断装置として用いられるものが使用できる。
表示部20は、液晶ディスプレイ等の表示装置で、手技を行う者(検査者)が手技を行いながら画面を見やすい位置に設置される。ナビゲーション部40の演算装置がキーボードやマウスなどの入力用デバイスを備える場合には、そのような入力用デバイスと一体化したものであってもよい。
記憶装置30は、汎用のハードディスク装置や磁気ディスク或いは光ディスク等の可搬媒体、或いはクラウド上の記憶装置であってもよい。記憶装置には、予めX線CT装置、MRI装置、三次元超音波撮像装置などの任意の1乃至複数の撮像装置で取得した被検体の三次元画像が格納されている。記憶装置30には、さらに、デバイスを複数の回転角度で撮像したX線画像データがデータベースとして格納されている。デバイスのX線画像データは、後述するナビゲーション部40による位置情報算出に用いられる。
ナビゲーション部40は、画像データを用いてデバイスの位置や角度に関する情報(位置情報と言う)などを算出する演算部410と、演算部410における演算に必要なデータや演算途中のデータなどを記憶するデータ記憶部430と、演算部410が算出した位置情報を用いて、ナビゲーションのための表示画像を作成し、表示部20に表示させる表示制御部420と、を備えている。ナビゲーション部40は、CPU及びメモリを備えた計算機上にソフトウェアとして構築することができる。またナビゲーション部40が達成する機能の一部は、ASICやFPGA等のハードウェアで実現することも可能である。
このような構成におけるナビゲーションシステムの処理の概要を、図2を参照して説明する。ここでは一例としてX線撮像装置100及び超音波撮像装置200を用いて生検を行う場合を説明する。
まず生検組織を確認するために、被検体(患者)をX線撮像装置100の撮像位置に寝かせた状態で、超音波撮像装置200のメカラジアルプローブ(以下、回転プローブという)を生検の対象である管腔、例えば気管支に挿入しながら、超音波撮像装置200による撮像を連続的に行い、回転プローブの位置が異なる連続的な超音波画像を取得する(S101)。この超音波画像は、位置情報とともに記憶装置30或いはナビゲーション部40のメモリ(データ記憶部)に保存される。
上述の回転プローブを用いた超音波撮像によって手技対象の位置が確認されると、検査者は回転プローブを引抜き、手技に用いるデバイス50を同じ管腔に挿入する。デバイスを挿入する際に、表示制御部420は、保存された超音波画像を用いて参照画像を作成し、表示する。例えば、表示制御部420は、X線CT装置、MRI装置、三次元超音波撮像装置等のモダリティで予め取得した被検体の三次元画像データから作成した画像を、超音波画像と位置合わせした後(S102)、重畳して或いは並置して参照画像として表示部20に表示させる(S103)。
またデバイスを挿入しながら、X線撮像装置100によりX線透視画像を連続的に取得する(S104)。連続的に取得されたX線画像は、必要な画像処理の後、ナビゲーション部40に出力され、演算部410が、X線画像をもとに、実空間におけるデバイス先端位置を推定する(S105)。デバイス先端位置の推定は、例えば、被検体に対し異なる方向からX線を照射して方向の異なる複数のX線画像を取得し、これら複数のX線画像を用いることで行うことができる。
表示制御部420は、取得したX線画像を、逐次、表示部20に表示させるとともに、デバイスの位置に合わせて参照画像を更新する(S106)。これにより検査者は、表示される参照画像でデバイス位置を確認しながら、デバイスの挿入を進めることができ、またデバイスの先端が例えば生検対象である組織部位に達したことを確認することができる。
デバイスの先端が、手技の対象である組織或いは部位の位置に達するまで、上述したステップS104〜S106が繰り返される(S107)。デバイス先端位置の算出或いは先端位置算出のための複数方向からの撮像は、デバイスの挿入時に連続して行うのではなく、確認が必要なときに検査者が適宜行ってもよい。
デバイスの先端位置が、手技の対象である組織或いは部位の位置に達したならば、X線画像からデバイス先端の角度を推定する(S108)。デバイス先端の角度の推定は、例えば、予め取得しておいたデバイス先端の角度毎のX線画像データとのマッチングによって行うことができる。表示制御部420は、推定した角度を表示部20に表示させる、或いは推定した角度を用いて参照画像上にデバイスの角度が示すマーク等を表示させる、等の手法で角度を提示する。これによりデバイス先端の管壁の周方向の位置(例えば、実空間座標の軸に対する角度)がわかるので、検査者は、デバイス先端の角度を、生検対象組織(患部)を捉えた回転プローブの角度に一致させるように、デバイスを回転させる。これによりデバイス先端は生検対象組織に相対する位置に正確に位置づけられる。ここで角度とは、デバイスの可動機能によって異なり、デバイスの長手方向に沿った軸を中心とする回転方向の角度或いは軸に対する角度のいずれであってもよい。
以上説明したナビテーションシステムの概要と動作を踏まえ、具体的な構成及び処理内容の実施形態を説明する。
<装置の実施形態>
まずナビゲーションシステムに組み込まれる撮像装置10及びナビゲーション部40の構成を、図3を用いて説明する。本図に示す実施形態では撮像装置10としてX線撮像装置100及び超音波撮像装置200を備えている。
X線撮像装置100は、被検体101を載せる天板110と、被検体101にX線を照射するX線源102と、被検体101に対するX線照射領域を設定する絞り装置104と、X線源102に電力供給を行なう高電圧発生部106と、X線源102に対向する位置に配置され、被検体101を透過したX線を検出するX線検出器103と、X線検出器103から出力されたX線信号に対して画像処理を行なう画像処理部105と、画像処理部105から出力されたX線画像(X線透視画像を含む)を記憶するX線画像記憶部107と、上記各構成要素を制御する制御部108と、制御部108に対して指令を行なう操作部109を備えている。
X線源102は、高電圧発生器106から電力供給を受けてX線を発生させるX線管球を有する。X線管球は単一であっても、X線照射方向が異なる複数のX線管球であってもよい。また、X線源102には、特定のエネルギーのX線を選択的に透過させるX線フィルタなどを有していてもよい。絞り装置104は、X線源102から発生したX線を遮蔽するX線遮蔽用鉛板を複数有し、複数のX線遮蔽用鉛板をそれぞれ移動することにより、被検体101に対するX線照射領域を決定する。
X線検出器103は、例えば、X線を検出する複数の検出素子が二次元アレイ状に配置されて構成されており、X線源102から照射され、被検体101を透過したX線の入射量に応じたX線信号を検出する機器である。
画像処理部105は、X線検出部103から出力されたX線信号を画像処理し、画像処理されたX線画像を出力し、ナビゲーション部40に渡す。画像処理は、ガンマ変換、階調変換処理、画像の拡大・縮小等である。X線画像記憶部107は、画像処理部105から出力されたX線画像を記憶する。
超音波診断装置200は、被検体101の体内に挿入し用いるメカラジアルプローブ201と、メカラジアルプローブ201を介して被検体101に時間間隔をおいて超音波を繰り返し送信する送信部204と被検体から発生する時系列の反射エコー信号を受信する受信部208と、送信部204と受信部208を制御する超音波送受信制御部206と、受信部208で受信された反射エコーを整相加算する整相加算部210を備えている。
また、整相加算部210からのRF信号フレームデータに基づいて被検体101の体内の断層画像、例えば白黒(濃淡)の断層画像を構築する断層画像構成部212と、断層画像構成部212の出力信号を表示部20の表示に合うように変換する白黒スキャンコンバータ214と、被検体101の生体組織の変位を計測し、その変位情報から求めた歪み又は弾性率からカラー弾性画像を構成する弾性画像構成部216、弾性画像構成部216の出力信号を表示に合うように変換するカラースキャンコンバータ218を備えている。そして、白黒断層画像とカラー弾性画像(これらをまとめて超音波画像という)を記憶する超音波画像記憶部220を備えている。
ナビゲーション部40は、データ記憶部430、表示制御部420の他に、回転プローブ挿入時に並行して撮像される超音波画像及びX線画像の画像作成開始時間を記録するためのタイムスタンプ生成部450、及び、演算部410として、被検体101の体内に挿入されたデバイスの位置を推定する位置推定部411、デバイス先端の傾き(角度)を推定する先端傾き推定部(角度推定部)412、及び、初期位置を推定する初期位置推定部413を備える。
記憶装置30には、デバイスの回転角度毎の先端形状を格納した先端形状データベース310や、三次元画像データ330などが格納されている。
<ナビゲーションの実施形態>
次にナビゲーション部40の動作の実施形態を説明する。
<<第一実施形態>>
本実施形態では、回転プローブを用いて、回転プローブが挿入される管腔の内部から超音波撮像を行うと同時に、被検体内部に挿入される回転プローブを含むX線画像の撮像を行う。このX線画像は、回転プローブの位置及び先端の回転角度を算出するために使用され、算出した回転プローブの位置と回転角度は、参照画像として用いられる超音波画像と別途取得した三次元画像との位置合わせに用いられる。回転プローブの位置は、特に限定されないが、例えば、回転プローブの超音波トランスデューサ(そのプローブ進行方向の先端或いは後端)が固定された位置或いはそれから所定の距離にある位置などと決めることができる。ここでは一例として回転プローブの位置は、回転プローブの先端の位置である場合を説明する。
以下、図4に示す動作の流れを参照して説明する。まずこの回転プローブの挿入の状態をX線撮像装置100で連続的に撮像し、回転プローブを含むX線透視画像(単にX線画像という)を取得する(S401)。表示制御部420は、回転プローブを挿入しながら撮像したX線画像と、回転プローブによって取得した超音波画像を表示部20に表示させる(S402)。これらX線画像と超音波画像から、手技を行う者(検査者)は、管腔の組織を観察することができ、例えば生検組織の位置と状態を確認することができる。表示の形態については後述する。
一方、タイムスタンプ生成部450は、上述したX線画像を形成した時刻(画像作成時刻)の情報を、X線画像及びその時刻に超音波撮像装置200で撮像した超音波画像に付帯情報として加える。これにより同時刻に形成されたX線画像と超音波画像は、それぞれ、これら時間情報と共にX線画像記憶部107及び超音波画像記憶部220に記憶される(S403)。
回転プローブが例えば生検対象である患部に達した時点で或いはその前後で、実空間座標における回転プローブの位置情報(三次元位置情報)を得るために、被検体に対し異なる方向からX線を照射して方向の異なる複数のX線画像を取得する(S404、S405)。X線照射方向が異なる複数のX線画像は、X線撮像装置が2以上のX線源を備える場合には、複数のX線源を用いて同時に取得してもよいし、1つのX線源を備えるX線撮像装置の場合には、X線源の位置を変えて2回の撮像を行ってもよい。
演算部410は、複数のX線画像における回転プローブ先端位置の座標から、三次元座標における回転プローブの先端位置を算出する(S405)。例えば、被検体の体軸方向をZ方向としたとき、図5に示すように、装置のX方向からX線を照射して取得したY−Z面と平行なX線画像における先端位置Pの座標を(y1、z1)とし、Y方向からX線を照射して取得したX−Z面と平行なX線画像における先端位置Pの座標を(x1、z2)とすると、Y−Z面のX線画像の取得とX−Z面のX線画像の取得との間で先端位置が変化しないならば、z1=z2であり先端位置の座標は(x1、y1、z1)である。なお図5では2つのX線画像が直交する例を示したが、X線の照射方向が異なる画像であり、その角度がわかれば、先端位置の三次元座標は一意に求められる。
また演算部410は、回転プローブ先端の形状が回転角度によって異なることを利用して、回転プローブの回転角度を算出する(S406)。具体的には、所定の回転角度毎に回転プローブのX線画像を取得したものをデータベースとして記憶装置30に格納しておき、取得したX線画像における回転プローブの形状とデータベースの回転角度毎のX線画像とを比較することで、回転角度を求める。この回転プローブの位置や角度に関する推定機能は、デバイスの先端についてマッチングや傾きの推定を行う先端傾き推定部(角度推定部)412及び位置の推定を行う位置推定部411で実現することができる。先端傾き角度推定部(角度推定部)412におけるデータベースのX線画像との比較は、公知のパターン認識の手法でもよいし、特徴点の位置変化などを利用してもよい。X線画像は、このように算出した先端位置及び角度の情報と共にデータ記憶部430に記憶される。
次に回転プローブが管腔から抜き出され、手技のための鉗子等のデバイスが被検体101の管腔に挿入されると、X線撮像装置100による撮像を開始する(S407)。表示制御部420は、X線撮像によって得られたX線画像を表示部20に表示させるとともに、データ記憶部430に格納された画像を用いて参照画像を作成し、表示部20に表示させる(S408)。参照画像は、例えば、X線CT装置、MRI装置、三次元超音波撮像装置等のモダリティで予め取得した被検体の三次元画像データから作成した画像(断面画像或いはナビゲーション画像)にステップS402で取得した超音波画像を重畳した画像である。
予め取得した三次元画像、X線画像及び超音波画像は、それぞれ別々のモダリティで取得した画像であるため、画像を重畳して表示するためにはそれぞれの画像の位置、回転を適切に補正する必要がある。このため、例えば、初期位置推定部413が、X線画像と、三次元画像データ(例えばCT画像データ)から作成した計算X線画像との類似度から画像間の位置の補正値を求めておく。補正値は、一方の画像を他方の画像に一致させるために移動する(x方向及びy方向の)画素数で表した数値であり、データ記憶部430に記録される。なお回転プローブの方向及び回転角度については、前述のように、角度推定部412が、X線画像から、回転プローブの回転する先端部の特徴点の形状及び動きを検出し、画像処理部105から出力されたX線画像と、先端形状データベース310に登録された画像データの中から一致する画像を検出し、回転プローブの傾き及び回転角度を推定する。超音波画像については、同時刻に取得したX線画像から上述のように推定した回転プローブの位置の補正値、傾き、及び回転角度を適用することができる。
表示制御部420は、上述した補正値及び回転プローブの位置情報を用いて画像の位置合わせ、必要に応じて重畳を行う。重畳した画像においては、例えば回転プローブの進行方向に直交し、回転プローブ先端を含む断面画像を参照画像とする場合、回転プローブが挿入される管腔の管壁の周囲に回転プローブで撮像した超音波画像が表示される。
ここで、回転プローブを用いて撮像した超音波画像は、回転プローブに固定された超音波トランスデューサの位置が画像の所定位置(例えば上)となり、回転プローブの回転角度によって三次元画像の座標系(或いは実空間座標)に対する角度が変化するが、回転プローブの回転角度を算出しておくことで、超音波画像を三次元画像データから作成した断面画像に合わせて回転させることができ、回転方向の位置を一致させて重畳することができる。
なお参照画像として表示される超音波画像は、断面の構造を表す形態画像でもよいし、弾性画像などの性状を示す形態画像でもよい。また特に弾性が他と異なる組織のみを色や明度などで形態画像上に識別可能に表示した画像でもよい。
さらに表示制御部420は、上述のように作成した参照画像をデバイスの位置に合わせて更新して表示する。
このため演算部410は、X線画像を用いて、管腔に挿入されて進行するデバイス先端の位置を推定する。先端位置の推定は、回転プローブの先端位置の推定と同様であり、位置推定部411が、被検体101に対し異なる方向からX線を照射して得た複数のX線画像から推定する。デバイスの位置情報が得られたならば、表示制御部420は、これら位置情報とデータ記憶部430に格納された補正値とを用いて、デバイス先端或いはその近傍を含む参照画像を作成し、表示部20に表示する。このとき表示部20に表示される参照画像には、デバイスを示すマークM(図7)を、デバイスの位置に対応する画像上の位置に表示するようにしてもよい。
このような表示により、検査者は、参照画像と並列に表示されるリアルタイムのX線画像上でデバイス位置を確認しながら、参照画像上で、そのデバイス位置における組織の状態を確認しながら、デバイスの挿入を進めることができ、また患部に到達したか否かを確認することができる。
デバイスが、参照画像上で患部に到達することが確認された後(S409)、回転プローブの回転角度の推定と同様に、先端傾き角度推定部(角度推定部)412が、その時点で撮像したX線画像と、デバイスの回転角度毎の先端形状を格納した先端形状データベース310のX線画像とを比較し、デバイスの回転角度(或いは傾き)を推定する(S410)。先端形状データベース310を用いた先端傾き推定の様子を図6に示す。図示するように、先端形状データベース310には、デバイス(鉗子)に対しX線を照射する方向の初期位置を0度とし、そこからデバイスを所定の角度ずつ回転させて、所定の角度毎のX線画像を取得したものが記録されている。患部に到達したときの、デバイスが映し出されたX線画像と、データベースのX線画像とをパターンマッチング等により比較することで、デバイスの角度を推定することができる。
参照画像上にデバイスを示すマークを表示する場合には、このマークの角度を推定したデバイスの角度に合わせて表示する(S411)。即ち推定したデバイスの角度と、表示されるマークの角度を連動させる。これにより検査者は、デバイスを患部に適切に対向する位置に回転させることができる。
表示の一例を図7に示す。図7(A)は、デバイスが挿入される管腔をデバイスの進行方向から見たナビゲーション画像とその最前面となる断面における超音波画像とが重畳された参照画像の上に、デバイス位置を示すマークが表示された画像であり、図7(B)は、図7(A)の画面にさらに超音波断層画像で得られた情報(特に組織が硬い部分を示す画像)が重畳されて表示された画像である。
以上、説明したように、本実施形態のナビゲーションシステムの演算部410は、前記検査対象(被検体101)に対するX線の照射方向が異なる少なくとも2つのX線画像データを用いて、回転プローブ(201)又はデバイス(50)の先端位置を推定する位置推定部411と、回転プローブ又はデバイスの先端について、複数の異なる回転角度位置で予め撮像したX線画像データベースを用いて、先端の回転角度を推定する角度推定部(先端傾き推定部)412と、を備える。
これにより、超音波画像がそれを撮像した回転プローブの位置及び角度と一致した状態で、他のモダリティで取得した三次元画像データから作成した画像と重畳して或いは並列で表示される。またデバイス挿入時には、デバイスの位置及び角度に対応する位置、角度の超音波画像や参照画像が表示される。これにより検査者は確実にデバイスを患部に導くことができ、手技の位置の正確性を担保できる。
なお以上の実施形態では、回転プローブ挿入時に取得した超音波画像とX線画像とをデータ記憶部430に記録し、デバイス挿入時に表示制御部420がデータ記憶部430から超音波画像及びX線画像を読出すとともに、記憶装置30に格納された三次元画像データを読出し、位置合わせした上で参照画像として表示する流れを説明したが、デバイス挿入に先立って、位置合わせのための補正値を算出するとともに位置合わせした参照画像の三次元データを作成してデータ記憶部430に保存しておき、デバイス挿入時に推定したデバイス位置に基き、この三次元データから参照画像を作成して表示するようにしてもよい。
<<第二実施形態>>
本実施形態のナビゲーションシステムの構成は、基本的に第一実施形態と同様であるが、複数のX線画像を用いて推定した回転プローブやデバイスの位置の正確度を評価する機能が追加されていることが特徴である。
以下、第一実施形態と異なる点を中心に本実施形態を説明する。図8に演算部410の機能ブロック図を示す。その他の構成は図3と同様であり、また図8において図3と同じ要素は、図3と同じ符号で示し重複する説明は省略する。
図8に示すように本実施形態の演算部410には、位置推定部411が推定した位置のずれを判断する類似度推定部414が追加される。類似度推定部414は、位置推定に用いた複数方向のX線画像と同じときにそれぞれ取得した複数の超音波画像を用いて、複数の画像間の位置ずれを算出する。
例えば2つの方向のX線画像から回転プローブ201の三次元的な位置を推定する際、X線撮像装置100が、例えばX線管球1つのみを備えた装置の場合、2方向からのX線画像に時間差が生じる。この間に、手ブレや呼吸が原因となって2方向のX線画像間に生じた場合、X線撮影と同時に保存される超音波画像も変化する。
本実施形態では、1方向からのX線撮像を実施時、X線画像と同タイムスタンプの超音波画像をデータ記憶部430に記録するとともに、もう1つの方向からX線撮像を実施時、X線画像と同タイムスタンプの超音波画像をデータ記憶部430に記録する。類似度推定部414は、データ記憶部430に記録された2枚の超音波画像間の画像の類似度を算出する。類似度は、例えば、次式(1)で表される濃度値の差の2乗和(SSD)等で表すことができる。
Figure 2018134197
類似度推定部414は、算出した類似度を、参照画像を作成する際に求めた補正値(三次元画像データの画像とX線画像の補正値)の補正値の信頼度として検査者に通知する。通知の手法は特に限定されないが、表示部20に表示してもよいし、音声等、それ以外の手段でもよい。検査者への通知は、算出した類似度が所定の閾値以下のときに行ってもよい。
<<第三実施形態>>
第一実施形態では、参照画像として、超音波画像を用いた画像を表示したが、本実施形態は回転プローブを用いた超音波撮像の際に取得したX線画像を参照画像として用いることが特徴である。
本実施形態のナビゲーションシステムは、第二実施形態と同様に、演算部が類似度推定部(比較部)を備えていてもよい。但し、本実施形態の類似度推定部は、X線画像の類似度を推定する点で第二実施形態とは異なる。
本実施形態の動作を、図9を用いて説明する。
まず被検体101の手技対象となる管腔内に回転プローブ201を挿入し、超音波画像を観察しながら患部の状態、挿入位置の確認を実施する(S901)。回転プローブ201が患部に到達したタイミングでX線画像を撮像し、データ記憶部430に保存する(S902、S903)。この画像には体内を通って患部に到達している回転プローブ201の陰影が記録されている。
その後、回転プローブ201を抜き、デバイス(鉗子)を再挿入する際、デバイスが回転プローブと同じルートを通過していることを保証するために、デバイスのX線画像(リアルタイムX線画像)を撮像しながらリアルタイムで表示するとともに、データ記憶部430に記録された回転プローブのX線画像を参照画像(参照X線画像)として表示する(S904、S905)。表示の仕方は、図10(A)に示すように、リアルタイムX線画像と参照X線画像を並置して表示してもよいし、図10(B)に示すように、参照X線画像上に、リアルタイムX線画像或いはリアルタイムX線画像から抽出したデバイスの画像を重畳して表示してもよい。デバイスの画像は、例えば、デバイス挿入中のX線画像とデバイス挿入前のX線画像との差分を取ることで得ることができるが、それ以外の手法を用いてもよい。
重畳して表示する場合には、参照X線画像とリアルタイムX線画像の位置合わせを行った上で重畳する。位置合わせは、画像或いは所定の特徴点が一致するように両者を合わせる等の手法を用いることができる。例えば、式(1)で表される濃度値の差の2乗和が最小となるように参照X線画像或いはリアルタイムX線画像をシフトすることで、両者を一致させることができる。
表示部20に表示された参照画像を確認することで、検査者はデバイスの経路が回転プローブの経路と異なっているかどうかを確認することが可能であるが、さらに本実施形態では、図9のフローにおいて点線で囲って示したように、類似度推定部414が、デバイスのX線画像に映し出されたデバイスの陰影が、参照画像における回転プローブの陰影から外れたか否かを判定してもよい(S906)。判定の手法は、第二実施形態と同様に、濃度値の差の2乗和(SSD)を算出することで行うことができる。この場合、X線画像からデバイスの経路を含む所定の領域を選択し、この領域に対応する回転プローブ画像の領域について、上述した類似度を判定することが好ましい。この場合にも、前提として、参照X線画像とリアルタイムX線画像の位置合わせを行った上で経路の類似度を判定する。類似度が低い場合は、デバイスが患部に向かう経路から外れている可能性が高いので、警告する(S907)。警告は、表示、音声など任意の手段を採用できる。これにより検査者は、デバイスを所望の場所まで戻して、挿入作業を続けることができる。
デバイスが患部に到達した後の手順は、第一実施形態で説明した手順(図4のB)と同様であり、その位置におけるデバイスのX線画像からデバイスの回転角度を推定する。デバイスの角度方向の位置を例えばデバイスのマークとして参照画像上に表示する。検査者はこの角度情報をもとに、デバイスが目的の患部に相対するようにデバイスを必要に応じて回転させることができる。
以上説明したように、本実施形態の医用手技ナビゲーションシステムは、参照画像が、回転プローブを検査対象の内部に挿入しながら、X線撮像装置が撮像したX線画像を含む。また演算部は、回転プローブを検査対象に挿入しながら撮像したX線画像と、デバイスを検査対象に挿入しながら撮像したX線画像との類似度を推定する類似度推定部を備える。これにより、デバイスが、手技対象患部を確定した回転プローブの経路と異なる経路に進みそうになった場合にも、経路の違いを検査者に知らせることができ、より確実なデバイスのガイドを行うことが可能となる。
以上、ナビゲーション部の動作を中心に、本発明の医用手技ナビゲーションシステムの本実施形態を説明したが、本発明の医用手技ナビゲーションシステムは、回転プローブを用いて超音波撮像することによって得られた超音波画像を含む参照画像を、手技用デバイス挿入の際の参照画像として、手技用デバイスの位置、特に回転方向の位置と一致させて表示する機能を持つことが特徴であり、超音波画像における回転プローブの位置や角度を推定する手法、デバイス挿入時のX線画像においてデバイスの位置や角度を推定する手法は、実施形態で説明した手法に限定されるものではない。また各実施形態は、技術的に矛盾しない限り、適宜組み合わせることも可能であるし、各実施形態において本発明に必須でない要素を追加し或いは削除したシステムも本発明に包含される。
本発明によれば、医用手技、特に内視鏡下で行われる手技を適切に遂行するためのガイドとして有効なナビゲーションシステムが提供される。本発明は、例えば、肺がんかどうかを確定するための生検を低被ばく且つ高感度で行うよう支援することができ、より早期な段階におけるがんの発見等に役立つ。
10:撮像装置、20:表示部、30:記憶装置、40:ナビゲーション部(演算装置を含む)、50:デバイス、100:X線撮像装置、200:超音波撮像装置、201:回転プローブ、310:先端形状データベース、410:演算部、411:位置推定部、412:先端傾き推定部(角度推定部)、413:初期位置推定部、414:類似度推定部、420:表示制御部、430:データ記憶部、450:タイムスタンプ生成部。

Claims (14)

  1. 検査対象の内部にデバイスを挿入して行う手技を支援するためのナビゲーションシステムであって、
    検査対象内部に挿入可能な回転プローブを有する超音波撮像部と、
    X線撮像部と、
    前記X線撮像部が、前記デバイスを前記検査対象に挿入しながら撮像したX線画像を用いて前記デバイスの位置を算出する演算部と、
    予め取得した前記検査対象の画像データから参照画像を作成し、当該参照画像及び前記X線画像を表示装置に表示させる表示制御部と、
    を備え、
    前記表示制御部は、前記参照画像として、前記回転プローブを挿入しながら前記超音波撮像部が撮像した超音波画像を含む参照画像を作成し、前記演算部が算出した前記デバイスの位置と前記回転プローブの位置が一致する参照画像を表示装置に表示させることを特徴とする医用手技ナビゲーションシステム。
  2. 請求項1に記載の医用手技ナビゲーションシステムであって、
    前記演算部は、前記検査対象に対するX線の照射方向が異なる少なくとも2つのX線画像データを用いて、前記デバイスの位置を推定する位置推定部と、
    前記デバイスについて、複数の異なる角度で予め撮像した複数の画像を記録したデータベースを用いて、前記デバイスの先端の角度を推定する角度推定部と、を備えることを特徴とする医用手技ナビゲーションシステム。
  3. 請求項1に記載の医用手技ナビゲーションシステムであって、
    前記参照画像は、前記超音波撮像部が撮像した超音波画像を、予め取得し三次元画像データから作成した画像に重畳した画像であることを特徴とする医用手技ナビゲーションシステム。
  4. 請求項3に記載の医用手技ナビゲーションシステムであって、
    前記演算部は、前記検査対象に対するX線の照射方向が異なる少なくとも2つのX線画像データを用いて、前記回転プローブの位置を推定する位置推定部と、
    前記回転プローブについて、複数の異なる角度で予め撮像した複数の画像を記録したデータベースを用いて、前記回転プローブの先端の回転角度を推定する角度推定部と、を備え、
    前記表示制御部は、前記位置推定部が算出した前記回転プローブの位置及び前記角度推定部が推定した前記回転プローブの先端の回転角度を用いて、前記三次元画像データと前記超音波画像との位置合わせを行い、重畳した画像を作成することを特徴とする医用手技ナビゲーションシステム。
  5. 請求項4に記載の医用手技ナビゲーションシステムであって、
    前記演算部は、少なくとも2つのX線画像データの取得時と同時刻に取得した少なくとも2つの前記超音波画像間のずれをもとに前記位置推定部が推定した位置の信頼度を推定することを特徴とする医用手技ナビゲーションシステム。
  6. 請求項1又は3に記載の医用手技ナビゲーションシステムであって、
    前記超音波画像は、弾性画像を含むことを特徴とする医用手技ナビゲーションシステム。
  7. 請求項1に記載の医用手技ナビゲーションシステムであって、
    前記参照画像は、前記回転プローブを前記検査対象の内部に挿入しながら、前記X線撮像部が撮像したX線画像を含むことを特徴とする医用手技ナビゲーションシステム。
  8. 請求項7に記載の医用手技ナビゲーションシステムであって、
    前記演算部は、前記回転プローブを前記検査対象に挿入しながら撮像したX線画像と、前記デバイスを前記検査対象に挿入しながら撮像したX線画像との類似度を推定する類似度推定部を備えることを特徴とする医用手技ナビゲーションシステム。
  9. 検査対象の内部にデバイスを挿入して行う手技を支援するためのナビゲーションシステムであって、
    検査対象内部に挿入可能な回転プローブを有する超音波撮像部と、
    X線撮像部と、
    前記X線撮像部が、前記デバイスを前記検査対象に挿入しながら撮像したX線画像を解析する演算部と、
    予め取得した前記検査対象の画像データから参照画像を作成し、当該参照画像及び前記X線画像を表示装置に表示させる表示制御部と、
    を備え、
    前記演算部は、前記回転プローブを検査対象に挿入しながら前記X線撮像部にて撮像した、前記回転プローブの少なくとも一部を含む複数のX線画像から前記検査対象における前記回転プローブの位置情報を算出するとともに、前記デバイスを検査対象に挿入しながら前記X線撮像部にて撮像した、前記デバイスの少なくとも一部を含む複数のX線画像から前記検査対象における前記デバイスの位置情報を算出し、
    前記表示制御部は、前記演算部が算出した前記デバイスの位置に対応する前記回転プローブの位置情報を用いて、前記回転プローブを挿入しながら前記超音波撮像部が撮像した超音波画像と、予め取得した前記検査対象の画像データから作成した画像とを位置合わせして重畳又は並置し、前記参照画像として表示部に表示させることを特徴とする医用手技ナビゲーションシステム。
  10. 請求項9に記載の医用手技ナビゲーションシステムであって、
    前記演算部は、前記検査対象に対するX線の照射方向が異なる少なくとも2つのX線画像データを用いて、前記回転プローブ又は前記デバイスの位置を推定する位置推定部と、
    前記回転プローブ又は前記デバイスの先端について、複数の異なる角度で予め撮像した複数のX線画像を記録したデータベースを用いて、前記先端の角度を推定する角度推定部と、を備えることを特徴とする医用手技ナビゲーションシステム。
  11. 請求項9に記載の医用手技ナビゲーションシステムであって、
    前記X線撮像部による前記X線画像の生成、及び、前記超音波撮像部による前記超音波画像の作成、の時間を記録する時間記録部をさらに備えることを特徴とする医用手技ナビゲーションシステム。
  12. デバイスを、検査対象の内部に挿入しながら行う手技を支援するための方法であって、
    回転プローブを挿入しながら超音波撮像を行うと同時にX線撮像を行うことによって得られたX線画像から回転プローブの位置及び角度を算出し、
    当該回転プローブの位置及び角度を用いて、超音波撮像で得られた超音波画像を予め取得した三次元画像に位置合わせして参照画像を作成し、
    前記デバイスを挿入しながらX線撮像を行うことによって得られたX線画像からデバイスの位置及び角度を算出し、
    前記デバイスを含むX線画像と、前記回転プローブが前記デバイスと対応する位置のときの前記参照画像とを表示装置に表示させることを特徴とする医用手技ナビゲーション方法。
  13. 請求項12に記載の医用手技ナビゲーション方法であって、
    前記回転プローブの位置及び角度の算出、及び、前記デバイスの位置及び角度の算出は、
    前記検査対象に対するX線の照射方向が異なる少なくとも2つのX線画像データを用いて、前記回転プローブ又は前記デバイスの位置を推定するステップと、
    前記回転プローブ又は前記デバイスの先端について、複数の異なる角度で予め撮像した複数のX線画像を記録したデータベースを用いて、前記先端の角度を推定するステップと、を含むことを特徴とする医用手技ナビゲーション方法。
  14. 請求項13に記載の医用手技ナビゲーション方法であって、
    前記デバイスの位置を推定するステップは、
    前記少なくとも2つのX線画像データを取得するX線撮像時に、取得した少なくとも2つの超音波画像を用いて、推定した前記回転プローブの位置の信頼度を推定するステップを含むことを特徴とする医用手技ナビゲーション方法。

JP2017030215A 2017-02-21 2017-02-21 医用手技ナビゲーションシステムおよび方法 Pending JP2018134197A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017030215A JP2018134197A (ja) 2017-02-21 2017-02-21 医用手技ナビゲーションシステムおよび方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017030215A JP2018134197A (ja) 2017-02-21 2017-02-21 医用手技ナビゲーションシステムおよび方法

Publications (1)

Publication Number Publication Date
JP2018134197A true JP2018134197A (ja) 2018-08-30

Family

ID=63366218

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017030215A Pending JP2018134197A (ja) 2017-02-21 2017-02-21 医用手技ナビゲーションシステムおよび方法

Country Status (1)

Country Link
JP (1) JP2018134197A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020044266A (ja) * 2018-09-21 2020-03-26 キヤノンメディカルシステムズ株式会社 医用情報処理装置、x線診断装置及び医用情報処理プログラム
WO2020149028A1 (ja) * 2019-01-17 2020-07-23 株式会社日立製作所 放射線撮像装置、画像処理方法及び画像処理プログラム
JP2021083954A (ja) * 2019-11-29 2021-06-03 キヤノンメディカルシステムズ株式会社 医用情報提供装置、医用情報提供装置の制御方法、及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0380843A (ja) * 1989-05-12 1991-04-05 Olympus Optical Co Ltd 体腔内診断用超音波探触子
JP2004097696A (ja) * 2002-09-12 2004-04-02 Olympus Corp 内視鏡観測装置
JP2011011001A (ja) * 2009-07-06 2011-01-20 Toshiba Corp 超音波診断装置およびその処理プログラム
WO2012066661A1 (ja) * 2010-11-18 2012-05-24 株式会社島津製作所 X線透視撮影装置
JP2016039874A (ja) * 2014-08-13 2016-03-24 富士フイルム株式会社 内視鏡画像診断支援装置、システム、方法およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0380843A (ja) * 1989-05-12 1991-04-05 Olympus Optical Co Ltd 体腔内診断用超音波探触子
JP2004097696A (ja) * 2002-09-12 2004-04-02 Olympus Corp 内視鏡観測装置
JP2011011001A (ja) * 2009-07-06 2011-01-20 Toshiba Corp 超音波診断装置およびその処理プログラム
WO2012066661A1 (ja) * 2010-11-18 2012-05-24 株式会社島津製作所 X線透視撮影装置
JP2016039874A (ja) * 2014-08-13 2016-03-24 富士フイルム株式会社 内視鏡画像診断支援装置、システム、方法およびプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020044266A (ja) * 2018-09-21 2020-03-26 キヤノンメディカルシステムズ株式会社 医用情報処理装置、x線診断装置及び医用情報処理プログラム
JP7233874B2 (ja) 2018-09-21 2023-03-07 キヤノンメディカルシステムズ株式会社 医用情報処理装置、x線診断装置及び医用情報処理プログラム
WO2020149028A1 (ja) * 2019-01-17 2020-07-23 株式会社日立製作所 放射線撮像装置、画像処理方法及び画像処理プログラム
JP2021083954A (ja) * 2019-11-29 2021-06-03 キヤノンメディカルシステムズ株式会社 医用情報提供装置、医用情報提供装置の制御方法、及びプログラム
JP7408362B2 (ja) 2019-11-29 2024-01-05 キヤノンメディカルシステムズ株式会社 医用情報提供装置、医用情報提供装置の制御方法、及びプログラム

Similar Documents

Publication Publication Date Title
US20220358743A1 (en) System and method for positional registration of medical image data
US9237929B2 (en) System for guiding a medical instrument in a patient body
JP5738507B2 (ja) 超音波プローブの軌跡表現装置及び超音波診断装置
JP6081299B2 (ja) 超音波診断装置
RU2510699C2 (ru) Способ и система для выполнения биопсии
JP6282934B2 (ja) 超音波診断装置及び医用画像診断装置
EP2430979B1 (en) Biopsy support system
US20080234570A1 (en) System For Guiding a Medical Instrument in a Patient Body
US20170095226A1 (en) Ultrasonic diagnostic apparatus and medical image diagnostic apparatus
KR101478623B1 (ko) 니들의 가이드 라인을 제공하는 초음파 시스템 및 방법
JP5112021B2 (ja) 血管内画像診断装置及び血管内画像診断システム
JP2007000226A (ja) 医用画像診断装置
JP6833533B2 (ja) 超音波診断装置および超音波診断支援プログラム
JP2018057428A (ja) 超音波診断装置および超音波診断支援プログラム
KR20140066584A (ko) 니들의 가이드 라인을 제공하는 초음파 시스템
JP5404066B2 (ja) 医用画像表示システム
US20230098305A1 (en) Systems and methods to produce tissue imaging biomarkers
JP2012029767A (ja) 医用画像処理装置及び治療支援システム
KR20210064210A (ko) 유방 맵핑 및 비정상부 위치결정
JP2018134197A (ja) 医用手技ナビゲーションシステムおよび方法
JP6334013B2 (ja) 超音波診断装置
JP2018192246A (ja) 超音波診断装置および超音波診断支援プログラム
JP6462331B2 (ja) 超音波診断装置、医用画像処理装置及び画像診断システム
JP5675930B2 (ja) X線診断装置
KR20160088616A (ko) 대상체의 영상을 형성하는 방법 및 초음파 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200623

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201222