JP5410021B2 - Medical diagnostic imaging equipment - Google Patents

Medical diagnostic imaging equipment Download PDF

Info

Publication number
JP5410021B2
JP5410021B2 JP2008011734A JP2008011734A JP5410021B2 JP 5410021 B2 JP5410021 B2 JP 5410021B2 JP 2008011734 A JP2008011734 A JP 2008011734A JP 2008011734 A JP2008011734 A JP 2008011734A JP 5410021 B2 JP5410021 B2 JP 5410021B2
Authority
JP
Japan
Prior art keywords
region
displayed
predicted
untreated
surgical tool
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008011734A
Other languages
Japanese (ja)
Other versions
JP2009172050A (en
Inventor
秀和 仲本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Healthcare Manufacturing Ltd
Original Assignee
Hitachi Medical Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Medical Corp filed Critical Hitachi Medical Corp
Priority to JP2008011734A priority Critical patent/JP5410021B2/en
Publication of JP2009172050A publication Critical patent/JP2009172050A/en
Application granted granted Critical
Publication of JP5410021B2 publication Critical patent/JP5410021B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Magnetic Resonance Imaging Apparatus (AREA)

Description

本発明は、磁気共鳴イメージング装置、CT装置等の医用画像診断装置に関する。   The present invention relates to a medical image diagnostic apparatus such as a magnetic resonance imaging apparatus and a CT apparatus.

患者による医療機関の選別及び治療方法の選択肢の広がりにより、低侵襲治療が普及しつつあり、外科手術手技は大切開手術から内視鏡下手術への移行が加速している。一方で内視鏡下手術では、限定された視野と手術空間により手技・適応の制約や術者ストレスの増大という問題を生じている。   With the spread of medical institution selection and treatment options by patients, minimally invasive treatments are becoming widespread, and surgical procedures are accelerating the transition from large incision surgery to endoscopic surgery. On the other hand, in endoscopic surgery, the limited visual field and surgical space have caused problems such as limitations in procedures / adaptations and increased operator stress.

その解決方法として、内視鏡映像上にセグメンテーション特定領域を表示する機能が特許文献1に提案されているが、手術に必要な情報は不足している。また、腹部一般の内視鏡外科手術では腹部臓器が術中に変形・移動するため、直視不可能な部位では腫瘍の位置を常に把握することが難しく、術具を腫瘍の位置に誘導するのに多くの時間を要することがあった。   As a solution to this problem, Patent Document 1 proposes a function for displaying a segmentation specific area on an endoscopic image, but information necessary for surgery is insufficient. In general endoscopic surgery for the abdomen, the abdominal organs are deformed and moved during the operation, so it is difficult to always grasp the position of the tumor at a site where direct viewing is impossible, and the surgical tool is guided to the tumor position. It could take a lot of time.

近年、術中の磁気共鳴イメージング画像(MRI画像)を用いて穿刺針などの術具を目標部位に到達させるI−MRI(Interventional MRI)システムが登場し、いくつかの報告がなされている。具体的には、グラフィカルユーザインタフェースにMRI画像を表示して、画面上のボタンをクリックして、次に撮像する断層面を決定する方法(非特許文献1)や、3次元マウスなどを使う方法(特許文献2)などが提案されている。   In recent years, an I-MRI (Interventional MRI) system that allows a surgical tool such as a puncture needle to reach a target site using an intraoperative magnetic resonance imaging image (MRI image) has appeared, and several reports have been made. Specifically, a method of displaying an MRI image on a graphical user interface and clicking a button on the screen to determine a tomographic plane to be imaged next (Non-Patent Document 1) or a method using a three-dimensional mouse or the like (Patent Document 2) has been proposed.

これらの方法では、撮像する断層面の位置や向きをマウスなどの入力手段で調整、設定しなければならず煩雑なので、MRI装置としては、より簡便に撮像する断層面の位置や向きを調整、設定できることが望ましい。その手法として、特許文献3や特許文献4などの断層面指示デバイス(ポインタなど)を用いて撮像する断層面を決定するMRI装置が提案されている(ISC)。   In these methods, since the position and orientation of the tomographic plane to be imaged must be adjusted and set by an input means such as a mouse, the MRI apparatus can adjust the position and orientation of the tomographic plane to be imaged more easily. It is desirable that it can be set. As such a technique, an MRI apparatus that determines a tomographic plane to be imaged using a tomographic plane indicating device (such as a pointer) disclosed in Patent Literature 3 and Patent Literature 4 has been proposed (ISC).

特許文献3に記載の技術は、断層面指示デバイスであるポインタに発光ダイオードが設けられ、操作者がポインタで指し示した位置を赤外線カメラで検出したり、関節にセンサが備えられたアームの先端部にポインタを設け、アームの関節の角度などでポインタの位置を検出し、これに基づいて、断層面を自動的に調整するものである。また、特許文献4に記載の技術は、2個の赤外線カメラと3個の反射球を備えたポインタとを使って指示した断層面を自動的に決定して撮像するものである。   In the technique described in Patent Document 3, a light emitting diode is provided in a pointer which is a tomographic plane indicating device, and the position pointed by the operator with the pointer is detected by an infrared camera, or the tip of an arm provided with a sensor at a joint. The position of the pointer is detected by the angle of the joint of the arm, and the tomographic plane is automatically adjusted based on this. The technique described in Patent Document 4 is to automatically determine and image a tomographic plane instructed using two infrared cameras and a pointer provided with three reflecting spheres.

また、位置検出装置と過去に撮像したボリュームデータを用いた手術ナビゲーションシステムが知られている。このシステムは、手術時に患者に対してポインタなどにより指定される位置を、この位置を含む患者の直交3平面それぞれを断面とする断層画像上に表示することにより手術操作をナビゲーションするシステムであり、脳神経外科手術などの高精度の外科手術に適用されている。   A surgical navigation system using a position detection device and volume data captured in the past is also known. This system is a system for navigating a surgical operation by displaying a position designated by a pointer or the like for a patient at the time of surgery on a tomographic image having a cross section of each of three orthogonal planes including the position. It is applied to high-precision surgery such as neurosurgery.

ここで、このような手術ナビゲーションシステムにおける患者の断層画像は、予め、MRI装置によって撮像した3次元のデータであるボリュームデータにより生成される。   Here, a tomographic image of a patient in such a surgical navigation system is generated in advance by volume data that is three-dimensional data captured by an MRI apparatus.

一方、ポインタによる指定位置を定めるために必要とされるポインタの位置検出の方式には、機械式、光学式、磁気式、超音波式などの方式がある。ポインタで検出した術具位置は検出装置毎の装置座標を持っており、MRI装置に組み込むには座標変換・統合機能が必要となる。I−MRIにおけるMRI装置と他の術具位置座標を統一するためのレジストレーションに関しては、特許文献5に記載されている。   On the other hand, methods for detecting the position of the pointer required for determining the designated position by the pointer include methods such as a mechanical method, an optical method, a magnetic method, and an ultrasonic method. The position of the surgical tool detected by the pointer has device coordinates for each detection device, and a coordinate conversion / integration function is required for incorporation into the MRI apparatus. Patent Document 5 describes registration for unifying the position coordinates of an MRI apparatus and other surgical tools in I-MRI.

特開2007−7041号公報JP 2007-7041 A 米国特許第5512827号明細書US Pat. No. 5,512,827 米国特許第5365927号明細書US Pat. No. 5,365,927 米国特許第6026315号明細書US Pat. No. 6,063,315 特開2005−312698号公報JP 2005-31698 A Magnetic Resonance in Medicine: Real-time interactive MRI on a conventional scanner; AB,Kerr他、38巻、pp.355−367(1997)Magnetic Resonance in Medicine: Real-time interactive MRI on a conventional scanner; AB, Kerr et al., 38, pp. 355-367 (1997)

上記I−MRIにおける内視鏡画像重畳や各種ナビゲーションを併用した方法は有効な手段であり、術者の要望に応じた情報を提供することができる。   The method using the endoscopic image superposition and various navigations in the I-MRI is an effective means and can provide information according to the operator's request.

しかし、複数のディスプレイが配置され、各ディスプレイに、それぞれ異なる情報が表示されていた。例えば、一つのディスプレイには目的部位に対する未治療領域が表示され、他のディスプレイには目的部位に対する針や術具の位置が表示され、さらに、その他のディスプレイにその他の情報が表示されていた。   However, a plurality of displays are arranged, and different information is displayed on each display. For example, an untreated region for a target site is displayed on one display, the position of a needle or a surgical tool with respect to the target site is displayed on another display, and other information is displayed on another display.

このため、術者にとっては、繁雑化された情報が表示されている状況となっており、必要な情報を瞬時に得ることができなかった。   For this reason, for the surgeon, complicated information is displayed, and necessary information cannot be obtained instantaneously.

また、作業状況に応じて、その状況に応じた表示を行っているディスプレイを見分けなければならないため、手術の支援手段として改善すべき点があった。   In addition, there is a point to be improved as an operation support means because it is necessary to identify a display that performs display according to the work situation.

本発明の目的は、各種のナビゲーション情報や手術情報を一画面に集約して表示し、向上した手術支援が可能な医用画像診断装置を実現することである。   An object of the present invention is to realize a medical image diagnostic apparatus that can display various navigation information and surgical information in a single screen and can provide improved surgical support.

上記目的を達成するため、本発明は次のように構成される。   In order to achieve the above object, the present invention is configured as follows.

本発明の医用画像診断装置は、被検体内を撮像する撮像手段と、術具の位置を検出する術具位置検出手段と、前記撮像手段により取得した画像を表示する表示手段と、を有し、前記画像を用いて抽出された前記被検体内の特定領域を、未治療領域と治療領域に識別すると共に、前記術具位置検出手段によって検出された前記術具の位置と対応する前記被検体内の領域として予想される予想治療領域と、前記未治療領域と予想治療領域に基づいて前記術具位置検出手段によって検出された前記術具の位置では未治療と予想される予想未治療領域と、前記未治療領域に対応する術具までの予想経路と、を算出し、前記未治療領域、治療領域、予想治療領域、予想未治療領域、及び予想経路を、前記表示手段の一画面上に表示する。
The medical image diagnostic apparatus of the present invention has an imaging means for imaging the inside of a subject, a surgical instrument position detection means for detecting the position of the surgical instrument, and a display means for displaying an image acquired by the imaging means. The specific region in the subject extracted using the image is identified as an untreated region and a treated region, and the subject corresponding to the position of the surgical tool detected by the surgical tool position detecting means A predicted therapeutic region that is expected as a region within the region, and a predicted untreated region that is predicted to be untreated at the position of the surgical tool detected by the surgical tool position detection means based on the untreated region and the predicted therapeutic region Calculating a predicted route to the surgical tool corresponding to the untreated region, and displaying the untreated region, the treated region, the predicted treated region, the predicted untreated region, and the predicted route on one screen of the display means. indicate.

各種のナビゲーション情報や手術情報を一画面に集約して表示し、向上した手術支援が可能な医用画像診断装置を実現することができる。   It is possible to realize a medical image diagnostic apparatus that can display various navigation information and surgical information in a single screen and can provide improved surgical support.

以下、本発明の実施形態について添付図面を参照して詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

なお、以下の実施形態は、本発明による医用画像診断装置を磁気共鳴メージング装置(MRI装置)に適用した場合の例である。   The following embodiment is an example when the medical image diagnostic apparatus according to the present invention is applied to a magnetic resonance imaging apparatus (MRI apparatus).

まず、本発明が適用されるMRI装置の全体概略構成について、図8を参照して説明する。図8において、MRI装置1は、例えば、垂直磁場方式0.3Tの永久磁石式である。MRI装置1は、垂直な静磁場を発生させる上部磁石3と、下部磁石5と、これら磁石3、5を互いに連結するとともに上部磁石3を支持する支柱7と、位置検出デバイス9と、アーム11と、モニタ13、14と、モニタ支持部15と、基準ツール17と、キーボード及びマウス等の操作手段やディスプレイ等を備えたパーソナルコンピュータ19と、ベッド21と、制御部23とを備えている。   First, an overall schematic configuration of an MRI apparatus to which the present invention is applied will be described with reference to FIG. In FIG. 8, the MRI apparatus 1 is, for example, a vertical magnetic field type 0.3T permanent magnet type. The MRI apparatus 1 includes an upper magnet 3 that generates a vertical static magnetic field, a lower magnet 5, a support 7 that connects the magnets 3 and 5 to each other and supports the upper magnet 3, a position detection device 9, and an arm 11. And monitors 13 and 14, a monitor support unit 15, a reference tool 17, a personal computer 19 having an operation means such as a keyboard and a mouse, a display, a bed 21, and a control unit 23.

MRI装置1の図示しない傾斜磁場発生部は、領斜磁場をパルス的に発生させ、最大傾磁場強度15mT/mで、スルーレート20mT/m/msである。更に、MRI装置1は、静磁場中の被検体24に核磁気共鳴を生じさせるための図示しないRF送信器、被検体24からの核磁気共鳴信号を受信する図示しないRF受信器を備え、これらは12.8MHzの共振型コイルである。   A gradient magnetic field generation unit (not shown) of the MRI apparatus 1 generates a gradient magnetic field in a pulse manner, has a maximum gradient magnetic field strength of 15 mT / m, and a slew rate of 20 mT / m / ms. The MRI apparatus 1 further includes an RF transmitter (not shown) for generating nuclear magnetic resonance in the subject 24 in a static magnetic field, and an RF receiver (not shown) for receiving a nuclear magnetic resonance signal from the subject 24. Is a 12.8 MHz resonant coil.

位置検出デバイス9は、2台の赤外線カメラ25と、赤外線を発光する図示しない発光ダイオードを含んで構成され、断層面指示デバイスであるポインタ27の位置及び姿勢を検出するものである。また、位置検出デバイス9は、アーム11により移動可能に上部磁石3に連結され、図8に示すように、MRI装置1に対する配置を適宜変更することができる。   The position detection device 9 includes two infrared cameras 25 and a light emitting diode (not shown) that emits infrared rays, and detects the position and posture of a pointer 27 that is a tomographic plane indicating device. Further, the position detection device 9 is connected to the upper magnet 3 so as to be movable by the arm 11, and the arrangement with respect to the MRI apparatus 1 can be appropriately changed as shown in FIG. 8.

また、モニタ13、14は、図8に示すように、操作者29が把持するポインタ27により指示された被検体24の断層面の画像や内視鏡36の映像等を表示するもので、モニタ支持部15により、赤外線カメラ25と同様に、上部磁石3に連結されている。基準ツール17は、赤外線カメラ25の座標系とMRI装置1の座標系をリンクさせるもので、3つの反射球35を備え、上部磁石3の側面に設けられている。   Further, as shown in FIG. 8, the monitors 13 and 14 display an image of the tomographic plane of the subject 24 indicated by the pointer 27 held by the operator 29, an image of the endoscope 36, and the like. Similarly to the infrared camera 25, the support unit 15 is connected to the upper magnet 3. The reference tool 17 links the coordinate system of the infrared camera 25 and the coordinate system of the MRI apparatus 1, includes three reflecting spheres 35, and is provided on the side surface of the upper magnet 3.

パーソナルコンピュータ19には、赤外線カメラ25が検出し算出したポインタ27の位置が、位置データとして、例えば、RS232Cケーブル33を介して送信される。制御部23は、ワークステーションで構成され、図示しないRF送信器、RF受信器などを制御する。   The position of the pointer 27 detected and calculated by the infrared camera 25 is transmitted to the personal computer 19 via the RS232C cable 33 as position data, for example. The control unit 23 includes a workstation and controls an RF transmitter, an RF receiver, and the like (not shown).

また、制御部23は、パーソナルコンピュータ19と接続されている。パーソナルコンピュータ19では赤外線カメラ25が検出し算出したポインタ27の位置をMRI装置1で利用可能な位置データに変換し制御部23へ送信し、映像記録装置34で記録する。   The control unit 23 is connected to the personal computer 19. In the personal computer 19, the position of the pointer 27 detected and calculated by the infrared camera 25 is converted into position data that can be used by the MRI apparatus 1, transmitted to the control unit 23, and recorded by the video recording apparatus 34.

位置データは、撮像シーケンスの撮像断面へ反映される。新たな撮像断面で取得された画像は液晶モニタ13、14に表示される。例えば、断層面指示デバイスであるポインタ27を穿刺針などにとりつけ、穿刺針のある位置を常に撮像断面とする様に構成した場合、モニタ13、14には針を常に含む断面が表示されることになる。   The position data is reflected on the imaging section of the imaging sequence. The image acquired by the new imaging section is displayed on the liquid crystal monitors 13 and 14. For example, when the pointer 27 which is a tomographic plane indicating device is attached to a puncture needle or the like and configured so that the position where the puncture needle is located is always taken as an imaging cross section, the cross section always including the needle is displayed on the monitors 13 and 14. become.

次に、上記構成のMRI装置において、手術支援動作の全体フローについて説明する。この手術支援動作はパーソナルコンピュータ19が予めメモリに記憶されたプログラムに従って、制御部23を介して実行される。   Next, an overall flow of the operation support operation in the MRI apparatus having the above configuration will be described. This operation support operation is executed by the personal computer 19 via the control unit 23 in accordance with a program stored in the memory in advance.

図1は、上記手術支援動作の全体動作フローチャートである。また、図2は、治療領域シミュレーションの動作フローチャートである。   FIG. 1 is an overall operation flowchart of the operation support operation. FIG. 2 is an operation flowchart of treatment area simulation.

図1において、患者をMRI装置内部へ搬入後、3Dボリューム撮像を行い(ステップ101)、得られたボリューム画像を用いてターゲット(治療領域)について特定領域抽出(セグメンテーション)を行なう(ステップ102)。更に、既存技術の方法にてレジストレーションを行った後(ステップ103)、手術が開始される(ステップ104)。ここでは、術中ガイド機能を併用することを前提としていることから、術具追随を開始する。   In FIG. 1, after the patient is carried into the MRI apparatus, 3D volume imaging is performed (step 101), and specific area extraction (segmentation) is performed on the target (treatment area) using the obtained volume image (step 102). Furthermore, after performing registration by the method of the existing technique (step 103), the operation is started (step 104). Here, since it is assumed that the intraoperative guide function is used together, tracking of the surgical tool is started.

手術の状況に応じて、各種設定変更を行う(ステップ105)。ここで、アラームを発する閾値を予め設定しておく。実際に術具追随をすることで、内視鏡、各セグメンテーション領域、各術具の位置が把握できることから、それぞれの距離が明確となり、閾値に応じて警告を発することができる。内視鏡−各セグメンテーション領域間の距離A〜Aを算出し(ステップ106)、内視鏡と各セグメンテーション領域との距離が予め規定した距離よりも下回った場合にはアラーム及び警告表示を行う(ステップ107)。 Various settings are changed according to the state of the operation (step 105). Here, a threshold value for generating an alarm is set in advance. By actually following the surgical instrument, it is possible to grasp the endoscope, each segmentation region, and the position of each surgical instrument, so that the respective distances become clear and a warning can be issued according to the threshold value. The distances A 1 to A i between the endoscope and each segmentation area are calculated (step 106). When the distance between the endoscope and each segmentation area is less than a predetermined distance, an alarm and warning display is displayed. Perform (step 107).

各術具−各セグメンテーション領域間の距離B〜Bを算出し(ステップ108)、術具と各セグメンテーション領域との距離が予め規定した距離よりも下回った場合にはアラーム及び色分け警告表示を行う(ステップ109)。 The distances B 1 to B i between each surgical instrument and each segmentation area are calculated (step 108). When the distance between the surgical instrument and each segmentation area is less than a predetermined distance, an alarm and a color-coded warning display are displayed. Perform (step 109).

内視鏡−各術具間の距離C〜Cを算出し(ステップ110)、内視鏡と術具との距離が予め規定した距離よりも下回った場合にはアラーム及び色分け警告表示を行う(ステップ111)。これより、各種アラームを視覚又は聴覚で得ることができる。 The distances C 1 to C i between the endoscope and each surgical instrument are calculated (step 110). If the distance between the endoscope and the surgical instrument falls below a predetermined distance, an alarm and a color-coded warning display are displayed. Perform (step 111). Thus, various alarms can be obtained visually or audibly.

次に、治療領域シミュレーション(ステップ112)の機能について図2を参照して説明する。図2において、治療領域シミュレーションは、術具位置から推定することができるので、現在の術具位置における治療領域シミュレーションを行い(ステップ113)、そのシミュレーション結果からセグメンテーション領域(手術対象領域)を減算し、治療領域と未治療領域(残治療領域)を予測する(ステップ114)。   Next, the function of the treatment region simulation (step 112) will be described with reference to FIG. In FIG. 2, since the treatment region simulation can be estimated from the surgical instrument position, the treatment region simulation at the current surgical instrument position is performed (step 113), and the segmentation region (surgical target region) is subtracted from the simulation result. The treatment area and the untreated area (residual treatment area) are predicted (step 114).

治療領域(予測)を色分け表示し(ステップ115)、未治療領域(予測)を色分け表示する(ステップ116)。この色分け表示により、術者に対して、状況を視覚的に伝えることができる。更なる機能として、現針位置・方向から未治療領域までの経路を計算する機能を有しており(ステップ117)、GUI上に求めた経路(数値座標、経路)を表示する(ステップ118)。   The treatment area (prediction) is displayed by color (step 115), and the untreated area (prediction) is displayed by color (step 116). This color-coded display can visually convey the situation to the surgeon. As a further function, it has a function of calculating a route from the current needle position / direction to the untreated region (step 117), and the obtained route (numerical coordinates, route) is displayed on the GUI (step 118). .

ここで、表示する経路は2通りあり、ターゲット全体が治療できるように針位置を修正する経路(ルート)と、未治療領域のみを新たなターゲットとして別ルートからアクセスする経路とがある。術者は必要に応じて経路を選択し、針位置の修正を行うこととなる(ステップ119)。   Here, there are two routes to be displayed. There are a route (route) for correcting the needle position so that the entire target can be treated, and a route for accessing only the untreated region from another route as a new target. The surgeon selects a route as necessary and corrects the needle position (step 119).

ここで、修正後の位置で再度シミュレーションを行い(ステップ120)、シミュレーション領域がターゲット位置を覆ったか否かを判定し(ステップ121)、覆っている場合にはその位置で実際の治療を開始し(ステップ121)終了となる。ステップ121で、シミュレーション領域がターゲット位置を覆っていないと判定した場合は、手術の間、上記術具再描写が連続して行われることとなる。つまり、図1に示したステップ105に戻る。   Here, the simulation is performed again at the corrected position (step 120), and it is determined whether or not the simulation region has covered the target position (step 121). If so, actual treatment is started at that position. (Step 121) The process ends. If it is determined in step 121 that the simulation area does not cover the target position, the surgical instrument redrawing is continuously performed during the operation. That is, the process returns to step 105 shown in FIG.

次に、実空間と内視鏡映像とを対比して示す図3を参照して、セグメンテーション画像の重畳機能仕様について説明する。図3において、術者301は内視鏡映像302を用いて手術を行う。つまり、内視鏡映像302を中心とすることから、周りの術具(術具1(305)、術具2(306))が画像上に表示されることとなる。同様に、セグメンテーション画像303、304も内視鏡映像の相対位置に重畳される。セグメンテーション内部の透明度についてはユーザが適切な値に設定可能とする。   Next, the superposition function specification of the segmentation image will be described with reference to FIG. 3 showing the comparison between the real space and the endoscope video. In FIG. 3, an operator 301 performs an operation using an endoscopic image 302. That is, since the endoscope image 302 is the center, the surrounding surgical tools (the surgical tool 1 (305) and the surgical tool 2 (306)) are displayed on the image. Similarly, the segmentation images 303 and 304 are also superimposed on the relative position of the endoscopic video. The transparency inside the segmentation can be set to an appropriate value by the user.

図4は、内視鏡位置と画像重畳表示の相対関係についての説明図である。図4において、患者401のターゲット領域402となる部位に内視鏡302を設置するが、内視鏡302とセグメンテーション画像403の関係はMRI装置座標にて一義的に定義され、重畳映像として表示される404(CASE1)。   FIG. 4 is an explanatory diagram of the relative relationship between the endoscope position and the image superimposed display. In FIG. 4, an endoscope 302 is installed at a site to be a target region 402 of a patient 401. The relationship between the endoscope 302 and the segmentation image 403 is uniquely defined by MRI apparatus coordinates and displayed as a superimposed image. 404 (CASE 1).

一方、患者401に対して内視鏡302をCASE1とは逆側に設置し、ターゲット402を描出すると、実空間上において内視鏡座標も変更され、重畳映像上にはセグメンテーション画像位置が相対的に変更されたものが再描写されることとなる(CASE2)。   On the other hand, when the endoscope 302 is placed on the opposite side of the case 401 with respect to the patient 401 and the target 402 is depicted, the endoscope coordinates are also changed in the real space, and the segmentation image position is relatively displayed on the superimposed image. What has been changed to is redrawn (CASE 2).

図5は、セグメンテーション機能についての説明図である。図5において、3Dボリューム画像は、医療用のデジタル画像と通信に関する標準規格であるDICOMデータとしてパーソナルコンピュータ19内に記憶手段に保存されており、必要に応じてセグメンテーションを行う。   FIG. 5 is an explanatory diagram of the segmentation function. In FIG. 5, the 3D volume image is stored in the storage means in the personal computer 19 as DICOM data, which is a standard for medical digital images and communication, and is segmented as necessary.

ここで、セグメンテーションを3つ行うこととすると、セグメンテーション504に対してDICOMデータ501を1ボリュームデータとして保存する。同様に各セグメンテーション505、506に対して各DICOMデータ502、503をそれぞれ保存する。ここで、DICOMデータはMRI装置1に準拠した座標を持っているので、手術支援に適用した場合に内視鏡302の位置座標に対して、各セグメンテーション画像510、512、511(セグメンテーション504、505、506に対応する)も座標を統合でき、内視鏡映像507にそれぞれ重畳表示可能となる。   Here, assuming that three segmentations are performed, the DICOM data 501 is stored as one volume data in the segmentation 504. Similarly, the DICOM data 502 and 503 are stored in the segmentations 505 and 506, respectively. Here, since the DICOM data has coordinates conforming to the MRI apparatus 1, the segmentation images 510, 512, 511 (segmentation 504, 505) with respect to the position coordinates of the endoscope 302 when applied to surgery support. , 506) can be integrated, and can be superimposed and displayed on the endoscope image 507, respectively.

図6は、画像重畳ソフトGUIの基本構成例を示す図である。図6において、手術はディスプレイ601に表示された3D撮像ボタン611、セグメンテーションボタン612、レジストレーションボタン613を操作して開始する。   FIG. 6 is a diagram illustrating a basic configuration example of the image superimposing software GUI. In FIG. 6, the operation is started by operating the 3D imaging button 611, the segmentation button 612, and the registration button 613 displayed on the display 601.

ディスプレイ601は内視鏡映像を表示する場所602、メッセージを表示する場所603、術具間の距離や各種情報を表示する場所604、セグメンテーションと術具を三次元表示する場所605、操作を行う場所606、セグメンテーション領域の表示/非表示を選択する場所607で構成されている。   A display 601 is a place 602 for displaying an endoscopic image, a place 603 for displaying a message, a place 604 for displaying a distance between surgical tools and various information, a place 605 for displaying segmentation and a surgical tool in three dimensions, and a place for performing an operation. Reference numeral 606 denotes a place 607 for selecting display / non-display of the segmentation area.

ここで、内視鏡映像表示部602は、常に内視鏡を中心(正面)に表示するものとし、術具630の位置を投影表示し、セグメンテーション画像608、609、610についても相対位置に投影表示する。但し、セグメンテーション画像608、609、610は場所607にて表示/非表示を選択することができ、術者の好みに応じてカスタマイズすることができる。   Here, the endoscope video display unit 602 always displays the endoscope in the center (front), projects and displays the position of the surgical instrument 630, and also projects the segmentation images 608, 609, and 610 at relative positions. indicate. However, the display / non-display of the segmentation images 608, 609, and 610 can be selected at the location 607, and can be customized according to the operator's preference.

メッセージ603は状況に応じて変更され、危険度の高い警告時は、表示の他に音による通知機能も有している。また、距離情報も必要に応じて表示でき、距離A表示ボタン614を押下げると、距離情報表示部604に距離Aに関する情報が表示され、距離B表示ボタン615を押下げると、距離情報表示部604に距離Bに関する情報が表示される。   The message 603 is changed according to the situation, and has a sound notification function in addition to the display at the time of a high-risk warning. The distance information can also be displayed as necessary. When the distance A display button 614 is pressed, information on the distance A is displayed on the distance information display unit 604, and when the distance B display button 615 is pressed, the distance information display unit is displayed. Information about the distance B is displayed at 604.

ここで、設定変更ボタン622により予め閾値を設定することにより、閾値よりも低い値になった場合には警告表示部640で赤色による警告表示が行われる。図示した例では閾値を15mmと指定してある。また、アラームボタン621を予め押下しておくことで、警告音による通知もすることができる。   Here, by setting a threshold value in advance using the setting change button 622, a warning display unit 640 displays a warning in red when the value is lower than the threshold. In the illustrated example, the threshold is specified as 15 mm. In addition, by pressing the alarm button 621 in advance, a notification with a warning sound can be made.

内視鏡映像上に術具やセグメンテーション情報を重畳表示することで、手術に必要な情報量は増えるものの投影表示するため立体的な奥行き感が分からなくなる。   By superimposing and displaying the surgical instrument and segmentation information on the endoscopic image, the amount of information necessary for the operation is increased, but it is projected and displayed, so that a three-dimensional sense of depth is not known.

そこで、三次元表示部605には立体的な絶対空間上に内視鏡302、術具630、セグメンテーション領域608、609、610を配置して、立体情報(奥行き情報)を描写できるようにした。   Therefore, the endoscope 302, the surgical instrument 630, and the segmentation regions 608, 609, and 610 are arranged on the three-dimensional display unit 605 in a three-dimensional absolute space so that three-dimensional information (depth information) can be drawn.

図7は、治療領域シミュレーションによる手術経路描出の方法を示す図である。図7に示した画面は、図6に示した画面と基本構成は同等であるが、ここでは距離C表示ボタン616を押下して、距離情報表示部604に距離Cに関する情報701も表示されている。当然ながら、術具位置情報に応じて距離情報表示部604やメッセージ表示部603に表示された距離やメッセージもリアルタイムに変更される。   FIG. 7 is a diagram showing a method of depicting a surgical route by treatment area simulation. The screen shown in FIG. 7 has the same basic configuration as the screen shown in FIG. 6, but here, the distance C display button 616 is pressed, and information 701 regarding the distance C is also displayed on the distance information display unit 604. Yes. Naturally, the distance and message displayed on the distance information display unit 604 and the message display unit 603 are also changed in real time in accordance with the surgical instrument position information.

ここで、治療シミュレーションボタン617を押下げすることで、現在の針位置630に対する治療シミュレーションが行われる(予想治療領域702)。更に、治療領域表示ボタン618を押下げすることで治療領域703が表示され、未治療領域表示ボタン619を押下げすることで未治療領域704が表示される。領域703と704とは色分け表示される。   Here, a treatment simulation for the current needle position 630 is performed by depressing the treatment simulation button 617 (expected treatment region 702). Further, the treatment area 703 is displayed by depressing the treatment area display button 618, and the untreatment area 704 is displayed by depressing the untreatment area display button 619. The areas 703 and 704 are displayed in different colors.

また、経路表示ボタン620を押下することで未治療領域704までの経路をシミュレーション・表示される(破線711)。また、計算経路の値(X、Y、Z方向及び直線距離)も表示される(領域720)。必要に応じて、仮想治療領域(予想未治療領域712)も表示されることから、術者はシミュレーション結果を参考にして実際の治療を実施することができる。   Further, a route to the untreated region 704 is simulated and displayed by pressing the route display button 620 (broken line 711). Also, the value of the calculation path (X, Y, Z direction and linear distance) is displayed (area 720). Since a virtual treatment region (predicted untreated region 712) is also displayed as necessary, the surgeon can perform actual treatment with reference to the simulation result.

なお、図7においては、領域703、704と領域712とは重ねて表示されているが、領域712のみ画面に表示し、他の領域703、704は表示しなうように構成することができる。   In FIG. 7, the areas 703 and 704 and the area 712 are displayed so as to overlap each other, but only the area 712 can be displayed on the screen and the other areas 703 and 704 can be configured not to be displayed.

図9は、MRIガイド併用時のGUI構成を示す図である。図9に示した臨床画面901の構成は、画像表示部902、手術支援メッセージ部903及びボタン904、909、912、915によって成り立っている。   FIG. 9 is a diagram showing a GUI configuration when using the MRI guide together. The configuration of the clinical screen 901 illustrated in FIG. 9 includes an image display unit 902, a surgery support message unit 903, and buttons 904, 909, 912, and 915.

まず、手術前において、3DScanボタン904を押下げて、3D撮像を行い、Axial画像905、Sagital画像906、Colonal画像907、Volume Rendering画像908が画面上に表示される。   First, before the operation, the 3DS scan button 904 is pressed to perform 3D imaging, and an axial image 905, a sagittal image 906, a colonial image 907, and a volume rendering image 908 are displayed on the screen.

セグメンテーションボタン909を押下げて、3D画像910及びVolume Rendering画像908を用いて特定領域・ターゲット911を設定する。   The segmentation button 909 is pushed down, and a specific region / target 911 is set using the 3D image 910 and the Volume Rendering image 908.

また、必要に応じて、ISCボタン912やナビゲーションボタン915を押下げすることによりこれらの機能を併用することができる。ISCボタン912を押下げすることにより、専用画面913に術具914を含む二次元画像が表示され、三次元画面910にセグメンテーション領域911や術具位置914を表示することができる。   If necessary, these functions can be used together by pressing down the ISC button 912 or the navigation button 915. By pressing the ISC button 912, a two-dimensional image including the surgical instrument 914 is displayed on the dedicated screen 913, and the segmentation area 911 and the surgical instrument position 914 can be displayed on the three-dimensional screen 910.

ナビゲーションボタン915は、画像表示部902のAxial画像905、Sagital画像906、Colonal画像907、Volume Rendering画像908の画面上に術具916を表示する機能であり、三次元的な位置構成を視覚的に判断することができる。その他、装置情報、患者情報、各種機能情報、術具情報の詳細を表示する場所もある(場所1030)。   The navigation button 915 is a function for displaying the surgical instrument 916 on the screen of the axial image 905, the sagittal image 906, the colonial image 907, and the volume rendering image 908 of the image display unit 902. Judgment can be made. In addition, there is a place where details of device information, patient information, various function information, and surgical tool information are displayed (place 1030).

上記高機能内視鏡重畳機能は、人為的な手術・ロボット手術の何れの環境においてもその効果を十分に発揮し、治療の精度を向上させることができる。また、重畳画像は保存可能なことから術後に再度見直すことも可能であり、患者への説明や記録としておくこともできる。   The high-function endoscope superimposing function can sufficiently exert its effect in both artificial and robotic environments and improve the accuracy of treatment. Further, since the superimposed image can be stored, it can be reviewed again after the operation, and can be described or recorded for the patient.

以上のように、本発明によれば、手術予定の予定治療領域を画面に表示し、実際に治療が終了した領域を未治療領域と区別して表示するとともに、現在の術具位置及び未治療領域に対する手術経路を一画面上に表示するように構成したので、向上した手術支援が可能な医用画像診断装置を実現することができる。   As described above, according to the present invention, the planned treatment area scheduled for surgery is displayed on the screen, the area where treatment is actually completed is displayed separately from the untreated area, and the current surgical instrument position and untreated area are displayed. Since the operation route is displayed on one screen, it is possible to realize a medical image diagnostic apparatus capable of providing improved operation support.

また、術具と未治療領域との距離、内視鏡と術具との距離等の距離情報も表示し、その距離が一定値以下となったときには、警報を行なうように構成したので、より、手術支援の向上化が図られている。   In addition, distance information such as the distance between the surgical instrument and the untreated area, the distance between the endoscope and the surgical instrument is also displayed, and when the distance falls below a certain value, it is configured to issue an alarm. Improvement of surgical support is being attempted.

このため、術者は、複数のディスプレイに分散して表示された画面画像重畳画面、各種ナビゲーション画面を必要に応じて見分けなければならないという労力から解放され、術者は視線を切り換えることがなく手術支援情報を得ることができ、治療時間短縮と治療精度向上が可能となる。また、術者・患者に対する負担も軽減できる。   For this reason, the surgeon is freed from the labor of having to distinguish the screen image superimposition screen and various navigation screens distributed and displayed on a plurality of displays as necessary, and the surgeon can operate without switching the line of sight. Support information can be obtained, and treatment time can be shortened and treatment accuracy can be improved. In addition, the burden on the operator / patient can be reduced.

上記実施形態は、MRI装置を例として説明したが、本発明は、MRI装置のみならず、CT装置等の他の医用画像診断装置に適用可能である。   In the above embodiment, the MRI apparatus has been described as an example. However, the present invention is applicable not only to the MRI apparatus but also to other medical image diagnostic apparatuses such as a CT apparatus.

本発明の一実施形態における手術支援動作の全体動作フローチャートである。It is a whole operation | movement flowchart of the surgery assistance operation | movement in one Embodiment of this invention. 本発明の一実施形態における治療領域シミュレーションの動作フローチャートである。It is an operation | movement flowchart of the treatment area | region simulation in one Embodiment of this invention. 本発明の一実施形態における内視鏡映像とセグメンテーション領域の重畳機能を説明する図である。It is a figure explaining the superimposition function of the endoscopic image | video and segmentation area | region in one Embodiment of this invention. 本発明の一実施形態における内視鏡位置と画像重畳表示の相対関係についての説明図である。It is explanatory drawing about the relative relationship of the endoscope position and image superimposition display in one Embodiment of this invention. 本発明の一実施形態におけるセグメンテーション機能についての説明図である。It is explanatory drawing about the segmentation function in one Embodiment of this invention. 本発明の一実施形態におけるGUI・基本構成を示す図である。It is a figure which shows GUI and basic composition in one Embodiment of this invention. 本発明の一実施形態における治療領域シミュレーションによる手術経路描出の方法を示す図である。It is a figure which shows the method of the surgical route drawing by the treatment area | region simulation in one Embodiment of this invention. 本発明が適用されるMRI装置の概略構成図である。1 is a schematic configuration diagram of an MRI apparatus to which the present invention is applied. 本発明の一実施形態におけるGUI構成を示す図である。It is a figure which shows the GUI structure in one Embodiment of this invention.

符号の説明Explanation of symbols

1・・・MRI装置、3・・・上部磁石、5・・・下部磁石、7・・・支柱、9・・・位置検出デバイス、11・・・アーム、13・・・モニタ1、14・・・モニタ2、15・・・モニタ支持部、17・・・基準ツール、19・・・パーソナルコンピュータ、21・・・ベッド、23・・・制御部、24・・・被検体、25・・・赤外線カメラ、27・・・ポインタ、29・・・操作者、33・・・ケーブル、34・・・映像記録装置、35・・・反射球、36・・・内視鏡、601・・・ディスプレイ、603・・・メッセージ表示部、604・・・距離情報表示部、605・・・三次元表示部、606・・・操作部、630・・・術具位置、702・・・予想治療領域、703・・・治療領域。704・・・未治療領域、711・・・未治療領域までの経路、712・・・予想未治療領域   DESCRIPTION OF SYMBOLS 1 ... MRI apparatus, 3 ... Upper magnet, 5 ... Lower magnet, 7 ... Support | pillar, 9 ... Position detection device, 11 ... Arm, 13 ... Monitor 1, 14, .. Monitor 2, 15... Monitor support unit, 17... Reference tool, 19... Personal computer, 21. Infrared camera, 27 ... pointer, 29 ... operator, 33 ... cable, 34 ... video recording device, 35 ... reflective ball, 36 ... endoscope, 601 ... Display, 603 ... Message display section, 604 ... Distance information display section, 605 ... Three-dimensional display section, 606 ... Operation section, 630 ... Surgical instrument position, 702 ... Expected treatment area 703 ... Treatment area. 704 ... Untreated area, 711 ... Path to untreated area, 712 ... Expected untreated area

Claims (4)

医用画像診断装置において、被検体内を撮像する撮像手段と、術具の位置を検出する術具位置検出手段と、前記撮像手段により取得した画像を表示する表示手段と、を有する医用画像診断装置であって、
前記画像を用いて抽出された前記被検体内の特定領域を、未治療領域と治療領域に識別すると共に、前記術具位置検出手段によって検出された前記術具の位置と対応する前記被検体内の領域として予想される予想治療領域と、前記未治療領域と予想治療領域に基づいて前記術具位置検出手段によって検出された前記術具の位置では未治療と予想される予想未治療領域と、前記未治療領域に対応する術具までの予想経路と、を算出し、前記未治療領域、治療領域、予想治療領域、予想未治療領域、及び予想経路を、前記表示手段の一画面上に表示すること
を特徴とする医用画像診断装置。
In medical image diagnosis apparatus, a medical image diagnosis that has an imaging means for imaging the inside of a subject, a surgical instrument position detecting means for detecting the position of the surgical instrument, and display means for displaying an image acquired by the pre-Symbol imaging means, A device,
The specific region in the subject extracted using the image is identified as an untreated region and a treated region, and the inside of the subject corresponding to the position of the surgical tool detected by the surgical tool position detecting means A predicted therapeutic region that is predicted as a region of the target, a predicted untreated region that is predicted to be untreated at the position of the surgical tool detected by the surgical tool position detection means based on the untreated region and the predicted therapeutic region, A predicted route to the surgical tool corresponding to the untreated region is calculated, and the untreated region, the treated region, the predicted treated region, the predicted untreated region, and the predicted route are displayed on one screen of the display means. A medical image diagnostic apparatus characterized by:
前記術具位置検出手段は、更に内視鏡の位置を検出し、The surgical instrument position detecting means further detects the position of the endoscope,
前記抽出した特定領域と、前記検出した術具と内視鏡の位置情報と、に基づいて、前記特定領域と前記術具、前記特定領域と前記内視鏡、前記術具と前記内視鏡、とのそれぞれの距離を算出し、該算出した値を前記表示手段の一画面上に表示することBased on the extracted specific area and the detected position information of the surgical tool and endoscope, the specific area and the surgical tool, the specific area and the endoscope, the surgical tool and the endoscope , And the respective distances are calculated, and the calculated values are displayed on one screen of the display means.
を特徴とする請求項1に記載の医用画像診断装置。The medical image diagnostic apparatus according to claim 1.
前記算出した距離が予め定めた値以内である場合、前記表示手段の一画面上に警報を示す表示をすることを特徴とする請求項2に記載の医用画像診断装置。The medical image diagnostic apparatus according to claim 2, wherein when the calculated distance is within a predetermined value, a display indicating an alarm is displayed on one screen of the display unit. 前記未治療領域と前記治療領域とは異なる色彩に表示することを特徴とする請求項1乃至3の何れか一項に記載の医用画像診断装置。The medical image diagnostic apparatus according to any one of claims 1 to 3, wherein the untreated area and the treated area are displayed in different colors.
JP2008011734A 2008-01-22 2008-01-22 Medical diagnostic imaging equipment Active JP5410021B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008011734A JP5410021B2 (en) 2008-01-22 2008-01-22 Medical diagnostic imaging equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008011734A JP5410021B2 (en) 2008-01-22 2008-01-22 Medical diagnostic imaging equipment

Publications (2)

Publication Number Publication Date
JP2009172050A JP2009172050A (en) 2009-08-06
JP5410021B2 true JP5410021B2 (en) 2014-02-05

Family

ID=41027867

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008011734A Active JP5410021B2 (en) 2008-01-22 2008-01-22 Medical diagnostic imaging equipment

Country Status (1)

Country Link
JP (1) JP5410021B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2011348240B2 (en) * 2010-12-22 2015-03-26 Viewray Technologies, Inc. System and method for image guidance during medical procedures
JP6221166B2 (en) 2012-10-22 2017-11-01 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー Display device, medical device, and program
JP6143259B2 (en) * 2013-01-31 2017-06-07 国立大学法人 千葉大学 Surgical process analysis program
JP6265627B2 (en) * 2013-05-23 2018-01-24 オリンパス株式会社 Endoscope apparatus and method for operating endoscope apparatus
JP6323184B2 (en) 2014-06-04 2018-05-16 ソニー株式会社 Image processing apparatus, image processing method, and program
TWI720398B (en) * 2019-01-03 2021-03-01 國立陽明大學 Intra-needle ultrasound system and its method of use for analysis, tracking, and display of pleura in millimeter scale resolution

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000113086A (en) * 1998-10-09 2000-04-21 Olympus Optical Co Ltd Operation route setting device and recording medium recording operation route setting processing program
JP2003153876A (en) * 2001-11-22 2003-05-27 Ichiro Komada Medical operation support apparatus
JP4060829B2 (en) * 2004-07-09 2008-03-12 株式会社東芝 Ultrasonic therapy device
JP4152402B2 (en) * 2005-06-29 2008-09-17 株式会社日立メディコ Surgery support device

Also Published As

Publication number Publication date
JP2009172050A (en) 2009-08-06

Similar Documents

Publication Publication Date Title
EP3505133B1 (en) Use of augmented reality to assist navigation
CN109069131B (en) Ultrasound system and method for breast tissue imaging
JP5417609B2 (en) Medical diagnostic imaging equipment
JP4738270B2 (en) Surgery support device
JP4152402B2 (en) Surgery support device
US9107698B2 (en) Image annotation in image-guided medical procedures
EP2769689B1 (en) Computer-implemented technique for calculating a position of a surgical device
JP3983759B2 (en) Nuclear magnetic resonance imaging system
KR101152177B1 (en) Method and System for Automatic Leading Surgery Position and Apparatus Having Surgery Position Leading Function
JP2010269067A (en) Treatment support device
EP2638859A1 (en) Ultrasound diagnostic apparatus and ultrasound diagnostic system
JP5410021B2 (en) Medical diagnostic imaging equipment
JP6112689B1 (en) Superimposed image display system
JP4717683B2 (en) Medical image display device
CN112888395B (en) Method for updating traversal camera placement in real-time
JP6952740B2 (en) How to assist users, computer program products, data storage media, and imaging systems
US8731643B2 (en) Imaging system and methods for medical needle procedures
WO2008035271A2 (en) Device for registering a 3d model
CN114727848A (en) Visualization system and method for ENT procedures
JP3730683B2 (en) How to operate a surgical microscope
JP2011050583A (en) Medical diagnostic apparatus
JP2009279209A (en) Surgical instrument guiding surgery supporting system
JP2009201701A (en) Apparatus for supporting surgical tool guided surgery
JP4897338B2 (en) Diagnostic imaging equipment
TWI501749B (en) Instrument guiding method of surgical navigation system

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131022

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131106

R150 Certificate of patent or registration of utility model

Ref document number: 5410021

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250