JP5269500B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP5269500B2
JP5269500B2 JP2008175770A JP2008175770A JP5269500B2 JP 5269500 B2 JP5269500 B2 JP 5269500B2 JP 2008175770 A JP2008175770 A JP 2008175770A JP 2008175770 A JP2008175770 A JP 2008175770A JP 5269500 B2 JP5269500 B2 JP 5269500B2
Authority
JP
Japan
Prior art keywords
image
dimensional
unit
catheter
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008175770A
Other languages
Japanese (ja)
Other versions
JP2010012097A (en
Inventor
卓弥 坂口
隆二 材木
輝臣 郡司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Canon Medical Systems Corp
Original Assignee
Toshiba Corp
Toshiba Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Medical Systems Corp filed Critical Toshiba Corp
Priority to JP2008175770A priority Critical patent/JP5269500B2/en
Publication of JP2010012097A publication Critical patent/JP2010012097A/en
Application granted granted Critical
Publication of JP5269500B2 publication Critical patent/JP5269500B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image processor which realizes a decrease in manual operating time or a labor in an ablation treatment. <P>SOLUTION: A storing part 12 stores data of a core wall three-dimensional image. A catheter three-dimensional image generating part 20 generates data of an ablation catheter three-dimensional image in accordance with X ray images with respect to two observing directions which are generated by an X-ray image pick-up device in a catheter treatment. A three-dimensional image synthesizing part 22 synthesizes the ablation catheter three-dimensional image with the core wall three-dimensional image to generate data of a three-dimensional synthesized image. A display image generating part 24 carries out a three-dimensional image process to the generated data of the three-dimensional synthesized image to generate data of a display image. A display part 14 displays the generated display image. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、アブレーション治療に用いられる画像処理装置に関する。   The present invention relates to an image processing apparatus used for ablation treatment.

心臓電気生理学の分野において、不整脈の発生部位や電気信号の伝道異常のある治療部位をアブレーションカテーテルを用いて焼灼することにより電気伝導を良好にするアブレーション治療という治療法がある。このアブレーション治療において術者は、X線透視画像を観察しながら、アブレーションカテーテルを不整脈の発生部位や電気信号の伝道異常のある治療部位まで移動させ、治療部位を焼灼する。心筋部位を焼灼する際、アブレーションカテーテルを心壁に対して垂直にあてる必要がある。しかし、X線透視画像は2次元表示であるため、X線透視画像上でアブレーションカテーテルと心壁との3次元的な位置関係を把握するのは非常に困難である。そのため、アブレーション治療は、手技にとても時間がかかってしまう。   In the field of cardiac electrophysiology, there is a treatment method called ablation treatment in which electrical conduction is improved by cauterizing a treatment site having an arrhythmia occurrence site or an electrical signal transmission abnormality using an ablation catheter. In this ablation treatment, the surgeon moves the ablation catheter to a treatment site where an arrhythmia occurs or an electrical signal transmission is abnormal while observing a fluoroscopic image, and cauterizes the treatment site. When cauterizing the myocardial region, it is necessary to apply an ablation catheter perpendicular to the heart wall. However, since the fluoroscopic image is a two-dimensional display, it is very difficult to grasp the three-dimensional positional relationship between the ablation catheter and the heart wall on the fluoroscopic image. Therefore, the ablation treatment takes a very long time for the procedure.

近年、血管を立体画像として観察するための心臓血管立体表示(coronary 3D、coronary tree)の技術が、例えば特許文献1及び2に開示されている。この特許文献1及び2に開示されている技術は、造影された血管を2方向からX線診断装置により撮像し、これら撮像データからエピポーラ(Epipolar)幾何理論を用いて立体画像を構築している。この技術は、精度が完璧でないが、簡易に立体画像の構築ができる。
米国特許第6501848号明細書 米国特許第6047080号明細書
In recent years, for example, Patent Documents 1 and 2 disclose a technique of cardiovascular three-dimensional display (coronary 3D, coronary tree) for observing blood vessels as a three-dimensional image. In the techniques disclosed in Patent Documents 1 and 2, a contrasted blood vessel is imaged from two directions by an X-ray diagnostic apparatus, and a stereoscopic image is constructed from these imaging data using Epipolar geometric theory. . Although this technique is not perfect in accuracy, a three-dimensional image can be easily constructed.
US Pat. No. 6,501,848 US Pat. No. 6,047,080

本発明の目的は、アブレーション治療における手技時間や手間の削減を実現する画像処理装置を提供することにある。   An object of the present invention is to provide an image processing apparatus that realizes a reduction in procedure time and labor in ablation treatment.

本発明の第1の局面に係る画像処理装置は、X線撮像装置により2つの観察角度で被検体の特定器官を撮影することにより発生された2つの第1のX線画像を記憶する記憶部と、前記2つの第1のX線画像の各々に含まれ、前記特定器官の内壁上にある実質的に同一な複数の第1の特徴点の3次元座標を計算する第1座標計算部と、前記計算された複数の第1の特徴点の3次元座標を通過する面に関する3次元画像のデータを発生する面画像発生部と、カテーテル術中においてX線撮像装置によって発生された2つの観察角度に関する2つのX線画像に基づいてカテーテルに関する3次元画像のデータを発生するカテーテル画像発生部と、前記発生されたカテーテルに関する3次元画像と前記に関する3次元画像とを合成することによって3次元合成画像のデータを発生する合成部と、前記発生された3次元合成画像のデータを3次元画像処理して2次元の表示画像のデータを発生する表示画像発生部と、前記発生された表示画像を表示する表示部と、を具備する。 An image processing apparatus according to a first aspect of the present invention includes a storage unit that stores two first X-ray images generated by imaging a specific organ of a subject at two observation angles with an X-ray imaging apparatus. A first coordinate calculation unit that calculates three-dimensional coordinates of a plurality of substantially the same first feature points included in each of the two first X-ray images and located on the inner wall of the specific organ; A plane image generator for generating data of a three-dimensional image relating to a plane passing through the calculated three-dimensional coordinates of the plurality of first feature points, and two observation angles generated by the X-ray imaging apparatus during catheterization A catheter image generating unit that generates data of a three-dimensional image related to the catheter based on the two X-ray images related to each other , and a composition of the generated three-dimensional image related to the catheter and the three-dimensional image related to the surface A generating unit that generates data of a three-dimensional composite image; a display image generating unit that generates data of a two-dimensional display image by performing three-dimensional image processing on the generated three-dimensional composite image data; A display unit for displaying a display image.

本発明によれば、アブレーション治療における手技時間や手間の削減を実現する画像処理装置を提供することが可能となる。   ADVANTAGE OF THE INVENTION According to this invention, it becomes possible to provide the image processing apparatus which implement | achieves reduction of the procedure time and labor in ablation treatment.

以下、図面を参照しながら本発明の第1〜第4実施形態に係る画像処理装置を説明する。第1〜第4実施形態に係る画像処理装置は、アブレーション治療支援システムを構成する複数の装置のうちの一つである。   Hereinafter, image processing apparatuses according to first to fourth embodiments of the present invention will be described with reference to the drawings. The image processing apparatus according to the first to fourth embodiments is one of a plurality of apparatuses constituting the ablation treatment support system.

(第1実施形態)
図1は、アブレーション治療支援システムにおける第1実施形態に係る画像処理装置1と、他の装置との関係を示す図である。図1に示すように、アブレーション治療支援システムは、互いにネットワーク(LAN)を介して接続された画像処理装置1、X線撮像装置100、電極カテーテル装置200、及びアブレーションカテーテル装置300を備える。
(First embodiment)
FIG. 1 is a diagram illustrating a relationship between the image processing apparatus 1 according to the first embodiment and other apparatuses in the ablation treatment support system. As shown in FIG. 1, the ablation treatment support system includes an image processing apparatus 1, an X-ray imaging apparatus 100, an electrode catheter apparatus 200, and an ablation catheter apparatus 300 connected to each other via a network (LAN).

X線撮像装置100は、X線透視を行うための撮像系を備える。撮像系は、Cアームを1つ備えるシングルプレーン型であっても、Cアームを2つ備えるバイプレーン型であってもよい。   The X-ray imaging apparatus 100 includes an imaging system for performing X-ray fluoroscopy. The imaging system may be a single plane type having one C arm or a biplane type having two C arms.

図2は、X線撮像装置100のシングルプレーン型の撮像系110を示す図である。図2に示すように、撮像系110は、Cアーム112を支持する支持部114を有する。Cアーム112は、X線管116とX線検出器118とを搭載する。X線管116は、高電圧発生装置(図示せず)から高電圧が印加されることによりX線を連続的に発生する。X線検出器118は、X線管116から発生され天板120に載置された被検体Pを透過するX線を検出する。X線検出器118から出力されたアナログの画像信号は、図示しないX線撮像装置本体により、デジタルのX線動画像(X線透視画像)のデータに変換される。   FIG. 2 is a diagram illustrating a single plane imaging system 110 of the X-ray imaging apparatus 100. As shown in FIG. 2, the imaging system 110 includes a support portion 114 that supports the C arm 112. The C arm 112 is equipped with an X-ray tube 116 and an X-ray detector 118. The X-ray tube 116 continuously generates X-rays when a high voltage is applied from a high voltage generator (not shown). The X-ray detector 118 detects X-rays generated from the X-ray tube 116 and transmitted through the subject P placed on the top plate 120. The analog image signal output from the X-ray detector 118 is converted into data of a digital X-ray moving image (X-ray fluoroscopic image) by an X-ray imaging apparatus body (not shown).

Cアーム112は、被検体Pに対する撮影角度を自由に変更できるように、XYZ直交3軸各々に関して矢印R1,R2,R3に回転可能に支持部114によって支持される。典型的には、撮影角度は、XYZ直交3軸に対する撮影軸SAの交差角として定義される。慣習的には、第1斜位(RAO)、第2斜位(LAO)、CRA、CAUそれぞれの角度として定義される。撮影軸SAは、X線管116のX線焦点からX線検出器118の検出面中心を通る直線として定義される。典型的には、Z軸は、被検体Pの体軸に略一致するものとして定義される。支持部114は、X線撮像装置本体からの制御信号に応じた角度だけCアーム112を回転する。   The C-arm 112 is supported by the support unit 114 so as to be rotatable in the arrows R1, R2, and R3 with respect to each of the three XYZ orthogonal axes so that the imaging angle with respect to the subject P can be freely changed. Typically, the shooting angle is defined as the crossing angle of the shooting axis SA with respect to the XYZ orthogonal three axes. Conventionally, it is defined as each angle of the first oblique position (RAO), the second oblique position (LAO), CRA, and CAU. The imaging axis SA is defined as a straight line passing from the X-ray focal point of the X-ray tube 116 to the detection surface center of the X-ray detector 118. Typically, the Z axis is defined as being approximately coincident with the body axis of the subject P. The support unit 114 rotates the C arm 112 by an angle corresponding to a control signal from the X-ray imaging apparatus main body.

アブレーション治療中、X線撮像装置100は、2つの撮影角度に関するX線動画像のデータを発生する。X線撮像装置100は、2つの撮影角度で被検体の特定の器官(例えば、心臓、胃など。以下、特定の器官は、心臓であるとする)をX線透視し、2つの観察角度に関するX線動画像のデータを発生する。発生されたX線動画像のデータは、X線撮像装置100によりLANを介して画像処理装置1に伝送される。また、制御信号は、X線撮像装置本体により支持部114の他に、LANを介して画像処理装置1に伝送される。   During the ablation treatment, the X-ray imaging apparatus 100 generates X-ray moving image data regarding two imaging angles. The X-ray imaging apparatus 100 performs X-ray fluoroscopy of a specific organ (eg, heart, stomach, etc., hereinafter, the specific organ is the heart) at two imaging angles, and relates to two observation angles. X-ray moving image data is generated. The generated X-ray moving image data is transmitted to the image processing apparatus 1 by the X-ray imaging apparatus 100 via the LAN. The control signal is transmitted to the image processing apparatus 1 through the LAN in addition to the support unit 114 by the X-ray imaging apparatus main body.

図1に示す電極カテーテル装置200は、電極カテーテルと、この電極カテーテルを制御するための第1の制御装置とを備える。電極カテーテルは、先端部分に複数の電極を有する。この電極は、心臓内壁(心房の壁もしくは心室の壁)の心電図波形を取得するための電極である。アブレーション治療中、術者は、電極が心臓内壁に接触するまで電極カテーテルを心臓内壁内に挿入する。電極カテーテルは、複数本挿入されることがある。電極が心臓内壁に接触されると、電極カテーテルは固定される。電極カテーテルが固定されると、第1の制御装置は、複数の電極から検出される表面電位に基づいて複数の心電図波形のデータをそれぞれ生成する。第1の制御装置は、測定された表面電位に基づいて心電図波形のデータを生成する。心電図波形のデータは、第1の制御装置によりLANを介して画像処理装置1に伝送され、表示される。術者は、表示された心電図波形を見て、不整脈の発生部位や電気信号の伝道異常等の治療部位を確認し、その位置を決定する。   An electrode catheter device 200 shown in FIG. 1 includes an electrode catheter and a first control device for controlling the electrode catheter. The electrode catheter has a plurality of electrodes at the distal end portion. This electrode is an electrode for acquiring an electrocardiogram waveform of the inner wall of the heart (atrial wall or ventricular wall). During ablation treatment, the operator inserts an electrode catheter into the heart wall until the electrode contacts the heart wall. A plurality of electrode catheters may be inserted. When the electrode is brought into contact with the heart wall, the electrode catheter is fixed. When the electrode catheter is fixed, the first control device generates data of a plurality of electrocardiogram waveforms based on the surface potentials detected from the plurality of electrodes. The first control device generates electrocardiogram waveform data based on the measured surface potential. The electrocardiogram waveform data is transmitted to the image processing apparatus 1 via the LAN by the first controller and displayed. The surgeon looks at the displayed electrocardiogram waveform, confirms a treatment site such as an arrhythmia occurrence site or an electrical signal transmission abnormality, and determines its position.

画像処理装置1は、アブレーションカテーテルと心臓内壁(以下、心壁と呼ぶ)とを、それらの3次元的な位置関係を把握しやすい形態で表示する。画像処理装置1の詳細は後述する。   The image processing apparatus 1 displays the ablation catheter and the heart inner wall (hereinafter referred to as the heart wall) in a form that makes it easy to grasp their three-dimensional positional relationship. Details of the image processing apparatus 1 will be described later.

アブレーションカテーテル装置300は、アブレーションカテーテルと、このアブレーションカテーテルを制御するための第2の制御装置とを備える。アブレーションカテーテルは、アブレーション治療中、術者により、治療部位まで移動される。移動後、術者によりアブレーションカテーテルに設けられた熱発生のためのボタンが押されると、ボタン信号が第2の制御装置に供給される。ボタン信号を受けた第2の制御装置は、アブレーションカテーテルに高周波の電流を供給し、アブレーションカテーテルの先端部分に熱を発生させる。この熱により、治療部位が焼灼される。また、熱発生のためのボタン信号は、第2の制御装置によりLANを介して画像処理装置1に伝送される。   The ablation catheter device 300 includes an ablation catheter and a second control device for controlling the ablation catheter. The ablation catheter is moved by the operator to the treatment site during the ablation treatment. After the movement, when the operator presses a button for heat generation provided on the ablation catheter, a button signal is supplied to the second control device. Upon receiving the button signal, the second control device supplies a high-frequency current to the ablation catheter and generates heat at the distal end portion of the ablation catheter. This heat cauterizes the treatment site. The button signal for generating heat is transmitted to the image processing apparatus 1 via the LAN by the second control apparatus.

図3は、第1実施形態に係る画像処理装置1の構成を示す図である。図3に示すように、画像処理装置1は、ネットワークインターフェース部10、記憶部12、表示部14、操作部16、心壁3次元画像発生部18、カテーテル3次元画像発生部20、3次元画像合成部22、表示画像発生部24、及び制御部26を備える。   FIG. 3 is a diagram illustrating a configuration of the image processing apparatus 1 according to the first embodiment. As shown in FIG. 3, the image processing apparatus 1 includes a network interface unit 10, a storage unit 12, a display unit 14, an operation unit 16, a heart wall 3D image generation unit 18, a catheter 3D image generation unit 20, and a 3D image. A synthesis unit 22, a display image generation unit 24, and a control unit 26 are provided.

ネットワークインターフェース部10は、図1に示すLANに接続される。図に示すようにLANには、X線撮像装置100、電極カテーテル装置200、及びアブレーションカテーテル装置300が接続されている。ネットワークインターフェース部10は、LANに接続されたX線撮像装置100、電極カテーテル装置200、及びアブレーションカテーテル装置300と通信する。具体的にはネットワークインターフェース部10は、X線撮像装置100からX線動画像のデータ及び制御信号を、電極カテーテル装置200から心電図波形のデータを、アブレーションカテーテル装置300から熱発生のためのボタン信号を受信する。   The network interface unit 10 is connected to the LAN shown in FIG. As shown in the figure, an X-ray imaging device 100, an electrode catheter device 200, and an ablation catheter device 300 are connected to the LAN. The network interface unit 10 communicates with the X-ray imaging apparatus 100, the electrode catheter apparatus 200, and the ablation catheter apparatus 300 connected to the LAN. Specifically, the network interface unit 10 receives X-ray moving image data and control signals from the X-ray imaging apparatus 100, ECG waveform data from the electrode catheter apparatus 200, and button signals for generating heat from the ablation catheter apparatus 300. Receive.

記憶部12は、X線撮像装置100からの2つの観察角度に関するX線動画像のデータを記憶する。また、記憶部12は、電極カテーテル装置200からの複数の心電図波形のデータを記憶する。   The storage unit 12 stores X-ray moving image data regarding two observation angles from the X-ray imaging apparatus 100. In addition, the storage unit 12 stores a plurality of electrocardiogram waveform data from the electrode catheter device 200.

表示部14は、例えばCRT(Cathode-Ray Tube)等のモニタを有する。表示部14は、記憶部12からX線動画像や心電図を読み出して表示する。また、表示部14は、心電図波形のデータに基づいて、記憶部12に記憶されている2つのX線動画像のデータから同一の心位相に関するX線静止画像のデータをそれぞれ読み出して表示する。また、表示部14は、後述する表示画像発生部24により発生された表示画像を表示する。   The display unit 14 includes a monitor such as a CRT (Cathode-Ray Tube). The display unit 14 reads out and displays an X-ray moving image and an electrocardiogram from the storage unit 12. The display unit 14 also reads and displays X-ray still image data relating to the same cardiac phase from the two X-ray moving image data stored in the storage unit 12 based on the electrocardiogram waveform data. The display unit 14 displays a display image generated by a display image generation unit 24 described later.

操作部16は、操作者からの各種指令や情報入力を受け付ける。操作部16としては、マウスやトラックボールなどのポインティングデバイス、モード切替スイッチ等の選択デバイス、あるいはキーボード等の入力デバイスが適宜利用可能である。具体的には、操作部16は、表示部14に表示された2つのX線静止画像のそれぞれで、X線静止画像上に表示されている電極カテーテル又はアブレーションカテーテルの複数の特徴点を指定する。   The operation unit 16 receives various commands and information input from the operator. As the operation unit 16, a pointing device such as a mouse or a trackball, a selection device such as a mode change switch, or an input device such as a keyboard can be used as appropriate. Specifically, the operation unit 16 designates a plurality of feature points of the electrode catheter or the ablation catheter displayed on the X-ray still image in each of the two X-ray still images displayed on the display unit 14. .

心壁3次元画像発生部18は、指定された電極カテーテルの複数の特徴点(電極)に基づいて心壁に関する3次元画像のデータをする。以下、心壁に関する3次元画像を、心壁3次元画像を呼ぶことにする。   The heart wall 3D image generator 18 generates 3D image data related to the heart wall based on a plurality of feature points (electrodes) of the designated electrode catheter. Hereinafter, the three-dimensional image related to the heart wall will be referred to as the heart wall three-dimensional image.

カテーテル3次元画像発生部20は、X線撮像装置100によって発生された2つの観察角度に関するX線静止画像に基づいてアブレーションカテーテル3次元画像のデータを発生する。より詳細には、カテーテル3次元画像発生部20は、2つの観察角度のX線静止画像上において指定されたアブレーションカテーテルの複数の特徴点に基づいて、アブレーションカテーテルに関する3次元画像のデータを発生する。以下、アブレーションカテーテルに関する3次元画像を、アブレーションカテーテル3次元画像と呼ぶことにする。   The catheter three-dimensional image generation unit 20 generates ablation catheter three-dimensional image data based on the X-ray still images related to the two observation angles generated by the X-ray imaging apparatus 100. More specifically, the catheter three-dimensional image generation unit 20 generates three-dimensional image data related to the ablation catheter based on a plurality of feature points of the ablation catheter designated on the X-ray still images at two observation angles. . Hereinafter, the three-dimensional image related to the ablation catheter will be referred to as an ablation catheter three-dimensional image.

3次元画像合成部22は、発生された心壁3次元画像とアブレーションカテーテル3次元画像とを合成して3次元合成画像のデータを発生する。   The three-dimensional image composition unit 22 synthesizes the generated heart wall three-dimensional image and the ablation catheter three-dimensional image to generate data of the three-dimensional composite image.

表示画像発生部24は、3次元合成画像を3次元画像処理して2次元の表示画像のデータを発生する。発生された表示画像は、表示部14に表示される。   The display image generating unit 24 performs three-dimensional image processing on the three-dimensional composite image to generate two-dimensional display image data. The generated display image is displayed on the display unit 14.

制御部26は、画像処理装置1の中枢として機能し、画像処理装置1を構成する各部を制御する。具体的には、制御部26は、画像処理装置1を構成する各部を制御することにより、心壁3次元画像とアブレーションカテーテル3次元画像との合成表示処理を行なう。   The control unit 26 functions as the center of the image processing apparatus 1 and controls each part constituting the image processing apparatus 1. Specifically, the control unit 26 performs composite display processing of the heart wall 3D image and the ablation catheter 3D image by controlling each part of the image processing apparatus 1.

また、画像処理装置1は、特徴点追跡部28と距離計算部30とを更に備える。特徴点追跡部28は、特開2006―179794号公報に示す技術を用いて、2つの観察方向に関するX線静止画像上のアブレーションカテーテル像の特徴点を画像パターンマッチングにより追跡し、追跡している特徴点の2次元座標を更新する。距離計算部30は、合成3次元画像内におけるアブレーションカテーテル像の特徴点(先端部分)と心壁との距離を計算する。   The image processing apparatus 1 further includes a feature point tracking unit 28 and a distance calculation unit 30. The feature point tracking unit 28 tracks and tracks the feature points of the ablation catheter image on the X-ray still image with respect to two observation directions by using the technique shown in Japanese Patent Application Laid-Open No. 2006-179794. Update the two-dimensional coordinates of the feature points. The distance calculation unit 30 calculates the distance between the feature point (tip portion) of the ablation catheter image and the heart wall in the combined three-dimensional image.

図3に示すように、心壁3次元画像発生部18は、電極2次元座標特定部181、電極3次元座標計算部182、及び心壁構築部183を備える。電極2次元座標特定部181は、操作部16を介して2つのX線静止画像上でそれぞれ指定された複数の電極位置の2次元座標を特定する。この際、電極2次元座標特定部181は、各X線静止画像で指定された特徴点のうち、実質的に同一な電極同士を、対応付けのためのルールに従って対応付ける。電極3次元座標計算部182は、特定された複数の電極位置(対応点)の2次元座標から複数の電極の3次元座標をエピポーラ(Epipolar)幾何理論に基づいて計算する。電極カテーテルの電極は、心壁に接触している。従って電極の座標は、心壁の座標とみなすことができる。心壁構築部183は、計算された複数の3次元座標を通る曲面又は平面(以下、単に曲面と呼ぶ)を計算する。この曲面は、電極の座標、すなわち心壁の座標を通る曲面であるので、心壁とみなすことができる。そして、心壁構築部183は、計算した心壁(曲面)に基づいて3次元空間上に心壁のデータを構築する。これにより、心壁3次元画像のデータが発生される。   As shown in FIG. 3, the heart wall three-dimensional image generation unit 18 includes an electrode two-dimensional coordinate specification unit 181, an electrode three-dimensional coordinate calculation unit 182, and a heart wall construction unit 183. The electrode two-dimensional coordinate specifying unit 181 specifies two-dimensional coordinates of a plurality of electrode positions respectively designated on two X-ray still images via the operation unit 16. At this time, the electrode two-dimensional coordinate specification unit 181 associates substantially the same electrodes among the feature points designated in each X-ray still image according to the rules for association. The electrode three-dimensional coordinate calculation unit 182 calculates the three-dimensional coordinates of the plurality of electrodes from the two-dimensional coordinates of the plurality of specified electrode positions (corresponding points) based on the epipolar geometry theory. The electrode of the electrode catheter is in contact with the heart wall. Therefore, the coordinates of the electrodes can be regarded as the coordinates of the heart wall. The heart wall constructing unit 183 calculates a curved surface or plane (hereinafter simply referred to as a curved surface) that passes through the plurality of calculated three-dimensional coordinates. Since this curved surface is a curved surface passing through the coordinates of the electrodes, that is, the coordinates of the heart wall, it can be regarded as a heart wall. Then, the heart wall constructing unit 183 constructs heart wall data in a three-dimensional space based on the calculated heart wall (curved surface). Thereby, data of a three-dimensional heart wall image is generated.

図3に示すように、カテーテル3次元画像発生部20は、特徴点2次元座標特定部201、特徴点3次元座標計算部202、及びカテーテル構築部203を備える。特徴点2次元座標特定部201は、操作部16を介して2つのX線静止画像上でそれぞれ指定された複数のアブレーションカテーテルの特徴点の2次元座標を特定する。この際、特徴点2次元座標特定部201は、各X線静止画像上で指定された特徴点のうち、実質的に同一な電極同士を、対応付けのためのルールに従って対応付ける。特徴点3次元座標計算部202は、特定された複数の特徴点(対応点)の2次元座標から複数の特徴点の3次元座標をエピポーラ幾何理論に基づいて計算する。カテーテル構築部203は、計算された複数の3次元座標にcoronary treeの生成原理を適用して、3次元空間上にアブレーションカテーテルのデータを構築する。これにより、アブレーションカテーテル3次元画像のデータが発生される。   As shown in FIG. 3, the catheter 3D image generation unit 20 includes a feature point 2D coordinate specification unit 201, a feature point 3D coordinate calculation unit 202, and a catheter construction unit 203. The feature point two-dimensional coordinate specifying unit 201 specifies two-dimensional coordinates of feature points of a plurality of ablation catheters respectively designated on two X-ray still images via the operation unit 16. At this time, the feature point two-dimensional coordinate specification unit 201 associates substantially identical electrodes among the feature points designated on each X-ray still image according to a rule for association. The feature point three-dimensional coordinate calculation unit 202 calculates the three-dimensional coordinates of the plurality of feature points based on the epipolar geometry theory from the two-dimensional coordinates of the plurality of identified feature points (corresponding points). The catheter construction unit 203 constructs ablation catheter data in a three-dimensional space by applying the principle of generating a coronary tree to a plurality of calculated three-dimensional coordinates. Thereby, data of a three-dimensional ablation catheter image is generated.

以下、アブレーション治療における第1実施形態に係る画像処理装置1の利用例を説明する。   Hereinafter, a usage example of the image processing apparatus 1 according to the first embodiment in the ablation treatment will be described.

図4は、制御部26による心壁3次元画像とアブレーションカテーテル3次元画像との合成表示処理の流れを説明する図である。術者から操作部16を介して合成表示処理の開始指示を受けて、又は自動的に、制御部26は、合成表示処理を開始する。なお、この合成表示処理の期間中、常時ネットワークインターフェース部10を介して記憶部12にX線動画像のデータ及び心電図のデータが記憶されるとする。   FIG. 4 is a diagram for explaining the flow of the composite display process of the heart wall 3D image and the ablation catheter 3D image by the control unit 26. Upon receiving an instruction to start the composite display process from the operator via the operation unit 16 or automatically, the control unit 26 starts the composite display process. It is assumed that X-ray moving image data and electrocardiogram data are always stored in the storage unit 12 via the network interface unit 10 during the composite display process.

図4に示すように、まず制御部26は、心壁3次元画像発生部18に心壁3次元画像のデータの発生処理をさせる(ステップSA)。心壁3次元画像のデータの発生処理において心壁3次元画像発生部18は、2つの観察方向に関するX線静止画像上で指定された複数の電極位置に基づいて心壁3次元画像のデータを発生する。発生された心壁3次元画像のデータは、記憶部12に記憶される。この処理の詳細については後述する。   As shown in FIG. 4, first, the control unit 26 causes the heart wall 3D image generation unit 18 to generate data of the heart wall 3D image (step SA). In the generation processing of the heart wall three-dimensional image data, the heart wall three-dimensional image generation unit 18 generates the heart wall three-dimensional image data based on the plurality of electrode positions designated on the X-ray still images related to the two observation directions. Occur. Data of the generated heart wall three-dimensional image is stored in the storage unit 12. Details of this processing will be described later.

心壁の3次元画像のデータが発生されると、制御部26は、カテーテル3次元画像発生部20に、アブレーションカテーテルの3次元画像のデータの発生処理をさせる(ステップSB)。アブレーションカテーテルの3次元画像のデータの発生処理においてカテーテル3次元画像発生部20は、2つの観察方向に関するX線静止画像上で指定された複数の特徴点に基づいてアブレーションカテーテル3次元画像のデータを発生する。発生されたアブレーションカテーテル3次元画像のデータは、記憶部12に記憶される。この処理の詳細については、後述する。   When the data of the three-dimensional image of the heart wall is generated, the control unit 26 causes the catheter three-dimensional image generation unit 20 to generate data of the three-dimensional image of the ablation catheter (step SB). In the generation process of the three-dimensional image data of the ablation catheter, the catheter three-dimensional image generation unit 20 generates the ablation catheter three-dimensional image data based on a plurality of feature points designated on the X-ray still image regarding the two observation directions. Occur. The generated ablation catheter 3D image data is stored in the storage unit 12. Details of this processing will be described later.

アブレーションカテーテル3次元画像のデータが発生されると、制御部26は、3次元画像合成部22に合成処理を行なわせる(ステップSC)。合成処理において3次元画像合成部22は、心壁3次元画像とアブレーションカテーテル3次元画像とを記憶部から読み出し、心壁3次元画像とアブレーションカテーテル3次元画像とを合成することにより合成3次元画像のデータが発生される。なお、合成処理にあたり、心壁3次元画像とアブレーションカテーテル3次元画像とに対して重み係数を乗じて合成の程度を調整できるようにしても良い。   When the data of the ablation catheter 3D image is generated, the control unit 26 causes the 3D image synthesis unit 22 to perform synthesis processing (step SC). In the composition process, the three-dimensional image composition unit 22 reads the heart wall three-dimensional image and the ablation catheter three-dimensional image from the storage unit, and composes the heart wall three-dimensional image and the ablation catheter three-dimensional image to compose the three-dimensional image. Data is generated. In the synthesis process, the degree of synthesis may be adjusted by multiplying the heart wall 3D image and the ablation catheter 3D image by a weighting factor.

合成3次元画像が発生されると制御部26は、表示画像発生部24に、表示画像発生処理を行なわせる(ステップSD)。表示画像発生処理において表示画像発生部24は、合成3次元画像を3次元画像処理して、表示のための2次元画像(表示画像)のデータを発生する。具体的には、表示画像発生部24は、3次元画像処理として、ボリュームレンダリングやサーフェスレンダリングを行なう。なお、3次元画像処理における投影角度は、操作部16を介して任意に設定可能である。なお、心壁3次元画像とカテーテル3次元画像とは同一のX線撮像装置1で撮像されているので、両3次元画像の座標は、完全に一致している。そのため、両3次元画像の位置合わせは不要である。   When the synthesized three-dimensional image is generated, the control unit 26 causes the display image generation unit 24 to perform display image generation processing (step SD). In the display image generation process, the display image generation unit 24 performs three-dimensional image processing on the combined three-dimensional image to generate data of a two-dimensional image (display image) for display. Specifically, the display image generation unit 24 performs volume rendering and surface rendering as three-dimensional image processing. Note that the projection angle in the three-dimensional image processing can be arbitrarily set via the operation unit 16. In addition, since the heart wall 3D image and the catheter 3D image are imaged by the same X-ray imaging apparatus 1, the coordinates of both 3D images are completely the same. Therefore, it is not necessary to align both three-dimensional images.

表示画像が発生されると制御部26は、表示部14に表示処理を行なわせる(ステップSE)。表示処理において表示部14は、表示画像をモニタに表示する。   When the display image is generated, the control unit 26 causes the display unit 14 to perform display processing (step SE). In the display process, the display unit 14 displays the display image on the monitor.

図5は、表示画像DI1を示す図である。図5に示すように表示画像DI1には、3次元的に心壁像CI1とアブレーションカテーテル像AIとが描出されているため、術者は、アブレーションカテーテルが心壁に対して垂直であるか否かが確認できる。また、術者が操作部16を介して投影角度を任意に設定することで、表示部14は、任意の観察角度に関する表示画像を表示することができる。なお、アブレーションカテーテル像AIは、心壁像CI1の表側に表示される。また、表示部14は、操作部16を介して指定された電極位置EPを心壁像CI1と区別可能なように所定の色や輝度で表示してもよい。   FIG. 5 is a diagram showing the display image DI1. As shown in FIG. 5, since the heart wall image CI1 and the ablation catheter image AI are depicted three-dimensionally in the display image DI1, the operator determines whether the ablation catheter is perpendicular to the heart wall. Can be confirmed. Further, when the surgeon arbitrarily sets the projection angle via the operation unit 16, the display unit 14 can display a display image related to an arbitrary observation angle. The ablation catheter image AI is displayed on the front side of the heart wall image CI1. Further, the display unit 14 may display the electrode position EP designated via the operation unit 16 with a predetermined color and brightness so as to be distinguishable from the heart wall image CI1.

表示の応用例として次の方法がある。心壁像CI1上の電極位置が既知なので、表示部14は、電極位置EPを明示するとよい。また、表示部14は、異常な心電波形を検出している電極位置EPを他の電極位置EPから区別して表示してもよい。例えば、表示部14は、正常な心電波形を検出している電極位置EPを黒で表示し、異常な心電波形を検出している電極位置EPを赤で表示する。   There are the following methods as application examples of display. Since the electrode position on the heart wall image CI1 is known, the display unit 14 may clearly indicate the electrode position EP. Moreover, the display part 14 may distinguish and display the electrode position EP which has detected the abnormal electrocardiogram waveform from other electrode positions EP. For example, the display unit 14 displays the electrode position EP where the normal electrocardiogram waveform is detected in black, and displays the electrode position EP where the abnormal electrocardiogram waveform is detected in red.

表示画像が表示されると距離計算部30は、合成3次元画像内で、心壁像とアブレーションカテーテルの先端部分との最短距離を計算する。この計算処理は、同一心位相で一心拍毎に計算される。例えば、距離計算部30は、心電図波形のある特徴波(例えばR波)をトリガとして、距離を計算する。計算された距離は、図5に示すように表示部14に表示される。また、表示部は、距離の値が所定の値以下になった場合、その旨のメッセージを画面に表示してもよい。また、図示しないスピーカからその旨の音を発生させるとしてもよい。   When the display image is displayed, the distance calculation unit 30 calculates the shortest distance between the heart wall image and the distal end portion of the ablation catheter in the combined three-dimensional image. This calculation process is calculated for each heartbeat in the same cardiac phase. For example, the distance calculation unit 30 calculates a distance using a characteristic wave (for example, R wave) having an electrocardiogram waveform as a trigger. The calculated distance is displayed on the display unit 14 as shown in FIG. Further, the display unit may display a message to that effect on the screen when the distance value is equal to or less than a predetermined value. Further, a sound to that effect may be generated from a speaker (not shown).

また、表示部14は、ネットワークインターフェース部10がアブレーションカテーテル装置300から熱発生のためのボタン信号を受信したことを契機として、焼灼された電極位置を他の電極位置EPから区別して表示する。例えば、距離計算部28は、アブレーションカテーテル像AIの先端部分と電極位置EPとの距離を計算する。表示部14は、距離が一定距離以下になり、且つボタン信号を受信したことを契機として、当該電極位置EPを他の電極位置EPから区別して表示する。例えば、表示部24は、焼灼された電極位置EPを青で表示する。なお、上述のようにアブレーションカテーテル像の先端部分は、特徴点追跡部28により随時追跡されている。   Further, the display unit 14 displays the ablated electrode position separately from the other electrode positions EP when the network interface unit 10 receives a button signal for heat generation from the ablation catheter device 300. For example, the distance calculation unit 28 calculates the distance between the distal end portion of the ablation catheter image AI and the electrode position EP. The display unit 14 displays the electrode position EP separately from the other electrode positions EP when the distance is equal to or less than a certain distance and the button signal is received. For example, the display unit 24 displays the cauterized electrode position EP in blue. As described above, the tip portion of the ablation catheter image is tracked by the feature point tracking unit 28 as needed.

また、表示部14は、X線撮像装置100のCアーム112が回転されると、その回転に連動して観察角度を回転させてもよい。具体的には、X線撮像装置100のCアーム112が回転されると、ネットワークインターフェース部10は、LANを介してCアーム112を駆動制御するための制御信号を受信する。表示画像発生部24は、ネットワークインターフェース部10が受信した制御信号に基づいて、投影角度を決定する。そして表示画像発生部24は、決定した投影角度で合成3次元画像のデータを3次元画像処理して、Cアーム112の撮影角度に一致する観察角度の表示画像のデータを発生する。発生された表示画像は、表示部14により表示される。   Further, when the C arm 112 of the X-ray imaging apparatus 100 is rotated, the display unit 14 may rotate the observation angle in conjunction with the rotation. Specifically, when the C arm 112 of the X-ray imaging apparatus 100 is rotated, the network interface unit 10 receives a control signal for driving and controlling the C arm 112 via the LAN. The display image generation unit 24 determines the projection angle based on the control signal received by the network interface unit 10. Then, the display image generation unit 24 performs three-dimensional image processing on the combined three-dimensional image data at the determined projection angle, and generates display image data having an observation angle that matches the imaging angle of the C arm 112. The generated display image is displayed by the display unit 14.

また、表示部14は、図6に示すように、心壁像CI1とX線撮像装置100からのX線動画像FIとを重ね合わせて表示してよい。   Further, the display unit 14 may superimpose and display the heart wall image CI1 and the X-ray moving image FI from the X-ray imaging apparatus 100 as shown in FIG.

以下、心壁3次元画像の発生処理(ステップSA)及びアブレーションカテーテル3次元画像の発生処理(ステップSB)の詳細な説明する。まずは、心壁3次元画像の発生処理(ステップSA)について説明する。   Hereinafter, a detailed description will be given of the generation process (step SA) of the heart wall three-dimensional image and the generation process (step SB) of the ablation catheter three-dimensional image. First, the generation process (step SA) of the heart wall three-dimensional image will be described.

上述のように、心壁3次元画像の発生処理(ステップSA)は、アブレーションカテーテルが心房に挿入される前に電極カテーテルが挿入される時に行なわれる。電極カテーテルの挿入中、X線撮像装置100によりX線動画像のデータが発生され、画像処理装置1に伝送される。伝送されたX線動画像は、リアルタイムに表示部14により表示される。術者は、表示されるX線動画像により電極カテーテルの位置等を確認しながら、電極カテーテルを心房に進める。電極カテーテルの電極が心壁に接触すると、術者により電極カテーテルは固定される。   As described above, the generation process (step SA) of the heart wall three-dimensional image is performed when the electrode catheter is inserted before the ablation catheter is inserted into the atrium. During insertion of the electrode catheter, X-ray moving image data is generated by the X-ray imaging apparatus 100 and transmitted to the image processing apparatus 1. The transmitted X-ray moving image is displayed on the display unit 14 in real time. The surgeon advances the electrode catheter to the atrium while confirming the position of the electrode catheter and the like from the displayed X-ray moving image. When the electrode of the electrode catheter contacts the heart wall, the operator fixes the electrode catheter.

電極カテーテルが固定されると、術者等は、操作部16を介して心壁3次元画像の発生処理の開始指示を行う。術者等により開始指示がなされることを契機として制御部26は、心壁3次元画像の発生処理を開始する。   When the electrode catheter is fixed, the operator or the like gives an instruction to start the processing for generating a three-dimensional heart wall image via the operation unit 16. When the start instruction is given by the operator or the like, the control unit 26 starts the generation process of the heart wall three-dimensional image.

図7は、制御部26の制御のもとに実行される心壁3次元画像の発生処理を説明するための図である。まず、制御部26は、表示部14にX線静止画像の表示処理を行なわせる(ステップSA1)。X線静止画像の表示処理において表示部14は、記憶部12に記憶されている2つの観察方向に関するX線動画像から同心位相に関する2つのX線静止画像のデータをそれぞれ読み出して表示する。表示されるX線静止画像は、電極カテーテルが固定された後にX線撮像装置100により発生されたものとする。以下、説明を具体的に行なうため、2つの観察角度に関するX線静止画像は、患者正面方向に関するX線静止画像と、患者側面方向に関するX線静止画像であるとする。   FIG. 7 is a diagram for explaining a generation process of a heart wall three-dimensional image that is executed under the control of the control unit 26. First, the control unit 26 causes the display unit 14 to perform an X-ray still image display process (step SA1). In the X-ray still image display process, the display unit 14 reads and displays data of two X-ray still images related to the concentric phase from the X-ray moving images related to the two observation directions stored in the storage unit 12. It is assumed that the displayed X-ray still image is generated by the X-ray imaging apparatus 100 after the electrode catheter is fixed. In the following, for specific description, it is assumed that the X-ray still images related to the two observation angles are an X-ray still image related to the patient front direction and an X-ray still image related to the patient side direction.

図8は、表示部14に表示される患者正面方向に関するX線静止画像SI1と患者側面方向に関するX線静止画像SI2とを示す図である。図8に示すように、X線静止画像SI1,SI2には、電極カテーテルECが描出されている。電極カテーテルECは、その先端部分に複数の電極EPが設けられている。この電極EPは、X線静止画像上SI1,SI2では黒丸で描出される。術者は、操作部16を介して、X線静止画像SI1,SI2に描出される電極EPを一つずつ指定する。電極は少なくとも3つずつ指定されるものとする。   FIG. 8 is a diagram illustrating an X-ray still image SI1 related to the patient front direction and an X-ray still image SI2 related to the patient side direction displayed on the display unit 14. As shown in FIG. 8, the electrode catheter EC is depicted in the X-ray still images SI1 and SI2. The electrode catheter EC is provided with a plurality of electrodes EP at its distal end. The electrode EP is drawn as a black circle on SI1 and SI2 on the X-ray still image. The operator designates the electrodes EP drawn on the X-ray still images SI1 and SI2 one by one via the operation unit 16. It is assumed that at least three electrodes are designated.

術者が操作部16を介して電極位置を指定すると制御部26は、心壁3次元画像発生部18に発生処理を行なわせる。まず、心壁3次元画像発生部18は、電極2次元座標特定部181に2次元座標特定処理を行なわせる(ステップSA2)。2次元座標特定処理において電極2次元座標特定部181は、指定された電極のX線静止画像での座標(2次元座標)を特定する。この後に発生される心壁3次元画像の精度を高めたいのであれば、術者は、電極カテーテルの位置を移動して電極指定を繰り返すとよい。電極は10〜50指定されるとよい。   When the operator designates the electrode position via the operation unit 16, the control unit 26 causes the heart wall three-dimensional image generation unit 18 to perform generation processing. First, the heart wall three-dimensional image generating unit 18 causes the electrode two-dimensional coordinate specifying unit 181 to perform a two-dimensional coordinate specifying process (step SA2). In the two-dimensional coordinate specifying process, the electrode two-dimensional coordinate specifying unit 181 specifies the coordinates (two-dimensional coordinates) of the designated electrode in the X-ray still image. If it is desired to increase the accuracy of the three-dimensional heart wall image generated thereafter, the operator may move the position of the electrode catheter and repeat the electrode designation. It is recommended that 10 to 50 electrodes be specified.

ステップSA2においては、図8に示すように、2つのX線静止画像SI1,SI2上で複数の電極EPがそれぞれ指定される。つまり、一つの電極EPについて2つのX線静止画像上での2つの2次元座標が与えられる。2次元座標特定部181は、同一の電極EPに由来する2つの2次元座標電極を、対応付けのルールに従って対応付ける。対応付けのルールは、例えば、2つのX線静止画像SI1,SI2上で交互に電極EPを指定することで、連続して指定された2つの電極の2次元座標を対応付けるルールである。具体的には、術者によりX線静止画像SI1で電極EP1が指定されると電極EP1の座標(x、y)が特定される。次に術者は、X線静止画像SI2上で電極EP1に実質的に同一な電極EP1´を指定する。電極EP1´が指定されると座標(x´、y´)が特定される。そして、連続して指定された電極EP1の座標(x、y)と電極EP1の座標(x´、y´)との座標が対応付けられる。もちろん対応付けのルールは、上記方法だけに留まらない。 In step SA2, as shown in FIG. 8, a plurality of electrodes EP are designated on the two X-ray still images SI1, SI2. That is, two two-dimensional coordinates on two X-ray still images are given for one electrode EP. The two-dimensional coordinate specifying unit 181 associates two two-dimensional coordinate electrodes derived from the same electrode EP according to a correspondence rule. The association rule is, for example, a rule that associates two-dimensional coordinates of two consecutively designated electrodes by designating electrodes EP alternately on the two X-ray still images SI1 and SI2. Specifically, when the operator designates the electrode EP1 in the X-ray still image SI1, the coordinates (x 1 , y 1 ) of the electrode EP1 are specified. Next, the operator designates an electrode EP1 ′ that is substantially identical to the electrode EP1 on the X-ray still image SI2. The electrode EP1' is designated coordinates (x'1, y'1) is identified. Then, the coordinates (x'1, y'1) of coordinates (x 1, y 1) and the electrode EP1 electrode EP1 designated consecutively coordinates are associated with. Of course, the association rule is not limited to the above method.

電極の2次元座標が特定されると心壁3次元画像発生部18は、電極3次元座標計算部182に計算処理を行わせる(ステップSA3)。計算処理において電極3次元座標計算部182は、特定された電極の2次元座標にエピポーラ幾何理論を適用して、電極の3次元座標を計算する。この3次元座標計算処理により、同一の電極に由来する2つの2次元座標から一つの3次元座標が計算される。   When the two-dimensional coordinates of the electrode are specified, the heart wall three-dimensional image generation unit 18 causes the electrode three-dimensional coordinate calculation unit 182 to perform calculation processing (step SA3). In the calculation process, the electrode three-dimensional coordinate calculation unit 182 calculates the three-dimensional coordinates of the electrodes by applying epipolar geometry theory to the specified two-dimensional coordinates of the electrodes. By this three-dimensional coordinate calculation process, one three-dimensional coordinate is calculated from two two-dimensional coordinates derived from the same electrode.

図9は、エピポーラ幾何理論を説明するための図である。患者正面方向におけるX線焦点F1から被検体P´を投影して得られる画像を投影画像I1、患者側面方向におけるX線焦点F2から被検体P´を投影して得られる画像を投影画像I2と呼ぶことにする。X線焦点F1とX線焦点F2と被検体P´とにより規定される面は、エピポーラ面と呼ばれている。投影画像I2上の点Aに投影される被検体P´は、3次元空間内において線Bのどこかに存在する。投影画像I1上において線Bは、線(エピポーラ線)C上に投影される。被検体P´は、線C上のどこかに投影されている。従って、投影画像I1上で術者が点Aと実質的に同一な点(対応点)を指定すると、被検体P´の3次元空間内での位置が定まる。すなわち、2つの観察角度に関するX線静止画像で実質的に同一な点を指定すれば、指定された点の3次元空間内での位置(3次元座標)を計算することができる。これがエピポーラ幾何理論である。電極3次元座標計算部182は、このエピポーラ幾何理論に基づいて、同一の電極に由来する2つの2次元座標から一つの3次元座標を計算する。   FIG. 9 is a diagram for explaining the epipolar geometry theory. An image obtained by projecting the subject P ′ from the X-ray focus F1 in the patient front direction is a projection image I1, and an image obtained by projecting the subject P ′ from the X-ray focus F2 in the patient side direction is a projection image I2. I will call it. A plane defined by the X-ray focal point F1, the X-ray focal point F2, and the subject P ′ is called an epipolar plane. The subject P ′ projected onto the point A on the projection image I2 exists somewhere on the line B in the three-dimensional space. The line B is projected onto the line (epipolar line) C on the projection image I1. The subject P ′ is projected somewhere on the line C. Therefore, when the operator designates a point (corresponding point) substantially the same as the point A on the projection image I1, the position of the subject P ′ in the three-dimensional space is determined. That is, if substantially the same point is designated in the X-ray still images related to the two observation angles, the position (three-dimensional coordinates) of the designated point in the three-dimensional space can be calculated. This is epipolar geometry theory. The electrode three-dimensional coordinate calculation unit 182 calculates one three-dimensional coordinate from two two-dimensional coordinates derived from the same electrode based on the epipolar geometry theory.

電極の3次元座標が計算されると心壁3次元画像発生部18は、心壁構築部183に心壁の構築処理を行なわせる(ステップSA4)。心壁の構築処理において心壁構築部183は、算出された複数の電極の3次元座標に基づいて3次元空間内に心壁のデータを構築する。具体的には、心壁構築部183は、複数の3次元座標に基づいて心壁面を計算し、計算した心壁面に基づいて心壁のデータを構築する。   When the three-dimensional coordinates of the electrodes are calculated, the heart wall three-dimensional image generation unit 18 causes the heart wall construction unit 183 to perform heart wall construction processing (step SA4). In the heart wall construction process, the heart wall construction unit 183 constructs heart wall data in the three-dimensional space based on the calculated three-dimensional coordinates of the plurality of electrodes. Specifically, the heart wall constructing unit 183 calculates a heart wall surface based on a plurality of three-dimensional coordinates, and constructs heart wall data based on the calculated heart wall surface.

図10は、心壁構築部183による心壁面の計算処理を説明するための図である。図10に示すように、ステップSA3において、実質的に同一な複数の電極EPの3次元座標が電極3次元座標計算部182により計算されている。例えば、X線静止画像SI1上の電極EP1と、X線静止画像SI2上の電極EP1´とに基づいて3次元空間上の電極EP1の座標(x´´、y´´、z´´)が計算されている。このようにして複数の電極の3次元座標が計算されると、心壁構築部183は、これら複数の3次元座標に最小2乗法を適用して、複数の3次元座標を通過する曲面CSを計算する。具体的には、心壁構築部183は、複数の3次元座標に最小2乗法を適用して、複数の3次元座標を通る曲面(又は平面)を計算する。数学的には例えば、3点があればある平面を規定でき、4点があれば曲面を規定することができる。算出された曲面CSは、電極カテーテルECの複数の電極EPを通る曲面である。上述のように、電極EPは、心壁に接触している。従って、算出された曲面CSは、心壁と同一である。 FIG. 10 is a diagram for explaining the calculation process of the heart wall surface by the heart wall construction unit 183. As shown in FIG. 10, in step SA <b> 3, three-dimensional coordinates of a plurality of substantially identical electrodes EP are calculated by the electrode three-dimensional coordinate calculation unit 182. For example, based on the electrode EP1 on the X-ray still image SI1 and the electrode EP1 ′ on the X-ray still image SI2, the coordinates (x ″ 1 , y ″ 1 , z ″ of the electrode EP1 in the three-dimensional space are used. 1 ) has been calculated. When the three-dimensional coordinates of the plurality of electrodes are calculated in this way, the heart wall constructing unit 183 applies a least square method to the plurality of three-dimensional coordinates to obtain a curved surface CS that passes through the plurality of three-dimensional coordinates. calculate. Specifically, the heart wall constructing unit 183 calculates a curved surface (or plane) passing through the plurality of three-dimensional coordinates by applying the least square method to the plurality of three-dimensional coordinates. Mathematically, for example, if there are 3 points, a plane can be defined, and if there are 4 points, a curved surface can be defined. The calculated curved surface CS is a curved surface passing through the plurality of electrodes EP of the electrode catheter EC. As described above, the electrode EP is in contact with the heart wall. Therefore, the calculated curved surface CS is the same as the heart wall.

心壁CSが計算されると心壁構築部183は、計算した心壁を構成するボクセルに所定の画素値を割り付けることで3次元空間内に心壁のデータを構築する。また、心壁構築部183は、計算した曲面を点列に分解し、これら複数の点を複数の面素(パッチ面)で張り合わせることによって3次元空間内に心壁のデータを構築してもよい。この心壁の構築処理により心壁3次元画像のデータが発生される。   When the heart wall CS is calculated, the heart wall constructing unit 183 constructs heart wall data in the three-dimensional space by assigning predetermined pixel values to the voxels constituting the calculated heart wall. Further, the heart wall constructing unit 183 constructs the data of the heart wall in the three-dimensional space by decomposing the calculated curved surface into a sequence of points and bonding the plurality of points with a plurality of surface elements (patch planes). Also good. The heart wall three-dimensional image data is generated by this heart wall construction process.

以上で心壁3次元画像のデータの発生処理は終了する。   This completes the generation processing of the heart wall three-dimensional image data.

次にアブレーションカテーテル3次元画像の発生処理(ステップSB)の詳細について説明する。術者は、電極カテーテル装置200からの心電図波形を観察して治療部位を決定すると、表示部14に表示されているX線動画像を観察しながら、治療部位にアブレーションカテーテルを進める。アブレーションカテーテルが治療部位付近に近づくと、術者等は、操作部16を介してアブレーションカテーテル3次元画像の発生処理の開始指示を行う。術者等により開始指示がなされることを契機として制御部26は、アブレーションカテーテル3次元画像の発生処理を開始する。   Next, details of the ablation catheter three-dimensional image generation process (step SB) will be described. When the surgeon observes the electrocardiogram waveform from the electrode catheter device 200 and determines the treatment site, the surgeon advances the ablation catheter to the treatment site while observing the X-ray moving image displayed on the display unit 14. When the ablation catheter approaches the vicinity of the treatment site, the operator or the like gives an instruction to start generation processing of the ablation catheter three-dimensional image via the operation unit 16. When the start instruction is given by an operator or the like, the control unit 26 starts generation processing of the ablation catheter three-dimensional image.

図11は、制御部26の制御のもとに実行されるアブレーションカテーテル3次元画像の発生処理を説明するための図である。まず、制御部26は、表示部14にX線静止画像の表示処理を行なわせる(ステップSB1)。X線静止画像の表示処理において表示部14は、同心位相の患者正面方向に関するX線静止画像と患者側面方向に関するX線静止画像のデータを記憶部12からそれぞれ読み出して表示する。表示されるX線静止画像は、アブレーションカテーテル3次元画像の発生処理の開始後にX線撮像装置100により発生されたものとする。   FIG. 11 is a diagram for explaining the ablation catheter three-dimensional image generation process executed under the control of the control unit 26. First, the control unit 26 causes the display unit 14 to perform an X-ray still image display process (step SB1). In the X-ray still image display process, the display unit 14 reads out and displays data of the X-ray still image related to the patient front direction and the X-ray still image related to the patient side direction in the concentric phase from the storage unit 12. It is assumed that the displayed X-ray still image is generated by the X-ray imaging apparatus 100 after the start of the generation process of the ablation catheter three-dimensional image.

表示部14に患者正面方向に関するX線静止画像と患者側面方向に関するX線静止画像が表示されると、術者は、操作部16を介して、2つのX線静止画像でアブレーションカテーテルの複数の特徴点を指定する。特徴点は、視覚的に特定しやすい部分であり、例えば、先端部分やマーカ、熱発生部分等である。特徴点は、それぞれ少なくとも2点以上指定される。   When the X-ray still image related to the patient front direction and the X-ray still image related to the patient lateral direction are displayed on the display unit 14, the surgeon uses the operation unit 16 to display a plurality of ablation catheters with two X-ray still images. Specify feature points. The feature point is a portion that can be easily identified visually, such as a tip portion, a marker, or a heat generation portion. At least two or more feature points are designated.

術者が操作部16を介して特徴点を指定すると制御部26は、カテーテル3次元画像発生部20に発生処理を行なわせる。まず、カテーテル3次元画像発生部20は、特徴点2次元座標特定部201に特徴点の2次元座標の特定処理を行なわせる(ステップSB2)。この特定処理において特徴点2次元座標特定部201は、術者により指定された特徴点のX線静止画像での座標(2次元座標)を特定する。この際、特徴点2次元座標特定部201は、実質的に同一な特徴点を対応付ける。この処理は、ステップSA2と同様なので説明は省略する。   When the operator designates a feature point via the operation unit 16, the control unit 26 causes the catheter 3D image generation unit 20 to perform generation processing. First, the catheter three-dimensional image generation unit 20 causes the feature point two-dimensional coordinate specification unit 201 to perform processing for specifying the two-dimensional coordinates of the feature points (step SB2). In this specifying process, the feature point two-dimensional coordinate specifying unit 201 specifies the coordinates (two-dimensional coordinates) in the X-ray still image of the feature point designated by the operator. At this time, the feature point two-dimensional coordinate specifying unit 201 associates substantially the same feature points. Since this process is the same as step SA2, description thereof will be omitted.

特徴点(対応点)の2次元座標が特定されるとカテーテル3次元画像発生部20は、特徴点3次元座標計算部202に特徴点の3次元座標の計算処理を行わせる(ステップSB3)。この計算処理において特徴点3次元座標計算部202は、特定された同一の特徴点(対応点)に由来する2つの2次元座標にエピポーラ幾何理論を適用して、特徴点の3次元座標を計算する。   When the two-dimensional coordinates of the feature points (corresponding points) are specified, the catheter three-dimensional image generation unit 20 causes the feature point three-dimensional coordinate calculation unit 202 to perform calculation processing of the three-dimensional coordinates of the feature points (step SB3). In this calculation process, the feature point three-dimensional coordinate calculation unit 202 calculates the three-dimensional coordinates of the feature point by applying epipolar geometry theory to two two-dimensional coordinates derived from the same specified feature point (corresponding point). To do.

特徴点の3次元座標が計算されるとカテーテル3次元画像発生部20は、カテーテル構築部203にカテーテル構築処理を行なわせる(ステップSB4)。カテーテル構築処理においてカテーテル構築部203は、計算された複数の電極の3次元座標にcoronary treeの生成原理を適用してアブレーションカテーテル3次元画像のデータを発生する。coronary treeの生成原理は、既知の技術であり例えば特許文献1及び特許文献2に開示されている。特許文献1及び特許文献2に開示されているcoronary treeの生成原理は、血管に適用している。ところでカテーテルの形状は、筒状であり、血管の形状と同様である。従ってカテーテルについても、coronary treeの生成原理は、適用可能である。このカテーテル構築処理により、3次元空間内にカテーテルのデータが構築される。   When the three-dimensional coordinates of the feature points are calculated, the catheter three-dimensional image generation unit 20 causes the catheter construction unit 203 to perform a catheter construction process (step SB4). In the catheter construction process, the catheter construction unit 203 applies the generation principle of the coronary tree to the calculated three-dimensional coordinates of the plurality of electrodes, and generates data of the ablation catheter three-dimensional image. The generation principle of the coronary tree is a known technique and is disclosed in, for example, Patent Document 1 and Patent Document 2. The generation principle of coronary tree disclosed in Patent Document 1 and Patent Document 2 is applied to blood vessels. By the way, the shape of the catheter is cylindrical and is similar to the shape of the blood vessel. Therefore, the principle of coronary tree generation is applicable to catheters. By this catheter construction processing, catheter data is constructed in the three-dimensional space.

以上でアブレーションカテーテル3次元画像のデータの発生処理が終了する。   The generation processing of the ablation catheter three-dimensional image data is thus completed.

術者は、上記のように発生される心壁3次元画像とアブレーションカテーテル3次元画像とに基づく表示画像を観察しながらアブレーションカテーテルを操作する。つまり、術者がアブレーションカテーテルを動かすたびに、制御部26は、アブレーションカテーテル3次元画像の発生処理を繰り返さなければならない。すなわち、アブレーションカテーテルを動かすたびに術者は、ステップSAに示すように、アブレーションカテーテルの特徴点を指定し直さなければならない。この作業は術者にとって手間である。   The surgeon operates the ablation catheter while observing a display image based on the three-dimensional heart wall image and the three-dimensional ablation catheter image generated as described above. That is, every time the operator moves the ablation catheter, the control unit 26 must repeat the generation process of the ablation catheter three-dimensional image. That is, every time the ablation catheter is moved, the operator must redesignate the ablation catheter feature points as shown in step SA. This work is troublesome for the surgeon.

そこで、特徴点追跡部30は、2つの観察方向に関するX線静止画像上のアブレーションカテーテルの特徴点を画像パターンマッチングにより追跡し、追跡している特徴点の2次元座標を更新する。カテーテル3次元画像発生部20は、更新された2次元座標に基づいて特徴点の3次元座標を更新し、更新された3次元座標に基づいてアブレーションカテーテル3次元画像のデータを更新する。更新されたアブレーションカテーテル3次元画像と既に発生されている心壁3次元画像とは、3次元画像合成部22により合成され、合成3次元画像のデータが更新される。表示画像発生部24は、更新された合成3次元画像のデータに基づいて表示画像のデータを更新し、更新された表示画像は、表示部14に表示される。表示画像は、一心拍毎に更新される。   Therefore, the feature point tracking unit 30 tracks the feature points of the ablation catheter on the X-ray still images related to the two observation directions by image pattern matching, and updates the two-dimensional coordinates of the tracked feature points. The catheter 3D image generation unit 20 updates the 3D coordinates of the feature points based on the updated 2D coordinates, and updates the data of the ablation catheter 3D image based on the updated 3D coordinates. The updated 3D image of the ablation catheter and the already generated 3D heart wall image are combined by the 3D image combining unit 22 and the data of the combined 3D image is updated. The display image generation unit 24 updates display image data based on the updated composite three-dimensional image data, and the updated display image is displayed on the display unit 14. The display image is updated every heartbeat.

第1実施形態に係る画像処理装置1は、X線撮像装置100からのX線画像データに基づいて心壁3次元画像のデータとアブレーションカテーテル3次元画像のデータとを発生し、発生した心壁3次元画像とアブレーションカテーテル3次元画像とに基づく表示画像を表示する。この表示画像を観察することで、術者は、容易にアブレーションカテーテルの先端部分が心壁に対して垂直にあたっているか否かを判断できる。かくして第1実施形態によれば、アブレーション治療における手技時間や手間の削減を実現する画像処理装置1を提供することが可能となる。   The image processing apparatus 1 according to the first embodiment generates a heart wall three-dimensional image data and an ablation catheter three-dimensional image data based on the X-ray image data from the X-ray imaging apparatus 100, and the generated heart wall. A display image based on the three-dimensional image and the ablation catheter three-dimensional image is displayed. By observing this display image, the operator can easily determine whether or not the distal end portion of the ablation catheter is perpendicular to the heart wall. Thus, according to the first embodiment, it is possible to provide the image processing apparatus 1 that realizes a reduction in procedure time and labor in ablation treatment.

なお、第1実施形態においては、画像処理装置1は、心臓内壁に挿入された電極カテーテルの複数の特徴点(電極)に基づいて心壁3次元画像のデータを発生するとした。しかしながら第1実施形態を心臓内壁に限定する必要はない。すなわち、画像処理装置1は、心臓以外の器官(たとえば胃等)の内壁に挿入された電極カテーテルの複数の電極に基づいて、当該器官の内壁に関する3次元画像のデータを発生することができる。   In the first embodiment, the image processing apparatus 1 generates the data of the heart wall three-dimensional image based on the plurality of feature points (electrodes) of the electrode catheter inserted into the inner wall of the heart. However, it is not necessary to limit the first embodiment to the inner wall of the heart. That is, the image processing apparatus 1 can generate three-dimensional image data related to the inner wall of the organ based on a plurality of electrodes of the electrode catheter inserted into the inner wall of an organ other than the heart (for example, the stomach).

(第2実施形態)
図12は、第2実施形態に係るアブレーション治療支援システムの構成を示す図である。図12に示すように第2実施形態に係るアブレーション治療支援システムは、画像処理装置2、X線撮像装置100、電極カテーテル装置200、アブレーションカテーテル装置300、及びX線コンピュータ断層撮影装置400を備える。なお以下の説明において、第1実施形態と略同一の機能を有する構成要素及びステップについては、同一符号を付し、重複説明は必要な場合にのみ行う。
(Second Embodiment)
FIG. 12 is a diagram showing a configuration of an ablation treatment support system according to the second embodiment. As shown in FIG. 12, the ablation treatment support system according to the second embodiment includes an image processing apparatus 2, an X-ray imaging apparatus 100, an electrode catheter apparatus 200, an ablation catheter apparatus 300, and an X-ray computed tomography apparatus 400. In the following description, components and steps having substantially the same functions as those in the first embodiment are denoted by the same reference numerals, and redundant description will be given only when necessary.

X線コンピュータ断層撮影装置400は、アブレーションカテーテルの挿入前において、被検体をCTスキャンして被検体の特定の器官(例えば、心臓、胃など。以下、特定の器官は、心臓であるとする)に関するCT画像データを発生する。具体的には、X線コンピュータ断層撮影装置300は、心電同期再構成により特定の心位相に関するCT画像データを発生する。発生された心臓に関するCT画像データは、X線コンピュータ断層撮影装置400によりLANを介して画像処理装置2に伝送される。   The X-ray computed tomography apparatus 400 performs a CT scan on the subject before insertion of the ablation catheter and performs a specific organ of the subject (for example, heart, stomach, etc .; hereinafter, the specific organ is assumed to be the heart). CT image data for is generated. Specifically, the X-ray computed tomography apparatus 300 generates CT image data relating to a specific cardiac phase by electrocardiographic synchronization reconstruction. The generated CT image data relating to the heart is transmitted to the image processing apparatus 2 via the LAN by the X-ray computed tomography apparatus 400.

図13は、第2実施形態に係る画像処理装置2の構成を示す図である。図13に示すように画像処理装置2は、ネットワークインターフェース部10、記憶部12、表示部14、操作部16、心壁3次元画像発生部18、カテーテル3次元画像発生部20、3次元画像合成部22、表示画像発生部24、制御部26、特徴点追跡部28、及び距離計算部30を備える。   FIG. 13 is a diagram illustrating a configuration of the image processing apparatus 2 according to the second embodiment. As shown in FIG. 13, the image processing apparatus 2 includes a network interface unit 10, a storage unit 12, a display unit 14, an operation unit 16, a heart wall 3D image generation unit 18, a catheter 3D image generation unit 20, and a 3D image synthesis. A unit 22, a display image generation unit 24, a control unit 26, a feature point tracking unit 28, and a distance calculation unit 30.

ネットワークインターフェース部10は、X線コンピュータ断層撮影装置400から伝送される心臓に関するCT画像のデータをさらに受信する。記憶部12は、X線コンピュータ断層撮影装置400からの心臓に関するCT画像のデータをさらに記憶する。   The network interface unit 10 further receives CT image data related to the heart transmitted from the X-ray computed tomography apparatus 400. The storage unit 12 further stores CT image data related to the heart from the X-ray computed tomography apparatus 400.

心壁3次元画像発生部18は、電極2次元座標特定部181及び電極3次元座標計算部182に加え、抽出部184、レジストレーション部185を備える。抽出部184は、記憶部12に記憶されている心臓に関するCT画像のデータから心壁領域のデータを抽出する。抽出された心壁領域のデータが心壁3次元画像のデータである。レジストレーション部185は、電極3次元画像座標計算部182により計算された複数の電極の3次元座標に基づいて、抽出部184により抽出された心壁3次元画像をレジストレーションする。3次元画像合成部22は、レジストレーションされた心壁3次元画像と、カテーテル3次元画像発生部20により発生されたアブレーションカテーテル3次元画像とを合成して、合成3次元画像のデータを発生する。表示画像発生部24は、発生された合成3次元画像を3次元画像処理して表示画像のデータを発生する。発生された表示画像は、表示部14により表示される。   The heart wall 3D image generation unit 18 includes an extraction unit 184 and a registration unit 185 in addition to the electrode 2D coordinate specification unit 181 and the electrode 3D coordinate calculation unit 182. The extraction unit 184 extracts heart wall region data from CT image data related to the heart stored in the storage unit 12. The extracted heart wall region data is the heart wall three-dimensional image data. The registration unit 185 registers the three-dimensional heart wall image extracted by the extraction unit 184 based on the three-dimensional coordinates of the plurality of electrodes calculated by the electrode three-dimensional image coordinate calculation unit 182. The three-dimensional image synthesis unit 22 synthesizes the registered heart wall three-dimensional image and the ablation catheter three-dimensional image generated by the catheter three-dimensional image generation unit 20 to generate synthesized three-dimensional image data. . The display image generation unit 24 performs three-dimensional image processing on the generated combined three-dimensional image to generate display image data. The generated display image is displayed by the display unit 14.

以下、画像処理装置2のアブレーション治療での利用例を説明する。   Hereinafter, a usage example of the image processing apparatus 2 in the ablation treatment will be described.

第2実施形態に係る制御部26による心壁3次元画像とアブレーションカテーテル3次元画像との合成表示処理の流れは、第1実施形態の合成表示処理の流れと同様である。しかし、第2実施形態に係る合成表示処理における心壁3次元画像(ステップSA)の処理内容、第1実施形態に係る心壁3次元画像(ステップSA)の処理内容と異なる。   The flow of the composite display process of the heart wall 3D image and the ablation catheter 3D image by the control unit 26 according to the second embodiment is the same as the flow of the composite display process of the first embodiment. However, the processing content of the heart wall three-dimensional image (step SA) in the composite display processing according to the second embodiment is different from the processing content of the heart wall three-dimensional image (step SA) according to the first embodiment.

以下、図14を参照しながら第2実施形態に係る心壁3次元画像の発生処理(ステップSA)の流れを説明する。なお、第1実施形態に係る心壁3次元画像の発生処理(図7に示す)と同様の処理は、同じ符号を付して説明を簡略化する。   Hereinafter, the flow of the processing for generating a three-dimensional heart wall image (step SA) according to the second embodiment will be described with reference to FIG. In addition, the process similar to the generation process (shown in FIG. 7) of the heart wall three-dimensional image according to the first embodiment is denoted by the same reference symbol and the description is simplified.

術者等により開始指示がなされることを契機として制御部26は、心壁3次元画像の発生処理を開始する。まず、制御部26は、表示部14にX線静止画像の表示処理を行なわせ(ステップSA11)、心壁3次元画像発生部18に2次元座標特定処理(ステップSA12)、3次元座標計算処理を行わせる(ステップS13)。この3次元座標計算処理により、実質的に同一の特徴点(対応点)に由来する2つの2次元座標から一つの3次元座標が計算される。また、3次元座標は、複数の特徴点について計算されているものとする。   When the start instruction is given by the operator or the like, the control unit 26 starts the generation process of the heart wall three-dimensional image. First, the control unit 26 causes the display unit 14 to perform X-ray still image display processing (step SA11), and the heart wall three-dimensional image generation unit 18 performs two-dimensional coordinate specification processing (step SA12) and three-dimensional coordinate calculation processing. (Step S13). By this three-dimensional coordinate calculation process, one three-dimensional coordinate is calculated from two two-dimensional coordinates derived from substantially the same feature point (corresponding point). It is assumed that the three-dimensional coordinates are calculated for a plurality of feature points.

また、術者等により開始指示がなされることを契機として制御部26は、心壁3次元画像発生部18の抽出部184に抽出処理を行なわせる(ステップSA21)。抽出処理において抽出部184は、まず、X線コンピュータ断層撮影装置400からの心臓に関するCT画像のデータを記憶部12から読み出す。そして抽出部184は、心壁が有する画素値範囲に基づいてCT画像を閾値処理し心壁領域を抽出することにより、心壁3次元画像のデータを発生する。   Further, when the start instruction is given by an operator or the like, the control unit 26 causes the extraction unit 184 of the heart wall three-dimensional image generation unit 18 to perform extraction processing (step SA21). In the extraction processing, the extraction unit 184 first reads out CT image data regarding the heart from the X-ray computed tomography apparatus 400 from the storage unit 12. Then, the extraction unit 184 generates the heart wall three-dimensional image data by performing threshold processing on the CT image based on the pixel value range of the heart wall and extracting the heart wall region.

ステップSA13において電極の3次元座標が計算され、ステップSA21において心壁3次元画像が発生されると心壁3次元画像発生部18は、レジストレーション部185にレジストレーション処理を行なわせる(ステップSA22)。レジストレーション処理においてレジストレーション部185は、複数の電極の3次元座標に基づいて心壁3次元画像をレジストレーションする。具体的には、複数の電極の3次元座標に心壁3次元画像に含まれる心壁領域の内側が位置整合するように、心壁領域をレジストレーションする。   In step SA13, the three-dimensional coordinates of the electrodes are calculated, and in step SA21, when a heart wall three-dimensional image is generated, the heart wall three-dimensional image generation unit 18 causes the registration unit 185 to perform registration processing (step SA22). . In the registration process, the registration unit 185 registers the three-dimensional heart wall image based on the three-dimensional coordinates of the plurality of electrodes. Specifically, the heart wall region is registered such that the inside of the heart wall region included in the three-dimensional heart wall image is aligned with the three-dimensional coordinates of the plurality of electrodes.

以上で第2実施形態に係る心壁3次元画像の発生処理は終了する。   This completes the generation process of the heart wall three-dimensional image according to the second embodiment.

ステップSAが終了すると、ステップSBにおいてアブレーションカテーテル3次元画像が発生され、ステップSCにおいて合成3次元画像が発生され、ステップSDにおいて表示画像が発生され、ステップSEにおいて表示画像が表示される。   When step SA is completed, an ablation catheter 3D image is generated in step SB, a combined 3D image is generated in step SC, a display image is generated in step SD, and a display image is displayed in step SE.

図15は、第2実施形態に係る表示画像DI2の一例を示す図である。図15に示すように、表示画像DI2は、CT画像に由来する心壁像CI2と、アブレーションカテーテル像AIと含む。アブレーションカテーテル像AIは、心壁像CI2よりも前面に表示される。このようにアブレーションカテーテル像AIと心壁像CI2とが表示されることで、術者は、両者の3次元的な位置関係を把握しやすい。また、図15に示すように、心壁の部位の名称が文字情報で示されることにより術者は、アブレーションカテーテル像AIと心壁像CI2との位置関係をより把握しやすい。   FIG. 15 is a diagram illustrating an example of the display image DI2 according to the second embodiment. As shown in FIG. 15, the display image DI2 includes a heart wall image CI2 derived from the CT image and an ablation catheter image AI. The ablation catheter image AI is displayed in front of the heart wall image CI2. By displaying the ablation catheter image AI and the heart wall image CI2 in this way, the operator can easily grasp the three-dimensional positional relationship between the two. Further, as shown in FIG. 15, the name of the part of the heart wall is indicated by the character information, so that the operator can easily grasp the positional relationship between the ablation catheter image AI and the heart wall image CI2.

また、表示部14は、図16に示すように、X線動画像FIに心壁像CI2を重ねて表示してもよい。   Further, as shown in FIG. 16, the display unit 14 may display the heart wall image CI2 on the X-ray moving image FI.

第2実施形態に係る画像処理装置2は、X線コンピュータ断層撮影装置400からの3次元画像データとX線撮像装置100からのX線画像データとに基づいて心壁3次元画像のデータとアブレーションカテーテル3次元画像のデータとを発生し、発生した心壁3次元画像とアブレーションカテーテル3次元画像とに基づく表示画像を表示する。この表示画像を観察することで、術者は、容易にアブレーションカテーテルの先端部分が心壁に対して垂直にあたっているか否かを判断できる。かくして第2実施形態によれば、アブレーション治療における手技時間や手間の削減を実現する画像処理装置を提供することが可能となる。   The image processing apparatus 2 according to the second embodiment uses the three-dimensional image data from the X-ray computed tomography apparatus 400 and the X-ray image data from the X-ray imaging apparatus 100 to ablate and ablate the three-dimensional image of the heart wall. Catheter 3D image data is generated, and a display image based on the generated heart wall 3D image and ablation catheter 3D image is displayed. By observing this display image, the operator can easily determine whether or not the distal end portion of the ablation catheter is perpendicular to the heart wall. Thus, according to the second embodiment, it is possible to provide an image processing apparatus that realizes a reduction in procedure time and labor in ablation treatment.

なお上記説明において、心壁領域のデータは、抽出部184により発生されるとした。しかしながら、第2実施形態はこれに限定されない。例えば、X線コンピュータ断層撮影装置400がCT画像から心壁領域を抽出し、抽出した心壁領域のデータを画像処理装置2に伝送してもよい。伝送された心壁領域のデータは、記憶部12により記憶される。そしてステップSA22において、レジストレーション部185は、記憶部12から心壁領域のデータを読み出してレジストレーション処理を行なう。   In the above description, the data of the heart wall region is generated by the extraction unit 184. However, the second embodiment is not limited to this. For example, the X-ray computed tomography apparatus 400 may extract a heart wall region from the CT image and transmit the extracted heart wall region data to the image processing device 2. The transmitted data of the heart wall region is stored in the storage unit 12. In step SA22, the registration unit 185 reads data of the heart wall region from the storage unit 12 and performs a registration process.

(第3実施形態)
図17は、第3実施形態に係るアブレーション治療支援システムの構成を示す図である。図17に示すように第3実施形態に係るアブレーション治療支援システムは、画像処理装置3、X線撮像装置100、電極カテーテル装置200、アブレーションカテーテル装置300、及びElectro-Anatomical Mapping装置500を備える。なお以下の説明において、第1及び第2実施形態と略同一の機能を有する構成要素については、同一符号を付し、重複説明は必要な場合にのみ行う。
(Third embodiment)
FIG. 17 is a diagram showing a configuration of an ablation treatment support system according to the third embodiment. As shown in FIG. 17, the ablation treatment support system according to the third embodiment includes an image processing device 3, an X-ray imaging device 100, an electrode catheter device 200, an ablation catheter device 300, and an Electro-Anatomical Mapping device 500. In the following description, components having substantially the same functions as those in the first and second embodiments are denoted by the same reference numerals, and redundant description will be given only when necessary.

電極カテーテル装置200は、電極カテーテルにより検出される表面電位のデータをElectro-Anatomical Mapping装置500に伝送する。   The electrode catheter device 200 transmits surface potential data detected by the electrode catheter to the Electro-Anatomical Mapping device 500.

Electro-Anatomical Mapping装置500は、3つの磁場発生装置と、位置検出装置と、第3の制御装置とを備える。3つの磁場発生装置は、典型的に、天板の下に設けられ、磁場を発生する。位置検出装置は、電極カテーテルによる磁場の変化に基づいて電極カテーテルの先端の位置座標を検出する。第3の制御装置は、検出された位置座標と電極カテーテル装置から伝送された表面電位とに基づいて3次元電気マッピング画像のデータを発生する。3次元電気マッピング画像は、心壁に関する3次元画像であり、心壁の形態情報のみならず表面電位等の機能情報をも有する。すなわち、3次元電気マッピング画像を構成する各ボクセルには、表面電位の値に応じた色情報が割り付けられている。また、第3の制御装置は、電極カテーテル装置からの心電図波形に基づいて、特定の一心位相に関する3次元電気マッピング画像のデータを一心拍毎に発生する。発生された3次元電気マッピング画像のデータは、第3の制御装置によりLANを介して画像処理装置3に伝送される。   The Electro-Anatomical Mapping device 500 includes three magnetic field generation devices, a position detection device, and a third control device. The three magnetic field generators are typically provided under the top plate and generate a magnetic field. The position detection device detects the position coordinates of the tip of the electrode catheter based on the change in the magnetic field generated by the electrode catheter. The third control device generates three-dimensional electrical mapping image data based on the detected position coordinates and the surface potential transmitted from the electrode catheter device. The three-dimensional electrical mapping image is a three-dimensional image related to the heart wall, and has functional information such as surface potential as well as shape information of the heart wall. That is, color information corresponding to the value of the surface potential is assigned to each voxel constituting the three-dimensional electrical mapping image. In addition, the third control device generates, for each heartbeat, data of a three-dimensional electrical mapping image related to a specific single heart phase based on the electrocardiogram waveform from the electrode catheter device. The generated three-dimensional electrical mapping image data is transmitted to the image processing device 3 via the LAN by the third control device.

第3実施形態に係る画像処理装置3の構成は、第2実施形態に係る画像処理装置2の構成と同様である。画像処理装置3は、ネットワークインターフェース部10、記憶部12、表示部14、操作部16、心壁3次元画像発生部18、カテーテル3次元画像発生部20、3次元画像合成部22、表示画像発生部24、制御部26、特徴点追跡部28、及び距離計算部30を備える。   The configuration of the image processing device 3 according to the third embodiment is the same as the configuration of the image processing device 2 according to the second embodiment. The image processing device 3 includes a network interface unit 10, a storage unit 12, a display unit 14, an operation unit 16, a heart wall 3D image generation unit 18, a catheter 3D image generation unit 20, a 3D image synthesis unit 22, and a display image generation. Unit 24, control unit 26, feature point tracking unit 28, and distance calculation unit 30.

ネットワークインターフェース部10は、Electro-Anatomical Mapping装置500から伝送される3次元電気マッピング画像のデータをさらに受信する。記憶部12は、Electro-Anatomical Mapping装置500からの3次元電気マッピング画像のデータをさらに記憶する。   The network interface unit 10 further receives data of a three-dimensional electrical mapping image transmitted from the Electro-Anatomical Mapping device 500. The storage unit 12 further stores data of a three-dimensional electrical mapping image from the Electro-Anatomical Mapping apparatus 500.

心壁3次元画像発生部18のレジストレーション部185は、電極3次元画像座標計算部182により計算された複数の電極の3次元座標に基づいて、3次元電気マッピング画像のデータをレジストレーションする。レジストレーションされた3次元電気マッピング画像を心壁3次元画像とする。3次元画像合成部22は、この心壁3次元画像と、カテーテル3次元画像発生部20により発生されたアブレーションカテーテル3次元画像とを合成して、合成3次元画像のデータを発生する。表示画像発生部24は、発生された合成3次元画像を3次元画像処理して表示画像のデータを発生する。発生された表示画像は、表示部14により表示される。   The registration unit 185 of the heart wall three-dimensional image generation unit 18 registers the data of the three-dimensional electrical mapping image based on the three-dimensional coordinates of the plurality of electrodes calculated by the electrode three-dimensional image coordinate calculation unit 182. The registered three-dimensional electrical mapping image is used as a heart wall three-dimensional image. The three-dimensional image synthesizing unit 22 synthesizes the heart wall three-dimensional image and the ablation catheter three-dimensional image generated by the catheter three-dimensional image generation unit 20 to generate synthesized three-dimensional image data. The display image generation unit 24 performs three-dimensional image processing on the generated combined three-dimensional image to generate display image data. The generated display image is displayed by the display unit 14.

以下、画像処理装置3のアブレーション治療での利用例を説明する。   Hereinafter, an example of use of the image processing apparatus 3 in ablation treatment will be described.

第3実施形態に係る制御部26による心壁3次元画像とアブレーションカテーテル3次元画像との合成表示処理の流れは、第1及び第2実施形態の合成表示処理の流れと同様である。しかし、第3実施形態に係る合成表示処理における心壁3次元画像(ステップSA)の処理内容は、第1及び第2実施形態に係る心壁3次元画像(ステップSA)の処理内容と異なる。   The flow of the composite display process of the heart wall 3D image and the ablation catheter 3D image by the control unit 26 according to the third embodiment is the same as the flow of the composite display process of the first and second embodiments. However, the processing content of the three-dimensional heart wall image (step SA) in the composite display processing according to the third embodiment is different from the processing content of the three-dimensional heart wall image (step SA) according to the first and second embodiments.

以下、図18を参照しながら第3実施形態に係る心壁3次元画像の発生処理(ステップSA)の流れを説明する。なお、第1実施形態に係る心壁3次元画像の発生処理(図7に示す)と同様の処理は、同じ符号を付して説明を簡略化する。   The flow of the heart wall 3D image generation process (step SA) according to the third embodiment will be described below with reference to FIG. In addition, the process similar to the generation process (shown in FIG. 7) of the heart wall three-dimensional image according to the first embodiment is denoted by the same reference symbol, and the description is simplified.

術者等により開始指示がなされることを契機として制御部26は、心壁3次元画像の発生処理を開始する。まず、制御部26は、表示部14にX線静止画像の表示処理を行なわせ(ステップSA11)、心壁3次元画像発生部18に2次元座標特定処理(ステップSA12)、3次元座標計算処理を行わせる(ステップS13)。この3次元座標計算処理により、実質的に同一な電極(対応点)に由来する2つの2次元座標から一つの3次元座標が計算される。3次元座標は、複数の電極について計算される。   When the start instruction is given by the operator or the like, the control unit 26 starts the generation process of the heart wall three-dimensional image. First, the control unit 26 causes the display unit 14 to perform X-ray still image display processing (step SA11), and the heart wall three-dimensional image generation unit 18 performs two-dimensional coordinate specification processing (step SA12) and three-dimensional coordinate calculation processing. (Step S13). By this three-dimensional coordinate calculation process, one three-dimensional coordinate is calculated from two two-dimensional coordinates derived from substantially the same electrode (corresponding point). Three-dimensional coordinates are calculated for a plurality of electrodes.

ステップSA13において電極の3次元座標が計算されると心壁3次元画像発生部18は、レジストレーション部185にレジストレーション処理を行なわせる(ステップSA31)。レジストレーション処理においてレジストレーション部185は、複数の電極の3次元座標に基づいて、Electro-Anatomical Mapping装置500からの3次元電気マッピング画像をレジストレーションする。具体的には、複数の電極の3次元座標に心壁領域の内側が位置整合するように、3次元電気マッピング画像をレジストレーションする。レジストレーション処理により、心壁3次元画像のデータが発生される。   When the three-dimensional coordinates of the electrodes are calculated in step SA13, the heart wall three-dimensional image generation unit 18 causes the registration unit 185 to perform a registration process (step SA31). In the registration process, the registration unit 185 registers the three-dimensional electrical mapping image from the Electro-Anatomical Mapping apparatus 500 based on the three-dimensional coordinates of the plurality of electrodes. Specifically, the three-dimensional electrical mapping image is registered so that the inner side of the heart wall region is aligned with the three-dimensional coordinates of the plurality of electrodes. By the registration process, data of a three-dimensional heart wall image is generated.

以上で第3実施形態に係る心壁3次元画像の発生処理は終了する。   This completes the generation process of the three-dimensional heart wall image according to the third embodiment.

ステップSAが終了すると、ステップSBにおいてアブレーションカテーテル3次元画像が発生され、ステップSCにおいて合成3次元画像が発生され、ステップSDにおいて表示画像が発生され、ステップSEにおいて表示画像が表示される。   When step SA is completed, an ablation catheter 3D image is generated in step SB, a combined 3D image is generated in step SC, a display image is generated in step SD, and a display image is displayed in step SE.

図19は、第3実施形態に係る表示画像DI3の一例を示す図である。図19に示すように、表示画像DI3は、3次元電気マッピング画像に由来する心壁像CI3と、アブレーションカテーテル像AIと含む。アブレーションカテーテル像AIは、心壁像CI3よりも前面に表示される。このようにアブレーションカテーテル像AIと心壁像CI3とが表示されることで、術者は、両者の3次元的な位置関係を把握しやすい。また、心壁像CI3は、表面電位の値に応じて色が変化するので、術者は、この表示画像DI3を観察するだけで、電位の異常部位(治療部位)を特定することができる。また、心壁の部位の名称が文字情報で示されることにより術者は、アブレーションカテーテル像AIと心壁像CI3との位置関係をより把握しやすい。   FIG. 19 is a diagram illustrating an example of the display image DI3 according to the third embodiment. As shown in FIG. 19, the display image DI3 includes a heart wall image CI3 derived from a three-dimensional electrical mapping image and an ablation catheter image AI. The ablation catheter image AI is displayed in front of the heart wall image CI3. By displaying the ablation catheter image AI and the heart wall image CI3 in this way, the operator can easily grasp the three-dimensional positional relationship between the two. Further, since the color of the heart wall image CI3 changes according to the value of the surface potential, the surgeon can identify an abnormal potential site (treatment site) simply by observing the display image DI3. In addition, since the name of the part of the heart wall is indicated by the character information, the surgeon can easily grasp the positional relationship between the ablation catheter image AI and the heart wall image CI3.

また、表示部14は、図20に示すように、X線動画像FIに心壁像CI3を重ねて表示してもよい。   Further, as shown in FIG. 20, the display unit 14 may display the heart wall image CI3 so as to overlap the X-ray moving image FI.

第3実施形態に係る画像処理装置3は、Electro-Anatomical Mapping装置500からの3次元電気マッピング画像データとX線撮像装置100からのX線画像データとに基づいて心壁3次元画像のデータとアブレーションカテーテル3次元画像のデータとを発生し、発生した心壁3次元画像とアブレーションカテーテル3次元画像とに基づく表示画像を表示する。この表示画像を観察することで、術者は、容易にアブレーションカテーテルの先端部分が心壁に対して垂直にあたっているか否かを判断できる。かくして第3実施形態によれば、アブレーション治療における手技時間や手間の削減を実現する画像処理装置を提供することが可能となる。   The image processing apparatus 3 according to the third embodiment is based on the three-dimensional electrical mapping image data from the Electro-Anatomical Mapping apparatus 500 and the X-ray image data from the X-ray imaging apparatus 100, and Ablation catheter 3D image data is generated, and a display image based on the generated heart wall 3D image and ablation catheter 3D image is displayed. By observing this display image, the operator can easily determine whether or not the distal end portion of the ablation catheter is perpendicular to the heart wall. Thus, according to the third embodiment, it is possible to provide an image processing apparatus that realizes a reduction in procedure time and labor in ablation treatment.

(第4実施形態)
図21は、第4実施形態に係る画像処理装置4の構成を示す図である。図21に示すように画像処理装置4は、ネットワークインターフェース部10、記憶部12、表示部14、操作部16、心壁3次元画像発生部18、カテーテル3次元画像発生部20、3次元画像合成部22、表示は像発生部24、制御部26、特徴点追跡部28、距離計算部30、及び電極・心電図対応付け部32を備える。
(Fourth embodiment)
FIG. 21 is a diagram illustrating a configuration of the image processing device 4 according to the fourth embodiment. As shown in FIG. 21, the image processing apparatus 4 includes a network interface unit 10, a storage unit 12, a display unit 14, an operation unit 16, a heart wall three-dimensional image generation unit 18, a catheter three-dimensional image generation unit 20, and a three-dimensional image synthesis. The display unit 22 includes an image generation unit 24, a control unit 26, a feature point tracking unit 28, a distance calculation unit 30, and an electrode / electrocardiogram association unit 32.

心電図・電極対応付け部32は、電極カテーテル装置200からの複数の心電図波形とX線静止画像に描出される複数の電極とをそれぞれ対応付ける。   The electrocardiogram / electrode association unit 32 associates a plurality of electrocardiogram waveforms from the electrode catheter device 200 with a plurality of electrodes depicted in an X-ray still image.

心壁3次元画像発生部18は、電極2次元座標特定部181、電極3次元画像計算部182、心壁構築部183、及び色情報割り付け部186を備える。色情報割り付け部186は、電極の3次元座標と心電図波形とに基づいて、心壁構築部183により発生された心壁3次元画像を構成するボクセルに表面電位に応じた色情報を割り付ける。この色情報割り付け処理により、色情報が割り付けられた心壁3次元画像のデータが発生される。   The heart wall three-dimensional image generation unit 18 includes an electrode two-dimensional coordinate specification unit 181, an electrode three-dimensional image calculation unit 182, a heart wall construction unit 183, and a color information allocation unit 186. The color information assigning unit 186 assigns color information corresponding to the surface potential to the voxels constituting the three-dimensional heart wall image generated by the heart wall constructing unit 183 based on the three-dimensional coordinates of the electrodes and the electrocardiogram waveform. By this color information assignment process, data of the heart wall three-dimensional image to which the color information is assigned is generated.

3次元画像合成部22は、この色情報が割り付けられた心壁3次元画像と、カテーテル3次元画像発生部20により発生されたアブレーションカテーテル3次元画像とを合成して、合成3次元画像のデータを発生する。表示画像発生部24は、発生された合成3次元画像を3次元画像処理して表示画像のデータを発生する。発生された表示画像は、表示部14により表示される。   The three-dimensional image composition unit 22 synthesizes the three-dimensional image of the heart wall to which the color information is assigned and the three-dimensional image of the ablation catheter generated by the catheter three-dimensional image generation unit 20 to generate data of the composite three-dimensional image. Is generated. The display image generation unit 24 performs three-dimensional image processing on the generated combined three-dimensional image to generate display image data. The generated display image is displayed by the display unit 14.

なお、第4実施形態に係るアブレーション治療システムの構成は、第1実施形態に係るアブレーション治療システムの構成と同様である。   The configuration of the ablation treatment system according to the fourth embodiment is the same as the configuration of the ablation treatment system according to the first embodiment.

以下、画像処理装置4のアブレーション治療での利用例を説明する。   Hereinafter, a usage example of the image processing apparatus 4 in the ablation treatment will be described.

第4実施形態に係る制御部26による心壁3次元画像とアブレーションカテーテル3次元画像との合成表示処理の流れは、第1及び第2及び第3実施形態の合成表示処理の流れと同様である。しかし、第3実施形態に係る合成表示処理における心壁3次元画像(ステップSA)の処理内容は、第1及び第2及び第3実施形態に係る心壁3次元画像(ステップSA)の処理内容と異なる。   The flow of the composite display process of the heart wall 3D image and the ablation catheter 3D image by the control unit 26 according to the fourth embodiment is the same as the flow of the composite display process of the first, second, and third embodiments. . However, the processing content of the three-dimensional heart wall image (step SA) in the composite display processing according to the third embodiment is the processing content of the three-dimensional heart wall image (step SA) according to the first, second, and third embodiments. And different.

以下、図22を参照しながら第4実施形態に係る心壁3次元画像の発生処理(ステップSA)の流れを説明する。なお、第1実施形態に係る心壁3次元画像の発生処理(図7に示す)と同様の処理は、同じ符号を付して説明を簡略化する。   The flow of the heart wall 3D image generation process (step SA) according to the fourth embodiment will be described below with reference to FIG. In addition, the process similar to the generation process (shown in FIG. 7) of the heart wall three-dimensional image according to the first embodiment is denoted by the same reference symbol, and the description is simplified.

術者等により開始指示がなされることを契機として制御部26は、心壁3次元画像の発生処理を開始する。まず、制御部26は、表示部14に表示処理を行なわせる(ステップSA41)。表示処理において表示部14は、X線撮像装置100からの2つの観察角度に関するX線静止画像と電極カテーテル装置からの心電図波形とを並べて表示する。   When the start instruction is given by the operator or the like, the control unit 26 starts the generation process of the heart wall three-dimensional image. First, the control unit 26 causes the display unit 14 to perform display processing (step SA41). In the display process, the display unit 14 displays an X-ray still image related to two observation angles from the X-ray imaging apparatus 100 and an electrocardiogram waveform from the electrode catheter apparatus side by side.

図23は、ステップSA41において表示される画面Dの一例を示す図である。図23に示すように、画面Dは、患者正面方向に関するX線静止画像SI1が表示される領域R1、患者側面方向に関するX線静止画像SI2が表示される領域R2、及び複数の心電図波形Wが表示される領域R3を有する。ユーザは、電極と心電図波形とを対応付けるために、操作部16を介してX線静止画像SI1又はSI2上で電極を指定し、指定した電極に対応する心電図波形Wを指定する。ユーザは、この作業を電極の数だけ繰り返す。   FIG. 23 is a diagram illustrating an example of the screen D displayed in step SA41. As shown in FIG. 23, the screen D includes a region R1 where an X-ray still image SI1 related to the patient front direction is displayed, a region R2 where an X-ray still image SI2 related to the patient side direction is displayed, and a plurality of electrocardiogram waveforms W. It has a region R3 to be displayed. In order to associate the electrode with the electrocardiogram waveform, the user designates the electrode on the X-ray still image SI1 or SI2 via the operation unit 16, and designates the electrocardiogram waveform W corresponding to the designated electrode. The user repeats this operation for the number of electrodes.

心電図波形と電極とが指定されると制御部26は、電極・心電図対応付け部32に対応付け処理を行なわせる(ステップSA42)。この対応付け処理において電極・心電図対応付け部32は、対応付けのルールに従って、対応する電極と心電図とを対応付ける。対応付けのルールは、例えば、初めに電極が指定され、次に指定された電極に対応する心電図波形が指定されることで、当該指定された電極と心電図波形とを対応付けるというルールである。なお、この心電図と電極との対応付けは、ステップSA12と同時に行なわれてもよい。   When the electrocardiogram waveform and the electrode are designated, the control unit 26 causes the electrode / electrocardiogram association unit 32 to perform association processing (step SA42). In this association processing, the electrode / electrocardiogram association unit 32 associates the corresponding electrode and the electrocardiogram according to the association rules. The association rule is, for example, a rule that an electrode is designated first, and an electrocardiogram waveform corresponding to the designated electrode is designated next, so that the designated electrode is associated with the electrocardiogram waveform. The association between the electrocardiogram and the electrode may be performed simultaneously with step SA12.

ステップSA14において心壁3次元画像のデータが発生され、ステップSA42において心電図波形と電極とが対応付けられると心壁3次元画像発生部18は、色情報割り付け部186に色情報割り付け処理を行なわせる(ステップSA43)。色情報割り付け処理において色情報割り付け部186は、電極の3次元座標と心電図波形とに基づいて、心壁構築部183により発生された心壁3次元画像を構成するボクセルに表面電位に応じた色情報を割り付ける。この処理は、第3実施形態に係るElectro-Anatomical Mapping装置400による3次元電気マッピング画像の発生方法と同様である。この色情報割り付け処理により、色情報が割り付けられた心壁3次元画像のデータが発生される。   In step SA14, cardiac wall three-dimensional image data is generated. In step SA42, when the electrocardiogram waveform and the electrode are associated with each other, the cardiac wall three-dimensional image generation unit 18 causes the color information allocation unit 186 to perform color information allocation processing. (Step SA43). In the color information allocating process, the color information allocating unit 186 determines the color corresponding to the surface potential on the voxels constituting the three-dimensional heart wall image generated by the cardiac wall constructing unit 183 based on the three-dimensional coordinates of the electrodes and the electrocardiogram waveform. Assign information. This process is the same as the method for generating a three-dimensional electrical mapping image by the Electro-Anatomical Mapping apparatus 400 according to the third embodiment. By this color information assignment process, data of the heart wall three-dimensional image to which the color information is assigned is generated.

以上で第4実施形態に係る心壁3次元画像の発生処理は終了する。   Thus, the generation process of the heart wall three-dimensional image according to the fourth embodiment is completed.

ステップSAが終了すると、ステップSBにおいてアブレーションカテーテル3次元画像が発生され、ステップSCにおいて合成3次元画像が発生され、ステップSDにおいて表示画像が発生され、ステップSEにおいて表示画像が表示される。表示画像は、アブレーションカテーテル像と色情報が割り付けられた3次元電気マッピング画像に由来する心壁像とを有する。この心壁像は、表面電位の値に応じて色が変化する。心壁像は、一心拍毎に形状及び色が更新される。   When step SA is completed, an ablation catheter 3D image is generated in step SB, a combined 3D image is generated in step SC, a display image is generated in step SD, and a display image is displayed in step SE. The display image includes an ablation catheter image and a heart wall image derived from a three-dimensional electrical mapping image to which color information is assigned. This heart wall image changes in color according to the value of the surface potential. The shape and color of the heart wall image is updated every heartbeat.

第4の実施形態においては、以下に示す表示の応用例がある。表示部14は、手術室にいる術者が視認可能な場所に設けられた3つのモニタ(第1のモニタ、第2のモニタ、及び第3のモニタ)を有する。第1のモニタには、X線動画像が表示される。このX線動画像は、例えば、一秒間に30回更新される。第2のモニタには、表示画像は表示される。表示画像は、一心拍毎に更新される。第3のモニタには、X線動画像に心壁像が重ね合わせて表示される。   In the fourth embodiment, there are display applications shown below. The display unit 14 includes three monitors (a first monitor, a second monitor, and a third monitor) provided at a place where an operator in the operating room can visually recognize. An X-ray moving image is displayed on the first monitor. This X-ray moving image is updated 30 times per second, for example. The display image is displayed on the second monitor. The display image is updated every heartbeat. On the third monitor, a heart wall image is superimposed and displayed on the X-ray moving image.

第4実施形態に係る画像処理装置4は、X線撮像装置100からのX線画像データに基づいて心壁3次元画像のデータとアブレーションカテーテル3次元画像のデータとを発生し、電極カテーテル装置200からの心電図波形データに基づいて心壁3次元画像に表面電位に応じて変化する色情報を割り付け、色情報が割り付けられた心壁3次元画像とアブレーションカテーテル3次元画像とに基づく表示画像を表示する。この表示画像を観察することで、術者は、容易にアブレーションカテーテルの先端部分が心壁に対して垂直にあたっているか否かを判断できる。かくして第4実施形態によれば、アブレーション治療における手技時間や手間の削減を実現する画像処理装置を提供することが可能となる。   The image processing apparatus 4 according to the fourth embodiment generates the heart wall 3D image data and the ablation catheter 3D image data based on the X-ray image data from the X-ray imaging apparatus 100, and the electrode catheter apparatus 200. Based on the electrocardiogram waveform data from, color information that changes according to the surface potential is assigned to the heart wall three-dimensional image, and a display image based on the heart wall three-dimensional image to which the color information is assigned and the ablation catheter three-dimensional image is displayed. To do. By observing this display image, the operator can easily determine whether or not the distal end portion of the ablation catheter is perpendicular to the heart wall. Thus, according to the fourth embodiment, it is possible to provide an image processing apparatus that realizes a reduction in procedure time and labor in ablation treatment.

なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。   Note that the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.

本発明の第1実施形態に係るアブレーション治療システムの構成を示す図。The figure which shows the structure of the ablation treatment system which concerns on 1st Embodiment of this invention. 図1のX線撮像装置の撮像系の模式図。The schematic diagram of the imaging system of the X-ray imaging device of FIG. 図1に示す第1実施形態に係る画像処理装置の構成を示す図。The figure which shows the structure of the image processing apparatus which concerns on 1st Embodiment shown in FIG. 図1に示す第1実施形態に係る制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理の流れを示す図。The figure which shows the flow of the composite display process of the heart wall three-dimensional image and ablation catheter by the control part which concerns on 1st Embodiment shown in FIG. 図4のステップSEにおいて表示される表示画像の一例を示す図。The figure which shows an example of the display image displayed in step SE of FIG. 図4のステップSEにおいて表示される画像の他の例を示す図。The figure which shows the other example of the image displayed in step SE of FIG. 図4のステップSAの処理の流れを示す図。The figure which shows the flow of a process of step SA of FIG. 図7のステップSA12にける電極指定処理を説明するための図。The figure for demonstrating the electrode designation | designated process in step SA12 of FIG. 図7のステップSA13において用いられるエピポーラ幾何理論を説明するための図。The figure for demonstrating the epipolar geometry theory used in step SA13 of FIG. 図7のステップSA14において心壁構築部により行なわれる曲面計算処理を説明するための図。The figure for demonstrating the curved-surface calculation process performed by the heart wall construction part in step SA14 of FIG. 図4のステップSBの処理の流れを示す図。The figure which shows the flow of a process of step SB of FIG. 本発明の第2実施形態に係るアブレーション治療システムの構成を示す図。The figure which shows the structure of the ablation treatment system which concerns on 2nd Embodiment of this invention. 図12に示す第2実施形態に係る画像処理装置の構成を示す図。The figure which shows the structure of the image processing apparatus which concerns on 2nd Embodiment shown in FIG. 図12に示す第2実施形態に係る制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSAの流れを示す図。The figure which shows the flow of step SA of the composite display process of the heart wall three-dimensional image and ablation catheter by the control part which concerns on 2nd Embodiment shown in FIG. 図12に示す第2実施形態に係る制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSEにおいて表示される表示画像の一例を示す図。The figure which shows an example of the display image displayed in step SE of the synthetic | combination display process of the heart wall three-dimensional image and ablation catheter by the control part which concerns on 2nd Embodiment shown in FIG. 図12に示す第2実施形態に係る制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSEにおいて表示される画像の他の例を示す図。The figure which shows the other example of the image displayed in step SE of the composite display process of the heart wall three-dimensional image and ablation catheter by the control part which concerns on 2nd Embodiment shown in FIG. 本発明の第3実施形態に係るアブレーション治療システムの構成を示す図。The figure which shows the structure of the ablation treatment system which concerns on 3rd Embodiment of this invention. 図17に示す第3実施形態に係る画像処理装置の制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSAの流れを示す図。The figure which shows the flow of step SA of the synthetic | combination display process of the heart wall three-dimensional image and an ablation catheter by the control part of the image processing apparatus which concerns on 3rd Embodiment shown in FIG. 図17に示す第3実施形態に係る画像処理装置の制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSEにおいて表示される表示画像の一例を示す図。The figure which shows an example of the display image displayed in step SE of the synthetic | combination display process of the heart wall three-dimensional image and an ablation catheter by the control part of the image processing apparatus which concerns on 3rd Embodiment shown in FIG. 図17に示す第3実施形態に係る画像処理装置の制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSEにおいて表示される画像の他の例を示す図。The figure which shows the other example of the image displayed in step SE of the synthetic | combination display process of the heart wall three-dimensional image and an ablation catheter by the control part of the image processing apparatus which concerns on 3rd Embodiment shown in FIG. 第4実施形態に係る画像処理装置の構成を示す図。The figure which shows the structure of the image processing apparatus which concerns on 4th Embodiment. 図21に示す画像処理装置の制御部による心壁3次元画像とアブレーションカテーテルとの合成表示処理のステップSAの流れを示す図。The figure which shows the flow of step SA of the synthetic | combination display process with the three-dimensional heart wall image and ablation catheter by the control part of the image processing apparatus shown in FIG. 図22のステップSA41において表示される電極と心電図との対応付けを行なうための画面例を示す図。The figure which shows the example of a screen for performing matching with the electrode displayed in step SA41 of FIG. 22, and an electrocardiogram.

符号の説明Explanation of symbols

1…画像処理装置、100…X線撮像装置、200…電極カテーテル装置、300…アブレーションカテーテル装置、10…ネットワークインターフェース部、12…記憶部、14…表示部、16…操作部、18…心壁3次元画像発生部、20…カテーテル3次元画像発生部、22…3次元画像合成部、24…表示画像発生部、26…制御部、28…特徴点追跡部、30…距離計算部。   DESCRIPTION OF SYMBOLS 1 ... Image processing apparatus, 100 ... X-ray imaging apparatus, 200 ... Electrode catheter apparatus, 300 ... Ablation catheter apparatus, 10 ... Network interface part, 12 ... Memory | storage part, 14 ... Display part, 16 ... Operation part, 18 ... Heart wall Three-dimensional image generation unit, 20 ... catheter three-dimensional image generation unit, 22 ... three-dimensional image synthesis unit, 24 ... display image generation unit, 26 ... control unit, 28 ... feature point tracking unit, 30 ... distance calculation unit.

Claims (13)

X線撮像装置により2つの観察角度で被検体の特定器官を撮影することにより発生された2つの第1のX線画像を記憶する記憶部と、
前記2つの第1のX線画像の各々に含まれ、前記特定器官の内壁上にある実質的に同一な複数の第1の特徴点の3次元座標を計算する第1座標計算部と、
前記計算された複数の第1の特徴点の3次元座標を通過する面に関する3次元画像のデータを発生する面画像発生部と、
カテーテル術中においてX線撮像装置によって発生された2つの観察角度に関する2つのX線画像に基づいてカテーテルに関する3次元画像のデータを発生するカテーテル画像発生部と、
前記発生されたカテーテルに関する3次元画像と前記に関する3次元画像とを合成することによって3次元合成画像のデータを発生する合成部と、
前記発生された3次元合成画像のデータを3次元画像処理して2次元の表示画像のデータを発生する表示画像発生部と、
前記発生された表示画像を表示する表示部と、
を具備する画像処理装置。
A storage unit for storing two first X-ray images generated by imaging a specific organ of a subject at two observation angles by an X-ray imaging apparatus ;
A first coordinate calculator included in each of the two first X-ray images and calculating three-dimensional coordinates of a plurality of substantially identical first feature points on the inner wall of the specific organ;
A surface image generator that generates data of a three-dimensional image relating to a surface that passes through the three-dimensional coordinates of the plurality of calculated first feature points;
A catheter image generator for generating three-dimensional image data relating to the catheter based on two X-ray images relating to two observation angles generated by the X-ray imaging device during catheterization;
A combining unit that generates data of a three-dimensional composite image by combining the generated three-dimensional image related to the catheter and the three-dimensional image related to the surface ;
A display image generator for generating two-dimensional display image data by performing three-dimensional image processing on the generated three-dimensional composite image data;
A display unit for displaying the generated display image;
An image processing apparatus comprising:
前記複数の第1の特徴点を指定する指定部、をさらに備える請求項1記載の画像処理装置。 The image processing apparatus further comprises according to claim 1, wherein the finger tough, to specify the plurality of first feature points. 前記画像発生部は、前記複数の3次元座標を通る面を計算し、前記計算された面に基づいて前記に関する3次元画像のデータを構築する、請求項記載の画像処理装置。 The face image generating section, a plurality of three-dimensional coordinates to calculate the passing Ru surface, building a data of a three-dimensional image concerning said surface based on the calculated surface, the image processing apparatus according to claim 1. 前記2つの第2のX線画像上で、前記カテーテル上にある実質的に同一な複数の第2の特徴点を指定する指定部と、
前記指定された複数の第2の特徴点の複数の3次元座標をエピポーラ幾何理論に基づいてそれぞれ計算する第2座標計算部と、をさらに備え、
前記カテーテル画像発生部は、前記計算された複数の第2の特徴点の3次元座標に基づいて前記カテーテルに関する3次元画像のデータを構築する、
請求項1記載の画像処理装置。
On said two second X-ray image, and a finger tough to specify substantially identical plurality of second feature points located on the catheter,
A second coordinate calculator that calculates a plurality of three-dimensional coordinates of the plurality of designated second feature points based on epipolar geometry theory, respectively.
The catheter image generation unit constructs data of a three-dimensional image related to the catheter based on the calculated three-dimensional coordinates of the plurality of second feature points .
The image processing apparatus according to claim 1.
電極カテーテル装置からの複数の心電図波形を前記複数の第1の特徴点にそれぞれ対応付ける対応付け部と、
前記対応付けられた複数の第1の特徴点の位置と心電図波形が示す電位の値とに基づいて、前記に関する3次元画像に前記電位の値に応じた色情報を割り付ける割り付け部とをさらに備える、
請求項記載の画像処理装置。
An associating unit that associates a plurality of electrocardiogram waveforms from the electrode catheter device with the plurality of first feature points, respectively;
An allocating unit that assigns color information corresponding to the potential value to a three-dimensional image related to the surface based on the positions of the plurality of associated first feature points and the potential value indicated by the electrocardiogram waveform; Prepare
The image processing apparatus according to claim 1 .
X線コンピュータ断層撮影装置からのCT画像から前記特定器官の内壁の領域を抽出する抽出部と、
前記抽出された内壁の領域が前記複数の第1の特徴点の3次元座標に位置整合するように前記内壁の領域をレジストレーションするレジストレーション部と、をさらに備え、
前記3次元画像合成部は、前記レジストレーションされた内壁の領域を前記に関する3次元画像として、前記カテーテルに関する3次元画像と合成する、
請求項記載の画像処理装置。
An extraction unit for extracting the region of the inner wall of the specific organ from the CT image from the X-ray computed tomography apparatus;
Additionally and a registration, Relais resist Configuration section area of the inner wall as the region of the extracted inner wall is aligned in 3-dimensional coordinates of the plurality of first feature points,
The three-dimensional image composition unit composes a region of the registered inner wall as a three-dimensional image related to the surface and a three-dimensional image related to the catheter.
The image processing apparatus according to claim 1 .
次元電気マッピング画像が前記複数の第1の特徴点の3次元座標に位置整合するように前記内壁の領域をレジストレーションするレジストレーション部をさらに備え、
前記3次元画像合成部は、前記レジストレーションされた3次元電気マッピング画像を前記に関する3次元画像として、前記カテーテルに関する3次元画像と合成する、請求項記載の画像処理装置。
3D electrical mapping image further comprises a registration, Relais resist Configuration section area of the inner wall so as to be positioned aligned with the 3-dimensional coordinates of the plurality of first feature points,
The three-dimensional image synthesizing unit, the registration three-dimensional electrical mapping image was as a three-dimensional image concerning said plane, is combined with three-dimensional image concerning said catheter, an image processing apparatus according to claim 1.
前記表示部は、前記表示画像上における前記複数の第1の特徴点を前記と区別して表示する、請求項記載の画像処理装置。 The display unit, said display said on the image a plurality of the first feature points displayed differently from the face, the image processing apparatus according to claim 1. 前記表示部は、前記複数の第1の特徴点のうち焼灼された位置にある特徴点を他の特徴点から区別して表示する、請求項8記載の画像処理装置。   The image processing apparatus according to claim 8, wherein the display unit distinguishes and displays a feature point at a cauterized position among the plurality of first feature points from other feature points. 前記3次元合成画像における前記の部分と前記カテーテルの先端部分との間の距離を計算する距離計算部をさらに備え、
前記表示部は、前記計算された距離を表示する、請求項1記載の画像処理装置。
A distance calculator for calculating a distance between the surface portion and the catheter tip portion in the three-dimensional composite image;
The image processing apparatus according to claim 1, wherein the display unit displays the calculated distance.
前記表示部は、前記X線撮像装置からのX線画像に前記表示画像に含まれる面領域を重ねて表示する、請求項1記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the display unit displays an X-ray image from the X-ray imaging apparatus by superimposing a surface area included in the display image. 前記表示部は、前記X線撮像装置に備えられるCアームの回転に連動して前記表示画像の観察角度を回転する、請求項1記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the display unit rotates an observation angle of the display image in conjunction with rotation of a C arm included in the X-ray imaging apparatus. 前記第2の特徴点を画像パターンマッチングにより追跡する追跡部をさらに備える、請求項4記載の画像処理装置。   The image processing apparatus according to claim 4, further comprising a tracking unit that tracks the second feature point by image pattern matching.
JP2008175770A 2008-07-04 2008-07-04 Image processing device Expired - Fee Related JP5269500B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008175770A JP5269500B2 (en) 2008-07-04 2008-07-04 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008175770A JP5269500B2 (en) 2008-07-04 2008-07-04 Image processing device

Publications (2)

Publication Number Publication Date
JP2010012097A JP2010012097A (en) 2010-01-21
JP5269500B2 true JP5269500B2 (en) 2013-08-21

Family

ID=41698829

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008175770A Expired - Fee Related JP5269500B2 (en) 2008-07-04 2008-07-04 Image processing device

Country Status (1)

Country Link
JP (1) JP5269500B2 (en)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0618388B2 (en) * 1984-09-28 1994-03-09 沖電気工業株式会社 Signal distance calculation processing method
WO2011138711A1 (en) * 2010-05-03 2011-11-10 Koninklijke Philips Electronics N.V. Medical viewing system and method for generating an angulated view of an object of interest
JP2012120563A (en) * 2010-12-06 2012-06-28 Shimadzu Corp X-ray radiographic apparatus
JP6062174B2 (en) 2011-07-22 2017-01-18 東芝メディカルシステムズ株式会社 X-ray diagnostic apparatus and control program
JP5865664B2 (en) * 2011-10-07 2016-02-17 株式会社東芝 Medical image diagnostic apparatus and medical image processing method
EP2754126B1 (en) * 2011-11-18 2020-07-01 Koninklijke Philips N.V. Pairing of an anatomy representation with live images
JP5238893B1 (en) * 2012-02-22 2013-07-17 株式会社東芝 X-ray CT apparatus, image display apparatus, and image display method
WO2014091418A1 (en) 2012-12-14 2014-06-19 Koninklijke Philips N.V. Position determination apparatus
JP2015002987A (en) * 2013-05-21 2015-01-08 株式会社東芝 Medical information distribution system
US9460563B2 (en) * 2014-11-28 2016-10-04 Biosense Webster (Israel) Ltd. Differential mapping of a body organ
US10105117B2 (en) * 2015-02-13 2018-10-23 Biosense Webster (Israel) Ltd. Compensation for heart movement using coronary sinus catheter images
JP6945293B2 (en) * 2015-11-16 2021-10-06 キヤノンメディカルシステムズ株式会社 X-ray diagnostic equipment and medical diagnostic imaging system
US10398337B2 (en) * 2017-03-07 2019-09-03 Biosense Webster (Israel) Ltd. Automatic tracking and adjustment of the view angle during catheter ablation treatment
JP6971598B2 (en) 2017-03-13 2021-11-24 キヤノンメディカルシステムズ株式会社 X-ray diagnostic equipment, image processing equipment and image processing program
EP3406195A1 (en) * 2017-05-24 2018-11-28 Koninklijke Philips N.V. Device and a corresponding method for providing spatial information of an interventional device in a live 2d x-ray image

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004181176A (en) * 2002-12-01 2004-07-02 Sunao Kitamura Cardiac muscle palpation training system
DE10340544B4 (en) * 2003-09-01 2006-08-03 Siemens Ag Device for visual support of electrophysiology catheter application in the heart
US7327872B2 (en) * 2004-10-13 2008-02-05 General Electric Company Method and system for registering 3D models of anatomical regions with projection images of the same
JP4926981B2 (en) * 2005-01-31 2012-05-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ System and method for guiding a catheter in electrophysiological intervention
EP1912565B1 (en) * 2005-08-05 2011-09-14 Koninklijke Philips Electronics N.V. Catheter navigation system
JP5121173B2 (en) * 2006-06-29 2013-01-16 株式会社東芝 3D image generator

Also Published As

Publication number Publication date
JP2010012097A (en) 2010-01-21

Similar Documents

Publication Publication Date Title
JP5269500B2 (en) Image processing device
JP5337367B2 (en) Medical image display device
JP5575356B2 (en) Image display method and apparatus, and image display program
US6923768B2 (en) Method and apparatus for acquiring and displaying a medical instrument introduced into a cavity organ of a patient to be examined or treated
US8634896B2 (en) 3D model creation of anatomic structures using single-plane fluoroscopy
JP5019877B2 (en) Method of operating a device for visual support of electrophysiological catheter therapy in the heart and device for carrying out this method
JP5005345B2 (en) Method for controller to control device for visual support of electrophysiological catheter therapy in heart and device for visual support of electrophysiological catheter therapy in heart
JP5911243B2 (en) Image display device
CN108694743A (en) Two dimensional image/photographic projection to 3D is rebuild to the method on the external membrane of heart view of such as heart
Sra et al. Registration of 3D computed tomographic images with interventional systems: Implications for catheter ablation of atrial fibrillation
JP5896737B2 (en) Respirometer, Respirometer operating method, and Respiratory computer program
US20080317195A1 (en) Medical-diagnosis assisting apparatus, medical-diagnosis assisting method, and radiodiagnosis apparatus
CA2578962A1 (en) Ablation-therapy of cardiac arrhythmias
IL259171A (en) System and method for glass state view in real-time three-dimensional (3d) cardiac imaging
WO2014046214A1 (en) Image processing system, x-ray diagnostic device, and image processing method
JP2014509895A (en) Diagnostic imaging system and method for providing an image display to assist in the accurate guidance of an interventional device in a vascular intervention procedure
JP2017217474A (en) Medical image diagnostic apparatus and medical image processing system
US20110019892A1 (en) Method and apparatus for visually supporting an electrophysiological catheter application
JP5641707B2 (en) X-ray diagnostic equipment
JP4777164B2 (en) HEART RATE DETERMINATION DEVICE, PROGRAM, AND X-RAY DIAGNOSIS DEVICE
JP2006239253A (en) Image processing device and image processing method
JP2009082471A (en) Image display, image display method, x-ray diagnosing treatment apparatus and its image display method
CN101856233B (en) X-ray diagnosis apparatus
US10561380B2 (en) Determining and displaying the 3D location and orientation of a cardiac-ablation balloon
US20200155086A1 (en) Determining and displaying the 3d location and orientation of a cardiac-ablation balloon

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110617

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130508

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5269500

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees