JP2015523183A - ロードマッピングのためのデバイス位置依存型オーバレイ - Google Patents

ロードマッピングのためのデバイス位置依存型オーバレイ Download PDF

Info

Publication number
JP2015523183A
JP2015523183A JP2015524879A JP2015524879A JP2015523183A JP 2015523183 A JP2015523183 A JP 2015523183A JP 2015524879 A JP2015524879 A JP 2015524879A JP 2015524879 A JP2015524879 A JP 2015524879A JP 2015523183 A JP2015523183 A JP 2015523183A
Authority
JP
Japan
Prior art keywords
image
images
context
angiographic
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015524879A
Other languages
English (en)
Other versions
JP6416090B2 (ja
Inventor
ヴィンセント マウリス アンドレ オーブレイ
ヴィンセント マウリス アンドレ オーブレイ
ラウル フローレント
ラウル フローレント
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2015523183A publication Critical patent/JP2015523183A/ja
Application granted granted Critical
Publication of JP6416090B2 publication Critical patent/JP6416090B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/12Arrangements for detecting or locating foreign bodies
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/48Diagnostic techniques
    • A61B6/486Diagnostic techniques involving generating temporal series of image data
    • A61B6/487Diagnostic techniques involving generating temporal series of image data involving fluoroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/50Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
    • A61B6/504Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of blood vessels, e.g. by angiography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5235Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5288Devices using data or image processing specially adapted for radiation diagnosis involving retrospective matching to a physiological signal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/026Control of mixing and/or overlay of colours in general
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/46Arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • A61B6/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/48Diagnostic techniques
    • A61B6/481Diagnostic techniques involving the use of contrast agents
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physiology (AREA)
  • Vascular Medicine (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

心臓又は神経インターベンションをサポートするための画像プロセッサIP及び画像処理方法である。介入ツールが心血管系といった関心領域ROI内を進む間に、イメージャ100が一連の蛍光透視画像Fを取得する。画像プロセッサIPは、関心領域について事前に取得された複数の保存されている血管造影画像Aから、コンテクスト血管造影画像を選択し、そこから、コンテクストロードマップRMが抽出される。コンテクストロードマップは、現在の心位相及びデバイスGWの現在の位置との両方にフィットするように選択される。選択されたコンテクスト血管造影画像とそのコンテクストロードマップとは、現在のデバイス位置における血管系ROIの輪郭を、高いコントラストで示すことができる。

Description

本発明は、画像処理装置、画像処理方法、画像処理システム、コンピュータプログラム要素及びコンピュータ可読媒体に関する。
心臓及び神経インターベンションは、しばしば、カテーテルが医療関係者によって患者の体内に導入される間に、蛍光透視撮像デバイスによって支援される。このデバイスは、適切な栄養動脈内を通って患部又は病変部位まで進められる。
デバイスの進行は、放射線科医によってスクリーン上でモニタリングされる。当該スクリーン上に、インターベンションの間ずっとX線投影イメージャによって取得される蛍光透視画像が表示される。心臓コンテクストでは、病変、例えば狭窄がある冠状血管が関心の対象である。血管自体は、通常は、透視画像においてほとんど見えない。これは、血管の放射不透過度が低いことによる。それでもなお、放射線科医にナビゲーション支援を提供するために、ロードマッピング技術が使用されている。ロードマップとは、カテーテルが中を通って進行する血管のような解剖学的構造の輪郭を投影図で表すグラフィックである。ロードマップは、通常、所望のナビゲーションヒントを提供するように、現在の蛍光透視画像の横に示される。一般に、単一のロードマップは、カテーテルが進行する冠状動脈の全領域をカバーすることはない。従来の解決策では、幾つかの局所的なロードマップが複合ロードマップに縫い合わされ、これにより、視覚的なナビゲーション支援が提供されていた。
米国特許出願公開第2010/049038号は、心臓ロードマッピング手順について説明している。
したがって、介入処置の間に医療関係者をサポートする代替装置が必要である。
本発明の目的は、独立項の主題によって解決される。更なる実施形態は、従属項に記載される。当然ながら、以下の本発明の態様は、画像処理方法、画像処理システム、コンピュータプログラム要素及びコンピュータ可読媒体に等しく適用される。
本発明の第1の態様によれば、画像処理装置が提供される。当該画像処理装置は、再配置可能であるデバイスが、少なくとも、第1の物体状態と第2の物体状態との間で移行可能である物体に対しある位置に存在する間に取得されるデバイスの投影画像を受信する入力ポートと、
物体の現在の状態を決定する物体状態決定器と、
受信した投影画像における画像情報を使用して、デバイスの位置を決定するデバイス位置特定器と、
第1の物体状態に従って及び第2の物体状態に従ってグループ化された複数の保存された物体画像から、コンテクスト物体画像を選択する物体画像選択器であって、少なくとも1つのグループは、上記物体画像のうちの2つ以上を含み、i)当該コンテクスト物体画像の当該グループは決定された物体状態に対応し、ii)当該コンテクスト物体画像の画像情報は決定されたデバイス位置を示す、物体画像選択器と、
選択されたコンテクスト物体画像の一部と受信されたデバイス投影画像とを含む組み合わされた画像を、スクリーン上の表示のために生成するグラフィック表示生成器と、を含む。
一実施形態によれば、当該装置は、介入蛍光透視法における血管ロードマッピングのために心臓に関する設定において使用される。この実施形態では、デバイスは、カテーテルを導くガイドワイヤといった医用介入ツールである。物体は、患者の心血管系である。血管系の状態とは、心臓活動によってもたらされる血管系の周期的な位置変化である。デバイス投影画像は、介入の間に取得される蛍光透視画像であり、物体投影画像は、心血管系のグループ化された複数の事前に記録された血管造影画像である。コンテクスト血管造影画像の一部が、ロードマップとして抽出され、現在の蛍光透視画像と組み合わされて、組み合わされた画像が形成される。組み合わされた画像は、スクリーン上に表示されて、臨床医に、介入の間に血管系内にデバイスを安全にナビゲートするための視覚的支援を提供する。血管造影画像は、幾つかの心周期に亘って記録され、グループ化は、対応する心位相に従ったものである。一実施形態では、各グループは、同じ心位相の時に記録され、血管造影用の造影剤が血管系を流れることによる血管系の様々な部分が様々なレベルでかん流された(「充填された」)時に記録された複数の血管造影画像を含む。つまり、同じグループからの血管造影画像内に記録される血管系のフットプリントの一部は、通常、適切なグレイ値マッピングを使用してスクリーン上で観察される場合、様々な血管造影画像について、異なるグレイの濃淡を示す。
従来のシステムとは異なり、特定時間に対して固定された血管ロードマップはなく、また、幾つかの時間インスタントから1つの複合血管ロードマップを表示のために形成する(複合血管ロードマップを作るために「縫い合わせる」)必要がない。対照的に、提案される装置は、その血管造影画像の選択を、その時の一連の蛍光透視画像に調整及び適応させる。当該装置は、蛍光透視画像におけるデバイス位置と現在の心位相とを使用して、一連の蛍光透視画像を取得するランタイムの間に、現在の心位相に対応するグループに保存されている血管造影画像の「ストックパイル」におけるコンテクスト血管造影画像を探す。この選択は、最初に、グループ、即ち、物体の状態が決定され、次に、血管造影画像が当該グループから選択されるという観点から、2段階式である。
一実施形態によれば、グラフィック表示生成器は、物体状態決定器によって、新しい物体状態が決定されると、新しい組み合わせられた画像を生成する。つまり、組み合わされた画像は、動的に更新され、新しい物体状態が検出されると再計算される。新しいコンテクスト画像の検索又は選択動作は、新しいグループにリフォーカスされる。更新されたコンテクスト血管造影画像が選択されると、そこから抽出可能な新しいコンテクストロードマップが、新しい組み合わせられた画像内に表示される。同様に、新しい選択は、新しいデバイス位置の検出によってもトリガされる。簡潔に言えば、現在のコンテクスト血管造影画像の選択は、心位相及びデバイス位置の両方に従う。
一実施形態によれば、コンテクスト物体画像のグループが、上記少なくとも2つの物体画像を有する上記グループ、又は、少なくとも2つの物体画像を有するグループであると決定される場合、物体画像選択器は、照合された物体画像のグループにおける少なくとも2つの物体画像において対応する画像近隣部を確立するように、デバイス画像におけるデバイス位置の周りの画像近隣部を使用する。選択器は、少なくとも2つの物体画像のそれぞれにスコアを割り当てるスコアリングスキームを使用し、スコアは、確立された対応する画像近隣部における画素値に基づき、コンテクスト物体画像は、少なくとも2つの物体画像のうち、一方の物体画像が少なくとも一つの他方の物体画像よりも高いスコアを有する当該一方の物体画像として選択される。一実施形態によれば、画素情報は、検討下のグループにおける各血管造影画像(又はそれらのフィルタリングされたバージョン)の当該画像近隣部におけるコントラストである。一実施形態では、リッジフィルタ又は他の方向フィルタが、現在のデバイス位置の周りの各近隣部におけるコントラストを比較する前に使用される。このようなフィルタは、細長い画像構造に反応するが、当然ながら、他のフットプリント形状が予想される場合には、他のフィルタが使用されてもよい。デバイス位置は、ガイドワイヤの場合には、デバイスの先端の位置と理解されるが、ナビゲーション経路を決定するデバイスの他の突出した又は関連部分も等しく使用して、各血管造影画像の画像近隣部を定義してもよい。他の実施形態では、各血管造影画像の近隣部における画素の強度の二乗平均平方根(RMS)を計算してコントラストを測定してもよい。つまり、コンテクスト画像は、血管を、現在のデバイス位置において示すことができるだけでなく、当該位置を、グループにおける残りの血管造影画像に比べて高いコントラストで示すことができるという点で空間的にコンテクストがある。つまり、装置は、i)現在の心位相に同期され、ii)決定されたデバイス位置における血管系における造影剤の濃度又はかん流が、同じ心位相において取得されたすべての血管造影画像又はその大部分よりも高い時に取得された血管造影画像として、コンテクスト血管造影画像を返す。
一実施形態によれば、物体状態決定器の決定動作は、受信したデバイス画像を、複数の保存された物体画像のうちの照合する物体画像に照合し、照合する物体画像のグループに対応する状態を、決定された物体状態として返す照合動作を含む。一実施形態によれば、照合は、物体画像における物体のフットプリントをフィルタリングし、フィルタリングされた物体フットプリントを、デバイス画像におけるフィルタリングされたデバイスフットプリントに位置合わせすることによる。物体フットプリントは、デバイスフットプリントと交差するように、かつ、当該交差部分を、任意の血管造影画像と現在のデバイスの画像との対に対して可能な限り大きくするようにシフトされる。全体的な最大オーバーラップ、即ち、デバイスフットプリント内の交差領域を定義するシフトされたフットプリントを持つ血管造影画像は、現在の物体状態を決定する。心臓に関する設定では、細長いフットプリントが予想されるため、方向フィルタが使用される。他の設定では、他の設定において円形又は楕円形であると予想されるフットプリント形状に反応するように他のフィルタが使用されてもよい。
幾つかの場合では、血管造影画像はコンテクストがあるかどうかを確立するための基準が曖昧で、それぞれが適用可能な基準を満たす複数のコンテクスト画像がもたらされることがある。一実施形態によれば、この不明確さを解決し、所与のインスタンスにおける1つの血管造影画像をコンテクスト血管造影画像として出力するために、画像選択器は、先に選択されたコンテクスト画像と時間的に最も近い取得時間を有するコンテクスト物体画像として、コンテクスト物体画像を返す。これにより、1つのロードマップから別のロードマップに変更するときのちらつきは、回避されるか、又は、低く抑えられる。先のコンテクスト画像に対する時間的近位性は、上記スコアリングと共に使用される。一実施形態では、両方のスコアリングが使用されることにより、高いコントラストの血管造影画像が、それが最も近いものではなくても、依然としてコンテクストがあると決定され、また、逆に、局所的なコントラストスコアが近い2つの血管造影画像からは、どちらか最も近位の方が、コンテクスト血管造影画像として返される。
一実施形態によれば、選択されたコンテクスト血管造影画像から抽出可能なコンテクストロードマップは、選択後に抽出される。代替実施形態によれば、ロードマップは、先の準備ステップにおいて、血管造影画像のそれぞれから抽出され、それらの対応する血管造影画像に関連付けられて保存される。ある血管造影画像が、心位相及びデバイス位置に対してコンテクストがあると決定されると、関連付けられているロードマップが、コンテクストロードマップとして取り出される。
当然ながら、上記において、心臓に関する設定への参照は、例示的な実施形態に過ぎない。神経に関する他の設定も、本明細書において提案される装置の応用として等しく想到できる。特に、血管造影画像、蛍光透視画像、心位相、心血管系及びカテーテル/ガイドワイヤへの参照は、例示的な実施形態の説明のために過ぎない。特に、物体は、複数の状態間で変化することが可能である、又は、複数の状態となる任意の有機又は無機の実体であってよい。状態は、当該状態が記録可能である限り、又は、物体画像において明らかである限り、物体が取りうる様々な空間的又は非空間的構成のいずれを指してもよい。特に、「物体状態」とは、患者の呼吸サイクルを指してもよく、これは、呼吸時の胸の動きが人間(又は動物)の血管系の特定の部分の位置に同様に影響を及ぼすからである。
定義
本明細書において使用されるように、画像における「フットプリント」とは、ボディ(解剖学的構造体又は医用デバイス)の投影画像の画像面上への投影に対応する当該投影画像における画像部分を意味する。
本発明の例示的な実施形態について、次の図面を参照して以下に説明する。
図1は、介入をサポートするためのイメージャ及び画像プロセッサを含む画像処理装置を示す。 図2は、図1の画像プロセッサの構成要素のブロック図である。 図3は、図2の画像プロセッサによって生成された一連のグラフィック表示を概略的に示す。 図4は、撮像された物体の状態に従ってロードマップをグループ化するデバイスの構成要素のブロック図である。 図5は、画像処理方法のフローチャートである。
図1を参照するに、介入処置において、数ある構成要素の中でも特に使用される蛍光透視撮像装置の基本的な構成要素が示されている。
患者PATは、冠血管系ROIにおける狭窄又は他の病変を患っている。介入処置の間、医療関係者は、ガイドワイヤGWを患者PATの大腿動脈内に導入した後、カテーテルを、狭窄がある患者の冠血管系ROIにおける患部まで導く。ガイドワイヤGWが患者PATの心血管系を進むにつれて、一連の連続蛍光透視画像FがX線イメージャ100によって取得される。
介入の間、患者PATは、X線イメージャ100のX線管XTと検出器Dとの間のベッドB上に置かれる。X線管XT及び検出器Dは、支持面B上に回転可能に取り付けられた剛性フレームCに取付けられている。蛍光透視画像動作は、コンピュータコンソールCCから制御される。介入放射線科医は、当該コンピュータコンソールCCを介して、画像取得を制御し、ジョイスティック又はペダルを作動させることによって個別の蛍光透視フレーム(蛍光透視画像)のそれぞれを「シュート(撮影)」することができる。一実施形態によれば、イメージャ100は、C型アームタイプである。
画像取得の間に、X線pがX線管XTから発し、血管系ROIを通過し、血管系内の物質との相互作用による減衰を経験し、減衰されたビームpは次に、検出器Dを構成する複数の検出器セルのうちの1つにおいて、検出器Dの表面に衝突する。ビームが衝突した各セルは、対応する電気信号を出すことによって応答する。これらの信号の集合は次に、当該減衰を表す対応するデジタル値に変換される。血管系ROIを構成する物質の密度が、減衰のレベルを決定し、高密度物質は、低密度物質よりも高い減衰をもたらす。各X線pに対しこのように検知されたデジタル値は次に、所与の取得時間及び投影方向についての蛍光透視画像を形成するデジタル値のアレイに統合される。つまり、各蛍光透視画像は、投影方向に沿った投影図のデジタル画像であり、この方向は、所与の取得時間又はインスタントにおけるC型アームの回転によって決定される。一連の蛍光透視画像Fは、データ取得ユニットDASによってデジタル処理された後、画像プロセッサIPに転送される。画像プロセッサIPの目的及び動作は、以下により詳細に説明される。
蛍光透視画像Fでは、一般的に、そのフットプリントが識別可能であるのは、減衰の高い物体のみである。より具体的には、各蛍光透視画像において、不透過度の高い材料で作られているガイドワイヤGWのみが、一般的に細長いフットプリントGWFとして可視である。一連の蛍光透視画像Fは、1秒あたり約30画像のフレームレートで取得されるので、患者PATの体内を通るガイドワイヤGWの進行をモニタリングすることができる。
ガイドワイヤGWは、患部に、例えばバルーン付きカテーテルを導くために使用される。
介入放射線科医の任務としては、バルーン付きカテーテルの先端を患部に安全に運ぶために、心血管樹ROI内の多数の分岐点をうまく切り抜けることである。血管は、シャント(分岐)によって互いに接続され、ガイドワイヤは、患部に達するために、適切なシャントを「縫う」ように進まなければならない。放射線科医に、即時の心血管系に関する視覚的ヒントを提供するために、一連の血管造影画像(血管造影画像)が、同じイメージャによって又は異なるイメージャによって、先のセッション中に患者から事前に取得されている。
血管造影画像Aを取得する手順は、蛍光透視画像Fに関して上記された手順と基本的に同様であるが、血管造影画像Aの取得の間に、不透過度の高い造影剤(「色素剤」)が患者PATに供給され、血管系ROI内を血流と共に徐々に進む。つまり、色素剤又は造影剤は、これがなかった場合には不可視となる血管構造ROIに不透過度を与える。血管樹が各血管造影画像A内に、クモ状フットプリントとして出現する。色素剤が血管系を進むことによって、血管系の様々な部分が、各血管造影画像内に、様々な強度又はコントラストで現れる。したがって、コントラスト又は暗色化の量は、各血管造影画像において、その中の様々な位置において異なる。上記されたように、血管造影画像は、上記蛍光透視画像によってサポートされる介入の前の準備段階において取得される。一実施形態によれば、更なる準備ステップは、一連のロードマップグラフィックRMをその対応する血管造影画像から抽出するロードマップ抽出器RMXが関与する。血管造影画像AからロードマップRMを得るデバイスRMXは、図4を参照して、以下に説明される。ロードマップとは、その画素情報が、対応する血管造影画像において記録されている血管系のフットプリントのシルエットの輪郭を表す又は示すことが可能なデジタル画像である。
血管系ROI全体は大きいので、単一の血管造影画像で、血管系のフットプリントの各部分を同等に高いコントラストで示すことができず、また、何らかの原因で、不完全な血管造影画像が記録される。通常、患者の健康への悪影響を防ぐために、必要最低限量の色素剤しか注入されない。つまり、血管造影画像の取得の間に、色素剤が血管系を進むにつれて、所与の位置に対して、血管系の近位部は、色素剤によって十分にかん流される(「充填される」)が、遠位部は、まだ十分に色素剤で充填されていないか、又は、遠位部が十分に充填されるころには近位部における色素剤がフェードアウトする。
大まかに言えば、画像プロセッサIPは、一連の蛍光透視画像Fを受信し、各蛍光透過画像を、対応するロードマップと組み合わせて、任意の受信した蛍光透過画像Fに対して組み合わされた画像CIを生成する。組み合わされた画像CIは次に、介入の間に放射線科医のために、モニタM上にグラフィクス表示GDとして表示される。これは、このように生成されたグラフィック表示GDは、現在の蛍光透過画像の取得時間に対応する位置におけるガイドワイヤフットプリントGWFを、ガイドワイヤの先端の現在の位置における血管系の輪郭を描く対応するロードマップと共に示すからである。現在、先端が置かれていない血管系の部分は、十分なコントラストでは示されないが、この点は、放射線科医にとっては、ガイドワイヤの先端の現在の局所性のみが、ガイドワイヤを安全にナビゲートするには関心の対象であるので、不要である。より具体的には、本明細書において提案される画像プロセッサIPによって生成されるグラフィック表示GDは、即時の蛍光透視画像を、複数のロードマップのうちの選択された1つのロードマップと共に示すことが可能である。ロードマップは、血管系の輪郭が、少なくともユーザが調節可能なコントラストで、現在のガイドワイヤの先端の周囲のユーザが定義可能な付近において表されるように選択される。一実施形態によれば、コントラストは事前に設定され、ユーザによって変更不可能であってもよい。
本明細書において提案される画像プロセッサIPは、ロードマップと現在の蛍光透視画像とを組み合わせる場合に、患者の現在の心位相を考慮する。心臓活動は、所与の時間における検討下の血管系の形状及び位置に影響を及ぼすので、心位相は考慮される。冠動脈ROIは、心筋に「網状にからまり」、収縮期及び拡張期のそれぞれの間に筋肉が周期的に収縮及び拡張するにつれて、周期的に移動する。結果として、血管造影画像Aによって記録された血管樹フットプリントの枝は、収縮期及び拡張期に伴ってずれているように見える傾向がある。本明細書において提案される画像プロセッサIPは、データベース内に保持される利用可能なロードマップから、現在の心位相と、ガイドワイヤ又は他の介入デバイス若しくはツールの現在の位置とにベストフィットするロードマップを選択する。
従来の解決策とは異なり、画像プロセッサIPは、心位相毎に保存された複数の血管造影画像の「ストックパイル」に基づき動作し、そこから、少なくとも、ユーザが定義可能なコントラストで現在のガイドワイヤ位置を示すことが可能な血管造影画像を選択する。つまり、選択されたコンテクスト血管造影画像(contextual angiogram)は、現在の蛍光透視画像の心位相と一致する心位相において取得されただけでなく、現在のデバイス位置における色素剤濃度が、同じ心位相に対する残りの血管造影画像が取得されたときよりも高いときに取得されたものである。関連の局所先端位置におけるコントラストが高いので、コンテクスト血管造影画像から抽出されるロードマップは、当該現在のデバイス位置における血管の真の輪郭に「忠実」である。これは、所与の現在の心位相及び所与のカテーテル位置に対し、システムが選択できる複数のロードマップのない従来のシステムの「1つのサイズがすべてにフィットする(one size fits all)」アプローチとは異なる。従来のシステムでは、特定のロードマップが、所与の位置に対し事前に選択され、その事前に選択されたロードマップが表示される。画像プロセッサIPとは異なり、従来のシステムでは、複数の等しく同期された血管造影画像からのランタイム時の選択がなく、ロードマップは、ナビゲーションの間のある時点において、介入ツールの現在の位置の周囲における血管の輪郭を十分に描画していないリスクを伴う。
画像プロセッサIPの動作について、図2を参照して以下により詳細に説明する。
動作
ロードマップ、即ち、血管マップ画像RMと、それらの対応する血管造影画像Aとは、データベースDB内に保持され、ロードマップ、即ち、血管マップ画像RMは、それぞれ、一連の血管造影画像Aの対応する1つからの抽出によって得られる。ロードマップRM及びそれらの血管造影画像Aは、データベースDB内に保持される際に、n個のグループ、例えば(n=3)個のグループS1乃至S3にグループ化される。各グループS1乃至S3は、特定の心位相を表し、それぞれのグループ内の各ロードマップ/血管造影画像は、対応する心位相における血管系の各部分のフットプリントを示すことができる。実際に、心位相に従うためには、nは、10<n<18の辺りである。血管造影画像Aは、多数の心周期に亘って取得されるので、各心位相グループS1乃至S3は、1つの心位相につき、複数の異なるロードマップを含む。つまり、対応するグループSiにおける各ロードマップは、表示された場合に、実質的に同じ心位相における各血管系フットプリントを示すことができるが、当該グループにおける各ロードマップは、通常、血管系の異なる部分を、及び/又は、異なるコントラスト若しくはグレイ画素値で示す。これは、コントラスト色素剤を用いたかん流が、異なる血管部分において異なる時間において異なることによる。心位相S1乃至S3へのグループ化又は分類は、例えばPERLプログラミング言語において知られている「ハッシュ」である連想配列データ構造によって実施される。各ロードマップは、当該ロードマップがそこから抽出された対応する血管造影画像Aに関連付けられている。血管造影画像Aの心位相グループ化は、グループ化された血管造影画像Aから抽出された又は抽出可能なロードマップRMのセットに、同様のグループ化をもたらす。
プロセッサモジュールIPは、入力ポートIN、物体状態決定器SD、デバイス位置特定器L、ロードマップ選択器S及びグラフィック表示生成器Gを含む。
画像プロセッサIPの動作を、特定の蛍光透視画像Ft1を参照して以下に説明するが、当然ながら、全く同様の動作が、入力ポートINにおいて、後に受信される任意の蛍光透視画像に適用される。
蛍光透視画像Ft1を受信すると、デバイス位置特定器Lは、当該画像内のガイドワイヤフットプリントGWFを検出する。介入デバイスの形状は、通常、知られているので、グレイレベル閾値に基づいたパターン照合を適用すればよい。ガイドワイヤGWの場合、そのフットプリントGWFは、通常、画像面に細長いフットプリントとして現れる。ガイドワイヤの先端は、接線方向に細長いフットプリントに従い、グレイレベルに急激な降下が生じる画像位置を検知することによって、決定することができる。当該位置は、現在のデバイス位置として、バッファリングされる。
物体状態検出器SDは、受信した蛍光透視画像Ft1に基づいて動作し、その中に記録されている現在の心位相を検出する。
一実施形態によれば、これは、データベースDB内に保持される血管造影画像Aの「ストックパイル」から、その中に記録されている血管のフットプリント形状又は屈曲が、抽出されたガイドワイヤフットプリントGWF、及び/又は、介入の間、患者PATの体内にある別の医用デバイスのフットプリントといった血管造影画像における他の「ランドマーク」にベストフィットする血管造影画像Aを取り出す又は選択することによって行われる。例えば、血管造影の間に色素剤が投与される冠状動脈の入口の栄養動脈に、しばしばカテーテルがある。
一実施形態によれば、心位相決定を達成するために、現在の蛍光透視画像Ft1から抽出されたフットプリントGWFと、当該蛍光透視画像Ft1について求められたロードマップRMに関連付けられた各血管造影画像Aに記憶された血管系フットプリントの部分とで、位置合わせ又は照合動作が行われる。血管造影画像Aは、そこから抽出されたロードマップRMと同じデータベースDB内に保持されても、違うデータベース内に保持されてもよい。
心位相検出器SDは、フットプリント照合器Mと心位相選択器CSとを下位構成要素として含む。心位相選択器CSは、以下に説明されるように、フットプリント照合器Mの出力に基づいて動作する。
フットプリント照合器Mの照合動作は、フレキシブルなガイドワイヤGWが、血管系の血管枝内にあるという仮定に基づいているので、当該枝の形状となる傾向がある。血管系ROIにおける各血管枝は、心臓が様々な心位相を周期的に繰り返す間に、その空間的形状を変化する。当該空間的形状変化は、ガイドワイヤGWにも伝えられる。その枝を含む血管系ROIは、通常、血圧の周期的な上昇及び降下に伴って拡張又は収縮し、また、その周期的な圧力変動に反応して、前後に僅かに移動する。この移動は、血管内にあるガイドワイヤGWにも伝えられる。
血管造影手順の間の血管系内での色素剤かん流によって、グレイ値閾値を使用するセグメンタが、各血管造影画像Aに基づいて動作し、それぞれ血管樹を表す各画像部を得る。つまり、各血管造影画像A内に十分なコントラストで記録されている血管系のその部分のフットプリントを表す各画像部を得る。
一実施形態によれば、各血管樹は、血管枝フットプリントに更に分割又はセグメント化される。照合器Mは、蛍光透視画像Ft1において得られたガイドワイヤフットプリントの形状を、各血管造影画像Aにおいてセグメント化された血管枝フットプリントと照合する。
一実施形態によれば、照合は、ガイドワイヤフットプリントに適用されて、当該フットプリントを、各血管造影画像における血管枝フットプリントの形状に変形させる及び/又は位置合わせする変換のパラメータを計算することによって試みられる。パラメータは、事前に設定された変換の群から特定の変換を定義する。一実施形態によれば、パラメータは、剛体又は非剛体アフィン変換の行列のエントリを記述する。一実施形態によれば、アフィン変換は、ガイドワイヤフットプリントGWFを別個に任意の血管枝フットプリント上に重ねるために、画像面の移動を定義する。変換を定義するパラメータは、次に、比較かつ確認され、各血管造影画像−蛍光透視画像の照合のスコアが出力される。血管造影画像−蛍光透視画像スコアは、変換されたガイドワイヤフットプリントGWFが、現在、検討下の血管造影画像における各血管枝に従う程度を測定する。ベストスコア又は所定の閾値よりもよいスコアが、成功した照合として出力される。ベストマッチの血管造影画像又は複数のベストマッチの血管造影画像の識別子が、心位相選択器CSに渡される。心位相選択器CSは次に、ベストスコア又は閾値を満足するスコアを生じさせた血管造影画像のグループを調べ、これにより、現在の心位相を、現在、検討下の蛍光透視画像Ft1におけるガイドワイヤフットプリントGWFの形状及び位置によって記録されたものと確立する。
好適な実施形態によれば、照合器Mの動作の前に、セグメント化された血管樹の上記されたような血管下位枝への下位セグメント化はない。その代わり、セグメント化された血管樹フットプリントは、セグメント化されたフットプリントの長手方向に沿った方向性コントラストを測定するフィルタに転送される。このようなフィルタリングされた血管造影画像は、セグメント化境界の外ではゼロにされ、セグメント化境界の内側ではフィルタ応答に対応する。本実施形態を実施するためにリッジフィルタを使用することができる。同様のフィルタが次に、セグメント化されたガイドワイヤフットプリントGWFに適用される。フィルタリングされたフットプリントは次に、例えばガイドワイヤフットプリントGWFを各血管造影画像の画像面に亘って移動させることによって、互いに位置合せられる。各血管造影画像について、ガイドワイヤフットプリントGWFの各フィルタリングされた血管樹フットプリントに対する対応する最大交差が確立される。画素の観点での各交差のサイズが、蛍光透視画像−血管造影画像の各対のスコアとして記録される。ガイドワイヤフットプリントGWFにおいて最大交差をもたらす蛍光透視画像−血管造影画像の対は、照合するものと見なされる。先の実施形態と同様に、フィルタリングされたガイドワイヤフットプリントGWFと最も大きい最大交差又はオーバーラップを生じさせる血管造影画像のグループが調べられる。上記されたように、任意の1つの蛍光透視画像への照合動作のために、2つ以上の血管造影画像が照合器Mによって使用される。照合は、冠状動脈の入口において色素剤を注入するカテーテルのフットプリントを示す血管造影画像を含む複合血管造影画像について、蛍光透視画像に対して行われる。照合に使用される複合フットプリントは、その場合、ガイドワイヤフットプリントGWFと、当該色素剤注入カテーテルのフットプリントとによって形成される。照合の精度は、この複合アプローチを使用することによって、高められる。照合及び心位相を確立するためだけに、複合血管造影画像は作成され、上記位置合わせが当該複合血管造影画像に対して行われる。
一実施形態によれば、フットプリントフィッティング手順の上記最適化の計算時間を速めるために、照合器Mは、すべての血管造影画像を照合するのではなく、血管造影画像のうちランダムに選択された血管造影画像のみを照合する。各血管造影画像は、グループのうちの1つのグループを代表する。
別の実施形態によれば、(心位相グループの)代表的な血管造影画像は、ランダムに選択されるのではなく、血管樹フットプリントフィルタの応答に応じて選択される。各グループから、最大リッジフィルタ応答を生じさせる血管造影画像が、当該グループの代表血管造影画像として選択される。つまり、各心位相について、血管の「広範囲」における色素剤濃度が最も高いときに取得された血管造影画像が、当該グループの代表血管造影画像として選択される。
フロー制御は次に、心位相選択器CSがこのように決定された当該グループの識別情報をロードマップ選択器Sに転送すると、ロードマップ選択器Sに進む。ロードマップ選択器Sは、当該候補又はターゲットグループにおける血管造影画像から、観察された場合に、決定されたデバイス先端位置における血管系を、当該ターゲットグループにおける血管造影画像のすべて又は少なくとも大部分よりも高いコントラストで示すことが可能な「コンテクスト(contextual)」血管造影画像を選択する。ベストな又は適切にコンテクストのあるロードマップを探すためのロードマップ選択器Sの取出し又は検索動作は、ここでは、照合器Mによって確立された決定されたグループ内に保持されるロードマップに限定される。したがって、当然ながら、上記から、心位相決定器SDは、ロードマップ選択器Sを正しいターゲットグループへと「導き」、ロードマップ選択器は次に、現在の心位相及び空間的コンテクストにベストフィットする所望のコンテクストロードマップを生成するように、当該コンテクスト血管造影画像を見つけるべく当該グループのみを検索する。
ロードマップ選択器Sは次に、決定された先端位置を使用して、決定された「ターゲット」グループにおける各血管造影画像において対応する位置を確立する。各血管造影画像における当該対応する位置の周りの、例えば円形、四角形又は楕円形の所定の近隣部を使用して、当該ターゲットグループにおける各血管造影画像に対し、対応する局所的コントラストスコアが計算される。
一実施形態によれば、一実施形態において照合器Mによって上記されたように計算されたシフト又は移動を使用して、ガイドワイヤフットプリントGWFを、各血管造影画像の近隣部を交差するように当該近隣部間にわたって移動させることができる。その後、最大交差の各領域に、方向性リッジフィルタを適用する。その交差領域におけるフィルタの応答が、コントラストスコアの尺度となる。本明細書では、リッジフィルタの高い応答は、局所的画素情報の高いコントラストを示すものと理解される。心位相を確立し、ロードマップ選択器Sを即時のグループに導くために、先に使用された血管造影画像は、最高スコアを示しても示さなくともよい。これは、当該血管造影画像が、広範囲のコントラストに対してスコアが付けられた一方で、ロードマップ選択器が、交差における高コントラストについてのみフィルタリングするからである。
最もスコアの高い血管造影画像、又は、当該ターゲットグループにおける血管造影画像の大部分よりも高いスコアを有する血管造影画像のうちの1つの血管造影画像の識別子が返される。コンテクスト血管造影画像の血管ロードマップは、コンテクストロードマップを生成するために、既に抽出されているか調べられるか、又は、当該コンテクスト血管造影画像を計算すると抽出される。コンテクスト血管造影画像は、「2重」にコンテクストがある。これは、現在の心位相と医用デバイスGWの現在の位置との両方にフィットするように決定されているからである。このように決定されたコンテクスト血管造影画像は、当該デバイス位置において最も高いコントラストを有するか、又は、所定のコントラスト閾値よりも高いコントラストを有する。現在の先端位置においてコントラストが高いことによって、そこから抽出されたコンテクストロードマップは、関連位置における血管の真の輪郭を、高い忠実度で描くと理解される。上記から分かるように、画像プロセッサIPの動作は、2段階である。つまり、画像プロセッサIPは、i)現在の心位相を決定し、ii)決定された1つの心位相につき、候補血管造影画像のストックパイルから、現在のデバイスポジションにおける血管系に視覚的にベストフィットする(即ち、最も高いコントラストを有する)血管造影画像を決定する。上記されたように、照合動作に、血管ROI及び色素剤注入カテーテルのフットプリントを含む複合血管造影画像が使用されてもよいが、このような複合血管造影画像は、コンテクスト血管造影画像を確立するためにロードマップ選択器Sによって使用されることはない。
このように特定されたコンテクストロードマップは次に、グラフィック表示生成器Gに転送される。当該グラフィック表示生成器Gは、当該コンテクストロードマップを、現在の蛍光透視画像Ft1上にオーバレイして、組み合わせられた画像CIt1を生成する。組み合わせられた画像は、介入放射線科医が血管ROI内をナビゲートするのを支援するように、スクリーンM上にグラフィック表示GDとして表示される。組み合わせられた画像CIt1では、オーバレイされているロードマップによって特定される画素位置以外は、画素情報は、現在の蛍光透視画像の画像情報と同一である。ロードマップによって特定される画素位置、即ち、血管フットプリントシルエットは、血管造影画像における残りの画素情報に対してハイライトされ、これにより、血管系の輪郭が観察者の目により目立つようにされる。一実施形態では、ハイライトは、カラー符号化によって達成される。一実施形態では、輪郭の間の領域も同様にカラー符号化され、ガイドワイヤフットプリントGWFの画素も、異なる色で符号化され、これらの2つの間には、視覚的に高いコントラストが達成される。一実施形態によれば、コンテクストロードマップの内側の組み合わされた画像CIt1内の画像部は、赤で表示され、ガイドワイヤフットプリントGWFは、黒で表示される。
画像プロセッサIPの上記の動作は次に、取得時間t>t1で受信される任意の新しい蛍光透視画像について繰り返される。このようにすると、一連の組み合わされた画像CItが生成され、スクリーンM上にグラフィック表示GDtとして連続的に出力される。後に組み合わせられた画像は、それぞれ、現在表示されている先の画像を更新する。
一実施形態によれば、組み合わせられた画像CItの計算は、新しく受信される蛍光透視画像Ftのそれぞれに対し繰り返されるか、又は、少なくとも、心位相検出器SDによって計算される場合又はECGデバイスによって捕捉された信号を受信する場合に、新しく確立された心位相のそれぞれに対し繰り返される。新しい心位相の場合、ロードマップ選択器Sは、その検索を、検出された心位相に対応する新しいグループにリフォーカスし、新しいロードマップが取出され、新しい蛍光透視画像と共にスクリーン上に表示される。したがって、ロードマップの取出し及びこのように取出されたロードマップは、現在の心位相と同期された状態に維持される。
一実施形態によれば、各組み合わせられた画像CItにおいて連続して表示されるコンテクストロードマップ間の滑らかな移行を達成し、「ちらつき」を回避するために、画像プロセッサIPのロードマップ選択器Sは、例えば近位で充填されるロードマップから遠位で充填されるロードマップまで、15分の1秒で、1つのロードマップから非常に異なるロードマップへのはっきりとした「ジャンプ」を回避するために、コンテクスト血管造影画像又はロードマップの計算の最適化において、経時的平滑化関数を含む。一実施形態によれば、平滑化関数は、そのスコアが閾値を上回る候補の血管造影画像が2つ以上ある場合に、つまり、複数の、コンテクストのある又は「ベスト」な血管造影画像がある場合にもたらされる不明確さに基づいて動作する。2つ以上の候補血管造影画像Ai、Aj(それぞれ取得時間はi及びj)がある場合、また、先に表示されたロードマップが取得時間kを有する血管造影画像と一致する場合、ロードマップ選択器Sは、|i−k|<|j−k|である場合、血管造影画像Aiを返し、そうではない場合に、血管造影画像Ajを返す。つまり、スコアが不明確である場合、現在に表示されている血管造影画像に(時間的に)近い血管造影画像が、コンテクスト血管造影画像として返され、当該血管造影画像に関連付けられたロードマップが、後続の組み合わせられた画像内に表示される。このようにして、時間的近位性のスコアが、各血管造影画像又はそのロードマップに、上記の血管造影画像−蛍光透視画像のスコアと共に与えられる。この時間的なスコアは、連続する血管造影画像が、連続する蛍光透視画像に関連付けられることを促進する秩序立てを与える。両方のスコアは複合スコアに統合され、ロードマップ選択器Sは、当該複合スコアに基づいて、コンテクスト血管造影画像又はコンテクストロードマップRMを返す。
図3を参照するに、一実施形態に従って、後続の時間t1<t2においてスクリーンM上に現れる概略的な一連のグラフィック表示GDt1、GDt2が示される。
時間t1において、ガイドワイヤGWは、ガイドワイヤフットプリントGWFによって明らかなように、位置P1にある。近接してフォーカスされているロードマップRM1が表示され、当該ロードマップRM1は、現在の位置P1の周囲の場所をハイライトする。
時間が進むにつれて、t2において、グラフィック表示GDは更新される。これは、ガイドワイヤの位置は、今度は、P1からP2に変化したからである。見て分かるように、放射線科医は、ガイドワイヤを、シャントを通り異なる血管枝内へとナビゲートしている。先に表示されていたロードマップRM1は、もはや表示されておらず、その代わり、先の位置P1に比べて、遠位にフォーカスされた相対ロードマップRM2が今度は表示され、新しいガイドワイヤ位置P2にフォーカスしている。つまり、一連のロードマップRM1、RM2は、現在の心位相に適応され、ガイドワイヤGWが血管系を進むにつれて、ガイドワイヤGWの軌道を「従う」ように見える。各ロードマップRM1、RM2は、対応するコンテクスト血管造影画像の抽出からもたらされ、各コンテクスト血管造影画像は、それぞれ、複数の同様の心位相同期された血管造影画像を保存する各グループからの選択である。図3に示されるように、様々なロードマップを表示のために縫い合わせることは不要であり、ロードマップのうち局所的に最も関心のあるロードマップのみ、つまり、対応するコンテクストロードマップが、所与の時間t1、t2において表示される。縫い合わせられたロードマップを表示することを回避することによって、様々な縫い合わせられたロードマップ間の移行時に特に生じる可能性があり、臨床医の誤診につながるアーチファクトを回避することができる。
図4を参照するに、ロードマップ抽出器RMXが示される。当該ロードマップ抽出器RMXは、画像プロセッサIPが一連の組み合わせられた画像CIを作成するためにデータベースDB内に保持される分類済み又はグループ化されたロードマップを生成するために使用される。
一実施形態によれば、グループ化には、各血管造影画像の取得と同時に取得される外部ECG信号が使用される。各血管造影画像は、その対応するECG信号によってインデックス付けされている。この場合、グループ化は、グループ化をもたらすための対応するECGインデックスのルックアップエクササイズである。
別の実施形態によれば、外部のECG信号は必要ではなく、グループ化は、ロードマップRM間の画像又はパターン認識によって達成される。これは、通常、一連の血管造影画像は、複数の心周期を介して取得されるため、行われることが可能である。冠状血管の厚さ、より顕著には、その位置は、周期的に変化するので、対応する類似性が、血管樹フットプリントのうちから識別可能となる。上記フットプリント照合器Mの動作と同様に、各ロードマップは、適切な変換によって、残りのロードマップのそれぞれと位置合わせされることが試みられ、その位置合わせが最も高いスコアを達成するロードマップの対は、同じ心位相に属しているものと見なされ、それに応じてグループ化される。
抽出器XTRは、適切な入力ポート(図示せず)を介して、一連の血管造影画像Aを受信する。一実施形態では、まず、各血管造影画像に、細長い構造物を検出するようにリッジフィルタが使用される。次に、最も高い応答を示す領域が、セグメンタに転送される。次に、セグメンタは、グレイ値閾値を介して、その高いフィルタ応答部分に基づいて動作し、各血管樹フットプリントを、各ロードマップRMとして抽出する。各ロードマップは、それらが抽出された血管造影画像に関連付けられている。このように抽出されたロードマップRMは、本質的に、各血管造影画像のマスキングされたバージョンか、又は、フィルタリングされた血管造影画像である。つまり、セグメント化によって、血管系フットプリントの一部となるように決定された画素は、その元の画素値を保持する一方で、残りの画素はゼロにされる。他の実施形態では、マスキングは逆であり、したがって、血管フットプリントの内側の画素はゼロにされ、外側の画素は保たれる。このように生成された一連のロードマップは次に、心位相抽出器CPHに転送され、心位相抽出器CPHは次に、心位相グループS1乃至S3へのロードマップのグループ化を生成する。
上記されたように、ロードマップ抽出器RMXの動作は、介入の間の蛍光透視画像の取得位置の前の準備段階に生じる。つまり、ロードマップ抽出器RMXの動作は、画像プロセッサIPの動作の前の段階に生じる。しかし、代替実施形態では、ロードマップの抽出は、コンテクスト血管造影画像が特定されると生じる。この場合、ロードマップのグループ化は行われず、血管造影画像自体のみが、心位相グループS1乃至S3にグループ化される。
図2では、すべての構成要素又は画像プロセッサIPは、同様に存在するものとして示されているが、これは一実施形態に過ぎない。別の実施形態では、分散配置されたアーキテクチャが使用され、構成要素が互いに適切な通信ネットワーク内で接続されている。画像プロセッサIPは、既存イメージャのアドオンとして使用されてもよい。一実施形態によれば、画像プロセッサIPは、専用FPGA若しくは配線接続されたスタンドアロンチップとして構成されてもよく、又は、コンソールCC上のモジュールとして実行されてもよい。画像プロセッサIPは、マトラブ(登録商標)又はシミュリンク(登録商標)といった適切な科学計算プラットフォームでプログラムされ、次に、ライブラリ内で管理されるC++又はCルーチンに翻訳され、中央動作コンソールCCによって呼び出されるとリンクされる。
図5を参照して、本明細書において提案される画像処理方法のフローチャートが説明される。
ステップS505において、特定の瞬間に取得された蛍光透視画像が受信される。
ステップS510において、受信した蛍光透視画像及び一連の事前に取得された血管造影画像に基づいて、又は、外部から受信されたECG信号に基づいて、現在の心位相が決定される。
ステップS515において、カテーテルガイドワイヤといった医用デバイスの位置が、受信した蛍光透視画像におけるデバイスのフットプリントに基づいて決定される。
ステップS520において、コンテクスト血管造影画像が、複数の保存されている血管造影画像から選択される。当該血管造影画像は、決定された心位相と、ステップS510において先に決定された位置との両方にフィットして対応するように選択される。ステップS520における選択は、決定された心位相毎の複数のロードマップからである。
ステップS525において、選択されたコンテクスト血管造影画像と共に抽出された又は当該選択されたコンテクスト血管造影画像に関連付けられたコンテクストロードマップは、次に、現在の蛍光透視画像と組み合わされ、この組み合わされた画像は、スクリーン上に表示される。
ステップS527において、新しい蛍光透視画像が受信されたかどうかが決定され、受信された場合には、ステップS510乃至S525が、当該新しく受信された蛍光透視画像に対し繰り返される。
上記ステップは、異なる順序で実行されてもよい。例えば心位相を検出するステップとデバイス位置を決定するステップとは、逆順に生じてもよい。
本発明の別の例示的な実施形態では、適切なシステム上で、上記実施形態のうちの1つに係る方法の方法ステップ実行するように適応されることによって特徴付けられたコンピュータプログラム又はコンピュータプログラム要素が提供される。
したがって、コンピュータプログラム要素は、本発明の一実施形態の一部でもあるコンピュータユニット上に記憶されていてもよい。このコンピュータユニットは、上記方法のステップを実行する又は当該ステップの実行を誘導する。更に、このコンピュータユニットは、上記装置の構成要素を動作させる。コンピュータユニットは、自動的に動作するか、及び/又は、ユーザの命令を実行する。コンピュータプログラムは、データプロセッサのワーキングメモリにロードされる。したがって、データプロセッサは、本発明の方法を実行する。
本発明のこの例示的な実施形態は、始めから本発明を使用するコンピュータプログラムと、更新によって、既存のプログラムを、本発明を使用するプログラムに変換するコンピュータプログラムとの両方を対象とする。
更に、コンピュータプログラム要素は、上記方法の例示的な実施形態の手順を実行するあらゆる必要なステップを提供することが可能である。
本発明の更なる例示的な実施形態によれば、CD−ROMといったコンピュータ可読媒体が提示される。当該コンピュータ可読媒体は、その上にコンピュータプログラム要素が記憶され、当該コンピュータプログラム要素は、前段に説明されている。
コンピュータプログラムは、他のハードウェアと共に又は他のハードウェアの一部として、光記憶媒体又は半導体媒体といった適切な媒体上に記憶される及び/又は分散されるが、インターネット又は他の有線若しくは無線通信システムを介するといった他の形態で分散されてもよい。
しかし、コンピュータプログラムは、ワールドワイドウェブ等のネットワークを介して提示され、当該ネットワークからデータプロセッサのワーキングメモリにダウンロードされてもよい。本発明の更なる例示的な実施形態によれば、ダウンロードのためにコンピュータプログラム要素を利用可能とする媒体が提供され、当該コンピュータプログラム要素は、本発明の上記実施形態のうちの1つに従って方法を実行する。
なお、本発明の実施形態は、様々な主題を参照して説明されている。特に、方法クレームを参照して説明される実施形態もある一方で、装置クレームを参照して説明される実施形態もある。しかし、当業者であれば理解できるように、上記及び以下の説明から、特に明記されない限り、1つのタイプの主題に属する任意の特徴の組み合わせに加えて、様々な主題に関する特徴間の任意の組み合わせも、本願に開示されているものと見なされる。しかし、あらゆる特徴は組み合わされて、特徴の単なる合計よりも多くの相乗効果を提供する。
本発明は、図面及び上記説明において詳細に例示かつ説明されたが、当該例示及び説明は、例示的であって限定的に解釈されるべきではない。本発明は、開示された実施形態に限定されない。開示された実施形態に対する他の変形態様も、図面、開示内容及び添付の請求項を検討することにより、請求項に係る発明を実施する当業者には理解されかつ実施可能である。
請求項において、「含む」との用語は、他の要素又はステップを排除するものではなく、また、「a」又は「an」との不定冠詞も、複数形を排除するものではない。単一のプロセッサ又は他のユニットが、請求項に記載される幾つかのアイテムの機能を実現してもよい。特定の手段が相互に異なる従属請求項に記載されるからといって、これらの手段の組み合わせを有利に使用することができないことを示すものではない。請求項における任意の参照符号は、範囲を限定しているものと解釈されるべきではない。

Claims (15)

  1. 再配置可能であるデバイスが、少なくとも、第1の物体状態と第2の物体状態との間で移行可能である物体に対しある位置に存在する間に取得される前記デバイスの投影画像を受信する入力ポートと、
    前記物体の現在の状態を決定する物体状態決定器と、
    受信した前記投影画像における画像情報を使用して、前記デバイスの前記位置を決定するデバイス位置特定器と、
    前記第1の物体状態に従って及び前記第2の物体状態に従ってグループ化された複数の保存された物体画像から、コンテクスト物体画像を選択する物体画像選択器であって、少なくとも1つのグループは、前記物体画像のうちの2つ以上を含み、i)当該コンテクスト物体画像の当該グループは決定された物体状態に対応し、ii)当該コンテクスト物体画像の画像情報は決定された前記デバイスの前記位置を示す、前記物体画像選択器と、
    選択された前記コンテクスト物体画像の一部と受信された前記デバイス投影画像とを含む組み合わされた画像を、スクリーン上の表示のために生成するグラフィック表示生成器と、
    を含む、画像処理装置。
  2. 前記グラフィック表示生成器は、前記物体状態決定器によって、新しい物体状態が決定されると、新しく組み合わせられた画像を生成する、請求項1に記載の装置。
  3. 前記コンテクスト物体画像の前記グループが、前記少なくとも2つの物体画像を有する前記グループ、又は、少なくとも2つの物体画像を有するグループであると決定される場合、前記物体画像選択器は、照合された物体画像のグループにおける前記少なくとも2つの物体画像において対応する画像近隣部を確立するように、前記デバイス画像における前記デバイス位置の周りの画像近隣部を使用し、前記物体画像選択器は、前記少なくとも2つの物体画像のそれぞれにスコアを割り当てるスコアリングスキームを使用し、前記スコアは、確立された対応する前記画像近隣部における画素値に基づき、前記コンテクスト物体画像は、前記少なくとも2つの物体画像のうち、一方の物体画像が少なくとも一つの他方の物体画像よりも高いスコアを有する当該一方の物体画像として選択される、請求項1又は2に記載の装置。
  4. 前記物体状態決定器の決定動作は、受信した前記デバイス画像を、前記複数の保存された物体画像のうちの少なくとも1つの照合する物体画像に照合し、前記照合する物体画像のグループに対応する状態を、決定された物体状態として返す照合動作を含む、請求項1乃至3の何れか一項に記載の装置。
  5. 現在のデバイス画像に対し複数のコンテクスト物体画像がある場合、前記物体画像選択器は、先に選択されたコンテクスト物体画像と時間的に最も近い取得時間を有するコンテクスト物体画像として、コンテクスト物体画像を返す、請求項1乃至4の何れか一項に記載の装置。
  6. 前記組み合わされた画像は、前記一部が、前記物体画像から抽出されたロードマップ画像である組み合わされた画像であり、前記ロードマップ画像は、前記デバイス画像上にオーバレイされる、請求項1乃至5の何れか一項に記載の装置。
  7. 前記デバイスは、ガイドワイヤ又は他の介入器具である、請求項1乃至6の何れか一項に記載の装置。
  8. 前記デバイス画像は、蛍光透視画像であり、又は、前記物体は、人間若しくは動物の血管系の一部であり、前記物体画像は、前記物体の血管造影画像である、請求項1乃至7の何れか一項に記載の装置。
  9. 再配置可能であるデバイスが、少なくとも、第1の物体状態と第2の物体状態との間で移行可能である物体に対しある位置に存在する間に取得される前記デバイスの投影画像を受信するステップと、
    前記物体の現在の状態を決定するステップと、
    前記受信した投影画像における画像情報を使用して、前記デバイスの前記位置を決定するステップと、
    前記第1の物体状態及び前記第2の物体状態に従ってグループ化された複数の保存された物体画像から、コンテクスト物体画像を選択するステップであって、少なくとも1つのグループは、前記物体画像のうちの2つ以上を含み、i)当該コンテクスト物体画像のグループは決定された物体状態に対応し、ii)当該コンテクスト物体画像の画像情報は決定されたデバイスの前記位置を示す、前記ステップと、
    受信された前記デバイスの投影画像及び選択された前記コンテクスト物体画像の一部を含む組み合わされた画像を、スクリーン上の表示のために生成するステップと、
    を含む、画像処理方法。
  10. 新しい物体状態を決定すると、新しく決定された前記物体状態に基づいて新しく組み合わせられた画像を生成するステップを含む、請求項9に記載の画像処理方法。
  11. 前記コンテクスト物体画像の前記グループが、前記少なくとも2つの物体画像を有する前記グループ、又は、少なくとも2つの物体画像を有するグループであると決定される場合、前記選択するステップは、照合された物体画像のグループにおける前記少なくとも2つの物体画像において対応する画像近隣部を確立するように、前記デバイス画像における前記デバイス位置の周りの画像近隣部を使用するステップを含み、前記選択するステップは、前記少なくとも2つの物体画像のそれぞれにスコアを割り当てるステップを含み、前記スコアは、確立された対応する前記画像近隣部における画素値に基づき、前記コンテクスト物体画像は、前記少なくとも2つの物体画像のうち、一方の物体画像が少なくとも一つの他方の物体画像よりも高いスコアを有する当該一方の物体画像として選択される、請求項9又は10に記載の画像処理方法。
  12. 請求項1乃至8の何れか一項に記載の装置と、
    前記デバイスの投影画像を供給するX線イメージャと、
    複数のグループ化された物体画像が保存されるメモリと、
    前記スクリーンと、
    を含む、画像処理システム。
  13. 請求項12の記載の画像処理システム内のメモリ。
  14. 請求項1乃至8の何れか一項に記載の装置を制御するコンピュータプログラムであって、処理ユニットによって実行されると、請求項9乃至11に記載の画像処理方法のステップを行う、コンピュータプログラム。
  15. 請求項14に記載のコンピュータプログラムが記憶されたコンピュータ可読媒体。
JP2015524879A 2012-08-03 2013-07-24 画像処理装置、画像処理装置の作動方法、画像処理システム、画像処理装置を制御するコンピュータプログラム及びコンピュータ可読媒体 Active JP6416090B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP12305961.0 2012-08-03
EP12305961 2012-08-03
PCT/IB2013/056064 WO2014020495A1 (en) 2012-08-03 2013-07-24 Device position dependant overlay for roadmapping

Publications (2)

Publication Number Publication Date
JP2015523183A true JP2015523183A (ja) 2015-08-13
JP6416090B2 JP6416090B2 (ja) 2018-10-31

Family

ID=46851903

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015524879A Active JP6416090B2 (ja) 2012-08-03 2013-07-24 画像処理装置、画像処理装置の作動方法、画像処理システム、画像処理装置を制御するコンピュータプログラム及びコンピュータ可読媒体

Country Status (5)

Country Link
US (1) US9583075B2 (ja)
EP (1) EP2879584B1 (ja)
JP (1) JP6416090B2 (ja)
CN (1) CN104519798B (ja)
WO (1) WO2014020495A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018046922A (ja) * 2016-09-20 2018-03-29 株式会社島津製作所 放射線画像処理装置および放射線画像処理方法
JP2021530332A (ja) * 2018-10-25 2021-11-11 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 介入装置の画像ベースのガイド
US11839506B2 (en) 2020-12-16 2023-12-12 Shimadzu Corporation X-ray fluoroscopic imaging apparatus and X-ray image processing method

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104582572B (zh) 2012-08-16 2018-04-13 东芝医疗系统株式会社 图像处理装置、医用图像诊断装置以及血压监视器
JP6716196B2 (ja) * 2015-01-20 2020-07-01 株式会社島津製作所 X線装置
JP6707320B2 (ja) * 2015-06-01 2020-06-10 キヤノンメディカルシステムズ株式会社 画像処理装置およびx線診断装置
EP3313292B1 (en) 2015-06-25 2019-03-06 Koninklijke Philips N.V. Image registration
US10342502B2 (en) 2015-11-18 2019-07-09 Lightlab Imaging, Inc. X-ray image feature detection and registration systems and methods
US20170164921A1 (en) * 2015-12-09 2017-06-15 Shimadzu Corporation Radiographic device
WO2017221159A1 (en) 2016-06-22 2017-12-28 Sync-Rx, Ltd. Updating an indication of a lumen location
EP3378403A1 (en) 2017-03-20 2018-09-26 Koninklijke Philips N.V. Contrast injection imaging
EP3381371A1 (en) 2017-03-29 2018-10-03 Koninklijke Philips N.V. Angiography panning during x-ray roadmap
DE102018211477A1 (de) * 2018-07-11 2020-01-16 Siemens Healthcare Gmbh Verfahren zum automatischen Bestimmen einer Gewichtung für ein Roadmap-Verfahren, Computerprogramm, Datenspeicher und entsprechendes bildgebendes Gerät
EP3677212B1 (en) 2019-01-04 2023-07-26 Siemens Healthcare GmbH Method and system for determining a navigation pathway for invasive medical instrument in blood vessels
US11707242B2 (en) * 2019-01-11 2023-07-25 Pie Medical Imaging B.V. Methods and systems for dynamic coronary roadmapping

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08294485A (ja) * 1995-02-28 1996-11-12 Toshiba Corp 画像表示システム及びそのシステムを用いた画像表示方法
JP2007503906A (ja) * 2003-09-04 2007-03-01 コニンクリユケ フィリップス エレクトロニクス エヌ.ブイ. 血管の超音波画像を表示する装置及び方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ATE252349T1 (de) 1994-09-15 2003-11-15 Visualization Technology Inc System zur positionserfassung mittels einer an einem patientenkopf angebrachten referenzeinheit zur anwendung im medizinischen gebiet
US20040152974A1 (en) 2001-04-06 2004-08-05 Stephen Solomon Cardiology mapping and navigation system
DE10214763A1 (de) * 2002-04-03 2003-10-30 Philips Intellectual Property Verfahren zur Bestimmung eines Bildes aus einer Bildsequenz
DE10247299A1 (de) * 2002-10-10 2004-04-22 Philips Intellectual Property & Standards Gmbh Bildverarbeitungseinheit und Verfahren für die Zuordnung von gespeicherten zu aktuellen Aufnahmen
US20070055142A1 (en) 2003-03-14 2007-03-08 Webler William E Method and apparatus for image guided position tracking during percutaneous procedures
EP1658588A1 (en) * 2003-08-21 2006-05-24 Philips Intellectual Property & Standards GmbH Device and method for combined display of angiograms and current x-ray images
US7697974B2 (en) * 2003-10-10 2010-04-13 Ge Medical Systems Global Technology Company, Llc Methods and apparatus for analysis of angiographic and other cyclical images
CN1910590A (zh) * 2004-01-15 2007-02-07 皇家飞利浦电子股份有限公司 图像中的自动造影剂控制
EP1781174A4 (en) 2004-08-16 2009-08-05 Corindus Ltd IMAGE-GUIDED NAVIGATION FOR INTERVENTIONS INVOLVING THE INSTALLATION OF A CATHETER
EP2114252B1 (en) 2007-02-28 2018-04-11 Koninklijke Philips N.V. Phase-free cardiac roadmapping
US8255037B2 (en) 2007-03-02 2012-08-28 Koninklijke Philips Electronics N.V. Cardiac roadmapping
US20090192385A1 (en) * 2008-01-25 2009-07-30 Oliver Meissner Method and system for virtual roadmap imaging
EP2403408B1 (en) * 2009-03-06 2017-11-15 Koninklijke Philips N.V. Medical viewing system for displaying a region of interest on medical images
CN102573632B (zh) * 2009-09-29 2015-06-17 皇家飞利浦电子股份有限公司 脉管路线图绘制
JP5702572B2 (ja) * 2009-10-29 2015-04-15 株式会社東芝 X線撮影装置
CN103002809B (zh) * 2010-07-19 2016-01-06 皇家飞利浦电子股份有限公司 适应性的路线图绘制
EP2595542A1 (en) 2010-07-19 2013-05-29 Koninklijke Philips Electronics N.V. 3d-originated cardiac roadmapping
WO2013190422A1 (en) * 2012-06-22 2013-12-27 Koninklijke Philips N.V. Temporal anatomical target tagging in angiograms

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08294485A (ja) * 1995-02-28 1996-11-12 Toshiba Corp 画像表示システム及びそのシステムを用いた画像表示方法
JP2007503906A (ja) * 2003-09-04 2007-03-01 コニンクリユケ フィリップス エレクトロニクス エヌ.ブイ. 血管の超音波画像を表示する装置及び方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018046922A (ja) * 2016-09-20 2018-03-29 株式会社島津製作所 放射線画像処理装置および放射線画像処理方法
JP2021530332A (ja) * 2018-10-25 2021-11-11 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 介入装置の画像ベースのガイド
JP7036992B2 (ja) 2018-10-25 2022-03-15 コーニンクレッカ フィリップス エヌ ヴェ 介入装置の画像ベースのガイド
JP7036992B6 (ja) 2018-10-25 2022-05-30 コーニンクレッカ フィリップス エヌ ヴェ 介入装置の画像ベースのガイド
US11839506B2 (en) 2020-12-16 2023-12-12 Shimadzu Corporation X-ray fluoroscopic imaging apparatus and X-ray image processing method

Also Published As

Publication number Publication date
EP2879584B1 (en) 2016-03-30
JP6416090B2 (ja) 2018-10-31
CN104519798B (zh) 2018-03-23
CN104519798A (zh) 2015-04-15
WO2014020495A1 (en) 2014-02-06
EP2879584A1 (en) 2015-06-10
US20150179148A1 (en) 2015-06-25
US9583075B2 (en) 2017-02-28

Similar Documents

Publication Publication Date Title
JP6416090B2 (ja) 画像処理装置、画像処理装置の作動方法、画像処理システム、画像処理装置を制御するコンピュータプログラム及びコンピュータ可読媒体
JP5965840B2 (ja) 血管ロードマッピング
US11197651B2 (en) Identification and presentation of device-to-vessel relative motion
JP6175073B2 (ja) 最適なデバイスナビゲーションのための血管系ビューのリアルタイム表示
US9888969B2 (en) Automatic quantitative vessel analysis
EP2632333B1 (en) Identification and presentation of device-to-vessel relative motion
US7565190B2 (en) Cardiac CT system and method for planning atrial fibrillation intervention
US8290228B2 (en) Location-sensitive cursor control and its use for vessel analysis
US7813785B2 (en) Cardiac imaging system and method for planning minimally invasive direct coronary artery bypass surgery
US8295577B2 (en) Method and apparatus for guiding a device in a totally occluded or partly occluded tubular organ
JP4804005B2 (ja) 境界構造を検出するための医用ビューイングシステム及び方法
JP6214646B2 (ja) 血管造影図における時間的な解剖学的標的タグ付け
US20120188352A1 (en) Concept of superimposing an intraoperative live image of an operating field with a preoperative image of the operating field
JP2016507304A (ja) 物体を検出及び追跡するとともに重ね合わせるシステム
US9384413B2 (en) Method and device for automatic or semi-automatic segmentation of a 3D image data set
US20220031270A1 (en) Identification an dpresentation of device-tovessel relative motion
CN104703542B (zh) X射线成像中的骨抑制
JP2020522345A (ja) 血管内器具の誘導を補助する方法およびシステム
JP7232191B2 (ja) 造影注入イメージング
JP2022526527A (ja) 永続的なガイドワイヤの識別
CN109949265A (zh) 医用图像处理装置及医用图像处理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170307

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181003

R150 Certificate of patent or registration of utility model

Ref document number: 6416090

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250