JPWO2014076931A1 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2014076931A1
JPWO2014076931A1 JP2014546867A JP2014546867A JPWO2014076931A1 JP WO2014076931 A1 JPWO2014076931 A1 JP WO2014076931A1 JP 2014546867 A JP2014546867 A JP 2014546867A JP 2014546867 A JP2014546867 A JP 2014546867A JP WO2014076931 A1 JPWO2014076931 A1 JP WO2014076931A1
Authority
JP
Japan
Prior art keywords
image
display state
display
assist
position information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014546867A
Other languages
English (en)
Other versions
JP6323335B2 (ja
Inventor
遠間 正真
正真 遠間
淳 大宮
淳 大宮
文平 田路
文平 田路
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2014076931A1 publication Critical patent/JPWO2014076931A1/ja
Application granted granted Critical
Publication of JP6323335B2 publication Critical patent/JP6323335B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/0841Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0891Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/483Diagnostic techniques involving the acquisition of a 3D volume of data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4483Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/466Displaying means of special interest adapted to display 3D data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Physics & Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Vascular Medicine (AREA)
  • Physiology (AREA)
  • Epidemiology (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Primary Health Care (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Gynecology & Obstetrics (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)

Abstract

被検体内の対象箇所まで器具を移動できるように誘導するための画像を、使用者に対して分かり易く表示することができる画像処理装置を提供する。画像処理装置である超音波診断装置(100)は、対象箇所を含む3次元像に基づいて、対象箇所の3次元位置を示す対象位置情報を決定する3D像解析部(101)と、器具の3次元位置を示す器具位置情報を取得する位置情報取得部(102)と、対象箇所と器具との位置関係に基づいて、二つ以上の表示状態の中から一つの表示状態を選択する表示状態決定部(103)と、選択された表示状態で表示されるように、アシスト画像を対象位置情報および器具位置情報を用いて生成するアシスト画像生成部(104)と、アシスト画像を表示装置(150)に出力するための制御を行う表示制御部(107)とを備える。

Description

本発明は、被検体内の対象箇所まで器具を移動できるように誘導するための画像を生成する画像処理装置および画像処理方法に関する。
生体の画像診断装置としては、例えば、エックス線診断装置、MR(磁気共鳴)診断装置、および、超音波診断装置等が普及している。なかでも、超音波診断装置は非侵襲性および実時間性などの利点を有しており、診断または検診に広く利用されている。超音波診断装置を用いた診断部位は、心臓、血管、肝臓、乳房など多岐に渡るが、近年、動脈硬化のリスク判定を目的とした頸動脈などの血管診断が注目されている。しかし、この血管診断には高度な手技が必要であるため、特許文献1のように、検査者を誘導するための画像を表示する超音波装置が提案されている。
また、近年、手術中の患者位置と手術器具との位置関係を表示する術中ナビゲーションシステムが提案されている。この術中ナビゲーションシステムは、例えば腫瘍の位置または血管の位置等の認識性を向上させるため、また、骨または臓器といった手術対象箇所に対する手術器具の位置を表示し手術の際の安全性を向上させるためなどに用いられる。
特開2010−51817号公報
しかしながら、上記のような超音波診断装置および術中ナビゲーションシステム等において、検査者および手術者等の使用者に対して表示する画像がわかりにくいという課題がある。
そこで、本発明は、被検体内の対象箇所まで器具を移動できるように誘導するための画像を、使用者に対して分かり易く表示することができる画像処理装置等を提供する。
本発明の一態様に係る画像処理装置は、被検体内の対象箇所への器具の移動を誘導するための画像であるアシスト画像を生成する画像処理装置であって、前記対象箇所を含む3次元像に基づいて、前記対象箇所の3次元位置を示す対象位置情報を決定する3D像解析部と、前記器具の3次元位置を示す器具位置情報を取得する位置情報取得部と、前記対象箇所と前記器具との位置関係に基づいて、二つ以上の表示状態の中から一つの表示状態を選択する表示状態決定部と、選択された表示状態で表示されるように、前記アシスト画像を前記対象位置情報および前記器具位置情報を用いて生成するアシスト画像生成部と、前記アシスト画像を表示装置に出力するための制御を行う表示制御部とを備える。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明によれば、被検体内の対象箇所まで器具を移動できるように誘導するための画像を、使用者に対して分かり易く表示することができる。
図1Aは、プローブおよびスキャン面を示す概略図である。 図1Bは、頸動脈をプローブでスキャンする2方向を示す図である。 図1Cは、長軸スキャンにより取得された超音波画像の見え方の一例を示す図である。 図1Dは、短軸スキャンにより取得された超音波画像の見え方の一例を示す図である。 図2Aは、短軸断面の動脈血管の構造を示す断面図である。 図2Bは、長軸断面の動脈血管の構造を示す断面図である。 図2Cは、短軸断面の内膜と外膜の境界を示す断面図である。 図2Dは、長軸断面の内中膜の肥厚の一例を示す断面図である。 図3は、想定される超音波診断装置の構成を示すブロック図である。 図4は、想定される超音波診断装置の動作を示すフローチャートである。 図5は、アシスト画像とライブ画像を含む画面構成例を示す図である。 図6は、実施の形態1の超音波診断装置の構成を示すブロック図である。 図7は、実施の形態1の超音波診断装置の動作を示すフローチャートである。 図8Aは、3D像の生成フロー例を示す図である。 図8Bは、3D像の生成フロー例を示す図である。 図8Cは、3D像の生成フロー例を示す図である。 図8Dは、3D像の生成フロー例を示す図である。 図9Aは、3D像における測定ターゲットの位置と向きを示す図である。 図9Bは、測定ターゲットの長軸断面における位置を示す図である。 図9Cは、測定ターゲットの短軸断面における位置を示す図である。 図10は、画面表示の切替え動作の一例を示すフローチャートである。 図11Aは、3D空間における測定ターゲットである頸動脈の一例を示す図である。 図11Bは、第2表示状態の一例を示す図である。 図11Cは、第1表示状態の一例を示す図である。 図12は、画面表示の切替えにヒステリシスを適用した動作の一例を示すフローチャートである。 図13Aは、3D空間における測定ターゲットである頸動脈の一例を示す図である。 図13Bは、3D空間における長軸方向の頸動脈の一例を示す図である。 図13Cは、3D空間における短軸方向の頸動脈の一例を示す図である。 図13Dは、切替え後の長軸方向のライブ画像と短軸方向のアシスト画像の組み合わせ表示の一例を示す図である。 図14Aは、切替え前の長軸方向視点のアシスト画像の一例を示す図である。 図14Bは、切替え後の短軸方向視点のアシスト画像の一例を示す図である。 図15Aは、切替え前の長軸方向視点のアシスト画像の一例を示す図である。 図15Bは、切替え後の短軸方向視点で、かつズーム倍率を上げたアシスト画像の一例を示す図である。 図16は、アシスト画像の設定を切替える動作の一例を示すフローチャートである。 図17Aは、第2表示状態の他の一例を示す図である。 図17Bは、第1表示状態の他の一例を示す図である。 図18は、実施の形態2の超音波診断装置の動作を示すフローチャートである。 図19Aは、カメラを用いてプローブの位置情報を取得するシステムを示す図である。 図19Bは、プローブの位置情報が取得できない具体例1を示す図である。 図19Cは、警告情報を表示する画面の具体例1を示す図である。 図19Dは、プローブの位置情報が取得できない具体例2を示す図である。 図19Eは、警告情報を表示する画面の具体例2を示す図である。 図20Aは、被検者の体位と3D像との向きを対応させた表示例1を示す図である。 図20Bは、被検者の体位と3D像との向きを対応させた表示例2を示す図である。 図21は、2つの視点での画像を含むアシスト画像を用いた画面構成例を示す図である。 図22は、実施の形態3の超音波診断装置の動作を示すフローチャートである。 図23は、術中ナビゲーションシステムの設置例を示す概略図である。 図24は、仮想3次元空間内への情報取り込みの概要を示す図である。 図25は、実施の形態4の画像処理装置の構成を示すブロック図である。 図26は、実施の形態4の画像処理装置の動作を示すフローチャートである。 図27Aは、第2表示状態で表示するアシスト画像の一例を示す図である。 図27Bは、第1表示状態で表示するアシスト画像の一例を示す図である。 図28Aは、記録媒体本体であるフレキシブルディスクの物理フォーマットの例を示す図である。 図28Bは、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスクを示す図である。 図28Cは、フレキシブルディスクにプログラムの記録再生を行うための構成を示す図である。
(本発明の基礎となった知見)
本発明者は、「背景技術」の欄において記載した超音波診断装置および術中ナビゲーションシステム等の画像処理装置に関し、以下の問題が生じることを見出した。
まず、超音波による頸動脈診断について説明する。図1A〜図1Dは頸動脈を超音波でスキャンする際の像の見え方の説明図である。図1Aはプローブおよびスキャン面を示す概略図であり、図1Bは頸動脈をプローブでスキャンする2方向を示す図であり、図1Cは長軸スキャンにより取得された超音波画像の見え方の一例を示す図であり、図1Dは短軸スキャンにより取得された超音波画像の見え方の一例を示す図である。
プローブ10には超音波振動子(図示しない)が配置されており、例えば超音波振動子が1次元的に配置される際には、図1Aに示すように超音波振動子の直下の2次元のスキャン面11に対して超音波画像が得られる。一般的に、頸動脈の診断においては、図1Bに示すように頸動脈14を輪切りにする方向(短軸方向)12と短軸方向12に略直交する方向(長軸方向)13の2方向からの画像を取得する。長軸方向13、短軸方向12で頸動脈14をプローブ10でスキャンすると、それぞれ、例えば図1Cに示すような長軸方向の血管像と図1Dに示すような短軸方向の血管像が得られる。
次に、頸動脈診断においては血管壁の厚さを指標として動脈硬化の進行度合いを把握することから、動脈の血管壁の構造について図2A〜図2Dを参照して説明する。図2Aは短軸断面の動脈血管の構造を示す断面図であり、図2Bは長軸断面の動脈血管の構造を示す断面図であり、図2Cは短軸断面の内膜と外膜の境界を示す断面図であり、図2Dは長軸断面の内中膜の肥厚の一例を示す断面図である。
動脈の血管壁20は、図2Aおよび図2Bに示すように内膜22、中膜23、外膜24の3層から構成される。動脈硬化の進展に伴い、図2Cおよび図2Dに示すように主に内膜22と中膜23が肥厚する。従って、超音波による頸動脈診断では、図2Cに示す内膜境界25と外膜境界26を検出することで、内膜22と中膜23を合わせた内中膜の厚みを測定する。内中膜の厚みが一定値を超えた部分はプラーク27と呼ばれ、長軸像においては、図2Dのような血管壁の構造変化をきたす。プラーク27の検査においては、一般的に、短軸像と長軸像の両方を確認する。
ここで、プラーク27の厚みや大きさによっては、投薬、あるいは、外科的にプラーク27を剥離するなどの治療が必要となることから、内中膜の厚みの正確な測定が診断の鍵となる。しかしながら、内中膜の厚みは測定部位に依存して変化するとともに、検査者にとっては首の内部に存在する頸動脈の3次元的な走行形状を把握するのが困難であるため、頸動脈診断においては熟練した手技が必要とされてきた。また、投薬治療においては、治療効果を確認するために、プラーク27の同一位置を定期的に測定することにより、プラーク27の厚みや面積、容積などの縮小効果を診断する。毎回、同一の位置と向きで測定することが重要であり、ここでも高度な手技が必要とされる。
そこで、超音波のライブ画像(プローブで取得される超音波の実時間画像)に加えて、測定すべき位置と向きの超音波画像を取得するにはどのようにプローブを動かせば良いかを表示して、検査者を誘導する超音波診断装置30が提案される。
図3は、超音波診断装置30の構成を示すブロック図である。
超音波診断装置30は、図3に示すように3D像解析部31、位置情報取得部32、アシスト画像生成部33、ライブ画像取得部34、および、表示制御部35を備えている。
3D像解析部31は、予め取得された3次元像(以下、3D像という)を解析し、被検体内における測定すべき対象箇所(以下、測定ターゲットという)の3次元位置(以下、単に位置ともいう)および向きを含む対象位置情報tgtInfを決定し、決定した対象位置情報tgtInfをアシスト画像生成部33へ出力する。
位置情報取得部32は、例えば磁気センサまたは光学カメラなどを用いて、現在スキャンしているプローブ10の走査位置(スキャン位置)および向きを示す器具位置情報を取得する。
アシスト画像生成部33は、3D像、対象位置情報tgtInf、および、器具位置情報に基づいて、測定ターゲットの測定面、および、現在のスキャン面の位置と向きとを示す情報を3D像に重畳表示したアシスト画像asis0を生成する。
表示制御部35は、現在のスキャン位置における超音波画像であるライブ画像とアシスト画像とを合わせて表示装置150に表示する。
図4は、超音波診断装置30の動作を示すフローチャートである。ここでは、診断する器官形状を示す3D像が予め生成されているものとする。
まず、3D像解析部31は、3D像を解析して、測定ターゲットの位置および向きを含む対象位置情報を決定する(ステップS001)。続いて、位置情報取得部32は、現在スキャンしているプローブ10の走査位置および向きを示す器具位置情報を取得する(ステップS002)。次に、アシスト画像生成部33は、測定ターゲットと現在のスキャン位置との差分を計算し、その差分に応じて表示画像の色、又は、形状を変化させる経路情報Zを生成する(ステップS003)。そして、アシスト画像生成部33は、3D像、測定ターゲットの位置、現在のスキャン位置に加えて、経路情報Zを含むアシスト画像を生成する(ステップS004)。表示制御部35は、例えば図5に示すように、現在のスキャン位置における超音波画像であるライブ画像48とアシスト画像41とを合わせた画面40を表示装置150に表示する(ステップS005)。ここで、アシスト画像41には、対象箇所を含む器官形状を示す3D像42、現在のプローブ10の位置を示す画像43、現在のスキャン面を示す画像44、測定ターゲットのスキャン面を示す画像46、測定ターゲットのスキャンするために移動すべきプローブ10の位置を示す画像45、およびプローブ10を移動させる方向を示す矢印47が表示されている。
一般的に、検査者がプローブを動かしながらスキャン面を測定ターゲットに合わせる際には、まず、おおまかに位置合わせを行い、その後に微調整するという2段階のステップを踏む。このとき、おおまかな位置合わせには、主にアシスト画像を参照し、微調整は主にライブ画像を見ながら行うとスムーズに位置決めができる。しかしながら、例えば、図5に示すように、アシスト画像41とライブ画像48とを常に同一の画面構成で表示すると、検査者がどちらの画像に注目してプローブを動かせばよいのか分かり難いという課題がある。
上記課題を解決するために、本発明の一態様に係る画像処理装置は、被検体内の対象箇所への器具の移動を誘導するための画像であるアシスト画像を生成する画像処理装置であって、前記対象箇所を含む3次元像に基づいて、前記対象箇所の3次元位置を示す対象位置情報を決定する3D像解析部と、前記器具の3次元位置を示す器具位置情報を取得する位置情報取得部と、前記対象箇所と前記器具との位置関係に基づいて、二つ以上の表示状態の中から一つの表示状態を選択する表示状態決定部と、選択された表示状態で表示されるように、前記アシスト画像を前記対象位置情報および前記器具位置情報を用いて生成するアシスト画像生成部と、前記アシスト画像を表示装置に出力するための制御を行う表示制御部とを備える。
これにより、被検体内の対象箇所まで器具を移動できるように誘導するための画像を、使用者に対して分かり易く表示することができる。
また、前記二つ以上の表示状態には、前記アシスト画像における表示のズーム倍率を第1倍率で表示する第1表示状態と、前記アシスト画像における表示のズーム倍率を前記第1倍率より大きい倍率である第2倍率で表示する第2表示状態とを含み、前記表示状態決定部は、前記位置関係が第1の所定条件を満たさない場合に、前記第1表示状態を選択し、前記位置関係が前記第1の所定条件を満たす場合に、前記第2表示状態を選択してもよい。
これにより、位置関係が第1の所定条件を満たす場合に、アシスト画像を拡大表示に切り替えることができ、使用者に対して分かり易く表示することができる。
また、前記3D像解析部は、前記3次元像に基づいて、前記対象箇所の3次元位置に加えて、前記対象箇所の向きを、前記対象位置情報として決定し、前記位置情報取得部は、前記器具の3次元位置に加えて、前記器具の向きを、前記器具位置情報として取得してもよい。
これにより、対象箇所および器具に位置だけでなく、対象箇所および器具の向きに応じても表示状態を選択することができる。
また、前記器具は、超音波診断装置における前記被検体の超音波画像を取得するためのプローブであり、前記位置情報取得部は、前記器具位置情報として、前記プローブの走査位置および向きを取得し、前記アシスト画像生成部は、前記プローブの前記対象箇所への移動を誘導するための画像であるアシスト画像を生成してもよい。
これにより、プローブの対象箇所への移動を誘導するための画像であるアシスト画像を、使用者に対して分かり易く表示することができる。
また、前記画像処理装置は、さらに、前記プローブからライブ画像である前記被検体の超音波画像を取得するライブ画像取得部を備え、前記表示制御部は、前記アシスト画像および前記ライブ画像を表示装置に出力してもよい。
これにより、アシスト画像に加えてライブ画像を、使用者に対して分かり易く表示することができる。
また、前記二つ以上の表示状態には、前記表示装置において前記アシスト画像をメイン画像として表示するとともに、前記ライブ画像を前記メイン画像より小さいサブ画像として表示する第3表示状態と、前記表示装置において前記ライブ画像を前記メイン画像として表示するとともに、前記アシスト画像を前記サブ画像として表示する第4表示状態とを含み、前記表示状態決定部は、前記位置関係が第2の所定条件を満たさない場合に前記第3表示状態を選択し、前記位置関係が前記第2の所定条件を満たす場合に前記第4表示状態を選択し、前記表示制御部は、選択された表示状態で、前記アシスト画像および前記ライブ画像を表示装置に出力してもよい。
これにより、ライブ画像およびアシスト画像の表示形態を、使用者に対して分かり易く切り替えることができる。
また、前記表示制御部は、選択された前記表示状態に応じて、前記アシスト画像と前記ライブ画像との相対的な表示サイズを切り替えることで、前記メイン画像および前記サブ画像の切り替えを行い、前記アシスト画像および前記ライブ画像を前記表示装置に出力してもよい。
これにより、ライブ画像およびアシスト画像の表示形態を、使用者に対して分かり易く切り替えることができる。
また、前記表示状態決定部は、前記第3表示状態を選択している場合には、前記位置関係が第3の所定条件を満たすか否かに基づいて表示状態を選択し、前記第4表示状態を選択している場合には、前記位置関係が第4の所定条件を満たすか否かに基づいて表示状態を選択してもよい。
これにより、表示状態を安定的に切替えることができる。
また、前記対象箇所は血管であり、前記表示状態決定部は、前記ライブ画像において前記血管の走行方向に略平行な断面が描出されているか否かに応じて前記位置関係を判定し、判定した前記位置関係に基づいて前記二つ以上の表示状態の中から一つの表示状態を選択してもよい。
これにより、プローブの対象箇所への移動を誘導するための画像であるアシスト画像を、使用者に対して分かり易く表示することができる。
また、前記画像処理装置は、さらに、あらかじめ取得されたデータから前記3次元像を生成する3D像生成部を備え、前記3D像生成部は、前記データである、前記対象箇所を含む領域を前記プローブで予め走査して取得された超音波画像から、前記対象箇所を含む器官の輪郭を抽出することにより、前記3次元像を生成し、前記3次元像の3次元空間内における位置および向きを、前記位置情報取得部により取得される前記プローブの走査位置および向きと対応づけてもよい。
これにより、3次元空間内における3次元像の位置および向きを、プローブの走査位置および向きと対応づけることができる。
また、前記アシスト画像生成部は、前記プローブの現在の走査位置および向きと前記対象箇所の位置および向きとの相対関係に基づいてナビゲーション情報を生成し、前記アシスト画像として、前記3次元像に対して、前記プローブの現在の走査位置および向きを示すプローブ画像と、前記ナビゲーション情報と、を重畳した画像を生成してもよい。
これにより、プローブの対象箇所への移動を誘導するための画像であるアシスト画像を、使用者に対してさらに分かり易く表示することができる。
また、前記アシスト画像生成部は、前記第4表示状態が選択されたとき、前記対象箇所における複数の方向からの断面形状をそれぞれ示す複数の断面画像を生成し、生成した前記複数の断面画像に対して、前記プローブの現在の走査位置および向きを示すプローブ画像を重畳した画像を、前記アシスト画像として生成してもよい。
また、前記対象箇所は血管であり、前記複数の断面画像には、前記血管の走行方向である長軸方向および前記長軸方向に略直交する短軸方向からの断面形状をそれぞれ示す2つの断面画像を含み、前記アシスト画像生成部は、前記2つの断面画像に対して、前記プローブの現在の走査位置および向きと前記対象箇所の位置および向きとの相対関係に基づいて、前記プローブの前記対象箇所への移動を誘導するための直線または長方形を重畳した画像を、前記アシスト画像として生成してもよい。
これにより、プローブの対象箇所への移動を誘導するための画像であるアシスト画像を、使用者に対してさらに分かり易く表示することができる。
また、前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所の位置および向きと前記器具の位置および向きとのそれぞれの差分を前記位置関係として算出し、算出した前記差分に応じて一つの表示状態を選択してもよい。
また、前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所の位置および向きと前記器具の位置および向きとのそれぞれの差分を算出し、算出した前記差分を保持することにより、時間経過に伴う前記差分の変位を前記位置関係として算出し、算出した前記差分の変位に応じて一つの表示状態を選択してもよい。
これにより、的確に表示状態を選択することができる。
また、前記対象箇所は前記被検体内の手術対象部位であり、前記器具は、前記被検体の手術に用いられる手術器具であり、前記アシスト画像生成部は、前記手術器具の前記手術対象部位への移動を誘導するための画像であるアシスト画像を生成してもよい。
これにより、施術者は操作した手術器具の動きを確認でき、手術器具と対象箇所までの距離、および、切除または切削を行う向きの調整を容易に行うことができる。
また、前記画像処理装置は、さらに、あらかじめ取得されたデータから前記3次元像を生成する3D像生成部を備えてもよい。
これにより、あらかじめ取得されたデータから3次元像を生成することができる。
また、前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所および前記器具の位置の差分を前記位置関係として算出し、算出した前記差分に応じて一つの表示状態を選択してもよい。
また、前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所および前記器具の位置の差分を算出し、算出した前記差分を保持することにより、時間経過に伴う前記差分の変位を前記位置関係として算出し、算出した前記差分の変位に応じて一つの表示状態を選択してもよい。
これにより、的確に表示状態を選択することができる。
また、前記二つ以上の表示状態には、前記アシスト画像におけるズーム倍率および視点の少なくともどちらか一方が相違する表示状態を二つ以上含み、前記表示状態決定部は、前記位置関係に基づいて、前記アシスト画像におけるズーム倍率および視点の少なくともどちらか一方が相違する二つ以上の表示状態の中から一つの表示状態を選択してもよい。
これにより、各種の表示態様によってアシスト画像を生成し、使用者に対して分かり易く表示することができる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、本発明の実施の形態について、図面を参照しながら説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
本実施の形態では、本発明の一態様に係る画像処理装置を超音波診断装置に適用した場合について、図面を参照しながら説明する。なお、測定ターゲットは、超音波により撮影できる器官であれば特に限定されず、血管、心臓、肝臓、および乳房などがあるが、ここでは頸動脈を例に説明する。
まず、装置の構成について説明する。
図6は、実施の形態1の超音波診断装置100の構成を示すブロック図である。
超音波診断装置100は、図6に示すように3D像解析部101、位置情報取得部102、表示状態決定部103、アシスト画像生成部104、送受信部105、ライブ画像取得部106、表示制御部107、および、制御部108を備えている。
また、超音波診断装置100は、プローブ10、表示装置150、および入力装置160と接続可能に構成されている。
プローブ10は、例えば一次元方向(以下、振動子配列方向という)に配列された複数の振動子(図示しない)を有している。プローブ10は、送受信部105から供給されたパルス状または連続波の電気信号(以下、送信電気信号という)をパルス状または連続波の超音波に変換し、プローブ10を被検体の皮膚表面に接触させた状態で複数の振動子から発せられる複数の超音波からなる超音波ビームを測定器官(すなわち、頚動脈)に向けて送信する。この際、頚動脈の長軸断面の断層画像を取得するためには、プローブ10の振動子配列方向が頚動脈の長軸方向に沿うようにプローブ10を被検体皮膚表面に配置する必要がある。そして、プローブ10は、被検体からの複数の反射超音波を受信し、複数の振動子によりこれら反射超音波をそれぞれ電気信号(以下、受信電気信号という)に変換し、これら受信電気信号を送受信部105に供給する。
なお、本実施の形態においては、一次元方向に配列された複数の振動子を有するプローブ10の例を示しているが、これに限られるものではない。例えば、二次元方向に振動子を配列した二次元配列振動子、または一次元方向に配列された複数の振動子を機械的に揺動させて三次元の断層画像を構築する揺動型超音波探触子を用いてもよく、測定に応じて適宜使い分けることができる。
また、プローブ10は、送受信部105の一部の機能を超音波探触子側に設けてもよい。例えば、送受信部105から出力された送信電気信号を生成するための制御信号(以下、送信制御信号という)に基づきプローブ10内で送信電気信号を生成し、この送信電気信号を超音波に変換し、一方、受信した反射超音波を受信電気信号に変換し、プローブ10内で受信電気信号に基づき後述の受信信号を生成する構成が挙げられる。
表示装置150は、いわゆるモニタであって、表示制御部107からの出力を表示画面として表示する。
入力装置160は、各種入力キーを備え、操作者が超音波診断装置100の各種設定するために用いられる。
なお、図6に示す構成は、表示装置150と入力装置160とを超音波診断装置100とは別々に設けた構成の例を示しているが、係る構成に限定されるものではない。例えば、入力装置160が表示装置150上でタッチパネル操作する構成である場合、表示装置150と入力装置160(および超音波診断装置100)とが一体となった構成となる。
3D像解析部101は、測定ターゲットを短軸スキャンすることなどにより予め取得した3D像を解析し、測定ターゲットの3次元位置および向きを含む位置情報(対象位置情報)tgtInf1を決定し、決定した対象位置情報tgtInf1を表示状態決定部103に出力する。
位置情報取得部102は、例えば磁気センサまたは光学カメラなどを用いて、現在スキャンしているプローブ10のスキャン位置および向きを示す位置情報(器具位置情報)を取得する。
表示状態決定部103は、測定ターゲットとプローブ10との位置関係に基づいて、2つの表示状態の中から1つの表示状態を選択する。具体的には、表示状態決定部103は、測定ターゲットと現在のスキャン位置との位置および向きの差分に基づいて、第1表示状態、あるいは、第2表示状態のどちらかを選択し、選択した表示状態を示すモード情報modeとして出力する。
アシスト画像生成部104は、3D像のデータと測定ターゲットの対象位置情報とを含むアシスト画像生成情報tgtInf2を3D像解析部101から取得して、モード情報modeにより示される表示状態で表示されるようにアシスト画像を生成する。ここで、アシスト画像は、測定ターゲットへのプローブ10の移動を誘導するための画像であり、測定ターゲットの測定面、および現在のスキャン面の位置と向きとを示す情報を3D像に重畳表示した画像である。なお、表示状態をとして画面構成ではなく、ズーム倍率または視点方向などを切替える際には、これらの情報をモード情報modeに含め、ズーム倍率および視点方向の変更を併用する場合は両方の情報をモード情報modeに含める。
送受信部105は、プローブ10と接続するものであって、プローブ10の超音波ビームの送信制御に係る送信制御信号を生成し、この送信制御信号に基づき生成したパルス状または連続波の送信電気信号をプローブ10に供給する送信処理を行う。なお、送受信部105が行う送信処理とは、少なくとも送受信部105で送信制御信号を生成し、プローブ10に超音波(ビーム)を送信させる処理を意味する。
一方、送受信部105は、プローブ10からの受信電気信号を増幅してA/D変換を行い、受信信号を生成する受信処理を行い、この受信信号をライブ画像取得部106に供給する。この受信信号は、例えば、振動子配列方向と超音波の送信方向であって振動子配列と垂直な方向(以下、深さ方向とする。)からなる複数の信号からなり、各信号は反射超音波の振幅から変換された電気信号をA/D変換したデジタル信号である。そして、この送信処理および受信処理を繰り返し連続して行い、複数の受信信号からなるフレームを複数構築していく。なお、送受信部105が行う受信処理とは、少なくとも送受信部105が反射超音波に基づく受信信号を取得する処理を意味する。
また、ここでいうフレームとは、1枚の断層画像を構築する上で必要な1つのまとまった受信信号、またはこの1つのまとまった受信信号に基づき断層画像データを構築するために処理された信号、あるいは、この一つのまとまった受信信号に基づき構築された1枚の断層画像データ或いは断層画像のことをいう。
ライブ画像取得部106は、フレーム内のそれぞれの受信信号を、その強度に対応した輝度信号へと変換し、その輝度信号を直交座標系に座標変換を施すことで断層画像データを生成する。ライブ画像取得部106は、この処理をフレーム毎に逐次行い、生成した断層画像データを表示制御部107に出力する。
表示制御部107は、アシスト画像と、ライブ画像取得部106により取得された現在のスキャン位置における超音波画像(断層画像データ)であるライブ画像とを用いて、モード情報modeにより指定された画面構成に従ってライブ画像とアシスト画像とを表示装置150に表示する。
制御部108は、入力装置160の指示に基づいて、超音波診断装置100内の各部を制御する。
次に、上記のように構成された超音波診断装置100の動作について説明する。
図7は、実施の形態1の超音波診断装置100の動作を示すフローチャートである。
まず、3D像解析部101は、予め取得した3D像を解析して、測定ターゲットとなる断面の位置および向きを含む対象位置情報を決定すると共に、測定ターゲットに対して、位置、あるいは、向きの差分が閾値以下である範囲を測定範囲として設定する(ステップS101)。
ここで、図8A〜図8Dと図9A〜図9Cを参照して、3D像の生成方法と測定ターゲットの対象位置情報の決定方法について説明する。図8A〜図8Dは、超音波画像を用いた3D像の生成フロー例を示す図である。
まず、例えばプローブ10により頸動脈全体をスキャンして図8Aに示すように複数のフレーム51の短軸像の断層画像データを取得し、短軸像の各フレーム51から図8Bに示すように血管輪郭52を抽出する。次に、図8Cに示すように各フレーム51の血管輪郭52を3D空間内に配置し、輪郭頂点に基づいてポリゴンを生成するなどして図8Dに示すような頸動脈の3D像53を構築する。短軸像の取得時には、スキャン面の位置情報(位置と向きを含む)を取得しており、この位置情報に基づいて各フレーム51の血管輪郭52が3D空間内に配置される。位置情報は、例えばプローブ10に取り付けた光学マーカをカメラで撮影し、撮影した画像内における光学マーカの形状変化に基づいて算出することができる。なお、他にも、磁気センサ、ジャイロ、または加速度センサなどを用いて位置情報を取得してもよい。
また、プローブについては、2次元画像を取得するプローブだけでなく、プローブを移動させずに3次元画像が取得できるプローブを用いてもよい。これは例えば、プローブ内でスキャン面が機械的に揺動する揺動プローブ、またはプローブ面に超音波振動子が2次元的に配置されたマトリクスプローブである。
さらに、3D像は、CT(コンピュータ断層撮影)、またはMRI(磁気共鳴イメージング)など超音波以外の方法により取得してもよい。
また、本実施の形態では、3D像を予め取得しているものとしているが、これに限られるものではない。例えば、超音波診断装置100に3D像を生成する構成を備えても構わない。
図9Aは、3D像における測定ターゲットの位置と向きについて示す図であり、図9Bは、長軸断面における測定ターゲットの位置を示す図であり、図9Cは、短軸断面における測定ターゲットの位置を示す図である。
測定すべき測定ターゲットの位置および向きは測定器官診断目的に応じて異なる。例えば、測定器官が頸動脈の検診の場合、一般的に、3D像53における測定ターゲットは、図9Aに示すような位置と向きになる。よって、3D像解析部101は、血管の走行方向である長軸断面において、図9Bに示すように頸動脈の形状に基づいて設定した測定基準位置61から所定の距離62となる部位を測定ターゲット63として決定する。
また、3D像解析部101は、短軸方向の面内において、3D像を構成する各フレームにおける短軸像の輪郭64の中心を結んだ線(以下、中心線という)65を通る平面(以下、最大活面という)66となるように測定ターゲット63の位置を決定する。ここで、3D像解析部101は、最大活面66が、分岐前後の輪郭中心を通る平面、あるいは当該平面から所定の角度だけ傾いた向きとなるように決定する。例えば、分岐前後の輪郭中心を通る基準面に沿ってプローブを当てられる場合には基準面において測定するが、頸動脈の走行方向によっては基準面に沿ってプローブを当てられないため、そのような場合には、基準面からそれぞれ±45度傾いた2つの平面の、いずれかを選択するとよい。検診などでは、診断ガイドラインなどで規定された部位を測定すればよいが、プラークの治療効果の判定には、前述したように毎回同じ条件(位置と向き)で測定することが重要である。従って、3D像解析部101は、前回の診断時の測定ターゲットの位置情報を記憶しておき、次回の測定時には前回と同一の位置と向きで測定できるように測定ターゲット63を決定してもよい。また、3D像解析部101は、3D像生成時に取得された短軸像などから、血管の内膜境界と外膜境界を抽出することで内中膜の厚さを算出し、厚さが閾値以上である部位をプラークとして検出することができる。3D像解析部101は、このようにして検出したプラークにおいて、厚みが最大となる位置での長軸方向の断面を測定ターゲット63として決定してもよい。なお、本実施の形態では、3D像解析部101で測定ターゲット63を決定しているが、検査者が手動で測定ターゲット63を設定しても構わない。
次に、位置情報取得部102は、プローブ10の現在のスキャン位置および向きを示す位置情報(器具位置情報)を取得する(ステップS102)。ここで、位置情報取得部102は、この位置情報を、先述したように、例えばカメラ、または磁気センサ等の各種センサを用いて取得する。カメラを用いる場合には、例えば、プローブ10に4つのマーカから構成される光学マーカを取り付け、カメラで取得される画像における4つのマーカの中心座標およびサイズに基づいてマーカの位置および向きを推定することにより、プローブ10のスキャン位置および向きを推定することができる。
次に、表示状態決定部103は、現在のスキャン位置が測定ターゲットに対する測定範囲内であるか否か判定する(ステップS103)。この判定の結果、測定範囲内である場合(ステップS103でYes)、表示状態決定部103は、第1表示状態を選択する(ステップS104)。次に、アシスト画像生成部104は、3D像のデータと測定ターゲットの対象位置情報とを含むアシスト画像生成情報tgtInf2を用いて、第1表示状態のアシスト画像を生成する(ステップS105)。そして、表示制御部107は、アシスト画像と、ライブ画像取得部106により取得した現在のスキャン位置における超音波画像であるライブ画像とを、第1表示状態で表示装置150に表示する(ステップS106)。
一方、測定範囲内でない場合(ステップS103でNo)、表示状態決定部103は、第2表示状態を選択する(ステップS107)。次に、アシスト画像生成部104は、3D像のデータと測定ターゲットの対象位置情報とを含むアシスト画像生成情報tgtInf2を用いて、第2表示状態のアシスト画像を生成する(ステップS108)。そして、表示制御部107は、アシスト画像とライブ画像とを、第2表示状態で表示装置150に表示する(ステップS109)。
次に、終了であるか否かを判定し(ステップS110)、終了でなければ(ステップS110でNo)、現在の位置情報の取得処理(ステップS102)から繰り返す。
次に、図7のフローチャートに示すステップS103からステップS109における表示状態の決定フローの具体例について、説明する。図10は、画面表示の切替え動作の一例を示すフローチャートである。なお、図10に示すフローチャートは、図7に示すステップS103からステップS109に置き換わる部分のみを記載している。
まず、表示状態決定部103は、測定ターゲットと現在のスキャン位置との、位置および向きの差分を算出する(ステップS1101)。続いて、表示状態決定部103は、3D像の特定方向に対する、位置および向きの差分が閾値以下であるか否かを判定する(ステップS1102)。
ここで、特定方向とは、3次元空間座標において互いに直交する3つの軸の全てを考慮してもよいし、測定器官の形状などに基づいて設定してもよい。例えば、測定ターゲットが血管の中心線に平行な場合には、測定ターゲットの中心と現在のスキャン位置におけるスキャン面の中心との距離が閾値以下であり、かつ、現在のスキャン位置におけるスキャン面が中心線と平行に近づいた場合に、位置と向きの差分が閾値以下である判定することなどが可能である。
この判定の結果、閾値以下である場合(ステップS1102でYes)、表示状態決定部103は、第1表示状態を選択する(ステップS104)。次に、アシスト画像生成部104は、アシスト画像生成情報tgtInf2を用いて、第1表示状態のアシスト画像を生成する(ステップS105)。そして、表示制御部107は、メイン表示を超音波のライブ画像とし、サブ表示をアシスト画像とする第1表示状態(第4表示状態)で表示装置150に表示する(ステップS1103)。
一方、閾値以下でない場合(ステップS1102でNo)、表示状態決定部103は、第2表示状態を選択する(ステップS107)。次に、アシスト画像生成部104は、アシスト画像生成情報tgtInf2を用いて、第2表示状態のアシスト画像を生成する(ステップS108)。そして、表示制御部107は、メイン表示をアシスト画像とし、サブ表示をライブ画像とする第2表示状態(第3表示状態)で表示装置150に表示する(ステップS109)。
ここで、メイン表示とは、超音波画像が表示される表示装置150の画面の中心部、又は、画面上で最も大きな領域を占める部分の表示をいい、サブ表示とは、画面に表示される情報のうち、メイン表示ではない部分の表示をいう。
次に、図11A〜図11Cを用いて、頸動脈の長軸像における測定ターゲットをスキャンする際の表示状態の切替え例について説明する。図11Aは、3D空間における測定器官である頸動脈の一例を示す図であり、図11Bは、第2表示状態の一例を示す図であり、図11Cは、第1表示状態の一例を示す図である。
長軸像を描出して内中膜の肥厚を測定する際には、まず短軸像をスキャンしながら測定ターゲットの近傍までプローブを移動させ、その後にプローブを回転させて長軸像を描出する。従って、図11Aに示すように、頸動脈の短軸断面がxz平面に平行で、進行方向がy軸に平行である場合には、ターゲット位置の近傍まで短軸像でスキャンした後に、z軸の周りにプローブを回転させて長軸像を描出する。このため、ステップS1102においては、現在のスキャン位置が測定範囲内にあるか、つまり3D空間における現在のスキャン位置と測定ターゲットとの位置の差分、および、z軸周りの回転角の差分が、それぞれ予め設定された閾値以下であるかを判定する。このように判定することで、プローブをz軸周りに回転させた状態で長軸像が描出できるかどうかを大まかに判定でき、長軸像が描出されうる場合に表示状態を切替えられる。図11Bに示す第2表示状態では、現在のスキャン位置が測定範囲外、つまり、長軸像が描出されない場合の画面表示であり、主にアシスト画像を参照しながらスキャン位置をターゲット位置に移動できるように、画面70に、アシスト画像73をメイン表示71とし、ライブ画像74をサブ表示72として、表示している。一方、図11Cに示す第1表示状態では、現在のスキャン位置が測定範囲内である場合の画面表示であり、スキャン位置がターゲット位置の近傍にあることから、超音波のライブ画像75を主に参照して位置合わせができるように、画面70に、ライブ画像75をメイン表示71とし、アシスト画像73をサブ表示72として、表示している。ここで、アシスト画像73には、対象箇所を含むとなる器官形状を示す3D像42、現在のプローブ10の位置を示す画像43、現在のスキャン面を示す画像44、測定ターゲットのスキャン面を示す画像46、測定ターゲットのスキャンするために移動すべきプローブ10の位置を示す画像45、およびプローブ10を移動させる方向を示す矢印47が表示されている。
なお、図11Bに示す第2表示状態から図11Cに示す第1表示状態へ画面が切替えられた場合、切替え前後でアシスト画像とライブ画像の左右関係が逆転するが、これに限られるものではない。例えば、図11Cに示す第1表示においてライブ画像74を画面の右側に表示したまま表示領域を拡大して、左右の関係は切替わらないようにしてもよい。また、画面表示の切替えは2パターンに限定されるものではなく、位置、向きの差分に基づいて各画像の表示領域を拡大または縮小していくなど連続的に遷移してもよい。
ここで、図10のステップS1102では、測定ターゲットと現在のスキャン位置との位置および向きの差分が閾値以下であるか否かに基づいて表示状態を切替えるため、差分が閾値の境界近傍となる位置でプローブが頻繁に移動すると、表示状態が頻繁に切替わり、アシスト画像およびライブ画像の視認性が低下するという問題が起こりうる。
そこで、表示状態を安定的に切替えるための動作について、以下、説明する。
図12は、表示状態の切替え判定にヒステリシスを導入して、表示状態を安定的に切替えるための動作を示すフローチャートである。なお、図12のフローチャートに示すステップのうち、図10のフローチャートに対して追加されるステップS1105からステップS1107までのステップについて説明する。
表示状態決定部103は、現在の表示状態が第2表示状態であるかどうか判定する(ステップS1105)。この判定の結果、第2表示状態である場合(ステップS1105でYes)、表示状態決定部103は、位置と向きのそれぞれについて、表示状態の切替え判定に用いる閾値をT1に設定する(ステップS1106)。一方、第2表示状態でない場合(ステップS1105でNo)、表示状態決定部103は、ステップS1106において設定した閾値T1とは異なる閾値T2を設定する(ステップS1107)。例えば、第1表示状態では、位置の閾値T2を8mmとして、第2表示の状態では、位置の閾値T1を10mmとする。初期状態を第2表示状態とすると位置の差分が8mm以下となった段階で第1表示状態に遷移する。ここで、第1表示状態における閾値は10mmであるため、差分が10mm未満であれば、第1表示状態のままである。従って、差分が8mmとなる付近でプローブが2mm程度動いても、表示状態は振動することなく、安定した状態を保つことができる。
なお、測定ターゲットと現在のスキャン位置との差分に基づいて切替える要素は、メイン表示とサブ表示などの表示状態に限定されるものではなく、例えば、アシスト画像における視点方向やズーム倍率などアシスト画像自体の見え方に関わるパラメータであってもよい。
次に、図13A〜図13Dを用いて、頸動脈を診断する際のアシスト画像における視点方向の切替え例について説明する。図13Aは、3D空間における測定ターゲットである頸動脈の一例を示す図であり、図13Bは、3D空間における長軸方向の頸動脈の一例を示す図であり、図13Cは、3D空間における短軸方向の頸動脈の一例を示す図であり、図13Dは、切替え後の長軸方向のライブ画像と短軸方向のアシスト画像の組み合わせ表示の一例を示す図である。
頸動脈の3次元的な形状は、図13Aに示すように、短軸断面がxz平面に平行で、進行方向がy軸に平行であるとする。頸動脈の長軸の内中膜厚を測定する際には、図11A〜図11Cを用いて先に説明したように、測定ターゲットの近傍である測定範囲内まで短軸像でスキャンした後に、プローブを回転させて長軸像を描出する。短軸像のスキャン時には、図13Bに示すように、長軸像が俯瞰できる視点方向(図中のz軸方向)にすると現在のスキャン位置82と測定ターゲット81との位置関係が分かり易い。次に、長軸像の描出後は、図13Cに示すように、短軸断面84におけるスキャン位置と傾きが把握できる視点方向(図中のy軸方向)が望ましい。
このとき、図13Dに示すように長軸方向視点のライブ画像と短軸方向視点のアシスト画像とを組み合わせると、プローブ10と測定ターゲットとの位置関係がより把握しやすい表示を提供することができる。まず、ライブ画像における長軸像の傾きから、x軸周りの回転情報が得られる。また、血管の走行方向(図中のy軸方向)とスキャン面の方向が一致する(図中のz軸周りの回転角が同一)場合には、血管像が画面の一方の端から他方の端まで連続して描出されるが、両者の間におけるz軸周りの回転角のズレが大きくなるにつれ、画面の一部にしか血管像が描出されなくなる。ここでは、血管の蛇行が軽微であることを仮定しているが、少なくとも、総頸動脈から分岐部にかけての走行は直線的であり、この仮定は実用上有用である。従って、ライブ画像からx軸とz軸周りの回転、および、y軸方向の位置が把握できる。アシスト画像からは、y軸周りの回転と、x軸とz軸方向の位置が把握できるため、両者を合わせることで、全ての位置関係が把握できる。なお、血管の走行方向は、3D像の中心線に基づいて決定できる。
図14Aは、切替え前の長軸方向視点のアシスト画像の一例を示す図であり、図14Bは、切替え後の短軸方向視点のアシスト画像の一例を示す図である。
現在のスキャン位置が測定範囲外であれば、図14Aのような長軸方向視点のアシスト画像85を表示し、測定範囲内であれば、図14Bのような短軸方向視点のアシスト画像を表示する。
また、ズーム倍率の切替えを行ってもよい。図15Aは、切替え前の長軸方向視点のアシスト画像の一例を示す図であり、図15Bは、切替え後の短軸方向視点で、かつズーム倍率を上げたアシスト画像の一例を示す図である。
現在のスキャン位置が測定範囲外であり、スキャン位置と測定ターゲットの距離が遠く、全体を俯瞰する必要がある場合には、図15Aのようにズーム倍率を下げ、スキャン位置が測定範囲内でスキャン位置の微調整を行う場合には、図15Bのように測定ターゲットの近傍領域が詳細にみえるようにズーム倍率を上げて表示する。
図16は、アシスト画像の設定を切替える動作の一例を示すフローチャートである。なお、ステップS201からS203は、図7のステップS101、S102、S103とほぼ同様である。ここでは、ステップS204およびS205の処理について、説明する。
アシスト画像生成部104は、アシスト画像の視点方向およびズーム倍率など、各要素の設定を切替える(ステップS204)。そして、アシスト画像生成部104は、切替えを反映したアシスト画像を生成する(ステップS205)。なお、これら視点方向およびズーム倍率などの各要素の切替えは、画面表示の切替えと併用してもよい。
以上のように、超音波診断装置100では、現在のスキャン位置が測定ターゲットの測定範囲内か否かに基づいて画面の表示状態を動的に切替えている。これにより、検査者に対してよりわかりやすい、プローブの誘導を行うことができる。さらに、現在のスキャン位置および向きに応じて、アシスト画像における3D空間の視点方向などを変更する構成とすれば、検査者が、測定ターゲットとスキャン位置との位置合わせを容易にできるよう誘導することもできる。
なお、図11Bおよび図11Cに例示した画面構成以外の構成でもよい。例えば、図11Bおよび図11Cに示すように、画面70に対してメイン表示71とサブ表示72を別々に表示する画面構成ではなく、図17Aおよび図17Bに示すように、メイン表示76の中にサブ表示77が含まれる画面構成でもよい。
また、本実施の形態では、表示状態決定部103は、測定ターゲットと現在のスキャン位置との位置および向きの差分に基づいて、第1表示状態または第2表示状態を選択しているが、これに限られるものではない。例えば、表示状態決定部103は、測定ターゲットと現在のスキャン位置との位置の差分に基づいて、第1表示状態または第2表示状態を選択しても構わない。また、表示状態決定部103は、測定ターゲットと現在のスキャン位置との位置および向き(または位置のみ)の差分を保持することにより、時間経過に伴う差分の変位に基づいて、第1表示状態または第2表示状態を選択しても構わない。
(実施の形態2)
実施の形態2は、超音波診断装置100の位置情報取得部102がプローブの位置情報を取得できているかどうかを判定する点が、実施の形態1と相違する。なお、構成は、図6に示す実施の形態1の超音波診断装置100と同様であるので、位置情報取得部102についても同じ符号を用いて、説明する。
例えば、プローブに取り付けた光学マーカをカメラで撮影して位置情報を取得する場合、プローブがカメラの視野範囲から外れたり、プローブのケーブルや検査者の手などにより光学マーカが隠れてカメラに映らなかったりすると(オクルージョン)、位置情報が正しく取得できない。また、例えば磁気センサを用いて位置情報を取得する場合でも、プローブが磁場範囲外に出たり、金属などの磁場を乱す器具に近づいたりすると、位置情報が正しく取得できない。
本実施の形態2において位置情報取得部102は、プローブ10の位置情報が取得できているか否かを判定する。
図18は、実施の形態2の超音波診断装置100の動作を示すフローチャートである。なお、ステップS108とステップS109以外は、図7と同様であるため説明を省略する。
ステップS108において、位置情報取得部102は、プローブ10の位置情報が取得できているか否かを判定する。この判定の結果、取得できていれば(ステップS108でYes)、ステップS103に進む。
一方、取得できていなければ(ステップS108でNo)、位置情報取得部102は、位置情報が取得できないことを示す警告情報を表示するように表示制御部107に指示し、表示制御部107は、警告情報を表示装置150に表示する(ステップS109)。
なお、本実施の形態では、位置情報が取得できないときにその旨を示す警告情報を表示するとしたが、ステップS103以降において、位置情報が取得できる場合にも、その旨を示す情報を表示してもよい。また、位置情報が取得できているか否かだけでなく、位置情報の信頼度などに基づく表示をしてもよい。例えば、カメラのゲインや露出、ホワイトバランスなどが適切でなく、カメラで取得した画像における光学マーカの位置検出精度が低下するなどした場合には、信頼度が下がる。この場合、ステップS109やステップS103以降において、その信頼度に基づく数値を表示してもよいし、信頼度に基づいて形状、模様、色彩などの形態が変化する図形等を表示してもよい。
図19Aは、プローブに取り付けた光学マーカをカメラで撮影して位置情報を取得するシステムの構成例を示す図である。
例えば、このシステムでは、図19Aに示すように、光学マーカは15aから15dまでの4つのマーカから構成され、位置情報取得部102は、カメラ90で取得した画像における4つのマーカの中心座標とサイズに基づいてマーカの位置と向きを推定する。
図19Bは、マーカ15cがプローブ自体の影になって検出できないため位置情報が取得できない場合の具体例1を示す図であり、図19Cは、警告情報を表示する画面の具体例1を示す図である。
例えば、図19Bに示すように、マーカ15cがプローブ10自体の影になって検出できないため位置情報が取得できない場合には、警告情報として、図19Cに示すように、その旨を示す赤丸のサイン91を画面70に表示する。なお、位置情報が取得できる場合は、例えば警告情報の一例である赤丸と異なる緑丸のサイン91を表示しておくなど、位置情報が取得できる場合にもその旨を表示してもよい。
図19Dは、プローブ10がカメラ90の視野から外れているため、位置情報が取得できない場合の具体例2を示す図であり、図19Eは、警告情報を表示する画面の具体例2を示す図である。
例えば、図19Dに示すように、プローブ10がカメラ90の視野から外れているため、位置情報が取得できない場合には、図19Eに示すように、プローブ10の現在位置が図中に×印93で示すアシスト画面の表示外となり、プローブ10をどの方向に動かせばカメラの視野範囲内に移動できるかを検査者に知らせるために、プローブの現在位置から測定ターゲット92に向かう方向の矢印94をアシスト画面に表示する。
次に、アシスト画像の変形例を説明する。図20Aは、被検者の体位と3D像との向きを対応させた表示例1を示す図であり、図20Bは、被検者の体位と3D像の向きを対応させた表示例2を示す図である。
アシスト画像に、例えば、頸動脈の3D像と被検者の体の向きとを関連付ける情報を表示してもよい。
図20Aの表示例1のように被検者の頭部の方向を示してもよいし、図20Bの表示例2のように、頭部の方向に加えて、3D像が左右どちらの頸動脈であるかを示してもよい。頭部の方向は、例えば、カメラ画像から被検者の顔を検出する、あるいは、被検者の頭や肩のシルエットを検出して決定することができる。又は、頸動脈の3D像において、頸動脈は1本から2本へと分岐しているが、その分岐して血管が2本存在する側の方向を頭部の方向としてもよい。さらには、3D像を構築する際の短軸スキャンを頸部の下から上に向かう方向とするなどスキャンする方向を予め束縛することでも頭部の方向を決定できる。
また、例えば、アシスト画像は、メイン表示とサブ表示との切替え時で視点方向を切替えるのではなく、複数の視点方向からの情報を常に表示してもよい。図21は、頸動脈診断において、長軸方向視点と短軸方向視点の2つの視点方向での画像(断面画像)を含むアシスト画像を用いた画面構成例を示す図である。
この例では、アシスト画像71における視点方向は常に長軸方向と短軸方向の2視点方向であり、アシスト画像71には、長軸方向視点の画像78と短軸方向視点の画像79とが表示される。また、ライブ画像72とアシスト画像71とを合わせることで、x、y、zの3軸全てに関する位置と向きの情報が得られるため、本表示の場合、メイン表示とサブ表示の切替え時に視点方向を切替えなくてよい。
また、特に、熟練者においては、比較的容易に長軸像を描出できるため、画面構成の切替えも行わずに、常にメイン表示をライブ画像、サブ表示をアシスト画像としてもよい。さらに、現在のスキャン位置が測定範囲内と測定された場合にのみ、現在のスキャン位置を示す情報をアシスト画像に重畳してもよい。また、現在のスキャン位置が測定範囲内であるかどうかを示す情報を、表示してもよい。
(実施の形態3)
実施の形態3は、超音波診断装置100の表示状態決定部103が表示状態の切替えを超音波画像に長軸像が描画されているか否かで行う点が、実施の形態1と相違する。なお、構成は、図6に示す実施の形態1の超音波診断装置100と同様であるので、表示状態決定部103についても同じ符号を用いて、説明する。
実施の形態3において、表示状態決定部103は、ライブ画像取得部106より取得した現在のスキャン位置における超音波画像が長軸像を描出しているか否かを判定する。そして、表示状態決定部103は、長軸像を描出している場合は、メイン表示を超音波のライブ画像とし、サブ表示をアシスト画像とする第1表示状態を選択する。また、表示状態決定部103は、長軸像を描出していない場合は、メイン表示をアシスト画像とし、サブ表示をライブ画像とする第2表示状態を選択する。
ここで、血管の長軸像の内膜境界や外膜境界は、超音波のB画像やカラーフロー、あるいは、パワードプラ画像に基づいて抽出できる。例えば、B画像であれば、輝度値に基づいて境界付近のエッジを探索すればよいし、カラーフローやパワードプラ画像であれば、血流領域が血管の内腔に相当すると仮定して血管輪郭を抽出する。また、血管の走行方向とプローブのスキャン面が平行に近ければ、超音波画像の一方の端から他方の端まで長軸像が描出されるが、平行な方向から外れるにしたがって、超音波画像の一部領域にしか長軸像が描出されなくなる。したがって、B画像などに基づいて検出した長軸像の輪郭が、超音波画像内で所定の長さ以上に渡って描出されていれば、血管の走行方向とプローブのスキャン面とが平行であるとみなして、表示を切替えることができる。さらには、長軸像が描出されているかを検査者が判断し、手動で表示状態を切替えられるように、ボタンを1つ押せば切り替わるような切替え操作を簡単にできるUI(ユーザインタフェース)を設けてもよい。
次に、実施の形態3の超音波診断装置100の動作について説明する。
図22は、実施の形態3の超音波診断装置100の動作を示すフローチャートである。なお、ステップS301以外は、図7と同様であるため説明を省略する。
表示状態決定部103は、ライブ画像取得部106より取得した現在のスキャン位置における超音波画像が長軸像を描出しているか否かを判定する(ステップS301)。この判定の結果、長軸像を描出していると判定した場合(ステップS301でYes)、表示状態決定部103は、メイン表示を超音波のライブ画像とし、サブ表示をアシスト画像とする第1表示状態を選択する(ステップS104)。一方、長軸像を描出していないと判定した場合(ステップS301でNo)、表示状態決定部103は、メイン表示をアシスト画像とし、サブ表示をライブ画像とする第2表示状態を選択する(ステップS107)。
以上のように、本実施の形態では、超音波画像が長軸像を描出しているか否かに基づいて画面の表示状態を動的に切替えている。これにより、検査者に対してよりわかりやすい、プローブの誘導を行うことができる。
上記実施の形態1〜3では、主に、頸動脈のプラークを診断する際の動作について説明したが、プラークだけでなく、血管の診断において重要となるドプラ計測においても、アシスト画像は有効である。このとき、プラークの位置情報の代わりに、ドプラ計測のサンプルゲートの位置情報を3D像解析部101で決定、あるいは、手動で設定し、サンプルゲートの設定位置をスキャンできるように検査者を誘導する。サンプルゲートの位置は、総頸動脈と頸動脈洞との境界や、頸動脈の分岐部から所定の距離となる部位、あるいは、プラーク部位の近傍となるように設定できる。また、頸動脈以外にも、腹部大動脈、鎖骨下動脈などの他の血管や、肝臓や乳房の腫瘍を観察する際にも使用できる。
(実施の形態4)
本実施の形態では、本発明の一態様に係る画像処理装置を術中ナビゲーションシステムに適用した場合について、図面を参照しながら説明する。術中ナビゲーションシステムとは、手術中の患者位置と手術器具との位置関係を表示するシステムである。この術中ナビゲーションシステムは、例えば腫瘍の位置または血管の位置等の認識性を向上させるため、また、骨または臓器といった手術対象に対する手術器具の位置を表示し手術の際の安全性を向上させるためなどに用いられる。
図23、は術中ナビゲーションシステムの設置例を示す概略図であり、図24は、仮想3次元空間内への情報取り込みの概要を示す図である。
外科手術では、例えば、図23に示すように手術対象の患者201の切開部202から内視鏡などの手術器具203を挿入し、所望部位の切除や切削を行う場合がある。所望部位が目視できない場合、手術器具203の先端が体内のどの位置にあるかを施術者に示すために、手術ナビゲーションシステムが用いられる。手術ナビゲーションシステムは、手術器具203に設置された光学マーカ213、患者を寝かせたベッドサイドに一つ以上のCCDカメラ等の撮像装置511および画像処理装置500を備えたトラッキングシステム、ナビゲーション情報(アシスト画像)を表示するための表示装置(モニタ)250を備えている。トラッキングシステムは光学マーカ213を撮像装置511で撮影して、光学マーカ213の空間上の位置および姿勢(向き)の情報223を算出し、それを手術器具203の先端部の位置および姿勢の情報に変換することができる。取得した位置および姿勢の情報に基づいて、トラッキングシステム内に仮想的に設定した3次元空間520内に手術器具203を模擬したオブジェクトを配置する。
近年は、手術対象患者の所望部位の位置は術前のシミュレーションによってその3次元的な形状や大きさが事前に確認されていることが一般的である。CT、MRI、PET、または超音波診断装置などのモダリティによって取得された手術対象部位(対象箇所)の3次元ボリュームデータ510を用いて、切除または切削する領域が事前に決定される。術中ナビゲーションを行う際には、実際の手術対象の患者201と3次元ボリュームデータ510との位置関係をトラッキングシステム内の仮想3次元空間520内に厳密に再現する必要があるため、手術対象の大きさやトラッキングシステムに対する位置および姿勢の情報221を計測する必要がある。実際の手術対象部位と3次元ボリュームデータ510との位置合わせ222は、手術開始前に患者をベッド204に固定した段階で行われる。すなわち、手術対象の患者201あるいは手術対象の患者201を固定したベッド204と、撮像装置511の位置関係が変化しないことを前提として、手術対象部位の位置、姿勢、および大きさをトラッキングシステムに取り込む。この処理は手術器具203の位置および姿勢の情報の計測と同じように、所定位置(ベッドや骨といった患者の身体的特徴点)に光学マーカ214、211を設置し、トラッキングシステムによってその空間的位置および姿勢の情報を計測することなどによって行われる。
このようにしてトラッキングシステム内の仮想3次元空間には手術対象領域の情報と、手術器具の位置および姿勢の情報とが取り込まれる。
この仮想3次元空間520内に任意の視点位置を設定することによって、手術対象部位と手術器具との位置関係を俯瞰的に確認することができる画像を生成することができ、その画像をナビゲーション情報(アシスト画像)として表示装置250に表示することができる。
図25は、実施の形態4の画像処理装置500の構成を示すブロック図である。
画像処理装置500は、図25に示すように3D像生成部501、位置情報取得部502、表示状態決定部503、アシスト画像生成部504、および表示制御部505を備えている。画像処理装置500は、ボリュームデータ510を記憶するデータベース、撮像装置511、および表示装置250と接続されている。
撮像装置511は、CCDカメラ等の撮影部であり、光学マーカを含んだ手術対象患者および手術器具の映像を取得する。
ボリュームデータ510は、手術対象部位の3次元画像データであり、一般的には術前にCT、MRI等のモダリティによって取得される。なお、超音波診断装置を用いてリアルタイムにデータを取得することによって随時ボリュームデータの更新を行いながらナビゲーションを行うことも可能である。
表示装置250は、いわゆるモニタであって、表示制御部505からの出力を表示画面として表示する。
3D像生成部501は、ボリュームデータ510をレンダリングすることによって手術対象部位の3D像の生成を行う。ここで、3D像生成部501は、切除または切削する領域等の決定を行って、領域等の情報を3D像に反映してもよい。
位置情報取得部502は、撮像装置511で取得されたベッドまたは手術対象患者、手術器具等に設置された光学マーカが映った画像に基づいて、手術対象部位の3次元位置および向きを含む位置情報(対象位置情報)、および手術器具の3次元位置および姿勢(向き)を示す位置情報(器具位置情報)を取得する。
表示状態決定部503は、手術対象部位(対象箇所)と手術器具との位置関係に基づいて、2つの表示状態の中から1つの表示状態を選択する。具体的には、表示状態決定部503は、手術対象部位と手術器具との位置の差分(距離)に基づいて、第1表示状態または第2表示状態のどちらかを選択する。このとき、表示状態決定部503は、仮想3次元空間における手術対象部位と手術器具との位置から手術対象部位と手術器具との距離を算出する。
アシスト画像生成部504は、表示状態決定部503で選択された表示状態で表示されるようにアシスト画像を生成する。
表示制御部505は、表示装置250上にアシスト画面を表示する際の位置およびサイズなどを制御し、アシスト画像を表示装置250に表示する。
次に、上記のように構成された画像処理装置500の動作について説明する。
図26は、実施の形態4の画像処理装置500の動作を示すフローチャートである。
3D像生成部501は、事前取得された患者の手術対象領域を含んだ3Dボリュームデータを取得し、3Dボリュームデータをレンダリングすることによって、アシスト画像に表示する3D像の生成を行う(ステップS501)。ここで、3D像生成部501は、術前シミュレーションに相当する切除または切削部位の指定などを行ってもよい(一般的には切除または切削部位の設定は術前に別途行われる)。
次に、位置情報取得部502は、手術室におけるベッドあるいは手術対象患者と、撮像装置511との幾何学的な位置関係が決定された環境において、撮像装置511で取得された画像に基づいて、手術対象部位の3次元位置、姿勢、および大きさなどの対象位置情報を取得する(ステップS502)。そして、3D像生成部501は、手術対象部位の3次元位置、姿勢、および大きさなどと3D像とをキャリブレーションすることによって位置合わせを行う(ステップS503)。
次に、位置情報取得部502は、撮像装置511で取得された画像に基づいて、手術器具の位置および姿勢の情報を取得する。更に、これらの情報を手術器具先端部の位置および姿勢の情報に変換する(ステップS504)。
3D像生成部501は、手術対象部位、手術器具、および手術器具先端部の位置および姿勢の情報などから、仮想3次元空間に手術対象部位および手術器具をそれぞれ配置する(ステップS505)。
次に、表示状態決定部503は、仮想3次元空間内における手術対象部位と手術器具との距離を算出する(ステップS506)。そして、表示状態決定部503は、仮想3次元空間内における手術対象部位と手術器具との距離が所定範囲内であるかどうかを判定する(ステップS507)。この結果、所定範囲内である場合(ステップS507でYes)には、表示状態決定部103は、第2表示状態を選択する(ステップS508)。そして、表示状態決定部103は、アシスト画像のズーム倍率および視線方向等の設定を変更する(ステップS509)。
一方、所定範囲内でない場合(ステップS507でNo)には、表示状態決定部103は、第1表示状態を選択する(ステップS510)。
そして、アシスト画像生成部504は、表示状態決定部503で選択された第1表示状態または第2表示状態で表示されるようにアシスト画像を生成する(ステップS511)。次に、表示制御部505は、アシスト画像を表示装置250に表示する(ステップS512)。
ここで、第1表示状態または第2表示状態で表示されるアシスト画像について説明する。
図27Aおよび図27Bは、画像処理装置500が表示するアシスト画像の一例を示す図であり、図27Aは、第2表示状態で表示するアシスト画像の一例を示す図であり、図27Bは、第1表示状態で表示するアシスト画像の一例を示す図である。
第1表示状態で表示するアシスト画像は、手術対象部位と手術器具とが所定範囲外(一定距離以上離れている)であるときのアシスト画像であり、図27Aに示すように視点位置を3Dボリュームデータから離れた点に設置(または切り出し画角を広角に設定)し、手術対象部位と手術器具との位置関係を俯瞰的に確認できるようにしている。
一方、第2表示状態で表示するアシスト画像は、手術対象部位と手術器具との距離が所定範囲内(一定距離以上離れていない)であるときのアシスト画像であり、図27Bに示すように視点位置を3Dボリュームデータに近い位置に設定(または切り出し画角を狭く設定)し、より詳細な位置関係および手術器具の動きを確認できるようにしている。
図26のフローチャートの説明に戻り、終了であるか否かを判定し(ステップS513)、終了であれば(ステップS513でYes)、処理を終了する。
一方、終了でなければ(ステップS513でNo)、アシスト画像には最新の手術対象部位と手術器具との位置関係を表す情報が生成されるべきであるので、位置情報取得部502は、撮像装置511で取得された画像に基づいて、手術器具の位置および姿勢の情報を取得する(ステップS514)。そして、手術器具の位置または姿勢に変化があるか否かを判定する(ステップS515)。この判定の結果、変化がある場合(ステップS515でYes)には、ステップS506からの処理を繰り返す。一方、変化がない場合(ステップS515でNo)には、ステップS513からの処理を繰り返す。ここでは手術器具の器具位置情報のみを更新する手順を述べたが、必要に応じて手術対象部位の対象位置情報も更新を行ってよい。このときも、手術対象部位と手術器具との位置関係に変化が生じた場合にはステップS506からの処理を実行する。
以上のように、手術器具の器具位置情報はリアルタイムに更新され、それに伴って表示装置250に表示されるアシスト画像も更新されるので、施術者は操作した手術器具の動きを表示装置250で確認でき、手術器具と対象箇所までの距離、および、切除または切削を行う向きの調整を容易に行うことができる。
なお、本実施の形態では、アシスト画像生成部504は、初期状態で手術対象部位と手術器具とが離れていると仮定して、全体を俯瞰できる第1表示状態のアシスト画像を生成している。そして表示状態決定部503は、算出した距離が所定の値より小さい、すなわち手術対象部位と手術器具とが非常に近い位置にあると判定した場合には、アシスト画像の設定を第1表示状態から第2表示状態に切り替えるように、ステップS509において初期状態からズーム倍率および視線方向等の設定を変更している。また、図26のフローチャートでは示していないが、第1表示状態に切り替えられた後、第1表示状態された場合には、表示状態決定部503は、ズーム倍率および視線方向等の設定が初期状態に戻すものとする。ここで、表示状態決定部503が算出する距離は、手術対象部位における切除または切削領域の重心と手術器具の先端との間で求めるなどと設定してよいが、この限りではない。
また、ステップS501において、3D像生成部501は、術前シミュレーションに相当する切除または切削部位の指定などを行ってもよいとしたが、このシミュレーション結果(切除または切削領域)をステップS511において3D像に重畳表示してもよい。また、手術器具が切除または切削領域にアクセスしたかどうかを判定するステップや手段を追加し、アクセスしたと判断した場合にはその領域を削除した3D像を再生成し、表示を更新するようにしてもよい。このようにすることで施術者は手術の進捗をより容易に把握することが可能となる。
また、本実施の形態では、位置情報を取得する方法として光学マーカをカメラで撮影する方式を説明したが、磁気センサまたは多関節アームなどを使用してもよい。
また、ステップS507〜S510において距離情報に基づいて二つのアシスト画像設定を切り替える例を示したが、これに限られるものではない。例えば、画像表示状態をm通り(mは自然数)準備しておき、そのうちのn番目(nはmより小さい自然数)の表示状態が選択されている状態で、ステップS507において、ある時刻tと時刻t−1とにおける距離の絶対差分が所定の大きさ以上であるかどうか、およびその正負を判定して、n番目からn+1番目あるいはn−1番目の表示状態を選択するようにしてもよい。このようにすることによって、手術器具が手術対象部位に近づいていくにつれて切除または切削を行う領域が拡大されていくような効果、すなわち図27Aから図27Bに滑らかに変化するような画像が得られる。
(実施の形態5)
上記各実施の形態で示した画像処理方法を実現するためのプログラムを、フレキシブルディスク等の記録媒体に記録するようにすることにより、上記実施の形態で示した処理を、独立したコンピュータシステムにおいて簡単に実施することが可能となる。
図28A〜28Cは、上記各実施の形態の画像処理方法を、フレキシブルディスク等の記録媒体に記録されたプログラムを用いて、コンピュータシステムにより実施する場合の説明図である。
図28Bは、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスクを示し、図28Aは、記録媒体本体であるフレキシブルディスクの物理フォーマットの例を示している。フレキシブルディスクFDはケースF内に内蔵され、該ディスクの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックは角度方向に16のセクタSeに分割されている。従って、上記プログラムを格納したフレキシブルディスクでは、上記フレキシブルディスクFD上に割り当てられた領域に、上記プログラムが記録されている。
また、図28Cは、フレキシブルディスクFDに上記プログラムの記録再生を行うための構成を示す。超音波診断方法を実現する上記プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから上記プログラムをフレキシブルディスクドライブを介して書き込む。また、フレキシブルディスク内のプログラムにより超音波診断方法を実現する上記超音波診断方法をコンピュータシステム中に構築する場合は、フレキシブルディスクドライブによりプログラムをフレキシブルディスクから読み出し、コンピュータシステムに転送する。
なお、上記説明では、記録媒体としてフレキシブルディスクを用いて説明を行ったが、光ディスクを用いても同様に行うことができる。また、記録媒体はこれに限らず、ICカード、ROMカセット等、プログラムを記録できるものであれば同様に実施することができる。
なお、図6の超音波診断装置および図25の画像処理装置のブロックは典型的には集積回路であるLSI(Large Scale Integration)として実現される。これらは個別に1チップ化されても良いし、一部又は全てを含むように1チップ化されても良い。
ここでは、LSIとしたが、集積度の違いにより、IC(Integrated Circuit)、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサーで実現してもよい。例えば、GPU(Graphic Processing Unit)などのグラフィクス処理用の専用回路が使用できる。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
また、図6の超音波診断装置および図25の画像処理装置の各部は、インターネットやLAN(Local Area Network)などのネットワークを介して接続してもよい。例えば、ネットワーク上のサーバや蓄積デバイスに保持された超音波画像を読み込む構成などが可能である。さらに、各部の機能追加などをネットワーク経由で行ってもよい。
本発明に係る画像処理装置および方法によれば、スキャン位置をターゲットに合わせるまでの時間が削減でき、動脈硬化のスクリーニングなどにおける検査効率の向上が見込まれることから、医療診断機器産業において高い利用可能性をもつ。
10 プローブ
30、100 超音波診断装置
31、101 3D像解析部
32、102、502 位置情報取得部
33、104、504 アシスト画像生成部
34、106 ライブ画像取得部
35、107、505 表示制御部
103、503 表示状態決定部
105 送受信部
108 制御部
150、250 表示装置
160 入力装置
500 画像処理装置
501 3D像生成部
510 ボリュームデータ
511 撮像装置

Claims (22)

  1. 被検体内の対象箇所への器具の移動を誘導するための画像であるアシスト画像を生成する画像処理装置であって、
    前記対象箇所を含む3次元像に基づいて、前記対象箇所の3次元位置を示す対象位置情報を決定する3D像解析部と、
    前記器具の3次元位置を示す器具位置情報を取得する位置情報取得部と、
    前記対象箇所と前記器具との位置関係に基づいて、二つ以上の表示状態の中から一つの表示状態を選択する表示状態決定部と、
    選択された表示状態で表示されるように、前記アシスト画像を前記対象位置情報および前記器具位置情報を用いて生成するアシスト画像生成部と、
    前記アシスト画像を表示装置に出力するための制御を行う表示制御部と
    を備える画像処理装置。
  2. 前記二つ以上の表示状態には、
    前記アシスト画像における表示のズーム倍率を第1倍率で表示する第1表示状態と、
    前記アシスト画像における表示のズーム倍率を前記第1倍率より大きい倍率である第2倍率で表示する第2表示状態とを含み、
    前記表示状態決定部は、前記位置関係が第1の所定条件を満たさない場合に、前記第1表示状態を選択し、前記位置関係が前記第1の所定条件を満たす場合に、前記第2表示状態を選択する
    請求項1に記載の画像処理装置。
  3. 前記3D像解析部は、前記3次元像に基づいて、前記対象箇所の3次元位置に加えて、前記対象箇所の向きを、前記対象位置情報として決定し、
    前記位置情報取得部は、前記器具の3次元位置に加えて、前記器具の向きを、前記器具位置情報として取得する
    請求項1または請求項2に記載の画像処理装置。
  4. 前記器具は、超音波診断装置における前記被検体の超音波画像を取得するためのプローブであり、
    前記位置情報取得部は、前記器具位置情報として、前記プローブの走査位置および向きを取得し、
    前記アシスト画像生成部は、前記プローブの前記対象箇所への移動を誘導するための画像であるアシスト画像を生成する
    請求項3に記載の画像処理装置。
  5. 前記画像処理装置は、さらに、
    前記プローブからライブ画像である前記被検体の超音波画像を取得するライブ画像取得部を備え、
    前記表示制御部は、前記アシスト画像および前記ライブ画像を表示装置に出力する
    請求項4に記載の画像処理装置。
  6. 前記二つ以上の表示状態には、
    前記表示装置において前記アシスト画像をメイン画像として表示するとともに、前記ライブ画像を前記メイン画像より小さいサブ画像として表示する第3表示状態と、
    前記表示装置において前記ライブ画像を前記メイン画像として表示するとともに、前記アシスト画像を前記サブ画像として表示する第4表示状態とを含み、
    前記表示状態決定部は、前記位置関係が第2の所定条件を満たさない場合に前記第3表示状態を選択し、前記位置関係が前記第2の所定条件を満たす場合に前記第4表示状態を選択し、
    前記表示制御部は、選択された表示状態で、前記アシスト画像および前記ライブ画像を表示装置に出力する
    請求項5に記載の画像処理装置。
  7. 前記表示制御部は、選択された前記表示状態に応じて、前記アシスト画像と前記ライブ画像との相対的な表示サイズを切り替えることで、前記メイン画像および前記サブ画像の切り替えを行い、前記アシスト画像および前記ライブ画像を前記表示装置に出力する
    請求項6に記載の画像処理装置。
  8. 前記表示状態決定部は、前記第3表示状態を選択している場合には、前記位置関係が第3の所定条件を満たすか否かに基づいて表示状態を選択し、前記第4表示状態を選択している場合には、前記位置関係が第4の所定条件を満たすか否かに基づいて表示状態を選択する
    請求項6または請求項7に記載の画像処理装置。
  9. 前記対象箇所は血管であり、
    前記表示状態決定部は、前記ライブ画像において前記血管の走行方向に略平行な断面が描出されているか否かに応じて前記位置関係を判定し、判定した前記位置関係に基づいて前記二つ以上の表示状態の中から一つの表示状態を選択する
    請求項5〜請求項7のいずれか1項に記載の画像処理装置。
  10. 前記画像処理装置は、さらに、
    あらかじめ取得されたデータから前記3次元像を生成する3D像生成部を備え、
    前記3D像生成部は、前記データである、前記対象箇所を含む領域を前記プローブで予め走査して取得された超音波画像から、前記対象箇所を含む器官の輪郭を抽出することにより、前記3次元像を生成し、
    前記3次元像の3次元空間内における位置および向きを、前記位置情報取得部により取得される前記プローブの走査位置および向きと対応づける
    請求項4〜請求項9のいずれか1項に記載の画像処理装置。
  11. 前記アシスト画像生成部は、前記プローブの現在の走査位置および向きと前記対象箇所の位置および向きとの相対関係に基づいてナビゲーション情報を生成し、前記アシスト画像として、前記3次元像に対して、前記プローブの現在の走査位置および向きを示すプローブ画像と、前記ナビゲーション情報と、を重畳した画像を生成する
    請求項4〜請求項10のいずれか1項に記載の画像処理装置。
  12. 前記アシスト画像生成部は、前記第4表示状態が選択されたとき、前記対象箇所における複数の方向からの断面形状をそれぞれ示す複数の断面画像を生成し、生成した前記複数の断面画像に対して、前記プローブの現在の走査位置および向きを示すプローブ画像を重畳した画像を、前記アシスト画像として生成する
    請求項6〜請求項8のいずれか1項に記載の画像処理装置。
  13. 前記対象箇所は血管であり、
    前記複数の断面画像には、前記血管の走行方向である長軸方向および前記長軸方向に略直交する短軸方向からの断面形状をそれぞれ示す2つの断面画像を含み、
    前記アシスト画像生成部は、前記2つの断面画像に対して、前記プローブの現在の走査位置および向きと前記対象箇所の位置および向きとの相対関係に基づいて、前記プローブの前記対象箇所への移動を誘導するための直線または長方形を重畳した画像を、前記アシスト画像として生成する
    請求項12に記載の画像処理装置。
  14. 前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所の位置および向きと前記器具の位置および向きとのそれぞれの差分を前記位置関係として算出し、算出した前記差分に応じて一つの表示状態を選択する
    請求項3に記載の画像処理装置。
  15. 前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所の位置および向きと前記器具の位置および向きとのそれぞれの差分を算出し、算出した前記差分を保持することにより、時間経過に伴う前記差分の変位を前記位置関係として算出し、算出した前記差分の変位に応じて一つの表示状態を選択する
    請求項3に記載の画像処理装置。
  16. 前記対象箇所は前記被検体内の手術対象部位であり、
    前記器具は、前記被検体の手術に用いられる手術器具であり、
    前記アシスト画像生成部は、前記手術器具の前記手術対象部位への移動を誘導するための画像であるアシスト画像を生成する
    請求項1〜請求項3のいずれか1項に記載の画像処理装置。
  17. 前記画像処理装置は、さらに、
    あらかじめ取得されたデータから前記3次元像を生成する3D像生成部を備える
    請求項16に記載の画像処理装置。
  18. 前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所および前記器具の位置の差分を前記位置関係として算出し、算出した前記差分に応じて一つの表示状態を選択する
    請求項1または請求項2に記載の画像処理装置。
  19. 前記表示状態決定部は、前記対象位置情報および前記器具位置情報を用いて、前記対象箇所および前記器具の位置の差分を算出し、算出した前記差分を保持することにより、時間経過に伴う前記差分の変位を前記位置関係として算出し、算出した前記差分の変位に応じて一つの表示状態を選択する
    請求項1または請求項2に記載の画像処理装置。
  20. 前記二つ以上の表示状態には、
    前記アシスト画像におけるズーム倍率および視点の少なくともどちらか一方が相違する表示状態を二つ以上含み、
    前記表示状態決定部は、前記位置関係に基づいて、前記アシスト画像におけるズーム倍率および視点の少なくともどちらか一方が相違する二つ以上の表示状態の中から一つの表示状態を選択する
    請求項1〜請求項19のいずれか1項に記載の画像処理装置。
  21. 被検体内の対象箇所への器具の移動を誘導するための画像であるアシスト画像を生成する画像処理方法であって、
    前記対象箇所を含む3次元像に基づいて、前記対象箇所の3次元位置を示す対象位置情報を決定する3D像解析ステップと、
    前記器具の3次元位置を示す器具位置情報を取得する位置情報取得ステップと、
    前記対象箇所と前記器具との位置関係に基づいて、二つ以上の表示状態の中から一つの表示状態を選択する表示状態決定ステップと、
    選択された表示状態で表示されるように、前記アシスト画像を前記対象位置情報および前記器具位置情報を用いて生成するアシスト画像生成ステップと、
    前記アシスト画像を表示装置に出力するための制御を行う表示制御ステップと
    を含む画像処理方法。
  22. 被検体内の対象箇所への器具の移動を誘導するための画像であるアシスト画像を生成するためのプログラムであって、
    前記対象箇所を含む3次元像に基づいて、前記対象箇所の3次元位置を示す対象位置情報を決定する3D像解析ステップと、
    前記器具の3次元位置を示す器具位置情報を取得する位置情報取得ステップと、
    前記対象箇所と前記器具との位置関係に基づいて、二つ以上の表示状態の中から一つの表示状態を選択する表示状態決定ステップと、
    選択された表示状態で表示されるように、前記アシスト画像を前記対象位置情報および前記器具位置情報を用いて生成するアシスト画像生成ステップと、
    前記アシスト画像を表示装置に出力するための制御を行う表示制御ステップとをコンピュータに実行させる
    プログラム。
JP2014546867A 2012-11-15 2013-11-11 画像処理装置、画像処理方法、およびプログラム Expired - Fee Related JP6323335B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012251583 2012-11-15
JP2012251583 2012-11-15
PCT/JP2013/006625 WO2014076931A1 (ja) 2012-11-15 2013-11-11 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2014076931A1 true JPWO2014076931A1 (ja) 2017-01-05
JP6323335B2 JP6323335B2 (ja) 2018-05-16

Family

ID=50730865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014546867A Expired - Fee Related JP6323335B2 (ja) 2012-11-15 2013-11-11 画像処理装置、画像処理方法、およびプログラム

Country Status (3)

Country Link
US (1) US20160270757A1 (ja)
JP (1) JP6323335B2 (ja)
WO (1) WO2014076931A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114224438A (zh) * 2014-09-05 2022-03-25 普罗赛普特生物机器人公司 与靶器官图像的治疗映射结合的医师控制的组织切除
KR20160046670A (ko) * 2014-10-21 2016-04-29 삼성전자주식회사 영상 진단 보조 장치 및 방법
CN108024806B (zh) 2015-07-21 2022-07-01 3D集成公司 套管组装套件、套管针组装套件、套筒组件、微创手术系统及其方法
DK178899B1 (en) * 2015-10-09 2017-05-08 3Dintegrated Aps A depiction system
CN109069110B (zh) * 2016-05-06 2022-08-09 皇家飞利浦有限公司 具有简化的3d成像控制的超声成像系统
EP3621525A1 (en) * 2017-05-11 2020-03-18 Verathon, Inc. Probability map-based ultrasound scanning
US11191524B2 (en) * 2017-09-28 2021-12-07 Canon Medical Systems Corporation Ultrasonic diagnostic apparatus and non-transitory computer readable medium
US10521916B2 (en) * 2018-02-21 2019-12-31 Covidien Lp Locating tumors using structured light scanning
CN111770730B (zh) 2018-02-23 2023-04-28 富士胶片株式会社 超声波诊断装置及超声波诊断装置的控制方法
JP7313359B2 (ja) * 2018-09-04 2023-07-24 富士フイルム株式会社 超音波診断装置および超音波診断装置の制御方法
US20220015741A1 (en) * 2019-01-09 2022-01-20 Koninklijke Philips N.V. Ultrasound system and method for shear wave characterization of anisotropic tissue
JP7447692B2 (ja) * 2020-06-16 2024-03-12 コニカミノルタ株式会社 超音波診断装置、超音波診断装置の制御方法、及び、超音波診断装置の制御プログラム
JP2022074392A (ja) * 2020-11-04 2022-05-18 コニカミノルタ株式会社 超音波診断装置、超音波診断装置の制御方法、及び、超音波診断装置の制御プログラム
JP2022090787A (ja) 2020-12-08 2022-06-20 富士フイルムヘルスケア株式会社 超音波診断システム及び操作支援方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005124712A (ja) * 2003-10-22 2005-05-19 Aloka Co Ltd 超音波診断装置
JP2010200894A (ja) * 2009-03-02 2010-09-16 Tadashi Ukimura 手術支援システム及び手術ロボットシステム
JP2010201049A (ja) * 2009-03-05 2010-09-16 Aloka Co Ltd 超音波診断装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8808164B2 (en) * 2008-03-28 2014-08-19 Intuitive Surgical Operations, Inc. Controlling a robotic surgical tool with a display monitor
WO2010005571A2 (en) * 2008-07-09 2010-01-14 Innurvation, Inc. Displaying image data from a scanner capsule

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005124712A (ja) * 2003-10-22 2005-05-19 Aloka Co Ltd 超音波診断装置
JP2010200894A (ja) * 2009-03-02 2010-09-16 Tadashi Ukimura 手術支援システム及び手術ロボットシステム
JP2010201049A (ja) * 2009-03-05 2010-09-16 Aloka Co Ltd 超音波診断装置

Also Published As

Publication number Publication date
WO2014076931A1 (ja) 2014-05-22
US20160270757A1 (en) 2016-09-22
JP6323335B2 (ja) 2018-05-16

Similar Documents

Publication Publication Date Title
JP6323335B2 (ja) 画像処理装置、画像処理方法、およびプログラム
EP2460473B1 (en) Reference image display method for ultrasonography and ultrasonic diagnosis apparatus
JP5830576B1 (ja) 医療システム
JP5208495B2 (ja) 医療用システム
JP4758355B2 (ja) 患者の体内に医療用機器を案内するためのシステム
JP6238651B2 (ja) 超音波診断装置及び画像処理方法
JP6873647B2 (ja) 超音波診断装置および超音波診断支援プログラム
JP2014217745A (ja) 超音波診断装置、およびその制御方法
JP2013059609A (ja) 医用画像表示装置及びx線診断装置
KR101588014B1 (ko) 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
JP2007526066A (ja) 患者体内において医療器具をガイドするシステム
JP2010167032A (ja) 超音波診断装置及び画像表示装置
US20100286526A1 (en) Ultrasonic diagnostic apparatus, ultrasonic image processing apparatus and ultrasonic image processing method
US9990725B2 (en) Medical image processing apparatus and medical image registration method using virtual reference point for registering images
US20230181148A1 (en) Vascular system visualization
JP5942217B2 (ja) 超音波診断装置、超音波画像処理装置及び超音波画像処理プログラム
JP2002253480A (ja) 医療処置補助装置
JP2008272370A (ja) 医用ガイドシステム
JP4700405B2 (ja) 超音波診断装置
JP2009247641A (ja) 超音波画像処理装置及び手術支援装置
JP2017074221A (ja) 医療システム
KR20170034457A (ko) 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180326

R150 Certificate of patent or registration of utility model

Ref document number: 6323335

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees