JPWO2016136065A1 - 超音波撮像装置、および、画像処理装置 - Google Patents

超音波撮像装置、および、画像処理装置 Download PDF

Info

Publication number
JPWO2016136065A1
JPWO2016136065A1 JP2017501852A JP2017501852A JPWO2016136065A1 JP WO2016136065 A1 JPWO2016136065 A1 JP WO2016136065A1 JP 2017501852 A JP2017501852 A JP 2017501852A JP 2017501852 A JP2017501852 A JP 2017501852A JP WO2016136065 A1 JPWO2016136065 A1 JP WO2016136065A1
Authority
JP
Japan
Prior art keywords
volume data
image
ultrasonic
unit
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017501852A
Other languages
English (en)
Other versions
JP6383483B2 (ja
Inventor
子盛 黎
子盛 黎
栗原 恒弥
恒弥 栗原
秋山 靖浩
靖浩 秋山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2016136065A1 publication Critical patent/JPWO2016136065A1/ja
Application granted granted Critical
Publication of JP6383483B2 publication Critical patent/JP6383483B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5261Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from different diagnostic modalities, e.g. ultrasound and X-ray
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/02Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computerised tomographs
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/02Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computerised tomographs
    • A61B6/032Transmission computed tomography [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0891Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4254Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0883Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the heart
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4416Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to combined acquisition of different diagnostic modalities, e.g. combination of ultrasound and X-ray acquisitions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30056Liver; Hepatic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Vascular Medicine (AREA)
  • Pulmonology (AREA)
  • General Physics & Mathematics (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

超音波画像と、予め撮像したボリュームデータとの位置合わせを、ユーザに煩雑な操作を要求することなく、正確に行う。超音波画像の第1ボリュームデータと、別の画像撮像装置が得た第2ボリュームデータを受け取って位置合わせする。被検体の複数の撮像部位のうち所定の撮像部位の選択をユーザから受け付ける。受け付け部が受け付けた撮像部位に応じた回転角度だけ、第2ボリュームデータを初期回転させ、初期回転後の第2ボリュームデータと第1ボリュームデータとをさらに位置合わせする。

Description

本発明は、超音波撮像装置に係り、特に、リアルタイムで撮像した超音波画像と、他の撮像装置で予め撮像されたボリュームデータから求めた同じ断面の画像とを同時に表示することのできる超音波撮像装置に関する。
超音波撮像装置は、超音波を被検体に照射し、その反射信号により被検体内部の構造を画像化するため、無侵襲かつリアルタイムに患者を観察することが可能である。
一方、X線CT(Computed Tomography)装置あるいはMRI(Magnetic Resonance Imaging)装置などの他の医用画像撮像装置は、広範囲かつ高分解能で撮像することができるため、細かな病変や臓器の位置関係の把握が容易に行える。例えば肝臓癌などの腫瘍を、早期の段階でMRI画像やX線CT画像から見つけ出すことができる。
特許文献1には、超音波探触子に位置センサを取り付け、任意の断面の超音波画像を得るとともに、他の医用画像撮像装置で予め撮像しておいた同じ被検体のボリュームデータから対応する断面の2次元画像を構築して、両画像を並べて表示する画像診断システムが開示されている。この技術では、他の医用画像撮像装置で予め撮像しておいたボリュームデータから、現在の超音波探触子の位置の2次元画像をリアルタイムで構築する。そのため、超音波画像の位置と、ボリュームデータ内の対応する位置とを対応付ける処理を予め行う必要がある。特許文献1には、位置の対応づけの手順が開示されている。まず、医師などのユーザが超音波探触子を被検体上で手動で動かして、位置合わせ画像として適当な疾患部等を含む超音波画像が得られる位置を探索する。そして、探索した超音波画像上で、ユーザが、疾患部の位置と、疾患部とは別の特徴構造の位置とを選定する。さらにユーザは、他の医用画像撮像装置のボリュームデータの画像上で、マウス等を手動で操作することにより、超音波画像上の疾患部の位置に対応する位置と、特徴構造の位置とを指定する。画像診断システムは、ユーザによって選定された超音波画像上の2つの位置と、他の医用画像撮像装置の画像上で指定された2つの位置とを対応付けるようにボリュームデータを位置合わせする。
特開2008−188417号公報
しかしながら、特許文献1の技術では、超音波画像と他の医用画像撮像装置のボリュームデータとの位置合わせを行うため、医師などのユーザが、手動で超音波探触子を移動させ、位置合わせ画像として適当な超音波画像の位置を探索し、超音波画像上で複数の位置を手動で選定し、さらにボリュームデータの画像上で対応する複数の位置を指定するという、煩雑な複数の手動操作を行う必要がある。これらの煩雑な位置合わせの手動操作には、医師であるユーザの負担が大きいだけでなく、超音波探触子を当てられて、位置合わせの手動操作の間寝台上で待機している被検体への負担も大きい。また、位置合わせの基準となる位置は、一つの超音波画像上の2点であるため、高精度な3次元位置合わせは困難である。
また、特許文献1で記載されている技術は、経皮的ラジオ波焼灼療法(RFA:Radio−Frequency Ablation)などの被検体を開腹しない治療・手術を前提としているが、近年では、被検体の手術中に開腹した状態で臓器に超音波探触子を直接当てて、腫瘍等の手術すべき領域を、超音波画像と、それに対応する高解像度のMRI画像やCT画像とで確認することが望まれている。そのため手術中の医師等のユーザの手が、ボリュームデータの位置合わせのために、入力装置のスイッチやマウス等に触ることはできるだけ避けたい。また、開腹状態の被検体の負担を軽減するために、できるだけ短時間にボリュームデータの位置合わせを行うことが望ましい。一方、腫瘍等の位置を超音波画像上で正確に確認するためには、高解像度のボリュームデータと超音波画像との正確な位置合わせが望まれる。
本発明の目的は、超音波画像と、予め撮像したボリュームデータとの位置合わせを、ユーザに煩雑な操作を要求することなく、正確に行うことができる超音波撮像装置を提供することにある。
本発明の超音波撮像装置は、被検体に超音波を送信し、被検体からの超音波を受信する超音波探触子と、超音波探触子に取り付けられた位置センサと、超音波探触子の受信信号から超音波画像を生成するとともに、超音波画像と位置センサから得た超音波探触子の位置情報から第1ボリュームデータを生成する画像生成部と、外部の別の画像撮像装置が被検体について得た第2ボリュームデータを受け取って処理する画像処理装置とを有する。画像処理装置は、第1ボリュームデータと第2ボリュームデータとを位置合わせする位置合わせ部を備える。位置合わせ部は、被検体の複数の撮像部位のうち所定の撮像部位の選択をユーザから受け付ける受け付け部と、回転処理部とを含む。回転処理部は、受け付け部が受け付けた撮像部位に応じた回転角度だけ、第2ボリュームデータを初期回転させ、初期回転後の第2ボリュームデータと第1ボリュームデータとをさらに位置合わせする。
本発明によれば、超音波ボリュームデータと、他の画像撮像装置のボリュームデータとの位置合わせを、自動かつ正確に提供することができる。
実施形態1の超音波撮像装置の全体構成を示すブロック図。 実施形態1の超音波撮像装置のハードウェア構成を示すブロック図。 実施形態1の超音波撮像装置の画像処理装置108の機能ブロック図。 実施形態1において、撮像部位(臓器の区域)をユーザから受け付けるための画面例を示す説明図。 実施形態1の臓器の区域と、CT画像の回転角との関係を示す表。 実施形態1の超音波撮像装置の位置合わせ処理を示すフローチャート。 実施形態1の(A)第1特徴データ(超音波血管データ)、(B)第2特徴データ(CT血管データ)、(C)初期回転後の第2特徴データ(CT血管データ)、の画像例をそれぞれ示す説明図。 実施形態1において位置合わせ後の第1特徴データと第2特徴データを重ねて表示する画像例を示す説明図。 実施形態1において、(A)超音波ボリュームデータから抽出した第1特徴面、(B)CTボリュームデータから抽出した第2特徴面、の画像の例を示す説明図。 実施形態1の超音波画像に対応するCT画像の算出処理を示すフローチャート図。 実施形態2の超音波撮像装置の位置合わせ処理を示すフローチャート。 実施形態3の画像ベース剛体位置合わせ処理部300の機能ブロック図。 実施形態3の画像ベース剛体位置合わせ処理のフローチャート。 実施形態4の画像ベース非剛体位置合わせ処理部400の機能ブロック図。 実施形態4の画像ベース非剛体位置合わせ処理のフローチャート。
以下、本発明の実施形態を図面に基づいて詳細に説明する。なお、実施形態を説明するための全図において、同一部分には原則として同一の符号を付し、その繰り返しの説明は省略する。
<原理と概要>
超音波画像とボリュームデータとの位置合わせ操作が煩雑になる要因は、超音波撮像装置の撮像方向や視野が、MRIやX線CT装置等の他の医用画像撮像装置とは大きく異なることにあると発明者ら考えた。撮像方向や視野が大きく異なる画像の位置合わせには、一般的な自動位置合わせ手法を適用することが困難である。そこで本発明は、超音波画像と、他の医用画像装置の画像を、撮像領域に応じて、撮像方向を一致させるように初期回転処理し、自動位置合わせ手法の適用ができるようにする。
超音波撮像装置は、超音波探触子を被検体の体表もしくは開腹された臓器の表面に沿わせて移動させながら、超音波探触子から被検体に超音波をスキャンするように送信して、反射波を受信して画像を取得する。そのため、被検体の体表もしくは臓器の表面が湾曲している場合には、その湾曲した表面に沿って超音波探触子が傾斜し、超音波探触子が傾斜した角度で送受信した面の超音波画像が取得される。また、医師であるユーザが臓器内の構造に対応した所望の角度で超音波画像を見たい場合には、ユーザが超音波探触子を所望の角度で傾斜させることもある。さらに、臓器の長手方向が体軸に対して斜めに位置する等の場合には、ユーザは、超音波探触子を体軸に対して斜めに移動させながら順次画像を取得することもある。そのため、超音波画像の面(スキャン面)は、被検体の体軸方向に垂直ではなく、体表や臓器表面の湾曲の度合いと、ユーザが超音波探触子を表面に当てる向きとによって、体軸から傾斜する。これに対し、X線CT装置やMRI装置は、被検体の体軸方向に垂直な断面画像が撮像され、これを複数連続させてボリュームデータが取得される。
そのため、両画像を自動位置合わせ手法で位置合わせするには、超音波画像の体軸からの傾斜に応じて、X線CT装置やMRI装置で得たボリュームデータを回転移動させる必要がある。一般的な、自動位置合わせ手法は、二つの画像に含まれる特徴的な形状を自動抽出し、その特徴的な形状が一致するようにパターンマッチング等を行って移動量を算出する方法である。超音波画像の体軸からの傾斜角は、小さい角度ではなく、かつ、臓器やユーザが見たい角度によっても異なる。超音波画像と、X線CT装置やMRI装置で得たボリュームデータとは、解像度が大きく異なるため、同じ特徴的な形状であっても、抽出された形状が異なる。しかも、抽出された形状は3次元形状である。このような理由により、自動位置合わせ手法は困難であり、自動位置合わせ処理を行おうとすると、膨大な計算量となる。そのため、時間もかかるため、開腹された被検体とユーザを待たせることになり、従来は実現することが難しかった。
本発明では、臓器によってその表面形状は、多少の個人差はあれど、ほぼ決まっており、ユーザが見たい超音波画像の向きも、撮像部位(臓器の部位)ごとにほぼ決まっていることに着目し、以下のような構成とする。すなわち、まず、他の医用画像撮像装置で撮影したボリュームデータを臓器の部位に応じた回転量で初期回転させる。その後、自動位置合わせの手法により、超音波画像と、他の医用画像撮像装置で撮影したボリュームデータとを自動位置合わせ手法で位置合わせする。これにより、短時間で精度よく自動位置合わせを行うことを可能にする。初期回転の回転量は、実施形態1のように、撮像部位(臓器の部位)ごとに予め定めておいた値を用いてもよいし、実施形態2のように、撮像の部位ごとに計算で求めてもよい。
(実施形態1)
本発明の超音波撮像装置の構成は、例えば、図1のように、超音波探触子7と、位置センサ8と、画像生成部107と、画像処理装置108とを備える。超音波探触子7は、被検体120に超音波を送信し、被検体120からの超音波を受信する。位置センサ8は、超音波探触子7に取り付けられている。画像生成部107は、超音波探触子7の受信信号から超音波画像を生成するとともに、超音波画像と位置センサ8から得た超音波探触子7の位置情報から第1ボリュームデータを生成する。画像処理装置108は、外部の別の画像撮像装置が被検体120について得た第2ボリュームデータを受け取って処理する。そのため画像処理装置108は、第1ボリュームデータと第2のボリュームデータとを位置合わせする。画像処理装置108は、被検体の複数の撮像部位のうち所定の撮像部位の選択をユーザから受け付け、受け付けた撮像部位に対応する回転角度を、予め定めておいた複数の撮像部位と回転角度との関係から求め、求めた回転角度だけ第2ボリュームデータを初期回転させる。そして、初期回転後の第2ボリュームデータと第1ボリュームデータとをさらに位置合わせすることにより、短時間で精度よく自動位置合わせを行うことができる。
<構成及び動作>
以下、実施形態1の超音波撮像装置の具体的な構成についてさらに説明する。本実施形態の超音波撮像装置は、図1のように、上述したように超音波探触子7と、位置センサ8と、画像生成部107と、画像処理装置108とを備え、さらに、送信部102、送受切替部101、受信部105、位置検出ユニット6、ユーザインタフェース121、および、制御部106とを備えて構成される。送信部102は、制御部106の制御下で、送信信号を生成し、超音波探触子7を構成する複数の超音波素子ごとに受け渡す。これにより、超音波探触子7の複数の超音波素子は、それぞれ超音波を被検体120に向かって送信する。被検体120で反射等された超音波は、再び超音波探触子7の複数の超音波素子に到達して受信され、電気信号に変換される。超音波素子が受信した信号は、受信部105によって、受信焦点の位置に応じた所定の遅延量で遅延させた後加算される(整相加算)。これにより、これを複数の受信焦点ごとについて繰り返す。整相加算後の信号は、画像生成部107に受け渡される。送受切り替え部101は、送信部102または受信部105を選択的に超音波探触子7に接続する。
位置検出ユニット6は、位置センサ8の出力から、超音波探触子7の位置を検出する。例えば、位置検出ユニット6として、磁気センサユニットを用いることができる。位置検出ユニット6は、磁場空間を形成し、位置センサ8が磁場を検出することにより、基準点となる位置からの座標を検出することができる。
画像生成部107は、受信部105から受け取った整相加算信号を受信焦点に対応する位置に並べる等の処理を行い、超音波画像を生成する。さらに、超音波探触子7のその時の位置情報を位置検出ユニット6から画像生成部107は受け取って、超音波画像に位置情報を付与する。これにより、ユーザが超音波探触子7を所定の範囲で移動させ、画像生成部107がその時の超音波探触子7の位置情報を付与した超音波画像を生成することにより、3次元超音波画像のボリュームデータ(以下、超音波ボリュームデータまたは第1ボリュームデータとも呼ぶ)を生成することができる。
画像処理装置108は、他の画像撮像装置が被検体120について得たボリュームデータ(第2ボリュームデータ)をユーザインタフェース121を介して受け取って、第1ボリュームデータと第2ボリュームデータとを位置合わせ等する。以下の説明において、超音波MRI装置やX線CT装置や他の超音波診断装置等の他の画像撮像装置を、医用モダリティと呼ぶ。本実施形態では、一例として、医用モダリティとして、X線CT装置を用い、X線CT装置のボリュームデータを、CTボリュームデータ(第2ボリュームデータ)と呼ぶ。
以下、画像処理装置108とユーザインタフェース121の構成と動作について詳しく説明する。
図2は、画像処理装置108とユーザインタフェース121のハードウェア構成を示すブロック図である。図2に示すハードウェア構成は、後述する他の実施形態においても、共通に用いられる。
画像処理装置は、CPU(プロセッサ)1、ROM(不揮発性メモリ:読出専用の記憶媒体)2、RAM(揮発性メモリ:データの読み書きが可能な記憶媒体)3、記憶装置4および表示制御部15を備えて構成される。ユーザインタフェース121は、画像入力部9、媒体入力部11、入力制御部13および入力装置14を備えて構成される。これらと、超音波画像生成部6、および、位置検出ユニット6は、データバス5によって相互に接続されている。また、表示制御部15には、ディスプレイ16が接続されている。
ROM2およびRAM3の少なくとも一方には、COU1の演算処理で画像処理装置108の動作を実現するために必要とされるプログラムとデータが予め格納されている。CPU1が、このROM2およびRAM3の少なくとも一方に予め格納されたプログラムを実行することによって、画像処理装置108の各種処理が実現される。なお、CPU1が実行するプログラムは、記憶媒体(例えば、光ディスク)12に格納しておき、媒体入力部11(例えば、光ディスクドライブ)がそのプログラムを読み込んでRAM3に格納する様にしてもよい。また、記憶装置4に当該プログラムを格納しておき、記憶装置4からそのプログラムをRAM3にロードしてもよい。また、ROM2にあらかじめ当該プログラムを記憶させておいてもよい。
画像入力部9は、X線CT装置(医用モダリティ)10が撮影したCTボリュームデータ(第2ボリュームデータ)を、取り込むためのインターフェースである。記憶装置4は、画像入力部9を介して入力された第2ボリュームデータ等を格納する磁気記憶装置である。記憶装置4は、不揮発性半導体記憶媒体(例えば、フラッシュメモリ)を備えてもよい。また、ネットワークなどを介して接続された外部記憶装置を利用してもよい。
入力装置14は、ユーザの操作を受け付ける装置であり、例えば、キーボード、トラックボール、操作パネル、フットスイッチなどを含む。入力制御部13は、ユーザによって入力された操作入力を受け付けるインターフェースである。入力制御部13が受けた操作入力は、CPU1によって処理される。
表示制御部15は、例えば、CPU1の処理で得られた画像データをディスプレイ16に表示させる制御を行う。ディスプレイ16は、表示制御部15の制御下で画像を表示する。
図3は、画像処理装置108の機能を示す機能ブロック図である。図3のように、画像処理装置108は、超音波ボリュームデータ(第1のボリュームデータ)の取得部21と、超音波ボリュームデータの特徴データ抽出部23と、CTボリュームデータの受け付け部22と、CTボリュームデータの特徴データ抽出部24とを含む。また、画像処理装置108は、位置合わせ部として、CT特徴データの初期回転部25と、特徴データ位置合わせ部26とを含む。さらに、画像表示部27と、位置合わせ結果の確認・初期回転やり直し部28と、CT画像の算出部31とを含む。
さらに、画像処理装置108は、撮像部位の受け付け部29と、複数の撮像部位と回転角度との関係を示すテーブル30を備えている。受け付け部29は、図4に示すように、入力装置14からユーザが選択した臓器(肝臓)の区域S1〜S8を受け付けるため画面をディスプレイ16に表示させ、ユーザによる区域S1〜S8の選択を入力装置14を介して受け付ける機能ブロックである。区域S1〜S8は、解剖学的に知られた区域の分け方によって設定され、それぞれの表面形状や内部構造も解剖学的に知られている。よって、ユーザが区域ごとに超音波探触子7を当てる角度は、区域の表面形状と内部構造によってほぼ決まっているため、取得される超音波画像と被検体の体軸に対する回転角度が予め計算によって求められ、図5のように、区域ごとに対応づけたテーブル30が作成されている。テーブル30は、ROM2,RAM3または記憶装置4に予め格納される。なお、図5に示すテーブルには、平行移動の距離も区域ごとに示されているが、これは、傾斜した超音波画像にCT画像を回転によって一致させる際に、回転のみならず平行移動も必要である場合の平行移動距離である。なお、平行移動の位置合わせは、特徴データ位置合わせ部26の処理によって、公知の位置合わせ手法で位置合わせ可能であるため、テーブル30としては、必ずしも平行移動距離を含まなくてもよい。また、被検体の性別や年齢、被検体を開腹しているか否かによって、回転角度は異なると考えられるため、異なる複数種類のテーブル30を用意しておき、それらの一つを選択して用いことも可能である。
つぎに、図6に示すフローチャートを用いて、画像処理装置108の処理を説明する。
まず、ステップS201において、CTボリュームデータ受付部22は、画像入力部9を介して、画像撮像装置(X線CT装置)10からCTボリュームデータを受け付ける。
ステップS202において、撮像部位受け付け部29は、図4のような臓器の区域の指定を受け付けるための画像をディスプレイ16に表示し、ユーザから臓器の区域(S1〜S8)の指定を、画面上のタッチパネルへのタッチやフットスイッチ等の入力装置14の操作により受け付ける。
ステップS203において、超音波ボリュームデータ取得部21は、ユーザにその臓器の区域に対して、超音波探触子7を当てて移動(スキャン)させるように促す表示をディスプレイ16に表示する。ユーザが、超音波探触子7をその臓器の区域で移動させならば、送信部102、受信部105および画像生成部107により、3次元の超音波ボリュームデータが生成される。超音波ボリュームデータ取得部21は、画像生成部107が生成した超音波ボリュームデータを受け付ける。例えば、ユーザが肝臓区域S5に超音波探触子に当ててスキャンした場合、肝臓において特徴的な部位である門脈が、超音波ボリュームデータに含まれる。
ステップS204において、特徴データ抽出部23,24は、それぞれ超音波ボリュームデータとCTボリュームデータにそれぞれ含まれる特徴部位、例えば、血管、の点群データを抽出する。抽出された血管データは、セグメンテーションされた血管領域の中のボクセルの3次元座標データである。図7(A)に、超音波ボリュームデータから抽出された血管データを、図7(B)にCTボリュームデータから抽出された血管データをそれぞれ示す。図7(A),(B)は、対応する臓器区域の血管データを示しているが、超音波ボリュームデータと、CT装置ボリュームデータは、解像度が大きく異なり、しかも、撮像方向と視野も大きく異なるため、両者の血管データの形状も大きく異なっている。
ステップS205において、CT特徴データ初期回転部25は、ステップS204で抽出したCT血管データを、ステップS202で指定された臓器区域に応じて回転させる。すなわち、CT特徴データ初期回転部25は、図5に示す臓器区域と回転角度のテーブル30を参照し、ステップS202で指定された臓器区域に対応する回転角度を読み出し、読み出した回転角度だけ、CT血管データを回転させる(初期回転)。また、テーブル30に平行移動距離が含まれている場合には、臓器区域に対応する平行移動距離を読み出し、CT血管データをその距離だけ平行移動させる。これにより、CT血管データは、臓器区域に応じた超音波画像の傾斜に相当する角度に回転するように、幾何変換されるため、超音波血管データとCT血管データは、初期位置が大まかに一致するようになる。図7(C)は、回転後のCT血管データを示している。図7(C)より、回転後のCTボリュームデータ血管データは、その向きが超音波血管データの向きとほぼ一致しており、両者を重ね合わせることが可能な形状になっている。
次に、ステップS206においては、特徴データ位置合わせ部26は、超音波血管データと、回転後のCT血管データの点群同士の位置合わせを行う。ここで、ステップS205において、血管データ同士の初期位置は、既に大まかに一致しているため、公知の自動位置合わせ手法により、両者を位置合わせすることが可能である。公知の自動位置合わせ手法としては、公知のICP(Iterative Closest Point)法を用いることができる。ICP法では、CT血管データの点群を幾何変換(平行移動と回転)させて、超音波血管データの点群との対応点間の距離を求めて、その距離が最小となるように反復的に計算を行う。これにより、両者を位置合わせすることができる。
ステップS207においては、画像表示部27が位置合わせ後のCT血管データと超音波血管データの一方の色を変えて、透過的に重畳した画像を生成し、ディスプレイ16に表示させる。例えば、図8のように、位置合わせ後のCT血管データと超音波血管データが重なり合うことが確認できる画像が表示される。また、画像表示部27は、位置合わせの結果をCTボリュームデータに適用し、超音波ボリュームデータと重ねて表示することもできる。さらに、画像表示部27は、位置合わせ済のCT血管データを位置合わせ済のCTボリュームデータの上に色を変えて透過的に重ね、超音波血管データを超音波ボリュームデータの上に色を変えて透過的に重ねた画像を生成して表示することも可能である。
図8の画像を表示した状態で、位置合わせ結果確認・初期回転やり直し部28は、ユーザが位置合わせが成功と判断するかどうかを尋ねる表示をディスプレイ16に表示し、入力装置14を介して、ユーザの判断を受け付ける。ユーザが、位置合わせが成功であると入力装置14を介して入力した場合には、位置合わせ処理は、終了である。ステップS210において、位置合わせ結果確認・初期回転やり直し部28は、ステップS205,206でCT血管データに施された回転移動および平行移動を、CTボリュームデータ全体に施し、位置合わせ済みのCTボリュームデータを生成する。
一方、ユーザが、位置合わせが不成功であると判断した場合には、位置合わせ結果確認・初期回転やり直し部28は、ステップS208、209に進んで、初期回転のやり直しを別の手法で行う。すなわち、ステップS208、209では、テーブル30の回転角度を用いず、計算によりCTボリュームデータを初期回転させる回転角度を求める。
まず、ステップS208においては、超音波ボリュームデータと、ステップS205の初期回転を施していないCTボリュームデータから、臓器区域ごとに予め定められた特徴部を含む断面をそれぞれ抽出する。例えば、図9のように肝臓の下大静脈を含む特徴断面の画像を超音波ボリュームデータとCTボリュームデータからそれぞれ抽出して生成する。図9(A)は、超音波ボリュームデータから抽出した下大静脈の断面画像の例を示している。図9(B)は、CTボリュームデータから抽出した下大静脈の断面画像の例を示している。特徴断面の探索および抽出の方法としては、例えば、公知の機械学習の方法であるAdaboost法を用いることができる。
そして、ステップS209においては、抽出された2つの特徴断面画像を一致させるように、それぞれの位置情報を用いて、CT血管データを回転させるべき回転角度を算出する。算出した回転角度で、CT血管データを回転させる(初期回転)。
ステップS206に戻って、超音波血管データと、回転後のCT血管データの点群同士の位置合わせを行う。ステップS207で、位置合わせが成功であると判断されるまで、ステップS206、207、208,209を繰り返し実行する。位置合わせが成功であるとユーザに判断されたならば、ステップS210に進み、ステップS209,206でCT血管データに施された回転移動および平行移動を、CTボリュームデータ全体に施し、位置合わせ済みのCTボリュームデータを生成する。
以上により、超音波ボリュームデータに一致するように位置合わせがされたCTボリュームデータが生成される。
つぎに、CT画像算出部31は、図10のフローを実行することにより、超音波探触子7の現在の位置から生成される超音波画像に対応する断面のCT画像を生成し、超音波画像と並べて表示する。
図10のステップS501において、CT画像算出部31は、図6のステップS210で生成された位置合わせ済みCTボリュームデータを受け取る。
ステップS502において、超音波ボリュームデータを取得時の超音波探触子7の位置情報を画像生成部107から受け取る。次に、ユーザが対象臓器の所望の位置に超音波探触子7を当てたならば、画像生成部107に超音波画像を生成させる(ステップS503)。同時に、超音波探触子7の位置情報を位置検出ユニット6から取得する(ステップS504)。
CT画像算出部は、ステップS502で取得した超音波ボリュームデータ取得時の超音波探触子7の位置情報と、ステップS504で取得した現在の超音波探触子7の位置情報との位置関係を算出し、算出した位置関係から、ステップS501で受け取った位置合わせ済CTボリュームデータから、ステップS503で生成される超音波画像に対応する断面のCT画像を切り出す(算出する)(ステップS505)。ステップS503の超音波画像と、ステップS505のCT画像を並べて表示することにより、超音波探触子7の超音波画像と、同じ位置のCT断面画像をリアルタイムに生成・表示することができる。
以上のように、本実施形態では、超音波ボリュームデータに一致するように位置合わせされたCTボリュームデータを生成することができる。この位置合わせは、ユーザに煩雑な位置合わせ処理を要求することなく、自動でかつ短時間に行うことができるため、ユーザ及び被検体の負担が小さい。また、超音波ボリュームデータとCTボリュームデータという3次元データ同士を位置合わせするため、位置合わせ精度が高い。よって、視野の狭いかつノイズの多い超音波画像に、高解像度のCT画像等を高精度に一致させてリアルタイムで表示することが可能になり、小さな腫瘍等もユーザが超音波画像から認識可能になる。
また、本実施形態では、超音波ボリュームデータとCTボリュームデータの位置合わせ処理を、特徴部(血管)データを抽出して行うため、ボリュームデータよりもデータ量の少ない血管データで位置合わせすることができ、演算量を低減できる。よって、高速に位置合わせを行うことが可能である。
なお、実施形態1では、画像処理装置108を超音波撮像装置100の内部に備える構成であったが、図1、図2に示す画像処理装置108を、超音波撮像装置100とは別の装置とすることも可能である。画像処理装置108と超音波撮像装置100とは、信号線やネットワークを介して接続する。例えば、画像処理装置108を一般的な計算機、あるいは、Workstationなどの画像処理装置に実装し、ネットワークを介して超音波撮像装置100と接続する。画像処理装置108は、位置合わせするべき超音波ボリュームデータとCTボリュームデータは、ネットワークを介して、クライアント端末から受け取り、位置合わせ処理を行う。位置合わせ後のCTボリュームデータは、クライアント端末である超音波撮像装置に送信する構成にする。これにより、比較的大きな演算量が必要な画像処理装置108を、超音波撮像装置100に搭載する必要がない。超音波撮像装置100は、ネットワークを介して接続された画像処理装置108の演算能力を用いて位置合わせ処理を行うことができる。よって、小型で簡素な超音波撮像装置100でありながら、超音波画像と、同じ断面のCT画像とをリアルタイムに表示可能な装置を提供できる。
(実施形態2)
実施形態1では、臓器の区域に応じた予め求めておいた回転角によって、CTボリュームデータを初期回転させたが、本発明は、この構成に限られるものではなく、初期回転させる角度を計算により求めることも可能である。これを実施形態2として説明する。なお、実施形態2において、実施形態1と同じ構成及び処理については、同じ符号を付して説明を省略する。
実施形態2の超音波撮像装置は、図2の撮像部位ごと回転角度を対応づけるテーブル30は備えていない。図11のフローに示したように、画像処理装置108は、ステップS201〜204において、実施形態1と同様に行って、超音波血管データと、CT血管データを抽出する。そして、CT血管データを初期回転させる角度を、実施形態1のステップS208,209を行って計算により求め、求めた回転角度だけCT血管データを回転させる。
具体的には、ステップS204の後に、ステップS208に進み、超音波ボリュームデータと、初期回転を施していないCTボリュームデータから、ステップS202で指定された臓器区域に含まれる予め定めた特徴部を含む断面をそれぞれ抽出する。例えば、図9(A),(B)のように肝臓の下大静脈を含む特徴断面の画像を、超音波ボリュームデータとCTボリュームデータからそれぞれ抽出する。特徴断面の探索および抽出の方法としては、例えば、公知の機械学習の方法であるAdaboost法を用いることができる。
そして、ステップS209においては、抽出された2つの特徴断面の画像を一致させるように、それぞれの位置情報を用いて、CT血管データを回転させるべき回転角度を算出する。算出した回転角度で、CT血管データを回転させる(初期回転)。
初期回転後のCT血管データを超音波血管データと一致させるように位置合わせを行う(ステップS206)。その後、ステップS210において、ステップS209,206でCT血管データに施された回転移動および平行移動を、CTボリュームデータ全体に施し、位置合わせ済みのCTボリュームデータを生成する。
実施形態2の構成によれば、初期回転角を計算により求めることができるため、実際の超音波ボリュームデータおよびCTボリュームデータに対応した初期回転角で、初期回転させることができるというメリットがある。また、初期回転後には、自動位置合わせを行うため、実施形態1と同様の効果が得られる。
(実施形態3)
実施形態3について説明する。
<概要>
実施形態3は、実施形態1または実施形態2で位置合わせを行った超音波ボリュームデータと、位置合わせ済みCTボリュームデータに対して、さらに剛体位置合わせを行うことにより、位置合わせ精度を向上させる。
<構成及び動作>
実施形態3の超音波撮像装置は、画像処理装置108内に、図3に示した機能ブロックに加えて、さらに、図12の画像ベース剛体位置合わせ部300を備える。画像ベース剛体位置合わせ部300は、実施形態1の図6のステップS210もしくは実施形態2の図6のステップS210において生成した、位置合わせ済みのCTボリュームデータを浮動画像32とし、超音波ボリュームデータを参照画像31として、互いに位置合わせするデバイスである。
画像ベース剛体位置合わせ部300は、特徴領域サンプリング部34と、位置合わせ部37とを備える。
図13は、剛体位置合わせ部300の全体動作を説明するフローチャートである。以下、図13の各ステップについて説明する。
参照画像31である超音波ボリュームデータと、浮動画像である実施形態1または2のステップS210の位置合わせ済みCTボリュームデータは、剛体位置合わせ部300に入力される(S301)。また、特徴領域サンプリング部35は、実施形態1、2のステップS204で抽出した超音波ボリュームデータの特徴データ(超音波血管データ)33を受け取る(S302)。特徴領域サンプリング部35は、参照画像31と参照画像31の特徴データが所有する座標において、画像サンプリング点を抽出し、位置合わせ部37に出力する(S303)。これらの画像サンプルリング点は、位置合わせ部37において参照画像31と浮動画像32の画像類似度を計算するために用いられる。
画像サンプリング点の抽出は、位置合わせ処理の対象となる参照画像31と参照画像31の特徴データの画像領域のすべての画素をサンプリング点として抽出してもよいが、位置合わせ処理の速度を向上させるために、画像上にグリッドを置いて、グリッドのノッドにおける画素だけをサンプリング点として用いてもよい。また、サンプリング対象領域、例えば、参照画像31の特徴データが所有する座標において、ランダムに所定数の座標を選定して、得られた座標における輝度値を、サンプリング点の輝度値として用いてもよい。
位置合わせ部37は、幾何変換情報3005、座標幾何変換部3001、画像類似度算出部3002、画像類似度最大化部3003、浮動画像幾何変換部3004、を備える。
幾何変換情報3005は、超音波血管データとCT血管データの位置合わせ結果を表す情報である。すなわち、位置合わせ部37で行われる画像ベースの剛体位置合わせの初期値は、超音波血管データとCT血管データの位置合わせ結果を用いる。
座標幾何変換部3001は、参照画像31から抽出されたサンプリング点の座標を、浮動画像32において対応する点の座標へ、幾何変換する(S304)。画像類似度算出部3002は、参照画像31のサンプリング点における輝度データと、浮動画像32の対応サンプリング点における輝度データを取得する。画像類似度算出部3002は、これらのサンプリング点における輝度データに対して、所定の評価関数を適用して、参照画像31と浮動画像32との間の画像類似度を演算する(S305)。画像類似度としては、公知の相互情報量を使用することができる。
画像類似度最大化部3003は、画像類似度算出部3002が算出した参照画像31と浮動画像32との間の画像類似度を取得する。ここでは、参照画像31と浮動画像32の間の画像類似度が最大(あるいは極大)となるような幾何変換情報を求めるため、収束計算を実施する(S306)。ステップS306において画像類似度が収束していない場合は、より高い画像類似度を得るために、画像類似度最大化部3003は、幾何変換情報3005を更新する(S307)。そして、更新された幾何変換情報3005を用い、ステップS304〜S306を改めて実施する。
一方、ステップS306において画像類似度が収束している場合は、位置合わせ部37は、求められた幾何変換情報3005を用いて、浮動画像32に対し幾何変換をさせ、位置合わせ済浮動画像36を生成する(S308)。以上の処理によって、位置合わせ部37の処理が完了する。
以上のように、本実施形態3では、剛体位置合わせ部300が、参照画像31(超音波ボリュームデータ)と浮動画像32(CTボリュームデータ)の画像ベース剛体位置合わせを実施する。剛体位置合わせ部300は、参照画像31から、参照画像の特徴データ33を用いてサンプリング点を抽出する。剛体位置合わせ部300は、超音波血管データとCT血管データの位置合わせ結果を、幾何変換の初期値として用いて、浮動画像32において、抽出された参照画像31のサンプリング点と対応する座標を計算する。剛体位置合わせ部300は、参照画像31のサンプリング点と浮動画像32の対応するサンプリング点を用いて画像類似度を算出する。算出された画像類似度を最大化となるように浮動画像32の幾何変換情報を更新計算する。これにより、適切な幾何変換の初期値を用いられ、尚且つ対象臓器について精度よく画像類似度を計算することができるため、安定的かつ高精度な位置合わせ処理が実現できる。
このように、実施形態1または2の位置合わせ後の超音波ボリュームデータとCTボリュームデータに、さらに剛体位置合わせを行うことにより、位置合わせ精度が向上させることができる。よって、本実施形態3で位置合わせした超音波ボリュームデータとCTボリュームデータを用いて、図10のフローを行って、CT画像を切り出すことにより、リアルタイムの超音波画像とCT画像とをより高精度に一致させることができる。よって、両画像で高精細な対応づけが可能であり、小さな腫瘍等をより精度よく確認できる。
(実施形態4)
実施形態4について説明する。
<概要>
実施形態4は、実施形態1または実施形態2で位置合わせを行った超音波ボリュームデータと、位置合わせ済みCTボリュームデータに対して、さらに非剛体位置合わせを行うことにより、位置合わせ精度を向上させる。すなわち、画像処理装置108内に、図3に示した機能ブロックに加えて、さらに、図14の画像ベース非剛体位置合わせ部400を備える。画像ベース非剛体位置合わせ部400は、実施形態1の図6のステップS210もしくは実施形態2の図121のステップS210において生成した、位置合わせ済みのCTボリュームデータを浮動画像42とし、超音波ボリュームデータを参照画像41として、互いに位置合わせするデバイスである。
画像ベース非剛体位置合わせ部400は、位置合わせ済みのCTボリュームデータを浮動画像42とし、超音波ボリュームデータを参照画像41として、浮動画像42を変形させる。浮動画像42を変形するために、浮動画像42に制御格子が設置され、この制御格子における制御点を移動させることで、浮動画像を変形させる。変形された浮動画像と参照画像との間で、画像類似度が求められ、求めた画像類似度に基づいた最適化計算が行われ、制御格子における制御点の移動量(変形量)が求められる。この場合、制御格子における制御点間の画素の移動量は、その画素の周囲に配置されている制御点の移動量の補間によって計算される。得られた各画素の移動量を用いて、浮動画像の座標変換が行われ、画像を局所的に変形させる様な位置合わせが実施される。これにより、臓器の変形などを補正し、位置合わせの精度とロバスト性をさらに向上させることができる。
また、浮動画像42を変形する前に、制御点をより正確な位置に配置するため、非剛体位置合わせの初期値として、制御格子における制御点を幾何変換させる。この制御点の幾何変換には、実施形態1または2の超音波血管データの点群とCT血管データの点群の位置合わせ結果を用いても良い、あるいは、実施形態3の超音波ボリュームデータとCTボリュームデータの剛体位置合わせ結果を用いても良い。
超音波血管データの点群とCT血管データの点群の位置合わせ、または、超音波ボリュームデータとCTボリュームデータの剛体位置合わせの構成については、実施例1、2と同様であるため、以下では差異点を中心に説明する。
<構成及び動作>
図14は、本実施形態に係る超音波装置の画像ベース非剛体位置合わせ部400の機能ブロック図である。画像ベース非剛体位置合わせ部400は、参照画像41に合わせて、浮動画像42を変形し、位置合わせ済み浮動画像48を生成するデバイスであり、特徴領域サンプリング部44、制御点幾何変換部46、位置合わせ部40および浮動画像変形部47を備える。
ここで、参照画像41、浮動画像42、参照画像の特徴データ43は、それぞれ実施形態3の参照画像31、浮動画像32、参照画像の特徴データ33と同様なものである。特徴領域サンプリング部44は、参照画像41と参照画像の特徴データ43を受け取り、実施形態3の特徴領域サンプリング部34と同様な処理を実施し、得られた参照画像41のサンプリング点を位置合わせ部40へ出力する。
また、幾何変換情報45は、非剛体位置合わせの初期値として位置合わせ部40へ出力される情報である。幾何変換情報45としては、超音波血管データとCT血管データの位置合わせ結果を用いても良いし、あるいは、超音波ボリュームデータとCTボリュームデータの剛体位置合わせ結果を用いても良い。
位置合わせ部40は、制御点幾何変換部4001、座標幾何変換部4003、画像類似度算出部4004、画像類似度最大化部4005を備える。
図15は、位置合わせ部40の全体動作を説明するフローチャートである。以下、図15の各ステップについて説明する。
制御点幾何変換部4001は、幾何変換情報45を受け取り(S401)、制御点の位置を幾何変換させ、制御点移動量情報4002を座標幾何変換部4003へ出力する(S402)。
座標幾何変換部4003は、参照画像41のサンプリングデータと、浮動画像42を取得する(S403およびS404)。さらに、座標幾何変換部4003は、取得した浮動画像42上に制御格子を配置し、制御点幾何変換部4001から制御点移動量情報4002を取得し、この制御点移動量情報4002に基づいて、上記した制御格子における制御点の位置を設定する。また、座標幾何変換部4003は、参照画像41のサンプリング点の座標に対して、制御点移動量情報4002を用いて、座標変換を実施する(S405)。このステップは、参照画像41のサンプリング点の座標に対応するところの、浮動画像42における画像データの座標を計算するためのものである。ここでは、あるサンプリング点の座標に対して、その周囲の制御点の位置に基づいて、例えば、公知のB−spline関数を用いて、座標の補間を行って、浮動画像42における対応サンプリング点の座標を計算する。
次に、座標幾何変換部4003は、浮動画像42の各対応サンプリング点(参照画像41の各サンプリング点に対応したサンプリング点)に対し、例えば、線形補間演算により、その対応サンプリング点の輝度値を算出する(S406)。これにより、制御点の移動に伴って変化した浮動画像の座標(サンプリング点)と、その座標(サンプリング点)における輝度値が求まる。すなわち、制御点の移動に伴う浮動画像の変形が、この変換部4003において行われる。
画像類似度算出部4004は、参照画像41のサンプリング点における輝度データと、幾何変換後の浮動画像42の対応サンプリング点における輝度データ(S405において生成されたデータ)を取得する。画像類似度算出部4004は、これらのサンプリング点におけるデータに対して、所定の評価関数を適用して、参照画像41と浮動画像42との間の画像類似度を演算する(S407)。画像類似度としては、剛体位置合わせと同様に、公知の相互情報量を使用することができる。
画像類似度最大化部4005は、画像類似度算出部4004が算出したところの、参照画像41と浮動画像42との間の画像類似度を取得する。ここでは、参照画像41と浮動画像42の間の画像類似度が最大(あるいは極大)となる様な各制御点の移動量を求めるため、収束計算を実施する(S408)。ステップS408において画像類似度が収束していない場合は、より高い画像類似度を得るために、画像類似度最大化部4005は、制御点移動量情報4002を更新する(S409)。そして、更新された制御点移動量情報4002を用い、ステップS405〜S409を改めて実施する。
一方、ステップS408において画像類似度が収束している場合は、位置合わせ部40は、求められた制御点移動量情報4002を浮動画像変形部47に出力する(S410)。以上の処理によって、位置合わせ部40の処理が完了する。
浮動画像変形部47は、浮動画像42と制御点移動量情報4002を取得する。浮動画像変形部47は、浮動画像42のすべての画素に対して、制御点移動量情報4002に基づいて、前記ステップS204と同様の補間演算により各画素の座標を算出する。次に、浮動画像変形部17は、前記ステップS406と同様の補間演算により、前記求められた座標における輝度を算出し、位置合わせ済浮動画像48を生成する。
実施形態4によれば、超音波血管データとCT血管データの位置合わせ結果、あるいは、超音波ボリュームデータとCTボリュームデータの剛体位置合わせ結果を用いて、参照画像と浮動画像との間の位置合わせを行う際に用いられる制御点の初期値(位置)が設定される。これにより、制御格子の初期値をより適切な値に設定することが可能となり、位置合わせにおける精度の向上を図ることが可能となる。また、位置合わせに要する時間の短縮化を図ることも可能である。
本実施形態4で位置合わせした超音波ボリュームデータとCTボリュームデータを用いて、図10のフローを行って、CT画像を切り出すことにより、リアルタイムの超音波画像とCT画像とをより高精度に一致させることができる。よって、両画像で高精細な対応づけが可能であり、小さな腫瘍等をより精度よく確認できる。
21 超音波ボリュームデータ取得部
22 CTボリュームデータ受け付け部
23 超音波ボリュームデータの特徴データ抽出部
24 CTボリュームデータの特徴データ抽出部
25 CT特徴データ初期回転部
26 特徴データ位置合わせ部
27 画像表示部
28 位置合わせ結果の確認・初期回転やり直し部
ROM2およびRAM3の少なくとも一方には、CPU1の演算処理で画像処理装置108の動作を実現するために必要とされるプログラムとデータが予め格納されている。CPU1が、このROM2およびRAM3の少なくとも一方に予め格納されたプログラムを実行することによって、画像処理装置108の各種処理が実現される。なお、CPU1が実行するプログラムは、記憶媒体(例えば、光ディスク)12に格納しておき、媒体入力部11(例えば、光ディスクドライブ)がそのプログラムを読み込んでRAM3に格納する様にしてもよい。また、記憶装置4に当該プログラムを格納しておき、記憶装置4からそのプログラムをRAM3にロードしてもよい。また、ROM2にあらかじめ当該プログラムを記憶させておいてもよい。
ステップS205において、CT特徴データ初期回転部25は、ステップS204で抽出したCT血管データを、ステップS202で指定された臓器区域に応じて回転させる。すなわち、CT特徴データ初期回転部25は、図5に示す臓器区域と回転角度のテーブル30を参照し、ステップS202で指定された臓器区域に対応する回転角度を読み出し、読み出した回転角度だけ、CT血管データを回転させる(初期回転)。また、テーブル30に平行移動距離が含まれている場合には、臓器区域に対応する平行移動距離を読み出し、CT血管データをその距離だけ平行移動させる。これにより、CT血管データは、臓器区域に応じた超音波画像の傾斜に相当する角度に回転するように、幾何変換されるため、超音波血管データとCT血管データは、初期位置が大まかに一致するようになる。図7(C)は、回転後のCT血管データを示している。図7(C)より、回転後のCT血管データは、その向きが超音波血管データの向きとほぼ一致しており、両者を重ね合わせることが可能な形状になっている。
実施形態2の超音波撮像装置は、図5の撮像部位ごと回転角度を対応づけるテーブル30は備えていない。図11のフローに示したように、画像処理装置108は、ステップS201〜204において、実施形態1と同様に行って、超音波血管データと、CT血管データを抽出する。そして、CT血管データを初期回転させる角度を、実施形態1のステップS208,209を行って計算により求め、求めた回転角度だけCT血管データを回転させる。
参照画像31である超音波ボリュームデータと、浮動画像である実施形態1または2のステップS210の位置合わせ済みCTボリュームデータは、剛体位置合わせ部300に入力される(S301)。また、特徴領域サンプリング部44は、実施形態1、2のステップS204で抽出した超音波ボリュームデータの特徴データ(超音波血管データ)33を受け取る(S302)。特徴領域サンプリング部44は、参照画像31と参照画像31の特徴データが所有する座標において、画像サンプリング点を抽出し、位置合わせ部37に出力する(S303)。これらの画像サンプルリング点は、位置合わせ部37において参照画像31と浮動画像32の画像類似度を計算するために用いられる。
<概要>
実施形態4は、実施形態1または実施形態2で位置合わせを行った超音波ボリュームデータと、位置合わせ済みCTボリュームデータに対して、さらに非剛体位置合わせを行うことにより、位置合わせ精度を向上させる。すなわち、画像処理装置108内に、図3に示した機能ブロックに加えて、さらに、図14の画像ベース非剛体位置合わせ部400を備える。画像ベース非剛体位置合わせ部400は、実施形態1の図6のステップS210もしくは実施形態2の図11のステップS210において生成した、位置合わせ済みのCTボリュームデータを浮動画像42とし、超音波ボリュームデータを参照画像41として、互いに位置合わせするデバイスである。

Claims (13)

  1. 被検体に超音波を送信し、被検体からの超音波を受信する超音波探触子と、
    前記超音波探触子に取り付けられた位置センサと、
    前記超音波探触子の受信信号から超音波画像を生成するとともに、前記超音波画像と位置センサから得た前記超音波探触子の位置情報から第1ボリュームデータを生成する画像生成部と、
    外部の別の画像撮像装置が前記被検体について得た第2ボリュームデータを受け取って処理する画像処理部とを有し、
    前記画像処理部は、前記第1ボリュームデータと前記第2ボリュームデータとを位置合わせする位置合わせ部を備え、
    前記位置合わせ部は、被検体の複数の撮像部位のうち所定の撮像部位の選択をユーザから受け付ける受け付け部と、回転処理部とを含み、前記回転処理部は、前記受け付け部が受け付けた前記撮像部位に応じた回転角度だけ、前記第2ボリュームデータを初期回転させ、初期回転後の前記第2ボリュームデータと前記第1ボリュームデータとをさらに位置合わせすることを特徴とする超音波撮像装置。
  2. 請求項1に記載の超音波撮像装置であって、前記回転処理部は、前記受け付け部が受け付けた前記撮像部位に応じた回転角度を、予め定めておいた前記複数の撮像部位と回転角度との関係から求めることを特徴とする超音波撮像装置。
  3. 請求項1に記載の超音波撮像装置であって、前記回転処理部は、前記受け付け部が受け付けた前記撮像部位に含まれる特徴断面の画像を前記第1ボリュームデータおよび第2ボリュームデータから生成し、生成した2つの前記特徴断面の画像を一致させるための前記第2ボリュームデータの回転角度を算出し、求めた前記回転角度だけ前記第2ボリュームデータを初期回転させることを特徴とする超音波撮像装置。
  4. 請求項1に記載の超音波撮像装置であって、前記画像処理部は、前記位置センサから前記超音波探触子の位置情報を受け取って、前記位置合わせ後の前記第2のボリュームデータから、前記位置センサの検出位置の前記超音波探触子から得られる前記超音波画像と同じ位置の画像を生成することを特徴とする超音波撮像装置。
  5. 請求項1に記載の超音波撮像装置であって、前記位置合わせ部は、前記第1ボリュームデータと前記第2ボリュームデータにそれぞれ含まれる所定の特徴部のデータを抽出する特徴データ抽出部をさらに有し、
    前記回転処理部は、前記特徴データ抽出部が前記第2ボリュームデータから抽出した第2特徴データを前記回転角度だけ初期回転させ、
    前記位置合わせ部は、前記回転後の前記2特徴データと、前記第1ボリュームデータから抽出した第1特徴データとを位置合わせすることにより、前記第1ボリュームデータと第2ボリュームデータとを位置合わせすることを特徴とする超音波撮像装置。
  6. 請求項5に記載の超音波撮像装置であって、前記特徴部は、血管であることを特徴とする超音波撮像装置。
  7. 請求項2に記載の超音波撮像装置であって、前記位置合わせ部は、前記複数の撮像部位ごとに前記回転角度の値を格納した記憶部をさらに有し、前記記憶部から前記受け付け部が受け付けた前記撮像部位に対応する回転角度を読み出すことを特徴とする超音波撮像装置。
  8. 請求項1に記載の超音波撮像装置において、前記位置合わせ部は、位置合わせした前記第1ボリュームデータと第2ボリュームデータとを重畳した画像を表示装置に表示させることを特徴とする超音波撮像装置。
  9. 請求項5に記載の超音波撮像装置において、前記位置合わせ部は、位置合わせした前記第1特徴データと第2特徴データとを重畳した画像を表示装置に表示させることを特徴とする超音波撮像装置。
  10. 請求項1に記載の超音波撮像装置において、前記撮像部位は、臓器の解剖学的に定められた区域であり、前記位置合わせ部は、前記臓器の前記区域の選択をユーザから受け付けるために、前記臓器の複数の区域を表示装置に表示させることを特徴とする超音波撮像装置。
  11. 請求項1に記載の超音波撮像装置において、前記位置合わせ部は、前記第1ボリュームデータと前記第2ボリュームデータに対し、画像ベースの剛体位置合わせを実施することを特徴とする超音波撮像装置。
  12. 請求項1に記載の超音波撮像装置において、前記位置合わせ部は、前記第1ボリュームデータと前記第2ボリュームデータに対し、画像ベースの非剛体位置合わせを実施することを特徴とする超音波撮像装置。
  13. 被検体についての超音波画像の第1ボリュームデータと、同じ被検体についての超音波画像とは異なる画像の第2ボリュームデータとを受け取って処理する画像処理装置であって、
    前記第1ボリュームデータと前記第2ボリュームデータとを位置合わせする位置合わせ部を備え、
    前記位置合わせ部は、被検体の複数の撮像部位のうち所定の撮像部位の選択を受け付ける受け付け部と、回転処理部とを含み、前記回転処理部は、前記受け付け部が受け付けた前記撮像部位に応じた回転角度だけ、前記第2ボリュームデータを初期回転させ、初期回転後の前記第2ボリュームデータと前記第1ボリュームデータとをさらに位置合わせし、位置合わせ後の第2ボリュームデータを出力することを特徴とする画像処理装置。
JP2017501852A 2015-02-26 2015-11-27 超音波撮像装置、および、画像処理装置 Active JP6383483B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015037353 2015-02-26
JP2015037353 2015-02-26
PCT/JP2015/083482 WO2016136065A1 (ja) 2015-02-26 2015-11-27 超音波撮像装置、および、画像処理装置

Publications (2)

Publication Number Publication Date
JPWO2016136065A1 true JPWO2016136065A1 (ja) 2017-11-09
JP6383483B2 JP6383483B2 (ja) 2018-08-29

Family

ID=56789655

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017501852A Active JP6383483B2 (ja) 2015-02-26 2015-11-27 超音波撮像装置、および、画像処理装置

Country Status (5)

Country Link
US (1) US11109843B2 (ja)
EP (1) EP3263040A4 (ja)
JP (1) JP6383483B2 (ja)
CN (1) CN107106144B (ja)
WO (1) WO2016136065A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11399900B2 (en) * 2012-06-21 2022-08-02 Globus Medical, Inc. Robotic systems providing co-registration using natural fiducials and related methods
JP6526311B2 (ja) * 2016-02-22 2019-06-05 富士フイルム株式会社 音響波画像の表示装置および表示方法
JP6873647B2 (ja) * 2016-09-30 2021-05-19 キヤノンメディカルシステムズ株式会社 超音波診断装置および超音波診断支援プログラム
CN110638477B (zh) * 2018-06-26 2023-08-11 佳能医疗系统株式会社 医用图像诊断装置以及对位方法
CN110772280B (zh) 2018-07-31 2023-05-23 佳能医疗系统株式会社 超声波诊断装置和方法以及图像处理装置和方法
CN110893108A (zh) * 2018-09-13 2020-03-20 佳能医疗系统株式会社 医用图像诊断装置、医用图像诊断方法及超声波诊断装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004098414A1 (ja) * 2003-05-08 2004-11-18 Hitachi Medical Corporation 超音波診断におけるリファレンス像表示方法及び超音波診断装置
JP2011011001A (ja) * 2009-07-06 2011-01-20 Toshiba Corp 超音波診断装置およびその処理プログラム
JP2011167331A (ja) * 2010-02-18 2011-09-01 Ge Medical Systems Global Technology Co Llc 超音波診断装置
JP2014195729A (ja) * 2014-06-27 2014-10-16 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 超音波診断装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6901277B2 (en) * 2001-07-17 2005-05-31 Accuimage Diagnostics Corp. Methods for generating a lung report
US8340374B2 (en) 2007-01-11 2012-12-25 Kabushiki Kaisha Toshiba 3-dimensional diagnostic imaging system
CN101455576B (zh) * 2007-12-12 2012-10-10 深圳迈瑞生物医疗电子股份有限公司 超声宽景成像的方法、装置与系统
EP2131212A3 (en) * 2008-06-05 2011-10-05 Medison Co., Ltd. Non-Rigid Registration Between CT Images and Ultrasound Images
JP5486182B2 (ja) * 2008-12-05 2014-05-07 キヤノン株式会社 情報処理装置および情報処理方法
EP2680778B1 (en) * 2011-03-03 2019-07-31 Koninklijke Philips N.V. System and method for automated initialization and registration of navigation system
JP5995408B2 (ja) * 2011-04-01 2016-09-21 キヤノン株式会社 情報処理装置、撮影システム、情報処理方法および情報処理をコンピュータに実行させるためのプログラム
CN102283675B (zh) * 2011-05-27 2013-04-17 华南理工大学 一种医学超声宽景成像中的旋转判断及误差纠正方法
US10034614B2 (en) * 2012-02-29 2018-07-31 General Electric Company Fractional flow reserve estimation
KR102090270B1 (ko) * 2013-04-25 2020-03-17 삼성메디슨 주식회사 영상 정합 방법 및 장치
CN104116523B (zh) * 2013-04-25 2016-08-03 深圳迈瑞生物医疗电子股份有限公司 一种超声影像分析系统及其分析方法
KR102233966B1 (ko) * 2014-05-12 2021-03-31 삼성전자주식회사 의료 영상 정합 방법 및 그 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004098414A1 (ja) * 2003-05-08 2004-11-18 Hitachi Medical Corporation 超音波診断におけるリファレンス像表示方法及び超音波診断装置
JP2011011001A (ja) * 2009-07-06 2011-01-20 Toshiba Corp 超音波診断装置およびその処理プログラム
JP2011167331A (ja) * 2010-02-18 2011-09-01 Ge Medical Systems Global Technology Co Llc 超音波診断装置
JP2014195729A (ja) * 2014-06-27 2014-10-16 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 超音波診断装置

Also Published As

Publication number Publication date
US20180028157A1 (en) 2018-02-01
CN107106144B (zh) 2020-08-11
CN107106144A (zh) 2017-08-29
EP3263040A4 (en) 2018-08-01
EP3263040A1 (en) 2018-01-03
US11109843B2 (en) 2021-09-07
WO2016136065A1 (ja) 2016-09-01
JP6383483B2 (ja) 2018-08-29

Similar Documents

Publication Publication Date Title
JP6383483B2 (ja) 超音波撮像装置、および、画像処理装置
US10242450B2 (en) Coupled segmentation in 3D conventional ultrasound and contrast-enhanced ultrasound images
US11653897B2 (en) Ultrasonic diagnostic apparatus, scan support method, and medical image processing apparatus
US10631829B2 (en) Segmentation of large objects from multiple three-dimensional views
JP5835680B2 (ja) 画像位置合わせ装置
JP6490820B2 (ja) 超音波撮像装置、画像処理装置、及び方法
JP6956483B2 (ja) 超音波診断装置、及び走査支援プログラム
US20230127935A1 (en) Bi-plane and three-dimensional ultrasound image acquisition for generating roadmap images, and associated systems and devices
JP6833533B2 (ja) 超音波診断装置および超音波診断支援プログラム
CN108697410B (zh) 超声波拍摄装置、图像处理装置及其方法
JP2017006655A (ja) 超音波診断装置及び画像処理装置
JP6887942B2 (ja) 超音波撮像装置、画像処理装置、及び方法
JP6945334B2 (ja) 超音波診断装置及び医用画像処理装置
US20220287686A1 (en) System and method for real-time fusion of acoustic image with reference image
JP6419413B2 (ja) 超音波診断装置及び位置合わせプログラム
JP2019051060A (ja) 画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170725

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180717

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180803

R150 Certificate of patent or registration of utility model

Ref document number: 6383483

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250