JP2010131269A - 情報処理装置および情報処理方法 - Google Patents

情報処理装置および情報処理方法 Download PDF

Info

Publication number
JP2010131269A
JP2010131269A JP2008311560A JP2008311560A JP2010131269A JP 2010131269 A JP2010131269 A JP 2010131269A JP 2008311560 A JP2008311560 A JP 2008311560A JP 2008311560 A JP2008311560 A JP 2008311560A JP 2010131269 A JP2010131269 A JP 2010131269A
Authority
JP
Japan
Prior art keywords
image
subject
information
ultrasonic
coordinate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008311560A
Other languages
English (en)
Other versions
JP5486182B2 (ja
Inventor
Akira Ishikawa
亮 石川
Kiyohide Sato
清秀 佐藤
Shinji Uchiyama
晋二 内山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008311560A priority Critical patent/JP5486182B2/ja
Priority to PCT/JP2009/004637 priority patent/WO2010064348A1/ja
Priority to US12/755,276 priority patent/US8165372B2/en
Publication of JP2010131269A publication Critical patent/JP2010131269A/ja
Application granted granted Critical
Publication of JP5486182B2 publication Critical patent/JP5486182B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0093Detecting, measuring or recording by applying one single type of energy and measuring its conversion into another type of energy
    • A61B5/0095Detecting, measuring or recording by applying one single type of energy and measuring its conversion into another type of energy by applying light and detecting acoustic waves, i.e. photoacoustic measurements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5235Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT
    • A61B6/5241Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT combining overlapping images of the same imaging modality, e.g. by stitching
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5247Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from an ionising-radiation diagnostic technique and a non-ionising radiation diagnostic technique, e.g. X-ray and ultrasound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4254Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/02Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computerised tomographs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S128/00Surgery
    • Y10S128/92Computer assisted medical diagnostics
    • Y10S128/922Computer assisted medical diagnostics including image analysis

Abstract

【課題】 超音波画像と3次元医用画像とを高速に位置合わせするための情報処理技術を提供する。
【解決手段】 被検体の内部の状態を撮影する撮影部が被検体に対して非接触な位置で撮影を行う医用画像撮影装置110により撮影された医用画像を取得する医用画像取得部101と、被検体の内部の状態を撮影する超音波プローブが被検体の表面に接触した位置で撮影を行う超音波画像撮影装置120により撮影された超音波画像を取得する超音波画像取得部102と、前記超音波画像における前記接触した位置を基準として、前記医用画像の画像情報と該超音波画像の画像情報とが一致するように、該医用画像または該超音波画像の座標を変換する座標変換部104とを備える。
【選択図】 図1

Description

本発明は、複数の撮影手段を用いて被検体を撮影することで得られた画像間において位置合わせを行うための情報処理技術に関するものである。
近年、医療の分野において、医師は、撮影した医用画像をモニタ上に表示させ、モニタ上の医用画像を読影することで、病変部の状態や経時変化等、患者の診断(画像診断)を行っている。
この種の医用画像を生成する装置(医用画像撮影装置)としては、単純X線撮影装置やX線コンピュータ断層撮影装置(X線CT)、核磁気共鳴映像装置(MRI)、核医学診断装置(SPECT、PETなど)、超音波画像撮影装置(US)等が挙げられる。
これらの医用画像撮影装置はそれぞれ、異なる撮影手段により人体内部の撮影を行っており、それぞれが異なる特徴を有している。
例えば、単純X線撮影装置では、X線を人体に対して照射し、その透過X線を記録することで、人体内部のX線吸収率の平行投影像を得ることで撮影を行っている。当該単純X線撮影装置の場合、比較的、低被爆かつ短時間で人体内部の情報を取得することができるという利点がある。一方で、X線の照射方向の情報が失われるため、人体内部の情報を詳細に得ることまではできないという欠点がある。
また、X線CTの場合、X線を人体に対して様々な方向から照射し、多数の透視像を取得し、それらの透視像を解析することで、人体内部の3次元的な情報を生成するよう構成されている。このため、単純X線撮影装置に比べて被爆量や撮影時間は増えるものの、人体内の情報を詳細に得ることができるという利点がある。
また、MRIの場合、X線CTと同様に人体内部の3次元的な情報を得ることができるうえ、磁気共鳴現象を利用して画像化するよう構成されているため、X線吸収率を画像化するX線CTとは異なる物理情報を得ることができる。一方で、MRIによる撮影に際しては、通常、造影剤を人体に対して投与しなければならず、撮影時の作業負荷が高いという欠点もある。
また、超音波画像撮影装置(US)の場合、人体に超音波を照射して、人体内部から反射された超音波を検出することで、人体内部の情報を取得するよう構成されている。そして、通常、Bモードと称される方法を用いることにより、人体内部の3次元的な情報を得ることができる。かかる構成のため、X線CT等と異なり、被爆などといった人体に対する浸襲が無く、また、リアルタイムに画像化することができるため、撮影と観察とを同時に行うことができるという利点もある。一方で、超音波画像撮影装置の画像(超音波画像)は信号に対する雑音の比率が高く、診断の妨げとなる場合があるといった欠点がある。
このように医用画像撮影装置により生成された医用画像を用いて患者の診断を行う画像診断では、上述したような各医用画像撮影装置の特性の違いを考慮して、診断を行う部位や疾病などの種類に応じて適切な医用画像撮影装置の選択を行っている。
更に、より精度の高い画像診断を実現するために、複数の医用画像撮影装置により生成された複数の医用画像を利用する場合もある。例えば同一の患者に対して超音波画像撮影装置(US)による撮影とMRIによる撮影の両方を行い、両撮影により得られた医用画像を統合することで、画像診断においてより有効な情報を得ることが可能となる。
ここで、超音波画像撮影装置から得られる医用画像(超音波画像)と、超音波画像撮影装置以外の医用画像撮影装置から得られる3次元の医用画像とを画像統合するためには、超音波画像と3次元医用画像との位置合わせが必要となる。
しかしながら、超音波画像と3次元医用画像との位置合わせを行うためには幾つかの課題を解決することが必要である。第一に超音波画像撮影装置は通常、医師や技師が超音波プローブを手にもち、自由に動かしながら撮影を行う。そのため、撮影した超音波画像が人体を基準とした空間中のどの位置を撮影したものであるのかが、超音波画像だけからでは必ずしも明らかでない。
第二に超音波画像撮影装置が撮影するのは通常、人体内部の2次元断層像であり、3次元医用画像を生成するX線CTやMRI、SPECT、PETなどとは撮影により取得できる情報の空間次元が異なる。
かかる課題に対するアプローチの一つとして、外部センサを用いて超音波プローブの位置姿勢を計測する方法が挙げられる。具体的には、特許文献1において、位置姿勢を計測する装置を超音波プローブに取り付け、その計測値に応じて、超音波画像撮影装置で撮影している部位に対応するスライス画像を事前に撮影した3次元医用画像から取得し、統合表示する技術が開示されている。当該技術によれば、2次元断層像である超音波画像と、他の医用画像撮影装置により生成された3次元医用画像とを対応づけて観察することが可能となる。
また、上記課題に対する他のアプローチとして、超音波画像と3次元医用画像に含まれる画像情報を利用して、これら超音波画像と3次元医用画像との位置合わせを行うことが従来から検討されている。具体的には、非特許文献1において、事前に取得した3次元医用画像に基づいて生成された超音波のシミュレーション画像と、実際に超音波画像撮影装置で撮影した超音波画像とを、画像情報に基づいて対応付けることで、位置合わせを行う方法が提案されている。
特許第387174号公報 W.Wein, B.Roper,and N.Navab,"Automatic registration and fusion of ultrasound with CT for radiotherapy,"Proc.MICCAI 2005,vol.2, pp.303−311,2005.
しかしながら、特許文献1のように超音波プローブの位置姿勢を外部センサを用いて計測した場合であっても、患者の体動等の影響が大きい場合には、正確な位置合わせを行うことは困難である。
例えば、3次元医用画像を撮影した時の患者の体位と超音波画像を撮影した時の患者の体位が異なっていた場合には、人体に与える重力の影響の違いにより、患者の体が変形するため、正確な位置合わせが困難となる。
また、超音波画像撮影装置の場合、撮影に際して超音波プローブを患者の体表に押し当てるため、当該超音波プローブの圧力により患者の体が変形することがある。この場合、超音波画像と3次元医用画像との正確な位置合わせは困難となる。
これに対して、非特許文献1の場合、超音波画像と3次元医用画像との位置合わせ処理を画像情報に基づいて行う構成となっているため、上述のように、患者の体が変形した場合であっても、変形を考慮した補正を行うことで高度な位置合わせが可能である。
しかしながら、非特許文献1の場合、非常に多くの計算量を必要とするため、位置合わせを高速に行うことができず、撮影と観察との同期性を損ねてしまうという課題があった。
本発明は、上記の課題に鑑みてなされたものであり、超音波画像と3次元医用画像とを高速に位置合わせする情報処理技術を提供することを目的とする。
上記の目的を達成するために本発明に係る情報処理装置は以下のような構成を備える。即ち、
被検体の内部の状態を撮影する撮影部が被検体に対して非接触な位置で撮影を行う第一の撮影手段により撮影された第一の画像を取得する第1の取得手段と、
被検体の内部の状態を撮影する撮影部が被検体の体表面に接触した位置で撮影を行う第二の撮影手段により撮影された第二の画像を取得する第2の取得手段と、
前記第二の画像における前記接触した位置を基準として、前記第一の画像の画像情報と該第二の画像の画像情報とが一致するように、該第一の画像または該第二の画像のいずれかの座標を変換する変換手段とを備える。
本発明によれば、超音波画像と3次元医用画像とを高精度かつ高速に位置合わせすることが可能となる。
以下、図面を参照しながら、本発明の好適な実施の形態について説明する。
[第1の実施形態]
1.情報処理装置の機能構成
図1は、本実施形態に係る情報処理装置100の機能構成を示す図である。情報処理装置100は医用画像撮影装置110、および超音波画像撮影装置120と接続され、接続された各装置により撮影した対象領域の画像を位置合わせする処理を行う。なお、位置合わせとは、各装置により撮影した対象領域の画像内の画像情報が互いに一致するように、いずれかの画像の座標を変換することをいう。
医用画像撮影装置110は例えばX線CTやMRI、SPECT、PETなどで、被検査者(被検体)の内部の医用画像を撮影する装置である。超音波画像撮影装置120は不図示の超音波プローブ(撮影部)を被検査者に接するようにして、被検査者の内部の第二の領域を超音波により撮影する装置である。
医用画像取得部101(第1の取得手段)は、医用画像撮影装置110が撮影した被検査者の第一の領域の医用画像(第一の画像)を取得する。
超音波画像取得部102(第2の取得手段)は、超音波画像撮影装置120が撮影した超音波画像(第二の画像)を取得する。表面位置検出部103は、第一の画像を処理して被検査者の第一の領域における体表面の位置(表面位置)を検出し、その位置情報を第一の座標系(第一の画像上で定義される座標系)の位置座標で生成する。
座標変換部104は、表面位置検出部103が生成した位置座標と、後に説明する類似度算出部105の出力値に基づいて、第一の画像を第三の座標系へ座標変換した画像(第三の画像)を生成する。類似度算出部105は第二の画像と第三の画像との類似度を算出する。画像合成部106は第二の画像と第三の画像とを取得し、これらの画像を合成した合成画像を生成する。画像表示装置130は、情報処理装置100の画像合成部106から合成画像を取得して表示する。
2.情報処理装置のハードウェア構成
図2は、本実施形態に係る情報処理装置100のハードウェア構成及び、情報処理装置を備える情報処理システム200のネットワーク構成を示す図である。図2に示すように、情報処理システム200は情報処理装置100、医用画像撮影装置110、医用画像記録装置220、ローカルエリアネットワーク(LAN)340、超音波画像撮影装置120により構成される。
情報処理装置100は、例えばパーソナルコンピュータ(PC)などを用いて実現することができる。情報処理装置100は、中央演算処理装置(CPU)211、主メモリ212、磁気ディスク213、I/F部214、表示メモリ215、モニタ216、マウス217、キーボード218を有する。
CPU211は、主として情報処理装置100の各構成要素の動作を制御する。主メモリ212は、CPU211が実行する制御プログラムを格納したり、CPU211によるプログラム実行時の作業領域を提供したりする。
磁気ディスク213は、オペレーティングシステム(OS)、周辺機器のデバイスドライブ、後述する位置合わせ処理等を行うためのプログラムを含む各種アプリケーションソフト等を格納する。表示メモリ215は、モニタ216のための表示用データを一時記憶する。
モニタ216は、例えばCRTモニタや液晶モニタ等であり、表示メモリ215からのデータに基づいて画像を表示する。マウス217及びキーボード218はユーザによるポインティング入力及び文字等の入力をそれぞれ行う。上記各構成要素は共通バス219により互いに通信可能に接続されている。
本実施形態において、情報処理装置100は、LAN230を介して医用画像記録装置220から医用画像等を読み出して取得することができる。また、LAN230を経由して医用画像撮影装置110から直接に医用画像を取得できるようにしてもよい。
ただし、本発明の医用画像の取得形態はこれに限定されない。例えば情報処理装置100に記憶装置、例えばFDD、CD−RWドライブ、MOドライブ、ZIPドライブ等を接続し、それらのドライブから医用画像を読み込んで取得するようにしても良い。また、これらの記憶装置に本システムの処理結果を保存するようにしても良い。
また、情報処理装置100は、LAN230を介して超音波画像撮影装置120と接続されており、超音波画像撮影装置120が撮影した超音波画像を取得することができる。ただし、超音波画像の取得形態はこれに限定されず、情報処理装置100と超音波画像撮影装置120とを直接接続して超音波画像を取得するようにしても良いし、上述したドライブから超音波画像を読み込んで取得するようにしても良い。
更に、超音波画像撮影装置120で撮影した超音波画像を医用画像記録装置220に記録しておき、情報処理装置100が医用画像記録装置220から超音波画像を読み出すことで取得するようにしても良い。
3.位置合わせ処理の流れ
次に、情報処理装置100において実行される、超音波画像と3次元医用画像との位置合わせ処理について説明する。
はじめに、本実施形態に係る情報処理装置100における位置合わせ処理の概要について説明する。本実施形態に係る情報処理装置100では、超音波画像と3次元医用画像との位置合わせを行うにあたり、超音波画像上における超音波プローブの接触位置(被検査者の体表)を基準として、3次元医用画像の座標変換を行うことを特徴とする。
このように、超音波プローブの接触位置を基準とすることで、被検査者の体が変形した場合であっても、正確な位置合わせを行うことが可能となる。また、超音波プローブの接触位置を基準とすることで、位置合わせのための座標変換パラメータの探索空間を限定することが可能となり、位置合わせ処理の高速化が実現できる。
以下、情報処理装置100における位置合わせ処理の詳細を、図3のフローチャートに沿って説明する。
3.1 ステップS301(医用画像の取得処理)
ステップS301において、医用画像取得部101は、医用画像撮影装置110(第一の撮影装置)が被検査者を撮影することで生成された医用画像を取得する。
なお、医用画像は医用画像撮影装置110から情報処理装置100に直接入力することで取得しても良い。あるいは、医用画像撮影装置110が撮影した医用画像を、図2に記載の医用画像記録装置220に記録し、医用画像取得部101が医用画像記録装置220から所望の医用画像を読み出すことで取得してもよい。
これら装置間の情報伝達は、図2に示すように、例えばLAN230を介して行うことができ、その際の情報伝達のプロトコルとしては、DICOM形式などを利用するものとする。
ここで医用画像は、ある座標系(第1の座標系)で位置が定義される空間中において、被検査者に関するなんらかの情報を与えるものであり、例えばX線CTであれば、少なくとも複数の位置におけるX線吸収率の大きさに関する情報である。またMRIであれば、核磁気共鳴現象を観察することによって得られる磁気共鳴の強さに関する情報である。
本実施形態では医用画像が3次元の情報(3次元医用画像)である場合を例として説明する。その情報はI3D(x,y,z)と表記する。ここでI3D(x,y,z)は3次元空間の座標(x,y,z)の位置における医用画像の輝度値を関数の形で表現したものである。取得した3次元医用画像I3D(x,y,z)は、表面位置検出部103および、座標変換部104に送信される。
3.2 ステップS302(被検査者の体表検出処理)
ステップS302において、表面位置検出部103は、ステップS301で取得した3次元医用画像I3D(x,y,z)から撮影対象物の表面の位置を検出する。この処理について図4を用いて説明する。
図4の(a)はステップS301で取得した3次元医用画像I3D(x,y,z)を、紙面上での説明のために2次元画像として表した模式図である。
図4の(a)に示す医用画像は、例えばX線CTなどで撮影した被検査者の腹部の断面画像などである。図4の(a)に示すように、当該医用画像には、被検査者の体内401の領域と、被検査者の体外402の領域とが写し出される。
図4の(b)は、図4(a)の医用画像400から、被検査者の体内401と被検査者の体外402の境界を検出した表面検出画像410である。表面位置の検出方法としては様々な方法が考えられるが、例えば医用画像400の輝度値の空間勾配を求め、その空間輝度勾配の大きさに対して閾値処理を施すことで実現する方法が挙げられる。
なお、これ以外の方法として、ラプラシアンフィルタやソーベルフィルタ、キャニーオペレータなどといった画像のエッジを検出する方法を用いるようにしてもよい。あるいは、被検査者の外部(もしくは内部)の一部の領域を指定し、その領域の近傍の画素値がある条件を満たしているときにその領域を拡張していく方法(リージョングローイング法)を用いて被検査者の表面を検出するようにしてもよい。あるいは、被検査者の表面の輪郭を陰関数でフィッティングして表面を検出する方法(レベルセット法など)を用いることもできる。
なお、医用画像にノイズが混入している場合には、ガウシアンフィルタやメディアンフィルタなどの平滑化フィルタを施して画像中のノイズを低減させてから、上記の表面位置の検出方法を実行することが望ましい。
また、医用画像から表面位置を検出する方法は、必ずしも画像処理により自動的に行う必要は無く、例えば、図2に記載のマウス217やキーボード218などを用いて、ユーザが手動で表面位置を指定するようにしてもよい。
あるいは、画像処理などによって自動的に検出した複数の表面位置情報の中から、後の処理に用いる表面位置情報をユーザの指定に基づいて選択するようにしても良い。
本実施形態では、図4(b)に示すように医用画像からN個の表面位置の点群411を検出したものとし、その点群を第一の座標系における位置座標ベクトルとして記録する。本実施形態ではこれを、xsi=(xsi,ysi,zsi,1≦i≦Nと表記する。
3.3 ステップS303(超音波画像の取得処理)
ステップS303において、超音波画像取得部102は、超音波画像撮影装置120(第二の撮影装置)が被検査者を撮影することで生成された超音波画像(第二の画像)を取得する。
なお、超音波画像は超音波画像撮影装置120の撮影と同期して直接入力することで取得しても良い。あるいは、超音波画像撮影装置120が過去に撮影した超音波画像を、図2に記載の医用画像記録装置220に記録し、当該超音波画像を読み出すことで取得しても良い。
なお、超音波画像は2次元画像であっても3次元画像であっても良く、また、ドップラ画像やエラストグラフィなどいかなる類の超音波画像であっても良い。本実施形態では取得する超音波画像が被検査者の2次元Bモード断層像である場合を例として説明を行う。
図5は図1の超音波画像撮影装置120が被検査者を撮影する様子を示す図である。図5において、超音波プローブ500は超音波画像撮影装置120からの制御に基づき、プローブ表面501から超音波ビーム502を発射し、被検査者の内部で反射した超音波を受信する。このときプローブ表面501は被検査者の表面503に接するように設置される。
図6は図1の超音波画像撮影装置120が撮影した超音波画像の一例を示す図である。図6に示すように、撮影領域600には図5の超音波プローブ500が超音波ビーム502を発射し、反射波を受信することによって得られる被検査者内部の超音波画像が表示される。
撮影基準点601は図4のプローブ表面501に対応する超音波画像上の位置である。既に説明したようにプローブ表面501は被検査者の表面503に接するように設置されている。このため、撮影基準点601はプローブ表面501と被検査者の表面503の接点にも対応する。
また、超音波発射方向602は、撮影基準点601から撮影領域600へ向かう方向である。本実施形態では、超音波画像上における撮影基準点の座標を基準とした座標系を定義し、それを「第二の座標系」と呼ぶ。撮影基準点601は、第二の座標系における位置(座標)によって定義する。また、超音波発射方向602は、第二の座標系における方向ベクトルによって定義する。
3.3 ステップS304〜S309(位置合わせに関する処理)
ステップS304からステップS309までの処理は、医用画像(第一の画像)と超音波画像(第二の画像)との位置合わせに関する処理である。
本実施形態において第一の画像と第二の画像は、いずれも同一の被検査者を撮影した画像である。しかし、夫々の画像は異なる装置で撮影されたものであり、互いに基準となる座標が異なる。従って、それぞれの装置により撮影された被検査者の対象部位は、それぞれの画像上において、異なる位置に写し出されることになる。
本実施形態における位置合わせ処理は、第一の画像の基準座標系(第一の座標系)と第二の画像の基準座標系(第二の座標系)との位置関係を求める処理である。この関係を求めることにより、例えば第一の画像におけるある対象部位の位置が、第二の画像上のどの位置に対応するのかが明らかになる。
図7は、異なる座標系でそれぞれ撮影された画像の位置合わせを説明するための模式図である。図7の(a)は、第一の座標系700の元で対象部位を撮影した画像であり、本実施形態の医用画像(第一の画像)であるものとする。
図7の(b)は、第一の座標系700とは異なる第二の座標系701の元で対象部位を撮影した画像であり、本実施形態の超音波画像(第二の画像)であるものとする。なお、本実施形態では、医用画像を3次元画像として説明しているが、ここでは書面での説明のために模式的に2次元画像として示している。
また、図7の(c)は、図7の(a)の第一の座標系700と、図7の(b)の第二の座標系701が仮に一致しているとした場合の合成画像である。実際には第一の座標系700と第二の座標系701は異なる座標系であるから、(c)の合成画像は、対象部位の輪郭がずれて表示されることとなる。
一方、図7の(d)は、第一の座標系700と第二の座標系701との位置関係を正しくするための変換を施して、両画像を合成した図である。もともと同一の被検査者を撮影した画像同士であるから、座標系の変換を正しく行うことで、両画像は同一の対象部位同士が重なり合った合成画像を生成することができる。
以下に説明する本実施形態のステップS304〜ステップS308の処理は、このように異なる座標系の元で撮影された画像間の位置関係を正しくするための処理(位置合わせ処理)である。
なお、以下の説明では、医用画像と超音波画像とが互いに対象部位を空間的な歪やねじれが生じることなく撮影されており、両座標系の位置関係が剛体変換で表現できるものとする。
この場合、医用画像と超音波画像における同一部位を示す画素x3DとxUSの関係は、
Figure 2010131269
と書くことができる。ここで、R3D→USは正規直行する3×3の回転行列であり、t3D→USは各軸方向への並進ベクトルでる。(数1)の回転行列および並進ベクトルはそれぞれ3自由度を持っており、剛体変換の特性としては合計で6個のパラメータで表現することができる。また、座標値の表記を拡張ベクトル(x,y,z,1)にすることで、(数1)は(数2)のように書き換えられる
Figure 2010131269
ここで、T3D→USは(数3)に示す4×4の行列である。
Figure 2010131269
本実施形態における位置合わせ処理は、ステップS302で求めた被検査者の第一の座標系におけるN個の表面位置のいずれかと、図6に示した第二の座標系における撮影基準点601とが一致すること(基準とすること)を拘束条件とする。つまり、第一の画像上における被検査者の表面の形状に係る情報と第二の画像上における超音波プローブの位置および/または姿勢に係る情報とが一致することを拘束条件としている。これは、超音波の受信部である撮影基準点601を被検査者の表面に接するようにして撮影を行うという超音波画像撮影装置の撮影原理から導かれる拘束条件である。
本実施形態では上記の拘束条件のもとで、第一の画像および第二の画像間の類似度が高くなるような両座標系の座標変換T3D→USのパラメータを、繰り返し計算を行うことにより推定する。
この座標変換パラメータを推定するために、本実施形態では、まず、ステップS304で初期座標変換(座標変換パラメータの推定値の初期値)Tinitを設定する。そして、それに基づいてステップS305で座標変換パラメータの候補群を生成する。
更に、ステップS306では、それぞれの座標変換パラメータの候補を用いて第一の画像に座標変換を施した場合の第三の画像(第三の画像群)を生成する。そして、ステップS307では、第二の画像と、それぞれの座標変換パラメータの候補を用いて生成した第三の画像(第三の画像群)との類似度を評価する。
更に、ステップS308では、最大の類似度を与える座標変換パラメータの候補を、現時点における座標変換パラメータの推定値として選択する。そして、ステップS309において、類似度がある閾値以上になるなどの条件を満たしていると判定されるまで、ステップS305からステップS308までの処理を繰り返し実行する。
これにより、第二の画像との類似度が高くなるような第三の画像を得るための、第一の座標系から第三の座標系への座標変換パラメータを求めることができる。この結果、第一の座標系と第二の座標系の真値T3D→USに近い(もしくは一致する)座標変換パラメータを求めることができる。
以下、ステップS304〜S309までの各処理の詳細を説明する。
3.3.1 ステップS304(初期座標変換の設定処理)
ステップS304において、座標変換部104は、座標変換パラメータの初期座標変換Tinitを設定する。本実施形態では座標変換の例として3次元の剛体変換を仮定している。このため、設定される座標変換パラメータは、回転行列Rinitの3パラメータ(rx,ry,rz)と、並進ベクトルtinitの3パラメータ(tx,ty,tz)とで、合計6個となる。
初期座標変換の設定の方法としては、図8の(a)に示すように、例えば第一の座標系における、xsi(xsi,ysi,zsi(ただし1≦i≦N)の座標値をもつN個の表面位置情報800の中から、任意のn番目の表面位置情報801を選択する。
この場合、選択した表面位置情報が第一の座標系においてxsn=(xsn,ysn,zsnであり、撮影基準点601が第二の座標系においてx=(x,y,zであるとすると、並進ベクトルtinitは(数4)のようになる。
Figure 2010131269
ここで回転行列Rinitは単位行列を設定することができる。また、それ以外にも、例えば選択したn番目の表面位置情報に距離が近い2つ以上の表面位置情報をさらに選択し、これらの表面位置情報から設定することができる。
この場合、具体的には以下の手順により設定することができる。まず、図8(b)に示すように、複数の表面位置情報からn番目の表面位置情報801とその周辺の点811、812を選択する。第一の座標系は実際には3次元であるから、図8の(c)に示すように第一の座標系における仮想的な面820から面824を生成する。
そして、その面の法線825と、図6で示した第二の座標系における超音波発射方向602とが一致するように回転行列を設定する。このとき超音波発射方向602を軸とした回転に自由度が残り、その成分の設定が不定となるが、その値は任意の方法で決めることができる。例えば、医用画像が撮影している被検査者の体軸方向と関連付けて値を設定したり、ユーザによる手動での設定を入力したりすることができるものとする。
3.3.2 ステップS305(座標変換パラメータ群の生成処理)
ステップS305では、現時点における座標変換パラメータの推定値(6個の座標変換パラメータ)のそれぞれに微小な変化を加え、座標変換パラメータの新たな候補を生成する。この座標変換パラメータの候補としては、微小変化の値として異なる値を設定することで、複数の候補(座標変換パラメータの候補群)を生成する。そして、生成した座標変換パラメータの候補群の夫々に関して、(数5)のように撮影基準点と空間的に近い被検査者の表面位置を選択し、(数6)のようにその間のずれに応じて座標変換パラメータを補正する。
Figure 2010131269
Figure 2010131269
ただし、xsiは第一の座標系における被検査者の表面位置情報のi番目の位置座標、xは第二の座標系における撮影基準点の位置座標、Tは補正前の座標変換行列、T’は補正後の座標変換行列、Iは単位行列である。
これによれば、撮影基準点が被検査者の表面位置と一致するという拘束条件を満たす座標変換パラメータに探索範囲を限定することができる。
3.3.3 ステップS306(座標変換処理)
ステップS306において、座標変換部104は第一の座標系において撮影された第一の画像に対して、ステップS305で生成した座標変換の候補群に基づき、それぞれの座標変換候補を用いて座標変換を行う。そして、第三の座標系群における第三の画像群を生成する。具体的には(数7)のような座標変換の処理を施す。
Figure 2010131269
ここで、Iは第一の画像、I’は第三の画像、TはステップS304もしくはステップS308で設定した座標変換行列、xは第一の座標系における画像座標であり、Ωは第一の画像の全部もしくは一部の画像座標の集合である。この処理は別の方法として、(数8)のような処理とすることもできる。
Figure 2010131269
ここで、x’は第三の座標系における画像座標、Ω’は第三の画像の全部もしくは一部の画像座標の集合である。ステップS305では、上記のいずれか、もしくは他の方法により、ステップS304で生成した座標変換候補群のそれぞれに対応する第三の画像群を得る。
3.3.4 ステップS307(類似度の算出処理)
ステップS307において、類似度算出部105は、ステップS306で生成した第三の画像群と、ステップS303で取得した第二の画像とのマッチングを行い、類似度を算出する。ここで類似度とは、両方の画像が類似している度合いを意味しており、例えば(数9)のように画素値の平均二乗誤差基準に基づいて算出することができる。
Figure 2010131269
ここで、I3D’は医用画像、IUSは超音波画像を表している。また、ΩI3D’,IUSは、I3D’とIUSが重なる領域の画像座標の集合を表わしている。Mは画像座標の集合ΩI3D’,IUSの要素数、すなわち重なる画像領域の画素数を表している。(数9)によれば、第二の画像および第三の画像の輝度値の二乗誤差を算出することができ、これによって第二の画像および第三の画像の類似度を求めることができる。
また、類似度を算出する方法はこれ以外にも、(数10)のように輝度値の絶対値誤差基準を用いて算出することもできる。
Figure 2010131269
また、類似度を算出する方法はこれ以外にも、(数11)のように輝度値の相互相関基準を用いて算出することもできる。
Figure 2010131269
ここで、I3D_ave’およびIUS_aveはそれぞれ、第三の画像の平均輝度値、および第二の画像の平均輝度値を表している。
また、類似度を算出する方法はこれ以外にも、(数12)のように輝度値の相互情報量基準を用いて算出することもできる。
Figure 2010131269
ここで、Hは画素値のエントロピーを与える関数であり、(数13)のように計算することができる。
Figure 2010131269
ここで、p(a)は画像Iの輝度値に関する確率密度関数である。離散的な輝度値を扱う本実施形態において、この確率密度関数は具体的には画像Iにおける輝度値のヒストグラムを生成することにより直接的に得られる。
この方法によれば、類似度評価を行う画像同士の輝度特性が異なる場合においても、画像に含まれる構造の一致度合いなどを反映した比較的確度の高い類似度の評価を行うことが可能となる。
また、類似度の算出にはこれ以外にも、(数14)のように輝度値の正規化相互情報量基準を用いて算出することもできる。
Figure 2010131269
この方法によれば、類似度評価を行う画像同士の重なる領域の大きさの違いによる影響を低減した類似度評価を行うことが可能となる。
また、これ以外にも輝度値の勾配や、画像からエッジなどの画像特徴を抽出し、その結果を用いて類似度を評価する方法など様々な方法が考えられる。本発明における類似度の算出は上記のいずれかの基準やそれに類する他の基準を用いることができる。また、上記の基準を単独で用いるようにしても良いし、それらの加重和などで組み合わせて用いるようにしても良い。
3.3.4 ステップS308(最大類似度の選択処理)
ステップS308において、類似度算出部105は、ステップS307で算出した複数の座標変換候補に係る類似度の値に基づき、最も大きい類似度をとる座標変換候補を選択する。
3.3.5 ステップS309(位置合わせ終了判定処理)
ステップS309において、座標変換部104はさらに、ステップS305からステップS308までの位置合わせに関する処理を終了するか、もしくはさらに繰り返しを行うかの判定を行う。この判定は例えば、ステップS308で得た類似度が予め設定した閾値よりも大きい場合に終了し、そうでない場合にはステップS305へ進み、位置合わせ処理を繰り返すように判定を行うことができる。
また、それ以外にもステップS305からステップS308の繰り返し計算において、ステップS308で得た類似度の増加量が予め設定した閾値以下になった場合に、終了と判定するようにしても良い。これらの方法によれば、設定した条件を満たす類似度が得られた場合に、それ以上の過分な繰り返し処理を行うことなく、適切に処理を終了させることができるという効果がある。
また、当該終了判定は上記の方法以外にも、例えば繰り返し処理を行った回数をカウントし、そのカウント値が予め設定した回数以上になった場合に、繰り返し処理を終了させるようにしてもよい。この方法によれば、ある一定時間以内に一連の繰り返し計算を終了させることができ、システム全体の実時間性を確保することができるといった効果がある。
3.3.6 ステップS310(画像合成処理)
ステップS310において、画像合成部106はステップS304からステップS309の処理によって得た第三の画像と、ステップS303で取得した第二の画像との画像合成を行う。画像合成は様々な方法が考えられるが、本発明はその方法について特に限定をするものではない。
例えば、図9に示すように第三の画像900と、第二の画像910とを並べた合成画像920を生成することができる。ここで、第三の画像900は医用画像(第一の画像)をステップS304からステップS309の処理で求めた座標変換に基づいて生成した画像である。
これ以外にも第二の画像910と第三の画像900を同じ位置に重畳して表示するようにしても良い。この時、第二の画像と第三の画像を異なる色や、異なる輝度、異なるパターンなどに変換して重畳しても良い。これによれば、二つの画像の比較や区別がより容易になるという効果がある。
なお、画像合成の方法はこれに限らず、例えば第三の画像900をボリュームレンダリングした画像を生成し、その画像に第二の画像をオーバレイした合成画像を生成するようにしても良い。これによれば、第三の画像の大局的な情報と、第二の画像と第三の画像との位置姿勢の関係の両方を同時に表す合成画像を生成できる効果がある。
また、合成画像は一枚であるとは限られず、例えばユーザの操作などによって第二の画像と第三の画像とが交互に表示されるような仕組みを提供するようにしてもよい。また、第二の画像と第三の画像の位置関係を保ったまま、ユーザ操作などにより、異なる視点から観察できるように合成画像を生成するようにしても良い。また、上述した合成画像の生成処理を複数回行い、それぞれの合成処理によって得られた画像を更に合成した画像を生成するようにしてもよい。
3.3.7 ステップS311(画像表示処理)
ステップS311において、画像表示装置130は情報処理装置100の画像合成部106が生成した合成画像を表示する。画像表示装置130は読影用の医用モニタなどを用いても良いし、超音波画像撮影装置120に付帯しているモニタを画像表示装置として用いても良い。
また、画像表示装置130に合成画像を表示するだけでなく、合成画像の表示は行わずに、合成画像を図2の医用画像記録装置220に記録したり、例えば紙媒体へ印刷するようにしてもよい。
以上の説明から明らかなように、本実施形態では、超音波画像撮影装置を用いて撮影を行う際に、超音波プローブの撮影基準点が被検査者の体表に接することに着目した。そして、これを拘束条件として用いることで、位置合わせの座標変換パラメータの探索空間を限定する構成とした。
この結果、本実施形態に係る情報処理装置100によれば、医用画像と超音波画像の位置合わせを高精度かつ高速に行うことが可能となる。
4.本実施形態の変形例1
上記実施形態では、被検査者の表面形状情報の中の1つを選択し、それに基づいて設定した初期座標変換を繰り返し計算する場合について説明したが、本発明はこれに限られない。例えば、ステップS304において、座標変換部104が、被検査者の表面形状の情報のすべて、もしくはその一部の複数の情報を選択し、複数の初期座標変換を設定するようにしてもよい。
また、より単純な方法として、ステップS304で設定した複数の初期座標変換を、直接、座標変換の候補群とし、すなわちステップS305の処理を行わずに、ステップS306以降の処理を行うようにしてもよい。
これらの方法によれば、初期座標変換の設定に起因する局所解への収束を回避できる可能性が高くなるという効果がある。
また、さらに単純な方法として、ステップS309の判定処理を行わず、座標変換パラメータの候補群の中から最大の類似度が得られる座標変換パラメータを求めるステップS308の処理の結果に基づいて、ステップS310の処理を行うようにしてもよい。
この方法によれば、上記の効果に加えて、さらに、位置合わせ処理の処理時間を短縮できるという効果がある。
5.本実施形態の変形例2
上記実施形態では、1つの医用画像(第一の画像)と超音波画像(第二の画像)との位置合わせを行う場合について説明したが、本発明はこれに限られず、以下のような手順により位置合わせを行うようにしてもよい。
具体的には、まず、2つの医用画像(第一の画像と第四の画像)を予め撮影し、それらの間の座標変換(第一の変換)パラメータを予め求めておく。そして、第一の画像と超音波画像(第二の画像)とを対象として、上記実施形態で説明した方法で座標変換(第二の変換)パラメータを求める。そして、第一の変換にさらに第二の変換を施すことで第四の画像と第二の画像との間の座標変換(第三の変換)パラメータを求める。
これにより、第一の画像、第二の画像および第四の画像の間の相互の座標変換パラメータを得ることができ、それぞれを対応付けた観察を行うことが可能となる。この方法によれば、例えば第四の画像に被検査者の表面が写っていなかったり、被検査者の表面位置の検出が困難な場合であっても、超音波画像と医用画像との位置合わせを行うことができるという効果がある。
6.本実施形態の変形例3
上記実施形態では、1つの医用画像(第一の画像)と1つの超音波画像(第二の画像)との位置合わせを行う場合について説明したが、本発明はこれに限られない。例えば、第二の画像が時系列など複数の超音波画像であり、この画像列に対して連続して位置合わせ処理を行うようにしても良い。
この場合、時系列で直前もしくはそれよりも以前に撮影した超音波画像に対して上記実施形態で説明した方法で位置合わせを行い、その結果を用いて次の画像に対する位置合わせ処理を行うように構成することとなる。例えば、前回の位置合わせ処理の結果を次の位置合わせ処理の初期値として用いるようにしても良い。
この方法によれば、連続する超音波画像列同士の撮影位置が互いに近い場合に、位置合わせの真値に近い初期値から処理を開始できるため、繰り返し処理の回数が省略できるなどの効果が期待できる。
また、この処理は撮影した時間の順に対して順方向に処理を行う必要はなく、例えば時系列の超音波画像を蓄積して、撮影順とは逆順に上記の処理を行っても良い。または撮影順に対して順方向と逆方向の両方の処理を行って夫々の結果を比較できるようにしても良い。これによれば、位置合わせ処理の安定化や失敗の検出などを行えるようになる効果がある。
7.本実施形態の変形例4
上記実施形態では、医用画像(第一の画像)を座標変換した第三の画像を生成し、第三の画像と超音波画像(第二の画像)との類似度を用いて位置合わせを行う場合について説明したが、本発明はこれに限定されない。
例えば、図10に示すように超音波画像(第二の画像)を座標変換した画像を第三の画像とし、第一の画像と第三の画像との類似度を大きくするように位置合わせを行うようにしても良い。その場合、ステップS306において、座標変換部1004は、超音波画像(第二の画像)に対して、ステップS305で求めた夫々の座標変換パラメータの候補に基づいて、座標変換を行うことになる。
この結果、超音波画像(第二の画像)のデータ量が医用画像(第一の画像)のデータ量よりも小さい場合に、より少ない計算量で両画像の位置合わせを行うことが可能となる。
8.本実施形態の変形例5
上記実施形態では、撮影基準点601の位置と被検査者の表面503の位置とが一致することを拘束条件として、位置合わせを行う場合について説明した。しかしながら、本発明は、第一の画像上における被検査者の表面の形状に係る情報と、第二の画像上における超音波プローブの位置および/または姿勢に係る情報との間に成り立つ位置関係を利用するものであれば、これに限定されるものではない。
例えば、第二の画像上におけるプローブの撮影基準点を第一の画像上における被検査者の表面位置に近づけるような項を組み込んだ評価関数を用いて位置合わせを行うように構成してもよい。
具体的には、(数15)のように撮影基準点601と被検査者の表面503の位置との距離をペナルティとして、ステップS306で算出した類似度から差し引いたり、割り引いたりすることにより位置合わせを行うことができる。
Figure 2010131269
ここで、CはステップS306で算出するペナルティを考慮する前の類似度、C’はペナルティを考慮した類似度、αはペナルティの重みを決める定数である。
なお、ここでは、撮影基準点601と被検査者の表面503の位置との距離をペナルティとする場合について説明したが、本発明はこれに限らず、例えば、超音波発射方向602と被検査者の表面503の各位置での法線方向とのずれをペナルティとしてもよい。また、撮影基準点601と被検査者の表面503の位置との距離に基づくペナルティと、超音波発射方向と法線方向とのずれに基づくペナルティとを組み合わせた新しいペナルティを求めて、(数15)と同様の計算を行うようにしても良い。
この結果、撮影基準点と被検査者の表面位置とが一致するという拘束条件を緩和し、より柔軟な位置合わせが可能となる。
9.本実施形態の変形例6
上記実施形態では、被検査者の表面位置を点群として求める場合について説明したが、本発明はこれに限定されない。例えば、医用画像(第一の画像)に対して画像処理を施すことにより被検査者の表面らしさを求め、その結果に基づいてステップS304および(または)ステップS305における座標変換パラメータの設定を変更するように構成しても良い。
具体的には、例えば、上記変形例5で説明した、撮影基準点と表面位置との距離に基づくペナルティの算出において、上記の表面らしさの度合いを考慮した算出を行うように構成しても良い。
かかる構成により、医用画像(第一の画像)から被検査者の正確な表面位置を検出することが困難な場合においても、表面さしさの算出値に応じて適当な位置合わせ処理を行うことが可能となる。
10.本実施形態の変形例7
上記実施形態では、超音波画像(第二の画像)が2次元断層像である場合について説明したが、本発明はこれに限らない。例えば、超音波画像撮影装置120により撮影された3次元画像であってもよい。この場合、第二の画像の情報量が多くなるため、より正確な位置合わせを行うことが可能となり、画像診断においてより有効な合成画像を提示することが可能となる。
11.本実施形態の変形例8
上記実施形態では、第二の画像が超音波画像である場合について説明したが、本発明はこれに限られず、撮影対象物の内部を撮影する際に、当該撮影対象物の表面位置により何らかの拘束を受ける撮影方式により撮影された撮影画像であれば何でも良い。
例えば、撮影対象物に対してレーザ光を照射し、撮影対象物内部から発せられる音響信号をプローブによって受信することにより、該音響信号に基づいて生成されたPAT(Photo Acoustic Tomography)画像などであってもよい。
12.本実施形態の変形例9
上記実施形態では、情報処理装置100が表面位置検出部103を備える場合について説明したが、本発明はこれに限らない。例えば、表面位置検出部103と同様の機能をもつ装置を情報処理装置100とは別体として構成し、情報処理装置100は、該装置により検出された表面位置を取得する構成としてもよい。
13.本実施形態の変形例10
上記実施形態では、座標変換パラメータの推定値に対して数種類の微小変化を与えた座標変換の候補群を生成し、その候補群の中から類似度が最大となる候補を選択して更新する場合について説明したが、本発明はこれに限られない。
例えば、座標変換パラメータの推定値において、6個のパラメータのそれぞれが類似度に与える影響を測り、それに基づき類似度が大きくなるように座標変換パラメータを更新する構成としてもよい。
この場合、現時点での座標変換パラメータの推定値を(数16)のように表現したとすると、ステップS305において、それらの微小な変化を与えた座標変換候補群を、例えば(数17)を用いて生成することができる。
Figure 2010131269
Figure 2010131269
そして、この座標変換の候補群P1+,P1−・・・P6−に対して、上記実施形態で説明したように、ステップS306において座標変換を行い、ステップS307において各候補に対する類似度を算出する。
本変形例では、さらにステップS307において、各候補の類似度に基づいて各パラメータが類似度に与える影響を(数18)のように求める。
Figure 2010131269
ここで、Cp1+、Cp1−、Cp2+、・・・、Cp6−は、ステップS307において算出した添え字で表す座標変換候補に係る類似度の値である。
ステップS308では、上記実施形態で説明したように類似度が最大となる候補を選択することに加え、さらに(数19)のように現時点における座標変換の推定値pをp'に更新する。
Figure 2010131269
ここで、αは更新の大きさを決めるスカラの定数値である。
かかる方法によれば、より少ない繰り返し回数で類似度の高い座標変換パラメータを推定することが可能となる。
なお、同様の効果を得るために、滑降シンプレックス法やパウエル法などを用いるようにしてもよい。これらの方法を用いた場合も、上記と同様に類似度の算出結果等に基づいて座標変換の候補の生成と、座標変換候補の更新を行うことが可能である。
[第2の実施形態]
上記第1の実施形態では、超音波画像と医用画像との位置合わせを、各画像内の画像情報に基づいて行うこととしたが、本発明はこれに限定されない。該画像情報に加えて、更に超音波プローブの位置・姿勢を計測することにより得られた計測結果を用いて、座標変換パラメータを算出するように構成してもよい。以下、本実施形態の詳細について説明する。
1.情報処理装置の機能構成
図11は、本実施形態に係る情報処理装置1100の機能構成を示す図である。情報処理装置1100は医用画像撮影装置1110、超音波画像撮影装置1120、および位置姿勢計測装置1140と接続されている。
医用画像撮影装置1110は、例えばX線CTやMRIなどで、被検査者の内部の医用画像を撮影する装置である。超音波画像撮影装置1120は不図示の超音波プローブを被検査者に接するようにして、被検査者の内部の第二の領域を超音波により撮影する装置である。位置姿勢計測装置1140(第3の取得手段)は、超音波画像撮影装置1120がもつ不図示の超音波プローブに装着され、超音波プローブの位置姿勢を計測する。
医用画像取得部1101は、医用画像撮影装置1110が撮影した被検査者の医用画像(第一の画像)を取得する。表面位置検出部1103は、第一の画像を処理して被検査者の表面位置を検出し、その位置情報を第一の座標系の位置座標で生成する。
座標変換部1104は、表面位置検出部1103が生成した位置情報と、後に説明する類似度算出部1105の出力値に基づいて、第一の画像を第二の座標系へ座標変換した第二の画像を生成する。
超音波画像取得部1102は、超音波画像撮影装置1120が撮影した超音波画像(第三の画像)を取得する。類似度算出部1105は第二の画像と第三の画像との類似度を算出する。
画像合成部1106は第二の画像と第三の画像とを取得し、これらの画像を合成した合成画像を生成する。画像表示装置1130は、情報処理装置1100の画像合成部1106から合成画像を取得して表示する。
2.情報処理装置のハードウェア構成
図12は、本実施形態に係る情報処理装置1100のハードウェア構成及び、情報処理装置を備える情報処理システム1200のネットワーク構成を示す図である。図12に示すように、情報処理システム1200は、上記第1の実施形態で説明した図2のネットワーク構成とほぼ同様であるが、位置姿勢計測装置1140が加わっている点が相違する。
位置姿勢計測装置1140は超音波画像撮影装置1120がもつ不図示の超音波プローブに装着され、超音波プローブの位置姿勢を計測する。位置姿勢計測装置1140は、例えば米国Polhemus社のFASTRAK等によって構成される。ただし、位置姿勢計測装置1140は位置姿勢が計測できるのであれば、どのように構成されていてもよい。
位置姿勢計測装置1140は、さらに、情報処理装置1100がもつ共通バス219と接続され、情報処理装置1100は超音波プローブの位置姿勢計測の結果を取得することができる。
このように、本実施形態に係る情報処理装置1100は、第1の実施形態と比べて超音波プローブの位置姿勢を計測する位置姿勢計測装置からの計測結果を取得する点に違いがある。本実施形態によれば、超音波プローブの位置姿勢を計測した計測結果を用いて、位置合わせの初期値を設定したり、被検査者の変形などを補正したりすることにより、より高度な位置合わせを行うことが可能となる。
3.超音波プローブ及び位置姿勢計測装置の詳細
図13は、超音波画像撮影装置1120を構成する超音波プローブと位置姿勢計測装置1140の詳細を示す図である。図13に示すように、超音波プローブ1300は被検査者の表面1303に対して、プローブ表面1301に接するようにして使用される。
プローブ表面1301からは超音波ビーム1302が被検査者に対して発射され、その超音波が被検査者の内部で反射した音響信号を超音波プローブ1300が受信することにより被検査者内部の超音波画像を取得することができる。
1304は、位置姿勢計測装置1140を構成する位置姿勢計測装置本体であり、位置姿勢計測センサ1305およ位置姿勢計測ステーション1306とを備える。
位置姿勢計測ステーション1306は計測空間中に固定されている。位置姿勢計測センサ1305は、超音波プローブ1300に固定して装着され、ユーザなどによる超音波プローブ1300の動きと連動して動くように構成されているものとする。
位置姿勢計測装置本体1304は位置姿勢計測ステーション1306と、位置姿勢計測センサ1305との間でデータの送受信を行い、位置姿勢計測ステーション1306を基準とした位置姿勢計測センサ1305の相対的な位置姿勢を計測する。
位置姿勢計測装置1140として磁気式のセンサを用いる場合、位置姿勢計測ステーション1306は、磁気を発生させる磁場発生装置(トランスミッタ)によって構成される。また、位置姿勢計測センサ1305は、磁気の強度を計測する磁気センサによって構成される。そして、位置姿勢計測ステーション1306が発生する磁気を、位置姿勢計測センサ1305が計測することにより、両者の間の相対的な位置姿勢の計測を行うことが可能となっている。なお、上記の方法は、磁場発生装置と磁気センサの構成が逆であっても同様の機能が得られる。
また、位置姿勢計測装置1140は、光学式のセンサによって構成してもよい。例えば、赤外線などの発光体や反射体からなる複数個のマーカによって構成されるリジッドボディを超音波プローブ1300に装着し、計測空間中に設置したカメラなどの撮像装置でこれを撮影することで、このリジッドボディの位置と姿勢を計測してもよい。また、撮影装置を超音波プローブ1300に固定して装着して、空間中に設置したマーカを撮影することによって、撮影装置の位置と姿勢を計測することもできる。なお、本実施形態における図11の位置姿勢計測装置1140は上記の非接触方式の計測方法に限らず、どのような計測方法を用いても良い。
本発明は、第一の座標系で撮影された医用画像(第一の画像)と第三の座標系で撮影された超音波画像(第三の画像)との位置合わせに関するものである。
4.第一の座標系と第三の座標系との位置関係についての説明
図14は、第一の座標系および第三の座標系、ならびに位置合わせ処理に関係するその他の座標系の関係を説明した図である。図14において、第一の座標系1401は医用画像(第一の画像)の基準となる座標系である。計測ステーション座標系1402は図13の位置姿勢計測ステーション1306を基準とし、超音波画像撮影装置1120が撮影を行う実際の空間上に定義される座標系である。
本実施形態における計測ステーション座標系1402は、実空間において固定された座標系であるものとする。計測センサ座標系1403は、図13の位置姿勢計測センサ1305を基準とした座標系である。本実施形態では図13で説明したように超音波プローブ1300に固定して装着するものとする。したがって、計測センサ座標系1403はユーザ操作などによる超音波プローブの移動・回転に伴って実空間上で基準が移動する座標系である。第三の座標系1404は、図13のプローブ表面1301に対応する位置に原点をもつ超音波画像(第三の画像)上の基準座標系である。
第一の座標変換1411は、計測ステーション座標系1402から第一の座標系1401への座標変換である。この座標変換は、計測ステーション座標における被検査者の位置姿勢と、第一の画像における被検査者の撮影画像の位置との関係を表す座標変換である。この座標変換は、例えばユーザによる入力操作によって暫定的に決めるようにしてもよい。
第二の座標変換1412は、計測センサ座標系1403から計測ステーション座標系1402への座標変換である。この座標変換は、図11の位置姿勢計測装置1140によって計測される位置姿勢を表す座標変換であり、位置姿勢計測装置1140が取得する位置姿勢の計測値に基づいて算出される。したがって、本実施形態においてもその値をそのまま使うものとして説明する。
第三の座標変換1413は、第三の座標系1404から計測センサ座標系1403への座標変換である。この座標変換は、図13のプローブ表面1301と超音波ビーム1302の発射方向および位置姿勢計測センサ1305に関係し、超音波画像(第三の画像)中における画像座標と、計測センサ座標系1403との関係によって決められる。
この座標変換は、例えば、既知形状の物体の表面に図13のプローブ表面1301を接触させた時の位置姿勢計測装置の計測結果を利用して決めることもできる。また、位置姿勢計測センサ1305とプローブ表面1301の位置姿勢の関係を物理的に直接計測した結果によって決めることもできる。
第四の座標変換1414は、第三の座標系1404から第一の座標系1401への座標変換である。この座標変換は、前記の座標変換の合成として(数20)のように表すことができる。
Figure 2010131269
第五の座標変換1415は、第一の座標系1401から第三の座標系1404への座標変換である。この座標変換は、座標変換1414の逆変換であり、(数21)のように表すことができる。
Figure 2010131269
以上の座標変換の中で、第一の座標変換1411は、例えばユーザによる入力操作によって暫定的に決めるとしたが、現実には超音波画像撮影装置1120におけるプローブの圧力や被検査者自身の体動などにより誤差が生じることがある。
また、第二の座標変換1412は、位置姿勢計測装置の計測値により決める説明したが、現実にはこの計測値には計測誤差が混入する場合がある。
また、第三の座標変換1413は、事前に校正を行うことで設定すると説明したが、現実にはこの校正結果には誤差が含まれる場合がある。また、超音波画像撮影装置による撮影の最中に、計測センサと超音波プローブの位置姿勢の関係が変化し、それが誤差となる場合もある。
したがって、これらの座標変換を合成した第五の座標変換1415にも誤差が含まれることがある。本実施形態では、後に説明する位置合わせ処理によって第五の座標変換1415を補正することで、第一の座標系から第三の座標系への真の座標変換を推定する。
5.位置合わせ処理の流れ
図15は、本実施形態に係る情報処理装置1100における位置合わせ処理の流れを示すフローチャートである。図15の、ステップS1501からステップS1510の各処理ステップは、図3で説明した第1の実施形態のステップS301からステップS310の処理内容と同様のものが多く含まれる。このため、以下では、第1の実施形態と異なる処理を行う部分についてのみ説明を行う。
5.1 ステップS1503(超音波画像・位置姿勢計測結果の取得処理)
ステップS1503において、図11の計測値取得部1107は、図14で示した座標変換1412を取得する。ここで、第一の座標変換1411および第三の座標変換1413には、予め暫定的な値が設定されているから、それらを用いて第五の座標変換1415は(数21)により暫定的に求めることができる。以後、図11の計測値取得部1107から(数21)に示したT3D→probeの値が直接得られるものとして説明する。
また、ステップS1503では、上記の処理を行うと共に、超音波画像取得部1102が超音波画像撮影装置1120が撮影した被検査者の超音波画像を取得する。この処理は第1の実施形態におけるステップS303と同様であるため説明は省略する。
5.2 ステップS1504(初期座標変換の設定処理)
ステップS1504において、図11の座標変換部1104は、第1の実施形態と同様に第一の座標系から第二の座標系への初期座標変換Tinitを設定する。本実施形態では、この第二の座標系を第三の座標系に近づける(または一致させる)処理、すなわち位置合わせ処理を行う。この初期座標変換の設定方法について図16を用いて説明する。
図16において、表面位置座標群1600は、ステップS1502で検出した第一の座標系における被検査者の表面位置の座標群であり、xsi=(xsi,ysi,zsi,1≦i≦Nと表記する。
計測座標1601は、ステップS1503で取得した超音波プローブの被検査者に接する点の位置座標であり、xprobe=(xprobe,yprobe,zprobeと表記する。ここでxprobeは、(数20)により第三の座標系の原点を第一の座標系に座標変換したものとする。
本実施形態において、初期座標変換Tinitは、例えば以下の手順によって設定することができる。
まず、第一の座標系において被検査者の表面位置座標群1600の中から、プローブ表面の計測座標1601と最も距離の近い表面位置座標1602を選択する。
この選択は、表面位置座標群1600の全ての位置座標に対して計測座標1601との距離を計算し、最も距離が小さいものを求めることにより行うことができる。なお、選択された表面位置座標1602をxnear=(xnear,ynear,znearとする。
ここで表面位置座標群1600が無限小の間隔で無限個の数だけ検出されていて、医用画像撮影時と超音波画像撮影時とで被検査者の体動や表面形状の変形などが無く、理想的な状態を仮定すればxprobeとxnearは同一の値となる。
しかし、現実には種々の要因によってxprobeとxnearは異なる値となる場合がある。図16の計測座標1601と表面位置座標1602の位置のずれはそれを示している。本実施形態ではこのずれ量のベクトルv=xnear−xprobeを用いて座標変換1411を(数22)のように補正する。そして、それを用いて合成した座標変換を(数23)のように計算して、これを初期座標変換Tinitとして設定する。
Figure 2010131269
Figure 2010131269
上記の方法によれば、座標変換T3D→probeに含まれる並進成分の誤差を補正した座標変換を初期値として設定することができる効果がある。
また、初期座標変換の設定方法はこれに限らず、例えば被検査者の表面形状を求めて、その形状と超音波の発射方向との関係から初期座標変換を設定する方法も考えられる。
この場合、例えば表面位置座標群1600から、被検査者の表面形状をポリゴンパッチなどにより生成し、その各ポリゴンパッチの法線方向と位置姿勢計測値の姿勢成分とのマッチングによって設定する方法が考えられる。
このマッチングは、例えば、超音波の発射方向と被検査者の表面の法線方向が現実には一致しているものと仮定する。そして、各ポリゴンパッチの法線方向と、位置姿勢計測値の回転成分から求められる超音波の発射方向との内積を計算する。
そして、この内積の値が最も大きいポリゴンパッチを選択し、そのポリゴンパッチの法線方向と超音波の発射方向とが一致するように初期座標変換Tinitの回転成分を設定する。この場合、座標変換T3D→probeに含まれる回転成分の誤差を補正した座標変換を初期値として設定することができるといった効果がある。
また、上記の方法を組み合わせた方法も本発明の一つの実施形態となる。例えば、図16の計測座標1601と被検査者の表面位置座標群1600との距離を算出する。そして、各表面位置座標群1600に関してその周辺における表面形状の法線方向と超音波の発射方向との内積を算出する。そして、それらを組み合わせた(数24)のような評価に基づき、この値が最も高くなる表面位置座標xnearを選択する。そして、選択した表面位置座標xnearとその周辺の表面形状の法線方向に基づいて初期座標変換Tinitを設定することができる。
Figure 2010131269
ここで、vは表面位置座標群1600のi番目の周辺のポリゴンパッチの法線方向の単位ベクトル、vprobeは超音波の発射方向の単位ベクトルである。これによれば、被検査者の表面位置と表面形状の両方を考慮した、より確からしい座標変換を初期値として設定できる効果がある。
以上の説明から明らかなように、本実施形態では、実空間上において超音波プローブの撮影基準点が被検査者の体表に接することを拘束条件として用いつつ、位置計測結果の誤差を補正する構成とした点に特徴がある。
この結果、本実施形態に係る情報処理装置1100によれば、超音波プローブの位置姿勢の計測値等に含まれるの誤差の影響を補正しつつ、医用画像と超音波画像の位置合わせを高速に行うことが可能となる。
6.本実施形態の変形例1
本実施形態の説明では、図14で定義した各座標系の間の関係、すなわち座標変換に関して、剛体変換で表現する場合を例として説明したが、本発明はこれに限らない。例えば、ステップS1503で取得した位置姿勢の計測値が、実空間に対して精度良く得られている場合には、被検査者の表面位置座標1602と、プローブ表面の計測座標1601の位置のずれが、プローブの圧力による変形とみなすことができる。この変形量を考慮した位置合わせを行う場合について、以下に説明する。
本変形例は、本実施形態で説明したステップS1504からステップS1506の処理を以下の処理に置き換えることで実現される。
まず、ステップS1504では、本実施形態の処理と同様に、プローブ表面位置の計測座標1601と被験者の最近傍の表面位置座標1602の対応づけを行う。そして、この二つの座標のずれを剛体変換ではなく、例えば、FFD(Free Form Deformation)法を用いた変形位置合わせを行う。なお、FFD法の詳細は、例えば、下記の文献(以下、非特許文献2と称す)に開示されている。
・T.W Sederberg著 “Free−form deformation of solid geometric models”(Proc。 SIGGRAPH’86,vol.20,no.4 pp.151−160,1986)。
例えば、図17の(a)に示すように対応付けされた第一の座標系における被検査者の表面位置座標1602を基準として、メッシュ上の初期制御点群1701を配置する。そして、その制御点群を第一の座標系におけるプローブ表面の計測座標1601に基づいて移動させ、更新後の制御点群1702を得る。
すなわち、第2の実施形態のステップS1504では、剛体変換のパラメータを設定するとしたが、本変形例では上記制御点群の移動量を座標変換のパラメータとするものである。
そして、ステップS1505において、各制御点を微小に移動させた複数の座標変換パラメータの候補群を生成する。この候補群は全ての制御点のそれぞれについて微小に移動させたものであっても良いし、制御点を配置する際に基準とした表面位置座標1602の周辺の制御点だけを移動させるようにしても良い。
そして、ステップS1506において座標変換部1104はこの制御点の移動量に基づく非線形の座標変換を行う。この座標変換は、上記非特許文献2によればB−Splineによる補間処理を用いて第一座標系における第一の画像に非線形変換を施し、第二の座標系における第二の画像を生成することができる。
この方法によれば、プローブの圧力などによる被検査者の空間的に非線形な変形に対して精度の高い位置合わせを行える効果がある。
また、非線形な変形を伴う座標変換の方法はこれに限らず、例えば、Thin−Plate Spline(TPS)の手法を用いることもできる。なお、TPSの手法は、下記の文献(以下、非特許文献3と称す)に開示されている。
・Fred L.Boolstein著 “Principal Warps:Thin−Plate Splines andthe Decomposition of Decormation”(IEEE Transaction on Pattern Analysis and Machine Intelligence.Vol.11,No.6,1989)。
また、これ以外にも有限要素法(FEM:Finit Element Method)を用いて、被検査者の変形量を推定して第一の座標系から第二の座標系への座標変換を求めることもできる。この方法によれば、プローブの圧力による被検査者の変形を物理的に高い精度で推定できる効果がある。
また、これらに限らずいかなる座標変換の方法を用いた実施形態も本発明の一つの実施形態となりうる。
[他の実施形態]
なお、本発明は、複数の機器(例えばホストコンピュータ、インタフェース機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録したコンピュータ読取可能な記憶媒体を、システムあるいは装置に供給するよう構成することによっても達成されることはいうまでもない。この場合、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することにより、上記機能が実現されることとなる。なお、この場合、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フロッピ(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現される場合に限られない。例えば、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、前述した実施形態の機能が実現される場合も含まれる。つまり、プログラムコードがメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって実現される場合も含まれる。
第1の実施形態に係る情報処理装置100の機能構成を示す図である。 第1の実施形態に係る情報処理装置100のハードウェア構成及び、情報処理装置を備える情報処理システム200のネットワーク構成を示す図である。 情報処理装置100における位置合わせ処理の流れを示すフローチャートである。 3次元医用画像から撮影対象物の表面の位置を検出する処理を説明するための図である。 超音波画像撮影装置120が被検査者を撮影する様子を示す図である。 超音波画像撮影装置120が撮影した超音波画像の一例を示す図である。 異なる座標系でそれぞれ撮影された画像の位置合わせを説明するための模式図である。 初期座標変換の設定処理を説明するための図である。 画像合成処理を説明するための図である。 第1の実施形態に係る情報処理装置100の変形例における機能構成を示す図である。 第2の実施形態に係る情報処理装置1100の機能構成を示す図である。 第2の実施形態に係る情報処理装置1100のハードウェア構成及び、情報処理装置を備える情報処理システム1200のネットワーク構成を示す図である。 超音波画像撮影装置1120を構成する超音波プローブと位置姿勢計測装置1140の詳細を示す図である。 第一の座標系および第三の座標系、ならびに位置合わせ処理に関係するその他の座標系の関係を説明した図である。 情報処理装置1100における位置合わせ処理の流れを示すフローチャートである。 初期座標変換の設定処理を説明するための図である。 第2の実施形態に係る情報処理装置1100の変形例による位置合わせ処理を説明するための図である。

Claims (11)

  1. 被検体の内部の状態を撮影する撮影部が被検体に対して非接触な位置で撮影を行う第一の撮影手段により撮影された第一の画像を取得する第1の取得手段と、
    被検体の内部の状態を撮影する撮影部が被検体の体表面に接触した位置で撮影を行う第二の撮影手段により撮影された第二の画像を取得する第2の取得手段と、
    前記第二の画像における前記接触した位置を基準として、前記第一の画像の画像情報と該第二の画像の画像情報とが一致するように、該第一の画像または該第二の画像のいずれかの座標を変換する変換手段と
    を備えることを特徴とする情報処理装置。
  2. 前記変換手段は、前記第二の画像における前記接触した位置と、前記第一の画像における前記被検体の体表面の対応する位置とが一致するように、該第一の画像または該第二の画像のいずれかの座標を変換することを特徴とする請求項1に記載の情報処理装置。
  3. 前記第二の撮影手段における撮影部が被検体の内部の状態を撮影する際の位置および姿勢に関する情報を取得する第3の取得手段を更に備え、
    前記変換手段は、前記位置および姿勢に関する情報に基づいて設定された値を初期値として、前記座標を変換するための変換パラメータを算出することを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記変換手段は、更に、
    座標の変換が行われた後の、前記第一の画像と前記第二の画像との類似度を算出する算出手段と、
    前記算出された類似度に基づいて、前記第一の画像の画像情報と前記第二の画像の画像情報とが一致しているか否かを判定する判定手段と
    を備えることを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記第二の撮影手段は、超音波の送受信により被検体の内部の状態を撮影する超音波プローブを備えることを特徴とする請求項1に記載の情報処理装置。
  6. 前記第二の撮影手段は、前記超音波プローブが被検体の体表面に接触した位置で撮影を行うことを特徴とする請求項5に記載の情報処理装置。
  7. 前記変換手段は、
    前記第一の画像における前記被検体の体表面の位置または姿勢のいずれか一方または両方と、前記第3の取得手段により取得された前記位置および姿勢に関する情報とに基づいて、前記第二の撮影手段における撮影部が前記被検体の体表面に接触したことに伴う、該被検体の変形量を算出し、該算出した変形量を用いて、該第一の画像または該第二の画像のいずれかの座標を変換することを特徴とする請求項3に記載の情報処理装置。
  8. 前記変換手段は、
    前記第一の画像における前記被検体の体表面の位置または姿勢のいずれか一方または両方と、前記第3の取得手段により取得された前記位置および姿勢に関する情報とに基づいて、前記第二の撮影手段における撮影部が前記被検体の体表面に接触したことに伴って生じた圧力を推定することで、前記被検体の変形量を算出することを特徴とする請求項7に記載の情報処理装置。
  9. 前記変換手段は、
    前記第一の画像に配置した制御点と、前記第二の画像に配置した制御点とを、前記第一の画像の座標系と前記第二の画像の座標系との位置関係に応じて移動させた場合の移動量に基づいて、前記座標を変換するための変換パラメータを算出することを特徴とする請求項7に記載の情報処理装置。
  10. 被検体の内部の状態を撮影する撮影部が被検体に対して非接触な位置で撮影を行う第一の撮影手段により撮影された第一の画像を取得する第1の取得工程と、
    被検体の内部の状態を撮影する撮影部が被検体の体表面に接触した位置で撮影を行う第二の撮影手段により撮影された第二の画像を取得する第2の取得工程と、
    前記第二の画像における前記接触した位置を基準として、前記第一の画像の画像情報と該第二の画像の画像情報とが一致するように、該第一の画像または該第二の画像のいずれかの座標を変換する変換工程と
    を備えることを特徴とする情報処理装置における情報処理方法。
  11. 請求項10に記載の情報処理方法をコンピュータによって実行させるためのプログラムを格納したコンピュータ読取可能な記憶媒体。
JP2008311560A 2008-12-05 2008-12-05 情報処理装置および情報処理方法 Active JP5486182B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008311560A JP5486182B2 (ja) 2008-12-05 2008-12-05 情報処理装置および情報処理方法
PCT/JP2009/004637 WO2010064348A1 (ja) 2008-12-05 2009-09-16 医用画像の位置あわせのための情報処理装置、情報処理方法、プログラム
US12/755,276 US8165372B2 (en) 2008-12-05 2010-04-06 Information processing apparatus for registrating medical images, information processing method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008311560A JP5486182B2 (ja) 2008-12-05 2008-12-05 情報処理装置および情報処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014033306A Division JP5808446B2 (ja) 2014-02-24 2014-02-24 情報処理装置および情報処理方法

Publications (2)

Publication Number Publication Date
JP2010131269A true JP2010131269A (ja) 2010-06-17
JP5486182B2 JP5486182B2 (ja) 2014-05-07

Family

ID=42233008

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008311560A Active JP5486182B2 (ja) 2008-12-05 2008-12-05 情報処理装置および情報処理方法

Country Status (3)

Country Link
US (1) US8165372B2 (ja)
JP (1) JP5486182B2 (ja)
WO (1) WO2010064348A1 (ja)

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102727204A (zh) * 2011-04-01 2012-10-17 佳能株式会社 信息处理设备、信息处理方法和摄像系统
WO2012141184A1 (en) 2011-04-13 2012-10-18 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same and storage medium
JP2012223416A (ja) * 2011-04-21 2012-11-15 Ge Medical Systems Global Technology Co Llc 超音波診断装置及びその制御プログラム
JP2012254279A (ja) * 2011-05-13 2012-12-27 Sony Corp 画像処理装置、画像処理方法、プログラム、記録媒体、画像処理システム、および、プローブ
JP2013244354A (ja) * 2012-05-29 2013-12-09 Furuno Electric Co Ltd 超音波画像処理装置、超音波画像処理プログラム、及び超音波画像処理方法
JP2014501156A (ja) * 2010-12-31 2014-01-20 セント・ジュード・メディカル・エイトリアル・フィブリレーション・ディヴィジョン・インコーポレーテッド 心内エコー・カテーテル画像における心臓内の機器および構造の自動識別
JP2014121637A (ja) * 2014-02-24 2014-07-03 Canon Inc 情報処理装置および情報処理方法
WO2014156973A1 (ja) * 2013-03-29 2014-10-02 日立アロカメディカル株式会社 画像位置合せ表示方法及び超音波診断装置
JP2015503390A (ja) * 2011-12-27 2015-02-02 コーニンクレッカ フィリップス エヌ ヴェ 追跡システムの術中品質モニタリング
JP2015531923A (ja) * 2012-08-06 2015-11-05 ヴァンダービルト ユニヴァーシティ 画像誘導処置中の変形のためにデータを修正する向上された方法
KR20150145106A (ko) * 2014-06-18 2015-12-29 삼성전자주식회사 의료 영상 정합 방법 및 그 장치
JP2016034486A (ja) * 2014-07-31 2016-03-17 株式会社東芝 医学イメージングシステム、手術ガイドシステム及び医学イメージング方法
KR20160041803A (ko) * 2014-10-08 2016-04-18 삼성전자주식회사 영상 처리 장치, 영상 처리 장치 제어 방법 및 의료 영상 장치
JP2017515576A (ja) * 2014-05-16 2017-06-15 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 再構成のない自動マルチモダリティ超音波レジストレーション
JP2017524464A (ja) * 2014-08-19 2017-08-31 チェン シェシャオChen, Chieh Hsiao 手術部位におけるプローブの位置を判定する方法及びシステム
JP2018034014A (ja) * 2011-10-05 2018-03-08 ニューヴェイジヴ,インコーポレイテッド 画像表示の生成方法
JP2018057428A (ja) * 2016-09-30 2018-04-12 キヤノンメディカルシステムズ株式会社 超音波診断装置および超音波診断支援プログラム
JP2018192306A (ja) * 2011-04-06 2018-12-06 キヤノン株式会社 情報処理装置
JP2019514632A (ja) * 2016-05-23 2019-06-06 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 超音波融合撮像システムにおけるプローブ誘導変形の補正
JP2019195447A (ja) * 2018-05-09 2019-11-14 キヤノンメディカルシステムズ株式会社 超音波診断装置及び医用情報処理プログラム
CN112055870A (zh) * 2018-03-02 2020-12-08 皇家飞利浦有限公司 图像配准合格评价
JP2023022123A (ja) * 2017-03-16 2023-02-14 コーニンクレッカ フィリップス エヌ ヴェ ガイダンス信号の決定及び手持ち式超音波トランスデューサのためのガイダンスを提供するためのシステム
JP7427008B2 (ja) 2019-01-15 2024-02-02 コーニンクレッカ フィリップス エヌ ヴェ 超音波像とx線像とを融合させるための実時間追跡
US11941179B2 (en) 2010-10-06 2024-03-26 Nuvasive, Inc. Imaging system and method for use in surgical and interventional medical procedures

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8064664B2 (en) * 2006-10-18 2011-11-22 Eigen, Inc. Alignment method for registering medical images
JP5486182B2 (ja) * 2008-12-05 2014-05-07 キヤノン株式会社 情報処理装置および情報処理方法
JP5546230B2 (ja) * 2009-12-10 2014-07-09 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
EP2566392A4 (en) * 2010-05-04 2015-07-15 Pathfinder Therapeutics Inc SYSTEM AND METHOD FOR MATCHING ABDOMINAL SURFACES USING PSEUDO-CHARACTERISTICS
IT1400684B1 (it) * 2010-07-07 2013-06-28 Esaote Spa Metodo e dispositivo di imaging per il monitoraggio di un corpo in esame.
KR20120011694A (ko) * 2010-07-29 2012-02-08 삼성전자주식회사 영상 처리 방법 및 장치와 이를 채용한 의료영상시스템
EP2491865A1 (en) * 2011-02-24 2012-08-29 Samsung Medison Co., Ltd. Ultrasound system for providing image indicator
EP2535866A1 (en) * 2011-06-16 2012-12-19 Agfa HealthCare Method to detect and indicate inaccuracies in long length imaging
US9058647B2 (en) * 2012-01-16 2015-06-16 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium
US20140253544A1 (en) * 2012-01-27 2014-09-11 Kabushiki Kaisha Toshiba Medical image processing apparatus
US20150126864A1 (en) * 2012-05-24 2015-05-07 Koninklijke Philips N.V. Image generation apparatus
DE102012213456A1 (de) * 2012-07-31 2014-02-06 Siemens Aktiengesellschaft Katheter mit Ultraschallsensor und Verfahren zum Erzeugen einer Volumengrafik mittels des Katheters
KR102001219B1 (ko) * 2012-11-26 2019-07-17 삼성전자주식회사 의료 영상들의 정합 방법 및 장치
JP6342164B2 (ja) * 2013-01-23 2018-06-13 キヤノンメディカルシステムズ株式会社 超音波診断装置
KR102114417B1 (ko) * 2013-06-11 2020-05-22 삼성메디슨 주식회사 영상 정합 방법 및 장치
CN103295455B (zh) * 2013-06-19 2016-04-13 北京理工大学 基于ct影像模拟与定位的超声培训系统
JP6320051B2 (ja) * 2014-01-17 2018-05-09 キヤノン株式会社 三次元形状計測装置、三次元形状計測方法
JP6289142B2 (ja) * 2014-02-07 2018-03-07 キヤノン株式会社 画像処理装置、画像処理方法、プログラムおよび記憶媒体
WO2015197384A1 (en) * 2014-06-26 2015-12-30 Koninklijke Philips N.V. Device and method for displaying image information
US10991069B2 (en) * 2014-10-08 2021-04-27 Samsung Electronics Co., Ltd. Method and apparatus for registration of medical images
KR102329113B1 (ko) * 2014-10-13 2021-11-19 삼성전자주식회사 초음파 영상 장치 및 초음파 영상 장치의 제어 방법
WO2016136065A1 (ja) * 2015-02-26 2016-09-01 株式会社日立製作所 超音波撮像装置、および、画像処理装置
JP6849328B2 (ja) * 2016-07-05 2021-03-24 キヤノン株式会社 放射線撮影装置、放射線撮影システム、放射線撮影方法、及びプログラム
KR102084256B1 (ko) * 2018-03-26 2020-03-03 (주)레벨소프트 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법
KR102233585B1 (ko) * 2020-02-26 2021-03-30 (주)레벨소프트 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법
CN111403030B (zh) * 2020-02-27 2024-02-02 合创汽车科技有限公司 心理健康监测方法、装置、计算机设备和存储介质
JP7323128B2 (ja) * 2020-03-12 2023-08-08 東芝エネルギーシステムズ株式会社 医用画像処理装置、医用装置、治療システム、医用画像処理方法、およびプログラム
CN113598716B (zh) * 2021-08-24 2022-04-15 南方医科大学 一种光声与磁共振联合成像方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004016268A (ja) * 2002-06-12 2004-01-22 Toshiba Corp 超音波診断装置、超音波プローブ、及び超音波診断におけるナビゲーション情報提供方法
WO2006068103A1 (ja) * 2004-12-20 2006-06-29 Hitachi Medical Corporation 超音波診断システム及びその方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3860227B2 (ja) * 1993-03-10 2006-12-20 株式会社東芝 Mriガイド下で用いる超音波治療装置
JP3871747B2 (ja) 1996-11-25 2007-01-24 株式会社日立メディコ 超音波診断装置
US6846290B2 (en) * 2002-05-14 2005-01-25 Riverside Research Institute Ultrasound method and system
US7150716B2 (en) * 2003-02-20 2006-12-19 Siemens Medical Solutions Usa, Inc. Measuring transducer movement methods and systems for multi-dimensional ultrasound imaging
US20050089205A1 (en) * 2003-10-23 2005-04-28 Ajay Kapur Systems and methods for viewing an abnormality in different kinds of images
US20050251029A1 (en) * 2004-04-21 2005-11-10 Ali Khamene Radiation therapy treatment plan
US9084556B2 (en) * 2006-01-19 2015-07-21 Toshiba Medical Systems Corporation Apparatus for indicating locus of an ultrasonic probe, ultrasonic diagnostic apparatus
JP4934513B2 (ja) * 2007-06-08 2012-05-16 株式会社日立メディコ 超音波撮像装置
JP5208495B2 (ja) * 2007-12-27 2013-06-12 オリンパスメディカルシステムズ株式会社 医療用システム
JP5486182B2 (ja) * 2008-12-05 2014-05-07 キヤノン株式会社 情報処理装置および情報処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004016268A (ja) * 2002-06-12 2004-01-22 Toshiba Corp 超音波診断装置、超音波プローブ、及び超音波診断におけるナビゲーション情報提供方法
WO2006068103A1 (ja) * 2004-12-20 2006-06-29 Hitachi Medical Corporation 超音波診断システム及びその方法

Cited By (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11941179B2 (en) 2010-10-06 2024-03-26 Nuvasive, Inc. Imaging system and method for use in surgical and interventional medical procedures
JP2014501156A (ja) * 2010-12-31 2014-01-20 セント・ジュード・メディカル・エイトリアル・フィブリレーション・ディヴィジョン・インコーポレーテッド 心内エコー・カテーテル画像における心臓内の機器および構造の自動識別
US10657661B2 (en) 2011-04-01 2020-05-19 Canon Kabushiki Kaisha Information processing apparatus, imaging system, information processing method, and program causing computer to execute information processing
CN102727204A (zh) * 2011-04-01 2012-10-17 佳能株式会社 信息处理设备、信息处理方法和摄像系统
JP2018192306A (ja) * 2011-04-06 2018-12-06 キヤノン株式会社 情報処理装置
US9558549B2 (en) 2011-04-13 2017-01-31 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same and storage medium
WO2012141184A1 (en) 2011-04-13 2012-10-18 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same and storage medium
JP2012217769A (ja) * 2011-04-13 2012-11-12 Canon Inc 画像処理装置、画像処理装置の制御方法、およびプログラム
JP2012223416A (ja) * 2011-04-21 2012-11-15 Ge Medical Systems Global Technology Co Llc 超音波診断装置及びその制御プログラム
JP2012254279A (ja) * 2011-05-13 2012-12-27 Sony Corp 画像処理装置、画像処理方法、プログラム、記録媒体、画像処理システム、および、プローブ
JP2018034014A (ja) * 2011-10-05 2018-03-08 ニューヴェイジヴ,インコーポレイテッド 画像表示の生成方法
JP2015503390A (ja) * 2011-12-27 2015-02-02 コーニンクレッカ フィリップス エヌ ヴェ 追跡システムの術中品質モニタリング
JP2013244354A (ja) * 2012-05-29 2013-12-09 Furuno Electric Co Ltd 超音波画像処理装置、超音波画像処理プログラム、及び超音波画像処理方法
JP2015531923A (ja) * 2012-08-06 2015-11-05 ヴァンダービルト ユニヴァーシティ 画像誘導処置中の変形のためにデータを修正する向上された方法
JPWO2014156973A1 (ja) * 2013-03-29 2017-02-16 株式会社日立製作所 画像位置合せ表示方法及び超音波診断装置
WO2014156973A1 (ja) * 2013-03-29 2014-10-02 日立アロカメディカル株式会社 画像位置合せ表示方法及び超音波診断装置
JP2014121637A (ja) * 2014-02-24 2014-07-03 Canon Inc 情報処理装置および情報処理方法
JP2017515576A (ja) * 2014-05-16 2017-06-15 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 再構成のない自動マルチモダリティ超音波レジストレーション
KR20150145106A (ko) * 2014-06-18 2015-12-29 삼성전자주식회사 의료 영상 정합 방법 및 그 장치
KR102273020B1 (ko) * 2014-06-18 2021-07-05 삼성전자주식회사 의료 영상 정합 방법 및 그 장치
JP2016034486A (ja) * 2014-07-31 2016-03-17 株式会社東芝 医学イメージングシステム、手術ガイドシステム及び医学イメージング方法
JP2017524464A (ja) * 2014-08-19 2017-08-31 チェン シェシャオChen, Chieh Hsiao 手術部位におけるプローブの位置を判定する方法及びシステム
KR102530170B1 (ko) * 2014-10-08 2023-05-10 삼성전자주식회사 영상 처리 장치, 영상 처리 장치 제어 방법 및 의료 영상 장치
KR20160041803A (ko) * 2014-10-08 2016-04-18 삼성전자주식회사 영상 처리 장치, 영상 처리 장치 제어 방법 및 의료 영상 장치
JP2019514632A (ja) * 2016-05-23 2019-06-06 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 超音波融合撮像システムにおけるプローブ誘導変形の補正
US11672505B2 (en) 2016-05-23 2023-06-13 Koninklijke Philips N.V. Correcting probe induced deformation in an ultrasound fusing imaging system
US11547388B2 (en) 2016-05-23 2023-01-10 Koninklijke Philips N.V. Correcting probe induced deformation in an ultrasound fusing imaging system
JP2018057428A (ja) * 2016-09-30 2018-04-12 キヤノンメディカルシステムズ株式会社 超音波診断装置および超音波診断支援プログラム
JP7442600B2 (ja) 2017-03-16 2024-03-04 コーニンクレッカ フィリップス エヌ ヴェ ガイダンス信号の決定及び手持ち式超音波トランスデューサのためのガイダンスを提供するためのシステム
JP2023022123A (ja) * 2017-03-16 2023-02-14 コーニンクレッカ フィリップス エヌ ヴェ ガイダンス信号の決定及び手持ち式超音波トランスデューサのためのガイダンスを提供するためのシステム
CN112055870A (zh) * 2018-03-02 2020-12-08 皇家飞利浦有限公司 图像配准合格评价
JP7245256B2 (ja) 2018-03-02 2023-03-23 コーニンクレッカ フィリップス エヌ ヴェ 画像レジストレーションの認定
JP2021514767A (ja) * 2018-03-02 2021-06-17 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 画像レジストレーションの認定
JP7171228B2 (ja) 2018-05-09 2022-11-15 キヤノンメディカルシステムズ株式会社 超音波診断装置及び医用情報処理プログラム
JP2019195447A (ja) * 2018-05-09 2019-11-14 キヤノンメディカルシステムズ株式会社 超音波診断装置及び医用情報処理プログラム
JP7427008B2 (ja) 2019-01-15 2024-02-02 コーニンクレッカ フィリップス エヌ ヴェ 超音波像とx線像とを融合させるための実時間追跡

Also Published As

Publication number Publication date
JP5486182B2 (ja) 2014-05-07
US8165372B2 (en) 2012-04-24
WO2010064348A1 (ja) 2010-06-10
US20100239150A1 (en) 2010-09-23

Similar Documents

Publication Publication Date Title
JP5486182B2 (ja) 情報処理装置および情報処理方法
JP5685133B2 (ja) 画像処理装置、画像処理装置の制御方法、およびプログラム
KR101267759B1 (ko) 화상 처리 장치, 화상 처리 방법 및 저장 매체
JP5335280B2 (ja) 位置合わせ処理装置、位置合わせ方法、プログラム、及び記憶媒体
CN107170031B (zh) 利用柔性压缩桨的胸部断层摄影
CN105025803B (zh) 从多个三维视图对大对象的分割
US9035941B2 (en) Image processing apparatus and image processing method
JP5858636B2 (ja) 画像処理装置、その処理方法及びプログラム
US20190000318A1 (en) System and method for the coregistration of medical image data
CN102727258B (zh) 图像处理装置、超声波摄影系统及图像处理方法
US10755453B2 (en) Image processing apparatus, image processing method, and ultrasound imaging apparatus having image processing unit
JP5591309B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP2015073855A (ja) 画像処理装置およびその方法
US10278663B2 (en) Sensor coordinate calibration in an ultrasound system
US9020215B2 (en) Systems and methods for detecting and visualizing correspondence corridors on two-dimensional and volumetric medical images
JP6429958B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5808446B2 (ja) 情報処理装置および情報処理方法
EP4128145B1 (en) Combining angiographic information with fluoroscopic images
JP5706933B2 (ja) 処理装置および処理方法、プログラム
JP2017221684A (ja) 画像処理装置およびその方法
JP6391544B2 (ja) 医用画像処理装置、医用画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130402

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140221

R151 Written notification of patent or utility model registration

Ref document number: 5486182

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151