JP5191167B2 - 医用ガイドシステム - Google Patents

医用ガイドシステム Download PDF

Info

Publication number
JP5191167B2
JP5191167B2 JP2007150923A JP2007150923A JP5191167B2 JP 5191167 B2 JP5191167 B2 JP 5191167B2 JP 2007150923 A JP2007150923 A JP 2007150923A JP 2007150923 A JP2007150923 A JP 2007150923A JP 5191167 B2 JP5191167 B2 JP 5191167B2
Authority
JP
Japan
Prior art keywords
reference image
feature points
image data
orientation
ultrasonic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007150923A
Other languages
English (en)
Other versions
JP2008301970A (ja
Inventor
聡一 生熊
知直 川島
雅彦 小室
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2007150923A priority Critical patent/JP5191167B2/ja
Priority to EP08010054A priority patent/EP2000087A3/en
Priority to US12/132,973 priority patent/US8204576B2/en
Publication of JP2008301970A publication Critical patent/JP2008301970A/ja
Application granted granted Critical
Publication of JP5191167B2 publication Critical patent/JP5191167B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/065Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16ZINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
    • G16Z99/00Subject matter not provided for in other main groups of this subclass
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00221Electrical control of surgical instruments with wireless transmission of data, e.g. by infrared radiation or radiowaves
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2051Electromagnetic tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/365Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/378Surgical systems with images on a monitor during operation using ultrasound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/378Surgical systems with images on a monitor during operation using ultrasound
    • A61B2090/3782Surgical systems with images on a monitor during operation using ultrasound transmitter or receiver in catheter or minimal invasive instrument
    • A61B2090/3784Surgical systems with images on a monitor during operation using ultrasound transmitter or receiver in catheter or minimal invasive instrument both receiver and transmitter being in the instrument or receiver being also transmitter
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras

Description

本発明は、人体の臓器及び器官の少なくとも一方の解剖学的な位置情報を有する参照画像データ中において医用器具の位置を示し、医用器具のガイドを行う医用ガイドシステムに関する。
従来より、内視鏡、超音波内視鏡、細径超音波プローブ等に代表されるような、消化管、胆膵管、血管などの体腔内へ挿入して、診断、治療、手術等に用いる医用器具が周知である。内視鏡には、気管支鏡、消化管内視鏡、腹腔鏡等が含まれる。また、超音波診断装置に代表されるような、体表から体腔内の臓器や器官を診断、治療する医用器具も周知である。
このような医用器具を生体に対して用い検査や手術を行う際に、術者は、予め生体内の各器官、各組織の既知の解剖学的な位置関係を念頭に置きながら、現在観察している解剖学上の位置を推定して、診断や手術を行う。
このような診断や手術を支援するために、検査時や手術時に観察している位置を案内するガイド画像を、事前に取得したCT画像やMRI画像をもとに合成して表示する技術が提案されている。
このような医用ガイド装置として、例えば特開2006−149481号公報には、超音波内視鏡の先端位置を検出して、超音波内視鏡の解剖学的な位置に対応したガイド画像を解剖学的画像データに基づき構築し表示する技術が記載されている。
特開2006−149481号公報に開示の技術では、生体の標本点の位置を検出する標本点位置検出手段を設け、標本点位置検出手段で検出された標本点の位置と、画像情報保持手段に保持された参照画像データ上の特徴点の位置とを照合してガイド画像を作成している。また、生体の位置もしくは体位を検出する体位検出手段が設けられ、被検体に装着される。この前記体位検出手段により検出された被検体の位置もしくは向きを元に、前記標本点位置検出手段により検出された前記標本点の位置を補正することで、被検体の体位変化を補正しながら前記ガイド画像を作成している。
特開2006−149481号公報
しかしながら、特開2006−149481号公報に開示の技術では、生体の標本点の位置を4点取得する必要があり、この4点の標本点を、体表の点と体腔内の点とを組み合わせて取得した場合、以下の理由で、ガイド画像と超音波画像(実際の医用器具の位置)に誤差が生じてしまうという問題がある。
画像情報保持手段にある参照画像データと超音波検査時の被検体が異なる場合には、骨格と内臓の位置関係や骨格に対する内臓の大きさ(縮尺)には個人差があるため、被検体上で取得した4標本点と参照画像データ上で指定した4特徴点が相似形でなくなり、ガイド画像と超音波画像に誤差が生じる。
画像情報保持手段にある参照画像データと超音波検査時の被検体が同じ場合でも、参照画像データを取得した時と超音波内視鏡検査の時で体位や呼吸状態の違いにより、骨格と内臓の位置関係や形状に違いが発生し、被検体上で取得した4標本点と参照画像データ上で指定した4特徴点が相似形でなくなり、ガイド画像と超音波画像に誤差が生じる。
具体的には、参照画像データとしてCTを使用する場合、CT撮影時には基本的に仰向け(仰臥位)で撮影をする。一方、超音波内視鏡検査では基本的に左半身を下に向けた体位(左側臥位)で検査を行う。この時、体位が異なると、体に対する重力方向が変化する。すると、硬質の骨格はほとんど変形しないのに対し、内臓は腹腔内のスペースで全体的に重力方向に大きく動き、各臓器の形状も変化する。これにより、骨格に対する内臓の位置が変化する。また、CT撮影時には大きく息を吸った(深吸気)状態で撮影をするが、超音波内視鏡検査では通常呼吸状態で検査を行う。深吸気状態では、横隔膜が足側に下がり、その下にある内臓も上下方向に圧縮される。これにより、骨格に対する内臓の位置や縮尺が変化する。
次に、4標本点をすべて体表の点で取得した場合には、被検体上で取得した4標本点と参照画像データ上で指定した4特徴点は相似形になるが、参照画像データと被検体とで、体表(骨格)に対する体腔内(内臓)の位置や縮尺が上記と同じ理由で異なるため、ガイド画像と超音波画像との間で内臓の位置に誤差が生じる。
最後に、4標本点をすべて体腔内の点で取得した場合には、被検体上で取得した4標本点と参照画像データ上で指定した4特徴点が相似形でなくなり、ガイド画像と超音波画像に誤差が生じる。理由は、内臓は骨格に対し、変形しやすく、個人差も大きい。そのため体腔内で取得した4標本点の位置関係に誤差が生じやすい。また、体腔内で取得できる4標本点は体表で取得する4標本点に比べ、範囲が狭く、4標本点で作成される四面体が小さくなる。そのため、4標本点の位置関係の誤差が、4標本点と4特徴点との相似性に与える影響は大きく、ガイド画像と超音波画像に誤差が生じる。
本発明は上記事情に鑑みてなされたものであり、被検体と参照画像データとの間に、骨格と内臓の位置関係の違いが発生しても、ガイド画像上の医用器具の位置を実際の医用器具の位置に高い精度で一致させることができる医用ガイドシステムを提供することを目的としている。
本発明に係る医用ガイドシステムは、実空間において、医用器具の位置及び配向の少なくとも一方と、被検体における複数の特徴点の位置及び配向の少なくとも一方とを検出する検出部と、人体の臓器及び器官の少なくとも一方の解剖学的な位置情報を有する参照画像データを記憶する記憶部と、前記実空間における前記被検体の複数の特徴点の位置及び配向の少なくとも一方と、前記参照画像データにおける前記複数の特徴点に解剖学的に対応する複数の参照画像特徴点の位置及び配向の少なくとも一方と、の情報に基づいて、前記実空間における医用器具の位置及び配向の少なくとも一方を、前記参照画像データにおける位置及び配向に変換した写像を生成し、前記写像と前記参照画像データから、前記被検体に対する前記医用器具位置又は前記医用器具の観察位置を前記参照画像との対比によって示すガイド画像を作成するガイド画像作成部と、を具備する医用ガイドシステムであって、前記ガイド画像作成部は、前記実空間における前記被検体の体腔内の複数の体腔内特徴点の位置及び配向の少なくとも一方と、前記参照画像データにおける前記体腔内特徴点に解剖学的に対応する1つ又は複数の補正特徴点の位置及び配向の少なくとも一方と、の情報に基づいて前記ガイド画像が示す前記医用器具位置又は前記医用器具の観察位置を補正可能に構成されており、当該補正は、複数の前記体腔内特徴点間の距離と、複数の前記補正特徴点間の距離との比較に基づいて前記写像を伸縮する縮尺補正を含むものであって、かつ前記ガイド画像作成部は、前記補正の実施の有無を前記医用器具位置又は前記医用器具の観察位置の近傍である部位に応じて切替可能に構成されている。
以下、本発明の実施形態について、図面を参照して説明する。なお、以下の実施形態においては、医用器具として超音波内視鏡を使用し、医用ガイドシステムは該超音波内視鏡の操作の支援を行うガイド画像を生成するものとして、説明を行う。
(第1の実施形態)
以下、本発明の第1の実施形態について図面を参照して説明する。図1は医用ガイドシステムの構成を示すブロック図である。図2は姿勢検出用コイルの構成を示す図である。図3は、画像処理装置の構成を示すブロック図である。図4は、参照画像記憶部に記憶されている参照画像データを概念的に示す図である。図5は、特徴点リストを示す表である。図6は、ボクセル空間の構成を示す図である。図7は、補正条件テーブルを示す表である。図8は、送信アンテナ上に定義された原点および直交座標系等を示す図である。図9は、超音波断層像マーカの様子を示す図である。図10は、3次元人体画像データを示す図である。図11及び図12は、3次元ガイド画像データを示す図である。図13は、表示装置に表示される3次元ガイド画像を示す図である。
本実施形態の医用ガイドシステム1は、医用器具としての超音波内視鏡2の体腔内への挿入を支援するためのガイドを行うシステムである。本実施形態の医用ガイドシステム1は、超音波内視鏡2と、超音波観測装置3と、位置データ算出装置4と、画像処理装置5と、表示装置8と、光学観察装置10と、入力装置11とを備えてなり、各装置は有線又は無線の通信手段により接続されている。
また、医用ガイドシステム1は、該医用ガイドシステム1の外部に設けられた光ファイバ、電気ケーブル、無線通信等を用いたネットワーク14に接続されている。該ネットワーク14には、X線3次元ヘリカルCT装置(X−ray 3−dimensional computed tomography system)16、3次元MRI装置(3−dimensional magnetic resonance imaging system)15、外部記憶装置17が接続されている。医用ガイドシステム1は、ネットワーク17を介して、3次元MRI装置15、X線3次元ヘリカルCT装置16及び外部記憶装置17とデータの授受が可能である。
医用器具としての超音波内視鏡2は、食道、胃、十二指腸などの体腔内に挿入されて用いられる挿入部の先端に配設されステンレス等の硬質な材料で構成された硬性部21と、硬性部21の基端側に配設され可撓性のある材料で構成された長尺の可撓部22と、可撓部22の基端側に配設された硬質な材料で構成された操作部23とからなる。術者は、該操作部23を把持して超音波内視鏡2の操作を行う。また、超音波内視鏡2は、超音波観測装置3、光学観察装置10、及び位置配向算出装置4に図示しない接続コネクタを介して電気的に接続されている。
硬性部21は、撮像装置27と、超音波振動子アレイ31と、画像位置配向検出用コイル44を具備して構成されている。撮像装置27は、撮像素子としてのCCD(Charge Coupled Device)26と、該CCD26の受光面上に被写体像を結像するレンズ25等を具備してなり、ガラス製の光学観察窓24を介して体腔内を光学的に撮像する装置である。硬性部21には、該撮像装置27の視野方向に照明光を照射する図示しない照明装置が配設されており、撮像装置27は、照明装置により照明された体腔内の光学的な画像を取得し、CCD信号として光学観察装置10へ出力する。
超音波振動子アレイ31は、いわゆる電子ラジアル走査型の超音波振動子アレイであり、硬性部21を体腔内に挿入する方向に沿う挿入軸周りに環状に配設された、複数の超音波振動子により構成されている。超音波振動子アレイ31は、挿入軸に直交する平面上において超音波ビームを放射方向に走査しながら送受することにより、超音波断層像を得るために必要なエコー信号を取得し、超音波観測装置3へ出力する。
超音波振動子アレイ31は、超音波観測装置3に電気的に接続されている。超音波観測装置3は、超音波振動子アレイ31が送信する超音波ビームの強度、角度、フォーカス等を制御すると共に、超音波振動子アレイ31により取得されたエコー信号から走査面における超音波断層像データを生成し、出力する。
なお、以下において、超音波振動子アレイ31が走査を行う面を、走査面と称するものとする。また、硬性部21に固定した正規直交基底(各方向の単位ベクトル)V、V3、V12を図1に示すように定義する。つまり、基底ベクトルVは硬性部21の挿入軸方向と平行、すなわち走査面の法線方向ベクトルとし、超音波振動子21の所定の走査方向を12時方向とした場合に、3時方向に向く基底ベクトルをV3、12時方向に向く基底ベクトルをV12とする。なお、ベクトルについては太字のイタリック体で表記するのが一般的であるが、本実施形態においては通常の英数字を用いて標記するものとする。
画像位置配向検出用コイル44は、環状の超音波振動子アレイ31の中心近傍に、超音波振動子アレイ31との位置関係が固定されて硬性部21内に配設されている。画像位置配向検出用コイル44は、基底ベクトルV及びV3と平行な軸周りにそれぞれ巻かれた2つのコイルが一体に組み合わされて構成されている。
また、光学観察窓24と、画像位置配向検出用コイル44との位置関係も固定されおり、後述する方法により取得された画像位置配向検出用コイル44の位置及び配向から、正規直交基底V、V3、V12のそれぞれの方向に所定の値e、f、gだけ移動させることで、光学観察窓24の位置を算出することが可能である。
位置検出部である位置配向算出装置4は、超音波内視鏡2の硬性部21に配設された画像位置配向検出用コイル44とA/D変換装置47を介して接続されているとともに、送信アンテナ41に電気的に接続されている。位置配向算出装置4は、体表検出用コイル42及び姿勢検出用コイル43と、それぞれA/D変換装置45及び46を介して接続されている。また、位置配向算出装置4は、例えばRS−232C規格のケーブル等を介して画像処理装置5に電気的に接続されている。
送信アンテナ41は、図示しないそれぞれ巻線軸の配向が異なる複数個の磁場発生用コイルを具備して構成されており、位置配向算出装置4からの出力に応じて交番磁場を発生する装置である。
A/D変換装置45〜47は、入力された信号を増幅する図示しないアンプと、増幅された信号をサンプリングしてデジタルデータへ変換する図示しないアナログデジタル変換回路とを具備して構成されている。
超音波内視鏡2の硬性部21に配設された画像位置配向検出用コイル44は、送信アンテナ41により発生された交番磁場を検出し、位置電気信号に変換してA/D変換装置47へ出力する。
また、詳しくは後述するが、体表検出用コイル42及び姿勢検出用コイル43は、送信アンテナ41により発生された交番磁場を検出するためのコイルを具備して構成されおり、コイルが検出した交番磁場を位置電気信号に変換してA/D変換装置45及び46へ出力する。
位置配向算出装置4は、画像位置配向検出用コイル44、体表検出用コイル42及び姿勢検出用コイル43からそれぞれ出力されA/D変換装置45〜47によりデジタルデータに変換された、位置電気信号に基づいて、画像位置配向検出用コイル44、体表検出用コイル42及び姿勢検出用コイル43の、送信アンテナ41に対するそれぞれの位置及び配向を算出する構成を有するものである。
図2に示すように、姿勢検出用コイル43は、巻線軸が単軸となっている2個のコイルが、同一平面上において互いの巻線軸が直交するように配設されて構成されている。ここで、姿勢検出用コイル43上に原点Sを固定した正規直交基底(各方向の単位ベクトル)W、W3、W12を図2に示すように定義する。すなわち、姿勢検出用コイル43に配設された2つのコイルのそれぞれの巻線軸と平行な基底ベクトルをW12及びW3と定義する。姿勢検出用コイル43は、被検体100の体表における超音波内視鏡2で検査する臓器に近い位置に図示しないテープ、ベルト、バンド、接着剤、負圧吸引等により装着され固定されている。
体表検出用コイル42は、棒状の外形を有し、内部に巻線軸が単軸となっている一個のコイルを具備して構成されている。棒状の体表検出用コイル42の先端と、コイルとの位置関係は固定されている。体表検出用コイル42は、詳しくは後述するが、術者が被検体100の体表の特徴のある点(以下、被検体体表の特徴のある点を、単に体表特徴点と称する)に先端を当接させる様にして用いられる。
なお、本実施形態では体表特徴点を、骨格上の特徴のある箇所である、「剣状突起」(xiphoid process)、骨盤(pelvis)の左側の「左上前腸骨棘」(left anterior superior iliac spine)、骨盤の右側の「右上前腸骨棘」(right anterior superior iliac spine)、左右の上前腸骨棘の中間で脊椎上の「腰椎椎体棘突起」(spinous process of vertebral body)の4点として説明する。
本実施形態では、4点の体表特徴点は、術者が触診により位置を特定可能な位置としている。また、この4点の体表特徴点は同一平面上には存在しないため、剣状突起を原点として他の特徴点へ向かう3本のベクトルを基本ベクトルとした斜交座標系(un-orthogonal reference frame)を形成する事が可能である。なお、4点の体表特徴点は、本実施形態で示したものに限られるものではなく、使用する医用器具及び該医用器具を使用する部位に応じて、適宜に変更されるものである。
画像処理装置5は、図3に示すように、マッチング回路61と、画像指標作成回路62と、通信回路51と、参照画像記憶部52と、補間回路53と、3次元人体画像作成回路54と、合成回路63と、回転変換回路64と、2つの3次元ガイド画像作成回路(以下、3次元ガイド画像作成回路A65と3次元ガイド画像作成回路B66と称する)と、混合回路67と、表示回路68と、制御回路60とを具備して構成されている。
制御部である制御回路60は、演算装置、記憶装置、入出力装置等を具備して構成され、画像処理装置5の動作を制御するものであり、画像処理装置5内の各部や各回路と図示しない信号線を介して電気的に接続されている。また、本実施形態においては、制御回路60は、超音波観測装置3及び位置配向算出手段4の動作の制御も行うものである。
制御回路60には、指示部である入力装置11が電気的に接続されている。本実施形態の入力装置11は、キーボード12およびマウス13により構成されている。制御回路60は、入力装置11を介して入力される術者からの指示に基づいて、医用ガイドシステム1の動作を制御する。本実施形態においては、キーボード12には、表示切替キー12α、12β及び12γ、操作制御キー12d、体表点取得キー12e、体腔内点取得キー12f、走査部位選択キー12gからなるスイッチ群が配設されている。
なお、入力装置11は、本実施形態においてはキーボード12及びマウス13により構成されるものとしているが、これは入力装置の一例として挙げたものであり、本実施形態に限られるものではない。入力装置11は、例えばトラックボール、タッチパネル等のポインティングデバイスや、プッシュスイッチ、ロータリースイッチ等のスイッチにより構成されるものであってもよい。また、入力装置11は、音声やジェスチャーにより術者が操作指示の入力を行うことが可能なものであってもよい。
参照画像記憶部52は、大容量のデータを記憶することが可能な例えばハードディスクドライブ、テープドライブ等からなる。参照画像記憶部52には、人体の断面の画像情報である複数の参照画像データRDが記憶されている。また、参照画像記憶部52には、図5に示す、人体の体表特徴点と体腔内特徴点の名称が記述された特徴点リスト101が記憶されている。
参照画像データRDは、X線3次元ヘリカルCT装置16、3次元MRI装置15等によりある所定の人体から取得され、データセンタ17に記憶されていた人体の断層像のデータが、ネットワーク14を介して画像処理装置5に入力されたものである。参照画像データRDは、人体の体軸(頭から足に抜ける直線軸)に略直交する断面の一辺数十cmの正方形の領域における断層像のデータであり、該断層像は、体軸に沿って0.5mm〜数mmピッチで取得されたものである。
なお、参照画像データRDは、被検体100本人から取得されるものであってもよいし、異なる人体から取得されるものであってもよい。また、参照画像データRDは、身長や体格等の人体の身体的特徴や性別等の条件ごとに、あらかじめ異なる人体から取得されるものであってもよい。また、参照画像データRDは、X線3次元ヘリカルCT装置16、3次元MRI装置15から、直接ネットワーク14経由で画像処理装置5に入力され、参照画像記憶部52に記憶されるものであってもよい。
本実施形態では、図4に示すように、参照画像記憶部52に記憶された、ある所定の人体の体軸に沿って所定のピッチで取得された複数の参照画像データ群GRDについて、個々の参照画像データRDに脚部方向から順に1番からN番までの番号を付す。ここで、図4に示した参照画像データにおいて、図面に正対して図面の下方向が人体の背方向であり、図面の手前から奥方向が人体の頭部方向である。
また、図4に示すように、参照画像データ群GRDに対して固定された直交座標軸O’−x’y’z’と、その正規直交基底(各軸方向の単位ベクトル)i’、j’、k’を定義する。ここで、原点O’を1番の番号が付された参照画像データRDの最も左下に定義し、x’軸を横辺に平行、y’軸を縦辺に平行に定義する。すなわち、z’軸は体軸と平行となる。
図4に示した本実施形態の参照画像データ群GRDは、X線3次元ヘリカルCT装置16により取得された、被検体100本人の腹部の断層像のデータから構成されており、X線造影剤の作用により、大動脈111、上腸間膜静脈112等の血管は高輝度に、膵臓(pancreas)113等の末梢血管を多く含む器官は中輝度に、十二指腸(duodenum)114等は低輝度に造影されている。
補間回路53及び合成回路63は、それぞれボリュームメモリを具備している。説明の都合上、以下、補間回路53に設けられたボリュームメモリを補間メモリ53a、合成回路63に設けられたボリュームメモリを合成メモリ63aと称する。ボリュームメモリである補完メモリ53a及び合成メモリ63aは、大容量のデータを格納することができるよう構成されたメモリである。補完メモリ53a及び合成メモリ63aの記憶領域の一部には、ボクセル空間が割り当てられている。ボクセル空間は、図6に示すように、直交座標軸O’−x’y’z’に対応するアドレスを持つメモリセル(以下、ボクセルと称する)から構成されている。
マッチング回路61は、図7に示すような、超音波内視鏡2により走査を行う走査部位毎に、後述する補正を行う場合の補正条件を定めた補正条件テーブル102を記憶している。
3次元人体画像作成回路54及び回転変換回路64は、輝度によるボクセルや画素の抽出、回転変換、相似変換、平行移動等の画像処理を高速に行う図示しない高速プロセッサを具備している。
表示回路68は、入力先を切り替えるスイッチ69を具備している。スイッチ69は、入力端子69α、69β及び69γと、1個の出力端子69dを具備して構成されている。入力端子69αは、参照画像記憶部52と電気的に接続されている。入力端子69βは、光学観察装置10の図示しない出力端子と電気的に接続されている。入力端子69γは、混合回路67と電気的に接続されている。出力端子69dは、表示装置8と電気的に接続されている。
キーボード12の表示切換キー12αもしくは12βもしくは12γのいずれかが術者により押下されると、制御回路60は表示回路68へ、スイッチ69を入力端子69αもしくは69βもしくは69γへ切り換えるよう指令を出力する。スイッチ69は、表示切換キー12αが押下されたときには入力端子69αへ、表示切換キー12βが押されたときには入力端子69βへ、表示切換キー12γが押されたときには入力端子69γへ切り換えられる。
表示装置8は、ブラウン管モニタ、液晶モニタ等の画像表示部を具備し、該画像表示部にビデオ信号に基づいた画像を表示する構成を有するものである。
次に、上述した構成を有する本実施形態の医用ガイドシステム1の作用について説明する。
ここで、図1及び図4において、各矢印線は、下記のようなa)からf)までの符号を付した信号もしくはデータ(以下、信号もしくはデータを総称して、情報と称する)の流れを示すものである。
a)図中、点線で示した光学像に関わる情報の流れ
b)図中、破線で示した超音波断層像に関わる情報の流れ
c)図中、実線で示した、位置及び配向に関わる情報の流れ
d)図中、一点鎖線で示した、参照画像データに関わる情報の流れ
e)図中、太線で示した、最終的な画面表示に関わる情報の流れ
f)図中、流曲線で示した、上記以外の制御に関わる情報の流れ
なお、各矢印線で示した上記の情報の流れは、あくまでも動作の概略を説明するためのものであり、同じ線種が同一のデータを示すものではない。すなわち、図中において同一の線種の矢印線であっても、互いに異なる位置の矢印線であれば、手前の回路により変換や処理が施された後の互いに内容が異なる情報を示すものである。
以下では、まず、上記a)〜f)に示した6つの情報の流れに着目し、それぞれの情報の流れに沿って医用ガイドシステム1の作用を説明する。そして、その後に、術者の実際の使用形態に沿って、医用ガイドシステム1全体の作用を説明するものとする。
まず、a)の光学像に関わる情報の流れ沿って、本実施形態の作用を説明する。
硬性部21に配設された図示しない照明装置により、撮像装置27の視野に照明光が照射され、撮像装置27は、視野内の光学的画像を取得し、CCD信号として光学観察装置10へ出力する。光学観察装置10は、CCD信号に基づいて画像データを作成し、この画像データを光学像データとして画像処理装置5の表示回路68のスイッチ69の入力端子69βへ出力する。
次に、b)の超音波断層像に関わる情報の流れに沿って、本実施形態の作用を説明する。
まず、術者により走査制御キー12dが押下されると、制御回路60は、後述するラジアル走査の開始又は停止を指令するための走査制御信号を超音波観測装置3へ出力する。超音波観測装置3は超音波振動子アレイ31を構成する超音波振動子のうち、一部かつ複数の超音波振動子を選択して、パルス電圧状の励起信号を送信する。この一部かつ複数の超音波振動子は、励起信号を受け取って媒体の疎密波である超音波に変換する。この際、超音波観測装置3は各励起信号が各超音波振動子に到着する時刻が異なるよう、各励起信号に遅延をかけている。この遅延は、各超音波振動子が励起する超音波が被検体内で重ね合わせられたときに一本の超音波ビームを形成するようにかけられる。超音波ビームは超音波内視鏡2外部へと照射され、被検体100内からの反射波が超音波ビームとは逆の経路を辿って各超音波振動子へ戻る。各超音波振動子は反射波を電気的なエコー信号に変換して励起信号とは逆の経路で超音波観測装置3へ出力する。
超音波観測装置3は、超音波ビームが、超音波振動子アレイ31の環の中心を含み、硬性部21の挿入軸に直交する平面(以下、ラジアル走査面)内で旋回するよう、超音波ビームの形成に関与する複数の超音波振動子を選択し直し、再び励起信号を送信する。このようにして超音波ビームの送信角度が変わっていく。これを反復的に繰り返すことにより、いわゆるラジアル走査が実現する。
この際、超音波観測装置3は、超音波振動子が反射波から変換したエコー信号から、超音波振動子アレイ31の1回のラジアル走査に対し、硬性部21の挿入軸に直交する1枚のデジタル化した超音波断層像データを作成し、画像処理装置5の混合回路67へ出力する。この際、超音波観測装置3は、超音波断層像データを正方形に加工して作成する。
このように本実施形態では、超音波観測装置3が超音波ビームの形成に関与する複数の超音波振動子を選択し直し、再び励起信号を送信するため、正方形の超音波断層像の例えば12時方向は、超音波観測装置3が12時方向としてどの超音波振動子を選択して励起信号を送信するかで決定される。こうして、超音波断層像の法線方向ベクトルV、3時方向ベクトルV3、12時方向ベクトルV12が定義される。また、超音波観測装置3は、超音波断層像データを、法線ベクトルVの反対方向−Vに観察した方向で作成する。
超音波振動子アレイ31によるラジアル走査と、超音波観測装置3による超音波断層像データの作成と、該超音波断層像データの混合回路67への出力は、術者の走査制御キー12dの押下による走査開始指示が入力されてから終了指示が入力されるまでの期間中に、リアルタイムに行われものである。すなわち、本実施形態では、超音波内視鏡2により取得される超音波断層像は、リアルタイム画像として生成される。
次に、c)の位置及び配向に関わる情報の流れに沿って、本実施形態の作用を説明する。
位置配向算出装置4は、空間に交番磁場が生成されるように、送信アンテナ41に配設された図示しない送信コイルを励磁する。画像位置配向検出用コイル44に配設された2個のコイルと、姿勢検出用コイル43に配設された2個のコイルと、体表検出用コイル42に配設されたコイルとは、それぞれ送信アンテナ41により生成された交番磁場を検出し、該交番磁場をそれぞれの位置電気信号に変換して出力する。
次に、位置配向算出装置4は、画像位置配向検出用コイル44から出力され、A/D変換装置47によりデジタルデータに変換された位置電気信号に基づいて、画像位置配向検出用コイル44の位置と基底ベクトルV及びV3の方向を算出する。位置配向算出装置4は、直交する基底ベクトルV及びV3の外積を算出することで、残りの基底ベクトルV12の方向を算出する。これにより、画像位置配向検出用コイル44の、送信アンテナ41に対する位置と配向が算出される。
同様に、位置配向算出装置4は、姿勢検出用コイル43から出力され、A/D変換装置46によりデジタルデータに変換された位置電気信号に基づいて、姿勢検出用コイル43の位置と基底ベクトルW12及びW3の方向を算出する。位置配向算出装置4は、直交する基底ベクトルW12及びW3の外積を算出することで、残りの基底ベクトルWの方向を算出する。これにより、姿勢検出用コイル43の、送信アンテナ41に対する位置と配向が算出される。
また、位置配向算出装置4は、体表検出用コイル42から出力され、A/D変換装置45によりデジタルデータに変換された位置電気信号に基づいて、送信アンテナ41に対する体表検出用コイル42の位置と配向を算出する。
次に、位置配向算出装置4は、画像位置配向検出用コイル44、姿勢検出用コイル43及び体表検出用コイル42の、それぞれの送信アンテナ41に対する位置及び配向を、位置配向データとして画像処理装置5のマッチング回路61へ出力する。
ここで、位置配向データの詳細について以下に説明する。本実施形態においては、図8に示すように、原点Oを送信アンテナ41上に定義し、術者が被検体100を検査する実際の空間上に直交座標軸O−xyzとその正規直交基底(各軸方向の単位ベクトル)i、j、kを定義する。
そして、直交座標軸O−xyz上における画像位置配向検出用コイル44の位置をO”とする。画像位置配向検出用コイル44は、環状の超音波振動子アレイ31の中心の近傍に固定されているため、O”はラジアル走査の中心、つまり超音波断層像の中心に一致する。また、直交座標軸O−xyz上における姿勢検出用コイル43の位置をSとし、直交座標軸O−xyz上における体表検出用コイル42の位置をAとする。
すなわち、位置配向データは、直交座標軸O−xyz上における、画像位置配向検出用コイル44の位置O”と、姿勢検出用コイル43の位置Sと、体表検出用コイル42の位置Aとからなる位置情報を含むものである。また、位置配向データは、直交座標軸O−xyzに対する、画像位置配向検出用コイル44の配向を表す単位ベクトルV,V3,V12と、姿勢検出用コイルの配向を表す単位ベクトルW,W3,W12とからなる配向情報を含む。
次に、位置配向算出装置4から出力された、上述した位置配向データ及び参照画像データ群GRDに基づいて、マッチング回路61は、直交座標軸O−xyz上で表現された位置及び配向を、直交座標軸O’−x’y’z’上で表現されたボクセル空間内の位置及び配向へ写像する第1の変換式及び第2の変換式を算出する。
具体的には、以下の第1から第5のデータ群に基づいて、マッチング回路61は、直交座標軸O−xyz上で表現された位置及び配向を、直交座標軸O’−x’y’z’上で表現されたボクセル空間内の位置及び配向へ写像する第1の変換式及び第2の変換式を算出する。
ここで、第1のデータ群は、被検体100の4点の体表特徴点A1、A2、A3、A4の、直交座標軸O−xyzにおけるそれぞれの位置ベクトルOA1、OA2、OA3、OA4である。本実施形態では、4点の体表特徴点のうち、A1を剣状突起、A2を左上前腸骨棘、A3を右上前腸骨棘、A4を腰椎椎体棘突起とする。
これら4点の体表特徴点A1、A2、A3、A4の位置情報は、検査開始時に術者が触診で位置を特定し、被検体100の体表に体表検出用コイル42を順番に当てながら、キーボード12の体表点取得キー12eを押下することで、位置配向算出装置4により算出される。
第2のデータ群は、直交座標軸O−xyzにおける姿勢検出用コイル43の位置ベクトルOSと、配向を表す単位ベクトルW、W3、W12である。
第3のデータ群は、被検体100の体腔内における3点の特徴点(以下、単に体腔内特徴点と称する)P、Q、Rに、それぞれ超音波内視鏡2の光学観察窓24を当接させたときの、直交座標軸O−xyzにおける画像位置配向検出用コイル44の位置ベクトルOO”と配向を表す単位ベクトルV、V3、V12である。本実施形態では、体腔内特徴点は、図5に示した特徴点リスト101に記述されたものであり、体腔内特徴点Pを十二指腸乳頭、Qを噴門、Rを幽門とする。
第4のデータ群は、1〜N番までの複数の参照画像データRDからなる参照画像データ群GRDにおける、4点の体表特徴点A1’、A2’、A3’、A4’のボクセル空間(直交座標軸O’−x’y’z’)でのそれぞれの位置ベクトルO’A1’、O’A2’、O’A3’、O’A4’である。
ここで、参照画像データ群GRDにおける体表特徴点A1’、A2’、A3’、A4’は、それぞれ上述した被検体100の体表特徴点A1、A2、A3、A4と解剖学的に同等な部位である。すなわち、本実施形態では、参照画像データ群GRDにおける剣状突起を体表特徴点A1’とし、左上前腸骨棘をA2’、右上前腸骨棘をA3’、腰椎椎体棘突起をA4’とする。
以下の説明では、この参照画像データ群GRDにおける4点の体表特徴点は、記号にプライム(ダッシュとも称する)を付し、さらに被検体100の4点の体表特徴点A1〜A4と明確に区別するため、参照画像体表特徴点A1’、A2’、A3’、A4’と称するものとする。
本実施形態では、これら4点の参照画像体表特徴点A1’、A2’、A3’、A4’は、検査開始前に術者が参照画像データ群GRD上から該当する画素を指定することにより取得される。
第5のデータ群は、1〜N番までの複数の参照画像データRDからなる参照画像データ群GRDにおける、3点の体腔内特徴点P”、Q”、R”のボクセル空間(直交座標軸O’−x’y’z’)でのそれぞれの位置ベクトルO’P”、O’Q”、O’R”である。
ここで、参照画像データ群GRDにおける体腔内特徴点P”、Q”、R”は、それぞれ上述した被検体100の体腔内特徴点P、Q、Rと解剖学的に同等な部位である。すなわち、本実施形態では、参照画像データ群GRDにおける十二指腸乳頭を体腔内特徴点P”とし、噴門をQ”、幽門をR”とする。
以下の説明では、この参照画像データ群GRDにおける3点の体腔内特徴点は、記号に二点プライム(ツーダッシュとも称する)を付し、さらに被検体100の3点の体腔内特徴点P、Q、Rと明確に区別するため、参照画像体腔内特徴点P”、Q”、R”と称するものとする。
本実施形態では、これら3点の参照画像体腔内特徴点P”、Q”、R”は、検査開始前に術者が参照画像データ群GRD上から該当する画素を指定することにより取得される。
なお、参照画像体腔内特徴点P”、Q”、R”は、参照画像体表特徴点A1’、A2’、A3’、A4’と同様に参照画像データ群GRDから取得されるものであるが、参照画像体腔内特徴点は二点プライムが付されるものであり、参照画像体表特徴点はプライムが付されるものであることに注意されたい。
次に、マッチング回路61は、直交座標軸O−xyzにおいて算出された位置配向データを、第1の変換式及び第2の変換式によって写像し、直交座標軸O’−x’y’z’における新たな位置配向データを算出する。
次に、マッチング回路61は、この新たな位置配向データを、位置配向写像データとして、画像指標作成回路62へ出力する。
画像指標作成回路62は、図9に示すように、直交座標軸O−xyzにおける画像位置配向検出用コイル44の位置O”の位置ベクトルOO”と、直交座標軸O−xyzに対する画像位置配向検出用コイル44の配向表す単位ベクトルV、V3、V12との計6自由度の位置配向写像データから画像指標データ120を作成し、合成回路63へ出力する。
画像指標データ120は、平行四辺形の超音波断層像マーカ121に青色の先端方向マーカ122と黄緑色の矢印状の6時方向マーカ123とを合成した直交座標軸O’−x’y’z’上における画像データである。画像指標データ120は、直交座標軸O’−x’y’z’上におけるラジアル走査面の位置及び配向を表す指標であり、超音波断層像マーカ121がラジアル走査面を、先端方向マーカ122が硬性部21の挿入方向を、6時方向マーカ123がラジアル走査の6時方向をそれぞれ示すものである。
次に、d)の参照画像データに関わる情報の流れに沿って、本実施形態の作用を説明する。
まず、術者によりキーボード12の所定のキーが押下される、もしくはマウス13により表示装置8に表示されたメニューが選択されることにより、参照画像データ群GRDの取得の指示が制御回路60へ入力される。このとき同時に術者は、参照画像データ群GRDの入手先も指示する。この指示により、制御回路60は通信回路51に参照画像データ群GRDの取り込みとその入手先を指令する。
例えば、入手先がX線3次元ヘリカルCT装置16であった場合には、通信回路51は、参照画像データ群GRDとしてネットワーク14を介して複数枚の2次元CT画像(参照画像データRD)を取り込み、参照画像記憶部52へ記憶させる。入手先が3次元MRI装置15やデータセンタ17であった場合も同様に、通信回路51は、ネットワーク14を介して複数枚の参照画像データRDを取り込み、参照画像データ群GRDとして参照画像記憶部52へ記憶させる。
以下、本実施形態においては、術者が入手先としてX線3次元ヘリカルCT装置16を選択した場合と、3次元MRI装置15又はデータセンタ17を選択した場合とで、作用は同様であるので、入手先としてX線3次元ヘリカルCT装置16が選択された場合についてのみ説明する。
図4に示すように、参照画像データGRDは、X線造影剤の作用により、大動脈111、上腸間膜静脈112等の血管は高輝度に、膵臓113等の末梢血管を多く含む器官は中輝度に、十二指腸114等は低輝度に造影されている。
補間回路53は、参照画像記憶部52より1番からN番までの全ての参照画像データRDからなる参照画像データ群GRDを読み出し、参照画像データを補間メモリ53aのボクセル空間へ埋める。具体的には、補間回路53は、参照画像データRDの各画素の輝度を、画素に対応するアドレスを持つボクセルへ出力していく。
次に補間回路53は、隣接する参照画像データRD間に相当するボクセルの輝度を、隣接する参照画像データRDの輝度を基に算出して補間し、空いているボクセルをデータで埋める。このようにして、ボクセル空間内の全てのボクセルが参照画像データ群GRDを基にしたデータ(以下、ボクセルデータ)で満たされる。
3次元人体画像作成回路54は、補間回路53から高輝度値のボクセル(主に血管)、中輝度値のボクセル(主に膵臓など末梢血管を多く含む器官)をそれぞれ輝度値域別に抽出し、輝度別に分類して着色する。次に、3次元人体画像作成回路54は、抽出したボクセルを3次元人体画像データとして合成回路63の合成メモリ63aのボクセル空間へ埋める。このとき、3次元人体画像作成回路54は、抽出したボクセルの補間メモリ53a内のボクセル空間のアドレスと、合成メモリ63a内のボクセル空間のアドレスとが同じになるように埋める。
3次元人体画像データを図10に示す。3次元人体画像データにおいては、高輝度の血管である大動脈111及び上腸間膜静脈112と、中輝度の器官である膵臓113とが抽出されており、血管である大動脈111及び上腸間膜静脈112は赤に、膵臓113は緑に着色されている。また、3次元人体画像データは、被検体100の頭部を右側に脚部を左側にして腹側から観察した3次元データである。
そして、合成回路63は、画像指標データ120を合成メモリ63aのボクセル空間に埋める。このようにして、合成回路63は、同じ合成メモリ63aのボクセル空間内に3次元人体画像データと、画像指標データ120とを埋めることにより、これらを一組のデータとして合成する。以下、合成回路63により、生成される3次元人体画像データと画像指標データ120との合成データを、合成3次元データと称する。
回転変換回路64は、合成3次元データを読み出し、位置配向写像データに基づいて、超音波断層像マーカ121の法線が、術者の観察視線すなわち表示装置8の画面の法線と一致し、かつ6時方向マーカが表示装置の画面の下方向に向くように、合成3次元データに回転処理を施す。
3次元ガイド画像作成回路A65は、合成3次元データに陰面消去、陰影付け等のレンダリング処理を施し、表示装置8へ出力可能な画像データ(以下、3次元ガイド画像データ81と称する)を作成する。ここで、3次元ガイド画像データ81が作成された時点における3次元ガイド画像データ81の初期の向きは、腹側から観察するように視点を置いた状態とする。すなわち、3次元ガイド画像作成回路A65は、図11に示すような、被検体100の腹側から観察した3次元ガイド画像データ81を作成し、混合回路67へ出力する。図11において、図面に正対して右が被検体100の頭部側、左側が脚部側である。
3次元ガイド画像作成回路B66は、回転処理を加えられた合成3次元データに陰面消去、陰影付け等のレンダリング処理を施し、表示装置8へ出力可能な3次元ガイド画像データ82を作成する。本実施形態では例として、図12に示すような、超音波断層像マーカ121の法線が術者の観察視線、すなわち表示装置8の画面の法線と一致し、かつ6時方向マーカ123が表示装置8の画面の下方向に向くように設定された3次元ガイド画像データ82を作成する。3次元ガイド画像作成回路B66は、超音波断層像マーカ121を画面に正対させた3次元ガイド画像データ82を、混合回路67へ出力する。
なお、図13に示した3次元ガイド画像データ82においては、超音波断層像マーカ121よりも手前側となる3次元人体画像データは表示せず、超音波断層像マーカ121上にある3次元人体画像データの断面が表示されるようにしている。また、画像指標データ120のうちの超音波断層像マーカ121を半透明にし、超音波断層像マーカ121の裏側にある3次元人体画像データが透けて見えるようにしている。
次に、e)の最終的な画面表示に関わる情報の流れに沿って、本実施形態の作用を説明する。
混合回路67は、超音波観測装置3からの超音波断層像データ83と、3次元ガイド画像作成回路A65からの被検体を腹側から観察した3次元ガイド画像データ61と、3次元ガイド画像作成回路Bからの超音波断層像マーカ121を画面に正対させた3次元ガイド画像データ82とを並べて表示用の混合データを作成する。
表示回路68は、この混合データをアナログビデオ信号に変換する。
表示装置8は、表示回路68から出力されたアナログビデオ信号を基に、図13に示すように、画面に超音波断層像83と被検体を足側から観察した3次元ガイド画像82と腹側から観察した3次元ガイド画像81とを並べて表示する。表示装置8の表示において、3次元ガイド画像81及び82上で表現される各器官は、色分けされて表示される。
次に、f)の制御に関わる情報の流れに沿って、本実施形態の作用を説明する。
画像処理装置5内のマッチング回路61と、画像指標作成回路62と、通信回路51と、参照画像記憶部52と、補間回路53と、3次元人体画像作成回路54と、合成回路63と、回転変換回路64と、3次元ガイド画像作成回路A65と、3次元ガイド画像作成回路B66と、混合回路67と、表示回路68とは、詳しくは後述するフローチャートに従って、制御回路60からの指令により、制御される。
以下、本実施形態の医用ガイドシステム1の作用を説明する。なお、以下の作用の説明においては、術者の実際の使用形態に沿って説明を行う。図14は、医用ガイドシステムの全体の動作を表すメインルーチンのフローチャートである。
まず、制御回路60は、術者による指示入力により、または自動的な算出により、参照画像データ群GRDにおける複数の参照画像体表特徴点及び参照画像体腔内特徴点を設定し、参照画像体表特徴点及び参照画像体腔内特徴点のボクセル空間、すなわち直交座標軸O’−x’y’z’上の座標を取得する処理を実行する(ステップS01)。詳しくは図15のフローチャートを参照して後述するが、該ステップS01においては、上述した第4のデータ群及び第5のデータ群が取得される。
本実施形態では、上述の通り参照画像データ群GRDにおける参照画像体表特徴点は剣状突起(A1’)、左上前腸骨棘(A2’)、右上前腸骨棘(A3’)、腰椎椎体棘突起(A4’)の4点であり、参照画像体腔内特徴点は十二指腸乳頭(P”)、噴門(Q”)、幽門(R”)の3点である。
次に、制御回路60は、表示装置8に、姿勢検出用コイル43の被検体100への装着を術者に促す表示を行う(ステップS02)。術者は、被検体100の検査部位近傍の体表上に、姿勢検出用コイル43を装着し固定する。すなわち、ステップS02において、上述した第2のデータ群を取得することが可能な状態となる。
次に、制御回路60は、実空間、すなわち直交座標軸O−xyz上における体表特徴点及び体腔内特徴点の位置配向データを取得する処理を実行する(ステップS03)。詳しくは図16のフローチャートを参照して後述するが、ステップS03において、上述した第1のデータ群、第2のデータ群及び第3のデータ群が取得される。
次に、制御回路60は、直交座標軸O−xyz上で表現された任意の点の位置配向データを、直交座標軸O’−x’y’z’上で表現されたボクセル空間内の位置配向写像データへ写像する第1の変換式を算出する。そして、制御回路60は、上記第1の変換式により、直交座標軸O−xyz上で表現された体腔内特徴点の位置データを、直交座標軸O’−x’y’z’上で表現されたボクセル空間内へ写像した体腔内特徴点位置写像データを取得する(ステップS04)。ステップS04の処理工程は、詳しくは図17のフローチャートを参照して後述する。
次に、制御回路60は、術者による超音波内視鏡2の操作を支援するための、3次元ガイド画像81及び82を生成し、図13に示すように、超音波断層像83と、3次元ガイド画像81及び82を並べて表示装置8の画面に表示する3次元ガイド画像作成表示処理を実行する(ステップS05)。ステップS05の処理工程は、詳しくは図18のフローチャートを参照して後述する。
次に、図14に示したフローチャートのステップS01における、参照画像データ群GRDにおける複数の参照画像体表特徴点及び参照画像体腔内特徴点の取得処理の詳細について、図15のフローチャートを参照して以下に説明する。
まず、術者により、キーボード12の表示切替キー12αが押下されることにより、制御回路60は、表示回路68のスイッチ69を入力端子69αに切換える(ステップS11)。これにより、参照画像記憶部52に記憶されている参照画像データ群GRDの一部又は全部が表示装置8の画面に表示可能となる。
次に、制御回路60は、参照画像記憶部52に記憶された参照画像データ群GRDの中から、術者からの入力指示がなされた1番〜N番までのいずれかの参照画像データRDを表示回路68に読み出させ、該参照画像データRDを表示装置8に表示するようにアナログビデオ信号を出力させる(ステップS12)。これにより、表示装置8の画面には、術者により選択された参照画像データRDが表示される。
次に、制御回路60は、表示装置8に表示されている参照画像データRD上において、図5に示した特徴点リスト101内の4点の体表特徴点のうちのいずれか一つに対応する画素を選択する旨を術者に対して促す表示を行う。そして、制御回路60は、所定の参照画像データRDにおける術者により選択された所定の画素の座標と、該所定の画素に対応する体表特徴点の名称を取得し記憶する(ステップS13)。
なお、ここで取得される体表特徴点の名称は、必ずしも「剣状突起」の様に具体的な名称である必要性はなく、該体表特徴点の名称に紐付けられた固有の数字や文字等からなるIDであってもよいことは言うまでもない。
次に、制御回路60は、特徴点リスト101内の4点の体表特徴点の全てに対応する参照画像データRD上の画素の座標が取得されたか否かを判断する(ステップS14)。ここで、特徴点リスト101中の全ての体表特徴点について対応する画素の座標が取得されていればステップS15へ移行し、全ての体表特徴点について対応する画素の座標が取得されていなければステップS12へ戻る。
ステップS14において、全ての体表特徴点について対応する画素の座標が取得されていると判定した場合、次に、制御回路60は、参照画像記憶部52に記憶された参照画像データ群GRDの中から、術者からの入力指示がなされた1番〜N番までのいずれかの参照画像データRDを表示回路68に読み出させ、該参照画像データRDを表示装置8に表示するようにアナログビデオ信号を出力させる(ステップS15)。これにより、表示装置8の画面には、術者により選択された参照画像データRDが表示される。
次に、制御回路60は、表示装置8に表示されている参照画像データRD上において、図5に示した特徴点リスト101内の3点の体腔内特徴点のうちのいずれか一つに対応する画素を選択する旨を術者に対して促す表示を行う。そして、制御回路60は、所定の参照画像データRDにおける術者により選択された所定の画素の座標と、該所定の画素に対応する体腔内特徴点の名称を取得し記憶する(ステップS16)。
次に、制御回路60は、特徴点リスト101内の3点の体腔内特徴点の全てに対応する参照画像データRD上の画素の座標が取得されたか否かを判断する(ステップS17)。ここで、特徴点リスト101中の全ての体腔内特徴点について対応する画素の座標が取得されていればステップS18へ移行し、全ての体腔内特徴点について対応する画素の座標が取得されていなければステップS15へ戻る。
ステップS17において、全ての体腔内特徴点について対応する画素の座標が取得されていると判定した場合、次に、制御回路60は、ステップS13で取得した各体表特徴点に相当する各画素の座標と、ステップS16で取得した各体腔内特徴点に相当する各画素の座標とについてのボクセル空間、すなわち直交座標軸O’−x’y’z’上の座標を算出し、マッチング回路61に記憶させる(ステップS18)。
以上により、第4のデータ群である参照画像体表特徴点A1’、A2’、A3’、A4’のボクセル空間(直交座標軸O’−x’y’z’)における座標と、第5のデータ群である参照画像体腔内特徴点P”、Q”、R”のボクセル空間(直交座標軸O’−x’y’z’)における座標と、が取得されマッチング回路に記憶される。そして、図14のフローチャートで示したメインルーチンへ復帰する。
本実施形態の医用ガイドシステム1の、図15のフローチャートによる処理による術者の具体的な使用形態は以下の通りである。
まず、ステップS11において、術者は、キーボード12の表示切替キー12αを押下する。この操作により、表示回路68のスイッチ69が切換えられる。
次に、ステップS12において、術者は、キーボード12又はマウス13を用いて、参照画像データ群GRDの中から、一つの参照画像データRDを選択する。この操作により、術者により選択された参照画像データRDが、表示装置8の画面に表示される。ここで、術者は、表示装置8に表示された参照画像データRDに4点の体表特徴点である剣状突起、左上前腸骨棘、右上前腸骨棘、腰椎椎体棘突起のいずれかが写っていなければ、他の参照画像データRDを選択し直し、4点の体表特徴点のいずれかが写っている参照画像データRDが表示されるまで、異なる参照画像データRDの選択を繰り返す。
次に、ステップS13において、術者は、キーボード12又はマウス13を用いて、表示装置8に表示された参照画像データRD上における、4点の体表特徴点のいずれかに最も近い体表上の点に相当する画素を指定する。術者により体表特徴点に対応する画素の指定操作が行われると、制御回路60は、表示回路8の画面に図5に示した特徴点リスト101を表示させる。
そして、術者は、表示装置8に表示された特徴点リスト101から、先ほど指定した画素に対応する体表特徴点の名称を、キーボード12又はマウス13を用いて選択する。この操作により、指定した体表特徴点に対応する画素が、参照画像データ群GRDを構成するN枚の参照画像データRDのうちの何枚目の参照画像データRD上のどの座標あたるのかが、制御装置60によって取得される。
そして、上記ステップS12及びステップS13を、4点全ての体表特徴点について繰り返す。以上で、術者による、4点全ての参照画像体表特徴点A1’、A2’、A3’、A4’に対応する、参照画像データRD上の画素の指定が終了する(ステップS14のYES)。
図19に、参照画像データ群GRDにおける参照画像体表特徴点の概念を示す模式図を示す。本実施形態では、図19に示すように、説明の都合上、剣状突起(A1’)がn1番目の参照画像データRD上に写っており、左上前腸骨棘(A2’)、右上前腸骨棘(A3’)、腰椎椎体棘突起(A4’)がn2番目の参照画像データRD上に写っているものとして説明する。ここで、n1及びn2は、N以下の自然数である。
次に、ステップS15において、術者は、キーボード12又はマウス13を用いて、参照画像データ群GRDの中から、一つの参照画像データRDを選択する。この操作により、術者により選択された参照画像データRDが、表示装置8の画面に表示される。ここで、術者は、表示装置8に表示された参照画像データRDに3点の体腔内特徴点である十二指腸乳頭、噴門、幽門のいずれかが写っていなければ、他の参照画像データRDを選択し直し、3点の体腔内特徴点のいずれかが写っている参照画像データRDが表示されるまで、異なる参照画像データRDの選択を繰り返す。
次に、ステップS16において、術者は、キーボード12又はマウス13を用いて、表示装置8に表示された参照画像データRD上における3点の体腔内特徴点のいずれかに最も近い画素を指定する。術者により体腔内特徴点に対応する画素の指定操作が行われると、制御回路60は、表示回路8の画面に図5に示した特徴点リスト101を表示させる。
そして、術者は、表示装置8に表示された特徴点リスト101から、先ほど指定した画素に対応する体腔内特徴点の名称を、キーボード12又はマウス13を用いて選択する。この操作により、指定した体腔内特徴点に対応する画素が、参照画像データ群GRDを構成するN枚の参照画像データRDのうちの何枚目の参照画像データRD上のどの座標あたるのかが、制御装置60によって取得される。
そして、上記ステップS15及びステップS16を、3点全ての体腔内特徴点について繰り返す。以上で、術者による、3点全ての参照画像体腔内特徴点P”、Q”、R”に対応する、参照画像データRD上の画素の指定が終了する(ステップS17のYES)。
次に、ステップS18において、制御回路60が、4点の参照画像体表特徴点A1’、A2’、A3’、A4’と、3点の参照画像体腔内特徴点P”、Q”、R”のそれぞれに対応する画素の直交座標軸O’−x’y’z’上の座標を算出する。
以上により、上述した第4のデータ群及び第5のデータ群が医用ガイドシステム1により取得される。
次に、図14に示したフローチャートのステップS03における、実空間における複数の体表特徴点及び体腔内特徴点の位置情報の取得処理の詳細について、図16のフローチャートを参照して以下に説明する。
まず、制御回路60は、表示装置8に、体表検出用コイル42を被検体100の4点の体表特徴点のうちいずれか一つに接触させるよう術者に促す表示を行う(ステップS31)。本実施形態では、上述の通り、4点の体表特徴点とは、剣状突起(A1)、左上前腸骨棘(A2)、右上前腸骨棘(A3)、腰椎椎体棘突起(A4)の4点である。
次に、制御回路60は、マッチング回路61に指令を出し、術者により体表点取得キー12eが押下されたタイミングにおける、体表検出用コイル42及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向を算出する(ステップS32)。
次に、制御回路60は、表示装置8に図5に示した特徴点リスト101を表示し、該特徴点リスト101から、直前のステップS32において体表検出用コイル42を接触させた部位を選択するよう術者に促す表示を行う。そして、制御回路60は、術者により選択された体表特徴点の名称を取得し記憶する(ステップS33)。なお、ここで取得される体表特徴点の名称は、必ずしも「剣状突起」の様に具体的な名称である必要性はなく、該体表特徴点の名称に紐付けられた固有の数字や文字等からなるIDであってもよいことは言うまでもない。
次に、制御回路60は、ステップS32で取得した体表検出用コイル42及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向と、ステップS33で取得した取得した体表特徴点の名称とを関連付け、マッチング回路61に記憶させる(ステップS34)。
次に、制御回路60は、特徴点リスト101中の全ての体表特徴点の全てについて、体表検出用コイル42及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向の情報が取得されたか否かを判断する(ステップS35)。ここで、特徴点リスト101中の全ての体表特徴点について対応する体表検出用コイル42及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向の情報が取得されていればステップS36へ移行し、取得されていなければステップS31へ戻る。
ステップS35において、全ての体表特徴点について対応する体表検出用コイル42及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向の情報が取得されたと判定した場合、次に制御回路60は、表示回路68のスイッチ69を入力端子69bに切換える。これにより、表示回路8には、撮像装置27により取得された光学観察像が表示される。また、制御回路60は、超音波内視鏡2の硬性部21及び可撓部22を被検体100の体腔内に挿入するよう術者に促す表示を行う(ステップS36)。
次に、制御回路60は、表示装置8に、硬性部21の光学観察窓24を、被検体100の3点の体腔内特徴点のうちいずれか一つに接触させるよう術者に促す表示を行う(ステップS37)。本実施形態では、上述の通り、3点の体腔内特徴点とは、十二指腸乳頭(P)、噴門(Q)、幽門(R)の3点である。
次に、制御回路60は、マッチング回路61に指令を出し、術者により体腔内点取得キー12fが押下されたタイミングにおける、画像位置配向検出用コイル44及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向を算出する(ステップS38)。
次に、制御回路60は、表示装置8に図5に示した特徴点リスト101を表示し、該特徴点リスト101から、直前のステップS38において光学観察窓24を接触させた部位を選択するよう術者に促す表示を行う。そして、制御回路60は、術者により選択された体腔内特徴点の名称を取得し記憶する(ステップS39)。
次に、制御回路60は、ステップS38で取得した画像位置配向検出用コイル44及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向と、ステップS39で取得した取得した体腔内特徴点の名称とを関連付け、マッチング回路61に記憶させる(ステップS40)。
次に、制御回路60は、特徴点リスト101中の3点の体腔内特徴点の全てについて、画像位置配向検出用コイル44及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向の情報が取得されたか否かを判断する(ステップS41)。ここで、特徴点リスト101中の全ての体腔内特徴点について対応する画像位置配向検出用コイル44及び姿勢検出用コイル43の送信アンテナ41に対する位置及び配向の情報が取得されていれば図14のフローチャートで示したメインルーチンへ復帰し、取得されていなければステップS37へ戻る。
以上の、図16のフローチャートに示した処理においては、医用ガイドシステム1により、まずステップS31からステップS35において第1のデータ群が取得され、ステップS36からステップS41において第3のデータ群が取得される。
本実施形態の医用ガイドシステム1の、図16のフローチャートによる処理による術者の具体的な使用形態は以下の通りである。
まず、ステップ31において、術者は、被検体100を触診し、4点の体表特徴点である剣状突起、左上前腸骨棘、右上前腸骨棘、腰椎椎体棘突起のうちの一つに最も近い体表上の位置に体表検出用コイル42を当接させる。
次に、ステップS32において、術者は、体表検出用コイル42を被検体100の体表特徴点に当接させたままの状態で、体表点取得キー12eを押下する。この操作により、体表検出用コイル42及び姿勢検出用コイル43の位置及び配向が、マッチング回路61により算出され、制御回路60に取得される。
次に、ステップS33において、術者は、表示装置8に表示された特徴点リスト101から、先ほど体表検出用コイル42を当接させた体表特徴点の名称を、キーボード12又はマウス13を用いて選択する。この操作により、術者により選択された体表特徴点の名称が制御回路60により取得される。
次に、ステップS34において、術者によりステップS33で選択された体表特徴点の名称と、ステップS32で取得された体表検出用コイル42及び姿勢検出用コイル43の位置及び配向の情報とが関連付けられて、マッチング回路61に記憶される。
そして、上記ステップS31からステップS34を、4点全ての体表特徴点A1、A2、A3、A4について繰り返す。以上で、体表特徴点A1、A2、A3、A4の実空間(直交座標軸O−xyz)における位置の取得が終了する。
次に、ステップS36において、術者は表示装置8に表示される光学観察像を参照しながら、被検体100の体腔内に超音波内視鏡2の硬性部21及び可撓部22を挿入する。
次にステップS37において、術者は、表示装置8に表示される被検体100の体腔内の光学観察像を参照しながら、3点の体腔内特徴点である十二指腸乳頭、噴門、幽門のうちの一つの近傍に、光学観察窓24を接触させる。
次に、ステップS38において、術者は、光学観察窓24を被検体100の体腔内特徴点に当接させたままの状態で、体腔内点取得キー12fを押下する。この操作により、画像位置配向検出用コイル44及び姿勢検出用コイル43の位置及び配向が、マッチング回路61により算出され、制御回路60に取得される。
次に、ステップS39において、術者は、表示装置8に表示された特徴点リスト101から、先ほど光学観察窓24を接触させた体腔内特徴点の名称を、キーボード12又はマウス13を用いて選択する。この操作により、術者により選択された体腔内特徴点の名称が制御回路60により取得される。
次に、ステップS40において、術者によりステップS39で選択された体腔内特徴点の名称と、ステップS38で取得された画像位置配向検出用コイル44及び姿勢検出用コイル43の位置及び配向の情報とが関連付けられて、マッチング回路61に記憶される。
そして、上記ステップS36からステップS40を、3点全ての体腔内特徴点P、Q、Rについて繰り返す。以上で、体腔内特徴点P、Q、Rの実空間(直交座標軸O−xyz)における位置の取得が終了する。
以上により、上述した第1のデータ群、第2のデータ群及び第3のデータ群が医用ガイドシステム1により取得される。
次に、図14に示したフローチャートのステップS04における、写像体腔内特徴点算出処理の詳細について、図17のフローチャートを参照して以下に説明する。
まず、制御回路60は、マッチング回路61に指令を出し、直交座標軸O−xyz上で表現された実空間における位置及び配向を、直交座標軸O’−x’y’z’上、すなわちボクセル空間において記述する、第1の写像を得るための第1の変換式を算出する(ステップS51)。
ここで、第1の写像及び第1の変換式は、具体的には以下の通りに定義される。図20は、第1の写像を説明するための図である。
図20に示すように、まず、実空間(直交座標軸O−xyz)において、体表特徴点A1、A2、A3、A4を用いて、剣状突起(A1)から他の体表特徴点(A2、A3、A4)へ向かう3本のベクトルを基本ベクトルとした斜交座標系A1−A2A3A4を定義する。同様に、ボクセル空間(直交座標軸O’−x’y’z’)において、参照画像体表特徴点A1’、A2’、A3’、A4’を用いて、剣状突起(A1’)から他の体表特徴点(A2’、A3’、A4’)へ向かう3本のベクトルを基本ベクトルとした斜交座標系A1’−A2’A3’A4’を定義する。
斜交座標系A1−A2A3A4は実空間、すなわち被検体100上に定義され、斜交座標系A1’−A2’A3’A4’はボクセル空間内に定義されるものである。なお、ボクセル空間とは、前述の通り、参照画像データ群GRDを補間して得たデータ空間のことである。
そして、第1の写像とは、「直交座標軸O−xyzにおける任意点の、被検体100(実空間)上の斜交座標系A1−A2A3A4で表現される座標」と、「直交座標軸O’−x’y’z’におけるこの任意点の写像後の点の、ボクセル空間内の斜交座標系A1’−A2’A3’A4’で表現される座標」と、が同じになるような、実空間からボクセル空間への写像である。また、第1の変換式とは「実空間の任意点の直交座標軸O−xyzにおける座標」を「ボクセル空間内の第1の写像後の点の直交座標軸O’−x’y’z’における座標」へ変換する式である。
例えば、図20に示すように、画像位置配向検出用コイル44の位置、すなわちラジアル走査の中心かつ超音波断層像の中心O”の第1の写像による写像後の点を写像ラジアル走査面中心C’とする。また、写像ラジアル走査面中心C’の直交座標軸O’−x’y’z’における位置ベクトルをOC’とする。この場合、第1変換式を用いると、点O”の直交座標軸O−xyzにおける位置ベクトルOO”は、写像ラジアル走査面中心C’の直交座標軸O’−x’y’z’における座標O’C’へ変換される。
ただし、本実施形態においては、実空間において取得される被検体100上の体表特徴点A1、A2、A3、A4の位置と、超音波断層像の位置O”及び配向とは異なる時間に取得される。したがって、これらの位置及び配向を取得する間に被検体100が動いている可能性がある。
そのため、本実施形態においては、各体表特徴点A1、A2、A3、A4のそれぞれと、超音波断層像の位置O”及び配向の全てと略同時に取得される姿勢検出用コイル43の位置及び配向の情報に基づいて、被検体100の姿勢の変化を補正する。例えば、超音波断層像の中心O”を取得した時刻tの各体表特徴点A1、A2、A3、A4の位置ベクトルOA1(t)、OA2(t)、OA3(t)、OA4(t)を、超音波断層像の中心O”を取得した時刻tの姿勢検出用検出コイル43の位置ベクトルOS(t)と配向を示す単位ベクトルW(t)、W3(t)、W12(t)とから推定する。その方法を以下に示す。
剣状突起の位置ベクトルOA1を取得した時刻t1の姿勢検出用コイル43の位置はOS(t1)であり、配向はW(t1)、W3(t1)、W12(t1)であるので、剣状突起の位置ベクトルOA1は、
OA1=OS(t1)+a1×W(t1)+ b1×W3(t1)+ c1×W12(t1)
と表される。この式により、a1、b1、c1は定数(スカラー量)として算出される。ここで、姿勢検出用コイル43に対する剣状突起位置A1の相対的な位置は略一定なものと仮定し、時刻tでの剣状突起の位置ベクトルOA1(t)を、
OA1(t)=OS(t)+a1×W(t)+ b1×W3(t)+ c1×W12(t)
と推定する。同様にOA2(t)、OA3(t)、OA4(t)も推定する。
本実施形態では、この時刻tにおける体表特徴点の位置ベクトルOA1(t)、OA2(t)、OA3(t)、OA4(t)を用い、剣状突起から他の点へ向かう3本のベクトルを基本ベクトルとした斜交座標系を定義し、時刻tにおける第1の変換式を作成する。すなわち、第1の変換式は、姿勢検出用コイル43の位置及び配向の変化、つまり被検体100の姿勢の変化に応じて、随時変更される。第1の変換式の被検体100の姿勢の変化に応じた変更は、超音波断層像の位置O”及び配向の検出周期に同期して実施される。
ステップS51における、第1の変換式の算出後、制御回路60は、マッチング回路61に指令を出し、実空間(直交座標軸O−xyz)における体腔内特徴点P、Q、Rを、ボクセル空間(直交座標軸O’−x’y’z’)内へ写像した第1の写像を取得する(ステップS52)。ここで、第1の変換式により得られた体腔内特徴点P、Q、Rのボクセル空間内における写像をそれぞれ写像体腔内特徴点P’、Q’、R’とする。
この写像体腔内特徴点P’、Q’、R’の算出方法を詳細に述べる。各体腔内特徴点P、Q、Rを取得した時刻をそれぞれtp、tq、trとすると、ステップS02において取得された第3のデータ群は、OO”(tp)、V(tp)、V3(tp)、V12(tp)、OO”(tq)、V(tq)、V3(tq)、V12(tq)、OO”(tr)、V(tr)、V3(tr)、V12(tr)と表される。
これらを用いると、体腔内特徴点Pの位置ベクトルOPは、
OP=OO”(tp)+e×V(tp)+ f×V3(tp)+ g×V12(tp)
と表せる。ここで、e、f、gは光学観察窓24と画像位置配向検出用コイル44との位置関係(設計値)から決まる既知の定数である。同様にして、体腔内特徴点Qの位置ベクトルOQ、体腔内特徴点Rの位置ベクトルORも算出される。
上記で算出した、直交座標軸O−xyzにおける各体腔内特徴点P、Q、Rの位置ベクトルOP、OQ、ORを、それぞれ時刻tp、tq、trにおける第1の変換式により、直交座標軸O’−x’y’z’上に写像することにより、各写像体腔内特徴点P’、Q’、R’の位置ベクトルO’P’、O’Q’、O’R’が算出される。
次に、制御回路60は、ボクセル空間(直交座標軸O’−x’y’z’)における写像体腔内特徴点P’、Q’、R’の位置ベクトルO’P’、O’Q’、O’R’をマッチング回路61に記憶させる(ステップS53)。
以上の、図17のフローチャートに示した処理においては、医用ガイドシステム1により、予めステップS01において取得された第4のデータ群及び第5のデータ群と、ステップS02において取得された第1のデータ群、第2のデータ群及び第3のデータ群とから、第1の変換式が算出され、該第1の変換式により、実空間(直交座標軸O−xyz)における体腔内特徴点P、Q、Rの第1の写像である、写像体腔内特徴点P’、Q’、R’が取得されるのである。そして、図14のフローチャートで示したメインルーチンへ復帰する。
次に、図14に示したフローチャートのステップS05における、3次元ガイド画像作成表示処理の詳細について、図18のフローチャートを参照して以下に説明する。なお、 以下においては、説明の都合上、超音波内視鏡2により走査を行う部位が十二指腸球部である場合を例にし、説明を行う。
まず、術者により、キーボード12の表示切替キー12γが押下されることにより、制御回路60は、表示回路68のスイッチ69を入力端子69γに切換える(ステップS61)。これにより、図13に示すように、混合回路67から出力される混合データが表示装置8の画面に表示可能となる。
次に、制御回路60は、図7に示した補正条件テーブル102に記述された走査部位のリストを表示装置に表示し、今から超音波内視鏡2により操作を行う部位をリストから選択するよう術者に促す表示を行う。そして、制御回路60は、術者によるキーボード12の走査部位選択キー12gの押下により選択された走査部位名を、操作部位情報として記憶する(ステップS62)。本実施形態においては、補正条件テーブル102に記述された走査部位は、胃、十二指腸球部、十二指腸下降脚の3箇所であり、十二指腸球部が術者により選択される。
次に、術者により、キーボード12の走査制御キー12dが押下されることにより、制御回路60は、走査制御信号を超音波観測装置3へ出力し、超音波振動子アレイ31によるラジアル走査を開始する(ステップS63)。
次に、制御回路60は、混合回路67へ指令を出し、混合回路67は超音波観測装置3から出力される超音波断層像データを取得する(ステップS64)。
次に、マッチング回路61は、位置配向算出装置4から出力される位置配向データを取得し記憶する(ステップS65)。なお、該ステップS64における位置配向データの取得は、ステップS63において混合回路67が超音波断層像データを取得するタイミングに同期して行われる。
ステップS65において取得される位置配向データは、直交座標軸O−xyzにおける
画像位置配向検出用コイル44および姿勢検出用コイル43の位置及び配向の情報を有するものである。すなわち、ステップS64において取得される位置配向データは、超音波断層像の中心O”の位置ベクトルOO”と、超音波断層像の配向を示す単位ベクトルV、V3、V12と、姿勢検出用コイル43の位置ベクトルOSと、配向を表す単位ベクトルW、W3、W12の情報を有する。
次に、マッチング回路61は、補正条件テーブル102から、記憶した操作部位情報に対応した、各補正の実行の有無と、各補正に使用する補正特徴点の情報を参照し記憶する(ステップS66)。
ここで補正とは、詳しくは後述するが、ステップS65で取得した実空間上における画像位置配向検出用コイル44の位置及び配向をボクセル空間へ写像した場合に生じる、「実際の被検体100内における画像位置検出用コイル44の解剖学的な位置及び配向」と「写像後のボクセル空間における画像位置検出用コイル44の解剖学的な位置及び配向」とのずれを解消するためのものである。言い換えれば、補正とは、被検体100の体腔内におけるラジアル走査面の走査部位に対する位置及び配向と、図13に示した3次元ガイド画像データ82における超音波断層像マーカ121の解剖学的な位置及び配向とのずれを解消するものである。
本実施形態においては、図7に示すように、平行移動補正と縮尺補正の2種類の補正方法が定義されている。本実施形態では、走査部位情報が十二指腸球部であるため、ステップS66においては、補正条件テーブル102の走査部位の値が十二指腸球部の行が参照される。すなわち、平行移動補正の使用の有無は使用(ON)であり、平行移動補正に使用する特徴点である平行移動補正特徴点Dは幽門である。また、縮尺補正の使用の有無は使用(ON)であり、縮尺補正に使用する2点の特徴点である第1縮尺補正特徴点E及び第2縮尺補正特徴点Fは、それぞれ十二指腸乳頭及び噴門である。
次に、マッチング回路61は、ステップS65で取得した位置配向データのうち、姿勢検出用コイル43の位置ベクトルOS(t)と配向を示す単位ベクトルW(t)、W3(t)、W12(t)を用いて、該位置配向データを取得した時間tにおける各体表特徴点A1、A2、A3、A4の位置ベクトルOA1(t)、OA2(t)、OA3(t)、OA4(t)を算出推定する。そしてマッチング回路61は、この新たに算出された位置ベクトルOA1(t)、OA2(t)、OA3(t)、OA4(t)を用いてステップS04と同様に時刻tにおける第1の変換式を算出し、ステップS04で記憶した第1の変換式を更新する。
そして、マッチング回路61は、更新された第1の変換式に、ステップS66で使用するとされた補正を加え、第2の写像を表現する第2の変換式を新たに作成する(ステップS67)。
ここで、第2の写像とは、実空間(直交座標軸O−xyz)における画像位置配向検出用コイル44の位置及び配向を、ボクセル空間(直交座標軸O’−x’y’z’)へ写像する上述した第1の変換式による第1の写像に対し、さらに補正条件テーブル102により定められた補正を施した状態のものである。
そして、平行移動補正とは、参照画像体腔内特徴点P”、Q”、R”のうちの1点を平行移動補正特徴点Dと定義し、この平行移動補正特徴点Dに対応する被検体100の体腔内特徴点P、Q、Rの第1の写像である写像体腔内特徴点P’、Q’、R’のうちの1点(以下この点を点D’と称する)が、前記平行移動補正特徴点Dに一致するように、第1の写像全体をボクセル空間内において平行移動させるものである。
また、縮尺補正は以下の通りである。まず、参照画像体腔内特徴点P”、Q”、R”のうちの2点を第1の縮尺補正特徴点E及び第2の縮尺補正特徴点Fと定義し、第1の縮尺補正特徴点Eから第2の縮尺補正特徴点Fへのベクトルを参照ベクトルEFと定義する。そして、被検体100の体腔内特徴点P、Q、Rの第1の写像である写像体腔内特徴点P’、Q’、R’のうちの、第1の縮尺補正特徴点E及び第2の縮尺補正特徴点Fに対応する2点を点E’及び点F’と定義し、この点E’から点F’へのベクトルを写像参照ベクトルE’F’と定義する。
そして、参照ベクトルEFに対する写像参照ベクトルE’F’の3軸(x’軸,y’軸,z’軸)の方向成分毎のスカラー量の比を算出し、この3軸方向についての比を縮尺補正値Gとする。すなわち、参照ベクトルEFのx’軸,y’軸,z’軸の方向成分をそれぞれe1,e2,e3と定義し、写像参照ベクトルE’F’のx’軸,y’軸,z’軸の方向成分をそれぞれe1’,e2’,e3’と定義した場合、縮尺補正値Gは以下のように表される3つのスカラー量の集合となる。
Gx’=e1/e1’
Gy’=e2/e2’
Gz’=e3/e3’
一方、上述した平行移動補正時に定めた点D’から、画像位置配向検出用コイル44の位置O”の第1の写像である写像ラジアル走査面中心C’へのベクトルD’C’と定義する。
そして、該ベクトルD’C’の3軸(x’軸,y’軸,z’軸)の方向成分のスカラー量に対し、それぞれ上記縮尺補正値G(Gx’,Gy’,Gz’)を乗じた結果のベクトルを補正ベクトルD’C”と定義する。
すなわち、ベクトルD’C’のx’軸,y’軸,z’軸の方向成分をそれぞれe1,e2,e3と定義し、ベクトルD’C’を以下のように表記した場合、
ベクトルD’C’=(d1・i’ d2・j’ d3・k’)
補正ベクトルD’C”は、以下のように表現される。
補正ベクトルD’C”=(Gx’・d1・i’ Gy’・d2・j’ Gz’・d3・k’)
そして、上述した平行移動補正特徴点Dの位置ベクトルO’Dと、補正ベクトルD’C”の和を求めることにより、位置ベクトルOC”が算出される。この位置ベクトルOC”により表されるボクセル空間(直交座標軸O’−x’y’z’)上の点C”を、縮尺補正後の画像位置配向検出用コイル44の位置とする。すなわち、点C”が、実空間(直交座標軸O−xyz)における画像位置配向検出用コイル44の位置の第2の写像である。
以下に、本実施形態における第2の写像について、図21を参照して具体的に説明する。図21は、ボクセル空間(直交座標軸O’−x’y’z’)における第2の写像を求める方法を概略的に説明する図である。
図21の上段は、第1の変換式により得られた第1の写像と、参照画像体腔内特徴点P”、Q”、R”との位置関係を示している。図21の上段において、ステップS01で取得した3点の参照画像体腔内特徴点P”、Q”、R”を白抜きの丸印で示す。また、ステップS04により得られた第1の写像である写像体腔内特徴点P’、Q’、R’と、写像ラジアル走査面中心C’とを白抜きの四角印で示す。
ここで、平行移動補正特徴点Dは幽門(R”)である。したがって、写像体腔内特徴点P’、Q’、R’のうち、幽門にあたるR’がボクセル空間において平行移動補正特徴点Dに一致するように、第1の写像である写像体腔内特徴点P’、Q’、R’と、写像ラジアル走査面中心C’全体を平行移動する。図21の中段に、上段の状態のボクセル空間に対し、平行移動補正を実施した後の状態を示す。
次に、縮尺補正に使用する2点の特徴点である第1縮尺補正特徴点E及び第2縮尺補正特徴点Fは、それぞれ十二指腸乳頭(P”)及び噴門(Q”)である。したがって、参照ベクトルEFは十二指腸乳頭(P”)から噴門(Q”)へのベクトルであり、写像参照ベクトルE’F’は、第1の写像の十二指腸乳頭(P’)から噴門(Q’)へのベクトルである。
次に、この参照ベクトルEF及び写像参照ベクトルE’F’のそれぞれの3軸方向成分の比から縮尺補正値Gを算出し、第1の写像におけるベクトルD’C’に該縮尺補正値Gを乗ずることにより、補正ベクトルD’C”を求める。
次に、補正ベクトルD’C”と平行移動補正特徴点Dの位置ベクトルO’Dとの和を求め、点C”の位置座標を、縮尺補正後の画像位置配向検出用コイル44の位置として取得する。図21の下段に、中段の状態のボクセル空間に対し、縮尺移動補正を実施した後の状態、すなわち第2の写像を示す。
本実施形態においては、以上のようにして第1の写像から第2の写像を求めるものであり、この第1の写像から第2の写像を得るための変換式が、ステップS67において作成される第2の変換式である。
次に、マッチング回路61は、ステップS65で取得した位置配向データのうち、実空間(直交座標軸O−xyz)における超音波断層像の中心O”の位置ベクトルOO”と、直交座標軸O−xyzに対する画像位置配向検出用コイルの配向を示す単位ベクトルV、V3、V12とを、上述した第1の変換式と第2の変換式とを用いて、位置配向写像データへ変換する(ステップS68)。
図21に示すように、第1変換式では超音波断層像の中心O”はボクセル空間上の点C’へ写像されるが、第2の変換式を用いることにより、図21に示すように超音波断層像の中心C’はボクセル空間上の点C”へ写像される。
次に、画像指標作成回路62は、マッチング回路61により作成された位置配向写像データに基づいて、画像指標データを作成する。そして、合成回路63は、3次元人体画像データと、画像指標データとを合成し、合成3次元データを作成する。そして、回転変換回路64は合成3次元データに回転処理を施す。
次に、3次元ガイド画像作成回路A65と3次元ガイド画像作成回路B66とは、それぞれ3次元ガイド画像データを作成する(ステップS69)。
次に、混合回路67は、超音波断層像データと3次元ガイド画像データとを並べて表示するための混合データを作成する。表示回路68はこの混合データをアナログビデオ信号に変換する。表示装置8は、図13に示すように、アナログビデオ信号を基に、超音波断層像と被検体100を腹側から観察した3次元ガイド画像と超音波断層像マーカを画面に正対させた3次元ガイド画像とを並べて表示する(ステップS70)。
次に、制御回路60は、術者による走査部位選択キー12gの押下により、走査部位情報の変更がなされたか否かを判定する(ステップS71)。ここで、術者からの指示により走査部位の変更がなされたと判定した場合、ステップS72へ移行し、制御回路60は、新たな操作部位情報を取得し、ステップS73へ移行する。一方、走査部位の変更がなされていないと判定した場合は、ステップS72をスキップし、ステップS73へ移行する。
次に、制御回路60は、ステップS64からS72の間に、術者により走査制御キー12dが押下されたか否かを判定する。ここで、術者により走査制御キー12dが押下されたと判定した場合は、ステップS74へ移行し、超音波振動子アレイ31によるラジアル走査を終了した後にメインルーチンへ移行する。
一方、術者により走査制御キー12dが押下されていないと判定した場合は、ステップS64へ移行し、ステップS64以降の処理を繰り返す。このようにして、ステップS64からステップS73の処理を繰り返すことで、超音波振動子アレイ31が1回のラジアル走査をして超音波観測装置3が超音波断層像データを作成し、超音波断層像データが超音波観測装置3から混合回路67に入力されるたびに新たな3次元ガイド画像が作成され、表示装置8に表示される3次元ガイド画像がリアルタイムに更新されるのである。
すなわち、図13に示すように、術者による可撓部22、硬性部21の用手的な操作に伴うラジアル走査面の移動に連動して、画像指標データ上の超音波断層像マーカ121と先端方向マーカ122と6時方向マーカ123とが3次元人体画像データ上を移動もしくは変形していく。
これにより、本実施形態に係る医用ガイドシステム1を用いることで、術者は、超音波内視鏡2を操作しながら、超音波断層像で現在観察しているのが、解剖学的に被検体100のどの位置であるのかを、例えば器官別に色分けされた3次元ガイド画像上において認識することができるのである。
以上のような構成を有する本実施形態の医用ガイドシステム1は、予め取得された参照画像データ上において、医用器具である超音波内視鏡2の位置及び配向をリアルタイムに表示するガイド画像を作成する構成を有するものであって、特に、ステップS64からステップS68で述べた処理を繰り返し、混合回路61が超音波断層像データを取り込んだ瞬間の、位置配向データを第1の変換式で第1の写像に変換した後、平行移動補正と縮尺補正を合わせた第2の写像を表現する第2の変換式を新たに作成し、直交座標軸O−xyzにおける超音波断層像の中心O”の位置ベクトルOO”と、画像位置配向検出用コイル44の配向を示す単位ベクトルV,V3,V12とを、位置配向写像データへ変換するものである。
ここで、平行移動補正には以下に示す効果がある。本実施形態では、第1の写像を「直交座標軸O−xyzにおける任意点の、被検体100上の斜交座標系で表現される座標」と、「直交座標軸O’−x’y’z’におけるこの任意点の写像後の点の、ボクセル空間内の斜交座標系で表現される座標」とが同じになるような、被検体100からボクセル空間への写像とした。
理想的には、体腔内特徴点Rのボクセル空間内への第1の写像である写像体腔内特徴点R’と、ステップS01で指定した参照画像体腔内特徴点R”とは一致することが望ましい。しかし、実際には正確に一致させることが難しい。
この理由は、「直交座標軸O−xyzにおける任意点と、被検体100上の斜交座標系との空間的な位置関係」と「任意点に解剖学的に相当する直交座標軸O’−x’y’z’における点と、ボクセル空間内の斜交座標系との空間的な位置関係」とが種々の要因で完全に一致しないことにある。本実施形態で説明すると、第1の写像を骨格上の特徴のある体表特徴点の各座標から求めたが、体腔内特徴点である幽門(R)は骨格上の体表特徴点と常に同じ位置関係にあるとは限らないためである。
この原因は従来技術の項で述べたとおりであるが、例えば、X線3次元ヘリカルCT装置16や3次元MRI装置15による参照画像データ群GRDの取得は、一般に仰臥位で撮像されるものであり、左側臥位で行われる超音波内視鏡検査時とは体位が異なる。このため、被検体100内の諸器官は重力に従って変位する。
したがって、本実施形態の医用ガイドシステム1においては、超音波内視鏡2で走査している器官の近傍にある体腔内特徴点位置を一致させるように、上述した平行移動補正を行い、第2の写像とすることにより、体腔内特徴点位置の近傍にある超音波内視鏡での画像位置配向検出用コイル44の位置O”とその写像点C”を解剖学的により精度よく一致させることが可能となるのである。
また、縮尺補正には以下に示す効果がある。第1の写像に対し平行移動補正のみを実施した場合(縮尺補正を行わない場合)では、平行移動補正に使用した平行移動補正特徴点D(本実施形態では体腔内特徴点R)は一致する。しかし、平行移動補正特徴点Dから走査部位が離れるほど、画像位置配向検出用コイル44の位置O”とその写像点C”を一致させることが困難となる。
この理由は、「直交座標軸O−xyzにおける任意点と、被検体100上の斜交座標系との空間的な位置関係」と「任意点に解剖学的に相当する直交座標軸O’−x’y’z’における点と、ボクセル空間内の斜交座標系との空間的な位置関係」とが種々の要因で完全に一致しないことにある。本実施形態で説明すると、第1の写像を骨格上の特徴のある体表特徴点の各座標から求め、幽門(R)で平行移動補正したが、例えば超音波画像上胆嚢の近傍にある画像位置配向検出用コイル44の位置と幽門との距離が骨格上の各体表特徴点間の距離と相関があるとは限らないためである。
この原因は従来技術の項で述べたとおりであるが、、例えば、X線3次元ヘリカルCT装置16や3次元MRI装置15による参照画像データ群GRDの取得は、一般に仰臥位で撮像されるものであり、左側臥位で行われる超音波内視鏡検査時とは体位が異なる。左側臥位では仰臥位よりも背骨が曲がりやすく、両者間において、剣状突起とその他の3点の体表特徴点との位置関係は変化する(縮尺変化する)傾向にある。
一方、超音波内視鏡検査時における内臓、特に後腹膜腔内にある膵臓は背骨側にあるため、背骨が曲がっても骨格ほど大きく縮尺変化はしない。逆にX線3次元ヘリカルCT装置や3次元MRI装置での撮影時には深吸気状態であるため、横隔膜が下がり内臓が圧縮され、内臓間の距離が短くなる傾向にある。
そのため、本実施形態の医用ガイドシステム1においては、2つの体腔内特徴点間の距離を、参照画像と被検体とで一致させるように、縮尺補正を行い、第2の写像とすることにより、平行移動補正特徴点D(本実施形態では体腔内特徴点R)から離れた位置での画像位置配向検出用コイル44の位置O”とその写像点C”を解剖学的により精度よく一致させることが可能となるのである。
以上のように、本実施形態の医用ガイドシステム1は、体表特徴点(骨格)と体腔内特徴点(内臓)の縮尺が超音波内視鏡検査時の被検体の体位と参照画像データを取得した時の人体の体位が異なる場合でも、ガイド画像上の医用器具である超音波内視鏡の位置を実際の被検体の体腔内の位置に高い精度で一致させることができるという効果を有する。
また、参照画像データ群GRDを取得した人体と、超音波内視鏡検査の被検体が異なる人物である場合、骨格に対する内臓の縮尺も個人差があり異なるものである。しかしながら、本実施形態の医用ガイドシステム1によれば、マッチング回路61が、第1変換式で第1の写像に変換した後、平行移動補正と縮尺補正を合わせて第2の写像を表現する第2変換式を新たに作成するよう構成、作用させたため、参照画像データと被検体とで骨格に対する内臓の縮尺に違いがあっても、ガイド画像上の超音波内視鏡の位置を実際の被検体の体腔内の位置に高い精度で一致させることができる。
また、本実施形態によれば、走査部位に変更が生じた場合、術者が走査部位選択キー12gを押下し、走査部位を胃、十二指腸球部、十二指腸下降脚の3種類から選択すると、マッチング回路61は、記憶している補正条件テーブル102に基づき、選択された走査部位にあわせ、各補正に使用する特徴点を決定するよう構成、作用させた。そのため、走査部位に近い特徴点を使用し、平行移動補正及び縮尺補正を行うことができ、3次元ガイド画像により超音波断層像を一層正確にガイドすることができる。
また、本実施形態によれば、走査部位に変更が生じた場合、術者が走査部位選択キー12gを押下し、走査部位を胃、十二指腸球部、十二指腸下降脚の3種類から選択すると、マッチング回路61は、記憶している補正条件テーブル102に基づき、選択された走査部位にあわせ、各補正の有無と各補正に使用する特徴点を決定するよう構成、作用させた。そのため、通常呼吸状態の超音波内視鏡検査の時に比してX線3次元ヘリカルCT装置16と3次元MRI装置15での撮影時には被検体の横隔膜が下がり、内臓が体軸方向(頭足方向)に圧縮され、骨格に対する内臓の縮尺が変化した場合でも、内臓の各部位の圧縮率に合わせて、縮尺補正の使用の有無を切り替え、最適な特徴点を選択が可能であり、3次元ガイド画像が超音波断層像をより一層正確にガイドすることができる。
なお、上述した本実施形態では、体腔内特徴点の位置を超音波内視鏡の観察窓を当てて取得したが、構成はこれに限らない。鉗子チャンネルを備えた超音波内視鏡と、鉗子チャンネルに挿通する体腔内接触プローブを設けて、体腔内接触プローブ先端を体腔内特徴点に当てて取得してもよい。また、体腔内特徴点を超音波画像上や光学画像上で選択することで体腔内特徴点を取得してもよい。
また、本実施形態では、超音波プローブとして電子ラジアル走査型超音波内視鏡を用いたが、特開2004−113629号公報で開示されている超音波診断装置のように、機械走査型超音波内視鏡でも、挿入軸の一方に超音波振動子群を扇状に設けた電子コンベックス走査型超音波内視鏡でも、カプセル型の超音波ゾンデでも良く、超音波の走査方式は限定されるものではない。また光学観察窓の無い超音波プローブでもあってもよい。
また、本実施形態では、超音波内視鏡の硬性部において超音波振動子を短冊状に細かく切断し、挿入軸の周囲に環状のアレイとして配列させたが、超音波振動子のアレイは360°全周に設けても、それより欠けても良い。例えば270°や180°等でも良い。
また、本実施形態では、医用器具として超音波内視鏡を使用するよう構成、作用させたが、医用器具は、気管支鏡や消化器内視鏡や腹腔鏡であってもよい。また、医用器具は、内視鏡に限らず、体外から超音波を照射する方式の、いわゆる体外式の超音波診断装置であってもよい。
また、本実施形態では位置検出手段として送信アンテナと受信コイルとを用い、磁場で位置と配向とを検出するよう構成、作用させたが、磁場の送受は逆でも良く、また、磁場ではなく加速度や他の手段で位置と配向とを検出するよう構成、作用させても良い。
また、本実施形態では、原点Oを送信アンテナ上の特定の位置に設定するよう構成したが、送信アンテナと位置関係の変わらない他の場所に設定するよう構成しても良い。
また、本実施形態では、画像位置配向検出用コイルを硬性部に固定して設けたが、硬性部との位置が固定されていればよく、必ずしも硬性部の内部に配設されるものでなくともよい。
また、本実施形態では、3次元ガイド画像データ上の各器官を、器官別に色分けして表示させるよう構成したが、色分けの態様に限らず、輝度、明度、彩度等、他の態様でも良い。
また、本実施形態では、参照画像データとして、X線3次元ヘリカルCT装置、3次元MRI装置で撮像された複数枚の2次元CT画像や2次元MRI画像を用いるよう構成、作用したが、PET(Positron Emission Tomography)のような他のモダリティーを用いて事前に取得した3次元画像データを用いても良い。また、体外から超音波を照射する方式の所謂、体外式の超音波診断装置で事前に取得した3次元画像データを用いても良い。
また、参照画像データは、被検体本人から取得されるものであってもよいし、あらかじめ取得された体格の似た性別の同じ他人の画像データを用いてもよい。
また、本実施形態では、姿勢検出用コイルを被検体体表に固定し、位置配向データを得るよう構成したが、1軸に巻かれた4個のコイルからなる体表検出用コイルを設け、各々を被検体体表にテープ、ベルト、バンドなどで、複数の体表特徴点に着脱可能に固定し、体表特徴点の位置配向データを同時に得るよう構成しても良い。このような構成によれば、医用ガイドシステム1の使用時に被検体の姿勢が変化し、4点の体表特徴点間の位置関係が変化してしまった場合でも、正確にガイド画像を生成することが可能となる。
また、姿勢検出用コイルを使用せず、事前に1度だけ体表検出用コイルを複数の体表特徴点に順次接触させて体表特徴点の位置・配向データを順次に得るような構成、作用にしても良い。
(第2の実施形態)
以下に、本発明の第2の実施形態について説明する。本実施形態は、第1の実施形態に対して、縮尺補正の方法のみが異なり、装置構成は同一である、よって以下ではこの相違点のみを説明するものとする。
本実施形態の医用ガイドシステム1においては、ステップS68において実施する縮尺補正を、縮尺補正値Gの被検体100の体軸方向(z’軸方向)の成分Gz’のみを使用して行う。
ここで、被検体100の背骨の曲がりや、呼吸により内臓が圧縮される方向は、主に体軸方向である。したがって、本実施形態によれば、第1の実施形態に比して縮尺補正に必要な計算量を減らすことが可能となり、よりリアルタイム性の高いガイド画像の表示を行うことが可能となる。
また、3点の体腔内特徴点P、Q、Rは、体軸方向には広く取ることができるが、体軸に直交する方向(x’軸方向、y’軸方向)に広く取ることができない。そのため、体軸に直交する方向については、体腔内特徴点の取得時の誤差が補正精度に大きく影響してしまい、3次元ガイド画像と超音波断層像との一致度が下がってしまう可能性がある。しかしながら、本実施形態によれば、体軸に直交する方向(x’軸方向及びy’軸方向)には縮尺補正を実施しないことにより、より正確な3次元ガイド画像を表示することが可能となるのである。
上述した実施形態に基づいて、以下の構成を提案することができる。すなわち、
(付記1)
被検体の体腔内へ挿入され、前記体腔内への挿入側先端に前記被検体内の画像を作成するための信号を取得する画像信号取得手段を設けた体腔内プローブと、
前記画像信号取得手段が取得した信号から前記被検体内のリアルタイム画像を作成する画像作成手段と、
前記画像信号取得手段に対して位置を固定された画像位置配向検出用素子と、
前記画像位置配向検出用素子の位置と配向と、前記体表検出用素子の位置もしくは配向を検出し、検出値として出力する検出手段と、
人体の3次元データから前記被検体内の前記リアルタイム画像の前記被検体に対する位置もしくは配向をガイドするガイド画像を作成するガイド画像作成手段と、
を設けたことを特徴とする医用ガイドシステムにおいて、
前記ガイド画像作成手段が、前記検出手段が出力した前記画像位置配向検出用素子の位置と配向と、前記体表検出用素子の位置もしくは配向の検出値を基に前記ガイド画像を作成する際、前記画像位置配向検出用素子で検出した複数の位置の検出値により前記ガイド画像に補正処理を施す補正手段と、
を設けたことを特徴とする医用ガイドシステム。
(付記2)
前記補正処理が、前記体腔内検出用素子で検出した複数の位置の間の距離と、前記人体の3次元データにおける同一位置の間の距離と、の関係を利用した補正であることを特徴とする付記1に記載の医用ガイドシステム。
(付記3)
前記体腔内プローブの前記先端部位の体腔内での位置に応じて、前記補正処理の有無を切り替えたこと、を特徴とする付記1又は2に記載の医用ガイドシステム。
(付記4)
前記体腔内プローブの前記先端部位の体腔内での位置に応じて、前記補正処理ので使用する前記検出値を切り替えたことを特徴とする付記1から3のいずれか一項に記載の医用ガイドシステム。
(付記5)
平行移動補正のみの(単数の位置の検出値により前記ガイド画像に補正処理を施す)場合に、付記4のように切り替えたことを特徴とする医用ガイド装置。
(付記6)
医用器具の位置及び配向と、被検体体表における複数の体表特徴点の位置と、被検体体腔内における少なくとも一つの体腔内特徴点の位置を検出する検出部と、
前記医用器具を前記被検体に対して使用する以前に取得された、人体の臓器及び器官の少なくとも一方の解剖学的な位置情報を有する参照画像データを記憶する記憶部と、
前記複数の体表特徴点のそれぞれに解剖学的に対応した、前記参照画像データにおける複数の参照画像体表特徴点と、前記体腔内特徴点に解剖学的に対応した、前記参照画像データにおける参照画像体腔内特徴点と、の位置を取得する参照画像特徴点取得部と、
前記複数の体表特徴点により定義される座標系で表された前記医用器具の位置及び配向を、前記複数の参照画像体表特徴点により定義される参照画像座標系に写像した第1の写像を作成することにより、前記参照画像データ中における前記医用機器の位置及び配向をリアルタイムに示すガイド画像を作成するガイド画像作成部と、
を具備する医用ガイドシステムであって、
前記ガイド画像作成部は、前記第1の写像を作成後に、前記参照画像データ中において、前記体腔内特徴点を前記参照画像体腔内特徴点に一致させるよう前記第1の写像を平行移動させる平行移動補正を実施した後に、ガイド画像を作成することを特徴とする医用ガイドシステム。
(付記7)
前記体腔内特徴点及び前記参照画像体腔内特徴点は互いに複数であって、
前記ガイド画像作成部は、前記第1の写像に対して前記平行移動補正を実施した後に、前記複数の体腔内特徴点間の距離と、前記複数の参照画像体腔内特徴点間の距離との比に応じて、前記第1の写像の縮尺を変更する縮尺補正を実施することを特徴とする付記6に記載の医用ガイドシステム。
なお、本発明は、上述した実施形態に限られるものではなく、特許請求の範囲及び明細書全体から読み取れる発明の要旨或いは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う医用ガイドしすてむもまた本発明の技術的範囲に含まれるものである。
例えば気管支内視鏡や腹腔鏡等の内視鏡による診断や手術、さらには体外式の超音波診断装置にも本発明を適用することが可能である。
第1の実施形態の医用ガイドシステムの構成を示す図である。 姿勢検出用コイルの構成を示す図である。 画像処理装置の構成を示すブロック図である。 参照画像記憶部に記憶されている参照画像データを概念的に示す図である。 特徴点リストを示す表である。 ボクセル空間の構成を示す図である。 補正条件テーブルを示す表である。 送信アンテナ上に定義された原点および直交座標系等を示す図である。 超音波断層像マーカの様子を示す図である。 3次元人体画像データを示す図である。 3次元ガイド画像データを示す図である。 3次元ガイド画像データを示す図である。 表示装置に表示される3次元ガイド画像を示す図である。 医用ガイドシステムの全体の動作を表すメインルーチンのフローチャートである。 参照画像データ上の特徴点の座標取得処理のフローチャートである。 実空間上の特徴点の座標取得処理のフローチャートである。 写像体内特徴点算出処理のフローチャートである。 3次元ガイド画像作成表示処理のフローチャートである。 参照画像データ群における参照画像体表特徴点の概念を示す模式図である。 第1の写像を説明するための図である。 ボクセル空間における第2の写像を求める方法を概略的に説明する図である。
符号の説明
1 医用ガイドシステム、 2 超音波内視鏡、 3 超音波観測装置、 4 位置配向算出装置、 5 画像処理装置、 8 表示装置、 10 光学観察装置、 11 入力装置、 14 ネットワーク、 15 3次元MRI装置、 16 X線3次元ヘリカルCT装置、 31 超音波振動子アレイ、 22 受信コイル、 撮像装置 27、 41 送信アンテナ、 42 体表検出用コイル、 43 姿勢検出用コイル、 44 画像位置配向検出用コイル

Claims (2)

  1. 実空間において、医用器具の位置及び配向の少なくとも一方と、被検体における複数の特徴点の位置及び配向の少なくとも一方とを検出する検出部と、
    人体の臓器及び器官の少なくとも一方の解剖学的な位置情報を有する参照画像データを記憶する記憶部と、
    前記実空間における前記被検体の複数の特徴点の位置及び配向の少なくとも一方と、前記参照画像データにおける前記複数の特徴点に解剖学的に対応する複数の参照画像特徴点の位置及び配向の少なくとも一方と、の情報に基づいて、前記実空間における医用器具の位置及び配向の少なくとも一方を、前記参照画像データにおける位置及び配向に変換した写像を生成し、前記写像と前記参照画像データから、前記被検体に対する前記医用器具位置又は前記医用器具の観察位置を前記参照画像との対比によって示すガイド画像を作成するガイド画像作成部と、
    を具備する医用ガイドシステムであって、
    前記ガイド画像作成部は、前記実空間における前記被検体の体腔内の複数の体腔内特徴点の位置及び配向の少なくとも一方と、前記参照画像データにおける前記体腔内特徴点に解剖学的に対応する1つ又は複数の補正特徴点の位置及び配向の少なくとも一方と、の情報に基づいて前記ガイド画像が示す前記医用器具位置又は前記医用器具の観察位置を補正可能に構成されており、当該補正は、複数の前記体腔内特徴点間の距離と、複数の前記補正特徴点間の距離との比較に基づいて前記写像を伸縮する縮尺補正を含むものであって、かつ前記ガイド画像作成部は、前記補正の実施の有無を前記医用器具位置又は前記医用器具の観察位置の近傍である部位に応じて切替可能に構成されている
    ことを特徴とする医用ガイドシステム。
  2. 前記医用器具位置又は前記医用器具の観察位置の近傍である部位に応じて、前記補正に使用する前記体腔内特徴点の解剖学的な位置を変更することを特徴とする請求項1に記載の医用ガイドシステム。
JP2007150923A 2007-06-06 2007-06-06 医用ガイドシステム Expired - Fee Related JP5191167B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007150923A JP5191167B2 (ja) 2007-06-06 2007-06-06 医用ガイドシステム
EP08010054A EP2000087A3 (en) 2007-06-06 2008-06-02 Medical guiding system
US12/132,973 US8204576B2 (en) 2007-06-06 2008-06-04 Medical guiding system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007150923A JP5191167B2 (ja) 2007-06-06 2007-06-06 医用ガイドシステム

Publications (2)

Publication Number Publication Date
JP2008301970A JP2008301970A (ja) 2008-12-18
JP5191167B2 true JP5191167B2 (ja) 2013-04-24

Family

ID=39737161

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007150923A Expired - Fee Related JP5191167B2 (ja) 2007-06-06 2007-06-06 医用ガイドシステム

Country Status (3)

Country Link
US (1) US8204576B2 (ja)
EP (1) EP2000087A3 (ja)
JP (1) JP5191167B2 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9805473B2 (en) * 2008-09-19 2017-10-31 Siemens Healthcare Gmbh Method and system for segmentation of brain structures in 3D magnetic resonance images
FI20086240A (fi) 2008-12-23 2010-06-24 Palodex Group Oy Kuvalevyn lukijalaitteen puhdistusjärjestelmä
FI20086241L (fi) 2008-12-23 2010-06-24 Palodex Group Oy Kuvalevyn lukijalaite
US10198854B2 (en) * 2009-08-14 2019-02-05 Microsoft Technology Licensing, Llc Manipulation of 3-dimensional graphical objects for view in a multi-touch display
US9025841B2 (en) * 2009-11-18 2015-05-05 Siemens Aktiengesellschaft Method and system for segmentation of the prostate in 3D magnetic resonance images
CN103237503B (zh) 2010-09-10 2017-09-05 阿西斯特医疗系统有限公司 用于医学图像搜索的设备和方法
CA3049901A1 (en) 2011-02-17 2012-08-23 Tyto Care Ltd. System and method for performing an automatic and self-guided medical examination
HUE056373T2 (hu) 2011-02-17 2022-02-28 Tyto Care Ltd Rendszer, kézi diagnosztikai készülék valamint eljárások egy távoli szakszemélyzet által levezényelt non-invazív orvosi vizsgálat automatikus végrehajtására
JP5854399B2 (ja) * 2011-11-21 2016-02-09 オリンパス株式会社 医用システム
US8646921B2 (en) 2011-11-30 2014-02-11 Izi Medical Products Reflective marker being radio-opaque for MRI
US10404976B2 (en) 2011-12-27 2019-09-03 Koninklijke Philips N.V. Intra-operative quality monitoring of tracking systems
US8661573B2 (en) 2012-02-29 2014-03-04 Izi Medical Products Protective cover for medical device having adhesive mechanism
BE1019941A3 (nl) * 2012-06-05 2013-02-05 Tait Technologies Bvba Inrichting voor de weergave van driedimensionale beelden, systeem voor de creatie van driedimensionale beelden, en werkwijze voor de creatie van driedimensionale beelden.
JP6069923B2 (ja) * 2012-07-20 2017-02-01 セイコーエプソン株式会社 ロボットシステム、ロボット、ロボット制御装置
KR20150015680A (ko) * 2013-08-01 2015-02-11 씨제이씨지브이 주식회사 특징점의 생성을 이용한 이미지 보정 방법 및 장치
JP5918734B2 (ja) * 2013-09-25 2016-05-18 富士フイルム株式会社 医用画像処理装置およびその作動方法並びに医用画像処理プログラム
CA2958570C (en) * 2014-08-20 2017-11-28 Synaptive Medical (Barbados) Inc. Intra-operative determination of dimensions for fabrication of artificial bone flap
CA2994024C (en) * 2015-07-29 2019-03-05 Synaptive Medical (Barbados) Inc. Handheld scanner for rapid registration in a medical navigation system
JP6105703B1 (ja) 2015-09-29 2017-03-29 ミネベアミツミ株式会社 生体情報モニタリングシステム
JP7250675B2 (ja) 2016-11-11 2023-04-03 ボストン サイエンティフィック サイムド,インコーポレイテッド 誘導システム
KR102592905B1 (ko) * 2016-12-21 2023-10-23 삼성전자주식회사 엑스선 영상 촬영 장치 및 제어방법
US10925628B2 (en) 2017-09-18 2021-02-23 Novuson Surgical, Inc. Tissue engagement apparatus for theapeutic ultrasound apparatus and method
CN111670018A (zh) * 2018-01-10 2020-09-15 柯惠Lp公司 用于定位患者和手术机器人的引导
KR102608820B1 (ko) 2018-02-09 2023-12-04 삼성메디슨 주식회사 초음파 진단 장치 및 그 표시 방법
US20210267695A1 (en) * 2018-07-10 2021-09-02 Intuitive Surgical Operations, Inc. Systems and methods for orientation detection and tool installation
KR20200075623A (ko) * 2018-12-18 2020-06-26 (주)제노레이 2차원 의료 영상 및 3차원 의료 영상의 정합을 이용한 치과 치료 계획 장치 및 방법
CN115937219B (zh) * 2023-03-14 2023-05-12 合肥合滨智能机器人有限公司 一种基于视频分类的超声图像部位识别方法及系统

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4072587B2 (ja) * 1996-02-15 2008-04-09 バイオセンス・ウェブスター・インコーポレイテッド 位置決定システム用の独立位置可能トランスデューサ
US7689014B2 (en) * 2000-01-18 2010-03-30 Z-Kat Inc Apparatus and method for measuring anatomical objects using coordinated fluoroscopy
US7477763B2 (en) * 2002-06-18 2009-01-13 Boston Scientific Scimed, Inc. Computer generated representation of the imaging pattern of an imaging device
US7542791B2 (en) * 2003-01-30 2009-06-02 Medtronic Navigation, Inc. Method and apparatus for preplanning a surgical procedure
US20050085717A1 (en) * 2003-10-21 2005-04-21 Ramin Shahidi Systems and methods for intraoperative targetting
US20050085718A1 (en) * 2003-10-21 2005-04-21 Ramin Shahidi Systems and methods for intraoperative targetting
US20060036162A1 (en) * 2004-02-02 2006-02-16 Ramin Shahidi Method and apparatus for guiding a medical instrument to a subsurface target site in a patient
EP1722705A2 (en) * 2004-03-10 2006-11-22 Depuy International Limited Orthopaedic operating systems, methods, implants and instruments
JP4537756B2 (ja) * 2004-04-30 2010-09-08 オリンパス株式会社 超音波診断装置
JP4681857B2 (ja) * 2004-11-25 2011-05-11 オリンパス株式会社 超音波診断装置
US7756563B2 (en) * 2005-05-23 2010-07-13 The Penn State Research Foundation Guidance method based on 3D-2D pose estimation and 3D-CT registration with application to live bronchoscopy
US7835785B2 (en) * 2005-10-04 2010-11-16 Ascension Technology Corporation DC magnetic-based position and orientation monitoring system for tracking medical instruments
JP2007175431A (ja) * 2005-12-28 2007-07-12 Olympus Medical Systems Corp 超音波診断装置
JP4875416B2 (ja) * 2006-06-27 2012-02-15 オリンパスメディカルシステムズ株式会社 医用ガイドシステム
JP4868959B2 (ja) * 2006-06-29 2012-02-01 オリンパスメディカルシステムズ株式会社 体腔内プローブ装置
US7824328B2 (en) * 2006-09-18 2010-11-02 Stryker Corporation Method and apparatus for tracking a surgical instrument during surgery
EP2036494A3 (en) * 2007-05-07 2009-04-15 Olympus Medical Systems Corp. Medical guiding system
JP5394622B2 (ja) * 2007-07-31 2014-01-22 オリンパスメディカルシステムズ株式会社 医用ガイドシステム
JP5208495B2 (ja) * 2007-12-27 2013-06-12 オリンパスメディカルシステムズ株式会社 医療用システム

Also Published As

Publication number Publication date
US8204576B2 (en) 2012-06-19
EP2000087A3 (en) 2011-10-19
US20080306379A1 (en) 2008-12-11
EP2000087A2 (en) 2008-12-10
JP2008301970A (ja) 2008-12-18

Similar Documents

Publication Publication Date Title
JP5191167B2 (ja) 医用ガイドシステム
JP5208495B2 (ja) 医療用システム
JP5394622B2 (ja) 医用ガイドシステム
JP4868959B2 (ja) 体腔内プローブ装置
US20080281189A1 (en) Medical guiding system
JP4875416B2 (ja) 医用ガイドシステム
JP5580637B2 (ja) 画像処理装置、内視鏡装置の作動方法及びプログラム
EP2430979B1 (en) Biopsy support system
JP4681857B2 (ja) 超音波診断装置
JP2007307372A (ja) 超音波映像と外部医療映像の合成映像をディスプレイするための超音波システム
JP6141559B1 (ja) 医療装置、医療画像生成方法及び医療画像生成プログラム
JP2008220802A (ja) 医用画像診断装置
JP5226244B2 (ja) 医用ガイドシステム
JP4869197B2 (ja) 医用ガイド装置
JP4869189B2 (ja) 医用ガイドシステム
JP2009082240A (ja) 経食道心エコー法シミュレーション装置及びその応用装置
JP4700434B2 (ja) 超音波診断装置
JP5307357B2 (ja) 超音波診断装置
JP2008301969A (ja) 超音波診断装置
TCIRCUI is ESA hill REFERENCE

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100528

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130129

R151 Written notification of patent or utility model registration

Ref document number: 5191167

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160208

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees