JPWO2014171391A1 - 内視鏡システム - Google Patents

内視鏡システム Download PDF

Info

Publication number
JPWO2014171391A1
JPWO2014171391A1 JP2014552430A JP2014552430A JPWO2014171391A1 JP WO2014171391 A1 JPWO2014171391 A1 JP WO2014171391A1 JP 2014552430 A JP2014552430 A JP 2014552430A JP 2014552430 A JP2014552430 A JP 2014552430A JP WO2014171391 A1 JPWO2014171391 A1 JP WO2014171391A1
Authority
JP
Japan
Prior art keywords
unit
image
information
endoscope
distal end
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014552430A
Other languages
English (en)
Other versions
JP5687811B1 (ja
Inventor
秋本 俊也
俊也 秋本
大西 順一
順一 大西
満祐 伊藤
満祐 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2014552430A priority Critical patent/JP5687811B1/ja
Application granted granted Critical
Publication of JP5687811B1 publication Critical patent/JP5687811B1/ja
Publication of JPWO2014171391A1 publication Critical patent/JPWO2014171391A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/061Determining position of a probe within the body employing means separate from the probe, e.g. sensing internal probe position employing impedance electrodes on the surface of the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/065Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2065Tracking using image or pattern recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/365Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/373Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Gynecology & Obstetrics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Endoscopes (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

内視鏡システムは、予め取得した被検体における3次元画像情報を記憶する画像記憶部と、3次元画像情報から所定の管腔臓器を抽出する管腔臓器抽出部と、内視鏡の挿入部の先端に設けられた対物光学系と、対物光学系による視線方向を検出する視線方向検出部と、管腔臓器抽出部により抽出された所定の管腔臓器の芯線方向と視線方向とを比較する方向比較部と、芯線方向と視線方向とのなす角が所定の閾値以下の場合に内視鏡の挿入部の先端の位置及び姿勢の情報を記録する位置姿勢情報記録部と、を備える。

Description

本発明は、被検体内を撮像手段により撮像する内視鏡システムに関する。
近年、体腔内等に挿入可能な挿入部を有する内視鏡は医療分野などにおいて広く用いられるようになっている。
一方、体腔内における気管支のように複雑に分岐した管腔臓器内に挿入して管腔臓器の末端側の目標部位(の患部組織)を検査、又は処置具による生検や処置を行うような場合においては、挿入した際に得られる内視鏡画像のみでは、目標部位付近まで挿入部先端を導入することが困難な場合がある。
このため、目標部位付近まで内視鏡の挿入部先端を導入する作業を支援するための表示等を行うシステム又は装置が提案されている。
例えば、第1の従来例としての日本国特開2011−189074号公報は、気管支に挿入される挿入部と、挿入部に配設される複数のFBGセンサ部と、予め取得した気管支の3次元画像データを記憶する記憶部と、FBGセンサ部のデータから挿入部の形状を測定する形状測定部と、記憶部に記憶される3次元画像データから気管支の芯線を算出する芯線算出部と、形状測定部が測定する形状と芯線算出部が算出する芯線とをもとに、挿入部の位置を算出する位置算出部と、を具備する医療装置を開示している。そして、芯線を抽出することにより、挿入部の先端の位置と方向とを算出する。
また、第2の従来例としての日本国特開2012−24518号公報は、予め取得した被検体の3次元画像から被検体の管状組織(管状臓器)の中心線を取得し、前記管状組織に挿入された内視鏡を前記管状組織の長手方向に沿って移動しつつ撮影された内視鏡画像を表示し、表示された前記内視鏡画像に前記管状組織の1つの特徴領域が表示されたときに、前記内視鏡の基準位置を入力するとともに前記中心線上に前記1つの特徴領域に対応する位置を設定し、前記基準位置からさらに移動された前記内視鏡の移動量及び進行方向を取得し、前記1つの特徴領域に対応する位置から、前記中心線に沿って、前記取得した進行方向に前記取得した移動量だけ離れた位置を現在位置として算出し、算出された現在位置を表す指標を前記中心線上に表示させる支援装置を開示している。そして、管状臓器の芯線と、撮像手段の移動量及び進行方向により撮像手段の位置を算出する。
上記第1の従来例は、芯線を抽出することにより、挿入部の先端の位置を算出する観点を開示し、第2の従来例は、管腔臓器の芯線と撮像手段(内視鏡先端)の移動量及び進行方向によって、撮像手段(内視鏡先端)の位置を算出することを開示しているが、挿入部の先端の位置の算出(推定)に失敗した場合に必要になる再度の位置合わせを行うのに適した情報を記録することを開示していない。
再度の位置合わせを行うような場合には、単に芯線の情報のみだけを挿入部の先端の位置に関する情報として記録するよりも、対物光学系を介して撮像手段により撮像する場合の視線方向等の姿勢情報も記録して、再度の位置合わせを行い易くすることが望まれる。
本発明は上述した点に鑑みてなされたもので、再度の位置合わせ等を行い易くするように内視鏡の先端の位置の情報と共に姿勢の情報を記録する内視鏡システムを提供することを目的とする。
本発明の一態様の内視鏡システムは、予め取得した被検体における3次元画像情報を記憶するよう構成された画像記憶部と、前記3次元画像情報から所定の管腔臓器を抽出するよう構成された管腔臓器抽出部と、内視鏡の挿入部の先端に設けられた対物光学系と、前記対物光学系による視線方向を検出するよう構成された視線方向検出部と、前記管腔臓器抽出部により抽出された前記所定の管腔臓器の芯線方向と前記視線方向とを比較するよう構成された方向比較部と、前記芯線方向と前記視線方向とのなす角が所定の閾値以下の場合に前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録するよう構成された位置姿勢情報記録部と、を備える。
図1は本発明の第1の実施形態の内視鏡システムの全体構成を示す図。 図2Aは気管支の形状画像としての気管支形状画像を示す図。 図2Bは図2Aに示す気管支形状画像上に内視鏡の挿入部の先端の位置と方向とを重畳して表示した様子を示す図。 図2Cは視線方向と芯線方向とのなす角を比較する様子の説明図。 図2Dは再度の位置合わせを行う際にモニタに表示する情報の表示例を示す図。 図3は第1の実施形態の代表的な処理例を示すフローチャート。 図4は位置センサを備えた第1の実施形態の第1変形例の内視鏡システムの全体構成を示す図。 図5は第1変形例における2つの座標系の位置合わせの説明図。 図6は第2変形例における処理の一部を示すフローチャート。 図7は本発明の第2の実施形態における処理の一部を示すフローチャート。 図8は本発明の第3の実施形態における処理の一部を示すフローチャート。 図9は本発明の第4の実施形態における処理の一部を示すフローチャート。 図10は本発明の第5の実施形態における動作の説明図。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(図2A)内に挿入される内視鏡3を備えた内視鏡装置4と、この内視鏡装置4と共に使用され、内視鏡3の挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4は、内視鏡3と、この内視鏡3に照明光を供給する光源装置6と、内視鏡3に搭載された撮像手段(撮像部)を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8と、CCU8により生成された内視鏡画像を表示する表示装置(表示部)としてのモニタ9と、を有する。
内視鏡3は、可撓性を有する細長の挿入部(又は内視鏡挿入部)11と、この挿入部11の後端に設けられた操作部12とを有し、挿入部11の先端付近に設けた先端部13には照明窓と観察窓とが設けられる。挿入部11,操作部12内には照明光を伝達するライトガイド14が挿通され、このライトガイド14の後端の入射端は光源装置6に接続され、光源装置6内の図示しない光源ランプ又はLEDにより発生した照明光が入射端に入射される。このライトガイド14により伝達された照明光は、照明窓に取り付けられた出射端(先端面)から前方に出射される。
また、観察窓には、被写体を結像する対物光学系を形成する対物レンズ15が取り付けられ、その結像位置に電荷結合素子(CCD)等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内部を被写体として撮像する撮像手段(撮像部)としての撮像装置16が形成される。
なお、本実施形態においては、対物レンズ15の光軸方向は、挿入部11の先端部13(又は先端)の軸方向又は長手方向と平行である。従って、撮像装置16により被写体を撮像する撮像方向(又は撮像装置16を介してユーザが見る視線方向)は、対物レンズ15の光軸方向に沿った対物レンズ15の前方側(撮像素子7と反対側)の方向となる。また、対物レンズ15の光軸方向と、挿入部11の先端部13の軸方向又は長手方向は一致すると近似できる。
このため、本実施形態においては、対物レンズ15を介しての撮像素子7の撮像方向又は視線方向は、挿入部11の先端の軸方向又は長手方向と一致すると近似できる。そして、少なくとも挿入部11の先端に配置された対物レンズ15の撮像方向又は視線方向の情報によって挿入部11の先端の位置と姿勢が決定し、逆に挿入部11の先端の位置と姿勢の情報から対物レンズ15の撮像方向又は視線方向が決定する。
本実施形態においては、挿入部11の先端の位置と姿勢を、挿入部11の先端の位置と先端の軸方向又は長手方向又は対物レンズ15の視線方向と言い換えることもできる。
なお、本発明は、図1に示すように先端部13に撮像装置16を設けた構成の内視鏡3に限らず、先端部13に設けた対物レンズ15の結像位置にファイババンドルで構成したイメージガイドの先端面を配置したファイバススコープと、該イメージガイドの接眼部にTVカメラを装着したカメラ装着内視鏡の場合にも適用できる。いずれの内視鏡の場合にも先端部13には、少なくとも対物レンズ15が配置されている。このため、撮像装置16の視線方向よりも対物レンズ15の視線方向または対物レンズ15による視線方向を主に用いる。
撮像素子7は、挿入部11,操作部12内を挿通された信号線を介してCCU8に接続される。CCU8は、その内部の画像信号生成回路8aにより撮像素子7の撮像面に結像された光学像に対応する撮像画像の画像信号を生成し、この画像信号をモニタ9に出力する。モニタ9は、画像信号の画像(動画像)を、内視鏡画像として表示する。
内視鏡3の挿入部11における先端部13の後端には湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ20を回転する操作を行うことにより、図示しないワイヤを介して湾曲部19を上下、左右の任意の方向に湾曲することができる。
上記挿入支援装置5は、内視鏡3による検査が行われる患者に対して、公知のCT装置で生成された患者の3次元画像情報としてのCTデータを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCTデータ取込部21と、このCTデータ取込部21によって取り込まれたCTデータを記憶するCT画像データ記憶部22とを有する。
なお、CT画像データ記憶部22は、CT装置で生成された(被検体としての患者の3次元画像情報としての)CTデータを通信回線、インタネット等を経由して記憶しても良い。このCT画像データ記憶部22は、ハードディスク装置や、フラッシュメモリ、DVD等により構成することができる。
また、画像記憶手段を構成するCT画像データ記憶部22は、CTデータより画像データを分離したCT画像データと、CTデータより位置情報を分離した該CT画像データに対応する第1の座標系を用いた3次元の位置データとを対応付けた対応付け画像情報として記憶する対応付け画像情報記憶部22aを有する。
また、挿入支援装置5は、CT画像データ記憶部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出手段としての管腔臓器抽出回路等からなる気管支抽出部23を有する。
この気管支抽出部23は、抽出した気管支2の3次元データ(より具体的には3次元のボリュームデータ)から、気管支2の中空形状を表す3次元形状の情報(形状データ)と、3次元形状の画像情報(画像データ)を生成する。つまり、気管支抽出部23は、抽出した気管支2の3次元データから中空の3次元形状の気管支形状の画像としての気管支形状画像を生成する気管支形状画像生成手段としての気管支形状画像生成部23aを有する。なお、気管支抽出部23は、中央処理装置(CPUと略記)等のソフトウェアで構成しても良いし、或いはFPGA(Field Programmable Gate Array)等や、電子回路素子を用いてハードウェアで構成しても良い。なお、後述する画像処理部25、制御部26も同様にCPU等のソフトウェアで構成しても良いし、FPGA、電子回路素子を用いてハードウェアで構成しても良い。
また、この気管支抽出部23は、気管支2の3次元データを抽出する際、3次元データに対応する第1の座標系(又はCT座標系)での3次元の位置データと対応付けて抽出する。そして、この気管支抽出部23は、気管支2の3次元形状のデータ(つまり気管支形状データ)と3次元の位置データとを対応付けした対応付け情報を記憶するメモリなどからなる対応付け情報記憶部23bを有する。
また、挿入支援装置5は、内視鏡3における挿入部11の先端部13に設けた対物レンズ15を介して撮像素子7により撮像される内視鏡画像に対応する仮想的な内視鏡画像としての仮想内視鏡画像(VBS画像と言う)を生成する仮想内視鏡画像生成手段を形成するVBS画像生成回路からなるVBS画像生成部24を有する。
VBS画像生成部24には、内視鏡3の先端部13に搭載された対物レンズ15と、撮像素子7に関する情報(対物レンズ15の焦点距離、撮像素子7の画素数、画素サイズ等の情報)が、例えば入力装置31から入力される。
VBS画像生成部24は、実際に気管支2内に挿入された内視鏡3の先端に配置された対物レンズ15により気管支2内の被写体を撮像素子7の撮像面に結像する結像系の特性情報と、撮像面に結像された光学像を内視鏡画像に変換する撮像素子7の画素サイズ、画素数などの情報と、気管支形状データに基づいて、気管支2内に挿入された前記内視鏡3の挿入部11の先端のCT座標系での3次元位置(単に位置とも言う)を視点位置として、対物レンズ15の視線方向に沿った気管支2内を内視鏡的に撮像した内視鏡画像を仮想的に描画してVBS画像を生成する。
つまり、VBS画像生成部24は、CT座標系において挿入部11の先端(の対物レンズ15)の位置を視点位置として、該視点位置に対物レンズ15を、その光軸が視線方向に沿うように仮想的に配置してその結像位置に撮像素子7の撮像面が仮想的に配置されているとして、その撮像面に結像される気管支2内の画像をVBS画像として生成する。
従って、内視鏡画像とVBS画像との両画像を十分に一致するように画像マッチングさせた状態においては、CT座標系でのVBS画像の視点位置と視線方向の情報から内視鏡3の挿入部11の先端の位置と、先端に配置された対物レンズ15の視線方向と殆ど一致する先端の長手方向の姿勢の情報を取得することができる。後述する位置姿勢算出部25bは、このようにして位置姿勢情報を算出(推定)する。
なお、内視鏡3が各内視鏡3に固有の識別情報を発生するROM等から構成される識別情報発生部を有する場合には、挿入支援装置5に接続された内視鏡3の識別情報に基づいて、VBS画像生成部24が、自動的にその内視鏡3に搭載された対物レンズ15と撮像素子7の情報を取得して、対応するVBS画像を生成するようにしても良い。
また、挿入支援装置5は、CCU8から入力される内視鏡画像と、VBS画像生成部24のVBS画像との位置合わせを画像マッチングで行うよう構成された位置合わせ処理部25a等の画像処理を行うよう構成された画像処理部25と、画像処理部25等の制御を行うよう構成された制御手段としての制御部26と、制御部26の制御下で挿入支援するための情報として利用される挿入部11の先端の位置及び姿勢の情報を記憶するよう構成された位置姿勢情報記録手段としての位置姿勢情報記録部27とを有する。なお、挿入部11の先端の姿勢は、本実施形態においては、(先端に配置された対物レンズ15の視線方向と殆ど一致する)先端の長手方向又は軸方向で決定する。
また、挿入支援装置5は、CT画像データ記憶部22に記憶されたCT画像データに基づき多断面再構築画像としてのCT断層画像(MPR画像という)を生成するよう構成されたMPR画像生成部28と、MPR画像生成部28が生成したMPR画像を有する挿入経路の設定画面としての経路設定画面を生成し、内視鏡3の気管支2内の目標部位側へ挿入する際の経路を設定するよう構成された経路設定部29とを有する。
そして、例えばCT画像データから図2Aに示すように目標部位36を指定した場合、経路設定部29はCT画像データと気管支形状画像2aとから気管支2における(挿入部11の)挿入開始位置から目標部位36近傍となる目標位置までの経路データを生成する経路データ生成部(又は経路データ生成回路)29aの機能を有する。なお、図2Aにおいては、気管支2における管腔が気管支枝に分岐する境界のスパーSpi(i=1,2,3,4,5)や、管腔の中心線としての芯線35が分岐する分岐点Biを示している。
また、内視鏡システム1は、経路設定部29に対して設定情報を入力するキーボードやポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部26に対して制御動作を選択や、指示することができる。
また、術者が経路設定を行った場合、経路設定部29は設定された経路の情報をVBS画像生成部24、MPR画像生成部28、制御部26に送る。VBS画像生成部24及びMPR画像生成部28は、それぞれ経路に沿ったVBS画像、MPR画像を生成し、制御部26は経路に沿って各部の動作の制御を行う。
上記画像処理部25には、CCU8により生成された内視鏡画像と、VBS画像生成部24により生成されたVBS画像とが入力される。また、気管支形状画像生成部23aにより生成された気管支形状画像2aも、画像処理部25に入力される。
本実施形態においては、撮像装置16が配置された挿入部11の先端部13に、挿入部11の先端の位置を検出するセンサを搭載していないため、画像処理部25の位置合わせ処理部25aは、画像マッチングによって挿入部11の先端の位置と、その姿勢としての先端の長手方向又は軸方向を推定(又は算出)する。つまり、位置合わせ処理部25aは、画像マッチングによって挿入部11の先端の位置及び姿勢の情報を算出する位置姿勢算出手段としての位置姿勢算出部(位置姿勢算出回路)25bの機能を有する。
補足説明すると、予め、気管支2の入口やカリーナK(図2A参照)等、気管支形状画像2aからCT座標系により特定できる3次元位置(既知となる位置)又はその近傍位置を画像マッチングの開始位置として設定すると共に、対物レンズ15の視線方向及び光学特性を考慮して設定したその位置姿勢情報を基にVBS画像生成部24はVBS画像を生成する。
そして、術者は内視鏡画像がVBS画像と同じように見えるように挿入部11の先端を挿入する。このような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、内視鏡画像とVBS画像とが設定された条件(所定の精度を確保できる誤差以内)で一致するように画像マッチングの処理を開始する。このような処理を行うことにより、位置合わせ処理部25aは、挿入部11の先端の位置と対物レンズ15の視線方向(又は先端の長手方向)で決定する姿勢とを推定により検出又は算出する位置姿勢算出手段としての位置姿勢算出部(位置姿勢算出回路)25bの機能を有する。
なお、位置姿勢算出部25bは、挿入部11の先端の3次元位置を推定により検出又は算出する位置算出手段としての位置算出部(位置算出回路)25cの機能を有する。
後述する図4に示す変形例のように先端部13に位置検出の位置センサ41を設け、該位置センサ41を用いて挿入部11の先端の3次元位置を検出(算出)する位置算出部42bを構成し、画像マッチングにより姿勢を算出しても良い。なお、本明細書においては、挿入部11の先端は、内視鏡3の先端と同じ意味で用いる。
また、画像処理部25は、対物レンズ15を介して撮像素子7により取得される内視鏡画像と、VBS画像とを比較する画像比較手段としての画像比較部(画像比較回路)25dと、対物レンズ15による視線方向を検出する視線方向検出手段としての視線方向検出部(視線方向検出回路)25eと、気管支2の管腔の中心線の方向としての芯線方向と、視線方向とを比較する方向比較手段としての方向比較部(方向比較回路)25fとを有する。
また、画像処理部25は、視線方向検出部25eが視線方向を検出した挿入部11の先端の位置付近での芯線方向を算出(取得)する芯線方向算出部(芯線方向算出回路)25gを有する。芯線方向算出部25gは、例えば視線方向検出部25eが視線方向を検出した挿入部11の先端の位置付近に対応するCT座標系での芯線35の接線又はこれに近い方向を(視線方向と比較する際の)芯線方向として算出する。そして、方向比較部25fは、上記視線方向と芯線方向算出部25gにより算出された芯線方向とを比較する。視線方向検出部25e又は方向比較部25fが、芯線方向算出部25gの機能を備える構成にしても良い。方向比較部25fが芯線方向算出部25gの機能を備える構成の場合には、方向比較部25fは、管腔臓器抽出部を構成する気管支抽出部23により抽出された所定の管腔臓器としての気管支の芯線方向を算出し、算出した芯線方向と視線方向検出部25eにより検出された視線方向とを比較する。
上記位置姿勢算出部25bは、画像比較部25dにより内視鏡画像と、VBS画像とが予め設定された条件以内で一致した場合の比較結果の場合に、挿入部11の先端の位置及び姿勢の情報(換言すると、挿入部11の先端の位置及び対物レンズ15の視線方向の情報)を算出(取得)する。
上記視線方向検出部25eは、挿入部11の先端の長手方向を検出する先端方向検出手段と殆ど等価であり、上記位置姿勢算出部25bが挿入部11の先端の位置及び姿勢の情報を算出した際の姿勢の情報から視線方向を算出(検出)する。このため、位置姿勢算出部25bが視線方向検出部25eの機能を備える構成にしても良い。
また、画像処理部25は、制御部26における表示を制御するよう構成された表示制御部26a等の制御の下で、モニタ32に表示する画像を生成するよう構成された画像生成部の機能を有する。
また、画像処理部25は、画像比較部25dが画像の比較を行う場合の内視鏡画像と、VBS画像との画像データ等を一時的に記憶したり、位置や姿勢や視線方向等のデータを一時的に記憶する画像メモリ25hと、後述するように内視鏡画像の回転的な変化の有無をモニタすることにより、内視鏡画像の回転的な変化の有無の検出結果に基づいて挿入部11の回転的な方向変化を検出する方向変化検出手段を構成するよう構成された方向変化検出部(方向変化検出回路)25i(図1において点線で示している)とを有する。
表示制御部26aの制御下で、画像処理部25は、通常は、気管支形状画像生成部23aにより生成された気管支形状画像2aの画像信号(映像信号)をモニタ32に出力し、モニタ32には図2Aに示すように気管支形状画像2aが例えば管腔の中心を通る方向に沿った断面で切り出した2次元断層画像として表示される。なお、2次元断層画像で表示する場合に限定されるものでなく、3次元画像で表示しても良い。3次元画像で表示する場合には、例えば平行投影法による投影図や、管腔内部が分かるように透視図で表示しても良い。
また、図2Aに示すように、モニタ32において表示される気管支形状画像2aには、気管支2の管腔の中心を通る芯線35も表示するようにしている。芯線35は、例えば気管支形状画像生成部23aが生成するが、画像処理部25において芯線35を生成しても良い。
術者等のユーザは、挿入部11をその先端から気管支2内に挿入する場合、芯線35が表示されるため、その表示を参考にすることによって、挿入部11の挿入の操作が行い易くなる。また、芯線35に沿って挿入する操作を行うことにより、画像マッチングによる挿入部11の先端の位置及び姿勢を算出(推定)する処理を短時間に行うことができる。
画像処理部25は、気管支2の深部側(末端側)に挿入する操作において、内視鏡画像とVBS画像との両画像のマッチング(画像マッチング)を利用して、CT座標系のもとで挿入部11の先端の移動した位置及び姿勢の他に、移動距離を算出する処理を行うこともできる。
つまり、ある位置において両画像がマッチングしている場合、挿入部11の先端を芯線35に沿って(挿入のために)移動する操作に伴って、内視鏡画像が変化する。
この場合、位置合わせ処理部25a又は位置姿勢算出部25bは、芯線35に沿った経路上で移動した場合の(VBS画像生成部24から出力される)VBS画像を用いて前記内視鏡画像と最も良くマッチングするVBS画像を画像処理により選出し、選出したVBS画像に対応する3次元位置を挿入部11の先端の位置として算出(推定)する。従って、位置姿勢算出部25bや位置算出部25cは、移動した移動距離も2つの位置の差分量から算出(推定)することができる。
なお、挿入部11の先端は、芯線35上から外れた位置において移動される場合もあるため、芯線35から適宜の距離だけ偏心した位置においてのVBS画像をVBS画像生成部24が生成し、生成したVBS画像を位置合わせ処理部25aに出力することができるようにしている。このようにして、画像マッチングによる位置算出の範囲を拡大できるようにしている。上記制御部26は、位置合わせ処理部25aにより算出した挿入部11の先端の位置により経路データ生成部29aによって、(内視鏡3の挿入部11の挿入前に)生成された経路データを補正するようにしても良い。
また、制御部26は、画像処理部25(の位置姿勢算出部25b)により算出された挿入部11の先端が所定の条件を満たすか否かの判定を行う条件判定部(条件判定回路)26bの機能を有する。条件判定部26bは、所定の条件を満たす判定結果の場合に、該当する挿入部11の先端の位置及び(対物レンズ15の視線方向に対応する)姿勢の情報、つまり位置姿勢情報をメモリ等により構成される位置姿勢情報記録部27に記録させる。
このため、条件判定部26bは、位置姿勢情報を位置姿勢情報記録部27に記録させる記録制御手段としての記録制御部(記録制御回路)の機能を有する。なお、位置姿勢情報を位置姿勢情報記録部27に記録させる場合、位置姿勢情報の他に、該位置姿勢情報に対応するVBS画像と、その記録の時間とを位置姿勢情報に関連付けて位置姿勢情報記録部27に記録させるようにしても良い。
このようにすると、再度の位置合わせを行うために提示する情報(候補情報とも言う)を提示する場合、位置姿勢情報に対応するVBS画像を取得して表示することを短時間に表示できる。また、記録する時の時間を記録しておくことにより、例えば再度の位置合わせを行う時間に近い過去の情報を選択的に表示したり、所定の時間間隔内における複数の情報を表示するように制御することが可能になる。また、情報を表示(提示)する際に、時間を表示することにより、術者が、情報の時間的変化などを把握し易くなる。
なお、VBS画像を記録しない場合においても、記録した位置姿勢情報から、該位置姿勢情報に対応するVBS画像を取得して表示することも可能になる。しかし、挿入部11を気管支2の深部側の目標とする目標位置まで挿入する過程において、再度の位置合わせ等を行い、以前の位置合わせの際の座標系を補正したような場合には、該補正等を考慮してVBS画像を取得して表示することが必要となる。上記のようにVBS画像も記録しておくと、再度の位置合わせの有無に関係なく、各位置姿勢情報に対応するVBS画像を短時間に表示することができる。
本実施形態においては、方向比較部25fにより比較された気管支2の芯線方向と、視線方向検出部25eにより検出された視線方向とのなす角θが所定の閾値以下となる場合を、上記所定の条件を満たす場合に設定している。なお、所定の閾値の情報は、例えばメモリ等から構成される位置姿勢情報記録部27に記録されているが、位置姿勢情報記録部27以外のメモリ等の記録装置に記録しても良い。
上記方向比較部25fは、気管支2の芯線方向と、視線方向とのなす角θが所定の閾値以下となる場合に、この場合の挿入部11の先端の位置及び姿勢の情報を位置姿勢情報記録部27に記録させるように制御する。なお、図1では条件判定部26bを制御部26内部に設けた構成で示しているが、画像処理部25内に条件判定部26bを設けた構成にしても良い。
また、方向比較部25fが、条件判定部26bの機能を備えた構成にしても良い。なお、上記両方向のなす角θを用いて、上記所定の条件を設定する代わりに、以下の内積を利用しても良い。上記芯線方向と、視線方向の各単位ベクトルを算出(設定)し、両ベクトルの内積を算出して、算出された内積の値が閾値以上となる場合を、上記所定の条件を満たす場合に設定しても良い。
両方向のなす角θが所定の閾値以下となる条件は、挿入部11の先端の視線方向が芯線方向と概略同じとなるため、その場合には、気管支2の末梢側が見える状態となり、その状態では近くに分岐部が存在すると、挿入する場合の特徴領域となる分岐部を視野内に捕らえられ、位置合わせも行い易くなる。これに対して、所定の条件を満たすか否かに無関係に、位置姿勢情報を記録すると、位置合わせに不適切な情報も含まれてしまい、再度の位置合わせを円滑に行い難くなる。
位置姿勢情報記録部27に位置姿勢情報を記録する場合、挿入部11の先端の位置及び姿勢と、該先端の位置及び姿勢に対応するVBS画像を(その視線方向又は姿勢の情報と共に)記録し、提示が必要な場合に提示する候補情報として記録するようにしても良い。
つまり、位置姿勢情報記録部27は、挿入部11の先端の位置姿勢情報と、該位置姿勢情報に対応するVBS画像及びVBS画像の生成に用いるCT座標系の位置及び視線方向の情報等のVBS画像生成情報とを記録する位置姿勢情報&VBS画像生成情報記録部27aを備えた構成にしても良い。
また、位置姿勢情報記録部27等に記録された情報は、読み出すことにより、モニタ32に位置合わせの候補となる候補情報として提示(表示)が可能な情報であるので、候補情報として記録する候補情報記録部の機能を有するとも言える。
なお、上記位置姿勢情報、該位置姿勢情報に対応するVBS画像、その記録の時間と共に、該位置姿勢情報に対応する内視鏡画像も位置姿勢情報記録部27に記録するようにしても良い。そして、位置姿勢情報記録部27に記録されたVBS画像と共に記録された内視鏡画像を、再度の位置合わせを行う場合に利用することができるようにしても良い。
本実施形態においては、挿入部11を気管支2内の目標位置まで挿入する操作の過程において、上述した視線方向と芯線方向とのなす角θが所定の閾値以下の条件を満たす場合には、挿入部11の先端の位置及び姿勢の情報等を位置姿勢情報記録部27に記録する。
また、挿入部11の先端の位置姿勢情報の代わりに芯線方向算出部25gが算出した芯線上の点と芯線方向を記録するようにしても良い。この場合、VBS画像は記録した位置姿勢情報から取得して表示することになる。
これにより、画像マッチングによる最初の位置合わせ後から挿入部11の移動操作により挿入部11の先端の(画像マッチングを利用した)位置推定の精度が低下して、再度の位置合わせ(又は再位置合わせ)を行うことが必要になった場合等においては、その再位置合わせのための情報を候補情報として提示することができるようにしている。
再位置合わせを行う指示を術者が入力装置31を構成するキーボード、マウス等から画像処理部25又は制御部26に指示入力しても良い。
再位置合わせの指示等がされる(又はトリガ入力される)と、制御部26の表示制御部26aは、現在の挿入部11の先端の位置付近における候補情報を位置姿勢情報記録部27から読み出し、画像処理部25を経てモニタ32において候補情報を提示する制御を行う。
モニタ32において候補情報を提示する制御を行う表示制御部26aは、候補情報提示の制御を行うよう構成された候補情報提示制御部の機能を有する。また、画像処理部25は、表示制御部26aの候補情報提示の制御を受けて、候補情報をモニタ32に表示するよう構成された候補情報生成部の機能を有する。
なお、表示制御部26aが、位置姿勢情報記録部27から情報を読み出し、画像処理部25を経ることなくモニタ32において候補情報を提示するように制御しても良い。モニタ32において候補情報を提示する場合、例えば2次元断層画像として図2Dに示す気管支形状画像2a上に、画像比較に関する(又は画像比較により)候補情報における挿入部11の先端の位置及び姿勢の情報と、該候情報に対応するVBS画像を表示する。
上述したように、画像処理部25の位置合わせ処理部25aは、挿入部11の先端が移動された場合、画像マッチングを利用して挿入部11の先端及び姿勢を推定(算出)するが、設定された精度以内で画像マッチングすることができなくなる画像マッチングエラーが発生する場合がある。
この場合には、画像処理部25の位置合わせ処理部25aは、画像マッチングエラーの信号を発生し、モニタ32において画像マッチングエラーが発生したことを表示する。また、位置合わせ処理部25aは、画像マッチングエラーの信号を制御部26に送り、制御部26の表示制御部26aは、モニタ32において候補情報を提示する制御を行う。そして、上記モニタ32は、術者に対して候補情報を提示するよう構成された候補情報提示手段(候補情報提示部)を形成する。
術者は、候補情報を用いて再度の位置合わせ処理を行う。再度の位置合わせ処理を行うことにより、術者はこの再度の位置合わせ処理を行った位置付近から挿入部11の挿入操作を続行することができるようになる。
また、術者が画像マッチングの精度が悪化したと判断した場合は、再位置合わせの指示をして上記の処理をさせてもよい。
このような構成の内視鏡システム1は、予め取得した被検体における3次元画像情報を記憶する画像記憶手段を形成するよう構成されたCT画像データ記憶部22と、前記3次元画像情報から所定の管腔臓器としての気管支2を抽出する管腔臓器抽出手段を形成するよう構成された気管支抽出部23と、内視鏡3の挿入部11の先端に設けられた対物光学系としての対物レンズ15と、対物レンズ15による視線方向を検出する視線方向検出手段を形成するよう構成された視線方向検出部25eと、前記管腔臓器抽出手段により抽出された前記所定の管腔臓器の芯線方向と前記視線方向とを比較する方向比較手段を形成するよう構成された方向比較部25fと、前記芯線方向と前記視線方向とのなす角が所定の閾値以下の場合に前記内視鏡3の挿入部11の先端の位置及び姿勢の情報を記録する位置姿勢情報記録手段を形成するよう構成された位置姿勢情報記録部27と、を備えることを特徴とする。
次に本実施形態における代表的な処理を図3のフローチャートを参照して説明する。図1の内視鏡システム1における内視鏡装置4,挿入支援装置5の電源が投入され、各部が動作状態になると、図3に示す最初のステップS1において、内視鏡3の挿入部11の先端を患者の気管支2の入口の位置等、術者が内視鏡画像で位置を判断しやすい部位を少なくとも1つ基準位置に設定する。
そして、画像処理部25の位置合わせ処理部25aは、基準位置におけるVBS画像生成部24のVBS画像(の画像信号)をモニタ32に出力する。術者は、入力装置31から基準位置の1つを指定し、挿入部11の先端を指定した基準位置に挿入するとともに、画像処理部25の位置合わせ処理部25aに対して位置合わせの処理を行うように指示する。
ステップS1の位置合わせの処理を行った後、ステップS2に示すように位置合わせ処理部25a(の位置姿勢算出部25b)は、位置合わせ処理の結果を基に挿入部11の先端の位置及び姿勢を画像マッチングにより推定(算出)する。具体的には、画像マッチングの初期値として位置合わせの位置の情報を使用して、内視鏡画像と最も良くマッチングするVBS画像を画像処理により算出する。
ステップS3において位置合わせ処理部25aは、画像マッチングにより挿入部11の先端の位置及び姿勢の推定が所定条件以内(例えば推定位置が気管支内部にあるか)でできたか否か(つまり位置及び姿勢の推定が成功したか否か)の判定を行う。ステップS3の判定が成功の場合には、ステップS4に示すように画像処理部25(の画像生成部)は、位置姿勢算出部25bにより推定された挿入部11の先端の位置を、気管支形状画像2a上における推定された位置に重畳して表示する画像処理を行う。図2Bは、ステップS4の画像処理により生成された画像の表示例を示す。
図2Bは、気管支2内に挿入された内視鏡3の挿入部11の先端側を2点鎖線で示すと共に、その形状画像としての気管支形状画像2aにおける、推定された挿入部11の先端の位置P1及び姿勢に対応する先端の長手方向又は視線方向D1を(気管支形状画像2aに)重畳して表示した様子を示す。
なお、図2Bにおいては、挿入部11の先端の姿勢に対応する長手方向又は視線方向D1を矢印で示している。また、ステップS3の判定処理が成功した場合には、ステップS4と共に、ステップS5の処理が行われる。
ステップS5において視線方向検出部25eは、位置姿勢算出部25bにより推定(算出)された挿入部11の先端の姿勢の情報から対物レンズ15の視線方向D1を算出する。また、芯線方向算出部25gは、視線方向D1が算出された前記挿入部11の先端の位置付近での芯線方向E1を算出する。そして、方向比較部25fは、視線方向D1と芯線方向E1とを比較し、比較結果を条件判定部26bに出力する。
次のステップS6において条件判定部26bは、視線方向D1と芯線方向E1とのなす角θが予め設定された所定の閾値θth以下か否かを判定する。
図2CはステップS5の処理の様子を示す。図2Cでは挿入部11の先端の推定された位置をP1、その視線方向をD1で示している。また、位置P1に最も近い芯線35の位置をC1で示し、芯線方向算出部25gは、この位置C1においてその芯線方向E1を算出し、方向比較部25fは両方向を比較する。なお、芯線方向算出部25gは、例えば位置P1から芯線35への交点に至る長さが最小となる垂線の場合の位置をC1として芯線方向E1を算出するようにしても良い。また、位置P1から芯線35へ下した垂線に近い条件を満たす位置において、芯線方向E1を算出するようにしても良い。
図2Cでは、方向比較部25fにより両方向のなす角θが算出された様子を示す。条件判定部26bは、比較結果としての算出された角θが所定の閾値θth以下か否かを判定する。図2Cに示すように算出された角θが所定の閾値θth以下となる判定結果の場合には、次のステップS7において位置姿勢情報記録部27は、該判定結果の場合の挿入部11の先端の位置及び姿勢の情報としての位置姿勢情報を、(該位置姿勢に対応する)VBS画像及び判定結果の時間と共に記録した後、ステップS10の処理に移る。なお、この場合、その位置姿勢に対応する内視鏡画像もその位置姿勢に関連付けて記録しても良い。なお、ステップS7において、位置姿勢情報のみ、又は位置姿勢情報と時間の情報、又は位置姿勢情報とVBS画像を記録するようにしても良い。
一方、ステップS3の推定が失敗した場合にはステップS8の処理に移る。ステップS8において、位置合わせ処理部25aは、画像マッチングエラーの信号を発生する。この信号は、候補情報の提示の信号となり、制御部26に入力される。
制御部26の表示制御部26aは、候補情報の提示の制御を行う。表示制御部26aは、候補情報の提示の信号の発生前に、位置姿勢情報記録部27に記録された位置姿勢情報と対応するVBS画像とを含む情報を候補情報としてモニタ32に表示するように制御した後、ステップS1の処理に戻る。
図2Dはモニタ32に表示される候補情報の例を示す。図2Dにおいて、画像マッチングエラーの信号が発生した状態の挿入部11の先端の位置P3を模式的に示す(実際には位置P3は不定となる)。その際に、位置姿勢情報記録部27に記録された位置姿勢情報に基づいてモニタ32には、先端の位置P2とその姿勢(視線方向)D2とが気管支形状画像2a上に表示され、かつ該位置姿勢情報に対応するVBS画像が表示される。
また、本実施形態においては、画像処理部25は、例えば点線で示すように前記位置姿勢情報に対応する内視鏡画像を、VBS画像に隣接して表示されるように画像処理する。この場合、VBS画像に隣接した位置に、同じ表示倍率で比較し易いように表示するようにしても良い。
さらに、VBS画像又は内視鏡画像の一方を移動自在に表示し、術者がマウス等で一方の画像を他方の画像上に重畳表示(合成表示)することができるようにしても良い。このようにすると、画像マッチングの程度を術者が確認し易くなる。
さらに、画像処理部25は、CCU8から入力される現在の内視鏡画像も、VBS画像又は内視鏡画像の周辺に表示する画像処理を行うようにしても良い。
なお、図2Dは、例えば、画像マッチングエラーの信号が発生した場合、該信号が発生する前において最新に記録された位置姿勢情報による候補情報の例を示す。術者が入力装置31から、候補情報の表示数を入力して、モニタ32に同時に表示されるVBS画像等の候補情報の表示数を、適宜に設定することもできる。
術者は、図2DのVBS画像を参考にして、例えば挿入部11の先端を移動する等して、現在の内視鏡画像が、モニタ32上に表示されているVBS画像と十分に一致する状態となるように位置合わせの操作を行う。そして、位置合わせ処理部25aは、十分に一致する位置合わせした設定状態において、その設定状態でのVBS画像の視点位置と視線方向の情報を取得して、その情報を以後の挿入部11の先端の位置及び姿勢の情報として用いる。このようにして、ステップS2以降の処理を繰り返す。
なお、図2Dに示す現在の内視鏡画像を、VBS画像と、該VBS画像に所定の精度で画像マッチングする内視鏡画像(記録された基準の内視鏡画像)との両方の画像に重畳表示させるようにしても良い。この状態においては、術者が挿入部11の先端の位置をその姿勢を含めて調整することにより、現在の内視鏡画像とVBS画像との位置合わせの程度を確認することができると共に、現在の内視鏡画像と、基準の内視鏡画像との位置合わせの程度を確認することができる。
VBS画像は、気管支2の内壁の襞などの細かい凹凸を考慮していない画像であるのに対して、基準の内視鏡画像は先行した時間において実際に撮像した気管支2内を撮像した画像であるため、内視鏡画像同士で比較した方が位置合わせの程度を確認することが行い易い場合もある。術者は、本実施形態における2つの重畳画像(VBS画像と現在の内視鏡画像、基準の内視鏡画像と現在の内視鏡画像)において、位置合わせの程度を確認することが行い易い重畳画像(又は両方の重畳画像)を参考にして、位置合わせの程度を確認することができる。
上記図3のステップS6において算出された角θが所定の閾値θthを超える場合、又はステップS7において位置姿勢情報等を記録した場合には、ステップS10において制御部26は、術者が入力装置31から候補情報の提示の指示信号(トリガ)を発生させているか検出する。
これは画像マッチングの推定が失敗していることを検出できない場合、例えば、内視鏡が急激に動くと画像マッチングによる推定位置が所定条件(気管支内部にあるか)を満たしているが、明らかに別の位置であるという場合、術者が位置合わせを再度行うと判断したときに指示信号を発生させる。そして、トリガ有りの場合には、ステップS8の処理に移る。
一方、ステップS10のトリガがない場合には、次のステップS11において位置姿勢算出部25bは、挿入部11の先端が目標位置まで挿入されたか否かの判定を行う。
挿入部11の先端が目標位置まで挿入されていない場合には、術者は、モニタ32に表示される挿入部11の先端の位置姿勢情報の表示を参考にして、ステップS12に示すように挿入部11の先端を気管支2の深部側に挿入する。
ステップS12の処理の後に、ステップS2に戻り、挿入部11の先端の位置及び姿勢の推定処理を行う。ステップS11において目標位置まで挿入された場合には、図3の挿入の操作を終了する。
このように動作する本実施形態においては、再度の位置合わせ等を行い易くするように内視鏡の先端の位置と共に姿勢の情報を位置姿勢情報として記録する。従って、本実施形態によれば、術者が挿入部11を挿入する操作を行った場合の最中において、再度の位置合わせを行う場合に用いることができる提示用の候補情報としての挿入部11の先端の位置姿勢情報を位置姿勢情報記録部27に記録し、挿入部11の先端の位置の推定等が失敗したような場合に、位置合わせに適した提示用の候補情報を提示することができるようにしているので、挿入の操作を円滑に行うことができる。
また、本実施形態においては、画像マッチングの画像処理を利用して挿入部11の先端の位置及び姿勢の推定を行うようにしているため、画像処理のアルゴリズムにより最初の位置合わせの状態から誤差が次第に大きくなり易くなる。
このような場合にも、再度の画像マッチングによる再度の位置合わせにより、誤差を十分に小さくして、再度の位置合わせした位置付近からより深部側への挿入の操作を行うことが可能になる。
図4は第1の実施形態における第1変形例の内視鏡システム1Bの構成を示す。図4に示す内視鏡システム1Bは、図1の内視鏡システム1において、さらに挿入部11の先端部13内における撮像装置16の近傍の位置に、撮像装置16又は挿入部11の先端の位置を検出するための位置センサ41が設けてある。
また、内視鏡3及び被検体の外部となり、挿入支援装置5内の所定の位置には、この位置センサ41の3次元位置(単に位置とも記す)を計測(検出)する処理を行う計測処理装置又は計測処理部42が設けてある。位置センサ41による検出信号は、計測処理部42に入力される。
この計測処理部42は、位置センサ41を用いて所定の管腔臓器としての気管支2内に挿入される挿入部11の先端の3次元位置を算出又は推定する位置算出手段としての位置算出部(又は位置推定部)42bの機能を有する。この場合には、画像処理部25内の位置算出部25cを有しない。
本変形例の位置算出(位置推定)の手段又は方法としては、例えば磁気を利用したものを利用できる。計測処理部42に接続された複数のアンテナ42aから発せられる交流磁場をコイルで構成された位置センサ41が検知し、この位置センサ41で検知した信号における、その信号の振幅及び位相を(振幅検出回路及び位相検出回路を備えた)計測処理部42が検出することによりアンテナ42aから位置センサ41までの距離を計測する。計測処理部42は、3つ以上となる複数のアンテナ42aをそれぞれ異なる既知の位置に設けることにより、位置センサ41の3次元位置を特定することが可能になる。
なお、位置センサ41を構成するコイルに交流信号を印加して、その周囲に交流磁場を発生させ、アンテナ42a側で交流磁場を検知して位置センサ41の位置を算出又は検出する構成にしても良い。一例としてコイルを用いた磁気式位置検出装置を説明したが、位置センサ41及び計測処理部42の構成は、上記説明の場合に限定されるものでない。
例えば、挿入部11の長手方向に沿って所定間隔で位置検出のための複数のコイルを配置し、複数のコイルの位置から挿入部11の形状を推定し、先端部13等の位置を検出することができるようにしても良い。計測処理部42により算出(推定)された挿入部11の先端の位置情報は、制御部26と画像処理部25とに出力される。
本変形例の場合には、気管支2の3次元形状の画像データを管理するCT座標系としての第1の座標系での位置(位置情報)と、位置センサ41のアンテナを基準としたセンサ座標系としての第2の座標系での位置(位置情報)との位置合わせを行う。例えば画像処理部25は、両座標系の位置合わせ(レジストレーション)及びその制御を行う位置合わせ処理部25aの機能を持っても良いし、制御部26が点線で示すように位置合わせ処理部26cの機能を持っても良い。
図5はレジストレーションの動作の説明図を示す。例えば気管支2の入り口付近における例えば4点Q0−Q3に、術者は内視鏡3の先端部13(又は位置センサ41)を順次設定して、第1の座標系O−XYZと第2の座標系o−xyzにおいてそれぞれ位置対応付けする指示又は指示入力を入力装置31から行う。このため、入力装置31は、位置対応付けの指示を行う指示入力部又は指示入力手段を形成する。
例えば、先端部13(又は位置センサ41)を、第1の座標系O−XYZにおける原点Oの位置Q0(0,0,0),X座標上の位置Q1(1,0,0)、Y座標上の位置Q2(0,1,0)、Z座標上の位置Q3(0,0,1)、に順次設定して、術者が位置対応付けの指示を行う。この指示において、各位置において計測処理部42が順次計測した位置を(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とすると、制御部26は位置対応付けを行い、位置対応付け情報を位置姿勢情報記録部27に記録するように制御する。
この場合の位置対応付け情報(具体的には、第1の座標系O−XYZにおけるQ0(0,0,0)、Q1(1,0,0)、Q2(0,1,0)、Q3(0,0,1)は、第2の座標系o−xyzにおいては(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)がそれぞれ対応する情報)を位置姿勢情報記録部27は記録する。
また、位置合わせ処理部26cは、位置姿勢情報記録部27に記憶した位置対応付け情報を用いて両座標系の任意の位置を対応つける変換情報を決定する。位置合わせ処理部26cは、この変換情報を位置姿勢情報記録部27に記録する。
図5においては、座標位置Q0(0,0,0),Q1(1,0,0),Q2(0,1,0),Q3(0,0,1)と、それぞれ対応する座標位置(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とを簡略化してQ0⇔(x0,y0,z0)、Q1⇔(x1,y1,z1)、Q2⇔(x2,y2,z2)、Q3⇔(x3,y3,z3)で示している。なお、図5に示す4点でなく、そのうちの1点を省略した3点で位置対応付けを行う(決定する)ようにしても良い。
具体的には、術者は第1の座標系で指定された位置に内視鏡3の先端部13を順次接触させることになる。このとき、第1の座標系で指定された位置を表現する方法として、VBS画像を用いる。つまり、術者はVBS画像と内視鏡画像が同じに見えるよう内視鏡3を操作する。また、VBS画像と内視鏡画像が同じに見えるように設定した状態において、そのVBS画像を生成した場合の視線方向の情報を、挿入部11の先端の視線方向の情報(換言すると姿勢の情報)として取得(設定)する。
このように位置対応付けの処理が終了した後、術者は、内視鏡3の挿入部11を気管支2内に挿入して内視鏡検査を行うことを開始する。
本変形例においては、位置算出部(位置推定部)42bにより推定された挿入部11の先端の位置に対応するCT座標系(第1の座標系)の位置が気管支2の管腔の内側となる条件から外れる場合のように、両座標系の位置ずれが明らかとなる場合に位置推定が失敗した状態と判定する。その他の構成は、図1に第1の実施形態と同様である。
本変形例の動作は、挿入部11の先端の位置を位置センサ41を用いて推定すること、位置合わせが失敗した場合に行う再度の位置合わせを制御部26の位置合わせ処理部26cが行うことに変更したことを除けば第1の実施形態の動作を示す図3と殆ど同じ処理を行う。
本変形例の場合には、画像処理部25の位置合わせ処理部25aは、画像マッチングによる位置合わせを行うよう構成された第2の位置合わせ処理部の機能を有する。
また、位置合わせ処理部25aは、両座標系の位置合わせの状態を、画像マッチングにより監視するよう構成された位置合わせ監視処理部の機能を有する。例えば、挿入部11の先端が気管支2内に挿入された場合、挿入部11の先端の移動と共に、内視鏡画像と位置算出部42bによる第2の座標系での位置が変化する。
また、第2の座標系での位置の変化に対応してCT座標系(第1の座標系)の位置情報により生成されて画像処理部25に入力されるVBS画像も変化する。画像処理部25の位置合わせ処理部25aは両画像を監視し、両画像のずれ量が予め設定された値以上にずれた場合に、位置合わせが失敗した状態(又は位置合わせが必要な状態)と判定する。
また、本変形例においては、位置算出部42bにより推定された挿入部11の先端の位置に対応するCT座標系(第1の座標系)の位置が気管支2の管腔の内側となる条件から外れる場合のように、両座標系の位置ずれが明らかとなる場合も位置合わせが失敗した状態(又は位置合わせが必要な状態)と判定する。その他の構成は、図1に第1の実施形態と同様である。
本変形例の動作は、挿入部11の先端の位置を位置センサ41を用いて推定すること、位置合わせが失敗した場合に行う位置合わせを制御部26の位置合わせ処理部26cが行うことに変更したことを除けば第1の実施形態の動作を示す図3と殆ど同じ処理を行う。
本変形例によれば、術者が挿入部11を挿入する操作を行った場合の最中において、所定の条件を満たす場合に位置姿勢情報を位置姿勢情報記録部27に記録し、挿入部11の先端の位置の推定が失敗したような場合に、提示用の候補情報として提示することができるようにしているので、再度の位置合わせを短時間に行え、挿入の操作を円滑に行うことができる。
また、変形例においては、最初の位置合わせ後に位置センサ41を用いて挿入部11の先端の位置推定を行うようにしており、位置合わせした位置からの距離が大きくなると、最初の位置合わせの状態から誤差が大きくなり易くなる。このような場合にも、位置センサ41を用いると共に、画像マッチングを用いた再度の位置合わせにより、誤差を十分に小さくして、再度の位置合わせした位置付近からより深部側への挿入の操作を円滑に行うことが可能になる。
なお、上記第1の実施形態において、算出した角θが所定の閾値θth以下であるか否かを判定する場合、気管支2の分岐の次数に応じて変更するようにしても良い。この第2変形例の場合の処理の一部を図6に示す。図6は、図3の処理の一部を変更している。図6のステップS1−S3は図3と同じであり、ステップS3の次のステップS21において画像処理部25は、分岐の次数を取得した後、ステップS4に移る。
また、ステップS4−S5は、図3と同じ処理であり、ステップS5の次のステップS6′において条件判定部26bは、算出された角θが次数に対応して設定された所定の閾値θthj以下か否かを判定する。ステップS6′の次のステップS7以降の処理は、図3の場合と同様である。このため、図6においては、ステップS7以降を省略している。
本変形例によれば、気管支2内に挿入された挿入部11の先端の位置に応じて位置姿勢情報を記録する条件を変更することができる。例えば、気管支2の末梢側に移動したように入り口からの移動距離が大きくなると、位置及び姿勢を算出する精度が低下し易くなる傾向になり易い。つまり、再度の位置合わせを行うための位置姿勢情報を記録する頻度が少なくなる可能性がある。このため、例えば分岐の次数が大きくなる程、所定の閾値θthjの値を大きな値に設定することによって、末梢側においても位置合わせを行うことができる位置の間隔が大きくなることを防止するようにしても良い。なお、上記分岐の次数の代わりに、気管支2の挿入口から気管支2の抹消側の目標位置に至るまでに気管支2が順次分岐する分岐順序数を用いても良い。
(第2の実施形態)
次に本発明の第2の実施形態を説明する。本実施形態における構成は、図1又は図4と同様である。本実施形態は、第1の実施形態において、所定の条件を満たす場合における今回(又は現在)の視線方向と、位置姿勢情報記録部27に記録された最新の位置姿勢情報における視線方向(記録視線方向)Dreとを比較し、両方視線向のなす角θdが第2の所定の閾値θdth以上となる場合に、今回の位置姿勢情報を位置姿勢情報記録部27に記録する。
なお、本実施形態においては、例えば条件判定部26bが、上記の両視線方向のなす角θdが第2の所定の閾値θdth以上となるか否かを判定するが、条件判定部26b以外の構成要素(例えば方向比較部25fや視線方向検出部25e)が行うようにしても良い。また、第2の所定の閾値θdthの情報は、例えば位置姿勢情報記録部27内に記録される。
図7は、本実施形態における動作の代表例のフローチャートの一部を示す。図7は、図3において一部の処理が異なるのみとなる。
図7におけるステップS1からステップS6までは図3に示す処理と同様の処理を行う。ステップS6において算出された角θが所定の閾値θth以下の条件を満たす場合には、次のステップS31において例えば条件判定部26bは、位置姿勢情報記録部27に記録された最新の位置姿勢情報における視線方向Dreを読み出し、画像処理部25に送る。
ステップS32において例えば、方向比較部25fは、ステップS5において算出された現在の視線方向と、位置姿勢情報記録部27から読み出された視線方向Dreとのなす角θdを算出し、条件判定部26bに送る。ステップS33において条件判定部26bは、角θdが第2の閾値θdth以上となるか否かを判定する。
角θdが第2の所定の閾値θdth以上となる判定結果の場合には、次のステップS7において、現在の位置姿勢情報をVBS画像及び時間と共に、位置姿勢情報記録部27に記録する。
一方、角θdが第2の所定の閾値θdth以上とならない判定結果の場合には、ステップS10の処理に移る。図7におけるその他の処理は、図3の場合と同様である。
第1の実施形態においてはステップS5において算出された角θが、次のステップS6において所定の閾値θth以下と判定された場合には、その判定が行われた時点(現在)での位置姿勢情報が位置姿勢情報記録部27に経時的に記録される。
これに対して、本実施形態においては、ステップS6において角θが所定の閾値θth以下と判定された場合には、さらにその時点の直前に位置姿勢情報記録部27に記録された位置姿勢情報における視線方向Dreが読み出され、その時点での視線方向とのなす角θdが算出され、該角θdが第2の所定の閾値θdth以上となる判定結果の場合のみ、その時点での位置姿勢情報が位置姿勢情報記録部27に経時的に記録される。
換言すると、第1の実施形態において、視線方向と芯線方向とのなす角θが十分に小さい条件を満たすと、その条件を満たす時点での位置姿勢情報が繰り返し記録されるのに対して、本実施形態においては、その時点での視線方向と、その直前に記録されている視線方向とのなす角θdが第2の所定の閾値θdth以上とならない限り、その時点での位置姿勢情報を記録しない。
従って、本実施形態は、第1の実施形態において、直前に記録した場合の視線方向とかなり変化した場合においてのみ、その時点の位置姿勢情報を記録する。そして、類似した条件の位置姿勢情報を過度に記録するのを避けるようにしている。挿入部11の先端が挿入されている位置から分岐する位置を通過して、抹消側となる気管支枝側に移動する場合においては、分岐する位置を通過する際に視線方向が変化することが期待できるため、そのような移動の際の位置姿勢情報を記録することができるようにしている。
本実施形態によれば、第1の実施形態とほぼ同様に位置姿勢情報を記録することができる作用効果を有する他に、過度に類似した位置姿勢情報の記録を避け、適切な情報量の位置姿勢情報に絞って記録することができる。従って、術者などのユーザに対して、必要最小限に近い位置姿勢情報のみを提供でき、再度の位置合わせの際に、候補情報が多すぎることなく、円滑に位置合わせを行うことが可能になる。換言すると、ユーザに対する使い勝手を向上できる。また、本実施形態において、上記第2の所定の閾値θdthを以下のように自動的に決定するようにしても良い。
上述した経路データ生成部29aにより生成される挿入部11の先端の挿入開始位置から目標部位36近傍となる目標位置までの経路データにおける該目標位置に至る途中においての気管支2が分岐する1つ以上の分岐点の3次元位置及び分岐角を含む分岐情報を記録するよう構成された分岐情報記録部を形成する例えば位置姿勢情報記録部27とを設ける。そして、分岐点の分岐情報に応じて、分岐情報記録部は、第2の所定の閾値θdthを自動的に決定し、決定された第2の所定の閾値θdthを用いて方向比較部25fは、位置姿勢情報記録部27に記録された過去の視線方向と、視線方向検出部25eにより検出された現在の視線方向とのなす角θdが、決定された第2の所定の閾値θdthと比較するようにしても良い。
また、分岐情報記録部は、視線方向検出部25eにより現在の視線方向が検出された際の前記挿入部11の先端の3次元位置に基づき、当該3次元位置よりも目標位置側に沿って存在する次の分岐点の分岐情報における第2の所定の閾値θdthを自動的に決定するようにしても良い。
換言すると、目標位置に至る途中においての気管支2が分岐する各分岐点の3次元位置及び分岐角を含む分岐情報に関連付けてそれぞれ第2の所定の閾値θdth(の候補情報)を記録し、挿入部11の先端が現在存在している3次元位置の情報に基づいて、該挿入部11の先端が次に到達すると予想される分岐点の分岐情報に関連付けて予め記録した第2の所定の閾値θdthを選択的に決定する。
このようにすると、挿入部11の先端を目標部位36側に挿入した場合、途中の分岐点の分岐角などが異なるような場合に対しても、第2の所定の閾値θdthを自動的に設定でき、術者が挿入部11の先端を挿入する作業を有効に支援できる。
なお、本実施形態においては、ステップS31において記録された最新の視線方向Dreを読み出して、現在の視線方向とのなす角θdを算出していたが、その変形例として、最新の視線方向の場合を含めて整数n回前(例えば最新に記録された視線方向は1回前のn=1に該当)に記録された視線方向Drenを読み出し、現在の視線方向とのなす角を算出するようにしても良い。
そして、算出した角が上記第2の閾値θdthに対応する閾値θdth′以上か否かを判定し、第2の閾値θdth′以上となる判定結果の場合に、位置姿勢情報を記録するようにしても良い。なお、本変形例の動作は、図7におけるステップS31の処理としてn回前に記録された視線方向Drenを読出すと読み替え、さらにステップS32における視線方向DreをDrenと読み替える動作になる。
本変形例は、第1の実施形態と第2の実施形態との中間的な作用効果を有する。
(第3の実施形態)
次に本発明の第3の実施形態を説明する。本実施形態は、図1又は図4と同様の構成である。本実施形態は、第1ないしは第2の実施形態において、さらに位置姿勢情報を記録する頻度を削減する手段を備える。
第1の実施形態においては、気管支径(気管支の内径)が細い部位においては、挿入された挿入部11が芯線と平行に挿入される頻度が高くなるため、記録する頻度も増えてしまい、記録される位置姿勢情報が、術者が望む情報量よりも増大してしまう可能性がある。
また、第2の実施形態及びその変形例においては、気管支径が太い部位においては、挿入部11を挿入する際にふらつかせてしまうと、記録する頻度も増えてしまい、記録される位置姿勢情報が、術者が望む情報量よりも増大してしまう可能性がある。
記録する位置姿勢情報は、必要とされるもの以外で増大することは、術者にとって使い勝手が低下する。
このため、本実施形態においては、図3のステップS7の位置姿勢情報を記録処理の前に、さらに以下のa)〜c)の少なくとも1つの条件を満たすか否かを判定する。そして、以下の条件を満たす場合に記録を行うように記録を制限する処理を行うようにして、実際に位置姿勢情報を記録する頻度を減らすようにする。
a)前回記録した先端の位置からの距離が閾値Lth以上
b)内視鏡画像中に分岐の画像が見えるとき
c)挿入部11の先端の位置と、該先端の位置に最も近い芯線35上の点との距離が閾値Lth2以下
図8は、本実施形態における代表的な処理例のフローチャートを示す。
図8においては、ステップS1からステップS6までは、図3と同じ処理である。また、ステップS6とステップS7との間に、以下に説明するステップS41〜S43を設けた処理以外は、図3の処理と同様である。
ステップS6において算出された角θが所定の閾値θth以下の条件を満たす場合には、ステップS41において距離算出部の機能を持つ例えば位置算出部25cは、前回記録した先端の位置からの距離L1が閾値Lth1以上の条件を満たすか否かを判定する。
この条件を満たす場合にはステップS7の処理に進み、この条件を満たさない場合にはステップS42の処理に移る。ステップS42において画像処理部25に設けた内視鏡画像から分岐の画像を画像処理により認識する分岐画像認識部は、内視鏡画像中に分岐の画像が見える条件を満たすか否かの判定を行う。具体的には、内視鏡画像をある閾値にて2値化し、一定の画素数を持つ暗部の個数が複数あるか否かの判定を行う。
この条件を満たす場合にはステップS7の処理に進み、この条件を満たさない場合にはステップS43の処理に移る。ステップS43において距離算出部の機能を持つ例えば位置算出部25cは、挿入部11の先端の位置と、該先端の位置に最も近い芯線35上の点との距離L2が閾値Lth2以下の条件を満たすか否かを判定する。
この条件を満たす場合にはステップS7の処理に進み、この条件を満たさない場合にはステップS10の処理に移る。
なお、上記距離の閾値Lth1,Lth2に関しては、以下のように設定しても良い。
閾値Lth1,Lth2は、全ての気管支2に対して同じ値に設定しても良いし、気管支2毎に気管支径の値に応じた値に設定しても良いし、又は部位や気管支の次数に応じた値に設定しても良い。
また、距離L1,L2は、2点間の直線に沿った距離でも良いし、又は挿入部11の先端の位置に最も近い芯線35上の点と分岐点までの芯線35上での道のりで算出(計測)しても良い。
本実施形態によれば、位置姿勢情報を過度に記録することを低減(削減)するようにしているので、ユーザに対する使い勝手を向上することができる。その他、第1の実施形態と同様の効果を有する。
なお、図8のステップS6とステップS41〜S43の処理の順番を変更しても良い。例えば、ステップS6の判定処理を行う前に、ステップS41〜S43の処理を行い、いずれかの条件を満たす場合にステップS6の判定処理を行うようにしても良い。
また、例えば、距離算出部が前回、位置姿勢情報を記録した挿入部11の先端の位置から所定の距離間隔以上、挿入部11の先端が移動したか否かを監視し、所定の距離間隔以上移動した場合にステップS6の判定処理を行い、ステップS6の判定条件を満たす場合に、ステップS7において位置姿勢情報を記録するようにしても良い。
また、ステップS6の処理(又はステップS5とS6の処理)を行う前提として、距離算出部が挿入部11の先端の位置から所定の距離間隔以上、挿入部11の先端が移動したか否かを監視し、所定の距離間隔以上移動した場合にステップS6(又はステップS5とS6)の処理を行うようにする。
ステップS6の判定条件を満たす場合に、ステップS7において位置姿勢情報を記録するようにしても良い。この場合には、方向比較手段としての方向比較部25fは、挿入部11の先端の移動距離が気管支2の管腔内において所定の距離間隔以上の場合に、視線方向と芯線方向との比較を行うことを含む。
(第4の実施形態)
次に本発明の第4の実施形態を説明する。本実施形態は、第1の実施形態において、図1又は図3の点線で示すように方向変化検出部25iを有し、方向変化検出部25iは内視鏡3の挿入部11の先端の観察窓(撮像窓)に固定された対物レンズ15を介して撮像した内視鏡画像の方向(方位)と、1回前に位置姿勢情報を記録したときの内視鏡画像の方向とを比較する。
そして、両方向のなす角θroが閾値θroth以上となる条件を満たす場合、換言すると両方向のなす角θroが十分に大きい場合に、位置姿勢情報を記録する。なお、内視鏡画像の方向(方位)は、以下のように挿入部11の周周りの方向と同じ意味である。
術者は、現在挿入部11の先端が挿入されている状態での気管支2(又は気管支枝)におけるその末梢側で分岐している気管支枝側に挿入部11の先端を通過(挿入)させる際に、挿入部11をひねる(ねじる)操作をしばしば行う。本実施形態においては、この操作を利用して、以下のように同じ気管支枝での複数回の位置姿勢情報の記録を避ける。
分岐している気管支枝側に通過(挿入)させる際に通常1回行われる操作を検出し、その操作を検出した際に位置姿勢情報を記録することにより、そのような検出を行わない場合における同じ気管支枝での複数回の位置姿勢情報の記録を避ける。
なお、画像マッチングに用いられる(内視鏡画像と比較される)VBS画像は、CT座標系における視点及び視線方向と共に、挿入部11の先端(の対物レンズ15)が所定の方向(方位)に設定された状態において、同様に所定の方向(方位)に固定されたCCD16により光電変換されるものに対応して生成される。なお、内視鏡画像がモニタ9において表示される場合の上下方向は、湾曲部19を湾曲する場合の上下の湾曲方向と一致するようにCCD16の撮像面の(挿入部11の周回りの)方向が予め設定されている。
このため、画像マッチングを行って、実際の挿入部11の先端の位置及び姿勢の情報をCT座標系の情報から取得する場合、挿入部11の周回りの方向(方位)の情報も取得することができる。
本実施形態においては、位置姿勢情報を位置姿勢情報記録部27に記録する場合、更に、内視鏡画像の方向(方位)(又は挿入部11の周回りの方向(方位))の情報も記録する。そして、位置姿勢情報記録部27に記録された情報から内視鏡画像の方向(方位)の情報を(方向変化を算出するために)参照することができるようにしている。
内視鏡画像の方向(方位)は、挿入部11が、その周方向の回りで回転されないと変化しない。このため、方向変化検出部25iは、内視鏡画像の方向の変化、又は挿入部11の周回りの方向の変化を検出する方向変化検出手段の機能を有する。
なお、方向変化検出部25iが、内視鏡画像の方向の変化、又は挿入部11の周回りの方向の変化を検出する場合、内視鏡画像等の所定の方向(又は基準の方向)からの変化を検出するようにしても良い。例えば、内視鏡画像の上方向を所定の方向として設定し、内視鏡画像の上方向からの変化を検出するようにしても良い。図9は、本実施形態における代表的な処理の一部を示す。
図9においては、ステップS1からステップS6までは、図3と同じ処理である。ステップS6において算出された角θが所定の閾値θth以下の条件を満たす場合には、ステップS51の処理に進む。
ステップS51において方向変化検出部25iは、現在の挿入部11の先端の状態においての内視鏡画像の方向と、前回記録(今回に関して1回前に記録)した時の内視鏡画像の方向との両方向のなす角θroを算出し、さらに両方向のなす角θroが閾値θroth以上の条件を満たすか否かを判定する。
ステップS51における条件を満たす判定結果の場合には、ステップS7′において上記のように現在の位置姿勢情報と共に、更に内視鏡画像の方向(方位)の情報も含めて位置姿勢情報記録部27に記録する。ステップS51における条件を満たさない判定結果の場合には、ステップS10の処理に移る。その他の処理は、図3の場合と同様である。
本実施形態によれば、過度に位置姿勢情報を記録することなく、適切な情報量で位置姿勢情報を記録することができ、ユーザに対する使い勝手(利便性)を向上できる。その他、第1の実施形態と同様の効果を有する。
上記第4の実施形態においては、ステップS51において現在の挿入部11の先端の(周周り)の方向と、1回前に記録された方向とのなす角θroを比較したが、n回前に記録された方向とのなす角θronを比較し、この角θronが閾値θronth以上である場合に現在の位置姿勢情報を、位置姿勢情報記録部27に記録するようにしても良い。なお、内視鏡画像の方向の情報を取得した場合、所定の方向(又は基準の方向)からの差分角を算出し、位置姿勢情報記録部27に記録する場合にも上方向からの差分角を記録するようにしても良い。
(第5の実施形態)
次に本発明の第5の実施形態を説明する。本実施形態は、上述した実施形態(変形例を含む)を組み合わせたものであり、その構成は図1又は図4と同様である。本実施形態においては、上述した実施形態のいずれか2つ以上の条件を挿入部11の先端が存在する領域毎に切り替えて使用する。
図10は本実施形態の動作の説明図を示す。本実施形態においては、気管支内に挿入部11が挿入された場合、挿入部11の先端が存在する領域R1においては、第1の実施形態の条件を適用し、領域R2においては、第2の実施形態の条件を適用し、領域R3においては第3の実施形態の条件を適用する。
領域Rk(k=1,2,3,…)の設定方法は、以下の通りである。
a)分岐点から芯線上で一定の距離離れた位置までとそれ以外では図10のように領域が設定される。
b)分岐点を中心とした球に含まれる領域とそれ以外の領域
c)カリーナからの距離
d)気管支の次数
e)断層像画像から算出した気管支径
f)前回リスタート(再度の位置合わせ)した位置からの距離
に応じて、各領域を設定する。
さらに、これらの条件は、複数を組み合わせても良い。
本実施形態によれば、上述した実施形態の効果を有すると共に、さらにユーザにより記録する場合の条件をより詳細に選択することができる。
また、上述した変形例の場合を含む第1〜4の実施形態における複数を部分的に組み合わせて構成される実施形態も本発明に属する。
また、気管支形状画像やVBS画像を生成するに当たり、CT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出するのでなく、CT画像データよりボリュームレンダリングで直接生成してもよい。
本出願は、2013年4月15日に日本国に出願された特願2013−084918号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。
本発明の一態様の内視鏡システムは、被検体の管腔臓器の位置情報と対応付けられた形状情報を予め取得可能な内視鏡システムであって、内視鏡挿入部の先端の位置及び当該内視鏡挿入部の先端部における長手方向を推定する位置姿勢算出部と、前記位置姿勢算出部に推定された前記内視鏡挿入部の先端の位置における前記形状情報に基づいて、前記管腔臓器の略中心に位置する芯線方向と前記位置姿勢算出部により推定された前記内視鏡挿入部の先端部の長手方向とのなす角が所定の閾値以下であるか否かを判定する条件判定部と、前記芯線方向と前記内視鏡挿入部の先端部の長手方向とのなす角が所定の閾値以下の場合、前記位置姿勢算出部により推定された前記内視鏡挿入部の先端の位置及び前記内視鏡挿入部の先端部における前記長手方向の情報を記録する位置姿勢情報記録部と、を備える。

Claims (10)

  1. 予め取得した被検体における3次元画像情報を記憶するよう構成された画像記憶部と、
    前記3次元画像情報から所定の管腔臓器を抽出するよう構成された管腔臓器抽出部と、
    内視鏡の挿入部の先端に設けられた対物光学系と、
    前記対物光学系による視線方向を検出するよう構成された視線方向検出部と、
    前記管腔臓器抽出部により抽出された前記所定の管腔臓器の芯線方向と前記視線方向とを比較するよう構成された方向比較部と、
    前記芯線方向と前記視線方向とのなす角が所定の閾値以下の場合に前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録するよう構成された位置姿勢情報記録部と、
    を備えることを特徴とする内視鏡システム。
  2. 前記方向比較部は、前記位置姿勢情報記録部において過去に記録された前記姿勢の情報に基づく過去の視線方向と前記視線方向検出部により検出された現在の視線方向との比較を行い、
    前記位置情報記録部は、前記方向比較部による過去の前記視線方向と前記視線方向検出部により検出された現在の視線方向とのなす角が第2の所定の閾値より大きい場合に前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録することを特徴とする請求項1に記載の内視鏡システム。
  3. 前記方向比較部は、前記所定の管腔臓器において、前記挿入部の先端の移動距離が、所定の距離間隔以上の場合に前記芯線方向と前記視線方向との比較を行うことを特徴とする請求項1に記載の内視鏡システム。
  4. 内視鏡内に設けられ、前記所定の管腔臓器内を撮像するよう構成された撮像部を備え、
    前記撮像部によって取得された内視鏡画像の方向の変化を検出するよう構成された方向変化検出部を更に有し、
    前記方向変化検出部により検出された前記内視鏡画像の方向と、前記位置姿勢情報記録部に記録されている内視鏡画像の方向とのなす角が、閾値以上の変化を検出した場合に、前記位置姿勢情報記録部は、前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録することを特徴とする請求項1に記載の内視鏡システム。
  5. 内視鏡内に設けられ、前記所定の管腔臓器内を撮像するよう構成された撮像部と、
    前記3次元画像情報を基に所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成するよう構成された仮想内視鏡画像生成部と、
    前記撮像部により撮像された前記所定の管腔臓器内の内視鏡画像と前記仮想内視鏡画像を比較するよう構成された画像比較部と、
    前記画像比較部の比較結果に基づいて前記内視鏡の挿入部の先端の位置及び姿勢の情報を算出するよう構成された位置姿勢情報算出部と、
    を更に備えることを特徴とする請求項1に記載の内視鏡システム。
  6. 内視鏡内に設けられ、前記所定の管腔臓器内を撮像するよう構成された撮像部と、
    前記3次元画像情報を基に所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成するよう構成された仮想内視鏡画像生成部と、
    前記撮像部により撮像された前記所定の管腔臓器内の内視鏡画像と前記仮想内視鏡画像を比較するよう構成された画像比較部と、
    前記画像比較部の比較結果に基づいて前記内視鏡の挿入部の先端の位置及び姿勢の情報を算出するよう構成された位置姿勢情報算出部と、
    を更に備えることを特徴とする請求項2に記載の内視鏡システム。
  7. 前記位置姿勢情報記録部は、前記内視鏡の挿入部の先端の位置及び姿勢の情報と共に、当該挿入部の先端の位置及び姿勢に対応する前記仮想内視鏡画像及び前記撮像部により撮像された内視鏡画像の方向の情報を記録することを特徴とする請求項5に記載の内視鏡システム。
  8. 前記所定の管腔臓器の管腔形状画像を生成するよう構成された管腔形状画像生成部と、
    前記画像比較部を用いた前記内視鏡画像と前記仮想内視鏡との比較による画像マッチングが設定された精度内で行えない場合には、前記位置姿勢情報算出部に記録された前記内視鏡の挿入部の先端の位置及び姿勢の情報を、前記管腔形状画像上に重畳して表示するよう構成された表示部と、
    を更に有することを特徴とする請求項5に記載の内視鏡システム。
  9. 前記被検体の3次元画像情報に対して目標部位を指定した場合、前記3次元画像情報及び前記管腔臓器抽出部により抽出された前記所定の管腔臓器の管腔形状画像から、前記所定の管腔臓器においての前記挿入部の先端の挿入開始位置から前記目標部位近傍となる目標位置までの経路データを生成するよう構成された経路データ生成部と、
    前記経路データの前記目標位置に至る途中においての前記所定の管腔臓器が分岐する分岐点の3次元位置及び分岐角を含む分岐情報を記録するよう構成された分岐情報記録部と、を有し、前記分岐点の分岐情報に応じて、分岐情報記録部は、前記第2の所定の閾値を自動的に決定し、決定された前記第2の所定の閾値を用いて前記方向比較部は、比較を行うことを特徴とする請求項2に記載の内視鏡システム。
  10. 前記分岐情報記録部は、前記視線方向検出部により現在の視線方向が検出された際の前記挿入部の先端の3次元位置に基づき、当該3次元位置よりも目標位置側に沿って存在する次の分岐点の分岐情報に基づいて、前記第2の所定の閾値を自動的に決定することを特徴とする請求項9に記載の内視鏡システム。
JP2014552430A 2013-04-15 2014-04-10 内視鏡システム Active JP5687811B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014552430A JP5687811B1 (ja) 2013-04-15 2014-04-10 内視鏡システム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2013084918 2013-04-15
JP2013084918 2013-04-15
JP2014552430A JP5687811B1 (ja) 2013-04-15 2014-04-10 内視鏡システム
PCT/JP2014/060398 WO2014171391A1 (ja) 2013-04-15 2014-04-10 内視鏡システム

Publications (2)

Publication Number Publication Date
JP5687811B1 JP5687811B1 (ja) 2015-03-25
JPWO2014171391A1 true JPWO2014171391A1 (ja) 2017-02-23

Family

ID=51731334

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014552430A Active JP5687811B1 (ja) 2013-04-15 2014-04-10 内視鏡システム

Country Status (5)

Country Link
US (1) US9357945B2 (ja)
EP (1) EP2888991B1 (ja)
JP (1) JP5687811B1 (ja)
CN (1) CN104755009B (ja)
WO (1) WO2014171391A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105072974B (zh) * 2013-03-29 2017-08-08 富士胶片株式会社 内窥镜下外科手术装置
WO2014157481A1 (ja) * 2013-03-29 2014-10-02 富士フイルム株式会社 内視鏡下外科手術装置
WO2014157479A1 (ja) * 2013-03-29 2014-10-02 富士フイルム株式会社 内視鏡下外科手術装置
GB201501157D0 (en) * 2015-01-23 2015-03-11 Scopis Gmbh Instrument guidance system for sinus surgery
US10143364B2 (en) * 2015-07-23 2018-12-04 Ankon Technologies Co., Ltd Controlled image capturing method including position tracking and system used therein
WO2017195797A1 (ja) * 2016-05-09 2017-11-16 東芝メディカルシステムズ株式会社 医用画像診断装置
JP6608111B2 (ja) * 2016-09-28 2019-11-20 富士フイルム株式会社 医用画像保存再生装置および方法並びにプログラム
CN110167417B (zh) * 2017-01-26 2022-01-07 奥林巴斯株式会社 图像处理装置、动作方法和存储介质
CN110769731B (zh) * 2017-06-15 2022-02-25 奥林巴斯株式会社 内窥镜系统、内窥镜用处理系统、图像处理方法
US10575907B2 (en) * 2017-06-21 2020-03-03 Biosense Webster (Israel) Ltd. Registration with trajectory information with shape sensing
EP3756607B1 (en) * 2018-04-12 2024-09-18 ROEN Surgical, Inc. Autonomous endoscopic system
CN114601559B (zh) * 2018-05-30 2024-05-14 奥瑞斯健康公司 用于基于定位传感器的分支预测的系统和介质
WO2019244345A1 (ja) * 2018-06-22 2019-12-26 オリンパス株式会社 ランドマーク推定方法、及び、内視鏡装置
CN112315582B (zh) * 2019-08-05 2022-03-25 罗雄彪 一种手术器械的定位方法、系统及装置
US11696671B2 (en) * 2019-08-19 2023-07-11 Covidien Ag Steerable endoscope with motion alignment
JP7553381B2 (ja) * 2021-02-22 2024-09-18 ザイオソフト株式会社 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
CN116416414B (zh) * 2021-12-31 2023-09-22 杭州堃博生物科技有限公司 肺部支气管镜导航方法、电子装置及计算机可读存储介质
CN116433874B (zh) * 2021-12-31 2024-07-30 杭州堃博生物科技有限公司 支气管镜导航方法、装置、设备及存储介质
CN115414120A (zh) * 2022-11-07 2022-12-02 中南大学 一种内镜导航系统

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7477768B2 (en) * 1999-06-29 2009-01-13 The Research Foundation Of State University Of New York System and method for performing a three-dimensional virtual examination of objects, such as internal organs
JP4171833B2 (ja) * 2002-03-19 2008-10-29 国立大学法人東京工業大学 内視鏡誘導装置および方法
US20050272971A1 (en) * 2002-08-30 2005-12-08 Olympus Corporation Medical treatment system, endoscope system, endoscope insert operation program, and endoscope device
WO2007023631A1 (ja) * 2005-08-25 2007-03-01 Olympus Medical Systems Corp. 内視鏡挿入形状解析装置及び内視鏡挿入形状解析システム
JP4789545B2 (ja) * 2005-08-25 2011-10-12 オリンパスメディカルシステムズ株式会社 内視鏡挿入形状解析装置
EP2129284A4 (en) * 2007-03-08 2012-11-28 Sync Rx Ltd IMAGING AND TOOLS FOR USE WITH MOBILE ORGANS
WO2010058398A2 (en) * 2007-03-08 2010-05-27 Sync-Rx, Ltd. Image processing and tool actuation for medical procedures
JP5191989B2 (ja) * 2007-07-31 2013-05-08 株式会社日立メディコ 医用画像表示装置、医用画像表示方法
JP5384473B2 (ja) * 2008-03-21 2014-01-08 株式会社日立メディコ 画像表示装置及び画像表示方法
JP5372407B2 (ja) 2008-05-23 2013-12-18 オリンパスメディカルシステムズ株式会社 医療機器
RU2011120186A (ru) * 2008-10-20 2012-11-27 Конинклейке Филипс Электроникс, Н.В. Способ и система локализации на основе изображений
CN102883651B (zh) * 2010-01-28 2016-04-27 宾夕法尼亚州研究基金会 可应用于支气管镜引导的基于图像的全局配准系统和方法
JP4728456B1 (ja) 2010-02-22 2011-07-20 オリンパスメディカルシステムズ株式会社 医療機器
WO2011102012A1 (ja) * 2010-02-22 2011-08-25 オリンパスメディカルシステムズ株式会社 医療機器
JP2011189074A (ja) 2010-03-16 2011-09-29 Olympus Medical Systems Corp 医療機器
JP5380348B2 (ja) * 2010-03-31 2014-01-08 富士フイルム株式会社 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム
JP2012024518A (ja) 2010-07-28 2012-02-09 Fujifilm Corp 内視鏡観察を支援する装置および方法、並びに、プログラム
CN103068294B (zh) * 2011-01-24 2015-06-24 奥林巴斯医疗株式会社 医疗设备
JP2014209930A (ja) * 2011-08-31 2014-11-13 テルモ株式会社 呼吸域用ナビゲーションシステム

Also Published As

Publication number Publication date
US20150196228A1 (en) 2015-07-16
WO2014171391A1 (ja) 2014-10-23
US9357945B2 (en) 2016-06-07
EP2888991A4 (en) 2016-05-18
CN104755009B (zh) 2017-04-19
EP2888991B1 (en) 2017-11-01
JP5687811B1 (ja) 2015-03-25
EP2888991A1 (en) 2015-07-01
CN104755009A (zh) 2015-07-01

Similar Documents

Publication Publication Date Title
JP5687811B1 (ja) 内視鏡システム
US9326660B2 (en) Endoscope system with insertion support apparatus
US9516993B2 (en) Endoscope system
JP5715311B2 (ja) 内視鏡システム
JP5159995B2 (ja) 内視鏡システム
JPWO2014156378A1 (ja) 内視鏡システム
US20120287238A1 (en) Medical device
WO2011062035A1 (ja) 生検支援システム
JP5977900B2 (ja) 画像処理装置
WO2017212725A1 (ja) 医療用観察システム
JP2017225700A (ja) 観察支援装置及び内視鏡システム
US9345394B2 (en) Medical apparatus
WO2018230099A1 (ja) 内視鏡システム、内視鏡システムの作動方法
KR102313319B1 (ko) 증강현실 대장 내시경 시스템 및 이를 이용한 모니터링 방법
WO2016039292A1 (ja) 内視鏡システム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20141222

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150122

R151 Written notification of patent or utility model registration

Ref document number: 5687811

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250