JPWO2014171391A1 - 内視鏡システム - Google Patents
内視鏡システム Download PDFInfo
- Publication number
- JPWO2014171391A1 JPWO2014171391A1 JP2014552430A JP2014552430A JPWO2014171391A1 JP WO2014171391 A1 JPWO2014171391 A1 JP WO2014171391A1 JP 2014552430 A JP2014552430 A JP 2014552430A JP 2014552430 A JP2014552430 A JP 2014552430A JP WO2014171391 A1 JPWO2014171391 A1 JP WO2014171391A1
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- information
- endoscope
- distal end
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003780 insertion Methods 0.000 claims abstract description 202
- 230000037431 insertion Effects 0.000 claims abstract description 202
- 210000000056 organ Anatomy 0.000 claims abstract description 44
- 238000001514 detection method Methods 0.000 claims abstract description 41
- 238000000605 extraction Methods 0.000 claims abstract description 17
- 230000003287 optical effect Effects 0.000 claims abstract description 17
- 238000004364 calculation method Methods 0.000 claims description 55
- 238000003384 imaging method Methods 0.000 claims description 44
- 230000000007 visual effect Effects 0.000 abstract description 6
- 239000000284 extract Substances 0.000 abstract description 3
- 238000012545 processing Methods 0.000 description 111
- 210000000621 bronchi Anatomy 0.000 description 71
- 238000000034 method Methods 0.000 description 49
- 230000006870 function Effects 0.000 description 21
- 238000012986 modification Methods 0.000 description 20
- 230000004048 modification Effects 0.000 description 20
- 238000005259 measurement Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 10
- 238000013500 data storage Methods 0.000 description 7
- 238000005286 illumination Methods 0.000 description 6
- 238000005452 bending Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000001574 biopsy Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 230000005389 magnetism Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/06—Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
- A61B5/061—Determining position of a probe within the body employing means separate from the probe, e.g. sensing internal probe position employing impedance electrodes on the surface of the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/06—Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
- A61B5/065—Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/364—Correlation of different images or relation of image positions in respect to the body
- A61B2090/365—Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
- A61B2090/373—Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Physics & Mathematics (AREA)
- Biophysics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Optics & Photonics (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Gynecology & Obstetrics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Endoscopes (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
Description
一方、体腔内における気管支のように複雑に分岐した管腔臓器内に挿入して管腔臓器の末端側の目標部位(の患部組織)を検査、又は処置具による生検や処置を行うような場合においては、挿入した際に得られる内視鏡画像のみでは、目標部位付近まで挿入部先端を導入することが困難な場合がある。
このため、目標部位付近まで内視鏡の挿入部先端を導入する作業を支援するための表示等を行うシステム又は装置が提案されている。
例えば、第1の従来例としての日本国特開2011−189074号公報は、気管支に挿入される挿入部と、挿入部に配設される複数のFBGセンサ部と、予め取得した気管支の3次元画像データを記憶する記憶部と、FBGセンサ部のデータから挿入部の形状を測定する形状測定部と、記憶部に記憶される3次元画像データから気管支の芯線を算出する芯線算出部と、形状測定部が測定する形状と芯線算出部が算出する芯線とをもとに、挿入部の位置を算出する位置算出部と、を具備する医療装置を開示している。そして、芯線を抽出することにより、挿入部の先端の位置と方向とを算出する。
再度の位置合わせを行うような場合には、単に芯線の情報のみだけを挿入部の先端の位置に関する情報として記録するよりも、対物光学系を介して撮像手段により撮像する場合の視線方向等の姿勢情報も記録して、再度の位置合わせを行い易くすることが望まれる。
本発明は上述した点に鑑みてなされたもので、再度の位置合わせ等を行い易くするように内視鏡の先端の位置の情報と共に姿勢の情報を記録する内視鏡システムを提供することを目的とする。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(図2A)内に挿入される内視鏡3を備えた内視鏡装置4と、この内視鏡装置4と共に使用され、内視鏡3の挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4は、内視鏡3と、この内視鏡3に照明光を供給する光源装置6と、内視鏡3に搭載された撮像手段(撮像部)を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8と、CCU8により生成された内視鏡画像を表示する表示装置(表示部)としてのモニタ9と、を有する。
また、観察窓には、被写体を結像する対物光学系を形成する対物レンズ15が取り付けられ、その結像位置に電荷結合素子(CCD)等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内部を被写体として撮像する撮像手段(撮像部)としての撮像装置16が形成される。
このため、本実施形態においては、対物レンズ15を介しての撮像素子7の撮像方向又は視線方向は、挿入部11の先端の軸方向又は長手方向と一致すると近似できる。そして、少なくとも挿入部11の先端に配置された対物レンズ15の撮像方向又は視線方向の情報によって挿入部11の先端の位置と姿勢が決定し、逆に挿入部11の先端の位置と姿勢の情報から対物レンズ15の撮像方向又は視線方向が決定する。
なお、本発明は、図1に示すように先端部13に撮像装置16を設けた構成の内視鏡3に限らず、先端部13に設けた対物レンズ15の結像位置にファイババンドルで構成したイメージガイドの先端面を配置したファイバススコープと、該イメージガイドの接眼部にTVカメラを装着したカメラ装着内視鏡の場合にも適用できる。いずれの内視鏡の場合にも先端部13には、少なくとも対物レンズ15が配置されている。このため、撮像装置16の視線方向よりも対物レンズ15の視線方向または対物レンズ15による視線方向を主に用いる。
内視鏡3の挿入部11における先端部13の後端には湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ20を回転する操作を行うことにより、図示しないワイヤを介して湾曲部19を上下、左右の任意の方向に湾曲することができる。
上記挿入支援装置5は、内視鏡3による検査が行われる患者に対して、公知のCT装置で生成された患者の3次元画像情報としてのCTデータを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCTデータ取込部21と、このCTデータ取込部21によって取り込まれたCTデータを記憶するCT画像データ記憶部22とを有する。
また、画像記憶手段を構成するCT画像データ記憶部22は、CTデータより画像データを分離したCT画像データと、CTデータより位置情報を分離した該CT画像データに対応する第1の座標系を用いた3次元の位置データとを対応付けた対応付け画像情報として記憶する対応付け画像情報記憶部22aを有する。
また、挿入支援装置5は、CT画像データ記憶部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出手段としての管腔臓器抽出回路等からなる気管支抽出部23を有する。
VBS画像生成部24には、内視鏡3の先端部13に搭載された対物レンズ15と、撮像素子7に関する情報(対物レンズ15の焦点距離、撮像素子7の画素数、画素サイズ等の情報)が、例えば入力装置31から入力される。
VBS画像生成部24は、実際に気管支2内に挿入された内視鏡3の先端に配置された対物レンズ15により気管支2内の被写体を撮像素子7の撮像面に結像する結像系の特性情報と、撮像面に結像された光学像を内視鏡画像に変換する撮像素子7の画素サイズ、画素数などの情報と、気管支形状データに基づいて、気管支2内に挿入された前記内視鏡3の挿入部11の先端のCT座標系での3次元位置(単に位置とも言う)を視点位置として、対物レンズ15の視線方向に沿った気管支2内を内視鏡的に撮像した内視鏡画像を仮想的に描画してVBS画像を生成する。
従って、内視鏡画像とVBS画像との両画像を十分に一致するように画像マッチングさせた状態においては、CT座標系でのVBS画像の視点位置と視線方向の情報から内視鏡3の挿入部11の先端の位置と、先端に配置された対物レンズ15の視線方向と殆ど一致する先端の長手方向の姿勢の情報を取得することができる。後述する位置姿勢算出部25bは、このようにして位置姿勢情報を算出(推定)する。
なお、内視鏡3が各内視鏡3に固有の識別情報を発生するROM等から構成される識別情報発生部を有する場合には、挿入支援装置5に接続された内視鏡3の識別情報に基づいて、VBS画像生成部24が、自動的にその内視鏡3に搭載された対物レンズ15と撮像素子7の情報を取得して、対応するVBS画像を生成するようにしても良い。
また、挿入支援装置5は、CT画像データ記憶部22に記憶されたCT画像データに基づき多断面再構築画像としてのCT断層画像(MPR画像という)を生成するよう構成されたMPR画像生成部28と、MPR画像生成部28が生成したMPR画像を有する挿入経路の設定画面としての経路設定画面を生成し、内視鏡3の気管支2内の目標部位側へ挿入する際の経路を設定するよう構成された経路設定部29とを有する。
また、内視鏡システム1は、経路設定部29に対して設定情報を入力するキーボードやポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部26に対して制御動作を選択や、指示することができる。
上記画像処理部25には、CCU8により生成された内視鏡画像と、VBS画像生成部24により生成されたVBS画像とが入力される。また、気管支形状画像生成部23aにより生成された気管支形状画像2aも、画像処理部25に入力される。
本実施形態においては、撮像装置16が配置された挿入部11の先端部13に、挿入部11の先端の位置を検出するセンサを搭載していないため、画像処理部25の位置合わせ処理部25aは、画像マッチングによって挿入部11の先端の位置と、その姿勢としての先端の長手方向又は軸方向を推定(又は算出)する。つまり、位置合わせ処理部25aは、画像マッチングによって挿入部11の先端の位置及び姿勢の情報を算出する位置姿勢算出手段としての位置姿勢算出部(位置姿勢算出回路)25bの機能を有する。
そして、術者は内視鏡画像がVBS画像と同じように見えるように挿入部11の先端を挿入する。このような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、内視鏡画像とVBS画像とが設定された条件(所定の精度を確保できる誤差以内)で一致するように画像マッチングの処理を開始する。このような処理を行うことにより、位置合わせ処理部25aは、挿入部11の先端の位置と対物レンズ15の視線方向(又は先端の長手方向)で決定する姿勢とを推定により検出又は算出する位置姿勢算出手段としての位置姿勢算出部(位置姿勢算出回路)25bの機能を有する。
なお、位置姿勢算出部25bは、挿入部11の先端の3次元位置を推定により検出又は算出する位置算出手段としての位置算出部(位置算出回路)25cの機能を有する。
また、画像処理部25は、対物レンズ15を介して撮像素子7により取得される内視鏡画像と、VBS画像とを比較する画像比較手段としての画像比較部(画像比較回路)25dと、対物レンズ15による視線方向を検出する視線方向検出手段としての視線方向検出部(視線方向検出回路)25eと、気管支2の管腔の中心線の方向としての芯線方向と、視線方向とを比較する方向比較手段としての方向比較部(方向比較回路)25fとを有する。
上記位置姿勢算出部25bは、画像比較部25dにより内視鏡画像と、VBS画像とが予め設定された条件以内で一致した場合の比較結果の場合に、挿入部11の先端の位置及び姿勢の情報(換言すると、挿入部11の先端の位置及び対物レンズ15の視線方向の情報)を算出(取得)する。
また、画像処理部25は、制御部26における表示を制御するよう構成された表示制御部26a等の制御の下で、モニタ32に表示する画像を生成するよう構成された画像生成部の機能を有する。
また、画像処理部25は、画像比較部25dが画像の比較を行う場合の内視鏡画像と、VBS画像との画像データ等を一時的に記憶したり、位置や姿勢や視線方向等のデータを一時的に記憶する画像メモリ25hと、後述するように内視鏡画像の回転的な変化の有無をモニタすることにより、内視鏡画像の回転的な変化の有無の検出結果に基づいて挿入部11の回転的な方向変化を検出する方向変化検出手段を構成するよう構成された方向変化検出部(方向変化検出回路)25i(図1において点線で示している)とを有する。
また、図2Aに示すように、モニタ32において表示される気管支形状画像2aには、気管支2の管腔の中心を通る芯線35も表示するようにしている。芯線35は、例えば気管支形状画像生成部23aが生成するが、画像処理部25において芯線35を生成しても良い。
画像処理部25は、気管支2の深部側(末端側)に挿入する操作において、内視鏡画像とVBS画像との両画像のマッチング(画像マッチング)を利用して、CT座標系のもとで挿入部11の先端の移動した位置及び姿勢の他に、移動距離を算出する処理を行うこともできる。
つまり、ある位置において両画像がマッチングしている場合、挿入部11の先端を芯線35に沿って(挿入のために)移動する操作に伴って、内視鏡画像が変化する。
なお、挿入部11の先端は、芯線35上から外れた位置において移動される場合もあるため、芯線35から適宜の距離だけ偏心した位置においてのVBS画像をVBS画像生成部24が生成し、生成したVBS画像を位置合わせ処理部25aに出力することができるようにしている。このようにして、画像マッチングによる位置算出の範囲を拡大できるようにしている。上記制御部26は、位置合わせ処理部25aにより算出した挿入部11の先端の位置により経路データ生成部29aによって、(内視鏡3の挿入部11の挿入前に)生成された経路データを補正するようにしても良い。
このため、条件判定部26bは、位置姿勢情報を位置姿勢情報記録部27に記録させる記録制御手段としての記録制御部(記録制御回路)の機能を有する。なお、位置姿勢情報を位置姿勢情報記録部27に記録させる場合、位置姿勢情報の他に、該位置姿勢情報に対応するVBS画像と、その記録の時間とを位置姿勢情報に関連付けて位置姿勢情報記録部27に記録させるようにしても良い。
なお、VBS画像を記録しない場合においても、記録した位置姿勢情報から、該位置姿勢情報に対応するVBS画像を取得して表示することも可能になる。しかし、挿入部11を気管支2の深部側の目標とする目標位置まで挿入する過程において、再度の位置合わせ等を行い、以前の位置合わせの際の座標系を補正したような場合には、該補正等を考慮してVBS画像を取得して表示することが必要となる。上記のようにVBS画像も記録しておくと、再度の位置合わせの有無に関係なく、各位置姿勢情報に対応するVBS画像を短時間に表示することができる。
上記方向比較部25fは、気管支2の芯線方向と、視線方向とのなす角θが所定の閾値以下となる場合に、この場合の挿入部11の先端の位置及び姿勢の情報を位置姿勢情報記録部27に記録させるように制御する。なお、図1では条件判定部26bを制御部26内部に設けた構成で示しているが、画像処理部25内に条件判定部26bを設けた構成にしても良い。
また、方向比較部25fが、条件判定部26bの機能を備えた構成にしても良い。なお、上記両方向のなす角θを用いて、上記所定の条件を設定する代わりに、以下の内積を利用しても良い。上記芯線方向と、視線方向の各単位ベクトルを算出(設定)し、両ベクトルの内積を算出して、算出された内積の値が閾値以上となる場合を、上記所定の条件を満たす場合に設定しても良い。
つまり、位置姿勢情報記録部27は、挿入部11の先端の位置姿勢情報と、該位置姿勢情報に対応するVBS画像及びVBS画像の生成に用いるCT座標系の位置及び視線方向の情報等のVBS画像生成情報とを記録する位置姿勢情報&VBS画像生成情報記録部27aを備えた構成にしても良い。
なお、上記位置姿勢情報、該位置姿勢情報に対応するVBS画像、その記録の時間と共に、該位置姿勢情報に対応する内視鏡画像も位置姿勢情報記録部27に記録するようにしても良い。そして、位置姿勢情報記録部27に記録されたVBS画像と共に記録された内視鏡画像を、再度の位置合わせを行う場合に利用することができるようにしても良い。
本実施形態においては、挿入部11を気管支2内の目標位置まで挿入する操作の過程において、上述した視線方向と芯線方向とのなす角θが所定の閾値以下の条件を満たす場合には、挿入部11の先端の位置及び姿勢の情報等を位置姿勢情報記録部27に記録する。
再位置合わせを行う指示を術者が入力装置31を構成するキーボード、マウス等から画像処理部25又は制御部26に指示入力しても良い。
再位置合わせの指示等がされる(又はトリガ入力される)と、制御部26の表示制御部26aは、現在の挿入部11の先端の位置付近における候補情報を位置姿勢情報記録部27から読み出し、画像処理部25を経てモニタ32において候補情報を提示する制御を行う。
なお、表示制御部26aが、位置姿勢情報記録部27から情報を読み出し、画像処理部25を経ることなくモニタ32において候補情報を提示するように制御しても良い。モニタ32において候補情報を提示する場合、例えば2次元断層画像として図2Dに示す気管支形状画像2a上に、画像比較に関する(又は画像比較により)候補情報における挿入部11の先端の位置及び姿勢の情報と、該候情報に対応するVBS画像を表示する。
上述したように、画像処理部25の位置合わせ処理部25aは、挿入部11の先端が移動された場合、画像マッチングを利用して挿入部11の先端及び姿勢を推定(算出)するが、設定された精度以内で画像マッチングすることができなくなる画像マッチングエラーが発生する場合がある。
術者は、候補情報を用いて再度の位置合わせ処理を行う。再度の位置合わせ処理を行うことにより、術者はこの再度の位置合わせ処理を行った位置付近から挿入部11の挿入操作を続行することができるようになる。
また、術者が画像マッチングの精度が悪化したと判断した場合は、再位置合わせの指示をして上記の処理をさせてもよい。
そして、画像処理部25の位置合わせ処理部25aは、基準位置におけるVBS画像生成部24のVBS画像(の画像信号)をモニタ32に出力する。術者は、入力装置31から基準位置の1つを指定し、挿入部11の先端を指定した基準位置に挿入するとともに、画像処理部25の位置合わせ処理部25aに対して位置合わせの処理を行うように指示する。
ステップS3において位置合わせ処理部25aは、画像マッチングにより挿入部11の先端の位置及び姿勢の推定が所定条件以内(例えば推定位置が気管支内部にあるか)でできたか否か(つまり位置及び姿勢の推定が成功したか否か)の判定を行う。ステップS3の判定が成功の場合には、ステップS4に示すように画像処理部25(の画像生成部)は、位置姿勢算出部25bにより推定された挿入部11の先端の位置を、気管支形状画像2a上における推定された位置に重畳して表示する画像処理を行う。図2Bは、ステップS4の画像処理により生成された画像の表示例を示す。
なお、図2Bにおいては、挿入部11の先端の姿勢に対応する長手方向又は視線方向D1を矢印で示している。また、ステップS3の判定処理が成功した場合には、ステップS4と共に、ステップS5の処理が行われる。
ステップS5において視線方向検出部25eは、位置姿勢算出部25bにより推定(算出)された挿入部11の先端の姿勢の情報から対物レンズ15の視線方向D1を算出する。また、芯線方向算出部25gは、視線方向D1が算出された前記挿入部11の先端の位置付近での芯線方向E1を算出する。そして、方向比較部25fは、視線方向D1と芯線方向E1とを比較し、比較結果を条件判定部26bに出力する。
図2CはステップS5の処理の様子を示す。図2Cでは挿入部11の先端の推定された位置をP1、その視線方向をD1で示している。また、位置P1に最も近い芯線35の位置をC1で示し、芯線方向算出部25gは、この位置C1においてその芯線方向E1を算出し、方向比較部25fは両方向を比較する。なお、芯線方向算出部25gは、例えば位置P1から芯線35への交点に至る長さが最小となる垂線の場合の位置をC1として芯線方向E1を算出するようにしても良い。また、位置P1から芯線35へ下した垂線に近い条件を満たす位置において、芯線方向E1を算出するようにしても良い。
制御部26の表示制御部26aは、候補情報の提示の制御を行う。表示制御部26aは、候補情報の提示の信号の発生前に、位置姿勢情報記録部27に記録された位置姿勢情報と対応するVBS画像とを含む情報を候補情報としてモニタ32に表示するように制御した後、ステップS1の処理に戻る。
図2Dはモニタ32に表示される候補情報の例を示す。図2Dにおいて、画像マッチングエラーの信号が発生した状態の挿入部11の先端の位置P3を模式的に示す(実際には位置P3は不定となる)。その際に、位置姿勢情報記録部27に記録された位置姿勢情報に基づいてモニタ32には、先端の位置P2とその姿勢(視線方向)D2とが気管支形状画像2a上に表示され、かつ該位置姿勢情報に対応するVBS画像が表示される。
さらに、VBS画像又は内視鏡画像の一方を移動自在に表示し、術者がマウス等で一方の画像を他方の画像上に重畳表示(合成表示)することができるようにしても良い。このようにすると、画像マッチングの程度を術者が確認し易くなる。
さらに、画像処理部25は、CCU8から入力される現在の内視鏡画像も、VBS画像又は内視鏡画像の周辺に表示する画像処理を行うようにしても良い。
なお、図2Dは、例えば、画像マッチングエラーの信号が発生した場合、該信号が発生する前において最新に記録された位置姿勢情報による候補情報の例を示す。術者が入力装置31から、候補情報の表示数を入力して、モニタ32に同時に表示されるVBS画像等の候補情報の表示数を、適宜に設定することもできる。
なお、図2Dに示す現在の内視鏡画像を、VBS画像と、該VBS画像に所定の精度で画像マッチングする内視鏡画像(記録された基準の内視鏡画像)との両方の画像に重畳表示させるようにしても良い。この状態においては、術者が挿入部11の先端の位置をその姿勢を含めて調整することにより、現在の内視鏡画像とVBS画像との位置合わせの程度を確認することができると共に、現在の内視鏡画像と、基準の内視鏡画像との位置合わせの程度を確認することができる。
上記図3のステップS6において算出された角θが所定の閾値θthを超える場合、又はステップS7において位置姿勢情報等を記録した場合には、ステップS10において制御部26は、術者が入力装置31から候補情報の提示の指示信号(トリガ)を発生させているか検出する。
一方、ステップS10のトリガがない場合には、次のステップS11において位置姿勢算出部25bは、挿入部11の先端が目標位置まで挿入されたか否かの判定を行う。
挿入部11の先端が目標位置まで挿入されていない場合には、術者は、モニタ32に表示される挿入部11の先端の位置姿勢情報の表示を参考にして、ステップS12に示すように挿入部11の先端を気管支2の深部側に挿入する。
このように動作する本実施形態においては、再度の位置合わせ等を行い易くするように内視鏡の先端の位置と共に姿勢の情報を位置姿勢情報として記録する。従って、本実施形態によれば、術者が挿入部11を挿入する操作を行った場合の最中において、再度の位置合わせを行う場合に用いることができる提示用の候補情報としての挿入部11の先端の位置姿勢情報を位置姿勢情報記録部27に記録し、挿入部11の先端の位置の推定等が失敗したような場合に、位置合わせに適した提示用の候補情報を提示することができるようにしているので、挿入の操作を円滑に行うことができる。
また、本実施形態においては、画像マッチングの画像処理を利用して挿入部11の先端の位置及び姿勢の推定を行うようにしているため、画像処理のアルゴリズムにより最初の位置合わせの状態から誤差が次第に大きくなり易くなる。
図4は第1の実施形態における第1変形例の内視鏡システム1Bの構成を示す。図4に示す内視鏡システム1Bは、図1の内視鏡システム1において、さらに挿入部11の先端部13内における撮像装置16の近傍の位置に、撮像装置16又は挿入部11の先端の位置を検出するための位置センサ41が設けてある。
また、内視鏡3及び被検体の外部となり、挿入支援装置5内の所定の位置には、この位置センサ41の3次元位置(単に位置とも記す)を計測(検出)する処理を行う計測処理装置又は計測処理部42が設けてある。位置センサ41による検出信号は、計測処理部42に入力される。
本変形例の位置算出(位置推定)の手段又は方法としては、例えば磁気を利用したものを利用できる。計測処理部42に接続された複数のアンテナ42aから発せられる交流磁場をコイルで構成された位置センサ41が検知し、この位置センサ41で検知した信号における、その信号の振幅及び位相を(振幅検出回路及び位相検出回路を備えた)計測処理部42が検出することによりアンテナ42aから位置センサ41までの距離を計測する。計測処理部42は、3つ以上となる複数のアンテナ42aをそれぞれ異なる既知の位置に設けることにより、位置センサ41の3次元位置を特定することが可能になる。
例えば、挿入部11の長手方向に沿って所定間隔で位置検出のための複数のコイルを配置し、複数のコイルの位置から挿入部11の形状を推定し、先端部13等の位置を検出することができるようにしても良い。計測処理部42により算出(推定)された挿入部11の先端の位置情報は、制御部26と画像処理部25とに出力される。
図5はレジストレーションの動作の説明図を示す。例えば気管支2の入り口付近における例えば4点Q0−Q3に、術者は内視鏡3の先端部13(又は位置センサ41)を順次設定して、第1の座標系O−XYZと第2の座標系o−xyzにおいてそれぞれ位置対応付けする指示又は指示入力を入力装置31から行う。このため、入力装置31は、位置対応付けの指示を行う指示入力部又は指示入力手段を形成する。
この場合の位置対応付け情報(具体的には、第1の座標系O−XYZにおけるQ0(0,0,0)、Q1(1,0,0)、Q2(0,1,0)、Q3(0,0,1)は、第2の座標系o−xyzにおいては(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)がそれぞれ対応する情報)を位置姿勢情報記録部27は記録する。
図5においては、座標位置Q0(0,0,0),Q1(1,0,0),Q2(0,1,0),Q3(0,0,1)と、それぞれ対応する座標位置(x0,y0,z0)、(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)とを簡略化してQ0⇔(x0,y0,z0)、Q1⇔(x1,y1,z1)、Q2⇔(x2,y2,z2)、Q3⇔(x3,y3,z3)で示している。なお、図5に示す4点でなく、そのうちの1点を省略した3点で位置対応付けを行う(決定する)ようにしても良い。
このように位置対応付けの処理が終了した後、術者は、内視鏡3の挿入部11を気管支2内に挿入して内視鏡検査を行うことを開始する。
本変形例においては、位置算出部(位置推定部)42bにより推定された挿入部11の先端の位置に対応するCT座標系(第1の座標系)の位置が気管支2の管腔の内側となる条件から外れる場合のように、両座標系の位置ずれが明らかとなる場合に位置推定が失敗した状態と判定する。その他の構成は、図1に第1の実施形態と同様である。
本変形例の場合には、画像処理部25の位置合わせ処理部25aは、画像マッチングによる位置合わせを行うよう構成された第2の位置合わせ処理部の機能を有する。
また、位置合わせ処理部25aは、両座標系の位置合わせの状態を、画像マッチングにより監視するよう構成された位置合わせ監視処理部の機能を有する。例えば、挿入部11の先端が気管支2内に挿入された場合、挿入部11の先端の移動と共に、内視鏡画像と位置算出部42bによる第2の座標系での位置が変化する。
また、本変形例においては、位置算出部42bにより推定された挿入部11の先端の位置に対応するCT座標系(第1の座標系)の位置が気管支2の管腔の内側となる条件から外れる場合のように、両座標系の位置ずれが明らかとなる場合も位置合わせが失敗した状態(又は位置合わせが必要な状態)と判定する。その他の構成は、図1に第1の実施形態と同様である。
本変形例の動作は、挿入部11の先端の位置を位置センサ41を用いて推定すること、位置合わせが失敗した場合に行う位置合わせを制御部26の位置合わせ処理部26cが行うことに変更したことを除けば第1の実施形態の動作を示す図3と殆ど同じ処理を行う。
また、変形例においては、最初の位置合わせ後に位置センサ41を用いて挿入部11の先端の位置推定を行うようにしており、位置合わせした位置からの距離が大きくなると、最初の位置合わせの状態から誤差が大きくなり易くなる。このような場合にも、位置センサ41を用いると共に、画像マッチングを用いた再度の位置合わせにより、誤差を十分に小さくして、再度の位置合わせした位置付近からより深部側への挿入の操作を円滑に行うことが可能になる。
また、ステップS4−S5は、図3と同じ処理であり、ステップS5の次のステップS6′において条件判定部26bは、算出された角θが次数に対応して設定された所定の閾値θthj以下か否かを判定する。ステップS6′の次のステップS7以降の処理は、図3の場合と同様である。このため、図6においては、ステップS7以降を省略している。
本変形例によれば、気管支2内に挿入された挿入部11の先端の位置に応じて位置姿勢情報を記録する条件を変更することができる。例えば、気管支2の末梢側に移動したように入り口からの移動距離が大きくなると、位置及び姿勢を算出する精度が低下し易くなる傾向になり易い。つまり、再度の位置合わせを行うための位置姿勢情報を記録する頻度が少なくなる可能性がある。このため、例えば分岐の次数が大きくなる程、所定の閾値θthjの値を大きな値に設定することによって、末梢側においても位置合わせを行うことができる位置の間隔が大きくなることを防止するようにしても良い。なお、上記分岐の次数の代わりに、気管支2の挿入口から気管支2の抹消側の目標位置に至るまでに気管支2が順次分岐する分岐順序数を用いても良い。
次に本発明の第2の実施形態を説明する。本実施形態における構成は、図1又は図4と同様である。本実施形態は、第1の実施形態において、所定の条件を満たす場合における今回(又は現在)の視線方向と、位置姿勢情報記録部27に記録された最新の位置姿勢情報における視線方向(記録視線方向)Dreとを比較し、両方視線向のなす角θdが第2の所定の閾値θdth以上となる場合に、今回の位置姿勢情報を位置姿勢情報記録部27に記録する。
なお、本実施形態においては、例えば条件判定部26bが、上記の両視線方向のなす角θdが第2の所定の閾値θdth以上となるか否かを判定するが、条件判定部26b以外の構成要素(例えば方向比較部25fや視線方向検出部25e)が行うようにしても良い。また、第2の所定の閾値θdthの情報は、例えば位置姿勢情報記録部27内に記録される。
図7は、本実施形態における動作の代表例のフローチャートの一部を示す。図7は、図3において一部の処理が異なるのみとなる。
ステップS32において例えば、方向比較部25fは、ステップS5において算出された現在の視線方向と、位置姿勢情報記録部27から読み出された視線方向Dreとのなす角θdを算出し、条件判定部26bに送る。ステップS33において条件判定部26bは、角θdが第2の閾値θdth以上となるか否かを判定する。
角θdが第2の所定の閾値θdth以上となる判定結果の場合には、次のステップS7において、現在の位置姿勢情報をVBS画像及び時間と共に、位置姿勢情報記録部27に記録する。
第1の実施形態においてはステップS5において算出された角θが、次のステップS6において所定の閾値θth以下と判定された場合には、その判定が行われた時点(現在)での位置姿勢情報が位置姿勢情報記録部27に経時的に記録される。
これに対して、本実施形態においては、ステップS6において角θが所定の閾値θth以下と判定された場合には、さらにその時点の直前に位置姿勢情報記録部27に記録された位置姿勢情報における視線方向Dreが読み出され、その時点での視線方向とのなす角θdが算出され、該角θdが第2の所定の閾値θdth以上となる判定結果の場合のみ、その時点での位置姿勢情報が位置姿勢情報記録部27に経時的に記録される。
従って、本実施形態は、第1の実施形態において、直前に記録した場合の視線方向とかなり変化した場合においてのみ、その時点の位置姿勢情報を記録する。そして、類似した条件の位置姿勢情報を過度に記録するのを避けるようにしている。挿入部11の先端が挿入されている位置から分岐する位置を通過して、抹消側となる気管支枝側に移動する場合においては、分岐する位置を通過する際に視線方向が変化することが期待できるため、そのような移動の際の位置姿勢情報を記録することができるようにしている。
本変形例は、第1の実施形態と第2の実施形態との中間的な作用効果を有する。
次に本発明の第3の実施形態を説明する。本実施形態は、図1又は図4と同様の構成である。本実施形態は、第1ないしは第2の実施形態において、さらに位置姿勢情報を記録する頻度を削減する手段を備える。
第1の実施形態においては、気管支径(気管支の内径)が細い部位においては、挿入された挿入部11が芯線と平行に挿入される頻度が高くなるため、記録する頻度も増えてしまい、記録される位置姿勢情報が、術者が望む情報量よりも増大してしまう可能性がある。
また、第2の実施形態及びその変形例においては、気管支径が太い部位においては、挿入部11を挿入する際にふらつかせてしまうと、記録する頻度も増えてしまい、記録される位置姿勢情報が、術者が望む情報量よりも増大してしまう可能性がある。
記録する位置姿勢情報は、必要とされるもの以外で増大することは、術者にとって使い勝手が低下する。
a)前回記録した先端の位置からの距離が閾値Lth以上
b)内視鏡画像中に分岐の画像が見えるとき
c)挿入部11の先端の位置と、該先端の位置に最も近い芯線35上の点との距離が閾値Lth2以下
図8は、本実施形態における代表的な処理例のフローチャートを示す。
図8においては、ステップS1からステップS6までは、図3と同じ処理である。また、ステップS6とステップS7との間に、以下に説明するステップS41〜S43を設けた処理以外は、図3の処理と同様である。
この条件を満たす場合にはステップS7の処理に進み、この条件を満たさない場合にはステップS42の処理に移る。ステップS42において画像処理部25に設けた内視鏡画像から分岐の画像を画像処理により認識する分岐画像認識部は、内視鏡画像中に分岐の画像が見える条件を満たすか否かの判定を行う。具体的には、内視鏡画像をある閾値にて2値化し、一定の画素数を持つ暗部の個数が複数あるか否かの判定を行う。
この条件を満たす場合にはステップS7の処理に進み、この条件を満たさない場合にはステップS43の処理に移る。ステップS43において距離算出部の機能を持つ例えば位置算出部25cは、挿入部11の先端の位置と、該先端の位置に最も近い芯線35上の点との距離L2が閾値Lth2以下の条件を満たすか否かを判定する。
なお、上記距離の閾値Lth1,Lth2に関しては、以下のように設定しても良い。
閾値Lth1,Lth2は、全ての気管支2に対して同じ値に設定しても良いし、気管支2毎に気管支径の値に応じた値に設定しても良いし、又は部位や気管支の次数に応じた値に設定しても良い。
また、距離L1,L2は、2点間の直線に沿った距離でも良いし、又は挿入部11の先端の位置に最も近い芯線35上の点と分岐点までの芯線35上での道のりで算出(計測)しても良い。
なお、図8のステップS6とステップS41〜S43の処理の順番を変更しても良い。例えば、ステップS6の判定処理を行う前に、ステップS41〜S43の処理を行い、いずれかの条件を満たす場合にステップS6の判定処理を行うようにしても良い。
また、例えば、距離算出部が前回、位置姿勢情報を記録した挿入部11の先端の位置から所定の距離間隔以上、挿入部11の先端が移動したか否かを監視し、所定の距離間隔以上移動した場合にステップS6の判定処理を行い、ステップS6の判定条件を満たす場合に、ステップS7において位置姿勢情報を記録するようにしても良い。
ステップS6の判定条件を満たす場合に、ステップS7において位置姿勢情報を記録するようにしても良い。この場合には、方向比較手段としての方向比較部25fは、挿入部11の先端の移動距離が気管支2の管腔内において所定の距離間隔以上の場合に、視線方向と芯線方向との比較を行うことを含む。
次に本発明の第4の実施形態を説明する。本実施形態は、第1の実施形態において、図1又は図3の点線で示すように方向変化検出部25iを有し、方向変化検出部25iは内視鏡3の挿入部11の先端の観察窓(撮像窓)に固定された対物レンズ15を介して撮像した内視鏡画像の方向(方位)と、1回前に位置姿勢情報を記録したときの内視鏡画像の方向とを比較する。
そして、両方向のなす角θroが閾値θroth以上となる条件を満たす場合、換言すると両方向のなす角θroが十分に大きい場合に、位置姿勢情報を記録する。なお、内視鏡画像の方向(方位)は、以下のように挿入部11の周周りの方向と同じ意味である。
分岐している気管支枝側に通過(挿入)させる際に通常1回行われる操作を検出し、その操作を検出した際に位置姿勢情報を記録することにより、そのような検出を行わない場合における同じ気管支枝での複数回の位置姿勢情報の記録を避ける。
なお、画像マッチングに用いられる(内視鏡画像と比較される)VBS画像は、CT座標系における視点及び視線方向と共に、挿入部11の先端(の対物レンズ15)が所定の方向(方位)に設定された状態において、同様に所定の方向(方位)に固定されたCCD16により光電変換されるものに対応して生成される。なお、内視鏡画像がモニタ9において表示される場合の上下方向は、湾曲部19を湾曲する場合の上下の湾曲方向と一致するようにCCD16の撮像面の(挿入部11の周回りの)方向が予め設定されている。
本実施形態においては、位置姿勢情報を位置姿勢情報記録部27に記録する場合、更に、内視鏡画像の方向(方位)(又は挿入部11の周回りの方向(方位))の情報も記録する。そして、位置姿勢情報記録部27に記録された情報から内視鏡画像の方向(方位)の情報を(方向変化を算出するために)参照することができるようにしている。
内視鏡画像の方向(方位)は、挿入部11が、その周方向の回りで回転されないと変化しない。このため、方向変化検出部25iは、内視鏡画像の方向の変化、又は挿入部11の周回りの方向の変化を検出する方向変化検出手段の機能を有する。
ステップS51において方向変化検出部25iは、現在の挿入部11の先端の状態においての内視鏡画像の方向と、前回記録(今回に関して1回前に記録)した時の内視鏡画像の方向との両方向のなす角θroを算出し、さらに両方向のなす角θroが閾値θroth以上の条件を満たすか否かを判定する。
ステップS51における条件を満たす判定結果の場合には、ステップS7′において上記のように現在の位置姿勢情報と共に、更に内視鏡画像の方向(方位)の情報も含めて位置姿勢情報記録部27に記録する。ステップS51における条件を満たさない判定結果の場合には、ステップS10の処理に移る。その他の処理は、図3の場合と同様である。
上記第4の実施形態においては、ステップS51において現在の挿入部11の先端の(周周り)の方向と、1回前に記録された方向とのなす角θroを比較したが、n回前に記録された方向とのなす角θronを比較し、この角θronが閾値θronth以上である場合に現在の位置姿勢情報を、位置姿勢情報記録部27に記録するようにしても良い。なお、内視鏡画像の方向の情報を取得した場合、所定の方向(又は基準の方向)からの差分角を算出し、位置姿勢情報記録部27に記録する場合にも上方向からの差分角を記録するようにしても良い。
次に本発明の第5の実施形態を説明する。本実施形態は、上述した実施形態(変形例を含む)を組み合わせたものであり、その構成は図1又は図4と同様である。本実施形態においては、上述した実施形態のいずれか2つ以上の条件を挿入部11の先端が存在する領域毎に切り替えて使用する。
図10は本実施形態の動作の説明図を示す。本実施形態においては、気管支内に挿入部11が挿入された場合、挿入部11の先端が存在する領域R1においては、第1の実施形態の条件を適用し、領域R2においては、第2の実施形態の条件を適用し、領域R3においては第3の実施形態の条件を適用する。
領域Rk(k=1,2,3,…)の設定方法は、以下の通りである。
b)分岐点を中心とした球に含まれる領域とそれ以外の領域
c)カリーナからの距離
d)気管支の次数
e)断層像画像から算出した気管支径
f)前回リスタート(再度の位置合わせ)した位置からの距離
に応じて、各領域を設定する。
さらに、これらの条件は、複数を組み合わせても良い。
本実施形態によれば、上述した実施形態の効果を有すると共に、さらにユーザにより記録する場合の条件をより詳細に選択することができる。
また、気管支形状画像やVBS画像を生成するに当たり、CT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出するのでなく、CT画像データよりボリュームレンダリングで直接生成してもよい。
Claims (10)
- 予め取得した被検体における3次元画像情報を記憶するよう構成された画像記憶部と、
前記3次元画像情報から所定の管腔臓器を抽出するよう構成された管腔臓器抽出部と、
内視鏡の挿入部の先端に設けられた対物光学系と、
前記対物光学系による視線方向を検出するよう構成された視線方向検出部と、
前記管腔臓器抽出部により抽出された前記所定の管腔臓器の芯線方向と前記視線方向とを比較するよう構成された方向比較部と、
前記芯線方向と前記視線方向とのなす角が所定の閾値以下の場合に前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録するよう構成された位置姿勢情報記録部と、
を備えることを特徴とする内視鏡システム。 - 前記方向比較部は、前記位置姿勢情報記録部において過去に記録された前記姿勢の情報に基づく過去の視線方向と前記視線方向検出部により検出された現在の視線方向との比較を行い、
前記位置情報記録部は、前記方向比較部による過去の前記視線方向と前記視線方向検出部により検出された現在の視線方向とのなす角が第2の所定の閾値より大きい場合に前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録することを特徴とする請求項1に記載の内視鏡システム。 - 前記方向比較部は、前記所定の管腔臓器において、前記挿入部の先端の移動距離が、所定の距離間隔以上の場合に前記芯線方向と前記視線方向との比較を行うことを特徴とする請求項1に記載の内視鏡システム。
- 内視鏡内に設けられ、前記所定の管腔臓器内を撮像するよう構成された撮像部を備え、
前記撮像部によって取得された内視鏡画像の方向の変化を検出するよう構成された方向変化検出部を更に有し、
前記方向変化検出部により検出された前記内視鏡画像の方向と、前記位置姿勢情報記録部に記録されている内視鏡画像の方向とのなす角が、閾値以上の変化を検出した場合に、前記位置姿勢情報記録部は、前記内視鏡の挿入部の先端の位置及び姿勢の情報を記録することを特徴とする請求項1に記載の内視鏡システム。 - 内視鏡内に設けられ、前記所定の管腔臓器内を撮像するよう構成された撮像部と、
前記3次元画像情報を基に所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成するよう構成された仮想内視鏡画像生成部と、
前記撮像部により撮像された前記所定の管腔臓器内の内視鏡画像と前記仮想内視鏡画像を比較するよう構成された画像比較部と、
前記画像比較部の比較結果に基づいて前記内視鏡の挿入部の先端の位置及び姿勢の情報を算出するよう構成された位置姿勢情報算出部と、
を更に備えることを特徴とする請求項1に記載の内視鏡システム。 - 内視鏡内に設けられ、前記所定の管腔臓器内を撮像するよう構成された撮像部と、
前記3次元画像情報を基に所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成するよう構成された仮想内視鏡画像生成部と、
前記撮像部により撮像された前記所定の管腔臓器内の内視鏡画像と前記仮想内視鏡画像を比較するよう構成された画像比較部と、
前記画像比較部の比較結果に基づいて前記内視鏡の挿入部の先端の位置及び姿勢の情報を算出するよう構成された位置姿勢情報算出部と、
を更に備えることを特徴とする請求項2に記載の内視鏡システム。 - 前記位置姿勢情報記録部は、前記内視鏡の挿入部の先端の位置及び姿勢の情報と共に、当該挿入部の先端の位置及び姿勢に対応する前記仮想内視鏡画像及び前記撮像部により撮像された内視鏡画像の方向の情報を記録することを特徴とする請求項5に記載の内視鏡システム。
- 前記所定の管腔臓器の管腔形状画像を生成するよう構成された管腔形状画像生成部と、
前記画像比較部を用いた前記内視鏡画像と前記仮想内視鏡との比較による画像マッチングが設定された精度内で行えない場合には、前記位置姿勢情報算出部に記録された前記内視鏡の挿入部の先端の位置及び姿勢の情報を、前記管腔形状画像上に重畳して表示するよう構成された表示部と、
を更に有することを特徴とする請求項5に記載の内視鏡システム。 - 前記被検体の3次元画像情報に対して目標部位を指定した場合、前記3次元画像情報及び前記管腔臓器抽出部により抽出された前記所定の管腔臓器の管腔形状画像から、前記所定の管腔臓器においての前記挿入部の先端の挿入開始位置から前記目標部位近傍となる目標位置までの経路データを生成するよう構成された経路データ生成部と、
前記経路データの前記目標位置に至る途中においての前記所定の管腔臓器が分岐する分岐点の3次元位置及び分岐角を含む分岐情報を記録するよう構成された分岐情報記録部と、を有し、前記分岐点の分岐情報に応じて、分岐情報記録部は、前記第2の所定の閾値を自動的に決定し、決定された前記第2の所定の閾値を用いて前記方向比較部は、比較を行うことを特徴とする請求項2に記載の内視鏡システム。 - 前記分岐情報記録部は、前記視線方向検出部により現在の視線方向が検出された際の前記挿入部の先端の3次元位置に基づき、当該3次元位置よりも目標位置側に沿って存在する次の分岐点の分岐情報に基づいて、前記第2の所定の閾値を自動的に決定することを特徴とする請求項9に記載の内視鏡システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014552430A JP5687811B1 (ja) | 2013-04-15 | 2014-04-10 | 内視鏡システム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013084918 | 2013-04-15 | ||
JP2013084918 | 2013-04-15 | ||
JP2014552430A JP5687811B1 (ja) | 2013-04-15 | 2014-04-10 | 内視鏡システム |
PCT/JP2014/060398 WO2014171391A1 (ja) | 2013-04-15 | 2014-04-10 | 内視鏡システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5687811B1 JP5687811B1 (ja) | 2015-03-25 |
JPWO2014171391A1 true JPWO2014171391A1 (ja) | 2017-02-23 |
Family
ID=51731334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014552430A Active JP5687811B1 (ja) | 2013-04-15 | 2014-04-10 | 内視鏡システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US9357945B2 (ja) |
EP (1) | EP2888991B1 (ja) |
JP (1) | JP5687811B1 (ja) |
CN (1) | CN104755009B (ja) |
WO (1) | WO2014171391A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105072974B (zh) * | 2013-03-29 | 2017-08-08 | 富士胶片株式会社 | 内窥镜下外科手术装置 |
WO2014157481A1 (ja) * | 2013-03-29 | 2014-10-02 | 富士フイルム株式会社 | 内視鏡下外科手術装置 |
WO2014157479A1 (ja) * | 2013-03-29 | 2014-10-02 | 富士フイルム株式会社 | 内視鏡下外科手術装置 |
GB201501157D0 (en) * | 2015-01-23 | 2015-03-11 | Scopis Gmbh | Instrument guidance system for sinus surgery |
US10143364B2 (en) * | 2015-07-23 | 2018-12-04 | Ankon Technologies Co., Ltd | Controlled image capturing method including position tracking and system used therein |
WO2017195797A1 (ja) * | 2016-05-09 | 2017-11-16 | 東芝メディカルシステムズ株式会社 | 医用画像診断装置 |
JP6608111B2 (ja) * | 2016-09-28 | 2019-11-20 | 富士フイルム株式会社 | 医用画像保存再生装置および方法並びにプログラム |
CN110167417B (zh) * | 2017-01-26 | 2022-01-07 | 奥林巴斯株式会社 | 图像处理装置、动作方法和存储介质 |
CN110769731B (zh) * | 2017-06-15 | 2022-02-25 | 奥林巴斯株式会社 | 内窥镜系统、内窥镜用处理系统、图像处理方法 |
US10575907B2 (en) * | 2017-06-21 | 2020-03-03 | Biosense Webster (Israel) Ltd. | Registration with trajectory information with shape sensing |
EP3756607B1 (en) * | 2018-04-12 | 2024-09-18 | ROEN Surgical, Inc. | Autonomous endoscopic system |
CN114601559B (zh) * | 2018-05-30 | 2024-05-14 | 奥瑞斯健康公司 | 用于基于定位传感器的分支预测的系统和介质 |
WO2019244345A1 (ja) * | 2018-06-22 | 2019-12-26 | オリンパス株式会社 | ランドマーク推定方法、及び、内視鏡装置 |
CN112315582B (zh) * | 2019-08-05 | 2022-03-25 | 罗雄彪 | 一种手术器械的定位方法、系统及装置 |
US11696671B2 (en) * | 2019-08-19 | 2023-07-11 | Covidien Ag | Steerable endoscope with motion alignment |
JP7553381B2 (ja) * | 2021-02-22 | 2024-09-18 | ザイオソフト株式会社 | 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム |
CN116416414B (zh) * | 2021-12-31 | 2023-09-22 | 杭州堃博生物科技有限公司 | 肺部支气管镜导航方法、电子装置及计算机可读存储介质 |
CN116433874B (zh) * | 2021-12-31 | 2024-07-30 | 杭州堃博生物科技有限公司 | 支气管镜导航方法、装置、设备及存储介质 |
CN115414120A (zh) * | 2022-11-07 | 2022-12-02 | 中南大学 | 一种内镜导航系统 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7477768B2 (en) * | 1999-06-29 | 2009-01-13 | The Research Foundation Of State University Of New York | System and method for performing a three-dimensional virtual examination of objects, such as internal organs |
JP4171833B2 (ja) * | 2002-03-19 | 2008-10-29 | 国立大学法人東京工業大学 | 内視鏡誘導装置および方法 |
US20050272971A1 (en) * | 2002-08-30 | 2005-12-08 | Olympus Corporation | Medical treatment system, endoscope system, endoscope insert operation program, and endoscope device |
WO2007023631A1 (ja) * | 2005-08-25 | 2007-03-01 | Olympus Medical Systems Corp. | 内視鏡挿入形状解析装置及び内視鏡挿入形状解析システム |
JP4789545B2 (ja) * | 2005-08-25 | 2011-10-12 | オリンパスメディカルシステムズ株式会社 | 内視鏡挿入形状解析装置 |
EP2129284A4 (en) * | 2007-03-08 | 2012-11-28 | Sync Rx Ltd | IMAGING AND TOOLS FOR USE WITH MOBILE ORGANS |
WO2010058398A2 (en) * | 2007-03-08 | 2010-05-27 | Sync-Rx, Ltd. | Image processing and tool actuation for medical procedures |
JP5191989B2 (ja) * | 2007-07-31 | 2013-05-08 | 株式会社日立メディコ | 医用画像表示装置、医用画像表示方法 |
JP5384473B2 (ja) * | 2008-03-21 | 2014-01-08 | 株式会社日立メディコ | 画像表示装置及び画像表示方法 |
JP5372407B2 (ja) | 2008-05-23 | 2013-12-18 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
RU2011120186A (ru) * | 2008-10-20 | 2012-11-27 | Конинклейке Филипс Электроникс, Н.В. | Способ и система локализации на основе изображений |
CN102883651B (zh) * | 2010-01-28 | 2016-04-27 | 宾夕法尼亚州研究基金会 | 可应用于支气管镜引导的基于图像的全局配准系统和方法 |
JP4728456B1 (ja) | 2010-02-22 | 2011-07-20 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
WO2011102012A1 (ja) * | 2010-02-22 | 2011-08-25 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
JP2011189074A (ja) | 2010-03-16 | 2011-09-29 | Olympus Medical Systems Corp | 医療機器 |
JP5380348B2 (ja) * | 2010-03-31 | 2014-01-08 | 富士フイルム株式会社 | 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム |
JP2012024518A (ja) | 2010-07-28 | 2012-02-09 | Fujifilm Corp | 内視鏡観察を支援する装置および方法、並びに、プログラム |
CN103068294B (zh) * | 2011-01-24 | 2015-06-24 | 奥林巴斯医疗株式会社 | 医疗设备 |
JP2014209930A (ja) * | 2011-08-31 | 2014-11-13 | テルモ株式会社 | 呼吸域用ナビゲーションシステム |
-
2014
- 2014-04-10 JP JP2014552430A patent/JP5687811B1/ja active Active
- 2014-04-10 WO PCT/JP2014/060398 patent/WO2014171391A1/ja active Application Filing
- 2014-04-10 EP EP14785125.7A patent/EP2888991B1/en not_active Not-in-force
- 2014-04-10 CN CN201480002770.8A patent/CN104755009B/zh active Active
-
2015
- 2015-03-27 US US14/670,858 patent/US9357945B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20150196228A1 (en) | 2015-07-16 |
WO2014171391A1 (ja) | 2014-10-23 |
US9357945B2 (en) | 2016-06-07 |
EP2888991A4 (en) | 2016-05-18 |
CN104755009B (zh) | 2017-04-19 |
EP2888991B1 (en) | 2017-11-01 |
JP5687811B1 (ja) | 2015-03-25 |
EP2888991A1 (en) | 2015-07-01 |
CN104755009A (zh) | 2015-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5687811B1 (ja) | 内視鏡システム | |
US9326660B2 (en) | Endoscope system with insertion support apparatus | |
US9516993B2 (en) | Endoscope system | |
JP5715311B2 (ja) | 内視鏡システム | |
JP5159995B2 (ja) | 内視鏡システム | |
JPWO2014156378A1 (ja) | 内視鏡システム | |
US20120287238A1 (en) | Medical device | |
WO2011062035A1 (ja) | 生検支援システム | |
JP5977900B2 (ja) | 画像処理装置 | |
WO2017212725A1 (ja) | 医療用観察システム | |
JP2017225700A (ja) | 観察支援装置及び内視鏡システム | |
US9345394B2 (en) | Medical apparatus | |
WO2018230099A1 (ja) | 内視鏡システム、内視鏡システムの作動方法 | |
KR102313319B1 (ko) | 증강현실 대장 내시경 시스템 및 이를 이용한 모니터링 방법 | |
WO2016039292A1 (ja) | 内視鏡システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20141222 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150106 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150122 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5687811 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |