JP5504028B2 - 観察支援システムおよび方法並びにプログラム - Google Patents

観察支援システムおよび方法並びにプログラム Download PDF

Info

Publication number
JP5504028B2
JP5504028B2 JP2010075201A JP2010075201A JP5504028B2 JP 5504028 B2 JP5504028 B2 JP 5504028B2 JP 2010075201 A JP2010075201 A JP 2010075201A JP 2010075201 A JP2010075201 A JP 2010075201A JP 5504028 B2 JP5504028 B2 JP 5504028B2
Authority
JP
Japan
Prior art keywords
endoscope
image
finding
dimensional medical
medical image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010075201A
Other languages
English (en)
Other versions
JP2011206168A (ja
Inventor
佳児 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2010075201A priority Critical patent/JP5504028B2/ja
Priority to PCT/JP2011/001842 priority patent/WO2011121986A1/ja
Publication of JP2011206168A publication Critical patent/JP2011206168A/ja
Application granted granted Critical
Publication of JP5504028B2 publication Critical patent/JP5504028B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • A61B2017/00128Electrical control of surgical instruments with audible or visual output related to intensity or progress of surgical action
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/30Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure
    • A61B2090/306Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure using optical fibres
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Robotics (AREA)
  • Endoscopes (AREA)

Description

本発明は、例えば被検体の体腔内に挿入された内視鏡下での手術あるいは検査等における、内視鏡観察を支援する技術に関するものである。
近年、腹腔鏡手術や胸腔鏡手術等の内視鏡下で行われる手術が注目されている。この内視鏡手術では、開腹や開胸等を行うことなく、内視鏡と処置具を刺入するための数センチ程度の穴を2、3個開けるだけで済むので、患者の負担が極めて小さいというメリットがある。一方で、内視鏡の限られた視野で手術を実施することは技術的難易度が高く、執刀を行う医師は熟練を要する。もし患者の血管や臓器を誤って傷つけてしまい、出血してしまった場合には、開腹、開胸等を伴う従来の手法による手術に移行せざるを得ない。
一方、CT等での撮影によって得られた3次元ボリューム画像から内視鏡と類似した画像を生成する仮想内視鏡技術が知られている。この技術は、とくに大腸の腫瘍を発見するために、内視鏡検査をすることなくCT撮影のみで腫瘍を発見する方法として北米で普及している。そして、仮想内視鏡画像を用いて内視鏡手術あるいは検査等を安全かつ迅速に行うための手法が提案されている。
例えば、特許文献1には、内視鏡観察下において、内視鏡画像では見えない周辺部の仮想内視鏡画像を内視鏡画像に重畳表示することにより、内視鏡手術を支援するための手法が記載されている。また、特許文献2には、気管支等の管路についての仮想内視鏡画像を作成し、仮想内視鏡画像上において管路に沿って目的点までの経路を事前に求めておき、この経路の沿った仮想内視鏡画像を実際の内視鏡観察時における案内画像として使用する手法が提案されている。特許文献1,2に記載された手法によれば、内視鏡画像とともに仮想内視鏡画像を表示することにより、安全かつ迅速に内視鏡観察を行うことができる。
一方、実際の画像診断の現場では、画像診断の依頼元である各診療科の医師(以下、依頼医)と3次元ボリューム画像等の医用画像の読影を専門とする医師(以下、読影医)との連携により診断が行われる。具体的には、依頼医からの検査オーダーに基づいて、放射線技師が患者の撮影を行って医用画像を取得した後、読影医がその医用画像の読影を行い、読影結果をまとめた読影レポートを作成して依頼医に返し、依頼医は、作成された読影レポートに記載された所見を読み、読影レポートを取得した画像を参照しつつ、問診結果や他の検査結果等の種々の情報も考慮して最終的な診断を行っている。また、内視鏡画像を読影して読影レポートを作成することも行われている。なお、読影レポートにはその読影レポートに関連する病変あるいは血管等の位置の情報および所見が記載される。このため、読影レポートを参照することにより、位置情報に基づいて病変等が含まれる位置の医用画像とともに所見を確認することが可能となる。
特開2006−198032号公報 特開2000−135215号公報
しかしながら、上記特許文献1,2に記載された手法を用いての内視鏡観察中に、仮想内視鏡画像を作成するために取得した3次元ボリューム画像等についての所見を確認したい場合には、別途読影レポートに記載されている所見を表示する必要がある。このため、内視鏡観察中は所見を迅速に確認することができない。また、内視鏡観察中に得た内視鏡画像についての所見を、内視鏡観察後においても容易に確認できるようにすることが望ましい。
本発明は上記事情に鑑みなされたものであり、例えば内視鏡画像、3次元医用画像等のある医用画像の表示中に、他の医用画像において取得した所見を簡易かつ迅速に確認できるようにすることを目的とする。
本発明による第1の観察支援システムは、被検体の3次元医用画像を取得する第1の画像取得手段と、
前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得する第2の画像取得手段と、
前記内視鏡画像を表示する表示手段と、
前記3次元医用画像についての少なくとも1つの所見を、該3次元医用画像内における該所見を得た位置を表す所見位置情報と対応づけて記憶する記憶手段と、
前記体腔内の前記内視鏡のリアルタイムの位置を表す内視鏡位置情報を取得する内視鏡位置取得手段と、
前記3次元医用画像内における前記内視鏡位置情報により表される位置が、前記所見位置情報により表される位置を基準とした所定空間範囲内に位置した際に、前記所見を通知する通知手段とを備えたことを特徴とするものである。
「所定範囲内に位置する」とは、第1の位置情報により表される位置と完全に一致する場合も含む。
なお、本発明による第1の観察支援システムにおいては、前記通知手段を、前記表示手段への前記所見の表示および/または音声出力により前記所見を通知する手段としてもよい。
また、本発明による第1の観察支援システムにおいては、前記表示手段を、前記所見の通知がなされると、通知する所見を取得した位置における前記3次元医用画像を表示する手段としてもよい。
本発明による第2の観察支援システムは、被検体の3次元医用画像を取得する第1の画像取得手段と、
前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得する第2の画像取得手段と、
前記内視鏡画像を表示する表示手段と、
前記体腔内の少なくとも1つの位置についての所見を取得する所見取得手段と、
該所見を得た前記体腔内の前記内視鏡の位置を表す内視鏡位置情報を取得する内視鏡位置取得手段と、
前記3次元医用画像内における前記内視鏡位置情報に対応する位置を特定し、該特定された位置を表す特定位置情報と前記所見とを対応づけて記憶する記憶手段とを備えたことを特徴とするものである。
なお、本発明による第2の観察支援システムにおいては、前記特定位置情報により表される位置における前記3次元医用画像を表示する他の表示手段と、
前記特定位置情報により表される位置の前記3次元医用画像を前記他の表示手段に表示する際に、該位置に対応づけられた前記所見を通知する通知手段とをさらに備えるものとしてもよい。
また、本発明による第2の観察支援システムにおいては、前記通知手段を、前記他の表示手段への前記所見の表示および/または音声出力により前記所見を通知する手段としてもよい。
また、本発明による第2の観察支援システムにおいては、前記他の表示手段を、前記所見の通知がなされると、通知する所見を取得した位置における前記内視鏡画像を表示する手段としてもよい。
本発明による第1の観察支援方法は、被検体の3次元医用画像を取得するステップと、
前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得するステップと、
前記内視鏡画像を表示するステップと、
前記3次元医用画像についての少なくとも1つの所見を、該3次元医用画像内における該所見を得た位置を表す所見位置情報と対応づけて記憶するステップと、
前記体腔内の前記内視鏡のリアルタイムの位置を表す内視鏡位置情報を取得するステップと、
前記3次元医用画像内における前記内視鏡位置情報により表される位置が、前記所見位置情報により表される位置を基準とした所定空間範囲内に位置した際に、前記所見を通知するステップとを有することを特徴とするものである。
本発明による第2の観察支援方法は、被検体の3次元医用画像を取得するステップと、
前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得するステップと、
前記内視鏡画像を表示するステップと、
前記体腔内の少なくとも1つの位置についての所見を取得するステップと、
該所見を得た前記体腔内の前記内視鏡の位置を表す内視鏡位置情報を取得するステップと、
前記3次元医用画像内における前記内視鏡位置情報に対応する位置を特定し、該特定された位置を表す特定位置情報と前記所見とを対応づけて記憶するステップとを有することを特徴とするものである。
なお、本発明による第1および第2の観察支援方法をコンピュータに実行させるためのプログラムとして提供してもよい。
本発明の第1の観察支援システムおよび方法によれば、被検体の3次元医用画像が取得され、被検体の体腔内に挿入された内視鏡により撮影した、体腔内の内視鏡画像が取得される。そして、3次元医用画像についての少なくとも1つの所見が、3次元医用画像内における所見を得た位置を表す所見位置情報と対応づけられて記憶される。一方、内視鏡画像が表示され、体腔内の内視鏡のリアルタイムの位置を表す内視鏡位置情報が取得され、内視鏡位置情報により表される位置が、所見位置情報により表される位置を基準とした所定空間範囲内に位置した際に所見が通知される。このため、ユーザである医師は内視鏡画像の観察中に、内視鏡が3次元医用画像内における所見を取得した位置の近くに到達した際に、3次元医用画像内において取得した所見を簡易かつ迅速に確認できる。とくに、所見は、病変がある位置あるいは動脈等の血管がある位置等の内視鏡を用いての手術、検査等の内視鏡観察を行うに際して重要な位置において作成されるため、ユーザである医師は、内視鏡観察を行っている最中に、そのような重要な位置に内視鏡が近づいたことを所見の通知により知ることができる。したがって、内視鏡を用いての手術、検査を安全かつ確実に行うことができる。
また、所見の通知とともに、通知する所見を取得した位置における3次元医用画像を表示することにより、医師は重要な位置における3次元医用画像をも参照して、内視鏡観察を行うことができる。したがって、内視鏡観察をより精度良く行うことができる。
また、本発明の第2の観察支援システムおよび方法によれば、被検体の3次元医用画像が取得され、被検体の体腔内に挿入された内視鏡により撮影した、体腔内の内視鏡画像が取得される。そして、内視鏡画像が表示され、体腔内の少なくとも1つの位置についての所見が取得され、所見を得た体腔内の内視鏡の位置を表す内視鏡位置情報が取得される。さらに、内視鏡位置情報に対応する3次元医用画像内における位置が特定され、特定された位置を表す特定位置情報と所見とが対応づけられて記憶される。
このため、医師は、3次元医用画像を観察する際に、内視鏡を用いての手術、検査等の内視鏡観察時に作成された所見を、その所見を作成した位置に対応する位置の3次元医用画像とともに簡易かつ迅速に確認することができる。とくに、所見は、被検体の体腔内の病変がある位置等の内視鏡を用いての手術、検査を行うに際して重要な位置において作成されるため、医師は、内視鏡観察中あるいは内視鏡観察後に、そのような重要な位置についての3次元医用画像を所見とともに確認することができる。したがって、3次元医用画像を用いての、内視鏡観察時に重要であるとされた位置における診断を安全かつ確実に行うことができる。
また、所見の通知とともに、通知する所見を取得した位置における内視鏡画像を表示することにより、医師は重要な位置における内視鏡画像をも参照して、3次元医用画像を用いた診断を行うことができる。したがって、3次元医用画像を用いた診断をより精度良く行うことができる。
本発明の第1の実施形態による内視鏡観察支援システムの概要を示すハードウェア構成図 本発明の第1の実施形態における内視鏡観察支援システムを機能レベルで分割したブロック図 本発明の第1の実施形態において行われる処理を示すフローチャート 内視鏡画像用ディスプレイにおける内視鏡画像および所見の表示を説明するための図 内視鏡画像用ディスプレイにおける内視鏡画像および所見の表示を説明するための図 内視鏡画像用ディスプレイにおける内視鏡画像および所見の表示を説明するための図 本発明の第1の実施形態の変形例における内視鏡観察支援システムを機能レベルで分割したブロック図 本発明の第2の実施形態における内視鏡観察支援システムを機能レベルで分割したブロック図 本発明の第2の実施形態において行われる処理を示すフローチャート(その1) 本発明の第1の実施形態において行われる処理を示すフローチャート(その2) 画像処理ワークステーション用ディスプレイにおける3次元医用画像および所見の表示を説明するための図 画像処理ワークステーション用ディスプレイにおける3次元医用画像および所見の表示を説明するための図 画像処理ワークステーション用ディスプレイにおける3次元医用画像および所見の表示を説明するための図
以下、本発明の実施形態による内視鏡観察支援システムについて説明する。図1は、本発明の第1の実施形態による内視鏡観察支援システムの概要を示すハードウェア構成図である。図1に示すように、本発明の第1の実施形態による内視鏡観察支援システムは、内視鏡1、デジタルプロセッサ2、光源装置3、内視鏡画像用ディスプレイ4、モダリティ5、内視鏡用マーカー7、位置センサ8、読影ワークステーション9、読影ワークステーション用ディスプレイ10(以下単にディスプレイ10とすることもある)、画像処理ワークステーション11、画像処理ワークステーション用ディスプレイ12(以下単位ディスプレイ12とすることもある)から構成されており、被検体の腹腔内に内視鏡1および処置具6を挿入して、腹腔鏡手術や胸腔鏡手術等の内視鏡下で行われる手術を行う際の内視鏡の観察を支援するためのものである。
本実施形態では、内視鏡1は腹腔用の硬性鏡であり、被検体の腹腔内に挿入される。光源装置3から光ファイバーで導かれた光が内視鏡1の先端部から照射され、内視鏡1の撮像光学系により被検体の腹腔内の画像が得られる。デジタルプロセッサ2は、内視鏡1で得られた撮像信号をデジタル画像信号に変換し、ホワイトバランス調整やシェーディング補正等のデジタル信号処理によって画質の補正を行うことにより、内視鏡画像データSを取得し、内視鏡画像Sを内視鏡画像用ディスプレイ4に表示する。内視鏡1での撮像信号の取得は所定のフレームレートで行われるので、内視鏡画像用ディスプレイ4には、内視鏡画像Sが腹腔内を表す動画として表示される。
また、デジタルプロセッサ2は、キーボード等の入力装置2Aを備えており、内視鏡画像用ディスプレイ4に動画として表示された内視鏡画像Sにおいて病変等が観察された場合に、ユーザである医師が入力装置2Aを用いて、静止画撮影を行うことが可能となっている。また、医師が静止画撮影により取得した静止画の内視鏡画像(静止内視鏡画像)Ssを読影することにより、静止内視鏡画像Ssに対する所見を入力することも可能となっている。この際、デジタルプロセッサ2は、読影レポートの作成を支援するレポート作成画面をディスプレイ4に表示し、読影に基づいて行った所見等の内容を示すテキスト(以下、所見情報Ksとする)が入力されたときに、所見情報Ksおよび読影の対象とされた静止内視鏡画像Ssを撮影した際の内視鏡1の位置を表す内視鏡位置情報Psを記録した読影レポートRsを作成する。なお、読影レポートRsには、所見を作成した位置の静止内視鏡画像Ssを記録してもよい。
また、所見の入力は入力装置2Aのみならず音声を用いてもよい。また、内視鏡画像用ディスプレイ4がタッチパネル式の入力装置となっている場合には、タッチパネル式の入力装置を用いて入力してもよい。また、医師のみならず手術のアシスタント(看護士)が入力するようにしてもよい。これにより、手術中における医師の負担を軽減できる。デジタルプロセッサ2は、作成した読影レポートRsをLAN経由で画像処理ワークステーション11に送信する。
また、静止内視鏡画像Ssが複数あるときは、読影レポートRsには、静止内視鏡画像毎に所見情報Ksおよび内視鏡位置情報Psが対応づけられて記録される。
なお、デジタルプロセッサ2は、内視鏡画像Sを表す内視鏡画像データSおよび静止内視鏡画像Ssを表す静止内視鏡画像データSsにDICOM(Digital Imaging and Communications in Medicine)規格で規定された付帯情報を付加して、内視鏡画像データSおよび静止内視鏡画像データSsを出力する。出力された静止内視鏡画像データSsは、DICOM規格に準拠した通信プロトコルに従って、LAN経由で画像処理ワークステーション11に送信される。
モダリティ5は、被検体の検査対象部位を撮影することにより、その部位を表す3次元医用画像の画像データVを生成する装置であり、ここではCT装置とする。この3次元医用画像データVにもDICOM規格で規定された付帯情報が付加されている。また、3次元医用画像データVも、DICOM規格に準拠した通信プロトコルに従って、LAN経由で読影ワークステーション9および画像処理ワークステーション11に送信される。
読影ワークステーション9は、モダリティ5から受け取った3次元医用画像Vをディスプレイ10に表示して、読影医による読影に供する。さらに、読影ワークステーション9は、読影レポートの作成を支援するレポート作成画面をディスプレイ10に表示し、読影に基づいて所見等の内容を示すテキスト(以下、所見情報Kvとする)が入力されたときに、所見情報Kvおよび3次元医用画像V内における所見を取得した位置を表す所見位置情報Pvを記録した読影レポートRvを作成する。なお、読影レポートRvには、3次元医用画像Vの所見情報Kvを作成した位置における画像(以下、読影対象画像)を記録してもよい。なお、読影を行って所見を作成した箇所が複数あるときは、読影レポートRvには、読影毎に所見情報Kvおよび所見位置情報Pvが対応づけられて記録される。読影ワークステーション9は、生成した読影レポートを、LAN経由で画像処理ワークステーション11に送信する。
なお、読影ワークステーション9においては、例えば特開2004−135867号公報に記載されたようなアイリスフィルタを用いた異常陰影候補検出手法に代表される、計算機支援診断(CAD:Computer Aided Diagnosis) システムを用いて、3次元医用画像Vから病変を自動的に検出し、病変が含まれる部分の3次元医用画像Vをディスプレイ10に表示して読影に供するようにしてもよい。
内視鏡用マーカー7および位置センサ8は、公知の3次元位置計測装置を構成する。内視鏡用マーカー7は内視鏡1の手元付近に設けられており、光学式の位置センサ8によって、所定の時間間隔でマーカー7の3次元位置が検出される。内視鏡用マーカー7は、複数のマーカー片から構成されているため、位置センサ8はマーカー片の位置関係から内視鏡1の向きも検出可能であり、オフセット計算によって、内視鏡1の先端部の3次元位置を算出することができる。位置センサ8は、算出された内視鏡1の3次元位置および向きを表す内視鏡位置情報Psを、USBインターフェースを介してデジタルプロセッサ2および画像処理ワークステーション11に送信する。
画像処理ワークステーション11は、CPU、主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、データバス等の周知のハードウェア構成を備えたコンピュータであり、入力装置(ポインティングデバイス、キーボード等)およびディスプレイ10が接続されている。また、画像処理ワークステーション11は、デジタルプロセッサ2、モダリティ5および読影ワークステーション9とはLAN接続されており、位置センサ8とはUSB接続されている。さらに、画像処理ワークステーション11は、周知のオペレーティングシステムおよび各種アプリケーション・ソフトウェア等がインストールされたものであり、本実施形態の内視鏡観察支援処理を実行させるためのアプリケーションもインストールされている。これらのソフトウェアは、CD−ROM等の記録媒体からインストールされたものであってもよいし、インターネット等のネットワーク経由で接続されたサーバの記憶装置からダウンロードされた後にインストールされたものであってもよい。
なお、画像処理ワークステーション11は、内視鏡手術を行う手術室または手術室に隣接する控え室に設置されており、手術中または手術後に医師が適宜情報を確認可能なようになっている。
図2は本発明の第1の実施形態における内視鏡観察支援システムを機能レベルで分割したブロック図である。図2に示すように、本発明の第1の実施形態による内視鏡観察支援システムは、内視鏡1、内視鏡画像形成部2、内視鏡画像用ディスプレイ4、3次元医用画像形成部5、所見作成部9、内視鏡位置検出部20、内視鏡位置取得部21、3次元医用画像取得部22、所見取得部23、画像情報データベース24、検索部25および内視鏡画像取得部26から構成されている。なお、図1に示したハードウェア機器と図2に示した各機能ブロックとが概ね1対1に対応する場合には同じ符号を付している。すなわち、内視鏡画像形成部2の機能は図1のデジタルプロセッサによって実現され、3次元医用画像形成部5の機能は図1のモダリティによって実現され、所見作成部9の機能は図1の読影ワークステーションによって実現される。一方、内視鏡位置検出部20の機能は、内視鏡用マーカー7および位置センサ8によって実現される。また、破線枠は画像処理ワークステーション11を示しており、破線枠内の各処理部の機能は、画像処理ワークステーション11で所定のプログラムを実行することによって実現される。
次に、第1の実施形態において行われる処理について説明する。図3は本発明の第1の実施形態による内視鏡観察支援システムで行われる処理を示すフローチャートである。
まず、内視鏡1を用いた被検体の腹腔内の観察に先立って、3次元医用画像形成部5による被検体の撮影によって3次元医用画像Vが形成される。また、所見作成部9において、読影医による3次元医用画像Vの読影が行われ、3次元医用画像Vについての所見情報Kvおよびその所見情報Kvを取得した3次元医用画像V上の位置を表す所見位置情報Pvが記録された読影レポートRvが作成される。
画像処理ワークステーション11では、3次元医用画像取得部22が、3次元医用画像形成部5によって形成された3次元医用画像Vを取得し(ステップST1)、さらに所見取得部23が、所見作成部9によって作成された読影レポートRvを取得する(ステップST2)。3次元医用画像Vおよび読影レポートRvは、互いに対応づけられて画像情報データベース24に登録される(ステップST3)。以上の処理は、内視鏡下手術の前に行われる。
そして、内視鏡下手術中、すなわち内視鏡1を用いた被検体の腹腔内の観察中は、観察が終了するまで(ステップST10肯定)、内視鏡画像形成部2は、所定のフレームレートで体腔内に挿入された内視鏡1による内視鏡画像Sを繰り返し形成し、形成された内視鏡画像Sを内視鏡画像用ディスプレイ4にスルー動画としてリアルタイムに表示する(ステップST4)。なお、内視鏡画像Sは内視鏡画像取得部26により取得され、画像処理ワークステーション11内の所定のメモリ領域に逐次格納される。また、内視鏡位置検出部20は、所定の時間間隔で、体腔内に挿入された内視鏡1の位置を繰り返しリアルタイムに検出する。
画像処理ワークステーション11では、内視鏡位置取得部21が、内視鏡位置検出部20で検出された内視鏡1の位置を表す内視鏡位置情報Psを取得し(ステップST5)、内視鏡位置情報Psを3次元医用画像Vの座標系における位置に変換して得られた変換位置Ps′を取得する(ステップST6)。
そして検索部25が、画像情報データベース24における同一被検体の3次元医用画像Vについての読影レポートRvを参照し、変換位置Ps′に対応する位置を表す所見位置情報Pvと対応づけられた所見情報Kvを検索する(ステップST7)。この場合、変換位置Ps′と所見位置情報Pvにより表される位置とが完全に一致したときに検索されたと判定してもよいが、所見位置情報Pvにより表される位置を基準とした所定の空間的な範囲を定めるしきい値を設定し、このしきい値により定められる空間的な範囲内に変換位置Ps′が含まれている場合に、所見情報Kvが検索されたと判定するようにしてもよい。なお、しきい値はユーザが設定できるようにすればよい。
また、内視鏡位置情報Psには内視鏡1の向きも含まれているため、内視鏡1の向きから内視鏡の画角を求めることができる。したがって、検索部25は、内視鏡位置情報Psに含まれる内視鏡1の向きの情報から内視鏡1の画角を算出し、内視鏡1の画角よりも所定量広い画角の範囲に3次元医用画像Vの所見位置情報Pvにより表される位置が存在する場合に、所見情報Kvが検索されたと判定するようにしてもよい。
また、上記特許文献2に記載された手法を用いて、3次元医用画像Vから内視鏡観察を行う際の経路をあらかじめ求め、求めた経路についての仮想内視鏡画像を作成して画像情報データベース24に登録しておき、リアルタイムで取得した内視鏡画像Sと仮想内視鏡画像との類似度を算出し、類似度が所定範囲(例えば2つの画像の相関値が所定のしきい値以内)となった仮想内視鏡画像内の位置を検出し、その位置が所見位置情報Pvにより表される位置を基準とした所定のしきい値により定められる空間的な範囲内に含まれたときに、所見情報Kvが検索されたと判定するようにしてもよい。
ステップST7が否定されると、ステップST10の処理に進む。ステップST7が肯定されると、検索部25は画像情報データベース24から検索した所見情報Kvを取得し(ステップST8)、内視鏡画像用ディスプレイ4に送信する。内視鏡画像用ディスプレイ4は、所見情報Kvにより表される所見Kvを内視鏡画像Sとともに表示する(ステップST9)。
図4および図5は、内視鏡画像用ディスプレイ4における内視鏡画像Sおよび所見情報Kvの表示を説明するための図である。所見情報Kvが検索されていないときには、図4に示すように内視鏡画像Sのみが表示されている。一方、所見情報Kvが検索されると、図5に示すように所見Kvが内視鏡画像Sに重畳されて表示される。なお、図6に示すように、所見情報Kvを取得した位置における読影対象画像である3次元医用画像V0を所見Kvとともに表示してもよい。
続いて、画像処理ワークステーション11では、観察終了を指示する操作がなされたか否かを判定し(ステップST10)、ステップST10が否定されるとステップST4に戻り、ステップST4以降の処理を繰り返す。ステップST10が肯定されると、それまでにメモリに格納した内視鏡画像S(動画)を画像情報データベース24に登録し(ステップST11)、処理を終了する。
次に、第1の実施形態における画像処理ワークステーション11内の各処理部で行われる処理の詳細について説明する。
内視鏡位置取得部21は、内視鏡位置検出部20との通信により内視鏡位置を表す内視鏡位置情報Psを取得する通信インターフェースとしての機能と、取得した内視鏡位置情報Psを位置センサ8の3次元座標系から3次元医用画像Vの3次元座標系の座標値で表現された変換位置Ps′に変換して画像処理ワークステーション11の所定のメモリ領域に格納する機能とを有する。前者の通信インターフェース機能では、内視鏡位置取得部21からの要求ベースで内視鏡位置検出部20から内視鏡位置情報Psが取得される。また、後者の座標変換機能では、位置センサ8の3次元座標系における各座標軸と3次元医用画像Vの3次元座標系における各座標軸との向きの対応関係に基づいて、座標軸の回転量をあらかじめ求めておくとともに、3次元医用画像Vの原点に相当する被検体中の位置の、位置センサ8の3次元座標系における座標値をあらかじめ計測しておき、この原点の座標値に基づいて、両座標軸の平行移動量を求めておけば、その回転量の回転とその平行移動量の平行移動を行う行列を用いて、位置センサ8の3次元座標系で表現された内視鏡位置情報Psを3次元医用画像Vの3次元座標系の座標値で表現された変換位置Ps′に変換することができる。
3次元医用画像取得部22は、3次元医用画像形成部5から3次元医用画像Vを受信し、画像処理ワークステーション11の所定のメモリ領域に格納するとともに、読影レポートRvと対応づけて画像情報データベース24に登録する通信インターフェース機能を有する。
所見取得部23は、読影ワークステーション9から読影レポートRvを受信し、画像処理ワークステーション11の所定のメモリ領域に格納するとともに、3次元医用画像Vと対応づけて画像情報データベース24に登録する通信インターフェース機能を有する。
画像情報データベース24は、内視鏡画像データS、静止内視鏡画像データSs、その付帯情報および読影レポートRs、並びに3次元医用画像データV、その付帯情報および読影レポートRvを対応づけて記憶することが可能となっている。付帯情報は、例えば、個々の画像を識別するための画像ID、被写体を識別するための患者ID、検査を識別するための検査ID、画像情報毎に割り振られるユニークなID(UID)、その画像情報が生成された検査日、検査時刻、その画像情報を取得するための検査で使用されたモダリティの種類、患者氏名、年齢、性別等の患者情報、検査部位(撮影部位)、撮影条件(造影剤の使用有無や、放射線量等)、1回の検査で複数の画像を取得したときのシリーズ番号あるいは採取番号等の情報が含まれうる。
検索部25は、内視鏡位置取得部21から変換位置Ps′を受け取り、変換位置Ps′に対応する位置を表す所見位置情報Pvと対応づけられた所見情報Kvを検索する。また、所見情報Kvが検索された場合には、画像情報データベース24から検索された所見情報Kvをデジタルプロセッサ2に送信する通信インターフェース機能を有する。
内視鏡画像取得部26は、内視鏡画像形成部(デジタルプロセッサ)2との通信により、内視鏡画像Sを受信し、画像処理ワークステーション11の所定のメモリ領域に格納する通信インターフェースであり、内視鏡画像取得部26からの要求に基づいて内視鏡画像形成部2から内視鏡画像が転送される。
このように、本発明の第1の実施形態においては、3次元医用画像形成部5が、被検体の3次元医用画像Vを取得し、内視鏡画像形成部2が、被検体の体腔内に挿入された内視鏡により撮影した体腔内の内視鏡画像Sを取得し、3次元医用画像Vについての所見を表す所見情報Kvとその所見情報Kvを取得した位置を表す所見位置情報Pvとを対応づけて読影レポートRvに記録し、この読影レポートRvを画像情報データベース24に登録するようにしたものである。そして、内視鏡画像形成部2が、内視鏡画像Sを内視鏡画像用ディスプレイ4に表示し、内視鏡位置取得部21が、体腔内の内視鏡のリアルタイムの位置を表す内視鏡位置情報Psを取得し、検索部25が、内視鏡位置情報Psから得られる変換位置Ps′に対応する位置を表す所見位置情報Pvと対応づけられた所見情報Kvを検索し、検索した所見情報Kvにより表される所見Kvを内視鏡画像用ディスプレイ4に表示するようにしたものである。
このため、ユーザである医師は内視鏡画像Sの観察中に、内視鏡1が3次元医用画像V内における所見Kvを取得した位置の近くに到達した際に、3次元医用画像V内において取得した所見Kvを簡易かつ迅速に確認できる。とくに、所見Kvは、病変がある位置、あるいは動脈等の血管がある位置等の内視鏡を用いての手術、検査等の内視鏡観察を行うに際して重要な位置において作成されるため、医師は、内視鏡観察を行っている最中に、そのような重要な位置に内視鏡が近づいたことを所見Kvの通知により知ることができる。したがって、内視鏡を用いての手術、検査を安全かつ確実に行うことができる。
なお、上記第1の実施形態においては、所見Kvを内視鏡画像用ディスプレイ4に表示することにより通知しているが、図7に示すように内視鏡画像形成部2(すなわちデジタルプロセッサ)にスピーカー等からなる音声出力部2Bを設け、音声出力部2Bから所見Kvを音声により出力することにより通知してもよい。この際、所見Kvを内視鏡画像用ディスプレイ4に併せて表示するようにしてもよい。さらに、ビープ音等により所見Kvが表示されたことを通知するようにしてもよい。
また、上記第1の実施形態においては、内視鏡画像Sを画像情報データベース24に登録する際に、所見情報Kvに対応づけられた位置に対応する内視鏡1の位置を表す内視鏡位置情報Psおよびその位置における3次元医用画像Vの所見情報Kvを、内視鏡画像Sと対応づけるようにしてもよい。これにより、後で内視鏡画像Sを表示した際に、表示される内視鏡画像Sが内視鏡位置情報Psにより表される位置に近づいた際に、3次元医用画像Vの所見Ksを併せて表示することが可能となる。
次いで、本発明の第2の実施形態について説明する。なお、本発明の第2の実施形態による内視鏡観察支援システムのハードウェア構成は、第1の実施形態による内視鏡観察支援システムのハードウェア構成と同一であるためここでは詳細な説明は省略する。図8は本発明の第2の実施形態における内視鏡観察支援システムを機能レベルで分割したブロック図である。なお、図8において図2と同一の構成については同一の参照番号を付与し、ここでは詳細な説明は省略する。第2の実施形態による内視鏡観察支援システムは、第1の実施形態による内視鏡観察支援システムの所見作成部9、所見取得部23および検索部25に代えて、内視鏡画像Sについての読影レポートRsを作成する所見作成部2C、読影レポートRsを取得する所見取得部27、位置情報取得部28、および表示制御部29を備えた点が第1の実施形態と異なる。
なお、図1に示したハードウェア機器と図8に示した各機能ブロックとが概ね1対1に対応する場合には同じ符号を付している。すなわち、内視鏡画像形成部2および所見作成部2Cの機能は図1のデジタルプロセッサによって実現され、3次元医用画像形成部5の機能は図1のモダリティによって実現され、内視鏡位置検出部20の機能は、内視鏡用マーカー7および位置センサ8によって実現される。また、破線枠は画像処理ワークステーション11を示しており、破線枠内の各処理部の機能は、画像処理ワークステーション11で所定のプログラムを実行することによって実現される。
次に、第2の実施形態において行われる処理について説明する。図9は本発明の第2の実施形態による内視鏡観察支援システムで行われる処理を示すフローチャートである。
まず、内視鏡1を用いた被検体の腹腔内の観察に先立って、3次元医用画像形成部5による被検体の撮影により、3次元医用画像Vが形成される。画像処理ワークステーション11では、3次元医用画像取得部22が、3次元医用画像形成部5によって形成された3次元医用画像Vを取得し(ステップST21)、3次元医用画像Vを画像情報データベース24に登録する(ステップST22)。以上の処理は、内視鏡下手術の前に行われる。
そして、内視鏡下手術中、すなわち内視鏡1を用いた被検体の腹腔内の観察中は、観察が終了するまで(ステップST32肯定)、内視鏡画像形成部2は、所定のフレームレートで体腔内に挿入された内視鏡1による内視鏡画像Sを繰り返し形成し、形成された内視鏡画像Sを内視鏡画像用ディスプレイ4にスルー動画としてリアルタイムに表示する(ステップST23)。また、内視鏡位置検出部20は、所定の時間間隔で、体腔内に挿入された内視鏡1の位置を繰り返しリアルタイムに検出し、内視鏡画像形成部2に入力する。なお、内視鏡画像Sは内視鏡画像取得部26により取得され、画像処理ワークステーション11内の所定のメモリ領域に逐次格納される。
そして、デジタルプロセッサ2においてユーザである医師による所見入力の操作が行われると(ステップST24肯定)、内視鏡画像形成部2が、表示中の内視鏡画像S0の静止画像を撮影、すなわちキャプチャして、静止内視鏡画像Ssを内視鏡画像用ディスプレイ4に表示する(ステップST25)。また、内視鏡画像取得部26は、キャプチャされた静止内視鏡画像Ssを取得し(ステップST26)、画像処理ワークステーション11内の所定のメモリ領域に格納する。さらに、所見作成部2Cは、医師による所見の入力を受け付け、所見情報Ksおよび読影の対象とされた静止内視鏡画像Ssの位置を表す内視鏡位置情報Psを記録した読影レポートRsを作成する(ステップST27)。
画像処理ワークステーション11では、所見取得部27が所見作成部9cによって作成された読影レポートRsを取得して、位置情報取得部28が読影レポートRsに記録された内視鏡位置情報Psを取得し(ステップST28)、さらに内視鏡位置情報Psを3次元医用画像Vの座標系における位置に変換して得られた変換位置Ps′を取得する(ステップST29)。
そして位置情報取得部28が、画像情報データベース24に登録された3次元医用画像Vにおいて、変換位置Ps′に対応する位置を特定し(ステップST30)、特定した位置を表す特定位置情報Pv1と読影レポートRsに記録された所見情報Ksとを対応づけ、さらに静止内視鏡画像Ssと読影レポートRsとを対応づけて画像情報データベース24に登録する(ステップST31)。この後、内視鏡画像用ディスプレイ4への静止内視鏡画像Ssの表示が解除され、内視鏡画像Sがリアルタイムで再度表示されることとなる。
続いて、画像処理ワークステーション11は、観察終了を指示する操作がなされたか否かを判定し(ステップST32)、ステップST32が否定されるとステップST23に戻り、ステップST23以降の処理を繰り返す。ステップST32が肯定されると、それまでにメモリに格納した内視鏡画像S(動画)を画像情報データベース24に登録し(ステップST33)、処理を終了する。
図10は第2の実施形態における3次元医用画像の表示時の処理を示すフローチャートである。内視鏡手術後または手術中に、確認等のために3次元医用画像Vを医師が観察する場合、医師は画像処理ワークステーション11の入力装置を用いて3次元医用画像Vの表示の操作を行う(ステップST41肯定)。これにより、表示制御部29が画像処理ワークステーション11のディスプレイ12に3次元医用画像Vを表示するが、表示制御部29は、これから表示する3次元医用画像Vの位置(PvRとする)が特定位置情報Pv1により表される位置と一致するか否かを判定する(ステップST42)。
この場合、位置PvRと特定位置情報Pv1により表される位置とが完全に一致したときに一致すると判定してもよいが、特定位置情報Pv1により表される位置を基準とした所定の空間的な範囲を定めるしきい値を設定し、このしきい値により定められる空間的な範囲内に位置PvRが含まれている場合には、一致すると判定するようにしてもよい。なお、しきい値はユーザが設定できるようにすればよい。
ステップST42が否定されると、表示制御部29はその位置の3次元医用画像Vを画像情報データベース24から取得してディスプレイ12に表示する(ステップST43)。なお、3次元医用画像Vは、複数の断層位置でのスライス画像あるいはボリュームレンダリング表示等により、ディスプレイ12に表示される。ステップST42が肯定されると、表示制御部29は、その位置の3次元医用画像Vおよび所見情報Ksを取得し、所見情報Ksにより表される所見Ksを3次元医用画像Vとともにディスプレイ12に表示する(ステップST44)。
図11および図12は、ディスプレイ12における3次元医用画像Vおよび所見Ksの表示を説明するための図である。位置PvRが特定位置情報Pv1により表される位置と一致しないときには、図11に示すように3次元医用画像V(ここではあるスライス面のスライス画像)のみが表示されている。一方、位置PvRが特定位置情報Pv1により表される位置と一致する場合、図12に示すように、所見Ksが3次元医用画像Vに重畳されて表示される。なお、図13に示すように、所見情報Ksを取得した位置における静止内視鏡画像Ssを所見Ksとともに表示してもよい。
そして、医師により3次元医用画像Vの表示位置の変更操作がなされると(ステップST45肯定)、ステップST42に戻り、ステップST42以降の処理を繰り返す。ステップST45が否定されると、観察終了を指示する操作がなされたか否かを判定し(ステップST46)、ステップST46が否定されるとステップST45に戻る。ステップST46が肯定されると処理を終了する。
次に、第2の実施形態における画像処理ワークステーション11内の各処理部で行われる処理の詳細について説明する。
所見作成部2Cの機能はデジタルプロセッサにより実現され、上述したように所見情報Ksおよび読影の対象とされた静止内視鏡画像Ssを取得した際の内視鏡1の位置を表す内視鏡位置情報Psを記録した読影レポートRsを作成する。
所見取得部27は、デジタルプロセッサ2から読影レポートRsを受信し、画像処理ワークステーション11の所定のメモリ領域に格納する通信インターフェース機能を有する。
位置情報取得部28は、読影レポートRsから取得した内視鏡位置情報Psを位置センサ8の3次元座標系から3次元医用画像Vの3次元座標系の座標値で表現された変換位置Ps′に変換して画像処理ワークステーション11の所定のメモリ領域に格納する機能を有するとともに、変換位置Ps′に対応する位置を、画像情報データベース24に登録された3次元医用画像Vにおいて特定し、特定した位置を表す特定位置情報Pv1を、読影レポートRsに記録された所見情報Ksと対応づけて画像情報データベース24に登録する機能を有する。なお、この座標変換機能は、第1の実施形態において内視鏡位置取得部21が行う機能と同一である。
表示制御部29は、3次元医用画像Vおよび必要な場合には所見Ksを1画面に並べた表示画面を生成し、ディスプレイ12に出力する。
このように、本発明の第2の実施形態においては、所見情報作成部2Cが静止内視鏡画像Ssについての所見を得た体腔内の内視鏡の位置を表す内視鏡位置情報Psと所見情報Ksとを記録した読影レポートRsを作成し、位置情報取得部28が、読影レポートRvに記録された内視鏡位置情報Psに対応する3次元医用画像V上の位置を特定し、特定された位置を表す特定位置情報Pv1と所見情報Ksとを対応づけて画像情報データベース24に登録するようにしたものである。
このため、ユーザである医師は、3次元医用画像Vを観察する際に、内視鏡1を用いての手術、検査等の内視鏡観察時に作成された所見を、その所見を作成した位置に対応する位置の3次元医用画像Vとともに簡易かつ迅速に確認することができる。とくに、所見は、被検体の体腔内の病変がある位置等の内視鏡を用いての手術、検査を行うに際して重要な位置において作成されるため、医師は、内視鏡観察中あるいは内視鏡観察後に、そのような重要な位置についての3次元医用画像Vを所見Ksとともに確認することができる。したがって、内視鏡観察時に重要であるとされた位置における3次元医用画像Vを用いての診断を安全かつ確実に行うことができる。
なお、上記第2の実施形態においては、所見Ksをディスプレイ12に表示することにより通知しているが、第1の実施形態と同様に、画像処理ワークステーション11にスピーカー等からなる音声出力部(不図示)を設け、音声出力部から所見Ksを音声により出力することにより通知してもよい。この際、所見Ksをディスプレイ12に併せて表示するようにしてもよい。さらに、ビープ音等により所見Ksが表示されたことを通知するようにしてもよい。
また、上記第2の実施形態において、特定位置情報Pv1は内視鏡位置情報Psに基づいて求められている。内視鏡1は、それが存在する位置よりも先にある部位を撮影するものであるため、3次元医用画像V内の特定位置情報Pv1により表される位置には、その位置に対応する位置の静止内視鏡画像Ssに含まれる病変等が含まれない場合がある。このため、3次元医用画像Vの表示中において所見Ksを表示した際に、所見Ksが対応づけられている3次元医用画像V上の位置を編集できるようにし、3次元医用画像V上において実際に病変が視認される位置と所見Ksとを正確に対応づけられるようにしてもよい。
また、上記第2の実施形態においては、静止内視鏡画像Ssと読影レポートRsとを対応づけて画像情報データベース24に登録する際に、3次元医用画像Vにおける特定位置情報Pv1を併せて登録するようにしてもよい。また、静止内視鏡画像Ssの画像データの付帯情報に、3次元医用画像Vにおける特定位置情報Pv1を記述するようにしてもよい。これにより、複数の静止内視鏡画像Ssがキャプチャされた場合において、所望とする静止内視鏡画像Ssを術後または術中に表示する際に、画像情報データベース24に登録されたあるいは付帯情報に記述された特定位置情報Pv1を参照して、その位置に対応する3次元医用画像Vを内視鏡画像Sとともに表示することが可能となる。
ところで、内視鏡1にはバルーンが取り付けられ、体腔内でバルーンを膨らませることにより、内視鏡観察を容易にしたバルーン内視鏡が知られている。このようなバルーン内視鏡を体腔内で膨らませると、その周辺の臓器が拡張するように変形するため、対応する位置の3次元医用画像Vに含まれる臓器の形状と、内視鏡画像Sに含まれる臓器の形状とが一致しなくなる。このように3次元医用画像Vに含まれる臓器の形状と、内視鏡画像に含まれる臓器の形状とが一致しないと、上記第1および第2の実施形態において、内視鏡画像Sと3次元医用画像Vとを同時に表示した際に、表示されている部位が一致しないように見えてしまう。
このため、バルーン内視鏡を用いての観察下においては、膨らませたバルーンの大きさの情報に基づいて、3次元医用画像Vにおける変換位置Ps′に対応する位置を変形させることが好ましい。なお、変形は、例えばWO2007/015365号明細書に記載されているように、3次元医用画像Vを四面体の集合により近似し、公知の有限要素法の手法を用いて四面体のメッシュ構造を変形する手法を用いることができる。これにより、3次元医用画像Vに含まれる臓器の形状を内視鏡画像Sに含まれる臓器の形状と一致させることができる。なお、3次元医用画像Vの変形は、内視鏡を用いての観察中に行うことができるが、バルーンを膨らませる位置があらかじめ分かっている場合には、観察前に3次元医用画像Vを変形しておくようにしてもよい。
また、内視鏡画像Sとその表示中の位置に対応する3次元医用画像Vとを併せて表示し、バルーンを膨らませることによる内視鏡画像Sに含まれる臓器の形状の変更を反映させるように、表示中の3次元医用画像Vを変形するようにしてもよい。
なお、3次元医用画像Vを変形させると、所見情報Kvが対応づけられている位置が変更される場合がある。このような場合は、3次元医用画像Vの変形に伴い、画像情報データベース24に登録されている読影レポートRvに記録された位置情報Kvを更新することが好ましい。
なお、上記第1および第2の実施形態はあくまでも例示であり、上記のすべての説明が本発明の技術的範囲を限定的に解釈するために利用されるべきものではない。
この他、上記第1および第2の実施形態におけるシステム構成、ハードウェア構成、処理フロー、モジュール構成、ユーザインターフェースや具体的処理内容等に対して、本発明の趣旨から逸脱しない範囲で様々な改変を行ったものも、本発明の技術的範囲に含まれる。
例えば、システム構成については、上記実施形態では、図1のハードウェア構成では、モダリティ5と読影ワークステーション9および画像処理ワークステーション11とが直接接続されているが、画像保管サーバをLAN上に接続し、モダリティ5で形成された3次元医用画像Vを、一旦画像保管サーバのデータベースに格納されるようにし、読影ワークステーション9および画像処理ワークステーション11からの要求に応じて、画像保管サーバから読影ワークステーション9および画像処理ワークステーション11に3次元医用画像Vが転送されるようにしてもよい。
また、内視鏡1は、硬性鏡ではなく、軟性鏡やカプセル型内視鏡を用いてもよい。
モダリティ5は、上記のCT装置の他、超音波診断装置またはMRI装置等を用いてもよい。
内視鏡位置検出部20は、磁気式のものを用いてもよいし、例えば特開2005−21353号公報に記載されているジャイロやロータリーエンコーダ等を用いてもよい。
さらに、観察部位は腹腔内ではなく、胸腔内等、内視鏡下での観察に適した被検体の他の部位であってもよい。
1 内視鏡
2 デジタルプロセッサ
3 光源装置
4 内視鏡画像用ディスプレイ
5 モダリティ
7 内視鏡用マーカー
8 位置センサ
9 読影ワークステーション
10 読影ワークステーション用ディスプレイ
11 画像処理ワークステーション
12 画像処理ワークステーション用ディスプレイ
20 内視鏡位置検出部
21 内視鏡位置取得部
22 3次元医用画像取得部
23 所見取得部
24 画像情報データベース
25 検索部
26 内視鏡画像取得部
27 所見取得部
28 位置情報取得部
29 表示制御部

Claims (10)

  1. 被検体の3次元医用画像を取得する第1の画像取得手段と、
    前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得する第2の画像取得手段と、
    前記内視鏡画像を表示する表示手段と、
    前記3次元医用画像についての少なくとも1つの所見を、該3次元医用画像内における該所見を得た位置を表す所見位置情報と対応づけて記憶する記憶手段と、
    前記体腔内の前記内視鏡のリアルタイムの位置を表す内視鏡位置情報を取得する内視鏡位置取得手段と、
    前記3次元医用画像内における前記内視鏡位置情報により表される位置が、前記所見位置情報により表される位置を基準とした所定空間範囲内に位置した際に、前記所見を通知する通知手段とを備え
    前記表示手段は、前記所見の通知がなされると、通知する所見を取得した位置における前記3次元医用画像を表示する手段であることを特徴とする観察支援システム。
  2. 前記通知手段は、前記表示手段への前記所見の表示および/または音声出力により前記所見を通知する手段であることを特徴とする請求項1記載の観察支援システム。
  3. 前記表示手段は、バルーン内視鏡を用いての観察下において、前記内視鏡画像に含まれる臓器が変形された場合、前記内視鏡位置情報に対応する位置の前記3次元医用画像を変形する手段であることを特徴とする請求項1または2記載の観察支援システム。
  4. 被検体の3次元医用画像を取得する第1の画像取得手段と、
    前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得する第2の画像取得手段と、
    前記内視鏡画像を表示する表示手段と、
    前記体腔内の少なくとも1つの位置についての所見を取得する所見取得手段と、
    該所見を得た前記体腔内の前記内視鏡の位置を表す内視鏡位置情報を取得する内視鏡位置取得手段と、
    前記3次元医用画像内における前記内視鏡位置情報に対応する位置を特定し、該特定された位置を表す特定位置情報と前記所見とを対応づけて記憶する記憶手段と
    前記特定位置情報により表される位置における前記3次元医用画像を表示する他の表示手段と、
    前記特定位置情報により表される位置の前記3次元医用画像を前記他の表示手段に表示する際に、該位置に対応づけられた前記所見を通知する通知手段とを備え、
    前記他の表示手段は、前記所見の通知がなされると、通知する所見を取得した位置における前記内視鏡画像を表示する手段であることを特徴とする観察支援システム。
  5. 前記通知手段は、前記他の表示手段への前記所見の表示および/または音声出力により前記所見を通知する手段であることを特徴とする請求項記載の観察支援システム。
  6. 前記表示手段は、バルーン内視鏡を用いての観察下において、前記内視鏡画像に含まれる臓器が変形された場合、前記内視鏡位置情報に対応する位置の前記3次元医用画像を変形する手段であることを特徴とする請求項4または5記載の観察支援システム。
  7. 第1の画像取得手段が、被検体の3次元医用画像を取得するステップと、
    第2の画像取得手段が、前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得するステップと、
    表示手段が、前記内視鏡画像を表示するステップと、
    記憶手段が、前記3次元医用画像についての少なくとも1つの所見を、該3次元医用画像内における該所見を得た位置を表す所見位置情報と対応づけて記憶するステップと、
    内視鏡位置取得手段が、前記体腔内の前記内視鏡のリアルタイムの位置を表す内視鏡位置情報を取得するステップと、
    通知手段が、前記3次元医用画像内における前記内視鏡位置情報により表される位置が、前記所見位置情報により表される位置を基準とした所定空間範囲内に位置した際に、前記所見を通知するステップと
    前記表示手段が、前記所見の通知がなされると、通知する所見を取得した位置における前記3次元医用画像を表示するステップとを有することを特徴とする観察支援システムの作動方法。
  8. 第1の画像取得手段が、被検体の3次元医用画像を取得するステップと、
    第2の画像取得手段が、前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得するステップと、
    表示手段が、前記内視鏡画像を表示するステップと、
    所見取得手段が、前記体腔内の少なくとも1つの位置についての所見を取得するステップと、
    内視鏡位置取得手段が、該所見を得た前記体腔内の前記内視鏡の位置を表す内視鏡位置情報を取得するステップと、
    記憶手段が、前記3次元医用画像内における前記内視鏡位置情報に対応する位置を特定し、該特定された位置を表す特定位置情報と前記所見とを対応づけて記憶するステップと
    他の表示手段が、前記特定位置情報により表される位置における前記3次元医用画像を表示するステップと、
    通知手段が、前記特定位置情報により表される位置の前記3次元医用画像を前記他の表示手段に表示する際に、該位置に対応づけられた前記所見を通知するステップと、
    前記他の表示手段が、前記所見の通知がなされると、通知する所見を取得した位置における前記内視鏡画像を表示するステップとを有することを特徴とする観察支援システムの作動方法。
  9. コンピュータに、被検体の3次元医用画像を取得する手順と、
    前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得する手順と、
    前記内視鏡画像を表示する手順と、
    前記3次元医用画像についての少なくとも1つの所見を、該3次元医用画像内における該所見を得た位置を表す所見位置情報と対応づけて記憶する手順と、
    前記体腔内の前記内視鏡のリアルタイムの位置を表す内視鏡位置情報を取得する手順と、
    前記3次元医用画像内における前記内視鏡位置情報により表される位置が、前記所見位置情報により表される位置を基準とした所定空間範囲内に位置した際に、前記所見を通知する手順と
    前記所見の通知がなされると、通知する所見を取得した位置における前記3次元医用画像を表示する手順とを実行させることを特徴とする観察支援プログラム。
  10. コンピュータに、被検体の3次元医用画像を取得する手順と、
    前記被検体の体腔内に挿入された内視鏡により撮影した、前記体腔内の内視鏡画像を取得する手順と、
    前記内視鏡画像を表示する手順と、
    前記体腔内の少なくとも1つの位置についての所見を取得する手順と、
    該所見を得た前記体腔内の前記内視鏡の位置を表す内視鏡位置情報を取得する手順と、
    前記3次元医用画像内における前記内視鏡位置情報に対応する位置を特定し、該特定された位置を表す特定位置情報と前記所見とを対応づけて記憶する手順と
    前記特定位置情報により表される位置における前記3次元医用画像を表示する手順と、
    前記特定位置情報により表される位置の前記3次元医用画像を前記他の表示手段に表示する際に、該位置に対応づけられた前記所見を通知する手順と、
    前記所見の通知がなされると、通知する所見を取得した位置における前記内視鏡画像を表示する手順とを実行させることを特徴とする観察支援プログラム。
JP2010075201A 2010-03-29 2010-03-29 観察支援システムおよび方法並びにプログラム Active JP5504028B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010075201A JP5504028B2 (ja) 2010-03-29 2010-03-29 観察支援システムおよび方法並びにプログラム
PCT/JP2011/001842 WO2011121986A1 (ja) 2010-03-29 2011-03-28 観察支援システムおよび方法並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010075201A JP5504028B2 (ja) 2010-03-29 2010-03-29 観察支援システムおよび方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2011206168A JP2011206168A (ja) 2011-10-20
JP5504028B2 true JP5504028B2 (ja) 2014-05-28

Family

ID=44711748

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010075201A Active JP5504028B2 (ja) 2010-03-29 2010-03-29 観察支援システムおよび方法並びにプログラム

Country Status (2)

Country Link
JP (1) JP5504028B2 (ja)
WO (1) WO2011121986A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8907914B2 (en) * 2012-08-31 2014-12-09 General Electric Company Methods and apparatus for documenting a procedure
JP6080248B2 (ja) 2012-09-13 2017-02-15 富士フイルム株式会社 3次元画像表示装置および方法並びにプログラム
JP6080249B2 (ja) 2012-09-13 2017-02-15 富士フイルム株式会社 3次元画像表示装置および方法並びにプログラム
JP6120762B2 (ja) * 2013-12-13 2017-04-26 オリンパス株式会社 画像処理装置
WO2016182550A1 (en) * 2015-05-11 2016-11-17 Siemens Aktiengesellschaft Method and system for registration of 2d/2.5d laparoscopic and endoscopic image data to 3d volumetric image data
JP6800567B2 (ja) * 2015-09-03 2020-12-16 キヤノンメディカルシステムズ株式会社 医用画像表示装置
DK178899B1 (en) * 2015-10-09 2017-05-08 3Dintegrated Aps A depiction system
CN106256310B (zh) * 2016-08-18 2018-04-13 中国科学院深圳先进技术研究院 自动调节鼻内镜位姿的方法和系统
WO2018211674A1 (ja) * 2017-05-18 2018-11-22 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
WO2018235420A1 (ja) * 2017-06-19 2018-12-27 オリンパス株式会社 医療情報処理システム
JP7023195B2 (ja) * 2018-07-13 2022-02-21 富士フイルム株式会社 検査支援装置、方法およびプログラム
JP7377769B2 (ja) * 2020-06-08 2023-11-10 Hoya株式会社 プログラム、情報処理方法及び情報処理装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4436638B2 (ja) * 2002-08-30 2010-03-24 オリンパス株式会社 内視鏡装置及び内視鏡挿入動作プログラム
JP3930423B2 (ja) * 2002-12-03 2007-06-13 オリンパス株式会社 内視鏡装置
JP4493423B2 (ja) * 2004-07-08 2010-06-30 オリンパス株式会社 内視鏡挿入支援装置
US20070238981A1 (en) * 2006-03-13 2007-10-11 Bracco Imaging Spa Methods and apparatuses for recording and reviewing surgical navigation processes
JPWO2010032496A1 (ja) * 2008-09-19 2012-02-09 コニカミノルタエムジー株式会社 医用画像システム、仮想内視鏡ビューワ装置及びプログラム

Also Published As

Publication number Publication date
JP2011206168A (ja) 2011-10-20
WO2011121986A1 (ja) 2011-10-06

Similar Documents

Publication Publication Date Title
JP5504028B2 (ja) 観察支援システムおよび方法並びにプログラム
CN108324246B (zh) 医疗诊断辅助系统及方法
CN110769740B (zh) 将诊断测试集成到实时治疗中的通用设备和方法
JP6611612B2 (ja) 外科データのイントラモーダル同期化
US11653897B2 (en) Ultrasonic diagnostic apparatus, scan support method, and medical image processing apparatus
JP4875416B2 (ja) 医用ガイドシステム
JP6510301B2 (ja) 医療支援システム、医療支援方法、画像処理装置およびその制御方法と制御プログラム
US20160228075A1 (en) Image processing device, method and recording medium
WO2012014438A1 (ja) 内視鏡観察を支援する装置および方法、並びに、プログラム
JP2008043524A (ja) 医用画像処理装置及び医用画像処理プログラム
JP2012217770A (ja) 画像処理装置、その処理方法及びプログラム
JP2010075403A (ja) 情報処理装置およびその制御方法、データ処理システム
JP2012115635A (ja) 画像処理方法、画像処理装置、画像システム及びプログラムコード
JP5934070B2 (ja) 仮想内視鏡画像生成装置およびその作動方法並びにプログラム
WO2014050018A1 (ja) 仮想内視鏡画像生成装置および方法並びにプログラム
CN111588464A (zh) 一种手术导航方法及系统
JP7525248B2 (ja) 医用情報処理装置及び医用情報処理プログラム
JP2010273854A (ja) 放射線画像表示装置、方法及びプログラム
JP6493885B2 (ja) 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム
JP6066197B2 (ja) 手術支援装置、方法およびプログラム
JP5363962B2 (ja) 診断支援システム、診断支援プログラムおよび診断支援方法
JP2017204041A (ja) 所見情報作成装置及びシステム
CN113317874B (zh) 一种医学图像处理装置及介质
WO2014155917A1 (ja) 手術支援装置、方法およびプログラム
JP2011212099A (ja) 解剖図生成方法、装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140317

R150 Certificate of patent or registration of utility model

Ref document number: 5504028

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250