JP6608111B2 - 医用画像保存再生装置および方法並びにプログラム - Google Patents

医用画像保存再生装置および方法並びにプログラム Download PDF

Info

Publication number
JP6608111B2
JP6608111B2 JP2016189796A JP2016189796A JP6608111B2 JP 6608111 B2 JP6608111 B2 JP 6608111B2 JP 2016189796 A JP2016189796 A JP 2016189796A JP 2016189796 A JP2016189796 A JP 2016189796A JP 6608111 B2 JP6608111 B2 JP 6608111B2
Authority
JP
Japan
Prior art keywords
image
chapter information
moving image
medical image
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016189796A
Other languages
English (en)
Other versions
JP2018050921A (ja
Inventor
健太 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2016189796A priority Critical patent/JP6608111B2/ja
Priority to US15/716,003 priority patent/US11056149B2/en
Priority to DE102017122263.4A priority patent/DE102017122263A1/de
Publication of JP2018050921A publication Critical patent/JP2018050921A/ja
Application granted granted Critical
Publication of JP6608111B2 publication Critical patent/JP6608111B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/49Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/87Regeneration of colour television signals
    • H04N9/8715Regeneration of colour television signals involving the mixing of the reproduced video signal with a non-recorded signal, e.g. a text signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2215/00Indexing scheme for image rendering
    • G06T2215/16Using real world measurements to influence rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/028Multiple view windows (top-side-front-sagittal-orthogonal)
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/031Recognition of patterns in medical or anatomical images of internal organs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Hardware Design (AREA)
  • Medical Informatics (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Endoscopes (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

本発明は、撮影対象を撮影した動画像を保存し、その保存した動画像を所望の時点から再生する医用画像保存再生装置および方法並びにプログラムに関するものである。
近年、肝臓または肺の切除手術、頭部の開頭手術、心臓カテーテルの挿入、および硬性内視鏡または軟性内視鏡を用いた検査などのあらゆる医療の場面において、手術を支援するナビゲーション技術が注目されている。それぞれの分野において共通する目的は、腫瘍などの特徴領域の位置を指し示すことにある。これにより、特徴領域を避けるように、あるいは特徴領域に向かうように処置を行うことが可能となる。
また、手術の記録のため、手術中の動画像の撮影が行われている。たとえば手術状況全貌がビデオカメラによって撮影されたり、内視鏡などの撮影装置を用いて手術の状況が撮影されたりしている。このような撮影記録により、手技が正しかったか、あるいはどこで誤ったかなどの手術のフィードバックを実施できる。
特開2016−42982号公報 特開2011−036372号公報 国際公開第2006/001055号公報 特開2005−267033号公報
しかしながら、手術は数十分から数時間に及ぶものまで様々であり、その中の一部の時刻の動画像を確認しようとすると、探し出すことが非常に困難である。たとえば、気管支内視鏡によって撮影した動画像を確認しようとしたとき、気管支内の所望のルートに気管支内視鏡が挿入されたときの動画像を確認しようとしても、気管支の入り口から撮影された動画像を確認しなければ場所を特定しにくいため、動画像を最初から再生する必要がある。
なお、一般的に動画像を所望の時点から確認する方法として、動画像に対してチャプター情報を付与する方法がある。たとえば特許文献1には、撮影装置に対する操作指示に基づいて、動画像にチャプター情報を付与することが提案されている。しかしながら、特許文献1には、記録された動画像の所望の時点から動画像を再生する方法については、何も提案されていない。また、撮影装置に対する操作指示の時点が、必ずしも手術の動画像を再生する場合において重要な時点とは限らない。
また、特許文献2には、手術中の動画像を撮影している間に、手術具の操作または生体情報などを検出し、手術具の操作が行われた時点または生体情報が閾値範囲外となった時点を特徴点として検出し、その特徴点をつなぎ合わせることによって短縮された動画像を生成して表示させる方法が提案されている。しかしながら、特許文献2には、記録された動画像の所望の時点から動画像を再生する方法については、何も提案されていない。
また、特許文献3には、術者の生体情報を計測し、その計測された情報に応じて動画像に索引を付与することが提案されている。しかしながら、特許文献3においても、索引が付された時点の静止画を取り出すことは提案されているが、記録された動画像の所望の時点から動画像を再生する方法については、何も提案されていない。
また、特許文献4には、実空間と仮想空間とを複合表示するヘッドマウントディスプレイにおいて、仮想空間の物体に対する操作情報を実空間の映像と一緒に記録し、その操作情報に基づいて、映像を再生させることが提案されている。しかしながら、特許文献4では、視野を変更するために行った操作などに対してもチャプター情報が付与されるため、無駄なチャプター情報が付与されやすい問題がある。
本発明は、上記事情に鑑み、手術中および検査中などの場面を撮影した動画像に対して、より適切な時点でチャプター情報を付与することができ、かつユーザの所望の時点から動画像を再生することができる医用画像保存再生装置および方法並びにプログラムを提供することを目的とするものである。
本発明の第1の医用画像保存再生装置は、撮影対象を撮影した動画像を保存する保存部と、撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成する仮想画像生成部と、動画像の各フレームの更新に応じて、その更新後のフレームに対応する仮想画像から解剖学的な特徴または機能的な特徴を検出し、その検出時点に基づいて、動画像にチャプター情報を付与するチャプター情報付与部と、動画像に付与された複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させる表示制御部とを備え、表示制御部が、選択画面において受け付けられたチャプター情報に基づいて、保存された動画像を再生して表示部に表示させる。
また、本発明の医用画像保存再生装置において、表示制御部は、選択画面において複数のチャプター情報が選択された場合には、複数のチャプター情報の選択の順番に基づいて、保存された動画像を再生して表示部に表示させることができる。
また、本発明の医用画像保存再生装置において、表示制御部は、3次元医用画像を選択画面に表示させ、かつ表示された3次元医用画像に対してチャプター情報を表示させることができる。
また、本発明の医用画像保存再生装置において、表示制御部は、解剖学的な特徴または機能的な特徴の3次元医用画像上における位置情報に基づいて、3次元医用画像に対してチャプター情報を表示させることができる。
また、本発明の医用画像保存再生装置においては、解剖学的な特徴または機能的な特徴の検出時点に基づいて、動画像のフレームおよび仮想画像の少なくとも1つを含むサムネイルを生成し、サムネイルとチャプター情報とを対応付けて保存するサムネイル生成部を備え、表示制御部は、チャプター情報およびそのチャプター情報に対応付けられたサムネイルを選択画面に表示させることができる。
また、本発明の医用画像保存再生装置において、保存部は、撮影対象としての気管支を内視鏡によって撮影した動画像を保存し、仮想画像生成部は、気管支内の仮想内視鏡画像を仮想画像として生成することができる。
また、本発明の医用画像保存再生装置において、表示制御部は、気管支の3次元医用画像を選択画面に表示させ、かつ解剖学的な特徴または機能的な特徴の3次元医用画像上における位置情報に基づいて、気管支の3次元医用画像に対して複数のチャプター情報を表示させ、選択画面において複数のチャプター情報のうちの1つが選択された場合には、気管支の基端から、上記選択された1つのチャプター情報の3次元医用画像上における位置までの最短経路上のチャプター情報を選択し、その選択した最短経路上のチャプター情報に基づいて、気管支の基端から、上記選択された1つのチャプター情報の3次元医用画像上の位置までの保存された動画像を再生して表示部に表示させることができる。
また、本発明の医用画像保存再生装置において、表示制御部は、気管支の3次元医用画像を選択画面に表示させ、かつ解剖学的な特徴または機能的な特徴の3次元医用画像上における位置情報に基づいて、気管支の3次元医用画像に対して複数のチャプター情報を表示させ、選択画面において複数のチャプター情報のうちの2つが選択された場合には、選択された2つのチャプター情報のうちの一方のチャプター情報の3次元医用画像上における位置から他方のチャプター情報の3次元医用画像上における位置までの最短経路上のチャプター情報を選択し、その選択した最短経路上のチャプター情報に基づいて、一方のチャプター情報の3次元医用画像上の位置から他方のチャプター情報の3次元医用画像上の位置までの保存された動画像を再生して表示部に表示させることができる。
また、本発明の医用画像保存再生装置において、チャプター情報付与部は、解剖学的な特徴として仮想内視鏡画像から気管支の分岐を検出することができる。
また、本発明の医用画像保存再生装置において、保存部は、撮影対象として肝臓を撮影した動画像を保存し、仮想画像生成部は、肝臓の仮想画像を生成することができる。
また、本発明の医用画像保存再生装置において、チャプター情報付与部は、解剖学的な特徴として肝臓の仮想画像から肝臓の切除部分を検出することができる。
また、本発明の医用画像保存再生装置において、表示制御部は、動画像の各フレームと各フレームに対応する仮想画像とを表示部に並べて表示させることができる。
本発明の第2の医用画像保存再生装置は、気管支を内視鏡によって撮影した動画像を保存する保存部と、気管支を予め撮影した3次元医用画像に基づいて、仮想内視鏡画像を生成する仮想画像生成部と、仮想内視鏡画像から気管支の分岐を検出し、その検出時点に基づいて、動画像にチャプター情報を付与するチャプター情報付与部と、気管支の分岐の3次元医用画像上における位置情報に基づいて、3次元医用画像に対して動画像に付与された複数のチャプター情報を表示させることによって、複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させる表示制御部とを備え、表示制御部が、選択画面において受け付けられたチャプター情報に基づいて、保存された動画像を再生して表示部に表示させる。
本発明の医用画像保存再生方法は、撮影対象を撮影した動画像を保存し、保存した動画像を再生する医用画像保存再生方法であって、撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成し、動画像の各フレームの更新に応じて、その更新後のフレームに対応する仮想画像から解剖学的な特徴または機能的な特徴を検出し、その検出時点に基づいて、動画像にチャプター情報を付与し、動画像に付与された複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させ、選択画面において受け付けられたチャプター情報に基づいて、保存された動画像を再生して表示部に表示させる。
本発明の医用画像保存再生プログラムは、撮影対象を撮影した動画像を保存する手順と、保存した動画像を再生する手順とをコンピュータに実行させる医用画像保存再生プログラムであって、撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成する手順と、動画像の各フレームの更新に応じて、その更新後のフレームに対応する仮想画像から解剖学的な特徴または機能的な特徴を検出し、その検出時点に基づいて、動画像にチャプター情報を付与する手順と、動画像に付与された複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させる手順と、選択画面において受け付けられたチャプター情報に基づいて、保存された動画像を再生して表示部に表示させる手順とをコンピュータにさらに実行させる。
本発明の第1および第2の医用画像保存再生装置、医用画像保存再生方法並びにプログラムによれば、撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成し、動画像の各フレームの更新に応じて、その更新後のフレームに対応する仮想画像から解剖学的な特徴または機能的な特徴を検出し、その検出時点に基づいて、動画像にチャプター情報を付与する。これにより手術中および検査中などの場面を撮影した動画像に対して、より適切な時点でチャプター情報を付与することができる。
また、動画像に付与された複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させ、選択画面において受け付けられたチャプター情報に基づいて、保存された動画像を再生するようにしたので、ユーザの所望の時点から動画像を再生することができる。
本発明の医用画像保存再生装置の一実施形態を用いた医用画像診断支援システムの概略構成を示すブロック図 動画像、仮想画像および3次元医用画像を表示するウィンドウ画面の一例を示す図 チャプター情報の付与方法の一例を説明するための図 チャプター情報の選択を受け付ける選択画面の一例を示す図 チャプター情報の選択を受け付ける選択画面のその他の例を示す図 本発明の医用画像保存再生装置の一実施形態を用いた医用画像診断支援システムにおける動画像の保存の作用を説明するためのフローチャート 本発明の医用画像保存再生装置の一実施形態を用いた医用画像診断支援システムにおける動画像の再生の作用を説明するためのフローチャート 気管支の最短経路の動画像を再生する実施形態を説明するための図 本発明の医用画像保存再生装置のその他の実施形態を用いた医用画像診断支援システムにおける動画像の保存の作用を説明するためのフローチャート 肝臓の動画像、仮想画像および3次元医用画像を表示するウィンドウ画面の一例を示す図 肝臓の一部が切除された場合の仮想画像の表示を説明するための図 肝臓の動画像に付与されたチャプター情報の選択を受け付ける選択画面の一例を示す図
以下、本発明の医用画像保存再生装置および方法並びにプログラムの一実施形態を用いた医用画像診断支援システムについて、図面を参照しながら詳細に説明する。図1は、本実施形態の医用画像診断支援システムの概略構成を示すブロック図である。
本実施形態の医用画像診断支援システムは、手術中または検査中などの医療の場面において、患者を撮影した動画像を取得して保存するものである。そして、その保存した動画像を再生する際、医者などのユーザが、所望の時点から動画像を再生して観察することができるものである。
本実施形態の医用画像診断支援システムは、具体的には、図1に示すように、医用画像保存再生装置1と、医用画像保管サーバ2と、表示装置3(表示部に相当するものである)と、入力装置4と、動画撮影装置5とを備えている。
医用画像保存再生装置1は、コンピュータに本実施形態の医用画像保存再生プラグラムをインストールしたものである。
医用画像保存再生装置1は、中央処理装置(CPU(central processing unit))、半導体メモリ、およびハードディスクやSSD(Solid State Drive)等のストレージデバイスを備えている。ストレージデバイスには、本実施形態の医用画像保存再生プログラムがインストールされており、この医用画像保存再生プログラムが中央処理装置によって実行されることによって、図1に示す医用画像取得部10、仮想画像生成部11、動画像取得部12、チャプター情報付与部13、サムネイル生成部14、保存部15および表示制御部16が動作する。
医用画像保存再生プログラムは、DVD(Digital Versatile Disc)およびCD−ROM(Compact Disc Read Only Memory)などの記録媒体に記録されて配布され、その記録媒体からコンピュータにインストールされる。または、医用画像保存再生プログラムは、ネットワークに接続されたサーバコンピュータの記憶装置もしくはネットワークストレージに対して外部からアクセス可能な状態で記憶され、要求に応じてコンピュータにダウンロードされ、インストールされる。
医用画像取得部10は、予め撮影された患者の3次元医用画像6を取得するものである。3次元医用画像6は、たとえばCT(Computed Tomography)装置やMRI(Magnetic Resonance Imaging)装置などによって患者の撮影したものである。本実施形態では、患者の胸部の3次元医用画像6を取得する場合について説明する。
3次元医用画像6は、医用画像保管サーバ2に患者の識別情報とともに予め保管されており、医用画像取得部10は、入力装置4などを用いてユーザによって入力された患者の識別情報に基づいて、その識別情報を有する3次元医用画像6を医用画像保管サーバ2から読み出して一時記憶するものである。
仮想画像生成部11は、医用画像取得部10によって取得された3次元医用画像6に基づいて、仮想画像を生成するものである。本実施形態の仮想画像生成部11は、胸部の3次元医用画像6を取得し、その3次元医用画像6から気管支(撮影対象)の領域を抽出し、その気管支の領域の3次元医用画像6に基づいて、仮想内視鏡画像を生成するものである。仮想内視鏡画像とは、気管支などの管腔臓器を内視鏡によって撮影した内視鏡画像を仮想空間上で表した画像である。
仮想画像生成部11は、具体的には、例えば特開2010−220742号公報等に記載された手法を用いて、入力された3次元医用画像6に含まれる気管支領域のグラフ構造を抽出する。以下、このグラフ構造の抽出方法の一例を説明する。
3次元医用画像6においては、気管支の内部の画素は空気領域に相当するため低い画素値を示す領域として表されるが、気管支壁は比較的高い画素値を示す円柱あるいは線状の構造物として表される。そこで、画素毎に画素値の分布に基づく形状の構造解析を行って気管支を抽出する。
気管支は多段階に分岐し、末端に近づくほど気管支の径は小さくなっていく。仮想画像生成部11は、異なるサイズの気管支を検出することができるように、3次元医用画像6を多重解像度変換して解像度が異なる複数の3次元医用画像を生成し、各解像度の3次元医用画像毎に検出アルゴリズムを適用することにより、異なるサイズの管状構造物を検出する。
まず、各解像度において、3次元医用画像の各画素のヘッセ行列を算出し、ヘッセ行列の固有値の大小関係から管状構造物内の画素であるか否かを判定する。ヘッセ行列は、各軸(3次元画像のx軸、y軸、z軸)方向における濃度値の2階の偏微分係数を要素とする行列であり、下式のように3×3行列となる。
任意の画素におけるヘッセ行列の固有値をλ1、λ2、λ3としたとき、固有値のうち2つの固有値が大きく、1つの固有値が0に近い場合、例えば、λ3、λ2≫λ1、λ1≒0を満たすとき、その画素は管状構造物であることが知られている。また、ヘッセ行列の最小の固有値(λ1≒0)に対応する固有ベクトルが管状構造物の主軸方向に一致する。
気管支はグラフ構造で表すことができるが、このようにして抽出された管状構造物は、腫瘍等の影響により、全ての管状構造物が繋がった1つのグラフ構造として検出されるとは限らない。そこで、3次元医用画像6全体からの管状構造物の検出が終了した後、抽出された各管状構造物が一定の距離内にあり、かつ抽出された2つの管状構造物上の任意の点を結ぶ基本線の向きと各管状構造物の主軸方向とがなす角が一定角度以内であるかについて評価する。これにより複数の管状構造物が接続されるものであるか否かを判定して、抽出された管状構造物の接続関係を再構築する。この再構築により、気管支のグラフ構造の抽出が完了する。
そして、仮想画像生成部11は、抽出したグラフ構造を、開始点、端点、分岐点および辺に分類し、開始点、端点および分岐点を辺で連結することによって、気管支を表す3次元のグラフ構造を得ることができる。ここで、分岐点は、3以上の連結数を持つボクセルとなる。なお、グラフ構造の生成方法としては、上述した方法に限定されるものではなく、他の方法を採用するようにしてもよい。
さらに仮想画像生成部11は、気管支のグラフ構造に沿って、気管支の開始点から端点までの経路に沿って、予め定められた間隔に設定された複数の位置を視点として設定する。なお、分岐点も視点として設定する。そして、視点から内視鏡先端の進行方向に放射線状に伸ばした複数の視線上の3次元医用画像6を投影面上に投影した中心投影による投影画像を、仮想内視鏡画像として取得する。なお、中心投影の具体的な方法としては、例えば公知のボリュームレンダリング手法等を用いることができる。また、仮想内視鏡画像の画角(視線の範囲)および視野の中心(投影方向の中心)は、使用者による入力等によってあらかじめ設定されているものとする。
なお、仮想画像生成部11は、予め設定された気管支内の目標ルートに沿った仮想内視鏡画像のみを生成するようにしてもよい。
動画像取得部12は、動画撮影装置5によって撮影された動画像を取得するものである。本実施形態における動画撮影装置5は、気管支に挿入されて気管支内を撮影する気管支内視鏡である。気管支内視鏡は、CCD(Charge-Coupled Device)イメージセンサまたはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサなどの撮像素子を備えたものである。気管支内視鏡は、この撮像素子によって、予め設定されたフレームレートで気管支の内壁を撮影し、各フレームの画像信号を医用画像保存再生装置1に出力するものである。なお、本明細書では、各フレームの画像信号のことを、単にフレームという。
本実施形態においては、表示装置3によって、図2に示すようなウィンドウ画面50が表示される。ウィンドウ画面50内には、動画像表示領域50aと、仮想画像表示領域50bと、3次元医用画像表示領域50cとが設けられている。そして、動画像取得部12によって取得された動画像は表示制御部16に出力され、表示制御部16は、入力された動画像を動画像表示領域50aに表示させる。
また、表示制御部16は、仮想画像生成部11によって生成された気管支の仮想内視鏡画像を仮想画像表示領域50bに表示させ、気管支領域の外観の3次元医用画像を3次元医用画像表示領域50cに表示させる。
ここで、表示制御部16は、気管支の仮想内視鏡画像を仮想画像表示領域50bに表示させる際、動画像表示領域50aに表示されるフレームに対応する仮想内視鏡画像を特定し、その特定した仮想内視鏡画像を仮想画像表示領域50bに表示させる。そして、表示制御部16は、動画像の各フレームと各フレームに対応する仮想内視鏡画像とを連動させて更新しながら表示させる。
動画像の各フレームに対応する仮想内視鏡画像とは、動画像の各フレームの撮影位置とほぼ同じ位置を視点として生成された仮想内視鏡画像のことである。動画像の各フレームを特定する方法としては、たとえば動画像のフレームと各視点の仮想内視鏡画像とのマッチング処理を行い、各視点の仮想内視鏡画像の中から動画像のフレームに対応する仮想内視鏡画像を特定するようにすればよい。マッチング処理としては、2次元画像のマッチング処理として用いられる方法および動画像のフレームから気管支の分岐構造を認識し、気管支の3次元医用画像にマッチングする方法など公知な方法を用いることができる。
チャプター情報付与部13は、動画像の各フレームの更新に応じて、その更新後のフレームに対応する仮想内視鏡画像から解剖学的な特徴または機能的な特徴を検出し、その検出時点に基づいて、動画像に対してチャプター情報を付与するものである。
気管支の分岐構造の検出方法としては、たとえば仮想内視鏡画像から円形の暗い画像を検出することによって分岐構造を検出するようにすればよい。
ここで、チャプター情報とは、動画像の区切りを示す情報である。本実施形態においては、上述したように動画像の各フレームに対応する仮想内視鏡画像から分岐構造を検出し、その検出時点に基づいて、動画像に対してチャプター情報を付与する。したがって、本実施形態のチャプター情報は、気管支内を撮影した動画像内に分岐構造が現れた時点、すなわち気管支の各分岐が始まる時点を示す情報となる。このように動画像に対してチャプター情報を付与することによって、気管支内を撮影した動画像を、気管支の各分岐が現れる時点で区切ることができる。チャプター情報としては、たとえば1,2,3・・・などの数値を、仮想内視鏡画像内に分岐構造が現れる度にインクリメントして動画像に付与するようにすればよい。ただし、数値に限らず、a,b,c・・・などのアルファベットでもよいし、その他のテキスト情報でもよい。また、チャプター情報は、チャプター情報が付与された時点における時刻でもよい。また、チャプター情報は、上述した数値または文字と時刻との組み合わせでもよい。
なお、たとえば図3に示すように、気管支内視鏡が、気管支の位置Aまで到達した後に気管支の基端S側に戻る経路を撮影した際、位置Aに向かう途中で現れた分岐B1,B2,B3を、再び気管支内視鏡が基端S側に戻る際に通過する場合においても、その2回目に現れた分岐B1,B2,B3に対して新たなチャプター情報が付与される。具体的には、たとえばチャプター情報として数値を付与する場合には、気管支内視鏡の先端が位置Aまで向かう際に分岐B1が検出された時点でチャプター情報「1」が付与され、分岐B2が検出された時点でチャプター情報「2」が付与され、分岐B3が検出された時点でチャプター情報「3」が付与される。そして、気管支内視鏡の先端が位置Aに到達した後、基端Sまで戻る際には、分岐B3が検出された時点でチャプター情報「4」が付与され、分岐B2が検出された時点でチャプター情報「5」が付与され、分岐B1が検出された時点でチャプター情報「6」が付与される。
なお、本実施形態においては、上述したように仮想内視鏡画像から解剖学的な特徴として、気管支の分岐構造を検出するようにしたが、これに限らず、気管支の機能的な特徴を検出し、その検出時点に基づいて、動画像に対してチャプター情報を付与するようにしてもよい。気管支の機能的な特徴とは、気管支の機能を反映した特徴のことである。機能的な特徴としては、たとえば気管支の内壁が炎症を起こし形状的に変化していることを検出することができる。具体的には、気管支の内壁が炎症を起こし腫れまたはむくみがあったり、嘆などの気管支粘液などがある場合、仮想内視鏡画像上において形状的変化を赤い色で表現することができる。したがって、その赤色を検出した時点に基づいて、動画像にチャプター情報を付与するようにしてもよい。このように動画像に対してチャプター情報を付与することによって、気管支内を撮影した動画像を、気管支の内壁の炎症が現れた時点で区切ることができる。なお、形状的変化としては、上述した例に限らず、異物のつまりなどであってもよい。また、機能的な特徴の検出時点に基づいて、チャプター情報を付与する場合、機能的な特徴が検出された仮想内視鏡画像の3次元医用画像上における視点位置を求めることによって、その3次元医用画像上における表示位置を取得することができる。
次に、サムネイル生成部14は、上述したように仮想内視鏡画像から解剖学的な特徴として気管支の分岐構造が検出された場合には、その検出時点における仮想内視鏡画像のサムネイルを生成し、サムネイルとそのサムネイルが生成された時点のチャプター情報とを対応付けるものである。なお、本実施形態においては、仮想内視鏡画像のサムネイルを生成するようにしたが、これに限らず、気管支の分岐構造が検出された時点の仮想内視鏡画像に対応する動画像のフレームのサムネイルを生成してもよい。また、仮想内視鏡画像と動画像のフレームとを並べたウィンドウ画面50のサムネイルを生成してもよい。サムネイルは、仮想内視鏡画像、動画像のフレーム、またはウィンドウ画面50全体を表す画像に対して縮小処理を施すことによって生成される。
保存部15は、動画像取得部12によって取得された動画像を保存するものである。具体的には、動画像取得部12によって取得された動画像には、上述したようにチャプター情報が付与され、そのチャプター情報にサムネイルが対応づけられる。したがって、保存部15には、動画像と一緒に、チャプター情報およびその各チャプター情報に対応付けられたサムネイルが保存される。保存部15は、たとえば半導体メモリまたはハードディスクなどから構成されるものである。
表示制御部16は、上述したように、動画像取得部12によって取得された動画像、気管支の内壁の仮想内視鏡画像、および気管支の外観の3次元医用画像を表示装置3のウィンドウ画面50に表示させるものである。
さらに、本実施形態の表示制御部16は、保存部15に対して、動画像と一緒にチャプター情報およびサムネイルが保存された後、動画像に付与された複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示装置3に表示させるものである。図4は、チャプター情報の選択を受け付ける選択画面60の一例を示す図である。本実施形態の選択画面60内には、気管支の外観の3次元医用画像Gと、チャプター情報を表す数値と、チャプター情報に対応するサムネイルS1,S2が表示される。図4に示すように、チャプター情報およびサムネイルS1,S2は、そのチャプター情報が付与された時点において検出された分岐構造の位置近傍に表示される。なお、チャプター情報については、分岐構造が検出された仮想内視鏡画像の3次元医用画像上における視点位置を求めることによって、その表示位置を取得することができる。
選択画面60は、上述したウィンドウ画面50とは別に表示させるようにしてもよいし、ウィンドウ画面50内の3次元医用画像表示領域50cに表示させるようにしてもよい。また、選択画面60は、ユーザによる入力装置4からの指示入力によって、表示と非表示とを切り換えるようにしてもよい。また、3次元医用画像表示領域50cに選択画面60を表示させる場合には、チャプター情報およびサムネイルの表示と非表示とを切り換えるようにしてもよい。
また、選択画面60については、図4に示すような表示態様に限らず、チャプター情報の選択を受け付けることが可能であれば、その他の表示態様でもよい。具体的には、たとえば、図5に示すように、気管支の外観の3次元医用画像を表示させることなく、チャプター情報とサムネイルの組み合わせを並べた選択画面を表示させるようにしてもよい。
そして、図4に示す選択画面60において、チャプター情報「1」およびチャプター情報「2」の少なくとも1つが選択され、その選択情報が、表示制御部16によって受け付けられる。チャプター情報の選択については、たとえばユーザがポインティングデバイスなどの入力装置4を用いて、所望のチャプター情報またはサムネイルを指定する。または、表示装置3が、タッチパネルを備えたものである場合には、ユーザが、そのタッチパネル上において所望のチャプター情報またはサムネイルを指定するようにしてもよい。
表示制御部16は、選択画面60内においてチャプター情報が選択された場合には、そのチャプター情報が付与された時点以降の動画像を保存部15から再生し、表示装置3に表示させる。なお、たとえば図4に示すチャプター情報「1」が選択された場合、チャプター情報「1」が付与された時点から最後までの動画像を再生するようにしてもよいし、チャプター情報「1」が付与された時点からチャプター情報「2」が付与された時点までの動画像を再生するようにしてもよい。
表示装置3は、液晶ディスプレイなどの表示デバイスを備えたものであり、上述したウィンドウ画面50および選択画面60などを表示するものである。
入力装置4は、ユーザによる種々の設定入力を受け付けるものであり、キーボードやマウスなどの入力デバイスを備えたものである。入力装置4は、たとえば患者の識別情報の設定入力およびチャプター情報の設定入力などを受け付けるものである。なお、タッチパネルを用いることによって表示装置3と入力装置4と兼用するようにしてもよい。医用画像保存再生装置1と表示装置3と入力装置4とをタブレット端末から構成するようにしてもよい。
次に、本実施形態の医用画像診断支援システムの作用について、図6に示すフローチャートを参照しながら説明する。まずは、気管支内視鏡による撮影およびその撮影された動画像の保存の作用について説明する。
まず、ユーザによる患者の識別情報などの入力に基づいて、医用画像取得部10によって医用画像保管サーバ2から3次元医用画像6が読み出されて取得される(S10)。
医用画像取得部10によって取得された3次元医用画像6は仮想画像生成部11に入力され、仮想画像生成部11は、入力された3次元医用画像6に基づいて、気管支の仮想内視鏡画像を生成する(S12)。
一方、患者の気管支に気管支内視鏡(動画撮影装置5)が挿入され、気管支の内壁の動画像の撮影が開始される(S14)。気管支内視鏡によって撮影された動画像は、動画像取得部12によって取得され、表示制御部16によって表示装置3に表示される。具体的には、表示装置3に表示された図2に示すウィンドウ画面50内の動画像表示領域50aに気管支内視鏡によって撮影された動画像が表示される。また、表示制御部16は、動画像表示領域50aに表示されるフレームに対応する仮想内視鏡画像を特定し、その特定した仮想内視鏡画像を仮想画像表示領域50bに表示させる。そして、表示制御部16は、動画像の各フレームと各フレームに対応する仮想内視鏡画像とを連動させて更新しながら表示させる(S16)。
そして、動画像取得部12によって取得された動画像は、保存部15に保存される(S18)。一方、動画像の各フレームに対応して更新される仮想内視鏡画像がチャプター情報付与部13に入力され、チャプター情報付与部13は、入力される仮想内視鏡画像に対して気管支の分岐構造の検出処理を施す。そして、チャプター情報付与部13は、仮想内視鏡画像から分岐構造が検出された場合には(S20,YES)、その分岐構造の検出時点に基づいて、動画像に対してチャプター情報を付与する(S22)。さらに、この際、サムネイル生成部14において、分岐構造が検出された仮想内視鏡画像のサムネイルが生成される(S24)。そして、動画像と一緒にチャプター情報およびサムネイルが保存部15に保存される(S26)。
そして、気管支内視鏡による撮影終了指示が、ユーザによって入力装置4を用いて入力された場合には(S28,YES)、そのまま気管支の動画像の撮影を終了する。一方、S28において、撮影終了指示が入力されない場合には(S28,NO)、S16〜S26までの処理が繰り返して行われ、引き続き気管支内視鏡によって撮影された動画像が保存部15に保存される。
以上が、気管支内視鏡による撮影およびその撮影された動画像の保存の作用に関する説明である。
次に、保存部15に保存された動画像の再生表示について、図7に示すフローチャートを参照しながら説明する。
保存部15に保存された動画像を再生表示する際には、まず、図4に示すような選択画面60が表示装置3に表示される(S30)。
次に、選択画面60上において、ユーザによって所望のチャプター情報が選択される(S32)。表示制御部16は、ユーザによって選択されたチャプター情報に基づいて、保存部15に保存された動画像を再生して表示装置3に表示させる(S34)。具体的には、ユーザによって選択されたチャプター情報が付与された時点以降の動画像を保存部15から再生し、表示装置3に表示させる。
上記実施形態の医用画像診断支援システムによれば、気管支を予め撮影した3次元医用画像に基づいて、仮想内視鏡画像を生成し、仮想内視鏡画像から気管支の分岐を検出し、その検出時点に基づいて、動画像にチャプター情報を付与するようにしたので、気管支観察により重要な時点にチャプター情報を付与することができる。
また、気管支の3次元医用画像に対して複数のチャプター情報を表示させることによって、複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示させ、その選択画面において受け付けられたチャプター情報に基づいて、保存された動画像を再生するようにしたので、ユーザの所望の時点から動画像を再生することができる。
なお、チャプター情報の選択については、必ずしも気管支の分岐が現れる順番でなくてもよく、たとえば図4に示すチャプター情報「2」を選択した後に、チャプター情報「1」を選択するようにしてもよく。この場合、チャプター情報「2」が付与された時点以降の動画像が再生された後に、チャプター情報「1」が付与された時点以降の動画像が再生される。
また、上記実施形態においては、チャプター情報付与部13が、チャプター情報を自動的に付与するようにしたが、その自動付与されたチャプター情報に加えて、さらにユーザが手動でチャプター情報を付与するようにしてもよい。たとえ動画像の撮影開始時点においてチャプター情報を付与したり、ユーザが、入力装置4を用いてチャプター情報を付与するトリガを設定入力するようにしてもよい。
また、上記実施形態の説明においては、ユーザによって選択されたチャプター情報に基づいて、動画像を再生させるようにしたが、さらにユーザによって選択されたチャプター情報に基づいて、気管支の基端Sからその選択されたチャプター情報の3次元医用画像上の位置までの最短経路を求め、その最短経路の動画像を再生するようにしてもよい。
具体的には、たとえば図8に示すようにチャプター情報「1」〜「12」までが付与され、選択画面に表示された場合において、たとえばチャプター情報「10」が選択された場合には、表示制御部16は、気管支の基端からチャプター情報「10」の3次元医用画像上における位置までの最短経路上のチャプター情報「8」および「9」を選択して、チャプター情報「1」、「8」、「9」および「10」からなるプレイリストを生成する。
そして、そのプレイリストのチャプター情報の順番で動画像を再生することによって、気管支の基端Sからチャプター情報「10」の3次元医用画像上の位置まで動画像が再生される。なお、本実施形態においては、気管支の基端、すなわち動画像の撮影開始時点においてもチャプター情報「1」が付与されているものとする。また、気管支の最短経路については、既に公知なアルゴリズムを用いて算出するようにすればよい。また、チャプター情報「10」が付与された時点以降の動画像は再生してもよいし、再生しなくてもよい。
また、上記説明では、ユーザがチャプター情報「10」のみを選択するようにしたが、これに限らず、チャプター情報「1」とチャプター情報「10」とを選択した場合に、表示制御部16が、チャプター情報「1」の3次元医用画像上における位置からチャプター情報「10」の3次元医用画像上における位置までの最短経路上のチャプター情報「8」および「9」を選択し、チャプター情報「1」、「8」、「9」および「10」からなるプレイリストを生成するようにしてもよい。また、プレイリストの最初のチャプター情報は、必ずしも気管支の基端に付与されたチャプター情報でなくてもよく、たとえばチャプター情報「8」とチャプター情報「10」とがユーザによって選択された場合に、チャプター情報「8」、「9」および「10」からなるプレイリストを生成するようにしてもよい。
また、上記実施形態においては、気管支の分岐を検出するようにしたが、これに限らず、さらに腫瘍およびポリープなどを検出し、これらが検出された時点においてチャプター情報を付与してもよい。その場合、たとえば腫瘍などが存在するチャプター情報を選択して上述したようなプレイリストを生成することによって、たとえば気管支の基端から腫瘍などが存在する位置まで最短経路の動画像を再生することができる。
また、上記実施形態においては、動画像のフレームと各視点における仮想内視鏡画像とのマッチング処理を行うことによって、仮想内視鏡画像を自動的に更新するようにしたが、これに限らない。具体的には、たとえば患者に挿入された気管支内視鏡の先端位置を、センサなどを用いて検出し、その先端位置の検出情報を用いて、仮想内視鏡画像を自動的に更新するようにしてもよい。
また、上記実施形態においては、動画撮影装置5として気管支内視鏡を用い、気管支内視鏡によって撮影された動画像を保存部15に保存する場合について説明したが、動画撮影装置5の撮影対象としては気管支に限らず、たとえば肝臓の病変部を切除する切除手術を行う場合において、その手術対象の肝臓を撮影対象としてもよい。そして、この場合においても、肝臓の動画像の各フレームに更新に対応させて肝臓の仮想画像を更新し、その肝臓の仮想画像の解剖学的な特徴を検出した時点に基づいて、肝臓の動画像に対してチャプター情報を付与するようにしてもよい。以下、肝臓の切除手術の動画像を撮影して保存する場合の作用について、図9に示すフローチャートおよび図10〜図12を参照しながら説明する。
まず、上記実施形態と同様に、ユーザによる患者の識別情報などの入力に基づいて、医用画像取得部10によって医用画像保管サーバ2から3次元医用画像6が読み出されて取得される(S40)。
医用画像取得部10によって取得された3次元医用画像6は仮想画像生成部11に入力され、仮想画像生成部11は、入力された3次元医用画像6に基づいて、肝臓の仮想画像を生成する(S42)。ここで、肝臓の仮想画像は、たとえば腹部の3次元医用画像6から肝臓領域を抽出し、その肝臓領域の3次元医用画像に対してボリュームレンダリングを施すことによって生成される。なお、肝臓領域の抽出方法については、既に公知な方法を用いることができる。また、本実施形態においては、上述したように、肝臓の病変部を切除する切除手術の動画像を撮影するので、仮想画像としては、その切除手術を事前にシミュレーンした時系列の仮想画像が生成される。
一方、患者の腹部が開腹され、肝臓の撮影が開始される(S44)。なお、肝臓を撮影する動画撮影装置5としては、手術室に固定されたビデオカメラ装置でもよいし、携帯用のビデオカメラ装置でもよい。
動画撮影装置5によって撮影された肝臓の動画像は、動画像取得部12によって取得され、表示制御部16によって表示装置3に表示される。具体的には、表示装置3に表示された図10に示すウィンドウ画面50内の動画像表示領域50aに肝臓の動画像が表示される。
また、表示制御部16は、動画像表示領域50aに表示されるフレームに対応する仮想画像を仮想画像表示領域50bに表示させる。ここで、動画像の各フレームに対応する仮想画像を特定する方法としては、たとえば動画像のフレームと、事前シミュレーションで生成された時系列の仮想画像とのマッチング処理を行い、時系列の仮想画像の中から最も類似度が高い仮想画像を特定するようにすればよい。また、表示制御部16は、3次元医用画像表示領域50cに肝臓の外観の3次元医用画像を表示させる。
そして、表示制御部16は、動画像の各フレームと各フレームに対応する仮想画像とを連動させて更新しながら表示させる(S46)。
そして、動画像取得部12によって取得された動画像は、保存部15に保存される(S48)。一方、動画像の各フレームに対応して更新される仮想画像がチャプター情報付与部13に入力され、チャプター情報付与部13は、入力される仮想画像に対して肝臓の輪郭検出処理を施す。
そして、チャプター情報付与部13は、肝臓の仮想画像の一部(病変部)が切除されたことを検出した場合には(S50,YES)、その検出時点に基づいて、動画像に対してチャプター情報を付与する(S52)。具体的には、たとえば図10に示す動画像表示領域50a内に表示された肝臓Lの一部が、切除ラインC1に沿って切除された場合には、図11に示すように、そのフレームに対応する仮想画像が特定され、仮想画像表示領域50b内に表示される。そして、チャプター情報付与部13は、仮想画像表示領域50b内に表示された仮想画像の切除部分を輪郭検出処理によって検出し、その検出時点に基づいて、動画像に対してチャプター情報を付与する。チャプター情報としては、たとえば「C1」が付与される。さらに、この際、サムネイル生成部14において、肝臓の一部が切除された仮想画像のサムネイルが生成される(S54)。そして、動画像と一緒にチャプター情報およびサムネイルが保存部15に保存される(S56)。
そして、撮影終了指示が、ユーザによって入力装置4を用いて入力された場合には(S58,YES)、そのまま肝臓の動画像の撮影を終了する。一方、S58において、撮影終了指示が入力されない場合には(S58,NO)、S46〜S56までの処理が繰り返して行われ、引き続き肝臓の動画像が保存部15に保存される。
たとえば、引き続き肝臓Lの異なる場所の切除を行う場合には、引き続き肝臓の動画像の撮影が継続され、表示制御部16は、上記と同様に、動画像の各フレームと各フレームに対応する仮想画像とを連動させて更新しながら表示させる(S46)。
そして、動画像取得部12によって取得された動画像は、保存部15に保存される(S48)。一方、上記と同様に、動画像の各フレームに対応して更新される仮想画像がチャプター情報付与部13に入力され、チャプター情報付与部13は、入力される仮想画像に対して肝臓の輪郭検出処理を施す。
そして、たとえば図12に示すように、さらに肝臓Lの一部が切除ラインC2に沿って切除された場合には、図12に示すように、そのフレームに対応する仮想画像が特定され、仮想画像表示領域50b内に表示される。そして、チャプター情報付与部13は、仮想画像表示領域50b内に表示された仮想画像の切除部分を輪郭検出処理によって検出した場合には(S50,YES)、その検出時点に基づいて、動画像に対してチャプター情報を付与する(S52)。チャプター情報としては、たとえば「C2」が付与される。さらに、この際、サムネイル生成部14において、肝臓の一部が切除された仮想画像のサムネイルが生成される(S54)。そして、動画像と一緒にチャプター情報およびサムネイルが保存部15に保存される(S56)。
そして、撮影終了指示が、ユーザによって入力装置4を用いて入力された場合には(S58,YES)、そのまま肝臓の動画像の撮影を終了する。
そして、表示制御部16は、保存部15に対して、動画像と一緒にチャプター情報およびサムネイルが保存された後、動画像に付与された複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を3次元医用画像表示領域50cに表示させる。図12は、チャプター情報の選択を受け付ける選択画面の一例を示す図である
選択画面内には、肝臓の外観の3次元医用画像LGと、チャプター情報を表す文字「C1」および「C2」と、チャプター情報に対応するサムネイルS1,S2が表示される。図12に示すように、チャプター情報を表す文字「C1」および「C2」並びにサムネイルS1,S2は、そのチャプター情報が付与された時点において検出された切除ラインの近傍に表示される。
そして、保存部15に保存された動画像を再生表示する際には、選択画面上において、ユーザによってチャプター情報「C1」または「C2」が選択される。表示制御部16は、ユーザによって選択されたチャプター情報に基づいて、保存部15に保存された動画像を再生して表示装置3に表示させる。具体的には、ユーザによって選択されたチャプター情報が付与された時点以降の動画像を保存部15から再生し、表示装置3に表示させる。
なお、上記説明では、動画像の各フレームと事前シミュレーションで生成された時系列の仮想画像とのマッチング処理を行うことによって、仮想画像を自動的に更新するようにしたが、これに限らず、手動で更新するようにしてもよい。具体的には、たとえば肝臓の一部が切除された場合に、ユーザが入力装置4を用いて仮想画像の肝臓の一部を切除する指示入力し、その指示入力に応じて仮想画像を更新するようにしてもよい。この場合も、チャプター情報付与部13は、仮想画像の一部が切除されていることを輪郭検出処理によって検出し、その検出時点に基づいて、動画像に対してチャプター情報を付与する。
また、上記実施形態の説明では、動画撮影装置5としてビデオカメラを用いた例を説明したが、たとえば動画撮影装置5として、X線透視像を撮影するX線撮影装置を用いるようにしてもよい。たとえば心臓のカテーテル治療を行う場合に、X線撮影装置を用いて胸部の動画像を撮影して保存部15に保存するようにしてもよい。この場合も、予め事前シミュレーションによって心臓のX線透視像の仮想画像を生成する。そして、上記と同様に、マッチング処理などを用いて、動画像の各フレームに対応する仮想画像を特定して、表示させる。そして、たとえば仮想画像において、心臓の冠動脈の目標位置にカテーテルが到達したことを検出した時点に基づいて、動画像に対してチャプター情報を付与するようにしてもよい。
1 医用画像保存再生装置
2 医用画像保管サーバ
3 表示装置
4 入力装置
5 動画撮影装置
6 3次元医用画像
10 医用画像取得部
11 仮想画像生成部
12 動画像取得部
13 チャプター情報付与部
14 サムネイル生成部
15 保存部
16 表示制御部
50 ウィンドウ画面
50a 動画像表示領域
50b 仮想画像表示領域
50c 次元医用画像表示領域
60 選択画面
B1,B2,B3 分岐
C1 切除ライン
C2 切除ライン
G 3次元医用画像
L 肝臓
LG 肝臓の3次元医用画像
S 気管支の基端
S1,S2 サムネイル

Claims (13)

  1. 撮影対象を撮影した動画像を保存する保存部と、
    前記撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成する仮想画像生成部と、
    前記動画像の各フレームの更新に応じて、該更新後のフレームに対応する前記仮想画像から解剖学的な特徴または機能的な特徴を検出し、前記検出時点に基づいて、前記動画像にチャプター情報を付与するチャプター情報付与部と、
    前記3次元医用画像を表示させ、かつ、前記解剖学的な特徴または前記機能的な特徴の前記3次元医用画像上における位置情報に基づいて、前記3次元医用画像に対して複数のチャプター情報を表示させて、前記動画像に付与されたチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させる表示制御部とを備え、
    前記表示制御部が、前記選択画面において受け付けられた前記チャプター情報に基づいて、前記保存された動画像を再生して前記表示部に表示させる医用画像保存再生装置。
  2. 前記表示制御部が、前記選択画面において複数のチャプター情報が選択された場合には、前記複数のチャプター情報の選択の順番に基づいて、前記保存された動画像を再生して前記表示部に表示させる請求項1記載の医用画像保存再生装置。
  3. 前記解剖学的な特徴または機能的な特徴の検出時点に基づいて、前記動画像のフレームおよび前記仮想画像の少なくとも1つを含むサムネイルを生成し、前記サムネイルと前記チャプター情報とを対応付けて保存するサムネイル生成部を備え、
    前記表示制御部が、前記チャプター情報および該チャプター情報に対応付けられた前記サムネイルを前記選択画面に表示させる請求項1または2に記載の医用画像保存再生装置。
  4. 前記保存部が、前記撮影対象としての気管支を内視鏡によって撮影した動画像を保存し、
    前記仮想画像生成部が、前記気管支内の仮想内視鏡画像を前記仮想画像として生成する請求項1からいずれか1項記載の医用画像保存再生装置。
  5. 前記選択画面において前記複数のチャプター情報のうちの1つが選択された場合には、前記気管支の基端から、前記選択された1つのチャプター情報の前記3次元医用画像上における位置までの最短経路上のチャプター情報を選択し、該選択した最短経路上のチャプター情報に基づいて、前記気管支の基端から、前記選択された1つのチャプター情報の3次元医用画像上の位置までの前記保存された動画像を再生して前記表示部に表示させる請求項4に記載の医用画像保存再生装置。
  6. 前記選択画面において前記複数のチャプター情報のうちの2つが選択された場合には、前記選択された2つのチャプター情報のうちの一方のチャプター情報の前記3次元医用画像上における位置から他方のチャプター情報の前記3次元医用画像上における位置までの最短経路上のチャプター情報を選択し、該選択した最短経路上のチャプター情報に基づいて、前記一方のチャプター情報の3次元医用画像上の位置から前記他方のチャプター情報の3次元医用画像上の位置までの前記保存された動画像を再生して前記表示部に表示させる請求項4に記載の医用画像保存再生装置。
  7. 前記チャプター情報付与部が、前記解剖学的な特徴として前記仮想内視鏡画像から前記気管支の分岐を検出する請求項からいずれか1項記載の医用画像保存再生装置。
  8. 前記保存部が、前記撮影対象として肝臓を撮影した動画像を保存し、
    前記仮想画像生成部が、前記肝臓の仮想画像を生成する請求項1からいずれか1項記載の医用画像保存再生装置。
  9. 前記チャプター情報付与部が、前記解剖学的な特徴として前記肝臓の仮想画像から前記肝臓の切除部分を検出する請求項8記載の医用画像保存再生装置。
  10. 前記表示制御部が、前記動画像の各フレームと前記各フレームに対応する仮想画像とを前記表示部に並べて表示させる請求項1からいずれか1項記載の医用画像保存再生装置。
  11. 気管支を内視鏡によって撮影した動画像を保存する保存部と、
    前記気管支を予め撮影した3次元医用画像に基づいて、仮想内視鏡画像を生成する仮想画像生成部と、
    前記仮想内視鏡画像から前記気管支の分岐を検出し、前記検出時点に基づいて、前記動画像にチャプター情報を付与するチャプター情報付与部と、
    前記気管支の分岐の前記3次元医用画像上における位置情報に基づいて、前記3次元医用画像に対して前記動画像に付与された複数のチャプター情報を表示させることによって、前記複数のチャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させる表示制御部とを備え、
    前記表示制御部が、前記選択画面において受け付けられた前記チャプター情報に基づいて、前記保存された動画像を再生して前記表示部に表示させる医用画像保存再生装置。
  12. 撮影対象を撮影した動画像を保存し、前記保存した動画像を再生する医用画像保存再生方法であって、
    前記撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成し、
    前記動画像の各フレームの更新に応じて、該更新後のフレームに対応する前記仮想画像から解剖学的な特徴または機能的な特徴を検出し、前記検出時点に基づいて、前記動画像にチャプター情報を付与し、
    前記3次元医用画像を表示させ、かつ、前記解剖学的な特徴または前記機能的な特徴の前記3次元医用画像上における位置情報に基づいて、前記3次元医用画像に対して複数のチャプター情報を表示させて、前記動画像に付与された前記チャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させ、
    前記選択画面において受け付けられた前記チャプター情報に基づいて、前記保存された動画像を再生して前記表示部に表示させる医用画像保存再生方法。
  13. 撮影対象を撮影した動画像を保存する手順と、前記保存した動画像を再生する手順とをコンピュータに実行させる医用画像保存再生プログラムであって、
    前記撮影対象を予め撮影した3次元医用画像に基づいて、仮想画像を生成する手順と、
    前記動画像の各フレームの更新に応じて、該更新後のフレームに対応する前記仮想画像から解剖学的な特徴または機能的な特徴を検出し、前記検出時点に基づいて、前記動画像
    にチャプター情報を付与する手順と、
    前記3次元医用画像を表示させ、かつ、前記解剖学的な特徴または前記機能的な特徴の前記3次元医用画像上における位置情報に基づいて、前記3次元医用画像に対して複数のチャプター情報を表示させて、前記動画像に付与された前記チャプター情報の中から、1以上のチャプター情報の選択を受け付ける選択画面を表示部に表示させる手順と、
    前記選択画面において受け付けられた前記チャプター情報に基づいて、前記保存された動画像を再生して前記表示部に表示させる手順とを前記コンピュータにさらに実行させる医用画像保存再生プログラム。
JP2016189796A 2016-09-28 2016-09-28 医用画像保存再生装置および方法並びにプログラム Active JP6608111B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016189796A JP6608111B2 (ja) 2016-09-28 2016-09-28 医用画像保存再生装置および方法並びにプログラム
US15/716,003 US11056149B2 (en) 2016-09-28 2017-09-26 Medical image storage and reproduction apparatus, method, and program
DE102017122263.4A DE102017122263A1 (de) 2016-09-28 2017-09-26 Gerät, Verfahren und Programm zum Speichern und Wiedergeben medizinischer Bilder

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016189796A JP6608111B2 (ja) 2016-09-28 2016-09-28 医用画像保存再生装置および方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2018050921A JP2018050921A (ja) 2018-04-05
JP6608111B2 true JP6608111B2 (ja) 2019-11-20

Family

ID=61564054

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016189796A Active JP6608111B2 (ja) 2016-09-28 2016-09-28 医用画像保存再生装置および方法並びにプログラム

Country Status (3)

Country Link
US (1) US11056149B2 (ja)
JP (1) JP6608111B2 (ja)
DE (1) DE102017122263A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11941749B2 (en) 2020-10-28 2024-03-26 Evident Corporation Image display method, display control device, and recording medium for displaying shape image of subject and coordinates estimated from two-dimensional coordinates in reference image projected thereon

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112640442A (zh) 2018-08-24 2021-04-09 奥林巴斯株式会社 图像记录再现装置和内窥镜系统

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7641609B2 (en) * 2002-07-31 2010-01-05 Olympus Corporation Endoscope device and navigation method for endoscope device
JP3930423B2 (ja) * 2002-12-03 2007-06-13 オリンパス株式会社 内視鏡装置
JP4323288B2 (ja) * 2003-10-31 2009-09-02 オリンパス株式会社 挿入支援システム
US7901348B2 (en) * 2003-12-12 2011-03-08 University Of Washington Catheterscope 3D guidance and interface system
JP4343723B2 (ja) * 2004-01-30 2009-10-14 オリンパス株式会社 挿入支援システム
JP4458886B2 (ja) 2004-03-17 2010-04-28 キヤノン株式会社 複合現実感画像の記録装置及び記録方法
JP3839839B2 (ja) 2004-06-25 2006-11-01 株式会社セブンスディメンジョンデザイン 医療画像管理システム及び医療画像管理方法
JP4575143B2 (ja) * 2004-12-27 2010-11-04 オリンパス株式会社 挿入支援システム
US9037215B2 (en) * 2007-01-31 2015-05-19 The Penn State Research Foundation Methods and apparatus for 3D route planning through hollow organs
US8218847B2 (en) * 2008-06-06 2012-07-10 Superdimension, Ltd. Hybrid registration method
JP4717935B2 (ja) 2009-03-23 2011-07-06 富士フイルム株式会社 画像処理装置および方法並びにプログラム
JP2011036371A (ja) * 2009-08-10 2011-02-24 Tohoku Otas Kk 医療画像記録装置
JP2011036372A (ja) 2009-08-10 2011-02-24 Tohoku Otas Kk 医療画像記録装置
CN103068294B (zh) * 2011-01-24 2015-06-24 奥林巴斯医疗株式会社 医疗设备
JP5309187B2 (ja) * 2011-05-26 2013-10-09 富士フイルム株式会社 医用情報表示装置およびその動作方法、並びに医用情報表示プログラム
EP2687146A4 (en) * 2011-05-30 2014-11-05 Olympus Medical Systems Corp DEVICE FOR RECORDING MEDICAL INFORMATION
US9934356B2 (en) * 2011-10-31 2018-04-03 Cerner Innovation, Inc. Multi-image viewer for multi-sourced images
WO2013111684A1 (ja) * 2012-01-26 2013-08-01 オリンパスメディカルシステムズ株式会社 医療情報記録装置
JP5932406B2 (ja) * 2012-03-09 2016-06-08 富士フイルム株式会社 医用画像処理装置および方法、並びにプログラム
WO2013164826A1 (en) * 2012-05-04 2013-11-07 Given Imaging Ltd. System and method for automatic navigation of a capsule based on image stream captured in-vivo
US20140038152A1 (en) * 2012-07-31 2014-02-06 Sandro Micieli Medical visualization method and system
JP6391922B2 (ja) * 2012-08-08 2018-09-19 キヤノンメディカルシステムズ株式会社 医用画像診断装置、画像処理装置及び画像処理方法
JP2014033931A (ja) * 2012-08-10 2014-02-24 Hoya Corp 内視鏡装置
WO2014129428A1 (ja) * 2013-02-21 2014-08-28 株式会社 日立メディコ X線ct装置及び画像再構成方法
SG11201507610RA (en) * 2013-03-15 2015-10-29 Synaptive Medical Barbados Inc Planning, navigation and simulation systems and methods for minimally invasive therapy
EP2918218A4 (en) * 2013-03-27 2016-08-03 Olympus Corp ENDOSCOPE SYSTEM
JP5687811B1 (ja) * 2013-04-15 2015-03-25 オリンパスメディカルシステムズ株式会社 内視鏡システム
KR20140127538A (ko) * 2013-04-25 2014-11-04 서울대학교병원 (분사무소) 전자의무기록 시스템 기반의 검사 정보 조회 장치 및 그 조회 방법
US10025479B2 (en) * 2013-09-25 2018-07-17 Terarecon, Inc. Advanced medical image processing wizard
EP3136943A4 (en) * 2014-05-01 2017-12-27 EndoChoice, Inc. System and method of scanning a body cavity using a multiple viewing elements endoscope
JP6192602B2 (ja) * 2014-06-25 2017-09-06 オリンパス株式会社 画像記録装置
US11188285B2 (en) * 2014-07-02 2021-11-30 Covidien Lp Intelligent display
US10799302B2 (en) * 2014-07-10 2020-10-13 Transenterix Europe S.A.R.L. Interface for laparoscopic surgeries—movement gestures
JP6419487B2 (ja) 2014-08-21 2018-11-07 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察システム
US10617401B2 (en) * 2014-11-14 2020-04-14 Ziteo, Inc. Systems for localization of targets inside a body
KR20170068944A (ko) * 2015-12-10 2017-06-20 삼성메디슨 주식회사 초음파 영상을 디스플레이하는 방법 및 이를 위한 초음파 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11941749B2 (en) 2020-10-28 2024-03-26 Evident Corporation Image display method, display control device, and recording medium for displaying shape image of subject and coordinates estimated from two-dimensional coordinates in reference image projected thereon

Also Published As

Publication number Publication date
DE102017122263A1 (de) 2018-03-29
US11056149B2 (en) 2021-07-06
JP2018050921A (ja) 2018-04-05
US20180090176A1 (en) 2018-03-29

Similar Documents

Publication Publication Date Title
JP7133474B2 (ja) 内視鏡画像及び超音波画像の画像ベースの融合
CN102843972B (zh) 用于将图像与管状结构融合的基于仪器的图像配准
US10772684B2 (en) Spatial visualization of internal mammary artery during minimally invasive bypass surgery
EP1685787B1 (en) Insertion support system
JP3847744B2 (ja) 挿入支援システム
US11278182B2 (en) Enhanced visualization of blood vessels using a robotically steered endoscope
US10716457B2 (en) Method and system for calculating resected tissue volume from 2D/2.5D intraoperative image data
US20050261550A1 (en) System, apparatus, and method for supporting insertion of endoscope
JP4922107B2 (ja) 内視鏡装置
JP3930423B2 (ja) 内視鏡装置
JP4901358B2 (ja) 医用画像データにおける注目点の自動検出装置
WO2019198322A1 (ja) 医療システム
US10398286B2 (en) Medical image display control apparatus, method, and program
JP6608111B2 (ja) 医用画像保存再生装置および方法並びにプログラム
JP6671482B2 (ja) Cpr画像生成装置、方法およびプログラム
JP4022192B2 (ja) 挿入支援システム
JP6820805B2 (ja) 画像位置合わせ装置、その作動方法およびプログラム
US20170018079A1 (en) Image processing device, method, and recording medium having stored therein program
JP4575143B2 (ja) 挿入支援システム
JP2018153345A (ja) 内視鏡位置特定装置、方法およびプログラム
JP4354353B2 (ja) 挿入支援システム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20170519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170908

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170908

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191022

R150 Certificate of patent or registration of utility model

Ref document number: 6608111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250