JP4547402B2 - 画像表示装置、画像表示方法および画像表示プログラム - Google Patents

画像表示装置、画像表示方法および画像表示プログラム Download PDF

Info

Publication number
JP4547402B2
JP4547402B2 JP2007181073A JP2007181073A JP4547402B2 JP 4547402 B2 JP4547402 B2 JP 4547402B2 JP 2007181073 A JP2007181073 A JP 2007181073A JP 2007181073 A JP2007181073 A JP 2007181073A JP 4547402 B2 JP4547402 B2 JP 4547402B2
Authority
JP
Japan
Prior art keywords
image
organ
image display
display
bar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007181073A
Other languages
English (en)
Other versions
JP2007307397A (ja
Inventor
武道 本多
哲夫 薬袋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2007181073A priority Critical patent/JP4547402B2/ja
Publication of JP2007307397A publication Critical patent/JP2007307397A/ja
Application granted granted Critical
Publication of JP4547402B2 publication Critical patent/JP4547402B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Endoscopes (AREA)

Description

本発明は、たとえば、画像表示装置、画像表示方法および画像表示プログラムに関するものである。
近年、内視鏡においては、飲込み型のカプセル内視鏡が登場している。このカプセル内視鏡には、撮像機能と無線機能とが設けられている。カプセル内視鏡は、観察(検査)のために患者の口から飲込まれた後、人体から自然排出されるまでの観察期間、胃、小腸などの臓器を順次撮像する仕組みである(特許文献1)。
この観察期間、カプセル内視鏡によって体内で撮像された画像データは、順次無線通信により外部に送信され、メモリに蓄積される。患者がこの無線通信機能とメモリ機能とを備えた受信機を携帯することにより、患者は、カプセル内視鏡を飲み込んだ後、排出されるまでの観察期間、自由に行動できる。観察後、医師もしくは看護士においては、メモリに蓄積された画像データに基づいて臓器の画像をディスプレイに表示させて診断を行うことができる。
今日、この種のカプセル内視鏡としては、イスラエルのギブン・イメージング社のM2A(登録商標)や日本の株式会社アールエフのNORIKA(登録商標)があり、すでに実用化の段階に移行している。
特開平11−225996号公報
しかしながら、上述したカプセル内視鏡においては、通常の内視鏡と異なり被験者が飲込んで自然に排出されるまでの期間、各臓器を撮像させるので、観察(検査)時間がたとえば10時間以上となるように長時間に及んでいた。このため、時系列に撮像される画像の枚数は、膨大である。
診察などの段階において、長時間撮像された膨大な画像から所望の画像を検索する検索性の向上や、表示画像が全体的な撮像時間中のどの時刻によるものか、どの臓器のものかなどを容易に認識できる表示画面については、とくに考慮されていなかった。
本発明の目的は、体内を撮像した画像の検索性が向上するとともに、表示画像がどの臓器の画像であるかを容易に認識することが可能な画像表示装置、画像表示方法および画像表示プログラムを提供することにある。
上述した課題を解決し、目的を達成するために、請求項1の発明に係る画像表示装置は、体内撮像装置によって時系列で撮像された画像データを入力する入力手段と、前記入力手段により入力された時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、該スケール上を移動可能なスライダを表示するように制御するスケール表示制御手段と、前記スケール上における前記スライダの移動に連動して該スライダの位置に対応する撮像時刻の画像を表示手段に表示するように制御する画像表示制御手段と、前記入力手段により入力された画像データの一画面の色情報を検出する色情報検出手段と、前記平均色情報検出手段により検出された色情報に対応する色を前記スケール上の時間的に対応する位置に表示するように制御する色表示制御手段と、を備えたことを特徴とする。
請求項2の発明に係る画像表示装置は、上記の発明において、前記色情報検出手段は、前記入力手段により入力された画像データの一画面の色情報から平均色に関する色情報を検出する平均色検出手段を備えたことを特徴とする。
請求項3の発明に係る画像表示装置は、上記の発明において、前記色情報検出手段により検出された色情報に基づいて臓器を判別する臓器判別手段と、前記臓器判別手段により判別された臓器名を前記スケールに対応させて表示するように制御する臓器名表示制御手段と、を備えたことを特徴とする。
請求項4の発明に係る画像表示装置は、上記の発明において、前記臓器判別手段は、前記色情報を構成する色要素の増減情報をもとに臓器を判別することを特徴とする。
請求項5の発明に係る画像表示装置は、上記の発明において、前記臓器判別手段は、前記画像データに関連して得られた生体情報を加味して臓器を判別することを特徴とする。
請求項6の発明に係る画像表示装置は、上記の発明において、体内撮像装置によって時系列で撮像された画像の特徴である数値パラメータを抽出する特徴抽出手段と、前記特徴抽出手段によって抽出された数値パラメータを可視化し、時系列で連続的に可視表示する表示制御手段と、を備えたことを特徴とする。
請求項7の発明に係る画像表示装置は、上記の発明において、前記数値パラメータは、各画像の平均色を示す色要素であることを特徴とする。
請求項8の発明に係る画像表示装置は、上記の発明において、前記特徴抽出手段によって抽出された数値パラメータを変換して新たな変換数値パラメータを生成する変換手段をさらに備え、前記表示制御手段は、前記変換手段が変換した変換数値パラメータを可視化し、時系列で連続的に可視表示することを特徴とする。
請求項9の発明に係る画像表示装置は、上記の発明において、前記変換手段は、各画像の色情報の数値パラメータをもとに各画像の輝度値を示す変換数値パラメータに変換することを特徴とする。
請求項10の発明に係る画像表示装置は、上記の発明において、前記変換手段は、各画像の平均色の数値パラメータをもとに各画像の平均輝度値を示す変換数値パラメータに変換することを特徴とする。
請求項11の発明に係る画像表示装置は、上記の発明において、前記特徴抽出手段は、各画像フレーム間の差分を示すフレーム間誤差を数値パラメータとして抽出することを特徴とする。
請求項12の発明に係る画像表示装置は、上記の発明において、前記数値パラメータあるあいは前記変換数値パラメータをもとに臓器部位を判別する臓器判別手段をさらに備え、前記表示制御手段は、判別された臓器部位を前記時系列に対応させて表示する制御を行うことを特徴とする。
請求項13の発明に係る画像表示装置は、上記の発明において、体内撮像装置によって時系列で撮像された画像データを入力する入力手段と、前記入力手段により入力された時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、該スケール上を移動可能なスライダを表示するように制御するスケール表示制御手段と、前記スケール上における前記スライダの移動に連動して該スライダの位置に対応する撮像時刻の画像を表示手段に表示するように制御する画像表示制御手段と、を備え、前記表示制御手段は、前記特徴抽出手段によって抽出された数値パラメータあるいは前記変換手段によって変換された変換数値パラメータを可視化し、前記スケール上の時間的に対応する位置に表示する制御を行うことを特徴とする。
請求項14の発明に係る画像表示装置は、上記の発明において、体内撮像装置によって時系列で撮像された一連の画像データ内の各画像の色情報を取得する色情報取得手段と、前記色情報取得手段によって取得された色情報を所定の特徴色空間上の位置情報に変換する変換手段と、前記所定の特徴色空間上における出血に関する色分布位置情報と前記変換手段によって変換された位置情報とをもとに画像内に検出対象の出血部位があるか否かを判断する出血部位判断手段と、前記出血部位判断手段によって検索対象の出血部位があると判断された画像にその旨を示すフラグを付するフラグ付記手段と、を備えたことを特徴とする。
請求項15の発明に係る画像表示装置は、上記の発明において、前記出血部位判断手段は、前記特徴色空間上における鮮血、凝固血、および正常出血の各色分布を分離する識別関数を用いて出血の種別を判断することを特徴とする。
請求項16の発明に係る画像表示装置は、上記の発明において、前記出血部位判断手段は、出血部位がほぼ円形である場合に該出血部位を凝固血の出血部位であると判断することを特徴とする。
請求項17の発明に係る画像表示装置は、上記の発明において、前記出血部位判断手段は、画像内の各画素のエッジを検出し、この検出された各エッジの法線を生成し、各画素に投票される法線数が所定値以上であった場合に、ほぼ円形の出血部位があると判断することを特徴とする。
請求項18の発明に係る画像表示方法は、体内撮像装置によって時系列で撮像された画像データを入力する入力ステップと、前記入力ステップにより入力された時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、該スケール上を移動可能なスライダを表示するように制御するスケール表示制御ステップと、前記スケール上における前記スライダの移動に連動して該スライダの位置に対応する撮像時刻の画像を表示手段に表示するように制御する画像表示制御ステップと、前記入力ステップにより入力された画像データの一画面の色情報を検出する色情報検出ステップと、前記色情報検出ステップにより検出された色情報に対応する色を前記スケール上の時間的に対応する位置に表示するように制御する色表示制御ステップと、を含むことを特徴とする。
請求項19の発明に係る画像表示方法は、上記の発明において、前記色情報検出ステップは、前記入力手段により入力された画像データの一画面の色情報から平均色に関する色情報を検出する平均色検出ステップを含むことを特徴とする。
請求項20の発明に係る画像表示方法は、上記の発明において、前記色情報検出ステップにより検出された色情報に基づいて臓器を判別する臓器判別ステップと、前記臓器判別ステップにより判別された臓器名を前記スケールに対応させて表示するように制御する臓器名表示制御ステップと、を含むことを特徴とする。
請求項21の発明に係る画像表示方法は、上記の発明において、前記臓器判別ステップは、前記色情報を構成する色要素の増減情報をもとに臓器を判別することを特徴とする。
請求項22の発明に係る画像表示方法は、上記の発明において、前記臓器判別ステップは、前記画像データに関連して得られた生体情報を加味して臓器を判別することを特徴とする。
請求項23の発明に係る画像表示方法は、上記の発明において、体内撮像装置によって時系列で撮像された画像の特徴である数値パラメータを抽出する特徴抽出ステップと、前記特徴抽出手段によって抽出された数値パラメータを可視化し、時系列で連続的に可視表示する表示制御ステップと、を含むことを特徴とする。
請求項24の発明に係る画像表示方法は、上記の発明において、前記数値パラメータは、各画像の平均色を示す色要素であることを特徴とする。
請求項25の発明に係る画像表示方法は、上記の発明において、前記特徴抽出ステップによって抽出された数値パラメータを変換して新たな変換数値パラメータを生成する変換ステップをさらに含み、前記表示制御ステップは、前記変換ステップが変換した変換数値パラメータを可視化し、時系列で連続的に可視表示することを特徴とする。
請求項26の発明に係る画像表示方法は、上記の発明において、前記変換ステップは、各画像の色情報の数値パラメータをもとに各画像の輝度値を示す変換数値パラメータに変換することを特徴とする。
請求項27の発明に係る画像表示方法は、上記の発明において、前記変換ステップは、各画像の平均色の数値パラメータをもとに各画像の平均輝度値を示す変換数値パラメータに変換することを特徴とする。
請求項28の発明に係る画像表示方法は、上記の発明において、前記特徴抽出ステップは、各画像フレーム間の差分を示すフレーム間誤差を数値パラメータとして抽出することを特徴とする。
請求項29の発明に係る画像表示方法は、上記の発明において、前記数値パラメータあるあいは前記変換数値パラメータをもとに臓器部位を判別する臓器判別ステップをさらに含み、前記表示制御ステップは、判別された臓器部位を前記時系列に対応させて表示する制御を行うことを特徴とする。
請求項30の発明に係る画像表示方法は、上記の発明において、体内撮像装置によって時系列で撮像された画像データを入力する入力ステップと、前記入力ステップにより入力された時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、該スケール上を移動可能なスライダを表示するように制御するスケール表示制御ステップと、前記スケール上における前記スライダの移動に連動して該スライダの位置に対応する撮像時刻の画像を表示手段に表示するように制御する画像表示制御ステップと、を含み、前記表示制御ステップは、前記特徴抽出ステップによって抽出された数値パラメータあるいは前記変換ステップによって変換された変換数値パラメータを可視化し、前記スケール上の時間的に対応する位置に表示する制御を行うことを特徴とする。
請求項31の発明に係る画像表示方法は、上記の発明において、体内撮像装置によって時系列で撮像された一連の画像データ内の各画像の色情報を取得する色情報取得ステップと、前記色情報取得ステップによって取得された色情報を所定の特徴色空間上の位置情報に変換する変換ステップと、前記所定の特徴色空間上における出血に関する色分布位置情報と前記変換手段によって変換された位置情報とをもとに画像内に検出対象の出血部位があるか否かを判断する出血部位判断ステップと、前記出血部位判断ステップによって検索対象の出血部位があると判断された画像にその旨を示すフラグを付するフラグ付記ステップと、を含むことを特徴とする。
請求項32の発明に係る画像表示方法は、上記の発明において、前記出血部位判断ステップは、前記特徴色空間上における鮮血、凝固血、および正常出血の各色分布を分離する識別関数を用いて出血の種別を判断することを特徴とする。
請求項33の発明に係る画像表示方法は、上記の発明において、前記出血部位判断ステップは、出血部位がほぼ円形である場合に該出血部位を凝固血の出血部位であると判断することを特徴とする。
請求項34の発明に係る画像表示方法は、上記の発明において、前記出血部位判断ステップは、画像内の各画素のエッジを検出し、この検出された各エッジの法線を生成し、各画素に投票される法線数が所定値以上であった場合に、ほぼ円形の出血部位があると判断することを特徴とする。
請求項35の発明に係る画像表示プログラムは、体内撮像装置によって時系列で撮像された画像データを入力する入力ステップと、前記入力ステップにより入力された時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、該スケール上を移動可能なスライダを表示するように制御するスケール表示制御ステップと、前記スケール上における前記スライダの移動に連動して該スライダの位置に対応する撮像時刻の画像を表示手段に表示するように制御する画像表示制御ステップと、前記入力ステップにより入力された画像データの一画面の色情報を検出する色情報検出ステップと、前記色情報検出ステップにより検出された色情報に対応する色を前記スケール上の時間的に対応する位置に表示するように制御する色表示制御ステップと、をコンピュータに実行させることを特徴とする。
請求項36の発明に係る画像表示プログラムは、上記の発明において、前記色情報検出ステップは、前記入力手段により入力された画像データの一画面の色情報から平均色に関する色情報を検出する平均色検出ステップを含むことを特徴とする。
請求項37の発明に係る画像表示プログラムは、上記の発明において、前記色情報検出ステップにより検出された色情報に基づいて臓器を判別する臓器判別ステップと、前記臓器判別ステップにより判別された臓器名を前記スケールに対応させて表示するように制御する臓器名表示制御ステップと、を含むことを特徴とする。
請求項38の発明に係る画像表示プログラムは、上記の発明において、前記臓器判別ステップは、前記色情報を構成する色要素の増減情報をもとに臓器を判別することを特徴とする。
請求項39の発明に係る画像表示プログラムは、上記の発明において、前記臓器判別ステップは、前記画像データに関連して得られた生体情報を加味して臓器を判別することを特徴とする。
請求項40の発明に係る画像表示プログラムは、上記の発明において、体内撮像装置によって時系列で撮像された画像の特徴である数値パラメータを抽出する特徴抽出ステップと、前記特徴抽出手段によって抽出された数値パラメータを可視化し、時系列で連続的に可視表示する表示制御ステップと、をコンピュータに実行させることを特徴とする。
請求項41の発明に係る画像表示プログラムは、上記の発明において、前記数値パラメータは、各画像の平均色を示す色要素であることを特徴とする。
請求項42の発明に係る画像表示プログラムは、上記の発明において、前記特徴抽出ステップによって抽出された数値パラメータを変換して新たな変換数値パラメータを生成する変換ステップをさらに含み、前記表示制御ステップは、前記変換ステップが変換した変換数値パラメータを可視化し、時系列で連続的に可視表示することを特徴とする。
請求項43の発明に係る画像表示プログラムは、上記の発明において、前記変換ステップは、各画像の色情報の数値パラメータをもとに各画像の輝度値を示す変換数値パラメータに変換することを特徴とする。
請求項44の発明に係る画像表示プログラムは、上記の発明において、前記変換ステップは、各画像の平均色の数値パラメータをもとに各画像の平均輝度値を示す変換数値パラメータに変換することを特徴とする。
請求項45の発明に係る画像表示プログラムは、上記の発明において、前記特徴抽出ステップは、各画像フレーム間の差分を示すフレーム間誤差を数値パラメータとして抽出することを特徴とする。
請求項46の発明に係る画像表示プログラムは、上記の発明において、前記数値パラメータあるあいは前記変換数値パラメータをもとに臓器部位を判別する臓器判別ステップをさらに含み、前記表示制御ステップは、判別された臓器部位を前記時系列に対応させて表示する制御を行うことを特徴とする。
請求項47の発明に係る画像表示プログラムは、上記の発明において、体内撮像装置によって時系列で撮像された画像データを入力する入力ステップと、前記入力ステップにより入力された時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、該スケール上を移動可能なスライダを表示するように制御するスケール表示制御ステップと、前記スケール上における前記スライダの移動に連動して該スライダの位置に対応する撮像時刻の画像を表示手段に表示するように制御する画像表示制御ステップと、を含み、前記表示制御ステップは、前記特徴抽出ステップによって抽出された数値パラメータあるいは前記変換ステップによって変換された変換数値パラメータを可視化し、前記スケール上の時間的に対応する位置に表示する制御を行うことを特徴とする。
請求項48の発明に係る画像表示プログラムは、上記の発明において、体内撮像装置によって時系列で撮像された一連の画像データ内の各画像の色情報を取得する色情報取得ステップと、前記色情報取得ステップによって取得された色情報を所定の特徴色空間上の位置情報に変換する変換ステップと、前記所定の特徴色空間上における出血に関する色分布位置情報と前記変換手段によって変換された位置情報とをもとに画像内に検出対象の出血部位があるか否かを判断する出血部位判断ステップと、前記出血部位判断ステップによって検索対象の出血部位があると判断された画像にその旨を示すフラグを付するフラグ付記ステップと、をコンピュータに実行させることを特徴とする。
請求項49の発明に係る画像表示プログラムは、上記の発明において、前記出血部位判断ステップは、前記特徴色空間上における鮮血、凝固血、および正常出血の各色分布を分離する識別関数を用いて出血の種別を判断することを特徴とする。
請求項50の発明に係る画像表示プログラムは、上記の発明において、前記出血部位判断ステップは、出血部位がほぼ円形である場合に該出血部位を凝固血の出血部位であると判断することを特徴とする。
請求項51の発明に係る画像表示プログラムは、上記の発明において、前記出血部位判断ステップは、画像内の各画素のエッジを検出し、この検出された各エッジの法線を生成し、各画素に投票される法線数が所定値以上であった場合に、ほぼ円形の出血部位があると判断することを特徴とする。
本発明では、撮像部位によって色分けなどがなされ、この色分けされた色などから体内の臓器を容易に判断することが可能となり、これによって、画像の検索性が向上するとともに、表示画像がどの臓器の画像であるかを容易に認識することが可能となる。さらに、出血部位の自動検索を行うようにしているので、医師や看護士にかかる負担が軽減されるという効果を奏する。
以下に添付図面を参照して、本発明に係る好適な実施の形態について詳述する。
まず、本発明の一実施の形態で用いるカプセル内視鏡について図1を参照して全体構成を説明する。図1は本実施の形態にかかるカプセル内視鏡の内部構造を示す概略図である。図1に示すように、カプセル内視鏡10は、体腔内の画像を撮像し得る撮像部111と、体腔内部を照射する照明部112a,112bと、これらに電力を供給する電源部13と、内部に上記撮像部111、上記照明部112および上記電源部13を少なくとも配設したカプセル筐体14とから構成されてなるものである。
ここで、本実施の形態に係るカプセル筐体14は、上記撮像部111および上記照明部112a,112bを覆う先端カバー部120と、該先端カバー部120とシール部材121を介して水密状態に設けられ、内部に撮像部111等を配設してなるカプセル胴部122とからなり、必要に応じて後端カバー部123をカプセル胴部122と別体に設けるようにしてもよい。なお、本実施の形態では後端カバー部123はカプセル胴部と一体に設けられており、平坦形状としているが、その形状は限定されず、例えばドーム形状とするようにしてもよい。
また、先端カバー部120は照明部112a,112bからの照明光Lを透過させる照明用窓部120aと照明範囲を撮像する撮像用窓部120bとを明確に分けるようにしてもよい。なお、本実施の形態では、先端カバー部120はその全体が透明であり、照明用窓部120aと撮像用窓部120bとの領域が部分的に重なっている。
上記撮像部111は、撮像基板124に設けられ、照明部112a,112bからの照明光Lによって照らされた範囲を撮像する例えばCCDからなる固体撮像素子125と、該固体撮像素子125に被写体の像を結像する固定レンズ126aおよび可動レンズ126bからなる結像レンズ126とからなり、固定レンズ126aを固定する固定枠128aおよび可動レンズ126bを固定する可動枠128bによるピント調整部128によりシャープな結像を行っている。なお、本発明では、撮像部111としては、上記CCDに限定されるものではなく、たとえばCMOS等の撮像手段を用いてもよい。
また、上記照明部112a,112bは、照明基板130に設けられ、例えば発光ダイオード(LED)からなると共に、該照明部112a,112bは、撮像部111を構成する結像レンズ126を中心とし、その周囲に複数(本実施の形態では、一例として4個)配設されている。なお、本発明では、照明部112a,112bとして、上記LEDに限定されるものではなく、他の照明手段を用いてもよい。
また、上記電源部13は、内部スイッチ131が設けられた電源基板132に設けられ、電源133として、たとえばボタン型の電池を用いるようにしている。なお、本発明では、上記電池として例えば酸化銀電池を用いているが、本発明ではこれに限定されるものではなく、例えば充電式電池、発電式電池等を用いるようにしてもよい。
また、上記内部スイッチ131としては、例えば磁石同士の離反作用によりON動作を行うことができるものを用いているが、本発明はこれに限定されるものではなく、他のスイッチ手段を例示することができる。
また、本実施の形態では、上記各部以外に、無線基板141に外部と無線通信を行うためのアンテナ等からなる無線部142が設けられており、必要に応じて外部との通信を行っている。
また、上記各部を処理又は制御するための信号処理・制御部143が撮像基板124に設けられており、カプセル内視鏡10における各種処理を実行するようにしている。
ここで、上記信号処理・制御部143は、映像信号処理機能の一部と、映像信号と同期信号の混合、誤り訂正符号の付加等を行う送信用信号作成機能と、例えばPSK,MSK,GMSK,QMSK,ASK,AM,FM方式に変換する変調機能と、スイッチのON−OFFに応じて電源の供給を制御する電源供給制御機能と、LED駆動回路等の駆動回路と、撮像枚数を制御するタイミングジェネレータ(TG)機能と、撮像枚数を設定するパラメータ等の諸データを記憶する記憶機能等から構成され、各種信号処理・制御を行っている。
ここで、上記映像信号処理機能は、例えば画像データ補正(例えばホワイトバランス(WB)補正、γ補正、色処理、AGC等)、場合により相関二重サンプリングやアナログ−デジタル変換(ADC)、調光機能(AE)等の処理が含まれる。
なお、カプセル内視鏡10の内部には、上述した無線部142以外に、例えば各種センサ等の情報収集手段、薬剤を放出する薬剤放出手段、体腔の組織を切除・回収する組織回収手段等を適宜配設するようにしてもよい。
つづいて、本実施の形態によるカプセル内視鏡システムについて図2を用いて説明する。図2は本実施の形態によるカプセル内視鏡システムの概略図である。上記カプセル内視鏡10を用いて検査をするに際しては、図2に示すようなカプセル内視鏡システムを用いて行うようにしている。
本実施の形態によるカプセル内視鏡システムは、たとえば図2に示したように、カプセル内視鏡10およびそのパッケージ50、患者すなわち被検査者2に着用させるジャケット3、ジャケット3に着脱自在の受信機4、ワークステーション5、CF(コンパクトフラッシュ(登録商標))メモリリーダ/ライタ6、ラベルプリンタ7、データベース8およびネットワーク9により構成される。
ジャケット3には、カプセル内視鏡10の無線部142から発信される撮像画像の電波を捕捉するアンテナ31,32,33および34が設けられ、受信機4との間で無線もしくはケーブルによる有線にて通信可能に設けられている。なお、アンテナの数はとくに4個に限定されず、複数あればよく、これにより、カプセル内視鏡10の移動に伴う位置に応じた電波を良好に受信することができる。
受信機4には、ジャケット3から直接電波で撮像画像を受信する場合に用いられるアンテナ41、観察(検査)に必要な情報を表示する表示部42および観察(検査)に必要な情報を入力する入力部43が設けられている。また、受信機4は、受信された撮像画像データを記憶するCFメモリ44を着脱可能に装着することができる。さらに、受信機4には、携帯時にも電源供給可能な電源部45および観察(検査)に必要な処理を行う信号処理・制御部46が設けられている。電源部45としては、たとえば乾電池、Liイオン二次電池、Ni水素電池等を例示することができ、充電式であってもよい。
ワークステーション5は、医師もしくは看護士がカプセル内視鏡10により撮像された患者体内の臓器などの画像に基づいて診断を行うための処理機能を有している。このワークステーション5は、図示せぬが、受信機4、CFメモリリーダ/ライタ6、ラベルプリンタ7とそれぞれ通信可能に接続するインタフェースを有しており、CFメモリ44のリード/ライト、カルテ印刷などを行う。
また、ワークステーション5は、ネットワーク9に接続するための通信機能を有しており、このネットワーク9を介してデータベース8に患者の診察結果などを蓄積する。さらに、ワークステーション5は、表示部51を有しており、受信機4から患者体内の撮像画像データを入力して表示部51に臓器などの画像を表示する。
図2に示すように、検査を開始する前において、パッケージ50からカプセル内視鏡10を取り出し、被検査者2が口から当該カプセル内視鏡10を飲み込むことにより、食道を通過し、消化管腔の蠕動により体腔内を進行し、逐次体腔内の像を撮像する。
そして、必要に応じて又は随時撮像結果について無線部142を介して撮像画像の電波が出力され、ジャケット3の各アンテナ31,32,33,34でその電波が捕捉される。受信電波強度の高いアンテナからの信号が体外の受信機4へ送信される。
受信機4においては、CFメモリ44に逐次受信される撮像画像データが格納される。なお、この受信機4はカプセル内視鏡10の撮像開始とは同期しておらず、入力部43の操作により受信開始と受信終了とが制御される。また、撮像画像データとしては、動画的に表示するために複数コマ/秒で撮像した静止画像データでもよいし、通常の動画像データでもよい。
カプセル内視鏡10による被検査者2の観察(検査)が終了すると、CFメモリ44に格納されている撮影画像データがケーブルを介してワークステーション5に転送される。ワークステーション5では、転送されてきた撮像画像データは患者別に対応させて記憶される。
このようにカプセル内視鏡10で撮像され、受信機4で蓄積された体腔内の撮像画像データは、ワークステーション5の表示部51により画像表示される。これにより、超音波プローブ、内視鏡等では到達し得ない体深部(小腸等)も含め、人体の消化管のすべてに亙って、生理学的研究の有用なデータ獲得や病変の診断を行うことができる。
つづいて上述したカプセル内視鏡システムの処理系について図3を用いて説明する。図3は本実施の形態によるカプセル内視鏡システム内部の一構成例を示すブロック図である。ここでは、各ユニットの主要な構成のみを例に挙げて説明する。
カプセル内視鏡10は、すでに図1で説明したように、照明部112aおよび112bよりなる光源112から照射された照明光の反射から体内被写体(臓器など)を撮像部111で撮像し、その撮像画像を無線信号により無線部142から送信する構成を有している。
ジャケット3は、4個のアンテナ31,32,33,34にセレクタ35を接続させ、そのセレクタ35に受信機4と接続させるためのケーブルを繋ぐI/F36を接続させた構成を有している。このジャケット3は、4個のアンテナ31,32,33,34によりカプセル内視鏡10から発信される無線信号を受信し、セレクタ35で電波強度に応じて受信信号をセレクトしてI/F36を介して受信機4に転送する。このジャケット3には、大容量のメモリは設けられておらず、アンテナ31,32,33,34を介して受信された撮像画像は逐次後段の受信機4に転送される。
受信機4は、ジャケット3のI/F36とケーブルを介して通信するためのI/F40、受信機全体をあらかじめ用意されたプログラムにしたがって制御するCPU46、装着されたCFメモリ44との間でデータ通信を行うCFメモリI/F47、ワークステーション5との間でケーブルによる通信を行うI/F48を内部構成として有している。
受信機4は、カプセル内視鏡10による体内の観察期間中、逐次ジャケット3側から撮像画像を受信できる状態を確保するために、被検査者2に常時装着されている。したがって、観察期間中は、ジャケット3から逐次撮像された画像が受信され、その受信画像はCFメモリI/F47を介してCFメモリ44に逐次格納される。この観察期間中は、受信機4はワークステーション5とは非接続状態となり、被検査者2は病院などに拘束されることはなく、自由に移動することができる。
CFメモリリーダ/ライタ6は、リーダ/ライタ全体をあらかじめ用意されたプログラムにしたがって制御するCPU61、装着されたCFメモリ44との間でデータ通信を行うCFメモリI/F62、ワークステーション5との間でケーブルによる通信を行うI/F63を内部構成として有している。
CFメモリリーダ/ライタ6は、CFメモリ44を装着するとともにI/F63を介してワークステーション5に接続し、CFメモリ44に対して本実施の形態による診断のための撮像情報のフォーマットを行ったり、CFメモリ44から格納済みの撮像画像データを読み出してワークステーション5に転送する。ここで、撮像画像データは、JPEGなどの形式である。
このように、本実施の形態においては、受信機4からワークステーション5に対して直接撮像画像データを転送するか、あるいは、受信機4からCFメモリリーダ/ライタ6にCFメモリ44を移してワークステーション5に対して撮像画像データを転送するかは、任意に選択することができる。
ワークステーション5は、本実施の形態による臓器画像などの表示を行う表示部51、ケーブルを介して受信機4のI/F48との間やケーブルを介してCFメモリリーダ/ライタ6のI/F63との間の通信を司るI/F52、各種の処理で扱うデータを格納する大容量のメモリ53、ワークステーション5全体をあらかじめ用意されたプログラムにしたがって制御するCPU54、各種の操作を入力する入力部55、ラベルプリンタ7、ネットワーク9を介してのデータベース8やその他のプリンタにそれぞれ接続して各種の出力処理を行うための出力部56などの構成を有している。
観察期間が終了して、受信機4がワークステーション5に通信可能に接続されると、CFメモリ44に格納された撮像画像データが受信機4からワークステーション5に転送され、メモリ53に格納される。ワークステーション5においては、本実施の形態によるカプセル内視鏡10の撮像画像の表示、後述する平均色スライダの表示、カプセル内視鏡10の軌跡などが診断の際に表示される。診断結果は、プリンタからカルテとして出力されたり、患者毎にデータベース8に蓄積される。
つぎに、本実施の形態による具体的な手順について説明する。図4、図5および図6は本実施の形態による観察手順にかかる画面遷移の一例を示す図、図7および図8は本実施の形態による診察手順にかかる画面遷移の一例を説明する図、そして、図9は本実施の形態による平均色バー表示のための動作を説明するフローチャートである。なお、平均色スライダ表示のためのプログラムは、その格納手法はCD−ROMなどの記録媒体から直接インストールしたり、ネットワークなどの外部からダウンロード後にインストールしてワークステーション5のメモリ53に格納されるものとする。
まず医師(または看護士)は、ワークステーション5およびCFリーダ/ライタ6を用いてCFメモリ44のフォーマットを行う。この場合、ワークステーション5の表示部51には、観察前の手順として、CFメモリ44をCFメモリリーダ/ライタ6に挿入し、そのCFメモリリーダ/ライダ6をワークステーション5に接続する旨のガイダンス画面が表示される(図4(A))。医師から「次へ」のメニュー操作があれば、つぎのガイダンス画面表示に処理は移行する。このとき、医師により、上述のガイダンスにしたがって準備が整ったものとする。なお、この準備で不備があり、その状態で「次へ」のメニュー操作がなされたときに、CFメモリ未挿入やCFメモリリーダ/ライダ未接続などのメッセージを表示してもよい。
つぎのガイダンス画面には、診察情報および患者情報を入力する旨のガイダンス画面が表示される(図4(B))。診察情報として、たとえば、病院名、カプセル投与医師(看護士)名、カプセル投入日時、カプセルシリアルNo、受信機シリアルNoの入力項目がある。また、患者情報として、患者ID、患者名、患者性別、患者年齢、患者生年月日の入力項目がある。各種の入力項目への入力操作が完了し、「次へ」のメニュー操作があると、入力された項目の確認画面が表示される(図5(A))。なお、「戻る」のメニュー操作で前の画面に移行することもできる。
つぎのガイダンス画面には(図5(A))、前画面で入力した項目の確認が表示されるので、医師の操作によりさらに「次へ」のメニュー操作がなされると、入力情報に問題なしとして、表示画面はさらに次の画面に移行する(図5(B))。このとき、CFメモリ44には、入力項目の情報が書き込まれる。また、「戻る」のメニュー操作がなされた場合には、前回入力した項目を修正することができる。
つぎのガイダンス画面には(図5(B))、CFメモリ44の抜き出し指示、入力項目に応じて必要な識別情報を印刷したラベルを受信機4とCFメモリ44に貼付ける指示、および、CFメモリ44を受信機4に挿入する指示のメッセージが表示される。そして、医師の操作により、「完了」のメニュー操作がなされると、被検査者へのカプセル内視鏡10投与前の準備が完了したことになる。
そして、被検査者2へのカプセル内視鏡10の投与が完了して、体内の観察が開始され、受信機4の操作によりCFメモリ44への撮像画像データの格納が開始される。観察期間が満了して、CFメモリ44への格納が終了すると、医師は再度ワークステーション5からガイダンスを受けることになる。
まず受信機4からCFメモリ44を取り出して、CFメモリリーダ/ライタ6に挿入する旨のガイダンス画面が表示される(図6(A))。以上のメッセージに従って準備が進められた後、医師により「次へ」のメニュー操作がなされると、表示画面はつぎに移行する(図6(B))。
つぎのガイダンス画面では(図6(B))、CFメモリ44に記録されている診断情報と患者情報とがそのメモリから読み出され、表示される。この表示された内容の情報すなわち観測により得られた情報(撮像画像データなど)がワークステーション5に取得されることになる。
このようにして情報の取得が完了してから、医師により「次へ」のメニュー操作がなされると、CFメモリ44からのデータの取得処理が行われ、データの取得処理が完了すると、CFメモリ44からのデータ取得の完了、CFメモリ44のCFメモリリーダ/ライタ6からの取り出し、診察開始を指示するガイダンス画面が表示される(図6(C))。そして、医師により「完了」のメニュー操作がなされると、観察手順にかかる一連のガイダンスは完了する。
なお、一連の画面遷移において、キャンセル、ヘルプのアイコンがあり、それぞれ医師は任意に選択操作することができる。キャンセルが操作された場合には、それまでの入力が初期化される。
診察処理の段階では、まずワークステーション5のメモリ53に保存された各患者の診察情報および患者情報が一覧表示される(図7)。これにより、医師はどの患者について診察をするかをたとえばカーソルにて選択操作することができる。選択状態については、反転表示などすればよい。カーソルの選択状態で「診察」のメユー操作がなされると、診察対象の患者が決定する。なお、診察済みの患者については、図7のように、一覧表示上で「済」を付加しておけば診察有無を容易に視認することができる。
このようにして診察対象の患者が決定すると、図8に示したように、診察処理画面が表示される。この診察表示画面には、診察に必要な情報が表示される。501,502はそれぞれ該当する患者の患者情報,診察情報、503は撮像画像のうちの一枚を表示する画像表示欄を示している。504Aは医師が注目する画像についてソフトウェアによるチェックボタンCHKの操作で任意にチェック(選択)した撮像画像を列挙するチェック画像表示欄を示している。
505は画像表示欄503に表示されている撮像画像の撮像位置(体内の位置)を3D(3次元)的に表示する3D位置表示欄を示し、506は画像表示欄503に表示させる撮像画像の再生操作を行うための再生操作欄を示し、507は受信機の受信開始時点から受信終了時点の撮像画像について時系列に臓器に応じた平均色で色分けされた平均色バーを示している。この平均色バー507は、観察期間の経過時間を示すスケールの役割を果たす。表示画面には、そのほか「ヘルプ」、「戻る」、「キャンセル」、「診察終了カルテ印刷」の各メニューが表示されている。
平均色バー507は、臓器により異なる色の特性を利用して、撮像画像の各フレームから平均色を求め、時系列に配色されたものである。したがって、平均色バー507においては、各臓器の区間に応じてカプセル内視鏡10が移動しているときの撮像画像の平均色がほぼ均一となる。仮に、同一臓器内を移動しているときに撮像された画像中にノイズが含まれていたとしても、フレーム毎に一画面の平均色を求めることにより、臓器毎のほぼ均一な配色を得ることが可能となる。
この平均色バー507においては、スライダSが時間軸方向に移動可能に表示される。このスライダSは、画像表示欄503に表示される撮像画像の位置を平均色バー507に位置で示す指標の役目を果たす。したがって、再生操作欄506の操作に応じてスライダSの移動表示制御が行われる。
平均色バー507におけるスライダSの移動と画像表示欄503に表示される撮像画像の切り換えは同期連動する。すなわち、再生操作欄506には、時系列方向に沿った再生順方向を操作するためのソフトウェアによるコマ再生ボタン、再生ボタンおよび高速再生(高再)ボタン、ならびに、時系列方向に沿って再生逆方向を操作するためのソフトウェアによるコマ逆再生ボタン、逆再生ボタンおよび高速逆再生(高逆)ボタンが表示制御される。この再生操作欄506には、さらに、停止ボタンが表示制御される。
医師により入力部55の操作により再生ボタンがたとえば図示せぬマウスでクリックされた場合、画像表示欄503には再生順方向で時系列に撮像画像データに基づく画像が表示される。また、コマ再生ボタンがクリックされた場合には、再生順方向でつぎの画像が表示され、高速再生ボタンがクリックされた場合には、再生順方向で再生ボタンによる再生より高速に画像が再生表示される。再生中または高速再生中に停止ボタンがクリックされると、クリックされたときの画像を表示している状態で表示画像の切換えが停止する。
また、医師により入力部55の操作により逆再生ボタンがたとえば図示せぬマウスでクリックされた場合、画像表示欄503には時系列方向に対して再生逆方向で撮像画像データに基づく画像が表示される。また、コマ逆再生ボタンがクリックされた場合には、再生順方向でひとつ手前の画像が表示され、高速逆再生ボタンがクリックされた場合には、再生逆方向で逆再生ボタンによる再生より高速に画像が再生表示される。逆再生中または高速逆再生中に停止ボタンがクリックされると、クリックされたときの画像を表示している状態で表示画像の切換えが停止する。
また、画像表示欄503に画像を再生もしくは逆再生している際に、出血部位のように患部が発見されたときなどは、医師の裁量で他の画像とは区別してチェック画像を抜き出すことができる。このようにチェックしたいときには、医師によりチェックボタンCHKの操作が必要となる。チェックされた画像はチェック画像表示欄504Aにサムネイル画像として追加表示される。チェック画像表示欄504Aには表示領域上の制約があるため、あらかじめ決められた枚数までの画像表示が可能となる。本実施の形態では、たとえば図8に示したように、5枚の画像までの表示が可能となり、それ以外のチェック画像についてはスクロール操作によって表示画像が切換えられる。
ここで、平均色バー507は臓器の種類に応じた平均色で区分されているので、医師は平均色バー507を参照して直感的に所望の臓器に関する撮像画像の位置に表示画像を素早く移行できる。その際、平均色バー507のスライダSを図示せぬマウスを用いて移動操作すればよい。平均色バー507上でスライダSが移動操作されると、画像表示欄503では、その移動に追随してスライダSで示される位置の画像に順次切換えられる処理が実行される。
本実施の形態では、医師が表示画像から出血部位を発見した際に、出血部位としてのフラグを撮像画像毎に付与することができる。この場合には、図示せぬが、現在画像表示欄503に表示させている状態でサブメニューを表示させて出血部位のフラグの設定を手動により行えばよい。これにより、たとえば図8に示したように、出血部位V1,V2のように平均色バー507の位置に対応させて表示することができる。
また、画像処理により自動的に出血部位を抽出することも可能であり、この場合には、出血部位自動検索ボタン508を操作すればよい。この出血部位自動検索ボタン508の操作により、現在画像表示欄503に表示されている画像に対する出血部位の抽出を行ってもよく、あるいは、全画像に対する出血部位の抽出を行ってもよい。この自動検索によって出血部位が発見された場合には、手動の場合と同様に、画像毎に対応させてフラグを付与し、画像表示のときにはこのフラグに対応させた出血部位V1,V2などを表示することが好ましい。
医師による診察は「診察終了カルテ印刷」のメニュー操作により終了させることができる。診察結果はカルテとなってワークステーション5から図示せぬプリンタを通じて、もしくは、データベース8経由で印刷される。
ここで、図9〜図12を参照して、CPU54による出血部位の自動検索処理手順について説明する。図9において、CPU54は、まず、メモリ53内に格納された1つの画像フレームを取り出し(ステップS101)、取り出した画像フレーム内の全画素に対して、特徴空間上における位置を算出する(ステップS102)。
この特徴空間は、図10に示すように、横軸にR/G(赤色要素/緑色要素)をとり、縦軸にB/R(青色要素/赤色要素)を色空間である。出血があった場合、この特徴空間内における分布をもとに、鮮血であるか、凝固血であるか、正常な出血であるかを判別できる。図10に示すように、この特徴空間では、鮮血領域E1、凝固血領域E2、および正常領域E3の各領域が形成され、鮮血領域E1と凝固血領域E2とは識別関数L1によって領域分別され、凝固血領域E2と正常領域E3とは識別関数L2によって領域分別される。ただし、凝固血領域E2と正常領域E3とは一部が重複しており、識別関数L2は、一部の正常領域E3を含めている。したがって、識別関数L1よりもR/Gが大きい領域の色を有する画素である場合には、鮮血であると判定され、識別関数L1,L2に挟まれた領域の色を有する画素である場合には、少なくとも凝固血であると判定され、識別関数L2よりもB/Rが大きい領域の色を有する画素である場合には、正常な出血であると判定される。
図9において、全画素の特徴空間上における位置を算出した(ステップS102)後、CPU54は、全画素内に鮮血領域E1に含まれる画素があるか否かを判断する(ステップS103)。この判断は、上述した識別関数L1を用い、算出された画素の特徴空間上における位置が、識別関数L1よりも図10上、右側に位置するか否かによって行われる。ここで、鮮血領域E1内に画素がある場合(ステップS103,YES)には、鮮血の出血部位があると判定し(ステップS104)、ステップS109に移行する。
一方、鮮血領域E1内に画素がない場合(ステップS103,NO)、さらに凝固血領域E2に画素があるか否かを判断する(ステップS105)。この判断は、上述した識別関数L1,L2に挟まれた領域に画素が位置するか否かによって行われる。凝固血領域E2内に画素がある場合(ステップS105,YES)には、さらにこれらの画素を含む出血部位がほぼ円であるか否かを解析する円の画像処理を行う(ステップS106)。この円の画像処理を行うのは、出血部位が凝固血であれば、ほぼ円形となるからである。なお、出血部位が鮮血であれば、出血部位の外縁が波打った形状となり、ほぼ円形とならない。
その後、円の画像処理の結果、出血部位がほぼ円であるか否かを判断し(ステップS107)、出血部位がほぼ円である場合(ステップS107,YES)には、凝固血の出血部位があると判定し(ステップS108)、ステップS109に移行する。一方、凝固血領域に画素がない場合(ステップS105,NO)および円の画像処理によって出血部位がほぼ円でない場合(ステップS107,NO)には、出血部位が凝固血、正常の出血、あるいは出血がないものと判定してステップS109に移行する。
ステップS109では、全画像フレームに対する出血部位の検索処理が終了したか否かを判断し、検索処理すべき画像フレームがある場合にはステップS101に移行して上述した処理を繰り返して行い、検索処理すべき画像フレームがない場合には本処理を終了する。なお、鮮血の出血部位あるいは凝固血の出血部位があると判定された場合、この画像フレームに対してこの旨を示すフラグを付する。
なお、上述したステップS103およびステップS105の判断処理では画素数について言及していないが、画像フレーム内において1以上の画素があればよい。ただし、ノイズである可能性があるため、所定個数の画素があるか否かを判断することが好ましい。
また、上述したステップS103およびステップS105の判断処理では、識別関数L1,L2を用いていたが、これに限らず、識別関数L1,L2を用いず、各画素が鮮血領域E1、凝固血領域E2、正常領域E3に位置するか否かによって判断するようにしてもよい。
ここで、上述したステップS106における円の画像処理について説明する。図11は、円の画像処理手順を示す詳細フローチャートである。図11に示すように、まずCPU54は、SOBEL法などによって各画素毎に、エッジ検出処理を行う(ステップS201)。その後、検出した各エッジの法線である直線を生成する(ステップS202)。さらに、各画素毎に、この画素に何本の直線が横切ったかを算出する(ステップS203)。
その後、算出された直線の数が所定値以上である画素があるか否かを判断する(ステップS204)。直線の数が所定値以上である場合(ステップS204,YES)には、出血部位はほぼ円であると判定し(ステップS205)、ステップS106にリターンする。一方、直線の数が所定値以上でない場合(ステップS204,NO)には、出血部位はほぼ円でないと判定し(ステップS206)、ステップS106にリターンする。
たとえば、図12に示すように、エッジ検出処理によって出血部位Eに対するエッジe1,e2が検出されると、各画素のエッジの法線である直線LNを生成し、この直線LNの交差数が所定値以上の画素P1か、所定値以下の画素P2かを判断する。ここで、所定値以上の画素P1が存在する場合には、エッジe1はほぼ円であると判定される。
なお、上述したステップ204の判断は、直線の数が所定値以上である画素があるか否かを判断していたが、これに限らず、直線の数が所定値以上である画素がさらに所定数以上あるか否かを判断するようにしてもよい。
このようにして、CPU54は、出血部位の自動検索処理を行うようにし、フラグを介した出血部位のマーキングを行うようにしているので、膨大な画像情報の中から出血部位を検索するという煩雑で多大な時間がかかる医師や看護士による検索処理を、容易かつ短時間で行うことができる。この結果、出血部位などの見逃しを軽減するとともに、医師や看護士が、出血部位に関する病状の考察などに集中することができる。
なお、上述した自動検索処理は、出血部位に関するものであったが、これに限らず、他の検索対象画像に対しても適応することができる。さらに、図9に示した出血部位の自動検索処理において、凝固血領域の検出などの処理(ステップS105〜S108)の処理を行わず、鮮血領域があるか否かのみの判定を行うようにしてもよい。すなわち、上述した出血部位自動検索処理では、鮮血と凝固血の出血部位があるか否かを検索するようにしていたが、鮮血の出血部位のみを検索するようにしてもよい。この場合、鮮血の出血部位が最も注目すべき検索対象となる。また、正常出血の出血部位については判定しないようにしていたが、この正常出血も含めた出血部位を検出するようにしてもよい。
ところで、平均色バー507の表示においては、図13に示す平均色バー表示処理が行われる。すなわち、図7に示した一覧表示から診察対象の患者が決定すると、その患者に対応した撮像情報のファイルが指定される。そして、1フレーム分の画像ファイルがメモリ53から読み出されてオープンされ(ステップS301)、フレーム単位における撮像画像の平均色が測定される(ステップS302)。
平均色が測定され、平均色データが得られると、その1フレーム目の平均色データはメモリ53に格納される(ステップS303)。そして、処理済みの画像ファイルはクローズされて(ステップS304)、時系列に並ぶつぎの画像ファイルが読み出されてオープンされ、以下、同様の処理が繰り返し実行される(ステップS305のNOルート)。
診察対象患者の撮像情報のすべてについて平均色が求められると(ステップS305)、メモリ53に蓄えられた平均色データを用いて図8に示した如く平均色バー507が表示制御される(ステップS306)。このようにして、平均色バー507の表示が完了する。このとき、スライダSの初期位置は、平均色バー507の左端(開始位置)とするが、これに限定されるものではない。
また、撮像画像データなどを含む撮像情報は膨大な情報量となっていることから、すべての画像ファイルをオープンして全フレームについて平均色を求める必要はなく、効率的に数フレームを間引きながら平均色を求めようにしてもよい。また、本実施の形態では、求めた平均色そのものを平均色バー507に表示しているが、これに限るものではなく、この平均色に対応した色が平均色バー507に表示されていればよい。
以上説明したように本実施の形態によれば、カプセル内視鏡(体内撮像装置)によって時系列で撮像された入力画像データの全体的な撮像期間を示すスケールを表示し、このスケール上に移動可能なスライダを表示し、スケール上におけるスライダの移動に連動してスライダの位置に対応する撮像時刻の画像を表示し、入力画像データの一画面の平均色情報に対応する色をスケール上の時間的に対応する位置に表示するので、撮像部位によって色分けされ、この色分けされた色から体内の臓器を容易に判断することが可能となる。これによって、画像の検索性が向上するとともに、表示画像がどの臓器の画像であるかを容易に認識することが可能となる。
さて、上述した実施の形態では、平均色バーに配列された平均色を指標として臓器の位置を認識するようにしていたが、本発明はこれに限定されるものではなく、以下に説明する変形例のように、臓器名を平均色に対応させて表示する追加機能をもたせてもよい。したがって、以下に説明する変形例は、前述した構成および機能と同様のため、追加部分についてのみ説明する。
ここで、図14は本実施の形態の一変形例による診察処理にかかる表示画面の一例を示す図であり、図15は本実施の形態の一変形例による臓器名の自動判別原理を説明する図であり、そして、図16は本実施の形態の一変形例による臓器名の判別処理を説明するフローチャートである。
図14において、臓器名は、平均色バー507の各平均色に対応させて表示される。平均色バー507には、カプセル内視鏡10が体内で時系列に撮像する並びで、食道、胃、小腸、大腸の順に平均色が並ぶことになる。したがって、平均色バー507には、各臓器の平均色に対応させて食道、胃、小腸、大腸の順に臓器名509が表示される。
そして、臓器名の自動判別の際は、臓器範囲の自動判別となる。経過時間における各撮像画像の赤色のレベル、青色のレベルは図15に示した如く特性を有する。実際の画像はノイズ成分を含んでいるので、この特性をもつ赤色、青色のレベルに対して時間軸方向にローパスフィルタ(LPF)処理を施してノイズを除去する。そして、LPF処理後の時間軸方向における赤色、青色の各レベルが共通してもつエッジ部位(変色エッジ)を抽出する。
図15の例では、上述のようにして抽出された変色エッジは、N1,N2,N3の3箇所である。したがって、変色エッジN1,N2,N3の時間軸方向の位置から、最初の変色エッジN1が食道から胃への移行部位、N2が胃から小腸への移行部位、そして、N3が小腸から大腸への移行部位であるという自動判別がなされる。このときの臓器名の順位は、カプセル内視鏡10に撮像される臓器の時間軸方向の並びに基づくものである。
そこで、以上の原理に基づく処理としては、まず赤色レベル、青色レベルが算出され(ステップS401)、赤色レベル、青色レベルについてそれぞれ時間軸方向のLPF処理が施され(ステップS402)、変色エッジN1,N2,N3の検出が行われる(ステップS403)。そして、変色エッジN1,N2,N3の時間的な位置から臓器範囲の自動判別が行われ、平均色バー507の各平均色に対応させて臓器名が表示される(ステップS404)。
このように、カプセル内視鏡によって時系列で撮像された入力画像データの全体的な撮像期間を示すスケールを表示し、このスケール上に移動可能なスライダを表示し、スケール上におけるスライダの移動に連動してスライダの位置に対応する撮像時刻の画像を表示し、入力画像データの一画面の色情報に基づいて臓器を判別して臓器名をスケールに対応させて表示するので、表示された臓器名から体内の臓器を容易に判断することが可能となる。これによっても、画像の検索性が向上するとともに、表示画像がどの臓器の画像であるかを容易に認識することが可能となる。
さて、上述した変形例では、変色エッジから平均色バー上の臓器範囲を自動判別するようにしていたが、本発明はこれに限定されるものではなく、カプセル内視鏡10にpHセンサを設けて、測定されたpH値を用いて臓器範囲の特定をより正確にしてもよい。この場合には、観察期間においてpHセンサによりpH値が測定され、このpH値についても撮像画像と同様に時系列に測定され、受信機4に蓄えられることになる。その際、各フレーム(画像ファイル)に撮像画像とpH値とが共存するなどして関連付けて記録される。
ここで、図17は図15の変形例の応用例を説明する図である。このpH値を追加した自動判別では、図17に示したように、胃が酸性であることを利用して、酸性部位と変色エッジN1,N2とを比較し、胃の部位を判別することになり、より判別精度を上げることができる。
なお、上述した平均色バー507の表示に代え、図18に示すように、色要素変化の表示領域601を設けるようにしてもよい。この場合、各画像フレーム毎の平均色要素(R,G,B)のそれぞれの時系列的変化を直接表示している。すなわち、画像フレームから抽出された色要素という数値パラメータを可視情報化し、時系列的に連続して表示するようにしている。ここで、食道の色は白青色であり、胃は赤色であり、小腸は黄色であり、大腸は橙色であり、これらの色変化に伴って各色要素も変化する。各色要素の変化を連続的に可視表示するのみで、撮像部位を特定することができる。この場合、1つの色要素、たとえばRのみを表示してもよい。また、各画像フレームのR,G,Bは、全画素の平均値であってもよいし、特定の画素の平均値や、間引いた後の画素の平均値であってもよい。換言すれば、各画像フレームを代表する色要素値を求めればよい。
また、各色要素変化の表示に代え、図19に示すように、輝度変化の表示領域602を設けるようにしてもよい。輝度Yは、
Y=0.299R+0.587G+0.114B
で示され、各色要素から各画像フレームの輝度を求めることができる。すなわち、画像フレームから抽出された色要素を輝度の数値パラメータに変換し、この数値パラメータを可視情報化し、時系列的に連続して表示するようにしている。なお、図19では、時系列的な輝度変化に伴って、臓器部位が表示されている。この臓器部位は、輝度値の変化をもとに判別したものであってもよいし、上述した色情報あるいはpH値をもとに判別したものであってもよい。
さらに、輝度変化の表示に代え、図20に示すように、各画像フレーム間の相対的な誤差であるフレーム間誤差の変化の表示領域603を設けるようにしてもよい。この場合、食道から胃に変わるときに大きなフレーム間誤差が生じ、その変化の大きいところでピークをもつことになる。このピークが生じる変化を直接表示しておくことによって、各臓器部位の境を知ることができる。なお、図20では、時系列的なフレーム間誤差の変化に伴って臓器部位が表示されている。また、図20における小腸での細かいピークは、小腸のぜん動によるものである。
すなわち、図18〜図20に示したように、各色要素や輝度、さらにはフレーム間誤差などの変化を時系列的に直接表示しても、各臓器部位を特定することができる。この臓器部位は、フレーム間誤差をもとに判別したものであってもよいし、上述した色情報あるいはpH値をもとに判別したものであってもよい。
つづいて、前述した実施の形態におけるカルテ作成について説明する。図21は本実施の形態による診察手順にかかる画面遷移の一例を説明する図であり、図22は本実施の形態による指定画像の撮影時間表示のための動作を説明するフローチャートである。医師による診察は「診察終了カルテ印刷」のメニュー操作により終了させることができるが、さらにカルテ作成手順に移行することもできる。
図8の表示画面から図21の表示画面に処理が移行した場合には、医師のコメント記入や各チェック画像が平均色バー507上でどの経過時間に対応するかを示すマーク表示がなされる。
すなわち、図21において、504Bはチェック画像表示欄を示し、前述したチェック画像表示欄504Aよりも領域を大きくとり、画面下段に設けられる。また、チェック画像表示欄504Aと異なる点として、各撮像画像に番号C1〜C10が付与され、表示されている。このチェック画像表示欄504Bは、チェック画像表示欄504Aと同様の機能を有している。
510は医師の所見(コメント)を入力して表示させるコメント挿入欄を示している。このコメント挿入欄510には、医師の診断結果がコメントとして挿入される。511はチェック画像表示欄504Bに表示される対象のチェック画像についてそれぞれどの経過時間のときの撮像画像であるかを平均色バー507上にマークとして表示する撮影時間表示マークを示している。この撮影時間表示マークとして、平均色バー507上にてチェック画像の撮像時刻を指し示す指標としての下向き矢印と、チェック画像との対応関係がわかるようにチェック画像との関連を示す関連表示としてのチェック画像に付与された上記番号とを表示するようにしている。
図21には、10枚のチェック画像が例に挙げられている。この例では、平均色バー507上において、時系列に食道、胃、小腸、大腸の順に平均色が色分けされている。したがって、臓器名509の各臓器の範囲から明らかなように、食道範囲にチェック画像のマークC1が存在し、胃範囲にチェック画像のマークC2,C3およびC4が存在している。また小腸範囲にチェック画像のマークC5,C6,C7,C8およびC10が存在している。
したがって、図21の例から、食道、胃、小腸にそれぞれ医師がチェックした画像の存在が認められるとともに、各チェック画像が撮影されたときの時間に対応させてマークが表示配置されるので、医師はチェック画像が各臓器のどの辺りで撮影されたものかを容易に確認することが可能である。なお、図21では、臓器名が表示された平均色バー507に撮影時間表示マークを表示しているが、図8のような臓器名が表示されていない平均色バー上に表示してもよい。また、図21では、撮影時間表示マークとしてチェック画像との関連を示す関連表示(番号)を表示しているが、撮像時刻の位置を示す指標(下向き矢印)でもよい。
以上のマーク表示についてその処理を、図22を用いて説明する。チェック画像すなわち指定画像の撮影時間表示においては、まずメモリ53から指定画像のファイル作成日時が取得され(ステップS501)、撮影開始日時からの経過時間が算出される(ステップS502)。そして、平均色バー507上の経過時間に対応する場所に平均色バー507のスケールで図21に示した如くマーク表示が制御される(ステップS503)。この後、カルテ印刷が操作されると、カルテ印刷のための出力が実行される。
以上説明したように、本実施の形態によれば、カプセル内視鏡(体内撮像装置)によって時系列で撮像された入力画像データの全体的な撮像期間を示すスケールを表示し、入力画像データの一画面の平均色情報に対応する色をスケール上の時間的に対応する位置に表示し、入力画像データに対応する画像を表示し、スケール上において、指定された画像の撮像時刻に対応する位置を示す指標を表示するので、指定画像がどの時間帯にどれくらいあるかなどを視覚的に容易に認識することが可能である。また、撮像部位によって色分けされた色から臓器を容易に判断できることから、どの臓器のどの辺りに指定画像が多いかを容易に認識することが可能である。
また、カプセル内視鏡によって時系列で撮像された画像データの全体的な撮像期間を示すスケールを表示し、入力画像データの一画面の色情報に基づいて臓器を判別し、その判別された臓器名をスケールに対応させて表示し、入力画像データに対応する画像を表示し、スケール上において、指定された画像の撮像時刻に対応する位置を示す指標を表示するので、表示された臓器名から体内の臓器を容易に判断することが可能となる。これによっても、どの臓器にどの辺りに指定画像が多いかを容易に認識することが可能である。
本発明は、上述した実施の形態に限らず、本発明の趣旨を逸脱しない範囲であれば、種々の変形が可能である。
本実施の形態にかかるカプセル内視鏡の内部構造を示す概略図である。 本実施の形態によるカプセル内視鏡システムの概略図である。 本実施の形態によるカプセル内視鏡システム内部の一構成例を示すブロック図である。 本実施の形態による観察手順にかかる画面遷移の一例を示す図である。 本実施の形態による観察手順にかかる画面遷移の一例を示す図である。 本実施の形態による観察手順にかかる画面遷移の一例を示す図である。 本実施の形態による診察手順にかかる画面遷移の一例を説明する図である。 本実施の形態による診察手順にかかる画面遷移の一例を説明する図である。 出血部位の自動検索処理手順を示すフローチャートである。 特徴空間およびこの特徴空間上における鮮血、凝固血、正常な出血の各領域と識別関数との関係を示す図である。 図9に示した円の画像処理手順を示す詳細フローチャートである。 エッジ検出によって円を検出する画像処理を説明する図である。 本実施の形態による平均色バー表示のための動作を説明するフローチャートである。 本実施の形態の一変形例による診察処理にかかる表示画面の一例を示す図である。 本実施の形態の一変形例による臓器名の自動判別原理を説明する図である。 本実施の形態の一変形例による臓器名の判別処理を説明するフローチャートである。 図15の変形例の応用例を説明する図である。 各画像の平均色要素を時系列的に連続して表示した画面状態を示す図である。 各画像の平均色要素から求めた平均輝度を時系列的に連続して表示した画面状態を示す図である。 各画像のフレーム間誤差を時系列的に連続して表示した画面状態を示す図である。 本実施の形態による診察手順にかかる画面遷移の一例を説明する図である。 本実施の形態による指定画像の撮影時間表示のための動作を説明するフローチャートである。
符号の説明
5 ワークステーション
51 表示部
52 I/F
53 メモリ
54 CPU
55 入力部
56 出力部
503 画像表示欄
504A,504B チェック画像表示欄
505 3D位置表示欄
506 再生操作欄
507 平均色バー
508 出血部位自動検索ボタン
509 臓器名
510 コメント挿入欄
511 撮影時間表示マーク
601〜603 表示領域
S スライダ
V1,V2 出血部位

Claims (18)

  1. 体内撮像装置によって撮像された複数の画像を取得する取得手段と、
    前記複数の画像によって構成されるストリームの時系列に沿ったイメージを描写するバーを表示するバー表示手段と、
    前記複数の画像について少なくとも一つのグループを形成する範囲を前記バーに対応付けて示す指標を表示する指標表示手段と、
    を備えたことを特徴とする画像表示装置。
  2. 前記バー表示手段は、
    前記ストリームに含まれる画像の内の少なくともいくつかの画像について色情報を検出し、分析する分析手段と、
    前記分析手段による分析結果に基づき、前記ストリームに含まれる画像の内の少なくともいくつかの画像についてその内容の特徴検出する特徴検出手段と、
    前記特徴検出された画像が含まれる位置に対応付けて前記色情報を検出した画像の特徴イメージ化して表示する特徴表示手段と、
    を備え、
    前記指標表示手段は、前記バー表示手段によって表示される前記イメージに対応付けて前記指標を表示することを特徴とする請求項1に記載の画像表示装置。
  3. 前記指標表示手段は、前記バーを複数のグループに分割するように前記バーに対応付けて範囲を示す指標を表示することを特徴とする請求項1または2に記載の画像表示装置。
  4. 前記分析手段は、前記色情報の特性が変化する変化点を検出し、
    前記指標表示手段は、前記変化点を前記グループの境界としてグループ化を行うことを特徴とする請求項3に記載の画像表示装置。
  5. 前記バー表示手段は、前記複数の画像を取得した全体的な撮像期間を示すスケールとしてのバーを表示することを特徴とする請求項1から4のいずれか一つに記載の画像表示装置。
  6. 前記分析手段による分析結果をもとに臓器を判別する臓器判別手段を備え、
    前記指標表示手段は、前記臓器判別手段によって判別された臓器に対応するグループに対して指標を表示することを特徴とする請求項4または5に記載の画像表示装置。
  7. 前記指標表示手段は、前記臓器判別手段によって判別された臓器名を前記バーに対応させて表示することを特徴とする請求項6に記載の画像表示装置。
  8. 前記臓器判別手段は、前記画像に関連して得られた生体情報を加味して臓器を判別することを特徴とする請求項6または7に記載の画像表示装置。
  9. 前記指標は、レポート作成画面上に表示されることを特徴とする請求項1〜8のいずれか一つに記載の画像表示装置。
  10. 情報処理装置内において実行される画像表示方法であって、
    体内撮像装置によって撮像された複数の画像を取得する取得ステップと、
    前記複数の画像によって構成されるストリームの時系列に沿ったイメージを描写するバーを表示するバー表示ステップと、
    前記複数の画像について少なくとも一つのグループを形成する範囲を前記バーに対応付けて示す指標を表示する指標表示ステップと、
    を含むことを特徴とする画像表示方法。
  11. 前記バー表示ステップは、
    前記ストリームに含まれる画像の内の少なくともいくつかの画像について色情報を検出し、分析する分析ステップと、
    前記分析ステップによる分析結果に基づき、前記ストリームに含まれる画像の内の少なくともいくつかの画像についてその内容の特徴検出する特徴検出ステップと、
    前記特徴検出された画像が含まれる位置に対応付けて前記色情報を検出した画像の特徴をイメージ化して表示する特徴表示ステップと、
    を備え、
    前記指標表示ステップは、前記バー表示ステップによって表示される前記イメージに対応付けて前記指標を表示することを特徴とする請求項10に記載の画像表示方法。
  12. 前記指標表示ステップは、前記バーを複数のグループに分割するように前記バーに対応付けて範囲を示す指標を表示することを特徴とする請求項10または11に記載の画像表示方法。
  13. 前記分析ステップは、前記色情報の特性が変化する変化点を検出し、
    前記指標表示ステップは、前記変化点を前記グループの境界としてグループ化を行うことを特徴とする請求項10または12に記載の画像表示方法。
  14. 前記バー表示ステップは、前記複数の画像を取得した全体的な撮像期間を示すスケールとしてのバーを表示することを特徴とする請求項10から13のいずれか一つに記載の画像表示方法。
  15. 前記分析ステップによる分析結果をもとに臓器を判別する臓器判別ステップを含み、
    前記指標表示ステップは、前記臓器判別ステップによって判別された臓器に対応するグループに対して前記指標を表示することを特徴とする請求項13または14に記載の画像表示方法。
  16. 前記指標表示ステップは、前記臓器判別ステップによって判別された臓器名を前記バーに対応させて表示することを特徴とする請求項15に記載の画像表示方法。
  17. 前記臓器判別ステップは、前記画像に関連して得られた生体情報を加味して臓器を判別することを特徴とする請求項15または16に記載の画像表示方法。
  18. 前記指標は、レポート作成画面上に表示されることを特徴とする請求項10〜17のいずれか一つに記載の画像表示方法。
JP2007181073A 2003-04-25 2007-07-10 画像表示装置、画像表示方法および画像表示プログラム Expired - Fee Related JP4547402B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007181073A JP4547402B2 (ja) 2003-04-25 2007-07-10 画像表示装置、画像表示方法および画像表示プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003122804 2003-04-25
JP2007181073A JP4547402B2 (ja) 2003-04-25 2007-07-10 画像表示装置、画像表示方法および画像表示プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2004120367A Division JP4493386B2 (ja) 2003-04-25 2004-04-15 画像表示装置、画像表示方法および画像表示プログラム

Publications (2)

Publication Number Publication Date
JP2007307397A JP2007307397A (ja) 2007-11-29
JP4547402B2 true JP4547402B2 (ja) 2010-09-22

Family

ID=38840742

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007181073A Expired - Fee Related JP4547402B2 (ja) 2003-04-25 2007-07-10 画像表示装置、画像表示方法および画像表示プログラム

Country Status (1)

Country Link
JP (1) JP4547402B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100900533B1 (ko) 2008-10-07 2009-06-02 주식회사 인트로메딕 캡슐 내시경 영상의 화면 표시방법과 이를 수행하기 위한 프로그램이 기록된 기록매체
US8744231B2 (en) 2008-10-07 2014-06-03 Intromedic Method of displaying image taken by capsule endoscope and record media of storing program for carrying out that method
US9715727B2 (en) 2012-02-23 2017-07-25 Smith & Nephew, Inc. Video endoscopic system
CN105101863B (zh) * 2013-03-27 2016-12-28 富士胶片株式会社 图像处理装置
WO2014192512A1 (ja) * 2013-05-31 2014-12-04 オリンパスメディカルシステムズ株式会社 医療装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1070703A (ja) * 1996-08-28 1998-03-10 Matsushita Electric Ind Co Ltd 画像情報管理用記録装置および画像情報管理用再生装置および画像情報管理用記録・再生装置
JPH11225996A (ja) * 1998-02-19 1999-08-24 Olympus Optical Co Ltd カプセル型生体内情報検出装置
WO2000045600A1 (en) * 1999-01-29 2000-08-03 Mitsubishi Denki Kabushiki Kaisha Method of image feature encoding and method of image search
WO2001015459A1 (en) * 1999-08-24 2001-03-01 Fujitsu Limited Time-varying image processor, its method, and recorded medium
JP2002290783A (ja) * 2001-03-28 2002-10-04 Fuji Photo Optical Co Ltd 電子内視鏡装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2365696T3 (es) * 2001-03-14 2011-10-10 Given Imaging Ltd. Método y sistema para detectar anormalidades colorimétricas.

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1070703A (ja) * 1996-08-28 1998-03-10 Matsushita Electric Ind Co Ltd 画像情報管理用記録装置および画像情報管理用再生装置および画像情報管理用記録・再生装置
JPH11225996A (ja) * 1998-02-19 1999-08-24 Olympus Optical Co Ltd カプセル型生体内情報検出装置
WO2000045600A1 (en) * 1999-01-29 2000-08-03 Mitsubishi Denki Kabushiki Kaisha Method of image feature encoding and method of image search
WO2001015459A1 (en) * 1999-08-24 2001-03-01 Fujitsu Limited Time-varying image processor, its method, and recorded medium
JP2002290783A (ja) * 2001-03-28 2002-10-04 Fuji Photo Optical Co Ltd 電子内視鏡装置

Also Published As

Publication number Publication date
JP2007307397A (ja) 2007-11-29

Similar Documents

Publication Publication Date Title
JP4493386B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP3810381B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
US20040225223A1 (en) Image display apparatus, image display method, and computer program
JP4554647B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP4547401B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP4547402B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
AU2008200088B2 (en) Image Display Apparatus, Image Display Method and Image Display Program
CA2614635C (en) Image display apparatus, image display method, and image display program
AU2007221808C1 (en) Image display unit, image display method and image display program

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100629

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100705

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130709

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4547402

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130709

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees