JP6800567B2 - 医用画像表示装置 - Google Patents

医用画像表示装置 Download PDF

Info

Publication number
JP6800567B2
JP6800567B2 JP2015173856A JP2015173856A JP6800567B2 JP 6800567 B2 JP6800567 B2 JP 6800567B2 JP 2015173856 A JP2015173856 A JP 2015173856A JP 2015173856 A JP2015173856 A JP 2015173856A JP 6800567 B2 JP6800567 B2 JP 6800567B2
Authority
JP
Japan
Prior art keywords
image
endoscope
tip
marker
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015173856A
Other languages
English (en)
Other versions
JP2017047009A (ja
Inventor
鈴木 秀行
秀行 鈴木
博文 野中
博文 野中
成章 小池
成章 小池
浩義 千代
浩義 千代
誠 砂岡
誠 砂岡
忍 小林
忍 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2015173856A priority Critical patent/JP6800567B2/ja
Publication of JP2017047009A publication Critical patent/JP2017047009A/ja
Application granted granted Critical
Publication of JP6800567B2 publication Critical patent/JP6800567B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)

Description

本発明の実施形態は、医用画像表示装置に関する。
大腸、小腸、胃、食道等の管状又は袋状の臓器に対する内視鏡検査が行われている。内視鏡検査では、検査対象となっている臓器(対象臓器)内の複数の異なった位置で様々な角度で画像を撮影する。内視鏡で撮影された画像(内視鏡画像)は、読影医によって読影される。読影医は、読影の所見を表す内視鏡レポートを作成する。
内視鏡レポートを作成する際には、対象臓器のシェーマ図(身体部位の模式図)の周囲に内視鏡画像を配置させると、各内視鏡画像が対象臓器のどの位置で撮影されたものであるのかを容易に把握することができる。
しかしながら、内視鏡は、人体内の極限られた狭い範囲を複数撮影するので、その撮影された画像同士は、例え異なった部位を撮影したものであっても、類似性が高く、各内視鏡画像とシェーマ図との対応付けは容易ではない。このため、画像が撮影された位置が対象臓器のどの位置であるのか(或いは内視鏡が対象臓器のどの位置でどこを撮影したのか)を特定するのに時間と労力を掛けなければならず、内視鏡レポートの作成にも多大な労力や時間を費やさなければならない場合があった。
特開2007−319478号公報
本発明が解決しようとする課題は、画像を撮影した内視鏡の位置と対象臓器との位置関係を容易に把握することができる医用画像表示装置を提供することである。
実施形態に係る医用画像表示装置は、内視鏡情報取得部と、配列画像生成部と、表示制御部とを有する。内視鏡情報取得部は、所定時間ごとの内視鏡の先端の位置情報及び角度情報を取得する。配列画像生成部は、所定時間ごとの内視鏡の先端の位置情報及び角度情報に基づいて、所定時間ごとの内視鏡の先端の位置及び前記角度を表す先端マーカを複数連ねて配列させた先端マーカ配列画像を生成する。表示制御部は、先端マーカ配列画像を表示部に表示させる。先端マーカの形状は、所定時間ごとの内視鏡の先端の角度情報に基づいて、先端マーカの軸が内視鏡の先端の方向に平行になるように生成される。
実施形態に係る医用画像表示装置の構成を示すブロック図。 実施形態に係るセンサが所定時間ごとに出力した位置及び角度を例示した表。 実施形態に係る先端情報が内視鏡の先端の移動速度を含む例を示す表。 実施形態に係る先端マーカの概略を示す模式図。 実施形態に係る先端マーカ配列画像の概略を示す模式図。 実施形態に係る先端マーカ配列画像の他の例を示す模式図。 実施形態に係る内視鏡画像の選択画面を示す模式図。 実施形態に係る組合せ画像の概略を示す模式図。 実施形態に係る組合せ画像の他の例を示す模式図。 実施形態に係る視線マーカの概略を示す模式図。 実施形態に係る医用画像表示装置の動作を示すフローチャート。 変形例に係る医用画像表示装置の構成を示すブロック図。 変形例に係る過去の内視鏡画像及び内視鏡レポートの表示例を示す模式図。 変形例に係る医用画像表示装置の動作を示すフローチャート。
以下、実施形態の医用画像表示装置について図面を参照して説明する。
〈実施形態〉
図1は、実施形態に係る医用画像表示装置1の構成を示すブロック図である。医用画像表示装置1は、ネットワークNWを介して、内視鏡装置2及びデータベース3と通信可能に接続される。
内視鏡装置2は、入力回路21と内視鏡22とを有する。内視鏡装置2は、ネットワークNWを介して、医用画像表示装置1及びデータベース3と通信可能に接続される。入力回路21は、トラックボール、スイッチボタン、マウス、キーボード等に一般的に用いられる回路である。入力回路21は、内視鏡22に通信可能に接続されている。入力回路21は、操作者から受け取った入力操作を電気信号へ変換し内視鏡22へ出力する。
内視鏡22は、人体に挿入される先端部に対物レンズが設けられている。対物レンズは、撮影領域に向けられる。また、内視鏡22は、先端部の位置や対物レンズが向いている角度を検出可能なセンサ221を備えている。センサ221は、前記位置及び角度を所定の時間ごとに出力する。センサ221は、例えば磁気センサやジャイロセンサ等である。内視鏡の先端を対象臓器へ挿入する際に、操作者は、入力操作を行い、そのときの内視鏡の位置、角度を基準として指定する。また、この指定に基づいて当該時点を基準時間として設定する。
図2は、センサ221が所定時間ごとに出力した位置及び角度を例示した表である。センサ221は、前記基準時間から所定の時間ごと(図2の例では、10秒ごと)に当該時点での内視鏡の位置及び角度を出力する。図2において、「x1,y1,z1」、「x2,y2,z2」及び「x2,y2,z3」は、前記基準とした位置を原点とした3次元座標の値である。また、図2では、角度の例として、「α」、「β」及び「γ」が示されている。これら位置及び角度に係る座標系、角度の方向及び単位は、予め設定される。センサ221から出力された所定時間ごとの位置及び角度は、先端情報ログとしてデータベース3で管理される。
なお、センサ221は、位置、角度の他に、内視鏡の先端の移動速度を検知し、出力してもよい。図3は、センサ221が内視鏡の先端の移動速度(移動速度例「10mm/s」)を含めて出力した例である。移動速度の単位は、この例に限定されるものではなく、予め設定することができる。前記内視鏡の先端の位置、角度、移動速度の各情報の任意の一つの情報、又は任意の少なくとも2つの情報からなるものを内視鏡の先端情報と称する。
センサ221が先端情報を出力しながら内視鏡検査が行われる。内視鏡22は、センサ221を備えている以外は、一般的なものである。内視鏡22は、操作者による入力操作を受けて内視鏡画像を撮影する。そして、内視鏡22は、画像を撮影した内視鏡の先端の位置、角度に関するデータ、画像を撮影した時刻(時間)が特定可能な情報(時刻であってもよいし、前記基準時間からの経過時間であってもよい)を撮影した画像のデータに付帯させてデータベース3へ出力する。
データベース3は、先端情報記憶回路31と、内視鏡画像記憶回路32と、内視鏡レポート記憶回路33とを有する。データベース3は、ネットワークNWを介して、医用画像表示装置1及び内視鏡装置2と通信可能に接続される。先端情報記憶回路31は、センサ221から受けた先端情報を記憶する。内視鏡画像記憶回路32は、内視鏡22から受けた内視鏡画像を記憶する。内視鏡レポート記憶回路33は、医用画像表示装置1から受けた内視鏡レポート(後述)を記憶する。
先端情報記憶回路31、内視鏡画像記憶回路32及び内視鏡レポート記憶回路33の構成には、例えば、一般的なRAM(Random Access Memory)やHDD(Hard Disc Drive)等の記憶装置が適用される。例えば、先端情報記憶回路31、内視鏡画像記憶回路32及び内視鏡レポート記憶回路33は、それぞれ個別の記憶装置によって構成される。また、先端情報記憶回路31、内視鏡画像記憶回路32及び内視鏡レポート記憶回路33は、1つの記憶装置に統合されてもよい。
医用画像表示装置1は、処理回路11と、記憶回路12と、入力回路13と、ディスプレイ14とを有する。図1の例では、構成要素、内視鏡情報取得部・先端マーカ生成部・配列画像生成部・関連情報生成部・組合せ画像生成部・表示制御部にて行なわれる各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路12へ記録されている。処理回路11は、プログラムをメモリから読み出し実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路11は、図1の処理回路11内に示された各機能を有することとなる。
なお、図1においては単一の処理回路11にて内視鏡情報取得部・先端マーカ生成部・配列画像生成部・関連情報生成部・組合せ画像生成部・表示制御部にて行なわれる処理機能が実現されるものとして説明したが、複数の分離したプロセッサを組み合わせ、各プロセッサがプログラムを実行することにより機能を実現するものとしても構わない。
本明細書における「プロセッサ」という文言は、例えば、専用又は汎用のCPU(Central Processing Unit) arithmetic circuit(circuitry)、或いは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサは、メモリに保存された、又はプロセッサの回路内に直接組み込まれたプログラムを読み出し実行することで機能を実現する。プログラムを記憶するメモリは、プロセッサごとに個別に設けられるものであっても構わないし、或いは図1における記憶回路12が各プロセッサの機能に対応するプログラムを記憶するものであっても構わない。記憶回路12の構成には、例えば、一般的なRAM(Random Access Memory)やHDD(Hard Disc Drive)等の記憶装置が適用される。
なお、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて1つのプロセッサとして構成し、その機能を実現するようにしてもよい。さらに、図1における複数の構成要素を1つのプロセッサへ統合してその機能を実現するようにしてもよい。
特許請求の範囲における内視鏡情報取得部は、本実施形態における内視鏡情報取得機能111に対応する。特許請求の範囲における画像取得部は、本実施形態における画像取得機能112に対応する。特許請求の範囲における配列画像生成部は、配列画像生成機能113に対応する。特許請求の範囲における関連処理部は、関連処理機能114に対応する。特許請求の範囲における組合せ画像生成部は、組合せ画像生成機能115に対応する。特許請求の範囲における表示制御部は、表示制御機能116に対応する。
入力回路13は、トラックボール、スイッチボタン、マウス、キーボード等に一般的に用いられる回路である。入力回路13は、処理回路11に通信可能に接続されている。入力回路13は、操作者から受け取った入力操作を電気信号へ変換し処理回路11へ出力する。
処理回路11は、所定時間ごとの内視鏡22の先端の位置情報及び角度情報を取得する(内視鏡情報取得機能111)。このとき、処理回路11は、内視鏡で撮影された画像を当該画像が撮影されたときの内視鏡の先端の位置情報とともに取得する(画像取得機能112)。なお、処理回路11は、画像が撮影されたときの内視鏡の先端の角度情報を更に取得してもよい。例えば、操作者は、内視鏡レポートを作成するとき、入力回路13を介して、所望の内視鏡検査を指定する入力操作を行う。処理回路11は、指定された内視鏡検査において撮影された複数の内視鏡画像を内視鏡画像記憶回路32から取得する(読み出す)。また、処理回路11は、指定された内視鏡検査の先端情報を先端情報記憶回路31から取得する(読み出す)。
そして、処理回路11は、読み出された先端情報に基づいて、内視鏡22の先端の位置及び角度を表す先端マーカを生成する。図4は、先端マーカMPの概略を示す模式図である。処理回路11は、先端情報が検知された時間ごとに位置及び角度を参照して先端マーカMPを生成する。例えば、処理回路11は、円柱状又は円筒状の先端マーカMPを生成する。図4の例では、内視鏡22の先端EPの角度が、矢印の方向D1を示す角度であるとする。例えば、処理回路11は、先端情報のうち、1つの時間における角度に基づいて、先端マーカの軸が方向D1に平行となるように先端マーカMPを生成する。また、処理回路11は、当該時間における位置を当該先端マーカMPに付帯する。また、先端情報に移動速度が含まれている場合、処理回路11は、移動速度を先端マーカの厚みMTの寸法で表すように先端マーカMPを生成してもよい。
なお、ここでは、先端マーカMPの形状が円柱状又は円筒状である例について説明したが、これらの形状に限定されるものではない。先端マーカMPの形状は、内視鏡22の先端EPの角度を表す形状であればよく、適宜設計されるものである。例えば、内視鏡移動中の動画から腸の輪切りを表す画像を生成し、その画像を先端マーカMPとして並べてもよい。
処理回路11は、所定時間ごとの内視鏡の先端の位置情報及び角度情報に基づいて、所定時間ごとの内視鏡の先端の位置及び角度を表す先端マーカMPを複数連ねて配列させた先端マーカ配列画像を生成する(配列画像生成機能113)。このとき、処理回路11は、先端マーカMPに付帯された位置に基づいて先端マーカMPを配列することによって、先端マーカ配列画像を生成する。図5は、先端マーカ配列画像SPの概略を示す模式図である。処理回路11は、生成された先端マーカMPに付帯された位置に基づいて、各先端マーカMPを配列する。先端マーカMPに付帯された位置すなわち先端情報の座標系と先端マーカ配列画像SPにおける座標系との対応関係は、予め設定される。先端マーカ配列画像SPは、内視鏡検査の際に内視鏡22の先端EPが移動した軌跡を示す画像である。
図6は、先端マーカ配列画像SPの他の例を示す模式図である。処理回路11は、対象臓器のシェーマ図SHに重ねて先端マーカMPを配列してもよい。シェーマ図SHは、臨床的に代表的なものが対象臓器ごとに予め設定される。また、シェーマ図SHにおける座標系と先端情報の座標系と先端マーカ配列画像SPにおける座標系との対応関係は、予め設定される。図6の例の先端マーカ配列画像SPは、内視鏡検査の際に内視鏡22の先端EPが移動した軌跡と代表的な形状の対象臓器との位置関係を示す画像である。
図7は、内視鏡画像EMの選択画面を示す模式図である。例えば、操作者は、内視鏡レポートを作成するとき、入力回路13を介して、内視鏡画像EM群を表示するための入力操作を行う。処理回路11は、内視鏡画像記憶回路32から読み出された複数の内視鏡画像EMをディスプレイ14に表示する。このとき、処理回路11は、先端マーカ配列画像SPを複数の内視鏡画像EMとともにディスプレイ14に表示してもよい。
ディスプレイ14は、LCD(Liquid Crystal Display)や有機EL(Electroluminescence)ディスプレイ等の一般的な表示装置によって構成される。ディスプレイ14は、特許請求の範囲における表示部の一例に相当する。
操作者は、表示された複数の内視鏡画像EMを読影しながら、入力回路13を介して、内視鏡レポートに使用する複数の内視鏡画像EMをキー画像として選択する選択操作を行う。このように選択された内視鏡画像EMは、特許請求の範囲の範囲における所定の複数の内視鏡画像EMの一例に相当する。
処理回路11は、画像が撮影された時の内視鏡の先端の位置情報に基づいて、先端マーカ配列画像の周囲に画像を配置した組合せ画像を生成する(組合せ画像生成機能115)。このとき、処理回路11は、選択された複数の内視鏡画像EMに付帯された先端情報に基づいて、先端マーカ配列画像SPの周囲に選択された複数の内視鏡画像EMが配置された組合せ画像を生成する。
図8は、組合せ画像の概略を示す模式図である。例えば、処理回路11は、選択された複数の内視鏡画像EMに付帯された先端情報に表される位置を参照して、選択された複数の内視鏡画像EMのそれぞれが撮影されたときの内視鏡22の先端EPの位置関係を特定する。処理回路11は、特定された位置関係に基づいて、選択された複数の内視鏡画像EMを先端マーカ配列画像SPの周囲に配置する。それにより、組合せ画像が生成される。
図9は、組合せ画像の他の例を示す模式図である。処理回路11は、画像が撮影された時間と所定の時間とに基づいて、画像を撮影したときの内視鏡の先端の位置に対応する先端マーカMPを特定し、特定された先端マーカMPと画像とを関連付ける(関連処理機能114)。このとき、処理回路11は、選択された複数の内視鏡画像EMのそれぞれが撮影された時の位置及び角度を表す先端マーカMPを特定し、特定された先端マーカMPと当該内視鏡画像EMとを関連付ける。例えば、処理回路11は、選択された複数の内視鏡画像EMに付帯された位置と先端マーカMPに付帯された位置とを照合して、選択された複数の内視鏡画像EMに対応する先端マーカMPを特定する。そして、処理回路11は、特定された先端マーカMPと当該内視鏡画像EMとを関連付ける。処理回路11は、特定された先端マーカMPと当該内視鏡画像EMとが関連付けられた関連情報を組合せ画像に付帯する。図9の例では、関連付けられた先端マーカMPと内視鏡画像EMとのペアを矢印ARで表している。
処理回路11は、生成された組合せ画像をディスプレイ14に表示する(表示制御機能116)。このとき、処理回路11は、関連付けられた先端マーカMPと画像とを結び付けてディスプレイ14に表示する。それにより、操作者は、内視鏡22の先端EPの軌跡と選択された内視鏡画像EMとの位置関係を容易に視認しながら読影を行うことができる。また、処理回路11は、先端情報に基づいて、選択された複数の内視鏡画像EMが撮影されたときの内視鏡22の視線方向を表す視線マーカを組合せ画像に重畳表示してもよい。また、対象臓器のシェーマ図SHを組合せ画像に重畳表示してもよい。
図10は、視線マーカMVの概略を示す模式図である。例えば、処理回路11は、内視鏡画像EMに関連付けられた先端マーカMPの先端情報を参照して、内視鏡画像EMが撮影されたときの内視鏡22の視線方向(角度)を特定する。例えば、処理回路11は、特定された視線方向を表す円錐形状の視線マーカMVを当該先端マーカMPの近傍に表示する。図10の例では、視線マーカMVの頂点から底面へ向かう方向が視線方向であるとする。それにより、操作者は、選択された内視鏡画像EMについて、内視鏡22の先端EPの視線方向をさらに容易に把握することができる。なお、ここでは、視線マーカMVが円錐形状である例について説明したが、この形状に限定されるものではない。視線マーカMVは、内視鏡22の視線方向を表す形状に設定されればよいものである。
操作者は、組合せ画像を読影しながら内視鏡レポートを作成する。医用画像表示装置1は、作成された内視鏡レポートをデータベース3へ出力する。内視鏡レポート記憶回路33は、医用画像表示装置1から受けた内視鏡レポートを記憶する。
図11は、実施形態に係る医用画像表示装置1の動作を示すフローチャートである。
ステップS101:ステップS101は、内視鏡情報取得機能111及び画像取得機能112に対応するステップである。このステップは、処理回路11がメモリから内視鏡情報取得機能111及び画像取得機能112に対応する所定のプログラムを読み出し実行することにより、内視鏡情報取得機能111及び画像取得機能112が実現されるステップである。操作者は、内視鏡レポートを作成するとき、入力回路13を介して、所望の内視鏡検査を指定する入力操作を行う。処理回路11は、指定された内視鏡検査において撮影された複数の内視鏡画像を内視鏡画像記憶回路32から取得する(読み出す)。また、処理回路11は、指定された内視鏡検査の先端情報を先端情報記憶回路31から取得する(読み出す)。
ステップS102:処理回路11は、先端情報が検知された時間ごとに位置及び角度を参照して先端マーカMPを生成する。例えば、処理回路11は、先端情報のうち、1つの時間における角度に基づいて、先端マーカの軸が方向D1に平行となるように先端マーカMPを生成する。また、処理回路11は、当該時間における位置を当該先端マーカMPに付帯する。
ステップS103:ステップS103は、配列画像生成機能113に対応するステップである。このステップは、処理回路11がメモリから配列画像生成機能113に対応する所定のプログラムを読み出し実行することにより、配列画像生成機能113が実現されるステップである。処理回路11は、生成された先端マーカMPに付帯された位置に基づいて、各先端マーカMPを配列する。それにより、先端マーカ配列画像が生成される。
ステップS104:操作者は、内視鏡レポートを作成するとき、入力回路13を介して、内視鏡画像EM群を表示するための入力操作を行う。処理回路11は、内視鏡画像記憶回路32から読み出された複数の内視鏡画像EMをディスプレイ14に表示する。このとき、処理回路11は、先端マーカ配列画像SPを複数の内視鏡画像EMとともにディスプレイ14に表示してもよい。
ステップS105:操作者は、表示された複数の内視鏡画像EMを読影しながら、入力回路13を介して、内視鏡レポートに使用する複数の内視鏡画像EMをキー画像として選択する選択操作を行う。
ステップS106:ステップS106は、組合せ画像生成機能115に対応するステップである。このステップは、処理回路11がメモリから組合せ画像生成機能115に対応する所定のプログラムを読み出し実行することにより、組合せ画像生成機能115が実現されるステップである。処理回路11は、選択された複数の内視鏡画像EMに付帯された先端情報に表される位置を参照して、選択された複数の内視鏡画像EMのそれぞれが撮影されたときの内視鏡22の先端EPの位置関係を特定する。処理回路11は、特定された位置関係に基づいて、選択された複数の内視鏡画像EMを先端マーカ配列画像SPの周囲に配置する。それにより、組合せ画像が生成される。
ステップS107:ステップS107は、関連処理機能114に対応するステップである。このステップは、処理回路11がメモリから関連処理機能114に対応する所定のプログラムを読み出し実行することにより、関連処理機能114が実現されるステップである。処理回路11は、選択された複数の内視鏡画像EMに付帯された位置と先端マーカMPに付帯された位置とを照合して、選択された複数の内視鏡画像EMに対応する先端マーカMPを特定する。そして、処理回路11は、特定された先端マーカMPと当該内視鏡画像EMとを関連付ける。処理回路11は、特定された先端マーカMPと当該内視鏡画像EMとが関連付けられた関連情報を組合せ画像に付帯する。
ステップS108:ステップS108は、表示制御機能116に対応するステップである。このステップは、処理回路11がメモリから表示制御機能116に対応する所定のプログラムを読み出し実行することにより、表示制御機能116が実現されるステップである。処理回路11は、生成された組合せ画像をディスプレイ14に表示する。それにより、操作者は、内視鏡22の先端EPの軌跡と選択された内視鏡画像EMとの位置関係を容易に視認しながら読影を行うことができる。
ステップS109:操作者は、組合せ画像を読影しながら内視鏡レポートを作成する。医用画像表示装置1は、作成された内視鏡レポートをデータベース3へ出力する。
実施形態の医用画像表示装置は、先端情報に基づいて先端マーカ配列画像を生成し、先端マーカ配列画像の周囲に内視鏡画像を自動的に配置する。読影者が内視鏡レポートの作成に費やす労力が低減され、内視鏡画像が撮影された位置と対象臓器における位置との対応付けに間違いが発生することを防止することができる。
また、実施形態の医用画像表示装置は、先端マーカと内視鏡画像とを自動的に関連付けて、組合せ画像を表示する。それにより、読影者は、内視鏡画像が撮影された位置と対象臓器との位置関係を容易に把握することができる。
〈変形例〉
図12は、変形例に係る医用画像表示装置1の構成を示すブロック図である。この変形例に係る医用画像表示装置1は、内視鏡検査中の内視鏡22の先端EPの位置と同じ位置で撮影された過去の内視鏡画像を表示することが可能に構成される。以下、上述した実施形態と異なる内容について主に説明する。上述した実施形態と同様の内容については説明を省略する場合がある。
データベース3について説明する。先端情報記憶回路31は、過去の内視鏡検査における先端情報を予め記憶する。内視鏡画像記憶回路32は、過去の内視鏡検査における内視鏡画像を予め記憶する。内視鏡レポート記憶回路33は、過去の内視鏡検査について作成された内視鏡レポートを予め記憶する。
内視鏡検査中、センサ221は、先端情報を所定の時間間隔で医用画像表示装置1へ出力する。また、内視鏡検査中、内視鏡22は、撮影された内視鏡画像を医用画像表示装置1へ出力する。
図12の例では、さらなる構成要素、画像検索部・レポート検索部にて行なわれる各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路12へ記録されている。処理回路11は、プログラムをメモリから読み出し実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路11は、図12の処理回路11内に示された各機能を有することとなる。
なお、図12の例においても、単一の処理回路11にて処理機能が実現されてもよく、複数の分離したプロセッサを組み合わせ、各プロセッサがプログラムを実行することにより機能が実現されてもよい。特許請求の範囲における画像検索部は、本変形例における画像検索機能117に対応する。特許請求の範囲におけるレポート検索部、本変形例におけるレポート検索機能118に対応する。
処理回路11は、内視鏡検査中の位置情報と過去の内視鏡検査の画像に付帯する位置情報とに基づいて、撮影中の内視鏡の位置で過去に撮影された画像を検索する(画像検索機能117)。例えば、処理回路11は、内視鏡画像記憶回路32に記憶されている過去の内視鏡検査における内視鏡画像に付帯された先端情報の位置とセンサ221から受けた先端情報の位置とを照合する。それにより、処理回路11は、内視鏡検査中の内視鏡22の先端EPの位置で過去に撮影された内視鏡画像を検索する。処理回路11は、検索された内視鏡画像をディスプレイ14に表示する(表示制御機能116)。
なお、一般的に、過去の内視鏡検査における内視鏡画像に付帯された先端情報の位置とセンサ221から受けた先端情報の位置とには誤差が生じる。処理回路11が、過去の内視鏡検査における内視鏡画像に付帯された先端情報の位置とセンサ221から受けた先端情報の位置とを同一と判断する許容誤差は、適宜設計される。換言すると、処理回路は、センサ221から受けた先端情報の位置に近い位置で過去に撮影された内視鏡画像を検索する。複数の内視鏡画像が検索された場合、処理回路11は、これら内視鏡画像をリストやサムネイル等でディスプレイ14に複数表示してもよい。設計された許容誤差に基づいて、処理回路11は、内視鏡検査中の内視鏡22の先端EPの位置で過去に撮影された内視鏡画像を検索できなかった場合、過去の内視鏡画像を表示しない。なお、処理回路11は、内視鏡検査中の内視鏡22の先端EPの位置で過去に撮影された内視鏡画像を検索できなかった場合、過去の内視鏡画像が検索されなかった旨の文字情報等をディスプレイ14に表示してもよい。
また、処理回路11が過去の内視鏡画像を検索するための基準位置の一例として、操作者により指定された位置が挙げられる。基準位置の他の例としては、内視鏡の位置調整操作により検出される対象臓器の特徴位置が挙げられる。例えば、対象臓器が大腸である場合、結腸の境界位置等が対象臓器の特徴位置として適用される。
処理回路11は、検索された画像に基づいて、該画像が用いられた過去の内視鏡レポートを内視鏡レポート記憶回路33から検索する(レポート検索機能118)。処理回路11は、検索された内視鏡画像と内視鏡レポート記憶回路33に記憶された内視鏡レポートに用いられた内視鏡画像とを照合する。それにより、処理回路11は、内視鏡検査中の内視鏡22の先端EPの位置で撮影された内視鏡画像が用いられた過去の内視鏡レポートを検索する。処理回路11は、検索された内視鏡レポートをディスプレイ14に表示する(表示制御機能116)。
図13は、過去の内視鏡画像及び内視鏡レポートの表示例を示す模式図である。図13では、内視鏡検査中に、内視鏡22の先端EPが先端マーカMPの位置に挿入されている例を示す。処理回路11は、当該位置で過去に撮影された内視鏡画像EM及びこの内視鏡画像EMが用いられた内視鏡レポートRPをディスプレイ14に表示する。なお、処理回路11は、当該位置で過去に撮影された内視鏡画像EMが用いられた内視鏡レポートが検索されなかった場合、内視鏡画像EMをディスプレイ14に表示する。それにより、操作者は、過去の検査における内視鏡画像EM及び内視鏡レポートRPを視認しながら、内視鏡検査を行なうことができる。
図14は、変形例に係る医用画像表示装置1の動作を示すフローチャートである。
ステップS201:内視鏡の先端を対象臓器へ挿入する際に、操作者は、入力操作を行い、そのときの内視鏡の位置、角度を基準として指定する。センサ221は、操作者による入力操作を受けた時間を基準として、所定の時間ごとに先端情報を検知する。
ステップS202:センサ221は、操作者による入力操作を受けた時間を基準として、所定の時間ごとに先端情報を検知する。センサ221は、先端情報を所定の時間間隔で医用画像表示装置1へ出力する。
ステップS203:ステップS203は、画像検索機能117に対応するステップである。このステップは、処理回路11が記憶回路12から画像検索機能117に対応する所定のプログラムを読み出し実行することにより、画像検索機能117が実現されるステップである。処理回路11は、内視鏡画像記憶回路32に記憶されている過去の内視鏡検査における内視鏡画像に付帯された先端情報の位置とセンサ221から受けた先端情報の位置とを照合する。それにより、処理回路11は、内視鏡検査中の内視鏡22の先端EPの位置で過去に撮影された内視鏡画像を検索する。
ステップS204:ステップS204は、レポート検索機能118に対応するステップである。このステップは、処理回路11が記憶回路12からレポート検索機能118に対応する所定のプログラムを読み出し実行することにより、レポート検索機能118が実現されるステップである。過去に撮影された内視鏡画像が検索されたとき(ステップS203;YES)、処理回路11は、検索された内視鏡画像と内視鏡レポート記憶回路33に記憶された内視鏡レポートに用いられた内視鏡画像とを照合する。それにより、処理回路11は、内視鏡検査中の内視鏡22の先端EPの位置で撮影された内視鏡画像が用いられた過去の内視鏡レポートを検索する。
ステップS205:ステップS205は、表示制御機能116に対応するステップである。このステップは、処理回路11が記憶回路12から表示制御機能116に対応する所定のプログラムを読み出し実行することにより、表示制御機能116が実現されるステップである。検索された内視鏡画像が用いられた内視鏡レポートが検索されたとき(ステップS204;YES)、処理回路11は、過去に撮影された内視鏡画像EM及びこの内視鏡画像EMが用いられた内視鏡レポートRPをディスプレイ14に表示する。
ステップS206:ステップS206は、表示制御機能116に対応するステップである。このステップは、処理回路11が記憶回路12から表示制御機能116に対応する所定のプログラムを読み出し実行することにより、表示制御機能116が実現されるステップである。検索された内視鏡画像が用いられた内視鏡レポートが検索されなかったとき(ステップS204;NO)、処理回路11は、過去に撮影された内視鏡画像EMをディスプレイ14に表示する。
変形例の医用画像表示装置は、内視鏡検査中の内視鏡の先端位置と同じ位置で撮影された過去の内視鏡画像を検索し表示する。また、過去の内視鏡画像が用いられた内視鏡レポートを検索し表示する。それにより、操作者は、現在内視鏡で観察している部位に対応している過去の内視鏡画像や現在内視鏡で観察している部位を過去に撮影した内視鏡画像をキー画像とした内視鏡レポートをリアルタイムで視認しながら、内視鏡検査を行なうことができる。
以上述べた少なくともひとつの実施形態の医用画像表示装置によれば、内視鏡画像が撮影された位置と対象臓器との位置関係を容易に把握することができる。
本発明のいくつかの実施形態を説明したが、これら実施形態は、例として提示したものであり、発明の範囲を限定することを意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 医用画像表示装置
2 内視鏡装置
3 データベース
11 処理回路
12 記憶回路
13、21 入力回路
14 ディスプレイ
22 内視鏡
31 先端情報記憶回路
32 内視鏡画像記憶回路
33 内視鏡レポート記憶回路
111 内視鏡情報取得機能
112 画像取得機能
113 配列画像生成機能
114 関連処理機能
115 組合せ画像生成機能
116 表示制御機能
117 画像検索機能
118 レポート検索機能
221 センサ

Claims (8)

  1. 予め設定された座標系における所定時間ごとの内視鏡の先端の位置情報及び角度情報を取得する内視鏡情報取得部と、
    前記所定時間ごとの前記内視鏡の先端の前記位置情報及び前記角度情報に基づいて、前記所定時間ごとの前記内視鏡の先端の位置及び角度を表す先端マーカを複数連ねて配列させた先端マーカ配列画像を生成する配列画像生成部と、
    前記先端マーカ配列画像を表示部に表示させる表示制御部と、
    前記内視鏡で撮影された画像を当該画像が撮影されたときの前記内視鏡の先端の前記座標系における前記位置情報とともに取得する画像取得部と、
    組合せ画像生成部と、
    を有し、
    前記先端マーカの形状は、前記所定時間ごとの前記内視鏡の先端の前記角度情報に基づいて、前記先端マーカの軸が前記内視鏡の先端の方向に平行になるように生成され
    前記組合せ画像生成部は、前記座標系において前記内視鏡の先端が移動した軌跡を示す画像である前記先端マーカ配列画像の周囲に前記画像が撮影されたときの前記内視鏡の先端の前記座標系における前記位置情報に基づいて前記画像を配置した組合せ画像を生成することを特徴とする医用画像表示装置。
  2. 記表示制御部は、前記組合せ画像を表示部に表示させる、
    請求項1記載の医用画像表示装置。
  3. 前記画像が撮影された時間と前記所定時間とに基づいて、前記画像を撮影したときの前記内視鏡の先端の位置に対応する前記先端マーカを特定し、特定された前記先端マーカと前記画像とを関連付ける関連処理部を更に有し、
    前記表示制御部は、前記関連処理部で関連付けた前記先端マーカと前記画像とを結び付けて表示する、
    請求項2記載の医用画像表示装置。
  4. 前記内視鏡情報取得部は、前記内視鏡の先端の移動速度を取得し、
    前記先端マーカは、さらに前記移動速度を表す
    ことを特徴とする請求項1に記載の医用画像表示装置。
  5. 前記画像取得部は、前記画像が撮影されたときの前記内視鏡の先端の前記角度情報を更に取得し、
    前記表示制御部は、前記画像取得部が取得した前記角度情報に基づいて、前記画像が撮影されたときの前記内視鏡の視線方向を表す視線マーカを前記組合せ画像に重畳表示することを特徴とする請求項2に記載の医用画像表示装置。
  6. 内視鏡検査中の前記位置情報と過去の内視鏡検査の前記画像に付帯する前記位置情報とに基づいて、撮影中の前記内視鏡の位置で過去に撮影された前記画像を検索する画像検索部をさらに有し、
    前記表示制御部は、検索された前記画像を表示する
    ことを特徴とする請求項2に記載の医用画像表示装置。
  7. 検索された前記画像に基づいて、該画像が用いられた過去の内視鏡レポートを検索するレポート検索部をさらに有し、
    前記表示制御部はさらに検索された前記内視鏡レポートを表示する
    ことを特徴とする請求項6に記載の医用画像表示装置。
  8. 前記先端マーカ配列画像は、前記内視鏡で撮影された前記画像を読影するとき、又は読影レポートを作成するときに表示されることを特徴とする請求項2に記載の医用画像表示装置。
JP2015173856A 2015-09-03 2015-09-03 医用画像表示装置 Active JP6800567B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015173856A JP6800567B2 (ja) 2015-09-03 2015-09-03 医用画像表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015173856A JP6800567B2 (ja) 2015-09-03 2015-09-03 医用画像表示装置

Publications (2)

Publication Number Publication Date
JP2017047009A JP2017047009A (ja) 2017-03-09
JP6800567B2 true JP6800567B2 (ja) 2020-12-16

Family

ID=58280795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015173856A Active JP6800567B2 (ja) 2015-09-03 2015-09-03 医用画像表示装置

Country Status (1)

Country Link
JP (1) JP6800567B2 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003093326A (ja) * 2001-09-25 2003-04-02 Pentax Corp 可撓性電子内視鏡装置
US20070060798A1 (en) * 2005-09-15 2007-03-15 Hagai Krupnik System and method for presentation of data streams
KR100868339B1 (ko) * 2007-11-15 2008-11-12 주식회사 인트로메딕 의료용 영상 데이터의 디스플레이 방법과 의료용 영상데이터를 이용한 캡쳐 영상 제공 시스템 및 그 방법
JP5504028B2 (ja) * 2010-03-29 2014-05-28 富士フイルム株式会社 観察支援システムおよび方法並びにプログラム
JP6128796B2 (ja) * 2012-10-25 2017-05-17 オリンパス株式会社 挿入システム、挿入支援装置、挿入支援装置の作動方法及びプログラム
WO2014141968A1 (ja) * 2013-03-12 2014-09-18 オリンパスメディカルシステムズ株式会社 内視鏡システム

Also Published As

Publication number Publication date
JP2017047009A (ja) 2017-03-09

Similar Documents

Publication Publication Date Title
US11992372B2 (en) Cooperative surgical displays
US11748924B2 (en) Tiered system display control based on capacity and user operation
JP3847744B2 (ja) 挿入支援システム
JP3820244B2 (ja) 挿入支援システム
KR101599129B1 (ko) 내시경 상 보이는 병변의 크기 측정 방법 및 컴퓨터 판독 가능한 기록매체
WO2022070077A1 (en) Interactive information overlay on multiple surgical displays
JP4616872B2 (ja) 画像表示装置および画像表示プログラム
US20130296682A1 (en) Integrating pre-surgical and surgical images
JPWO2020110278A1 (ja) 情報処理システム、内視鏡システム、学習済みモデル、情報記憶媒体及び情報処理方法
JP2017153818A5 (ja)
JP2010264232A (ja) 診断支援装置、診断支援プログラムおよび診断支援方法
JP2010094185A (ja) 画像表示装置
JP6026982B2 (ja) 画像表示制御装置およびその作動方法並びに画像表示制御プログラム
JP5215483B1 (ja) 医用画像処理装置
JP7189355B2 (ja) コンピュータプログラム、内視鏡用プロセッサ、及び情報処理方法
JP2009082464A (ja) 画像表示装置および画像表示プログラム
JP5613353B2 (ja) 医療装置
JP6800567B2 (ja) 医用画像表示装置
JP2005131317A (ja) 挿入支援システム
JP2006255193A (ja) 内視鏡挿入支援装置
US20220409300A1 (en) Systems and methods for providing surgical assistance based on operational context
US20220409324A1 (en) Systems and methods for telestration with spatial memory
JP4573517B2 (ja) 挿入支援システム
US20150121276A1 (en) Method of displaying multi medical image and medical image equipment for performing the same
JP4160487B2 (ja) 挿入支援システム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160527

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190625

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190823

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191203

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200302

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200302

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200309

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200310

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200410

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200414

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200511

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200609

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200616

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200630

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20200923

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20201027

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201125

R150 Certificate of patent or registration of utility model

Ref document number: 6800567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150