JP2008302146A - 内視鏡装置及び内視鏡画像制御装置 - Google Patents

内視鏡装置及び内視鏡画像制御装置 Download PDF

Info

Publication number
JP2008302146A
JP2008302146A JP2007154561A JP2007154561A JP2008302146A JP 2008302146 A JP2008302146 A JP 2008302146A JP 2007154561 A JP2007154561 A JP 2007154561A JP 2007154561 A JP2007154561 A JP 2007154561A JP 2008302146 A JP2008302146 A JP 2008302146A
Authority
JP
Japan
Prior art keywords
image
voice
input
voice input
timing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007154561A
Other languages
English (en)
Other versions
JP5484658B2 (ja
Inventor
Shiyuusuke Tsuchiya
秋介 土谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2007154561A priority Critical patent/JP5484658B2/ja
Publication of JP2008302146A publication Critical patent/JP2008302146A/ja
Application granted granted Critical
Publication of JP5484658B2 publication Critical patent/JP5484658B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】音声入力から音声認識を経て実行されるまでに時間遅延が発生する場合にも、音声入力したタイミングの静止画像表示等を行うことができる内視鏡装置及び内視鏡画像制御装置を提供する。
【解決手段】撮像素子で撮像され、TVカメラ装置6で信号処理された画像信号は、画像制御部42を経てモニタ12に内視鏡動画像として表示される。マイク18から音声入力されると、その入力のタイミングで画像制御部42は、内部の画像メモリに1枚の静止画像に相当する画像信号を取得する。音声が入力される音声認識処理部44で静止画像表示の音声コマンドと認識された場合には、取得した画像信号を静止画像としてモニタ12で表示する。
【選択図】図2

Description

本発明は、音声入力の機能を用いて内視鏡検査を行う内視鏡装置及び内視鏡画像制御装置に関する。
近年、内視鏡は外科手術などにも広く採用されており、この内視鏡を用いた外科手術においては、腹腔内を膨張させるために用いる気腹装置や、生体組織を切除、あるいは凝固する高周波焼灼装置などの手術用医療機器を用いて、内視鏡による観察下で各種の処置が行われる。
このような場合、術者は、リモートコントローラ(以下リモコンと略記)等を操作したり、看護師等に指示して各種の手術用医療機器の動作を制御したりする。
また、内視鏡に設けられた撮像装置により撮像され、観察モニタに表示される内視鏡画像は動画像であるため、術者は、患部等を詳細に観察するために、静止画像(フリーズ)表示や静止画像記録(レリーズ)を行いたい場合がある。
また、第1の従来例としての特開2002−336183号公報に開示されているように、術者による音声入力により、その音声入力の指示内容を音声認識して指示操作に対応した各種の医療機器を制御することが行えるようになっている。
また、第2の従来例としての特開平2002−65667号公報には、フリーズ表示を指示するまでに時間遅れがあった場合でも適切な画像をフリーズ表示するという課題に対して、フリーズ表示すべき画像が表示されてからフリーズを指示するまでの時間遅れに相当する遡り補正時間だけ過去に遡ったフレームデータに対応する画像をフリーズ表示するものを開示している。
上述した第1の従来例は、意図しない音声入力操作を受け付けないようにしたものである。
また、第2の従来例は、音声入力手段や、音声認識手段などを有しない特殊な構成の場合に対応するものである。
そして、この第2の従来例は、音声入力によりフリーズ、レリーズ等を適切に行うのもでない。
従来例においては、音声入力で指示操作を行った場合には、その音声入力の指示内容を音声認識して実行するまでに時間的な遅延が発生するため、フリーズ表示の指示を行った場合、指示したタイミングから遅れてフリーズが行われる。
この従来例の場合における音声入力からフリーズされた静止画像表示(フリーズ画像表示)が得られる動作は、図17及び図18のようになる。
図17は、従来例の場合における音声入力から、この音声入力に対応する音声コマンドと認識された場合、その指示内容が実行される処理手順を示す。図17の処理手順は、特開2002−336183号公報に類似した内容が開示されている。このため、特開2002−336183号公報に開示されたシステムに近い構成要素を用いて説明する。
この従来例のシステムにおいては最初のステップS91においてマイクロフォンからの音声入力を待つ。音声入力が有ると、次のステップS92で音声メモリへ(A/D変換された)音声データの記憶が開始する。
次のステップS93及びS94で音声入力が一定時間無音状態が続いたかの判定が行われる。この判定に該当しない場合にはステップS93に戻り、音声入力が継続しているとして音声データの記憶が続行される。一方、この判定に該当する場合、つまり一定時間無音状態が続いた場合には、この音声入力が終了したと判定され、ステップS95において音声メモリへの音声データの記憶が終了する。
次のステップS96で音声メモリに記憶された音声データに対して音声認識処理が行われる。そして、次のステップS97で音声データが音声コマンドであるかどうかが判定される。音声コマンドであると判定されたならば、続くステップS98で音声コマンドによる対象機器に対して操作処理を実行して図17の処理を終了する。一方、音声コマンドでないと判定された場合にはステップS91に戻る。
特開平2002−336183号公報 特開平2002−65667号公報
従来例においては、図17の処理によりタイムラグ(時間遅延)が発生するため、例えば音声コマンドがフリーズ画像表示の場合、図18に示すように希望する画像の音声入力のタイミングtsから遅れたタイミングtcのフリーズ画像表示となってしまう。
より具体的には、図18に示すように、希望する画像の音声入力を行うタイミングtsから始まるステップS91からステップS98を経て音声コマンドの実行処理が行われるまでにtc−tsのタイムラグ(時間遅延)が発生する。
図18の例では、図17におけるステップS91からステップS95までの発声区間、ステップS96及びステップS97までの音声認識処理、そしてステップS98の実行処理が必要になる。
このため、術者がフリーズ指示を行うように音声入力で指示したタイミングtsから遅れたタイミングtcの画像がフリーズ画像として実際に表示されるため、音声入力で指示したタイミングからずれた画像でフリーズ画像の表示が行われてしまう。
(発明の目的)
本発明は上述した点に鑑みてなされたもので、音声入力から音声認識を経て実行されるまでに時間遅延が発生する場合にも、音声入力したタイミングの静止画像表示等を行うことができる内視鏡装置及び内視鏡画像制御装置を提供することを目的とする。
本発明の内視鏡装置は、内視鏡に内蔵若しくは装着された撮像装置により撮像された信号から表示装置に内視鏡動画像を表示可能する画像信号を生成する画像処理手段と、 音声入力により指示操作を行う音声入力手段と、
少なくとも前記音声入力の開始のタイミングに、少なくとも1枚の静止画像に相当する画像信号を取得する画像取得手段と、
前記音声入力に対して、少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、
前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の開始のタイミングで取得された画像信号を表示装置に出力若しくは画像記録装置に保存する制御を行う制御手段と、
を備えることを特徴とする。
本発明の内視鏡画像制御装置は、音声入力により指示操作を行う音声入力手段と、
少なくとも前記音声入力の検出開始のタイミングに、内視鏡動画像における少なくとも1枚の静止画像に相当する画像信号を取得する画像取得手段と、
前記音声入力が少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、
前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の検出開始のタイミングに対応する前記画像記憶手段に記憶された画像を表示装置に出力若しくは画像記録装置に保存する制御を行う制御手段と、
を備えることを特徴とする。
本発明によれば、音声入力から音声認識結果を経て実行されるまでに時間遅延が発生する場合にも、音声入力したタイミングの静止画像表示等を行うことができる。
以下、図面を参照して本発明の実施例を説明する。
図1から図7は本発明の実施例1に係り、図1は本発明の実施例1に係る内視鏡外科手術システムの全体構成を示し、図2は図1の内視鏡外科手術システムの各機器の接続関係を示すブロック図、図3は音声認識処理部等を備えた内視鏡制御装置の構成を示すブロック図である。
また、図4は実施例1の動作内容を示すフローチャート、図5は実施例1の動作内容を時間軸上で示す動作説明図、図6は変形例の内視鏡制御装置の構成を示すブロック図、図7は変形例の動作内容の一部を示すフローチャートである。
図1に示すように、実施例1の内視鏡装置を形成する内視鏡外科手術システム1は、患者3が横たわる手術台2の両側に第1のトロリ4及び第2のトロリ5とが配置されている。これらの両トロリ4、5には内視鏡を用いて観察、検査、処置、記録などを行う複数の医療機器が搭載されている。
第1のトロリ4には、第1のTVカメラ装置(或いはビデオプロセッサ)6、第1の光源装置7、高周波焼灼装置8、気腹装置9、超音波観測装置10、プリンタ11、第1のモニタ(ディスプレイ)12、非滅菌域に配置され、看護師が医療機器の操作を集中して行う図示しないマウスとタッチパネル等のポインティングデバイスを有した集中操作パネル14、システムコントローラ15等が搭載されている。
第1のトロリ4に搭載された各医療機器は、通信ケーブルを介してシステムコントローラ15と接続され、双方向通信を行えるようになっている。
また、システムコントローラ15には、術者が音声入力を行う音声入力手段としてのマイクロフォン(マイクと略記)18が接続できるようになっている。術者は、マイク18に対して音声を入力することにより、音声による指示操作を行うことができる。
マイク18により、入力された音声は電気信号としての音声信号に変換され、後述する音声認識処理部44(図2参照)に入力される。
音声認識処理部44は、入力された音声信号に対して、その音声が登録された音声コマンドであるか否かを認識(判定)する音声認識の処理を行う。入力された音声が音声コマンドとして認識された場合には、音声コマンドの指示操作に対応して各種の医療機器の制御や処理が行われる。
第1の光源装置7は、照明光を伝送するライトガイドケーブル16を介して第1の内視鏡17に接続され、第1の光源装置7で発生した照明光は、第1の内視鏡17のライトガイドに供給される。そして、照明光は、第1の内視鏡17の挿入部が刺入された患者3の腹部内の患部等を照明する。
この第1の内視鏡17の接眼部には撮像素子を備えた撮像装置としての第1のカメラヘッド19が装着され、第1の内視鏡17の観察光学系による患部等の光学像を第1のカメラヘッド19内の撮像素子で撮像する。
撮像素子で撮像された信号は、カメラケーブル20を介して、画像処理手段としての第1のTVカメラ装置6に伝送され、第1のTVカメラ装置6内の信号処理回路で信号処理されて、画像信号(又は映像信号)が生成される。
この画像信号は、システムコントローラ15内の画像制御部42を経由して、表示装置としての第1のモニタ12に出力される。そして、この第1のモニタ12の表示面には画像信号に対応する内視鏡動画像(紛らわしい場合を除き単に、動画像、或いは画像と略記)が表示される。
なお、図1においては、第1の内視鏡17に第1のカメラヘッド19が装着されて撮像装置を備えた内視鏡が用いられているが、内視鏡本体内に撮像素子又は撮像装置を内蔵した電子内視鏡を採用しても良い。
また、システムコントコーラ15には、図示しない病院内に設けられた院内ネットと図示しないケーブルで接続され、院内ネット上の画像データ等を第1のモニタ12等に出力して表示することもできるようにしている。
気腹装置9には炭酸ガスボンベ21が接続され、気腹装置9から患者3に延びた気腹チューブ22を介して患者3の腹部内に炭酸ガスを供給し、気腹することができるようにしている。
第2のトロリ5には、第2のTVカメラ装置(或いはビデオプロセッサ)23、第2の光源装置24、超音波処置装置25、VTR26、第2のモニタ27、砕石装置28、シェーバ30、ポンプ37及び中継ユニット29等が搭載されている。
第2のトロリ5に搭載された各医療機器は、中継ユニット29に接続され、各医療機器は中継ユニット29を介してシステムコントローラ15と双方向の通信が可能になっている。
第2の光源装置24は、照明光を伝送するライトガイドケーブル31を介して第2の内視鏡32に接続され、第2の光源装置24で発生した照明光は、第2の内視鏡32のライトガイドに供給される。そして、照明光は、第2の内視鏡32の挿入部が刺入された患者3の腹部内の患部等を照明する。
この第2の内視鏡32の接眼部には撮像素子を備えた撮像装置としての第2のカメラヘッド33が装着され、第2の内視鏡32の観察光学系による患部等の光学像を第2のカメラヘッド33内の撮像素子で撮像する。
撮像素子で撮像された信号は、カメラケーブル34を介して、画像処理手段としての第2のTVカメラ装置23に伝送され、第2のTVカメラ装置23内の信号処理回路で信号処理されて、画像信号(又は映像信号)が生成される。
この画像信号は、システムコントローラ15内の画像制御部42を経由して、表示装置としての第2のモニタ27に出力される。そして、この第2のモニタ27の表示面には、画像信号に対応する動画像が表示される。
システムコントローラ15と中継ユニット29は、システムケーブル35で接続されている。
さらに、システムコントローラ15には、術者が滅菌域から機器操作を行う術者用リモートコントローラ(以下、リモコンと記す)36が接続されている。
図2に示すように、第1のTVカメラ装置6、第1の光源装置7、高周波焼灼装置8、気腹装置9、プリンタ11及び超音波観測装置10はそれぞれ通信ケーブル38によりシステムコントローラ15の通信I/F41と接続され、システムコントローラ15(内のCPU43)とデータの送受を行うようになっている。
また、第1のTVカメラ装置6、プリンタ11、超音波観測装置10及び第1のモニタ12は、映像ケーブル39によりシステムコントローラ15内の画像制御を行う画像制御部42に接続され、画像信号(映像信号)を送受できるようになっている。
第2のTVカメラ装置23、第2の光源装置24、超音波処置装置25、VTR26、砕石装置28、シェーバ30及びポンプ37は、通信ケーブル38により中継ユニット29に接続され、データの送受を行うようになっている。また、第2のモニタ27、第2のTVカメラ装置23及びVTR26は、映像ケーブル39により中継ユニット29に接続され、画像信号を送受できるようになっている。
また、中継ユニット29は、ケーブル35(内の通信ケーブル38)によりシステムコントローラ15の通信I/F41に接続されている。また、中継ユニット29は、ケーブル35内の映像ケーブル39を介してシステムコントローラ15内の画像制御部42に接続されている。
システムコントローラ15は、上記通信I/F41、画像制御部42の他に、各部の制御を行う中央制御部を構成するCPU43を有する。
また、このシステムコントローラ15は、マイク18からの音声信号を認識する音声認識処理部44と、リモコン36とのデータの送受を行うリモコンI/F45、集中操作パネル14とのデータの送受を行う集中操作パネルI/F46、CPU43の作業エリアやデータの一時記憶に用いられるメモリ47とを備え、これら各部はCPU43により制御されている。なお、CPU43を音声認識処理部44の構成要素に含めても良い。
また、このシステムコントローラ15における画像制御部42,CPU43,音声認識処理部44は、内視鏡画像制御装置48を形成する。
この内視鏡画像制御装置48は、マイク18からの音声入力により、フリーズの指示操作を行った場合、音声入力のタイミングから音声認識結果を得るまで、及びそれを実行するまでに時間の遅延が発生する場合にも、音声入力のタイミングで取得した画像を静止画像として表示する機能を備える。
なお、システムコントローラ15に外部記録媒体を接続可能とし、CPU43より画像データをその外部記録媒体に記録・再生することもできるようになっている。
図3は内視鏡画像制御装置48の構成を示す。
図3に示すように内視鏡画像制御装置48を構成する音声認識処理部44は、マイク18から入力される音声信号を検知する入力検知部を構成し、入力される音声信号をA/D変換するA/D変換部51を備える。
また、音声認識処理部44は、A/D変換部51でA/D変換された音声信号データ(以下、音声データと略記)を記憶する音声メモリ52と、CPU43が音声メモリ52に記憶された音声データが所定の音声コマンドのデータであるかどうか比較判定するための音声コマンドのデータを格納しているフラッシュメモリ等からなる音声コマンドデータベース(図面中では音声コマンドDBと略記)53とを有する。
A/D変換部51でA/D変換された音声データは、音声メモリ52に順次記憶される。この音声メモリ52に記憶された音声データは、CPU43により、音声コマンドか否かの音声認識が行われる。
この音声コマンドデータベース53には、医療機器の指示操作や画像に関係する指示操作、具体的には静止画像表示に関する音声コマンドのデータが格納されている。
音声コマンドデータベース53には、予め音声コマンドのデータとして例えば高周波焼灼装置8に対する「切開出力アップ」という音声コマンドのデータが登録され、「切開出力アップ」という音声データが入力されると、CPU43は音声コマンドデータベース53の音声コマンドのデータと照合することで音声コマンドとして認識して切開出力をアップさせる制御を行う。
また、音声コマンドデータベース53には、予め音声コマンドのデータとして例えば静止画像を表示させる「静止画像」或いは「フリーズ」という音声コマンドのデータが登録されている。そして、術者が「静止画像」或いは「フリーズ」と音声入力すると、CPU43は音声コマンドデータベース53の音声コマンドのデータと例えば照合することで音声コマンドとして認識し、その音声コマンドに対応する静止画像表示(フリーズ画像表示)の制御を行う。
また、図1に示すように複数のカメラヘッド19及び33とそれぞれに対する信号処理を行うTVカメラ装置6、23を同時に使用している場合には、複数の画像信号にそれぞれ対応する複数の画像に対して「静止画像」の音声コマンドで共通に制御することができる。
一方、術者は、一方の画像のみ、例えば第1のモニタ12に表示される第1の画像のみ、に対して音声入力で制御する場合には、例えば「第1の静止画像」や「第1のフリーズ」により一方の画像のみに対する音声コマンドで制御することができる。
また、リモコン36等により、予め音声入力で制御する一方の画像のみの設定を行うこともできるようにしている。
例えば、第1のモニタ12に表示される第1の画像のみに対して音声入力で制御するようにリモコン36で設定した場合には、その設定情報が例えばCPU43の図示しないレジスタ、メモリや、図3の画像制御回路55の図示しないメモリ等に記憶される。
そして、この場合には、単に「静止画像」或いは「フリーズ」の音声入力を行った場合には、第1のモニタ12に表示される第1の画像のみに対して音声入力で制御することができるようにしている。この場合には、「第1の静止画像」或いは「第1のフリーズ」と音声入力する場合に比較して、「静止画像」或いは「フリーズ」の音声入力で済むため、音声認識に要する処理時間を短縮することができる。また、術者も短い音声入力(発声)で済む。
このように音声入力により静止画像表示の指示を行うようにCPU43は制御するが、音声入力の開始のタイミングから音声認識結果が得られた後に、音声コマンドに対応する静止画像表示を行うと、音声入力の開始のタイミングから遅延したタイミングで取得した画像を静止画像として表示することになる。
この場合の動作は、上述した図17及び図18に示す従来例の動作となってしまう。このため、本実施例においては、音声認識処理部44のA/D変換部51でA/D変換された音声入力で暫定的に静止画像の画像取得を起動させるような構成の内視鏡画像制御装置48を形成している。
この内視鏡画像制御装置48においては、A/D変換部51でA/D変換された音声信号は、図3に示す画像制御部42に入力される。
図3に示すように画像制御部42は、CPU43及び音声認識処理部44のA/D変換部51に接続され、画像制御を行う画像制御回路55と、この画像制御回路55と接続され、画像を一時記憶(取得)する画像メモリ56と、この画像制御回路55と接続されると共に、画像機器に接続される表示インタフェースとしてのディスプレイI/F57とから構成される。
画像制御回路55は、通常は画像機器としてのTVカメラ装置6等から入力される画像信号をそのまま或いは画像処理して画像表示を行う画像機器としてのモニタ12等に出力して動画像として表示されるように画像制御等を行う。
また、この画像制御回路55は、A/D変換部51から(A/D変換された)音声信号の入力の開始のタイミングをトリガ信号(起動信号)としてそのタイミングの動画像の画像信号の例えば1フレーム分或いは1枚分を画像メモリ56に一時記憶する制御を行う。 その後、音声認識処理部44による認識結果により、CPU43を経由して静止画像表示の音声コマンドと認識した場合には、画像制御回路55は、音声信号の入力の開始のタイミングに画像メモリ56に記憶した画像信号をディスプレイI/F57を介してモニタ12に出力し、静止画像として表示する。
一方、音声認識結果が静止画像表示又は静止画像記憶のいずれかとなる所定の音声コマンドでない場合には、画像制御回路55は、画像メモリ56に一時記憶した画像を破棄する(実際には、何もしないで、次に画像記憶の指示の際にオーバライトなどしても良い)。
なお、音声入力の開始のタイミングを検知するために、本実施例においてはA/D変換部51に、A/D変換するA/D変換器の他に、例えばコンパレータ51aを設けている。
このコンパレータ51aの一方の入力端に基準レベル、他方の入力端にA/D変換器に入力される音声信号又はA/D変換器でA/D変換された音声データが印加され、基準レベルを超える音声信号又は音声データが検出された場合に、コンパレータ51aは音声入力の開始を検知した検知信号を出力する。
この検知信号は、画像制御回路55に入力され、この画像制御回路55は、この検知信号のタイミング、つまり音声入力の開始のタイミングに同期した画像信号を画像メモリ56に記憶させる。また、この検知信号は音声メモリ52にも入力され、音声データを記憶させる制御にも使用される。
このように、本実施例においては音声信号が入力されると、その音声信号の入力開始時に画像信号を一時記憶、つまり静止画像表示用の画像信号を取得する動作を行う。その後、音声認識結果に応じて、取得した画像信号を静止画像として表示、或いは表示をしない(で破棄する)。
このようにすることにより音声入力に対して実際に音声認識結果を得てそれが実行されるまでに時間遅延が発生しても、術者が音声で指示したタイミングの画像信号を静止画像として表示可能にしている。
次にこのように構成された本実施例の作用について主に図4及び図5を参照して説明する。図4は本実施例の動作手順を示し、図5は音声入力(音声発生)から静止画像表示までの処理が実行されるまでの時間経過の様子を示す。
本内視鏡外科手術システム1の電源が投入されることにより、各医療機器がシステムコントローラ15の制御下で動作状態になる。そして、例えば第1の内視鏡17に装着されたカメラヘッド19により撮像され、第1のTVカメラ装置6による信号処理で生成された画像信号は第1のモニタ12に出力され、その表示面に第1の画像が動画像で表示される。
また、第2の内視鏡32に装着されたカメラヘッド33により撮像され、第2のTVカメラ装置23による信号処理で生成された画像信号は、第2のモニタ27に出力され、その表示面に第2の画像が動画像で表示される。ここでは、術者がリモコン36により、第1のモニタ12に表示される第1の画像のみに対する音声入力で指示操作を行う設定を行った例で説明する。
最初のステップS1においてシステムコントローラ15の内視鏡画像制御装置48は、マイク18からの音声入力を待つ。術者は、モニタ12に表示される動画像を観察し、静止画像表示を希望するタイミングにおいて「静止画像」又は「フリーズ」と音声入力を行えば良い。
音声入力が行われると、ステップS2において音声信号は、A/D変換部51でA/D変換された音声データとなると共に、その音声入力の開始のタイミングがコンパレータ51aにより検知される。図5において、この音声入力の開始のタイミングをtsで示している。
ステップS3に示すように画像制御回路55はこのタイミングtsでTVカメラ装置6の画像信号を画像メモリ56に一時記憶する。つまり音声入力の開始のタイミングtsの画像を取得する。図5においてもこのタイミングtsで画像の取得と表記している。
また、ステップS4に示すように音声メモリ52はこのタイミングtsから順次音声データを記憶する。
また、例えばCPU43は、音声メモリ52の音声データを監視し、ステップS5に示すように無音状態か否かを判定する。
無音状態の場合にはCPU43は、さらにステップS6において無音状態が一定時間継続して経過したかを判定する。
ステップS5において無音状態でない場合、或いはステップS6において一定時間継続して経過していない場合には、ステップS4に戻り、音声データの記憶を続行する。
ステップS6において無音状態が一定時間継続するようにして経過したと判定した場合にはCPU43は音声入力が終了したと判定する。そして、ステップS7において入力された音声データの記憶を終了し、次のステップS8の音声認識処理に進む。
図5においてはタイミングtsからステップS7において音声入力の終了と判定したタイミングtaまでが発声区間となり、次に音声認識処理が開始する。
ステップS8において、CPU43は、音声メモリ52に記憶された音声データに対して、音声コマンドのデータを参照して音声認識処理を行う。
この音声認識処理により、ステップS9に示すようにCPU43は入力された音声データが音声コマンドで有るかの判定を行う。
そして、ステップS9において、音声コマンドに該当しないと判定した場合には、ステップS1に戻る。
一方、音声コマンドで有ると判定した場合には、続くステップS10においてCPU43は、入力された音声コマンドが所定の音声コマンド、具体的にはフリーズの音声コマンドであるかの判定をする。なお、図5では音声認識処理の終了のタイミングを例えばtbで示している。そして、実行処理に移る。
ステップS10においてCPU43は、入力された音声データがフリーズの音声コマンドであると判定した場合には、ステップS11においてステップS2のタイミングtsで取得した画像信号をモニタ12で静止画像表示(フリーズ画像表示)を行うように制御する。具体的には、CPU43は、入力された音声データがフリーズの音声コマンドであると判定した情報を画像制御回路55に通知する。
画像制御回路55は、この通知を受けて、画像メモリ56に一時記憶された画像信号をモニタ12に出力するように制御する。
モニタ12は、画像制御回路55の制御により、TVカメラ装置6からの動画像の画像信号が入力されてその動画像を表示している状態から、画像メモリ56に一時記憶された画像信号が入力される状態に切り替えられて静止画像表示(フリーズ画像表示)を行うようになる。なお、図3における画像制御回路55の制御動作もCPU43が行うようにしても良い。
その後、図4の処理を終了、或いはステップS1に戻り、次の音声入力の動作を受け付ける。
図5に示すように音声認識処理が終了して、入力された音声データがフリーズの音声コマンドであると判定された場合には、さらに実行処理のプロセスを経てフリーズ画像表示となる。図5ではこのフリーズ画像表示のタイミングをtcで示している。
従って、図5に示すように術者が音声入力を開始したタイミングtsから音声認識処理を経て実行処理までにtcーtsのタイムラグ(時間遅延)が発生しても、本実施例では音声入力の開始のタイミングtsで取得した画像(信号)を表示することができる。
一方、ステップS10の判定処理においてフリーズの音声コマンドでないと判定した場合には、CPU43は画像制御回路55にフリーズの音声コマンドでない事を通知する。ステップS12に示すように、画像制御回路55は例えばステップS2で取得した画像を破棄する(或いはこの取得された画像を無視するようにしても良い)。
そして、次のステップS13においてCPU43はその音声コマンドに対応する処理或いは制御を行い、図4の処理を終了、或いはステップS1に戻り、次の音声入力の動作を受け付ける。
このように動作する本実施例によれば、音声入力からそれが音声コマンドとして音声認識され、さらに実行されるまでに時間遅延が発生する場合においても、簡単な構成で術者が音声入力したタイミングの画像信号を取得し、フリーズの音声入力の場合にはその画像信号を静止画像として表示することができる。
なお、本実施例においては、所定の音声コマンドとして、フリーズ画像表示の場合で説明したが、静止画像のレリーズ(保存)にも適用できる。術者は、内視鏡検査の終了後において、診断等のため保存したいと希望する画像がある場合、レリーズの指示操作を行う。
以下、このような場合に対応できる変形例を説明する。
図6は、実施例1の変形例における内視鏡画像制御装置48Bの構成を示す。この変形例は、例えば図3の内視鏡画像制御装置48において、さらに静止画像を保存する画像記録装置としての例えば不揮発性メモリとしてのフラッシュメモリ58が設けてある。また、音声コマンドデータベース53には、フリーズの音声コマンドの他にレリーズの音声コマンドも所定の音声コマンドとして登録されている。
画像制御回路55は、実施例1と同様に音声入力の開始のタイミングtsで画像メモリ56に静止画用の画像信号を一時記憶する。その後、CPU43を経て入力される音声認識結果が例えばフリーズの音声コマンドの場合には、モニタ12にフリーズ画像表示を行う。
また、画像制御回路55は、レリーズの音声コマンドの場合には、タイミングtsで取得した画像信号を一定時間、モニタ12で表示し(て術者が確認できるようにし)た後、フラッシュメモリ58にその画像を保存(レリーズ)する。なお、確認用の表示を行う事無く保存しても良い。
なお、フリーズ画像表示の音声コマンドの場合には、フリーズ画像の表示が解除(キャンセル)されると、例えばそのフリーズ画像は破棄される。或いは後述する実施例のように、フリーズ画像を保存或いは保存しないの選択を行うようにしても良い。
図7は本変形例における動作内容の一部を示す。この変形例は、上述のように所定の音声コマンドとしてフリーズ及びレリーズが登録されている。そして、図4のステップS1からステップS10までは同じ処理となるため、例えばステップS8以降の異なる処理部分を含む一部のみを示す。
この変形例は、図4の処理において、ステップS10でフリーズの音声コマンドでないと判定した場合、ステップS12に移る前に、図7のステップS21に進む。このステップS21においてCPU43は、さらにレリーズの音声コマンドか否かの判定を行う。そして、レリーズの音声コマンドでないと判定した場合にはステップS12に移る。
一方、レリーズの音声コマンドと判定した場合にはCPU43は、その判定結果の情報を図6の画像制御回路55に送る。画像制御回路55は、ステップS22に示すようにタイミングtsで取得した画像信号をモニタ12に一定時間出力し、モニタ12にはレリーズされる画像が一定時間、確認のために表示される。
その後、画像制御回路55は、ステップS23に示すようにその画像信号をフラッシュメモリ58に保存してこのレリーズの音声コマンドに対する処理を終了する。
本変形例によれば、術者が診断等のために静止画像として保存を望む場合、音声入力で指示することにより、音声入力からその音声認識等に時間遅延が発生する場合でも、指示したタイミングの画像を保存できる。その他、実施例1と同様の効果を有する。
なお、上述の説明において、例えばモニタ12に動画像が表示されている状態で、同じモニタ12上にその静止画像表示を行う場合、表示される静止画像を縮小した静止画像にして、動画像と同時に表示するようにしても良い。
或いは親子画像のように両画像を表示しても良い。この場合、両画像のの親子表示を入れ替えることができるようにしても良い。また、同じサイズで両画像を表示しても良いし、表示される静止画像のサイズを選択設定できるようにしても良い。
なお、音声入力の開始のタイミングに画像メモリ56に取得する画像信号は、少なくとも1枚の静止画像として表示に必要となる画像信号を含むものであれば良い。このため、例えばフレーム/フィールド単位で連続する複数の画像信号を取得するようにしても良い。
次に本発明の実施例2を説明する。図8から図12は、実施例2に係り、図8は実施例2に係る内視鏡画像制御装置の構成を示し、図9は実施例2の動作内容を示し、図10は実施例2の動作を時間軸上で示し、図11は取得した画像を同時に複数表示する表示例等を示し、図12は取得した画像を表示する動作内容のフローチャートを示す。
図8に示すように本実施例における内視鏡画像制御装置48Cは、例えば図6の内視鏡画像制御装置48に類似した構成である。つまり画像制御回路55は、A/D変換部51のコンパレータ51aから検知信号が入力されると、その検知信号以後の画像信号を例えば連続的に画像メモリ56に一時記憶する制御動作を行う。つまり、本実施例においては、検知信号は、画像制御回路55に対して画像記憶の開始信号として機能する。
また、本実施例においては音声認識結果においてフリーズの音声コマンドと認識された場合には、画像メモリ56に一時記憶された画像信号から複数の画像を同時に表示する選択と、1つの画像を表示する選択ができるようにしている。
複数の画像の表示を選択した場合には、画像制御回路55は、画像メモリ56に一時記憶された画像信号を表示装置に出力する場合、縮小処理して出力する。
このため、画像制御回路55は、縮小処理する縮小処理部55aを有する。縮小処理部55aは、例えば同時に表示する画像数に応じて間引き処理を行うものでも良い。そして、モニタ12等の表示装置には複数の縮小画像がフリーズ画像で表示される(後述する図11参照)。
また、この場合に対応して、本実施例においては複数の縮小画像から1つを選択して通常のサイズで表示する音声コマンドも用意している。なお、後述するように術者が操作し易いようにカメラヘッド19に設けたボタンを操作して選択、その他の操作を行うこともできる。また、1つの画像を表示する選択に設定した場合にも、他のタイミングで取得した画像を選択して表示できるようにしている。
また、本実施例においては、画像メモリ56は、音声入力の開始のタイミングtsから例えば音声認識処理結果を経てそれを実行するまでの時間、具体的にはts−tcの時間、画像信号を記憶する記憶容量を有する。
また、本実施例においてはフリーズ画像の表示後に、その画像を保存することができるようにフラッシュメモリ58を備えている。本実施例においては、レリーズの機能は、フリーズの機能に付随した構成になっている(実施例1のような構成にしても良い)。
その他の構成は実施例1とほほ同様の構成である。
次に図9を参照して本実施例の処理動作を説明する。図9に示す処理内容は、図4と類似しているため、異なる部分を説明する。
本実施例においては、図4におけるステップS3がステップS3aに変更され、このステップS3aにおいて画像制御回路55は音声入力の開始のタイミングtsから画像(信号)の取得を行う。
また、図9の場合には、ステップS5及びステップS6の判定がNOの場合には、ステップS3aに戻る。つまり、無音状態が一定時間継続しない場合には、ステップS3aに戻り、ステップS3aの画像の取得と、ステップS4の音声データの記憶の処理が行われる。この場合の画像の取得は、動画像或いはその動画像を形成する複数の静止画像の取得となる。
また、ステップS6において無音状態が一定時間継続して音声入力が終了したと判定された場合には、ステップS7において入力された音声データの記憶を終了すると共に、ステップS7bに示すように画像制御回路55は、画像メモリ56に画像(画像信号)を一時記憶する画像取得の動作を終了する。
また、図4におけるステップS11はタイミングtsで取得した1枚の画像をモニタ12に表示する処理であるが、図9ではステップS11aに変更される。このステップS11aにおいて画像制御回路55(又はCPU43)は、タイミングtsからtcまでに取得した複数のフリーズ画像における複数の縮小画像或いは1つの画像をモニタ12に表示するように制御する(図面中では単に取得した画像をモニタに表示と略記)。
その他は実施例1における図4に示す動作とほぼ同様の動作となる。図10は本実施例の動作を時間軸上で示したものである。
本実施例においては図10に示すように音声入力の開始のタイミングtsから画像の取得を開始し、音声認識処理が終了して、その結果、実行処理が行われる直前までの画像を取得する。
そして、実行処理によりそのタイミングtcにおいて、例えば複数の画像表示の設定がされている場合には、複数の画像を同時に縮小表示する。この表示例を図11(A)に示す。
そして、術者はこれら複数の縮小された画像から通常のサイズで(又は拡大)表示したい画像を選択し、さらに決定操作を行うことにより、選択された1つを図11(C)に示すように通常のサイズで表示する。
また、図11(A)の表示例において、複数の画像から別の1つを選択して図11(B)に示すように選択する画像を変更することもできる。また、複数の画像表示の選択が行われない場合には、最初は例えばタイミングtsで取得された1つの画像がモニタ12に表示される。この場合には、1つの画像表示に対して、同様に別の画像の表示の選択等を行うことができる(図示略)。
なお、図10における括弧で示すように、最初にタイミングtsで取得した画像を1つ表示しても良い。この場合にも、他のタイミングで取得した画像を選択して静止画像として表示や保存することができる。
図12は図9のステップS11aによる画像表示の処理動作例を示す。
画像表示がスタートすると、ステップS31に示すようにCPU43又は画像制御回路55は、複数の画像表示の設定(選択)にされているかの判定を行う。
複数の画像表示に設定されている場合には、ステップS32において画像制御回路55は、画像メモリ56からタイミングtsを含む複数の画像信号(例えば時間的に隣接する4フレーム分の画像信号)を読み出し、それぞれ縮小処理する。
さらに、ステップS33において画像制御回路55は、縮小処理した複数の画像信号をモニタ(具体的にはモニタ12として説明する)に出力し、モニタ12には複数の画像が同時に縮小表示される。
この表示例としては図11(A)に示すように4つの第1画像61a、第2画像61b、第3画像、第4画像61dが同時にフリーズ画像で縮小表示される。
次のステップS34において画像制御回路55はCPU43経由で、術者から別の画像の表示の選択指示が有るかの判定を行う。
術者は、これらの画像を観察して、別の画像を表示させることを望む場合には、別の画像の表示を選択する選択操作を行う。
術者により、別の画像の表示を選択する指示操作が行われると、画像制御回路55は、指示操作に対応する画像を画像メモリ56から読み出し、縮小処理する。そしてモニタ12にはステップS35に示すように、別の複数の画像が縮小表示される。この場合の別の複数の画像は、複数の内の1つのみ前の複数の画像と異なるものであっても良いし、複数異なるものであっても良い。
ステップS34において別の複数の画像の表示が選択されなかった場合、或いはステップS35の処理の後、ステップS36において画像制御回路55はCPU43経由で、術者から通常サイズで画像表示、換言すると縮小画像から拡大した通常サイズでの希望とする静止画表示の指示が有るかの判定を行う。
術者はモニタ12に表示される複数の(縮小)画像において、フリーズ画像として適するものがあれば、その画像を選択して決定の指示操作をする。すると、ステップS37に示すように画像制御回路55は、その画像の画像信号を縮小処理しないでモニタ12に出力する。
モニタ12には1つの画像が通常サイズで静止画像として表示される。次のステップS38において画像制御回路55はCPU43経由で、術者からフリーズ解除(フリーズキャンセル)の入力待ちとなる。
術者から音声入力等により、フリーズ解除の指示操作が行われると、ステップS39に示すように画像制御回路55はCPU43経由で、保存の指示が有るか否かの判定を行う。なお、予め、保存するしないの設定を行っておいても良い。
保存の指示或いは設定である場合にはステップS40において、画像制御回路55は、フリーズ画像表示された画像信号をフラッシュメモリ58に保存する。なお、図示しない画像記録装置に保存しても良い。また、保存する場合、画像制御回路55は、可逆的な圧縮処理又は不可逆的な圧縮処理を行うようにしても良い。
その後、ステップS41において画像制御回路55は、TVカメラ装置6からの画像信号をモニタ12に出力するように制御する。そして、モニタ12には動画像が表示される状態に復帰する。
一方、ステップS31において複数の画像の表示が選択(設定)されていない場合には、ステップS42に進む。このステップS42において画像制御回路55は、画像メモリ56からタイミングtsで取得した画像信号を読み出す。そして、次のステップS43において画像制御回路55は、その画像信号をモニタ12に出力する。モニタ12にはその画像信号が静止画像として表示される。
次のステップS44において画像制御回路55はCPU43経由で、術者から別の画像の静止画表示の選択がされるか否かの判定を行う。術者は、別の画像、この場合にはタイミングtsの後に続くタイミング(ts+1で略記)の画像を表示するように選択することができる。この選択がされると、ステップS45に示すようにその選択に対応した別の画像がモニタ12に表示される。
また、この場合には、続くステップS46に示すように、さらに別の画像の表示を選択することもできる。この場合には、タイミング(ts+1)の次となるタイミング(ts+2)の画像、或いは前に戻る選択によりタイミングtsの画像を選択できる。
そして、その選択に対応して、ステップS45に示すように別の画像がモニタ12に表示される。ステップS44、S46において術者が別の画像表示を選択しないとステップS38に移る。そして、上述したステップS38〜ステップS41の処理を行う。
上述したステップS31からステップS37に関して、図11を用いて補足説明する。 複数表示の設定が行われていると、ステップS32に示す処理の後、モニタ12には図11(A)の表示のようになる。
図11(A)の表示例では、動画像におけるタイミングtsからそれ以降に続く4枚の画像信号の縮小処理に対応する第1画像61a〜第4画像61dが表示される。
また、この表示画面において、1つの画像を選択する選択カーソル62が表示される。この選択カーソル62は、初期設定においては第1画像61aの位置にある。選択カーソル62で選択する画像を変更する選択操作を行おうとする場合には、選択カーソル62を移動する。
選択する画像を例えば第1画像61aから第2画像61bに変更したい場合には、例えば第1画像61a〜第4画像61dの下のカメラヘッド割り当てボタン表示部63内に表示されている内容に沿った操作を行えば良い。
図1に示したカメラヘッド19には、図11(A)に示すボタンF1〜F3が設けてある。そして、これらのボタンF1〜F3には、例えばこの図11(A)に示すように進む、戻る、決定の機能が割り当てられている。
そして、術者は、カメラヘッド割り当てボタン表示部63に表示されているボタンF1〜F3におけるボタンF1を操作すれば良い。この操作により、図11(B)に示すように選択する画像を第1画像61aから第2画像61bに変更できる。
また、図11(A)の選択状態において、第1画像61aを通常サイズで(縮小されたサイズから言えば拡大)表示させたい場合には、決定の機能が割り当てられたボタンF3を操作すれば良い。この決定の操作により、図11(C)に示すように通常サイズの第1画像61Aがフリーズ画像として表示される。
また、この図11(C)においては、この第1画像61Aの下に短縮音声コマンド表示部64が表示される。この短縮音声コマンド表示部64には、音声コマンドとして登録されている例えば「保存」、「印刷」、「転送」、「キャンセル」の代わりにそれぞれの短縮音声コマンドとして機能する例えば番号「1」、「2」、「3」、「4」が表示されている。そして、術者は、例えば「保存」の音声入力を行う代わりに「1」と音声入力を行えば良いようにしている。
このような代替手段を用意して、術者による指示操作、音声入力を軽減して、内視鏡外科手術をより円滑に行い易い環境を提供できるようにしている。
本実施例によれば、術者が音声入力で指示したタイミングtsのみでなく、そのタイミングts以後に及ぶ複数枚の静止画像に相当する画像信号を取得するようにしているので、実際にフリーズ画像として観察したい画像を複数の画像から選択することができる。 このため、術者の音声入力による指示操作を軽減することができる。例えば、音声入力による指示のタイミングtsの画像は、術者が希望する静止画像に近いものであるが、そのタイミングtsの直後に術者が静止画像として同程度に望ましいと思う画像状態になる場合があり得る。
この場合、術者は続けて音声入力を行えば良いが、術者は短時間に音声入力を2回(複数回)行わなければならなくなり、術者の負担が増大するが、本実施例によれば1回で済む。
つまり、本実施例によれば音声入力のタイミングtsからその発声区間が終了し、さらに音声認識処理が終了するの時間、連続して画像信号の取得を行っているので、この時間内に1回の音声入力を行えば良い。
また、このように音声入力する時間を短くすることにより、音声認識の処理の信頼性を向上することができる。
上述のように短時間に2回の音声入力を行う場合には、少なくとも発声区間を確保して行わないと、音声認識の処理に時間がかかったり、誤った音声認識を行ってしまう可能性があるが、本実施例はこれを解消できる。
また、音声コマンドを短縮する代替の音声コマンドを用意することにより、やはり音声認識の処理の信頼性を向上することができる。
なお、音声入力の開始のタイミングtsから連続して取得する取得画像の時間を、術者等が選択又は設定できるようにしても良い。
また、動画像を連続的に取得する代わりに、駒落ちした状態の動画像(例えば数枚/秒)或いは複数枚の静止画像を取得するようにしても良い。
なお、例えば複数のフリーズ画像を縮小表示する場合、動画像の縮小画像を同時に表示するようにしても良い。例えば図11(A)における第4画像61dの位置に、縮小された動画像を常時表示するようにしても良い。この場合には、1つの動画像と、3個の静止画像が同時に縮小表示される状態になる。
次に本発明の実施例3を説明する。図13から図16は、実施例3に係り、図13は実施例3における内視鏡画像制御装置の構成を示し、図14は実施例3の動作内容を示し、図15は実施例3の動作を時間軸上で示す。
図11に示す実施例3に係る内視鏡画像制御装置48Dは、例えば図8に示す内視鏡画像制御装置48Cにおいて、画像メモリ56の代わりにリングバッファメモリ56Dが採用されている。
このリングバッファメモリ56Dは、実施例2の画像メモリ56のように所定時間以上の動画像を構成する複数のフレーム分の画像信号を一時記憶する記憶容量を備えている。 本実施例においては、この所定時間として例えばデフォルト値として、tc−tsの2倍程度に設定されている。この所定時間は、術者等が可変設定することができる。
また、このリングバッファメモリ56Dは、これを構成するメモリセルのアドレス値がリング状につながるように設定されているか、これと同等の機能が達成されるように(画像制御回路55により)アドレス制御される。
このリングバッファメモリ56Dは、例えば図13に示すように1番目のメモリセル71−1、2番目のメモリセル71ー2、…、m番目のメモリセル71−mで構成され、画像制御回路55の制御により、1番目のメモリセル71−1から順に画像信号を記憶する。
そして、画像制御回路55の制御により、m番目のメモリセル71−mまで画像信号を記憶した後、次の(m+1番目となる)画像信号が入力された場合には、1番目のメモリセル71−1に上書き(オーバライト)する。
また、リングバッファメモリ56Dには、画像信号と共に、各画像信号の一時記憶のタイミングを特定する時刻情報とが関連付けて記憶される。なお、画像信号を例えば所定のクロックに同期した一定の間隔でリングバッファメモリ56Dに記憶する動作の場合には、この時刻情報は必ずしも必要不可欠のものでない。
また、本実施例においては、画像制御回路55は、リングバッファメモリ56Dに対して常時、画像信号を記憶するように制御する。そして、A/D変換部51のコンパレータ51aから音声入力の開始のタイミングtsの検知信号が入力されると、画像制御回路55は、そのタイミングtsの時刻情報を、例えば画像制御回路55内のレジスタ55bに記憶する。
そして、このタイミングtsからtcーts経過してフリーズ画像表示を行った場合には、画像取得を中断する。その後、フリーズ画像表示が解除されると、再び画像取得を開始する。
次に図14のフローチャートを参照して本実施例の動作を説明する。本実施例の動作は、例えば図4のフローチャートにおけるステップS1の前にステップS51の処理を行う。
本システムの電源が投入され、医療機器、システムコントローラ15等が動作状態になる。
ステップS51に示すようにシステムコントローラ15内の内視鏡画像制御装置48Dを構成する画像制御回路55は、TVカメラ装置6から出力される画像信号がリングバッファメモリ56Dに記憶させるように制御する。つまり、画像取得手段となるリングバッファメモリ56Dは、画像取得を開始する。以後、TVカメラ装置6から出力される画像信号は、常時、リングバッファメモリ56Dに記憶される。
この場合、リングバッファメモリ56Dは、その記憶容量により所定時間の周期で、以前の画像信号をオーバライトしながら新しい画像信号を記憶する。また、各画像信号は、例えば時刻情報と関連付けて記憶される。
その後、図4のフローチャートと同様にステップS1,S2を行い、ステップS3の代わりにステップS3bの処理を行う。
このステップS3bにおいて画像制御回路55は、音声入力の開始のタイミングtsの検知信号が入力されると、そのタイミングtsの時刻情報を、例えばその内部のレジスタ55cに記憶する。
その後、図4と同様にステップS4〜S7の処理を行う。このステップS7の後、例えばステップS7bに示すようにリングバッファメモリ56Dは画像(信号)取得を終了する。より具体的には、画像制御回路55はリングバッファメモリ56Dによる画像信号の記憶を終了させる。
このステップS7bの処理により、リングバッファメモリ56Dにはタイミングts以後はtc付近までの画像信号が、またタイミングts以前のものとしては、ほぼtc−ts程度遡ったタイミングまでの画像信号が取得される状態になる(リングバッファメモリ56Dの記憶容量をtc−tsの2倍程度の時間、画像信号を記憶するようにした場合)。
その後は、図9のステップS8以降(ステップS13まで)と殆ど同様の処理を行う。なお、この場合には図9のステップS12において取得した画像の破棄の代わりのステップS12aに示すように画像制御回路55の内部のレジスタ55cに記憶したタイミングtsの時刻情報の破棄で良い。或いは両方を破棄しても良い。
図15は本実施例の動作を時間軸上で示したものである。
本実施例は実施例2がタイミングts以降の画像信号(画像)を取得するのに対して、そのタイミングtsの過去側の画像信号(画像)も取得できる。従って、実際にフリーズ画像として表示させる場合、タイミングts以前の画像からも選択できる。
なお、フリーズの音声コマンドと音声認識した場合には、最初はタイミングtsを中心として時間的に前後する4個の画像を、例えば図11(A)のように表示しても良い。 本実施例によれば、簡単な構成で、音声入力のタイミングts以後は勿論、そのタイミングts以前の画像信号も、音声入力で指示されたタイミングtsをほぼ時間中心として取得することができる。
また、この場合には、実施例2で説明したように複数の縮小画像を同時に表示して、その表示状態から術者が望む1つの画像をフリーズ画像として表示させることができる。実施例2においてはタイミングts以降の画像のみを選択できたが、本実施例では、時間的に過去の画像も選択することができる。
このため、術者がフリーズ画像をより広範囲に選択することができる。例えば、術者がフリーズ指示のタイミングを逃しても、その逃したタイミングのあとで音声入力すれば、その逃したタイミングよりも前のタイミングの画像も記憶しているので、その逃したタイミングの画像を選択して表示させることができる。
また、本実施例は、音声入力のタイミングtsを含むその周辺時間の画像信号のみを取得するようにしているため、画像取得手段としてのリングバッファメモリ56Dの記憶容量として大きなものを必要としない。
なお、本実施例の変形例として大きな記憶容量を有する画像メモリ56を採用できる場合には、システム1の動作開始から終了時まで、画像メモリに連続的に画像信号を一時記憶するようにしても良い。
この場合における動作内容は図16のフローチャートのようになる。図16は、図14において、ステップS7bの処理を行わない。その他は図14と同様の処理を行う。本変形例は簡単な制御動作で済むメリットがある。
この場合には、実施例3と同様に音声入力のタイミングtsの以後及び以前の画像を選択して表示すること等ができると共に、その画像選択の範囲をより広げることができる。 また、本変形例によれば、画像取得を常時行えば良いため、その制御がより簡単になる。
なお、実施例3の説明として1つのリングバッファメモリ56Dの場合で説明したが、変形例として、複数のリングバッファメモリ56Dを形成しても良い。
つまり、1つのリングバッファメモリ56Dの場合には、フリーズの音声入力を行った場合には、そのフリーズの音声認識処理の後、静止画表示の際には、リングバッファメモリ56Dの画像が更新されないように画像の一時記憶(取得)を停止する。そして、リングバッファメモリ56Dの画像の保存或いは破棄が確定した後、再びリングバッファメモリ56Dの画像取得が開始する。
このため、例えば第1のリングバッファメモリでの画像取得が停止している場合、第2のリングバッファメモリにより画像取得を行うことができるように複数のリングバッファメモリを備えた構成にしても良い。
なお、実施例1から実施例3は、音声入力に対する認識処理に関する内容であったが、本発明は、その他の操作指示方法についても適用することが可能である。
例えば、手や足の動作により操作指示を行う場合においては、動作認識手段が動作の検知を開始したタイミングに同期した画像を暫定的に取得し、動作認識手段により認識された結果に基づき、取得した画像の表示等を行うことが可能となる。
なお、上述した各実施例等を部分的に組み合わせる等して構成される実施例等も本発明に属する。
内視鏡を用いて手術、検査を行う場合、音声入力により静止画像の表示等を行えるようにして操作性を向上した。また、音声入力の場合には、音声入力のタイミングからそれが実行されるまでに時間を要するが、音声入力のタイミングに同期した画像を暫定的に取得し、音声認識の結果に応じて、取得した画像の静止画像表示等を行うことにより、指示されたタイミングの静止画像表示等を行えるようにした。
図1は本発明の実施例1に係る内視鏡外科手術システムの全体構成を示す構成図。 図2は、図1における医療機器等の接続関係等を示すブロック図。 図3は内視鏡画像制御装置の構成を示すブロック図。 図4は実施例1の動作内容を示すフローチャート。 図5は実施例1における動作内容を時間軸上で示す動作説明図。 図6は変形例における内視鏡画像制御装置の構成を示すブロック図。 図7は変形例の動作内容の一部を示すフローチャート。 図8は本発明の実施例2に係る内視鏡画像制御装置の構成を示すブロック図。 図9は実施例2の動作内容を示すフローチャート。 図10は実施例2の動作を時間軸上で示す動作説明図。 図11は取得した画像を同時に複数表示する表示例等を示す図。 図12は取得した画像を表示する動作内容のフローチャートを示す。 図13は実施例3における内視鏡画像制御装置の構成を示すブロック図。 図14は実施例3の動作内容を示すフローチャート。 図15は実施例3における動作内容を時間軸上で示す動作説明図。 図16は変形例における動作内容を示すフローチャート。 図17は従来例における音声入力した場合の動作内容を示すフローチャート。 図18は、図17の動作を時間軸上で示す動作説明図。
符号の説明
1…内視鏡外科手術システム
6、23…TVカメラ装置
12、27…モニタ
15…システムコントローラ
17、32…内視鏡
18…マイク
19、33…カメラヘッド
36…リモコン
42…画像制御部
43…CPU
44…音声認識処理部
51…A/D変換部
52…音声メモリ
53…音声コマンドデータベース
55…画像制御回路
56…画像メモリ
58…フラッシュメモリ
56D…リングバッファメモリ

Claims (6)

  1. 内視鏡に内蔵若しくは装着された撮像装置により撮像された信号から表示装置に内視鏡動画像を表示可能する画像信号を生成する画像処理手段と、
    音声入力により指示操作を行う音声入力手段と、
    少なくとも前記音声入力の開始のタイミングに、少なくとも1枚の静止画像に相当する画像信号を取得する画像取得手段と、
    前記音声入力に対して、少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、
    前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の開始のタイミングで取得された画像信号を表示装置に出力若しくは画像記録装置に保存する制御を行う制御手段と、
    を備えることを特徴とする内視鏡装置。
  2. 前記画像取得手段は、前記音声入力の開始のタイミングに同期した1枚の静止画像に相当する画像信号を含む、前記タイミング以後の複数枚の静止画像に相当する画像信号を取得することを特徴とする請求項1に記載の内視鏡装置。
  3. 前記画像取得手段は、前記音声入力の開始のタイミングに同期した1枚の静止画像に相当する画像信号を含む、前記タイミング以前及び以後にわたる複数枚の静止画像に相当する画像信号を取得することを特徴とする請求項1又は2に記載の内視鏡装置。
  4. 前記画像取得手段は、前記音声入力の開始のタイミング以後の所定期間におよぶ動画像の画像信号を取得することを特徴とする請求項1から3のいずれかの請求項に記載の内視鏡装置。
  5. 前記制御手段は、前記画像取得手段により複数枚の静止画像に相当する画像信号を取得した場合には、表示装置に複数の静止画像を同時に表示させる制御を行うことを特徴とする請求項1から4のいずれかの請求項に記載の内視鏡装置。
  6. 音声入力により指示操作を行う音声入力手段と、
    少なくとも前記音声入力の検出開始のタイミングに、内視鏡動画像における少なくとも1枚の静止画像に相当する画像信号を取得する画像取得手段と、
    前記音声入力が少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、
    前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の検出開始のタイミングに対応する前記画像記憶手段に記憶された画像を表示装置に出力若しくは画像記録装置に保存する制御を行う制御手段と、
    を備えることを特徴とする内視鏡画像制御装置。
JP2007154561A 2007-06-11 2007-06-11 内視鏡装置及び内視鏡画像制御装置 Expired - Fee Related JP5484658B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007154561A JP5484658B2 (ja) 2007-06-11 2007-06-11 内視鏡装置及び内視鏡画像制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007154561A JP5484658B2 (ja) 2007-06-11 2007-06-11 内視鏡装置及び内視鏡画像制御装置

Publications (2)

Publication Number Publication Date
JP2008302146A true JP2008302146A (ja) 2008-12-18
JP5484658B2 JP5484658B2 (ja) 2014-05-07

Family

ID=40231367

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007154561A Expired - Fee Related JP5484658B2 (ja) 2007-06-11 2007-06-11 内視鏡装置及び内視鏡画像制御装置

Country Status (1)

Country Link
JP (1) JP5484658B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011015802A (ja) * 2009-07-08 2011-01-27 Hoya Corp 内視鏡装置
WO2011027442A1 (ja) * 2009-09-03 2011-03-10 三菱電機株式会社 エレベータの制御装置
WO2012046518A1 (ja) * 2010-10-06 2012-04-12 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡装置
WO2012056802A1 (ja) * 2010-10-26 2012-05-03 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡装置
WO2013102979A1 (ja) * 2012-01-06 2013-07-11 旭化成株式会社 撮像装置及び情報処理装置
JP2013230319A (ja) * 2012-05-02 2013-11-14 Olympus Corp 内視鏡装置及び内視鏡装置の制御方法
JP2014147543A (ja) * 2013-02-01 2014-08-21 Konica Minolta Inc 超音波画像診断装置
JP2014200547A (ja) * 2013-04-08 2014-10-27 学校法人同志社 内視鏡システム
JP2020091786A (ja) * 2018-12-07 2020-06-11 株式会社日立製作所 音声認識入力装置
JP2022015545A (ja) * 2020-07-09 2022-01-21 Tvs Regza株式会社 制御信号生成回路、受信装置、システム、生成方法、およびプログラム
US20220125409A1 (en) * 2019-08-15 2022-04-28 Fujifilm Corporation Ultrasound system and method of controlling ultrasound system
WO2022118939A1 (ja) * 2020-12-02 2022-06-09 正男 山本 カメラ、呼吸器感染症に関する学習済みモデルの生成方法、呼吸器感染症に関する学習済モデル、呼吸器感染症に関する自動診断方法、並びにコンピュータプログラム
WO2023139985A1 (ja) * 2022-01-19 2023-07-27 富士フイルム株式会社 内視鏡システム、医療情報処理方法、及び医療情報処理プログラム
US11882355B2 (en) 2020-03-17 2024-01-23 Sony Olympus Medical Solutions Inc. Control apparatus and medical observation system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01279689A (ja) * 1988-05-06 1989-11-09 Olympus Optical Co Ltd 色ずれ防止装置
JPH01297035A (ja) * 1988-05-25 1989-11-30 Olympus Optical Co Ltd 内視鏡装置
JPH06178756A (ja) * 1992-12-14 1994-06-28 Fuji Photo Optical Co Ltd 電子内視鏡の操作制御装置
JPH10323326A (ja) * 1997-05-23 1998-12-08 Olympus Optical Co Ltd 内視鏡装置
JP2005181365A (ja) * 2003-12-16 2005-07-07 Olympus Corp 撮像装置
JP2006343829A (ja) * 2005-06-07 2006-12-21 Denso Corp 車両周辺撮影装置および車両周辺撮影方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01279689A (ja) * 1988-05-06 1989-11-09 Olympus Optical Co Ltd 色ずれ防止装置
JPH01297035A (ja) * 1988-05-25 1989-11-30 Olympus Optical Co Ltd 内視鏡装置
JPH06178756A (ja) * 1992-12-14 1994-06-28 Fuji Photo Optical Co Ltd 電子内視鏡の操作制御装置
JPH10323326A (ja) * 1997-05-23 1998-12-08 Olympus Optical Co Ltd 内視鏡装置
JP2005181365A (ja) * 2003-12-16 2005-07-07 Olympus Corp 撮像装置
JP2006343829A (ja) * 2005-06-07 2006-12-21 Denso Corp 車両周辺撮影装置および車両周辺撮影方法

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011015802A (ja) * 2009-07-08 2011-01-27 Hoya Corp 内視鏡装置
CN102482053A (zh) * 2009-09-03 2012-05-30 三菱电机株式会社 电梯控制装置
WO2011027442A1 (ja) * 2009-09-03 2011-03-10 三菱電機株式会社 エレベータの制御装置
KR101322009B1 (ko) * 2009-09-03 2013-10-28 미쓰비시덴키 가부시키가이샤 엘리베이터의 제어장치
JPWO2011027442A1 (ja) * 2009-09-03 2013-01-31 三菱電機株式会社 エレベータの制御装置
JP2012080908A (ja) * 2010-10-06 2012-04-26 Hoya Corp 電子内視鏡用プロセッサ及び電子内視鏡装置
CN103153163A (zh) * 2010-10-06 2013-06-12 Hoya株式会社 用于电子内窥镜的处理器和电子内窥镜设备
US9332890B2 (en) 2010-10-06 2016-05-10 Hoya Corporation Processor for electronic endoscope and electronic endoscope apparatus
WO2012046518A1 (ja) * 2010-10-06 2012-04-12 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡装置
JP2012090701A (ja) * 2010-10-26 2012-05-17 Hoya Corp 電子内視鏡用プロセッサ及び電子内視鏡装置
WO2012056802A1 (ja) * 2010-10-26 2012-05-03 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡装置
CN103179895A (zh) * 2010-10-26 2013-06-26 Hoya株式会社 用于电子内窥镜的处理器以及电子内窥镜设备
US9289113B2 (en) 2010-10-26 2016-03-22 Hoya Corporation Processor for electronic endoscope and electronic endoscope apparatus
CN103959761A (zh) * 2012-01-06 2014-07-30 旭化成株式会社 摄像装置以及信息处理装置
CN103959761B (zh) * 2012-01-06 2018-05-15 旭化成株式会社 摄像装置以及信息处理装置
WO2013102979A1 (ja) * 2012-01-06 2013-07-11 旭化成株式会社 撮像装置及び情報処理装置
JP5308598B1 (ja) * 2012-01-06 2013-10-09 旭化成株式会社 撮像装置及び情報処理装置
US9113056B2 (en) 2012-01-06 2015-08-18 Asahi Kasei Kabushiki Kaisha Image capturing apparatus and information processing apparatus
JP2013230319A (ja) * 2012-05-02 2013-11-14 Olympus Corp 内視鏡装置及び内視鏡装置の制御方法
JP2014147543A (ja) * 2013-02-01 2014-08-21 Konica Minolta Inc 超音波画像診断装置
JP2014200547A (ja) * 2013-04-08 2014-10-27 学校法人同志社 内視鏡システム
JP2020091786A (ja) * 2018-12-07 2020-06-11 株式会社日立製作所 音声認識入力装置
JP7218163B2 (ja) 2018-12-07 2023-02-06 富士フイルムヘルスケア株式会社 音声認識入力装置
US20220125409A1 (en) * 2019-08-15 2022-04-28 Fujifilm Corporation Ultrasound system and method of controlling ultrasound system
US11882355B2 (en) 2020-03-17 2024-01-23 Sony Olympus Medical Solutions Inc. Control apparatus and medical observation system
JP2022015545A (ja) * 2020-07-09 2022-01-21 Tvs Regza株式会社 制御信号生成回路、受信装置、システム、生成方法、およびプログラム
JP7314102B2 (ja) 2020-07-09 2023-07-25 Tvs Regza株式会社 制御信号生成回路、受信装置、システム、生成方法、およびプログラム
WO2022118939A1 (ja) * 2020-12-02 2022-06-09 正男 山本 カメラ、呼吸器感染症に関する学習済みモデルの生成方法、呼吸器感染症に関する学習済モデル、呼吸器感染症に関する自動診断方法、並びにコンピュータプログラム
WO2023139985A1 (ja) * 2022-01-19 2023-07-27 富士フイルム株式会社 内視鏡システム、医療情報処理方法、及び医療情報処理プログラム

Also Published As

Publication number Publication date
JP5484658B2 (ja) 2014-05-07

Similar Documents

Publication Publication Date Title
JP5484658B2 (ja) 内視鏡装置及び内視鏡画像制御装置
JP4832770B2 (ja) 医療支援システム
JP2004181229A (ja) 遠隔手術支援システム及び支援方法
US11672516B2 (en) Control apparatus, control method, and control system
WO2018207537A1 (ja) ワイヤレス内視鏡及びワイヤレス内視鏡システム
JP2009207872A (ja) 医療制御装置及び該システム
JP7334499B2 (ja) 手術支援システム、制御装置及び制御方法
JP2006198032A (ja) 手術支援システム
JPWO2019017208A1 (ja) 手術システム、制御方法、手術機器、並びにプログラム
US10130240B2 (en) Medical system
JP2004275360A (ja) 内視鏡システム
JP7188083B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP2007080094A (ja) アプリケーション起動管理システム
JP2006223374A (ja) 手術支援装置、手術支援システム及び手術支援方法
WO2005084525A1 (ja) 画像処理装置
US11141053B2 (en) Endoscope apparatus and control apparatus
WO2021010193A1 (ja) 医療機器制御システム、制御装置、および制御方法
JP4127769B2 (ja) 医療制御システム
JP2006288956A (ja) 手術システム
JP2004357789A (ja) 被検体観察システム及び被検体観察システムの制御方法
JP2008173398A (ja) 医療機器制御システム
JP2006305155A (ja) 制御装置
WO2020250776A1 (ja) 医療用システム、通信方法、撮影装置、情報処理装置、及び、内視鏡システム
JP2009261522A (ja) 医用画像生成システム
JP6912925B2 (ja) 画像記録再生装置及び内視鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100528

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140219

R151 Written notification of patent or utility model registration

Ref document number: 5484658

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees