JPWO2016088452A1 - 医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラム - Google Patents

医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラム Download PDF

Info

Publication number
JPWO2016088452A1
JPWO2016088452A1 JP2016504822A JP2016504822A JPWO2016088452A1 JP WO2016088452 A1 JPWO2016088452 A1 JP WO2016088452A1 JP 2016504822 A JP2016504822 A JP 2016504822A JP 2016504822 A JP2016504822 A JP 2016504822A JP WO2016088452 A1 JPWO2016088452 A1 JP WO2016088452A1
Authority
JP
Japan
Prior art keywords
image
mode
signal input
unit
contact
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016504822A
Other languages
English (en)
Other versions
JP5945652B1 (ja
Inventor
日比 靖
靖 日比
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Application granted granted Critical
Publication of JP5945652B1 publication Critical patent/JP5945652B1/ja
Publication of JPWO2016088452A1 publication Critical patent/JPWO2016088452A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/467Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4444Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
    • A61B8/4472Wireless probes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/54Control of the diagnostic device

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本発明にかかる医療用観測装置は、操作者と非接触な操作によって第1の操作指示信号の入力を受け付ける非接触型信号入力手段と、操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段と、第1の操作指示信号に応じて観測画像に対する処理モードを設定し、接触型信号入力手段に入力される第2の操作指示信号に対して該設定した処理モードに応じた信号入力機能を割り当てる制御を行う制御部と、観測画像と、接触型信号入力手段に割り当てられた信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を生成する画像処理部と、を備えた。

Description

本発明は、例えば、超音波を用いて観測対象を観測する医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラムに関する。
観測対象である生体組織または材料の特性を観測するために、超音波を適用することがある。具体的には、観測対象に超音波を送信し、その観測対象によって反射された超音波エコーに対して所定の信号処理を施すことにより、観測対象の特性に関する情報を取得する。
超音波を適用した体内の生体組織などの診断には、挿入部の先端に超音波振動子が設けられた超音波内視鏡が用いられる。医師などの術者は、挿入部を体内に挿入後、手元の操作部を操作することにより、超音波振動子によって超音波エコーを取得し、該超音波エコーに基づく情報(超音波画像)をもとに診断を行う。
図16は、従来の超音波診断を行うシステムの構成を示す模式図である。図16に示す超音波診断システム500は、先端に超音波振動子および撮像素子が設けられた挿入部を有する超音波内視鏡501と、超音波内視鏡501が取得した超音波エコーおよび撮像信号に基づく画像を生成する画像処理装置502と、画像処理装置502と接続し、指示信号などの信号を入力するキーボード503と、超音波エコーに基づく画像を表示する超音波画像モニタ504と、撮像信号に基づく画像を表示する内視鏡画像モニタ505と、を備える。術者S1は、超音波内視鏡501の挿入部を被検体S2に挿入し、キーボード503や超音波内視鏡501に設けられた操作部を介して指示信号を入力することで、超音波画像の調整、具体的には画像の回転や移動などを行って診断する。
ところで、検査室などのレイアウト上、術者S1と画像処理装置502(キーボード503)とが離れてしまうことがある。術者S1と画像処理装置502(キーボード503)とが離れてしまうと、操作性が低下してしまう。この問題に対し、音声認識とフットコントロールとの組み合わせにより術者が装置から離れていても操作できる技術が開示されている(例えば、特許文献1を参照)。
特開2003−614号公報
超音波エコーは、体内のある観察位置での断面を示す性質上、観察位置がずれると観察する断面画像が異なるものとなってしまうため、観察位置を維持することが重要となる。しかしながら、上述した特許文献1に記載の技術では、例えば術者がフットコントロールを操作して画像の調整を行う際に、フットコントロールの配置などを確認するために超音波画像モニタ504から目をそらしてしまうと、観察位置が変化しても気付かないまま観察を続けてしまうおそれがあった。
本発明は、上記に鑑みてなされたものであって、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うことができる医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明にかかる医療用観測装置は、観測対象の画像を生成するための信号を取得し、該取得した信号に基づく観測画像を生成する医療用観測装置であって、操作者と非接触な操作によって第1の操作指示信号の入力を受け付ける非接触型信号入力手段と、操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段と、前記第1の操作指示信号に応じて前記観測画像に対する処理モードを設定し、前記接触型信号入力手段に入力される前記第2の操作指示信号に対して該設定した処理モードに応じた信号入力機能を割り当てる制御を行う制御部と、前記観測画像と、前記接触型信号入力手段に割り当てられた前記信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を生成する画像処理部と、を備えたことを特徴とする。
本発明にかかる医療用観測装置は、上記発明において、前記制御部は、前記第1の操作指示信号の入力に応じた処理モードの切り替え、前記処理モードに応じた前記案内画像の切り替え、または前記処理モードにおける信号入力機能の切り替えを制御することを特徴とする。
本発明にかかる医療用観測装置は、上記発明において、前記非接触型信号入力手段は、音声、ジェスチャ、視線または脳波を検出し、前記接触型信号入力手段は、キーボード、トラックボール、マウス、タッチパネル、レバー、ダイヤル、ジョイスティックおよびフットスイッチのうち少なくとも一つを含むことを特徴とする。
本発明にかかる医療用観測装置は、上記発明において、前記処理モードにおける前記信号入力機能は、連続的もしくは非連続的、または多段階的もしくは無段階的な接触操作を含むことを特徴とする。
本発明にかかる医療用観測装置は、上記発明において、前記処理モードは、画像を回転させる回転モード、観測領域のうち画像表示するための表示領域を設定する表示領域設定モード、文字入力モード、フォーカス位置設定モード、拡大または縮小モード、関心領域の設定モードおよび計測モードのうち少なくとも一つを含むことを特徴とする。
本発明にかかる医療用観測装置は、上記発明において、前記案内画像は、前記接触型信号入力手段で操作する方向と、前記処理モードにおける前記信号入力機能に応じて動作する方向との関係を示す画像であることを特徴とする。
本発明にかかる医療用観測装置は、上記発明において、前記観測対象の画像を生成するための信号は、該観測対象に対して送信した超音波が前記観測対象によって反射された超音波エコーを電気信号に変換したエコー信号に基づいて生成される信号であることを特徴とする。
本発明にかかる医療用観測装置の作動方法は、観測対象の画像を生成するための信号を取得し、該取得した信号に基づく観測画像を表示する医療用観測装置の作動方法であって、操作者と非接触な操作による第1の操作指示信号の入力を非接触型信号入力手段が受け付ける非接触型信号入力ステップと、前記第1の操作指示信号に応じて前記観測画像に対する処理モードを設定する制御を制御部が行うモード設定ステップと、操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段に対し、前記モード設定ステップで設定された前記処理モードに応じた信号入力機能を割り当てる制御を前記制御部が行う機能割り当てステップと、前記観測画像と、前記接触型信号入力手段に割り当てられた前記信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を画像処理部が生成する画像処理ステップと、を含むことを特徴とする。
本発明にかかる医療用観測装置の作動プログラムは、観測対象の画像を生成するための信号を取得し、該取得した信号に基づく観測画像を表示する医療用観測装置の作動プログラムであって、操作者と非接触な操作によって第1の操作指示信号の入力を非接触型信号入力手段が受け付ける非接触型信号入力手順と、前記第1の操作指示信号に応じて前記観測画像に対する処理モードを設定する制御を制御部が行うモード設定手順と、操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段に対し、前記モード設定手順で設定された前記処理モードに応じた信号入力機能を割り当てる制御を前記制御部が行う機能割り当て手順と、前記観測画像と、前記接触型信号入力手段に割り当てられた前記信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を画像処理部が生成する画像処理手順と、を前記医療用観測装置に実行させることを特徴とする。
本発明によれば、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うことができるという効果を奏する。
図1は、本発明の実施の形態1にかかる超音波内視鏡システムの構成を示すブロック図である。 図2は、本発明の実施の形態1にかかる処理装置が行う画像調整操作を説明するフローチャートである。 図3は、本発明の実施の形態1にかかる処理装置が行う画像調整操作を説明する図である。 図4は、本発明の実施の形態1にかかる処理装置が行う画像調整操作を説明する図である。 図5は、本発明の実施の形態1の変形例にかかる処理装置が行う画像調整操作を説明する図である。 図6は、本発明の実施の形態1の変形例にかかる処理装置が行う画像調整操作を説明する図である。 図7は、本発明の実施の形態2にかかる処理装置が行う画像調整操作を説明するフローチャートである。 図8は、本発明の実施の形態2にかかる処理装置が行う画像調整操作を説明する図である。 図9は、本発明の実施の形態2にかかる処理装置が行う画像調整操作を説明する図である。 図10は、本発明の実施の形態3にかかる処理装置が行う画像調整操作を説明する図である。 図11は、本発明の実施の形態3にかかる処理装置が行う画像調整操作を説明する図である。 図12は、本発明の実施の形態3にかかる処理装置が行う画像調整操作を説明する図である。 図13は、本発明の実施の形態4にかかる処理装置が行う画像調整操作を説明するフローチャートである。 図14は、本発明の実施の形態4にかかる処理装置が行う画像調整操作を説明する図である。 図15は、本発明の実施の形態4の変形例にかかる処理装置が行う画像調整操作を説明する図である。 図16は、従来の超音波診断を行うシステムの構成を示す模式図である。
以下、添付図面を参照して、本発明を実施するための形態(以下、「実施の形態」という)を説明する。また、以下の説明において、超音波エコーに基づく超音波画像を生成する医療用観測装置を含む超音波内視鏡システムを例示するが、この実施の形態によって本発明が限定されるものではない。また、同一の構成には同一の符号を付して説明する。
(実施の形態1)
図1は、本発明の実施の形態1にかかる超音波内視鏡システムの構成を示すブロック図である。同図に示す超音波内視鏡システム1は、超音波を用いて観測対象を観測するための装置である。
超音波内視鏡システム1は、超音波パルスを出力して反射した超音波エコーを受信するとともに、超音波パルスの出力領域を含む撮像領域を撮像し、撮像信号として取得する超音波内視鏡2と、超音波内視鏡2が取得した超音波エコーおよび撮像信号に基づく画像をそれぞれ生成する処理装置3と、処理装置3により生成された超音波エコーに基づく画像を含む各種情報を表示する超音波画像表示部4と、処理装置3により生成された撮像信号に基づく画像を含む各種情報を表示する内視鏡画像表示部5と、各種の指示入力を行うためのマイク6、トラックボール7およびキーボード8と、を備える。超音波画像表示部4および内視鏡画像表示部5は、液晶または有機EL(Electro Luminescence)等からなる表示パネルを用いて実現される。
超音波内視鏡2は、被検体の体腔内に挿入することによって被検体の体内画像を撮像する撮像部21と、観測対象へ超音波パルスを出力するとともに、観測対象によって反射された超音波エコーを受信する超音波振動子22と、を先端に有する挿入部と、撮像部21および超音波振動子22の操作を行う操作部とによって構成される。
撮像部21は、光を受光して光電変換を行うことにより信号を生成する画素が2次元状に配列された撮像素子を用いて実現される。撮像素子としては、例えばCCD(Charge Coupled Device)イメージセンサや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサが挙げられる。
ここで、観測対象が生体組織である場合、超音波振動子22は、生体の体表から超音波を照射する体外式探触子の形態、消化管、胆膵管、血管等の管腔内に挿入する長軸の挿入部を備えたミニチュア超音波プローブの形態、管腔内超音波プローブに光学系をさらに備えた超音波内視鏡の形態、のいずれの形態であってもよい。このうち、超音波内視鏡の形態をとった場合には、管腔内超音波プローブの挿入部の先端側に超音波振動子22が設けられ、管腔内超音波プローブは基端側で処理装置と着脱可能に接続する。
超音波振動子22は、送受信部31から受信した電気的なパルス信号を超音波パルス(音響パルス信号)に変換するとともに、外部の検体で反射された超音波エコーを電気的なエコー信号に変換する。超音波振動子22は、超音波振動子をメカ的に走査させるものであってもよいし、複数の超音波振動子を電子的に走査させるものであってもよい。
処理装置3は、送受信部31、画像処理部32、音声認識部33、操作情報入力部34、モード設定部35、感度調整部36、記憶部37および制御部38を有する。
送受信部31は、撮像部21および超音波振動子22との間で電気信号の送受信を行う。送受信部31は、撮像部21と電気的に接続され、撮像タイミングなどの撮像情報を撮像部21に送信するとともに、撮像部21が生成した撮像信号を受信する。また、送受信部31は、超音波振動子22と電気的に接続され、電気的なパルス信号を超音波振動子22へ送信するとともに、超音波振動子22から電気的な受信信号であるエコー信号を受信する。具体的には、送受信部31は、予め設定された波形および送信タイミングに基づいて電気的なパルス信号を生成し、この生成したパルス信号を超音波振動子22へ送信する。
送受信部31は、エコー信号を増幅する信号増幅部31aを有する。信号増幅部31aは、受信深度が大きいエコー信号ほど高い増幅率で増幅するSTC(Sensitivity Time Control)補正を行う。送受信部31は、信号増幅部31aによって増幅されたエコー信号に対してフィルタリング等の処理を施した後、A/D変換することによって時間ドメインのデジタル高周波(RF:Radio Frequency)信号を生成して出力する。
画像処理部32は、撮像信号に基づく内視鏡画像データ、および電気的なエコー信号に対応する画像データの生成を行う。画像処理部32は、超音波画像生成部32a、内視鏡画像生成部32b、画像合成部32cおよび表示画像生成部32dを有する。
超音波画像生成部32aは、エコー信号の振幅を輝度に変換して表示する超音波画像であるBモード画像データを生成する。超音波画像生成部32aは、デジタル信号に対してバンドパスフィルタ、対数変換、ゲイン処理、コントラスト処理等の公知の技術を用いた信号処理を行うとともに、超音波画像表示部4における画像の表示レンジに応じて定まるデータステップ幅に応じたデータの間引き等を行うことによってBモード画像データを生成する。Bモード画像は、色空間としてRGB表色系を採用した場合の変数であるR(赤)、G(緑)、B(青)の値を一致させたグレースケール画像である。本実施の形態1では、Bモード画像は、超音波エコーを受信した走査領域のうちの一部を切り出した切り出し領域の画像であるものとして説明する。
内視鏡画像生成部32bは、撮像信号をもとに、内視鏡画像表示部5が表示する体内画像データを生成する。内視鏡画像生成部32bは、撮像信号に対して、所定の画像処理を実行して体内画像を含む体内画像データを生成する。体内画像は、色空間としてRGB表色系を採用した場合の変数であるR、G、Bの値をそれぞれ有するカラー画像である。
画像合成部32cは、例えば、超音波画像生成部32aが生成したBモード画像データと、マイク6やトラックボール7などにより入力された信号に応じた画像(操作情報画像)とを合成した合成画像(表示用画像)を含む合成画像データを生成する。
表示画像生成部32dは、超音波画像生成部32a、内視鏡画像生成部32bまたは画像合成部32cにより生成された画像データに対して、階調処理などの所定の処理を施した後、該処理後の信号を表示用の表示画像データとして出力する。
音声認識部33は、マイク6に入力された音声の周波数を検出し、検出した音声の周波数と、予め記憶されている特徴データとを比較して言語系列を認識結果(第1の操作指示信号)として受け付ける。具体的には、音声認識部33は、術者によりマイク6に「回転」と音声入力があった場合、「回転」と認識し、「回転」にかかるコマンドを認識結果として制御部38に出力する。
操作情報入力部34は、トラックボール7やキーボード8からの操作指示信号の入力を受け付け、制御部38に出力する。操作情報入力部34は、例えばトラックボール7が操作された場合、該トラックボール7の移動量(回転方向や回転量など)を含む指示信号(第2の操作指示信号)を制御部38に出力する。
モード設定部35は、音声認識部33の認識結果(コマンド)に基づき、画像調整モードを設定する。具体的には、モード設定部35は、音声認識部33から「回転」にかかるコマンドが入力されると、画像調整モードを「回転モード」に設定する。モード設定部35は、設定した画像調整モードに関する情報を制御部38に出力する。
感度調整部36は、モード設定部35により設定された画像調整モードに応じて、操作情報入力部34に入力されたトラックボール7の回転方向や回転量に応じた画像の調整量を算出する。具体的には、感度調整部36は、モード設定部35により設定された画像調整モードが「回転モード」である場合、トラックボール7の回転方向に応じた画像の回転方向を判断するとともに、トラックボール7の回転量をもとに画像の回転量を算出する。感度調整部36は、判断した回転方向、および算出した回転量を制御部38に出力する。
記憶部37は、超音波内視鏡システム1を動作させるための各種プログラム、および超音波内視鏡システム1の動作に必要な各種パラメータ等を含むデータなどを記憶する。記憶部37は、感度テーブル記憶部37aおよび操作情報画像記憶部37bを有する。
感度テーブル記憶部37aは、音声認識部33から入力されるコマンド(画像調整モード)に応じて作成され、モードごとの画像調整量、例えば回転方向および回転量などを記憶する。
操作情報画像記憶部37bは、画像調整モードに応じた操作情報画像(案内画像)を記憶する。操作情報画像とは、接触型信号入力手段(トラックボール7)で操作する方向と、処理モード(画像調整モード)における信号入力機能に応じて動作する方向との関係を示す画像であり、例えば、トラックボール7により画像を回転させる回転モードの場合、術者の手の位置と、トラックボール7との配置に対する回転方向を案内する画像のことをいう。操作情報画像は、画像合成部32cによりBモード画像と合成されて超音波画像表示部4に表示される。
また、記憶部37は、超音波内視鏡システム1の作動方法を実行するための作動プログラムを含む各種プログラムを記憶する。作動プログラムは、ハードディスク、フラッシュメモリ、CD−ROM、DVD−ROM、フレキシブルディスク等のコンピュータ読み取り可能な記録媒体に記録して広く流通させることも可能である。なお、上述した各種プログラムは、通信ネットワークを介してダウンロードすることによって取得することも可能である。ここでいう通信ネットワークは、例えば既存の公衆回線網、LAN(Local Area Network)、WAN(Wide Area Network)などによって実現されるものであり、有線、無線を問わない。
以上の構成を有する記憶部37は、各種プログラム等が予めインストールされたROM(Read Only Memory)、および各処理の演算パラメータやデータ等を記憶するRAM(Random Access Memory)等を用いて実現される。
制御部38は、制御機能を有するCPU(Central Processing Unit)や各種演算回路等を用いて実現される。制御部38は、記憶部37が記憶、格納する情報を記憶部37から読み出し、超音波内視鏡システム1の作動方法に関連した各種演算処理を実行することによって超音波内視鏡システム1を統括して制御する。
マイク6は、本発明の非接触型操作手段としての機能を有し、術者などが発した声(音)を電気信号に変換する。なお、非接触とは、物理的な接触を介さないことをいう。
トラックボール7は、本発明の接触型操作手段としての機能を有するポインティングデバイスであり、術者の操作により球体(ボール)が回転することで、該回転の方向や回転量(または回転速度)などに関する信号を出力する。
キーボード8は、複数のキーが設けられ、キーの押下により、該キーに応じた信号を出力する。なお、キーボード8は、複数のキーがタッチパネルにより実現されるものであってもよいし、画像を表示する表示部を有するものであってもよい。
続いて、以上の構成を有する超音波内視鏡システム1の処理装置3が行う画像調整操作について、図面を参照して説明する。図2は、本実施の形態1にかかる処理装置が行う画像調整操作を説明するフローチャートである。
まず、制御部38は、マイク6からの音声入力があるか否かを判断する(ステップS101:非接触型信号入力ステップ)。制御部38は、音声認識部33から認識結果が得られた場合(ステップS101:Yes)、ステップS102に移行する。これに対し、制御部38は、音声認識部33から認識結果が得られない場合(ステップS101:No)、ステップS101に戻り、マイク6からの音声入力の確認を繰り返す。
制御部38は、ステップS102に移行すると、音声認識部33からの認識結果が画像調整に関するものであるか否かを判断する。ここで、制御部38は、認識結果として出力されたコマンドを参照し、画像調整に関するコマンドであるか否かを判断する。制御部38は、認識結果として出力されたコマンドが画像調整に関するコマンドであると判断した場合(ステップS102:Yes)、ステップS103に移行する。これに対し、制御部38は、認識結果として出力されたコマンドが画像調整に関するコマンドではないと判断した場合(ステップS102:No)、ステップS101に戻り、マイク6からの音声入力の確認を繰り返す。
なお、ステップS101およびS102において、音声認識部33から認識結果が得られない場合(ステップS101:No)や、認識結果として出力されたコマンドが画像調整に関するコマンドではないと判断した場合(ステップS102:No)は、ステップS101に戻らずに、画像調整操作処理を終了するようにしてもよい。
ステップS103では、制御部38は、モード設定部35に対し、認識結果として出力されたコマンドに応じて画像調整モードの設定を行うよう制御する(モード設定ステップ)。例えば、モード設定部35は、音声認識部33から「回転」にかかるコマンドが入力された場合、画像調整モードを「回転モード」に設定する。モード設定部35は、設定した画像調整モードに関する情報を制御部38に出力する。
制御部38は、モード設定部35から画像調整モードに関する情報が出力されると、トラックボール7により入力される信号に対して、設定されたモードに応じた信号入力機能の割り当て処理を行う(ステップS104:機能割り当てステップ)。
その後、制御部38は、Bモード画像と操作情報画像とを有する表示用画像の生成処理を行う(ステップS105:画像処理ステップ)。表示用画像生成処理では、画像合成部32cが、操作情報画像記憶部37bを参照して、設定されたモードに応じた操作情報画像を取得し、Bモード画像データとともに、該操作情報画像が超音波画像表示部4に表示されるように画像合成処理を行う。
図3は、本実施の形態1にかかる処理装置が行う画像調整操作を説明する図である。画像調整モードでは、超音波画像表示部4が表示する表示領域101において、超音波画像(Bモード画像)を表示する超音波画像表示領域102と、画像調整モードに対応して、画像調整を案内する操作情報画像を表示する操作情報画像表示領域103と、が設けられる(図3参照)。操作情報画像表示領域103では、術者の手110と、トラックボール7の画像(トラックボール画像111)とを示す操作情報画像が表示される。画像調整モードが「回転モード」である場合、術者の手110と、トラックボール画像111とに加え、操作方向を示す矢印Y1が表示される。矢印Y1は、例えば、回転方向および回転量を決定するために設定された基準方向を示す。操作情報画像により、術者の手110の位置(向き)とトラックボール7(トラックボール画像111)との位置関係、および術者の手110の移動方向を視認することができる。
制御部38は、表示用画像の生成処理後、トラックボール7の操作(入力)があるか否かを判断する(ステップS106)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS106:Yes)、ステップS107に移行する。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS106:No)、トラックボール7の操作(入力)の確認を繰り返す。
制御部38は、トラックボール7の操作(入力)がある場合(ステップS106:Yes)、画像の調整量の算出処理を行う(ステップS107)。調整量の算出処理では、感度調整部36が、トラックボール7の回転方向や回転量と、割り当てられた信号入力機能とに応じて画像の調整量を算出する。具体的には、感度調整部36は、設定された画像調整モードが「回転モード」である場合、トラックボール7の回転方向に応じた回転方向を判断するとともに、トラックボール7の回転量をもとに画像の回転量を算出する。
図4は、本実施の形態1にかかる処理装置が行う画像調整操作を説明する図である。感度調整部36は、術者がトラックボール7を回転した際の回転方向に対し、矢印Y1方向の成分の方向および量を検出し、該検出した方向および量をもとに、回転方向を判断するとともに、画像の回転量を算出する。ここで、超音波画像表示領域102に表示される超音波画像は、例えば、図4に示すような、超音波エコーを受信した走査領域200に含まれる領域(例えば、関心領域(Region Of Interest:ROI)や、ROIを含む表示領域などの切り出し領域201)である。感度調整部36により判断される画像の回転方向は、例えば、走査方向の同一深度同士を結ぶ弧(超音波の発振源を中心とする弧)に沿った方向の時計まわり、または反時計まわりとして出力される。なお、画像(切り出し領域201)の中心を回転軸として回転させるものであってもよいし、走査領域200を回転させるものであってもよい。
制御部38は、感度調整部36から回転方向および回転量に関する情報が出力されると、ステップS108に移行して、調整後の画像を生成する画像生成処理を行う。画像生成処理では、超音波画像生成部32aが、回転方向および回転量に関する情報に応じて切り出し領域201を変更し、変更後の切り出し領域に応じたBモード画像を生成する。
その後、制御部38は、トラックボール7の操作(入力)があるか否かを判断する(ステップS109)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS109:Yes)、ステップS107に移行して、上述した調整量算出処理を行う。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS109:No)、処理を終了する。なお、本画像調整操作は、トラックボール7の操作が所定時間以上ない場合に終了すると判断するものであってもよいし、マイク6を介して回転モードが終了する旨の入力(例えば「回転終了」との入力)がある場合に終了すると判断するものであってもよい。
以上説明したように処理装置3によって画像調整操作を行うことにより生成されたBモード画像は、超音波画像表示部4が表示する表示領域101の超音波画像表示領域102に表示される。この調整操作の際、術者は、音声によりモード設定を行い、超音波画像表示部4に表示された操作情報を見ながら手を動かして画像の回転操作を行うため、術者が超音波画像表示部4から視線をそらすことなく操作を行うことができ、画像調整などの操作時に観察位置がずれてしまうことを防止できる。
なお、術者の手の移動方向を確認するため、トラックボール7が操作された際に、回転方向の軌跡を表示するものであってもよい。この場合、軌跡の長さは一定の長さのものを表示する、すなわち回転方向のみを表示するものであってもよいし、回転量に対応させて軌跡の長さを変化させるものであってもよい。
以上説明した本実施の形態1によれば、音声認識部33による認識結果に基づいてモード設定部35がモードを変更し、設定されたモードに応じて超音波画像表示部4に操作情報画像を表示し、トラックボール7による操作を案内するとともに、該トラックボール7の操作に応じて感度調整部36が画像の調整量を算出するようにしたので、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うことができる。
なお、本実施の形態1では、手110がトラックボール画像111の下方に配置されているものとして説明したが、超音波内視鏡システム1のレイアウトなどによって手110の位置を変更してもよい。手110の配置は、操作情報画像として複数パターン記憶されているものであってもよく、例えば画像調整操作前やシステム起動時に手の配置を設定する。
また、上述した実施の形態1では、調整量を決定するための基準方向を設定し、トラックボール7の操作方向の基準方向の成分に応じて調整量を算出するものとして説明したが、操作方向と基準方向とのなす角度に応じて調整量を決定するなど、調整量の算出はこれに限るものではない。
(実施の形態1の変形例)
次に、本発明の実施の形態1の変形例について図面を参照して説明する。図5,6は、本実施の形態1の変形例にかかる処理装置が行う画像調整操作を説明する図である。図6(a)は画像調整の入力があった場合の表示領域の画像を示し、図6(b)は画像調整後の表示領域の画像を示している。上述した実施の形態1では、音声入力により「回転」と指示された例を説明したが、本変形例では、音声入力により「スクロール」と指示された例であり、ラジアル型の超音波振動子によって取得された超音波画像(Bモード画像)が表示されている例を説明する。本変形例では、上述した走査領域200が、超音波振動子が中心に配置された円環状をなし、切り出し領域201が、走査領域上に位置する矩形の領域となる。
上述したフローチャート(図2参照)のステップS103において、モード設定部35は、音声認識部33から「スクロール」にかかるコマンドが入力された場合、画像調整モードを「スクロールモード」に設定する。モード設定部35は、設定した画像調整モードに関する情報を制御部38に出力する。
制御部38は、モード設定部35から画像調整モードに関する情報が出力されると、設定されたモードに応じた信号入力機能の割り当て処理を行い(ステップS104)、Bモード画像と操作情報画像とを有する表示用画像の生成処理を行う(ステップS105:画像処理ステップ)。画像調整モードが「スクロールモード(表示領域設定モード)」である場合、図5に示すように、術者の手110と、トラックボール画像111と、操作方向を示す操作軸Y2が表示される。操作軸Y2は、例えば、画像中心位置の移動方向および移動量を決定するために設定された基準方向を示す直交する二つの軸からなる。操作軸Y2は、走査領域200に対する切り出し領域201の移動方向と、超音波画像表示領域102の画像の移動方向とが一致するように設定された軸となっている。
その後、制御部38は、トラックボール7の操作(入力)がある場合(ステップS106:Yes)、画像の調整量の算出処理を行う(ステップS107)。感度調整部36は、術者がトラックボール7を回転した際の回転方向に対し、操作軸Y2に対するトラックボール7の回転方向の成分の方向および量を検出し、該検出した方向および量をもとに、スクロール方向を判断するとともに、画像のスクロール量を算出する。ここで、感度調整部36により判断される画像(切り出し領域201)のスクロール方向は、例えば、画像中心位置からの移動方向(例えば図6(a)の破線矢印)として出力される。
制御部38は、感度調整部36からスクロール方向およびスクロール量に関する情報が出力されると、ステップS108に移行して、調整後の画像を生成する画像生成処理を行う。画像生成処理では、超音波画像生成部32aが、スクロール方向およびスクロール量に関する情報に応じて切り出し領域201を変更し、変更後の切り出し領域に応じたBモード画像を生成する(図6(b)を参照)。
(実施の形態2)
次に、本発明の実施の形態2について説明する。図7は、本実施の形態2にかかる処理装置が行う画像調整操作を説明するフローチャートである。なお、上述した構成と同一の構成には同一の符号を付して説明する。上述した実施の形態1では、音声入力により「回転」と指示された例を説明したが、本実施の形態2では、音声入力により「コメント」と指示された例を説明する。
まず、制御部38は、マイク6からの音声入力があるか否かを判断する(ステップS201)。制御部38は、音声認識部33から認識結果が得られた場合(ステップS201:Yes)、ステップS202に移行する。これに対し、制御部38は、音声認識部33から認識結果が得られない場合(ステップS201:No)、ステップS201に戻り、マイク6からの音声入力の確認を繰り返す。
制御部38は、ステップS202に移行すると、音声認識部33からの認識結果が画像調整に関するものであるか否かを判断する。ここで、制御部38は、認識結果として出力されたコマンドを参照し、画像調整に関するコマンドであるか否かを判断する。制御部38は、認識結果として出力されたコマンドが画像調整に関するコマンドであると判断した場合(ステップS202:Yes)、ステップS203に移行する。これに対し、制御部38は、認識結果として出力されたコマンドが画像調整に関するコマンドではないと判断した場合(ステップS202:No)、ステップS201に戻り、マイク6からの音声入力の確認を繰り返す。
ステップS203では、モード設定部35は、音声認識部33から「コメント」にかかるコマンドが入力された場合、画像調整モードを「コメントモード(文字入力モード)」に設定する。モード設定部35は、設定した画像調整モードに関する情報を制御部38に出力する。
制御部38は、モード設定部35から画像調整モードに関する情報が出力されると、トラックボール7により入力される信号に対して、設定されたモードに応じた信号入力機能の割り当て処理を行う(ステップS204)。
その後、制御部38は、Bモード画像と操作情報画像とを有する表示用画像の生成処理を行う(ステップS205)。表示用画像生成処理では、画像合成部32cが、操作情報画像記憶部37bを参照して、設定されたモードに応じた操作情報画像を取得し、Bモード画像データとともに、該操作情報画像が超音波画像表示部4に表示されるように画像合成処理を行う。
図8は、本実施の形態2にかかる処理装置が行う画像調整操作を説明する図である。画像調整モードが「コメントモード」である場合、図8に示すように、術者の手110と、トラックボール画像111と、操作方向を示す操作軸Y3が表示される。操作軸Y3は、例えば、コメント入力カーソルP1の移動方向および移動量を決定するために設定された基準方向を示す直交する二つの軸からなる。
制御部38は、表示用画像の生成処理後、トラックボール7の操作(入力)があるか否かを判断する(ステップS206)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS206:Yes)、ステップS207に移行する。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS206:No)、トラックボール7の操作(入力)の確認を繰り返す。
制御部38は、トラックボール7の操作(入力)がある場合(ステップS206:Yes)、コメント入力カーソルP1の調整量の算出処理を行う(ステップS207)。感度調整部36は、術者がトラックボール7を回転した際の回転方向および回転量に対し、操作軸Y3の各軸方向の成分を検出し、該検出した成分をもとに、各軸方向の移動量を算出する。感度調整部36は、該算出した各軸方向の移動量をコメント入力カーソルP1の移動量として出力する。なお、コメント入力カーソルP1の移動量は、各軸方向の移動量を出力するものであってもよいし、Bモード画像における座標であって、移動後の座標を調整量として出力するものであってもよい。
制御部38は、感度調整部36からコメント入力カーソルP1の移動量に関する情報が出力されると、ステップS208に移行して、Bモード画像におけるコメント入力カーソルP1の移動処理を行う。移動処理では、超音波画像生成部32aが、コメント入力カーソルP1の移動量に関する情報に応じて、Bモード画像におけるコメント入力カーソルP1を移動し、移動後のBモード画像を生成する。制御部38は、生成された移動後のBモード画像を超音波画像表示部4(超音波画像表示領域102)に表示する。
その後、制御部38は、トラックボール7の操作(入力)があるか否かを判断する(ステップS209)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS209:Yes)、ステップS207に移行して、上述したコメント入力カーソルP1の移動処理を行う。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS209:No)、ステップS210に移行する。
ステップS210では、マイク6からの音声入力(コメント入力)があるか否かを判断する。画像調整モードが「コメントモード」に設定されると、設定後のマイク6からの音声入力に応じた文字情報(文字列)が、入力コメントとして処理される。制御部38は、音声認識部33から認識結果が得られた場合(ステップS210:Yes)、ステップS211に移行する。これに対し、制御部38は、音声認識部33から認識結果が得られない場合(ステップS210:No)、マイク6からの音声入力の確認を繰り返す。
ステップS211では、音声認識部33からの認識結果に応じたコメントの入力処理を行う。図9は、本実施の形態2にかかる処理装置が行う画像調整操作を説明する図である。コメント入力処理では、制御部38が音声認識部33からの認識結果と、予め記憶されている言語とを比較して比較結果を出力し、画像合成部32cが比較結果に基づく文字列の合成処理を行う。具体的には、「Aorta」と音声入力があった場合、図9に示すように、コメント入力カーソルP1(図8参照)の位置に応じて「Aorta」という文字列が挿入される。なお、「確定」や「変換」などの音声を認識して音声認識を終了し、「変換」の場合に、変換候補を一覧表示するようにしてもよい。なお、変換候補の選択は、各変換候補に付された番号を音声入力して確定させてもよいし、トラックボール7の操作により選択するものであってもよい。
その後、制御部38は、コメント入力処理が完了したか否かを判断する(ステップS212)。制御部38は、所定のコメント入力完了操作により、コメント入力が完了した旨の信号を受け付けると(ステップS212:Yes)、処理を終了する。これに対し、新たにコメントの入力操作があるなど、コメント入力が完了した旨の信号がない場合は(ステップS212:No)、ステップS210に戻り、コメント入力処理を繰り返す。
以上説明した本実施の形態2によれば、音声認識部33による認識結果に基づいてモード設定部35がモードを変更し、設定されたモードに応じて超音波画像表示部4に操作情報画像を表示し、トラックボール7による操作を案内するとともに、該トラックボール7の操作に応じて感度調整部36がコメント入力カーソルP1の移動量を算出し、コメント入力カーソルP1を移動後、音声認識によりコメント入力処理を行うようにしたので、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うことができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。なお、本実施の形態3にかかる図面では、上述した構成と同一の構成には同一の符号を付して説明する。上述した実施の形態1では、音声入力により「回転」と指示された例を説明したが、本実施の形態3では、音声入力により「フォーカス位置」と指示された例を説明する。なお、本実施の形態3にかかる画像調整操作は、図2に示すフローチャートに準じた処理が行われる。
本実施の形態3では、ステップS103において、音声認識部33から「フォーカス位置」にかかるコマンドが入力される。モード設定部35は、音声認識部33から「フォーカス位置」にかかるコマンドが入力されると、画像調整モードを「フォーカス位置変更モード」に設定する。モード設定部35は、設定した画像調整モードに関する情報を制御部38に出力する。
制御部38は、モード設定部35から画像調整モードに関する情報が出力されると、設定されたモードに応じた信号入力機能の割り当て処理を行い(ステップS104)、Bモード画像と操作情報画像とを有する表示用画像の生成処理を行う(ステップS105:画像処理ステップ)。
図10,11は、本実施の形態3にかかる処理装置が行う画像調整操作を説明する図である。画像調整モードが「フォーカス位置変更モード」である場合、術者の手110と、トラックボール画像111とに加え、操作方向を示す矢印Y4が表示される。矢印Y4は、例えば、フォーカス位置を決定するために設定された基準方向を示す。また、表示領域101には、超音波画像表示領域102に表示される画像のフォーカス位置を示すフォーカス位置情報Gfpが表示される。フォーカス位置情報Gfpは、例えば、超音波画像表示領域102の上下方向に沿った深度に対する位置を示している。
制御部38は、トラックボール7の操作(入力)がある場合(ステップS106:Yes)、フォーカス位置の変更処理を行う(ステップS107)。フォーカス位置の変更処理では、感度調整部36によりトラックボール7の回転方向や回転量に応じたフォーカス位置の変更量が算出される。具体的には、感度調整部36は、設定された画像調整モードが「フォーカス位置変更モード」である場合、トラックボール7の回転方向に応じた回転方向を判断するとともに、トラックボール7の回転量をもとにフォーカス位置の変更量を算出する。
図12は、本実施の形態3にかかる処理装置が行う画像調整操作を説明する図である。図12に示すように、超音波振動子22に設けられた振動子22bは、フォーカス位置Fpを中心として超音波の進行方向(図12の上下方向)に略対称な音場SFを形成する。感度調整部36は、術者がトラックボール7を回転した際の回転方向に対し、矢印Y4方向の成分の方向および量を検出し、該検出した方向および量をもとに、フォーカス位置Fpの移動方向を判断するとともに、移動量を算出する。
制御部38は、感度調整部36からフォーカス位置Fpの移動方向および移動量に関する情報が出力されると、ステップS108に移行して、調整後の画像を生成する画像生成処理を行う。本実施の形態3にかかる画像生成処理では、変更後のフォーカス位置Fpで超音波の照射を行って超音波エコーを受信し、超音波画像生成部32aが、変更後のフォーカス位置Fpに応じたBモード画像を新たに生成する(図11参照)。また、図11に示す表示領域101には、図10に示すフォーカス位置に対して変更された変更後のフォーカス位置に応じたフォーカスポイントGfpが表示される。
その後、制御部38は、トラックボール7の操作(入力)があるか否かを判断する(ステップS109)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS109:Yes)、ステップS107に移行して、上述したフォーカス位置Fpの変更処理を行う。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS109:No)、処理を終了する。
以上説明した本実施の形態3によれば、音声認識部33による認識結果に基づいてモード設定部35がモードを変更し、設定されたモードに応じて超音波画像表示部4に操作情報画像を表示し、トラックボール7による操作を案内するとともに、該トラックボール7の操作に応じて感度調整部36がフォーカス位置Fpの変更量を算出するようにしたので、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うことができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。図13は、本実施の形態4にかかる処理装置が行う画像調整操作を説明するフローチャートである。なお、上述した構成と同一の構成には同一の符号を付して説明する。上述した実施の形態1では、音声入力により「回転」と指示された例を説明したが、本実施の形態4では、音声入力により「拡大」と指示された例を説明する。
まず、制御部38は、マイク6からの音声入力があるか否かを判断する(ステップS301)。制御部38は、音声認識部33から認識結果が得られた場合(ステップS301:Yes)、ステップS302に移行する。これに対し、制御部38は、音声認識部33から認識結果が得られない場合(ステップS301:No)、ステップS301に戻り、マイク6からの音声入力の確認を繰り返す。
制御部38は、ステップS302に移行すると、音声認識部33からの認識結果が画像調整に関するものであるか否かを判断する。ここで、制御部38は、認識結果として出力されたコマンドを参照し、画像調整に関するコマンドであるか否かを判断する。制御部38は、認識結果として出力されたコマンドが画像調整に関するコマンドであると判断した場合(ステップS302:Yes)、ステップS303に移行する。これに対し、制御部38は、認識結果として出力されたコマンドが画像調整に関するコマンドではないと判断した場合(ステップS302:No)、ステップS301に戻り、マイク6からの音声入力の確認を繰り返す。
ステップS303では、モード設定部35は、音声認識部33から「拡大」にかかるコマンドが入力された場合、画像調整モードを「拡大モード」に設定する。モード設定部35は、設定した画像調整モードに関する情報を制御部38に出力する。
制御部38は、モード設定部35から画像調整モードに関する情報が出力されると、トラックボール7により入力される信号に対して、設定されたモードに応じた信号入力機能の割り当て処理を行う(ステップS304)。
その後、制御部38は、Bモード画像と操作情報画像とを有する表示用画像の生成処理を行う(ステップS305)。表示用画像生成処理では、画像合成部32cが、操作情報画像記憶部37bを参照して、設定されたモードに応じた操作情報画像を取得し、Bモード画像データとともに、該操作情報画像が超音波画像表示部4に表示されるように画像合成処理を行う。
図14は、本実施の形態4にかかる処理装置が行う画像調整操作を説明する図である。画像調整モードが「拡大モード」である場合、図14に示すように、術者の手110と、トラックボール画像111と、操作方向を示す操作軸Y5が表示される。操作軸Y5は、例えば、拡大中心位置を指示する拡大位置指示カーソルP2の移動方向および移動量を決定するために設定された基準方向を示す直交する二つの軸からなる。
制御部38は、モード設定部35により画像調整モードの設定がなされると、トラックボール7の操作(入力)があるか否かを判断する(ステップS306)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS306:Yes)、ステップS307に移行する。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS306:No)、トラックボール7の操作(入力)の確認を繰り返す。
制御部38は、トラックボール7の操作(入力)がある場合(ステップS306:Yes)、調整量として拡大位置指示カーソルP2の移動量の算出処理を行う(ステップS307)。感度調整部36は、術者がトラックボール7を回転した際の回転方向および回転量に対し、操作軸Y5の各軸方向の成分を検出し、該検出した成分をもとに、各軸方向の移動量を算出する。感度調整部36は、該算出した各軸方向の移動量を拡大位置指示カーソルP2の移動量として出力する。なお、拡大位置指示カーソルP2の移動量は、各軸方向の移動量を出力するものであってもよいし、Bモード画像における座標であって、移動後の座標を調整量として出力するものであってもよい。
制御部38は、感度調整部36から拡大位置指示カーソルP2の移動量に関する情報が出力されると、ステップS308に移行して、Bモード画像における拡大位置指示カーソルP2の移動処理、具体的には、拡大中心位置の移動処理を行う。移動処理では、超音波画像生成部32aが、拡大位置指示カーソルP2の移動量に関する情報に応じて、Bモード画像における拡大位置指示カーソルP2を移動し、移動後のBモード画像を生成する。制御部38は、生成された移動後のBモード画像を超音波画像表示部4(超音波画像表示領域102)に表示する。
その後、制御部38は、拡大位置指示カーソルP2の移動処理が完了したか否かを判断する(ステップS309)。制御部38は、所定の移動完了操作により、拡大位置指示カーソルP2の移動処理が完了した旨の信号を受け付けると(ステップS309:Yes)、ステップS310に移行する。これに対し、トラックボール7の操作(入力)があるなど、拡大位置指示カーソルP2の移動処理が完了した旨の信号がない場合は(ステップS309:No)、ステップS307に戻り、拡大位置指示カーソルP2の移動量の算出処理を繰り返す。
ステップS310では、拡大位置指示カーソルP2の指示位置を中心とした拡大処理を行う。超音波画像生成部32aは、拡大位置指示カーソルP2の指示位置を中心とし、所定の拡大率に応じた拡大領域R(図14参照)の設定を行い、該設定された拡大領域Rをトリミングする。超音波画像生成部32aは、拡大領域Rを超音波画像表示領域102に応じた大きさに拡大したBモード画像を生成する。
その後、制御部38は、トラックボール7の操作(入力)があるか否かを判断する(ステップS311)。制御部38は、トラックボール7の操作(入力)がある場合(ステップS311:Yes)、ステップS307に移行して、上述したBモード画像における拡大位置指示カーソルP2の移動処理を行う。これに対し、制御部38は、トラックボール7の操作(入力)がない場合(ステップS311:No)、処理を終了する。
以上説明した本実施の形態4によれば、音声認識部33による認識結果に基づいてモード設定部35がモードを変更し、設定されたモードに応じて超音波画像表示部4に操作情報画像を表示し、トラックボール7による操作を案内するとともに、該トラックボール7の操作に応じて感度調整部36が拡大位置指示カーソルP2の移動量を算出し、拡大位置指示カーソルP2を移動後、Bモード画像の拡大処理を行うようにしたので、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うことができる。
(実施の形態4の変形例)
次に、本発明の実施の形態4の変形例について図面を参照して説明する。図15は、本実施の形態4の変形例にかかる処理装置が行う画像調整操作を説明する図である。上述した実施の形態4では、トラックボール7により拡大中心を決定し、所定の拡大率でBモード画像を拡大するものとして説明したが、本変形例では、予め拡大中心Wpが設定され、トラックボール7の操作により拡大率を変更する。
本変形例では、画像調整モードとして拡大モードが設定されている場合、感度調整部36は、操作方向Y6に基づき、トラックボール7の回転方向および回転量に応じて拡大率を算出する。また、制御部38は、現在超音波画像表示領域102に表示されているBモード画像がフリーズされたフリーズ中の画像であるか、ライブ中のBモード画像であるかを判断する。制御部38は、現在超音波画像表示領域102に表示されているBモード画像がフリーズされたフリーズ中の画像であると判断した場合、設定された拡大中心を中心とし、算出された拡大率に応じた大きさの拡大領域のトリミング処理を行って、拡大したBモード画像を生成する。
一方、制御部38は、現在超音波画像表示領域102に表示されているBモード画像がライブ中のBモード画像であると判断した場合、拡大率に応じたレンジ変更を行った後、予め設定された拡大中心をフォーカス位置として超音波エコーの再受信を行う。超音波画像生成部32aは、受信した超音波エコーに基づき、所定の拡大率に応じたレンジのBモード画像を生成する。
なお、本変形例と、上述した実施の形態4とを組み合わせた画像調整を行うようにしてもよい。具体的には、現在超音波画像表示領域102に表示されているBモード画像がフリーズされたフリーズ中の画像である場合に、ステップS304〜S306の処理を行ってトリミングの中心位置を決定し、予め設定された拡大中心とは異なる位置を中心としてトリミングを行う。
また、上述した実施の形態1〜4では、音声を検出するマイク6(音声入力)を非接触型操作手段として説明したが、ジェスチャを検出して認識結果を出力するものであってもよいし、視線を検出して認識結果を出力するものであってもよいし、脳波を検出して認識結果を出力するものであってもよい。ジェスチャを認識する非接触型操作手段(例えばIR)を用いる場合は、音声認識部33に代えてジェスチャ認識部を設け、ジェスチャに応じたコマンドを認識結果として出力する。また、視線を認識する非接触型操作手段(例えば目(視線)を撮像する手段)を用いる場合は、音声認識部33に代えて視線認識部を設け、視線(視線の動き)に応じたコマンドを認識結果として出力する。
また、上述した実施の形態1〜4では、回転モード、スクロールモード、フォーカス位置変更モードおよび拡大モードを例に挙げて説明したが、このほか、Bモード画像の縮小モードや、関心領域の設定を行う関心領域の設定モード、計測側線や計測領域を指定してBモード画像中の所定部位の計測を行う計測モードなど、観測にかかる処理モードをマイク6により設定し、トラックボール7によって操作するものであってもよい。
また、上述した実施の形態1〜4では、トラックボール7を接触型操作手段として説明したが、キーボード、マウス、タッチパネルやレバー、ダイヤル、ジョイスティック、フットスイッチなどを接触型操作手段として用いるものであってもよいし、これらを組み合わせてもよい。例えば、接触型操作手段をタッチパネルとした場合、手、タッチパネル、操作方向などの操作情報画像を操作情報画像表示領域103に表示し、タップやドラッグ、ピンチイン、ピンチアウトなどの操作を行って、より直感的に画像調整を指示するものであってもよい。接触型操作手段は、画像調整モードにおける信号入力機能として、連続的もしくは非連続的、または多段階的もしくは無段階的な切り替え調整を指示できる入力手段であればこの限りではない。ここでいう連続的な切り替え調整とは、時系列的に連続した信号入力をいい、非連続的な切り替え調整指示とは、時系列的に非連続な信号入力(術者の画像確認などにより間欠的に行われる信号入力を含む)をいう。また、無段階的な切り替え調整指示とは、トラックボール7の回転など連続的な入力操作に応じて上述した信号を出力することをいい、多段階的な切り替え調整指示とは、キーボードのボタン押下やマウスのクリックなど間欠的な入力操作に応じて上述した信号を出力することをいう。
また、上述した実施の形態1〜4では、超音波画像表示部4および内視鏡画像表示部5によって、それぞれの画像を表示するものとして説明したが、一つの表示部とし、表示領域を分割し、各領域に超音波画像(操作情報画像を含む)および内視鏡画像をそれぞれ表示するようにしてもよい。
また、本発明にかかる超音波内視鏡システム1では、上述した実施の形態1〜4にかかる画像調整モードをマイク6の入力により適宜切り替え、さらに切り替えた画像調整モードに応じて操作情報画像を切り替えて観測対象の観測を行う。また、トラックボール7の配置の変更などにより、操作情報画像(トラックボール画像111に対する手110の位置)の切り替えを行ってもよい。
また、上述した実施の形態1〜4では、観測対象が生体組織である超音波内視鏡を例に説明したが、材料の特性を観測する工業用の内視鏡であっても適用できる。また、内視鏡に限らず、超音波振動子22、処理装置3(内視鏡画像生成部32bを除く)、超音波画像表示部4、マイク6およびトラックボール7を備えた観測装置として使用してもよい。本発明にかかる観測装置は、体内、体外を問わず適用可能である。また、超音波のほか、赤外線などを照射して観測対象の信号を送受信するものであってもよい。
このように、本発明は、特許請求の範囲に記載した技術的思想を逸脱しない範囲内において、様々な実施の形態を含みうるものである。
以上のように、本発明にかかる医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラムは、モニタから視線をそらすことなくモニタ上の画像の調整操作を行うのに有用である。
1 超音波内視鏡システム
2 超音波内視鏡
3 処理装置
4 超音波画像表示部
5 内視鏡画像表示部
6 マイク
7 トラックボール
8 キーボード
21 撮像部
22 超音波振動子
31 送受信部
32 画像処理部
32a 超音波画像生成部
32b 内視鏡画像生成部
32c 画像合成部
32d 表示画像生成部
33 音声認識部
34 操作情報入力部
35 モード設定部
36 感度調整部
37 記憶部
37a 感度テーブル記憶部
37b 操作情報画像記憶部
38 制御部

Claims (9)

  1. 観測対象の画像を生成するための信号を取得し、該取得した信号に基づく観測画像を生成する医療用観測装置であって、
    操作者と非接触な操作によって第1の操作指示信号の入力を受け付ける非接触型信号入力手段と、
    操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段と、
    前記第1の操作指示信号に応じて前記観測画像に対する処理モードを設定し、前記接触型信号入力手段に入力される前記第2の操作指示信号に対して該設定した処理モードに応じた信号入力機能を割り当てる制御を行う制御部と、
    前記観測画像と、前記接触型信号入力手段に割り当てられた前記信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を生成する画像処理部と、
    を備えたことを特徴とする医療用観測装置。
  2. 前記制御部は、前記第1の操作指示信号の入力に応じた処理モードの切り替え、前記処理モードに応じた前記案内画像の切り替え、または前記処理モードにおける信号入力機能の切り替えを制御することを特徴とする請求項1に記載の医療用観測装置。
  3. 前記非接触型信号入力手段は、音声、ジェスチャ、視線または脳波を検出し、
    前記接触型信号入力手段は、キーボード、トラックボール、マウス、タッチパネル、レバー、ダイヤル、ジョイスティックおよびフットスイッチのうち少なくとも一つを含むことを特徴とする請求項1または2に記載の医療用観測装置。
  4. 前記処理モードにおける前記信号入力機能は、連続的もしくは非連続的、または多段階的もしくは無段階的な接触操作を含むことを特徴とする請求項1〜3のいずれか一項に記載の医療用観測装置。
  5. 前記処理モードは、画像を回転させる回転モード、観測領域のうち画像表示するための表示領域を設定する表示領域設定モード、文字入力モード、フォーカス位置設定モード、拡大または縮小モード、関心領域の設定モードおよび計測モードのうち少なくとも一つを含むことを特徴とする請求項1〜4のいずれか一項に記載の医療用観測装置。
  6. 前記案内画像は、前記接触型信号入力手段で操作する方向と、前記処理モードにおける前記信号入力機能に応じて動作する方向との関係を示す画像であることを特徴とする請求項1〜5のいずれか一項に記載の医療用観測装置。
  7. 前記観測対象の画像を生成するための信号は、該観測対象に対して送信した超音波が前記観測対象によって反射された超音波エコーを電気信号に変換したエコー信号に基づいて生成される信号であることを特徴とする請求項1〜6のいずれか一項に記載の医療用観測装置。
  8. 観測対象の画像を生成するための信号を取得し、該取得した信号に基づく観測画像を表示する医療用観測装置の作動方法であって、
    操作者と非接触な操作による第1の操作指示信号の入力を非接触型信号入力手段が受け付ける非接触型信号入力ステップと、
    前記第1の操作指示信号に応じて前記観測画像に対する処理モードを設定する制御を制御部が行うモード設定ステップと、
    操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段に対し、前記モード設定ステップで設定された前記処理モードに応じた信号入力機能を割り当てる制御を前記制御部が行う機能割り当てステップと、
    前記観測画像と、前記接触型信号入力手段に割り当てられた前記信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を画像処理部が生成する画像処理ステップと、
    を含むことを特徴とする医療用観測装置の作動方法。
  9. 観測対象の画像を生成するための信号を取得し、該取得した信号に基づく観測画像を表示する医療用観測装置の作動プログラムであって、
    操作者と非接触な操作によって第1の操作指示信号の入力を非接触型信号入力手段が受け付ける非接触型信号入力手順と、
    前記第1の操作指示信号に応じて前記観測画像に対する処理モードを設定する制御を制御部が行うモード設定手順と、
    操作者の接触操作によって第2の操作指示信号の入力を受け付ける接触型信号入力手段に対し、前記モード設定手順で設定された前記処理モードに応じた信号入力機能を割り当てる制御を前記制御部が行う機能割り当て手順と、
    前記観測画像と、前記接触型信号入力手段に割り当てられた前記信号入力機能に応じた操作を案内する案内画像とを有する表示用画像を画像処理部が生成する画像処理手順と、
    を前記医療用観測装置に実行させることを特徴とする医療用観測装置の作動プログラム。
JP2016504822A 2014-12-02 2015-10-09 医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラム Active JP5945652B1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014244108 2014-12-02
JP2014244108 2014-12-02
PCT/JP2015/078839 WO2016088452A1 (ja) 2014-12-02 2015-10-09 医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラム

Publications (2)

Publication Number Publication Date
JP5945652B1 JP5945652B1 (ja) 2016-07-05
JPWO2016088452A1 true JPWO2016088452A1 (ja) 2017-04-27

Family

ID=56091408

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016504822A Active JP5945652B1 (ja) 2014-12-02 2015-10-09 医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラム

Country Status (5)

Country Link
US (1) US20160361044A1 (ja)
EP (1) EP3228253B1 (ja)
JP (1) JP5945652B1 (ja)
CN (1) CN106061400B (ja)
WO (1) WO2016088452A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018051565A1 (ja) * 2016-09-15 2018-03-22 オリンパス株式会社 超音波内視鏡および超音波内視鏡システム
WO2018116891A1 (ja) * 2016-12-19 2018-06-28 オリンパス株式会社 画像処理装置、超音波診断システム、画像処理装置の作動方法、及び画像処理装置の作動プログラム
CN110248607B (zh) * 2017-01-23 2021-09-24 奥林巴斯株式会社 超声波观测装置、超声波观测装置的工作方法、存储介质
KR102019174B1 (ko) * 2017-09-04 2019-09-09 유메디칼 주식회사 관심영역의 이동 및 영상 확대가 가능한 영상 처리 시스템 및 방법
JP7014044B2 (ja) * 2018-05-15 2022-02-01 コニカミノルタ株式会社 超音波診断装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3668822B2 (ja) * 1996-11-11 2005-07-06 株式会社島津製作所 医用画像処理装置
JP2001029360A (ja) * 1999-07-23 2001-02-06 Olympus Optical Co Ltd 医療制御システム
US7127401B2 (en) * 2001-03-12 2006-10-24 Ge Medical Systems Global Technology Company, Llc Remote control of a medical device using speech recognition and foot controls
JP4219624B2 (ja) * 2002-06-28 2009-02-04 アルパイン株式会社 車載機器操作装置およびその操作案内方法
JP4575216B2 (ja) * 2005-04-08 2010-11-04 オリンパス株式会社 医用画像表示装置
JP4951382B2 (ja) * 2007-03-29 2012-06-13 オリンパスメディカルシステムズ株式会社 システムコントローラ
JP5281855B2 (ja) * 2008-09-09 2013-09-04 オリンパスメディカルシステムズ株式会社 指標画像制御装置
JP5337626B2 (ja) * 2009-08-19 2013-11-06 株式会社東芝 超音波画像診断装置
JP5345724B2 (ja) * 2011-11-21 2013-11-20 日立アロカメディカル株式会社 超音波診断装置
US20130225999A1 (en) * 2012-02-29 2013-08-29 Toshiba Medical Systems Corporation Gesture commands user interface for ultrasound imaging systems
US9877699B2 (en) * 2012-03-26 2018-01-30 Teratech Corporation Tablet ultrasound system
JP2013233275A (ja) * 2012-05-09 2013-11-21 Shimadzu Corp X線透視撮影装置

Also Published As

Publication number Publication date
EP3228253A4 (en) 2018-09-12
EP3228253B1 (en) 2021-12-22
US20160361044A1 (en) 2016-12-15
JP5945652B1 (ja) 2016-07-05
CN106061400B (zh) 2019-10-01
WO2016088452A1 (ja) 2016-06-09
EP3228253A1 (en) 2017-10-11
CN106061400A (zh) 2016-10-26

Similar Documents

Publication Publication Date Title
JP5945652B1 (ja) 医療用観測装置、医療用観測装置の作動方法および医療用観測装置の作動プログラム
JP6017746B1 (ja) 医療用診断装置、超音波観察システム、医療用診断装置の作動方法および医療用診断装置の作動プログラム
JP4465018B2 (ja) 超音波診断装置
JP6043028B1 (ja) 超音波観測システム
WO2017051742A1 (ja) 超音波観測装置
US9872668B2 (en) Medical diagnostic apparatus, method for operating medical diagnostic apparatus, and computer-readable recording medium
CN108366785B (zh) 超声波观测装置及其工作方法、处理装置及存储介质
JP2006175006A (ja) 超音波観測装置、超音波内視鏡装置、及び、画像処理方法
CN115867203A (zh) 超声波诊断装置、超声波诊断装置的控制方法及超声波诊断装置用处理器
JP7214876B2 (ja) 内視鏡装置、制御方法、制御プログラム、及び内視鏡システム
JP6530660B2 (ja) 超音波観測装置、超音波観測装置の作動方法および超音波観測装置の作動プログラム
WO2017073331A1 (ja) 処理装置、超音波観測装置、処理装置の作動方法および処理装置の作動プログラム
JP6743284B2 (ja) 超音波観測装置、超音波観測装置の作動方法、及び超音波観測装置の作動プログラム
JP2017035300A (ja) 超音波観測装置、超音波観測装置の作動方法、超音波観測装置の作動プログラム及び超音波観測システム
JP2006325016A (ja) コントローラ
JP6379059B2 (ja) 超音波観測装置、超音波観測装置の作動方法、超音波観測装置の作動プログラムおよび超音波診断システム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20160502

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160530

R151 Written notification of patent or utility model registration

Ref document number: 5945652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250