JPWO2018216302A1 - 医療用観察装置、処理方法、および医療用観察システム - Google Patents

医療用観察装置、処理方法、および医療用観察システム Download PDF

Info

Publication number
JPWO2018216302A1
JPWO2018216302A1 JP2019519476A JP2019519476A JPWO2018216302A1 JP WO2018216302 A1 JPWO2018216302 A1 JP WO2018216302A1 JP 2019519476 A JP2019519476 A JP 2019519476A JP 2019519476 A JP2019519476 A JP 2019519476A JP WO2018216302 A1 JPWO2018216302 A1 JP WO2018216302A1
Authority
JP
Japan
Prior art keywords
medical observation
processing
imaging
medical
pressing operation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019519476A
Other languages
English (en)
Other versions
JP7163282B2 (ja
Inventor
聖治 倉本
聖治 倉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Publication of JPWO2018216302A1 publication Critical patent/JPWO2018216302A1/ja
Application granted granted Critical
Publication of JP7163282B2 publication Critical patent/JP7163282B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • A61B90/25Supports therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/74Manipulators with manual electric input means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00203Electrical control of surgical instruments with speech control or speech recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00207Electrical control of surgical instruments with hand gesture control or hand gesture recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00212Electrical control of surgical instruments using remote controls
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00216Electrical control of surgical instruments with eye tracking or head position tracking control
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00221Electrical control of surgical instruments with wireless transmission of data, e.g. by infrared radiation or radiowaves
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • A61B2090/508Supports for surgical instruments, e.g. articulated arms with releasable brake mechanisms

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Robotics (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)

Abstract

術者(OP)が手術中に手を使わずに操作できる医療用観察装置(100)。当該装置(100)とともに使用される操作装置(300)は、術者(OP)が口にくわえるマウススイッチ(302)を含む。医療用観察装置(100)は、マウススイッチ(302)が押圧されたことを検出部(166)で検出し、当該押圧操作に対応する処理を決定部(168)で決定し、当該処理を処理部(170)で実行する。処理には、装置(100)が有する撮像デバイス(106)のズーム倍率の変更、同デバイス(106)のフォーカスの調整、アーム(104)による撮像デバイス(106)の移動、表示装置(200)の表示モードの変更などがある。装置(100)はまた、マウススイッチ(302)が押圧されたことを検出したら、音声認識処理、視線認識処理又は動き認識処理を開始し、術者(OP)の音声、視線又は動きに対応する処理を実行することもできる。

Description

本開示は、医療用観察装置、処理方法、および医療用観察システムに関する。
近年、医療現場においては、例えば脳神経外科手術などの微細手術(マイクロサージャリ)をサポートするために、患部などの観察対象を拡大観察することが可能な医療用観察装置が用いられる場合がある。医療用観察装置としては、例えば、光学式の顕微鏡を備える医療用観察装置と、電子撮像式の顕微鏡として機能する撮像デバイスを備える医療用観察装置とが挙げられる。以下では、上記光学式の顕微鏡を備える医療用観察装置を「光学式の医療用観察装置」と示す。また、以下では、上記撮像デバイスを備える医療用観察装置を、「電子撮像式の医療用観察装置」または単に「医療用観察装置」と示す場合がある。
また、光学式の医療用観察装置における移動操作の簡便化を図る技術が開発されている。口にくわえて押圧操作される押圧操作部を備えることによって、光学式の医療用観察装置における移動操作の簡便化を図る技術としては、例えば下記の特許文献1に記載の技術が挙げられる。
特開2005−87528号公報
電子撮像式の医療用観察装置は、撮像デバイスの高画質化や撮像された画像が表示される表示デバイスの高画質化などに伴い、光学式の医療用観察装置と同等以上の画質が得られるようになっている。また、電子撮像式の医療用観察装置を用いるユーザ(例えば、術者や術者の助手などの医療従事者)は、光学式の医療用観察装置を用いる場合のように光学式の顕微鏡を構成する接眼レンズを覗き込む必要はないので、撮像デバイスの位置をより自由に移動させることが可能である。そのため、電子撮像式の医療用観察装置が用いられることによって微細手術をより柔軟にサポートすることができるという利点があり、医療現場での電子撮像式の医療用観察装置の利用が進んでいる。
例えば、電子撮像式の医療用観察装置を用いて手術が行われるときには、術者が電子撮像式の医療用観察装置が備える撮像デバイスの撮像動作の変更を所望する場合がある。上記のような術者の要求に答えるために、電子撮像式の医療用観察装置には、撮像デバイスの撮像動作を変更することが可能なスイッチなどの操作デバイスが備えられている。また、電子撮像式の医療用観察装置では、術者が両手を術野から離さずに操作を行うことができるように、電子撮像式の医療用観察装置の外部のフットスイッチを用いた操作が可能となっている。
手術中に両手を術野から離さずに電子撮像式の医療用観察装置の操作を行うために、術者は、フットスイッチを用いている。しかしながら、手術室には、電子撮像式の医療用観察装置の操作のためのフットスイッチだけでなく、電気メスや超音波吸引器などの様々な医療用処置装置の操作のためのフットスイッチがあることが多い。そのため、医療現場では、各装置の誤操作を防止するために、フットスイッチに代わるユーザインタフェースが求められている。
ここで、フットスイッチに代わるユーザインタフェースとしては、例えば特許文献1に開示されているような、口にくわえて押圧操作されるスイッチ(以下、「マウススイッチ」と示す場合がある。)が挙げられる。特許文献1に記載の技術に係る光学式の医療用観察装置が用いる術者は、光学式の顕微鏡を構成する接眼レンズを覗き込むので、接眼レンズを覗き込んだ状態でマウススイッチを操作することが可能である。
しかしながら、電子撮像式の医療用観察装置は、光学式の医療用観察装置のような接眼レンズを有する構成ではなく、撮像デバイスの自由な移動が可能であることから術者の顔の位置と撮像デバイスの位置とは一定ではない。そのため、電子撮像式の医療用観察装置にマウススイッチを設けたとしても、術者が両手を術野から離さずに、マウススイッチを用いて医療用観察装置に対する操作を行うことができるとは、限られない。
本開示では、口にくわえて押圧操作されるスイッチを含む外部の操作装置により、医療用観察装置を操作することが可能な、新規かつ改良された医療用観察装置、処理方法、および医療用観察システムを提案する。
本開示によれば、口にくわえて押圧操作されるスイッチを含む外部の操作装置から出力される上記押圧操作に応じた操作信号に基づいて、上記押圧操作を検出する検出部と、検出された上記押圧操作に対応する処理を実行する処理部と、を備え、上記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、上記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および上記撮像動作に関連する処理もしくは上記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察装置が、提供される。
また、本開示によれば、口にくわえて押圧操作されるスイッチを含む外部の操作装置から出力される上記押圧操作に応じた操作信号に基づいて、上記押圧操作を検出するステップと、検出された上記押圧操作に対応する処理を実行するステップと、を有し、上記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、上記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および上記撮像動作に関連する処理もしくは上記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察装置により実行される処理方法が、提供される。
また、本開示によれば、口にくわえて押圧操作されるスイッチを含む操作装置と、医療用観察装置とを有し、上記医療用観察装置は、撮像デバイスと、上記操作装置から出力される上記押圧操作に応じた操作信号に基づいて、上記押圧操作を検出する検出部と、検出された上記押圧操作に対応する処理を実行する処理部と、を備え、上記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、上記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および上記撮像動作に関連する処理もしくは上記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察システムが、提供される。
本開示によれば、口にくわえて押圧操作されるスイッチを含む外部の操作装置により、医療用観察装置を操作することができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
本実施形態に係る医療用観察システムの構成の一例を示す説明図である。 本実施形態に係る医療用観察システムが使用されるユースケースの一例を示す説明図である。 本実施形態に係る医療用観察システムが使用されるユースケースの他の例を示す説明図である。 本実施形態に係る操作装置の一例を説明するための説明図である。 本実施形態に係る操作装置の他の例を説明するための説明図である。 本実施形態に係る医療用観察装置が備える撮像デバイスの構成の一例を説明するための説明図である。 本実施形態に係る医療用観察装置の構成の一例を示す機能ブロック図である。 本実施形態に係る処理方法に係る処理の第1の例を説明するための説明図である。 本実施形態に係る処理方法に係る処理の第2の例を説明するための説明図である。 本実施形態に係る処理方法に係る処理の第3の例を説明するための説明図である。 本実施形態に係る処理方法に係る処理の第4の例を説明するための説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る医療用観察システム、および本実施形態に係る処理方法
2.本実施形態に係るプログラム
(本実施形態に係る医療用観察システム、および本実施形態に係る処理方法)
以下、本実施形態に係る医療用観察システムの一例を説明しつつ、本実施形態に係る処理方法について説明する。
[1]医療用観察システムの構成
図1は、本実施形態に係る医療用観察システム1000の構成の一例を示す説明図である。医療用観察システム1000は、例えば、医療用観察装置100と、表示装置200と、操作装置300とを有する。
なお、本実施形態に係る医療用観察システムは、図1に示す例に限られない。
例えば、本実施形態に係る医療用観察システムは、医療用観察装置100における各種動作を制御する制御装置(図示せず)を、さらに有していてもよい。図1に示す医療用観察システム1000では、後述するように、医療用観察装置100が本実施形態に係る処理方法に係る処理を行う制御部(後述する)を備えることにより、医療用観察装置100が制御装置(図示せず)の機能を有している例を示している。
制御装置(図示せず)としては、例えば、“メディカルコントローラ”や、“サーバなどのコンピュータ”など、本実施形態に係る処理方法に係る処理を行うことが可能な任意の機器が、挙げられる。また、制御装置(図示せず)は、例えば、上記のような機器に組み込むことが可能な、IC(Integrated Circuit)であってもよい。
また、本実施形態に係る医療用観察システムは、医療用観察装置100と表示装置200とを複数有する構成であってもよい。医療用観察装置100を複数有する場合、医療用観察装置100それぞれにおいて、後述する医療用観察装置100における処理方法に係る処理が、行われる。また、本実施形態に係る医療用観察システムが医療用観察装置100と表示装置200とを複数有する構成である場合、医療用観察装置100と表示装置200とが一対一に対応付けられていてもよいし、複数の医療用観察装置100が1つの表示装置200に対応付けられていてもよい。複数の医療用観察装置100が1つの表示装置200に対応付けられている場合、表示装置200では、例えば切り替え操作などが行われることによって、どの医療用観察装置100において撮像された撮像画像を表示画面に表示させるのかが、切り替えられる。
また、本実施形態に係る医療用観察システムは、操作装置300を複数有する構成であってもよい。操作装置300を複数有する場合、医療用観察装置100は、複数の操作装置300それぞれに対する操作に基づいて動作しうる。また、操作装置300を複数有する場合、医療用観察装置100は、複数の操作装置300のうちの一部の操作装置300(例えば、操作装置300に対して設定される優先度が最も高い操作装置300や、当該優先度が設定されている閾値以上の操作装置300など)に対する操作に基づいて動作してもよい。
また、本実施形態に係る医療用観察システムは、例えば、視線を検出することが可能な視線検出センサ、動きを検出することが可能な動き検出センサなどの、1または2以上のセンサを有していてもよい。視線検出センサと動き検出センサとは、同一のセンサであってもよいし、異なるセンサであってもよい。視線検出センサおよび動き検出センサとして機能するセンサとしては、例えば“ステレオカメラとプロセッサとを有し、ステレオカメラにより撮像された撮像画像から視線と動きとの一方または双方を検出するセンサユニット”が、挙げられる。また、視線検出センサと動き検出センサとが異なるセンサである場合、視線検出センサは、例えば赤外線により視線を検出する構成などの、視線を検出することが可能な任意の方式のセンサであってよい。また、視線検出センサと動き検出センサとが異なるセンサである場合、動き検出センサは、例えばToF(Time-of-Flight)方式により動きを検出する構成などの、動きを検出することが可能な任意の方式のセンサであってよい。
本実施形態に係る医療用観察システムがセンサを有する場合、後述するように、医療用観察装置100は、センサの検出結果を利用して、本実施形態に係る処理方法に係る処理を行う。
図2は、本実施形態に係る医療用観察システム1000が使用されるユースケースの一例を示す説明図である。
医療用観察装置100が備える撮像デバイス(後述する)によって、観察対象の患者PA(医療行為を受ける対象の患者)が撮像される。以下では、上記医療行為を受ける対象の患者が撮像された撮像画像などの、本実施形態に係る医療用観察装置が撮像した撮像画像を、「医療用撮像画像」と示す。
医療用観察装置100において撮像された医療用撮像画像は、表示装置200の表示画面に表示される。そして、医療用観察装置100を用いて医療行為を行う術者OP(医療用観察装置100のユーザの一例)は、表示装置200の表示画面に表示されている医療用撮像画像を見ながら、患者PAに対して医療行為を行う。
また、術者OPは、フットスイッチFSなどの医療用観察装置100の外部の操作デバイス、または、医療用観察装置100が備える操作デバイス(後述する)を操作することによって、医療用観察装置100が備えるアーム(後述する)や撮像デバイス(後述する)などを動作させ、医療用観察装置100を所望の状態にさせる。また、術者OPは、後述するように、操作装置300(図示せず)を操作することによって、医療用観察装置100が備える撮像デバイス(後述する)の撮像動作と、撮像デバイス(後述する)において撮像された医療用撮像画像の表示との一方または双方を、変更することが可能である。
図3は、本実施形態に係る医療用観察システム1000が使用されるユースケースの他の例を示す説明図である。図3は、医療用観察システム1000が、センサ400をさらに有している場合のユースケースを示している。
医療用観察システム1000が視線検出センサをセンサ400として有する場合、例えば、術者OPの視線が、センサ400により検出される。医療用観察装置100は、例えば、センサ400から出力される検出結果に基づき認識される視線に対応する処理を実行してアーム(後述する)を動作させる。つまり、医療用観察システム1000が視線検出センサをさらに有する場合、術者OPは、視線によって撮像デバイス(後述する)の位置を変更して、医療用観察装置100を所望の状態にさせることができる。
医療用観察システム1000が動き検出センサをセンサ400として有する場合、例えば、術者OPの動きが、センサ400により検出される。医療用観察装置100は、例えば、センサ400から出力される検出結果に基づき認識される動きに対応する処理を実行して、アーム(後述する)と撮像デバイス(後述する)との一方または双方を動作させる。つまり、医療用観察システム1000が動き検出センサをさらに有する場合、術者OPは、動きによって医療用観察装置100を所望の状態にさせることができる。
以下、医療用観察システム1000を構成する各装置について、説明する。また、以下では、医療用観察システム1000が有するセンサが、“ステレオカメラとプロセッサとを有し、ステレオカメラにより撮像された撮像画像から視線と動きとの一方または双方を検出するセンサユニット”である場合を例に挙げ、当該センサを「センサ400」または「ステレオカメラを有するセンサユニット」と示す。
[1−1]表示装置200
表示装置200は、医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。表示装置200は、例えば、医療用観察装置100において撮像された医療用撮像画像(動画像、または、複数の静止画像。以下、同様とする。)や、UI(User Interface)に係る画像などの、様々な画像を表示画面に表示する。また、表示装置200は、3D表示が可能な構成であってもよい。表示装置200における表示は、例えば、医療用観察装置100、または、制御装置(図示せず)によって制御される。
医療用観察システム1000において表示装置200は、例えば、手術室の壁面や天井、床面などの、手術室内において術者などの手術に関わる者により視認されうる任意の場所に設置される。表示装置200としては、例えば、液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイなどが挙げられる。
なお、表示装置200は、上記に示す例に限られない。
例えば、表示装置200は、ヘッドマウントディスプレイやアイウェア型の装置などのような、術者などが身体に装着して用いる任意のウェアラブル装置であってもよい。
表示装置200は、例えば、表示装置200が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
[1−2]操作装置300
操作装置300は、医療用観察装置100の外部の操作装置であり、マウススイッチ(口にくわえて押圧操作されるスイッチ)を含んで構成される。操作装置300は、例えば、操作装置300が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。操作装置300は、例えば、術者や、術者の助手、看護師などの医療従事者により用いられる。
操作装置300を用いる医療従事者は、操作装置300を構成するマウススイッチを噛んでマウススイッチを押圧操作する。以下では、操作装置300を構成するマウススイッチに対して行われる操作を、「押圧操作」または、「マウススイッチに対する操作」と示す場合がある。
押圧操作が行われると、操作装置300は、押圧操作に応じた操作信号を無線通信(または、有線通信)によって出力する。操作装置300から出力された操作信号を取得した医療用観察装置100は、後述する本実施形態に係る処理方法に係る処理を行い、当該操作信号に基づいて医療用観察装置100が備える撮像デバイス(後述する)の撮像動作を制御する。
よって、操作装置300を用いる医療従事者は、操作装置300を用いて押圧操作を行うことによって、医療用観察装置100が備える撮像デバイス(後述する)の撮像動作などの、医療用観察装置100の動作を変更することができる。
図4は、本実施形態に係る操作装置300の一例を説明するための説明図である。図4では、術者などの医療従事者が頭部に装着して用いられる操作装置300の一例を示している。
操作装置300は、マウススイッチ302を備える。マウススイッチ302は、例えば図4のAに示すように、装着されたときに医療従事者がマウススイッチ302を噛むことが可能な位置に設けられる。
なお、図4のAでは、操作装置300が、医療従事者の耳にかけて装着される例を示しているが、操作装置300の構成は、図4のAに示す例に限られない。例えば、操作装置300は、ヘッドホンのように医療従事者の頭にかけて装着される構成であってもよい。
マウススイッチ302は、例えば図4のBに示すように、医療従事者が噛んで押圧操作を行う第1の操作部材310および第2の操作部材312と、第1の操作部材310および第2の操作部材312に対する押圧操作に応じた操作信号を通信により出力する出力部材314とを有する。
第1の操作部材310と第2の操作部材312とは、例えば図4のBに示すように、間隙をおいて平行(または略平行)に設けられる。第1の操作部材310と第2の操作部材312との間の間隙は、医療従事者が噛むことによって小さくなる。
なお、図4のBでは、第1の操作部材310および第2の操作部材312それぞれが、円形の形状を有しているが、第1の操作部材310および第2の操作部材312それぞれの形状は、図4のBに示す例に限られない。例えば、第1の操作部材310および第2の操作部材312それぞれは、矩形の形状などの任意の形状であってもよい。
出力部材314は、例えば、スイッチ(図示せず)と、信号生成回路(図示せず)と、通信デバイス(図示せず)とを含んで構成される。
出力部材314を構成するスイッチ(図示せず)は、第1の操作部材310および第2の操作部材312それぞれと接続され、押圧操作が行われることにより接点が接触することによって、オン状態(導通状態)となる。また、押圧操作が行われていないときには、出力部材314を構成するスイッチ(図示せず)では接点が離れ、出力部材314を構成するスイッチ(図示せず)は、オフ状態(非導通状態)となる。
出力部材314を構成する信号生成回路(図示せず)は、出力部材314を構成するスイッチ(図示せず)の状態に応じた操作信号を生成する。出力部材314を構成する信号生成回路(図示せず)は、例えば、スイッチ(図示せず)がオン状態となったことに応じて所定のパルス幅のパルス信号を、操作信号として生成する。出力部材314を構成する信号生成回路(図示せず)が生成する操作信号のパルス幅は、一定であってもよいし、出力部材314を構成するスイッチ(図示せず)がオン状態となっている期間に応じて可変してもよい。なお、出力部材314を構成する信号生成回路(図示せず)が生成する操作信号は、パルス信号に限られず、医療用観察装置100が押圧操作が行われたことを認識することが可能な(または、後述するように、医療用観察装置100が押圧操作の種別を識別することが可能な)、任意の信号であってもよい。
出力部材314を構成する通信デバイス(図示せず)は、医療用観察装置100などの外部装置と、無線または有線で通信を行う役目を果たす。出力部材314を構成する通信デバイス(図示せず)は、信号生成回路(図示せず)から操作信号が伝達されると、伝達された操作信号を送信する。
また、出力部材314を構成する通信デバイス(図示せず)は、操作信号と共に、外部装置が操作装置300を特定することが可能な識別情報(例えば、操作装置300を示すIDなど)を、送信してもよい。出力部材314を構成する通信デバイス(図示せず)が操作信号と共に識別情報を送信することによって、操作信号を受信した医療用観察装置100では、押圧操作が行われた操作装置300を特定することが可能となる。
ここで、出力部材314を構成する通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF(Radio Frequency)回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。通信デバイス(図示せず)は、例えば、医療用観察装置100が備える通信デバイス(後述する)が対応する通信方式、または、医療用観察装置100に接続されている通信デバイスが対応する通信方式によって通信を行う構成を有する。
操作装置300は、例えば図4を参照して示したような構成を有する。なお、操作装置300の構成は、上記に示す例に限られない。
図5は、本実施形態に係る操作装置300の他の例を説明するための説明図である。図5は、図4と同様に、術者などの医療従事者が頭部に装着して用いられる操作装置300の一例を示している。
図5に示す操作装置300は、図4に示す操作装置300が有する構成に加え、マイクロホンなどの音声入力デバイス304をさらに備える。音声入力デバイス304は、例えば操作装置300を装着している医療従事者が発する音声に応じた音声信号などの、音声信号を生成する。
音声入力デバイス304は、例えば出力部材314を構成する通信デバイス(図示せず)と電気的に接続され、音声入力デバイス304により生成された音声信号は通信デバイス(図示せず)に伝達される。そして、音声入力デバイス304により生成された音声信号は、通信デバイス(図示せず)における通信よって出力される。操作装置300から出力された音声信号を取得した医療用観察装置100は、後述する本実施形態に係る処理方法に係る処理を行い、当該音声信号に基づいて医療用観察装置100が備える撮像デバイス(後述する)の撮像動作などを制御する。
[1−3]医療用観察装置100
医療用観察装置100は、電子撮像式の医療用観察装置である。例えば手術時に医療用観察装置100が用いられる場合、術者(医療用観察装置100のユーザの一例)は、医療用観察装置100により撮像されて、表示装置200の表示画面に表示された医療用撮像画像を参照しながら術部を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。
まず、図1を参照して、医療用観察装置100のハードウェア構成の一例について、説明する。
医療用観察装置100は、例えば、ベース102と、アーム104と、撮像デバイス106とを備える。
また、図1では示していないが、医療用観察装置100は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサ(図示せず)と、ROM(Read Only Memory。図示せず)と、RAM(Random Access Memory。図示せず)と、記録媒体(図示せず)と、通信デバイス(図示せず)とを、備えていてもよい。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
プロセッサ(図示せず)は、後述する制御部として機能する。ROM(図示せず)は、プロセッサ(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、プロセッサ(図示せず)により実行されるプログラムなどを一時的に記憶する。
記録媒体(図示せず)は、記憶部として機能する。記録媒体(図示せず)には、例えば、押圧操作の種別と実行する処理とが対応付けられているテーブル(またはデータベース)などの、本実施形態に係る処理方法に係るデータや、各種アプリケーションなどの、様々なデータが記憶される。ここで、記録媒体(図示せず)としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記録媒体(図示せず)は、医療用観察装置100から着脱可能であってもよい。
通信デバイス(図示せず)は、医療用観察装置100が備える通信手段であり、表示装置200や操作装置300などの外部装置と、無線または有線で通信を行う役目を果たす。ここで、通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF回路(無線通信)、あるいはLAN端子および送受信回路(有線通信)などが挙げられる。通信デバイス(図示せず)は、複数の通信方式によって、1または2以上の外部装置と通信を行うことが可能な構成であってもよい。
[1−3−1]ベース102
ベース102は、医療用観察装置100の基台であり、アーム104の一端が接続されて、アーム104と撮像デバイス106とを支持する。
また、ベース102には例えばキャスタが設けられ、医療用観察装置100は、キャスタを介して床面と接地する。キャスタが設けられることにより、医療用観察装置100は、キャスタによって床面上を容易に移動することが可能である。
[1−3−2]アーム104
アーム104は、複数のリンクが関節部によって互いに連結されて構成される。
また、アーム104は、撮像デバイス106を支持する。アーム104により支持された撮像デバイス106は3次元的に移動可能であり、移動後の撮像デバイス106は、アーム104によって、位置および姿勢が保持される。
より具体的には、アーム104は、例えば、複数の関節部110a、110b、110c、110d、110e、110fと、関節部110a、110b、110c、110d、110e、110fによって互いに回動可能に連結される複数のリンク112a、112b、112c、112d、112e、112fとから構成される。関節部110a、110b、110c、110d、110e、110fそれぞれの回転可能範囲は、アーム104の所望の動きが実現されるように、設計段階や製造段階などにおいて任意に設定される。
つまり、図1に示す医療用観察装置100では、アーム104を構成する6つの関節部110a、110b、110c、110d、110e、110fに対応する6つの回転軸(第1軸O1、第2軸O2、第3軸O3、第4軸O4、第5軸O5、および第6軸O6)によって、撮像デバイス106の移動に関して6自由度が実現されている。より具体的には、図1に示す医療用観察装置100では、並進3自由度、および回転3自由度の6自由度の動きが実現される。
関節部110a、110b、110c、110d、110e、110fそれぞれには、アクチュエータ(図示せず)が設けられ、関節部110a、110b、110c、110d、110e、110fそれぞれは、アクチュエータ(図示せず)の駆動によって、対応する回転軸で回転する。アクチュエータ(図示せず)の駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。
関節部110a、110b、110c、110d、110e、110fそれぞれが、アクチュエータ(図示せず)の駆動により対応する回転軸で回転することによって、例えばアーム104を伸ばす、縮める(折り畳む)などの、様々なアーム104の動作が、実現される。
関節部110aは、略円柱形状を有し、関節部110aの先端部分(図1における下端部分)で、撮像デバイス106(図1における撮像デバイス106の上端部分)を、撮像デバイス106の中心軸と平行な回転軸(第1軸O1)まわりに回動可能なように支持する。ここで、医療用観察装置100は、第1軸O1が撮像デバイス106における光軸と一致するように構成される。つまり、図1に示す第1軸O1まわりに撮像デバイス106を回動させることによって、撮像デバイス106により撮像された医療用撮像画像は、視野が回転するように変更される画像となる。
リンク112aは、略棒状の部材であり、関節部110aを固定的に支持する。リンク112aは、例えば、第1軸O1と直交する方向に延伸され、関節部110bに接続される。
関節部110bは、略円柱形状を有し、リンク112aを、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能なように支持する。また、関節部110bには、リンク112bが固定的に接続される。
リンク112bは、略棒状の部材であり、第2軸O2と直交する方向に延伸される。また、リンク112bには、関節部110bと関節部110cとがそれぞれ接続される。
関節部110cは、略円柱形状を有し、リンク112bを、第1軸O1および第2軸O2それぞれと互いに直交する回転軸(第3軸O3)まわりに回動可能なように支持する。また、関節部110cには、リンク112cの一端が固定的に接続される。
ここで、第2軸O2および第3軸O3まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、水平面内での撮像デバイス106の位置が変更されるように、撮像デバイス106を移動させることができる。つまり、医療用観察装置100では、第2軸O2および第3軸O3まわりの回転が制御されることにより、医療用撮像画像の視野を平面内で移動させることが可能になる。
リンク112cは、一端が略円柱形状を有し、他端が略棒状を有する部材である。リンク112cの一端側には、関節部110cの中心軸と略円柱形状の中心軸とが同一となるように、固定的に接続される。また、リンク112cの他端側には、関節部110dが接続される。
関節部110dは、略円柱形状を有し、リンク112cを、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能なように支持する。関節部110dには、リンク112dが固定的に接続される。
リンク112dは、略棒状の部材であり、第4軸O4と直交するように延伸される。リンク112dの一端は、関節部110dの略円柱形状の側面に当接するように、関節部110dに固定的に接続される。また、リンク112dの他端(関節部110dが接続される側とは反対側の端)には、関節部110eが接続される。
関節部110eは、略円柱形状を有し、リンク112dの一端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能なように支持する。また、関節部110eには、リンク112eの一端が固定的に接続される。
ここで、第4軸O4および第5軸O5は、撮像デバイス106を垂直方向に移動させうる回転軸である。第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106の垂直方向の位置が変わる。よって、第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106と、患者の術部などの観察対象との距離を変えることが、可能となる。
リンク112eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材とが、組み合わされて構成される部材である。リンク112eの第1の部材の鉛直方向に延伸する部位には、関節部110eが固定的に接続される。また、リンク112eの第2の部材には、関節部110fが接続される。
関節部110fは、略円柱形状を有し、リンク112eを、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能なように支持する。また、関節部110fには、リンク112fが固定的に接続される。
リンク112fは、略棒状の部材であり、鉛直方向に延伸される。リンク112fの一端は、関節部110fが接続される。また、リンク112fの他端(関節部110fが接続される側とは反対側の端)は、ベース102に固定的に接続される。
アーム104が上記に示す構成を有することによって、医療用観察装置100では、撮像デバイス106の移動に関して6自由度が実現される。
なお、アーム104の構成は、上記に示す例に限られない。
例えば、アーム104の関節部110a、110b、110c、110d、110e、110fそれぞれには、関節部110a、110b、110c、110d、110e、110fそれぞれにおける回転を規制するブレーキが設けられていてもよい。本実施形態に係るブレーキとしては、例えば、機械的に駆動するブレーキや、電気的に駆動する電磁ブレーキなど、任意の方式のブレーキが挙げられる。
上記ブレーキの駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。上記ブレーキの駆動が制御されることにより、医療用観察装置100では、アーム104の動作モードが設定される。アーム104の動作モードとしては、例えば、固定モードとフリーモードとが挙げられる。
ここで、本実施形態に係る固定モードとは、例えば、アーム104に設けられる各回転軸における回転がブレーキにより規制されることにより、撮像デバイス106の位置および姿勢が固定される動作モードである。アーム104が固定モードとなることによって、医療用観察装置100の動作状態は、撮像デバイス106の位置および姿勢が固定される固定状態となる。
また、本実施形態に係るフリーモードとは、上記ブレーキが解除されることにより、アーム104に設けられる各回転軸が自由に回転可能となる動作モードである。例えば、フリーモードでは、術者による直接的な操作によって撮像デバイス106の位置および姿勢を調整することが可能となる。ここで、本実施形態に係る直接的な操作とは、例えば、術者が手で撮像デバイス106を把持し、当該撮像デバイス106を直接移動させる操作のことを意味する。
[1−3−3]撮像デバイス106
撮像デバイス106は、アーム104により支持され、例えば患者の術部などの観察対象を撮像する。撮像デバイス106における撮像は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。
撮像デバイス106は、例えば電子撮像式の顕微鏡に対応する構成を有する。
図6は、本実施形態に係る医療用観察装置100が備える撮像デバイス106の構成の一例を説明するための説明図である。
撮像デバイス106は、例えば、撮像部材120と、略円筒形状を有する筒状部材122とを有し、撮像部材120は、筒状部材122内に設けられる。
筒状部材122の下端(図6における下側の端)の開口面には、例えば、撮像部材120を保護するためのカバーガラス(図示せず)が設けられる。
また、例えば筒状部材122の内部には光源(図示せず)が設けられ、撮像時には、当該光源からカバーガラス越しに被写体に対して照明光が照射される。照明光が照射された被写体からの反射光(観察光)が、カバーガラス(図示せず)を介して撮像部材120に入射することにより、撮像部材120によって被写体を示す画像信号(撮像画像を示す画像信号)が得られる。
撮像部材120としては、各種の公知の電子撮像式の顕微鏡部に用いられている構成を適用することが可能である。
一例を挙げると、撮像部材120は、例えば、光学系120aと、光学系120aを通過した光により観察対象の像を撮像する撮像素子を含むイメージセンサ120bとで構成される。光学系120aは、例えば、対物レンズ、ズームレンズおよびフォーカスレンズなどの1または2以上のレンズとミラーなどの光学素子で構成される。イメージセンサ120bとしては、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子を複数用いたイメージセンサが、挙げられる。
撮像部材120は、1対の撮像素子を有する構成、すなわち、いわゆるステレオカメラとして機能する構成であってもよい。撮像部材120には、少なくともズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)を含む、AF(Auto Focus)機能などの、一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能が搭載される。
また、撮像部材120は、例えば4K、8Kなどの、いわゆる高解像度での撮像が可能な構成であってもよい。撮像部材120が高解像度での撮像が可能に構成されることにより、所定の解像度(例えば、Full HD画質など)を確保しつつ、例えば50インチ以上などの大画面の表示画面を有する表示装置200に画像を表示させることが可能となるので、当該表示画面を見る術者の視認性が向上する。また、撮像部材120が高解像度での撮像が可能に構成されることにより、撮像画像が電子ズーム機能によって拡大されて表示装置200の表示画面に表示されたとしても、所定の解像度を確保することが可能となる。さらに、電子ズーム機能を用いて所定の解像度が確保される場合には、撮像デバイス106における光学ズーム機能の性能を抑えることが可能となるので、撮像デバイス106の光学系をより簡易にすることができ、撮像デバイス106をより小型に構成することができる。
撮像デバイス106には、例えば、撮像デバイス106の動作を制御するための各種の操作デバイスが設けられる。例えば図6では、ズームスイッチ124と、フォーカススイッチ126と、動作モード変更スイッチ128とが、撮像デバイス106に設けられている。なお、ズームスイッチ124、フォーカススイッチ126、および動作モード変更スイッチ128が設けられる位置と形状とが、図6に示す例に限られないことは、言うまでもない。
ズームスイッチ124とフォーカススイッチ126とは、撮像デバイス106における撮像条件を調整するための操作デバイスの一例である。
ズームスイッチ124は、例えば、ズーム倍率(拡大倍率)を大きくするズームインスイッチ124aと、ズーム倍率を小さくするズームアウトスイッチ124bとで構成される。ズームスイッチ124に対する操作が行われることによりズーム倍率が調整されて、ズームが調整される。以下では、ズーム倍率を大きくすることを「ズームイン」と示し、ズーム倍率を小さくすることを「ズームアウト」と示す場合がある。
フォーカススイッチ126は、例えば、観察対象(被写体)までの焦点距離を遠くする遠景フォーカススイッチ126aと、観察対象までの焦点距離を近くする近景フォーカススイッチ126bとで構成される。フォーカススイッチ126に対する操作が行われることにより焦点距離が調整されて、フォーカスが調整される。以下では、観察対象までの焦点距離を遠くすることを「フォーカスアウト」と示し、観察対象までの焦点距離を近くすることを「フォーカスイン」と示す場合がある。
動作モード変更スイッチ128は、撮像デバイス106におけるアーム104の動作モードを変更するための操作デバイスの一例である。動作モード変更スイッチ128に対する操作が行われることにより、アーム104の動作モードが変更される。アーム104の動作モードとしては、例えば上述したように、固定モードとフリーモードとが挙げられる。
動作モード変更スイッチ128に対する操作の一例としては、動作モード変更スイッチ128を押下する操作が、挙げられる。例えば、術者が動作モード変更スイッチ128を押下している間、アーム104の動作モードがフリーモードとなり、術者が動作モード変更スイッチ128を押下していないときには、アーム104の動作モードが固定モードとなる。
また、撮像デバイス106には、各種操作デバイスに対する操作を行う操作者が操作を行う際の操作性や利便性などをより高めるために、例えば、滑り止め部材130と、突起部材132とが設けられる。
滑り止め部材130は、例えば操作者が筒状部材122を手などの操作体で操作を行う際に、操作体の滑りを防止するために設けられる部材である。滑り止め部材130は、例えば、摩擦係数が大きい材料で形成され、凹凸などのより滑りにくい構造を有する。
突起部材132は、操作者が筒状部材122を手などの操作体で操作を行う際に、当該操作体が光学系120aの視野を遮ってしまうことや、当該操作体で操作を行う際に、カバーガラス(図示せず)に当該操作体が触れることにより当該カバーガラスが汚れることなどを、防止するために設けられる部材である。
なお、滑り止め部材130および突起部材132それぞれが設けられる位置と形状とが、図6に示す例に限られないことは、言うまでもない。また、撮像デバイス106には、滑り止め部材130と突起部材132との一方または双方が設けれられていなくてもよい。
撮像デバイス106における撮像により生成された画像信号(画像データ)は、例えば後述する制御部として機能するプロセッサにおいて、画像処理が行われる。本実施形態に係る画像処理としては、例えば、ガンマ補正、ホワイトバランスの調整、電子ズーム機能に係る画像の拡大または縮小、または、画素間補正などの各種処理のうちの、1または2以上の処理が、挙げられる。なお、本実施形態に係る医療用観察システムが、医療用観察装置100における各種動作を制御する制御装置(図示せず)を有する場合には、本実施形態に係る画像処理は、当該制御装置(図示せず)において行われてもよい。
医療用観察装置100は、例えば、表示制御信号と、上記のような画像処理が行われた画像信号とを、表示装置200に送信する。
表示制御信号と画像信号とが表示装置200に送信されることによって、表示装置200の表示画面には、観察対象が撮像された医療用撮像画像(例えば、術部が撮像された撮像画像)が、光学ズーム機能と電子ズーム機能との一方または双方によって所望の倍率に拡大または縮小されて表示される。
医療用観察装置100は、例えば図1、図6を参照して示したハードウェア構成を有する。
なお、本実施形態に係る医療用観察装置のハードウェア構成は、図1、図6を参照して示した構成に限られない。
例えば、本実施形態に係る医療用観察装置は、ベース102を備えず、手術室などの天井や壁面などにアーム104が直接取り付けられる構成であってもよい。例えば、天井にアーム104が取り付けられる場合には、本実施形態に係る医療用観察装置は、アーム104が天井から吊り下げられる構成となる。
また、図1では、アーム104が、撮像デバイス106の駆動に関して6自由度が実現されるように構成されている例を示しているが、アーム104の構成は、撮像デバイス106の駆動に関する自由度が6自由度となる構成に限られない。例えば、アーム104は、用途に応じて撮像デバイス106を適宜移動しうるように構成されればよく、関節部およびリンクの数や配置、関節部の駆動軸の方向などは、アーム104が所望の自由度を有するように適宜設定することが可能である。一例を挙げると、本実施形態に係る医療用観察装置は、眼科顕微鏡などのように、X軸Y軸制御程度のより簡便な構成であってもよい。
また、図1、図6では、撮像デバイス106の動作を制御するための各種の操作デバイスが、撮像デバイス106に設けられる例を示しているが、図1、図6に示す操作デバイスのうちの一部または全部は、撮像デバイス106に設けられなくてもよい。一例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、本実施形態に係る医療用観察装置を構成する撮像デバイス106以外の他の部位に設けられていてもよい。また、他の例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、フットスイッチやリモートコントローラなどの、外部の操作デバイスであってもよい。また、後述するように、撮像デバイス106の動作は、操作装置300によっても制御される。
次に、図1に示す医療用観察装置100を、機能ブロックを用いて説明する。図7は、本実施形態に係る医療用観察装置100の構成の一例を示す機能ブロック図である。
医療用観察装置100は、例えば、アーム部152と、撮像部154と、通信部156と、制御部158とを備える。
[1−3−4]アーム部152
アーム部152は、アーム104で構成され、撮像部154を構成する撮像デバイス106を支持する。
[1−3−5]撮像部154
撮像部154は、撮像デバイス106で構成され、観察対象を撮像する。撮像部154における撮像は、例えば制御部158によって制御される。
[1−3−6]通信部156
通信部156は、医療用観察装置100が備える通信手段であり、表示装置200、操作装置300などの外部装置と無線または有線で通信を行う役目を果たす。通信部156は、例えば上述した通信デバイス(図示せず)で構成される。通信部156における通信は、例えば制御部158によって制御される。
[1−3−7]制御部158
制御部158は、例えば上述したプロセッサ(図示せず)で構成され、医療用観察装置100全体を制御する役目を果たす。また、制御部158は、後述する処理方法に係る処理を主導的に行う役目を果たす。なお、制御部158における処理方法に係る処理は、複数の処理回路(例えば、複数のプロセッサなど)で分散して行われてもよい。
より具体的には、制御部158は、例えば、撮像制御部160と、アーム制御部162と、表示制御部164と、検出部166と、決定部168と、処理部170とを有する。なお、後述するように、制御部158は、決定部168を有さない構成をとることも可能である。
[1−3−7−1]撮像制御部160
撮像制御部160は、撮像部154を構成する撮像デバイス106を制御する。撮像デバイス106の制御としては、例えば、少なくともズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)の制御を含む、AF機能の制御などの、一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能の制御が、挙げられる。
また、撮像制御部160は、後述する処理部170として機能してもよい。処理部170として機能する場合、撮像制御部160は、後述する決定部168、または、後述する検出部166と連携して撮像デバイス106における撮像動作を制御する。
[1−3−7−2]アーム制御部162
アーム制御部162は、アーム部152を構成するアーム104の駆動を制御する。アーム104の駆動の制御の一例としては、例えば、“関節部110a、110b、110c、110d、110e、110fそれぞれに対応するアクチュエータ(図示せず)に対して、駆動を制御する制御信号を印加すること”などが挙げられる。
また、アーム制御部162は、後述する処理部170として機能してもよい。処理部170として機能する場合、アーム制御部162は、後述する決定部168、または、後述する検出部166アーム104の駆動を制御する。
[1−3−7−3]表示制御部164
表示制御部164は、例えば、表示制御信号と画像信号とを通信部156を構成する通信デバイス(図示せず)に伝達し、表示制御信号と画像信号とを表示装置200に対して送信させることによって、表示装置200における表示を制御する。なお、通信部156における通信の制御は、制御部158を構成する通信制御部(図示せず)により行われてもよい。
また、表示制御部164は、後述する処理部170として機能してもよい。処理部170として機能する場合、表示制御部164は、後述する決定部168、または、後述する検出部166表示装置200における医療用撮像画像の表示(撮像デバイス106において撮像された医療用撮像画像の表示)を制御する。
[1−3−7−4]検出部166
検出部166は、本実施形態に係る処理方法に係る処理における検出処理を行う役目を果たし、操作装置300(マウススイッチを含む外部の操作装置の一例。以下、同様とする。)から出力される、マウススイッチに対する押圧操作に応じた操作信号に基づいて、押圧操作を検出する。
医療用観察装置100は、例えば、操作装置300から送信される操作信号から特定の信号パターンを検出することによって、マウススイッチに対する押圧操作を検出する。操作信号がパルス信号である場合を例に挙げると、検出部166は、パルス(特定の信号パターンの一例)が検出されたときに、マウススイッチに対する押圧操作が検出されたと判定する。マウススイッチに対する押圧操作が検出されたか否かの判定は、操作装置300から送信される操作信号が取得されたか否かの判定に該当する。
検出部166における検出結果は、例えば、決定部168と処理部170とに伝達される。決定部168、および処理部170それぞれでは、押圧操作が検出されたことをトリガとして処理が行われる。
制御部158が決定部168を有さない構成である場合、検出部166における検出結果は、処理部170に伝達される。この場合、処理部170は、押圧操作が検出されたことをトリガとして、押圧操作に対応する処理を実行する。
[1−3−7−5]決定部168
決定部168は、本実施形態に係る処理方法に係る処理における決定処理を行う役目を果たし、操作装置300から出力される、マウススイッチに対する押圧操作に応じた操作信号に基づいて、検出された押圧操作に対応する処理を決定する。
ここで、本実施形態に係る押圧操作に対応する処理には、例えば、“撮像デバイス106の撮像動作に関連する処理”、“撮像デバイス106において撮像された医療用撮像画像の表示に関連する処理”、および“識別処理”のうちの一部または全部が含まれる。
撮像デバイス106の撮像動作に関連する処理としては、直接的に撮像デバイス106の撮像動作を変更する処理が挙げられる。直接的に撮像デバイス106の撮像動作を変更する処理としては、例えば、“ズームイン、ズームアウトのようなズーム倍率を変更する処理”、“フォーカスイン、フォーカスアウトのようなフォーカス位置を調整する処理”“アーム104を駆動させて撮像デバイス106を移動させることなどにより、撮像位置を変更する処理”、“レンズの絞り値の変更など焦点深度を変更する処理”、および“観察モードを変更する処理”のうちの1または2以上など、が挙げられる。つまり、撮像デバイス106の撮像動作に関連する処理は、例えば、ズーム倍率の変更、フォーカス位置の調整、撮像位置の変更、焦点深度の変更、および観察モードの変更のうちの1または2以上を含む。
本実施形態に係る観察モードとしては、例えば、1または2以上の特殊光観察モードと、自然光観察モードとが挙げられる。特殊光観察モードとは、特定の波長帯域の光である特殊光で撮像が行われる観察モードである。特殊光観察モードとしては、例えば、近赤外線の波長帯域の光で撮像が行われる蛍光観察モードや、5−ALAを用いた蛍光観察の蛍光波長帯域の光で撮像が行われる蛍光観察モードなどが、挙げられる。また、自然光観察モードとは、自然光で撮像が行われる観察モードである。
決定部168が、押圧操作に対応する処理として撮像デバイス106の撮像動作に関連する処理を決定した場合、後述する処理部170は、撮像デバイス106の撮像動作に関連する処理を実行する。後述する処理部170において、押圧操作に対応する処理として撮像デバイス106の撮像動作に関連する処理が実行されることによって、ズーム倍率の変更、フォーカス位置の調整、撮像位置の変更、焦点深度の変更、および観察モードの変更のうちの1または2以上を含む撮像デバイス106の撮像動作が、変更される。
撮像デバイス106において撮像された医療用撮像画像の表示に関連する処理としては、例えば、直接的に医療用撮像画像の表示の仕方を変更する処理が、挙げられる。医療用撮像画像の表示の仕方を変更する処理の一例を挙げると、例えば“画面の表示モードを変更する処理”および“カラーモードを変更する処理”の一方または双方が、挙げられる。つまり、医療用撮像画像の表示に関連する処理は、画面の表示モードの変更、およびカラーモードの変更の一方または双方を含む。
本実施形態に係る画面の表示モードとしては、例えば、単画面表示で表示を行う表示モードと、複数画面表示で表示を行う表示モードとが、挙げられる。単画面表示とは、医療用撮像画像のみが表示画面に表示される表示である。複数画面表示とは、例えばPIP(Picture In Picture)表示やPOP(Picture Out Picture)表示などのように、医療用撮像画像と他の画像とが共に表示画面に表示される表示である。
本実施形態に係るカラーモードは、例えば、表示装置200などの医療用撮像画像が表示される表示装置において変更することが可能な、表示色と表示階調との組み合わせが、挙げられる。また、本実施形態に係るカラーモードには、グレースケールで表示が行われることが、含まれていてもよい。
決定部168が、押圧操作に対応する処理として医療用撮像画像の表示に関連する処理を決定した場合、後述する処理部170は、医療用撮像画像の表示に関連する処理を実行する。後述する処理部170において、押圧操作に対応する処理として医療用撮像画像の表示に関連する処理が実行されることにより、画面の表示モードの変更、およびカラーモードの変更の一方または双方を含む医療用撮像画像の表示の仕方が、変更される。
本実施形態に係る識別処理とは、撮像動作に関連する処理もしくは医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する処理である。識別処理としては、例えば、音声認識処理、認識対象の視線を認識する視線認識処理、または、認識対象の動きを認識する動き認識処理が、挙げられる。
医療用観察装置100において行われる音声認識処理の対象としては、例えば、図5に示す操作装置300が備える音声入力デバイス304から出力される音声信号が、挙げられる。
医療用観察装置100において行われる視線認識処理、および医療用観察装置100において行われる動き認識処理それぞれにおける認識対象としては、例えば、操作装置300(マウススイッチを含む外部の操作装置)の操作者が、挙げられる。操作装置300の操作者を認識対象とすることによって、医療用観察装置100は、操作装置300を操作する特定の者に対する認識結果に対応する処理を実行することができる。
例えばセンサ400がステレオカメラを有するセンサユニットである場合、医療用観察システム1000では、当該撮像画像から操作装置300を検出する処理などの、当該撮像画像に対する所定の画像処理が行われることによって、認識対象が特定される。医療用観察システム1000において上記所定の画像処理は、センサ400で行われてもよいし、医療用観察装置100(または、制御装置(図示せず))で行われてもよい。
なお、医療用観察装置100において行われる視線認識処理、および医療用観察装置100において行われる動き認識処理それぞれにおける認識対象は、操作装置300の操作者であることに限られない。
例えばセンサ400がステレオカメラを有するセンサユニットである場合、医療用観察システム1000では、センサ400において撮像された撮像画像から設定されている顔を検出する顔検出処理が行われることによって、認識対象が特定されてもよい。医療用観察システム1000において上記顔検出処理は、センサ400で行われてもよいし、医療用観察装置100(または、制御装置(図示せず))で行われてもよい。
決定部168が、押圧操作に対応する処理として識別処理を決定した場合、後述する処理部170は、識別処理を実行するモードに移行して識別処理を実行する。後述する処理部170において識別処理が行われる場合、処理部170は、識別処理で識別されたユーザの入力に対応する処理を実行することによって、撮像デバイス106の撮像動作を制御し、もしくは、医療用撮像画像の表示を制御する。撮像デバイス106の撮像動作が制御されることによって、例えば、ズーム倍率の変更、フォーカス位置の調整、撮像位置の変更、焦点深度の変更、および観察モードの変更のうちの1または2以上を含む撮像デバイス106の撮像動作が、変更される。また、医療用撮像画像の表示が制御されることによって、例えば、画面の表示モードの変更、およびカラーモードの変更の一方または双方を含む医療用撮像画像の表示の仕方が、変更される。つまり、識別処理は、“識別処理の結果に応じて、撮像デバイス106の撮像動作の変更と医療用撮像画像の表示の仕方の変更との一方または双方を、間接的に行うことが可能な処理”であるといえる。
上述したように、決定部168および処理部170それぞれでは、検出部166において押圧操作が検出されたことをトリガとして処理が行われる。また、後述するように、処理部170は、決定部168において決定された処理を実行する。つまり、決定部168において押圧操作に対応する処理として識別処理が決定された場合、処理部170は、押圧操作の検出に基づき識別処理を実行するモードに移行し、識別処理で識別されたユーザの入力に対応する処理を実行する。
決定部168は、押圧操作に対して対応付けられている処理を、押圧操作に対応する処理として決定する。押圧操作に対して対応付けられている処理は、1つであってもよいし、複数であってもよい。
ここで、医療用観察装置100が操作装置300から取得される操作信号に基づき単機能を制御する場合、決定部168は、操作信号が取得されたことに対して予め対応付けられている処理を、押圧操作に対応する処理として決定する。単機能を制御する場合、決定部168は、操作信号が取得されたこと(検出部166において押圧操作が検出されたこと)をトリガとして、記憶部(図示せず)などの記録媒体に記憶されている、処理を規定する情報を参照することによって、押圧操作に対応する処理を決定する。処理を規定する情報としては、例えば、プログラムIDや、プログラムデータなど、実行する処理を特定することが可能な任意の形式のデータが、挙げられる。
また、医療用観察装置100が操作装置300から取得される操作信号に基づき複数機能を制御する場合、決定部168は、操作信号に基づいて押圧操作の種別を判定する。そして、決定部168は、判定された押圧操作の種別に対して対応付けられている処理を、押圧操作に対応する処理として決定する、
押圧操作の種別としては、例えば、操作の種別を判定する所定の期間内に1回の押圧操作が検出されたこと、当該所定の期間内に2回の押圧操作が検出されたことなど、当該所定の期間内に検出される押圧操作の回数で表される種別が、挙げられる。操作の種別を判定する所定の期間は、予め設定されている固定の期間であってもよいし、医療用観察装置100を用いるユーザ(例えば、術者や術者の助手などの医療従事者)の操作によって変更可能な可変の期間であってもよい。
決定部168は、操作信号が取得されたことをトリガとして所定の期間内に行われる押圧操作の回数をカウントして、押圧操作の種別を判定する。操作信号がパルス信号である場合を例に挙げると、決定部168は、操作の種別を判定する所定の期間内に検出されるパルス数をカウントし、検出されたパルス数によって押圧操作の種別を判定する。決定部168は、例えば、記憶部(図示せず)などの記録媒体に記憶されている“押圧操作の回数(または検出されたパルス数)と、押圧操作の種別とが対応付けられているテーブル(または、データベース)”を参照することによって、押圧操作の種別を判定する。
なお、決定部168における圧操作の種別の判定方法は、上記に限られない。
例えば、操作信号がパルス信号である場合、決定部168は、操作信号のパルス幅をさらに考慮して、押圧操作の種別を判定してもよい。決定部168は、例えば、“検出されたパルス数、操作信号のパルス幅、および押圧操作の種別とが対応付けられているテーブル(または、データベース)”を参照することによって、押圧操作の種別を判定する。
決定部168における決定結果は、処理部170に伝達され、処理部170では、当該決定結果に対応する処理が行われる。また、撮像制御部160、アーム制御部162、および表示制御部164のうちの1または2以上が処理部170として機能する場合、決定部168における決定結果は、処理部170として機能する各部に伝達され、決定部168における決定結果が伝達された各部では、当該決定結果に対応する処理が行われる。
上述したように、本実施形態に係る医療用観察システムは、操作装置300を複数有する構成をとりうる。本実施形態に係る医療用観察システムが操作装置300を複数有する場合、決定部168は、例えば、複数の操作装置300それぞれから出力される押圧操作に応じた操作信号に基づいて、押圧操作に対応する処理を決定する。決定部168が複数の操作装置300それぞれから出力される操作信号に基づいて押圧操作に対応する処理を決定する場合、医療用観察装置100は、複数の操作装置300それぞれに対する操作に基づいて動作することとなる。
なお、本実施形態に係る医療用観察システムが操作装置300を複数有する場合における決定部168の処理は、上記に示す例に限られない。例えば、決定部168は、複数の操作装置300のうちの一部の操作装置300から出力される押圧操作に応じた操作信号に基づいて、押圧操作に対応する処理を決定してよい。
例えば、操作装置300が操作信号と共に識別情報を出力する場合、決定部168は、取得された識別情報から操作装置300を特定する。操作装置300が特定されると、決定部168は、例えば、複数の操作装置300それぞれに対して設定される優先度に基づいて、特定された操作装置300が決定処理を行う対象であるかを判定する。決定部168は、例えば、記憶部(図示せず)などの記録媒体に記憶されている“識別情報と優先度とが対応付けられているテーブル(またはデータベース)”を参照することによって、特定された操作装置300の優先度を特定する。決定部168は、例えば、最も高い優先度が設定されている操作装置300、または、当該優先度が設定されている閾値以上の操作装置300(または、当該優先度が当該閾値より大きい操作装置300)を、決定処理を行う対象であると判定する。そして、決定部168は、決定処理を行う対象であると判定された操作装置300から出力される操作信号に基づいて、押圧操作に対応する処理を決定する。また、決定部168は、決定処理を行う対象であると判定されない操作装置300から出力される操作信号に基づいて、押圧操作に対応する処理を決定しない。
決定部168が、複数の操作装置300のうちの一部の操作装置300から出力される操作信号に基づいて押圧操作に対応する処理を決定する場合、医療用観察装置100は、複数の操作装置300のうちの一部の操作装置300に対する操作に基づいて動作することとなる。
[1−3−7−6]処理部170
処理部170は、本実施形態に係る処理方法に係る処理における実行処理を行う役目を果たす。
処理部170は、例えば下記の(a)に示す第1の例〜下記の(d)に示す第4の例に示すように、決定部168において決定された押圧操作に対応する処理を実行する。
(a)処理部170における処理の第1の例
例えば、決定部168が、ズーム倍率を変更する処理などのように撮像デバイス106の撮像動作に関連する処理を押圧操作に対応する処理として決定した場合、処理部170は、決定された撮像デバイス106の撮像動作に関連する処理を実行する
(b)処理部170における処理の第2の例
例えば、決定部168が、画面の表示モードを変更する処理などの医療用撮像画像の表示に関連する処理を押圧操作に対応する処理として決定した場合、処理部170は、決定された医療用撮像画像の表示に関連する処理を実行する。
(c)処理部170における処理の第3の例
例えば、決定部168が識別処理を押圧操作に対応する処理として決定した場合、処理部170は、押圧操作の検出に基づき識別処理を実行するモードに移行する。そして、処理部170は、識別処理で識別されたユーザの入力に対応する処理を実行する。上述したように、識別処理としては、例えば、音声認識処理と、視線認識処理と、動き認識処理とが、挙げられる。
(c−1)識別処理として音声認識処理が実行される場合
処理部170は、音声入力デバイスから出力される音声信号に対して音声認識処理を実行し、識別処理で識別されたユーザの入力に対応する処理として、認識された音声入力に対応する処理を実行する。例えば、処理部170は、音声信号に対して音声認識処理を実行し、認識された音声に対応する命令を特定する。そして、処理部170は、認識された音声入力に対応する処理として、特定された命令に対応する処理を実行する。以下では、音声に対応する命令を「音声コマンド」と示す場合がある。
ここで、音声認識処理を実行する対象の音声信号を出力する音声入力デバイスとしては、例えば、図5に示す音声入力デバイス304が挙げられる。音声入力デバイス304から出力される音声信号に対して音声認識処理が実行されることによって、医療用観察装置100は、操作装置300を操作する特定の者の音声から特定された命令に対応する処理を実行することができる。
なお、音声認識処理を実行する対象の音声信号を出力する音声入力デバイスが、図5に示す音声入力デバイス304に限られないことは、言うまでもない。
(c−2)識別処理として視線認識処理が実行される場合
処理部170は、視線認識処理を実行し、識別処理で識別されたユーザの入力に対応する処理として、認識された視線入力に対応する処理を実行する。例えば、処理部170は、認識された視線入力に対応する処理として、センサ400などの視線検出センサから出力される検出結果に基づき認識される視線に対応する処理を実行する。
視線検出センサから出力される検出結果に基づき認識される視線に対応する処理としては、例えば、認識される視線に対応して撮像デバイス106を移動させる処理が挙げられる。一例を挙げると、処理部170は、“医療用撮像画像が表示されている表示装置200の表示画面上で視線が移動したときに、移動後の視線の位置に対応する医療用撮像画像部分が表示画面の中心位置に表示されるようにアーム104を制御して、撮像デバイス106を移動させる処理”を行う。なお、視線検出センサから出力される検出結果に基づき認識される視線に対応する処理の例は、上記に示す例に限られず、処理部170は、視線検出センサから出力される検出結果を利用した任意の処理を行うことが可能である。
(c−3)識別処理として動き認識処理が実行される場合
処理部170は、動き認識処理を実行し、識別処理で識別されたユーザの入力に対応する処理として、認識された動き入力に対応する処理を実行する。例えば、処理部170は、動き検出センサから出力される検出結果に基づき認識される動きに対応する命令を特定する。そして、処理部170は、認識された動き入力に対応する処理として、特定された命令に対応する処理を実行する。
医療用観察装置100において行われる動き認識処理としては、例えば、認識対象の移動を認識する移動認識処理と、認識対象のジェスチャを認識するジェスチャ認識処理との一方または双方が、挙げられる。
移動認識処理としては、例えば、“動き検出センサから出力される検出結果から、認識対象の顔の移動などの認識対象の一部の部位の移動を認識する処理”、または、“動き検出センサから出力される検出結果から、認識対象全体の移動を認識する処理”が、挙げられる。
例えば、動き検出センサが図3に示すセンサ400であり、センサ400がステレオカメラを有するセンサユニットである場合、処理部170は、表示装置200の表示画面に対する認識対象の移動を認識することによって、動きに対応する命令を特定する。上記の場合における処理の一例を挙げると、処理部170は、例えば、センサ400から出力される検出結果から表示装置200の表示画面に対する認識対象の距離を特定し、距離の変化によって表示装置200の表示画面に対する認識対象の移動を認識する。そして、処理部170は、認識された移動に対応付けられている命令を、動きに対応する命令として特定し、特定された命令に対応する処理を実行する。
処理部170は、例えば、記憶部(図示せず)などの記録媒体に記憶されている“認識される移動と実行する処理とが対応付けられているテーブル(またはデータベース)”を参照することによって、認識された移動に対応付けられている命令を特定する。認識される移動と命令との対応付けの一例としては、例えば、“表示装置200の表示画面に対して顔(認識対象の一部の部位の一例。以下、同様とする。)を近づけたと認識されたことと、ズームインさせる命令とが対応付けられること”や、“表示装置200の表示画面に対して顔を近づけたと認識されたことと、ズームアウトさせる命令とが対応付けられること”などが、挙げられる。
ジェスチャ認識処理としては、例えば、“撮像画像から手などの特定の物体を検出し、検出された物体の形状の変化を検出することによってジェスチャを認識する処理”や、“撮像画像から周期運動を検出することによってジェスチャを認識する処理”など、センサ400などの動き検出センサを利用してジェスチャを検出することが可能な、任意の処理が挙げられる。
処理部170は、例えば、記憶部(図示せず)などの記録媒体に記憶されている、ジェスチャを認識するための情報(例えば、形状を特定する基準となる形状データや、周期を特定する基準となる周期データなど)を参照することによって、認識対象のジェスチャを認識する。そして、処理部170は、認識されたジェスチャに対応付けられている命令を、動きに対応する命令として特定し、特定された命令に対応する処理を実行する。
処理部170は、例えば、記憶部(図示せず)などの記録媒体に記憶されている“認識されるジェスチャと実行する処理とが対応付けられているテーブル(またはデータベース)”を参照することによって、認識されたジェスチャに対応付けられている命令を特定する。
(d)処理部170における処理の第4の例
処理部170は、例えば上記(a)に示す第1の例に係る処理〜上記(c)に示す第3の例に係る処理のうちの並行して行うことが可能な2以上の処理を行うことが可能である。並行して行うことが可能な2以上の処理の一例を挙げると、例えば、“上記(a)に示す第1の例に係る処理および上記(b)に示す第2の例に係る処理”や“上記(c−1)に示す処理〜上記(c−3)に示す処理のうちの2以上の処理”などが、挙げられる。複数の処理が並行して行われる場合、処理部170は、例えば、実行する処理に優先度を設け、優先度が高い処理を優先的に行ってもよい。
処理部170は、例えば上記(a)に示す第1の例に係る処理〜上記(d)に示す第4の例に係る処理のいずれかの処理を行うことによって、決定部168において決定された押圧操作に対応する処理を実行する。
なお、処理部170が実行する処理は、決定部168において決定された押圧操作に対応する処理に限られない。
例えば、制御部158が決定部168を有さない構成である場合、処理部170は、押圧操作に対して対応付けられている処理を、押圧操作に対応する処理として実行する。処理部170は、押圧操作が検出されたことをトリガとして、押圧操作に対応付けられている処理を実行する。
処理部170が実行する押圧操作に対して対応付けられている処理としては、例えば、ズーム倍率を変更する処理などの撮像デバイス106の撮像動作に関連する処理と、表示装置200における画面の表示モードを変更する処理などの医療用撮像画像の表示に関連する処理と、音声認識処理などの識別処理とが挙げられる。
一例を挙げると、押圧操作に対して識別処理が対応付けられている場合、処理部170は、押圧操作の検出に基づき識別処理を実行するモードに移行し、識別処理で識別されたユーザの入力に対応する処理を実行する。識別処理で識別されたユーザの入力に対応する処理が実行されることによって、撮像デバイス106の撮像動作と医療用撮像画像の表示の仕方との一方または双方が、識別処理で識別されたユーザの入力によって変更される。
押圧操作に対応する処理が実行された後に、操作装置300から出力される操作信号が取得された場合、処理部170は、当該操作信号に基づいて、実行している押圧操作に対応する処理を停止する。
処理部170は、例えば、取得された操作信号から、実行している処理に対応する押圧操作の種別と同種の押圧操作の種別が判定された場合に、実行している押圧操作に対応する処理を停止する。また、処理部170は、押圧操作に対応する処理が実行された後に、操作装置300から出力される操作信号が取得されたこと(検出部166において押圧操作が検出されたこと)をトリガとして、実行している押圧操作に対応する処理を停止してもよい。
制御部158は、例えば、検出部166、決定部168、および処理部170(または、撮像制御部160、アーム制御部162、および表示制御部164のうちの1または2以上と、検出部166と、決定部168と、処理部170)を有することにより、本実施形態に係る処理方法に係る処理を主導的に行う役目を果たす。また、制御部158は、例えば、撮像制御部160、アーム制御部162、および表示制御部164を有することによって、医療用観察装置100全体を制御する役目を果たす。
なお、制御部158の構成は、図7に示す例に限られない。
例えば上述したように、制御部158は、決定部168を有さない構成をとることも可能である。決定部168を有さない構成をとる場合、制御部158では、押圧操作が検出されたことをトリガとして、押圧操作に対して対応付けられている処理が、実行される。
また、制御部158は、本実施形態に係る処理方法に係る処理の切り分け方に応じた構成など、医療用観察装置100が有する機能の切り分け方に応じた、任意の構成を有することが可能である。
医療用観察装置100は、例えば図7に示す構成によって、後述する本実施形態に係る処理方法に係る処理を行う。
なお、本実施形態に係る医療用観察装置の構成は、図7に示す構成に限られない。
例えば、本実施形態に係る医療用観察装置は、図7に示す撮像制御部160、アーム制御部162、表示制御部164、検出部166、決定部168、および処理部170のうちの1または2以上を、制御部158とは個別に備える(例えば、別の処理回路で実現する)ことができる。
また、本実施形態に係る医療用観察装置は、例えば、決定部168を有さない構成であってもよい。
また、本実施形態に係る医療用観察装置において本実施形態に係る処理方法に係る処理を実現するための構成は、図7に示す構成に限られず、例えば、本実施形態に係る医療用観察装置は、本実施形態に係る処理方法に係る処理の切り分け方に応じた構成をとることが可能である。
また、例えば、通信部156と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本実施形態に係る医療用観察装置は、通信部156を備えていなくてもよい。
また、本実施形態に係る医療用観察システムが、制御装置(図示せず)を有する構成であり、本実施形態に係る医療用観察装置が当該制御装置(図示せず)により制御される場合、本実施形態に係る医療用観察装置は、制御部158を備えていなくてもよい。
ここで、制御装置(図示せず)は、例えば、制御部158と同様の機能、構成を有する制御部を備えることによって、後述する本実施形態に係る処理方法に係る処理を行い、また、本実施形態に係る医療用観察装置が備えるアーム部152や撮像部154などの各構成要素における動作を制御する。制御装置(図示せず)は、備えている通信デバイス、または、接続されている外部の通信デバイスを介して、本実施形態に係る医療用観察装置と通信を行うことによって、本実施形態に係る医療用観察装置が備える各構成要素における動作を制御する。
さらに、本実施形態に係る医療用観察システムが、制御装置(図示せず)を有する構成であり、本実施形態に係る医療用観察装置が当該制御装置(図示せず)により制御される場合、本実施形態に係る医療用観察装置は、制御部158の一部の機能を有さない構成をとることも可能である。
[2]本実施形態に係る処理方法
次に、本実施形態に係る処理方法に係る処理について、説明する。以下では、本実施形態に係る処理方法に係る処理を医療用観察装置100(より具体的には、例えば医療用観察装置100を構成する制御部158)が行う場合を例に挙げる。なお、上述したように、本実施形態に係る医療用観察システムにおいて本実施形態に係る処理方法に係る処理は、制御装置(図示せず)により行われてもよい。
[2−1]本実施形態に係る処理方法の概要
上述したように、電子撮像式の医療用観察装置は、光学式の医療用観察装置のような接眼レンズを有する構成ではなく、撮像デバイスの自由な移動が可能であることから術者の顔の位置と撮像デバイスの位置とは一定ではない。そのため、電子撮像式の医療用観察装置にマウススイッチを設けたとしても、術者が両手を術野から離さずに、マウススイッチを用いて医療用観察装置に対する操作を行うことができるとは、限られない。
そこで、医療用観察装置100は、操作装置300(マウススイッチを含む外部の操作装置の一例。以下、同様とする。)による操作が可能な機能を有する。
より具体的には、医療用観察装置100は、例えば、操作装置300から出力される押圧操作に応じた操作信号に基づいて、押圧操作を検出する(検出処理)。医療用観察装置100は、例えば検出部166の説明において示したように、操作信号から特定の信号パターンを検出することによって、操作装置300が有するマウススイッチに対する押圧操作を検出する。
押圧操作が検出されると、医療用観察装置100は、押圧操作に対応する処理を決定する(決定処理)。医療用観察装置100は、決定部168の説明において示したように、例えば押圧操作に対して対応付けられている処理を、押圧操作に対応する処理として決定する。また、医療用観察装置100は、決定部168の説明において示したように、操作信号に基づいて押圧操作の種別を判定して、押圧操作に対応する処理を決定してもよい。
そして、医療用観察装置100は、決定処理により決定された押圧操作に対応する処理を実行する(実行処理)。医療用観察装置100は、処理部170の説明において示したように、例えば上記(a)に示す第1の例に係る処理〜上記(d)に示す第4の例に係る処理のいずれかの処理を行うことによって、決定された押圧操作に対応する処理を実行する。
本実施形態に係る処理方法に係る処理として、上記検出処理、上記決定処理、および上記実行処理が行われることによって、電子撮像式の医療用観察装置を用いた手術において、術者は、両手を術野から離さずに、マウススイッチを用いて撮像デバイスの撮像動作を変更する操作などの医療用観察装置に対する操作を、行うことができる。
したがって、本実施形態に係る処理方法に係る処理として、上記決定処理および上記実行処理が行われることによって、マウススイッチを含む外部の操作装置による電子撮像式の医療用観察装置の操作が、実現される。
なお、本実施形態に係る処理方法に係る処理は、上記検出処理、上記決定処理、および上記実行処理に限られない。例えば、医療用観察装置100は、上記決定処理を行わなくてもよい。
上記決定処理を行わない場合、医療用観察装置100は、上記検出処理により押圧操作を検出し、押圧操作が検出されたことをトリガとして、上記実行処理により押圧操作に対して対応付けられている処理を実行する。
本実施形態に係る処理方法に係る処理として、上記検出処理および上記実行処理が行われる場合であっても、電子撮像式の医療用観察装置を用いた手術において、術者は、両手を術野から離さずに、マウススイッチを用いて撮像デバイスの撮像動作を変更する操作などの医療用観察装置に対する操作を、行うことができる。
したがって、本実施形態に係る処理方法に係る処理として、上記検出処理および上記実行処理が行われる場合であっても、マウススイッチを含む外部の操作装置による電子撮像式の医療用観察装置の操作が、実現される。
[2−2]本実施形態に係る処理方法に係る処理の一例
次に、本実施形態に係る処理方法に係る処理の一例を説明する。以下では、本実施形態に係る処理方法に係る処理として、上記検出処理、上記決定処理、および上記実行処理が行われる場合を例に挙げる。なお、本実施形態に係る処理方法に係る処理の例が、下記に示す第1の例に係る処理〜下記に示す第4の例に係る処理に限られないことは、言うまでもない。
[2−2−1]処理方法に係る処理の第1の例
処理方法に係る処理の第1の例として、図4に示す操作装置300を用いて医療用観察装置100が操作される場合における、医療用観察装置100の処理の一例を説明する。
図8は、本実施形態に係る処理方法に係る処理の第1の例を説明するための説明図である。例えば、図8に示すステップS100の処理が、本実施形態に係る処理方法に係る検出処理に該当する。また、例えば、図8に示すステップS102の処理が、本実施形態に係る処理方法に係る決定処理に該当し、図8に示すステップS104〜S108の処理が、本実施形態に係る処理方法に係る実行処理に該当する。
医療用観察装置100は、マウススイッチに対する操作が検出されたか否かを判定する(S100)。医療用観察装置100は、操作装置300から送信される操作信号が取得されたときに、マウススイッチに対する操作が検出されたと判定する。
ステップS100においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、マウススイッチに対する操作が検出されたと判定されるまで処理を進めない。
また、ステップS100においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、検出された操作に対応する処理を決定する(S102)。
上述したように、医療用観察装置100が操作装置300から取得される操作信号に基づき単機能を制御する場合、医療用観察装置100は、例えば、操作信号が取得されたことに対して予め対応付けられている処理を、押圧操作に対応する処理として決定する。一例を挙げると、医療用観察装置100は、マウススイッチに対する操作が検出されたと判定された場合には、“医療用撮像画像のみが表示装置200の表示画面に表示される表示から、医療用撮像画像と他の画像とが共に表示されるPIP表示へと切り替える処理”(画面の表示モードを変更する処理の一例)を、押圧操作に対応する処理として決定する。
また、上述したように、医療用観察装置100が操作装置300から取得される操作信号に基づき複数機能を制御する場合、医療用観察装置100は、例えば、操作信号に基づいて押圧操作の種別を判定する。そして、医療用観察装置100は、判定された押圧操作の種別に対して対応付けられている処理を、押圧操作に対応する処理として決定する。一例を挙げると、操作の種別を判定する所定の期間内に1回の押圧操作が検出された場合、医療用観察装置100は、ズームインに係る処理(ズーム倍率を変更する処理の一例)を、押圧操作に対応する処理として決定する。また、他の例を挙げると、操作の種別を判定する所定の期間内に2回の押圧操作が検出された場合、医療用観察装置100は、ズームアウトに係る処理(ズーム倍率を変更する処理の他の例)を、押圧操作に対応する処理として決定する。
医療用観察装置100は、ステップS102において決定された押圧操作に対応する処理を開始する(S104)。
ステップS104の処理を行うと、医療用観察装置100は、ステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S106)。
ステップS106においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、マウススイッチに対する操作が検出されたと判定されるまで処理を進めない。ステップS106においてマウススイッチに対する操作が検出されたと判定されない場合には、ステップS102において決定された押圧操作に対応する処理の実行が継続される。
また、ステップS106においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、ステップS104において開始された、検出された操作に対応する処理を停止する(S108)。
医療用観察装置100は、例えば図8に示す処理を行うことによって、図4に示す操作装置300に対して行われた押圧操作に対応する処理を実行する。例えば図8に示す処理が行われることによって、操作装置300のマウススイッチを用いる術者は、両手を術野から離さずに撮像デバイスの移動を移動させることができ、また、両手を術野から離さずに撮像デバイスの撮像動作を変更することができる。
なお、図4に示す操作装置300を用いて医療用観察装置100が操作される場合における医療用観察装置100の処理が、図8に示す例に限られないことは、言うまでもない
[2−2−2]処理方法に係る処理の第2の例
処理方法に係る処理の第2の例として、図5に示す操作装置300を用いて医療用観察装置100が操作される場合における、医療用観察装置100の処理の一例を説明する。
図9は、本実施形態に係る処理方法に係る処理の第2の例を説明するための説明図である。例えば、図9に示すステップS200の処理が、本実施形態に係る処理方法に係る検出処理に該当する。また、例えば、図9に示すステップS202の処理が、本実施形態に係る処理方法に係る決定処理に該当し、図9に示すステップS204〜S212の処理が、本実施形態に係る処理方法に係る実行処理に該当する。
医療用観察装置100は、図8のステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S200)。
ステップS200においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、マウススイッチに対する操作が検出されたと判定されるまで処理を進めない。
また、ステップS200においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、図8のステップS102と同様に、検出された操作に対応する処理を決定する(S202)。以下では、ステップS202において、検出された操作に対応する処理として音声認識処理(識別処理の一例)が決定された場合を、例に挙げる。
医療用観察装置100は、ステップS202において決定された音声認識処理を開始する(S204)。
医療用観察装置100は、操作装置300が備える音声入力デバイス304から出力される音声信号から音声コマンドが認識されたかを判定する(S206)。例えば、医療用観察装置100に対して名称が付されている場合、医療用観察装置100が認識する音声コマンドは、“医療用観察装置100の名称、および命令”であってもよい。医療用観察装置100が認識する音声コマンドが“医療用観察装置100の名称、および命令”である場合には、音声コマンドが単純に“命令”である場合よりも、操作装置300の操作者の使い勝手を向上させることができうる。
ステップS206において音声コマンドが認識されたと判定されない場合、医療用観察装置100は、後述するステップS210の処理を行う。
ステップS206において音声コマンドが認識されたと判定された場合、医療用観察装置100は、認識された音声コマンドに対応する処理を行う(S208)。音声コマンドに対応する処理の例としては、“ズームイン、ズームアウト、フォーカスイン、フォーカスアウトなどの撮像デバイス106の撮像動作に係る処理”、“撮像デバイス106を上下左右に移動させるための、アーム104の動作に係る処理”、“医療用撮像画像のみが表示装置200の表示画面に表示される表示から、医療用撮像画像と他の画像とが共に表示されるPIP表示へと切り替える処理”などが、挙げられる。
ステップS208の処理が行われた場合、または、ステップS206において音声コマンドが認識されたと判定されない場合には、医療用観察装置100は、図8のステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S210)。
ステップS210においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、ステップS206からの処理を繰り返す。
また、ステップS210においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、医療用観察装置100は、ステップS204において開始された音声認識処理を停止する(S212)。
医療用観察装置100は、例えば図9に示す処理を行うことによって、図5に示す操作装置300に対して行われた押圧操作に対応する処理を実行する。例えば図9に示す処理が行われることによって、術者は、マウススイッチに対する押圧操作を音声UIの開始トリガおよび停止トリガとし、両手を術野から離さずに音声UIをオン/オフして、音声によって医療用観察装置100の様々な機能を操作することができる。
なお、図5に示す操作装置300を用いて医療用観察装置100が操作される場合における医療用観察装置100の処理は、図9に示す例に限られない。例えば、図9では、ステップS202において音声認識処理が決定され、音声認識処理が行われる例を説明したが、音声認識処理以外の処理が行われてもよい。検出された操作に対応する処理として音声認識処理以外の処理が行われる場合、医療用観察装置100は、例えば、図9のステップS204以降の処理として、図8のステップS104以降と同様の処理を行う。
[2−2−3]処理方法に係る処理の第3の例
処理方法に係る処理の第3の例として、図3に示すようなセンサ400を有する医療用観察システムにおける、医療用観察装置100の処理の一例を説明する。
以下では、センサ400が“ステレオカメラとプロセッサとを有し、ステレオカメラにより撮像された撮像画像から、少なくとも視線を検出するセンサユニット”である場合、すなわち、センサ400が視線検出センサとして機能する場合を、例に挙げる。センサ400を有する医療用観察システムでは、図4に示す操作装置300または図5に示す操作装置300を用いて医療用観察装置100が操作される。
図10は、本実施形態に係る処理方法に係る処理の第3の例を説明するための説明図である。例えば、図10に示すステップS300の処理が、本実施形態に係る処理方法に係る検出処理に該当する。また、例えば、図10に示すステップS302の処理が、本実施形態に係る処理方法に係る決定処理に該当し、図10に示すステップS304〜S312の処理が、本実施形態に係る処理方法に係る実行処理に該当する。
医療用観察装置100は、図8のステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S300)。
ステップS300においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、マウススイッチに対する操作が検出されたと判定されるまで処理を進めない。
また、ステップS300においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、図8のステップS102と同様に、検出された操作に対応する処理を決定する(S302)。以下では、ステップS302において、検出された操作に対応する処理として視線認識処理(識別処理の一例)が決定された場合を、例に挙げる。
医療用観察装置100は、ステップS302において決定された視線認識処理を開始する(S304)。
医療用観察装置100は、視線検出センサとして機能するセンサ400から出力される検出結果に基づいて視線が認識されたか否かを判定する(S306)。
ステップS306において視線が認識されたと判定されない場合、医療用観察装置100は、後述するステップS310の処理を行う。
ステップS306において視線が認識されたと判定された場合、医療用観察装置100は、認識された視線に対応する処理を行う(S308)。認識された視線に対応する処理としては、例えば“医療用撮像画像が表示されている表示装置200の表示画面上で視線が移動したときに、移動後の視線の位置に対応する医療用撮像画像部分が表示画面の中心位置に表示されるようにアーム104を制御して、撮像デバイス106を移動させる処理”などの、認識された視線を利用した処理が、挙げられる。
ステップS308の処理が行われた場合、または、ステップS206において視線が認識されたと判定されない場合には、医療用観察装置100は、図8のステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S310)。
ステップS310においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、ステップS306からの処理を繰り返す。
また、ステップS310においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、医療用観察装置100は、ステップS304において開始された視線認識処理を停止する(S312)。
医療用観察装置100は、例えば図10に示す処理を行うことによって、センサ400を有する医療用観察システムにおいて、操作装置300に対して行われた押圧操作に対応する処理を実行する。例えば図10に示す処理が行われることによって、操作装置300を用いる術者は、マウススイッチに対する押圧操作を視線UIの開始トリガおよび停止トリガとして、両手を使わずに視線だけで、撮像デバイス106を移動させることができる。
なお、センサ400を有する医療用観察システムにおける医療用観察装置100の処理は、図10に示す例に限られない。例えば、図10では、ステップS302において視線認識処理が決定され、視線認識処理が行われる例を説明したが、視線認識処理以外の処理が行われてもよい。検出された操作に対応する処理として視線認識処理以外の処理が行われる場合、医療用観察装置100は、例えば、図10のステップS304以降の処理として、図8のステップS104以降と同様の処理を行う。また、検出された操作に対応する処理として視線認識処理以外の処理が行われる場合、医療用観察装置100は、例えば、図10のステップS304以降の処理として、図9のステップS204以降と同様の処理を行ってもよい。また、センサ400を有する医療用観察システムにおいて、医療用観察装置100は、後述する第4の例に係る処理を行うことも可能である。
[2−2−4]処理方法に係る処理の第4の例
処理方法に係る処理の第4の例として、図3に示すようなセンサ400を有する医療用観察システムにおける、医療用観察装置100の処理の他の例を説明する。
以下では、センサ400が“ステレオカメラとプロセッサとを有し、ステレオカメラにより撮像された撮像画像から、少なくとも動きを検出するセンサユニット”である場合、すなわち、センサ400が動き検出センサとして機能する場合を、例に挙げる。センサ400を有する医療用観察システムでは、図4に示す操作装置300または図5に示す操作装置300を用いて医療用観察装置100が操作される。
図11は、本実施形態に係る処理方法に係る処理の第4の例を説明するための説明図である。例えば、図11に示すステップS400の処理が、本実施形態に係る処理方法に係る検出処理に該当する。また、例えば、図11に示すステップS402の処理が、本実施形態に係る処理方法に係る決定処理に該当し、図11に示すステップS404〜S412の処理が、本実施形態に係る処理方法に係る実行処理に該当する。
医療用観察装置100は、図8のステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S400)。
ステップS400においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、マウススイッチに対する操作が検出されたと判定されるまで処理を進めない。
また、ステップS400においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、図8のステップS102と同様に、検出された操作に対応する処理を決定する(S402)。以下では、ステップS402において、検出された操作に対応する処理として動き認識処理(識別処理の一例)が決定された場合を、例に挙げる。
医療用観察装置100は、ステップS402において決定された動き認識処理を開始する(S404)。
医療用観察装置100は、動き検出センサとして機能するセンサ400から出力される検出結果に基づいて動きが認識されたか否かを判定する(S406)。
ステップS406において動きが認識されたと判定されない場合、医療用観察装置100は、後述するステップS410の処理を行う。
ステップS406において動きが認識されたと判定された場合、医療用観察装置100は、認識された動きに対応する処理を行う(S408)。認識された動きに対応する処理の一例としては、“表示装置200の表示画面に対して顔を近づけたと認識されたときに、撮像デバイス106をズームインさせる処理”と、“表示装置200の表示画面に対して顔を遠ざけたと認識されたときに、撮像デバイス106をズームアウトさせる処理”とが、挙げられる。また、認識された動きに対応する処理は、認識されたジェスチャに対応付けられている処理であってもよい。
ステップS408の処理が行われた場合、または、ステップS406において動きが認識されたと判定されない場合には、医療用観察装置100は、図8のステップS100と同様に、マウススイッチに対する操作が検出されたか否かを判定する(S410)。
ステップS410においてマウススイッチに対する操作が検出されたと判定されない場合には、医療用観察装置100は、ステップS406からの処理を繰り返す。
また、ステップS410においてマウススイッチに対する操作が検出されたと判定された場合には、医療用観察装置100は、医療用観察装置100は、ステップS404において開始された動き認識処理を停止する(S412)。
医療用観察装置100は、例えば図11に示す処理を行うことによって、センサ400を有する医療用観察システムにおいて、操作装置300に対して行われた押圧操作に対応する処理を実行する。例えば図11に示す処理が行われることによって、操作装置300を用いる術者は、マウススイッチに対する押圧操作を動きUIの開始トリガおよび停止トリガとし、両手を使わずに顔などの動きだけで、撮像デバイス106のズーム機能などの撮像デバイス106の撮像機能を制御することができる。
なお、センサ400を有する医療用観察システムにおける医療用観察装置100の処理は、図11に示す例に限られない。例えば、図11では、ステップS402において動き認識処理が決定され、動き認識処理が行われる例を説明したが、動き認識処理以外の処理が行われてもよい。検出された操作に対応する処理として動き認識処理以外の処理が行われる場合、医療用観察装置100は、例えば、図11のステップS404以降の処理として、図8のステップS104以降と同様の処理を行う。また、検出された操作に対応する処理として動き認識処理以外の処理が行われる場合、医療用観察装置100は、例えば、図11のステップS404以降の処理として、図9のステップS204以降と同様の処理を行ってもよい。
[3]本実施形態に係る医療用情報処理システムが用いられることにより奏される効果の一例
本実施形態に係る医療用情報処理システムが用いられることによって、例えば下記に示す効果が奏される。なお、本実施形態に係る医療用情報処理システムが用いられることにより奏される効果が、下記に示す例に限られないことは、言うまでもない。
・電子撮像式の医療用観察装置を用いた手術において、操作装置300のマウススイッチを用いる術者は、両手を術野から離さずに撮像デバイスの移動を移動させることができ、また、両手を術野から離さずに撮像デバイスの撮像動作を変更することができる。
・術者は、マウススイッチに対する押圧操作を音声UIの開始トリガおよび停止トリガとして、両手を術野から離さずに音声UIをオン/オフし、音声によって医療用観察装置100の様々な機能を操作することができる。
・術者は、マウススイッチに対する押圧操作を視線UIの開始トリガおよび停止トリガとして、両手を使わずに視線だけで、撮像デバイス106を移動させることができる。
・術者は、マウススイッチに対する押圧操作を動きUIの開始トリガおよび停止トリガとして、両手を使わずに顔などの動きだけで、撮像デバイス106のズーム機能などの撮像デバイス106の撮像機能を制御することができる。
(本実施形態に係るプログラム)
コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る制御装置)として機能させるためのプログラム(例えば、“検出処理、および実行処理”や、“検出処理、決定処理、および実行処理”など、本実施形態に係る処理方法に係る処理を実行することが可能なプログラム)が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、口にくわえて押圧操作されるスイッチを含む外部の操作装置により、医療用観察装置を操作することができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、本実施形態に係る処理方法に係る一連の処理が行われる。
また、コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る制御装置)として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る処理方法に係る処理によって実現される表示によって奏される効果を、奏することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到しうることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、コンピュータシステムを、本実施形態に係る医療用観察装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も、併せて提供することができる。
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
口にくわえて押圧操作されるスイッチを含む外部の操作装置から出力される前記押圧操作に応じた操作信号に基づいて、前記押圧操作を検出する検出部と、
検出された前記押圧操作に対応する処理を実行する処理部と、
を備え、
前記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、前記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および前記撮像動作に関連する処理もしくは前記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察装置。
(2)
前記処理部は、
前記押圧操作の検出に基づき、前記識別処理を実行するモードに移行し、
前記識別処理で識別されたユーザの入力に対応する処理を実行する、(1)に記載の医療用観察装置。
(3)
前記処理部は、
前記識別処理として、音声入力デバイスから出力される音声信号に対する音声認識処理を実行し、
認識された音声入力に対応する処理を実行する、(2)に記載の医療用観察装置。
(4)
前記音声入力デバイスは、前記外部の操作装置に設けられる音声入力デバイスである、(3)に記載の医療用観察装置。
(5)
前記処理部は、
前記識別処理として、認識対象の視線を認識する視線認識処理を実行し、
認識された視線入力に対応する処理を実行する、(2)〜(4)のいずれか1つに記載の医療用観察装置。
(6)
前記処理部は、
前記識別処理として、認識対象の動きを認識する動き認識処理を実行し、
認識された動き入力に対応する処理を実行する、(2)〜(4)のいずれか1つに記載の医療用観察装置。
(7)
前記動き認識処理は、前記認識対象の移動を認識する移動認識処理である、(6)に記載の医療用観察装置。
(8)
前記動き認識処理は、前記認識対象のジェスチャを認識するジェスチャ認識処理である、(6)または(7)に記載の医療用観察装置。
(9)
前記処理部は、前記外部の操作装置を用いる操作者を前記認識対象とする、(5)〜(8)のいずれか1つに記載の医療用観察装置。
(10)
前記処理部は、前記押圧操作に対応する処理として、前記押圧操作に対して対応付けられている処理を実行する、(1)〜(9)のいずれか1つに記載の医療用観察装置。
(11)
前記操作信号に基づいて、検出された前記押圧操作に対応する処理を決定する決定部をさらに備え、
前記処理部は、決定された前記押圧操作に対応する処理を実行する、(1)〜(9)のいずれか1つに記載の医療用観察装置。
(12)
前記決定部は、
前記操作信号に基づいて前記押圧操作の種別を判定し、
判定された前記押圧操作の種別に対して対応付けられている処理を、前記押圧操作に対応する処理として決定する、(11)に記載の医療用観察装置。
(13)
前記撮像デバイスの撮像動作に関連する処理は、ズーム倍率の変更、フォーカス位置の調整、撮像位置の変更、焦点深度の変更、および観察モードの変更のうちの1または2以上を含む、(1)〜(12)のいずれか1つに記載の医療用観察装置。
(14)
医療用撮像画像の表示に関連する処理は、画面の表示モードの変更、およびカラーモードの変更の一方または双方を含む、(1)〜(13)のいずれか1つに記載の医療用観察装置。
(15)
前記処理部は、前記外部の操作装置から出力される前記操作信号に基づいて、実行している前記押圧操作に対応する処理を停止する、(1)〜(14)のいずれか1つに記載の医療用観察装置。
(16)
複数のリンクが関節部によって互いに連結されて構成されるアームと、
前記アームにより支持されている前記撮像デバイスと、
を備える、(1)〜(15)のいずれか1つに記載の医療用観察装置。
(17)
口にくわえて押圧操作されるスイッチを含む外部の操作装置から出力される前記押圧操作に応じた操作信号に基づいて、前記押圧操作を検出するステップと、
検出された前記押圧操作に対応する処理を実行するステップと、
を有し、
前記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、前記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および前記撮像動作に関連する処理もしくは前記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察装置により実行される処理方法。
(18)
口にくわえて押圧操作されるスイッチを含む操作装置と、
医療用観察装置とを有し、
前記医療用観察装置は、
撮像デバイスと、
前記操作装置から出力される前記押圧操作に応じた操作信号に基づいて、前記押圧操作を検出する検出部と、
検出された前記押圧操作に対応する処理を実行する処理部と、
を備え、
前記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、前記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および前記撮像動作に関連する処理もしくは前記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察システム。
100 医療用観察装置
102 ベース
104 アーム
106 撮像デバイス
110a、110b、110c、110d、110e、110f 関節部
112a、112b、112c、112d、112e、112f リンク
120 撮像部材
122 筒状部材
124 ズームスイッチ
126 フォーカススイッチ
128 動作モード変更スイッチ
152 アーム部
154 撮像部
156 通信部
158 制御部
160 撮像制御部
162 アーム制御部
164 表示制御部
166 検出部
168 決定部
170 処理部
200 表示装置
300 操作装置
400 センサ
1000 医療用観察システム
OP 術者
PA 患者
FS フットスイッチ

Claims (18)

  1. 口にくわえて押圧操作されるスイッチを含む外部の操作装置から出力される前記押圧操作に応じた操作信号に基づいて、前記押圧操作を検出する検出部と、
    検出された前記押圧操作に対応する処理を実行する処理部と、
    を備え、
    前記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、前記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および前記撮像動作に関連する処理もしくは前記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察装置。
  2. 前記処理部は、
    前記押圧操作の検出に基づき、前記識別処理を実行するモードに移行し、
    前記識別処理で識別されたユーザの入力に対応する処理を実行する、請求項1に記載の医療用観察装置。
  3. 前記処理部は、
    前記識別処理として、音声入力デバイスから出力される音声信号に対する音声認識処理を実行し、
    認識された音声入力に対応する処理を実行する、請求項2に記載の医療用観察装置。
  4. 前記音声入力デバイスは、前記外部の操作装置に設けられる音声入力デバイスである、請求項3に記載の医療用観察装置。
  5. 前記処理部は、
    前記識別処理として、認識対象の視線を認識する視線認識処理を実行し、
    認識された視線入力に対応する処理を実行する、請求項2に記載の医療用観察装置。
  6. 前記処理部は、
    前記識別処理として、認識対象の動きを認識する動き認識処理を実行し、
    認識された動き入力に対応する処理を実行する、請求項2に記載の医療用観察装置。
  7. 前記動き認識処理は、前記認識対象の移動を認識する移動認識処理である、請求項6に記載の医療用観察装置。
  8. 前記動き認識処理は、前記認識対象のジェスチャを認識するジェスチャ認識処理である、請求項6に記載の医療用観察装置。
  9. 前記処理部は、前記外部の操作装置を用いる操作者を前記認識対象とする、請求項5に記載の医療用観察装置。
  10. 前記処理部は、前記押圧操作に対応する処理として、前記押圧操作に対して対応付けられている処理を実行する、請求項1に記載の医療用観察装置。
  11. 前記操作信号に基づいて、検出された前記押圧操作に対応する処理を決定する決定部をさらに備え、
    前記処理部は、決定された前記押圧操作に対応する処理を実行する、請求項1に記載の医療用観察装置。
  12. 前記決定部は、
    前記操作信号に基づいて前記押圧操作の種別を判定し、
    判定された前記押圧操作の種別に対して対応付けられている処理を、前記押圧操作に対応する処理として決定する、請求項11に記載の医療用観察装置。
  13. 前記撮像デバイスの撮像動作に関連する処理は、ズーム倍率の変更、フォーカス位置の調整、撮像位置の変更、焦点深度の変更、および観察モードの変更のうちの1または2以上を含む、請求項1に記載の医療用観察装置。
  14. 医療用撮像画像の表示に関連する処理は、画面の表示モードの変更、およびカラーモードの変更の一方または双方を含む、請求項1に記載の医療用観察装置。
  15. 前記処理部は、前記外部の操作装置から出力される前記操作信号に基づいて、実行している前記押圧操作に対応する処理を停止する、請求項1に記載の医療用観察装置。
  16. 複数のリンクが関節部によって互いに連結されて構成されるアームと、
    前記アームにより支持されている前記撮像デバイスと、
    を備える、請求項1に記載の医療用観察装置。
  17. 口にくわえて押圧操作されるスイッチを含む外部の操作装置から出力される前記押圧操作に応じた操作信号に基づいて、前記押圧操作を検出するステップと、
    検出された前記押圧操作に対応する処理を実行するステップと、
    を有し、
    前記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、前記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および前記撮像動作に関連する処理もしくは前記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察装置により実行される処理方法。
  18. 口にくわえて押圧操作されるスイッチを含む操作装置と、
    医療用観察装置とを有し、
    前記医療用観察装置は、
    撮像デバイスと、
    前記操作装置から出力される前記押圧操作に応じた操作信号に基づいて、前記押圧操作を検出する検出部と、
    検出された前記押圧操作に対応する処理を実行する処理部と、
    を備え、
    前記押圧操作に対応する処理には、撮像デバイスの撮像動作に関連する処理、前記撮像デバイスにおいて撮像された医療用撮像画像の表示に関連する処理、および前記撮像動作に関連する処理もしくは前記医療用撮像画像の表示に関連する処理を指示するユーザの入力を識別する識別処理のうちの一部または全部が含まれる、医療用観察システム。
JP2019519476A 2017-05-26 2018-03-02 医療用観察装置、処理方法、および医療用観察システム Active JP7163282B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017104928 2017-05-26
JP2017104928 2017-05-26
PCT/JP2018/008074 WO2018216302A1 (ja) 2017-05-26 2018-03-02 医療用観察装置、処理方法、および医療用観察システム

Publications (2)

Publication Number Publication Date
JPWO2018216302A1 true JPWO2018216302A1 (ja) 2020-03-26
JP7163282B2 JP7163282B2 (ja) 2022-10-31

Family

ID=64396495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019519476A Active JP7163282B2 (ja) 2017-05-26 2018-03-02 医療用観察装置、処理方法、および医療用観察システム

Country Status (4)

Country Link
US (1) US11026762B2 (ja)
EP (1) EP3632365A4 (ja)
JP (1) JP7163282B2 (ja)
WO (1) WO2018216302A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD932024S1 (en) * 2018-12-28 2021-09-28 Tinavi Medical Technologies Co., Ltd. Surgical robot
JPWO2020195204A1 (ja) * 2019-03-22 2020-10-01
US11743579B2 (en) * 2020-03-17 2023-08-29 Sony Olympus Medical Solutions Inc. Control device and medical observation system
JP2021145788A (ja) 2020-03-17 2021-09-27 ソニー・オリンパスメディカルソリューションズ株式会社 制御装置および医療用観察システム
EP4062861A1 (en) * 2021-03-24 2022-09-28 Leica Instruments (Singapore) Pte Ltd Surgical microscope system and corresponding system, method and computer program for a surgical microscope system

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5037448A (ja) * 1973-06-18 1975-04-08
JPS62166312A (ja) * 1986-01-18 1987-07-22 Canon Inc 音声を用いた駆動制御装置
US4989253A (en) * 1988-04-15 1991-01-29 The Montefiore Hospital Association Of Western Pennsylvania Voice activated microscope
JPH04324409A (ja) * 1991-04-24 1992-11-13 Olympus Optical Co Ltd 手術用顕微鏡
JP2003092943A (ja) * 2001-09-20 2003-04-02 Hitachi Video & Inf Syst Inc 血統表作成処理方法とその記録媒体
JP2005087528A (ja) * 2003-09-18 2005-04-07 Olympus Corp 手術用顕微鏡の操作装置
WO2005099609A1 (ja) * 2004-04-16 2005-10-27 Mitaka Kohki Co., Ltd. 手術顕微鏡用のマウススイッチ機構
JP2014523537A (ja) * 2011-03-25 2014-09-11 カール ツアイス メディテック アクチエンゲゼルシャフト Octシステムを含む外科用顕微鏡システム
JP2015150436A (ja) * 2014-02-12 2015-08-24 カール・ツアイス・メディテック・アーゲー 医療装置の位置決めデバイスのための操作要素

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4034743A (en) * 1975-10-24 1977-07-12 Airco, Inc. Automated pulmonary function testing apparatus
DE3915806A1 (de) * 1989-05-13 1990-11-15 Winkelstroeter Dentaurum Verfahren und handgeraet zum loesen eines brackets von einer klebestelle
DE59504515D1 (de) 1994-10-26 1999-01-21 Leica Mikroskopie Sys Ag Mikroskop, insbesondere operationsmikroskop
US7883471B2 (en) * 2001-09-10 2011-02-08 Pulmonx Corporation Minimally invasive determination of collateral ventilation in lungs
US8523782B2 (en) * 2005-12-07 2013-09-03 Pulmonx Corporation Minimally invasive determination of collateral ventilation in lungs
RU2331383C1 (ru) 2007-03-07 2008-08-20 Давид Ильич Пицхелаури Устройство "марика" для управления операционным микроскопом
JP5059637B2 (ja) * 2008-01-18 2012-10-24 オリンパス株式会社 顕微鏡用撮像装置
JP5306088B2 (ja) * 2009-07-14 2013-10-02 オリンパス株式会社 顕微鏡システム
JP5821166B2 (ja) * 2010-07-23 2015-11-24 ヤマハ株式会社 発音制御装置
US9557331B2 (en) * 2013-08-23 2017-01-31 Elwha Llc Systems, methods, and devices for assessing microbiota of skin
US10634893B2 (en) 2014-06-20 2020-04-28 Sony Olympus Medical Solutions Inc. Medical observation apparatus and medical observation system
WO2017091704A1 (en) 2015-11-25 2017-06-01 Camplex, Inc. Surgical visualization systems and displays

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5037448A (ja) * 1973-06-18 1975-04-08
JPS62166312A (ja) * 1986-01-18 1987-07-22 Canon Inc 音声を用いた駆動制御装置
US4989253A (en) * 1988-04-15 1991-01-29 The Montefiore Hospital Association Of Western Pennsylvania Voice activated microscope
JPH04324409A (ja) * 1991-04-24 1992-11-13 Olympus Optical Co Ltd 手術用顕微鏡
JP2003092943A (ja) * 2001-09-20 2003-04-02 Hitachi Video & Inf Syst Inc 血統表作成処理方法とその記録媒体
JP2005087528A (ja) * 2003-09-18 2005-04-07 Olympus Corp 手術用顕微鏡の操作装置
WO2005099609A1 (ja) * 2004-04-16 2005-10-27 Mitaka Kohki Co., Ltd. 手術顕微鏡用のマウススイッチ機構
JP2014523537A (ja) * 2011-03-25 2014-09-11 カール ツアイス メディテック アクチエンゲゼルシャフト Octシステムを含む外科用顕微鏡システム
JP2015150436A (ja) * 2014-02-12 2015-08-24 カール・ツアイス・メディテック・アーゲー 医療装置の位置決めデバイスのための操作要素

Also Published As

Publication number Publication date
WO2018216302A1 (ja) 2018-11-29
US11026762B2 (en) 2021-06-08
US20200197122A1 (en) 2020-06-25
EP3632365A1 (en) 2020-04-08
JP7163282B2 (ja) 2022-10-31
EP3632365A4 (en) 2020-08-19

Similar Documents

Publication Publication Date Title
JP7163282B2 (ja) 医療用観察装置、処理方法、および医療用観察システム
US11278369B2 (en) Control device, control method, and surgical system
JP6976720B2 (ja) 医療用観察装置、およびズーム制御方法
US11510751B2 (en) Medical observation apparatus
JP7034636B2 (ja) 医療用観察装置、および医療用観察システム
JP6918924B2 (ja) 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム
JP2023095970A (ja) 医療用観察システム
JP2023099552A (ja) 医療用観察システム及び医療用制御装置
JPWO2018139156A1 (ja) 医療用観察装置、および制御方法
JP6957605B2 (ja) 医療用観察システム、および制御方法
JP7109936B2 (ja) 医療用制御装置、および制御方法
JP2019154883A (ja) 医療用画像処理装置、医療用観察装置、および画像処理方法
WO2018087977A1 (ja) 情報処理装置、情報処理方法、プログラム
JP2019168579A (ja) 医療用観察装置
JP7073145B2 (ja) 医療用調光制御装置、および医療用調光制御装置の作動方法
JP7134656B2 (ja) 医療用表示制御装置、および表示制御方法
JP6869787B2 (ja) 医療用観察装置、および状態通知方法
JP7143092B2 (ja) 医療用画像処理装置、医療用観察装置、および画像処理方法
JP6858593B2 (ja) 医療用観察装置、および制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221019

R151 Written notification of patent or utility model registration

Ref document number: 7163282

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151