WO2017187676A1 - 制御装置、制御方法、プログラム及び音出力システム - Google Patents

制御装置、制御方法、プログラム及び音出力システム Download PDF

Info

Publication number
WO2017187676A1
WO2017187676A1 PCT/JP2017/002196 JP2017002196W WO2017187676A1 WO 2017187676 A1 WO2017187676 A1 WO 2017187676A1 JP 2017002196 W JP2017002196 W JP 2017002196W WO 2017187676 A1 WO2017187676 A1 WO 2017187676A1
Authority
WO
WIPO (PCT)
Prior art keywords
sound
sound output
information
control unit
control device
Prior art date
Application number
PCT/JP2017/002196
Other languages
English (en)
French (fr)
Inventor
潤一郎 榎
高橋 康昭
和田 成司
浩司 鹿島
山口 健太
幸弘 中村
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to EP17788966.4A priority Critical patent/EP3434219B1/en
Priority to CN201780024722.2A priority patent/CN109069221B/zh
Priority to US16/091,179 priority patent/US10617400B2/en
Priority to JP2018514112A priority patent/JP6888620B2/ja
Publication of WO2017187676A1 publication Critical patent/WO2017187676A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00022Sensing or detecting at the treatment site
    • A61B2017/00084Temperature
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00199Electrical control of surgical instruments with a console, e.g. a control panel with a display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00203Electrical control of surgical instruments with speech control or speech recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00221Electrical control of surgical instruments with wireless transmission of data, e.g. by infrared radiation or radiowaves
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2063Acoustic tracking systems, e.g. using ultrasound

Landscapes

  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Robotics (AREA)
  • Manipulator (AREA)
  • Selective Calling Equipment (AREA)
  • Surgical Instruments (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

術中における手術参加者同士の音声コミュニケーションをより確実にすることが可能な技術が提供されることが望まれる。 手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、制御装置が提供される。

Description

制御装置、制御方法、プログラム及び音出力システム
 本開示は、制御装置、制御方法、プログラム及び音出力システムに関する。
 近年、手術を円滑化する技術として様々な技術が開示されている。例えば、複数の術式それぞれに対して器材をあらかじめ関連付けておき、複数の術式を術式の候補として表示し、ユーザによって術式の候補から術式が選択されると、選択された術式に関連付けられた器材をユーザに提示する技術が開示されている(例えば、特許文献1参照。)。かかる技術によれば、ユーザは選択した術式に利用される器材を把握することが可能である。
特開平11-85876号公報
 術中においては、手術参加者同士で音声によるコミュニケーションが行われるのが一般的である。しかし、音声によるコミュニケーションを妨げる要因が存在し得る。そこで、術中における手術参加者同士の音声コミュニケーションをより確実にすることが可能な技術が提供されることが望まれる。
 本開示によれば、手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、制御装置が提供される。
 本開示によれば、プロセッサにより、手術に関連する情報に基づいて音出力装置による音出力を制御することを含む、制御方法が提供される。
 本開示によれば、コンピュータを、手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、制御装置として機能させるためのプログラムが提供される。
 本開示によれば、音出力を行う音出力装置と、手術に関連する情報に基づいて前記音出力装置による音出力を制御する音出力制御部を備える、制御装置と、を有する、音出力システムが提供される。
 以上説明したように本開示によれば、術中における手術参加者同士の音声コミュニケーションをより確実にすることが可能な技術が提供されることが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
本開示の実施形態に係る手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 本開示の第1の実施形態に係る音出力制御部の構成例を示す図である。 手術室の様子を上方から観た図である。 術式および手術室を示す情報と音源配置情報とが関連付けられた関連付けデータベースの構成例を示す図である。 音源配置情報の構成例を示す図である。 マイクロフォン配置データベースの構成例を示す図である。 音出力装置データベースの構成例を示す図である。 本開示の第1の実施形態に係る音出力制御部の動作例を示すフローチャートである。 本開示の第2の実施形態に係る音出力制御部及び表示制御部の構成例を示す図である。 音声認識結果の表示例を示す図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
 なお、説明は以下の順序で行うものとする。
 0.システム構成例
 1.第1の実施形態
  1.1.機能構成例
  1.2.動作例
  1.3.変形例
 2.第2の実施形態
  2.1.機能構成例
  2.2.変形例
 3.むすび
 <0.システム構成例>
 まず、本開示の実施形態に係る手術室システムの構成例について説明する。
 図1は、本開示の実施形態に係る手術室システム3000の全体構成を概略的に示す図である。図1を参照すると、手術室システム3000は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)3007及び手術室制御装置(単に、「制御装置」とも言う。)3009を介して互いに連携可能に接続されることにより構成される。
 手術室には、様々な装置が設置され得る。図1では、一例として、内視鏡下手術のための各種の装置群3001と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ3701と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ3703と、複数の表示装置3003A~3003Dと、レコーダ3005と、患者ベッド3503と、照明3705と、マイクロフォンアレイ(集音部)3709と、イヤホン3711と、指向性スピーカ3713と、を図示している。
 ここで、これらの装置のうち、装置群3001は、後述する内視鏡手術システムに属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システムに属する各装置は医療用機器とも呼称される。一方、表示装置3003A~3003D、レコーダ3005、患者ベッド3503、照明3705、マイクロフォンアレイ(集音部)3709、イヤホン3711及び指向性スピーカ3713は、内視鏡手術システムとは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システムに属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ3007及び/又は手術室制御装置3009は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
 視聴覚コントローラ3007は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム3000が備える装置のうち、装置群3001、シーリングカメラ3701及び術場カメラ3703は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置3003A~3003Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ3005は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ3007は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式、手術室を示す情報、術者を示す情報、手術参加者を示す情報等)等である。
 具体的には、視聴覚コントローラ3007には、装置群3001から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ3701から、表示情報として、当該シーリングカメラ3701によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ3703から、表示情報として、当該術場カメラ3703によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム3000に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ3007は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
 あるいは、例えば、レコーダ3005には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ3007によって記録されている。視聴覚コントローラ3007は、表示情報として、レコーダ3005から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ3005には、手術に関する各種の情報も事前に記録されていてもよい。
 視聴覚コントローラ3007は、出力先の装置である表示装置3003A~3003Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置3003Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置3003Bは手術室の壁面に設置される表示装置であり、表示装置3003Cは手術室内の机上に設置される表示装置であり、表示装置3003Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
 また、図1では図示を省略しているが、手術室システム3000には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ3007は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
 手術室制御装置3009は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置3009は、患者ベッド3503、シーリングカメラ3701、術場カメラ3703、照明3705、マイクロフォンアレイ(集音部)3709、イヤホン3711及び指向性スピーカ3713の駆動を制御する。
 手術室システム3000には、集中操作パネル3011が設けられており、ユーザは、当該集中操作パネル3011を介して、視聴覚コントローラ3007に対して画像表示についての指示を与えたり、手術室制御装置3009に対して非医療機器の動作についての指示を与えたりすることができる。集中操作パネル3011は、表示装置の表示面上にタッチパネルが設けられて構成される。
 図2は、集中操作パネル3011における操作画面の表示例を示す図である。図2では、一例として、手術室システム3000に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図2を参照すると、操作画面3800には、発信元選択領域3810と、プレビュー領域3820と、コントロール領域3830と、が設けられる。
 発信元選択領域3810には、手術室システム3000に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域3810に表示されているいずれかの発信元装置から選択することができる。
 プレビュー領域3820には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域3810において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域3821が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
 コントロール領域3830には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域3831と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域3833と、が設けられる。図示する例では、発信元操作領域3831には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域3810において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域3820において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域3831には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
 また、出力先操作領域3833には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
 なお、集中操作パネル3011に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル3011を介して、手術室システム3000に備えられる、視聴覚コントローラ3007及び手術室制御装置3009によって制御され得る各装置に対する操作入力が可能であってよい。
 以上、本開示の実施形態に係る手術室システム3000の構成例について説明した。ここで、術中においては、手術参加者同士で音声によるコミュニケーションが行われるのが一般的である。しかし、音声によるコミュニケーションを妨げる要因が存在し得る。例えば、手術参加者がマスクをしている場合などには、マスクが音声によるコミュニケーションを妨げる要因になり得る。また、手術に利用されるデバイスが発するノイズは、音声によるコミュニケーションを妨げる要因になり得る。
 また、手術参加者に取り付けられたマイクロフォンによって集音された音声を出力することも想定される。しかし、手術参加者(例えば、術者、助手など)は清潔に保たれている必要があり、掃除が困難なマイクロフォンを清潔に保たなければならないため、手術参加者に取り付けられたマイクロフォンによって集音された音声を出力するのは現実的ではない。そこで、術中における手術参加者同士の音声コミュニケーションをより確実にすることが可能な技術が提供されることが望まれる。なお、以下の説明において、音声(voiceまたはspeech)と音(sound)とは区別して用いられる。
 <1.第1の実施形態>
 続いて、本開示の第1の実施形態について説明する。
 [1.1.機能構成例]
 まず、本開示の第1の実施形態に係る音出力制御部100Aの構成例について説明する。図3は、本開示の第1の実施形態に係る音出力制御部100Aの構成例を示す図である。音出力制御部100Aは、上記した手術室制御装置3009に備えられてもよいし、手術室制御装置3009とは異なる制御装置に備えられてもよい。図3に示したように、本開示の第1の実施形態に係る音出力制御部100Aは、音源位置決定部110、音源分離部120及び音源混合部130を備える。
 なお、本開示の第1の実施形態において、音出力制御部100Aの機能は、記憶装置(例えば、磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、光磁気記憶デバイスなど)から読み取られたプログラムが演算装置によって実行されることによって実現される場合を想定するが、音出力制御部100Aの機能は、専用のハードウェア(専用の電子回路)によって実現されてもよい。
 音出力制御部100Aは、手術に関連する情報に基づいて音出力装置による音出力を制御する。かかる構成によれば、術中における手術参加者同士の音声コミュニケーションをより確実にすることが可能となる。以下では、音出力装置として、イヤホン3711及び指向性スピーカ3713を例に挙げながら説明するが、音出力装置の形態はこれらに限定されない。手術に関連する情報としても様々な情報が想定されるが、まず、手術に関する情報が手術室における音源位置情報を含む場合について説明する。また、音出力制御部100Aがマイクロフォン(集音部)3709によって集音された音情報に基づく音出力を制御する場合を想定する。
 図4は、手術室R1の様子を上方から観た図である。図4に示したように、手術室R1には、患者ベッド3503が存在しており、患者ベッド305の上には患者3505が横たわっている。また、手術室R1には、手術参加者の例として、術者3501、麻酔科医3502、助手3506、外回り看護師3509、器械出し看護師3508及びスコピスト3507が存在する。これらの手術参加者は、術中に音を発する可能性がある(音源となり得る)。なお、手術参加者はこれらに限定されない。
 また、手術室R1には、デバイスの例として、内視鏡ラック3400、麻酔システム3602及びエネルギーデバイス3604が存在する。これらのデバイスも、術中に音を発する可能性がある(音源となり得る)。なお、デバイスはこれらに限定されない。その他、手術室R1には、マイクロフォンM1~M6が存在している。マイクロフォンM1~M6は、マイクロフォンアレイ(集音部)3709を構成し得る。マイクロフォンの数は特に限定されない。
 また、外回り看護師3509は術中に動き回ることが想定されるが、外回り看護師3509の動きに合わせて指向性スピーカ3713を制御するのは困難である。そのため、外回り看護師3509への音出力は、外回り看護師3509によって装着されたイヤホン3711からなされる。すなわち、音出力制御部100Aは、外回り看護師3509に関連付けられたイヤホン(音出力装置)3711による音出力を制御する。
 一方、他の手術参加者は術中にさほど動かないことが想定されるため、当該他の手術参加者への音出力は、指向性スピーカ3713の指向性を利用してなされる。すなわち、音出力制御部100Aは、当該他の手術参加者の位置に応じた音出力を制御する(請求項6)。より具体的には、音出力制御部100Aは、当該他の手術参加者の位置へ向けて音が出力されるように指向性スピーカ(音出力装置)3713による音出力を制御する。しかしながら、どの手術参加者にイヤホン3711を装着させるかは限定されない。
 また、手術室R1には、上記した集中操作パネル3011が存在し、表示装置3403が存在する。表示装置3403には、内視鏡によって撮影された患者3505の体腔内の術部の画像が表示される。術者3501は、表示装置3403に表示された術部の画像をリアルタイムで見ながら、各種の器械を用いて患者3505に対する手術を行う。また、手術室R1には、器械台3606が存在する。器械台3606には各種の器械が載置されており、器械出し看護師3508は、器械台3606から各種の器械を取り出して、術者3501などに手渡す作業を行う。
 図3に戻って説明を続ける。音出力制御部100Aは、音源位置決定部110により、所定のデータに基づいて音源位置情報を決定する。音源位置情報の決定はどのようになされてもよい。例えば、音源位置は、術式、手術室及び手術参加者(例えば、術者)のうち少なくともいずれか一つに応じて決まる可能性がある。そこで、音出力制御部100Aは、音源位置決定部110により、術式、手術室及び手術参加者のうち少なくともいずれか一つに基づいて音源位置情報を決定する。以下、術式および手術室に基づいて音源位置情報を決定する例を説明する。
 まず、音出力制御部100Aは、音源位置決定部110により、術式および手術室を示す情報を取得する。術式および手術室を示す情報はどのようにして取得されてもよい。例えば、術式および手術室を示す情報がレコーダ3005に記録されている場合には、術式および手術室を示す情報は、レコーダ3005から取得されてもよい。あるいは、術式および手術室を示す情報は、集中操作パネル3011を介して入力されてもよい。音出力制御部100Aは、音源位置決定部110により、取得した術式および手術室を示す情報に基づいて音源位置情報を決定する。
 図5は、術式および手術室を示す情報と音源配置情報とが関連付けられた関連付けデータベースD10の構成例を示す図である。例えば、関連付けデータベースD10には、術式T1および手術室R1と音源配置情報N1とが関連付けられたデータが含まれている。関連付けデータベースD10の内容は、関連付けデータベースD10が利用される病院にフィットするように適宜に更新されてよい。なお、関連付けデータベースD10はどこに記録されていてもよい。例えば、関連付けデータベースD10は、レコーダ3005に記録されていてもよい。
 図6は、音源配置情報N1の構成例を示す図である。図6に示すように、音源配置情報N1は、音源名(音源識別情報)と音源位置情報との組み合わせを複数含んでいる。なお、図6には、一例として音源位置情報が二次元座標によって表現されているが、音源位置情報の表現形式は限定されず、三次元座標によって表現されてもよい。また、音源配置情報N1はどこに記録されていてもよい。例えば、音源配置情報N1は、レコーダ3005に記録されていてもよい。
 例えば、音出力制御部100Aは、音源位置決定部110により、取得した術式および手術室を示す情報の組み合わせに一致する組み合わせに関連付けられた音源配置情報を関連付けデータベースD10から取得する。ここでは、術式T1および手術室R1の組み合わせに一致する組み合わせに関連付けられた音源配置情報N1が関連付けデータベースD10から取得される場合を想定する。例えば、音源配置情報N1には、音源「術者」の音源位置情報(X11,Y11)が含まれている。
 なお、このようにして得られた音源位置情報は、実際の音源位置を正しく表していないこともあり得る。したがって、音源位置情報は、所定の手術参加者によって確認可能にされてもよい。例えば、音源位置情報は、集中操作パネル3011に表示され、表示された音源位置情報が実際の音源位置を正しく表現していることが確認された場合、所定の手術参加者によって音源位置情報が正しい旨が入力されてもよい。そして、音源位置情報が正しい旨が入力されてから、続く動作が実行されてもよい。
 図7は、マイクロフォン配置データベースD20の構成例を示す図である。図7に示すように、マイクロフォン配置データベースD20には、マイクロフォンIDとマイクロフォン位置とが関連付けられたデータが含まれている。なお、図7には、一例としてマイクロフォン位置が二次元座標によって表現されているが、マイクロフォン位置の表現形式は限定されず、三次元座標によって表現されてもよい。また、マイクロフォン配置データベースD20はどこに記録されていてもよい。例えば、マイクロフォン配置データベースD20は、レコーダ3005に記録されていてもよい。
 図8は、音出力装置データベースP1の構成例を示す図である。図8に示すように、音出力装置データベースP1には、手術参加者と音出力装置とが関連付けられたデータが含まれている。例えば、手術参加者「外回り看護師」には音出力装置「イヤホン」が関連付けられている。なお、音出力装置データベースP1はどこに記録されていてもよい。例えば、音出力装置データベースP1は、レコーダ3005に記録されていてもよい。
 図3に戻って説明を続ける。音出力制御部100Aは、音源分離部120により、マイクロフォンM1~M6の位置(X21,Y21)~(X26,Y26)と音源位置情報(X11,Y11)~(X19,Y19)とに基づいて、マイクロフォンM1~M6によって集音された音情報に対する音源分離を行う。音源分離の結果として、音源ごとに分離された音情報が得られる。
 音源分離には、手術参加者の属性(例えば、性別および年齢など)がさらに考慮されてもよい。すなわち、音源分離には、手術参加者の属性に対応する音声周波数がさらに考慮されてもよい。そうすれば、音源分離の精度が向上されることが期待される。そして、音出力制御部100Aは、音源混合部130により、音源分離の結果に基づいて、音出力を制御する。
 例えば、音出力制御部100Aは、音源混合部130により、音源分離の結果に基づいて、マイクロフォンM1~M6によって集音された音情報からノイズを低減し、ノイズ低減後の音情報に基づいて音出力を制御する。例えば、デバイス(内視鏡ラック3400、麻酔システム3602及びエネルギーデバイス3604)は、ノイズを発する可能性がある。そこで、音出力制御部100Aは、音源混合部130により、手術参加者(術者3501、麻酔科医3502、助手3506、外回り看護師3509、器械出し看護師3508及びスコピスト3507)からの音情報を混合することによってノイズを低減し、ノイズ低減後の音情報に基づいて音出力を制御する。
 なお、上記したように、音出力制御部100Aは、音源混合部130により、外回り看護師3509に関連付けられたイヤホン(音出力装置)3711による音出力を制御する。また、音出力制御部100Aは、音源混合部130により、他の手術参加者の位置に応じた音出力を制御する。より具体的には、音出力制御部100Aは、当該他の手術参加者の位置へ向けて音が出力されるように指向性スピーカ3713による音出力を制御する。
 [1.2.動作例]
 以上、図1~図8を参照しながら、本開示の第1の実施形態に係る音出力制御部100Aの構成例について説明した。続いて、本開示の第1の実施形態に係る音出力制御部100Aの動作例について説明する。
 図9は、本開示の第1の実施形態に係る音出力制御部100Aの動作例を示すフローチャートである。図9に示すように、まず、音出力制御部100Aは、音源位置決定部110により、術式および手術室を示す情報を取得する(S11)。そして、音源位置決定部110は、取得した術式および手術室を示す情報に基づいて音源位置情報を決定する(S12)。決定された音源位置情報は、集中操作パネル3011に表示される。
 続いて、表示された音源位置情報が実際の音源位置を正しく表現していることが確認されない場合(S13において「NO」)、S11に動作が移行される。一方、表示された音源位置情報が実際の音源位置を正しく表現していることが確認された場合(S13において「YES」)、音出力制御部100Aは、音源分離部120により、マイクロフォンM1~M6によって集音された音情報を取得する(S14)。
 続いて、音出力制御部100Aは、音源分離部120により、マイクロフォンM1~M6の位置(X21,Y21)~(X26,Y26)と音源位置情報(X11,Y11)~(X19,Y19)とに基づいて、マイクロフォンM1~M6によって集音された音情報に対する音源分離を行う(S15)。続いて、音出力制御部100Aは、音源混合部130により、音源分離の結果に基づいて、マイクロフォンM1~M6によって集音された音情報からノイズを低減し、ノイズ低減後の音情報に基づいて音出力を制御する。これにより、ノイズが低減された音場が形成される(S16)。
 続いて、音出力制御部100Aは、術式および手術室を示す情報の変更がある場合には(S17において「NO」)、動作をS11に移行させる。一方、音出力制御部100Aは、術式および手術室を示す情報の変更がない場合には(S17において「YES」)、S18に動作を移行させる。音出力制御部100Aは、手術が終了していない場合には(S18において「NO」)、S14に動作を移行させるが、手術が終了した場合には(S18において「YES」)、音声出力の動作を終了させる。
 なお、手術の終了はどのように判定されてもよい。例えば、顕微鏡手術又は内視鏡手術が行われる場合には、術野の撮影終了が手術の終了と捉えられてもよい。あるいは、手術において行われるべき手技が術前計画で定められている場合、手術で行われるべき全ての手技が検出された時点が手術の終了と捉えられてもよいし、手術で行われるべき最後の手技が検出された時点が手術の終了と捉えられてもよい。あるいは、これらの時点から所定の時間が経過した時点が手術の終了と捉えられてもよい。
 [1.3.変形例]
 本開示の第1の実施形態には、様々な変形例が適用され得る。例えば、上記においては、音源位置情報を決定する例を説明したが、音源位置情報はどのように決定されてもよい。例えば、音出力制御部100Aは、音源位置決定部110により、術場カメラ(撮像装置)3703によって撮像された画像に基づいて音源位置情報を決定してもよい。音源位置の決定には、3次元計測技術(SLAM:Simultaneous Localization and mapping)と認識技術とが利用されてよい。
 また、手術参加者がマスクを着用している場合などには、手術参加者の顔認識が困難である場合もあり得る。そのため、手術参加者にネームプレートを装着させ、画像からネームプレートが認識された場合に、そのネームプレートの位置がそのネームプレートに対応する手術参加者の位置として決定されてもよい。また、デバイスにマーカを付しておき、画像からマーカが認識された場合に、そのマーカの位置がそのマーカの付されたデバイスの位置として決定されてもよい。なお、画像検出は、電波を利用しないパッシブセンシングであるため、手術室の中でも安全に行われる。
 また、手術参加者およびデバイスといった音源は、ある程度の熱を発していると考えられる。そのため、音出力制御部100Aは、音源位置決定部110により、サーモグラフィ装置による検出結果に基づいて音源位置情報を決定してもよい。例えば、サーモグラフィ装置によってある程度を超えて熱が発せられている位置が検出された場合、その位置が音源の位置として決定されてもよい。なお、熱検出は、電波を利用しないパッシブセンシングであるため、手術室の中でも安全に行われる。
 また、手術参加者およびデバイスといった音源に発信器を取り付け、手術室内に受信器を設置しておくことによって、音出力制御部100Aは、音源位置決定部110により、発信器から送信された無線信号の受信器による受信結果に基づいて音源位置情報を決定してもよい。例えば、受信器への無線信号の到来方向と受信器における無線信号の受信強度とに基づいて、発信器の位置(すなわち、音源の位置)が決定されてよい。
 また、手術参加者およびデバイスといった音源から意図的に音を出力させ、音出力制御部100Aは、音源位置決定部110により、マイクロフォンM1~M6によって集音された音情報に基づいて音源位置情報を決定してもよい。このとき、音源ごとに異なる音が発せられるようにすることによって音源を識別可能にしてもよいし、各音源からの音出力の順序をあらかじめ定めておき、集音された音の順序に基づいて音源を識別可能にしてもよい。
 これらの音源位置情報の決定手法は、単独で用いられてもよいし、音源位置情報の決定精度を向上させるため、これらの音源位置情報の決定手法のいずれかが組み合わされて用いられてもよい。あるいは、音源位置情報は、音源位置決定部110によって決定されなくてもよい。例えば、音源位置情報は、集中操作パネル3011などを介して人手によって入力可能であってもよい。
 また、上記では、音出力制御部100Aが、音源混合部130により、音源分離の結果に基づいて、マイクロフォンM1~M6によって集音された音情報からノイズを低減し、ノイズ低減後の音情報に基づいて音出力を制御する例を説明した。しかし、音源分離の結果に基づく処理は、ノイズ低減に限定されない。例えば、音源分離の結果に基づく処理は、所定の音源からの音情報を相対的に強調する処理であってもよい。
 すなわち、音出力制御部100Aは、音源混合部130により、マイクロフォンM1~M6による集音に基づく音情報に対する音源分離の結果に基づいて、所定の音源からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御してもよい。所定の音源からの音情報の相対的な強調は、所定の音源からの音情報の音量増加であってもよいし、所定の音源からの音情報の音量低下(音量をなくす場合も含む)であってもよいし、双方であってもよい。
 所定の音源は、所定の手術参加者であってもよいし、所定のデバイスであってもよい。例えば、音出力制御部100Aは、マイクロフォンM1~M6による集音に基づく音情報のうち、所定の手術参加者(例えば、術者など)からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御してもよい。所定の手術参加者は、あらかじめ定められてもよい。
 また、どの手術参加者からの音情報を相対的に強調するかは、出力音を聴く手術参加者によって異ならせてもよい。例えば、器械出し看護師が出力音を聴く場合には、術者および助手からの音情報を相対的に強調してもよい。
 あるいは、1の手術参加者の視線に応じた他の手術参加者が検出された場合(1の手術参加者の視線方向に他の手術参加者が検出された場合)、当該1の手術参加者が聴く出力音においては当該他の手術参加者からの音情報が相対的に強調されてもよい。また、かかる検出がなされた場合、当該二人の手術参加者の間の音声のやり取りを円滑にするため、当該二人の手術参加者の間の音情報が双方向に強調されてもよい。
 また、音出力制御部100Aは、マイクロフォンM1~M6による集音に基づく音情報のうち、所定のデバイスからの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御してもよい。所定のデバイスは、あらかじめ定められてもよいし、手術の段階に応じて決められてもよい。例えば、白内障手術がなされる場合、水晶体の濁りが超音波吸引装置によって取り除かれる。超音波吸引装置によって水晶体が破砕されているときには高音が発せられ、術者は、この高音を確認しながら手術を行う。
 そこで、音出力制御部100Aは、所定の閾値よりも高い周波数の音が発せられている場合には、マイクロフォンM1~M6による集音に基づく音情報のうち、超音波吸引装置からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御してもよい。一方、音出力制御部100Aは、所定の閾値よりも低い周波数の音が発せられている場合には、マイクロフォンM1~M6による集音に基づく音情報のうち、他の音源からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御してもよいし、音情報の強調はなされなくてもよい。
 また、上記においては、マイクロフォンM1~M6によって集音された音情報に対する音源分離が行われる例を説明した。しかし、音源分離は行われなくてもよい。例えば、音出力制御部100Aは、所定の音源に基づいてマイクロフォンM1~M6からマイクロフォンを特定し(例えば、所定の音源に最も近いマイクロフォンを特定し)、特定したマイクロフォンによって集音された音情報に基づく音出力を制御してもよい。
 所定の音源は、所定の手術参加者であってもよいし、所定のデバイスであってもよい。例えば、音出力制御部100Aは、所定の手術参加者に基づいてマイクロフォンを特定し(例えば、所定の手術参加者に最も近いマイクロフォンを特定し)、特定したマイクロフォンによって集音された音情報に基づいて当該手術参加者に応じた音出力を制御してもよい。所定の手術参加者は、あらかじめ定められてもよい。
 また、どのマイクロフォンを特定するかは、出力音を聴く手術参加者によって異ならせてもよい。例えば、器械出し看護師が出力音を聴く場合には、術者及び助手に基づいてマイクロフォンを特定してもよい(術者に最も近いマイクロフォン及び助手に最も近いマイクロフォンを特定してもよい)。
 あるいは、1の手術参加者の視線に応じた他の手術参加者が検出された場合(1の手術参加者の視線方向に他の手術参加者が検出された場合)、当該1の手術参加者が聴く音を集音するマイクロフォンは、当該他の手術参加者に基づいて特定されてもよい(当該他の手術参加者に最も近いマイクロフォンが特定されてもよい)。また、かかる検出がなされた場合、当該二人の手術参加者の間の音声のやり取りを円滑にするため、当該他の手術参加者が聴く音を集音するマイクロフォンは、当該1の手術参加者に基づいて特定されてもよい(当該1の手術参加者に最も近いマイクロフォンが特定されてもよい)。
 以上、本開示の第1の実施形態について説明した。
 <2.第2の実施形態>
 続いて、本開示の第2の実施形態について説明する。
 [2.1.機能構成例]
 まず、本開示の第2の実施形態に係る音出力制御部100B及び表示制御部170の構成例について説明する。図10は、本開示の第2の実施形態に係る音出力制御部100B及び表示制御部170の構成例を示す図である。音出力制御部100Bは、上記した手術室制御装置3009に備えられてもよいし、手術室制御装置3009とは異なる制御装置に備えられてもよい。また、表示制御部170は、上記した視聴覚コントローラ3007に備えられていてもよいし、視聴覚コントローラ3007とは異なる制御装置(音出力制御部100Bが備えられる制御装置と同一又は異なる制御装置)に備えられていてもよい。
 図10に示したように、本開示の第2の実施形態に係る音出力制御部100Bは、音源位置決定部110、音源分離部120及び音源混合部130の他に、音声認識部140、手術情報検出部150及び辞書160を追加的に備える点において、本開示の第1の実施形態に係る音出力制御部100Aと異なる。以下では、音声認識部140、手術情報検出部150及び辞書160について主に説明する。
 まず、機器が高機能化するにつれて、ナビゲーション機能及びアノテーション機能の呼び出し、機器において利用されるパラメータの制御などの必要性が増し、機器操作が複雑化しつつある。そのため、機器に触れずともボイスコマンドによって機器操作を可能にする技術に対する要望が高まっている。しかし、機器に直接入力される音には、ボイスコマンド以外の音も含まれている場合があり、かかる場合には、機器によるボイスコマンドの認識精度が向上しない可能性がある。そこで、所定の手術参加者からの音情報に基づく音声認識結果が機器に出力されるとよい。
 すなわち、音出力制御部100Bは、音声認識部140によって、音源分離の結果として音源ごとに分離された音情報を音源分離部120から取得し、所定の手術参加者からの音情報に基づく音声認識を行う。そして、音出力制御部100Bは、音声認識部140によって、所定の手術参加者からの音情報に基づく音声認識結果の機器への出力を制御する。かかる構成によれば、機器によるボイスコマンドの認識精度が向上する。
 なお、音声認識結果を機器に入力するようにするため、機器に直接入力される音はコマンド認識の対象から除外されてよい。所定の手術参加者は、機器に対してボイスコマンドを入力する可能性があれば誰でもよく、術者であってもよいし、麻酔科医であってもよい。また、ボイスコマンドを受け付け可能な機器は特に限定されないが、上記した例では、内視鏡ラック3400であってもよいし、麻酔システム3602であってもよいし、エネルギーデバイス3604であってもよい。
 また、ある手術参加者(以下、「第1の手術参加者」とも言う。)から発せられた音声に所定の情報が含まれる場合、その音声が特定の手術参加者(以下、「第2の手術参加者」とも言う。)に宛てた音声である可能性がある。一例として、第1の手術参加者から発せられた音声に第2の手術参加者の名称が含まれる場合、その音声が第2の手術参加者に宛てた音声である可能性がある。他の一例として、第1の手術参加者から発せられた音声に第2の手術参加者とのやり取りに利用される所定のキーワードが含まれる場合、その音声が第2の手術参加者に宛てた音声である可能性がある。
 そこで、音出力制御部100Bは、第1の手術参加者からの音情報に基づく音声認識結果に第2の手術参加者に関連する所定の情報が含まれる場合、第1の手術参加者からの音情報を相対的に強調し、強調後の音情報に基づいて第2の手術参加者に応じた音出力を制御してもよい(第2の手術参加者に向けた音出力を制御してもよい)。このとき、当該二人の手術参加者の間の音声のやり取りを円滑にするため、当該二人の手術参加者の間の音情報が双方向に強調されてもよい。
 また、上記のようにして音出力が制御されることによって、手術参加者からの音情報は聴き取りやすくなるが、手術参加者からの音情報がより確実に把握されるようにしてもよい。例えば、表示制御部170は、所定の手術参加者からの音情報に基づく音声認識結果の表示を制御してもよい。音声認識結果は、どこに表示されてもよい。例えば、音声認識結果は、集中操作パネル3011に表示されてもよい。
 図11は、音声認識結果の表示例を示す図である。図11に示すように、音声認識結果は、過去の音声認識結果を含んだ履歴T0として表示されてもよい。また、図11に示すように、履歴T0には、過去の音声認識結果の他に、音声認識がなされた時刻(例えば、図11に示したように、現在時刻を基準として音声認識がなされた時刻までの時間など)と音声を発した手術参加者とが表示されてもよい。
 また、音声認識には、音声認識用の辞書160が一般に用いられる。辞書160には、テキストデータと音声とが関連付けられて記録されており、マイクロフォンM1~M6によって集音された音情報が辞書160に記録されている音声と照合されることによって、マイクロフォンM1~M6によって集音された音情報とマッチする音声に関連付けられたテキストデータが辞書160から抽出される。
 このとき、音声認識の精度を向上させるため、手術情報検出部150によって術者によってなされている手技又は手術の進度が検出された場合、音出力制御部100Bは、音声認識部140によって、術者によってなされている手技又は手術の進度に基づいて音声認識に利用される辞書160を選択してもよい。例えば、所定の機器が利用される可能性が高い手技が検出された場合には、その機器が受け付け可能なコマンドの認識精度が高い辞書160が選択されてもよい。また、手術の進度に応じて利用される術具が異なる場合、その進度で利用される術具の認識精度が高い辞書160が選択されてもよい。
 なお、術者によってなされている手技又は手術の進度はどのように検出されてもよい。例えば、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ3701によって撮像された画像に基づいて、術者によってなされている手技又は手術の進度が検出されてもよい。あるいは、マイクロフォンM1~M6によって集音された音情報に基づいて、術者によってなされている手技又は手術の進度が検出されてもよい。
 [2.2.変形例]
 本開示の第2の実施形態には、様々な変形例が適用され得る。例えば、上記においては、マイクロフォンM1~M6によって集音された音情報に対する音源分離が行われる例を説明した。しかし、音源分離は行われなくてもよい。例えば、音出力制御部100Bは、所定の音源に基づいてマイクロフォンM1~M6からマイクロフォンを特定し(例えば、音源から最も近いマイクロフォンを特定し)、特定したマイクロフォンによって集音された音情報に基づく音声認識結果の機器への出力を制御してもよい。
 また、音出力制御部100Bは、第1の手術参加者からの音情報に基づく音声認識結果に第2の手術参加者に関連する所定の情報が含まれる場合、第1の手術参加者に基づいてマイクロフォンを特定し(例えば、第1の手術参加者に最も近いマイクロフォンを特定し)、特定したマイクロフォンによって集音された音情報に基づく第2の手術参加者への音出力を制御してもよい。このとき、当該二人の手術参加者の間の音声のやり取りを円滑にするため、当該第1の手術参加者が聴く音を集音するマイクロフォンは、当該第2の手術参加者に基づいて特定されてもよい(当該第2の手術参加者に最も近いマイクロフォンが特定されてもよい)。
 また、手術参加者からの音情報がより確実に把握されるようにするため、表示制御部170は、音出力制御部100Bによって特定されたマイクロフォンによって集音された音情報に基づく音声認識結果の表示を制御してもよい。音声認識結果は、どこに表示されてもよい。例えば、音声認識結果は、集中操作パネル3011に表示されてもよい。
 また、本開示の第1の実施形態と同様に、手術が終了した場合には、音声出力の動作を終了させてよい。ここで、手術の終了はどのように判定されてもよい。例えば、音声認識結果に手術終了を示すテキストデータ(例えば、「手術が終了しました」といったテキストデータなど)が含まれている場合、手術終了を示すテキストデータの検出が手術の終了と捉えられてもよい。
 以上、本開示の第2の実施形態について説明した。
 <3.むすび>
 以上説明したように、本開示の実施形態によれば、手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部100Aを備える制御装置3009が提供される。かかる構成によれば、術中における手術参加者同士の音声コミュニケーションをより確実にすることが可能となる。手術参加者同士の意思疎通が図りやすくなるため、スムーズな手術が実現され、手術時間が短縮される。また、手術参加者同士の指示伝達ミス、指示伝達漏れが低減される。
 また、手術参加者同士が大声でやり取りをしなくて済むようになるため、手術参加者に掛かる負担及びストレスが低減される。また、手術参加者同士が大声でやり取りをしなくて済むようになるため、手術参加者以外の者(例えば、患者など)に対して与える不安感及びストレスも低減される。また、マイクロフォンアレイによって非接触により手術参加者の音声を集音すれば、マイクロフォンが手術参加者に取り付けられずに済むため、清潔管理がしやすくなる。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、
 制御装置。
(2)
 前記手術に関連する情報は、手術室における音源位置情報を含む、
 前記(1)に記載の制御装置。
(3)
 前記音出力制御部は、所定のデータに基づいて前記音源位置情報を決定する、
 前記(2)に記載の制御装置。
(4)
 前記音出力制御部は、術式、手術室及び手術参加者のうち少なくともいずれか一つに基づいて前記音源位置情報を決定する、
 前記(3)に記載の制御装置。
(5)
 前記音出力制御部は、撮像装置によって撮像された画像、発信器から送信された無線信号の受信結果、サーモグラフィ装置による検出結果及び集音部によって集音された音情報のうち少なくともいずれか一つに基づいて前記音源位置情報を決定する、
 前記(3)に記載の制御装置。
(6)
 前記音出力制御部は、手術参加者に関連付けられた音出力装置による音出力を制御し、又は、手術参加者の位置に応じた音出力を制御する、
 前記(1)~(5)のいずれか一項に記載の制御装置。
(7)
 前記音出力制御部は、集音部によって集音された音情報に基づく音出力を制御する、
 前記(1)~(6)のいずれか一項に記載の制御装置。
(8)
 前記集音部は、複数のマイクロフォンを含み、
 前記音出力制御部は、前記複数のマイクロフォンによって集音された前記音情報に基づく音出力を制御する、
 前記(7)に記載の制御装置。
(9)
 前記音出力制御部は、前記複数のマイクロフォンの位置と前記音源位置情報とに基づく前記音情報に対する音源分離の結果に基づいて音出力を制御する、
 前記(8)に記載の制御装置。
(10)
 前記音出力制御部は、前記集音部による集音に基づく前記音情報に対する音源分離の結果に基づいて前記音情報からノイズを低減し、ノイズ低減後の音情報に基づいて音出力を制御する、
 前記(9)に記載の制御装置。
(11)
 前記音出力制御部は、前記集音部による集音に基づく前記音情報に対する音源分離の結果に基づいて、所定の音源からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御する、
 前記(9)又は(10)に記載の制御装置。
(12)
 前記音出力制御部は、前記集音部による集音に基づく音情報のうち、所定の手術参加者からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御する、
 前記(11)に記載の制御装置。
(13)
 前記音出力制御部は、前記集音部による集音に基づく音情報のうち、所定のデバイスからの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御する、
 前記(11)に記載の制御装置。
(14)
 前記音出力制御部は、所定の手術参加者からの音情報に基づく音声認識結果の機器への出力を制御する、
 前記(9)~(13)のいずれか一項に記載の制御装置。
(15)
 前記音出力制御部は、第1の手術参加者からの音情報に基づく音声認識結果に第2の手術参加者に関連する所定の情報が含まれる場合、前記第1の手術参加者からの音情報を相対的に強調し、強調後の音情報に基づいて前記第2の手術参加者に応じた音出力を制御する、
 前記(9)~(14)のいずれか一項に記載の制御装置。
(16)
 前記制御装置は、
 所定の手術参加者からの音情報に基づく音声認識結果の表示を制御する表示制御部を備える、
 前記(9)~(15)のいずれか一項に記載の制御装置。
(17)
 前記音出力制御部は、術者によってなされている手技又は手術の進度に基づいて音声認識に利用される辞書を選択する、
 前記(13)~(16)のいずれか一項に記載の制御装置。
(18)
 前記音出力制御部は、所定の音源に基づいてマイクロフォンを特定し、特定したマイクロフォンによって集音された音情報に基づく音出力を制御する、
 前記(8)に記載の制御装置。
(19)
 前記音出力制御部は、所定の手術参加者に基づいてマイクロフォンを特定し、特定したマイクロフォンによって集音された音情報に基づいて前記手術参加者に応じた音出力を制御する、
 前記(18)に記載の制御装置。
(20)
 前記音出力制御部は、特定したマイクロフォンによって集音された音情報に基づく音声認識結果の機器への出力を制御する、
 前記(18)又は(19)に記載の制御装置。
(21)
 前記音出力制御部は、第1の手術参加者からの音情報に基づく音声認識結果に第2の手術参加者に関連する所定の情報が含まれる場合、前記第1の手術参加者に基づいてマイクロフォンを特定し、特定したマイクロフォンによって集音された音情報に基づく音出力を制御する、
 前記(18)~(20)のいずれか一項に記載の制御装置。
(22)
 前記制御装置は、
 特定したマイクロフォンによって集音された音情報に基づく音声認識結果の表示を制御する表示制御部を備える、
 前記(18)~(21)のいずれか一項に記載の制御装置。
(23)
 プロセッサにより、手術に関連する情報に基づいて音出力装置による音出力を制御することを含む、
 制御方法。
(24)
 コンピュータを、
 手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、
 制御装置として機能させるためのプログラム。
(25)
 音出力を行う音出力装置と、
 手術に関連する情報に基づいて前記音出力装置による音出力を制御する音出力制御部を備える、
 制御装置と、
 を有する、音出力システム。
 100A、100B 音出力制御部
 110 音源位置決定部
 120 音源分離部
 130 音源混合部
 140 音声認識部
 150 手術情報検出部
 160 辞書
 170 表示制御部
 3000 手術室システム(音出力システム)
 3005 レコーダ
 3007 視聴覚コントローラ
 3009 手術室制御装置(制御装置)
 3400 内視鏡ラック(機器)
 3602 麻酔システム(機器)
 3604 エネルギーデバイス(機器)
 3701 シーリングカメラ
 3703 術場カメラ
 3709 マイクロフォン(集音部)
 3711 イヤホン(音出力装置)
 3713 指向性スピーカ(音出力装置)
 

Claims (25)

  1.  手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、
     制御装置。
  2.  前記手術に関連する情報は、手術室における音源位置情報を含む、
     請求項1に記載の制御装置。
  3.  前記音出力制御部は、所定のデータに基づいて前記音源位置情報を決定する、
     請求項2に記載の制御装置。
  4.  前記音出力制御部は、術式、手術室及び手術参加者のうち少なくともいずれか一つに基づいて前記音源位置情報を決定する、
     請求項3に記載の制御装置。
  5.  前記音出力制御部は、撮像装置によって撮像された画像、発信器から送信された無線信号の受信結果、サーモグラフィ装置による検出結果及び集音部によって集音された音情報のうち少なくともいずれか一つに基づいて前記音源位置情報を決定する、
     請求項3に記載の制御装置。
  6.  前記音出力制御部は、手術参加者に関連付けられた音出力装置による音出力を制御し、又は、手術参加者の位置に応じた音出力を制御する、
     請求項1に記載の制御装置。
  7.  前記音出力制御部は、集音部によって集音された音情報に基づく音出力を制御する、
     請求項1に記載の制御装置。
  8.  前記集音部は、複数のマイクロフォンを含み、
     前記音出力制御部は、前記複数のマイクロフォンによって集音された前記音情報に基づく音出力を制御する、
     請求項7に記載の制御装置。
  9.  前記音出力制御部は、前記複数のマイクロフォンの位置と音源位置情報とに基づく前記音情報に対する音源分離の結果に基づいて音出力を制御する、
     請求項8に記載の制御装置。
  10.  前記音出力制御部は、前記集音部による集音に基づく前記音情報に対する音源分離の結果に基づいて前記音情報からノイズを低減し、ノイズ低減後の音情報に基づいて音出力を制御する、
     請求項9に記載の制御装置。
  11.  前記音出力制御部は、前記集音部による集音に基づく前記音情報に対する音源分離の結果に基づいて、所定の音源からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御する、
     請求項9に記載の制御装置。
  12.  前記音出力制御部は、前記集音部による集音に基づく音情報のうち、所定の手術参加者からの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御する、
     請求項11に記載の制御装置。
  13.  前記音出力制御部は、前記集音部による集音に基づく音情報のうち、所定のデバイスからの音情報を相対的に強調し、強調後の音情報に基づいて音出力を制御する、
     請求項11に記載の制御装置。
  14.  前記音出力制御部は、所定の手術参加者からの音情報に基づく音声認識結果の機器への出力を制御する、
     請求項9に記載の制御装置。
  15.  前記音出力制御部は、第1の手術参加者からの音情報に基づく音声認識結果に第2の手術参加者に関連する所定の情報が含まれる場合、前記第1の手術参加者からの音情報を相対的に強調し、強調後の音情報に基づいて前記第2の手術参加者に応じた音出力を制御する、
     請求項9に記載の制御装置。
  16.  前記制御装置は、
     所定の手術参加者からの音情報に基づく音声認識結果の表示を制御する表示制御部を備える、
     請求項9に記載の制御装置。
  17.  前記音出力制御部は、術者によってなされている手技又は手術の進度に基づいて音声認識に利用される辞書を選択する、
     請求項13に記載の制御装置。
  18.  前記音出力制御部は、所定の音源に基づいてマイクロフォンを特定し、特定したマイクロフォンによって集音された音情報に基づく音出力を制御する、
     請求項8に記載の制御装置。
  19.  前記音出力制御部は、所定の手術参加者に基づいてマイクロフォンを特定し、特定したマイクロフォンによって集音された音情報に基づいて前記手術参加者に応じた音出力を制御する、
     請求項18に記載の制御装置。
  20.  前記音出力制御部は、特定したマイクロフォンによって集音された音情報に基づく音声認識結果の機器への出力を制御する、
     請求項18に記載の制御装置。
  21.  前記音出力制御部は、第1の手術参加者からの音情報に基づく音声認識結果に第2の手術参加者に関連する所定の情報が含まれる場合、前記第1の手術参加者に基づいてマイクロフォンを特定し、特定したマイクロフォンによって集音された音情報に基づく音出力を制御する、
     請求項18に記載の制御装置。
  22.  前記制御装置は、
     特定したマイクロフォンによって集音された音情報に基づく音声認識結果の表示を制御する表示制御部を備える、
     請求項18に記載の制御装置。
  23.  プロセッサにより、手術に関連する情報に基づいて音出力装置による音出力を制御することを含む、
     制御方法。
  24.  コンピュータを、
     手術に関連する情報に基づいて音出力装置による音出力を制御する音出力制御部を備える、
     制御装置として機能させるためのプログラム。
  25.  音出力を行う音出力装置と、
     手術に関連する情報に基づいて前記音出力装置による音出力を制御する音出力制御部を備える、
     制御装置と、
     を有する、音出力システム。
     
PCT/JP2017/002196 2016-04-28 2017-01-24 制御装置、制御方法、プログラム及び音出力システム WO2017187676A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP17788966.4A EP3434219B1 (en) 2016-04-28 2017-01-24 Control device, control method, program, and sound output system
CN201780024722.2A CN109069221B (zh) 2016-04-28 2017-01-24 控制装置、控制方法、程序和声音输出系统
US16/091,179 US10617400B2 (en) 2016-04-28 2017-01-24 Control device, control method, program, and sound output system
JP2018514112A JP6888620B2 (ja) 2016-04-28 2017-01-24 制御装置、制御方法、プログラム及び音出力システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016090417 2016-04-28
JP2016-090417 2016-04-28

Publications (1)

Publication Number Publication Date
WO2017187676A1 true WO2017187676A1 (ja) 2017-11-02

Family

ID=60161476

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/002196 WO2017187676A1 (ja) 2016-04-28 2017-01-24 制御装置、制御方法、プログラム及び音出力システム

Country Status (5)

Country Link
US (1) US10617400B2 (ja)
EP (1) EP3434219B1 (ja)
JP (1) JP6888620B2 (ja)
CN (1) CN109069221B (ja)
WO (1) WO2017187676A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023038004A1 (ja) * 2021-09-08 2023-03-16 富士フイルム株式会社 内視鏡システム、医療情報処理装置、医療情報処理方法、医療情報処理プログラム、及び記録媒体
WO2023038005A1 (ja) * 2021-09-08 2023-03-16 富士フイルム株式会社 内視鏡システム、医療情報処理装置、医療情報処理方法、医療情報処理プログラム、及び記録媒体

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110012391B (zh) * 2019-05-14 2020-08-25 临沂市中心医院 一种手术会诊系统及手术室音频采集方法
DE102021127877A1 (de) 2021-10-26 2023-04-27 Karl Storz Se & Co. Kg Handhabungsvorrichtung für die Handhabung medizinischer und/oder chirurgischer Instrumente sowie medizinisches System mit einer Handhabungsvorrichtung

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003094768A1 (fr) * 2002-05-07 2003-11-20 Kyoto University Systeme de visualisation medicale
JP2006211156A (ja) * 2005-01-26 2006-08-10 Yamaha Corp 音響装置
JP2015167863A (ja) * 2014-03-07 2015-09-28 シーメンス アクチエンゲゼルシヤフトSiemens Aktiengesellschaft アシスタント装置と医療機器および/またはオペレータおよび/または患者との間のインタラクション方法、アシスタント装置、アシスタントシステム、ユニットおよびシステム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6463361B1 (en) * 1994-09-22 2002-10-08 Computer Motion, Inc. Speech interface for an automated endoscopic system
US6083163A (en) * 1997-01-21 2000-07-04 Computer Aided Surgery, Inc. Surgical navigation system and method using audio feedback
JPH1185876A (ja) 1997-09-01 1999-03-30 Hitachi Ltd 手術管理方法
JP2005122128A (ja) * 2003-09-25 2005-05-12 Fuji Photo Film Co Ltd 音声認識システム及びプログラム
DE102004000043A1 (de) * 2004-11-17 2006-05-24 Siemens Ag Verfahren zur selektiven Aufnahme eines Schallsignals
US7896869B2 (en) * 2004-12-29 2011-03-01 Depuy Products, Inc. System and method for ensuring proper medical instrument use in an operating room
US20080183188A1 (en) * 2007-01-25 2008-07-31 Warsaw Orthopedic, Inc. Integrated Surgical Navigational and Neuromonitoring System
JP2010112996A (ja) * 2008-11-04 2010-05-20 Sony Corp 音声処理装置、音声処理方法およびプログラム
US8670017B2 (en) * 2010-03-04 2014-03-11 Intouch Technologies, Inc. Remote presence system including a cart that supports a robot face and an overhead camera
WO2011116332A2 (en) * 2010-03-18 2011-09-22 SPI Surgical, Inc. Surgical cockpit comprising multisensory and multimodal interfaces for robotic surgery and methods related thereto
US10726861B2 (en) * 2010-11-15 2020-07-28 Microsoft Technology Licensing, Llc Semi-private communication in open environments
US9554225B2 (en) * 2013-09-30 2017-01-24 Covidien Lp Devices and methods for audible indicators emanating from selected locations
US9293141B2 (en) * 2014-03-27 2016-03-22 Storz Endoskop Produktions Gmbh Multi-user voice control system for medical devices
CN106715139B (zh) * 2014-09-30 2018-12-11 富士胶片株式会社 平版印刷版原版、平板印刷版原版的制造方法及利用平版印刷版原版的印刷方法
US10009676B2 (en) * 2014-11-03 2018-06-26 Storz Endoskop Produktions Gmbh Voice control system with multiple microphone arrays
US9812132B2 (en) * 2015-12-31 2017-11-07 General Electric Company Acoustic map command contextualization and device control
US10610307B2 (en) * 2017-09-28 2020-04-07 General Electric Company Workflow assistant for image guided procedures

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003094768A1 (fr) * 2002-05-07 2003-11-20 Kyoto University Systeme de visualisation medicale
JP2006211156A (ja) * 2005-01-26 2006-08-10 Yamaha Corp 音響装置
JP2015167863A (ja) * 2014-03-07 2015-09-28 シーメンス アクチエンゲゼルシヤフトSiemens Aktiengesellschaft アシスタント装置と医療機器および/またはオペレータおよび/または患者との間のインタラクション方法、アシスタント装置、アシスタントシステム、ユニットおよびシステム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3434219A4 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023038004A1 (ja) * 2021-09-08 2023-03-16 富士フイルム株式会社 内視鏡システム、医療情報処理装置、医療情報処理方法、医療情報処理プログラム、及び記録媒体
WO2023038005A1 (ja) * 2021-09-08 2023-03-16 富士フイルム株式会社 内視鏡システム、医療情報処理装置、医療情報処理方法、医療情報処理プログラム、及び記録媒体

Also Published As

Publication number Publication date
CN109069221A (zh) 2018-12-21
US10617400B2 (en) 2020-04-14
JPWO2017187676A1 (ja) 2019-03-07
EP3434219A1 (en) 2019-01-30
JP6888620B2 (ja) 2021-06-16
EP3434219B1 (en) 2022-03-02
CN109069221B (zh) 2021-09-17
EP3434219A4 (en) 2019-04-10
US20190125319A1 (en) 2019-05-02

Similar Documents

Publication Publication Date Title
AU2003234910B2 (en) Medical cockpit system
WO2019181432A1 (ja) 手術支援システム、情報処理装置、及びプログラム
WO2017187676A1 (ja) 制御装置、制御方法、プログラム及び音出力システム
US11297285B2 (en) Dental and medical loupe system for lighting control, streaming, and augmented reality assisted procedures
WO2018163600A1 (ja) 医療情報管理装置、医療情報管理方法、及び医療情報管理システム
JP2004181229A (ja) 遠隔手術支援システム及び支援方法
US20200312464A1 (en) Medical information processing apparatus and information processing method
US8189993B2 (en) Medical support control system
WO2018193799A1 (ja) 情報処理装置、および情報処理方法、並びにプログラム
US20210158955A1 (en) Beacon-based systems and methods for managing access to application features associated with a medical session
WO2018221068A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
US11483515B2 (en) Image recording and reproduction apparatus, image recording method, and endoscope system
US20220008161A1 (en) Information processing device, presentation method, and surgical system
WO2022011147A1 (en) Systems and methods for supporting medical procedures
US11883120B2 (en) Medical observation system, medical signal processing device, and medical signal processing device driving method
US10330945B2 (en) Medical image display apparatus, medical information processing system, and medical image display control method
US8219859B2 (en) Medical support control system
WO2018163499A1 (ja) 医療画像表示制御装置、医療画像表示装置、医療情報処理システム、及び医療画像表示制御方法
WO2021010193A1 (ja) 医療機器制御システム、制御装置、および制御方法
US20210158947A1 (en) Beacon-based systems and methods for generating medical facility metrics
WO2022254840A1 (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
WO2019097804A1 (ja) 画像記録装置及び画像記録方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2018514112

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 2017788966

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017788966

Country of ref document: EP

Effective date: 20181022

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17788966

Country of ref document: EP

Kind code of ref document: A1