JP6947465B1 - 力覚通知装置および力覚通知方法 - Google Patents

力覚通知装置および力覚通知方法 Download PDF

Info

Publication number
JP6947465B1
JP6947465B1 JP2021530237A JP2021530237A JP6947465B1 JP 6947465 B1 JP6947465 B1 JP 6947465B1 JP 2021530237 A JP2021530237 A JP 2021530237A JP 2021530237 A JP2021530237 A JP 2021530237A JP 6947465 B1 JP6947465 B1 JP 6947465B1
Authority
JP
Japan
Prior art keywords
sound
notification
notification sound
pitched
pitch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021530237A
Other languages
English (en)
Other versions
JPWO2022201312A1 (ja
Inventor
耕太郎 只野
耕太郎 只野
靖志 田中
靖志 田中
輝幸 西原
輝幸 西原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Riverfield Inc
Original Assignee
Riverfield Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Riverfield Inc filed Critical Riverfield Inc
Application granted granted Critical
Publication of JP6947465B1 publication Critical patent/JP6947465B1/ja
Publication of JPWO2022201312A1 publication Critical patent/JPWO2022201312A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B18/04Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by heating
    • A61B18/12Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by heating by passing a current through the tissue to be heated, e.g. high-frequency current
    • A61B18/14Probes or electrodes therefor
    • A61B18/1442Probes having pivoting end effectors, e.g. forceps
    • A61B18/1445Probes having pivoting end effectors, e.g. forceps at the distal end of a shaft, e.g. forceps or scissors at the end of a rigid rod
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/76Manipulators having means for providing feel, e.g. force or tactile feedback
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/18Status alarms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • A61B2017/00128Electrical control of surgical instruments with audible or visual output related to intensity or progress of surgical action
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00973Surgical instruments, devices or methods, e.g. tourniquets pedal-operated
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/302Surgical robots specifically adapted for manipulations within body cavities, e.g. within abdominal or thoracic cavities
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • A61B2090/065Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension for measuring contact or contact pressure
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B3/00Audible signalling systems; Audible personal calling systems

Abstract

力覚通知装置であって、術具に働く作用力の大きさの測定信号が入力される信号入力部と、第1低音高の音と、第1低音高の音よりも音高が高い第1通知音、並びに、第2低音高の音と、第2低音高の音よりも音高が高い第2高音高の音とを少なくとも含み、第2低音高の音および第2高音高の音の少なくとも一方が、第1低音高の音および第1高音高の音と異なる第2通知音を少なくとも用いて作用力の大きさを表す通知音情報を測定信号に基づいて作成する音情報生成部と、通知音情報に基づいて音を生成する発音部に向けて、作成された通知音情報を出力する通知音出力部と、が設けられている力覚通知装置。

Description

本開示は、手術支援ロボットシステムに用いられる力覚通知装置および力覚通知方法に関する。
手術支援ロボットシステムを用いた内視鏡外科手術が知られている。内視鏡外科手術では、腹腔鏡、内視鏡、または鉗子など(以下、「術具」とも表記する。)が用いられ、これらの術具は、手術支援ロボットに取り付けられて用いられる。
手術支援ロボットシステムにおける手術支援ロボットを医師および/または内視鏡外科手術の術者(以下「操作者」とも表記する。)が操作することにより、手術支援ロボットを介して術具の遠隔操作が可能である。そして、術具のより直観的な操作を可能とする手術支援ロボットシステムも提案されている。さらに、手術の正確性および安全性を高めることを目的として、操作者に対して、術具に作用する外力を伝える力覚フィードバックが可能な手術支援ロボットシステムも提案されている(例えば、特許文献1。)。
特開2020−146374号公報
力覚フィードバック機能は、手術の質、安全性を高めるために操作者にとって有効かつ重要な機能である。力覚フィードバック機能としては、例えば、ハプティックデバイスである操作部から提供される触覚情報を利用した機能や、表示装置から提供される視覚情報を利用した機能が知られている。
触覚は他の感覚と比較して鈍感であり、このため、操作者の触覚を介してその操作者に精度の高い情報を伝達するには不向きであり得る。これに対し、視覚を用いる場合は、他の感覚を用いる場合と比較して、精度の高い情報を伝達することが可能となり得る。その一方で、操作者が手術支援ロボットシステムの手術画面を注視していると、力覚フィードバック機能により別途表示される視覚情報が操作者に見落とされる可能性も懸念される。
上述の触覚情報や視覚情報を利用した力覚フィードバック機能の他に、発音装置から提供される聴覚情報を利用した力覚フィードバック機能を併用することも考えられる。
ところで、手術支援ロボットシステムが使用される手術室では、通常、生体情報モニタのアラーム音および/または他の様々な医療機器のアラーム音など、力覚フィードバック機能に由来する聴覚情報とは異なる他の音(以下「雑音」とも表記する。)が発生し得る。この場合、操作者が雑音を、上述の力覚フィードバック機能に由来する聴覚情報と誤認識する可能性や、聴覚情報を雑音と誤認識する可能性がある。
本開示の一局面では、力覚フィードバックに由来する聴覚情報の誤認識を抑制することができる力覚通知装置および力覚通知方法を提供することが好ましい。
本開示の一態様である第1の態様に係る力覚通知装置には、手術に用いられる術具に働く作用力の大きさを操作者に知覚可能に通知する装置であって、前記術具に働く作用力の大きさを表す測定信号が入力される信号入力部と、第1低音高の音と、前記第1低音高の音よりも音高が高く、かつ、前記第1低音高の音と協和する第1高音高の音とを少なくとも含む第1通知音、並びに、第2低音高の音と、前記第2低音高の音よりも音高が高く、かつ、前記第2低音高の音と協和する第2高音高の音とを少なくとも含み、前記第2低音高の音および前記第2高音高の音の少なくとも一方が、前記第1低音高の音および前記第1高音高の音と音高が異なる、第2通知音を少なくとも用いて前記作用力の大きさを表す通知音情報を前記測定信号に基づいて作成する音情報生成部と、前記音情報生成部により生成された前記通知音情報を、該通知音情報に基づいて音を生成する発音部に出力する通知音出力部と、が設けられている。
本開示の一態様である第2の態様に係る力覚通知方法は、手術に用いられる術具に働く作用力の大きさを操作者に知覚可能に通知する方法であって、前記術具に働く作用力の大きさの測定信号が入力される信号入力ステップと、第1低音高の音と、前記第1低音高の音よりも音高が高く、かつ、前記第1低音高の音と協和する第1高音高の音とを少なくとも含む第1通知音、並びに、第2低音高の音と、前記第2低音高の音よりも音高が高く、かつ、前記第2低音高の音と協和する第2高音高の音とを少なくとも含み、前記第2低音高の音および前記第2高音高の音の少なくとも一方が、前記第1低音高の音および前記第1高音高の音と異なる第2通知音を少なくとも用いて前記作用力の大きさを表す通知音情報を前記測定信号に基づいて作成する音情報生成ステップと、前記通知音情報に基づいて音を生成する発音部に向けて、作成された前記通知音情報を出力する通知音出力ステップと、を有する。
本開示の第1の態様に係る力覚通知装置および第2の態様に係る力覚通知方法によれば、術具に働く作用力の大きさに応じて、異なる音高であって協和する音を含む第1通知音または第2通知音が発せられる。例えば、作用力の大きさが小さい場合には第1通知音が発せられ、作用力の大きさが大きい場合には第2通知音が発せられる。
第1通知音および第2通知音は異なる音高の音を含むため、例えば1つの音高の音から構成される他の機器から発せられる音と識別がしやすい。
上記開示の第1の態様において、前記第1高音高の音は、前記第1低音高の音と協和するものであってもよい。
このような構成によれば、第1通知音は協和する音を含むため、第1通知音を聞いた者に耳障りな印象を与えにくい。これにより、操作者の手術に対する集中力への悪影響を抑制することができる。
上記開示の第1の態様において、前記第2高音高の音は、前記第2低音高の音と協和するものであってもよい。
このような構成によれば、第2通知音は協和する音を含むため、第2通知音を聞いた者に耳障りな印象を与えにくい。これにより、操作者の手術に対する集中力への悪影響を抑制することができる。
上記開示の第1の態様において前記第1通知音及び前記第2通知音の少なくとも一方は、3以上の異なる音高の音を含み、前記3以上の異なる音高の音は、互いに協和する音高の音であることが好ましい。
このような構成によれば、第1通知音及び第2通知音の少なくとも一方に含まれる音は、互いに協和する音であるため、第1通知音および第2通知音を聞いた者に耳障りな印象を与えにくい。
上記開示の第1の態様において前記第2低音高の音は、前記第1低音高の音よりも音高が高く、前記第2高音高の音は前記第1高音高の音よりも音高が高いことが好ましい。
このように第2低音高を第1低音高より音高を高くし、第2高音高を第1高音高より音高を高くすることにより、通知音を聞く者が、第1通知音と第2通知音との聞き分けをし易くなる。
上記開示の第1の態様において前記第1低音高の音および前記第2低音高の音は、音の大きさが繰り返し変動する、または、前記第1高音高の音および前記第2高音高の音は音の大きさが繰り返し変動することが好ましい。
このように第1通知音および第2通知音に含まれる音の1つについて、音の大きさを繰り返し変動させることにより、通知音を聞く者が、他の機器から発せられる音と、第1通知音および第2通知音と、の聞き分けを行いやすくなる。
上記開示の第1の態様において前記第2通知音における音の大きさの繰り返し変動の速さは、前記第1通知音における音の大きさの繰り返し変動の速さと異なることが好ましい。
このように第1通知音および第2通知音の間で音の大きさの繰り返し変動の速さを異ならせることにより、通知音を聞く者が、第1通知音と第2通知音との聞き分けをし易くなる。
上記開示の第1の態様において前記第1高音高の音および前記第2高音高の音は、それぞれ前記第1低音高の音および前記第2低音高の音よりも音高が7度上の音であることが好ましい。
このように高音高の音を低音高の音よりも7度上の音にすることにより、第1通知音および第2通知音を聞いた者に無機質な印象を与えやすい。例えば、陰気な印象を与える通知音や、陽気な印象を与える通知音と比較して、集中力を乱す等の悪影響を与えにくい。
上記開示の第1の態様において前記音情報生成部は、前記作用力の大きさが所定の閾値以上の場合には、前記第1通知音および前記第2通知音とは異なる第3通知音を用いて前記作用力の大きさが前記所定の閾値以上であることを表す前記通知情報を作成することが好ましい。
このように第3通知音を用いて作用力の大きさが所定の閾値以上であることを表すことにより、第3通知音を用いない場合と比較して、作用力の大きさが所定の閾値以上になったことを伝えやすい。
上記開示の第1の態様において前記第3通知音には、第3低音高の音と、前記第3低音高よりも音高が高い第3高音高の音とが含まれ、前記第3低音高の音および前記第3高音高の音は不協和であることが好ましい。
このように不協和である第3低音高の音および第3高音高の音を含む第3通知音を用いることにより、第3通知音を聞く者が耳障りな印象を感じやすくなる。そのため、第3通知音が発せられた際に、通知音を聞く者が第3通知音に気付きやすくなる。
上記開示の第1の態様において前記第3通知音には、第3低音高の音と、前記第3低音高よりも音高が高い第3中音高の音と、前記第3中音高よりも音高が高い第3高音高の音と、が少なくとも含まれる。また、前記第3低音高の音、前記第3中音高の音、および、前記第3高音高の音のうちの1つは、連続して発せられ、かつ、残りの2つが交互に発せられることが好ましい。
このように第3通知音の第3低音高の音、第3中音高の音、および、第3高音高の音のうちの1つが、連続して発せられ、かつ、残りの2つが交互に発せられることにより、第3通知音を聞く者が耳障りな印象を感じやすくなる。そのため、第3通知音が発せられた際に、通知音を聞く者が第3通知音に気付きやすくなる。
上記開示の第1の態様においては、前記発音部における音の生成の許可と、生成の禁止(または停止)とを切り替える切替部が追加的に設けられていることが好ましい。
このように切替部が設けられていることにより、発音部における音の生成の許可と、音の生成の禁止(または停止)とを選択することが可能となる。切替部は、発音部の動作を制御してもよいし、発音部への通知音情報の出力を制御してもよいし、通知音情報の生成を制御してもよい。
本開示の力覚通知装置および力覚通知方法によれば、術具に働く作用力の大きさに応じて、異なる音高の音を含む第1通知音または第2通知音が発せられる。このため、力覚フィードバックに係る聴覚情報の誤認識を抑制できるという効果を奏する。
本開示の一実施形態に係る手術支援ロボットシステムの構成を説明するブロック図である。 スレーブユニットに設けられるカートリッジの構成を説明する斜視図である。 制御装置における力覚の表示に関する制御を説明するフローチャートである。 表示装置における表示の態様を説明する模式図である。
14…術具、 40…発音装置(発音部)、 50…制御装置、 51…入力部(信号入力部)、 54…音情報生成部、 55…切替部、 56…出力部(通知音出力部)、
S12,S16…入力ステップ、 S15,S19…音情報生成ステップ、出力ステップ
以下、本開示の一実施形態に係る手術支援ロボットシステム1について図1から図4を参照しながら説明する。本実施形態の手術支援ロボットシステム1は、手術支援に用いられる。例えば、内視鏡外科手術の支援に好適である。
手術支援ロボットシステム1は、図1に示すように、スレーブユニット10と、内視鏡ユニット20と、操作ユニット30と、発音装置40と、制御装置50と、表示装置60と、を備える。発音装置40は、発音部の一例に相当する。
スレーブユニット10は、図2に示すように、術具14を支持する。術具14は、一例では、内視鏡外科手術に用いられる鉗子であってもよい。スレーブユニット10は、操作ユニット30の操作状態に応じて術具14の位置および姿勢の少なくとも一方を制御する。また、スレーブユニット10は、術具14が鉗子である場合には鉗子を開閉駆動する。
スレーブユニット10は、第1スレーブ装置10A、および、第2スレーブ装置10Bを有している。なお、スレーブユニット10が有しているスレーブ装置の数は、2つよりも多くてもよいし、1つでもよい。
第1スレーブ装置10A、および、第2スレーブ装置10Bは、ロボットアームであってもよい。本実施形態では、第1スレーブ装置10Aおよび第2スレーブ装置10Bは同じ構成を有し、同種の術具14を支持する。
なお、第1スレーブ装置10A、および、第2スレーブ装置10Bは、術具14の位置および姿勢の少なくとも一方を制御する装置であればよく、また、術具14が鉗子である場合にはその鉗子を開閉駆動できる装置であればよく、アーム状の構成を有していなくてもよい。
第1スレーブ装置10A、および、第2スレーブ装置10Bは、図2に示すように、カートリッジ11と、シャフト12と、関節部13と、を備える。カートリッジ11、シャフト12、および、関節部13について、第1スレーブ装置10Aが備えているか第2スレーブ装置10Bが備えているかを区別する必要がない場合には、カートリッジ11、シャフト12、および、関節部13と表記する。第1スレーブ装置10Aが備えているか第2スレーブ装置10Bが備えているかを区別する場合には、対応して、カートリッジ11A、シャフト12Aおよび関節部13Aと表記し、または、カートリッジ11B、シャフト12Bおよび関節部13Bと表記して、区別する。
カートリッジ11は、シャフト12、関節部13、および、術具14を支持する。本実施形態では、カートリッジ11は立方体状に形成されている。
カートリッジ11には、シャフト12、関節部13、および、術具14の少なくとも1つを駆動する空気圧アクチュエータなどの駆動源が収納されていてもよい。また、関節部13に加わる外力を測定する関節センサ16(図1参照)、術具14である鉗子により外部へ加えられる開閉の力を測定する術具センサ17(図1参照)の少なくとも1つが収納されていてもよい。なお、関節部13に加わる外力および術具14である鉗子により外部へ加えられる開閉の力がそれぞれ作用力の一例に相当する。
関節センサ16および術具センサ17について、第1スレーブ装置10Aに設けられているか第2スレーブ装置10Bに設けられているかを区別する必要がない場合には、関節センサ16および術具センサ17と表記する。第1スレーブ装置10Aに設けられているか第2スレーブ装置10Bに設けられているかを区別する場合には、対応して、関節センサ16Aおよび術具センサ17Aと表記し、または、関節センサ16Bおよび術具センサ17Bと表記して、区別する。
シャフト12は、カートリッジ11から延びる円筒状または円柱状に形成された部材である。シャフト12は、カートリッジ11に対して自身の中心軸線まわりに回転可能に構成されている。なお、シャフト12は、角筒状または角柱状に形成されてもよい。
関節部13は、術具14を支持するとともに、屈曲することにより術具14の位置や姿勢を制御する。関節部13は、シャフト12と術具14との間に位置する。言い換えると、関節部13の第1の端部は、シャフト12の両端部のうちカートリッジ11から離れた側の端部と接続され、関節部13の第2の端部は、術具14と接続される。関節部13の構成としては、屈曲を可能とする構成を用いることができる、関節部13の具体的な構成は特に限定されない。
内視鏡ユニット20は、内視鏡外科手術の際の映像または画像を取得する。具体的には、患者の体腔内であって手術の対象である領域の映像または画像を取得する。取得した映像または画像の情報は、制御装置50へ出力される。なお、内視鏡ユニット20の構成としては、映像または画像を取得してその情報を出力できるものであればよく、特にその構成は限定されない。
操作ユニット30は、スレーブユニット10の制御に用いられる。具体的には、操作ユニット30は、スレーブユニット10を操作して内視鏡外科手術を行う際に用いられる。操作ユニット30はマスターユニットとも表記される。
操作ユニット30には、ハンド操作部31およびフット操作部35が設けられている。ハンド操作部31は、手術支援ロボットシステム1の操作者(例えば、医師や内視鏡外科手術の術者)が手を用いてスレーブユニット10の動きを入力する際に用いられる。
ハンド操作部31には、操作者の右手に対応する右手用操作部32と、左手に対応する左手用操作部33と、が設けられている。右手用操作部32および左手用操作部33は、操作者から入力された操作情報を信号に変換して制御部52へ出力する。また、右手用操作部32および左手用操作部33は、制御部52から入力された制御信号に基づいて、操作者に対して力覚を提示する。ここでいう力覚の提示とは、スレーブユニット10に力が作用していることを操作者が知覚することができるように、スレーブユニット10に作用している力の情報を操作者に伝達することをいう。また、ハンド操作部31により操作者に対し力覚を提示する場合には、操作者の手指の触覚を介して情報を伝達するものであってもよい。力覚を提示する方法としては、触覚を介しての情報の伝達の他、視覚または聴覚などを介して情報を伝達するものであってもよい。
右手用操作部32および左手用操作部33としては、構成および方式は限定されない。また、ハンド操作部31は、上述のように右手用操作部32および左手用操作部33の両者を有していてもよいし、右手用操作部32および左手用操作部33の一方のみを有していてもよい。
フット操作部35は、操作者が足を用いてスレーブユニット10を動作させたりスレーブユニット10の機能を発揮させたりすることができるように設けられている。フット操作部35には、第1フットスイッチ36と、第2フットスイッチ37と、第3フットスイッチ38とが設けられている。第1フットスイッチ36、第2フットスイッチ37、第3フットスイッチ38は、操作者が足で踏むことにより操作されるスイッチである。
フット操作部35の操作により発揮される機能としては、例えば、術具14への高周波電流の供給および停止や、スレーブユニット10の制御モードの切り替えなど、を例示することができる。フット操作部35による操作の種類や内容は、限定されない。またフット操作部35は、上述のように3つのフットスイッチを有していてもよいし、3つよりも少ないフットスイッチを有していてもよいし、3つよりも多いフットスイッチを有していてもよい。
発音装置40は、制御装置50から入力される信号に基づいて音を発する。これにより、操作者を含む内視鏡外科手術に関与する関係者の少なくとも一部は、発音装置40から発せられた音を知覚することができる。音を発生させる構成等は、特に限定されない。なお、制御装置50から入力される信号が通知音情報の一例に相当する。
制御装置50は、スレーブユニット10の動作、発音装置40による発音、並びに、表示装置60における表示内容および表示態様などを制御する。
制御装置50は、コンピュータ等の情報処理装置である。具体的には、制御装置50は、図1に示すように、CPU、ROM、RAM、入出力インタフェース等を有する。CPUは中央演算処理ユニットの略称である。上述のROM等の記憶装置に記憶されているプログラムは、CPU、ROM、RAM、入出力インタフェースを協働させて、それらを、少なくとも入力部51、制御部52、画像生成部53、音情報生成部54、切替部55、および、出力部56として機能させる。なお、入力部51が信号入力部の一例に相当する。また、出力部56が通知音出力部の一例に相当する。
入力部51は、外部機器からの信号が制御装置50に入力可能となるように、外部機器と制御装置50とを接続するインタフェースである。具体的には、入力部51は、操作ユニット30の操作内容に関する情報を含む信号が操作ユニット30から制御装置50に入力可能となるように、操作ユニット30と接続される。また、入力部51は、内視鏡ユニット20により取得される映像や画像を表す信号が内視鏡ユニット20から制御装置50に入力可能となるように、内視鏡ユニット20と接続される。
さらに、入力部51は、関節部13に加わる外力を測定する関節センサ16からの測定信号、および、術具14である鉗子により外部へ加えられる開閉の力を測定する術具センサ17からの測定信号が制御装置50に入力可能となるように、関節センサ16および術具センサ17と接続される。
関節センサ16、および、術具センサ17が配置される位置は、それぞれの測定対象の外力が測定できる位置であればよく、その位置は、特に限定されない。また、関節センサ16、および、術具センサ17により外力を測定する方式は、特に限定されない。
制御部52は、スレーブユニット10および術具14の動作を制御する制御信号、並びに、機能の発揮を制御する制御信号を生成する。制御信号は、操作ユニット30から制御装置50に入力される信号であって操作ユニット30の操作内容に関する情報を含む信号に基づいて生成される。
画像生成部53は、表示装置60に表示させる映像や画像の情報である画像情報を生成する。具体的には、内視鏡ユニット20から制御装置50に入力される映像や画像の信号、並びに、関節センサ16、および、術具センサ17から制御装置50に入力される信号に基づいて、画像情報を生成する。画像情報の内容については後述する。
音情報生成部54は、発音装置40で生成させる音の情報である通知音情報を生成する。具体的には、関節センサ16、および、術具センサ17から制御装置50に入力される信号に基づいて、通知音情報を生成する。通知音情報の内容については後述する。
切替部55は、発音装置40における音の生成を許可または禁止する制御を行う。言い換えると、発音装置40における発音のON/OFFを制御する。例えば、手術支援ロボットシステム1の操作者などにより入力される、発音のON/OFFの指示に基づいて、発音のON/OFFが制御される。
発音のON/OFFの指示の入力は、制御装置50に設けられた図示しないスイッチなどにより行われてもよいし、操作ユニット30のフット操作部35により行われてもよく、入力のための機器は特に限定されない。
発音のON/OFFの制御は、発音装置40の動作の制御により行われてもよいし、制御装置50から発音装置40への信号の出力の制御により行われてもよいし、発音装置40へ出力する信号の生成の制御により行われてもよい。
出力部56は、制御部52において生成された制御信号、画像生成部53において生成された画像情報の信号、および、音情報生成部54において生成された通知音情報の信号を制御装置50から外部に出力するためのインタフェースである。
具体的には、出力部56は、制御装置50からスレーブユニット10および術具14へ制御信号の出力が可能となるようにスレーブユニット10および術具14と接続される。さらに出力部56は、制御装置50から表示装置60へ画像情報が出力可能となるようにその表示装置60と接続され、制御装置50から発音装置40へ通知音情報が出力可能となるようにその発音装置40と接続される。
表示装置60は、制御装置50から入力された画像情報に基づいて、映像や画像を表示する。表示装置60は、内視鏡外科手術の術者を含めた手術の関係者に対して表示を行う。表示装置60において、映像や画像を表示する方式や構成は特に限定されない。
次に、上記の構成を備える手術支援ロボットシステム1における制御、具体的には力覚の通知に関する制御について説明する。まず、制御装置50における演算処理の流れを、図3を参照しながら説明し、その後に通知する内容について説明する。
制御装置50に電力が供給されると、制御装置50における演算処理が開始し、電力が供給されたタイミングからの時間がタイマカウンタにより計測される。図3に示すように、制御装置50は、タイマカウンタにより計測された時間が所定時間に達したか否かを判定する処理を行う(S11)。所定時間は、一例では、200msであってもよい。所定時間は、200msよりも長くても、短くてもよく、求められる仕様等に応じて適宜設定され得る。
タイマカウンタにより計測された時間が所定時間に達していないと判定された場合(S11:NOの場合)には、制御装置50は、再びS11の判定処理を行う。
タイマカウンタにより計測された時間が所定時間に達したと判定された場合(S11:YESの場合)には、制御装置50は、関節部13に働く外力を検出したか否かを判定する処理を行う(S12)。言い換えると、外力の測定信号である関節測定信号が関節センサ16から入力部51に入力されているか否かを判定する。なお、S12の処理が入力ステップの一例に相当する。
関節部13に働く外力を検出したと判定された場合(S12:YESの場合)には、制御装置50は、検出した外力をハンド操作部31に力覚として提示させる処理を行う(S13)。外力の大きさは、関節センサ16から出力される測定信号に基づいて、演算により算出される。
S13の処理において、制御装置50は、測定信号を出力した関節センサ16が設けられたスレーブ装置に対応するハンド操作部31に、検出された外力を力覚として提示させる処理を行う。例えば、測定信号を出力した関節センサ16が、第1スレーブ装置10Aのシャフト12Aに作用する外力を測定するセンサである場合には、第1スレーブ装置10Aの操作に用いられるハンド操作部31(具体的には、右手用操作部32または左手用操作部33)に、検出された外力を力覚として提示させる処理を行う。
また、また、S13においては、制御装置50は、関節センサ16からの測定信号に基づいて算出される外力の大きさに応じて、提示する力覚の強さを設定する処理を行う。対応するハンド操作部31は、制御装置50から入力される制御信号に基づいて、対応するスレーブ装置に作用する外力に応じた力覚を操作者に提示する。
S13の処理が終了すると、制御装置50は検出した外力を、視覚を用いて把握できる情報として提示する処理を行う(S14)。具体的には、その外力を表す情報を視覚情報として表示装置60に表示する処理を行う。まず、関節センサ16から入力された測定信号に基づいて算出される外力の大きさに応じた映像や画像を表す画像情報を生成する。画像情報を生成する処理の内容については後述する。生成された画像情報は表示装置60へ出力される。表示装置60は入力された画像情報に基づいて映像や画像を表示する。
S14の処理が終了すると、制御装置50は検出した外力を、聴覚を用いて把握できる情報として提示する処理を行う(S15)。具体的には、その外力を表す情報を聴覚情報として発音装置40から出力させる処理を行う。なお、S15の処理が音情報生成ステップ、出力ステップの一例に相当する。S15では、制御装置50は、関節センサ16から入力された測定信号に基づいて算出される外力の大きさに応じた音を表す通知音情報を生成する。通知音情報を生成する処理の内容については後述する。生成された通知音情報は発音装置40へ出力される。発音装置40は入力された通知音情報に基づいて音を発する。
S15の処理が終了すると、または、S12において関節部13に働く外力が検出されない場合(S12:NOの場合)には、制御装置50は、術具14に働く外力を検出したか否かを判定する処理を行う(S16)。言い換えると、制御装置50は、入力部51に術具センサ17から外力の測定信号である術具測定信号が入力されているか否かを判定する処理を行う。なお、S16の処理が、入力ステップの一例に相当する。
S16での処理において、術具14に働く外力を検出したと判定された場合(S16:YESの場合)には、制御装置50は、検出した外力を力覚として提示する制御信号を生成する処理を行う(S17)。検出された外力は、術具センサ17により測定された外力(具体的には、鉗子が対象を把持する力、または、剥離する力)の大きさである。外力の検出は、術具センサ17から出力される測定信号に基づいて算出されることにより行われる。
具体的には、S17で、制御装置50は、測定信号を出力した術具センサ17が設けられたスレーブ装置に対応するハンド操作部31に、検出された外力を力覚として提示させる処理を行う。また、制御装置50は、入力された測定信号に基づいて算出される外力の大きさに応じて、提示する力覚の強さを設定する処理を行う。対応するハンド操作部31は、制御装置50から出力される制御信号に基づいて、術具センサ17に作用する外力に応じた力覚を操作者に提示する。
S17の処理が終了すると、制御装置50は、検出した外力を、視覚を用いて把握できる情報として提示する処理を行う(S18)。まず、制御装置50は、術具センサ17から入力された測定信号に基づいて算出される外力の大きさに応じた映像や画像を表す画像情報を生成する。画像情報を生成する処理の内容については後述する。生成された画像情報は表示装置60へ出力される。表示装置60は入力された画像情報に基づいて映像や画像を表示する。
S18の処理が終了すると、制御装置50は、検出した外力を、聴覚を用いて把握できる情報として提示する処理を行う(S19)。S19は音情報生成ステップ、出力ステップの一例に相当する。まず、制御装置50は、術具センサ17から入力された測定信号に基づいて算出される外力の大きさに応じた音を表す通知音情報を生成する。通知音情報を生成する処理の内容については後述する。生成された通知音情報は発音装置40へ出力される。発音装置40は入力された通知音情報に基づいて音を発する。
S19の処理が終了すると、制御装置50はタイマカウンタを0にリセットする処理を行う(S20)。リセットの処理が終了すると、制御装置50はS11に戻り、上述の処理を繰り返し行う。例えば、少なくとも、手術支援ロボットシステム1による内視鏡外科手術の支援が行われている期間は、上述の処理が繰り返し行われる。
次に画像生成部53において生成される画像情報について説明する。具体的には、表示装置60における表示の態様について説明する。図4は、本実施形態の画像生成部53により生成された画像情報に基づいて、表示装置60が表示する画像の態様を説明する模式図である。
なお、内視鏡ユニット20により取得された映像または画像は、表示装置60とは別の表示機器に表示されてもよいし、表示装置60の表示領域のうち、図4に示す画像が表示される領域とは異なる領域に表示されてもよい。
画像生成部53は、表示装置60における表示面の所定の表示領域に提示する画像情報を生成する。画像情報は、関節センサ16、および、術具センサ17から制御装置50に入力される信号に基づいて、画像生成部53により生成される。
表示領域の中段中央には、内視鏡ユニット20に関する情報が表示される。例えば、内視鏡ユニット20により取得された映像または画像の傾きを表示するカメラ型の図形20Sが表示される。
表示領域の上段右半部では、手術支援ロボットシステム1の右側に配置されたスレーブユニット10、例えば第1スレーブ装置10Aに対応する関節センサ16、および、術具センサ17から入力される信号に基づいた表示が行われる。
表示領域の上段左半部では、手術支援ロボットシステム1の左側に配置されたスレーブユニット10、例えば第2スレーブ装置10Bに対応する関節センサ16、および、術具センサ17から入力される信号に基づいた表示が行われる。
次に、第1スレーブ装置10Aおよび第2スレーブ装置10Bに対応する関節センサ16により検出された外力を力覚として提示する際の表示態様について説明する。第1スレーブ装置10Aの関節センサ16により検出された外力を力覚として提示する際の表示態様と、第2スレーブ装置10Bの関節センサ16により検出された外力を力覚として提示する際の表示態様と、は同じである。
第1スレーブ装置10Aの関節センサ16により検出された外力は、表示領域の上段右半部の右側に円形の力覚表示図形16ASとして提示される。第2スレーブ装置10Bの関節センサ16により検出された外力は、表示領域の上段左半部の左側に円形の力覚表示図形16BSとして提示される。
例えば、関節センサ16により検出された外力の値が大きくなると、力覚表示図形16ASおよび力覚表示図形16BSの径が大きくなる。また、関節センサ16により検出された外力の値が小さくなると、力覚表示図形16ASおよび力覚表示図形16BSの径が小さくなる。
次に、第1スレーブ装置10Aおよび第2スレーブ装置10Bに対応する術具センサ17により検出された外力を力覚として提示する際の表示態様について説明する。なお、第1スレーブ装置10Aの術具センサ17により検出された外力を力覚として提示する際の表示態様と、第2スレーブ装置10Bの術具センサ17により検出された外力を力覚として提示する際の表示態様と、は同じである。
第1スレーブ装置10Aの術具センサ17により検出された外力は、表示領域の上段右半部の左側、言い換えると上段右半部の中央側に平行四辺形の力覚表示図形17ASとして提示される。第2スレーブ装置10Bの術具センサ17により検出された外力は、表示領域の上段左半部の右側、言い換えると上段左半部の中央側に平行四辺形の力覚表示図形17BSとして提示される。
例えば、術具センサ17により検出された外力の値が大きくなると、力覚表示図形17ASおよび力覚表示図形17BSの左右方向の長さが大きくなる。具体的には、力覚表示図形17ASおよび力覚表示図形17BSは、表示面の中央から左右方向へ延びる。
また、術具センサ17により検出された外力の値が小さくなると、力覚表示図形17ASおよび力覚表示図形17BSの左右方向の長さが小さくなる。具体的には、力覚表示図形17ASおよび力覚表示図形17BSは、表示面の中央に向かって縮む。
次に発音装置40から発せられる音について説明する。具体的には、通知音情報に基づいて発せられる音の態様について説明する。音情報生成部54は、発音装置40から発せられる音を表す情報である通知音情報を生成する。通知音情報は、関節センサ16、および、術具センサ17から入力される信号に基づいて音情報生成部54により生成される。
音情報生成部54は、入力された測定信号に基づいて算出される外力の大きさに応じた音を表す通知音情報を生成する処理を行う。通知音情報には、第1通知音の情報、第2通知音の情報、および、第3通知音の情報の少なくとも1つが含まれる。
音情報生成部54により生成された通知音情報は、出力部56を介して発音装置40に入力される。発音装置40は、入力された通知音情報に基づいて、第1通知音、第2通知音、および、第3通知音の少なくとも1つを発する。
第1スレーブ装置10Aの関節センサ16、および、術具センサ17による測定信号に基づいて発せられる第1通知音、第2通知音および第3通知音と、第2スレーブ装置10Bの関節センサ16、および、術具センサ17による測定信号に基づいて発せられる第1通知音、第2通知音および第3通知音とは、音色が異なっていてもよいし、同一であってもよい。音色が異なる場合には、第1スレーブ装置10Aについての通知音か、第2スレーブ装置10Bについての通知音か、の識別が容易になる。
また、関節センサ16による測定信号に基づいて発せられる第1通知音、第2通知音および第3通知音と、術具センサ17による測定信号に基づいて発せられる第1通知音、第2通知音および第3通知音とは、音色が異なっていてもよいし、同一であってもよい。音色を異なる場合には、関節センサ16についての通知音か、術具センサ17についての通知音か、の識別が容易になる。
第1通知音は、算出される外力の大きさが予め定められた第1閾値未満の場合に発せられる音である。第1通知音には、第1低音高の音と、第1低音高の音よりも音高が高く、かつ、第1低音高の音と協和する第1高音高の音とが少なくとも含まれる。
本実施形態では、第1低音高の音がドの音であり、第1高音高の音がシの音である第1通知音である。より具体的には、第1通知音がセブンスコードである。なお、第1通知音は、上述のようにセブンスコードであってもよいし、トライアドなど他の和音であってもよい。また、第1通知音に含まれる第1低音高の音と、第1低音高の音とは、完全協和音を構成する音程であってもよい。具体的には、第1通知音として、完全4度、完全5度、完全8度の音高の音が用いられてもよい。また、第1通知音に含まれる第1低音高の音と、第1低音高の音とは、不完全協和音を構成する音程であってもよい。具体的には、第1通知音として、短2度、長2度、短3度、長3度、短6度、長6度、短7度、長7度の音高の音が用いられてもよい。
第2通知音は、算出される外力の大きさが第1閾値以上、かつ、予め定められた第2閾値未満の場合に発せられる音である。第1閾値および第2閾値のそれぞれが所定の閾値の一例に相当する。第2通知音には、第2低音高の音と、第2低音高の音よりも音高が高く、かつ、第2低音高の音と協和する第2高音高の音の音とが少なくとも含まれる。第2低音高の音は、第1低音高の音よりも音高が高い音である。第2高音高の音は、第1高音高の音よりも音高が高い音である。
本実施形態では、第2低音高の音がファの音であり、第2高音高の音が1オクターブ上のミの音である第2通知音である。より具体的には、第2通知音がセブンスコードである。なお、第2通知音は、上述のようにセブンスコードであってもよいし、トライアドなど他の和音であってもよい。また、第2通知音に含まれる第2低音高の音と、第2低音高の音とは、完全協和音を構成する音程であってもよい。具体的には、第2通知音として、完全4度、完全5度、完全8度の音高の音が用いられてもよい。また、第2通知音に含まれる第2低音高の音と、第2低音高の音とは、不完全協和音を構成する音程であってもよい。具体的には、第2通知音として、短2度、長2度、短3度、長3度、短6度、長6度、短7度、長7度の音高の音が用いられてもよい。
第3通知音は、算出される外力の大きさが第2閾値以上の場合に発せられる音である。言い換えると、算出される外力の大きさが、予め想定された範囲を超えて異常が発生していると考えられる場合に発せられる音である。第3通知音には、第3低音高の音と、第3低音高よりも音高が高い第3高音高の音とが含まれる。また、第3低音高の音および第3高音高の音は不協和である。本実施形態では第3通知音が不協和音である。
また、第1閾値は、第2閾値よりも値が小さな閾値であり、算出される外力の大きさが比較的小さいときに発せられる第1通知音、および、算出される外力の大きさが比較的大きいときに発せられる第2通知音の切り替えに係る閾値である。第1閾値は値が予め定められた閾値であってもよいし、操作者などが任意に値を設定できる閾値であってもよい。
上記の構成の制御装置50および力覚通知方法によれば、術具14に働く外力の大きさに応じて、異なる音高であって協和する音を含む第1通知音または第2通知音が発せられる。具体的には、外力の大きさが小さい場合には第1通知音が発せられ、外力の大きさが大きい場合には第2通知音が発せられる。
第2通知音に含まれる第2高音高の音と第2低音高の音とのうち、少なくとも一方の音の高さは、第1通知音に含まれる第1高音高の音および第1低音高の音の高さと異なる。このため、例えば1つの音高の音から構成される音であって他の機器から発せられる音と識別がしやすい。つまり、力覚フィードバックに係る聴覚情報の誤認識を抑制しやすい。
また、第1通知音および第2通知音のそれぞれには協和する複数の音が含まれる。このため、第1通知音および第2通知音を聞いた者に耳障りな印象を与えにくい。つまり、操作者の集中力への悪影響を抑制しやすい。
第1通知音及び第2通知音の少なくとも一方は、2以上の異なる音高の音を含み、2以上の異なる音高の音は、互いに協和する音高の音である。これにより、第1通知音および第2通知音を聞いた者に耳障りな印象を与えにくい。つまり、操作者の集中力への悪影響を抑制しやすい。
第2低音高を第1低音高より音高を高くし、第2高音高を第1高音高より音高を高くすることにより、通知音を聞く者が、第1通知音と第2通知音との聞き分けをし易くなる。
第1高音高の音を第1低音高の音よりも7度上の音にし、第2高音高の音を第2低音高の音よりも7度上の音にすることにより、第1通知音および第2通知音を聞いた者に無機質な印象を与えやすい。そのため、例えば陰気な印象を与える通知音や、陽気な印象を与える通知音と比較して、操作者の集中力を乱す等の悪影響を与えにくい。
第3通知音を用いて外力の大きさが第2閾値以上であることを表すことにより、第3通知音を用いない場合と比較して、外力の大きさが第2閾値以上になったことを伝えやすい。
不協和である第3低音高の音および第3高音高の音を含む第3通知音を用いることにより、第3通知音を聞く者が耳障りな印象を感じやすくなる。そのため、第3通知音が発せられた際に、通知音を聞く者が第3通知音に気付きやすくなる。
切替部55が設けられていることにより、発音装置40における音の生成の許可と、音の生成の禁止(または停止)とを選択することが可能となる。つまり、操作者の好みに応じて聴覚による力覚フィードバックの有無を選択することができ、操作者の集中力への悪影響を抑制しやすい。
なお、第1通知音および第2通知音に含まれるそれぞれの音は、音の大きさが一定であってもよい。また第1通知音に含まれる音の1つ、および、第2通知音に含まれる音の1つの少なくとも一方について、音の大きさが繰り返し変化してもよい(言い換えると、ビブラートしてもよい)。例えば、第1低音高の音、および、第2低音高の音の大きさが一定であり、第1高音高の音、および、第2高音高の音の大きさが繰り返し変化してもよい。
第1通知音および第2通知音に含まれる音の1つについて、音の大きさを繰り返し変動させることにより、通知音を聞く者が、他の機器から発せられる音と、第1通知音および第2通知音と、の聞き分けを行いやすくなる。
また、第1通知音および第2通知音における音の大きさの繰り返し変動の速さは同じであってもよいし、異なっていてもよい。例えば、第1通知音における音の大きさの繰り返し変動の速さが比較的遅く、第2通知音における音の大きさの繰り返し変動の速さが比較的早くてもよい。
第1通知音および第2通知音の間で音の大きさの繰り返し変動の速さを異ならせることにより、通知音を聞く者が、第1通知音と第2通知音との聞き分けをし易くなる。このとき、第1通知音および第2通知音に含まれる音の音高が上述のように異なっていてもよいし、同じであってもよい。
第3通知音を、上述のように、第3低音高の音および第3低音高の音と不協和な第3高音高の音を含む音としてもよい。また、第3低音高の音と、第3低音高よりも音高が高い第3中音高の音と、第3中音高よりも音高が高い第3高音高の音とを少なくとも含み、第3低音高の音、第3中音高の音および第3高音高の音のうちの1つは、連続して発せられ、かつ、残りの2つが交互に発せられる音を第3通知音としてもよい。例えば、第3低音高の音である下のドの音が連続して発せられ、第3中音高の音であるシの音および第3高音高の音である上のドの音が交互に発せられる音を第3通知音としてもよい。
第3通知音の第3低音高の音、第3中音高の音、および、第3高音高の音のうちの1つが連続して発せられ、かつ、残りの2つが交互に発せられることにより、第3通知音を聞く者が耳障りな印象を感じやすくなる。そのため、第3通知音が発せられた際に、通知音を聞く者が第3通知音に気付きやすくなる。
また、本実施形態において、通知音情報には、第1通知音の情報、第2通知音の情報、および、第3通知音の情報の少なくとも1つが含まれる。さらに、発音装置40は、入力された通知音情報に基づいて、第1通知音、第2通知音、および、第3通知音の少なくとも1つを発する。
ここで、第1通知音は、第1低音高の音と、第1高音高の音を含み、第2通知音は、第2低音高の音と、第2高音高の音を含み、第3通知音は、第3低音高の音と、第3高音高の音を含む。すなわち、第1通知音、第2通知音及び第3通知音のそれぞれには、複数の音が含まれる。
ここで、第1通知音、第2通知音及び第3通知音のそれぞれに含まれる音高の異なる音は、作用力の大きさに応じた異なる音高の数の音が発せられるように構成されてもよい。
具体的には、作用力の大きさが第1閾値未満である場合に発せられる第1通知音において、当該第1通知音を構成する音の数が、作用力の大きさが大きくなるにしたがって多くなるように構成されてもよい。すなわち、作用力の大きさが第1閾値未満の一定以上の大きさになった場合に、第1低音高の音と第1高音高の音とを有する第1通知音に、第1低音高の音及び第1高音高の音とは異なる音高の音が更に追加され、第1通知音に3つの異なる音高の音が含まれるように構成されてもよい。さらに作用力の大きさが大きくなり、一定以上の大きさになった場合に、第1通知音に含まれている音高の音とは異なる音高の音が更に追加され、第1通知音に4つの異なる音高の音が含まれるように構成されてもよい。
このような構成によれば、作用力の大きさの違いをより細かく認識することができる。具体的には、第1閾値未満の大きさの作用力が加わった際に、加わった作用力の大きさを第1通知音に含まれる異なる音高の音の数により認識させることができる。
なお、第1通知音に含まれる異なる音高の音の数としては3つの場合及び4つの場合について記載したが、第1通知音を構成する異なる音高の音の数は5以上であってもよい。
同様に、作用力の大きさが第1閾値以上第2閾値未満である場合に発せられる第2通知音において、当該第2通知音に含まれる音の数が、作用力の大きさが大きくなるにしたがって多くなるように構成されてもよい。すなわち、作用力の大きさが第1閾値以上第2閾値未満の一定以上の大きさになった場合に、第2低音高の音と第2高音高の音とが含まれる第2通知音に、第2低音高の音及び第2高音高の音とは異なる音高の音が更に追加され、第2通知音に3つの異なる音高の音が含まれる構成されてもよい。さらに作用力の大きさが大きくなり、一定以上の大きさになった場合に、第2通知音に含まれている音と異なる音高の音が更に追加され、第2通知音に4つの異なる音高の音が含まれるように構成されてもよい。
このような構成によれば、作用力の大きさの違いをより細かく認識することができる。具体的には、第1閾値以上第2閾値未満の大きさの作用力が加わった際に、加わった作用力の大きさを第2通知音に含まれる異なる音高の音の数により認識させることができる。
同様に、作用力の大きさが第2閾値以上である場合に発せられる第3通知音において、当該第3通知音に含まれる音の数が、作用力の大きさが大きくなるにしたがって多くなるように構成されてもよい。すなわち、作用力の大きさが第2閾値以上の一定以上の大きさになった場合に、第3低音高の音と第3高音高の音とが含まれる第3通知音に、第3低音高の音及び第3高音高の音とは異なる音高の音が更に追加され、第3通知音に3つの異なる音高の音が含まれるように構成されてもよい。さらに、作用力の大きさが大きくなり、一定以上の大きさになった場合に、第3通知音に含まれている音と異なる音高の音が更に追加され、第3通知音に4つの異なる音高の音を含むように構成されてもよい。
このような構成によれば、作用力の大きさの違いをより細かく認識することができる。具体的には、第2閾値以上の大きさの作用力が加わった際に、加わった作用力の大きさを第3通知音に含まれる音高の音の数により認識させることができる。
例えば、作用力の大きさが第2閾値を大きく上回り、第3通知音に含まれる異なる音高の音の数が多くなることにより、異常の程度が大きいことを認識させることができる。
また、第1通知音、第2通知音及び第3通知音に含まれる、複数の音の組み合わせが複数存在していてもよい。第1通知音を例にして説明すると、第1低音高の音と、第1高音高の音との組み合わせとは別の、異なる2つ以上の音高の音の組み合わせが第1通知音に含まれてもよい。当該、別の異なる2つ以上の音高の音の組み合わせは、互いに協和する音高の組み合わせであってもよい。具体的には、別の異なる2つ以上の音高の音の組み合わせは、セブンスコードであってもよいし、トライアドなど他の和音であってもよい。
ここで、第1通知音、第2通知音及び第3通知音に含まれる、異なる2つ以上の音高の音の、複数の組み合わせのそれぞれは、作用力の大きさに対応付けられてもよい。
すなわち、第1通知音に、異なる2つ以上の音高の音の組み合わせが複数含まれ、当該複数の組み合わせの1つを第1の組み合わせ、第1の組み合わせとは異なる組み合わせの音を第2の組み合わせとした場合に、第1閾値未満の所定の大きさ未満の作用力が生じている場合に、第1の組み合わせの音が第1通知音として発せられ、第1閾値未満の所定の大きさ以上の作用力が生じている場合に、第2の組み合わせの音が第1通知音として発せられてもよい。
なお、第1通知音に含まれる複数の組み合わせは、第1の組み合わせ及び第2の組み合わせに限定されるものではなく、3以上の組み合わせが設定されてもよい。
さらに、作用力の大きさが大きくなるにしたがって、より不協和と感じる音の組み合わせが第1通知音として発せられるように構成されてもよい。例えば、作用力の強さが大きくなるにしたがって、第1通知音に含まれる音の組み合わせが、協和音を含む音の組み合わせから、不協和となる音の組み合わせへと変更されるように構成されてもよい。また、作用力の強さが大きくなるにしたがって、第1通知音に含まれる音の組み合わせが、完全協和音の組み合わせ、不完全協和音の組み合わせ、協和音以外の音の組み合わせとなるように組み合わせが変更されてもよい。
第2通知音に、異なる2つ以上の音高の音の組み合わせが複数含まれ、当該複数の組み合わせの1つを第1の組み合わせ、第1の組み合わせとは異なる組み合わせの音を第2の組み合わせとした場合に、第1閾値以上第2閾値未満の所定の大きさ未満の作用力が生じている場合に、第1の組み合わせの音が第2通知音として発せられ、第1閾値以上第2閾値未満の所定の大きさ以上の作用力が生じている場合に、第2の組み合わせの音が第2通知音として発せられてもよい。
なお、第2通知音に含まれる複数の組み合わせは、第1の組み合わせ及び第2の組み合わせに限定されるものではなく、3以上の組み合わせが設定されてもよい。
さらに、作用力の大きさが大きくなるにしたがって、より不協和と感じる音の組み合わせが第2通知音として発せられるように構成されてもよい。例えば、作用力の強さが大きくなるにしたがって、第2通知音に含まれる音の組み合わせが、協和音を含む音の組み合わせから、不協和となる音の組み合わせへと変更されるように構成されてもよい。また、作用力の強さが大きくなるにしたがって、第2通知音に含まれる音の組み合わせが、完全協和音の組み合わせ、不完全協和音の組み合わせ、協和音以外の音の組み合わせとなるように組み合わせが変更されてもよい。
第3通知音に、異なる2つ以上の音高の音の組み合わせが複数含まれ、当該複数の組み合わせの1つを第1の組み合わせ、第1の組み合わせとは異なる組み合わせの音を第2の組み合わせとした場合に、第2閾値以上の所定の大きさ未満の作用力が生じている場合に、第1の組み合わせの音が第3通知音として発せられ、第2閾値以上の所定の大きさ以上の作用力が生じている場合に、第2の組み合わせの音が第3通知音として発せられてもよい。
なお、第2通知音に含まれる複数の組み合わせは、第1の組み合わせ及び第2の組み合わせに限定されるものではなく、3以上の組み合わせが設定されてもよい。
さらに、作用力の大きさが大きくなるにしたがって、より不協和と感じる音の組み合わせが第3通知音として発せられるように構成されてもよい。例えば、力の強さが大きくなるにしたがって、第3通知音に含まれる、協和音以外の音の数が多くなる組み合わせとなるように組み合わせが変更されてもよい。
さらに、本実施形態では、作用力の大きさが小さい場合に発せられる第1通知音と、作用力の大きさが大きい場合に発せられる第2通知音と、作用力の大きさが、予め想定された範囲を超えて異常が発生していると考えられる場合に発せられる第3通知音とを含む。
ここで、第1通知音及び第2通知音の音の音量の大小は作用力の大きさに応じた大きさとなるように構成されてもよい。
具体的には、作用力の大きさが第1閾値未満である場合に発せられる第1通知音の音量が、作用力の大きさが大きくなるにしたがって大きくなるように構成されてもよい。
また、作用力の大きさが第1閾値以上第2閾値未満である場合に、発せられる第2通知音の音量が、作用力の大きさが大きくなるにしたがって大きくなるように構成されてもよい。
このような構成によれば、作用力の大きさの違いをより細かく認識することができる。具体的には、第1閾値又は第2閾値よりも小さい大きさの作用力が加わった際に、加わった作用力の大きさを音量の大小により認識させることができる。
さらに、第3通知音の音の強弱、言い換えると、音量の大小は作用力の大きさに応じた大きさとなるように構成されてもよい。
このような構成によれば、作用力の大きさが予め想定された範囲を超えて異常が発生していると考えられる場合、すなわち、作用力の大きさが第2閾値以上である場合において、作用力の大きさが異常である程度を、音量の大小により認識させることができる。
例えば、作用力の大きさが第2閾値を大きく上回り、比較的大きい第3通知音が発せられることにより、異常の程度が大きいことを認識させることができる。
また、上記それぞれの機能を有する第1通知音、第2通知音及び第3通知音以外の通知音である、第4通知音をさらに備えていてもよい。同様に第5通知音以降の通知音を有していてもよい。
本実施形態においては、第1高音高の音は、第1低音高の音と協和し、第2高音高の音は、第2低音高の音と協和する。
しかしながら、第1高音高の音は、第1低音高の音と協和し、第2高音高の音は、第2低音高の音と協和するものに限定されるものではない。例えば、第1高音高の音は、第1低音高の音と協和しない、すなわち、不協和であってもよく、第2高音高の音は、第2低音高の音と協和しない、すなわち、不協和であってもよい。
なお、本開示の技術範囲は上記実施形態に限定されるものではなく、本開示の趣旨を逸脱しない範囲において種々の変更を加えることが可能である。例えば、本開示を上記の第1通知音、第2通知音および第3通知音の各態様に適用したものに限られることなく、これらの態様を適宜組み合わせてもよく、特に限定されるものではない。

Claims (13)

  1. 力覚通知装置であって、
    該力覚通知装置は、手術に用いられる術具に働く作用力の大きさを操作者に通知するように構成される装置であり、
    前記術具に働く作用力の大きさを表す測定信号が入力される信号入力部と、
    第1低音高の音と、前記第1低音高の音よりも音高が高い第1高音高の音とを少なくとも含む第1通知音、並びに、第2低音高の音と、前記第2低音高の音よりも音高が高い第2高音高の音とを少なくとも含み、前記第2低音高の音および前記第2高音高の音の少なくとも一方が、前記第1低音高の音および前記第1高音高の音と音高が異なる、第2通知音を少なくとも用いて前記作用力の大きさを表す通知音情報を前記測定信号に基づいて作成する音情報生成部と、
    前記音情報生成部により生成された前記通知音情報を、該通知音情報に基づいて音を発する発音部に出力する通知音出力部と、
    を備える力覚通知装置。
  2. 前記第1高音高の音は、前記第1低音高の音と協和する、請求項1に記載の力覚通知装置。
  3. 前記第2高音高の音は、前記第2低音高の音と協和する、請求項1または請求項2に記載の力覚通知装置。
  4. 前記第1通知音及び前記第2通知音の少なくとも一方は、2以上の異なる音高の音を含み、前記2以上の異なる音高の音は、互いに協和する音高の音である請求項1から請求項3までのいずれか1項に記載の力覚通知装置。
  5. 前記第2低音高の音は前記第1低音高の音よりも音高が高く、前記第2高音高の音は前記第1高音高の音よりも音高が高い請求項1から請求項4までのいずれか1項に記載の力覚通知装置。
  6. 前記第1低音高の音および前記第2低音高の音は音の大きさが繰り返し変動する、または、前記第1高音高の音および前記第2高音高の音は音の大きさが繰り返し変動する請求項1から請求項5までのいずれか1項に記載の力覚通知装置。
  7. 前記第2通知音における音の大きさの繰り返し変動の速さは、前記第1通知音における音の大きさの繰り返し変動の速さと異なる請求項6に記載の力覚通知装置。
  8. 前記第1高音高の音および前記第2高音高の音は、それぞれ前記第1低音高の音および前記第2低音高の音よりも音高が7度上の音である請求項1から7のいずれか1項に記載の力覚通知装置。
  9. 前記音情報生成部は、前記作用力の大きさが所定の閾値以上の場合には、前記第1通知音および前記第2通知音とは異なる第3通知音を用いて前記作用力の大きさが前記所定の閾値以上であることを表す前記通知音情報を作成する請求項1から8のいずれか1項に記載の力覚通知装置。
  10. 前記第3通知音には、第3低音高の音と、前記第3低音高よりも音高が高い第3高音高の音とが含まれ、
    前記第3低音高の音および前記第3高音高の音は不協和である請求項9に記載の力覚通知装置。
  11. 前記第3通知音には、第3低音高の音と、前記第3低音高よりも音高が高い第3中音高の音と、前記第3中音高よりも音高が高い第3高音高の音と、が少なくとも含まれ、
    前記第3低音高の音、前記第3中音高の音、および、前記第3高音高の音のうちの1つを連続して発し、かつ、残りの2つを交互に発する、請求項9に記載の力覚通知装置。
  12. 前記発音部における音の生成を許可および禁止する切替部が追加的に設けられている請求項1から請求項11までのいずれか1項に記載の力覚通知装置。
  13. 手術に用いられる術具に働く作用力の大きさを操作者に知覚可能に通知する方法であって、
    前記術具に働く作用力の大きさを表す測定信号が入力される信号入力ステップと、
    第1低音高の音と、前記第1低音高の音よりも音高が高い、第1高音高の音とを少なくとも含む第1通知音、並びに、第2低音高の音と、前記第2低音高の音よりも音高が高い、第2高音高の音とを少なくとも含み、前記第2低音高の音および前記第2高音高の音の少なくとも一方が、前記第1低音高の音および前記第1高音高の音と異なる第2通知音を少なくとも用いて前記作用力の大きさを表す通知音情報を前記測定信号に基づいて作成する音情報生成ステップと、
    前記音情報生成ステップにより生成された前記通知音情報を、該通知音情報に基づいて音を発する発音部に出力する通知音出力ステップと、
    を有する力覚通知方法。
JP2021530237A 2021-03-23 2021-03-23 力覚通知装置および力覚通知方法 Active JP6947465B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/012009 WO2022201312A1 (ja) 2021-03-23 2021-03-23 力覚通知装置および力覚通知方法

Publications (2)

Publication Number Publication Date
JP6947465B1 true JP6947465B1 (ja) 2021-10-13
JPWO2022201312A1 JPWO2022201312A1 (ja) 2022-09-29

Family

ID=78001283

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021530237A Active JP6947465B1 (ja) 2021-03-23 2021-03-23 力覚通知装置および力覚通知方法

Country Status (5)

Country Link
US (1) US20240008937A1 (ja)
EP (1) EP4316407A1 (ja)
JP (1) JP6947465B1 (ja)
CN (1) CN117042716A (ja)
WO (1) WO2022201312A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0775993A (ja) * 1993-09-10 1995-03-20 Olympus Optical Co Ltd 操作状況報知装置
JP2019084360A (ja) * 2017-11-08 2019-06-06 バイオセンス・ウエブスター・(イスラエル)・リミテッドBiosense Webster (Israel), Ltd. 医療システムで聴覚誘導を提供するためのシステム及び方法
CN211409357U (zh) * 2019-12-31 2020-09-04 上海交通大学医学院附属第九人民医院 一种用于手术机器人的力信息反馈视听装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06142114A (ja) * 1992-10-30 1994-05-24 Olympus Optical Co Ltd 体腔内処置装置
JPH07184923A (ja) * 1993-12-28 1995-07-25 Hitachi Ltd 遠隔微細手術支援装置
US7831292B2 (en) * 2002-03-06 2010-11-09 Mako Surgical Corp. Guidance system and method for surgical procedures with improved feedback
CN1713131A (zh) * 2004-06-14 2005-12-28 乐金电子(天津)电器有限公司 多种音发生装置及其方法
WO2012018821A2 (en) * 2010-08-02 2012-02-09 The Johns Hopkins University Method for presenting force sensor information using cooperative robot control and audio feedback
US11072077B2 (en) * 2015-12-07 2021-07-27 Kawasaki Jukogyo Kabushiki Kaisha Robot system and operation method thereof
JP6801897B2 (ja) * 2019-03-15 2020-12-16 リバーフィールド株式会社 力覚表示装置および力覚表示方法
CN111265310B (zh) * 2020-02-27 2021-10-22 首都医科大学附属北京地坛医院 一种医用手术防针刺保护系统
CN111714164B (zh) * 2020-06-19 2022-03-01 上海交通大学 用于微创手术的触觉感知装置及其使用方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0775993A (ja) * 1993-09-10 1995-03-20 Olympus Optical Co Ltd 操作状況報知装置
JP2019084360A (ja) * 2017-11-08 2019-06-06 バイオセンス・ウエブスター・(イスラエル)・リミテッドBiosense Webster (Israel), Ltd. 医療システムで聴覚誘導を提供するためのシステム及び方法
CN211409357U (zh) * 2019-12-31 2020-09-04 上海交通大学医学院附属第九人民医院 一种用于手术机器人的力信息反馈视听装置

Also Published As

Publication number Publication date
JPWO2022201312A1 (ja) 2022-09-29
EP4316407A1 (en) 2024-02-07
US20240008937A1 (en) 2024-01-11
WO2022201312A1 (ja) 2022-09-29
CN117042716A (zh) 2023-11-10

Similar Documents

Publication Publication Date Title
Parseihian et al. Comparison and evaluation of sonification strategies for guidance tasks
US20060125659A1 (en) Text input method and apparatus using bio-signals
US20210043177A1 (en) Input device with a variable tensioned joystick with travel distance for operating a musical instrument, and a method of use thereof
Roodaki et al. Sonifeye: Sonification of visual information using physical modeling sound synthesis
WO2020189120A1 (ja) 力覚表示装置および力覚表示方法
JP6947465B1 (ja) 力覚通知装置および力覚通知方法
JPH0723978A (ja) 医療システムの制御装置
CN211409357U (zh) 一种用于手术机器人的力信息反馈视听装置
JP4586525B2 (ja) バーチャルドラム装置
JP2007075350A (ja) 電子ディスプレイ視野計
KR20010076489A (ko) 센서를 이용한 가상 연주장치 및 그 방법
Matinfar et al. Surgical soundtracks: Towards automatic musical augmentation of surgical procedures
US7081577B2 (en) Electronic metronome
WO2020189110A1 (ja) 医用ロボットシステムの力覚表示装置および力覚表示方法
JPH11219100A (ja) 医用シミュレータシステム
JP4492446B2 (ja) 同時に操作可能な演奏操作子の位置関係を計測する計測装置およびプログラム
WO2016136127A1 (ja) 表示装置、表示方法およびプログラム
JP4813097B2 (ja) 手術装置
JP2006145681A (ja) 鍵盤楽器支援装置及び鍵盤楽器支援システム
Matinfar et al. Surgical soundtracks: Automatic acoustic augmentation of surgical procedures
Talbot et al. On the audio representation of distance for blind users
US20040144240A1 (en) Sound-scale generation device and time-announcing clock
CN110022752B (zh) 信息提示系统
Vickers et al. The use of audio in minimal access surgery
Massimino et al. Using auditory and tactile displays for force feedback

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210527

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210831

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210909

R150 Certificate of patent or registration of utility model

Ref document number: 6947465

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350