JP6607506B2 - 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム - Google Patents

情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム Download PDF

Info

Publication number
JP6607506B2
JP6607506B2 JP2017025088A JP2017025088A JP6607506B2 JP 6607506 B2 JP6607506 B2 JP 6607506B2 JP 2017025088 A JP2017025088 A JP 2017025088A JP 2017025088 A JP2017025088 A JP 2017025088A JP 6607506 B2 JP6607506 B2 JP 6607506B2
Authority
JP
Japan
Prior art keywords
data
user
glass
information
voice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017025088A
Other languages
English (en)
Other versions
JP2018132889A (ja
JP2018132889A5 (ja
Inventor
浩平 田仲
Original Assignee
浩平 田仲
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 浩平 田仲 filed Critical 浩平 田仲
Priority to JP2017025088A priority Critical patent/JP6607506B2/ja
Priority to PCT/JP2018/005132 priority patent/WO2018151174A1/ja
Publication of JP2018132889A publication Critical patent/JP2018132889A/ja
Publication of JP2018132889A5 publication Critical patent/JP2018132889A5/ja
Application granted granted Critical
Publication of JP6607506B2 publication Critical patent/JP6607506B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/22Social work or social welfare, e.g. community support activities or counselling services

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Human Computer Interaction (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Primary Health Care (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Epidemiology (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • User Interface Of Digital Computer (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Description

本発明は、医療従事者であるユーザに、業務遂行に必要な情報を提供するものである。
医療現場では、状況に応じて異なる業務が遂行されるとともに、多種多様な機具等が使用されている。また、緊迫した状況であったり、急を要する状況であることが多い。さらに、医療現場は、人の命にも係る業務を行うこともあるため、作業のミス等が起こらないように十分注意する必要もある。
しかしながら、全ての状況、機具等を把握し、緊迫した状況でミスなく業務を遂行することは医療従事者にも相当な心理負担を要する。一方、各機具の操作等を、その都度作業を中断し、確認しながら業務を遂行することは業務に要する時間が多くなり好ましくない。
従来、医療業務を支援するシステムが多く開発されている(例えば、特許文献1及び2)。しかしながら、特許文献1で記載される技術は、手術前カンファレンスで利用されるものであり、業務中に必要な情報を確認するものではない。また、特許文献2で記載される技術は、
特開2016−151792号公報 特開2016−181131号公報
上述したように、従来、医療業務の遂行中に、必要な操作等を作業の中断をすることなく確認することはできなかった。
上記課題に鑑み、本発明は、医療業務の遂行中に、必要な操作等を作業の中断をすることなく確認することのできる情報提供システム、情報提供装置、情報提供方法及び情報提供プログラムに関する。
上記課題を解決するために、本発明の一態様に係る情報提供システムは、ユーザに装着され、ユーザが発した音声を取得する音声取得手段と、当該音声取得手段が取得した音声で特定されるリクエストデータを送信する第1送信手段と、ユーザへの提示データを受信する第1受信手段と、第1受信手段が受信した提示データを少なくともユーザの片目で視認可能に表示する表示手段と、を有するグラス、及び、グラスから送信されたリクエストデータを受信する第2受信手段と、各リクエストに対応する提示データを記憶する提示データ記憶手段から、第2受信手段が受信したリクエストデータに応じてグラスに提供する提示データを抽出する抽出手段と、抽出手段で抽出された提示データを送信する第2送信手段と、を有する情報提供装置を備える。
本発明の一態様に係る情報提供システム、情報提供装置、情報提供方法及び情報提供プログラムは、医療業務の遂行中に、必要な操作等を作業の中断をすることなく確認することができる。
本発明の一実施形態に係る情報提供システムである。 情報提供システムのグラスで表示されるリストデータの一例である。 情報提供システムのグラスで表示されるリストデータの他の例である。 情報提供システムのグラスで表示されるリストデータの他の例である。 情報提供システムのグラスで表示される提示データの一例である。 情報提供システムのグラスで表示される提示データの他の例である。 情報提供システムのグラスで表示される提示データの他の例である。 情報提供システムにおける処理の流れを説明するシーケンス図である。 情報提供システムのグラスで表示される結果データの一例である。 情報提供システムのグラスで表示される結果データの他の例である。
以下に、図面を用いて本発明の実施形態に係る情報提供システムについて説明する。実施形態に係る情報提供システムは、医療現場において、医師、看護師、医療機器管理者等の医療従事者であるユーザに、必要な情報を提供するものである。具体的には、情報提供システムでは、ユーザが装着するグラスに、医療現場で必要な情報を表示する。ユーザは、このグラスを装着し、必要な情報を確認しながら業務を遂行することで、業務を滞りなく進めることができる。
例えば、ユーザは、医療機器等の操作手順等の説明をグラスに表示される画像や文字等で見ることができる。また、ユーザは、医療機器の操作手順等の説明を音声で聞くことができる。したがって、ユーザは、例えば、医療機器の使用が初めてである場合であっても、操作手順等を容易に確認することができる。
図1に示すように、情報提供システム1は、ユーザに装着されるグラス2と、グラスにユーザが必要な情報を提供する情報提供装置3とを備える。グラス2と、情報提供装置3とは、ネットワーク4を介して接続される。なお、図1では、グラス2は、1台のみしか示していないが、情報提供システム1が有するグラス2の数は限定されない。すなわち、医療現場では、医療従事者であるユーザが複数存在する。したがって、複数のグラス2を有し、複数のユーザがそれぞれ同時にグラス2を使用可能とすることが好ましい。
《グラス》
グラス2は、スマートグラス、ヘッドマウントディスプレイ等の眼鏡型のウェアラブルコンピュータである。グラス2は、例えば、ユーザの頭部において眼を覆うように装着され、視覚を遮らないレンズを有する。このとき、グラス2のレンズは、少なくとも片目の前に配置されていればよい。言い換えれば、装着時に安定性があれば、片目用眼鏡のようなグラスであってもよい。また、グラス2は、ユーザが業務遂行時に装着するものである。具体的には、ユーザは、上下を向いたり、横を向く等の作業をしながら利用する。したがって、作業中に装着するグラス2が落下することない等、装着の安定性があることが好ましい。加えて、作業の妨げにならないよう、軽量であり、かつ、装着による違和感のないことが好ましい。なお、ここでは、グラス2の構造について図示を用いた説明を省略する。
図1に示すように、グラス2は、音声取得手段21、画像取得手段22、第1送信手段23、第1受信手段24、表示手段25及び音声出力手段26を備える。また、グラス2は、温度センサ27、湿度センサ28及び気圧センサ29を備えてもよい。
音声取得手段21は、グラスを装着するユーザが発した音声を取得する。例えば、音声取得手段21は、マイクである。また例えば、音声取得手段21は、マイクで取得した音声から特定の信号を抽出する抽出機能である。
音声取得手段21が取得する音声は、例えば、グラス2における起動開始終了の操作、情報の表示位置や表示サイズ変更の操作、出力音声の音量変更の操作等の各操作を実行するための操作信号である。また、音声は、情報提供装置3にリクエストする情報を特定するデータである。具体的には、機具の操作手順をリクエストする場合、音声は、どの機具の操作に関する情報をリクエストするのか、どのような操作に関する情報をリクエストするのかを特定する。ここで、機具は、医療機器等、ユーザが使用する種々の機械や器具等である。
また例えば、音声取得手段21が、「AI(エーアイ)」という音声を取得することで、情報提供システム1では『AIモード』が起動されてもよい。『AIモード』は、ユーザによる機具の操作等が正確にされているか否かを、人工知能を利用して判定させるモードである。『AIモード』を利用することで、機具の操作や取り付けなど手技に自信の無いユーザは、判断に困った場合、人工知能にアドバイスを求めることができる。さらに、音声取得手段21が「ヘルプ」という音声を取得することで、情報提供システム1では『ヘルプモード』が起動されてもよい。『ヘルプモード』は、ユーザが機具の操作等について不明な場合、正確な操作を確認するためのモードである。
画像取得手段22は、ユーザがグラス2のレンズを通して視認可能な範囲に存在する医療機器等の特定の機具の画像データを取得する。例えば、画像取得手段22は、カメラである。情報提供システム1では、『AIモード』が起動されると、この画像取得手段22で取得された画像を利用して、画像に含まれる機具の状態が、適切な操作方法で操作されているか等の判定結果がフィードバックされる。
ここで、画像取得手段22は、特定の機具を含む画像を送信対象として取得する必要がある。ここで、画像取得手段22は、送信対象の画像を判定することができない。したがって、例えば、画像取得手段22は、特定の識別情報が付された機具の画像データを第1送信手段23による送信対象として取得する。具体的には、特定のマークやQRコード(登録商標)等の識別情報が付された機具の画像データを送信対象として取得する。
第1送信手段23は、情報提供装置3にネットワーク4を介して情報を送信する。具体的には、音声取得手段21が取得した音声で特定されるリクエストデータを、情報提供装置3に送信する。このリクエストデータは、ユーザが確認したい情報をリクエストするデータである。例えば、情報提供装置3が提供可能な情報のリストをリクエストするデータである。また例えば、特定の機具の操作手順の説明に関する情報をリクエストするデータである。加えて、第1送信手段23は、『AIモード』が起動されるとAIモード起動のリクエストデータを送信し、『ヘルプモード』が起動されるとヘルプモード起動のリクエストデータを送信する。
また、第1送信手段23は、画像取得手段22が取得した画像データを、情報提供装置3に送信する。
第1受信手段24は、ネットワーク4を介して情報提供装置3から送信される情報を受信する。具体的には、第1受信手段24は、ユーザへの提示データを受信する。この提示データは、例えば、ユーザに作業の手順を提示するものである。また、第1受信手段24は、第1送信手段23が送信した画像データを利用して情報提供装置3で判定された結果データを受信する。第1受信手段24が情報提供装置3から受信するデータは、画像データや音声データを含むことができる。
表示手段25は、ユーザに視認可能に画像や文字等のデータを表示する。例えば、表示手段25は、プリズム等を利用してデータをグラスの内側、言い換えると、ユーザの顔側に表示する。具体的には、表示手段25は、第1受信手段24が受信した提示データに含まれる画像や文字等のデータを表示する。また、表示手段25は、第1受信手段24が受信した結果データに含まれる画像や文字等のデータを表示する。さらに、表示手段25は、『AIモード』の起動中には人工知能によってされた判定結果を表示することができる。また、表示手段25は、『ヘルプモード』の起動中にはユーザが求める情報のデータを表示することができる。
ここで、表示手段25は少なくともユーザの片目で視認可能にデータを表示すればよい。すなわち、グラス2は、業務遂行中のユーザに装着される。したがって、両目で視認されるようにデータを表示すると、ユーザの業務の妨げになる恐れがある。また、両目で視認されるように表示すると、脳が混乱する恐れがある。したがって、特にユーザが歩行中や、作業中には片目のみに表示することで、別の目では環境情報を視認可能とすることができる。逆に、ユーザが静止状態や希望する際には両目に表示することで、ユーザ提示データに集中することができる。
また、表示手段25は、ユーザの視界の中心部以外にデータを表示可能であることが好ましい。これにより、表示手段25によるデータの表示がユーザの業務の妨げとなるのを防止することができる。
さらに、表示手段25によって表示されるデータの位置を切り替え可能であることが好ましい。ユーザにより、または、作業内容により、好ましいデータの表示位置が異なることがある。例えば、右利きのユーザであり、右側に操作対象の機具がある場合、左側にデータが表示された方が、表示されるデータが業務の妨げとなる恐れが少ないことがある。一方、左利きのユーザであり、左側に操作対象の機具がある場合、右側にデータが表示された方が、表示されるデータが業務の妨げとなる恐れが少ないことがある。例えば、表示手段25は、音声取得手段21によって取得した音声に応じて提示データの表示位置を切り替え可能とすることができる。
音声出力手段26は、種々の音声データを出力する。例えば、音声出力手段26は、スピーカである。具体的には、音声出力手段26は、提示データに含まれる音声を出力する。また例えば、音声出力手段26は、結果データに含まれる音声を出力する。
温度センサ27は、グラス2の周囲環境の温度を計測する。湿度センサ28は、グラス2の周囲環境の湿度を計測する。気圧センサ29は、グラス2の周囲環境の気圧を計測する。機具の操作や取り付けには、温度、湿度、気圧等の値が必要なことがある。具体的には、人工呼吸器等は、細い管に高速でガスを流すため、ガスの膨張率やガスの流れに温度、湿度、気圧が影響を与える。
また、機具の修理、点検整備、精度管理等の保守管理に利用する場合、温度、湿度、気圧等の把握が重要になる。具体的には、温度や湿度の影響により金属が歪むことがある。したがって、表示手段25に温度センサ27、湿度センサ28、気圧センサ29等で計測した値を表示し、ユーザが確認可能とすることで、安全な機具の操作等を行うことができる。
なお、図示を用いた説明は省略するが、グラス2が記憶装置を有するとき、各センサ27〜29で記憶される値を記憶してもよい。例えば、ユーザが、「レコード(record)」等と音声を発すると、各センサ27〜29で計測される値を記憶装置に記憶する。このとき、各センサ27〜29で計測される値と共にその時刻を記憶装置に記憶してもよい。または、各センサ27〜29で計測される値と共に、画像取得手段22で取得した画像データを記憶装置に記憶してもよい。時刻や画像と共に記憶することで、記憶される各センサ27〜29で計測された値がどの作業の際に計測された値であるかを確認することができる。また、画像と共に、各センサ27〜29で計測された値を記憶することで、その機具の操作方法や保守点検時の修理方法等の適正について、後に計測値と画像を利用して判断することもできる。
なお、図1では示していないが、時刻を管理する時計や計時機能を有するタイマーを備えてもよい。時計から取得する時刻を表示することで、ユーザは、時刻を確認することができる。また、タイマーを利用して計時する時間を表示可能とすることで、ユーザは、操作時間や保守作業時間等の管理をすることができる。このとき、時刻等は常に表示する必要はなく、ユーザによって音声等でリクエストされたタイミングで表示すればよい。
《情報提供装置》
情報提供装置3は、リクエストに応じてグラス2にデータを送信し、ユーザに必要な情報を提供する装置である。具体的には、情報提供装置3は、機具の操作手順等に関する情報を提供する。図1に示すように、情報提供装置3は、第2受信手段301、抽出手段302、判定手段303及び第2送信手段304を有する。
この情報提供装置3は、中央処理装置(CPU)30、記憶装置31、通信インタフェース(通信I/F)32等を備える情報処理装置やサーバ装置等で実現することができる。なお、情報提供装置3は、医療現場内外のいずれに設置されていてもよい。
例えば、記憶装置31に記憶される情報提供プログラムPが実行されることで、CPU30が、情報提供装置3としての処理を実行する。
なお、記憶装置31は、情報提供プログラムPに加え、リストデータ311、提示データ312及び判定データ313を記憶してもよい。
リストデータ311は、情報提供装置3がグラス2に提供するデータである。記憶装置31は、識別情報に関連付けられるリストデータ311を複数記憶する。また、各リストデータ311は、他のリストをリクエストする情報や、提示データをリクエストする情報を含む。
記憶装置31は、例えば、識別情報と関連付けて、図2に示すようなリストを含むリストデータ311を記憶する。図2に示す例は、「1.アネロイド式血圧計」、「2.シリンジポンプ」「3.輸液ポンプ」、「4.電子式体温計」等の機具に関する識別情報を含むリストである。なお、図2は、リストデータ311をグラス2で表示した場合にユーザに視認される一例を示すものである。したがって、グラス2のレンズを介してユーザが視認可能なユーザが存在する空間である。
また、記憶装置31は、識別情報と関連付けて、図3に示すようなリストを含むリストデータ311を記憶してもよい。図3に示す例は、「1.成人用人工呼吸器」、「2.小児・成人用人工呼吸器」、「3.新生児・小児・成人用人工呼吸器」、「4.小児・新生児用人工呼吸器」の機具に関する識別情報を含むリストである。なお、図3に示すリストデータ311は、図2に示すリストデータ311において「12.人工呼吸器」の識別情報が選択された場合に提供されるデータの一例である。
さらに、記憶装置31は、識別情報と関連付けて、図4に示すようなリストを含むリストデータ311を記憶してもよい。図4に示す例は、それぞれ異なる会社により製造される人工呼吸器の識別情報を含むリストである。なお、図4に示すリストデータ311は、図3に示すリストデータ311において「2.小児・成人用人工呼吸器」の識別情報が選択された場合に提供されるデータの一例である。
提示データ312は、情報提供装置3がグラス2に提供するデータである。記憶装置31は、識別情報に関連付けられる提示データ312を複数記憶する。各提示データ312は、例えば、機具の操作説明等の画像や音声のデータを含む。
記憶装置31は、例えば、識別情報と関連付けて、図5乃至図7に示す画像が順に表示される動画像データを含む提示データ312を記憶する。また、提示データ312は、この動画像に合わせた音声データを含んでもよい。図5乃至図7を用いて説明する提示データは、例えば、図4に示す提示データ312においていずれかの識別情報が選択された場合に提供される。
図5に示す例では、この提示データ312で説明する人工呼吸回路の操作手順の概要を表わす。図6に示す例では、人工呼吸回路の操作手順の一工程を表す。図7に示す例では、図6に示す手順で操作したユーザに、操作が正しく行われたか否かを問いかける情報を含む。このように問いかけを行うことで、操作の誤り等を防止することができる。
図5〜7において、マークm01は、『AIモード』が起動中であるか否か確認可能な表示である。マークm02は、後述する『ヘルプモード』が起動中であるか否かを確認可能な表示である。マークm01,m02は、各モードが起動前と、起動中とで異なる色で表示される。これにより、ユーザは各モードが起動されたか否かを容易に確認することができる。
マークm03は、温度の表示部である。マークm04は、湿度の表示部である。マークm05は、気圧の表示部である。各マークm03〜m05は、各センサ27〜29で計測された値が表示される。
なお、マークm01〜m05として表示される情報は、グラス2において取得する情報である。したがって、記憶装置31が記憶する提示データ312ではこれらの情報を含まない。そのため、表示手段25に表示する際にグラス2で各マークm01〜m05付加すればよい。
さらに、提示データ312は、『ヘルプモード』において提供されるデータとすることもできる。記憶装置31は、ヘルプモードにおいて、機具の操作や取り付け等の確認がリクエストされた場合に提供するデータを提示データ312として記憶することができる。
例えば、通常の処理で表示される操作方法や取り付け説明方法等のデータは、静止画等を利用する簡単な説明である場合であっても、ヘルプモードで表示されるデータは、動画等を利用するより詳しい説明とすることができる。これにより、通常の説明のみでは理解できなかったユーザは、ヘルプモードにおいて、より詳しい説明の提供を受けることができる。例えば、ヘルプモードでは、正確な組み立てや操作方法の開始から終了までを連続した動画により、視覚的に確認することができる。
判定データ313は、『AIモード』において、機具の状態の正否の判定等に利用するデータである。具体的には、判定データ313は、機具の状態の理想的な状態のパターンの画像データ等である。また、判定データ313は、致命的な問題が生じないように、危険な状態の画像データを含んでいてもよい。
第2受信手段301は、ネットワーク4を介してグラス2から送信されたデータを受信する。具体的には、第2受信手段301は、リクエストデータや画像データを受信する。
抽出手段302は、記憶装置31から、第2受信手段301が受信したリクエストデータに応じてグラス2に提供するリストデータや提示データを抽出する。例えば、リクエストデータが含む識別情報がリストデータを特定するものであるとき、この識別情報で識別されるリストデータ311を抽出する。また例えば、リクエストデータが含む識別情報が提示データを特定するものであるとき、この識別情報で識別される提示データ312を抽出する。
判定手段303は、第2受信手段301がグラス2から送信された画像データを受信すると、記憶装置31から、第2受信手段301が受信した画像データに含まれる機具の状態の正否の判定に利用する判定データを抽出する。また、判定手段303は、受信した画像データに含まれる機具の状態の正否を判定する。
この判定手段303は、グラス2において『AIモード』が起動された場合に処理を実行する。AIモードの起動により、グラス2では、画像取得手段22による画像データの取得及び第1送信手段23による画像データの送信を実行する。これにより、判定手段303は、機具の取り付け等が正確にされているか否かを人工知能により判定する。この判定では、予め記憶装置31に記憶される判定データ313とグラス2において取得された画像データとを対比し、機具の取り付け等の精度を判定する。
記憶装置31は、予め判定データ313として、機具の正確な取り付け方法等の画像や器具の形状等の画像を多数する。また、『AIモード』に設定されたグラス2から画像を受信すると、画像とグラス2から受信した画像データに含まれる機具の寸法や形状等を判定データ313と対比し、その結果を出力させる。これにより、危険な取り付け等がされていないか否かを人工知能により判定することが可能となり、医療安全につなげることができる。
第2送信手段304は、グラス2に、ネットワーク4を介して情報を送信する。具体的には、第2送信手段304は、抽出手段302で抽出されたリストデータや提示データを送信する。また、第2送信手段304は、判定手段303が判定した結果データを送信する。
《情報提供処理》
続いて、図8に示すシーケンス図を用いて、情報提供システム1における処理の流れを説明する。
まず、グラス2は、リストデータを要求するユーザの音声を取得する(S1)。また、グラス2は、ステップS1で取得した音声で特定されるリクエストデータを情報提供装置3に送信する(S2)。ステップS2のリクエストデータは、ユーザが提供をリクエストするリストデータを識別する識別情報を含む。
情報提供装置3は、受信したリクエストデータで特定される識別情報のリストデータを抽出する(S3)。また、情報提供装置3は、ステップ3で抽出したリストデータをグラス2に送信する(S4)。
グラス2は、受信したリストデータを表示する(S5)。また、グラス2は、リストデータから選択された提示データを要求するユーザの音声を取得する(S6)。さらに、グラスは、ステップS6で取得した音声で特定される提示データを情報提供装置3に送信する(S7)。ステップS7のリクエストデータは、ユーザが提供をリクエストする提示データを識別する識別情報を含む。
情報提供装置3は、受信したリクエストデータで特定される識別情報の提示データを抽出する(S8)。また、情報提供装置3は、ステップS8で抽出した提示データをグラス2に送信する(S9)。
グラス2は、受信した提示データを表示する(S10)。ユーザは、提示データで提示される情報を参照して業務を遂行する。
その後、グラス2は、例えば、特定の機具を含む画像を取得する(S11)。また、グラス2は、ステップS11で取得した画像データを情報提供装置3に送信する(S12)。
情報提供装置3は、グラス2から受信した画像を用いて機具の操作等が妥当であるか否かを判定する(S13)。また、情報提供装置3は、ステップS13の結果データをグラス2に送信する(S14)。
グラス2は、情報提供装置3から受信した結果を出力する(S15)。例えば、図9又は図10に示すように、結果データを出力する。
なお、ステップS1〜S5のリストデータを送信する一連の処理(S100)とステップS6〜S10の提示データを送信する一連の処理(S200)とは複数回繰り返されてもよい。例えば、図2〜図4を用いて上述したように、リストデータが連続して表示されることもある。このような場合、ステップS100の処理は複数回繰り返される。
上述したように、情報提供システム1を利用するユーザは、ハンズフリーにより、ユーザの業務の妨げを最小限として必要な操作手順等の確認をすることが可能となる。
また、手技や操作に不慣れなユーザのみならず、手技や操作等に自信のあるユーザであっても、勘違いや単純な間違いを促すため、AIモードにおいて判定結果に応じて「その操作は正確ではありません。もう一度確認してください。」等の注意喚起をすることができる。これにより、医療ミス等の低減を実現することができる。
《変形例》
上述した実施形態では、グラス2は、音声の取得により、情報提供装置3へのリクエスト信号の送信等を行っていた。しかしながら、情報提供装置3へのリクエスト信号の送信等は、これに限定されない。例えば、操作ボタンの操作等でリストデータを要求してもよいが、音声を利用することで、ハンズフリーでリクエストが可能となる。これにより、ユーザが現在手で行っている操作を中断することなく、リクエストが可能となる。音声の取得に代えて、ユーザの頭部の動きを利用する加速度スイッチ、ユーザの体の動きを利用する仮想スイッチ、ユーザの眼の動きを利用する画像スイッチや視線スイッチ等を利用してもよい。例えば、視線スイッチを利用する場合、ユーザが所定のアイコン等を一定時間以上目視した場合、そのアイコンに対応する処理が実行される。
ここで、ユーザは、グラス2を装着しながら業務を遂行する。また、そのような環境にはユーザだけでなく複数の人が存在することも考えられる。この場合、ノイズ等は拾わず、ユーザの音声のみを正しく検出できるように工夫する必要がある。例えば、ユーザは、その使用環境で使用される言語とは別の言語で声を発するようにしてもよい。具体的には、日本語が使用される環境において、ユーザがグラス2を装着した場合に次の情報を確認したいとき、英語で「ネクスト」と発した場合に、次の情報の提供を要求するリクエストデータを送信するようにすることができる。または、日本語が使用される環境において、ユーザがグラスを装着した場合に前の情報を確認したいとき、英語で「バック」と発した場合に、前の情報の提供を要求するリクエストデータを送信するようにすることができる。
また、上述した実施形態では、表示手段25が提示データを表示する位置を切り替え可能としてもよいことを説明した。しかしながら、提示データ自体を複数有し、提示データをユーザの希望に応じて選択可能としてもよい。例えば、画像が多い方がよいユーザもあれば、文字が多い方がユーザもある。したがって、同一の機具の説明であっても、画像と文字との量が異なる複数のタイプの提示データを用意し、ユーザに希望するタイプの提示データを選択させてもよい。これにより、情報提供システム1では、ユーザがより見やすいタイプの提示データをユーザに提供することができる。
上記実施の形態において、情報提供装置3の各部は、上述したように、CPUおよびメモリを用いてソフトウェアによって実現してもよいし、集積回路(IC(Integrated Circuit)チップ、LSI(Large Scale Integration))等に形成された論理回路(ハードウェア)や専用回路によって実現してもよい。また、各機能部は、1又は複数の集積回路により実現されてよく、複数の機能部の機能を1つの集積回路により実現されることとしてもよい。LSIは、集積度の違いにより、VLSI、スーパーLSI、ウルトラLSIなどと呼称されることもある。また、当該回路は、再構築可能な回路(例えば、FPGA:Field Programmable Gate Away)により実現されてもよい。
情報提供装置3の各機能部をソフトウェアにより実現する場合、情報提供装置3は、各機能を実現するソフトウェアである情報提供プログラムPの命令を実行するCPU、情報提供プログラムPおよび各種データがコンピューター(又はCPU)で読み取り可能に記録されたROM(Read Only Memory)又は記憶装置(これらを「記録媒体」と称する)、情報提供プログラムPを展開するRAM(Random Access Memory)などを備えている。そして、コンピューター(又はCPU)が情報提供プログラムPを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、情報提供プログラムPは、情報提供プログラムPを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピューターに供給されてもよい。本発明は、情報提供プログラムPが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
なお、情報提供プログラムPは、例えば、ActionScript、JavaScript(登録商標)などのスクリプト言語、Objective−C、Java(登録商標)などのオブジェクト指向プログラミング言語、HTML5などのマークアップ言語などを用いて実装できる。
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段やステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。
上記実施の形態に示した構成並びに参考例に示した構成は適宜組み合わせることとしてもよい。
1 情報提供システム
2 グラス
21 音声取得手段
22 画像取得手段
23 第1送信手段
24 第1受信手段
25 表示手段
26 音声出力手段
3 情報提供装置
301 第2受信手段
302 抽出手段
303 判定手段
304 第2送信手段
31 記憶装置
311 リストデータ
312 提示データ
313 判定データ
P 情報提供プログラム

Claims (8)

  1. 医療従事者であるユーザが業務遂行時に装着するグラスにおいて、前記ユーザの少なくとも片目で視認可能な表示データを出力する出力手段と、
    前記ユーザが前記グラスを通して視認可能な範囲の画像データを取得する画像取得手段と、
    前記ユーザの音声データを取得する音声取得手段と、
    前記音声取得手段によって取得された前記ユーザの前記音声データで特定されるリクエストに応じた提示データを、各リクエストに対応する提示データを記憶する提示データ記憶手段から抽出する抽出手段と、
    前記画像取得手段が取得した画像データに含まれる医療機器の状態の正否を、所定の画
    像データに基づいて判定する判定手段と、
    前記画像取得手段が取得した画像データに含まれる医療機器の操作または取り付け状態の正否を、所定の画像データに基づいて判定する判定手段と、
    前記グラスにより視認される医療機器の正常な使用に影響を与える周囲環境に関する情報を取得する環境情報取得手段と、
    を含み、
    前記グラスの前記出力手段は、前記提示データとして、前記判定手段による判定結果を前記グラスに表示させる表示データを出力し、さらに、前記環境情報取得手段が取得した前記周囲環境に関する情報を前記グラスに表示させる表示データを出力する、情報提供システム。
  2. 前記判定手段は、前記医療機器の正しい状態を示す画像データ、及び、前記医療機器の危険な状態を示す画像データの少なくともいずれかを基に人工知能を用いて、前記医療機器の操作または取り付け状態の正否を判定する、請求項1に記載の情報提供システム。
  3. 前記判定結果を音声出力する音声出力手段を更に備える、請求項2に記載の情報提供システム。
  4. 前記判定手段は、前記画像取得手段によって取得された画像データに含まれる特定の識別情報に基づき、当該画像データに含まれる医療機器を識別する、請求項3に記載の情報提供システム。
  5. 前記出力手段は、ユーザの視界の中心部以外に前記表示データを出力可能であり、かつ、前記音声取得手段によって取得した音声に応じて前記表示データの表示位置を切り替え可能である、請求項1乃至4のいずれか一項に記載の情報提供システム。
  6. 医療従事者であるユーザが業務遂行中に装着するグラスにおいて、前記ユーザの少なくとも片目で視認可能な表示データを出力する出力手段と、前記ユーザが前記グラスを通して視認可能な範囲の画像データを取得する画像取得手段と、前記ユーザの音声データを取得する音声取得手段と、を備える前記グラスとネットワークを介して接続された情報提供装置であって、
    前記音声取得手段によって取得された前記ユーザの前記音声データで特定されるリクエストに応じた提示データを、各リクエストに対応する提示データを記憶する提示データ記憶手段から抽出する抽出手段と、
    前記画像取得手段が取得した画像データに含まれる医療機器の操作または取り付け状態の正否を、所定の画像データに基づいて判定する判定手段と、
    前記判定手段による判定結果を前記グラスへ送信する送信手段と、
    を備える情報提供装置。
  7. コンピュータが、
    医療従事者であるユーザが業務遂行中に装着するグラスにおいて、前記ユーザの少なくとも片目で視認可能な表示データを出力する出力ステップと、
    前記ユーザが前記グラスを通して視認可能な範囲の画像データを取得する画像取得ステップと、
    前記ユーザの音声データを取得する音声取得ステップと、
    前記音声取得ステップによって取得された前記ユーザの前記音声データで特定されるリクエストに応じた提示データを、各リクエストに対応する提示データを記憶する提示データ記憶手段から抽出する抽出ステップと、
    前記画像取得ステップにて取得した画像データに含まれる医療機器の操作または取り付け状態の正否を、所定の画像データに基づいて判定する判定ステップと、
    前記グラスにより視認される医療機器の正常な使用に影響を与える周囲環境に関する情報を取得する環境情報取得ステップと、
    前記提示データとして、前記判定ステップによる判定結果を前記グラスに表示させる表示データを出力し、さらに、前記環境情報取得ステップが取得した前記周囲環境に関する情報を前記グラスに表示させる表示データを出力するステップと、を実行する情報提供方法。
  8. コンピュータに、
    医療従事者であるユーザが業務遂行中に装着するグラスにおいて、前記ユーザの少なくとも片目で視認可能な表示データを出力する出力機能と、
    前記ユーザが前記グラスを通して視認可能な範囲の画像データを取得する画像取得機能と、
    前記ユーザの音声データを取得する音声取得機能と、
    前記音声取得機能によって取得された前記ユーザの前記音声データで特定されるリクエストに応じた提示データを、各リクエストに対応する提示データを記憶する提示データ記憶手段から抽出する抽出機能と、
    前記画像取得機能にて取得した画像データに含まれる医療機器の操作または取り付け状態の正否を、所定の画像データに基づいて判定する判定機能と、
    前記グラスにより視認される医療機器の正常な使用に影響を与える周囲環境に関する情報を取得する環境情報取得機能と、
    前記提示データとして、前記判定機能による判定結果を前記グラスに表示させる表示データを出力し、さらに、前記環境情報取得機能が取得した前記周囲環境に関する情報を前記グラスに表示させる表示データを出力する機能と、を実現させるプログラム。
JP2017025088A 2017-02-14 2017-02-14 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム Active JP6607506B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017025088A JP6607506B2 (ja) 2017-02-14 2017-02-14 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム
PCT/JP2018/005132 WO2018151174A1 (ja) 2017-02-14 2018-02-14 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017025088A JP6607506B2 (ja) 2017-02-14 2017-02-14 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム

Publications (3)

Publication Number Publication Date
JP2018132889A JP2018132889A (ja) 2018-08-23
JP2018132889A5 JP2018132889A5 (ja) 2018-10-18
JP6607506B2 true JP6607506B2 (ja) 2019-11-20

Family

ID=63170670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017025088A Active JP6607506B2 (ja) 2017-02-14 2017-02-14 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム

Country Status (2)

Country Link
JP (1) JP6607506B2 (ja)
WO (1) WO2018151174A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7082384B1 (ja) 2021-05-28 2022-06-08 浩平 田仲 学習システム及び学習方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3771892B2 (ja) * 2002-10-28 2006-04-26 三菱重工業株式会社 危険情報伝達システム
JP2007172536A (ja) * 2005-12-26 2007-07-05 Nec Soft Ltd 医療機器監視システム
JP5099182B2 (ja) * 2010-06-24 2012-12-12 日本電気株式会社 確認業務支援システム、サーバ装置、ヘッドマウントディスプレイ装置、ウェアラブル端末、確認業務支援方法およびプログラム
EP2811459B1 (en) * 2012-01-30 2020-02-19 NEC Corporation Information processing system, information processing method, information processing device, and control method and control program therefor, and communication terminal, and control method and control program therefor
JP2013200752A (ja) * 2012-03-26 2013-10-03 Terumo Corp 医療機器の情報開示システム及び情報処理装置
JP6036217B2 (ja) * 2012-11-27 2016-11-30 セイコーエプソン株式会社 表示装置、頭部装着型表示装置および表示装置の制御方法
JP6621595B2 (ja) * 2015-04-23 2019-12-18 株式会社Nttドコモ 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
JP2018132889A (ja) 2018-08-23
WO2018151174A1 (ja) 2018-08-23

Similar Documents

Publication Publication Date Title
US9645785B1 (en) Heads-up displays for augmented reality network in a medical environment
JP6252004B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
US20210382682A1 (en) Intercom system for multiple users
US8686851B2 (en) System and method for rapid location of an alarm condition
US9053654B2 (en) Facilitating user input via arm-mounted peripheral device interfacing with head-mounted display device
KR20170038875A (ko) 사용자 활동 데이터에 기초하여 통지를 제공하는 기법
JP2024073551A (ja) モバイル装置のユーザの認知状態を判定するための装置、方法、及びプログラム
KR20170109297A (ko) 전방위 영상을 제공하는 전자 장치 및 방법
JP7086007B2 (ja) 測定器データ記憶方法および装置
US20150005587A1 (en) Goggles for emergency diagnosis of balance disorders
US10410391B1 (en) Remote control highlighter
US11806088B2 (en) Method, system, computer program product and application-specific integrated circuit for guiding surgical instrument
KR20170114356A (ko) 전자 장치 및 그 제어 방법
US20220392361A1 (en) Learning system and learning method
US20150278178A1 (en) Information integration apparatus, information integration system and non-transitory computer readable recording medium
US20200143774A1 (en) Information processing device, information processing method, and computer program
JP6607506B2 (ja) 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム
KR102336879B1 (ko) 화면을 표시하는 전자 장치, 그 제어 방법
KR101790755B1 (ko) 사용자 기기 연동을 통한 경로 안내 서비스 제공 방법 및 스마트 글라스
WO2021041632A1 (en) System and method for augmented reality visualization of benign paroxysmal position vertigo (bppv) disorder
US20160371436A1 (en) Selective censoring of medical procedure video
US7848498B2 (en) Operating method for a support facility for a medical engineering system and objects corresponding herewith
KR20200021671A (ko) 환자 통합 관리 시스템
US12009097B2 (en) Wireless communication system for remote medical assistance
US11413111B2 (en) Augmented reality system for medical procedures

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180906

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180906

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190517

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190917

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191011

R150 Certificate of patent or registration of utility model

Ref document number: 6607506

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250