JP2020043521A - 遠隔制御サーバおよび遠隔制御システム - Google Patents

遠隔制御サーバおよび遠隔制御システム Download PDF

Info

Publication number
JP2020043521A
JP2020043521A JP2018170888A JP2018170888A JP2020043521A JP 2020043521 A JP2020043521 A JP 2020043521A JP 2018170888 A JP2018170888 A JP 2018170888A JP 2018170888 A JP2018170888 A JP 2018170888A JP 2020043521 A JP2020043521 A JP 2020043521A
Authority
JP
Japan
Prior art keywords
remote control
control terminal
information
unit
operator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018170888A
Other languages
English (en)
Other versions
JP7027285B2 (ja
Inventor
智也 藤峰
Tomoya Fujimine
智也 藤峰
貴亮 染川
Takaaki Somekawa
貴亮 染川
侑 松本
Yu Matsumoto
侑 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Gas Co Ltd
Original Assignee
Tokyo Gas Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Gas Co Ltd filed Critical Tokyo Gas Co Ltd
Priority to JP2018170888A priority Critical patent/JP7027285B2/ja
Publication of JP2020043521A publication Critical patent/JP2020043521A/ja
Application granted granted Critical
Publication of JP7027285B2 publication Critical patent/JP7027285B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】遠隔制御端末の操作者が遠隔制御端末を操作することにより被制御側装置の利用者とコミュニケーションを図る場合における操作者の負担の増大を抑制する。【解決手段】遠隔制御端末から、操作されると信号を出力する操作子が操作されたことを示す操作情報を受信する受信手段と、受信手段が操作情報を受信すると、操作子に予め関連付けられた文章に関する文章情報を制御の対象となる被制御側装置に出力させる出力制御手段と、を備え、受信手段は、遠隔制御端末から、遠隔制御端末における設定に関する設定情報を受信し、出力制御手段は、受信手段が設定情報を受信すると、文章情報を、設定情報から特定される言語により遠隔制御端末に出力させることを特徴とする、遠隔制御サーバ。【選択図】図9

Description

本発明は、遠隔制御サーバおよび遠隔制御システムに関する。
例えば特許文献1には、乳幼児の音声を検知してシステムが自動的に作動するとともに、乳幼児の状況に最適な楽曲を選曲するシステムが開示されている。
また、特許文献2には、音声検知手段により乳幼児の音声を検知すると音声再生手段を駆動させることにより、母親の声やメロディを流し、あるいは玩具等の外部機能を駆動させて乳幼児の安眠を促進することが開示されている。
特開2003−337591号公報 特開平03−272710号公報
例えば、遠隔制御端末に対する操作者の操作により被制御側装置から文章情報が出力されることで、遠隔制御端末の操作者が被制御側装置の利用者とコミュニケーションを図ることがある。この場合に、操作者によっては、被制御側装置の利用者とコミュニケーションを図るための負担が大きくなることがある。
本発明は、遠隔制御端末の操作者が遠隔制御端末を操作することにより被制御側装置の利用者とコミュニケーションを図る場合における操作者の負担の増大を抑制することを目的とする。
請求項1には、遠隔制御端末から、操作されると信号を出力する操作子が操作されたことを示す操作情報を受信する受信手段と、前記受信手段が前記操作情報を受信すると、前記操作子に予め関連付けられた文章に関する文章情報を制御の対象となる被制御側装置に出力させる出力制御手段と、を備え、前記受信手段は、前記遠隔制御端末から、当該遠隔制御端末における設定に関する設定情報を受信し、前記出力制御手段は、前記受信手段が前記設定情報を受信すると、前記文章情報を、当該設定情報から特定される言語により前記遠隔制御端末に出力させることを特徴とする、遠隔制御サーバの発明が記載されている。
請求項2には、前記被制御側装置を利用する利用者が映っている動画および画像の少なくとも一方を取得する取得手段と、前記取得手段により取得された前記動画および前記画像の少なくとも一方から、前記利用者の態様を検出する検出手段と、前記検出手段に検出された前記態様に応じて、予め定められた評価基準に基づいて前記遠隔制御端末の操作者による前記操作子の操作を評価する評価手段と、をさらに備えた、請求項1記載の遠隔制御サーバの発明が記載されている。
請求項3には、前記取得手段は、前記利用者が映っている動画を取得し、前記動画に基づいて、前記利用者の前記態様、前記評価手段による前記評価、および当該評価に係る前記文章情報が表示された映像を含む動画を作成する作成手段をさらに備えた、請求項2記載の遠隔制御サーバの発明が記載されている。
請求項4には、前記取得手段は、前記利用者が映っている動画を取得し、前記受信手段が前記操作情報を取得した際の前記利用者の態様と、前記評価および当該評価に係る前記文章情報と、を関連付けて記憶する記憶手段と、撮影されている前記利用者の動画が前記取得手段により取得されると、当該動画を前記遠隔制御端末に送信する送信手段と、を備え、前記出力制御手段は、撮影されている前記動画から、前記記憶手段に記憶されている前記利用者の前記態様が検出された場合に、当該態様に関連付けられて記憶されている前記評価および前記文章情報を、前記遠隔制御端末に送信した前記動画に表示させることを特徴とする請求項2記載の遠隔制御サーバの発明が記載されている。
請求項5には、前記遠隔制御端末の前記操作子と、複数の言語の前記文章情報とを関連付けて記憶する記憶手段をさらに備え、前記設定情報は、前記遠隔制御端末における言語の設定に関する情報であり、前記出力制御手段は、前記記憶手段に記憶されている前記文章情報のうち、前記設定情報から特定される言語の前記文章情報を前記遠隔制御端末に出力させることを特徴とする請求項1記載の遠隔制御サーバの発明が記載されている。
請求項6には、制御の対象となる被制御側装置が設けられている地域との間で時差が生じる地域に設けられ、操作者による操作を受け付けて当該被制御側装置を遠隔制御する遠隔制御端末と、前記被制御側装置と前記遠隔制御端末とを接続し、当該遠隔制御端末に当該被制御側装置を遠隔制御させる遠隔制御サーバと、を備え、前記遠隔制御端末は、操作されると信号を出力する操作子が操作されたことを示す操作情報を送信する送信手段を有し、前記遠隔制御サーバは、前記遠隔制御端末から前記操作情報を受信する受信手段と、前記受信手段が前記操作情報を受信すると、前記操作子に予め関連付けられた文章の文章情報を前記被制御側装置に出力させる出力制御手段と、を有することを特徴とする、遠隔制御システムの発明が記載されている。
請求項7には、前記受信手段は、前記遠隔制御端末から、当該遠隔制御端末における設定に関する設定情報を受信し、前記出力制御手段は、前記受信手段が前記設定情報を受信すると、前記文章情報を、当該設定情報から特定される言語により前記遠隔制御端末に出力させることを特徴とする請求項6記載の遠隔制御システムの発明が記載されている。
本発明によれば、遠隔制御端末の操作者が遠隔制御端末を操作することにより被制御側装置の利用者とコミュニケーションを図る場合における操作者の負担の増大を抑制することができる。
本実施形態による遠隔制御システムの全体構成を示す図である。 遠隔制御端末の構成例を示す図である。 遠隔制御サーバの機能構成を示す図である。 オペレータ管理サーバの機能構成を示す図である。 遠隔制御の利用態様の概念を説明する図である。 引継ぎ制御部による引継ぎ制御の動作を示すフローチャートである。 遠隔制御システムの一例としての介護支援システムの全体構成例を示す図である。 遠隔制御サーバの機能構成例を示した図である。 文章情報管理テーブルの一例を示した図である。 (a)、(b)は、撮影画面を示した図である。 (a)、(b)は、撮影画面を示した図である。 (a)、(b)は、撮影画面を示した図である。 撮影画面を示した図である。 評価管理テーブルの一例を示した図である。 過去評価通知部による処理を説明するための図である。
以下、添付図面を参照して、本発明の実施の形態について詳細に説明する。
<システム構成>
図1は、本実施形態による遠隔制御システムの全体構成を示す図である。遠隔制御システムSは、現場で情報の収集や作業を実行する現場システムS1と、現場システムの制御や操作を実行するオペレーション・システムS2とを含む。図1には、一つの現場システムS1と一つのオペレーション・システムS2とが示されているが、オペレーション・システムS2は、複数の現場システムS1を制御し得る。
図1に示す構成例において、現場システムS1は、情報取得装置100と、作用装置200とを含む。情報取得装置100および作用装置200は、本実施形態の遠隔制御システムSにおける制御対象となる装置、すなわち被制御側装置である。以下、現場システムS1を構成する情報取得装置100および作用装置200をまとめて記載するときは、現場システムS1の装置100、200と記載する。また、オペレーション・システムS2は、遠隔制御端末300と、遠隔制御サーバ400と、オペレータ(遠隔制御端末300の操作者)管理サーバ500とを備える。遠隔制御端末300および遠隔制御サーバ400は、現場システムS1の装置100、200を制御する制御側装置である。オペレータ管理サーバ500は、オペレータを管理する装置である。図1には、一つの遠隔制御端末300が示されているが、実際のオペレーション・システムS2では、一つの現場システムS1に対して複数の遠隔制御端末300が対応する。現場システムS1と遠隔制御端末300との関係については後述する。
<情報取得装置の構成>
情報取得装置100は、現場において様々なデータを取得する装置である。情報取得装置100としては、取得されるデータの種類や形式等に応じて種々の機器が用いられる。情報取得装置100として用いられる具体的な機器は特に限定されないが、例えば、画像を取得するカメラ、音声や音響データを取得するマイクロフォン、環境や物品の状態を表す物理量(データ)を検出する各種のセンサ等が用いられる。センサとしては、取得しようとする情報に応じて、例えば、温度センサ、湿度センサ、圧力センサ、照度センサ、速度センサ、振動センサ等が単体で、あるいは組み合わせて用いられる。また、人間の嗅覚を刺激する匂い成分や味覚を刺激する味覚成分を分析してデータとして取得するセンサ等を用いても良い。情報取得装置100として具体的にどのような機器を用い、どのような情報を取得するかは、例えば、現場システムS1の用途や適用目的等に応じて個別的に特定される。
また、情報取得装置100は、外部機器から制御命令を受信したり、取得したデータを外部機器へ出力するための通信手段を備える。通信手段としては、無線通信機や有線によるネットワーク・インターフェイス等が用いられる。また、情報取得装置100は、取得したデータを保持する保持手段、取得したデータに対して予め定められた処理を実行する処理手段、予め定められた制御を実行する制御手段等を備えても良い。保持手段としては、例えば不揮発性メモリ等が用いられる。処理手段や制御手段としては、例えば、CPU(Central Processing Unit)、ASIC(Application Specific Integrated Circuit)、ASSP(Application Specific Standard Produce)、FPGA(Field Programmable Gate Array)等の演算回路、これらの演算回路とメモリとを組み合わせたSoC(System on a Chip)やシステムLSI(Large Scale Integrated circuit)等が用いられる。
さらに、情報取得装置100は、適用される現場システムS1の具体的な内容によっては、移動機構を備えていても良い。データの種類や取得の仕方によっては、情報取得装置100を移動させながらデータを取得することが必要な場合があり得る。そのような場合、情報取得装置100に設けた移動機構により移動しながらデータを取得する。情報取得装置100の移動の態様は、データの種類や取得の仕方等に応じて、様々に設定される。例えば、1次元的な移動、2次元的な移動、3次元的な移動を行い得る。また、予め定められた軌道上を移動する場合も、自由な経路で移動する場合もあり得る。具体的な移動機構は、情報取得装置100に要求される移動の態様に応じて選択される。例えば、車輪やプロペラ等の推力を生じさせるための部材と、この部材を駆動する駆動装置との組み合わせにより実現しても良い。また、一方向へ空気を吹き出し、その反動で移動するような構成としても良い。また、一端を固定した可動アームの他端に情報取得装置100を設置し、可動アームを動作させることにより移動する構成としても良い。情報取得装置100に移動機構を設ける場合は、上述した制御手段により移動機構の動作を制御しても良いし、移動機構の動作制御専用の制御手段を別途設けても良い。移動機構の動作制御は、プログラム等により設定された自動制御により行っても良いし、後述する遠隔制御サーバ400から受信する制御命令により行っても良い。
<作用装置の構成>
作用装置200は、現場において周囲の環境や物品や人物等に対して物理的に作用する装置である。作用装置200としては、環境や物品や人物等に対して与えようとする物理的影響に応じて種々の機器が用いられる。作用装置200として用いられる具体的な機器は特に限定されないが、例えば、物体を運動させるアクチュエータ、光を発する発光装置、音を発する音響装置、熱を発する発熱装置、その他、様々な機能や機構を有する装置が該当する。作用装置200として具体的にどのような機器を用い、どのように動作させるかは、例えば、現場システムS1の用途や適用目的等に応じて個別的に特定される。
また、作用装置200は、外部機器から制御命令を受信したり、動作履歴データを外部機器へ出力したりするための通信手段を備える。通信手段としては、無線通信機や有線によるネットワーク・インターフェイス等が用いられる。また、作用装置200は、受信した制御命令に基づいて動作制御を実行する制御手段、制御命令や動作履歴データを保持する保持手段等を備えても良い。制御手段としては、例えば、CPU、ASIC、ASSP、FPGA等の演算回路、これらの演算回路とメモリとを組み合わせたSoCやシステムLSI等が用いられる。保持手段としては、例えば不揮発性メモリやRAM(Random Access Memory)等が用いられる。
さらに、作用装置200は、適用される現場システムS1の具体的な内容によっては、移動機構を備えていても良い。現場において周囲の環境や物品や人物等に対して作用を生じさせるための動作の仕方によっては、作用装置200を移動させながら動作することが必要な場合があり得る。そのような場合、作用装置200に設けた移動機構により移動しながら動作させる。作用装置200の移動の態様は、データの種類や取得の仕方等に応じて、様々に設定される。例えば、1次元的な移動、2次元的な移動、3次元的な移動を行い得る。また、予め定められた軌道上を移動する場合も、自由な経路で移動する場合もあり得る。具体的な移動機構は、作用装置200に要求される移動の態様に応じて選択される。例えば、車輪やプロペラ等の推力を生じさせるための部材と駆動装置との組み合わせにより実現しても良い。また、一方向へ空気を吹き出し、その反動で移動するような構成としても良い。また、一端を固定した可動アームの他端に作用装置200を設置し、可動アームを動作させることにより移動する構成としても良い。作用装置200に移動機構を設ける場合は、上述した制御手段により移動機構の動作を制御しても良いし、移動機構の動作制御専用の制御手段を別途設けても良い。移動機構の動作制御は、プログラム等により設定された自動制御により行っても良いし、後述する遠隔制御サーバ400から受信する制御命令により行っても良い。
<現場システムの装置構成>
なお、図1に示す構成例において、現場システムS1を構成する装置として情報取得装置100および作用装置200を挙げたが、現場システムS1のシステム構成は、上記の構成に限定されない。例えば、現場システムS1に情報取得装置100および作用装置200を管理したり制御したりする中間サーバ(いわゆるエッジサーバ)を設け、この中間サーバを介して遠隔制御サーバ400との通信を行うようにしても良い。中間サーバを設ける場合、情報取得装置100および作用装置200の全てを中間サーバの管理下に置いても良いし、いずれか一方のみを中間サーバに管理させ、他方を遠隔制御サーバ400に直接接続させるようにしても良い。また、中間サーバに管理される情報取得装置100および作用装置200と、中間サーバを介さず遠隔制御サーバ400に直接接続する情報取得装置100および作用装置200とが混在するシステム構成としても良い。また、情報取得装置100と作用装置200とは、物理的に別個の装置として用意されるだけでなく、いくつかの情報取得装置100および作用装置200が組み合わされた装置として構成されても良い。例えば、複数の情報取得装置100および作用装置200が組み込まれたロボットを被制御側装置として用いても良い。
<遠隔制御端末の構成>
遠隔制御端末300は、オペレータが現場システムS1の装置100、200を遠隔制御するために用いる端末装置である。なお、情報取得装置100は、後述のようにデータを取得して遠隔制御サーバ400へ送信することを主な機能とする装置であり、遠隔制御端末300から情報取得装置100に対して能動的な制御や操作を行わない場合もあるが、便宜的に、遠隔制御端末300が情報取得装置100を監視対象とすることを、「制御」、「操作」等と記載する。遠隔制御端末300は、現場システムS1の装置100、200から得られた情報を出力してオペレータに提示する出力手段と、現場システムS1の装置100、200を制御するための入力を受け付ける入力手段とを備える。また、遠隔制御端末300は、遠隔制御サーバ400に接続するための通信手段と、遠隔制御端末300の機能を制御するための制御手段とを備える。
図2は、遠隔制御端末300の構成例を示す図である。遠隔制御端末300は、制御手段としての主制御部310を備える。また、遠隔制御端末300は、出力手段としての出力制御部320と出力装置330とを備える。また、遠隔制御端末300は、入力手段としての操作受け付け部340と操作装置350とを備える。また、遠隔制御端末300は、通信手段としての送受信部360を備える。
主制御部310は、遠隔制御端末300の主要な動作の制御および通信制御を行う。主制御部310は、例えば、CPU、ROM(Read Only Memory)およびRAMにより実現される。ROMには遠隔制御端末300の動作を制御するためのプログラムが記憶されており、CPUはROMからプログラムを読み込んで実行することにより各種の動作制御や処理を実行する。
出力制御部320は、出力装置330を制御して動作させる。出力装置330は、出力制御部320の制御により、遠隔制御サーバ400から取得した現場システムS1の情報を出力する。情報の出力には、画像や音声などの様々な媒体を用い得る。例えば、動画や静止画等の画像出力を行う場合、出力制御部320は例えばGPU(Graphics Processing Unit)を用いた表示機構により実現され、出力装置330は例えばディスプレイ装置により実現される。また、音声や環境音等の音響情報の出力を行う場合、出力制御部320は例えば主制御部310に用いられるCPUにより実現され、出力装置330は例えばアンプやスピーカを含む音響機器により実現される。画像以外の視覚的な媒体として、発光による情報出力を行う場合、出力制御部320は例えば主制御部310に用いられるCPUにより実現され、出力装置330はLED(Light Emitting Diode)等の発光装置により実現される。この他、圧力や温度変化や振動などにより触覚を刺激するデバイス、化学物質を用いて嗅覚を刺激するデバイス、電気刺激や化学物質により味覚を刺激するデバイス等、人間の感覚を刺激する様々な手段を、現場システムS1の情報をオペレータに伝達する出力手段として用い得る。
操作受け付け部340は、オペレータが操作装置350を用いて行った操作を受け付け、受け付けた操作に応じて、予め定められた処理を実行する。具体的には、操作受け付け部340は、操作の内容に対応付けられた命令やデータの入力を行う。操作装置350は、オペレータが入力のための操作を行うデバイスである。操作装置350としては、オペレータによる操作が可能な種々のデバイスを用いることができる。一般的な操作装置350としては、例えば、マウス等のポインティング・デバイス、キーボード、タッチパネル等が用いられる。また、装着者(オペレータ)の視線を識別して入力操作として認識するアイトラッキング・デバイスを用いても良い。また、ハンドルやレバー等の把持部に設けられた触感センサにより、オペレータが把持部を手で握る強さを入力操作として認識するデバイスを用いても良い。その他、オペレータの何らかの動作を入力操作として認識可能な種々のデバイスを操作装置350として用い得る。
送受信部360は、ネットワークを介して遠隔制御サーバ400と接続するためのネットワーク・インターフェイスである。これにより、遠隔制御端末300は、遠隔制御サーバ400とデータ交換を行う。送受信部360としては、利用可能なネットワークへの接続回線の種類に応じて、無線通信機や有線によるインターフェイスが用いられる。
以上のように構成された遠隔制御端末300において、現場システムS1の装置100、200から取得した情報に基づき出力装置330を用いた情報の出力が行われる。そして、オペレータは、出力装置330からの出力により、現場システムS1が設けられた現場の状況を知ることができる。一方、オペレータが操作装置350を操作することにより、現場システムS1の装置100、200に対する制御命令や制御データが入力される。そして、入力された制御命令や制御データが、遠隔制御サーバ400を介して現場システムS1の装置100、200に送信されることにより、現場システムS1の装置100、200の制御が行われる。
遠隔制御端末300は、上記の制御手段、出力手段、入力手段および通信手段に相当する機能構成を有する装置であれば、オペレーションの対象となる操作や作業の内容に応じて様々な態様のハードウェア構成を取り得る。例えば、オペレーション作業に即して構成された出力デバイスや入力デバイスを備えた専用端末装置として構成しても良い。また、パーソナル・コンピュータを遠隔制御端末300として用いても良い。さらに、タブレット型端末装置やスマートフォン等の携帯型情報端末装置や、ウェアラブル端末装置を遠隔制御端末300として用いても良い。また、これらの具体的なデバイスを組み合わせて、特定の操作や作業に対する遠隔制御端末300として用いても良い。
<遠隔制御サーバの構成>
遠隔制御サーバ400は、現場システムS1の装置100、200と遠隔制御端末300とを接続して、遠隔制御端末300による遠隔制御を実現する。遠隔制御サーバ400は、オペレーションの実行制御と、オペレータの引継ぎ制御とを行う。遠隔制御端末300により現場システムS1の装置100、200を遠隔制御する場合、複数のオペレータが制御を引き継ぎ、入れ替わって作業することにより、現場システムS1の装置100、200を連続的に稼働させることができる。
ここで、遠隔制御であることから、制御の引継ぎは、単一の遠隔制御端末300を使用するオペレータが交代するだけでなく、異なる場所に置かれた複数の遠隔制御端末300の間で現場システムS1の装置100、200の制御主体を切り替えることにより行っても良い。制御主体とは、実際に現場システムS1の装置100、200に対する遠隔制御の操作を行っている遠隔制御端末300である。すなわち、遠隔制御サーバ400は、複数の遠隔制御端末300の一つを現場システムS1の装置100、200の制御主体として制御させると共に、予め定められた切り替え条件に基づいて、制御主体となる遠隔制御端末300を順に切り替えて制御を引き継がせる。遠隔制御サーバ400は、現場システムS1の装置100、200の制御主体である遠隔制御端末300を切り替える際に、遠隔制御の引継ぎを滞りなく行うための引継ぎ制御を行う。
図3は、遠隔制御サーバ400の機能構成を示す図である。遠隔制御サーバ400は、送受信部410と、処理部420と、オペレーション・データベース(DB)430と、引継ぎ制御部440とを備える。
送受信部410は、ネットワークを介して、遠隔制御端末300、現場システムS1の情報取得装置100および作用装置200と接続するためのネットワーク・インターフェイスである。これにより、遠隔制御サーバ400は、情報取得装置100からデータを受信し、受信したデータを遠隔制御端末300へ送信する。また、遠隔制御サーバ400は、作用装置200から動作履歴データ(ログデータ)を受信する。また、遠隔制御サーバ400は、遠隔制御端末300から制御命令や制御データを受信し、作用装置200へ送信する。
処理部420は、送受信部410による現場システムS1の装置100、200および遠隔制御端末300との間のデータ交換を制御する。処理部420は、情報取得装置100から取得したデータに対して、必要に応じて予め定められた処理を行う。情報取得装置100からは、映像データ、音声データ、音響データ、センサ・データ等の様々なデータが送られる。これらのデータは、遠隔制御端末300における出力のために加工が必要な場合がある。例えば、動画データは、圧縮処理等によりデータのサイズを縮小することが必要となる場合がある。また、センサ・データは、センサから取得された生データではなく、一定時間における変化率等の情報として提示することが求められる場合がある。同様に、遠隔制御端末300から受信した制御データも、加工して作用装置200に送信することが必要となる場合がある。処理部420は、設定に応じてこれらの処理を行う。
オペレーションDB430は、情報取得装置100から取得したデータや作用装置200から取得した動作履歴データを保存する。また、オペレーションDB430は、遠隔制御端末300により行われた操作の履歴データを保存する。オペレーションDB430に保存されたデータは、例えば、遠隔制御端末300による現場システムS1の状況の解析や、特定のオペレータによる操作の評価等に用いられる。また、オペレーションDB430に保存されたデータは、現場システムS1の装置100、200を担当するオペレータが切り替わる際の引継ぎにおいて、現在のオペレータによる操作内容や現場システムS1の状態等の情報を次の(切り替え後の)オペレータに知らせるために用いられる。
引継ぎ制御部440は、予め定められた規則にしたがって、現場システムS1の装置100、200を担当するオペレータが切り替わる際の引継ぎ制御を行う。オペレータの引継ぎが行われる場合、現在のオペレータの操作内容を次のオペレータに知らせることにより、現場システムS1における動作や作業の連続性が担保され、質の低下を抑制することができる。しかし、この引継ぎに要する作業のために、次のオペレータの作業開始時にかかる負荷は増大する。ここで、遠隔制御端末300を用いた遠隔操作の場合、オペレータは、遠隔制御端末300の出力手段を介して現場システムS1の装置100、200の状態を知る。したがって、次のオペレータの遠隔制御端末300において、現在のオペレータの遠隔制御端末300の出力と同じ出力を行うことにより、次のオペレータは、現場システムS1の装置100、200の状態に関して現在のオペレータと同じ情報を得ることができる。
引継ぎ制御では、現在の制御主体である遠隔制御端末300から切り替え後の制御主体となる遠隔制御端末300へ切り替える際の一定時間、引継ぎ前後の遠隔制御端末300の両方を現場システムS1の装置100、200に接続し、これらの遠隔制御端末300の両方に対し、現場システムS1の装置100、200から取得される同一の情報が提供される。このような引継ぎ制御を行うことにより、遠隔制御を引き継ぐオペレータの引継ぎ時の負荷の増大が抑制され、引継ぎを滞りなく行うことが可能となる。引継ぎ制御部440による引継ぎ制御の動作の詳細については後述する。
<オペレータ管理サーバの構成>
オペレータ管理サーバ500は、オペレータと、そのオペレータが担当する現場システムS1の装置100、200とを対応付けて管理する。現場システムS1は、通常、複数の情報取得装置100および複数の作用装置200を備えて構成される。したがって、一つの現場システムS1に対して複数のオペレータが対応付けられる場合がある。また、一人のオペレータは、一つの現場システムS1における複数の情報取得装置100や複数の作用装置200に対応付けられる場合がある。さらに、一人のオペレータは、複数の現場システムS1における情報取得装置100や作用装置200に対応付けられる場合がある。オペレータ管理サーバ500は、これらの対応関係を、例えばテーブルに登録して管理する。
図4は、オペレータ管理サーバ500の機能構成を示す図である。オペレータ管理サーバ500は、オペレータ情報データベース(DB)510と、制御部520と、送受信部530とを備える。オペレータ情報DB510には、オペレータの情報を管理するためのテーブル511が格納されている。オペレータ情報DB510のテーブル511には、端末識別情報と、対象システム識別情報と、対象装置識別情報と、対応時間情報と、地域情報と、実行管理情報と、引継ぎ情報とが登録されている。
端末識別情報は、遠隔制御端末300の識別情報であり、この情報により、遠隔制御端末300を使用するオペレータも特定される。対象システム識別情報は、オペレータが担当する現場システムS1の識別情報である。対象装置識別情報は、オペレータが担当する情報取得装置100および作用装置200の識別情報である。
対応時間情報は、オペレータが作業可能な時間を示す情報である。この時間は、例えば、オペレータが担当する現場システムS1の設置場所の時刻による時間と、遠隔制御端末300の設置場所の時刻による時間とが登録される。前者を標準時、後者をローカル時とする。標準時を用いることにより、現場システムS1の装置100、200を操作する各オペレータの居住地(遠隔制御端末300の設置場所)に時差があっても、各オペレータが操作を担当する時刻を統一的に扱うことができる。一方、ローカル時を用いることにより、各オペレータが自身の居住地における就労時刻を管理することができる。
地域情報は、遠隔制御端末300の設置場所の識別情報である。地域情報には、現場システムS1の設置場所に対する遠隔制御端末300の設置場所の時差の情報を含む。実行管理情報は、遠隔制御端末300が現場システムS1の装置100、200の遠隔制御を実行中か否かを示す情報である。引継ぎ情報は、現在のオペレータの次に遠隔制御を担当するオペレータの遠隔制御端末300を示す情報である。
オペレータ管理サーバ500の制御部520は、オペレータ情報DB510に登録されている情報を用いて、オペレータに関する各種の管理を行う。具体的には、制御部520は、各オペレータに関して、対応する現場システムS1の装置100、200の操作を実行中か否かを管理する(実行オペレータ管理)。また、制御部520は、実行中のオペレータの居住地および作業時刻を管理する(地域管理および時間管理)。また、制御部520は、現在のオペレータから引き継いで遠隔制御を実行する次のオペレータを管理する(引継ぎ管理)。制御部520は、例えば、遠隔制御サーバ400からの問い合わせに応じて、これらの管理情報を返す。また、制御部520は、例えば、遠隔制御サーバ400からの指示に応じて登録情報を更新する。
オペレータ管理サーバ500の送受信部530は、ネットワークを介して、遠隔制御サーバ400と接続し、データ交換を行うためのネットワーク・インターフェイスである。
<遠隔制御の態様>
本実施形態による遠隔制御の利用態様の一例について説明する。ここでは、地球E上を自転方向に沿って周回するように複数個所に設定された拠点にそれぞれ配置された遠隔制御端末300により現場システムS1の装置100、200を遠隔制御する場合について説明する。各拠点の間には時差があるため、時差の順に拠点を移しながら制御主体となる遠隔制御端末300を切り替えることにより、1日中休むことなくオペレータの管理下において現場システムS1を連続的に稼働させ、データを取得することが可能となる。
図5は、遠隔制御の利用態様の概念を説明する図である。図5に示す例では、遠隔制御端末300が配置される拠点として、拠点B1〜拠点B4の4か所が設定されている。拠点B1と拠点B2、拠点B2と拠点B3、拠点B3と拠点B4、拠点B4と拠点B1とは、それぞれ6時間ずつの時差があるものとする。そして、6時間ごとに、拠点B1→拠点B2→拠点B3→拠点B4→拠点B1という順に拠点を移して、現場システムS1の装置100、200を遠隔制御する遠隔制御端末300を切り替えることで、24時間連続的に現場システムS1を稼働させ得る。一例として、拠点B1を日本国内に設定し、拠点B2をサウジアラビアに設定し、拠点B3をブラジルに設定し、拠点B4をハワイに設定すると、各拠点の時差は約6時間になる(なお、正確には拠点B1(日本)と拠点B4(ハワイ)との間の時差は5時間であり、拠点B3(ブラジル)と拠点B4(ハワイ)との間の時差は7時間である)。このように設定すれば、各拠点B1〜B4の間の時差のため、現場システムS1が設置されている場所が夜間であっても、その時間に昼間である拠点の遠隔制御端末300により遠隔制御を行うことができる。そのため、各拠点のオペレータに対し、夜間労働による負担を強いることを回避することができる。なお、上記の構成において、現場システムS1の装置100、200と、少なくとも一つの遠隔制御端末300と、遠隔制御サーバ400およびオペレータ管理サーバ500とを同一国内に配置する構成としても良い。
<引継ぎ制御>
次に、遠隔制御サーバ400の引継ぎ制御部440による引継ぎ制御について説明する。引継ぎ制御部440は、現場システムS1の装置100、200に対する遠隔制御の引継ぎを行う際、一定時間、現在の遠隔制御端末300と次の遠隔制御端末300とに対して同一の出力を行って、両遠隔制御端末300のオペレータが同じ情報を得られるようにする。
図6は、引継ぎ制御部440による引継ぎ制御の動作を示すフローチャートである。引継ぎ制御部440は、引継ぎ時刻の一定時間前になると、オペレータ管理サーバ500に問い合わせて次に制御主体となる遠隔制御端末300(以下、「次端末300」と記載)の情報を取得する(S601、S602)。
次に、引継ぎ制御部440は、引継ぎ待機状態となった旨の通知を次端末300から受信すると(S603)、現在制御主体である遠隔制御端末300(以下、「現端末300」と記載)に対し、制御主体の引継ぎ制御を行うことを報知する(S604)。引継ぎ待機状態とは、次端末300において、制御主体を引き継ぐための準備が完了した状態である。具体的には、例えば、オペレータが遠隔制御端末300による遠隔制御の作業を実行することが可能となった状態である。
次に、引継ぎ制御部440は、引継ぎ制御として、現端末300への出力と同一の出力を次端末300に対して行う(S605)。そして、引継ぎ制御部440は、引継ぎ時刻になったならば、制御主体を現端末300から次端末300へ切り替える(S606、S607)。
以上、本発明の実施形態について説明したが、本発明の技術的範囲は上記実施形態には限定されない。例えば、現場システムS1の装置100、200に対する制御主体となる遠隔制御端末300の切り替えにおいて、現端末300に対する次端末300を単一の遠隔制御端末300に特定するのではなく、予め定められたまたは任意の複数の遠隔制御端末300の中から選択するようにしても良い。
<オペレータの操作について>
次に、遠隔制御端末300のオペレータが行う操作について説明する。
オペレータは、遠隔制御端末300を操作して作用装置200から文章に関する情報である文章情報を出力させることにより、作用装置200の利用者とコミュニケーションを図ることがある。
文章情報としては、例えば、表示媒体に表示される情報や、音の出力媒体から出力される音としての情報等が挙げられる。また、文章情報には、他の態様により出力媒体から出力される情報が含まれてもよい。
ここで、作用装置200から文章情報を出力させるために遠隔制御端末300への文章の入力を要する場合、オペレータが作用装置200の利用者とコミュニケーションを図ろうとするたびに、遠隔制御端末300に文章を入力することが必要になる。
また、例えば、複数の遠隔制御端末300がそれぞれ異なる国に設置される等の場合には、遠隔制御端末300ごとにオペレータが変わることがあり、また、オペレータによって理解可能な言語が異なることがある。この場合に、全ての遠隔制御端末300に一律の言語が出力されると、オペレータによっては、遠隔制御端末300に出力される言語の理解が困難な場合がある。
作用装置200から文章情報を出力させるために遠隔制御端末300への文章の入力を要する場合や、全ての遠隔制御端末300に一律の言語が出力される場合、オペレータによっては、作用装置200の利用者とコミュニケーションを図るための負担が大きくなることがある。
そこで、本実施形態では、遠隔制御端末300に対する操作が行われるボタンに文章情報を予め関連付けておき、このボタンが操作されると、ボタンに関連付けられた文章情報を作用装置200に出力させる。これにより、オペレータは、作用装置200に出力させる文章情報に係る文章を遠隔制御端末300に入力する必要がなくなる。
さらに、本実施形態では、ボタンの操作に応じて作用装置200から出力される文章情報を、オペレータに理解可能な言語により遠隔制御端末300に出力させる。これにより、オペレータは、ボタンの操作に応じて作用装置200から出力される文章情報の内容を理解した上でこのボタンを操作するようになり、作用装置200の利用者とのコミュニケーションを図る場合におけるオペレータの負担の増大が抑制される。
以下では、遠隔制御端末300のオペレータが作用装置200の利用者とコミュニケーションを図る場合におけるオペレータの負担の増大を抑制するための遠隔制御システムSの具体的な構成について説明する。
<介護支援システムの構成>
図7は、遠隔制御システムSの一例としての介護支援システムSAの全体構成例を示す図である。
介護支援システムSAは、被制御側装置の一例としての介護ロボット10と、遠隔制御端末300A、300B、300Cと、遠隔制御サーバ400Aとを備える。本実施形態の介護ロボット10は、少なくとも、図1に示した情報取得装置100および作用装置200を有する。介護ロボット10と遠隔制御サーバ400A、および遠隔制御端末300A、300B、300Cと遠隔制御サーバ400Aとは、ネットワークを介して接続されている。
本実施形態の介護支援システムSAは、遠隔制御端末が操作されることにより、介護ロボット10に文章情報を出力させる。また、遠隔制御端末の操作に応じて介護ロボット10に出力させる文章情報を、遠隔制御端末において設定されている言語により遠隔制御端末に出力させる。
介護ロボット10は、病院や介護施設等、被介護者が居住する施設に設けられる。ここで、被介護者は、介護ロボット10を利用する利用者として捉えられる。
介護ロボット10は、遠隔制御端末により遠隔制御されることで動作する。本実施形態の介護ロボット10は、ビデオカメラ11と、スピーカー12と、情報表示部13とを備える。
ビデオカメラ11は、撮影領域内の被写体を撮影する。本実施形態の介護ロボット10は、撮影中の動画をデジタル・データとして、遠隔制御サーバ400Aへ送信する機能を備える。
スピーカー12は、音声を出力する。スピーカー12は、例えば、遠隔制御サーバ400Aから取得した文章情報を、音声により出力する。
情報表示部13は、情報を表示する。情報表示部13は、例えば、遠隔制御サーバ400Aから取得した文章情報を表示する。
遠隔制御端末300Aは、出力装置330の一例としての情報表示部330Aと、操作装置350の一例としての操作部350Aとを備える。また、遠隔制御端末300B、300Cは、遠隔制御端末300Aと同じ構成である。
操作部350Aには、キーボードが設けられている。本実施形態の遠隔制御端末300Aは、キーボードにおける一のボタンが操作されると、この一のボタンが操作されたことを示す操作情報を遠隔制御サーバ400Aに送信する。ここで、操作部350Aのキーボードにおける各ボタンは、操作されると信号を出力する操作子として捉えられる。
なお、図7に示す例では、三台の遠隔制御端末300A、300B、300Cを示したが、遠隔制御端末の台数は図示の三台には限定されない。例えば、二台以下の遠隔制御端末が設けられてもよいし、四台以上の遠隔制御端末が設けられてもよい。
<遠隔制御サーバの機能構成>
次に、遠隔制御サーバ400Aの機能構成について説明する。なお、以下では、遠隔制御サーバ400Aが有する特徴的な機能構成について説明する。そのため、以下で説明する遠隔制御サーバ400Aの各機能部は、図3を用いて説明した遠隔制御サーバ400の各機能部に厳密に対応するものではない。
図8は、遠隔制御サーバ400Aの機能構成例を示した図である。
図8に示すように、遠隔制御サーバ400Aは、送受信部401Aと、記憶部402Aと、文章設定部403Aと、動作検出部404Aと、評価部405Aと、動画作成部406Aと、過去評価通知部407Aとを備える。
受信手段の一例としての送受信部401Aは、ネットワークを介して、介護ロボット10および遠隔制御端末300Aと接続するためのネットワーク・インターフェイスである。送受信部401Aは、例えば、介護ロボット10から動画を受信すると、この動画を、遠隔制御端末300Aに送信する。これにより、遠隔制御端末300Aの情報表示部330Aには、介護ロボット10に撮影されている映像が表示される。そのため、送受信部401Aは、動画を遠隔制御端末300Aに送信する送信手段としても捉えられる。
記憶手段の一例としての記憶部402Aは、送受信部401Aが受信した動画を記憶する。また、記憶部402Aは、遠隔制御端末300Aのキーボードにおける各ボタンと、複数の言語の文章情報とを関連付けて記憶する。記憶部402Aの記憶内容については、後に詳述する。
出力制御手段の一例としての文章設定部403Aは、遠隔制御端末300Aや介護ロボット10に送信する文章情報を設定する。
文章設定部403Aは、遠隔制御端末300Aにおける言語の設定に関する情報である設定情報を、送受信部401Aを介して遠隔制御端末300Aから取得する。また、文章設定部403Aは、介護ロボット10における言語の設定に関する情報である設定情報を、送受信部401Aを介して介護ロボット10から取得する。設定情報としては、例えば、対象の装置(遠隔制御端末300Aや介護ロボット10)に用いられる言語として対象の装置において設定されている言語を示す情報が挙げられる。遠隔制御サーバ400Aは、例えば、対象の装置から設定情報を取得していない状態で対象の装置に接続された際に、この対象の装置から設定情報を取得する。
文章設定部403Aは、遠隔制御端末300Aから設定情報を取得すると、取得した設定情報から、遠隔制御端末300Aに用いられる言語として遠隔制御端末300Aに設定されている言語を特定する。そして、特定した言語の文章情報を、送受信部401Aを介して遠隔制御端末300Aに送信し、遠隔制御端末300Aに出力させる。
また、文章設定部403Aは、介護ロボット10から設定情報を取得すると、取得した設定情報から、介護ロボット10に用いられる言語として介護ロボット10に設定されている言語を特定する。さらに、文章設定部403Aは、送受信部401Aを介して遠隔制御端末300Aから操作情報を取得すると、取得した操作情報に基づいて、特定の文章情報を、送受信部401Aを介して介護ロボット10に送信し、介護ロボット10に出力させる。この場合に、設定情報に基づいて特定した言語により文章情報を出力させる。
ここで、出力対象となる文章情報は、記憶部402Aに保持された情報により特定される。記憶部402Aでは、後述する文章情報管理テーブルにより出力対象の文章情報を管理している。
検出手段の一例としての動作検出部404Aは、送受信部401Aを介して介護ロボット10から取得した動画に映っている被介護者の動作や表情を検出する。
動作検出部404Aは、動画を解析し、被介護者の部位が映っている領域を識別する。具体的には、被介護者の全体が映っている領域、被介護者の頭部、体部、腕部、手部、指等が映っている領域、頭部の顔、目、口、鼻、耳などが映っている領域、上半身、下半身が映っている領域、その他身体の各特徴点が映っている領域等を識別する。識別対象の部位としては、予め定められた部位を全て識別してもよいし、後述する評価部405Aによる評価に用いられる部位のみを識別してもよい。
また、動作検出部404Aは、識別した領域に映っている身体の部位を特定し、特定した部位ごとの動作を検出する。具体的には、頭の動き、顔の向き、顔の構成部位(目、口など)の動き、腕や脚の動き、身体の向き、身体の移動等の動作を検出する。検出対象の動作としては、予め定められた動作を全て対象として検出してもよいし、後述する評価部405Aによる評価に用いられる動作のみを検出してもよい。
また、動作検出部404Aは、識別した領域に映っている顔を特定し、特定した顔の表情を検出する。具体的には、笑顔、苦しんでいる顔、困っている顔、悲しんでいる顔、怒っている顔等の表情を検出する。検出対象の表情としては、予め定められた表情を全て対象として検出してもよいし、後述する評価部405Aによる評価に用いられる表情のみを検出してもよい。
評価手段の一例としての評価部405Aは、動作検出部404Aにより検出された被介護者の動作や表情に応じて、予め定められた評価基準に基づいて評価を行う。この評価は、オペレータによる遠隔制御端末300Aの操作に対する評価である。すなわち、本実施形態では、介護ロボット10から出力された文章情報に対する被介護者の反応に基づいて、この文章情報を出力するためにオペレータが行った操作を評価する。
評価対象の動作や表情としては、遠隔制御サーバ400Aが文章情報を介護ロボット10に送信してから予め定められた期間(例えば10秒)における被介護者の動作や表情としてもよい。この予め定められた期間は、介護ロボット10から出力された文章情報に対して被介護者が反応し得る期間として定められた期間である。
なお、評価部405Aにより行われた評価は記憶部402Aに記憶される。
作成手段の一例としての動画作成部406Aは、送受信部401Aを介して介護ロボット10から取得した動画に基づいて評価動画を作成する。評価動画は、オペレータの操作に対する評価をオペレータが確認するための動画である。評価動画には、被介護者の動作や表情に加えて、評価部405Aにより行われた評価が表示された映像が含まれる。
なお、動画作成部406Aの具体的な処理については、後に詳述する。
過去評価通知部407Aは、遠隔制御端末300Aに、評価部405Aにより過去に行われた評価を通知する。広義には、過去評価通知部407Aも出力制御手段として捉えられる。
なお、過去評価通知部407Aの具体的な処理については、後に詳述する。
<記憶部の記憶内容>
次に、記憶部402Aの記憶内容について説明する。
図9は、文章情報管理テーブルの一例を示した図である。
図9に示す文章情報管理テーブルは、遠隔制御端末300Aにおける操作部350Aに設けられているキーボードのボタンと、複数の言語の文章情報とを関連付けて管理するためのテーブルである。
文章情報管理テーブルでは、「ボタン」に、遠隔制御端末300Aに設けられているキーボードのボタンが示されている。また、「文章情報」に、複数の言語の文章情報が示されている。
文章情報管理テーブルでは、「ボタン」ごとにそれぞれ異なる内容の文章情報が関連付けられている。また、各「ボタン」には、複数の言語の文章情報が関連付けられている。一の「ボタン」に関連付けられている複数の言語の文章情報は、何れも同一の内容である。一例を挙げると、「a」ボタンには、「日本語」の「どこか痛いですか?」という文章情報、「英語」の「Does it hurt somewhere?」という文章情報、「スペイン語」の「?Duele en algunlugar?」という文章情報等、同一の内容からなる複数の言語の文章情報が関連付けられている。
<文章設定部の処理>
次に、文章設定部403Aによる処理について説明する。文章設定部403Aは、上述の通り、遠隔制御端末300Aから取得した設定情報に基づいて一の言語を特定する。そして、文章情報管理テーブル(図9参照)に示されている複数の言語の文章情報のうち、特定した言語の文章情報を遠隔制御端末300Aの情報表示部330Aに表示させる。この場合に、文章設定部403Aは、文章情報管理テーブルに示されている各「ボタン」に関連付けられている文章情報を全て表示させる。
また、文章設定部403Aは、介護ロボット10から取得した設定情報に基づいて一の言語を特定する。また、遠隔制御端末300Aから取得した操作情報に基づいて、遠隔制御端末300Aにおいて操作されたボタンを特定する。そして、文章情報管理テーブルに示されている「ボタン」のうちの特定したボタンに関連付けられている「文章情報」を、特定した言語により介護ロボット10に出力させる。この場合に、文章情報を、介護ロボット10のスピーカー12に音声として出力させるとともに、情報表示部13に表示させる。
<コミュニケーションの内容>
次に、オペレータが被介護者と行うコミュニケーションの内容について、遠隔制御端末300Aの情報表示部330Aに表示される画面を参照しながら説明する。
図10〜図13は、介護ロボット10により撮影中の被写体が映された撮影画面361を示した図である。以下の例では、介護ロボット10に用いられる言語として日本語が設定されており、遠隔制御端末300Aに用いられる言語として英語が設定されているものとする。
図10(a)に示すように、撮影画面361には、被介護者「Aさん」の映像が表示されている。また、撮影画面361には、時刻情報362が表示されている。時刻情報362には、介護ロボット10により撮影が行われている時刻が「2018年8月1日22時00分」である旨が示されている。
また、撮影画面361には、文章情報説明部363が表示されている。文章情報説明部363には、一行ごとに、遠隔制御端末300Aにおけるキーボードのボタンおよび文章情報管理テーブル(図9参照)にてこのボタンに関連付けられている英語の文章情報が表示されている。なお、図示の例では、「a」ボタンに関連付けられている文章情報のみが明示されているが、文章情報説明部363には、文章情報管理テーブルにて各ボタンに関連付けられている文章情報が全て表示される。
図10(a)に示した撮影画面361には、Aさんが映っている。オペレータは、撮影画面361に映っているAさんを見て、例えば、Aさんの表情が苦しんでいる表情であると判断する。この場合に、オペレータが遠隔制御端末300Aにおけるキーボードの「a」ボタンを操作すると、情報表示部330Aには、図10(b)に示すように、介護ロボット10に出力させる文章情報を確認する確認画面364が表示される。確認画面364には、オペレータが操作したキーボードの「a」ボタンおよびこのボタンに関連付けられている英語の文章情報「Does it hurt somewhere?」を示す文章情報確認部365が表示されている。
オペレータが確認画面364に表示されているキャンセルボタン366を操作すると、文章情報は介護ロボット10から出力されない。一方、確認画面364に表示されているOKボタン367を操作すると、日本語の文章情報「どこか痛いですか?」が、介護ロボット10のスピーカー12から音声として出力される(図11(a)参照)。また、この文章情報「どこか痛いですか?」が、介護ロボット10の情報表示部13に表示される。
介護ロボット10から文章情報が出力されると、Aさんは、出力された文章情報に対して反応する。これにより、図11(b)に示すように、撮影画面361には、口を指差すAさんの映像が表示される。オペレータは、出力された文章情報に対するAさんの反応から、例えば、Aさんが口を痛めていると判断する。なお、Aさんが、出力された文章情報に対する反応として、「口が痛い」旨を音声により発した場合に、この音声が遠隔制御端末300Aから出力されてもよい。オペレータが、Aさんが音声により発した文章の言語を理解可能である場合には、Aさんが口を痛めていることをAさんの音声から判断することもできる。
続いて、オペレータが遠隔制御端末300Aにおけるキーボードの「c」ボタンを操作すると、図12(a)に示すように、再び確認画面364が表示される。この確認画面364の文章情報確認部365には、オペレータが操作したボタン「c」およびこのボタンに関連付けられている英語の文章情報「Please open your mouth.」が表示される。
オペレータがOKボタン367を操作すると、日本語の文章情報「口を開いてください」が、介護ロボット10のスピーカー12から出力される(図12(b)参照)。また、この文章情報「口を開いてください」が、情報表示部13に表示される。
介護ロボット10から文章情報が出力されると、Aさんは、出力された文章情報に対して反応する。これにより、図13に示すように、撮影画面361には、口を開いたAさんの映像が表示される。
この後、オペレータは、例えば、介護ロボット10を用いてAさんの状態を更に詳しく確認してもよいし、介護ロボット10が設けられている施設のスタッフに連絡を取ってもよい。
このように、本実施形態では、遠隔制御サーバ400Aは、遠隔制御端末300Aから操作情報を受信すると、操作情報から特定されるボタンに関連付けられた文章情報を介護ロボット10に出力させる。また、遠隔制御サーバ400Aは、遠隔制御端末300Aから設定情報を受信すると、文章情報を、設定情報から特定される言語により遠隔制御端末300Aに表示させる。
<評価部の処理>
次に、評価部405Aによる処理について説明する。評価部405Aは、動作検出部404Aにより検出された被介護者の動作や表情に基づいて、オペレータの操作を評価する。例えば、オペレータの操作により介護ロボット10に出力された文章情報に対して被介護者が頷く動作を行ったり喜んだりした場合は、オペレータのこの操作に対して高い評価が与えられる。また、例えば、被介護者が首を横に振る動作を行ったり怒ったりした場合は、オペレータの操作に対して低い評価が与えられる。一例を挙げると、文章情報「どこか痛いですか?」(図11(a)参照)に対して被介護者が具体的な身体の一部を指した(図11(b)参照)場合には、オペレータと被介護者との間でコミュニケーションが取れていると考えられる。この場合には、オペレータの操作に対して高い評価が与えられる。
その他、介護ロボット10から出力される文章情報に応じて様々な評価基準を設定してもよい。オペレータの操作に対する評価は、例えば、オペレータの操作のたびに与えられた評価の一日における累積評価として得られる。この累積評価は、評価情報として遠隔制御サーバ400Aから遠隔制御端末300Aに送信されてもよい。
<評価管理テーブル>
次に、記憶部402Aに記憶されている評価管理テーブルについて説明する。
図14は、評価管理テーブルの一例を示した図である。
図14に示す評価管理テーブルは、評価部405Aがオペレータの操作に対して行った評価を管理するためのテーブルである。
評価管理テーブルでは、「被介護者」に、動作検出部404Aにより動作や表情が検出された被介護者が示されている。また、「動作または表情」に、遠隔制御サーバ400Aが遠隔制御端末300Aから操作情報を取得した際に動作検出部404Aに検出された「被介護者」の動作または表情が示されている。また、「ボタン」に、遠隔制御サーバ400Aが取得した操作情報から特定されるボタンが示されている。また、「文章情報」に、操作情報から特定される「ボタン」に関連付けられている文章情報が示されている。また、「反応」に、介護ロボット10から出力された「文章情報」に対する反応として検出された「被介護者」の動作または表情が示されている。「反応」には、例えば、遠隔制御サーバ400Aが介護ロボット10に「文章情報」を送信してから予め定められた期間が経過するまでに検出された「被介護者」の動作または表情が挙げられる。また、「評価」に、評価部405Aがオペレータの操作に対して行った評価が示されている。この「オペレータの操作」とは、「文章情報」を出力するためにオペレータが行った操作である。
ここで、「遠隔制御サーバ400Aが遠隔制御端末300Aから操作情報を取得した際」には、オペレータがこの操作情報に係るボタンを操作したときも含まれる。また、オペレータがボタンを操作したときには、オペレータが確認画面364におけるOKボタン367(図10(b)参照)を操作したときも含まれる。
評価管理テーブルに示されている内容の一例を説明する。
評価管理テーブルには、オペレータが操作した「a」ボタン、「a」ボタンに関連付けられている文章情報「Does it hurt somewhere?」、「a」ボタンが操作されたときに検出されていた被介護者「Aさん」の「苦しんでいる」表情(図10(b)参照)がそれぞれ関連付けられている。さらに、介護ロボット10から出力された文章情報に対する反応として検出された「Aさん」の「口を指差す」動作、および、評価部405Aがオペレータの操作に対して行った評価「○」がそれぞれ関連付けられている。なお、評価「○」は、高い評価を意味する。また、低い評価としては、例えば、評価「×」が用いられても良い。
また、評価としては、「〇」や「×」などの符号のみならず、「優」、「良」、「悪」などの言葉や、「1」、「2」、「3」などの予め定められた段階(例えば3段階)からなる数字が用いられても良い。評価として予め定められた段階からなる数字が用いられる場合に、例えば、大きい数字ほど高い評価を意味しても良いし、小さい数字ほど高い評価を意味しても良い。
<動画作成部の処理>
次に、動画作成部406Aによる処理について説明する。動画作成部406Aは、介護ロボット10から取得した動画に基づいて、評価動画を作成する。
動画作成部406Aは、評価管理テーブル(図14参照)に示された「被介護者」の「動作または表情」と、この「動作または表情」に関連付けられている「文章情報」とが表示された映像を作成する。一例を挙げると、「Aさん」が「苦しんでいる」表情(図10(b)参照)と、評価管理テーブルにて「苦しんでいる」表情に関連付けられている文章情報「Does it hurt somewhere?」とが表示された映像を作成する。
また、動画作成部406Aは、評価管理テーブルに示された「被介護者」の「反応」と、この「反応」に関連付けられている「評価」とが表示された映像を作成する。一例を挙げると、「Aさん」が「口を指差す」反応(図11(b)参照)と、評価管理テーブルにて「口を指差す」反応に関連付けられている評価「○」とが表示された映像を作成する。
そして、動画作成部406Aは、「被介護者」の「動作または表情」と、「文章情報」とが表示された映像、および「被介護者」の「反応」と、「評価」とが表示された映像を含む一連の映像を、評価動画として作成する。
動画作成部406Aは、作成した評価動画を、送受信部401Aを介して遠隔制御端末300Aに送信する。オペレータは、評価動画を見ることで、自らの操作に対する評価を認識する。また、例えば予め定められた基準値よりも高い評価に係る動画は、手本動画として、この評価に係る操作が行われた遠隔制御端末(遠隔制御端末300A)とは異なる遠隔制御端末(遠隔制御端末300B、300Cなど)に送信されてもよい。
<過去評価通知部の処理>
次に、過去評価通知部407Aによる処理について説明する。図15は、過去評価通知部407Aによる処理を説明するための図である。
図15(a)に示すように、遠隔制御端末300Aの情報表示部330Aには、撮影画面361が表示されている。撮影画面361には、介護ロボット10により撮影中のAさんの映像が表示されている。この撮影画面361の時刻情報362には、介護ロボット10により撮影が行われている時刻が「2018年8月2日23時00分」である旨が示されている。また、撮影中のAさんの映像は、遠隔制御サーバ400Aにも保持されており、動作検出部404Aは、撮影中のAさんの動作や表情を検出する。
図15(a)に示した撮影画面361には、苦しんでいる表情のAさんが映っている。そのため、動作検出部404Aにより、Aさんが苦しんでいる表情が検出される。検出された「Aさん」の「苦しんでいる」表情は、評価管理テーブル(図14参照)にて「Aさん」に関連付けられている「動作または表情」である。
この場合、過去評価通知部407Aは、「Aさん」の「苦しんでいる」表情に関連付けられているボタン「a」、文章情報「Does it hurt somewhere?」、および評価「○」を、図15(b)に示すように、撮影画面361に表示させる。オペレータは、撮影画面361に表示された文章情報368、ボタン369および評価370を参照しながら、遠隔制御端末300Aの操作を行う。
このように、本実施形態では、撮影中の動画から、記憶手段の評価管理テーブルにて管理されている「被介護者」の「動作または表情」が検出された場合に、この「動作または表情」に関連付けられている「ボタン」、「文章情報」、および「評価」を、遠隔制御端末300Aの情報表示部330Aに表示させる。
なお、過去評価通知部407Aは、一のオペレータの操作に対する過去の評価を、他のオペレータが操作する遠隔制御端末に表示させてもよい。
以上、本実施形態について説明したが、本発明の技術的範囲は上記実施形態には限定されない。
例えば、介護ロボット10の利用者ごとに、遠隔制御端末300Aにおけるキーボードのボタンに関連付けられる文章情報を設定してもよい。この場合、遠隔制御サーバ400Aの記憶部402Aには、利用者ごとの文章情報管理テーブルが設けられ、各文章情報管理テーブルにおいては、対象の利用者に適した文章情報がキーボードのボタンに関連付けられる。そして、遠隔制御サーバ400Aは、対象の利用者に係る文章情報管理テーブルに基づいて、対象の利用者に応じた文章情報を遠隔制御端末300Aや介護ロボット10に出力させる。
また、例えば、文章情報が出力される被制御側装置ごとに、遠隔制御端末300Aにおけるキーボードのボタンに関連付けられる文章情報を設定してもよい。この場合、遠隔制御サーバ400Aの記憶部402Aには、被制御側装置ごとの文章情報管理テーブルが設けられ、各文章情報管理テーブルにおいては、対象の被制御側装置に適した文章情報がキーボードのボタンに関連付けられる。そして、遠隔制御サーバ400Aは、対象の被制御側装置に係る文章情報管理テーブルに基づいて、対象の被制御側装置に応じた文章情報を遠隔制御端末300Aや対象の被制御側装置に出力させる。
また、例えば、遠隔制御端末ごとに、キーボードのボタンに関連付けられる文章情報を設定してもよい。この場合、遠隔制御サーバ400Aの記憶部402Aには、遠隔制御端末ごとの文章情報管理テーブルが設けられ、各文章情報管理テーブルにおいては、対象の遠隔制御端末に適した文章情報がキーボードのボタンに関連付けられる。そして、遠隔制御サーバ400Aは、対象の遠隔制御端末に係る文章情報管理テーブルに基づいて、対象の遠隔制御端末に応じた文章情報を対象の遠隔制御端末や被制御側装置に出力させる。
また、本実施形態では、複数の言語の文章情報を予め記憶部402Aに記憶させ、文章設定部403Aは、記憶されている複数の言語の文章情報のうち特定の言語の文章情報を対象の装置に出力させているが、これに限定されない。
例えば、単一の言語の文章情報を予め記憶部402Aに記憶させ、記憶されているこの文章情報を、対象の装置に応じた言語に翻訳してからこの対象の装置に出力させてもよい。
また、本実施形態では、遠隔制御端末300Aにおけるキーボードのボタンが操作されると文章情報を介護ロボット10に出力させるようにしたが、これに限定されない。
例えば、遠隔制御端末300Aのタッチパネルのボタンに文章情報を予め関連付け、このタッチパネルのボタンが操作されると、操作されたボタンに関連付けられている文章情報を介護ロボット10に出力させてもよい。この場合に、遠隔制御端末300Aのタッチパネルにおける各ボタンは、操作されると信号を出力する操作子として捉えられる。
また、本実施形態では、遠隔制御サーバ400Aが介護ロボット10から動画を取得し、取得した動画に映っている被介護者の態様に応じて、オペレータの操作に対する評価を行っているが、これに限定されない。
例えば、遠隔制御サーバ400Aが介護ロボット10から画像を取得し、取得した画像に映っている被介護者の態様を検出し、検出された被介護者の態様に応じて、オペレータの操作に対する評価を行ってもよい。この場合に、送受信部401Aは、動画および画像の少なくとも一方を取得する取得手段として捉えられる。
また、例えば、動画に記録されている被介護者の音声を検出し、検出された音声に応じて、オペレータの操作に対する評価を行ってもよい。
この場合、動作検出部404Aは、被介護者から発せられる言葉や声色を検出する。そして、評価部405Aは、検出された言葉や声色に応じて、予め定められた評価基準に基づいて評価を行ってもよい。この場合に、被介護者から発せられる言葉や声色は、被介護者の態様として捉えられる。
また、本実施形態では、文章情報を遠隔制御端末300Aの情報表示部330Aに表示させているが、これに加えて、文章情報を音声として遠隔制御端末300Aに出力させてもよい。
その他、本発明の技術思想の範囲から逸脱しない様々な変更や構成の代替は、本発明に含まれる。
S…遠隔制御システム、SA…介護支援システム(遠隔制御システムSの一例)、S1…現場システム、S2…オペレーション・システム、100…情報取得装置、200…作用装置、300A…遠隔制御端末、400A…遠隔制御サーバ、401A…送受信部、402A…記憶部、403A…文章設定部、404A…動作検出部、405A…評価部、406A…動画作成部、407A…過去評価通知部、500…オペレータ管理サーバ

Claims (7)

  1. 遠隔制御端末から、操作されると信号を出力する操作子が操作されたことを示す操作情報を受信する受信手段と、
    前記受信手段が前記操作情報を受信すると、前記操作子に予め関連付けられた文章に関する文章情報を制御の対象となる被制御側装置に出力させる出力制御手段と、
    を備え、
    前記受信手段は、前記遠隔制御端末から、当該遠隔制御端末における設定に関する設定情報を受信し、
    前記出力制御手段は、前記受信手段が前記設定情報を受信すると、前記文章情報を、当該設定情報から特定される言語により前記遠隔制御端末に出力させることを特徴とする、遠隔制御サーバ。
  2. 前記被制御側装置を利用する利用者が映っている動画および画像の少なくとも一方を取得する取得手段と、
    前記取得手段により取得された前記動画および前記画像の少なくとも一方から、前記利用者の態様を検出する検出手段と、
    前記検出手段に検出された前記態様に応じて、予め定められた評価基準に基づいて前記遠隔制御端末の操作者による前記操作子の操作を評価する評価手段と、
    をさらに備えた、請求項1記載の遠隔制御サーバ。
  3. 前記取得手段は、前記利用者が映っている動画を取得し、
    前記動画に基づいて、前記利用者の前記態様、前記評価手段による前記評価、および当該評価に係る前記文章情報が表示された映像を含む動画を作成する作成手段をさらに備えた、請求項2記載の遠隔制御サーバ。
  4. 前記取得手段は、前記利用者が映っている動画を取得し、
    前記受信手段が前記操作情報を取得した際の前記利用者の態様と、前記評価および当該評価に係る前記文章情報と、を関連付けて記憶する記憶手段と、
    撮影されている前記利用者の動画が前記取得手段により取得されると、当該動画を前記遠隔制御端末に送信する送信手段と、
    を備え、
    前記出力制御手段は、撮影されている前記動画から、前記記憶手段に記憶されている前記利用者の前記態様が検出された場合に、当該態様に関連付けられて記憶されている前記評価および前記文章情報を、前記遠隔制御端末に送信した前記動画に表示させることを特徴とする請求項2記載の遠隔制御サーバ。
  5. 前記遠隔制御端末の前記操作子と、複数の言語の前記文章情報とを関連付けて記憶する記憶手段をさらに備え、
    前記設定情報は、前記遠隔制御端末における言語の設定に関する情報であり、
    前記出力制御手段は、前記記憶手段に記憶されている前記文章情報のうち、前記設定情報から特定される言語の前記文章情報を前記遠隔制御端末に出力させることを特徴とする請求項1記載の遠隔制御サーバ。
  6. 制御の対象となる被制御側装置が設けられている地域との間で時差が生じる地域に設けられ、操作者による操作を受け付けて当該被制御側装置を遠隔制御する遠隔制御端末と、
    前記被制御側装置と前記遠隔制御端末とを接続し、当該遠隔制御端末に当該被制御側装置を遠隔制御させる遠隔制御サーバと、を備え、
    前記遠隔制御端末は、操作されると信号を出力する操作子が操作されたことを示す操作情報を送信する送信手段を有し、
    前記遠隔制御サーバは、
    前記遠隔制御端末から前記操作情報を受信する受信手段と、
    前記受信手段が前記操作情報を受信すると、前記操作子に予め関連付けられた文章の文章情報を前記被制御側装置に出力させる出力制御手段と、
    を有することを特徴とする、遠隔制御システム。
  7. 前記受信手段は、前記遠隔制御端末から、当該遠隔制御端末における設定に関する設定情報を受信し、
    前記出力制御手段は、前記受信手段が前記設定情報を受信すると、前記文章情報を、当該設定情報から特定される言語により前記遠隔制御端末に出力させることを特徴とする請求項6記載の遠隔制御システム。
JP2018170888A 2018-09-12 2018-09-12 遠隔制御サーバおよび遠隔制御システム Active JP7027285B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018170888A JP7027285B2 (ja) 2018-09-12 2018-09-12 遠隔制御サーバおよび遠隔制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018170888A JP7027285B2 (ja) 2018-09-12 2018-09-12 遠隔制御サーバおよび遠隔制御システム

Publications (2)

Publication Number Publication Date
JP2020043521A true JP2020043521A (ja) 2020-03-19
JP7027285B2 JP7027285B2 (ja) 2022-03-01

Family

ID=69798857

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018170888A Active JP7027285B2 (ja) 2018-09-12 2018-09-12 遠隔制御サーバおよび遠隔制御システム

Country Status (1)

Country Link
JP (1) JP7027285B2 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003052091A (ja) * 2001-08-07 2003-02-21 Hitachi Ltd プラントの運転監視システム
JP2009151766A (ja) * 2007-11-30 2009-07-09 Nec Corp ライフアドバイザ支援システム、アドバイザ側端末システム、認証サーバ、サーバ、支援方法、及びプログラム
JP2009213056A (ja) * 2008-03-06 2009-09-17 Ntt Docomo Inc 音声自動応答装置、音声自動応答方法、音声自動応答プログラム
JP2011198161A (ja) * 2010-03-22 2011-10-06 Hiromitsu Hama 対象物認識システム及び該システムを利用する監視システム、見守りシステム
JP2015126351A (ja) * 2013-12-26 2015-07-06 ピーアンドダブリューソリューションズ株式会社 履歴管理装置、履歴管理方法及び履歴管理プログラム
US20160360025A1 (en) * 2015-06-03 2016-12-08 Gary Lee Lockwood Health Status Communicator
JP2017162057A (ja) * 2016-03-08 2017-09-14 エジソンハードウェア株式会社 アラームシステム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003052091A (ja) * 2001-08-07 2003-02-21 Hitachi Ltd プラントの運転監視システム
JP2009151766A (ja) * 2007-11-30 2009-07-09 Nec Corp ライフアドバイザ支援システム、アドバイザ側端末システム、認証サーバ、サーバ、支援方法、及びプログラム
JP2009213056A (ja) * 2008-03-06 2009-09-17 Ntt Docomo Inc 音声自動応答装置、音声自動応答方法、音声自動応答プログラム
JP2011198161A (ja) * 2010-03-22 2011-10-06 Hiromitsu Hama 対象物認識システム及び該システムを利用する監視システム、見守りシステム
JP2015126351A (ja) * 2013-12-26 2015-07-06 ピーアンドダブリューソリューションズ株式会社 履歴管理装置、履歴管理方法及び履歴管理プログラム
US20160360025A1 (en) * 2015-06-03 2016-12-08 Gary Lee Lockwood Health Status Communicator
JP2017162057A (ja) * 2016-03-08 2017-09-14 エジソンハードウェア株式会社 アラームシステム

Also Published As

Publication number Publication date
JP7027285B2 (ja) 2022-03-01

Similar Documents

Publication Publication Date Title
JP4386367B2 (ja) コミュニケーションロボット改良システム
WO2018105222A1 (ja) 表示制御装置、表示制御方法およびプログラム
JP5688574B2 (ja) 触覚提示付ロボット
JP4512830B2 (ja) コミュニケーションロボット
US10085423B2 (en) Remote interaction device with tracking of remote movement input
JP2022164926A (ja) 手術支援ロボットの遠隔支援方法、および遠隔支援システム
US20210069894A1 (en) Remote control system, information processing method, and non-transitory computer-readable recording medium
Hai et al. Remote healthcare for the elderly, patients by tele-presence robot
WO2018100878A1 (ja) 提示制御装置、提示制御方法およびプログラム
JP2011097531A (ja) 傾聴対話持続システム
JP7375770B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JPWO2019155735A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP2005131713A (ja) コミュニケーションロボット
WO2019123744A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JPWO2018047426A1 (ja) 仮想生物制御システム、仮想生物制御方法、および記録媒体
CN110178159A (zh) 具有集成式投影仪的音频/视频可穿戴式计算机系统
US20230359422A1 (en) Techniques for using in-air hand gestures detected via a wrist-wearable device to operate a camera of another device, and wearable devices and systems for performing those techniques
JP7027285B2 (ja) 遠隔制御サーバおよび遠隔制御システム
JP2016083711A (ja) テレプレゼンスロボット
JP7023971B2 (ja) サービス提供システム、サービス提供方法およびサービス提供システム用管理装置
US20200234046A1 (en) Information providing system, information providing method and management apparatus for information providing system
JP3218097U (ja) 被支援者用情報処理装置、被支援者用支援システム、サーバ、及び支援者用情報処理装置
JP7212766B2 (ja) コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法
JP7208361B2 (ja) コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法
CN204157025U (zh) 一种智能耳机系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210317

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220216

R150 Certificate of patent or registration of utility model

Ref document number: 7027285

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150