JP6971069B2 - 監視プログラム、監視方法、及び監視装置 - Google Patents

監視プログラム、監視方法、及び監視装置 Download PDF

Info

Publication number
JP6971069B2
JP6971069B2 JP2017132310A JP2017132310A JP6971069B2 JP 6971069 B2 JP6971069 B2 JP 6971069B2 JP 2017132310 A JP2017132310 A JP 2017132310A JP 2017132310 A JP2017132310 A JP 2017132310A JP 6971069 B2 JP6971069 B2 JP 6971069B2
Authority
JP
Japan
Prior art keywords
information
bus
observer
monitoring
voice information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017132310A
Other languages
English (en)
Other versions
JP2019016118A (ja
Inventor
温人 須山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2017132310A priority Critical patent/JP6971069B2/ja
Publication of JP2019016118A publication Critical patent/JP2019016118A/ja
Application granted granted Critical
Publication of JP6971069B2 publication Critical patent/JP6971069B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、監視プログラム、監視方法、及び監視装置に関する。
従来、種々の対象を監視する技術が提供されている。例えば、ビルや家屋等の監視対象を遠隔位置で監視して防犯等の安全対策を行うための監視システムに関する技術が知られている。
特開2004−287922号公報
しかしながら、上記の従来技術では、自動運転技術により運行されるバス等の移動体を適切に監視可能にすることが難しい。例えば、移動体から遠隔に位置する監視者が移動体を動画像(画像)や音声に基づいて監視する場合、移動体において検知された音が、監視者に対して出力された場合、監視装置に表示されたいずれの画像に対応するかを、監視者が把握することが難しい場合がある。
本願は、上記に鑑みてなされたものであって、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にする監視プログラム、監視方法、及び監視装置を提供することを目的とする。
本願に係る監視プログラムは、監視者が遠隔監視する移動体であって、自動運転により動作する移動体において検知された複数の音声情報を取得する取得手順と、前記取得手順により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知する通知手順と、を備えたことを特徴とする。
実施形態の一態様によれば、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができるという効果を奏する。
図1は、実施形態に係る監視処理の一例を示す図である。 図2は、実施形態に係る監視システムの構成例を示す図である。 図3は、実施形態に係る監視装置の構成例を示す図である。 図4は、実施形態に係る移動体情報記憶部の一例を示す図である。 図5は、実施形態に係る決定装置の構成例を示す図である。 図6は、実施形態に係る移動体情報記憶部の一例を示す図である。 図7は、実施形態に係る監視者情報記憶部の一例を示す図である。 図8は、実施形態に係る監視対応情報記憶部の一例を示す図である。 図9は、実施形態に係る監視処理の一例を示す図である。 図10は、実施形態に係る表示の変更の一例を示す図である。 図11は、実施形態に係る監視処理の一例を示す図である。 図12は、実施形態に係る表示の変更の一例を示す図である。 図13は、実施形態に係る監視処理の一例を示すフローチャートである。 図14は、1つの移動体を対象とした監視処理の一例を示す図である。 図15は、監視装置及び決定装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
以下に、本願に係る監視プログラム、監視方法、及び監視装置を実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る監視プログラム、監視方法、及び監視装置が限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
(実施形態)
〔1.監視処理〕
まず、図1を用いて、実施形態に係る監視処理の一例について説明する。図1は、実施形態に係る監視処理の一例を示す図である。図1に示す例では、決定装置100(図5参照)が、道路を自動走行する自動運転バス(以下、単に「バス」ともいう)を遠隔で監視する監視者(操作者)を種々の情報に基づいて変更(決定)する場合を示す。また、図1に示す例では、決定装置100は、道路を自動走行するバスを遠隔で監視する監視者(操作者)を種々の情報に基づくタイミングで変更する。具体的には、決定装置100が、複数のバス20−1〜20−5を対象として、各バス20−1〜20−5を遠隔で監視する監視者を各種の条件に基づくタイミングで変更する場合を示す。また、図1では、各監視者(操作者)が、複数台のバスを遠隔監視する場合を示す。
また、図1に示す例では、バス20−1〜20−5が、各々に対応付けられた運行ルートに基づいて動作する場合を示す。例えば、バス20−1〜20−5は、公道を所定の運行ルートで走行する。なお、バス20−1〜20−5は、運行ルートに基づいて走行する場合に限らず、搭乗者の行先の指定に応じたルートで走行してもよい。図1では、自動走行する車両であるバスを対象とする場合を示すが、移動体は、バスに限らず、種々の移動体であってもよい。例えば、対象はバスに限らず、タクシーやトラック等の貨物自動車等の種々の事業用自動車が対象であってもよい。また、例えば、移動体は、自家用自動車、いわゆる自家用車であってもよい。例えば、監視システム1(図2参照)における監視処理の対象となる移動体が運搬するものは、人に限らず種々の物体であってもよい。言い換えると、監視システム1における移動体の運送の客体となるものは、人や人以外の物品等の有体物を含む種々の対象であってもよい。
〔監視システムの構成〕
図1の説明に先立って、図2を用いて監視システム1の構成について説明する。図2は、実施形態に係る監視システムの構成例を示す図である。図2に示すように、監視システム1は、監視装置10−1と、監視装置10−2と、バス20−1と、バス20−2と、決定装置100とが含まれる。例えば、監視システム1は、いわゆる遠隔型自動走行システムであってもよい。ここでいう遠隔型自動走行システムとは、自動車(移動体)から遠隔に存在する運転者(監視者や操作者)が電気通信技術を利用して、その自動車の運転操作を行うことができる自動運転技術に関するシステムを意味する。
以下では、監視装置10−1、10−2について、特に区別なく説明する場合には、監視装置10と記載する。なお、図2に示した監視システム1では、2台の監視装置10−1、10−2を図示するが、監視システム1には、3台以上の監視装置10が含まれてもよい。また、図2に示した監視システム1では、2台のバス20−1、20−2を図示するが、監視システム1には、図1に示すように5台のバス20−1〜20−5が含まれてもよい。また、以下では、バス20−1〜20−5について、特に区別なく説明する場合には、バス20と記載する。なお、監視システム1には、6台以上のバス20が含まれてもよい。また、図2に示すように、監視装置10と、バス20と、決定装置100とは所定のネットワークNを介して、有線または無線により通信可能に接続される。なお、図2に示した監視システム1には、複数台の決定装置100が含まれてもよい。
監視装置10は、バス20を遠隔監視する監視者によって利用される情報処理装置である。監視装置10は、監視者が移動体を監視するための端末装置である。例えば、監視者A1や監視者A2等の監視者は、バス20による旅客輸送の事業を行う事業者(企業)の従業員等であってもよい。例えば、監視者A1や監視者A2は、バス20による運輸業を営む交通機関の被雇用者等であってもよい。例えば、監視者A1や監視者A2は、バス20による運輸業を営む交通機関の所在地(ビル等)において遠隔監視業務に従事する従事者であってもよい。なお、「監視者A*(*は任意の数値)」と記載した場合、その監視者は監視者ID「A*」により識別されるユーザであることを示す。例えば、「監視者A1」と記載した場合、その監視者は監視者ID「A1」により識別される監視者である。
監視装置10は、例えば、ノート型PCや、デスクトップPCにより実現される。また、監視装置10は、スマートフォンや、タブレット型端末や、携帯電話機や、PDA等の情報処理装置であってもよい。また、監視装置10は、メガネ型端末等のウェアラブル端末であってもよい。すなわち、監視装置10は、監視者が遠隔監視業務を遂行可能であれば、どのような情報処理装置であってもよい。図1の例では、図示を簡単にするために、監視装置10がノート型PCである場合を示す。
バス20は、自動運転により走行する移動体である。例えば、バス20は、自動運転に関する種々の従来技術を適宜用いて自動走行する移動体である。また、バス20は、遠隔に存在する監視者が電気通信技術を利用して、そのバス20を遠隔監視や遠隔操作することができる移動体である。また、バス20は、図示は省略するが通信機能を有し、監視装置10や決定装置100との間での情報通信が可能な移動体であるものとする。また、バス20は、図示は省略するが情報処理機能を有し、監視装置10や決定装置100から受信した情報に基づいて制御される移動体であるものとする。
また、バス20は、カメラ(図示省略)やマイクロフォン(図示省略)等の種々のセンサを備え、バス20の周囲やバス20内の状況を示す情報を検知可能である。バス20に搭載されるカメラは、バス20の周囲やバス20内の画像や動画像を撮像可能であれば、どのようなセンサであってもよい。例えば、カメラは、CCD(Charge-Coupled Device)イメージセンサ等の種々のセンサであってもよい。バス20に搭載されるマイクロフォンは、バス20の周囲やバス20内の音声を集音可能であれば、どのようなセンサであってもよい。
また、バス20は、監視者が利用する監視装置10や決定装置100に、カメラで検知(撮像)した動画像を送信する。例えば、バス20は、監視者が利用する監視装置10や決定装置100に、カメラで検知した動画像をリアルタイムで送信する。また、バス20は、監視者が利用する監視装置10や決定装置100にマイクロフォンで検知(集音)した音声を送信する。例えば、バス20は、監視者が利用する監視装置10や決定装置100に、マイクロフォンで検知した音声をリアルタイムで送信する。
また、バス20は、GPS(Global Positioning System)センサ等の位置情報を検知可能なセンサ(以下、「位置センサ」ともいう)を有し、バス20の位置を検知可能であるものとする。例えば、バス20は、監視者が利用する監視装置10や決定装置100に位置センサで検知した位置情報を送信する。例えば、バス20は、監視者が利用する監視装置10や決定装置100に、位置センサで検知した位置情報をリアルタイムで送信する。
また、バス20は、監視者等による外部からの指示を受信していない間は、カメラやマイクロフォンで検知した情報に基づいて、指定されたルートを自律的に走行可能であるものとする。なお、バス20は、カメラやマイクロフォンに限らず、レーダー等の種々の従来技術を用いて、自律的に走行を行ってもよい。また、図1に示す例におけるバス20には、バス20内においてバス20を操作する操作者、いわゆる運転手は搭乗していないものとする。
決定装置100は、監視者に関する情報に基づいて、一の監視者の監視状況が所定の条件を満たすかどうかに応じて、複数の移動体の自動運転に関する態様を決定する情報処理装置である。また、決定装置100は、複数の移動体に関する情報に基づいて、当該複数の移動体の状況が所定の条件を満たす場合、複数の移動体の自動運転に関する態様を決定する情報処理装置である。また、決定装置100は、遠隔監視に関する情報に基づいて、複数の移動体を監視する監視者を変更するタイミングを決定する情報処理装置である。例えば、監視者に関する情報には、監視者が監視可能かどうかを示す情報や監視者の監視態様を示す情報や監視者の監視対象となっている移動体に関する情報が含まれてもよい。例えば、移動体に関する情報には、移動体において検知されたセンサ情報(動画像や音声等)や収集された情報が含まれてもよい。例えば、遠隔監視に関する情報には、監視者に関する情報や移動体に関する情報等の種々の情報が含まれてもよい。
ここから、図1を用いて監視処理について説明する。なお、図1の例では、5台のバス20−1〜20−5を2人の監視者A1及び監視者A2が遠隔監視している場合を図示する。なお、監視システム1においては、3人以上の多数(例えば100人)の監視者が5台以上の多数(例えば千台)のバス20を監視していてもよい。
まず、図1に示す地図情報MP11−1について、簡単に説明する。図1に示す地図情報MP11−1は、バス20−1〜20−5の位置やバス20と監視者との関係等を模式的に示す図である。図1に示す地図情報MP11−1は、バス20と監視者との関係の変化、すなわちバス20の監視者の変更を図示するためのものである。
また、以下では、地図情報MP11−1、MP11−2(図9、図11参照)について、特に区別なく説明する場合には、地図情報MP11と記載する。また、図1の例において、地図情報MP11中に示すバス20と監視装置10との間を結ぶ点線が、バス20と監視者との関係を示す。図1中の地図情報MP11−1においては、バス20−1〜20−3と監視者A1が利用する監視装置10−1とが点線で結ばれているため、図1中の地図情報MP11−1に対応する時点では、バス20−1〜20−3が監視者A1により遠隔監視されていることを示す。なお、図1中の点線の矢印は、バス20において収集された情報(以下、「対象情報」ともいう)を監視装置10が取得することを示す。
ここから、図1を用いて、一のバス20において故障の兆候を示す異音が発生した場合における監視処理について説明する。上述したように、図1中の地図情報MP11−1に対応する時点では、バス20−1〜20−3は、監視者A1により遠隔監視されている。また、図1中の地図情報MP11−1に対応する時点では、バス20−4、20−5は、監視者A2により遠隔監視されている。すなわち、図1の例では、決定装置100による監視処理の前の時点では、監視者A1が3台のバス20−1〜20−3を遠隔監視し、監視者A2が2台のバス20−4、20−5を遠隔監視している。図1の例では、バス20の動作状況の確認を要する所定の条件として、バス20において検知された音声情報に通常と異なる音(以下、「異音」ともいう)が含まれる場合を一例に説明する。なお、異音には、バス20における通常とは異なる状況を示唆する音であれば、種々の音が含まれる。例えば、異音には、エンジン等の故障を示す異音のほか、周囲の車両の急ブレーキを示す音、クラクション等の警告を示す音、衝突を示す音等といった移動体の外部において異常が発生したことを特定する音が含まれてもよい。また、乗客の叫び声や罵声等といった移動体の内部において異常が発生したことを特定する音が含まれていてもよい。なお、所定の条件を満たす音声情報を「対象音声情報」と記載する場合がある。
まず、監視者A1が利用する監視装置10−1は、バス20−1の対象情報を取得する(ステップS11−1)。図1の例では、監視装置10−1は、バス20−1の対象情報として、地図情報MP11−1に示すバス20−1において検知された動画像や音声等の種々の情報を取得する。また、監視装置10−1は、図示を省略するが、バス20−1の動画像を画面(図3中の出力部14に対応。以下同じ)に表示したり、音声をスピーカ(図3中のスピーカ16に対応。以下同じ)等により出力したりすることにより、監視者A1がバス20−1を遠隔監視することを可能にする。例えば、監視装置10−1は、取得後直ぐに、バス20−1の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A1がバス20−1をリアルタイムに遠隔監視することを可能にする。
また、監視者A1が利用する監視装置10−1は、バス20−2の対象情報を取得する(ステップS11−2)。図1の例では、監視装置10−1は、バス20−2の対象情報として、地図情報MP11−1に示すバス20−2において検知された動画像や音声等の種々の情報を取得する。また、監視装置10−1は、図示を省略するが、バス20−2の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A1がバス20−2を遠隔監視することを可能にする。例えば、監視装置10−1は、取得後直ぐに、バス20−2の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A1がバス20−2をリアルタイムに遠隔監視することを可能にする。
また、監視者A1が利用する監視装置10−1は、バス20−3の対象情報を取得する(ステップS11−3)。図1の例では、監視装置10−1は、バス20−3の対象情報として、地図情報MP11−1に示すバス20−3において検知された動画像や音声等の種々の情報を取得する。また、監視装置10−1は、図示を省略するが、バス20−3の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A1がバス20−3を遠隔監視することを可能にする。例えば、監視装置10−1は、取得後直ぐに、バス20−3の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A1がバス20−3をリアルタイムに遠隔監視することを可能にする。
また、監視者A2が利用する監視装置10−2は、バス20−4の対象情報を取得する(ステップS11−4)。図1の例では、監視装置10−2は、バス20−4の対象情報として、地図情報MP11−1に示すバス20−4において検知された動画像や音声等の種々の情報を取得する。また、監視装置10−2は、図示を省略するが、バス20−4の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A2がバス20−4を遠隔監視することを可能にする。例えば、監視装置10−2は、取得後直ぐに、バス20−4の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A2がバス20−4をリアルタイムに遠隔監視することを可能にする。
また、監視者A2が利用する監視装置10−2は、バス20−5の対象情報を取得する(ステップS11−5)。図1の例では、監視装置10−2は、バス20−5の対象情報として、地図情報MP11−1に示すバス20−5において検知された動画像や音声等の種々の情報を取得する。また、監視装置10−2は、図示を省略するが、バス20−5の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A2がバス20−5を遠隔監視することを可能にする。例えば、監視装置10−2は、取得後直ぐに、バス20−5の動画像を画面に表示したり、音声をスピーカ等により出力したりすることにより、監視者A2がバス20−5をリアルタイムに遠隔監視することを可能にする。
以下、ステップS11−1〜S11−5を区別せずに説明する場合、ステップS11と総称する。また、ステップS11−1〜S11−5は、バス20と監視装置10との対応関係を示すためのものであり、監視装置10は、監視対象となっているバス20の対象情報を複数回に亘って取得してもよい。
なお、監視装置10は、監視対象となっているバス20から対象情報を取得してもよいし、決定装置100等の外部装置を介してバス20から対象情報を取得してもよい。例えば、決定装置100は、バス20から動画像や音声等の対象情報を取得し、バス20を監視している監視者が利用する監視装置10へ対象情報を送信してもよい。例えば、決定装置100は、バス20から動画像や音声等の対象情報を取得し、移動体情報記憶部121(図6参照)へ記憶してもよい。
また、監視者A1は、ステップS11において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS12−1)。図1の例では、監視者A1は、監視装置10−1によりバス20−1〜20−3の3台のバスを遠隔監視する。監視者A1は、監視装置10−1が画面に表示するバス20−1〜20−3の動画像を見たり、監視装置10−1がスピーカ等により出力するバス20−1〜20−3の音声を聞いたりすることにより、バス20−1〜20−3の3台のバスをリアルタイムに遠隔監視する。
図1の例では、監視装置10−1には、バス20−1に対応する動画像MV11やバス20−2に対応する動画像MV12やバス20−3に対応する動画像MV13が一覧表示される。例えば、動画像MV11には、バス20−1の前方、すなわち通常走行時の進行方向を撮像した動画像MV11−1や、バス20−1の後方を撮像した動画像MV11−2等が含まれる。
また、例えば、動画像MV12には、バス20−2の前方を撮像した動画像MV12−1や、バス20−2の後方を撮像した動画像MV12−2等が含まれる。また、図1の例では図示を省略するが、動画像MV13には、バス20−3の前方を撮像した動画像や、バス20−3の後方を撮像した動画像等が含まれる。
なお、図1の例では、説明を簡単にするために、バス20の前方及び後方の2箇所に対応する動画像を表示する場合を示すが、動画像MV11〜MV15等のバス20における動画像には、前方や後方に限らず、種々の箇所の動画像が含まれてもよい。例えば、バス20における動画像には、バス20の側部、すなわち左右を撮像した動画像やバス20の内部を撮像した動画像が含まれてもよい。また、監視装置10は、各バス20に対応する動画像は、監視者の所望の箇所に切り替え可能に表示してもよい。監視装置10は、監視者がバス20の前方及び内部に対応する動画像を所望する場合、バス20の前方及び内部に対応する動画像を表示してもよい。
また、監視者A2は、ステップS11において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS12−2)。図1の例では、監視者A2は、監視装置10−2によりバス20−4、20−5の2台のバスを遠隔監視する。監視者A2は、監視装置10−2が画面に表示するバス20−4、20−5の動画像を見たり、監視装置10−2がスピーカ等により出力するバス20−4、20−5の音声を聞いたりすることにより、バス20−4、20−5の2台のバスをリアルタイムに遠隔監視する。図1の例では、監視装置10−2には、バス20−4に対応する動画像MV14やバス20−5に対応する動画像MV15が一覧表示される。
図1の例では図示を省略するが、動画像MV14には、バス20−4の前方を撮像した動画像や、バス20−4の後方を撮像した動画像等が含まれ、動画像MV15には、バス20−5の前方を撮像した動画像や、バス20−5の後方を撮像した動画像等が含まれる。
以下、ステップS12−1、S12−2を区別せずに説明する場合、ステップS12と総称する。また、ステップS12−1、S12−2は、監視者A1や監視者A2がバス20を、監視装置10を用いて遠隔監視していることを示すためのものであり、監視者A1や監視者A2は、監視対象となっているバス20を所定の期間(例えば業務時間中等)に亘って継続して監視する。
ここで、バス20−1に所定の事象が発生する(ステップS13)。図1の例では、バス20−1から故障の可能性を示す異音が発生する。そして、監視装置10−1は、バス20−1から取得した音声情報に異音が含まれるため、バス20−1の音声情報を対象音声情報と判定する。なお、バス20−1から取得した音声情報に異音が含まれるかどうかの判定は決定装置100が行ってもよい。この場合、監視装置10は、決定装置100から対象音声情報と画像情報との対応付けを示す情報を取得してもよい。例えば、監視装置10や決定装置100は、バス20−1から取得した音声情報と通常動作時の音声パターンとを比較することにより、音声情報に異音が含まれるかどうかを判定してもよい。また、例えば、監視装置10や決定装置100は、バス20−1から取得した音声情報と、異音と判定される音の一覧情報とを比較することにより、音声情報に異音が含まれるかどうかを判定してもよい。例えば、移動体内外における正常時の音データ(学習データ)から得られる特徴量から正常時のモデルを学習し、バス20−1から取得した音声情報の特徴量と正常時のモデルとの剥離から正常および異常を判定してもよい。なお、上記は一例であり、監視装置10や決定装置100は、バス20−1から取得した音声情報に確認を要する音声が含まれるかどうかを判定可能であれば、どのような情報を用いて、音声情報に異音が含まれるかどうかを判定してもよい。
図1の例では、バス20−1において異音が発生しているため、監視装置10−1は、バス20−1に対応する画像情報を、対象音声情報に対応することを識別可能な表示態様に変更する(ステップS13−1)。すなわち、監視装置10−1は、バス20−1から取得した音声情報が動作状況の確認を要する対象音声情報であるとして、バス20−1を遠隔監視している監視者A1に、その対象音声情報がバス20−1から取得した音声情報であることが把握可能なように表示態様を変更する。
例えば、監視装置10−1は、バス20−1に対応する動画像MV11の色を他の動画像MV12や動画像MV13と異なる色に変更することにより、対象音声情報の発生源がバス20−1であることを識別可能な表示態様で複数の動画像MV11〜MV13を表示する。例えば、監視装置10−1は、バス20−1に対応する動画像MV11のフレームの色を赤や黄色等の注目を引く色に変更することにより、対象音声情報の発生源がバス20−1であることを識別可能な表示態様で複数の動画像MV11〜MV13を表示する。また、表示態様の変更とともに、監視装置10−1は、バス20−1において発生した異音を含む音声を出力する(ステップS13−2)。
このように、監視装置10は、あるバス20が動作状況の確認を要する所定の条件を満たす場合に、そのバス20の動画像を他のバス20の動画像と異なる表示態様に変更することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。なお、監視装置10は、所定の条件を満たす複数の対象音声情報がある場合、複数の対象音声情報の各々のレベルに応じて変動する表示態様で、複数の対象音声情報の各々に対応する画像情報を表示してもよい。例えば、監視装置10は、複数の対象音声情報の各々のうち、レベルが高い方から順にヒートマップのような態様で複数の対象音声情報の各々に対応する画像情報を表示してもよい。例えば、監視装置10は、複数の対象音声情報の各々のうち、レベルが高い方から順に赤、黄色、青等の異なる色で複数の対象音声情報の各々に対応する画像情報を表示してもよい。例えば、監視装置10は、大きさが異なる複数の閾値に基づいて、大きい閾値から順に赤、黄色、青等の異なる色で、閾値を越えた対象音声情報の各々に対応する画像情報を表示してもよい。
(1−1.システム構成)
なお、上述したように、対象音声情報と画像情報との対応付けは、監視システム1中のいずれの構成において行われてもよい。例えば、監視装置10自身が対象音声情報と画像情報との対応付けを行ってもよい。また、決定装置100やバス20が対象音声情報と画像情報との対応付けを行ってもよい。この場合、監視装置10は、決定装置100やバス20から対象音声情報と画像情報との対応付けを示す情報を取得してもよい。このように、監視システム1は、監視装置10が対象音声情報の出力とともにその対象音声情報に対応する画像情報(動画像)を対象音声情報に対応することを識別可能な表示態様で表示可能であればどのように構成されてもよい。
(1−2.対応付けの対象)
図1の例では、複数のバス20のうち、対象音声情報が検知されたバス20がいずれのバス20であるかを識別可能に表示する場合を示したが、監視装置10は、対象音声情報が検知されたバス20のうち、いずれの箇所で検知されたかを識別可能に表示してもよい。この場合、バス20には、対象音声情報が検知された箇所として識別したい各箇所に対応する複数のマイクを有してもよい。また、バス20に設けられたマイクが検知した音声の方向等を種々の従来技術を適宜用いて推定することにより、対象音声情報が検知された箇所を特定してもよい。
例えば、バス20の前方、後方、内部及びエンジン部分にマイクが設置される場合、いずれのマイクが対象音声情報を検知したかに応じて、監視装置10は、バス20の前方、後方、内部及びエンジン部分いずれの箇所で検知されたかを識別可能に表示してもよい。例えば、監視装置10は、バス20の前方、後方、内部及びエンジン部分の各々に対応する動画像を表示し、いずれの箇所で対象音声情報が検知されたかを識別可能に表示してもよい。例えば、監視装置10は、バスの20俯瞰図を表示し、異音の発生箇所を表示してもよい。
例えば、監視装置10は、バス20の後方で対象音声情報が検知された場合、バス20の後方に対応する動画像(例えば動画像MV11−2等)を他の動画像と異なる態様で表示することにより、対象音声情報が検知されたかを識別可能に表示してもよい。また、例えば、監視装置10は、バス20のエンジン部分で対象音声情報が検知された場合、バス20のエンジン部分に対応する動画像を他の動画像と異なる態様で表示することにより、対象音声情報が検知されたかを識別可能に表示してもよい。また、例えば、監視装置10は、対象音声情報が検知されたバス20の箇所を文字情報等で識別可能に表示してもよい。
上記の点について図14を用いて説明する。図14は、1つの移動体を対象とした監視処理の一例を示す図である。図14の例は、バス20−50の前方、後方、車内、及びエンジンルーム内の4箇所の動画像及び音声を検知する場合を示す。例えば、バス20−50における前方、後方、車内、及びエンジンルーム内の4箇所に、カメラ及びマイクが各々設置されることにより、バス20−50の前方、後方、車内、及びエンジンルーム内の4箇所の動画像及び音声が検知される。
図14に示す例では、監視装置10には、バス20−50に対応する動画像MV50が表示される。すなわち、図14の例では、監視装置10を利用する監視者が、バス20−50を監視している状態を示す。
例えば、動画像MV50には、バス20−50の前方、すなわち通常走行時の進行方向を撮像した動画像MV50−1や、バス20−50の後方を撮像した動画像MV50−2や、バス20−50の車内を撮像した動画像MV50−3やバス20−50のエンジンルーム内を撮像した動画像MV50−4等が含まれる。
ここで、図14の例では、バス20−50のエンジンルーム内において異音が発生した場合を示す。この場合、監視装置10は、バス20−50のエンジンルーム内において検知された音声情報に異音が含まれるため、バス20−50のエンジンルームの音声情報を対象音声情報と判定する。そのため、監視装置10は、バス20−50のエンジンルーム内を撮像した動画像MV50−4を、対象音声情報に対応することを識別可能な表示態様で表示する。すなわち、監視装置10は、バス20−50のエンジンルームの音声情報が異音を含む音声情報であることを監視者が把握可能なように、動画像MV50−4を、他の動画像MV50−1〜MV50−3とは異なる態様で表示する。
図14の例では、監視装置10は、バス20−50のエンジンルーム内を撮像した動画像MV50−4が表示される領域に、識別サインSN50を付すことにより、動画像MV50−4を、他の動画像MV50−1〜MV50−3とは異なる態様で表示する。具体的には、監視装置10は、「異音発生中」を含む識別サインSN50で囲んで動画像MV50−4を表示することにより、動画像MV50−4を、他の動画像MV50−1〜MV50−3とは異なる態様で表示する。このように、監視装置10は、1つのバス20のある箇所において検知された対象音声情報とその箇所の画像との対応付けを識別可能にすることにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
(1−3.表示態様)
図1の例では、対象音声情報に対応する動画像の色を他の動画像と異ならせることにより、いずれのバス20が対象音声情報に対応するかを把握可能にしたが、監視装置10は、種々の表示態様により、いずれのバス20が対象音声情報に対応するかを把握可能にしてもよい。例えば、監視装置10は、対象音声情報に対応する動画像を他の動画像よりも大きく表示したり、対象音声情報に対応する動画像を点滅表示したりすることにより、いずれのバス20が対象音声情報に対応するかを把握可能にしてもよい。
また、例えば、監視装置10は、各動画像に対応する音声を視覚化して表示してもよい。例えば、監視装置10は、各動画像に対応する音声の波形を動画像に対応付けて表示することにより、いずれのバス20が対象音声情報に対応するかを把握可能にしてもよい。例えば、あるバス20において大きな音が検知された場合、監視装置10に表示された音声の波形のうち、そのバス20に対応する音声の波形が大きく変化するため、監視者は、いずれのバス20が対象音声情報に対応するかを把握することができる。
(1−4.監視者の注視)
また、監視装置10は、監視者が画面中のどの領域に注視しているかを示す情報に基づいて、音声の出力等の態様を変更してもよい。例えば、監視装置10は、監視者の視線を検知するアイトラッキング等の種々の従来技術を適宜用いて、監視者が画面中のどの領域に注視しているかを示す情報を取得してもよい。
例えば、監視装置10は、複数の画像情報(動画像)のうち、監視者の視線の動きに応じて前記監視者が注視していると推定される画像情報(以下、「注視画像情報」ともいう)に対応する音声情報を、他の画像情報に対応する音声情報とは異なる出力態様により出力してもよい。例えば、監視装置10は、複数の画像情報のうち、注視画像情報に対応する音声情報のみを出力してもよい。例えば、監視装置10は、注視画像情報に対応する音声情報の音量を、他の画像情報に対応する音声情報の音量よりも大きくしてもよい。例えば、監視装置10は、複数の画像情報のうち、注視画像情報に対応する音声情報を他の音声情報よりも大きな音量で出力してもよい。なお、上記は一例であり、監視装置10は、種々の情報を適宜用いて、音声情報や画像情報の出力態様を決定してもよい。
(1−5.音声出力)
また、監視装置10は、画面の表示位置と対応する方向から音声情報が聞こえるようにスピーカ16に音声を出力させてもよい。例えば、監視装置10は、複数のスピーカ16を有することにより、サラウンド音声を出力してもよい。例えば、監視装置10は、画面の右側に表示された画像に対応する音声を、その画像側(右側)に位置するスピーカ16から出力してもよい。例えば、監視装置10は、画面の左側に表示された画像に対応する音声を、その画像側(左側)に位置するスピーカ16から出力してもよい。例えば、監視装置10は、画面の中央部に表示された画像に対応する音声を、中央部に位置するスピーカ16から出力してもよい。例えば、監視装置10の前方や左右方向にそれぞれスピーカ16を配置することにより上記の処理を実現してもよい。なお、上記は一例であり、監視装置10は、種々の従来技術を適宜用いて、画像と音声が出力される方向とが対応付け可能に音声を出力してもよい。例えば、監視装置10は、単一のスピーカ16やイヤホン等を用いる場合であっても、種々の従来技術を用いて上記の処理を実現してもよい。
(1−6.対象のフォーカス)
また、監視装置10は、監視者がバス20を指定した場合、監視者が指定したバス20の音声情報と画像情報のみを出力してもよい。例えば、監視装置10は、監視者があるバス20が表示された領域を指定した場合、監視者が指定したバス20の音声情報と画像情報のみを出力してもよい。また、監視装置10は、監視者がバス20を指定したバス20以外のバス20の監視者を他の監視者に変更するように、決定装置100へ要求してもよい。この場合、決定装置100は、要求に応じて、監視者がバス20を指定したバス20以外のバス20の監視者を他の監視者に変更してもよい。また、監視装置10は、対象音声情報が複数ある場合、複数の対象音声情報のうち、所定の対象音声情報に対応するバス20の監視者を他の監視者に変更するように、決定装置100へ要求してもよい。例えば、監視装置10は、対象音声情報が2つある場合、2つの対象音声情報のうち、いずれか一方の対象音声情報に対応するバス20の監視者を他の監視者に変更するように、決定装置100へ要求してもよい。
〔2.監視装置の構成〕
次に、図3を用いて、実施形態に係る監視装置10の構成について説明する。図3は、実施形態に係る監視装置の構成例を示す図である。図3に示すように、監視装置10は、通信部11と、記憶部12と、入力部13と、出力部14と、制御部15とを有する。また、監視装置10は、監視者の視線を検知するアイトラッキングを行う場合、図示を省略するが監視者の視線を検知するためのセンサ等を有してもよい。
(通信部11)
通信部11は、例えば、通信回路やNIC(Network Interface Card)等によって実現される。そして、通信部11は、ネットワークNと有線または無線で接続され、決定装置100との間で情報の送受信を行う。また、通信部11は、バス20や決定装置100等との間で情報の送受信を行ってもよい。
(記憶部12)
記憶部12は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部12は、例えば、監視装置10にインストールされているアプリケーションに関する情報、例えばプログラム(監視プログラム)等を記憶する。実施形態に係る記憶部12は、図3に示すように、移動体情報記憶部12Aを有する。
(移動体情報記憶部12A)
実施形態に係る移動体情報記憶部12Aは、移動体に関する各種情報を記憶する。例えば、移動体情報記憶部12Aは、監視装置10を利用する監視者が遠隔監視中の移動体に関する各種情報を記憶する。図4は、実施形態に係る移動体情報記憶部の一例を示す図である。図4に示す移動体情報記憶部12Aは、「バスID」、「最新位置」、「動画像」、「音声」、「運行経路」、「運行エリア」といった項目が含まれる。図4に示す移動体情報記憶部12Aは、図1中の監視者A1に対応する移動体情報記憶部を示す。
「バスID」は、遠隔監視される移動体であるバスを識別するための識別情報を示す。例えば、バスID「20−1」により識別されるバスは、図1中のバス20−1に対応する。また、「最新位置」は、バスIDにより識別されるバスの最新の位置情報を示す。なお、図4に示す例では、「最新位置」は、「位置LC11」といった抽象的な符号を図示するが、緯度や経度を示す情報であってもよい。
また、「動画像」は、バスから取得した動画像(単に「動画」ともいう)を示す。図4では「動画像」に「動画像MV11」といった概念的な情報が格納される例を示したが、実際には、動画情報、または、その格納場所を示すファイルパス名などが格納される。
また、「音声」は、バスから取得した音声情報(単に「音声」ともいう)を示す。図4では「音声」に「音声AD11」といった概念的な情報が格納される例を示したが、実際には、音声情報、または、その格納場所を示すファイルパス名などが格納される。
また、「運行経路」は、バスIDにより識別されるバスの運行経路を示す。例えば、「運行経路」は、バスIDにより識別されるバスが自動運転により運行する経路を示す。なお、図4に示す例では、「運行経路」は、「経路R11」といった抽象的な符号を図示するが、通行する道路や停止するバス停等の緯度や経度を示す情報であってもよい。また、「運行エリア」は、バスIDにより識別されるバスの運行エリアを示す。例えば、「運行エリア」は、バスIDにより識別されるバスが自動運転により運行するエリアを示す。なお、図4に示す例では、「運行エリア」は、「エリアA」といった抽象的な符号を図示するが、「○○市」や「××区」等の具体的な地域名等を示す情報であってもよい。
図4の例では、バスID「20−1」により識別されるバスの最新位置は、「位置LC11」であることを示す。また、バスID「20−1」により識別されるバスの動画像は、「動画像MV11」であることを示す。また、バスID「20−1」により識別されるバスの音声は、「音声AD11」であることを示す。また、バスID「20−1」により識別されるバスの運行経路は、「経路R11」であることを示す。また、バスID「20−1」により識別されるバスの運行エリアは、「エリアA」であることを示す。
このように、図4に示す移動体情報記憶部12Aは、図1中の監視者A1がバス20−1〜20−3の3台を監視している状態における監視装置10−1の移動体情報記憶部12Aを示す。すなわち、図4に示す移動体情報記憶部12Aには、図1中の監視者A1が監視するバス20−1〜20−3の3台のバス20に関する移動体情報が記憶される。なお、移動体情報記憶部12Aは、上記に限らず、目的に応じて種々の情報を記憶してもよい。
また、例えば、図1中の監視者A2が利用する端末装置10−2においては、移動体情報記憶部12Aには、図1中の監視者A2が監視するバス20−4、20−5の2台のバス20に関する移動体情報が記憶される。
また、記憶部12は、上記以外にも種々の情報を記憶してもよい。例えば、記憶部12は、決定装置100の記憶部120に記憶される情報を記憶してもよい。例えば、記憶部12は、監視者情報記憶部122(図7参照)や監視対応情報記憶部123(図8参照)等に示す情報を記憶してもよい。例えば、記憶部12は、監視装置10が配置されるバス20に対応する情報を記憶してもよい。例えば、バス20−1に配置される監視装置10−1の場合、監視装置10−1の記憶部12は、決定装置100の記憶部120に記憶される情報のうち、バス20−1に対応する情報を記憶してもよい。
例えば、記憶部12は、後述する通知部154により表示される各種情報を記憶してもよい。例えば、記憶部12は、特定情報や明示情報等を記憶してもよい。例えば、記憶部12は、監視装置10が配置されるバス20の監視者となり得る監視者の顔写真や業務経歴等に関する情報を記憶してもよい。
(入力部13)
入力部13は、ユーザからの各種操作を取得する。例えば、入力部13は、タッチパネル機能により表示面(例えば出力部14)を介してユーザからの各種操作を受け付けてもよい。また、入力部13は、監視装置10に設けられたボタンや、監視装置10に接続されたキーボードやマウスからの各種操作を受け付けてもよい。
(出力部14)
出力部14は、例えば液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ等によって実現されるスマートフォンやタブレット型端末等の表示画面であり、各種情報を表示するための表示手段である。例えば、出力部14は、通知部154からの指示に応じて種々の情報を出力(表示)する。
(制御部15)
制御部15は、コントローラ(controller)であり、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、監視装置10内部の記憶部12などの記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。例えば、この各種プログラムには、インストールされているアプリケーションのプログラムが含まれる。また、制御部15は、コントローラ(controller)であり、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現される。
図3に示すように、制御部15は、送信部151と、取得部152と、通知部154とを有し、以下に説明する監視処理の機能や作用を実現または実行する。なお、制御部15の内部構成は、図3に示した構成に限られず、後述する監視処理を行う構成であれば他の構成であってもよい。また、制御部15が有する各処理部の接続関係は、図3に示した接続関係に限られず、他の接続関係であってもよい。
(送信部151)
送信部151は、各種情報を送信する。例えば、送信部151は、外部の情報処理装置に対して各種情報を送信する。例えば、送信部151は、入力部13により取得した操作に従って、バス20や決定装置100へ各種要求を送信する。例えば、送信部151は、所定のタイミングで決定装置100へ対応監視者に関する情報を要求してもよい。
(取得部152)
取得部152は、各種情報を取得する。例えば、取得部152は、記憶部12から各種情報を取得する。例えば、取得部152は、外部の情報処理装置から各種情報を取得する。取得部152は、外部の情報処理装置から各種情報を受信する。例えば、取得部152は、バス20や決定装置100から各種情報を取得する。
例えば、取得部152は、監視者が遠隔監視する移動体であって、自動運転により動作する移動体において検知された複数の画像情報と複数の音声情報とを取得する。例えば、取得部152は、複数の移動体の各々に対応する前記複数の画像情報と前記複数の音声情報とを取得する。例えば、取得部152は、監視対象となっている複数の移動体の各々から随時、画像情報や音声情報を取得してもよい。例えば、取得部152は、監視対象となっている複数の移動体の画像情報や音声情報を記憶部12や決定装置100から取得してもよい。
例えば、取得部152は、一の移動体における各箇所に対応する前記複数の画像情報と前記複数の音声情報とを取得する。例えば、取得部152は、監視対象となっている一の移動体から随時、一の移動体における各箇所に対応する画像情報や音声情報を取得してもよい。例えば、取得部152は、監視対象となっている一の移動体における各箇所に対応する画像情報や音声情報を記憶部12や決定装置100から取得してもよい。例えば、取得部152は、決定装置100から対象音声情報と画像情報との対応付けを示す情報を取得してもよい。
(判定部153)
判定部153は、各種情報を判定する。例えば、判定部153は、取得部152により外部装置から取得された各種情報に基づいて、各種情報を判定する。例えば、判定部153は、決定装置100から取得された各種情報に基づいて、各種情報を判定する。例えば、判定部153は、バス20から取得された各種情報に基づいて、各種情報を判定する。例えば、判定部153は、記憶部12に記憶された情報に基づいて、各種情報を判定する。例えば、判定部153は、移動体情報記憶部12A等に記憶された情報に基づいて、各種情報を判定する。
例えば、判定部153は、バス20−1から取得した音声情報に異音が含まれる場合、バス20−1の音声情報を対象音声情報と判定する。例えば、判定部153は、バス20−1から取得した音声情報と通常動作時の音声パターンとを比較することにより、音声情報に異音が含まれるかどうかを判定する。また、例えば、判定部153は、バス20−1から取得した音声情報と、異音と判定される音の一覧情報とを比較することにより、音声情報に異音が含まれるかどうかを判定する。
(通知部154)
通知部154は、各種情報を通知する。例えば、通知部154は、出力部14やスピーカ16(音出部)を介して各種情報を通知する。例えば、通知部154は、出力部14を介して各種情報を表示する。例えば、通知部154は、スピーカ16を介して音声情報を出力する。例えば、通知部154は、スピーカ16を介して複数の音声情報を出力する。例えば、通知部154は、各種情報を出力部14に表示させる。例えば、通知部154は、取得部152により取得された各種情報を通知する。例えば、通知部154は、記憶部12に記憶された各種情報を通知する。例えば、通知部154は、バス20や決定装置100から受信した各種情報を通知する。例えば、通知部154は、判定部153による判定に応じて各種情報を通知する。例えば、通知部154は、複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知する。例えば、通知部154は、判定部153により対応音声情報と判定された音声情報と画像情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。
例えば、通知部154は、取得部152により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報に対応する画像情報と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。
例えば、通知部154は、対象音声情報に対応する画像情報と、対象音声情報に関する表示情報とを対応付けて表示する。例えば、通知部154は、対象音声情報に対応する画像情報と、対象音声情報を視覚化した表示情報とを対応付けて表示する。例えば、通知部154は、注視画像情報に対応する音声情報の音量を、他の画像情報に対応する音声情報の音量よりも大きくする。
例えば、通知部154は、所定の条件を満たす複数の対象音声情報がある場合、複数の対象音声情報の各々のレベルに応じて変動する表示態様で、複数の対象音声情報の各々に対応する画像情報を表示する。例えば、通知部154は、取得部152により取得された複数の音声情報のうち、所定の条件を満たす対象音声情報に対応する移動体と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。例えば、通知部154は、取得部152により取得された複数の音声情報のうち、所定の条件を満たす対象音声情報に対応する一の移動体における箇所と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。
図1の例では、通知部154は、バス20−1に対応する画像情報を、対象音声情報に対応することを識別可能な表示態様に変更する。例えば、通知部154は、バス20−1から取得した音声情報が動作状況の確認を要する対象音声情報であるとして、バス20−1を遠隔監視している監視者A1に、その対象音声情報がバス20−1から取得した音声情報であることが把握可能なように表示態様を変更する。
図1の例では、通知部154は、バス20−1に対応する動画像MV11の色を他の動画像MV12や動画像MV13と異なる色に変更することにより、対象音声情報の発生源がバス20−1であることを識別可能な表示態様で複数の動画像MV11〜MV13を表示する。例えば、通知部154は、バス20−1に対応する動画像MV11のフレームの色を赤や黄色等の注目を引く色に変更することにより、対象音声情報の発生源がバス20−1であることを識別可能な表示態様で複数の動画像MV11〜MV13を表示する。
なお、上述した制御部15による監視処理等の処理は、例えば、JavaScript(登録商標)などにより実現されてもよい。また、上述した監視処理が所定のアプリケーションにより行われる場合や監視処理が専用アプリにより行われる場合、制御部15は、例えば、所定のアプリや専用アプリを制御するアプリ制御部を有してもよい。
(スピーカ16)
また、図3に示す監視装置10は、音声情報を出力する音出部であるスピーカ16を有する。例えば、スピーカ16は、移動体において検知された音声情報を出力する。例えば、スピーカ16は、通知部154からの指示に応じて種々の音声情報を出力する。なお、出力部14が音声情報も出力可能である場合、監視装置10はスピーカ16を有さず、出力部14により音声情報も出力してもよい。また、スピーカ16は、監視装置10と一体でなくてもよく、監視装置10に外付けされるスピーカやヘッドフォンやイヤホンであってもよい。すなわち、スピーカ16は、監視者に対して移動体における音声情報を出力可能であればどのような態様により実現されてもよい。
スピーカ16は、取得部152により取得された複数の音声情報を出力する。例えば、スピーカ16は、監視者の視線に関する情報に基づく出力態様で、複数の音声情報を出力する。例えば、スピーカ16は、複数の画像情報のうち、監視者の視線の動きに応じて監視者が注視していると推定される画像情報である注視画像情報に対応する音声情報を、他の画像情報に対応する音声情報とは異なる出力態様で出力する。例えば、スピーカ16は、複数の画像情報のうち、注視画像情報に対応する音声情報のみを出力する。図1の例では、スピーカ16は、バス20−1において発生した異音を含む音声を出力する。
〔3.決定装置の構成〕
次に、図5を用いて、実施形態に係る決定装置100の構成について説明する。図5は、実施形態に係る決定装置の構成例を示す図である。図5に示すように、決定装置100は、通信部110と、記憶部120と、制御部130とを有する。なお、決定装置100は、決定装置100の管理者等から各種操作を受け付ける入力部(例えば、キーボードやマウス等)や、各種情報を表示するための出力(例えば、液晶ディスプレイ等)を有してもよい。
(通信部110)
通信部110は、例えば、通信回路やNIC等によって実現される。そして、通信部110は、ネットワークNと有線または無線で接続され、監視装置10やバス20との間で情報の送受信を行う。
(記憶部120)
記憶部120は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。実施形態に係る記憶部120は、図5に示すように、移動体情報記憶部121と、監視者情報記憶部122と、監視対応情報記憶部123とを有する。
(移動体情報記憶部121)
実施形態に係る移動体情報記憶部121は、ユーザに関する各種情報を記憶する。例えば、移動体情報記憶部121は、ユーザ属性に関する各種情報を記憶する。図6は、実施形態に係る移動体情報記憶部の一例を示す図である。図6に示す移動体情報記憶部121は、「バスID」、「最新位置」、「動画像」、「音声」、「運行経路」、「運行エリア」といった項目が含まれる。
「バスID」は、遠隔監視される移動体であるバスを識別するための識別情報を示す。例えば、バスID「20−1」により識別されるバスは、図1中のバス20−1に対応する。また、「最新位置」は、バスIDにより識別されるバスの最新の位置情報を示す。なお、図6に示す例では、「最新位置」は、「位置LC11」といった抽象的な符号を図示するが、緯度や経度を示す情報であってもよい。
また、「動画像」は、バスから取得した動画像(単に「動画」ともいう)を示す。図6では「動画像」に「動画像MV11」といった概念的な情報が格納される例を示したが、実際には、動画情報、または、その格納場所を示すファイルパス名などが格納される。
また、「音声」は、バスから取得した音声情報(単に「音声」ともいう)を示す。図6では「音声」に「音声AD11」といった概念的な情報が格納される例を示したが、実際には、音声情報、または、その格納場所を示すファイルパス名などが格納される。
また、「運行経路」は、バスIDにより識別されるバスの運行経路を示す。例えば、「運行経路」は、バスIDにより識別されるバスが自動運転により運行する経路を示す。なお、図6に示す例では、「運行経路」は、「経路R11」といった抽象的な符号を図示するが、通行する道路や停止するバス停等の緯度や経度を示す情報であってもよい。また、「運行エリア」は、バスIDにより識別されるバスの運行エリアを示す。例えば、「運行エリア」は、バスIDにより識別されるバスが自動運転により運行するエリアを示す。なお、図6に示す例では、「運行エリア」は、「エリアA」といった抽象的な符号を図示するが、「○○市」や「××区」等の具体的な地域名等を示す情報であってもよい。
図6の例では、バスID「20−1」により識別されるバスの最新位置は、「位置LC11」であることを示す。また、バスID「20−1」により識別されるバスの動画像は、「動画像MV11」であることを示す。また、バスID「20−1」により識別されるバスの音声は、「音声AD11」であることを示す。また、バスID「20−1」により識別されるバスの運行経路は、「経路R11」であることを示す。また、バスID「20−1」により識別されるバスの運行エリアは、「エリアA」であることを示す。
なお、移動体情報記憶部121は、上記に限らず、目的に応じて種々の情報を記憶してもよい。
(監視者情報記憶部122)
実施形態に係る監視者情報記憶部122は、ユーザのコンテキストに関する各種情報を記憶する。図7は、実施形態に係る監視者情報記憶部の一例を示す図である。例えば、監視者情報記憶部122は、監視者に関する各種情報を記憶する。図7に示す監視者情報記憶部122は、「監視者ID」、「状況」、「業務時間情報」、「業務スキル」、「最大監視台数」といった項目が含まれる。
「監視者ID」は、自動運転で移動するバスを遠隔監視する監視者を識別するための識別情報を示す。例えば、監視者ID「A1」により識別される監視者は、図1中の監視装置10−1を利用する監視者A1に対応する。「状況」は、監視者IDにより識別される監視者の業務状況を示す。
また、「業務時間情報」は、監視者IDにより識別される監視者の業務時間を示す。なお、図7に示す例では、「業務時間情報」は、「業務時間SF11」といった抽象的な符号を図示するが、「平日9時〜17時」等の具体的な業務時間を示す情報であってもよい。
また、「業務スキル」は、監視者IDにより識別される監視者の業務に関するスキルを示す。図7では「業務スキル」に「業務スキルSK11(勤続5年)」といった抽象的な符号と勤続年数を図示するが、「業務スキル」には、勤続年数に限らず、対応可能な障害の種別等が含まれてもよい。
また、「最大監視台数」は、監視者IDにより識別される監視者が同時に遠隔監視可能な移動体の台数を示す。なお、各監視者の最大監視台数は、各監視者の勤続年数等の業務経験や個人の能力に応じて決定されてもよい。
図7の例では、監視者ID「A1」により識別される監視者の状況は、「勤務中」であることを示す。また、監視者ID「A1」により識別される監視者の業務時間情報は、「業務時間SF11」であることを示す。また、監視者ID「A1」により識別される監視者の業務スキルは、「業務スキルSK11(勤続5年)」であることを示す。また、監視者ID「A1」により識別される監視者の最大監視台数は、「5台」であることを示す。
なお、監視者情報記憶部122は、上記に限らず、目的に応じて種々の情報を記憶してもよい。
(監視対応情報記憶部123)
実施形態に係る監視対応情報記憶部123は、監視者と遠隔監視対象であるバスとの対応付けに関する各種情報を記憶する。図8は、実施形態に係る監視対応情報記憶部の一例を示す図である。例えば、監視対応情報記憶部123は、監視者と遠隔監視対象であるバスとの対応付けやバスの状態(ステータス)等に関する各種情報を記憶する。図8に示す監視対応情報記憶部123には、「監視者ID」、「監視対象」といった項目が含まれる。また、「監視対象」には、「バスID」、「ステータス」といった項目が含まれる。
「監視者ID」は、自動運転で移動するバスを遠隔監視する監視者を識別するための識別情報を示す。「監視対象」は、監視対象となるバスの各種情報が含まれる。「バスID」は、遠隔監視される移動体であるバスを識別するための識別情報を示す。「ステータス」は、バスIDにより識別されるバスの状態(ステータス)を示す。
図8の例では、監視者ID「A1」により識別される監視者は、バスID「20−1」により識別されるバス、バスID「20−2」により識別されるバス、及びバスID「20−3」により識別されるバスの3台のバスを遠隔監視中であることを示す。すなわち、監視者A1は、バス20−1〜20−3の3台のバスを遠隔監視中であることを示す。また、バスID「20−1」により識別されるバスのステータスは、「通常」であることを示す。例えば、ステータス「通常」は、対応するバスが定常通り運行中であることを示す。また、バスID「20−2」により識別されるバスのステータスは、「通常」であることを示す。また、バスID「20−3」により識別されるバスのステータスは、「通常」であることを示す。
図8の例では、監視者ID「A5」により識別される監視者は、バスID「20−15」により識別されるバスのみを遠隔監視中であることを示す。すなわち、監視者A5は、バス20−15の1台のバスを遠隔監視中であることを示す。また、バスID「20−15」により識別されるバスのステータスは、「事象発生」であることを示す。例えば、ステータス「事象発生」は、対応するバスに所定の事象が発生していることを示す。すなわち、図8の例では、監視者A5は、バス20−15に故障等の所定の事象が発生したため、バス20−15の1台のみを対応中であることを示す。
なお、監視対応情報記憶部123は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、ステータスには、「事象発生」に限らず、事象に応じて複数の種別が含まれてもよい。例えば、ステータスは、各事象に対応する「緊急車両接近」や「故障」や「異音発生」や「障害物有」等のより詳細な内容であってもよい。
(制御部130)
図5の説明に戻って、制御部130は、コントローラ(controller)であり、例えば、CPUやMPU等によって、決定装置100内部の記憶装置に記憶されている各種プログラム(決定プログラムの一例に相当)がRAMを作業領域として実行されることにより実現される。また、制御部130は、コントローラ(controller)であり、例えば、ASICやFPGA等の集積回路により実現される。
図5に示すように、制御部130は、取得部131と、判定部132と、決定部133と、送信部134とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図5に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
(取得部131)
取得部131は、各種情報を取得する。例えば、取得部131は、外部装置から各種情報を取得する。例えば、取得部131は、監視装置10から各種情報を取得する。例えば、取得部131は、バス20から各種情報を取得する。例えば、取得部131は、移動体情報記憶部121や、監視者情報記憶部122や、監視対応情報記憶部123等に示す各種情報を、外部の情報処理装置から取得してもよい。
例えば、取得部131は、記憶部120から各種情報を取得する。例えば、取得部131は、移動体情報記憶部121や、監視者情報記憶部122や、監視対応情報記憶部123等から各種情報を取得する。
例えば、取得部131は、自動運転により動作する複数の移動体を遠隔監視する一の監視者に関する情報を取得する。例えば、取得部131は、自動運転により道路を走行する複数の車両を遠隔監視する一の監視者に関する情報を取得する。
例えば、取得部131は、監視者が遠隔監視する複数の移動体であって、自動運転により動作する複数の移動体に関する情報を取得する。例えば、取得部131は、一の監視者が遠隔監視する複数の移動体であって、自動運転により動作する複数の移動体の遠隔監視に関する情報を取得する。
例えば、取得部131は、バス20の対象情報を取得する。例えば、取得部131は、バス20において検知された動画像や音声等の種々の情報を取得する。例えば、取得部131は、監視装置10−1からバス20−1に所定の事象が発生していることを示す情報を取得する。
例えば、取得部131は、監視装置10−1から監視者A1が全監視対象の監視が困難になることを示す情報を取得する。例えば、取得部131は、監視装置10−1が撮像する監視装置10−1の画面側の画像を取得する。
(判定部132)
判定部132は、各種情報を判定する。例えば、判定部132は、取得部131により外部装置から取得された各種情報に基づいて、各種情報を判定する。例えば、判定部132は、監視装置10から取得された各種情報に基づいて、各種情報を判定する。例えば、判定部132は、バス20から取得された各種情報に基づいて、各種情報を判定する。例えば、判定部132は、記憶部120に記憶された情報に基づいて、各種情報を判定する。例えば、判定部132は、移動体情報記憶部121や、監視者情報記憶部122や、監視対応情報記憶部123等に記憶された情報に基づいて、各種情報を判定する。
例えば、判定部132は、取得部131により取得された一の監視者に関する情報に基づいて、一の監視者の監視状況が所定の条件を満たすかどうかを判定する。例えば、判定部132は、一の監視者が複数の移動体を監視することが困難な状況になったかどうかを判定する。例えば、判定部132は、一の監視者に関する情報に基づく一の監視者の監視状況が所定の条件を満たすかどうかを判定する。
例えば、判定部132は、所定の移動体への一の監視者による対応が発生したかどうかを判定する。例えば、判定部132は、複数の移動体に含まれる所定の移動体への一の監視者による対応が発生したかどうかを判定する。
例えば、判定部132は、複数の移動体の監視における一の監視者の負荷が所定の基準を満たすかどうかを判定する。例えば、判定部132は、複数の移動体の監視における一の監視者の負荷が所定の閾値以上であるかどうかを判定する。例えば、判定部132は、複数の移動体の監視における一の監視者の負荷が所定の閾値未満となったかどうかを判定する。
例えば、判定部132は、一の監視者が複数の移動体を監視することが困難な状況になったかどうかを判定する。例えば、判定部132は、一の監視者が複数の移動体を監視するための監視装置を視認不可能な状況になったかどうかを判定する。例えば、判定部132は、一の監視者が複数の移動体の監視を行う席から離れたかどうかを判定する。
例えば、判定部132は、取得部131により取得された複数の移動体に関する情報に基づいて、当該複数の移動体の状況が所定の条件を満たすかどうかを判定する。例えば、判定部132は、複数の移動体のうち、一の移動体において所定の事象が発生したかどうかを判定する。
例えば、判定部132は、一の移動体の移動を妨げる事象が発生したかどうかを判定する。例えば、判定部132は、一の移動体における不具合が発生したかどうかを判定する。例えば、判定部132は、一の移動体の進行方向において障害が発生したかどうかを判定する。
例えば、判定部132は、取得部131により取得された遠隔監視に関する情報に基づいて、複数の移動体を監視する監視者を変更するタイミングかどうかを判定する。例えば、判定部132は、複数の移動体のうち一の移動体の状況が所定の条件を満たすかどうかを判定する。
例えば、判定部132は、監視装置10−1から取得した移動体に関する情報に基づいて、移動体が所定の条件を満たすかどうかを判定する。例えば、判定部132は、監視装置10−1から取得するバス20−1に所定の事象が発生していることを示す情報に基づいて、バス20−1に所定の事象が発生したと判定してもよい。また、例えば、判定部132は、監視装置10−1から取得するバス20−1に所定の事象が発生していることを示す情報に基づいて、バス20−1が所定の条件を満たすと判定してもよい。
例えば、判定部132は、監視装置10−1が撮像する監視装置10−1の画面側の画像に基づいて、監視者A1が監視装置10−1から離れたと判定する。例えば、判定部132は、監視装置10−1から取得した画像を解析することにより、監視者A1が監視装置10−1から離れたと判定する。また、例えば、判定部132は、監視者A1の位置情報等に基づいて、監視者A1が監視装置10−1から離れたと判定する。また、例えば、判定部132は、監視者A1が監視装置10−1から離れたと判定することにより、全監視対象の監視が困難になったと判定してもよい。例えば、判定部132は、監視者A1と監視装置10−1との位置関係を把握可能であれば、どのような情報に基づいて、監視者A1により監視が困難になったかを判定してもよい。
例えば、判定部132は、バス20−1から取得した音声情報に異音が含まれる場合、バス20−1の音声情報を対象音声情報と判定する。例えば、判定部132は、バス20−1から取得した音声情報と通常動作時の音声パターンとを比較することにより、音声情報に異音が含まれるかどうかを判定してもよい。また、例えば、判定部132は、バス20−1から取得した音声情報と、異音と判定される音の一覧情報とを比較することにより、音声情報に異音が含まれるかどうかを判定してもよい。
(決定部133)
決定部133は、各種情報を決定する。例えば、決定部133は、取得部131により外部装置から取得された各種情報に基づいて、各種情報を決定する。例えば、決定部133は、監視装置10から取得された各種情報に基づいて、各種情報を決定する。例えば、決定部133は、バス20から取得された各種情報に基づいて、各種情報を決定する。例えば、決定部133は、記憶部120に記憶された情報に基づいて、各種情報を決定する。例えば、決定部133は、移動体情報記憶部121や、監視者情報記憶部122や、監視対応情報記憶部123等に記憶された情報に基づいて、各種情報を決定する。また、決定部133は、判定部132による判定に基づいて、各種情報を決定する。
例えば、決定部133は、取得部131により取得された一の監視者に関する情報に基づいて、一の監視者の監視状況が所定の条件を満たすかどうかに応じて、複数の移動体の自動運転に関する態様を決定する。例えば、決定部133は、一の監視者が複数の移動体を監視することが困難な状況になった場合、複数の移動体のうち、一部の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、一の監視者に関する情報に基づく一の監視者の監視状況が所定の条件を満たすかどうかの判定に応じて、複数の移動体の自動運転に関する態様を決定する。
例えば、決定部133は、所定の移動体への一の監視者による対応が発生した場合、複数の移動体のうち、一部の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、複数の移動体に含まれる所定の移動体への一の監視者による対応が発生した場合、複数の移動体のうち、一部の移動体の自動運転に関する態様を変更すると決定する。
例えば、決定部133は、複数の移動体の監視における一の監視者の負荷が所定の基準を満たすように、一部の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、複数の移動体の監視における一の監視者の負荷が他の監視者と平均化するように、一部の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、複数の移動体の監視における一の監視者の負荷が所定の閾値以上である場合、一部の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、複数の移動体の監視における一の監視者の負荷が所定の閾値未満となるように、一部の移動体の自動運転に関する態様を変更すると決定する。
例えば、決定部133は、一部の移動体以外の移動体の監視者を一の監視者から他の監視者に変更するか、または、一部の移動体以外の移動体の動作を停止させると決定する。例えば、決定部133は、一の監視者が複数の移動体を監視することが困難な状況になった場合、複数の移動体の自動運転に関する態様を変更すると決定する。
例えば、決定部133は、一の監視者が複数の移動体を監視するための監視装置を視認不可能な状況になった場合、複数の移動体の監視者を一の監視者から他の監視者に変更するか、または、複数の移動体の動作を停止させると決定する。例えば、決定部133は、一の監視者が複数の移動体の監視を行う席から離れた場合、複数の移動体の監視者を一の監視者から他の監視者に変更するか、または、複数の移動体の動作を停止させると決定する。
例えば、決定部133は、取得部131により取得された複数の移動体に関する情報に基づいて、当該複数の移動体の状況が所定の条件を満たす場合、複数の移動体の自動運転に関する態様を決定する。例えば、決定部133は、複数の移動体のうち、一の移動体において所定の事象が発生した場合、複数の移動体のうち、一の移動体の自動運転に関する態様を変更すると決定する。
例えば、決定部133は、一の移動体の移動を妨げる事象が発生した場合、複数の移動体のうち、一の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、一の移動体における不具合が発生した場合、複数の移動体のうち、一の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、一の移動体の進行方向において障害が発生した場合、複数の移動体のうち、一の移動体の自動運転に関する態様を変更すると決定する。
例えば、決定部133は、複数の移動体のうち、一の移動体以外の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、一の移動体以外の移動体の監視者を他の監視者に変更するか、または、一の移動体以外の移動体の動作を停止させると決定する。例えば、決定部133は、一の移動体の自動運転に関する態様を変更すると決定する。例えば、決定部133は、一の移動体の自動運転に関する態様を変更するか、または、一の移動体の動作を停止させると決定する。
例えば、決定部133は、取得部131により取得された遠隔監視に関する情報に基づいて、複数の移動体を監視する監視者を変更するタイミングを決定する。例えば、決定部133は、複数の移動体のうち一の移動体の状況が所定の条件を満たすタイミングに基づいて、複数の移動体を監視する監視者を変更すると決定する。
例えば、決定部133は、一の移動体が停止したタイミングに基づいて、複数の移動体を監視する監視者を変更すると決定する。例えば、決定部133は、一の移動体が停止したタイミングで、複数の移動体を監視する監視者を変更すると決定する。例えば、決定部133は、一の移動体が停止してから所定の時間が経過したタイミングで、複数の移動体を監視する監視者を変更すると決定する。
例えば、決定部133は、タイミングに基づいて、一の移動体を監視する監視者を変更すると決定する。例えば、決定部133は、タイミングに基づいて、複数の移動体のうち、一の移動体以外の移動体を監視する監視者を変更すると決定する。例えば、決定部133は、一の移動体が一の監視者を含む複数の監視者により遠隔監視される場合、タイミングに基づいて、一の移動体を監視する監視者を変更すると決定する。
例えば、決定部133は、一の移動体が一の監視者を含む複数の監視者により遠隔監視される場合、タイミングに基づいて、一の移動体を監視する一の監視者を変更すると決定する。例えば、決定部133は、一の移動体が一の監視者を含む複数の監視者により遠隔監視される場合、タイミングに基づいて、一の移動体を監視する複数の監視者から一の監視者を除外すると決定する。例えば、決定部133は、一の移動体が一の監視者を含む複数の監視者により遠隔監視される場合、タイミングに基づいて、一の移動体を監視する複数の監視者のうち、一の監視者を他の監視者に変更すると決定する。
図9の例では、決定部133は、所定の事象が発生したバス20−1を遠隔監視している監視者A1の監視対象のうち、バス20−1以外のバス20の監視者を他の監視者へ変更すると決定する。例えば、決定部133は、監視者A1の監視対象であるバス20−1〜20−3のうち、バス20−2、20−3の監視者を監視者A2へ変更すると決定する。例えば、決定部133は、バス20−1が所定の条件を満たすと判定したタイミングで、監視者A1の監視対象のうち、バス20−1以外のバス20の監視者を変更すると決定する。そして、決定部133は、監視者A1の監視対象であるバス20−2、20−3の監視者を監視者A2へ変更する。図9の例では、地図情報MP11−2に示すように、決定部133は、各監視者A1、A2の監視対象を変更することにより、複数の移動体の自動運転に関する態様を決定する。
図11の例では、決定部133は、全監視対象の監視が困難になった監視者A1の監視対象の全バス20の監視者を他の監視者へ変更すると決定する。例えば、決定部133は、監視者A1の監視対象であるバス20−1〜20−3の監視者を監視者A2へ変更すると決定する。例えば、決定部133は、監視者A1が全監視対象の監視が困難になったことを示す情報を取得したタイミングで、監視者A1の監視対象のバス20の監視者を変更すると決定する。そして、決定部133は、監視者A1の監視対象であるバス20−1〜20−3の監視者を監視者A2へ変更する。図11の例では、地図情報MP11−2に示すように、決定部133は、各監視者A1、A2の監視対象を変更することにより、複数の移動体の自動運転に関する態様を決定する。
(送信部134)
送信部134は、外部装置に各種情報を送信する。例えば、送信部134は、監視装置10に各種情報を送信する。例えば、送信部134は、バス20と監視装置10が直接通信する場合、バス20に対象情報を送信する先を指定する情報を送信してもよい。例えば、送信部134は、バス20−1が監視装置10−1を利用する監視者A1に監視される場合、バス20−1に監視装置10−1へ対象情報を送信するように送信先を指定する情報を送信してもよい。
例えば、送信部134は、監視装置10に監視対象となるバス20に関する対象情報を送信してもよい。例えば、送信部134は、バス20において検知された動画像や音声等の種々の情報を監視装置10に送信してもよい。
〔4.表示の変更〕
図9〜図12を用いて監視装置10における表示の変更について説明する。図9及び図11は、実施形態に係る監視処理の一例を示す図である。図10及び図12は、実施形態に係る表示の変更の一例を示す図である。図9及び図11に示す地図情報MP11−1、MP11−2について、簡単に説明する。図9及び図11に示す地図情報MP11−1、MP11−2は、バス20−1〜20−5の位置やバス20と監視者との関係等を模式的に示す図である。図9及び図11に示す地図情報MP11−1は、図1に示す地図情報MP11−1に対応する。図9及び図11に示す地図情報MP11−1及び地図情報MP11−2は、バス20と監視者との関係の変化、すなわちバス20の監視者の変更を図示するためのものであり、地図情報MP11−1及び地図情報MP11−2に示す範囲(エリア)は、同一のエリアである。また、地図情報MP11−1、MP11−2について、特に区別なく説明する場合には、地図情報MP11と記載する。
まず、図9を用いて監視装置10−1における表示の変更の一例を示す。図9中のステップS11〜S13は、図1中のステップS11〜S13と同様のため説明を省略する。図9の例では、ステップS13においてバス20−1から異音等の故障の可能性を示す事象が発生する。また、図1中のステップS13−1、S13−2による出力により、バス20−1を遠隔監視している監視者A1は、監視装置10−1が出力する異音を含む対象音声情報がバス20−1に対応する音声であると把握し、バス20−1に所定の事象が発生していると推定する。そして、監視者A1は、監視装置10−1を操作することにより、決定装置100へバス20−1に所定の事象が発生していることを示す情報を送信する。
例えば、決定装置100は、監視装置10−1から取得した移動体に関する情報に基づいて、移動体が所定の条件を満たすかどうかを判定する。例えば、決定装置100は、監視装置10−1から取得するバス20−1に所定の事象が発生していることを示す情報に基づいて、バス20−1に所定の事象が発生したと判定してもよい。また、例えば、決定装置100は、監視装置10−1から取得するバス20−1に所定の事象が発生していることを示す情報に基づいて、バス20−1が所定の条件を満たすと判定してもよい。なお、所定の条件は、バス20に所定の事象が発生したかどうかに限らず、種々の条件であってもよい。
バス20−1が所定の条件を満たすと判定した決定装置100は、複数の移動体の監視態様を決定する(ステップS14)。例えば、決定装置100は、複数の移動体の自動運転に関する態様を決定する。例えば、決定装置100は、複数の移動体を監視する監視者を変更するタイミングを決定する。図9の例では、決定装置100は、所定の事象が発生したバス20−1を遠隔監視している監視者A1の監視対象のうち、バス20−1以外のバス20の監視者を他の監視者へ変更すると決定する。具体的には、決定装置100は、監視者A1の監視対象であるバス20−1〜20−3のうち、バス20−2、20−3の監視者を監視者A2へ変更すると決定する。例えば、決定装置100は、バス20−1が所定の条件を満たすと判定したタイミングで、監視者A1の監視対象のうち、バス20−1以外のバス20の監視者を変更すると決定する。そして、決定装置100は、監視者A1の監視対象であるバス20−2、20−3の監視者を監視者A2へ変更する。なお、監視者A2は、10台まで複数のバス20を監視可能な監視者であるものとする(図8参照)。また、例えば、決定装置100は、他の監視者への監視者の変更ができない場合は、バス20−1またはバス20−2、20−3のいずれかの動作(走行)を停止させてもよい。また、例えば、決定装置100は、バス20−1の監視者を監視者A1から他の監視者(例えば監視対象が0台の監視者)へ監視者を変更すると決定してもよい。なお、ここでいう、「自動運転に関する態様」には、上述のような、監視者の変更や移動体の停止に限らず種々の態様が含まれるものとする。例えば、「自動運転に関する態様」には、移動体の速度を落とす(低下させる)ことが含まれてもよい。また、例えば、「自動運転に関する態様」には、移動体の所定のランプを点灯(点滅)させる、例えば移動体のハザードを出すことが含まれてもよい。また、例えば、「自動運転に関する態様」には、移動体から所定の音を出力させる、例えば移動体のクラクションを鳴らすことが含まれてもよい。
図9中の地図情報MP11−2に示すように、決定装置100は、各監視者A1、A2の監視対象を変更することにより、複数の移動体の自動運転に関する態様を決定する。図9の例では、決定装置100による監視処理の後の時点では、監視者A1が1台のバス20−1を遠隔監視し、監視者A2が4台のバス20−2〜20−5を遠隔監視している。
ここで、図10に示すように、監視者A1の監視対象がバス20−1のみに変更されたため、監視装置10−1の表示が変更される(ステップS14−1)。具体的には、監視装置10−1に表示されていた動画像MV11〜MV13のうち、バス20−1に対応する動画像MV11のみが残り、他のバス20−2、20−3に各々対応する動画像MV12、MV13は表示から除外される。このように、監視装置10−1の表示が変更される。
この場合、監視装置10−1には、バス20−1に対応する動画像MV11のみが表示される。これにより、監視者A1は、バス20−1を集中して監視することが可能となる。また、監視者A2の監視対象がバス20−2〜20−5に変更されたため、監視装置10−2には、バス20−2、20−3に各々対応する動画像MV12、MV13が追加され、バス20−2〜20−5に各々対応する動画像MV12〜MV15が表示されるが、図示を省略する。
監視者A1が利用する監視装置10−1は、バス20−1の対象情報を取得する(ステップS15−1)。図9の例では、監視装置10−1は、バス20−1の対象情報として、地図情報MP11−2に示すバス20−1において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−2の対象情報を取得する(ステップS15−2)。図9の例では、監視装置10−2は、バス20−2の対象情報として、地図情報MP11−2に示すバス20−2において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−3の対象情報を取得する(ステップS15−3)。図9の例では、監視装置10−2は、バス20−3の対象情報として、地図情報MP11−2に示すバス20−3において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−4の対象情報を取得する(ステップS15−4)。図9の例では、監視装置10−2は、バス20−4の対象情報として、地図情報MP11−2に示すバス20−4において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−5の対象情報を取得する(ステップS15−5)。図9の例では、監視装置10−2は、バス20−5の対象情報として、地図情報MP11−2に示すバス20−5において検知された動画像や音声等の種々の情報を取得する。
以下、ステップS15−1〜S15−5を区別せずに説明する場合、ステップS15と総称する。また、ステップS15−1〜S15−5は、バス20と監視装置10との対応関係を示すためのものであり、監視装置10は、監視対象となっているバス20の対象情報を複数回に亘って取得してもよい。
また、監視者A1は、ステップS15において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS16−1)。図9の例では、監視者A1は、監視装置10−1によりバス20−1のみを遠隔監視する。監視者A1は、監視装置10−1が画面に表示するバス20−1の動画像を見たり、監視装置10−1がスピーカ等により出力するバス20−1の音声を聞いたりすることにより、所定の事象が発生しているバス20−1をリアルタイムに遠隔監視する。
また、監視者A2は、ステップS15において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS16−2)。図9の例では、監視者A2は、監視装置10−2によりバス20−2〜20−5の4台のバスを遠隔監視する。監視者A2は、監視装置10−2が画面に表示するバス20−2〜20−5の動画像を見たり、監視装置10−2がスピーカ等により出力するバス20−2〜20−5の音声を聞いたりすることにより、バス20−2〜20−5の4台のバスをリアルタイムに遠隔監視する。
以下、ステップS16−1、S16−2を区別せずに説明する場合、ステップS16と総称する。また、ステップS16−1、S16−2は、監視者A1や監視者A2がバス20を、監視装置10を用いて遠隔監視していることを示すためのものであり、監視者A1や監視者A2は、監視対象となっているバス20を所定の期間(例えば業務時間中等)に亘って継続して監視する。
そして、監視者A1は、ステップS15において取得した対象情報に基づいて、監視対象となっているバス20−1に発生した事象への対応を行う(ステップS17)。例えば、監視者A1は、監視装置10−1に表示されるバス20−1の動画像や、監視装置10−1により出力されるバス20−1の音声等に基づいて、バス20−1に発生した所定の事象に対応する。例えば、監視者A1は、バス20−1に発生した事象の影響度に応じて、バス20−1を遠隔操作したり、バス20−1を所定の位置(例えば路肩等)に停止させたりする。上記のように、決定装置100は、バス20−1に所定の事象が発生していることを示す情報に基づいて、複数の移動体の自動運転に関する態様を決定することにより、遠隔監視される複数の移動体の適切な動作を可能にすることができる。なお、図9の例では、バス20に所定の事象が発生した際に、監視者を変更する場合を示したが、決定装置100は、所定の事象が発生した際に、種々の自動運転に関する態様を決定してもよい。例えば、決定装置100は、バス20に所定の事象が発生した際に、上述のように、バス20の停止やバス20の速度低下やバス20の所定のランプの点灯やバス20からの所定の音の出力等の種々の自動運転に関する態様を決定してもよい。また、例えば、決定装置100は、バス20に所定の事象が発生した際に、そのバス20を監視する監視者へ対応可能かどうかの確認を行ってもよい。この場合、決定装置100は、バス20を監視する監視者が対応不可能と回答した場合、そのバス20またはその監視者が監視する他のバス20の監視者を他の監視者に変更すると決定してもよい。また、決定装置100は、バス20を監視する監視者が対応可能と回答した場合、監視者を変更しないと決定してもよい。また、例えば、決定装置100は、バス20に所定の事象が発生した際に、そのバス20を監視する監視者の数を増加させると決定してもよい。また、例えば、決定装置100は、1人の監視者が監視しているバス20に所定の事象が発生した際に、そのバス20を監視する監視者の数を2人に増加させると決定してもよい。なお、上記は一例であり、決定装置100は、バス20に所定の事象が発生した際に、その時の状況等に応じて、種々の決定を行ってもよい。
次に、図11を用いて、監視装置10−2における表示の変更の一例を示す。上述したように、図11中の地図情報MP11−1に対応する時点では、バス20−1〜20−3は、監視者A1により遠隔監視されている。また、図11中の地図情報MP11−1に対応する時点では、バス20−4、20−5は、監視者A2により遠隔監視されている。すなわち、図11の例では、決定装置100による監視処理の前の時点では、監視者A1が3台のバス20−1〜20−3を遠隔監視し、監視者A2が2台のバス20−4、20−5を遠隔監視している。
まず、監視者A1が利用する監視装置10−1は、バス20−1の対象情報を取得する(ステップS21−1)。図11の例では、監視装置10−1は、バス20−1の対象情報として、地図情報MP11−1に示すバス20−1において検知された動画像や音声等の種々の情報を取得する。
また、監視者A1が利用する監視装置10−1は、バス20−2の対象情報を取得する(ステップS21−2)。図11の例では、監視装置10−1は、バス20−2の対象情報として、地図情報MP11−1に示すバス20−2において検知された動画像や音声等の種々の情報を取得する。
また、監視者A1が利用する監視装置10−1は、バス20−3の対象情報を取得する(ステップS21−3)。図11の例では、監視装置10−1は、バス20−3の対象情報として、地図情報MP11−1に示すバス20−3において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−4の対象情報を取得する(ステップS21−4)。図11の例では、監視装置10−2は、バス20−4の対象情報として、地図情報MP11−1に示すバス20−4において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−5の対象情報を取得する(ステップS21−5)。図11の例では、監視装置10−2は、バス20−5の対象情報として、地図情報MP11−1に示すバス20−5において検知された動画像や音声等の種々の情報を取得する。
以下、ステップS21−1〜S21−5を区別せずに説明する場合、ステップS21と総称する。また、ステップS21−1〜S21−5は、バス20と監視装置10との対応関係を示すためのものであり、監視装置10は、監視対象となっているバス20の対象情報を複数回に亘って取得してもよい。
また、監視者A1は、ステップS21において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS22−1)。図11の例では、監視者A1は、監視装置10−1によりバス20−1〜20−3の3台のバスを遠隔監視する。監視者A1は、監視装置10−1が画面に表示するバス20−1〜20−3の動画像を見たり、監視装置10−1がスピーカ等により出力するバス20−1〜20−3の音声を聞いたりすることにより、バス20−1〜20−3の3台のバスをリアルタイムに遠隔監視する。
また、監視者A2は、ステップS21において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS22−2)。図11の例では、監視者A2は、監視装置10−2によりバス20−4、20−5の2台のバスを遠隔監視する。監視者A2は、監視装置10−2が画面に表示するバス20−4、20−5の動画像を見たり、監視装置10−2がスピーカ等により出力するバス20−4、20−5の音声を聞いたりすることにより、バス20−4、20−5の2台のバスをリアルタイムに遠隔監視する。
以下、ステップS22−1、S22−2を区別せずに説明する場合、ステップS22と総称する。また、ステップS22−1、S22−2は、監視者A1や監視者A2がバス20を、監視装置10を用いて遠隔監視していることを示すためのものであり、監視者A1や監視者A2は、監視対象となっているバス20を所定の期間(例えば業務時間中等)に亘って継続して監視する。
ここで、監視者A1がバス20の遠隔監視が困難になったものとする(ステップS23)。図11の例では、監視者A1が全監視対象の監視が困難になったものとする。例えば、監視者A1の体調の急変等により、監視装置10−1から離れる等により、全監視対象の監視が困難になったものとする。例えば、監視者A1の体調の急変等により、監視装置10−1を配置した机から離席する等により、全監視対象の監視が困難になったものとする。なお、監視者A1は、監視装置10−1を操作することにより、決定装置100へ監視者A1が全監視対象の監視が困難になることを示す情報を送信してもよい。
また、決定装置100は、監視装置10−1が撮像する監視装置10−1の画面側の画像に基づいて、監視者A1が監視装置10−1から離れたと判定することにより、全監視対象の監視が困難になったと判定してもよい。すなわち、決定装置100は、監視者が複数の移動体を監視するための監視装置10を視認不可能な状況になったと判定する。例えば、決定装置100は、監視装置10−1が撮像する監視装置10−1の画面側の画像をリアルタイムに取得し、画像を解析することにより、監視者A1が監視装置10−1から離れたと判定することにより、全監視対象の監視が困難になったと判定してもよい。また、例えば、決定装置100は、監視者A1の位置情報等に基づいて、監視者A1が監視装置10−1から離れたと判定することにより、全監視対象の監視が困難になったと判定してもよい。なお、決定装置100は、監視者A1と監視装置10−1との位置関係を把握可能であれば、どのような情報に基づいて、監視者A1により監視が困難になったかを判定してもよい。例えば、決定装置100は、監視者A1や監視装置10−1に装着されたRFID(Radio frequency identification)等から取得した情報に基づいて、監視者A1と監視装置10−1との位置関係を把握してもよい。
なお、決定装置100は、監視者が監視困難になったかどうかに限らず、監視者の監視状況に関する種々の条件を所定の条件としてもよい。例えば、決定装置100は、監視者の注意レベルが所定の閾値以上かどうかを、監視者の監視状況に関する所定の条件としてもよい。
監視者A1が全監視対象の監視が困難になったことを示す情報を取得した決定装置100は、複数の移動体の監視態様を決定する(ステップS24)。例えば、決定装置100は、複数の移動体の自動運転に関する態様を決定する。例えば、決定装置100は、複数の移動体を監視する監視者を変更するタイミングを決定する。図11の例では、決定装置100は、全監視対象の監視が困難になった監視者A1の監視対象の全バス20の監視者を他の監視者へ変更すると決定する。具体的には、決定装置100は、監視者A1の監視対象であるバス20−1〜20−3の監視者を監視者A2へ変更すると決定する。例えば、決定装置100は、監視者A1が全監視対象の監視が困難になったことを示す情報を取得したタイミングで、監視者A1の監視対象のバス20の監視者を変更すると決定する。そして、決定装置100は、監視者A1の監視対象であるバス20−1〜20−3の監視者を監視者A2へ変更する。また、例えば、決定装置100は、他の監視者への監視者の変更ができない場合は、バス20−1〜20−3の動作(走行)を停止させてもよい。
図11中の地図情報MP11−2に示すように、決定装置100は、各監視者A1、A2の監視対象を変更することにより、複数の移動体の自動運転に関する態様を決定する。図11の例では、決定装置100による監視処理の後の時点では、監視者A2が5台のバス20−1〜20−5を遠隔監視している。
ここで、図12に示すように、監視者A2の監視対象がバス20−1〜20−5に変更されたため、監視装置10−2の表示が変更される(ステップS24−1)。具体的には、監視装置10−2には、バス20−1〜20−3に各々対応する動画像MV11〜MV13が追加され、バス20−1〜20−5に各々対応する動画像MV11〜MV15が表示される。このように、監視装置10−2の表示が変更される。
この場合、監視装置10−2には、バス20−1〜20−5の5台のバス20に対応する動画像MV11〜MV15が表示される。これにより、監視者A2は、監視者A1から引き継いだバス20−1〜20−3を含むバス20を監視することが可能となる。また、監視者A1の監視対象が0台に変更されたため、監視装置10−1には、いずれのバス20に対応する動画像も表示されなくなるが、図示を省略する。
また、監視者A2が利用する監視装置10−2は、バス20−1の対象情報を取得する(ステップS25−1)。図11の例では、監視装置10−2は、バス20−1の対象情報として、地図情報MP11−2に示すバス20−1において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−2の対象情報を取得する(ステップS25−2)。図11の例では、監視装置10−2は、バス20−2の対象情報として、地図情報MP11−2に示すバス20−2において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−3の対象情報を取得する(ステップS25−3)。図11の例では、監視装置10−2は、バス20−3の対象情報として、地図情報MP11−2に示すバス20−3において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−4の対象情報を取得する(ステップS25−4)。図11の例では、監視装置10−2は、バス20−4の対象情報として、地図情報MP11−2に示すバス20−4において検知された動画像や音声等の種々の情報を取得する。
また、監視者A2が利用する監視装置10−2は、バス20−5の対象情報を取得する(ステップS25−5)。図11の例では、監視装置10−2は、バス20−5の対象情報として、地図情報MP11−2に示すバス20−5において検知された動画像や音声等の種々の情報を取得する。
以下、ステップS25−1〜S25−5を区別せずに説明する場合、ステップS25と総称する。また、ステップS25−1〜S25−5は、バス20と監視装置10との対応関係を示すためのものであり、監視装置10は、監視対象となっているバス20の対象情報を複数回に亘って取得してもよい。
また、監視者A2は、ステップS25において取得した対象情報に基づいて、監視対象となっているバス20を遠隔監視する(ステップS26)。図11の例では、監視者A2は、監視装置10−2によりバス20−1〜20−5の5台のバスを遠隔監視する。監視者A2は、監視装置10−2が画面に表示するバス20−1〜20−5の動画像を見たり、監視装置10−2がスピーカ等により出力するバス20−1〜20−5の音声を聞いたりすることにより、バス20−1〜20−5の5台のバスをリアルタイムに遠隔監視する。
なお、ステップS26は、監視者A1や監視者A2がバス20を、監視装置10を用いて遠隔監視していることを示すためのものであり、監視者A2は、監視対象となっているバス20を所定の期間(例えば業務時間中等)に亘って継続して監視する。また、監視者A1が監視可能な状態に戻った場合、決定装置100は、バス20−1〜20−3の監視者を監視者A1に変更してもよい。例えば、監視者A1が監視装置10−1の前に戻ることにより監視可能な状態に戻った場合、決定装置100は、バス20−1〜20−3の監視者を監視者A1に変更してもよい。
(4−1.監視態様)
なお、監視システム1におけるバス20の監視態様や監視者の変更態様については、上述した例に限らず、種々の態様であってもよい。上述した例では、各バス20を1人の監視者が監視する場合を示したが、1つのバス20を複数の監視者が監視する態様であってもよい。例えば、1つのバス20は、複数の監視者により重畳的に監視されてもよい。この場合、1つのバス20を監視する複数の監視者は、主たる監視者(第1監視者)と従たる監視者(第2監視者)等の異なる種別であってもよい。例えば、第1監視者と第2監視者とは、操作内容や責任等が異なってもよい。例えば、第1監視者がバス20の遠隔監視を主として行い、第2監視者は第1監視者及びバス20全体の運行管理等を行ってもよい。この場合、1人の第2監視者は、複数の第1監視者に対応付けられてもよい。
また、決定装置100は、1つのバス20が複数の監視者により重畳的に監視されている場合、バス20が走行中であっても監視者が変更可能であってもよい。例えば、決定装置100は、1つのバス20が複数の監視者により重畳的に監視されている場合、変更タイミングに関する所定の条件を満たすとして、バス20が走行中であっても監視者を変更してもよい。例えば、決定装置100は、1つのバスが複数の監視者により遠隔監視される場合、所定の条件を満たすタイミングで、そのバスを監視する複数の監視者のうち、1人の監視者を除外すると決定してもよい。また、例えば、決定装置100は、1つのバスが複数の監視者により遠隔監視される場合、所定の条件を満たすタイミングで、そのバスを監視する複数の監視者のうち、1人の監視者を他の監視者に変更すると決定してもよい。例えば、決定装置100は、走行中のバス20を監視する監視者が0人にならない限り、所望のタイミングで走行中のバス20を監視する監視者に関する変更を行ってもよい。
(4−2.業務分担)
また、決定装置100は、各監視者の業務負荷やスキル等に応じて各監視者の監視対象となるバス20の台数等を決定してもよい。例えば、決定装置100は、複数の移動体の監視における各監視者の負荷が所定の基準を満たすように、移動体の自動運転に関する態様を変更してもよい。例えば、決定装置100は、各監視者の負荷が平均化するように、各監視者の監視対象となるバス20の台数等を決定してもよい。例えば、決定装置100は、100台のバス20を20人の監視者で監視する場合、各監視者の負荷が平均化するように、各監視者に5台ずつバス20を監視させてもよい。また、例えば、決定装置100は、スキルが低い監視者や最大監視台数が5台未満の監視者には、5台未満のバス20を監視させると決定し、残りの監視者の負荷が平均化するように、各監視者が監視するバス20の台数を決定してもよい。
また、決定装置100は、監視台数に限らず、種々の情報に基づいて各監視者の負荷を決定してもよい。例えば、決定装置100は、各バス20の運行ルートに応じてバス20を監視する監視負荷を決定してもよい。例えば、決定装置100は、各バス20の運行ルートに応じてバス20の負荷スコアを決定し、各監視者の監視対象となるバス20の負荷スコアの合計が平均化するように、各監視者が監視するバス20を決定してもよい。例えば、決定装置100は、歩行者や自転車等の交通量が多い運行ルートのバス20の負荷スコアを他の運行ルートのバス20よりも高く決定してもよい。また、例えば、決定装置100は、一本道等の分岐の少ない運行ルートのバス20の負荷スコアを他の運行ルートのバス20よりも低く決定してもよい。
また、例えば、決定装置100は、各バス20のステータス(図8参照)に応じて負荷スコアを決定してもよい。例えば、決定装置100は、ステータスが「事象発生」であるバス20の負荷スコアをステータスが「通常」であるバス20よりも高く決定してもよい。例えば、決定装置100は、一の監視者の負荷が所定の閾値(上限閾値)以上である場合、一の監視者の監視対象となるバス20の監視者を他の監視者へ変更してもよい。例えば、決定装置100は、一の監視者の負荷が所定の閾値(上限閾値)未満となるように、一の監視者の監視対象となるバス20の監視者を他の監視者へ変更してもよい。なお、上記は一例であり、決定装置100は、種々の情報に基づいて、各監視者が監視するバス20を決定してもよい。
(4−3.所定の事象)
なお、移動体であるバス20における所定の事象は、故障や異音の発生に限らず、種々の事象であってもよい。バス20における所定の事象は、緊急車両接近や障害物有等の種々の事象であってもよい。例えば、決定装置100は、バス20の移動を妨げる事象を所定の事象として、バス20の自動運転に関する態様を変更すると決定してもよい。例えば、決定装置100は、バス20の進行方向において障害が発生した場合、バス20の自動運転に関する態様を変更してもよい。例えば、決定装置100は、1つのバス20(「要対応バス」とする)の進行方向において工事や落石等の障害物が発生した場合、要対応バスを監視する監視者の監視対象となっている他のバス20の監視者を他の監視者に変更してもよい。
(4−4.変更タイミング)
また、決定装置100は、種々のタイミングでバス20の監視者を変更してもよい。例えば、決定装置100は、バス20が停止したタイミングで、そのバス20を監視する監視者を変更してもよい。また、例えば、決定装置100は、バス20が停止してから所定の時間が経過したタイミングで、そのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20が信号停止時にそのバス20を監視する監視者を変更してもよい。また、ここでいう、バス20の監視者を変更するタイミングには、上述のような、バス20の停止時に限らず種々のタイミングが含まれるものとする。例えば、決定装置100は、バス20が低速走行時にそのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20が所定の閾値未満の速度で走行時にそのバス20を監視する監視者を変更してもよい。また、例えば、決定装置100は、バス20が安定走行時にそのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20が安定走行に関する所定の条件を満たす走行時に、そのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20が所定の距離以上に亘って一車線の道路を走行時に、そのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20が所定の距離以上に亘って交差点等の分岐が無い道路を走行時に、そのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20がまっすぐな道路を走行時に、そのバス20を監視する監視者を変更してもよい。例えば、決定装置100は、バス20が所定の距離以上に亘って所定の閾値以下の回転半径のカーブが無い道路を走行時に、そのバス20を監視する監視者を変更してもよい。
〔5.監視処理のフロー〕
次に、図13を用いて、実施形態に係る監視システム1による監視処理について説明する。図13は、実施形態に係る監視処理の一例を示すフローチャートである。
まず、監視装置10は、複数の移動体において検知された複数の画像情報と複数の音声情報とを出力する(ステップS101)。
そして、監視装置10は、動作状況の確認を要する所定の条件を満たす対象音声情報がある場合(ステップS102:Yes)、対象音声情報に対応する画像情報を識別可能な表示態様で表示する(ステップS103)。
また、決定装置100は、動作状況の確認を要する所定の条件を満たす対象音声情報がない場合(ステップS102:No)、ステップS102に戻って処理を繰り返す。
〔6.効果〕
上述してきたように、実施形態に係る監視装置10は、取得部152と、通知部154とを有する。取得部152は、監視者が遠隔監視する移動体であって、自動運転により動作する移動体において検知された複数の音声情報を取得する。通知部154は、取得部152により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知する。
このように、実施形態に係る決定装置100は、複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、取得部152は、監視者が遠隔監視する移動体であって、自動運転により動作する移動体において検知された複数の画像情報と複数の音声情報とを取得する。通知部154は、取得部152により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報に対応する画像情報と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。
このように、実施形態に係る決定装置100は、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報に対応する画像情報と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、対象音声情報に対応する画像情報と、対象音声情報に関する表示情報とを対応付けて表示する。
このように、実施形態に係る決定装置100は、対象音声情報に対応する画像情報と、対象音声情報に関する表示情報とを対応付けて表示することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、対象音声情報に対応する画像情報と、対象音声情報を視覚化した表示情報とを対応付けて表示する。
このように、実施形態に係る決定装置100は、対象音声情報に対応する画像情報と、対象音声情報を視覚化した表示情報とを対応付けて表示することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、取得部152により取得された複数の音声情報を出力する。
このように、実施形態に係る決定装置100は、複数の音声情報を出力する場合であっても、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、複数の画像情報のうち、監視者の視線に関する情報に基づく出力態様で、複数の音声情報を出力する。
このように、実施形態に係る決定装置100は、複数の画像情報のうち、監視者の視線に関する情報に基づく出力態様で、複数の音声情報を出力することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、複数の画像情報のうち、監視者の視線の動きに応じて監視者が注視していると推定される画像情報である注視画像情報に対応する音声情報を、他の画像情報に対応する音声情報とは異なる出力態様で出力する。
このように、実施形態に係る決定装置100は、複数の画像情報のうち、監視者の視線の動きに応じて監視者が注視していると推定される画像情報である注視画像情報に対応する音声情報を、他の画像情報に対応する音声情報とは異なる出力態様で出力することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、複数の画像情報のうち、注視画像情報に対応する音声情報のみを出力する。
このように、実施形態に係る決定装置100は、複数の画像情報のうち、注視画像情報に対応する音声情報のみを出力することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、注視画像情報に対応する音声情報の音量を、他の画像情報に対応する音声情報の音量よりも大きくする。
このように、実施形態に係る決定装置100は、注視画像情報に対応する音声情報の音量を、他の画像情報に対応する音声情報の音量よりも大きくすることにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、通知部154は、所定の条件を満たす複数の対象音声情報がある場合、複数の対象音声情報の各々のレベルに応じて変動する表示態様で、複数の対象音声情報の各々に対応する画像情報を表示する。
このように、実施形態に係る決定装置100は、所定の条件を満たす複数の対象音声情報がある場合、複数の対象音声情報の各々のレベルに応じて変動する表示態様で、複数の対象音声情報の各々に対応する画像情報を表示することにより、遠隔監視される移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、取得部152は、複数の移動体の各々に対応する複数の画像情報と複数の音声情報とを取得する。通知部154は、取得部152により取得された複数の音声情報のうち、所定の条件を満たす対象音声情報に対応する移動体と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。
このように、実施形態に係る決定装置100は、複数の音声情報のうち、所定の条件を満たす対象音声情報に対応する移動体と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示することにより、遠隔監視される複数の移動体に関する画像と音声との対応を適切に把握可能にすることができる。
また、実施形態に係る決定装置100において、取得部152は、一の移動体における各箇所に対応する複数の画像情報と複数の音声情報とを取得する。通知部154は、取得部152により取得された複数の音声情報のうち、所定の条件を満たす対象音声情報に対応する一の移動体における箇所と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示する。
このように、実施形態に係る決定装置100は、複数の音声情報のうち、所定の条件を満たす対象音声情報に対応する一の移動体における箇所と、対象音声情報とが対応することを識別可能な表示態様で複数の画像情報を表示することにより、遠隔監視される一の移動体に関する画像と音声との対応を適切に把握可能にすることができる。
〔7.プログラム〕
上述してきた監視装置10による処理は、本願に係る監視プログラムにより実現される。例えば、監視装置10に係る通知部154は、監視装置10が有するCPUやMPU等によって、例えば監視プログラムがRAMを作業領域として、監視プログラムに係る通知手順が実行されることにより実現される。例えば、監視装置10に係る通知部154は、監視装置10が有するCPUやMPU等によって、例えば表示アプリ等に含まれる監視プログラムがRAMを作業領域として、監視プログラムに係る通知手順が実行されることにより実現される。監視装置10に係る他の処理部も同様に、監視プログラムによる各手順が実行されることにより実現される。
なお、本願に係る監視装置10が実行する処理は、必ずしも全てが監視プログラムによって実現されるものでなくてもよい。例えば、監視装置10外の情報等は、監視装置10が有するOS(Operating System)によって取得されてもよい。すなわち、監視プログラム自体が、上述してきたような監視装置10で実行される処理を実行するのではなく、OSによって取得されたデータ(例えば、移動体の動画像を表示するために用いるデータや移動体の音声を出力するために用いるデータ)を受け取ったりすることにより、上述してきた監視装置10の処理を実現するようにしてもよい。
〔8.ハードウェア構成〕
上述してきた実施形態に係る監視装置10や決定装置100は、例えば図15に示すような構成のコンピュータ1000によって実現される。図15は、監視装置及び決定装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
HDD1400は、CPU1100によって実行されるプログラム、及び、プログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、ネットワークN(図2中においてはネットワークN)を介して他の機器からデータを受信してCPU1100へ送り、CPU1100が収集したデータをネットワークNを介して他の機器へ送信する。
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、収集したデータを入出力インターフェイス1600を介して出力装置へ出力する。
メディアインターフェイス1700は、記録媒体1800に格納されたプログラムまたはデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、プログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
例えば、コンピュータ1000が実施形態に係る監視装置10や決定装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部15、130の機能を実現する。コンピュータ1000のCPU1100は、これらのプログラムを記録媒体1800から読み取って実行するが、他の例として、他の装置からネットワークNを介してこれらのプログラムを取得してもよい。
以上、本願の実施形態及び変形例のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の行に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
〔9.その他〕
また、上記実施形態及び変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、送信部は、送信手段や送信回路に読み替えることができる。
1 監視システム
10 監視装置
12 記憶部
12A 移動体情報記憶部
13 入力部
14 出力部
15 制御部
151 送信部
152 取得部
153 判定部
154 通知部
16 スピーカ(音出部)
100 決定装置
121 移動体情報記憶部
122 監視者情報記憶部
123 監視対応情報記憶部
130 制御部
131 取得部
132 判定部
133 決定部
134 送信部
20 バス(移動体)
N ネットワーク

Claims (13)

  1. 監視者により遠隔監視され、自動運転により動作する移動体において検知された複数の音声情報を取得する取得手順と、
    前記取得手順により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知する通知手順と、
    をコンピュータに実行させ、
    前記取得手順は、
    監視者により遠隔監視され、自動運転により動作する移動体において検知された複数の画像情報と前記複数の音声情報とを取得し、
    前記通知手順は、
    前記取得手順により取得された複数の音声情報のうち、前記所定の条件を満たす音声情報である対象音声情報に対応する画像情報と、前記対象音声情報とが対応することを識別可能な表示態様で前記複数の画像情報を前記コンピュータ表示する
    ことを特徴とする監視プログラム。
  2. 前記通知手順は、
    前記対象音声情報に対応する画像情報と、前記対象音声情報に関する表示情報とを対応付けて表示する
    ことを特徴とする請求項1に記載の監視プログラム。
  3. 前記通知手順は、
    前記対象音声情報に対応する画像情報と、前記対象音声情報を視覚化した前記表示情報とを対応付けて表示する
    ことを特徴とする請求項2に記載の監視プログラム。
  4. 前記通知手順は、
    前記取得手順により取得された複数の音声情報を出力する
    ことを特徴とする請求項1〜3のいずれか1項に記載の監視プログラム。
  5. 前記通知手順は、
    前記監視者の視線に関する情報に基づく出力態様で、前記複数の音声情報を出力する
    ことを特徴とする請求項4に記載の監視プログラム。
  6. 前記通知手順は、
    前記複数の画像情報のうち、前記監視者の視線の動きに応じて前記監視者が注視していると推定される画像情報である注視画像情報に対応する音声情報を、他の画像情報に対応する音声情報とは異なる出力態様で出力する
    ことを特徴とする請求項5に記載の監視プログラム。
  7. 前記通知手順は、
    前記複数の画像情報のうち、前記注視画像情報に対応する音声情報のみを出力する
    ことを特徴とする請求項6に記載の監視プログラム。
  8. 前記通知手順は、
    前記注視画像情報に対応する音声情報の音量を、他の画像情報に対応する音声情報の音量よりも大きくする
    ことを特徴とする請求項6に記載の監視プログラム。
  9. 前記通知手順は、
    前記所定の条件を満たす複数の対象音声情報がある場合、前記複数の対象音声情報の各々のレベルに応じて変動する表示態様で、前記複数の対象音声情報の各々に対応する画像情報を表示する
    ことを特徴とする請求項1〜8のいずれか1項に記載の監視プログラム。
  10. 前記取得手順は、
    複数の移動体の各々に対応する前記複数の画像情報と前記複数の音声情報とを取得し、
    前記通知手順は、
    前記取得手順により取得された複数の音声情報のうち、前記所定の条件を満たす前記対象音声情報に対応する移動体と、前記対象音声情報とが対応することを識別可能な表示態様で前記複数の画像情報を表示する
    ことを特徴とする請求項1〜9のいずれか1項に記載の監視プログラム。
  11. 前記取得手順は、
    一の移動体における各箇所に対応する前記複数の画像情報と前記複数の音声情報とを取得し、
    前記通知手順は、
    前記取得手順により取得された複数の音声情報のうち、前記所定の条件を満たす前記対象音声情報に対応する前記一の移動体における箇所と、前記対象音声情報とが対応することを識別可能な表示態様で前記複数の画像情報を表示する
    ことを特徴とする請求項1〜9のいずれか1項に記載の監視プログラム。
  12. コンピュータが実行する監視方法であって、
    監視者により遠隔監視され、自動運転により動作する移動体において検知された複数の音声情報を取得する取得工程と、
    前記取得工程により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知する通知工程と、
    を含み、
    前記取得工程は、
    監視者により遠隔監視され、自動運転により動作する移動体において検知された複数の画像情報と前記複数の音声情報とを取得し、
    前記通知工程は、
    前記取得工程により取得された複数の音声情報のうち、前記所定の条件を満たす音声情報である対象音声情報に対応する画像情報と、前記対象音声情報とが対応することを識別可能な表示態様で前記複数の画像情報を前記コンピュータ表示する
    ことを特徴とする監視方法。
  13. 監視装置であって、
    監視者により遠隔監視され、自動運転により動作する移動体において検知された複数の音声情報を取得する取得部と、
    前記取得部により取得された複数の音声情報のうち、動作状況の確認を要する所定の条件を満たす音声情報である対象音声情報を監視者に対して通知する通知部と、
    を備え、
    前記取得部は、
    監視者により遠隔監視され、自動運転により動作する移動体において検知された複数の画像情報と前記複数の音声情報とを取得し、
    前記通知部は、
    前記取得部により取得された複数の音声情報のうち、前記所定の条件を満たす音声情報である対象音声情報に対応する画像情報と、前記対象音声情報とが対応することを識別可能な表示態様で前記複数の画像情報を前記監視装置表示する
    ことを特徴とする監視装置。
JP2017132310A 2017-07-05 2017-07-05 監視プログラム、監視方法、及び監視装置 Active JP6971069B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017132310A JP6971069B2 (ja) 2017-07-05 2017-07-05 監視プログラム、監視方法、及び監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017132310A JP6971069B2 (ja) 2017-07-05 2017-07-05 監視プログラム、監視方法、及び監視装置

Publications (2)

Publication Number Publication Date
JP2019016118A JP2019016118A (ja) 2019-01-31
JP6971069B2 true JP6971069B2 (ja) 2021-11-24

Family

ID=65358507

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017132310A Active JP6971069B2 (ja) 2017-07-05 2017-07-05 監視プログラム、監視方法、及び監視装置

Country Status (1)

Country Link
JP (1) JP6971069B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020121295A (ja) 2019-01-31 2020-08-13 セイコーエプソン株式会社 分離装置および繊維体堆積装置
US11915339B2 (en) 2019-03-04 2024-02-27 Maxell, Ltd. Remote operation instructing system, and mount type device
CN118968797A (zh) 2020-02-14 2024-11-15 松下知识产权经营株式会社 信息处理方法以及信息处理装置
WO2021177052A1 (ja) * 2020-03-03 2021-09-10 パナソニックIpマネジメント株式会社 情報処理方法、及び、情報処理システム
US20230137980A1 (en) * 2020-03-31 2023-05-04 Nec Corporation Remote monitoring and control apparatus, system, method, and non-transitory computer readable medium storing program
JP7162038B2 (ja) * 2020-09-09 2022-10-27 Boldly株式会社 情報処理装置、情報処理装置の制御方法、及び情報処理装置の制御プログラム
WO2022259638A1 (ja) * 2021-06-07 2022-12-15 パナソニックIpマネジメント株式会社 制御方法および制御システム
DE102021208922A1 (de) * 2021-08-13 2023-02-16 Zf Friedrichshafen Ag Verfahren und System zum Erzeugen von Geräuschen in einem Innenraum basierend auf extrahierten und klassifizierten realen Geräuschquellen und für spezifische Zielgeräusche akustisch transparentes Fahrzeug umfassend ein derartiges System
JP7494820B2 (ja) * 2021-08-25 2024-06-04 トヨタ自動車株式会社 情報処理装置、情報処理方法、およびプログラム
WO2024176893A1 (ja) * 2023-02-21 2024-08-29 株式会社デンソー 緊急制御装置、緊急制御方法、プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006171904A (ja) * 2004-12-13 2006-06-29 Hitachi Kiden Kogyo Ltd 搬送車の保守データ収集システム
JP2009012891A (ja) * 2007-07-02 2009-01-22 Toshiba Elevator Co Ltd 乗客コンベア監視装置及び遠隔監視システム
JP5192414B2 (ja) * 2009-02-06 2013-05-08 株式会社日立製作所 音声情報表示システム
JP6255606B2 (ja) * 2013-07-29 2018-01-10 シャープ株式会社 監視システム、監視方法及びプログラム
JP2015046822A (ja) * 2013-08-29 2015-03-12 シャープ株式会社 テレビ会議システム
US10604155B2 (en) * 2014-09-11 2020-03-31 Honda Motor Co., Ltd. Driving assistance device
JP6625930B2 (ja) * 2016-05-16 2019-12-25 株式会社東芝 眼電位検出電極付き制帽、眼電位検出電極付きヘッドウエア、および眼電位検出を利用したアラート方法

Also Published As

Publication number Publication date
JP2019016118A (ja) 2019-01-31

Similar Documents

Publication Publication Date Title
JP6971069B2 (ja) 監視プログラム、監視方法、及び監視装置
CN111381673B (zh) 双向车载虚拟个人助理
US10636108B2 (en) Identifying matched requestors and providers
US8493198B1 (en) Vehicle and mobile device traffic hazard warning techniques
US20180290590A1 (en) Systems for outputting an alert from a vehicle to warn nearby entities
JP6827712B2 (ja) 制御装置、車載装置、映像配信方法、及びプログラム
US10363866B2 (en) Contextual priority signal in autonomous environment
WO2021131474A1 (ja) 情報処理装置、移動装置、情報処理システム、および方法、並びにプログラム
US20160267787A1 (en) Systems and methods for wireless operation of accessible pedestrian signal (aps) systems
JP2022058611A (ja) 運転者及び乗客用の車載音響監視システム
JP6566995B2 (ja) 決定装置、決定方法、及び決定プログラム
WO2023204076A1 (ja) 音響制御方法及び音響制御装置
JP2020173627A (ja) 駐車場管理装置、駐車場管理方法および駐車場管理プログラム
WO2019031002A1 (ja) 制御システムおよび制御方法
JP7038312B2 (ja) 道路シェアリングのための協力的行動の提供システムおよび方法
JP6353126B1 (ja) 決定装置、決定方法、及び決定プログラム
JP2020126435A (ja) 車両制御装置
JP6420413B1 (ja) 決定装置、決定方法、及び決定プログラム
JP6980609B2 (ja) 決定装置、決定方法、及び決定プログラム
JP6679657B2 (ja) 決定装置、決定方法、及び決定プログラム
JP7025294B2 (ja) 決定装置、決定方法、及び決定プログラム
WO2024048517A1 (ja) 情報処理方法、及び、情報処理装置
JP6929713B2 (ja) 決定装置、決定方法、決定プログラム、表示装置、表示方法、及び表示プログラム
US10591885B2 (en) Device control based on a user's physical setting
JP2020055430A (ja) 光通知制御装置、プログラム、および光通知システム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191101

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20191108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211101

R150 Certificate of patent or registration of utility model

Ref document number: 6971069

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250