JP6412665B1 - 検査支援システムおよび検査支援方法、ならびにプログラム - Google Patents

検査支援システムおよび検査支援方法、ならびにプログラム Download PDF

Info

Publication number
JP6412665B1
JP6412665B1 JP2018040023A JP2018040023A JP6412665B1 JP 6412665 B1 JP6412665 B1 JP 6412665B1 JP 2018040023 A JP2018040023 A JP 2018040023A JP 2018040023 A JP2018040023 A JP 2018040023A JP 6412665 B1 JP6412665 B1 JP 6412665B1
Authority
JP
Japan
Prior art keywords
inspection
control unit
position information
result information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018040023A
Other languages
English (en)
Other versions
JP2019153238A (ja
Inventor
洋介 宮坂
洋介 宮坂
Original Assignee
株式会社トータル・インフォメーション・サービス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社トータル・インフォメーション・サービス filed Critical 株式会社トータル・インフォメーション・サービス
Priority to JP2018040023A priority Critical patent/JP6412665B1/ja
Application granted granted Critical
Publication of JP6412665B1 publication Critical patent/JP6412665B1/ja
Publication of JP2019153238A publication Critical patent/JP2019153238A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行う。
【解決手段】ユーザ端末2が、GNSS装置41により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示するAR表示部35と、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するマイク37と、マイク37を介して取得された検査対象物の検査結果情報に相当する発話音声をサーバ1に送信する端末通信部31とを備え、サーバ1が、端末通信部31から受信された検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部15と、検査対象物の検査結果情報を登録する点検結果データベース20と、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、過去の検査結果情報をユーザ端末2に送信するサーバ側通信部11とを有する。
【選択図】図1

Description

本発明は、検査支援システムおよび検査支援方法、ならびにプログラムに関する。
鉄道の保守検査においては、検査担当者が実際に線路上を歩いて点検することが必要となる。検査結果は、検査担当者が所定の用紙に記入したり、写真をその場で撮像することなどにより得られ、これらの検査結果が登録されて、管理運用される。
鉄道と同様に、日常の保守点検が必要なものに、例えば、高速道路などがある。従来、高速道路等の保全点検業務としては、点検管理員が自動車などに乗り、担当区域の高速道路等を見回りながら道路状況を点検する。そして、点検管理員は、例えば道路に落石や凹凸等を発見し、かつ、発見した道路状況から第三者に被害を与える可能性がある場合、緊急対応処置が必要であると判断し、道路管理関係者や道路補修関係者に対して、電話等を用いて口頭報告を行っている。
そこで、損傷場所を含めて現地の状況を詳細、かつ、迅速に報告することにより、迅速な対応処置を講じることを可能とするために、道路状況を撮影する撮像カメラと、現在位置検知機能を有するGPS受信機と、道路の損傷状況から緊急対応の必要性が有ると判断した場合、予め定める画面を表示し、その画面内に損傷個所を特定する道路諸元、道路損傷状況及び必要なコメント等の道路損傷状況関係情報を登録する損傷データ登録手段と、この道路損傷状況関係情報の登録後に撮像カメラおよびGPS受信機を駆動し、損傷部分を含む道路状況撮影写真及び損傷位置を取得する手段と、登録された道路損傷状況関係情報、道路状況撮影写真及び損傷位置からなる緊急報告情報を外部の所定のサーバに送信する報告情報送信手段とを有する道路状況報告用携帯端末が用いられている(例えば、特許文献1)。
特開2007−65854号公報
従来行われてきたように、点検結果を登録するために、所定の用紙等に記入したり、カメラや所定の装置に操作入力を行う場合、両手がふさがってしまうため、検査担当者の安全性が損なわれてしまう恐れがある。例えば、上述した特許文献1に記載の技術を、鉄道の保守点検に適応した場合においても、検査結果の登録にかかる手間は減少するが、依然、検査担当者は、装置を把持して操作入力を行う必要がある。したがって、できるだけ検査担当者の安全を確保し、点検結果の登録を容易かつ確実なものとする必要がある。
また、過去の検査結果を確認しつつ、現状の検査を行うに当たっては、例えば、過去の検査結果の一覧を検査担当者が閲覧しながら線路上を移動しながら検査する必要がある。検査担当者は、過去の不良内容を見落としたり、その位置を間違えたりしないように、大きな注意を払わなければならない。
そこで、本発明は、上記課題を解決すること、すなわち、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる、検査支援システムおよび検査支援方法、ならびにプログラムを提供することを目的とする。
上記課題を解決するために、本発明の検査支援システムの第1の側面は、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、位置情報に対応する地点における検査結果情報をウェアラブル端末との間で送受することができるサーバとを備え、ウェアラブル端末は、眼鏡形状のヘッドマウントディスプレイであり、ウェアラブル端末を装着するユーザの眼前に配置され、位置情報取得部により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示する表示部と、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に表示部に過去の検査結果情報を表示させる表示制御部と、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得する発話音声取得部と、発話音声取得部を介して取得された検査対象物の検査結果情報に相当する発話音声をサーバに送信する端末側通信部とを備え、表示制御部は、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合、表示部に表示された過去の検査結果情報の表示の座標及び大きさを、位置情報、および、ウェアラブル端末を装着するユーザの視線の向きを検出するためのセンサにより検出されたユーザの視線の向きの変化に応じて変化させ、サーバは、端末側通信部から受信された検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部と、検査対象物の検査結果情報を登録する検査結果情報記憶部と、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報をウェアラブル端末に送信するサーバ側通信部とを有することを特徴とする。
また、本発明の検査支援システムの他の側面は、ウェアラブル端末は過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に警告音を音声出力部に出力させる音声制御部有することを特徴とする。
また、本発明の検査支援システムの他の側面は、音声制御部は、取得した位置情報に対応する地点のキロ程において不良状態が確認された場合に発話される地点のキロ程データに相当する発話音声及び不良情報を含む検査結果情報に相当する発話音声を音声出力部から出力させることを特徴とする。
また、本発明の検査支援システムの他の側面は、検査結果情報記憶部は、取得した位置情報に対応する地点のキロ程において不良状態が確認された場合に取得された不良情報を含む検査結果情報を登録することを特徴とする。
本発明の検査支援方法の第1の側面は、眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、位置情報に対応する地点における検査結果情報をウェアラブル端末との間で送受することができるサーバを用いた検査支援方法であって、ウェアラブル端末が、位置情報取得部により現在位置を取得するステップと、ウェアラブル端末が、取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、ウェアラブル端末が、受信された過去の検査結果情報を、ウェアラブル端末を装着するユーザの眼前に配置された表示部に表示するステップと、ウェアラブル端末が、さらに、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、表示部に表示された過去の検査結果情報の表示の座標及び大きさを、位置情報、および、ユーザの視線の向きの変化に応じて変化させて表示させるステップと、ウェアラブル端末が、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するステップと、ウェアラブル端末が、発話音声を取得するステップの処理により取得された検査対象物の検査結果情報に相当する発話音声をサーバに送信するステップと、サーバが、送信するステップにおいて送信された検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、サーバが、検査対象物の検査結果情報を登録するステップと、サーバが、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報をウェアラブル端末に送信するステップとを有することを特徴とする。
また、本発明の検査支援方法の他の側面は、ウェアラブル端末がウェアラブル端末が、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に警告音を音声出力部に出力させるステップ有することを特徴とする。
また、本発明のプログラムの第1の側面は、眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、位置情報に対応する地点における検査結果情報をウェアラブル端末との間で送受することができるサーバとを備えた検査支援システムにおける検査支援方法を、ウェアラブル端末のコンピュータに実行させるためのプログラムであって、位置情報取得部により現在位置を取得するステップと、取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、受信された過去の検査結果情報を、ウェアラブル端末を装着するユーザの眼前に配置された表示部に表示するステップと、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、表示部に表示された過去の検査結果情報の表示の座標及び大きさを、位置情報、および、ユーザの視線の向きの変化に応じて変化させて表示させるステップと、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するステップと、発話音声を取得するステップの処理により取得された検査対象物の検査結果情報に相当する発話音声をサーバに送信するステップと、をコンピュータに実行させる。
本発明の検査支援システムの第2の側面は、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、位置情報に対応する地点における検査結果情報をウェアラブル端末との間で送受することができるサーバとを備え、ウェアラブル端末は、眼鏡形状のヘッドマウントディスプレイであり、ウェアラブル端末を装着するユーザの眼前に配置され、位置情報取得部により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示する表示部と、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に表示部に過去の検査結果情報を表示させる表示制御部と、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得する発話音声取得部と、発話取得部により取得された検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部と、音声認識処理部により音声認識された検査対象物の検査結果情報をサーバに送信する端末側通信部とを備え、表示制御部は、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合、表示部に表示された過去の検査結果情報の表示の座標及び大きさを、位置情報、および、ウェアラブル端末を装着するユーザの視線の向きを検出するためのセンサにより検出されたユーザの視線の向きの変化に応じて変化させ、サーバは、端末側通信部から受信された検査対象物の検査結果情報を登録する検査結果情報記憶部と、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報をウェアラブル端末に送信するサーバ側通信部とを有することを特徴とする。
また、本発明の検査支援方法の第2の側面は、眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、位置情報に対応する地点における検査結果情報をウェアラブル端末との間で送受することができるサーバを用いた検査支援方法であって、ウェアラブル端末が、位置情報取得部により現在位置を取得するステップと、ウェアラブル端末が、取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、ウェアラブル端末が、受信された過去の検査結果情報を、ウェアラブル端末を装着するユーザの眼前に配置された表示部に表示するステップと、ウェアラブル端末が、さらに、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、表示部に表示された過去の検査結果情報の表示の座標及び大きさを、位置情報、および、ユーザの視線の向きの変化に応じて変化させて表示させるステップと、ウェアラブル端末が、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するステップと、ウェアラブル端末が、発話音声を取得するステップの処理により取得された検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、ウェアラブル端末が、音声認識処理するステップの処理結果をサーバに送信するステップと、サーバが、送信するステップにおいて送信された検査対象物の検査結果情報を登録するステップと、サーバが、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報をウェアラブル端末に送信するステップとを有することを特徴とする。
また、本発明のプログラムの第2の側面は、眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、位置情報に対応する地点における検査結果情報をウェアラブル端末との間で送受することができるサーバとを備えた検査支援システムにおける検査支援方法を、ウェアラブル端末のコンピュータに実行させるためのプログラムであって、位置情報取得部により現在位置を取得するステップと、取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、受信された過去の検査結果情報を、ウェアラブル端末を装着するユーザの眼前に配置された表示部に表示するステップと、過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、表示部に表示された過去の検査結果情報の表示の座標及び大きさを、位置情報、および、ユーザの視線の向きの変化に応じて変化させて表示させるステップと、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するステップと、発話音声を取得するステップの処理により取得された検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、音声認識処理するステップの処理結果をサーバに送信するステップと、をコンピュータに実行させる。
本発明によれば、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
検査支援システムの機能構成例について説明するための図である。 検査支援システムが実行する処理について説明するための図である。 検査支援システムが実行する処理について説明するための図である。 ユーザ端末2が実行する処理について説明するためのフローチャートである。 ユーザ端末2が実行する処理について説明するためのフローチャートである。 ユーザ端末2が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 サーバ1が実行する処理について説明するためのフローチャートである。 検査支援システムの他の機能構成例について説明するための図である。 ユーザ端末72が実行する処理について説明するためのフローチャートである。 ユーザ端末72が実行する処理について説明するためのフローチャートである。 ユーザ端末72が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。 サーバ71が実行する処理について説明するためのフローチャートである。
以下、本発明の一実施の形態の検査支援システムについて、図1〜図26を参照しながら説明する。
図1を参照して、本発明の一実施例である検査支援システムが有する機能構成について説明する。
検査支援システムは、検査結果情報が登録されるサーバ1と、検査担当者であるユーザが線路上を歩行しながら検査現場にて用いるユーザ端末2とを含んで構成されている。ユーザ端末2は、ユーザが携帯可能な形状である。ユーザ端末2は、特に、メガネ型ウェアラブル端末(メガネ形状の透過型のヘッドマウントディスプレイやスマートグラスとも称される)であると、検査実施時に両手が自由になり、ユーザがより安全に検査を行うことができるようになるため好適である。ユーザ端末2は、ウェアラブル端末に対応する。
サーバ1は、サーバ通信部11、サーバ通信処理制御部12、点検処理制御部13、音声認識用データベース14、音声認識処理部15、使用者データベース16、使用者認識処理部17、位置情報データベース18、位置情報演算処理部19、点検結果データベース20、点検結果登録制御部21、テキストデータ生成部22、および、音声データ生成部23の各機能を含んで構成されている。
サーバ通信部11は、ユーザ端末2との無線での通信を実行し、情報を授受する。サーバ通信部11は、サーバ側通信部に対応する。
サーバ通信処理制御部12は、サーバ通信部11によるユーザ端末2との情報の授受を制御する。
点検処理制御部13は、サーバ1の各部の処理を制御するものである。具体的には、点検処理制御部13は、サーバ通信処理制御部12を制御して、サーバ通信部11で受信された情報の供給を受ける。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。点検処理制御部13は、供給された音声データがユーザ端末2のログイン要求である場合、使用者認識処理部17を制御して、ユーザ端末2の使用者を認識する処理を実行させる。また、点検処理制御部13は、サーバ通信部11より受信された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。そして、点検処理制御部13は、サーバ通信処理制御部12の制御により、路線名とキロ程による位置情報を、サーバ通信部11からユーザ端末2に送信させる。
また、点検処理制御部13は、ユーザ端末2の位置情報に基づいて、必要に応じて点検結果登録制御部21を制御して、過去の点検結果を点検結果データベース20から検索させる。そして、点検処理制御部13は、サーバ通信処理制御部12の制御により、過去の点検結果を、サーバ通信部11からユーザ端末2に送信させる。また、点検処理制御部13は、ユーザ端末2より送信され、サーバ通信部11において受信された現在の点検結果の情報を、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。また、点検処理制御部13は、テキストデータ生成部22を制御して、ユーザ端末2において表示出力されるテキストデータを生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。また、点検処理制御部13は、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データを生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。
音声認識用データベース14は、ユーザ端末2から送信された音声データの認識処理に用いられる情報が登録されているデータベースである。
音声認識処理部15は、点検処理制御部13の制御に基づいて、音声認識処理を実行する。音声認識処理部15は、サーバ通信部11が、ユーザ端末2から受信した音声データを、音声認識用データベース14に登録されている情報を用いて認識し、音声認識結果を点検処理制御部13に供給する。
使用者データベース16は、ユーザ端末2の使用者の情報を記録するものである。使用者データベース16に記録される情報には、登録された使用者の発声を本人のものであるかを識別するための声紋などの音声情報が含まれている。
使用者認識処理部17は、サーバ通信部11がユーザ端末2から受信した音声データがログイン要求であると認識された場合、点検処理制御部13の制御に基づいて、使用者データベース16に登録されている情報を用いて、その音声データに対応する発話が登録されたユーザであるか否かの認識処理を実行し、認識処理結果を点検処理制御部13に供給する。
位置情報データベース18は、緯度経度情報と、鉄道路線の各線における基点からのキロ程との対応関係が登録されているデータベースである。鉄道路線の位置は、それぞれの路線の起点からのキロ程によってあらわすことが可能である。
位置情報演算処理部19は、点検処理制御部13の制御に基づいて、サーバ通信部11がユーザ端末2から受信した緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。
点検結果データベース20は、過去の点検結果(検査結果情報)が登録されているとともに、サーバ通信部11がユーザ端末2から受信した新たな点検結果(検査結果情報)を新たに登録するために用いられるデータベースである。点検結果データベース20は、検査結果情報記憶部に対応する。
点検結果登録制御部21は、点検処理制御部13の制御に基づいて、ユーザ端末2を利用している検査担当者であるユーザが検査を行っている路線の過去の点検結果を、点検結果データベース20から検索し、点検処理制御部13に供給する。また、点検結果登録制御部21は、点検処理制御部13の制御に基づいて、サーバ通信部11がユーザ端末2から受信した新たな点検結果情報を、点検結果データベース20に供給して登録する処理を実行する。
テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータを生成し、点検処理制御部13に供給する。
音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データを生成し、点検処理制御部13に供給する。
なお、図1において、サーバ1は1つの装置として構成されているものとして説明したが、図1のサーバ1が有する機能を、複数の装置で実現するものとしてもよい。例えば、音声認識用データベース14、および、音声認識処理部15が実現する処理を他の処理とは異なる装置において実現可能とし、それぞれの装置間で情報を授受することができるようにしてもよい。
ユーザ端末2は、端末通信部31、端末通信処理制御部32、ユーザ端末処理制御部33、AR(Augmented Reality:拡張現実)表示制御部34、AR表示部35、音声データ取得制御部36、マイク37、音声データ出力制御部38、ヘッドホン39、位置データ取得制御部40、GNSS(Global Navigation Satellite System / 全球測位衛星システム)装置41、ジャイロスコープ42、地磁気センサ43、撮像制御部44、および、カメラ45の各機能を有して構成されている。
端末通信部31は、サーバ1との無線での通信を実行し、情報を授受する。端末通信部31は、端末側通信部に対応する。
端末通信処理制御部32は、端末通信部31によるサーバ1との情報の授受を制御する。
ユーザ端末処理制御部33は、ユーザ端末2の各部の処理を制御するものである。具体的には、ユーザ端末処理制御部33は、端末通信処理制御部32を制御して、端末通信部31により受信された情報の供給を受ける。ユーザ端末処理制御部33は、供給された音声データや、ユーザに注意を促すための所定の音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから音声出力させる。ユーザ端末処理制御部33は、供給されたテキストデータや画像データを、AR表示制御部34を制御して、AR表示部35に表示させる。ユーザ端末処理制御部33は、マイク37により集音され、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
また、ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報の供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。また、ユーザ端末処理制御部33は、撮像制御部44を制御して、カメラ45により画像を撮像させ、撮像された画像データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。また、ユーザ端末処理制御部33は、ジャイロスコープ42、および、地磁気センサ43から供給された計測値に基づいて、ユーザ端末2を装着しているユーザの視線の向き、すなわち、AR表示部35を介してユーザが現実世界のいずれの方向を見ているかを検出する。そして、ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報、および、ユーザ端末2を装着しているユーザの視線の向きの検出結果に基づいて、AR表示制御部34による、過去の検査結果の表示の座標や大きさを制御する。
AR表示制御部34は、端末通信処理制御部32から供給された、画像データおよびテキストデータのAR表示部35への表示を制御する。AR表示制御部34は、表示制御部に対応する。
AR表示部35は、実在する風景にバーチャルの視覚情報を重ねて表示することが可能な表示部である。AR表示部35では、テキストや画像の表示がない部分には、現実世界が表示される。ユーザ端末2がメガネ型ウェアラブル端末である場合、AR表示部35のテキストや画像の表示がない部分は透過式になっており、ユーザ端末2を装着しているユーザの目に見える現実世界に、AR表示制御部34の制御により表示されるテキストや画像が重なって表示されるものである。また、ユーザ端末2がメガネ型ウェアラブル端末ではない場合、AR表示部35には、カメラ45により撮像された現実世界の映像に重ねて、AR表示制御部34の制御により表示されるテキストや画像が表示される。AR表示部35は、表示部に対応する。
音声データ取得制御部36は、マイク37による周囲の音声の取得を制御し、取得された音声データを、ユーザ端末処理制御部33に供給する。
マイク37は、音声データ取得制御部36の制御に基づいて、周囲の音声を取得する。マイク37は、発話音声取得部に対応する。
音声データ出力制御部38は、ユーザ端末処理制御部33から供給された音声データの、ヘッドホン39からの音声出力を制御する。音声データ出力制御部38は、音声制御部に対応する。
ヘッドホン39は、音声データ出力制御部38の制御に基づいて、音声データを、内蔵されているスピーカーから出力する。ヘッドホン39は、音声出力部に対応する。
位置データ取得制御部40は、GNSS装置41による緯度経度情報の受信を制御し、取得された緯度経度情報を、ユーザ端末処理制御部33に供給する。
GNSS装置41は、GPS(Global Positioning System)、GLONASS(Global Navigation Satellite System)、Galileo、QZSS(Quasi-Zenith Satellite System:準天頂衛星)等の衛星測位システムを利用して、現在の緯度経度情報を取得する。GNSS装置41は、位置情報取得部に対応する。
ジャイロスコープ42は、ユーザ端末2の角度(姿勢)や角速度あるいは角加速度を検出し、ユーザ端末処理制御部33に供給する。
地磁気センサ43は、磁場の向きを計測することにより、ユーザ端末2が向いている角度を検出し、ユーザ端末処理制御部33に供給する。
撮像制御部44は、カメラ45による画像の撮像を制御し、撮像された画像データを、ユーザ端末処理制御部33に供給する。
カメラ45は、撮像制御部44の制御に基づいて、撮像処理を行う。
このように、検査支援システムでは、ユーザ端末2が、GNSS装置41により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示するAR表示部35と、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するマイク37と、マイク37を介して取得された検査対象物の検査結果情報に相当する発話音声をサーバ1に送信する端末通信部31とを備え、サーバ1が、端末通信部31から受信された検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部15と、検査対象物の検査結果情報を登録する点検結果データベース20と、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、過去の検査結果情報をユーザ端末2に送信するサーバ側通信部11とを有する。
したがって、検査支援システムでは、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
次に、図2および図3を参照し、ユーザ端末2を利用した鉄道の線路における保守点検の具体的な例について説明する。
図2を参照して、ログインからシステム終了までの流れについて説明する。
検査担当者であるユーザが、線路の保守点検において、ユーザ端末2を装着し、ユーザ端末2に対して、「ログイン」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「ログイン」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「ログイン」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、ユーザ端末2のログイン要求を受け、使用者認識処理部17を制御して、ユーザ端末2の使用者を認識する処理を実行させる。使用者認識処理部17による使用者の認識処理の結果、ユーザ端末2の利用者が登録された利用者であると認識された場合、点検処理制御部13は、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「こんにちは○○さん」を生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「こんにちは○○さん」を音声出力させる。
また、位置データ取得制御部40は、GNSS装置41による緯度経度情報の受信を制御し、取得された緯度経度情報を、随時、ユーザ端末処理制御部33に供給する。ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報の供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された緯度経度情報は、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、位置情報データベース18に登録されている情報に基づいて、供給された緯度経度情報を、路線名および基点からのキロ程により表される位置情報に変換し、点検処理制御部13に供給する。点検処理制御部13は、現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された位置情報は、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された位置情報を、AR表示制御部34を制御して、AR表示部35(35−1として図示)に表示させる。
ユーザが、検査開始位置まで移動している間も、上述した場合と同様の緯度経度情報からキロ程により表される位置情報への変換処理が実行される。ユーザ端末処理制御部33は、供給された位置情報を、AR表示制御部34を制御して、AR表示部35(35−2として図示)に表示させる。ユーザが、検査開始位置まで移動したとき、ユーザ端末2に対して、「検査開始」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「検査開始」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「検査開始」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、ユーザ端末2の検査開始要求を受け、位置情報演算処理部19の処理により得られる発話時のユーザ端末2の位置に対応する路線名と基点からのキロ程による位置情報に基づいて、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「1k200から検査を開始します」を生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。また、点検処理制御部13は、検査開始位置「1k200」を、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「1k200から検査を開始します」を音声出力させる。
点検処理制御部13は、位置情報演算処理部19の処理により得られる発話時のユーザ端末2の位置に対応する路線名と基点からのキロ程による位置情報に基づいて、点検結果登録制御部21を制御して、過去の点検結果のうち、ユーザ端末2を保有するユーザが次に到着する過去の不良発生個所の情報を、点検結果データベース20から検索させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、ユーザ端末2を利用しているユーザが検査を行っている路線の過去の点検結果情報を、点検結果データベース20から検索し、対応する過去の点検結果を点検処理制御部13に供給する。点検処理制御部13は、サーバ通信処理制御部12を制御して、供給された過去の点検結果情報を、サーバ通信部11からユーザ端末2に送信させる。過去の不良発生個所の情報には、例えば、不良発生個所を示す位置情報、不良種類、および健全度などを示すテキストデータや、不良個所を撮像した画像データが含まれている。
端末通信部31で受信された過去の不良発生個所の情報は、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、ユーザ端末2の位置に対応する路線名と基点からのキロ程による位置情報に基づいて、過去の不良発生個所との距離が所定の距離以内になった場合、過去の検査において発見された不良情報に対応するテキストデータや画像データを、AR表示制御部34を制御して、AR表示部35(35‐3として図示)に表示させる。これにより、検査担当者であるユーザは、前回の検査における不良の状態を事前に把握し、理解することができる。また、ユーザ端末処理制御部33は、例えば「ポーン」などの警告音を、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから音声出力させる。これにより、過去の不良個所が近くなったことを、ユーザが間違えなく認識することができ、過去における不良発生個所の見落としを防ぐことができる。
この時、ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報、ならびに、ジャイロスコープ42および地磁気センサ43により検出されるユーザ端末2を装着しているユーザの視線の向きの検出結果に基づいて、AR表示制御部34による、図2中の不良発生個所情報51の座標や大きさを制御する。不良発生個所情報51は、AR表示部35においてユーザが認識する現実世界に対して、不良発生個所に対応する部分を重畳して表示し、ユーザに対して、視線の中のいずれの位置に、次の過去の不良発生個所があるかを示すものである。すなわち、不良発生個所情報51は、過去の検査結果情報の表示の一部である。過去の不良発生個所をユーザに提示するために、キロ程で示される位置情報に加えて、不良発生個所情報51として、AR表示部35において現実世界と重畳するように表示させることにより、過去の不良発生個所の見落としを効果的に防止することが可能となる。
具体的には、ユーザ端末処理制御部33は、ジャイロスコープ42、および、地磁気センサ43から供給された計測値に基づいて、ユーザ端末2を装着しているユーザの視線の向き、すなわち、AR表示部35を介してユーザが現実世界のいずれの方向を見ているかを検出する。そして、ユーザ端末処理制御部33は、GNSS装置41において受信された緯度経度情報に基づいて、ユーザ端末2が過去の不良発生個所との距離が所定の距離以内になり、かつ、ユーザの視線の向きが、過去の不良発生個所の方向と一致している場合に、ユーザ端末2を装着しているユーザの視線の向きに基づいて、例えば、図2中の不良発生個所情報51の表示の座標や大きさを算出し、AR表示制御部34を制御して、AR表示部35に表示させる。
ユーザ端末2の位置が過去の不良発生個所に近づくに従い、AR表示部35(35‐4として図示)に表示されている不良発生個所情報51の表示は大きくなる。このように、不良発生個所情報51を表示させることにより、ユーザが過去の不良内容を見落としたり、その位置を間違えることを防止することができる。
ユーザが、ユーザ端末2に対して、「不良発見。枕木に〇〇、健全度A」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「不良発見。枕木に〇〇、健全度A」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「不良発見。まくらぎに〇〇、健全度A」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、ユーザ端末2からの現在の点検結果の登録要求を認識する。点検処理制御部13は、現在のユーザ端末2の位置情報、および、点検結果の情報である「まくらぎに〇〇、健全度A」を、点検結果登録制御部21に供給して、位置情報とともに、点検結果データベース20に登録させる。そして、点検処理制御部13は、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「1k113、まくらぎ○○、健全度Aで登録します。よろしいですか?」を生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「1k113、まくらぎ○○、健全度Aで登録します。よろしいですか?」を音声出力させる。
音声データにより登録内容を確認したユーザは、必要に応じて、音声で、上述した場合と同様に、登録内容の変更を指示することが可能である。また、ユーザが、カメラ45を操作し、現在の点検結果の画像を撮像した場合、ユーザ端末処理制御部33は、撮像制御部44を制御して、カメラ45により画像を撮像させ、撮像された画像データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。サーバ通信部11で受信された画像データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された画像データを、現在の点検結果の情報として、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。
不良個所を発見したユーザが、不良個所に対して措置作業を行う場合については、図3を用いて後述する。
ユーザが、検査終了位置に移動している間も、上述した場合と同様の処理が実行されて、ユーザ端末処理制御部33は、供給された位置情報を、AR表示制御部34を制御して、AR表示部35(35−5として図示)に表示させる。ユーザが、ユーザ端末2に対して、「検査終了」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「検査終了」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「検査終了」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、ユーザ端末2の検査終了要求を受け付ける。そして、点検処理制御部13は、位置情報演算処理部19の処理により得られる発話時のユーザ端末2の位置に対応する路線名と基点からのキロ程による位置情報に基づいて、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「2k000で検査を終了します」を生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。また、点検処理制御部13は、検査終了位置「2k000」を、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「2k000で検査を終了します」を音声出力させる。
ユーザが、ユーザ端末2に対して、「システム終了」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「システム終了」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「システム終了」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、ユーザ端末2のシステム終了要求を受け、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「お疲れ様でした。終了します」を生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「お疲れ様でした。終了します」を音声出力させる。この時、ユーザ端末処理制御部33は、AR表示制御部34を制御して、検査終了をユーザに通知するための画像やテキストなどを、AR表示部35(35−6として図示)に表示させるようにしてもよい。
次に、図3を参照して、不良個所の表示方法の他の例、および、不良個所を発見したユーザが、不良個所に対して処理作業を行う場合の表示の例について説明する。
過去の点検結果の表示は、図3中のAR表示部35(35−11と図示)に示されるように、例えば、最小限のテキストデータのみであってもよい。また、過去の点検結果の表示は、図3中のAR表示部35(35−12と図示)に示されるように、例えば、詳細なテキストデータおよび画像データの表示であってもよい。
そして、不良個所を発見したユーザが、ユーザ端末2に対して、「措置作業中」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「措置作業中」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「措置作業中」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、ユーザ端末2を装着している点検担当者が、措置作業中であることを認識し、措置作業内容についての情報の供給待ち状態となる。
ユーザが、ユーザ端末2に対して、「左締結装置内側ボルト緩み、Cランク」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「左締結装置内側ボルト緩み、Cランク」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「左締結装置内側ボルト緩み、Cランク」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、現在のユーザ端末2の位置情報、および、措置作業内容についての情報である「左締結装置内側ボルト緩み、Cランク」を、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。そして、点検処理制御部13は、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「2k445、左締結装置内側ボルト緩み、Cランクで登録します。よろしいですか」を生成させるとともに、テキストデータ生成部22を制御して、ユーザ端末2において表示出力されるテキストデータ「2k445、左締結装置内側ボルト緩み、Cランク」を生成させる。そして、点検処理制御部13は、サーバ通信処理制御部12の制御により、音声データおよびテキストデータを、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「1k113、まくらぎ○○、健全度Aで登録します。よろしいですか」を音声出力させる。また、端末通信部31で受信されたテキストデータは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給されたテキストデータ「2k445、左締結装置内側ボルト緩み、Cランク」を、AR表示制御部34を制御して、AR表示部35(35−13と図示)に表示させる。この時、すでに表示中のテキストデータや画像データがあった場合、AR表示部35には、それらの表示位置を変更し、点検作業員から優先度の高い順に大きく表示されるものとすると好適である。
音声データにより登録内容を確認したユーザは、必要に応じて、音声で、上述した場合と同様に、登録内容の変更を指示することが可能である。また、ユーザが、カメラ45を操作し、措置作業結果の画像を撮像した場合、ユーザ端末処理制御部33は、撮像制御部44を制御して、カメラ45により画像を撮像させ、撮像された画像データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。サーバ通信部11で受信された画像データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された画像データを、現在の点検結果の情報として、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。
ユーザが、ユーザ端末2に対して、「ここは定期的にボルトが緩んでいる気がする」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「ここは定期的にボルトが緩んでいる気がする」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「ここは定期的にボルトが緩んでいる気がする」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、現在の措置作業内容についての情報である「ここは定期的にボルトが緩んでいる気がする」を、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。そして、点検処理制御部13は、音声データ生成部23を制御して、ユーザ端末2において音声出力される音声データ「ここは定期的にボルトが緩んでいる気がする、を登録します。よろしいですか」を生成させるとともに、テキストデータ生成部22を制御して、ユーザ端末2において表示出力されるテキストデータ「ここは定期的にボルトが緩んでいる気がする」を生成させる。そして、点検処理制御部13は、サーバ通信処理制御部12の制御により、音声データおよびテキストデータを、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された音声データは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから「ここは定期的にボルトが緩んでいる気がする、を登録します。よろしいですか」を音声出力させる。また、端末通信部31で受信されたテキストデータは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給されたテキストデータ「ここは定期的にボルトが緩んでいる気がする」を、AR表示制御部34を制御して、AR表示部35(35−14と図示)に付け加えて表示させる。
また、ユーザが、ユーザ端末2に対して、「不良個所一覧表示」と発話すると、音声データ取得制御部36の制御に基づいて、マイク37により「不良個所一覧表示」の音声が集音される。ユーザ端末処理制御部33は、音声データ取得制御部36により取得された音声データの供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。
サーバ通信部11で受信された音声データは、サーバ通信処理制御部12から、点検処理制御部13に供給される。点検処理制御部13は、供給された音声データを、音声認識処理部15に供給し、音声認識を実行させる。音声認識処理部15による音声認識の結果、「不良個所一覧表示」の発話が認識され、点検処理制御部13に供給される。点検処理制御部13は、不良個所一覧表示要求を受け、点検結果登録制御部21を制御し、点検結果データベース20に登録されている、該当する路線の不良個所の情報を検索させ、供給させる。そして、点検処理制御部13は、テキストデータ生成部22を制御して、ユーザ端末2において表示出力される不良個所一覧に対応するテキストデータを生成させる。そして、点検処理制御部13は、サーバ通信処理制御部12の制御により、不良個所に対応する画像データおよびテキストデータを、サーバ通信部11からユーザ端末2に送信させる。
端末通信部31で受信された画像データおよびテキストデータは、端末通信処理制御部32から、ユーザ端末処理制御部33に供給される。ユーザ端末処理制御部33は、供給された画像データおよびテキストデータを、AR表示制御部34を制御して、AR表示部35(35−15と図示)に表示させる。
次に、図4〜図6のフローチャートを参照して、図1のユーザ端末2が実行するユーザ端末の処理1について説明する。
ステップS1において、ユーザ端末処理制御部33は、音声データ取得制御部36から供給される情報に基づいて、ユーザの音声を取得したか否かを判断する。検査の最初にユーザより発話され、取得される音声データは、ログイン要求を示すものである。ステップS1において、ユーザの音声を取得していないと判断された場合、ユーザの音声を取得したと判断されるまで、ステップS1の処理が繰り返される。
ステップS1において、ユーザの音声を取得したと判断された場合、ステップS2において、ユーザ端末処理制御部33は、マイク37により取得され、音声データ取得制御部36から供給された音声データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。端末通信部31は、供給された音声データを、サーバ1に送信する。
ステップS3において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ1よりエラーメッセージが通知されたか否かを判断する。ステップS3において、エラーメッセージが通知されたと判断された場合、処理は、ステップS1に戻り、それ以降の処理が繰り返される。
ステップS3において、エラーメッセージが通知されていないと判断された場合、ステップS4において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ1よりログイン許可が通知されたか否かを判断する。ステップS4において、サーバ1よりログイン許可が通知されていないと判断された場合、処理は、ステップS3に戻り、それ以降の処理が繰り返される。
ステップS4において、サーバ1よりログイン許可が通知されたと判断された場合、ステップS5において、ユーザ端末処理制御部33は、ログイン状態となる。
ステップS6において、ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報を取得し、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。端末通信部31は、緯度経度情報をサーバ1に送信する。
ステップS7において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により受信された、路線の起点からのキロ程に変換された現在位置情報を取得する。そして、ユーザ端末処理制御部33は、AR表示制御部34を制御して、キロ程に変換された現在位置情報をAR表示部35に表示させる。AR表示部35は、キロ程に変換された現在位置情報を表示する。
ステップS8において、ユーザ端末処理制御部33は、音声データ取得制御部36から供給される情報に基づいて、ユーザの音声を取得したか否かを判断する。図2および図3を用いて説明したように、検査中のユーザは、ユーザ端末2に対して、検査開始または終了の通知や、それらの位置変更の要求、または、不良内容の登録内容などを発話する。ステップS8において、ユーザの音声を取得していないと判断された場合、処理は、ステップS6に戻り、それ以降の処理が繰り返される。
ステップS8において、ユーザの音声を取得したと判断された場合、ステップS9において、ユーザ端末処理制御部33は、マイク37により取得され、音声データ取得制御部36から供給された音声データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。端末通信部31は、供給された音声データを、サーバ1に送信する。
ステップS10において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ1より過去の検査結果情報を受信したか否かを判断する。
ステップS10において、過去の検査結果情報を受信したと判断された場合、ステップS11において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により受信された過去の検査結果情報を取得する。そして、ユーザ端末処理制御部33は、AR表示制御部34を制御して、過去の検査結果情報であるテキストデータおよび画像データを、例えば、図2または図3を用いて説明したように、AR表示部35に表示させる。AR表示部35は、過去の検査結果情報を表示出力する。
ステップS10において、過去の検査結果情報を受信していないと判断された場合、または、ステップS11の処理の終了後、ステップS12において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ1より、過去の検査結果以外のテキストデータまたは音声データの少なくとも一方を受信したか否かを判断する。ここで、過去の検査結果以外のテキストデータまたは音声データとは、例えば、図2または図3を用いて説明したように、「1k200から検査を開始します」や「2k445、左締結装置内側ボルト緩み、Cランクで登録します。よろしいですか」などの、ユーザの発話内容を確認するためのキストデータまたは音声データである。ステップS12において、過去の検査結果以外のテキストデータまたは音声データのいずれも受信していないと判断された場合、処理は、後述するステップS16に進む。
ステップS12において、過去の検査結果以外のテキストデータまたは音声データのうちの少なくとも一方を受信したと判断された場合、ステップS13において、ユーザ端末処理制御部33は、受信したデータの出力処理を実行する。具体的には、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により受信されたテキストデータを取得する。そして、ユーザ端末処理制御部33は、AR表示制御部34を制御して、テキストデータを、例えば、図2または図3を用いて説明したように、AR表示部35に表示させる。AR表示部35は、テキストデータを表示出力する。また、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により受信された音声データを取得する。そして、ユーザ端末処理制御部33は、音声データ出力制御部38を制御して、ヘッドホン39から音声データを出力させる。ヘッドホン39は、音声データを出力する。
ステップS14において、ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報を取得し、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。端末通信部31は、緯度経度情報をサーバ1に送信する。
ステップS15において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により受信された、路線の起点からのキロ程に変換された現在位置情報を取得する。そして、ユーザ端末処理制御部33は、AR表示制御部34を制御して、キロ程に変換された現在位置情報をAR表示部35に表示させる。AR表示部35は、キロ程に変換された現在位置情報を表示する。
ステップS12において、過去の検査結果以外のテキストデータまたは音声データのいずれも受信していないと判断された場合、または、ステップS15の処理の終了後、ステップS16において、ユーザ端末処理制御部33は、取得されている現在位置情報に基づいて、過去の検査結果のうちのいずれかが所定距離以内であるか否かを判断する。ステップS16において、過去の検査結果のうちのいずれかが所定距離以内ではないと判断された場合、処理は、後述するステップS23に進む。
ステップS16において、過去の検査結果のうちのいずれかが所定距離以内であると判断された場合、ステップS17において、ユーザ端末処理制御部33は、ジャイロスコープ42から供給されるユーザ端末2の角度(姿勢)や角速度あるいは角加速度の検出結果、および、地磁気センサ43から供給されるユーザ端末2が向いている角度の検出結果に基づいて、ユーザの視線の向き、すなわち、AR表示部35を介してユーザが現実世界のいずれの方向を見ているかを検出する。
ステップS18において、ユーザ端末処理制御部33はステップS17における検出結果に基づいて、ユーザが、次の過去の不良発生個所の方向に対応する所定の方向を向いているか否かを判断する。
ステップS18において、ユーザが所定の方向を向いていると判断された場合、ステップS19において、ユーザ端末処理制御部33は、例えば、図2のAR表示部35‐3および35‐4を用いて説明したような、過去の検査結果の表示の一部である不良発生個所情報51の座標および大きさを演算する。
ステップS18において、ユーザが所定の方向を向いていないと判断された場合、または、ステップS19の処理の終了後、ステップS20において、ユーザ端末処理制御部33は、AR表示制御部34を制御して、例えば、図2のAR表示部35‐3および35‐4を用いて説明したような、または、図3のAR表示部35‐11および35‐12を用いて説明したような、過去の検査結果の詳細表示を実行させる。AR表示制御部34は、AR表示部35に、過去の検査結果の詳細を表示させる。
すなわち、ステップS18において、ユーザが所定の方向を向いていると判断された場合には、ステップS20の処理により、不良発生個所情報51が、演算結果に基づいた座標および大きさで、他の過去の検査結果であるテキストデータまたは画像データとともに、AR表示部35に表示されるが、ステップS18において、ユーザが所定の方向を向いていないと判断された場合、ステップS20の処理により、不良発生個所情報51は表示されず、他の過去の検査結果であるテキストデータまたは画像データのみがAR表示部35に表示される。
ステップS21において、ユーザ端末処理制御部33は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報を取得し、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。端末通信部31は、緯度経度情報をサーバ1に送信する。
ステップS22において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により受信された、路線の起点からのキロ程に変換された現在位置情報を取得する。そして、ユーザ端末処理制御部33は、AR表示制御部34を制御して、キロ程に変換された現在位置情報をAR表示部35に表示させる。AR表示部35は、キロ程に変換された現在位置情報を表示する。
ステップS16において、過去の検査結果のうちのいずれかが所定距離以内ではないと判断された場合、または、ステップS22の処理の終了後、ステップS23において、ユーザ端末処理制御部33は、撮像制御部44から供給された信号に基づいて、撮像が指令されたか否かを判断する。
ステップS23において、撮像が指令されたと判断された場合、ステップS24において、ユーザ端末処理制御部33は、撮像制御部44を制御して、カメラ45により撮像処理を実行させる。そして、ユーザ端末処理制御部33は、撮像されて得られた画像データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ1に送信させる。端末通信部31は、画像データをサーバ1に送信する。
ステップS23において、撮像が指令されていないと判断された場合、または、ステップS24の処理の終了後、ステップS25において、ユーザ端末処理制御部33は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ1よりアプリケーション終了要求を受けたことが通知されたか否かを判断する。ステップS25において、アプリケーション終了要求を受けていないと判断された場合、処理は、ステップS8に戻り、それ以降の処理が繰り返される。
ステップS25において、アプリケーション終了要求を受けたと判断された場合、ステップS26において、端末通信部31は、サーバ1より、例えば、「お疲れ様でした。終了します」などの音声データ、または、テキストデータの少なくとも一方、および、必要に応じて、図2のAR表示部35−6の表示画面を表示させるための画像データを受信する。ユーザ端末処理制御部33は、端末通信処理制御部32から、これらの音声データ、テキストデータ、または、画像データを取得し、音声データ出力制御部38を制御してヘッドホン39より出力させるとともに、AR表示制御部34を制御してAR表示部35に表示させて、ログアウト状態となり、処理が終了される。
このような処理により、ユーザ端末2は、現在位置情報や、ユーザの発話に対応する音声データをサーバ1に送信し、サーバ1から、過去の検査結果、ならびに、ユーザの発話内容やサーバ1への登録内容を確認するためのテキストデータおよび音声データを受信して、AR表示部35に表示させ、ヘッドホン39のスピーカーから音声出力させることが可能となる。したがって、検査支援システムでは、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
次に、図7〜図14のフローチャートを参照して、図1のサーバ1が実行するサーバの処理1について説明する。
ステップS41において、サーバ1の点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から音声データを受信したか否かを判断する。ステップS41において受信される音声データは、上述したユーザ端末処理1のステップS2において送信された、ログイン要求を示す音声データである。ステップS41において、音声データを受信していないと判断された場合、音声データを受信したと判断されるまで、ステップS41の処理が繰り返される。
ステップS41において、音声データを受信したと判断された場合、ステップS42において、点検処理制御部13は、受信された音声データを音声認識処理部15に供給し、音声認識処理部15からログイン要求であるという認識結果を受けて、その音声データを使用者認識処理部17に供給し、ユーザ端末2の使用者の認識処理を実行させる。使用者認識処理部17は、点検処理制御部13の制御に基づいて、使用者データベース16に登録されている情報を用いて、その音声データに対応する発話が登録されたユーザであるか否かの認識処理を実行し、認識処理結果を点検処理制御部13に供給する。
ステップS43において、点検処理制御部13は、ステップS42の認識処理の結果に基づいて、ユーザ端末2の使用者は登録された使用者であるか否かを判断する。
ステップS43において、ユーザ端末2の使用者は登録された使用者ではないと判断された場合、ステップS44において、点検処理制御部13は、サーバ通信処理制御部12を制御し、サーバ通信部11からユーザ端末2へ、所定のエラーメッセージを送信させる。サーバ通信部11は、ユーザ端末2に、エラーメッセージを送信する。ステップS44の処理の終了後、処理は、ステップS41に戻り、それ以降の処理が繰り返される。
ステップS43において、ユーザ端末2の使用者は登録された使用者であると判断された場合、ステップS45において、点検処理制御部13は、サーバ通信処理制御部12を制御し、サーバ通信部11からユーザ端末2へ、ログイン許可を送信させる。サーバ通信部11は、ユーザ端末2に、ログイン許可を送信する。
ステップS46において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から緯度経度情報を受信したか否かを判断する。
ステップS46において、緯度経度情報を受信したと判断された場合、ステップS47において、点検処理制御部13は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。点検処理制御部13は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末2に送信する。
ステップS46において、緯度経度情報を受信していないと判断された場合、または、ステップS47の処理の終了後、ステップS48において、点検処理制御部13は、現在位置より検査進行方向の最も近い位置における過去の検査結果情報は、ユーザ端末2へ送信済みであるか否かを判断する。
ステップS48において、現在位置より検査進行方向の最も近い位置における過去の検査結果情報は送信済みではないと判断された場合、ステップS49において、点検処理制御部13は、位置情報演算処理部19の処理により得られるユーザ端末2の位置に対応する路線名と基点からのキロ程による位置情報に基づいて、点検結果登録制御部21を制御して、過去の点検結果のうち、ユーザ端末2を保有するユーザが次に到着する過去の不良発生個所の情報を、点検結果データベース20から検索させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、ユーザ端末2を利用しているユーザが検査を行っている路線の過去の点検結果を、点検結果データベース20から検索し、ユーザ端末2を保有するユーザが次に到着する過去の不良発生個所の情報を、点検処理制御部13に供給する。点検処理制御部13は、サーバ通信処理制御部12を制御して、供給された過去の点検結果を、サーバ通信部11からユーザ端末2に送信させる。
ステップS48において、現在位置より検査進行方向の最も近い位置における過去の検査結果情報は送信済みであると判断された場合、または、ステップS49の処理の終了後、ステップS50において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から音声データを受信したか否かを判断する。ステップS50において受信される音声データは、上述したユーザ端末処理1のステップS9において送信された、ユーザからの要求や不良内容の登録内容などを示す音声データである。ステップS50において、音声データを受信していないと判断された場合、音声データを受信したと判断されるまで、ステップS50の処理が繰り返される。
ステップS50において、音声データを受信したと判断された場合、ステップS51において、点検処理制御部13は、受信された音声データを音声認識処理部15に供給し、音声認識処理を実行させる。音声認識処理部15は、点検処理制御部13の制御に基づいて、音声認識処理を実行する。音声認識処理部15は、サーバ通信部11が、ユーザ端末2から受信した音声データを、音声認識用データベース14に登録されている情報を用いて認識し、音声認識結果を点検処理制御部13に供給する。
ステップS52において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「検査開始」などの検査開始要求であるか否かを判断する。ステップS52において、ユーザの発話内容は、検査開始要求ではないと判断された場合、処理は、後述するステップS59に進む。
ステップS52において、ユーザの発話内容は、検査開始要求であると判断された場合、ステップS53において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から緯度経度情報を受信したか否かを判断する。ステップS53において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS53の処理が繰り返される。
ステップS53において、緯度経度情報を受信したと判断された場合、ステップS54において、点検処理制御部13は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。点検処理制御部13は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末2に送信する。
ステップS55において、点検処理制御部13は、テキストデータ生成部22を制御して、変換されたキロ程情報に基づいて、「○○キロ程から検査を開始します」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータ「○○キロ程から検査を開始します」を生成し、点検処理制御部13に供給する。
ステップS56において、サーバの点検処理制御部13は、音声データ生成部23を制御して、変換されたキロ程情報に基づいて、「○○キロ程から検査を開始します」の出力用音声データを生成させる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「○○キロ程から検査を開始します」を生成し、点検処理制御部13に供給する。
ステップS57において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS58において、点検処理制御部13は、点検結果登録制御部21を制御して、検査開始位置の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、検査開始位置を、点検結果データベース20に供給して登録する処理を実行する。
ステップS52において、ユーザの発話内容は、検査開始要求ではないと判断された場合、または、ステップS58の処理の終了後、ステップS59において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「検査開始位置を○○キロ程に変更」などの、検査開始キロ程変更要求であるか否かを判断する。ステップS59において、ユーザの発話内容は、検査開始キロ程変更要求ではないと判断された場合、処理は、後述するステップS65に進む。
ステップS59において、ユーザの発話内容は、検査開始キロ程変更要求であると判断された場合、ステップS60において、点検処理制御部13は、ステップS51において認識された音声認識結果から、ユーザが変更を指令した検査開始キロ程情報を取得する。
ステップS61において、点検処理制御部13は、テキストデータ生成部22を制御して、取得された検査開始キロ程情報に基づいて、「検査開始位置を○○キロ程に修正します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータ「検査開始位置を○○キロ程に修正します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS62において、点検処理制御部13は、音声データ生成部23を制御して、「検査開始位置を○○キロ程に修正します。よろしいですか?」の出力用音声データを生成させる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「検査開始位置を○○キロ程に修正します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS63において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS64において、点検処理制御部13は、点検結果登録制御部21を制御して、検査開始位置の登録変更処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、変更された検査開始位置を、点検結果データベース20に供給して登録する処理を実行する。
ステップS59において、ユーザの発話内容は、検査開始キロ程変更要求ではないと判断された場合、または、ステップS64の処理の終了後、ステップS65において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「枕木に××、健全度A」などの、不良内容登録要求であるか否かを判断する。ステップS65において、ユーザの発話内容は、不良内容登録要求ではないと判断された場合、処理は、後述するステップS74に進む。
ステップS65において、ユーザの発話内容は、不良内容登録要求であると判断された場合、ステップS66において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から緯度経度情報を受信したか否かを判断する。ステップS66において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS66の処理が繰り返される。
ステップS66において、緯度経度情報を受信したと判断された場合、ステップS67において、点検処理制御部13は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。点検処理制御部13は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末2に送信する。
ステップS68において、サーバの点検処理制御部13は、テキストデータ生成部22を制御して、音声認識結果、キロ程情報に基づいて、「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータ「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS69において、点検処理制御部13は、音声データ生成部23を制御して、「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」の出力用音声データを生成せる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS70において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS71において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から画像データを受信したか否かを判断する。ステップS71において、画像データを受信していないと判断された場合、処理は、後述するステップS73の処理に進む。
ステップS71において、画像データを受信したと判断された場合、ステップS72において、点検処理制御部13は、画像データと音声認識の結果得られた不良内容とを対応付ける。
ステップS71において、画像データを受信していないと判断された場合、または、ステップS72の処理の終了後、ステップS73において、点検処理制御部13は、点検結果登録制御部21を制御して、不良内容の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、不良内容を、点検結果データベース20に供給して登録する処理を実行する。
ステップS65において、ユーザの発話内容は、不良内容登録要求ではないと判断された場合、または、ステップS73の処理の終了後、ステップS74において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「○○キロ程、枕木に××、健全度Aに登録内容を変更」などの、不良内容登録変更要求であるか否かを判断する。ステップS74において、ユーザの発話内容は、不良内容登録変更要求ではないと判断された場合、処理は、後述するステップS81に進む。
ステップS74において、ユーザの発話内容は、不良内容登録変更要求であると判断された場合、ステップS75において、点検処理制御部13は、テキストデータ生成部22を制御して、音声認識結果に基づいて、「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータ「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS76において、点検処理制御部13は、音声データ生成部23を制御して、「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」の出力用音声データを生成させる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS77において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS78において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から画像データを受信したか否かを判断する。ステップS78において、画像データを受信していないと判断された場合、処理は、後述するステップS80の処理に進む。
ステップS78において、画像データを受信したと判断された場合、ステップS79において、点検処理制御部13は、画像データと修正された不良内容とを対応付ける。
ステップS78において、画像データを受信していないと判断された場合、または、ステップS79の処理の終了後、ステップS80において、点検処理制御部13は、点検結果登録制御部21を制御して、不良内容の登録修正処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、修正された不良内容を、点検結果データベース20に供給して登録する処理を実行する。
ステップS74において、ユーザの発話内容は、不良内容登録変更要求ではないと判断された場合、または、ステップS81の処理の終了後、ステップS81において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「措置作業、××××」などの、措置作業内容登録要求であるか否かを判断する。ステップS81において、ユーザの発話内容は、措置作業内容登録要求ではないと判断された場合、処理は、後述するステップS90に進む。
ステップS81において、ユーザの発話内容は、措置作業内容登録要求であると判断された場合、ステップS82において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から緯度経度情報を受信したか否かを判断する。ステップS82において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS82の処理が繰り返される。
ステップS82において、緯度経度情報を受信したと判断された場合、ステップS83において、サーバの点検処理制御部13は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。点検処理制御部13は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末2に送信する。
ステップS84において、点検処理制御部13は、テキストデータ生成部22を制御して、変換されたキロ程情報に基づいて、「○○キロ程、措置作業、××××」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータ「○○キロ程、措置作業、××××」を生成し、点検処理制御部13に供給する。
ステップS85において、点検処理制御部13は、音声データ生成部23を制御して、「○○キロ程、措置作業、××××を登録します。よろしいですか?」の出力用音声データを生成させる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「○○キロ程、措置作業、××××を登録します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS86において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS87において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から画像データを受信したか否かを判断する。ステップS87において、画像データを受信していないと判断された場合、処理は、後述するステップS89の処理に進む。
ステップS87において、画像データを受信したと判断された場合、ステップS88において、点検処理制御部13は、画像データと音声認識の結果得られた措置作業内容とを対応付ける。
ステップS87において、画像データを受信していないと判断された場合、または、ステップS88の処理の終了後、ステップS89において、点検処理制御部13は、点検結果登録制御部21を制御して、措置作業内容の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、措置作業内容を、点検結果データベース20に供給して登録する処理を実行する。
ステップS81において、ユーザの発話内容は、措置作業内容登録要求ではないと判断された場合、または、ステップS89の処理の終了後、ステップS90において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「検査終了」などの、検査終了要求であるか否かを判断する。ステップS90において、ユーザの発話内容は、検査終了要求ではないと判断された場合、処理は、後述するステップS97に進む。
ステップS90において、ユーザの発話内容は、検査終了要求であると判断された場合、ステップS91において、サーバの点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から緯度経度情報を受信したか否かを判断する。ステップS91において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS91の処理が繰り返される。
ステップS91において、緯度経度情報を受信したと判断された場合、ステップS92において、サーバの点検処理制御部13は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。点検処理制御部13は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末2に送信する。
ステップS93において、点検処理制御部13は、テキストデータ生成部22を制御して、変換されたキロ程情報に基づいて、「○○キロ程で検査を終了します」の出力用テキストデータを生成せる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末において表示出力されるテキストデータ「○○キロ程で検査を終了します」を生成し、点検処理制御部13に供給する。
ステップS94において、点検処理制御部13は、音声データ生成部23を制御して、「○○キロ程で検査を終了します」の出力用音声データを生成させる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「○○キロ程で検査を終了します」を生成し、点検処理制御部13に供給する。
ステップS95において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS96において、点検処理制御部13は、点検結果登録制御部21を制御して、検査終了位置の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、点検結果データベース20に登録されている検査位置を修正登録する処理を実行する。
ステップS90において、ユーザの発話内容は、検査終了要求ではないと判断された場合、または、ステップS96の処理の終了後、ステップS97において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「検査終了位置を○○キロ程に変更」などの、検査終了キロ程変更要求であるか否かを判断する。ステップS97において、ユーザの発話内容は、検査終了キロ程変更要求ではないと判断された場合、処理は、後述するステップS102に進む。
ステップS97において、ユーザの発話内容は、検査終了キロ程変更要求であると判断された場合、ステップS98において、点検処理制御部13は、テキストデータ生成部22を制御して、音声認識の結果得られた検査終了キロ程情報に基づいて、「検査終了位置を○○キロ程に修正します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部13の制御に基づいて、ユーザ端末2において表示出力されるテキストデータ「検査終了位置を○○キロ程に修正します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS99において、点検処理制御部13は、音声データ生成部23を制御して、「検査開始終了を○○キロ程に修正します。よろしいですか?」の出力用音声データを生成させる。音声データ生成部23は、点検処理制御部13の制御に基づいて、ユーザ端末2において音声出力される音声データ「検査開始終了を○○キロ程に修正します。よろしいですか?」を生成し、点検処理制御部13に供給する。
ステップS100において、点検処理制御部13は、サーバ通信処理制御部12の制御により、出力用テキストデータ、出力用音声データ、および、現在位置情報を、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、出力用音声データ、および、現在位置情報をユーザ端末2に送信する。
ステップS101において、点検処理制御部13は、点検結果登録制御部21を制御して、検査終了位置の登録変更処理を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、点検結果データベース20に登録されている検査開始位置を変更する処理を実行する。
ステップS97において、ユーザの発話内容は、検査終了キロ程変更要求ではないと判断された場合、またはステップS101の処理の終了後、ステップS102において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、不良個所一覧表示要求であるか否かを判断する。
ステップS102において、ユーザの発話内容は、不良個所一覧表示要求であると判断された場合、ステップS103において、点検処理制御部13は、ユーザ端末2の位置に対応する路線名に基づいて、点検結果登録制御部21を制御して、対応する路線名の過去の点検結果のうち、対応する過去の不良発生個所の一覧を構成する情報を、点検結果データベース20から検索させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、対応する過去の不良個所一覧を構成する情報を、点検結果データベース20から検索し、点検処理制御部13に供給する。点検処理制御部13は、サーバ通信処理制御部12を制御して、供給された過去の不良個所一覧を構成するデータを、サーバ通信部11からユーザ端末2に送信させる。
ステップS102において、ユーザの発話内容は、不良個所一覧表示要求ではないと判断された場合、または、ステップS103の処理の終了後、ステップS104において、点検処理制御部13は、ステップS51において認識されたユーザの発話内容は、例えば、「ログアウト」などの、アプリケーション終了要求であるか否かを判断する。ステップS104において、ユーザの発話内容は、アプリケーション終了要求ではないと判断された場合、処理は、ステップS46に戻り、それ以降の処理が繰り返される。
ステップS104において、ユーザの発話内容は、アプリケーション終了要求であると判断された場合、ステップS105において、点検処理制御部13は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末2から緯度経度情報を受信したか否かを判断する。ステップS105において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS105の処理が繰り返される。
ステップS105において、緯度経度情報を受信したと判断された場合、ステップS106において、点検処理制御部13は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部13の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部13に供給する。
ステップS107において、点検処理制御部13は、例えば、「お疲れ様でした。終了します。」などの、アプリケーション終了時の出力用テキストデータおよび出力用音声データを、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、アプリケーション終了時の出力用テキストデータおよび出力用音声データを、ユーザ端末2に送信する。
ステップS108において、点検処理制御部13は、点検結果登録制御部21を制御して、アプリケーション終了情報の登録を実行させる。点検結果登録制御部21は、点検処理制御部13の制御に基づいて、アプリケーション終了情報を、点検結果データベース20に供給して登録する処理を実行する。
ステップS109において、点検処理制御部13は、アプリケーション終了要求を受けたことを通知する情報を、信処理制御部の制御により、サーバ通信部11からユーザ端末2に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、アプリケーション終了要求を受けたことを通知する情報を、ユーザ端末2に送信して処理が終了される。この通知は、上述したユーザ端末処理1のステップS25において、ユーザ端末において受信されたか否かが判断される。
このような処理により、サーバ1は、ユーザ端末2から送信された音声データを認識し、ユーザ端末2を利用しているユーザからの要求に対応する処理や、検査結果の登録処理を実行することができる。また、サーバ1は、ユーザ端末2の位置に基づいて、過去の検査結果に対応する情報を送信する。したがって、検査支援システムでは、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
次に、図15を参照して、本発明の他の実施例である検査支援システムが有する機能構成について説明する。なお、図1における場合と同様な部分においては、同一の番号を付し、その説明は適宜省略する。
図15の検査支援システムは、検査結果情報が登録されるサーバ71と、検査担当者であるユーザが線路上を歩行しながら検査現場にて用いるユーザ端末72とを含んで構成されている。ユーザ端末72は、ユーザが携帯可能な形状である。ユーザ端末72は、特に、メガネ型ウェアラブル端末(メガネ形状の透過型のヘッドマウントディスプレイやスマートグラスとも称される)であると、検査実施時に両手が自由になり、ユーザがより安全に検査を行うことができるようになるため好適である。ユーザ端末72は、ウェアラブル端末に対応する。
サーバ71は、サーバ通信部11、サーバ通信処理制御部12、点検処理制御部81、使用者データベース83、使用者認識処理部84、位置情報データベース18、位置情報演算処理部19、点検結果データベース20、点検結果登録制御部21、テキストデータ生成部22、および、音声出力用データ生成部82の各機能を含んで構成されている。
すなわち、点検処理制御部13に代わって点検処理制御部81、使用者データベース16に代わって使用者データベース83、使用者認識処理部17に代わって使用者認識処理部84の機能が備えられ、音声認識用データベース14、音声認識処理部15、および、音声データ生成部23の機能が削除され、新たに、音声出力用データ生成部82の機能が備えられている以外は、基本的に、図1を用いて説明したサーバ1と同様の機能構成を有している。なお、サーバ通信処理制御部12、使用者認識処理部84、位置情報演算処理部19、点検結果登録制御部21、テキストデータ生成部22、および、音声出力用データ生成部82の各部は、点検処理制御部81の制御に基づいて、それぞれの機能を実現する。
点検処理制御部81は、サーバ71の各部の処理を制御するものである。具体的には、点検処理制御部81は、サーバ通信処理制御部12を制御して、サーバ通信部11で受信された情報の供給を受ける。点検処理制御部81は、ユーザ端末72から供給された音声認識結果がユーザ端末72のログイン要求である場合、使用者認識処理部84を制御して、ユーザ端末72の使用者を認識する処理を実行させる。また、点検処理制御部81は、サーバ通信部11より受信された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。そして、点検処理制御部81は、サーバ通信処理制御部12の制御により、路線名とキロ程による位置情報を、サーバ通信部11からユーザ端末72に送信させる。
また、点検処理制御部81は、ユーザ端末72の位置情報に基づいて、必要に応じて点検結果登録制御部21を制御して、過去の点検結果を点検結果データベース20から検索させる。そして、点検処理制御部81は、サーバ通信処理制御部12の制御により、過去の点検結果を、サーバ通信部11からユーザ端末72に送信させる。また、点検処理制御部81は、ユーザ端末72より送信され、サーバ通信部11において受信された現在の点検結果の情報を、点検結果登録制御部21に供給して、点検結果データベース20に登録させる。また、点検処理制御部81は、テキストデータ生成部22を制御して、ユーザ端末72において表示出力されるテキストデータを生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。また、点検処理制御部81は、音声出力用データ生成部82を制御して、ユーザ端末72における音声出力のためのデータを生成させ、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。
音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72における音声出力のためのデータを生成し、点検処理制御部81に供給する。
使用者データベース83は、ユーザ端末72の使用者の情報を記録するものである。使用者データベース83に記録される情報には、登録された使用者と、ユーザ端末72にログインするためのパスワードが含まれている。
使用者認識処理部84は、サーバ通信部11がユーザ端末72から受信した音声認識結果がログイン要求であると認識された場合、点検処理制御部81の制御に基づいて、使用者データベース83に登録されているパスワード情報を用いて、ログインするユーザが、登録されたユーザであるか否かの認識処理を実行し、認識処理結果を点検処理制御部81に供給する。
なお、図15において、サーバ71は1つの装置として構成されているものとして説明したが、図15のサーバ71が有する機能を、複数の装置で実現するものとしてもよい。
ユーザ端末72は、端末通信部31、端末通信処理制御部32、ユーザ端末処理制御部91、AR表示制御部34、AR表示部35、音声データ取得制御部36、マイク37、音声データ出力制御部38、ヘッドホン39、位置データ取得制御部40、GNSS装置41、ジャイロスコープ42、地磁気センサ43、撮像制御部44、カメラ45、音声認識用データベース92、音声認識処理部93、および、音声データ生成部94の各機能を有して構成されている。
すなわち、図15のユーザ端末72は、ユーザ端末処理制御部33に代わって、ユーザ端末処理制御部91の機能が設けられ、新たに、音声認識用データベース92、音声認識処理部93、および、音声データ生成部94の各機能を備えている以外は、図1を用いて説明したユーザ端末2と基本的に同様の機能を有している。なお、末通信処理制御部32、AR表示制御部34、音声データ取得制御部36、音声データ出力制御部38、位置データ取得制御部40、ジャイロスコープ42、地磁気センサ43、撮像制御部44、音声認識処理部93、および、音声データ生成部94は、それぞれ、ユーザ端末処理制御部91の制御に基づいて、それらの機能を実現する。
ユーザ端末処理制御部91は、ユーザ端末72の各部の処理を制御するものである。具体的には、ユーザ端末処理制御部91は、端末通信処理制御部32を制御して、端末通信部31により受信された情報の供給を受ける。ユーザ端末処理制御部91は、供給された音声出力のためのデータを、音声データ生成部94に供給して、音声データを生成させる。また、ユーザ端末処理制御部91は、音声データ生成部94により生成された音声データや、ユーザに注意を促すための所定の音声データを、音声データ出力制御部38を制御して、ヘッドホン39に内蔵されたスピーカーから音声出力させる。ユーザ端末処理制御部91は、供給されたテキストデータや画像データを、AR表示制御部34を制御して、AR表示部35に表示させる。
また、ユーザ端末処理制御部91は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報の供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。また、ユーザ端末処理制御部91は、撮像制御部44を制御して、カメラ45により画像を撮像させ、撮像された画像データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。また、ユーザ端末処理制御部91は、ジャイロスコープ42、および、地磁気センサ43から供給された計測値に基づいて、ユーザ端末72を装着しているユーザの視線の向き、すなわち、AR表示部35を介してユーザが現実世界のいずれの方向を見ているかを検出する。そして、ユーザ端末処理制御部91は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報、および、ユーザ端末72を装着しているユーザの視線の向きの検出結果に基づいて、AR表示制御部34による、過去の検査結果の表示の座標や大きさを制御する。
更に、ユーザ端末処理制御部91は、マイク37により集音され、音声データ取得制御部36により取得された音声データの供給を受け、音声認識処理部93を制御して、音声認識処理を実行させる。そして、ユーザ端末処理制御部91は、音声認識処理部93による音声認識結果の供給を受け、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。
音声認識用データベース92は、マイク37により集音され、音声データ取得制御部36により取得された音声データの認識処理に用いられる情報が登録されているデータベースである。
音声認識処理部93は、ユーザ端末処理制御部91の制御に基づいて、供給された音声データを、音声認識用データベース92に登録されている情報を用いて音声認識し、音声認識結果をユーザ端末処理制御部91に供給する。
音声データ生成部94は、ユーザ端末処理制御部91の制御に基づいて、サーバ71から送信される音声出力用データを基に、ユーザ端末72において音声出力される音声データを生成し、ユーザ端末処理制御部91に供給する。
すなわち、図15の検査支援システムは、音声認識処理および音声データの生成の機能が、サーバ71ではなく、ユーザ端末72に備えられている。また、ログインにおいては、ユーザの声紋などを用いる代わりに、ログインパスワードが用いられる。なお、ユーザ端末72を用いた鉄道の保守点検のログインからシステム終了までの流れや、不良個所の表示方法については、音声認識に関する部分以外においては、図2および図3を用いて説明した場合と基本的に同様であるので、その説明は省略する。
このように、検査支援システムでは、ユーザ端末72が、GNSS装置41により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示するAR表示部35と、取得された位置情報に対応する検査対象物の検査結果情報に相当する発話音声を取得するマイク37と、マイク37により取得された検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部93と、音声認識処理部93により音声認識された検査対象物の検査結果情報をサーバ71に送信する端末通信部31とを備え、サーバ71は、端末通信部31から受信された検査対象物の検査結果情報を登録する点検結果データベース20と、取得した位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、過去の検査結果情報をユーザ端末72に送信するサーバ通信部11とを有する。
したがって、検査支援システムでは、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
次に、図16〜図18のフローチャートを参照して、図15のユーザ端末72が実行するユーザ端末の処理2について説明する。
ステップS131において、ユーザ端末処理制御部91は、音声データ取得制御部36から供給される情報に基づいて、ユーザの音声を取得したか否かを判断する。検査の最初にユーザより発話され、取得される音声データは、ログイン要求を示すものである。ステップS131において、ユーザの音声を取得していないと判断された場合、ユーザの音声を取得したと判断されるまで、ステップS131の処理が繰り返される。
ステップS131において、ユーザの音声を取得したと判断された場合、ステップS132において、ユーザ端末処理制御部91は、マイク37により取得され、音声データ取得制御部36から供給された音声データを、音声認識処理部93に供給し、音声認識処理を実行させる。音声認識処理部93は、ユーザ端末処理制御部91の制御に基づいて、供給された音声データを、音声認識用データベース92に登録されている情報を用いて音声認識し、音声認識結果をユーザ端末処理制御部91に供給する。
ステップS133において、ユーザ端末処理制御部91は、ステップS132の処理により得られた音声認識結果を、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。端末通信部31は、供給された音声データを、サーバ71に送信する。
ステップS134において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ71よりエラーメッセージが通知されたか否かを判断する。ステップS134において、エラーメッセージが通知されたと判断された場合、処理は、ステップS131に戻り、それ以降の処理が繰り返される。
ステップS134において、エラーメッセージが通知されていないと判断された場合、ステップS135において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ71よりログイン許可が通知されたか否かを判断する。ステップS135において、サーバ71よりログイン許可が通知されていないと判断された場合、処理は、ステップS134に戻り、それ以降の処理が繰り返される。
ステップS135において、サーバ71よりログイン許可が通知されたと判断された場合、ステップS136において、ユーザ端末処理制御部91は、ログイン状態となる。
ステップS137において、ユーザ端末処理制御部91は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報を取得し、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。端末通信部31は、緯度経度情報をサーバ71に送信する。
ステップS138において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により受信された、路線の起点からのキロ程に変換された現在位置情報を取得する。そして、ユーザ端末処理制御部91は、AR表示制御部34を制御して、キロ程に変換された現在位置情報をAR表示部35に表示させる。AR表示部35は、キロ程に変換された現在位置情報を表示する。
ステップS139において、ユーザ端末処理制御部91は、音声データ取得制御部36から供給される情報に基づいて、ユーザの音声を取得したか否かを判断する。図2および図3を用いて説明したように、検査中のユーザは、ユーザ端末72に対して、検査開始または終了の通知や、それらの位置変更の要求、または、不良内容の登録内容などを発話する。ステップS139において、ユーザの音声を取得していないと判断された場合、処理は、ステップS137に戻り、それ以降の処理が繰り返される。
ステップS139において、ユーザの音声を取得したと判断された場合、ステップS140において、ユーザ端末処理制御部91は、マイク37により取得され、音声データ取得制御部36から供給された音声データを、音声認識処理部93に供給し、音声認識処理を実行させる。音声認識処理部93は、ユーザ端末処理制御部91の制御に基づいて、供給された音声データを、音声認識用データベース92に登録されている情報を用いて音声認識し、音声認識結果をユーザ端末処理制御部91に供給する。
ステップS141において、ユーザ端末処理制御部91は、ステップS140の処理により得られた音声認識結果を、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。端末通信部31は、供給された音声データを、サーバ71に送信する。
ステップS142において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ71より過去の検査結果情報を受信したか否かを判断する。
ステップS142において、過去の検査結果情報を受信したと判断された場合、ステップS143において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により受信された過去の検査結果情報を取得する。そして、ユーザ端末処理制御部91は、AR表示制御部34を制御して、過去の検査結果情報であるテキストデータおよび画像データを、例えば、図2または図3を用いて説明したように、AR表示部35に表示させる。AR表示部35は、過去の検査結果情報を表示出力する。
ステップS142において、過去の検査結果情報を受信していないと判断された場合、または、ステップS143の処理の終了後、ステップS144において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ71より、過去の検査結果以外のテキストデータまたは音声出力のためのデータの少なくとも一方を受信したか否かを判断する。ここで、過去の検査結果以外のテキストデータまたは音声出力のためのデータとは、例えば、図2または図3を用いて説明したように、「1k200から検査を開始します」や「2k445、左締結装置内側ボルト緩み、Cランクで登録します。よろしいですか」などの、ユーザの発話内容を確認するためのキストデータまたは音声出力のためのデータである。ステップS144において、過去の検査結果以外のテキストデータまたは音声出力のためのデータのいずれも受信していないと判断された場合、処理は、後述するステップS148に進む。
ステップS144において、過去の検査結果以外のテキストデータまたは音声出力のためのデータのうちの少なくとも一方を受信したと判断された場合、ステップS145において、ユーザ端末処理制御部91は、受信したデータの出力処理を実行する。
具体的には、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により受信されたテキストデータを取得する。そして、ユーザ端末処理制御部91は、AR表示制御部34を制御して、テキストデータを、例えば、図2または図3を用いて説明したように、AR表示部35に表示させる。AR表示部35は、テキストデータを表示出力する。
また、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により受信された音声出力のためのデータを取得する。そして、ユーザ端末処理制御部91は、供給された音声出力のためのデータを、音声データ生成部94に供給して、音声データを生成させる。音声データ生成部94は、ユーザ端末処理制御部91の制御に基づいて、サーバ71から送信された音声出力用データを基に、音声データを生成し、ユーザ端末処理制御部91に供給する。ユーザ端末処理制御部91は、音声データ出力制御部38を制御して、ヘッドホン39から音声データを出力させる。ヘッドホン39は、音声データを出力する。
ステップS146において、ユーザ端末処理制御部91は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報を取得し、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。端末通信部31は、緯度経度情報をサーバ71に送信する。
ステップS147において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により受信された、路線の起点からのキロ程に変換された現在位置情報を取得する。そして、ユーザ端末処理制御部91は、AR表示制御部34を制御して、キロ程に変換された現在位置情報をAR表示部35に表示させる。AR表示部35は、キロ程に変換された現在位置情報を表示する。
ステップS144において、過去の検査結果以外のテキストデータまたは音声出力のためのデータのいずれも受信していないと判断された場合、または、ステップS147の処理の終了後、ステップS1486において、ユーザ端末処理制御部91は、取得されている現在位置情報に基づいて、過去の検査結果のうちのいずれかが所定距離以内であるか否かを判断する。ステップS148において、過去の検査結果のうちのいずれかが所定距離以内ではないと判断された場合、処理は、後述するステップS155に進む。
ステップS148において、過去の検査結果のうちのいずれかが所定距離以内であると判断された場合、ステップS149において、ユーザ端末処理制御部91は、ジャイロスコープ42から供給されるユーザ端末72の角度(姿勢)や角速度あるいは角加速度の検出結果、および、地磁気センサ43から供給されるユーザ端末72が向いている角度の検出結果に基づいて、ユーザの視線の向き、すなわち、AR表示部35を介してユーザが現実世界のいずれの方向を見ているかを検出する。
ステップS150において、ユーザ端末処理制御部91は、ステップS149における検出結果に基づいて、ユーザが、次の過去の不良発生個所の方向に対応する所定の方向を向いているか否かを判断する。
ステップS150において、ユーザが所定の方向を向いていると判断された場合、ステップS151において、ユーザ端末処理制御部91は、例えば、図2のAR表示部35‐3および35‐4を用いて説明したような、過去の検査結果の表示の一部である不良発生個所情報51の座標および大きさを演算する。
ステップS150において、ユーザが所定の方向を向いていないと判断された場合、または、ステップS151の処理の終了後、ステップS152において、ユーザ端末処理制御部91は、AR表示制御部34を制御して、例えば、図2のAR表示部35‐3および35‐4を用いて説明したような、または、図3のAR表示部35‐11および35‐12を用いて説明したような、過去の検査結果の詳細表示を実行させる。AR表示制御部34は、AR表示部35に、過去の検査結果の詳細を表示させる。
すなわち、ステップS150において、ユーザが所定の方向を向いていると判断された場合には、ステップS152の処理により、不良発生個所情報51が、演算結果に基づいた座標および大きさで、他の過去の検査結果であるテキストデータまたは画像データとともに、AR表示部35に表示されるが、ステップS150において、ユーザが所定の方向を向いていないと判断された場合、ステップS152の処理により、不良発生個所情報51は表示されず、他の過去の検査結果であるテキストデータまたは画像データのみがAR表示部35に表示される。
ステップS153において、ユーザ端末処理制御部91は、位置データ取得制御部40の制御によりGNSS装置41において受信された緯度経度情報を取得し、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。端末通信部31は、緯度経度情報をサーバ71に送信する。
ステップS154において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により受信された、路線の起点からのキロ程に変換された現在位置情報を取得する。そして、ユーザ端末処理制御部91は、AR表示制御部34を制御して、キロ程に変換された現在位置情報をAR表示部35に表示させる。AR表示部35は、キロ程に変換された現在位置情報を表示する。
ステップS148において、過去の検査結果のうちのいずれかが所定距離以内ではないと判断された場合、または、ステップS154の処理の終了後、ステップS155において、ユーザ端末処理制御部91は、撮像制御部44から供給された信号に基づいて、撮像が指令されたか否かを判断する。
ステップS155において、撮像が指令されたと判断された場合、ステップS156において、ユーザ端末処理制御部91は、撮像制御部44を制御して、カメラ45により撮像処理を実行させる。そして、ユーザ端末処理制御部91は、撮像されて得られた画像データを、端末通信処理制御部32を制御して、端末通信部31から、サーバ71に送信させる。端末通信部31は、画像データをサーバ71に送信する。
ステップS155において、撮像が指令されていないと判断された場合、または、ステップS156の処理の終了後、ステップS157において、ユーザ端末処理制御部91は、端末通信処理制御部32を介して端末通信部31により供給された情報に基づいて、サーバ71よりアプリケーション終了要求を受けたことが通知されたか否かを判断する。ステップS157において、アプリケーション終了要求を受けていないと判断された場合、処理は、ステップS139に戻り、それ以降の処理が繰り返される。
ステップS157において、アプリケーション終了要求を受けたと判断された場合、ステップS158において、端末通信部31は、サーバ71より、例えば、「お疲れ様でした。終了します」などの音声を出力するためのデータ、または、テキストデータの少なくとも一方、および、必要に応じて、図2のAR表示部35−6の表示画面を表示させるための画像データを受信する。ユーザ端末処理制御部91は、端末通信処理制御部32から、これらの音声を出力するためのデータ、テキストデータ、または、画像データを取得する。ユーザ端末処理制御部91は、音声出力のためのデータを音声データ生成部94に供給して、音声データを生成させる。音声データ生成部94は、ユーザ端末処理制御部91の制御に基づいて、サーバ71から送信された音声出力用データを基に、音声データを生成し、ユーザ端末処理制御部91に供給する。ユーザ端末処理制御部91は、音声データ出力制御部38を制御して、音声データをヘッドホン39より出力させるとともに、AR表示制御部34を制御して、テキストデータおよび画像データをAR表示部35に表示させて、ログアウト状態となり、処理が終了される。
このような処理により、ユーザ端末72は、現在位置情報や、ユーザの発話に対応する音声データの認識結果をサーバ71に送信し、サーバ71から、過去の検査結果、ならびに、ユーザの発話内容やサーバ71への登録内容を確認するためのテキストデータおよび音声出力のためのデータを受信して、AR表示部35に表示させ、ヘッドホン39のスピーカーから音声出力させることが可能となる。したがって、検査支援システムでは、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
次に、図19〜図26のフローチャートを参照して、図15のサーバ71が実行するサーバの処理2について説明する。
ステップS171において、サーバ71の点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から音声認識結果を受信したか否かを判断する。ステップS171において受信される音声認識結果は、上述したユーザ端末処理2のステップS133において送信された、ログイン要求、および、パスワード情報を示す音声認識結果である。ステップS171において、音声認識結果を受信していないと判断された場合、音声認識結果を受信したと判断されるまで、ステップS171の処理が繰り返される。
ステップS171において、音声認識結果を受信したと判断された場合、ステップS172において、点検処理制御部81は、受信された音声認識結果すなわち、ログイン要求であるという認識結果を受けて、ユーザ端末72から送信されたパスワードを使用者認識処理部84に供給し、ユーザ端末72の使用者の認識処理を実行させる。使用者認識処理部84は、点検処理制御部81の制御に基づいて、使用者データベース83に登録されているパスワード情報を用いて、ユーザ端末72にログインしようとしているユーザが登録されたユーザであるか否かの認識処理を実行し、認識処理結果を点検処理制御部81に供給する。
ステップS173において、点検処理制御部81は、ステップS42の認識処理の結果に基づいて、ユーザ端末72の使用者は登録された使用者であるか否かを判断する。
ステップS173において、ユーザ端末72の使用者は登録された使用者ではないと判断された場合、ステップS174において、点検処理制御部81は、サーバ通信処理制御部12を制御し、サーバ通信部11からユーザ端末72へ、所定のエラーメッセージを送信させる。サーバ通信部11は、ユーザ端末72に、エラーメッセージを送信する。ステップS174の処理の終了後、処理は、ステップS171に戻り、それ以降の処理が繰り返される。
ステップS173において、ユーザ端末72の使用者は登録された使用者であると判断された場合、ステップS175において、点検処理制御部81は、サーバ通信処理制御部12を制御し、サーバ通信部11からユーザ端末72へ、ログイン許可を送信させる。サーバ通信部11は、ユーザ端末72に、ログイン許可を送信する。
ステップS176において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から緯度経度情報を受信したか否かを判断する。
ステップS176において、緯度経度情報を受信したと判断された場合、ステップS177において、点検処理制御部81は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部81の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部81に供給する。点検処理制御部81は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末72に送信する。
ステップS176において、緯度経度情報を受信していないと判断された場合、または、ステップS177の処理の終了後、ステップS178において、点検処理制御部81は、現在位置より検査進行方向の最も近い位置における過去の検査結果情報は、ユーザ端末72へ送信済みであるか否かを判断する。
ステップS178において、現在位置より検査進行方向の最も近い位置における過去の検査結果情報は送信済みではないと判断された場合、ステップS179において、点検処理制御部81は、位置情報演算処理部19の処理により得られるユーザ端末72の位置に対応する路線名と基点からのキロ程による位置情報に基づいて、点検結果登録制御部21を制御して、過去の点検結果のうち、ユーザ端末72を保有するユーザが次に到着する過去の不良発生個所の情報を、点検結果データベース20から検索させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、ユーザ端末72を利用しているユーザが検査を行っている路線の過去の点検結果を、点検結果データベース20から検索し、ユーザ端末72を保有するユーザが次に到着する過去の不良発生個所の情報を、点検処理制御部81に供給する。点検処理制御部81は、サーバ通信処理制御部12を制御して、供給された過去の点検結果を、サーバ通信部11からユーザ端末72に送信させる。
ステップS178において、現在位置より検査進行方向の最も近い位置における過去の検査結果情報は送信済みであると判断された場合、または、ステップ179の処理の終了後、ステップS180において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から音声認識結果を受信したか否かを判断する。ステップS180において受信される音声認識結果は、上述したユーザ端末処理2のステップS141において送信された、ユーザからの要求や不良内容の登録内容などを示す音声認識結果である。ステップS180において、音声認識結果を受信していないと判断された場合、音声認識結果を受信したと判断されるまで、ステップS180の処理が繰り返される。
ステップS180において、音声データを受信したと判断された場合、ステップS181において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「検査開始」などの検査開始要求であるか否かを判断する。ステップS181において、ユーザの発話内容は、検査開始要求ではないと判断された場合、処理は、後述するステップS188に進む。
ステップS181において、ユーザの発話内容は、検査開始要求であると判断された場合、ステップS182において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から緯度経度情報を受信したか否かを判断する。ステップS182において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS182の処理が繰り返される。
ステップS182において、緯度経度情報を受信したと判断された場合、ステップS183において、点検処理制御部81は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部81の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部81に供給する。点検処理制御部81は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末72に送信する。
ステップS184において、点検処理制御部81は、テキストデータ生成部22を制御して、変換されたキロ程情報に基づいて、「○○キロ程から検査を開始します」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末72において表示出力されるテキストデータ「○○キロ程から検査を開始します」を生成し、点検処理制御部81に供給する。
ステップS185において、サーバの点検処理制御部81は、音声出力用データ生成部82を制御して、変換されたキロ程情報に基づいて、「○○キロ程から検査を開始します」の音声出力のためのデータを生成させる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「○○キロ程から検査を開始します」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS186において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報をユーザ端末72に送信する。
ステップS187において、点検処理制御部81は、点検結果登録制御部21を制御して、検査開始位置の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、検査開始位置を、点検結果データベース20に供給して登録する処理を実行する。
ステップS181において、ユーザの発話内容は、検査開始要求ではないと判断された場合、または、ステップS187の処理の終了後、ステップS188において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「検査開始位置を○○キロ程に変更」などの検査開始キロ程変更要求であるか否かを判断する。ステップS188において、ユーザの発話内容は、検査開始キロ程変更要求ではないと判断された場合、処理は、後述するステップS194に進む。
ステップS188において、ユーザの発話内容は、検査開始キロ程変更要求であると判断された場合、ステップS189において、点検処理制御部81は、ステップS180において受信された音声認識結果から、ユーザが変更を指令した検査開始キロ程情報を取得する。
ステップS190において、点検処理制御部81は、テキストデータ生成部22を制御して、取得された検査開始キロ程情報に基づいて、「検査開始位置を○○キロ程に修正します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末72において表示出力されるテキストデータ「検査開始位置を○○キロ程に修正します。よろしいですか?」を生成し、点検処理制御部81に供給する。
ステップS191において、点検処理制御部81は、音声出力用データ生成部82を制御して、「検査開始位置を○○キロ程に修正します。よろしいですか?」の音声出力のためのデータを生成させる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「検査開始位置を○○キロ程に修正します。よろしいですか?」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS192において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報をユーザ端末72に送信する。
ステップS193において、点検処理制御部81は、点検結果登録制御部21を制御して、検査開始位置の登録変更処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、変更された検査開始位置を、点検結果データベース20に供給して登録する処理を実行する。
ステップS188において、ユーザの発話内容は、検査開始キロ程変更要求ではないと判断された場合、または、ステップS193の処理の終了後、ステップS194において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「枕木に××、健全度A」などの、不良内容登録要求であるか否かを判断する。ステップS194において、ユーザの発話内容は、不良内容登録要求ではないと判断された場合、処理は、後述するステップS203に進む。
ステップS194において、ユーザの発話内容は、不良内容登録要求であると判断された場合、ステップS195において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から緯度経度情報を受信したか否かを判断する。ステップS195において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS195の処理が繰り返される。
ステップS195において、緯度経度情報を受信したと判断された場合、ステップS196において、点検処理制御部81は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部81の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部81に供給する。点検処理制御部81は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末72に送信する。
ステップS197において、サーバの点検処理制御部81は、テキストデータ生成部22を制御して、音声認識結果、キロ程情報に基づいて、「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末72において表示出力されるテキストデータ「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」を生成し、点検処理制御部81に供給する。
ステップS198において、点検処理制御部81は、音声出力用データ生成部82を制御して、「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」の音声出力のためのデータを生成せる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「○○キロ程、枕木に××、健全度Aで登録します。よろしいですか?」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS199において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、ユーザ端末72に送信する。
ステップS120において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から画像データを受信したか否かを判断する。ステップS120において、画像データを受信していないと判断された場合、処理は、後述するステップS202の処理に進む。
ステップS120において、画像データを受信したと判断された場合、ステップS121において、点検処理制御部81は、画像データと受信した不良内容とを対応付ける。
ステップS120において、画像データを受信していないと判断された場合、または、ステップS121の処理の終了後、ステップS202において、点検処理制御部81は、点検結果登録制御部21を制御して、不良内容の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、不良内容を、点検結果データベース20に供給して登録する処理を実行する。
ステップS194において、ユーザの発話内容は、不良内容登録要求ではないと判断された場合、または、ステップS202の処理の終了後、ステップS203において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「○○キロ程、枕木に××、健全度Aに登録内容を変更」などの、不良内容登録変更要求であるか否かを判断する。ステップS203において、ユーザの発話内容は、不良内容登録変更要求ではないと判断された場合、処理は、後述するステップS210に進む。
ステップS203において、ユーザの発話内容は、不良内容登録変更要求であると判断された場合、ステップS204において、点検処理制御部81は、テキストデータ生成部22を制御して、音声認識結果に基づいて、「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末72において表示出力されるテキストデータ「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」を生成し、点検処理制御部81に供給する。
ステップS205において、点検処理制御部81は、音声出力用データ生成部82を制御して、「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」の音声出力のためのデータを生成させる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「○○キロ程、枕木に××、健全度Aに登録内容を修正します。よろしいですか?」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS206において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報をユーザ端末72に送信する。
ステップS207において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から画像データを受信したか否かを判断する。ステップS207において、画像データを受信していないと判断された場合、処理は、後述するステップS209の処理に進む。
ステップS207において、画像データを受信したと判断された場合、ステップS208において、点検処理制御部81は、画像データと修正された不良内容とを対応付ける。
ステップS207において、画像データを受信していないと判断された場合、または、ステップS208の処理の終了後、ステップS209において、点検処理制御部81は、点検結果登録制御部21を制御して、不良内容の登録修正処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、修正された不良内容を、点検結果データベース20に供給して登録する処理を実行する。
ステップS203において、ユーザの発話内容は、不良内容登録変更要求ではないと判断された場合、または、ステップS209の処理の終了後、ステップS210において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「措置作業、××××」などの、措置作業内容登録要求であるか否かを判断する。ステップS210において、ユーザの発話内容は、措置作業内容登録要求ではないと判断された場合、処理は、後述するステップS219に進む。
ステップS210において、ユーザの発話内容は、措置作業内容登録要求であると判断された場合、ステップS211において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から緯度経度情報を受信したか否かを判断する。ステップS211において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS211の処理が繰り返される。
ステップS211において、緯度経度情報を受信したと判断された場合、ステップS212において、サーバの点検処理制御部81は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部81の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部81に供給する。点検処理制御部81は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末72に送信する。
ステップS213において、点検処理制御部81は、テキストデータ生成部22を制御して、変換されたキロ程情報に基づいて、「○○キロ程、措置作業、××××」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末72において表示出力されるテキストデータ「○○キロ程、措置作業、××××」を生成し、点検処理制御部81に供給する。
ステップS214において、点検処理制御部81は、音声出力用データ生成部82を制御して、「○○キロ程、措置作業、××××を登録します。よろしいですか?」の音声出力のためのデータを生成させる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「○○キロ程、措置作業、××××を登録します。よろしいですか?」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS215において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報をユーザ端末72に送信する。
ステップS216において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から画像データを受信したか否かを判断する。ステップS216において、画像データを受信していないと判断された場合、処理は、後述するステップS218の処理に進む。
ステップS216において、画像データを受信したと判断された場合、ステップS217において、点検処理制御部81は、画像データと受信した措置作業内容とを対応付ける。
ステップS216において、画像データを受信していないと判断された場合、または、ステップS217の処理の終了後、ステップS218において、点検処理制御部81は、点検結果登録制御部21を制御して、措置作業内容の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、措置作業内容を、点検結果データベース20に供給して登録する処理を実行する。
ステップS210において、ユーザの発話内容は、措置作業内容登録要求ではないと判断された場合、または、ステップS218の処理の終了後、ステップS219において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「検査終了」などの、検査終了要求であるか否かを判断する。ステップS219において、ユーザの発話内容は、検査終了要求ではないと判断された場合、処理は、後述するステップS226に進む。
ステップS219において、ユーザの発話内容は、検査終了要求であると判断された場合、ステップS220において、サーバの点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から緯度経度情報を受信したか否かを判断する。ステップS220において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS220の処理が繰り返される。
ステップS220において、緯度経度情報を受信したと判断された場合、ステップS221において、サーバの点検処理制御部81は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部81の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部81に供給する。点検処理制御部81は、路線名と基点からのキロ程による現在位置情報を、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、現在位置情報をユーザ端末72に送信する。
ステップS222において、点検処理制御部81は、テキストデータ生成部22を制御して、変換されたキロ程情報に基づいて、「○○キロ程で検査を終了します」の出力用テキストデータを生成せる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末において表示出力されるテキストデータ「○○キロ程で検査を終了します」を生成し、点検処理制御部81に供給する。
ステップS223において、点検処理制御部81は、音声出力用データ生成部82を制御して、「○○キロ程で検査を終了します」の音声出力のためのデータを生成させる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「○○キロ程で検査を終了します」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS224において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報をユーザ端末72に送信する。
ステップS225において、点検処理制御部81は、点検結果登録制御部21を制御して、検査終了位置の登録処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、点検結果データベース20に登録されている検査位置を修正登録する処理を実行する。
ステップS219において、ユーザの発話内容は、検査終了要求ではないと判断された場合、または、ステップS225の処理の終了後、ステップS226において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「検査終了位置を○○キロ程に変更」などの、検査終了キロ程変更要求であるか否かを判断する。ステップS226において、ユーザの発話内容は、検査終了キロ程変更要求ではないと判断された場合、処理は、後述するステップS231に進む。
ステップS226において、ユーザの発話内容は、検査終了キロ程変更要求であると判断された場合、ステップS227において、点検処理制御部81は、テキストデータ生成部22を制御して、受信した音声認識の結果に含まれる検査終了キロ程情報に基づいて、「検査終了位置を○○キロ程に修正します。よろしいですか?」の出力用テキストデータを生成させる。テキストデータ生成部22は、点検処理制御部81の制御に基づいて、ユーザ端末72において表示出力されるテキストデータ「検査終了位置を○○キロ程に修正します。よろしいですか?」を生成し、点検処理制御部81に供給する。
ステップS228において、点検処理制御部81は、音声出力用データ生成部82を制御して、「検査開始終了を○○キロ程に修正します。よろしいですか?」の音声出力のためのデータを生成させる。音声出力用データ生成部82は、点検処理制御部81の制御に基づいて、ユーザ端末72において音声出力される「検査開始終了を○○キロ程に修正します。よろしいですか?」に対応する音声出力のためのデータを生成し、点検処理制御部81に供給する。
ステップS229において、点検処理制御部81は、サーバ通信処理制御部12の制御により、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報を、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、出力用テキストデータ、音声出力のためのデータ、および、現在位置情報をユーザ端末72に送信する。
ステップS230において、点検処理制御部81は、点検結果登録制御部21を制御して、検査終了位置の登録変更処理を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、点検結果データベース20に登録されている検査開始位置を変更する処理を実行する。
ステップS226において、ユーザの発話内容は、検査終了キロ程変更要求ではないと判断された場合、またはステップS230の処理の終了後、ステップS231において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、不良個所一覧表示要求であるか否かを判断する。
ステップS231において、ユーザの発話内容は、不良個所一覧表示要求であると判断された場合、ステップS232において、点検処理制御部81は、ユーザ端末72の位置に対応する路線名に基づいて、点検結果登録制御部21を制御して、対応する路線名の過去の点検結果のうち、対応する過去の不良発生個所の一覧を構成する情報を、点検結果データベース20から検索させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、対応する過去の不良個所一覧を構成する情報を、点検結果データベース20から検索し、点検処理制御部81に供給する。点検処理制御部81は、サーバ通信処理制御部12を制御して、供給された過去の不良個所一覧を構成するデータを、サーバ通信部11からユーザ端末72に送信させる。
ステップS231において、ユーザの発話内容は、不良個所一覧表示要求ではないと判断された場合、または、ステップS232の処理の終了後、ステップS233において、点検処理制御部81は、ステップS180において受信された音声認識結果に対応するユーザの発話内容は、例えば、「ログアウト」などの、アプリケーション終了要求であるか否かを判断する。ステップS233において、ユーザの発話内容は、アプリケーション終了要求ではないと判断された場合、処理は、ステップS176に戻り、それ以降の処理が繰り返される。
ステップS233において、ユーザの発話内容は、アプリケーション終了要求であると判断された場合、ステップS234において、点検処理制御部81は、サーバ通信処理制御部12を介してサーバ通信部11から供給された情報に基づいて、ユーザ端末72から緯度経度情報を受信したか否かを判断する。ステップS234において、緯度経度情報を受信していないと判断された場合、緯度経度情報を受信したと判断されるまで、ステップS234の処理が繰り返される。
ステップS234において、緯度経度情報を受信したと判断された場合、ステップS235において、点検処理制御部81は、取得された緯度経度情報を位置情報演算処理部19に供給し、緯度経度情報を、路線名と基点からのキロ程による位置情報に変換させる。位置情報演算処理部19は、点検処理制御部81の制御に基づいて、緯度経度情報を、位置情報データベース18に登録されている情報に基づいて、路線名および基点からのキロ程により表される位置情報に変換し、変換後の位置情報を点検処理制御部81に供給する。
ステップS236において、点検処理制御部81は、例えば、「お疲れ様でした。終了します。」などの、アプリケーション終了時の出力用テキストデータおよび音声出力のためのデータを、サーバ通信処理制御部12の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、アプリケーション終了時の出力用テキストデータおよび音声出力のためのデータを、ユーザ端末72に送信する。
ステップS237において、点検処理制御部81は、点検結果登録制御部21を制御して、アプリケーション終了情報の登録を実行させる。点検結果登録制御部21は、点検処理制御部81の制御に基づいて、アプリケーション終了情報を、点検結果データベース20に供給して登録する処理を実行する。
ステップS238において、点検処理制御部81は、アプリケーション終了要求を受けたことを通知する情報を、信処理制御部の制御により、サーバ通信部11からユーザ端末72に送信させる。サーバ通信部11は、サーバ通信処理制御部12の制御に基づいて、アプリケーション終了要求を受けたことを通知する情報を、ユーザ端末72に送信して処理が終了される。この通知は、上述したユーザ端末処理1のステップS157において、ユーザ端末において受信されたか否かが判断される。
このような処理により、サーバ71は、ユーザ端末72から送信された音声認識結果に基づいて、ユーザ端末72を利用しているユーザからの要求に対応する処理や、検査結果の登録処理を実行することができる。また、サーバ71は、ユーザ端末72の位置に基づいて、過去の検査結果に対応する情報を送信する。したがって、検査支援システムでは、過去の検査結果を見落とさずに、容易かつ確実に点検結果の登録を行うことができる。
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
1…サーバ、 2…ユーザ端末(ウェアラブル端末)、 11…サーバ通信部、 12…サーバ通信処理制御部、 13…点検処理制御部、 14…音声認識用データベース、 15…音声認識処理部、 16…使用者データベース、 17…使用者認識処理部、 18…位置情報データベース、 19…位置情報演算処理部、 20…点検結果データベース、 21…点検結果登録制御部、 22…テキストデータ生成部、 23…音声データ生成部、 31…端末通信部、 32…端末通信処理制御部、 33…ユーザ端末処理制御部、 34…AR表示制御部(表示部)、 35…AR表示部、 36…音声データ取得制御部、 37…マイク(発話音声取得部)、 38…音声データ出力制御部(音声制御部)、 39…ヘッドホン(音声出力部)、 40…位置データ取得制御部、 41…GNSS装置(位置情報取得部)、 42…ジャイロスコープ、 43…地磁気センサ、 44…撮像制御部、 45…カメラ、 51…不良発生個所情報 71…サーバ、 72…ユーザ端末(ウェアラブル端末)、 81…点検処理制御部81、 82…音声出力用データ生成部、 83…使用者データベース、 84…使用者認識処理部、 91…ユーザ端末処理制御部、 92…音声認識用データベース、 93…音声認識処理部、 94…音声データ生成部

Claims (16)

  1. 位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備え、
    前記ウェアラブル端末は、眼鏡形状のヘッドマウントディスプレイであり、
    前記ウェアラブル端末を装着するユーザの眼前に配置され、前記位置情報取得部により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示する表示部と、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に前記表示部に前記過去の検査結果情報を表示させる表示制御部と、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得する発話音声取得部と、
    前記発話音声取得部を介して取得された前記検査対象物の検査結果情報に相当する発話音声を前記サーバに送信する端末側通信部とを備え、
    前記表示制御部は、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記位置情報、および、前記ウェアラブル端末を装着する前記ユーザの視線の向きを検出するためのセンサにより検出された前記ユーザの視線の向きの変化に応じて変化させ、
    前記サーバは、
    前記端末側通信部から受信された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部と、
    前記検査対象物の検査結果情報を登録する検査結果情報記憶部と、
    取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するサーバ側通信部とを有する、
    ことを特徴とする検査支援システム。
  2. 前記ウェアラブル端末は、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に警告音を音声出力部に出力させる音声制御部有する、
    ことを特徴とする請求項1に記載の検査支援システム。
  3. 前記音声制御部は、取得した前記位置情報に対応する地点のキロ程において不良状態が確認された場合に発話される地点のキロ程データに相当する発話音声及び不良情報を含む検査結果情報に相当する発話音声を音声出力部から出力させる、
    ことを特徴とする請求項2に記載の検査支援システム。
  4. 前記検査結果情報記憶部は、取得した前記位置情報に対応する地点のキロ程において不良状態が確認された場合に取得された不良情報を含む検査結果情報を登録する、
    ことを特徴とする請求項3に記載の検査支援システム。
  5. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバを用いた検査支援方法であって、
    前記ウェアラブル端末が、前記位置情報取得部により現在位置を取得するステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記ウェアラブル端末が、前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記ウェアラブル端末が、さらに、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記位置情報、および、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記ウェアラブル端末が、前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を前記サーバに送信するステップと、
    前記サーバが、前記送信するステップにおいて送信された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、
    前記サーバが、前記検査対象物の検査結果情報を登録するステップと、
    前記サーバが、取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するステップと、
    ことを特徴とする検査支援方法。
  6. 前記ウェアラブル端末が、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に警告音を音声出力部に出力させるステップ有する、
    ことを特徴とする請求項5に記載の検査支援方法。
  7. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備えた検査支援システムにおける検査支援方法を、前記ウェアラブル端末のコンピュータに実行させるためのプログラムであって、
    前記位置情報取得部により現在位置を取得するステップと、
    前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記位置情報、および、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を前記サーバに送信するステップと、
    をコンピュータに実行させるためのプログラム。
  8. 位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備え、
    前記ウェアラブル端末は、眼鏡形状のヘッドマウントディスプレイであり、
    前記ウェアラブル端末を装着するユーザの眼前に配置され、前記位置情報取得部により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示する表示部と、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に前記表示部に前記過去の検査結果情報を表示させる表示制御部と、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得する発話音声取得部と、
    前記発話取得部により取得された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部と、
    前記音声認識処理部により音声認識された前記検査対象物の検査結果情報を前記サーバに送信する端末側通信部とを備え、
    前記表示制御部は、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記位置情報、および、前記ウェアラブル端末を装着する前記ユーザの視線の向きを検出するためのセンサにより検出された前記ユーザの視線の向きの変化に応じて変化させ、
    前記サーバは、
    前記端末側通信部から受信された前記検査対象物の検査結果情報を登録する検査結果情報記憶部と、
    取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するサーバ側通信部とを有する、
    ことを特徴とする検査支援システム。
  9. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバを用いた検査支援方法であって、
    前記ウェアラブル端末が、前記位置情報取得部により現在位置を取得するステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記ウェアラブル端末が、前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記ウェアラブル端末が、さらに、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記位置情報、および、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記ウェアラブル端末が、前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、
    前記ウェアラブル端末が、前記音声認識処理するステップの処理結果を前記サーバに送信するステップと、
    前記サーバが、前記送信するステップにおいて送信された前記検査対象物の検査結果情報を登録するステップと、
    前記サーバが、取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するステップとを有する、
    ことを特徴とする検査支援方法。
  10. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備えた検査支援システムにおける検査支援方法を、前記ウェアラブル端末のコンピュータに実行させるためのプログラムであって、
    前記位置情報取得部により現在位置を取得するステップと、
    前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記位置情報、および、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、
    前記音声認識処理するステップの処理結果を前記サーバに送信するステップと、
    をコンピュータに実行させるためのプログラム。
  11. 位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備え、
    前記ウェアラブル端末は、眼鏡形状のヘッドマウントディスプレイであり、
    前記ウェアラブル端末を装着するユーザの眼前に配置され、前記位置情報取得部により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示する表示部と、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に前記表示部に前記過去の検査結果情報を表示させる表示制御部と、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得する発話音声取得部と、
    前記発話音声取得部を介して取得された前記検査対象物の検査結果情報に相当する発話音声を前記サーバに送信する端末側通信部とを備え、
    前記表示制御部は、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記過去の検査結果情報を有する走行位置に対応する位置情報および現在位置情報に基づく前記ユーザと前記過去の検査結果情報に基づく位置情報に対応した地点との距離、並びに、前記ウェアラブル端末を装着する前記ユーザの視線の向きを検出するためのセンサにより検出された前記ユーザの視線の向きの変化に応じて変化させ、
    前記サーバは、
    前記端末側通信部から受信された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部と、
    前記検査対象物の検査結果情報を登録する検査結果情報記憶部と、
    取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するサーバ側通信部とを有する、
    ことを特徴とする検査支援システム。
  12. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバを用いた検査支援方法であって、
    前記ウェアラブル端末が、前記位置情報取得部により現在位置を取得するステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記ウェアラブル端末が、前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記ウェアラブル端末が、さらに、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記過去の検査結果情報を有する走行位置に対応する位置情報および現在位置情報に基づく前記ユーザと前記過去の検査結果情報に基づく位置情報に対応した地点との距離、並びに、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記ウェアラブル端末が、前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を前記サーバに送信するステップと、
    前記サーバが、前記送信するステップにおいて送信された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、
    前記サーバが、前記検査対象物の検査結果情報を登録するステップと、
    前記サーバが、取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するステップと、
    ことを特徴とする検査支援方法。
  13. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備えた検査支援システムにおける検査支援方法を、前記ウェアラブル端末のコンピュータに実行させるためのプログラムであって、
    前記位置情報取得部により現在位置を取得するステップと、
    前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記過去の検査結果情報を有する走行位置に対応する位置情報および現在位置情報に基づく前記ユーザと前記過去の検査結果情報に基づく位置情報に対応した地点との距離、並びに、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を前記サーバに送信するステップと、
    をコンピュータに実行させるためのプログラム。
  14. 位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備え、
    前記ウェアラブル端末は、眼鏡形状のヘッドマウントディスプレイであり、
    前記ウェアラブル端末を装着するユーザの眼前に配置され、前記位置情報取得部により取得された位置情報に対応した地点における検査対象物の過去の検査結果情報を表示する表示部と、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に前記表示部に前記過去の検査結果情報を表示させる表示制御部と、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得する発話音声取得部と、
    前記発話取得部により取得された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理する音声認識処理部と、
    前記音声認識処理部により音声認識された前記検査対象物の検査結果情報を前記サーバに送信する端末側通信部とを備え、
    前記表示制御部は、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記過去の検査結果情報を有する走行位置に対応する位置情報および現在位置情報に基づく前記ユーザと前記過去の検査結果情報に基づく位置情報に対応した地点との距離、並びに、前記ウェアラブル端末を装着する前記ユーザの視線の向きを検出するためのセンサにより検出された前記ユーザの視線の向きの変化に応じて変化させ、
    前記サーバは、
    前記端末側通信部から受信された前記検査対象物の検査結果情報を登録する検査結果情報記憶部と、
    取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するサーバ側通信部とを有する、
    ことを特徴とする検査支援システム。
  15. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバを用いた検査支援方法であって、
    前記ウェアラブル端末が、前記位置情報取得部により現在位置を取得するステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記ウェアラブル端末が、前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記ウェアラブル端末が、さらに、前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記過去の検査結果情報を有する走行位置に対応する位置情報および現在位置情報に基づく前記ユーザと前記過去の検査結果情報に基づく位置情報に対応した地点との距離、並びに、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記ウェアラブル端末が、前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記ウェアラブル端末が、前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、
    前記ウェアラブル端末が、前記音声認識処理するステップの処理結果を前記サーバに送信するステップと、
    前記サーバが、前記送信するステップにおいて送信された前記検査対象物の検査結果情報を登録するステップと、
    前記サーバが、取得した前記位置情報に対応する地点のキロ程における過去の検査結果情報が登録されている場合、当該過去の検査結果情報を前記ウェアラブル端末に送信するステップとを有する、
    ことを特徴とする検査支援方法。
  16. 眼鏡形状のヘッドマウントディスプレイであり、位置情報取得部により取得された位置情報を取得可能なウェアラブル端末と、前記位置情報に対応する地点における検査結果情報を前記ウェアラブル端末との間で送受することができるサーバとを備えた検査支援システムにおける検査支援方法を、前記ウェアラブル端末のコンピュータに実行させるためのプログラムであって、
    前記位置情報取得部により現在位置を取得するステップと、
    前記取得された位置情報に対応した地点における検査対象物の過去の検査結果情報をサーバから受信するステップと、
    前記ウェアラブル端末を装着するユーザの視線の向きを検出するステップと、
    前記受信された過去の検査結果情報を、前記ウェアラブル端末を装着する前記ユーザの眼前に配置された表示部に表示するステップと、
    前記過去の検査結果情報を有する走行位置に対応する位置情報を取得した場合に、前記表示部に表示された前記過去の検査結果情報の表示の座標及び大きさを、前記過去の検査結果情報を有する走行位置に対応する位置情報および現在位置情報に基づく前記ユーザと前記過去の検査結果情報に基づく位置情報に対応した地点との距離、並びに、前記ユーザの視線の向きの変化に応じて変化させて表示させるステップと、
    前記取得された位置情報に対応する前記検査対象物の検査結果情報に相当する発話音声を取得するステップと、
    前記発話音声を取得するステップの処理により取得された前記検査対象物の検査結果情報に相当する発話音声を音声認識処理するステップと、
    前記音声認識処理するステップの処理結果を前記サーバに送信するステップと、
    をコンピュータに実行させるためのプログラム。
JP2018040023A 2018-03-06 2018-03-06 検査支援システムおよび検査支援方法、ならびにプログラム Active JP6412665B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018040023A JP6412665B1 (ja) 2018-03-06 2018-03-06 検査支援システムおよび検査支援方法、ならびにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018040023A JP6412665B1 (ja) 2018-03-06 2018-03-06 検査支援システムおよび検査支援方法、ならびにプログラム

Publications (2)

Publication Number Publication Date
JP6412665B1 true JP6412665B1 (ja) 2018-10-24
JP2019153238A JP2019153238A (ja) 2019-09-12

Family

ID=63920639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018040023A Active JP6412665B1 (ja) 2018-03-06 2018-03-06 検査支援システムおよび検査支援方法、ならびにプログラム

Country Status (1)

Country Link
JP (1) JP6412665B1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004173108A (ja) * 2002-11-21 2004-06-17 Central Res Inst Of Electric Power Ind センサ情報のデータベース化方法および点検支援システム並びに点検支援用プログラム
JP2008062733A (ja) * 2006-09-06 2008-03-21 Railway Technical Res Inst 鉄道設備保守検査支援システム及びプログラム
JP2015102880A (ja) * 2013-11-21 2015-06-04 三菱電機株式会社 作業支援システム
JP2016177800A (ja) * 2015-03-20 2016-10-06 東洋ビルメンテナンス株式会社 点検管理装置、点検支援システム、点検管理方法、点検支援方法、点検管理プログラムおよび点検支援プログラム
JP2017021401A (ja) * 2015-07-07 2017-01-26 東芝エレベータ株式会社 メンテナンス支援システムおよびメンテナンス支援情報処理方法
JP2018005661A (ja) * 2016-07-05 2018-01-11 株式会社サイバー・ラボ 点検システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004173108A (ja) * 2002-11-21 2004-06-17 Central Res Inst Of Electric Power Ind センサ情報のデータベース化方法および点検支援システム並びに点検支援用プログラム
JP2008062733A (ja) * 2006-09-06 2008-03-21 Railway Technical Res Inst 鉄道設備保守検査支援システム及びプログラム
JP2015102880A (ja) * 2013-11-21 2015-06-04 三菱電機株式会社 作業支援システム
JP2016177800A (ja) * 2015-03-20 2016-10-06 東洋ビルメンテナンス株式会社 点検管理装置、点検支援システム、点検管理方法、点検支援方法、点検管理プログラムおよび点検支援プログラム
JP2017021401A (ja) * 2015-07-07 2017-01-26 東芝エレベータ株式会社 メンテナンス支援システムおよびメンテナンス支援情報処理方法
JP2018005661A (ja) * 2016-07-05 2018-01-11 株式会社サイバー・ラボ 点検システム

Also Published As

Publication number Publication date
JP2019153238A (ja) 2019-09-12

Similar Documents

Publication Publication Date Title
CN111239790B (zh) 一种基于5g网络机器视觉的车辆导航系统
US20200042800A1 (en) Image acquiring system, terminal, image acquiring method, and image acquiring program
CN106289800A (zh) 车辆故障在线求助系统及方法
CN104851142A (zh) 一种基于移动计算的通信线路巡检工具及方法
CN110208739A (zh) 辅助车辆定位的方法、装置、设备和计算机可读存储介质
US10899358B2 (en) Vehicle driver monitoring system and method for capturing driver performance parameters
TWI589839B (zh) 辨別車輛當前位於高架道路或平面道路的方法
US20160005332A1 (en) Method for administering a driving test
WO2019230687A1 (ja) 打音検査端末、打音検査システムおよび打音検査データ登録方法
JP2014137752A (ja) 視覚障害者用の歩行誘導システム、視覚障害者用の歩行誘導方法、サーバ及び該サーバで実行することが可能なコンピュータプログラム
CN106292625A (zh) 车辆故障在线检测系统及方法
JP2019079303A (ja) 道路設備点検システムおよび道路設備点検方法、ならびにそれに使用されるサーバ
JP2017163445A (ja) 点検支援システム、点検支援方法、およびプログラム
JP6412665B1 (ja) 検査支援システムおよび検査支援方法、ならびにプログラム
JP7294381B2 (ja) 情報処理装置、情報処理方法、プログラム
JP2016212767A (ja) 点検支援システムおよび点検支援方法
US20190143926A1 (en) Vehicle management system, inspection information transmission system, information management system, vehicle management program, inspection information transmission program, and information management program
JP2004341182A (ja) 地図誤り情報取得システムおよび地図誤り情報取得方法
CN109426757B (zh) 基于深度学习的驾驶人头部姿态监测方法、系统、介质及设备
CN113759938B (zh) 一种无人车路径规划质量测评方法和系统
JP2018010320A (ja) サーバ装置、端末装置、情報処理方法並びに情報処理システム及び情報処理プログラム
Ihejimba et al. DetectSignal: A cloud-based traffic signal notification system for the blind and visually impaired
JP2019039850A (ja) 鉄道設備モニタリング装置及び鉄道設備モニタリングシステム
JP6224343B2 (ja) サーバ装置、情報処理方法並びに情報処理システム及び情報処理プログラム
JP2022099774A (ja) 情報表示装置、情報表示方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180316

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180316

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180925

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180928

R150 Certificate of patent or registration of utility model

Ref document number: 6412665

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250