JP2019204282A - サーバ、システム、方法、及びプログラム - Google Patents

サーバ、システム、方法、及びプログラム Download PDF

Info

Publication number
JP2019204282A
JP2019204282A JP2018098933A JP2018098933A JP2019204282A JP 2019204282 A JP2019204282 A JP 2019204282A JP 2018098933 A JP2018098933 A JP 2018098933A JP 2018098933 A JP2018098933 A JP 2018098933A JP 2019204282 A JP2019204282 A JP 2019204282A
Authority
JP
Japan
Prior art keywords
time
work
wearable terminal
server
result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018098933A
Other languages
English (en)
Other versions
JP7059798B2 (ja
Inventor
季明 加藤
Sueaki Kato
季明 加藤
武弘 沼尻
Takehiro Numajiri
武弘 沼尻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
Original Assignee
Fuji Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Co Ltd filed Critical Fuji Electric Co Ltd
Priority to JP2018098933A priority Critical patent/JP7059798B2/ja
Publication of JP2019204282A publication Critical patent/JP2019204282A/ja
Application granted granted Critical
Publication of JP7059798B2 publication Critical patent/JP7059798B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Electric Clocks (AREA)
  • Measurement Of Unknown Time Intervals (AREA)
  • General Factory Administration (AREA)

Abstract

【課題】ウェアラブル端末で作業時刻とサーバで計時される時刻との整合性が低いデータが生成される場合がある。【解決手段】作業に関する画像がウェアラブル端末で表示されたときにウェアラブル端末で計時された第1の時刻及び作業の作業結果をウェアラブル端末が作業者から取得したときにウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、第1の時刻から第2の時刻までの時間を示す情報と、作業結果とを含む作業結果情報を、ウェアラブル端末から受信する作業結果受信部と、第1の時刻又は第2の時刻がサーバで管理されている時刻と整合する場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻、時間、及び作業結果を出力し、第1の時刻又は第2の時刻がサーバで管理されている時刻と整合しない場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻をマスクする。【選択図】図16

Description

本発明は、サーバ、システム、方法、及びプログラムに関する。
ヘッドマウントディスプレイを備えるウェアラブル注文端末として、注文受付時に注文内容を含む注文画面をヘッドマウントディスプレイに表示し、注文終了時に注文画面を消去するものが知られている(例えば特許文献1参照)。
特許文献1 特開2011−48439号公報
作業者が作業に要した作業時間を管理することが望まれる場合がある。作業時間をウェアラブル端末で計時し、当該作業時間をサーバで収集するシステムにおいては、例えば、ウェアラブル端末で計時される時刻とサーバで計時される時刻との整合性が低い場合があり得る。このような場合、不整合な時刻データを含む管理データが生成される場合がある。
第1の態様において、作業者の頭部に装着されるウェアラブル端末を通じて、作業に関する画像を作業者に提供するためのサーバが提供される。サーバは、作業に関する画像がウェアラブル端末で表示されたときにウェアラブル端末で計時された第1の時刻及び作業の作業結果をウェアラブル端末が作業者から取得したときにウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、画像がウェアラブル端末で表示されてからウェアラブル端末が作業者から作業結果を取得するまでの時間を示す情報と、作業結果とを含む作業結果情報を、ウェアラブル端末から受信する作業結果受信部を備えてよい。サーバは、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合する場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻、時間、及び作業結果を出力し、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合しない場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻をマスクして、時間及び作業結果を出力する結果出力部を備えてよい。
作業は複数の作業項目を含んでよい。作業結果情報は、複数の作業項目のそれぞれについて、それぞれの作業項目に関する画像がウェアラブル端末で表示されたときにウェアラブル端末で計時された第1の時刻及びそれぞれの作業項目の作業結果をウェアラブル端末が作業者から取得したときにウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、それぞれの作業項目に関する画像がウェアラブル端末で表示されてからウェアラブル端末が作業者から作業結果を取得するまでの時間を示す情報と、作業結果とを含んでよい。結果出力部は、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合する作業項目について、第1の時刻及び第2の時刻の少なくとも一方の時刻、時間、及び作業結果を出力してよい。結果出力部は、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合しない作業項目について、第1の時刻及び第2の時刻の少なくとも一方の時刻をマスクして、時間及び作業結果を出力してよい。
作業結果情報は、複数の作業項目のそれぞれについて、それぞれの作業項目に関する画像がウェアラブル端末で表示されたときにウェアラブル端末で計時された第1の時刻を示す情報と、それぞれの作業項目の作業結果をウェアラブル端末が作業者から取得したときにウェアラブル端末で計時された第2の時刻を示す情報と、第1の時刻から第2の時刻までの時間を示す情報と、作業結果とを含んでよい。結果出力部は、第1の時刻及び第2の時刻がサーバで管理されている時刻と整合する作業項目について、第1の時刻、第2の時刻、時間、及び作業結果を出力してよい。第1の時刻及び第2の時刻の少なくともいずれかの時刻がサーバで管理されている時刻と整合しない作業項目について、第1の時刻及び第2の時刻をマスクして、時間及び作業結果を出力してよい。
複数の作業項目は作業対象毎に設定されてよい。サーバは、作業対象毎に、作業対象に設定された複数の作業項目にわたる時間の合計値を算出する合計時間算出部を備えてよい。結果出力部は、作業対象に対応づけて、合計時間算出部が算出した合計値をさらに出力してよい。
サーバは、現在時刻を管理する時刻管理部を備えてよい。サーバは、ウェアラブル端末から受信した作業者の認証情報に基づいて作業者を認証するとともに、ウェアラブル端末において計時される時刻を現在時刻に合わせる時刻合わせをウェアラブル端末に実行させる時刻制御部を備えてよい。
第1の時刻及び第2の時刻の少なくとも一方の時刻と現在時刻との差が予め定められた値より大きい場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合していないと判断する判断部を備えてよい。
第2の態様において、システムは、上記のサーバを備えてよい。システムは、上記のウェアラブル端末を備えてよい。
ウェアラブル端末は、作業者の音声を取得する音声取得部を備えてよい。ウェアラブル端末は、音声によって作業結果が入力された場合に、第1の時刻から第2の時刻までの時間を取得し、作業結果情報をサーバに送信し、作業結果が入力された作業の次の作業に関する画像を表示してよい。
ウェアラブル端末は、ウェアラブル端末の電源が投入される毎に、ウェアラブル端末に予め設定されている固定時刻から計時を開始し、サーバにより作業者が認証された場合に、ウェアラブル端末において計時される時刻をサーバで管理されている現在時刻に合わせる開始処理部を備えてよい。
ウェアラブル端末は、作業結果情報を記憶する作業結果記憶部を備えてよい。ウェアラブル端末は、作業者から作業結果が入力された場合に、サーバにより作業者が認証され、かつ、サーバと通信可能であることを条件として、作業結果情報をサーバに出力する作業結果出力部を備えてよい。作業結果出力部は、サーバにより作業者が認証されていない場合又はサーバと通信可能でない場合には、作業結果情報を作業結果記憶部に出力し、作業結果情報が作業結果記憶部に出力された後、サーバにより作業者が認証された場合に、作業結果記憶部に記憶されている作業結果情報をサーバに送信してよい。
第3の態様において、作業者の頭部に装着されるウェアラブル端末を通じて、作業に関する画像を作業者に提供する方法が提供される。方法は、作業に関する画像がウェアラブル端末で表示されたときにウェアラブル端末で計時された第1の時刻及び作業の作業結果をウェアラブル端末が作業者から取得したときにウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、画像がウェアラブル端末で表示されてからウェアラブル端末が作業者から作業結果を取得するまでの時間を示す情報と、作業結果とを含む作業結果情報を、ウェアラブル端末から受信する段階を備えてよい。方法は、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合する場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻、時間、及び作業結果を出力し、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合しない場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻をマスクして、時間及び作業結果を出力する段階を備えてよい。
第4の態様において、作業者の頭部に装着されるウェアラブル端末を通じて、作業に関する画像を作業者に提供するためのプログラムが提供される。プログラムは、コンピュータを、作業に関する画像がウェアラブル端末で表示されたときにウェアラブル端末で計時された第1の時刻及び作業の作業結果をウェアラブル端末が作業者から取得したときにウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、画像がウェアラブル端末で表示されてからウェアラブル端末が作業者から作業結果を取得するまでの時間を示す情報と、作業結果とを含む作業結果情報を、ウェアラブル端末から受信する作業結果受信部として機能させてよい。プログラムは、コンピュータを、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合する場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻、時間、及び作業結果を出力し、第1の時刻及び第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合しない場合に、第1の時刻及び第2の時刻の少なくとも一方の時刻をマスクして、時間及び作業結果を出力する結果出力部として機能させてよい。
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
一実施形態における作業支援システム100の概略的な構成を示す。 ウェアラブル端末10の機能ブロック構成を概略的に示す。 サーバ80の機能ブロック構成を概略的に示す。 ウェアラブル端末10による点検支援処理の全体を示すフローチャートである。 ログイン画面500の一例を示す。 ウェアラブル端末10によるログイン処理を示すフローチャートである。 ウェアラブル端末10による点検支援処理を示すフローチャートである。 点検画面800の一例を示す。 音声コマンド一覧が表示されている状態の点検画面900の一例を示す。 ウェアラブル端末10において作業者40から音声で指示を取得する処理を表すフローチャートである。 対応情報として記憶される情報をテーブル形式で示す。 対応情報を生成するための事前学習データの一例を示す。 サーバ80において作業者40の指示を特定する処理を表すフローチャートである。 対応情報の更新処理を表すフローチャートである。 サーバ80がウェアラブル端末10から収集した点検結果データに基づく点検結果の表示画面の一例を示す。 点検結果データに基づく点検結果の表示画面の他の一例を示す。 ウェアラブル端末10からダウンロードされる点検項目毎の点検結果データの一例を示す。 ウェアラブル端末10からダウンロードされる点検対象毎の点検結果データの一例を示す。 ウェアラブル端末10からダウンロードされる点検項目毎の点検結果データの他の一例を示す。 ウェアラブル端末10からダウンロードされる点検対象毎の点検結果データの他の一例を示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、一実施形態における作業支援システム100の概略的な構成を示す。作業支援システム100は、サーバ80と、音声認識サーバ82と、ウェアラブル端末10a及びウェアラブル端末10bとを備える。ウェアラブル端末10aは、作業者40aの頭部42aに装着される。ウェアラブル端末10bは、作業者40bの頭部42bに装着される。
ウェアラブル端末10a及びウェアラブル端末10bは、同一の構成を有している。ウェアラブル端末10a及びウェアラブル端末10bを総称する場合に、「ウェアラブル端末10」という場合がある。ウェアラブル端末10の機能を説明する場合に、ウェアラブル端末10aのみを取り上げて説明する場合がある。また、作業者40a及び作業者40bを総称する場合に、「作業者40」という場合がある。
作業支援システム100は、ウェアラブル端末10を通じて作業者40に画像を提供するためのシステムの一例である。本実施形態では、作業の一例として、点検作業を取り上げて、作業支援システム100の機能を具体的に説明する。具体的には、作業者40が設備の点検を行う作業者であるとする。
作業支援システム100は、作業者40が行う点検を支援するための画像を提供する。具体的には、作業支援システム100は、ウェアラブル端末10を通じて、複数の点検項目を含む点検に関する画像を作業者40に提供する。ウェアラブル端末10は、例えば、点検作業現場において使用されてよい。作業としては、設備や物品の点検作業の他に、物品の組み立て作業、介護、教育、事務作業等、様々な作業を含み得る。
サーバ80及びウェアラブル端末10は、ネットワーク90を通じて通信可能に接続されている。ネットワーク90は、インターネット、LAN、WAN、公衆回線網、専用回線網等、様々な形態のネットワークを含み得る。
ウェアラブル端末10aは、本体部11aと、表示部12aを有する。ウェアラブル端末10aは、本体部11aが作業者40aの耳部に装着されることにより、作業者40aの頭部42aに装着され得る。ウェアラブル端末10aは、本体部11aが作業者40aの眼鏡に装着されることにより、作業者40aの頭部42aに装着され得る。ウェアラブル端末10aは、眼鏡型の端末であってよい。ウェアラブル端末10aは、いわゆるアイウエアであってよい。
ウェアラブル端末10は、1つの点検作業に含まれる1以上の点検項目の内容を、サーバ80から取得して記憶する。点検項目としては、例えば、「キズ・欠けはないか」等、良否の点検結果を入力するための項目を含み得る。その他、点検項目としては、「長さを確認」等、数値の点検結果を入力するための項目や、「型番を入力」等、文字の点検結果を入力するための項目を含み得る。
ウェアラブル端末10は、1以上の点検項目の内容を表示部12に順次に表示する。作業者40は、表示部12に表示された点検項目に従って、順次に点検を行う。作業者40は、点検結果を音声で入力する。また、作業者40は、ウェアラブル端末10に対する指示を音声で入力する。
例えば、作業者40は、「写真」という音声を発することで、ウェアラブル端末10に写真撮影を行わせることができる。また、作業者40は、「実績」という音声を発することで、過去の点検で行われた点検結果や写真を表示部12に表示させることができる。また、作業者40は、「OK」「NG」という音声を発することで、良否の点検結果をウェアラブル端末10に入力することができる。作業者40は、数値や単位を発することで、測定値などの点検結果をウェアラブル端末10に入力することができる。
ウェアラブル端末10は、作業者40が発した音声により生成された音声データを、ネットワーク90を通じてサーバ80に送信して、指示や点検結果を示す文字列をサーバ80から取得する。サーバ80は、ウェアラブル端末10から受信した音声データを音声認識サーバ82に送信して、音声認識サーバ82による音声認識により得られた文字列を受信する。サーバ80は、音声認識サーバ82から受信した文字列に対応づけられた指示を、ウェアラブル端末10に送信する。
例えば、サーバ80は、「実績」の指示に対応づけて、「じっせき」の他に、「じいせき」や「じせき」等の文字列を記憶している。これにより、音声認識により得られた文字列が「じいせき」又は「じせき」である場合であっても、「実績」の指示をウェアラブル端末10に送信する。これにより、ユーザ毎の発音の違いや周囲の外乱等により、同じ指示の音声認識結果が異なってしまっても、正しい指示を取得できる可能性を高めることができる。
また、ウェアラブル端末10は、作業者40が点検を開始した点検開始時刻、作業者40が点検を終了した時刻である点検終了時刻、作業者40が点検に要した時間である点検時間を計時する。ウェアラブル端末10は、ウェアラブル端末10自身の内部時計により、点検開始時刻、点検終了時刻、及び点検時間を計時する。ウェアラブル端末10は、作業者40から入力された点検結果をサーバ80に送信する場合、点検開始時刻、点検終了時刻、及び点検時間もサーバ80に送信する。
サーバ80は、点検結果、点検開始時刻、点検終了時刻、及び点検時間を含む点検結果データを外部に提供する場合、ウェアラブル端末10の内部時計がサーバ80に対して時刻合わせされていない状態で点検結果が入力された作業については、点検開始時刻及び点検終了時刻のデータを「−−−−」等の文字列でマスクする。これにより、ウェアラブル端末10の内部時計が時刻合わせしていない状態で取得された時刻情報を、適切な形態で出力することができる。例えば、ウェアラブル端末10は、電源OFF時に内部時計の動作を維持する電池を有しない。この場合、電源を一旦OFFした後に電源ONすると、ウェアラブル端末10の工場出荷時や直前の電源OFF時の固定日時に内部時計がリセットされる。そのため、点検開始時刻及び点検終了時刻については正確な値に得ることはできない。しかし、点検時間については比較的に正確な値を得ることができる。ウェアラブル端末10によれば、ウェアラブル端末10の内部時計がサーバ80に対して時刻合わせされていない状態で点検結果が入力された作業については、点検開始時刻及び点検終了時刻をマスクするので、正確でない値が管理データとして提供されることを抑制することができる。
図2は、ウェアラブル端末10の機能ブロック構成を概略的に示す。ウェアラブル端末10は、表示部12と、撮像部202と、マイク205と、操作部材207と、制御部200と、記憶部210と、通信部290とを備える。
制御部200は、マイクロプロセッサ等の演算装置であってよい。記憶部210は、フラッシュメモリ等の不揮発性の記憶装置やRAM等の揮発性の記憶装置であってよい。記憶部210は、ウェアラブル端末10の動作の各段階を実行させるためのプログラムを格納する。ウェアラブル端末10の機能は主として、制御部200が当該プログラムを実行することにより実現される。プログラムは、記録媒体に記録されて記憶部210に提供される。通信部290は、ウェアラブル端末10におけるネットワーク90を通じた通信機能を担う。
表示部12は、ウェアラブル端末10が作業者40の頭部42に装着された場合に、作業者40の視方向に表示面が対向するように設けられる。撮像部202は、ウェアラブル端末10が作業者40の頭部42に装着された場合に、撮像部202の撮像光軸が作業者40の視方向に沿うように設けられる。
マイク205は、作業者40の音声を取得する。マイク205は、ウェアラブル端末10が作業者40の頭部42に装着された場合に、作業者40の口元近くに移動可能なように、柔軟性を持つ支持部材を介してウェアラブル端末10に取り付けられる。操作部材207は、ボタン等の物理的な部材である。操作部材207は、作業者40からの指示を取得することができる。本実施形態では主として、作業者40が音声により指示する場合を取り上げて説明する。しかし、少なくとも一部の指示を、操作部材207を用いて行うことができる。
制御部200は、計時部204、開始処理部208、表示制御部220、無効化部230、利用頻度取得部232、取消頻度取得部234、作業結果情報生成部240、作業結果出力部248、指示取得部250、音声取得部260、認識結果取得部270、音声認識部272、及び指示特定部280を備える。
音声取得部260は、作業者40の音声を取得する。具体的には、音声取得部260は、マイク205により取得された音声を取得して、音声データを生成する。音声認識部272は、マイク205により取得された音声を認識して文字列を生成する。具体的には、音声認識部272は、音声取得部260が生成した音声データを解析して文字列を生成する。
認識結果取得部270は、作業者40の音声の音声認識によって得られた文字列を取得する。例えば、認識結果取得部270は、音声認識部272に音声データが出力され、音声認識部272による音声認識によって得られた文字列を取得する。通信部290が音声認識サーバ82と通信可能である場合、音声取得部260により生成された音声データが、通信部290及びネットワーク90を通じて外部の音声認識サーバ82に送信される。認識結果取得部270は、音声認識サーバ82による音声認識によって得られた文字列を取得する。
記憶部210は、ウェアラブル端末10に対する指示と複数の文字列とを対応づける対応情報を記憶している。例えば、対応情報は、「じっせき」、「じいせき」、「じせき」等の文字列を、「実績」という指示に対応づける。指示特定部280は、対応情報によって認識結果取得部270が取得した文字列に対応づけられている指示を、ウェアラブル端末10に対する指示として特定する。
指示取得部250は、サーバ80と通信可能である場合に、マイク205により取得された音声をサーバ80に送信して、サーバ80において特定された指示をサーバ80から受信する。指示取得部250は、サーバ80と通信可能でない場合に、記憶部210が記憶している対応情報によって音声認識部272が生成した文字列又は音声認識サーバ82から取得した文字列に対応づけられている指示を、ウェアラブル端末10に対する指示として取得する。
ウェアラブル端末10は、複数の点検項目のそれぞれに関連づけられた画像を作業者40に提供する。例えば、表示制御部220は、点検項目で行う点検内容を示す画像を、表示部12に表示させる。具体的には、表示制御部220は、「型番を入力」、「キズ・欠けがないか」等の、点検内容を説明する文字を含む画面を表示部12に表示させる。「型番を入力」、「キズ・欠けがないか」等は、点検項目の一例である。
記憶部210は、複数の点検項目のそれぞれの点検項目に対応づけて、それぞれの点検項目に関連づけられた画像が作業者40に提供されているときに入力されるべき指示を複数の文字列に対応づける対応情報を記憶する。指示特定部280は、ウェアラブル端末10を通じて作業者40に提供されている画像が関連づけられた点検項目に対応づけて記憶部210が記憶している対応情報によって認識結果取得部270が取得した文字列と対応づけられている指示を、ウェアラブル端末10に対する指示として特定する。これにより、指示特定部280は、現在の点検項目において有効な指示のみを特定すればよいので、指示が誤特定される確率を低減することができる。
表示制御部220は、指示の一覧を提示する指示に応じて、ウェアラブル端末10を通じて作業者40に提供されている画像が関連づけられた点検項目に対応づけて対応情報によって対応づけられている複数の指示の一覧を、作業者40に提示する。これにより、作業者40に、現在の作業項目において有効な指示の一覧を提示することができる。
利用頻度取得部232は、複数の点検項目のそれぞれについて、それぞれの点検項目に関連づけられた画像が作業者40に提供されている場合において複数の指示が使用された頻度を取得する。表示制御部220は、複数の指示の一覧を使用頻度に応じた順序で作業者40に表示する。これにより、作業者40は、頻繁に使用される指示を早く発見することができる。
取消頻度取得部234は、対応情報によって指示に対応づけられている複数の文字列のそれぞれについて、指示特定部280が特定した指示が作業者40によって取り消された頻度を取得する。無効化部230は、対応情報において、取り消された頻度が予め定められた値以上の文字列と指示との対応づけを無効にする。例えば、取消頻度取得部234は、作業者40からの「ちせき」と認識された音声指示に応じて「実績」の処理を実行した後に、すぐに「もどる」という音声指示を取得した場合に、指示が取消されたと判断して、「ちせき」に対応する取消回数をカウントアップする。
以上に説明したように、ウェアラブル端末10によれば、作業者が発する言葉のアクセントの違いや周囲の騒音等によって、正規の文字列の認識結果が得られなかった場合でも、認識結果を比較的に高い確率で正規の指示に変換することができる。
次に、点検結果が入力された場合の動作について説明する。表示制御部220がある作業項目の画像を表示部12に最初に表示させた場合、記憶部210は計時部204で計時される現在時刻を、点検開始時刻として記憶部210に記憶する。点検開始時刻は、作業に関する画像が前記ウェアラブル端末10で表示されたときにウェアラブル端末10で計時された第1の時刻の一例である。ここで、指示取得部250により、点検結果の入力する指示を取得した場合、記憶部210は、計時部204で計時される現在時刻を、点検終了時刻として記憶部210に記憶する。点検終了時刻は、点検結果をウェアラブル端末10が作業者40から取得したときにウェアラブル端末10で計時された第2の時刻の一例である。作業結果情報生成部240は、点検開始時刻と、点検終了時刻と、点検開始時刻から点検終了時刻までの時間である点検時間と、入力された点検結果を含む点検結果情報を生成して記憶部210に記憶する。記憶部210は、点検結果情報を記憶する作業結果記憶部として機能する。通信部290は、計時部204が生成した点検結果情報を、サーバ80に送信する。
点検結果情報は、複数の作業項目のそれぞれについて生成される。すなわち、点検結果情報は、複数の作業項目のそれぞれについて、それぞれの作業項目に関する画像がウェアラブル端末10で表示されたときにウェアラブル端末10で計時された点検開始時刻と、それぞれの点検項目の点検結果をウェアラブル端末10が作業者40から取得したときにウェアラブル端末10で計時された点検終了時刻と、点検開始時刻から点検終了時刻までの時間である点検時間と、点検結果とを含む。点検時間は、作業項目に関する画像がウェアラブル端末10で表示されてからウェアラブル端末10が作業者40から点検結果を取得するまでの点検時間を示す。
複数の作業項目の作業を行う場合、一つの作業項目の点検結果が入力されると、表示制御部220は、次の作業項目に関する画像を表示する。これにより、ウェアラブル端末10は、作業者40の音声によって点検結果が入力された場合に、点検開始時刻から点検終了時刻までの時間を取得し、点検結果情報をサーバ80に送信し、点検結果が入力された作業の次の作業に関する画像を表示する。これにより、次の作業項目の点検時間の計時が開始される。これにより、作業者40は複数の作業項目の作業を効率的に行いながら、点検時間を管理する情報をサーバ80に蓄積することができる。
なお、開始処理部208は、ウェアラブル端末10の電源が投入される毎に、ウェアラブル端末10に予め設定されている固定時刻から計時を開始する。また、開始処理部208は、作業者40から入力される認証情報をサーバ80に送信し、サーバ80により作業者40が認証された場合に、ウェアラブル端末10において計時される時刻をサーバ80で管理されている現在時刻に合わせる。固定時刻とは、例えば、1970年1月1日0時0分0秒等の基準日時であってよい。固定時刻とは、ウェアラブル端末10の工場出荷時に設定された時刻であってよい。固定時刻とは、ウェアラブル端末10が最後に電源OFFされたときの時刻であってよい。
なお、作業結果出力部248は、作業者40から点検結果が入力された場合に、サーバ80により作業者40が認証され、かつ、サーバ80と通信可能であることを条件として、点検結果情報をサーバ80に出力する。一方、作業結果出力部248は、サーバ80により作業者40が認証されていない場合又はサーバ80と通信可能でない場合には、点検結果情報を記憶部210に出力し、点検結果情報が記憶部210に出力された後、サーバ80により作業者40が認証された場合に、記憶部210に記憶されている点検結果情報をサーバ80に送信する。
図3は、サーバ80の機能ブロック構成を概略的に示す。サーバ80は、制御部300と、記憶部310と、通信部390とを備える。
制御部300は、マイクロプロセッサ等の演算装置であってよい。通信部390は、サーバ80におけるネットワーク90を通じた通信機能を担う。記憶部310は、フラッシュメモリやハードディス装置等の不揮発性の記憶装置を含む。記憶部310は、RAM等の揮発性の記憶装置を含む。サーバ80用のプログラムは、記録媒体に記録されて記憶部210に提供される。
制御部300は、時刻管理部304、認証制御部320、無効化部330、利用頻度取得部332、取消頻度取得部334、結果出力部340、判断部342、合計時間算出部344、音声取得部360、認識結果取得部370、指示特定部380、集計部392、選択部394を備える。
上述したように、ウェアラブル端末10において、作業刻開始時刻、点検終了時刻及び点検時間と、点検結果とを含む点検結果情報が、ウェアラブル端末10から送信される。通信部390は、ウェアラブル端末10から送信された点検結果情報を受信する。通信部390は、点検結果情報を受信する作業結果受信部として機能する。通信部390が受信した点検結果情報は、記憶部310に記憶される。
結果出力部340は、点検結果データの送信を要求された場合、点検開始時刻及び点検終了時刻がサーバ80で管理されている時刻と整合する場合に、点検開始時刻及び点検終了時刻、点検時間、及び点検結果を含む点検結果データを生成する。一方、結果出力部340は、点検開始時刻又は点検終了時刻がサーバ80で管理されている時刻と整合しない場合に、点検開始時刻及び点検終了時刻をマスクした点検結果データを生成する。例えば、点検開始時刻及び点検終了時刻を「−−−−」にした点検結果データを生成する。通信部390は、結果出力部340が生成した点検結果データを、点検結果データの要求先に送信する。
時刻管理部304は、現在時刻を管理する。時刻管理部304は、サーバ80から受信した基準時刻に基づいてシステム時計を合わせる。認証制御部320は、ウェアラブル端末10から受信した作業者40の認証情報に基づいて作業者40を認証するとともに、ウェアラブル端末10において計時される時刻を現在時刻に合わせる時刻合わせをウェアラブル端末10に実行させる。
判断部342は、点検開始時刻又は点検終了時刻と時刻管理部が管理している現在時刻との差が予め定められた値より大きい場合に、点検開始時刻又は点検終了時刻がサーバ80で管理されている時刻と整合していないと判断する。例えば、判断部342は、点検開始時刻又は点検終了時刻と、サーバ80で管理されている時刻との差が予め定められた値を超える場合に、点検開始時刻又は点検終了時刻がサーバ80で管理されている時刻と整合していないと判断する。例えば、ウェアラブル端末10の電源ON後、ウェアラブル端末10の時刻がサーバ80と時刻合わせされない場合、ウェアラブル端末10は、1970年1月1日0時0分0秒を基準時刻とし、基準時刻からの経過時間の初期値を0にリセットして、時刻を計時する。この場合、点検開始時刻又は点検終了時刻と時刻管理部304が管理している現在時刻との差が大きくなるため、現在時刻と整合していないと判断される。
合計時間算出部344は、作業対象毎に、作業対象に設定された複数の作業項目にわたる時間の合計値を算出する。通信部390は、作業対象に対応づけて、点検開始時刻、点検終了時刻、点検時間及び点検結果に加えて、合計時間算出部が算出した合計値を含む点検結果データを、点検結果データの要求元に送信する。
次に、サーバ80における音声認識に関する処理について説明する。音声取得部360は、通信部390が受信した、ウェアラブル端末10から送信された音声データを取得する。認識結果取得部370及び指示特定部380は、それぞれウェアラブル端末10における認識結果取得部270及び指示特定部380に対応する機能ブロックである。
具体的には、認識結果取得部370は、作業者40の音声の音声認識によって得られた文字列を取得する。例えば、音声取得部360が取得した音声データが通信部290及びネットワーク90を通じて外部の音声認識サーバ82に送信され、音声認識サーバ82が音声認識することにより得られた文字列を取得する。
記憶部310は、ウェアラブル端末10に対する指示と複数の文字列とを対応づける対応情報を記憶している。例えば、対応情報は、「じっせき」、「じいせき」、「じせき」等の文字列を、「実績」という指示に対応づける。記憶部310は、対応情報を記憶する対応情報記憶部として機能する。指示特定部380は、対応情報によって認識結果取得部270が取得した文字列に対応づけられている指示を、ウェアラブル端末10に対する指示として特定する。指示特定部380が特定した指示を示す情報は、通信部390及びネットワーク90を通じて、ウェアラブル端末10に送信される。
利用頻度取得部332、取消頻度取得部334、及び無効化部330は、それぞれウェアラブル端末10における利用頻度取得部232、取消頻度取得部234、及び無効化部230に対応する機能ブロックである。すなわち、利用頻度取得部332は、複数の点検項目のそれぞれについて、それぞれの点検項目に関連づけられた画像が作業者40に提供されている場合において複数の指示が使用された頻度を取得する。
取消頻度取得部334は、対応情報によって指示に対応づけられている複数の文字列のそれぞれについて、指示特定部380が特定した指示が作業者40によって取り消された頻度を取得する。無効化部330は、対応情報において、取り消された頻度が予め定められた値以上の文字列と指示との対応づけを無効にする。例えば、取消頻度取得部334は、作業者40からの「ちせき」と認識された音声指示に応じて「実績」の処理を実行した後に、すぐに「もどる」という音声指示を取得した場合に、指示が取消されたと判断して、「ちせき」に対応する取消回数をカウントアップする。
ここで、サーバ80の記憶部310及びウェアラブル端末10の記憶部210に記憶される対応情報の生成方法について説明する。集計部392は、複数の人による指示の音声の音声認識により得られた複数の文字列を取得し、当該複数の文字列のそれぞれの文字列として音声が認識された人数を文字列毎に集計する。選択部394は、集計部392によって集計された人数に基づいて、複数の文字列の中から、対応情報において指示に対応づけられるべき文字列を選択する。これにより、様々な人の発声に対応することができる。対応情報により指示に対応づける文字列の選択方法の具体例については、図12等に関連して説明する。
以上に説明したウェアラブル端末10及びサーバ80によれば、音声認識結果としての複数の文字列と指示とを対応づける対応情報を用いて指示を特定するので、ユーザ毎の発音の違いや周囲の外乱等の影響を低減することができる。また、サーバ80が点検結果データを提供する場合、ウェアラブル端末10とサーバ80とが時刻合わせされていない状態で点検結果が入力された作業については、点検開始時刻及び点検終了時刻のデータを「−−−−」等の文字列でマスクするので、正確でない値が管理データとして提供されることを抑制することができる。
図4は、ウェアラブル端末10による点検支援処理の全体を示すフローチャートである。本フローチャートの処理は、主として、制御部200がウェアラブル端末10の各部を制御することにより実現される。
S402において、ウェアラブル端末10が電源ONされると、開始処理部208は、計時部204に固定時刻から計時を開始させる。
S404において、表示制御部220は、ログイン画面を表示部12に表示させる。ログイン画面が表示されている状態でユーザID等の認証情報が入力されると、S406において、開始処理部208は、認証情報を用いて認証する。S406の処理の詳細については、図6に関連して説明する。
ログインが完了すると、S410において、点検対象の場所、設備、及び部位を取得する。場所、設備、及び部位の指示は、作業者40の音声により入力される。続いて、S412において、ウェアラブル端末10は、点検項目リストを設定する。例えば、ウェアラブル端末10は、サーバ80と通信可能な場合、S410で取得した場所、設備、及び部位を示す情報をサーバ80に送信して、サーバ80から1以上の点検項目を含む点検項目リストを取得する。サーバ80と通信可能でない場合、S410で取得した場所、設備、及び部位を示す情報に対応づけて記憶部210が記憶している点検項目リストを、記憶部210から読み出す。
S414において、作業者40の点検を支援するための処理を行う。S414の具体的な処理については後述する。
図5は、ログイン画面500の一例を示す。ログイン画面500は、音声で入力する内容を示すオブジェクト510と、音声入力が可能であるか否かを示すオブジェクト580を含む。表示制御部220は、音声入力が可能である場合に、オブジェクト580の外枠の色を予め定められた第1の色で表示させる。表示制御部220は、例えば、音声認識中である場合等、新たな音声入力が可能でない場合に、オブジェクト580の外枠の色を予め定められた第2の色で表示させる。表示制御部220は、音声入力が可能である場合において、音声が入力されると、認識された文字を枠内に表示させる。
図6は、ウェアラブル端末10によるログイン処理を示すフローチャートである。本フローチャートの処理は、主として、制御部200がウェアラブル端末10の各部を制御することにより実現される。本フローチャートの処理は、図4のS406の処理に適用することができる。
S602において、制御部200は認証情報を取得する。例えば、作業者40は、図5に示すログイン画面が表示されている状態で取得されたユーザの音声を認識することにより、認証情報を取得する。なお、制御部200は、撮像部202で撮像された画像から認証情報を取得してよい。例えば、ウェアラブル端末10を利用可能な作業者40には、認証情報をコード化したQRコード(登録商標)が印刷されたログイン証が配布される。作業者40がログイン証を撮像部202で撮像すると、制御部200は、ログイン証の画像から抽出したコード化情報を復号して、認証情報を取得してよい。
S604において、開始処理部208は、通信部290を通じて認証情報をサーバ80に送信する。開始処理部208は、S606において、サーバ80により認証されたか否かを判断する。サーバ80により認証された場合、S608において、開始処理部208は、計時部204が計時する時刻をサーバ80の現在時刻に合わせて、図4のS410に進む。なお、サーバ80により認証された状態のことを、「オンライン状態」と呼ぶ場合がある。
S606において、サーバ80により認証されなかった場合、S610に進む。サーバ80により認証されなかった場合とは、サーバ80から作業者40を認証できない旨が通知された場合や、ウェアラブル端末10がサーバ80と通信可能でない場合を含む。S610において、開始処理部208は、記憶部210に記憶されている参照情報と認証情報とを照合する。記憶部210の参照情報と認証情報とを照合することにより作業者40を認証した場合、図4のS410に進む。なお、サーバ80により認証されず、記憶部210の参照情報と認証情報との照合により認証された状態のことを、「オフライン状態」と呼ぶ場合がある。参照情報と認証情報とを照合することにより作業者40を認証できなかった場合、図4のS404に進む。
図7は、ウェアラブル端末10による点検支援処理を示すフローチャートである。本フローチャートの処理は、主として、制御部200がウェアラブル端末10の各部を制御することにより実現される。本フローチャートの処理は、図4のS414の処理に適用することができる。
S702において、表示制御部220は点検開始画面を表示部12に表示させ、制御部200は「点検開始」の指示を取得するまで待機する(S704)。
「点検開始」が指示されると、S706において、作業結果情報生成部240は、点検報告用の開始時刻を記憶部210に記憶する。S708において、表示制御部220は、最初の点検項目の画面を表示させる。点検項目の画面については後述する。
S720において、指示取得部250は作業者40の指示を取得する。上述したように、作業者40の音声による指示は、サーバ80又は指示特定部280により特定される。S720の処理については、図10に関連して説明する。
本フローチャートでは、S720で取得した指示として、点検結果の入力指示と、コマンド一覧を表示するための「コマンド」指示と、コマンド一覧を非表示にするための「閉じる」指示と、他の指示又は対応する指示がなかった場合を取り上げて説明する。
S720で取得した指示が点検結果の入力指示であった場合、S722において現在時刻を取得し、S724において、作業結果情報生成部240が生成した点検結果情報を、記憶部210又はサーバ80に出力する。
続いて、S726において、点検項目リストに次の点検項目が存在するか否かを判断する。次の点検項目が存在する場合、S708に処理を移行する。次の点検項目が存在しない場合、S728において点検報告用の終了時刻を記憶して、本フローチャートの処理を終了する。
S720で取得した指示が「コマンド」の場合、S730において、音声コマンド一覧を表示して、S720に処理を移行する。音声コマンド一覧については、図9に関連して説明する。S720で取得した指示が「閉じる」の場合、S732において、音声コマンド一覧の表示を閉じて、S720に処理を移行する。S720で取得した指示が点検結果の入力指示、「コマンド」及び「閉じる」のいずれでない場合や、作業者40の音声の認識結果に対応する指示がなかった場合、S734において、他の指示に対応する処理、又は、対応する指示がなかった場合の予め定められた処理を実行して、S720に処理を移行する。
図8は、点検画面800の一例を示す。点検画面800は、点検結果を入力する内容を示すオブジェクト810と、本点検項目において最も良く使用される3つの指示を示すオブジェクト820を含む。
点検画面800は、ケーブルの型番を点検するための画面である。点検画面800においては、数字、アルファベット及び記号を、点検結果として入力することができる。アルファベットの小文字は、アルファベットの文字の直前に「こもじ」を付けることで音声入力可能である。例えば、「xYz」は、「こもじえっくすわいこもじぜっと」と発声することで入力可能である。すなわち、指示特定部280は、認識結果に「こもじ」が含まれている場合、「こもじ」に続く文字列が表すアルファベットを小文字に変換することで、指示された文字列を特定する。なお、日本語の発音では数字の「9」とアルファベットの「Q」を識別しにくいため、アルファベットの「Q」には「けべっく」を対応づける。すなわち、指示特定部280は、認識結果の「けべっく」を「Q」に変換する。
図9は、音声コマンド一覧が表示されている状態の点検画面900の一例を示す。点検画面900は、音声コマンド一覧を示すオブジェクト910を含む。表示制御部220は、オブジェクト910を点検画面800上にオーバーレイ表示することにより、音声コマンド一覧を表示する。
オブジェクト910は、点検画面800において入力可能な指示の一覧を含む。表示制御部220は、オブジェクト910において指示を表示する順番を、利用頻度が高い順に並べる。例えば、画面に向かって左側に位置する指示が、画面に向かって右側に位置する指示より利用頻度が高くなるように並べてよい。左右方向に同じ位置に指示については、画面に向かって上側に位置する指示が、画面に向かって下側に位置する指示より利用頻度が高くなるように並べてよい。
オブジェクト910が表示されている状態で「閉じる」の指示があった場合、表示制御部220は、オブジェクト910の表示を終了する。なお、オブジェクト910が表示されている状態でも、指示を入力することができる。例えば、オブジェクト910が表示されている状態で、作業者40が「じっせき」と発声すると、過去実績を表示する画面へと遷移する。
図10は、ウェアラブル端末10において作業者40から音声で指示を取得する処理を表すフローチャートである。本フローチャートの処理は、主として、制御部200がウェアラブル端末10の各部を制御することにより実現される。本フローチャートの処理は、図7のS720の処理に適用することができる。
S1002において、音声取得部260は、マイク205で取得された音声データを生成する。S1004において、指示取得部250は、ウェアラブル端末10がオンライン状態かつサーバ80と通信可能な状態であるか否かを判断する。ウェアラブル端末10がオンライン状態かつサーバ80と通信可能である場合、通信部290は、音声データをサーバ80に送信する。サーバ80において、音声取得部360、認識結果取得部370、指示特定部380により作業者40の指示が特定され、特定された指示を示す情報がサーバ80からウェアラブル端末10に送信される。サーバ80が作業者40の指示を特定する処理については、図11に関連して後述する。S1008において、指示取得部250は、通信部290を通じて、サーバ80で特定された指示を取得し、本フローチャートの処理を終了する。
S1004において、ウェアラブル端末10がオフライン状態である場合、又は、ウェアラブル端末10がサーバ80と通信不可能である場合、S1010において、ウェアラブル端末10において作業者40の指示を特定し、本フローチャートの処理を終了する。S1010では、上述したように、音声認識部272、認識結果取得部270、及び指示特定部280により、作業者40の指示が特定される。
図11は、対応情報として記憶される情報をテーブル形式で示す。図11は、「実績」の指示に対応づけられた対応情報である。対応情報は指示毎に用意される。対応情報は、認識文字列と、認識回数と、取消回数と、有効フラグとを互いに対応づける。
認識文字列は、音声認識により得られた文字列に該当する。認識回数は、音声認識によって認識文字列の文字列が得られた回数を表す。例えば、認識回数は、音声認識サーバ82等によって「じっせき」の文字列として認識される毎にインクリメントされる。
取消回数は、認識文字列の文字列が認識された後に対応する指示が取り消された回数を表す。例えば、音声認識サーバ82等によって「ちせき」の文字列として認識されてから予め定められた時間内に「戻る」の指示が入力された場合に、「ちせき」に基づく「実績」の指示が取り消されたと判断して、「ちせき」に対応する取消回数をインクリメントする。
有効フラグは、認識文字列と指示とが対応づけられているか否かを示す。「有効」は、認識文字列と指示とが対応づけられていることを示し、「無効」は、認識文字列と指示とが対応づけられていないことを示す。無効化部230は、認識回数及び取消回数に基づく指示の取消頻度が予め定められた値を以上となった場合に、有効フラグを「有効」から「無効」に切り換える。
図12は、対応情報を生成するための事前学習データの一例を示す。図12は、「実績」の指示に対応づけられた事前学習データである。「実績」の指示についての対応情報は、多数の人が「実績」を発声したときの音声の認識結果を学習することにより、生成される。
図12において、認識文字列は、多数の人が「実績」と発声したときに音声認識サーバ82等により認識された文字列を表す。人数は、認識文字列の文字列として認識された音声を発声した人の数を表す。人数は、事前学習を行う場合に、集計部392により集計される。選択部394は、事前学習データに基づいて、対応情報において「実績」の指示に対応づける認識文字列を選択する。具体的には、選択部394は、人数が多い順に認識文字列を選択する。選択部394は、選択した認識文字列の人数の合計が全人数の95%を上回るまで認識文字列を選択する。選択部394が選択した認識文字列は、対応情報により、「実績」の指示に対応づけられる。具体的には、図11に示されるように、「じっせき」から「ちせき」までの認識文字列が選択されて「実績」の指示との対応づけが有効となる。一方、「じせいき」の認識文字列は「実績」の指示との対応づけは無効とされる。
図13は、サーバ80において作業者40の指示を特定する処理を表すフローチャートである。本フローチャートの処理は、主として、制御部300がサーバ80の各部を制御することにより実現される。
S1302において、音声取得部360は、通信部390を通じて、ウェアラブル端末10から受信した音声データを取得すると、S1304において、通信部390は、音声認識サーバ82に音声データを送信する。S1306において、認識結果取得部370は、通信部390を介して、音声認識サーバ82で認識された文字列を取得する。
S1310において、指示特定部380は、各指示の対応情報を参照して、有効フラグが「有効」である認識文字列の中に、S1306で取得した文字列が存在する対応情報が発見されたか否かを判断する。対応情報が発見された場合、S1312において、指示特定部380は、発見された対応情報に対応づけられている指示を、作業者40の指示として特定する。
S1314において、対応情報の更新処理を行う。S1314の処理については図14に関連して説明する。
S1316において、通信部390は、S1312で特定した指示を示す情報を、ウェアラブル端末10に送信する。S1310において、対応情報が発見されなかった場合、S1318において、通信部390は、対応する指示がなかったことを示す情報をウェアラブル端末10に送信する。
図14は、対応情報の更新処理を表すフローチャートである。本フローチャートの処理は、主として、制御部300がサーバ80の各部を制御することにより実現される。本フローチャートの処理は、図13のS1314の処理に適用することができる。
S1402において、無効化部330は、特定された指示に対応する対応情報において、認識文字列に対応づけられた認識回数の値をインクリメントする。S1404において、S1312で特定した作業者40の指示が、直前の指示を取り消す指示であるか否かを判断する。例えば、S1312で特定された作業者40の指示が「戻る」であり、かつ、直前の指示を行った時刻からの経過時間が予め定められた値より短い場合に、直前の指示を取り消す指示であると判断する。直前の指示を取り消す指示でなかった場合は、本フローチャートの処理を終了する。直前の指示を取り消す指示であった場合、S1406において、無効化部330は、直前の指示の対応情報において、直前の指示における認識文字列に対応づけられている取消回数をインクリメントする。
S1408において、取消頻度取得部334は利用頻度及び取消頻度に基づいて取消頻度を算出し、無効化部330は、取消頻度が予め定められた閾値以上であるか否かを判断する。取消頻度が予め定められた閾値未満の場合は、本フローチャートの処理を終了する。取消頻度が予め定められた閾値以上の場合、S1410において、無効化部330は、直前の指示の認識文字列の有効フラグを「無効」に切り換える。S1412において、無効化部330は、有効フラグが「無効」であった認識文字列のうち、事前学習において人数が最も多い認識文字列の有効フラグを「有効」に切り換える。例えば、「実績」に対応づけられた対応情報において、「ちせき」の有効フラグを「無効」に切り換える場合、「じせいき」の有効フラグを「有効」に切り換える。
図11から図14に関連して説明したように、対応情報により、音声認識により得られる可能性がある複数の文字列を一つの指示に対応づけるので、ユーザ毎の発音の違いや周囲の外乱等により、指示が認識されない確率を低減することができる。ウェアラブル端末10においては、複数の作業項目を順次に表示して指示を音声で入力するが、一つの作業項目において入力可能な指示の数は比較的少数にすることができる。各指示に複数の文字列を対応づける手法は、入力可能な指示の数が少ないシステムにおいて、特に有効である。
なお、図11から図14に関連して、サーバ80で指示を特定する場合のサーバ80が行う処理を説明した。図11から図14に関連して説明した処理のうちの少なくとも一部の理を、ウェアラブル端末10において指示を特定する場合の処理に適用できる。例えば、図10のS1010の処理に適用できる。
図15は、サーバ80がウェアラブル端末10から収集した点検結果データに基づく点検結果の表示画面の一例を示す。図15の画面は、例えば、作業者40の点検を管理する管理者のコンピュータ端末に表示される。
ウェアラブル端末10からサーバ80に送信される点検結果情報には、点検結果情報の送信者を識別する情報と、報告用の点検開始時刻及び報告用の点検終了時刻と、点検対象の場所、設備、部位を識別する情報と、複数の点検項目を識別する情報と、各点検項目の点検結果、点検開始時刻、点検終了時刻、及び点検時間とが含まれる。結果出力部340は、点検結果情報と、記憶部310に記憶されている点検項目の詳細情報から、点検結果データを生成する。
図15は、ウェアラブル端末10がオンライン状態、かつ、サーバ80と通信可能な状態で取得した点検結果の点検結果情報から生成された点検結果の表示画面である。図15の「作業項目表示時刻」、「作結果入力時刻」、及び「作業時間」は、それぞれ点検開始時刻、点検終了時刻、及び点検時間を表す。「作業時間合計」は、合計時間算出部344によって点検時間を合計した時間を表す。ウェアラブル端末10はオンライン状態で点検結果を取得しているので、結果出力部340は、点検開始時刻及び点検終了時刻の時間をマスクせずに点検結果データに含める。よって、「作業項目表示時刻」及び「作結果入力時刻」にはウェアラブル端末10で計時された時刻が表示される。
図16は、点検結果データに基づく点検結果の表示画面の他の一例を示す。図16の表示画面は、ウェアラブル端末10がオフライン状態で取得した点検結果の点検結果情報から生成された点検結果の表示画面である点で、図15の表示画面とは異なる。ウェアラブル端末10はオフライン状態で点検結果を取得しているので、結果出力部340は、点検結果データにおける点検開始時刻及び点検終了時刻の時間をマスクする。そのため、「作業項目表示時刻」及び「作結果入力時刻」には「−−−−」が表示される。一方、「作業時間」及び「作業時間合計」にはウェアラブル端末10で計時された点検時間に基づく正確な時間が表示される。そのため、管理者は作業者40が点検に要した時間をきちんと把握することができる。
図17は、ウェアラブル端末10からダウンロードされる、各点検項目の点検結果データの一例を示す。図18は、ウェアラブル端末10からダウンロードされる、点検対象毎の点検結果データの一例を示す。
各点検結果データは、例えばCSV形式のテキストデータとしてダウンロードすることができる。図17及び図18は、ウェアラブル端末10がオンライン状態、かつ、サーバ80と通信可能な状態で取得した点検結果の点検結果情報から生成された点検結果データを示す。図17の「作業項目表示時刻」、「作結果入力時刻」、及び「作業時間」は、それぞれ点検開始時刻、点検終了時刻、及び点検時間を表す。図18の「作業時間合計」は、合計時間算出部344によって点検時間を合計した時間を表す。図18の「作業開始時刻」及び「作業終了時刻」は、報告用の点検開始時刻及び報告用の点検終了時刻を示す。ウェアラブル端末10はオンライン状態で点検結果を取得している。そのため、結果出力部340は、各時刻をマスクせずに点検結果データに含める。
図19は、ウェアラブル端末10からダウンロードされる、点検項目毎の点検結果データの他の一例を示す。図20は、ウェアラブル端末10からダウンロードされる、点検対象毎の点検結果データの他の一例を示す。
各点検結果データは、例えばCSV形式のテキストデータとしてダウンロードすることができる。図19及び図20は、ウェアラブル端末10がオフライン状態で取得した点検結果の点検結果情報から生成された点検結果データである点で、図17及び図18の点検結果データとは異なる。ウェアラブル端末10はオフライン状態で点検結果を取得している。そのため、結果出力部340は、点検結果データに含まれる各時刻を「−−−−」でマスクする。一方、「作業時間」及び「作業時間合計」には、ウェアラブル端末10で計時された点検時間に基づく正確な時間が含まれる。そのため、管理者は作業者40が点検に要した時間をきちんと把握することができる。
以上において、ウェアラブル端末10が、点検項目毎に点検開始時刻、点検終了時刻、及び点検時間を記憶する形態を主として説明した。しかし、点検開始時刻、点検終了時刻、及び点検時間を示す情報を記憶するために、点検開始時刻、点検終了時刻、及び点検時間の全てが必要ではない。例えば、点検開始時刻及び点検終了時刻の少なくとも一方と、点検時間とを記憶すれば、点検開始時刻、点検終了時刻、及び点検時間を表すことができる。他にも、点検開始時刻及び点検終了時刻を記憶すれば、点検開始時刻、点検終了時刻、及び点検時間を表すことができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 ウェアラブル端末
11 本体部
12 表示部
40 作業者
42 頭部
80 サーバ
82 音声認識サーバ
90 ネットワーク
100 作業支援システム
200 制御部
202 撮像部
204 計時部
205 マイク
207 操作部材
208 開始処理部
210 記憶部
220 表示制御部
230 無効化部
232 利用頻度取得部
234 取消頻度取得部
240 作業結果情報生成部
248 作業結果出力部
250 指示取得部
260 音声取得部
270 認識結果取得部
272 音声認識部
280 指示特定部
290 通信部
300 制御部
304 時刻管理部
310 記憶部
320 認証制御部
330 無効化部
332 利用頻度取得部
334 取消頻度取得部
340 結果出力部
342 判断部
344 合計時間算出部
360 音声取得部
370 認識結果取得部
380 指示特定部
390 通信部
392 集計部
394 選択部
500 ログイン画面
510 オブジェクト
580 オブジェクト
800 点検画面
810 オブジェクト
820 オブジェクト
900 点検画面
910 オブジェクト

Claims (12)

  1. 作業者の頭部に装着されるウェアラブル端末を通じて、作業に関する画像を前記作業者に提供するためのサーバであって、
    前記作業に関する画像が前記ウェアラブル端末で表示されたときに前記ウェアラブル端末で計時された第1の時刻及び前記作業の作業結果を前記ウェアラブル端末が前記作業者から取得したときに前記ウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、前記画像が前記ウェアラブル端末で表示されてから前記ウェアラブル端末が前記作業者から前記作業結果を取得するまでの時間を示す情報と、前記作業結果とを含む作業結果情報を、前記ウェアラブル端末から受信する作業結果受信部と、
    前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合する場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻、前記時間、及び前記作業結果を出力し、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合しない場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻をマスクして、前記時間及び前記作業結果を出力する結果出力部と
    を備えるサーバ。
  2. 前記作業は複数の作業項目を含み、
    前記作業結果情報は、前記複数の作業項目のそれぞれについて、それぞれの作業項目に関する画像が前記ウェアラブル端末で表示されたときに前記ウェアラブル端末で計時された第1の時刻及びそれぞれの作業項目の作業結果を前記ウェアラブル端末が前記作業者から取得したときに前記ウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、それぞれの作業項目に関する画像が前記ウェアラブル端末で表示されてから前記ウェアラブル端末が前記作業者から前記作業結果を取得するまでの時間を示す情報と、前記作業結果とを含み、
    前記結果出力部は、
    前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合する作業項目について、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻、前記時間、及び前記作業結果を出力し、
    前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合しない作業項目について、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻をマスクして、前記時間及び前記作業結果を出力する
    請求項1に記載のサーバ。
  3. 前記作業結果情報は、前記複数の作業項目のそれぞれについて、それぞれの作業項目に関する画像が前記ウェアラブル端末で表示されたときに前記ウェアラブル端末で計時された第1の時刻を示す情報と、それぞれの作業項目の作業結果を前記ウェアラブル端末が前記作業者から取得したときに前記ウェアラブル端末で計時された第2の時刻を示す情報と、前記第1の時刻から前記第2の時刻までの時間を示す情報と、前記作業結果とを含み、
    前記結果出力部は、
    前記第1の時刻及び前記第2の時刻が前記サーバで管理されている時刻と整合する前記作業項目について、前記第1の時刻、前記第2の時刻、前記時間、及び前記作業結果を出力し、
    前記第1の時刻及び前記第2の時刻の少なくともいずれかの時刻が前記サーバで管理されている時刻と整合しない前記作業項目について、前記第1の時刻及び前記第2の時刻をマスクして、前記時間及び前記作業結果を出力する
    請求項2に記載のサーバ。
  4. 前記複数の作業項目は作業対象毎に設定され、
    前記サーバは、
    前記作業対象毎に、前記作業対象に設定された前記複数の作業項目にわたる前記時間の合計値を算出する合計時間算出部
    をさらに備え、
    前記結果出力部は、前記作業対象に対応づけて、前記合計時間算出部が算出した合計値をさらに出力する
    請求項2又は3に記載のサーバ。
  5. 現在時刻を管理する時刻管理部と、
    前記ウェアラブル端末から受信した前記作業者の認証情報に基づいて前記作業者を認証するとともに、前記ウェアラブル端末において計時される時刻を前記現在時刻に合わせる時刻合わせを前記ウェアラブル端末に実行させる時刻制御部
    をさらに備える請求項1から4のいずれか一項に記載のサーバ。
  6. 前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻と前記現在時刻との差が予め定められた値より大きい場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合していないと判断する判断部
    をさらに備える請求項5に記載のサーバ。
  7. 請求項1から6のいずれか一項に記載のサーバと、
    前記ウェアラブル端末と
    を備えるシステム。
  8. 前記ウェアラブル端末は、
    前記作業者の音声を取得する音声取得部
    をさらに備え、
    前記音声によって前記作業結果が入力された場合に、前記第1の時刻から前記第2の時刻までの時間を取得し、前記作業結果情報を前記サーバに送信し、前記作業結果が入力された作業の次の作業に関する画像を表示する
    請求項7に記載のシステム。
  9. 前記ウェアラブル端末は、
    前記ウェアラブル端末の電源が投入される毎に、前記ウェアラブル端末に予め設定されている固定時刻から計時を開始し、前記サーバにより前記作業者が認証された場合に、前記ウェアラブル端末において計時される時刻を前記サーバで管理されている現在時刻に合わせる開始処理部
    を備える請求項7又は8に記載のシステム。
  10. 前記ウェアラブル端末は、
    前記作業結果情報を記憶する作業結果記憶部
    をさらに備え、
    前記作業者から前記作業結果が入力された場合に、前記サーバにより前記作業者が認証され、かつ、前記サーバと通信可能であることを条件として、前記作業結果情報を前記サーバに出力する作業結果出力部
    をさらに備え、
    前記作業結果出力部は、前記サーバにより前記作業者が認証されていない場合又は前記サーバと通信可能でない場合には、前記作業結果情報を前記作業結果記憶部に出力し、前記作業結果情報が前記作業結果記憶部に出力された後、前記サーバにより前記作業者が認証された場合に、前記作業結果記憶部に記憶されている前記作業結果情報を前記サーバに送信する
    請求項9に記載のシステム。
  11. 作業者の頭部に装着されるウェアラブル端末を通じて、作業に関する画像を前記作業者に提供する方法であって、
    前記作業に関する画像が前記ウェアラブル端末で表示されたときに前記ウェアラブル端末で計時された第1の時刻及び前記作業の作業結果を前記ウェアラブル端末が前記作業者から取得したときに前記ウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、前記画像が前記ウェアラブル端末で表示されてから前記ウェアラブル端末が前記作業者から前記作業結果を取得するまでの時間を示す情報と、前記作業結果とを含む作業結果情報を、前記ウェアラブル端末から受信する段階と、
    前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合する場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻、前記時間、及び前記作業結果を出力し、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合しない場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻をマスクして、前記時間及び前記作業結果を出力する段階と
    を備える方法。
  12. 作業者の頭部に装着されるウェアラブル端末を通じて、作業に関する画像を前記作業者に提供するためのプログラムであって、コンピュータを、
    前記作業に関する画像が前記ウェアラブル端末で表示されたときに前記ウェアラブル端末で計時された第1の時刻及び前記作業の作業結果を前記ウェアラブル端末が前記作業者から取得したときに前記ウェアラブル端末で計時された第2の時刻の少なくとも一方の時刻を示す情報と、前記画像が前記ウェアラブル端末で表示されてから前記ウェアラブル端末が前記作業者から前記作業結果を取得するまでの時間を示す情報と、前記作業結果とを含む作業結果情報を、前記ウェアラブル端末から受信する作業結果受信部、
    前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻がサーバで管理されている時刻と整合する場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻、前記時間、及び前記作業結果を出力し、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻が前記サーバで管理されている時刻と整合しない場合に、前記第1の時刻及び前記第2の時刻の少なくとも一方の時刻をマスクして、前記時間及び前記作業結果を出力する結果出力部
    として機能させるためのプログラム。
JP2018098933A 2018-05-23 2018-05-23 サーバ、システム、方法、及びプログラム Active JP7059798B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018098933A JP7059798B2 (ja) 2018-05-23 2018-05-23 サーバ、システム、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018098933A JP7059798B2 (ja) 2018-05-23 2018-05-23 サーバ、システム、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019204282A true JP2019204282A (ja) 2019-11-28
JP7059798B2 JP7059798B2 (ja) 2022-04-26

Family

ID=68726994

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018098933A Active JP7059798B2 (ja) 2018-05-23 2018-05-23 サーバ、システム、方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP7059798B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5877961A (en) * 1996-09-24 1999-03-02 Genicom Corporation Electronic support work station and method of operation
JP2005222406A (ja) * 2004-02-06 2005-08-18 Tdc Software Engineering Inc 記録管理方法、報告作成方法、報告管理方法、報告作成プログラム及び報告管理プログラム
JP2009037356A (ja) * 2007-07-31 2009-02-19 Nec Corp 地震予測情報通知サーバ、地震予測情報通知システム、地震予測情報の通知方法およびプログラム
JP2016212729A (ja) * 2015-05-12 2016-12-15 株式会社日立システムズ 機器チェック支援システムおよび作業進捗確認方法ならびに作業進捗確認プログラム
JP2017162102A (ja) * 2016-03-08 2017-09-14 株式会社東芝 保守支援方法、保守支援システム、及び保守支援プログラム
JP2017167991A (ja) * 2016-03-17 2017-09-21 Kddi株式会社 ヘッドマウント装置、プログラム及び作業支援システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5877961A (en) * 1996-09-24 1999-03-02 Genicom Corporation Electronic support work station and method of operation
JP2005222406A (ja) * 2004-02-06 2005-08-18 Tdc Software Engineering Inc 記録管理方法、報告作成方法、報告管理方法、報告作成プログラム及び報告管理プログラム
JP2009037356A (ja) * 2007-07-31 2009-02-19 Nec Corp 地震予測情報通知サーバ、地震予測情報通知システム、地震予測情報の通知方法およびプログラム
JP2016212729A (ja) * 2015-05-12 2016-12-15 株式会社日立システムズ 機器チェック支援システムおよび作業進捗確認方法ならびに作業進捗確認プログラム
JP2017162102A (ja) * 2016-03-08 2017-09-14 株式会社東芝 保守支援方法、保守支援システム、及び保守支援プログラム
JP2017167991A (ja) * 2016-03-17 2017-09-21 Kddi株式会社 ヘッドマウント装置、プログラム及び作業支援システム

Also Published As

Publication number Publication date
JP7059798B2 (ja) 2022-04-26

Similar Documents

Publication Publication Date Title
JP6594646B2 (ja) ロボット及びロボット制御方法並びにロボットシステム
KR101010081B1 (ko) 미디어 식별
KR102483834B1 (ko) 음성 명령을 이용한 사용자 인증 방법 및 전자 장치
US7224367B2 (en) Face information transmission system
JP7339167B2 (ja) 作業支援システム及び作業支援方法
CN110192386B (zh) 信息处理设备和信息处理方法
CN107944378A (zh) 一种自助服务的身份识别方法及自助服务系统
CN108093167B (zh) 用于捕获图像的设备、方法、系统及计算机可读存储介质
CN108133709A (zh) 语音识别装置和语音识别方法
JP6744025B2 (ja) 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム
JP6780767B2 (ja) 点検支援装置、点検支援方法およびプログラム
CN109784128A (zh) 具有文本及语音处理功能的混合现实智能眼镜
CN109947971A (zh) 图像检索方法、装置、电子设备及存储介质
CN109241907A (zh) 标注方法、装置及电子设备
JP7124442B2 (ja) システム、方法、及びプログラム
US20210398539A1 (en) Systems and methods for processing audio and video
JP2019204282A (ja) サーバ、システム、方法、及びプログラム
JP6870274B2 (ja) 画像プリントシステム
WO2020075358A1 (ja) 情報処理装置、情報処理方法及びプログラム
US10963548B2 (en) Information acquisition device, information acquisition system, and information acquisition method
JP2018075657A (ja) 生成プログラム、生成装置、制御プログラム、制御方法、ロボット装置及び通話システム
US20230042310A1 (en) Wearable apparatus and methods for approving transcription and/or summary
US20220076680A1 (en) Systems and methods for processing audio and video
WO2021107308A1 (ko) 전자 장치 및 이의 제어 방법
CN114627898A (zh) 语音转换方法、装置、计算机设备、存储介质和程序产品

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210414

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220328

R150 Certificate of patent or registration of utility model

Ref document number: 7059798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150