JP2021152979A - 作業支援装置、作業支援方法及びプログラム - Google Patents

作業支援装置、作業支援方法及びプログラム Download PDF

Info

Publication number
JP2021152979A
JP2021152979A JP2021110677A JP2021110677A JP2021152979A JP 2021152979 A JP2021152979 A JP 2021152979A JP 2021110677 A JP2021110677 A JP 2021110677A JP 2021110677 A JP2021110677 A JP 2021110677A JP 2021152979 A JP2021152979 A JP 2021152979A
Authority
JP
Japan
Prior art keywords
image
work
worker
wearable terminal
erroneous
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021110677A
Other languages
English (en)
Other versions
JP7156731B2 (ja
Inventor
友昭 牧野
Tomoaki Makino
友昭 牧野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Fielding Ltd
Original Assignee
NEC Fielding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Fielding Ltd filed Critical NEC Fielding Ltd
Publication of JP2021152979A publication Critical patent/JP2021152979A/ja
Application granted granted Critical
Publication of JP7156731B2 publication Critical patent/JP7156731B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Automation & Control Theory (AREA)
  • Manufacturing & Machinery (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • User Interface Of Digital Computer (AREA)
  • General Factory Administration (AREA)

Abstract

【課題】作業者に対し、精度よく作業工程誤り等の発生を知らせ、その作業効率を向上させる。【解決手段】作業支援装置は、少なくとも第1の工程と第1の工程の後に行われる第2の工程とを含む作業と、前記第1の工程と、前記第2の工程とにおいてそれぞれ行われる作業を代表する工程毎の代表画像とを対応付けて保持する記憶部と、前記作業者が作業を行っている過程における画像を入力する入力部と、前記入力された画像と、前記代表画像とを照合して、前記作業が所定の順序で実施されているか否かを確認する確認部と、前記作業者に対し、前記確認の結果を通知する通知部と、を備える。【選択図】図1

Description

(関連出願についての記載)
本発明は、日本国特許出願:特願2017−209179号(2017年10月30日出願)の優先権主張に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
本発明は、作業支援装置、作業支援方法及びプログラムに関する。
特許文献1に、発電所や変電所等の現場機器の保守・点検作業において、作業者の負担を軽減すると共に、保守・点検作業業務の省力化を図ることのできるという保守支援システムが開示されている。同文献には、保守・点検作業に関する情報を保持した複数のデータベースを備えたサーバ10を設けることが記載されている。一方、作業者が携行する携帯端末6には、作業者が被るヘルメット1に取り付けられたカメラ2により保守作業の所定の工程ごとにその進捗状況を撮影してサーバ10に伝送する機能が備えられる。そして、サーバ10は、カメラ2によって撮影された進捗状況に応じてデータベースから作業に必要なデータを抽出して、作業者が被るヘルメット1に取り付けられたディスプレイ5から作業に必要な情報を提供することが記載されている。
特許文献2には、監視者に頼ることなく、作業状態や作業現場の状況等を分析して評価することができるという作業管理システムが開示されている。同文献によると、この作業管理システムの入力部1は、熟練度の高い作業者が作業を進めている様子を撮像し、この動画像を周知の画像処理方法を用いてパターン化してから記憶部3に記憶する。また、この作業管理システムの検出部2は、通常の作業者が作業を進めている様子を撮像し、この動画像を周知の画像処理方法を用いてパターン化してから記憶部3に記憶したり、中央処理装置4に与える。そして、この作業管理システムの中央処理装置4は、2つの動画像を比較して、熟練度の高い作業者に対する通常の作業者の作業速度の差や作業手順の誤りを判定する。
特開2005−216137号公報 特開2003−167613号公報
以下の分析は、本発明によって与えられたものである。作業者を現地に派遣して、保守やメインテナンス作業を行う場合において、作業工程誤りが発生する場合がある。本発明者の分析によれば、これら作業誤りの多くは、作業者の誤認識、忘れ、見過ごし、思い込み等に起因するものであり、作業の中の特定のシーンを確認するだけで、その誤りを判定可能である。この点、特許文献1は、サーバ10の主制御部11が「所定の保守工程ごとに前記携帯端末6から伝送される保守作業の進捗状況から、該工程の保守作業の良否を判定する作業良否判定手段の役割を担う。」と包括的な記載がなされるに止まっている。
また、特許文献2の方法は、予め熟練度の高い作業者の作業映像を撮影しておき、通常の作業者の作業映像と比較するものであり、通常の作業者の作業の評価の良し悪しは、熟練度の高い作業者の作業映像次第となってしまう。また、特許文献2の方法は、同文献の図2に示された卓上作業などには使えるが、毎度、作業現場の環境が異なりうる訪問型、出張型の作業の確認には使えない場合があると考えられる。
本発明は、作業者に対し、精度よく作業工程誤り等の発生を知らせ、その作業効率の向上に貢献することのできる作業支援装置、作業支援方法及びプログラムを提供することを目的とする。
第1の視点によれば、少なくとも第1の工程と第1の工程の後に行われる第2の工程とを含む作業と、前記第1の工程と、前記第2の工程とにおいてそれぞれ行われる作業を代表する工程毎の代表画像とを対応付けて保持する記憶部と、前記作業者が作業を行っている過程における画像を入力する入力部と、前記入力された画像と、前記代表画像とを照合して、前記作業が所定の順序で実施されているか否かを確認する確認部と、前記作業者に対し、前記確認の結果を通知する通知部と、を備えた作業支援装置が提供される。
第2の視点によれば、少なくとも第1の工程と第1の工程の後に行われる第2の工程とを含む作業と、前記第1、前記第2の工程において行われる作業を代表する工程毎の代表画像とを対応付けて保持する手段にアクセス可能なコンピュータが、前記作業者が作業を行っている過程における画像を入力するステップと、前記入力された画像と、前記代表画像とを照合して、前記作業が所定の順序で実施されているか否かを確認するステップと、前記作業者に対し、前記確認の結果を通知するステップと、を含む作業支援方法が提供される。本方法は、作業支援装置として機能するコンピュータという、特定の機械に結びつけられている。
第3の視点によれば、少なくとも第1の工程と第1の工程の後に行われる第2の工程とを含む作業と、前記第1、前記第2の工程において行われる作業を代表する工程毎の代表画像とを対応付けて保持する手段にアクセス可能なコンピュータに、前記作業者が作業を行っている過程における画像を入力する処理と、前記入力された画像と、前記代表画像とを照合して、前記作業が所定の順序で実施されているか否かを確認する処理と、前記作業者に対し、前記確認の結果を通知する処理と、を実行させるプログラムが提供される。なお、このプログラムは、コンピュータが読み取り可能な(非トランジエントな)記憶媒体に記録することができる。即ち、本発明は、コンピュータプログラム製品として具現することも可能である。
本発明によれば、作業者に対し、精度よく作業工程誤り等の発生を知らせ、その作業効率を向上させることが可能となる。即ち、本発明は、背景技術に記載した作業支援装置を、その作業工程誤りの有無の確認機能を飛躍的に向上させたものへと変換するものとなっている。
本発明の一実施形態の構成を示す図である。 本発明の一実施形態の別の構成例を示す図である。 本発明の一実施形態の作業支援装置の記憶部に準備する情報を説明するための図である。 本発明の一実施形態の動作を説明するための図である。 本発明の第1の実施形態の構成を示す図である。 本発明の第1の実施形態で用いるウェアラブル端末の構成を示す図である。 本発明の第1の実施形態のサーバの構成を示す図である。 本発明の第1の実施形態のサーバの作業情報データベース(作業情報DB)に保持される情報の一例を示す図である。 本発明の第1の実施形態のウェアラブル端末及びサーバの工程画像データベース(工程画像DB)に保持される情報の一例を示す図である。 本発明の第1の実施形態のウェアラブル端末の動作を表したフローチャートである。 本発明の第2の実施形態の構成を示す図である。
はじめに本発明の一実施形態の概要について図面を参照して説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、本発明を図示の態様に限定することを意図するものではない。また、以降の説明で参照する図面等のブロック間の接続線は、双方向及び単方向の双方を含む。一方向矢印については、主たる信号(データ)の流れを模式的に示すものであり、双方向性を排除するものではない。また、図中の各ブロックの入出力の接続点には、ポート乃至インタフェースがあるが図示省略する。
本発明は、その一実施形態において、図1に示すように、記憶部11aと、入力部12aと、確認部13aと、通知部14aと、を備える作業支援装置10aにて実現できる。記憶部11aは、少なくとも第1の工程と第1の工程の後に行われる第2の工程と含む「作業」と、前記第1の工程と、前記第2の工程とにおいてそれぞれ行われる作業を代表する工程毎の代表画像とを対応付けて保持する。
入力部12aは、前記作業者が前記選択した作業を行っている過程における画像を入力する。
確認部13aは、前記入力された画像と、前記代表画像とを照合して、前記作業が所定の順序で実施されているか否かを確認する。
通知部14aは、前記作業者に対し、前記確認の結果を通知する。
なお、図1に示した作業支援装置10aは、図2に示すようなコンピュータ10bにて実現することもできる。この場合、メモリー11bが、上記した記憶部11aとして機能し、入力手段12bが、入力部12aとして機能することになる。なお、メモリー11bには、各種のディスクドライブ等の補助記憶装置も含まれる。また、入力手段12bは、作業を行っている過程における画像を撮影するカメラや、そのようなカメラから画像を受け取る入力インタフェース等であってもよい。また、確認部13a及び通知部14aは、プロセッサ13bにおいて、上記した確認部13aの確認処理と、その結果を出力手段14bから出力(通知)させるコンピュータプログラムによって実現することが可能である。
ここで、あるアプリケーションプログラムのコンピュータへのインストール作業の支援を例に挙げて、本実施形態の動作を説明する。このアプリケーションプログラムでは、インストール工程(第2の工程)の前に、古いバージョンのプログラムのアンインストール作業(第1の工程)が必要とされているものとする。図3は、この場合に、記憶部11aに記憶する代表画像の例を示す。図3の例では、第1の工程の代表画像として、アンインストール中にモニタ上に表示されるサブウインドウが表示された画像が記憶される。同様に、第2の工程の代表画像として、インストール中にモニタ上に表示されるサブウインドウが表示された画像が記憶される。
そして、入力部12aに、例えば、カメラを介して、作業者が選択した作業を行っている過程における画像の入力がなされると、確認部13aは、入力された画像と、前記代表画像とを照合して、前記作業が所定の順序で実施されているか否かを確認する。例えば、入力された画像が、第1の工程の代表画像と一致すると、確認部13aが、作業が正しく開始されたと判定する。その後、第2の工程の代表画像と一致する画像が入力されると、確認部13aは、作業が正しく行われたものと判定する。ここで、確認部13aが、通知部14aに、作業者に対して、作業が正しく行われていることを通知させるようにしてもよい。このようにすることで、作業者はアプリケーションのインストール作業を正しく実行できたことを確認できる。その後、アプリケーションプログラムの動作に問題が生じたとしても、作業者は、インストール作業自体は正しくできていたという情報が得られているので、問題は他の箇所にあると認識することができる。
一方、入力された画像と、第1の工程の代表画像との一致の前に、第2の工程の代表画像と、一致した場合、確認部13aは、第1の工程よりも先に第2の工程が行われたものと判定する。この場合、確認部13aは、通知部14aに、作業者に対して、作業が正しく行われていないことを通知することが好ましい。このようにすることで、作業者はアプリケーションのインストール作業を間違っていたことを認識できる。これにより、次の作業や工程に入る前に、プログラムのインストールのやり直しを行うことができる。また、その際に、確認部13aが、通知部14aに、具体的な修正作業の内容を通知するように指示してもよい。例えば、図4の例の場合、確認部13aが、作業者に対し、V1.1のアプリケーションのアンインストールと、V1.0のアプリケーションのアンインストールを行った後、V1.1のインストールを行うべきことを通知することが考えられる。
[第1の実施形態]
続いて、作業支援装置として、ウェアラブル端末を用いる本発明の第1の実施形態について図面を参照して詳細に説明する。図5は、本発明の第1の実施形態の作業支援装置の構成を示す図である。図5を参照すると、作業者100aが着用するメガネ型のウェアラブル端末(作業者装着端末)100と、サーバ200とがネットワーク101を介して接続された構成が示されている。なお、以下の実施形態では、作業画像の入力装置としてウェアラブル端末を用いるものとして説明するが、作業画像の入力装置としてウェアラブル端末に限られるものではない。例えば、スマートフォンやその他カメラ付きの業務用端末を作業画像の入力装置として用いることも可能である。また、カメラ自体が独立した構成であってもよく、カメラから送信された画像を上記ウェアラブル端末、スマートフォン、業務用端末等を介して、作業支援装置に送信することとしてもよい。なお、メガネ型のウェアラブル端末としては、スマートグラスやヘッドセット型端末と呼ばれるものを用いることができる。
なお、ウェアラブル端末100及びサーバ200のネットワーク101への接続形態(通信方式)としては、種々の方式を用いることができる。例えば、移動体通信網を介した接続、無線LAN(Local Area Network)による接続等が考えられる。その他、Bluetooth(登録商標)や赤外線通信等の近距離無線通信を介して、ウェアラブル端末100及びサーバ200がネットワーク101に接続することとしてもよい。もちろん、有線LAN等の有線通信を介して、ウェアラブル端末100及びサーバ200がネットワーク101に接続する方法も採用可能である。
図6は、本発明の第1の実施形態のウェアラブル端末の構成を示す図である。図6を参照すると、制御部102、通信部103、画像入力部104、音声入力部105、入力部106、表示部107、音声出力部108、計時部109及び記憶部110を備えるウェアラブル端末100が示されている。
通信部103は、ネットワーク101を介して、ウェアラブル端末100とサーバ200の間のデータの通信を行う。
画像入力部104は、例えば、撮影装置(カメラ)によって構成することができる。具体的には、画像入力部104は、制御部102からの指示に応じて、作業者が視認する領域の画像(動画でも良く、所定間隔(動画像より、撮像時間間隔が広くても良い)毎に撮像した静止画でも良い)を取り込む。画像入力部104は、記憶部110の工程画像DB111に取り込んだ画像を保存する。なお、画像入力部104は、必ずしも撮影装置(カメラ)である必要はなく、撮影装置(カメラ)等を接続可能なインターフェースであってもよい。
音声入力部105は、マイク(マイクロフォン)によって構成することができる。音声入力部105を介して、作業者から音声による指示を受け付け、ウェアラブル端末100の動作を制御してもよい。この音声入力部105から、特定の装置等の作業対象が発する音、作業者の周囲の音を取り込んで、作業が正しく行われているか否かの確認を行うようにしてもよい。
入力部106は、タッチパネルやスライドパッド、マウス、キーボード等の情報入力手段によって構成される。作業者から入力部106を介して指示を受け付け、ウェアラブル端末100の動作を制御してもよい。また、作業者が、入力部106を介して入力した情報(例えば、工程画像DBの修正データ)を、記憶部110の工程画像DB111等に記憶するようにしてもよい。なお、上記した音声入力部105や入力部106は適宜省略することもできる。例えば、作業者からの指示を、画像入力部104によって作業者のジェスチャーを認識して受け取る場合、音声入力部105や入力部106を省略することができる。
なお、上記した画像入力部104、音声入力部105、入力部106における画像等や音声等の情報の入力は、制御部102の指示するタイミングで行われるものとする。
表示部107は、制御部102からの指示で、出力画像(動画でも良い)を表示する液晶ディスプレイや有機EL(Electro Luminescence)ディスプレイによって構成される。
音声出力部108は、制御部102からの指示で、音声を出力する。例えば、作業対象の装置に対して行われた操作の際の動作音の取得が必要な場合は、制御部102が、表示部107または音声出力部108に対して、作業者に対し、必要な操作の実行を促すメッセージ(音声案内等)を出力させるようにしてもよい。また、音声出力部108に代えて、出力手段として、作業者に注意を促すための振動モータ、振動を発生するデバイスや、ランプを用いることもできる。
計時部109は、作業の開始から各工程までの所要時間(経過時間)を計測する。この計測した所要時間と、標準時間や最大許容時間と比較することにより、作業の遅れの有無や、トラブルの発生有無等を把握することができる。
制御部102は、上記したウェアラブル端末100の各部を制御し、画像入力部104から入力された画像と代表画像や誤り画像とを照合し、作業の進捗管理(図10のフローチャート参照)を行う。また本実施形態の制御部102は、各工程の所要時間(経過時間)と別途定められた標準時間や最大許容時間とを比較することにより、作業の進捗を管理する。また本実施形態の制御部102は、予め定められた警告発動条件が成立すると、作業者に対し警告を出力する機能を備えている。このような制御部102は、ウェアラブル端末100の各部を制御するプログラム112を、記憶部110から読み出してプロセッサに実行させることにより実現することもできる。
記憶部110は、工程画像データベース(工程画像DB)111として機能する。この工程画像DB111には、サーバ200から受信した工程画像情報が登録される。工程画像情報の詳細については、後に、詳細に説明する。
図7は、本発明の第1の実施形態のサーバ200の構成を示す図である。図7を参照すると、制御部202、通信部203、画像入力部204、音声入力部205、入力部206、表示部207、音声出力部208及び記憶部209を備えるサーバ200が示されている。
通信部203は、ネットワーク101を介して、ウェアラブル端末100とサーバ200の間のデータの通信を行う。
画像入力部204は、ウェアラブル端末100側から、作業者が視認する領域の画像(動画でも良く、所定間隔(動画像より、撮像時間間隔が広くても良い)毎に撮像した静止画でも良い)を受け取るインタフェースである。
音声入力部205は、ウェアラブル端末100側から音声データを受け取るインタフェースである。音声入力部205を介して、作業者から音声による指示を受け付け、サーバ200の動作を制御してもよい。この音声入力部205から、特定の装置等の作業対象が発する音、作業者の周囲の音を取り込んで、作業が正しく行われているか否かの確認を行うようにしてもよい。
入力部206は、タッチパネルやスライドパッド、マウス、キーボード等の情報入力手段によって構成される。作業者から入力部206を介して指示を受け付け、サーバ200の動作を制御してもよい。また、作業者が、入力部206を介して入力した情報(例えば、工程画像DBの修正データ)を、記憶部209の工程画像DB211等に記憶するようにしてもよい。
表示部207は、サーバ200側の操作者に必要なメッセージ等を出力したり、入出力内容を表示する液晶ディスプレイや有機ELディスプレイによって構成される。
音声出力部208は、制御部202からの指示により、サーバ側の操作者に対し、必要な操作の実行を促すメッセージ(音声案内等)を出力する。また、音声出力部208に代えて、出力手段として、光で操作者に注意を促すためのランプ等を用いることもできる。
制御部202は、上記したサーバ200の各部を制御する。この制御部202は、サーバ200の各部を制御するプログラム(非図示)を、記憶部209から読み出してプロセッサに実行させることにより実現することもできる。また、ウェアラブル端末100からサーバ200側に、画像入力部104から入力された画像が送信される場合、この制御部202において、作業の進捗管理(図10のフローチャート参照)を行う処理を行わせても良い。具体的には、制御部202は、ウェアラブル端末100から受信された画像と代表画像や誤り画像とを照合し、作業の進捗管理を行うことになる。また、制御部202において、作業を開始してからの経過時間を記録し、別途定めた標準的な所要時間との比較により、作業の遅れの有無を判定させてもよい。
ここで、サーバ200の記憶部209に保持される情報について説明する。記憶部209には、作業情報と、工程画像情報が登録され、それぞれ作業情報データベース(作業情報DB)210、工程画像データベース(工程画像DB)211として機能する。
図8は、作業情報DB210に保持される情報の一例を示す図である。図8を参照すると、装置名、作業種類、障害内容によって特定される「作業」に一意に付与される作業No.を対応づけたエントリが示されている。この作業情報DB210は、ウェアラブル端末100から、工程画像の送信要求を受けた際に、入力された作業内容から作業No.を特定するために用いられる。例えば、ある作業者が、起動しないパソコンの故障修理を行う場合、その作業は#1の作業として特定される。なお、作業の内容は、図8の例に限られず、本発明を適用可能なさまざまな「作業」を特定するための情報を登録してもよい。例えば、図8の例のほか、装置撤去作業や定期点検作業を作業情報DB210に登録してもよい。また例えば、自動車のオイル交換であれば、装置フィールドには、自動車の車種名や型番(型式)を示す情報が設定され、作業種類フィールドには、オイル交換が設定される(なお、障害内容フィールドは、図8の#4のサーバ4の設置と同様に空欄でもよいし、あるいは、オイルエレメント交換の要否等を設定してもよい)。
図9は、工程画像DB211に保持される情報の一例を示す図である。図9を参照すると、作業No.2の「作業」における各工程の代表画像と、この代表画像等を用いて、工程の進捗管理を行うための情報が対応付けて登録されている。図9の例は、図8の作業情報DBにて作業No.2と特定される、プリンタ2の故障修理(紙詰まり)を行う際の情報が登録されている。また、図9は、作業No.2を構成する6つの工程のうち、工程3まで正常に進み、工程4にて作業の誤りを検出した状態を示している。以下、図9の各項目について説明する。
「代表画像」フィールドは、各工程において、正しく作業が行われたことを確認するための画像を登録するためのフィールドである。この代表画像は、ウェアラブル端末100にて画像の一致確認がし易いよう、作業者(例えば、装置の保守作業者であっても良い)が視認する領域(厳密にはウェアラブル端末100に入力が想定される画像と同一の領域)を撮像したものが好ましい。より望ましくは、代表画像の角度、大きさ、画素数等は、ウェアラブル端末100に入力される画像と同一になるように設定される。
また、誤判定を防ぐため、代表画像は、他の工程でも撮影出来る画像ではなく、その工程でのみ得られる画像であることが好ましい。また、この代表画像は、ウェアラブル端末100に入力が想定される画像の一部と照合する画像であってもよい。また、ウェアラブル端末100に入力が想定される画像と代表画像の角度、大きさ、画素数等が、必ずしも一致している必要はない。例えば、いずれか一方の画像を座標変換により、傾けた画像としたり、画像の大きさや画素数を変換したりすることで、双方を照合する方法も採用可能である。
代表画像の例としては、ハードディスク交換作業におけるハードディスクドライブの外観画像、回路基板や機構部品の交換作業における対象装置での実装状態を想定した回路基板や機構部品の外観画像が挙げられる。また、代表画像の別の例として、機器接続作業における作業対象装置での外部に露出しているコネクタの外観やその接続状態を示す画像が挙げられる。
図9の「撮像画像」フィールドは、ウェアラブル端末100の画像入力部104から入力された画像のうち、代表画像や誤り画像(後述)との照合がとれた画像が登録されるフィールドである。図9の例では、サーバ200側の工程画像DB211に「撮像画像」フィールドが設けられているが、ウェアラブル端末100側でのみ代表画像との照合を行う場合、サーバ200側の工程画像DB211の「撮像画像」フィールドは省略できる。前述のとおり、図9の例では、工程1〜3までが確認されたので、「撮像画像」フィールドには、代表画像と一致すると判定された画像が登録されている。図9の工程4は、誤り画像との一致が検出されたので、「撮像画像」フィールドには、誤り画像と一致すると判定された画像が登録されている。
図9の「実施状況」フィールドは、ウェアラブル端末100の制御部102又はサーバ200の制御部202で代表画像との照合により、確認された工程の進捗状況等を記録するフィールドである。図9の例では、サーバ200側の工程画像DB211に「実施状況」フィールドが設けられているが、ウェアラブル端末100側でのみ代表画像との照合を行う場合、サーバ200側の工程画像DB211の「実施状況」フィールドは省略できる。前述のとおり、図9の例では、工程1〜3までが確認されたので、「実施状況」フィールドには、「作業開始」、「工程確認」といった情報が登録されている。図9の工程4は、誤り画像との一致が検出されたので、「実施状況」フィールドには、「誤り検知」という情報が登録されている。また、工程5以降は行われていないため、「未実施」という初期状態の情報が登録されている。
図9の「手順情報」フィールドは、各工程の次の工程の作業内容等が登録されるフィールドである。「手順情報」フィールドの内容は、必要に応じ、表示部107や音声出力部108を介して、作業者に通知される。
図9の「通知情報」フィールドは、各工程に到達した際に、作業者に通知する情報が登録されるフィールドである。例えば、撮像画像と代表画像が適合し、作業開始と判定した場合、通知情報フィールドに登録されている内容が作業者に通知される。作業情報との差異は、作業情報が作業内容を伝えるという観点で作成されているのに対し、通知情報は、注意事項、連絡事項や、次工程作業を行う上で、作業誤りを防ぐ為の注意喚起の情報が設定されている点である。なお、上記した作業情報や通知情報として、文字、音声、動作、図形等の形態を採ることができる。また、ウェアラブル端末100の眼鏡型のスクリーンに、上記作業情報や通知情報を示す文字や図形を重畳表示し、作業者の作業を支援するようにしてもよい。
「誤り画像」フィールドは、各工程において、作業ミスが行われたことを検出するための画像を登録するためのフィールドである。この誤り画像も、代表画像と同様に、ウェアラブル端末100にて画像の一致確認がし易いよう、作業者(例えば、装置の保守作業者であっても良い)が視認する領域(厳密にはウェアラブル端末100に入力が想定される画像と同一の領域)を撮像したものが好ましい。より望ましくは、誤り画像の角度、大きさ、画素数等は、ウェアラブル端末100に入力される画像と同一になるように設定される。
また、誤判定を防ぐため、誤り画像も、他の工程でも撮影出来る画像ではなく、その工程でのみ得られる画像であることが好ましい。また、この誤り画像は、ウェアラブル端末100に入力が想定される画像の一部と照合する画像であってもよい。また、ウェアラブル端末100に入力が想定される画像と誤り画像の角度、大きさ、画素数等が、必ずしも一致している必要はない。例えば、いずれか一方の画像を座標変換により、傾けた画像としたり、画像の大きさや画素数を変換したりすることで、双方を照合する方法も採用可能である。
図9の「標準時間」フィールドは、各工程間の標準的な作業時間が登録されるフィールドである。この標準時間と実際の作業時間を比較することにより作業の進捗具合(遅れ具合)を把握することが可能となる。また、図9の「最大許容時間」フィールドは、各工程間の所要時間として許容される時間が登録されるフィールドである(即ち、最大許容時間>標準時間である)。図9の「経過時間」フィールドは、各工程間の実際の所要時間が登録されるフィールドである。なお、図9の例では、最終工程である工程6の標準時間と最大許容時間が空欄となっているが、これは、この工程の代表画像との一致をもって作業終了となり、判定の必要が無いためである。
図9の「遅れ判定」フィールドは、各工程の進捗が、標準的な所要時間と比較して進んでいるのか、遅れているのかの判定結果が格納されるフィールドである。図9の例では、経過時間が、標準時間より短い場合「早め判定」としている。例えば、工程3は、標準時間15分に対し、経過時間が8分であるため、「早め判定」となっている。図9の例では、経過時間が、最大許容時間より長い場合「遅延判定」としている。例えば、工程2、4は、最大許容時間より、経過時間が長いため、「遅延判定」となっている。図9の例では、経過時間が、最大許容時間よりも短いが標準時間より長い場合「遅れ判定」としている。例えば、工程1は、標準時間5分に対し、経過時間が8分、最大許容時間が10分となっているため、「遅れ判定」となっている。なお、これらの判定基準はあくまで一例であり、判定を行う作業の種別や性質により適宜変更することができる。例えば、図9のような工程単位での判定のほか、累積標準時間や累積最大許容時間を設定し、累積の経過時間との比較を行って判定結果を得ても良い。
また、標準時間と最大許容時間との関係も工程の内容に応じて適宜設定することができる。ごく簡単には、標準時間に所定時間を加えたものを最大許容時間としてもよいし、標準時間に所定の率を乗じたものを最大許容時間としてもよい。
図9の「遅れ判定」フィールドに更新が行われたタイミングで、作業者に対して、音声や画像により、その判定結果や遅延量等を通知してもよい。これにより、作業者は、作業の遅れや、その程度を把握することが可能となる。
図9の「警告情報」フィールドは、「警告発動条件」フィールドに設定された条件が成立した際に、作業者に通知される警告内容が格納されるフィールドである。例えば、図9の例では工程2と工程4に警告情報と、その警告発動条件が設定されている。これにより、作業中の特に重要な工程について、誤りや遅延が発生した際に作業者に警告(通知)を行うことが可能となっている。
続いて、本実施形態の動作について図面を参照して詳細に説明する。図10は、本発明の第1の実施形態のウェアラブル端末の動作を表したフローチャートである。図10を参照すると、まず、作業者が、ウェアラブル端末100の入力部106から、図8に示す作業を特定するための情報(装置名、作業種類、障害内容等)を入力する(ステップS301)。
ウェアラブル端末100の制御部102は、サーバ200に対し、前記入力された情報を送信し、作業Noの特定と、特定した作業Noに対応する工程画像の送信を要求する。サーバ200は、作業情報DB210から、ウェアラブル端末100から受け取った情報(装置名、作業種類、障害内容等)に対応する作業Noを特定する。次に、サーバ200は、工程画像DB211から作業Noに対応するデータを特定し、作業Noとともに、ウェアラブル端末100に送信する。ウェアラブル端末100は、サーバ200から受け取った情報を、工程画像DB111に格納する(ステップS302)。
ウェアラブル端末100の制御部102は、工程数を示す変数に「1」を設定し、入力画像との照合動作を開始する(ステップS303)。
ウェアラブル端末100の制御部102は、画像入力部104から作業者の視認する領域の画像を取り込む(ステップS304)。取り込んだ画像は工程画像DB111の撮像画像フィールドに一次保存される。ウェアラブル端末100の制御部102は、取り込んだ画像と、工程画像DB111の該当する作業Noの工程数=1の代表画像とを比較する(ステップS305)。ここで、取り込んだ画像と、工程画像DB111の該当する作業Noの工程数=1の代表画像とが一致しない場合(ステップS305の「一致しない」)、ウェアラブル端末100の制御部102は、作業は開始されていないと判定する。従って、ウェアラブル端末100の制御部102は、画像入力部104から作業者の視認する領域の画像の取り込みを継続する(ステップS304へ)。
なお、ステップS305以下における画像同士の照合には種々の方法を用いることができる。その具体例は、後に、詳細に説明する。
一方、取り込んだ画像と、工程画像DB111の該当する作業Noの工程数=1の代表画像とが一致した場合(ステップS305の「一致」)、ウェアラブル端末100の制御部102は、作業がスタートしたと認識する(ステップS306)。この段階で、例えば、図9の工程No.1の実施状況が「作業開始」となり、計時部109にて経過時間のカウントがスタートする。
ウェアラブル端末100の制御部102は、工程数を示す変数に1加算し(インクリメント)、入力画像と次工程との照合動作を開始する(ステップS307)。
ウェアラブル端末100の制御部102は、画像入力部104から作業者の視認する領域の画像を取り込む(ステップS308)。取り込んだ画像は工程画像DB111の撮像画像フィールドに一次保存される。ウェアラブル端末100の制御部102は、取り込んだ画像と、工程画像DB111の該当する工程数の代表画像とを比較する(ステップS309)。ここで、取り込んだ画像と、工程画像DB111の該当する工程数の代表画像が一致しない場合(ステップS309の「一致しない」)、ウェアラブル端末100の制御部102は、取り込んだ画像と、現工程数より先のすべての工程の代表画像との照合を行う(ステップS316)。ここで、取り込んだ画像と、現工程数より先のすべての工程の代表画像とが一致しない場合(ステップS316の「一致しない」)、ウェアラブル端末100の制御部102は、ステップS309に戻り、取り込んだ画像と、工程画像DB111の該当する工程数の代表画像との照合を継続する。
一方、ステップS316で比較した代表画像のうちのいずれか一つと、取り込んだ画像とが一致した場合、ウェアラブル端末100の制御部102は、正しい作業順序で作業が行われていないと認識する(ステップS317)。そして、ウェアラブル端末100の制御部102は、表示部107又は音声出力部108を介して、作業者に対し、作業の順序誤りを通知する(ステップS318)。その際に、ウェアラブル端末100の制御部102が、該当する工程の作業情報や通知情報を出力して、作業者に対し正しい作業内容や戻し作業の内容を指示してもよい。
一方、ステップS309で、取り込んだ画像と、工程画像DB111の該当する工程数の代表画像が一致した場合(ステップS309の「一致」)、ウェアラブル端末100の制御部102は、正しい作業順序で作業が行われていると認識する(ステップS310)。この場合、ウェアラブル端末100の制御部102は、表示部107又は音声出力部108を介して、作業者に対し、正しい順序で作業が行われていることを通知する(ステップS311)。
次に、ウェアラブル端末100の制御部102は、工程数を示す変数が最終工程数に一致するか否かを確認する(ステップS312)。ここで、工程数を示す変数が最終工程数未満である場合、作業は終わっていないので、ウェアラブル端末100の制御部102は、ステップS308に戻って、取り込んだ画像と、工程画像DB111の該当する工程数の代表画像との比較を継続する(ステップS312の「最終工程でない」)。
一方、工程数を示す変数が最終工程数と一致した場合、ウェアラブル端末100の制御部102は、該当する作業Noの全工程が正しく行われたものと認識する(ステップS313)。ウェアラブル端末100の制御部102は、表示部107又は音声出力部108を介して、作業者に対し、正しい順序で作業が完了したことを通知する(ステップS314)。これにより、一連の作業の進捗管理が完了する。
なお、図10のフローチャートでは省略しているが、ウェアラブル端末100の制御部102は、ステップS309の新しい画像と次工程の代表画像の一致を確認したタイミング等で、その時点での経過時間と、前工程の標準時間、最大許容時間との比較を行う。この比較の結果に応じて、ウェアラブル端末100の制御部102は、前工程の遅れ等を確認し、工程画像DBの遅れ判定フィールドの内容を更新する。また、遅れが検出された場合、ウェアラブル端末100の制御部102は、作業者に対し、作業遅れ等を通知する。図10のフローチャートでは省略しているが、ウェアラブル端末100の制御部102は、所定の周期で、図9の工程画像DB111の警告発動条件フィールドに規定された条件が成立したか否かを確認する。ここで、警告発動条件フィールドに規定された条件が成立したと判定した場合、ウェアラブル端末100の制御部102は、警告情報フィールドに設定された内容を用いて作業者に対し、警告を行う。
以上説明した本実施形態のウェアラブル端末100及びサーバ200によれば、作業者が行っている作業をリアルタイムに観測し、正しい順序で行われているか否かを確認することが可能となる。また、本実施形態では、作業者に対し、各工程で必要な情報を提供したり、作業の遅れの有無や、警告を発することも可能となっている。このため、作業工程進捗の管理を、省力化ないし自動化することが可能となる。
本実施形態を適用した工程の進捗管理の例を説明する。
(工程1)カバーを取り外す工程
代表画像としては、カバー全体の画像を用いる。この画像には、事前にマーカを付加したカバーの画像を用いてもよい。また、このマーカに代えて、カバー外形の形状や大きさ(撮像倍率も考慮する)、カバーを認識できるような画像を用意してもよい。これにより作業の開始が検出される。
(工程2)カバーの固定
カバーの固定は、取り外し可能な複数のボルト(雄ねじ、を意味する。)による、ネジ固定を行うものとする。この場合、ネジ固定後のカバー画像を代表画像として用いることで、カバーの固定が正しく行われていることを検出できる。あるいは、この代表画像との照合に代えて、これらのボルトの位置を予め記憶しておき、取得した撮像画像から、カバー部を検出し、そのカバー全体の位置から、各ボルトの、相対位置部分の画像を切りだし、この切り出した画像の中に、ボルト特有の色(例えば、亜鉛メッキの色)部分が、ボルトの頭の大きさが入る所定範囲の領域に有るか、検出、判断を行うことで、その位置にボルトが有るかを判断する方法も採用ができる。仮に、カバーの4隅、4か所に、ボルトでカバーを取り付ける部分が有るとしたら、その領域にボルトが存在することを検出し、すべての個所に、ボルトが有ると判断した場合、正しく、カバーが取り付けられ固定されていると判断する。
更に、前記ボルトの取り付け順序が有る場合(例えば、カバーの右上、左下(右上の対角)、左上、右下(左上の対角)、の順に締めなければならない、という順序がある場合)には、工程2を細分化してもよい。例えば、ボルトを締める毎に、その順番に従って取り付けられるボルトの位置にボルトの像が増える代表画像を、予め用意しておき、撮像画像と、前記ボルトを締める順番に従った代表画像と、その順番通りにマッチングを行うことができる。そして、その順番通りに、画像が一致した場合、定められた順番通りに、ボルトが締められたと判断することができる。
(工程3)ケーブルの抜去
ケーブルの端部が、装置の所定の場所、端子に接続されている、すなわち、差し込まれている状態を撮影した代表画像とケーブルが無い状態を撮影した代表画像を用意する。そして、画像入力部104から取得した画像が、前記ケーブルの端部が差し込まれている画像から、ケーブルが無い画像に変化した場合、ケーブルが作業手順に従って抜かれた、と判断することができる。
または、抜去されたコネクタの装置側の画像を代表画像とし、画像入力部104から取得した画像と一致したことをもって、ケーブルが正しく抜かれた、と判断しても良い。
(工程4)スイッチの操作
スイッチ、トグルスイッチ等の操作部分が、スイッチのオン、オフ、に従い変化する場合や、スイッチのオンオフを行うと、スイッチの一部の色が変わる変化が有る場合、スイッチがオン状態の画像と、オフ状態の画像をそれぞれ代表画像として用意しておく。画像入力部104から取得した画像が、スイッチがオン状態の画像と一致した後、スイッチがオフの画像と一致した場合、スイッチが正しく操作された、と判断することができる。そして、一連の作業がスイッチをオフにすることで完了する場合、本工程をもって作業が完了したことを確認できる。
[第2の実施形態]
続いて、本発明の第2の実施形態について説明する。図11は、本発明の第2の実施形態のウェアラブル端末100bの構成を示す図である。図6に示した第1の実施形態のウェアラブル端末100との構成上の相違点は、記憶部110aに作業情報DB113が配置されている点である。
具体的には、本実施形態のウェアラブル端末100bは、作業情報DB113を備えているため、ウェアラブル端末100b単体で、作業Noを特定することが可能となっている。また、ウェアラブル端末100bの工程画像DB111には、事前に、その作業者が行う作業に必要なデータが格納されている。そして、本実施形態のウェアラブル端末100bは、工程画像DB111から、前記特定した作業Noに対応するデータを読み出してセットする。以降の動作は、図10に示した第1の実施形態のステップS303以降と同一であるので、説明を省略する。
以上のように、本実施形態によれば、ウェアラブル端末100b単体で、作業者の作業をチェックすることが可能となっており、特に、通信インフラが整っていない場所での作業を行うケースに好適に適用することができる。
最後に、本発明のいくつかの変形実施形態について説明する。
[ウェアラブル端末]
上記したウェアラブル端末として、スマートグラスやヘッドセット端末と呼ばれる頭部装着型で、装着した者の視界に情報を表示できる端末を用いることができる。また、このようなウェアラブル端末において、作業者の網膜上で結像する光束を、対象者の目に直接照射して、網膜上に像を結像させ、対象者に、視野上の像(虚像)として認識させるタイプの機器を用いることもできる。
より望ましくは、これらスマートグラスやヘッドセット端末の内側に、装着した者の眼の動きをセンシングするセンサを取り付けることもできる。例えば、これらのセンサを備えたウェアラブル端末は、表示部107に映し出される像が見難いときに行われる作業者の目を細める動作を検出する。このような動作が行われたとき、これらのウェアラブル端末は、画像入力部104から得られる入力画像をズームし、表示部107にて、拡大表示する。なお、上記目を細める動作が行われているか否かは、上記センサから得られる反射光量が所定範囲内かつ所定時間以上継続したか否か等により判断することができる。また、上記センサの精度を向上させるためには、反射光を入力させるために眼球方向に補助光を照射することが望ましく、その照射光は不可視光(近赤外光が望ましい)で、かつ、その光強度は、眼球および網膜に影響の無い範囲であることが好ましい。
また、上記したウェアラブル端末等の端末において、装置の姿勢を検出する3軸加速度センサを内蔵し、重力方向を検出させることも好ましい。これにより、撮像方向や、対象物の画像範囲での大きさ、対象装置の傾き等の情報を得ることが可能となる。これにより、下記マッチングにおいて、画像の傾きの補正や、大きさの変更等の前処理を適切に行うことが可能となる。
[代表画像とのマッチング処理]
上記図10のステップS305、S309、S316で行われる、画像入力部104より取り込んだ画像と代表画像の一致判定処理の変形例について説明する。画像入力部104より取り込んだ画像と代表画像の一致判定は、画像の中の特徴点を抽出し、特徴点同士のマッチングを行う画像マッチング処理と呼ばれる方法を用いて行うことができる。
特定の作業の工程の確認においては、画像入力部104より取り込んだ画像と代表画像のマッチングがし易い様、画像入力部104より取り込んだ画像と代表画像とが、予め定めた角度や大きさで撮像されるように調整されていることが好ましい。例えば、代表画像として、作業者が着用するウェアラブル端末100と同一のウェアラブル端末のカメラにて撮影された画像を用いることが好ましい。また、代表画像は、他の工程でも検出出来る画像ではなく、その工程でのみ得られる画像であることが好ましい。
また、画像入力部104より取り込んだ画像又は代表画像の少なくとも一方が傾いていたり、大きさが異なる場合、座標変換により傾きを補正したり、画像の大きさを変更する等してからマッチングすることが好ましい。特定の作業の工程の確認においては、回路基板の撮像画像を代表画像とすることができる。回路基板のマッチングにおいて、外形を認識して、一致検出を行っても良く、予め定めた形状や色(背景から浮かび上がらせる為、背景色と異なる色)にて、一致検出を行ってもよい。また、作業の対象となる対象物と代表画像の双方に、事前に、複数のマーカ(少なくとも3点。3点で、画像の位置と大きさと角度の検出が可能。更には、画像一致判断の為の、画像の大きさの調整と姿勢のアライメントが可能。)を付し、これらのマーカを特徴点として用いてマッチングを行っても良い。またマーカを使用する場合において、比較対象画像の背景との色の差による2値化を行い、各マーカの位置を抽出してマッチングを行ってもよい。さらには、これらのマーカにより、その位置(撮像面内での、X、Y方向、撮像方向に垂直な面内で、それぞれ垂直に交わる軸)、姿勢(角度θz、撮像面に垂直方向を中心にした回転方向)や大きさを抽出してマッチングを行っても良い。
また、上記マーカによる一致判定に加えて、基準位置からの各部位のパターンの一致度を算出し、この一致度を用いて最終的な同一性判断を行ってもよい。より具体的には、画像の、角度と大きさを合わせた後の、比較画像との差分、例えば、各画素毎の輝度を、輝度の平均が一致する様、画像全体で正規化後、所定以上の輝度差が有る部分の面積の差分により判断する手法を用いることができる。
なお、前記マッチング処理において、演算量を減らすため、所定の閾値(スレッショルド)で2値化した画像間でマッチングを行っても良い。また、前記マッチングにおいて、画像全体でなく、その一部を抽出してマッチングを行ってもよい。例えば、画像入力部104より取り込んだ画像の予め定めた割合の一部の画像が、代表画像と、所定度以上一致するかを判断するマッチング処理を行うことができる。この場合において、画像入力部104より取り込んだ画像の一部の領域を、所定の割合で移動させ、移動の都度、マッチング処理を行い、所定以上の一致度が得られるか否かにより、画像入力部104より取り込んだ画像内に代表画像が有るかを検出しても良い。
また、画像入力部104より取り込んだ画像から切り出す際に前記予め定めた割合を、等倍から所定倍率まで、所定間隔で変化させ、取得した画像中に、代表画像と一致する領域が有るか否かの判断を繰り返しても良い。これにより、画像の大きさが変化しても、画像の一致を検出することが可能となる。
また、画像の領域を移動する度に、所定角度画像を回転させ、その都度、マッチングを行う方法も採用可能である。360度回転させるまでの間に、所定以上の一致度が得られるか否かを確認することで、対象画像が回転していても、正しい判断が出来る様になる。
[部品交換作業の際の作業者へのガイダンス]
また、作業が部品交換作業である場合、部品交換の画像が記憶されている部品の交換時、交換前の部品の画像を代表画像として、交換対象の部品の画像照合を行う場合がある。その際に、部品を交換する作業を撮影する過程で、他の物品等と重ならない画像が得られるような作業手順を定めておくことが好ましい。このような作業手順は、通知情報等により、作業者に案内することができる。
また、前記作業手順において、撮像方向中心軸に対し垂直方向の軸(2軸)を中心とした傾きが所定角度以上とならない様に、交換対象の部品を把持することを指示することも好ましい。この様にすることで、新旧部品が画像中で重ならず、個々検出可能となる。さらに、この様にすることで、各部品の移動を追跡して、誤った取り付けが行われていないことを、画像で判断することが可能となる。上記の様にすることにより、2つの画像を比較する際、マッチング対象の画像の姿勢や大きさを合わせる前処理を省略することが可能となる。また、上記の様にすることにより、2つの画像に写る部品の姿勢が類似し、位置も大きく相違することがない為、マッチングの判定が容易になり、その精度を高めることが可能となる。
さらに、このような作業手順を取り決めておくことにより、取り外した部品を含む画像を比較的短時間の間隔(検出対象画像が大きく動かない程度の時間間隔で、画像を撮像する)で撮像することが可能となる。そして、対象部品の位置の変化を算出することにより、取り外した部品と交換部品を取り違えて、取り外した部品を再度取り付けてしまうことを検出できるようにもなる。
また、取り外した部品を、再度取り付けた場合(画像では、取り外した部品の画像を追跡し、取り付け位置から所定距離以内に近付いた時で判断しても良い)、警告を通知することも好ましい。このような通知を行うことにより、部品等の交換がされていないという交換ミスを防ぐことが出来る。
以上、本発明の各実施形態を説明したが、本発明は、上記した実施形態に限定されるものではなく、本発明の基本的技術的思想を逸脱しない範囲で、更なる変形・置換・調整を加えることができる。例えば、各図面に示したネットワーク構成、各要素の構成、メッセージの表現形態は、本発明の理解を助けるための一例であり、これらの図面に示した構成に限定されるものではない。
最後に、本発明の好ましい形態を要約する。
[第1の形態]
(上記第1の視点による作業支援装置参照)
[第2の形態]
上記した作業支援装置の前記記憶部は、前記作業者が担当する複数種の作業毎に、前記代表画像を対応付けて保持しており、
前記確認部は、
さらに、前記作業者から、開始する作業に関する情報の入力を受け付け、
前記作業者から入力された情報に基づいて、開始される作業を特定し、該特定した作業が所定の順序で実施されているか否かを確認する構成を採ることができる。
[第3の形態]
上記した作業支援装置の前記記憶部は、
前記代表画像に加えて、誤った作業が行われた場合の状況を表した誤り画像を記憶しており、
さらに、
前記確認部は、
前記入力された画像と、前記誤り画像とを照合して、誤った作業が行われたか否かを確認し、
前記通知部は、
前記確認部において誤った作業がなされたと判定した場合、前記作業者に対して誤りが発生したことを通知する構成を採ることができる。
[第4の形態]
上記した作業支援装置の前記記憶部は、
前記第1の工程から前記第2の工程に至る所要時間を、前記第1、第2の工程の代表画像を対応付けて保持し、
さらに、
前記確認部は、
前記第1の工程から前記第2の工程に至るまでの作業に、遅延が生じているか否かを確認し、
前記通知部は、前記作業者に対し、前記作業の遅延の有無を通知する構成を採ることができる。
[第5の形態]
上記した作業支援装置の前記記憶部は、
さらに、前記第2の工程の後に行われる第3の工程の代表画像を保持し、
前記確認部は、
前記第1の工程の後に、入力された画像が、前記第3の工程の代表画像と一致した場合、前記作業に順序誤りが発生したと判定し、
前記通知部は、前記作業者に対し、前記作業に順序誤りが発生していることを通知する構成を採ることができる。
[第6の形態]
上記した作業支援装置の前記記憶部は、
さらに、前記第2の工程の後に行われる工程の代表画像を保持し、
前記確認部は、
前記第1の工程の後に、入力された画像が、前記第2の工程の後に行われるべき工程の代表画像のいずれかと一致した場合、前記作業に順序誤りが発生したと判定し、
前記通知部は、前記作業者に対し、前記作業に順序誤りが発生していることを通知する構成を採ることができる。
[第7の形態]
上記した作業支援装置において、
前記作業者が作業を行っている過程における画像として、前記作業者が着用しているウェアラブル端末のカメラにて撮影された画像を用いることができる。
[第8の形態]
上記した作業支援装置において、
前記代表画像として、前記作業者が着用するウェアラブル端末と同一のウェアラブル端末のカメラにて撮影された画像を用いることができる。
[第9の形態]
上記した作業支援装置は、
前記作業者から、開始する作業に関する情報の入力を受け付ける作業支援装置(ウェアラブル端末)と、
前記作業者から入力された情報に基づいて、開始される作業を特定し、該特定した作業に対応するデータを作業支援装置(ウェアラブル端末)に提供するサーバとを含む構成にて実現することができる。
[第10の形態]
(上記第2の視点による作業支援方法参照)
[第11の形態]
(上記第3の視点によるプログラム参照)
なお、上記第10〜第11の形態は、第1の形態と同様に、第2〜第9の形態に展開することが可能である。
なお、上記の特許文献の各開示を、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の開示の枠内において種々の開示要素(各請求項の各要素、各実施形態ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ、ないし選択(部分的削除を含む)が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。
10a 作業支援装置
11a 記憶部
12a 入力部
13a 確認部
14a 通知部
10b コンピュータ
11b メモリー
12b 入力手段
13b プロセッサ
14b 出力手段
100、100b ウェアラブル端末
100a 作業者
101 ネットワーク
102、202 制御部
103、203 通信部
104、204 画像入力部
105、205 音声入力部
106、206 入力部
107、207 表示部
108、208 音声出力部
109 計時部
110、110a、209 記憶部
111、211 工程画像データベース(工程画像DB)
112 プログラム
113、210 作業情報データベース(作業情報DB)
200 サーバ

Claims (9)

  1. 作業工程単位で誤った作業が行われた場合の状況を表した誤り画像を記憶する記憶部と、
    作業者が作業を行っている過程における画像と、前記誤り画像とを照合して、誤った作業が行われたか否かを確認する確認部と、
    前記確認部が誤った作業が行われたと判断した場合、作業者に対して誤りが発生したことを通知する通知部とを含む作業支援装置。
  2. 前記誤り画像は、各作業工程でのみ得られる画像である請求項1の作業支援装置。
  3. 前記誤り画像は、少なくとも角度、大きさ、画素数のいずれか一が、前記作業者が作業を行っている過程における画像と同一である請求項1または2の作業支援装置。
  4. 前記作業者が作業を行っている過程における画像が、前記作業者が着用しているウェアラブル端末のカメラにて撮影された画像である請求項1から3のいずれか一の作業支援装置。
  5. 前記誤り画像として、前記作業者が着用するウェアラブル端末と同一のウェアラブル端末のカメラにて撮影された画像を用いる請求項4の作業支援装置。
  6. 前記確認部は、前記ウェアラブル端末に入力される画像の一部と、前記誤り画像とを照合する請求項4または5の作業支援装置。
  7. 前記確認部は、前記ウェアラブル端末に入力される画像と、前記誤り画像とのいずれか一方を変換することにより照合する請求項4から6のいずれか一の作業支援装置。
  8. 作業工程単位で誤った作業が行われた場合の状況を表した誤り画像を保持する手段にアクセス可能なコンピュータが、
    作業者が作業を行っている過程における画像と、前記誤り画像とを照合して、誤った作業が行われたか否かを確認するステップと、
    前記ステップが誤った作業が行われたと判断した場合、作業者に対して誤りが発生したことを通知するステップと、
    を含む作業支援方法。
  9. 作業工程単位で誤った作業が行われた場合の状況を表した誤り画像を保持する手段にアクセス可能なコンピュータに、
    作業者が作業を行っている過程における画像と、前記誤り画像とを照合して、誤った作業が行われたか否かを確認する処理と、
    前記処理が誤った作業が行われたと判断した場合、作業者に対して誤りが発生したことを通知する処理と、
    を実行させるプログラム。
JP2021110677A 2017-10-30 2021-07-02 作業支援装置、作業支援方法及びプログラム Active JP7156731B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017209179 2017-10-30
JP2017209179 2017-10-30
JP2019551164A JP6912150B2 (ja) 2017-10-30 2018-10-23 作業支援装置、作業支援方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019551164A Division JP6912150B2 (ja) 2017-10-30 2018-10-23 作業支援装置、作業支援方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021152979A true JP2021152979A (ja) 2021-09-30
JP7156731B2 JP7156731B2 (ja) 2022-10-19

Family

ID=66331946

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019551164A Active JP6912150B2 (ja) 2017-10-30 2018-10-23 作業支援装置、作業支援方法及びプログラム
JP2021110677A Active JP7156731B2 (ja) 2017-10-30 2021-07-02 作業支援装置、作業支援方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019551164A Active JP6912150B2 (ja) 2017-10-30 2018-10-23 作業支援装置、作業支援方法及びプログラム

Country Status (3)

Country Link
JP (2) JP6912150B2 (ja)
CN (1) CN111328402A (ja)
WO (1) WO2019087870A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7329392B2 (ja) * 2019-08-30 2023-08-18 Hoya株式会社 内視鏡リプロセス支援装置、内視鏡リプロセス支援方法およびプログラム
JP7015503B2 (ja) * 2019-12-18 2022-02-03 Arithmer株式会社 貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。
JP7471878B2 (ja) * 2020-03-18 2024-04-22 東芝テック株式会社 映像処理装置
JP7433126B2 (ja) * 2020-04-21 2024-02-19 三菱電機株式会社 画像表示システム、画像表示装置、サーバ、画像表示方法およびプログラム
JP2022554044A (ja) * 2020-08-19 2022-12-28 広西電網有限責任公司賀州供電局 マシンビジョンに基づく変電所現場における作業リアルタイムモニタリングと警報システム
KR102315865B1 (ko) 2020-12-21 2021-10-21 쿠팡 주식회사 작업 정보를 관리하는 전자 장치 및 그 방법
JP7415912B2 (ja) 2020-12-23 2024-01-17 横河電機株式会社 装置、システム、方法およびプログラム
JP7559625B2 (ja) * 2021-03-05 2024-10-02 株式会社島津製作所 ウエアラブルデバイス
US12062206B2 (en) * 2021-05-07 2024-08-13 Tencent America LLC Methods of estimating pose graph and transformation matrix between cameras by recognizing markers on the ground in panorama images
WO2023176030A1 (ja) * 2022-03-18 2023-09-21 株式会社島津製作所 エラー通知システム、および、制御装置
JP7406038B1 (ja) * 2023-09-19 2023-12-26 株式会社日立パワーソリューションズ 作業支援システム及び作業支援方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09198507A (ja) * 1996-01-17 1997-07-31 Meiko Sangyo Kk ガス容器の底面検査装置
JP2008009868A (ja) * 2006-06-30 2008-01-17 Saxa Inc 画像処理装置
JP2015099022A (ja) * 2013-11-18 2015-05-28 東芝三菱電機産業システム株式会社 作業確認システム
JP2015229210A (ja) * 2014-06-04 2015-12-21 パナソニックIpマネジメント株式会社 制御装置及びそれを用いた作業管理システム
JP2016035629A (ja) * 2014-08-01 2016-03-17 株式会社リコー 異常検知装置、異常検知方法、異常検知システム、及びプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06162034A (ja) * 1992-11-20 1994-06-10 Kumahira Safe Co Inc 作業時間管理装置
JP2009279193A (ja) * 2008-05-22 2009-12-03 Fujifilm Corp 医療機器管理システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09198507A (ja) * 1996-01-17 1997-07-31 Meiko Sangyo Kk ガス容器の底面検査装置
JP2008009868A (ja) * 2006-06-30 2008-01-17 Saxa Inc 画像処理装置
JP2015099022A (ja) * 2013-11-18 2015-05-28 東芝三菱電機産業システム株式会社 作業確認システム
JP2015229210A (ja) * 2014-06-04 2015-12-21 パナソニックIpマネジメント株式会社 制御装置及びそれを用いた作業管理システム
JP2016035629A (ja) * 2014-08-01 2016-03-17 株式会社リコー 異常検知装置、異常検知方法、異常検知システム、及びプログラム

Also Published As

Publication number Publication date
JP6912150B2 (ja) 2021-07-28
WO2019087870A1 (ja) 2019-05-09
CN111328402A (zh) 2020-06-23
JP7156731B2 (ja) 2022-10-19
JPWO2019087870A1 (ja) 2020-12-03

Similar Documents

Publication Publication Date Title
JP6912150B2 (ja) 作業支援装置、作業支援方法及びプログラム
CN106340217B (zh) 基于增强现实技术的制造装备智能系统及其实现方法
US20130010068A1 (en) Augmented reality system
JP2005250990A (ja) 作業支援装置
US20210264210A1 (en) Learning data collection device, learning data collection system, and learning data collection method
US20210224752A1 (en) Work support system and work support method
CN104023906A (zh) 操作管理装置及操作管理系统
JP2008235504A (ja) 組立品検査装置
JP2017191490A (ja) 技能伝承システム及び方法
JP7114885B2 (ja) 作業現場監視装置およびプログラム
US7377650B2 (en) Projection of synthetic information
US10133900B2 (en) Controlling the output of contextual information using a computing device
JP7191560B2 (ja) コンテンツ作成システム
JP2015061339A (ja) 結線作業支援システム
JP6270488B2 (ja) オペレータ監視制御装置およびオペレータ監視制御方法
JP6803794B2 (ja) 画像処理装置及び製造システム
JP2023065371A (ja) 製造支援システム,方法,プログラム
KR102597228B1 (ko) 인공지능 기반 모바일 전력설비 정보안내 및 점검 시스템
JP2023082923A (ja) 作業支援システム、作業対象特定装置および方法
KR102603276B1 (ko) Xr 기반의 감리 보조 장치, 방법 및 프로그램
JP5158162B2 (ja) 拡張現実表示システム、拡張現実表示方法および拡張現実表示プログラム
WO2017195646A1 (ja) 作業支援装置
JP2020197971A (ja) 侵入検知装置、プログラムおよび侵入検知システム
KR101483956B1 (ko) 조립품질 검증장치 및 그 방법
CN111462341A (zh) 增强现实的建造辅助方法、装置、终端和介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220929

R151 Written notification of patent or utility model registration

Ref document number: 7156731

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151