JP2021002136A - 作業支援装置、作業支援方法、および作業支援プログラム - Google Patents

作業支援装置、作業支援方法、および作業支援プログラム Download PDF

Info

Publication number
JP2021002136A
JP2021002136A JP2019114617A JP2019114617A JP2021002136A JP 2021002136 A JP2021002136 A JP 2021002136A JP 2019114617 A JP2019114617 A JP 2019114617A JP 2019114617 A JP2019114617 A JP 2019114617A JP 2021002136 A JP2021002136 A JP 2021002136A
Authority
JP
Japan
Prior art keywords
work
support device
worker
target
work support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019114617A
Other languages
English (en)
Other versions
JP7248516B2 (ja
Inventor
祐市 桜井
Yuichi Sakurai
祐市 桜井
味松 康行
Yasuyuki Ajimatsu
康行 味松
繁裕 椿
Shigehiro Tsubaki
繁裕 椿
鈴木 一成
Kazunari Suzuki
一成 鈴木
亮太 東
Ryota Azuma
亮太 東
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2019114617A priority Critical patent/JP7248516B2/ja
Priority to US16/899,701 priority patent/US11392871B2/en
Priority to DE102020115669.3A priority patent/DE102020115669A1/de
Priority to CN202010555555.8A priority patent/CN112116193A/zh
Publication of JP2021002136A publication Critical patent/JP2021002136A/ja
Application granted granted Critical
Publication of JP7248516B2 publication Critical patent/JP7248516B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316Sequencing of tasks or work
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0006Industrial image inspection using a design-rule based approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0633Workflow analysis

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Strategic Management (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Operations Research (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】作業者がおこなう作業の識別精度の向上を図る作業支援装置、作業支援方法および作業支援プログラムを提供する。【解決手段】作業支援システム1において、作業支援装置100は、工程ごとに作業順序を示す情報と、工程内の作業ごとに作業者120の作業領域を示す情報と、を記憶している。プロセッサは、作業順序を示す情報に基づいて、作業者120がすべき対象作業を特定する特定処理と、作業領域を示す情報に基づいて、特定処理によって特定された対象作業を作業者120が作業すべき対象領域を選定する選定処理と、選定処理によって選定された領域を撮像するカメラからの撮像データに基づいて、作業者120がおこなっている作業を識別する識別処理と、識別処理による識別結果に基づいて、作業者120が作業順序を逸脱しているか否かを判定する判定処理と、判定処理による判定結果を出力する出力処理と、を実行する。【選択図】図1

Description

本発明は、作業者がおこなう作業を支援する作業支援装置、作業支援方法、および作業支援プログラムに関する。
特許文献1は、作業者が作業の進捗を登録することなく、進捗を把握、管理する作業管理装置を開示する。この作業管理装置は、作業者の動作を検知するセンサと、前記センサが検知した前記動作の特徴量を抽出する特徴量抽出部と、前記動作の特徴量と作業と当該作業の標準時間とを対応づけたデータベースと、前記データベースを参照し前記特徴量抽出部が抽出した前記動作の特徴量に基づき前記作業者が行っている作業を識別する作業識別部と、前記作業識別部が識別した前記作業と前記データベースに登録されている前記標準時間とに応じて作業の進捗を推定する作業進捗推定部と、を備える。
特許文献2は、行われる作業工程に対応した作業指示書等の資料を出力する作業指示システムを開示する。この作業指示システムは、被写体を撮像する画像処理装置と前記画像処理装置に接続される出力装置とを有し、前記被写体を撮像して画像データを生成し、前記被写体に対して行われる作業工程に対応する判別データを取得し、前記作業工程を示す資料データを入力し、前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別し、前記判別によって特定される前記作業工程に対応する資料データを出力する。
特開2018‐163556号公報 特開2016‐221671号公報
しかしながら、特許文献1の作業管理装置の場合、作業者が異なる場合の作業者ごとの骨格の変化(特徴量の違い)や同一作業者でも日による腕の動き方の違い(動作特徴量のばらつき)により、作業者の動作の識別精度が悪化するという問題がある。
また、特許文献2の作業指示システムは、たとえば、ネジの増し締めなど、被写体の状態が変わらない人で作業を判別することができず、作業者の動作の識別精度が悪化するという問題がある。
このように、特許文献1および特許文献2は、単純に作業台全体や作業者全体をカメラで撮像し画像認識で識別するのみでは、特長量の個人差や作業日ごとに差により人作業識別の精度が低下する。
本発明は、上述した従来技術の問題点を解消するため、作業者がおこなう作業の識別精度の向上を図ることを目的とする。
本願において開示される発明の一側面となる作業支援装置は、プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する作業支援装置であって、前記記憶デバイスまたは前記作業支援装置がアクセス可能な他の記憶デバイスは、工程ごとに作業順序を示す情報と、前記工程内の作業ごとに作業者の作業領域を示す情報と、を記憶しており、前記プロセッサは、前記作業順序を示す情報に基づいて、作業者がすべき対象作業を特定する特定処理と、前記作業領域を示す情報に基づいて、前記特定処理によって特定された対象作業を前記作業者が作業すべき対象領域を選定する選定処理と、前記選定処理によって選定された領域を撮像するカメラからの撮像データに基づいて、前記作業者がおこなっている作業を識別する識別処理と、前記識別処理による識別結果に基づいて、作業者が作業順序を逸脱しているか否かを判定する判定処理と、前記判定処理による判定結果を出力する出力処理と、を実行することを特徴とする。
本発明の代表的な実施の形態によれば、作業者がおこなう作業の識別精度の向上を図ることができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
図1は、作業支援システムのシステム構成例を示す説明図である。 図2は、作業支援装置のハードウェア構成例を示すブロック図である。 図3は、作業対象DBの記憶内容例を示す説明図である。 図4は、作業シーケンスDBの記憶内容例を示す説明図である。 図5は、作業エリアDBの記憶内容例を示す説明図である。 図6は、工程管理DBの記憶内容例を示す説明図である。 図7は、工程管理DBの更新状態を示す説明図である。 図8は、工程Piの作業S1の作業開始時の状態を示す説明図である。 図9は、工程Piの作業S1の作業完了時の状態を示す説明図である。 図10は、工程Piの作業S2を示す説明図である。 図11は、工程Piの作業S3の作業中の状態を示す説明図である。 図12は、工程Piの作業S3の作業完了時の状態を示す説明図である。 図13は、工程Piの作業エリアA3−1内での作業S3の既定順番を示す説明図である。 図14は、工程Piの作業順序を表示する出力画面例を示す説明図である。 図15は、作業者が入力デバイスで第3項目を選択した場合に表示される出力画面例を示す説明図である。 図16は、進捗作業検知を示す出力画面例を示す説明図である。 図17は、逸脱作業検知を示す出力画面例を示す説明図である。 図18は、作業支援装置の機能的構成例を示すブロック図である。 図19は、作業支援装置による作業支援処理手順例を示すフローチャートである。
<作業支援システムの構成例>
図1は、作業支援システムのシステム構成例を示す説明図である。作業支援システム1は、作業支援装置100と、カメラ101と、ドライバカウンタ102と、電動ドライバ103と、読取装置104と、キーボード105と、ディスプレイ106と、を有する。
作業支援装置100は、作業者120がおこなう作業を支援するコンピュータである。作業支援装置100は、作業棚108に載置される。カメラ101は、作業支援装置100に接続され、作業台107を撮像し、撮像した撮像データを作業支援装置100に出力する。ドライバカウンタ102は、作業支援装置100に接続され、電動ドライバ103ごとの使用回数を計数し、計数結果を作業支援装置100に出力する。電動ドライバ103は、電動でネジを締緩する電動工具である。
電動ドライバ103は、ドライバカウンタ102に接続され、スクリューを回転させたときの回転方向を示す信号をドライバカウンタ102に出力する。これにより、ドライバカウンタ102は、電動ドライバ103ごとに、締め付けた回数と緩めた回数とを計数することができる。なお、作業支援システム1は、ドライバカウンタ102および電動ドライバ103を有することとしたが、非電動のドライバでもよい。
読取装置104は、作業支援装置100に接続され、作業対象の一つである筐体110に貼付されたコードを読み取り、コードに織り込まれた数字列を作業支援装置100に出力する。読取装置104は、バーコードを読み取るバーコードリーダでもよく二次元コードを読み取る二次元コードリーダでもよい。キーボード105は、作業支援装置100に接続され、作業者120が作業支援装置100に文字を入力したり、項目を選択したりするためのデバイスである。キーボード105の替わりにタッチパネルでもよい。ディスプレイ106は、作業支援装置100に接続され、作業支援装置100からのデータに基づく画面を表示する。
作業者120は、カメラ101により撮像されている状況下で、作業台107に筐体110を載置して、電動ドライバ103や読取装置104を用いながら作業をおこなう。本実施例では、作業対象としてサーバの組み立て作業を例に挙げて説明する。
<作業支援装置100のハードウェア構成例>
図2は、作業支援装置100のハードウェア構成例を示すブロック図である。作業支援装置100は、プロセッサ201と、記憶デバイス202と、入力デバイス203と、出力デバイス204と、通信インターフェース(通信IF)205と、を有する。プロセッサ201、記憶デバイス202、入力デバイス203、出力デバイス204、および通信IF205は、バス206により接続される。プロセッサ201は、作業支援装置100を制御する。記憶デバイス202は、プロセッサ201の作業エリアとなる。また、記憶デバイス202は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体である。記憶デバイス202としては、たとえば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、フラッシュメモリがある。入力デバイス203は、データを入力する。入力デバイス203としては、たとえば、キーボード105、マウス、タッチパネル、テンキー、スキャナ、カメラ101、ドライバカウンタ102、読取装置104がある。出力デバイス204は、データを出力する。出力デバイス204としては、たとえば、ディスプレイ106、プリンタがある。通信IF205は、ネットワークと接続し、データを送受信する。
<データベース>
つぎに、作業支援装置100が有する作業対象DB、作業シーケンスDB、作業エリアDB、工程管理DBについて説明する。なお、これらデータベースのうち少なくとも1つは、作業支援装置100内ではなく、作業支援装置100がアクセス可能な他のコンピュータに記憶されもよい。
図3は、作業対象DB300の記憶内容例を示す説明図である。作業対象DB300は、工具に関する情報を記憶するデータベースである。作業対象DB300は、フィールドとして、作業対象ID301と、作業対象名称302と、画像データ303と、を有する。同一行の各フィールドの値が1つの工具のエントリを構成する。
作業対象ID301は、作業対象を一意に特定する識別情報である。作業対象とは、作業者120が作業するCPUソケットやその構成部品などの物品のほか、作業者120が作業に用いる工具も含む。工具は、たとえば、上述した電動ドライバ103や読取装置104である。作業対象名称302は、作業対象ID301で特定された作業対象の名称である。画像データ303は、作業対象ID301で特定された作業対象の画像データである。画像データ303は、正面図、側面図など、異なる方向から撮像された複数の画像データでもよい。また、画像データ303は、3次元モデルでもよい。
図4は、作業シーケンスDB400の記憶内容例を示す説明図である。作業シーケンスDB400は、作業者120がおこなう工程ごとに作業順序を示す情報を記憶するデータベースである。作業シーケンスDB400は、一連の作業工程(以下、単に、工程)P1、P2、…、Pi、…、Pn(nは1以上の整数。iは1≦i≦n。)を記憶する。作業者120は、工程P1、P2、…、Pi、…、Pnの順に作業しなければならない。
工程Piは、たとえば、CPUソケットを基板(マザーボード)に取り付ける一連の作業を示す。工程Piは、保護カバー取り外し(S1)、CPUソケットカバーを基板にセット(S2)、既定順番でネジを締結(S3)という作業順序を示す組図情報を含む。工程Piは、保護カバー取り外し(S1)、ソケットカバーを基板にセット(S2)、既定順番でネジを締結(S3)という作業順序で、CPUソケットを基板(マザーボード)に取り付ける工程である。
保護カバー取り外し(S1)は、たとえば、2個の保護カバーおよびソケットカバー(以降、カバー部材群)から保護カバーを取り外し、ソケットカバーを抜き出す作業である。ソケットカバーを基板にセット(S2)は、作業S1で抜き出された2個のソケットカバーをそれぞれ基板上の実装位置に装着する作業である。実装位置には、すでにCPUソケットピンが取り付けられている。既定順番でネジを締結(S3)は、実装位置に装着されたCPUソケットピンの各々についてソケットカバーを既定順番でネジ止めして、CPUソケットピンを基板に固定する作業である。
図5は、作業エリアDB500の記憶内容例を示す説明図である。作業エリアDB500は、工程Pi内の作業ごとに作業者120が作業すべき領域である作業エリアに関する情報を記憶するデータベースである。作業エリアDB500は、工程P1、P2、…、Pi、…、Pnごとに作業エリアを記憶する。作業者120は、工程P1、P2、…、Pi、…、Pnごとに、作業エリア内で作業しなければならない。
工程Piの各作業S1〜S3に対応する作業エリアA1〜A3を例に挙げて説明する。作業エリアAj(jは数字)は、作業Sjで作業すべき領域である。作業エリアA1〜A3は、作業台107の平面座標501上の座標位置により特定される。作業エリアA1は、作業者120がカバー部材群(ソケットカバーおよび保護カバー)から保護カバーを取り外す作業S1をおこなう領域である。
作業エリアA2は、作業者120が2個のソケットカバーをそれぞれ基板にセットする作業S2をおこなう領域である。作業エリアA3は、作業者120がCPUソケットピンの各々に、ソケットカバーを基板にねじ止めする作業S3をおこなう領域である。なお、作業エリアA3は、作業エリアA3−1,A3−2を含む。作業エリアA3−1は、1つ目のCPUソケットピンに、ソケットカバーを基板にねじ止めする作業であり、作業エリアA3−2は、2つ目のCPUソケットピンに、ソケットカバーを基板にねじ止めする作業である。
図6は、工程管理DB600の記憶内容例を示す説明図である。工程管理DB600は、工程P1、P2、…、Pi、…、Pnを管理するデータベースである。工程管理DB600は、フィールドとして、工程ID601と、工程名称602と、開始時刻603と、完了時刻604と、作業ID605と、逸脱606と、を有する。同一行の各フィールドの値が1つの工程Piのエントリを構成する。
工程ID601は、工程Piを一意に特定する識別情報である。工程名称602は、工程ID601で特定された工程Piの名称である。開始時刻603は、工程ID601で特定された工程Piが開始された時刻である。工程Piの開始前では、開始時刻603は記録されていない。完了時刻604は、工程ID601で特定された工程Piが完了した時刻である。工程Piの完了前では、完了時刻604は記録されていない。作業ID605は、工程ID601で特定された工程Piの現在作業中の作業Sjを一意に特定する識別情報である。
逸脱606は、作業ID605で特定される作業Sjが作業順序を逸脱したか否かを示す情報である。「Yes」であれば作業順序が逸脱されたことを示し、「No」であれば作業順序が進捗したことを示す。なお、作業順序の逸脱とは、たとえば、作業者120が作業S2を実行すべきであるにもかかわらず、作業S2を飛ばして作業S3を実行したりする作業Sj間の作業順序の間違いや、作業S3内でネジを締結する順序の間違いのように一作業Sj内で定められた作業順序の間違いがある。
図7は、工程管理DB600の更新状態を示す説明図である。工程P1、P2は既に完了しているため、開始時刻603および完了時刻604が記録されている。また、作業ID605には、工程P1、P2各々の最終作業の作業ID605としてS2、S4が記録されている。また、正常に工程P1、P2が完了しているため、作業ID605で特定される最終作業S2、S4は作業順序を逸脱しておらず、逸脱606には「No」が記録される。
工程Piが現在作業中の作業工程である。開始時刻603の「14:35」は、工程Pi(すなわち作業S1)が開始された時刻である。工程Piはまだ完了していないため、完了時刻604は記録されていない。作業ID605には「S3」が記録されており、現在作業中の作業は作業S3であることが分かる。逸脱606には「Yes」が記録されており、作業S3で作業順序の逸脱があったことが分かる。
<工程Piの作業順序例>
つぎに、図8〜図14を用いて、作業者120がおこなう工程Piの作業順序例について説明する。
図8は、工程Piの作業S1の作業開始時の状態を示す説明図である。作業台107には、筐体110が載置されており、筐体110内には基板800が取り付けられている。基板800には、CPUソケットピン901,902が実装位置801、802に取り付けられている。実装位置801の四隅にはネジ穴810a〜810dが形成され、実装位置802の四隅にはネジ穴820a〜820dが形成されている。作業エリアA1は、筐体110の右側であり、2つのカバー部材群811,821が載置されている。
カバー部材群811,821はそれぞれ、ソケットカバー812,822と、保護カバー813,823と、を有する。ソケットカバー812,822は、基板800に装着されたCPUソケットピン901,902に(図示されない)次の工程で装着されるCPU部品を基板800に固定する金属部材である。保護カバー813,823は、ソケットカバー812,822の損傷を防ぐための樹脂製のカバーである。
作業支援装置100は、カメラ101からの撮像データで作業エリアA1内の被写体として2個のカバー部材群811,821を検出した場合、工程Piの作業S1が開始されたと判断して、工程管理DB600の工程Piのエントリに開始時刻603に当該検出時刻を記録する。
図9は、工程Piの作業S1の作業完了時の状態を示す説明図である。カバー部材群811、821から保護カバー813,823が外されると、ソケットカバー812,822が取り出される。この状態になれば、工程Piの作業は、作業S1から作業S2に進捗する。
なお、作業S1の逸脱は、図8および図9の保護カバー取り外し前後の画像データを比較するだけではない。作業支援装置100は、カメラ101で撮像された保護カバー取り外し中の作業者120の手の動きや取り外された部品の有無など一連の作業動作を考慮して、作業S1の逸脱を判定する。
図10は、工程Piの作業S2を示す説明図である。作業者120は、作業S1で取り出されたソケットカバー812,822を作業エリアA2内の実装位置801,802にそれぞれ取り付ける。具体的には、たとえば、作業者120は、電動ドライバ103を用いてソケットカバー812,822からそれぞれ、4つのネジ1101a〜1101d、1102a〜1102dを取り外し、CPUソケットピン901,902を覆うように実装位置801,802上に載置する。これにより、工程Piの作業は、作業S2から作業S3に進捗する。
図11は、工程Piの作業S3の作業中の状態を示す説明図である。図11では、ソケットカバー812が作業エリアA3−1において基板800に取り付けられCPUソケットピン901が基板800に固定され、かつ、作業エリアA3−2においてソケットカバー822がまだ取り付けられていない状態を示す。ソケットカバー812は、4つのネジ1101a〜1101dがソケットカバー812の穴(不図示)と連通する基板800のネジ穴810a〜810dに螺合することで締結される。
4つのネジ1101a〜1101dの締結には既定順番があり、既定順番通りに締結されなかった場合、作業支援装置100は、作業S3が作業順序を逸脱したと判定する。この場合、作業支援装置100は、工程管理DB600の工程Piのエントリの逸脱に「Yes」を記録する。作業者120は逸脱前の状態に戻す必要がある。作業支援装置100は、カメラ101からの撮像データにより、逸脱前の状態に復元された場合に、作業S3の再実行を作業者120に指示する。
図12は、工程Piの作業S3の作業完了時の状態を示す説明図である。図12では、ソケットカバー812が作業エリアA3−1において基板800に取り付けられCPUソケットピン901が基板800に固定され、かつ、ソケットカバー822が作業エリアA3−2において基板800に取り付けられCPUソケットピン902が基板800に固定された状態を示す。ソケットカバー822は、4つのネジ1102a〜1102dがソケットカバー822の穴(不図示)と連通する基板800のネジ穴820a〜820dに螺合することで締結される。
4つのネジ1102a〜1102dの締結には既定順番があり、既定順番通りに締結されなかった場合、作業支援装置100は、作業S3が作業順序を逸脱したと判定する。この場合、作業支援装置100は、工程管理DB600の工程Piのエントリの逸脱606に「Yes」を記録する。作業者120は逸脱前の状態に戻す必要がある。作業支援装置100は、カメラ101からの撮像データにより、逸脱前の状態に復元された場合に、作業S3の再実行を作業者120に指示する。
作業支援装置100は、カメラ101からの撮像データで作業エリアA3内の被写体として基板800に固定された2個のCPUソケット811,821を検出した場合、工程Piの作業S3の作業が完了、すなわち、工程Piの作業が完了されたと判断して、工程管理DB600の工程Piのエントリの逸脱606に「No」を記録し、工程管理DB600の工程Piのエントリに完了時刻604に当該検出時刻を記録する。
<1作業の既定順番>
つぎに、1作業の既定順番について、工程Piの作業S3を例に挙げて説明する。
図13は、工程Piの作業エリアA3−1内での作業S3の既定順番を示す説明図である。(1)〜(6)は、CPUソケットピン901を基板800に固定させる場合の既定順番である。(0)は、既定順番(1)〜(6)の実行前の作業対象の状態を示し、(7)は、既定順番(1)〜(6)の実行後の作業対象の状態を示す。なお、図13では、作業対象としてCPUソケットピン901を例に挙げて説明するが、CPUソケットピン902についても同様である。
(0)(1)の前の状態であるため、基板800には、CPUソケットピン901およびソケットカバー812が取り付けられているが、ネジ穴810a〜810dにはネジ1101a〜1101dは締められていない。作業者120は、まだ電動ドライバ103を用いていない。
(1)作業者120は、右下のネジ穴810aにネジ1101aを差し込み、電動ドライバ103で締め付ける。(2)作業者120は、ネジ穴810aの対角線上に位置する左上のネジ穴810bにネジ1101bを差し込み、電動ドライバ103で締め付ける。(3)作業者120は、ネジ穴810bの右側に位置する右上のネジ穴810cにネジ1101cを差し込み、電動ドライバ103で締め付ける。(4)作業者120は、ネジ穴810cの対角線上に位置する左下のネジ穴810dにネジ1101dを差し込み、電動ドライバ103で締め付ける。
(5)作業者120は、右下のネジ穴810aに螺合されたネジ1101aを電動ドライバ103で締め増しする。(6)作業者120は、ネジ穴810aの対角線上に位置する左上のネジ穴810bに螺合されたネジ1101bを電動ドライバ103で締め増しする。これにより、作業エリアA3−1内での作業S3が完了する。(7)作業S3が完了した状態である。
カメラ101は、上記(0)〜(7)の一連の作業を撮像し、撮像データを作業支援装置100に出力する。作業支援装置100は、カメラ101からの撮像データを画像認識して、既定順番(1)〜(6)を逸脱しているか否かを判定する。たとえば、(2)において、作業者120が、ネジ穴810bにネジ1101bを差し込まず、ネジ穴810cにネジ1101cを差し込み、電動ドライバ103で締め付けた場合、作業支援装置100は、作業順序を逸脱したと判定する。そして、作業支援装置100は、(1)の状態が完了した状態に作業者120が復元したことを確認して、再度(2)を逸脱するか否かを判定することになる。
このように、たとえば、作業支援装置100は、上記(1)の作業前において、作業エリアA3−1に電動ドライバ103の画像データを検出し、上記(6)の作業後に、作業エリアA3−1に電動ドライバ103の画像データが検出されなくなる。このような電動ドライバ103や作業者120の手の時系列な存否により、ネジ締結の着手と完了という作業者120の作業を特定することができる。
<出力画面例>
つぎに、図14〜図17を用いて、ディスプレイ106に表示される出力画面例について説明する。なお、作業支援装置100は、出力画面のデータをディスプレイ106ではなく、ディスプレイ106を有する他のコンピュータに送信してもよい。
図14は、工程Piの作業順序を表示する出力画面例を示す説明図である。出力画面1400は、作業支援装置100が、作業者120が前の工程Pi−1の完了を特定した場合や、工程Pi−1の出力画面1400において、「次図」を示す第1遷移ボタン1403が選択された場合に、ディスプレイ106に表示される。
第1表示領域1401は、現在の工程Piの文字列を表示する表示領域である。第1表示領域1401は、作業者120が入力デバイス203で選択可能な項目でもよい。たとえば、作業者120が入力デバイス203で第1表示領域1401を選択すると、工程管理DB600の工程Piのエントリの開始時刻603に、第1表示領域1401が選択された時刻を記録してもよい。
第2表示領域1402は、現在の工程Piの作業S1〜S3の作業順序を表示する表示領域である。第2表示領域1402は、作業者120が入力デバイス203で選択可能な第1項目1402a,第2項目1402b,第3項目1402cを含む。第1項目1402aは作業S1を示す。第2項目1402bは作業S2を示す。第3項目1402cは作業S3を示す。作業支援装置100は、現在作業中の作業Sjの項目を強調表示してもよい。これにより、作業者120は、現在どの作業をすべきか、すなわち、作業順序を逸脱していないかを把握することができる。
第1遷移ボタン1403は、次の工程Pi+1の作業順序を表示する出力画面1400に遷移するためのボタンである。第2遷移ボタン1404は、前の工程Pi−1の作業順序を表示する出力画面1400に遷移するためのボタンである。
図15は、作業者120が入力デバイス203で第3項目1402cを選択した場合に表示される出力画面例を示す説明図である。出力画面1500は、作業S1内の作業順序を図、画像、動画像で表示する。これにより、作業者120は、作業S3内の作業順序を視認することができる。終了ボタン1501は、作業者120が入力デバイス203で選択した場合に出力画面1500を閉じるためのボタンである。なお、図15では、第3項目1402cを選択した場合に表示される出力画面1500について説明したが、第1項目1402aや第2項目1402bを選択した場合も同様に作業S1,S2内の作業順序が表示される。
図16は、進捗作業検知を示す出力画面例を示す説明図である。出力画面1600は、作業順序が進捗した場合に表示されるポップアップ画面である。図16の例では、出力画面1600は、工程Piの作業S1の進捗(すなわち、完了)が検知された場合に表示される。遷移ボタン1601は、作業者120が入力デバイス203で選択可能なボタンである。遷移ボタン1601が選択されると、出力画面1600が閉じ、出力画面1400の第1項目1402aの強調表示が解除され、第2項目1402bが強調表示される。
図17は、逸脱作業検知を示す出力画面例を示す説明図である。出力画面1700は、作業順序が逸脱した場合に表示されるポップアップ画面である。図17の例では、出力画面1700は、工程Piの作業S3の逸脱が検知された場合に表示される。復帰ボタン1701は、作業者120が入力デバイス203で選択可能なボタンである。作業者120は逸脱前の元の状態に復帰したあと、復帰ボタン1701が選択されると、出力画面1700が閉じる。
<作業支援装置100の機能的構成例>
図18は、作業支援装置100の機能的構成例を示すブロック図である。作業支援装置100は、作業対象DB300と、作業シーケンスDB400と、作業エリアDB500と、工程管理DB600と、出力画面DB1810と、特定部1801と、選定部1802と、識別部1803と、判定部1804と、出力部1805と、を有する。出力画面DB1810は、図14〜図17に示したような出力画面1400,1500,1600,1700の画面データを記憶する。
作業対象DB300、作業シーケンスDB400、作業エリアDB500、工程管理DB600および出力画面DB1810は、具体的には、たとえば、図2に示した記憶デバイス202に記憶される。特定部1801〜出力部1805は、具体的には、たとえば、記憶デバイス202に記憶されたプログラムをプロセッサ201に実行させることにより実現される。
特定部1801は、カメラ101、ドライバカウンタ102、読取装置104、タッチパネルなどの各種センサ1800に接続される。特定部1801は、作業シーケンスDB400に基づいて、作業者120がすべき対象作業を特定する。具体的には、たとえば、特定部1801は、1つ前の作業が完了すると、次の作業を作業者120がすべき対象作業として特定する。
より具体的には、たとえば、特定部1801は、判定部1804による判定結果が作業順序の進捗を示す場合、工程Piの作業S1が完了すると、次の作業S2を作業者120がすべき作業(以下、対象作業Sj)として特定する。また、特定部1801は、判定部1804による判定結果が作業順序の進捗を示す場合、工程Piの作業S3が完了すると、次の作業である工程Pi+1の最初の作業S1を対象作業Sjとして特定する。ただし、工程Piが最終工程Pnである場合、次の作業である工程Pi+1の最初の作業S1は存在しないため、特定部1801は、対象作業Sjを特定しない。
選定部1802は、作業エリアDB500に基づいて、特定部1801によって特定された対象作業Sjを作業者120が作業すべき領域(以下、対象作業エリアAj)を選定する。具体的には、たとえば、選定部1802は、対象作業Sjに対応する対象作業エリアAjを作業エリアDB500から選定する。たとえば、選定部1802は、対象作業S1であれば作業エリアA1、対象作業S2であれば作業エリアA2、対象作業S3であれば作業エリアA3を選定する。
識別部1803は、選定部1802によって選定された対象作業エリアAjを撮像するカメラ101からの撮像データに基づいて、作業者120がおこなっている作業を識別する。具体的には、たとえば、識別部1803は、対象作業エリアAjを包含する画角となるようにカメラ101の向きや焦点距離を制御する。具体的には、たとえば、対象作業エリアAjの撮像データが撮像領域全体に占める割合が、90%以上あればよい。また、識別部1803は、カメラ101からの撮像データから、対象作業エリアAjに該当する領域の画像データを抽出する。この場合、カメラ101は作業台107の平面座標501で表される全体を常に撮像しておくのみとする。
識別部1803は、たとえば、作業対象DBの画像データ303と作業対象名称302との組み合わせを訓練データとし、訓練データを畳み込みニューラルネットワークに与えることで学習モデルを生成する。識別部1803は、この学習モデルに作業者120が作業中の撮像データを与えて、撮像データ内の作業対象を特定し、特定した作業対象の組み合わせから、作業者120が対象作業Sjを対象作業エリアAjでおこなっているかを作業Sj中に定期的に識別する。
たとえば、対象作業S1でかつ対象作業エリアA1である場合、カメラ101は対象作業エリアA1を撮像する。この場合、作業者120が誤って作業S2を作業エリアA2で行っているとすると、対象作業エリアA1では、作業S1が撮像されないことになる。したがって、識別部1803は、対象作業エリアA1でおこなわれている作業を識別できない。
また、対象作業S3でかつ対象作業エリアA3である場合、カメラ101は対象作業エリアA3を撮像する。この場合、識別部1803は、作業者120が電動ドライバ103を用いてソケットカバー812,822を基板800にネジ止めしてCPUソケットピン901,902を基板800に固定していることを識別する。
また、識別部1803は、判定部1804による判定結果が作業順序の逸脱を示す場合、カメラ101からの撮像データを参照して、作業環境が逸脱前の元の状態に復元したか識別する。たとえば、工程Piにおいて、作業S1の次に作業S2を実行すべきにもかかわらず、作業S3を実行した場合には、識別部1803は、たとえば、図9に示したように、作業S2の開始前の状態(作業S1の完了後の状態)にまで作業対象が復元されているか識別する。撮像データが作業S1の完了後の状態を示している場合、識別部1803は作業対象が復元されたことを識別する。
また、工程Piの作業S3において既定順番を間違えた場合には、識別部1803は、作業S3の開始前の状態にまで作業対象が復元されているか識別する。たとえば、図13に示したようには、(1)のあと、作業者120が(2)の作業でネジ1101bを締結せずに、(3)のように、ネジ1101cを締結した場合には、識別部1803は、カメラ101からの撮像データを参照して、(2)の作業前((1)の完了後の状態)の状態に復元されているか識別する。すなわち、作業者120は、誤って締結したネジ1101cを外さなければならない。撮像データが(1)の完了後の状態を示している場合、識別部1803は作業対象が復元されたことを識別する。
判定部1804は、識別部1803によって識別された作業が対象作業Sjであるか否かを判定する。具体的には、たとえば、判定部1804は、識別された作業が対象作業Sjであれば、作業順序が進捗したと判定する(進捗判定)。具体的には、たとえば、判定部1804は、図13に示したように、作業エリアA3−1で(0)〜(7)の順で作業S3が実行されると、識別部1803による(0)の識別結果と(1)の識別結果とを比較することで(1)で電動ドライバ103が出現したことが分かる。
また、識別部1803による(1)〜(6)の識別結果では、電動ドライバ103の位置が遷移するため、既定順番通りに作業S3が実行されたことが分かる。また、識別部1803による(6)の識別結果と(7)の識別結果とをひかくすることで(7)で電動ドライバ103が消失したことがわかる。このように、対象作業エリアAjでの工具の出現や消失という時系列な流れで作業を識別し作業順序の逸脱を判定することにより、作業間の作業順序の誤りや一作業内での手順の誤りを容易に検出することができる。
判定部1804は、識別された作業が対象作業Sjでなければ、作業順序が逸脱したと判定する(逸脱判定)。たとえば、対象作業S1でかつ対象作業エリアA1である場合、識別部1803による識別結果が、上述したように、「対象作業エリアA1でおこなわれている作業を識別できない」である場合、判定部1804は、作業順序が逸脱したと判定する(逸脱判定)。このように、作業S1の開始直後から識別できないことがわかるため、判定部1804は、早急に作業順序の逸脱を判定することができる。一方、識別部1803による識別結果が作業S1通りである場合、判定部1804は、作業順序が進捗したと判定する。
また、たとえば、対象作業S3でかつ対象作業エリアA3である場合、識別部1803による識別結果が、図13に示した通り、既定順番(1)〜(6)にしたがっている場合、識別結果は作業S3であるため、判定部1804は、作業順序が進捗したと判定する。一方、識別結果が既定順番(1)〜(6)にしたがっていない場合、判定部1804は、作業順序が逸脱したと判定する。
判定部1804は、識別部1803と同様、作業S3の開始から定期的に判定する。したがって、作業S3開始当初は、既定順番通りであっても途中で既定順番を間違えた場合、判定部1804は、作業順序が逸脱したと判定することができる。
出力部1805は、判定部1804による判定結果を出力する。具体的には、たとえば、出力部1805は、図14〜図17に示したような出力画面1400,1500,1600,1700をディスプレイ106に表示する。具体的には、たとえば、判定結果が進捗判定である場合、出力部1805は、図16に示した出力画面1600を後続作業指示としてディスプレイ106に表示する。また、判定結果が逸脱判定である場合、出力部1805は、図17に示した出力画面1700を作業順序の逸脱通知としてディスプレイ106に表示する。
また、出力部1805は、上述したように、対象作業Sjを含む対象工程Piの開始時刻603から終了時刻までの作業時間を工程管理DB600に記録する。具体的には、たとえば、出力部1805は、対象工程Piの最初の対象作業S1の開始時に開始時刻603を記録し、最後の対象作業S3の完了時に完了時刻604を記録する。
また、出力部1805は、対象作業Sjが対象工程Pi内の最終作業S3でない場合、図14において、対象作業Sjの後続作業Sj+1を特定する情報として、後続作業Sj+1の項目を強調表示する。また、出力部1805は、対象作業Sjが対象作業Sjを含む対象工程Pi内の最終作業である場合、対象工程Piの後続工程Pi+1を特定する情報として出力画面1400を出力する。
<作業支援処理手順例>
図19は、作業支援装置100による作業支援処理手順例を示すフローチャートである。作業支援装置100は、特定部1801により対象工程Piおよび対象作業Sjを特定し(ステップS1901)、最終工程Pnが終了したか否かを判断する(ステップS1902)。最終工程Pnでない場合(ステップS1902:No)、作業支援装置100は、選定部1802により、対象作業エリアを選定する(ステップS1903)。
作業支援装置100は、識別部1803により、作業者120が行っている作業を識別し(ステップS1904)、識別結果により作業順序を逸脱しているか否かを判定する(ステップS1905)。判定結果が逸脱判定である場合(ステップS1905:逸脱)、作業支援装置100は、出力部1805により、判定結果として出力画面1700を出力する(ステップS1906)。そして、作業支援装置100は、識別部1803により、対象作業Sj前の状態に復元したか識別する(ステップS1907)。復元されていない場合(ステップS1907:No)、ステップS1906に戻る。復元された場合(ステップS1907:Yes)、ステップS1904に戻り、作業支援装置100は、識別部1803により、当該復元後に作業者120が行っている作業を識別する(ステップS1904)。
また、ステップS1905において、判定結果が進捗判定である場合(ステップS1905:進捗)、作業支援装置100は、出力部1805により、出力画面1600を出力し(ステップS)、ステップS1901に戻る。ステップS1902において最終工程Pnが終了したと判断された場合(ステップS1902:Yes)、作業支援装置100は、一連の処理を終了する。
(1)このように、本実施例にかかる作業支援装置100は、作業シーケンスDB400に基づいて、作業者120がすべき対象作業Sjを特定し、作業エリアDB500に基づいて、特定された対象作業Sjを作業者120が作業すべき対象領域Ajを選定し、選定された対象領域Ajを撮像するカメラ101からの撮像データに基づいて、作業者120がおこなっている作業を識別し、識別された作業が前記対象作業であるか否かを判定し、判定結果を出力する。
したがって、工程Piの組図情報を参照して、カメラ101の画像認識対象を、特定した作業Sjに対応する対象作業エリアAjに絞り込むことで、作業者120間の個人差による特徴量のバラつきの影響や、同一作業者120であっても作業日ごとの挙動の差による特徴量のばらつきの影響を抑制する。したがって、作業識別精度の高精度化を図ることができる。
(2)また、上記(1)において、作業支援装置100は、判定結果と作業シーケンスDB400とに基づいて、対象作業Sjを特定してもよい。これにより、判定結果が進捗判定である場合と逸脱判定である場合を区別して対象作業Sjを特定することができる。したがって、対象作業Sjの特定精度の向上を図ることができる。
(3−1)また、上記(1)において、作業支援装置100は、カメラ101の撮像領域が対象作業エリアAjを包含する画角となるようにカメラ101を制御する。これにより、対象作業エリアAj以外の撮像データを可能な限り除外することで、対象作業エリアAj内での作業について画像認識精度の向上を図ることができる。
(3−2)また、上記(1)において、作業支援装置100は、全撮像領域の撮像データから対象作業エリアAjの画像データを抽出し、抽出した画像データに基づいて、作業者120がおこなっている作業を識別してもよい。これにより、(3−1)のようなカメラ101の姿勢を制御する機構が不要となり、設備の簡便化を図ることができる。
(4)また、上記(1)において、作業支援装置100は、カメラ101での撮像データに含まれる工具の画像データ303に基づいて、作業者120がおこなっている作業を識別する。これにより、工具を用いた作業と工具を用いない作業とを区別して識別することができる。
(5)また、上記(4)において、工具は、ドライバまたは読取装置104を含む。これにより、工具の種類により作業を識別することができる。
(6)また、上記(1)において、作業支援装置100は、識別結果における工具の時系列な存否に基づいて、作業者120が作業順序を逸脱しているか否かを判定する。これにより、対象作業エリアAjでの工具の出現や消失という時系列な流れで作業を識別し作業順序の逸脱を判定するため、作業間の作業順序の誤りや一作業内での手順の誤りを容易に検出することができる。
(7)また、上記(6)において、識別結果における工具の時系列な位置に基づいて、作業者120が作業順序を逸脱しているか否かを判定する。これにより、対象作業エリアAjでの工具の出現や消失、位置変化という時系列な流れで作業を識別し作業順序の逸脱を判定するため、作業間の作業順序の誤りや一作業内での手順の誤りを容易に検出することができる。
(8)また、上記(1)において、作業支援装置100は、作業者120が作業順序を逸脱していない場合、作業シーケンスDB400を参照して、後続作業指示を出力する。これにより、作業者120が対象作業Sjを完了し、かつ、後続作業Sj+1に移行すべきであるということを確認することができる。
(9)また、上記(8)において、作業支援装置100は、対象作業Sjを含む対象工程Piの開始時刻603から終了時刻までの作業時間を工程管理DB600に記録する。これにより、工程Piについてどのくらい時間がかかったかを確認することができる。
(10)また、上記(8)において、作業支援装置100は、対象作業Sjが対象作業Sjを含む対象工程Pi内の最終作業でない場合、後続作業指示として、対象作業Sjの後続作業Sj+1を特定する情報を出力する。これにより、作業者120は、次にどの作業を実行すればよいか確認することができる。
(11)また、上記(8)において、作業支援装置100は、対象作業Sjが対象作業Sjを含む対象工程Pi内の最終作業である場合、後続作業指示として、対象工程Piの後続工程Pi+1を特定する情報を出力する。これにより、作業者120は、次にどの工程を実行すればよいか確認することができる。
(12)また、上記(1)において、作業支援装置100は、作業者120が作業順序を逸脱している場合、作業順序の逸脱通知を出力する。これにより、作業者120は、作業単位で作業順序を逸脱したかを確認することができる。
(13)また、上記(11)において、作業支援装置100は、逸脱通知が出力された場合、カメラ101によって撮像された対象作業エリアAjの新たな撮像データに基づいて、識別された作業前の状態に復元してから作業者120がおこなっている作業を識別する。これにより、作業者120が作業順序を逸脱した場合に、逸脱前の状態に復元してから再度適正な作業を開始させ、作業順序通りに作業するよう促すことができる。
なお、本発明は前述した実施例に限定されるものではなく、添付した特許請求の範囲の趣旨内における様々な変形例及び同等の構成が含まれる。例えば、前述した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに本発明は限定されない。また、ある実施例の構成の一部を他の実施例の構成に置き換えてもよい。また、ある実施例の構成に他の実施例の構成を加えてもよい。また、各実施例の構成の一部について、他の構成の追加、削除、または置換をしてもよい。
また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。
各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、SSD(Solid State Drive)等の記憶装置、又は、IC(Integrated Circuit)カード、SDカード、DVD(Digital Versatile Disc)の記録媒体に格納することができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。
1810 出力画面DB
300 作業対象DB
400 作業シーケンスDB
500 作業エリアDB
600 工程管理DB
100 作業支援装置
101 カメラ
102 ドライバカウンタ
103 電動ドライバ
104 読取装置
105 キーボード
106 ディスプレイ
107 作業台
108 作業棚
120 作業者
1801 特定部
1802 選定部
1803 識別部
1804 判定部
1805 出力部

Claims (15)

  1. プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する作業支援装置であって、
    前記記憶デバイスまたは前記作業支援装置がアクセス可能な他の記憶デバイスは、工程ごとに作業順序を示す情報と、前記工程内の作業ごとに作業者の作業領域を示す情報と、を記憶しており、
    前記プロセッサは、
    前記作業順序を示す情報に基づいて、作業者がすべき対象作業を特定する特定処理と、
    前記作業領域を示す情報に基づいて、前記特定処理によって特定された対象作業を前記作業者が作業すべき対象領域を選定する選定処理と、
    前記選定処理によって選定された領域を撮像するカメラからの撮像データに基づいて、前記作業者がおこなっている作業を識別する識別処理と、
    前記識別処理による識別結果に基づいて、作業者が作業順序を逸脱しているか否かを判定する判定処理と、
    前記判定処理による判定結果を出力する出力処理と、
    を実行することを特徴とする作業支援装置。
  2. 請求項1に記載の作業支援装置であって、
    前記特定処理では、前記プロセッサは、前記判定結果と前記作業順序を示す情報とに基づいて、前記対象作業を特定する、
    ことを特徴とする作業支援装置。
  3. 請求項1に記載の作業支援装置であって、
    前記識別処理では、前記プロセッサは、前記撮像データから前記対象領域の画像データを抽出し、抽出した前記画像データに基づいて、前記作業者がおこなっている作業を識別する、
    ことを特徴とする作業支援装置。
  4. 請求項1に記載の作業支援装置であって、
    前記記憶デバイスは、前記作業者が前記作業に用いる工具ごとに画像データを記憶しており、
    前記識別処理では、前記プロセッサは、前記撮像データに含まれる工具の画像データに基づいて、前記作業者がおこなっている作業を識別する、
    ことを特徴とする作業支援装置。
  5. 請求項4に記載の作業支援装置であって、
    前記工具は、ドライバまたは読取装置を含む、
    ことを特徴とする作業支援装置。
  6. 請求項1に記載の作業支援装置であって、
    前記記憶デバイスまたは前記他の記憶デバイスは、前記作業者が前記作業に用いる工具ごとに画像データを記憶しており、
    前記判定処理では、前記プロセッサは、前記識別結果における前記工具の時系列な存否に基づいて、前記作業者が作業順序を逸脱しているか否かを判定する、
    ことを特徴とする作業支援装置。
  7. 請求項6に記載の作業支援装置であって、
    前記判定処理では、前記プロセッサは、前記識別結果における前記工具の時系列な位置に基づいて、前記作業者が作業順序を逸脱しているか否かを判定する、
    ことを特徴とする作業支援装置。
  8. 請求項1に記載の作業支援装置であって、
    前記出力処理では、前記プロセッサは、前記作業者が作業順序を逸脱していない場合、前記作業順序を示す情報を参照して、後続作業指示を出力する、
    ことを特徴とする作業支援装置。
  9. 請求項8に記載の作業支援装置であって、
    前記出力処理では、前記プロセッサは、前記対象作業を含む対象工程の開始時刻から終了時刻までの作業時間を前記記憶デバイスまたは前記他の記憶デバイスに記録する、
    ことを特徴とする作業支援装置。
  10. 請求項8に記載の作業支援装置であって、
    前記出力処理では、前記プロセッサは、前記対象作業が前記対象作業を含む対象工程内の最終作業でない場合、前記後続作業指示として、前記対象作業の後続作業を特定する情報を出力する、
    ことを特徴とする作業支援装置。
  11. 請求項8に記載の作業支援装置であって、
    前記出力処理では、前記プロセッサは、前記対象作業が前記対象作業を含む対象工程内の最終作業である場合、前記後続作業指示として、前記対象工程の後続工程を特定する情報を出力する、
    ことを特徴とする作業支援装置。
  12. 請求項1に記載の作業支援装置であって、
    前記出力処理では、前記プロセッサは、前記作業者が作業順序を逸脱している場合、前記作業順序の逸脱通知を出力する、
    ことを特徴とする作業支援装置。
  13. 請求項12に記載の作業支援装置であって、
    前記識別処理では、前記プロセッサは、前記逸脱通知が出力された場合、前記カメラによって撮像された前記対象領域の新たな撮像データに基づいて、前記識別された作業前の状態に復元してから前記作業者がおこなっている作業を識別する、
    ことを特徴とする作業支援装置。
  14. プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する作業支援装置が実行する作業支援方法であって、
    前記記憶デバイスまたは前記作業支援装置がアクセス可能な他の記憶デバイスは、工程ごとに作業順序を示す情報と、前記工程内の作業ごとに作業者の作業領域を示す情報と、を記憶しており、
    前記プロセッサは、
    前記作業順序を示す情報に基づいて、作業者がすべき対象作業を特定する特定処理と、
    前記作業領域を示す情報に基づいて、前記特定処理によって特定された対象作業を前記作業者が作業すべき対象領域を選定する選定処理と、
    前記選定処理によって選定された領域を撮像するカメラからの撮像データに基づいて、前記作業者がおこなっている作業を識別する識別処理と、
    前記識別処理による識別結果に基づいて、作業者が作業順序を逸脱しているか否かを判定する判定処理と、
    前記判定処理による判定結果を出力する出力処理と、
    を実行することを特徴とする作業支援方法。
  15. 記憶デバイスにアクセス可能なプロセッサに作業支援を実行させる作業支援プログラムであって、
    前記記憶デバイスは、工程ごとに作業順序を示す情報と、前記工程内の作業ごとに作業者の作業領域を示す情報と、を記憶しており、
    前記プロセッサに、
    前記作業順序を示す情報に基づいて、作業者がすべき対象作業を特定する特定処理と、
    前記作業領域を示す情報に基づいて、前記特定処理によって特定された対象作業を前記作業者が作業すべき対象領域を選定する選定処理と、
    前記選定処理によって選定された領域を撮像するカメラからの撮像データに基づいて、前記作業者がおこなっている作業を識別する識別処理と、
    前記識別処理による識別結果に基づいて、作業者が作業順序を逸脱しているか否かを判定する判定処理と、
    前記判定処理による判定結果を出力する出力処理と、
    を実行させることを特徴とする作業支援プログラム。
JP2019114617A 2019-06-20 2019-06-20 作業支援装置、作業支援方法、および作業支援プログラム Active JP7248516B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019114617A JP7248516B2 (ja) 2019-06-20 2019-06-20 作業支援装置、作業支援方法、および作業支援プログラム
US16/899,701 US11392871B2 (en) 2019-06-20 2020-06-12 Work support device, work support method, and work support program
DE102020115669.3A DE102020115669A1 (de) 2019-06-20 2020-06-15 Arbeitsunterstützungsvorrichtung, arbeitsunterstützungsverfahren und arbeitsunterstützungsprogramm
CN202010555555.8A CN112116193A (zh) 2019-06-20 2020-06-17 作业辅助装置、作业辅助方法以及计算机可读记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019114617A JP7248516B2 (ja) 2019-06-20 2019-06-20 作業支援装置、作業支援方法、および作業支援プログラム

Publications (2)

Publication Number Publication Date
JP2021002136A true JP2021002136A (ja) 2021-01-07
JP7248516B2 JP7248516B2 (ja) 2023-03-29

Family

ID=73654297

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019114617A Active JP7248516B2 (ja) 2019-06-20 2019-06-20 作業支援装置、作業支援方法、および作業支援プログラム

Country Status (4)

Country Link
US (1) US11392871B2 (ja)
JP (1) JP7248516B2 (ja)
CN (1) CN112116193A (ja)
DE (1) DE102020115669A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7449338B2 (ja) 2021-09-03 2024-03-13 東京エレクトロンデバイス株式会社 情報処理方法、プログラム、情報処理装置及び情報処理システム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7391571B2 (ja) * 2019-08-28 2023-12-05 キヤノン株式会社 電子機器、その制御方法、プログラム、および記憶媒体
JP2022176817A (ja) * 2021-05-17 2022-11-30 株式会社日立製作所 作業支援装置および作業支援方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008009868A (ja) * 2006-06-30 2008-01-17 Saxa Inc 画像処理装置
JP2013025478A (ja) * 2011-07-19 2013-02-04 Panasonic Corp 作業検知システム
JP2016038716A (ja) * 2014-08-07 2016-03-22 株式会社ナ・デックス 作業監視装置、作業監視システムおよびプログラム
JP2018022210A (ja) * 2016-08-01 2018-02-08 株式会社日立製作所 作業動作指示装置
JP2018156279A (ja) * 2017-03-16 2018-10-04 株式会社デンソーウェーブ 作業支援装置、作業支援プログラム
US20190105779A1 (en) * 2016-03-24 2019-04-11 Polygon T.R Ltd. Systems and methods for human and robot collaboration
JP2019079144A (ja) * 2017-10-20 2019-05-23 オリンパス株式会社 作業支援システム,撮像装置,ウェアラブル装置,作業支援方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009064123A (ja) * 2007-09-05 2009-03-26 Casio Comput Co Ltd 画像処理装置、撮像装置、画像処理方法、および、プログラム
WO2013035687A1 (ja) * 2011-09-05 2013-03-14 株式会社Tecapo 作業管理システム、作業管理端末、プログラム及び作業管理方法
JP5930708B2 (ja) * 2011-12-27 2016-06-08 三菱電機エンジニアリング株式会社 作業管理装置および作業管理システム
JP6041307B2 (ja) * 2013-03-05 2016-12-07 株式会社日立プラントコンストラクション 作業管理システム
JP5927212B2 (ja) * 2014-02-28 2016-06-01 ファナック株式会社 溶接トーチ検出装置および溶接ロボットシステム
JP6507514B2 (ja) * 2014-07-31 2019-05-08 株式会社リコー 情報処理装置、情報処理システム、情報処理方法、及びプログラム
JP6207764B2 (ja) * 2014-11-26 2017-10-04 三菱電機エンジニアリング株式会社 作業支援システム、作業支援装置及び作業支援方法
JP6663627B2 (ja) * 2015-04-14 2020-03-13 株式会社コンピュータシステム研究所 工事管理支援装置、工事管理支援プログラムおよび記憶媒体
WO2016171895A1 (en) * 2015-04-20 2016-10-27 NSF International Computer-implemented methods for interactively training users to perform food quality and workplace safety tasks using a head mounted display
CN106231160A (zh) * 2015-06-02 2016-12-14 株式会社理光 工作指令系统、图像处理设备和信息处理方法
JP2016221671A (ja) 2015-06-02 2016-12-28 株式会社リコー 作業指示システム、画像処理装置、情報処理方法及びプログラム
JP2017049762A (ja) * 2015-09-01 2017-03-09 株式会社東芝 システム及び方法
JP2017211746A (ja) * 2016-05-24 2017-11-30 三菱電機株式会社 点検作業支援装置及び点検作業支援方法
US11370113B2 (en) * 2016-09-06 2022-06-28 Verily Life Sciences Llc Systems and methods for prevention of surgical mistakes
JP6852321B2 (ja) * 2016-09-09 2021-03-31 コニカミノルタ株式会社 ワークフロー管理装置およびワークフロー管理装置の制御プログラム
JP2018163556A (ja) 2017-03-27 2018-10-18 三菱重工業株式会社 作業管理装置、作業管理方法およびプログラム
JP2019212962A (ja) * 2018-05-31 2019-12-12 オリンパス株式会社 作業支援制御装置および作業画像制御装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008009868A (ja) * 2006-06-30 2008-01-17 Saxa Inc 画像処理装置
JP2013025478A (ja) * 2011-07-19 2013-02-04 Panasonic Corp 作業検知システム
JP2016038716A (ja) * 2014-08-07 2016-03-22 株式会社ナ・デックス 作業監視装置、作業監視システムおよびプログラム
US20190105779A1 (en) * 2016-03-24 2019-04-11 Polygon T.R Ltd. Systems and methods for human and robot collaboration
JP2018022210A (ja) * 2016-08-01 2018-02-08 株式会社日立製作所 作業動作指示装置
JP2018156279A (ja) * 2017-03-16 2018-10-04 株式会社デンソーウェーブ 作業支援装置、作業支援プログラム
JP2019079144A (ja) * 2017-10-20 2019-05-23 オリンパス株式会社 作業支援システム,撮像装置,ウェアラブル装置,作業支援方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7449338B2 (ja) 2021-09-03 2024-03-13 東京エレクトロンデバイス株式会社 情報処理方法、プログラム、情報処理装置及び情報処理システム

Also Published As

Publication number Publication date
DE102020115669A1 (de) 2020-12-24
CN112116193A (zh) 2020-12-22
JP7248516B2 (ja) 2023-03-29
US11392871B2 (en) 2022-07-19
US20200401972A1 (en) 2020-12-24

Similar Documents

Publication Publication Date Title
US11392871B2 (en) Work support device, work support method, and work support program
CN103314356A (zh) 处理设备、追踪单元及诊断设备
JP6717572B2 (ja) 作業分析システム及び作業分析方法
JP2016221671A (ja) 作業指示システム、画像処理装置、情報処理方法及びプログラム
JP2015176272A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
CN111183437A (zh) 判别装置以及机器学习方法
JP6802122B2 (ja) 原因推定方法およびプログラム
JP5891191B2 (ja) 稼動実績取得システム及び稼動実績取得方法
CN114365161A (zh) 作业要素分析装置和作业要素分析方法
JP2022017307A (ja) 管理装置及び管理方法
JP6504180B2 (ja) 異常検出装置、異常検出方法および異常検出プログラム
JP2019159885A (ja) 動作分析装置、動作分析方法、動作分析プログラム及び動作分析システム
US20200064821A1 (en) Inspection assistance device, inspection assistance method, and recording medium
JP2008254157A (ja) 連結部材装着評価装置、方法、プログラムおよび記憶媒体
US10354231B2 (en) Information processing device, information processing method, and information processing system
JP7339063B2 (ja) 作業工程に関する学習を行う機械学習プログラム及び機械学習装置
JPWO2018037891A1 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム記録媒体
JP6989477B2 (ja) 繰り返し故障防止装置、繰り返し故障防止システム及び繰り返し故障防止方法
EP4354388A1 (en) Task analysis device and method
JP7026890B2 (ja) 動作分析装置、動作分析方法及び動作分析プログラム
CN102177527B (zh) 处理左心室心脏图像的方法和设备
JP2024013123A (ja) 作業管理装置、作業管理システム、および、作業管理プログラム
US20230267727A1 (en) Image analysis apparatus, image analysis method, and storage medium
US20200293785A1 (en) Information processing apparatus, information processing method, and medium
EP4365835A1 (en) Work analysis device and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211012

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230316

R150 Certificate of patent or registration of utility model

Ref document number: 7248516

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150