JP2016221671A - 作業指示システム、画像処理装置、情報処理方法及びプログラム - Google Patents

作業指示システム、画像処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2016221671A
JP2016221671A JP2016100295A JP2016100295A JP2016221671A JP 2016221671 A JP2016221671 A JP 2016221671A JP 2016100295 A JP2016100295 A JP 2016100295A JP 2016100295 A JP2016100295 A JP 2016100295A JP 2016221671 A JP2016221671 A JP 2016221671A
Authority
JP
Japan
Prior art keywords
work
data
work process
instruction system
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016100295A
Other languages
English (en)
Inventor
秀樹 杉本
Hideki Sugimoto
秀樹 杉本
晃弘 松岡
Akihiro Matsuoka
晃弘 松岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to CN201610371365.4A priority Critical patent/CN106231160A/zh
Priority to US15/169,001 priority patent/US20160358324A1/en
Publication of JP2016221671A publication Critical patent/JP2016221671A/ja
Priority to US16/921,215 priority patent/US11490053B2/en
Pending legal-status Critical Current

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Automatic Assembly (AREA)
  • General Factory Administration (AREA)

Abstract

【課題】行われる作業工程に対応した作業指示書等の資料を出力することを目的とする。【解決手段】被写体を撮像する画像処理装置と、前記画像処理装置に接続される出力装置とを有する作業指示システムが、前記被写体を撮像して画像データを生成し、前記被写体に対して行われる作業工程に対応する判別データを取得し、前記作業工程を示す資料データを入力し、前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別し、前記判別によって特定される前記作業工程に対応する資料データを出力することにより上記課題を解決する。【選択図】図1

Description

本発明は、作業指示システム、画像処理装置、情報処理方法及びプログラムに関する。
従来、機器の製造工程において作業者が行う作業を管理する方法が知られている。
また、作業の管理において、まず、作業者に、ヘッドセットを装着させる。次に、ヘッドセットに含まれるPHSのボタンを作業者が操作すると、音声ガイドによる音声又は作業指示端末のディスプレイによる表示によって、作業者に指示を行う方法が知られている(例えば、特許文献1等)。
しかしながら、従来の方法では、工場等で製品に部品を組み付ける等の作業工程を行う作業員等(以下単に「作業員」という。)は、自身が行っている作業工程を自身で判断して知らせる必要がある。このため、例えば、作業員によって行われた作業工程が誤っていたり、又は作業員が作業工程を知らせる操作を行わなかったりすると、行われる作業工程に対応した作業指示書等の資料が出力されない場合がある。
本発明は、上記課題に鑑みてなされたものであり、行われる作業工程に対応した作業指示書等の資料を出力できる作業指示システムを提供することを目的とする。
一態様における、被写体を撮像する画像処理装置と、前記画像処理装置に接続される出力装置とを有する作業指示システムは、前記被写体を撮像して画像データを生成する撮像部と、前記被写体に対して行われる作業工程に対応する判別データを取得する取得部と、前記作業工程を示す資料データを入力する入力部と、前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別する判別部と、前記判別によって特定される前記作業工程に対応する資料データを出力する出力部とを含む。
本発明の各実施形態によれば、行われる作業工程に対応した作業指示書等の資料を出力できる。
実施形態に係る作業指示システムの使用例を示す全体構成図である。 実施形態に係る画像処理装置のハードウェア構成の一例を示すブロック図である。 実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。 実施形態に係る判別データの一例を示す図である。 実施形態に係る資料データの一例を示す図である。 実施形態に係る作業指示システムによる全体処理の処理結果の一例を示す図である。 実施形態に係る作業指示システムによって生成される作業記録データの一例を示す図である。 実施形態に係る作業時間を用いた分析の一例を示す図である。 実施形態に係る画像処理装置による複数の部品を使用する作業工程に対する判別の一例を示す図である。 実施形態に係る画像処理装置による部品に書き込まれている文字等の判別の一例を示す図である。 実施形態に係る作業指示システムの機能構成の一例を示す機能ブロック図である。 第2実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。 第2実施形態に係る資料データのデータ構成の一例を示す図である。 第3実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。 第4実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。 第6実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。 第6実施形態に係る作業指示システムによる作業箇所を強調する表示の一例を示す図である。
以下、本発明の実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付し、重複した説明を省く。
<第1実施形態>
<全体構成例>
はじめに、本実施形態に係る作業指示システムを使用する使用例を示し、作業指示システムの全体構成例を説明する。
図1は、実施形態に係る作業指示システムの使用例を示す全体構成図である。具体的には、図1は、工場等で作業員WKが部品を組み付ける作業工程等を作業台DS上で行う場合を示す。以下、図示するように、製品PDの製造において、作業員WKが、製品PDに部品を組み付ける作業工程を行う例で説明する。この例では、作業工程において、作業員WKは、製品PDに対して、作業台DS上又は作業台DSの近辺に置かれるケースCSに入れられる第1部品P1、第2部品P2及び第3部品P3をそれぞれ組み付けるとする。なお、部品は、例えば、電子回路基板等の電子部品、ネジ、ワッシャ、バネ若しくはスペーサ等の機構部品又はラベル等である。
作業指示システム1は、画像処理装置の例であるカメラ10と、出力装置の例であるモニタ11とを含む。また、カメラ10と、モニタ11とは、HDMI(登録商標)(High−Definition Multimedia Interface)ケーブル等で接続され、モニタ11は、カメラ10からの出力に基づいて、画像等を表示する。
カメラ10は、作業台DS上のいわゆる作業スペースを撮像できるように設置される。具体的には、例えば、カメラ10は、図示するように、作業台DSに対して光軸が垂直となる角度に設置される。これは、作業員WKが行う作業工程が撮像できるように、いわゆる見下ろしができる位置等にカメラを設置する設置例である。即ち、カメラ10は、作業員WKが製品PDに対して作業工程を行う作業スペースWSが撮像できる位置に設置される。
また、モニタ11は、図示するように、作業台DS上等に設置され、作業員WKは、モニタ11によって表示される資料等を見ることができる。
なお、カメラ10には、図示するように、キーボード及びマウス等の入力装置がUSB(Universal Serial Bus)ケーブル等によって接続されてもよい。即ち、作業員WKは、入力装置を用いて、作業指示システム1に対して操作を行ってもよい。
また、カメラ10には、LAN(Local Area Network)ケーブル等が接続され、カメラ10は、ネットワークに接続されてもよい。即ち、カメラ10は、ネットワークを介してサーバ等の情報処理装置に接続され、カメラ10は、ネットワークを介してサーバ等とデータを送受信してもよい。
なお、カメラ10は、無線LAN等でネットワークに接続されてもよい。
<ハードウェア構成例>
図2は、実施形態に係る画像処理装置のハードウェア構成の一例を示すブロック図である。図示するように、カメラ10は、CPU(Central Processing Unit)10H1と、RAM(Random Access Memory)10H2と、ROM(Read Only Memory)10H3と、入力I/F(interface)10H4と、出力I/F10H5と、外部I/F10H6と、通信I/F10H7と、撮像素子10H8とを有する。なお、カメラ10が有する各ハードウェアは、バスBで接続される。
CPU10H1は、カメラ10が行う各種処理に係る演算及びデータの加工等を行う演算装置並びにカメラ10が有する各ハードウェアを制御する制御装置である。なお、CPU10H1は、FPGA(Field−Programmable Gate Array)又はASIC(Application Specific Integrated Circuit)等でもよい。また、CPU10H1は、複数の演算装置及び制御装置であってもよい。
RAM10H2は、プログラム及びデータを記憶する、いわゆるメモリであり、主記憶装置の例である。一方、ROM10H3は、電源を切ってもプログラム及びデータを記憶することができる不揮発性のメモリ(記憶装置)である。なお、カメラ10は、ハードディスク等の補助記憶装置を更に有してもよい。
入力I/F10H4は、コネクタ及び処理IC(Integrated Circuit)等であり、入力I/F10H4には、ケーブル等を介してキーボード又はマウス等の入力装置が接続される。
出力I/F10H5は、コネクタ及び処理IC等であり、出力I/F10H5には、ケーブル等を介してモニタ11等の出力装置が接続される。なお、カメラ10は、入力装置、出力装置又は入出力装置を有してもよい。
外部I/F10H6は、記録媒体等の外部装置を接続させるコネクタ等である。例えば、記録媒体は、USBメモリ、SD(登録商標)メモリカード、CD又はDVD等である。
通信I/F10H7は、ネットワーク等を介して情報処理装置等とデータ通信を行うコネクタ又はアンテナ等のインタフェースである。
撮像素子10H8は、撮像して画像データを生成する光学系及び画像処理IC等である。具体的には、光学系は、光学センサ、レンズ及びフィルタ等である。なお、撮像素子10H8は、複数の光学系等を有する、いわゆるステレオカメラ等でもよい。
なお、作業指示システム1は、1以上の情報処理装置を更に有してもよい。即ち、カメラ10は、いわゆるネットワークカメラ等であって、ネットワーク等を介して接続される情報処理装置にカメラ10が画像データを送信し、情報処理装置が各種処理の全部又は一部を行ってもよい。なお、情報処理装置は、複数の装置で構成され、処理の一部又は全部が冗長、並列又は分散して行われる構成でもよい。
<全体処理例>
図3は、実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。図3では、作業員が第1作業工程と、第1作業工程の次に行われる第2作業工程とに対して作業指示システムが全体処理を行う例で説明する。なお、ステップS01及びステップS02は、全体処理において、いわゆる準備に係る処理であり、作業員が作業工程を行う前に行われる処理である。一方、ステップS03以降は、作業員が作業工程を行っている間に行われる処理である。
<判別データの取得例(ステップS01)>
カメラは、判別データを取得する。なお、判別データは、製品若しくは部品の色、種類、形状、製品若しくは部品が作業工程で組み付けられる数、組み付けられる位置又はこれらの組み合わせを示すデータである。
図4は、実施形態に係る判別データの一例を示す図である。例えば、板金PAに対して第1ネジPB1、第2ネジPB2及び第3ネジPB3の3つの部品をそれぞれ組み付ける作業工程である例で説明する。この例では、作業員は、図示する位置に第1ネジPB1、第2ネジPB2及び第3ネジPB3の3つの部品をそれぞれ組み付ける。これに対して、カメラ10は、使用されたそれぞれのネジが作業指示書が示す色、種類及び形状であるか否かを判別する。
例えば、色が判別される場合には、判別データは、作業指示書が示すネジの色を示す色名又はRGB値等である。また、種類又は形状が判別される場合には、判別データは、作業指示書のネジを示す画像又は3次元データ等である。さらに、組み付けられる数が判別される場合には、判別データは、ネジの数、即ち、「3」の値を示すデータである。さらにまた、組み付けられる位置が判別される場合には、判別データは、作業指示書の通りに組み付けられた部品の画像又はそれぞれのネジを組み付ける位置を示す座標データ等である。
また、判別される部品がラベルである場合には、判別データは、ラベルの色、ラベルの形状、ラベルに書き込まれている文字、数字、図形、記号、画像又はこれらの組み合わせを示すテキスト又は画像等のデータである。
<資料データの入力例(ステップS02)>
図3に戻り、カメラは、資料データを入力する。なお、資料データは、各作業工程の作業指示書、即ち、各作業工程の作業内容、各作業工程で使用される製品又は部品を示す画像、各製品に部品を組み付けた状態を示す画像、各作業工程の作業順序又はこれらの組み合わせを示すデータである。また、資料データは、後段の処理で、モニタに出力されるデータである。
図5は、実施形態に係る資料データの一例を示す図である。以下、第1作業工程が第2部品P2を取り出す作業工程である例で説明する。この例では、資料データは、第2部品P2を取り出す作業工程に係る作業指示書を示す。具体的には、図示するように、作業指示書は、「第2部品P2を取り出す」等の文字等によって作業内容、第2部品P2が置かれる位置及び第2部品P2の外形を示す画像等の情報等を示す。
図5では、作業内容が、文字及び記号を表示する作業内容データD1によって表示される例である。また、図5では、第2部品P2が置かれる位置が、ケースCSを示す画像データD2によって表示される例である。さらに、図5では、第2部品P2の外形が、第2部品P2を示す画像データD3によって表示される例である。
なお、資料データは、各作業工程の内容によってそれぞれ異なる。したがって、資料データは、図5に示す構成に限られず、例えば、動画、音声又は設計図等が更に用いられてもよい。
<第1作業工程の資料を出力する例(ステップS03)>
図3に戻り、カメラは、ステップS02で入力された資料データのうち、第1作業工程を示す資料データをモニタに出力する。次に、モニタは、資料データに基づいて作業指示書等を表示する。
<第1作業工程に係る被写体の撮像例(ステップS04)>
カメラは、作業スペースWS(図1)上にある被写体を撮像し、画像データを生成する。
<判別データに基づく判別例(ステップS05)>
カメラは、判別データに基づいて判別を行う。具体的には、判別は、パターンマッチング等の画像処理によって実現される。例えば、第1作業工程が第2部品を取り出す作業工程である例では、カメラは、作業員が手に持つ部品と、判別データが示す部品とが一致するか否かをパターンマッチングによって判別する。この例では、判別データは、例えば、第2部品を示す画像である。
具体的には、カメラは、作業員が手に持つ部品を撮像した画像データと、判別データとを比較して類似度が閾値以上の値となる場合には、取り出された部品が第2部品であると判別する。即ち、この場合には、カメラは、第2部品が作業員によって取り出されると、第1作業工程が完了したと判別する。
<第1作業工程が完了したと判別されたか否かの判断例(ステップS06)>
カメラは、第1作業工程が完了したと判別されたか否かを判断する。具体的には、カメラは、第1作業工程で第2部品が取り出されると、ステップS05では、第1作業工程が完了したと判別する。この場合には、カメラは、第1作業工程が完了したと判別されたと判断し(ステップS06でYES)、カメラは、ステップS07に進む。
一方、第1作業工程で第2部品とは異なる第1部品等が取り出されると、ステップS05では、カメラは、第1作業工程が完了していないと判別する。この場合には、カメラは、第1作業工程が完了していないと判別されたと判断し(ステップS06でNO)、カメラは、ステップS09に進む。なお、ステップS06において、カメラは、一定時間完了したと判別されない場合には、第1作業工程が完了していないと判別されたと判断してもよい(ステップS06でNO)。
第1作業工程でなんらかの作業工程が行われると、カメラは、ステップS07乃至ステップS09等のように、作業記録データを生成する。具体的には、第1作業工程で第2部品が取り出された場合には、行われた作業工程は、作業指示書が示す作業工程であり、即ち、正しい作業工程(以下「正しい作業工程」という。)である。一方、第1作業工程で第2部品とは異なる第1部品等が取り出された場合には、行われた作業工程は、作業指示書が示すのとは異なる作業工程、いわゆるポカミス等の誤った作業工程(以下「誤った作業工程」という。)である。
ステップS05では、カメラは、正しい作業工程が行われたか誤った作業工程が行われたかを判別する。次に、正しい作業工程が行われた場合には(ステップS06でYES)、カメラは、ステップS07及びステップS08を行う。一方、誤った作業工程が行われた場合には(ステップS06でNO)、カメラは、ステップS09を行う。
<第1作業工程の作業時間を記憶する例(ステップS07)>
カメラは、第1作業工程の作業時間を記憶する。具体的には、第1作業工程の作業時間は、例えば、第1作業工程の資料が出力されて(ステップS03)から第1作業工程が完了したと判別される(ステップS05)までの時間である。即ち、カメラは、カウンタ又はタイマ等でステップS03からステップS05までの時間を計測して、計測された時間を第1作業工程の作業時間として記憶する。
各作業時間は、例えば、時間研究(JIS Z 8141:2001)等で、作業工程を分析するために用いられる。具体的には、記憶される複数の作業時間を平均等して、各作業工程の標準時間が計算される。
また、各作業時間は、標準時間からカウントダウンする表示又は標準時間を100%として経過時間のバー表示等に活用されてもよい。このように各作業時間が活用されると、作業員の進捗管理及び作業工程のペース把握を行うことができる。
<画像データを記憶する例(ステップS08)>
カメラは、画像データを記憶する。即ち、カメラは、作業工程が行われた結果を画像として記憶する。これによって、カメラは、重要な作業工程等を画像で記録することができる。
<第1作業工程を誤った旨を示すログを記憶する例(ステップS09)>
カメラは、第1作業工程を誤った旨を示すログを記憶する。例えば、ログとしてどのように誤ったかを示すため、誤って取り出された部品を示す画像データ等が記憶される。これによって、誤りやすい部品又は作業工程等を分析するデータを記憶することができる。
<第2作業工程の資料を出力する例(ステップS10)>
カメラは、第1作業工程の次の作業工程となる第2作業工程を示す資料データをモニタに出力する。
なお、全体処理は、図3に示す処理に限られない。例えば、ステップS01及びステップS03は、逆の順序又はそれぞれ並行で行われてもよい。また、全体処理は、第1作業工程及び第2作業工程以外の作業工程を更に対象とし、3つ以上の作業工程を対象としてもよい。
<処理結果例>
図6は、実施形態に係る作業指示システムによる全体処理の処理結果の一例を示す図である。まず、カメラ10は、作業工程が開始される前に、判別データを取得(図3のステップS01)及び資料データを入力する(図3のステップS02)。
作業工程が開始されると、カメラ10は、例えば図6(A)のように、モニタ11に第1作業工程用資料データDD1を出力する(図3のステップS03)。第1作業工程用資料データDD1には、図示するように、作業内容及び第2部品P2を示す画像等が含まれる。特に、第2部品P2を示す画像がモニタに表示されると、第2部品P2と似たような外形の部品が他にある場合でも、作業員WKは、目視で確認しやすい。このため、カメラは、作業員WKが誤って第2部品P2とは異なる部品を取り出してしまうのを少なくできる。即ち、それぞれの作業工程で用いられる部品が表示されると、作業員WKは、作業工程で使用する部品を見ることができる。したがって、似ている部品がある場合でも、誤って似ている部品を作業員WKが作業工程で使用するのを少なくできる。また、作業経験が少ない作業員等であっても、作業員は、作業工程で使用する部品を選ぶのに誤りを少なくできる。
また、第1作業工程用資料データDD1は、第2部品P2が組み付けられた状態等の作業完了状態を示す画像を表示してもよい。即ち、第1作業工程用資料データDD1は、第2部品P2が組み付けられたいわゆるアセンブリ図を表示してもよい。
よって、図6(A)のように、第1作業工程用資料データDD1が表示されると、作業員WKは、モニタ11を見て、第1作業工程がケースCSから第2部品P2を取り出す作業工程であることを知ることができる。したがって、作業員WKは、ケースCSから第2部品P2を取り出す作業工程を行う。これに対して、カメラ10は、作業工程が行われる様子を撮像する(図3のステップS04)。なお、撮像された画像データは、例えば、図示するように、現行画像Imgとして表示されてもよい。また、現行画像Imgは、いわゆるリアルタイム表示が望ましい。
続いて、カメラ10は、図6(B)のように、撮像した画像データに、判別データが示す部品が含まれているか否か判別する(図3のステップS05)。この例では、判別データは、第2部品P2を示す画像データ等であるため、撮像した画像データに、被写体として第2部品P2が含まれている場合には、カメラ10は、第2部品P2が取り出されたと判別する(図3のステップS06でYES)。
第2部品P2が作業員WKによって取り出された場合には、第1作業工程が完了した場合であるため、カメラ10は、作業記録データを生成する(図3のステップS07及びステップS08)。
次に、カメラ10は、例えば図6(C)のように、モニタ11に、第2作業工程用資料データDD2を出力する(図3のステップS10)。これに対して、第2作業工程用資料データDD2が表示されると、作業員WKは、モニタ11を見て、第2作業工程が第1作業工程で取り出した第2部品P2を貼る作業工程であることを知ることができる。
以上のように、判別データに基づく判別によって、カメラ10は、作業員WKが行う各作業工程が正しい作業工程であるか誤った作業工程であるかを判別することができる。
なお、カメラ10は、判別結果を出力してもよい。例えば、カメラ10は、判別結果として、図示するように、表示される現行画像Img上に、判別された第2部品P2を示すように囲み線Img1を表示する。囲み線Img1が表示されると、作業員WKは、取り出した第2部品P2がカメラ10によって判別され、正しい作業工程を行ったことがわかる。さらに、カメラ10は、判別結果として、第2部品P2を判別すると、所定の音を出力してもよい。所定の音が出力されると、作業員WKは、取り出した第2部品P2がカメラ10によって判別され、正しい作業工程を行ったことがわかる。
また、第1作業工程が完了したと判別されないと、第2作業工程用資料データDD2がモニタ11に出力されないため、作業員WKは、誤った作業工程を行った場合には、誤った作業工程を行ったことを知ることができる。
<作業記録データ例>
図7は、実施形態に係る作業指示システムによって生成される作業記録データの一例を示す図である。図示するように、作業記録データDWには、作業工程ごとにそれぞれデータが記憶される。具体的には、「作業工程」に対応して、「作業時間」が記憶される(図3のステップS07)。これによって、各作業工程にかかるそれぞれの作業時間がわかる。例えば、図示するように、計測される作業時間は、作業時間を示す作業時間データDTとして、「作業工程」に対応して作業記録データDWに記憶される。
図8は、実施形態に係る作業時間を用いた分析の一例を示す図である。図示する分析図DAは、各作業工程のそれぞれの作業時間を用いて分析した分析結果の一例である。図示するように、分析図DAが用いられると、各作業時間のばらつき及び行われる作業工程のうち、最も作業時間のかかる作業工程(ボトルネック工程等)を特定する等の分析が行いやすくできる。なお、作業記録データDWの一部又は全部は、ネットワーク等を介して、サーバ等に送信されてもよい。
また、図7に示すように、作業記録データDWには、作業内容を示す「作業項目」、各作業工程が行われた日時を示す「日付」及び「時間」及び各作業工程を行った作業員の氏名を示す「担当者」等が記憶されてもよい。
なお、作業記録データDWは、図7に示す構成及び形式に限られない。例えば、各項目は、それぞれ別々のデータに記憶されてもよい。
さらに、図7に示すように、作業記録データDWには、画像データDImgが記憶されてもよい(図3のステップS08)。例えば、作業記録データDWには、画像データDImgとして、図6に示す現行画像Imgの画像データが記憶される。これによって、カメラは、各作業工程の作業結果を画像として記憶できる。
また、カメラは、被写体が有する文字、数字、図形、記号、バーコード、2次元コード、部品の形状又はこれらの組み合わせ等を認識して、部品を識別する識別データDSNを作業記録データDWに記憶してもよい。なお、識別データDSNは、各部品を特定できる番号等、いわゆるシリアルナンバ、製造番号又はID(Identification)等である。例えば、カメラは、作業工程で対象となる製品又は部品に書き込まれているバーコードを読み取る。次に、カメラは、いわゆるバーコード認識を行うことによって、読み取ったバーコードに対応するシリアルナンバを取得して、シリアルナンバを示す識別データDSNを生成する。さらに、カメラは、生成した識別データDSNを作業記録データDWに記憶する。
なお、カメラは、OCR(Optical Character Recognition)等によって識別データDSNを生成してもよい。
識別データDSNを作業記録データDWに記憶することによって、作業指示システムでは、作業工程で用いられた部品を示すシリアルナンバ等が記録され、それぞれの製品に組み付けられた部品を特定できる。即ち、カメラがシリアルナンバ等を記録することによって、いわゆるトレーサビリティが実現できる。
また、作業工程では、複数の部品が使用される場合がある。この場合には、カメラは、各部品がそれぞれ組み付けられたか、各部品が作業指示書が示す順序で組み付けられたか及び各部品が作業指示書が示す位置に組み付けられたか等を判別してもよい。
図9は、実施形態に係る画像処理装置による複数の部品を使用する作業工程に対する判別の一例を示す図である。例えば、作業工程は、図示するように、製品PDに対して、まず第2部品P2を組み付けて、次に、第1部品P1を組み付ける作業順序とする。
例えば、図9に示す作業工程では、第2部品P2及び第1部品P1が双方とも組み付けられたかがチェックされる。また、図9に示す作業工程では、第1部品P1より先に第2部品P2を組み付ける作業順序で作業工程が行われたかがチェックされる。さらに、図9に示す作業工程では、第1部品P1は、第2部品P2の上に重なる位置に組み付けられたかがチェックされる。
図3に示すステップS05では、例えば、カメラは、まず、第2部品P2が組み付けられたかを判別する。次に、図3に示すステップS05では、カメラは、第1部品P1が組み付けられたかを判別する。
このような判別とすると、例えば、作業員が誤って第2部品P2より先に第1部品P1を組み付けてしまった場合には、カメラは、誤った作業工程が行われたと判断する(図3のステップS06でNO)。これによって、カメラは、組み付ける順序が作業指示書の通りに行われたかをチェックすることができる。
また、このような判別では、カメラは、第1部品P1及び第2部品P2が双方とも含まれていると判別できないと、誤った作業工程が行われたと判断する(図3のステップS06でNO)。これによって、第2部品P2及び第1部品P1が双方とも組み付けられたかがチェックされ、例えば、作業員が誤って第2部品P2を組み付け忘れてしまう等のいわゆるポカミスを少なくできる。
さらに、このような判別では、カメラは、第2部品P2の上に重なる位置に第1部品P1が位置していると判別できないと、誤った作業工程が行われたと判断する(図3のステップS06でNO)。これによって、第1部品P1が第2部品P2の上に重なる位置に組み付けられたかがチェックされ、例えば、作業員が誤って第1部品P1の上に重なる位置に第2部品P2を組み付けてしまう等のいわゆるポカミスを少なくできる。
なお、カメラは、例えば、ネジの締め付け作業工程等をチェックしてもよい。この場合には、カメラは、ネジが組み付けられた位置及び組み付けられたネジの数等を判別する。ネジが組み付けられた位置がチェックされると、カメラは、作業指示書が示す位置にネジが組み付けられたかをチェックでき、誤って別の位置にネジが組み付けられる等のミスを少なくできる。また、ネジの数がチェックされると、カメラは、作業指示書が示す数のネジが組み付けられたかをチェックでき、誤ってネジが締め忘れている場合又は誤ってネジが多く組み付けられている場合等のミスを少なくできる。さらに、作業工程、部品及び製品は、他の種類でもよい。
また、判別では、部品に書き込まれている文字等が更に判別されてもよい。
図10は、実施形態に係る画像処理装置による部品に書き込まれている文字等の判別の一例を示す図である。例えば、作業工程で、図示するような、第2部品P2と、第2部品P2とは異なる部品であって第2部品P2と同一又は類似の外形の類似部品P21とがそれぞれ使用される例で説明する。また、図示するように、第2部品P2には、「AAAA」の第1文字CHA1が書き込まれるとし、一方、類似部品P21には、第1文字CHA1とは異なる「BBBB」の第2文字CHA2が書き込まれるとする。
この例では、カメラは、部品の外形等を判別し、部品に書き込まれている文字が第1文字CHA1であるか否かを更に判別してもよい。図示するように、第2部品P2と、類似部品P21とが双方とも作業工程で使用されると、作業員は、特に混同しやすく、取り出し作業工程等で誤った方を取り出してしまう等のミスを起こしやすい。これに対して、カメラが部品に書き込まれている文字等を判別すると、使用される部品が第2部品P2であるか類似部品P21であるかがチェックされる。即ち、カメラが部品に書き込まれている文字等を判別すると、特に類似の部品等がある場合でも、誤った部品が使用されるのを少なくできる。
<機能構成例>
図11は、実施形態に係る作業指示システムの機能構成の一例を示す機能ブロック図である。具体的には、作業指示システム1は、撮像部1F1と、取得部1F2と、入力部1F3と、判別部1F4と、出力部1F5と、認識部1F6とを含む。
撮像部1F1は、製品PD、第2部品P2等の部品又はこれらの周辺等を被写体として撮像し、画像データDImgを生成する。なお、撮像部1F1は、例えば、撮像素子10H8(図2)等によって実現される。
取得部1F2は、作業工程に対応する判別データDJを取得する。なお、取得部1F2は、入力I/F10H4(図2)、外部I/F10H6(図2)、通信I/F10H7(図2)又は撮像素子10H8等によって実現される。
入力部1F3は、作業工程に用いられる第1作業工程用資料データDD1及び第2作業工程用資料データDD2等の資料データを入力する。なお、入力部1F3は、入力I/F10H4、外部I/F10H6、通信I/F10H7等によって実現される。
判別部1F4は、画像データDImgが示す被写体が、判別データDJが示す状態又は物体を含むか等を判別する。なお、判別部1F4は、CPU10H1(図2)等によって実現される。
出力部1F5は、判別部1F4による判別によって特定される作業工程に対応する資料データを出力する。なお、出力部1F5は、出力I/F10H5(図2)及びモニタ11(図2)等によって実現される。
また、作業指示システム1は、図示するように、認識部1F6を更に含む機能構成でもよい。認識部1F6は、被写体が有する文字、数字、図形、記号、バーコード、2次元コード、前記部品の形状又はこれらの組み合わせを認識して、識別データDSNを生成する。なお、認識部1F6は、CPU10H1等によって実現される。
さらに、作業指示システム1は、画像データDImg及び作業時間データDT等を含む作業記録データDWを生成してもよい。
<まとめ>
以上の説明から明らかなように、本実施形態に係る作業指示システム1では、
・撮像部1F1は、第2部品P2等を被写体として画像データDImgを生成する構成とした。
・取得部1F2は、カメラが部品等を判別するため、判別データDJを取得する構成とした。
・入力部1F3は、資料データを入力する構成とした。
・判別部1F4は、パターンマッチング等の画像処理により、撮像部1F1で撮像された被写体が取得部1F2によって取得される判別データDJが示す部品であるか等を判別する構成とした。
・出力部1F5は、判別部1F4が判別を行うと、図3に示すステップS06のように、行われる作業工程が特定され、特定された作業工程に対応した資料データを出力する構成とした。
作業指示システム1は、取得部1F2によって、あらかじめ判別データDJを取得する。同様に、作業指示システム1は、入力部1F3によって、あらかじめ資料データを入力する。次に、作業工程が開始されると、作業指示システム1は、撮像部1F1によって、第2部品P2等の被写体を撮像し、画像データDImgを生成する。
作業指示システム1は、判別データDJと、撮像される被写体とを比較して、作業工程において、正しい作業工程が行われたか誤った作業工程が行われたかを判別することができる。次に、誤った作業工程が行われた場合には、作業指示システム1は、誤った作業工程を作業員が修正するため、引き続き現行の作業工程が行われると特定できる(図3のステップS06でNO)。一方、正しい作業工程が行われた場合には、作業指示システム1は、作業員が次の作業工程を開始するため、次の作業工程が行われると特定できる(図3のステップS06でYES)。
このため、現行の作業工程が行われると特定されると、作業指示システム1は、現行の作業工程に対応した作業指示書等の資料を出力できる。一方、次の作業工程が行われると特定されると、作業指示システム1は、現行の作業工程に対応した作業指示書から切り替えて、次の作業工程に対応した作業指示書を出力できる。
したがって、作業指示システム1は、行われる作業工程に対応した作業指示書等の資料を出力できる。出力される資料によって、作業指示システム1は、作業員に、作業指示又は作業工程における注意点等を伝えることができる。このため、作業の熟練度が低い作業員等でも、作業工程を行いやすくすることができる。
また、作業指示システム1は、作業指示書等の資料をモニタ等で表示するため、作業指示システム1は、作業指示書等の資料をいわゆるペーパレス化することができる。
さらに、作業指示システム1では、チェックがカメラによって行われるため、いわゆるチェックシート等が使用されるチェックと比較して、チェックがペーパレス化できる。また、作業指示システム1では、チェックがカメラによって行われるため、チェックシートに記入する等のチェックを作業員が行ういわゆる検査工程等を削減できる。同様に、作業指示システム1では、チェックがカメラによって行われるため、作業工程を行った作業員とは別の作業員がチェックを行ういわゆるダブルチェックによる検査工程等を削減できる。
また、作業工程において誤った部品等が使用されるのを防ぐため、いわゆる配膳が行われる場合がある。この場合には、使用される部品のみがケース等に配置され、配置された部品がなくなると、部品がすべて組み付けられたとチェックされる。このためには、ケースに部品を仕分けする作業工程が新たに必要となることが多い。これに対して、本実施形態では、カメラが作業指示書の通りの部品が使用されているか等を判別するため、ケースに部品を仕分けする作業工程が少なくでき、工数を削減することができる。
さらに、作業指示システム1では、カメラを用いるため、電動ドライバ等の工具と接続してチェックを行うシステム等と比較して、ケーブルが少ない場合が多い。したがって、システム構築において、作業指示システム1は、配線等の作業を少なくできる。
また、作業指示システム1では、判別データを用いるため、電動ドライバ等の工具と接続してチェックを行うシステム等と比較して、チェックできる作業工程の種類が多い。さらに、電動ドライバ等の工具と接続してチェックを行うシステム等では、誤った部品が使われていないか等をチェックするのが難しい場合が多い。そのため、作業指示システム1は、多くの種類の作業工程をチェックできる。
<第2実施形態>
第2実施形態は、例えば、第1実施形態と同様の全体構成及びハードウェア構成となる作業指示システム等によって実現される。以下、第1実施形態と同様の全体構成及びハードウェア構成の例で説明し、重複する説明を省略する。第2実施形態は、第1実施形態と全体処理が異なる。
図12は、第2実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。第1実施形態、すなわち、図3に示す全体処理と比較すると、図12に示す全体処理には、ステップS21及びステップS22が加わる点が異なる。また、図3に示す全体処理におけるステップS03と、図12に示す全体処理におけるステップS03とは処理内容が異なる。以下、異なる点を中心に説明する。
<機種データの取得例(ステップS21)>
カメラは、機種データを取得する。なお、被写体の種類は、例えば、製品の機種等である。以下、被写体の種類が機種である例で説明する。まず、製品PD(図1)には、複数の機種があるとし、製品PDの機種を特定できる文字、記号、番号又はこれらの組み合わせ等(以下「機種データ」という。)を示す文字、数字、図形、記号、バーコード、2次元コード又はこれらの組み合わせ等(以下「文字等」という。)が付けられる場合が多い。また、機種データは、製造番号等の一部であってもよい。例えば、製造番号の先頭の数文字から機種が特定できる場合には、機種データは、製造番号の先頭部分等である。そして、カメラは、文字等を撮像し、文字認識等によって機種データを取得する。
<機種及び機種に対応する資料データの判定例(ステップS22)>
カメラは、機種及び機種に対応する資料データを判定する。まず、ステップS02によって入力される資料データは、あらかじめ以下のようなデータ構成となるように生成されるとする。
図13は、第2実施形態に係る資料データのデータ構成の一例を示す図である。例えば、図12に示すステップS03で出力される第1作業工程用資料データDD1及び図12に示すステップS10で出力される第2作業工程用資料データDD2等の資料データは、図示するように、機種ごとに、異なる資料データが入力される構成である。
具体的には、図示する例では、機種は、「製品ID」で特定される。また、この例では、機種データから「製品ID」が特定できるとする。つまり、まず、資料データは、機種が「A」である製品及び機種が「B」である製品等の複数の機種に係るデータを有する。そして、製品PDに付けられる製造番号等の文字等が読み取られると、製品PDの機種が特定できる。次に、特定された機種に基づいて、カメラは、機種が「A」である製品が作業対象であるか、又は機種が「B」である製品が作業対象であるか等が特定できる。
そして、各機種の製品は、複数の作業工程を経て、組み立てられるとする。図示する例では、機種が「A」である製品は、「作業ID」が「A1」である作業工程及び「作業ID」が「A2」である作業工程等がそれぞれ行われて、組み立てられる。
さらに、図示するように、「作業ID」ごと、すなわち、作業工程ごとに、画像データ及び作業内容データ等が入力される。つまり、作業工程ごとに、図5に示すような資料データを出力するのに用いられる部品等を示す画像データD3、作業内容を説明するのに用いられる画像を示す画像データD2及び作業内容データを説明する文字等を示す作業内容データD1等が入力される。
また、作業工程ごとに、判別データDJが紐付けされる。なお、図4に示すような場合には、判別データDJは、画像データ又は座標データ等である。さらに、図10に示すような判別を行う場合には、判別データDJに、部品に記載される文字等を示すデータが含まれてもよい。また、判別データDJと、資料データとは、1つのデータでも、別のデータでもよい。
なお、各データは、各作業工程で同一のデータが用いられる場合がある。例えば、「A1」及び「A2」で同一の部品が作業工程で用いられる場合には、画像データD3は、同一のデータが用いられる。このような場合には、データは、1つ入力され、複数の作業工程で共通して用いられてもよい。このようにすると、資料データのデータ容量を小さくすることができる。
そして、図12に示すステップS22では、カメラは、取得される機種データから機種を特定する。具体的には、図13に示すデータ構成である場合には、カメラは、機種データから「製品ID」を特定する。次に、ステップS22では、カメラは、特定される「製品ID」に対応する資料データを判定する、具体的には、図13に示すデータ構成である場合には、カメラは、「製品ID」が「A」の資料データであるか又は「製品ID」が「B」の資料データであるか等のように、機種に対応する資料データを判定する。
<第1作業工程の資料データの出力例(ステップS03)>
図12に戻り、ステップS03では、カメラは、第1作業工程の資料データを出力する。ステップS03では、カメラは、ステップS22で判定される機種に対応する第1作業工程の資料データを出力する。具体的には、図13に示すデータ構成であって、機種が「A」と判定される場合には、カメラは、「作業ID」が「A1」及び「A2」等となる資料データのうちから第1作業工程の資料データを判別し、出力する。
図12のような全体処理にすると、作業指示システムは、複数の機種があっても、機種等に応じた資料データを出力することができる。
<第3実施形態>
第3実施形態は、例えば、第1実施形態と同様の全体構成及びハードウェア構成となる作業指示システム等によって実現される。以下、第1実施形態と同様の全体構成及びハードウェア構成の例で説明し、重複する説明を省略する。第3実施形態は、第1実施形態と全体処理が異なる。
図14は、第3実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。第1実施形態、すなわち、図3に示す全体処理と比較すると、図14に示す全体処理には、ステップS31が加わる点が異なる。以下、異なる点を中心に説明する。
<修正作業工程の資料データの出力例(ステップS31)>
カメラは、修正作業工程の資料データを出力する。なお、修正作業工程は、前に行われた作業工程を修正し、製品等を第1作業工程が行われた後と同様の状態にする作業工程である。すなわち、まず、第1作業工程が行われるべき作業工程で誤った作業工程が行われると、カメラは、第1作業工程が完了していないと判別する(ステップS06でNO)。この状態では、誤った作業工程が行われたため、製品等は、第2作業工程に進むことができない状態となる。そこで、誤った作業工程後に、作業指示システムは、作業員に対して、修正作業工程の資料データを出力して、前に行われた誤った作業工程を修正する修正作業工程を行わせるようにする。このように、修正作業工程は、いわゆるNG用の作業工程である。
修正作業工程が行われると、製品等は、第1作業工程が完了したと同じ状態となる。そのため、製品等は、次の作業工程となる第2作業工程に進むことができる(ステップS10)。なお、修正作業工程では、第1作業工程が行われる場合と同様に、ステップS04乃至ステップS09等が行われてもよい。
第1作業工程が行われる場合において、誤った作業工程が行われる場合ある。このような場合において、再度、作業員が第1作業工程をやり直す場合より、修正作業工程を行う方が、次の第2作業工程に効率良く進むことができる場合がある。このような場合には、作業指示システムは、修正作業工程を行わせるようにする。このようにして、作業指示システムは、作業工程の効率を良くすることができる。
<第4実施形態>
第4実施形態は、例えば、第1実施形態と同様の全体構成及びハードウェア構成となる作業指示システム等によって実現される。以下、第1実施形態と同様の全体構成及びハードウェア構成の例で説明し、重複する説明を省略する。第4実施形態は、第1実施形態と全体処理が異なる。
製品等には、文字等を示すラベル又はシール等(以下「ラベル等」という。)の部品が組み付けられる場合がある。例えば、ラベル等の部品は、文字又は数字等によって製造番号等を示す。
複数のラベル等の部品を組み付ける作業工程がある場合等では、作業指示書等が示すラベル等の部品と異なるラベル等の部品が各作業工程で組み付けられたか否かをチェックできるのが望ましい。例えば、ラベル等の部品は、以下のような全体処理において、チェックされる。
図15は、第4実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。第1実施形態、すなわち、図3に示す全体処理と比較すると、図15に示す全体処理には、ステップS04がステップS41となる点が異なる。また、図3に示す全体処理と比較すると、図15に示す全体処理は、ステップS05の処理内容が異なる。以下、異なる点を中心に説明する。
<部品チェックデータの入力例(ステップS41)>
カメラは、部品チェックデータを入力する。例えば、ラベル等の部品が、数字等によって製造番号等を示す場合には、作業員は、組み付けたラベル等に記載されている数字等の全部又は一部をキーボード等の入力装置を用いて作業指示システム等に入力する。そして、カメラは、入力装置を介して入力された数字等を示す部品チェックデータを生成する。このように、部品チェックデータは、作業工程によって、組み付けられたラベル等の部品に記載される製造番号等を示すデータである。なお、入力装置は、カメラ等であって、組み付けたラベル等が撮像されると、カメラは、撮像によって生成される画像データに含まれる数字等を文字認識して部品チェックデータを生成してもよい。また、ラベル等の部品がバーコード等を示す場合には、部品チェックデータは、いわゆるバーコードリーダ等の入力装置でスキャンされて生成されてもよい。
<判別データに基づく判別例(ステップS05)>
カメラは、判別データに基づいて判別を行う。まず、カメラには、あらかじめ作業指示書に対応する数字等、すなわち、正しいラベル等の部品が示す数字等を示す判別データが入力される。そして、ステップS06では、あらかじめ入力される判別データが示す数字等と、部品チェックデータが示す数字等とを比較する。
次に、カメラは、比較の結果、判別データが示す数字等と、部品チェックデータが示す数字等とが一致する場合には、カメラは、第1作業工程が完了したと判別する。一方、比較の結果、判別データが示す数字等と、部品チェックデータが示す数字等とが一致しない場合には、カメラは、第1作業工程が完了していないと判別する。
なお、ステップS06に係る判断では、第1実施形態に係る第1作業工程が完了したと判別と、部品チェックデータを用いる判別とが組み合わせられてもよい。例えば、図3に示すように、まず、第1実施形態のステップS04が行われ、画像データが生成される。
カメラは、画像データ及び判別データに基づいて判別を行う。具体的には、図3に示すように、画像データ及び判別データに基づく判別は、パターンマッチング等の画像処理によって実現される。
そして、部品チェックデータに基づく比較の結果、判別データが示す数字等と、部品チェックデータが示す数字等とが一致し、かつ、第2部品が作業員によって取り出されると、カメラは、第1作業工程が完了したと判別する。一方で、部品チェックデータに基づく比較の結果、判別データが示す数字等と、部品チェックデータが示す数字等とが一致しない、又は、第1作業工程で第2部品とは異なる第1部品等が取り出されると、カメラは、第1作業工程が完了していないと判別する。このように、カメラは、2つの判別結果を組み合わせて判別してもよい。
このように、作業工程では、数字等を示すラベル等の部品が組み付けられる場合がある。このような場合には、作業指示書が示すラベル等の部品が組み付けられているか否かをチェックする検査が行われるのが望ましい。
作業指示書が示すラベル等の部品が組み付けられているか否かは、ラベル等が示す数字等から判別される。このようにすると、作業指示システムは、誤ったラベル等が組み付けられて製品等が出荷されるのを少なくすることができる。
<第5実施形態>
第5実施形態は、例えば、第1実施形態と同様の全体構成及びハードウェア構成となる作業指示システム等によって実現される。以下、第1実施形態と同様の全体構成及びハードウェア構成の例で説明し、重複する説明を省略する。第5実施形態では、例えば、第1実施形態と同様の図3に示す全体処理が行われる。ただし、ステップS04及びステップS05の処理内容が異なる。以下、異なる点を中心に説明する。
例えば、取扱説明書若しくは保証書等の書類、製品の予備部品、出荷後にユーザ等が製品に組み付けるラベル等の部品又はこれらの組み合わせ(以下「同封品」という。)が製品と同封され、出荷される場合がある。作業指示システムは、同封品の向き、色、形、数量、順番又は同封品に記載されている文字若しくは絵等をチェックする検査を行うのが望ましい。なお、同封品の向き、色、形、数量、順番又は同封品に記載されている文字若しくは絵等は、作業指示書にあらかじめ定められてあるとし、これらは、判別データに入力されるとする。以下、第1作業工程では、同封品を梱包する作業が行われるとする。
<第1作業工程に係る被写体の撮像例(ステップS04)>
図3に示すように、カメラは、作業スペースWS(図1)上にある被写体を撮像し、画像データを生成する。第5実施形態では、被写体が同封品となる。なお、同封品が複数ある場合には、例えば、作業員は、梱包する順に、同封品をカメラによって撮像する。
<判別データに基づく判別例(ステップS05)>
カメラは、判別データに基づいて判別を行う。具体的には、カメラは、画像データが示す同封品の向き、色又は形が、判別データが示す向き、色又は形と一致するか否かで判別する。また、同封品が書類であって、文字又は絵等が記載されている場合には、カメラは、記載されている文字又は絵等を認識して、判別データが示す文字又は絵等と一致するか否かで判別する。このようにして、カメラは、作業指示書が示す同封品が梱包されるか否かをチェックすることができる。
また、複数の同封品がある場合には、同封品が撮像された順番又はすべて一致するか等をチェックすると、カメラは、同封品が梱包される順番及び数量をチェックすることができる。
このように、作業工程では、同封品を梱包する場合がある。このような場合には、作業指示書が示す同封品の向き、色、形、数量、順番又は同封品に記載されている文字若しくは絵等をチェックする検査が行われるのが望ましい。
作業指示書が示す同封品の向き、色、形、数量、順番又は同封品に記載されている文字若しくは絵等の通りに同封品が梱包されるか否かは、同封品を撮像した画像データ等から判別される。このようにすると、作業指示システムは、誤った同封品が梱包されて出荷されるのを少なくすることができる。
<第6実施形態>
第6実施形態は、例えば、第1実施形態と同様の全体構成及びハードウェア構成となる作業指示システム等によって実現される。以下、第1実施形態と同様の全体構成及びハードウェア構成の例で説明し、重複する説明を省略する。第6実施形態では、図3に示す全体処理と比較すると、全体処理が異なる。以下、異なる点を中心に説明する。
図16は、第6実施形態に係る作業指示システムによる全体処理の一例を示すフローチャートである。第1実施形態、すなわち、図3に示す全体処理と比較すると、図16に示す全体処理には、ステップS61が加わる点が異なる。
<作業箇所の強調表示例(ステップS61)>
カメラは、作業箇所を強調する表示を行う。例えば、カメラは、以下のような表示をモニタに出力する。
図17は、第6実施形態に係る作業指示システムによる作業箇所を強調する表示の一例を示す図である。以下、第1作業工程が、図示する第1作業工程用資料データDD1が示すように、「トレイ」の4箇所に「ネジ」を組み付ける作業工程である例で説明する。まず、図17に示すステップS03によって、第1作業工程用資料データDD1が、モニタ11に表示される。
そして、モニタ11には、図示するように、更に現行画像Imgとが表示される。例えば、図示するように、現行画像Imgに対して、作業対象となる箇所(以下「作業箇所」という。)を強調する強調表示HLAが行われる。例えば、図示するように、4箇所の「ネジ」を組み付ける作業箇所のうち、3箇所に対して「ネジ」の組み付けが終了した場合には、残りの1箇所(図示する現行画像Imgの左上の箇所である。)が組み付け前である場合には、残りの1箇所が作業箇所となる。このような場合には、カメラは、現行画像Imgにおいて、作業箇所が分かるように、例えば、作業箇所を囲み線で囲うため、囲み線の強調表示HLAを行う。なお、現行画像Imgには、図17に示すステップS04で撮像される「トレイ」及び「ネジ」等の被写体が表示される。図示するように、現行画像Imgは、例えば、撮像された画像上に強調表示HLAが行われた画像である。
また、モニタ11には、いわゆる完成図ImgF等が表示されてもよい。図示するように、完成図ImgFは、強調表示HLAで特定される作業箇所が、どのような状態となるとカメラに第1作業工程が完了と判別されるかを示す画像である。すなわち、作業員によって、強調表示HLAで特定される作業箇所が、完成図ImgFが示すような状態にされると、第1作業工程は、完了する。図示する例では、作業箇所に「ネジ」が取り付けられると、作業箇所は、完成図ImgFが示すような状態となり、第1作業工程は、完了する。
なお、強調表示HLAは、図示するように、囲み線で囲う表示に限られない。例えば、強調表示HLAは、作業箇所を拡大したり、点滅させたり、作業箇所以外の箇所をグレーアウトさせたりする表示等でもよい。
このように、作業指示システムが作業箇所を強調する出力を行うと、作業員は、どこが作業箇所であるかが分かりやすい。特に、図示するように、第1作業工程用資料データDD1と併せて、現行画像Img上に強調表示HLAが出力されると、作業員は、第1作業工程用資料データDD1等と見比べるのが容易となり、作業内容等が分かりやすい。
なお、本発明に係る各処理の全部又は一部は、アセンブラ、C、C++、C#及びJava(登録商標)等のレガシープログラミング言語等で記述されたコンピュータに実行させるためのプログラムによって実現されてもよい。なお、プログラミング言語は、オブジェクト指向プログラミング言語等でもよい。即ち、プログラムは、情報処理装置又は情報処理装置を含む情報処理システム等のコンピュータに各処理を実行させるためのコンピュータプログラムである。
また、プログラムは、ROM又はEEPROM(Electrically Erasable Programmable ROM)等のコンピュータが読み取り可能な記録媒体に格納して頒布することができる。さらに、記録媒体は、EPROM(Erasable Programmable ROM)、フラッシュメモリ、フレキシブルディスク、CD−ROM等の光学ディスク、SD(登録商標)カード又はMO等でもよく、電子媒体であればよい。さらにまた、プログラムは、電気通信回線を通じて頒布することができる。
さらに、情報処理システムは、ネットワーク等によって相互に接続される2以上の情報処理装置を有し、各種処理の全部又は一部を複数の情報処理装置が分散、並列又は冗長してそれぞれ処理を行ってもよい。
以上、本発明の好ましい実施例について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形又は変更が可能である。
1 作業指示システム
10 カメラ
11 モニタ
P1 第1部品
P2 第2部品
P3 第3部品
PD 製品
WK 作業員
特開2002−328716号公報

Claims (18)

  1. 被写体を撮像する画像処理装置と、前記画像処理装置に接続される出力装置とを有する作業指示システムであって、
    前記被写体を撮像して画像データを生成する撮像部と、
    前記被写体に対して行われる作業工程に対応する判別データを取得する取得部と、
    前記作業工程を示す資料データを入力する入力部と、
    前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別する判別部と、
    前記判別によって特定される前記作業工程に対応する資料データを出力する出力部と
    を含む作業指示システム。
  2. 前記被写体には、前記作業工程によって部品が組み付けられる製品又は前記製品を構成する前記部品が含まれる請求項1に記載の作業指示システム。
  3. 前記判別データは、前記製品若しくは前記部品の色、種類、形状、前記部品が前記作業工程で前記製品に組み付けられる数、前記部品が前記作業工程で前記製品に組み付けられる位置又はこれらの組み合わせを示すデータである請求項2に記載の作業指示システム。
  4. 前記資料データは、前記作業工程の作業指示書、前記作業工程の作業内容、前記作業工程で使用される前記製品若しくは前記部品を示す画像、前記製品に前記部品を組み付けた状態を示す画像、前記作業工程の作業順序又はこれらの組み合わせを含むデータである請求項2又は3に記載の作業指示システム。
  5. 前記判別部は、前記作業工程が前記作業指示書が示す作業工程であるか否かを判別する請求項4に記載の作業指示システム。
  6. 前記被写体が有する文字、数字、図形、記号、バーコード、2次元コード、前記被写体の形状又はこれらの組み合わせを認識する認識部を更に含み、
    前記認識によって定まる前記被写体を識別する識別データと、前記作業工程とを対応させて記憶する請求項1乃至5のいずれか一項に記載の作業指示システム。
  7. 前記識別データは、シリアルナンバ、製造番号又はIDである請求項6に記載の作業指示システム。
  8. 前記作業工程が行われた作業時間を含む作業記録データを生成する請求項1乃至7のいずれか一項に記載の作業指示システム。
  9. 前記作業工程で第1部品及び第2部品を含む複数の部品が使用される場合には、前記判別部は、前記第1部品及び前記第2部品がそれぞれ組み付けられたか否か、前記第1部品及び前記第2部品が組み付けられた順序、前記第1部品及び前記第2部品が組み付けられた位置又はこれらを組み合わせて判別する請求項1乃至8のいずれか一項に記載の作業指示システム。
  10. 作業指示書が示す作業工程が行われたと判別されると、前記出力部は、前記作業工程の次の作業工程に対応する前記資料データを出力する請求項1乃至9のいずれか一項に記載の作業指示システム。
  11. 前記被写体の種類を判定し、
    前記種類ごとに前記資料データが入力され、
    前記種類に基づいて、前記資料データが出力される請求項1乃至10のいずれか一項に記載の作業指示システム。
  12. 前記出力部は、前記判別に基づいて、前に行われた作業工程を修正する修正作業工程に対応する前記資料データを出力する請求項1乃至11のいずれか一項に記載の作業指示システム。
  13. 前記判別部は、前記判別データに基づいて、前記被写体の向き、色、形、数量、順番又は前記被写体に記載されている文字若しくは絵を判別する請求項1乃至12のいずれか一項に記載の作業指示システム。
  14. 前記出力部は、前記作業工程において作業対象となる箇所を強調して出力する請求項1乃至13のいずれか一項に記載の作業指示システム。
  15. 被写体を撮像する画像処理装置と、前記画像処理装置に接続される出力装置とを有する作業指示システムであって、
    前記被写体に組み付けられる部品を示す部品チェックデータを入力する第1入力部と、
    前記被写体に対して行われる作業工程に対応する判別データを取得する取得部と、
    前記作業工程に用いられる資料を示す資料データを入力する第2入力部と、
    前記部品チェックデータ及び前記判別データに基づいて、前記被写体が、前記判別データが示す物体を含むかを判別する判別部と、
    前記判別によって特定される前記作業工程に対応する資料データを出力する出力部と
    を含む作業指示システム。
  16. 被写体を撮像する画像処理装置であって、
    前記被写体を撮像して画像データを生成する撮像部と、
    前記被写体に対して行われる作業工程に対応する判別データを取得する取得部と、
    前記作業工程に用いられる資料を示す資料データを入力する入力部と、
    前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別する判別部と、
    前記判別によって特定される前記作業工程に対応する資料データを出力する出力部と
    を含む画像処理装置。
  17. 被写体を撮像する画像処理装置と、前記画像処理装置に接続される出力装置とを有する作業指示システムが行う情報処理方法であって、
    前記作業指示システムが、前記被写体を撮像して画像データを生成する撮像手順と、
    前記作業指示システムが、前記被写体に対して行われる作業工程に対応する判別データを取得する取得手順と、
    前記作業指示システムが、前記作業工程を示す資料データを入力する入力手順と、
    前記作業指示システムが、前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別する判別手順と、
    前記作業指示システムが、前記判別によって特定される前記作業工程に対応する資料データを出力する出力手順と
    を含む情報処理方法。
  18. 被写体を撮像する画像処理装置と、前記画像処理装置に接続される出力装置とを有するコンピュータに実行させるためのプログラムであって、
    前記コンピュータが、前記被写体を撮像して画像データを生成する撮像手順と、
    前記コンピュータが、前記被写体に対して行われる作業工程に対応する判別データを取得する取得手順と、
    前記コンピュータが、前記作業工程を示す資料データを入力する入力手順と、
    前記コンピュータが、前記画像データ及び前記判別データに基づいて、前記被写体が、前記判別データが示す状態又は物体を含むかを判別する判別手順と、
    前記コンピュータが、前記判別によって特定される前記作業工程に対応する資料データを出力する出力手順と
    を実行させるためのプログラム。
JP2016100295A 2015-06-02 2016-05-19 作業指示システム、画像処理装置、情報処理方法及びプログラム Pending JP2016221671A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201610371365.4A CN106231160A (zh) 2015-06-02 2016-05-30 工作指令系统、图像处理设备和信息处理方法
US15/169,001 US20160358324A1 (en) 2015-06-02 2016-05-31 Work instruction system and image processing apparatus
US16/921,215 US11490053B2 (en) 2015-06-02 2020-07-06 Work instruction system and image processing apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015111834 2015-06-02
JP2015111834 2015-06-02

Publications (1)

Publication Number Publication Date
JP2016221671A true JP2016221671A (ja) 2016-12-28

Family

ID=57746977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016100295A Pending JP2016221671A (ja) 2015-06-02 2016-05-19 作業指示システム、画像処理装置、情報処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2016221671A (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116325A (ja) * 2017-01-16 2018-07-26 沖電気工業株式会社 異常検知システム、異常検知装置、異常検知方法およびプログラム
JP2019084629A (ja) * 2017-11-07 2019-06-06 株式会社日立ビルシステム 着脱作業管理装置、着脱作業管理システム
JP2019139567A (ja) * 2018-02-13 2019-08-22 矢崎総業株式会社 作業支援装置
WO2020039737A1 (ja) * 2018-08-22 2020-02-27 三菱日立パワーシステムズ株式会社 部材取付支援システム及び部材取付支援方法
JP2020032522A (ja) * 2018-08-22 2020-03-05 三菱日立パワーシステムズ株式会社 部材取付支援システム及び部材取付支援方法
CN110866310A (zh) * 2018-08-14 2020-03-06 波音公司 装配过程的自动监督和检查
JP2021076990A (ja) * 2019-11-06 2021-05-20 パナソニックIpマネジメント株式会社 作業表示方法、及び、作業表示装置
EP3869429A1 (en) 2020-02-20 2021-08-25 Subaru Corporation Determination device and determination system
US20220026886A1 (en) * 2018-12-27 2022-01-27 Panasonic Intellectual Property Management Co., Ltd. Task assistance device, task assistance method, and recording medium
US11392871B2 (en) 2019-06-20 2022-07-19 Hitachi, Ltd. Work support device, work support method, and work support program
JP7442066B2 (ja) 2019-11-06 2024-03-04 パナソニックIpマネジメント株式会社 作業表示方法、及び、作業表示装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05183294A (ja) * 1991-12-27 1993-07-23 Hitachi Ltd 作業指示装置
JPH07270329A (ja) * 1994-03-30 1995-10-20 Hitachi Electron Eng Co Ltd ウエハ異物検査装置
JP2006172387A (ja) * 2004-12-20 2006-06-29 Seiko Epson Corp 生産ナビゲーションシステムおよび部品配置装置
JP2007301679A (ja) * 2006-05-11 2007-11-22 Sharp Corp 作業指導システム
JP2009025951A (ja) * 2007-07-18 2009-02-05 Sysmex Corp 作業手順表示方法および作業手順表示システム
JP2015089586A (ja) * 2013-11-05 2015-05-11 小島プレス工業株式会社 作業順守支援装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05183294A (ja) * 1991-12-27 1993-07-23 Hitachi Ltd 作業指示装置
JPH07270329A (ja) * 1994-03-30 1995-10-20 Hitachi Electron Eng Co Ltd ウエハ異物検査装置
JP2006172387A (ja) * 2004-12-20 2006-06-29 Seiko Epson Corp 生産ナビゲーションシステムおよび部品配置装置
JP2007301679A (ja) * 2006-05-11 2007-11-22 Sharp Corp 作業指導システム
JP2009025951A (ja) * 2007-07-18 2009-02-05 Sysmex Corp 作業手順表示方法および作業手順表示システム
JP2015089586A (ja) * 2013-11-05 2015-05-11 小島プレス工業株式会社 作業順守支援装置

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116325A (ja) * 2017-01-16 2018-07-26 沖電気工業株式会社 異常検知システム、異常検知装置、異常検知方法およびプログラム
JP2019084629A (ja) * 2017-11-07 2019-06-06 株式会社日立ビルシステム 着脱作業管理装置、着脱作業管理システム
JP2019139567A (ja) * 2018-02-13 2019-08-22 矢崎総業株式会社 作業支援装置
CN110866310A (zh) * 2018-08-14 2020-03-06 波音公司 装配过程的自动监督和检查
CN110866310B (zh) * 2018-08-14 2024-02-09 波音公司 装配过程的自动监督和检查
KR102513053B1 (ko) 2018-08-22 2023-03-22 미츠비시 파워 가부시키가이샤 부재 취부 지원 시스템 및 부재 취부 지원 방법
JP2020032522A (ja) * 2018-08-22 2020-03-05 三菱日立パワーシステムズ株式会社 部材取付支援システム及び部材取付支援方法
CN112384327A (zh) * 2018-08-22 2021-02-19 三菱动力株式会社 构件装配辅助系统以及构件装配辅助方法
WO2020039737A1 (ja) * 2018-08-22 2020-02-27 三菱日立パワーシステムズ株式会社 部材取付支援システム及び部材取付支援方法
KR20210019075A (ko) * 2018-08-22 2021-02-19 미츠비시 파워 가부시키가이샤 부재 취부 지원 시스템 및 부재 취부 지원 방법
CN112384327B (zh) * 2018-08-22 2022-12-27 三菱重工业株式会社 构件装配辅助系统以及构件装配辅助方法
JP7191659B2 (ja) 2018-08-22 2022-12-19 三菱重工業株式会社 部材取付支援システム及び部材取付支援方法
US20220026886A1 (en) * 2018-12-27 2022-01-27 Panasonic Intellectual Property Management Co., Ltd. Task assistance device, task assistance method, and recording medium
US11392871B2 (en) 2019-06-20 2022-07-19 Hitachi, Ltd. Work support device, work support method, and work support program
JP7340792B2 (ja) 2019-11-06 2023-09-08 パナソニックIpマネジメント株式会社 作業表示方法、及び、作業表示装置
JP2021076990A (ja) * 2019-11-06 2021-05-20 パナソニックIpマネジメント株式会社 作業表示方法、及び、作業表示装置
JP7442066B2 (ja) 2019-11-06 2024-03-04 パナソニックIpマネジメント株式会社 作業表示方法、及び、作業表示装置
US11610300B2 (en) 2020-02-20 2023-03-21 Subaru Corporation Determination device and determination system
EP3869429A1 (en) 2020-02-20 2021-08-25 Subaru Corporation Determination device and determination system
JP7445455B2 (ja) 2020-02-20 2024-03-07 株式会社Subaru 判定装置

Similar Documents

Publication Publication Date Title
JP2016221671A (ja) 作業指示システム、画像処理装置、情報処理方法及びプログラム
US11490053B2 (en) Work instruction system and image processing apparatus
US11704085B2 (en) Augmented reality quick-start and user guide
US10217089B2 (en) System and method for guided printer servicing
JP6695502B2 (ja) 手術器具検出システムおよびコンピュータプログラム
JP2018530800A (ja) 電気開閉器の組立方法並びにそのような開閉器の組み立てを簡素化する組立補助装置
JPWO2016052379A1 (ja) 情報処理装置、棚札管理システム、制御方法、及びプログラム
US20160292628A1 (en) Method, and storage medium
CN107533323B (zh) 信息处理装置、信息处理系统以及信息处理程序
US10706658B2 (en) Vending machine recognition apparatus, vending machine recognition method, and recording medium
EP3211500A1 (en) Monitoring system based on image analysis of photographs
US11392871B2 (en) Work support device, work support method, and work support program
US20170177195A1 (en) Image Recognition Scoring Visualization
CN111027531A (zh) 指针式仪表信息识别方法、装置及电子设备
JP6672673B2 (ja) 情報処理装置、制御方法、及びプログラム
JP2017091208A (ja) 文書点検支援装置、文書点検支援システム及びプログラム
US11244149B2 (en) Processing apparatus, processing method, and non-transitory storage medium
JP5891191B2 (ja) 稼動実績取得システム及び稼動実績取得方法
WO2022070353A1 (ja) 情報処理システム、情報処理方法、およびプログラム
JP6454998B2 (ja) 帳票処理システム、帳票処理装置及び帳票処理装置用プログラム
US11586168B2 (en) Storage medium and PLC system construction support device
CN113191356A (zh) 一种开关柜压板设备的状态识别方法及相关装置
JP6104741B2 (ja) ケーブル接続作業の管理装置、その管理方法及びその管理プログラム
JP7500661B2 (ja) コンピュータ装置、制御方法、およびコンピュータプログラム
CN109739233B (zh) Agv小车定位方法、装置及系统

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20160613

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200527

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200923