JP2019053527A - 組立作業分析装置、組立作業分析方法、コンピュータプログラム、及び記憶媒体 - Google Patents
組立作業分析装置、組立作業分析方法、コンピュータプログラム、及び記憶媒体 Download PDFInfo
- Publication number
- JP2019053527A JP2019053527A JP2017177415A JP2017177415A JP2019053527A JP 2019053527 A JP2019053527 A JP 2019053527A JP 2017177415 A JP2017177415 A JP 2017177415A JP 2017177415 A JP2017177415 A JP 2017177415A JP 2019053527 A JP2019053527 A JP 2019053527A
- Authority
- JP
- Japan
- Prior art keywords
- work
- order
- assembly work
- operations
- analysis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Automatic Assembly (AREA)
- General Factory Administration (AREA)
- Image Analysis (AREA)
Abstract
【課題】作業順序が規定された組立作業の分析を正確に行う組立作業分析装置を提供する。【解決手段】組立作業分析装置5は、作業者による作業を構成する複数の動作の順序とリスタートが可能な動作とを規定する作業標準書を記憶するメモリ506と、分析部502とを備える。組立作業分析装置5は、カメラ57から作業者による作業を撮影した映像を取得する。分析部502は、取得した映像から作業者による動作を検知して、リスタートが可能な動作により、検知した動作の順序と、作業情報に規定された動作の順序とをそれぞれ分割する。分析部502は、検知した動作の順序の分割結果と、作業情報に規定された動作の順序の分割結果とにより、作業者による作業が正しいか否かを判断する。【選択図】図5
Description
本発明は、工場等における組立作業の映像を用いて組立作業が正しく行われているかを分析する技術に関する。
工場において組立作業が正しく行われているかを分析する手法として、組立作業のシーンを撮影した映像を用いる方法がある。組立作業分析装置は、映像中の作業員の動きを解析し、解析結果を、作業内容を定める作業標準書の記載内容に照らし合わせて組立作業が正しく行われているかを分析する。特許文献1では、映像中の組立作業が発生する箇所に矩形を設定し、該矩形内に作業者の手が進入したか否かで組立作業が行われたかの判断を行う技術を開示する。この技術では、組立作業の個別作業が行われたか否かにより、組立作業が正しく行われたかが判断される。
作業標準書が作業順序を規定する場合、作業者による組立作業が正しいか否かを判断するには、作業の順序を判断しなければならない。作業順序が規定された組立作業の分析は、個別作業が行われたか否かの判断だけでは正確に行われず、個別作業の発生順序を分析する必要がある。作業順序の判断手法には、DP(Dynamic Programming)マッチングに代表されるような、シーケンスの並びのあいまいさを許容するシーケンスマッチングが知られている。
しかし、「通常とは異なる腕の動きに起因した手の矩形への進入」などのように、個別作業と判断するべきではない手の矩形への進入が多発する場合、シーケンスマッチングが正確に機能しないことがある。その結果、作業順序が規定された組立作業の分析が失敗することがある。
しかし、「通常とは異なる腕の動きに起因した手の矩形への進入」などのように、個別作業と判断するべきではない手の矩形への進入が多発する場合、シーケンスマッチングが正確に機能しないことがある。その結果、作業順序が規定された組立作業の分析が失敗することがある。
本発明は、上記の問題に鑑み、作業順序が規定された組立作業の分析を正確に行う組立作業分析装置を提供することを主たる目的とする。
本発明の組立作業分析装置は、作業者による作業を撮影した映像を取得する映像取得手段と、前記作業を構成する複数の動作の順序とリスタートが可能な動作とを規定する作業情報を記憶する記憶手段と、前記映像から前記作業者による動作を検知して、前記リスタートが可能な動作により、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割し、分割した前記検知した動作の順序と、分割した前記作業情報に規定された動作の順序とにより、前記作業者による作業が正しいか否かを判断する分析手段と、を備えることを特徴とする。
本発明によれば、作業順序が規定された組立作業の分析を正確に行うことが可能となる。
以下、図面を参照して、実施形態を詳細に説明する。
図1は、工場において組み立て作業を行う作業場の説明図である。作業場には、作業者18が作業を行うための作業台11が配置される。作業台11上にはワークベンチ12が設けられ、ワークベンチ12上に組立対象物13が配置される。作業台11は、作業者18から見て奥側にシールケース14及びビスケース15が設けられる。作業者18の近傍には、ドライバ受け17及びゴミ箱16が配置される。作業場の上部には、不図示のカメラが設けられる。カメラは、作業者18及びゴミ箱16を含む作業台11の周辺を撮影する。
この作業場では、複写機の内部に組み込む現像器や定着器などの組立対象物13が、ワークベンチ12に置かれて組み立てられる。作業者18は、組立対象物13の組み立てに関する作業標準書に従って組立作業を行う。作業者が作業標準書に従って組立作業を行ったかどうかは、組立作業分析装置によりカメラが撮影した映像から判定される。
本実施形態による組立作業の流れと、組立作業分析装置で用いられるアルゴリズムの概要について説明する。本実施形態における組立作業は、組立対象物13に対するシールの貼付(作業0)及びビス締め(作業1)の2つの作業工程を含む。作業0は、作業者18が、シールケース14からシールを取り、該シールを組立対象物13の左半分に貼り付け、該シールの裏紙をゴミ箱16に捨てる、という一連の作業である。作業1は、作業者18が、ドライバ受け17から右手でドライバを取り、ビスケース15から左手でビスを取り、組立対象物13の中央の黒丸のビス穴にビスを締め、ドライバをドライバ受け17に戻す、という一連の作業である。
これらの作業0、1は、作業標準書に規定される。作業者18は、この順序で組立作業を進めなければならない。なお以降の説明では、作業を構成する組立作業の1つ1つを「動作」と呼ぶ。以下に示すように、各作業は、複数の「動作」から構成されることになる。
・作業0:シール貼付
動作0:シール取得、動作1:シール右端貼付、動作2:シール左端貼付、動作3:シール裏紙破棄
・作業1:ビス締め
動作0:ドライバ取得、動作1:ビス取得、動作2:ビス締め、動作3:ドライバ戻し
・作業0:シール貼付
動作0:シール取得、動作1:シール右端貼付、動作2:シール左端貼付、動作3:シール裏紙破棄
・作業1:ビス締め
動作0:ドライバ取得、動作1:ビス取得、動作2:ビス締め、動作3:ドライバ戻し
本実施形態の組立作業分析装置で用いられるアルゴリズムは、作業場の上部に設置されるカメラで撮影された組立作業の映像を用いて行われる。組立作業分析装置は、該映像の各フレームにおいて作業者18の手の位置を検知し、組立作業の流れに従って手が動いていれば組立作業が正しく行われていると判断する。この処理を実現するためのアルゴリズムの大まかな処理は、動作が発生する領域における手の検知及び手を検知した領域の順番と、作業標準書と、の比較によるシーケンスマッチングである。
図2は、組立作業分析装置による処理のアルゴリズムの説明図である。組立作業分析装置は、映像の各フレームにおいて動作が生じるべき場所に動作エリア(以下、「AA(Action Area)」と呼ぶ。)を設けて、AAに進入する作業者18の手の検知を行う。図2では、AAは、点線の矩形で表される。また、各AAには、ラベルとして動作エリア番号(以下、「AAN(Action Area Number)」と呼ぶ。)が割り当てられる。図2では、AANは、下線付きの数字で表される。
組立作業分析装置は、手が領域(矩形)内に進入したAAのAANを検知する。組立作業の最初から最後までで手が進入したAAのAANの列を「出現AAN列」、作業標準書に記載されている動作の順序に基づいてAANを並べた列を「参照AAN列」と呼ぶ。組立作業分析装置は、出現AAN列と参照AAN列とを比較して、出現AAN列のAANが参照AAN列のAANの通りに並んでいるかを検証する。
組立作業分析装置は、出現AAN列のAANが参照AAN列の通りに並ぶ場合、組立作業が正しく行われたと判断し、そうでなければ組立作業が正しく行われていないと判断する。組立作業分析装置は、この検証をシーケンスマッチングを用いて行う。シーケンスマッチングは、2つの時系列データがすべて一致していなくても、時系列データを構成するラベルの発生順序が概略似ていれば2つの時系列データは同一であるとみなす、あいまいなマッチング手法である。作業者18の手は、次の動作への移動時などに、動作を行わないにもかかわらずAAに進入することがある。この場合、正しく組立作業を行っていても、時系列データである出現AAN列(検知ラベル列)が参照AAN列(参照ラベル列)にすべて一致することはない。このように動作を行わないにもかかわらずAAに進入することで検知されるラベルはノイズとなる。そのために本実施形態の組立分析装置は、シーケンスマッチングを行う。
本実施形態では、DPマッチングと呼ばれるシーケンスマッチングを用いる。DPマッチングは、参照ラベル列及び検知ラベル列の2つの時系列データの類似度を測定する手法である。DPマッチングは、マッチングのコストが最も小さくなるように参照時系列データ(参照ラベル列)のラベルに、観測時系列データ(検知ラベル列)のラベルを紐づけていく。その過程でDPマッチングは、ノイズとなるラベルをノイズとみなして処理をするため、本実施形態のシーケンスマッチングとして用いることができる。参照AAN列(参照ラベル列)は、参照時系列データである。出現AAN列(検知ラベル列)は、観測時系列データである。
図3は、DPマッチングの説明図である。図3(a)は、参照時系列データ及び観測時系列データを例示する。参照時系列データは「1,2,3,4」である。観測時系列データは「1,2,4,3,4」である。観測時系列データで3番目に検知された「4」はノイズであり、図3では下線付きで表される。
図3(a)の例では、左下から右上に向かってラベルの紐付けが行われる。各セルには、左下から、該当のセルを共有する参照、観測の各時系列のラベルを紐づけるまでの最低コストが記される。各セルの最低コストは、最低コストを算出済みの下、左下、左の3つのセルから算出される。これを繰り返すという簡易な処理により、左下から右上までを紐づけていく上での最低コストが導出される。なお、3つのセルのうち、いずれのセルを採用したかを記録しておくために、最終的な右上の最低コストが、どのような経路を通って導出されたががわかるようになっている。
詳細な計算は省略するが、図3(a)の参照時系列データ及び観測時系列データに対してDPマッチングを行った結果は、図3(b)となる。図3(b)の濃いセルをたどる経路が最低コストを実現した経路となる。図3(c)は、紐付けの結果の具体例を示す。ノイズである「4」は、参照時系列データの「4」ではなく、「2」に付随したノイズとして紐づけられている。コストの設計方法等、DPマッチングの詳細については公知であるために説明を省略する。
このようなDPマッチングは、観測時系列データにノイズが多数含まれる場合に、ノイズではないラベル(正ラベル)を正しく紐付けることができない、という技術課題がある。図4は、このようなDPマッチングの技術的課題の説明図である。
図4(a)の場合、観測時系列データは、正ラベル「3」、「4」の後に、ノイズ「3」が3つ続いている。この場合、正ラベル「4」を正しく紐づけると3つのノイズ「3」が参照時系列データの「4」もしくは「5」に紐づけられることになり、大きなコストが発生してしまう。そのため、DPマッチングでは、3つのノイズ「3」が、正ラベル「3」及び「4」とセットにされた上で、参照時系列データの「3」に紐づけられる。その結果、正ラベル「4」が正しく紐づけられなくなる。このことが、出現AAN列と参照AAN列との間のDPマッチングにおいて発生すると、「4」に相当する動作は、行われたにも関わらず、参照AAN列の「4」に紐づかないために「非実施」と判定されてしまう。
そこで本実施形態では、「ノイズの発生確率が極端に低いラベル(ノイズ低発生ラベル)におけるDPマッチングのリスタート」、という考えを導入する。これは、ノイズの発生確率が極端に低いラベルが、観測時系列データで多くの場合1回しか出現しない点に着目した考えである。つまり、DPマッチングを行っている過程で当該ラベルが出現した際には、DPマッチングを適用せずに紐付けをした上で、DPマッチングをリスタートする。図4(b)の例では、「4」のノイズの発生確率が極端に低いため、「4」の直前でDPマッチングが打ち切られ、「4」を紐づけた上でDPマッチングがリスタートされる。本実施形態では、ドライバとドライバ受け17にはセンサが設けられており、ドライバの取り出しは、手の検知ではなく、センサにより行われる。ドライバ取り出しに相当するラベルに関してはノイズが発生する可能性が低くなるために、ドライバ取り出しでDPマッチングをリスタートする。以下、詳細を述べる。
(組立作業分析装置の構成)
図5は、本実施形態の組立作業分析装置の構成例示図である。図5(a)は、組立作業分析装置5のハードウェア構成図である。組立作業分析装置5は、CPU(Central Processing Unit)50、ROM(Read Only Memory)51、及びRAM(Random Access Memory)52を備える情報処理装置である。CPU50、ROM51、RAM52は、バスBにより接続される。バスBには、I/Oインタフェース53、入力インタフェース(I/F)54、出力インタフェース(I/F)55、及びストレージ56が接続される。I/Oインタフェース53には、カメラ57が接続される。入力インタフェース54には、UI58が接続される。出力インタフェース55には、ディスプレイ59が接続される。ストレージ56は、大容量記憶装置であり、HDD(Hard Disk Drive)やSSD(Solid State Drive)により実現される。
図5は、本実施形態の組立作業分析装置の構成例示図である。図5(a)は、組立作業分析装置5のハードウェア構成図である。組立作業分析装置5は、CPU(Central Processing Unit)50、ROM(Read Only Memory)51、及びRAM(Random Access Memory)52を備える情報処理装置である。CPU50、ROM51、RAM52は、バスBにより接続される。バスBには、I/Oインタフェース53、入力インタフェース(I/F)54、出力インタフェース(I/F)55、及びストレージ56が接続される。I/Oインタフェース53には、カメラ57が接続される。入力インタフェース54には、UI58が接続される。出力インタフェース55には、ディスプレイ59が接続される。ストレージ56は、大容量記憶装置であり、HDD(Hard Disk Drive)やSSD(Solid State Drive)により実現される。
カメラ57は、作業場内を俯瞰できる位置に設けられ、作業者18及びゴミ箱16を含む作業台11の周辺を撮影する撮影装置である。カメラ57は、I/Oインタフェース53を介してCPU50により動作が制御される。カメラ57が撮影した映像は、I/Oインタフェース53を介して組立作業分析装置5に入力される。UI58は、ユーザにより操作される入力装置であり、各種キーボタンやタッチパネルにより構成される。ユーザは、UI58により、組立作業の分析の開始、終了の指示を組立作業分析装置5に対して行う。UI58は、入力インタフェース54を介して指示やデータ等を組立作業分析装置5に入力する。ディスプレイ59は、ユーザに対して情報を報知するための出力装置である。ディスプレイ59は、出力インタフェース55を介して組立作業分析装置5の制御により画像を表示する。
CPU50は、ROM51に格納されるコンピュータプログラムを、RAM52を作業領域に用いて実行することで、情報処理装置を組立作業分析装置5として機能させる。図5(b)は、組立作業分析装置5の機能ブロック図である。CPU50がコンピュータプログラムを実行することで、組立作業分析装置5は、制御部500、映像取得部501、分析部502、映像処理部503、入力部504、出力部505、及びメモリ506として機能する。なお、これらの各機能ブロックは、ハードウェアにより実現されてもよい。
制御部500は、組立作業分析装置5、カメラ57、ディスプレイ59の動作を制御する。映像取得部501は、制御部500の指示によりカメラ57の動作を制御し、カメラ57から作業者18及びゴミ箱16を含む作業台11の周辺を撮影した映像を取得する。入力部504は、UI58からの指示、データ等の入力を受け付けて制御部500へ送信する。出力部505は、制御部500の制御により、ディスプレイ59に画像を表示する。
メモリ506は、分析対象とする組立作業の工程の定義を格納する。制御部500は、UI58により組立作業の分析の開始が指示されると、メモリ506に分析対象とする工程の定義をロードする。工程の定義は、作業工程の最初から最後までの動作の順序を示したものであり、例えば工程の作業内容を示した作業標準書、或いは動作の順序などを所定のフォーマットに書き出したファイル(作業情報)である。図6は、工程の定義のフォーマットの例示図である。このフォーマットには、動作の順序、動作が発生する動作エリアの番号(AAN)、DPマッチングのリスタートを行うことができる動作等が記されている。リスタートを行うことができる動作は、1以上であればよい。図6では2つの動作がリスタートを行うことができる動作となっている。UI58により作業標準書が入力される場合、制御部500は、入力された作業標準書から図6に示した情報を取得して、メモリ506に格納する。また、制御部500は、組立作業の分析が開始されると、映像取得部501が取得した映像のフレーム毎の画像(データ)をメモリ506に一時格納する。
映像処理部503は、制御部500により制御され、メモリ506に格納されたフレーム毎の画像に各種映像処理を加えて保存用のファイル(Motion JPEG, H.264等)を生成し、ストレージ56へ保存する。
分析部502は、制御部500により制御され、ストレージ56に格納されたフレームのデータを読み出して、1サイクルの全フレームに対して動作の検知を行い、全動作検知の結果を用いて組立作業の分析を行う。なお「サイクル」とは、工程の定義に記載された1回分の組立作業であり、組立作業を1サイクル行うと1つの組立対象物が完成する。
制御部500は、分析部502による分析結果を出力部505によりディスプレイ59に出力させる。組立作業に問題がなかった場合、出力部505から何も出力されず、問題があった場合(例えば行われなかった動作があった場合)、出力部505はその旨を出力する。具体的には、サイクルの組立作業開始時刻、終了時刻と併せて、行われなかった動作名を出力する。分析結果の出力は、ディスプレイ59への表示だけではなく、警告音を鳴らす、監督者が所持する携帯端末のディスプレイに表示する、といった方法であってもよい。ユーザは、ディスプレイ59に出力された分析結果により、工程定義に沿って組立作業が行われなかった組立対象物の完成品を特定し、組立作業のやり直し指示等を行う。
(分析処理)
図7は、分析部502による分析処理を表すフローチャートである。分析部502は、制御部500の制御により以下の処理を行う。
分析部502は、メモリ506から、格納されている工程の定義に関する情報を取得する(S601)。分析部502は、ストレージ56に格納されたフレームのデータを読み出して、1サイクルの分析を行う(S602)。S602の処理の詳細は後述する。UI58によりユーザ(監督者)から分析処理の中止が指示されるまで、分析部502は、1サイクルの分析処理を繰り返し行う(S603:N)。分析処理の中止が指示されると(S603:Y)、分析部502は、分析処理を終了する。
図7は、分析部502による分析処理を表すフローチャートである。分析部502は、制御部500の制御により以下の処理を行う。
分析部502は、メモリ506から、格納されている工程の定義に関する情報を取得する(S601)。分析部502は、ストレージ56に格納されたフレームのデータを読み出して、1サイクルの分析を行う(S602)。S602の処理の詳細は後述する。UI58によりユーザ(監督者)から分析処理の中止が指示されるまで、分析部502は、1サイクルの分析処理を繰り返し行う(S603:N)。分析処理の中止が指示されると(S603:Y)、分析部502は、分析処理を終了する。
図8は、S602の1サイクルの分析処理を表すフローチャートである。
分析処理を開始すると、分析部502は、作業者からサイクルの組立作業開始の合図があるかを判定する(S701)。組立作業開始の合図は、例えば、作業場に設置されているボタン(不図示)の押下により行われる。組立作業分析装置5は、このボタンの押下を検知する。組立作業開始の合図がある場合(S701:Y)、分析部502は、ストレージ56から1フレーム分の画像を取得する(S702)。
分析処理を開始すると、分析部502は、作業者からサイクルの組立作業開始の合図があるかを判定する(S701)。組立作業開始の合図は、例えば、作業場に設置されているボタン(不図示)の押下により行われる。組立作業分析装置5は、このボタンの押下を検知する。組立作業開始の合図がある場合(S701:Y)、分析部502は、ストレージ56から1フレーム分の画像を取得する(S702)。
分析部502は、フレーム内の作業者の手を検知する(S703)。分析部502は、検知した手がAA内に進入しているか否かを判断する(S704)。手がAA内に進入している場合(S704:Y)、分析部502は、該AAに対応した動作が行われたと判断する。この場合、分析部502は、メモリ506に該AAのAANを記録する(S705)。AANの記録後、或いは手がAA内に進入していない場合(S704:N)、分析部502は、サイクル終了の合図があるかを確認する(S706)。組立作業開始の合図と同様に、サイクル終了の合図は、作業場に設置されているボタン(不図示)の押下により行われる。組立作業分析装置5は、このボタンの押下を検知することでサイクル終了の合図を確認する。サイクル終了の合図が無い場合(S706:N)、分析部502は、S702以降の処理を、ストレージ56から次の1フレーム分の画像を取得して行う。S702〜S705の処理を繰り返すことで、手が進入したAAのAANの列である出現AAN列がメモリ506に記憶される。
サイクル終了の合図が有る場合(S706:Y)、分析部502は、メモリ506に記録されているAAN列に対してシーケンスマッチングを行う(S707)。S707の処理の詳細は後述する。分析部502によるシーケンスマッチングが終了すると、制御部500は、分析部502からシーケンスマッチングの結果を取得する。制御部500は、出力部505によりディスプレイ59にシーケンスマッチングの結果を出力する(S708)。以上により、S602の1サイクルの分析処理が終了する。
図9は、S707のシーケンスマッチング(DPマッチング)処理を表すフローチャートである。
分析部502は、まず、工程定義に示されているリスタートのAANに基づいて、参照ANN列及び出現AAN列の各シーケンスを分割して複数のサブシーケンスを生成し、分割したサブシーケンスの個数を算出する(S801)。ここでは、サブシーケンスの個数をNとする。図10は、サブシーケンスへの分割の説明図である。参照AAN列である参照時系列データが、サブシーケンスである「0,1,2,3」と、「4,5,6,7,5…」とに分割されている。出現AAN列である観測時系列データが、サブシーケンスである「0,1,2,2,3,3」と、「4,3,3,3,5,2,3,6,7,5…」とに分割されている。
分析部502は、まず、工程定義に示されているリスタートのAANに基づいて、参照ANN列及び出現AAN列の各シーケンスを分割して複数のサブシーケンスを生成し、分割したサブシーケンスの個数を算出する(S801)。ここでは、サブシーケンスの個数をNとする。図10は、サブシーケンスへの分割の説明図である。参照AAN列である参照時系列データが、サブシーケンスである「0,1,2,3」と、「4,5,6,7,5…」とに分割されている。出現AAN列である観測時系列データが、サブシーケンスである「0,1,2,2,3,3」と、「4,3,3,3,5,2,3,6,7,5…」とに分割されている。
分析部502は、サブシーケンスのカウンタi_subを初期化(i_sub=0)する(S802)。分析部502は、i_sub番目のサブシーケンスのDPマッチングを行い、メモリ506へDPマッチングの結果を書き込む(S803)。図11は、DPマッチングの結果の説明図である。DPマッチングの結果は、作業中の動作毎に、マッチングした動作を検知できたかどうか(True/False)で出力される。
分析部502は、サブシーケンスのカウンタi_subをインクリメントして(S804)、インクリメントしたカウンタi_subとNとを比較する(S805)。カウンタi_subがN未満である場合(S805:Y)、分析部502は、未処理のサブシーケンスが残っていると判断する。この場合、分析部502は、S803以降の処理を繰り返し、すべてのサブシーケンスに対してDPマッチングを行う。カウンタi_subがN以上である場合(S805:N)、分析部502は、すべてのサブシーケンスに対してDPマッチングが終了していると判断して、S707のシーケンスマッチング処理を終了する。
以上のような本実施形態の組立作業分析装置5は、「ノイズの発生確率が極端に低いラベル(動作エリア)においてシーケンスマッチング(DPマッチング)をリスタートする」という考えを導入することで、組立分析処理の精度を向上させている。
(変形例1)
上記の実施形態では、シーケンスマッチングをリスタートさせるAAが、動作の発生をセンサで検知する動作のAAである。しかし、ノイズの発生確率が極端に低いAAは、センサで動作を検知できるAAに限られない。図12は、この場合の工場において組み立て作業を行う作業場の説明図である。作業が行われる主なエリアであるワークベンチ12から所定距離だけ離れているAA(図12ではドライバ受け17)では、通常とは異なる腕の動きが発生することは少ない。そのために該AAではノイズが発生しにくい。ただし、センサと異なり、ノイズがまったく発生しないということはない。例えば作業者が疲れを取るために腕を伸ばした際には、その動きがノイズを発生させる場合がある。
上記の実施形態では、シーケンスマッチングをリスタートさせるAAが、動作の発生をセンサで検知する動作のAAである。しかし、ノイズの発生確率が極端に低いAAは、センサで動作を検知できるAAに限られない。図12は、この場合の工場において組み立て作業を行う作業場の説明図である。作業が行われる主なエリアであるワークベンチ12から所定距離だけ離れているAA(図12ではドライバ受け17)では、通常とは異なる腕の動きが発生することは少ない。そのために該AAではノイズが発生しにくい。ただし、センサと異なり、ノイズがまったく発生しないということはない。例えば作業者が疲れを取るために腕を伸ばした際には、その動きがノイズを発生させる場合がある。
そのようなことを鑑み、ごく稀にノイズの発生が想定されるAAのAANについては、一定の制約の下でリスタートに用いる。具体的には、当該AANが出現AAN列に1つだけ存在していればノイズではないとし、リスタートとして用いる。しかし、当該AANが出現AAN列に複数存在している場合、いずれがノイズでいずれが正しいAANであるかの識別が困難であるため、リスタートが行われない。この変形例では、図8のS707のシーケンスマッチングのみが、上記の実施形態とは異なる。そのために、S707の処理についてのみ説明する。
図13は、この変形例におけるS707のシーケンスマッチング(DPマッチング)処理を表すフローチャートである。
分析部502は、まず、出現AAN列におけるリスタート可能なAANの個数(M)を確認する(S1201)。ここでは、説明を簡易にするためリスタート可能なAANは1種類のみとする(例えば「4」)。
分析部502は、まず、出現AAN列におけるリスタート可能なAANの個数(M)を確認する(S1201)。ここでは、説明を簡易にするためリスタート可能なAANは1種類のみとする(例えば「4」)。
分析部502は、リスタート可能なAANの個数(M)が所定数(ここでは「1」)より大きいか否かを判断する(S1202)。確認した個数(M)が所定数より多い場合(S1202:Y)、分析部502は、出現AAN列中の該当AANのいずれが正しいAANであるかを特定することができない。この場合、分析部502は、サブシーケンス分割を行わずにDPマッチングを行う(S1203)。
確認した個数(M)が所定数以下の場合(S1202:N)、分析部502は、唯一発生しているリスタートのAANはノイズではないと判断する。この場合、分析部502は、図9と同様の処理により、シーケンスマッチングを行う。
このように組立作業分析装置5は、ワークベンチ12から離れているAANをリスタート可能なAANとしてシーケンスマッチングを行うことができる。
(変形例2)
変形例1では、出現AAN列中にリスタート可能なAANが複数発生している場合、サブシーケンス分割しない処理を説明した。しかし、リスタート可能なAANが複数発生している場合の処理は、これに限られることはない。例えば、ワークベンチ12から離れた位置に2種類以上のAANがあり、いずれも出現AAN列中に複数出現している場合、工程定義上の該当するAANの順序に基づいて、サブシーケンス分割してもよい。具体的には、工程定義(参照AAN列)において「4」と「5」はその順番で発生するものとされていて、出現AAN列において、以下の通り、「4」と「5」のいずれもが2個発生したとする。
0, 0, 1, 0, 2, 3, 3, 3, 4, 5, 6, 6, 6, 7,…, 5, …, 9, 0, 1, 4,…
変形例1では、出現AAN列中にリスタート可能なAANが複数発生している場合、サブシーケンス分割しない処理を説明した。しかし、リスタート可能なAANが複数発生している場合の処理は、これに限られることはない。例えば、ワークベンチ12から離れた位置に2種類以上のAANがあり、いずれも出現AAN列中に複数出現している場合、工程定義上の該当するAANの順序に基づいて、サブシーケンス分割してもよい。具体的には、工程定義(参照AAN列)において「4」と「5」はその順番で発生するものとされていて、出現AAN列において、以下の通り、「4」と「5」のいずれもが2個発生したとする。
0, 0, 1, 0, 2, 3, 3, 3, 4, 5, 6, 6, 6, 7,…, 5, …, 9, 0, 1, 4,…
工程定義上「4」及び「5」はこの順序どおりに発生するものとされており、ノイズの発生が非常に少ないとされている。これらのノイズが、工程定義の順番どおりに出現する可能性はさらに少なくなると考えられる。それゆえ、上記した出現AAN列では、9番目の「4」と10番目の「5」は、ノイズではないと判断され、この組を持ってDPマッチングがリスタートされる。
1サイクル全体の出現AAN列が生成された段階でDPマッチングする他に、サブシーケンスを単位として出現AAN列が生成された段階で、逐次DPマッチングを行ってもよい。また、シーケンスマッチングの手法としては、DPマッチングに限られることはない。
以上のような本実施形態の組立作業分析装置5は、注目すべきでない手の進入がほとんど発生しない矩形(ラベル)を特定し、そのラベルでシーケンスを区切るという手法を導入する。そのために、問題となる手の進入の多発に起因した影響がシーケンス全体に及ぶことが防止される。その結果として、シーケンスマッチングの精度が向上するため、組立作業の分析精度が向上し、組立作業の監督者は的確に組立作業のやり直しなどの指示を出せるようになる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (12)
- 作業者による作業を撮影した映像を取得する映像取得手段と、
前記作業を構成する複数の動作の順序とリスタートが可能な動作とを規定する作業情報を記憶する記憶手段と、
前記映像から前記作業者による動作を検知して、前記リスタートが可能な動作により、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割し、分割した前記検知した動作の順序と、分割した前記作業情報に規定された動作の順序とにより、前記作業者による作業が正しいか否かを判断する分析手段と、を備えることを特徴とする、
組立作業分析装置。 - 前記映像の前記動作が生じるべき場所に動作エリアが設けられており、
前記記憶手段は、前記複数の動作の順序を表す参照ラベル列を記憶しており、
前記分析手段は、前記映像により、前記動作エリアに前記作業者の手が進入することで当該動作が行われたことを検知して、検知した順に動作を並べた検知ラベル列を生成し、前記参照ラベル列及び前記検知ラベル列を前記リスタートが可能な動作によりそれぞれ分割して生成したサブシーケンスにより前記判断を行うことを特徴とする、
請求項1に記載の組立作業分析装置。 - 前記分析手段は、1以上の前記リスタートが可能な動作のうち、前記検知した動作において1つだけ発生している動作により、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割することを特徴とする、
請求項1又は2に記載の組立作業分析装置。 - 前記リスタートが可能な動作は、所定のセンサにより検知される動作であることを特徴とする、
請求項1〜3のいずれか1項に記載の組立作業分析装置。 - 前記リスタートが可能な動作は、作業が行われる主なエリアから所定距離だけ離れている場所で発生する動作であることを特徴とする、
請求項1〜3のいずれか1項に記載の組立作業分析装置。 - 前記分析手段は、前記検知した動作における前記リスタートが可能な動作の個数を確認し、確認した個数が所定数以下の場合に、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割することを特徴とする、
請求項5に記載の組立作業分析装置。 - 前記分析手段は、前記検知した動作における前記リスタートが可能な動作の順序に基づいて、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割することを特徴とする、
請求項1〜6のいずれか1項に記載の組立作業分析装置。 - 前記分析手段による判断の結果を報知する報知手段をさらに備えることを特徴とする、
請求項1〜7のいずれか1項に記載の組立作業分析装置。 - 前記分析手段は、シーケンスマッチングにより検知した動作の順序と前記作業情報に規定された動作の順序との比較を行い、前記作業者による作業が正しいか否かを判断することを特徴とする、
請求項1〜8のいずれか1項に記載の組立作業分析装置。 - 作業者による作業を撮影する撮影装置に接続される情報処理装置により実行される方法であって、
前記作業を構成する複数の動作の順序とリスタートが可能な動作とを規定する作業情報を所定の記憶手段に記憶しておき、
前記撮影装置より撮影された映像から前記作業者による動作を検知して、
前記リスタートが可能な動作により、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割し、
分割した前記検知した動作の順序と、分割した前記作業情報に規定された動作の順序とにより、前記作業者による作業が正しいか否かを判断することを特徴とする、
組立作業分析方法。 - 作業者による作業を撮影する撮影装置に接続されるコンピュータを、
前記撮影装置により撮影された映像を取得する映像取得手段、
前記作業を構成する複数の動作の順序とリスタートが可能な動作とを規定する作業情報を記憶する記憶手段、
前記映像から前記作業者による動作を検知して、前記リスタートが可能な動作により、前記検知した動作の順序と、前記作業情報に規定された動作の順序とをそれぞれ分割し、分割した前記検知した動作の順序と、分割した前記作業情報に規定された動作の順序とにより、前記作業者による作業が正しいか否かを判断する分析手段、
として機能させるためのコンピュータプログラム。 - 請求項11記載のコンピュータプログラムを記憶する、コンピュータにより読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017177415A JP2019053527A (ja) | 2017-09-15 | 2017-09-15 | 組立作業分析装置、組立作業分析方法、コンピュータプログラム、及び記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017177415A JP2019053527A (ja) | 2017-09-15 | 2017-09-15 | 組立作業分析装置、組立作業分析方法、コンピュータプログラム、及び記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019053527A true JP2019053527A (ja) | 2019-04-04 |
Family
ID=66014901
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017177415A Pending JP2019053527A (ja) | 2017-09-15 | 2017-09-15 | 組立作業分析装置、組立作業分析方法、コンピュータプログラム、及び記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019053527A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020197899A (ja) * | 2019-06-03 | 2020-12-10 | 株式会社日立製作所 | 作業監視装置、及び作業監視方法 |
WO2023058164A1 (ja) * | 2021-10-06 | 2023-04-13 | 日本電気株式会社 | 行動順序異常検出装置、方法およびプログラム |
-
2017
- 2017-09-15 JP JP2017177415A patent/JP2019053527A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020197899A (ja) * | 2019-06-03 | 2020-12-10 | 株式会社日立製作所 | 作業監視装置、及び作業監視方法 |
WO2020246082A1 (ja) * | 2019-06-03 | 2020-12-10 | 株式会社日立製作所 | 作業監視装置、及び作業監視方法 |
JP7324618B2 (ja) | 2019-06-03 | 2023-08-10 | 株式会社日立製作所 | 作業監視装置、及び作業監視方法 |
WO2023058164A1 (ja) * | 2021-10-06 | 2023-04-13 | 日本電気株式会社 | 行動順序異常検出装置、方法およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6446971B2 (ja) | データ処理装置、データ処理方法、及び、コンピュータ・プログラム | |
US10169853B2 (en) | Score weights for user interface (UI) elements | |
CN104268006A (zh) | 键鼠脚本的回放方法及装置 | |
JP2019101919A (ja) | 情報処理装置、情報処理方法、コンピュータプログラムおよび記憶媒体 | |
WO2020039882A1 (ja) | 判別装置及び機械学習方法 | |
CN111783665A (zh) | 一种动作识别方法、装置、存储介质和电子设备 | |
CN111324352A (zh) | 一种应用页面的代码生成方法及相关设备 | |
JP2019193019A (ja) | 作業分析装置、作業分析方法 | |
JP2019053527A (ja) | 組立作業分析装置、組立作業分析方法、コンピュータプログラム、及び記憶媒体 | |
WO2019180917A1 (ja) | オブジェクト追跡装置、オブジェクト追跡方法、及びオブジェクト追跡プログラム | |
US20210124915A1 (en) | Method and device for detecting hand action | |
JP5441151B2 (ja) | 顔画像追跡装置及び顔画像追跡方法並びにプログラム | |
CN109063561B (zh) | 公式的识别计算方法和装置 | |
CN114846513A (zh) | 动作分析系统和动作分析程序 | |
US11688175B2 (en) | Methods and systems for the automated quality assurance of annotated images | |
CN113632077A (zh) | 识别信息赋予装置、识别信息赋予方法以及程序 | |
US20220392107A1 (en) | Image processing apparatus, image processing method, image capturing apparatus, and non-transitory computer-readable storage medium | |
US20220122341A1 (en) | Target detection method and apparatus, electronic device, and computer storage medium | |
AU2021251463B2 (en) | Generating performance predictions with uncertainty intervals | |
CN111488776A (zh) | 对象检测方法、对象检测装置和电子设备 | |
US11216667B2 (en) | Information processing apparatus, method for information processing, and storage medium | |
US20200265130A1 (en) | Processing system and processing method | |
US11410462B2 (en) | Processing system and processing method | |
JP7106346B2 (ja) | 情報処理装置及び情報処理プログラム | |
CN112437348A (zh) | 一种状态信息采集方法、存储介质及智能电视 |