JP7180886B2 - 作業稼働率測定装置及び作業稼働率測定方法 - Google Patents

作業稼働率測定装置及び作業稼働率測定方法 Download PDF

Info

Publication number
JP7180886B2
JP7180886B2 JP2020025497A JP2020025497A JP7180886B2 JP 7180886 B2 JP7180886 B2 JP 7180886B2 JP 2020025497 A JP2020025497 A JP 2020025497A JP 2020025497 A JP2020025497 A JP 2020025497A JP 7180886 B2 JP7180886 B2 JP 7180886B2
Authority
JP
Japan
Prior art keywords
work
hand
data
machine learning
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020025497A
Other languages
English (en)
Other versions
JP2021131626A (ja
Inventor
豊 松林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC Platforms Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Platforms Ltd filed Critical NEC Platforms Ltd
Priority to JP2020025497A priority Critical patent/JP7180886B2/ja
Priority to CN202180014694.2A priority patent/CN115104113A/zh
Priority to EP21757397.1A priority patent/EP4109362A4/en
Priority to PCT/JP2021/004573 priority patent/WO2021166716A1/ja
Priority to US17/796,335 priority patent/US20230068757A1/en
Publication of JP2021131626A publication Critical patent/JP2021131626A/ja
Priority to JP2022137970A priority patent/JP2022164831A/ja
Application granted granted Critical
Publication of JP7180886B2 publication Critical patent/JP7180886B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06398Performance of employee with respect to a job function
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Description

本発明は、工場等の生産ラインの作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置及び作業稼働率測定方法に関する。
工場など製造業界では、IoT(Internet of Things)の活用が進み始めており、カメラなどで動画を撮影し、それを分析することにより、物のトレーサビリティの管理などに活用している場面が増加してきている。
そして、工場などでは、このような画像を利用した分析のために、工場向けにVMS(Video Management System)の活用が近年増えており、工場内にカメラが設置され、画像データを様々な形で人工知能(AI:Artificial Intelligence))や機械学習などを使って分析して、全体をスマートファクトリ化しようとする流れがある。
しかしながら、現状における工場内のライン管理者は、作業者に対して作業確認のためのヒアリングを実施する程度であり、実際に作業者が稼働していない状況、例えば、単に作業場所に立っているだけで手が動いていない等の状況を把握することが難しい。
このときの作業確認のためのヒアリングでは、複数の工程の実際の作業を目視により確認しつつ、当該作業の時間をストップウォッチにより計測するという手間を必要としていた。
そして、このような問題を軽減するために以下の特許文献1~3が提案されている。
特許文献1に示される技術では、動作が開始されてから終了するまでの実測値を求め、求めた実測値と特定した動作の内容とを用いて、動作の内容と時間との関係を規定するモデルを構築する動作特定部を有する。
この動作特定部では、第1の位置情報としてデプスセンサから深度付の画像データを取得し、第2の位置情報としてデジタルカメラから画像データを取得する位置情報取得部の実測値に基づき、作業者の手の位置を特定する。
さらに、この動作特定部では、特定した作業者の手の位置に基づき、作業者が行なった動作内容を特定するとともに、特定された動作内容と、取得された実測値とを用いてモデルの構築又は更新を実行する。
特許文献2に示される技術では、カラーまたはモノクロ画像を生成できるカメラ等からなる距離センサと、作業台上で一連の作業を作業者が実行する間に撮影された時系列の複数の距離画像のそれぞれから、作業者の手を検出するプロセッサとを有する。
プロセッサの手領域検出部では、画像上の手を検出するように予め学習された識別器を用いて手領域を検出することができ、また、画像の着目領域から抽出されたHOG特徴量(Histograms of Oriented Gradients)を識別器に入力することで、その着目領域に手領域が含まれるか否かを判定できる。
特許文献3に示される技術では、サーバを制御する制御部内の分析部に、作業時間計測部と滞留時間計測部とを備える。
作業時間計測部では持ち場で作業者が実際に作業している時間を計測し、滞留時間計測部では持ち場に作業者がいる時間を計測する。その後、分析結果表示画面では、分析用の映像が表示され、この映像上に分析情報、すなわち、これら計測結果に基づく作業時間及び滞留時間が重畳表示される。
国際公開第2017/222070号公報 特開2019-120577号公報 特開2019-200560号公報
上述した特許文献1~3には、動作内容と時間との関係を規定してモデル化するための技術、作業者が実行した作業量を計測しかつ計測後のデータを表示するための技術が示されている。
しかしながら、これら特許文献1~3には、これら各技術が個別に示されるだけであり、これら技術を如何にして関連付けるかについての具体策が示されていない。
この発明は、上述した事情に鑑みてなされたものであって、これまでにない新たな手法により、作業台上で実施されている作業の状況を効率良く分析して数値化することができる作業稼働率測定装置及び作業稼働率測定方法を提供する。
上記課題を解決するために、この発明は以下の手段を提案している。
本発明の第1態様は、複数の工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置であって、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、該カメラ毎の機械学習モデルを作成するモデル作成手段と、実際の作業を行っている画像に対して、前記モデル作成手段で作成された機械学習モデルを使って作業者の手の位置が作業枠内に含まれるか否かを解析するとともに該解析データを時系列に保存するデータ解析保存手段と、該データ解析保存手段で保存された解析データを使って各作業枠内の稼働率を求める稼働率演算手段と、を有することを特徴とする。
本発明の第2態様は、複数の工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定方法であって、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、該カメラ毎の機械学習モデルを作成するモデル作成工程と、実際の作業を行っている画像に対して、前記モデル作成工程で作成された機械学習モデルを使って作業者の手の位置が作業枠内に含まれるか解析するとともに該解析データを時系列に保存するデータ解析保存工程と、該データ解析保存工程で保存された解析データを使って各作業枠内の稼働率を求める稼働率演算工程と、を有することを特徴とする。
本発明では、複数の工程の作業枠のカメラ毎に機械学習モデルを設定し、事前学習までを含めることで、様々な環境における手を精度良く検出でき、複数の工程の稼働率を効率良く把握することができる。
本発明に係る作業稼働率測定装置の最小構成を示す図である。 本発明の実施形態に係る作業稼働率測定装置の概略構成図である。 画像エリア内にて機械学習を実施するための手順を示す説明図である。 画像エリア内の作業枠のサイズを確定させるための手順を示す説明図である。 作業工程内において実際の手を検出するためのイメージ図である。 クライアント端末(PC)での稼働率の表示例を示す図である。 作業稼働率測定装置の具体的動作を示すフローチャートである。
本発明に係る作業稼働率測定装置10の最小構成について図1を参照して説明する。この作業稼働率測定装置10は、モデル作成手段1、データ解析保存手段2及び稼働率演算手段3を有するものであって、これら手段1~3により、生産ラインの工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する。
作業稼働率測定装置10を構成する各手段1~3について説明する。
モデル作成手段1は、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、カメラ毎の機械学習モデルを作成する。
データ解析保存手段2は、実際の作業を行っている画像に対して、モデル作成手段1で作成された機械学習モデルを使って、作業者の手の位置が作業枠内に含まれるか否かを解析するとともに該解析データを時系列に保存する。
稼働率演算手段3は、データ解析保存手段2で保存された解析データを使って各作業枠内の稼働率を求める。
そして、以上のように構成された本発明の作業稼働率測定装置10によれば、複数の工程に設置されたカメラで作業枠内を撮影するとともに、その撮影データに基づき作業枠内にかざした作業者の手の位置を機械学習させ、該カメラ毎の機械学習モデルを作成する。
その後、実際の作業を行っている画像に対して、モデル作成手段1で作成された機械学習モデルを使って作業者の手の位置が作業枠内に含まれるか否かを解析するとともに該解析データを時系列に保存した後、該保存された解析データを使って各作業枠内の稼働率を求めることができる。
これにより本発明の作業稼働率測定装置10では、作業者の手のみを検出対象として複数の工程の稼働率を求めることができるので、全体の制御動作が軽くなり、リアルタイムでの稼働率検出が可能となる。
また、本発明の作業稼働率測定装置10では、複数の工程の作業枠のカメラ毎に機械学習モデルを設定し、事前学習までを含めることで、様々な環境における手を精度良く検出することができ、複数の工程の稼働率を効率良く把握することができる。
(実施形態)
本発明の実施形態について図2~図7を参照して説明する。
図2は実施形態に係る作業稼働率測定装置100の全体構成図であって、ネットワークNに直接接続された動作制御部11、データ処理部12及び撮影部13を有する。
撮影部13で撮影される撮影エリアは符号EAで示されている。また、撮影部13側のネットワークNは、動作制御部11及びデータ処理部12側のネットワークNに対してハブ14を介して接続されている。
また、これらの構成要素は工場内に設置されている。
動作制御部11は作業稼働率測定装置100内のネットワークN全体の動作を制御するクライアント端末(PC)であって、モデル作成手段11Aと、データ解析保存手段11B及び稼働率演算手段11Cを有する。
モデル作成手段11Aは、複数の工程に設置されたカメラ(符号CAで示す)(後述する)で撮影エリアEA内を撮影するとともに、その撮影データに基づき作業枠(符号FLで示す)(後述する)内にかざした作業者の手の位置を機械学習させ、カメラCA毎の機械学習モデルを作成する。
データ解析保存手段11Bは、実際の作業を行っている画像に対して、モデル作成手段11Aで作成された機械学習モデルを使って、作業者の手の位置が作業枠FL内に含まれるか否かを解析するとともに該解析データを時系列に保存する。
稼働率演算手段11Cは、データ解析保存手段11Bで保存された解析データを使って各作業枠FL内の稼働率を求める。
なお、これらモデル作成手段11A、データ解析保存手段11B、稼働率演算手段11Cで実施される具体的な処理については後述する。
また、動作制御部11を構成するクライアント端末(PC)は、図2に示されるように、GUI(Graphical User Interface)で表示できる画面を有するとともに、工場内において作業者の手の動きを機械学習させるサーバ22(後述する)及びその機会学習のインプットとなる画像を撮影するカメラCAにネットワーク接続されている。
データ処理部12は、工場向けのVMS(Video Management System)サーバ20、該VMSサーバ20を通じて供給されるカメラCAの撮影データを記憶する録画ストレージ21、及び録画ストレージ21に記憶する撮影データのホルダーを指定し、随時ログ(ログデータ)として保存する画像解析/WEB(World Wide Web)サーバ22等からなる。
なお、データ処理部12で保存されるカメラの撮影データ及び随時ログ(ログデータ)を解析データと定義する。
撮影部13は生産ライン30を撮影する複数のカメラCA(カメラC1,C2,C3,C4・・)からなるものであって、これらカメラCAにより各作業者の作業台をそれぞれ撮影する。
なお、図2において、カメラCA(カメラC1,C2,C3,C4・・)によりそれぞれ撮影される作業台上の撮影エリアEAには、図2に示されるように複数の作業枠FLが設定される。
また、図2では、一例として各作業台上の撮影エリアEA内に作業枠FLが4つ設定された場合の例(設定A~設定D)が示されている。
また、図2では、1つの生産ライン30が示されているが、複数の生産ライン30に同様の撮影エリアEAを設けて良い。
そして、以上のような作業稼働率測定装置100のモデル作成手段11Aでは、実際に作業者の手を検出する前に、工場内のカメラCA(カメラC1,C2,C3,C4・・)毎に、作業者がクライアント端末(PC)からの指示に従って、手をカメラCAの前で動かすことにより、その環境に応じた最適な機械学習モデルを作成する(図3~図4により後述する)。
その後、作業稼働率測定装置100のデータ解析保存手段11Bでは、カメラCA毎で最適化された機械学習モデルを使って手を検出し、予め設定したカメラCAのエリア内に検出した手が含まれるかを解析し、ログと検出した手を枠で表示した動画とをサーバ22に時刻毎のデータとして保存する(図5により後述する)。
その後、作業稼働率測定装置100の稼働率演算手段11Cでは、ログデータと動画を活用することで、ライン管理者がクライアント端末(PC)上にて1日の稼働率の状況を確認することができる(図6により後述する)。
次に、図7のフローチャートを参照して、作業稼働率測定装置100の動作制御部11、データ処理部12及び撮影部13の具体的動作についてステップ(S)毎に順次説明する。
なお、以下の「事前学習フェーズ」は動作制御部11のモデル作成手段11Aで実行される処理である。また、「事前学習後の作業範囲枠設定フェーズ」及び「手の検出フェーズ」は動作制御部11のデータ解析保存手段11Bで実行される処理である。また、「クライアント端末(PC)による稼働率確認」は動作制御部11の稼働率演算手段11Cで実行される処理である。
〔事前学習フェーズ〕
まず、動作制御部11のモデル作成手段11Aで実行される「事前学習フェーズ」について、ステップS1~S7を参照して説明する。
〔ステップS1〕
ステップS1では、工場の複数の工程にカメラCAが設置された状態において、カメラCA前の撮影エリアEAにて作業者に手をかざすように指示を出す(図3(A)参照)。なお、ステップS1及び以下のステップでは、カメラCAを構成するカメラC1,C2,C3,C4・・のそれぞれについて処理を実行する。
〔ステップS2〕
ステップS2では、汎用の手の機会学習モデルを使って、カメラCA(カメラC1,C2,C3,C4・・)で撮影した手を認識し、その手の大きさの枠を作業枠FLとしてクライアント端末(PC)に表示させる。
このとき、クライアント端末(PC)では、当該カメラCA(カメラC1,C2,C3,C4・・)において手を学習するための作業枠FLのサイズを確定させる(図3(A)参照)。
〔ステップS3〕
ステップS3では、クライアント端末(PC)からの指示に基づき、作業者に対して作業枠FL内に手を置きかつその手をかざしてもらう(図3(A)参照)。
〔ステップS4〕
ステップS4では、クライアント端末(PC)からの指示に基づき、作業者に対して作業枠FL内にて手を表/裏/回転などの動作を指定時間実施する(図3(A)参照)。
〔ステップS5〕
ステップS5では、作業枠FL毎の画像データに対して、手の大きさで機械学習のためのラベリング処理を自動で実施することで、そのカメラCA(カメラC1,C2,C3,C4・・)毎の環境(明るさ/画角/手の種別/写りこむ背景など)に応じて、手について機械学習を行う(図3(A)参照)。
〔ステップS6〕
ステップS6では、各カメラC1,C2,C3,C4・・で撮影される撮影エリアEAにて、等分に区分けしたエリア、例えば図3(B)に示す9箇所(符号M1~M9で示す)に対して、順次先ほどの順序で手をかざして、指示通りに動作させながら機械学習を実施する(図3(B)参照)。
〔ステップS7〕
ステップS7では、ステップS6で設定した9箇所を実施した時点で、学習モデルの更新を行なう。これにより、画像解析/WEBサーバ22を経由して録画ストレージ21に保存しているカメラCA毎の機械学習モデルが、そのカメラ環境に応じた最適なものとなる(図3(C)参照)。
〔事前学習後の作業範囲枠設定フェーズ〕
次に、動作制御部11のデータ解析保存手段11Bで実行される「事前学習後の作業範囲枠設定フェーズ」について、ステップS8及びS9を参照して説明する。
〔ステップS8〕
ステップS8では、各カメラC1,C2,C3,C4・・において、実際に作業工程として確認したい部分を、四角の作業枠FLとしてクライアント端末(PC)上のGUIにて設定する。
このとき、作業枠FLは縦横の大きさとその座標位置を変更できるものとする(図4(A)参照)。
〔ステップS9〕
ステップS9では、各カメラC1,C2,C3,C4・・に対して、それぞれ4箇所の作業枠FLがあった場合には、これら各4箇所の作業枠FLについて同様に大きさと座標位置を設定する(図4(B)及び(C)参照)。
〔手の検出フェーズ〕
次に、動作制御部11のデータ解析保存手段11Bで実行される「手の検出フェーズ」について、ステップS10及びS11を参照して説明する。
〔ステップS10〕
ステップS10では、先ほど学習したカメラCA(カメラC1,C2,C3,C4・・)毎の機械学習モデルを使って、実際の作業を行っているライン工程の画像に対して、作業者の手が作業枠FLに入っているかどうかを判断し、画像解析/WEBサーバ22上に時系列でON-OFFデータ(ON:1/OFF:0)として保存する(図5(A)及び(B)参照)。
なお、図5(A)では、作業者の手が作業枠FLに入っている状態(ON)を実線で示し、作業者の手が作業枠FLに入っていない状態(OFF)を破線で示している。
また、図5(B)はVMSサーバ20を通じて録画ストレージ21に記憶されるON-OFFデータと、その画像データをイメージ化した図を示している。
〔ステップS11〕
ステップS11では、同時に分析した画像データに対して、手を検出した際の手の作業枠FLを付加した画像データも保存しておく。これは、後ほど、手を検出した状態がどのようであったかを確認するために保存するものである(図5(B))。
〔クライアント端末(PC)による稼働率確認〕
次に、動作制御部11の稼働率演算手段11Cで実行される「クライアント端末(PC)による稼働率確認」について、ステップS12~S14を参照して説明する。
〔ステップS12〕
ステップS12では、先ほど保存したログデータと画像データを使って、クライアント端末(PC)にて複数の工程の稼働率を表示させる(図6(A)参照)。
なお、図6(A)では、複数の工程の作業枠FL毎の稼働率が棒グラフを使って表示された例が示されている。
〔ステップS13〕
ステップS13では、図6(A)で表示された棒グラフを選択した場合(クリック等の操作をした場合)に、図6(B)にて複数の工程の時刻毎の稼働率を表示させる。
なお、図6(B)では、図6(A)において、一例として「カメラC1の撮影エリアEA内にある設定D」が選択された場合の時刻毎の稼働率が示されている。
なお、このときの表示では、作業者が作業を全くしていない(手が作業枠FLに入っていない、又はずっと手が検出され続けている)などの異常時に、例えば図6(B)に矢印e1~e3で示すような、予めアラームが出るように設定したイベントも併せて列記させる(図6(B)参照)。
〔ステップS14〕
ステップS14では、イベントの矢印e1~e3を選択(クリック)した場合に、その際に何があったかの詳細がわかるようにその時刻の動画を表示させる。
以上詳細に説明したように本実施形態に係る作業稼働率測定装置100では、以下の効果が期待できる。
すなわち、本実施形態の作業稼働率測定装置100では、作業者の手のみの検出とすることで制御が軽くなり、リアルタイムでの検出ができる。
また、本実施形態の作業稼働率測定装置100では、カメラCA(カメラC1,C2,C3,C4・・)毎に機械学習モデルを持ち、事前学習までを含めることで、様々な環境における手を精度良く検出することができ、実際の複数の工程の稼働率を効率良く把握することができる。
また、本実施形態の作業稼働率測定装置100では、手の検出部分を違う物体(例えば、タイヤなど)にした場合に、事前学習から手を置き換えて実施すれば、手ではない物体が作業枠FL内にあった時間を把握することができ、ラインにおける製造物の停滞状況も確認することができるという拡張性も有する。
(変形例1)
上記実施形態では、カメラCAにより得られた画像データを入力として、作業者の環境に応じた手を対話的な形により事前学習を行い、予め定点画像で設定した作業枠FL内に作業者の手があるかどうかのみを判定するため、工場以外でも利用可能である。
一例として、本発明を用いれば、教室や学習塾向けに、ノートを取っている時間に対して学習の習熟度が比例するかといったデータも収集可能であり、新たな学習の尺度とすることができる。さらに、本発明は、美容師や料理人といった屋内にてカメラ設置可能な場所で、実際に手作業を行う職人の分野にも適用可能である。
(変形例2)
上記実施形態では、カメラCA(カメラC1,C2,C3,C4・・)の撮影エリアEAにて、図2に示すような4つの作業枠FLを設定し、図3に示すように9つのエリアにて機械学習を行うようにした。
これら作業枠KL及び機械学習のエリアの数は同数であっても良く、管理者が自由に設定することができる。
なお実施形態で処理される画像データにおける作業者の手とは、作業者の手首より先の部分を意味するが、例えば、作業者が手袋を装着している場合、あるいは、撮影エリア内で作業者が何らかの工具、治具、文房具等を手に保持している場合には、手袋を装着した状態、あるいは、工具、治具、文房具等を保持した状態の画像を「手」として取り扱って、画像データを解析しても良い。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
本発明は、工場等の生産ラインの作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置及び作業稼働率測定方法に関する。
1 モデル作成手段
2 データ解析保存手段
3 稼働率演算手段
10 作業稼働率測定装置
11 動作制御部
11A モデル作成手段
11B データ解析保存手段
11C 稼働率演算手段
12 データ処理部
13 撮影部
14 ハブ
20 VMSサーバ
21 録画ストレージ
22 画像解析/WEBサーバ
30 生産ライン
100 作業稼働率測定装置
CA カメラ
C1 カメラ
C2 カメラ
C3 カメラ
C4 カメラ
EA 撮影エリア
FL 作業枠
N ネットワーク

Claims (6)

  1. 複数の工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定装置であって、
    生産ラインに沿って配置された複数の前記工程のそれぞれに設置されたカメラで作業台上撮影するとともに撮影エリア内に手の大きさの枠に相当するように設定された複数の第一作業枠内における前記手の表、裏、回転を含む各種動作の予め撮影された画像データを入力データとして、手の位置の画像のカメラ毎の機械学習モデルを作成するモデル作成手段と、
    前記機械学習モデルの作成後、実際の作業を行っている画像に対して、前記モデル作成手段で作成された機械学習モデルを使って作業者の手の位置の画像が、前記第一作業枠と同様に撮影エリア内に設定された複数の第二作業枠に含まれるか否かを判断するとともに該判断により得た解析データを時系列に保存するデータ解析保存手段と、
    該データ解析保存手段で保存された解析データを用いることにより、前記第二作業枠内におけるそれぞれの稼働率を求める稼働率演算手段と、を有し、
    前記モデル作成手段は、明るさ、画角、種別、映り込みを含むカメラ毎の背景作業環境に応じて前記機械学習モデルを作成する機械学習を行わせることを特徴とする作業稼働率測定装置。
  2. 前記モデル作成手段では、作業工程の作業エリアに設置された1つのカメラの撮影エリアに対して複数の前記第一作業枠を設定することを特徴とする請求項1に記載の作業稼働率測定装置。
  3. 前記データ解析保存手段では、作業者の手と前記第二作業枠とを重ねることによってその位置関係を表すとともに、前記手が前記第二作業枠に入っているか否かを異なる線種で表した画像をログデータであって時刻毎の前記解析データとしてサーバに保存することを特徴とする請求項1または2のいずれか1項に記載の作業稼働率測定装置。
  4. 前記稼働率演算手段では、前記第二作業枠内に作業者の手が存在するか否かを示すONおよびまたはOFFデータに基づき当該第二作業枠内の稼働率を演算することを特徴とする請求項1~3のいずれか1項に記載の作業稼働率測定装置。
  5. 前記稼働率演算手段では、演算した前記第二作業枠内の稼働率を時間毎にグラフ表示することを特徴とする請求項1~4のいずれか1項に記載の作業稼働率測定装置。
  6. 複数の工程にそれぞれ設けられた所定の作業枠内で手作業を実施する際の稼働率を測定する作業稼働率測定方法であって、
    モデル作成手段が、生産ラインに沿って配置された複数の前記工程に設置されたカメラで作業台上撮影するとともに撮影エリア内に手の大きさの枠に相当するように設定された複数の第一作業枠内における前記手の表、裏、回転を含む各種動作の予め撮影された画像データを入力データとして、手の位置の画像のカメラ毎の機械学習モデルを作成するモデル作成工程と、
    データ解析保存手段が、前記機械学習モデルの作成後、実際の作業を行っている画像に対して、前記モデル作成工程で作成された機械学習モデルを使って作業者の手の位置の画像が、前記第一作業枠と同様に撮影エリア内に設定された複数の第二作業枠に含まれるか判断するとともに該判断により得た解析データを時系列に保存するデータ解析保存工程と、
    稼働率演算手段が、該データ解析保存工程で保存された解析データを用いることにより、前記第二作業枠内におけるそれぞれの稼働率を求める稼働率演算工程と、を有し、
    前記モデル作成手段は明るさ、画角、種別、映り込みを含むカメラ毎の背景作業環境に応じて前記機械学習モデルを作成する機械学習を行わせることを特徴とする作業稼働率測定方法。
JP2020025497A 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法 Active JP7180886B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2020025497A JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法
CN202180014694.2A CN115104113A (zh) 2020-02-18 2021-02-08 作业率测量设备和作业率测量方法
EP21757397.1A EP4109362A4 (en) 2020-02-18 2021-02-08 WORK RATE MEASUREMENT DEVICE AND WORK RATE MEASUREMENT METHOD
PCT/JP2021/004573 WO2021166716A1 (ja) 2020-02-18 2021-02-08 作業稼働率測定装置及び作業稼働率測定方法
US17/796,335 US20230068757A1 (en) 2020-02-18 2021-02-08 Work rate measurement device and work rate measurement method
JP2022137970A JP2022164831A (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020025497A JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022137970A Division JP2022164831A (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Publications (2)

Publication Number Publication Date
JP2021131626A JP2021131626A (ja) 2021-09-09
JP7180886B2 true JP7180886B2 (ja) 2022-11-30

Family

ID=77391143

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020025497A Active JP7180886B2 (ja) 2020-02-18 2020-02-18 作業稼働率測定装置及び作業稼働率測定方法
JP2022137970A Pending JP2022164831A (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022137970A Pending JP2022164831A (ja) 2020-02-18 2022-08-31 作業稼働率測定装置及び作業稼働率測定方法

Country Status (5)

Country Link
US (1) US20230068757A1 (ja)
EP (1) EP4109362A4 (ja)
JP (2) JP7180886B2 (ja)
CN (1) CN115104113A (ja)
WO (1) WO2021166716A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116341281B (zh) * 2023-05-12 2023-08-15 中国恩菲工程技术有限公司 作业率的确定方法及系统、存储介质、终端

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000180162A (ja) 1998-12-11 2000-06-30 Hitachi Plant Eng & Constr Co Ltd 作業分析装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150193424A1 (en) * 2014-01-07 2015-07-09 Samsung Electronics Co., Ltd. Method of changing dynamic screen layout and electronic device
WO2016073363A1 (en) * 2014-11-03 2016-05-12 Motion Insight LLC Motion tracking wearable element and system
CN109074612A (zh) * 2016-03-31 2018-12-21 住友重机械工业株式会社 施工机械用工作管理系统及施工机械
JP6733995B2 (ja) 2016-06-23 2020-08-05 Necソリューションイノベータ株式会社 作業分析装置、作業分析方法、及びプログラム
JP2019086827A (ja) * 2017-11-01 2019-06-06 キヤノン株式会社 情報処理装置、情報処理方法
US20190138971A1 (en) * 2017-11-03 2019-05-09 Drishti Technologies Inc. Automated work chart systems and methods
JP2019120577A (ja) 2018-01-04 2019-07-22 富士通株式会社 位置推定装置、位置推定方法及び位置推定用コンピュータプログラム
WO2019211764A1 (en) * 2018-05-03 2019-11-07 3M Innovative Properties Company Personal protective equipment system with augmented reality for safety event detection and visualization
JP2019200560A (ja) 2018-05-16 2019-11-21 パナソニックIpマネジメント株式会社 作業分析装置および作業分析方法
JP7177432B2 (ja) 2018-08-10 2022-11-24 国立大学法人東京工業大学 再構成膜、再構成膜の作成方法、光酸化反応駆動方法、および、メタノール製造方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000180162A (ja) 1998-12-11 2000-06-30 Hitachi Plant Eng & Constr Co Ltd 作業分析装置

Also Published As

Publication number Publication date
EP4109362A1 (en) 2022-12-28
US20230068757A1 (en) 2023-03-02
CN115104113A (zh) 2022-09-23
EP4109362A4 (en) 2023-07-26
JP2022164831A (ja) 2022-10-27
WO2021166716A1 (ja) 2021-08-26
JP2021131626A (ja) 2021-09-09

Similar Documents

Publication Publication Date Title
US10657477B2 (en) Work data management system and work data management method
US11842511B2 (en) Work analyzing system and work analyzing method
US20230044842A1 (en) Work analyzing device and work analyzing method
US20200193354A1 (en) Information processing device and production instruction support method
JP2020024484A (ja) 制御システムおよび制御装置
JP2022164831A (ja) 作業稼働率測定装置及び作業稼働率測定方法
CN115331002A (zh) 一种基于ar眼镜实现热力站故障远程处理方法
US20180165622A1 (en) Action analysis device, acton analysis method, and analysis program
DE102019219485A1 (de) System und verfahren für standardisierte evaluation einer aktivitätssequenz
CN112130572A (zh) 一种基于穿戴式设备的机电设备养护单兵辅助方法及系统
JP2023018016A (ja) 管理システムおよび原因分析システム
JP6897100B2 (ja) 判定装置、判定方法、および判定プログラム
JP2009110239A (ja) 作業動作分析システム及び作業動作分析方法
JP2021125183A (ja) 作業負荷分析装置、作業負荷分析方法、プログラム
WO2023181804A1 (ja) 作業分析装置および作業分析方法
WO2023171382A1 (ja) 情報処理システム、情報処理装置及びデータ生成方法
WO2022209638A1 (ja) 作業指示システム
WO2023181805A1 (ja) 作業分析装置および作業分析方法
JP2023019009A (ja) 作業状況分析システム及び作業状況分析方法
WO2022210006A1 (ja) 情報処理システム
JP7026890B2 (ja) 動作分析装置、動作分析方法及び動作分析プログラム
JP2024019350A5 (ja) 情報処理装置、サーバ装置、情報処理装置の制御方法、サーバ装置の制御方法、及びプログラム
JP2023106888A (ja) 情報処理装置および情報処理方法
Sakurai et al. Anomaly Detection System for Assembly Cells Using Skeletal Information
JP2023028120A (ja) 作業支援システムおよび作業支援方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210625

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211227

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211227

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220105

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220111

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220401

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220405

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220510

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220705

C19 Decision taken to dismiss amendment

Free format text: JAPANESE INTERMEDIATE CODE: C19

Effective date: 20220712

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220905

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20220907

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220913

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20221018

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20221018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221110

R151 Written notification of patent or utility model registration

Ref document number: 7180886

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151