JP6717606B2 - 作業分析支援装置、作業分析支援方法及びコンピュータプログラム - Google Patents

作業分析支援装置、作業分析支援方法及びコンピュータプログラム Download PDF

Info

Publication number
JP6717606B2
JP6717606B2 JP2016014829A JP2016014829A JP6717606B2 JP 6717606 B2 JP6717606 B2 JP 6717606B2 JP 2016014829 A JP2016014829 A JP 2016014829A JP 2016014829 A JP2016014829 A JP 2016014829A JP 6717606 B2 JP6717606 B2 JP 6717606B2
Authority
JP
Japan
Prior art keywords
work
image
detection unit
detected
break
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016014829A
Other languages
English (en)
Other versions
JP2017134691A (ja
Inventor
芳則 金巻
芳則 金巻
亮介 秋山
亮介 秋山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Broadleaf Co Ltd
Original Assignee
Broadleaf Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Broadleaf Co Ltd filed Critical Broadleaf Co Ltd
Priority to JP2016014829A priority Critical patent/JP6717606B2/ja
Publication of JP2017134691A publication Critical patent/JP2017134691A/ja
Application granted granted Critical
Publication of JP6717606B2 publication Critical patent/JP6717606B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、作業分析支援装置、作業分析支援方法及びコンピュータプログラムに係り、特に、作業の様子を撮影して得られる作業映像を当該作業の構成要素毎に区切るために用いられる作業分析支援装置、作業分析支援方法及びコンピュータプログラムに関する。
工程管理における作業分析は、例えば、ある作業の様子を撮影した映像(作業映像)を分析することにより行われる。具体的に説明すると、ある作業が複数の工程や動作によって構成されている場合、その作業映像を工程毎あるいは動作毎に区切る。そして、区切られた各映像を分析することで、作業を構成する各工程や各動作の所要時間等を算出したり、その算出結果を工程間(動作間)で比較したりする。
映像中の区切れ目を設定する方法について説明すると、従来の作業分析では、分析者が作業映像を見ながら当該映像中の区切れ目を定め、その時点で映像を停止する等の操作を行うことになっていた。しかしながら、このような方法では、分析者に負担が掛かるとともに、区切れ目の設定精度(区切れ目が正しいタイミングにて設定されているか否か)が分析者の技量に依存することになる。
一方、近年では、映像中の区切れ目を自動的に設定する技術が開発されてきている。一例を挙げて説明すると、特許文献1に記載の装置(映像分割装置)では、OCR(Optical Character Recognition)を用いた文字認識機能によって映像中の一シーンを自動的に区切ることとしている。
より具体的に説明すると、特許文献1に記載の装置では、5秒間隔で取得した映像フレームのそれぞれにおいてテロップ領域を検出し、当該テロップ領域内に表示されている文字列をOCRにて認識する。そして、12フレーム以上(1分以上)に亘って同じ文字列が認識され続けた場合、その区間を一つのシーンとすることで映像の区切りを行っている。
特開2013−229734号公報
ただし、特許文献1では、シーンの区切れ目を設定するにあたり、映像フレーム中のテロップ領域に同じ文字列が所定時間以上表示されたことを確認した上で、その区間の開始時点及び終了時点を特定することになる。つまり、特許文献1では、映像フレーム中のテロップ領域に同じ文字列が所定時間以上表示された後、当該文字列の表示開始時点まで遡って区切れ目を設定すると共に、当該文字列の表示終了時点まで時間を進めて区切れ目を設定することになる。
一方で、作業映像を区切る際には、一般的に、作業を構成する工程や動作の開始時点や終了時点で区切れ目を設定することになる。つまり、作業映像の再生期間の中で区切れ目を設定する際には、当該再生期間中、工程や動作の開始時点や終了時点に相当する時点を特定し、その時点を基準として区切れ目を設定することになる。その場合、特許文献1のように作業映像の再生期間中、特定の文字列が表示されている範囲を特定するのではなく、区切れ目を設定すべき時点(瞬間)を適切に特定する必要がある。
そこで、本発明は、上記の問題に鑑みてなされたものであり、その目的は、作業映像を当該作業の構成要素毎に区切る際に適切に区切れ目を設定することが可能な作業分析支援装置、コンピュータを用いた作業分析支援方法、及び、作業分析支援装置を実現するためのコンピュータプログラムを提供することである。
前記課題は、本発明の作業分析支援装置によれば、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、(A)前記作業映像中の像を検知する検知部と、(B)該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、(C)前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、前記作業映像の再生期間のうち、ユーザによって指定された指定範囲を記憶する範囲記憶部と、を有し、前記検知部は、前記作業映像のうち、前記範囲記憶部に記憶された前記指定範囲内で再生される部分映像中の前記像を検知し、前記判定部は、前記検知部により検知された前記像が前記条件を満たすか否かを判定し、前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部は、前記指定範囲中、前記検知部により検知された前記像が前記条件を満たした時点を基準として前記区切れ目を設定することにより解決される。
上記のように構成された本発明の作業分析支援装置では、作業映像中の像を検知し、作業映像の再生期間中、当該像が作業の構成要素と対応する条件を満たした時点を基準として作業映像の区切れ目を設定する。つまり、本発明の作業分析支援装置では、作業映像中の像を手掛かりとして区切れ目に相当する時点を特定し、その時点を基準として作業映像の区切れ目を設定する。この結果、区切れ目を適切に設定し、作業映像を当該作業の構成要素毎に適切に区切ることが可能となる。
また、上記の構成では、作業映像の再生期間中、ユーザにより指定された範囲(指定範囲)内に映る像を手掛かりとして区切れ目に相当する時点を特定し、その時点を基準として作業映像の区切れ目を設定する。すなわち、上記の実施形態では、ユーザが指定した範囲内で区切れ目を設定するため、区切れ目の設定を効率よく行うことが可能となる。
前記課題は、本発明の作業分析支援装置によれば、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、前記作業映像中の像を検知する検知部と、該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、を有し、前記検知部は、前記作業映像の中で同時に出現した複数の前記像を検知し、前記判定部は、前記検知部により検知された複数の前記像の各々が前記条件を満たすか否かを判定し、前記検知部により検知された複数の前記像のすべてが前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部は、前記再生期間中、前記検知部により検知された複数の前記像のすべてが前記条件を満たした時点を基準として、前記区切れ目を設定することにより解決される。
上記のように構成された本発明の作業分析支援装置では、作業映像中の像を検知し、作業映像の再生期間中、当該像が作業の構成要素と対応する条件を満たした時点を基準として作業映像の区切れ目を設定する。つまり、本発明の作業分析支援装置では、作業映像中の像を手掛かりとして区切れ目に相当する時点を特定し、その時点を基準として作業映像の区切れ目を設定する。この結果、区切れ目を適切に設定し、作業映像を当該作業の構成要素毎に適切に区切ることが可能となる。
また、上記の構成では、作業映像中に映り込む複数の像を手掛かりとして区切れ目に相当する時点を特定し、その時点を基準として作業映像の区切れ目を設定する。これにより、区切れ目の設定精度を向上させることが可能となる。
また、上記の構成において、前記検知部は、前記像として、前記作業映像の中に映り込んだ文字、記号又はパターンを検知するとよい。
上記の構成では、作業中に映り込んだ文字、記号又はパターンを手掛かりとして区切れ目に相当する時点を特定し、その時点を基準として作業映像の区切れ目を設定するようになる。
また、上記の構成において、前記判定部は、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであるか否かを判定し、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであると前記判定部が判定した場合に、前記区切れ目設定部は、前記再生期間中、前記検知部により検知された前記像の出現時点を基準として前記区切れ目を設定するとよい。
上記の構成では、予め登録された像が作業映像中に出現した時点を基準として作業映像の区切れ目を設定する。この際、登録されている像が作業の構成要素と関連付けられていれば、より適切に作業映像を構成要素毎に区切ることが可能となる。
また、上記の構成において、前記判定部は、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記作業映像における前記像の出現位置が前記構成要素と対応付けられて決められた位置であるか否かを判定し、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記出現位置が前記構成要素と対応付けられて決められた位置であると前記判定部が判定した場合に、前記区切れ目設定部は、前記再生期間中、前記検知部により検知された前記像が前記出現位置に出現した時点を基準として前記区切れ目を設定するとよい。
上記の構成では、予め登録された像が作業映像中の所定位置に出現した時点を基準として作業映像の区切れ目を設定する。この際、登録されている像及び当該像の出現位置が作業の構成要素と関連付けられていれば、より適切に作業映像を構成要素毎に区切ることが可能となる。
また、上記の構成において、前記検知部は、前記像として、前記作業映像中に映り込んだ文字を検知し、前記判定部は、前記検知部により検知された前記文字が前記条件を満たすか否かを判定し、前記検知部により検知された前記文字が前記条件を満たすと前記判定部が判定した場合に、処理対象データに対して、該処理対象データが示す文字情報中に前記検知部により検知された前記文字を組み込むための処理を施す処理実行部を有するとよい。
上記の構成では、作業映像中に映り込んだ文字のうち、作業の構成要素と対応付けられた条件を満たす文字が文字入力支援用に用いられ、具体的には、当該文字情報中に組み込まれる。これにより、文字入力作業の省力化を図ることが可能となる。
また、前述の課題は、本発明の作業分析支援方法によれば、コンピュータにより、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切る作業分析支援方法であって、(A)コンピュータが、前記作業映像中に出現した像を検知する検知ステップと、(B)コンピュータが、前記検知ステップにて検知された前記像が前記構成要素と対応する条件を満たすか否かを判定する判定ステップと、(C)前記検知ステップにて検知された前記像が前記条件を満たすと前記判定ステップにおいて判定した場合に、コンピュータが、前記作業映像の再生期間中、前記検知ステップにて検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定ステップと、コンピュータが、前記作業映像の再生期間のうち、ユーザによって設定された指定範囲を記憶する範囲記憶ステップと、を有し、前記検知ステップにおいて、コンピュータが、前記作業映像のうち、前記範囲記憶ステップで記憶された前記指定範囲内で再生される部分映像中の前記像を検知し、前記判定ステップにおいて、コンピュータが、前記検知ステップにおいて検知された前記像が前記条件を満たすか否かを判定し、前記検知ステップにて検知された前記像が前記条件を満たすとコンピュータが判定した場合に、コンピュータが前記区切れ目設定ステップにおいて、前記指定範囲中、前記検知ステップにて検知された前記像が前記条件を満たした時点を基準として前記区切れ目を設定することにより解決される。
また、前述の課題は、本発明の作業分析支援方法によれば、コンピュータにより、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切る作業分析支援方法であって、コンピュータが、前記作業映像中に出現した像を検知する検知ステップと、コンピュータが、前記検知ステップにて検知された前記像が前記構成要素と対応する条件を満たすか否かを判定する判定ステップと、前記検知ステップにて検知された前記像が前記条件を満たすと前記判定ステップにおいて判定した場合に、コンピュータが、前記作業映像の再生期間中、前記検知ステップにて検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定ステップと、を有し、コンピュータが、前記検知ステップにて前記作業映像の中で同時に出現した複数の前記像を検知し、コンピュータが、前記検知ステップにて検知された複数の前記像の各々が前記条件を満たすか否かを判定し、前記検知ステップにて検知された複数の前記像のすべてが前記条件を満たすと、コンピュータが判定した場合に、コンピュータが前記区切れ目設定ステップにおいて、前記再生期間中、前記検知ステップにて検知された複数の前記像のすべてが前記条件を満たした時点を基準として、前記区切れ目を設定することにより解決される。
上記の作業分析支援方法によれば、作業映像の区切れ目を適切に設定し、作業映像を当該作業の構成要素毎に適切に区切ることが可能となる。
また、前述の課題は、本発明のコンピュータプログラムによれば、コンピュータによって読み取られて実行されるコンピュータプログラムであって、前記コンピュータを、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、前記作業映像中の像を検知する検知部と、該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、前記作業映像の再生期間のうち、ユーザによって指定された指定範囲を記憶する範囲記憶部と、を有する作業分析支援装置として機能させ、前記検知部により、前記作業映像のうち、前記範囲記憶部に記憶された前記指定範囲内で再生される部分映像中の前記像を検知させ、前記判定部により、前記検知部により検知された前記像が前記条件を満たすか否かを判定させ、前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部により、前記指定範囲中、前記検知部により検知された前記像が前記条件を満たした時点を基準として前記区切れ目を設定させることにより解決される。
また、前述の課題は、本発明のコンピュータプログラムによれば、コンピュータによって読み取られて実行されるコンピュータプログラムであって、前記コンピュータを、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、前記作業映像中の像を検知する検知部と、該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、を有する作業分析支援装置として機能させ、前記検知部により、前記作業映像の中で同時に出現した複数の前記像を検知させ、前記判定部により、前記検知部により検知された複数の前記像の各々が前記条件を満たすか否かを判定させ、前記検知部により検知された複数の前記像のすべてが前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部により、前記再生期間中、前記検知部により検知された複数の前記像のすべてが前記条件を満たした時点を基準として、前記区切れ目を設定させることにより解決される。
上記のコンピュータプログラムを用いることにより、作業映像の区切れ目を適切に設定し、作業映像を当該作業の構成要素毎に適切に区切ることが可能となる。
また、上記のコンピュータプログラムについては、前記検知部により、前記像として、前記作業映像の中に映り込んだ文字、記号又はパターンを検知させてもよい。
また、上記のコンピュータプログラムについては、前記判定部により、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであるか否かを判定させ、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであると前記判定部が判定した場合に、前記区切れ目設定部により、前記再生期間中、前記検知部により検知された前記像の出現時点を基準として前記区切れ目を設定させてもよい。
また、上記のコンピュータプログラムについては、前記判定部により、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記作業映像における前記像の出現位置が前記構成要素と対応付けられて決められた位置であるか否かを判定させ、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記出現位置が前記構成要素と対応付けられて決められた位置であると前記判定部が判定した場合に、前記区切れ目設定部により、前記再生期間中、前記検知部により検知された前記像が前記出現位置に出現した時点を基準として前記区切れ目を設定させてもよい
た、上記のコンピュータプログラムについては、前記コンピュータを、処理対象データに対して処理を施す処理実行部を更に有する前記作業分析支援装置として機能させ、前記検知部により、前記像として、前記作業映像中に映り込んだ文字を検知し、前記判定部により、前記検知部により検知された前記文字が前記条件を満たすか否かを判定し、前記検知部により検知された前記文字が前記条件を満たすと前記判定部が判定した場合に、前記処理実行部により、前記処理対象データに対して、該処理対象データが示す文字情報中に前記検知部により検知された前記文字を組み込むための処理を実行させてもよい。


本発明によれば、作業映像の区切れ目を適切に設定し、作業映像を当該作業の構成要素毎に適切に区切ることが可能となる。
作業分析画面の一例を示す図である。 本発明の一実施形態に係る作業分析支援装置のハードウェア構成を示す図である。 本発明の一実施形態に係る作業分析支援装置の機能を示す図である。 第一例に係る区切れ目設定処理の流れを示す図である。 第一例において区切れ目設定条件として登録された文字を示す図である。 第二例に係る区切れ目設定処理の流れを示す図である。 第二例に係る区切れ目設定条件についての説明図である。 第三例に係る区切れ目設定処理の流れを示す図である。 第三例において検知される文字についての説明図である。 第三例において区切れ目設定条件として登録された文字の組み合わせを示す図である。 第四例に係る区切れ目設定処理の流れを示す図である。 図12の(A)及び(B)は、第四例に係る区切れ目設定条件についての説明図である。
以下、本発明の一実施形態(本実施形態)について説明する。なお、以下に説明する実施形態は、本発明の理解を容易にするための一例であり、本発明を限定するものではない。つまり、本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にその等価物が含まれることは勿論である。
<<本実施形態に係る作業分析支援装置の概要>>
先ず、本実施形態に係る作業分析支援装置(以下、本装置10)の概要を説明する。本装置10は、作業映像を用いて作業分析を行う際の支援ツールとして用いられるコンピュータである。具体的に説明すると、本装置10は、ある作業の作業映像を工程毎に区切る機能を有している。本装置10のユーザである分析者は、工程毎に区切れられた作業映像(すなわち、工程別の映像)に基づき、各工程の所要時間や作業効率等を把握することが可能となる。
なお、本実施形態において、「作業映像」は、ある作業の様子を不図示のカメラにて撮影して得られる映像(動画)を意味する。また、「作業」は、一連の流れに従って行われる複数の所作(動作)によって構成されるものである。また、「工程」は、作業の構成要素に相当し、通常、1つの作業中には複数の工程が含まれている。
ちなみに、作業の構成要素について付言すると、当該構成要素は、階層的に分類されており、具体的には「工程」、「単位作業」、「要素作業」、「単位動作」及び「要素動作」という階層に分けられる。本実施形態では、1番目の階層である「単位作業」にて作業映像を区切ることとするが、これに限定されず、より下位の階層まで細分化されるように作業映像を区切ってもよい。
本装置10は、作業映像を工程毎に区切るにあたり、作業映像中に区切れ目を設定する。ここで、「区切れ目」は、作業映像の再生期間中、工程の開始時点又は終了時点に相当する時点に設定される。なお、本実施形態では、ある工程の終了時点がその直後の工程の開始時点と一致している。すなわち、本実施形態では、ある工程の終了時点として設定された区切れ目は、その直後の工程の開始時点を示す区切れ目を兼ねることになる。ただし、これに限定されるものではなく、ある工程の終了時点と、その直後の工程開始時点とが互いに異なるタイミングであり、それぞれの時点が別々の区切れ目として設定されてもよい。
また、本実施形態において、本装置10は、作業映像中の文字を認識し、その認識結果に基づいて作業映像の区切れ目を自動的に設定する機能を有している。かかる機能については、後に詳しく説明する。
<<本実施形態に係る作業分析支援装置を用いた作業分析>>
次に、本装置10を用いた作業分析について説明する。本装置10を用いた作業分析において、本装置10は、区切れ目設定処理を実行する。この区切れ目設定処理では、分析対象とする作業の映像(作業映像)中の区切れ目を設定し、これにより、当該作業映像が工程毎に区切られるようになる。なお、区切れ目設定処理では、本発明の作業分析支援方法が採用されている。すなわち、区切れ目設定処理中の各ステップ(詳しくは後述する)は、本発明の作業分析支援方法を構成するものである。
ところで、本装置10を用いた作業分析の際には、図1に図示した作業分析画面がGUI(Graphical User Interface)として表示される。図1は、作業分析画面の一例を示す図である。なお、図1に図示の作業分析画面は、あくまでも一例であり、その画面デザインやレイアウト、画面中に表示される情報等については、製品仕様やユーザの好み等に応じて適宜変更可能である。
作業分析画面は、分析者が本装置10の入力装置4を通じて所定の操作(具体的には、後述する作業分析支援プログラムを起動するための操作)を行うと、本装置10のディスプレイ5に描画される。作業分析画面の画面構成について図1を参照しながら説明すると、画面左側には映像再生領域S1が設けられている。この映像再生領域S1には、分析対象の作業の様子を記録した作業映像が表示される。なお、映像再生領域S1の右上には、作業映像の撮影開始時からの経過時点が表示されている。また、映像再生領域S1の下方位置には、映像再生に関する各種の操作ボタンB1〜B4、再生バーPB及び範囲指定カーソルCR1、CR2が配置されている。
作業分析画面の右側には、図1に示すように動作リスト領域S2が設けられている。この動作リスト領域S2には、区切れ目にて作業映像を区切った際の区切れ目間の範囲(以下、動作と呼ぶ)のレコードが表示されている。各動作のレコードには、動作番号、動作の内容、該当する工程、該当する単位作業、開始時点及び終了時点が収録されている。ただし、各動作のレコードに収録される情報については上記の情報に限定されるものではなく、上記以外の情報(例えば、各動作の所要時間等)が含まれてもよい。
動作番号は、各動作に対して割り当てられた番号であり、最初の動作から順に大きくなるように割り当てられる。動作の内容は、何を行っている動作であるのかを示した文字情報であり、本装置10の入力装置4を通じて入力される。該当する工程は、各動作が分析対象の作業のうち、何れの工程に属するのかを示している。開始時点は、各動作の開始時点であり、厳密には、ある工程の開始時点に相当する区切れ目が設定された時点である。終了時点は、各動作の終了時点であり、厳密には、ある工程の終了時点に相当する区切れ目が設定された時点である。なお、各動作のレコードでは、当該各動作の開始時点及び終了時点が、いずれも作業映像の撮影開始時からの経過時間によって表されている。
作業分析画面において、動作リスト領域S2の下側には、コメント入力領域S3が設けられている。このコメント入力領域S3には、動作リスト領域S2にレコードが表示されている各動作に対するコメント(付記情報)が入力される。コメントとして入力される文字情報には、本装置10の入力装置4を通じてユーザにより入力された文字の他、本装置10が文字認識機能によって作業映像中から自動的に抽出した文字(すなわち、作業映像中に映り込んだ文字)が含まれている。このように本装置10は、文字入力支援機能を備えており、上述したように、作業映像中に映り込んだ文字をコメント入力領域S3へ自動入力することが可能である。
以上のように構成された作業分析画面を通じて作業分析が行われ、その中で区切れ目設定処理が実行される。具体的に説明すると、作業分析画面中の映像再生領域S1に、分析対象の作業の映像(作業映像)が表示されると、その再生期間中において本装置10が当該作業映像の区切れ目を設定する。この際、本装置10は、文字認識機能を用いて自動的に区切れ目を設定する。そして、区切れ目が設定される都度、作業分析画面中の動作リスト領域S2に新たな動作レコードが生成される。また、本装置10は、各動作に対するコメントとしての文字が入力装置4を通じて入力されると、その文字情報をコメント入力領域S3に表示させる。この際、本装置10は、文字入力支援機能により、作業映像中に映り込んだ文字列を併せてコメント入力領域S3に表示させることが可能である。
そして、作業分析の結果については、データ化されて本装置10内の記憶機器(具体的には、ハードディスクドライブ3)に記憶される。この作業分析結果を示すデータは、本発明の処理対象データに相当し、具体的には、区切れ目の設定箇所、動作レコードに収録された各動作に関する情報、及び、コメント入力領域S3に入力された文字情報を示すデータである。
<<本実施形態に係る作業分析支援装置の構成及び機能>>
次に、本装置10の構成について説明する。本装置10は、コンピュータによって構成され、例えばパソコンによって構成されている。ただし、これに限定されるものではなく、本装置10がネットワーク上のサーバコンピュータによって構成されてもよい。すなわち、サーバコンピュータが本装置10の機能を備え、当該機能を利用するためのサービス(ASPサービスやクラウドサービス)を提供し、スマートフォンやタブレット等のクライアント端末でそのサービスを利用する構成であってもよい。
本装置10は、図2に示すように一般的なパソコンの構成機器を有し、具体的にはCPU1、メモリ2、ハードディスクドライブ3(図2では、HDDと表記)、キーボードやマウス等の入力装置4、ディスプレイ5及びスピーカ6を有する。図2は、本装置10の構成を示す図であり、厳密には、本装置10を構成するパソコンのハードウェア構成を示している。
また、ハードディスクドライブ3には、パソコンを本装置10として機能させるためのコンピュータプログラム(以下、作業分析支援プログラム)が格納されている。この作業分析支援プログラムは、本発明のコンピュータプログラムに相当する。そして、作業分析支援プログラムがCPU1によって読み出されて実行されることで、本装置10を構成するパソコンは、本装置10の機能を発揮し、例えば前述した区切れ目設定処理を実行する。
次に、本装置10の機能について説明する。本装置10は、図3に図示された複数の機能部、具体的には映像再生部11、範囲記憶部12、検知部13、判定部14、条件記憶部15、区切れ目設定部16、入力処理実行部17及び特定部18を有する。図3は、本装置10の構成を機能面から示した図である。
上述した各機能部は、本装置10を構成するパソコンのハードウェア機器と作業分析支援プログラムとが協働することで実現される。以下、各機能部について説明する。
(映像再生部11)
映像再生部11は、分析対象となる作業の映像を示す映像データ(具体的には動画ファイル)を読み出し、当該データが示す映像を再生してディスプレイ5に表示させる。なお、作業分析において、映像再生部11によって再生される映像は、作業分析画面中の映像再生領域S1に表示されることになっている。
(範囲記憶部12)
範囲記憶部12は、分析対象となる作業の作業映像の再生期間のうち、分析者によって指定された指定範囲を記憶する。具体的に説明すると、分析者は、作業映像中の一部の範囲の映像のみを表示させる場合、作業分析画面を通じて当該範囲を指定する。より詳しく説明すると、作業分析画面中、映像再生領域S1の下部には、図1に示すように一対の範囲指定カーソルCR1、CR2が設けられている。各々のカーソル位置は、指定範囲の端位置を示しており、より左側の範囲指定カーソルCR1の位置は、指定範囲の開始位置を、より右側の範囲指定カーソルCR2の位置は、指定範囲の終了位置を、それぞれ示している。また、各範囲指定カーソルCR1、CR2は、再生バーPB上でスライド移動することが可能である。そして、ユーザが再生バーPBの幅内(換言すると、作業映像の再生期間中の全期間内)でカーソル位置を変化させると、2つの範囲指定カーソルCR1、CR2間の範囲が指定範囲として設定されるようになる。
範囲記憶部12は、上述した要領で設定された指定範囲を記憶する。そして、範囲記憶部12が指定範囲を記憶している場合、映像再生部11は、作業映像の再生期間中、指定範囲の開始位置から終了位置までの映像を表示することになる。つまり、指定範囲が設定された場合には、作業映像の中から指定範囲の映像が抽出され、抽出した部分映像のみが映像再生領域S1に表示される。
(検知部13)
検知部13は、映像再生領域S1中に表示される作業映像に映り込んだ文字を検知する。より具体的に説明すると、検知部13は、映像再生領域S1に表示されている作業映像中、所定領域に映り込んでいる文字を、公知のOCR技術を利用して検知する。ここで、検知される文字については、特に限定されるものではなく、例えば、作業実施中に提示される作業指示書や看板の文字、デジタル時計に表示される数字、作業員の名札に記載された氏名、作業具や製品に付された番号、作業実施中におけるディスプレイの表示内容(文字情報)等が挙げられる。また、検知される文字の構成については、単一の文字のみであってもよく、複数の文字からなる文字列であってもよい。
作業映像の再生期間中、当該作業映像中の所定領域に映り込む文字が変わる都度、検知部13は、変化後の文字を検知する。また、検知部13が同時に検知することが可能な文字については、一箇所に存する文字であってもよく、あるいは複数箇所に存する文字であってもよい。
また、範囲記憶部12に指定範囲が記憶されている場合、検知部13は、当該指定範囲内で再生される部分映像中の文字を検知する。つまり、指定範囲が設定された場合には、作業映像のうち、指定範囲の部分映像のみの中で文字を検知する。
(判定部14)
判定部14は、検知部13により検知された文字が区切れ目設定条件を満たすか否かを判定する。「区切れ目設定条件」とは、区切れ目を設定するために定められた条件であり、作業を構成する各工程と対応付けられて定められている。
(条件記憶部15)
条件記憶部15は、前述の区切れ目設定条件を記憶している。なお、区切れ目設定条件について説明すると、工程と対応付けられた内容になっている。具体例を挙げて説明すると、区切れ目設定条件の一例としては、工程を特徴付ける文字として工程毎に登録された文字(以下、登録文字)が挙げられる。かかる例において、前述の判定部14は、検知部13により検知された文字がいずれかの工程と対応している登録文字であるか否かを判定する。
また、一つの工程に対して対応付けられる登録文字の個数や内容については、任意であり、互いに異なる複数の登録文字が対応付けられてもよい。かかる場合、判定部14は、検知部13により検知された複数の文字の各々が登録文字に該当し、かつ、その登録文字が同一の工程と対応付けられた文字であるか否かを判定する。
区切れ目設定条件の他例としては、上記の登録文字と、作業実施中における登録文字の正規の出現位置(以下、規定位置)との組み合わせが挙げられる。かかる例において、前述の判定部14は、検知部13により検知された文字がいずれかの工程と対応している登録文字であり、かつ、作業映像における当該文字の出現位置が規定位置であるか否かを判定する。なお、規定位置は、工程と対応付けられた位置として工程別に決められている。
(区切れ目設定部16)
区切れ目設定部16は、検知部13による文字の検知結果と、判定部14による判定結果と、に基づいて作業映像の区切れ目を自動的に設定する。具体的に説明すると、区切れ目設定部16は、検知部13によって検知された文字が区切れ目設定条件を満たすと判定部14が判定した場合に、作業映像の再生期間中、検知部13によって検知された文字が区切れ目設定条件を満たした時点を基準として区切れ目を設定する。また、検知部13が複数の文字を検知し、検知された複数の文字すべてが区切れ目設定条件を満たすと判定部14が判定した場合、区切れ目設定部16は、検知された複数の文字すべてが区切れ目設定条件を満たした時点を基準として区切れ目を設定する。
このように区切れ目設定部16によって作業映像の区切れ目が自動的に設定されることにより、分析者は、自ら作業映像を見ながら区切れ目に相当する時点を探索する手間を省略することができる。この結果、適切に、かつ容易に作業映像中の区切れ目が設定されることになる。
また、指定範囲が設定された場合において、検知部13が当該指定範囲内で再生される部分映像中の文字を検知し、検知された文字が区切れ目設定条件を満たすと判定部14が判定したとき、区切れ目設定部16は、指定範囲中、検知された文字が区切れ目設定条件を満たした時点を基準として区切れ目を設定する。このように指定範囲内で区切れ目を設定すれば、区切れ目の設定を効率よく行うことが可能となる。
(入力処理実行部17)
入力処理実行部17は、処理実行処理部に相当し、検知部13により検知された文字が区切れ目設定条件を満たすと判定部14が判定した場合に、検知文字入力処理を実行する。検知文字入力処理とは、作業分析時に生成される作業分析結果データに対して施される処理である。「作業分析結果データ」とは、作業分析の結果を示すデータであり、具体的には、区切れ目の設定箇所、動作レコードに収録された各動作に関する情報、及び、作業分析画面中のコメント入力領域S3に入力された文字情報を示すデータである。そして、検知文字入力処理では、作業分析結果データが示す文字情報のうち、コメント入力領域S3の文字情報中に、検知部13により検知された文字を自動的に組み込む。
図1に図示されたケースを例に挙げて説明すると、同図では、作業分析画面中の映像再生領域S1に表示されている映像中、所定の領域(具体的には、作業場に設置されたモニタ画面Q1)内に『FFF』という文字が出現している。検知部13が文字『FFF』を検知すると、かかる文字『FFF』が区切れ目設定条件を満たしているか否かが判定部14によって判定される。そして、文字『FFF』が区切れ目設定条件を満たしていると判定部14が判定したとき、入力処理実行部17は、図1に示すように、文字『FFF』をコメント入力領域S3に自動的に組み込む。
以上のような入力処理実行部17による文字入力支援により、分析者がコメント入力領域S3に文字を入力する手間(労力)が軽減される。なお、本実施形態では、検知部13により検知された文字を、作業分析画面中のコメント入力領域S3に自動入力することとしたが、これに限定されるものではない。つまり、検知部13により検知された文字の入力先については任意に決めることができ、例えば、本装置10にて他のアプリケーションプログラムを起動した際に表示される入力画面(入力ウィンドウ)中に入力してもよい。あるいは、検知部13により検知された文字を、作業分析結果データのファイル名(文字情報)中に組み込んでもよい。
(特定部18)
特定部18は、検知部13により検知された文字が区切れ目設定条件を満たすと判定部14が判定した場合に、当該文字に基づいて各種の内容を特定する。具体的に説明すると、特定部18は、検知部13により検知された文字が満たす区切れ目設定条件と対応付けられている工程を特定する。これにより、検知部13により検知された文字が区切れ目設定条件を満たした直後に行われる工程が、作業映像中のどの工程であるのかを特定することが可能となる。
また、特定部18は、検知部13により検知された文字が作業員の氏名を示すものであるとき、当該文字に基づいて、作業映像中に映り込んでいる作業員(厳密には、その作業員の識別ID)を特定することが可能である。
なお、特定部18によって特定された内容(工程や作業員)については、作業分析結果データに反映され、例えば、当該作業分析結果データのファイル名に反映されてもよく、あるいは、同データが示す動作リストの各動作レコードが示す情報として組み込まれてもよい。
<<本実施形態に係る作業分析支援装置の動作例>>
次に、本装置10の動作例として、前述の区切れ目設定処理の手順を説明する。なお、以下では4つの例(第一例〜第四例)を挙げ、それぞれの例における区切れ目設定処理の流れについて説明することとする。
(第一例について)
第一例における区切れ目設定処理では、作業映像中に映し出された文字が登録文字であるときに、当該文字の出現時点を基準として区切れ目を設定する。かかる内容について詳しく説明するため、以下では、6つの工程A〜Fによって構成された作業Pの作業映像に対して区切れ目を設定する場面を例に挙げて説明する。
第一例において、区切れ目設定処理は、図4に示す流れに従って進行する。図4は、第一例に係る区切れ目設定処理の流れを示す図である。具体的に説明すると、第一例に係る区切れ目設定処理では、先ず、分析対象とする作業Pの作業映像が再生されて作業分析画面中の映像再生領域S1に表示されるようになる(S001)。この際、指定範囲が指定されていれば(すなわち、範囲記憶部12に指定範囲が記録されていれば)、当該指定範囲の部分映像が映像再生領域S1に表示されることとなる。
その後、映像再生領域S1に表示されている映像中の所定領域内に文字が映り込んでいる場合には、検知部13が当該文字を検知する(S002)。かかるステップS002は、本発明の検知ステップに相当する。
なお、文字の検知領域については、区切れ目設定処理の事前に定められることになっている。本例では、図1に図示のケースのように映像中に映り込んだモニタ画面Q1内に在る文字を検知する。また、モニタ画面Q1に映る文字は、実施される工程が切り替わると、それに伴う形で切り替わることになっている。つまり、第一例では、検知対象となる文字が切り替わる時点が工程の切り替わり時点、換言すると作業映像の区切れ目に相当する。
検知部13がモニタ画面Q1内の文字を検知した後、その文字が登録文字であるか否かを判定部14が判定する(S003)。本ステップS003は、本発明の判定ステップに相当する。ステップS003について詳しく説明すると、判定部14は、条件記憶部15に記憶されている登録文字テーブルを読み出す。この登録文字テーブルとは、図5に示すように、作業Pを構成する各工程と工程毎の登録文字との対応関係を示すテーブルデータである。図5は、第一例における区切れ目設定条件としての登録文字を示す図であり、厳密には、登録文字テーブルを示している。
そして、検知部13により検知された文字がいずれかの登録文字と一致すると判定部14が判定したとき、区切れ目設定部16は、当該文字の出現時点を区切れ目に設定する(S004)。かかるステップS004は、本発明の区切れ目設定ステップに相当する。
なお、本例では、ステップS004の実施に伴って、特定部18が、検知部13により検知された文字の出現時点直後に実施される工程を特定する。より具体的に説明すると、特定部18は、図5に図示の登録文字テーブルを参照して、検知部13により検知された文字と一致している登録文字と対応付けられている工程を特定する。これにより、検知部13により検知された文字の出現時点直後に実施される工程が特定されることになる。
上述したステップのうち、作業映像の再生開始後に行われるステップS002〜S004は、モニタ画面Q1に映る文字が切り替わる都度、繰り返し実施される。そして、作業映像が終了した時点で区切れ目設定処理が終了する(S005)。区切れ目設定処理が終了した時点では、作業映像中、区切れ目が設定されるべき箇所すべてに区切れ目が設定されている。これにより、作業映像は、作業Pを構成する各工程(工程A〜F)別に区切られるようになる。
ところで、区切れ目設定処理が終了すると、それに伴って作業分析結果データが生成される。この作業分析結果データには、区切れ目設定処理において設定された各区切れ目の設定箇所、及び、区切れ目間の動作に関する情報(動作レコード)が収録されている。また、上記の作業分析結果データが示す情報の中には、作業分析画面中のコメント入力領域S3に入力された文字情報が含まれている。
また、第一例では、入力処理実行部17の機能により、検知部13が検知した文字であって区切れ目設定条件を満たした文字(すなわち、登録文字と一致する文字)が、コメント入力領域S3における文字情報中に自動的に組み込まれることになっている。つまり、入力処理実行部17は、作業分析結果データに対して、同データが示すコメント入力領域S3内の文字情報の中に区切れ目設定条件を満たす文字が組み込まれるように検知文字入力処理を実行する。
(第二例について)
第二例における区切れ目設定処理では、作業映像中に映し出された文字が登録文字であり、且つ、当該文字が規定位置に出現したときに、その時点を基準として区切れ目を設定する。かかる内容について詳しく説明するため、以下では、ベルトコンベア上を流れる作業対象品(以下、ワーク)に対して加工操作を行う作業の作業映像に対して区切れ目を設定する場面を例に挙げて説明することとする。
なお、本例では、ベルトコンベア上を流れるワークに対して順次加工操作を行うことが『作業』に該当し、個々のワークに対する加工操作を開始してから終了するまでの一連の動作が『工程』に該当する。つまり、第二例では、あるワークの加工開始時点が工程の切り替わり時点、換言すると作業映像の区切れ目に相当する。
第二例において、区切れ目設定処理は、図6に示す流れに従って進行する。図6は、第二例に係る区切れ目設定処理の流れを示す図である。具体的に説明すると、第二例に係る区切れ目設定処理では、第一例と同様、分析対象とする作業の作業映像が再生されて作業分析画面中の映像再生領域S1に表示されるところから始まる(S011)。この際、指定範囲が指定されていれば(すなわち、範囲記憶部12に指定範囲が記録されていれば)、当該指定範囲の部分映像が映像再生領域S1に表示されることとなる。
その後、映像再生領域S1に表示されている映像中の所定領域内に文字が映り込んでいる場合には、検知部13が当該文字を検知する(S012)。かかるステップS002は、本発明の検知ステップに相当する。なお、本例では、図7に図示するように、映像中に映り込んだワークQ2に刻印された文字(図中では「XYZ」と表記)を検知する。図7は、第二例に係る区切れ目設定条件についての説明図であり、検知対象の文字が刻印されたワークQ2が移動している様子を示している。
具体的に説明すると、ワークQ2は、図7に示すようにベルトコンベア上で搬送され、映像再生領域S1に表示されている映像の右端から左端に向かって移動する。そして、映像中、ワークQ2に刻印された文字全体が表示される位置(図7中、実線にて示す位置)にワークQ2が映り込むと、検知部13は、当該刻印文字を検知するようになる。
検知部13がワークQ2の刻印文字を検知した後、当該刻印文字が登録文字であるか否かを判定部14が判定する(S013)。なお、本例では、「XYZ」が登録文字に該当する。検知した刻印文字が登録文字であると判定した場合、検知部13は、さらに、当該刻印文字の出現位置が規定位置であるか否かを判定する(S014)。なお、本例では、ワークQ2の搬送経路中、ワークQ2に対して加工操作が行われる加工位置(図7中、破線にて示す位置)が規定位置に該当する。ちなみに、ステップS013及びS014は、本発明の判定ステップに相当する。
そして、検知部13により検知されたワークQ2の刻印文字が登録文字であり、かつ、その出現位置が規定位置であると判定部14が判定したとき、区切れ目設定部16は、上記の規定位置に刻印文字が出現した時点を区切れ目に設定する(S015)。かかるステップS015は、本発明の区切れ目設定ステップに相当する。
上述したステップのうち、作業映像の再生開始後に行われるステップS012〜S015は、ベルトコンベア上のワークQ2が映像中に映り込む(フレームインする)度に繰り返し実施される。そして、作業映像が終了した時点で区切れ目設定処理が終了する(S016)。区切れ目設定処理が終了した時点では、作業映像中、区切れ目が設定されるべき箇所すべてに区切れ目が設定されている。これにより、作業映像は、各ワークQ2の加工操作別(工程別)に区切られるようになる。
なお、第二例においても、第一例と同様、区切れ目設定処理の終了に伴って作業分析結果データが生成される。この作業分析結果データが示す情報は、第一例と略同様である。また、作業分析結果データに対しては検知文字入力処理が実行される。これにより、同データが示す情報のうち、作業分析画面中のコメント入力領域S3に入力された文字情報には、検知部13が検知したワークQ2の刻印文字(具体的には、文字「XYZ」)が組み込まれるようになる。
(第三例について)
第三例における区切れ目設定処理では、作業映像の中で同時に出現した複数の文字を検知する。そして、複数の文字すべてが登録文字であるときに、当該複数の文字が同時に出現した時点を基準として区切れ目を設定する。かかる内容について詳しく説明するため、以下では、上下一対のプレス器を用いて行われる作業の作業映像に対して区切れ目を設定する場面を例に挙げて説明する。
なお、本例では、複数種類の材料を上下一対のプレス器を用いてプレスすることが『作業』に該当し、各種類別のプレス動作が『工程』に該当する。また、本例では、プレスされる材料の種類が切り替わって別の工程に移行する際には、上下一対のプレス器が当該種類に応じて交換されることになっている。つまり、第三例では、上下一対のプレス器が交換される時点が工程の切り替わり時点、換言すると作業映像の区切れ目に相当する。
第三例において、区切れ目設定処理は、図8に示す流れに従って進行する。図8は、第三例に係る区切れ目設定処理の流れを示す図である。具体的に説明すると、第三例に係る区切れ目設定処理は、第一例と同様、分析対象とする作業の作業映像が再生されて作業分析画面中の映像再生領域S1に表示されるところから始まる(S021)。この際、指定範囲が指定されていれば(すなわち、範囲記憶部12に指定範囲が記録されていれば)、当該指定範囲の部分映像が映像再生領域S1に表示されることとなる。
その後、映像再生領域S1に表示されている映像中の所定領域(以下、対象エリア)内に複数の文字が映り込んでいる場合には、検知部13が当該複数の文字を検知する(S002)。かかるステップS022は、本発明の検知ステップに相当する。
ステップS022について具体的に説明すると、文字の検知領域である対象エリアについては、区切れ目設定処理の事前に定められることになっており、本例では、図9に図示のケースのように、上下一対のプレス器が映り込んだ領域(図中、記号Wが付された領域)に設定されている。図9は、第三例において検知される文字についての説明図であり、上下一対のプレス器によって材料をプレスしている様子を示している。
そして、検知部13は、対象エリアW内に上下一対のプレス器が映り込んでいると、各プレス器の表面に刻印された文字を検知する。すなわち、検知部13は、対象エリアW内で同時表示された2箇所の文字(具体的には、上側プレス器Q3の刻印文字と下側プレス器Q4の刻印文字)を検知する。ちなみに、本例において、上側プレス器Q3及び下側プレス器Q4の各々の刻印文字は、互いに異なっており、また、プレスする材料の種類毎に変わっている。ただし、刻印文字についてはプレス器間で共通であってもよい。
検知部13が対象エリアW内で2箇所の文字を検知すると、その後、それぞれの文字が登録文字であるか否かを判定部14が判定する(S023)。検知部13が検知した2箇所の文字がかかるステップS023は、本発明の判定ステップに相当する。
本ステップS023について詳しく説明すると、本ステップS023において判定部14は、検知部13が検知した2箇所の文字の双方がいずれも登録文字であり、かつ、同じ材料(工程)に対応付けられている文字であるか否かを判定する。より具体的に説明すると、本ステップS023では、先ず、判定部14が条件記憶部15に記憶されている第二の登録文字テーブルを読み出す。この第二の登録文字テーブルとは、図10に示すように、それぞれのプレス器に対して設定された登録文字の組み合わせと、プレスされる材料の種類(換言すると、工程の種類)との対応関係を示すテーブルデータである。図10は、第三例において区切れ目設定条件として登録された文字の組み合わせを示す図であり、厳密には、第二の登録文字テーブルを示している。なお、図中の「上側登録文字」は、上側プレス器Q3用の登録文字を意味し、「下側登録文字」は、下側プレス器Q4用の登録文字を意味する。
そして、検知された2箇所の文字の双方が図10中のいずれかの材料(工程)に対応付けられた登録文字の組み合わせであると判定部14が判定したとき、区切れ目設定部16は、上記2箇所の文字が同時に出現した時点を区切れ目に設定する(S024)。かかるステップS004は、本発明の区切れ目設定ステップに相当する。
なお、本例では、ステップS024の実施に伴って、特定部18が、検知された2箇所の文字が対象エリアW内に出現している間にプレスされる材料の種類(換言すると、工程の種類)を特定する。より具体的に説明すると、特定部18は、図10に図示された第二の登録文字テーブルを参照して、検知された2箇所の文字(登録文字)の組み合わせと対応付けられている工程を特定する。例えば、文字「MUa」と文字「MLb」が検知された場合には工程Aが特定されることになる。これにより、検知された2箇所の文字が対象エリアW内に出現している間に実施される工程、厳密には、当該工程においてプレスされる材料の種類が特定されることになる。
上述したステップのうち、作業映像の再生開始後に行われるステップS022〜S024は、プレスされる材料の切り替えに伴って上下一対のプレス器が交換される都度、繰り返し実施される。そして、作業映像が終了した時点で区切れ目設定処理が終了する(S025)。区切れ目設定処理が終了した時点では、作業映像中、区切れ目が設定されるべき箇所すべてに区切れ目が設定されている。これにより、作業映像は、各種類の材料をプレスする操作別(工程別)に区切られるようになる。
なお、第三例においても、第一例と同様、区切れ目設定処理の終了に伴って作業分析結果データが生成される。この作業分析結果データが示す情報は、第一例と略同様である。また、作業分析結果データに対しては検知文字入力処理が実行される。これにより、同データが示す情報のうち、作業分析画面中のコメント入力領域S3に入力された文字情報には、検知部13が検知した2箇所の文字であって区切れ目設定条件を満たした文字(すなわち、登録文字と一致する文字)が組み込まれるようになる。
(第四例について)
第四例における区切れ目設定処理では、第二例と同様、作業映像中に映し出された文字が登録文字であり、且つ、当該文字が規定位置に出現したときに、その時点を基準として区切れ目を設定する。また、第四例では、上記の規定位置が複数設定されており、各規定位置に登録文字と一致する文字が出現したときに、その時点を基準として区切れ目を設定する。かかる内容について詳しく説明するため、以下では、2つの工程によって構成された作業Xの作業映像に対して区切れ目を設定する場面を例に挙げて説明することとする。
作業Xについて説明すると、作業Xを構成する2つの工程のうち、前半の工程では、作業員が製品を組み立て、後半の工程では、作業員が組立後の製品に加工を行う。また、作業員は、製品の組み立てを行うにあたり、作業場における第一位置に移動し、その後に製品の加工を行うにあたり、第一位置から第二位置へ移動する。つまり、第四例では、作業員が第一位置又は第二位置に至った時点が工程の切り替わり時点、換言すると作業映像の区切れ目に相当する。
第四例において、区切れ目設定処理は、図11に示す流れに従って進行する。図11は、第四例に係る区切れ目設定処理の流れを示す図である。具体的に説明すると、第四例に係る区切れ目設定処理では、第四例と同様、作業Xの作業映像が再生されて作業分析画面中の映像再生領域S1に表示されるところから始まる(S031)。この際、指定範囲が指定されていれば(すなわち、範囲記憶部12に指定範囲が記録されていれば)、当該指定範囲の部分映像が映像再生領域S1に表示されることとなる。
その後、映像再生領域S1に表示されている映像中の所定領域内に文字が映り込んでいる場合には、検知部13が当該文字を検知する(S032)。かかるステップS002は、本発明の検知ステップに相当する。なお、本例では、図12の(A)及び(B)に図示するように、映像中に映り込んだ作業員が着用している衣服Q5(厳密には、作業帽)に記入された当該作業員の氏名(図中では「山田」と表記)を検知する。図12の(A)及び(B)は、第四例に係る区切れ目設定条件についての説明図であり、(A)は、作業員が第一位置にて製品を組み立てている様子を、(B)は、作業員が第二位置にて製品に加工を行っている様子を、それぞれ示している。
具体的に説明すると、作業員が映像中に映り込んだとき(フレームインしたとき)、検知部13は、作業員の衣服Q5に記入された当該作業員の氏名を示す文字を検知するようになる。検知部13が衣服Q5の記入文字を検知した後、その文字が登録文字であるか否かを判定部14が判定する(S033)。なお、本例では、予め登録された作業員の氏名が登録文字として条件記憶部15に記憶されている。判定部14は、検知部13により検知された文字が条件記憶部15に記憶された作業員の氏名のいずれかと一致するか否かを判定する。
検知した文字が登録文字であると判定した場合、検知部13は、さらに、当該文字の出現位置が規定位置であるか否かを判定する(S034、S036)。なお、本例では、作業者が第一位置に居るときの衣服Q5の位置(図12の(A)における作業帽の位置であり、以下では、便宜的に「第一位置」と呼ぶ)、及び、作業者が第二位置に居るときの衣服Q5の位置(図12の(B)における作業帽の位置であり、以下では、便宜的に「第二位置」と呼ぶ)が規定位置に該当する。ちなみに、ステップS033、S034及びS036は、本発明の判定ステップに相当する。
そして、検知部13により検知された衣服Q5の記入文字が登録文字であり、かつ、その出現位置が第一位置又は第二位置であると判定部14が判定したとき、区切れ目設定部16は、記入文字が第一位置又は第二位置に出現した時点を区切れ目に設定する(S035、S037)。かかるステップS035、S037は、本発明の区切れ目設定ステップに相当する。
上述したステップのうち、作業映像の再生開始後に行われるステップS032〜S037は、作業映像中の作業員が第一位置と第二位置との間を往来する度に繰り返し実施される。そして、作業映像が終了した時点で(S038)、次のステップS039へ移行するようになる。なお、作業映像終了時点では、当該作業映像中、区切れ目が設定されるべき箇所すべてに区切れ目が設定されている。これにより、作業映像は、作業Xを構成する各工程別に区切られるようになる。
作業映像終了後には、特定部18が、検知部13により検知された衣服Q5の記入文字に基づいて作業映像中の作業員(厳密には、作業員の識別ID)を特定する(S038)。具体的には、特定部18は、予め登録された複数の作業員の識別IDの中から、検知部13が検知した記入文字と一致する登録文字と関連付けられている識別IDを特定する。
また、第四例では、作業映像の終了(ステップS038)に伴って作業分析結果データが生成される。この作業分析結果データが示す情報は、第一例と略同様である。また、作業分析結果データに対しては検知文字入力処理が実行される。これにより、同データが示す情報のうち、作業分析画面中のコメント入力領域S3に入力された文字情報には、検知部13が検知した衣服Q5の記入文字(すなわち、作業員の氏名)が組み込まれるようになる。
さらに、第四例では、上記の作業分析結果データが、ステップS038にて特定された作業員の識別IDと紐付けされて記憶されることになっている(S039)。本ステップS039では、例えば、作業分析結果データのファイル名中に上記の識別IDを示す文字列が埋め込まれる。そして、ステップS039が終了した時点で、区切れ目設定処理が終了する。
以上のように、第四例では、作業映像における区切れ目の設定箇所を示す作業分析結果データを、当該作業映像中に映り込んだ作業員の氏名に紐付けて記憶する。これにより、作業分析結果データが示す情報が、どの作業員によって行われた作業に関する内容であるのかを容易に識別することが可能となる。
<<その他の実施形態>>
上記の実施形態では、本発明の作業分析支援装置の構成及び動作について具体例を挙げて説明した。しかしながら、上記の実施形態は本発明の一例に過ぎず、上記以外の実施形態も考えられる。例えば、作業映像中に出現した文字を手掛かりにして区切れ目を設定することとした。ただし、作業映像中の文字に限定されるものではなく、その他の像、例えば、作業映像中に映し出されたQRコード(登録商標)などの記号、あるいは所定の色や模様・柄のパターンを手掛かりに区切れ目を設定してもよい。
また、上記の実施形態では、作業映像の区切れ目を設定するにあたり、作業映像を実際に再生してディスプレイ5に表示させることとした。ただし、これに限定されるものではなく、作業映像の再生及び表示を伴わない形で区切れ目の設定がなされてもよい。
また、上記の実施形態では、一台のコンピュータによって作業分析支援装置が構成されていることとした。すなわち、上記の実施形態では、映像再生部11、範囲記憶部12、検知部13、判定部14、条件記憶部15、区切れ目設定部16、入力処理実行部17及び特定部18が一台のコンピュータによって実現されているケースを例に挙げて説明した。ただし、これに限定されるものではなく、複数台のコンピュータによって作業分析支援装置が構成され、上記の機能部の一部を実現するコンピュータと、それ以外の機能部を実現するコンピュータとが別々の機器であってもよい。
また、上記の実施形態では、検知された文字(像)が区切れ目設定条件を満たした時点を区切れ目に設定することとした。より具体的に説明すると、第一例や第三例では、検知された文字が登録文字である場合、当該文字の出現時点を区切れ目に設定した。また、第二例や第四例では、検知された文字が登録文字であり、かつ、その出現位置が規定位置である場合、当該文字が規定位置に出現した時点を区切れ目に設定した。ただし、これに限定されるものではなく、例えば、検知された文字(像)が区切れ目設定条件を満たした時点からn秒(nは実数)経過した時点、あるいはn秒遡った時点を区切れ目に設定してもよい。
1 CPU
2 メモリ
3 ハードディスクドライブ
4 入力装置
5 ディスプレイ
6 スピーカ
10 本装置(作業分析支援装置)
11 映像再生部
12 範囲記憶部
13 検知部
14 判定部
15 条件記憶部
16 区切れ目設定部
17 入力処理実行部(処理実行部)
18 特定部
CR1,CR2 範囲指定カーソル
PB 再生バー
Q1 モニタ画面
Q2 ワーク
Q3 上側プレス器
Q4 下側プレス器
Q5 衣服
S1 映像再生領域
S2 動作リスト領域
S3 コメント入力領域

Claims (14)

  1. 作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、
    前記作業映像中の像を検知する検知部と、
    該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、
    前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、
    前記作業映像の再生期間のうち、ユーザによって指定された指定範囲を記憶する範囲記憶部と、を有し、
    前記検知部は、前記作業映像のうち、前記範囲記憶部に記憶された前記指定範囲内で再生される部分映像中の前記像を検知し、
    前記判定部は、前記検知部により検知された前記像が前記条件を満たすか否かを判定し、
    前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部は、前記指定範囲中、前記検知部により検知された前記像が前記条件を満たした時点を基準として前記区切れ目を設定することを特徴とする作業分析支援装置。
  2. 作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、
    前記作業映像中の像を検知する検知部と、
    該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、
    前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、を有し、
    前記検知部は、前記作業映像の中で同時に出現した複数の前記像を検知し、
    前記判定部は、前記検知部により検知された複数の前記像の各々が前記条件を満たすか否かを判定し、
    前記検知部により検知された複数の前記像のすべてが前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部は、前記再生期間中、前記検知部により検知された複数の前記像のすべてが前記条件を満たした時点を基準として、前記区切れ目を設定することを特徴とする作業分析支援装置
  3. 前記検知部は、前記像として、前記作業映像の中に映り込んだ文字、記号又はパターンを検知することを特徴とする請求項1又は2に記載の作業分析支援装置。
  4. 前記判定部は、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであるか否かを判定し、
    前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであると前記判定部が判定した場合に、前記区切れ目設定部は、前記再生期間中、前記検知部により検知された前記像の出現時点を基準として前記区切れ目を設定することを特徴とする請求項1乃至3のいずれか一項に記載の作業分析支援装置。
  5. 前記判定部は、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記作業映像における前記像の出現位置が前記構成要素と対応付けられて決められた位置であるか否かを判定し、
    前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記出現位置が前記構成要素と対応付けられて決められた位置であると前記判定部が判定した場合に、前記区切れ目設定部は、前記再生期間中、前記検知部により検知された前記像が前記出現位置に出現した時点を基準として前記区切れ目を設定することを特徴とする請求項1乃至3のいずれか一項に記載の作業分析支援装置。
  6. 前記検知部は、前記像として、前記作業映像中に映り込んだ文字を検知し、
    前記判定部は、前記検知部により検知された前記文字が前記条件を満たすか否かを判定し、
    前記検知部により検知された前記文字が前記条件を満たすと前記判定部が判定した場合に、処理対象データに対して、該処理対象データが示す文字情報中に前記検知部により検知された前記文字を組み込むための処理を施す処理実行部を有することを特徴とする請求項1乃至のいずれか一項に記載の作業分析支援装置。
  7. コンピュータにより、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切る作業分析支援方法であって、
    コンピュータが、前記作業映像中に出現した像を検知する検知ステップと、
    コンピュータが、前記検知ステップにて検知された前記像が前記構成要素と対応する条件を満たすか否かを判定する判定ステップと、
    前記検知ステップにて検知された前記像が前記条件を満たすと前記判定ステップにおいて判定した場合に、コンピュータが、前記作業映像の再生期間中、前記検知ステップにて検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定ステップと、
    コンピュータが、前記作業映像の再生期間のうち、ユーザによって設定された指定範囲を記憶する範囲記憶ステップと、を有し、
    前記検知ステップにおいて、コンピュータが、前記作業映像のうち、前記範囲記憶ステップで記憶された前記指定範囲内で再生される部分映像中の前記像を検知し、
    前記判定ステップにおいて、コンピュータが、前記検知ステップにおいて検知された前記像が前記条件を満たすか否かを判定し、
    前記検知ステップにて検知された前記像が前記条件を満たすとコンピュータが判定した場合に、コンピュータが前記区切れ目設定ステップにおいて、前記指定範囲中、前記検知ステップにて検知された前記像が前記条件を満たした時点を基準として前記区切れ目を設定することを特徴とする作業分析支援方法。
  8. コンピュータにより、作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切る作業分析支援方法であって、
    コンピュータが、前記作業映像中に出現した像を検知する検知ステップと、
    コンピュータが、前記検知ステップにて検知された前記像が前記構成要素と対応する条件を満たすか否かを判定する判定ステップと、
    前記検知ステップにて検知された前記像が前記条件を満たすと前記判定ステップにおいて判定した場合に、コンピュータが、前記作業映像の再生期間中、前記検知ステップにて検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定ステップと、を有し、
    コンピュータが、前記検知ステップにて前記作業映像の中で同時に出現した複数の前記像を検知し、
    コンピュータが、前記検知ステップにて検知された複数の前記像の各々が前記条件を満たすか否かを判定し、
    前記検知ステップにて検知された複数の前記像のすべてが前記条件を満たすと、コンピュータが判定した場合に、コンピュータが前記区切れ目設定ステップにおいて、前記再生期間中、前記検知ステップにて検知された複数の前記像のすべてが前記条件を満たした時点を基準として、前記区切れ目を設定することを特徴とする作業分析支援方法。
  9. コンピュータによって読み取られて実行されるコンピュータプログラムであって、
    前記コンピュータを、
    作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、
    前記作業映像中の像を検知する検知部と、
    該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、
    前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、
    前記作業映像の再生期間のうち、ユーザによって指定された指定範囲を記憶する範囲記憶部と、を有する作業分析支援装置として機能させ
    前記検知部により、前記作業映像のうち、前記範囲記憶部に記憶された前記指定範囲内で再生される部分映像中の前記像を検知させ、
    前記判定部により、前記検知部により検知された前記像が前記条件を満たすか否かを判定させ、
    前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部により、前記指定範囲中、前記検知部により検知された前記像が前記条件を満たした時点を基準として前記区切れ目を設定させることを特徴とするコンピュータプログラム。
  10. コンピュータによって読み取られて実行されるコンピュータプログラムであって、
    前記コンピュータを、
    作業の様子を撮影して得られる作業映像を、前記作業の構成要素毎に区切るための作業分析支援装置であって、
    前記作業映像中の像を検知する検知部と、
    該検知部により検知された前記像が、前記構成要素と対応する条件を満たすか否かを判定する判定部と、
    前記検知部により検知された前記像が前記条件を満たすと前記判定部が判定した場合に、前記作業映像の再生期間中、前記検知部により検知された前記像が前記条件を満たした時点を基準として、前記作業映像の区切れ目を設定する区切れ目設定部と、を有する作業分析支援装置として機能させ、
    前記検知部により、前記作業映像の中で同時に出現した複数の前記像を検知させ、
    前記判定部により、前記検知部により検知された複数の前記像の各々が前記条件を満たすか否かを判定させ、
    前記検知部により検知された複数の前記像のすべてが前記条件を満たすと前記判定部が判定した場合に、前記区切れ目設定部により、前記再生期間中、前記検知部により検知された複数の前記像のすべてが前記条件を満たした時点を基準として、前記区切れ目を設定させることを特徴とするコンピュータプログラム。
  11. 前記検知部により、前記像として、前記作業映像の中に映り込んだ文字、記号又はパターンを検知させることを特徴とする請求項9又は10に記載のコンピュータプログラム。
  12. 前記判定部により、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであるか否かを判定させ、
    前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであると前記判定部が判定した場合に、前記区切れ目設定部により、前記再生期間中、前記検知部により検知された前記像の出現時点を基準として前記区切れ目を設定させることを特徴とする請求項9乃至11のいずれか一項に記載のコンピュータプログラム。
  13. 前記判定部により、前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記作業映像における前記像の出現位置が前記構成要素と対応付けられて決められた位置であるか否かを判定させ、
    前記検知部により検知された前記像が前記構成要素と対応付けられて登録されたものであり、かつ、前記出現位置が前記構成要素と対応付けられて決められた位置であると前記判定部が判定した場合に、前記区切れ目設定部により、前記再生期間中、前記検知部により検知された前記像が前記出現位置に出現した時点を基準として前記区切れ目を設定させることを特徴とする請求項9乃至11のいずれか一項に記載のコンピュータプログラム。
  14. 前記コンピュータを、処理対象データに対して処理を施す処理実行部を更に有する前記作業分析支援装置として機能させ、
    前記検知部により、前記像として、前記作業映像中に映り込んだ文字を検知し、
    前記判定部により、前記検知部により検知された前記文字が前記条件を満たすか否かを判定し、
    前記検知部により検知された前記文字が前記条件を満たすと前記判定部が判定した場合に、前記処理実行部により、前記処理対象データに対して、該処理対象データが示す文字情報中に前記検知部により検知された前記文字を組み込むための処理を実行させることを特徴とする請求項9乃至13のいずれか一項に記載のコンピュータプログラム。
JP2016014829A 2016-01-28 2016-01-28 作業分析支援装置、作業分析支援方法及びコンピュータプログラム Active JP6717606B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016014829A JP6717606B2 (ja) 2016-01-28 2016-01-28 作業分析支援装置、作業分析支援方法及びコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016014829A JP6717606B2 (ja) 2016-01-28 2016-01-28 作業分析支援装置、作業分析支援方法及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2017134691A JP2017134691A (ja) 2017-08-03
JP6717606B2 true JP6717606B2 (ja) 2020-07-01

Family

ID=59504380

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016014829A Active JP6717606B2 (ja) 2016-01-28 2016-01-28 作業分析支援装置、作業分析支援方法及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP6717606B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6648930B2 (ja) * 2016-03-31 2020-02-14 キヤノン株式会社 編集装置、編集方法及びプログラム
JP2019200560A (ja) * 2018-05-16 2019-11-21 パナソニックIpマネジメント株式会社 作業分析装置および作業分析方法
JP7139987B2 (ja) * 2019-02-08 2022-09-21 コニカミノルタ株式会社 工程情報取得システム、工程情報取得方法、および工程情報取得プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0805405A3 (en) * 1996-02-05 1998-04-15 Texas Instruments Incorporated Motion event detection for video indexing
JP4653939B2 (ja) * 2003-02-13 2011-03-16 富士フイルム株式会社 画像再生装置
JP2008009938A (ja) * 2006-06-30 2008-01-17 Omron Corp 動画像データ処理装置、動画像データ処理方法、動画像データ処理プログラム、およびこれを記録した記録媒体
JP4905103B2 (ja) * 2006-12-12 2012-03-28 株式会社日立製作所 動画再生装置
JP2013098754A (ja) * 2011-10-31 2013-05-20 Toshiba Corp 電子機器、電子機器の制御方法、電子機器の制御プログラム
US9449216B1 (en) * 2013-04-10 2016-09-20 Amazon Technologies, Inc. Detection of cast members in video content

Also Published As

Publication number Publication date
JP2017134691A (ja) 2017-08-03

Similar Documents

Publication Publication Date Title
US9977580B2 (en) Easy-to-use desktop screen recording application
CN103686344B (zh) 增强视频系统及方法
US10134441B2 (en) Method and system for overlaying image in video stream
KR102028198B1 (ko) 동영상 장면과 메타데이터 저작 방법
US11317139B2 (en) Control method and apparatus
US8886011B2 (en) System and method for question detection based video segmentation, search and collaboration in a video processing environment
CN105340014B (zh) 用于视频编辑的触摸优化设计
US7911482B1 (en) Method and system for efficient annotation of object trajectories in image sequences
US20170046036A1 (en) Methods and systems for photo, page, and spread arrangement on space-constrained user devices
JP6717606B2 (ja) 作業分析支援装置、作業分析支援方法及びコンピュータプログラム
US20150131973A1 (en) Method and system for automatic generation of clips from a plurality of images based on an inter-objects relationship score
CN104380717B (zh) 信息处理装置、信息处理方法、以及计算机可读存储介质
JP2010258729A (ja) 画像・音声監視システム
KR20090093904A (ko) 장면 변화에 강인한 멀티미디어 영상 분석 장치 및 그 방법과, 그를 이용한 객체 기반 멀티미디어 편집 시스템
JP2009015529A (ja) 作業分析装置および方法
US10867635B2 (en) Method and system for generation of a variant video production from an edited video production
US9881086B2 (en) Image shooting device, image shooting method, and recording medium
KR101733230B1 (ko) 컨텐츠 공유 서비스 제공 방법, 표시 제어 방법 및 컴퓨터 프로그램
US20160307044A1 (en) Process for generating a video tag cloud representing objects appearing in a video content
US20140233854A1 (en) Real time object scanning using a mobile phone and cloud-based visual search engine
US11355158B2 (en) Asynchronous video collaboration
JP2001326881A (ja) 映像一覧方法及び映像一覧処理プログラムを記録した記録媒体
JP2017010278A (ja) 作業分析装置及び作業分析方法
JP2007124368A (ja) セグメントメタデータ作成装置およびセグメントメタデータ作成方法
US10360221B2 (en) Method, system, and client for content management

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200611

R150 Certificate of patent or registration of utility model

Ref document number: 6717606

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250