JP2021086219A - Cooperative work system, analysis and collection device, and analysis program - Google Patents

Cooperative work system, analysis and collection device, and analysis program Download PDF

Info

Publication number
JP2021086219A
JP2021086219A JP2019212562A JP2019212562A JP2021086219A JP 2021086219 A JP2021086219 A JP 2021086219A JP 2019212562 A JP2019212562 A JP 2019212562A JP 2019212562 A JP2019212562 A JP 2019212562A JP 2021086219 A JP2021086219 A JP 2021086219A
Authority
JP
Japan
Prior art keywords
work
worker
robot
history information
collaborative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019212562A
Other languages
Japanese (ja)
Other versions
JP7384000B2 (en
Inventor
慎也 藤本
Shinya Fujimoto
慎也 藤本
昭朗 小林
Akiro Kobayashi
昭朗 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2019212562A priority Critical patent/JP7384000B2/en
Publication of JP2021086219A publication Critical patent/JP2021086219A/en
Application granted granted Critical
Publication of JP7384000B2 publication Critical patent/JP7384000B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • General Factory Administration (AREA)
  • Image Analysis (AREA)

Abstract

To provide a configuration that can efficiently analyze work in a cooperative work system including one or more cooperative working robots working in cooperation with an operator.SOLUTION: There is provided a cooperative work system that manufactures products along predetermined processes. The cooperative work system includes: one or more cooperative working robots working in cooperation with an operator; a history information storage unit for storing history information indicating the behavior of the operator and the cooperative working robots; and a condition determination unit that, when a predetermined storage condition is satisfied, stores, in the history information storage unit, history information on work designated by the storage condition, while adding thereto information indicating which of the operator and the cooperative working robots take(s) charge of the work.SELECTED DRAWING: Figure 1

Description

本発明は、協調作業システム、解析収集装置および解析プログラムに関する。 The present invention relates to a collaborative work system, an analysis collection device and an analysis program.

工場等の生産現場における作業工程の実施状況を撮像した撮像データを、当該作業工程の改善等に利用する試みが知られている。例えば、特開2019−023803号公報(特許文献1)は、作業現場に配置された複数のカメラで撮影した作業映像データを解析して、作業者が実際に作業を行うことのできた時間である実作業時間を検出し、検出した実作業時間を用いてボトルネックとなっている作業工程を特定する技術を開示する。 There is known an attempt to use imaging data obtained by imaging the implementation status of a work process at a production site such as a factory for improvement of the work process. For example, Japanese Patent Application Laid-Open No. 2019-023803 (Patent Document 1) is a time during which an operator can actually perform a work by analyzing work video data taken by a plurality of cameras arranged at a work site. We will disclose a technique for detecting an actual work time and using the detected actual work time to identify a work process that is a bottleneck.

特開2019−023803号公報Japanese Unexamined Patent Publication No. 2019-023803

上述の特許文献1に開示される技術は、セル生産方式などの作業者の作業に着目するものに過ぎず、人とロボットとが協調して作業する協調作業システムについては、何ら想定されていない。本発明は、このような新たな課題に対する解決手段を提供するものであり、作業者と協調して作業を行う1または複数の協調作業ロボットを含む協調作業システムにおける作業を効率的に解析できる構成を提供するものである。 The technique disclosed in Patent Document 1 described above merely focuses on the work of a worker such as a cell production method, and no assumption is made about a cooperative work system in which a human and a robot work in cooperation with each other. .. The present invention provides a means for solving such a new problem, and is a configuration capable of efficiently analyzing work in a collaborative work system including one or a plurality of collaborative work robots that perform work in cooperation with an operator. Is to provide.

本発明の一実施形態に従えば、予め定められた工程に沿って製品を生産する協調作業システムが提供される。協調作業システムは、作業者と協調して作業を行う1または複数の協調作業ロボットと、作業者および協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部と、予め定められた保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が作業者および協調作業ロボットのいずれにより担当されたのかを示す情報を付加して、履歴情報保存部に保存する条件判定部とを含む。 According to one embodiment of the present invention, a collaborative work system for producing a product according to a predetermined process is provided. The collaborative work system is predetermined with one or more collaborative work robots that work in cooperation with the worker, a history information storage unit for storing history information indicating the behavior of the worker and the collaborative work robot, and a history information storage unit. When the storage condition is satisfied, the history information about the work specified by the storage condition is added to the history information storage unit by adding information indicating whether the work is in charge of the worker or the collaborative work robot. Includes a condition determination unit to save.

この構成によれば、履歴情報を、当該作業が作業者および協調作業ロボットのいずれにより担当されたのかを示す情報を付加して保存するので、協調作業システムにおける作業を効率的に解析できる。 According to this configuration, since the history information is additionally stored with the information indicating whether the work is in charge of the worker or the collaborative work robot, the work in the collaborative work system can be efficiently analyzed.

履歴情報は、作業者および協調作業ロボットの少なくとも一方を撮影した画像を含んでいてもよい。この構成によれば、視覚的に作業者または協調作業ロボットの挙動を確認できる。 The historical information may include images of at least one of the worker and the collaborative work robot. According to this configuration, the behavior of the worker or the collaborative work robot can be visually confirmed.

協調作業システムは、作業者および協調作業ロボットの少なくとも一方の挙動を解析することで、工程に含まれる各作業の開始および終了のタイミングを決定する作業認識部をさらに含んでいてもよい。この構成によれば、作業者および協調作業ロボットのいずれが作業を行っていても、各作業の開始および終了のタイミングを決定できる。 The collaborative work system may further include a work recognition unit that determines the start and end timings of each work included in the process by analyzing the behavior of at least one of the worker and the collaborative work robot. According to this configuration, the start and end timings of each work can be determined regardless of whether the worker or the collaborative work robot is performing the work.

作業認識部は、各工程に含まれる1または複数の要素作業毎に開始および終了のタイミングを決定してもよい。この構成によれば、より高い精度で解析を実現できる。 The work recognition unit may determine the start and end timings for each one or a plurality of elemental works included in each process. According to this configuration, analysis can be realized with higher accuracy.

作業認識部は、センシングデバイスによる少なくとも作業者を含む領域のセンシング結果に基づいて、作業者の特徴点を抽出する特徴点抽出部と、センシング結果に基づいて、作業ステージ上にある物体の位置および種類を認識する物体認識部と、特徴点抽出部により抽出される作業者の特徴点、および、物体認識部により認識される物体の位置および種類に基づいて、作業者による要素作業毎に開始および終了のタイミングを決定する第1のタイミング決定部とを含むようにしてもよい。この構成によれば、作業者の作業を要素作業の単位で算出できる。 The work recognition unit extracts the feature points of the worker based on the sensing result of at least the area including the worker by the sensing device, and the position of the object on the work stage and the position of the object on the work stage based on the sensing result. Based on the object recognition unit that recognizes the type, the feature points of the worker extracted by the feature point extraction unit, and the position and type of the object recognized by the object recognition unit, each element work by the worker is started and started. It may include a first timing determination unit that determines the end timing. According to this configuration, the work of the worker can be calculated in units of element work.

作業認識部は、協調作業ロボットからの制御状態に基づいて協調作業ロボットのステータスを管理するステータス管理部と、協調作業ロボットのステータスに対応する挙動に基づいて、協調作業ロボットによる要素作業毎に開始および終了のタイミングを決定する第2のタイミング決定部とを含んでいてもよい。この構成によれば、協調作業ロボットの作業を要素作業の単位で算出できる。 The work recognition unit starts for each element work by the collaborative work robot based on the status management unit that manages the status of the collaborative work robot based on the control status from the collaborative work robot and the behavior corresponding to the status of the collaborative work robot. And a second timing determination unit that determines the end timing may be included. According to this configuration, the work of the collaborative work robot can be calculated in units of element work.

条件判定部は、作業認識部により決定される各作業の開始および終了のタイミングに基づいて、保存すべき履歴情報の場面または区間を決定してもよい。この構成によれば、開始および終了のタイミングを基準として、適切な場面または区間の履歴情報を保存できる。 The condition determination unit may determine the scene or section of the history information to be saved based on the start and end timings of each work determined by the work recognition unit. According to this configuration, the history information of an appropriate scene or section can be stored based on the start and end timings.

条件判定部は、事後的に異常情報が入力されると、当該異常情報に対応する履歴情報をさかのぼって保存してもよい。この構成によれば、何らかの異常が発生した場合の履歴情報を確実に保存できる。 When the abnormality information is input after the fact, the condition determination unit may retroactively save the history information corresponding to the abnormality information. According to this configuration, history information when some abnormality occurs can be reliably saved.

本発明の別の実施形態に従えば、予め定められた工程に沿って製品を生産する協調作業システムに向けられた解析収集装置が提供される。協調作業システムは作業者と協調して作業を行う1または複数の協調作業ロボットを含み。解析収集装置は、作業者および協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部と、予め定められた保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が作業者および協調作業ロボットのいずれにより担当されたのかを示す情報を付加して、履歴情報保存部に保存する条件判定部とを含む。 According to another embodiment of the present invention, there is provided an analysis and collection device for a collaborative work system that produces a product according to a predetermined process. Collaborative work systems include one or more collaborative work robots that work in concert with workers. The analysis and collection device has a history information storage unit for storing history information indicating the behavior of the worker and the collaborative work robot, and a history of the work specified by the storage condition when the predetermined storage condition is satisfied. The information includes a condition determination unit that stores the information in the history information storage unit by adding information indicating whether the work is performed by the worker or the collaborative work robot.

本発明のさらに別の実施形態に従えば、予め定められた工程に沿って製品を生産する協調作業システムに向けられた解析プログラムが提供される。協調作業システムは作業者と協調して作業を行う1または複数の協調作業ロボットを含む。解析プログラムはコンピュータに、予め定められた保存条件が満たされるか否かを判断するステップと、いずれかの保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が作業者および協調作業ロボットのいずれにより担当されたのかを示す情報を付加して保存するステップとを実行させる。履歴情報は、作業者および協調作業ロボットの挙動を示す。 According to yet another embodiment of the present invention, an analysis program directed to a collaborative work system that produces a product according to a predetermined process is provided. The collaborative work system includes one or more collaborative work robots that work in cooperation with the worker. The analysis program gives the computer a step of determining whether or not the predetermined storage conditions are satisfied, and when any of the storage conditions is satisfied, the history information about the work specified by the storage conditions is transmitted to the computer. To execute a step of adding and saving information indicating whether the worker or the collaborative work robot was in charge of the work. The history information shows the behavior of the worker and the collaborative work robot.

本発明によれば、作業者と協調して作業を行う1または複数の協調作業ロボットを含む協調作業システムにおける作業を効率的に解析できる構成を提供できる。 According to the present invention, it is possible to provide a configuration capable of efficiently analyzing work in a cooperative work system including one or a plurality of cooperative work robots that perform work in cooperation with an operator.

本発明が適用される場面の一例を示す模式図である。It is a schematic diagram which shows an example of the scene to which this invention is applied. 本実施の形態に係る協調作業システムの一例を示す外観図である。It is an external view which shows an example of the cooperative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムの一例を示す外観図である。It is an external view which shows an example of the cooperative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムのハードウェア構成例を示す図である。It is a figure which shows the hardware configuration example of the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムを構成するPLCのハードウェア構成例を示す模式図である。It is a schematic diagram which shows the hardware configuration example of PLC which constitutes the cooperative work system which concerns on this Embodiment. 本実施の形態に係る協調作業システムを構成する解析収集装置のハードウェア構成例を示す模式図である。It is a schematic diagram which shows the hardware configuration example of the analysis collection apparatus which comprises the cooperative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムを構成するロボットのハードウェア構成例を示す模式図である。It is a schematic diagram which shows the hardware configuration example of the robot which comprises the cooperative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおける作業の解析例を説明するための図である。It is a figure for demonstrating the analysis example of the work in the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおける作業解析に係る要部を示す模式図である。It is a schematic diagram which shows the main part concerning the work analysis in the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおける作業者による作業の解析に係る要部を示す模式図である。It is a schematic diagram which shows the main part which concerns on the analysis of the work by the worker in the cooperative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおけるロボットによる作業の解析に係る要部を示す模式図である。It is a schematic diagram which shows the main part concerning the analysis of the work by a robot in the cooperative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおける作業の解析に係る処理手順を示すフローチャートである。It is a flowchart which shows the processing procedure which concerns on the analysis of the work in the cooperative work system which concerns on this Embodiment. 本実施の形態に係る協調作業システムが出力する作業解析結果の一例を示す図である。It is a figure which shows an example of the work analysis result output by the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムが出力する作業解析結果の表示例を示す図である。It is a figure which shows the display example of the work analysis result output by the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおける収集処理に係る要部を示す模式図である。It is a schematic diagram which shows the main part concerning the collection process in the cooperative work system which concerns on this Embodiment. 本実施の形態に係る協調作業システムにおける収集処理の一例を示す図である。It is a figure which shows an example of the collection process in the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおいて保存されたデータの一例を示す図である。It is a figure which shows an example of the data stored in the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにおける収集処理に係る処理手順を示すフローチャートである。It is a flowchart which shows the processing procedure which concerns on the collection processing in the cooperative work system which concerns on this Embodiment. 本実施の形態に係る協調作業システムにより収集された履歴情報の活用形態の一例を説明するための図である。It is a figure for demonstrating an example of the utilization form of the history information collected by the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにより収集された履歴情報の活用形態の別の一例を説明するための図である。It is a figure for demonstrating another example of the utilization form of the history information collected by the collaborative work system which concerns on this embodiment. 本実施の形態に係る協調作業システムにより収集された履歴情報の活用形態のさらに別の一例を説明するための図である。It is a figure for demonstrating still another example of the utilization form of the history information collected by the collaborative work system which concerns on this embodiment.

本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰り返さない。 Embodiments of the present invention will be described in detail with reference to the drawings. The same or corresponding parts in the drawings are designated by the same reference numerals and the description thereof will not be repeated.

<A.適用例>
まず、本発明が適用される場面の一例について説明する。図1は、本発明が適用される場面の一例を示す模式図である。
<A. Application example>
First, an example of a situation in which the present invention is applied will be described. FIG. 1 is a schematic view showing an example of a situation in which the present invention is applied.

本実施の形態は、予め定められた工程に沿って製品を生産する協調作業システム1に向けられている。協調作業システム1は、作業者と協調して作業を行う1または複数の協調作業ロボットを含む。 This embodiment is directed to a collaborative work system 1 that produces products according to a predetermined process. The collaborative work system 1 includes one or a plurality of collaborative work robots that perform work in cooperation with an operator.

図1に示すように、協調作業システム1においては、作業者および協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部を有している。そして、協調作業システム1においては、予め定められた保存条件が満たされると、保存条件により指定された作業についての履歴情報294,295を、当該作業が作業者および協調作業ロボットのいずれにより担当されたのかを示す属性情報296を付加して、履歴情報保存部に保存する。 As shown in FIG. 1, the cooperative work system 1 has a history information storage unit for storing history information indicating the behaviors of the worker and the cooperative work robot. Then, in the collaborative work system 1, when the predetermined storage conditions are satisfied, the work is in charge of the history information 294,295 about the work specified by the storage conditions by either the worker or the collaborative work robot. Attribute information 296 indicating the robot is added and saved in the history information storage unit.

本明細書において、「履歴情報」は、作業者およびロボットの挙動を示す情報を包含する概念である。「履歴情報」は、典型的には、静止画、動画、音声などを含む。すなわち、「履歴情報」は、作業者およびロボットの少なくとも一方を撮影した画像を含む。 In the present specification, "history information" is a concept including information indicating the behavior of a worker and a robot. The "history information" typically includes still images, moving images, audio, and the like. That is, the "history information" includes images of at least one of the operator and the robot.

本実施の形態に係る協調作業システム1は、作業者および協調作業ロボットのいずれにより担当されたのかを示す情報を付加して、履歴情報を保存するので、協調作業システムにおける作業を効率的に解析できる。 Since the collaborative work system 1 according to the present embodiment adds information indicating whether the worker or the collaborative work robot is in charge and saves the history information, the work in the collaborative work system can be efficiently analyzed. it can.

<B.協調作業システム1>
次に、本実施の形態に係る協調作業システム1の一例について説明する。図2および図3は、本実施の形態に係る協調作業システム1の一例を示す外観図である。
<B. Collaborative work system 1>
Next, an example of the collaborative work system 1 according to the present embodiment will be described. 2 and 3 are external views showing an example of the cooperative work system 1 according to the present embodiment.

図2および図3に示す協調作業システム1の構成例は、作業者および協調作業ロボット(以下、単に「ロボット」と略称する。)が協調して製品を生産する生産工程を示す。すなわち、ロボットは作業者と協調して作業を行う。 The configuration example of the cooperative work system 1 shown in FIGS. 2 and 3 shows a production process in which a worker and a cooperative work robot (hereinafter, simply abbreviated as “robot”) cooperate to produce a product. That is, the robot works in cooperation with the worker.

一例として、任意の製品を組み立てる生産セル方式の製造装置が示される。協調作業システム1は、予め定められた工程に沿って製品を生産するものであり、一例として、以下の5つの工程1〜5を含む。 As an example, a production cell type manufacturing apparatus for assembling an arbitrary product is shown. The collaborative work system 1 produces a product according to a predetermined process, and includes the following five steps 1 to 5 as an example.

工程1では、2つのワーク(例えば、基板とケース)の組み付けが行われる。
工程2では、さらに別のワーク(例えば、カバー)の組み付け行われる。
In step 1, two workpieces (for example, a substrate and a case) are assembled.
In step 2, another work (for example, a cover) is assembled.

工程3では、およびネジ締めが行われる。
工程4では、半製品への印字および印字検査が行われる。
In step 3, and screw tightening is performed.
In step 4, printing on a semi-finished product and printing inspection are performed.

工程5では、半製品の外観検査が行われる。
図2に示す協調作業システム1は、工程1〜工程5に対応付けて、作業ステージ11M、作業ステージ12M、作業ステージ13A、作業ステージ14A、作業ステージ15Aを含む。各ステージの参照符号の最後の文字「M」は作業者(人手)による作業を意味し、「A」はロボットによる作業を意味する。
In step 5, the appearance inspection of the semi-finished product is performed.
The cooperative work system 1 shown in FIG. 2 includes a work stage 11M, a work stage 12M, a work stage 13A, a work stage 14A, and a work stage 15A in association with steps 1 to 5. The last letter "M" of the reference code of each stage means the work by the operator (manual), and "A" means the work by the robot.

図3に示す協調作業システム1は、工程2に対応付けられた作業ステージ12Mに代えて、作業ステージ12Aが配置されている。すなわち、図2に示す協調作業システム1においては、工程2が作業者で実行されるのに対して、図3に示す協調作業システム1においては、工程2がロボットで実行される。 In the cooperative work system 1 shown in FIG. 3, a work stage 12A is arranged in place of the work stage 12M associated with the process 2. That is, in the cooperative work system 1 shown in FIG. 2, the process 2 is executed by the operator, whereas in the cooperative work system 1 shown in FIG. 3, the process 2 is executed by the robot.

このように、本実施の形態に係る協調作業システム1においては、各工程を作業者またはロボットのいずれでも処理可能になっている。協調作業システム1は、各工程について、作業者またはロボットのいずれで処理するのかを最適化するための情報を提供する。 As described above, in the cooperative work system 1 according to the present embodiment, each process can be processed by either an operator or a robot. The collaborative work system 1 provides information for optimizing whether each process is processed by a worker or a robot.

図2および図3には、1または複数の作業者およびロボットが協調して製品を完成させる、セル生産方式の一例を示すが、本発明の技術的範囲は、セル生産方式に限らず、コンベア方式/ライン方式を含む、作業者およびロボットが協調する任意の生産方式を含む。 2 and 3 show an example of a cell production method in which one or more workers and a robot cooperate to complete a product, but the technical scope of the present invention is not limited to the cell production method and is a conveyor. Includes any production method in which workers and robots work together, including method / line methods.

図4は、本実施の形態に係る協調作業システム1のハードウェア構成例を示す図である。図4を参照して、協調作業システム1は、制御装置の一例であるPLC100と、後述するような解析処理および収集処理を実行する解析収集装置200と、作業者20と協調して作業を行うロボット300と、作業者20に対して各種情報を提示する表示操作装置400と、PLC100で実行されるユーザプログラムの開発などを行うサポート装置500と、協調作業システム1における生産管理を行う生産管理システム600とを含む。これらの装置は、1または複数種類のネットワークを介して、データ通信可能に構成される。 FIG. 4 is a diagram showing a hardware configuration example of the collaborative work system 1 according to the present embodiment. With reference to FIG. 4, the collaborative work system 1 performs work in cooperation with the PLC 100, which is an example of the control device, the analysis and collection device 200 that executes the analysis process and the collection process as described later, and the worker 20. A robot 300, a display operation device 400 that presents various information to the worker 20, a support device 500 that develops a user program executed by the PLC 100, and a production control system that manages production in the collaborative work system 1. Includes 600 and. These devices are configured to be capable of data communication via one or more types of networks.

図4に示す例では、フィールドネットワーク2を介して、PLC100、解析収集装置200、ロボット300、表示操作装置400が接続されている。フィールドネットワーク2には、1または複数のカメラ30が接続されている。カメラ30により撮像される画像に基づいて、作業者20およびロボット300の挙動が解析され、各工程および各工程内の作業の状態などが推定される。また、上位ネットワーク4を介して、PLC100および生産管理システム600が接続されている。 In the example shown in FIG. 4, the PLC 100, the analysis / collection device 200, the robot 300, and the display operation device 400 are connected via the field network 2. One or more cameras 30 are connected to the field network 2. Based on the image captured by the camera 30, the behaviors of the worker 20 and the robot 300 are analyzed, and the state of each process and the work in each process is estimated. Further, the PLC 100 and the production control system 600 are connected via the upper network 4.

生産管理システム600には生産計画が入力されるとともに、生産管理システム600は、生産管理情報をPLC100および解析収集装置200へ提供する。生産管理情報は、生産対象の製品を特定する識別情報(製品IDあるいはシリアル番号)、オーダ情報(品種情報およびロット番号などを含む)、ならびに作業者情報(各工程を作業者およびロボットのいずれが担当するのか、作業者が担当する場合の担当者の識別情報などを含む)を含む。 A production plan is input to the production control system 600, and the production control system 600 provides the production control information to the PLC 100 and the analysis / collection device 200. Production control information includes identification information (product ID or serial number) that identifies the product to be produced, order information (including product type information and lot number, etc.), and worker information (either the worker or the robot performs each process). Includes the person in charge or the identification information of the person in charge when the worker is in charge).

解析収集装置200は、作業実績を収集する実績データベース280と、各工程において収集された静止画、動画、音声などを収集する履歴情報データベース290とを含む。履歴情報データベース290は、作業者およびロボットの挙動を示す履歴情報を格納するための履歴情報保存部に相当する。実績データベース280および履歴情報データベース290への収集処理については、後述する。 The analysis / collection device 200 includes a performance database 280 that collects work results, and a history information database 290 that collects still images, moving images, sounds, and the like collected in each process. The history information database 290 corresponds to a history information storage unit for storing history information indicating the behaviors of workers and robots. The collection process in the performance database 280 and the history information database 290 will be described later.

なお、図4に示すネットワーク構成は一例であり、どのようなネットワーク構成を採用してもよい。例えば、解析収集装置200に含まれる実績データベース280および履歴情報データベース290をそれぞれ独立したコンピュータとして配置してもよい。 The network configuration shown in FIG. 4 is an example, and any network configuration may be adopted. For example, the performance database 280 and the history information database 290 included in the analysis / collection device 200 may be arranged as independent computers.

<C.協調作業システム1のハードウェア構成例>
次に、協調作業システム1を構成する主要装置のハードウェア構成例について説明する。
<C. Hardware configuration example of collaborative work system 1>
Next, a hardware configuration example of the main devices constituting the collaborative work system 1 will be described.

(c1:PLC100)
図5は、本実施の形態に係る協調作業システム1を構成するPLC100のハードウェア構成例を示す模式図である。図5を参照して、PLC100は、プロセッサ102と、メインメモリ104と、ストレージ110と、上位ネットワークコントローラ106と、フィールドネットワークコントローラ108と、USB(Universal Serial Bus)コントローラ120と、メモリカードインターフェイス112と、ローカルバスコントローラ116とを含む。これらのコンポーネントは、プロセッサバス118を介して接続されている。
(C1: PLC100)
FIG. 5 is a schematic view showing a hardware configuration example of the PLC 100 constituting the collaborative work system 1 according to the present embodiment. With reference to FIG. 5, the PLC 100 includes a processor 102, a main memory 104, a storage 110, an upper network controller 106, a field network controller 108, a USB (Universal Serial Bus) controller 120, and a memory card interface 112. , Includes the local bus controller 116. These components are connected via the processor bus 118.

プロセッサ102は、様々な制御演算を実行する演算処理部に相当し、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)などで構成される。具体的には、プロセッサ102は、ストレージ110に格納されたプログラム(一例として、システムプログラム1102およびユーザプログラム1104)を読出して、メインメモリ104に展開して実行することで、制御対象に応じた制御演算、および、後述するような各種処理を実現する。 The processor 102 corresponds to an arithmetic processing unit that executes various control operations, and is composed of a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like. Specifically, the processor 102 reads the programs (for example, the system program 1102 and the user program 1104) stored in the storage 110, expands them into the main memory 104, and executes the programs to control the program according to the control target. It realizes calculation and various processes as described later.

メインメモリ104は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)などの揮発性記憶装置などで構成される。ストレージ110は、例えば、SSD(Solid State Drive)やHDD(Hard Disk Drive)などの不揮発性記憶装置などで構成される。 The main memory 104 is composed of a volatile storage device such as a DRAM (Dynamic Random Access Memory) or a SRAM (Static Random Access Memory). The storage 110 is composed of, for example, a non-volatile storage device such as an SSD (Solid State Drive) or an HDD (Hard Disk Drive).

ストレージ110には、基本的な機能を実現するためのシステムプログラム1102、制御対象に応じて作成されたユーザプログラム1104、および協調作業システム1で生産される製品に応じた処理内容を規定したレシピプログラム1106が格納される。 The storage 110 includes a system program 1102 for realizing basic functions, a user program 1104 created according to a control target, and a recipe program that defines processing contents according to products produced by the collaborative work system 1. 1106 is stored.

上位ネットワークコントローラ106は、上位ネットワーク4を介して、任意の情報処理装置との間でデータを遣り取りする。 The host network controller 106 exchanges data with and from an arbitrary information processing device via the host network 4.

フィールドネットワークコントローラ108は、フィールドネットワーク2を介して任意のデバイスとの間でデータを遣り取りする。 The field network controller 108 exchanges data with an arbitrary device via the field network 2.

USBコントローラ120は、USB接続を介して、サポート装置500などとの間でデータを遣り取りする。 The USB controller 120 exchanges data with the support device 500 and the like via the USB connection.

メモリカードインターフェイス112は、着脱可能な記憶媒体の一例であるメモリカード114を受け付ける。メモリカードインターフェイス112は、メモリカード114に対して任意のデータの読み書きが可能になっている。 The memory card interface 112 accepts a memory card 114, which is an example of a removable storage medium. The memory card interface 112 can read and write arbitrary data to and from the memory card 114.

ローカルバスコントローラ116は、ローカルバスを介して、PLC100に装着される任意の機能ユニットとの間でデータを遣り取りする。 The local bus controller 116 exchanges data with any functional unit mounted on the PLC 100 via the local bus.

(c2:解析収集装置200)
図6は、本実施の形態に係る協調作業システム1を構成する解析収集装置200のハードウェア構成例を示す模式図である。図6を参照して、解析収集装置200は、一例として、汎用的なアーキテクチャに従うハードウェア(例えば、汎用パソコン)を用いて実現される。
(C2: Analysis and collection device 200)
FIG. 6 is a schematic diagram showing a hardware configuration example of the analysis / collection device 200 constituting the collaborative work system 1 according to the present embodiment. With reference to FIG. 6, the analysis and collection device 200 is realized, for example, by using hardware (for example, a general-purpose personal computer) that follows a general-purpose architecture.

図6を参照して、解析収集装置200は、プロセッサ202と、メインメモリ204と、入力部206と、表示部208と、ストレージ210と、光学ドライブ212と、フィールドネットワークコントローラ220と、上位ネットワークコントローラ222とを含む。これらのコンポーネントは、プロセッサバス218を介して接続されている。 With reference to FIG. 6, the analysis / collection device 200 includes a processor 202, a main memory 204, an input unit 206, a display unit 208, a storage 210, an optical drive 212, a field network controller 220, and an upper network controller. Includes 222 and. These components are connected via the processor bus 218.

プロセッサ202は、CPUやGPUなどで構成され、ストレージ210に格納されたプログラム(一例として、OS2102および解析プログラム2104)を読出して、メインメモリ204に展開して実行することで、後述するような各種処理を実現する。 The processor 202 is composed of a CPU, a GPU, or the like, and reads out a program (OS 2102 and an analysis program 2104 as an example) stored in the storage 210, expands the program into the main memory 204, and executes the program. Realize the processing.

メインメモリ204は、DRAMやSRAMなどの揮発性記憶装置などで構成される。ストレージ210は、例えば、HDDやSSDなどの不揮発性記憶装置などで構成される。 The main memory 204 is composed of a volatile storage device such as a DRAM or SRAM. The storage 210 is composed of, for example, a non-volatile storage device such as an HDD or SSD.

ストレージ210には、基本的な機能を実現するためのOS2102および後述するような各種解析処理を実行するための解析プログラム2104が格納される。 The storage 210 stores an OS 2102 for realizing basic functions and an analysis program 2104 for executing various analysis processes as described later.

入力部206は、キーボードやマウスなどで構成され、ユーザ操作を受け付ける。表示部208は、ディスプレイ、各種インジケータ、プリンタなどで構成され、プロセッサ202からの処理結果などを出力する。 The input unit 206 is composed of a keyboard, a mouse, and the like, and accepts user operations. The display unit 208 is composed of a display, various indicators, a printer, and the like, and outputs a processing result from the processor 202 and the like.

解析収集装置200は、光学ドライブ212を有しており、コンピュータ読取可能なプログラムを非一過的に格納する記憶媒体214(例えば、DVD(Digital Versatile Disc)などの光学記憶媒体)から、その中に格納されたプログラムが読み取られてストレージ210などにインストールされる。 The analysis / collection device 200 has an optical drive 212, and is stored in a storage medium 214 (for example, an optical storage medium such as a DVD (Digital Versatile Disc)) that non-transiently stores a computer-readable program. The program stored in is read and installed in the storage 210 or the like.

解析収集装置200で実行される解析プログラム2104などは、コンピュータ読取可能な記憶媒体214を介してインストールされてもよいが、ネットワーク上のサーバ装置などからダウンロードする形でインストールするようにしてもよい。また、本実施の形態に係る解析収集装置200が提供する機能は、OSが提供するモジュールの一部を利用する形で実現される場合もある。 The analysis program 2104 or the like executed by the analysis collection device 200 may be installed via a computer-readable storage medium 214, or may be installed by downloading from a server device or the like on the network. Further, the function provided by the analysis / collection device 200 according to the present embodiment may be realized by using a part of the modules provided by the OS.

フィールドネットワークコントローラ220は、フィールドネットワーク2を介して任意のデバイスとの間でデータを遣り取りする。上位ネットワークコントローラ222は、上位ネットワーク4を介して、任意の情報処理装置との間でデータを遣り取りする。 The field network controller 220 exchanges data with an arbitrary device via the field network 2. The host network controller 222 exchanges data with and from an arbitrary information processing device via the host network 4.

(c3:ロボット300)
図7は、本実施の形態に係る協調作業システム1を構成するロボット300のハードウェア構成例を示す模式図である。図7を参照して、ロボット300は、フィールドネットワークコントローラ302と、ロボット300の駆動に係る演算処理を実行するための主制御部310と、インターフェイス回路320とを含む。
(C3: Robot 300)
FIG. 7 is a schematic diagram showing a hardware configuration example of the robot 300 constituting the collaborative work system 1 according to the present embodiment. With reference to FIG. 7, the robot 300 includes a field network controller 302, a main control unit 310 for executing arithmetic processing related to driving the robot 300, and an interface circuit 320.

フィールドネットワークコントローラ302は、フィールドネットワーク2を介して任意のデバイスとの間でデータを遣り取りする。 The field network controller 302 exchanges data with an arbitrary device via the field network 2.

主制御部310は、プロセッサ312と、メインメモリ314と、ストレージ316とを含む。プロセッサ312は、CPUやGPUなどで構成され、ストレージ316に格納されたプログラム(一例として、システムプログラム317およびレシピプログラム318)を読出して、メインメモリ314に展開して実行することで、ロボット300の駆動に係る各種処理を実現する。 The main control unit 310 includes a processor 312, a main memory 314, and a storage 316. The processor 312 is composed of a CPU, a GPU, or the like, and reads a program (for example, a system program 317 and a recipe program 318) stored in the storage 316, expands the program in the main memory 314, and executes the program to execute the robot 300. Realize various processes related to driving.

メインメモリ314は、DRAMやSRAMなどの揮発性記憶装置などで構成される。ストレージ316は、例えば、SSDやHDDなどの不揮発性記憶装置などで構成される。 The main memory 314 is composed of a volatile storage device such as a DRAM or SRAM. The storage 316 is composed of, for example, a non-volatile storage device such as an SSD or an HDD.

インターフェイス回路320は、ロボット300に設けられた各種デバイスとの間で信号を遣り取りする。より具体的には、インターフェイス回路320は、センサ322と、アクチュエータ324と、1または複数のモータドライバ326と接続されている。 The interface circuit 320 exchanges signals with various devices provided in the robot 300. More specifically, the interface circuit 320 is connected to a sensor 322, an actuator 324, and one or more motor drivers 326.

センサ322は、ロボット300のアーム部などに配置されており、ロボット300の周囲の情報を収集する。作業者20とロボット300との協調作業においては、通常、ロボット300の近傍に作業者20が位置している場合には、ロボット300の動作速度を予め定められた制限値以下に抑制する必要がある。センサ322を用いて、作業者20とロボット300との接近を検出するようにしてもよい。 The sensor 322 is arranged on an arm portion of the robot 300 or the like, and collects information on the surroundings of the robot 300. In the cooperative work between the worker 20 and the robot 300, when the worker 20 is usually located in the vicinity of the robot 300, it is necessary to suppress the operating speed of the robot 300 to a predetermined limit value or less. is there. The sensor 322 may be used to detect the approach between the worker 20 and the robot 300.

アクチュエータ324は、ロボット300のアーム部などに配置されており、作業者20に対して各種通知を行うとともに、ワークに対するアクションなどを行う。モータドライバ326は、電気的に接続されたサーボモータ328を駆動する。サーボモータ328は、ロボット300のメカ体(アームや関節など)と機械的に接続されている。主制御部310がインターフェイス回路320を介してモータドライバ326に指令を与えることで、ロボット300を任意に動作させることができる。 The actuator 324 is arranged on the arm portion of the robot 300 or the like, and gives various notifications to the worker 20 and also performs an action on the work. The motor driver 326 drives an electrically connected servomotor 328. The servomotor 328 is mechanically connected to the mechanical body (arms, joints, etc.) of the robot 300. The robot 300 can be arbitrarily operated by the main control unit 310 giving a command to the motor driver 326 via the interface circuit 320.

(c4:表示操作装置400)
表示操作装置400は、一例として、汎用的なアーキテクチャに従うハードウェアを用いて実現される。表示操作装置400のハードウェア構成例および機能構成例は公知であるので、ここでは詳細な説明は行わない。
(C4: Display operation device 400)
As an example, the display operation device 400 is realized by using hardware that follows a general-purpose architecture. Since the hardware configuration example and the functional configuration example of the display operation device 400 are known, detailed description thereof will not be given here.

(c5:サポート装置500)
サポート装置500は、一例として、汎用的なアーキテクチャに従うハードウェア(例えば、汎用パソコン)を用いて実現される。サポート装置500のハードウェア構成例および機能構成例は公知であるので、ここでは詳細な説明は行わない。
(C5: Support device 500)
As an example, the support device 500 is realized by using hardware (for example, a general-purpose personal computer) that follows a general-purpose architecture. Since the hardware configuration example and the functional configuration example of the support device 500 are known, detailed description thereof will not be given here.

(c6:生産管理システム600)
生産管理システム600は、一例として、汎用的なアーキテクチャに従うハードウェア(例えば、汎用パソコン)を用いたサーバにより実現される。生産管理システム600のハードウェア構成例および機能構成例は公知であるので、ここでは詳細な説明は行わない。
(C6: Production control system 600)
As an example, the production control system 600 is realized by a server using hardware (for example, a general-purpose personal computer) that follows a general-purpose architecture. Since the hardware configuration example and the functional configuration example of the production control system 600 are known, detailed description thereof will not be given here.

<D.作業解析>
本実施の形態に係る協調作業システム1は、作業者とロボットとの協調作業の解析やリバランスなどを容易化するための情報を提供する。以下、このような情報を提供するための作業解析の処理について説明する。
<D. Work analysis>
The collaborative work system 1 according to the present embodiment provides information for facilitating analysis and rebalancing of collaborative work between a worker and a robot. Hereinafter, the work analysis process for providing such information will be described.

図8は、本実施の形態に係る協調作業システム1における作業の解析例を説明するための図である。図8を参照して、複数の工程からなる工程全体40を最上位の単位として捉えて、各工程の工程内41は、複数の作業からなる。工程内41の各作業は、1または複数の要素作業42に分解できる。要素作業42の各々は、1または複数の動作43に分解できる。動作43の各々は、1または複数の単位動作44に分解できる。 FIG. 8 is a diagram for explaining an analysis example of work in the cooperative work system 1 according to the present embodiment. With reference to FIG. 8, the entire process 40 composed of a plurality of processes is regarded as the highest unit, and the process 41 of each process is composed of a plurality of operations. Each work of 41 in the process can be decomposed into one or a plurality of element work 42. Each of the elemental operations 42 can be decomposed into one or more operations 43. Each of the movements 43 can be decomposed into one or more unit movements 44.

このように、様々な生産工程における作業者あるいはロボットの挙動は、工程、作業、要素作業、動作、単位動作といった具合に分解できる。なお、各工程に含まれる要素作業の種類は、予め工程設計において決定されているとする。すなわち、各工程に含まれる要素作業の種類は既知である。 In this way, the behavior of a worker or robot in various production processes can be decomposed into processes, operations, elemental operations, operations, unit operations, and the like. It is assumed that the type of element work included in each process is determined in advance in the process design. That is, the types of elemental work included in each process are known.

本実施の形態に係る協調作業システム1は、作業者およびロボットの挙動を工程、工程内の作業、要素作業といった任意の単位で解析できるように構成されてもよい。 The cooperative work system 1 according to the present embodiment may be configured so that the behaviors of the worker and the robot can be analyzed in any unit such as a process, work in the process, and element work.

図9は、本実施の形態に係る協調作業システム1における作業解析に係る要部を示す模式図である。図9を参照して、解析収集装置200は、各工程を作業者およびロボットのいずれが担当する場合であっても、当該工程の進捗を任意の単位で解析できる。より具体的には、解析収集装置200は、作業者用工程認識部250と、ロボット用工程認識部260と、処理エンジン270とを含む。これらのコンポーネントは、典型的には、解析収集装置200のプロセッサ202が解析プログラム2104を実行することで実現される。 FIG. 9 is a schematic diagram showing a main part related to work analysis in the cooperative work system 1 according to the present embodiment. With reference to FIG. 9, the analysis / collection device 200 can analyze the progress of each process in any unit regardless of whether the operator or the robot is in charge of each process. More specifically, the analysis / collection device 200 includes a process recognition unit 250 for workers, a process recognition unit 260 for robots, and a processing engine 270. These components are typically realized by the processor 202 of the analysis collector 200 executing the analysis program 2104.

処理エンジン270は、生産管理システム600からの生産管理情報に基づいて、作業者用工程認識部250およびロボット用工程認識部260に対して、作業者およびロボットの作業分担の情報を事前に与える。 The processing engine 270 provides the worker process recognition unit 250 and the robot process recognition unit 260 with information on the division of work between the worker and the robot in advance based on the production control information from the production control system 600.

作業者用工程認識部250およびロボット用工程認識部260は、作業者およびロボットの少なくとも一方の挙動を解析することで、工程に含まれる各作業の開始および終了のタイミングを決定する作業認識部に相当する。 The process recognition unit 250 for workers and the process recognition unit 260 for robots are used as work recognition units that determine the start and end timings of each work included in the process by analyzing the behavior of at least one of the worker and the robot. Equivalent to.

作業者用工程認識部250は、対象の工程が作業者によって担当される場合に、当該工程における作業者が行う作業毎(任意の単位)の開始および終了のタイミングなどを解析する。一方、ロボット用工程認識部260は、対象の工程がロボットによって担当される場合に、当該工程におけるロボットが行う作業毎(任意の単位)の開始および終了のタイミングなどを解析する。 The worker process recognition unit 250 analyzes the start and end timings of each work (arbitrary unit) performed by the worker in the process when the target process is in charge of the worker. On the other hand, when the target process is in charge of the robot, the robot process recognition unit 260 analyzes the start and end timings of each work (arbitrary unit) performed by the robot in the process.

作業者用工程認識部250およびロボット用工程認識部260は、工程における任意の単位で作業毎に開始および終了のタイミングを決定できるが、各工程に含まれる1または複数の要素作業毎に開始および終了のタイミングを決定することが好ましい。 The worker process recognition unit 250 and the robot process recognition unit 260 can determine the start and end timings for each work in any unit in the process, but the start and the start and the start and the end for each element work included in each process. It is preferable to determine the timing of the end.

作業者用工程認識部250は、カメラ30などの1または複数のセンシングデバイスによる検出結果に基づいて、作業者の動きなどを解析して、いずれの作業を行っているのかを特定する。 The worker process recognition unit 250 analyzes the movement of the worker and the like based on the detection result by one or a plurality of sensing devices such as the camera 30, and identifies which work is being performed.

センシングデバイスとしては、通常のカメラ(2Dカメラ)でもよいし、ステレオカメラ(3Dカメラ)であってもよい。あるいは、レーザスキャナや測距センサなどの物体までの距離プロファイルを取得できるようなセンシングデバイスを用いてもよい。 The sensing device may be a normal camera (2D camera) or a stereo camera (3D camera). Alternatively, a sensing device such as a laser scanner or a distance measuring sensor that can acquire a distance profile to an object may be used.

図10は、本実施の形態に係る協調作業システム1における作業者による作業の解析に係る要部を示す模式図である。図10を参照して、解析収集装置200の作業者用工程認識部250は、特徴点抽出部251と、物体認識部252と、動作認識部253と、工程データベース254と、現工程決定部255と、画像バッファ256とを含む。 FIG. 10 is a schematic diagram showing a main part related to analysis of work by an operator in the cooperative work system 1 according to the present embodiment. With reference to FIG. 10, the worker process recognition unit 250 of the analysis / collection device 200 includes a feature point extraction unit 251, an object recognition unit 252, an motion recognition unit 253, a process database 254, and a current process determination unit 255. And the image buffer 256.

特徴点抽出部251は、センシングデバイスによる少なくとも作業者を含む領域のセンシング結果(典型的には、画像)に基づいて、作業者の特徴点(骨格や関節など)を抽出する。 The feature point extraction unit 251 extracts the feature points (skeleton, joints, etc.) of the worker based on the sensing result (typically, an image) of the region including at least the worker by the sensing device.

物体認識部252は、センシングデバイスからのセンシング結果(典型的には、画像)に基づいて、作業ステージ上などにある物体の位置および種類を認識する。 The object recognition unit 252 recognizes the position and type of an object on the work stage or the like based on the sensing result (typically, an image) from the sensing device.

動作認識部253は、特徴点抽出部251により抽出された作業者の特徴点と、物体認識部252により抽出された物体の位置および種類とに基づいて、作業者の動作を認識する。動作認識部253は、例えば、予め機械学習によって生成された学習済みモデルを用いて実現してもよいし、ルールベースの決定ロジックを用いて実現してもよい。 The motion recognition unit 253 recognizes the operator's motion based on the feature points of the operator extracted by the feature point extraction unit 251 and the position and type of the object extracted by the object recognition unit 252. The motion recognition unit 253 may be realized by using, for example, a trained model generated in advance by machine learning, or may be realized by using a rule-based determination logic.

現工程決定部255は、工程データベース254を参照して、動作認識部253により認識される作業者の動作に基づいて、作業者が現在行っている作業を決定するとともに、作業毎の開始および終了のタイミングを決定する。 The current process determination unit 255 determines the work currently being performed by the worker based on the movement of the worker recognized by the movement recognition unit 253 with reference to the process database 254, and starts and ends each work. Determine the timing of.

工程データベース254は、各工程に含まれる要素作業および各要素作業に対応する動作に関する情報を含む。現工程決定部255は、工程データベース254を参照して、作業者が現在行っている工程に含まれる要素作業および対応する動作を取得する。現工程決定部255は、工程データベース254から取得した情報と、認識された作業者の動作とを比較することで、開始および終了のタイミングを決定する。作業者用工程認識部250は、開始および終了のタイミングを示す時刻などを出力してもよい。 The process database 254 includes information on the element work included in each process and the operation corresponding to each element work. The current process determination unit 255 refers to the process database 254 and acquires the element work included in the process currently being performed by the operator and the corresponding operation. The current process determination unit 255 determines the start and end timings by comparing the information acquired from the process database 254 with the recognized operation of the operator. The process recognition unit 250 for workers may output a time indicating the start and end timings and the like.

このように、動作認識部253、工程データベース254および現工程決定部255は、第1のタイミング決定部に相当し、特徴点抽出部251により抽出される作業者の特徴点、および、物体認識部252により認識される物体の位置および種類に基づいて、作業者による要素作業毎に開始および終了のタイミングを決定する。 As described above, the motion recognition unit 253, the process database 254, and the current process determination unit 255 correspond to the first timing determination unit, and the feature points of the worker extracted by the feature point extraction unit 251 and the object recognition unit. Based on the position and type of the object recognized by 252, the start and end timings are determined for each element work by the operator.

さらに、作業者用工程認識部250は、センシングデバイスによる検出結果に加えて、PLC100および/またはロボット300から取得した制御状態に基づいて、作業者が行う工程の開始および終了のタイミングを判断するようにしてもよい。この場合は、後述するようなロボット用工程認識部260における判断処理を採用できる。 Further, the process recognition unit 250 for the operator determines the start and end timings of the process performed by the operator based on the control state acquired from the PLC 100 and / or the robot 300 in addition to the detection result by the sensing device. It may be. In this case, the determination process in the robot process recognition unit 260 as described later can be adopted.

画像バッファ256は、後述するような収集処理を実現するために、画像などのセンシング結果を一時的に格納する。画像バッファ256のサイズは、作業者用工程認識部250およびロボット用工程認識部260による開始および終了のタイミングを決定するまでの遅延時間などに応じて適宜設計されてもよい。 The image buffer 256 temporarily stores a sensing result such as an image in order to realize a collection process as described later. The size of the image buffer 256 may be appropriately designed according to the delay time until the start and end timings of the worker process recognition unit 250 and the robot process recognition unit 260 are determined.

一方、ロボット用工程認識部260は、PLC100および/またはロボット300から取得した制御状態に基づいて、ロボットがいずれの作業を行っているのかを特定する。PLC100および/またはロボット300から取得する制御状態は、例えば、ユーザプログラムが参照するステータスを示す変数値、ユーザプログラムの実行中の命令行、実行中のレシピ番号などを含む。さらに、PLC100および/またはロボット300から取得する制御状態は、ロボット300の各関節の角度、アーム先端座標、アーム動作速度などを含んでいてもよい。 On the other hand, the robot process recognition unit 260 identifies which work the robot is performing based on the control state acquired from the PLC 100 and / or the robot 300. The control state acquired from the PLC 100 and / or the robot 300 includes, for example, a variable value indicating the status referred to by the user program, a command line during execution of the user program, a recipe number during execution, and the like. Further, the control state acquired from the PLC 100 and / or the robot 300 may include the angle of each joint of the robot 300, the coordinates of the tip of the arm, the operating speed of the arm, and the like.

図11は、本実施の形態に係る協調作業システム1におけるロボットによる作業の解析に係る要部を示す模式図である。図11を参照して、解析収集装置200のロボット用工程認識部260は、PLC通信部261と、ロボット通信部262と、ステータス管理部263と、レシピプログラム264と、現工程決定部265と、工程データベース266とを含む。 FIG. 11 is a schematic diagram showing a main part related to analysis of work by a robot in the cooperative work system 1 according to the present embodiment. With reference to FIG. 11, the robot process recognition unit 260 of the analysis / collection device 200 includes a PLC communication unit 261, a robot communication unit 262, a status management unit 263, a recipe program 264, and a current process determination unit 265. Includes process database 266 and.

PLC通信部261は、PLC100から制御状態を取得する。ロボット通信部262は、ロボット300から制御状態を取得する。 The PLC communication unit 261 acquires a control state from the PLC 100. The robot communication unit 262 acquires the control state from the robot 300.

ステータス管理部263は、レシピプログラム264を参照して、PLC通信部261およびロボット通信部262により取得された制御状態に基づいて、現在のロボット300のステータスを決定する。レシピプログラム264は、PLC100およびロボット300で実行されるプログラムの複製あるいは主要部を含む。すなわち、ステータス管理部263は、PLC100およびロボット300の制御状態に基づいて、現在実行されているプログラムの内容を特定することで、現在のステータスを決定する。 The status management unit 263 determines the current status of the robot 300 based on the control state acquired by the PLC communication unit 261 and the robot communication unit 262 with reference to the recipe program 264. Recipe program 264 includes a copy or main part of the program executed by the PLC 100 and the robot 300. That is, the status management unit 263 determines the current status by specifying the contents of the program currently being executed based on the control states of the PLC 100 and the robot 300.

現工程決定部265は、工程データベース266を参照して、ステータス管理部263により決定された現在のステータスに基づいて、ロボットが現在行っている作業を決定するとともに、作業毎の開始および終了のタイミングを決定する。 The current process determination unit 265 determines the work currently being performed by the robot based on the current status determined by the status management unit 263 with reference to the process database 266, and the start and end timings for each work. To determine.

工程データベース266は、各工程に含まれる要素作業および各要素作業に対応する動作に関する情報を含む。現工程決定部265は、工程データベース266を参照して、ロボットが現在行っている工程に含まれる要素作業および対応する動作を取得する。現工程決定部265は、工程データベース266に含まれる取得されたステータスに対応する情報に基づいて、作業毎の開始および終了タイミングを決定する。ロボット用工程認識部260は、作業毎の開始および終了のタイミングを示す時刻などを出力してもよい。 The process database 266 includes information on the element work included in each process and the operation corresponding to each element work. The current process determination unit 265 refers to the process database 266 and acquires the element work included in the process currently being performed by the robot and the corresponding operation. The current process determination unit 265 determines the start and end timings for each work based on the information corresponding to the acquired status included in the process database 266. The robot process recognition unit 260 may output a time indicating the start and end timings of each work.

このように、現工程決定部265および工程データベース266は、第2のタイミング決定部に相当し、ロボットのステータスに対応する挙動に基づいて、ロボットによる要素作業毎に開始および終了のタイミングを決定する。 In this way, the current process determination unit 265 and the process database 266 correspond to the second timing determination unit, and determine the start and end timings for each element work by the robot based on the behavior corresponding to the status of the robot. ..

さらに、ロボット用工程認識部260は、PLC100および/またはロボット300から取得した制御状態に加えて、カメラ30などの1または複数のセンシングデバイスによる検出結果に少なくとも一部基づいて、ロボットが行う各工程の開始および終了のタイミングを判断するようにしてもよい。この場合は、後述するようなロボット用工程認識部260における判断処理を採用できる。 Further, the robot process recognition unit 260 performs each process performed by the robot based on at least a part of the detection results by one or a plurality of sensing devices such as the camera 30 in addition to the control state acquired from the PLC 100 and / or the robot 300. The timing of the start and end of the may be determined. In this case, the determination process in the robot process recognition unit 260 as described later can be adopted.

図12は、本実施の形態に係る協調作業システム1における作業の解析に係る処理手順を示すフローチャートである。図12に示す各ステップは、典型的には、解析収集装置200のプロセッサ202が解析プログラム2104を実行することで実現される。 FIG. 12 is a flowchart showing a processing procedure related to analysis of work in the cooperative work system 1 according to the present embodiment. Each step shown in FIG. 12 is typically realized by the processor 202 of the analysis and collection device 200 executing the analysis program 2104.

図12を参照して、解析収集装置200は、解析対象の生産管理情報を取得する(ステップS100)。解析収集装置200は、解析対象の所定期間に亘る、カメラ30により撮像された画像を取得する(ステップS102)とともに、PLC100および/またはロボット300の制御状態を取得する(ステップS104)。なお、解析収集装置200は、付加的な情報をさらに取得してもよい。 With reference to FIG. 12, the analysis / collection device 200 acquires the production control information to be analyzed (step S100). The analysis collection device 200 acquires the image captured by the camera 30 over a predetermined period of the analysis target (step S102), and also acquires the control state of the PLC 100 and / or the robot 300 (step S104). The analysis / collection device 200 may further acquire additional information.

解析収集装置200は、取得した画像に対して作業者20の特徴点(骨格や関節など)を抽出する(ステップS106)とともに、作業ステージ上などにある治具などの物体の位置および種類を認識する(ステップS108)。そして、解析収集装置200は、解析対象の所定期間に亘る、作業者20の動作を認識する(ステップS110)。 The analysis / collection device 200 extracts the feature points (skeleton, joints, etc.) of the worker 20 from the acquired image (step S106), and recognizes the position and type of an object such as a jig on the work stage. (Step S108). Then, the analysis / collection device 200 recognizes the operation of the worker 20 over a predetermined period of the analysis target (step S110).

また、解析収集装置200は、レシピプログラム264を参照して、取得された制御状態に基づいて、解析対象の所定期間に亘る、ロボット300のステータスおよび位置を決定する(ステップS112)。 Further, the analysis and collection device 200 determines the status and position of the robot 300 over a predetermined period of the analysis target based on the acquired control state with reference to the recipe program 264 (step S112).

解析収集装置200は、取得した生産管理情報および工程データベース266を参照して、各工程が作業者20およびロボット300のいずれが担当するのかを判断し(ステップS114)、各工程の担当に応じて、作業者20の動作またはロボット300のステータスおよび位置に基づいて、作業毎の開始および終了のタイミングを決定する(ステップS116)。以上により、作業の解析に係る処理は終了する。 The analysis / collection device 200 refers to the acquired production control information and the process database 266 to determine whether each process is in charge of the worker 20 or the robot 300 (step S114), and depending on the person in charge of each process. , The start and end timings for each work are determined based on the movement of the worker 20 or the status and position of the robot 300 (step S116). With the above, the process related to the analysis of the work is completed.

図12に示す処理は、生産工程での生産活動に同期してほぼリアルタイムで実行されてもよいし、事後的に実行されてもよい。 The process shown in FIG. 12 may be executed in substantially real time in synchronization with the production activity in the production process, or may be executed after the fact.

図13は、本実施の形態に係る協調作業システム1が出力する作業解析結果の一例を示す図である。図13を参照して、作業解析結果282は、工程欄2801と、工程内欄2802と、要素作業欄2803と、開始時刻欄2804と、終了時刻欄2805と、作業時間2806と、担当欄2807と、生産管理情報欄2808とを含む。 FIG. 13 is a diagram showing an example of work analysis results output by the collaborative work system 1 according to the present embodiment. With reference to FIG. 13, the work analysis result 282 includes a process column 2801, an in-process column 2802, an element work column 2803, a start time column 2804, an end time column 2805, a work time 2806, and a charge column 2807. And the production control information column 2808.

工程欄2801には、対象の生産工程に含まれる工程が示される。工程内欄2802は、対応する工程に含まれる作業が示される。要素作業欄2803は、対応する作業に含まれる要素作業が示される。開始時刻欄2804および終了時刻欄2805は、対応する要素作業の開始および終了の時刻が示される。作業時間2806は、対応する要素作業に要した時間が示される。 In the process column 2801, a process included in the target production process is shown. The process column 2802 indicates the work included in the corresponding process. The element work column 2803 indicates the element work included in the corresponding work. The start time column 2804 and the end time column 2805 indicate the start and end times of the corresponding elemental work. The working time 2806 indicates the time required for the corresponding element work.

担当欄2807には、対応する要素作業を作業者およびロボットのいずれが担当するのかといった情報、および、担当する作業者またはロボットの識別情報が示される。例えば、「OP0003」などの「OP」ではじまる識別情報は作業者の担当を意味し、「RB001」などの「RB」ではじまる識別情報はロボットの担当を意味する。 The charge column 2807 shows information such as whether the worker or the robot is in charge of the corresponding elemental work, and identification information of the worker or the robot in charge. For example, the identification information starting with "OP" such as "OP0003" means the person in charge of the worker, and the identification information starting with "RB" such as "RB001" means the person in charge of the robot.

生産管理情報欄2808は、対象の作業解析結果282が取得された対象の作業を特定するための情報(例えば、製品ID、品種情報およびロット情報など)が示される。 The production control information column 2808 indicates information (for example, product ID, product type information, lot information, etc.) for identifying the target work for which the target work analysis result 282 has been acquired.

図13に示される作業解析結果は、実績データベース280に順次保存される。
図14は、本実施の形態に係る協調作業システム1が出力する作業解析結果の表示例を示す図である。図14を参照して、各工程に要している作業時間のばらつきも表現できるグラフを用いて、作業解析結果を表示するようにしてもよい。なお、図14には、工程の単位で作業時間を表示しているが、これに限らず、要素作業の単位で作業時間を表示してもよい。
The work analysis results shown in FIG. 13 are sequentially stored in the performance database 280.
FIG. 14 is a diagram showing a display example of the work analysis result output by the collaborative work system 1 according to the present embodiment. With reference to FIG. 14, the work analysis result may be displayed by using a graph capable of expressing the variation in the work time required for each process. Although the working time is displayed in the unit of the process in FIG. 14, the working time is not limited to this, and the working time may be displayed in the unit of the element work.

以上のように、本実施の形態に係る協調作業システム1は、各工程を作業者およびロボットのいずれが担当する場合であっても、工程、工程に含まれる作業、および作業に含まれる要素作業の単位でどれだけの時間を要しているのかを把握可能な作業解析結果を提供する。 As described above, in the cooperative work system 1 according to the present embodiment, regardless of whether the worker or the robot is in charge of each process, the process, the work included in the process, and the element work included in the work It provides work analysis results that can grasp how much time is required in each unit.

<E.収集処理>
本実施の形態に係る協調作業システム1は、作業者とロボットとの協調作業のリバランスや事後的な不具合の原因究明などを容易化するために、画像などの事後的な解析に有効な情報を収集する。以下、このような情報を収集するための収集処理について説明する。
<E. Collection process>
The collaborative work system 1 according to the present embodiment provides information effective for ex post facto analysis such as images in order to facilitate rebalancing of collaborative work between the worker and the robot and investigation of the cause of the ex post facto defect. To collect. Hereinafter, the collection process for collecting such information will be described.

図15は、本実施の形態に係る協調作業システム1における収集処理に係る要部を示す模式図である。図15を参照して、解析収集装置200の処理エンジン270は、予め設定された保存条件274を満たす場面の履歴情報(典型的には、静止画、動画、音声など)を履歴情報データベース290に保存する判定処理部272を含む。判定処理部272は、生産管理システム600からの生産管理情報、図示しない検査機などからの異常情報、作業者用工程認識部250からの作業毎の開始および終了のタイミング、および、ロボット用工程認識部260からの作業毎の開始および終了のタイミングなどの情報に基づいて、いずれのタイミングあるいは期間において、どのような履歴情報を保存するのかを決定する。 FIG. 15 is a schematic view showing a main part related to the collection process in the cooperative work system 1 according to the present embodiment. With reference to FIG. 15, the processing engine 270 of the analysis / collection device 200 stores the history information (typically, still images, moving images, sounds, etc.) of the scenes satisfying the preset storage conditions 274 in the history information database 290. The determination processing unit 272 to be saved is included. The determination processing unit 272 includes production control information from the production control system 600, abnormality information from an inspection machine (not shown), start and end timings for each work from the worker process recognition unit 250, and robot process recognition. Based on the information such as the start and end timings for each work from the unit 260, what kind of history information is to be stored is determined at which timing or period.

すなわち、判定処理部272は、条件判定部に相当し、予め定められた保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が作業者およびロボットのいずれにより担当されたのかを示す情報を付加して、履歴情報データベース290(履歴情報保存部)に保存する。 That is, the determination processing unit 272 corresponds to the condition determination unit, and when the predetermined storage conditions are satisfied, the determination processing unit 272 transmits the history information about the work specified by the storage conditions by either the operator or the robot. Information indicating whether or not the person was in charge is added and stored in the history information database 290 (history information storage unit).

図16は、本実施の形態に係る協調作業システム1における収集処理の一例を示す図である。保存条件274には様々な条件を含めることができるが、図16を参照して、特定の作業が終了したタイミングで静止画あるいは動画を保存するようにしてもよい。例えば、コネクタの挿入が不十分であるといった不具合が報告されているような場合には、コネクタを挿入した後の状況を確認したいというニーズがある。このような場合には、そのような作業の終了のタイミング(イベントEV1)で、静止画を保存してもよい。 FIG. 16 is a diagram showing an example of collection processing in the cooperative work system 1 according to the present embodiment. Although various conditions can be included in the storage condition 274, a still image or a moving image may be stored at the timing when a specific work is completed with reference to FIG. For example, when a problem such as insufficient insertion of a connector is reported, there is a need to check the situation after inserting the connector. In such a case, the still image may be saved at the timing of the end of such work (event EV1).

あるいは、先の工程である組み付け1はロボットが担当し、次の工程である組み付け2は作業者が担当するような場合を想定すると、ロボットと作業者との間でワークの引き渡しなどがスムースに行われているかを確認したいというニーズがある。このような場合には、ロボットと作業者との間でワークの引き渡しが行われる区間(イベントEV2)において、動画を保存してもよい。 Alternatively, assuming that the robot is in charge of assembly 1 which is the previous process and the worker is in charge of assembly 2 which is the next process, the work can be smoothly handed over between the robot and the worker. There is a need to see if it is done. In such a case, the moving image may be saved in the section (event EV2) in which the work is delivered between the robot and the worker.

さらにあるいは、特定の作業において不具合が頻発している作業についても、事後的な確認ができるようにしたいというニーズがある。このような場合には、不具合が頻発している作業(イベントEV3)において、動画を保存してもよい。 Furthermore, there is a need to be able to confirm after the fact even for work in which defects frequently occur in a specific work. In such a case, the moving image may be saved in the work (event EV3) in which the trouble frequently occurs.

保存条件274としては、任意の1または複数の条件を設定できるが、例えば、以下のような観点から条件を設定してもよい。 As the storage condition 274, any one or a plurality of conditions can be set, but for example, the conditions may be set from the following viewpoints.

(1)予め定められた任意の作業(工程、工程内の作業、要素作業といった任意の単位)を作業者またはロボットが行った場合
(2)通常の工程とは異なる状態になった場合
(3)異常情報などのフィードバックを受けた場合
上述の(1)の条件としては、不具合が頻発していることが既知の作業などを履歴情報の保存対象として設定してもよい。また、ロボットが減速したタイミングや、ロボットが停止したタイミングなどを条件として設定してもよい。
(1) When a worker or robot performs any predetermined work (arbitrary unit such as process, work in process, element work) (2) When the state is different from the normal process (3) ) When feedback such as abnormal information is received As the condition of (1) above, a work or the like known to have frequent defects may be set as a storage target of history information. Further, the timing at which the robot decelerates, the timing at which the robot stops, and the like may be set as conditions.

上述の(2)の条件としては、ロボットが人をアシストするといった、普段とは異なる作業が実施された場合を条件としてもよい。さらに、ロボットの挙動が予め設計していた挙動(シミュレーションにより算出された挙動)とは大きく変化したことを条件としてもよい。すなわち、解析収集装置200の判定処理部272は、作業者用工程認識部250またはロボット用工程認識部260(作業認識部)により決定される各作業の開始および終了のタイミングに基づいて、保存すべき履歴情報の場面または区間を決定してもよい。 The above-mentioned condition (2) may be a condition in which an unusual work such as a robot assisting a person is performed. Further, it may be a condition that the behavior of the robot is significantly different from the behavior (behavior calculated by simulation) that has been designed in advance. That is, the determination processing unit 272 of the analysis / collection device 200 stores the data based on the start and end timings of each work determined by the worker process recognition unit 250 or the robot process recognition unit 260 (work recognition unit). The scene or section of the history information to be output may be determined.

上述の(3)の条件としては、後段に配置された検査機などによって、製品の不具合や不良品の発生が検知されると、その不具合が発生した製品に関する履歴情報を保存するようにしてもよい。すなわち、解析収集装置200の判定処理部272は、事後的に異常情報が入力されると、当該異常情報に対応する履歴情報をさかのぼって保存するようにしてもよい。 As the condition of (3) above, when a defect or defective product of a product is detected by an inspection machine or the like arranged in the subsequent stage, history information about the product in which the defect has occurred may be saved. Good. That is, when the abnormality information is input after the fact, the determination processing unit 272 of the analysis collection device 200 may retroactively store the history information corresponding to the abnormality information.

なお、上述した条件は、一例であり、どのような内容を保存条件274に含めるようにしてもよい。 The above-mentioned condition is an example, and any content may be included in the storage condition 274.

以上のように、本実施の形態に係る協調作業システム1は、予め定められた保存条件274を満たす場合に、対応する場面または区間について、静止画、動画、音声などを収集する。 As described above, the collaborative work system 1 according to the present embodiment collects still images, moving images, sounds, and the like for the corresponding scenes or sections when the predetermined storage condition 274 is satisfied.

本実施の形態においては、保存する履歴情報(典型的には、静止画、動画、音声など)に関連付けて、対応する作業を作業者およびロボットのいずれが担当したのかという属性情報を保存することで、工程の改善や不具合発生時の追跡などを容易化する。 In the present embodiment, attribute information indicating whether the worker or the robot is in charge of the corresponding work is saved in association with the history information to be saved (typically, still image, moving image, sound, etc.). This makes it easier to improve the process and track down when a problem occurs.

図17は、本実施の形態に係る協調作業システム1において保存されたデータの一例を示す図である。図17を参照して、履歴情報データベース290には、履歴情報294,295が属性情報296に関連付けて保存される。一例として、履歴情報294は静止画であり、履歴情報295は動画である。 FIG. 17 is a diagram showing an example of data stored in the collaborative work system 1 according to the present embodiment. With reference to FIG. 17, history information 294 and 295 are stored in the history information database 290 in association with the attribute information 296. As an example, the history information 294 is a still image, and the history information 295 is a moving image.

履歴情報294,295の各々に関連付けられる属性情報296は、例えば、担当情報2961と、適合条件情報2962と、対象作業情報2963とを含む。なお、属性情報296は、これらの情報をすべて含んでいる必要はなく、少なくともこれらの情報のうち1つを含んでいればよい。 The attribute information 296 associated with each of the history information 294 and 295 includes, for example, charge information 2961, conformity condition information 2962, and target work information 2963. The attribute information 296 does not have to include all of these information, and may include at least one of these pieces of information.

担当情報2961は、関連付けられる履歴情報に対応する作業が、作業者およびロボットのいずれにより担当されていたのかを示す情報である。図17に示す例においては、作業者またはロボットの識別情報を含む担当情報2961を示すが、必ずしも識別情報が必要ではなく、対応する作業を作業者およびロボットのいずれが担当していたのが特定できればよい。 The person in charge information 2961 is information indicating whether the work corresponding to the associated history information is in charge of the worker or the robot. In the example shown in FIG. 17, the person in charge information 2961 including the identification information of the worker or the robot is shown, but the identification information is not always required, and it is specified whether the worker or the robot is in charge of the corresponding work. I hope I can.

適合条件情報2962は、関連付けられる履歴情報が保存されることになった条件を示す情報である。すなわち、適合条件情報2962が示す条件が満たされたことで、対応する履歴情報が保存されたことを知ることができる。 The conformity condition information 2962 is information indicating a condition for which the associated history information is to be stored. That is, it is possible to know that the corresponding history information has been saved because the condition indicated by the conformity condition information 2962 is satisfied.

対象作業情報2963は、関連付けられる履歴情報がいずれの作業あるいは工程のものであるかを示す情報である、対象作業情報2963が示す情報を参照することで、対応する履歴情報がいずれの作業に関するものであるかを知ることができる。 The target work information 2963 is information indicating which work or process the associated history information belongs to. By referring to the information indicated by the target work information 2963, the corresponding history information is related to which work. You can know if it is.

履歴情報294,295は、製品(ワーク)毎に保存されてもよい。すなわち、履歴情報294,295には、各製品(ワーク)を特定するための製品ID292が関連付けて保存されてもよい。履歴情報294,295に関連付けられる製品ID292を特定できることで、対応する作業解析結果282を実績データベース280から一意に特定できる。 The history information 294,295 may be stored for each product (work). That is, the history information 294 and 295 may be stored in association with the product ID 292 for identifying each product (work). By identifying the product ID 292 associated with the history information 294 and 295, the corresponding work analysis result 282 can be uniquely identified from the actual database 280.

このように、本実施の形態に係る協調作業システム1は、履歴情報(典型的には、静止画、動画、音声など)に、当該履歴情報に対応する作業が作業者およびロボットのいずれにより担当されていたのかを示す情報を付加して保存する。これにより、履歴情報を生産工程の改善にも利用できるし、何らかの不具合(例えば、不良品の発生)などが生じた場合の事後的な原因究明などにも利用できる。 As described above, in the collaborative work system 1 according to the present embodiment, the history information (typically, still image, moving image, sound, etc.) is in charge of the work corresponding to the history information by either the worker or the robot. Add information indicating whether it was done and save it. As a result, the history information can be used for improving the production process, and can also be used for ex post facto investigation of the cause when some kind of defect (for example, occurrence of defective product) occurs.

図18は、本実施の形態に係る協調作業システム1における収集処理に係る処理手順を示すフローチャートである。図18に示す各ステップは、典型的には、解析収集装置200のプロセッサ202が解析プログラム2104を実行することで実現される。 FIG. 18 is a flowchart showing a processing procedure related to the collection processing in the cooperative work system 1 according to the present embodiment. Each step shown in FIG. 18 is typically realized by the processor 202 of the analysis and collection device 200 executing the analysis program 2104.

図18を参照して、解析収集装置200は、先に必要な情報の収集を行う。より具体的には、解析収集装置200は、対象の製品(ワーク)に関する作業解析結果282を取得する(ステップS200)とともに、対象の製品(ワーク)に関する画像などのセンシング結果を画像バッファ256にバッファリングする(ステップS202)。また、解析収集装置200は、生産管理システム600から、対象の製品(ワーク)に関する生産管理情報を取得する(ステップS204)とともに、必要に応じて異常情報を取得する(ステップS206)。 With reference to FIG. 18, the analysis / collection device 200 collects necessary information in advance. More specifically, the analysis / collection device 200 acquires the work analysis result 282 related to the target product (work) (step S200), and buffers the sensing result such as an image related to the target product (work) in the image buffer 256. Ring (step S202). In addition, the analysis / collection device 200 acquires production control information about the target product (work) from the production control system 600 (step S204), and also acquires abnormality information as needed (step S206).

そして、解析収集装置200は、保存条件274を満たすか否かを順次判断する。すなわち、解析収集装置200は、作業解析結果282に含まれる作業毎の開始および終了のタイミングをトレースして、いずれかの保存条件274が満たされるか否かを判断する(ステップS208)。 Then, the analysis / collection device 200 sequentially determines whether or not the storage condition 274 is satisfied. That is, the analysis / collection device 200 traces the start and end timings of each work included in the work analysis result 282, and determines whether or not any of the storage conditions 274 is satisfied (step S208).

いずれかの保存条件274が満たされると(ステップS208においてYES)、解析収集装置200は、当該保存条件274において指定された種類および区間の履歴情報を画像バッファ256から抽出し(ステップS210)、対応する属性情報を付加して(ステップS212)、履歴情報データベース290に保存する(ステップS214)。 When any of the storage conditions 274 is satisfied (YES in step S208), the analysis / collection device 200 extracts the history information of the type and section specified in the storage condition 274 from the image buffer 256 (step S210), and responds. Attribute information to be added (step S212) and saved in the history information database 290 (step S214).

いずれかの保存条件274も満たされない場合(ステップS208においてNO)、あるいは、ステップS214の実行後、解析収集装置200は、作業解析結果282のトレースが完了したか否かを判断する(ステップS216)。 If any of the storage conditions 274 is not satisfied (NO in step S208), or after the execution of step S214, the analysis and collection device 200 determines whether or not the trace of the work analysis result 282 is completed (step S216). ..

作業解析結果282のトレースが完了していなければ(ステップS216においてNO)、ステップS208以下の処理が繰り返される。 If the trace of the work analysis result 282 is not completed (NO in step S216), the processing of step S208 and subsequent steps is repeated.

作業解析結果282のトレースが完了すれば(ステップS216においてYES)、解析収集装置200は、異常情報に関する保存条件274が満たされるか否かを判断する(ステップS218)。 When the trace of the work analysis result 282 is completed (YES in step S216), the analysis collection device 200 determines whether or not the storage condition 274 regarding the abnormality information is satisfied (step S218).

異常情報に関する保存条件274が満たされていれば(ステップS218においてYES)、解析収集装置200は、当該保存条件274において指定された種類および区間の履歴情報を画像バッファ256から抽出し(ステップS220)、対応する属性情報を付加して(ステップS222)、履歴情報データベース290に保存する(ステップS224)。 If the storage condition 274 related to the abnormal information is satisfied (YES in step S218), the analysis / collection device 200 extracts the history information of the type and section specified in the storage condition 274 from the image buffer 256 (step S220). , The corresponding attribute information is added (step S222) and saved in the history information database 290 (step S224).

異常情報に関する保存条件274が満たされていなければ(ステップS218においてNO)、あるいは、ステップS224の実行後、収集処理は終了する。 If the storage condition 274 regarding the abnormal information is not satisfied (NO in step S218), or after the execution of step S224, the collection process ends.

上述したように、本実施の形態に係る協調作業システム1は、履歴情報を、対応する作業が作業者およびロボットのいずれにより担当されていたのかを示す情報を付加して保存する。これによって、後述するような工程改善や事後分析を容易化できる。 As described above, the collaborative work system 1 according to the present embodiment adds and stores the history information with information indicating whether the corresponding work is in charge of the worker or the robot. This makes it possible to facilitate process improvement and post-mortem analysis as described later.

また、本実施の形態に係る協調作業システム1は、予め定められた保存条件274が満たされる場合に限って履歴情報を保存するので、すべての履歴情報を保存する場合に比較して、履歴情報データベース290のデータ容量を削減できる。 Further, since the collaborative work system 1 according to the present embodiment saves the history information only when the predetermined storage condition 274 is satisfied, the history information is compared with the case where all the history information is saved. The data capacity of the database 290 can be reduced.

<F.工程改善/事後分析>
上述したような解析処理および収集処理により保存される履歴情報は、以下のように活用することができる。すなわち、保存される履歴情報は、典型的には、以下のような活用形態が想定される。
<F. Process improvement / post-mortem analysis>
The history information saved by the analysis process and the collection process as described above can be utilized as follows. That is, the stored history information is typically assumed to be used in the following forms.

(1)生産工程の改善検討
不具合や不良品が発生し易い工程や作業を特定するとともに、その特定した工程や作業に関して検討することで、どのような原因(作業者起因、ロボット起因、作業者とロボットの連携不備起因など)で生じているのかを特定できる。
(1) Examination of improvement of production process By identifying processes and operations that are likely to cause defects and defective products, and by examining the identified processes and operations, what causes (worker-induced, robot-induced, worker-induced) It is possible to identify whether it is caused by improper cooperation between the robot and the robot.

生産性を向上するために、作業者とロボットとの間の作業分担の調整(リバランス)、作業者が担当している作業のロボットへの変更、作業者とロボットとの間のワークまたは半製品の受け渡し位置の変更などの検討に利用できる。 Coordination (rebalancing) of work sharing between workers and robots, change of work that workers are in charge of to robots, work or half between workers and robots to improve productivity It can be used to consider changing the delivery position of the product.

(2)不具合発生時の原因分析
後段に配置された検査機や出荷前の目視検査などにおいて、製品に何らかの不具合が見つかった場合に、当該不具合が発生した原因の分析に履歴情報を利用可能である。
(2) Analysis of the cause when a defect occurs When a defect is found in the product in the inspection machine placed in the subsequent stage or visual inspection before shipment, history information can be used to analyze the cause of the defect. is there.

また、製品の出荷後に、何らからの不具合の情報が寄せられた場合には、対象の製品についての履歴情報を解析することで、その原因の特定の助けとすることもできる。 In addition, when information on a defect is received from somewhere after the product is shipped, it is possible to help identify the cause by analyzing the historical information about the target product.

(3)トレーサビリティの実現
履歴情報を製品IDに関連付けて保存することで、特定の製品について何らかの不具合が発生した場合に、当該製品の生産段階での各作業の内容を事後的に把握でき、これによって製品毎のトレーサビリティを実現できる。
(3) Realization of traceability By saving the history information in association with the product ID, if any problem occurs with a specific product, the content of each work at the production stage of the product can be grasped after the fact. It is possible to realize traceability for each product.

本実施の形態に係る協調作業システム1においては、保存条件274が満たされる場合に、対応する場面または区間の履歴情報のみを保存するので、トレースを容易化できるとともに、保存されるデータを削減あるいは最適化できる。 In the collaborative work system 1 according to the present embodiment, when the storage condition 274 is satisfied, only the history information of the corresponding scene or section is stored, so that the trace can be facilitated and the stored data can be reduced or reduced. Can be optimized.

以下、いくつかの活用形態について説明する。以下に示すデータ活用に必要な処理の全部または一部は、解析収集装置200において実行されてもよいし、図示しない他の情報処理装置で実現されてもよい。もちろん、以下に示すデータ活用に係る操作をユーザが手動で行ってもよい。 Hereinafter, some usage forms will be described. All or part of the processing required for data utilization shown below may be executed by the analysis and collection device 200, or may be realized by another information processing device (not shown). Of course, the user may manually perform the following operations related to data utilization.

図19は、本実施の形態に係る協調作業システム1により収集された履歴情報の活用形態の一例を説明するための図である。図19には、工程毎に発生したエラー数(作業ミスや作業抜けなどの発生件数)に着目して解析を行った結果例を示す。 FIG. 19 is a diagram for explaining an example of the utilization mode of the history information collected by the collaborative work system 1 according to the present embodiment. FIG. 19 shows an example of the result of analysis focusing on the number of errors that occurred in each process (the number of occurrences of work mistakes and work omissions).

まず、工程毎に発生したエラー数を示す分析結果702を生成する。生成された分析結果702においては、作業者が各作業を担当した場合に発生したエラー数(人作業)と、ロボットが各作業を担当した場合に発生したエラー数(ロボット作業)とが区分されて示されている。 First, an analysis result 702 showing the number of errors that occurred in each process is generated. In the generated analysis result 702, the number of errors that occurred when the worker was in charge of each work (human work) and the number of errors that occurred when the robot was in charge of each work (robot work) were classified. Is shown.

分析結果702においてエラー数が相対的に多い工程1および工程3に着目したとする。 It is assumed that the analysis result 702 focuses on steps 1 and 3 in which the number of errors is relatively large.

工程1に着目して、品種毎に発生したエラー数を分析して分析結果704を得る。なお、履歴情報データベース290に保存された各履歴情報に関連付けられた作業解析結果282を参照することで、対応する品種情報を取得することで、分析結果704が生成される。 Focusing on step 1, the number of errors generated for each product type is analyzed to obtain an analysis result 704. The analysis result 704 is generated by acquiring the corresponding product type information by referring to the work analysis result 282 associated with each history information stored in the history information database 290.

分析結果704には、発生したエラーの数(エラー数)に加えて、折れ線グラフで示されるエラー率(発生したエラー数/総生産数)も算出されている。 In the analysis result 704, in addition to the number of errors that have occurred (number of errors), the error rate (number of errors that have occurred / total number of production) shown in the line graph is also calculated.

分析結果704によれば、「品種A」についてエラー数およびエラー率とも相対的に高いことが分かるので、エラーの発生を低減するためには、「品種A」の作り方を改善することが効果的であることが分かる。 According to the analysis result 704, it can be seen that the number of errors and the error rate are relatively high for "variety A". Therefore, in order to reduce the occurrence of errors, it is effective to improve the method of producing "variety A". It turns out that.

一方、工程3に着目して、担当者毎に発生したエラー数を分析して分析結果706または分析結果707を得る。 On the other hand, paying attention to step 3, the number of errors generated for each person in charge is analyzed to obtain an analysis result 706 or an analysis result 707.

工程3に着目して分析結果706が得られた場合には、分析結果706によれば、「作業者C」についてエラー数およびエラー率とも相対的に高いことが分かるので、エラーの発生を低減するためには、「作業者C」の技能を向上させることが効果的であることが分かる。この場合、例えば、履歴情報に含まれる「作業者C」の作業を写した動画を元に「作業者C」を指導することができる。 When the analysis result 706 is obtained by focusing on step 3, it can be seen that the number of errors and the error rate are relatively high for "worker C" according to the analysis result 706, so that the occurrence of errors is reduced. It can be seen that it is effective to improve the skill of "worker C" in order to do so. In this case, for example, the "worker C" can be instructed based on the moving image of the work of the "worker C" included in the history information.

より具体的には、要素作業毎に要した作業時間を作業者毎に分析して分析結果708を得る。分析結果708によれば、「作業者C」の「要素作業B」が他の作業者に比較して、より多くの作業時間がかかっていることが分かるので、「作業者C」に対して、「要素作業B」の作業について重点的に指導することができる。 More specifically, the work time required for each elemental work is analyzed for each worker to obtain an analysis result 708. According to the analysis result 708, it can be seen that the "elemental work B" of the "worker C" takes more work time than the other workers, so that the "worker C" , Can give priority guidance on the work of "elemental work B".

一方、工程3に着目して分析結果707が得られた場合には、分析結果707によれば、作業者が担当する場合に比較して、ロボットが担当する場合には、エラー数およびエラー率が相対的に低いことが分かるので、エラーの発生を低減するためには、工程3についての作業者の技能を向上させる、あるいは、工程3を作業者による作業からロボットによる作業に変更することが効果的であることが分かる。 On the other hand, when the analysis result 707 is obtained by focusing on the step 3, according to the analysis result 707, the number of errors and the error rate when the robot is in charge as compared with the case where the worker is in charge. Is relatively low, so in order to reduce the occurrence of errors, it is possible to improve the skill of the worker for step 3 or change step 3 from work by the worker to work by the robot. It turns out to be effective.

ロボットによる作業に変更することができない場合には、例えば、履歴情報に含まれる各作業者の作業を写した動画を元に作業者を指導することができる。 When it is not possible to change to the work by the robot, for example, the worker can be instructed based on the moving image of the work of each worker included in the history information.

より具体的には、要素作業毎に要した作業時間を作業者毎に分析して分析結果709を得る。分析結果709によれば、「要素作業B」については、他の要素作業に比較して、より多くの作業時間がかかっていることが分かるので、各作業者に対して、「要素作業B」の作業について重点的に指導することができる。 More specifically, the work time required for each elemental work is analyzed for each worker to obtain an analysis result 709. According to the analysis result 709, it can be seen that "elemental work B" takes more work time than other elemental work, so that "elemental work B" is given to each worker. Can give priority guidance on the work of.

図20は、本実施の形態に係る協調作業システム1により収集された履歴情報の活用形態の別の一例を説明するための図である。図20には、工程毎に発生した不良発生数(不良品などの不具合の発生件数)に着目して解析を行った結果例を示す。 FIG. 20 is a diagram for explaining another example of the utilization mode of the history information collected by the collaborative work system 1 according to the present embodiment. FIG. 20 shows an example of the result of analysis focusing on the number of defects generated in each process (the number of defects such as defective products).

まず、工程毎に発生した不良発生数を示す分析結果712を生成する。生成された分析結果712においては、作業者が各作業を担当した場合に発生した不良発生数(人作業)と、ロボットが各作業を担当した場合に発生した不具合発生数(ロボット作業)とが区分されて示されている。 First, an analysis result 712 showing the number of defects generated in each process is generated. In the generated analysis result 712, the number of defects that occurred when the worker was in charge of each work (human work) and the number of defects that occurred when the robot was in charge of each work (robot work) are It is shown separately.

分析結果712において不良発生数が相対的に多い工程3に着目したとする。
工程3に着目して、担当者毎に発生した不良発生数を分析して分析結果713または分析結果714を得る。
It is assumed that the analysis result 712 focuses on step 3 in which the number of defects is relatively large.
Focusing on step 3, the number of defects generated for each person in charge is analyzed to obtain an analysis result 713 or an analysis result 714.

工程3に着目して分析結果713が得られた場合には、分析結果713によれば、「作業者C」について不良発生数およびエラー率とも相対的に高いことが分かるので、不良の発生を低減するためには、「作業者C」の技能を向上させることが効果的であることが分かる。この場合、例えば、履歴情報に含まれる「作業者C」の作業を写した動画を元に「作業者C」を指導することができる。 When the analysis result 713 is obtained by focusing on step 3, it can be seen that the number of defects and the error rate of "worker C" are relatively high according to the analysis result 713. It can be seen that it is effective to improve the skill of "worker C" in order to reduce the amount. In this case, for example, the "worker C" can be instructed based on the moving image of the work of the "worker C" included in the history information.

より具体的には、要素作業毎に要した作業時間を作業者毎に分析して分析結果715を得る。分析結果715によれば、「作業者C」の「要素作業B」が他の作業者に比較して、より多くの作業時間がかかっていることが分かるので、「作業者C」に対して、「要素作業B」の作業について重点的に指導することができる。 More specifically, the work time required for each elemental work is analyzed for each worker to obtain an analysis result 715. According to the analysis result 715, it can be seen that the "elemental work B" of the "worker C" takes more work time than the other workers, so that the "worker C" , Can give priority guidance on the work of "elemental work B".

一方、工程3に着目して分析結果714が得られた場合には、分析結果714によれば、作業者が担当する場合に比較して、ロボットが担当する場合には、不良発生数およびエラー率が相対的に低いことが分かるので、不良の発生を低減するためには、工程3についての作業者の技能を向上させる、あるいは、工程3を作業者による作業からロボットによる作業に変更することが効果的であることが分かる。 On the other hand, when the analysis result 714 is obtained by focusing on the process 3, according to the analysis result 714, the number of defects and the error occur when the robot is in charge as compared with the case where the operator is in charge. Since it can be seen that the rate is relatively low, in order to reduce the occurrence of defects, the skill of the worker for step 3 should be improved, or step 3 should be changed from the work by the worker to the work by the robot. Turns out to be effective.

ロボットによる作業に変更することができない場合には、例えば、履歴情報に含まれる各作業者の作業を写した動画を元に作業者を指導することができる。 When it is not possible to change to the work by the robot, for example, the worker can be instructed based on the moving image of the work of each worker included in the history information.

より具体的には、要素作業毎に要した作業時間を作業者毎に分析して分析結果716を得る。分析結果716によれば、「要素作業B」については、他の要素作業に比較して、より多くの作業時間がかかっていることが分かるので、各作業者に対して、「要素作業B」の作業について重点的に指導することができる。 More specifically, the work time required for each elemental work is analyzed for each worker to obtain an analysis result 716. According to the analysis result 716, it can be seen that "elemental work B" takes more work time than other elemental work, so that "elemental work B" is given to each worker. Can give priority guidance on the work of.

図21は、本実施の形態に係る協調作業システム1により収集された履歴情報の活用形態のさらに別の一例を説明するための図である。図21には、工程毎に発生した不良発生数(不良品などの不具合の発生件数)に着目して解析を行った結果例を示す。 FIG. 21 is a diagram for explaining still another example of the utilization mode of the history information collected by the collaborative work system 1 according to the present embodiment. FIG. 21 shows an example of the result of analysis focusing on the number of defects generated in each process (the number of defects such as defective products).

まず、工程毎に発生した不良発生数を示す分析結果722を生成する。生成された分析結果722においては、作業者が各作業を担当した場合に発生した不良発生数(人作業)と、ロボットが各作業を担当した場合に発生した不具合発生数(ロボット作業)とが区分されて示されている。 First, an analysis result 722 showing the number of defects generated in each process is generated. In the generated analysis result 722, the number of defects that occurred when the worker was in charge of each work (human work) and the number of defects that occurred when the robot was in charge of each work (robot work) are shown. It is shown separately.

分析結果722において不良発生数が相対的に多い工程3に着目したとする。
工程3に着目して、その前後にある工程2および工程4を含めて、担当を異ならせたいくつかの分担パターン毎に発生した不良発生数を分析して分析結果724を得る。
It is assumed that the analysis result 722 focuses on step 3 in which the number of defects is relatively large.
Focusing on step 3, the number of defects generated for each of several sharing patterns with different responsibilities, including steps 2 and 4 before and after the step 3, is analyzed to obtain an analysis result 724.

分析結果724によれば、パターン(1)「ロボット→作業者→ロボット」、および、パターン(4)「作業者→作業者→ロボット」で、工程2〜工程4が実施された場合に、不良発生数およびエラー率とも相対的に高いことが分かるので、不良の発生を低減するためには、これらパターン以外のパターンを採用することが好ましいことが分かる。この場合、例えば、生産計画に応じて、不良の発生が低い分担パターンを事前設定することができる。 According to the analysis result 724, when steps 2 to 4 are performed in the pattern (1) "robot-> worker-> robot" and the pattern (4) "worker-> worker-> robot", a defect is obtained. Since it can be seen that both the number of occurrences and the error rate are relatively high, it can be seen that it is preferable to adopt a pattern other than these patterns in order to reduce the occurrence of defects. In this case, for example, a sharing pattern with a low occurrence of defects can be preset according to the production plan.

なお、上述した例に限らず、任意の形態で活用が可能である。
本実施の形態に係る協調作業システム1は、人とロボットとが協調して作業する生産工程について、作業者およびロボットのいずれが担当したのかを示す情報を付加して、履歴情報を保存する。これによって、生産効率の低下や不具合が発生した場合の要因をより的確に解析できる。
Not limited to the above-mentioned example, it can be used in any form.
The collaborative work system 1 according to the present embodiment adds information indicating which of the worker and the robot is in charge of the production process in which the human and the robot work in cooperation, and saves the history information. As a result, it is possible to more accurately analyze the factors when a decrease in production efficiency or a defect occurs.

例えば、いずれの作業者が担当しても相対的に作業時間が長い、あるいは、相対的に不良発生が多い場合には、工程自体に問題があると特定できる。一方、特定の作業者が担当した場合に、作業時間が長い、あるいは、不良発生が多い場合には、当該特定の作業者に問題があると特定できる。 For example, if the work time is relatively long regardless of which worker is in charge, or if there are relatively many defects, it can be identified that there is a problem in the process itself. On the other hand, when a specific worker is in charge, if the work time is long or there are many defects, it can be identified that the specific worker has a problem.

前者の問題については、作業者による担当は適していない工程であるので、ロボットに担当を変更するといった対処が可能になる。あるいは、作業者とロボットとの間の作業分担が適切ではない場合には、担当分担を見直すことができる。逆に、ロボットによる担当は適していない工程についは、ロボットから作業者に担当を変更するような対処も可能である。 Regarding the former problem, since the person in charge of the process is not suitable for the process, it is possible to deal with it by changing the person in charge to the robot. Alternatively, if the division of work between the worker and the robot is not appropriate, the division of responsibility can be reviewed. On the contrary, for processes for which the robot is not suitable, it is possible to change the person in charge from the robot to the worker.

後者の問題については、特定の作業者による対応する作業への習熟度を高めるような対処が可能である。 The latter problem can be dealt with so as to increase the proficiency level of the corresponding work by a specific worker.

さらに、本実施の形態に係る協調作業システム1は、要素作業の単位で、作業時間などを解析できるので、解析の精度を高めることができる。 Further, the collaborative work system 1 according to the present embodiment can analyze the work time and the like in units of element work, so that the accuracy of the analysis can be improved.

<G.変形例>
上述の説明においては、解析収集装置200がすべての処理を実行する形態について例示したが、これに限らず、複数の装置が連携して上述したような機能を提供するようにしてもよい。さらに、一部または全部の機能をサーバ上のいわゆるクラウドと称される計算リソースを利用して実現してもよい。
<G. Modification example>
In the above description, the mode in which the analysis / collection device 200 executes all the processes has been illustrated, but the present invention is not limited to this, and a plurality of devices may cooperate to provide the above-mentioned functions. Furthermore, some or all of the functions may be realized by using so-called cloud computing resources on the server.

上述の説明においては、説明の便宜上、単一の生産工程を対象とする例について説明したが、複数の生産工程を対象にして履歴情報を収集してもよい。さらに、単一の工場ではなく、複数の工場からそれぞれ履歴情報を収集するようにしてもよい。この場合、特定の国だけではなく、全世界に分散配置された工場からそれぞれ履歴情報を収集して、原因分析の結果を他の工場や他の生産工程へ適用するような運用も可能である。 In the above description, for convenience of explanation, an example in which a single production process is targeted has been described, but history information may be collected for a plurality of production processes. Further, the history information may be collected from a plurality of factories instead of a single factory. In this case, it is possible to collect historical information not only from specific countries but also from factories distributed all over the world and apply the result of cause analysis to other factories and other production processes. ..

<H.付記>
上述したような本実施の形態は、以下のような技術思想を含む。
<H. Addendum>
The present embodiment as described above includes the following technical ideas.

[構成1]
予め定められた工程に沿って製品を生産する協調作業システム(1)であって、
作業者と協調して作業を行う1または複数の協調作業ロボット(300)と、
前記作業者および前記協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部(290)と、
予め定められた保存条件(274)が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が前記作業者および前記協調作業ロボットのいずれにより担当されたのかを示す情報(296)を付加して、前記履歴情報保存部に保存する条件判定部(272)とを備える、協調作業システム。
[Structure 1]
A collaborative work system (1) that produces products according to a predetermined process.
One or more collaborative work robots (300) that work in cooperation with workers,
A history information storage unit (290) for storing history information indicating the behavior of the worker and the collaborative work robot, and
When the predetermined storage condition (274) is satisfied, the history information about the work specified by the storage condition is information indicating whether the work is in charge of the worker or the collaborative work robot (the information indicating whether the work is in charge of the worker or the cooperative work robot). A collaborative work system including a condition determination unit (272) to which 296) is added and stored in the history information storage unit.

[構成2]
前記履歴情報は、前記作業者および前記協調作業ロボットの少なくとも一方を撮影した画像(294)を含む、構成1に記載の協調作業システム。
[Structure 2]
The collaborative work system according to configuration 1, wherein the history information includes an image (294) of at least one of the worker and the collaborative work robot.

[構成3]
前記作業者および前記協調作業ロボットの少なくとも一方の挙動を解析することで、工程に含まれる各作業の開始および終了のタイミングを決定する作業認識部(250,260)をさらに備える、構成1または2に記載の協調作業システム。
[Structure 3]
Configuration 1 or 2 further includes a work recognition unit (250, 260) that determines the start and end timings of each work included in the process by analyzing the behavior of at least one of the worker and the cooperative work robot. Collaborative work system described in.

[構成4]
前記作業認識部は、各工程に含まれる1または複数の要素作業毎に開始および終了のタイミングを決定する、構成3に記載の協調作業システム。
[Structure 4]
The collaborative work system according to configuration 3, wherein the work recognition unit determines start and end timings for each one or a plurality of elemental works included in each process.

[構成5]
前記作業認識部は、
センシングデバイスによる少なくとも前記作業者を含む領域のセンシング結果に基づいて、前記作業者の特徴点を抽出する特徴点抽出部(251)と、
前記センシング結果に基づいて、作業ステージ上にある物体の位置および種類を認識する物体認識部(252)と、
前記特徴点抽出部により抽出される前記作業者の特徴点、および、前記物体認識部により認識される前記物体の位置および種類に基づいて、前記作業者による要素作業毎に開始および終了のタイミングを決定する第1のタイミング決定部(254,255)とを含む、構成3または4に記載の協調作業システム。
[Structure 5]
The work recognition unit
A feature point extraction unit (251) that extracts the feature points of the worker based on the sensing result of at least the area including the worker by the sensing device.
An object recognition unit (252) that recognizes the position and type of an object on the work stage based on the sensing result.
Based on the feature points of the worker extracted by the feature point extraction unit and the position and type of the object recognized by the object recognition unit, the start and end timings for each element work by the worker are set. The collaborative work system according to configuration 3 or 4, which includes a first timing determination unit (254, 255) for determining.

[構成6]
前記作業認識部は、
前記協調作業ロボットからの制御状態に基づいて前記協調作業ロボットのステータスを管理するステータス管理部(263)と、
前記協調作業ロボットのステータスに対応する挙動に基づいて、前記協調作業ロボットによる要素作業毎に開始および終了のタイミングを決定する第2のタイミング決定部(265,266)とを含む、構成3〜5のいずれか1項に記載の協調作業システム。
[Structure 6]
The work recognition unit
A status management unit (263) that manages the status of the collaborative work robot based on the control state from the collaborative work robot, and a status management unit (263).
Configurations 3 to 5 including a second timing determination unit (265,266) that determines start and end timings for each elemental work by the collaborative work robot based on the behavior corresponding to the status of the collaborative work robot. The collaborative work system according to any one of the above items.

[構成7]
前記条件判定部は、前記作業認識部により決定される各作業の開始および終了のタイミングに基づいて、保存すべき履歴情報の場面または区間を決定する、構成3〜6のいずれか1項に記載の協調作業システム。
[Structure 7]
Described in any one of the configurations 3 to 6, wherein the condition determination unit determines a scene or section of history information to be saved based on the start and end timings of each work determined by the work recognition unit. Collaborative work system.

[構成8]
前記条件判定部は、事後的に異常情報が入力されると、当該異常情報に対応する履歴情報をさかのぼって保存する、構成1〜7のいずれか1項に記載の協調作業システム。
[Structure 8]
The collaborative work system according to any one of configurations 1 to 7, wherein the condition determination unit retroactively stores the history information corresponding to the abnormality information when the abnormality information is input after the fact.

[構成9]
予め定められた工程に沿って製品を生産する協調作業システム(1)に向けられた解析収集装置(200)であって、協調作業システムは作業者と協調して作業を行う1または複数の協調作業ロボット(30)を含み、
前記作業者および前記協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部(290)と、
予め定められた保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が前記作業者および前記協調作業ロボットのいずれにより担当されたのかを示す情報を付加して、前記履歴情報保存部に保存する条件判定部(272)とを備える、解析収集装置。
[Structure 9]
An analysis and collection device (200) directed to a collaborative work system (1) that produces products according to a predetermined process, in which the collaborative work system works in collaboration with a worker. Including working robot (30)
A history information storage unit (290) for storing history information indicating the behavior of the worker and the collaborative work robot, and
When the predetermined storage conditions are satisfied, the history information about the work specified by the storage conditions is added, and the information indicating whether the work is in charge of the worker or the collaborative work robot is added. An analysis and collection device including a condition determination unit (272) for storing in the history information storage unit.

[構成10]
予め定められた工程に沿って製品を生産する協調作業システム(1)に向けられた解析プログラムであって、協調作業システムは作業者と協調して作業を行う1または複数の協調作業ロボット(30)を含み、前記解析プログラムはコンピュータ(200)に、
予め定められた保存条件が満たされるか否かを判断するステップ(S208)と、
いずれかの保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が前記作業者および前記協調作業ロボットのいずれにより担当されたのかを示す情報を付加して保存するステップ(S210,S212)とを実行させ、
前記履歴情報は、前記作業者および前記協調作業ロボットの挙動を示す、解析プログラム。
[Structure 10]
It is an analysis program directed to a collaborative work system (1) that produces products according to a predetermined process, and the collaborative work system is one or a plurality of collaborative work robots (30) that perform work in cooperation with a worker. ) Is included, and the analysis program is installed in the computer (200).
The step (S208) of determining whether or not the predetermined storage conditions are satisfied, and
When any of the storage conditions is satisfied, the history information about the work specified by the storage condition is saved by adding information indicating whether the work is in charge of the worker or the collaborative work robot. To execute the steps (S210, S212) to be performed,
The history information is an analysis program that shows the behavior of the worker and the collaborative work robot.

<I.利点>
本実施の形態に係る協調作業システムは、作業者と協調して作業を行う1または複数の協調作業ロボットを含む協調作業システムにおける作業を効率的に解析できる。
<I. Advantages>
The collaborative work system according to the present embodiment can efficiently analyze the work in the collaborative work system including one or a plurality of collaborative work robots that perform the work in cooperation with the worker.

今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。 It should be considered that the embodiments disclosed this time are exemplary in all respects and not restrictive. The scope of the present invention is shown not by the above description but by the scope of claims, and is intended to include all modifications within the meaning and scope equivalent to the scope of claims.

1 協調作業システム、2 フィールドネットワーク、4 上位ネットワーク、11M,12A,12M,13A,14A,15A 作業ステージ、20 作業者、30 カメラ、40 工程全体、41 工程内、42 要素作業、43 動作、44 単位動作、100 PLC、102,202,312 プロセッサ、104,204,314 メインメモリ、106,222 上位ネットワークコントローラ、108,220,302 フィールドネットワークコントローラ、110,210,316 ストレージ、112 メモリカードインターフェイス、114 メモリカード、116 ローカルバスコントローラ、118,218 プロセッサバス、120 USBコントローラ、200 解析収集装置、206 入力部、208 表示部、212 光学ドライブ、214 記憶媒体、250 作業者用工程認識部、251 特徴点抽出部、252 物体認識部、253 動作認識部、254,266 工程データベース、255,265 現工程決定部、256 画像バッファ、260 ロボット用工程認識部、261 通信部、262 ロボット通信部、263 ステータス管理部、264,318,1106 レシピプログラム、270 処理エンジン、272 判定処理部、274 保存条件、280 実績データベース、282 作業解析結果、290 履歴情報データベース、292 製品ID、294,295 履歴情報、296 属性情報、300 ロボット、310 主制御部、317,1102 システムプログラム、320 インターフェイス回路、322 センサ、324 アクチュエータ、326 モータドライバ、328 サーボモータ、400 表示操作装置、500 サポート装置、600 生産管理システム、702,704,706,707,708,709,712,713,714,715,716,722,724 分析結果、1104 ユーザプログラム、2104 解析プログラム、2801 工程欄、2802 工程内欄、2803 要素作業欄、2804 開始時刻欄、2805 終了時刻欄、2806 作業時間、2807 担当欄、2808 生産管理情報欄、2961 担当情報、2962 適合条件情報、2963 対象作業情報。 1 collaborative work system, 2 field network, 4 upper network, 11M, 12A, 12M, 13A, 14A, 15A work stage, 20 workers, 30 cameras, 40 entire processes, 41 processes, 42 element work, 43 operations, 44 Unit operation, 100 PLC, 102,202,312 processor, 104,204,314 main memory, 106,222 upper network controller, 108,220,302 field network controller, 110,210,316 storage, 112 memory card interface, 114 Memory card, 116 local bus controller, 118,218 processor bus, 120 USB controller, 200 analysis and collection device, 206 input unit, 208 display unit, 212 optical drive, 214 storage medium, 250 worker process recognition unit, 251 feature points Extraction unit, 252 object recognition unit, 253 motion recognition unit, 254,266 process database, 255,265 current process determination unit, 256 image buffer, 260 robot process recognition unit, 261 communication unit, 262 robot communication unit, 263 status management Department, 264,318,1106 Recipe program, 270 processing engine, 272 judgment processing part, 274 storage conditions, 280 actual database, 282 work analysis result, 290 history information database, 292 product ID, 294,295 history information, 296 attribute information , 300 robot, 310 main control unit, 317, 1102 system program, 320 interface circuit, 322 sensor, 324 actuator, 326 motor driver, 328 servo motor, 400 display operation device, 500 support device, 600 production control system, 702,704 , 706,707,708,709,712,713,714,715,716,722,724 Analysis result, 1104 user program, 2104 analysis program, 2801 process column, 2802 process column, 2803 element work column, 2804 start time Column, 2805 End time column, 2806 Working hours, 2807 Responsible column, 2808 Production control information column, 2961 Responsible information, 2962 Conformity condition information, 2963 Target work information.

Claims (10)

予め定められた工程に沿って製品を生産する協調作業システムであって、
作業者と協調して作業を行う1または複数の協調作業ロボットと、
前記作業者および前記協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部と、
予め定められた保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が前記作業者および前記協調作業ロボットのいずれにより担当されたのかを示す情報を付加して、前記履歴情報保存部に保存する条件判定部とを備える、協調作業システム。
A collaborative work system that produces products according to a predetermined process.
One or more collaborative work robots that work in collaboration with workers,
A history information storage unit for storing history information indicating the behavior of the worker and the collaborative work robot, and
When the predetermined storage conditions are satisfied, the history information about the work specified by the storage conditions is added, and the information indicating whether the work is in charge of the worker or the collaborative work robot is added. , A collaborative work system including a condition determination unit for storing in the history information storage unit.
前記履歴情報は、前記作業者および前記協調作業ロボットの少なくとも一方を撮影した画像を含む、請求項1に記載の協調作業システム。 The cooperative work system according to claim 1, wherein the history information includes an image of at least one of the worker and the cooperative work robot. 前記作業者および前記協調作業ロボットの少なくとも一方の挙動を解析することで、工程に含まれる各作業の開始および終了のタイミングを決定する作業認識部をさらに備える、請求項1または2に記載の協調作業システム。 The cooperation according to claim 1 or 2, further comprising a work recognition unit that determines the start and end timings of each work included in the process by analyzing the behavior of at least one of the worker and the cooperative work robot. Working system. 前記作業認識部は、各工程に含まれる1または複数の要素作業毎に開始および終了のタイミングを決定する、請求項3に記載の協調作業システム。 The cooperative work system according to claim 3, wherein the work recognition unit determines start and end timings for each one or a plurality of elemental works included in each process. 前記作業認識部は、
センシングデバイスによる少なくとも前記作業者を含む領域のセンシング結果に基づいて、前記作業者の特徴点を抽出する特徴点抽出部と、
前記センシング結果に基づいて、作業ステージ上にある物体の位置および種類を認識する物体認識部と、
前記特徴点抽出部により抽出される前記作業者の特徴点、および、前記物体認識部により認識される前記物体の位置および種類に基づいて、前記作業者による要素作業毎に開始および終了のタイミングを決定する第1のタイミング決定部とを含む、請求項3または4に記載の協調作業システム。
The work recognition unit
A feature point extraction unit that extracts the feature points of the worker based on the sensing result of at least the area including the worker by the sensing device.
An object recognition unit that recognizes the position and type of an object on the work stage based on the sensing result.
Based on the feature points of the worker extracted by the feature point extraction unit and the position and type of the object recognized by the object recognition unit, the start and end timings for each element work by the worker are set. The collaborative work system according to claim 3 or 4, which includes a first timing determination unit for determining.
前記作業認識部は、
前記協調作業ロボットからの制御状態に基づいて前記協調作業ロボットのステータスを管理するステータス管理部と、
前記協調作業ロボットのステータスに対応する挙動に基づいて、前記協調作業ロボットによる要素作業毎に開始および終了のタイミングを決定する第2のタイミング決定部とを含む、請求項3〜5のいずれか1項に記載の協調作業システム。
The work recognition unit
A status management unit that manages the status of the collaborative work robot based on the control state from the collaborative work robot, and a status management unit.
Any one of claims 3 to 5, including a second timing determination unit that determines the start and end timings for each elemental work by the cooperative work robot based on the behavior corresponding to the status of the cooperative work robot. The collaborative work system described in the section.
前記条件判定部は、前記作業認識部により決定される各作業の開始および終了のタイミングに基づいて、保存すべき履歴情報の場面または区間を決定する、請求項3〜6のいずれか1項に記載の協調作業システム。 The condition determination unit determines a scene or section of history information to be saved based on the start and end timings of each work determined by the work recognition unit, according to any one of claims 3 to 6. Described collaborative work system. 前記条件判定部は、事後的に異常情報が入力されると、当該異常情報に対応する履歴情報をさかのぼって保存する、請求項1〜7のいずれか1項に記載の協調作業システム。 The cooperative work system according to any one of claims 1 to 7, wherein the condition determination unit retroactively stores the history information corresponding to the abnormal information when the abnormal information is input after the fact. 予め定められた工程に沿って製品を生産する協調作業システムに向けられた解析収集装置であって、協調作業システムは作業者と協調して作業を行う1または複数の協調作業ロボットを含み、
前記作業者および前記協調作業ロボットの挙動を示す履歴情報を格納するための履歴情報保存部と、
予め定められた保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が前記作業者および前記協調作業ロボットのいずれにより担当されたのかを示す情報を付加して、前記履歴情報保存部に保存する条件判定部とを備える、解析収集装置。
An analysis and collection device directed to a collaborative work system that produces products according to a predetermined process, the collaborative work system includes one or more collaborative work robots that work in concert with the worker.
A history information storage unit for storing history information indicating the behavior of the worker and the collaborative work robot, and
When the predetermined storage conditions are satisfied, the history information about the work specified by the storage conditions is added, and the information indicating whether the work is in charge of the worker or the collaborative work robot is added. An analysis and collection device including a condition determination unit for storing in the history information storage unit.
予め定められた工程に沿って製品を生産する協調作業システムに向けられた解析プログラムであって、協調作業システムは作業者と協調して作業を行う1または複数の協調作業ロボットを含み、前記解析プログラムはコンピュータに、
予め定められた保存条件が満たされるか否かを判断するステップと、
いずれかの保存条件が満たされると、当該保存条件により指定された作業についての履歴情報を、当該作業が前記作業者および前記協調作業ロボットのいずれにより担当されたのかを示す情報を付加して保存するステップとを実行させ、
前記履歴情報は、前記作業者および前記協調作業ロボットの挙動を示す、解析プログラム。
An analysis program directed to a collaborative work system that produces products according to a predetermined process, wherein the collaborative work system includes one or more collaborative work robots that perform work in cooperation with a worker. The program is on the computer
Steps to determine if predetermined storage conditions are met, and
When any of the storage conditions is satisfied, the history information about the work specified by the storage condition is saved by adding information indicating whether the work is in charge of the worker or the collaborative work robot. To perform the steps and
The history information is an analysis program that shows the behavior of the worker and the collaborative work robot.
JP2019212562A 2019-11-25 2019-11-25 Collaborative work system, analysis collection device and analysis program Active JP7384000B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019212562A JP7384000B2 (en) 2019-11-25 2019-11-25 Collaborative work system, analysis collection device and analysis program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019212562A JP7384000B2 (en) 2019-11-25 2019-11-25 Collaborative work system, analysis collection device and analysis program

Publications (2)

Publication Number Publication Date
JP2021086219A true JP2021086219A (en) 2021-06-03
JP7384000B2 JP7384000B2 (en) 2023-11-21

Family

ID=76087711

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019212562A Active JP7384000B2 (en) 2019-11-25 2019-11-25 Collaborative work system, analysis collection device and analysis program

Country Status (1)

Country Link
JP (1) JP7384000B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7224561B1 (en) * 2022-07-07 2023-02-17 三菱電機株式会社 Conveyor controller, production system, and conveyor control program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001101422A (en) * 1999-10-04 2001-04-13 Hitachi Plant Eng & Constr Co Ltd Motion analyzer
JP2018156232A (en) * 2017-03-16 2018-10-04 i Smart Technologies株式会社 Production management device, production management system and production management method
JP2018187746A (en) * 2017-05-11 2018-11-29 ファナック株式会社 Robot control device and robot control program
US20190080446A1 (en) * 2017-09-11 2019-03-14 All Axis Robotics, LLC System and method for automated defect detection

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001101422A (en) * 1999-10-04 2001-04-13 Hitachi Plant Eng & Constr Co Ltd Motion analyzer
JP2018156232A (en) * 2017-03-16 2018-10-04 i Smart Technologies株式会社 Production management device, production management system and production management method
JP2018187746A (en) * 2017-05-11 2018-11-29 ファナック株式会社 Robot control device and robot control program
US20190080446A1 (en) * 2017-09-11 2019-03-14 All Axis Robotics, LLC System and method for automated defect detection

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7224561B1 (en) * 2022-07-07 2023-02-17 三菱電機株式会社 Conveyor controller, production system, and conveyor control program
WO2024009467A1 (en) * 2022-07-07 2024-01-11 三菱電機株式会社 Conveyor control device, production system, and conveyor control program

Also Published As

Publication number Publication date
JP7384000B2 (en) 2023-11-21

Similar Documents

Publication Publication Date Title
JP6551184B2 (en) Simulation apparatus, simulation method, and simulation program
JP6405320B2 (en) Method and system for improved automated visual inspection of physical assets
JP6977686B2 (en) Control system and control unit
JP6823025B2 (en) Inspection equipment and machine learning method
JP2021015573A (en) Abnormality determination device and abnormality determination system
WO2022091421A1 (en) Industrial system, abnormality detection system, and abnormality detection method
CN114599488A (en) Machine learning data generation device, machine learning device, work system, computer program, machine learning data generation method, and work machine manufacturing method
JP4731335B2 (en) ASSEMBLY EVALUATION METHOD, SYSTEM, AND PROGRAM
CN110895716A (en) Inspection apparatus and machine learning method
US11138805B2 (en) Quantitative quality assurance for mixed reality
JP7384000B2 (en) Collaborative work system, analysis collection device and analysis program
US20200082281A1 (en) Verification device
CN114787735A (en) Prediction system, information processing device, and information processing program
JP2021060633A (en) Diagnostic device
JP7383999B2 (en) Collaborative work system, analysis device and analysis program
Solvang et al. SAPIR: Supervised and adaptive programming of industrial robots
KR102570756B1 (en) Visualization apparatus for manufacturing execution, and method applied to the same
JP7502448B2 (en) Inspection Equipment
CN117908495B (en) Flexible high-precision processing system and processing method based on multiple sensors
JP7571613B2 (en) Information processing device, information processing program, and information processing method
Bolz A Low-Cost and Low-Tech Solution to Test for Variations Between Multiple Offline Programming Software Packages.
WO2024070189A1 (en) Factor analysis device and factor analysis method
JP2008256638A (en) Product inspection apparatus, program, and computer readable medium
WO2023139750A1 (en) Data set creation device and computer-readable recording medium
JP6297202B2 (en) Procedure extraction system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220907

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231023

R150 Certificate of patent or registration of utility model

Ref document number: 7384000

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150