JP2021053708A - 作業員の作業を補助するロボットシステム、制御方法、機械学習装置、及び機械学習方法 - Google Patents
作業員の作業を補助するロボットシステム、制御方法、機械学習装置、及び機械学習方法 Download PDFInfo
- Publication number
- JP2021053708A JP2021053708A JP2019176122A JP2019176122A JP2021053708A JP 2021053708 A JP2021053708 A JP 2021053708A JP 2019176122 A JP2019176122 A JP 2019176122A JP 2019176122 A JP2019176122 A JP 2019176122A JP 2021053708 A JP2021053708 A JP 2021053708A
- Authority
- JP
- Japan
- Prior art keywords
- work
- worker
- robot
- article
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010801 machine learning Methods 0.000 title claims description 34
- 238000000034 method Methods 0.000 title claims description 12
- 238000001514 detection method Methods 0.000 claims abstract description 124
- 230000032258 transport Effects 0.000 claims description 2
- 230000006870 function Effects 0.000 description 16
- 239000008186 active pharmaceutical agent Substances 0.000 description 12
- 210000002569 neuron Anatomy 0.000 description 11
- 239000013598 vector Substances 0.000 description 11
- 238000013528 artificial neural network Methods 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000003466 welding Methods 0.000 description 5
- 210000000707 wrist Anatomy 0.000 description 5
- 210000004027 cell Anatomy 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 2
- 239000003973 paint Substances 0.000 description 2
- 238000005476 soldering Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 229910052742 iron Inorganic materials 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J13/00—Controls for manipulators
- B25J13/08—Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
- B25J13/088—Controls for manipulators by means of sensing devices, e.g. viewing or touching devices with position, velocity or acceleration sensors
- B25J13/089—Determining the position of the robot with reference to its environment
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
- B25J9/161—Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1628—Programme controls characterised by the control loop
- B25J9/163—Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
- B25J9/1664—Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Robotics (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Fuzzy Systems (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Manipulator (AREA)
- General Factory Administration (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
Abstract
Description
検出装置14は、作業員Aの動きを示す検出データDD(例えば、作業員Aの動きを時系列で連続的に示す画像データ)を、学習データ取得部52に供給する。
12 ロボット
14,14A,14B,14C 検出装置
16,62 制御装置
28 ロボット制御部
30 終了判断部
50 機械学習装置
52 学習データ取得部
54 学習部
Claims (8)
- 作業員の作業を補助するロボットシステムであって、
ロボットと、
作業員が所定の作業をしているときに該作業員の動きを検出する検出装置と、
前記検出装置の検出データに基づいて、前記作業が終了するか否かを判断する終了判断部と、
前記終了判断部によって前記作業が終了すると判断されたときに、該作業のための物品を作業員へ供給するために該物品を予め定められた位置へ運搬する物品供給動作、又は、前記作業で用いた前記物品を回収して予め定めた保管場所まで運搬する物品回収動作、を前記ロボットに実行させるロボット制御部と、を備える、ロボットシステム。 - 前記終了判断部は、
前記検出データから、作業員と作業箇所との距離が所定の閾値以下になったか否かを監視し、
前記距離が前記閾値以下になったときに、前記作業が終了すると判断する、請求項1に記載のロボットシステム。 - 前記終了判断部は、
前記検出装置が検出する前記動きが、作業員が前記作業を行うときの基準の動作として予め定めた基準動作パターンに合致するか否かを監視し、
前記動きが前記基準動作パターンと合致したときに、前記作業が終了すると判断する、請求項1に記載のロボットシステム。 - 前記終了判断部は、前記動きと、前記作業の段階又は該作業に要した時間と、の相関性を表す学習モデルにさらに基づいて、前記作業が終了するか否かを判断する、請求項1に記載のロボットシステム。
- 前記ロボット制御部は、前記物品供給動作を実行した後に、前記ロボットに前記物品回収動作を実行させ、直前の前記作業で用いた前記物品を回収して前記予め定めた保管場所まで運搬する、請求項1〜4のいずれか1項に記載のロボットシステム。
- 作業員の作業を補助するロボットを制御する方法であって、
作業員が所定の作業をしているときに該作業員の動きを検出装置によって検出し、
前記検出装置の検出データに基づいて、前記作業が終了するか否かを判断し、
前記作業が終了すると判断したときに、該作業のための物品を作業員へ供給するために該物品を予め定められた位置へ運搬する物品供給動作、又は、前記作業で用いた前記物品を回収して予め定めた保管場所まで運搬する物品回収動作、を前記ロボットに実行させる、方法。 - 作業員の作業が終了するタイミングを学習する機械学習装置であって、
作業員が所定の作業を行っているときに該作業員の動きを検出する検出装置の検出データと、前記作業の段階を示すラベル情報又は該作業に要した時間と、を、学習データセットとして取得する学習データ取得部と、
前記学習データセットを用いて、前記動きと前記段階又は前記時間との相関性を表す学習モデルを生成する学習部と、を備える、機械学習装置。 - 作業員の作業が終了するタイミングを学習する機械学習方法であって、
作業員が所定の作業を行っているときに該作業員の動きを検出する検出装置の検出データと、前記作業の段階を示すラベル情報又は該作業に要した時間と、を、学習データセットとして取得し、
前記学習データセットを用いて、前記動きと前記段階又は前記時間との相関性を表す学習モデルを生成する、機械学習方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019176122A JP7448327B2 (ja) | 2019-09-26 | 2019-09-26 | 作業員の作業を補助するロボットシステム、制御方法、機械学習装置、及び機械学習方法 |
US16/994,665 US12017358B2 (en) | 2019-09-26 | 2020-08-17 | Robot system assisting work of worker, control method, machine learning apparatus, and machine learning method |
DE102020124379.0A DE102020124379A1 (de) | 2019-09-26 | 2020-09-18 | Robotersystem, das einen Arbeitsvorgang eines Arbeiters unterstützt, Steuerverfahren, Maschinenlernvorrichtung und Maschinenlernverfahren |
CN202011012816.8A CN112549014A (zh) | 2019-09-26 | 2020-09-23 | 机器人系统、控制方法、机器学习装置以及机器学习方法 |
JP2023218412A JP2024023873A (ja) | 2019-09-26 | 2023-12-25 | 作業員の作業を補助する機械学習装置、及び機械学習方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019176122A JP7448327B2 (ja) | 2019-09-26 | 2019-09-26 | 作業員の作業を補助するロボットシステム、制御方法、機械学習装置、及び機械学習方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023218412A Division JP2024023873A (ja) | 2019-09-26 | 2023-12-25 | 作業員の作業を補助する機械学習装置、及び機械学習方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021053708A true JP2021053708A (ja) | 2021-04-08 |
JP7448327B2 JP7448327B2 (ja) | 2024-03-12 |
Family
ID=74872805
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019176122A Active JP7448327B2 (ja) | 2019-09-26 | 2019-09-26 | 作業員の作業を補助するロボットシステム、制御方法、機械学習装置、及び機械学習方法 |
JP2023218412A Pending JP2024023873A (ja) | 2019-09-26 | 2023-12-25 | 作業員の作業を補助する機械学習装置、及び機械学習方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023218412A Pending JP2024023873A (ja) | 2019-09-26 | 2023-12-25 | 作業員の作業を補助する機械学習装置、及び機械学習方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US12017358B2 (ja) |
JP (2) | JP7448327B2 (ja) |
CN (1) | CN112549014A (ja) |
DE (1) | DE102020124379A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024085159A1 (ja) * | 2022-10-18 | 2024-04-25 | ソフトバンクグループ株式会社 | 作業ロボット調整方法、センシングシステム、センシング方法、移動式ロボット、動作改変システム、動作改変方法、作業ロボット、作業再現システム、作業再現方法、作業習熟システム、作業習熟方法及び作業再現ロボット |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113268431B (zh) * | 2021-06-24 | 2022-08-19 | 深圳市凯莱特科技股份有限公司 | 一种rpa机器人软件的学习方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010014712A (ja) * | 2008-06-30 | 2010-01-21 | Samsung Electronics Co Ltd | モーションキャプチャー装置及びモーションキャプチャー方法 |
JP2010264559A (ja) * | 2009-05-15 | 2010-11-25 | Seiko Epson Corp | ロボットの制御方法 |
JP2013151062A (ja) * | 2009-05-22 | 2013-08-08 | Toyota Motor East Japan Inc | 作業ロボット支援システム |
WO2019097676A1 (ja) * | 2017-11-17 | 2019-05-23 | 三菱電機株式会社 | 3次元空間監視装置、3次元空間監視方法、及び3次元空間監視プログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5062774B2 (ja) * | 2009-05-21 | 2012-10-31 | トヨタ自動車東日本株式会社 | 作業訓練システム及び作業訓練方法並びに該作業訓練方法を記録した記録媒体 |
JP6344084B2 (ja) * | 2014-06-20 | 2018-06-20 | オムロン株式会社 | ロボット操作用の作業者端末 |
JP6494331B2 (ja) * | 2015-03-03 | 2019-04-03 | キヤノン株式会社 | ロボット制御装置およびロボット制御方法 |
JP6821374B2 (ja) * | 2016-10-06 | 2021-01-27 | 川崎重工業株式会社 | ロボットシステム及びその運転方法 |
JP6662746B2 (ja) * | 2016-10-07 | 2020-03-11 | ファナック株式会社 | 機械学習部を備えた作業補助システム |
JP6487489B2 (ja) * | 2017-05-11 | 2019-03-20 | ファナック株式会社 | ロボット制御装置及びロボット制御プログラム |
US11556879B1 (en) * | 2017-06-12 | 2023-01-17 | Amazon Technologies, Inc. | Motion data driven performance evaluation and training |
US10404851B2 (en) * | 2017-07-07 | 2019-09-03 | Tile, Inc. | Task completion in a tracking device environment |
EP3696772A3 (en) * | 2019-02-14 | 2020-09-09 | Denso Wave Incorporated | Device and method for analyzing state of manual work by worker, and work analysis program |
US20200265363A1 (en) * | 2019-02-15 | 2020-08-20 | Wipro Limited | Method and system for determining working condition of a worker performing qualitative evaluation of products |
-
2019
- 2019-09-26 JP JP2019176122A patent/JP7448327B2/ja active Active
-
2020
- 2020-08-17 US US16/994,665 patent/US12017358B2/en active Active
- 2020-09-18 DE DE102020124379.0A patent/DE102020124379A1/de active Pending
- 2020-09-23 CN CN202011012816.8A patent/CN112549014A/zh active Pending
-
2023
- 2023-12-25 JP JP2023218412A patent/JP2024023873A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010014712A (ja) * | 2008-06-30 | 2010-01-21 | Samsung Electronics Co Ltd | モーションキャプチャー装置及びモーションキャプチャー方法 |
JP2010264559A (ja) * | 2009-05-15 | 2010-11-25 | Seiko Epson Corp | ロボットの制御方法 |
JP2013151062A (ja) * | 2009-05-22 | 2013-08-08 | Toyota Motor East Japan Inc | 作業ロボット支援システム |
WO2019097676A1 (ja) * | 2017-11-17 | 2019-05-23 | 三菱電機株式会社 | 3次元空間監視装置、3次元空間監視方法、及び3次元空間監視プログラム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024085159A1 (ja) * | 2022-10-18 | 2024-04-25 | ソフトバンクグループ株式会社 | 作業ロボット調整方法、センシングシステム、センシング方法、移動式ロボット、動作改変システム、動作改変方法、作業ロボット、作業再現システム、作業再現方法、作業習熟システム、作業習熟方法及び作業再現ロボット |
Also Published As
Publication number | Publication date |
---|---|
JP2024023873A (ja) | 2024-02-21 |
JP7448327B2 (ja) | 2024-03-12 |
US20210094175A1 (en) | 2021-04-01 |
CN112549014A (zh) | 2021-03-26 |
DE102020124379A1 (de) | 2021-04-01 |
US12017358B2 (en) | 2024-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6680732B2 (ja) | 物品積み付け装置及び機械学習装置 | |
US20210001482A1 (en) | Machine learning device, robot controller, robot system, and machine learning method for learning action pattern of human | |
JP2024023873A (ja) | 作業員の作業を補助する機械学習装置、及び機械学習方法 | |
US10603797B2 (en) | Machine learning device, robot system, and machine learning method for learning motion of robot engaged in task performed by human and robot in cooperate with each other | |
JP6810087B2 (ja) | 機械学習装置、機械学習装置を用いたロボット制御装置及びロボットビジョンシステム、並びに機械学習方法 | |
CN109382825B (zh) | 控制装置以及学习装置 | |
Cusumano-Towner et al. | Bringing clothing into desired configurations with limited perception | |
US9381642B2 (en) | Wearable robot assisting manual tasks | |
SE526119C2 (sv) | Metod och system för programmering av en industrirobot | |
JP2021000692A (ja) | ツールの状態を学習する機械学習装置、ロボットシステム、及び機械学習方法 | |
JP6916157B2 (ja) | 人と協働作業を行うロボットシステム、及びロボット制御方法 | |
Koch et al. | A methods-time-measurement based approach to enable action recognition for multi-variant assembly in human-robot collaboration | |
JP6490132B2 (ja) | ロボットの制御装置、機械学習装置及び機械学習方法 | |
Namiki et al. | Vision-based predictive assist control on master-slave systems | |
Guanglong et al. | Human–manipulator interface using hybrid sensors with Kalman filters and adaptive multi-space transformation | |
CN110405729B (zh) | 机器人控制装置 | |
Ansari et al. | Human grasp position estimation for human–robot cooperative object manipulation | |
Li et al. | Twisting door handles and pulling open doors with a mobile manipulator | |
US11897142B2 (en) | Method and device for creating a robot control program | |
Wang et al. | A smart operator assistance system using deep learning for angle measurement | |
Wu et al. | Visual servoing for object manipulation: A case study in slaughterhouse | |
JP2023538397A (ja) | ロボット溶接システム | |
Zhang et al. | An application of convolutional neural networks on human intention prediction | |
JP7159525B2 (ja) | ロボット制御装置、学習装置、及びロボット制御システム | |
CN116197918B (zh) | 基于动作记录分析的机械手控制系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220616 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230512 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230530 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230719 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20231017 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231225 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20240109 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240130 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240229 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7448327 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |