JP2018171684A - ロボットの制御装置、機械学習装置及び機械学習方法 - Google Patents
ロボットの制御装置、機械学習装置及び機械学習方法 Download PDFInfo
- Publication number
- JP2018171684A JP2018171684A JP2017071890A JP2017071890A JP2018171684A JP 2018171684 A JP2018171684 A JP 2018171684A JP 2017071890 A JP2017071890 A JP 2017071890A JP 2017071890 A JP2017071890 A JP 2017071890A JP 2018171684 A JP2018171684 A JP 2018171684A
- Authority
- JP
- Japan
- Prior art keywords
- state
- article
- start condition
- robot
- operation start
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1628—Programme controls characterised by the control loop
- B25J9/163—Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
- B25J9/1669—Programme controls characterised by programming, planning systems for manipulators characterised by special application, e.g. multi-arm co-operation, assembly, grasping
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
- B25J9/1687—Assembly, peg and hole, palletising, straight line, weaving pattern movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39106—Conveyor, pick up article, object from conveyor, bring to test unit, place it
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S901/00—Robots
- Y10S901/02—Arm motion controller
Abstract
【解決手段】本発明の制御装置10は、ロボットによる搬送装置上に配置された物品の収納動作の稼働開始条件を学習する機械学習装置20を備え、機械学習装置20は、稼働開始条件を示す稼働開始条件データ、及び搬送装置上の物品に係る状態を示す搬送状態データを、環境の現在状態を表す状態変数として観測する状態観測部22と、収納動作の適否判定結果を示す判定データを取得する判定データ取得部24と、状態変数と判定データとを用いて、前記稼働開始条件を前記搬送状態データと関連付けて学習する学習部26と、を備える。
【選択図】図1
Description
図1は、第1の実施形態による制御装置10の概略的な機能ブロック図である。制御装置10は、例えば、搬送装置上を流れて来る物品を追いかけながら取り出すロボット(図示せず)を制御する制御装置として実装することができる。制御装置10は、稼働開始条件(取得動作を開始する搬送装置上の物品の位置など)を、いわゆる機械学習により自ら学習するためのソフトウェア(学習アルゴリズム等)及びハードウェア(コンピュータのCPU等)を含む機械学習装置20を備える。制御装置10が備える機械学習装置20が学習する稼働開始条件は、物品の搬送装置上の位置や姿勢などの搬送装置上の物品に係る状態を示す情報と、当該状態における稼働開始条件との、相関性を表すモデル構造に相当する。
よる学習開始後の適当な時期に、機械学習装置50(又は20)によるロボットによる搬送装置上の物品の収納動作の稼働開始条件の学習の到達度(すなわちロボットによる搬送装置上の物品の収納動作の稼働開始条件の信頼性)が要求レベルに達したか否かの判断を実行することができる。
20,50 機械学習装置
22 状態観測部
24 判定データ取得部
26 学習部
28 報酬計算部
30 価値関数更新部
42 状態データ取得部
52 意思決定部
60,60’ ロボット
70,70’ 物品搬送システム
72 ネットワーク
Claims (10)
- 搬送装置上に配置された少なくともひとつの物品を把持して所定の位置へと収納するためのロボットを制御する制御装置であって、
前記ロボットによる前記搬送装置上に配置された前記物品の収納動作の稼働開始条件を学習する機械学習装置を備え、
前記機械学習装置は、
前記稼働開始条件を示す稼働開始条件データ、及び前記搬送装置上の前記物品に係る状態を示す搬送状態データを、環境の現在状態を表す状態変数として観測する状態観測部と、
前記収納動作の適否判定結果を示す判定データを取得する判定データ取得部と、
前記状態変数と前記判定データとを用いて、前記稼働開始条件を前記搬送状態データと関連付けて学習する学習部と、
を備える制御装置。 - 前記状態観測部は、前記状態変数として、前記物品の種別を識別する種別情報を更に観測し、
前記学習部は、前記稼働開始条件を前記搬送状態データ及び前記種別情報の双方と関連付けて学習する、
請求項1に記載の制御装置。 - 前記判定データは、予め定めた所定数の前記物品を収納するまでのサイクルタイム、前記搬送装置上で前記ロボットが物品を見逃した見逃し個数、前記ロボットが前記物品を収納する際の前記ロボットを駆動するモータのトルク、及び前記ロボットが前記物品を収納する際に生じる振動のうちの少なくとも1つを含む、
請求項1または2に記載の制御装置。 - 前記学習部は、
前記適否判定結果に関連する報酬を求める報酬計算部と、
前記報酬を用いて、前記搬送装置上の前記物品に係る状態に対する前記稼働開始条件の価値を表す関数を更新する価値関数更新部とを備える、
請求項1〜3のいずれか1つに記載の制御装置。 - 前記学習部は、前記状態変数と前記判定データとを多層構造で演算する、
請求項1〜4のいずれか1つに記載の制御装置。 - 前記学習部による学習結果に基づいて、前記稼働開始条件に基づく指令値を出力する意思決定部を更に備える、
請求項1〜5のいずれか1つに記載の制御装置。 - 前記学習部は、複数のロボットのそれぞれについて得られた前記状態変数及び前記判定データを用いて、該複数のロボットのそれぞれにおける前記稼働開始条件を学習する、
請求項1〜6のいずれか1つに記載の制御装置。 - 前記機械学習装置は、クラウドサーバに存在する、
請求項1〜7のいずれか1つに記載の制御装置。 - 搬送装置上に配置された少なくともひとつの物品を把持して所定の位置へと収納するためのロボットによる前記搬送装置上に配置された前記物品の収納動作の稼働開始条件を学習する機械学習装置であって、
前記稼働開始条件を示す稼働開始条件データ、及び前記搬送装置上の前記物品に係る状態を示す搬送状態データを、環境の現在状態を表す状態変数として観測する状態観測部と、
前記収納動作の適否判定結果を示す判定データを取得する判定データ取得部と、
前記状態変数と前記判定データとを用いて、前記稼働開始条件を前記搬送状態データと関連付けて学習する学習部と、
を備える機械学習装置。 - 搬送装置上に配置された少なくともひとつの物品を把持して所定の位置へと収納するためのロボットによる前記搬送装置上に配置された前記物品の収納動作の稼働開始条件を学習する機械学習方法であって、
前記稼働開始条件を示す稼働開始条件データ、及び前記搬送装置上の前記物品に係る状態を示す搬送状態データを、環境の現在状態を表す状態変数として観測するステップと、
前記収納動作の適否判定結果を示す判定データを取得するステップと、
前記状態変数と前記判定データとを用いて、前記稼働開始条件を前記搬送状態データと関連付けて学習するステップと、
を実行する機械学習方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017071890A JP6490132B2 (ja) | 2017-03-31 | 2017-03-31 | ロボットの制御装置、機械学習装置及び機械学習方法 |
DE102018002423.8A DE102018002423B4 (de) | 2017-03-31 | 2018-03-23 | Robotersteuerung, Vorrichtung für maschinelles Lernen und Verfahren für maschinelles Lernen |
US15/936,490 US10549422B2 (en) | 2017-03-31 | 2018-03-27 | Robot controller, machine learning device and machine learning method |
CN201810282921.XA CN108687766B (zh) | 2017-03-31 | 2018-04-02 | 机器人的控制装置、机器学习装置以及机器学习方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017071890A JP6490132B2 (ja) | 2017-03-31 | 2017-03-31 | ロボットの制御装置、機械学習装置及び機械学習方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018171684A true JP2018171684A (ja) | 2018-11-08 |
JP6490132B2 JP6490132B2 (ja) | 2019-03-27 |
Family
ID=63524573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017071890A Active JP6490132B2 (ja) | 2017-03-31 | 2017-03-31 | ロボットの制御装置、機械学習装置及び機械学習方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10549422B2 (ja) |
JP (1) | JP6490132B2 (ja) |
CN (1) | CN108687766B (ja) |
DE (1) | DE102018002423B4 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109773787A (zh) * | 2018-12-29 | 2019-05-21 | 南京埃斯顿机器人工程有限公司 | 机械设备的控制学习方法及其具备学习功能的服务器系统 |
EP3914425A4 (en) * | 2019-01-21 | 2022-08-24 | ABB Schweiz AG | METHOD AND DEVICE FOR PRODUCTION LINE SIMULATION |
JP7207207B2 (ja) | 2019-07-09 | 2023-01-18 | トヨタ自動車株式会社 | 演算装置、機械学習方法及び制御プログラム |
DE102020113277A1 (de) | 2020-05-15 | 2021-11-18 | Gerhard Schubert Gesellschaft mit beschränkter Haftung | Verfahren zum Erzeugen eines Trainingsdatensatzes zum Trainieren eines Industrieroboters |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5041907A (en) * | 1990-01-29 | 1991-08-20 | Technistar Corporation | Automated assembly and packaging system |
JPH06238584A (ja) * | 1992-12-21 | 1994-08-30 | Matsushita Electric Works Ltd | 部品供給方法およびその装置 |
JPH0863214A (ja) * | 1994-08-25 | 1996-03-08 | Fanuc Ltd | ビジュアルトラッキング方法 |
JP2001179664A (ja) * | 1999-12-21 | 2001-07-03 | Seiko Seiki Co Ltd | トラッキング方法、トラッキングシステム、及びトラッキング装置 |
JP2002274641A (ja) * | 2001-03-16 | 2002-09-25 | Mitsubishi Electric Engineering Co Ltd | 小物ワークの受渡し制御装置 |
JP2009297881A (ja) * | 2008-06-17 | 2009-12-24 | Toshiba Mach Co Ltd | ハンドリング装置、制御装置及び制御方法 |
JP2011140084A (ja) * | 2010-01-06 | 2011-07-21 | Seiko Epson Corp | 制御装置、ロボット、ロボットシステム及びロボットの追従方法 |
JP2013052490A (ja) * | 2011-09-06 | 2013-03-21 | Mitsubishi Electric Corp | ワーク取り出し装置 |
JP2017030135A (ja) * | 2015-07-31 | 2017-02-09 | ファナック株式会社 | ワークの取り出し動作を学習する機械学習装置、ロボットシステムおよび機械学習方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002192486A (ja) | 2000-12-25 | 2002-07-10 | Seiko Epson Corp | ロボット制御方法及び該方法を適用したロボットコントローラ |
JP3834307B2 (ja) * | 2003-09-29 | 2006-10-18 | ファナック株式会社 | ロボットシステム |
DE112009001414T5 (de) | 2008-06-05 | 2011-04-21 | Toshiba Kikai K.K. | Bearbeitungssystem, Steuerungseinrichtung, Steuerungsverfahren und Programm |
DE102009060062A1 (de) | 2009-12-22 | 2011-06-30 | Weber Maschinenbau GmbH Breidenbach, 35236 | Verfahren zur Geschwindigkeitsoptimierung eines Roboters |
US8606400B2 (en) | 2011-06-20 | 2013-12-10 | Kabushiki Kaisha Yaskawa Denki | Robot system |
US8808033B2 (en) | 2012-05-30 | 2014-08-19 | Cooper Technologies Company | Ground power connector saver |
JP6387760B2 (ja) | 2014-09-18 | 2018-09-12 | 株式会社安川電機 | ロボットシステム、ロボット装置およびワークピッキング方法 |
DE102016009030B4 (de) | 2015-07-31 | 2019-05-09 | Fanuc Corporation | Vorrichtung für maschinelles Lernen, Robotersystem und maschinelles Lernsystem zum Lernen eines Werkstückaufnahmevorgangs |
JP6126174B2 (ja) * | 2015-07-31 | 2017-05-10 | ファナック株式会社 | 機械学習装置、アーク溶接制御装置、アーク溶接ロボットシステムおよび溶接システム |
CN105775726B (zh) * | 2016-04-13 | 2017-12-22 | 英华达(南京)科技有限公司 | 拾取和放置装置及其应用方法 |
-
2017
- 2017-03-31 JP JP2017071890A patent/JP6490132B2/ja active Active
-
2018
- 2018-03-23 DE DE102018002423.8A patent/DE102018002423B4/de active Active
- 2018-03-27 US US15/936,490 patent/US10549422B2/en active Active
- 2018-04-02 CN CN201810282921.XA patent/CN108687766B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5041907A (en) * | 1990-01-29 | 1991-08-20 | Technistar Corporation | Automated assembly and packaging system |
JPH06238584A (ja) * | 1992-12-21 | 1994-08-30 | Matsushita Electric Works Ltd | 部品供給方法およびその装置 |
JPH0863214A (ja) * | 1994-08-25 | 1996-03-08 | Fanuc Ltd | ビジュアルトラッキング方法 |
JP2001179664A (ja) * | 1999-12-21 | 2001-07-03 | Seiko Seiki Co Ltd | トラッキング方法、トラッキングシステム、及びトラッキング装置 |
JP2002274641A (ja) * | 2001-03-16 | 2002-09-25 | Mitsubishi Electric Engineering Co Ltd | 小物ワークの受渡し制御装置 |
JP2009297881A (ja) * | 2008-06-17 | 2009-12-24 | Toshiba Mach Co Ltd | ハンドリング装置、制御装置及び制御方法 |
JP2011140084A (ja) * | 2010-01-06 | 2011-07-21 | Seiko Epson Corp | 制御装置、ロボット、ロボットシステム及びロボットの追従方法 |
JP2013052490A (ja) * | 2011-09-06 | 2013-03-21 | Mitsubishi Electric Corp | ワーク取り出し装置 |
JP2017030135A (ja) * | 2015-07-31 | 2017-02-09 | ファナック株式会社 | ワークの取り出し動作を学習する機械学習装置、ロボットシステムおよび機械学習方法 |
Also Published As
Publication number | Publication date |
---|---|
US20180281181A1 (en) | 2018-10-04 |
DE102018002423B4 (de) | 2022-02-03 |
CN108687766B (zh) | 2020-08-14 |
DE102018002423A1 (de) | 2018-10-04 |
US10549422B2 (en) | 2020-02-04 |
JP6490132B2 (ja) | 2019-03-27 |
CN108687766A (zh) | 2018-10-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6542839B2 (ja) | 制御装置及び機械学習装置 | |
US11780095B2 (en) | Machine learning device, robot system, and machine learning method for learning object picking operation | |
JP6810087B2 (ja) | 機械学習装置、機械学習装置を用いたロボット制御装置及びロボットビジョンシステム、並びに機械学習方法 | |
US10692018B2 (en) | Machine learning device and machine learning method for learning optimal object grasp route | |
JP6652549B2 (ja) | 切粉除去装置及び情報処理装置 | |
US20180079076A1 (en) | Machine learning device, robot system, and machine learning method for learning operation program of robot | |
JP6619192B2 (ja) | 移動軸異常負荷警告機能を有するワイヤ放電加工機 | |
JP6490132B2 (ja) | ロボットの制御装置、機械学習装置及び機械学習方法 | |
US20180267489A1 (en) | Cleaning process optimization device and machine learning device | |
TW201843620A (zh) | 精加工量預測裝置及機器學習裝置 | |
US10796226B2 (en) | Laser processing apparatus and machine learning device | |
JP6499710B2 (ja) | 加減速制御装置 | |
JP6577522B2 (ja) | 制御装置及び機械学習装置 | |
JP6542833B2 (ja) | 制御装置及び機械学習装置 | |
JP6564426B2 (ja) | 部品供給装置及び機械学習装置 | |
JP6767416B2 (ja) | 加工条件調整装置及び機械学習装置 | |
JP2019185125A (ja) | 制御装置及び機械学習装置 | |
JP2019030941A (ja) | 制御装置及び学習装置 | |
US11897066B2 (en) | Simulation apparatus | |
JP6514260B2 (ja) | 制御装置及び機械学習装置 | |
JP2018199189A (ja) | 制御装置及び機械学習装置 | |
JP6626064B2 (ja) | 試験装置及び機械学習装置 | |
CN110125955B (zh) | 控制装置以及机器学习装置 | |
JP6940425B2 (ja) | 制御装置及び機械学習装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180820 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181107 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6490132 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |