JP2019181635A - 情報処理装置及び情報処理方法 - Google Patents
情報処理装置及び情報処理方法 Download PDFInfo
- Publication number
- JP2019181635A JP2019181635A JP2018077077A JP2018077077A JP2019181635A JP 2019181635 A JP2019181635 A JP 2019181635A JP 2018077077 A JP2018077077 A JP 2018077077A JP 2018077077 A JP2018077077 A JP 2018077077A JP 2019181635 A JP2019181635 A JP 2019181635A
- Authority
- JP
- Japan
- Prior art keywords
- learning
- motor
- program
- machining program
- machining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
- G05B19/19—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path
- G05B19/27—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path using an absolute digital measuring device
- G05B19/29—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path using an absolute digital measuring device for point-to-point control
- G05B19/291—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path using an absolute digital measuring device for point-to-point control the positional error is used to control continuously the servomotor according to its magnitude
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
- G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
- G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
- G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
- G05B13/04—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
- G05B13/042—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators in which a parameter or coefficient is automatically adjusted to optimise the performance
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
- G05B19/19—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
- G05B19/402—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by control arrangements for positioning, e.g. centring a tool relative to a hole in the workpiece, additional detection means to correct position
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS], computer integrated manufacturing [CIM]
- G05B19/41815—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS], computer integrated manufacturing [CIM] characterised by the cooperation between machine tools, manipulators and conveyor or other workpiece supply system, workcell
- G05B19/41825—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS], computer integrated manufacturing [CIM] characterised by the cooperation between machine tools, manipulators and conveyor or other workpiece supply system, workcell machine tools and manipulators only, machining centre
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/42—Servomotor, servo controller kind till VSS
- G05B2219/42152—Learn, self, auto tuning, calibrating, environment adaptation, repetition
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Abstract
Description
このような機械学習に関する技術が、例えば、特許文献1に開示されている。この特許文献1に開示の技術では、円弧、多角形、又はそれらの組み合わせからなる加工形状を加工する制御システムにおいて、サンプリング周期毎に検出されたサーボモータの位置フィードバックと、位置指令との偏差等に基づいて学習制御を行う。
しかしながら、ワークの加工に実際に使用する加工プログラムを繰り返し動作させて学習するには多くの時間を要してしまう。また、ワークの加工に実際に使用する加工プログラムのデータ量が多い場合には、学習を行うために、大容量のメモリ等を用意する必要がある。
本実施形態では、工作機械、ロボット、又は産業機械のモータを動作させるための加工プログラムから、特徴的な要素を含む一部の加工プログラムを抜き出すことにより、モータの動作特性に基づいた学習をするための学習用プログラムを生成する。
また、本実施形態では、加工プログラムそのものではなく、このように特徴的な要素を含むようにして生成された学習用プログラムを用いて学習をする。例えば、学習用プログラムを、制御装置となるCNC(Computerized Numerical Control)装置で動作させ、モータをフィードフォワード制御することで、フィードフォワード制御に係る制御パラメータについて学習をする。
つまり、本実施形態によれば、駆動部(ここでは、一例としてモータ)を有する装置に関する学習を、より簡便に行うことができる。
上述した学習用プログラムの生成についての説明に先立って、学習用プログラムにより動作するCNC装置を含むシステム全体の構成についてまず説明する。
図1は本発明の一実施形態に係る、CNC装置100の構成、モータ201、モータ202、機械学習装置300、及びプログラム生成装置400を示すブロック図である。
CNC装置100、機械学習装置300、及びプログラム生成装置400は、相互に通信可能に接続される。また、CNC装置100には、制御対象となるモータ201、モータ202に対して電流指令値(トルク指令値)を出力可能に、モータ201、モータ202が接続される。
なお、本実施形態では、機械学習装置300が速度フィードフォワードに係る制御パラメータの調整(学習)を行う場合を例に取って説明する。ただし、これは一例に過ぎず、本実施形態は、他の制御パラメータの調整(学習)場合にも適用できる。例えば、位置フィードフォワードに係る制御パラメータ、静摩擦に係る制御パラメータ、及び反転時のバックラッシに係る制御パラメータ等の調整(学習)にも本実施形態を適用することができる。
CNC装置100は、記憶部101、数値制御情報処理部102、及びサーボ制御装置を構成するモータ制御部103、モータ制御部104を備える。CNC装置100は、モータ制御部103によりモータ201を制御し、モータ制御部104によりモータ202を制御する。
CNC装置100は工作機械、ロボット又は産業機械等に用いられるが、本実施形態では工作機械に用いる場合を例に取って説明する。
モータ制御部104はY軸の位置指令値と、モータ202からフィードバックされる位置検出値とに基づいて電流指令値(トルク指令値)を作成してモータ202に出力する。
モータ201、モータ202には、それぞれボールネジが接続されている。モータ201、モータ202に接続された2つのボールネジはモータ201、モータ202の回転運動を直線運動に換えてテーブルをX軸方向及びY軸方向に駆動する。
これにより、モータ201は、加工対象となるワークを搭載するテーブルをX軸方向に駆動する。また、モータ202は、加工対象となるワークを搭載するテーブルをY軸方向に駆動する。
図2はモータ制御部103の一構成例を示すブロック図である。図2に示すように、モータ制御部103は、減算器1001、位置制御部1002、加算器1003、減算器1004、速度制御部1005、加算器1006、積分器1007、位置フィードフォワード計算部1008、及び速度フィードフォワード計算部1009を備えている。
本実施形態では、機械学習装置300が、機械学習として強化学習を行う場合を例に取って説明する。ただし、これは一例に過ぎず、機械学習装置300が、強化学習以外の機械学習を行うようにしてもよい。例えば、教師あり学習や、半教師あり学習等の機械学習を行うようにしてもよい。
機械学習装置300が、機械学習として強化学習を行う場合、伝達関数Gf(s)の次元を予め設定された値とし、各係数ai、bj(i,j≧0)に任意の値を設定したうえで、学習用プログラムをCNC装置100で動作させることにより、当該制御パラメータai、bjに係るCNC装置100の制御で動作するモータ201、モータ202の動作特性を観測する。そうすることで、任意の値に設定された各係数ai、bjの集合の中から、学習用プログラムにより工作機械を動作させたときの工作機械の動作特性が最適となる係数ai、bjを機械学習装置300により調整(学習)することができる。
このため、機械学習装置300は、モータ201、モータ202からフィードバックされる位置検出値等を用いて、フィードフォワード補正のための制御パラメータai、bjを学習し、モータ制御部103、モータ制御部104に対して最適な制御パラメータを設定する。
なお、機械学習装置300による、機械学習については、後述の補足において、より詳細に説明する。
図3は、プログラム生成装置400の構成を示すブロック図である。図3に示すように、プログラム生成装置400は、加工プログラム取得部401、記憶部402、加工プログラム記憶領域403、学習用プログラム記憶領域404、学習用プログラム生成部405、ユーザインタフェース部406、及び学習指示部407を備える。
プログラム生成装置400は、上述したように、加工プログラムから、特徴的な要素を含む一部の加工プログラムを抜き出すことにより、モータ201、モータ202の動作特性に基づいた学習をするための学習用プログラムを生成する装置である。
学習用プログラム生成部405による学習用プログラムの生成の詳細については、図4から図11までを参照して後述する。
次に、学習用プログラム生成部405による学習用プログラムの生成の詳細について説明する。
学習用プログラム生成部405は、制御パラメータai、bjを調整(学習)するに際して、加工プログラムから、特徴的な要素を含む一部の加工プログラムを抜き出す。例えば、学習用プログラム生成部405は、特徴的な要素を含む一部の加工プログラムとして、例えば、モータ速度の反転を伴う動作を前記モータに行わせるための加工プログラム、停止から動作への切り換え及び動作から停止への切り換えを伴う動作を前記モータに行わせるための加工プログラム、及びモータ速度の反転を伴わない加速度変化のある動作を前記モータに行わせるための加工プログラムの、少なくとも何れかを含む加工プログラムを抜き出す。
このような特徴的な要素を含む一部の加工プログラムは、例えば、円弧、四角形、及びR付四角形の形状に加工する加工プログラムである。ここで、R付四角とは、角(かど)が、円弧状となっている四角形を意味する。
ここで、学習用プログラム生成部405は、抜き出した加工プログラムのみで、学習用プログラムを生成できる場合には、抜き出した加工プログラムのみで、学習用プログラムを生成する。
そこで、このような場合には、学習用プログラム生成部405は、抜き出した加工プログラムを実行するために必要となる処理(以下「前処理」と称する。)及び抜き出した加工プログラムを実行した後に必要となる処理(以下「後処理」と称する。)を行うためのプログラムを、抜き出した加工プログラムに追加することにより、学習用プログラムを生成する。
また、後処理とは、例えば、抜き出しを行う前の加工プログラムの終了位置に相当する位置まで、加工対象となるワークを搭載するテーブルをX軸方向及びY軸方向に駆動する処理である。また、後処理とは、例えば、工具を、抜き出しを行う前の加工プログラムの終了状態と同じ状態とする処理である。
以上説明したように、指定される加工形状により、回転方向が反転したり、回転状態から停止したりする場合に生ずる惰走(惰性で動作する)を評価し、位置偏差に対する影響を調べることができる。
例えば、図7から図11までに示すような、加工形状に対応する加工プログラムから、一部の加工プログラムを抜き出すようにしてもよい。
また、このように特徴的な一部の要素にのみ基づいて学習を行ったとしても、過学習等の問題は、実用上、発生しない。なぜならば、前提として、CNC装置100の制御構造は、広い範囲で安定になるように構成されているからである。
また、本実施形態では、加工プログラムそのものではなく、このように特徴的な要素を含むようにして生成された学習用プログラムを用いて学習をする。例えば、学習用プログラムを、制御装置となるCNC装置100で動作させ、モータ201、モータ202をフィードフォワード制御することで、フィードフォワード制御に係る制御パラメータについて学習をする。
つまり、本実施形態によれば、駆動部(ここでは、一例としてモータ)を有する装置に関する学習を、より簡便に行うことができる。
上述の実施形態では、例えば、図4から図11までに示すような、様々な特徴的な要素に基づいて作成された学習用プログラムにより、学習を行うことを想定した。これに限らず、様々な特徴的な要素それぞれを、同一又は類似の特徴的な要素毎に分類し、分類した特徴的な要素毎に学習を行うようにしてもよい。つまり、分類した特徴的な要素毎に、それぞれ別個の学習モデルを構築するようにしてもよい。
そして、学習用プログラム生成部405は、様々な特徴的な要素それぞれを、同一又は類似の特徴的な要素毎に分類し、分類した特徴的な要素毎に、学習用プログラムを生成する。また、学習用プログラム生成部405は、このようにして、分類した特徴的な要素毎に作成された複数の学習用プログラムによる学習を、それぞれ異なる機械学習装置300(又はそれぞれ異なる学習部)に行わせる。
これにより、分類した特徴的な要素毎に、それぞれ別個の学習モデルが構築される。
これにより、分類した特徴的な要素それぞれに対応した学習モデルを構築し、加工プログラムに含まれる特徴的な要素に対応した学習モデルを利用することができる。
上述の実施形態では、学習用プログラム生成部405が、加工プログラムを読み込み、読み込んだ加工プログラムに特徴的な要素を含む部分が存在していた場合に、これを抜き出して学習用プログラムを生成していた。つまり、加工プログラムを解析することにより、学習用プログラムを生成していた。これに限らず、実際に加工プログラムを動作させ、その際の動作特性に基づいて、学習用プログラムを生成するようにしてもよい。
上述の実施形態の処理に加えて、更に学習用プログラム生成部405が、学習用プログラムを生成するために、加工プログラムから抜き出した部分が、加工プログラム全体のどの部分に相当するのかをユーザに対して出力するようにしてもよい。この場合、ユーザ他に対する出力は、例えば、ユーザインタフェース部406への表示により行うことができる。
図12に示す例では、加工プログラムを構成するコード全体を表示すると共に、学習用プログラムを生成するために加工プログラムから抜き出した部分に対応するコードをハイライト表示している。この表示を参照することにより、ユーザは、加工プログラムから抜き出した部分が、加工プログラム全体のどの部分に相当するのかを把握することができる。なお、図12に示す表示は、一例であり、これに限られない。
また、抜き出した部分と、それ以外の部分を区別可能な表示であれば、ハイライト表示以外の表示を行うようにしてもよい。
上述の実施形態では、学習用プログラム生成部405が、加工プログラムから抜き出す部分を決定していたが、ユーザからの抜き出し部分の指定に基づいて、抜き出す部分を決定するようにしてもよい。
このようにすれば、ユーザの意図に沿った学習用プログラムを生成することができる。
また、本実施形態では、学習用プログラムにより動作させたときの工作機械の動作特性を観測することで、速度フィードフォワードに係る制御パラメータai、bjの調整(学習)を効率よく行うことができる機械学習を例示したが、学習用プログラムの適用は、速度フィードフォワードに係る制御パラメータai、bjの調整(学習)に限定されない。例えば、位置フィードフォワードに係る制御パラメータ、静摩擦に係る制御パラメータ、及び反転時のバックラッシに係る制御パラメータの調整(学習)にも適用できる。
また、上述した機械学習装置300は、学習用プログラムをCNC装置100に実行させることにより、動作特性として位置偏差を観測したが、フィードバック情報は位置偏差に限定されず、位置偏差に加えて位置指令及び位置フィードバック(位置検出値)のうちの少なくとも1つを含んでもよい。
例えば、図13はCNC装置100の他の構成例の一部の構成を示すブロック図である。図13は図9に示したCNC装置に、減算器1010、電流制御部1011、加算器1012、及び電流フィードフォワード計算部1013をさらに追加したCNC装置を示している。
また、機械学習ではなく、操作者が制御パラメータai、bjを例えば、制御表示盤等を介して適宜入力して、当該学習用プログラムを動作させて、動作特性を観察することにより、制御パラメータai、bjを調整するようにしてもよい。
最後に、補足説明として機械学習装置300による機械学習(強化学習)について、より詳細に説明する。
図14は本発明の第1の実施形態の機械学習装置300を示すブロック図である。
上述した強化学習を行うために、図14に示すように、機械学習装置300は、状態情報取得部301、学習部302、行動情報出力部303、価値関数記憶部304、及び最適化行動情報出力部305を備える。学習部302は報酬出力部3021、価値関数更新部3022、及び行動情報生成部3023を備える。
エージェント(本実施形態における機械学習装置300に相当)は、環境の状態を観測し、ある行動を選択し、当該行動に基づいて環境を変化させ、環境の変化に伴って、何らかの報酬が与えられ、エージェントはより良い行動の選択(意思決定)を学習する。
CNC装置100における速度フィードフォワード計算部1009の伝達関数G(s)の各係数ai、bj(i,j≧0)の値、並びに学習時の学習用プログラムを実行することで取得されるCNC装置100の位置偏差情報を含む、指令及びフィードバック等のサーボ状態を状態Sとする。状態情報取得部301は、状態Sを取得する。
状態Sに係る速度フィードフォワード計算部1009の制御パラメータai、bjの調整(例えば、制御パラメータai、bjをランダムに微修正する)を行動Aとする。なお、制御パラメータai、bjは例えば、初期設定値として、[数1]のa0=1、a1=0、b0=0、b1=制御対象のイナーシャ値とする。また、係数ai、bjの次元m、nを予め設定する。学習部302における行動情報生成部3023は、行動Aを生成して、行動情報出力部303は、状態Sにおける行動AをCNC装置100に対して出力する。
状態Sにおける状態変数である位置偏差の集合(位置偏差集合)をPD(s)、行動情報A(速度フィードフォワード計算部の各係数ai、bj(i,jは0及び正の整数を示す)の修正)により状態Sから変化した状態情報S´に係る状態変数である位置偏差集合をPD(s´)で示す。また、状態Sにおける位置偏差の値を、予め設定された評価関数f(PD(s))に基づいて算出される値とする。
評価関数fとしては、例えば、
位置偏差の絶対値の積算値を算出する関数
∫|e|dt
位置偏差の絶対値に時間の重み付けをして積算値を算出する関数
∫t|e|dt
位置偏差の絶対値の2n(nは自然数)乗の積算値を算出する関数、
∫e2ndt(nは自然数)
位置偏差の絶対値の最大値を算出する関数
Max{|e|}
等を適用することができる。
なお、行動情報Aにより修正された状態情報S´に係る修正後の速度フィードフォワード計算部1009に基づいて動作したCNC装置100の位置偏差の値f(PD(s´))が、行動情報Aにより修正される前の状態情報Sに係る修正前の速度フィードフォワード計算部1009に基づいて動作したCNC装置100の位置偏差の値f(PD(s))と等しい場合は、報酬rの値をゼロとする。
学習部302における報酬出力部3021は、状態Sに対して行動Aを適用した場合の報酬rを算出する。
或る環境の状態Sの下で、行動Aを選択する場合の価値をQ(S,A)とする。このように、Q(S,A)は、状態Sと行動Aを入力とする関数である。
学習を最初に開始する時点では、状態Sと行動Aとの組合せについて、価値Q(S,A)の正しい値は全く分かっていない。そこで、エージェントは、或る状態Sの下で様々な行動Aを選択し、その時の行動Aに対して、与えられる報酬に基づいて、より良い行動の選択をすることにより、正しい価値Q(S,A)を学習していく。
このような価値Q(S,A)の更新式は、例えば、次の数式2(以下に数2として示す)により表すことができる。
学習では、すべての状態行動ペア(S,A)についてのQ(S,A)のテーブルを作成して、学習を行う方法がある。学習部302における価値関数更新部3022は、状態Sと、行動Aと、行動Aを状態Sに適用した場合の状態S´と、報酬出力部3021により算出された報酬rの値と、に基づいて学習を行うことにより、価値関数記憶部304が記憶する価値関数Qを更新する。
最適化行動情報出力部305は、価値関数更新部3022が学習を行うことにより更新した価値関数Qに基づいて、価値Q(S,A)が最大となる動作を速度フィードフォワード計算部1009に行わせるための行動情報Aである最適化行動情報を生成する。
以上、本実施形態における機械学習について補足説明したが、ここで説明した機械学習は、学習用プログラムによる評価を観測して、調整(学習)するための1つの例であって、調整(学習)は、これに限定されない。例えば、オペレータが、学習用プログラムを使用して、制御パラメータを調整してもよい。
101 記憶部
102 数値制御情報処理部
103、104 モータ制御部
201、202 モータ
300 機械学習装置
400 プログラム生成装置
401 加工プログラム取得部
402 記憶部
403 加工プログラム記憶領域
404 学習用プログラム記憶領域
405 学習用プログラム生成部
406 ユーザインタフェース部
407 学習指示部
Claims (8)
- 工作機械、ロボット、又は産業機械のモータを動作させるための加工プログラムを記憶する記憶部と、
前記記憶部が記憶する前記加工プログラムから、特徴的な要素を含む一部の加工プログラムを抜き出すことにより、前記モータの動作特性に基づいた学習をするための学習用プログラムを生成する生成部と、
を備える情報処理装置。 - 前記生成部の生成した学習用プログラムに基づいて前記モータを動作させ、該モータの動作特性に基づいた学習をする学習部と、
前記学習部による学習結果に基づいて、前記モータの制御パラメータを調整する調整部を更に備える請求項1に記載の情報処理装置。 - 前記生成部は、前記特徴的な要素を含む一部の加工プログラムとして、
モータ速度の反転を伴う動作を前記モータに行わせるための加工プログラム、停止から動作への切り換え及び動作から停止への切り換えを伴う動作を前記モータに行わせるための加工プログラム、及びモータ速度の反転を伴わない加速度変化のある動作を前記モータに行わせるための加工プログラムの、少なくとも何れかを含む加工プログラムを抜き出す請求項1又は2に記載の情報処理装置。 - 前記生成部は、前記特徴的な要素を含む一部の加工プログラムとして、
前記モータを動作させた場合に、位置偏差が閾値を超える動作を前記モータに行わせる加工プログラムを抜き出す請求項1又は2に記載の情報処理装置。 - 前記生成部は、前記モータを前記加工プログラムに基づいて動作させた結果に基づいて、前記位置偏差が閾値を超えるか否かを判定する請求項4に記載の情報処理装置。
- 前記生成部は、前記特徴的な要素を含む一部の加工プログラムとして、
位置偏差の変化を時系列に沿って示す情報、又は、前記モータの動作における移動軌跡の情報、を参照したユーザから指定された一部の加工プログラムを抜き出す請求項1又は2に記載の情報処理装置。 - 前記生成部の抜き出した前記一部の加工プログラムを表示する表示部を更に備える請求項1から請求項6までの何れか1項に記載の情報処理装置。
- コンピュータが行う情報処理方法であって、
工作機械、ロボット、又は産業機械のモータを動作させるための加工プログラムを記憶する記憶ステップと、
前記記憶ステップにて記憶する前記加工プログラムから、特徴的な要素を含む一部の加工プログラムを抜き出すことにより、前記モータの動作特性に基づいた学習をするための学習用プログラムを生成する判定ステップと、
を前記コンピュータが行う情報処理方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018077077A JP6836540B2 (ja) | 2018-04-12 | 2018-04-12 | 情報処理装置及び情報処理方法 |
DE102019002573.3A DE102019002573A1 (de) | 2018-04-12 | 2019-04-08 | Informationsverarbeitungsvorrichtung und informationsverarbeitungsverfahren |
US16/377,531 US11022951B2 (en) | 2018-04-12 | 2019-04-08 | Information processing device and information processing method |
CN201910285793.9A CN110390402A (zh) | 2018-04-12 | 2019-04-10 | 信息处理装置和信息处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018077077A JP6836540B2 (ja) | 2018-04-12 | 2018-04-12 | 情報処理装置及び情報処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019181635A true JP2019181635A (ja) | 2019-10-24 |
JP6836540B2 JP6836540B2 (ja) | 2021-03-03 |
Family
ID=68053137
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018077077A Active JP6836540B2 (ja) | 2018-04-12 | 2018-04-12 | 情報処理装置及び情報処理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11022951B2 (ja) |
JP (1) | JP6836540B2 (ja) |
CN (1) | CN110390402A (ja) |
DE (1) | DE102019002573A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7106038B1 (ja) * | 2021-12-13 | 2022-07-25 | 三菱電機株式会社 | コントローラ、制御システム、学習装置および推論装置 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04362703A (ja) * | 1991-06-10 | 1992-12-15 | Okuma Mach Works Ltd | ロストモーション補正機能を有する数値制御装置 |
JPH08221132A (ja) * | 1995-02-10 | 1996-08-30 | Fanuc Ltd | サーボパラメータの自動調整方法及び自動調整装置 |
JPH11143514A (ja) * | 1997-11-10 | 1999-05-28 | Fanuc Ltd | 加工誤差チェックができる数値制御装置 |
JP2000033532A (ja) * | 1998-07-21 | 2000-02-02 | Mitsubishi Electric Corp | 機器監視制御装置 |
JP2003316406A (ja) * | 2002-04-18 | 2003-11-07 | Mitsubishi Electric Corp | 数値制御装置の最適化支援システム |
JP2011134169A (ja) * | 2009-12-25 | 2011-07-07 | Mitsubishi Heavy Ind Ltd | 制御パラメータ調整方法及び調整装置 |
JP2013191186A (ja) * | 2012-03-15 | 2013-09-26 | Mitsubishi Electric Corp | 象限突起測定装置および象限突起測定方法 |
US20140239868A1 (en) * | 2011-10-13 | 2014-08-28 | Gima Tt S.R.L. | Method to command and control the electric motor of an automation unit and connected system |
JP2016130908A (ja) * | 2015-01-13 | 2016-07-21 | ファナック株式会社 | 加工条件に応じてパラメータを調整するパラメータ自動調整装置 |
JP2016226150A (ja) * | 2015-05-29 | 2016-12-28 | ファナック株式会社 | ブレーキの異常を検出する機能を備えたモータ制御システムおよびブレーキ異常検出方法 |
JP2017117366A (ja) * | 2015-12-25 | 2017-06-29 | 株式会社ジェイテクト | モータ制御装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6317646B1 (en) * | 1997-03-19 | 2001-11-13 | Fadal Machining Centers, Inc. | CNC machine having interactive control of corner tolerance that is programmed to vary with the corner angle |
JP4043996B2 (ja) * | 2003-01-20 | 2008-02-06 | ファナック株式会社 | サーボモータ駆動制御装置 |
JP4974330B2 (ja) * | 2006-02-28 | 2012-07-11 | 株式会社日立製作所 | 制御装置 |
JP4980453B2 (ja) | 2010-09-06 | 2012-07-18 | ファナック株式会社 | 加工を高精度化するサーボ制御システム |
JP2012115044A (ja) * | 2010-11-25 | 2012-06-14 | Okuma Corp | モータの磁極位置補正方法 |
WO2013190380A2 (en) * | 2012-06-21 | 2013-12-27 | Cellepathy Ltd. | Device context determination |
DE112013006799T5 (de) * | 2013-04-08 | 2015-11-26 | Mitsubishi Electric Corporation | Numerische Steuerungsvorrichtung |
CN106462397B (zh) * | 2014-06-11 | 2019-10-29 | 富士通株式会社 | 程序生成装置、程序生成方法 |
-
2018
- 2018-04-12 JP JP2018077077A patent/JP6836540B2/ja active Active
-
2019
- 2019-04-08 DE DE102019002573.3A patent/DE102019002573A1/de active Pending
- 2019-04-08 US US16/377,531 patent/US11022951B2/en active Active
- 2019-04-10 CN CN201910285793.9A patent/CN110390402A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04362703A (ja) * | 1991-06-10 | 1992-12-15 | Okuma Mach Works Ltd | ロストモーション補正機能を有する数値制御装置 |
JPH08221132A (ja) * | 1995-02-10 | 1996-08-30 | Fanuc Ltd | サーボパラメータの自動調整方法及び自動調整装置 |
JPH11143514A (ja) * | 1997-11-10 | 1999-05-28 | Fanuc Ltd | 加工誤差チェックができる数値制御装置 |
JP2000033532A (ja) * | 1998-07-21 | 2000-02-02 | Mitsubishi Electric Corp | 機器監視制御装置 |
JP2003316406A (ja) * | 2002-04-18 | 2003-11-07 | Mitsubishi Electric Corp | 数値制御装置の最適化支援システム |
JP2011134169A (ja) * | 2009-12-25 | 2011-07-07 | Mitsubishi Heavy Ind Ltd | 制御パラメータ調整方法及び調整装置 |
US20140239868A1 (en) * | 2011-10-13 | 2014-08-28 | Gima Tt S.R.L. | Method to command and control the electric motor of an automation unit and connected system |
JP2013191186A (ja) * | 2012-03-15 | 2013-09-26 | Mitsubishi Electric Corp | 象限突起測定装置および象限突起測定方法 |
JP2016130908A (ja) * | 2015-01-13 | 2016-07-21 | ファナック株式会社 | 加工条件に応じてパラメータを調整するパラメータ自動調整装置 |
JP2016226150A (ja) * | 2015-05-29 | 2016-12-28 | ファナック株式会社 | ブレーキの異常を検出する機能を備えたモータ制御システムおよびブレーキ異常検出方法 |
JP2017117366A (ja) * | 2015-12-25 | 2017-06-29 | 株式会社ジェイテクト | モータ制御装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7106038B1 (ja) * | 2021-12-13 | 2022-07-25 | 三菱電機株式会社 | コントローラ、制御システム、学習装置および推論装置 |
WO2023112082A1 (ja) * | 2021-12-13 | 2023-06-22 | 三菱電機株式会社 | コントローラ、制御システム、学習装置および推論装置 |
Also Published As
Publication number | Publication date |
---|---|
US20190317469A1 (en) | 2019-10-17 |
CN110390402A (zh) | 2019-10-29 |
US11022951B2 (en) | 2021-06-01 |
DE102019002573A1 (de) | 2019-10-17 |
JP6836540B2 (ja) | 2021-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6474449B2 (ja) | 調整装置及び調整方法 | |
JP6567205B1 (ja) | 機械学習装置、補正パラメータ調整装置および機械学習方法 | |
JP6499720B2 (ja) | 機械学習装置、サーボ制御装置、サーボ制御システム、及び機械学習方法 | |
JP7010877B2 (ja) | 機械学習装置、数値制御システム及び機械学習方法 | |
JP6717768B2 (ja) | 生産ラインにおける運用を考慮した学習制御を行うロボット及びその制御方法 | |
US20140012419A1 (en) | Robot control apparatus and robot control method | |
JP5762625B2 (ja) | 軌跡制御装置 | |
JP6740279B2 (ja) | 調整装置及び調整方法 | |
JP2009043165A (ja) | ロボットプログラム調整装置 | |
JP6450732B2 (ja) | 数値制御装置 | |
US11087509B2 (en) | Output device, control device, and evaluation function value output method | |
JP6811908B1 (ja) | 数値制御装置、機械学習装置および数値制御方法 | |
US11656600B2 (en) | Simulation apparatus | |
JP7175403B2 (ja) | 加工プログラム変換装置、数値制御装置および加工プログラムの変換方法 | |
JP6514273B2 (ja) | 速度を表示するロボットシステム | |
JP6571716B2 (ja) | 評価用プログラム、情報記憶媒体、評価方法、及び制御装置 | |
JP6211240B1 (ja) | 数値制御装置 | |
JP2019181635A (ja) | 情報処理装置及び情報処理方法 | |
JP2022041159A (ja) | 数値制御システム及び干渉チェック方法 | |
WO2020136899A1 (ja) | 数値制御装置および機械学習装置 | |
JP6219866B2 (ja) | 表示機能付き数値制御装置および表示プログラム | |
JP6800384B1 (ja) | 位置決め制御装置および位置決め方法 | |
JP6110250B2 (ja) | Ncプログラムにおける回転送り軸指令の変化度合いの算出及び表示方法並びに装置 | |
JP7175433B1 (ja) | 加工面品位シミュレーション装置および加工面品位表示方法 | |
CN113459103B (zh) | 一种机械手自动运行时的转角轨迹控制方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190911 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20191217 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200217 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200427 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200602 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200714 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201013 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210106 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210205 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6836540 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |