JP2019021235A - 機械学習装置、数値制御装置、数値制御システム、及び機械学習方法 - Google Patents
機械学習装置、数値制御装置、数値制御システム、及び機械学習方法 Download PDFInfo
- Publication number
- JP2019021235A JP2019021235A JP2017141707A JP2017141707A JP2019021235A JP 2019021235 A JP2019021235 A JP 2019021235A JP 2017141707 A JP2017141707 A JP 2017141707A JP 2017141707 A JP2017141707 A JP 2017141707A JP 2019021235 A JP2019021235 A JP 2019021235A
- Authority
- JP
- Japan
- Prior art keywords
- machine learning
- value
- reward
- tool
- numerical control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
- G05B19/404—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by control arrangements for compensation, e.g. for backlash, overshoot, tool offset, tool wear, temperature, machine construction errors, load, inertia
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
- G05B19/19—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/33—Director till display
- G05B2219/33034—Online learning, training
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/35—Nc in input of data, input till input file format
- G05B2219/35349—Display part, programmed locus and tool path, traject, dynamic locus
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/45—Nc applications
- G05B2219/45044—Cutting
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/49—Nc machine tool, till multiple
- G05B2219/49065—Execute learning mode first for determining adaptive control parameters
Landscapes
- Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Manufacturing & Machinery (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Numerical Control (AREA)
- Automatic Control Of Machine Tools (AREA)
Abstract
Description
スレッドミルを用いた加工は、タップを用いた加工と比較して以下の特徴がある。
(1)雌ねじ内径より小さな径の工具を使用した加工であるため、切粉を噛みにくく、その結果、加工中に急に折れることが少ない。
(2)タップのように回転と刃当たり送りとを同期する必要がなく、回転数と刃当たり送りとを自由に調整可能である。
特許文献1は、1個目のワークを加工して計測、評価し、その結果を用いて加工プログラムの経路を修正することで、2個目以降のワークの加工精度を向上させる技術を開示している。また、特許文献2は、モータの負荷、温度、振動から機械に異常が発生したかどうかを学習し、送り速度や主軸の回転数などの加工条件を調整することで加工精度を向上させる技術を開示している。
また、スレッドミリング加工に限らず、内径加工、外形加工、及び面加工も同様に、加工精度を維持しつつ最速の加工時間を得るためには、工具の回転、及び工具又はワークの移動についての適切な加工条件を調整することが求められる。
主軸回転数、送り速度、切り込み回数、及び1回当たりの切込み量又は工具補正量が設定された所定の加工プログラムを前記数値制御装置が実行することで、前記工作機械に切削加工を行わせることにより、前記主軸回転数、前記送り速度、前記切り込み回数、及び前記1回当たりの切込み量又は前記工具補正量を含む設定値と、ワークを切削加工するサイクルタイムと、該ワークの加工精度と、を含む状態情報を、取得する状態情報取得手段(例えば、後述の状態情報取得部301)と、
前記状態情報に含まれる前記設定値の修正情報を含む行動情報を前記数値制御装置に出力する行動情報出力手段(例えば、後述の行動情報出力部303)と、
前記状態情報に含まれる前記サイクルタイムと前記加工精度に基づく、強化学習における報酬の値を出力する報酬出力手段(例えば、後述の報酬出力部3021)と、
前記報酬出力手段により出力される報酬の値と、前記状態情報と、前記行動情報とに基づいて行動価値関数を更新する価値関数更新手段(例えば、後述の価値関数更新部3022)と、
を備える機械学習装置である。
主軸回転数、送り速度、切り込み回数、及び1回当たりの切込み量又は工具補正量が設定された所定の加工プログラムを前記数値制御装置が実行することで、前記工作機械に切削加工を行わせることにより、前記主軸回転数、前記送り速度、前記切り込み回数、及び前記1回当たりの切込み量又は前記工具補正量を含む設定値と、ワークを切削加工するサイクルタイムと、該ワークの加工精度と、を含む状態情報を、取得し、
前記状態情報に含まれる前記設定値の修正情報を含む行動情報を前記数値制御装置に出力し、
前記状態情報に含まれる前記サイクルタイムと前記加工精度に基づく、強化学習における報酬の値を算出し、
算出された前記報酬の値と、前記状態情報と、前記行動情報とに基づいて行動価値関数を更新する、
機械学習方法である。
また、状況に応じて適正な加工条件が求まることにより、長時間使用した工具でも加工精度が維持されるため、工具寿命を延長することができる。
(第1の実施形態)
本実施形態の数値制御システムは数値制御装置と機械学習装置とを備えており、工作機械によりスレッドミリング加工を行う場合に好適に用いられる。本実施形態ではスレッドミリング加工を例にとって説明するが、スレッドミリング加工に特に限定されるものではない。
図1に示すように、スレッドミルでの加工は、ドリルでワークW1に下穴Hをあけた後、スレッドミルT1を用いて、ヘリカル補間により下穴Hの側面加工を行い、ねじ山を削りだす加工である。スレッドミルでの加工では、工具及びワークの母材を考慮した上で、ねじの精度を維持しつつより短い加工時間を得るには、図1に示すように、工具となるスレッドミルT1を回転させる主軸の主軸回転数、送り速度、工具径方向への切り込み回数、及び工具径方向への1回の切り込み量を調整することが求められる。主軸の主軸回転数、送り速度、工具径方向への切り込み回数、及び工具径方向への1回の切り込み量は、ワークの加工形状、ワークの材質、工具の外形(直径、刃数等)、及び工具の材質等の条件のよって変わる。
図3は本発明の第1の実施形態の数値制御システム10の数値制御装置200、及び工作機械100の構成を示すブロック図である。図4は機械学習装置300の構成を示すブロック図である。図3の工作機械100、図3の数値制御装置200、及び図4に示す機械学習装置300は例えば、図2に示す工作機械100−1、数値制御装置200−1、及び機械学習装置300−1にそれぞれ対応している。工作機械100−2〜100−n、数値制御装置200−2〜200−n、及び機械学習装置300−2〜300−nも同様な構成を有している。
工作機械100は、数値制御装置200に設定された加工プログラムに基づいて生成される指令に従って、スレッドミリング加工を行う。
工作機械は、主軸モータ101と、送り軸サーボモータ102と、サイクルカウンタ103と、を備えている。
機械学習装置300は、数値制御装置200が加工プログラムを実行することで、工作機械100を動作させたときの、主軸回転数、送り速度、切り込み回数、及び1回分の切り込み量を強化学習する装置である。
教師あり学習が、完全な正解を示すのに対して、強化学習における報酬は、環境の一部の変化に基づく断片的な値であることが多い。このため、エージェントは、将来にわたっての報酬の合計を最大にするように行動を選択するように学習する。
Q学習では、或る状態sのとき、取り得る行動aのなかから、価値関数Q(s,a)の最も高い行動aを最適な行動として選択することを目的とする。
この更新式は、状態stにおける行動atの価値関数Q(st,at)よりも、行動atによる次の状態st+1における最良の行動の価値maxa Q(st+1,a)の方が大きければ、Q(st,at)を大きくし、逆に小さければ、Q(st,at)を小さくすることを示している。つまり、或る状態における或る行動の価値を、それによる次の状態における最良の行動の価値に近づける。ただし、その差は、割引率γと報酬rt+1のあり方により変わってくるが、基本的には、ある状態における最良の行動の価値が、それに至る一つ前の状態における行動の価値に伝播していく仕組みになっている。
「Human-level control through deep reinforcement learning」、Volodymyr Mnih1著[online]、[平成29年1月17日検索]、インターネット〈URL:http://files.davidqiu.com/research/nature14236.pdf〉
上述した強化学習を行うために、図4に示すように、機械学習装置300は、状態情報取得部301、学習部302、行動情報出力部303、価値関数記憶部304、最適化行動情報出力部305、及び制御部306を備える。学習部302は報酬出力部3021、価値関数更新部3022、及び行動情報生成部3023を備える。制御部306は状態情報取得部301、学習部302、行動情報出力部303、及び最適化行動情報出力部305の動作を制御する。
状態情報取得部301は、取得した状態情報sを学習部302に対して出力する。
なお、最初にQ学習を開始する時点での加工プログラムの主軸回転数、送り速度、切り込み回数、及び1回分の切り込み量は、予めユーザが設定する。主軸の主軸回転数、送り速度、工具径方向への切り込み回数、及び工具径方向への1回の切り込み量は、ワークの加工形状、ワークの材質、工具の外形(直径、刃数等)、及び工具の材質等の条件のよって変わるので、これらの条件に基づいてユーザが設定する。本実施形態では、機械学習装置300が、ユーザが設定した主軸回転数、送り速度、切り込み回数、及び1回分の切り込み量を、強化学習により最適なものに調整する。
行動aにより状態sから状態s´に遷移した場合に、状態s及び状態s´における加工プログラムの主軸回転数、送り速度、切り込み回数、及び1回分の切り込み量に基づいて動作した工作機械100のサイクルタイムの値を値T(s)及び値T(s´)とする。
報酬出力部3021は、以下のようにサイクルタイムに基づく報酬を算出する。
値T(s´)>値T(s)の場合は、報酬を負の値とする。
値T(s´)=値T(s)の場合は、報酬をゼロとする。
値T(s´)<値T(s)の場合は、報酬を正の値とする。
例えば、サイクルタイムに基づく報酬の値は、サイクルタイム値が長くなった場合は−5、サイクルタイム値が変わらない場合は+5、サイクルタイム値が短くなった場合は+10とすることができる。
なお、報酬出力部3021は、値T(s´)=値T(s)の場合に報酬を正の値とし、値T(s´)<値T(s)の場合の報酬を、値T(s´)=値T(s)の場合の報酬よりも大きい正の値としてもよい。
行動aにより状態sから状態s´に遷移した場合に、状態s´における加工プログラムの主軸回転数、送り速度、切り込み回数、及び1回分の切り込み量に基づいて動作した工作機械100によって作製されたワークの加工精度に基づいて報酬を決定する。
はめあい区分が「粗」の場合は、報酬を正の第1の値とする。
はめあい区分が「中」の場合は、報酬を正の第1の値より大きい正の第2の値とする。
はめあい区分が「精」の場合は、報酬を正の第2の値より大きい正の第3の値とする。
なお、報酬の値の与え方はこれに限定されず、「精」、「中」、「粗」に係らず同じ正の値としてもよい。例えば、「精」、「中」、「粗」の場合の報酬を同じ+10とすることができる。また、「粗」の場合の報酬をゼロとし、「中」及び「精」の場合の報酬を同じ正の値としてもよい。
価値関数Qの更新は、オンライン学習で行ってもよく、バッチ学習で行ってもよく、ミニバッチ学習で行ってもよい。
オンライン学習とは、或る行動aを現在の状態sに適用することにより、状態sが新たな状態s´に遷移する都度、即座に価値関数Qの更新を行うという学習方法である。また、バッチ学習とは、或る行動aを現在の状態sに適用することにより、状態sが新たな状態s´に遷移することを繰り返すことにより、学習用のデータを収集し、収集した全ての学習用データを用いて、価値関数Qの更新を行うという学習方法である。更に、ミニバッチ学習とは、オンライン学習と、バッチ学習の中間的な、ある程度学習用データが溜まるたびに価値関数Qの更新を行うという学習方法である。
例えば、サイクルタイムの減少によりプラスの報酬(正の値の報酬)が返り、且つ加工精度が適正範囲であり、はめあい区分が「精」であることによりプラスの報酬(正の値の報酬)が返った場合、次の行動a´としては、例えば、送り速度をインクレメンタルに増加させる、又はインクレメンタルに切り込み量を増加させ且つ切り込み回数を減少させる等、サイクルタイムがより小さくなるような行動a´を選択する方策を取るようにしてもよい。
より具体的には、最適化行動情報出力部305は、価値関数記憶部304が記憶している価値関数Qを取得する。この価値関数Qは、上述したように価値関数更新部3022がQ学習を行うことにより更新したものである。そして、最適化行動情報出力部305は、価値関数Qに基づいて、行動情報を生成し、生成した行動情報をプログラム修正部205に対して出力する。この最適化行動情報には、行動情報出力部303がQ学習の過程において出力する行動情報と同様に、加工プログラムの主軸回転数、送り速度、切り込み回数、及び1回分の切り込み量を修正する情報が含まれる。
これらの機能ブロックを実現するために、数値制御装置200及び機械学習装置300のそれぞれは、CPU(Central Processing Unit)等の演算処理装置を備える。また、数値制御装置200及び機械学習装置300のそれぞれは、アプリケーションソフトウェアやOS(Operating System)等の各種の制御用プログラムを格納したHDD(Hard Disk Drive)等の補助記憶装置や、演算処理装置がプログラムを実行する上で一時的に必要とされるデータを格納するためのRAM(Random Access Memory)といった主記憶装置も備える。
サイクルタイム値T(s´)>サイクルタイム値T(s)の場合は、ステップS152で報酬を負の値とする。サイクルタイム値T(s´)=サイクルタイム値T(s)の場合は、ステップS153で報酬をゼロとする。サイクルタイム値T(s´)<サイクルタイム値T(s)の場合は、ステップS154で報酬を正の値とする。
なお、ステップS16はオンライン更新を例示しているが、オンライン更新に替えてバッチ更新又はミニバッチ更新に置き換えてもよい。
まず、ステップS21において、最適化行動情報出力部305は、価値関数記憶部304に記憶している価値関数Qを取得する。価値関数Qは、上述したように価値関数更新部3022がQ学習を行うことにより更新したものである。
(実施例1)
実施例1は、最大試行回数を設けて例えば主軸速度及び/又は送り速度を速くするような行動aを主に選択する方策をとる機械学習を行った後に、主軸速度S、送り速度Fが速くなり、サイクルタイムが短くなった場合の実施例である。
図2〜図4に示した、工作機械100、数値制御装置200及び機械学習装置300を用いて、図5に示した機械学習動作に基づいて機械学習を行った。機械学習における報酬の値は以下の通りとした。
サイクルタイムに基づく報酬の値は、サイクルタイム値が長くなった場合は−5、サイクルタイム値が変わらない場合は+5、サイクルタイム値が短くなった場合は+10とした。加工精度に基づく報酬の値は、加工精度が適正範囲となった場合に+10とした。すなわち、はめあい区分「精」、「中」、「粗」に係らず、報酬を同じ+10とした。
実施例2は、最大試行回数を設けて、例えば切り込み量Jの増加及び/又は切り込み回数の減少させるような行動aを主に選択する方策をとる機械学習を行った後に、切り込み量Jが増加し、切り込み回数Lが少なくなり、加工経路が短くなった結果、サイクルタイムが短くなった場合の実施例である。
実施例2においても、実施例1と同様に、図2〜図4に示した、工作機械100、数値制御装置200及び機械学習装置300を用いて、図5に示した機械学習動作に基づいて機械学習を行った。サイクルタイムに基づく報酬の値及び加工精度に基づく報酬の値も実施例1と同様とした。
なお、以上説明した実施形態では、最大試行回数を決めていたが、最大試行回数を決めずに機械学習を続けてもよい。最大試行回数を決めなければ、状況に応じて加工精度が向上するように加工条件が調整されるため、工具が古くなり切れ味が悪くなっても、その時点での最適な加工条件で加工することが可能となる。そのため工具寿命の延長に効果がある。
本実施例は、最大試行回数を決めずに機械学習を行い、切り込み量Jが減少しても、主軸速度S,送り速度Fが調整された実施例である。
本実施例においても、実施例1と同様に、図2〜図4に示した、工作機械100、数値制御装置200及び機械学習装置300を用いて、図5に示した機械学習動作に基づいて機械学習を行った。サイクルタイムに基づく報酬の値及び加工精度に基づく報酬の値も実施例1と同様とした。実施例3では最大試行回数を設けないため図5のステップS17及びS18を設けず、ステップS12〜ステップS16を繰り返し行った。
機械学習の結果、ある時点で、主軸速度S:758[rev/min]、送り速度F:455[rev/min]、一回の切り込み量J:0.4[mm]、切り込み回数L:3[回]であったのが、機械学習を続けたその後の時点で、主軸速度S:909[rev/min]、送り速度F:682[rev/min]、一回の切り込み量J:0.3[mm]、切り込み回数L:4[回]となった。
以上説明した実施形態では、工具半径を含めた座標で加工プログラムを作成してしまうと、違う工具を使用することになってしまった場合に、全ての座標を修正しなければならなくなる。工具側の磨耗などで経路を補正する必要が生ずる場合もある。このため、加工プログラムには工具径補正という機能が設けられている。上述した実施形態において、1回当たりの切込み量に変えて工具径補正量を調整してもよく、又は1回当たりの切込み量に加えて工具径補正量を調整してもよい。工具径補正量は工具補正量に対応する。
本発明の第2の実施形態は工作機械により外形加工を行う場合の数値制御システムについて説明する。本実施形態において用いられる数値制御装置及び機械学習装置は第1の実施形態で説明した数値制御装置及び機械学習装置と同じ構成なので説明を省略する。
図9は外形加工の説明図である。図9に示すように、ワークW2の外周を、工具T2を回転させつつ移動させて外形加工を行う。外形加工では、工具T2及びワークW2の母材を考慮した上で、ワークW2の外周の加工精度となる面精度を維持しつつより短い加工時間を得るには、図9に示すように、工具T2を回転させる主軸の主軸回転数、送り速度、工具径方向への切り込み回数、及び工具径方向への切り込み量を調整することが求められる。第2の実施形態での機械学習における状態情報は、ワークの加工精度が面精度である点を除いて第1の実施形態と同じである。面精度は3次元測定機などで測定される。面精度とは加工された面が目標とする表面からどの程度ずれているかを示す値である。
本発明の第3の実施形態は工作機械により面加工を行う場合の数値制御システムについて説明する。本実施形態において用いられる数値制御装置及び機械学習装置は第1の実施形態で説明した数値制御装置及び機械学習装置と同じ構成なので説明を省略する。
図11は面加工の説明図である。面加工は、ワークW3の加工表面を、工具T3を回転させつつ直線移動させて面加工を行う。面加工では、工具T3及びワークW3の母材を考慮した上で、ワークW3の加工表面の加工精度となる面精度を維持しつつより短い加工時間を得るには、図11に示すように、工具T3を回転させる主軸の主軸回転数、送り速度、工具の軸方向への切り込み回数、及び工具の軸方向への切り込み量を調整することが求められる。
加工精度に基づいて報酬を算出するステップは、第2の実施形態のステップS15−3と同じである。
上述した第1から第3の実施形態では、機械学習装置300を、工作機械100や数値制御装置200とは別体の装置により実現することを想定していたが、機械学習装置300の機能の一部又は全部を工作機械100や数値制御装置200により実現するようにしてもよい。また、機械学習装置300の最適化行動情報出力部305は機械学習装置300とは別の最適化行動情報出力装置としてもよい。この場合、最適化行動情報出力装置は複数の機械学習装置300に対して1つ又は複数設けて共通化してもよい。
また、上述した実施形態では、機械学習装置300を、数値制御装置200とは別体の装置により構成したが、機械学習装置300の機能の一部又は全部を数値制御装置200により実現するようにしてもよい。
上述した実施形態では、機械学習装置300と数値制御装置200とが1対1の組として通信可能に接続されているが、例えば1台の機械学習装置300が複数の数値制御装置200とネットワーク400を介して通信可能に接続され、各数値制御装置200の機械学習を実施するようにしてもよい。
その際、機械学習装置300の各機能を、適宜複数のサーバに分散する、分散処理システムとしてもよい。また、クラウド上で仮想サーバ機能等を利用して、機械学習装置300の各機能を実現してもよい。
100、100−1〜100−n 工作機械
101 主軸モータ
102 送り軸サーボモータ
103 サイクルカウンタ
200、200−1〜200−n 数値制御装置
201 主軸モータ制御部
202 送り軸サーボモータ制御部
203 数値制御情報処理部
204 記憶部
300、300−1〜300−n 機械学習装置
301 状態情報取得部
302 学習部
303 行動情報出力部
304 価値関数記憶部
305 最適化行動情報出力部
400 ネットワーク
Claims (7)
- 加工プログラムに基づいて工作機械を動作させる数値制御装置に対して機械学習を行う機械学習装置であって、
主軸回転数、送り速度、及び切り込み回数と、1回当たりの切込み量又は工具補正量が設定された所定の加工プログラムを前記数値制御装置が実行することで、前記工作機械に切削加工を行わせることにより、前記主軸回転数、前記送り速度、前記切り込み回数、及び前記1回当たりの切込み量又は前記工具補正量を含む設定値と、ワークを切削加工するサイクルタイムと、該ワークの加工精度と、を含む状態情報を、取得する状態情報取得手段と、
前記状態情報に含まれる前記設定値の修正情報を含む行動情報を前記数値制御装置に出力する行動情報出力手段と、
前記状態情報に含まれる前記サイクルタイムと前記加工精度に基づく、強化学習における報酬の値を出力する報酬出力手段と、
前記報酬出力手段により出力される報酬の値と、前記状態情報と、前記行動情報とに基づいて行動価値関数を更新する価値関数更新手段と、
を備える機械学習装置。 - 前記機械学習の最大試行回数を設けずに、前記機械学習を続ける請求項1に記載の機械学習装置。
- 前記機械学習は、前記工作機械のスレッドミリング加工、内径加工、外形加工、面加工のうちのいずれかにおいて行われる請求項1又は2に記載の機械学習装置。
- 前記価値関数更新手段により更新された価値関数に基づいて、前記主軸回転数、前記送り速度、前記切り込み回数、及び前記1回当たりの切込み量又は前記工具補正量を生成して出力する最適化行動情報出力手段を備えた請求項1から3のいずれか1項に記載の機械学習装置。
- 請求項1から4のいずれか1項に記載の機械学習装置と、該機械学習装置によって、加工プログラム主軸回転数、送り速度、切り込み回数、及び1回当たりの切込み量又は工具補正量が機械学習される数値制御装置とを有する数値制御システム。
- 請求項1から4のいずれか1項に記載の機械学習装置を含み、該機械学習装置によって、加工プログラム主軸回転数、送り速度、切り込み回数、及び1回当たりの切込み量又は工具補正量を機械学習する数値制御装置。
- 加工プログラムに基づいて工作機械を動作させる数値制御装置に対して機械学習を行う機械学習装置の機械学習方法であって、
主軸回転数、送り速度、切り込み回数、及び1回当たりの切込み量又は工具補正量が設定された所定の加工プログラムを前記数値制御装置が実行することで、前記工作機械に切削加工を行わせることにより、前記主軸回転数、前記送り速度、前記切り込み回数、及び前記1回当たりの切込み量又は前記工具補正量を含む設定値と、ワークを切削加工するサイクルタイムと、該ワークの加工精度と、を含む状態情報を、取得し、
前記状態情報に含まれる前記設定値の修正情報を含む行動情報を前記数値制御装置に出力し、
前記状態情報に含まれる前記サイクルタイムと前記加工精度に基づく、強化学習における報酬の値を算出し、
算出された前記報酬の値と、前記状態情報と、前記行動情報とに基づいて行動価値関数を更新する、
機械学習方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017141707A JP6608879B2 (ja) | 2017-07-21 | 2017-07-21 | 機械学習装置、数値制御装置、数値制御システム、及び機械学習方法 |
US16/031,279 US10921774B2 (en) | 2017-07-21 | 2018-07-10 | Machine learning devices and methods for optimizing the speed and accuracy of thread mill, inner diameter, outer shape, and surface machine tools |
DE102018211682.2A DE102018211682B4 (de) | 2017-07-21 | 2018-07-13 | Maschinelle lernvorrichtung, numerische steuervorrichtung, numerisches steuersystem und maschinelles lernverfahren |
CN201810792076.0A CN109283887B (zh) | 2017-07-21 | 2018-07-18 | 机器学习装置、数值控制装置、数值控制系统以及机器学习方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017141707A JP6608879B2 (ja) | 2017-07-21 | 2017-07-21 | 機械学習装置、数値制御装置、数値制御システム、及び機械学習方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019021235A true JP2019021235A (ja) | 2019-02-07 |
JP6608879B2 JP6608879B2 (ja) | 2019-11-20 |
Family
ID=64951500
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017141707A Active JP6608879B2 (ja) | 2017-07-21 | 2017-07-21 | 機械学習装置、数値制御装置、数値制御システム、及び機械学習方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10921774B2 (ja) |
JP (1) | JP6608879B2 (ja) |
CN (1) | CN109283887B (ja) |
DE (1) | DE102018211682B4 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111752224A (zh) * | 2019-03-28 | 2020-10-09 | 兄弟工业株式会社 | 数值控制装置和控制方法 |
WO2021187268A1 (ja) * | 2020-03-17 | 2021-09-23 | ファナック株式会社 | 機械学習装置、数値制御システム、設定装置、数値制御装置、及び機械学習方法 |
JP7166488B1 (ja) * | 2021-09-30 | 2022-11-07 | 三菱電機株式会社 | 数値制御装置、加工システム、数値制御方法および加工方法 |
JP7224541B1 (ja) * | 2021-09-30 | 2023-02-17 | 三菱電機株式会社 | 数値制御装置、加工システム、数値制御方法および加工方法 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10276925B2 (en) | 2017-03-29 | 2019-04-30 | Garmin Switzerland Gmbh | Watch with slot antenna configuration |
JP6940474B2 (ja) * | 2018-12-05 | 2021-09-29 | ファナック株式会社 | 工作機械 |
US20220137591A1 (en) * | 2019-04-03 | 2022-05-05 | Siemens Industry Software Inc. | System and method for design and manufacture using multi-axis machine tools |
JP7181554B2 (ja) * | 2019-04-05 | 2022-12-01 | i Smart Technologies株式会社 | 生産効率向上支援システム |
JP7239106B2 (ja) * | 2019-04-22 | 2023-03-14 | 株式会社ジェイテクト | サイバーフィジカルプロダクションシステム型生産システム |
JP7010877B2 (ja) * | 2019-04-25 | 2022-01-26 | ファナック株式会社 | 機械学習装置、数値制御システム及び機械学習方法 |
JP7074718B2 (ja) * | 2019-04-26 | 2022-05-24 | ファナック株式会社 | 加工支援装置、数値制御装置、及び加工支援システム |
CN110370076A (zh) * | 2019-08-08 | 2019-10-25 | 合肥学院 | 基于加工机床的自由曲面原位测量方法 |
US11413747B2 (en) * | 2019-08-12 | 2022-08-16 | Workshops for Warriors | Machine learning driven computer numerical control of a robotic machine tool |
WO2021044491A1 (ja) * | 2019-09-02 | 2021-03-11 | ヤマザキマザック株式会社 | 制御装置、工作機械、算出方法及びプログラム |
US11609546B2 (en) * | 2019-11-06 | 2023-03-21 | Hexagon Technology Center Gmbh | Systems and methods for virtual environment for reinforcement learning in manufacturing |
CN113741352B (zh) * | 2021-09-22 | 2023-01-06 | 陕西法士特齿轮有限责任公司 | 一种数控自适应控制加工方法、系统、设备及其存储介质 |
CN114002948B (zh) * | 2021-10-12 | 2023-09-26 | 同济大学 | 一种第三方数控机床接入服务平台的方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5942249A (ja) * | 1982-08-30 | 1984-03-08 | Mitsubishi Heavy Ind Ltd | 加工径補正方法 |
JPH0691479A (ja) * | 1992-09-11 | 1994-04-05 | Okuma Mach Works Ltd | 非円形ワークの加工方法 |
JP2000127040A (ja) * | 1998-10-26 | 2000-05-09 | Hitachi Via Mechanics Ltd | 研削盤の研削条件設定装置 |
JP2011158982A (ja) * | 2010-01-29 | 2011-08-18 | Mori Seiki Co Ltd | 工作機械の制御装置 |
JP2017030067A (ja) * | 2015-07-30 | 2017-02-09 | ファナック株式会社 | 加工時間測定機能とオンマシン測定機能を有する制御装置付き加工装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5942249B2 (ja) * | 1976-09-29 | 1984-10-13 | 株式会社千野製作所 | 放射温度計の補償回路 |
JPS6063016A (ja) | 1984-07-31 | 1985-04-11 | 松下電器産業株式会社 | ミル付コ−ヒ−沸し器 |
JP3575093B2 (ja) | 1994-12-28 | 2004-10-06 | 株式会社デンソー | 加工制御方法 |
US7216407B2 (en) * | 2003-04-09 | 2007-05-15 | Mitsubishi Denki Kabushiki Kaisha | Apparatus and method for processing screw rotor and cutting bit |
JP5942249B2 (ja) * | 2012-04-11 | 2016-06-29 | パナソニックIpマネジメント株式会社 | 電線引込支柱及びそれを用いた配電システム |
JP6063013B1 (ja) | 2015-08-27 | 2017-01-18 | ファナック株式会社 | びびり或いは工具摩耗/破損の発生を抑制する加工条件調整機能を有する数値制御装置 |
JP6063016B1 (ja) | 2015-09-29 | 2017-01-18 | ファナック株式会社 | 電動機に対する動作指令を学習する機械学習方法および機械学習装置並びに該機械学習装置を備えた工作機械 |
JP6235543B2 (ja) * | 2015-09-30 | 2017-11-22 | ファナック株式会社 | 加工機のサイクル加工時間を最適化する機械学習装置、モータ制御装置、加工機、および機械学習方法 |
JP5969676B1 (ja) * | 2015-09-30 | 2016-08-17 | ファナック株式会社 | 工作機械の工具補正の頻度を最適化する機械学習装置及び機械学習方法、並びに該機械学習装置を備えた工作機械 |
-
2017
- 2017-07-21 JP JP2017141707A patent/JP6608879B2/ja active Active
-
2018
- 2018-07-10 US US16/031,279 patent/US10921774B2/en active Active
- 2018-07-13 DE DE102018211682.2A patent/DE102018211682B4/de active Active
- 2018-07-18 CN CN201810792076.0A patent/CN109283887B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5942249A (ja) * | 1982-08-30 | 1984-03-08 | Mitsubishi Heavy Ind Ltd | 加工径補正方法 |
JPH0691479A (ja) * | 1992-09-11 | 1994-04-05 | Okuma Mach Works Ltd | 非円形ワークの加工方法 |
JP2000127040A (ja) * | 1998-10-26 | 2000-05-09 | Hitachi Via Mechanics Ltd | 研削盤の研削条件設定装置 |
JP2011158982A (ja) * | 2010-01-29 | 2011-08-18 | Mori Seiki Co Ltd | 工作機械の制御装置 |
JP2017030067A (ja) * | 2015-07-30 | 2017-02-09 | ファナック株式会社 | 加工時間測定機能とオンマシン測定機能を有する制御装置付き加工装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111752224A (zh) * | 2019-03-28 | 2020-10-09 | 兄弟工业株式会社 | 数值控制装置和控制方法 |
CN111752224B (zh) * | 2019-03-28 | 2024-05-24 | 兄弟工业株式会社 | 数值控制装置和控制方法 |
WO2021187268A1 (ja) * | 2020-03-17 | 2021-09-23 | ファナック株式会社 | 機械学習装置、数値制御システム、設定装置、数値制御装置、及び機械学習方法 |
JP7436632B2 (ja) | 2020-03-17 | 2024-02-21 | ファナック株式会社 | 機械学習装置、数値制御システム、設定装置、数値制御装置、及び機械学習方法 |
JP7166488B1 (ja) * | 2021-09-30 | 2022-11-07 | 三菱電機株式会社 | 数値制御装置、加工システム、数値制御方法および加工方法 |
JP7224541B1 (ja) * | 2021-09-30 | 2023-02-17 | 三菱電機株式会社 | 数値制御装置、加工システム、数値制御方法および加工方法 |
WO2023053400A1 (ja) * | 2021-09-30 | 2023-04-06 | 三菱電機株式会社 | 数値制御装置、加工システム、数値制御方法および加工方法 |
Also Published As
Publication number | Publication date |
---|---|
DE102018211682B4 (de) | 2022-12-15 |
DE102018211682A1 (de) | 2019-01-24 |
JP6608879B2 (ja) | 2019-11-20 |
CN109283887A (zh) | 2019-01-29 |
CN109283887B (zh) | 2021-05-04 |
US20190025794A1 (en) | 2019-01-24 |
US10921774B2 (en) | 2021-02-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6608879B2 (ja) | 機械学習装置、数値制御装置、数値制御システム、及び機械学習方法 | |
JP7010877B2 (ja) | 機械学習装置、数値制御システム及び機械学習方法 | |
JP6453919B2 (ja) | 行動情報学習装置、行動情報最適化システム及び行動情報学習プログラム | |
JP6697491B2 (ja) | 機械学習装置、サーボモータ制御装置、サーボモータ制御システム、及び機械学習方法 | |
JP6063013B1 (ja) | びびり或いは工具摩耗/破損の発生を抑制する加工条件調整機能を有する数値制御装置 | |
JP6474456B2 (ja) | 機械学習装置、サーボ制御システム及び機械学習方法 | |
JP6564432B2 (ja) | 機械学習装置、制御システム、制御装置、及び機械学習方法 | |
US20180373223A1 (en) | Machine learning apparatus, servo control apparatus, servo control system, and machine learning method | |
JP6453921B2 (ja) | 学習モデル構築装置、及び制御情報最適化装置 | |
CN110286645B (zh) | 机器学习装置、伺服控制装置、伺服控制系统以及机器学习方法 | |
JP7000373B2 (ja) | 機械学習装置、制御装置及び機械学習方法 | |
JP2019185530A (ja) | 機械学習装置、制御装置、及び機械学習方法 | |
CN110875703A (zh) | 机器学习装置、控制系统以及机器学习方法 | |
JP6978452B2 (ja) | 機械学習装置、制御装置、及び機械学習の探索範囲の設定方法 | |
JP2021039648A (ja) | 機械学習装置、サーボ制御装置、サーボ制御システム及び機械学習方法 | |
WO2022153936A1 (ja) | 機械学習装置 | |
JP6740263B2 (ja) | 機械学習装置、サーボモータ制御装置、サーボモータ制御システム、及び機械学習方法 | |
JP7166488B1 (ja) | 数値制御装置、加工システム、数値制御方法および加工方法 | |
JP2020154989A (ja) | 機械学習装置、制御システム及び機械学習方法 | |
JP6940474B2 (ja) | 工作機械 | |
WO2021187268A1 (ja) | 機械学習装置、数値制御システム、設定装置、数値制御装置、及び機械学習方法 | |
WO2023181418A1 (ja) | 制御パラメータを調整する調整装置、制御システム及び制御パラメータ調整方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180918 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20181211 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190405 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190416 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190530 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190625 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190819 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20190827 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190924 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191024 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6608879 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |