JP6813231B1 - 制御装置、方法、プログラム及びシステム - Google Patents

制御装置、方法、プログラム及びシステム Download PDF

Info

Publication number
JP6813231B1
JP6813231B1 JP2020517407A JP2020517407A JP6813231B1 JP 6813231 B1 JP6813231 B1 JP 6813231B1 JP 2020517407 A JP2020517407 A JP 2020517407A JP 2020517407 A JP2020517407 A JP 2020517407A JP 6813231 B1 JP6813231 B1 JP 6813231B1
Authority
JP
Japan
Prior art keywords
operation amount
output
control
controller
manipulated variable
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020517407A
Other languages
English (en)
Other versions
JPWO2021079411A1 (ja
Inventor
純一 出澤
純一 出澤
志門 菅原
志門 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AISing Ltd
Original Assignee
AISing Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AISing Ltd filed Critical AISing Ltd
Priority to JP2020203983A priority Critical patent/JP7462905B2/ja
Application granted granted Critical
Publication of JP6813231B1 publication Critical patent/JP6813231B1/ja
Publication of JPWO2021079411A1 publication Critical patent/JPWO2021079411A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B6/00Internal feedback arrangements for obtaining particular characteristics, e.g. proportional, integral or differential
    • G05B6/02Internal feedback arrangements for obtaining particular characteristics, e.g. proportional, integral or differential electric
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/04Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
    • G05B13/048Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators using a predictor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/01Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound

Landscapes

  • Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Automation & Control Theory (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Feedback Control In General (AREA)

Abstract

信頼性の高いフィードバック制御を利用しつつも制御中に得られたデータに基づいて適応的な制御を行うことため、装置からフィードバックされる出力と目標値に基づいて装置に対する第1の操作量を生成する第1のコントローラと、装置からフィードバックされる出力と第1の操作量に基づいて装置からの予測出力を生成するよう機械学習された学習済モデルを備えた予測出力生成部と、予測出力と目標値に基づいて装置に対する第2の操作量を生成する第2のコントローラと、第1の操作量と第2の操作量とに基づいて装置に対する操作量である統合操作量を生成する統合操作量生成部と、第2の操作量が無効化処理される場合に第1の操作量、装置からフィードバックされた出力及び統合操作量に対応する装置からの出力を機械学習用データとして記憶する記憶部とを備える。

Description

この発明は、フィードバック制御を行う制御装置に関する。
様々な装置の制御には、フィードバック制御、例えば、PID制御が広く使用されている。フィードバック制御は、古典制御に属するものの、その過去の実績に基づく信頼や、技術者の経験則による調整の容易さから、現在に至っても未だ産業界の主力の制御手法である。
図11は、従前のフィードバック制御の基本的構成、すなわち従前のフィードバックシステム200について示す図である。同図から明らかな通り、制御機構202の検出子(例えば、センサ等)から得られた出力yは同図左側の入力側へとフィードバックされ、目標値rとの偏差が算出される。この算出された偏差はさらにコントローラ201へと入力されて操作量uが算出される。この操作量uに応じて制御機構202の操作子(例えば、アクチュエータ等)は動作し、図示しない制御対象を制御する。このとき、外乱wが乗ることがある。この一連のプロセスが繰り返されることで、偏差が小さくなるような制御、すなわち、出力yを目標値rへと近付ける制御が行われる。
一方、近年、機械学習の分野が高い注目を集めている。このような背景の中、本願の発明者らは、木構造を有する新たな機械学習の枠組み(学習木)を提唱している(特許文献1)。
図12は、上述の新たな機械学習の枠組みについて示す説明図、すなわち、学習木の構造について示す説明図である。図12(a)には、当該学習手法における学習木の構造が示されており、図12(b)には、当該構造に対応する状態空間のイメージが示されている。同図から明らかな通り、学習木構造は、階層的に分割された各状態空間に対応する各ノードを、最上位ノード(始端ノード又は根ノード)から最下端ノード(末端ノード又は葉ノード)まで、樹形状乃至格子状に分岐して配置することにより構成されている。なお、同図は、N階層d次元n分割の学習木においてdが2、nが2の場合の例を示しており、図12(a)に記載の学習木の1階層目の4つの末端ノードに付された1〜4の番号は、それぞれ、図12(b)に記載の4つの状態空間に対応している。
上記学習木を用いて学習処理を行う際には、入力されるデータが、逐次、分割された各状態空間に対応付けられ、それらが各状態空間に蓄積されていくこととなる。このとき、それまでデータが存在しなかった状態空間に新たにデータが入力された場合には、新たなノードが順次生成されていく。予測出力は、学習後に各状態空間に内包される各データに対応する出力値又は出力ベクトルの相加平均をとることで算出されることとなる。
このような機械学習技術によれば、省メモリかつ高速の機械学習を実現することができる。
特開2016−173686号公報
ところで、PID制御をはじめとする従前のフィードバック制御では、ゲインを制御開始前に調整・設定し、制御開始後は当該ゲインを固定的に使用することが一般的であった。そのため、例えば、経年劣化等により制御対象や操作子の特性が変化したような場合には適応的な対応ができず、従って、制御の精度が低下するおそれがあった。
本発明は、上述の技術的背景の下になされたものであり、その目的とするところは、長年利用されている信頼性の高いフィードバック制御を利用しつつも、制御中に得られたデータに基づいて適応的な制御を行うことにある。
本発明のさらに他の目的並びに作用効果については、明細書の以下の記述を参照することにより、当業者であれば容易に理解されるであろう。
上述の技術的課題は、以下の構成を有する制御装置、方法、プログラム及びシステム等により解決することができる。
すなわち、本発明に係る制御装置は、所定の装置に対してフィードバック制御を行うための制御装置であって、前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、前記装置からフィードバックされる出力と前記第1の操作量に基づいて前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成部と、前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶部と、を備えている。
このような構成によれば、フィードバック制御という長年利用されている信頼性の高い制御技術を利用しつつも、機械学習技術により、制御中に得られたデータに基づいて適応的な制御を行うことができる。
前記制御装置は、さらに、前記機械学習用データに基づいて学習処理を行い前記学習済モデルを更新する、学習処理部を備えてもよい。
このような構成によれば、装置の制御を行いつつも学習処理を行い、制御を最適化することができる。
前記制御装置は、さらに、前記第2の操作量が無効化条件を満たすか否かを判定する、判定部と、前記判定部において無効化条件を満たすと判定された場合に、前記第2の操作量を無効化処理する、無効化処理部と、を備える、ものであってもよい。
このような構成によれば、第2の操作量が予め定めた条件を満たす場合には第2の操作量を無効化して第1の操作量に基づく制御のみが行われるので、より信頼性の高い制御を行うことができる。また、当該期間のデータは機械学習用データとして供されるので将来に向けて制御精度の向上を見込むことができる。
前記無効化条件は、前記第2の操作量が第1の閾値よりも大きいか、又は前記第1の閾値よりも小さい第2の閾値よりも小さいことであってもよい。
このような構成によれば、操作量が想定を超える場合に第2の操作量を無効化するので、より信頼性の高い制御を行うことができる。また、当該期間のデータは機械学習用データとして供されるので将来に向けて制御精度の向上を見込むことができる。
前記記憶部は、さらに、前記第2の操作量が0又はその近傍値となる場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、ものであってもよい。
このような構成によれば、第2の操作量が0又はその近傍値となる場合も利用して学習を進めることができるので、さらなる制御精度の向上を期待することができる。
前記記憶部は、さらに、前記第2の操作量が無効化処理される場合の参照時間ステップに係る前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力に加えて、さらに、前記参照時間より時間的に前の1又は複数の時間ステップに係る前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、ものであってもよい。
このような構成によれば、参照時間ステップの前の1又は複数の時間ステップに係るデータも併せて学習するので、より汎化させやすくなり、学習速度の向上を期待することができる。
前記第1のコントローラ及び/又は前記第2のコントローラは、それぞれ、P制御、PI制御、PD制御又はPID制御のいずれかを行うものであってもよい。
このような構成によれば、長年利用されている信頼性の高い制御技術を利用しつつも、機械学習技術により、装置運転中に得られたデータに基づいて制御精度をさらに向上させることができる。
前記学習済モデルは、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルを用いて機械学習を行うことにより得られるものであってもよい。
このような構成によれば、人工ニューラルネットワーク等に対する学習に比べて省メモリで高速学習を行うことが可能となるので、装置を動作させつつ同時学習(オンライン学習)を行う場合に特に有利となる。
本発明は、方法としても観念することができる。すなわち、本発明に係る制御方法は、所定の装置に対してフィードバック制御を行うための制御装置における制御方法であって、前記制御装置は、前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、前記装置からフィードバックされる出力と前記第1の操作量に基づいて前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、を備え、前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成ステップと、前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶ステップと、を備えている。
本発明は、プログラムとしても観念することができる。すなわち、本発明に係る制御プログラムは、所定の装置に対してフィードバック制御を行うための制御装置の制御プログラムであって、前記制御装置は、前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、前記装置からフィードバックされる出力と前記第1の操作量に基づいて前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、を備え、前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成ステップと、前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶ステップと、を備えている。
本発明は、システムとしても観念することができる。すなわち、本発明に係る制御システムは、所定の装置に対してフィードバック制御を行うための制御システムであって、前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、前記装置からフィードバックされる出力と前記第1の操作量に基づいて前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成部と、前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶部と、を備えている。
本発明によれば、信頼性の高いフィードバック制御を利用しつつも、制御中に得られたデータに基づいて適応的な制御を行うことができる。
図1は、制御システムのハードウェア構成図である。 図2は、システムの動作に関するゼネラルフローチャートである。 図3は、基本システムに関するブロック図である。 図4は、基本システムの動作に関する詳細フローチャートである。 図5は、初期学習に関する詳細フローチャートである。 図6は、拡張システムの動作に関する詳細フローチャートである。 図7は、拡張システムに関するブロック図である。 図8は、拡張システムにおける制御処理に関する詳細フローチャート(その1)である。 図9は、拡張システムにおける制御処理に関する詳細フローチャート(その2)である。 図10は、第2の操作量の条件に関する説明図である。 図11は、フィードバックシステムの基本的構成に関するブロック図である。 図12は、学習木に関する説明図である。
以下、本発明の実施の一形態を、添付の図面を参照しつつ、詳細に説明する。
<1.第1の実施形態>
<1.1 構成>
図1は、制御装置100と制御機構12とから成る制御システムのハードウェア構成図である。
同図から明らかな通り、制御装置100は、制御部1、記憶部2、I/O部3、入力部4、表示部5及び通信部6を備え、それらは互いにバスを介して接続されている。また、制御装置100は、制御機構12を構成する操作部121及び検出部122と接続され、図示しない制御対象を制御可能に構成されている。
制御部1は、CPU等の情報処理部であり、記憶部2に記憶されている各種のプログラムを読み出して実行する。記憶部2は、ROM、RAM、ハードディスク、フラッシュメモリ等の揮発性又は不揮発性の記憶装置であり、機械学習対象となるデータを含む後述の各種のデータを記憶する。I/O部3は、外部装置との入出力を行うインタフェースである。入力部4は、キーボード、タッチパネル、ボタン等を介して入力された信号を処理する。表示部5は、ディスプレイ等と接続されて表示制御を行い、ディスプレイ等を介してユーザにGUIを提供する。通信部6は、有線又は無線にて外部機器と通信を行う通信ユニットである。
操作部121は、所定の操作量に基づいて制御対象に影響を与えるものであり、例えば、アクチュエータ等で構成される。検出部122は、制御対象の状態等を検出するものであり、例えば、センサ等で構成される。
なお、ハードウェア構成は、本実施形態に係る構成に限定されるものではなく、構成や機能を分散又は統合してもよい。例えば、複数台の制御装置100を用いて分散的に処理を行っても良いし、大容量記憶装置をさらに外部に設けて制御装置100と接続する等してもよい。また、インターネット等を介してコンピュータネットワークを形成して処理を行ってもよい。
さらに、本実施形態に係る処理は、FPGA等の半導体回路(IC等)を用いて、所謂ハードウェアとして実装してもよい。
<1.2 動作>
次に、図2〜図10を参照しつつ、制御装置100の動作に関して説明する。
図2は、制御装置100の動作に関するゼネラルフローチャートである。
同図から明らかな通り、処理が開始すると、後述の基本システム10の第1のPIDコントローラ11に設定される各ゲイン(すなわち、P(比例)ゲイン、I(積分)ゲイン、D(微分)ゲイン)の設定処理が行われる(S1)。
図3は、基本システム10に関するブロック図である。同図から明らかな通り、基本システム10は、第1のPIDコントローラ11と、第1のPIDコントローラ11の後段に設けられ、操作部121と検出部122を備えた制御機構12と、第1のPIDコントローラから出力される操作量uと制御機構12の検出部122から出力される出力値yを記録するデータロガー13とから構成されている。なお、その動作は、図11に示したフィードバックシステム200と略同一であるが、データロガー13が、第1のPIDコントローラから出力される操作量uと制御機構12の検出部122から出力される出力値yを記録する点において相違する。
ユーザは、基本システム10を動作させ又はシミュレーションを行う等して、公知の手法で第1のPIDコントローラ11の各ゲインを調整し、入力部4等を介して最終的なゲインを入力して設定する。この入力された各ゲインは記憶部2へと記憶される。
図2に戻り、ゲインの設定処理(S1)が完了すると、当該ゲインを利用して実際に基本システム10を動作させる処理、すなわち、機械学習用のデータを取得し記憶する処理が行われる(S3)。
図4は、基本システム10の動作に関する詳細フローチャートである。同図から明らかな通り、処理が開始すると、時間ステップに相当する所定の整数値tを初期化する(例えば、1とする)処理が行われる(S31)。初期化が完了すると、所定の目標値r(t)と、1つ前の時間ステップ(t−1)の出力値y(t−1)を読み出し、その偏差(r(t)−y(t−1))を算出し、同偏差を第1のコントローラ11へと入力する処理が行われる(S32)。
第1のコントローラ11は、偏差が入力されると、設定されたゲインに基づいて操作量u(t)を算出する(S33)。この操作量u(t)は、制御機構12の操作部121へと提供され、これにより制御対象に対して所定の制御行為が行われる。その後、制御機構12の検出部122を介して、現在(t)の出力値y(t)が検出される(S34)。
以上一連の処理が終了すると、1つ前の時間ステップの出力値y(t−1)、操作量u(t)及び現在時間(t)の出力値y(t)を、データロガー13を介して記憶部2へと記憶する処理が行われる(S36)。その後、tの値を1だけインクリメントして(S38)、再度一連の処理(S32〜S38)が行われる。
すなわち、制御対象を制御しつつ、1つ前の時間ステップの出力値y(t−1)、操作量u(t)及び現在時間の出力値y(t)を、データロガー13を介して記憶部2へと記憶する処理が継続的に行われる。これにより、後述する予測処理部35で用いられる学習済モデルを生成するための機械学習用データが所望量蓄積されていくことになる。
図2に戻り、基本システム10の動作に基づいてデータの取得と記憶処理が完了すると(S3)、得られたデータに基づいて初期学習を行う処理が行われる(S5)。
図5は、初期学習に関する詳細フローチャートである。本実施形態においては、機械学習技術として図12を用いて示した上述の木構造を利用した機械学習技術を用いる。
同図から明らかな通り、処理が開始すると、学習木の構造(階層数、次元数、分割数など)や種々の初期パラメータを含む、学習に関するパラメータファイルを記憶部2から読み出す処理が行われる。その後、所定の整数値tを初期化する(例えば1とする)処理が行われる(S52)。
この初期化の後、t番目の入力データ、すなわち、1つ前の時間ステップの出力値y(t−1)と操作量u(t)を読み出して学習木への入力とする処理が行われる(S53)。その後、当該入力は、所定の分岐条件に応じて分類されて根ノードから葉ノードへと至る複数のノードが特定され、各ノードと対応付けて記憶される(S54)。
その後、各ノードにおいて、出力値yに基づくそれまでの相加平均値を更新するように、新たな出力値y(t)も加えた相加平均値を算出し、ノードと対応付けて記憶する処理が行われる(S56)。
その後、tの値が所定の最大値(t_max)と一致するかを判定し、未だtの値が最大値ではない場合(S57NO)、tの値を1だけインクリメントして、再度上述の学習処理(S53〜S56)を繰り返す。一方、tの値が所定の最大値となる場合(S57YES)、処理は終了する。
すなわち、これにより、1つ前の時間ステップの出力値y(t−1)と現在時間の操作量u(t)とに基づいて、出力値y(t)を予測する学習済モデルが生成されることとなる。
図2に戻り、初期学習処理が完了すると、次に、基本システム10を拡張した後述の拡張システム30を動作させる(S7)。
図6は、拡張システム30の動作に関する詳細フローチャートである。同図から明らかな通り、処理が開始すると、拡張システム30に基づく制御処理が行われる(S71)。
図7は、拡張システム30のブロック図である。同図から明らかな通り、拡張システム30は、第1のフィードバックループを備える基本システム10の構成に加えて、さらに、第2のフィードバックループと学習処理部34とを備えている。第2のフィードバックループは、学習済モデルを備える予測処理部35、その後段に設けられた第2のコントローラ37、さらにその後段に設けられた無効化処理部38及び判定部39とから成る。
予測処理部35は、1つ前の時間ステップの出力値y(t−1)と現在時間の第1の操作量u(t)とに基づいて、予測出力値yhat(t)を生成する学習済モデルを備えている。また、第2のコントローラ37は、目標値r(t)と予測出力値yhat(t)との偏差(r(t)−yhat(t))に基づいて、第2の操作量u(t)を生成する。判定部39は、第2の操作量u(t)に関して所定の条件判定を行い、無効化処理部38に対して判定結果を提供する。無効化処理部38は、判定部39から提供される判定結果に応じて、第2の操作量u(t)を無効化して(例えば、第2の操作量u(t)を0として)又はそのまま提供する。
また、学習処理部34は、データロガー53を通じて記憶部2に記憶されたデータを読み出して、所定の条件下、学習処理を行い、更新された学習済モデルを予測処理部35へと提供する。
図8及び図9は、拡張システム30における制御処理に関する詳細フローチャートである。
図8において、処理が開始すると、後述の処理において使用されるフラグを初期化する処理が行われる(S711)。次に、1つ前の時間ステップの出力値y(t−1)と目標値r(t)の偏差(r(t)−y(t−1))を第1のコントローラ31へと入力する処理が行われる(S712)。第1のコントローラ31は、当該入力と設定されたゲインに基づき、第1の操作量u(t)を算出する処理が行われる(S713)。
その後、第1の操作量u(t)及び1つ前の時間ステップの出力値y(t−1)を予測処理部35へと入力する処理が行われる(S714)。予測処理部35は、学習済モデルへと第1の操作量u(t)及び1つ前の時間ステップの出力値y(t−1)を入力することにより、予測出力yhat(t)を算出する(S715)。この算出の後、予測出力yhat(t)と目標値r(t)との偏差(r(t)−yhat(t))を第2のコントローラ37へと入力する処理が行われる(S716)。第2のコントローラ37は、予測出力yhat(t)と目標値r(t)との偏差に基づいて第2の操作量u(t)を算出する(S717)。
図9へと続き、第2の操作量u(t)が算出されると、判定部39により、当該第2の操作量u(t)が所定の条件を満たすか否かを判定する処理が行われる(S719)。
図10は、第2の操作量u(t)の所定条件の概要に関する説明図である。同図から明らかな通り、所定条件は、第2の操作量u(t)が所定の閾値U以上かつ所定の閾値U以下の範囲(同図Rで示した範囲)にあるか否かである。
この範囲(R)に無い場合(S719NO)、すなわち、第2の操作量u(t)が所定の閾値Uより小さいか又は所定の閾値Uより大きい場合、判定部39は、無効化処理部38へと所定の範囲内に第2の操作量u(t)が無いことを表す判定信号を提供し、無効化処理部38は、第2の操作量u(t)を無効化する処理を行う(S720)。この無効化処理を行った後、無効化を行ったことを意味するフラグをONとする処理が行われる(S721)。
一方、第2の操作量u(t)が上記範囲(R)内に存在する場合(S719YES)、判定部39は、無効化処理部38へと所定の範囲内に第2の操作量u(t)が存在することを表す判定信号を提供し、無効化処理部38は、第2の操作量u(t)をそのまま第1のフィードバックループの第1のコントローラ13の出力後段へと提供する(S722)。
その後、第1のフィードバックループの第1のコントローラ13の出力後段において、第1の操作量u(t)と第2の操作量u(t)を加算して、操作量u(t)を算出する処理が行われる(S723)。この操作量u(t)は、制御機構32の操作部121へと入力され、検出部122を通じてその結果としての出力値y(t)が検出される(S724)。
この検出処理の後、1つ前の時間ステップの出力値y(t−1)、操作量u(t)、出力値y(t)及びフラグ信号を記憶する処理が行われ(S725)、拡張システム30における制御処理の一周期に相当する処理は終了する。
図6に戻り、拡張システム30における制御処理の一周期相当が終了すると、記憶されたフラグの状態を判定する処理が行われる(S73)。フラグがOFF状態であると判定された場合(S73NO)、拡張システム30の次の時間ステップにおける処理が再度行われる(S71)。一方、フラグがON状態にあると判定された場合(S73YES)、すなわち、第2の操作量u(t)の無効化処理が行われていた場合、学習処理が行われる(S75)。
学習処理(S75)の内容は図5に示したものと略同一であるので、ここでは説明を省略する。この学習処理の後、拡張システム30の次の時間ステップにおける処理が再度行われる(S71)。
このような構成によれば、フィードバック制御という長年利用されている信頼性の高い制御技術を利用しつつも、機械学習技術により、制御中に得られたデータに基づいて適応的な制御を行うことができる。
また、このような構成によれば、第2の操作量u(t)が予め定めた条件を満たす場合には第2の操作量u(t)を無効化して第1の操作量u(t)に基づく制御のみを行うので、信頼性の高い制御を行うことができる。また、当該期間のデータは機械学習用データとして供されるので将来に向けて制御精度の向上を見込むことができる。
<2.変形例>
上記実施形態は例示的な実施形態であり、本発明は様々な変形が可能である。
上述の実施形態においては、コントローラとして、PIDコントローラを例示したが、本発明はこのような構成に限定されない。従って、同種の機能を有する他のコントローラであってもよく、又、例えば、P制御、PI、PD制御など、その一部のゲインのみを利用した制御を利用してもよい。
上述の実施形態においては、各時間ステップ毎にフラグの状態を確認して、都度リアルタイムに学習処理を行う構成(オンライン学習)としたが、本発明はこのような構成に限定されない。従って、例えば、ある程度学習対象となるデータが蓄積されるのを待って、バッチ的に学習(バッチ学習、ミニバッチ学習)を行ってもよい。
上述の実施形態においては、フラグがONとなった場合に(S721)、前1ステップに係るデータを学習する構成としたが、本発明はこのような構成に限定されない。従って、例えば、当該1ステップへと至る1又は複数のステップのデータも利用して学習(S75)を行ってもよい。このような学習は、特に、学習対象に連続性がある場合に有効となり得る。
上述の実施形態においては、第2の操作量u(t)が所定の範囲(図10の「R」で示される領域)から外れる場合に(S719NO)、無効化処理(S720)が行われることから、当該領域(R)から外れる場合にフラグをONとして学習(S75)する構成とした。しかしながら、本発明はこのような構成に限定されない。従って、例えば、第2の操作量u(t)が所定の範囲(R)内にあるか否かを問わず、第2の操作量u(t)が0又はその近傍(0±εの範囲)(εは微小な値)となる場合に学習(S75)を行ってもよい。なお、このとき、この微小な値εをユーザが任意に設定可能なように構成してもよい。
上述の実施形態においては、木構造モデルを基本とした機械学習モデルを利用したが、本発明はこのような構成に限定されない。従って、例えば、ニューラルネットワークやサポート・ベクター・マシーン等の他の機械学習モデルを利用してもよい。
本発明は、制御装置を利用する種々の産業等にて利用可能である。
1 制御部
2 記憶部
3 I/O部
4 入力部
5 表示部
6 通信部
10 基本システム
11 第1のPIDコントローラ
12 制御機構
100 制御装置
121 操作部
122 検出部
13 データロガー
30 拡張システム
31 第1のコントローラ
32 制御機構
33 データロガー
34 学習処理部
35 予測処理部
37 第2のコントローラ
38 無効化処理部
39 判定部
200 フィードバックシステム
201 コントローラ
202 制御機構

Claims (7)

  1. 所定の装置に対してフィードバック制御を行うための制御装置であって、
    前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、
    前記装置の前段に前記第1のコントローラを配置して構成された基本システムにおいて事前にフィードバック制御を行うことにより得られた前記出力と前記第1の操作量に基づいて、フィードバックされた前記出力と前記第1の操作量を入力として、前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、
    前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、
    前記第2の操作量が無効化条件を満たすか否かを判定する、判定部と、
    前記判定部において無効化条件を満たすと判定された場合に、前記第2の操作量を無効化処理する、無効化処理部と、
    前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成部と、
    前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶部と、
    前記機械学習用データに基づいてオンライン学習処理を行い前記装置の制御を行いつつも前記学習済モデルを更新する、学習処理部と、を備え、
    前記無効化条件は、前記第2の操作量が第1の閾値よりも大きいか、又は前記第1の閾値よりも小さい第2の閾値よりも小さいことであり、
    前記第1のコントローラ及び前記第2のコントローラは、それぞれ、P制御、PI制御、PD制御又はPID制御のいずれかを行うものである、制御装置。
  2. 前記記憶部は、さらに、
    前記第2の操作量が0又はその近傍値となる場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、請求項1に記載の制御装置。
  3. 前記記憶部は、さらに、
    前記第2の操作量が無効化処理される場合の参照時間ステップに係る前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力に加えて、さらに、前記参照時間より時間的に前の1又は複数の時間ステップに係る前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、請求項1に記載の制御装置。
  4. 前記学習済モデルは、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルを用いて機械学習を行うことにより得られるものである、請求項1に記載の制御装置。
  5. 所定の装置に対してフィードバック制御を行うための制御装置における制御方法であって、
    前記制御装置は、
    前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、
    前記装置の前段に前記第1のコントローラを配置して構成された基本システムにおいて事前にフィードバック制御を行うことにより得られた前記出力と前記第1の操作量に基づいて、フィードバックされた前記出力と前記第1の操作量を入力として、前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、
    前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、を備え、
    前記第2の操作量が無効化条件を満たすか否かを判定する、判定ステップと、
    前記判定ステップにおいて無効化条件を満たすと判定された場合に、前記第2の操作量を無効化処理する、無効化処理ステップと、
    前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成ステップと、
    前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶ステップと、
    前記機械学習用データに基づいてオンライン学習処理を行い前記装置の制御を行いつつも前記学習済モデルを更新する、学習処理ステップと、を備え
    前記無効化条件は、前記第2の操作量が第1の閾値よりも大きいか、又は前記第1の閾値よりも小さい第2の閾値よりも小さいことであり、
    前記第1のコントローラ及び前記第2のコントローラは、それぞれ、P制御、PI制御、PD制御又はPID制御のいずれかを行うものである、制御方法。
  6. 所定の装置に対してフィードバック制御を行うための制御装置の制御プログラムであって、
    前記制御装置は、
    前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、
    前記装置の前段に前記第1のコントローラを配置して構成された基本システムにおいて事前にフィードバック制御を行うことにより得られた前記出力と前記第1の操作量に基づいて、フィードバックされた前記出力と前記第1の操作量を入力として、前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、
    前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、を備え、
    前記第2の操作量が無効化条件を満たすか否かを判定する、判定ステップと、
    前記判定ステップにおいて無効化条件を満たすと判定された場合に、前記第2の操作量を無効化処理する、無効化処理ステップと、
    前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成ステップと、
    前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶ステップと、
    前記機械学習用データに基づいてオンライン学習処理を行い前記装置の制御を行いつつも前記学習済モデルを更新する、学習処理ステップと、を備え、
    前記無効化条件は、前記第2の操作量が第1の閾値よりも大きいか、又は前記第1の閾値よりも小さい第2の閾値よりも小さいことであり、
    前記第1のコントローラ及び前記第2のコントローラは、それぞれ、P制御、PI制御、PD制御又はPID制御のいずれかを行うものである、制御プログラム。
  7. 所定の装置に対してフィードバック制御を行うための制御システムであって、
    前記装置からフィードバックされる出力と目標値に基づいて、前記装置に対する第1の操作量を生成する、第1のコントローラと、
    前記装置の前段に前記第1のコントローラを配置して構成された基本システムにおいて事前にフィードバック制御を行うことにより得られた前記出力と前記第1の操作量に基づいて、フィードバックされた前記出力と前記第1の操作量を入力として、前記装置からの予測出力を生成するよう機械学習された学習済モデルを備えた、予測出力生成部と、
    前記予測出力と前記目標値に基づいて、前記装置に対する第2の操作量を生成する、第2のコントローラと、
    前記第2の操作量が無効化条件を満たすか否かを判定する、判定部と、
    前記判定部において無効化条件を満たすと判定された場合に、前記第2の操作量を無効化処理する、無効化処理部と、
    前記第1の操作量と前記第2の操作量とに基づいて、前記装置に対する操作量である統合操作量を生成する、統合操作量生成部と、
    前記第2の操作量が無効化処理される場合に、前記第1の操作量、前記装置からフィードバックされた前記出力及び前記統合操作量に対応する前記装置からの出力を機械学習用データとして記憶する、記憶部と、
    前記機械学習用データに基づいてオンライン学習処理を行い前記装置の制御を行いつつも前記学習済モデルを更新する、学習処理部と、を備え
    前記無効化条件は、前記第2の操作量が第1の閾値よりも大きいか、又は前記第1の閾値よりも小さい第2の閾値よりも小さいことであり、
    前記第1のコントローラ及び前記第2のコントローラは、それぞれ、P制御、PI制御、PD制御又はPID制御のいずれかを行うものである、制御システム。
JP2020517407A 2019-10-21 2019-10-21 制御装置、方法、プログラム及びシステム Active JP6813231B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020203983A JP7462905B2 (ja) 2019-10-21 2020-12-09 制御装置、方法、プログラム及びシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/041362 WO2021079411A1 (ja) 2019-10-21 2019-10-21 制御装置、方法、プログラム及びシステム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020203983A Division JP7462905B2 (ja) 2019-10-21 2020-12-09 制御装置、方法、プログラム及びシステム

Publications (2)

Publication Number Publication Date
JP6813231B1 true JP6813231B1 (ja) 2021-01-13
JPWO2021079411A1 JPWO2021079411A1 (ja) 2021-11-18

Family

ID=74096252

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020517407A Active JP6813231B1 (ja) 2019-10-21 2019-10-21 制御装置、方法、プログラム及びシステム

Country Status (4)

Country Link
US (1) US11940787B2 (ja)
EP (1) EP4050431A4 (ja)
JP (1) JP6813231B1 (ja)
WO (1) WO2021079411A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7359176B2 (ja) 2021-03-03 2023-10-11 横河電機株式会社 判定装置、判定方法、および、判定プログラム

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06332501A (ja) * 1993-05-24 1994-12-02 Ishikawajima Harima Heavy Ind Co Ltd フィードバック制御装置および該制御装置を用いた焼却炉
JPH07152404A (ja) * 1993-11-26 1995-06-16 Hitachi Ltd 制御装置
JPH07210209A (ja) * 1994-01-21 1995-08-11 Mazda Motor Corp 神経回路を用いた制御装置
JPH07210535A (ja) * 1994-01-21 1995-08-11 Mazda Motor Corp 学習機能をもった制御装置の学習方法
JPH09114503A (ja) * 1995-10-13 1997-05-02 Toshiba Corp 制御装置
JP2000187505A (ja) * 1998-12-22 2000-07-04 Kanemoto Terauchi 分散学習機能を有するコンピュータシステム
JP2018026020A (ja) * 2016-08-10 2018-02-15 日本電信電話株式会社 予測器学習方法、装置、及びプログラム
JP2018105571A (ja) * 2016-12-27 2018-07-05 株式会社大気社 熱交換システム、コントローラ、及び、ニューラルネットワークの構築方法
JP2019071405A (ja) * 2017-10-06 2019-05-09 キヤノン株式会社 制御装置、リソグラフィ装置、測定装置、加工装置、平坦化装置及び物品製造方法
CN109948670A (zh) * 2019-03-04 2019-06-28 腾讯科技(深圳)有限公司 数据识别模型的训练方法及装置、数据处理方法及装置
US10382260B1 (en) * 2018-06-07 2019-08-13 Capital One Services, Llc Utilizing maching learning to reduce cloud instances in a cloud computing environment
WO2019176496A1 (ja) * 2018-03-12 2019-09-19 オムロン株式会社 制御装置、制御システム、制御方法及び制御プログラム
JP2019166603A (ja) * 2018-03-23 2019-10-03 ファナック株式会社 熱変位補正システム及び計算機

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5852817A (en) 1991-08-14 1998-12-22 Kabushiki Kaisha Toshiba Intelligent control apparatus
US5841946A (en) 1993-11-26 1998-11-24 Hitachi, Ltd. Chaotic character evaluating apparatus and method of the same and processing apparatus of resulting the chaotic character evaluation
JPH10275002A (ja) 1997-03-31 1998-10-13 Rika Kogyo Kk 制御装置
US8281875B2 (en) * 2008-12-19 2012-10-09 Halliburton Energy Services, Inc. Pressure and flow control in drilling operations
US9630318B2 (en) 2014-10-02 2017-04-25 Brain Corporation Feature detection apparatus and methods for training of robotic navigation
JP6547171B2 (ja) 2015-03-16 2019-07-24 国立大学法人岩手大学 情報処理装置
JP6603260B2 (ja) * 2017-04-27 2019-11-06 ファナック株式会社 数値制御装置
WO2019026702A1 (ja) * 2017-07-31 2019-02-07 株式会社エイシング データ量圧縮方法、装置、プログラム及びicチップ

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06332501A (ja) * 1993-05-24 1994-12-02 Ishikawajima Harima Heavy Ind Co Ltd フィードバック制御装置および該制御装置を用いた焼却炉
JPH07152404A (ja) * 1993-11-26 1995-06-16 Hitachi Ltd 制御装置
JPH07210209A (ja) * 1994-01-21 1995-08-11 Mazda Motor Corp 神経回路を用いた制御装置
JPH07210535A (ja) * 1994-01-21 1995-08-11 Mazda Motor Corp 学習機能をもった制御装置の学習方法
JPH09114503A (ja) * 1995-10-13 1997-05-02 Toshiba Corp 制御装置
JP2000187505A (ja) * 1998-12-22 2000-07-04 Kanemoto Terauchi 分散学習機能を有するコンピュータシステム
JP2018026020A (ja) * 2016-08-10 2018-02-15 日本電信電話株式会社 予測器学習方法、装置、及びプログラム
JP2018105571A (ja) * 2016-12-27 2018-07-05 株式会社大気社 熱交換システム、コントローラ、及び、ニューラルネットワークの構築方法
JP2019071405A (ja) * 2017-10-06 2019-05-09 キヤノン株式会社 制御装置、リソグラフィ装置、測定装置、加工装置、平坦化装置及び物品製造方法
WO2019176496A1 (ja) * 2018-03-12 2019-09-19 オムロン株式会社 制御装置、制御システム、制御方法及び制御プログラム
JP2019166603A (ja) * 2018-03-23 2019-10-03 ファナック株式会社 熱変位補正システム及び計算機
US10382260B1 (en) * 2018-06-07 2019-08-13 Capital One Services, Llc Utilizing maching learning to reduce cloud instances in a cloud computing environment
CN109948670A (zh) * 2019-03-04 2019-06-28 腾讯科技(深圳)有限公司 数据识别模型的训练方法及装置、数据处理方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7359176B2 (ja) 2021-03-03 2023-10-11 横河電機株式会社 判定装置、判定方法、および、判定プログラム

Also Published As

Publication number Publication date
WO2021079411A1 (ja) 2021-04-29
US20220326661A1 (en) 2022-10-13
EP4050431A4 (en) 2023-07-19
JPWO2021079411A1 (ja) 2021-11-18
US11940787B2 (en) 2024-03-26
EP4050431A1 (en) 2022-08-31

Similar Documents

Publication Publication Date Title
US20230391016A1 (en) Systems, methods, and media for artificial intelligence process control in additive manufacturing
JP6514257B2 (ja) 機械学習装置、サーボ制御装置、サーボ制御システム、及び機械学習方法
US10442023B2 (en) Simulation apparatus of wire electric discharge machine having function of determining welding positions of core using machine learning
JP6453919B2 (ja) 行動情報学習装置、行動情報最適化システム及び行動情報学習プログラム
WO2016195117A1 (en) Method and system for controlling operation of machine
JP2017102613A (ja) 機械の送り軸の送りの滑らかさを最適化する機械学習装置および方法ならびに該機械学習装置を備えたモータ制御装置
JP6453921B2 (ja) 学習モデル構築装置、及び制御情報最適化装置
CN104317195B (zh) 一种基于改进极限学习机的非线性逆模型控制方法
JP2007272498A (ja) 運転制御方法,運転制御装置及び運転制御システム
JP2019164484A (ja) 機械学習装置、サーボ制御装置、サーボ制御システム、及び機械学習方法
JP6813231B1 (ja) 制御装置、方法、プログラム及びシステム
JP2023089006A (ja) 積層造形における人工知能プロセス制御のためのシステム、方法および媒体
JP2018195018A (ja) 機械学習装置、サーボ制御システム及び機械学習方法
JP2007265345A (ja) 情報処理装置および方法、学習装置および方法、並びにプログラム
JP2020057211A (ja) 機械学習装置、制御装置及び機械学習方法
JP2018180951A (ja) 回路構成最適化装置及び機械学習装置
JP2021068458A (ja) 制御装置、方法、プログラム及びシステム
JP2002157003A (ja) 多変数モデル予測制御装置、方法、及びその記憶媒体
CN110880773A (zh) 基于数据驱动与物理模型驱动结合的电网调频控制方法
JP7469476B2 (ja) 制御支援装置、制御システム及び制御支援方法
JPWO2020121494A1 (ja) 演算装置、アクション決定方法、及び制御プログラム
CN112394640B (zh) 参数整定方法、装置、存储介质及参数整定单元
JP7179672B2 (ja) 計算機システム及び機械学習方法
JP6795240B1 (ja) 制御装置、方法及びプログラム
US20230196088A1 (en) Fan behavior anomaly detection using neural network

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200325

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20200326

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200325

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200325

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200415

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200826

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201210

R150 Certificate of patent or registration of utility model

Ref document number: 6813231

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250