JP7085140B2 - 制御装置、制御方法及び制御プログラム - Google Patents
制御装置、制御方法及び制御プログラム Download PDFInfo
- Publication number
- JP7085140B2 JP7085140B2 JP2018237254A JP2018237254A JP7085140B2 JP 7085140 B2 JP7085140 B2 JP 7085140B2 JP 2018237254 A JP2018237254 A JP 2018237254A JP 2018237254 A JP2018237254 A JP 2018237254A JP 7085140 B2 JP7085140 B2 JP 7085140B2
- Authority
- JP
- Japan
- Prior art keywords
- series data
- time
- degree
- abnormality
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Feedback Control In General (AREA)
Description
装置(20)の状態を示す時系列データを取得する取得部(11a)と、
前記時系列データに基づいて、前記装置(20)の第1異常度を算出する算出部(13a)と、
前記時系列データを状態として、前記第1異常度が低い場合に高くなる報酬を最大化するように、前記装置(20)の制御量を行動として選択する強化学習モデル(15a)を含む学習部(15)と、
前記強化学習モデル(15a)の出力に基づいて、前記装置(20)を制御する制御部(17a)と、
を備える制御装置(10)。
Claims (9)
- 装置の状態を示す時系列データを取得する取得部と、
前記時系列データに基づいて、前記装置の第1異常度を算出する算出部と、
前記時系列データを状態として、前記第1異常度が低い場合に高くなる報酬を最大化するように、前記装置の制御量を行動として選択する強化学習モデルを含む学習部と、
前記強化学習モデルの出力に基づいて、前記装置を制御する制御部と、
を備え、
前記算出部は、前記時系列データが分布する空間において、前記時系列データに含まれる1つのデータを他のデータから隔離するために必要とされる空間分割の回数に基づいて前記第1異常度を算出する、
制御装置。 - 前記学習部は、前記第1異常度が閾値以上である場合に、実測された前記時系列データを用いて、前記強化学習モデルを学習させ、
前記制御部は、前記学習部による前記強化学習モデルの学習と並行して、前記強化学習モデルの出力に基づいて、前記装置を制御する、
請求項1に記載の制御装置。 - 前記学習部は、前記装置の物理モデルを用いて前記強化学習モデルの事前学習を行う、
請求項1又は2に記載の制御装置。 - 前記算出部は、前記時系列データ及び前記制御量に基づいて第2異常度を算出し、
前記強化学習モデルは、前記時系列データ及び前記第2異常度を状態として、前記第1異常度が低い場合に高くなる報酬を最大化するように、前記制御量を行動として選択する、
請求項1から3のいずれか一項に記載の制御装置。 - 前記第2異常度に基づいて、前記第1異常度を小さくするように前記装置を制御していることを示す情報を出力する出力部をさらに備える、
請求項4に記載の制御装置。 - 前記強化学習モデルは、
前記状態を離散化した値を行又は列の一方とし、前記行動を離散化した値を前記行又は前記列の他方として、前記状態及び前記行動に対する評価値をまとめたテーブルを記憶し、
前記状態が測定された場合に、前記評価値を最大化するように、前記行動を選択する、
請求項1から5のいずれか一項に記載の制御装置。 - 前記強化学習モデルは、
所定の確率でランダムに前記行動を選択する、
請求項6に記載の制御装置。 - 装置の状態を示す時系列データを取得することと、
前記時系列データに基づいて、前記装置の異常度を算出することと、
前記時系列データを状態として、前記異常度が低い場合に高くなる報酬を最大化するように、前記装置の制御量を行動として選択する強化学習モデルを含むことと、
前記強化学習モデルの出力に基づいて、前記装置を制御することと、
を含み、
前記異常度を算出することは、前記時系列データが分布する空間において、前記時系列データに含まれる1つのデータを他のデータから隔離するために必要とされる空間分割の回数に基づいて前記異常度を算出することである、
制御方法。 - 制御装置が備える演算部を、
装置の状態を示す時系列データを取得する取得部、
前記時系列データに基づいて、前記装置の異常度を算出する算出部、
前記時系列データを状態として、前記異常度が低い場合に高くなる報酬を最大化するように、前記装置の制御量を行動として選択する強化学習モデルを含む学習部、及び
前記強化学習モデルの出力に基づいて、前記装置を制御する制御部、
として機能させ、
前記算出部は、前記時系列データが分布する空間において、前記時系列データに含まれる1つのデータを他のデータから隔離するために必要とされる空間分割の回数に基づいて前記異常度を算出する、
制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018237254A JP7085140B2 (ja) | 2018-12-19 | 2018-12-19 | 制御装置、制御方法及び制御プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018237254A JP7085140B2 (ja) | 2018-12-19 | 2018-12-19 | 制御装置、制御方法及び制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020098538A JP2020098538A (ja) | 2020-06-25 |
JP7085140B2 true JP7085140B2 (ja) | 2022-06-16 |
Family
ID=71106860
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018237254A Active JP7085140B2 (ja) | 2018-12-19 | 2018-12-19 | 制御装置、制御方法及び制御プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7085140B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023020593A (ja) | 2021-07-30 | 2023-02-09 | キヤノン株式会社 | 制御装置、リソグラフィー装置および物品製造方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6219897B2 (ja) * | 2015-09-28 | 2017-10-25 | ファナック株式会社 | 最適な加減速を生成する工作機械 |
-
2018
- 2018-12-19 JP JP2018237254A patent/JP7085140B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2020098538A (ja) | 2020-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7504163B2 (ja) | 異常予知装置、異常予知システム、異常予知方法及び異常予知プログラム | |
US11275345B2 (en) | Machine learning Method and machine learning device for learning fault conditions, and fault prediction device and fault prediction system including the machine learning device | |
JP6542839B2 (ja) | 制御装置及び機械学習装置 | |
US11592800B2 (en) | Abnormality detector of a manufacturing machine using machine learning | |
US10289075B2 (en) | Machine learning apparatus for optimizing cycle processing time of processing machine, motor control apparatus, processing machine, and machine learning method | |
CN109693354B (zh) | 状态判定装置 | |
JP6333868B2 (ja) | セル制御装置、及び製造セルにおける複数の製造機械の稼働状況を管理する生産システム | |
JP2023085255A5 (ja) | ||
JP2018160093A5 (ja) | ||
US20190196454A1 (en) | Chip removal apparatus and information processing apparatus | |
US11460831B2 (en) | Numerical control system | |
JP6647473B1 (ja) | 異常検知装置および異常検知方法 | |
US11531327B2 (en) | Abnormality determination device and abnormality determination system | |
JP7425094B2 (ja) | 診断装置 | |
JP7085140B2 (ja) | 制御装置、制御方法及び制御プログラム | |
JP2017049801A5 (ja) | ||
CN102257448A (zh) | 使用切换模型进行机器状况监视的文件的滤波和预测 | |
CN112084834A (zh) | 诊断装置 | |
AU2018426458B2 (en) | Assistance device, learning device, and plant operation condition setting assistance system | |
JP2019012473A (ja) | データフィルタリング装置および方法 | |
JP4825482B2 (ja) | 不具合発生予測装置および不具合発生予測方法 | |
JP6829271B2 (ja) | 測定動作パラメータ調整装置、機械学習装置及びシステム | |
JP2020197944A (ja) | モデル予測制御システム、情報処理装置、プログラム、及びモデル予測制御方法 | |
JP2021086194A (ja) | プログラム再開支援装置 | |
US12032354B2 (en) | Program restart assisting apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211029 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220506 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220519 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7085140 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |