JP2022551860A - 工場のプロセス、機器、および自動化システムの動的な監視および保護 - Google Patents
工場のプロセス、機器、および自動化システムの動的な監視および保護 Download PDFInfo
- Publication number
- JP2022551860A JP2022551860A JP2022520885A JP2022520885A JP2022551860A JP 2022551860 A JP2022551860 A JP 2022551860A JP 2022520885 A JP2022520885 A JP 2022520885A JP 2022520885 A JP2022520885 A JP 2022520885A JP 2022551860 A JP2022551860 A JP 2022551860A
- Authority
- JP
- Japan
- Prior art keywords
- manufacturing process
- data
- response data
- systems
- activity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 216
- 230000008569 process Effects 0.000 title claims abstract description 158
- 238000012544 monitoring process Methods 0.000 title description 8
- 238000004519 manufacturing process Methods 0.000 claims abstract description 227
- 238000013135 deep learning Methods 0.000 claims abstract description 143
- 230000004044 response Effects 0.000 claims abstract description 109
- 230000000694 effects Effects 0.000 claims abstract description 92
- 230000002547 anomalous effect Effects 0.000 claims abstract description 77
- 230000009471 action Effects 0.000 claims abstract description 59
- 230000003542 behavioural effect Effects 0.000 claims abstract description 55
- 230000002159 abnormal effect Effects 0.000 claims abstract description 46
- 230000006399 behavior Effects 0.000 claims abstract description 32
- 238000003860 storage Methods 0.000 claims description 19
- 230000000977 initiatory effect Effects 0.000 claims description 7
- 230000001747 exhibiting effect Effects 0.000 claims description 6
- 238000011156 evaluation Methods 0.000 claims description 3
- 238000010801 machine learning Methods 0.000 description 37
- 238000012545 processing Methods 0.000 description 36
- 238000004422 calculation algorithm Methods 0.000 description 26
- 238000004891 communication Methods 0.000 description 18
- 238000005516 engineering process Methods 0.000 description 16
- 238000004886 process control Methods 0.000 description 16
- 230000000875 corresponding effect Effects 0.000 description 12
- 238000007726 management method Methods 0.000 description 11
- 238000005259 measurement Methods 0.000 description 10
- 239000000463 material Substances 0.000 description 9
- 239000000047 product Substances 0.000 description 9
- 239000002994 raw material Substances 0.000 description 9
- 238000012549 training Methods 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 230000006378 damage Effects 0.000 description 6
- 238000013461 design Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 230000007547 defect Effects 0.000 description 5
- 239000000243 solution Substances 0.000 description 5
- 239000000126 substance Substances 0.000 description 5
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000012790 confirmation Methods 0.000 description 3
- 238000005520 cutting process Methods 0.000 description 3
- 230000000670 limiting effect Effects 0.000 description 3
- 238000007789 sealing Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000003070 Statistical process control Methods 0.000 description 2
- 241000700605 Viruses Species 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000003750 conditioning effect Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000001816 cooling Methods 0.000 description 2
- 239000000498 cooling water Substances 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- ZXQYGBMAQZUVMI-GCMPRSNUSA-N gamma-cyhalothrin Chemical compound CC1(C)[C@@H](\C=C(/Cl)C(F)(F)F)[C@H]1C(=O)O[C@H](C#N)C1=CC=CC(OC=2C=CC=CC=2)=C1 ZXQYGBMAQZUVMI-GCMPRSNUSA-N 0.000 description 2
- 238000001746 injection moulding Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- BASFCYQUMIYNBI-UHFFFAOYSA-N platinum Chemical compound [Pt] BASFCYQUMIYNBI-UHFFFAOYSA-N 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 241000269400 Sirenidae Species 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 239000002253 acid Substances 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000002155 anti-virotic effect Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000009835 boiling Methods 0.000 description 1
- 239000006227 byproduct Substances 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000002301 combined effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000002939 deleterious effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000012467 final product Substances 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 231100001261 hazardous Toxicity 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000002844 melting Methods 0.000 description 1
- 230000008018 melting Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000003647 oxidation Effects 0.000 description 1
- 238000007254 oxidation reaction Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 238000013439 planning Methods 0.000 description 1
- 229910052697 platinum Inorganic materials 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000002062 proliferating effect Effects 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 239000000523 sample Substances 0.000 description 1
- 238000005201 scrubbing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 238000013068 supply chain management Methods 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
- 230000001988 toxicity Effects 0.000 description 1
- 231100000419 toxicity Toxicity 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/552—Detecting local intrusion or implementing counter-measures involving long-term monitoring or reporting
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
- G05B19/4155—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by programme execution, i.e. part programme or machine function execution, e.g. selection of a programme
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0259—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
- G05B23/0275—Fault isolation and identification, e.g. classify fault; estimate cause or root of failure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
- G06F21/566—Dynamic detection, i.e. detection performed at run-time, e.g. emulation, suspicious activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1425—Traffic logging, e.g. anomaly detection
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/31—From computer integrated manufacturing till monitoring
- G05B2219/31368—MAP manufacturing automation protocol
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/554—Detecting local intrusion or implementing counter-measures involving event detection and direct action
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/57—Certifying or maintaining trusted computer platforms, e.g. secure boots or power-downs, version controls, system software checks, secure updates or assessing vulnerabilities
- G06F21/577—Assessing vulnerabilities and evaluating computer system security
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
- G06F2221/034—Test or assess a computer or a system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1433—Vulnerability analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Automation & Control Theory (AREA)
- Virology (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Human Computer Interaction (AREA)
- Neurology (AREA)
- Manufacturing & Machinery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- General Factory Administration (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
Description
本出願は、2019年12月19日出願の米国仮出願第62/950,588号の利益を主張する2020年2月4日に出願された米国特許出願第16/781,193号の一部継続出願である2020年6月18日出願の16/904,984の優先権を主張し、その各々は、その全体が参照により本明細書に組み込まれる。また、本出願は、2020年2月28日に出願された米国仮出願第62/983,487号の利益を主張し、2019年11月20日に出願された米国仮出願第62/938,158号の利益を主張し、2019年11月7日に出願された米国仮出願第62/932,063号の利益を主張し、2019年11月6日に出願された米国仮出願第62/931,453号の利益を主張し、2019年10月8日に出願された米国仮出願第62/912,291号の利益を主張しており、その各々は参照によりその全体が本明細書に組み込まれるものとする。本出願は、2019年10月24日に出願された米国特許出願第16/663,245号にも関連し、その全体が本明細書に参照として組み込まれる。
記載1:深層学習プロセッサによって、工場のプロセス、機器、および制御(P/E/C)システムの1つまたは複数から1つまたは複数の制御信号を、製造プロセス中に受信することと、深層学習プロセッサによって、制御信号に対する予測応答データおよび予測行動パターンデータを生成することと、深層学習プロセッサによって、工場のP/E/Cシステムの1つまたは複数から生産応答データを受信することと、深層学習プロセッサによって、生産応答データに対して生産行動パターンデータを生成することと、(i)生産応答データと予測応答データ、および(ii)生産行動パターンデータと予測行動パターンデータの少なくとも一方を比較して、異常な活動を検出することと、異常な活動を検出した結果、1つまたは複数の動作を実行して、通知を行うか、または工場のP/E/Cシステムの1つもしくは複数に製造プロセスにおける異常な活動に対処させることと、を含む、コンピュータ実装方法。
Claims (20)
- 深層学習プロセッサによって、工場のプロセス、機器、および制御(P/E/C)システムの1つまたは複数から1つまたは複数の制御信号を、製造プロセス中に受信することと、
深層学習プロセッサによって、前記制御信号に対する予測応答データおよび予測行動パターンデータを生成することと、
前記深層学習プロセッサによって、前記工場のP/E/Cシステムの1つまたは複数から、生産応答データを受信することと、
前記深層学習プロセッサによって、前記生産応答データに対する生産行動パターンデータを生成することと、
(i)前記生産応答データと前記予測応答データ、および(ii)前記生産行動パターンデータと前記予測行動パターンデータの少なくとも一方を比較し、異常な活動を検出することと、
前記異常な活動を検出した結果、1つまたは複数の動作を実行して、通知を行うか、または前記工場のP/E/Cシステムの1つに前記製造プロセスにおける前記異常な活動に対処させることと、を含む、コンピュータ実装方法。 - 前記1つまたは複数の動作は、
前記異常な活動がマルウェア攻撃であるかどうかを決定することと、
前記異常な活動が前記マルウェア攻撃であると決定した結果、通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるための警告プロトコルを開始することと、を含む、請求項1に記載のコンピュータ実装方法。 - 前記1つまたは複数の動作は、前記製造プロセスを停止することを含む、請求項1に記載のコンピュータ実装方法。
- 前記生産応答データは、前記工場のP/E/Cシステムの1つまたは複数に関連する1つまたは複数のプロセスステーションに関連する設定値を調整することによって得られる、請求項1に記載のコンピュータ実装方法。
- 前記異常な活動は、前記生産応答データと前記予測応答データが偏差を示す結果として検出される、請求項1に記載のコンピュータ実装方法。
- 前記異常な活動は、前記生産行動パターンデータと前記予測行動パターンデータとが偏差を示す結果として検出される、請求項1に記載のコンピュータ実装方法。
- 前記1つまたは複数の動作は、前記異常な活動を確認するための通知を、前記製造プロセスのオペレータに送信することを含む、請求項1に記載のコンピュータ実装方法。
- 前記生産応答データと前記予測応答データとの比較に基づいて、前記異常な活動の識別に関連する信頼度を決定することと、
前記信頼度に基づいて、通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるために実行すべき前記1つまたは複数の動作を識別することと、をさらに含む、請求項1に記載のコンピュータ実装方法。 - 生産行動パターンデータと前記予測行動パターンデータとの前記比較に基づいて、前記異常な活動の識別に関連する信頼度を決定することと、
前記信頼度に基づいて、通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるために実行すべき前記1つまたは複数の動作を識別することと、をさらに含む、請求項1に記載のコンピュータ実装方法。 - 1つまたは複数のプロセッサと、
命令を自身に記憶するメモリと、を含むシステムであって、
前記命令は、前記1つまたは複数のプロセッサによって実行される結果として:
工場のプロセス、機器、および制御(P/E/C)システムの1つまたは複数から1つまたは複数の制御信号を、製造プロセス中に受信することと、
前記制御信号に対する予測応答データおよび予測行動パターンデータを生成することと、
前記工場のP/E/Cシステムの1つまたは複数から生産応答データを受信することと、
前記生産応答データに対する生産行動パターンデータを生成することと、
(i)前記生産応答データと前記予測応答データ、および(ii)前記生産行動パターンデータと前記予測行動パターンデータの少なくとも一方を比較することに基づいて、異常な活動を検出することと、
前記異常な活動を検出した結果、1つまたは複数の動作を実行して、通知を行うか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させることと、
を、前記システムに行わせるものである、システム。 - 前記命令は、さらに、前記システムに、
異常な活動のタイプと関連する信頼度を決定することと、
前記異常な活動の前記タイプと前記関連する信頼度に基づいて、前記1つまたは複数の動作を決定することと、を行わせるものである、請求項10に記載のシステム。 - 前記1つまたは複数の動作は、前記製造プロセスを停止させることを含む、請求項10に記載のシステム。
- 前記1つまたは複数の動作は、前記異常な活動を確認するための通知を、前記製造プロセスのオペレータに送信することを含む、請求項10に記載のシステム。
- 前記1つまたは複数の動作は、
前記異常な活動がマルウェア攻撃であるかどうかを決定することと、
前記異常な活動が前記マルウェア攻撃であると決定した結果、前記通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるための警告プロトコルを開始することと、を含む、請求項10に記載のシステム。 - 前記警告プロトコルは、前記通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるための、前記工場のP/E/Cシステムに関連する1つまたは複数のデバイスに通信される個々のリレーのデジタル作動である、請求項14に記載のシステム。
- 実行可能な命令を自身に記憶する非一時的なコンピュータ可読記憶媒体であって、前記命令は、コンピュータシステムの1つまたは複数のプロセッサによって実行される結果として:
製造プロセス中の工場のプロセス、機器、および制御(P/E/C)システムの1つまたは複数から1つまたは複数の制御信号を受信することと、
前記制御信号に対する予測応答データおよび予測行動パターンデータを生成することと、
前記工場のP/E/Cシステムの1つまたは複数から生産応答データを受信することと、
前記生産応答データに対する生産行動パターンデータを生成することと、
(i)前記生産応答データと前記予測応答データ、および(ii)前記生産行動パターンデータと前記予測行動パターンデータの少なくとも一方の比較に基づいて、異常な活動を検出することと、
前記異常な活動を検出した結果、1つまたは複数の動作を実行して、通知を行うか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させることと、
を、前記コンピュータシステムに行わせるものである、非一時的なコンピュータ可読記憶媒体。 - 前記1つまたは複数の動作は、前記異常な活動を確認するための通知を、前記製造プロセスのオペレータに送信することを含む、請求項16に記載の非一時的なコンピュータ可読記憶媒体。
- 前記1つまたは複数の動作は、
前記異常な活動がマルウェア攻撃であるかどうかを決定することと、
前記異常な活動が前記マルウェア攻撃であると決定した結果、前記通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるための警告プロトコルを開始することと、を含む、請求項16に記載の非一時的なコンピュータ可読記憶媒体。 - 前記1つまたは複数の動作は、前記製造プロセスを停止させることを含む、請求項16に記載の非一時的なコンピュータ可読記憶媒体。
- 前記実行可能な命令は、:
前記予測行動パターンデータと前記生産行動パターンデータの前記評価に基づいて、前記異常な活動の識別に関連する信頼度を決定することと、
前記信頼度に基づいて、前記通知を行うためか、または前記工場のP/E/Cシステムの1つもしくは複数に前記製造プロセスにおける前記異常な活動に対処させるために実行すべき前記1つまたは複数の動作を識別することと、
を、前記コンピュータシステムにさらに行わせるものである、請求項16に記載の非一時的なコンピュータ可読記憶媒体。
Applications Claiming Priority (17)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962912291P | 2019-10-08 | 2019-10-08 | |
US62/912,291 | 2019-10-08 | ||
US201962931453P | 2019-11-06 | 2019-11-06 | |
US62/931,453 | 2019-11-06 | ||
US201962932063P | 2019-11-07 | 2019-11-07 | |
US62/932,063 | 2019-11-07 | ||
US201962938158P | 2019-11-20 | 2019-11-20 | |
US62/938,158 | 2019-11-20 | ||
US201962950588P | 2019-12-19 | 2019-12-19 | |
US62/950,588 | 2019-12-19 | ||
US16/781,193 US11063965B1 (en) | 2019-12-19 | 2020-02-04 | Dynamic monitoring and securing of factory processes, equipment and automated systems |
US16/781,193 | 2020-02-04 | ||
US202062983487P | 2020-02-28 | 2020-02-28 | |
US62/983,487 | 2020-02-28 | ||
US16/904,984 US11100221B2 (en) | 2019-10-08 | 2020-06-18 | Dynamic monitoring and securing of factory processes, equipment and automated systems |
US16/904,984 | 2020-06-18 | ||
PCT/US2020/052254 WO2021071675A1 (en) | 2019-10-08 | 2020-09-23 | Dynamic monitoring and securing of factory processes, equipment and automated systems |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022551860A true JP2022551860A (ja) | 2022-12-14 |
JP7487967B2 JP7487967B2 (ja) | 2024-05-21 |
Family
ID=75274164
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022520885A Active JP7487967B2 (ja) | 2019-10-08 | 2020-09-23 | 工場のプロセス、機器、および自動化システムの動的な監視および保護 |
Country Status (7)
Country | Link |
---|---|
US (3) | US11100221B2 (ja) |
EP (1) | EP4042340A4 (ja) |
JP (1) | JP7487967B2 (ja) |
KR (1) | KR20220080128A (ja) |
CN (1) | CN114503134A (ja) |
TW (2) | TW202248782A (ja) |
WO (1) | WO2021071675A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102020109858A1 (de) * | 2020-04-08 | 2021-10-14 | Balluff Gmbh | Verfahren zum Betreiben eines Systems |
US11754990B2 (en) * | 2020-10-29 | 2023-09-12 | Morphix, Inc. | Edge computing device with artificial intelligence model for emulating control logic of a programmable logic controller |
CN113657628A (zh) * | 2021-08-20 | 2021-11-16 | 武汉霖汐科技有限公司 | 工业设备监控方法、系统、电子设备及存储介质 |
US11669617B2 (en) | 2021-09-15 | 2023-06-06 | Nanotronics Imaging, Inc. | Method, systems and apparatus for intelligently emulating factory control systems and simulating response data |
CN114115196A (zh) * | 2021-11-24 | 2022-03-01 | 国汽智控(北京)科技有限公司 | 设备可靠性的检测方法、装置、设备及存储介质 |
WO2023137212A1 (en) * | 2022-01-16 | 2023-07-20 | Board Of Regents, The University Of Texas System | Anomaly detection in manufacturing processes using hidden markov model-based segmentation error correction of time-series sensor data |
CN115222551A (zh) * | 2022-03-16 | 2022-10-21 | 希望知舟技术(深圳)有限公司 | 生产排产方法和相关装置、存储介质和程序产品 |
CN114442582B (zh) * | 2022-04-07 | 2022-08-16 | 广东祥利科技有限公司 | 一种聚烯烃改性电缆粒料生产监测控制方法及系统 |
US11747772B1 (en) * | 2022-09-12 | 2023-09-05 | Nanotronics Imaging, Inc. | Threshold determination for predictive process control of factory processes, equipment and automated systems |
CN116859830B (zh) * | 2023-03-27 | 2024-01-26 | 福建天甫电子材料有限公司 | 用于电子级氟化铵生产的生产管理控制系统 |
CN116878590B (zh) * | 2023-09-06 | 2023-11-21 | 山东远联信息科技有限公司 | 一种数智化服务协同运营管理系统 |
CN117032147B (zh) * | 2023-09-19 | 2024-02-09 | 昆山纽杰伦智能机器科技有限公司 | 一种基于人工智能的生产线机床数字化调节系统及方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008512792A (ja) * | 2004-09-10 | 2008-04-24 | エクソンモービル リサーチ アンド エンジニアリング カンパニー | 連続工業プロセスの運転における異常事象検出のための装置および方法 |
US20150213369A1 (en) * | 2002-10-21 | 2015-07-30 | Rockwell Automation Technologies, Inc. | System and methodology providing automation security analysis and network intrusion protection in an industrial environment |
JP2017211713A (ja) * | 2016-05-23 | 2017-11-30 | ルネサスエレクトロニクス株式会社 | 生産システム |
JP2018139101A (ja) * | 2016-12-07 | 2018-09-06 | ゼネラル・エレクトリック・カンパニイ | 産業資産制御システムにおける脅威検出のための特徴および境界の調整 |
WO2019012653A1 (ja) * | 2017-07-13 | 2019-01-17 | 日本電気株式会社 | 学習システム、分析システム、学習方法及び記憶媒体 |
US20190302707A1 (en) * | 2018-03-28 | 2019-10-03 | Mitsubishi Electric Research Laboratories, Inc. | Anomaly Detection in Manufacturing Systems Using Structured Neural Networks |
Family Cites Families (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6266436B1 (en) | 1999-04-09 | 2001-07-24 | Kimberly-Clark Worldwide, Inc. | Process control using multiple detections |
DK1264221T3 (da) | 2000-03-10 | 2005-10-03 | Smiths Detection Inc | Styring af en industriel proces ved brug af en eller flere flerdimensionale variabler |
US7032816B2 (en) | 2001-12-28 | 2006-04-25 | Kimberly-Clark Worldwide, Inc. | Communication between machines and feed-forward control in event-based product manufacturing |
US8909926B2 (en) | 2002-10-21 | 2014-12-09 | Rockwell Automation Technologies, Inc. | System and methodology providing automation security analysis, validation, and learning in an industrial controller environment |
US7676287B2 (en) | 2004-03-03 | 2010-03-09 | Fisher-Rosemount Systems, Inc. | Configuration system and method for abnormal situation prevention in a process plant |
US6961626B1 (en) * | 2004-05-28 | 2005-11-01 | Applied Materials, Inc | Dynamic offset and feedback threshold |
US8010321B2 (en) * | 2007-05-04 | 2011-08-30 | Applied Materials, Inc. | Metrics independent and recipe independent fault classes |
JP4740926B2 (ja) | 2007-11-27 | 2011-08-03 | フェリカネットワークス株式会社 | サービス提供システム、サービス提供サーバ、及び情報端末装置 |
US8185217B2 (en) | 2008-01-31 | 2012-05-22 | Fisher-Rosemount Systems, Inc. | Robust adaptive model predictive controller with tuning to compensate for model mismatch |
US7974723B2 (en) | 2008-03-06 | 2011-07-05 | Applied Materials, Inc. | Yield prediction feedback for controlling an equipment engineering system |
US20100106458A1 (en) | 2008-10-28 | 2010-04-29 | Leu Ming C | Computer program and method for detecting and predicting valve failure in a reciprocating compressor |
EP2585249B1 (en) | 2010-06-28 | 2017-02-22 | Precitec GmbH & Co. KG | Method for closed-loop controlling a laser processing operation and laser material processing head using the same |
TWI426242B (zh) | 2010-11-03 | 2014-02-11 | Ind Tech Res Inst | 動力設備異常檢測裝置及其檢測方法 |
US8949668B2 (en) | 2011-05-23 | 2015-02-03 | The Boeing Company | Methods and systems for use in identifying abnormal behavior in a control system including independent comparisons to user policies and an event correlation model |
US10649449B2 (en) | 2013-03-04 | 2020-05-12 | Fisher-Rosemount Systems, Inc. | Distributed industrial performance monitoring and analytics |
US10386827B2 (en) | 2013-03-04 | 2019-08-20 | Fisher-Rosemount Systems, Inc. | Distributed industrial performance monitoring and analytics platform |
TWI581203B (zh) * | 2013-11-22 | 2017-05-01 | Cloud monitoring device | |
US20150184549A1 (en) | 2013-12-31 | 2015-07-02 | General Electric Company | Methods and systems for enhancing control of power plant generating units |
CN107004060B (zh) | 2014-11-25 | 2022-02-18 | Pdf决策公司 | 用于半导体制造工艺的经改进工艺控制技术 |
US10712738B2 (en) | 2016-05-09 | 2020-07-14 | Strong Force Iot Portfolio 2016, Llc | Methods and systems for industrial internet of things data collection for vibration sensitive equipment |
EP3392711A1 (en) * | 2017-04-19 | 2018-10-24 | ASML Netherlands B.V. | Maintaining a set of process fingerprints |
CN106921676B (zh) | 2017-04-20 | 2020-05-08 | 电子科技大学 | 一种基于OPCClassic的入侵检测方法 |
US10805317B2 (en) * | 2017-06-15 | 2020-10-13 | Microsoft Technology Licensing, Llc | Implementing network security measures in response to a detected cyber attack |
US10505955B2 (en) * | 2017-08-22 | 2019-12-10 | General Electric Company | Using virtual sensors to accommodate industrial asset control systems during cyber attacks |
US10530787B2 (en) | 2017-08-30 | 2020-01-07 | International Business Machines Corporation | Detecting malware attacks using extracted behavioral features |
US10394229B2 (en) | 2017-09-27 | 2019-08-27 | International Business Machines Corporation | Orchestration of learning and execution of model predictive control tool for manufacturing processes |
US10970834B2 (en) * | 2018-01-05 | 2021-04-06 | Kla-Tencor Corporation | Defect discovery using electron beam inspection and deep learning with real-time intelligence to reduce nuisance |
US10944767B2 (en) * | 2018-02-01 | 2021-03-09 | International Business Machines Corporation | Identifying artificial artifacts in input data to detect adversarial attacks |
US10795346B2 (en) | 2018-03-13 | 2020-10-06 | Applied Materials, Inc. | Machine learning systems for monitoring of semiconductor processing |
US11165799B2 (en) | 2018-04-05 | 2021-11-02 | Microsoft Technology Licensing, Llc | Anomaly detection and processing for seasonal data |
US10896261B2 (en) * | 2018-11-29 | 2021-01-19 | Battelle Energy Alliance, Llc | Systems and methods for control system security |
CN109766992B (zh) | 2018-12-06 | 2020-12-04 | 北京工业大学 | 基于深度学习的工控异常检测及攻击分类方法 |
US11156991B2 (en) | 2019-06-24 | 2021-10-26 | Nanotronics Imaging, Inc. | Predictive process control for a manufacturing process |
-
2020
- 2020-06-18 US US16/904,984 patent/US11100221B2/en active Active
- 2020-09-23 CN CN202080071010.8A patent/CN114503134A/zh active Pending
- 2020-09-23 EP EP20874557.0A patent/EP4042340A4/en active Pending
- 2020-09-23 WO PCT/US2020/052254 patent/WO2021071675A1/en unknown
- 2020-09-23 JP JP2022520885A patent/JP7487967B2/ja active Active
- 2020-09-23 KR KR1020227014934A patent/KR20220080128A/ko not_active Application Discontinuation
- 2020-10-06 TW TW111130991A patent/TW202248782A/zh unknown
- 2020-10-06 TW TW109134549A patent/TWI778423B/zh active
-
2021
- 2021-08-23 US US17/445,657 patent/US11693956B2/en active Active
-
2023
- 2023-06-28 US US18/343,421 patent/US20230359730A1/en active Granted
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150213369A1 (en) * | 2002-10-21 | 2015-07-30 | Rockwell Automation Technologies, Inc. | System and methodology providing automation security analysis and network intrusion protection in an industrial environment |
JP2008512792A (ja) * | 2004-09-10 | 2008-04-24 | エクソンモービル リサーチ アンド エンジニアリング カンパニー | 連続工業プロセスの運転における異常事象検出のための装置および方法 |
JP2017211713A (ja) * | 2016-05-23 | 2017-11-30 | ルネサスエレクトロニクス株式会社 | 生産システム |
JP2018139101A (ja) * | 2016-12-07 | 2018-09-06 | ゼネラル・エレクトリック・カンパニイ | 産業資産制御システムにおける脅威検出のための特徴および境界の調整 |
WO2019012653A1 (ja) * | 2017-07-13 | 2019-01-17 | 日本電気株式会社 | 学習システム、分析システム、学習方法及び記憶媒体 |
US20190302707A1 (en) * | 2018-03-28 | 2019-10-03 | Mitsubishi Electric Research Laboratories, Inc. | Anomaly Detection in Manufacturing Systems Using Structured Neural Networks |
Also Published As
Publication number | Publication date |
---|---|
EP4042340A4 (en) | 2023-11-22 |
US20210382990A1 (en) | 2021-12-09 |
US11100221B2 (en) | 2021-08-24 |
TW202248782A (zh) | 2022-12-16 |
US20210103654A1 (en) | 2021-04-08 |
CN114503134A (zh) | 2022-05-13 |
WO2021071675A1 (en) | 2021-04-15 |
JP7487967B2 (ja) | 2024-05-21 |
EP4042340A1 (en) | 2022-08-17 |
TWI778423B (zh) | 2022-09-21 |
TW202122946A (zh) | 2021-06-16 |
US20230359730A1 (en) | 2023-11-09 |
KR20220080128A (ko) | 2022-06-14 |
US11693956B2 (en) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2022551860A (ja) | 工場のプロセス、機器、および自動化システムの動的な監視および保護 | |
US20210320931A1 (en) | Dynamic monitoring and securing of factory processes, equipment and automated systems | |
JP7458097B2 (ja) | 工場制御システムをインテリジェントにエミュレートし、応答データをシミュレートするための方法、システム及び装置 | |
JP7389510B2 (ja) | 製造工程のための予測工程管理 | |
US11663327B2 (en) | Method, systems and apparatus for intelligently emulating factory control systems and simulating response data | |
CN115204248A (zh) | 用于保护网络物理系统的系统、方法及计算机可读介质 | |
US11953863B2 (en) | Dynamic monitoring and securing of factory processes, equipment and automated systems | |
TW202419988A (zh) | 工廠加工、設備及自動化系統之動態監測及保護 | |
US11669617B2 (en) | Method, systems and apparatus for intelligently emulating factory control systems and simulating response data | |
KR20220079683A (ko) | 정교한 공격으로부터 산업 생산의 보호 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220509 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230517 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230630 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20231002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231018 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231102 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240131 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240430 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7487967 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |