JP2012164052A - 制御システム、方法およびプログラム - Google Patents

制御システム、方法およびプログラム Download PDF

Info

Publication number
JP2012164052A
JP2012164052A JP2011022539A JP2011022539A JP2012164052A JP 2012164052 A JP2012164052 A JP 2012164052A JP 2011022539 A JP2011022539 A JP 2011022539A JP 2011022539 A JP2011022539 A JP 2011022539A JP 2012164052 A JP2012164052 A JP 2012164052A
Authority
JP
Japan
Prior art keywords
data
measurement data
prediction
control system
prediction data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011022539A
Other languages
English (en)
Other versions
JP5739182B2 (ja
Inventor
Hamzaoui Karim
カリーム ハムザウィ
Sachiko Yoshihama
佐知子 吉▲浜▼
Shohei Hito
将平 比戸
Sachiko Suzuki
祥子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2011022539A priority Critical patent/JP5739182B2/ja
Priority to US13/365,626 priority patent/US20120203508A1/en
Publication of JP2012164052A publication Critical patent/JP2012164052A/ja
Priority to US13/803,388 priority patent/US10678911B2/en
Application granted granted Critical
Publication of JP5739182B2 publication Critical patent/JP5739182B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55Detecting local intrusion or implementing counter-measures
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/0227Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions
    • G05B23/0232Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions based on qualitative trend analysis, e.g. system evolution

Abstract

【課題】ICS内の機器に異常が発生した場合でも、当該ICSやそのデータを利用するシステムの稼働を担保して可用性を向上させる制御システム、方法およびプログラムを提供すること。
【解決手段】本発明は、ネットワークに接続された複数の装置のデータを処理する制御システムであって、複数の装置から測定データを受信し、相関する装置の予測データを導出する相関情報と測定データとを使用して予測データを算出し、測定データおよび予測データを提供する制御システムを提供する。
【選択図】図1

Description

本発明は、産業用制御システム(ICS:Industrial Control System)に関し、より詳細には、産業用制御システム(以下、「ICS」とする。)の可用性を向上させる制御システム、方法およびプログラムに関する。
現在、水供給管理システムや原子力発電所制御システム、交通監視・制御システムなどのICSが運用されており、水や電気、交通等の社会インフラを支える重要な役割を担っている。このようなICSを利用した社会インフラは人々の生活に与える影響が大きく、ICSは、他の一般的なITシステムよりも非常に高い可用性が要求される。
従来、ICSはインターネットや他のICS等の外部ネットワークから隔離して設置されていたが、近年、ICSを外部ネットワークに接続し、複数の外部システムがICSの管理する装置の情報を利用するようになっている。このため、マルウェア(Malware)等の外部ネットワークを介した攻撃の危険性に曝されるようになり、ICSの可用性がより一層求められている。
ICSの一例として、特許文献1は、道路上を移動する車両の推定された平均速度情報をこれらの道路上の移動を反映するデータサンプルに基づいて判定するコンピューティングシステムを開示する。このコンピューティングシステムでは、複数のセンサが道路に埋め込まれており、これらのセンサから交通のデータサンプルを取得して車両の平均速度を判定する。
特表2009−529187号公報
しかしながら、特許文献1に示すコンピューティングシステムは、近接配置された同種のデータを取得する複数のセンサからデータサンプルを取得し、これらを相補的に利用することによって障害耐性を確保しようとしているが、上述したようなネットワーク攻撃等によってネットワーク障害が発生した場合、当該ネットワークに接続された総てのセンサからデータサンプルを取得することができず、データサンプルを修正できないという問題があった。
また、特許文献1に示すコンピューティングシステムのデータサンプルを他の外部システムが使用している場合、当該コンピューティングシステムの脆弱性によって、当該外部システムの可用性が損なわれるという虞もあった。
本発明は上記の課題を解決するものであり、ICS内の機器に異常が発生した場合でも、当該ICSやそのデータを利用するシステムの稼働を担保して可用性を向上させる制御システム、方法およびプログラムを提供することを目的とする。
すなわち、本発明によれば、ネットワークに接続された複数の装置のデータを処理する制御システムであって、複数の装置から測定データを受信し、相関する装置の予測データを導出する相関情報と測定データとを使用して予測データを算出し、測定データおよび予測データを提供する制御システムが提供される。本発明は、相関する装置の測定データを使用して、相関する装置の予測データを算出することができるため、制御システム内の機器に異常が発生した場合でも、当該制御システムやそのデータを利用するシステムの可用性を向上させることができる。
また、本発明は、相関する異種のセンサを上記ネットワーク内の個別ネットワークに接続し、当該異種のセンサの測定データを利用して予測データを算出するため、同種のセンサを冗長に配置する必要がなく、センサの設置コストを低減することができると共に、マルウェア等のネットワーク攻撃に対するロバスト性を向上させることができる。
本発明によれば、ICSネットワーク内の個別のネットワークに接続された相関する装置の予測データを算出および提供することにより、ICSの可用性を向上させる方法およびプログラムを提供することができる。
本実施形態の制御システムを示す図。 本発明の制御システムを原子力発電所制御システムに応用した実施形態を示す図。 本実施形態の分析サーバの機能構成を示す図。 本実施形態の分析サーバが実行する処理の一実施形態を示すフローチャート。 本実施形態の測定データおよび予測データを保存するデータテーブルの一実施形態を示す図。 本実施形態の測定データおよび予測データを保存するデータテーブルの一実施形態を示す図。
以下、本発明について実施形態をもって説明するが、本発明は、後述する実施形態に限定されるものではない。
図1は、本実施形態の制御システム100を示す図である。制御システム100は、グローバルゲートウェイ110と、ICSゲートウェイ112,114,116と、当該ICSゲートウェイに接続されたセンサ120,121,122,123,124,125,126,127と、分析サーバ130とを含んで構成されるICSである。本実施形態の制御システムでは、独自のプロトコルを使用して制御システム100内の装置間でデータ通信が行われる。他の実施形態では、汎用のプロトコルを使用して制御システム100内のデータ通信を行ってもよい。
グローバルゲートウェイ110は、ICSゲートウェイ112,114,116が形成するネットワーク層の上位ネットワーク層に配置される通信装置である。グローバルゲートウェイ110は、InternetやWAN(Wide Area Network)等の外部ネットワーク140に接続された外部システムや外部装置と、分析サーバ130との間でデータ通信を行う。
ICSゲートウェイ112,114,116は、当該ICSゲートウェイに接続されたセンサ120〜127から当該センサが実際に測定したデータ(以下、「測定データ」とする。)を取得し、分析サーバ130に提供する通信装置である。ICSゲートウェイ112,114,116は、それぞれセンサが接続されて個別のネットワークを形成している。
センサ120〜127は、湿度や温度、光量、放射線、水、物体速度、電流、電圧などの様々な状態や物質、事象等を検出して測定するセンサであり、温度センサ、人感センサ、湿度センサ、放射線センサ、水検出センサ、速度センサ、電流センサ、電圧センサ、光量センサ等の各種センサを採用できる。制御システム100では、物理的に近接配置される等の一定の相関関係を有する異種のセンサ(例えば、センサ120とセンサ121、センサ122〜センサ124、センサ125とセンサ126)が、異なるICSゲートウェイのネットワークに接続される。センサ120〜127は、ICSゲートウェイ112,114,116を介して、その測定データを分析サーバ130に提供する。
分析サーバ130は、制御システム100内のセンサの測定データを収集し、相関する複数のセンサのうち、一方のセンサの測定データ等から予測される他方のセンサのデータ(以下、「予測データ」とする。)を生成し、これらのデータを提供する情報処理装置である。また、分析サーバ130は、制御システム100内で異常が発生していないか検証し、その検証結果を提供する。さらに、分析サーバ130は、制御システム100内のゲートウェイから測定データおよび予測データの送信要求を受領した場合、要求送信元が当該データの取得権限を有するか判断し、取得権限のある要求送信元に対して当該データを提供する。
分析サーバ130は、Windows(登録商標)7、Windows Vista(登録商標)、Windows XP(登録商標)、Windows200X Server(登録商標)等のWindowsシリーズ、Mac OS(登録商標)、UNIX(登録商標)、LINUX(登録商標)、Google Chrome OsなどのOSの管理下で、アセンブラ、C、C++、Java(登録商標)、JavaScript(登録商標)、PERL、PHP、RUBY、PYTHONなどのプログラム言語で記述された本発明のプログラムを実行する。
また、分析サーバ130は、本発明のプログラムを実行するための実行空間を提供するRAM、プログラムやデータなどを持続的に保持するためのハードディスク装置(HDD)などを含んでおり、本発明のプログラムを実行することにより、後述する本実施形態の各機能を分析サーバ130上に実現する。本実施形態の各機能部は、上述したプログラミング言語などで記述された装置実行可能なプログラムにより実現できる。本発明のプログラムは、HDD、CD−ROM、MO、フレキシブルディスク、EEPROM、EPROMなどの装置可読な記録媒体に格納して頒布することができ、また他の装置が可読な形式でネットワークを介して伝送することができる。
図1に示す実施形態は、1のICSシステムで構成された制御システムであるが、他の実施形態では、複数のICSシステムのデータを制御する制御システムとして本発明を構成することもできる。
図2は、本発明の制御システムを原子力発電所制御システムに応用した実施形態を示す図である。以下、原子力発電所制御システムの実施形態をもって説明するが、本発明は、当該実施形態に限定されるものではなく、水供給管理システムや交通監視・制御システム等の他のICSにも応用可能である。
図2に示す制御システム200は、分析サーバ130と、グローバルゲートウェイ210と、ICSゲートウェイ222,224と、原子力発電システム230とを含んで構成される。原子力発電システム230は、原子炉格納容器232と、タービン234と、発電機236とを含み、各種センサ242,244,246,248が設置される。
原子炉格納容器232の内部には、原子炉格納容器232内の圧力を測定する圧力センサ242が設置される。また、原子炉格納容器232の蒸気発生器238の排出管240内部には、排出管240の温度および湿度を測定する温度センサ244および湿度センサ246が設置される。さらに、発電機236の近傍には、原子力発電システム230内の人の侵入を検知する人感センサ248が設置される。
圧力センサ242および温度センサ244は、ICSゲートウェイ222に接続され、湿度センサ246および人感センサ248は、ICSゲートウェイ224に接続される。本実施形態では、温度センサ244および湿度センサ246は、排出管240に送入される同一の蒸気に依存する排出管240内部の温度および湿度を測定するセンサであり、これらのセンサは強い相関関係を有する。このため、温度センサ244および湿度センサ246は、それぞれ異なるICSゲートウェイ222,224が形成するネットワーク250,252に接続される。
図2に示す実施形態では、各センサは、その測定データを定期的にICSゲートウェイ222,224を介して分析サーバ130に送信する。ICSゲートウェイ222,224は、センサから測定データを受信すると、センサを固有に識別可能な情報(以下、「センサ識別情報」とする。)を測定データに付加して分析サーバ130に送信する。本実施形態では、ICSゲートウェイを固有に識別可能な情報(以下、「ICSゲートウェイ識別情報」とする。)と、センサが接続されたICSゲートウェイのポート番号との結合を、センサ識別情報として使用することができる。他の実施形態では、分析サーバ130の要求に応じて、各センサが測定データを送信してもよく、また、センサを固有に識別できる限り、如何なるセンサ識別情報を使用してもよい。
図3は、本実施形態の分析サーバ130の機能構成を示す図である。分析サーバ130は、送受信部302と、制御部304と、予測データ算出部306と、データ保存部308と、記憶装置310,312,314とを含む。
送受信部302は、分析サーバ130と制御システム200内の装置との間でデータの送受信を行う。送受信部302は、グローバルゲートウェイ210やICSゲートウェイ222,224から特定の要求や各センサの測定データを受信する。送受信部302は、当該要求を受信すると制御部304に通知する。また、送受信部302は、グローバルゲートウェイ210等の要求送信元の装置に対し、測定データや予測データ、後述する検証結果等を送信して提供する。送受信部302は、制御システム200内の通信プロトコルに準拠して、グローバルゲートウェイ210やICSゲートウェイ222,224とデータ通信を行う。
制御部304は、分析サーバ130の全体制御を行う。制御部304は、送受信部302から受信した要求の種類に応じて、後述する機能部を適宜呼び出して種々の処理を実行する。
具体的には、制御部304は、制御システム200内のセンサの測定データを登録する旨の要求を受信すると、データ保存部308を呼び出して測定データを記憶装置312に保存させる。そして、制御部304は、予測データ算出部306を呼び出し、測定データに対応する予測データを算出させ、検証部316を呼び出して、制御システム200内で異常が発生していないか検証させる。
また、制御部304は、測定データおよび予測データを送信する旨の要求を受信すると、アクセス制御部318を呼び出して、当該要求元がこれらのデータを取得する権限を有するか否か判断させる。
予測データ算出部306は、記憶装置312に保存されている測定データと、記憶装置310に保存されている相関情報とを使用して予測データを算出する。相関情報とは、相関するセンサの予測データを算出するための情報であり、各センサの予測データの算出式を採用することができる。予測データの算出式は、正常に稼働している制御システムの過去のセンサデータを元に、重回帰分析やVAR(Vector Auto Regression)分析等の多変量解析によって導出される重回帰モデルやVARモデル等の予測式である。本実施形態では、予測データの算出式は、その目的変数として、例えば、(1)相関のあるセンサの測定データ、(2)相関のあるセンサの予測データ、(3)予測データを算出すべきセンサが出力した直前の1または複数の測定データ等を採用することができる。
記憶装置310に格納される相関情報は、制御システムの運用と共に順次更新することができ、より正確な相関情報を利用することによって、予測データの精度を経時的に向上させることができる。
データ保存部308は、制御システム200内の各センサの測定データおよび予測データを、その取得時間または保存時間と共に、それぞれ記憶装置312,314に保存する。測定データおよび予測データについては、図5および図6を参照して詳細に説明する。
また、分析サーバ130は、検証部316と、アクセス制御部318と、記憶装置320と、認証情報データベース322とを含む。
検証部316は、制御システム200内で異常が発生しているか否か検証する。検証部316は、センサから受信した測定データや予測データ算出部306が算出した予測データ、エラーイベント等を使用して、制御システム200内の装置やネットワークに障害が発生していないか検証することができる。
具体的には、検証部316は、定期的に各センサから受信する予定の測定データを受信していない場合、当該受信していない測定データを生成または送信すべきであったセンサ、またはこれに接続されたネットワークケーブルやICSゲートウェイ等のネットワーク機器に障害が発生していると判断することができる。
この場合、検証部316は、定期的に受信する測定データの送信元のセンサ識別情報が記述された設定情報等を予め記憶装置に保持しておき、実際に受信した測定データに付加されているセンサ識別情報と、当該設定情報に含まれるセンサ識別情報とを照合する。そして、当該設定情報に含まれるセンサ識別情報を有する測定データを受信していない場合には、当該センサ識別情報が示すセンサや、これに接続されたネットワーク機器に障害が発生していると判断することができる。また、センサに障害が発生した場合に当該センサやICSゲートウェイがエラーイベントを発行するようにし、検証部316が、当該エラーイベントにより障害の発生を検知することもできる。
また、検証部316は、複数のセンサから測定データを受信していない場合であって、これらのセンサが同一のICSゲートウェイに接続されているときは、当該ICSゲートウェイやケーブル等のネットワーク機器に障害が発生しているものと判断することができる。この場合、検証部316は、上述したような設定情報に含まれるセンサ識別情報と、実際に受信した測定データに付加されているセンサ識別情報とを照合する。そして、複数の測定データを受信しておらず、かつ、センサ識別情報に含まれるICSゲートウェイから、未受信の測定データの送信元であるICSゲートウェイが同一であると判断した場合には、当該ICSゲートウェイやケーブル等のネットワーク機器に障害が発生しているものと判断することができる。また、ネットワーク機器に障害が発生した場合にICSゲートウェイがエラーイベントを発行するようにし、検証部316が、当該エラーイベントにより障害の発生を検知することもできる。
さらに、検証部316は、センサから受信した測定データが異常値である場合には、当該センサに障害が発生しているものと判断することができる。この場合、各センサの識別情報と、その測定データの許容範囲とを関連付けて、設定情報として記憶装置に保持しておく。検証部316は、当該設定情報を参照し、センサから受信した測定データが、当該測定データに付加されたセンサ識別情報に関連付けられた許容範囲内にあるか否か判断することにより、測定データが異常値であるか判断することができる。また、検証部316は、センサから受信した測定データと、当該測定データに対応する予測データ算出部306の算出した予測データとを比較し、これらのデータの差分値が所定の許容範囲を超える場合、測定データが異常値であると判断することができる。
検証部316は、いずれの測定データが異常値であるかを示す検証結果を記憶装置320に保存する。本実施形態では、検証結果として、測定データが異常値であると判断したセンサのセンサ識別情報と、その測定データの日時とを使用する。この検証結果は、測定データおよび予測データと共に、これらのデータの要求元であるICSグローバルゲートウェイ等の装置に提供される。要求元の装置は、当該検証結果を参照することにより、いずれの測定データが異常であるか判断することができ、そのポリシーに従って、測定データまたは予測データを選択的に利用することができる。
本実施形態では、検証部316を分析サーバ130内の機能手段として構成しているが、他の実施形態では、当該機能手段を分析サーバ130内に設けるのではなく、当該検証機能を有する情報処理装置である検証サーバを含む制御システムとして構成してもよい。
この場合、検証サーバは、分析サーバから測定データおよび予測データを取得し、またはICSゲートウェイから測定データを取得すると共に分析サーバから予測データを取得し、測定データおよびは予測データと上記設定情報とを使用して、制御システム200内で異常が発生しているか否か検証することができる。また、上述したように各センサやネットワーク機器に障害が発生した場合にセンサやICSゲートウェイがエラーイベントを発行し、検証サーバが、障害の発生を検知することもできる。さらに、分析サーバが受信すべき測定データを未受信の場合に、その旨を検証サーバに通知し、検証サーバが障害の発生を検知することもできる。検証サーバは、その検証結果を分析サーバ130に提供する。
アクセス制御部318は、測定データおよび予測データの送信を要求する送信元が当該データの取得権限を有するか判断する。本実施形態では、制御システム200内のICSグローバルゲートウェイおよびICSゲートウェイが測定データおよび予測データを要求することが想定される。これらの装置は、自身の識別情報、すなわち、ICSグローバルゲートウェイの識別情報およびICSゲートウェイ識別情報を当該要求と共に送信する。
アクセス制御部318は、ICSグローバルゲートウェイの識別情報およびICSゲートウェイ識別情報と、これらの識別情報が示すICSグローバルゲートウェイまたはICSゲートウェイの取得権限の有無を示す情報とが関連付けて登録された認証情報データベース322を参照し、要求元の装置が測定データおよび予測データの取得権限を有するか否か判断することができる。
図3に示す実施形態では、相関情報、測定データ、予測データ、検証結果、認証情報データベースを分析サーバ130内の記憶装置に保存するように構成しているが、他の実施形態では、分析サーバ130がアクセス可能な外部記憶装置にこれらの情報を保存するようにしてもよい。
図4は、本実施形態の分析サーバが実行する処理の一実施形態を示すフローチャートである。以下、図4を参照して、分析サーバ130が実行する処理について説明する。
図4の処理は、ステップS400から開始し、ステップS401では、分析サーバ130の制御部304が、制御システム200内の装置から要求を受信したか否か判断する。要求を受信していない場合には(no)、ステップS401の処理を反復させて要求を待機する。一方、要求を受信したと判断した場合には(yes)、処理をステップS402に分岐させる。
ステップS402では、制御部304は、受信した要求の種類を判断し、要求の種類が測定データの登録要求であると判断した場合には、処理をステップS403に分岐させる。ステップS403では、制御部304は予測データ算出部306を呼び出し、予測データ算出部306が、記憶装置310に格納されている相関情報と、登録要求と共に受信した測定データとを使用して、当該測定データに対応する予測データを算出する。ステップS404では、制御部304はデータ保存部308を呼び出し、データ保存部308が、受信した測定データと、予測データ算出部306が算出した予測データとを、記憶装置312,314に保存する。
ステップS405では、制御部304は検証部316を呼び出し、検証部316が、制御システム200内に異常が発生していないか検証する。ステップS406では、検証部316は検証結果を記憶装置320に保存し、ステップS401に処理を戻す。
一方、ステップS402の判定で、受信した要求の種類が、測定データおよび予測データの送信要求であると判断した場合には、処理をステップS407に分岐させる。ステップS407では、制御部304はアクセス制御部318を呼び出し、アクセス制御部318が、当該要求の送信元がデータの取得権限を有するか判断し、当該権限を有していない場合には(no)、処理をステップS401に戻す。一方、要求の送信元が当該権限を有している場合には(yes)、処理をステップS408に分岐させる。ステップS408では、制御部304は、記憶装置312,314,320から測定データ、予測データおよび検証結果を取得して、要求の送信元にこれらのデータを送信し、処理をステップS401に戻す。
本実施形態では、制御部304は、要求送信元に対して、測定データおよび予測データをマージしないで送信するが、他の実施形態では、取得不能の測定データや異常値である測定データを、対応する予測データで代替してマージし、そのマージデータを送信してもよい。この場合、要求送信元の装置は、マージデータと共に受信する検証結果を参照することにより、いずれの測定データが予測データによって代替されたか判断することができる。
また、本実施形態では、測定データの登録要求を受信したときに予測データを算出するが、他の実施形態では、検証部316または検証サーバが、上述したエラーイベントの受信や測定データの未受信によってセンサやネットワーク機器等の異常を検出したときに、分析サーバ130が予測データを算出するようにしてもよい。この場合、分析サーバ130は、その検出結果を測定データおよび予測データと共に要求送信元に送信する。
図5および図6は、本実施形態の測定データおよび予測データを保存するデータテーブルの一実施形態を示す図である。以下、図5および図6を参照して、データテーブル510,520,610,620について説明する。
データテーブル510は、制御システム200の各センサの測定データが格納されるデータテーブルであり、分析サーバ130がアクセス可能な記憶装置に構築される。データテーブル510のデータフィールドである日時511には、測定データの取得日時または保存日時が登録され、当該日時毎に圧力センサ242、温度センサ244、湿度センサ246および人感センサ248の測定データが、これらのセンサのデータフィールド512,513,514,515に登録される。
データテーブル520は、分析サーバ130の算出した予測データが格納されるデータテーブルであり、分析サーバ130がアクセス可能な記憶装置に構築される。データテーブル520のデータフィールドである日時521には、データテーブル510と同様に、予測データの算出日時または保存日時が登録され、当該日時毎に圧力センサ242、温度センサ244および湿度センサ246の予測データが、これらのセンサのデータフィールド522,523,524に登録される。
図5に示す実施形態では、温度センサ244および湿度センサ246が強い相関関係を有しており、これらのデータフィールドには、相関するセンサの測定データ等を使用して算出した予測データが登録される。例えば、日時「2011/1/11 10:10」における温度センサ244の予測データ(温度「28.1℃」)は、温度センサ244に相関する湿度センサ246の当該日時における測定データ(湿度「60%」)を目的変数とする相関情報を使用して算出することができる。同様に、日時「2011/1/11 10:10」における湿度センサ246の予測データ(湿度「61%」)は、当該日時の温度センサ244の測定データ(湿度「28.2℃」)を目的変数とする相関情報を使用して算出することができる。
さらに、日時「2011/1/11 10:10」における圧力センサ242の予測データ(圧力「980hPa」)は、圧力センサ242と相対的に弱い相関関係を有する温度センサ244および湿度センサ246の当該日時における測定データ(温度「28.2℃」および湿度「60%」)を目的変数とする相関情報を使用して算出してもよい。
図6に示すデータテーブル610,620は、図5に示すデータテーブルに対して測定データおよび予測データを追加登録した状態のデータテーブルである。
データテーブル610は、日時「2011/1/11 10:40」〜「2011/1/11 11:00」における温度センサ244の測定データが登録されておらず、制御システム内で異常が発生したことにより、当該温度センサの測定データが取得不能であることを示している。一方、データテーブル620は、当該日時における湿度センサ246の測定データを使用して算出された温度センサ244の予測データが登録される。また、当該日時における湿度センサ246の予測データは、当該日時における温度センサ244の測定データを目的変数とする相関情報の代わりに、当該日時における温度センサ244の予測データを目的変数とする相関情報を使用して算出することができる。
図5および図6に示す実施形態では、測定データおよび予測データをデータテーブル形式で保存するが、他の実施形態では、測定データおよび予測データをログやジャーナル等に記述して保存してもよい。
これまで本実施形態につき説明してきたが、本発明は、上述した実施形態に限定されるものではなく、当該実施形態の機能手段の変更や削除、他の機能手段の追加など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
100…制御システム、110…グローバルゲートウェイ、112,114,116…ICSゲートウェイ、120〜127…センサ、130…分析サーバ、140…外部ネットワーク、200…制御システム、210…グローバルゲートウェイ、222,224…ICSゲートウェイ、230…原子力発電システム、232…原子炉格納容器、234…タービン、236…発電機、238…蒸気発生器、240…排出管、242…圧力センサ、244…温度センサ、246…湿度センサ、248…人感センサ、250,252…ネットワーク

Claims (18)

  1. ネットワークに接続された複数の装置のデータを処理する制御システムであって、
    前記ネットワークに含まれる個別ネットワークに接続され、互いに相関する少なくとも2以上の装置と、
    前記複数の装置から測定データを受信し、相関する装置の予測データを導出する相関情報と前記測定データとを使用して予測データを算出し、前記測定データおよび予測データを提供する情報処理装置と
    を含む、制御システム。
  2. 前記相関する少なくとも2以上の装置はセンサであり、異種のセンサが前記個別ネットワークに接続される、請求項1に記載の制御システム。
  3. 前記情報処理装置は、前記制御システム内で異常が発生しているか検証し、前記測定データおよび予測データと共に検証結果を提供する、請求項1に記載の制御システム。
  4. 前記制御システムは、
    前記制御システム内で異常が発生しているか検証する情報処理装置をさらに含む、請求項1に記載の制御システム。
  5. 前記測定データおよび予測データを提供する情報処理装置は、前記検証する情報処理装置の検証結果を、前記測定データおよび予測データと共に提供する、請求項4に記載の制御システム。
  6. 前記相関情報は、相関する装置の測定データを目的変数とする予測式である、請求項1に記載の制御システム。
  7. 前記相関情報は、予測データを算出すべき装置の過去の測定データを目的変数とする予測式である、請求項6に記載の制御システム。
  8. 前記相関情報は、相関する装置の予測データを目的変数とする予測式である、請求項6に記載の制御システム。
  9. 前記制御システムはICSである、請求項1に記載の制御システム。
  10. 複数の装置のうち相関する少なくとも2以上の装置がネットワークの個別ネットワークに接続されたシステムにおいて、前記複数の装置のデータを処理する情報処理装置が実行する方法であって、前記情報処理装置が、
    前記複数の装置から測定データを受信するステップと、
    相関する装置の予測データを導出する相関情報と、前記測定データとを使用して予測データを算出するステップと、
    前記測定データおよび予測データを提供するステップと
    を含む方法。
  11. 前記相関する少なくとも2以上の装置はセンサであり、異種のセンサが前記個別ネットワークに接続される、請求項10に記載の方法。
  12. さらに、前記システム内で異常が発生しているか検証するステップと、
    前記検証するステップの結果を、前記測定データおよび予測データと共に提供するステップとを含む、請求項10に記載の方法。
  13. さらに、前記測定データおよび予測データの要求元の取得権限の有無を示す認証情報データベースを参照して、前記要求元が取得権限を有するか否か判断するステップと、
    前記要求元が取得権限を有する場合に、前記測定データおよび予測データを提供するステップとを含む、請求項10に記載の方法。
  14. 前記相関情報は、相関する装置の測定データを目的変数とする予測式である、請求項10に記載の方法。
  15. 前記相関情報は、予測データを算出すべき装置の過去の測定データを目的変数とする予測式である、請求項14に記載の方法。
  16. 前記相関情報は、相関する装置の予測データを目的変数とする予測式である、請求項14に記載の方法。
  17. 複数の装置のうち相関する少なくとも2以上の装置がネットワークの個別ネットワークに接続されたシステムにおいて、前記複数の装置のデータを処理する情報処理装置が実行する方法を、前記情報処理装置が実行するためのプログラムであって、前記プログラムは、前記情報処理装置が
    前記複数の装置から測定データを受信するステップと、
    相関する装置の予測データを導出する相関情報と、前記測定データとを使用して予測データを算出するステップと、
    前記測定データおよび予測データを提供するステップと
    を実行するための装置実行可能なプログラム。
  18. ネットワークに接続された複数の装置のデータを処理する制御システムであって、
    前記ネットワークに含まれる個別ネットワークに接続され、互いに相関する少なくとも2以上の装置と、
    前記複数の装置から測定データを受信し、相関する装置の予測データを導出する相関情報と前記測定データとを使用して予測データを算出し、前記測定データおよび予測データを提供する情報処理装置と
    を含み、前記相関する少なくとも2以上の装置はセンサであり、異種のセンサが前記個別ネットワークに接続され、前記情報処理装置は、前記測定データおよび予測データと共に検証結果を提供しており、前記検証結果は、前記制御システム内で異常が発生しているか検証する情報処理装置により提供され、前記相関情報は、相関する装置の測定データを目的変数とする予測式、予測データを算出すべき装置の過去の測定データを目的変数とする予測式、および/または相関する装置の予測データを目的変数とする予測式である、制御システム。
JP2011022539A 2011-02-04 2011-02-04 制御システム、方法およびプログラム Expired - Fee Related JP5739182B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011022539A JP5739182B2 (ja) 2011-02-04 2011-02-04 制御システム、方法およびプログラム
US13/365,626 US20120203508A1 (en) 2011-02-04 2012-02-03 Increasing Availability of an Industrial Control System
US13/803,388 US10678911B2 (en) 2011-02-04 2013-03-14 Increasing availability of an industrial control system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011022539A JP5739182B2 (ja) 2011-02-04 2011-02-04 制御システム、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2012164052A true JP2012164052A (ja) 2012-08-30
JP5739182B2 JP5739182B2 (ja) 2015-06-24

Family

ID=46601256

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011022539A Expired - Fee Related JP5739182B2 (ja) 2011-02-04 2011-02-04 制御システム、方法およびプログラム

Country Status (2)

Country Link
US (2) US20120203508A1 (ja)
JP (1) JP5739182B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107491057A (zh) * 2016-06-10 2017-12-19 通用电气公司 保护工业资产控制系统的系统及方法及计算机可读介质

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5739182B2 (ja) 2011-02-04 2015-06-24 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 制御システム、方法およびプログラム
JP5731223B2 (ja) 2011-02-14 2015-06-10 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 異常検知装置、監視制御システム、異常検知方法、プログラムおよび記録媒体
JP5689333B2 (ja) 2011-02-15 2015-03-25 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 異常検知システム、異常検知装置、異常検知方法、プログラムおよび記録媒体
US9177139B2 (en) * 2012-12-30 2015-11-03 Honeywell International Inc. Control system cyber security
US10257665B2 (en) * 2013-02-25 2019-04-09 Qualcomm Incorporated Analytics engines for IoT devices
US10833893B2 (en) 2014-05-13 2020-11-10 Senseware, Inc. System, method and apparatus for integrated building operations management
US10652767B1 (en) * 2014-05-13 2020-05-12 Senseware, Inc. System, method and apparatus for managing disruption in a sensor network application
US10687231B1 (en) 2014-05-13 2020-06-16 Senseware, Inc. System, method and apparatus for presentation of sensor information to a building control system
US9534930B1 (en) 2014-05-13 2017-01-03 Senseware, Inc. System, method and apparatus for sensor activation
US9876653B1 (en) 2014-05-13 2018-01-23 Senseware, Inc. System, method and apparatus for augmenting a building control system domain
US10149141B1 (en) 2014-05-13 2018-12-04 Senseware, Inc. System, method and apparatus for building operations management
CN105354755B (zh) * 2015-09-30 2019-12-03 冯小林 基于物联网的供水设备的管理方法
RU2625051C1 (ru) 2016-02-18 2017-07-11 Акционерное общество "Лаборатория Касперского" Система и способ обнаружений аномалий в технологической системе
EP3214511B1 (de) 2016-03-04 2018-05-09 Siemens Aktiengesellschaft Kontrollierte bereitstellung von steuerungsdaten
US9781603B1 (en) * 2016-10-20 2017-10-03 Fortress Cyber Security, LLC Combined network and physical security appliance
NL2019123B1 (en) * 2017-06-26 2019-01-07 Epesi Creative New Media B V Method and system of presence detection
US11943236B2 (en) * 2018-04-26 2024-03-26 Hitachi Energy Ltd Technologies for detecting cyber-attacks against electrical distribution devices

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06348239A (ja) * 1993-06-07 1994-12-22 Mitsubishi Electric Corp 運転状態修復表示装置
JP2003114294A (ja) * 2001-10-04 2003-04-18 Toshiba Corp 発電プラントの監視・診断・検査・保全システム
JP2009529187A (ja) * 2006-03-03 2009-08-13 インリックス インコーポレイテッド モバイルデータソースからのデータを使用する道路交通状況の評価
JP2010267119A (ja) * 2009-05-15 2010-11-25 Toshiba Corp 入力装置の更新方法

Family Cites Families (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4344142A (en) * 1974-05-23 1982-08-10 Federal-Mogul Corporation Direct digital control of rubber molding presses
DE2913402A1 (de) * 1979-04-04 1980-10-09 Tekade Felten & Guilleaume Geraet zur fernueberwachung und zur signalisierung von zustandsaenderungen zyklisch abgefragter kennfrequenzueberwachungssender
JPS566134A (en) 1979-06-28 1981-01-22 Nissan Motor Co Ltd Diagnostic unit of controller for car
US4902469A (en) * 1986-05-05 1990-02-20 Westinghouse Electric Corp. Status tree monitoring and display system
US5132920A (en) * 1988-02-16 1992-07-21 Westinghouse Electric Corp. Automated system to prioritize repair of plant equipment
DE69511556D1 (de) 1994-06-01 1999-09-23 Quantum Leap Innovations Inc Computervirenfalle
JP3291930B2 (ja) 1994-08-31 2002-06-17 日本電信電話株式会社 サービス処理機能監視方法及びその装置
JPH0969083A (ja) 1995-08-31 1997-03-11 Toshiba Corp 分散運用管理方式及び障害管理方式
US5761090A (en) * 1995-10-10 1998-06-02 The University Of Chicago Expert system for testing industrial processes and determining sensor status
JP3374638B2 (ja) 1996-02-29 2003-02-10 株式会社日立製作所 システム管理/ネットワーク対応表示方法
JP3381927B2 (ja) 1997-01-17 2003-03-04 インターナシヨナル・ビジネス・マシーンズ・コーポレーシヨン 分散コンピュータ・システムにおいて資源を保護する方法
EP1002406B1 (en) 1997-06-25 2005-01-19 Samsung Electronics Co. Ltd. Programm guide generation for home networks
US6275938B1 (en) 1997-08-28 2001-08-14 Microsoft Corporation Security enhancement for untrusted executable code
JP2000047987A (ja) 1998-07-30 2000-02-18 Fuji Photo Film Co Ltd データ出力方法および装置並びに記録媒体
US7636915B1 (en) * 1999-12-02 2009-12-22 Invensys Systems, Inc. Multi-level multi-variable control process program execution scheme for distributed process control systems
JP2001243587A (ja) 2000-02-25 2001-09-07 Toshiba Corp 道路交通管理システム
JP2002007234A (ja) 2000-06-20 2002-01-11 Mitsubishi Electric Corp 不正メッセージ検出装置、不正メッセージ対策システム、不正メッセージ検出方法、不正メッセージ対策方法、及びコンピュータ読み取り可能な記録媒体
JP3687782B2 (ja) 2000-09-29 2005-08-24 Kddi株式会社 不正侵入防止システム
JP2002149614A (ja) 2000-11-07 2002-05-24 Tacka Inc エージェント型ライセンス管理システム及びコンポーネント配信システム
GB2371125A (en) 2001-01-13 2002-07-17 Secr Defence Computer protection system
US20020176378A1 (en) 2001-05-22 2002-11-28 Hamilton Thomas E. Platform and method for providing wireless data services
JP4683518B2 (ja) 2001-07-24 2011-05-18 Kddi株式会社 不正侵入防止システム
US7137145B2 (en) 2002-04-09 2006-11-14 Cisco Technology, Inc. System and method for detecting an infective element in a network environment
US7254520B2 (en) * 2002-05-14 2007-08-07 Analysis And Measurement Services Corporation Testing of wire systems and end devices installed in industrial processes
US8909926B2 (en) 2002-10-21 2014-12-09 Rockwell Automation Technologies, Inc. System and methodology providing automation security analysis, validation, and learning in an industrial controller environment
JP2004234401A (ja) 2003-01-31 2004-08-19 Hitachi Ltd セキュリティ診断情報収集システム及びセキュリティ診断システム
JP4581104B2 (ja) 2003-03-28 2010-11-17 学校法人明治大学 ネットワークセキュリティシステム
JP4256231B2 (ja) 2003-08-08 2009-04-22 富士通テン株式会社 電子制御装置、asicおよび保護システム
AU2004316286A1 (en) 2003-11-20 2005-09-09 Biowarn, Llc Methodology and apparatus for the detection of biological substances
JP4261389B2 (ja) 2004-03-03 2009-04-30 東芝ソリューション株式会社 不正アクセス検出装置及び不正アクセス検出プログラム
JP2005277655A (ja) 2004-03-24 2005-10-06 Sony Corp 入出力端末、マスタ装置、スレーブ装置、情報処理システムおよび方法、ならびに入出力端末用、マスタ装置用およびスレーブ装置用プログラム
US7908653B2 (en) 2004-06-29 2011-03-15 Intel Corporation Method of improving computer security through sandboxing
JP4398316B2 (ja) 2004-07-13 2010-01-13 富士通株式会社 ネットワーク管理装置、ネットワーク管理方法、およびプログラム
US7375794B2 (en) 2004-08-04 2008-05-20 Asml Netherlands B.V. Lithographic apparatus and device manufacturing method
US7409719B2 (en) 2004-12-21 2008-08-05 Microsoft Corporation Computer security management, such as in a virtual machine or hardened operating system
US20060143709A1 (en) 2004-12-27 2006-06-29 Raytheon Company Network intrusion prevention
JP2006252256A (ja) 2005-03-11 2006-09-21 Nec Soft Ltd ネットワーク管理システム、方法およびプログラム
US20060236374A1 (en) 2005-04-13 2006-10-19 Rockwell Automation Technologies, Inc. Industrial dynamic anomaly detection method and apparatus
AU2006236283A1 (en) 2005-04-18 2006-10-26 The Trustees Of Columbia University In The City Of New York Systems and methods for detecting and inhibiting attacks using honeypots
JP4509904B2 (ja) 2005-09-29 2010-07-21 富士通株式会社 ネットワークセキュリティ装置
JP2007274027A (ja) 2006-03-30 2007-10-18 Hitachi Electronics Service Co Ltd リモートオペレーションシステム
US7539845B1 (en) 2006-04-14 2009-05-26 Tilera Corporation Coupling integrated circuits in a parallel processing environment
JP2008015722A (ja) 2006-07-05 2008-01-24 Hitachi Electronics Service Co Ltd データ処理システム
US7373267B2 (en) 2006-09-29 2008-05-13 Rockwell Automation Technologies, Inc. System performance monitoring system
JP2008097164A (ja) 2006-10-10 2008-04-24 Hitachi Ltd 複数の機能要素から構成されるシステムの故障監視方法
US8949826B2 (en) 2006-10-17 2015-02-03 Managelq, Inc. Control and management of virtual systems
CN101600886B (zh) * 2007-01-15 2013-07-17 维斯塔斯风力系统有限公司 用于风电场监视和控制的系统和方法
US7853675B2 (en) 2007-03-02 2010-12-14 International Business Machines Corporation Automatically enforcing change control in operations performed by operational management products
EP2015182A3 (en) 2007-05-30 2010-03-24 Hitachi Ltd. Distributed system
US7649452B2 (en) 2007-06-29 2010-01-19 Waterfall Solutions Ltd. Protection of control networks using a one-way link
JP5083760B2 (ja) 2007-08-03 2012-11-28 独立行政法人情報通信研究機構 マルウェアの類似性検査方法及び装置
US8327130B2 (en) 2007-09-25 2012-12-04 Rockwell Automation Technologies, Inc. Unique identification of entities of an industrial control system
JP5136159B2 (ja) 2008-03-31 2013-02-06 富士通株式会社 構成情報管理装置、構成情報管理プログラム及び構成情報管理方法
JP4521456B2 (ja) 2008-09-05 2010-08-11 株式会社東芝 情報処理システムおよび情報処理システムの制御方法
US8229575B2 (en) 2008-09-19 2012-07-24 Rockwell Automation Technologies, Inc. Automatically adjustable industrial control configuration
US20110020122A1 (en) * 2009-07-24 2011-01-27 Honeywell International Inc. Integrated condition based maintenance system for wind turbines
US8479286B2 (en) 2009-12-15 2013-07-02 Mcafee, Inc. Systems and methods for behavioral sandboxing
JP2011154410A (ja) 2010-01-25 2011-08-11 Sony Corp 解析サーバ及びデータ解析方法
US8556188B2 (en) * 2010-05-26 2013-10-15 Ecofactor, Inc. System and method for using a mobile electronic device to optimize an energy management system
JP5739182B2 (ja) 2011-02-04 2015-06-24 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 制御システム、方法およびプログラム
JP5731223B2 (ja) 2011-02-14 2015-06-10 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 異常検知装置、監視制御システム、異常検知方法、プログラムおよび記録媒体
JP5689333B2 (ja) 2011-02-15 2015-03-25 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 異常検知システム、異常検知装置、異常検知方法、プログラムおよび記録媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06348239A (ja) * 1993-06-07 1994-12-22 Mitsubishi Electric Corp 運転状態修復表示装置
JP2003114294A (ja) * 2001-10-04 2003-04-18 Toshiba Corp 発電プラントの監視・診断・検査・保全システム
JP2009529187A (ja) * 2006-03-03 2009-08-13 インリックス インコーポレイテッド モバイルデータソースからのデータを使用する道路交通状況の評価
JP2010267119A (ja) * 2009-05-15 2010-11-25 Toshiba Corp 入力装置の更新方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107491057A (zh) * 2016-06-10 2017-12-19 通用电气公司 保护工业资产控制系统的系统及方法及计算机可读介质
CN107491057B (zh) * 2016-06-10 2021-12-31 通用电气公司 保护工业资产控制系统的系统及方法及计算机可读介质

Also Published As

Publication number Publication date
US20130205393A1 (en) 2013-08-08
JP5739182B2 (ja) 2015-06-24
US10678911B2 (en) 2020-06-09
US20120203508A1 (en) 2012-08-09

Similar Documents

Publication Publication Date Title
JP5739182B2 (ja) 制御システム、方法およびプログラム
CN109637680B (zh) 核电站泄漏监测报警方法及报警系统
JP5901140B2 (ja) システムの高い可用性のためにセンサデータを補間する方法、コンピュータプログラム、システム。
US20180024900A1 (en) Methods and system for detecting false data injection attacks
CN104915768A (zh) 一种用于核电厂严重事故诊断及响应支持的方法及系统
Soria et al. Vibration monitoring of a steel-plated stress-ribbon footbridge: Uncertainties in the modal estimation
CN104215974A (zh) 一种卫星导航系统的完好性监测可用性确定方法
EP2918976B1 (en) Smart meter Privacy Analyzer
CN108696368B (zh) 一种网元健康状态的检测方法及设备
Dragos et al. On‐board data synchronization in wireless structural health monitoring systems based on phase locking
US11048565B2 (en) Control system and control apparatus
US11243266B2 (en) Transformer hydrogen gas monitoring system, device, and method
JP2013092929A5 (ja)
US20220299398A1 (en) Gas monitoring system
Ellinas et al. Critical infrastructure systems: Basic principles of monitoring, control, and security
KR20140109596A (ko) 미검침 구간의 검침 데이터 예측 및 보정 방법과 그 장치
JPWO2016163163A1 (ja) 閾値演算システム、及び、閾値演算方法
KR20190128420A (ko) 클라우드 기반 가상 센서를 이용한 IoT 센서 이상 진단 방법 및 시스템
WO2016125248A1 (ja) 保守支援システム、保守支援方法、及び、保守支援プログラム
US8738326B2 (en) Performance characteristic calculation and comparison
JP2014026327A (ja) 実稼働データによる機器の状態診断装置
JP2015018477A (ja) 電子計量システム及び電子計量器のプログラム改竄処理方法
WO2021014539A1 (ja) セキュリティ管理装置、セキュリティ管理方法、及び非一時的なコンピュータ可読媒体
JP5958987B2 (ja) 情報処理装置、故障診断制御装置、故障判定方法、故障判定プログラム
Wang et al. Multiorder frequency-based integral performance warning of bridges considering multiple environmental effects

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140731

TRDD Decision of grant or rejection written
RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20150331

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150423

R150 Certificate of patent or registration of utility model

Ref document number: 5739182

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees