JP2016533107A - 有害動作体の自動ブロッキング - Google Patents

Abstract

一態様によれば、本発明の実施形態は、ネットワークへのアクセスを制限するためのシステムであって、複数のネットワークアクセスポイントに結合され、複数のネットワークセキュリティ機器を介したネットワークへの伝送を監視するように構成された監視モジュールと、ブロッキングモジュールとを備え、監視モジュールは、さらに、複数のネットワークアクセスポイントの第１の１つおよび複数のネットワークセキュリティ機器の第１の１つを介した、潜在的な有害動作体からネットワークへの伝送に基づいて、潜在的な有害動作体を特定し、潜在的な有害動作体に関連する情報をブロッキングモジュールに提供するように構成され、ブロッキングモジュールは、潜在的有害動作体がブロックされるべきであることを確認するように、また、それに応答して、潜在的な有害動作体がネットワークにアクセスすることをブロックするように各々のネットワークセキュリティ機器を自動的に構成するように構成される、システムを提供する。【選択図】図１

Description

本発明の態様は、特定された有害動作体がネットワークにアクセスすることを防止するためのシステムおよび方法に関する。

大規模小売業者は、一般に、さまざまな場所の消費者および／またはデバイスがそれによって通信することができるネットワークを運用している。たとえば、小売業者は、ネットワークを利用してさまざまな場所（たとえば、さまざまな店、または管理事務所）にあるデバイス（たとえば、サーバ、ルータ、データベースなど）間で情報を渡すこと、または消費者によってなされた注文を実行することができる。消費者は、ネットワークを利用して複数の店の在庫を検索または発注することができる。そのようなネットワークは、あらゆる数のさまざまなタスクに対して小売業および／または消費者によって利用され得る。有害な動作の実行を意図する（たとえば、情報を盗む、ネットワークに害を与える、小売業者に害を与える、消費者に害を与える、誤った情報をネットワークに投入するなど）第三者がネットワークにアクセスすることを防止することが、大規模小売業者の共通の目標である。

本明細書において説明される実施形態は、特定された有害動作体をネットワークの各々のアクセスポイントにわたって自動的にブロックするためのシステムおよび方法を提供する。有害動作体が特定された後、有害動作体は、ブロックの迂回を防止するためにネットワークの各々のアクセスポイントにおいて自動的にブロックされる。特定されると、有害動作体は、各々のネットワークセキュリティ機器においてネットワークにわたって自動的にブロックされるため、有害動作体をネットワークの各々のアクセスポイントにわたって同時にかつ自動的にブロックすることにより、特定された有害動作体によるブロック迂回に関する問題は低減され得る。したがって、特定された有害動作体を各々の個々のネットワークセキュリティ機器において手動でブロックする時間が無駄に費やされない。

さらに、本明細書において説明される少なくとも１つの実施形態によれば、ブロックがユーザによってネットワークにわたって開始される前、認証されない人がブロックを開始することを防止するために、ブロックを開始するためのユーザ認証が確認される。本明細書において説明される少なくとも１つの他の実施形態によれば、特定された有害動作体のインターネットプロトコル（ＩＰ）アドレスが、ＩＰアドレス（たとえば小売業者によって使用される外部または内部ＩＰアドレス）の少なくとも１つのリストと比較されて、特定された有害動作体のＩＰアドレスが、小売業者によって実際に使用されているかどうかをチェックする。このようにして、小売業者は、小売業者自身または認証された販売業者がネットワークにアクセスすることをブロックすることが防止され得る。本明細書において説明される少なくとも１つの他の実施形態によれば、ブロックが第１のユーザによってネットワークにわたって開始される前、ブロックが適切であることを確実にするために、第２のユーザによるブロックの確認が受け取られなければならない。

本発明の少なくとも１つの実施形態に係る態様は、ネットワークへのアクセスを制限するためのシステムであって、複数のネットワークアクセスポイントと、複数のネットワークアクセスポイントの少なくとも１つとネットワークの間に各々結合された複数のネットワークセキュリティ機器と、複数のネットワークアクセスポイントとネットワークの間に結合され、複数のネットワークセキュリティ機器を介した複数のアクセスポイントとネットワークの間の伝送を監視するように構成された監視モジュールと、監視モジュールおよび複数のネットワークセキュリティ機器に結合されたブロッキングモジュールとを備え、監視モジュールは、さらに、複数のネットワークアクセスポイントの第１の１つおよび複数のネットワークセキュリティ機器の第１の１つを介した潜在的な有害動作体からネットワークへの伝送に基づいて、潜在的な有害動作体を特定し、潜在的な有害動作体に関する情報をブロッキングモジュールに提供するように構成され、ブロッキングモジュールは、潜在的な有害動作体がネットワークにアクセスすることがブロックされるべきであることを確認するように、また、それに応答して、複数のネットワークセキュリティ機器の各々１つを潜在的な有害動作体がネットワークにアクセスすることをブロックするように自動的に構成するように構成される、システムを対象とする。

一実施形態によれば、監視モジュールは、さらに、潜在的な有害動作体からの伝送内で少なくとも１つの所定のトリガを特定することによって潜在的な有害動作体を特定するように構成される。

別の実施形態によれば、複数のネットワークセキュリティ機器の少なくとも１つは、ファイアウォールである。一実施形態では、ブロッキングモジュールは、さらに、潜在的な有害動作体が各々のファイアウォールを介してネットワークにアクセスすることをブロックするために、ＳＨＵＮ命令を複数のネットワークセキュリティ機器内の各々のファイアウォールに伝送するように構成される。

一実施形態によれば、複数のネットワークセキュリティ機器の少なくとも１つは、侵入防止システム（ＩＰＳ：Ｉｎｔｒｕｓｉｏｎ Ｐｒｅｖｅｎｔｉｏｎ Ｓｙｓｔｅｍ）である。一実施形態では、ブロッキングモジュールは、さらに、複数のネットワークセキュリティ機器内の各々のＩＰＳの隔離リストを、潜在的な有害動作体が各々のＩＰＳを介してネットワークにアクセスすることをブロックするよう更新するように構成される。

別の実施形態によれば、システムは、さらに、少なくとも１つのセキュリティ端末を備え、セキュリティ端末は、監視モジュールに結合され、特定された潜在的な有害動作体の表示を第１のユーザに表示するように、また、少なくとも１つのセキュリティ端末における第１のユーザの入力に基づいて、潜在的な有害動作体に関連する情報をブロッキングモジュールに自動的に伝達するよう監視モジュールを駆動するように構成される。一実施形態では、ブロッキングモジュールは、さらに、少なくとも１つのセキュリティ端末を介して、ブロッキングモジュールにアクセスするように第１のユーザが認証されていることを確認するように構成される。別の実施形態では、ブロッキングモジュールは、さらに、少なくとも１つのセキュリティ端末を介して、ブロッキングモジュールにアクセスするように第１のユーザが認証されていることを確認するために、少なくとも１つのセキュリティ端末において２要素認証を求めるように構成される。

一実施形態によれば、システムは、さらに、インターネットプロトコル（ＩＰ）アドレスのリストを含む少なくとも１つのセキュリティ端末に結合されたデータベースを備え、この場合、ブロッキングモジュールによって監視モジュールから受け取られた潜在的な有害動作体に関連する情報は、潜在的な有害動作体のＩＰアドレスを含み、ブロッキングモジュールは、さらに、潜在的な有害動作体のＩＰアドレスをデータベース内のＩＰアドレスのリストと比較し、潜在的な有害動作体のＩＰアドレスとリスト内のＩＰアドレスの間の一致に応答して、少なくとも１つのセキュリティ端末を介して第１のユーザに通知するように構成される。

別の実施形態によれば、潜在的な有害動作体のＩＰアドレスとリスト内のＩＰアドレスの間の一致に応答して、ブロッキングモジュールは、さらに、潜在的な有害動作体のＩＰアドレスがネットワークにアクセスすることがブロックされることを防止するように構成される。別の実施形態では、ブロッキングモジュールは、さらに、潜在的な有害動作体に関連する情報を少なくとも１つのセキュリティ端末を介して第２のユーザに提供するように、潜在的な有害動作体がネットワークにアクセスすることがブロックされるべきかどうかを確認するよう第２のユーザに促すように、また、潜在的な有害動作体がブロックされるべきであるという第２のユーザからの確認に応答して、潜在的な有害動作体がネットワークにアクセスすることをブロックするように、複数のネットワークセキュリティ機器の各々１つを自動的に構成するように構成される。

本発明の少なくとも１つの実施形態に係る別の態様は、複数のアクセスポイントと、複数のアクセスポイントの少なくとも１つとネットワークの間に各々結合された複数のネットワークセキュリティ機器とを含む、ネットワークへのアクセスを制限するための方法であって、監視モジュールを用いて、複数のアクセスポイントおよび複数のネットワークセキュリティ機器を介した第三者とネットワークの間の伝送を監視することと、監視モジュールを用いて、複数のアクセスポイントの第１の１つおよび複数のネットワークセキュリティ機器の第１の１つを介した潜在的な有害動作体とネットワーク間の伝送に基づいて、潜在的な有害動作体を特定することと、潜在的な有害動作体に関連する情報を監視モジュールからブロッキングモジュールに伝達することと、ブロッキングモジュールを用いて、潜在的な有害動作体が、ネットワークにアクセスすることがブロックされるべきであることを確認することと、潜在的な有害動作体がネットワークにアクセスすることをブロックするように複数のネットワークセキュリティ機器の各々１つを自動的に構成することとを含む、方法を対象とする。

一実施形態によれば、方法は、さらに、監視モジュールによって特定された潜在的な有害動作体に関連する情報を第１のセキュリティ端末を介して第１のユーザに表示することを含み、この場合、伝達することは、第１のセキュリティ端末における第１のユーザからの、潜在的な有害動作体に関連する情報が伝達されるべきであるという表示に応答して、この情報を監視モジュールからブロッキングモジュールに自動的に伝達することを含む。別の実施形態では、方法は、さらに、ブロッキングモジュールを作動させるように第１のユーザが認証されていることを確認することを含む。一実施形態では、潜在的な有害動作体に関連する情報は、潜在的な有害動作体のＩＰアドレスを含み、この場合、方法は、さらに、潜在的な有害動作体のＩＰアドレスが、ネットワークによって外部向けに利用されるかどうかを判定することと、潜在的な有害動作体のＩＰアドレスが、ネットワークによって外部向けに利用されるという判定に応答して、潜在的な有害動作体のＩＰアドレスがネットワークにアクセスすることがブロックされることを防止することとを含む。

別の実施形態によれば、方法は、さらに、潜在的な有害動作体のＩＰアドレスが、ネットワークによって内部的に利用されるかどうかを判定することと、潜在的な有害動作体のＩＰアドレスがネットワークによって内部的に利用されるという判定に応答して、第１のセキュリティ端末を介して、潜在的な有害動作体のＩＰアドレスがネットワークにアクセスすることがブロックされるべきかどうかを確認するよう第１のユーザに促すこととを含み、この場合、自動的に構成することは、潜在的な有害動作体のＩＰアドレスが、ネットワークにアクセスすることがブロックされるべきであるという、第１のセキュリティ端末を介した第１のユーザからの表示に応答して、潜在的な有害動作体がネットワークにアクセスすることをブロックするように複数のネットワークセキュリティ機器の各々１つを自動的に構成することを含む。

一実施形態によれば、方法は、さらに、第１のセキュリティ端末を介して、バックアップレビューのために二次ユーザを選択するよう第１のユーザに促すことと、潜在的に有害動作体に関連する情報を、第２のセキュリティ端末を介して、第１のユーザによって選択された第２のユーザに表示することと、第２のセキュリティ端末を介して、潜在的な有害動作体がネットワークにアクセスすることがブロックされるべきかどうかを確認するよう第２のユーザに促すこととを含み、この場合、自動的に構成することは、潜在的な有害動作体のＩＰアドレスが、ネットワークにアクセスすることがブロックされるべきであるという、第２のセキュリティ端末を介した第２のユーザからの表示に応答して、潜在的な有害動作体がネットワークにアクセスすることをブロックするように複数のネットワークセキュリティ機器の各々１つを自動的に構成することを含む。

別の実施形態によれば、方法は、さらに、潜在的な有害動作体がネットワークにアクセスすることをブロックするように複数のネットワークセキュリティ機器の各々１つを自動的に構成することに応答して、潜在的な有害動作体に関連する情報に基づいて変更管理を生成することを含む。

本発明の少なくとも１つの実施形態に係る一態様は、小売業者ネットワークへのアクセスを制限するためのシステムであって、複数のネットワークアクセスポイントと、複数のネットワークアクセスポイントの少なくとも１つとネットワークの間に各々結合された複数のネットワークセキュリティ機器と、複数のネットワークアクセスポイントとネットワークの間に結合され、複数のネットワークセキュリティ機器を介した複数のアクセスポイントとネットワークの間の伝送を監視するように構成された監視モジュールと、潜在的な有害動作体を特定し、潜在的な有害動作体がネットワークにアクセスすることがブロックされるべきであることを確認し、複数のネットワークセキュリティ機器の各々の１つにおいて特定された有害動作体が、ネットワークにアクセスすることをブロックするための手段とを含む、システムを対象とする。

本発明の少なくとも１つの実施形態に係る別の態様は、複数のネットワークアクセスポイントおよび複数のネットワークセキュリティ機器を含む、ネットワークへのアクセスを制限するためのシステムであって、複数のネットワークアクセスポイントに結合され、複数のネットワークセキュリティ機器を介したネットワークへの伝送を監視するように構成された監視モジュールと、監視モジュールに結合され、複数のネットワークセキュリティ機器に結合されるようにも構成されたブロッキングモジュールとを備え、この場合、監視モジュールは、さらに、複数のネットワークアクセスポイントの第１の１つおよび複数のネットワークセキュリティ機器の第１の１つを介した潜在的な有害動作体からネットワークへの伝送に基づいて、潜在的な有害動作体を特定し、潜在的な有害動作体に関連する情報をブロッキングモジュールに提供するように構成され、ブロッキングモジュールは、潜在的な有害動作体がネットワークにアクセスすることがブロックされるべきであることを確認するように、また、それに応答して、潜在的な有害動作体がネットワークにアクセスすることをブロックするように複数のネットワークセキュリティ機器の各々１つを自動的に構成するように構成される、システムを対象とする。

添付の図は、原寸通りに描かれることを意図しない。図では、さまざまな図に示される各々の同一のまたはほぼ同一の構成要素は、同様の番号によって表される。明確にする目的のため、すべての図においてすべての構成要素が標識付けされない場合がある。

本発明の一態様による小売業者ネットワークを示すブロック図である。 本発明の一実施形態に係る監視モジュールのスクリーンショットの図である。 本発明の一実施形態に係るブロッキングモジュールの認証グラフィカルユーザインターフェース（ＧＵＩ）のスクリーンショットの図である。 本発明の一実施形態に係るブロッキングモジュールの警告ＧＵＩのスクリーンショットの図である。 本発明の一実施形態に係るブロッキングモジュールの補助的なレビュー者選択ＧＵＩのスクリーンショットの図である。 本発明の一実施形態に係るブロッキングモジュールの補助的なレビュー者確認ＧＵＩのスクリーンショットの図である。 本発明の一実施形態に係るネットワークへのアクセスを制限するためのプロセスのフローチャートである。 本発明のさまざまな実施形態が実装され得る汎用コンピュータシステムのブロック図である。 本発明のさまざまな実施形態が実践され得るコンピュータデータ記憶システムのブロック図である。

本発明の実施形態は、以下の説明において記載または図示される詳細な構造および構成要素の配置に限定されるものではない。本発明の実施形態は、さまざまな方法で実践されまたは実施されることが可能である。また、本明細書において使用される表現法および用語は説明のためであり、限定的とみなされるべきではない。本明細書における「含む」、「備える」、または「有する」、「含有する」、「伴う」、およびそれらのバリエーションは、これ以後にリストされる事項およびその等価物、ならびにさらなる事項を包含することを意味する。

上記で説明されたように、有害動作の実行を意図する第三者（すなわち有害動作体）がネットワークにアクセスすることを防止することは、大規模小売業者の共通の目標である。特定された有害動作体へのネットワークアクセスをブロックするための一般的な手順は、有害動作体が特定されたネットワークのアクセスポイントを介して、その有害動作体がネットワークにアクセスすることを手動でブロックすることを含む。たとえば、第１のファイアウォールを通ってネットワークにアクセスしている第三者が、有害動作を実行しようとしていることを特定すると、セキュリティ管理者は、第三者がネットワークにアクセスすることをブロックするように第１のファイアウォールを手動で構成することができる。しかし、このプロセスは遅くなることがあり、さらに、有害動作体は、別のアクセスポイントからネットワークにアクセスしようと試みる場合がある。セキュリティ管理者は、さらなるファイアウォールを、第三者がネットワークにアクセスすることを防止するように１つずつ手動で構成しようと試み得る。しかし、これは（特に世界規模のネットワーク上では）非常に時間がかかるものになり得、第三者によって実行された有害動作は、セキュリティ管理者が、ネットワークのすべてのアクセスポイントにわたって有害動作体をブロックする機会を得る前に完了してしまう可能性が高い。

長い時間がかかるということに加えて、ネットワークの各々の個々のアクセスポイントにおいて有害動作体を１つずつ手動でブロックするためのそのような一般的な手順はまた、出来事の文書化、変更管理マネージメント、複数のタイプのファイアウォールに対する複数の必要とされる手順、ファイアウォール上にインストールされたブロックの期限満了、サイバー偵察、および外部ソースの脅威ではなく内部アセットの偶発的な標的化に関連する課題を含む。

したがって、本明細書において説明される実施形態は、特定された有害動作体をネットワークの各々のアクセスポイントにわたって自動的にブロックするためのシステムおよび方法を提供する。有害動作体が特定された後、有害動作体は、ブロックの迂回を防止するためにネットワークの各々のアクセスポイントにおいて自動的にブロックされる。ネットワークにわたる有害動作体のそのような自動ブロッキングは、有害動作体がネットワークにアクセスすることを完全にブロックするのに必要とされる時間を大幅に低減することができる。さらに、以下でより詳細に説明されるように、本明細書において説明されるシステムおよび方法はまた、上記で特定された手動のネットワーク上（すなわち１つずつの）ブロッキングに関連付けられるさらなる課題に対して解決策を提供することもできる。

図１は、本発明の一態様による小売業者のネットワーク１０１を示すブロック図１００である。上記で説明されたように、小売業者ネットワーク１０１は、さまざまなネットワークデバイス１０２（たとえばサーバ、ルータ、スイッチ、データベース、コンピュータなど）間の通信を可能にするように構成される。一実施形態によれば、ネットワーク１０１は、ローカルエリアネットワーク（ＬＡＮ）（たとえばイーサネット（登録商標）ネットワーク）であり、ネットワークデバイス１０２は、相対的に近接して（たとえば同じ建物内または店内に）配置される。別の実施形態によれば、ネットワーク１０１は、ワイドエリアネットワーク（ＷＡＮ）（たとえばインターネット）であり、ネットワークデバイス１０２は、さまざまな場所（たとえば、さまざまな店、事務所など）に配置されてよい。

これも上記で説明されたように、小売業者ネットワーク１０１はまた、ネットワークデバイス１０２とさまざまな第三者１０６、１１０、１１４との間の通信を可能にするように構成される。一実施形態によれば、第三者１０６、１１０、１１４の少なくとも１つは、情報（たとえば製品または在庫情報）をネットワークデバイス１０２から検索すること、またはネットワーク１０１を介して発注することを試みる顧客である。別の実施形態では、第三者１０６、１１０、１１４の少なくとも１つは、ネットワーク１０１またはデバイス（複数可）１０２の管理者またはオペレータである。別の実施形態では、第三者１０６、１１０、１１４の少なくとも１つは、ネットワーク１０１、ネットワークデバイス１０２、または別の第三者に害を与えることを意図する有害動作体である。他の実施形態によれば、第三者は、ネットワーク１０１およびネットワークに結合された少なくとも１つのネットワークデバイス１０２にアクセスしようとしている任意の他のタイプのユーザになり得る。

図１に示されるように、さまざまな第三者１０６、１１０、１１４は、ネットワーク１０１のさまざまなアクセスポイント１０７、１０９、１１３を介して（たとえば、さまざまなルータ、サーバ、リンク、スイッチなどを介して）ネットワーク１０１にアクセスすることができる。各々のアクセスポイント１０７、１０９、１１３は、ネットワークセキュリティ機器１０８、１１２、１１６を介してネットワーク１０１に結合される。一実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つは、ファイアウォールである。たとえば、一実施形態では、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つは、カリフォルニア州、サンノゼのＣｉｓｃｏ Ｓｙｓｔｅｍ、Ｉｎｃ．によって製造されたファイアウォールであるが、他の実施形態では、任意の他のタイプのファイアウォールが利用されてよい。

別の実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つは、侵入防止システム（ＩＰＳ）である。たとえば、一実施形態では、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つは、カリフォルニア州、パロアルトのＨｅｗｌｅｔｔ−Ｐａｃｋａｒｄ Ｃｏｍｐａｎｙによって製造されたＴｉｐｐｉｎｇＰｏｉｎｔ ＩＰＳであるが、他の実施形態では、任意の他のタイプのＩＰＳが利用されてよい。他の実施形態によれば、アクセスポイント１０７、１０９、１１３は、任意の他のタイプのネットワークセキュリティ機器を介してネットワーク１０１に結合されてよい。また、少なくとも１つの実施形態によれば、複数の第三者が、同じアクセスポイントおよび／または同じネットワークセキュリティ機器を介してネットワーク１０１にアクセスすることができる。

一実施形態によれば、ネットワーク１０１に関連する各々の第三者１０６、１１０、１１４のアクティビティは、各々のアクセスポイント１０７、１０９、１１３とネットワーク１０１の間に結合されたネットワークアクセス監視モジュール１０４によって監視される。一実施形態によれば、監視モジュール１０４は、ネットワークデバイス１０２（たとえばサーバ、コンピュータ、ルータなど）の少なくとも１つ内で作動される。ネットワークアクセス監視モジュール１０４は、各々の第三者１０６、１１０、１１４とネットワーク１０１の間の伝送を監視して潜在的な有害動作体を特定する。一実施形態によれば、監視モジュール１０４は、潜在的な有害動作体を意味する、伝送内の特定の所定のトリガに基づいて潜在的な有害動作体を特定する。

一実施形態によれば、規定されたトリガは、第三者がネットワーク１０１にアクセスすることによって達成しようとしているもの（すなわち第三者から受け取られた信号の内容またはペイロード）に基づく。たとえば、一実施形態によれば、ネットワーク１０１および／またはネットワークデバイス１０２についての情報を取得することを試みている第三者からの信号は、第三者が潜在的な有害動作体であることを監視モジュール１０４に特定するトリガである。たとえば、有害動作体であると監視モジュール１０４に特定する一部の信号は、ほんの数例を挙げると、ネットワークデバイス１０２のポートスキャン、ネットワーク１０１のマッピング、ネットワーク１０１のプロファイルスキャン、構造化照会言語（ＳＱＬ）インジェクション、またはフィッシング攻撃である。他の実施形態によれば、任意の他のタイプの信号またはアクティビティが、潜在的な有害動作体を監視モジュール１０４に伝えるトリガとして規定され得る。

一実施形態によれば、ネットワークアクセス監視モジュール１０４は、カリフォルニア州、パロアルトのＨｅｗｌｅｔｔ−Ｐａｃｋａｒｄ Ｃｏｍｐａｎｙによって製造されたＡｒｃＳｉｇｈｔ Ｓｅｃｕｒｉｔｙ Ｉｎｔｅｌｌｉｇｅｎｃｅ Ｐｌａｔｆｏｒｍであるが、他の実施形態では、任意の他のタイプのネットワークアクセス監視モジュール１０４が利用されてよい。

一実施形態によれば、ネットワークアクセス監視モジュール１０４は、ネットワーク１０１に関連する第三者１０６、１１０、１１４のアクティビティを監視し、潜在的な有害動作体を特定するとき、特定された潜在的な有害動作体の表示をセキュリティオペレーションセンタ１２０に提供する。一実施形態によれば、ネットワークアクセス監視モジュール１０４からの特定された潜在的な有害動作体の表示は、セキュリティオペレーションセンタ１２０において人によって監視される。たとえば、一実施形態によれば、監視モジュール１０４からの特定された潜在的な有害動作体の表示は、セキュリティオペレーションセンタ１２０においてユーザ１２２（たとえばセキュリティ管理者）によって監視される。一実施形態によれば、各々のユーザ１２２は、監視モジュール１０４からの特定された潜在的な有害動作体の表示を（たとえばグラフィカルユーザインターフェース（ＧＵＩ）を介して）表示する端末１２４を作動させる。

図２は、セキュリティオペレーションセンタ１２０内の端末１２４上に表示されたネットワークアクセス監視モジュールＧＵＩ２００を示す。ＧＵＩは、ネットワークアクセス監視モジュール１０４によって特定された潜在的な有害動作体のリスト２０２を含む。一実施形態によれば、リスト２０２は、任意の数の潜在的な有害動作体を含むことができる。リスト２０２内の各々の潜在的な有害動作体は、監視モジュール１０４によって特定された潜在的な有害な動作に関連して表示される。たとえば、一実施形態によれば、リスト２０２内の各々の潜在的な有害動作体は、有害動作の開始時間２０４、有害動作の終了時間２０６、有害動作のタイプ識別子２０８、有害動作の説明２１０、潜在的な有害動作体のインターネットプロトコル（ＩＰ）アドレス２１２、潜在的な有害動作体のポート（すなわちアクセスポイント）２１４、および意図される標的２１６の名前によって特定される。他の実施形態によれば、リスト２１２内に含まれる各々の潜在的な有害動作体は、潜在的な有害動作体が、ネットワーク１０１にアクセスすることがブロックされるべきかどうかを判定する上でユーザ１２２を助けることができる任意の他のタイプの情報によって特定されてよい。

ユーザ１２２が端末１２４を介してＧＵＩ２００を監視するとき、ユーザは、リスト２０２内に表示された情報に基づいて、リストされた潜在的な有害動作体の少なくとも１つが、ネットワーク１０１にアクセスすることがブロックされるべきであると判定することができる。たとえば、図２に示されるように、リスト２０２の底部にある潜在的な有害動作体２１８（すなわち、入力２１８）は、ネットワーク１０１上の通信制御プロトコル（ＴＣＰ）スキャンの開始の試みによって、潜在的な有害動作体として監視モジュール１０４によって特定された。ユーザ１２２が、ＴＣＰスキャンを開始した第三者がネットワーク１０１にアクセスすることがブロックされるべきであると決定した場合、ユーザ１２２は、潜在的な有害動作体に関連する情報をネットワークアクセスブロッキングモジュール１１８に自動的に伝達するようにＧＵＩ２００を作動させることができる。一実施形態によれば、ブロッキングモジュール１１８は、ネットワーク１０１に結合された少なくとも１つのネットワークデバイス１０２（たとえば、サーバ、コンピュータ、プロセッサなど）内で作動される。

一実施形態によれば、ユーザ１２２は、リスト２０２内の所望の入力２１８を選択することによって、潜在的な有害動作体に関連する情報をネットワークアクセスブロッキングモジュール１１８に伝達する。一実施形態では、ユーザ１２２は、端末１２４のマウスまたはキーパッドを用いて所望の入力２１８を選択するが、他の実施形態では、リスト２０２内の入力を選択するための任意の他の適切な技術が利用されてよい。一実施形態によれば、リスト２０２内の所望の入力２１８が選択された後、ポップアップウィンドウ２２０がＧＵＩ２００内に表示され、選択された入力２１８に関連してユーザ１２２がとることができる潜在的アクション２２１のリストを表示する。潜在的アクション２２１のリストは、選択された入力２１８に関連してユーザ１２２がとることができる任意のタイプまたは数のアクションを含むことができる。一実施形態によれば、アクション２２１の１つは、「ツール」入力２２３である。

（端末１２４のマウスまたはキーパッドを介して）「ツール」入力２２３を選択すると、第２のポップアップウィンドウ２２２が表示され、これは、選択された入力２１８に関連してユーザ２２１が作動させることができるツールのリスト２２５を含む。ツールのリスト２２５は、選択された入力２１８に関連してユーザ２２１が利用することができる任意の数のツール２２５を含むことができる。一実施形態によれば、ツール２２５の１つは、ネットワークアクセスブロッキングモジュール１１８である。図２に示されるように、ネットワークアクセスブロッキングモジュール１１８は、「バンハンマ（ＢＡＮ ＨＡＭＭＥＲ）」と呼ばれるが、他の実施形態では、ネットワークアクセスブロッキングモジュール１１８は、任意の他の方法で呼ばれ得る。

一実施形態によれば、ツールのリスト２２５からネットワークアクセスブロッキングモジュール１１８を選択すると、ネットワークアクセスブロッキングモジュール１１８は、ブロッキングモジュール１１８を選択したユーザ２２１が、ブロッキングモジュール１１８を作動させるように認証されていることを確認する。一実施形態によれば、ブロッキングモジュール１１８は、端末１２４の現在のユーザ２２１を、先に進むためにユーザがパスワードを入力することを要請するメッセージによって促す。別の実施形態では、ブロッキングモジュール１１８は、端末１２４の現在のユーザ２２１に、セキュリティトークン（すなわち、ブロッキングモジュール１１８へのアクセスを認証する小型ハードウェアデバイス（たとえばキー・フォブ））を、端末１２４に接続するよう促す。一実施形態によれば、ブロッキングモジュール１１８は、ユーザ２２１が、ブロッキングモジュール１１８にアクセスするために２要素認証（たとえば、パスワードおよびセキュリティトークンの使用）を求める。たとえば、図３に示されるように、ネットワークアクセスブロッキングモジュール１１８は、端末２２４を介してユーザ２２１にＧＵＩ３００を表示することができ、ＧＵＩ３００は、ブロッキングモジュール１１８へのアクセスを要請しているユーザ２２１に対して、規定された領域３０２内にパスワードを入力し、認証されたセキュリティトークンを端末２２４に（たとえば、有線または無線接続を介して）接続することも求める。他の実施形態によれば、任意の他の適切なタイプのユーザ認証が求められてよい。ブロッキングモジュール１１８を作動させるようにユーザ２２１が認証されていることを確かめると、ブロッキングモジュール１１８が起動される。

別の実施形態によれば、ネットワークアクセスブロッキングモジュール１１８は、ブロッキングモジュール１１８へのアクセスを求めているユーザ２２１が、認証されたユーザであることを確認しない。むしろ、ユーザ２２１によってツールのリスト２２５から選択されると、ネットワークアクセスモジュール１１８はただちに起動される。

ネットワークアクセスブロッキングモジュール１１８が起動すると、選択された有害動作体に関する（選択された入力２１８からの）情報は、監視モジュール１０４からネットワークアクセスブロッキングモジュール１１８に自動的に渡される。一実施形態によれば、特定された有害動作体のＩＰアドレス２１２は、ネットワークアクセスブロッキングモジュール１１８に自動的に渡されるが、他の実施形態では、有害動作体に関連する任意の他の情報が、ネットワークアクセスブロッキングモジュール１１８に自動的に渡されてよい。ＩＰ情報を監視モジュール１４０からブロッキングモジュール１１８に自動的に渡すことにより、通常、有害動作体情報をネットワークセキュリティ機器に手動入力することに伴う人による移行エラー（たとえばタイピングエラー）が回避され得ることが理解される。

一実施形態によれば、有害動作体情報（たとえば有害動作体のＩＰアドレス）を監視モジュール１４０から受け取ると、ブロッキングモジュール１１８は、受け取られた有害動作体のＩＰアドレスを、ネットワーク１０１の小売業者オペレータによって利用される外部ＩＰアドレスのリスト（すなわち外部向けＩＰアドレス）と比較する。一実施形態では、外部ＩＰアドレスのリストは、端末１２４内のデータベース内に記憶される。別の実施形態では、アドレス付けされた外部ＩＰのリストは、個々の端末１２４から外部に配置された中央データベース１２３内に記憶される。

一実施形態によれば、外部ＩＰアドレスのリストは、小売業者によって使用される外部向けＩＰアドレスを含み、したがって、ネットワーク１０１および／またはネットワークデバイス１０２にアクセスすることがブロックされるべきではない。ブロッキングモジュール１１８が、監視モジュール１０４から受け取られた有害動作体のＩＰアドレスがリスト内の外部ＩＰアドレスの１つと一致すると判定した場合、ブロッキングモジュールは、端末２２４を介して、有害動作体のＩＰアドレスが、実際には小売業者によって利用される外部ＩＰアドレスであることを示すメッセージをユーザ２２１に表示する。

一実施形態によれば、有害動作体のＩＰアドレスが所定の外部ＩＰアドレスと一致すると、ブロッキングモジュール１１８は、自動的に、一致したＩＰアドレスがブロックされることを防止し、ユーザ２２１に対してそのように示す。別の実施形態では、有害動作体のＩＰアドレスがリスト内の外部ＩＰアドレスと一致すると、ブロッキングモジュール１１８は、端末１２４を介して、有害動作体のＩＰアドレスが、実際には小売業者によって使用される外部ＩＰアドレスであることを示し、外部の一致したＩＰアドレスをブロックすることをユーザ２２１が依然として望むかどうかを確認する警告をユーザ２２１に提供する。

監視モジュール１４０から受け取られた有害動作体ＩＰアドレスが、所定の外部ＩＰアドレスと一致しない場合、ブロッキングモジュール１１８は、有害動作体のＩＰアドレスを、小売業者によって内部的に使用され、かつネットワーク１０１および／またはネットワークデバイス１０２にアクセスすることをブロックすることをユーザ１２１が望まない可能性があるＩＰアドレスのリストと比較する。一実施形態によれば、ＩＰアドレスのリストは、端末１２４内に局所的に記憶される。別の実施形態では、内部ＩＰアドレスのリストは、端末１２４から外部の中央データベース１２３内に記憶される。ブロッキングモジュール１１８が、監視モジュール１０４から受け取られた有害動作体のＩＰアドレスが、リスト内の内部ＩＰアドレスの１つと一致すると判定した場合、ブロッキングモジュールは、端末２２４を介して、有害動作体のＩＰアドレスが、実際には小売業者によって利用される内部ＩＰアドレスであることを示すメッセージをユーザ２２１に表示する。

一実施形態によれば、有害動作体のＩＰアドレスがリスト内の内部ＩＰアドレスと一致すると、ブロッキングモジュール１１８は、有害動作体のＩＰアドレスが、小売業者によって内部的に使用されることを示し、一致したＩＰアドレスをブロックすることを進めることをユーザ２２１が望むかどうかを確認する警告をユーザ２２１に提供する。たとえば、そのような警告４００は、図４に示される。警告４００は、有害動作体のＩＰアドレスが、小売業者ＩＰ空間内の内部に見つけられたことをユーザ２２１に通知し、有害動作体の一致したＩＰアドレスをブロックすることをユーザ２２１が進めたいかどうかを確認する。ユーザ２２１が、一致したＩＰアドレスがブロックされるべきではないと示した場合、ブロッキングモジュール１１８は、一致したＩＰＳアドレスがブロックされることを防止する。ユーザ２２１が、一致したＩＰアドレスが、内部ＩＰアドレスのリスト内に存在するにも関わらずブロックされるべきであると示した場合、ブロッキングモジュール１１８は、有害動作体のＩＰアドレスをブロックするように作用する。

別の実施形態では、有害動作体のＩＰアドレスが所定の内部ＩＰアドレスと一致すると、ブロッキングモジュール１１８は、自動的に、一致したＩＰアドレスがブロックされることを防止し、端末１２４を介してユーザ２２１にそのように示す。

一実施形態によれば、有害動作体のＩＰアドレスは、所定の外部ＩＰアドレスのリストおよび所定の内部ＩＰアドレスのリストと比較される。他の実施形態では、有害動作体のＩＰアドレスは、所定の外部ＩＰアドレス、所定の内部ＩＰアドレス、または所定の外部および内部のＩＰアドレスの単一のリストだけと比較され得る。他の実施形態によれば、有害動作体のＩＰアドレスは、小売業者によって規定された任意の他のタイプの所定のリスト（たとえば、ブラックリスト、承認された試験者リストなど）と比較されてよい。

有害動作体のＩＰアドレスを、小売業者によって利用される所定の外部および／または内部アドレスのリストに対してチェックすることにより、小売業者がブロックすることを実際には望まないＩＰアドレス（たとえば、小売業者それ自体、または認証された販売者に関連付けられたＩＰアドレス）の間違ったブロッキングは、回避され得ることを理解されたい。

一実施形態によれば、有害動作体のアドレスが、小売業者によって利用される所定の外部のまたは内部のＩＰアドレスのいかなるものにも一致しない場合、ブロッキングモジュール１１８は、端末１２４を介して（図５に見られるような）ＧＵＩ５００を表示し、このＧＵＩ５００は、特定された有害動作体上に置かれようとしているブロックをレビューするために、別のユーザ（すなわち二次またはバックアップユーザ）を選択するようにユーザ２２１に促す。ＧＵＩ５００は、潜在的な二次ユーザのリスト５０２を含む。ユーザ２２１は、保留しているブロックアクションをレビューするために（たとえば端末１２４のキーボードまたはマウスを介して）二次ユーザ５０２の１人を選択する。

一実施形態によれば、ＧＵＩ５００はまた、ユーザ２２１が、保留しているブロックアクションに関連付けられた、ユーザ２２１が望むテキスト（たとえば、コメント、注記など）を入力することを可能にするテキスト領域５０４も含む。

ユーザ２２１が、保留しているブロックアクションのレビューのために（たとえば端末１２４を介して）リストされた二次ユーザ５０２の１人を選択した後、特定された有害動作体およびその有害動作体上の保留しているブロックに関する情報が、選択された二次ユーザ５０２に渡される。一実施形態によれば、選択された二次ユーザ５０２に渡された情報は、選択された二次ユーザ５０２によって作動されている別の端末１２４を介して表示される。別の実施形態によれば、選択された二次ユーザ５０２は、ブロックが要請された元の端末１２４上で情報をレビューすることができる。一実施形態によれば、特定された有害動作体およびその有害動作体上の保留しているブロックに関する情報は、ユーザ１２１が選択された二次ユーザ５０２を選んだ後、端末１２４を介して、選択された二次ユーザ５０２に自動的に表示されるが、別の実施形態では、特定された有害動作体およびその有害動作体上の保留しているブロックに関する情報は、選択された二次ユーザ５０２による開始または要請時のみ表示される。

一実施形態によれば、ブロッキングモジュール１１８は、（図６に見られるように）ＧＵＩ６００において、有害動作体および保留しているブロックに関する情報を選択された二次ユーザ５０２に端末１２４を介して表示する。一実施形態によれば、ＧＵＩ６００は、選択された二次ユーザ５０２、元のユーザ２２１によって入力された有害動作体に関連する任意のコメント、および有害動作体を特定させたトリガを特定する。別の実施形態によれば、ＧＵＩ６００は、有害動作体および有害動作体上の保留しているブロックに関する任意の他の情報を含むことができる。ＧＵＩ６００はまた、ブロッキングモジュール１１８が、特定された有害動作体をブロックすることを進めることが受け入れられるかどうかを確認するように選択された二次ユーザ５０２を促す。選択された二次ユーザ５０２は、ＧＵＩ６００と相互作用して、保留しているブロックが取り消されるべきかまたは進められるべきかを示す。

選択された二次ユーザ５０２が、ブロッキングモジュール１１８に対して、端末１２４において、有害動作体のブロックが進められるべきであると示した場合、ブロッキングモジュール１１８は、各々のアクセスポイント１０７、１０９、１１３に結合されたネットワークセキュリティ機器１０８、１１２、１１６を構成することによって、ネットワーク１０１の各々のアクセスポイント１０７、１０９、１１３において有害動作体がネットワーク１０１にアクセスすることを同時にブロックする。たとえば、一実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つがファイアウォールである場合、命令（たとえば、ＳＨＵＮ命令）が、ブロッキングモジュール１１８によって、ネットワーク１０１に結合されたファイアウォール１０８、１１２、１１６の各々１つに送られて、有害動作体のＩＰアドレスからのネットワークアクセスをブロックする。一実施形態によれば、所定の時間がたった後（たとえば３日）、ユーザ１２２は、ブロックを取り除き、前にブロックされたＩＰアドレスからのネットワークへのアクセスを可能にするようにファイアウォール１０８、１１２、１１６を再構成することができる。別の実施形態によれば、ユーザ１２２は、所定時間後にブロックを取り除かなくてもよい。

別の実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つがＩＰＳである場合、ブロッキングモジュール１１８は、ネットワーク１０１に結合された各々のＩＰＳ１０８、１１２、１１６の隔離リストを、ブロックされた有害動作体のＩＰアドレスを含むように更新する。一実施形態によれば、所定時間後、ＩＰＳ１０８、１１２、１１６は、有害動作体上のブロックを自動的に取り除く。一実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６は、ファイアウォール、ＩＰＳおよび／または他のタイプのネットワークセキュリティ機器の混合を含む。

一実施形態によれば、ネットワーク１０１にわたって有害動作体を効果的にブロックすると、ブロッキングモジュール１１８は、有害動作体上に置かれたばかりの新しいブロックを参照する変更管理（すなわちチケット）を作成する。変更管理は、将来の参照のためにデータベース内に記憶され得る。一実施形態によれば、ブロッキングモジュール１１８によって生成された変更管理は、検索可能である。

特定されると、有害動作体は、各々のネットワークセキュリティ機器においてネットワークにわたって自動的にブロックされるため、特定された有害動作体をネットワーク１０１の各々のアクセスポイントにわたって同時にかつ自動的にブロックすることにより、特定された有害動作体によるブロック迂回に関する問題が低減され得ることが理解される。したがって、特定された有害動作体を各々の個々のネットワークセキュリティ機器において手動でブロックする時間が無駄に費やされる必要はない。ブロッキングモジュール１１８の作動は、以下でより詳細に説明される。

図７は、本明細書において説明される少なくとも１つの実施形態に係る、ネットワーク１０１にわたって有害動作体を動的にブロックするためのプロセスを示すフローチャート７００である。ブロック７０２では、ユーザ１２１（たとえばセキュリティ管理者）によって端末１２４において開始されると、特定された有害動作体に関する情報が、上記で説明されたように、監視モジュール１０４からブロッキングモジュール１１８に直接的に転送される。一実施形態によれば、転送された情報は、潜在的な有害動作体の特定されたＩＰアドレス、潜在的な有害動作体の特定を引き起こした信号のタイプ、標的のＩＰアドレス、標的のポート（すなわちアクセスポイント）、および／または標的とされたネットワークデバイス１０２の特定情報を含む。他の実施形態によれば、監視モジュール１０４からの転送された情報は、特定された有害動作体および対応する有害動作に関連する任意のタイプの情報を含むことができる。

ブロック７０４では、監視モジュール１０４から直接的に情報を受け取ると、ブロッキングモジュール１１８が開始される。ブロック７０６では、ユーザ１２１が、ブロッキングモジュール１１８を作動させるように認証されているかどうかの判定がなされる。たとえば、上記で説明されたように、ブロッキングモジュール１１８は、ユーザ１２１に、ＰＩＮ番号を入力するおよび／またはセキュリティトークンを端末１２４に結合させるよう求めることによって、ユーザ１２１を認証することができる。ブロック７０８では、ユーザ１２１がブロッキングモジュール１１８を使用するように認証されていないという判定に応答して、ブロッキングモジュール１１８は、端末１２４を介して、ブロッキングモジュール１１８を利用するのに十分なアクセス権をユーザ１２１が有していないことを示すポップアップメッセージをユーザ１２１に表示する。一実施形態によれば、ブロック７１０では、ブロッキングモジュール１１８へのアクセスがユーザ１２１に対して拒否された後、ブロッキングモジュール１１８は終了される。

ブロッキングモジュール１１８を使用するようにユーザ１２１が認証されているという判定に応答して、ブロック７１２では、ブロッキングモジュールは、（監視モジュール１０４から受け取られた）潜在的な有害動作体の特定されたＩＰアドレスが、小売業者によって外部向けに使用されるかどうかを判定する。たとえば、上記で説明された一実施形態では、ブロッキングモジュール１１８は、特定されたＩＰアドレスを、小売業者の所定の外部向けに使用されるＩＰアドレスのリストと比較する。特定されたＩＰアドレスが、小売業者によって利用される外部ＩＰアドレスと一致する（すなわち外部ＩＰアドレスのリスト内の外部ＩＰアドレスと一致する）という判定に応答して、ブロック７１４では、ブロッキングモジュール１１８は、端末１２４を介して、特定されたＩＰアドレスが小売業者によって外部向けに使用され、したがってネットワーク１０１にアクセスすることをブロックすることはできないことを示すポップアップメッセージをユーザ１２１に表示する。一実施形態によれば、ブロック７１０では、一致した外部ＩＰアドレスがユーザ１２１に特定された後、ブロッキングモジュール１１８は終了される。

特定されたＩＰアドレスが、小売業者によって外部向けに使用されないという判定に応答して、ブロック７１６では、ブロッキングモジュール１１８は、特定されたＩＰアドレスが、小売業者によって内部的に使用されるかどうかを判定する。たとえば、上記で説明されたような一実施形態によれば、ブロッキングモジュール１１８は、特定されたＩＰアドレスを、小売業者の所定の内部的に使用されるＩＰアドレスのリストと比較する。特定されたＩＰアドレスが、小売業者によって利用される内部ＩＰアドレスと一致する（すなわち内部ＩＰアドレスのリスト内の内部ＩＰアドレスと一致する）という判定に応答して、ブロック７１８では、ブロッキングモジュール１１８は、端末１２４を介して、特定されたＩＰアドレスが小売業者によって内部的に使用されることを示すポップアップメッセージをユーザ１２１に表示する。一実施形態によれば、ポップアップメッセージはまた、特定されたＩＰアドレスを、小売業者によって内部的に使用されているにも関わらずブロックすることをユーザ１２１が進めたいかどうかも確認する。特定された内部的に使用されるＩＰアドレスのブロックがブロックされるべきではないことをユーザ１２１がブロッキングモジュール１１８に示すことに応答して、ブロック７１０において、ブロッキングモジュール１１８は終了される。

特定されたＩＰアドレスが小売業者によって内部的に使用されているにも関わらず、そのＩＰアドレスのブロックを継続すべきであるとユーザ１２１がブロッキングモジュール１１８に示したことに応答して、または特定されたＩＰアドレスが内部的に使用されていないとブロッキングモジュール１１８が判定したことに応答して、ブロック７２０では、ブロッキングモジュール１１８は、有害動作体の特定されたＩＰアドレスの保留しているブロックのバックアップレビューのために二次ユーザ５０２を選択するようユーザ１２１に促す。ブロック７２２において、ユーザ１２１はまた、保留しているブロックに関連付けられた、ユーザ１２１が望むテキスト（たとえばコメント、注記など）を入力することもできる。

ブロック７２４では、特定された有害動作体、保留しているブロック、および／または任意の関連テキストに関連する情報が、ユーザ１２１によって選択された二次ユーザ５０２に提供される。選択された二次ユーザ５０２は、提供された情報をレビューし、保留しているブロックの取り消しまたは進展を選ぶことができる。選択された二次ユーザ５０２からの、ブロックが取り消されるべきであるという表示に応答して、ブロック７１０において、ブロッキングモジュール１１８は終了される。選択された二次ユーザ５０２からの、ブロックが進められるべきであるという表示に応答して、ブロック７２６において、特定された有害動作体（すなわち特定された有害動作体のＩＰアドレス）上の新しいブロックを参照する閉鎖変更管理（すなわち変更要請またはチケット）が作成される。一実施形態によれば、変更管理は、検索可能なデータベース内に記憶される。一実施形態によれば、変更管理は、テキサス州、ヒューストンのＢＭＣ Ｓｏｆｔｗａｒｅによって製造された、Ｒｅｍｅｄｙなどの情報技術（ＩＴ）サービス管理ソフトウェアを用いて生成されるが、他の実施形態では、任意のタイプのＩＴサービス管理ソフトウェアが利用されてよい。

ブロック７２８では、特定された有害動作体の新しいブロックに関する情報７３０が、監視モジュール１０４に戻される（たとえば、ログされるまたはＳｙｓｌｏｇされる）。一実施形態によれば、監視モジュール１０４に戻された情報７３０は、ブロックを引き起こしたアクティビティのタイプ、そのアクティビティが特定された時間、ブロックが開始された時間、有害動作体のＩＰアドレス、標的アドレス、標的ポート、有害動作体によって標的とされたネットワークデバイス１０２の名前またはアドレス、ユーザ１２１の識別、選択された二次ユーザ５０２の識別、変更管理の特定番号、および／またはユーザ１２１によって入力された任意のテキストを含む。他の実施形態によれば、情報７３０は、有害動作体および対応する有害動作に関連する任意の他のタイプの情報を含むことができる。

ブロック７３２では、ブロッキングモジュール１１８は、各々のアクセスポイント１０７、１０９、１１３に結合されたネットワークセキュリティ機器１０８、１１２、１１６を構成することによって、ネットワーク１０１の各々のアクセスポイント１０７、１０９、１１３において有害動作体（すなわち有害動作体のＩＰアドレス）がネットワーク１０１にアクセスすることを同時にブロックする。たとえば、一実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つがファイアウォールである場合、命令（たとえば、ＳＨＵＮ命令）が、ブロッキングモジュール１１８によってネットワーク１０１に結合されたファイアウォール１０８、１１２、１１６の各々１つに送られて、有害動作体のＩＰアドレスからのネットワークアクセスをブロックする。別の実施形態によれば、ネットワークセキュリティ機器１０８、１１２、１１６の少なくとも１つがＩＰＳである場合、ブロッキングモジュール１１８は、ネットワーク１０１に結合された各々のＩＰＳ１０８、１１２、１１６の隔離リストを、ブロックされた有害動作体のＩＰアドレスを含むように更新する。有害動作体をネットワークの各々のアクセスポイント１０７、１０９、１１３にわたってブロックしたとき、ブロック７１０において、ブロッキングモジュール１１８は終了される。

本発明によるさまざまな実施形態は、１つ以上のコンピュータシステムまたは他のデバイス上に実装され得る。コンピュータシステムは、ミニコンピュータ、メインフレーム、サーバ、パーソナルコンピュータ、またはその組み合わせを含むことができる単一のコンピュータでよい。コンピュータシステムは、遠隔コンピューティングオペレーションを実行することができる任意のタイプのシステムを含むことができる（たとえば、携帯電話、ＰＤＡ、タブレット、スマートホン、セットトップボックス、または他のシステム）。オペレーションを実行するために使用されるコンピュータシステムはまた、システムレベルのタスクを達成するように共働するコンピュータシステムのタイプの任意の組み合わせを含むこともできる。オペレーションを実行するために、複数のコンピュータシステムが使用されてもよい。コンピュータシステムはまた、入力もしくは出力デバイス、ディスプレイ、またはデータ記憶ユニットを含むこともできる。任意のコンピュータシステムまたは複数のシステムが使用されてよく、本発明は、コンピュータシステムのいかなる数、タイプ、または構成にも限定されないことを理解されたい。

これらのコンピュータシステムは、たとえば、Ｉｎｔｅｌ ＰＥＮＴＩＵＭ（登録商標）−ｔｙｐｅ プロセッサ、Ｍｏｔｏｒｏｌａ ＰｏｗｅｒＰＣ（登録商標）、Ｓｕｎ ＵｌｔｒａＳＰＡＲＣ（登録商標）、Ｈｅｗｌｅｔｔ−Ｐａｃｋａｒｄ ＰＡ−ＲＩＳＣ（登録商標）プロセッサ、または任意の他のタイプのプロセッサに基づくものなどの汎用コンピュータでよい。任意のタイプのコンピュータシステムの１つ以上が、本発明のさまざまな実施形態に係る、説明されたシステムのオペレーションを部分的または完全に自動化するために使用され得ることを理解されたい。さらに、システムは単一のコンピュータ上に配置されてよく、または通信ネットワークによって取り付けられた複数のコンピュータの中に分散されてよい。

たとえば、本発明のさまざまな態様は、図８に示されるものなどの汎用コンピュータシステム８００において実行する特殊なソフトウェアとして実装され得る。コンピュータシステム８００は、ディスクドライブ、メモリ、またはデータを記憶するための他のデバイスなどの１つ以上のメモリデバイス（すなわちデータ記憶装置）８０４に接続されたプロセッサ８０２を含むことができる。メモリ８０４は、通常、コンピュータシステム８００のオペレーション中、プログラムおよびデータを記憶するために使用される。コンピュータシステム８００の構成要素は、（たとえば、同じ機械内に内蔵された構成要素間の）１つ以上のバスおよび／または（たとえば、離れた別個の機械上に位置する構成要素間の）ネットワークを含むことができる相互接続機構８０６によって結合され得る。相互接続機構８０６は、通信（たとえばデータ、指令）を、システム８００のシステム構成要素間で交換することを可能にする。コンピュータシステム８００はまた、１つ以上の入力デバイス８０８、たとえば、キーボード、マウス、トラックボール、マイクロホン、タッチスクリーンと、１つ以上の出力デバイス８１０、たとえば、印刷デバイス、ディスプレイスクリーン、および／またはスピーカとを含む。さらに、コンピュータシステム８００は、（相互接続機構８０６に加えて、またはその代替策として）これを通信ネットワークに接続する１つ以上のインターフェース（図示せず）を含むことができる。

図９により詳細に示される記憶システム８１２は、通常、コンピュータ読み込み可能および書き込み可能な非揮発性記録媒体９０２を含み、その中に、プロセッサによって実行されるプログラム、またはプログラムによって処理される媒体９０２上またはその中に記憶された情報を規定する信号が記憶される。媒体は、たとえばディスクまたはフラッシュメモリでよい。通常、オペレーションにおいて、プロセッサは、データを非揮発性記録媒体９０２から別のメモリ９０４に読み込ませ、メモリ９０４は、プロセッサによる、媒体９０２より速い情報へのアクセスを可能にする。このメモリ９０４は、通常、ダイナミック・ランダム・アクセス・メモリ（ＤＲＡＭ）またはスタティックメモリ（ＳＲＡＭ）などの揮発性ランダムアクセスメモリである。これは、図示されるように記憶システム８１２内に配置されてよく、またはメモリシステム８０４内に配置されてよい。プロセッサ８０２は、通常、集積回路メモリ８０４、９０４内でデータを操作し、次いで、処理が完了した後、データを媒体９０２にコピーする。媒体９０２と集積回路メモリ要素８０４、９０４間のデータ移動を管理するためのさまざまな機構が知られており、本発明は、これに限定されない。本発明は、特定のメモリシステム８０４または記憶システム８１２に限定されない。

コンピュータシステムは、特別にプログラムされた、特殊目的のハードウェア、たとえば、特定用途向け集積回路（ＡＳＩＣ）を含むことができる。本発明の態様は、ソフトウェア、ハードウェア、またはファームウェア、またはその任意の組み合わせ内に実装され得る。さらに、そのような方法、動作、システム、システム要素、およびそれらの構成要素は、上記で説明されたコンピュータシステムの一部として、または独立した構成要素として実装され得る。

コンピュータシステム８００は、例として、本発明のさまざまな態様が実践され得る１つのタイプのコンピュータシステムとして示されているが、本発明の態様は、図８に示されるようにコンピュータシステム上に実装されることに限定されないことを理解されたい。本発明のさまざまな態様は、図８に示されるものと異なるアーキテクチャまたは構成要素を有する１つ以上のコンピュータ上で実践され得る。

コンピュータシステム８００は、高レベルのコンピュータプログラミング言語を用いてプログラム可能である汎用コンピュータシステムでよい。コンピュータシステム８００はまた、特別のプログラムされた、特殊目的のハードウェアを用いて実施されてもよい。コンピュータシステム８００では、プロセッサ８０２は、通常、Ｉｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎから入手可能なよく知られているＰｅｎｔｉｕｍクラスのプロセッサなどの市販のプロセッサである。数多くの他のプロセッサが利用可能である。そのようなプロセッサは、通常、たとえば、Ｍｉｃｒｏｓｏｆｔ Ｃｏｒｐｏｒａｔｉｏｎから入手可能な、Ｗｉｎｄｏｗｓ（登録商標）９５、Ｗｉｎｄｏｗｓ９８、Ｗｉｎｄｏｗｓ ＮＴ、Ｗｉｎｄｏｗｓ ２０００（Ｗｉｎｄｏｗｓ ＭＥ）、Ｗｉｎｄｏｗｓ ＸＰ、Ｗｉｎｄｏｗｓ Ｖｉｓａ、Ｗｉｎｄｏｗｓ ７、もしくはＷｉｎｄｏｗｓ ８のオペレーティングシステム、Ａｐｐｌｅ Ｃｏｍｐｕｔｅｒから入手可能な、ＭＡＣ（登録商標） ＯＳ Ｓｙｓｔｅｍ ＸオペレーティングシステムもしくはｉＯＳ オペレーティングシステム、数多くのＬｉｎｕｘ（登録商標）ベースのオペレーティングシステムディストリビューションの１つ、たとえばＲｅｄ Ｈａｔ Ｉｎｃ．から入手可能なＥｎｔｅｒｐｒｉｓｅ Ｌｉｎｕｓ オペレーティングシステム、またはさまざまなソースから利用可能なＵＮＩＸ（登録商標）でよいオペレーティングシステムを実行する。数多くの他のオペレーティングシステムが使用され得る。

プロセッサおよびオペレーティングシステムは、一緒になって、高レベルのプログラミング言語のアプリケーションプログラムが書き込まれるコンピュータプラットフォームを定める。本発明は、特定のコンピュータシステムプラットフォーム、プロセッサ、オペレーティングシステム、またはネットワークに限定されないことを理解されたい。また、本発明が、特有のプログラミング言語またはコンピュータシステムに限定されないことは、当業者には明らかなはずである。さらに、他の適切なプログラミング言語および他の適切なコンピュータシステムも使用できることを理解されたい。

コンピュータシステムの１つ以上の部分は、通信ネットワークに結合された１つ以上のコンピュータシステム（図示せず）にわたって分散され得る。これらのコンピュータシステムはまた、汎用コンピュータシステムでもよい。たとえば、本発明のさまざまな態様は、１つ以上のクライアントコンピュータにサービスを提供する（たとえばサーバ）ように、または分散されたシステムの一部としてタスク全般を実行するように構成された１つ以上のコンピュータシステムの中に分散され得る。たとえば、本発明のさまざまな態様は、クライアントサーバシステム上で実行されてよく、このクライアントサーバシステムは、本発明のさまざまな実施形態に係るさまざまな機能を実行する１つ以上のサーバシステムの中に分散された構成要素を含む。これらの構成要素は、通信プロトコル（たとえばＴＣＰ／ＩＰ）を用いて通信ネットワーク（たとえばインターネット）上で通信する、実行可能な中間コード（たとえばＩＬ）または解釈コード（たとえばＪａｖａ（登録商標））でよい。

本発明は、任意の特定のシステムまたはシステムのグループ上で実行することに限定されないことを理解されたい。また、本発明は、任意の特定の分散されたアーキテクチャ、ネットワーク、または通信プロトコルに限定されないことを理解されたい。本発明のさまざまな実施形態は、Ｓｍａｌｌ Ｔａｌｋ、Ｊａｖａ、Ｃ＋＋、Ａｄａ、またはＣ＃（Ｃ−Ｓｈａｒｐ）などのオブジェクト指向プログラミング言語を用いてプログラムされ得る。他のオブジェクト指向プログラミング言語が、使用されてよい。あるいは、機能、スクリプト、および／または論理プログラミング言語が使用されてもよい。本発明のさまざまな態様は、プログラムされない環境（たとえば、ＨＴＭＬ、ＸＭＬ、または他の形式、すなわちブラウザプログラムのウィンドウ上で見たとき、グラフィカルユーザインターフェース（ＧＵＩ）の外観をレンダリングする、または他の機能を実行する形式で作成された文書）において実施され得る。本発明のさまざまな態様は、プログラムされたもしくはプログラムされない要素、または任意のその組み合わせとして実装されてよい。

本明細書で説明されるように、監視モジュール１０４は、３つの異なる第三者を監視するが、他の実施形態では、監視モジュール１０４は、任意の数および／またはタイプの第三者を監視することができる。また、これも本明細書において説明されるように、セキュリティオペレーションセンタは、３人のユーザ１２２（たとえばセキュリティ管理者）を含み、各々は、対応する端末１２４を有するが、他の実施形態では、セキュリティオペレーションセンタは、任意の数のユーザおよび／または端末を含むことができる。

本明細書において説明されるように、情報をユーザに提供するために、および／または対策を講じるようユーザに促すために、ポップアップウィンドウが利用されるが、他の実施形態では、任意の他のタイプのＧＵＩが、ユーザに情報を提供する、情報を入力するようユーザに促す、選択を行うようユーザに促すなどのために利用されてよい。

本明細書において説明されるように、ブロッキングモジュールは、有害動作体が大規模小売業者のネットワークにアクセスすることをより容易にブロックすると説明されているが、他の実施形態では、ブロッキングモジュールは、いかなるタイプまたはサイズのエンティティによっても使用されることができ、特定された有害動作体がいかなるタイプのネットワークにもアクセスすることを防止することができる。

本明細書において説明される実施形態は、特定された有害動作体をネットワークの各々のアクセスポイントにわたって自動的にブロックするためのシステムおよび方法を提供する。有害動作体が特定された後、有害動作体は、ブロックの迂回を防止するために、ネットワークの各々のアクセスポイントにおいて自動的にブロックされる。特定されると、有害動作体は、各々のネットワークセキュリティ機器においてネットワークにわたって自動的にブロックされるため、有害動作体をネットワークの各々のアクセスポイントにわたって同時にかつ自動的にブロックすることにより、特定された有害動作体によるブロック迂回に関する問題は低減され得る。したがって、特定された有害動作体を各々個々のネットワークセキュリティ機器において手動でブロックする時間が無駄に費やされない。

Claims (21)

1. ネットワークへのアクセスを制限するためのシステムであって、
   複数のネットワークアクセスポイントと、
   前記複数のネットワークアクセスポイントの少なくとも１つと前記ネットワークとの間に各々結合された複数のネットワークセキュリティ機器と、
   前記複数のネットワークアクセスポイントと前記ネットワークとの間に結合され、前記複数のネットワークセキュリティ機器を介した前記複数のアクセスポイントと前記ネットワークとの間の伝送を監視するように構成された監視モジュールと、
   前記監視モジュールおよび前記複数のネットワークセキュリティ機器に結合されたブロッキングモジュールとを備え、
   前記監視モジュールは、さらに、前記複数のネットワークアクセスポイントの第１の１つおよび前記複数のネットワークセキュリティ機器の第１の１つを介した、潜在的な有害動作体から前記ネットワークへの伝送に基づいて、前記潜在的な有害動作体を特定し、前記潜在的な有害動作体に関連する情報を前記ブロッキングモジュールに提供するように構成され、
   前記ブロッキングモジュールは、前記潜在的な有害動作体が前記ネットワークにアクセスすることがブロックされるべきであることを確認するように、また、それに応答して、前記複数のネットワークセキュリティ機器の各々１つを前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように自動的に構成するように構成される、システム。
2. 前記監視モジュールが、さらに、前記潜在的な有害動作体からの前記伝送内で少なくとも１つの所定のトリガを特定することによって、前記潜在的な有害動作体を特定するように構成される、請求項１に記載のシステム。
3. 前記複数のネットワークセキュリティ機器の少なくとも１つが、ファイアウォールである、請求項１に記載のシステム。
4. 前記ブロッキングモジュールが、さらに、前記潜在的な有害動作体が各々のファイアウォールを介して前記ネットワークにアクセスすることをブロックするために、ＳＨＵＮ命令を前記複数のネットワークセキュリティ機器内の各々のファイアウォールに伝送するように構成される、請求項３に記載のシステム。
5. 前記複数のネットワークセキュリティ機器の少なくとも１つが、侵入防止システム（ＩＰＳ）である、請求項１に記載のシステム。
6. 前記ブロッキングモジュールが、さらに、前記複数のネットワークセキュリティ機器内の各々のＩＰＳの隔離リストを、前記潜在的な有害動作体が各々のＩＰＳを介して前記ネットワークにアクセスすることをブロックするよう更新するように構成される、請求項５に記載のシステム。
7. さらに、少なくとも１つのセキュリティ端末を備え、前記セキュリティ端末は、前記監視モジュールに結合され、前記特定された潜在的な有害動作体の表示を第１のユーザに表示し、前記少なくとも１つのセキュリティ端末における前記第１のユーザの入力に基づいて、前記潜在的な有害動作体に関連する情報を前記ブロッキングモジュールに自動的に伝達するように前記監視モジュールを駆動するように構成される、請求項１に記載のシステム。
8. 前記ブロッキングモジュールが、さらに、前記少なくとも１つのセキュリティ端末を介して、前記ブロッキングモジュールにアクセスするように前記第１のユーザが認証されていることを確認するように構成される、請求項７に記載のシステム。
9. 前記ブロッキングモジュールが、さらに、前記少なくとも１つのセキュリティ端末を介して、前記ブロッキングモジュールにアクセスするように前記第１のユーザが認証されていることを確認するために、前記少なくとも１つのセキュリティ端末において２要素認証を求めるように構成される、請求項８に記載のシステム。
10. さらに、インターネットプロトコル（ＩＰ）アドレスのリストを含む前記少なくとも１つのセキュリティ端末に結合されたデータベースを備え、
    前記ブロッキングモジュールによって前記監視モジュールから受け取られた前記潜在的な有害動作体に関連する情報は、前記潜在的な有害動作体のＩＰアドレスを含み、
    前記ブロッキングモジュールは、さらに、前記潜在的な有害動作体の前記ＩＰアドレスを前記データベース内のＩＰアドレスの前記リストと比較し、前記潜在的な有害動作体の前記ＩＰアドレスと前記リスト内のＩＰアドレスとの間の一致に応答して、前記少なくとも１つのセキュリティ端末を介して前記第１のユーザに通知するように構成される、請求項７に記載のシステム。
11. 前記潜在的な有害動作体の前記ＩＰアドレスと前記リスト内の前記ＩＰアドレスとの間の一致に応答して、前記ブロッキングモジュールが、さらに、前記潜在的な有害動作体の前記ＩＰアドレスが前記ネットワークにアクセスすることがブロックされることを防止するように構成される、請求項１０に記載のシステム。
12. 前記ブロッキングモジュールが、さらに、前記潜在的な有害動作体に関連する情報を前記少なくとも１つのセキュリティ端末を介して第２のユーザに提供するように、前記潜在的な有害動作体が前記ネットワークにアクセスすることがブロックされるべきかどうかを確認するよう前記第２のユーザに促すように、また、前記潜在的な有害動作体がブロックされるべきであるという前記第２のユーザからの確認に応答して、前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように前記複数のネットワークセキュリティ機器の各々１つを自動的に構成するように構成される、請求項７に記載のシステム。
13. 複数のアクセスポイントと、前記複数のアクセスポイントの少なくとも１つとネットワークとの間に各々結合された複数のネットワークセキュリティ機器とを含む、前記ネットワークへのアクセスを制限するための方法であって、
    監視モジュールを用いて、前記複数のアクセスポイントおよび前記複数のネットワークセキュリティ機器を介した前記第三者と前記ネットワークとの間の伝送を監視することと、
    前記監視モジュールを用いて、前記複数のアクセスポイントの第１の１つおよび前記複数のネットワークセキュリティ機器の第１の１つを介した、潜在的な有害動作体と前記ネットワークとの間の伝送に基づいて、前記潜在的な有害動作体を特定することと、
    前記潜在的な有害動作体に関連する情報を前記監視モジュールからブロッキングモジュールに伝達することと、
    前記ブロッキングモジュールを用いて、前記潜在的な有害動作体が、前記ネットワークにアクセスすることがブロックされるべきであることを確認することと、
    前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように、前記複数のネットワークセキュリティ機器の各々１つを自動的に構成することとを含む、方法。
14. さらに、前記監視モジュールによって特定された前記潜在的な有害動作体に関連する情報を第１のセキュリティ端末を介して第１のユーザに表示することを含み、伝達することは、前記第１のセキュリティ端末における前記第１のユーザからの、前記潜在的な有害動作体に関連する情報が伝達されるべきであるという表示に応答して、前記情報を前記監視モジュールから前記ブロッキングモジュールに自動的に伝達することを含む、請求項１３に記載の方法。
15. さらに、前記ブロッキングモジュールを作動させるように前記第１のユーザが認証されていることを確認することを含む、請求項１４に記載の方法。
16. 前記潜在的な有害動作体に関連する前記情報が、前記潜在的な有害動作体のＩＰアドレスを含み、前記方法は、さらに、
    前記潜在的な有害動作体の前記ＩＰアドレスが、前記ネットワークによって外部向けに利用されるかどうかを判定することと、
    前記潜在的な有害動作体の前記ＩＰアドレスが、前記ネットワークによって外部向けに利用されるという判定に応答して、前記潜在的な有害動作体の前記ＩＰアドレスが前記ネットワークにアクセスすることがブロックされることを防止することとを含む、請求項１５に記載の方法。
17. さらに、
    前記潜在的な有害動作体の前記ＩＰアドレスが、前記ネットワークによって内部的に利用されるかどうかを判定することと、
    前記潜在的な有害動作体の前記ＩＰアドレスが前記ネットワークによって内部的に利用されるという判定に応答して、前記第１のセキュリティ端末を介して、前記潜在的な有害動作体の前記ＩＰアドレスが、前記ネットワークにアクセスすることがブロックされるべきかどうかを確認するよう前記第１のユーザに促すこととを含み、
    自動的に構成することは、前記潜在的な有害動作体の前記ＩＰアドレスが、前記ネットワークにアクセスすることがブロックされるべきであるという、前記第１のセキュリティ端末を介した前記第１のユーザからの表示に応答して、前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように、前記複数のネットワークセキュリティ機器の各々１つを自動的に構成することを含む、請求項１４に記載の方法。
18. さらに、
    前記第１のセキュリティ端末を介して、バックアップレビューのために二次ユーザを選択するよう前記第１のユーザに促すことと、
    前記潜在的な有害動作体に関連する前記情報を、第２のセキュリティ端末を介して、前記第１のユーザによって選択された第２のユーザに表示することと、
    前記第２のセキュリティ端末を介して、前記潜在的な有害動作体が前記ネットワークにアクセスすることがブロックされるべきかどうかを確認するよう前記第２のユーザに促すこととを含み、
    自動的に構成することは、前記潜在的な有害動作体の前記ＩＰアドレスが、前記ネットワークにアクセスすることがブロックされるべきであるという、前記第２のセキュリティ端末を介した前記第２のユーザからの表示に応答して、前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように、前記複数のネットワークセキュリティ機器の各々１つを自動的に構成することを含む、請求項１４に記載の方法。
19. さらに、前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように、前記複数のネットワークセキュリティ機器の各々１つを自動的に構成することに応答して、前記潜在的な有害動作体に関連する前記情報に基づいて変更管理を生成することを含む、請求項１４に記載の方法。
20. 小売業者ネットワークへのアクセスを制限するためのシステムであって、
    複数のネットワークアクセスポイントと、
    前記複数のネットワークアクセスポイントの少なくとも１つと前記ネットワークとの間に各々結合された複数のネットワークセキュリティ機器と、
    前記複数のネットワークアクセスポイントと前記ネットワークとの間に結合され、前記複数のネットワークセキュリティ機器を介した前記複数のアクセスポイントと前記ネットワークとの間の伝送を監視するように構成された監視モジュールと、
    潜在的な有害動作体を特定し、前記潜在的な有害動作体が前記ネットワークにアクセスすることがブロックされるべきであることを確認し、前記複数のネットワークセキュリティ機器の各々の１つにおいて前記特定された有害動作体が前記ネットワークにアクセスすることをブロックするための手段とを含む、システム。
21. 複数のネットワークアクセスポイントおよび複数のネットワークセキュリティ機器を含む、ネットワークへのアクセスを制限するためのシステムであって、
    前記複数のネットワークアクセスポイントに結合され、前記複数のネットワークセキュリティ機器を介した前記ネットワークへの伝送を監視するように構成された監視モジュールと、
    前記監視モジュールに結合され、前記複数のネットワークセキュリティ機器に結合されるようにも構成されたブロッキングモジュールとを備え、
    前記監視モジュールは、さらに、前記複数のネットワークアクセスポイントの第１の１つおよび前記複数のネットワークセキュリティ機器の第１の１つを介した、潜在的な有害動作体から前記ネットワークへの伝送に基づいて、前記潜在的な有害動作体を特定し、前記潜在的な有害動作体に関連する情報を前記ブロッキングモジュールに提供するように構成され、
    前記ブロッキングモジュールは、前記潜在的な有害動作体が前記ネットワークにアクセスすることがブロックされるべきであることを確認するように、また、それに応答して、前記潜在的な有害動作体が前記ネットワークにアクセスすることをブロックするように前記複数のネットワークセキュリティ機器の各々１つを自動的に構成するように構成される、システム。

Images