JP2015529036A5

JP2015529036A5 - 大規模データ処理システムにおいて孤立した異常の検出を行うための方法

Info

Publication number: JP2015529036A5
Application number: JP2015520945A
Authority: JP
Filing date: 2013-07-08
Publication date: 2016-08-25

Description

本発明のコンテキストにおける大規模データ処理システムの例は、テレビ、インターネット、およびテレフォニーサービスが何百万もの加入者に提供されるトリプルプレイオーディオビジュアルサービス提供システムである（ここでは、オーディオビジュアルサービスの受信およびレンダリングがデータ処理である）。大規模データ処理システムの別の例は、何千ものストレージノードがストレージサービスを提供する（分散）データストレージシステムである（ここでは、ストレージサービスの提供がデータ処理である）。オペレータの何百万ものクライアントによって享受されるトリプルプレイサービスのサービス品質（ＱｏＳ）における異常を検出するために、または分散データストレージシステムにおけるストレージデバイスの機能時の異常を検出するために、異常検出システムの一部である集中型エラー検出サーバは、データ処理デバイスをモニタする。ここでは、孤立した異常の検出が問題である。これは、異常管理システムが、そのシステムに接続されている何百万ものデータ処理デバイスが原因で、異常管理システムによってデータ処理デバイスから異常管理システムに個々のメッセージ送信が可能となる時に発生する可能性があるオーバーロードをそのシステム自体で防がなければならない理由による。例えば、通信パスが何らかの理由でダウンすると、この通信パスを介して少なくとも部分的に（トリプルプレイの例として）用いられるか又は（分散データストレージの例として）相互通信する何千または何百万ものデータ処理デバイスは、（トリプルプレイの例として）ＱｏＳ（サービス品質）の突然の低下、又は（分散ストレージの例として）接続の突然の喪失を経験し、エラーメッセージを異常管理システムに大量に送信するであろう。異常管理システムは、その後、非常に短い時間期間で到着する大量のメッセージに対処することができないであろう。これらの大規模データ処理システムのために、オペレータは、従って、個々のデバイスに関する可能性を制限してエラーメッセージを異常管理システムに送信する傾向がある。遠隔管理技術はＴＲ−０６９又はＳＮＭＰ（Simple network management protocol）などである。これらのプロトコルは、サーバ・クライアント指向であり、すなわちサーバが複数のデータ処理デバイスを遠隔管理する。本質により、この中央遠隔管理アーキテクチャは、単一のサーバがそのような大規模なデバイスセットを効果的に監視できないときに、何百万ものデータ処理デバイスにスケーリング（scale）しない。従来技術によると、異なる監視アーキテクチャは、従って、これらのデータ処理デバイスが正しく機能し続けることかどうかを検証するために、監視システムがサービス分散ネットワークトポロジーの分散パスにおけるいくつかのデータ処理デバイスを頻繁に監視する場所を設置する。明らかに、異常管理システムのオーバーロードに対するこの保護バリアは、如何なる細粒異常検出も不可能にする。次に、個別基準の異常検出は不可能になる。

本発明は、サービスを提供するデータ処理デバイスにおいて孤立した異常の検出を行う方法であって、前記データ処理デバイスによって提供された少なくとも１つのサービスのサービス品質に応じてソース品質バケットに前記データ処理デバイスを挿入する第１の挿入するステップであって、前記データ処理装置によって実装され、品質バケットは前記少なくとも１つのサービスに関するサービス品質の予め定められた範囲を有するデータ処理デバイスのグループを表す、第１の挿入ステップと、前記データ処理デバイスによって提供された前記サービス品質が前記第１の品質バケットの前記予め定められた範囲を超えて展開する場合、宛先品質バケットに前記データ処理デバイスを挿入する第２の挿入ステップと、ソース品質バケットが前記データ処理デバイスの前記品質バケットと同一である前記宛先品質バケットにおけるデータ処理デバイスの総数を表すカウンタが閾値を下回るとき、孤立した異常の検出を表すメッセージを送信するステップと、を含む、前記方法を提供することを目的とする。

本発明の方法の特定の実施形態によると、前記データ処理デバイスによって提供される前記サービスは、データストレージサービスである。

本発明の方法の特定の実施形態によると、前記データ処理デバイスによって提供される前記サービスは、音響映像レンダリングサービスである。

本発明はまた、サービスを提供するデータ処理デバイスのための孤立した異常の検出配置であって、前記データ処理デバイスによって提供された少なくとも１つのサービスのサービス品質に応じてソース品質バケットに前記データ処理デバイスを挿入する第１の挿入手段であって、品質バケットは前記少なくとも１つのサービスに関するサービス品質の予め定められた範囲を有するデータ処理デバイスのグループを表す、第１の挿入ステップと、前記データ処理デバイスによって提供された前記サービス品質が前記第１の品質バケットの前記予め定められた範囲を超えて展開する場合、宛先品質バケットに前記データ処理デバイスを挿入する第２の挿入手段と、ソース品質バケットが前記データ処理デバイスの前記品質バケットと同一である前記宛先品質バケットにおけるデータ処理デバイスの総数を表すカウンタが閾値を下回るとき、孤立した異常の検出を表すメッセージを送信する手段と、を備えた、前記配置に関する。

本発明の配置の特定の実施形態によると、前記データ処理デバイスによって提供される前記サービスは、データストレージサービスである。

本発明の配置の特定の実施形態によると、前記データ処理デバイスによって提供される前記サービスは、音響映像レンダリングサービスである。

本明細書において、用語「異常の検出」は、「エラー検出」よりもむしろ使用される。これは、意図的に行われる。実際には、異常は、ＱｏＳにおける「非正常的(abnormal)」変更と見なされる。このような異常は、肯定的（より良いＱｏＳ）または否定的（より悪いＱｏＳ）のいずれかとすることができ、従って、「エラー」またはエラーでないかが区別されなければならない。異常モニタリングの目的で、エラー検出に加えて、ノードが、例えば、トラブルシューティングの目的で、より良いＱｏＳを有することを検出することも興味深い。

データ処理システムでは、異常管理システムに対する通信複雑度がスケーラビリティの鍵である。本明細書の先行技術の項において論じたように、大規模データ処理システムにおいて微細な異常検出は、グループ化された異常検出のためにトレードオフされる。なぜならば、異常モニタリングシステムは、多数のデバイスからの異常メッセージを同時に処理することができないからである。本発明は、従って、何千あるいはさらに何百万ものデバイスが１または複数のデータ処理サービスを提供する大規模データ処理システムにおいて使用するために特によくスケーリングする孤立した異常の検出のソリューションを定義する。スケーラビリティに関する本発明の重要な特徴は、デバイスが、それらのデバイスが提供するデータ処理サービスのＱｏＳにおける著しい劣化、または反対に、著しい改善に遭遇する際の異常の検出の後、アラームによる報知を最小限にする能力である。現在の発明の目的は、ＱｏＳの劣化／改善がデバイス、またはデバイスの限定されたセットに特有なものであると評価される事例に対するアラーム報告を減らすことである。このため、本発明は、大規模または超大規模を含む、任意の規模のデータ処理システムに適している異常検出の自己組織化方法を提案する。

処理ユニット５３は、マイクロプロセッサ、カスタムチップ、専用（マイクロ）コントローラなどとして実装することができる。メモリ５５は、ＲＡＭ（Random Access Memory）、ハードディスクドライブ、不揮発性ランダムアクセスメモリ、ＥＰＲＯＭ（Erasable Programmable ROM）などのような、任意の形式の揮発性および／または不揮発性メモリに実装することができる。デバイス５００は、本発明の方法によるデータ処理デバイスを実装するのに適している。データ処理デバイス５００は、データ処理デバイスによって提供される少なくとも１つのサービスに関連する同一の第１のサービス品質値を有するデータ処理デバイスの第１のグループに挿入するための手段（５３、５４）と、データ処理デバイスのサービス品質値が所定の閾値を超えている第２のサービス品質値に展開するかどうかを判定するためのサービス品質展開判定手段（５２）と、同一のサービス品質を有するデータ処理デバイスの第２のグループに挿入するための手段（５３、５４）と、データ処理デバイスの第２のグループが第１の値と等しい以前のサービス品質値を有していた多数のデータ処理デバイスを含むかどうか、及びその数が所定の値以下であるかどうかを判定するための計算手段（５３）と、孤立した異常の検出を示すメッセージを送信するための手段（５４）とを有する。

図６は、フローチャートの形式において特定の実施形態による本発明の方法を図示している。初期化する第１のステップ６０において、本発明の実行に必要である変数は、メモリ、例えば、デバイス５００のメモリ５５において初期化される。次のステップ６１において、デバイスは、データ処理デバイスによって提供される少なくとも１つのサービス品質に応じてデバイス自体を品質バケット（「ソース」品質バケット）に挿入する。品質バケットは、少なくとも１つのサービスに関するサービス品質の事前定義された範囲を有するデータ処理デバイスのグループを表す。言い換えれば、デバイスは、データ処理デバイスによって提供される少なくとも１つのサービス品質を含むサービス品質の範囲を有する品質バケットにデバイス自体を挿入する。品質バケットへの「挿入」は、デバイスが品質バケットを表すグループのメンバになることを意味する。特定の実施形態によれば、このような挿入は、デバイスを表す識別子を、品質バケットを表すデバイスのグループのリストに付加することによって行われる。変形実施形態によれば、挿入は、品質バケットを表すデバイスのセットへのネットワーク接続を作ることによって行われ、その品質バケットは、品質バケット内にあるデバイス間のネットワーク接続によって特徴付けられる。判定ステップ６２において、データ処理デバイスによって提供されるサービス品質が、挿入された（メンバである）品質バケットの事前定義された範囲を超えて展開するかどうかが判定される。これは、その品質バケットの範囲に含まれていた所与の瞬時でのサービス品質と、後の瞬時でのサービス品質との間で、後者がその品質バケットの範囲内にもはや入らない、即ち、ＱｏＳの展開が品質バケットの変更、即ち、「ソース」から「宛先」品質バケットに変更する結果となるのに十分重要であることを意味する。デバイスは、従って、データ処理デバイスによって提供されるサービス品質が第１の品質バケットの事前定義された範囲を超えて展開した場合、データ処理デバイスを宛先品質バケットに挿入する第２の挿入するステップ（６３）において別の品質バケットに挿入されることになる。その後、品質バケットの変更が孤立した事例であったかどうかがステップ６４において判定される。このために、ソース品質バケットがデータ処理デバイスの品質バケットと同一である宛先品質バケットにおけるデータ処理デバイスの総数が所定の値以下であることをカウンタが表しているかどうかが判定される。そうである場合、孤立した異常が検出され、デバイスは、孤立した異常の検出の発生を表すメッセージを送信／送出する。特定の実施形態によれば、メッセージは、デバイスの識別子を含む。変形実施形態によれば、メッセージは、オペレータがデバイスに異常の理由を問い合わせることなく介入することができるように、異常検出の理由を含む。
［付記１］
サービスを提供するデータ処理デバイスにおいて孤立した異常の検出を行う方法であって、前記方法は、前記データ処理装置によって実装され、
前記データ処理デバイスによって提供された少なくとも１つのサービスのサービス品質に応じてソース品質バケットに前記データ処理デバイスを挿入する第１の挿入ステップ（６１）であって、品質バケットは前記少なくとも１つのサービスに関するサービス品質の予め定められた範囲を有するデータ処理デバイスのグループを表す、第１の挿入ステップと、
前記データ処理デバイスによって提供された前記サービス品質が前記第１の品質バケットの前記予め定められた範囲を超えて展開する場合、宛先品質バケットに前記データ処理デバイスを挿入する第２の挿入ステップ（６３）と、
ソース品質バケットが前記データ処理デバイスの前記品質バケットと同一である前記宛先品質バケットにおけるデータ処理デバイスの総数を表すカウンタが閾値（６４）を下回るとき、孤立した異常の検出を表すメッセージを送信するステップ（６５）と、
を含む、前記方法。
［付記２］
前記方法は、前記ソースバケット上及び前記第２の挿入ステップのタイムスタンプ上で動作されるハッシュ関数に従って前記カウンタを格納することを担当する前記宛先品質バケットにおけるデータ処理デバイスのアドレスを判定するステップであって、前記タイムスタンプは、前記データ処理デバイス間で共有された共有クロックから得られるタイムスロットを表す、ステップをさらに含む、付記１に記載の方法。
［付記３］
前記データ処理デバイスは、品質バケットに関するエントリポイントを表すルートデータ処理デバイスを備えるデータ処理デバイスのネットワークにおいて組織化され、前記第２の挿入ステップは、その宛先品質バケットの宛先ルートデータ処理デバイスのアドレスを得るためのそのソース品質バケットの第１のルートデータ処理デバイスに第１の要求を送信するステップをさらに含む、付記１又は２に記載の方法。
［付記４］
前記方法は、前記宛先品質バケットに前記データ処理デバイスを挿入するためのその宛先品質バケットの前記宛先ルートデータ処理デバイスに第２の要求を送信するステップをさらに含む、付記３に記載の方法。
［付記５］
前記データ処理デバイスのネットワークは、２つのレベルのオーバーレイ構造に従って組織化され、前記オーバーレイ構造は、前記ルートデータ処理デバイス間のネットワーク接続を組織化する１つの上部オーバーレイと、同一の品質バケットのデータ処理デバイス間のネットワーク接続を組織化する多数の底部オーバーレイとを備える、付記３又は４に記載の方法。
［付記６］
前記データ処理デバイスによって提供される前記サービスは、データストレージサービスである、付記１乃至５のいずれかに記載の方法。
［付記７］
前記データ処理デバイスによって提供される前記サービスは、音響映像レンダリングサービスである、付記１乃至５のいずれかに記載の方法。
［付記８］
サービスを提供するデータ処理デバイスのための孤立した異常の検出配置であって、
前記データ処理デバイスによって提供された少なくとも１つのサービスのサービス品質に応じてソース品質バケットに前記データ処理デバイスを挿入する第１の挿入手段であって、品質バケットは前記少なくとも１つのサービスに関するサービス品質の予め定められた範囲を有するデータ処理デバイスのグループを表す、第１の挿入ステップと、
前記データ処理デバイスによって提供された前記サービス品質が前記第１の品質バケットの前記予め定められた範囲を超えて展開する場合、宛先品質バケットに前記データ処理デバイスを挿入する第２の挿入手段と、
ソース品質バケットが前記データ処理デバイスの前記品質バケットと同一である前記宛先品質バケットにおけるデータ処理デバイスの総数を表すカウンタが閾値を下回るとき、孤立した異常の検出を表すメッセージを送信する手段と、
を備えた、前記配置。
［付記９］
前記ソースバケット上及び前記第２の挿入のタイムスタンプ上で動作されるハッシュ関数に従って前記カウンタを格納することを担当する前記宛先品質バケットにおけるデータ処理デバイスのアドレスを判定する手段であって、前記タイムスタンプは、前記データ処理デバイス間で共有された共有クロックから得られるタイムスロットを表す、手段をさらに備えた、付記８に記載の配置。
［付記１０］
前記データ処理デバイスは、品質バケットに関するエントリポイントを表すルートデータ処理デバイスを備えるデータ処理デバイスのネットワークにおいて組織化され、前記第２の挿入は、その宛先品質バケットの宛先ルートデータ処理デバイスのアドレスを得るためのそのソース品質バケットの第１のルートデータ処理デバイスに第１の要求を送信する手段をさらに備えた、付記８又は９に記載の配置。
［付記１１］
前記宛先品質バケットに前記データ処理デバイスを挿入するためのその宛先品質バケットの前記宛先ルートデータ処理デバイスに第２の要求を送信する手段をさらに含む、付記１０に記載の配置。
［付記１２］
前記データ処理デバイスのネットワークは、２つのレベルのオーバーレイ構造に従って組織化され、前記オーバーレイ構造は、前記ルートデータ処理デバイス間のネットワーク接続を組織化する１つの上部オーバーレイと、同一の品質バケットのデータ処理デバイス間のネットワーク接続を組織化する多数の底部オーバーレイとを備える、付記１０又は１１に記載の配置。
［付記１３］
前記データ処理デバイスによって提供される前記サービスは、データストレージサービスである、付記８乃至１２のいずれかに記載の配置。
［付記１４］
前記データ処理デバイスによって提供される前記サービスは、音響映像レンダリングサービスである、付記８乃至１２のいずれかに記載の配置。

Claims

サービスを提供するデータ処理デバイスにおいて孤立した異常の検出を行う方法であって、前記方法は、
前記データ処理デバイスによって提供された少なくとも１つのサービスの品質に応じてサービスのソース品質バケットに前記データ処理デバイスを挿入する第１の挿入ステップであって、サービスの品質バケットは、データ処理デバイスのグループに関して、少なくとも１つのサービスに関するサービスの品質の範囲を表す、第１の挿入ステップと、
前記データ処理デバイスによって提供された前記少なくとも１つのサービスの前記品質が前記サービスのソース品質バケットの範囲を超えて展開した場合、前記データ処理デバイスによってレンダリングされた前記少なくとも１つのサービスの前記品質に応じてサービスの宛先品質バケットに前記データ処理デバイスを挿入する第２の挿入ステップと、
前記サービスの宛先品質バケット内にあり、前記データ処理デバイスと同じように前記サービスのソース品質バケットから前記サービスの宛先品質バケットへ前記少なくとも１つのサービスの品質の展開を経ているデータ処理デバイスの総数を表すカウンタがある値を下回るとき、孤立した異常の検出を表すメッセージを送信するステップと、
を含む、前記方法。
前記方法は、前記サービスのソース品質バケット及び前記第２の挿入ステップのタイムスタンプに対して導出したハッシュ関数に従って前記カウンタを格納することを担当する前記サービスの宛先品質バケットにおけるデータ処理デバイスのアドレスを判定するステップであって、前記タイムスタンプは、前記データ処理デバイス間で共有された共有クロックから得られるタイムスロットを表す、前記ステップをさらに含む、請求項１に記載の方法。
前記データ処理デバイスは、サービスの品質バケットに関するエントリポイントを表すルートデータ処理デバイスを備えるデータ処理デバイスのネットワークにおいて組織化され、前記第２の挿入ステップは、そのサービスの宛先品質バケットの宛先ルートデータ処理デバイスのアドレスを得るためにそのサービスのソース品質バケットの第１のルートデータ処理デバイスに第１の要求を送信するステップをさらに含む、請求項１又は２に記載の方法。
前記方法は、前記サービスの宛先品質バケットに前記データ処理デバイスを挿入するためにそのサービスの宛先品質バケットの前記宛先ルートデータ処理デバイスに第２の要求を送信するステップをさらに含む、請求項３に記載の方法。
前記データ処理デバイスのネットワークは、２つのレベルのオーバーレイ構造に従って組織化され、前記オーバーレイ構造は、前記ルートデータ処理デバイス間のネットワーク接続を組織化する１つの上部オーバーレイと、同一のサービスの品質バケットのデータ処理デバイス間のネットワーク接続を組織化する多数の底部オーバーレイとを備える、請求項３又は４に記載の方法。
前記データ処理デバイスによって提供される前記サービスは、データストレージサービスである、請求項１から５のいずれかに記載の方法。
前記データ処理デバイスによって提供される前記サービスは、音響映像レンダリングサービスである、請求項１から５のいずれかに記載の方法。
サービスを提供するデータ処理デバイスのための孤立した異常の検出システムであって、
前記データ処理デバイスによって提供された少なくとも１つのサービスの品質に応じてサービスのソース品質バケットに前記データ処理デバイスを挿入する第１の挿入手段であって、サービスの品質バケットは、データ処理デバイスのグループに関して、少なくとも１つのサービスに関するサービスの品質の範囲を表す、前記第１の挿入手段と、
前記データ処理デバイスによって提供された前記少なくとも１つのサービスの前記品質が前記サービスのソース品質バケットの範囲を超えて展開した場合、前記データ処理デバイスによって提供された前記少なくとも１つのサービスの前記品質に応じてサービスの宛先品質バケットに前記データ処理デバイスを挿入する第２の挿入手段と、
前記サービスの宛先品質バケット内にあり、前記データ処理デバイスと同じように前記サービスのソース品質バケットから前記サービスの宛先品質バケットへ前記少なくとも１つのサービスの品質の展開を経ているデータ処理デバイスの総数を表すカウンタがある値を下回るとき、孤立した異常の検出を表すメッセージを送信する手段と、
を備えた、前記システム。
前記サービスのソース品質バケット及び前記第２の挿入手段のタイムスタンプに対して演算したハッシュ関数に従って前記カウンタを格納することを担当する前記サービスの宛先品質バケットにおけるデータ処理デバイスのアドレスを判定する手段であって、前記タイムスタンプは、前記データ処理デバイス間で共有された共有クロックから得られるタイムスロットを表す、前記手段をさらに備えた、請求項８に記載のシステム。
前記データ処理デバイスは、サービスの品質バケットに関するエントリポイントを表すルートデータ処理デバイスを備えるデータ処理デバイスのネットワークにおいて組織化され、前記第２の挿入手段は、そのサービスの宛先品質バケットの宛先ルートデータ処理デバイスのアドレスを得るためにそのサービスのソース品質バケットの第１のルートデータ処理デバイスに第１の要求を送信する手段をさらに備えた、請求項８又は９に記載のシステム。
前前記サービスの宛先品質バケットに前記データ処理デバイスを挿入するためにそのサービスの宛先品質バケットの前記宛先ルートデータ処理デバイスに第２の要求を送信する手段をさらに含む、請求項１０に記載のシステム。
前記データ処理デバイスのネットワークは、２つのレベルのオーバーレイ構造に従って組織化され、前記オーバーレイ構造は、前記ルートデータ処理デバイス間のネットワーク接続を組織化する１つの上部オーバーレイと、同一のサービスの品質バケットのデータ処理デバイス間のネットワーク接続を組織化する多数の底部オーバーレイとを備える、請求項１０又は１１に記載のシステム。
前記データ処理デバイスによって提供される前記サービスは、データストレージサービスである、請求項８から１２のいずれかに記載のシステム。
前記データ処理デバイスによって提供される前記サービスは、音響映像レンダリングサービスである、請求項８から１２のいずれかに記載のシステム。