JP2022518372A - レイテンシ制約下でのキャッシュのクラスタに対する効率的で柔軟な負荷分散 - Google Patents

Abstract

本技術は、コンテンツ人気度のマルチレベル評価に基づいて複数のキャッシュサーバ間でコンテンツ要求を誘導するためのシステム、方法、およびコンピュータ可読媒体を提供する。いくつかの実施形態では、照会されたコンテンツに対して、人気、半人気、および不人気の指定を含む３つの人気度レベルが決定され得る。クエリの処理、および要求されたコンテンツの配信は、前述の人気度レベルの指定に依存し、クエリが最初にダイレクトされたエッジキャッシュサーバにおけるクエリの受け入れ、クエリの拒否、ならびに第２のエッジキャッシュサーバへのリダイレクト、またはオリジンサーバへのクエリのリダイレクト、それによる要求されたコンテンツの配信を含む。提案される技術は、不人気のコンテンツについての要求をオリジンサーバに転送しながら、半人気のコンテンツについての要求を１つ以上の追加のキャッシュサーバに誘導することによって、エッジキャッシュクラスタのヒット率をより高める。【選択図】図２

Description

関連出願の相互参照
この出願は、２０１９年１月２９日に出願された「ＥＦＦＩＣＩＥＮＴ ＡＮＤ ＦＬＥＸＩＢＬＥ ＬＯＡＤ－ＢＡＬＡＮＣＩＮＧ ＦＯＲ ＣＬＵＳＴＥＲＳ ＯＦ ＣＡＣＨＥＳ ＵＮＤＥＲ ＬＡＴＥＮＣＹ ＣＯＮＳＴＲＡＩＮＴ」と題する米国非仮特許出願第１６／２６１，４６２号の利益および優先権を主張し、この内容は、本明細書によって、その全体が参照により明示的に組み込まれる。

本技術は、ネットワーク内キャッシングシステムを実装するためのシステムおよび方法に関係する。より具体的には、それは、ネットワーク内キャッシュのクラスタのヒット率を増加させることにより、コンテンツ配信ネットワークのレイテンシおよびネットワーク負荷を低減することに向けられている。

ビデオオンデマンド（ＶｏＤ）およびリニアビデオストリーミングサービスに関連するインターネットトラフィックは、２０２１年までにおよそ７４ＴＢ／ｓに達すると予測されており、これはインターネットトラフィック全体の８２％に相当する。そのため、ネットワークのスケーリングを容易にすると同時に、クライアントにより良いエクスペリエンスの品質を提供するために、コンテンツ配信ネットワーク（ＣＤＮ）が展開されている。しかしながら、ビデオトラフィックの規模が非常に大きく、エクスペリエンスの品質に関する期待がますます高まっているため、コンテンツ配信ネットワークにとって厳しいエンジニアリング上の課題が生じている。このような状況では、ネットワークのスケーラビリティは、従来のコンテンツ配信ネットワーク（ＣＤＮ）が需要に対応するのに苦労しているように、ビデオ配信にとって重大な問題になる。これらの課題の中でも重大なものは、関連するリソース（ネットワーク、ストレージ、および計算）を利用する効率を高めることを伴う。ネットワーク負荷の増加に応じた処理ハードウェアの単純なスケールアップでは、多くの場合、コンテンツユーザに必要なエクスペリエンスの品質を満たすには不十分であるため、これは本質的な改善である。

本開示の上記および他の利点および特徴を得ることができる様式を説明するために、添付の図面に示されるその特定の実施形態を参照することにより、上記で簡単に説明した原理のより具体的な説明を行う。これらの図面が本開示の例示的な実施形態のみを描写し、したがって、その範囲を限定すると見なされるべきではないことを理解して、本明細書の原理は、以下の添付の図面を使用することにより、追加の特定事項および詳細とともに記載および説明される。

本技術のいくつかの実施形態による、ネットワークロケータ部分およびコンテンツ識別子部分を含む修正されたＩＰｖ６アドレスフォーマットを示す。 本技術のいくつかの実施形態による、改善されたキャッシュサーバヒット率を備えたコンテンツ配信システムを示す。 本技術のいくつかの実施形態による、改善されたキャッシュサーバヒット率を備えたコンテンツ配信システムを示す。 本技術のいくつかの実施形態による、コンテンツ配信ネットワークにおけるコンテンツ要求の人気度ベースのフィルタリングを最適化するために使用されるＰＩコントローラを示す。 本技術のいくつかの実施形態による、Ｙａｋｓｈａ導出コントローラの受け入れ確率出力の関数として人気度ベースのフィルタリング基準を計算するための流れ図を示す。 本技術のいくつかの実施形態による、例示的なネットワークデバイスを示す。 本技術のいくつかの実施形態による、コンピューティングデバイスの例示的なアーキテクチャを示す。 本技術のいくつかの実施形態による、例示的なコンテンツ要求フィルタリングプロセスのフローチャートを示す。

例示的な実施形態の説明
本開示の様々な例示的な実施形態について、以下で詳細に論じられる。特定の実装形態について考察するが、これは例証のみを目的として行われることを理解されたい。関連技術の当業者は、本開示の趣旨および範囲から離れることなく、他の構成要素および構成を使用することができることを認識するであろう。したがって、以下の説明および図面は例示的なものであり、限定的なものとして解釈されるべきではない。本開示の完全な理解を提供するために、多数の特定の詳細が説明される。しかしながら、特定の例において、説明を曖昧にすることを避けるために、周知の内容、つまり従来技術の内容は説明されていない。本開示における一実施形態または実施形態への参照は、同一の施形態または任意の実施形態への参照であり得、このような参照は、実施形態の少なくとも１つを意味する。

「一実施形態」または「実施形態」への参照は、実施形態に関連して記載された特定の特徴、構造、または特性が、本開示の少なくとも１つの実施形態に含まれることを意味する。本明細書の様々な場所における「一実施形態において」という語句の出現は、必ずしもすべてが同一の実施形態を指すわけではなく、他の実施形態を相互に排除する別個のまたは代替の実施形態でもない。さらに、いくつかの実施形態によって示され、他の実施形態によって示されない場合もある、様々な特徴が記載されている。

本明細書で使用される用語は、一般に、本技術において、本開示の文脈内で、および各用語が使用される特定の文脈において、それらの通常の意味を有する。代替の言語および同義語は、本明細書で論じられる用語のいずれか１つ以上に使用されてもよく、用語が本明細書で詳述または論じられるかどうかに特別な意味を置くべきではない。場合によっては、特定の用語に対する同義語が提供される。１つ以上の同義語の詳述は、他の同義語の使用を排除するものではない。本明細書で論じられる任意の用語の例を含む本明細書の任意の場所での例の使用は、例示的なものにすぎず、本開示または任意の例示的な用語の範囲および意味をさらに限定することを意図するものではない。同様に、本開示は、本明細書に示される様々な実施形態に限定されない。

本開示の範囲を限定することを意図することなく、本開示の実施形態による機器、装置、方法、およびそれらに関連する結果の例を以下に示す。タイトルまたはサブタイトルは、読者の便宜のために例で使用される場合があり、開示の範囲を制限するものではないことに留意されたい。別段の定義がない限り、本明細書で使用される技術的および科学的用語は、本開示が関係する当業者によって一般的に理解される意味を有する。矛盾する場合は、定義を含む本明細書が優先される。

本開示の追加の特徴および利点は、以下の説明に記載され、一部は説明から明らかであるか、または本明細書に開示された原理の実践によって学ぶことができる。本開示の特徴および利点は、添付の特許請求の範囲で特に指摘されている機器および組み合わせによって実現および取得することができる。本開示のこれらおよび他の特徴は、以下の説明および添付の特許請求の範囲からより完全に明らかになるか、または本明細書に記載の原理の実践によって学ぶことができる。

概要
ネットワーク内キャッシュサーバのクラスタのヒット率性能およびサービスレベル応答時間を最適化するためのシステム、方法、およびコンピュータ可読媒体が開示されている。開示された技術の態様は、コンテンツ要求トラフィックのマルチレベルの人気度評価に基づくフィルタリングスキームに向けられている。本技術のいくつかの実施形態では、コントローラで調整された閾値パラメータが、人気のコンテンツと半人気のコンテンツとを区別するために使用される。

本技術の一態様では、方法は、エッジデバイスにおいて、複数の最後に要求されたコンテンツ識別子を含むメタキャッシュを、人気の部分および半人気の部分に分割するための閾値パラメータを指定することと、適切な転送／ルーティングプロトコルを使用して、メタキャッシュの半人気の部分内のコンテンツ識別子に対して生成された第１のキャッシュミス要求を、１つ以上の追加のキャッシュサーバにリダイレクトすることと、適切な転送／ルーティングプロトコルを使用して、メタキャッシュの半人気の部分内のコンテンツ識別子に対して１つ以上の追加のキャッシュサーバによって生成された第２のキャッシュミス要求を、要求されたコンテンツをホストしているオリジンサーバにリダイレクトすることと、を含む。本技術のいくつかの実施形態は、キャッシュヒット率と１つ以上の他のネットワーク性能メトリックとの間のトレードオフを最適化するために、比例積分コントローラを使用して、閾値パラメータの値を調整するステップをさらに含む。

したがって、本技術の実施形態は、コンテンツ配信ネットワークにおけるエッジキャッシュサーバのヒット率を高めるためのコンテンツ要求のマルチレベル人気度ベースのフィルタリングを提供する。いくつかの実施形態では、これは、メタキャッシュエントリを人気のカテゴリと半人気のカテゴリに分割するための閾値パラメータとともに、最近最も要求が多かったいくつかのコンテンツに対応するコンテンツ識別子のメタキャッシュを維持することによって達成される。例えば、半人気として識別されたコンテンツは、人気と見なされたコンテンツとは対照的に、かつ不人気と見なされたコンテンツと同様に、異なるキャッシュミス転送ポリシーに関連付けられる。前述の特徴をさらに拡張するために、メタキャッシュの半人気の部分内で識別されたコンテンツに対するキャッシュミス要求の場合、第１の受信キャッシュサーバは、オリジンサーバに要求を直接転送するのではなく、疑似ランダムに選択された可能性のある別のキャッシュサーバに要求をリダイレクトする場合がある。

本技術の一態様では、システムは、１つ以上のエッジキャッシュサーバに通信可能に結合された１つ以上のコンテンツ要求フィルタリングユニットを含み、各コンテンツ要求フィルタリングユニットは、閾値インデックス全体にわたって人気の部分および半人気の部分に分割された複数の最近最も要求が多かったコンテンツ識別子のメタキャッシュをさらに備えることができ、半人気の部分内のコンテンツ識別子についての要求は、半人気のコンテンツ要求が全体にわたって順次誘導される複数のキャッシュサーバの各々からのキャッシュミスの場合にのみ、オリジンコンテンツサーバに転送される。本技術のいくつかの実施形態では、システムは、メタキャッシュの閾値パラメータを調整して、それによって、キャッシュヒット率と１つ以上の他の性能属性との間のトレードオフを最適化するように動作する１つ以上のＰＩコントローラをさらに備えることができる。

したがって、最近最も使用されたコンテンツ識別子のメタキャッシュを備えるコンテンツフィルタリング／ルーティングユニットは、前述のコンテンツの人気度レベルに基づいて、コンテンツについての要求に、異なるキャッシュミス転送ポリシーを適用することができる。いくつかの実施形態では、本技術は、最近最も使用されたコンテンツ識別子のメタキャッシュ内の人気のコンテンツと半人気のコンテンツとを区別するための閾値パラメータを含む。閾値パラメータは、いくつかの実施形態によれば、自己調整比例積分コントローラを使用して調整することができる。例えば、メタキャッシュの半人気の部分内で識別されたコンテンツについての要求は、最初のキャッシュサーバからの初期キャッシュミスに遭遇した後、１つ以上の追加のキャッシュサーバにリダイレクトされる場合がある。したがって、本技術の実施形態は、コンテンツ要求をオリジンコンテンツサーバにリダイレクトする前に、要求されたコンテンツに対してより完全なキャッシュ検索を実施することを可能にする。

多層ビデオコンテンツ配信ネットワーク（ＣＤＮ）アーキテクチャは、概して、（ｉ）ビデオチャンクを要求および消費するクライアント、（ｉｉ）要求されたコンテンツを提供するオリジンサーバ、ならびに（ｉｉｉ）クライアントのより近くに（すなわち、ＩＳＰネットワーク内に）あり、オリジンサーバに対する負荷を低減するために最も人気のあるビデオチャンクを記憶するエッジキャッシュという、３つの主要構成要素からなる。コンテンツ配信ネットワーク（ＣＤＮ）が満たすべき重要な特性は、インフラストラクチャのコストを最小限に抑えながら、小さいレイテンシでコンテンツをサービスすることである。大きいインフラストラクチャコストをかけずに低レイテンシのコンテンツ配信を実現するための１つのアプローチは、人気のあるコンテンツをユーザの近くにキャッシュし、あまり人気のないコンテンツをより集中化されたサーバ上に保持することに基づく。そのため、各々がクライアントに適度に近く、単一のオリジンサーバによって提供されるものと同じコンテンツをサービスすることができる、キャッシュのネットワークを使用して、可能な限り多くのコンテンツをエッジにおいてキャッシュし、可能な限り多くの不人気のコンテンツがオリジンサーバによってサービスされるようにすることができる。

コンテンツが要求され、エッジキャッシュサーバなどの選択されたサーバから正常にサービスされる率は、「ヒット率」と呼ばれ得る。エッジキャッシュ上のヒット率は、チャンクのダウンロード時間など、エクスペリエンスの品質（ＱｏＥ）に関連する要因に大きい影響を与える。例えば、キャッシュミスにより、サーバのレイテンシが最大１桁増加することが示されており、これは、クライアントの起動時間の増加につながる。このサーバレイテンシの低下の１つの理由は、キャッシュサーバでのキャッシュミスの場合に、オリジンサーバへのハイパーテキスト転送プロトコル（ＨＴＴＰまたはＨＴＴＰＳ）接続をプロキシするために発生するネットワークコストに関与する。したがって、ＣＤＮアーキテクチャのスケーラビリティにとって重要であるのは、コンテンツに対するほとんどの要求が、エッジキャッシュから正常にサービスされることであり、なぜならばこれにより、オリジンサーバに対する負荷が軽減されるからである。

しかしながら、エッジキャッシュに対する負荷が増加するにつれて、より強力なサーバを使用するか、またはハードウェアリソースを追加するだけで容量の問題に対処するには、法外にコストがかかることになる可能性がある。したがって、コンテンツをキャッシュすべき場所、要求をリダイレクトすべきかまたはコンテンツをプロキシすべきか、ならびにコンテンツ要求をどこにリダイレクトすべきかを決定するために、エッジにおける人気度ベースのフィルタリングが必要になる場合がある。現在のアーキテクチャには、２つの主要な問題がある。すなわち、キャッシュミスの際に、オリジンからコンテンツをフェッチするためにＨＴＴＰプロキシが使用される。これは、レイヤ３において直接的にオリジンに向けて要求を再ルーティングする場合と比較して、無視することができない性能コストがかかる。さらに、既存のアーキテクチャは、キャッシュ間のコラボレーションのためにキャッシュの水平スケーリングを利用していない。代わりに、キャッシュミスが発生したとき、通常、要求は元のオリジンに転送されるが、事前に別のキャッシュを試すことは、半人気のコンテンツには役立つ可能性がある。

上記は、（展開ネットワーキング技術における）チャンクレベルのコンテンツアドレス指定および多層コンテンツ人気度評価を利用して、コンテンツ要求およびコンテンツ配信の最適な処理に関してインテリジェントな決定を行う、ビデオコンテンツ配信ネットワーク（ＣＤＮ）のためのシステム、方法、およびコンピュータ可読媒体に向けられた本技術の実施形態によって対処される。コンテンツ関連のトラフィックの最適な処理は、１つの点では、キャッシュシステムのヒット率を高めることに向けられており、これにより、ビデオなどのコンテンツについての要求をサービスすることに関連付けられたレイテンシおよびネットワーク負荷が低減される。したがって、本発明のいくつかの実施形態は、キャッシュミスに関連付けられた悪影響（すなわち、レイテンシおよびネットワーク負荷）をも低減しながら、ネットワークエッジにおけるキャッシュヒット率を増加させることに向けられている。そのために、開示された技術の実施形態は、ネットワークレイヤのビデオチャンク命名を利用して、要求されたコンテンツについての人気度ベースの多層分類を容易にする。

いくつかの実施形態では、名前付きビデオチャンク（要求パケットヘッダのネットワークアドレス内に埋め込まれたコンテンツ識別子）は、現在のＩＰベースのネットワークにおいて展開可能なシステムおよび／または構成内のフォワーディングプレーン内で使用され得る。したがって、各ビデオセグメントは、例えば、ビデオ識別子を含有するための６４ビット符号化、ビデオ内のセグメントの識別子、ならびにセグメント期間および要求されたビデオのビットレート／品質などの潜在的に追加のメタデータを使用して、一意のネットワーク識別子とマッチングされ得る。次に、この名前からＩＰｖ６アドレスを構築することができる。図１を参照すると、修正されたＩＰｖ６アドレス１００の例は、ビデオ制作者に固有であり得、ネットワークロケータとして機能する、ルーティングプレフィックスおよびサブネット識別子を構成する第１の６４ビット部分１０４を含む。さらに、修正された例示的なＩＰｖ６アドレス１００は、コンテンツメタデータを構成し、コンテンツ識別子として機能する、第２の６４ビット部分１０６をさらに含む。

本技術のいくつかの実施形態によれば、コンテンツ要求パケットヘッダのレイヤ３アドレス部分の一部としてのチャンクレベルのコンテンツアドレス指定を使用して、ネットワークレイヤにおいてコンテンツ認識および追跡を提供することができる。本技術のいくつかの実施形態では、前述のネットワークレベルのコンテンツ認識および追跡を、最後に最近使用された（ＬＲＵ）フィルタリングポリシーと組み合わせて使用して、コンテンツ要求のマルチレベル人気度ベースのフィルタリングを提供することができる。いくつかの実施形態では、人気度ベースのＬＲＵフィルタリングは、最近最も使用が少なかった置換ポリシーによって駆動される、識別子の「メタキャッシュ」を保持することによって実装され得る。メタキャッシュ内のコンテンツ識別子の存在は、人気度の指標と見なすことができる。しかしながら、「人気」のコンテンツと「不人気」のコンテンツとの間で分類する代わりに、本技術の実施形態は、コンテンツを、「人気」、「半人気」、および「不人気」の間で分類する三層分類アプローチを開示する。したがって、不人気のコンテンツの配信がオリジンサーバにオフロードされ、人気のコンテンツがキャッシュにおいてサービスされる精度および効率が高まる。

本技術のいくつかの実施形態によれば、チャンクレベルのコンテンツアドレス指定は、一意でグローバルにルーティング可能なＩＰｖ６アドレスを各ビデオチャンクに割り当てることからなる。チャンク識別子およびビデオ識別子をＩＰｖ６アドレス空間内に公開すると、要求されたコンテンツに対するネットワークレイヤの可視性が提供される。したがって、クライアントシステムとネットワークキャッシングリソースとの間に配置されたコンテンツルーティング／フィルタリングサービスを使用して、コンテンツ要求パケット内でＩＰアドレスとして公開されたコンテンツ識別子から、最後に最近使用されたコンテンツ識別子のメタキャッシュを構築するために、１つ以上のエッジキャッシュサーバ宛てのコンテンツ要求パケットを調べることができる。次に、コンテンツルーティング／フィルタリングサービスは、最後に最近使用されたコンテンツ識別子のメタキャッシュ内の対応するコンテンツ識別子のインデックス付けされた位置に基づいて、特定の人気度レーティング（すなわち、人気または半人気レーティング）を異なるクライアント要求コンテンツに割り当てることができる。いくつかの実施形態では、インデックス付けされた位置は、人気度レーティングの目的で、静的または動的に計算された閾値レベルに関連して決定され得る。コンテンツは、対応するコンテンツ識別子が閾値レベルより上または下に配置されているかどうかに応じて、人気または半人気として識別され得るが、メタキャッシュから欠落しているコンテンツ識別子は、不人気のコンテンツに対応すると見なされる。次に、コンテンツルーティング／フィルタリングサービスは、要求されたコンテンツのコンテンツ人気度分類に基づいて、帯域内コンテンツ要求転送決定を行うことができる。

本技術のいくつかの実施形態によれば、人気と見なされたコンテンツは、キャッシュサーバにおいてローカルにサービスされ得る。逆に、不人気と見なされたコンテンツについての要求は、オリジンサーバにダイレクトされ、同じオリジンサーバによってサービスされる場合がある。初期キャッシュサーバにおいて利用することができない半人気のコンテンツの場合、別の（エッジ）キャッシュがコンテンツのコピーを有する可能性があり得る。したがって、これらの場合、実施形態は、オリジンに直接戻るのではなく、別の疑似ランダムに選択されたエッジキャッシュを通って迂回することを提供する。いくつかの実施形態によれば、キャッシュミス時の第２のキャッシュサーバおよび／またはオリジンサーバへのリダイレクト／迂回は、ＨＴＴＰプロキシを使用して処理することができる。しかしながら、本技術のいくつかの実施形態では、リダイレクト／迂回は、性能を改善するために、セグメントルーティング負荷分散（ＳＲＬＢ）アプローチ（例えば、６ＬＢ負荷分散プロトコルなど）を使用して実施され得る。例えば、開示された技術のいくつかの実施形態では、ＩＰｖ６セグメントルーティング（ＳＲｖ６）を利用して、要求されたコンテンツの決定された人気度レベルに基づいて候補サーバのチェーンを介してクライアント要求を誘導する。ＳＲｖ６の実装例は図３に提供されている。

図２は、本技術のいくつかの実施形態による、例示的なコンテンツ配信ネットワーク（ＣＤＮ）２００の動作を示す。例示的なＣＤＮネットワーク２００のコンテンツルータ２０２および２０４は、それぞれ、最後に最近使用された（ＬＲＵ）フィルタコンポーネント２０６および２０８を備える。ＬＲＵフィルタ２０６は、関連付けられた（人気度）閾値パラメータ２１１を有するサイズＣ１のメタキャッシュ２１０を備え、ＬＲＵフィルタ２０８は、関連付けられた閾値パラメータ２１３を有するサイズＣ１のメタキャッシュ２１２を備える。ＬＲＵフィルタ２０６および２０８は、オリジンサーバ２１６と、キャッシュサーバ２１７および２１８からなるキャッシュサーバクラスタとへのアクセスを制御およびフィルタリングする。いくつかの実施形態では、ＬＲＵフィルタ機能は、１つ以上のコンテンツルータに組み込まれ得る。いくつかの実施形態では、ＬＲＵフィルタは、独立したデバイス、ソフトウェアサービス、プロトコル、またはソフトウェア／ハードウェアサービスの組み合わせとして実装され得る。ＬＲＵフィルタは、ネットワークエッジの近くに配置され、１つ以上の関連付けられたキャッシュサーバおよび／または１つ以上のオリジンコンテンツサーバとの間のコンテンツ要求の制御およびフィルタリングを担当することができる。いくつかの実施形態では、ＬＲＵフィルタは、１つ以上のコンテンツルータに通信可能に結合され、かつ異なるコンテンツについての要求をルーティングする方法に関して対応するコンテンツルータに必要な情報を提供するユニットとして実装され得る。

図２に戻って参照すると、コンテンツ要求を受信したときの例示的なＣＤＮ２００の動作が、いくつかの実施形態に従って、フローライン２１６、２１８、および２２０によって示されている。フローライン２１６は、着信要求パケット内のコンテンツ識別子（２１７）がＬＲＵフィルタ２０６のメタキャッシュ２１０に見出され、その対応するインデックス値が閾値インデックス値よりも小さい（すなわち、その位置が、メタキャッシュ２１０の人気の部分に対応する閾値インデックス２１１を上回っている）シナリオに対応する。したがって、ＬＲＵフィルタ２０６は、対応するコンテンツ識別子をメタキャッシュ２１０の上部に移動し、クエリは、対応するキャッシュサーバによって受け入れられる（すなわち、クエリは、エッジサーバ２１７によってサービスされる）。２１７でのキャッシュミスの場合、要求された（人気の）コンテンツは、オリジンサーバ２１６からプロキシされ、ローカルコピーがキャッシュサーバ２１７に保存される。

ＬＲＵキャッシュ内の要素のインデックスを検討する場合、インデックスが小さいほど、要素はキャッシュリスト内により早く現れる。結果として、インデックスが小さいほど、人気度はより高くなる。したがって、本技術のいくつかの実施形態によれば、コンテンツは、そのインデックスが閾値よりも小さいときはいつでも人気と見なされ、そのインデックスが閾値よりも大きいときはいつでも半人気と見なされ得る。ただし、図２のＬＲＵキャッシュ２１０および２１２の図に関して、より最近観察されたコンテンツに対応するＬＲＵヒープの下部は、ＬＲＵキャッシュの図の上部に示されていることに留意されたい。したがって、例示的なＬＲＵキャッシュの図２１０および２１２は、インデックス値の配置の昇順に対応する。

逆に、フローライン２１８は、要求されたコンテンツ識別子がＬＲＵフィルタ２０６のメタキャッシュ２１０に見出されない（すなわち、不人気のコンテンツ）シナリオに対応する。したがって、ＬＲＵフィルタ２０６は、欠落しているコンテンツ識別子をメタキャッシュ２１０の上部に追加／挿入し（これにより、メタキャッシュが満杯である場合、メタキャッシュ内の最後のコンテンツ識別子が削除され）、クエリは拒否される（すなわち、要求はオリジンサーバ２１６に直接転送される。）

説明したように、本技術の実施形態は、不人気のレベルと人気のレベルとの間にある人気度の中間レベルのレーティング（半人気）を提供する。図２の例示的なＣＤＮ２００では、これは、着信コンテンツ要求パケットのレイヤ３アドレス部分に埋め込まれた、要求されたコンテンツ識別子がコンテンツ識別子（２２１）に対応するシナリオに対応するフローライン２２０によって示されており、コンテンツ識別子（２２１）は、ＬＲＵ２０６のメタキャッシュ２１０内で、閾値インデックス２１１よりも大きいインデックス値を有する位置において見出される（すなわち、その位置は、メタキャッシュ２１０の半人気の部分に対応する閾値インデックス２１１を下回っている）。半人気のコンテンツの場合、初期／第１の受信キャッシュサーバ（キャッシュサーバ２１７）におけるキャッシュミスにより、ＬＲＵフィルタ２０６またはコンテンツルータ２０２は、関連付けられたコンテンツルータ２０４を介して（例えば、セグメントルーティング負荷分散転送プロトコルを使用することによって）、要求を、第２の疑似ランダムに選択されたキャッシュサーバ（２１８）に再ルーティングすることになる。リダイレクトされたコンテンツ要求を受信すると、ＬＲＵフィルタ２０８は、対応するコンテンツ識別子（２２１）をメタキャッシュ２１２の上部に移動する。第２の疑似ランダムに選択されたキャッシュサーバ（２１８）をサービスする第２のＬＲＵフィルタ（２０８）も、（コンテンツ識別子２２１に対応する）要求されたコンテンツを有さない場合、または第２の疑似ランダムに選択されたキャッシュサーバ（２１８）をサービスする第２のＬＲＵフィルタ（２０８）が、要求されたコンテンツを有さないが、閾値パラメータ２１３より上の位置にある（すなわち、メタキャッシュ２１２の半人気の部分内にある場合、クエリは、オリジンサーバ２１６に転送される。リダイレクトされたコンテンツが、第２のエッジキャッシュサーバ２１８のＬＲＵフィルタ２１２に従って人気と見なされる場合、要求は、第２のエッジキャッシュサーバ２１８上でローカルに受け入れられ、ローカルで利用することができない場合、コンテンツは、オリジンサーバ２１６からプロキシされる。

いくつかの実施形態では、前述のキャッシュシステムは、リスト内のエントリへのポインタのハッシュマップに結合された、二重にリンクされたリストとして実装され得る。本技術の一実施形態では、メタキャッシュのサイズは、それがアクセスをフィルタリングするキャッシュのサイズの６倍に設定される。これにより、軽い負荷の（したがって、閾値がサイズに等しい）場合に、ほぼ最適なヒット率が提供される。

本技術のいくつかの実施形態は、第１の受信キャッシュサーバから別のキャッシュサーバにキャッシュミスをリダイレクトすることを伴う、半人気のコンテンツのためのフィルタリングスキームに向けられている。この特徴は、半人気のコンテンツが別のエッジキャッシュにおいて利用可能になる可能性に基づいているため、（典型的は地理的により離れている）オリジンに戻る前に、別のキャッシュを訪れるために２つのキャッシュ間で三角ルーティングの転送レイテンシを発生させることは、価値があると見なされる。その目的のために、いくつかの実施形態によれば、ＩＰｖ６セグメントルーティング（ＳＲｖ６）およびセグメントルーティング負荷分散（ＳＲＬＢ）プロトコルを活用して、要求をオリジンサーバにリダイレクトする前に、複数の疑似ランダムに選択されたキャッシュを訪れることができる。

図３は、本技術のいくつかの実施形態による、コンテンツ要求および応答トラフィックの人気度ベースのフィルタリングのためのセグメントルーティング実装３００の例を示す。実装例３００では、クライアント３０４の近くに（例えば、クライアントネットワークスタック、またはセットトップボックス内に）位置し得るディスパッチャユニット（３０２）は、（セグメント識別子リスト３０６を含む）セグメントルーティングヘッダをコンテンツ要求パケットに挿入して、上流の要求フィルタリングプロセスを容易にするために展開される。例えば、クライアント３０４が新規接続パケット（例えば、ＴＣＰ ＳＹＮ）を発行するとき、ディスパッチャ３０２は、セグメント識別子（ＳＩＤ）リスト３０６を、要求パケットのセグメントルーティングヘッダに挿入する。図３に示される例示的な実施形態では、ＳＩＤリスト３０６は３つのエントリを含み、最初の２つのエントリは、セグメント識別子１および３に対応し、それぞれ、２つの疑似ランダムに選択されたキャッシュサーバ、キャッシュサーバ１、およびキャッシュサーバ３を識別する。ＳＩＤリスト３０６の最後のエントリは、オリジンサーバ３０８のセグメント識別子に対応する。明確にする目的のために、セグメントルーティングがＩＰｖ６フォワーディングプレーンで実装されている場合、ＳＩＤリストは、ＳＲｖ６（ＩＰｖ６フォワーディングを用いたセグメントルーティング）リストと交換可能に呼ばれることがある。

（キャッシュサーバまたはオリジンサーバのいずれかであり得る）受け入れサーバは、クライアント３０４から新規接続パケットを受け入れると、そのネットワークまたはセグメントアドレスをメタデータとして、クライアントに返す応答パケットに挿入する。次に、ディスパッチャ（３０２）は、接続の存続期間の残りの間、応答サーバのアドレスを記録する。したがって、クライアントが受け入れサーバにさらなるパケット（例えば、ＴＣＰ ＡＣＫ）を発行するとき、ディスパッチャは、１つのセグメント識別子のみを有するセグメントルーティングヘッダを挿入し、セグメント識別子は、ＳＩＤリスト３０６内で識別されたサーバの元の３つ組（すなわち、キャッシュサーバ１、キャッシュサーバ３、およびオリジンサーバ）から受け入れサーバを識別する。

したがって、受け入れサーバのアドレスを有するメタデータを含有する応答がディスパッチャによって受信されると、（受け入れサーバへの）確立された接続に関連付けられた後続のすべてのパケットは、コンテンツ要求を受け入れて接続を終了したサーバ／ノードに対応する（初期コンテンツ要求または新規接続パケットに埋め込まれた元のセグメント識別子リスト内で指定された３つから）１つのセグメント識別子のみを含む。その結果、クライアントは、要求されたコンテンツを配信するために、受け入れサーバへの直接データ接続を確立することができる。

図３の例を参照すると、ＬＲＵフィルタ／コンテンツルータ３１０、３１１、および３１２は、それぞれ、キャッシュサーバ１、２、および３へのアクセスをフィルタリングし、キャッシュミス応答を管理する目的で展開されている。そのため、各ＬＲＵフィルタ／コンテンツルータは、それがアクセスをフィルタリングするキャッシュサーバの近くに配置される。図２および図３の例示的な実施形態によれば、ＬＲＵフィルタ／コンテンツルータのフィルタリング／管理動作は、要求されたコンテンツの、人気、半人気、または不人気としての閾値ベースの人気度分類に依存する。

図３に戻って参照すると、キャッシュサーバ１宛ての着信（新規接続）コンテンツ要求３１３は、対応するＬＲＵフィルタ／コンテンツルータ３１０において受信される。（コンテンツ要求３１３から抽出された）要求されたコンテンツ識別子が、ＬＲＵフィルタ／コンテンツルータ３１０内のメタキャッシュの人気の部分に見出された場合、要求されたコンテンツは「人気」と見なされる。したがって、コンテンツ要求は、キャッシュサーバ１（初期受信キャッシュ）において受け入れられ、対応する接続３１３はそこで終了する。そのため、要求パケットは、さらなるセグメントを訪れることなく、キャッシュサーバ１のローカルスタックに転送される。要求された「人気」のコンテンツがキャッシュサーバ１上でローカルに利用可能でない場合、要求は、オリジンサーバ３０８にプロキシされ、コンテンツは、キャッシングソフトウェアの挿入ポリシー（すなわち、最近最も使用が少なかった、使用頻度が最も低かった、フィストインフィストアウトなど）に従ってキャッシュサーバ１に挿入される。接続３１３を終了した後、キャッシュサーバ１は、図３の参照３１４によって示されるそのセグメント識別子（１）とともに応答パケットをクライアントに送り返す。

しかしながら、（コンテンツ要求パケットから抽出された）要求されたコンテンツ識別子が、ＬＲＵフィルタ／ルータ３１０内のメタキャッシュ（図２の項目２１０および２１２）の半人気の部分に見出された場合、要求されたコンテンツは「半人気」と見なされる。したがって、ＬＲＵフィルタ／ルータ３１０は、図３の接続３１６（図２の接続２２０）に対応する再試行をトリガし、第２の疑似ランダムに選択されたキャッシュサーバ（キャッシュサーバ３）に対応するＳＲｖ６リスト３０６内の次のセグメント識別子エントリ（すなわち、ＳＩＤ３）に要求を転送する。これには、（キャッシュサーバ１に関連付けられた）ＬＲＵフィルタ／ルータ３１０が、コンテンツ要求を、キャッシュサーバ３に関連付けられた対応するＬＲＵフィルタ／ルータ３１２にルーティング／転送することが必要となる。要求された「半人気」のコンテンツが、ＬＲＵフィルタ３１２によって人気と見なされた場合、再試行／リダイレクトされたコンテンツ要求は、キャッシュサーバ３（第２の受信キャッシュ）において受け入れられ、対応する接続３１６はそこで終了する。したがって、要求パケットは、さらなるセグメントを訪れることなく、キャッシュサーバ３のローカルスタックに転送され、要求された「半人気」のコンテンツは、キャッシュサーバ３において直接サービスされる。接続３１６を終了した後、受け入れサーバ（キャッシュサーバ３）は、クライアントに応答パケットを送り返し、それは、図３の参照３１７によって示されるそれ自身のセグメント識別子（３）を応答パケットに挿入する。しかしながら、要求された「半人気」のコンテンツが、キャッシュサーバ３をサービスするＬＲＵフィルタ３１２によって見出されないか、または人気と見なされない場合、接続要求３１６は拒否され、要求は、接続３１８を介して、オリジンサーバ３０８（ＳＲｖ６リスト３０６内で指定された最後のセグメント）にリダイレクトされる。オリジンサーバ３０８は、要求を受け入れ、対応する接続３１８を終了する。したがって、要求パケットは、オリジンサーバ３０８のローカルスタックに転送され、要求された「半人気」のコンテンツは、オリジンサーバ３０８において直接サービスされる。接続３１８を終了した後、受け入れサーバ（オリジンサーバ３０８）は、クライアントに応答パケットを送り返し、それは、図３の参照３１９によって示されるそれ自身のセグメント識別子（オリジン）を応答パケットに挿入する。

最後に、初期受信キャッシュ（キャッシュサーバ１）宛てのクライアント要求パケットから抽出された、要求されたコンテンツ識別子が、対応するＬＲＵフィルタ／ルータ３１０の（図２の項目２１０および２１２として示されている）メタキャッシュ内のどこにも見出されない場合、要求されたコンテンツは「不人気」と見なされる。したがって、要求された「不人気」のコンテンツがキャッシュサーバ１上でローカルに利用可能でない場合、欠落しているコンテンツ識別子は、ＬＲＵフィルタ／ルータ３１０に関連付けられたメタキャッシュの上部に挿入され、要求は、接続３２０を介して、オリジンサーバ３０８にリダイレクトされる。オリジンサーバ３０８に向けられたクエリは終了し、ローカルスタックに転送される。接続３２０を終了した後、受け入れサーバ（オリジンサーバ３０８）は、クライアントに応答パケットを送り返し、それは、図３の参照３２１によって示されるそれ自身のセグメント識別子（オリジン）を応答パケットに挿入する。

したがって、不人気のコンテンツはエッジキャッシュによってサービスされるのではなく、（ネットワークレイヤにおいて）オリジンサーバに直接オフロードされる確率が高くなる。オフロードされた接続をエッジにおいてプロキシする必要がなくなるため、不要なＨＴＴＰ終端が回避され、エッジプロキシのキャッシュが不人気のコンテンツで汚染されないため、結果としてヒット率が増加する。

本技術のいくつかの実施形態によれば、比例積分（ＰＩ）コントローラを使用して、ＬＲＵフィルタのパラメータを調整することができる。例えば、ＰＩコントローラを使用して、最後に最近要求されたコンテンツ識別子のメタキャッシュを人気の部分および半人気の部分に分割する（人気度）閾値パラメータを調整し、このようにして、ネットワークキャッシュサーバのキャッシュヒット率の性能と平均応答時間との間のトレードオフを制御および最適化することができる。例えば、ＬＲＵフィルタのメタキャッシュにおける人気度閾値を上げると、対応するキャッシュサーバにおいて受け入れられる要求の数が増加し、したがって、それに応じてキャッシュサーバの応答時間が増加する。いくつかの実施形態では、ＰＩコントローラは、ＬＲＵフィルタの（人気のコンテンツの識別のための）人気度閾値パラメータを調整するために、ＬＲＵフィルタと組み合わせて使用され得る。ＰＩコントローラは、例えば、（ＬＲＵフィルタがアクセスする）関連付けられたキャッシュサーバの現在の応答時間を入力パラメータとして受け取り、それを客観的フロー完了時間と比較して、所望のバランスに達するまで、ＬＲＵフィルタの（人気度）閾値パラメータの値に対するしかるべき調整を行うことによってこれを実現する。このようにして、ＰＩコントローラを使用して、ネットワークキャッシュアクセスを最適化することができる。

図４は、ＬＲＵフィルタ４０２と組み合わせて動作するコンテンツルータ４０１が、キャッシュサーバ４０３へのアクセスをフィルタリングおよび制御するために使用される、実装例４００を示す。ＬＲＵフィルタ４０２は、コンテンツ識別子を記憶するためのサイズＣ１のメタキャッシュ４０４と、人気／半人気／不人気のコンテンツの識別に関連付けられた閾値パラメータｋとをさらに備える。コンテンツ要求の人気／半人気／不人気の分類は、最終的に、どのコンテンツ要求がキャッシュサーバにおいて受け入れられるか、どれが異なるキャッシュサーバを用いて再試行されるか、およびどれが拒否され、オリジンサーバにリダイレクトされるかを決定する。実装例４００では、キャッシュサーバ４０３の応答時間「δｔ」が測定され、入力としてＰＩコントローラ４０６に提供され得る。ＰＩコントローラ４０６は、入力応答時間に基づいて、ＬＲＵフィルタ４０２のメタキャッシュ４０４内の閾値パラメータｋのレベルを最適に調整する。このようにして、ＰＩコントローラを使用して、ＬＲＵフィルタの動作を調整および最適化し、最終的に、ネットワークにおけるエッジキャッシング性能を改善することができる。

本発明の一実施形態では、ＰＩコントローラは、受け入れ確率に従って要求をフィルタリングすることによってウェブサーバの応答時間を制御するＹａｋｓｈａなどの自己調整ＰＩを使用して実装することができる。このような自己調整ＰＩコントローラの１つの利点は、それがいずれの統合作業も必要とせずに、キャッシュの前で独立したモジュールとして機能することができることである。さらに、自己タイミング機能により、人間による入力、またはサーバの特性の事前知識が不要になる。

いくつかの実施形態によれば、Ｙａｋｓｈａベースのフィルタリングは、フィルタリング基準を、受け入れ確率から最後に最近使用された（ＬＲＵ）人気度閾値に変換することによって、本技術のいくつかの実施形態によって規定される動作に適合させることができる。

要求パターンがポアソン到着に従い、人気度分布ｑ（ｒ）が既知である場合、いくつかの実施形態によれば、Ｃｈｅの近似を利用して、コンテンツについての要求を受け入れる確率を、コンテンツ人気度閾値の関数として計算することができる。コンテンツ人気度閾値は、式（１．１）によって定義されることができ、ここで、ｋは、コンテンツ人気度閾値を表し、ｐ（ｋ）は、式１．２によって定義されているように、コンテンツ人気度閾値ｋの関数として、要求を受け入れる確率を表する。式１．１および１．２内のパラメータｔ_ｃは、式１．１のベキ根に対応する。

次に、（１．２）によって定義された確率関数を反転して、Ｙａｋｓｈａフィルタ（すなわち、受け入れ確率に従ってサーバ要求をフィルタリングするように構成された自己調整ＰＩ）によって出力された受け入れ確率の関数としてｋを計算することができる。これは、キャッシュサーバ５０２の応答時間「δｔ」がＹａｋｓｈａフィルタ５０４への入力として使用される図５に示されている。受け入れ確率ｐに対応するＹａｋｓｈａフィルタの出力５０６を、５０６において反転し、このようにして、ｐの関数としてコンテンツ人気度閾値パラメータｋを計算する。次に、閾値パラメータｋを使用して、要求されたコンテンツの多層人気度レーティングを提供することができる。いくつかの実施形態では、反転動作（５０６）は、効率を目的として、事前に計算された反転テーブルを介して実施され得る。

開示された技術の実施形態は、人気度閾値パラメータｋに対して直接使用される任意の自己調整ＰＩコントローラを提供することに留意されたい。いくつかの実施形態では、調整は、フロー完了時間の代わりに、ＣＰＵ使用率またはＴＣＰキュー長などのサーバ側メトリックに対して実施され得る。このようなメトリックは、フロー完了時間よりも正確で瞬時である可能性があるが、受け入れシステムとキャッシュサーバとのより緊密な結合が必要になる場合がある。

ここで、本開示は、クライアントコンピュータ、スイッチ、ルータ、コントローラ、サーバなどのようなネットワークデバイスを計算する例示的なアーキテクチャを示す図６および図７に向けられる。

図６は、バスなどの接続部６０５を使用して互いに電気的に通信するコンポーネントを含むコンピューティングシステムアーキテクチャ６００を示す。システム６００は、処理ユニット（ＣＰＵまたはプロセッサ）６１０、ならびに読み取り専用メモリ（ＲＯＭ）６２０およびランダムアクセスメモリ（ＲＡＭ）６２５などのシステムメモリ６１５を含む様々なシステムコンポーネントをプロセッサ６１０に結合するシステム接続部６０５を含む。システム６００は、プロセッサ６１０に直接接続されているか、近接しているか、またはプロセッサ６１０の一部分として統合された高速メモリのキャッシュを含むことができる。システム６００は、プロセッサ６１０による高速アクセスのために、メモリ６１５および／または記憶デバイス６３０からキャッシュ６１２にデータをコピーすることができる。このようにして、キャッシュは、データを待機している間のプロセッサ６１０の遅延を回避するという性能向上を提供することができる。これらおよび他のモジュールは、プロセッサ６１０を制御するか、または制御するように構成して、様々なアクションを実施することができる。他のシステムメモリ６１５も同様に利用可能であり得る。メモリ６１５は、異なる性能特性を有する複数の異なるタイプのメモリを含むことができる。プロセッサ６１０は、任意の汎用プロセッサ、プロセッサ６１０を制御するように構成された記憶デバイス６３０に記憶されたサービス１ ６３２、サービス２ ６３４、およびサービス３ ６３６のようなハードウェアまたはソフトウェアサービス、ならびにソフトウェア命令が実際のプロセッサ設計に組み込まれている特別目的プロセッサを含むことができる。プロセッサ６１０は、複数のコアまたはプロセッサ、バス、メモリコントローラ、キャッシュなどを含む完全に自己完結型のコンピューティングシステムであり得る。マルチコアプロセッサは、対称または非対称であり得る。

コンピューティングデバイス６００とのユーザインタラクションを可能にするために、入力デバイス６４５は、音声用マイクロフォン、ジェスチャまたはグラフィック入力用のタッチスクリーン、キーボード、マウス、モーション入力、音声などの任意の数の入力メカニズムを表すことができる。出力デバイス６３５はまた、当業者に知られているいくつかの出力メカニズムのうちの１つ以上とすることができる。場合によっては、マルチモーダルシステムは、ユーザがコンピューティングデバイス６００と通信するために複数のタイプの入力を提供することを可能にすることができる。通信インターフェース６４０は、一般に、ユーザ入力およびシステム出力を統御および管理することができる。特定のハードウェア構成での動作に制限はないため、ここでの基本機能は、開発時に改善されたハードウェアまたはファームウェア構成に簡単に置き換えることができる。

記憶デバイス６３０は、不揮発性メモリであり、磁気カセット、フラッシュメモリカード、ソリッドステートメモリデバイス、デジタル多用途ディスク、カートリッジ、ランダムアクセスメモリ（ＲＡＭ）６２５、読み取り専用メモリ（ＲＯＭ）６２０、およびそれらのハイブリッドなど、コンピュータがアクセス可能なデータを記憶することができるハードディスクまたは他のタイプのコンピュータ可読媒体とすることができる。

記憶デバイス６３０は、プロセッサ６１０を制御するためのサービス６３２、６３４、６３６を含むことができる。他のハードウェアまたはソフトウェアモジュールが企図される。記憶デバイス６３０は、システム接続部６０５に接続することができる。一態様では、特定の機能を実施するハードウェアモジュールは、その機能を実施するために、プロセッサ６１０、接続部６０５、出力デバイス６３５などのような必要なハードウェアコンポーネントに関連して、コンピュータ可読媒体に記憶されたソフトウェアコンポーネントを含むことができる。

図７は、スイッチング、ルーティング、保証、および他のネットワーキング動作を実施するのに好適な例示的なネットワークデバイス７００を示す。ネットワークデバイス７００は、中央処理装置（ＣＰＵ）７０４、インターフェース７０２、および接続部７１０（例えば、ＰＣＩバス）を含む。適切なソフトウェアまたはファームウェアの制御下で動作する場合、ＣＰＵ７０４は、パケット管理、エラー検出、および／またはルーティング機能を実行する責任を負う。ＣＰＵ７０４は、好ましくは、オペレーティングシステムおよび任意の適切なアプリケーションソフトウェアを含むソフトウェアの制御下でこれらすべての機能を達成する。ＣＰＵ７０４は、マイクロプロセッサのＩＮＴＥＬ Ｘ１０６ファミリからのプロセッサなどの１つ以上のプロセッサ７０８を含み得る。場合によっては、プロセッサ７０８は、ネットワークデバイス７００の動作を制御するために特別に設計されたハードウェアであり得る。場合によっては、メモリ７０６（例えば、不揮発性ＲＡＭ、ＲＯＭ、ＴＣＡＭなど）はまた、ＣＰＵ７０４の一部を形成する。ただし、メモリをシステムに結合することができる多くの異なる方式がある。場合によっては、ネットワークデバイス７００は、ＣＰＵ７０４とは別に、ＴＣＡＭなどのメモリおよび／または記憶ハードウェアを含むことができる。そのようなメモリおよび／または記憶ハードウェアは、例えば、接続７１０を介して、ネットワークデバイス７００およびそのコンポーネントと結合することができる。

インターフェース７０２は、典型的に、モジュラーインターフェースカード（「ラインカード」と称されることもある）として提供される。一般に、それらはネットワークを介したデータパケットの送受信を制御し、ネットワークデバイス７００で使用される他の周辺機器をサポートする場合がある。提供され得るインターフェースの中には、イーサネットインターフェース、フレームリレーインターフェース、ケーブルインターフェース、ＤＳＬインターフェース、トークンリングインターフェースなどがある。加えて、高速トークンリングインターフェース、ワイヤレスインターフェース、イーサネットインターフェース、ギガビットイーサネットインターフェース、ＡＴＭインターフェース、ＨＳＳＩインターフェース、ＰＯＳインターフェース、ＦＤＤＩインターフェース、ＷＩＦＩインターフェース、３Ｇ／４Ｇ／５Ｇセルラインターフェース、ＣＡＮ ＢＵＳ、ＬｏＲＡなど、様々な非常に高速なインターフェースが提供される場合がある。一般に、これらのインターフェースには、適切な媒体との通信に適したポートが含まれている場合がある。場合によっては、それらには、独立したプロセッサと、場合によっては揮発性ＲＡＭとも含まれる。独立したプロセッサは、パケット交換、媒体制御、信号処理、暗号処理、管理などの通信集約型タスクを制御することができる。通信集約型タスクのために別個のプロセッサを提供することにより、これらのインターフェースは、マスターマイクロプロセッサ７０４がルーティング計算、ネットワーク診断、セキュリティ機能などを効率的に実施することを可能にする。

図７に示されるシステムは、本開示の１つの特定のネットワークデバイスであるが、これは、本明細書における概念が実装されることができる唯一のネットワークデバイスアーキテクチャでは決してない。例えば、通信ならびにルーティング計算などを処理する単一のプロセッサを有するアーキテクチャを使用することができる。さらに、他のタイプのインターフェースおよび媒体もまた、ネットワークデバイス７００とともに使用され得る。

ネットワークデバイスの構成に関係なく、本明細書で説明するローミング、ルート最適化、およびルーティング機能のための汎用ネットワーク動作およびメカニズムのためのプログラム命令を記憶するように構成された１つ以上のメモリまたはメモリモジュール（メモリ７０６を含む）を採用し得る。プログラム命令は、例えば、オペレーティングシステムおよび／または１つ以上のアプリケーションの動作を制御することができる。１つのメモリまたは複数のメモリはまた、モビリティバインディング、登録、および関連付けテーブルなどのようなテーブルを記憶するように構成され得る。メモリ７０６はまた、様々なソフトウェアコンテナおよび仮想化実行環境およびデータを保持することができる。

ネットワークデバイス７００はまた、ルーティング、スイッチング、および／または他の動作を実施するように構成することができる特定用途向け集積回路（ＡＳＩＣ）を含むことができる。ＡＳＩＣは、接続部７１０を介してネットワークデバイス７００内の他のコンポーネントと通信して、データおよび信号を交換し、例えば、ルーティング、スイッチング、および／またはデータ記憶動作などのネットワークデバイス７００による様々なタイプの動作を連携することができる。

図８は、最後に最近使用されたコンテンツ識別子のメタキャッシュに人気度閾値パラメータを適用することに基づく人気度ベースのコンテンツ要求フィルタリングプロセスの例示的なプロセスフロー８００を示す。要求されたコンテンツチャンクの人気度は、対応するコンテンツ識別子のインデックス位置と、最後に最近使用されたコンテンツ識別子のメタキャッシュ内の閾値インデックスとの比較に基づいて決定される。例えば、閾値インデックスより上のインデックス位置においてメタキャッシュ内に配置されたコンテンツ識別子は、より人気があると見なされる可能性があるが、閾値インデックスより下のインデックス付けされた位置に配置されたコンテンツ識別子は、あまり人気がない（半人気）と見なされる可能性がある。メタキャッシュ内に対応するコンテンツ識別子がないコンテンツは、不人気と見なされる可能性がある。次に、人気度の決定により、ＬＲＵフィルタリング／ルーティングサービスがコンテンツ要求を転送する方法が決定され得る。ステップ８０２の図８を参照すると、着信コンテンツ要求パケットに埋め込まれたコンテンツ識別子が、最後に最近使用されたコンテンツ識別子のメタキャッシュ内のエントリに関して調べられる。着信コンテンツ識別子がメタキャッシュ内に存在しない場合（８０４）、要求されたコンテンツは不人気と見なされ、欠落しているコンテンツ識別子がメタキャッシュの上部に挿入され、要求は、ステップ８０６においてオリジンサーバにリダイレクトされる。しかしながら、着信コンテンツ識別子がメタキャッシュ内に存在する場合（８０８）、動作はステップ８１０に移り、メタキャッシュ内のコンテンツ識別子のインデックス付けされた位置が閾値インデックス値と比較される。

着信コンテンツ識別子のインデックス付けされた位置が、ＬＲＵメタキャッシュ内で閾値インデックスよりも高い（上部により近い）場合（８１２）、コンテンツは人気と見なされ、動作はステップ８１４に移り、関連付けられたキャッシュサーバ（キャッシュ１）が、要求されたコンテンツについてチェックされる。コンテンツがキャッシュ１内に存在する場合（８１６）、それは、ステップ８１８においてそこから直接サービスされる。コンテンツがキャッシュ１内に存在しない場合（８２０）、動作はステップ８２２に移り、要求されたコンテンツは、キャッシュ１によって、オリジンサーバからプロキシされる。次に、コンテンツは、ステップ８２４においてキャッシュ１に挿入される。

しかしながら、着信コンテンツ識別子のインデックス付けされた位置が、メタキャッシュ内で閾値インデックスよりも低い（下部により近い）場合（８２６）、対応するコンテンツは「半人気」と見なされ、動作はステップ８３４に移り、ここで、コンテンツ要求は、例えば、第１のキャッシュサーバ（キャッシュ１）をサービスする第１のＬＲＵフィルタリング／ルーティングサービスによって、二次キャッシュサーバ（キャッシュ２）をサービスする第２のＬＲＵフィルタリング／ルーティングサービスにリダイレクトされる。

いくつかの実施形態では、転送およびリダイレクション動作は、ＳＲｖ６ベースのアプローチを使用して実装することができ、第１および第２のキャッシュサーバならびにオリジンサーバの各々のセグメント識別子が、ＳＩＤリストとしてクライアントからコンテンツ要求パケットのヘッダに挿入される。

図８の例示的なプロセスフロー８００に戻って参照すると、二次キャッシュサーバ（キャッシュ２）をサービスする第２の受信ＬＲＵフィルタリング／ルーティングサービスは、第１のＬＲＵフィルタリング／ルーティングサービスから、リダイレクトされたコンテンツ要求を受信すると、ローカルメタキャッシュ内の着信コンテンツ識別子の存在を検証する。着信コンテンツ識別子がメタキャッシュ内に存在する場合、動作はステップ８３６に移り、メタキャッシュ内のコンテンツ識別子のインデックス付けされた位置が閾値インデックス値と比較される。着信コンテンツ識別子のインデックス付けされた位置が、ＬＲＵメタキャッシュ内で閾値インデックスよりも高い（上部により近い）場合（８３８）、コンテンツは人気と見なされ、動作はステップ８３９に移り、関連付けられたキャッシュサーバ（キャッシュ２）が、要求されたコンテンツについてチェックされる。コンテンツがキャッシュ２内に存在する場合（８４０）、それは、ステップ８４１においてそこから直接サービスされる。コンテンツがキャッシュ２内に存在しない場合（８４２）、動作はステップ８４３に移り、要求されたコンテンツは、キャッシュ２によって、オリジンサーバからプロキシされる。次に、コンテンツは、ステップ８４４においてキャッシュ２に挿入される。

しかしながら、着信コンテンツ識別子のインデックス付けされた位置が、ＬＲＵメタキャッシュ内で閾値インデックスよりも低い（下部により近い）場合（８４５）、対応するコンテンツは「半人気」と見なされ、動作はステップ８４６に移り、コンテンツ要求は、例えば、二次キャッシュサーバ（キャッシュ２）をサービスする第２のＬＲＵフィルタリング／ルーティングサービスによって、オリジンサーバにリダイレクトされる（８４６）。

いくつかの実施形態では、コンピュータ可読記憶デバイス、媒体、およびメモリは、ビットストリームなどを含むケーブルまたは無線信号を含むことができる。しかしながら、言及される場合、非一時的コンピュータ可読記憶媒体は、エネルギー、搬送波信号、電磁波、および信号自体などの媒体を明示的に除外する。

上記の例による方法は、コンピュータ可読媒体に記憶されているか、または別様にそれから利用可能であるコンピュータ実行可能命令を使用して実装することができる。そのような命令は、例えば、特定の機能または機能のグループを実施するように、汎用コンピュータ、特別目的コンピュータ、もしくは特別目的処理デバイスを引き起こすか、または別様に構成する命令およびデータを含むことができる。使用されるコンピュータリソースの部分は、ネットワーク経由でアクセス可能であり得る。コンピュータ実行可能命令は、例えば、バイナリ、アセンブリ言語、ファームウェア、またはソースコードなどの中間フォーマット命令であり得る。命令、使用される情報、および／または説明された例による方法中に作成された情報を記憶するために使用され得るコンピュータ可読媒体の例には、磁気ディスクまたは光ディスク、フラッシュメモリ、不揮発性メモリを備えたＵＳＢデバイス、ネットワーク記憶デバイスなどが含まれる。

これらの開示による方法を実装するデバイスは、ハードウェア、ファームウェア、および／またはソフトウェアを含むことができ、様々なフォームファクタのいずれかを取ることができる。このようなフォームファクタの典型的な例としては、ラップトップ、スマートフォン、スモールフォームファクタのパーソナルコンピュータ、携帯情報端末などが挙げられる。本明細書に記載される機能はまた、周辺機器またはアドインカードで具体化され得る。このような機能は、さらなる例として、単一のデバイスで実行される異なるチップまたは異なるプロセスの間の回路基板上に実装することもできる。

命令、そのような命令を伝達するための媒体、それらを実行するためのコンピューティングリソース、およびそのようなコンピューティングリソースをサポートするための他の構造は、これらの開示に記載された機能を提供するための手段である。

添付の特許請求の範囲の範疇の態様を説明するために、様々な例および他の情報を使用したが、当業者であれば、多種多様な実装形態を導出するために、これらの例を使用することができるように、かかる例における特定の特徴または構成に基づいて、特許請求の範囲のいかなる制限も示唆されるべきではない。さらに、一部の主題は、構造的特徴および／または方法ステップの例に固有の言語で記載されている場合があるが、添付の特許請求の範囲で定義される主題は、必ずしもこれらの記載された特徴または行為に限定されないことを理解されたい。例えば、かかる機能は、ここで特定されている構成要素以外の構成要素で、異なって配布し、または実施することができる。むしろ、記載された特徴およびステップは、添付の特許請求の範囲の範疇のシステムおよび方法の構成要素の例として開示される。

Claims (20)

1. キャッシュを最適化するためのコンテンツ人気度のマルチレベル評価のための方法であって、
   複数の最後に要求されたコンテンツ識別子を含む第１のメタキャッシュの第１の半人気の部分内のコンテンツ識別子について、第１のキャッシュサーバに関連付けられた第１のキャッシュミス要求を、第２のキャッシュサーバにリダイレクトすることと、
   複数の最後に要求されたコンテンツ識別子を含む第２のメタキャッシュの第２の半人気の部分内の前記コンテンツ識別子について、前記第２のキャッシュサーバに関連付けられた第２のキャッシュミス要求を、前記コンテンツ識別子に関連付けられたコンテンツをホストしているオリジンサーバにリダイレクトすることと、を含む、方法。
2. 前記第１のメタキャッシュを第１の人気の部分および前記第１の半人気の部分に分割するための第１の閾値パラメータと、前記第２のメタキャッシュを第２の人気の部分および前記第２の半人気の部分に分割するための第２の閾値パラメータと、を指定することをさらに含む、請求項１に記載の方法。
3. キャッシュヒット率と１つ以上の他のネットワーク性能メトリックとの間のトレードオフを最適化するために、比例積分（ＰＩ）コントローラを使用して、前記第１の閾値パラメータの値および前記第２の閾値パラメータの値を調整することをさらに含む、請求項２に記載の方法。
4. 前記第１の閾値パラメータの前記値および前記第２の閾値パラメータの前記値を調整することが、自己調整ＰＩコントローラによって実施される、請求項３に記載の方法。
5. 前記１つ以上の他のネットワーク性能メトリックが、客観的フロー完了時間、キャッシュサーバ応答時間、ＣＰＵ使用時間、またはＴＣＰキュー長のうちの少なくとも１つを含む、請求項３または４に記載の方法。
6. 前記自己調整ＰＩコントローラが、受け入れ確率に従って要求をフィルタリングするＹａｋｓｈａコントローラを使用して実装され、前記第１のメタキャッシュを分割するための前記第１の閾値パラメータ、および前記第２のメタキャッシュを分割するための前記第２の閾値パラメータが、前記Ｙａｋｓｈａコントローラの前記受け入れ確率の関数として計算される、請求項４または５に記載の方法。
7. 前記第１のキャッシュミス要求を前記リダイレクトすること、および前記第２のキャッシュミス要求を前記リダイレクトすることが、セグメントルーティング負荷分散スキームを使用して達成される、いずれかの先行請求項に記載の方法。
8. 前記第１のキャッシュサーバおよび前記第２のキャッシュサーバが、疑似ランダムに選択される、請求項７に記載の方法。
9. 前記第１のメタキャッシュおよび前記第２のメタキャッシュが、最近最も使用が少なかった置換ポリシーによって駆動される、いずれかの先行請求項に記載の方法。
10. 前記第１のメタキャッシュのサイズが、第１のメタキャッシュフィルタがアクセスする第１のキャッシュリソースのサイズの６倍に設定される、いずれかの先行請求項に記載の方法。
11. 前記第２のメタキャッシュのサイズが、第２のメタキャッシュフィルタがアクセスする第２のキャッシュリソースのサイズの６倍に設定される、いずれかの先行請求項に記載の方法。
12. システムであって、
    １つ以上のエッジキャッシュサーバに通信可能に結合された１つ以上のコンテンツ要求フィルタリングユニットを備え、各コンテンツ要求フィルタリングユニットが、
    閾値インデックス全体にわたって、人気の部分および半人気の部分に分割された、複数の最近最も要求が多かったコンテンツ識別子を含むメタキャッシュをさらに備え、
    前記半人気の部分内のコンテンツ識別子についての要求が、半人気のコンテンツ要求が全体にわたって順次誘導される複数のキャッシュサーバの各々からのキャッシュミスの場合に、オリジンコンテンツサーバに転送される、システム。
13. コンテンツ要求が全体にわたって順次誘導される前記複数のキャッシュサーバが、２つの疑似ランダムに選択されたキャッシュサーバを備える、請求項１２に記載のシステム。
14. 前記２つの疑似ランダムに選択されたキャッシュサーバの各々からのキャッシュミスの場合に、セグメントルーティング負荷分散スキームを使用して、前記２つの疑似ランダムに選択されたキャッシュサーバ全体にわたってコンテンツ要求を誘導し、前記コンテンツ要求をオリジンコンテンツサーバに転送することをさらに含む、請求項１３に記載のシステム。
15. 前記メタキャッシュの前記閾値インデックスを調整して、それによって、キャッシュヒット率と１つ以上の他のネットワーク性能属性との間のトレードオフを最適化するように動作する１つ以上の比例積分（ＰＩ）コントローラをさらに備える、請求項１２～１４のいずれかに記載のシステム。
16. 前記１つ以上のＰＩコントローラが、少なくとも１つの自己調整ＰＩコントローラを備える、請求項１５に記載のシステム。
17. 前記１つ以上の他のネットワーク性能属性が、客観的フロー完了時間、キャッシュサーバ応答時間、ＣＰＵ使用時間、またはＴＣＰキュー長のうちの少なくとも１つを含む、請求項１５または１６に記載のシステム。
18. 前記少なくとも１つの自己調整ＰＩコントローラが、受け入れ確率に従って要求をフィルタリングするＹａｋｓｈａコントローラを使用して実装され、前記メタキャッシュを分割するための前記閾値インデックスが、前記Ｙａｋｓｈａコントローラの前記受け入れ確率の関数として計算される、請求項１６または１７に記載のシステム。
19. 記憶された命令を備える少なくとも１つのコンピュータ可読記憶媒体であって、前記命令が、１つ以上のプロセッサによって実行されたとき、前記１つ以上のプロセッサに、
    複数の最後に要求されたコンテンツ識別子を含むメタキャッシュを、人気の部分および半人気の部分に分割するための閾値パラメータを指定することと、
    オリジンコンテンツサーバへのコンテンツ要求のレイヤ３リダイレクトを伴う、第１のキャッシュミス転送ポリシーを、前記人気の部分に関連付けることと、
    前記コンテンツ要求を前記オリジンコンテンツサーバにリダイレクトする前に、要求されたコンテンツについて、１つ以上の追加のキャッシュサーバをチェックすることを含む、第２のキャッシュミス転送ポリシーを前記半人気の部分に関連付けることと、を行わせる、コンピュータ可読記憶媒体。
20. 自己調整ＰＩコントローラを使用して、コンテンツ配信ネットワークのキャッシュ利用性能とサービスレベル応答時間性能との間のトレードオフを最適化するための命令をさらに備える、請求項１９に記載のコンピュータ可読記憶媒体。
    

Images