JP4630262B2

JP4630262B2 - キャッシュシステム、キャッシュ装置、パケット処理装置、キャッシュ方法、パケット処理方法、キャッシュプログラム、およびパケット処理プログラム

Info

Publication number: JP4630262B2
Application number: JP2006314237A
Authority: JP
Inventors: 幸司杉園; 貴文濱野; 道宏青木
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 2006-11-21
Filing date: 2006-11-21
Publication date: 2011-02-09
Anticipated expiration: 2026-11-21
Also published as: JP2008131351A

Description

本発明はプロセスやデータを複数のプロセッサ、ならびにプロセッサ内に存在するスレッドを用いて並列処理を行う計算機に関する。特にパケット処理プロセッサが複数の処理を並列に処理することができるデータ転送装置におけるキャッシュの実現方法に関するものである。

近年、プロセッサの性能向上に限界が見えてきたのに伴い複数のプロセッサを用意し、それぞれで並列処理を行うようなマルチプロセッサシステムが提供されている。また、プロセッサの処理能力の向上の一手法として、高速なキャッシュを用いて、低速なキャッシュへのアクセス回数を削減する方式が存在する。パケット処理を行う場合でもこのような高速手法は有効であり、現在、多くの方法が検討されている。このような手法をマルチプロセッサシステムに適用する際、次の非特許文献１に示されるような方式が使用される。

パケット処理では、同一フローに属するパケット同士で経路などの検索結果を共用することができる。このため、同一フローに属するパケット同士でキャッシュされたデータを使用することで処理の高速化が見込まれる。非特許文献１で紹介する方式では、同一フローに属するパケットを同一のプロセッサで処理させることでキャッシュの効果を利用している。これを実現するために、処理プロセッサの前にフローＩＤを元にハッシュ計算を行い、計算結果を、パケットを処理するプロセッサのＩＤと関連づけるという機能を用意している。ハッシュを利用すると、同一のフローＩＤを持つパケットは同じプロセッサによりパケットを処理されることになる。
Ｗ．Ｓｈｉ，ｅｔａｌ．， "ＬｏａｄＢａｌａｎｃｉｎｇｆｏｒＰａｒａｌｌｅｌＦｏｒｗａｒｄｉｎｇ，" ＩＥＥＥ／ＡＣＭＴｒａｎｓａｃｔｉｏｎｏｎＮｅｔｗｏｒｋｉｎｇ，ｐｐ．７９０−８０１，２００５

ハッシュの問題点として、パケットの振り分け先をプロセッサの処理に応じて変更することができない点にある。この場合、１つのプロセッサに処理が集中する可能性が存在し、並列処理の効果を十分に得ることができない。これはフローＩＤごとに計算結果が決まっているというハッシュの特徴によるものである。
本発明の目的は、同一のフローに属するプロセッサを複数のプロセッサで処理し、負荷分散を実現するキャッシュシステム、キャッシュ装置、パケット処理装置、キャッシュ方法、パケット処理方法、キャッシュプログラム、およびパケット処理プログラムを提供することにある。

本発明のキャッシュシステムは、
パケットの処理データを格納するキャッシュと、フローごとのパケットの到着順序をＦＩＦＯのキューで記録する順序データベースと、パケットを処理させるパケット処理装置を決定するアルゴリズムを記録したアルゴリズムテーブルと、パケットのフロー識別子から前記キャッシュのエントリを探すためのキャッシュ検索手段と、パケットを処理してもらうパケット処理装置を決定するパケット分配手段と、前記パケット処理装置から受信したキャッシュデータを前記キャッシュに記録するキャッシュアップデート手段と、前記パケット処理装置での処理が終了したパケットをパケットの到着順にソートするソート手段と、を備え、
前記キャッシュ検索手段は、パケットからフロー識別子を調べ、前記キャッシュの中に該フロー識別子に対応するキャッシュのデータが存在するか否か調べ、存在するならば該キャッシュデータをパケット処理用の情報に追加し、存在しなければ、前記順序データベースに該フロー識別子に対するエントリが存在するか否か調べ、存在するならば対応するキャッシュデータが到着するまで待機し、存在しなければ前記キャッシュに書き込まれるデータの処理を前記パケット処理装置に指示する情報をパケット処理用の情報に追記し、
前記パケット分配手段は、パケットを処理させるパケット処理装置を前記アルゴリズムテーブルに存在するアルゴリズムに従って決定し、決定したパケット処理装置の識別子を前記順序データベースに存在するフロー識別子に対するＦＩＦＯのキューに入力し、
前記キャッシュアップデート手段は、前記パケット処理装置から送られてきたキャッシュデータを前記キャッシュに追記し、データが前記キャッシュの容量を超えると前記キャッシュからデータを削除し、
前記ソート手段は、前記パケット処理装置からパケット処理用の情報が送られてくると、パケット処理装置の識別子と、パケットのフロー識別子を確認し、前記順序データベースにおけるフロー識別子に対応するＦＩＦＯキューの先頭の識別子とパケット処理装置の識別子を比較し、異なればパケットをバッファに格納し、同じであればパケットを送信し、前記ＦＩＦＯキューの先頭の識別子を削除し、バッファに格納しているパケットの存在を確認し、もし存在すれば、バッファに格納されたパケットを処理したパケット処理装置の識別子と前記ＦＩＦＯキューの先頭の識別子とを比較し、異なればパケットをバッファに格納し、同じであれば前記パケットを送信する処理からの動作を繰り返す。

パケットの到着順序を管理することで、同一フローに属するパケットを異なるパケット処理装置に送る場合であっても到着順序と同じ順序でパケットを送信するシステムを提供することが可能になる。結果として、パケットの処理を担当するパケット処理装置を自由に選べるため、パケット処理の負荷分散を行うことが可能となる。また、パケット処理を担当するパケット処理装置を決定するアルゴリズムを複数用意することが可能であるため、管理者のポリシーに応じた負荷分散を行うことが可能になる。

本発明の実施態様によれば、キャッシュ装置は、パケット分配手段は、前記キャッシュの中に受信パケットが属するフローに対応するデータが存在せず、かつ該フローに対応する前記順序データベースのＦＩＦＯキューにパケット処理装置の識別子が存在するときに、パケットを待機させずに、処理を行っているパケット処理装置とキャッシュを共有できるパケット処理装置を、受信パケットを処理する装置として決定する。

パケットの到着順序を管理することで、同一フローに属するパケットを異なるパケット処理装置に送る場合であっても到着順序と同じ順序でパケットを送信することが可能になる。さらに、同一フローに属するパケットが連続して到着し、かつキャッシュ装置に該フローに関連するキャッシュデータが存在しないと時に、先頭以外のパケットをキャッシュ装置に待機させずに、先頭のパケットを処理するパケット処理装置とキャッシュ装置とは別に設けているキャッシュを共有しているパケット処理装置に該パケットを送信することが可能であり、結果的にキャッシュ装置での待ち時間が短縮される。

本発明によれば、同一フローに属するパケットであっても、任意のパケット処理装置に処理をさせることが可能となり、結果として、負荷分散が実現される。

次に、本発明の実施の形態について図面を参照して説明する。

図１を参照すると、本発明の一実施形態のキャッシュシステムは、キャッシュデータを格納するキャッシュ装置１と、パケットを処理する３台のパケット処理装置２からなる。キャッシュ装置１はキャッシュデータの提供と、パケットを処理させるパケット処理装置２を決定する機能を有する。さらに、キャッシュ装置１は、この実施形態では、同一フローに属するパケットを複数のパケット処理装置２で処理させるために、パケットの処理終了順序がパケット処理装置２の負荷の状況などの要因により、必ずしもパケットの到着順序と同じでない場合が存在するため、パケットの到着順序をそろえるソート機能を持つ。
キャッシュ装置１は、図２に示すように、プロセッサ１１と記憶媒体１６からなる。記憶媒体１６には、フローＩＤごとにキャッシュされたデータを格納するキャッシュ１７と、パケットを処理させるパケット処理装置２を決定するア分配アルゴリズムが格納されているデータベースである分配アルゴリズム１８と、フローごとの転送装置への到着順序をＦＩＦＯのキューで記録する順序データベース１９とが含まれる。プロセッサ１１には、パケット処理装置２から受信した、パケット処理装置２で処理されたキャッシュデータをキャッシュ１７に記録するキャッシュアップデート部１２と、キャッシュ１７のなかに調査対象のパケットのフローＩＤ用のキャッシュデータが存在する否かを、パケットのフロー識別子から検索するキャッシュ検索部１３と、パケットを処理してもらうパケット処理装置２を決定するとともに、パケットをパケット処理装置２に送るときに送る順序を順序データベース１９に記録するパケット分配部１４と、パケット処理装置２での処理が終了したパケットを転送装置の到着順にソートするソーター１５とが含まれる。

パケット処理装置２は、図３に示すように、キャッシュ装置１から送られてきたパケットの情報に含まれる、キャッシュ対象データに対する処理を行うかどうかを指示するデータの有無をチェックするキャッシュ有無判定部２１と、キャッシュ対象データ処理指示があったときにキャッシュ対象データのデータ処理を行うキャッシュ対象データ処理部２２と、キャッシュ対象データの処理が終了したときに、処理結果をキャッシュ装置１に送るキャッシュアップデート部２３と、キャッシュ対象データ処理以外のパケット処理を行うパケット処理部２４と、パケット処理に使用するデータが格納されている記憶媒体２５を有する。

まず、キャッシュ装置１の動作について説明する。キャッシュ装置１の動作は、一部のパケット処理装置２との間で装置内のキャッシュを共有できる場合とそうでない場合の２種類の動作が存在する。

まず、パケット処理装置２との間でキャッシュを共有できない場合の動作を、図４を参照して説明する。キャッシュ装置１のキャッシュ検索部１３はパケットを受信すると（ステップ１０１）、ヘッダ内のフローＩＤを抽出する（ステップ１０２）。そして、キャッシュ１７を検索し、前記フローＩＤと同じＩＤに対するエントリにキャッシュデータが存在するかどうかを確認する（ステップ１０３）。もし存在していれば、パケット処理装置２でデータ処理を行う必要がないため、パケット処理装置２にキャッシュ対象データ処理を行わないように指示する情報を作成し、パケット情報に追加する（ステップ１０４）。そして、パケットを処理させるパケット処理装置２を決定する（ステップ１０９）。もし、エントリ自体は存在するが、キャッシュデータが存在しない場合は、同じフローに属する別のパケットに対し、パケット処理装置２がキャッシュ対象のデータの処理を行っている場合であるので、その処理が終了するまで待機する（ステップ１０５、１０６）。キャッシュ対象データの処理が終了し、処理結果がキャッシュ１７に格納されると、そのキャッシュデータをパケット情報に記録する。そして、待機していた同一フローに属するすべてのパケットに対し、処理してもらうパケット処理装置２を決定し、そのパケット処理装置２にパケットを送出する（ステップ１０７）。エントリ自体が存在しない場合、パケット処理装置２にデータ処理を指示する情報を作成し、パケット情報に追記する（ステップ１０８）。そして、パケットを処理してもらうパケット処理装置２を決定する（ステップ１０９）。パケットを処理させるパケット処理装置２が決定すると、パケットを到着順に並べるため、順序データベース１９に記録されているＦＩＦＯキューに処理させるパケット処理装置２のＩＤを入れる（ステップ１１０）。そして、選択したパケット処理装置２にパケットの情報を送信する（ステップ１１１、１１２）。

次に、パケット処理装置２が装置間でキャッシュの共通利用が可能な場合の動作を、図５を参照して説明する。図４の場合との違いは、キャッシュ１７内にエントリは存在するが、キャッシュデータが存在しない場合（図４のステップ１０３、１０５）の動作である。図５ではエントリは存在するが、キャッシュデータが存在しない場合、パケットを待機させずに、現在データ処理中のパケットを処理しているパケット処理装置２とキャッシュを共通利用できるパケット処理装置２に送り込む（ステップ１１３）。このとき、パケット処理装置２ではデータ処理を行わない。

次に、パケット処理装置２の動作を図６により説明する。パケット処理装置２はパケットをキャッシュ装置１から受信すると（ステップ２０１）、パケット情報中に、キャッシュ対象データの処理の指示を示す情報が存在するかどうかを確認する（ステップ２０２）。もし指示が存在すれば、データ処理を実行する（ステップ２０３）。処理が終了すると、処理結果をキャッシュするようキャッシュ装置１に指示を送る（ステップ２０４）。このとき、処理された結果も同時に送信する。もし、キャッシュ対象データの処理の指示が存在しなければ、ステップ２０３，２０４をスキップする。これらの処理が終了すると、データ処理以外の、処理結果を利用する処理を含めた処理を行う（ステップ２０５）。そして、自身のＩＤを含んだパケット情報をキャッシュ装置１に送り、処理を終える（ステップ２０６）。

次に、パケット処理装置２間でキャッシュの共有が可能である場合の動作を図７により説明する。図６の場合との違いは、ステップ２０２におけるキャッシュ対象データの処理の指示の存在の処理以降で、特に指示が存在しない場合の動作である。指示が存在しない場合、パケット処理装置２はキャッシュを共有している別のパケット処理装置２で、同一フローに属するパケットがないか確認する（ステップ２０７）。存在する場合、先に処理結果を利用しない処理を行い、処理終了後は処理中のデータがキャッシュ１７に書き込まれたか否かを確認し、もし書き込まれていれば、処理結果を用いた処理を行い、そうでなければキャッシュ１７にデータが書き込まれるまで待機する（ステップ２０８）。その他の処理は図６と同じである。

次に、パケットの処理が終了した後にキャッシュ装置１がパケットを到着順に並べる処理を図８により説明する。パケット情報をパケット処理装置２から受信すると（ステップ３０１）、パケットのフローＩＤとパケットを処理したパケット処理装置２のＩＤを確認する（ステップ３０２）。そして、順序データベース１９内にある、フローＩＤごとのＦＩＦＯキューの先頭にある、パケット処理装置のＩＤと比較し、次に送信するパケットかどうかを確認する（ステップ３０３）。ＩＤが一致しなければ、先に到着しているパケットがまだ処理中であるため、待機させる（ステップ３０４）。もし一致すれば、現在処理中のパケットのうち、一番先に到着したものであるため、次に送信する（ステップ３０５）。このとき、ＦＩＦＯキューの先頭にあった、送信したパケットを処理していたパケット処理装置のＩＤを削除し、次に送信するパケットを処理しているパケット処理装置のＩＤを見る（ステップ３０６）。その後、送信したパケットより先に処理が終了し、待機しているパケットがないか確認する（ステップ３０７）。もし存在すれば、ＦＩＦＯキューの先頭に位置するＩＤと、待機しているパケットを処理していたパケット処理装置のＩＤを比較し（ステップ３０８）、同じであればパケットを送信する（ステップ３０５）。そして再びステップ３０６の処理を行う。もし、ＩＤが異なれば、まだ先に到着しているパケットが処理中であるため、再び待機する（ステップ３０９）。

なお、パケット処理装置２間でキャッシュを共有できる場合の具体例としては、１プロセッサ内でマルチスレッディングを行っており、各スレッドがコアのキャッシュを互いに使用する場合などがある。その具体的な動作については後ほど述べる。

次に、具体的なパケット処理例を、図９以降の各図を用いて説明する。図９では、キャッシュ装置１がいかなるエントリももっていない状況下でフローＩＤとしてＡをもつフローＡのパケットが到着した時の状況を示す。キャッシュ装置１はエントリがないため、キャッシュ対象データの処理を指示する情報を、パケット処理に使用するパケット情報に記載し、パケット処理装置２にアルゴリズムにしたがって送信する。ここではアルゴリズムにより、パケット処理装置２₃にパケットを処理させることにしたとする。キャッシュ装置１はフローＡのパケットがパケット処理装置２₃で処理されていることを順序データベース１９で管理する。このため、順序データベース１９におけるフローＩＤがＡのエントリとなるＦＩＦＯキューにパケット処理装置２₃のＩＤである３を入れる。

図１０はその後、フローＩＤがＢのパケットとフローＡのパケットの２つめが到着したときを示す。フローＩＤがＢのパケットは図９におけるフローＡのパケットと同じ処理を行う。そして、フローＩＤがＡの２つめのパケットが到着すると、キャッシュ装置１はフローＩＤがＡに対するキャッシュ情報を有するかどうか確認する。キャッシュ情報がまだなく、順序データベース１９にパケットを処理しているパケット処理装置のＩＤが存在することを確認すると、キャッシュ装置１は現在フローＡのパケットがパケット処理装置２でデータ処理中であると判断し、２つめのパケットを待機させる。

図１１で、パケット処理装置２₃でのフローＡの１つめのパケットに対するキャッシュ対象データの処理が終了したときの様子を説明する。パケット処理装置２₃はデータ処理が終了すると、キャッシュ装置１に処理結果を送信する。これを受け、キャッシュ装置１は処理結果をキャッシュする。これと同時に待機していたフローＡの２つめのパケットのパケット処理装置を決定し、そこにパケット情報を送る。このとき、アップデートされたキャッシュの情報をパケット情報の一部に加えて送信する。ここで、２つめのパケットをパケット処理装置２₂で処理すると考える。キャッシュ装置１はパケットをパケット処理装置２₂に送るときに、順序データベース１９内のフローＡに対するＦＩＦＯキューの後ろにパケット処理装置２₂のＩＤである２を挿入する。

図１２にフローＡの１つめのパケットの処理が終了し、情報がキャッシュ装置１に戻されるときの動作が記載されている。キャッシュ装置１はパケット処理装置２₃からパケット情報を受信すると、順序データベース１９を参照し、フローＡにおける次に送信するパケットがどこで処理されていたかを確認する。この場合、パケット処理装置２₃で処理されているパケットが次に送信するものであることを示されており、到着したパケットが次に送信するパケットであることがわかる。これを受けてキャッシュ装置１は次の処理を行うパケット処理装置にパケットを送る。そして、順序データベース１９の先頭にあった、パケット処理装置２₂を示すＩＤを削除する。これにより、次に送信するパケットがパケット処理装置２₂で処理されていることがわかる。そして、現在フローＡのパケットがキャッシュ装置１で待機させられているかどうかを確認する。この場合、パケットは待機させられていないので、処理は終了する。もし待機させられていたら、ＦＩＦＯキューの先頭のＩＤと待機しているパケットが処理されていたパケット処理装置２のＩＤを比較し、送信するかどうかを判定するという処理が走る。

図１３で、フローＩＤがＡの３番目のパケットが新たに到着し、パケット処理装置２₂で処理されている２番目のパケットより先に処理が終了したときの動作の説明を行う。キャッシュ装置１は順序データベース１９から次に送信するパケットは現在処理装置２₂で処理されていることがわかるため、到着した３番目のパケットを待機させる。その後、２番目のパケットを送信した後に、順序データベース１９が３番目のパケットを送信することを示すため、そのときに３番目のパケットを送信する。

最後に、パケット処理装置２の一部でキャッシュを共有できるときの動作例を図１４に示す。この例では、パケット処理装置２として、複数のタスクを１つのプロセッサリソースを用いて実行するマルチスレッディング可能なプロセッサ（パケット処理装置を複数収容した装置）を利用する。この中では、前回までの説明におけるパケット処理装置２が１つのスレッドに相当する。同一のプロセッサで走るスレッド同士では、プロセッサ内に存在するキャッシュを共有することが可能となる。この場合、フローＡの１番目のパケットがプロセッサ３のスレッド１番で処理されているとすると、２番目のパケットが到着したとき、キャッシュ装置１は２番目のパケットの処理をプロセッサ３のいずれかのスレッドに行わせる。１番目のパケットのキャッシュ対象データ処理が終了すると（図１５）、キャッシュ結果はキャッシュ装置１と１番目のパケットを処理したプロセッサのキャッシュに書き込まれる。２番目のパケットにおけるキャッシュ対象のデータを使用した処理はプロセッサのキャッシュに書き込まれたデータを用いて行われる。２番目のパケットを行う際、キャッシュにデータがある場合はそれを利用して処理を行い、ない場合は先にキャッシュ対象のデータを使用しない処理を行う。そして、キャッシュ対象データ処理結果を使用する処理は、処理結果がキャッシュに書き込まれるまで待つ。そのほかの処理は前述の説明と同じ動作を行う。

なお、キャッシュ装置およびパケット処理装置の機能は、その機能を実現するためのプログラムを、コンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータに読み込ませ、実行するものであってもよい。コンピュータ読み取り可能な記録媒体とは、フレキシブルディスク、光磁気ディスク、ＣＤ−ＲＯＭ等の記録媒体、コンピュータシステムに内蔵されるハードディスク装置等の記憶装置を指す。さらに、コンピュータ読み取り可能な記録媒体は、インターネットを介してプログラムを送信する場合のように、短時間、動的にプログラムを保持するもの（伝送媒体もしくは伝送波）、その場合のサーバとなるコンピュータ内の揮発性メモリのように、一定時間プログラムを保持しているものを含む。

本発明の一実施形態のキャッシュシステムの構成図である。キャッシュ装置のブロック図である。パケット処理装置のブロック図である。パケット分配時（マルチスレッド不可）のキャッシュ装置の動作を示すフローチャートである。パケット分配時（パケット処理装置キャッシュ共有可）のキャッシュ装置の動作を示すフローチャートである。パケット処理装置の動作を示すフローチャートである。パケット処理装置（キャッシュ共有可）の動作を示すフローチャートである。ソート時のキャッシュ装置の動作を示すフローチャートである。具体的なパケット処理例（その１）を示す図である。具体的なパケット処理例（その２）を示す図である。具体的なパケット処理例（その３）を示す図である。具体的なパケット処理例（その４）を示す図である。具体的なパケット処理例（その５）を示す図である。具体的なパケット処理例（その６）を示す図である。具体的なパケット処理例（その７）を示す図である。

符号の説明

１キャッシュ装置
２，２₁〜２₄ パケット処理装置
１１プロセッサ
１２キャッシュアップデート部
１３キャッシュ検索部
１４パケット分配部
１５ソーター
１６記憶媒体
１７キャッシュ
１８分配アルゴリズム
１９順序データベース
２１キャッシュ有無判定部
２２キャッシュ対象データ処理部
２３キャッシュアップデート部
２４パケット処理部
２５記憶媒体
１０１〜１１３，２０１〜２０８，３０１〜３０８ステップ

Claims

パケットの処理データを格納するキャッシュと、フローごとのパケットの到着順序をＦＩＦＯのキューで記録する順序データベースと、パケットを処理させるパケット処理装置を決定するアルゴリズムを記録したアルゴリズムテーブルと、パケットのフロー識別子から前記キャッシュのエントリを探すためのキャッシュ検索手段と、パケットを処理してもらうパケット処理装置を決定するパケット分配手段と、前記パケット処理装置から受信したキャッシュデータを前記キャッシュに記録するキャッシュアップデート手段と、前記パケット処理装置での処理が終了したパケットをパケットの到着順にソートするソート手段と、を備え、
前記キャッシュ検索手段は、パケットからフロー識別子を調べ、前記キャッシュの中に該フロー識別子に対応するキャッシュのデータが存在するか否か調べ、存在するならば該キャッシュデータをパケット処理用の情報に追加し、存在しなければ、前記順序データベースに該フロー識別子に対するエントリが存在するか否か調べ、存在するならば対応するキャッシュデータが到着するまで待機し、存在しなければ前記キャッシュに書き込まれるデータの処理を前記パケット処理装置に指示する情報をパケット処理用の情報に追記し、
前記パケット分配手段は、パケットを処理させるパケット処理装置を前記アルゴリズムテーブルに存在するアルゴリズムに従って決定し、決定したパケット処理装置の識別子を前記順序データベースに存在するフロー識別子に対するＦＩＦＯのキューに入力し、
前記キャッシュアップデート手段は、前記パケット処理装置から送られてきたキャッシュデータを前記キャッシュに追記し、データが前記キャッシュの容量を超えると前記キャッシュからデータを削除し、
前記ソート手段は、前記パケット処理装置からパケット処理用の情報が送られてくると、パケット処理装置の識別子と、パケットのフロー識別子を確認し、前記順序データベースにおけるフロー識別子に対応するＦＩＦＯキューの先頭の識別子とパケット処理装置の識別子を比較し、異なればパケットをバッファに格納し、同じであればパケットを送信し、前記ＦＩＦＯキューの先頭の識別子を削除し、バッファに格納しているパケットの存在を確認し、もし存在すれば、バッファに格納されたパケットを処理したパケット処理装置の識別子と前記ＦＩＦＯキューの先頭の識別子とを比較し、異なればパケットをバッファに格納し、同じであれば前記パケットを送信する処理からの動作を繰り返すキャッシュ装置。
前記パケット分配手段は、前記キャッシュの中に受信パケットが属するフローに対応するデータが存在せず、かつ該フローに対応する前記順序データベースのＦＩＦＯキューにパケット処理装置の識別子が存在するときに、パケットを待機させずに、処理を行っているパケット処理装置とキャッシュを共有できるパケット処理装置を、受信パケットを処理する装置として決定する、請求項１に記載のキャッシュ装置。
パケットの処理データを格納するキャッシュと、フローごとのパケットの到着順序をＦＩＦＯのキューで記録する順序データベースと、パケットを処理させるパケット処理装置を決定するアルゴリズムを記録したアルゴリズムテーブルと、パケットのフロー識別子から前記キャッシュのエントリを探すためのキャッシュ検索手段と、パケットを処理してもらうパケット処理装置を決定するパケット分配手段と、前記パケット処理装置から受信したキャッシュデータを前記キャッシュに記録するキャッシュアップデート手段と、前記パケット処理装置での処理が終了したパケットをパケットの到着順にソートするソート手段と、を備えたキャッシュ装置で行われるキャッシュ方法であって、
前記キャッシュ検索手段が、パケットからフロー識別子を調べ、前記キャッシュの中に該フロー識別子に対応するキャッシュのデータが存在するか否か調べ、存在するならば該キャッシュデータをパケット処理用の情報に追加し、存在しなければ、前記順序データベースに該フロー識別子に対するエントリが存在するか否か調べ、存在するならば対応するキャッシュデータが到着するまで待機し、存在しなければ前記キャッシュに書き込まれるデータの処理を前記パケット処理装置に指示する情報をパケット処理用の情報に追記するステップと、
前記パケット分配手段が、パケットを処理させるパケット処理装置を前記アルゴリズムテーブルに存在するアルゴリズムに従って決定し、決定したパケット処理装置の識別子を前記順序データベースに存在するフロー識別子に対するＦＩＦＯのキューに入力するステップと、
前記キャッシュアップデート手段が、前記パケット処理装置から送られてきたキャッシュデータを前記キャッシュに追記し、データが前記キャッシュの容量を超えると前記キャッシュからデータを削除するステップと、
前記ソート手段が、前記パケット処理装置からパケット処理用の情報が送られてくると、パケット処理装置の識別子と、パケットのフロー識別子を確認し、前記順序データベースにおけるフロー識別子に対応するＦＩＦＯキューの先頭の識別子とパケット処理装置の識別子を比較し、異なればパケットをバッファに格納し、同じであればパケットを送信し、前記ＦＩＦＯキューの先頭の識別子を削除し、バッファに格納しているパケットの存在を確認し、もし存在すれば、バッファに格納されたパケットを処理したパケット処理装置の識別子と前記ＦＩＦＯキューの先頭の識別子とを比較し、異なればパケットをバッファに格納し、同じであれば前記パケットを送信する処理からの動作を繰り返すステップと、を有するキャッシュ方法。
前記パケット分配手段が、前記キャッシュの中に受信パケットが属するフローに対応するデータが存在せず、かつ該フローに対応する前記順序データベースのＦＩＦＯキューにパケット処理装置の識別子が存在するときに、パケットを待機させずに、処理を行っているパケット処理装置とキャッシュを共有できるパケット処理装置を、受信パケットを処理する装置として決定するステップをさらに有する、請求項３に記載のキャッシュ方法。
請求項１または２に記載のキャッシュ装置をコンピュータとして機能させるためのキャッシュプログラム。