JP2019204475A - Ｈａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法 - Google Patents
Ｈａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法 Download PDFInfo
- Publication number
- JP2019204475A JP2019204475A JP2018147291A JP2018147291A JP2019204475A JP 2019204475 A JP2019204475 A JP 2019204475A JP 2018147291 A JP2018147291 A JP 2018147291A JP 2018147291 A JP2018147291 A JP 2018147291A JP 2019204475 A JP2019204475 A JP 2019204475A
- Authority
- JP
- Japan
- Prior art keywords
- file
- active user
- visitor
- files
- popularity prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 230000003247 decreasing effect Effects 0.000 abstract 1
- 235000010627 Phaseolus vulgaris Nutrition 0.000 description 4
- 244000046052 Phaseolus vulgaris Species 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 4
- 238000005034 decoration Methods 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【課題】本発明はＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドを開示した。【解決手段】該メソッドは：ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを合わせ、アクティブユーザセットの各アクテイブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順でソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。本発明の技術プランを採用することで、キャッシュヒット率を向上させ、ファイルの読み取り効率を改善することができる。【選択図】図１
Description
本発明はコンピュータテクノロジー分野に関し、具体的には、Ｈａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドに関する。
Ｈａｄｏｏｐは２００５年にＡｐａｃｈｅ ＦｏｕｎｄａｔｉｏｎによってＬｕｃｅｎｅのサブプロジェクトであるＮｕｔｃｈの一部分として正式に導入されたものである。Ｈａｄｏｏｐの最も重要な二つの設計はＨＤＦＳとＭａｐＲｅｄｕｃｅである。ＨＤＦＳは大量なデータをストレージし、ファイルがデータブロックの形でシステムにストレージされる。また、ＨＤＦＳのデータブロックは通常のディスクに定義されたデータブロック（通常は５１２Ｂ）よりも遥かに大きく、ＨＤＦＳの現在のデフォルトブロックサイズは１２８ＭＢである。もしＨＤＦＳにストレージされたファイルのサイズが１２８に超えると、ＨＤＦＳは該ファイルを複数のブロックサイズのブロックに分割し、別々にストレージする。また、ＨＤＦＳが絶えずに小さなファイルをＴＢひいてはＰＢレベルまでストレージし続けると、小さなファイルの問題が発生し、此れは、大量のメタデータがＨＤＦＳのプライマリノードのｎａｍｅｎｏｄｅにストレージされるため、ｎａｍｅｎｏｄｅの負荷が大幅に増加し、システムの読み取りパフォーマンスに影響するためである。その中に、小さなファイルのサイズが２ＭＢに定義され、つまり、ＨＤＦＳがファイルをストレージする中で、ファイルのサイズが２Ｍまたは２Ｍ以下であると、小さなファイルとして定義される。
ファイルの読み取り効率を改善するために、ＨＤＦＳにはキャッシングメカニズムが導入され、また、既存のキャシング戦略は：ユーザがあるファイルを読み取ると、該ファイルと関連するファイル及びインデックスファイルはメモリにロードされる。該戦略がファイルの読み取り効率を向上させる事ができるという前提は、ユーザがメモリ内のファイルにアクセスすることである。しかし、該ファイルセットが頻繁にアクセスされるかどうか、つまり該ファイルが一般的なデータであるかどうかは考慮されない。既存の技術のその他のキャッシュメソッドも一般的なデータの面からは考慮されず、ファイルの読み取り効率を向上できないだけでなく、ファイルシステム全体のパフォーマンスにも影響する。
本発明の実施例はＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドを提供し、ＨＢａｓｅによってヒートファイルをキャッシュし、キャッシュヒット率を向上させるだけでなく、ファイルの読み取り効率を向上させる。
本発明の実施例はＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドを提供し、具体的には：
ユーザアクセスログレコードを取得し、前記ユーザアクセスロクレコードからアクティブユーザセットを統計し、
対数線形モデルを合わせ、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、
前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。
更に、前記前記ユーザアクセスログレコードからアクティブユーザセットを統計するについて、具体的には：
アクセスされたソースの接尾辞がｊｐｇであるレコード行を前記ユーザアクセスログレコードからフィルタリングし、前記レコード行がユーザＩＤ、アクセスページＵＲＬ、アクセス開始時刻、アクセス状況、アクセストラフィックを含み、
レコード解析クラスを作成して前記レコード行を解析し、二次元配列を使用してビジターＩＰと小さなファイルの名前をストレージし、
前記二次元配列のビジターＩＰをトラバースし、ＨａｓｈＭａｐコレクションを使用して各ビジターＩＰのトラフィックを統計し、前記ＨａｓｈＭａｐコレクションのＫｅｙ値がビジターＩＰであり、Ｖａｌｕｅ値がトラフィックであり、
ＨａｓｈＭａｐコレクションをＶａｌｕｅ値の降順でソートし、ビジターＩＰの上位２０％をフィルタリングし、ＡｒｒａｙＬｉｓｔコレクションを使用して該ＩＰサブセットをストレージし、アクティブユーザセットとしてマークする。
更に、前記対数線形モデルをあわせて、前記アクティブユーザセットの各アクティブユーザにアクサスされたファイルの人気予測値をアカウントして、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、具体的には：
ＡｒｒａｙＬｉｓｔコレクションから抽出されたビジターＩＰを、前記二次元配列から抽出されたビジターＩＰと照合し、
一致が出たら、合致するビジターＩＰをキーワードとして、各ユーザのアクセス開始時刻を照会して、対数線形モデルを合わせ、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、
前記対数線形モデルは：
であり、
その中に、
がファイルｉの人気予測値であり、
がファイルｉが観測期間中のトラフィックであり、観測期間の長さがｔである。
本発明の実施例を実施すると、以下の有益効果が出る：
本発明の実施例が提供するＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドは、ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを合わせて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。ユーザにアクセスされたホットスポットファイルを考慮しない現有技術と比べ、本発明の技術プランはＨＢａｓｅによってヒートファイルをキャッシュし、ファイルの読み取り効率を高める。
本発明の実施例を実施すると、以下の有益効果が出る：
本発明の実施例が提供するＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドは、ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを合わせて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。ユーザにアクセスされたホットスポットファイルを考慮しない現有技術と比べ、本発明の技術プランはＨＢａｓｅによってヒートファイルをキャッシュし、ファイルの読み取り効率を高める。
下記に本発明の実施例の中の附図を交え、本発明の実施例の技術方案を明確にはっきり説明し、説明した実施例がただ本発明の一部分の実施例で、全部の実施例ではないである。本発明の実施例に基づいて、本領域の普通技術者が創造的な労働を払わないことを前提に得る全部のその他の実施例は本発明の保護範囲に所属する
図１を参照し、本発明が提供するＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドの実施例のプロセス見取り図であり、該プロセスはステップ１０１からステップ１０３まで含み、その中に各ステップは以下のように：
ステップ１０１：ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計する。
本実施例において、ステップ１０１には、ユーザアクセスログレコードよりアクティブユーザセットを統計し、具体的には：アクセスされたソースの接尾辞がｊｐｇであるレコード行をユーザアクセスログレコードからフィルタリングし、その中に、レコード行がユーザＩＤ、アクセスページＵＲＬ、アクセス開始時刻、アクセス状況、アクセストラフィックを含み、レコード解析クラスを作成してレコード行を解析し、二次元配列を使用してビジターＩＰと小さなファイルの名前をストレージし、二次元配列のビジターＩＰをトラバースし、ＨａｓｈＭａｐコレクションを使用して各ビジターＩＰのトラフィックを統計し、ＨａｓｈＭａｐコレクションのＫｅｙ値がビジターＩＰであり、Ｖａｌｕｅ値がトラフィックであり、ＨａｓｈＭａｐコレクションをＶａｌｕｅ値の降順でソートし、ビジターＩＰの上位２０％をフィルタリングし、ＡｒｒａｙＬｉｓｔコレクションを使用して該ＩＰサブセットをストレージし、アクティブユーザセットとしてマークする。
本発明のステップ１０１においてアクティブユーザセットをカウントする目的は、小さなファイルへのユーザのアクセスが均一なランダムではなくパレート分布法則に近いのである。すなわち、ほとんどのＩ／Ｏが少量の人気データへのアクセスをリクエストし、トラフィックの８０％がデータの２０％に集中している。したがって、ファイルシステムにストレージされた大量の小さなファイルからモデルを介してホットスポットファイルを予測してキャッシュすることができれば、ユーザのデータへのアクセスの効率を上げることができる。
ステップ１０２：対数線形モデルを合わせ、アクティブユーザセットの各アクティブユーザにアクサスされたファイルの人気予測値をアカウントして、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。
本実施例において、ステップ１０２は具体的には：ＡｒｒａｙＬｉｓｔコレクションから抽出されたビジターＩＰを、二次元配列から抽出されたビジターＩＰと照合し、一致が出たら、合致するビジターＩＰをキーワードとして、各ユーザのアクセス開始時刻を照会して、対数線形モデルを合わせ、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。
対数線形モデルは：
であり、
その中に、
がファイルｉの人気予測値であり、
がファイルｉが観測期間中のトラフィックであり、観測期間の長さがｔである。
と
が線形関係の関連パラメータであり、線形回帰法によって最適値をアカウントすることができる。本発明の対数線形モデルにおいて記載された観測期間の長さｔの定義は：ユーザアクセスログレコードのレコード行のアクセス開始時刻要素とユーザアクセスログレコードを収集した時刻との時間差である。例えば、収集されたユーザアクセスログレコードの時点が３０／Ｊａｎ／２０１８：１７：３８：２０で、ユーザアクセスログレコードのレコード行のアクセス開始時刻が２９／Ｊａｎ／２０１８：１０：３５：１５で、観測期間の長さが２９／Ｊａｎ／２０１８：１０：３５：１５から３０／Ｊａｎ／２０１８：１７：３８：２０までの時間差であり、アカウントしやすいために、期間の長さが時間単位にする。
ステップ１０３：ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用してホットスポットファイルの関連情報をキャッシュする。
本実施例においては、Ｈｂａｓｅデータベースを採用してホットスポットファイルの関連情報をキャッシュし、ＨＢａｓｅのテーブル名値がビジターＩＤであり、ＨＢａｓｅのＲｏｗＫｅｙが小さなファイルの名前であり、ＨＢａｓｅのファミリ名が「ｆｉｌｅ ｃｏｎｔｅｎｔ」であり、Ｖａｌｕｅ値すなわちセル値が小さなファイルのコンテンツである。ユーザがＨＢａｓｅの小さなファイルにアクセス時に、ユーザＩＤをテーブル名とし、アクセスする小さなファイルの名前をＨＢａｓｅのｇｅｔ（）メソッドのパラメータとすれば、対応する小さなファイルのコンテンツを取得できる。
本発明のキャッシュメソッドをもっと詳しく説明するため、図２を参照し、図２は本発明の提供するキャッシュメソッドのもう一つの実施例のプロセス見取り図である。図２が示すように、該プロセスが：ユーザアクセスレコードセット→正規表現が需要するレコード行をフィルタリングする→レコード行を解析する→ｂｅａｎオブジェクトでレコード行情報をカプセル化する→ＪＤＢＣ ＡＰＩを調査研究してｂｅａｎオブジェクトをＭｙｓｑｌデータベースに永続化する→二次元配列によってビジターＩＰと小さなファイルの名前情報をストレージする→配列をトラバースし、ビジタートラフィックを統計する→ビジタートラフィックによってサーとし、ＡｒｒａｙＬｉｓｔコレクションを使ってアクティブユーザセットのユーザＩＰをストレージする→二次元配列をアクティブユーザセットのビジターＩＰと照合する→一致が出たら、ビジターＩＰをキーワードとして、ユーザアクセス開始時刻とトラフィックを抽出する→ファイル人気予測数式によってファイル人気値をアカウントする→ファイル人気値をサートし、ホットスポットファイルをマークする→ＨＢａｓｅによってホットスポットファイルの関連情報をキャッシュする。
上記からわかったことは、本発明の実施例の提供するＨａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドには、ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを合わせて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用し前記ホットスポットファイルの関連情報をキャッシュする。ユーザにアクセスされたホットスポットファイルを考慮しない現有技術と比べ、本発明の技術プランはＨＢａｓｅによってヒートファイルをキャッシュし、キャッシュヒット率を向上させるだけでなく、ファイルの読み取り効率の改善もできる。
当業者は、上記の実施形態を実施するプロセスの全部または一部を理解することができ、コンピュータプログラムによって関連するハードウェアを指示することで完了することができ、前記のプログラムがコンピュター可読記憶媒体にストレージされることができ、該プログラムが実行される時に、上記の各メソッドの実施例のプロセスが含まれる。その中に、前記の記憶媒体が磁気ディスク、光ディスク、読み出し専用メモリ（Ｒｅａｄ−Ｏｎｌｙ Ｍｅｍｏｒｙ，ＲＯＭ）またはランダムアクセスメモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ，ＲＡＭ）であってもよい。
以上に述べたのは本発明の優先された実施形態であり、注意すべきのは、本技術分野の一般的な技術員にとって、本発明の原理から離れないことを前提として、若干な改善や飾りができ、これらの改善や飾りも本発明の保護範囲に含まれる。
本発明はコンピュータテクノロジー分野に関し、具体的には、Ｈａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法に関する。
Ｈａｄｏｏｐは２００５年にＡｐａｃｈｅ ＦｏｕｎｄａｔｉｏｎによってＬｕｃｅｎｅのサブプロジェクトであるＮｕｔｃｈの一部分として正式に導入されたものである。Ｈａｄｏｏｐの最も重要な二つの設計はＨＤＦＳとＭａｐＲｅｄｕｃｅである。ＨＤＦＳは大量なデータをストレージし、ファイルがデータブロックの形でシステムにストレージされる。また、ＨＤＦＳのデータブロックは通常のディスクに定義されたデータブロック（通常は５１２Ｂ）よりも遥かに大きく、ＨＤＦＳの現在のデフォルトブロックサイズは１２８ＭＢである。もしＨＤＦＳにストレージされたファイルのサイズが１２８に超えると、ＨＤＦＳは該ファイルを複数のブロックサイズのブロックに分割し、別々にストレージする。また、ＨＤＦＳが絶えずに小さなファイルをＴＢひいてはＰＢレベルまでストレージし続けると、小さなファイルの問題が発生し、此れは、大量のメタデータがＨＤＦＳのプライマリノードのｎａｍｅｎｏｄｅにストレージされるため、ｎａｍｅｎｏｄｅの負荷が大幅に増加し、システムの読み取りパフォーマンスに影響するためである。その中に、小さなファイルのサイズが２ＭＢに定義され、つまり、ＨＤＦＳがファイルをストレージする中で、ファイルのサイズが２Ｍまたは２Ｍ以下であると、小さなファイルとして定義される。
ファイルの読み取り効率を改善するために、ＨＤＦＳにはキャッシングメカニズムが導入され、また、既存のキャシング戦略は：ユーザがあるファイルを読み取ると、該ファイルと関連するファイル及びインデックスファイルはメモリにロードされる。該戦略がファイルの読み取り効率を向上させる事ができるという前提は、ユーザがメモリ内のファイルにアクセスすることである。しかし、該ファイルセットが頻繁にアクセスされるかどうか、つまり該ファイルが一般的なデータであるかどうかは考慮されない。既存の技術のその他のキャッシュメソッドも一般的なデータの面からは考慮されず、ファイルの読み取り効率を向上できないだけでなく、ファイルシステム全体のパフォーマンスにも影響する。
本発明の実施例はＨａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法を提供し、ＨＢａｓｅによってヒートファイルをキャッシュし、キャッシュヒット率を向上させるだけでなく、ファイルの読み取り効率を向上させる。
本発明の実施例はＨａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法を提供し、具体的には：
ユーザアクセスログレコードを取得し、前記ユーザアクセスロクレコードからアクティブユーザセットを統計し、
対数線形モデルを用いて、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、
前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。
更に、前記前記ユーザアクセスログレコードからアクティブユーザセットを統計するについて、具体的には：
アクセスされたソースの接尾辞がｊｐｇであるレコード行を前記ユーザアクセスログレコードからフィルタリングし、前記レコード行がユーザＩＤ、アクセスページＵＲＬ、アクセス開始時刻、アクセス状況、アクセストラフィックを含み、
レコード解析クラスを作成して前記レコード行を解析し、二次元配列を使用してビジターＩＰと小さなファイルの名前をストレージし、
前記二次元配列のビジターＩＰをトラバースし、ＨａｓｈＭａｐコレクションを使用して各ビジターＩＰのトラフィックを統計し、前記ＨａｓｈＭａｐコレクションのＫｅｙ値がビジターＩＰであり、Ｖａｌｕｅ値がトラフィックであり、
ＨａｓｈＭａｐコレクションをＶａｌｕｅ値の降順でソートし、ビジターＩＰの上位２０％をフィルタリングし、ＡｒｒａｙＬｉｓｔコレクションを使用して該ＩＰサブセットをストレージし、アクティブユーザセットとしてマークする。
更に、前記対数線形モデルをあわせて、前記アクティブユーザセットの各アクティブユーザにアクサスされたファイルの人気予測値をアカウントして、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、具体的には：
ＡｒｒａｙＬｉｓｔコレクションから抽出されたビジターＩＰを、前記二次元配列から抽出されたビジターＩＰと照合し、
一致が出たら、合致するビジターＩＰをキーワードとして、各ユーザのアクセス開始時刻を照会して、対数線形モデルを用いて、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、
前記対数線形モデルは：
であり、
その中に、
がファイルｉの人気予測値であり、
がファイルｉが観測期間中のトラフィックであり、観測期間の長さがｔである。
本発明の実施例を実施すると、以下の有益効果が出る：
本発明の実施例が提供するＨａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法は、ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを用いて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。ユーザにアクセスされたホットスポットファイルを考慮しない現有技術と比べ、本発明の技術プランはＨＢａｓｅによってヒートファイルをキャッシュし、ファイルの読み取り効率を高める。
本発明の実施例を実施すると、以下の有益効果が出る：
本発明の実施例が提供するＨａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法は、ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを用いて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用して前記ホットスポットファイルの関連情報をキャッシュする。ユーザにアクセスされたホットスポットファイルを考慮しない現有技術と比べ、本発明の技術プランはＨＢａｓｅによってヒートファイルをキャッシュし、ファイルの読み取り効率を高める。
下記に本発明の実施例の中の附図を交え、本発明の実施例の技術方案を明確にはっきり説明し、説明した実施例がただ本発明の一部分の実施例で、全部の実施例ではないである。本発明の実施例に基づいて、本領域の普通技術者が創造的な労働を払わないことを前提に得る全部のその他の実施例は本発明の保護範囲に所属する
図１を参照し、本発明が提供するＨａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法の実施例のプロセス見取り図であり、該プロセスはステップ１０１からステップ１０３まで含み、その中に各ステップは以下のように：
ステップ１０１：ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計する。
本実施例において、ステップ１０１には、ユーザアクセスログレコードよりアクティブユーザセットを統計し、具体的には：アクセスされたソースの接尾辞がｊｐｇであるレコード行をユーザアクセスログレコードからフィルタリングし、その中に、レコード行がユーザＩＤ、アクセスページＵＲＬ、アクセス開始時刻、アクセス状況、アクセストラフィックを含み、レコード解析クラスを作成してレコード行を解析し、二次元配列を使用してビジターＩＰと小さなファイルの名前をストレージし、二次元配列のビジターＩＰをトラバースし、ＨａｓｈＭａｐコレクションを使用して各ビジターＩＰのトラフィックを統計し、ＨａｓｈＭａｐコレクションのＫｅｙ値がビジターＩＰであり、Ｖａｌｕｅ値がトラフィックであり、ＨａｓｈＭａｐコレクションをＶａｌｕｅ値の降順でソートし、ビジターＩＰの上位２０％をフィルタリングし、ＡｒｒａｙＬｉｓｔコレクションを使用して該ＩＰサブセットをストレージし、アクティブユーザセットとしてマークする。
本発明のステップ１０１においてアクティブユーザセットをカウントする目的は、小さなファイルへのユーザのアクセスが均一なランダムではなくパレート分布法則に近いのである。すなわち、ほとんどのＩ／Ｏが少量の人気データへのアクセスをリクエストし、トラフィックの８０％がデータの２０％に集中している。したがって、ファイルシステムにストレージされた大量の小さなファイルからモデルを介してホットスポットファイルを予測してキャッシュすることができれば、ユーザのデータへのアクセスの効率を上げることができる。
ステップ１０２：対数線形モデルを用いて、アクティブユーザセットの各アクティブユーザにアクサスされたファイルの人気予測値をアカウントして、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。
本実施例において、ステップ１０２は具体的には：ＡｒｒａｙＬｉｓｔコレクションから抽出されたビジターＩＰを、二次元配列から抽出されたビジターＩＰと照合し、一致が出たら、合致するビジターＩＰをキーワードとして、各ユーザのアクセス開始時刻を照会して、対数線形モデルを用いて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークする。
対数線形モデルは：
であり、
その中に、
がファイルｉの人気予測値であり、
がファイルｉが観測期間中のトラフィックであり、観測期間の長さがｔである。
と
が線形関係の関連パラメータであり、線形回帰法によって最適値をアカウントすることができる。本発明の対数線形モデルにおいて記載された観測期間の長さｔの定義は：ユーザアクセスログレコードのレコード行のアクセス開始時刻要素とユーザアクセスログレコードを収集した時刻との時間差である。例えば、収集されたユーザアクセスログレコードの時点が３０／Ｊａｎ／２０１８：１７：３８：２０で、ユーザアクセスログレコードのレコード行のアクセス開始時刻が２９／Ｊａｎ／２０１８：１０：３５：１５で、観測期間の長さが２９／Ｊａｎ／２０１８：１０：３５：１５から３０／Ｊａｎ／２０１８：１７：３８：２０までの時間差であり、アカウントしやすいために、期間の長さが時間単位にする。
ステップ１０３：ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用してホットスポットファイルの関連情報をキャッシュする。
本実施例においては、Ｈｂａｓｅデータベースを採用してホットスポットファイルの関連情報をキャッシュし、ＨＢａｓｅのテーブル名値がビジターＩＤであり、ＨＢａｓｅのＲｏｗＫｅｙが小さなファイルの名前であり、ＨＢａｓｅのファミリ名が「ｆｉｌｅ ｃｏｎｔｅｎｔ」であり、Ｖａｌｕｅ値すなわちセル値が小さなファイルのコンテンツである。ユーザがＨＢａｓｅの小さなファイルにアクセス時に、ユーザＩＤをテーブル名とし、アクセスする小さなファイルの名前をＨＢａｓｅのｇｅｔ（）メソッドのパラメータとすれば、対応する小さなファイルのコンテンツを取得できる。
本発明のキャッシュメソッドをもっと詳しく説明するため、図２を参照し、図２は本発明の提供するキャッシュメソッドのもう一つの実施例のプロセス見取り図である。図２が示すように、該プロセスが：ユーザアクセスレコードセット→正規表現が需要するレコード行をフィルタリングする→レコード行を解析する→ｂｅａｎオブジェクトでレコード行情報をカプセル化する→ＪＤＢＣ ＡＰＩを調査研究してｂｅａｎオブジェクトをＭｙｓｑｌデータベースに永続化する→二次元配列によってビジターＩＰと小さなファイルの名前情報をストレージする→配列をトラバースし、ビジタートラフィックを統計する→ビジタートラフィックによってサーとし、ＡｒｒａｙＬｉｓｔコレクションを使ってアクティブユーザセットのユーザＩＰをストレージする→二次元配列をアクティブユーザセットのビジターＩＰと照合する→一致が出たら、ビジターＩＰをキーワードとして、ユーザアクセス開始時刻とトラフィックを抽出する→ファイル人気予測数式によってファイル人気値をアカウントする→ファイル人気値をサートし、ホットスポットファイルをマークする→ＨＢａｓｅによってホットスポットファイルの関連情報をキャッシュする。
上記からわかったことは、本発明の実施例の提供するＨａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法には、ユーザアクセスログレコードを取得し、ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを用いて、アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースを採用し前記ホットスポットファイルの関連情報をキャッシュする。ユーザにアクセスされたホットスポットファイルを考慮しない現有技術と比べ、本発明の技術プランはＨＢａｓｅによってヒートファイルをキャッシュし、キャッシュヒット率を向上させるだけでなく、ファイルの読み取り効率の改善もできる。
当業者は、上記の実施形態を実施するプロセスの全部または一部を理解することができ、コンピュータプログラムによって関連するハードウェアを指示することで完了することができ、前記のプログラムがコンピュター可読記憶媒体にストレージされることができ、該プログラムが実行される時に、上記の各メソッドの実施例のプロセスが含まれる。その中に、前記の記憶媒体が磁気ディスク、光ディスク、読み出し専用メモリ（Ｒｅａｄ−Ｏｎｌｙ Ｍｅｍｏｒｙ，ＲＯＭ）またはランダムアクセスメモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ，ＲＡＭ）であってもよい。
以上に述べたのは本発明の優先された実施形態であり、注意すべきのは、本技術分野の一般的な技術員にとって、本発明の原理から離れないことを前提として、若干な改善や飾りができ、これらの改善や飾りも本発明の保護範囲に含まれる。
Claims (1)
- Ｈａｄｏｏｐに基づく大量の小さなファイルのキャッシュメソッドは、ユーザアクセスログレコードを取得し、前記ユーザアクセスログレコードからアクティブユーザセットを統計し、対数線形モデルを合わせ、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順でソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、前記ホットスポットファイルを取得し、Ｈｂａｓｅデータベースによって前記ホットスポットファイルの関連情報をキャッシュし、前記前記ユーザアクセスログレコードからアクティブユーザセットを統計するについて、具体的には：アクセスされたソースの接尾辞がｊｐｇであるレコード行を前記ユーザアクセスログレコードからフィルタリングし、前記レコード行がユーザＩＤ、アクセスページＵＲＬ、アクセス開始時刻、アクセス状況、アクセストラフィックを含み、レコード解析クラスを作成して前記レコード行を解析し、二次元配列を使用してビジターＩＰと小さなファイルの名前をストレージし、ビジターＩＰを前記二次元配列でトラバースし、ＨａｓｈＭａｐコレクションを使用して各ビジターＩＰのトラフィックを統計し、前記ＨａｓｈＭａｐコレクションのＫｅｙ値がビジターＩＰであり、Ｖａｌｕｅ値がトラフィックであり、前記ＨａｓｈＭａｐコレクションをＶａｌｕｅ値の降順でソートし、ビジターＩＰの上位２０％をフィルタリングし、ＡｒｒａｙＬｉｓｔコレクションを使用して該ＩＰサブセットをストレージし、アクティブユーザセットとしてマークし、前記対数線形モデルをあわせて、前記アクティブユーザセットの各アクティブユーザにアクサスされたファイルの人気予測値をアカウントして、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、具体的には、ＡｒｒａｙＬｉｓｔコレクションから抽出されたビジターＩＰを、前記二次元配列から抽出されたビジターＩＰと照合し、一致が出たら、合致するビジターＩＰをキーワードとして、各ユーザのアクセス開始時刻を照会して、対数線形モデルを合わせ、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、前記対数線形モデルをあわせて、前記アクティブユーザセットの各アクティブユーザにアクサスされたファイルの人気予測値をアカウントして、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、具体的には、ＡｒｒａｙＬｉｓｔコレクションから抽出されたビジターＩＰを、前記二次元配列から抽出されたビジターＩＰと照合し、一致が出たら、合致するビジターＩＰをキーワードとして、各ユーザのアクセス開始時刻を照会して、対数線形モデルを合わせ、前記アクティブユーザセットの各アクティブユーザにアクセスされたファイルの人気予測値をアカウントし、人気予測値によって各ファイルを降順にソートし、ファイルの上位２０％をホットスポットファイルとしてマークし、前記対数線形モデルは：
であり、その中に、
がファイルｉの人気予測値であり、
がファイルｉが観測期間中のトラフィックであり、観測期間の長さがｔである。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810500093.2A CN108932288B (zh) | 2018-05-22 | 2018-05-22 | 一种基于Hadoop的海量小文件缓存方法 |
| CN201810500093.2 | 2018-05-22 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019204475A true JP2019204475A (ja) | 2019-11-28 |
| JP6696062B2 JP6696062B2 (ja) | 2020-05-20 |
Family
ID=64449348
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018147291A Expired - Fee Related JP6696062B2 (ja) | 2018-05-22 | 2018-08-04 | Ｈａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法 |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP6696062B2 (ja) |
| CN (1) | CN108932288B (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115695333A (zh) * | 2022-10-31 | 2023-02-03 | 湖南快乐阳光互动娱乐传媒有限公司 | pcdn节点资源淘汰方法、系统及相关设备 |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111190926B (zh) * | 2019-11-25 | 2023-04-07 | 腾讯云计算（北京）有限责任公司 | 资源缓存方法、装置、设备及存储介质 |
| CN112685634A (zh) * | 2020-12-29 | 2021-04-20 | 平安普惠企业管理有限公司 | 数据查询方法、装置、电子设备及存储介质 |
| CN113094368B (zh) * | 2021-04-13 | 2022-08-05 | 成都信息工程大学 | 一种提升缓存访问命中率的系统及方法 |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104111900B (zh) * | 2013-04-22 | 2017-06-20 | 中国移动通信集团公司 | 一种缓存中数据替换方法及装置 |
| CN103795781B (zh) * | 2013-12-10 | 2017-03-08 | 西安邮电大学 | 一种基于文件预测的分布式缓存方法 |
| CN103856567B (zh) * | 2014-03-26 | 2017-05-17 | 西安电子科技大学 | 基于Hadoop分布式文件系统的小文件存储方法 |
| CN105183839A (zh) * | 2015-09-02 | 2015-12-23 | 华中科技大学 | 一种基于Hadoop的小文件分级索引的存储优化方法 |
| CN106528451B (zh) * | 2016-11-14 | 2019-09-03 | 哈尔滨工业大学（威海） | 针对小文件的二级缓存预取的云存储框架及构建方法 |
| CN107045531A (zh) * | 2017-01-20 | 2017-08-15 | 郑州云海信息技术有限公司 | 一种优化hdfs小文件存取的系统及方法 |
| CN107066512A (zh) * | 2017-01-23 | 2017-08-18 | 重庆邮电大学 | 一种基于Hadoop的用户偏好评估方法及系统 |
| CN107368608A (zh) * | 2017-08-07 | 2017-11-21 | 杭州电子科技大学 | 基于arc替换算法的hdfs小文件缓存管理方法 |
| CN108446340B (zh) * | 2018-03-02 | 2019-11-05 | 哈尔滨工业大学（威海） | 一种面向海量小文件的用户热点数据访问预测方法 |
-
2018
- 2018-05-22 CN CN201810500093.2A patent/CN108932288B/zh active Active
- 2018-08-04 JP JP2018147291A patent/JP6696062B2/ja not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115695333A (zh) * | 2022-10-31 | 2023-02-03 | 湖南快乐阳光互动娱乐传媒有限公司 | pcdn节点资源淘汰方法、系统及相关设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6696062B2 (ja) | 2020-05-20 |
| CN108932288A (zh) | 2018-12-04 |
| CN108932288B (zh) | 2022-04-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6695537B2 (ja) | Ｈａｄｏｏｐに基づいて、データマージモジュールとＨＢａｓｅキャッシュモジュールを備えるＨＤＦＳから複数の２ＭＢ以下の小さなファイルを読み込む方法 | |
| JP6642650B2 (ja) | Ｈａｄｏｏｐに基づいて、データマージモジュールとＨＢａｓｅキャッシュモジュールを備えるＨＤＦＳに複数の２ＭＢ以下の小さなファイルを書き込む方法 | |
| JP6696062B2 (ja) | Ｈａｄｏｏｐに基づいて、複数の２ＭＢ以下のファイルをキャッシュする方法 | |
| JP6642651B2 (ja) | ユーザアクセスプリファレンスモデルを用いたストレージ方法 | |
| He et al. | Optimization strategy of Hadoop small file storage for big data in healthcare | |
| CN103177056B (zh) | 存储为行存储和列存储二者的混合数据库表 | |
| WO2017097231A1 (zh) | 话题处理方法及装置 | |
| CN107122126B (zh) | 数据的迁移方法、装置和系统 | |
| CN107040422A (zh) | 一种基于物化缓存的网络大数据可视化方法 | |
| CN103366015A (zh) | 一种基于Hadoop的OLAP数据存储与查询方法 | |
| CN107045531A (zh) | 一种优化hdfs小文件存取的系统及方法 | |
| CN102902775B (zh) | 互联网实时计算的方法和系统 | |
| CN107291806A (zh) | 一种Web可视化环境中的数据视图副本迭代方法 | |
| Zhang et al. | Sapprox: Enabling efficient and accurate approximations on sub-datasets with distribution-aware online sampling | |
| US11210312B2 (en) | Storing data items and identifying stored data items | |
| CN107832333A (zh) | 基于分布式处理和dpi数据构建用户网络数据指纹的方法和系统 | |
| US20240078234A1 (en) | Apparatus, method and storage medium for database pagination | |
| CN110457626A (zh) | 一种异常访问请求筛选方法及装置 | |
| CN112148690A (zh) | 一种文件缓存方法、文件访问请求处理方法及装置 | |
| CN103200269A (zh) | 互联网信息统计方法及系统 | |
| Khodaei et al. | Temporal-textual retrieval: Time and keyword search in web documents | |
| CN106055572B (zh) | 页面转化参数的处理方法及装置 | |
| CN106599005A (zh) | 一种数据归档方法及装置 | |
| Colosi et al. | Time series data management optimized for smart city policy decision | |
| CN112667149A (zh) | 一种数据热度感知方法、装置、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181119 |
|
| A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20181119 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181120 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190814 |
|
| A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190903 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190910 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190911 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190920 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191007 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200107 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200109 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200122 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200219 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200318 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6696062 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |