JP2005258633A

JP2005258633A - ディスクアレイシステム及びハードディスクドライブの障害予測方法

Info

Publication number: JP2005258633A
Application number: JP2004066980A
Authority: JP
Inventors: Katsuyuki Hiraiwa; 克幸平岩; Takashi Yamada; 孝山田
Original assignee: Hitachi Ltd
Current assignee: Hitachi Ltd
Priority date: 2004-03-10
Filing date: 2004-03-10
Publication date: 2005-09-22

Abstract

【課題】複数のハードディスクドライブが接続されたディスクアレイシステムにおいて、障害情報から、障害発生を予測し、エラーの発生率を抑えるディスクアレイシステムを提供することにある。
【解決手段】ディスクアレイコントローラ１０の障害情報管理部１１は、定期的に各ハードディスクドライブ２０の障害情報３０を取得し、過去数回分のデータから障害予測を行う。障害発生率が高いハードディスクに対しては、キャッシュメモリ１２を利用してアクセスを制限することにより、そのハードディスクへの負荷を軽減する。
【選択図】図１

Description

本発明は、ディスクドライブの障害情報を取得・保存し、該情報から予測により障害発生の制御が可能なディスクアレイシステム及びディスクドライブの障害発生予測方法に関する。

複数のハードディスクドライブで構成されたディスクアレイシステムにおいて、ハードディスクドライブが故障した場合は、ＬＥＤやブザーなどでユーザに知らせ、システムの稼動を停止することなく、オペレータが故障したハードディスクドライブをホットスワップして交換することができるようになっている。また、予備のハードディスクドライブを備えているものは、稼動中のハードディスクドライブが故障した場合は、自動的に、予備のハードディスクドライブに切り替わるようになっているものもある。このように、稼動中のハードディスクドライブが故障するまで使い続けているため、故障したらハードディスクドライブの交換が必要である。

このハードディスクドライブの交換回数を減らすために、特許文献１のように、予備のハードディスクドライブを有効利用して、個々のハードディスクの稼動時間が等しくなるようにローテーションすることによって、ハードディスクドライブの寿命を平均化するというものがある。

また、故障の判断基準として障害情報を単に稼動情報として取得する技術がある。この技術は、例えば、稼動中のリードエラー、ライトエラー等のエラーの発生の累積回数、また累積稼動時間、外部からの衝撃の累積回数、現在の温度などの情報をそれぞれのハードディスクドライブ内に保持している。そして、これらの累積回数がある閾値を越えたら、そのハードディスクドライブは、故障ではないものの危険な状態にあることを示すようになる。

さらに、複数のディスクドライブにて発生した回復可能なエラーの履歴情報を記憶し、これよりエラー発生頻度を算出し、各ディスクドライブの予防保守の必要性の有無を判断し、必要性があると判断されたディスクドライブに記憶されたデータを予備ディスクドライブに格納する技術が、特許文献２に述べられている。

特開２０００-２９３３１５号公報

特開平１１−３４５０９５号公報

上記従来技術は、個々のハードディスクドライブの稼動状態を単に示すか、あるいは、予防保全として予備ディスクドライブにデータを格納するという技術を示すのみで、得られた情報を活用してドライブの故障そのものをできるだけ回避する手立てを講ずる配慮はされておらず、外部からの衝撃が継続的に加わっていたり、動作保証範囲外の温度で稼動していたりなど、稼動環境によっては、著しくハードディスクの寿命を短くする問題を稼動状態の制御によりシステム全体として把握・制御・解決し、長寿命化する上では問題があった。

また、特許文献１においても、ディスクドライブの障害発生には、各種の要因が存在するのに対し、単に稼動時間を基準とし、ハードディスクドライブをローテーションしているため、障害要因の判断基準として各種要因因子への考慮が無く、信頼性に欠けていたという問題があった。

本発明の目的は、複数のハードディスクドライブで構成されたディスクアレイシステムにおいて、障害の発生を各種要因因子に関する障害情報を管理することにより予測し、障害の発生を回避することで、ハードディスクドライブの寿命を延ばすことができる複数のハードディスクドライブからなるディスクアレイシステムを提供することにある。

本発明の他の目的は、より信頼性のあるハードディスクドライブの障害発生予測方法を提供することにある。

上記目的を達成するために、ディスクアレイコントローラと、複数のハードディスクドライブから構成されるディスクアレイシステムにおいて、上記複数のハードディスクドライブのそれぞれは、該ハードディスクドライブの障害発生可能性を示す障害情報を保有し、前記ディスクアレイコントローラは、前記障害情報を比較することにより、前記複数のハードディスクドライブの中から障害発生の可能性が高いハードディスクドライブを検出する障害情報管理部と、検出された障害発生の可能性が高いハードディスクドライブに対し、一時的に、データ読み出し、データ書き込みを制限するアレイ制御部とを有するようにした。

上記障害情報は、障害発生の可能性を有する障害因子情報からなり、各障害因子情報は各々所定の値に対して規格化された情報として保有され、各障害因子情報の重みをつけた総和であるようにした。

さらに、ディスクアレイコントローラと、複数のハードディスクドライブから構成されるディスクアレイシステムにおいて、前記複数のハードディスクドライブから該ハードディスクドライブの障害発生可能性を示す障害情報を取得する工程と、取得した障害情報を保存する工程と、その保存した障害情報から障害発生の可能性を予測する工程とを有するようにした。

本発明によれば、障害情報より障害の発生を予測し、障害が発生する前にそのディスクドライブ（ＨＤＤ）へのアクセスを制限することにより、障害の発生を回避することができ、アレイディスクシステムを構成するディスクドライブ（ＨＤＤ）の寿命を延ばすことができる。

以下、図面を参照して本発明の実施形態を説明する。

図１は、本発明の実施形態を説明するためのディスクアレイシステムの構成を示すブロック図である。

本実施形態によるディスクアレイシステムは、ディスクアレイコントローラ１０と、複数のハードディスクドライブ（HDD）２０(２０−１、２０−２、２０−３、２０−４、．．．)から構成される。

ディスクアレイコントローラ１０には、各々のハードディスクの障害情報を取得し、障害発生予測を行う障害情報管理部１１、および処理の高速化を図るためのキャッシュメモリ１２を設けている。ハードディスクドライブ２０には、各ハードディスクドライブ（HDD）の障害情報３０(３０−１、３０−２、３０−３、３０−４、．．．)が検出・保持されている。

図２は、上記ディスクアレイコントローラに設けられた障害情報管理部１１の詳細ブロック図である。

障害情報管理部１１は、障害が発生する可能性が高いハードディスクドライブ（HDD）のＩＤを格納するハードディスクドライブ（HDD）ＩＤ格納メモリ５１と、障害が発生する可能性が低いハードディスクドライブ（HDD）のＩＤを格納するハードディスクドライブＨＤＤＩＤ格納メモリ５２と、各ハードディスクドライブ（ＨＤＤ）の障害情報を時系列に記録している障害情報格納用メモリ（４０−ｎ、４１−ｎ、４２−ｎ、４３−ｎ、．．．：ｎは１〜４）から構成される。障害情報格納用メモリ（４０−ｎ、４１−ｎ、４２−ｎ、４３−ｎ、．．．：ｎは１〜４）には、過去に取得した各ハードディスクドライブ（ＨＤＤ）の障害情報が時系列に管理され、保存されている。尚、以下の説明においては、障害が発生する可能性を「障害ポテンシャル」と称する。

次に、図５を用いて障害ポテンシャルが最大であるHDD、および最小であるHDDの検出方法について説明する。

ステップ５１にて、障害HDD予測部１３は、障害情報格納用メモリ(４０、４１、４２、４３、…)に保存されている障害情報を更新する。例えば、HDD1の障害情報格納用メモリ４０の場合、１つ前に取得した障害情報は４０−２に、２つ前に取得した情報は４０−３に、３つ前に取得した情報は４０−４にそれぞれ保存されるように更新する（Ｓ５１）。

次にステップ５２にて、各HDDから現在の障害情報（３０−１、３０−２、３０−３、３０−４、…）を取得し、各HDDの障害情報格納用メモリ（４０−１、４１−１、４２−１、４３−１、…）に保存する（Ｓ５２）。

ステップ５３にて各HDDの障害ポテンシャルを計算し（Ｓ５３）、ステップ５４にて障害ポテンシャルが他のＨＤＤの障害ポテンシャルと比べて最大で、かつ、ある閾値を越えているかどうかを判定する（Ｓ５４）。ステップ５４にて、障害ポテンシャルがある閾値を超えているHDDが存在すればステップ５６へ。存在しなければステップ５５へ進む。

ステップ５６では、障害ポテンシャルが最大かつある閾値を超えているHDDの識別子(ID)をHDD ID格納メモリ５１に保存する。ステップ５５では、HDD ID格納メモリ５１の内容をクリアする。これにより、HDD ID格納メモリ５１には、障害ポテンシャルが最大かつある閾値を超えているHDDおよび存在有無が常に確認可能となる。

ステップ５７では、障害ポテンシャルが最小であるHDDのIDをHDD ID格納メモリ５２に保存する。これにより、HDD ID格納メモリ５２には、障害ポテンシャルが最小であるHDDが常に確認可能となる。ステップ５３における障害ポテンシャルの計算方法については後述する。

更に、図３を用いて、本発明の一実施形態によるミラーリング(ここでは同一データを２０−１、２０−２，２０−３、および２０−４に四重に書き込んでいる)で構成されたディスクアレイシステムについて説明する。図３は、ミラーリング構成におけるデータリードおよびデータライト時の動作を示すフローチャートである。

最初に、ハードディスクへのデータアクセスの際は、アクセスのタイプ(データリードかデータライトか)を判別し（Ｓ１０）、データリードおよびデータライト時の処理を分ける。データリード時は、障害情報管理部１１のＨＤＤＩＤ格納メモリ５２を参照し、障害ポテンシャルの低いＨＤＤからデータリードを行う。

データライト時は、ＨＤＤＩＤ格納メモリ５１を参照し、障害ポテンシャルが高いＨＤＤが存在するかどうか判断する（Ｓ１１）。障害ポテンシャルが高いＨＤＤが存在しなければ、通常どおりすべてのＨＤＤに対してデータを書き込む（Ｓ１３）。障害ポテンシャルが高いＨＤＤが存在する場合は、そのＨＤＤに対してライト処理を行わず、キャッシュ１２に対してライトを行う。その他のＨＤＤに対しては通常どおりライトを行う。

また、障害情報管理部１１は、定期的にＨＤＤＩＤ格納メモリ５１の内容を更新しており、ＨＤＤＩＤ格納メモリ５１の内容が変化すれば、キャッシュメモリ１２をクリアする。この時、キャッシュメモリ１２にデータが残っていれば、キャッシュメモリをクリアする前にキャッシュメモリ内のデータをＨＤＤに書き込む。

このように、障害ポテンシャルの高いＨＤＤに対するアクセスの頻度を減らすことにより、障害の発生を低減することができる。

次に、図４を用いて、本発明の一実施形態であるストライピングによるデータ書き込みを行うよう構成されたディスクアレイシステムについて説明する。図４は、ストライピングによるデータリードおよびデータライトアクセス時の動作を示すフローチャートである。

最初に、ハードディスクドライブ（HDD）へのデータアクセスの際は、まず、障害ポテンシャルが高いＨＤＤが存在するか確認する（Ｓ２０）。障害ポテンシャルが高いＨＤＤが存在しなければ、通常どおり、すべてＨＤＤに対し、リードおよびライト処理を行う（Ｓ２３）。障害ポテンシャルが高いＨＤＤが存在する場合は、データのアクセスタイプ(データリードかデータライトか)を判断し（Ｓ２１）、データライトならばステップ２２（Ｓ２２）へ、データリードならばステップ２４（Ｓ２４）へ処理が分かれる。ステップ２１にてデータライトと判断された場合、障害ポテンシャルの高いＨＤＤをストライピングの対象から外し、そのＨＤＤ以外にデータを書き込む（Ｓ２２）。ステップ２１にてデータリードと判断された場合、目的とするデータが障害ポテンシャルの高いＨＤＤ内に存在するか判定し（Ｓ２４）、存在しない場合は、ＨＤＤからデータを読み込む（Ｓ２６）。存在する場合は、目的とするデータがキャッシュメモリ１２内に存在するか判定し（Ｓ２５）、存在すればそのキャッシュメモリからデータを読み込む（Ｓ２８）。存在しなければ、障害ポテンシャルの高いＨＤＤからデータを読み込む、と同時に、キャッシュメモリにもデータを書き込む（Ｓ２７）。

このように、障害ポテンシャルの高いＨＤＤに対するアクセスの頻度を減らすことにより、障害の発生を低減することができる。また、障害ポテンシャルの高いＨＤＤには、他のＨＤＤと比べて記録されるデータが少なくなるため、ある特定ハードディスクが常に障害ポテンシャルが高い場合などは、必然的にそのＨＤＤへのアクセスが少なくなり、障害の発生を低減することができる。

続いて、図６を用いて、各HDDの障害ポテンシャルの計算方法について説明する。ここで、HDD1, HDD2, HDD3, HDD4,…の障害ポテンシャルを、それぞれ、P_h（h=1,2,3,…,l）とし、さらに、障害要因をE_x(t)(x=1,2,3,…,m, t = 1,2,3,…,n)とする。ここで、lはHDDの数、mは障害要因の数、nは時系列データの数である。

まず、HDD1の障害ポテンシャルP₁を求める方法について説明する。

ステップ６１にて、x番目の障害要因E_xの時系列データ（E_x(1), E_x(2), E_x(3), E_x(4),… ）をHDD1の障害情報格納用メモリ４０（４０−１、４０−２、４０−３、４０−４、… ）から取得する（Ｓ６１）。

ステップ６２にて、障害要因E_xに対する障害ポテンシャルの計算を行なう（Ｓ６２）。障害要因E_xに対する障害ポテンシャルをPE_xとすると、PE_xは以下のように計算できる。
PE_x＝ a_x（E_x (1) - E_x(2)） + b_x（E_x (2) - E_x(3)） + c_x（E_x (3) - E_x (4)）＋...
ここで、a_x、b_x、c_x、はそれぞれの時間的変化に対する重み付け係数である。

ステップ６３にて、HDD1の障害ポテンシャルP₁を以下のように計算する（Ｓ６３）。ここで、α_xは、障害要因E_xに対する重み付け係数である。
P₁ ← P₁ + α_x×PE_x
ステップ６４にて、すべての障害要因E_x（x=1,2,3,...,m）に対する障害ポテンシャルPE_x（x=1,2,3,...,m）を計算したかどうかを判断し、すべての障害要因に対する障害ポテンシャルを計算していればステップ６５へ進む。計算してなければ、次の障害要因に対する障害ポテンシャルPE_x+1を計算するため、ステップ６１へ進む（Ｓ６４）。このようにステップ６１〜ステップ６４の処理により、ＨＤＤ１の障害ポテンシャルP₁を計算することができる。

HDD2以降の障害ポテンシャルの計算もHDD1と同様に行うため、ステップ６５にて、すべてのHDDに対する障害ポテンシャルP_h（h=1,2,3.…l）を計算するまで、S61〜S64の処理を繰り返す（Ｓ６５）。

これらの一連の処理により、P_hは以下のような値となる。
P_h＝
α₁{a₁(E₁(1)-E₁(2)) + b₁(E₁(2)-E₁(3)) + c₁(E₁(3)-E₁(4)) + ... }
+ α₂{a₂(E₂(1)-E₂(2)) + b₂(E₂(2)-E₂(3)) + c₂(E₂(3)-E₂(4)) + ... }
+ α₃{a₃(E₃(1)-E₃(2)) + b₃(E₃(2)-E₃(3)) + c₃(E₃(3)-E₃(4)) + ... }
：
+ α_m{a_m(E_m(1)-E_m(2)) + b_m(E_m(2)-E_m(3)) + c_m(E_m(3)-E_m(4)) + ... }
ここで、重み付け係数α_x、a_x、b_x、c_x(x=1,2,3,…,m)は、障害発生の変化が大きい障害要因に対して、その障害ポテンシャルも大きくなるような値とする。

また、障害要因が温度のような基準値からの差が障害発生に影響を及ぼすものは、以下のように、基準値γからの差を計算することにより、その障害要因における障害ポテンシャルPE_xを計算することも有効である。
PE_x＝ a_x（E_x (1) -γ） + b_x（E_x (2) -γ） + c_x（E_x (3) -γ）＋...
このように、障害情報の時系列データから、容易に障害が発生する可能性が高いHDDを算出することができる。

本発明の一実施形態によるディスクアレイシステムのブロック図である。本発明の一実施形態によるディスクアレイシステムの障害情報管理部を詳細に示すブロック図である。本発明の一実施形態によるミラーリング構成のディスクアレイシステムの動作を示すフローチャートである。本発明の一実施形態によるストライピング構成のディスクアレイシステムの動作を示すフローチャートである。本発明の一実施形態である障害ポテンシャルが最大であるHDD、および最小であるHDDの検出方法を説明するフローチャートである。本発明の一実施形態である各HDDの障害ポテンシャルの計算方法を説明するフローチャートである。

符号の説明

10…ディスクアレイコントローラ、
11…障害情報管理部、
12…キャッシュメモリ、
20-1〜20-4…ハードディスク、
30-1〜30-4…障害情報
40-1、40-2、40-3、40-4、41-1、41-2、41-3、41-4、…、43-1、43-2、43-3、43-4…各HDDの障害情報格納用メモリ、
51、52…HDD ID格納メモリ。

Claims

ディスクアレイコントローラと、複数のハードディスクドライブから構成されるディスクアレイシステムにおいて、上記複数のハードディスクドライブのそれぞれは、該ハードディスクドライブの障害発生可能性を示す障害情報を保有し、前記ディスクアレイコントローラは、前記障害情報を比較することにより、前記複数のハードディスクドライブの中から障害発生の可能性が高いハードディスクドライブを検出する障害情報管理部と、検出された障害発生の可能性が高いハードディスクドライブに対し、一時的に、データ読み出し、データ書き込みを制限するアレイ制御部とを有することを特徴とするディスクアレイシステム。
上記障害情報は、障害発生の可能性を有する障害因子情報からなり、各障害因子情報は各々所定の値に対して規格化された情報として保有され、各障害因子情報の重みをつけた総和であることを特徴とする請求項１に記載のディスクアレイシステム。
ディスクアレイコントローラと、複数のハードディスクドライブから構成されるディスクアレイシステムにおいて、前記複数のハードディスクドライブから該ハードディスクドライブの障害発生可能性を示す障害情報を取得する工程と、取得した障害情報を保存する工程と、その保存した障害情報から障害発生の可能性を予測する工程とを有することを特徴とするディスクアレイシステムのハードディスクドライブ障害予測方法。