JP6793498B2 - データストア装置およびデータ管理方法 - Google Patents

データストア装置およびデータ管理方法 Download PDF

Info

Publication number
JP6793498B2
JP6793498B2 JP2016162367A JP2016162367A JP6793498B2 JP 6793498 B2 JP6793498 B2 JP 6793498B2 JP 2016162367 A JP2016162367 A JP 2016162367A JP 2016162367 A JP2016162367 A JP 2016162367A JP 6793498 B2 JP6793498 B2 JP 6793498B2
Authority
JP
Japan
Prior art keywords
data
priority
message
message data
storage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016162367A
Other languages
English (en)
Other versions
JP2018032115A (ja
Inventor
佑樹 兼子
佑樹 兼子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2016162367A priority Critical patent/JP6793498B2/ja
Priority to US16/327,921 priority patent/US10684901B2/en
Priority to PCT/JP2017/029032 priority patent/WO2018037930A1/ja
Publication of JP2018032115A publication Critical patent/JP2018032115A/ja
Application granted granted Critical
Publication of JP6793498B2 publication Critical patent/JP6793498B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5038Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/546Message passing systems or structures, e.g. queues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer And Data Communications (AREA)
  • Information Transfer Between Computers (AREA)

Description

本発明は、クライアントから受信したメッセージデータをサービス提供サーバへ転送するメッセージキューシステムに関する。
近年、インターネットや通信機器の発達に伴い、個人のスマートデバイスから送信されるメッセージデータのデータ数もデータ量も増大している。これらのメッセージデータを処理するシステムでは、システムの拡張性や可用性を向上させるために、分散データストアを利用してシステムを構築することが求められている。
分散データストアにメッセージデータを格納し、メッセージデータを分散処理する分散処理型メッセージキューシステムは一例として複数のメッセージキューサーバで構成される。各メッセージキューサーバは、メッセージデータを格納するストレージデバイスを備え、複数のメッセージキューサーバのストレージデバイスを共有し、クライアントとサービス提供サーバの間に、ストレージデバイス毎のメッセージキューを提供する。
複数のメッセージキューサーバが相互にストレージデバイスを共有することで大容量のストレージを実現することを可能にしている。また、メッセージキューサーバを増設することで容易にストレージの容量を増加することが可能である。また、メッセージデータをメッセージキューサーバ間で複製することにより、可用性を向上させることも可能である。
関連する技術として特許文献1に開示されたものがある。この文献には、同一メッセージキュー内における、他のメッセージとの相互関係に基づいて処理順序を制御する技術である。
特開2016−18222号公報
上述したような分散処理型メッセージキューシステムでは、各ストレージデバイスを均等に利用するために、メッセージデータをどのストレージデバイスに格納するか、あるいはどのストレージデバイスからメッセージデータを取得するかを決定するとき、一般的にラウンドロビン方式が用いられる。
しかし、メッセージデータに優先度が付与される場合にも優先度と無関係にメッセージデータの格納先あるいは取得先のストレージデバイスが決定されるので、優先度の高いメッセージデータのサービス提供サーバへの配送が遅延する可能性がある。
本発明の目的は、データを蓄積して配送するシステムにおいて良好なデータの配送を可能にする技術を提供することである。
本発明の一態様によるデータストア装置は、複数の記憶装置と、データを受信して前記記憶装置に格納し、データ取得要求を受けて前記記憶装置からデータを取得して送信するデータ制御部と、を有し、前記データ制御部は、前記複数の記憶装置のそれぞれに格納されている前記データに関する格納状況情報に基づいて、前記データ取得要求にかかるデータを検索する対象の記憶装置を選択する。
本発明の一態様によれば、複数の記憶装置によるデータストア装置において、各記憶装置のデータに関する格納状況に基づいて、どの記憶装置からデータを取得するかを判断するので、良好なデータの配送を行うことができる。
分散処理型メッセージキューシステムの構成例を示す図である。 統計情報レジストリ317に格納される統計情報を例示する図である。 メッセージデータ情報サマリレジストリ318に格納されるメッセージデータ情報サマリを例示する図である。 メッセージデータ情報332aを例示する図である。 メッセージキュー制御部310aが実行するメッセージデータ情報サマリの更新処理を示すシーケンス図である。 メッセージキュー制御部310aが実行するメッセージデータ情報サマリレジストリ318の更新処理を示すシーケンス図である。 メッセージキュー制御部310aがクライアント100aからメッセージデータ取得のリクエストを受信したときに実行する処理を示すシーケンス図である。 データの取得先となるストレージデバイスの決定の具体例について説明するための図である。
以下、本発明の実施形態について図面を参照して説明する。
(1)構成
図1は、分散処理型メッセージキューシステムの構成例を示す図である。メッセージキューシステムは、クライアント100a、100b、ロードバランサー200、メッセージキューサーバ300a、300b、ロードバランサー400、およびサービス提供サーバ500a、500bを有している。
サービス提供サーバ500a、500bは、クライアント100a、100bにサービスを提供するサーバである。サービス提供サーバ500aとサービス提供サーバ500bは同じ構成であり、負荷を分散している。サービス提供サーバ500aにはサービス提供プログラム510aが搭載されている。サービス提供サーバ500bにはサービス提供プログラム510bが搭載されている。
クライアント100a、100bは、サービス提供サーバ500a、500bのサービスを利用するクライアントである。クライアント100aとクライアント100bは同じ構成である。クライアント100aは、クライアントプログラム110aが搭載されており、それを実行することで機能する。クライアント100bは、クライアントプログラム110bが搭載されており、それを実行することで機能する。
ロードバランサー200は、クライアント100a、100bのクライアントプログラム110a、110bが送信するリクエストを複数のメッセージキューサーバ300a、300bに振り分ける。
メッセージキューサーバ300a、300bは、クライアント100a、100bからサービス提供サーバ500a、500bへのリクエストのメッセージデータを一時的に蓄積し、メッセージキューのキュー制御を行うサーバである。メッセージキューサーバ300aとメッセージキューサーバ300bは同じ構成であり、負荷を分散している。
メッセージキューサーバ300aは、メッセージキューシステムを構成するサーバであり、ストレージデバイス330a、分散データストア320a、およびメッセージキュー制御部310aを有している。同様に、メッセージキューサーバ300bは、メッセージキューシステムを構成するサーバであり、ストレージデバイス330b、分散データストア320b、およびメッセージキュー制御部310bを有している。メッセージキュー制御部310a、310bは、不図示のCPUでソフトウェアプログラムを実行することにより実現され、メッセージデータのキューイングを制御する。メッセージキュー制御部310a、310bの内部構成および動作については後述する。
分散データストア320a、320bは、メッセージキューサーバ300a、300bのストレージデバイス330a、330bを共有化し、相互に利用可能にする。
ロードバランサー400は、メッセージキューサーバ300a,300bのメッセージキュー制御部310a、310bが送信するメッセージデータをサービス提供サーバ500a、500bに振り分ける。
サービス提供サーバ500a、500bは、クライアント100a、100bに対してサービスを提供するサーバである。サービス提供サーバ500aは、サービス提供プログラム510aが搭載されており、それを実行することで機能する。サービス提供サーバ500bは、サービス提供プログラム510bが搭載され、それを実行することで機能する。
なお、図1ではクライアント、メッセージキューサーバ、サービス提供サーバをそれぞれ2台としているが、あくまで一例の構成であり、2台以上のクライアント、メッセージキューサーバ、サービス提供サーバが存在してもよい。
次に、メッセージキューサーバ300a、300bの詳細について説明する。ここではメッセージキューサーバ300aを例に説明する。
メッセージキュー制御部310aは、CPUがソフトウェアプログラムを実行し、主記憶装置および補助記憶装置といったハードウェアリソースを利用することにより機能する。メッセージキュー制御部310aは、リクエスト送受信部311、統計情報操作部312、メッセージデータ情報サマリ操作部313、レジストリ更新部315、メッセージデータ情報操作部316、メッセージデータ情報選択部319を含んでいる。
リクエスト送受信部311は、複数のクライアント100a、100bおよびサービス提供サーバ500a、500bとリクエストのメッセージデータを送受信する。
統計情報操作部312は、クライアント100a、100bから受信したリクエストのメッセージデータの統計情報を算出し、レジストリ更新部315を介して統計情報レジストリ317へ保存する。メッセージデータの統計情報は、ストレージデバイス330a、330bへのメッセージデータの追加、およびストレージデバイス330a、330bからのメッセージデータの取得を集計した情報である。
図2は、統計情報レジストリ317に格納される統計情報を例示する図である。図2には、統計情報操作部312が算出するメッセージデータの統計情報の一例が示されている。統計情報には、メッセージキュー名と、そのメッセージキューに対して送信されたリクエスト種別と、単位時間内に処理されるメッセージデータのデータ数の平均値とが含まれる。クライアント100a、100bはキューを指定してリクエストを送信する。ここではQueue_AとQueue_Bという2つのメッセージキューが定義されている。メッセージキューサーバ300a、300bはメッセージキュー毎にメッセージデータの追加および取得を制御する。
例えば、図2のQueue_Aの部分には、クライアント100a、100bのクライアントプログラム110a、110bは、Queue_Aに1秒間あたりに平均1.5件のメッセージを追加し、サービス提供サーバ500a、500bのサービス提供プログラム510a、510bは、Queue_Aから1秒間あたりに平均2.5件のメッセージを取得していることが示されている。
図1に戻り、レジストリ更新部315は、統計情報操作部312の指示で統計情報レジストリ317に統計情報を記録する。
メッセージデータ情報サマリ操作部313は、定期的もしくは不定期に、分散データストア320aを介してメッセージデータ情報サマリ331の取得および更新を行う。メッセージデータ情報サマリ331は、メッセージデータ情報サマリレジストリ318に格納され、そこで更新される。
メッセージデータがストレージデバイス330a、330bに書き込まれると、そのメッセージデータの情報が記録される。メッセージデータに優先度が付与されている。メッセージの優先度には「高」と「低」の2段階がある。
図3は、メッセージデータ情報サマリレジストリ318に格納されるメッセージデータ情報サマリを例示する図である。メッセージデータ情報サマリ331は、メッセージデータの情報を集約した情報である。
メッセージデータ情報サマリ331には、ストレージデバイス330a、330b毎かつメッセージキュー毎に、ストレージデバイス330a、330bに記録されているメッセージデータのデータ数(メッセージ数)を優先度毎に計数した結果がまとめられている。このメッセージデータ情報サマリ331は、定期的あるいは不定期に更新される。図3に示すように、メッセージデータ情報サマリ331には、ストレージデバイス330a、330bに対応するメッセージデータ情報名と、情報更新時刻と、メッセージキュー名と、優先度と、メッセージ数とが含まれている。
図3の例では、ストレージデバイス330a、330bにそれぞれ対応するメッセージデータ情報332a、332bについてのサマリ情報が含まれている。メッセージデータ情報332aの部分を見ると、ストレージデバイス330aには、全部で5件のメッセージデータが格納されている。そのうち1件がメッセージキューQueue_Aに格納された低優先度のメッセージであり、1件がQueue_Bに格納された高優先度のメッセージである。2件がメッセージキューQueue_Bに格納された低優先度のメッセージであり、1件がQueue_Bに格納された高優先度のメッセージである。
図1に戻り、メッセージデータ情報操作部316は、クライアント100a、100Bからのメッセージデータの追加(ストレージデバイスへの格納)あるいは取得(ストレージデバイスから読み出し)のリクエストに応じて、メッセージデータ情報332a、332bを更新する。
図4は、メッセージデータ情報332aを例示する図である。図4に示すように、メッセージデータ情報332aには、各メッセージについて、そのメッセージデータを一意に特定するための識別子と、そのメッセージデータが登録されたメッセージキュー名、そのメッセージデータの優先度、およびメッセージデータ自体が含まれる。図4の例は、メッセージキューQueue_Aには、低優度のメッセージデータ”ABC”と高優先度のメッセージデータ”DEF”が格納されている。Queue_Bには、低優度のメッセージデータ”EFG”と高優先度のメッセージデータ”HIJ”が格納されている。
メッセージデータ情報操作部316が、どのメッセージデータのメッセージデータ情報を更新操作の対象とするかは、メッセージデータ情報選択部319により決定される。
メッセージデータ情報選択部319は、メッセージデータのリクエスト種別に応じた選択方法により、操作対象のメッセージデータを決定する。
リクエストが、クライアント100a、100bが送信したメッセージデータをストレージデバイス330a、330bに格納するリクエストである場合、メッセージデータ情報選択部319は、メッセージデータを格納するストレージデバイス330a、330b(追加先)のメッセージデータ情報331をラウンドロビンで決定する。
一方、リクエストが、サービス提供サーバ500a、500bが送信したメッセージデータをストレージデバイス330a、330bから取得するリクエストである場合、メッセージデータ情報選択部319は、統計情報レジストリ317に格納された統計情報と、メッセージデータ情報サマリレジストリ318に格納されたメッセージデータ情報サマリとに基づいて、高優先度のメッセージデータを取得できる可能性が高いストレージデバイス330a、330b(取得先)からメッセージデータを取得すると決定する。
次に、メッセージキュー制御部310a、310bが、どのストレージデバイス330a、330b(取得先)からメッセージデータを取得するかを決定する具体的な方法について詳細に説明する。メッセージキュー制御部310a、310bは、定期的あるいは不定期にメッセージデータ情報サマリを作成し、更に、定期的あるいは不定期にメッセージデータ情報サマリをメッセージデータ情報サマリレジストリ318に保存しており、サービス提供サーバ500a、500bからのリクエストにより、ストレージデバイス330a、330bのいずれかからメッセージデータを取得してサービス提供サーバ500a、500bへ送信する。以下ではメッセージキューサーバ300aの動作を例に説明する
(2)動作
図5は、メッセージキュー制御部310aが実行するメッセージデータ情報サマリの更新処理を示すシーケンス図である。
メッセージデータ情報操作部316は、分散データストア320aに対して定期的もしくは不定期的にメッセージデータ情報の集計要求を送信する(ステップA1)。前記メッセージデータ情報の集計要求を受信した分散データストア320aはストレージデバイス330aのメッセージデータ情報332aにアクセスし、高優先度のメッセージデータ数と低優先度のメッセージデータ数をメッセージキューごとに集計する(ステップA2)。それらメッセージデータ数を集計した後、分散データストア320aは現在時刻を取得し(ステップA3)、前記ステップA2の集計結果と現在時刻をメッセージデータ情報操作部316へ送信する(ステップA4)。
ステップA4にて送信された、前記ステップA2の集計結果と現在時刻を受信したメッセージデータ情報操作部316は、メッセージデータ情報332aについてメッセージデータ情報サマリを作成する。(ステップA5)
前記ステップA5で前記メッセージデータ情報サマリを作成したメッセージデータ情報操作部316は、作成したメッセージデータ情報サマリを含んだメッセージデータ情報サマリ更新要求を分散データストア320aへ送信する(ステップA6)。
前記ステップA6で当該メッセージデータ情報サマリ更新要求を受信した分散データストア320aは、受信したメッセージデータ情報サマリ更新要求に含まれるメッセージデータ情報サマリの内容を、メッセージデータ情報サマリ331に反映する(ステップA7)。
前記ステップA1〜ステップA7と同様の処理を各メッセージキューサーバ300a、300bのメッセージキュー制御部310a、310bがそれぞれ実施することで、全てのメッセージデータのメッセージデータ情報の集計結果がメッセージデータ情報サマリ331に反映される。
図6は、メッセージキュー制御部310aが実行するメッセージデータ情報サマリレジストリ318の更新処理を示すシーケンス図である。
メッセージキュー制御部310aのメッセージデータ情報サマリ操作部313は、定期的もしくは不定期的に分散データストア320aに対し、メッセージデータ情報サマリの取得要求を送信する(ステップB1)。
前記取得要求を受信した分散データストア320aは、ストレージデバイス330a、330bからメッセージデータ情報サマリ331を取得し(ステップB2)、メッセージデータ情報サマリ操作部313へ送信する(ステップB3)。メッセージデータ情報サマリ操作部313は取得した前記メッセージデータ情報サマリ331を、レジストリ更新部315にメッセージデータ情報サマリ331の保存を要求する(ステップB4)。レジストリ更新部315は、メッセージデータ情報サマリ331をメッセージデータ情報サマリレジストリ318に保存する(ステップB5)。
図7は、メッセージキュー制御部310aがクライアント100aからメッセージデータ取得のリクエストを受信したときに実行する処理を示すシーケンス図である。
まず、クライアント100aは、メッセージキュー制御部310aのリクエスト送受信部311に対して、メッセージデータ取得のリクエスト(メッセージデータ取得要求)を送信する(ステップC1)。前記メッセージデータ取得要求には、そのリクエストでメッセージデータを取得するメッセージキューが指定される。その際、クライアント100aは、指定するメッセージキューのメッセージキュー名称をリクエストに記載する。
図4に例示したように、メッセージキュー名称で指定される1つのメッセージキューには複数のメッセージデータが登録されうる。すわなち、メッセージデータ取得要求は、例えば、指定したメッセージキュー名称「Queue_A」のメッセージキューに属するいずれかのメッセージデータを要求するものである。メッセージキューに高優先のメッセージデータと低優先のメッセージデータが登録されていれば、高優先のメッセージデータが優先的に取得されることとなる。メッセージデータ取得要求には、更に、メッセージ取得数など様々な情報を含んで良いのはもちろんである。
前記メッセージデータ取得要求を受信したリクエスト送受信部311は、メッセージデータ情報操作部316に、受信したメッセージデータ取得要求を送信する(ステップC2)。
メッセージデータ情報操作部316は、メッセージデータの取得先となるストレージデバイス330a、330bを決定するために、メッセージデータ情報選択部319に取得先決定要求を送信する(ステップC3)。
取得先決定要求を受信したメッセージデータ情報選択部319は、統計情報レジストリ317、メッセージデータ情報サマリレジストリ318、およびメッセージキュー設定レジストリ314にアクセスし、平均取得メッセージデータ数、メッセージデータ情報サマリ、メッセージキュー制御主体数を取得する(ステップC4〜C6)。
なお、平均取得メッセージデータ数は、図2に例示した統計情報における、リクエスト種別が取得である平均処理メッセージデータ数である。
また、メッセージキュー設定レジストリ314には、メッセージキューに関する各種設定情報が予め登録されている。設定情報のひとつとして、メッセージキュー制御主体数が登録されている。メッセージキュー制御主体数は、メッセージキューを制御する主体の個数を示す情報である。メッセージキュー制御の主体となるのは、メッセージキュー制御部310a、310bであり、言い換えれば、メッセージキューサーバ300a、300bにてCPUにより実行されるメッセージキュー制御プログラムと言っても良い。
次に、メッセージデータ情報選択部319は、取得した統計情報、メッセージデータ情報サマリ、およびメッセージキュー制御主体数に加えて更にOS標準の機能で取得される現在時刻を用いて、現在時刻において、高優先のメッセージデータを取得できる可能性が最も高いストレージデバイスを予測する(ステップC7)。ここでは一例として、予測された当該ストレージデバイス330a、330bに対応するメッセージデータ情報332a、332bを、優先すべきメッセージデータ情報332a、332bとして出力する。
具体的には、まず、メッセージデータ情報選択部319は、式(1)を適用し、メッセージデータ情報サマリの情報更新時刻から現在時刻までに取得されたであろうメッセージデータのデータ数(取得メッセージデータ数)を求める。
取得メッセージデータ数=(現在時刻−情報取得時刻)×平均取得メッセージデータ数×メッセージキュー制御主体数・・・(1)
取得メッセージデータ数が予測できると、当該取得メッセージデータ数と、メッセージデータ情報サマリのメッセージ数とに基づいて、現在時刻において各ストレージデバイス330a、330bに格納されているメッセージデータの個数(現在時刻メッセージデータ数)を予測することができる。そして、当該現在時刻メッセージ数から、高優先のメッセージデータを取得できる可能性が最も高いストレージデバイス330a、330bを予測することができる。予測方法としては様々なポリシによる様々な方法が採用可能である。
ここで、情報取得時刻とは、図5のステップA3で取得されるメッセージデータ情報サマリの更新時刻である。平均取得メッセージデータ数とは、単位時間当たりにストレージデバイス330a、330bから取得されたメッセージデータの個数の平均値である。平均取得メッセージデータ数は、メッセージ取得実績を基に平均値を算出すればよく、例えば、ストレージデータ情報毎に、あるいはメッセージキュー制御部310a、310b毎に、あるいはメッセージキューシステム全体について、のいずれかの単位で算出すればよい。
なお、ここでは一例として、メッセージデータの取得先となるストレージデバイス330a、330bを決定するのに、時刻情報を用いたが、本発明がこれに限定されることは無い。他の例として、時刻情報を用いず、取得した統計情報、メッセージデータ情報サマリ、およびメッセージキュー制御主体数に基づいて判断してもよい。
また、ここでは一例として、情報更新時刻から現在時刻までに取得されたであろうメッセージデータのデータ数を用いて、メッセージデータの取得先となるストレージデバイス330a、330bを決定したが、本発明がこれに限定されることはない。他の例として、情報更新時刻から現在時刻までに取得されるメッセージデータだけでなく、さらに、追加されるメッセージデータをも考慮した演算により、メッセージデータの取得先となるストレージデバイス330a、330bを決定してもよい。その場合、統計情報に含まれる、リクエスト種別が追加である平均処理メッセージデータ数(平均追加メッセージデータ数)を、現在時刻におけるメッセージデータ数を予想するのに用いればよい。
高優先のメッセージデータを取得できる可能性が最も高いストレージデバイスを予測する手法について、図8を用いて具体的に説明する。高優先のメッセージデータを取得できる可能性が最も高いストレージデバイスを予測することは、すなわち、メッセージデータの取得先とするストレージデバイスを決定することである。
図8は、データの取得先となるストレージデバイスの決定の具体例について説明するための図である。上述したように、メッセージデータ情報サマリレジストリ318には、ある時刻に取得されたメッセージデータ情報サマリが格納されている。図8には、具体例の説明に用いるメッセージデータ情報サマリが示されている。ここではメッセージキューQueue_Aを例に説明を行うので、図8にはメッセージキューQueue_Aに関する情報だけを示している。さらに、具体例の説明では、現在時刻が10:20:30.75であり、平均取得メッセージデータ数が10msg/secであり、メッセージキュー制御主体数が2台であるとする。
まず、メッセージキュー制御部310aがサービス提供サーバ500aからメッセージキューQueue_Aを対象としたメッセージデータ取得要求を受信したと仮定する。
メッセージキュー制御部310aは、図8に示したメッセージデータ情報サマリに上述した式(1)を適用し、メッセージデータ情報サマリの情報更新時刻から現在時刻までに既に取得されたであろうメッセージデータのデータ数を予測する。ストレージデバイス330aに対応するメッセージデータ情報332aについて、既に取得されたであろうメッセージデータのデータ数は5件(0.25[sec]×10[msg/sec]×2[台])となる。ここでは高優先度のメッセージデータを優先的に取得するものと考えるので、ストレージデバイス330aに保持されている高優先度のメッセージデータ数は最大(最多)で12件、最小(最少)で7件であり、低優先度のメッセージデータは2件であると予測される。
同様に、ストレージデバイス330bに対応するメッセージデータ情報332bについて、既に取得されたであろうメッセージデータのデータ数は15件(0.75[sec]×10[msg/sec]×2[台])となる。よって、ストレージデバイス330bに保持されている高優先度のメッセージデータ数が最大(最多)16件、最小(最少)で1件であり、低優先度のメッセージデータ数は5件であると予測される。
次に、メッセージキュー制御部310aは、高優先のメッセージデータを取得できる可能性についてストレージデバイス330a、330b間の相対的な順位を求める。メッセージキュー制御部310aは、これに、式(1)により予測したメッセージデータのデータ数を用いる。具体的な順位付けの方法は任意であるが、例えば、現在時刻において格納されている高優先度のメッセージデータのデータ数の最小値(最小数)が大きい順に順位付けしてもよい。あるいは、現在時刻において格納されている高優先度のメッセージデータのデータ数の最大値(最多数)と最小値(最小数)の平均値が大きい順に順位付けしてもよい。
現在時刻において格納されている高優先度のメッセージデータのデータ数の最小値(最小数)が大きい順に順位付けした場合、図8の例では、ストレージデバイス330aが一位となり、ストレージデバイス330bが二位となる。そのため、メッセージキュー制御部310aは、ストレージデバイス330aをメッセージデータの取得先と決定し、その対応するメッセージデータ情報332aをメッセージデータ情報操作部316に通知する(ステップC8)。
次に、メッセージデータ情報操作部316は、通知された取得先のメッセージデータ情報332aおよびそれに対応するストレージデバイス330aを操作対象として、メッセージデータ取得要求を分散データストア320aへ送信する。(ステップC9)。メッセージデータ取得要求を受信した分散データストア320aは、メッセージデータ情報332aからメッセージキュー名称Queue_Aに該当するメッセージデータのうち優先度の高いメッセージデータを検索し、該当するメッセージデータを含むメッセージデータ情報をストレージデバイス330aから取得する(ステップC10)。
サービス提供サーバ500aが要求したデータ数のメッセージデータがストレージデバイス330aに格納されていなかった場合、分散データストア320aは、次の順位のストレージデバイス330bのメッセージデータ情報332bからメッセージキュー名称Queue_Aに該当するメッセージデータのうち優先度の高いメッセージデータを検索し、該当するメッセージデータを含むメッセージデータ情報をストレージデバイス330bから取得する。
そして、分散データストア320aは、取得したメッセージデータ情報をメッセージデータ情報操作部316へ送信する(ステップC11)。前記メッセージデータ情報を受信したメッセージデータ情報操作部316は、識別子などの不要な制御情報を削除し(ステップC12)、リクエスト送受信部311へメッセージデータを送信する(ステップC13)。メッセージデータを受信したリクエスト送受信部311は前記メッセージデータをサービス提供サーバ500aへ送信する(ステップC14)。
メッセージデータ取得要求を受信したメッセージキュー制御部310a、310bがそれぞれ上記処理を実行することで、優先度の高いメッセージデータの配送の遅延を短縮することができる。
従来はラウンドロビンによりリクエストが複数のストレージデバイスに分散されていたところ、本実施形態では、上述した処理方式を全てのメッセージキュー制御部310a、310bに適用するので、それだけでは特定のストレージデバイス(特定のメッセージデータ情報)にリクエストが集中することも考えられる。しかしながら、本実施形態では、各メッセージキュー制御部310a、310bgメッセージデータ情報サマリを取得する時刻が異なる。そのため、同じストレージデバイスのメッセージデータ情報であっても各メッセージキュー制御部310a、310bの間で異なる情報となる。さらに、本実施形態の式(1)では、取得されるメッセージデータのみを考慮し、追加されるデータは考慮せずに、ストレージデバイス330a、330bの順位を決定している。本実施形態の手法では、メッセージデータ情報サマリの取得時刻が古いほど、高優先度メッセージデータを取得できる確率が小さくなる。これにおり、特定のストレージデバイスにリクエストが集中するのを抑制することが可能となっている。すなわち、情報取得時刻のばらつきを利用してリクエストの集中を抑制している。
以上説明した本実施形態は以下のように整理することができる。
本実施形態によるデータストア装置(メッセージキューサーバ300a、300b)は、複数の記憶装置(ストレージデバイス330a、330b)と、データを受信して記憶装置に格納し、データ取得要求を受けて記憶装置からデータを取得して送信するデータ制御部(メッセージキュー制御部310a、310b)と、を有している。データ制御部は、複数の記憶装置のそれぞれに格納されているデータに関する格納状況情報(メッセージデータ情報サマリ)に基づいて、データ取得要求にかかるデータを検索する対象の記憶装置を選択する。複数の記憶装置によるデータストア装置において、各記憶装置のデータに関する格納状況に基づいて、どの記憶装置からデータを取得するかを判断するので、良好なデータの配送を行うことができる。
また、そのデータにはそれぞれ優先度が付与され、格納状況情報は、複数の記憶装置のそれぞれに格納されている優先度毎のデータのデータ数に関する優先度毎格納状況情報を含み、データ制御部は、優先度の高いデータを取得できる可能性の高い記憶装置を選択する。優先度毎にどれだけデータが格納されているかを考慮し、優先度の高いデータを取得できる記憶装置を選択するので、優先度を考慮して良好なデータ配信を行うことができる。
また、データ制御部が複数あり、複数のデータ制御部は、複数の記憶装置にデータを格納し、複数の記憶装置からデータを取得することが可能であり、複数のデータ制御部がそれぞれに格納状況情報を保持し、複数のデータ制御部は、データ取得要求を受けると、それぞれの保持する格納状況情報を用いて、データを検索する記憶装置を選択する。複数のデータ制御部が複数の記憶装置を共有する構成において、格納状況情報に基づく適切な判断で良好なデータの配信を実現することができる。
また、格状況情報は、所定の時刻に取得された情報を含み、複数のデータ制御部は、同じ記憶装置に格納されているデータに関し、互いに依存しない時刻の格納状況情報を用いる。各データ制御部が異なる時刻の格納状況情報を用いることになるので、特定の記憶装置にデータの検索が集中するのを緩和することができる。
また、格納状況情報には、優先度毎格納状況情報が取得された時刻に関する時刻情報が含まれており、データ制御部は、優先度毎格納状況情報とその優先度毎格納状況情報が取得された時刻に関する時刻情報とに基づいて、データを検索する記憶装置を選択する。時刻の情報を含む優先度とデータ数との関係に基づいて、データを検索する記憶装置を選択するので、時間の経過も考慮して良好なデータの配送を行うことができる。
また、データ制御部は、時刻情報に基づいて、現在時刻の優先度とデータ数の関係を予測し、予測結果に基づいて、データを検索する記憶装置を選択する。現在時刻のデータの状態を予測してデータを検索する記憶装置を選択するので、高い精度で良好なデータの配信を行うことができる。
また、データ制御部は、現在時刻と時刻情報が示す時刻との差分と、単位時間に取得されるデータ数の平均値との積を、時刻情報が示す時刻における優先度毎のデータ数から減算して、現在時刻の優先度とデータ数の関係を予測する。現在時刻と時刻情報が示す時刻との差分と、単位時間に取得されるデータ数の平均値との積を用いることにより、現在時刻の優先度とデータ数の関係を予測できるので、現在時刻の状態を良好に予測し、高い精度で良好なデータの配信を行うことができる。
また、単位時間に取得されるデータ数の平均値は、1つのデータ制御部の単位時間に記憶装置から取得するデータ数の平均値と、データ制御部の個数との積である。単位時間に取得されるデータ数の平均値を算出し、それを予測に用いるので、より精度の高いデータを配信する。
上述した本発明の実施形態は、本発明の説明のための例示であり、本発明の範囲をそれらの実施形態にのみ限定する趣旨ではない。当業者は、本発明の要旨を逸脱することなしに、他の様々な態様で本発明を実施することができる。
100a…クライアント、100b…クライアント、110a…クライアントプログラム、110b…クライアントプログラム、200…ロードバランサー、300a…メッセージキューサーバ、300b…メッセージキューサーバ、310a…メッセージキュー制御部、310b…メッセージキュー制御部、311…リクエスト送受信部、312…統計情報操作部、313…メッセージデータ情報サマリ操作部、314…メッセージキュー設定レジストリ、315…レジストリ更新部、316…メッセージデータ情報操作部、317…統計情報レジストリ、318…メッセージデータ情報サマリレジストリ、319…メッセージデータ情報選択部、320a…分散データストア、320b…分散データストア、330a…ストレージデバイス、330b…ストレージデバイス、331…メッセージデータ情報サマリ、332a…メッセージデータ情報、332b…メッセージデータ情報、400…ロードバランサー、500a…サービス提供サーバ、500b…サービス提供サーバ、510a…サービス提供プログラム、510b…サービス提供プログラム

Claims (6)

  1. 複数の記憶装置と、
    データを受信して前記記憶装置に格納し、データ取得要求を受けて前記記憶装置からデータを取得して送信するデータ制御部と、を有し、
    前記データ制御部は、前記複数の記憶装置のそれぞれに格納されている前記データに関する格納状況情報に基づいて、前記データ取得要求にかかるデータを検索する対象の記憶装置を選択する、
    データストア装置であって、
    前記データにはそれぞれ優先度が付与され、
    前記格納状況情報は、前記複数の記憶装置のそれぞれに格納されている優先度毎のデータのデータ数に関する優先度毎格納状況情報と、前記優先度毎格納状況情報が取得された時刻に関する時刻情報とを含み、
    前記データ制御部は、前記優先度毎格納状況情報と該優先度毎格納状況情報が取得された時刻に関する時刻情報とに基づいて、現在時刻の優先度とデータ数の関係を予測し、予測結果に基づいて、前記データを検索する記憶装置として、優先度の高いデータを取得できる可能性の高い記憶装置を選択する、
    データストア装置。
  2. 前記データ制御部が複数あり、
    前記複数のデータ制御部は、前記複数の記憶装置にデータを格納し、前記複数の記憶装置からデータを取得することが可能であり、
    前記複数のデータ制御部がそれぞれに前記格納状況情報を保持し、
    前記複数のデータ制御部は、前記データ取得要求を受けると、それぞれの保持する前記格納状況情報を用いて、前記データを検索する記憶装置を選択する、
    請求項1に記載のデータストア装置。
  3. 前記格納状況情報は、所定の時刻に取得された情報を含み、
    前記複数のデータ制御部は、同じ記憶装置に格納されているデータに関し、互いに依存しない時刻の格納状況情報を用いる、
    請求項に記載のデータストア装置。
  4. 前記データ制御部は、現在時刻と前記時刻情報が示す時刻との差分と、単位時間に取得されるデータ数の平均値との積を、前記時刻情報が示す時刻における優先度毎のデータ数から減算して、現在時刻の優先度とデータ数の関係を予測する、請求項に記載のデータストア装置。
  5. 単位時間に取得されるデータ数の平均値は、1つの前記データ制御部の単位時間に前記記憶装置から取得するデータ数の平均値と、前記データ制御部の個数との積である、請求項に記載のデータストア装置。
  6. 複数の記憶装置と、データを受信して前記記憶装置に格納し、データ取得要求を受けて前記記憶装置からデータを取得して送信するデータ制御部と、を有するデータストア装置におけるデータ管理方法であって、
    前記データ制御部が、前記複数の記憶装置のそれぞれに格納されている前記データに関する格納状況情報を取得し、
    前記データ制御部が、前記格納状況情報に基づいて、前記データ取得要求にかかるデータを検索する対象の記憶装置を選択するものにおいて
    前記データにはそれぞれ優先度が付与され、
    前記格納状況情報は、前記複数の記憶装置のそれぞれに格納されている優先度毎のデータのデータ数に関する優先度毎格納状況情報と、前記優先度毎格納状況情報が取得された時刻に関する時刻情報とを含み、
    前記データ制御部は、前記優先度毎格納状況情報と該優先度毎格納状況情報が取得された時刻に関する時刻情報とに基づいて、現在時刻の優先度とデータ数の関係を予測し、予測結果に基づいて、前記データを検索する記憶装置として、優先度の高いデータを取得できる可能性の高い記憶装置を選択する、
    データ管理方法。
JP2016162367A 2016-08-23 2016-08-23 データストア装置およびデータ管理方法 Active JP6793498B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016162367A JP6793498B2 (ja) 2016-08-23 2016-08-23 データストア装置およびデータ管理方法
US16/327,921 US10684901B2 (en) 2016-08-23 2017-08-10 Data store device and data management method
PCT/JP2017/029032 WO2018037930A1 (ja) 2016-08-23 2017-08-10 データストア装置およびデータ管理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016162367A JP6793498B2 (ja) 2016-08-23 2016-08-23 データストア装置およびデータ管理方法

Publications (2)

Publication Number Publication Date
JP2018032115A JP2018032115A (ja) 2018-03-01
JP6793498B2 true JP6793498B2 (ja) 2020-12-02

Family

ID=61245825

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016162367A Active JP6793498B2 (ja) 2016-08-23 2016-08-23 データストア装置およびデータ管理方法

Country Status (3)

Country Link
US (1) US10684901B2 (ja)
JP (1) JP6793498B2 (ja)
WO (1) WO2018037930A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109347842A (zh) * 2018-10-26 2019-02-15 深圳点猫科技有限公司 一种用于教育系统的数据采集方法及装置
JP7351679B2 (ja) * 2019-09-04 2023-09-27 株式会社日立製作所 計算機、データ制御方法及びデータストアシステム
US11836548B2 (en) * 2020-02-19 2023-12-05 T-Mobile Usa, Inc. Smart event monitoring of IoT devices using message queue
CN111444146B (zh) * 2020-03-27 2023-05-16 中核武汉核电运行技术股份有限公司 一种核电机组dcs数据采集与存储方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3120963B2 (ja) * 1995-12-14 2000-12-25 株式会社日立製作所 メッセージを転送する方法およびメッセージを転送するシステム
JP4176902B2 (ja) * 1999-03-05 2008-11-05 三菱電機株式会社 シミュレーション装置
US8996707B2 (en) * 2007-09-28 2015-03-31 Alcatel Lucent Method and apparatus for performing load balancing for a control plane of a mobile communication network
WO2012172588A1 (ja) * 2011-06-13 2012-12-20 株式会社日立製作所 リクエスト振分け計算機、リクエスト振分け方法及びプログラム
US20150236974A1 (en) * 2013-04-26 2015-08-20 Hitachi, Ltd. Computer system and load balancing method
JP6518411B2 (ja) 2014-07-04 2019-05-22 株式会社日立製作所 キューサーバ
US10225332B2 (en) * 2016-03-25 2019-03-05 International Business Machines Corporation Sharing a data management policy with a load balancer

Also Published As

Publication number Publication date
WO2018037930A1 (ja) 2018-03-01
JP2018032115A (ja) 2018-03-01
US20190227859A1 (en) 2019-07-25
US10684901B2 (en) 2020-06-16

Similar Documents

Publication Publication Date Title
US10491702B2 (en) Proxy-based cache content distribution and affinity
US8271987B1 (en) Providing access to tasks that are available to be performed
US11057461B2 (en) Scalable peer matching
US10044797B2 (en) Load balancing of distributed services
JP6793498B2 (ja) データストア装置およびデータ管理方法
CN108881348B (zh) 服务质量控制方法、装置和存储服务器
WO2016074323A1 (zh) 内容分发网络的http调度系统和方法
US10270849B2 (en) Scalable peer matching
CN108023953B (zh) Ftp服务的高可用实现方法和装置
WO2017101366A1 (zh) Cdn服务节点的调度方法及服务器
US8868756B1 (en) Sticky routing
CN107451853B (zh) 一种红包实时派发的方法、装置、系统及存储介质
JP2012510111A5 (ja)
US11347550B1 (en) Autoscaling and throttling in an elastic cloud service
JP5957965B2 (ja) 仮想化システム、負荷分散装置、負荷分散方法、及び負荷分散プログラム
CN114338695A (zh) 基于多副本的领导者选举方法、装置、设备及存储介质
US11381657B2 (en) Enhanced file sharing systems and methods
KR101131787B1 (ko) 캐시서버에 저장된 데이터 갱신방법, 그 캐시서버 및 컨텐츠 제공시스템
US10812390B2 (en) Intelligent load shedding of traffic based on current load state of target capacity
US11995469B2 (en) Method and system for preemptive caching across content delivery networks
JP5690287B2 (ja) 負荷分散プログラムおよび負荷分散装置
US20140278924A1 (en) Selectively altering requests based on comparison of potential value of requests

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190723

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201110

R150 Certificate of patent or registration of utility model

Ref document number: 6793498

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150