JP6269140B2 - アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 - Google Patents
アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 Download PDFInfo
- Publication number
- JP6269140B2 JP6269140B2 JP2014026056A JP2014026056A JP6269140B2 JP 6269140 B2 JP6269140 B2 JP 6269140B2 JP 2014026056 A JP2014026056 A JP 2014026056A JP 2014026056 A JP2014026056 A JP 2014026056A JP 6269140 B2 JP6269140 B2 JP 6269140B2
- Authority
- JP
- Japan
- Prior art keywords
- access
- data
- partition
- data group
- devices
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/278—Data partitioning, e.g. horizontal or vertical partitioning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
Description
〔第1の実施の形態〕
図1は、第1の実施の形態のシステム構成例を示す図である。第1の実施の形態に係るシステムには、ストレージ装置1、複数のアクセス装置2,3、およびアクセス制御装置10が含まれる。
〔第2の実施の形態〕
次に第2の実施の形態について説明する。第2の実施の形態は、複数のストレージ装置に格納されているデータに複数のデータベースサーバでアクセスする際に、複数のデータベースサーバのアクセス負荷の均等化を図るものである。なお、第2の実施の形態における負荷の均等化とは、負荷の差を小さくすることであり、最終的に負荷に多少の差が出ることは許容される。
図3は、第2の実施の形態に用いるデータベースサーバのハードウェアの一構成例を示す図である。データベースサーバ100は、プロセッサ101によって装置全体が制御されている。プロセッサ101には、バス109を介してメモリ102と複数の周辺機器が接続されている。プロセッサ101は、マルチプロセッサであってもよい。プロセッサ101は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)、またはDSP(Digital Signal Processor)である。プロセッサ101がプログラムを実行することで実現する機能の少なくとも一部を、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)などの電子回路で実現してもよい。
図4は、パーティショニングの一例を示す図である。端末装置41,42,・・・は、ユーザからの操作に応じて、いずれかのアプリケーションサーバ31〜34に処理要求を送信する。アプリケーションサーバ31〜34は、処理要求時に応じた処理の実行過程でデータベース50内のデータを利用する処理が発生すると、いずれかのデータベースサーバ100,200に、利用するデータのアクセス要求を送信する。
図6は、パーティションの作成処理の一例を示す図である。各データグループのアクセス数がデータベースサーバ100,200で統計情報62として採取され、保持される。そしてデータベースサーバ100,200のいずれかが、パーティション作成処理を行う。パーティション作成処理では、アクセス量が均一になるようにデータグループの組み合わせ(データグループ集合)が決定される。例えばデータグループが、アクセス数で降順にソートされる。その後、例えば、アクセス数が上位のデータグループと、下位のデータグループとを組み合わせたデータグループ集合が作成される。またアクセス数が平均的な複数のデータグループを組み合わせたデータグループ集合が作成される。そして、各データグループ集合にパーティション63,64が対応付けられる。
図9は、データベースサーバの機能を示すブロック図である。データベースサーバ100は、アクセス部110とパーティション管理部120とを有する。アクセス部110は、アプリケーションサーバ31,32からのアクセス要求に応じて、ストレージ装置300,400にアクセスする。アクセス部110は、統計情報記憶部111、要求処理部112、およびデーモン113を有する。
図10は、統計情報記憶部のデータ構造の一例を示す図である。統計情報記憶部111には、統計情報管理テーブル111aが格納されている。統計情報管理テーブル111aには、ネットワーク20a,20bを介した通信のコネクションごとの統計情報が登録されている。統計情報管理テーブル111aには、コネクション、接続時刻、データグループ、レコード参照回数、およびレコード更新回数の欄が設けられている。コネクションの欄には、接続されたコネクションの識別子(コネクションID)が設定される。接続時刻の欄には、コネクションの接続が確立した時刻が設定される。データグループの欄には、コネクションを介して受信したアクセス要求に基づいてアクセスしたデータが属するデータグループの名称(データグループ名)が設定される。レコード参照回数の欄には、対応するデータグループ内のレコードの参照回数が設定される。レコード更新回数の欄には、対応するデータグループ内のレコードの更新回数が設定される。
図11は、メタデータ内の情報の一例を示す図である。メタデータ340には、パーティション管理テーブル341、分類基準カラム情報342、およびデータグループ情報テーブル343が含まれている。
図12は、パーティション作成処理の手順の一例を示すフローチャートである。
[ステップS101]パーティション管理部120は、端末装置41からのパーティション分割指示に応答し、パーティション管理部120は、統計情報を集計する。例えばパーティション管理部120は、各データベースサーバ100,200のアクセス部110,210内の統計情報記憶部111,211から統計情報を取得する。そしてパーティション管理部120は、取得した統計情報に基づいて、データグループごとに、アクセス量を計算する。アクセス量は、データグループに対応するレコード参照回数とレコード更新回数との合計である。
[ステップS104]パーティション管理部120は、新たに決定したパーティションの構成内容に合わせて、メタデータ340を更新する。
[ステップS106]パーティション管理部120は、選択したパーティションの構成に変更があるか否かを判断する。構成に変更があれば、処理がステップS107に進められる。構成に変更がなければ、処理がステップS108に進められる。
図13は、パーティション構成の決定例を示す図である。パーティションを構成するデータグループを決定する場合、図13に示すように、アクセス量でソートされたデータグループリスト80が用いられる。
図14は、パーティション構成決定処理の手順の一例を示すフローチャートである。
[ステップS121]パーティション管理部120は、各パーティションの現状のデータグループの組み合わせを確認する。この処理の詳細は後述する(図15参照)。
図15は、現状組み合わせ確認処理の手順の一例を示すフローチャートである。
[ステップS131]パーティション管理部120は、現状のパーティションを1つ選択する。例えばパーティション管理部120は、メタデータ340内のパーティション管理テーブル341を取得し、メモリ102上に展開する。次にパーティション管理部120は、展開したパーティション管理テーブルに組み合わせ決定フラグ欄を追加して、現状パーティション情報とする。そしてパーティション管理部120は、現状パーティション情報の上位から順に、パーティションを1つずつ選択し、以下のステップS132〜S135の処理を行う。
図18は、新規組み合わせ作成処理の手順の一例を示す図である。
[ステップS141]パーティション管理部120は、データグループの組み合わせが決定していないパーティションを1つ選択する。例えばパーティション管理部120は、現状パーティション情報81を参照し、決定済フラグが設定されていないパーティションの1つを選択する。
[ステップS145]パーティション管理部120は、選択したデータグループのアクセス量の合計値が、平均値以下か否かを判断する。合計値が平均値以下であれば、処理がステップS143に進められ、新たなデータグループの選択が行われる。また合計値が平均値より大きければ、処理がステップS146に進められる。
1a データ領域
1b 管理情報
2,3 アクセス装置
2a,3a アクセス頻度記憶手段
10 アクセス制御装置
11 取得手段
12 変更手段
Claims (4)
- コンピュータに、
ストレージ装置内の複数のデータが複数のデータグループに分けられており、前記ストレージ装置に格納されたデータにアクセスする複数のアクセス装置それぞれと、該アクセス装置がアクセス対象とするデータグループとの対応関係が設定された管理情報に基づいて、前記ストレージ装置内のアクセス対象のデータグループに属するデータへのアクセスを行う前記複数のアクセス装置それぞれから、データグループごとの、該データグループに属するデータへのアクセス頻度を取得し、
前記複数のデータグループそれぞれのアクセス頻度に基づいて、前記複数のアクセス装置それぞれについて、該アクセス装置がアクセス対象とするデータグループそれぞれのアクセス頻度の合計値を計算し、
前記複数のアクセス装置それぞれについて計算したアクセス頻度の合計値の平均値を計算し、
前記平均値とアクセス頻度の合計値との差が所定範囲を超える複数の変更対象アクセス装置のアクセス対象のデータグループを組み合わせて、前記変更対象アクセス装置ごとに、アクセス頻度の合計が所定値以下となるデータグループの集合を生成し、
前記管理情報における、前記変更対象アクセス装置それぞれのアクセス対象のデータグループを、前記変更対象アクセス装置に対応する前記集合に含まれるデータグループに変更する、
処理を実行させるアクセス制御プログラム。 - アクセス頻度の合計値が前記平均値から所定範囲内のアクセス装置については、前記管理情報における、アクセス対象とするデータグループの変更を抑止することを特徴とする請求項1記載のアクセス制御プログラム。
- コンピュータが、
ストレージ装置内の複数のデータが複数のデータグループに分けられており、前記ストレージ装置に格納されたデータにアクセスする複数のアクセス装置それぞれと、該アクセス装置がアクセス対象とするデータグループとの対応関係が設定された管理情報に基づいて、前記ストレージ装置内のアクセス対象のデータグループに属するデータへのアクセスを行う前記複数のアクセス装置それぞれから、データグループごとの、該データグループに属するデータへのアクセス頻度を取得し、
前記複数のデータグループそれぞれのアクセス頻度に基づいて、前記複数のアクセス装置それぞれについて、該アクセス装置がアクセス対象とするデータグループそれぞれのアクセス頻度の合計値を計算し、
前記複数のアクセス装置それぞれについて計算したアクセス頻度の合計値の平均値を計算し、
前記平均値とアクセス頻度の合計値との差が所定範囲を超える複数の変更対象アクセス装置のアクセス対象のデータグループを組み合わせて、前記変更対象アクセス装置ごとに、アクセス頻度の合計が所定値以下となるデータグループの集合を生成し、
前記管理情報における、前記変更対象アクセス装置それぞれのアクセス対象のデータグループを、前記変更対象アクセス装置に対応する前記集合に含まれるデータグループに変更する、
アクセス制御方法。 - ストレージ装置内の複数のデータが複数のデータグループに分けられており、前記ストレージ装置に格納されたデータにアクセスする複数のアクセス装置それぞれと、該アクセス装置がアクセス対象とするデータグループとの対応関係が設定された管理情報に基づいて、前記ストレージ装置内のアクセス対象のデータグループに属するデータへのアクセスを行う前記複数のアクセス装置それぞれから、データグループごとの、該データグループに属するデータへのアクセス頻度を取得する取得手段と、
前記複数のデータグループそれぞれのアクセス頻度に基づいて、前記複数のアクセス装置それぞれについて、該アクセス装置がアクセス対象とするデータグループそれぞれのアクセス頻度の合計値を計算し、前記複数のアクセス装置それぞれについて計算したアクセス頻度の合計値の平均値を計算し、前記平均値とアクセス頻度の合計値との差が所定範囲を超える複数の変更対象アクセス装置のアクセス対象のデータグループを組み合わせて、前記変更対象アクセス装置ごとに、アクセス頻度の合計が所定値以下となるデータグループの集合を生成し、前記管理情報における、前記変更対象アクセス装置それぞれのアクセス対象のデータグループを、前記変更対象アクセス装置に対応する前記集合に含まれるデータグループに変更する変更手段と、
を有するアクセス制御装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014026056A JP6269140B2 (ja) | 2014-02-14 | 2014-02-14 | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 |
US14/612,378 US10102267B2 (en) | 2014-02-14 | 2015-02-03 | Method and apparatus for access control |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014026056A JP6269140B2 (ja) | 2014-02-14 | 2014-02-14 | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015153123A JP2015153123A (ja) | 2015-08-24 |
JP6269140B2 true JP6269140B2 (ja) | 2018-01-31 |
Family
ID=53798364
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014026056A Active JP6269140B2 (ja) | 2014-02-14 | 2014-02-14 | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10102267B2 (ja) |
JP (1) | JP6269140B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10387374B2 (en) | 2015-02-27 | 2019-08-20 | Exagrid Systems, Inc. | Scalable grid deduplication |
US10168941B2 (en) * | 2016-02-19 | 2019-01-01 | International Business Machines Corporation | Historical state snapshot construction over temporally evolving data |
KR20180046078A (ko) * | 2016-10-27 | 2018-05-08 | 삼성에스디에스 주식회사 | 데이터베이스 리밸런싱 방법 |
JP2021144571A (ja) | 2020-03-13 | 2021-09-24 | 富士通株式会社 | 情報処理装置、送信制御方法、および通信プログラム |
EP4131016A1 (en) * | 2021-08-03 | 2023-02-08 | Amadeus S.A.S. | Statistics-based dynamic database partitions |
US11941002B1 (en) | 2022-03-31 | 2024-03-26 | Amazon Technologies, Inc. | Dynamically sort data |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06139119A (ja) * | 1992-10-28 | 1994-05-20 | Hitachi Ltd | データベース管理システムおよびデータベース管理方法 |
JPH09218858A (ja) * | 1996-02-14 | 1997-08-19 | Hitachi Ltd | 分散型データベース管理システム |
US5765204A (en) * | 1996-06-05 | 1998-06-09 | International Business Machines Corporation | Method and apparatus for adaptive localization of frequently accessed, randomly addressed data |
US6070191A (en) * | 1997-10-17 | 2000-05-30 | Lucent Technologies Inc. | Data distribution techniques for load-balanced fault-tolerant web access |
JP4199888B2 (ja) | 1999-11-15 | 2008-12-24 | 株式会社日立製作所 | データベース管理方法 |
JP4579000B2 (ja) | 2005-02-14 | 2010-11-10 | 株式会社日立製作所 | 計算機システムにおけるデータ配置設定 |
JP2011215688A (ja) * | 2010-03-31 | 2011-10-27 | Mizuho Information & Research Institute Inc | データベースアクセスシステム及び方法 |
US8510528B2 (en) * | 2010-12-29 | 2013-08-13 | Teradata Us, Inc. | Differential data storage based on predicted access frequency |
JP5573737B2 (ja) * | 2011-03-17 | 2014-08-20 | 富士通株式会社 | 情報処理プログラム、情報処理装置、及び情報処理方法 |
JP2014026529A (ja) * | 2012-07-27 | 2014-02-06 | Fujitsu Ltd | ストレージシステムおよびその制御方法 |
US9501426B1 (en) * | 2013-02-08 | 2016-11-22 | Workday, Inc. | Dynamic two-tier data storage utilization |
-
2014
- 2014-02-14 JP JP2014026056A patent/JP6269140B2/ja active Active
-
2015
- 2015-02-03 US US14/612,378 patent/US10102267B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20150235038A1 (en) | 2015-08-20 |
JP2015153123A (ja) | 2015-08-24 |
US10102267B2 (en) | 2018-10-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9740706B2 (en) | Management of intermediate data spills during the shuffle phase of a map-reduce job | |
JP6269140B2 (ja) | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 | |
CN106030573B (zh) | 半结构化数据作为第一等级数据库元素的实现 | |
US9507800B2 (en) | Data management in distributed file systems | |
JP5932043B2 (ja) | 不揮発性記憶装置セットの揮発メモリ表現 | |
US10180807B2 (en) | Method and system for consolidating a plurality of heterogeneous storage systems in a data center | |
JP4733461B2 (ja) | 計算機システム、管理計算機及び論理記憶領域の管理方法 | |
US10866970B1 (en) | Range query capacity allocation | |
US10356150B1 (en) | Automated repartitioning of streaming data | |
US20100125715A1 (en) | Storage System and Operation Method Thereof | |
US20150128150A1 (en) | Data processing method and information processing apparatus | |
US10254993B2 (en) | Selecting first data sets in a first storage group to swap with second data sets in a second storage group | |
US8904144B1 (en) | Methods and systems for determining at risk index for storage capacity | |
US20100082546A1 (en) | Storage Tiers for Database Server System | |
US20130007091A1 (en) | Methods and apparatuses for storing shared data files in distributed file systems | |
US11836067B2 (en) | Hyper-converged infrastructure (HCI) log system | |
US20050229032A1 (en) | Method for rearranging logical volume | |
US20240004883A1 (en) | Data ingestion with spatial and temporal locality | |
JP2012168781A (ja) | 分散型データストアシステム及び分散型データストアシステムにおけるレコード管理方法 | |
JP6823626B2 (ja) | データベース管理システム及び方法 | |
US10862922B2 (en) | Server selection for optimized malware scan on NAS | |
US11429311B1 (en) | Method and system for managing requests in a distributed system | |
JPWO2016157492A1 (ja) | 共有リソース更新装置及び共有リソース更新方法 | |
KR101378348B1 (ko) | 프라이빗 클라우드 인프라 기반 하둡 클러스터의 기본 프로토타입 | |
US9870152B2 (en) | Management system and management method for managing data units constituting schemas of a database |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170704 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170630 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170904 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6269140 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |