JP2015153123A - アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 - Google Patents
アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 Download PDFInfo
- Publication number
- JP2015153123A JP2015153123A JP2014026056A JP2014026056A JP2015153123A JP 2015153123 A JP2015153123 A JP 2015153123A JP 2014026056 A JP2014026056 A JP 2014026056A JP 2014026056 A JP2014026056 A JP 2014026056A JP 2015153123 A JP2015153123 A JP 2015153123A
- Authority
- JP
- Japan
- Prior art keywords
- data
- access
- partition
- data group
- accessed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 61
- 238000003860 storage Methods 0.000 claims abstract description 93
- 230000008859 change Effects 0.000 claims abstract description 21
- 238000012545 processing Methods 0.000 claims description 66
- 238000005192 partition Methods 0.000 description 247
- 238000007726 management method Methods 0.000 description 85
- 230000008569 process Effects 0.000 description 31
- 238000013500 data storage Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 16
- 238000000638 solvent extraction Methods 0.000 description 15
- 230000004044 response Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 6
- 238000012790 confirmation Methods 0.000 description 5
- 238000013461 design Methods 0.000 description 5
- 238000009826 distribution Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000008521 reorganization Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000725 suspension Substances 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/278—Data partitioning, e.g. horizontal or vertical partitioning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
Abstract
【解決手段】アクセス制御装置10は、取得手段11と変更手段12とを有する。取得手段11は、複数のアクセス装置2,3からアクセスされるストレージ装置1内のデータを複数のデータグループに分け、データグループごとに、該データグループに属するデータへのアクセス頻度を取得する。変更手段12は、複数のデータグループそれぞれのアクセス頻度に基づいて、複数のアクセス装置2,3それぞれがアクセス対象とするデータグループのアクセス頻度の合計の差が小さくなるように、複数のアクセス装置2,3それぞれがアクセス対象とするデータグループの定義を変更する。
【選択図】図1
Description
〔第1の実施の形態〕
図1は、第1の実施の形態のシステム構成例を示す図である。第1の実施の形態に係るシステムには、ストレージ装置1、複数のアクセス装置2,3、およびアクセス制御装置10が含まれる。
〔第2の実施の形態〕
次に第2の実施の形態について説明する。第2の実施の形態は、複数のストレージ装置に格納されているデータに複数のデータベースサーバでアクセスする際に、複数のデータベースサーバのアクセス負荷の均等化を図るものである。なお、第2の実施の形態における負荷の均等化とは、負荷の差を小さくすることであり、最終的に負荷に多少の差が出ることは許容される。
図3は、第2の実施の形態に用いるデータベースサーバのハードウェアの一構成例を示す図である。データベースサーバ100は、プロセッサ101によって装置全体が制御されている。プロセッサ101には、バス109を介してメモリ102と複数の周辺機器が接続されている。プロセッサ101は、マルチプロセッサであってもよい。プロセッサ101は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)、またはDSP(Digital Signal Processor)である。プロセッサ101がプログラムを実行することで実現する機能の少なくとも一部を、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)などの電子回路で実現してもよい。
図4は、パーティショニングの一例を示す図である。端末装置41,42,・・・は、ユーザからの操作に応じて、いずれかのアプリケーションサーバ31〜34に処理要求を送信する。アプリケーションサーバ31〜34は、処理要求時に応じた処理の実行過程でデータベース50内のデータを利用する処理が発生すると、いずれかのデータベースサーバ100,200に、利用するデータのアクセス要求を送信する。
図6は、パーティションの作成処理の一例を示す図である。各データグループのアクセス数がデータベースサーバ100,200で統計情報62として採取され、保持される。そしてデータベースサーバ100,200のいずれかが、パーティション作成処理を行う。パーティション作成処理では、アクセス量が均一になるようにデータグループの組み合わせ(データグループ集合)が決定される。例えばデータグループが、アクセス数で降順にソートされる。その後、例えば、アクセス数が上位のデータグループと、下位のデータグループとを組み合わせたデータグループ集合が作成される。またアクセス数が平均的な複数のデータグループを組み合わせたデータグループ集合が作成される。そして、各データグループ集合にパーティション63,64が対応付けられる。
図9は、データベースサーバの機能を示すブロック図である。データベースサーバ100は、アクセス部110とパーティション管理部120とを有する。アクセス部110は、アプリケーションサーバ31,32からのアクセス要求に応じて、ストレージ装置300,400にアクセスする。アクセス部110は、統計情報記憶部111、要求処理部112、およびデーモン113を有する。
図10は、統計情報記憶部のデータ構造の一例を示す図である。統計情報記憶部111には、統計情報管理テーブル111aが格納されている。統計情報管理テーブル111aには、ネットワーク20a,20bを介した通信のコネクションごとの統計情報が登録されている。統計情報管理テーブル111aには、コネクション、接続時刻、データグループ、レコード参照回数、およびレコード更新回数の欄が設けられている。コネクションの欄には、接続されたコネクションの識別子(コネクションID)が設定される。接続時刻の欄には、コネクションの接続が確立した時刻が設定される。データグループの欄には、コネクションを介して受信したアクセス要求に基づいてアクセスしたデータが属するデータグループの名称(データグループ名)が設定される。レコード参照回数の欄には、対応するデータグループ内のレコードの参照回数が設定される。レコード更新回数の欄には、対応するデータグループ内のレコードの更新回数が設定される。
図11は、メタデータ内の情報の一例を示す図である。メタデータ340には、パーティション管理テーブル341、分類基準カラム情報342、およびデータグループ情報テーブル343が含まれている。
図12は、パーティション作成処理の手順の一例を示すフローチャートである。
[ステップS101]パーティション管理部120は、端末装置41からのパーティション分割指示に応答し、パーティション管理部120は、統計情報を集計する。例えばパーティション管理部120は、各データベースサーバ100,200のアクセス部110,210内の統計情報記憶部111,211から統計情報を取得する。そしてパーティション管理部120は、取得した統計情報に基づいて、データグループごとに、アクセス量を計算する。アクセス量は、データグループに対応するレコード参照回数とレコード更新回数との合計である。
[ステップS104]パーティション管理部120は、新たに決定したパーティションの構成内容に合わせて、メタデータ340を更新する。
[ステップS106]パーティション管理部120は、選択したパーティションの構成に変更があるか否かを判断する。構成に変更があれば、処理がステップS107に進められる。構成に変更がなければ、処理がステップS108に進められる。
図13は、パーティション構成の決定例を示す図である。パーティションを構成するデータグループを決定する場合、図13に示すように、アクセス量でソートされたデータグループリスト80が用いられる。
図14は、パーティション構成決定処理の手順の一例を示すフローチャートである。
[ステップS121]パーティション管理部120は、各パーティションの現状のデータグループの組み合わせを確認する。この処理の詳細は後述する(図14参照)。
図15は、現状組み合わせ確認処理の手順の一例を示すフローチャートである。
[ステップS131]パーティション管理部120は、現状のパーティションを1つ選択する。例えばパーティション管理部120は、メタデータ340内のパーティション管理テーブル341を取得し、メモリ102上に展開する。次にパーティション管理部120は、展開したパーティション管理テーブルに組み合わせ決定フラグ欄を追加して、現状パーティション情報とする。そしてパーティション管理部120は、現状パーティション情報の上位から順に、パーティションを1つずつ選択し、以下のステップS132〜S135の処理を行う。
図18は、新規組み合わせ作成処理の手順の一例を示す図である。
[ステップS141]パーティション管理部120は、データグループの組み合わせが決定していないパーティションを1つ選択する。例えばパーティション管理部120は、現状パーティション情報81を参照し、決定済フラグが設定されていないパーティションの1つを選択する。
[ステップS145]パーティション管理部120は、選択したデータグループのアクセス量の合計値が、平均値以下か否かを判断する。合計値が平均値以下であれば、処理がステップS143に進められ、新たなデータグループの選択が行われる。また合計値が平均値より大きければ、処理がステップS146に進められる。
1a データ領域
1b 管理情報
2,3 アクセス装置
2a,3a アクセス頻度記憶手段
10 アクセス制御装置
11 取得手段
12 変更手段
Claims (5)
- コンピュータに、
複数のアクセス装置からアクセスされるストレージ装置内のデータを複数のデータグループに分け、データグループごとの、該データグループに属するデータへのアクセス頻度を取得し、
複数のデータグループそれぞれのアクセス頻度に基づいて、前記複数のアクセス装置それぞれがアクセス対象とするデータグループのアクセス頻度の合計の差が小さくなるように、前記複数のアクセス装置それぞれがアクセス対象とするデータグループの定義を変更する、
処理を実行させるアクセス制御プログラム。 - アクセス装置に対応付けて、該アクセス装置がアクセス対象とする1以上のデータグループが設定されていると共に、データグループに対応付けて、該データグループに属するデータを格納する記憶領域を示す情報が設定されており、
定義の変更の際には、データグループに対応付けられた記憶領域を示す情報を維持したまま、アクセス装置に対応付けて設定されている、該アクセス装置がアクセス対象とするデータグループの構成を変更することを特徴とする請求項1記載のアクセス制御プログラム。 - 定義の変更の際には、前記複数のアクセス装置それぞれが行ったデータアクセスのアクセス頻度の平均値を求め、アクセス頻度が該平均値から所定の範囲内のアクセス装置については、アクセス対象とするデータグループの変更を抑止することを特徴とする請求項1または2記載のアクセス制御プログラム。
- コンピュータが、
複数のアクセス装置からアクセスされるストレージ装置内のデータを複数のデータグループに分け、データグループごとの、該データグループに属するデータへのアクセス頻度を取得し、
複数のデータグループそれぞれのアクセス頻度に基づいて、前記複数のアクセス装置それぞれがアクセス対象とするデータグループのアクセス頻度の合計の差が小さくなるように、前記複数のアクセス装置それぞれがアクセス対象とするデータグループの定義を変更する、
アクセス制御方法。 - 複数のアクセス装置からアクセスされるストレージ装置内のデータを複数のデータグループに分け、データグループごとの、該データグループに属するデータへのアクセス頻度を取得する取得手段と、
複数のデータグループそれぞれのアクセス頻度に基づいて、前記複数のアクセス装置それぞれがアクセス対象とするデータグループのアクセス頻度の合計の差が小さくなるように、前記複数のアクセス装置それぞれがアクセス対象とするデータグループの定義を変更する変更手段と、
を有するアクセス制御装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014026056A JP6269140B2 (ja) | 2014-02-14 | 2014-02-14 | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 |
US14/612,378 US10102267B2 (en) | 2014-02-14 | 2015-02-03 | Method and apparatus for access control |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014026056A JP6269140B2 (ja) | 2014-02-14 | 2014-02-14 | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015153123A true JP2015153123A (ja) | 2015-08-24 |
JP6269140B2 JP6269140B2 (ja) | 2018-01-31 |
Family
ID=53798364
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014026056A Expired - Fee Related JP6269140B2 (ja) | 2014-02-14 | 2014-02-14 | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10102267B2 (ja) |
JP (1) | JP6269140B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3879768A1 (en) | 2020-03-13 | 2021-09-15 | Fujitsu Limited | Information processing device that processes write request and transmission control method |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10387374B2 (en) * | 2015-02-27 | 2019-08-20 | Exagrid Systems, Inc. | Scalable grid deduplication |
US10168941B2 (en) * | 2016-02-19 | 2019-01-01 | International Business Machines Corporation | Historical state snapshot construction over temporally evolving data |
KR20180046078A (ko) * | 2016-10-27 | 2018-05-08 | 삼성에스디에스 주식회사 | 데이터베이스 리밸런싱 방법 |
EP4131016A1 (en) * | 2021-08-03 | 2023-02-08 | Amadeus S.A.S. | Statistics-based dynamic database partitions |
US11941002B1 (en) | 2022-03-31 | 2024-03-26 | Amazon Technologies, Inc. | Dynamically sort data |
CN118170763A (zh) * | 2024-03-25 | 2024-06-11 | 北京力控元通科技有限公司 | 数据存储方法、装置、设备、存储介质及程序产品 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06139119A (ja) * | 1992-10-28 | 1994-05-20 | Hitachi Ltd | データベース管理システムおよびデータベース管理方法 |
JPH09218858A (ja) * | 1996-02-14 | 1997-08-19 | Hitachi Ltd | 分散型データベース管理システム |
JP2006221513A (ja) * | 2005-02-14 | 2006-08-24 | Hitachi Ltd | 計算機システムにおけるデータ配置設定 |
JP2011215688A (ja) * | 2010-03-31 | 2011-10-27 | Mizuho Information & Research Institute Inc | データベースアクセスシステム及び方法 |
JP2014026529A (ja) * | 2012-07-27 | 2014-02-06 | Fujitsu Ltd | ストレージシステムおよびその制御方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5765204A (en) * | 1996-06-05 | 1998-06-09 | International Business Machines Corporation | Method and apparatus for adaptive localization of frequently accessed, randomly addressed data |
US6070191A (en) * | 1997-10-17 | 2000-05-30 | Lucent Technologies Inc. | Data distribution techniques for load-balanced fault-tolerant web access |
JP4199888B2 (ja) | 1999-11-15 | 2008-12-24 | 株式会社日立製作所 | データベース管理方法 |
US8510528B2 (en) * | 2010-12-29 | 2013-08-13 | Teradata Us, Inc. | Differential data storage based on predicted access frequency |
JP5573737B2 (ja) * | 2011-03-17 | 2014-08-20 | 富士通株式会社 | 情報処理プログラム、情報処理装置、及び情報処理方法 |
US9501426B1 (en) * | 2013-02-08 | 2016-11-22 | Workday, Inc. | Dynamic two-tier data storage utilization |
-
2014
- 2014-02-14 JP JP2014026056A patent/JP6269140B2/ja not_active Expired - Fee Related
-
2015
- 2015-02-03 US US14/612,378 patent/US10102267B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06139119A (ja) * | 1992-10-28 | 1994-05-20 | Hitachi Ltd | データベース管理システムおよびデータベース管理方法 |
JPH09218858A (ja) * | 1996-02-14 | 1997-08-19 | Hitachi Ltd | 分散型データベース管理システム |
JP2006221513A (ja) * | 2005-02-14 | 2006-08-24 | Hitachi Ltd | 計算機システムにおけるデータ配置設定 |
JP2011215688A (ja) * | 2010-03-31 | 2011-10-27 | Mizuho Information & Research Institute Inc | データベースアクセスシステム及び方法 |
JP2014026529A (ja) * | 2012-07-27 | 2014-02-06 | Fujitsu Ltd | ストレージシステムおよびその制御方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3879768A1 (en) | 2020-03-13 | 2021-09-15 | Fujitsu Limited | Information processing device that processes write request and transmission control method |
US11646901B2 (en) | 2020-03-13 | 2023-05-09 | Fujitsu Limited | Information processing device that processes write request and transmission control method |
Also Published As
Publication number | Publication date |
---|---|
US20150235038A1 (en) | 2015-08-20 |
US10102267B2 (en) | 2018-10-16 |
JP6269140B2 (ja) | 2018-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6269140B2 (ja) | アクセス制御プログラム、アクセス制御方法、およびアクセス制御装置 | |
US9740706B2 (en) | Management of intermediate data spills during the shuffle phase of a map-reduce job | |
CN106030573B (zh) | 半结构化数据作为第一等级数据库元素的实现 | |
US10180807B2 (en) | Method and system for consolidating a plurality of heterogeneous storage systems in a data center | |
JP5932043B2 (ja) | 不揮発性記憶装置セットの揮発メモリ表現 | |
US10356150B1 (en) | Automated repartitioning of streaming data | |
US20100125715A1 (en) | Storage System and Operation Method Thereof | |
US20150128150A1 (en) | Data processing method and information processing apparatus | |
US20160364407A1 (en) | Method and Device for Responding to Request, and Distributed File System | |
US10254993B2 (en) | Selecting first data sets in a first storage group to swap with second data sets in a second storage group | |
US9323791B2 (en) | Apparatus and method for expanding a shared-nothing system | |
JP2007042034A (ja) | 計算機システム、管理計算機及び論理記憶領域の管理方法 | |
US8904144B1 (en) | Methods and systems for determining at risk index for storage capacity | |
US20100082546A1 (en) | Storage Tiers for Database Server System | |
CN106570113B (zh) | 一种海量矢量切片数据云存储方法及系统 | |
US20130007091A1 (en) | Methods and apparatuses for storing shared data files in distributed file systems | |
JP2005234834A (ja) | 論理ボリュームの再配置方法 | |
JP2012168781A (ja) | 分散型データストアシステム及び分散型データストアシステムにおけるレコード管理方法 | |
US7447863B2 (en) | Storage resource management system, method, and computer for dividing volumes based on priority, necessary capacity and volume characteristics | |
US11023354B2 (en) | Hyper-converged infrastructure (HCI) log system | |
JP6823626B2 (ja) | データベース管理システム及び方法 | |
US11429311B1 (en) | Method and system for managing requests in a distributed system | |
JP6272556B2 (ja) | 共有リソース更新装置及び共有リソース更新方法 | |
CN114297196A (zh) | 元数据存储方法、装置、电子设备及存储介质 | |
KR101378348B1 (ko) | 프라이빗 클라우드 인프라 기반 하둡 클러스터의 기본 프로토타입 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170704 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170904 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6269140 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |