JP2019109693A - データ管理装置、データ管理方法、およびプログラム - Google Patents
データ管理装置、データ管理方法、およびプログラム Download PDFInfo
- Publication number
- JP2019109693A JP2019109693A JP2017242030A JP2017242030A JP2019109693A JP 2019109693 A JP2019109693 A JP 2019109693A JP 2017242030 A JP2017242030 A JP 2017242030A JP 2017242030 A JP2017242030 A JP 2017242030A JP 2019109693 A JP2019109693 A JP 2019109693A
- Authority
- JP
- Japan
- Prior art keywords
- data
- column
- record
- item
- data item
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013523 data management Methods 0.000 title claims abstract description 25
- 238000000034 method Methods 0.000 title claims description 18
- 238000006243 chemical reaction Methods 0.000 claims description 43
- 230000008569 process Effects 0.000 claims description 5
- 230000006870 function Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 10
- 238000007726 management method Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/221—Column-oriented storage; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
Abstract
Description
以下、フロントエンドインターフェース110の機能について説明する。フロントエンドインターフェース110の解釈部112は、フロントエンドサーバ20ごとに定義が異なるデータを、一つの共通する形式に変換する。図7は、解釈部112の機能について説明するための図である。ここでは、Markというユーザ名(name)を有するユーザの年齢(age)が30才であるというデータを示している。これに対し、図7の下図は、データベースサーバ100が扱うことのできる抽象化されたデータを模式的に示している。解釈部112は、図7に例示したように、フロントエンドサーバ20から取得されたデータ格納要求を解釈し、抽象化する処理を行って、データを変換部114に渡す。なお、stringやintは後述するデータ形式である。
変換部114は、同じデータ項目について、データ形式が異なるが、統合可能なデータ形式であるデータが入力された場合、これらをキャストして一つのカラムデータにしてもよい。統合可能なデータ形式とは、例えば、int(整数)とlong(桁の長い整数)の組、あるいはfloat(小数点表記)とdouble(桁の長い小数点表記)の組である。変換部114は、それぞれが互いに異なる数値型のデータ形式で定義された同じデータ項目に対応する二以上のカラムデータに関して、所望のタイミングで数値型のうち桁の多い方のデータ形式に揃えて一つのカラムデータを再構成する。
以下、データ利用者インターフェース120の機能について説明する。データ利用者インターフェース120は、例えば、データ利用者サーバ50からの要求に応じて、表形式のデータ(配列データ)を提供する。データ利用者サーバ50からの要求は、任意のデータ項目を指定して行われる。この際に、データ利用者インターフェース120は、指定されたデータ項目を含まないレコードに関しては、そのデータ項目に対応するデータを「null」(或いはブランクなど、「該当データ無し」を示す任意の形態であってよい)とした表形式のデータを生成してデータ利用者サーバ50に提供する。また、データ利用者インターフェース120は、指定されたデータ項目が既に管理されているデータ項目の中に無い場合、エラーを返すのではなく、そのデータ項目についてのデータを全て「null」(或いはブランクなど、「該当データ無し」を示す任意の形態であってよい)とした表形式のデータを生成してデータ利用者サーバ50に提供する。なお、データ利用者サーバ50からの要求は、例えば所定の拡張子を指定することで行われてよい。
20 フロントエンドサーバ
30 プロキシサーバ
50 データ利用者サーバ
100 データベースサーバ
110 フロントエンドインターフェース
112 解釈部
114 変換部
120 データ利用者インターフェース
150 記憶部
152 キャッシュメモリ
154 不揮発性メモリ
154A 列志向型データ
Claims (11)
- 入力されたレコードを解釈し、データ項目とデータ本体との対応関係が認識可能な抽象表現に変換する解釈部と、
前記データ項目ごとに、前記データ本体と前記レコードを特定可能なインデックス情報とを対応付けたデータセットを、カラムデータとして記憶部に記憶させる変換部と、
を備えるデータ管理装置。 - 前記変換部は、前記インデックス情報が列方向に連続しない場合でも、前記連続しないインデック情報を含むデータセットの間に空のメモリ領域を設けない、
請求項1記載のデータ管理装置。 - 前記変換部は、前記入力されたレコードを解釈した結果として得られるデータ項目が、前記記憶部に設定されていない場合、新たなデータ項目に対応するカラムデータを設定する、
請求項1または2記載のデータ管理装置。 - 前記変換部は、前記入力されたレコードが階層構造を含む場合、異なる階層のデータに基づくの前記カラムデータを異なるメモリ空間に格納すると共に、上位のカラムデータに下位のカラムデータの格納場所を示す情報を埋め込んで前記記憶部に記憶させる、
請求項1から3のうちいずれか1項記載のデータ管理装置。 - 前記変換部は、それぞれが互いに異なる数値型のデータ形式で定義された同じデータ項目に対応する二以上のカラムデータに関して、所望のタイミングで前記数値型のうち桁の多い方のデータ形式に揃えて一つのカラムデータを再構成する、
請求項1から4のうちいずれか1項記載のデータ管理装置。 - 少なくとも前記カラムデータに含まれるデータ本体を、入力されたデータ要求に含まれるデータ項目ごとに前記記憶部から読み出して出力するデータ利用者インターフェースを更に備える、
請求項1から5のうちいずれか1項記載のデータ管理装置。 - 前記データ利用者インターフェースは、指定されたデータ項目を含まないレコードに関しては、当該データ項目に対応するデータを、該当するデータが存在しないことを示す任意の形態のデータで埋める、
請求項6記載のデータ管理装置。 - 前記データ利用者インターフェースは、指定されたデータ項目が、前記カラムデータとして設定されていないデータ項目である場合、当該データ項目についてのデータを全て、該当するデータが存在しないことを示す任意の形態のデータで埋める、
請求項6または7記載のデータ管理装置。 - 前記データ利用者インターフェースは、所定のデータ項目におけるデータ本体が設定条件を満たすレコードを特定可能な情報を前記記憶部から読み出す要求を受け付け、前記所定のデータ項目のカラムデータに含まれるデータセットのデータ本体を順に検索し、データ本体が設定条件を満たすレコードを特定可能な情報を出力する、
請求項6から8のうちいずれか1項記載のデータ管理装置。 - コンピュータが、
入力されたレコードを解釈してデータ項目とデータ本体との対応関係が認識可能な抽象表現に変換し、
前記データ項目ごとに、前記データ本体と前記レコードを特定可能なインデックス情報とを対応付けたデータセットを、カラムデータとして記憶部に記憶させる、
データ管理方法。 - コンピュータに、
入力されたレコードを解釈させてデータ項目とデータ本体との対応関係が認識可能な抽象表現に変換させ、
前記データ項目ごとに、前記データ本体と前記レコードを特定可能なインデックス情報とを対応付けたデータセットを、カラムデータとして記憶部に記憶させる処理を行わせる、
プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017242030A JP6550448B2 (ja) | 2017-12-18 | 2017-12-18 | データ管理装置、データ管理方法、およびプログラム |
US16/021,716 US11487729B2 (en) | 2017-12-18 | 2018-06-28 | Data management device, data management method, and non-transitory computer readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017242030A JP6550448B2 (ja) | 2017-12-18 | 2017-12-18 | データ管理装置、データ管理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019109693A true JP2019109693A (ja) | 2019-07-04 |
JP6550448B2 JP6550448B2 (ja) | 2019-07-24 |
Family
ID=66814495
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017242030A Active JP6550448B2 (ja) | 2017-12-18 | 2017-12-18 | データ管理装置、データ管理方法、およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11487729B2 (ja) |
JP (1) | JP6550448B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11238409B2 (en) | 2017-09-29 | 2022-02-01 | Oracle International Corporation | Techniques for extraction and valuation of proficiencies for gap detection and remediation |
US20200097879A1 (en) * | 2018-09-25 | 2020-03-26 | Oracle International Corporation | Techniques for automatic opportunity evaluation and action recommendation engine |
JP2022503842A (ja) | 2018-09-27 | 2022-01-12 | オラクル・インターナショナル・コーポレイション | メトリックのデータ駆動型相関のための技術 |
US11467803B2 (en) | 2019-09-13 | 2022-10-11 | Oracle International Corporation | Identifying regulator and driver signals in data systems |
US11620284B2 (en) * | 2019-01-18 | 2023-04-04 | Inmoment Research, Llc | Backend data aggregation system and method |
CN110968585B (zh) * | 2019-12-20 | 2023-11-03 | 深圳前海微众银行股份有限公司 | 面向列的存储方法、装置、设备及计算机可读存储介质 |
CN113094292B (zh) * | 2020-01-09 | 2022-12-02 | 上海宝存信息科技有限公司 | 数据存储装置以及非挥发式存储器控制方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050050092A1 (en) * | 2003-08-25 | 2005-03-03 | Oracle International Corporation | Direct loading of semistructured data |
JP2008243193A (ja) * | 2007-02-26 | 2008-10-09 | System Produce:Kk | データ管理システム |
JP2016099647A (ja) * | 2014-11-18 | 2016-05-30 | シャープ株式会社 | 情報処理装置 |
JP2016519810A (ja) * | 2013-03-15 | 2016-07-07 | アマゾン・テクノロジーズ・インコーポレーテッド | 半構造データのためのスケーラブルな分析プラットフォーム |
JP2017167917A (ja) * | 2016-03-17 | 2017-09-21 | 日本電気株式会社 | データベース管理装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3607107B2 (ja) * | 1998-03-13 | 2005-01-05 | 株式会社東芝 | データ管理装置 |
US7337167B2 (en) * | 2005-04-14 | 2008-02-26 | International Business Machines Corporation | Estimating a number of rows returned by a recursive query |
US9442980B1 (en) * | 2010-04-21 | 2016-09-13 | Stan Trepetin | Mathematical method for performing homomorphic operations |
US8762428B2 (en) * | 2011-06-06 | 2014-06-24 | International Business Machines Corporation | Rapidly deploying virtual database applications using data model analysis |
JP5735702B2 (ja) * | 2012-03-16 | 2015-06-17 | 株式会社日立製作所 | 情報処理システム及び情報処理システムの制御方法 |
JP5770753B2 (ja) | 2013-01-15 | 2015-08-26 | グーグル・インコーポレーテッド | Cjk名前検出 |
US20150186825A1 (en) * | 2013-12-30 | 2015-07-02 | Suresh Balasubramhanya | Cost and Profitability Planning System |
US10127025B2 (en) * | 2015-07-22 | 2018-11-13 | Oracle International Corporation | Optimization techniques for high-level graph language compilers |
US10585871B2 (en) * | 2016-03-04 | 2020-03-10 | Inviso Corporation | Database engine for mobile devices |
US10645548B2 (en) * | 2016-06-19 | 2020-05-05 | Data.World, Inc. | Computerized tool implementation of layered data files to discover, form, or analyze dataset interrelations of networked collaborative datasets |
-
2017
- 2017-12-18 JP JP2017242030A patent/JP6550448B2/ja active Active
-
2018
- 2018-06-28 US US16/021,716 patent/US11487729B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050050092A1 (en) * | 2003-08-25 | 2005-03-03 | Oracle International Corporation | Direct loading of semistructured data |
JP2008243193A (ja) * | 2007-02-26 | 2008-10-09 | System Produce:Kk | データ管理システム |
JP2016519810A (ja) * | 2013-03-15 | 2016-07-07 | アマゾン・テクノロジーズ・インコーポレーテッド | 半構造データのためのスケーラブルな分析プラットフォーム |
JP2016099647A (ja) * | 2014-11-18 | 2016-05-30 | シャープ株式会社 | 情報処理装置 |
JP2017167917A (ja) * | 2016-03-17 | 2017-09-21 | 日本電気株式会社 | データベース管理装置 |
Non-Patent Citations (1)
Title |
---|
加藤 慶信 外4名: "軽い!速い! ビッグデータ 分析システムの作り方", 日経SYSTEMS, vol. 第246号/2013年10月号, JPN6017019937, 26 September 2013 (2013-09-26), JP, pages 42 - 59, ISSN: 0003956628 * |
Also Published As
Publication number | Publication date |
---|---|
JP6550448B2 (ja) | 2019-07-24 |
US20190188289A1 (en) | 2019-06-20 |
US11487729B2 (en) | 2022-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6550448B2 (ja) | データ管理装置、データ管理方法、およびプログラム | |
US11475034B2 (en) | Schemaless to relational representation conversion | |
EP3602351B1 (en) | Apparatus and method for distributed query processing utilizing dynamically generated in-memory term maps | |
JP6144700B2 (ja) | 半構造データのためのスケーラブルな分析プラットフォーム | |
US9122746B2 (en) | Executing structured queries on unstructured data | |
WO2014010082A1 (ja) | 検索装置、検索装置の制御方法及び記録媒体 | |
KR101083563B1 (ko) | 데이터베이스 관리 방법 및 시스템 | |
JP2015099586A (ja) | データ集約のためのシステム、装置、プログラム、及び方法 | |
US11030242B1 (en) | Indexing and querying semi-structured documents using a key-value store | |
US11468031B1 (en) | Methods and apparatus for efficiently scaling real-time indexing | |
CN112667720A (zh) | 接口数据模型的转化方法、装置、设备及存储介质 | |
Banane et al. | Storing RDF data into big data NoSQL databases | |
WO2013097115A1 (zh) | 文件目录存储方法、检索方法和设备 | |
Mittal et al. | Efficient random data accessing in MapReduce | |
JP5194856B2 (ja) | コンパクトな決定図を用いた効率的インデックス付け | |
US11144580B1 (en) | Columnar storage and processing of unstructured data | |
JP6480495B2 (ja) | データ管理装置、データ管理方法、およびプログラム | |
CN115495462A (zh) | 批量数据更新方法、装置、电子设备和可读存储介质 | |
Kanojia et al. | IT Infrastructure for Smart City: Issues and Challenges in Migration from Relational to NoSQL Databases | |
CN111680072A (zh) | 基于社交信息数据的划分系统及方法 | |
US20130246479A1 (en) | Computer-readable recording medium, data model conversion method, and data model conversion apparatus | |
JP5903372B2 (ja) | キーワード関連度スコア算出装置、キーワード関連度スコア算出方法、及びプログラム | |
CN117349359B (zh) | 一种多源异构数据库导入导出方法及系统 | |
CN113536040B (zh) | 信息查询方法、装置以及存储介质 | |
Gao et al. | Multi-dimensional index over a key-value store for semi-structured data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20180112 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181010 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20181010 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20181016 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190115 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190306 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190604 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190701 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6550448 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |