JP7458259B2 - データ管理装置及びデータ管理方法 - Google Patents
データ管理装置及びデータ管理方法 Download PDFInfo
- Publication number
- JP7458259B2 JP7458259B2 JP2020121542A JP2020121542A JP7458259B2 JP 7458259 B2 JP7458259 B2 JP 7458259B2 JP 2020121542 A JP2020121542 A JP 2020121542A JP 2020121542 A JP2020121542 A JP 2020121542A JP 7458259 B2 JP7458259 B2 JP 7458259B2
- Authority
- JP
- Japan
- Prior art keywords
- database
- data
- query
- name
- conversion table
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013523 data management Methods 0.000 title claims description 65
- 238000000034 method Methods 0.000 title claims description 56
- 238000006243 chemical reaction Methods 0.000 claims description 52
- 239000000284 extract Substances 0.000 claims description 5
- 230000010365 information processing Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 description 47
- 238000012545 processing Methods 0.000 description 28
- 238000004891 communication Methods 0.000 description 19
- 238000013499 data model Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/221—Column-oriented storage; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
- G06F16/287—Visualization; Browsing
Description
う利点がある。しかし一方で、操作対象のデータ量が大量となるとデータ操作に要する時間が長くなってデータベース利用効率が低下する等の問題が生じる。
作言語によって記述されたデータベース操作要求を非リレーショナルデータベースモデル用のデータベース操作要求に変換するためのプログラムを、非リレーショナルデータベース個別に用意しなければならず、やはりマルチモデルデータベース構築のために多大な開発工数が必要とされる問題があった。
まず、本実施形態に係るデータ管理システム1の全体構成について説明する。図1は、本実施形態におけるデータ管理システム1の構成例を示すブロック図である。データ管理システム1は、データ管理装置10、データベース装置20A~20C、及び通信ネットワーク30を備えている。なお、以下、データベース装置20A~20Cについて区別する必要がない場合、単にデータベース装置20と呼ぶことがある。
装置10はデータベース装置20A~20Cとは別個の筐体を有するとして示されているが、いずれかの、または全部のデータベース装置と筐体を共有させてもよいし、ネットワーク上に分散配置し、あるいはいわゆるクラウド構成とすることも差し支えない。
次に、データ管理装置10について説明する。図2に、本実施形態におけるデータ管理装置10のハードウェア構成例を示している。データ管理装置10は、通信ネットワーク30との通信機能を有する一般的なコンピュータの構成を備えている。
次に、データベース装置20について説明する。図3に、本実施形態におけるデータベース装置20のハードウェア構成例を示している。データベース装置20は、データ管理装置10と同様に、通信ネットワーク30との通信機能を有する一般的なコンピュータの構成を備えている。
タ管理装置10にその全部又は一部を格納するようにしてもよい。またデータ管理装置10と同様に、仮想コンピュータとして構成したり、クラウド上に構築したりすることもできる。
図4に、本実施形態のデータ管理装置10に実装されているソフトウェアの構成例を示している。データ管理装置10には、大別して、入力されたクエリを対象のデータベースのデータ形式に変換してそのデータベースに与えるクエリ入力処理、クエリ対象のデータベースから入力されたクエリに応じて返されるクエリ結果を変換して出力するクエリ出力処理、及びクエリの対象となるデータベースのデータ形式に応じて実行されるクエリ変換処理に用いられる変換テーブルを生成する変換テーブル生成処理を実行するためのソフトウェアとデータとが実装されている。
データベース装置20A~20Cには、それぞれリレーショナルデータベースである社員マスタ20-1、キーバリューデータベースである工場設備モニタデータベース20-2、グラフデータベースである工程データベース20-3が格納されている。
[変換テーブル生成処理]
まず、変換テーブル生成処理について説明する。この処理は、図4に関して説明した変換テーブルを自動生成する処理に相当する。図9に、変換テーブル生成処理のデータ処理フロー例を示している。この変換テーブル生成処理は、本実施形態のデータ管理システム1の運用を開始する前に、あらかじめ実行される処理である。
ログラム209によるデータスキーマ情報収集に代えて、あるいはそれに加えて、データ管理装置10の入力装置13とデータ名称・所在入力プログラム208を通じて、各データベース20-1~20-3のデータスキーマ情報を入力するようにしてもよい。また、解析設定テーブル211は、自動生成によらず、あらかじめ入力しておくようにしてもよい。
3、識別子1=Vertex、識別子2=工程を、カラム名に工程名、工程関係が記録される。
次に、本実施形態におけるデータ操作要求処理について説明する。本実施形態のデータ操作要求処理は、図4のデータ管理装置10に関する説明でのクエリ入力処理、クエリ出力処理に相当し、作成されたデータ名称・所在対応テーブル204を用いて、データ管理装置10に投入されるクエリを所要の変換処理を経て対象のデータベース20-1~20-3に入力し、クエリ結果を取得して変換、出力する処理である。図12に本実施形態のデータ管理装置10によって実行されるデータ操作要求処理のデータ処理フロー例を示している。
象データベースの形式に応じた異なる形式のクエリを用意する煩雑な前処理が不要であり、データ操作要求処理の効率向上を図ることができる。
全ての制御線及び情報線を示しているとは限らない。実際にはほとんど全ての構成が相互に接続されていると考えてもよい。
10 データ管理装置
20 データベース装置
202 クエリ解析プログラム
204 データ名称・所在対応テーブル
204A データ名称・所在対応中間テーブル
205 クエリ形式変換プログラム
206 クエリ結果形式変換プログラム
210 データ名称・所在解析プログラム
212 データ名称・所在判定プログラム
Claims (6)
- 演算装置と、前記演算装置に接続される記憶装置と、を有するデータ管理装置であって、
前記データ管理装置は、第1のデータベースモデルによって構築されている第1のデータベースと、前記第1のデータベースモデルとは異なる第2のデータベースモデルによって構築されている第2のデータベースとに通信可能に接続されており、
前記演算装置は、
前記第1のデータベースの構造を規定している情報である第1のデータスキーマ情報と、前記第2のデータベースの構造を規定している情報である第2のデータスキーマ情報とに基づいて、前記第2のデータベースの構造を前記第1のデータベースの構造に対応するように変換して、前記第1のデータベースと前記第2のデータベースとに格納されているデータについての完全修飾データ名称と、各データ名称に関連付けてそのデータ名称に対応するデータの所在を示すデータ所在情報とを対応づけた変換テーブルを生成して前記記憶装置に保持し、
外部から受領した、前記第1のデータベースの構造に対応して記述されたクエリがいずれのデータベース宛のクエリであるかを、前記変換テーブルを参照することにより判定し、該クエリが前記第2のデータベース宛のクエリであると判定した場合、前記第2のデータベースの構造に対応したクエリに変換して前記第2のデータベースに投入し、当該クエリに応じたクエリ結果を、前記第1のデータベースの構造に対応した形式に変換して出力し、
前記変換テーブルを生成し保持する際には、前記完全修飾データ名称に含まれる各要素によってデータ所在情報が特定できるかを判定し、データ所在情報が特定できると判定した場合、当該要素をデータ名称として、そのデータ名称に関連付けられるデータ所在情報を前記変換テーブルとして保持し、各要素によってデータ所在情報が特定できないと判定した場合、当該要素を新たなデータ名称として、データ所在情報を特定するのに必要となる残りの要素を前記データ名称に関連付けて前記変換テーブルに追記する、
データ管理装置。 - 前記演算装置は、受領した前記クエリから当該クエリの対象であるデータを示すデータ名称を抽出し、当該データ名称に関連付けられているデータ所在情報を前記変換テーブルを参照して、当該データ名称に対応するデータが格納されているデータベースのデータベースモデルを特定し、当該データベースモデルが前記クエリの対象であるデータを格納しているデータベースのデータベースモデルと異なると判定した場合、前記クエリの形式を当該異なるデータベースモデルに対応する形式に変換して対象データベースに投入し、得られるクエリ結果を元のクエリ形式に変換した後に出力する、請求項1に記載のデータ管理装置。
- 前記第1のデータベースはリレーショナルデータベースであり、前記第2のデータベースはキーバリューデータベース又はグラフデータベースであり、
前記演算装置は、前記変換テーブルにおいて、前記第2のデータベースが前記キーバリューデータベースである場合、そのバリューの項目を前記第1のデータベースのカラムの項目に格納し、前記第2のデータベースがグラフデータベースである場合、その装置名、データベース名、頂点要素、及び辺要素をもって特定されるデータを前記第1のデータベースのカラムの項目に格納し、
外部から受領した前記クエリがキーバリューデータベース又はグラフデータベースのいずれの種類の第2のデータベース宛のクエリであるかを、前記変換テーブルの前記バリューの項目と、前記装置名、データベース名、頂点要素、及び辺要素をもって特定されるデータとを参照することにより判定し、判定した種類の第2のデータベースの構造に対応したクエリに変換して当該第2のデータベースに投入し、当該クエリに応じたクエリ結果を、前記第1のデータベースの構造に対応した形式に変換して出力する、
請求項1に記載のデータ管理装置。 - 演算装置と、前記演算装置に接続される記憶装置と、を有し、第1のデータベースモデルによって構築されている第1のデータベースと、前記第1のデータベースモデルとは異なる第2のデータベースモデルによって構築されている第2のデータベースとに通信可能に接続されている情報処理装置が、
前記第1のデータベースの構造を規定している情報である第1のデータスキーマ情報と、前記第2のデータベースの構造を規定している情報である第2のデータスキーマ情報とに基づいて、前記第2のデータベースの構造を前記第1のデータベースの構造に対応するように変換して、前記第1のデータベースと前記第2のデータベースとに格納されているデータについての完全修飾データ名称と、各データ名称に関連付けてそのデータ名称に対応するデータの所在を示すデータ所在情報とを対応づけた変換テーブルを生成して前記記憶装置に保持し、
外部から受領した、前記第1のデータベースの構造に対応して記述されたクエリがいずれのデータベース宛のクエリであるかを、前記変換テーブルを参照することにより判定し、該クエリが前記第2のデータベース宛のクエリであると判定した場合、前記第2のデータベースの構造に対応したクエリに変換して前記第2のデータベースに投入し、当該クエリに応じたクエリ結果を、前記第1のデータベースの構造に対応した形式に変換して出力し、
前記変換テーブルを生成し保持する際には、前記完全修飾データ名称に含まれる各要素によってデータ所在情報が特定できるかを判定し、データ所在情報が特定できると判定した場合、当該要素をデータ名称として、そのデータ名称に関連付けられるデータ所在情報を前記変換テーブルとして保持し、各要素によってデータ所在情報が特定できないと判定した場合、当該要素を新たなデータ名称として、データ所在情報を特定するのに必要となる残りの要素を前記データ名称に関連付けて前記変換テーブルに追記する、
データ管理方法。 - 前記演算装置は、受領した前記クエリから当該クエリの対象であるデータを示すデータ名称を抽出し、当該データ名称に関連付けられているデータ所在情報を前記変換テーブルを参照して、当該データ名称に対応するデータが格納されているデータベースのデータベースモデルを特定し、当該データベースモデルが前記クエリの対象であるデータを格納しているデータベースのデータベースモデルと異なると判定した場合、前記クエリの形式を当該異なるデータベースモデルに対応する形式に変換して対象データベースに投入し、得られるクエリ結果を元のクエリ形式に変換した後に出力する、請求項4に記載のデータ管理方法。
- 前記第1のデータベースはリレーショナルデータベースであり、前記第2のデータベースはキーバリューデータベース又はグラフデータベースであり、
前記演算装置は、前記変換テーブルにおいて、前記第2のデータベースが前記キーバリューデータベースである場合、そのバリューの項目を前記第1のデータベースのカラムの項目に格納し、前記第2のデータベースがグラフデータベースである場合、その装置名、データベース名、頂点要素、及び辺要素をもって特定されるデータを前記第1のデータベースのカラムの項目に格納し、
外部から受領した前記クエリがキーバリューデータベース又はグラフデータベースのいずれの種類の第2のデータベース宛のクエリであるかを、前記変換テーブルの前記バリューの項目と、前記装置名、データベース名、頂点要素、及び辺要素をもって特定されるデータとを参照することにより判定し、判定した種類の第2のデータベースの構造に対応したクエリに変換して当該第2のデータベースに投入し、当該クエリに応じたクエリ結果を、前記第1のデータベースの構造に対応した形式に変換して出力する、
請求項4に記載のデータ管理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020121542A JP7458259B2 (ja) | 2020-07-15 | 2020-07-15 | データ管理装置及びデータ管理方法 |
US17/371,563 US11645299B2 (en) | 2020-07-15 | 2021-07-09 | Data management device and data management method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020121542A JP7458259B2 (ja) | 2020-07-15 | 2020-07-15 | データ管理装置及びデータ管理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2022018435A JP2022018435A (ja) | 2022-01-27 |
JP2022018435A5 JP2022018435A5 (ja) | 2023-02-27 |
JP7458259B2 true JP7458259B2 (ja) | 2024-03-29 |
Family
ID=79292431
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020121542A Active JP7458259B2 (ja) | 2020-07-15 | 2020-07-15 | データ管理装置及びデータ管理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11645299B2 (ja) |
JP (1) | JP7458259B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11741134B2 (en) * | 2021-09-07 | 2023-08-29 | Oracle International Corporation | Conversion and migration of key-value store to relational model |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004013906A (ja) | 2003-07-04 | 2004-01-15 | Nippon Telegr & Teleph Corp <Ntt> | 複数データベース異種性解消検索方法および装置と複数データベース異種性解消検索プログラムを記録した記録媒体 |
JP2016207202A (ja) | 2015-04-23 | 2016-12-08 | 富士通株式会社 | クエリメディエータ、多言語データティアのクエリ方法、多言語データティアのクエリ方法を実行するためのコンピュータプログラム |
US20190340291A1 (en) | 2018-05-07 | 2019-11-07 | Microsoft Technology Licensing, Llc | Unified data organization for multi-model distributed databases |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010224824A (ja) | 2009-03-23 | 2010-10-07 | Toshiba Corp | 情報処理装置 |
US8589450B2 (en) * | 2011-12-28 | 2013-11-19 | Business Objects Software Limited | Mapping non-relational database objects into a relational database model |
US20160188710A1 (en) * | 2014-12-29 | 2016-06-30 | Wipro Limited | METHOD AND SYSTEM FOR MIGRATING DATA TO NOT ONLY STRUCTURED QUERY LANGUAGE (NoSOL) DATABASE |
US9330138B1 (en) * | 2015-09-18 | 2016-05-03 | Linkedin Corporation | Translating queries into graph queries using primitives |
CN110032604B (zh) * | 2019-02-02 | 2021-12-07 | 北京奥星贝斯科技有限公司 | 数据存储装置、转译装置及数据库访问方法 |
-
2020
- 2020-07-15 JP JP2020121542A patent/JP7458259B2/ja active Active
-
2021
- 2021-07-09 US US17/371,563 patent/US11645299B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004013906A (ja) | 2003-07-04 | 2004-01-15 | Nippon Telegr & Teleph Corp <Ntt> | 複数データベース異種性解消検索方法および装置と複数データベース異種性解消検索プログラムを記録した記録媒体 |
JP2016207202A (ja) | 2015-04-23 | 2016-12-08 | 富士通株式会社 | クエリメディエータ、多言語データティアのクエリ方法、多言語データティアのクエリ方法を実行するためのコンピュータプログラム |
US20190340291A1 (en) | 2018-05-07 | 2019-11-07 | Microsoft Technology Licensing, Llc | Unified data organization for multi-model distributed databases |
Also Published As
Publication number | Publication date |
---|---|
US11645299B2 (en) | 2023-05-09 |
JP2022018435A (ja) | 2022-01-27 |
US20220019597A1 (en) | 2022-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3602351B1 (en) | Apparatus and method for distributed query processing utilizing dynamically generated in-memory term maps | |
EP3446242B1 (en) | Query plan generation and execution in a relational database management system with a temporal-relational database | |
TWI710919B (zh) | 資料儲存裝置、轉譯裝置及資料庫存取方法 | |
US9665620B2 (en) | Managing data queries | |
US7822710B1 (en) | System and method for data collection | |
CN111709527A (zh) | 运维知识图谱库的建立方法、装置、设备及存储介质 | |
CN111767303A (zh) | 一种数据查询方法、装置、服务器及可读存储介质 | |
US20190018851A1 (en) | Data processing system | |
CN112948427B (zh) | 数据查询方法、装置、设备及存储介质 | |
JPWO2011111532A1 (ja) | データベースシステム | |
CN110502506B (zh) | 一种数据处理方法、装置、设备和存储介质 | |
CN109473178B (zh) | 医疗数据整合的方法、系统、设备及存储介质 | |
JP7458259B2 (ja) | データ管理装置及びデータ管理方法 | |
EP1909170B1 (en) | Method and system for automatically generating a communication interface | |
US20210342341A1 (en) | Data analysis assistance device, data analysis assistance method, and data analysis assistance program | |
US20070282804A1 (en) | Apparatus and method for extracting database information from a report | |
US20230401209A1 (en) | Columnar Cache Query Using Hybrid Query Execution Plan | |
US20230385308A1 (en) | Conversion and migration of key-value store to relational model | |
US11354313B2 (en) | Transforming a user-defined table function to a derived table in a database management system | |
CN112039975A (zh) | 一种报文字段的处理方法、装置、设备及存储介质 | |
US20210357372A1 (en) | Data analysis assistance device, data analysis assistance method, and data analysis assistance program | |
CN115114297A (zh) | 数据轻量存储及查找方法、装置、电子设备及存储介质 | |
Das et al. | Massively parallel in-database predictions using pmml | |
JP7274293B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2785317B2 (ja) | ソフトウェア標準化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230215 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231020 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231031 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240213 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240301 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7458259 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |