JP2020042343A - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents
データ処理装置、データ処理方法及びデータ処理プログラム Download PDFInfo
- Publication number
- JP2020042343A JP2020042343A JP2018167015A JP2018167015A JP2020042343A JP 2020042343 A JP2020042343 A JP 2020042343A JP 2018167015 A JP2018167015 A JP 2018167015A JP 2018167015 A JP2018167015 A JP 2018167015A JP 2020042343 A JP2020042343 A JP 2020042343A
- Authority
- JP
- Japan
- Prior art keywords
- data
- metadata
- etl
- data processing
- sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2457—Query processing with adaptation to user needs
- G06F16/24573—Query processing with adaptation to user needs using data annotations, e.g. user-defined metadata
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Telephonic Communication Services (AREA)
Abstract
Description
<1−1.概要>
図1は、本実施の形態1に従うデータ処理装置(データ処理サーバ)100の概要を説明するための図である。図1に示されるように、データ処理サーバ100は、ネットワークを介してセンシングデータDB(database)200及びETLツール(ETLサーバ)400に接続されている。センシングデータDB200には、種々のセンシングデータ(実データの一例)が蓄積されている。データ処理サーバ100は、センシングデータDB200から入力されたセンシングデータに処理を施すことによって、出力データを生成する。
図2は、本実施の形態1に従うデータ処理サーバ100を含む分析用データ生成システム10の構成の一例を示す図である。分析用データ生成システム10は、製造現場等に設置されたセンサが生成したセンシングデータに基づいて、データ分析担当者が利用する分析用データを生成するシステムである。
図4は、データ処理サーバ100のハードウェア構成の一例を示す図である。なお、本実施の形態1において、データ処理サーバ100は、たとえば、汎用コンピュータによって実現される。
(1−4−1.データ処理サーバ及びETLサーバのソフトウェア構成)
図5は、データ処理サーバ100のソフトウェア構成の一例、及び、ETLサーバ400のソフトウェア構成の一例を示す図である。図5に示されるように、データ処理サーバ100は、データ形式変換部102と、データ分離部104と、メタデータ変換部106と、メタデータ送信部108とを含んでいる。データ形式変換部102、データ分離部104、メタデータ変換部106及びメタデータ送信部108の各々は、制御部170(図4)が制御プログラム181を実行することよって実現されるソフトウェアモジュールである。
図6は、データ形式変換部102の詳細構成を示す図である。図6に示されるように、データ形式変換部102は、データ形式判定部110と、第1変換部112と、第2変換部114とを含んでいる。
図8は、メタデータ変換部106の詳細構成を示す図である。図8に示されるように、メタデータ変換部106は、問合せ部120と、ID変換部122と、値変換部124とを含んでいる。
ETLサーバ400においてセンシングデータのIDが変更されている場合には、変更後のIDにメタデータのIDを変更するようにID変換部122へ指示を出力する。また、問合せ部120は、ETLサーバ400においてセンシングデータの値が変更されている場合には、変更後の値と整合の取れる値にメタデータの値を変更するように値変換部124へ指示を出力する。
(1−5−1.データ形式変換処理)
図10は、データ形式変換部102におけるデータ形式変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、センシングデータDB200に蓄積されているデータがデータ形式変換部102に入力された場合に制御部170(データ形式変換部102)によって開始される。
図11は、メタデータ変換部106におけるメタデータ変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、メタデータ変換部106へメタデータが入力された場合に制御部170(メタデータ変換部106)によって開始される。
以上のように、本実施の形態1に従うデータ処理サーバ100において、制御部170は、ETLサーバ400から出力されたセンシングデータ(実データ)に含まれているIDと同一のIDをメタデータが含むようにメタデータに処理を施すように構成されている。したがって、データ処理サーバ100によれば、センシングデータがETLサーバ400から出力された後においてもセンシングデータ及びメタデータの双方が同一のIDを含むため、センシングデータとメタデータとの紐付けを維持することができる。
上記実施の形態1においては、ETLサーバ400(データ変換部404)においてセンシングデータのIDが変更された場合にのみ、メタデータ変換部106(ID変換部122)においてメタデータのIDが変更された。しかしながら、センシングデータ及びメタデータのIDの変更タイミングは必ずしもこれに限定されない。本実施の形態2においては、ETLサーバ400Aにおいて、センシングデータの値が変更されたとしても、センシングデータのIDが変更されない。本実施の形態2においては、ETLサーバ400Aにおいて高い確率でセンシングデータの値が変更されるため、ETLサーバ400Aにセンシングデータが入力される前に、センシングデータ及びメタデータの各々のIDが一律に新しいIDに変更される。以下、上記実施の形態1と異なる部分を中心に説明する。
図12は、本実施の形態2に従うデータ処理サーバ100Aのハードウェア構成の一例を示す図である。本実施の形態2において、データ処理サーバ100Aは、たとえば、汎用コンピュータによって実現される。
(2−2−1.データ処理サーバのソフトウェア構成)
図13は、データ処理サーバ100Aのソフトウェア構成の一例、及び、ETLサーバ400Aのソフトウェア構成の一例を示す図である。図13に示されるように、データ処理サーバ100Aは、上記実施の形態1に従うデータ処理サーバ100と異なり、ID変換部103と、メタデータ変換部106Aとを含んでいる。ID変換部103、メタデータ変換部106A、データ形式変換部102、データ分離部104及びメタデータ送信部108の各々は、制御部170(図12)が制御プログラム181Aを実行することによって実現されるソフトウェアモジュールである。
図14は、メタデータ変換部106Aの詳細構成を示す図である。図14に示されるように、メタデータ変換部106Aは、上記実施の形態1におけるID変換部122を含んでいない。したがって、メタデータ変換部106Aにおいては、メタデータのID変換が行なわれない。
(2−3−1.ID変換処理)
図15は、ID変換部103におけるID変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、ID変換部103へ第2データ形式のデータ(センシングデータ及びメタデータ)が入力された場合に制御部170(ID変換部103)によって開始される。
図16は、値変換部124における値変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、値変換部124へメタデータが入力された場合に制御部170(値変換部124)によって開始される。
以上のように、本実施の形態2に従うデータ処理サーバ100Aにおいては、ETLサーバ400Aから出力されたセンシングデータ(実データ)に含まれているIDと同一のIDをメタデータが含むようにメタデータに処理が施される。したがって、データ処理サーバ100Aによれば、センシングデータがETLサーバ400Aから出力された後においてもセンシングデータ及びメタデータの双方が同一のIDを含むため、センシングデータとメタデータとの紐付けを維持することができる。
以上、実施の形態1,2について説明したが、本発明は、上記実施の形態1,2に限定されるものではなく、その趣旨を逸脱しない限りにおいて、種々の変更が可能である。以下、変形例について説明する。但し、以下の変形例は適宜組合せ可能である。
上記実施の形態1,2においては、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100,100Aにおいて処理されるデータがセンシングデータであるとした。しかしながら、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100,100Aにおいて処理されるデータは、必ずしもセンシングデータである必要はない。たとえば、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100,100Aにおいて処理されるデータは、ショッピングサイトにおける各ユーザの購買履歴データや、ゲームサイトにおける各ユーザのスコアデータ等のセンシングデータ以外のデータであってもよい。
上記実施の形態1,2においては、データ処理サーバ100,100Aにおいて生成されたメタデータが分析用データDB300へ出力された。しかしながら、データ処理サーバ100,100Aにおいて生成されたメタデータの出力先は、分析用データDB300に限定されない。たとえば、データ処理サーバ100,100Aにおいて生成されたメタデータは、ETLサーバ400,400Aのロード部406へ出力されてもよい。この場合には、ロード部406がセンシングデータ及びメタデータを対応付けて、分析用データDB300へ出力する。
Claims (6)
- データ処理装置の外部に設けられたETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すように構成されたデータ処理装置であって、
前記実データ及び前記メタデータの各々には、ID(identification)が含まれており、
プログラムを記憶するように構成されたメモリと、
前記プログラムを実行するように構成されたプロセッサとを備え、
前記プログラムは、前記ETLツールから出力された前記実データに含まれているIDと同一のIDを前記メタデータが含むように前記メタデータに処理を施すステップを前記プロセッサに実行させるように構成されている、データ処理装置。 - 前記実データ及び前記メタデータの各々には、共通のIDが含まれており、
前記プログラムは、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを前記プロセッサに実行させるように構成されている、請求項1に記載のデータ処理装置。 - 前記ETLツールにおいては、前記実データに含まれているIDが変更されず、
前記プログラムは、前記ETLツールに入力される前の前記実データに含まれているIDと、前記メタデータに含まれているIDとを共通の新たなIDに変更するステップを前記プロセッサに実行させるように構成されている、請求項1又は請求項2に記載のデータ処理装置。 - 前記実データは、センサによって生成されたセンシングデータである、請求項1から請求項3のいずれか1項に記載のデータ処理装置。
- ETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すデータ処理方法であって、
前記実データ及び前記メタデータの各々には、ID(identification)が含まれており、
前記ETLツールから出力された前記実データに含まれているIDと同一のIDを前記メタデータが含むように前記メタデータに処理を施すステップを含む、データ処理方法。 - ETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータの処理をプロセッサに実行させるデータ処理プログラムであって、
前記実データ及び前記メタデータの各々には、ID(identification)が含まれており、
前記ETLツールから出力された前記実データに含まれているIDと同一のIDを前記メタデータが含むように前記メタデータに処理を施すステップを前記プロセッサに実行させる、データ処理プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167015A JP7127438B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
US17/268,742 US11663232B2 (en) | 2018-09-06 | 2019-02-21 | Data processing apparatus, data processing method, and data processing program stored on computer-readable storage medium |
PCT/JP2019/006423 WO2020049758A1 (ja) | 2018-09-06 | 2019-02-21 | データ処理装置、データ処理方法及びデータ処理プログラム |
CN201980053001.3A CN112567347A (zh) | 2018-09-06 | 2019-02-21 | 数据处理装置、数据处理方法和数据处理程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167015A JP7127438B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020042343A true JP2020042343A (ja) | 2020-03-19 |
JP7127438B2 JP7127438B2 (ja) | 2022-08-30 |
Family
ID=69721515
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018167015A Active JP7127438B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11663232B2 (ja) |
JP (1) | JP7127438B2 (ja) |
CN (1) | CN112567347A (ja) |
WO (1) | WO2020049758A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022046054A1 (en) * | 2020-08-27 | 2022-03-03 | Siemens Industry Software Inc. | Centralized management of data flow maps for distributed edge node deployment |
US20230123736A1 (en) * | 2021-10-14 | 2023-04-20 | Redzone Robotics, Inc. | Data translation and interoperability |
WO2023079484A1 (en) * | 2021-11-04 | 2023-05-11 | Waters Technologies Ireland Limited | Methods, mediums, and systems for uploading and visualizing data in an analytical ecosystem |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03132834A (ja) * | 1989-10-13 | 1991-06-06 | Internatl Business Mach Corp <Ibm> | データベースのアクセス・プランの選択方法及び無効方法 |
JP2014096177A (ja) * | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
WO2014122732A1 (ja) * | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002165210A (ja) * | 2000-08-04 | 2002-06-07 | Matsushita Electric Ind Co Ltd | データ送信端末及びデータ送受信装置 |
US8862999B2 (en) * | 2010-11-22 | 2014-10-14 | International Business Machines Corporation | Dynamic de-identification of data |
US9323948B2 (en) * | 2010-12-14 | 2016-04-26 | International Business Machines Corporation | De-identification of data |
US8577833B2 (en) * | 2012-01-04 | 2013-11-05 | International Business Machines Corporation | Automated data analysis and transformation |
US8954376B2 (en) * | 2012-03-08 | 2015-02-10 | International Business Machines Corporation | Detecting transcoding tables in extract-transform-load processes |
EP3067872B1 (en) | 2012-09-12 | 2017-11-22 | Omron Corporation | Column traveling generating apparatus |
WO2014209260A1 (en) * | 2013-06-24 | 2014-12-31 | Hewlett-Packard Development Company, L.P. | Processing a data flow graph of a hybrid flow |
US9235871B2 (en) * | 2014-02-06 | 2016-01-12 | Oxide Interactive, LLC | Method and system of a command buffer between a CPU and GPU |
JP2016091429A (ja) | 2014-11-07 | 2016-05-23 | キヤノン株式会社 | 情報処理システムおよび制御方法 |
US10262049B2 (en) * | 2016-06-23 | 2019-04-16 | International Business Machines Corporation | Shipping of data through ETL stages |
CN106503912A (zh) * | 2016-10-27 | 2017-03-15 | 国信优易数据有限公司 | 一种数据服务系统 |
US10949966B2 (en) * | 2017-08-18 | 2021-03-16 | Siemens Healthcare Gmbh | Detecting and classifying medical images based on continuously-learning whole body landmarks detections |
CN108062973A (zh) * | 2017-11-30 | 2018-05-22 | 江西洪都航空工业集团有限责任公司 | 一种医疗卫生数据分析方法 |
-
2018
- 2018-09-06 JP JP2018167015A patent/JP7127438B2/ja active Active
-
2019
- 2019-02-21 US US17/268,742 patent/US11663232B2/en active Active
- 2019-02-21 WO PCT/JP2019/006423 patent/WO2020049758A1/ja active Application Filing
- 2019-02-21 CN CN201980053001.3A patent/CN112567347A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03132834A (ja) * | 1989-10-13 | 1991-06-06 | Internatl Business Mach Corp <Ibm> | データベースのアクセス・プランの選択方法及び無効方法 |
WO2014122732A1 (ja) * | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
JP2014096177A (ja) * | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Non-Patent Citations (1)
Title |
---|
小田 利彦、他3名: "センシングデータ流通市場におけるメタデータの定義・生成・活用の一方式", 一般社団法人 人工知能学会 第32回全国大会論文集 1C3-OS-8B-01, JPN6021004812, 8 June 2018 (2018-06-08), JP, pages 1 - 2, ISSN: 0004700925 * |
Also Published As
Publication number | Publication date |
---|---|
US11663232B2 (en) | 2023-05-30 |
US20210303586A1 (en) | 2021-09-30 |
WO2020049758A1 (ja) | 2020-03-12 |
CN112567347A (zh) | 2021-03-26 |
JP7127438B2 (ja) | 2022-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3975474B1 (en) | Methods and apparatuses for chaining service data | |
WO2020049758A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
CN113259359A (zh) | 一种边缘节点能力补充方法、系统、介质及电子终端 | |
JP7127440B2 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
WO2020049757A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
CN112567348B (zh) | 数据处理装置、数据处理方法和计算机可读存储介质 | |
US11927928B2 (en) | Output management apparatus, output management method, and program | |
CN111597198A (zh) | 一种对于异构资源接入的物联网数据查询方法及相关设备 | |
KR20210128096A (ko) | 사물인터넷 플랫폼 간 연동 방법 및 장치 | |
JP6468377B1 (ja) | 出力管理装置、出力管理方法及びプログラム | |
KR20210043925A (ko) | 하드웨어 수집기를 포함하는 데이터 수집 장치 | |
JP6477936B1 (ja) | データ処理装置、データ処理方法及びプログラム | |
JP6477935B1 (ja) | 前処理判定装置、前処理判定方法及びプログラム | |
KR100723616B1 (ko) | 디지털 데이터베이스 공유 방법 및 시스템 | |
JP2019140558A (ja) | 候補抽出装置、候補抽出方法及びプログラム | |
JP2019057260A (ja) | 検索装置、検索方法および検索プログラム | |
JPH04182759A (ja) | データ転送システムおよびデータ転送装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210330 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220328 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220719 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220801 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7127438 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |