JP7127439B2 - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents
データ処理装置、データ処理方法及びデータ処理プログラム Download PDFInfo
- Publication number
- JP7127439B2 JP7127439B2 JP2018167016A JP2018167016A JP7127439B2 JP 7127439 B2 JP7127439 B2 JP 7127439B2 JP 2018167016 A JP2018167016 A JP 2018167016A JP 2018167016 A JP2018167016 A JP 2018167016A JP 7127439 B2 JP7127439 B2 JP 7127439B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- metadata
- actual data
- etl
- sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
Description
図1は、本実施の形態に従うデータ処理装置(データ処理サーバ)100の概要を説明するための図である。図1に示されるように、データ処理サーバ100は、ネットワークを介してセンシングデータDB(database)200及びETLツール(ETLサーバ)400に接続されている。センシングデータDB200には、種々のセンシングデータが蓄積されている。データ処理サーバ100は、センシングデータDB200から入力されたセンシングデータに処理を施すことによって、出力データを生成する。
図2は、本実施の形態に従うデータ処理サーバ100を含む分析用データ生成システム10の構成の一例を示す図である。分析用データ生成システム10は、製造現場等に設置されたセンサが生成したセンシングデータに基づいて、データ分析担当者が利用する分析用データを生成するシステムである。
図4は、データ処理サーバ100のハードウェア構成の一例を示す図である。なお、本実施の形態において、データ処理サーバ100は、たとえば、汎用コンピュータによって実現される。
<4-1.データ処理サーバ及びETLサーバのソフトウェア構成>
図5は、データ処理サーバ100のソフトウェア構成の一例、及び、ETLサーバ400のソフトウェア構成の一例を示す図である。図5に示されるように、データ処理サーバ100は、データ形式変換部102と、データ分離部104と、メタデータ変換部106と、メタデータ送信部108とを含んでいる。データ形式変換部102、データ分離部104、メタデータ変換部106及びメタデータ送信部108の各々は、制御部170(図4)が制御プログラム181を実行することよって実現されるソフトウェアモジュールである。
図6は、データ形式変換部102の詳細構成を示す図である。図6に示されるように、データ形式変換部102は、データ形式判定部110と、第1変換部112と、第2変換部114とを含んでいる。
図8は、メタデータ変換部106の詳細構成を示す図である。図8に示されるように、メタデータ変換部106は、問合せ部120と、ID変換部122と、値変換部124とを含んでいる。
ETLサーバ400においてセンシングデータのIDが変更されている場合には、変更後のIDにメタデータのIDを変更するようにID変換部122へ指示を出力する。また、問合せ部120は、ETLサーバ400においてセンシングデータの値が変更されている場合には、変更後の値と整合の取れる値にメタデータの値を変更するように値変換部124へ指示を出力する。
<5-1.データ形式変換処理>
図10は、データ形式変換部102におけるデータ形式変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、センシングデータDB200に蓄積されているデータがデータ形式変換部102に入力された場合に制御部170(データ形式変換部102)によって開始される。
図11は、メタデータ変換部106におけるメタデータ変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、メタデータ変換部106へメタデータが入力された場合に制御部170(メタデータ変換部106)によって開始される。
以上のように、本実施の形態に従うデータ処理サーバ100において、制御部170は、ETLサーバ400においてセンシングデータ(実データ)に施された処理に応じた処理をメタデータに施すように構成されている。したがって、データ処理サーバ100によれば、既存のETLツールを使用した場合であっても、センシングデータ(実データ)とメタデータとの関係性を正常に保つことができる。
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて、種々の変更が可能である。以下、変形例について説明する。但し、以下の変形例は適宜組合せ可能である。
上記実施の形態においては、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータがセンシングデータであるとした。しかしながら、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、必ずしもセンシングデータである必要はない。たとえば、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、ショッピングサイトにおける各ユーザの購買履歴データや、ゲームサイトにおける各ユーザのスコアデータ等のセンシングデータ以外のデータであってもよい。
上記実施の形態においては、データ処理サーバ100において生成されたメタデータが分析用データDB300へ出力された。しかしながら、データ処理サーバ100において生成されたメタデータの出力先は、分析用データDB300に限定されない。たとえば、データ処理サーバ100において生成されたメタデータは、ETLサーバ400のロード部406へ出力されてもよい。この場合には、ロード部406がセンシングデータ及びメタデータを対応付けて、分析用データDB300へ出力する。
上記実施の形態において、メタデータ変換部106は、ID変換部122及び値変換部124の双方を含んだ。しかしながら、メタデータ変換部106は、必ずしもID変換部122及び値変換部124の双方を含む必要はない。たとえば、メタデータ変換部106は、ID変換部122及び値変換部124のいずれか一方のみを含んでもよい。
Claims (5)
- データ処理装置の外部に設けられたETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すように構成されたデータ処理装置であって、
前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
プログラムを記憶するように構成されたメモリと、
前記プログラムを実行するように構成されたプロセッサとを備え、
前記プログラムは、前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップであって、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを前記プロセッサに実行させるように構成されている、データ処理装置。 - 前記実データには、ID(identification)に対応付けられた値が含まれており、
前記メタデータには、IDに対応付けられ、かつ、前記実データの属性を示す値が含まれており、
前記プログラムは、前記ETLツールにおいて前記実データに含まれている値が変更された場合に、前記メタデータに含まれている値を、前記実データに含まれている変更後の値と整合の取れる値に変更するステップを前記プロセッサに実行させるように構成されている、請求項1に記載のデータ処理装置。 - 前記実データは、センサによって生成されたセンシングデータである、請求項1または2に記載のデータ処理装置。
- コンピュータが、外部のETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すデータ処理方法であって、
前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップであって、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを含む、データ処理方法。 - ETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータの処理を、前記ETLツールとは別のコンピュータが備えるプロセッサに実行させるデータ処理プログラムであって、
前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップであって、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを前記プロセッサに実行させるように構成されている、データ処理プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167016A JP7127439B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
PCT/JP2019/006422 WO2020049757A1 (ja) | 2018-09-06 | 2019-02-21 | データ処理装置、データ処理方法及びデータ処理プログラム |
CN201980053093.5A CN112567348A (zh) | 2018-09-06 | 2019-02-21 | 数据处理装置、数据处理方法和数据处理程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167016A JP7127439B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020042344A JP2020042344A (ja) | 2020-03-19 |
JP7127439B2 true JP7127439B2 (ja) | 2022-08-30 |
Family
ID=69723113
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018167016A Active JP7127439B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP7127439B2 (ja) |
CN (1) | CN112567348A (ja) |
WO (1) | WO2020049757A1 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014096177A (ja) | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
WO2014122732A1 (ja) | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1050938A (zh) * | 1989-10-13 | 1991-04-24 | 国际商业机器公司 | 数据库系统的存取程序无效 |
JP3674569B2 (ja) * | 2001-10-04 | 2005-07-20 | オムロン株式会社 | センサ管理装置、センサ管理装置の制御プログラム、このプログラムを記録したコンピュータ読み取り可能な記録媒体、センサ管理装置の制御方法 |
US7401064B1 (en) * | 2002-11-07 | 2008-07-15 | Data Advantage Group, Inc. | Method and apparatus for obtaining metadata from multiple information sources within an organization in real time |
JP4717464B2 (ja) * | 2005-02-18 | 2011-07-06 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN101364240B (zh) * | 2008-10-14 | 2010-07-21 | 杭州华三通信技术有限公司 | 元数据管理方法及装置 |
CN101567890A (zh) * | 2009-06-05 | 2009-10-28 | 成都市华为赛门铁克科技有限公司 | 元数据传输方法、客户端设备及服务器设备 |
US9213706B2 (en) * | 2013-06-13 | 2015-12-15 | DataGravity, Inc. | Live restore for a data intelligent storage system |
JPWO2015107925A1 (ja) * | 2014-01-16 | 2017-03-23 | ソニー株式会社 | データ処理装置、及び、データ処理方法 |
US20160231936A1 (en) * | 2015-02-11 | 2016-08-11 | Eugene Edwin Nelson | In-memory variable meta data system and method |
US9866684B2 (en) * | 2015-02-16 | 2018-01-09 | Microsoft Technology Licensing, Llc | Process for real-time data exchange between users on a phone call |
-
2018
- 2018-09-06 JP JP2018167016A patent/JP7127439B2/ja active Active
-
2019
- 2019-02-21 WO PCT/JP2019/006422 patent/WO2020049757A1/ja active Application Filing
- 2019-02-21 CN CN201980053093.5A patent/CN112567348A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014122732A1 (ja) | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
JP2014096177A (ja) | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Non-Patent Citations (1)
Title |
---|
小田 利彦、他3名,センシングデータ流通市場におけるメタデータの定義・生成・活用の一方式,一般社団法人 人工知能学会 第32回全国大会論文集 1C3-OS-8b-01,日本,一般社団法人 人工知能学会,2018年06月08日,p.1-2 |
Also Published As
Publication number | Publication date |
---|---|
CN112567348A (zh) | 2021-03-26 |
WO2020049757A1 (ja) | 2020-03-12 |
JP2020042344A (ja) | 2020-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019114766A1 (zh) | 一种数据脱敏方法、服务器、终端及计算机可读存储介质 | |
CN109964216A (zh) | 识别未知数据对象 | |
EP3975474B1 (en) | Methods and apparatuses for chaining service data | |
JP5018914B2 (ja) | センサデータ提供システム、方法及び装置 | |
JP7127438B2 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
US8037209B2 (en) | Device configuration integration information managing device and device configuration information managing device | |
WO2015128954A1 (ja) | デバイス情報提供システム、デバイス情報提供方法 | |
US20130094403A1 (en) | Method and apparatus for providing sensor network information | |
JP2006285526A (ja) | 画像データに応じた情報検索 | |
JP2724082B2 (ja) | Vlsiプロセスのデータ解析支援システム | |
CN108154024B (zh) | 一种数据检索方法、装置及电子设备 | |
JP7127439B2 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
JP7127440B2 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
KR100912373B1 (ko) | 자원 공유를 위한 cib 상황인지 프레임워크 운용 장치및 방법 | |
KR101720316B1 (ko) | 센서 네트워크 정보 제공 방법 및 그 장치 | |
US20150106363A1 (en) | Computer system, data management method, and recording medium storing program | |
WO2010058519A1 (ja) | ハイブリッド検索システム、ハイブリッド検索方法およびハイブリッド検索プログラム | |
CN113676525A (zh) | 面向网络协同制造的工业互联网公共服务平台 | |
US10776163B1 (en) | Non-hierarchical management system for application programming interface resources | |
KR20210128096A (ko) | 사물인터넷 플랫폼 간 연동 방법 및 장치 | |
US11927928B2 (en) | Output management apparatus, output management method, and program | |
CN111566630B (zh) | 数据处理装置、数据处理方法及程序 | |
US20230153371A1 (en) | URL Exchange | |
JP5534885B2 (ja) | 分散データ処理最適化装置および分散データ処理最適化方法 | |
US20210382750A1 (en) | Output management apparatus, output management method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210330 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220328 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220719 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220801 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7127439 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |