JP2020042345A - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents
データ処理装置、データ処理方法及びデータ処理プログラム Download PDFInfo
- Publication number
- JP2020042345A JP2020042345A JP2018167017A JP2018167017A JP2020042345A JP 2020042345 A JP2020042345 A JP 2020042345A JP 2018167017 A JP2018167017 A JP 2018167017A JP 2018167017 A JP2018167017 A JP 2018167017A JP 2020042345 A JP2020042345 A JP 2020042345A
- Authority
- JP
- Japan
- Prior art keywords
- data
- format
- metadata
- unit
- sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2365—Ensuring data consistency and integrity
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Security & Cryptography (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
図1は、本実施の形態に従うデータ処理装置(データ処理サーバ)100の概要を説明するための図である。図1に示されるように、データ処理サーバ100は、ネットワークを介してセンシングデータDB(database)200に接続されている。センシングデータDB200には、種々のセンシングデータが蓄積されている。データ処理サーバ100は、センシングデータDB200から入力されたセンシングデータに処理を施すことによって、出力データを生成する。データ処理サーバ100は、生成された出力データを後工程に出力する。
図2は、本実施の形態に従うデータ処理サーバ100を含む分析用データ生成システム10の構成の一例を示す図である。分析用データ生成システム10は、製造現場等に設置されたセンサが生成したセンシングデータに基づいて、データ分析担当者が利用する分析用データを生成するシステムである。
図4は、データ処理サーバ100のハードウェア構成の一例を示す図である。なお、本実施の形態において、データ処理サーバ100は、たとえば、汎用コンピュータによって実現される。
<4−1.データ処理サーバ及びETLサーバのソフトウェア構成>
図5は、データ処理サーバ100のソフトウェア構成の一例、及び、ETLサーバ400のソフトウェア構成の一例を示す図である。図5に示されるように、データ処理サーバ100は、データ形式変換部102と、データ分離部104と、メタデータ変換部106と、メタデータ送信部108とを含んでいる。データ形式変換部102、データ分離部104、メタデータ変換部106及びメタデータ送信部108の各々は、制御部170(図4)が制御プログラム181を実行することよって実現されるソフトウェアモジュールである。
図6は、データ形式変換部102の詳細構成を示す図である。図6に示されるように、データ形式変換部102は、データ形式判定部110と、第1変換部112と、第2変換部114とを含んでいる。
図8は、メタデータ変換部106の詳細構成を示す図である。図8に示されるように、メタデータ変換部106は、問合せ部120と、ID変換部122と、値変換部124とを含んでいる。
ETLサーバ400においてセンシングデータのIDが変更されている場合には、変更後のIDにメタデータのIDを変更するようにID変換部122へ指示を出力する。また、問合せ部120は、ETLサーバ400においてセンシングデータの値が変更されている場合には、変更後の値と整合の取れる値にメタデータの値を変更するように値変換部124へ指示を出力する。
<5−1.データ形式変換処理>
図10は、データ形式変換部102におけるデータ形式変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、センシングデータDB200に蓄積されているデータがデータ形式変換部102に入力された場合に制御部170(データ形式変換部102)によって開始される。
図11は、メタデータ変換部106におけるメタデータ変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、メタデータ変換部106へメタデータが入力された場合に制御部170(メタデータ変換部106)によって開始される。
以上のように、本実施の形態に従うデータ処理サーバ100において、制御部170は、入力データの形式が第1及び第3データ形式である場合に、形式の変換処理を施すことによって、第2データ形式の出力データを生成するように構成されている。すなわち、このデータ処理サーバ100においては、入力データの形式に拘わらず第2データ形式のデータが出力される。したがって、このデータ処理サーバ100によれば、入力データの形式に拘わらず共通のデータ形式(第2データ形式)のデータが後工程に提供されるため、後工程におけるデータ処理を簡易にすることができる。
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて、種々の変更が可能である。以下、変形例について説明する。但し、以下の変形例は適宜組合せ可能である。
上記実施の形態においては、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータがセンシングデータであるとした。しかしながら、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、必ずしもセンシングデータである必要はない。たとえば、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、ショッピングサイトにおける各ユーザの購買履歴データや、ゲームサイトにおける各ユーザのスコアデータ等のセンシングデータ以外のデータであってもよい。
また、上記実施の形態においては、データ処理サーバ100において分離されたセンシングデータがETLサーバ400へ出力された。しかしながら、センシングデータは、必ずしもETLサーバ400へ出力されなくてもよい。たとえば、データ処理サーバ100において生成された第2データ形式のデータが単に分析用データDB300へ出力されてもよい。
上記実施の形態においては、データ処理サーバ100において生成されたメタデータが分析用データDB300へ出力された。しかしながら、データ処理サーバ100において生成されたメタデータの出力先は、分析用データDB300に限定されない。たとえば、データ処理サーバ100において生成されたメタデータは、ETLサーバ400のロード部406へ出力されてもよい。この場合には、ロード部406がセンシングデータ及びメタデータを対応付けて、分析用データDB300へ出力する。
Claims (7)
- 入力データに処理を施すことによって出力データを生成するように構成されたデータ処理装置であって、
プログラムを記憶するように構成されたメモリと、
前記プログラムを実行するように構成されたプロセッサとを備え、
前記入力データの形式としては、第1、第2及び第3データ形式があり、
前記第1データ形式は、実データを含む形式であり、
前記第2及び第3データ形式の各々は、前記実データと該実データの属性を示すメタデータとを含む形式であり、
前記第2データ形式においては、前記実データ及び前記メタデータの各々が異なるデータ単位を構成し、
前記第3データ形式においては、前記実データ及び前記メタデータが1つのデータ単位を構成し、
前記プログラムは、前記入力データの形式が前記第1及び第3データ形式である場合に、形式の変換処理を施すことによって、前記第2データ形式の前記出力データを生成するステップを前記プロセッサに実行させるように構成されている、データ処理装置。 - 前記プログラムは、前記入力データの形式が前記第2データ形式である場合に、前記第2データ形式の前記出力データを生成するステップをさらに前記プロセッサに実行させるように構成されている、請求項1に記載のデータ処理装置。
- 前記プログラムは、前記出力データに含まれる前記実データをETL(Extract/Transform/Load)ツールに出力するステップをさらに前記プロセッサに実行させるように構成されている、請求項1又は請求項2に記載のデータ処理装置。
- 前記プログラムは、前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップを前記プロセッサに実行させるように構成されている、請求項3に記載のデータ処理装置。
- 前記実データは、センサによって生成されたセンシングデータである、請求項1から請求項4のいずれか1項に記載のデータ処理装置。
- 入力データに処理を施すことによって出力データを生成するデータ処理方法であって、
前記入力データの形式としては、第1、第2及び第3データ形式があり、
前記第1データ形式は、実データを含む形式であり、
前記第2及び第3データ形式の各々は、前記実データと該実データの属性を示すメタデータとを含む形式であり、
前記第2データ形式においては、前記実データ及び前記メタデータの各々が異なるデータ単位を構成し、
前記第3データ形式においては、前記実データ及び前記メタデータが1つのデータ単位を構成し、
前記データ処理方法は、前記入力データの形式が前記第1及び第3データ形式である場合に、形式の変換処理を施すことによって、前記第2データ形式の前記出力データを生成するステップを含む、データ処理方法。 - 入力データに処理を施すことによって出力データを生成する処理をプロセッサに実行させるように構成されたデータ処理プログラムであって、
前記入力データの形式としては、第1、第2及び第3データ形式があり、
前記第1データ形式は、実データを含む形式であり、
前記第2及び第3データ形式の各々は、前記実データと該実データの属性を示すメタデータとを含む形式であり、
前記第2データ形式においては、前記実データ及び前記メタデータの各々が異なるデータ単位を構成し、
前記第3データ形式においては、前記実データ及び前記メタデータが1つのデータ単位を構成し、
前記データ処理プログラムは、前記入力データの形式が前記第1及び第3データ形式である場合に、形式の変換処理を施すことによって、前記第2データ形式の前記出力データを生成するステップを前記プロセッサに実行させるように構成されている、データ処理プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167017A JP7127440B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
CN201980052969.4A CN112567346A (zh) | 2018-09-06 | 2019-02-21 | 数据处理装置、数据处理方法和数据处理程序 |
PCT/JP2019/006424 WO2020049759A1 (ja) | 2018-09-06 | 2019-02-21 | データ処理装置、データ処理方法及びデータ処理プログラム |
US17/268,968 US11468082B2 (en) | 2018-09-06 | 2019-02-21 | Data processing apparatus, data processing method, and data processing program stored on computer-readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167017A JP7127440B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020042345A true JP2020042345A (ja) | 2020-03-19 |
JP7127440B2 JP7127440B2 (ja) | 2022-08-30 |
Family
ID=69721903
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018167017A Active JP7127440B2 (ja) | 2018-09-06 | 2018-09-06 | データ処理装置、データ処理方法及びデータ処理プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11468082B2 (ja) |
JP (1) | JP7127440B2 (ja) |
CN (1) | CN112567346A (ja) |
WO (1) | WO2020049759A1 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005150882A (ja) * | 2003-11-12 | 2005-06-09 | Mitsubishi Electric Corp | 機器遠隔監視制御システム |
JP2008217160A (ja) * | 2007-02-28 | 2008-09-18 | Nippon Telegr & Teleph Corp <Ntt> | センシングデータ変換システム、データ変換装置、およびデータ変換方法 |
JP2014096177A (ja) * | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
WO2014122732A1 (ja) * | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
WO2018011895A1 (ja) * | 2016-07-12 | 2018-01-18 | 株式会社日立製作所 | データ処理フロー管理システムおよび方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7002573B2 (en) * | 2003-01-16 | 2006-02-21 | 1914 Holding Company | Method and system for converting engineering data into 3D modeling data |
US7555715B2 (en) * | 2005-10-25 | 2009-06-30 | Sonic Solutions | Methods and systems for use in maintaining media data quality upon conversion to a different data format |
US8898236B2 (en) * | 2008-10-31 | 2014-11-25 | Netapp, Inc. | Automated conversion of versioned data collections |
US9934244B2 (en) * | 2010-08-13 | 2018-04-03 | At&T Intellectual Property I, L.P. | System and method for file format management |
EP3067872B1 (en) | 2012-09-12 | 2017-11-22 | Omron Corporation | Column traveling generating apparatus |
US9098558B2 (en) * | 2013-04-01 | 2015-08-04 | Oracle International Corporation | Enhanced flexibility for users to transform XML data to a desired format |
JP5744953B2 (ja) * | 2013-04-10 | 2015-07-08 | 東芝テック株式会社 | 取引データ処理装置、取引データ処理方法及びプログラム |
CN103838837B (zh) * | 2014-02-25 | 2017-08-15 | 浙江大学 | 基于语义模板的遥感元数据集成方法 |
JP6413258B2 (ja) * | 2014-02-28 | 2018-10-31 | キヤノンマーケティングジャパン株式会社 | Ediシステム、ediシステムの制御方法、情報処理装置、情報処理装置の制御方法、およびプログラム |
WO2015181902A1 (ja) * | 2014-05-28 | 2015-12-03 | 株式会社日立製作所 | 計算機システムおよび計算機システム制御方法 |
US9965487B2 (en) * | 2015-06-18 | 2018-05-08 | International Business Machines Corporation | Conversion of forms of user data segment IDs in a deduplication system |
-
2018
- 2018-09-06 JP JP2018167017A patent/JP7127440B2/ja active Active
-
2019
- 2019-02-21 US US17/268,968 patent/US11468082B2/en active Active
- 2019-02-21 WO PCT/JP2019/006424 patent/WO2020049759A1/ja active Application Filing
- 2019-02-21 CN CN201980052969.4A patent/CN112567346A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005150882A (ja) * | 2003-11-12 | 2005-06-09 | Mitsubishi Electric Corp | 機器遠隔監視制御システム |
JP2008217160A (ja) * | 2007-02-28 | 2008-09-18 | Nippon Telegr & Teleph Corp <Ntt> | センシングデータ変換システム、データ変換装置、およびデータ変換方法 |
WO2014122732A1 (ja) * | 2013-02-06 | 2014-08-14 | 株式会社日立製作所 | 計算機システム、メタデータ管理方法及び記録媒体 |
JP2014096177A (ja) * | 2014-01-22 | 2014-05-22 | Fujitsu Ltd | データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体 |
WO2018011895A1 (ja) * | 2016-07-12 | 2018-01-18 | 株式会社日立製作所 | データ処理フロー管理システムおよび方法 |
Non-Patent Citations (1)
Title |
---|
小田 利彦、他3名: "センシングデータ流通市場におけるメタデータの定義・生成・活用の一方式", 一般社団法人 人工知能学会 第32回全国大会論文集 1C3-OS-8B-01, JPN6021004812, 8 June 2018 (2018-06-08), JP, pages 1 - 2, ISSN: 0004700927 * |
Also Published As
Publication number | Publication date |
---|---|
US11468082B2 (en) | 2022-10-11 |
JP7127440B2 (ja) | 2022-08-30 |
CN112567346A (zh) | 2021-03-26 |
WO2020049759A1 (ja) | 2020-03-12 |
US20210311959A1 (en) | 2021-10-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3975474B1 (en) | Methods and apparatuses for chaining service data | |
WO2020049758A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
US20190266194A1 (en) | Information analysis system, information analysis method, and recording medium | |
WO2020049759A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
JP6558452B1 (ja) | 品質チェック装置、品質チェック方法及びプログラム | |
WO2020049757A1 (ja) | データ処理装置、データ処理方法及びデータ処理プログラム | |
CN112567348B (zh) | 数据处理装置、数据处理方法和计算机可读存储介质 | |
US11927928B2 (en) | Output management apparatus, output management method, and program | |
JP6468377B1 (ja) | 出力管理装置、出力管理方法及びプログラム | |
KR20210128096A (ko) | 사물인터넷 플랫폼 간 연동 방법 및 장치 | |
CN111597198A (zh) | 一种对于异构资源接入的物联网数据查询方法及相关设备 | |
KR20160127351A (ko) | 모바일 단말의 사용자 정보를 이용한 맞춤형 콘텐츠 공유 방법 및 장치 | |
JP6477936B1 (ja) | データ処理装置、データ処理方法及びプログラム | |
JP6477935B1 (ja) | 前処理判定装置、前処理判定方法及びプログラム | |
KR101948437B1 (ko) | 모바일 단말의 사용자 정보를 이용한 맞춤형 콘텐츠 공유 방법 및 장치 | |
EP3394819B1 (en) | Processing of status data in an electronic device | |
WO2019159486A1 (ja) | セッション制御装置、セッション制御方法及びプログラム | |
JP2019140558A (ja) | 候補抽出装置、候補抽出方法及びプログラム | |
JP2019169946A (ja) | 品質チェック装置、品質チェック方法及びプログラム | |
JP2019139552A (ja) | セッション制御装置、セッション制御方法及びプログラム | |
KR100723616B1 (ko) | 디지털 데이터베이스 공유 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210330 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220328 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220719 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220801 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7127440 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |