JP7127439B2 - データ処理装置、データ処理方法及びデータ処理プログラム - Google Patents

データ処理装置、データ処理方法及びデータ処理プログラム Download PDF

Info

Publication number
JP7127439B2
JP7127439B2 JP2018167016A JP2018167016A JP7127439B2 JP 7127439 B2 JP7127439 B2 JP 7127439B2 JP 2018167016 A JP2018167016 A JP 2018167016A JP 2018167016 A JP2018167016 A JP 2018167016A JP 7127439 B2 JP7127439 B2 JP 7127439B2
Authority
JP
Japan
Prior art keywords
data
metadata
actual data
etl
sensing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018167016A
Other languages
English (en)
Other versions
JP2020042344A (ja
Inventor
哲二 大和
泰司 吉川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2018167016A priority Critical patent/JP7127439B2/ja
Priority to PCT/JP2019/006422 priority patent/WO2020049757A1/ja
Priority to CN201980053093.5A priority patent/CN112567348A/zh
Publication of JP2020042344A publication Critical patent/JP2020042344A/ja
Application granted granted Critical
Publication of JP7127439B2 publication Critical patent/JP7127439B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor

Description

本発明は、データ処理装置、データ処理方法及びデータ処理プログラムに関する。
特開2016-91429号公報(特許文献1)は、情報処理システムを開示する。この情報処理システムにおいては、蓄積されている未加工のデータ群に基づいて、データ分析に適したデータ群が生成される。具体的には、この情報処理システムにおいては、ETL(Extract/Transform/Load)という加工処理を各データに施すことによって、データ分析に適したデータ群が生成される(特許文献1参照)。
また、WO2014/041826(特許文献2)は、データ流通に適用可能なシステムを開示する。このシステムにおいては、たとえば、センシングデータが流通する。センシングデータには、センシングデータの属性を示すメタデータが対応付けられている。このシステムにおいては、メタデータを参照することによって、利用者の要求を満たすセンシングデータが探索される(特許文献2参照)。
特開2016-91429号公報 WO2014/041826
上記特許文献1に開示されているようなETLを実行するシステムは、ETLツールとも呼ばれる。既存のETLツールは、実データ(たとえば、センシングデータ)の処理を対象としており、メタデータの処理を対象としていない場合が多い。したがって、既存のETLツールを使用する場合に、実データとメタデータとが対応付けられているときは、実データのみがETLツールに入力される。この場合に、実データのみに処理が施されると、実データとメタデータとの関係性に異常が生じる場合がある。
本発明は、このような問題を解決するためになされたものであって、その目的は、既存のETLツールを使用した場合であっても、実データとメタデータとの関係性を正常に保つことが可能なデータ処理装置、データ処理方法及びデータ処理プログラムを提供することである。
本発明のある局面に従うデータ処理装置は、データ処理装置の外部に設けられたETLツールに入力された実データの属性を示すメタデータに処理を施すように構成されている。このデータ処理装置は、メモリと、プロセッサとを備える。メモリは、プログラムを記憶するように構成されている。プロセッサは、プログラムを実行するように構成されている。プログラムは、ETLツールにおいて実データに施された処理に応じた処理をメタデータに施すステップをプロセッサに実行させるように構成されている。
このデータ処理装置においては、ETLツールにおいて実データに施された処理に応じた処理がメタデータに施される。したがって、このデータ処理装置によれば、既存のETLツールを使用した場合であっても、実データとメタデータとの関係性を正常に保つことができる。
上記データ処理装置において、実データ及びメタデータの各々には、共通のID(identification)が含まれてもよく、プログラムは、ETLツールにおいて実データに含まれているIDが変更された場合に、メタデータに含まれているIDを実データに含まれている変更後のIDに変更するステップをプロセッサに実行させるように構成されてもよい。
実データと、該実データの属性を示すメタデータとは、各々が共通のIDを含むことによって対応付けられている。したがって、ETLツールにおいて実データのIDが変更された場合に、メタデータのIDが変更されないと、実データとメタデータとの紐付けができなくなる。本発明に従うデータ処理装置においては、ETLツールにおいて実データに含まれているIDが変更された場合に、メタデータに含まれているIDが実データに含まれている変更後のIDに変更される。したがって、このデータ処理装置によれば、ETLツールにおいて実データのIDが変更されたとしても、実データとメタデータとの紐付けを維持することができる。
上記データ処理装置において、実データには、IDに対応付けられた値が含まれてもよく、メタデータには、IDに対応付けられ、かつ、実データの属性を示す値が含まれてもよく、プログラムは、ETLツールにおいて実データに含まれている値が変更された場合に、メタデータに含まれている値を、実データに含まれている変更後の値と整合の取れる値に変更するステップをプロセッサに実行させるように構成されてもよい。
ETLツールにおいて実データの値が変更された場合に、メタデータの値が変更されないと、実データとメタデータとの整合が取れなくなる場合がある。たとえば、実データの値が「8」桁である場合に、メタデータのうち実データの桁数を示す値は「8」を示す。この場合に、ETLツールにおいて実データの値が5桁に加工され、メタデータの値に加工が施されないと(メタデータの値は「8」を示したまま)、実データとメタデータとの整合が取れなくなる。本発明に従うデータ処理装置においては、ETLツールにおいて実データに含まれている値が変更された場合に、メタデータに含まれている値が、実データに含まれている変更後の値と整合の取れる値に変更される。したがって、このデータ処理装置によれば、ETLツールにおいて実データの値が変更されたとしても、実データとメタデータとの整合を維持することができる。
上記データ処理装置において、実データは、センサによって生成されたセンシングデータであってもよい。
本発明の別の局面に従うデータ処理方法は、ETLツールに入力された実データの属性を示すメタデータに処理を施す。このデータ処理方法は、ETLツールにおいて実データに施された処理に応じた処理をメタデータに施すステップを含む。
このデータ処理方法においては、ETLツールにおいて実データに施された処理に応じた処理がメタデータに施される。したがって、このデータ処理方法によれば、既存のETLツールを使用した場合であっても、実データとメタデータとの関係性を正常に保つことができる。
本発明の別の局面に従うデータ処理プログラムは、ETLツールに入力された実データの属性を示すメタデータの処理をプロセッサに実行させる。このデータ処理プログラムは、ETLツールにおいて実データに施された処理に応じた処理をメタデータに施すステップをプロセッサに実行させるように構成されている。
このデータ処理プログラムがプロセッサによって実行されると、ETLツールにおいて実データに施された処理に応じた処理がメタデータに施される。したがって、このデータ処理プログラムによれば、既存のETLツールを使用した場合であっても、実データとメタデータとの関係性を正常に保つことができる。
本発明によれば、既存のETLツールを使用した場合であっても、実データとメタデータとの関係性を正常に保つことが可能なデータ処理装置、データ処理方法及びデータ処理プログラムを提供することができる。
データ処理サーバの概要を説明するための図である。 データ処理サーバを含む分析用データ生成システムの構成の一例を示す図である。 センシングデータDBに記憶されているデータのデータ形式の種類を説明するための図である。 データ処理サーバのハードウェア構成の一例を示す図である。 データ処理サーバのソフトウェア構成の一例、及び、ETLサーバのソフトウェア構成の一例を示す図である。 データ形式変換部の詳細構成を示す図である。 データ形式変換部において実行されるデータ変換の内容を説明するための図である。 メタデータ変換部の詳細構成を示す図である。 値変換部におけるメタデータの変換の一例を示す図である。 データ形式変換部におけるデータ形式変換処理の手順の一例を示すフローチャートである。 メタデータ変換部におけるメタデータ変換処理の手順の一例を示すフローチャートである。
以下、本発明の一側面に係る実施の形態(以下、「本実施の形態」とも称する。)について、図面を用いて詳細に説明する。なお、図中同一又は相当部分には同一符号を付してその説明は繰り返さない。また、以下で説明する本実施の形態は、あらゆる点において本発明の例示にすぎない。本実施の形態は、本発明の範囲内において、種々の改良や変更が可能である。すなわち、本発明の実施にあたっては、実施の形態に応じて具体的構成を適宜採用することができる。
[1.概要]
図1は、本実施の形態に従うデータ処理装置(データ処理サーバ)100の概要を説明するための図である。図1に示されるように、データ処理サーバ100は、ネットワークを介してセンシングデータDB(database)200及びETLツール(ETLサーバ)400に接続されている。センシングデータDB200には、種々のセンシングデータが蓄積されている。データ処理サーバ100は、センシングデータDB200から入力されたセンシングデータに処理を施すことによって、出力データを生成する。
たとえば、センシングデータDB200に蓄積されているデータには、センサによって生成されたセンシングデータと、該センシングデータの属性を示すメタデータとが対応付けられているデータがある。一方、ETLサーバ400(たとえば、既存のETLツール)は、センシングデータ(実データ)の処理を対象としており、メタデータの処理を対象としていない。したがって、センシングデータDB200に蓄積されているデータのうち、センシングデータのみがETLサーバ400に送信される。この場合に、ETLサーバ400においてセンシングデータのみに処理が施されると、センシングデータとメタデータとの関係性に異常が生じる(整合が取れなくなる)場合がある。
本実施の形態に従うデータ処理サーバ100は、メタデータ変換部106を含んでいる。メタデータ変換部106は、ETLサーバ400においてセンシングデータに施された処理に応じた処理をメタデータに施す。したがって、データ処理サーバ100によれば、既存のETLツールを使用した場合であっても、センシングデータ(実データ)とメタデータとの関係性を正常に保つことができる。以下、システム全体の構成、データ処理サーバ100のハードウェア構成及びソフトウェア構成、並びに、データ処理サーバ100の動作について順に説明する。
[2.システム構成]
図2は、本実施の形態に従うデータ処理サーバ100を含む分析用データ生成システム10の構成の一例を示す図である。分析用データ生成システム10は、製造現場等に設置されたセンサが生成したセンシングデータに基づいて、データ分析担当者が利用する分析用データを生成するシステムである。
データ分析担当者の多くは、製造現場等の事情について詳しくない。したがって、データ分析担当者の多くは、センシングデータのみを参照したとしても、センシングデータが何を意味するのかを正確には把握できない。本実施の形態において、分析用データは、センシングデータ(実データ)と、データ分析担当者によるセンシングデータの理解を助けるためのメタデータとを含む。メタデータは、センシングデータの属性を示す。なお、メタデータは、製造現場等において生成されてもよいし、分析用データが生成される過程で生成されてもよい。
データ分析担当者は、センシングデータに対応付けられているメタデータを参照することによって、センシングデータを適切に扱うことができる。その結果、データ分析担当者は、適切なデータ分析を行なうことができる。
図2の例では、分析用データ生成システム10は、データ処理サーバ100と、センシングデータDB200と、分析用データDB300と、ETLサーバ400と、ID管理サーバ500とを含んでいる。
センシングデータDB200は、センサによって生成されたセンシングデータを記憶する。センシングデータDB200に記憶されているセンシングデータを生成するセンサとしては、たとえば、画像センサ(カメラ)、温度センサ、湿度センサ、照度センサ、力センサ、音センサ、RFID(Radio Frequency IDentification)センサ、赤外線センサ、姿勢センサ、降雨センサ、放射能センサ及びガスセンサ等がある。また、センサは、必ずしも固設型である必要はなく、携帯電話、スマートフォン及びタブレット等の移動型であってもよい。また、センサは、必ずしも単一のセンシングデバイスで構成されている必要はなく、複数のセンシングデバイスによって構成されていてもよい。また、センサは、どのような目的で設置されていてもよく、たとえば、工場におけるFA(Factory Automation)及び生産管理、都市交通制御、気象等の環境計測、ヘルスケア並びに防犯等のために設置されていてもよい。
このように、センシングデータDB200には、様々なセンサによって生成されたセンシングデータが記憶されている。したがって、センシングデータDB200に記憶されているデータの形式は、必ずしも統一されていない。たとえば、センシングデータDB200には、複数種類のデータ形式のデータが記憶されている。
図3は、センシングデータDB200に記憶されているデータのデータ形式の種類を説明するための図である。図3に示されるように、第1データ形式は、センシングデータ(実データ)を含む(メタデータを含まない)データ形式である。第1データ形式において、センシングデータは、センサによって生成された値V11を含む。
第2データ形式は、センシングデータとメタデータとを含み、センシングデータ及びメタデータの各々が異なるデータ単位を構成するデータ形式である。第2データ形式において、センシングデータは、ID(identification)と、センサによって生成された値V21とを含む。IDがどのように決定されるかについては、後程詳しく説明する。メタデータは、IDと、センシングデータの属性を示す値V22とを含む。なお、センシングデータとメタデータとは、共通のID(identification)を含むことによって、互いに対応付けられている。
第3データ形式は、センシングデータとメタデータとを含み、センシングデータ及びメタデータが1つのデータ単位を構成するデータ形式である。第3データ形式においては、センサによって生成された値V31が格納されるとともに、ヘッダ部にメタデータが格納される。
再び図2を参照して、ETLサーバ400は、いわゆるETLツールを実現する。すなわち、ETLサーバ400は、センシングデータDB200からデータを抽出し(E)、抽出されたデータを分析に適した状態に変換し(T)、変換後のデータを分析用データDB300へロードする(L)。ETLサーバ400については、後程詳しく説明する。
データ処理サーバ100は、ETLサーバ400がセンシングデータDB200に送信を要求したセンシングデータに事前に処理を施す。データ処理サーバ100は、センシングデータDB200から取得したセンシングデータ(実データ)をETLサーバ400へ出力するとともに、該センシングデータに対応付けられているメタデータに処理を施す。データ処理サーバ100は、処理後のメタデータを分析用データDB300へ出力する。データ処理サーバ100については、後程詳しく説明する。
分析用データDB300は、ETLサーバ400において処理が施されたセンシングデータと、データ処理サーバ100において処理が施されたメタデータとを記憶する。分析用データDB300に記憶されているセンシングデータ及びメタデータの各々は、データ分析担当者が容易に分析できるように加工されている。
ID管理サーバ500は、第2データ形式において、センシングデータ(実データ)及びメタデータの各々が含むIDを管理する。ID管理サーバ500は、たとえば、データ処理サーバ100及びETLサーバ400からの要求を受けて、発行済みのIDと重複しないIDを生成する。ID管理サーバ500は、たとえば、UUID(Universally Unique Identifier)を生成する。また、ID管理サーバ500は、各センシングデータ及び各メタデータに含まれるIDの変遷(履歴)を記憶する。すなわち、たとえば、あるセンシングデータに含まれているIDが変更された場合に、ID管理サーバ500は、変更前のIDと、変更後のIDとを該センシングデータに対応付けて記憶する。したがって、たとえば、センシングデータの提供者は、ID管理サーバ500にアクセスすることによって、自身が提供したセンシングデータがどのような使われ方をしているのかを確認することができる。
[3.ハードウェア構成]
図4は、データ処理サーバ100のハードウェア構成の一例を示す図である。なお、本実施の形態において、データ処理サーバ100は、たとえば、汎用コンピュータによって実現される。
図4の例では、データ処理サーバ100は、制御部170と、通信I/F(interface)190と、記憶部180とを含み、各構成は、バス195を介して電気的に接続されている。
制御部170は、CPU(Central Processing Unit)172、RAM(Random Access Memory)174及びROM(Read Only Memory)176等を含み、情報処理に応じて各構成要素の制御を行なうように構成されている。
通信I/F190は、インターネットを介して、データ処理サーバ100の外部に設けられた外部装置(たとえば、センシングデータDB200、分析用データDB300、ETLサーバ400及びID管理サーバ500(図2))と通信するように構成されている。通信I/F190は、たとえば、有線LAN(Local Area Network)モジュールや無線LANモジュールで構成される。
記憶部180は、たとえば、ハードディスクドライブ、ソリッドステートドライブ等の補助記憶装置である。記憶部180は、たとえば、制御プログラム181を記憶するように構成されている。
制御プログラム181は、制御部170によって実行されるデータ処理サーバ100の制御プログラムである。たとえば、制御部170が制御プログラム181を実行することによって、後述の各ソフトウェアモジュールが実現されてもよい。制御部170が制御プログラム181を実行する場合に、制御プログラム181は、RAM174に展開される。そして、制御部170は、RAM174に展開された制御プログラム181をCPU172によって解釈及び実行することにより、各構成要素を制御する。なお、ETLサーバ400のハードウェア構成は、データ処理サーバ100のハードウェア構成と同様とすることができる。
[4.ソフトウェア構成]
<4-1.データ処理サーバ及びETLサーバのソフトウェア構成>
図5は、データ処理サーバ100のソフトウェア構成の一例、及び、ETLサーバ400のソフトウェア構成の一例を示す図である。図5に示されるように、データ処理サーバ100は、データ形式変換部102と、データ分離部104と、メタデータ変換部106と、メタデータ送信部108とを含んでいる。データ形式変換部102、データ分離部104、メタデータ変換部106及びメタデータ送信部108の各々は、制御部170(図4)が制御プログラム181を実行することよって実現されるソフトウェアモジュールである。
ETLサーバ400は、データ抽出部402と、データ変換部404と、ロード部406とを含んでいる。データ抽出部402、データ変換部404及びロード部406の各々は、ETLサーバ400に含まれる不図示の制御部(プロセッサ)が不図示の制御プログラムを実行することによって実現されるソフトウェアモジュールである。
これらのソフトウェアモジュールは、ETLサーバ400に含まれるデータ抽出部402がセンシングデータDB200にデータの送信を要求することによって処理を開始する。すなわち、データ抽出部402がセンシングデータDB200にデータ送信を要求するAPI(Application Programming Interface)コマンドを送信することによって、センシングデータDB200に蓄積されているデータがデータ形式変換部102へ送信される。これにより、処理が開始される。
データ形式変換部102は、入力データのデータ形式を上述の第2データ形式に統一するソフトウェアモジュールである。データ形式変換部102は、入力データのデータ形式を判定し、判定結果に応じてデータ形式の変換処理を行なう。データ形式変換部102によって生成されたデータは、データ分離部104へ出力される。データ形式変換部102については、後程詳しく説明する。
データ分離部104は、入力データをセンシングデータ(実データ)とメタデータとに分離するソフトウェアモジュールである。ETLサーバ400は実データの処理のみを行なう場合が多いため、データ分離部104は、センシングデータをデータ抽出部402へ出力し、メタデータをメタデータ変換部106へ出力する。
データ抽出部402は、入力(抽出)されたセンシングデータをデータ変換部404へ出力する。
データ変換部404は、たとえばセンシングデータの種類毎に予め定められた変換ルールに従って、入力データに変換処理を施すソフトウェアモジュールである。たとえば、温度センサによって生成されたセンシングデータの値が電圧値(V)を示すとする。この場合に、変換ルールは、たとえば、電圧値(V)と温度(℃)との変換式を示す。データ変換部404は、たとえば、この変換式に従って、入力された電圧値(V)を温度(℃)に変換する。また、たとえば、センサによって生成されたセンシングデータの桁数が10桁であったとする。この場合に、たとえば、変換ルールとして、センシングデータの桁数を5桁に統一するというルールが規定されているとする。この場合には、データ変換部404は、変換ルールに従って、入力されたセンシングデータの桁数を5桁に変換する。
また、データ変換部404は、センシングデータの値が変換(変更)されると、センシングデータに含まれるIDを変更する。IDの変更を行なう場合に、データ変換部404は、ID管理サーバ500へ新たなIDの発行を要求する。データ変換部404は、ID管理サーバ500から新たなIDを受信すると、該IDをセンシングデータに付与する。データ変換部404は、変換後のセンシングデータをロード部406へ出力する。
ロード部406は、入力データを分析用データDB300へ出力するソフトウェアモジュールである。分析用データDB300においては、ロード部406から入力されたセンシングデータが記憶される。
メタデータ変換部106は、ETLサーバ400においてセンシングデータに施された変換処理に応じて、メタデータに変換処理を施すソフトウェアモジュールである。変換処理が施されたメタデータは、メタデータ送信部108へ出力される。メタデータ変換部106については、後程詳しく説明する。
メタデータ送信部108は、入力データを分析用データDB300へ出力するソフトウェアモジュールである。分析用データDB300においては、メタデータ送信部108から入力されたメタデータが記憶される。
<4-2.データ形式変換部の詳細構成>
図6は、データ形式変換部102の詳細構成を示す図である。図6に示されるように、データ形式変換部102は、データ形式判定部110と、第1変換部112と、第2変換部114とを含んでいる。
データ形式判定部110は、入力データのデータ形式を判定するソフトウェアモジュールである。データ形式判定部110は、入力データが上述の第1、第2及び第3データ形式のいずれのデータ形式であるかを判定する。具体的には、データ形式判定部110は、i)入力データがメタデータを含んでいるか、及び、ii)センシングデータ(実データ)とメタデータとが同一のデータ単位を構成しているか否かを判定する。
データ形式判定部110は、入力データがメタデータを含んでいないと判定すると、入力データの形式が第1データ形式であると判定する。データ形式判定部110は、入力データがメタデータを含んでおり、かつ、センシングデータ及びメタデータの各々が異なるデータ単位を構成していると判定すると、入力データの形式が第2データ形式であると判定する。データ形式判定部110は、入力データがメタデータを含んでおり、かつ、センシングデータ及びメタデータが1つのデータ単位を構成していると判定すると、入力データの形式が第3データ形式であると判定する。
データ形式判定部110は、入力データが第1データ形式であると判定すると、データを第1変換部112へ出力する。データ形式判定部110は、入力データが第2データ形式であると判定すると、データをデータ分離部104へ出力する。データ形式判定部110は、入力データが第3データ形式であると判定すると、データを第2変換部114へ出力する。すなわち、入力データが第2データ形式であると判定された場合には、データ形式の変換処理は行なわれない。
第1変換部112は、第1データ形式のデータを第2データ形式のデータへ変換するソフトウェアモジュールである。第2変換部114は、第3データ形式のデータを第2データ形式のデータへ変換するソフトウェアモジュールである。
図7は、データ形式変換部102において実行されるデータ変換の内容を説明するための図である。図7を参照して、上述のように、第1変換部112は、第1データ形式のデータを第2データ形式へ変換する。具体的には、第1変換部112は、予め定められたデフォルト値を示すメタデータを生成する。さらに、第1変換部112は、ID管理サーバ500(図5)へIDの発行を要求し、受信したIDをセンシングデータ及びメタデータの各々に付与する。これにより、各々に共通のIDが付与された、データ単位の異なる、センシングデータ及びメタデータが生成される。
また、上述のように、第2変換部114は、第3データ形式のデータを第2データ形式へ変換する。具体的には、第2変換部114は、センシングデータとメタデータとを異なるデータ単位に分離する。さらに、第2変換部114は、ID管理サーバ500(図5)へIDの発行を要求し、受信したIDをセンシングデータ及びメタデータの各々に付与する。これにより、各々に共通のIDが付与された、データ単位の異なる、センシングデータ及びメタデータが生成される。
再び図6を参照して、第1変換部112によってデータ形式が変換されたデータ、及び、第2変換部114によってデータ形式が変換されたデータの各々は、データ分離部104へ出力される。
このように、データ形式変換部102においては、入力データの形式が第1及び第3データ形式であったとしても、第2データ形式の出力データが生成される。すなわち、データ形式変換部102においては、入力データの形式に拘わらず第2データ形式のデータが出力される。したがって、データ形式変換部102によれば、入力データの形式に拘わらず共通のデータ形式(第2データ形式)のデータが後工程に提供されるため、後工程におけるデータ処理を簡易にすることができる。
<4-3.メタデータ変換部の詳細構成>
図8は、メタデータ変換部106の詳細構成を示す図である。図8に示されるように、メタデータ変換部106は、問合せ部120と、ID変換部122と、値変換部124とを含んでいる。
問合せ部120は、ETLサーバ400にセンシングデータへの処理内容を問い合わせるソフトウェアモジュールである。たとえば、問合せ部120は、ETLサーバ400に、i)センシングデータのID変更の有無、及び、変更後のID、並びに、ii)センシングデータの値の変換内容を問い合わせる。センシングデータの値の変換内容とは、たとえば、「単位の変換」や「桁数の変換」である。問合せ部120は、問合せに対する応答をETLサーバ400から受信する。
問合せ部120は、ETLサーバ400からの応答内容に応じて、ID変換部122及び値変換部124へ指示を出力する。すなわち、問合せ部120は、
ETLサーバ400においてセンシングデータのIDが変更されている場合には、変更後のIDにメタデータのIDを変更するようにID変換部122へ指示を出力する。また、問合せ部120は、ETLサーバ400においてセンシングデータの値が変更されている場合には、変更後の値と整合の取れる値にメタデータの値を変更するように値変換部124へ指示を出力する。
ID変換部122は、問合せ部120からの指示に従って、メタデータに処理を施すソフトウェアモジュールである。ID変換部122は、たとえば、ETLサーバ400においてセンシングデータのIDが変更されている場合に、センシングデータに含まれている変更後のIDにメタデータに含まれているIDを変更する。一方、ID変換部122は、たとえば、ETLサーバ400においてセンシングデータのIDが変更されていない場合には、メタデータに含まれているIDを変更しない。すなわち、ID変換部122においては、ETLサーバ400においてセンシングデータに含まれているIDが変更された場合にのみ、メタデータに含まれているIDが変更される。この構成によれば、IDも有限であるところ、IDを必要以上に発行する事態を回避することができる。
値変換部124は、問合せ部120からの指示に従って、メタデータに処理を施すソフトウェアモジュールである。値変換部124は、たとえば、ETLサーバ400においてセンシングデータの値が変換(変更)されている場合に、変更後の値と整合の取れる値にメタデータの値を変更する。
図9は、値変換部124におけるメタデータの変換の一例を示す図である。この一例においては、ETLサーバ400において、センシングデータの単位が電圧(V)から温度(℃)に変更されるのに伴ないセンシングデータの値が変換されており、かつ、センシングデータの桁数が10桁から5桁に変換されている。
図9に示されるように、このような場合には、メタデータに含まれる「単位」の項目が「V」から「℃」に変更され、メタデータに含まれる「桁数」の項目が「10桁」から「5桁」に変更される。
再び図8を参照して、値変換部124によって生成されたメタデータは、メタデータ送信部108へ出力される。
このように、メタデータ変換部106においては、ETLサーバ400(ETLツール)においてセンシングデータ(実データ)に施された処理に応じた処理がメタデータに施される。したがって、メタデータ変換部106によれば、既存のETLツールを使用した場合であっても、センシングデータ(実データ)とメタデータとの関係性を正常に保つことができる。
また、本実施の形態において、センシングデータと、該センシングデータの属性を示すメタデータとは、各々が共通のIDを含むことによって対応付けられている。したがって、ETLサーバ400においてセンシングデータのIDが変更された場合に、メタデータのIDが変更されないと、センシングデータとメタデータとの紐付けができなくなる。メタデータ変換部106においては、ETLサーバ400においてセンシングデータに含まれているIDが変更された場合に、メタデータに含まれているIDがセンシングデータに含まれている変更後のIDに変更される。したがって、メタデータ変換部106によれば、ETLサーバ400においてセンシングデータのIDが変更されたとしても、センシングデータとメタデータとの紐付けを維持することができる。
また、ETLサーバ400においてセンシングデータの値が変更された場合に、メタデータの値が変更されないと、センシングデータとメタデータとの整合が取れなくなる場合がある。メタデータ変換部106においては、ETLサーバ400においてセンシングデータに含まれている値が変更された場合に、メタデータに含まれている値が、センシングデータに含まれている変更後の値と整合の取れる値に変更される。したがって、メタデータ変換部106によれば、ETLサーバ400においてセンシングデータの値が変更されたとしても、センシングデータとメタデータとの整合を維持することができる。
[5.動作]
<5-1.データ形式変換処理>
図10は、データ形式変換部102におけるデータ形式変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、センシングデータDB200に蓄積されているデータがデータ形式変換部102に入力された場合に制御部170(データ形式変換部102)によって開始される。
図10を参照して、制御部170は、入力データのデータ形式が第2データ形式であるか否かを判定する(ステップS100)。入力データのデータ形式が第2データ形式であると判定されると(ステップS100においてYES)、処理はステップS140へ移行する。
一方、入力データの形式が第2データ形式でないと判定されると(ステップS100においてNO)、制御部170は、入力データのデータ形式が第1データ形式であるか否かを判定する(ステップS110)。入力データの形式が第1データ形式であると判定されると(ステップS110においてYES)、制御部170は、入力データの形式を第1データ形式から第2データ形式へ変換する(ステップS120)。
一方、入力データの形式が第1データ形式でないと判定されると(ステップS110においてNO)、制御部170は、入力データの形式を第3データ形式から第2データ形式へ変換する(ステップS130)。その後、制御部170は、第2データ形式のデータを出力する(ステップS140)。これにより、データ形式変換部102の出力データの形式が第2データ形式へ統一される。
<5-2.メタデータ変換処理>
図11は、メタデータ変換部106におけるメタデータ変換処理の手順の一例を示すフローチャートである。このフローチャートに示される処理は、メタデータ変換部106へメタデータが入力された場合に制御部170(メタデータ変換部106)によって開始される。
図11を参照して、制御部170は、入力されたメタデータに含まれているIDと同一のIDを含むセンシングデータ(実データ)への処理内容をETLサーバ400へ問い合わせる(ステップS200)。制御部170は、ETLサーバ400から回答を受信したか否かを判定する(ステップS210)。回答が受信されていないと判定されると(ステップS210においてNO)、制御部170は、ステップS210の処理を繰り返す。
一方、回答が受信されたと判定されると(ステップS210においてYES)、制御部170は、受信された回答に基づいて、ETLサーバ400においてセンシングデータのIDが変換されたか否かを判定する(ステップS220)。センシングデータのIDが変換されていないと判定されると(ステップS220においてNO)、処理はステップS240へ移行する。
一方、センシングデータのIDが変換されたと判定されると(ステップS220においてYES)、制御部170は、センシングデータに含まれている変換後のIDにメタデータのIDを変換する(ステップS230)。
制御部170は、ステップS210において受信された回答に基づいて、ETLサーバ400においてセンシングデータの値が変換されたか否かを判定する(ステップS240)。センシングデータの値が変換されていないと判定されると(ステップS240においてNO)、処理はステップS260へ移行する。
一方、センシングデータの値が変換されたと判定されると(ステップS240においてYES)、制御部170は、センシングデータに含まれている値と整合の取れる値にメタデータの値を変換する(ステップS250)。その後、制御部170は、変換後のメタデータを出力する(ステップS260)。これにより、ETLサーバ400において処理が施されたセンシングデータと整合の取れたメタデータが生成される。
[6.特徴]
以上のように、本実施の形態に従うデータ処理サーバ100において、制御部170は、ETLサーバ400においてセンシングデータ(実データ)に施された処理に応じた処理をメタデータに施すように構成されている。したがって、データ処理サーバ100によれば、既存のETLツールを使用した場合であっても、センシングデータ(実データ)とメタデータとの関係性を正常に保つことができる。
なお、データ処理サーバ100は、本発明の「データ処理装置」の一例であり、記憶部180は、本発明の「メモリ」の一例であり、制御部170は、本発明の「プロセッサ」の一例である。
[7.変形例]
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて、種々の変更が可能である。以下、変形例について説明する。但し、以下の変形例は適宜組合せ可能である。
<7-1>
上記実施の形態においては、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータがセンシングデータであるとした。しかしながら、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、必ずしもセンシングデータである必要はない。たとえば、センシングデータDB200に記憶されているデータ、及び、データ処理サーバ100において処理されるデータは、ショッピングサイトにおける各ユーザの購買履歴データや、ゲームサイトにおける各ユーザのスコアデータ等のセンシングデータ以外のデータであってもよい。
<7-2>
上記実施の形態においては、データ処理サーバ100において生成されたメタデータが分析用データDB300へ出力された。しかしながら、データ処理サーバ100において生成されたメタデータの出力先は、分析用データDB300に限定されない。たとえば、データ処理サーバ100において生成されたメタデータは、ETLサーバ400のロード部406へ出力されてもよい。この場合には、ロード部406がセンシングデータ及びメタデータを対応付けて、分析用データDB300へ出力する。
<7-3>
上記実施の形態において、メタデータ変換部106は、ID変換部122及び値変換部124の双方を含んだ。しかしながら、メタデータ変換部106は、必ずしもID変換部122及び値変換部124の双方を含む必要はない。たとえば、メタデータ変換部106は、ID変換部122及び値変換部124のいずれか一方のみを含んでもよい。
10 分析用データ生成システム、100 データ処理サーバ、102 データ形式変換部、104 データ分離部、106 メタデータ変換部、108 メタデータ送信部、110 データ形式判定部、112 第1変換部、114 第2変換部、120 問合せ部、122 ID変換部、124 値変換部、170 制御部、172 CPU、174 RAM、176 ROM、180 記憶部、181 制御プログラム、190 通信I/F、195 バス、200 センシングデータDB、300 分析用データDB、400 ETLサーバ、402 データ抽出部、404 データ変換部、406 ロード部、500 ID管理サーバ。

Claims (5)

  1. データ処理装置の外部に設けられたETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すように構成されたデータ処理装置であって、
    前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
    プログラムを記憶するように構成されたメモリと、
    前記プログラムを実行するように構成されたプロセッサとを備え、
    前記プログラムは、前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップであって、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを前記プロセッサに実行させるように構成されている、データ処理装置。
  2. 前記実データには、ID(identification)に対応付けられた値が含まれており、
    前記メタデータには、IDに対応付けられ、かつ、前記実データの属性を示す値が含まれており、
    前記プログラムは、前記ETLツールにおいて前記実データに含まれている値が変更された場合に、前記メタデータに含まれている値を、前記実データに含まれている変更後の値と整合の取れる値に変更するステップを前記プロセッサに実行させるように構成されている、請求項1に記載のデータ処理装置。
  3. 前記実データは、センサによって生成されたセンシングデータである、請求項1または2に記載のデータ処理装置。
  4. コンピュータが、外部のETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータに処理を施すデータ処理方法であって、
    前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
    前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップであって、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを含む、データ処理方法。
  5. ETL(Extract/Transform/Load)ツールに入力された実データの属性を示すメタデータの処理を、前記ETLツールとは別のコンピュータが備えるプロセッサに実行させるデータ処理プログラムであって、
    前記実データ及び前記メタデータの各々には、共通のID(identification)が含まれており、
    前記ETLツールにおいて前記実データに施された処理に応じた処理を前記メタデータに施すステップであって、前記ETLツールにおいて前記実データに含まれているIDが変更された場合に、前記メタデータに含まれているIDを前記実データに含まれている変更後のIDに変更するステップを前記プロセッサに実行させるように構成されている、データ処理プログラム。


JP2018167016A 2018-09-06 2018-09-06 データ処理装置、データ処理方法及びデータ処理プログラム Active JP7127439B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018167016A JP7127439B2 (ja) 2018-09-06 2018-09-06 データ処理装置、データ処理方法及びデータ処理プログラム
PCT/JP2019/006422 WO2020049757A1 (ja) 2018-09-06 2019-02-21 データ処理装置、データ処理方法及びデータ処理プログラム
CN201980053093.5A CN112567348A (zh) 2018-09-06 2019-02-21 数据处理装置、数据处理方法和数据处理程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018167016A JP7127439B2 (ja) 2018-09-06 2018-09-06 データ処理装置、データ処理方法及びデータ処理プログラム

Publications (2)

Publication Number Publication Date
JP2020042344A JP2020042344A (ja) 2020-03-19
JP7127439B2 true JP7127439B2 (ja) 2022-08-30

Family

ID=69723113

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018167016A Active JP7127439B2 (ja) 2018-09-06 2018-09-06 データ処理装置、データ処理方法及びデータ処理プログラム

Country Status (3)

Country Link
JP (1) JP7127439B2 (ja)
CN (1) CN112567348A (ja)
WO (1) WO2020049757A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014096177A (ja) 2014-01-22 2014-05-22 Fujitsu Ltd データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体
WO2014122732A1 (ja) 2013-02-06 2014-08-14 株式会社日立製作所 計算機システム、メタデータ管理方法及び記録媒体

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1050938A (zh) * 1989-10-13 1991-04-24 国际商业机器公司 数据库系统的存取程序无效
JP3674569B2 (ja) * 2001-10-04 2005-07-20 オムロン株式会社 センサ管理装置、センサ管理装置の制御プログラム、このプログラムを記録したコンピュータ読み取り可能な記録媒体、センサ管理装置の制御方法
US7401064B1 (en) * 2002-11-07 2008-07-15 Data Advantage Group, Inc. Method and apparatus for obtaining metadata from multiple information sources within an organization in real time
JP4717464B2 (ja) * 2005-02-18 2011-07-06 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
CN101364240B (zh) * 2008-10-14 2010-07-21 杭州华三通信技术有限公司 元数据管理方法及装置
CN101567890A (zh) * 2009-06-05 2009-10-28 成都市华为赛门铁克科技有限公司 元数据传输方法、客户端设备及服务器设备
US9213706B2 (en) * 2013-06-13 2015-12-15 DataGravity, Inc. Live restore for a data intelligent storage system
JPWO2015107925A1 (ja) * 2014-01-16 2017-03-23 ソニー株式会社 データ処理装置、及び、データ処理方法
US20160231936A1 (en) * 2015-02-11 2016-08-11 Eugene Edwin Nelson In-memory variable meta data system and method
US9866684B2 (en) * 2015-02-16 2018-01-09 Microsoft Technology Licensing, Llc Process for real-time data exchange between users on a phone call

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014122732A1 (ja) 2013-02-06 2014-08-14 株式会社日立製作所 計算機システム、メタデータ管理方法及び記録媒体
JP2014096177A (ja) 2014-01-22 2014-05-22 Fujitsu Ltd データ統合装置、データ統合方法およびデータ統合プログラムを記録したコンピュータ読み取り可能な記録媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
小田 利彦、他3名,センシングデータ流通市場におけるメタデータの定義・生成・活用の一方式,一般社団法人 人工知能学会 第32回全国大会論文集 1C3-OS-8b-01,日本,一般社団法人 人工知能学会,2018年06月08日,p.1-2

Also Published As

Publication number Publication date
CN112567348A (zh) 2021-03-26
WO2020049757A1 (ja) 2020-03-12
JP2020042344A (ja) 2020-03-19

Similar Documents

Publication Publication Date Title
WO2019114766A1 (zh) 一种数据脱敏方法、服务器、终端及计算机可读存储介质
CN109964216A (zh) 识别未知数据对象
EP3975474B1 (en) Methods and apparatuses for chaining service data
JP5018914B2 (ja) センサデータ提供システム、方法及び装置
JP7127438B2 (ja) データ処理装置、データ処理方法及びデータ処理プログラム
US8037209B2 (en) Device configuration integration information managing device and device configuration information managing device
WO2015128954A1 (ja) デバイス情報提供システム、デバイス情報提供方法
US20130094403A1 (en) Method and apparatus for providing sensor network information
JP2006285526A (ja) 画像データに応じた情報検索
JP2724082B2 (ja) Vlsiプロセスのデータ解析支援システム
CN108154024B (zh) 一种数据检索方法、装置及电子设备
JP7127439B2 (ja) データ処理装置、データ処理方法及びデータ処理プログラム
JP7127440B2 (ja) データ処理装置、データ処理方法及びデータ処理プログラム
KR100912373B1 (ko) 자원 공유를 위한 cib 상황인지 프레임워크 운용 장치및 방법
KR101720316B1 (ko) 센서 네트워크 정보 제공 방법 및 그 장치
US20150106363A1 (en) Computer system, data management method, and recording medium storing program
WO2010058519A1 (ja) ハイブリッド検索システム、ハイブリッド検索方法およびハイブリッド検索プログラム
CN113676525A (zh) 面向网络协同制造的工业互联网公共服务平台
US10776163B1 (en) Non-hierarchical management system for application programming interface resources
KR20210128096A (ko) 사물인터넷 플랫폼 간 연동 방법 및 장치
US11927928B2 (en) Output management apparatus, output management method, and program
CN111566630B (zh) 数据处理装置、数据处理方法及程序
US20230153371A1 (en) URL Exchange
JP5534885B2 (ja) 分散データ処理最適化装置および分散データ処理最適化方法
US20210382750A1 (en) Output management apparatus, output management method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220801

R150 Certificate of patent or registration of utility model

Ref document number: 7127439

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150