JP5478722B2 - データ処理装置及びデータ処理方法及びプログラム - Google Patents
データ処理装置及びデータ処理方法及びプログラム Download PDFInfo
- Publication number
- JP5478722B2 JP5478722B2 JP2012520228A JP2012520228A JP5478722B2 JP 5478722 B2 JP5478722 B2 JP 5478722B2 JP 2012520228 A JP2012520228 A JP 2012520228A JP 2012520228 A JP2012520228 A JP 2012520228A JP 5478722 B2 JP5478722 B2 JP 5478722B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- time
- record
- input
- unarrived
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 72
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000000034 method Methods 0.000 claims description 78
- 238000003860 storage Methods 0.000 claims description 56
- 238000012544 monitoring process Methods 0.000 claims description 43
- 238000005259 measurement Methods 0.000 claims description 33
- 230000003111 delayed effect Effects 0.000 claims description 31
- 230000005540 biological transmission Effects 0.000 claims description 24
- 230000001934 delay Effects 0.000 claims description 16
- 238000009434 installation Methods 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 claims description 3
- 238000007726 management method Methods 0.000 description 99
- 230000006870 function Effects 0.000 description 28
- 238000010586 diagram Methods 0.000 description 13
- 238000004364 calculation method Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 238000004220 aggregation Methods 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000007639 printing Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000004378 air conditioning Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000009529 body temperature measurement Methods 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/40—Data acquisition and logging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
- G01D9/00—Recording measured values
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
- G06F16/116—Details of conversion of file system types or formats
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Hardware Design (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
より具体的には、周期的に計測を行う複数の計測機器での計測結果が示される複数のデータを入力し、時刻情報に基づいて複数のデータを分類してデータベースに格納する技術に関する。
計測機器から出力されるデータのデータ構造は、計測が行われた「日付時刻」、当該計測機器を一意に識別可能な「機器ID」および計測された「計測値」から構成される。
このデータをデータベースのテーブルで管理する方法として従来から最も一般的なものは、前記の形式のままでテーブルに格納するというものである。
また、従来の管理方式では、時刻ごとに各機器のデータがすべて列方向に格納されるため、たとえば温度と電力の間の相関を求めるなどの場合に複雑な処理が必要であった。
この技術では、受信したデータについては「日付時刻」「センサ識別子」「計測値」をもつレコードとして到着順にテーブルに格納し、センサから送信されるデータを待ち時間制御を行いながら同一時刻に取得されたデータについては1レコードに格納し直す処理を行うものである。
また、仮に特許文献1のレコード格納方式の実行を、データ受信から蓄積(データのテーブルへの格納)までの間に実行したとしても、ネットワークの混雑などによってデータの到着遅延が発生した場合に、遅延したデータを同一時刻に計測されたと想定されるデータ(遅延していないデータ)とともに同じテーブルに格納できないという課題がある。
所定の刻み幅の管理時刻によりレコードを管理するデータ処理装置であって、
時刻が示されるタイムスタンプが付加され、所定の周期で送信されるデータを受信するデータ受信部と、
前記データ受信部によりデータが受信される度に、受信されたデータに付加されたタイムスタンプの時刻に対応する管理時刻を判定し、受信されたデータを当該管理時刻に区分する時刻判定部と、
時間の経過に伴ってレコード生成の対象となるレコード対象管理時刻を更新し、現在のレコード対象管理時刻に区分されるデータの前記時刻判定部からの入力開始から所定の受付時間の間に前記時刻判定部から入力した現在のレコード対象管理時刻に区分されるデータを配列してレコードを生成し、現在のレコード対象管理時刻に区分されるデータのうち前記受付時間の終了時点で未だ入力していない未着データがある場合に、所定の待ち時間の間前記未着データの入力を待ち、前記待ち時間の終了までに入力された未着データを前記レコードに追加して前記レコードの生成を完了し、前記待ち時間の終了時点で入力していない未着データがある場合に当該未着データの存在を示す値を前記レコードに追加して前記レコードの生成を完了するレコード生成部と、
前記レコード生成部による生成が完了したレコードを所定のテーブルに追加するテーブル追加部とを有することを特徴とする。
本実施の形態では、電力センサや温度センサ等をはじめとして、様々な計測機器から受信したデータをテーブルに書き込み、データの検索/集計を問題なく実行できるデータ管理技術を説明する。
より具体的には、レコードのテーブルへの書き込み前に時刻を基準にして各データに対応するレコードを判断し、各データを対応するレコードに格納する方式において、データの到着遅れが発生した場合においても可能な限りレコードのテーブルへの書き込み処理を遅らせデータの到着を待つことにより、リアルタイムにレコードの生成を可能にし、レコード内でのデータ欠損を抑止する技術を説明する。
また、本実施の形態では、定期的に到着するデータのレコードへの書き込み回数を減らすことにより性能の低下を防ぎ、さらにデータの遅延によってレコード中に欠損が発生した場合においても遅延したデータが到着した際にそのデータをテーブルに追加することにより、データの廃棄を回避する技術を説明する。
定期的に計測を行っている計測機器からのデータを収集・管理するすべてのシステムに適用することができる。
図1を用いて全体的なデータの流れを説明する。
本実施の形態に係る環境ITシステムは、周期的に計測を行い、計測値が示されるデータを周期的に送信する複数の計測機器201と、計測機器201が送信したデータを収集する収集サーバ装置202と、収集サーバ装置202が収集したデータをレコード形式で蓄積するデータベースサーバ装置100から構成される。
データは、電力、温度、その他多種多様な計測機器201で計測され、ネットワーク204を経由していったん収集サーバ装置202に集められる。
収集サーバ装置202はシステム内に複数台あってもかまわない。
収集サーバ装置202は集めたデータをネットワーク205を経由してデータベースサーバ装置100に送信し、データベースサーバ装置100が収集サーバ装置202からのデータを蓄積する。
データベースサーバ装置100は、収集サーバ装置202から受信したデータを時刻で分類して、対象となるレコードに格納し、同じ時間帯のデータが格納されたレコードをテーブルに追加する。
データベースサーバ装置100はデータ処理装置の例であり、収集サーバ装置202はデータ送信装置の例である。
日付時刻301は、タイムスタンプであり、例えば計測機器201で計測が行われた時刻が示される。
機器ID302は、計測を行った計測機器201を一意に識別可能な計測機器201の識別子である。
計測値303は、計測機器201が計測を行った値であり、例えば、計測機器201が温度センサの場合は温度であり、計測機器201が電力センサであれば電力値である。
図2に即してデータベースサーバ装置100の各要素を説明する。
データ101は、図3に示すデータ形式を持つ。
時刻判定部103は、データ受信部102によりデータ101が受信される度に、受信されたデータ101に付加されたタイムスタンプの時刻に対応する管理時刻を判定し、受信されたデータ101を当該管理時刻に区分する。
後述するように、データベースサーバ装置100は、レコードを所定の刻み幅(例えば、30秒、1分等)の管理時刻により管理する。
このため、時刻判定部103は、データ受信部102により受信されたデータ101の日付時刻111に示される時刻が管理時刻のいずれに適合するかを判断し、データ101をいずれかの管理時刻に分類する。
構成情報は、計測機器201が配置されている場所、機器IDとレコード内の列位置の関係、計測値の種類(温度の計測値か、電力の計測値か)等を定義する情報である。
構成情報は、構成情報記憶部110に記憶されている。
図2の例では、レコード生成部105は、同じ管理時刻に属するデータ1〜データNを配列して1つのレコードを生成している。
また、レコード生成部105は、レコードを一時保存する一時記憶装置を有しており、所定の時間の間、生成したレコードを一時記憶装置で保持する。
レコード生成部105は、時間の経過に伴ってレコード生成の対象となるレコード対象管理時刻を更新し、現在のレコード対象管理時刻に区分されるデータの時刻判定部103からの入力開始から所定の受付時間の間に時刻判定部103から入力した現在のレコード対象管理時刻に区分されるデータを配列してレコードを生成する。
そして、レコード生成部105は、現在のレコード対象管理時刻に区分されるデータのうち受付時間の終了時点で未だ入力していない未着データがある場合に、受付時間の終了時点で未着データの入力を待つか否かを決定する。
未着データの入力を待つ場合は、レコード生成部105は、所定の待ち時間の間未着データの入力を待ち、待ち時間の終了までに入力された未着データを前記レコードに追加してレコードの生成を完了する。
また、レコード生成部105は、待ち時間の終了時点で入力していない未着データがある場合に当該未着データの存在を示す値をレコードに追加してレコードの生成を完了する。
一方、未着データの入力を待たない場合は、受付時間の終了時点で当該未着データの存在を示す値を前記レコードに追加してレコードの生成を完了する。
更に、レコード生成部105は、過去のレコード対象管理時刻に区分されるデータを時刻判定部103から遅れて入力した場合に、遅れて入力した遅延データのレコードを生成し、当該遅延データと同じ管理時刻に区分されるデータであって未だ入力していない未着データがある場合に、所定の待ち時間の間未着データの入力を待ち、待ち時間の終了までに入力された未着データを前記レコードに追加してレコードの生成を完了する。
そして、レコード生成部105は、待ち時間の終了時点で入力していない未着データがある場合に当該未着データの存在を示す値を前記レコードに追加してレコードの生成を完了する。
ここで遅延時間とは、データが到着してからユーザがデータを参照可能になるまでの時間である。
待ち時間制御部108は、より具体的には、収集サーバ装置202ごとに、データ受信の際の遅延状況を監視する。
レコード生成部105は、未着データがある場合に、未着データの送信元の収集サーバ装置202に対する待ち時間制御部108の監視結果に基づき、未着データの入力を待つか否かを決定する。
なお、待ち時間制御部108は遅延状況監視部の例である。
書き込み処理部106は、テーブル追加部の例である。
また、レコード生成部105により新たに生成されたレコードは、テーブルの最下段に追加される。
ステップS403で、レコード生成部105が時刻判定部103による分類に従って、データ101を格納すべきレコード(データ101が属する管理時刻に対応するレコード)がすでに一時記憶装置に存在するかどうかを判定する。
対応するレコードが存在しない場合は、ステップS404で、レコード生成部105が新規にレコードを生成し、最初に到着したデータ101の到着時刻(例えば、レコード生成部105がデータ101を入力した時刻)を、新規に生成したレコードに付加する。
ステップS403の判断において、対応するレコードがすでに生成されている場合は、ステップS405で、レコード生成部105は既存のレコードを一時記憶装置から読み出す。
次に、ステップS406で、レコード生成部105は、データ受信部102が受信した個々のデータの機器ID112を構成情報管理部104に通知し、構成情報管理部104から機器ID112ごとにデータ113(計測値)を格納すべき列位置を取得し、データ113ごとに列位置を決定し、レコードに書き込む。
書き込み処理を実行する場合は、書き込み処理部106で書き込み対象となるすべてのレコードに対して書き込み処理を行う。
一方、書き込み処理を行わない場合は、ステップS401に戻り、データ101の受信を待つ。
レコード生成部105はこの操作を一定間隔で実行するだけで書き込み判定をするわけではない。
書き込み判定部107は指定された待ち時間制御方式により書き込むべきかどうかを判定するもので、両者は独立かつ非同期に動作する。
図5は、時刻判定部103の管理時刻の算出に関する説明図である。
管理時刻は指定された格納周期501で決められ、すべてのデータ101はいずれかの管理時刻を有するレコードに格納されることになる。
管理時刻の刻み幅は、格納周期501と一致する。
個々のデータがどの管理時刻に該当するかは格納周期501と端数処理502によって決まる。
たとえば、格納周期501の値(管理時刻の刻み幅)が30秒の場合は、30秒の範囲内にある日付時刻111は同一の管理時刻に区分される。
そして、1つの管理時刻に区分される範囲は、端数処理502に決定される。
端数処理502がROUND(四捨五入)の場合は、管理時刻を基準にして−15秒〜+14秒の範囲に日付時刻111があるデータは当該管理時刻のレコードに格納されることになる。
端数処理502がUP(切り上げ)の場合は、管理時刻を基準として−29秒〜0秒の範囲に日付時刻111があるデータは当該管理時刻のレコードに格納されることになる。
端数処理502がDOWN(切り捨て)の場合は、管理時刻を基準として0秒から+29秒の範囲に日付時刻111があるデータは当該管理時刻のレコードに格納されることになる。
例えば、格納周期が30秒の場合に、10時00分00秒の管理時刻については、端数処理502がROUND(四捨五入)であれば、日付時刻9時59分45秒〜10時00分14秒の範囲にある日付時刻11は、当該管理時刻(10時00分00秒)に区分される。
また、端数処理502がUP(切り上げ)であれば、日付時刻9時59分31秒〜10時00分00秒の範囲にある日付時刻11は、当該管理時刻(10時00分00秒)に区分される。
また、端数処理502がDOWN(切り捨て)であれば、日付時刻10時00分0秒〜10時00分29秒の範囲にある日付時刻11は、当該管理時刻(10時00分00秒)に区分される。
なお、格納周期501は個々のデータを同一とみなす基準時刻を取得するための周期であり、実際の計測機器201の収集周期と同一である必要はない。
ただし、格納周期501は計測機器201の収集周期以下の値を設定することはできない。
また、端数処理として四捨五入、切り上げ、切捨てなどを例として説明したが、これらの処理方法に特に限定されるものではない。
次に、レコード生成部105は入力した管理時刻が新しいものであるかどうかを解析する(S1602)。
具体的には、レコード生成部105は、入力した管理時刻が現在レコード生成中の管理時刻と同じかどうか、つまり、受付時間又は待ち時間の計測を行っている管理時刻と同じかどうかを判断する。
なお、この新しい管理時刻がこれからレコードを生成する管理時刻であり、レコード対象管理時刻となる。
レコード生成部105は、例えば、所定のタイマに受付時間を設定して、タイマをスタートさせる。
受付時間は、例えば、格納周期(管理時刻の刻み幅)の半分の時間とする。
例えば、格納周期が1分であり、最初のデータの到着時刻が10時00分05秒である場合に、管理時刻10時00分00秒のレコードの受付時間は10時00分35秒までとなる。なお、受付時間をどの程度の長さとするかは、システム管理者が任意に決めることができる。
更に、レコード生成部105は、現在その管理時刻に対して受付時間を計測中かどうかを判断し、受付時間の計測中である場合(S1611でYES)は、S1607に進み、受信時間の計測中でない場合(S1611でNO)は、現在待ち時間の計測中となるため、S1702以降の処理が行われる。S1702以降の処理は後述する。
更に、レコード生成部105は、構成情報に従って、S1601で入力したデータ113をS1606で生成したレコード又はS1604で読み出したレコードの所定の列に格納する(S1608)。
前述したように、構成情報には、機器ID112ごとにデータ113を格納すべき列が指定されており、レコード生成部105はS1601で受信した機器ID112に対応する列にデータ113を格納する。
一方、レコードに格納していないデータが存在する場合(S1609でNO)は、レコード生成部105がS1605で計測を開始した受付時間が終了しているかどうかを判断し、受付時間が終了していない場合(S1610でNO)は、S1601に処理を戻し、時刻判定部103からの入力を待つ。
未着データを待つかどうかの判断基準は、待ち時間制御部108の監視結果に基づく。待ち時間制御部108の動作については後述する。
以降の処理は、どの未着データを待つかによって異なる(S1702)。
レコード生成部105は、例えば、所定のタイマに待ち時間を設定して、タイマをスタートさせる。
待ち時間は、例えば、受付時間の終了後、格納周期(管理時刻の刻み幅)の四分の一の時間とする。
例えば、格納周期が1分であり、最初のデータの到着時刻が10時00分05秒であり、受付時間が30秒である場合に、管理時刻10時00分00秒のレコードの待ち時間は10時00分35秒から10時00分50秒までとなる。なお、待ち時間をどの程度の長さとするかは、システム管理者が任意に決めることができる。
そして、未着データを入力した場合(S1706でYES)は、構成情報に従って、レコードの所定の列に未着データを格納する(S1707)。
そして、レコード生成部105は、レコードの全ての列にデータを格納できたかどうかを確認し(S1708)、全データを格納できている場合(S1708でYES)は、レコードの生成を完了し(S1711)、書き込み判定部107にレコードの生成が完了した旨を通知する。
一方、レコードに格納していないデータが存在する場合(S1708でNO)は、レコード生成部105がS1705で計測を開始した待ち時間が終了しているかどうかを判断し、待ち時間が終了していない場合(S1709でNO)は、S1706に処理を戻し、未着データの入力を待つ。
一方、待ち時間が終了している場合は、レコード生成部105は、構成情報に従い、待ち時間終了時点で未着のデータを格納する列にNULL値(未着データの存在を示す値)を格納し(S1710)、レコードの生成を完了し(S1711)、書き込み判定部107にレコードの生成が完了した旨を通知する。
S1702の判断において、全て待つとなっている場合は、当該未着データを受信したことにより、S1706の判断がYESとなり、当該未着データに対してS1707の処理が行われ、また、S1708及びS1709の判断が行われる。
また、S1702の判断において混在となっている場合は、当該未着データが待つ対象であれば、当該未着データを受信したことにより、S1706の判断がYESとなり、当該未着データに対してS1707の処理が行われ、また、S1708及びS1709の判断が行われる。当該未着データが待つ対象でない場合はS1704で既にNULL値が設定されている。このため、当該未着データは破棄される。
なお、これに代えて、既に設定されているNULL値を、未着データで書き換えるようにしてもよい。
この場合は、当該未着データ(遅延データ)の管理時刻は過去のレコード対象管理時刻ではあるが、新しい管理時刻と判断され(S1603でYES)、S1605以降の処理が行われる。
例えば、管理時刻10時00分00秒のレコードに未着データがあるため、NULL値が含まれている状態で管理時刻10時00分00秒のレコードがテーブル記憶部109のテーブルに追加された後に、管理時刻10時00分00秒に分類される未着データが遅れて時刻判定部103から入力された場合(S1601)を考える。
当該未着データ(遅延データ)の管理時刻10時00分00秒に対応するレコードは生成中ではないため、当該未着データ(遅延データ)の管理時刻は新しい管理時刻と判断される(S1603でYES)、このため、当該未着データ(遅延データ)の入力を契機に受付時間の計測が開始され(S1605)、管理時刻10時00分00秒のレコードが改めて生成される。
また、当該未着データ(遅延データ)の到着時刻がレコードに付加され(S1606)、当該未着データ(遅延データ)が新たに生成された管理時刻10時00分00秒のレコードに格納され、また、他に未着データがある場合は、受付時間の間、他の未着データの到着を待つ(S1609、S1610)。
また、他の未着データがあり、他の未着データが受付時間の終了までに入力されない場合に、必要であれば、待ち時間の間、他の未着データの到着を待つ。
簡単のためここでは、計測機器数は5つ、レコード生成周期は1分、端数処理方法を四捨五入とする。
4つのデータの日付時刻、機器ID、計測値は、図6に示す通りである。
この時点では、機器ID=4に該当するデータだけ遅延しているとする。
時刻判定部103により4つのデータに対して導出された管理時刻は10:00:00(10時00分00秒)である。
データ入力時点では、10:00:00のレコードを存在していないため、レコード生成部105は、新規に10:00:00のレコード(以下、レコード602とする)を生成する。
そして、レコード生成部105は、最初に到着したデータである機器ID=1の到着時刻(10:00:05)をタイマから取得し、レコード602の到着時刻603に付加する。
更に、レコード生成部105は、構成情報606を参照して、各機器のデータをレコード内のどの列に格納するかを判断し、各データを対応する列に配列してレコードに格納していく。
その後、受付時間が終了しても、機器ID=4のデータが到着しないため、遅れているデータを待つか否かを判定し、「待つ」と判定した場合には待ち時間だけ待つ。
そして、待ち時間以内に未着データが到着しない場合は、レコード生成部105は、未着データを格納すべき列607にNULL値を格納し、レコードの生成を完了し、書き込み処理部106が当該レコードをテーブル記憶部109のテーブルに追加する。
そして、レコード生成部105は、管理時刻10:00:00のレコードは現在生成中ではないため、新たな管理時刻と判断し、管理時刻10:00:00のレコード(以下、レコード605とする)を再度生成する。
そして、レコード生成部105は、レコード605にデータ604の到着時刻(10:07:00)を付加するとともに、構成情報606に従い、データ604の計測値を所定の位置に格納する。
なお、機器ID=1、2、3、5の計測値は既にレコード602に格納されているため、レコード605では、これらの計測値に対応する列にはNULL値が設定される。
レコード生成部105は、例えば、レコード605の管理時刻10:00:00と同じ管理時刻を持つレコードがテーブルに格納されているかどうかを書き込み処理部106に問い合わせ、管理時刻10:00:00と同じ管理時刻を持つレコードがテーブル記憶部109に格納されている場合は、書き込み処理部106から既に計測値が格納されている列(又は機器ID)の通知を受ける。
これにより、レコード生成部105は、既にレコード602に計測値が格納されている列を判別することができ、対応する列にNULL値を格納することができる。
また、レコード生成部105は、他に未着データが存在する場合は、受付時間を待ち、また、必要であれば、待ち時間を待つが、図6の例では、機器ID=1〜5のすべての計測値がレコード602とレコード605に格納されており、未着データはないため、レコード605の生成を完了し、書き込み処理部106がレコード605をテーブル記憶部109のテーブルに追加する。
このような場合では、格納周期501の値を収集周期と同じ値で設定すると、5分周期のデータ1102は5分間に収集されたいずれかのデータ1101と同一レコードに格納されることになる。
5分周期の計測機器2のデータ1102の格納周期を5分にすると、例えば収集時刻09:01のデータ1102は1分周期の計測機器1の管理時刻09:01、09:02、09:03、09:04、09:05のいずれかのデータ1101と同じレコードに格納される。
つまり、計測機器2からのデータ1102が計測機器1の5つのデータ1101のうちのいずれと同一レコードに格納されるのかは、計測機器2からのデータの到着タイミングにより変動する。
つまり、5分周期のデータでも格納周期を1分にしておけば、例えば収集時刻09:01のデータ1202は、図15のように、管理時刻09:0のデータ1201とマージされる。
なお、図15において、データ1201は収集周期が1分のデータであり、データ1102は収集周期が5分のデータである。
ただし不完全レコードであってもデータが完全である場合を想定して算出する。
最適許容待ち時間の算出は、例えば、以下に従う。
今回最適許容待ち時間=待ち時間−前回書きこみ処理時間
書き込み処理時間はすでに書きこまれたデータサイズによって変化するため、前回書き込み処理時間とする。
今回の書き込み処理時間は、次回の最適許容待ち時間の算出に用いられる。
また、待ち時間は、以下により導出される。
待ち時間=遅延時間/監視周期
なお、遅延時間、監視周期ともシステム管理者等のユーザが設定する。
存在する場合は、書き込み判定部107は、ステップS805で完全レコードに対しては全レコードの書き込み判定フラグ領域に書き込みフラグを立てる。
また、不完全レコードに対しては、書き込み判定部107は、各レコードに対して待ち時間を超えるかどうかを判定し、超えるレコードだけ書き込み判定フラグ領域に書き込みフラグを立て、書き込み判定を終了する。
一方、待ち時間を超えるレコードが存在しない場合は、ステップS806で書き込みフラグを立てることなく書き込み判定を終了する。
なお、上記は未着データを持つことを前提にしており、未着データを持たない場合は、常に書き込みフラグを立てる。
最適待ち時間制御をする場合は指定された遅延時間による制約保証を満たすための判定を行う。ここで書き込みフラグが立った場合は書き込み処理を行う必要がある。
また、書き込み判定はフラグを立てるだけであり、最終的に書き込み処理においてフラグが立っている場合には書き込み処理を実行し、レコードを削除する処理になる。したがって書き込みフラグが立たなければ書き込み処理は行われず再度判定機能が同一レコードに対して判定処理を繰り返すことになる。
つまり、待ち時間制御部108は、収集サーバ装置202ごとに、データ受信の際の遅延状況を監視し、監視結果に応じて、データに到着遅れが生じた際に未着データを待つかどうかを決定する。
なお、処理の途中で待ち時間制御方式を変更することは可能であるが、制御方式を変更した場合は「待つ/待たない」の判定はリセットされ、全てのデータを待つものとする。
待ち時間制御方式1は到着遅れの連続発生回数によって「待つ/待たない」を判定する制御方式である。
適正受信タイミングは、例えば、ある管理時刻に分類されるデータのうち最初に受信したデータの受信時間から受付時間の間とする。
なお、適正受信タイミングをどのようなタイミングとするかはシステム管理者が任意に決定できる。
一方、ステップS1302で到着遅れでないと判定された場合は、ステップS1304で、該当する収集サーバ装置202の連続遅延回数を0にセットする。
ステップS1305では、待ち時間制御部108は、あらかじめ設定された閾値と各収集サーバ装置202の連続遅延回数を比較し、いずれかの収集サーバ装置202の連続遅延回数が閾値を超えている場合は、当該収集サーバ装置202からのデータについてはステップS1306において以降「待たない」と決定し、レコード生成部105に対して当該収集サーバ装置202のデータは待たない旨を通知する。
レコード生成部105は、未着データが発生した場合に、未着データの送信元が待ち時間制御部108から通知された収集サーバ装置202である場合は、当該収集サーバ装置202からの未着データは待たないと判定する(図17のS1702)。
一方、S1305の判断において、連続遅延回数が閾値以下である場合は、当該収集サーバ装置202からのデータ「待つ」と決定し、レコード生成部105に対して当該収集サーバ装置202のデータは待つ旨を通知する。
レコード生成部105は、未着データが発生した場合に、未着データの送信元が待ち時間制御部108から通知された収集サーバ装置202である場合は、当該収集サーバ装置202からの未着データは待つと判定する(図17のS1702)。
待ち時間制御方式2は所定の監視時間内で発生した到着遅れの回数によって収集サーバ装置202のデータに対して「待つ/待たない」を判定する制御方式である。
監視時間は、例えば、格納周期(管理時間の刻み幅)の10倍とする。
例えば、管理周期が1分の場合は、監視時間は10分となる。
なお、どの程度の時間を監視時間とするかは、システム管理者が任意に決定可能である。
適正受信タイミングの意味は、前述したとおりである。
また、待ち時間制御部108は、ステップS1404で、経過時間が監視時間内か、すなわち監視時間が終了したか否かを判断し、監視時間が終了していなければ(S1404でYES)ステップS1401のデータ受信に戻る。
いずれかの収集サーバ装置202の遅延発生回数が閾値を超えている場合は、待ち時間制御部108は、ステップS1407において、当該収集サーバ装置202からのデータは以降「待たない」と決定し、レコード生成部105に対して当該収集サーバ装置202のデータは待たない旨を通知する。
レコード生成部105は、未着データが発生した場合に、未着データの送信元が待ち時間制御部108から通知された収集サーバ装置202である場合は、当該収集サーバ装置202からの未着データは待たないと判定する(図17のS1702)。
一方、S1405の判断において、遅延発生回数が閾値以下である場合は、ステップS1406において遅延発生回数、監視時間ともに0リセットし、遅延発生回数のカウントおよび監視時間の計測を再開する。
また、S1405の判断において、遅延発生回数が閾値以下である場合は、待ち時間制御部108は、当該収集サーバ装置202からのデータ「待つ」と決定し、レコード生成部105に対して当該収集サーバ装置202のデータは待つ旨を通知する。
レコード生成部105は、未着データが発生した場合に、未着データの送信元が待ち時間制御部108から通知された収集サーバ装置202である場合は、当該収集サーバ装置202からの未着データは待つと判定する(図17のS1702)。
待ち時間制御方式3は、監視時間内で発生した平均遅延時間(遅延時間の平均値)によって収集サーバ装置202からのデータに対して「待つ/待たない」を判定する制御方式である。
監視時間の意味は、前述したとおりである。
適正受信タイミングの意味は、前述したとおりである。
次に、待ち時間制御部108は、ステップS1504で、経過時間が監視時間内か、すなわち監視時間が終了したか否かを判断し、監視時間が終了していなければ(S1504でYES)ステップS1501のデータ受信に戻る。
一方、経過時間が監視時間を超えている場合(S1504でNO)、すなわち監視時間が終了している場合は、待ち時間制御部108は、ステップS1505において、収集サーバ装置202ごとに監視時間内の遅延時間の平均値を算出し、算出した平均値が設定した閾値を超えたか否かを判定する。
いずれかの収集サーバ装置202の遅延時間の平均値が閾値を超えている場合は、待ち時間制御部108は、ステップS1507において、当該収集サーバ装置202からのデータは以降「待たない」と決定し、レコード生成部105に対して当該収集サーバ装置202のデータは待たない旨を通知する。
レコード生成部105は、未着データが発生した場合に、未着データの送信元が待ち時間制御部108から通知された収集サーバ装置202である場合は、当該収集サーバ装置202からの未着データは待たないと判定する(図17のS1702)。
一方、S1505の判断において、遅延発生回数が閾値以下である場合は、ステップS1506において遅延時間、監視時間ともに0リセットし、遅延時間の計測および監視時間の計測を再開する。
また、S1505の判断において、遅延時間の平均値が閾値以下である場合は、待ち時間制御部108は、当該収集サーバ装置202からのデータ「待つ」と決定し、レコード生成部105に対して当該収集サーバ装置202のデータは待つ旨を通知する。
レコード生成部105は、未着データが発生した場合に、未着データの送信元が待ち時間制御部108から通知された収集サーバ装置202である場合は、当該収集サーバ装置202からの未着データは待つと判定する(図17のS1702)。
しかし、データベースサーバ装置100が各計測機器201から直接データを受信するような方式、または収集サーバ装置202が計測機器201からデータを受信するが複数の計測機器201からのデータをまとめずにデータごとにデータベースサーバ装置100に転送する方式では、待ち時間制御部108は、計測機器201ごと(データごと)に受信状況を監視し、計測機器201ごと(データごと)にデータ受信状況を監視し、計測機器201ごと(データごと)に未着データを待つかどうか決定してもよい。
計測機器201ごと(データごと)に未着データを待つかどうかを決定する方式では、計測機器201がデータ送信装置の例となる。
これに代えて、待ち時間制御部108は、連続遅延回数、遅延発生回数、平均遅延時間を導出すると、連続遅延回数、遅延発生回数、平均遅延時間をレコード生成部105に通知し、レコード生成部105が、連続遅延回数、遅延発生回数、平均遅延時間とそれぞれの閾値を比較し、データを待つかどうかを決定するようにしてもよい。
以上説明してきたレコード管理方式では、図2に示したレコードのように機器とデータが一意に対応するため、機器の変更に対して対応することが困難である。
これを解決するために本実施の形態では構成情報管理部104を備える。
また、図11は、図10に示される各項目の説明を示す。
なお、図10及び図11では建物を対象にしているが、それ以外の設置であっても定義可能である。
テーブル情報902は、このセンサの情報が書き込まれるテーブル識別子を定義する。
レコード情報903は、このセンサで計測されたデータがレコード内の何列名に格納されるかを示す。
位置情報904は、このセンサが設置される位置に関する情報を定義する。
データタイプ情報905では、計測値に関する情報が定義される。
また、フロアをさらに細分化することが必要な場合は、たとえばエリアID908などが定義される。
また、電力などの場合は空調や照明などに細分化できるため用途ID909、どの分電盤の電力値かを示す機器ID910などを定義することが可能となる。
したがって、本実施の形態では、すべてのデータは64bit型などの整数値として格納し、データの種類はデータ種別911、データの少数点桁数などの精度はデータ型912で定義しておくことにより、いかなるデータであっても格納することを可能にする。
なお、図10及び図11では数値を対象とした例を示しているが、数値データに限定されるものではない。
また、システムの稼動中に機器の故障等によって機器を変更した場合も構成情報を変更することによって変更可能である。
図12は、建物1のフロア別電力量の集計値と室内温度の平均値を示し、図13は、建物2のフロア別電力量の集計値と室内温度の平均値を示している。
図12及び図13において、棒グラフは電力量を示し、折れ線グラフは温度を示している。
レコード生成では各センサの情報を管理しないが、集計時に構成情報の定義を参照することにより、さまざまな軸での集計が可能になる。
本実施の形態では、待ち時間を持たせることによって、データの到着が多少遅れても到着が遅れたデータをレコードに格納することが可能であるため、欠損データ発生頻度を抑止することができる。
本実施の形態では、これらのトレードオフ(検索性能と遅延時間とのトレードオフ)を制御しながら収集したデータをリアルタイムにテーブルに書き込むことが可能である。
従って、上記の問題を回避することが可能である。
すなわち、検索性能を低下させることなく、遅延時間を短くすることが可能となる。
(1)受信したデータのタイムスタンプからレコード格納時刻を判定する同一時刻判定機能と、
(2)個々のデータについて到着遅れが発生した場合において、レコードの書き込みを遅らせて当該データが到着するまで「待つ/待たない」を判定し、該当するレコードにデータ格納する待ち時間制御機能と、
(3)生成されたレコードをテーブルに書き込むかどうかを決定する書き込み判定機能を有し、
(4)個々のデータが同一時刻に発生したかどうかを判定するステップと、
(5)到着の遅れたデータを「待つ/待たない」を判定するステップと、
(6)同一時刻に発生したデータを同一レコードに格納するステップと、
(7)格納されたレコードをテーブルに書き込むべきかどうかを判定するステップとを有するレコード生成機能を説明した。
レコード生成周期から設定される日付時刻(レコード日付時刻)とデータに付加されたタイムスタンプの差分を格納周期に基づいて閾値処理することにより、格納対象となるレコードの日付時刻を決定し、
格納すべきレコード日付時刻を有するレコードが存在しない場合はレコードを生成し、当該レコードに日付を付加し、
すでに存在する場合は記憶装置上から当該レコードを呼び出す同一時刻判定機能を備えることを説明した。
格納周期の時刻を基準として、その基準時刻に対するデータに付加されたタイムスタンプの差分を四捨五入、切り上げ、切捨て、するなどして基準時刻と一致するかどうかを判定することを説明した。
選択した待ち時間制御方式に従い、「待つ/待たない」を個々のデータについて判定し、
「待つ」と判定したデータについては、許容待ち時間内に到着した場合は該当するレコードに格納し、
許容待ち時間後に到着したデータは、本来格納されるべきレコードと同じ日付時刻を有するレコードを重複して生成して当該データを格納し、
当該レコードについても同様に待ち時間制御を行い、
すでに到着済み、または更に遅延するなどして待ち時間内に到着しないデータについては、該当する列にNULL値を格納する待ち時間制御機能を備えることを説明した。
到着が遅れたデータを待つかどうかの判定を待ち時間以内に到着しない回数で判定する待ち時間制御方式においては、
待ち時間以内に到着しないことが連続して発生した回数があらかじめ決められた閾値を超えないデータは「待つ」と判定し、
待ち時間以内に到着しないことが連続して発生した回数があらかじめ決められた閾値を超えたデータは「待たない」と判定することを説明した。
到着が遅れたデータを待つかどうかの判定を一定時間内の遅れ発生頻度で判定する待ち時間制御方式においては、
あらかじめ設定した一定時間内に到着遅れが発生した回数があらかじめ設定された閾値以下のデータは「待つ」と判定し、
あらかじめ設定した一定時間内に到着遅れが発生した回数があらかじめ設定された閾値を超えたデータは「待たない」と判定することを説明した。
到着が遅れたデータを待つかどうかの判定を一定時間内の平均遅れ時間で判定する待ち時間制御方式においては、
あらかじめ設定した一定時間内に発生した到着遅れの平均遅れ時間があらかじめ設定された閾値以下のデータについては「待つ」と判定し、
あらかじめ設定した一定時間内に発生した到着遅れの平均遅れ時間があらかじめ設定された閾値以上のデータについては「待たない」と判定することを説明した。
記憶装置に保存されるすべてのレコードに対して書き込みを実行すべきか否かを判定する機能であって、
全レコードが有するレコードが新規に生成された日付時刻と現在の時刻から、生成日付時刻を起点とした経過時間を算出し、
前記経過時間、レコードサイズ、テーブル書き込み処理時間から書き込み処理を実行すべきレコードが存在するかどうかを判定し、
書き込み処理を実行すべきレコードについては該当するレコードについて書き込みフラグを立てる書き込み判定機能を有することを説明した。
記憶装置に保存されるレコードにおいて、待ち時間をもとに書き込み処理を行うべきと判定したレコードが存在する場合に、すべてのデータがそろったレコードについてはすべて書き込みフラグを立て、
データ到着の遅延によって不完全なレコードについては待ち時間を経過したレコードだけに書き込みフラグを立てることを説明した。
入力された複数のデータを1つのレコードに格納するレコード生成機能において、
データを計測する機器の設置場所などの構成情報と、データ形式を管理する機能を有し、
データがどのレコードに格納すべきかを判定するステップを有する構成情報管理機能を説明した。
データ計測機器の設置場所を階層構造(たとえばフロア、エリア、機器、用途等)として管理し、
各計測機器のデータを格納するレコード内項目番号を管理し、
各計測機器のデータにおいてNULL値および精度を規定し、
待ち時間を設定するかどうかを規定し、
構成変更(計測機器の追加、削除、変更)の場合に管理情報を変更することでシステムに反映させることを説明した。
図21は、本実施の形態に示すデータベースサーバ装置100のハードウェア資源の一例を示す図である。
なお、図21の構成は、あくまでもデータベースサーバ装置100のハードウェア構成の一例を示すものであり、データベースサーバ装置100のハードウェア構成は図21に記載の構成に限らず、他の構成であってもよい。
CPU1911は、バス1912を介して、例えば、ROM(Read Only Memory)1913、RAM(Random Access Memory)1914、通信ボード1915、表示装置1901、キーボード1902、マウス1903、磁気ディスク装置1920と接続され、これらのハードウェアデバイスを制御する。
更に、CPU1911は、FDD1904(Flexible Disk Drive)、コンパクトディスク装置1905(CDD)、プリンタ装置1906、スキャナ装置1907と接続していてもよい。また、磁気ディスク装置1920の代わりに、光ディスク装置、メモリカード(登録商標)読み書き装置などの記憶装置でもよい。
RAM1914は、揮発性メモリの一例である。ROM1913、FDD1904、CDD1905、磁気ディスク装置1920の記憶媒体は、不揮発性メモリの一例である。これらは、記憶装置あるいは記憶部の一例である。
本実施の形態で説明した「〜記憶部」は、RAM1914、磁気ディスク装置1920等により実現される。
通信ボード1915、キーボード1902、マウス1903、スキャナ装置1907、FDD1904などは、入力装置の一例である。
また、通信ボード1915、表示装置1901、プリンタ装置1906などは、出力装置の一例である。
例えば、通信ボード1915は、LAN(ローカルエリアネットワーク)、インターネット、WAN(ワイドエリアネットワーク)、SAN(ストレージエリアネットワーク)などに接続されていても構わない。
プログラム群1923のプログラムは、CPU1911がオペレーティングシステム1921、ウィンドウシステム1922を利用しながら実行する。
また、RAM1914には、CPU1911による処理に必要な各種データが格納される。
データベースサーバ装置100の起動時には、ROM1913のBIOSプログラム及び磁気ディスク装置1920のブートプログラムが実行され、BIOSプログラム及びブートプログラムによりオペレーティングシステム1921が起動される。
「〜ファイル」や「〜データベース」は、ディスクやメモリなどの記録媒体に記憶される。ディスクやメモリなどの記憶媒体に記憶された情報やデータや信号値や変数値やパラメータは、読み書き回路を介してCPU1911によりメインメモリやキャッシュメモリに読み出され、抽出・検索・参照・比較・演算・計算・処理・編集・出力・印刷・表示などのCPUの動作に用いられる。
抽出・検索・参照・比較・演算・計算・処理・編集・出力・印刷・表示のCPUの動作の間、情報やデータや信号値や変数値やパラメータは、メインメモリ、レジスタ、キャッシュメモリ、バッファメモリ等に一時的に記憶される。
また、本実施の形態で説明しているフローチャートの矢印の部分は主としてデータや信号の入出力を示し、データや信号値は、RAM1914のメモリ、FDD1904のフレキシブルディスク、CDD1905のコンパクトディスク、磁気ディスク装置1920の磁気ディスク、その他光ディスク、ミニディスク、DVD等の記録媒体に記録される。また、データや信号は、バス1912や信号線やケーブルその他の伝送媒体によりオンライン伝送される。
すなわち、本実施の形態で説明したフローチャートに示すステップ、手順、処理により、本発明に係る「データ処理方法」を実現することができる。
また、「〜部」、「〜機能」として説明しているものは、ROM1913に記憶されたファームウェアで実現されていても構わない。或いは、ソフトウェアのみ、或いは、素子・デバイス・基板・配線などのハードウェアのみ、或いは、ソフトウェアとハードウェアとの組み合わせ、さらには、ファームウェアとの組み合わせで実施されても構わない。ファームウェアとソフトウェアは、プログラムとして、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD等の記録媒体に記憶される。プログラムはCPU1911により読み出され、CPU1911により実行される。すなわち、プログラムは、本実施の形態の「〜部」、「〜機能」としてコンピュータを機能させるものである。あるいは、本実施の形態の「〜部」、「〜機能」の手順や方法をコンピュータに実行させるものである。
Claims (13)
- 所定の刻み幅の管理時刻によりレコードを管理するデータ処理装置であって、
複数のデータ送信装置から、時刻が示されるタイムスタンプが付加され、所定の周期で送信されるデータを受信するデータ受信部と、
前記データ受信部によりデータが受信される度に、受信されたデータに付加されたタイムスタンプの時刻に対応する管理時刻を判定し、受信されたデータを当該管理時刻に区分する時刻判定部と、
データ送信装置ごとに、データ受信の際の遅延状況を監視する遅延状況監視部と、
時間の経過に伴ってレコード生成の対象となるレコード対象管理時刻を更新し、現在のレコード対象管理時刻に区分されるデータの前記時刻判定部からの入力開始から所定の受付時間の間に前記時刻判定部から入力した現在のレコード対象管理時刻に区分されるデータを配列してレコードを生成し、現在のレコード対象管理時刻に区分されるデータのうち前記受付時間の終了時点で未だ入力していない未着データがある場合に、所定の待ち時間の間前記未着データの入力を待ち、前記待ち時間の終了までに入力された未着データを前記レコードに追加して前記レコードの生成を完了し、前記待ち時間の終了時点で入力していない未着データがある場合に、前記未着データの送信元のデータ送信装置に対する前記遅延状況監視部の監視結果に基づき、前記未着データの入力を待つか否かを決定し、前記未着データの入力を待つ場合に、前記待ち時間の間前記未着データの入力を待ち、前記未着データの入力を待たない場合に、前記未着データの存在を示す値を前記レコードに追加して前記レコードの生成を完了するレコード生成部と、
前記レコード生成部による生成が完了したレコードを所定のテーブルに追加するテーブル追加部とを有することを特徴とするデータ処理装置。 - 前記レコード生成部は、
過去のレコード対象管理時刻に区分されるデータを前記時刻判定部から遅れて入力した場合に、遅れて入力した遅延データのレコードを生成し、前記遅延データと同じ管理時刻に区分されるデータであって未だ入力していない未着データがある場合に、所定の待ち時間の間前記未着データの入力を待ち、前記待ち時間の終了までに入力された未着データを前記レコードに追加して前記レコードの生成を完了し、前記待ち時間の終了時点で入力していない未着データがある場合に当該未着データの存在を示す値を前記レコードに追加して前記レコードの生成を完了し、
前記テーブル追加部は、
前記レコード生成部による生成が完了した前記遅延データが記述されているレコードを前記テーブルに追加することを特徴とする請求項1に記載のデータ処理装置。 - 前記遅延状況監視部は、
データ送信装置ごとに、連続して適正受信タイミングから遅れてデータが受信された回数を連続遅延回数として計数し、
前記レコード生成部は、
前記未着データの送信元のデータ送信装置の連続遅延回数が所定の閾値以内である場合は前記未着データの入力を待ち、前記未着データの送信元のデータ送信装置の連続遅延回数が前記閾値を超えている場合は前記未着データの入力を待たないことを特徴とする請求項1に記載のデータ処理装置。 - 前記遅延状況監視部は、
データ送信装置ごとに、所定の監視期間内で、適正受信タイミングから遅れてデータが受信された回数を遅延発生回数として計数し、
前記レコード生成部は、
前記未着データの送信元のデータ送信装置の遅延発生回数が所定の閾値以内である場合は前記未着データの入力を待ち、前記未着データの送信元のデータ送信装置の遅延発生回数が前記閾値を超えている場合は前記未着データの入力を待たないことを特徴とする請求項1に記載のデータ処理装置。 - 前記遅延状況監視部は、
データ送信装置ごとに、適正受信タイミングから遅れてデータが受信される度に適正受信タイミングから遅れた遅延時間を計測し、計測した遅延時間の所定の監視期間における平均値を算出し、
前記レコード生成部は、
前記未着データの送信元のデータ送信装置の遅延時間の平均値が所定の閾値以内である場合は前記未着データの入力を待ち、前記未着データの送信元のデータ送信装置の遅延時間の平均値が前記閾値を超えている場合は前記未着データの入力を待たないことを特徴とする請求項1に記載のデータ処理装置。 - 前記レコード生成部は、
複数の未着データがある場合に、未着データごとに入力を待つか否かを決定することを特徴とする請求項1に記載のデータ処理装置。 - 前記レコード生成部は、
前記受付時間の終了までに現在のレコード対象管理時刻に区分される全てのデータがレコードに格納されている場合は、前記受付時間の終了を待つことなく前記レコードの生成を完了することを特徴とする請求項1に記載のデータ処理装置。 - 前記テーブル追加部は、
前記待ち時間の終了前に前記レコード生成部によるレコードの生成が完了した場合は、前記待ち時間の終了を待つことなく、生成が完了したレコードを前記テーブルに追加することを特徴とする請求項1に記載のデータ処理装置。 - 前記時刻判定部は、
前記データ受信部によりデータが受信される度に、受信されたデータに付加されたタイムスタンプの時刻の切り上げ、切り捨て及び四捨五入のいずれかの演算を行って、前記タイムスタンプの時刻に対応する管理時刻を判定することを特徴とする請求項1に記載のデータ処理装置。 - 前記データ受信部は、
複数の計測機器の各々により計測された計測値が示されるデータを、計測機器の機器ID(Idenfication)と対応付けて受信し、
前記データ処理装置は、更に、
機器IDごとに、レコード内のデータの位置を指定する構成情報を記憶する構成情報記憶部を有し、
前記レコード生成部は、
前記時刻判定部から入力したデータに対応付けられている機器IDに基づき、現在のレコード対象管理時刻に区分されるデータを前記構成情報で指定されている位置に配列してレコードを生成することを特徴とする請求項1に記載のデータ処理装置。 - 前記データ受信部は、
複数の設置場所に設置されている複数の計測機器の各々により計測された計測値が示されるデータを受信し、
前記構成情報記憶部は、
機器IDごとに、計測機器の設置場所、計測値の属性、計測値の精度の少なくともいずれかが示される構成情報を記憶していることを特徴とする請求項10に記載のデータ処理装置。 - 所定の刻み幅の管理時刻によりレコードを管理するコンピュータが行うデータ処理方法であって、
複数のデータ送信装置から、時刻が示されるタイムスタンプが付加され、所定の周期で送信されるデータを前記コンピュータが受信し、
データを受信する度に、前記コンピュータが、受信したデータに付加されたタイムスタンプの時刻に対応する管理時刻を判定し、受信したデータを当該管理時刻に区分し、
前記コンピュータが、データ送信装置ごとに、データ受信の際の遅延状況を監視し、
前記コンピュータが、時間の経過に伴ってレコード生成の対象となるレコード対象管理時刻を更新し、現在のレコード対象管理時刻に区分されるデータの受信開始から所定の受付時間の間に受信した現在のレコード対象管理時刻に区分されるデータを配列してレコードを生成し、現在のレコード対象管理時刻に区分されるデータのうち前記受付時間の終了時点で未だ受信していない未着データがある場合に、所定の待ち時間の間前記未着データの受信を待ち、前記待ち時間の終了までに受信された未着データを前記レコードに追加して前記レコードの生成を完了し、前記待ち時間の終了時点で受信していない未着データがある場合に、前記未着データの送信元のデータ送信装置に対する監視結果に基づき、前記未着データの入力を待つか否かを決定し、前記未着データの入力を待つ場合に、前記待ち時間の間前記未着データの入力を待ち、前記未着データの入力を待たない場合に、前記未着データの存在を示す値を前記レコードに追加して前記レコードの生成を完了し、
前記コンピュータが、生成が完了したレコードを所定のテーブルに追加することを特徴とするデータ処理方法。 - 所定の刻み幅の管理時刻によりレコードを管理するコンピュータに、
複数のデータ送信装置から、時刻が示されるタイムスタンプが付加され、所定の周期で送信されるデータを受信するデータ受信処理と、
前記データ受信処理によりデータが受信される度に、受信されたデータに付加されたタイムスタンプの時刻に対応する管理時刻を判定し、受信されたデータを当該管理時刻に区分する時刻判定処理と、
データ送信装置ごとに、データ受信の際の遅延状況を監視する遅延状況監視処理と、
時間の経過に伴ってレコード生成の対象となるレコード対象管理時刻を更新し、現在のレコード対象管理時刻に区分されるデータの前記時刻判定処理からの入力開始から所定の受付時間の間に前記時刻判定処理から入力した現在のレコード対象管理時刻に区分されるデータを配列してレコードを生成し、現在のレコード対象管理時刻に区分されるデータのうち前記受付時間の終了時点で未だ入力していない未着データがある場合に、所定の待ち時間の間前記未着データの入力を待ち、前記待ち時間の終了までに入力された未着データを前記レコードに追加して前記レコードの生成を完了し、前記待ち時間の終了時点で入力していない未着データがある場合に、前記未着データの送信元のデータ送信装置に対する前記遅延状況監視処理の監視結果に基づき、前記未着データの入力を待つか否かを決定し、前記未着データの入力を待つ場合に、前記待ち時間の間前記未着データの入力を待ち、前記未着データの入力を待たない場合に、前記未着データの存在を示す値を前記レコードに追加して前記レコードの生成を完了するレコード生成処理と、
前記レコード生成処理による生成が完了したレコードを所定のテーブルに追加するテーブル追加処理とを実行させることを特徴とするプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2010/060352 WO2011158372A1 (ja) | 2010-06-18 | 2010-06-18 | データ処理装置及びデータ処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2011158372A1 JPWO2011158372A1 (ja) | 2013-08-15 |
JP5478722B2 true JP5478722B2 (ja) | 2014-04-23 |
Family
ID=45347792
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012520228A Active JP5478722B2 (ja) | 2010-06-18 | 2010-06-18 | データ処理装置及びデータ処理方法及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US9146927B2 (ja) |
JP (1) | JP5478722B2 (ja) |
KR (1) | KR101411120B1 (ja) |
CN (1) | CN102947829B (ja) |
WO (1) | WO2011158372A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013186866A1 (ja) * | 2012-06-13 | 2013-12-19 | 三菱電機株式会社 | データ保存装置及びデータ保存システム及びデータ保存方法及びコンピュータ読み取り可能な記録媒体 |
JP6002250B2 (ja) * | 2013-01-10 | 2016-10-05 | 株式会社日立製作所 | 時系列データ処理装置及び方法並びに記憶媒体 |
JPWO2016016944A1 (ja) * | 2014-07-29 | 2017-04-27 | 株式会社日立製作所 | データベース管理システム及びデータベース管理方法 |
US20170098010A1 (en) * | 2014-09-25 | 2017-04-06 | Hitachi, Ltd. | Data integration apparatus and data integration method |
US9760353B2 (en) | 2014-12-19 | 2017-09-12 | Signalfx, Inc. | Dynamically changing input data streams processed by data stream language programs |
US10394692B2 (en) * | 2015-01-29 | 2019-08-27 | Signalfx, Inc. | Real-time processing of data streams received from instrumented software |
FR3045255A1 (fr) * | 2015-12-11 | 2017-06-16 | Orange | Routeur d'un reseau domestique, interface de supervision et un procede de supervision de l'utilisation d'un reseau domestique |
CN108803502B (zh) * | 2017-04-27 | 2022-07-26 | 横河电机株式会社 | 数据收集装置及系统、数据服务器、数据收集方法及计算机可读取的非易失性的记录介质 |
JP6320654B1 (ja) * | 2017-06-27 | 2018-05-09 | 三菱電機株式会社 | 管理装置、通信システム、管理方法及び管理プログラム |
CN110998529B (zh) * | 2017-07-31 | 2021-08-20 | 三菱电机株式会社 | 信息处理装置以及信息处理方法 |
CN107548092B (zh) * | 2017-08-04 | 2021-01-26 | 深圳市盛路物联通讯技术有限公司 | 一种分布式网络延迟的数据处理方法及系统 |
WO2019130840A1 (ja) * | 2017-12-28 | 2019-07-04 | 日本電気株式会社 | 信号処理装置、解析システム、信号処理方法および信号処理プログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10269252A (ja) * | 1997-03-27 | 1998-10-09 | Hitachi Ltd | 分散情報の統合方法及び装置 |
JP2008072536A (ja) * | 2006-09-15 | 2008-03-27 | Brother Ind Ltd | 無線通信システム、通信端末及び無線通信プログラム |
Family Cites Families (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06180716A (ja) | 1992-12-14 | 1994-06-28 | Nec Corp | 時系列データ管理装置 |
US5734706A (en) * | 1995-07-27 | 1998-03-31 | Windsor; Victoria Brein | Caller identification and data retrieval system |
US5812826A (en) * | 1996-06-27 | 1998-09-22 | Mci Communications Corporation | Method and apparatus for emulating a network of state monitoring devices |
JP2000076257A (ja) | 1998-08-26 | 2000-03-14 | Fujitsu Ltd | 分散ネットワークサービスにおける情報検索装置及びその検索方法 |
US6184829B1 (en) * | 1999-01-08 | 2001-02-06 | Trueposition, Inc. | Calibration for wireless location system |
US6574246B1 (en) * | 1999-02-17 | 2003-06-03 | Tektronix, Inc. | Measuring delay variation of regenerated data clock and of associated data packets |
EP1235405A4 (en) * | 2000-10-06 | 2005-08-10 | Mitsubishi Electric Corp | DATA TRANSMISSION METHOD AND DATA TRANSMISSION DEVICE |
US6799258B1 (en) * | 2001-01-10 | 2004-09-28 | Datacore Software Corporation | Methods and apparatus for point-in-time volumes |
US6748202B2 (en) * | 2001-12-12 | 2004-06-08 | Nokia Corporation | Method, apparatus and system for synchronizing a cellular communication system to GPS time |
US7739122B2 (en) * | 2002-04-12 | 2010-06-15 | International Business Machines Corporation | Collection and analysis of measurement data associated with service elements |
US8611919B2 (en) * | 2002-05-23 | 2013-12-17 | Wounder Gmbh., Llc | System, method, and computer program product for providing location based services and mobile e-commerce |
US7231555B2 (en) * | 2002-08-22 | 2007-06-12 | Agilent Technologies, Inc. | Method and apparatus to coordinate groups of heterogeneous measurements |
CN101339783B (zh) * | 2003-02-19 | 2011-01-12 | 日本胜利株式会社 | 光记录方法、光记录媒体、光记录媒体记录装置、光记录装置、光盘、光盘记录再现装置 |
DE602004001697T2 (de) * | 2003-03-06 | 2007-08-09 | Matsushita Electric Industrial Co., Ltd., Kadoma | Vorrichtung zur Übertragung und zum Empfang von Nachrichten |
JP4359572B2 (ja) * | 2005-03-29 | 2009-11-04 | 富士通株式会社 | 状態管理装置及び方法 |
WO2006126260A1 (ja) * | 2005-05-25 | 2006-11-30 | Mitsubishi Denki Kabushiki Kaisha | ストリーム配信システム |
KR100974392B1 (ko) * | 2005-05-31 | 2010-08-05 | 닛본 덴끼 가부시끼가이샤 | 이동체 통신 시스템 및 그 통신 제어 방법 |
CA2611158A1 (en) * | 2005-06-06 | 2006-12-14 | Mobidia, Inc. | System and method of providing service information to a carrier |
JP4594869B2 (ja) * | 2006-01-24 | 2010-12-08 | 富士通株式会社 | 状態監視装置 |
JP2008092163A (ja) * | 2006-09-29 | 2008-04-17 | Brother Ind Ltd | 状況提示システム、サーバ及び、サーバプログラム |
EP3493074A1 (en) * | 2006-10-05 | 2019-06-05 | Splunk Inc. | Time series search engine |
US8229083B2 (en) * | 2007-01-10 | 2012-07-24 | International Business Machines Corporation | Method and system for automatically connecting to conference calls |
CN101242337B (zh) * | 2007-02-08 | 2010-11-10 | 张永敏 | 一种计算机网络的内容发布方法及系统 |
JP5010985B2 (ja) | 2007-05-30 | 2012-08-29 | 株式会社日立製作所 | センサノード |
JP4948276B2 (ja) | 2007-06-15 | 2012-06-06 | 三菱電機株式会社 | データベース検索装置及びデータベース検索プログラム |
JP5122890B2 (ja) * | 2007-09-06 | 2013-01-16 | 株式会社日立製作所 | 通信システム及びその装置 |
US20090164293A1 (en) * | 2007-12-21 | 2009-06-25 | Keep In Touch Systemstm, Inc. | System and method for time sensitive scheduling data grid flow management |
JP5074216B2 (ja) | 2008-01-21 | 2012-11-14 | 株式会社日立製作所 | センサネットサーバ、及びセンサネットシステム |
US8226572B2 (en) * | 2008-08-27 | 2012-07-24 | Lifeline Biotechnologies, Inc. | Methods for collecting and analyzing thermal data based on breast surface temperature to determine suspect conditions |
US8910006B2 (en) * | 2008-09-12 | 2014-12-09 | Infineon Technologies Ag | Systems and methods for regulating delay between network interfaces |
CN101738218A (zh) | 2008-11-14 | 2010-06-16 | 富港电子(东莞)有限公司 | 测量数据处理系统及其处理方法 |
US10456036B2 (en) * | 2008-12-23 | 2019-10-29 | Roche Diabetes Care, Inc. | Structured tailoring |
WO2010079538A1 (ja) * | 2009-01-08 | 2010-07-15 | 三菱電機株式会社 | データ伝送装置 |
EP2211508A1 (en) * | 2009-01-22 | 2010-07-28 | IBBT vzw | Method and device for characterising a data flow in a network for transferring media data |
JP2010192095A (ja) * | 2009-01-26 | 2010-09-02 | Panasonic Corp | 電子機器、データ記録方法及びデータ記録システム |
US8228895B2 (en) * | 2009-02-06 | 2012-07-24 | Mitsubishi Electric Corporation | Radio communication device and radio communication system |
US20110153603A1 (en) * | 2009-12-17 | 2011-06-23 | Yahoo! Inc. | Time series storage for large-scale monitoring system |
EP2520059B1 (en) * | 2009-12-29 | 2014-11-19 | Telecom Italia S.p.A. | Performing a time measurement in a communication network |
WO2011157301A1 (en) * | 2010-06-18 | 2011-12-22 | Nokia Siemens Networks Oy | Correlation of collected mobile terminal based measurement data and positioning data |
JP2013009159A (ja) * | 2011-06-24 | 2013-01-10 | Jvc Kenwood Corp | 監視システム、監視装置及び監視方法 |
JP5658417B2 (ja) * | 2012-02-27 | 2015-01-28 | 株式会社日立製作所 | 監視システム及び監視プログラム |
-
2010
- 2010-06-18 CN CN201080067485.6A patent/CN102947829B/zh active Active
- 2010-06-18 US US13/805,123 patent/US9146927B2/en active Active
- 2010-06-18 KR KR1020127032224A patent/KR101411120B1/ko active IP Right Grant
- 2010-06-18 WO PCT/JP2010/060352 patent/WO2011158372A1/ja active Application Filing
- 2010-06-18 JP JP2012520228A patent/JP5478722B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10269252A (ja) * | 1997-03-27 | 1998-10-09 | Hitachi Ltd | 分散情報の統合方法及び装置 |
JP2008072536A (ja) * | 2006-09-15 | 2008-03-27 | Brother Ind Ltd | 無線通信システム、通信端末及び無線通信プログラム |
Non-Patent Citations (2)
Title |
---|
CSNH200900276003; 山岸義徳 他2名: '高速集計検索エンジンとセンサデータベースへの応用' 三菱電機技報 第83巻第12号, 20091225, 11-14頁, 三菱電機エンジニアリング株式会社 * |
JPN6013056859; 山岸義徳 他2名: '高速集計検索エンジンとセンサデータベースへの応用' 三菱電機技報 第83巻第12号, 20091225, 11-14頁, 三菱電機エンジニアリング株式会社 * |
Also Published As
Publication number | Publication date |
---|---|
JPWO2011158372A1 (ja) | 2013-08-15 |
CN102947829A (zh) | 2013-02-27 |
US9146927B2 (en) | 2015-09-29 |
WO2011158372A1 (ja) | 2011-12-22 |
KR20130018415A (ko) | 2013-02-21 |
CN102947829B (zh) | 2016-03-16 |
KR101411120B1 (ko) | 2014-06-25 |
US20130103643A1 (en) | 2013-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5478722B2 (ja) | データ処理装置及びデータ処理方法及びプログラム | |
CN107229518B (zh) | 一种分布式集群训练方法和装置 | |
US20140189689A1 (en) | Apparatus for controlling information processing system, computer-readable recording medium storing program thereof, and method thereof | |
CN104113585A (zh) | 用于产生指示负载平衡状态的硬件级中断的方法和设备 | |
WO2015136624A1 (ja) | アプリケーション性能監視方法および装置 | |
US10756947B2 (en) | Batch logging in a distributed memory | |
JP2008041041A (ja) | ログ通知条件定義支援装置とログ監視システムおよびプログラムとログ通知条件定義支援方法 | |
US9471459B2 (en) | Information acquisition method and information acquisition apparatus | |
US9396087B2 (en) | Method and apparatus for collecting performance data, and system for managing performance data | |
US8635629B2 (en) | Status notification system, status notification device, status monitoring device, status detector, method for status notification, and storage medium including status notification program | |
US20200068019A1 (en) | Equipment analysis support apparatus, equipment analysis support method, and equipment analysis system | |
JP2015026197A (ja) | ジョブ遅延検知方法、情報処理装置、およびプログラム | |
JP5117355B2 (ja) | データ集計処理方法及びシステム | |
US9733997B2 (en) | Event management method and distributed system | |
JP6252309B2 (ja) | 監視漏れ特定処理プログラム,監視漏れ特定処理方法及び監視漏れ特定処理装置 | |
TWI669675B (zh) | 時序資料的分析控制方法及分析控制裝置 | |
US8539492B1 (en) | Managing data dependencies among multiple jobs using separate tables that store job results and dependency satisfaction | |
JP2013041574A (ja) | 情報処理システム運用管理装置、運用管理方法及び運用管理プログラム | |
JP7361526B2 (ja) | コントローラ、および、コントローラによる情報収集方法 | |
US20160077945A1 (en) | Storage system statistical data storage and analysis | |
JP5380386B2 (ja) | 機器情報管理システム及び方法 | |
CN112486953A (zh) | 数据迁移方法、装置、计算机设备及存储介质 | |
US20100325172A1 (en) | Information Processing Apparatus and Method | |
WO2012172600A1 (ja) | データ検索システム及びデータ検索方法 | |
US11121926B2 (en) | Management apparatus of managing devices using history of communication processes, management system of managing devices using history of communication processes, and management method of managing devices using history of communication processes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131119 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131212 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140210 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5478722 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |