JP2009009302A - ストリームデータ処理方法およびストリームデータ処理システム - Google Patents
ストリームデータ処理方法およびストリームデータ処理システム Download PDFInfo
- Publication number
- JP2009009302A JP2009009302A JP2007169228A JP2007169228A JP2009009302A JP 2009009302 A JP2009009302 A JP 2009009302A JP 2007169228 A JP2007169228 A JP 2007169228A JP 2007169228 A JP2007169228 A JP 2007169228A JP 2009009302 A JP2009009302 A JP 2009009302A
- Authority
- JP
- Japan
- Prior art keywords
- index
- data
- stream data
- stream
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 300
- 238000003672 processing method Methods 0.000 title claims abstract description 12
- 238000004364 calculation method Methods 0.000 claims description 120
- 238000003860 storage Methods 0.000 claims description 56
- 238000013523 data management Methods 0.000 claims description 41
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 230000001174 ascending effect Effects 0.000 claims description 6
- 238000007726 management method Methods 0.000 description 89
- 238000013500 data storage Methods 0.000 description 55
- 238000000034 method Methods 0.000 description 44
- 238000010586 diagram Methods 0.000 description 29
- 238000011156 evaluation Methods 0.000 description 25
- 230000008569 process Effects 0.000 description 23
- 238000005259 measurement Methods 0.000 description 12
- 238000004458 analytical method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 230000008034 disappearance Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000004321 preservation Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000009529 body temperature measurement Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000029087 digestion Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24568—Data stream processing; Continuous queries
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
【解決手段】指標ID付加部130は、ストリームデータに、ストリームデータの前後のストリームを利用して計算される指標値を付加し、時々刻々と変化するストリームに応じて前記指標値を再計算し、予め定められた処理方法に従ってストリームデータを処理した結果に、ストリームデータの指標値に基づいて計算した指標値を付加して出力する。その処理結果と該処理結果の指標値を受け取ったアプリケーションは、指標値によって処理を切り替える。
【選択図】図1
Description
R. Motwani, J. Widom, 22rasu, 21abcock, S. Babu, M. Datar, G. Manku, C. Olston, J. Rosenstein, and R. Varma著:"Query Processing, Resource Management, and Approximation in a Data Stream Management System",In Proc. of the 2003 Conf. on Innovative Data Systems Research (CIDR), January M.Mutsuzaki,M.Theobald,A.de Keijzer,J.Widom,P.Agrawal,O.Benjelloun,A Das Sarma,R.Murthy,and T.Sugihara著:"Trio−One:Layering Uncertainty and Lineage on a Conventional DBMS",Proceedings of the Third Biennial Conference on Innovative Data Systems Research(CIDR07),January 2007
図1は、本発明の実施の形態1によるストリームデータ処理システムの構成例を示すブロック図、図2は、図1のストリームデータ処理システムに設けられた指標ID付加部の処理例を示すフローチャート、図3は、図2に続く指標ID付加部の処理例を示すフローチャート、図4は、図3に続く指標ID付加部の処理例を示すフローチャート、図5は、ストリームデータ処理システムに設けられた処理対象データ管理部の処理例を示すフローチャート、図6は、ストリームデータ処理システムに設けられた指標ID付きデータ処理部の処理例を示すフローチャート、図7は、ストリームデータ処理システムに設けられた指標付きデータ生成部、および指標ID評価部の処理例を示すフローチャート、図8は、図7に続く指標付きデータ生成部、および指標ID評価部の処理例を示すフローチャート、図9は、ストリームデータ処理システムに設けられた指標保存部の処理例を示すフローチャート、図10は、図1のストリームデータ処理システムに用いられるストリームデータにおけるデータフォーマットの一例を模式的に示した説明図、図11は、連続して入力されたストリームデータからなる商品位置測定ストリームを例示した説明図、図12は、図1のストリームデータ処理システムに設けられた指標値計算用データ保存管理部に保存されるデータ例を模式的に示した説明図、図13は、ストリームデータに対する問い合せコマンドの一例を示した説明図、図14は、入力ストリームデータの指標値計算方法の一例を示した説明図、図15は、図1のストリームデータ処理システムに設けられた指標ID付きデータ生成部が作成する指標ID付きストリームデータを例示した説明図、図16は、図1のストリームデータ処理システムに設けられた、指標保存管理テーブルに保存されるデータを例示した説明図、図17は、処理対象データ管理部から出力される指標ID付きデータの例を示した説明図、図18は、指標ID付きデータ処理部から出力される指標ID式付き処理結果データの例を示した説明図、図19は、図1のストリームデータ処理システムに設けられた指標付きデータ出力部から出力される出力データ、および出力データの指標値の例を示した説明図、図20は、計算機上で実行されるアプリケーション処理の一例を示した説明図である。
前記実施の形態1では、図1において、1つの指標ID付きストリームデータは、1つまたは複数の処理対象データ管理部140に出力されるとしたが、本実施の形態2においては、1つの指標ID付きストリームデータは、1つの前記処理対象データ管理部140にのみ出力されるものとする。
図21は、本発明の実施の形態3による指標付きストリームデータ処理システムの構成例を示すブロック図である。
図22は、本発明の実施の形態4による指標付きストリームデータ処理システムの構成例を示すブロック図である。
図23は、本発明の実施の形態5によるRFIDリーダの構成例を示したブロック図である。
図24は、本発明の実施の形態5によるセンサノードから入力されるストリームデータの好適なフォーマットの例を模式的に表した説明図、図25は図24の入力ストリームデータに対する問合わせの例を示した説明図、図26は、図25の問合わせの結果とその信頼度を受け取って処理を行うアプリケーションの一例を示す説明図である。
101 RFIDリーダ
102 センサノード
103 計算機
104 アプリケーション
106 計算機
107 アプリケーション
109 計算機
110 アプリケーション
111 ネットワーク
118 問合わせ管理部
119 コマンド入力部
120 指標計算法管理部
121 指標計算法選択部
122 指標計算法入力部
123 指標計算法保存部
130 指標ID付加部
131 指標ID付きデータ生成部
132 指標値計算部
133 指標値計算用データ保存管理部
134 指標値計算用データ保存テーブル
140 処理対象データ管理部
141 処理対象データ保存管理部
142 処理対象データ保存テーブル
150 指標ID付きデータ処理部
151 データ処理部
152 指標ID処理部
160 指標付きデータ出力部
161 指標付きデータ生成部
162 指標ID評価部
170 指標保存部
171 指標保存管理部
172 指標保存管理テーブル
183 指標ID付きストリームデータ
184 指標ID付きデータ
2100 指標付きストリームデータ処理システム
2101 RFIDリーダ
2102 センサノード
2103 計算機
2104 アプリケーション
2107 アプリケーション
2110 アプリケーション
2113 計算機
2114 アプリケーション
2106 計算機
2160 指標ID評価部
2171 指標保存管理部
2201 RFIDリーダ
2202 センサノード
2203 計算機
2204 アプリケーション
2206 計算機
2207 アプリケーション
2218 問合わせ管理部
2219 コマンド入力部
2280 問合わせ管理部
2220 指標計算法管理部
2230 指標付加部
2231 指標付きデータ生成部
2232 指標値計算部
2233 指標値計算用データ保存管理部
2234 指標値計算用データ保存テーブル
2240 処理対象データ管理部
2241 処理対象データ保存管理部
2242 処理対象データ保存テーブル
2250 指標付きデータ処理部
2251 データ処理部
2252 指標処理部
2283 指標付きストリームデータ
2300 RFIDリーダ
2301〜2310 アンテナ
Claims (9)
- タイムスタンプが付加された複数のデータが、前記タイムスタンプの昇順に継続的に到来する時系列データの流れであるストリームを、任意に登録された問合わせに従って処理するストリームデータ処理システムであって、
任意の時間内の前記ストリームを利用し、指標関数アルゴリズムに基づいて計算した第1の指標となる指標値をストリームデータに付加し、前記第1の指標の指標値に基づいて得られる第2の指標の指標値を、前記第1の指標が付加されたストリームデータの処理結果に付加することを特徴とするストリームデータ処理方法。 - 請求項1記載のストリームデータ処理方法において、
前記第1、および第2の指標は、前記ストリームデータの正しさを示す確率である信頼度であることを特徴とするストリームデータ処理方法。 - 請求項1記載のストリームデータ処理方法において、
前記第2の指標は、時々刻々と変化するストリームに対して、前記ストリームデータより後のタイムスタンプが付加されているストリームデータが到来した時点、または任意の時間間隔で指標関数アルゴリズムに基づいて、前記ストリームデータの指標値を再計算し、その再計算されたストリームデータの指標値に基づいて処理結果の指標値を求めたものであることを特徴とするストリームデータ処理方法。 - 請求項1記載のストリームデータ処理方法において、
前記ストリームデータにおける指標値は、
前記ストリームデータの前後の任意の時間内のストリームを利用して、予め定義された指標関数アルゴリズムに従って計算することを特徴とするストリームデータ処理方法。 - 請求項1記載のストリームデータ処理方法において、
前記ストリームデータの処理結果と前記第2の指標の指標値に基づいて、信頼度に応じたストリームデータを処理する指標別処理を行うことを特徴とするストリームデータ処理方法。 - タイムスタンプが付与された複数のデータが、前記タイムスタンプの昇順に到来する時系列データの流れであるストリームを、任意に登録された問合わせに従って処理するストリームデータ処理システムであって、
入力されたストリームデータの指標値を第1の指標として計算し、指標IDを採番して前記ストリームデータに指標IDを付加して出力し、任意のタイミングで前記指標値を再計算する指標ID付加部と、
前記採番された指標IDと計算した前記指標値と前記指標値が計算された時刻の組、または前記指標IDと再計算された前記指標値と前記指標値が再計算された時刻の組とを保存する指標保存部と、
登録された問合わせに従って、処理対象となる前記指標IDが付加されたストリームデータを管理する処理対象データ管理部と、
各時点において処理対象となる前記指標IDが付加されたストリームデータに対して処理を実行し、その処理結果と前記指標IDを利用して記述される前記処理結果の指標ID式を出力する指標ID付きデータ処理部と、
前記指標ID式と前記指標保存部に保存されている前記指標値とより、前記処理結果の指標値を求めて、前記処理結果と共に出力する指標付きデータ出力部とを備えたことを特徴とするストリームデータ処理システム。 - 請求項6記載のストリームデータ処理システムにおいて、
前記指標値を計算する指標関数アルゴリズムを入力する入力手段を備えたことを特徴とするストリームデータ処理システム。 - タイムスタンプが付与された複数のデータが、前記タイムスタンプの昇順に到来する時系列データの流れであるストリームを、任意に登録された問合わせに従って処理するストリームデータ処理システムであって、
入力されたストリームデータの第1の指標となる指標値を計算して前記ストリームデータに付加して出力し、任意のタイミングで前記第1の指標を再計算して前記ストリームデータに付加して出力する指標付加部と、
任意に登録された問合わせに従って、処理対象となる指標IDが付加されたストリームデータを管理する処理対象データ管理部と、
各時点において処理対象となる前記第1の指標が付加されたストリームデータに対して処理を実行し、その処理結果と第2の指標となる指標値を出力する指標付きデータ処理部とを備えたことを特徴とするストリームデータ処理システム。 - 請求項8記載のストリームデータ処理システムにおいて、
前記指標値を計算する指標関数アルゴリズムを入力する入力手段を備えたことを特徴とするストリームデータ処理システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007169228A JP5055039B2 (ja) | 2007-06-27 | 2007-06-27 | ストリームデータ処理方法およびストリームデータ処理システム |
US12/035,094 US7949653B2 (en) | 2007-06-27 | 2008-02-21 | Stream data processing method and stream data processing system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007169228A JP5055039B2 (ja) | 2007-06-27 | 2007-06-27 | ストリームデータ処理方法およびストリームデータ処理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009009302A true JP2009009302A (ja) | 2009-01-15 |
JP5055039B2 JP5055039B2 (ja) | 2012-10-24 |
Family
ID=40161795
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007169228A Expired - Fee Related JP5055039B2 (ja) | 2007-06-27 | 2007-06-27 | ストリームデータ処理方法およびストリームデータ処理システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US7949653B2 (ja) |
JP (1) | JP5055039B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL192477A0 (en) * | 2008-06-26 | 2009-02-11 | Hyperroll Israel Ltd | A method and system for creation and dynamic updating of best data store system |
IL195956A0 (en) | 2008-12-15 | 2009-09-01 | Hyperroll Israel Ltd | Automatic data store architecture detection |
IL197961A0 (en) * | 2009-04-05 | 2009-12-24 | Guy Shaked | Methods for effective processing of time series |
US8930352B2 (en) * | 2011-06-30 | 2015-01-06 | Lenovo Enterprise Solutions (Singapore) Pte. Ltd. | Reliance oriented data stream management system |
US9396157B2 (en) * | 2011-08-26 | 2016-07-19 | International Business Machines Corporation | Stream application performance monitoring metrics |
US10083430B2 (en) * | 2012-06-08 | 2018-09-25 | Ronny Hay | Computer-controlled, unattended, automated checkout store outlet system and related method |
CN108846534B (zh) * | 2018-04-09 | 2021-12-24 | 绵阳伦奇机器人有限公司 | 基于验证辅助的气密性追溯方法和系统 |
CN108830339B (zh) * | 2018-04-09 | 2021-12-24 | 绵阳伦奇机器人有限公司 | 气密检测追溯系统 |
CN108920516B (zh) * | 2018-05-31 | 2022-03-22 | 北京字节跳动网络技术有限公司 | 实时分析方法、系统、装置及计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002024251A (ja) * | 2000-07-07 | 2002-01-25 | Nippon Telegr & Teleph Corp <Ntt> | 時系列データの分類方法及び装置並びに時系列データの分類プログラムを記録した記録媒体 |
JP2006268369A (ja) * | 2005-03-23 | 2006-10-05 | Nippon Telegr & Teleph Corp <Ntt> | センサデータ管理装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4687253B2 (ja) * | 2005-06-03 | 2011-05-25 | 株式会社日立製作所 | ストリームデータ処理システムのクエリ処理方法 |
JP4723301B2 (ja) * | 2005-07-21 | 2011-07-13 | 株式会社日立製作所 | ストリームデータ処理システムおよびストリームデータ処理方法 |
US7552099B2 (en) * | 2006-03-10 | 2009-06-23 | International Business Machines Corporation | System and method for indexing a data stream |
-
2007
- 2007-06-27 JP JP2007169228A patent/JP5055039B2/ja not_active Expired - Fee Related
-
2008
- 2008-02-21 US US12/035,094 patent/US7949653B2/en not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002024251A (ja) * | 2000-07-07 | 2002-01-25 | Nippon Telegr & Teleph Corp <Ntt> | 時系列データの分類方法及び装置並びに時系列データの分類プログラムを記録した記録媒体 |
JP2006268369A (ja) * | 2005-03-23 | 2006-10-05 | Nippon Telegr & Teleph Corp <Ntt> | センサデータ管理装置 |
Also Published As
Publication number | Publication date |
---|---|
US20090006310A1 (en) | 2009-01-01 |
JP5055039B2 (ja) | 2012-10-24 |
US7949653B2 (en) | 2011-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5055039B2 (ja) | ストリームデータ処理方法およびストリームデータ処理システム | |
US8335782B2 (en) | Ranking query processing method for stream data and stream data processing system having ranking query processing mechanism | |
JP4992945B2 (ja) | ストリームデータ生成方法、ストリームデータ生成装置及びストリームデータ生成プログラム | |
US20130282726A1 (en) | Grouping identity records to generate candidate lists to use in an entity and relationship resolution process | |
US20070288459A1 (en) | Stream data processing method cooperable with reference external data | |
US20150278355A1 (en) | Temporal context aware query entity intent | |
US8943042B2 (en) | Analyzing and representing interpersonal relations | |
US10067964B2 (en) | System and method for analyzing popularity of one or more user defined topics among the big data | |
JP2012048332A (ja) | データベース処理方法、データベース処理システム及びデータベースサーバ | |
AU2011247915B2 (en) | Enhancing an inquiry for a search of a database | |
CN110543477B (zh) | 一种标签构建系统及方法 | |
CN109086354A (zh) | 一种基于可扩展节点集群的大数据分析处理系统 | |
JP6366529B2 (ja) | 動線処理システム及び動線処理方法 | |
US20220027252A1 (en) | Systems and methods for detecting, analyzing, and evaluating interaction paths | |
US10719561B2 (en) | System and method for analyzing popularity of one or more user defined topics among the big data | |
US20220180400A1 (en) | Information processing apparatus, display system, and information processing method | |
JP2004078917A (ja) | 製造最適化および同期化プロセス | |
Khoussainova et al. | Peex: Extracting probabilistic events from RFID data | |
CN113641780B (zh) | 搜索方法、系统、设备、存储介质和计算机程序产品 | |
WO2016027364A1 (ja) | 話題クラスタ選択装置、及び検索方法 | |
JP5424989B2 (ja) | Posデータ分析装置及び方法及びプログラム | |
EP4002151A1 (en) | Data tagging and synchronisation system | |
CN113076322A (zh) | 一种商品搜索处理方法及装置 | |
JP4664847B2 (ja) | 過誤発注防止方法 | |
JP2011258097A (ja) | データ処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100303 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120403 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120604 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120703 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120730 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150803 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |