JP5018000B2 - Data processing method - Google Patents
Data processing method Download PDFInfo
- Publication number
- JP5018000B2 JP5018000B2 JP2006273521A JP2006273521A JP5018000B2 JP 5018000 B2 JP5018000 B2 JP 5018000B2 JP 2006273521 A JP2006273521 A JP 2006273521A JP 2006273521 A JP2006273521 A JP 2006273521A JP 5018000 B2 JP5018000 B2 JP 5018000B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- stored
- converted
- database
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は、外部入力されるディジタルデータをデータベースに蓄積し、蓄積したデータを検索してその加工/解析などを行なうデータ処理システムに係り、特にデータベースに格納されるバイナリ形式データを検索し、このデータから文字列データに変換したファイル出力を得るデータ処理方法に関する。 The present invention relates to a data processing system for storing digital data inputted externally in a database, searching the stored data, and processing / analyzing the stored data. In particular, the present invention searches binary format data stored in a database. The present invention relates to a data processing method for obtaining a file output converted from data to character string data.
この種のデータ処理システムは、例えば、電力系統や電力設備の各部位の電圧、電流の波形をサンプリングしてディジタル信号に変換し、このディジタル信号の解析によって系統の運用状態や設備の動作状態を求める解析システム、車両等の試験運転における各種計測信号から試験データを取得する試験システム、監視カメラで撮影した映像から侵入者等が写っている映像部分を抽出する映像解析システム、指紋データを取得して個人を認証する指紋認証システムなどで実施されている。 This type of data processing system, for example, samples the voltage and current waveforms of each part of the power system and power equipment, converts them into digital signals, and analyzes the digital signals to determine the operating status of the system and the operating status of the equipment. Analysis system required, test system that acquires test data from various measurement signals in test driving of vehicles, etc., video analysis system that extracts video parts that show intruders etc. from video taken by surveillance cameras, and fingerprint data This is implemented by fingerprint authentication systems that authenticate individuals.
上記のようなデータ処理システムは、大量のディジタルデータまたはアナログ信号をディジタルデータに変換して収集するデータ収集部と、このディジタルデータをデータベースのデータ蓄積方式に適合させたデータ形式に変換して蓄積するデータ変換部と、データベースに蓄積したデータを検索して目的とする加工を行うデータ加工部と、加工結果を画像データやファイルデータとして出力する出力部により構成され、各部はコンピュータ資源とそれを利用したソフトウェア構成で実現される(例えば特許文献1参照)。 The data processing system as described above includes a data collection unit that converts a large amount of digital data or analog signal into digital data and collects it, and converts this digital data into a data format adapted to the data storage method of the database and stores it. Data conversion unit, a data processing unit that searches the data stored in the database and performs the desired processing, and an output unit that outputs the processing results as image data or file data. This is realized by using a software configuration (see, for example, Patent Document 1).
ここで、データベースに対するデータ格納からファイル出力までの処理は、以下のようにしている。 Here, processing from data storage to file output to the database is as follows.
(1)データ格納処理
収集したデータをデータベース内に蓄積する際に、取得したデータをバイナリ形式として保存する。また、データベースに蓄積するレコード数を減らすため、ある一定区間のデータをひとまとめにして、1レコードに格納している(例:信号AのON出力〜信号AのOFF出力まで)。このため、データベースの各フィールドには、信号AのON出力時の時間から信号AのOFF出力の時間までに取得したデータが一列のバイナリデータ列として格納される。
(1) Data storage processing When the collected data is stored in the database, the acquired data is stored in a binary format. In addition, in order to reduce the number of records stored in the database, data in a certain interval are collectively stored in one record (eg, from ON output of signal A to OFF output of signal A). For this reason, in each field of the database, data acquired from the time when the signal A is output to the time when the signal A is output is stored as a single binary data string.
(2)ファイル出力時のデータ保持処理
データベースに蓄積されたバイナリデータをファイル出力する際に、データベースより取得したデータをバイナリ変換前のデータのバイト数ごとに区切った後、数値変換を行なう。数値変換後のデータを加工し、さらに文字列変換したデータ別に配列としてメモリ上に保持する。
(2) Data retention processing at the time of file output When binary data accumulated in the database is output to a file, the data obtained from the database is divided by the number of bytes of data before binary conversion, and then numerical conversion is performed. The data after the numerical conversion is processed, and further stored in the memory as an array for each character string converted data.
図2はデータ保持の処理態様の例を示し、データベースから取得したサンプリングデータ(バイナリ形式)を指定バイト(例:2バイト)で区切って数値変換し(S1)、数値変換した値に対して変換係数a,bをもつ一次変換式y=ax+bを使用して物理量(実際の電圧値、電流値など)変換を行い(S2)、変換した値を文字列データに変換してフィールドデータとしてメモリ上に保持する(S3)。 FIG. 2 shows an example of a data retention processing mode, in which sampling data (binary format) obtained from a database is delimited by a specified byte (eg, 2 bytes) and converted into a numerical value (S1), and converted into a numerical value converted value. A physical quantity (actual voltage value, current value, etc.) is converted using a primary conversion formula y = ax + b having coefficients a and b (S2), and the converted value is converted into character string data and stored in memory as field data. (S3).
(3)ファイル出力処理
データベースより取得したフィールドデータが全て文字列データに変換されてメモリ上に保持された後、同一時刻に取得したデータを取り出し、全フィールドのデータを取得してファイルに出力する。
(3) File output processing After all the field data acquired from the database is converted to character string data and stored in the memory, the data acquired at the same time is retrieved, and the data of all fields is acquired and output to a file. .
図3はファイル出力処理態様の例を示し、出力する各フィールドのサンプリングデータを格納した配列から、同一時刻の文字列データを取り出し(S4)、全フィールドのデータを取得した後に1行分のデータをファイルに書き出し(S5)、これら処理を繰り返す。
データベースに対するデータ検索からファイル出力までの従来のデータ処理方法では、データベースより取得するデータ数が大きいと、変換した文字列データの保持処理に際してメモリ領域が随時拡大されて大容量のメモリ領域が使用され、そのメモリ領域の確保、解放に時間がかかり、結果的にファイル出力までに時間を要してしまい、高速処理が難しくなる。 In the conventional data processing method from data search to file output to the database, if the number of data to be acquired from the database is large, the memory area is expanded at any time and the large-capacity memory area is used when the converted character string data is retained. It takes time to secure and release the memory area, and as a result, it takes time to output the file, which makes high-speed processing difficult.
本発明の目的は、データベースに格納したバイナリ形式のデータ検索から文字列に変換したファイル出力までの処理時間を短縮できるデータ処理方法を提供することにある。 An object of the present invention is to provide a data processing method capable of shortening a processing time from a binary format data search stored in a database to a file output converted into a character string.
本発明は、前記の課題を解決するため、データ保持処理ではデータベースより取得した各フィールドのバイナリ形式データを文字列に変換することなくそのまま保持し、ファイル出力処理においてバイナリ形式データを文字列データに変換するようにしたもので、以下の方法を特徴とする。 In order to solve the above problems, the present invention holds the binary format data of each field acquired from the database without converting it into a character string in the data holding process, and converts the binary format data into the character string data in the file output process. The conversion method is characterized by the following method.
検出された1フィールド分のバイナリ形式のディジタルデータを、データ変換部により数値データに変換してフィールド毎に区分してデータベースに蓄積し、蓄積データの出力時に文字列データとしてファイルデータに書き込んで出力を得るデータ処理方法であって、
前記数値データに変換された1フィールド分のデータ数を取得して格納するデータ数格納メモリ領域、区切りバイト数、データ加工用の変換係数を格納するバイト数・変換係数メモリ領域、及び前記バイナリ形式のデータを格納するバイナリデータメモリ格納領域を前記データベース内に設け、データ保持処理手段により設けられた各メモリ領域に当該データをそれぞれ格納する共に、
前記ファイルデータ出力時に、ファイル出力処理手段により、前記区切りバイト数と時間から求められるデータ位置を特定して区切りバイトのサイズで数値変換し、変換された値に対して前記変換係数を使用して物理量変換を行い、返還結果を字列データに変換し前記ファイル出力データに書き込むことを特徴とするものである。
Detected binary format digital data for one field is converted into numerical data by the data converter, stored for each field, stored in a database, and written to file data as character string data when the stored data is output. A data processing method for obtaining
A data number storage memory area for acquiring and storing the number of data for one field converted into the numerical data , a delimiter byte number, a byte number / conversion coefficient memory area for storing a conversion coefficient for data processing, and the binary format A binary data memory storage area for storing the data is provided in the database, and the data is stored in each memory area provided by the data holding processing means.
When outputting the file data, the file output processing means specifies the data position obtained from the number of delimiter bytes and time, converts the numerical value with the size of the delimiter byte, and uses the conversion coefficient for the converted value The physical quantity is converted, the return result is converted into character string data, and written to the file output data.
以上のとおり、本発明によれば、データ保持処理ではデータベースより取得した各フィールドのバイナリ形式データを文字列に変換することなくそのまま保持し、ファイル出力処理においてバイナリ形式データを文字列データに変換するようにしたため、検索データを文字列変換するまでの間のメモリの確保、解放の時間を短縮でき、結果的にファイル出力までの時間を短縮できる。 As described above, according to the present invention, in the data holding process, the binary format data of each field acquired from the database is held as it is without being converted into a character string, and the binary format data is converted into the character string data in the file output process. As a result, it is possible to shorten the time for securing and releasing the memory until the search data is converted to the character string, and as a result, the time until file output can be shortened.
また、データ検索の時間が短縮されることで、データ処理システム全体として高速処理が期待できる。 In addition, since the data search time is shortened, high-speed processing can be expected as the entire data processing system.
図1は、本発明の実施形態を示すデータ格納からファイル出力までの処理態様図であり、以下、個別にその処理を説明する。 FIG. 1 is a processing mode diagram from data storage to file output showing an embodiment of the present invention, and the processing will be individually described below.
(1)データ格納処理は、従来手法と同様に、収集したデータをデータベース内に蓄積する際に、取得したデータをバイナリ形式として保存する。また、データベースに蓄積するレコード数を減らすため、ある一定区間のデータをひとまとめにして、1レコードに格納し、データベースの各フィールドには、一列のバイナリデータ列として格納する。 (1) The data storage process stores the acquired data in a binary format when the collected data is stored in the database, as in the conventional method. In addition, in order to reduce the number of records accumulated in the database, data in a certain interval are collectively stored in one record, and stored in each field of the database as a single binary data string.
(2)ファイル出力時のデータ保持処理
データベースより取得した各フィールドのバイナリ形式データよりデータ数を取得してメモリ領域に格納する(S11)。その他、区切りバイト数、データ加工用のデータ(例では一次変換係数a,b)などの必要なデータをメモリ領域に格納する(S12)。そして、データベースより取得したバイナリデータをそのまま配列データとして格納する(S13)。
(2) Data holding process at the time of file output The number of data is acquired from the binary format data of each field acquired from the database and stored in the memory area (S11). In addition, necessary data such as the number of delimiter bytes and data for data processing (primary conversion coefficients a and b in the example) are stored in the memory area (S12). Then, the binary data acquired from the database is stored as array data as it is (S13).
(3)ファイル出力処理
出力する各フィールドのサンプリングデータ(バイナリ形式)で、時間と区切りバイト数から求めるデータの位置を特定して、区切りバイト(2バイト)のサイズで数値変換し(S14)、数値変換した値に対して変換係数a,bをもつ一次変換式y=ax+bを使用して物理量変換を行い(S15)、変換結果を文字列データに変換してファイル出力データに追加する(S16)。全フィールドのデータを取得したとき、1行分のフィールドデータをファイルに書き込む(S17)。
(3) File output processing In the sampling data (binary format) of each field to be output, the position of the data to be obtained is specified from the time and the number of delimiter bytes, and numerical conversion is performed with the size of delimiter bytes (2 bytes) (S14). A physical quantity conversion is performed on the numerically converted value using a primary conversion equation y = ax + b having conversion coefficients a and b (S15), and the conversion result is converted into character string data and added to the file output data (S16). ). When the data of all fields is acquired, the field data for one line is written in the file (S17).
したがって、本実施形態によれば、データ保持処理ではデータベースより取得した各フィールドのバイナリ形式データを文字列に変換することなくそのまま保持し、ファイル出力処理でバイナリ形式データを文字列データに変換するため、データ保持処理に際してメモリの確保、解放の時間を短縮できる。 Therefore, according to this embodiment, in the data holding process, the binary format data of each field acquired from the database is held as it is without being converted into a character string, and the binary format data is converted into the character string data in the file output process. The time for securing and releasing the memory can be shortened in the data holding process.
Claims (1)
前記数値データに変換された1フィールド分のデータ数を取得して格納するデータ数格納メモリ領域、区切りバイト数、データ加工用の変換係数を格納するバイト数・変換係数メモリ領域、及び前記バイナリ形式のデータを格納するバイナリデータメモリ格納領域を前記データベース内に設け、データ保持処理手段により設けられた各メモリ領域に当該データをそれぞれ格納する共に、
前記ファイルデータ出力時に、ファイル出力処理手段により、前記区切りバイト数と時間から求められるデータ位置を特定して区切りバイトのサイズで数値変換し、変換された値に対して前記変換係数を使用して物理量変換を行い、返還結果を字列データに変換し前記ファイル出力データに書き込むことを特徴とするデータ処理方法。 Detected binary format digital data for one field is converted into numerical data by the data converter, stored for each field, stored in a database, and written to file data as character string data when the stored data is output. A data processing method for obtaining
A data number storage memory area for acquiring and storing the number of data for one field converted into the numerical data , a delimiter byte number, a byte number / conversion coefficient memory area for storing a conversion coefficient for data processing, and the binary format A binary data memory storage area for storing the data is provided in the database, and the data is stored in each memory area provided by the data holding processing means.
When outputting the file data, the file output processing means specifies the data position obtained from the number of delimiter bytes and time, converts the numerical value with the size of the delimiter byte, and uses the conversion coefficient for the converted value A data processing method characterized by performing physical quantity conversion, converting a return result into character string data, and writing it into the file output data.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006273521A JP5018000B2 (en) | 2006-10-05 | 2006-10-05 | Data processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006273521A JP5018000B2 (en) | 2006-10-05 | 2006-10-05 | Data processing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008090764A JP2008090764A (en) | 2008-04-17 |
JP5018000B2 true JP5018000B2 (en) | 2012-09-05 |
Family
ID=39374814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006273521A Active JP5018000B2 (en) | 2006-10-05 | 2006-10-05 | Data processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5018000B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
BRPI0921362A2 (en) * | 2008-11-07 | 2019-09-24 | Sumitomo Electric Industries | communication device |
WO2010147454A1 (en) * | 2009-06-16 | 2010-12-23 | Emanual System Sdn Bhd | System and method of binary data storage and management in database management systems |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05127960A (en) * | 1991-11-07 | 1993-05-25 | Meidensha Corp | Data representing system for data base |
JPH0822476A (en) * | 1994-07-06 | 1996-01-23 | Toshiba Corp | Plant data general management device |
JPH10281813A (en) * | 1997-04-10 | 1998-10-23 | Hioki Ee Corp | Method of recording measured data |
JP2002351706A (en) * | 2001-05-22 | 2002-12-06 | Ntt Comware Corp | Method/program for presenting binary file and recording medium |
JP2003122767A (en) * | 2001-10-10 | 2003-04-25 | Canon Inc | Information processor and information processing method |
JP2004165733A (en) * | 2002-11-08 | 2004-06-10 | Matsushita Electric Ind Co Ltd | Image converter, image conversion method, and recording medium |
JP2004234119A (en) * | 2003-01-28 | 2004-08-19 | Yokogawa Electric Corp | Measured data processing method and measured data processing device |
-
2006
- 2006-10-05 JP JP2006273521A patent/JP5018000B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2008090764A (en) | 2008-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9380257B2 (en) | Portable electronic equipment and method of recording media using a portable electronic equipment | |
US20140009682A1 (en) | System for media correlation based on latent evidences of audio | |
WO2019138983A1 (en) | Match determination device, match determination method, storage medium | |
KR20120015819A (en) | Non-contact method for generating parameter data for measuring displacement of structure | |
JP5018000B2 (en) | Data processing method | |
US8234454B2 (en) | Method and system of numerical analysis for continuous data | |
JP2007028344A (en) | Data recording unit and data recording system | |
JP5137783B2 (en) | Hash generation device, verification device, hash generation program, and hash generation method | |
CN113255438B (en) | Structured video file marking method, system, host and storage medium | |
JP5366676B2 (en) | IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM | |
CN107169057B (en) | Method and device for detecting repeated pictures | |
CN104655284B (en) | Analysis device, processing device, analysis method, and processing method | |
US11500411B2 (en) | Formulizing time-series sensor data to facilitate compact storage and eliminate personally identifiable information | |
CN110876090A (en) | Video abstract playback method and device, electronic equipment and readable storage medium | |
JP2008035124A5 (en) | ||
KR101549615B1 (en) | A method for recovering CCTV video data in DVR by using time-based video index and matching scan of video data | |
CN110876029B (en) | Video abstract playback method and device, electronic equipment and readable storage medium | |
JP2003315370A (en) | Waveform recording device | |
JP2011069767A (en) | Waveform recording apparatus | |
JP2013160781A (en) | Imaging sound-recording system | |
KR20180003266A (en) | CCTV image data extraction methods stored on the hard disk | |
CN113645425A (en) | Processing method, processing system, information adding device, detection device, and processing device | |
JP4062480B2 (en) | Waveform recorder | |
JP4753605B2 (en) | Audio file processing device | |
JP2676087B2 (en) | Particle size distribution processor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090904 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111108 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120110 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20120110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120214 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120413 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120515 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120528 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5018000 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150622 Year of fee payment: 3 |