JP5018000B2 - Data processing method - Google Patents

Data processing method Download PDF

Info

Publication number
JP5018000B2
JP5018000B2 JP2006273521A JP2006273521A JP5018000B2 JP 5018000 B2 JP5018000 B2 JP 5018000B2 JP 2006273521 A JP2006273521 A JP 2006273521A JP 2006273521 A JP2006273521 A JP 2006273521A JP 5018000 B2 JP5018000 B2 JP 5018000B2
Authority
JP
Japan
Prior art keywords
data
stored
converted
database
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006273521A
Other languages
Japanese (ja)
Other versions
JP2008090764A (en
Inventor
智成 小松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Meidensha Corp
Original Assignee
Meidensha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Meidensha Corp filed Critical Meidensha Corp
Priority to JP2006273521A priority Critical patent/JP5018000B2/en
Publication of JP2008090764A publication Critical patent/JP2008090764A/en
Application granted granted Critical
Publication of JP5018000B2 publication Critical patent/JP5018000B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、外部入力されるディジタルデータをデータベースに蓄積し、蓄積したデータを検索してその加工/解析などを行なうデータ処理システムに係り、特にデータベースに格納されるバイナリ形式データを検索し、このデータから文字列データに変換したファイル出力を得るデータ処理方法に関する。   The present invention relates to a data processing system for storing digital data inputted externally in a database, searching the stored data, and processing / analyzing the stored data. In particular, the present invention searches binary format data stored in a database. The present invention relates to a data processing method for obtaining a file output converted from data to character string data.

この種のデータ処理システムは、例えば、電力系統や電力設備の各部位の電圧、電流の波形をサンプリングしてディジタル信号に変換し、このディジタル信号の解析によって系統の運用状態や設備の動作状態を求める解析システム、車両等の試験運転における各種計測信号から試験データを取得する試験システム、監視カメラで撮影した映像から侵入者等が写っている映像部分を抽出する映像解析システム、指紋データを取得して個人を認証する指紋認証システムなどで実施されている。   This type of data processing system, for example, samples the voltage and current waveforms of each part of the power system and power equipment, converts them into digital signals, and analyzes the digital signals to determine the operating status of the system and the operating status of the equipment. Analysis system required, test system that acquires test data from various measurement signals in test driving of vehicles, etc., video analysis system that extracts video parts that show intruders etc. from video taken by surveillance cameras, and fingerprint data This is implemented by fingerprint authentication systems that authenticate individuals.

上記のようなデータ処理システムは、大量のディジタルデータまたはアナログ信号をディジタルデータに変換して収集するデータ収集部と、このディジタルデータをデータベースのデータ蓄積方式に適合させたデータ形式に変換して蓄積するデータ変換部と、データベースに蓄積したデータを検索して目的とする加工を行うデータ加工部と、加工結果を画像データやファイルデータとして出力する出力部により構成され、各部はコンピュータ資源とそれを利用したソフトウェア構成で実現される(例えば特許文献1参照)。   The data processing system as described above includes a data collection unit that converts a large amount of digital data or analog signal into digital data and collects it, and converts this digital data into a data format adapted to the data storage method of the database and stores it. Data conversion unit, a data processing unit that searches the data stored in the database and performs the desired processing, and an output unit that outputs the processing results as image data or file data. This is realized by using a software configuration (see, for example, Patent Document 1).

ここで、データベースに対するデータ格納からファイル出力までの処理は、以下のようにしている。   Here, processing from data storage to file output to the database is as follows.

(1)データ格納処理
収集したデータをデータベース内に蓄積する際に、取得したデータをバイナリ形式として保存する。また、データベースに蓄積するレコード数を減らすため、ある一定区間のデータをひとまとめにして、1レコードに格納している(例:信号AのON出力〜信号AのOFF出力まで)。このため、データベースの各フィールドには、信号AのON出力時の時間から信号AのOFF出力の時間までに取得したデータが一列のバイナリデータ列として格納される。
(1) Data storage processing When the collected data is stored in the database, the acquired data is stored in a binary format. In addition, in order to reduce the number of records stored in the database, data in a certain interval are collectively stored in one record (eg, from ON output of signal A to OFF output of signal A). For this reason, in each field of the database, data acquired from the time when the signal A is output to the time when the signal A is output is stored as a single binary data string.

(2)ファイル出力時のデータ保持処理
データベースに蓄積されたバイナリデータをファイル出力する際に、データベースより取得したデータをバイナリ変換前のデータのバイト数ごとに区切った後、数値変換を行なう。数値変換後のデータを加工し、さらに文字列変換したデータ別に配列としてメモリ上に保持する。
(2) Data retention processing at the time of file output When binary data accumulated in the database is output to a file, the data obtained from the database is divided by the number of bytes of data before binary conversion, and then numerical conversion is performed. The data after the numerical conversion is processed, and further stored in the memory as an array for each character string converted data.

図2はデータ保持の処理態様の例を示し、データベースから取得したサンプリングデータ(バイナリ形式)を指定バイト(例:2バイト)で区切って数値変換し(S1)、数値変換した値に対して変換係数a,bをもつ一次変換式y=ax+bを使用して物理量(実際の電圧値、電流値など)変換を行い(S2)、変換した値を文字列データに変換してフィールドデータとしてメモリ上に保持する(S3)。   FIG. 2 shows an example of a data retention processing mode, in which sampling data (binary format) obtained from a database is delimited by a specified byte (eg, 2 bytes) and converted into a numerical value (S1), and converted into a numerical value converted value. A physical quantity (actual voltage value, current value, etc.) is converted using a primary conversion formula y = ax + b having coefficients a and b (S2), and the converted value is converted into character string data and stored in memory as field data. (S3).

(3)ファイル出力処理
データベースより取得したフィールドデータが全て文字列データに変換されてメモリ上に保持された後、同一時刻に取得したデータを取り出し、全フィールドのデータを取得してファイルに出力する。
(3) File output processing After all the field data acquired from the database is converted to character string data and stored in the memory, the data acquired at the same time is retrieved, and the data of all fields is acquired and output to a file. .

図3はファイル出力処理態様の例を示し、出力する各フィールドのサンプリングデータを格納した配列から、同一時刻の文字列データを取り出し(S4)、全フィールドのデータを取得した後に1行分のデータをファイルに書き出し(S5)、これら処理を繰り返す。
特開2003−122767号公報
FIG. 3 shows an example of the file output processing mode. The character string data at the same time is extracted from the array storing the sampling data of each field to be output (S4), and the data for one line is obtained after acquiring the data of all the fields. Is written to a file (S5), and these processes are repeated.
JP 2003-122767 A

データベースに対するデータ検索からファイル出力までの従来のデータ処理方法では、データベースより取得するデータ数が大きいと、変換した文字列データの保持処理に際してメモリ領域が随時拡大されて大容量のメモリ領域が使用され、そのメモリ領域の確保、解放に時間がかかり、結果的にファイル出力までに時間を要してしまい、高速処理が難しくなる。   In the conventional data processing method from data search to file output to the database, if the number of data to be acquired from the database is large, the memory area is expanded at any time and the large-capacity memory area is used when the converted character string data is retained. It takes time to secure and release the memory area, and as a result, it takes time to output the file, which makes high-speed processing difficult.

本発明の目的は、データベースに格納したバイナリ形式のデータ検索から文字列に変換したファイル出力までの処理時間を短縮できるデータ処理方法を提供することにある。   An object of the present invention is to provide a data processing method capable of shortening a processing time from a binary format data search stored in a database to a file output converted into a character string.

本発明は、前記の課題を解決するため、データ保持処理ではデータベースより取得した各フィールドのバイナリ形式データを文字列に変換することなくそのまま保持し、ファイル出力処理においてバイナリ形式データを文字列データに変換するようにしたもので、以下の方法を特徴とする。   In order to solve the above problems, the present invention holds the binary format data of each field acquired from the database without converting it into a character string in the data holding process, and converts the binary format data into the character string data in the file output process. The conversion method is characterized by the following method.

検出された1フィールド分のバイナリ形式のディジタルデータを、データ変換部により数値データに変換してフィールド毎に区分してデータベースに蓄積し、蓄積データの出力時に文字列データとしてファイルデータに書き込んで出力を得るデータ処理方法であって、
前記数値データに変換された1フィールド分のデータ数を取得して格納するデータ数格納メモリ領域、区切りバイト数、データ加工用の変換係数を格納するバイト数・変換係数メモリ領域、及び前記バイナリ形式のデータを格納するバイナリデータメモリ格納領域を前記データベース内に設け、データ保持処理手段により設けられた各メモリ領域に当該データをそれぞれ格納する共に、
前記ファイルデータ出力時に、ファイル出力処理手段により、前記区切りバイト数と時間から求められるデータ位置を特定して区切りバイトのサイズで数値変換し、変換された値に対して前記変換係数を使用して物理量変換を行い、返還結果を字列データに変換し前記ファイル出力データに書き込むことを特徴とするものである。
Detected binary format digital data for one field is converted into numerical data by the data converter, stored for each field, stored in a database, and written to file data as character string data when the stored data is output. A data processing method for obtaining
A data number storage memory area for acquiring and storing the number of data for one field converted into the numerical data , a delimiter byte number, a byte number / conversion coefficient memory area for storing a conversion coefficient for data processing, and the binary format A binary data memory storage area for storing the data is provided in the database, and the data is stored in each memory area provided by the data holding processing means.
When outputting the file data, the file output processing means specifies the data position obtained from the number of delimiter bytes and time, converts the numerical value with the size of the delimiter byte, and uses the conversion coefficient for the converted value The physical quantity is converted, the return result is converted into character string data, and written to the file output data.

以上のとおり、本発明によれば、データ保持処理ではデータベースより取得した各フィールドのバイナリ形式データを文字列に変換することなくそのまま保持し、ファイル出力処理においてバイナリ形式データを文字列データに変換するようにしたため、検索データを文字列変換するまでの間のメモリの確保、解放の時間を短縮でき、結果的にファイル出力までの時間を短縮できる。   As described above, according to the present invention, in the data holding process, the binary format data of each field acquired from the database is held as it is without being converted into a character string, and the binary format data is converted into the character string data in the file output process. As a result, it is possible to shorten the time for securing and releasing the memory until the search data is converted to the character string, and as a result, the time until file output can be shortened.

また、データ検索の時間が短縮されることで、データ処理システム全体として高速処理が期待できる。   In addition, since the data search time is shortened, high-speed processing can be expected as the entire data processing system.

図1は、本発明の実施形態を示すデータ格納からファイル出力までの処理態様図であり、以下、個別にその処理を説明する。   FIG. 1 is a processing mode diagram from data storage to file output showing an embodiment of the present invention, and the processing will be individually described below.

(1)データ格納処理は、従来手法と同様に、収集したデータをデータベース内に蓄積する際に、取得したデータをバイナリ形式として保存する。また、データベースに蓄積するレコード数を減らすため、ある一定区間のデータをひとまとめにして、1レコードに格納し、データベースの各フィールドには、一列のバイナリデータ列として格納する。   (1) The data storage process stores the acquired data in a binary format when the collected data is stored in the database, as in the conventional method. In addition, in order to reduce the number of records accumulated in the database, data in a certain interval are collectively stored in one record, and stored in each field of the database as a single binary data string.

(2)ファイル出力時のデータ保持処理
データベースより取得した各フィールドのバイナリ形式データよりデータ数を取得してメモリ領域に格納する(S11)。その他、区切りバイト数、データ加工用のデータ(例では一次変換係数a,b)などの必要なデータをメモリ領域に格納する(S12)。そして、データベースより取得したバイナリデータをそのまま配列データとして格納する(S13)。
(2) Data holding process at the time of file output The number of data is acquired from the binary format data of each field acquired from the database and stored in the memory area (S11). In addition, necessary data such as the number of delimiter bytes and data for data processing (primary conversion coefficients a and b in the example) are stored in the memory area (S12). Then, the binary data acquired from the database is stored as array data as it is (S13).

(3)ファイル出力処理
出力する各フィールドのサンプリングデータ(バイナリ形式)で、時間と区切りバイト数から求めるデータの位置を特定して、区切りバイト(2バイト)のサイズで数値変換し(S14)、数値変換した値に対して変換係数a,bをもつ一次変換式y=ax+bを使用して物理量変換を行い(S15)、変換結果を文字列データに変換してファイル出力データに追加する(S16)。全フィールドのデータを取得したとき、1行分のフィールドデータをファイルに書き込む(S17)。
(3) File output processing In the sampling data (binary format) of each field to be output, the position of the data to be obtained is specified from the time and the number of delimiter bytes, and numerical conversion is performed with the size of delimiter bytes (2 bytes) (S14). A physical quantity conversion is performed on the numerically converted value using a primary conversion equation y = ax + b having conversion coefficients a and b (S15), and the conversion result is converted into character string data and added to the file output data (S16). ). When the data of all fields is acquired, the field data for one line is written in the file (S17).

したがって、本実施形態によれば、データ保持処理ではデータベースより取得した各フィールドのバイナリ形式データを文字列に変換することなくそのまま保持し、ファイル出力処理でバイナリ形式データを文字列データに変換するため、データ保持処理に際してメモリの確保、解放の時間を短縮できる。   Therefore, according to this embodiment, in the data holding process, the binary format data of each field acquired from the database is held as it is without being converted into a character string, and the binary format data is converted into the character string data in the file output process. The time for securing and releasing the memory can be shortened in the data holding process.

本発明の実施形態を示すデータ格納からファイル出力までの処理態様図。The processing aspect figure from the data storage which shows embodiment of this invention to file output. 従来のデータ処理システムにおけるデータ保持の処理態様図。FIG. 10 is a diagram showing a data retention process in a conventional data processing system. 従来のデータ処理システムにおけるファイル出力の処理態様図。The file output processing figure in the conventional data processing system.

Claims (1)

検出された1フィールド分のバイナリ形式のディジタルデータを、データ変換部により数値データに変換してフィールド毎に区分してデータベースに蓄積し、蓄積データの出力時に文字列データとしてファイルデータに書き込んで出力を得るデータ処理方法であって、
前記数値データに変換された1フィールド分のデータ数を取得して格納するデータ数格納メモリ領域、区切りバイト数、データ加工用の変換係数を格納するバイト数・変換係数メモリ領域、及び前記バイナリ形式のデータを格納するバイナリデータメモリ格納領域を前記データベース内に設け、データ保持処理手段により設けられた各メモリ領域に当該データをそれぞれ格納する共に、
前記ファイルデータ出力時に、ファイル出力処理手段により、前記区切りバイト数と時間から求められるデータ位置を特定して区切りバイトのサイズで数値変換し、変換された値に対して前記変換係数を使用して物理量変換を行い、返還結果を字列データに変換し前記ファイル出力データに書き込むことを特徴とするデータ処理方法。
Detected binary format digital data for one field is converted into numerical data by the data converter, stored for each field, stored in a database, and written to file data as character string data when the stored data is output. A data processing method for obtaining
A data number storage memory area for acquiring and storing the number of data for one field converted into the numerical data , a delimiter byte number, a byte number / conversion coefficient memory area for storing a conversion coefficient for data processing, and the binary format A binary data memory storage area for storing the data is provided in the database, and the data is stored in each memory area provided by the data holding processing means.
When outputting the file data, the file output processing means specifies the data position obtained from the number of delimiter bytes and time, converts the numerical value with the size of the delimiter byte, and uses the conversion coefficient for the converted value A data processing method characterized by performing physical quantity conversion, converting a return result into character string data, and writing it into the file output data.
JP2006273521A 2006-10-05 2006-10-05 Data processing method Active JP5018000B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006273521A JP5018000B2 (en) 2006-10-05 2006-10-05 Data processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006273521A JP5018000B2 (en) 2006-10-05 2006-10-05 Data processing method

Publications (2)

Publication Number Publication Date
JP2008090764A JP2008090764A (en) 2008-04-17
JP5018000B2 true JP5018000B2 (en) 2012-09-05

Family

ID=39374814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006273521A Active JP5018000B2 (en) 2006-10-05 2006-10-05 Data processing method

Country Status (1)

Country Link
JP (1) JP5018000B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI0921362A2 (en) * 2008-11-07 2019-09-24 Sumitomo Electric Industries communication device
WO2010147454A1 (en) * 2009-06-16 2010-12-23 Emanual System Sdn Bhd System and method of binary data storage and management in database management systems

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05127960A (en) * 1991-11-07 1993-05-25 Meidensha Corp Data representing system for data base
JPH0822476A (en) * 1994-07-06 1996-01-23 Toshiba Corp Plant data general management device
JPH10281813A (en) * 1997-04-10 1998-10-23 Hioki Ee Corp Method of recording measured data
JP2002351706A (en) * 2001-05-22 2002-12-06 Ntt Comware Corp Method/program for presenting binary file and recording medium
JP2003122767A (en) * 2001-10-10 2003-04-25 Canon Inc Information processor and information processing method
JP2004165733A (en) * 2002-11-08 2004-06-10 Matsushita Electric Ind Co Ltd Image converter, image conversion method, and recording medium
JP2004234119A (en) * 2003-01-28 2004-08-19 Yokogawa Electric Corp Measured data processing method and measured data processing device

Also Published As

Publication number Publication date
JP2008090764A (en) 2008-04-17

Similar Documents

Publication Publication Date Title
US9380257B2 (en) Portable electronic equipment and method of recording media using a portable electronic equipment
US20140009682A1 (en) System for media correlation based on latent evidences of audio
WO2019138983A1 (en) Match determination device, match determination method, storage medium
KR20120015819A (en) Non-contact method for generating parameter data for measuring displacement of structure
JP5018000B2 (en) Data processing method
US8234454B2 (en) Method and system of numerical analysis for continuous data
JP2007028344A (en) Data recording unit and data recording system
JP5137783B2 (en) Hash generation device, verification device, hash generation program, and hash generation method
CN113255438B (en) Structured video file marking method, system, host and storage medium
JP5366676B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
CN107169057B (en) Method and device for detecting repeated pictures
CN104655284B (en) Analysis device, processing device, analysis method, and processing method
US11500411B2 (en) Formulizing time-series sensor data to facilitate compact storage and eliminate personally identifiable information
CN110876090A (en) Video abstract playback method and device, electronic equipment and readable storage medium
JP2008035124A5 (en)
KR101549615B1 (en) A method for recovering CCTV video data in DVR by using time-based video index and matching scan of video data
CN110876029B (en) Video abstract playback method and device, electronic equipment and readable storage medium
JP2003315370A (en) Waveform recording device
JP2011069767A (en) Waveform recording apparatus
JP2013160781A (en) Imaging sound-recording system
KR20180003266A (en) CCTV image data extraction methods stored on the hard disk
CN113645425A (en) Processing method, processing system, information adding device, detection device, and processing device
JP4062480B2 (en) Waveform recorder
JP4753605B2 (en) Audio file processing device
JP2676087B2 (en) Particle size distribution processor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111108

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120110

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120214

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120515

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120528

R150 Certificate of patent or registration of utility model

Ref document number: 5018000

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150622

Year of fee payment: 3