JP2018132930A - 高速データベースシステム - Google Patents

高速データベースシステム Download PDF

Info

Publication number
JP2018132930A
JP2018132930A JP2017025816A JP2017025816A JP2018132930A JP 2018132930 A JP2018132930 A JP 2018132930A JP 2017025816 A JP2017025816 A JP 2017025816A JP 2017025816 A JP2017025816 A JP 2017025816A JP 2018132930 A JP2018132930 A JP 2018132930A
Authority
JP
Japan
Prior art keywords
data
database
speed
secondary processing
sensor information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017025816A
Other languages
English (en)
Inventor
春樹 飛田
Haruki Hida
春樹 飛田
裕二 角
Yuji Sumi
裕二 角
正博 吉岡
Masahiro Yoshioka
正博 吉岡
智彦 雲晴
Tomohiko Kumohare
智彦 雲晴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Liberty Port Japan Kk
Original Assignee
Liberty Port Japan Kk
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Liberty Port Japan Kk filed Critical Liberty Port Japan Kk
Priority to JP2017025816A priority Critical patent/JP2018132930A/ja
Publication of JP2018132930A publication Critical patent/JP2018132930A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】外部から受信したデータを高速にグラフ化するための高速データベースシステムを提供する。【解決手段】関係データベース管理システムからなる永久保存データベースと、関係データベース管理システム以外のデータベース管理システムからなる高速データベースの2種類のデータベースをサーバに備える。外部から受信したデータを所定規則に従って一次処理を行った後、高速データベースに格納する。所定時間ごとに、高速データベースから格納されたデータ群をすべて取り出し、時系列に従ってグラフ化するために必要な二次処理データ群を演算処理よって取得し、それを永久保存データベースに格納する。二次処理データ群を用いてグラフ化する。【選択図】図2

Description

この発明は高速データベースシステム、詳しくは、永久保存データベースと高速データベースとの2種類のデータベースを用いて、外部から受信したデータを高速にグラフ化するための高速データベースシステムに関する。
従来より、個人農家や営農集団では、農場等の管理、農作業の管理、農作業を行う作業者(農作業者)の管理等を行っている。作物の状態又は環境の状態に関する条件が一致した場合に、条件に対応する作業を農作業者が行う必要があり、農業管理は、ノート等で行われることが多く、ノウハウ化していたが、情報技術の発展に伴い、農業管理もIT化し、農業支援システムとして活用されている。
環境保護の面に視点を向けると、近年、化石燃料代替エネルギー資源の開発、および二酸化炭素削減の観点から、太陽光、風力等の各種再生可能エネルギーを利用して発電を行う技術開発が積極的に推進されている。そして、風力発電手段や太陽光発電手段といった再生可能エネルギーによる発電を積極的に活用した街づくりとして、スマートシティ開発が国内外で進められつつある。その際の問題点は、風力発電手段や太陽光発電手段といった再生可能エネルギーは気象条件と施設条件によって発電特性が変化するため、時間的および季節的に変動する異なる電力消費形態に調和した発電、電力供給方法を構築しないと、電力の需要と供給にミスマッチが生じることである。
これらの例のように、自然環境、特に気象条件の変動により、適切な時期に、適切な作業を行うため、気象情報等をサーバ等に格納し、適宜、必要な情報を入手し、作業の有無の判断を行うことができるようにする、すわなち、気象情報等の見える化が必要な分野は多岐にわたる。
このように、逐次変動する気象条件に対して最適な条件を提案するシステムとして特許文献1、特許文献2が提案されている。
特開2015−49870号公報 特開2013−156824号公報
特許文献1、特許文献2には、サーバが外部から発信されたデータを受信した後、特定のデータベースに格納し、データベース操作を行うことによって、データをグラフ化し(コンピュータ等(コンピュータ、サーバを含む)又は利用者が、所定作業を実施すべきか否かを分析・判断することができるようにグラフ表示(コンピュータ等が分析・判断し、警報し、積算等ができるようにデータを整列することを含む。)することをいう。)、グラフ化したものに基づいて、所定作業を実施すべきか否かを判断することができるシステムが開示されている。
しかしながら、前述の農業支援システム、スマートシティ開発においても、外部から入手される気象情報等は膨大なものであり、特許文献1、特許文献2に記載のシステムのように1つのデータベースに気象情報をそのまま格納しているため、グラフ化するまでにかなりの時間を要する。このため、所定作業を実施すべきか否かを判断するために必要な情報が集まらず、農作業や再生可能エネルギーによる発電の発電量の調整を最適な時期に行うことができない場合もあった。
そこで、発明者は、鋭意研究の結果、データベースの格納形式に着目し、データベースに格納する前に、グラフ化するために必要な演算処理を行って、その演算結果をデータベースに格納することにより、上述した課題は全て解消されることを知見し、この発明を完成させた。
この発明は、外部から受信したデータを高速にグラフ化するための高速データベースシステムを提供することを目的としている。
請求項1に記載の発明は、関係データベース管理システムからなる永久保存データベースと、関係データベース管理システム以外のデータベース管理システムからなる高速データベースと、を有し、外部から受信したデータを用いて、時系列に従ってグラフ化する高速データベースシステムであって、外部から受信したデータは、所定規則に従って一次処理がなされ、該一次処理により得られたデータ群は前記高速データベースに格納され、所定時間ごとに、前記高速データベースから、該高速データベースに格納された前記データ群はすべて取り出され、該データ群を用いて、時系列に従ってグラフ化するために必要な二次処理データ群を演算処理よって取得する二次処理がなされ、該二次処理によって得られた該二次処理データ群は前記永久保存データベースに格納され、前記二次処理データ群を用いてグラフ化する高速データベースシステムである。
関係データベース管理システム(RDBMS)とは、個々のデータのカラム(列)と、レコード(行)の中にまとめ、それらをテーブル(表)の中に並べるものである。RDBMSを用いると、データ同士を比較する場合にはそれぞれ同じ位置のフィールドを見比べればよいので、データの結合や抽出が非常に容易になる。テーブルが複数であっても、あらかじめ割り振られたIDや主キーとなる項目を持ちデータ同士を関連付けることにより、テーブルを内部結合してひとつのテーブルであるかのように扱うこともできる。
RDBMSとしては、Oracle社「Oracle」(登録商標、Microsoft社の「Microsoft Access」(登録商標)、オープンソースの「MySQL」(登録商標)、「PostgreSQL」等が例としてあげられる。
本発明に係る高速データベースシステムは、RDBMSを永久保存データベースとして用い、この永久保存データベースに格納されたデータ群に基づいてグラフ化するものである。
関係データベース管理システム以外のデータベース管理システム(NoSQL系DBMS)とは、関係モデルではないデータストアを利用したデータベース管理システムをいう。関係モデルではないデータストアの特徴として、固定されたスキーマに縛られないこと、関係モデルの結合操作を利用しないこと、水平スケーラビリティが確保しやすい事が多いこと、トランザクションを利用できないものが多いことなどが挙げられる。NoSQL系データベース管理システムには、データの格納および取得が高度に最適化されているものが多い。その最適化のために機能性を最小限にしているものもある。NoSQL系データベース管理システムは、関係モデルを必要としないデータを扱うときや、大量のデータを扱うときに有用であり、大規模なデータを統計的に解析したり、増えつづける情報をリアルタイムに解析するのにも便利である。
NoSQL系DBMSとしては、Google社の「BigTable」(登録商標)、アマゾン社の「Amazon DynamoDB」(登録商標)、オープンソースの「MongoDB」、「Redis」、「Apache HBase」、「Apache Cassandra」等が挙げられる。
本発明に係る高速データベースシステムでは、NoSQL系DBMSを高速データベースとして用い、永久保存データベースに格納する前の二次処理を行うために、仮保存されるものである。
一次処理は、外部からサーバに受信したデータをNoSQL系DBMSに格納する際に、所定規則に従って行われるデータ処理のことである。たとえば、センサが発信した情報をサーバが受信した際に、発信元と発信時間を特定できるキーをセンサ情報に組み込むことや、センサ情報が異常であると判別した場合には、その異常であると判別したセンサ情報を、そのセンサ情報が発信した時間の前後に発信された2つのセンサ情報に基づいて補完したセンサ情報に置換する処理等が挙げられる。
一次処理で得られたデータ群を高速データベースシステムに一旦格納し、ある程度のデータが蓄積された後に二次処理を行うために高速データベースからデータ群から取り出される。
二次処理では、時系列に従ってグラフ化するために必要な二次処理データ群を演算処理よって取得する。たとえば、複数の平均期間を定め、高速データベースシステムに格納されたデータに基づいて、それぞれの平均期間における平均値や偏差等を算出すること等が挙げられる。
本発明に係る高速データベースシステムでは、二次処理によって得られた二次処理データ群は、永久保存データベースに格納し、この永久保存データベースに格納された二次処理データ群に基づき、グラフ化を行う。
請求項1に記載の発明に基づいて構成される高速データベースシステムは、永久保存データベースに格納されたデータは、グラフ化するために最適化されているため、クライアント(利用者)の要求に応じて、サーバが永久保存データベースを操作することによって、高速にグラフ化することができ、たとえば農作業や再生可能エネルギーによる発電の発電量の調整等を最適な時期に行うことが可能となる。
請求項2に記載の発明は、前記外部から受信したデータは、外部に取り付けられたセンサから一定時間ごとに発信されたセンサ情報であり、前記一次処理は、前記センサ情報が異常であると判別した場合には、その異常であると判別したセンサ情報を、そのセンサ情報が発信した時間の前後に発信された2つのセンサ情報に基づいて補完したセンサ情報に置換し、前記二次処理は、所定時間における前記データの平均値を算出する請求項1に記載の高速データベースシステムである。
一次処理では、センサ情報が異常であると判別した場合には、その異常であると判別したセンサ情報を、そのセンサ情報が発信した時間の前後に発信された2つのセンサ情報に基づいて補完したセンサ情報に置換することとなる。センサ情報が異常であるとは、何らかの障害によりセンサ情報が所定時間に取得することができなかったためにデータが欠けた場合や、サーバに送信するまでに何らかの外乱因子により実際にありえない数値がセンサ情報等して受信した場合などが挙げられる。
一次処理によって、センサ情報を補完することによって、通常ではありえない数値を排除したデータ群に基づいて、二次処理が行われることから、永久保存データベースに格納された二次処理データ群に基づき、グラフ化を行う際に、サーバにて必要な演算を減らすことが可能となる。これにより、さらに高速にグラフ化することができる。
請求項3に記載の発明は、前記センサ情報は植物の育成に必要な環境因子データであり、前記データ処理は、植物の育成状況を把握するために必要な環境因子データを時系列に従ってグラフ化する請求項2に記載の高速データベースシステムである。
請求項3に記載の発明は、農業支援システムに最適化した高速データベースシステムである。植物の育成に必要な環境因子データとは、照度(照明(日光を含む。)が植物に照査されているときの光度)、気温、湿度が挙げられる。これらの環境因子データをセンサにて取得、サーバに送信し、高速データベースシステムにて処理される。永久保存データベースに格納された二次処理データ群に基づいてグラフ化し、作物の状態又は環境の状態に関する条件が一致した場合に、条件に対応する作業を農作業者が行う。このように、農業管理を、見える化することができ、農業支援に有効である。
請求項1に記載の発明によれば、永久保存データベースに格納されたデータは、グラフ化するために最適化されているため、クライアント(利用者)の要求に応じて、サーバが永久保存データベースを操作することによって、高速にグラフ化することができ、たとえば農作業や再生可能エネルギーによる発電の発電量の調整等を最適な時期に行うことが可能となる。
特に、請求項2に記載の発明によれば、一次処理によって、センサ情報を補完することによって、通常ではありえない数値を排除したデータ群に基づいて、二次処理が行われることから、永久保存データベースに格納された二次処理データ群に基づき、グラフ化を行う際に、サーバにて必要な演算を減らすことが可能となる。これにより、さらに高速にグラフ化することができる。
請求項3に記載の発明によれば、永久保存データベースに格納された二次処理データ群に基づいてグラフ化し、作物の状態又は環境の状態に関する条件が一致した場合に、条件に対応する作業を農作業者が行う。このように、農業管理を、見える化することができ、農業支援に有効である。
本発明の実施例に係る高速データベースシステムの基本構成を示す図である。 本発明の実施例に係る高速データベースシステムの処理の一例を示すフローチャートである。
本発明の実施例に係る高速データベースシステムとして、インターネット回線が接続されたサーバ機からなり、このサーバ機には、RDBMSであるオープンソースの「MySQL」(登録商標)と、NoSQL系DBMSであるオープンソースの「Redis」とがインストールされている。
サーバ機が受信するデータは、外部から一定時間ごとに受信されるものであり、センサ値の他、センサを特定するための識別情報、センサによる測定時刻を特定するための測定時刻情報、その他グラフ化に必要な情報が含まれている。
(一次処理)
外部から発信されたデータをインターネット回線を介してサーバ機が受信した後、Redisに格納される前に一次処理用プログラムの実行により一次処理される。
一次処理では、所定時間(測定時刻間隔より長時間である。)にサーバ機が受信した複数のデータを時系列順に並び替える。その後、受信したデータのセンサ値に基づいて、データの異常の有無を判断する。データの異常の有無の判断手法の具体例として、時間当たりのデータ値の差を求め、その差が、正規分布に従ったとき、95%の信頼区間に含まれない場合に、異常と判断することが挙げられる。また、本来であれば、ある時間に受信されなければならないものが、データが受信されずに欠けている場合もデータが異常であると判断する。
そして、データが異常であると判別した場合には、その異常であると判別したデータを、そのデータが発信した時間の前後に発信された2つのデータに基づいて補完したデータに置換することで補完処理が行われる。具体例として、その異常であると判別したデータを、そのデータが発信した時間の前後に発信された2つのデータの平均値を補完したデータとして置換することが挙げられる。
このような一次処理がなされた後、一次処理されたデータ群を「Redis」に格納する。
「Redis」はANSI Cで実装された、高速なキー・バリュー・ストア型のデータベースである。
(二次処理)
「Redis」はANSI Cで実装された、高速なキー・バリュー・ストア型のデータベースであるものの、格納できるデータ量に限りがあるため、「Redis」に格納されたデータが一定量に達した後、二次処理プログラムの実行により「Redis」に格納されたデータをすべて取り出し、二次処理がなされる。
二次処理では、「Redis」に格納された全てのデータに基づいて、所定時刻間隔における平均値を算出する。このとき、所定時刻間隔は、あらかじめプログラムによって定められており、また、複数の時刻間隔が定められている。つまり、所定時刻間隔は、複数個設定されており、それぞれの平均値が算出される。たとえば、10分間、1時間、半日(12時間)、1日(24時間)ごとの平均値を算出する。
あわせて、平均値を算出するための個々のデータの測定時刻情報から最も早い時刻と最も遅い時刻を求め、それらの時刻の中央時刻を求める。
その後、平均値と中央時刻とを関連づけ、「MySQL」(登録商標)に登録する。
(グラフ化)
ここでのグラフ化は、利用者が、所定作業を実施すべきか否かを判断することができるようにグラフ表示することをベースに説明する。
利用者が、ある特定期間における所定時刻間隔(たとえば10分間)の平均値に基づいてグラフ表示する場合には、サーバが「MySQL」を操作し、特定期間における10分間の平均値のデータを取り出し、そのデータを時系列に沿ってプロットする。これだけでグラフ表示が可能となる。
(高速データベースシステムを農業支援システムに適用した実施例)
本発明の実施例に係る高速データベースシステムの基本的なシステム構成を説明したため、これを農業支援システムに適用した実施例を以下、説明する。
農業支援の対象となる農場に、植物の育成に必要な環境因子データを測定する環境因子データ測定器を設置し、この環境因子データ測定器から発信された環境因子データをサーバ機が受信する。
環境因子データ測定器には、一定時間ごと(たとえば5分ごと)に太陽光を含む植物に照射される光源の照度、温度、湿度(雨量計を含む)を測定する光センサ、温度センサ、湿度センサが搭載されている。また、光センサ、温度センサ、湿度センサによって得られたセンサ情報に測定時刻を付加した発信データを作製する発信データ作製手段及び、発信データをサーバ機に向け発信する発信手段が環境因子データ測定器に搭載されている(発信データ作成手段及び発信手段は具体的にはマイクロコンピュータの制御機能によるものである)。
環境因子データ測定器から発信された発信データをサーバ機が受信し、一次処理用プログラムにより、発信時間と、照度、温度、湿度に分離され、それぞれ補完処理が行われる。補完処理されたデータは、「Redis」に、格納される。
「Redis」には、二次処理プログラムの実行がなされるまで補完処理されたデータが蓄積される。
「Redis」に格納されたデータは、たとえば24時間おきに実行される二次処理プログラムによって、すべて取り出され、二次処理がなされる。このとき、二次処理プログラムにより、照度、温度、湿度の所定時刻間隔(10分間、1時間、半日(12時間)、1日(24時間))の平均値を求めるとともに、平均値を算出するための個々のデータの測定時刻情報から最も早い時刻と最も遅い時刻を求め、それらの時刻の中央時刻を求める。
その後、これらの平均値と中央時刻とを関連づけ、「MySQL」(登録商標)に登録する。
クライアントは、たとえば、ある特定期間における10分間ごとの平均値に基づいて温度のグラフ表示する場合には、利用者が使用しているクライアントコンピュータの要求に基づき、サーバが「MySQL」を操作し、特定期間における10分間の温度の平均値のデータを取り出し、そのデータを時系列に沿ってプロットする。これにより、クライアントは、植物の育成状況を瞬時にかつ容易に把握することができ、適切な時期に適切な農作業をおこなうことができる。このように農業管理を見える化することができ、農業支援に有効である。
このように、気象条件を見える化することで、適切な時期に適切な作業を行う必要があるものに本発明に係る高速データベースシステムは有効であり、たとえば、再生可能エネルギーによる発電の効率化を図ることでスマートシティ開発を促進すること等、応用例は多岐にわたる。
また、センサ情報が金融情報である場合に、本発明に係る高速データベースシステムを利用した場合においても、たとえば将来の経済予測を容易に行うことも可能である。
本発明は、定期的に発せられるセンサ情報を用いて、解析・分析するシステム及びデータベースシステムの高速化技術として有用である。

Claims (3)

  1. 関係データベース管理システムからなる永久保存データベースと、
    関係データベース管理システム以外のデータベース管理システムからなる高速データベースと、を有し、外部から受信したデータを用いて、時系列に従ってグラフ化する高速データベースシステムであって、
    外部から受信したデータは、所定規則に従って一次処理がなされ、該一次処理により得られたデータ群は前記高速データベースに格納され、
    所定時間ごとに、前記高速データベースから、該高速データベースに格納された前記データ群はすべて取り出され、該データ群を用いて、時系列に従ってグラフ化するために必要な二次処理データ群を演算処理よって取得する二次処理がなされ、該二次処理によって得られた該二次処理データ群は前記永久保存データベースに格納され、
    前記二次処理データ群を用いてグラフ化する高速データベースシステム。
  2. 前記外部から受信したデータは、外部に取り付けられたセンサから一定時間ごとに発信されたセンサ情報であり、
    前記一次処理は、前記センサ情報が異常であると判別した場合には、その異常であると判別したセンサ情報を、そのセンサ情報が発信した時間の前後に発信された2つのセンサ情報に基づいて補完したセンサ情報に置換し、
    前記二次処理は、所定時間における前記データの平均値を算出する請求項1に記載の高速データベースシステム。
  3. 前記センサ情報は植物の育成に必要な環境因子データであり、
    前記データ処理は、植物の育成状況を把握するために必要な環境因子データを時系列に従ってグラフ化する請求項2に記載の高速データベースシステム。
JP2017025816A 2017-02-15 2017-02-15 高速データベースシステム Pending JP2018132930A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017025816A JP2018132930A (ja) 2017-02-15 2017-02-15 高速データベースシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017025816A JP2018132930A (ja) 2017-02-15 2017-02-15 高速データベースシステム

Publications (1)

Publication Number Publication Date
JP2018132930A true JP2018132930A (ja) 2018-08-23

Family

ID=63248849

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017025816A Pending JP2018132930A (ja) 2017-02-15 2017-02-15 高速データベースシステム

Country Status (1)

Country Link
JP (1) JP2018132930A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114254034A (zh) * 2020-09-22 2022-03-29 中车株洲电力机车研究所有限公司 基于Redis集群的风电监控对象信息和实时数据存储管理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114254034A (zh) * 2020-09-22 2022-03-29 中车株洲电力机车研究所有限公司 基于Redis集群的风电监控对象信息和实时数据存储管理方法
CN114254034B (zh) * 2020-09-22 2024-05-28 中车株洲电力机车研究所有限公司 基于Redis集群的风电监控对象信息和实时数据存储管理方法

Similar Documents

Publication Publication Date Title
Singh et al. Energy System 4.0: Digitalization of the energy sector with inclination towards sustainability
Roberts et al. Agronomic weather measures in econometric models of crop yield with implications for climate change
Preda et al. PV forecasting using support vector machine learning in a big data analytics context
Soava et al. The impact of the COVID-19 pandemic on electricity consumption and economic growth in Romania
Guo et al. Condition monitoring and fault diagnosis of wind turbines gearbox bearing temperature based on kolmogorov-smirnov test and convolutional neural network model
Spertino et al. Reliability analysis and repair activity for the components of 350 kW inverters in a large scale grid-connected photovoltaic system
Astolfi et al. Discussion of wind turbine performance based on SCADA data and multiple test case analysis
Tang et al. Data mining and neural networks based self-adaptive protection strategies for distribution systems with DGs and FCLs
Nespoli et al. Robust 24 hours ahead forecast in a microgrid: A real case study
Kannengießer et al. Reducing computational load for mixed integer linear programming: an example for a district and an Island energy system
Ünal et al. A novel load forecasting approach based on smart meter data using advance preprocessing and hybrid deep learning
Dong et al. Forecasting smart meter energy usage using distributed systems and machine learning
Min et al. Flexibility-based evaluation of variable generation acceptability in Korean power system
Fischer et al. Humidity in power converters of wind turbines—Field conditions and their relation with failures
Chupong et al. Electricity bill forecasting application by home energy monitoring system
Liu et al. Research on optimized energy scheduling of rural microgrid
Astolfi et al. Data-Driven assessment of wind turbine performance decline with age and interpretation based on comparative test case analysis
US20140059077A1 (en) Data Processing
Coban et al. Technical and economical investigation of a centralized and decentralized hybrid renewable energy system in Cadaado, Somalia
JP2018132930A (ja) 高速データベースシステム
Kanté et al. Scenarios Analysis on Electric Power Planning Based on Multi-Scale Forecast: A Case Study of Taoussa, Mali from 2020 to 2035
Kornatka et al. Advanced metering infrastructure—Towards a reliable network
Persson et al. Determining the impact of climate and soil variability on switchgrass (Panicum virgatum L.) production in the south‐eastern USA; a simulation study
Niu et al. The impact of climate change risks on residential consumption in China: evidence from ARMAX modeling and granger causality analysis
Sierra-Fernández et al. Online system for power quality operational data management in frequency monitoring using python and grafana