JP2022015249A - 放流水質予測装置および放流水質予測方法 - Google Patents

Abstract

【課題】非定常時データを正確に予測することが可能な放流水質予測装置を提供する。
【解決手段】放流水質予測装置（１００）において、非定常時データ変更部（１０３ｂ）は、学習データの中の、複数のセンサの中の少なくとも１つの値が非定常時データとなっている割合に応じて、学習データの中の非定常時データの数を増減して学習データセットを作成する。モデル生成部（１０３ｃ）は、学習データセットから所定時間後の放流水質データを予測するための予測モデルを生成する。また、放流水質予測部（１０５）は、直近データデータベース（１０４）に記憶される直近データに、予測モデルを適用して放流水質データを予測する。
【選択図】図１

Description

本発明は、下水処理場の複数のセンサからの時系列データに基づいて、放流水質を予測する技術に関する。

下水処理場の放流水質を予測する技術として、下記の特許文献１に開示された発明がある。この特許文献１は、水処理設備等のプラント設備の監視対象量を予測する技術に関する。

一次予測部は、データ群、基準年間平均モデルおよび基準季節別平均モデルを用いて、ニューラルモデル、重回帰モデル、およびクラスタリングモデルを含む年間平均一次予測モデル群および季節別平均一次予測モデル群を生成する。そして、年間平均一次予測モデル群および季節別平均一次予測モデル群を用いて各予測モデルの監視対象量の予測値を予測結果データとして算出する。

二次予測部は、稼働実績データ（年間実績データおよび季節別実績データ）を用いて基準二次予測モデルを生成する。そして、基準二次予測モデル、予測結果データおよび稼働実績データを用いて、監視対象量の年間および季節別の平均値を予測するための二次予測モデルを生成する。

最後に、二次予測部は、監視対象予測値（予測結果データ）に重みを付与し、重みが付与された複数の監視対象量をノードとするニューラルネットワークを用いて監視対象量の予測値を算出する。

特開２０１３－１６１３３６号公報（２０１３年８月１９日公開）

しかしながら、特許文献１には、放流水質データが警報レベルを超える非定常時データを正しく予測する技術については記載されていない。

本発明の一態様は、非定常時データを正確に予測することが可能な放流水質予測装置を提供することを目的とする。

上記の課題を解決するために、本発明の一態様に係る放流水質予測装置は、下水処理場に設置された複数のセンサから、検出値の時系列データを取得するセンサ情報取得部と、センサ情報取得部によって取得された時系列データを学習データとして記憶する学習データデータベースと、センサ情報取得部によって取得された時系列データを直近データとして記憶する直近データデータベースと、学習データの中の、放流水質データの値が非定常時データとなっている割合に応じて、学習データの中の非定常時データの数を増減して学習データを変更する非定常時データ変更部と、非定常時データ変更部によって変更された学習データの中の第１の所定時間分の学習データを学習データセットとし、第２の所定時間後の、放流水質データの値を予測するための予測モデルを、学習データセットから生成するモデル生成部と、直近データに、予測モデルを適用することにより、放流水質データの値を予測する放流水質予測部とを備える。

また、上記の課題を解決するために、本発明の一態様に係る放流水質予測方法は、下水処理場に設置された複数のセンサから、検出値の時系列データを取得するステップと、取得された時系列データを学習データとして記憶するステップと、取得された時系列データを直近データとして記憶するステップと、学習データの中の、放流水質データの値が非定常時データとなっている割合に応じて、学習データの中の非定常時データの数を増減して学習データを変更するステップと、変更された学習データの中の第１の所定時間分の学習データを学習データセットとし、第２の所定時間後の、放流水質データの値を予測するための予測モデルを、学習データセットから生成するステップと、直近データに、生成された予測モデルを適用することにより、放流水質データの値を予測するステップとを含む。

本発明の一態様によれば、非定常時データを正確に予測することが可能となる。

本発明の一実施形態に係る放流水質予測装置の概略構成を示す機能ブロック図である。 前処理部によって加工された後の学習データの一例を示す図である。 放流水質データにおける定常時データおよび非定常時データを説明するための図である。 予測モデル生成部の処理手順を説明するためのフローチャートである。 モデル生成部によって使用されるＲＮＮのハイパーパラメータの調整項目例を示す図である。 予測モデルの生成を模式的に示す図である。 非定常時データが正しく予測できていない場合を示す図である。 非定常時データが正しく予測できている場合を示す図である。 非定常時データ変更部の処理手順を説明するためのフローチャートである。 学習データのサンプリングを説明するための図である。 非定常時データの数を増やす方法を説明するための図である。 非定常時データの数を増やす他の方法を説明するための図である。 非定常時データの初期の抽出データを示す図である。 非定常時データの数を減らす方法を説明するための図である。 図９に示す非定常時データ変更部の処理を模式的に示す図である。 放流水質予測部の処理手順を説明するためのフローチャートである。 放流水質データの予測を模式的に示す図である。 非定常時データの数を増減しなかった場合のＣＯＤの実測値と放流水質予測部によって予測されたＣＯＤの予測値とを示すグラフである。 非定常時データの数を増減した場合のＣＯＤの実測値と放流水質予測部によって予測されたＣＯＤの予測値とを示すグラフである。 放流水質予測装置を実現するためのコンピュータの構成例を示す図である。

以下、本発明の一実施形態について、詳細に説明する。なお、説明の便宜上、同一の部材には同一の符号を付し、それらの名称および機能も同一である。したがって、それらの詳細な説明は繰り返さない。

（放流水質予測装置１００の構成）
図１は、本発明の一実施形態に係る放流水質予測装置１００の概略構成を示す機能ブロック図である。放流水質予測装置１００は、センサ情報取得部１０１と、学習データデータベース１０２と、予測モデル生成部１０３と、直近データデータベース１０４と、放流水質予測部１０５と、出力部１０６とを含む。

図示していないが、下水処理場には、ポンプ揚水量、返流流量、送気量、混合浮遊物濃度（ＭＬＳＳ（Mixed Liquor Suspended Solid））、溶存酸素濃度（ＤＯ（Dissolved Oxygen））、ＣＯＤ（Chemical Oxygen Demand）、ＴＮ（Total Nitrogen）（全窒素）、ＴＰ（Total Phosphorus）（全リン）などのデータ（検出値）を計測するためのセンサが設置されている。これらのセンサからのデータが、放流水質予測装置１００に逐一送られる。

ＣＯＤ、ＴＮおよびＴＰは、下水処理場の放流水質を示す指標として知られている。そこで、以下、ＣＯＤ、ＴＮおよびＴＰのそれぞれを計測する３つのセンサから送られるデータを放流水質データと呼ぶ。他方、上記３つのセンサ以外のセンサから送られるデータをセンサ情報データと呼ぶことにする。

センサ情報取得部１０１は、センサ情報データおよび放流水質データを取得し、これらのデータに時間情報データ（年、月、日、曜日／祝日、および時刻）を付与して学習データを生成する。以下の説明において、センサ情報取得部１０１は、１分毎にセンサ情報データおよび放流水質データを取得することとするが、これに限定されるものではない。

学習データデータベース１０２は、センサ情報取得部１０１によって生成された学習データを、学習に必要な期間、たとえば、１年以上の期間分だけ順次記憶する。

予測モデル生成部１０３は、前処理部１０３ａと、非定常時データ変更部１０３ｂと、モデル生成部１０３ｃと、モデル評価部１０３ｄと、モデル変更部１０３ｅとを備えている。前処理部１０３ａは、学習データデータベース１０２に蓄積されている学習データを、学習できる形式になるように加工する。

図２は、前処理部１０３ａによって加工された後の学習データの一例を示す図である。それぞれの学習データは、５項目の時間情報データ（年、月、日、曜日／祝日、および時刻）と、１５項目のセンサ情報データ（ポンプ揚水量、返流流量、送気量、混合浮遊物濃度、および溶存酸素濃度など）と、３項目の放流水質データ（ＣＯＤ、ＴＮ、およびＴＰ）とを含む。

図３は、放流水質データにおける定常時データおよび非定常時データを説明するための図である。警報レベルは、放流水質データが悪化して運転変更等の対処が必要となる閾値である。定常時データは、放流水質データが警報レベル未満である時間のデータである。また、非定常時データは、放流水質データが警報レベルを超える時間のデータである。

放流水質の定常時データと非定常時データとのバランスが良い（全期間の放流水質データに対して非定常時データの割合がある程度大きい）場合、放流水質の定常時データと非定常時データとが高い精度で予測できる。しかし、非定常時データの割合が小さい場合、定常時データの予測精度は高いが、非定常時データの予測精度が低くなる。

非定常時データ変更部１０３ｂは、前処理部１０３ａによって生成された学習データの中から非定常時データを抽出し、非定常時データの割合に応じて非定常時データの数を増減することにより学習データを変更する。この非定常時データ変更部１０３ｂの詳細は、後述する。

モデル生成部１０３ｃは、非定常時データ変更部１０３ｂによって変更された学習データを用いて所定の更新周期ごとに再学習を行い、下水処理場の運転変更に対応した予測モデルを生成する。このモデル生成部１０３ｃの詳細は、後述する。

モデル評価部１０３ｄは、モデル生成部１０３ｃによって生成された予測モデルを評価し、評価誤差が目標誤差以下であれば、その予測モデルが十分に学習していると判断する。このモデル評価部１０３ｄの詳細は、後述する。

モデル変更部１０３ｅは、放流水質予測部１０５が予測処理を実行中であるか否かを判定する。予測処理を実行中でなければ、モデル変更部１０３ｅは、モデル生成部１０３ｃによって生成された予測モデルを最新の予測モデルとして更新する。

直近データデータベース１０４は、センサ情報取得部１０１によって生成された学習データを予測に必要な期間、たとえば、１時間以上の期間分だけを順次記憶する。すなわち、直近データデータベース１０４は、１時間以上の最新の学習データを直近データとして常に記憶している。

放流水質予測部１０５は、前処理部１０５ａと、予測処理部１０５ｂと、後処理部１０５ｃとを備える。前処理部１０５ａは、直近データデータベース１０４に蓄積されている直近データを、予測できる形式になるように加工する。

予測処理部１０５ｂは、前処理部１０５ａによって生成された直近データおよびモデル変更部１０３ｅによって更新された予測モデルを用いて、所定時間後（例：数時間後）の放流水質を予測する。詳細は後述する。以下では、当該所定時間が、２．５時間である場合を主に例示する。本明細書では、この所定時間を「第２の所定時間」とも称する。

後処理部１０５ｃは、予測処理部１０５ｂによって予測された放流水質を、出力可能な形式に変換する。

出力部１０６は、放流水質予測部１０５によって生成された各種情報を、下水処理場の図示しない制御装置、表示装置などに出力する。

（予測モデル生成部１０３の処理手順）
図４は、予測モデル生成部１０３の処理手順を説明するためのフローチャートである。まず、前処理部１０３ａは、学習データデータベース１０２に蓄積されている学習データを取得する（ステップＳ１）。前処理部１０３ａは、学習データの前処理を行う。より具体的には、前処理部１０３ａは、学習データ内に欠測値または異常値がある場合には、当該欠測値または異常値を補間する（ステップＳ２）。

ここで、欠測値とは、センサの点検等により計測値が正しく出力されていないときの値を意味する。また、異常値とは、センサの故障等により異常となっている値を意味する。これらは、たとえば、一定の範囲から値が外れているか否かによって判断される。

前処理部１０３ａは、学習データ内に欠測値または異常値がある場合、前後の時間の学習データの同じ項目の値を用いて、当該欠測値または異常値を補間してもよい。または、前処理部１０３ａは、前週の同じ曜日の同じ時刻の同じ項目の値を用いて、当該欠測値または異常値を補間してもよい。

次に、非定常時データ変更部１０３ｂは、前処理部１０３ａによって補間された後の学習データの中の非定常時データの割合を算出する。そして、非定常時データ変更部１０３ｂは、非定常時データの割合が所定値となるように、非定常時データの数を増減して学習データを変更する（ステップＳ３）。このステップＳ３の処理の詳細は、後述する。

次に、モデル生成部１０３ｃは、非定常時データ変更部１０３ｂによって変更された後の学習データを用いて、複数の学習データセットを作成する。図２に示すように、太線によって囲まれた２４時間（１４４０点）分の学習データを１つの学習データセットとする。そして、１点（１行）下にずらした２４時間分の学習データを次の学習データセットとする。このように、１点（１行）ずつ下にずらした学習データセットを順次作成してゆく。本明細書では、この学習データセットの時間を「第１の所定時間」とも称する。

以下、２４時間（１４４０点）分の学習データを１つの学習データセットとして説明するが、これは一例であって、それ以外の時間（点数）分の学習データを学習データセットとしてもよい。

そして、モデル生成部１０３ｃは、予測モデルを作成する。本実施形態においては、時系列データを処理するために好適な回帰型ニューラルネットワーク、たとえば、リカレントニューラルネットワーク（Recurrent Neural Network）（以下、ＲＮＮと呼ぶ。）の学習手法を用いることとし、現行のハイパーパラメータを用いて予測モデルを作成する。

図５は、モデル生成部１０３ｃによって使用されるＲＮＮのハイパーパラメータの調整項目例を示す図である。ハイパーパラメータは、学習データセットの時間、エポック数、最適化関数、重み減衰係数、学習率の乗数、学習率の更新間隔、およびノード数などを含む。モデル生成部１０３ｃは、これらハイパーパラメータの値を順次調整しながら予測モデルを生成する。

ハイパーパラメータの各項目は、図５の右側に示すように調整範囲が決められており、これらの値に変更することが可能である。したがって、ハイパーパラメータの各項目の調整範囲のすべての組み合わせで予測モデルを作成することができる。なお、ハイパーパラメータは、図５に示す項目に限られるものではなく、これ以外に層数、潜在変数の数、活性化関数等を含んでいても良い。

モデル生成部１０３ｃは、図５に示すハイパーパラメータの各項目の値を選択してＲＮＮ構造に適用することにより、パラメータの調整を行う。そして、ＲＮＮの機械学習手法、たとえば、ＢＰＴＴ（Back Propagation Through Time）法を適用し、調整したハイパーパラメータを使用して予測モデルを作成する（ステップＳ４）。

また、ＲＮＮでは、過去の中間層出力を反映することが必ずしも容易ではないことが知られている。そこで、この問題を改善するために、ＬＳＴＭ（Long Short Term Memory）と呼ばれるネットワークを利用することも可能である。ＬＳＴＭでは、ＲＮＮの中間層出力に対して、記憶期間の長さの概念が導入されているため、遠い過去の出力の影響を保持できる。

また、ＧＲＵ（Gated Recurrent Unit）という手法を用いることも可能である。ＧＲＵでは、入力ゲートと忘却ゲートとが更新ゲートとして、１つのゲートに統合されている。ＧＲＵによれば、長いステップ前の出来事の特徴の記憶を維持しやすくなる。

次に、モデル生成部１０３ｃは、複数の学習データセットをトレーニングデータ、検証データおよび評価データに分割する。そして、モデル生成部１０３ｃは、トレーニングデータと検証データとを用い、ステップＳ４において作成された予測モデルで学習および検証を行い、予測値が学習データの実測値に近づくようにネットワークのパラメータを調整する（ステップＳ５）。

この学習および検証について、再び図２を参照しながら、詳細に説明する。モデル生成部１０３ｃは、図２の太線によって示す学習データセットをトレーニングデータとし、２．５時間後のＣＯＤの値を検証データとする。そして、モデル生成部１０３ｃは、ステップＳ４において作成された予測モデルの入力層にトレーニングデータを設定し、出力層の検証データとして２．５時間後のＣＯＤの値を設定する。モデル生成部１０３ｃは、所定の学習手法（ＢＰＴＴ法、ＬＳＴＭ法、またはＧＲＵ法など）を用いて再学習を行うことにより、予測モデルを更新する。なお、検証データは、学習データセットの中の最新の時刻の学習データから２．５時間後のＣＯＤの値とする。

図６は、予測モデルの生成を模式的に示す図である。学習データ２０１として学習データセットの各行の２３項目（時間情報データ５項目＋センサ情報データ１５項目＋放流水質データ３項目）がＲＮＮ層の入力層に入力され、２．５時間後のＣＯＤの値が検証データとして出力層に設定される。なお、入力層に入力されるのは時間情報データ５項目＋センサ情報データ１５項目の合計２０項目だけであってもよい。

ＲＮＮ層２０２は、回帰型ニューラルネットワークであり、中間層の時間経過を考慮しなければならない。このため、ＲＮＮ層２０２に、そのまま誤差逆伝播（ＢＰ）法を適用することができない。そのため、ＲＮＮ層を、中間層出力を介して時間方向に展開することにより全結合層２０３を作成し、ＢＰ法が適用できる形式の予測モデル２０４を作成する。いわゆる、ＢＰＴＴ法が適用できるようにする。また、上述のＬＳＴＭ法またはＧＲＵ法などの学習手法を用いるようにしてもよい。

この予測モデル２０４に学習データ２０１の各行の項目を順次入力して予測値を計算し、予測値が検証データ（２．５時間後のＣＯＤの実測値）に近づくように、ＢＰＴＴ法などを用いてパラメータ（重み、バイアス）を調整することにより学習を行う。そして、学習データセットの行をずらしながら順次再学習を行ない、予測モデル２０４を更新する。

図６の例では、ＣＯＤを学習する場合について記載している。但し、ＴＮの値を学習する場合であれば、２．５時間後のＴＮの実測値を検証データとして学習すればよい。あるいは、ＴＰを学習する場合であれば、２．５時間後のＴＰの実測値を検証データとして学習すればよい。また、放流水質データの上記３項目（ＣＯＤ、ＴＮ、およびＴＰ）を一度に学習するのであれば、これら３項目の実測値を検証データとして学習すればよい。

また、上記の例では、所定時間が「２．５時間」である場合を例示している。但し、所定時間はこれに限定されず、任意の時間であってもよい。

次に、モデル評価部１０３ｄは、評価データを用い、ステップＳ５において調整した予測モデルで予測を行う。モデル評価部１０３ｄは、予測値と実測値との評価を行う（ステップＳ６）。ここでは、モデル評価部１０３ｄは、予測値と実測値との差（絶対値）を誤差として計算し、最大誤差を評価誤差として保存する。

また、モデル評価部１０３ｄは、実測値が非定常時データである場合、予測値が正しく非定常時データとなっているか否かを判断する。そして、正確に非定常時データとして予測できた箇所数を、全ての非定常時データの箇所数で割った値を予測正解率として算出する。

図７は、非定常時データが正しく予測できていない場合を示す図である。図７においては、１箇所の非定常時データに、４点の非定常時データが含まれている場合を示している。モデル評価部１０３ｄは、予測データが全て定常時データとなっているため、不正解であると判断する。

図８は、非定常時データが正しく予測できている場合を示す図である。図８においても同様に、１か所の非定常時データに、４点の非定常時データが含まれている場合を示している。モデル評価部１０３ｄは、予測データの１点以上を非定常時データと予測しているため、正解であると判断する。

このように、モデル評価部１０３ｄは、連続している非定常時データを１箇所の非定常時データとみなし、その予測データが正解か否かを判断し、正解であった非定常時データの箇所数を算出する。そして、正解であった非定常時データの箇所数を、全ての非定常時データの箇所数で割った値を予測正解率とする。

なお、評価データとして、２４時間の学習データセットの入力項目を全て用いてもよい。但し、学習データセット内の最も新しい時刻から数時間分の入力項目を抽出し、それを評価データとするようにしてもよい。

次に、モデル評価部１０３ｄは、評価誤差が目標誤差以下であるか否かを判定する（ステップＳ７）。目標誤差とは、あらかじめ決められた値であり、予測モデル２０４が十分に学習しているか否かを判定するための値である。

評価誤差が目標誤差よりも大きければ（ステップＳ７，Ｎｏ）、ステップＳ９に処理が進む。また、評価誤差が目標誤差以下であれば（Ｓ７，Ｙｅｓ）、モデル評価部１０３ｄは、予測正解率が目標正解率以上であるか否かを判定する（ステップＳ８）。予測正解率が目標正解率よりも小さければ（Ｓ８，Ｎｏ）、ステップＳ９に処理が進む。

ステップＳ９において、モデル評価部１０３ｄは、予測処理部１０５ｂの更新回数が２回目以上であるか否かを判定する（ステップＳ９）。予測処理部１０５ｂの更新回数が２回目以上であれば（Ｓ９，Ｙｅｓ）、モデル評価部１０３ｄは、所定の更新時間を超えているか否かを判定する（ステップＳ１０）。この所定の更新時間とは、十分な時間を経過しても評価誤差が小さくならなければ処理を終了するための時間であり、たとえば、数日程度の時間として設定される。

所定の更新時間を超えていれば（ステップＳ１０，Ｙｅｓ）、モデル評価部１０３ｄは、現在の学習データでは目標誤差以下であり、かつ目標正解率以上の予測モデル２０４を作成することができないと判断し、予測モデル２０４の更新を行なわずに処理を終了する（ステップＳ１１）。

また、所定の更新時間を超えていなければ（ステップＳ１０，Ｎｏ）、モデル生成部１０３ｃおよびモデル評価部１０３ｄは、ステップＳ４に戻ってＳ４～Ｓ８の処理を繰り返すことになる。ここで、モデル生成部１０３ｃは、第１の設定時間だけ待った後に、ステップＳ３以降の処理を行う。この第１の設定時間は、１回の学習に必要な時間であり、データ量によっても異なるが、たとえば半日または１日の時間として設定される。

モデル生成部１０３ｃおよびモデル評価部１０３ｄがステップＳ４～Ｓ８を繰り返すことにより、図５に示す様々な組み合わせのハイパーパラメータの予測モデル２０４を順次作成し、作成した予測モデル２０４を用いて学習データセットの学習を順次行ない、予測モデル２０４を順次更新してゆくことになる。

予測正解率が目標正解率以上であれば（ステップＳ８，Ｙｅｓ）、モデル評価部１０３ｄは、予測モデル２０４をモデル変更部１０３ｅに保存する（ステップＳ１２）。この予測モデル２０４は、ハイパーパラメータの様々な組み合わせで生成された予測モデルの中で、最適に近い予測モデルであると言える。

次に、モデル変更部１０３ｅは、放流水質予測部１０５が予測処理を実施中であるか否かを判定する（ステップＳ１３）。放流水質予測部１０５が予測処理を実施中であれば（ステップＳ１３，Ｙｅｓ）、モデル変更部１０３ｅは、第２の設定時間毎に放流水質予測部１０５の状態を確認する。この第２の設定時間とは、放流水質予測部１０５が１回の予測処理を実施するのに必要な時間であり、たとえば、数分程度の時間として設定される。

放流水質予測部１０５が予測処理を実施中でなければ（ステップＳ１３，Ｎｏ）、モデル変更部１０３ｅは、予測処理部１０５ｂが使用する予測モデル２０４を最新の予測モデル２０４に更新し（ステップＳ１４）、処理を終了する。

なお、所定の更新時間、第１の設定時間および第２の設定時間は任意の値が設定可能であり、下水処理場に設置されているセンサの数の変更および学習データのデータ量の変更等に応じて適切な値を設定するものとする。

図９は、非定常時データ変更部１０３ｂ（図４のステップＳ３）の処理手順を説明するためのフローチャートである。まず、非定常時データ変更部１０３ｂは、前処理部１０３ａによって加工された後の１分毎の学習データをサンプリングして、例えば、１０分毎の学習データを作成する。

非定常時データ変更部１０３ｂは、１０分毎のデータの中から、センサデータが警報レベルを超える非定常時データを抽出する。そして、非定常時データ変更部１０３ｂは、抽出した非定常時データの点数の総数を求め、その総数が全データに占める割合Ｐを求める（ステップＳ３１）。

図１０は、学習データのサンプリングを説明するための図である。なお、以下の説明においては、放流水質データの１つであるＣＯＤの非定常時データの場合について説明するが、他の放流水質データ（ＴＮ，ＰＮ）の非定常時データについても同様である。

図１０は、１分毎のＣＯＤのセンサデータを示しており、非定常時データ変更部１０３ｂは、１０点のセンサデータの中の５点目のセンサデータを抽出する。図１０においては、警報レベルを超えているＣＯＤの非定常時データのみを記載しているが、ＣＯＤの定常時データも同様に、１０点のセンサデータの中の５点目のセンサデータを抽出して１０分毎のデータを生成する。なお、図１０においては、１分毎のＣＯＤのセンサデータをサンプリングデータと記載しており、１０分毎のＣＯＤのセンサデータを初期の抽出データと記載している。

ここで、非定常時データ変更部１０３ｂが非定常時データの増減を行う際に使用する事前の設定項目について説明する。Ｐ_ＭＡＸは非定常時データの最大割合を示し、Ｐ_ＭＩＮは非定常時データの最小割合を示す。また、μは、非定常時データの割合の増減幅の調整係数を示し、Ｎ_ＭＩＮは、非定常時データの割合の最小増減幅を示す。

また、Ｐ０^（ｋ）をｋ回目の選択時の非定常時データの最小割合とし、Ｐ３^（ｋ）をｋ回目の選択時の非定常時データの最大割合とすると、ｋ回目の非定常時データの割合の増減幅Ｎ^（ｋ）は、μ×（Ｐ３^（ｋ）－Ｐ０^（ｋ））となる。

非定常時データの最適な割合が、事前に設定された最小割合Ｐ_ＭＩＮと最大割合Ｐ_ＭＡＸとの間に存在するという考えに基づき、最適化法（非線形計画法）を用いて非定常時データの最適な割合を求める。

非定常時データ変更部１０３ｂは、計算回数ｋに１を代入し（ステップＳ３２）、１回目の最小割合Ｐ０^（ｋ）にＰ_ＭＩＮを代入し、１回目の最大割合Ｐ３^（ｋ）にＰ_ＭＡＸを代入し（ステップＳ３３）、ｋ回目の割合の増減幅Ｎ^（ｋ）にμ×（Ｐ３^（ｋ）－Ｐ０^（ｋ））の値を代入する（ステップＳ３４）。

次に、非定常時データ変更部１０３ｂは、割合Ｐ１^（ｋ）にＰ０^（ｋ）＋Ｎ^（ｋ）を代入し、割合Ｐ２^（ｋ）にＰ３^（ｋ）－Ｎ^（ｋ）を代入する（ステップＳ３５）。そして、非定常時データ変更部１０３ｂは、割合がＰ１^（ｋ）となるように非定常時データを増やして学習データセットＤ１を作成し、割合がＰ２^（ｋ）となるように非定常時データを減らして学習データセットＤ２を作成する（ステップＳ３６，Ｓ３７）。このとき、非定常時データ変更部１０３ｂは、ステップＳ３１において算出した割合Ｐに基づいて、非定常時データを増減し、学習データセットＤ１およびＤ２を作成するものとする。

図１１は、非定常時データの数を増やす方法を説明するための図である。図１１に示すように、初期の抽出データの周辺のサンプリングデータには非定常時データが含まれることが多いため、追加の非定常時データを抽出することができる。図１１においては、１０点の中の２点目の非定常時データおよび８点目の非定常時データを追加することにより、非定常時データを３倍にする例を示している。

図１２は、非定常時データの数を増やす他の方法を説明するための図である。図１２に示すように、初期の抽出データの振幅に対して、振幅を１．０５倍に増やした非定常時データを作成し、その非定常時データを学習データに追加する。また、初期の抽出データの振幅に対して、振幅を０．９５倍に減らした非定常時データを作成し、その非定常時データを学習データに追加する。このようにして、非定常時データの数を３倍に増やすことができる。

図１３は、非定常時データの初期の抽出データを示す図である。図１３においては、初期の抽出データのサンプリング間隔が１分となっている場合について説明するが、サンプリング間隔が１分よりも長くなっている場合もあり得る。

図１４は、非定常時データの数を減らす方法を説明するための図である。図１４においては、サンプリング間隔を５分とし、５点の非定常時データ（初期の抽出データ）の中の２点目を抽出する。これによって、非定常時データの数を初期の抽出データの０．２倍に減らすことができる。

たとえば、初期の抽出データの数が１８万点であり、その中の非定常時データの数が６千点であったとすると、非定常時データを正しく予測するために非定常時データの数を増やす必要がある。上述の非定常時データを増やす方法を用いて、非定常時データの数を２万点追加するとすれば、追加後の全データが２０万点となり、追加後の非定常時データが２万６千点となる。その結果、非定常時データの割合が１３％となり、非定常時データを正しく予測することができるようになる。

次に、モデル生成部１０３ｃは、非定常時データ変更部１０３ｂによって作成された学習データセットＤ１を用いて予測モデルＭ１を作成し、学習データセットＤ２を用いて予測モデルＭ２を作成する（ステップＳ３８）。ここでは、モデル生成部１０３ｃは、図５に示すハイパーパラメータ調整項目の中の最適な組み合わせと考えられるハイパーパラメータを用いて予測モデルを作成するものとし、予測モデルの学習および検証を行うことにより予測モデルＭ１およびＭ２を更新する。

次に、モデル評価部１０３ｄは、評価データを用い、ステップＳ３８において作成された予測モデルＭ１およびＭ２で予測を行う。モデル評価部１０３ｄは、予測モデルＭ１およびＭ２のそれぞれの予測値と実測値との評価を行う（ステップＳ３９）。ここでは、モデル評価部１０３ｄは、予測モデルＭ１およびＭ２のそれぞれの予測値と実測値との差を誤差として計算し、最大誤差を評価誤差として保存する。

次に、非定常時データ変更部１０３ｂは、予測モデルＭ１の評価誤差が予測モデルＭ２の評価誤差以下であるか否かを判定する（ステップＳ４０）。予測モデルＭ１の評価誤差が予測モデルＭ２の評価誤差以下であれば（Ｓ４０，Ｙｅｓ）、非定常時データ変更部１０３ｂは、学習データセットＤ１を一時保存する（ステップＳ４１）。

次に、非定常時データ変更部１０３ｂは、ｋ＋１回目の最小割合Ｐ０^{（ｋ＋１）}にＰ０^（ｋ）を代入し、ｋ＋１回目の最大割合Ｐ３^{（ｋ＋１）}にＰ２^（ｋ）を代入する（ステップＳ４２）。そして、ｋ＋１回目の割合Ｐ１^{（ｋ＋１）}にＰ１^（ｋ）を代入し、ｋ＋１回目の割合Ｐ２^{（ｋ＋１）}にＰ２^（ｋ）－Ｎ^（ｋ）の算出値を代入する（ステップＳ４３）。

また、予測モデルＭ１の評価誤差が予測モデルＭ２の評価誤差より大きければ（Ｓ４０，Ｎｏ）、非定常時データ変更部１０３ｂは、学習データセットＤ２を一時保存する（ステップＳ４４）。

次に、非定常時データ変更部１０３ｂは、ｋ＋１回目の最小割合Ｐ０^{（ｋ＋１）}にＰ１^（ｋ）を代入し、ｋ＋１回目の最大割合Ｐ３^{（ｋ＋１）}にＰ３^（ｋ）を代入する（ステップＳ４５）。そして、ｋ＋１回目の割合Ｐ１^{（ｋ＋１）}にＰ１^（ｋ）＋Ｎ^（ｋ）の算出値を代入し、ｋ＋１回目の割合Ｐ２^{（ｋ＋１）}にＰ２^（ｋ）を代入する（ステップＳ４６）。

次に、非定常時データ変更部１０３ｂは、Ｎ^{（ｋ＋１）}にμ×（Ｐ３^{（ｋ＋１）}－Ｐ０^{（ｋ＋１）}）の算出値を代入して更新し（ステップＳ４７）、増減幅Ｎ^{（ｋ＋１）}が最小の増減幅Ｎ_ＭＩＮ以下であるか否かを判定する（ステップＳ４８）。

増減幅Ｎ^{（ｋ＋１）}が最小の増減幅Ｎ_ＭＩＮよりも大きければ（Ｓ４８，Ｎｏ）、非定常時データ変更部１０３ｂは、計算回数ｋにｋ＋１の値を代入し（ステップＳ４９）、ステップＳ３６に戻って以降の処理を繰り返す。また、増減幅Ｎ^{（ｋ＋１）}が最小の増減幅Ｎ_ＭＩＮ以下であれば（Ｓ４８，Ｙｅｓ）、非定常時データ変更部１０３ｂは、一次保存している学習データセットを採用し（ステップＳ５０）、図４のステップＳ４に処理が進む。

図１５は、図９に示す非定常時データ変更部１０３ｂ（図４のステップＳ３）の処理を模式的に示す図である。図１５は、横軸を非定常時データの割合、縦軸を評価誤差Ｅとするグラフ形式で表している。

１回目の最適な割合の選択範囲を、最小割合Ｐ０^（１）（Ｐ_ＭＩＮ）から最大割合Ｐ３^（１）（Ｐ_ＭＡＸ）までとし、１回目の増減幅Ｎ^（１）にμ×（Ｐ３^（１）－Ｐ０^（１））の算出値を代入し、割合Ｐ１^（１）をＰ０^（１）＋Ｎ^（１）とし、割合Ｐ２^（１）をＰ３^（１）－Ｎ^（１）とする。このとき、予測モデルＭ１の評価誤差Ｅ１よりも予測モデルＭ２の評価誤差Ｅ２の方が大きいため、最大割合Ｐ３^（２）に割合Ｐ２^（１）を代入し、割合Ｐ２^（２）にＰ２^（１）－Ｎ^（１）の算出値を代入する。これにより、最大割合Ｐ３^（２）および割合Ｐ２^（２）がＮ^（１）だけ中央（左側）に移動する（Ｇ１）。

次に、２回目の最適な割合の選択範囲を、最小割合Ｐ０^（２）から最大割合Ｐ３^（２）までとし、２回目の増減幅Ｎ^（２）にμ×（Ｐ３^（２）－Ｐ０^（２））の算出値を代入する。このとき、予測モデルＭ１の評価誤差Ｅ１よりも予測モデルＭ２の評価誤差Ｅ２の方が小さいため、最小割合Ｐ０^（３）に割合Ｐ１^（２）を代入し、割合Ｐ１^（３）にＰ１^（２）＋Ｎ^（２）の算出値を代入する。これにより、最小割合Ｐ０^（３）および割合Ｐ１^（３）がＮ^（２）だけ中央（右側）に移動する（Ｇ２）。

次に、３回目の最適な割合の選択範囲を、最小割合Ｐ０^（３）から最大割合Ｐ３^（３）までとし、３回目の増減幅Ｎ^（３）にμ×（Ｐ３^（３）－Ｐ０^（３））の算出値を代入する。このとき、予測モデルＭ１の評価誤差Ｅ１よりも予測モデルＭ２の評価誤差Ｅ２の方が大きいため、最大割合Ｐ３^（４）に割合Ｐ２^（３）を代入し、割合Ｐ２^（４）にＰ２^（３）－Ｎ^（３）の算出値を代入する。これにより、最大割合Ｐ３^（４）および割合Ｐ２^（４）がＮ^（３）だけ中央（左側）に移動する（Ｇ３）。

同様の処理を繰り返し、Ｔ回目の最適な割合の選択範囲を、最小割合Ｐ０^（Ｔ）から最大割合Ｐ３^（Ｔ）までとし、Ｔ回目の増減幅Ｎ^（Ｔ）にμ×（Ｐ３^（Ｔ）－Ｐ０^（Ｔ））の算出値を代入する。このとき、Ｔ回目の増減幅Ｎ^（Ｔ）が最小の増減幅Ｎ_ＭＩＮよりも小さくなるため、一次保存されている学習データセットが採用される。

（放流水質予測部１０５の処理手順）
図１６は、放流水質予測部１０５の処理手順を説明するためのフローチャートである。まず、前処理部１０５ａは、所定の予測周期毎に直近データデータベース１０４に蓄積されている直近データを取得する（ステップＳ２１）。前処理部１０３ａは、学習データの前処理を行う。より具体的には、前処理部１０３ａは、学習データ内に欠測値または異常値がある場合には、当該欠測値または異常値を補間する（ステップＳ２２）。なお、欠測値、異常値およびそれらの値の補間方法については、予測モデル生成部１０３の前処理部１０３ａにおいて説明したものと同様である。

なお、図１６に示す処理は、所定の予測周期毎に再度行われる。この所定の予測周期とは、放流水質予測部１０５が１回の予測処理を実施するのに必要な時間であり、たとえば、数分程度の時間として設定される。この所定の予測周期は、任意の値を設定することが可能であり、学習データのデータ量の変更等に応じて適切な値を設定するものとする。

次に、予測処理部１０５ｂは、前処理部１０５ａによって補間された後の直近データを、予測モデル生成部１０３によって作成された予測モデル２０４に適用して、２．５時間後の放流水質データ（ＣＯＤ、ＴＮ、ＴＰ）の値を予測する（ステップＳ２３）。

図１７は、放流水質データの予測を模式的に示す図である。直近データ２０５として学習データセットの各行の２３項目（時間情報データ５項目＋センサ情報データ１５項目＋放流水質データ３項目）が予測モデル２０４の入力層に入力される。予測モデル２０４は、２．５時間後のＣＯＤの値を予測し、出力データ２０６として出力する。

同様にして、ＴＮの予測用に作成された予測モデル２０４を用いて、２．５時間後のＴＮの値を予測することも可能である。また、ＴＰの予測用に作成された予測モデル２０４を用いて、２．５時間後のＴＰを予測することも可能である。

最後に、後処理部１０５ｃは、予測処理部１０５ｂによって予測された放流水質データ（予測結果）に対し、後処理を行う。具体的には、後処理部１０５ｃは、予測結果を出力部１０６が出力可能な形式に変換し（ステップＳ２４）、処理を終了する。

（予測結果の一例）
ある下水処理場において放流水質の予測を行った。データ数は４年８か月の１分データ（約２４５万データ）とし、入力データ種（時間情報データを含む）は２０項目とし、出力データ種は３項目（ＣＯＤ、ＴＮおよびＴＰ）とした。また、学習データセットは、２３項目（入力データ種＋出力データ種）×１２時間とした。機械学習手法としては、ＬＳＴＭ法を用いた。

図１８は、非定常時データの数を増減しなかった場合のＣＯＤの実測値と放流水質予測部１０５によって予測されたＣＯＤの予測値とを示すグラフである。縦軸はＣＯＤの値を示し、横軸は時刻を示している。このグラフは、１日のＣＯＤの実測値および予測値を示しており、非定常時データが正しく予測できていないことを示している。

図１９は、非定常時データの数を増減した場合のＣＯＤの実測値と放流水質予測部１０５によって予測されたＣＯＤの予測値とを示すグラフである。このグラフは、非定常時データが正しく予測できていることを示している。

（効果）
以上説明したように、放流水質予測装置１００によれば、非定常時データ変更部１０３ｂが非定常時データの数を増減して学習データを変更し、モデル生成部１０３ｃが変更された後の学習データを用いて予測モデルを作成するようにしたので、非定常時データを正しく予測することが可能となった。図１９のグラフに示すように、ＣＯＤの実測値と放流水質予測部１０５によって予測されたＣＯＤの予測値とがほぼ一致している。

また、放流水質データの予測にＲＮＮを用い、ＢＰＴＴ法、ＬＳＴＭ法、ＧＲＵ法などの学習手法を適用するようにしたので、１つの予測モデルで放流水質データを予測することが可能となった。

また、放流水質データの予測にＲＮＮを用いるようにしたので、下水処理場の運転が変更された場合でも、ハイパーパラメータを変更して予測モデルを作成するだけで対応できるため、予測精度の低下を防止することが可能となった。

また、モデル生成部１０３ｃが、様々なハイパーパラメータを用いて予測モデルを作成し、その中で評価誤差が少ない予測モデルを用いて放流水質データの予測を行なうようにしたので、放流水質データを正確に予測することが可能となった。

〔ソフトウェアによる実現例〕
放流水質予測装置１００の制御ブロック（特に予測モデル生成部１０３および放流水質予測部１０５）は、集積回路（ＩＣチップ）等に形成された論理回路（ハードウェア）によって実現してもよいし、ソフトウェアによって実現してもよい。

後者の場合、放流水質予測装置１００は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば１つ以上のプロセッサを備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記プロセッサとしては、例えばＣＰＵ（Central Processing Unit）を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ＲＯＭ（Read Only Memory）等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するＲＡＭ（Random Access Memory）などをさらに備えていてもよい。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体（通信ネットワークや放送波等）を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。

〔コンピュータの構成例〕
図２０は、本発明の一態様に係る放流水質予測装置（例：放流水質予測装置１００）を実現するためのコンピュータの構成例を示す図である。このコンピュータは、コンピュータ本体３００と、ディスプレイ４０１と、キーボード４０２と、マウス４０３とを含む。使用者は、ディスプレイ４０１に表示された画面を見ながらキーボード４０２およびマウス４０３を操作することにより、コンピュータ本体３００を放流水質予測装置として機能させるためのプログラム（以下、放流水質予測プログラムと呼ぶ。）を起動する。

コンピュータ本体３００は、ＣＰＵ３０１と、ＧＰＧＰＵ（General-Purpose computing on Graphics Processing Units）３０２と、ブートプログラム等を記憶するＲＯＭ３０３と、実行するプログラム、作業データ等を記憶するＲＡＭ３０４と、ハードディスク３０５と、ＤＶＤ（Digital Versatile Disc）ドライブ３０６と、ネットワークＩ／Ｆ（Interface）３０７と、メモリポート３０８と、ＲＴＣ（Real Time Clock）３０９とを含み、それぞれ内部バス３１０に接続されている。

ＧＰＧＰＵ３０２は、ＧＰＵの演算資源を画像処理以外の目的に応用したものであり、高い処理性能を有しているため、ニューラルネットワーク等の行列演算、最適化問題、暗号解読、音声処理などの幅広い分野で用いられている。

放流水質予測プログラムは、ＤＶＤ４０６、リムーバブルメモリ４０５などの記録媒体に記録されており、ＣＰＵ３０１の制御により、ＤＶＤドライブ３０６またはメモリポート３０８を介してハードディスク３０５にインストールされる。また、放流水質予測プログラムは、公衆回線４０４およびネットワークＩ／Ｆ３０７を介してダウンロードされ、ハードディスク３０５にインストールされても良い。

ＣＰＵ３０１が、ＲＡＭ３０４に記憶される放流水質プログラムを実行し、ネットワークＩ／Ｆ３０７および公衆回線４０４を介して下水処理場に設置された複数のセンサからのセンサ情報データおよび放流水質データを受信し、それらのデータにＲＴＣ３０９から取得した時刻情報データを付与して学習データを生成することにより、センサ情報取得部１０１を実現する。

また、ＣＰＵ３０１が、ＲＡＭ３０４に記憶される放流水質プログラムを実行し、センサ情報取得部１０１によって生成された学習データをハードディスク３０５などに逐次記憶することにより、学習データデータベース１０２および直近データデータベース１０４を実現する。

また、ＣＰＵ３０１が、ＲＡＭ３０４に記憶される放流水質プログラムを実行し、ＧＰＧＰＵ３０２と共にＲＮＮの学習などを行ない、予測モデル２０４を生成することにより、予測モデル生成部１０３を実現する。

同様に、ＣＰＵ３０１が、ＲＡＭ３０４に記憶される放流水質予測プログラムを実行し、ＧＰＧＰＵ３０２と共に直近データ２０５を予測モデル２０４に適用した演算を行なって予測データを生成することにより、放流水質予測部１０５を実現する。

また、ＣＰＵ３０１が、ＲＡＭ３０４に記憶される放流水質予測プログラムを実行し、放流水質予測部１０５によって生成された各種情報を、ネットワークＩ／Ｆ３０７および公衆回線４０４を介して、下水処理場の図示しない制御装置、表示装置などに送信することにより、出力部１０６を実現する。

〔付記事項〕
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。

１００ 放流水質予測装置
１０１ センサ情報取得部
１０２ 学習データデータベース
１０３ 予測モデル生成部
１０３ａ 前処理部
１０３ｂ 非定常時データ変更部
１０３ｃ モデル生成部
１０３ｄ モデル評価部
１０３ｅ モデル変更部
１０４ 直近データデータベース
１０５ 放流水質予測部
２０１ 学習データ
２０４ 予測モデル
２０５ 直近データ

Claims (6)

1. 下水処理場に設置された複数のセンサから、検出値の時系列データを取得するセンサ情報取得部と、
   前記センサ情報取得部によって取得された前記時系列データを学習データとして記憶する学習データデータベースと、
   前記センサ情報取得部によって取得された前記時系列データを直近データとして記憶する直近データデータベースと、
   前記学習データの中の、放流水質データの値が非定常時データとなっている割合に応じて、前記学習データの中の前記非定常時データの数を増減して前記学習データを変更する非定常時データ変更部と、
   前記非定常時データ変更部によって変更された学習データの中の第１の所定時間分の学習データを学習データセットとし、第２の所定時間後の、前記放流水質データの値を予測するための予測モデルを、前記学習データセットから生成するモデル生成部と、
   前記直近データに、前記予測モデルを適用することにより、前記放流水質データの値を予測する放流水質予測部とを備える、放流水質予測装置。
2. 前記非定常時データ変更部は、
   前記学習データの中の前記非定常時データの振幅を増減した学習データを作成し、当該学習データを追加する、請求項１に記載の放流水質予測装置。
3. 前記モデル生成部は、
   前記学習データセットをトレーニングデータとし、
   前記第２の所定時間後の、前記放流水質データの実測値を検証データとし、
   前記トレーニングデータおよび前記検証データを用いてリカレントニューラルネットワークに学習させることにより予測モデルを生成する、請求項１または２に記載の放流水質予測装置。
4. 前記モデル生成部は、前記リカレントニューラルネットワークのハイパーパラメータを変更しながら予測モデルを生成し、
   前記放流水質予測装置はさらに、前記学習データセットの少なくとも一部の学習データを評価データとし、前記評価データを前記予測モデルに入力することによって得られる予測値と、前記検証データとの誤差が所定値以下の予測モデルを、前記放流水質予測部に設定するモデル評価部を含む、請求項３に記載の放流水質予測装置。
5. 前記非定常時データ変更部は、
   前記非定常時データの割合が最小割合となる第１の学習データセットと、前記非定常時データの割合が最大割合となる第２の学習データセットとを作成し、
   前記モデル生成部は、
   前記第１の学習データセットを用いて第１の予測モデルを生成し、前記第２の学習データセットを用いて第２の予測モデルを生成し、
   前記モデル評価部は、
   前記評価データを前記第１の予測モデルに入力することによって得られる予測値と、前記検証データとの第１の最大誤差を算出し、
   前記評価データを前記第２の予測モデルに入力することによって得られる予測値と、前記検証データとの第２の最大誤差を算出し、
   前記非定常時データ変更部は、
   前記第１の最大誤差と前記第２の最大誤差とを比較し、最大誤差が大きい方の前記第１の学習データセットまたは前記第２の学習データセットの非定常時データの数を変更しながら、
   前記モデル生成部に前記第１の予測モデルおよび前記第２の予測モデルを生成させ、
   前記モデル評価部に前記第１の最大誤差および前記第２の最大誤差を算出させることにより、前記非定常時データの割合が最適となる学習データセットを作成する、請求項４に記載の放流水質予測装置。
6. 下水処理場に設置された複数のセンサから、検出値の時系列データを取得するステップと、
   前記取得された時系列データを学習データとして記憶するステップと、
   前記取得された時系列データを直近データとして記憶するステップと、
   前記学習データの中の、放流水質データの値が非定常時データとなっている割合に応じて、前記学習データの中の前記非定常時データの数を増減して前記学習データを変更するステップと、
   前記変更された学習データの中の第１の所定時間分の学習データを学習データセットとし、第２の所定時間後の、前記放流水質データの値を予測するための予測モデルを、前記学習データセットから生成するステップと、
   前記直近データに、前記生成された予測モデルを適用することにより、前記放流水質データの値を予測するステップとを含む、放流水質予測方法。

Images