JP6680139B2

JP6680139B2 - データ平滑化方法及びその方法を実行するプログラム

Info

Publication number: JP6680139B2
Application number: JP2016157494A
Authority: JP
Inventors: 亨原田
Original assignee: Shimadzu Corp
Current assignee: Shimadzu Corp
Priority date: 2016-08-10
Filing date: 2016-08-10
Publication date: 2020-04-15
Anticipated expiration: 2036-08-10
Also published as: JP2018025971A

Description

本発明は、例えば分析装置の検出器で取得される測定データなど、一定周期で取得されるデータの平滑化処理に関するものである。

例えば液体クロマトグラフやガスクロマトグラフなどで用いられる検出器では、一定時間ごとの信号強度が数値データとして得られ、それをグラフ化することによって試料のクロマトグラムが得られる。検出器で得られる信号の数値データには種々のノイズが含まれているため、信号波形の傾向をより正確に把握するために、数値データを平滑化してノイズの影響を小さくする平滑化処理がなされることが多い（例えば、特許文献１参照。）。

そのような離散データの平滑化処理では、１つの点の平滑値を、その点の両側近傍のデータと重み関数との畳み込み演算によって計算する方法がよく用いられる。重み関数には、単純平均する関数やガウス関数など様々な関数が存在する。同種の方法として、近傍データを多項式で近似し平滑値を求める方法（Savitzky-Golay法）や適応化平滑化法などがある。

特開２００６−２４２７５０号公報

平滑化に用いる両側近傍のデータ数（以下、平滑化幅という。）は、データがベースラインとピークからなるような場合、ベースライン付近のノイズ成分を抑制するのに十分な平滑化幅をもたせる必要がある。通常、平滑化幅は平滑化対象領域で固定であるため、平滑化幅に近い幅をもつピークや、平滑化幅より狭い幅をもつピーク部分のデータに対して平滑化処理を行なうと、ピーク頂点付近のデータに歪み（元データより値が小さくなる）が発生する。この歪みは、ピーク高さやピーク面積の計算に影響を与えるといったことのほか、ピークが近接する場合にそれらのピーク同士が分離しなくなる可能性がある。すなわち、従来の平滑化方法では、データの種類によってもデータの再現性に問題を生じることがあった。

そこで、本発明は、従来の方法よりも再現性が向上したデータ平滑化方法を提供することを目的とするものである。

本発明に係るデータ平滑化方法は、複数のデータ取得ポイントで取得された数値データ又はそれに基づくデータを、各数値データが取得されたデータ取得ポイントを含む平滑化幅内にあるデータ取得ポイントの数値データ又はそれに基づくデータを用いて平滑化するデータ平滑化方法である。
このデータ平滑化方法は、
前記各データ取得ポイントの数値データ又はそれに基づくデータの標準誤差を算出する標準誤差算出ステップと、
前記標準誤差算出ステップの後、数値データ又はそれに基づくデータの標準誤差が大きいデータ取得ポイントほど前記平滑化幅が狭くなるように、前記各データ取得ポイントの前記平滑化幅を前記各データ取得ポイントの数値データ又はそれに基づくデータの標準誤差に基づいて決定する平滑化幅決定ステップと、
前記平滑化幅決定ステップで決定した平滑化幅内にあるデータ取得ポイントの数値データ又はそれに基づくデータを用いて、前記各データ取得ポイントの数値データ又はそれに基づくデータの平滑化処理を行なう平滑化ステップと、を備えている。

「データ取得ポイント」とは、数値データを取得した点を意味し、例えば一定時間ごとに取得されたデータであれば、数値データを取得した各時間を意味する。

「標準誤差」の詳細については後述するが、各データ取得ポイントの数値データ又はそれに基づくデータの「標準誤差」を求めることにより、そのデータ取得ポイントのデータの変動の大きさ（データの傾きの変化の大きさ）を知ることができる。したがって、標準誤差を求めることで、そのデータ系列におけるベースライン部分とピーク等のデータの傾きの変化が大きい（二次微分の絶対値が大きい）領域とを数値によって判断することが可能となる。

本発明のデータ平滑化方法は、前記平滑化幅決定ステップで、前記標準誤差算出ステップで算出した標準誤差と予め用意された平滑化幅テーブルに基づいて前記各データ取得ポイントの前記平滑化幅を決定するようにしてもよい。そうすれば、平滑化幅の決定が容易である。

さらに、前記標準誤差算出ステップの後で前記平滑化幅決定ステップの前に、前記標準誤差算出ステップで算出した標準誤差を所定の演算方法によって正規化する正規化ステップを備え、前記平滑化幅決定ステップで、前記正規化ステップで正規化した標準誤差と予め用意された平滑化幅テーブルに基づいて前記各データ取得ポイントの前記平滑化幅を決定するようにしてもよい。

本発明に係るプログラムは、コンピュータで実行されることにより上記のデータ平滑化方法を実施するように構成されたものである。

本発明に係るデータ平滑化方法では、各データ取得ポイントの数値データ又はそれに基づくデータの標準誤差を算出し、その標準誤差が大きいデータ取得ポイントほど平滑化幅が狭くなるように標準誤差に基づいて平滑化幅を決定するので、ベースライン部分等のようにデータの傾きの変化が小さい（二次微分の絶対値が小さい）領域では平滑化幅が大きく、ピーク部分等のようにデータの傾きの変化が大きい（二次微分の絶対値が大きい）領域では平滑化幅が小さくなる。これにより、元のデータに近い平滑化データを得ることが可能になり、従来の平滑化処理よりも再現性が向上する。

本発明に係るプログラムは、上記の平滑化方法を実行するように構成されているので、再現性の高い平滑化処理をコンピュータ上で実行することができる。

データ平滑化方法の一実施例を示すフローチャートである。平滑化処理を行なう前の信号波形の一例を示すグラフである。同信号波形の各数値データの標準誤差の波形を元の波形と重ねて示すグラフである。同信号波形の各数値データの平滑化処理を行なった後の波形を元の波形と重ねて示すグラフである。平滑化処理を行なう前の信号波形の一例として融解曲線の一次微分値の波形と各一次微分値の標準誤差の波形を重ねて示すグラフである。同一次微分値の平滑化処理を行なった波形を示すグラフである。平滑化プログラムが導入されたコンピュータの構成の一例を示すブロック図である。

以下、本発明に係るデータ平滑化方法の一実施例、及びその方法を実行するプログラムについて説明する。

まず、図１のフローチャートを用いて、この実施例の平滑化方法の概要について説明する。

分析装置の検出器から一定周期ごとの各データ取得ポイントで取得された数値データ又はそれに基づくデータの標準誤差を算出する。標準誤差は、例えば回帰直線に対する残差平方和を自由度で除し、平方根をとることによって求めることができる。数値データから計算された回帰直線がＹ＝ａｘ＋ｂで表わされるとすると、標準誤差ＳＥは、次式（１）により求めることができる。

ここで、ｙ_iはデータ取得ポイントｉにおける数値データ、Ｙ_iはデータ取得ポイントｉにおける回帰直線による予測値、ｎは予め決められた標準誤差計算幅である。標準誤差計算幅とは、そのデータ取得ポイントの±Ａの範囲内のデータ取得ポイントの数値データを用いて標準誤差の計算を行なうということを意味する。すなわち、ｎ＝２Ａ＋１と表わすことができる。したがって、データ取得ポイントｉの標準誤差を計算するためには、（ｉ−Ａ）から（ｉ＋Ａ）までのデータ取得ポイントの数値データが用いられる。

各データ取得ポイントの標準誤差を算出した後、その標準誤差の正規化を行なう。標準誤差の正規化とは、予め用意された平滑化幅決定用のテーブルに標準誤差を適用して平滑化幅を決定することができるように、標準誤差を予め用意された係数等を用いて所定のスケールに補正することである。そのようにして正規化された標準誤差を、以下において「正規化標準誤差」と称する。

標準誤差を正規化した後、後に示す表２や表３のような平滑化幅決定用のテーブル（以下、平滑化幅テーブルという。）にその正規化標準誤差を適用して、各データ取得ポイントの平滑化処理に適用する平滑化幅を決定する。平滑化幅とは、データ取得ポイントｉの平滑化処理を実行するために、そのデータ取得ポイントｉの±Ｂの範囲内、すなわち（ｉ−Ｂ）から（ｉ＋Ｂ）までのデータ取得ポイントの数値データを用いることを意味する。以下において、平滑化幅の前後幅を示す「Ｂ」を平滑化半幅と称する。

表２や表３を見れば明らかなように、標準誤差（正規化標準誤差）が大きいほど平滑化幅は小さく設定されるようになっている。標準誤差が大きいデータ取得ポイントというのは、その前後のデータ取得ポイントに対して数値データの傾きの変動幅が大きいため、そのようなデータ取得ポイントの数値データに対して狭い平滑化幅で平滑化処理を行なうことによって、平滑化されたデータとして元のデータに近い値が得られる。

上記のように平滑化幅を決定した後、その平滑化幅を用いて各データ取得ポイントの数値データの平滑化処理を行なう。平滑化処理の方法として種々のものがあり、そのいずれを用いてもよいが、その一例としてSavitzky-Golay法が挙げられる。Savitzky-Golay法による平滑化では、次の表１に示された係数を用いて平滑化の計算を行なう。

表１において、最上段の数値は平滑化幅（Ｗｉｄｔｈ）であり、２段目の数値は平滑化半幅（Ｈａｌf ｗｉｄｔｈ）である。３段目以下の数値は平滑化の計算に用いる係数を示している。例えば平滑化幅が７と決定されたデータ取得ポイントに対する平滑化では、左から４列目に列挙された係数が用いられ、次式（２）が形成される。この式（２）を用いて数値データの平滑化を行ない、平滑化後データＹ’_ｉを算出する。

[実施例１]
分析装置の検出器で得られた図２の信号値波形の平滑化処理を上記の平滑化方法により行なった例について説明する。

（標準誤差の算出）
まず、検出器で得られた元の数値データの標準誤差ＳＥを算出した。ここでの標準誤差ＳＥは、近傍２Ａ＋１点の回帰直線による予測値に対する標準誤差であり、上述の式（１）を用いて算出する。標準誤差ＳＥを元の数値データと重ねて表示すると図３のようになる。図３からわかるように、各データ取得ポイントにおける標準誤差ＳＥは、前後のデータ取得ポイントの数値データに対する数値データの傾きの変化量を表わしている。

（標準誤差の正規化）
各データ取得ポイントの数値データの標準誤差ＳＥを、予め用意した表２の平滑化幅テーブルに適用することができるように正規化し、正規化標準誤差ＳＥ’を求めた。

（平滑化幅の決定）
その後、予め決められたベースライン領域における正規化標準誤差ＳＥ’の標準偏差Ｓと平均Ｍを求めた。この実施例では、標準偏差Ｓと平均Ｍを平滑化幅の決定の基準として用いている。表２の平滑化幅テーブルに示されたレベルの中から、各正規化標準誤差ＳＥ’が当てはまるレベルを抽出し、平滑化半幅を決定した。ここで、Ｃは平滑化幅調整レベルであり、平滑化半幅Ｂよりも小さい値である。ｄは平滑化幅調整定数であり、０よりも大きい値である。

（平滑化処理）
正規化標準誤差ＳＥ’と上記表２に基づいて決定された平滑化半幅を用いて、上述のSavitzky-Golay法により各データ取得ポイントの数値データの平滑化を行なった。その結果が図４である。この図４は図２に示された波形から特定ピークの頂点部分を抜き出して拡大したものであり、元の信号値波形、標準誤差に基づいて平滑化幅を調整して平滑化した波形、平滑化幅を２１点に固定して平滑化した波形を重ねて示している。

図４から明らかなように、平滑化幅を２１点に固定して平滑化処理を行なうと、ピーク波形の高さが元の信号値波形よりも低くなっているが、標準誤差を用いて平滑化幅を調整することによりピーク波形の高さの低下が抑制され、元のピーク波形に近い波形を得ることができている。

[実施例２]
ある物質について測定された融解曲線を平滑化処理した実施例について説明する。

（標準誤差の算出）
図５はある物質について測定された融解曲線の一次微分値の符号を反転した値（元の数値データに基づくデータ）の波形と、その標準誤差ＳＥの波形を重ねて示している。ここでの標準誤差ＳＥは、各データ取得ポイントの近傍２Ａ＋１点の回帰直線による予測値に対する標準誤差であり、上述の式（１）を用いて算出した。

（標準誤差の正規化）
各データ取得ポイントの数値データの標準誤差ＳＥを、予め用意した表３の平滑化幅テーブルに適用することができるように正規化し、正規化標準誤差ＳＥ’を求めた。

（平滑化幅の決定）
表３の平滑化幅テーブルに示されたレベルの中から、各正規化標準誤差ＳＥ’が当てはまるレベルを抽出し、平滑化半幅を決定した。ここで、Ｃは平滑化幅調整レベルであり、平滑化半幅Ｂよりも小さい値である。ｄは平滑化幅調整定数であり、（−１／Ｃ）よりも大きく（１／Ｃ）よりも小さい値である。

（平滑化処理）
正規化標準誤差ＳＥ’と上記表３に基づいて決定された平滑化半幅を用いて、上述のSavitzky-Golay法により各データ取得ポイントの数値データの平滑化を行なった。その結果が図６である。この図６では、標準誤差に基づいて平滑化幅を調整して平滑化した波形、平滑化幅を２１点に固定して平滑化した波形を重ねて示している。

図６から明らかなように、標準誤差を用いて平滑化幅を調整することにより、平滑化幅を２１点に固定して平滑化処理を行なった場合よりも、ピーク部分では頂点高さが高くなり、ピークとピークの間の谷部では凹みが大きくなる。したがって、標準誤差を用いて平滑化幅を調整することで、平滑化幅を２１点に固定した場合よりも、隣接するピークの分離がよくなる。

ここで、以上において説明した実施例では、平滑化幅を決定する前に標準誤差ＳＥを正規化して正規化標準誤差ＳＥ’を求め、その正規化標準誤差ＳＥ’に基づいて平滑化幅を決定しているが、本発明はこれに限定されるものではなく、標準誤差ＳＥに基づいて平滑化幅を決定することができるように平滑化幅テーブルを用意しておき、その平滑化幅テーブルに標準誤差ＳＥを適用することで平滑化幅を決定してもよい。

次に、図７を用いて、上述の平滑化方法を実行する平滑化プログラムが導入されたコンピュータの一実施例について説明する。

分析装置２に演算処理装置４が電気的に接続されている。演算処理装置４は、例えば汎用のパーソナルコンピュータ（ＰＣ）によって実現されるが、分析装置２専用のコンピュータであってもよい。演算処理装置４には、分析装置２において一定周期で取得された検出器信号が数値データとして入力される。演算処理装置４内には、分析装置２から出力された数値データの平滑化を実行するための平滑化プログラム６が格納されている。

平滑化プログラム６は、標準誤差算出部８、標準誤差正規化部１０、平滑化幅決定部１２及び平滑化処理部１４によって構成されている。演算処理装置４は、予め作成された平滑化幅テーブル（例えば、表２や表３）を保持する平滑化幅テーブル保持部１６を備えている。平滑化幅テーブル保持部１６は演算処理装置４内に設けられたデータ記憶装置の一領域によって実現される。

標準誤差算出部８は、各データ取得ポイントの数値データ又はそれに基づくデータの標準誤差ＳＥを、例えば上述の式（１）を用いて算出するように構成されている。

標準誤差正規化部１０は、標準誤差ＳＥを平滑化幅テーブルに適用することができるように正規化して正規化標準誤差ＳＥ’を求めるように構成されている。なお、この標準誤差正規化部１０は必須の構成要件ではなく、平滑化幅の決定に標準誤差ＳＥそのものを用いる場合には不要である。

平滑化幅決定部１２は、正規化標準誤差ＳＥ’又は標準誤差ＳＥを平滑化幅テーブルに適用することにより平滑化幅を決定するように構成されている。

平滑化処理部１４は、平滑化幅決定部１２により決定された平滑化幅を用いて、例えばSavitzky-Golay法などの平滑化処理方法を用いて各データ取得ポイントの数値データ又はそれに基づくデータの平滑化処理を行なうように構成されている。

２分析装置
４演算処理装置
６平滑化プログラム
８標準誤差算出部
１０標準誤差正規化部
１２平滑化幅決定部
１４平滑化処理部
１６平滑化幅テーブル保持部

Claims

コンピュータに導入され、前記コンピュータ上において、複数のデータ取得ポイントで取得された数値データ又はそれに基づくデータを、各数値データが取得されたデータ取得ポイントを含む平滑化幅内にあるデータ取得ポイントの数値データ又はそれに基づくデータを用いて平滑化するように構成された平滑化プログラムであって、
前記各データ取得ポイントの数値データ又はそれに基づくデータの標準誤差を算出する標準誤差算出ステップと、
前記標準誤差算出ステップの後、数値データ又はそれに基づくデータの標準誤差が大きいデータ取得ポイントほど前記平滑化幅が狭くなるように、前記各データ取得ポイントの前記平滑化幅を前記各データ取得ポイントの数値データ又はそれに基づくデータの標準誤差に基づいて決定する平滑化幅決定ステップと、
前記平滑化幅決定ステップで決定した平滑化幅内にあるデータ取得ポイントの数値データ又はそれに基づくデータを用いて、前記各データ取得ポイントの数値データ又はそれに基づくデータの平滑化処理を行なう平滑化ステップと、を実行するように構成された平滑化プログラム。
前記平滑化幅決定ステップでは、前記標準誤差算出ステップで算出した前記標準誤差と予め用意された平滑化幅テーブルに基づいて前記各データ取得ポイントの前記平滑化幅を決定するように構成されている、請求項１に記載の平滑化プログラム。
前記標準誤差算出ステップの後で前記平滑化幅決定ステップの前に、前記標準誤差算出ステップで算出した標準誤差を所定の演算方法によって正規化する正規化ステップを実行し、
前記平滑化幅決定ステップでは、前記正規化ステップで正規化した標準誤差と予め用意された平滑化幅テーブルに基づいて前記各データ取得ポイントの前記平滑化幅を決定するように構成されている、請求項２に記載の平滑化プログラム。