JPH0734546B2 - データ圧縮装置 - Google Patents

Description

【発明の詳細な説明】 ［産業上の利用分野］ 本発明は、二つのニューラルネットワークを用い、一方
のニューラルネットワークで学習をするとともに、もう
一方のニューラルネットワークにおいて、上記学習結果
に基いて時系列的に発生するデータを圧縮して記憶させ
るためのデータ圧縮装置に関する。

［従来の技術］ 従来、例えばホルター心電計を用い、24時間あるいは48
時間連続して被検者の心電図データを取る場合、被検者
の心拍に基づく電気信号を検出するセンサからの信号を
入力したうえ、連続して入力されるデータを心拍波形デ
ータとして磁気テープに記憶するという手段が採用され
ている。被検者の心電図データを精密に取るため、上記
それぞれのデータを100Hz毎にサンプリングすると24時
間では、 100（Hz）×3,600（sec.）×24＝8,640,000データとな
る。

一般に１データは約12ビットを必要とするため、総ビッ
ト数は、 8,640,000×12＝103,680,000 となる。これをバイトに直すと、 103,680,000÷８＝12,960,000 バイトとなる。

従って、上記容量のデータを記憶するためのICメモリは
約13MBの記憶容量を必要とする。

この記憶容量を有するICメモリを携帯用の心電計に収納
すると、心電計自体が大きく成り過ぎて扱いに苦慮する
ため、従来は、データのサンプリング周期を適宜に長く
して入力データ数を減らすようにしていた。しかしなが
ら上記のように入力データを減らした場合は、被検者の
心臓の異常を発見できないことがあるため、データの入
力周期を延ばすことなく適正な周期でデータを取込んだ
上、そのデータを正確に再現可能に圧縮し記憶させるこ
とができる手段が待望されていた。

［発明が解決しようとする課題］ 従って、本発明においては心電計に限らず、時系列的に
発生するデータを所定量蓄積したうえ、一方のニューラ
ルネットワークで上記データの学習を行い、他方のニュ
ーラルネットワークでデータを圧縮し、圧縮したデータ
から原データを再現するために必要な最小限の情報のみ
を記憶させるようにして、少ない記憶容量の記憶手段で
も原データの正確な再現を可能にすることを解決すべき
技術的課題とするものである。

［課題を解決するための手段］ 上記課題解決のための技術的手段は、データ圧縮装置
を、時系列的に発生するデータを順次所定量蓄積し、新
しいデータが入力されるごとに１データずつシフトさせ
るバッファメモリと、入力層と中間層と出力層の３層か
ら成り、入力層と出力層の素子数が等しく、且つ、中間
層の素子数が入力層及び出力層の素子数に比較して極め
て少なく形成され、前記バッファメモリに蓄積されたす
べての前記データを順次繰返して入力層に入力し、その
入力データと同一のデータが出力層から出力されるよう
に結合重みの学習を行い、結合重みの値を演算する第１
のニューラルネットワークと、前記第１のニューラルネ
ットワークと同様に形成され、前記バッファメモリに蓄
積された前記データの内、最新のデータより所定データ
分過去のデータを原データとして入力し、前記第１のニ
ューラルネットワークにおいて演算された前記結合重み
の値に基いてこの原データを圧縮し、中間層の出力値と
して圧縮データを出力する第２のニューラルネットワー
クと、前記第２のニューラルネットワークの出力層から
出力された再生データと、同第２のニューラルネットワ
ークに入力された原データとを入力し、両データ間の誤
差を演算するとともに、演算された誤差が所定値以上に
達したとき、前記第１のニューラルネットワークで学習
された結合重みを前記第２のニューラルネットワークに
複写する監視手段と、前記第１のニューラルネットワー
クで演算された前記結合重みの値と、第２のニュートラ
ルネットワークの中間層から出力された圧縮データと、
前記第２のニューラルネットワークに前記第１のニュー
ラルネットワークで学習された結合重みが複写され、前
記原データが再圧縮されても、原データに対する上記再
圧縮データの誤差が所定値より大きい場合の原データと
のそれぞれを記憶させるための記憶手段とを備えた構成
にすることである。

［作用］ 上記構成のデータ圧縮装置によると、時系列的に発生す
るデータは、最新のデータを含め、それ以前の所定量の
データがバッファメモリに順次蓄積されるとともに、蓄
積されたデータは、最新のデータが蓄積されるごとに１
データずつシフトされ、最も古いデータから順次更新さ
れる。第１のニューラルネットワークは、バッファメモ
リに蓄積されたすべてのデータを順次繰返して入力層に
入力し、その入力データと同一のデータが出力層から出
力されるように結合重みの学習を行い、結合重みの値を
演算する。

一方、第２のニューラルネットワークは、バッファメモ
リの最新のデータより所定データ分過去のデータを原デ
ータとして入力し、前記第１のニューラルネットワーク
において演算された前記結合重みの値に基いてこの原デ
ータを圧縮し、中間層の出力値として圧縮データを出力
する。

従って、前記第１のニューラルネットワークは第２のニ
ューラルネットワークに入力される原データより新しい
データを前もって学習するため、予習作用をする。

監視装置は、第２のニューラルネットワークの出力層か
ら出力された再生データと、同第２のニューラルネット
ワークに入力された原データとを入力し、両データ間の
誤差を演算するとともに、演算された誤差が所定値以上
に達したとき、前記第１のニューラルネットワークで学
習された結合重みを前記第２のニューラルネットワーク
に複写する。

また、第１のニューラルネットワークで演算された前記
結合重みの値と、第２のニューラルネットワークの中間
層から出力された圧縮データと、前記第２のニューラル
ネットワークに結合重みが複写され前記原データが再圧
縮されたとき、前記監視手段により前記原データに対す
る上記再圧縮データの誤差が所定量より大きいと判断さ
れた場合の原データとのそれぞれは、前記原データの再
現に必要なデータとして記憶手段に記憶される。

尚、一般にニューラルネットワークは、生物の脳の神経
回路網における情報処理機構を模倣した並列情報処理を
行い、生物における知識獲得過程と同様に、学習によっ
て神経回路の相互接続の結合重みを正しい答えが出るよ
うに少しずつ変化させ、最終的には、入力情報を入れる
と即座に正しい解答を提示する神経回路網を構築しよう
とするものである。上記のような計算処理をするように
作られるニューロコンピュータは、従来のノイマン型コ
ンピュータとは異なり、並列処理が可能になるため、近
年のVLSI技術や、光IC技術の発展によりニューロコンピ
ュータの演算に適したハードウエアの実現の可能性が高
くなっている。

上記のような神経回路網の研究は世界的に行われてお
り、アメリカ合衆国においてはニューラルネットワーク
の効率的な学習方法が発表され、音声認識や、文字認識
をするロボットの制御面で具体的な応用事例が報告され
るようになり、一躍脚光を浴びるようになった。ニュー
ラルネットワークは学習をするということと、情報の並
列処理が可能であるということから、従来のコンピュー
タでは出来なかった高度な情報処理を高速に行うことが
できるものと期待されている。

［実施例］ 次に、本発明の一実施例を図面を参照しながら説明す
る。

第１図は、本発明の一実施例の構成を説明するためのブ
ロック図である。

例えば心臓疾患の診断をするときに必要とされる心電波
形を24時間あるいは48時間もの長時間に亘って記録する
ような場合、被検者の体から発生する心電波形対応の電
気信号を所定の周期で入力するとき、この電気信号を第
１図における入力データとして、この入力データを例え
ば30データ分発生順序に直列に蓄積するシフトレジスタ
タイプのバッファメモリ１が設けられている。従って、
バッファメモリ１に30データが蓄積された状態で、最も
新しいデータが入力されるごとに、蓄積されたデータが
１データずつシフトされ、先頭のデータがバッファメモ
リ１から出力されるようになっている。また、蓄積され
た30データのうちの任意のデータを出力させることがで
きるように回路構成されている。

バッファメモリ１には、ニューラルネットワークを用い
た後述する第１のネットワーク２と、第２のネットワー
ク３とが接続されている。そして第１のネットワーク２
においては上記バッファメモリ１から順次繰返して出力
されるバッファメモリ１のすべての心電波形に対応した
データついて常時、結合重みの学習が行われる。一方、
第２のネットワーク３においては、バッファメモリ１に
蓄積されたデータのうち、最新のデータより10データ分
過去のデータを１データずつ取出してデータ圧縮を行
い、その圧縮データを出力する。この結果、第１のネッ
トワーク２は、第２のネットワーク３よりも見掛上10デ
ータ前の波形を学習していることになり、その予習に基
いて結合重みの値を置き換えることになっても、その先
に出現する波形の変化まで対応できるようにしている。

また、第２のネットワーク３の出力側に接続されたエラ
ーチェック回路４は、第２のネットワーク３から出力さ
れた再生データと、バッファメモリ１から第２のネット
ワーク３に入力された原データとを入力し、両データ間
の誤差を演算するとともに、演算された誤差が所定値以
上に達したとき、第１のネットワーク２で学習された結
合重みを第２のネットワーク３に複写する。

エラーチェック回路４及び第１のネットワーク２に接続
されたICメモリ５は、第１のネットワーク２で演算され
た前記結合重みの値と、第２のニューラルネットワーク
の中間層から出力された圧縮データとを記憶するととも
に、第１のネットワーク２で学習された結合重みが第２
のネットワーク３に複写され、前記原データが再圧縮さ
れたときに、前記原データに対する再圧縮データから再
生された再々生データの誤差が少ない場合の中間層の値
と、前記エラーチェック回路４により、その誤差が所定
値より大きいと判断された場合の原データとを記憶する
ように構成されている。

尚、この例ではICメモリ５として説明しているが、この
メモリはICメモリに限らずどんな種類のメモリでも良
く、また、このメモリを直接エラーチェック回路４及び
第１のネットワーク２に接続しなくても、電話回線等の
通信回路を介して接続しても良い。

次に、第１のネットワーク２と第２のネットワーク３に
用いられるニューラルネットワークのモデルを第２図の
概念図を参照しながら説明する。

同図に示すように、ニューラルネットワークは、入力層
Ｉと中間層Ｈと出力層Ｏの３層から構成されている。入
力層Ｉの素子Ieと出力層Ｏの素子Oeは同数であり、中間
層Ｈの素子Heの数は本実施例の場合、２個にしている。
尚、中間層Ｈの素子Heの数は正しくデータが再生される
限り少なく設定する。中間層Ｈ、出力層Ｏの各素子は、
第３図に示すように一つ前の層の各素子の出力値を重み
を付けた状態で入力し、その総和からバイアス値を減じ
た値をシグモイド関数の変数として与え、出力値を計算
する。但し、第２図においてはバイアス値はバイアス素
子Beと各層との結合重みを乗じたものとして表現されて
いる。

即ち、中間層Ｈの出力値Oj、及び出力層Ｏの出力値Ok
は、入力層Ｉの出力値（ただし、これは入力値に等し
い）Oi、中間層Ｈの出力値Ojと、入力層Ｉの各素子と中
間層Ｈの各素子との結合の重みwji、中間層Ｈの各素子
と出力層Ｏとの結合の重みwkjを用い、次のような式に
より求めることができる。

但し、θｊは、中間層Ｈのｊ番目の素子のバイアス値、
θｋは、出力層Ｏのｋ番目の素子のバイアス値、Ni、N
j、Nkは、入力層Ｉ、中間層Ｈ、出力値Ｏそれぞれの素
子数である。

上記のようなニューラルネットワークにおいては、バッ
クプロパゲーションアルゴリズムによって、その結合重
みの学習をすることができる。この学習は、入力データ
と望ましい出力とによって学習を行う教師有り学習であ
り、ニューラルネットワークの出力と望ましい出力との
２乗誤差による最急降下法によって結合の重みを変化さ
せるものである。この結合の重みの変更量は次の式によ
り得られる。

［出力層］ Δwkj（ｔ）＝η・δOk・Oj ＋α・Δwkj（ｔ−１） δｋ＝（yk−Ok）・Ok・（１−Ok） ［中間層］ Δwji（ｔ）＝η・δｊ・Oi ＋α・Δwji（ｔ−１） 但し、 ｔは、学習回数、 ykは、教師データ、 ηは、ラーニングウエイト、 αは、モーメンタムである。

次に、第２図に示したようなニューラルネットワークに
よるデータ圧縮の原理について説明する。

バックプロパゲーションによる学習時に、第４図Ａに示
すような入力波形に対応した入力信号と第４図Ｂに示す
ような教師信号に同じデータを用いることによって、入
力波形の再現波形である出力波形（第４図Ｃ）を生成す
るニューラルネットワークを構成することができる。こ
のとき、第２図に示すように中間層Ｈの素子Heの数を非
常に少なくして学習することにより、入力データの特徴
が少数の中間層Ｈの素子Heの出力値として表現されるよ
うになる。また、学習終了後のニューラルネットワーク
の結合重みは、各データに共通する情報を反映したもの
になっていると考えられる。学習が終了した時点で、デ
ータ再現の基本的情報として結合の重みを記録してお
き、個々の波形については中間層Ｈの素子Heの出力値を
記録することによって、近似的に、 （入力層Ｉの素子数：中間層Ｈの素子数） の圧縮率が得られる。そして入力データは、保存した結
合重みの値と中間層Ｈの素子Heの出力値のみから再現可
能になる。

次に、前記ICメモリ５のメモリマップについて、第５図
を参照しながら説明する。

前述のように第１のネットワーク２と、第２のネットワ
ーク３を用いた手法でデータ圧縮を行った場合のICメモ
リ５に保存されるデータは、大きく分けて、 （１）ネットワークの結合の重み｛ｗ｝ （２）各データにおける中間層素子の出力値｛ｈ｝ （３）原データ｛Ｏ｝ の３種類に分類される。

上記（１）のネットワークの結合の重み｛ｗ｝のアドレ
スには、中間層Ｈと出力層Ｏ間の結合重み（who）と、
出力層Ｏのバイアス重み（wbo）が記憶される。

また、（２）の各データにおける中間層素子の出力値
｛ｈ｝のアドレスには、２個の中間層素子の出力値がそ
れぞれ、h1,h2で示される。

更に、（３）の原データ｛Ｏ｝のアドレスには前記原デ
ータがO1,O2,O3,,,,,Onとして記憶される。

前述の手法により、前記データの圧縮を行ったあとに、
データ圧縮結果から再生したデータと、入力された原デ
ータ（原波形）とを比較し、誤差が所定値より小さい場
合は、中間層素子の出力値｛ｈ｝を保存する。一方、上
記誤差が上記所定値を越えるような原データが頻発した
場合は、結合重みの置き換えが行われる。このようなと
き、新しい結合重みの値｛ｗ｝がICメモリ５に保存され
る。また、上記置き換えが起こる直前の圧縮データは、
ある程度誤差が大きくなっていると考えられるので、置
き換えの直前の数データについては、遡って新しい結合
重みの値を用いて再圧縮を行う。しかし、２度目の圧縮
でも上記誤差が減らない場合は、原データ｛Ｏ｝を保存
する。

以上のようなメモリ構成にすることによって、原データ
の連続的な変化にも対応できるようになる。但し、原デ
ータに突発的なノイズや変化が現れたときには結合重み
の置き換えでは対応出来ないため、原データ｛Ｏ｝を保
存する。

次に、本実施例のデータ圧縮装置により、長時間心電図
データを圧縮したときの具体例を説明する。

第６図は、長時間に亘って心電図を取ったときの波形図
の一部であり、非定期的に不整脈やノイズが出現した波
形図となっている。この波形図は連続した約20分の間に
発生した1200心拍波形図の一部であり、この心拍波形図
に対応したデータを入力データとして用いている。ま
た、第７図は、入力波形と、この入力波形に対応したデ
ータを圧縮し、それを結合の重みと中間層の出力値に基
いて再生した再生波形の一部を示す。第７図（ａ）は、
前記結合の重みを置き換える前の入力波形P1と再生波形
P2それぞれを対比した９例（1A〜9A）の心拍波形を示し
ており、第７図（ｂ）は、前記結合の重みを置き換えた
後の入力波形Q1と再生波形Q2それぞれを対比した９例
（1B〜9B）の心拍波形を示している。

第７図（ａ）においては、心拍番号6A、7A、9Aで入力波
形P1に対する再生波形P2の誤差が所定値より大きい、即
ち（Error）と判断され、結合の重みの置換えが発生し
た。第７図（ｂ）における心拍番号6B,7B,9Bの波形を見
ると誤差が減少しており、結合の重みの置換えにより誤
差の減少効果が表れている。このように、波形が時間と
ともに変化する場合にも、その変化に対応したデータの
圧縮が可能である。

以上のように、本発明のデータ圧縮装置は前述したよう
に、24時間あるいは48時間にも亘る長時間の心電図デー
タを圧縮して記憶させることができる。そのため、携帯
式長時間心電計のメモリ容量をデータの圧縮率に応じて
減少させることが可能になり、携帯式長時間心電計を小
形化することができ、且つ安価に製作することができ
る。心電図は、周期性を有して各心拍ごとの波形の間に
類似性がある一方、被検者の体の姿勢や生理的状態によ
って波形が変化するため、本発明は極めて有効である。

また、心電図の記録に関連して長時間心電図記録データ
ベースにおけるデータ圧縮、電話回線を介した心電図デ
ータの遠隔地間伝送への適用等が考えられる。

あるいはまた、周期性を有して各波形間に類似性が認め
られる音声信号のデータ圧縮に適用が可能である。また
音声信号以外の信号でも、周期性が有り、各波形間に類
似性が認められるデータを圧縮することが有効である場
合は、本発明を適用することができる。

［発明の効果］ 以上のように本発明によれば、時系列的に発生する類似
性を持ったデータを、第１のニューラルネットワークに
より学習を行い、第２のニューラルネットワークにより
圧縮し、圧縮したデータから原データを正確に再現する
ために必要な最小限の情報のみを記憶手段に記憶させる
ようにしたため、少ない記憶容量の記憶手段でも原デー
タを正確に再現することができるという効果がある。

【図面の簡単な説明】

第１図は本発明の一実施例のブロック図、第２図はニュ
ーラルネットワークの概念図、第３図は第２図の部分詳
細図、第４図は一般的な入力波形と再現波形の対比図、
第５図はメモリマップ図、第６図は心電波形図、第７図
は実施例による圧縮データから心電波形を再現したとき
の原波形と再現波形との対比図である。 １……バッファメモリ ２……第１のネットワーク ３……第２のネットワーク ４……エラーチェック回路 ５……ICメモリ

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.⁶ 識別記号 庁内整理番号 ＦＩ 技術表示箇所 Ｇ０６Ｆ 15/18 ５２０ Ｚ 9365−5Ｌ 19/00 (72)発明者 岩田 彰 愛知県名古屋市中区松原３丁目３番18号 (72)発明者 鈴村 宣夫 愛知県愛知郡東郷町和合ケ丘２丁目19番地 の１ (56)参考文献 特開 平２−234573（ＪＰ，Ａ) 特開 平２−303220（ＪＰ，Ａ)

Claims (1)

【特許請求の範囲】
1. 【請求項１】時系列的に発生するデータを順次所定量蓄
   積し、新しいデータが入力されるごとに１データずつシ
   フトさせるバッファメモリと、 入力層と中間層と出力層の３層から成り、入力層と出力
   層の素子数が等しく、且つ、中間層の素子数が入力層及
   び出力層の素子数に比較して極めて少なく形成され、前
   記バッファメモリに蓄積されたすべての前記データを順
   次繰返して入力層に入力し、その入力データと同一のデ
   ータが出力層から出力されるように結合重みの学習を行
   い、結合重みの値を演算する第１のニューラルネットワ
   ークと、 前記第１のニューラルネットワークと同様に形成され、
   前記バッファメモリに蓄積された前記データの内、最新
   のデータより所定データ分過去のデータを原データとし
   て入力し、前記第１のニューラルネットワークにおいて
   演算された前記結合重みの値に基いてこの原データを圧
   縮し、中間層の出力値として圧縮データを出力する第２
   のニューラルネットワークと、 前記第２のニューラルネットワークの出力層から出力さ
   れた再生データと、同第２のニューラルネットワークに
   入力された原データとを入力し、両データ間の誤差を演
   算するとともに、演算された誤差が所定値以上に達した
   とき、前記第１のニューラルネットワークで学習された
   結合重みを前記第２のニューラルネットワークに複写す
   る監視手段と、 前記第１のニューラルネットワークで演算された前記結
   合重みの値と、第２のニュートラルネットワークの中間
   層から出力された圧縮データと、前記第２のニューラル
   ネットワークに前記第１のニューラルネットワークで学
   習された結合重みが複写され、前記原データが再圧縮さ
   れても、原データに対する上記再圧縮データの誤差が所
   定値より大きい場合の原データとのそれぞれを記憶させ
   るための記憶手段とを備えたことを特徴とするデータ圧
   縮装置。