JP2005124198A - デジタル信号中のノイズ誤りを訂正する方法 - Google Patents

Abstract

【課題】受信デジタル信号よりも信号破損の少ない処理済みデジタル信号を生成できる装置および方法を提供する。
【解決手段】チャネル［２０］で破損した受信信号［２２］を処理して、受信信号［２２］よりも信号破損の少ない処理済み信号［２３］を生成する装置および方法が開示される。本装置［１０］は、受信信号［２２］、値Ｉのシンボルが値Ｊのシンボルにチャネル［２０］で変換される確率を指定する情報、および、値Ｉのシンボルが値Ｊのシンボルで置換される場合に起こる信号劣化を測る信号劣化関数を指定する情報を記憶する。コントローラ［１１］は、受信信号［２２］中のシンボルのコンテクスト［２４］において値Ｉの各シンボルを値Ｊのシンボルで置き換える。この値Ｊは、前記コンテクスト［２４］で観察された統計を介して推定される、基礎となるノイズのない信号［２１］に関連する処理済み信号［２３］の全信号劣化を最小にする。
【選択図】図３

Description

本発明は、信号処理に関し、より詳細には、信号の伝送または処理によってその信号に導入された誤りの訂正に関する。

本発明は、単純で例示的なシステムの見地から、容易に理解されることができる。
電話での会話を考える。
この会話では、人はマイクロフォンに対して話しかけ、この出力は、デジタル化された後、さまざまな電話回線と切替システムとを介して、もうひとりの人に対して送られる。
もうひとりの人の場所で話す人は、一連のデジタル値を受信し、その後、このデジタル値は、もうひとりの人に再生される。
一般的に、この受信されたシーケンスは、伝送システム、デジタル−アナログ変換器、およびアナログ−デジタル変換器により導入された誤りのために、送信されたシーケンスとは異なる。
例えば、伝送システムのノイズにより、送信されたシーケンス中のいくつかのデジタル値は、変換されている。
ノイズ除去システムの１つの目的は、このようなノイズ誤りを、可能な限り多く除去することである。

上記した単純な例は、広い範囲のアプリケーションで出会うより一般的な問題の例である。
一般的に、一連の「シンボル」を含む入力デジタル信号は、「伝達リンク」を通って伝送され、伝達リンクの出力で、出力デジタル信号として受信される。
この出力デジタル信号もまた、一連の「シンボル」を含む。
これらのシンボルそれぞれは、アルファベットとして触れられる所定のシンボルの集合から選択される。
出力信号は、出力信号と同じアルファベットで書かれていると仮定される。

最も単純な場合、この信号は２値の信号であり、この信号においては、アルファベットは、シンボル「０」および「１」を含む。
この場合、入力信号および出力信号は、一連の０と１とを含む。
しかしながら、他のアルファベットが、通常使われる。
例えば、シンボルそれぞれが０〜Ｍ−１の整数で表されたデジタル信号は、デジタル加入回線（ＤＳＬ）を介して、ユーザをインターネットにつなぐために、ブロードバンドデータ伝達システムで通常使われる。

上記の例は通信システムに言及しているが、この種のノイズ問題はいくつかのデータ処理システムに存在することに留意すべきである。
例えば、磁気ディスクドライブにデータファイルを記憶することは、通信リンク、すなわちディスクドライブを通じてのデジタル信号の伝送とみなすことができる。
入力信号は、所定のアルファベットから選択されるシンボル（例えばバイトデータ）のシーケンスである。
バイトデータの場合、各シンボルは集合［０，１，...，２５５］から選択される整数値を取る。
ディスクドライブから取り出されるファイルもまた、この集合から選択されるシンボルのシーケンスからなる。
入力信号シンボルは、ディスクドライブの電子機器によって処理され、局所化された磁界の形態で記憶され、この磁界が読み出されて出力信号が生成される。
シンボルと磁界の間の変換を行うデジタル−アナログ回路中のノイズが、出力信号に誤りを導入する。
また、記憶されている間に、ランダム事象によって、磁界が変化することがあり、これがさらなる誤りを導入する。

同様に、デジタル写真は、信号を破損させるチャネルを通じての信号の伝送を含むとみなされることができる。
この場合、信号は、光検出器中のノイズで破損を受ける画像である。

本発明は、チャネルで破損した受信デジタル信号を処理することにより、受信デジタル信号よりも信号破損の少ない処理済みデジタル信号を生成する装置および方法を含む。
本装置は、第１、第２、および第３メモリならびにコントローラを含む。
第１メモリは、受信デジタル信号を記憶する。
受信デジタル信号は、チャネルで破損したシンボルのシーケンスを含む。
第２メモリは、値Ｉのシンボルが値Ｊのシンボルにチャネルで変換される確率を指定する情報を記憶する。
第３メモリは、値Ｉのシンボルが値Ｊのシンボルで置換される場合に起こる信号劣化を測る信号劣化関数を指定する情報を記憶する。
コントローラは、受信デジタル信号中のシンボルを置換することによって、受信デジタル信号から処理済みデジタル信号を生成する。
コントローラは、受信デジタル信号中のシンボルのコンテクストにおいて値Ｉの各シンボルを値Ｊのシンボルで置き換えれば、信号劣化関数で測った全信号劣化が受信デジタル信号に比べて処理済みデジタル信号において減少すると推定される場合に、この置換を行う。
コンテクストは、一定値のシンボルのシーケンスであって、置換が考慮されているシンボルに関して所定の位置にあるシンボルのシーケンスを含む。
コントローラは、第２メモリ内の情報を利用して、受信信号中で置換が考慮されているシンボルと同じ値およびコンテクストを有するシンボルにチャネルで変換された、ノイズのないもとの信号中の各シンボル値の出現回数を推定する。

本発明は、ノイズ誤りを導入するシステムで信号が処理される場合に、デジタル信号に導入されるノイズから生じる信号劣化を低減する方法を提供する。
以下の説明において、ノイズを導入する処理システムを「チャネル」と呼ぶ。
というのは、このようなシステムは、信号が通る伝送チャネルに類似しているからである。
次に図１を参照する。
図１は、本発明の一実施形態によるノイズ除去システム１０のブロック図である。
ノイズ除去システム１０は、チャネル２０で破損した出力信号に作用する。
チャネルは、既知のアルファベットからのシンボルのシーケンスを含む入力信号２１に作用して、同じくそのアルファベットからのシンボルのシーケンスを含む出力信号２２を生成する。

本発明は、チャネルがノイズをどのように導入するかを知ること、すなわち、入力信号中のシンボルＡが出力信号中のシンボルＢに変換される確率が既知であることから利益を受ける。
また、本発明は、チャネルがメモリを有さない場合、すなわち、シンボルＡがシンボルＢに変換される確率が、入力信号中でＡに先行または後続するシンボルとは独立であり、かつ先行または後続するシンボルがどのように変換されるかとも独立である場合に、最適化される。
一般的に、本発明の基礎となるアルゴリズムは、上記の仮定が成り立つことを仮定したデータに作用するが、アルゴリズムの作用は、仮定の妥当性とは無関係に明確に定義される。
具体的には、チャネル（変換）確率情報は、アルゴリズムのパラメータ付きクラスをもたらす調整可能なパラメータの集合とみなされることができる。
それらのアルゴリズムでは、データおよびノイズの実際の特性に応じて、一部のアルゴリズムが、他のアルゴリズムよりも良好に働く。
上記の仮定が成り立ち、かつ仮定された変換確率の結果として実際のノイズが生じる場合、アルゴリズムは、明確に定義された数学的意味での定理として表現されうるいくつかの興味深い性質を有する。
この状況は、望ましいが、本発明の実際の適用に必須ではない。

本発明は、入力信号中の値Ａのシンボルを出力信号中の値Ｂのシンボルで置き換えることによって出力信号に導入される劣化の定量的尺度が存在することも仮定する。
劣化は、ＡおよびＢの値が異なれば異なってもよい。
以下の説明では、この劣化尺度は、単に「劣化」と呼ばれ、Ｄ（Ａ，Ｂ）で表される。

２個よりも多くのシンボルを含むアルファベットを利用するシステムでは、Ｄ（Ａ，Ｂ）は、ＡとＢとの差によって決まる場合が多い。
例えば、８ビットアナログ−デジタル変換器を利用して、アナログ時変信号をデジタル値のシーケンスに変換することによって生成されるデジタル信号を考える。
結果として得られるデジタル信号は、デジタル値０〜２５５に対応する２５６個のシンボルを有するアルファベットから選択されたシンボルのシーケンスである。
出力信号がアナログ信号に逆変換されて、人間の観測者に対して再生されると仮定する。
１だけ変化したシンボルから生じる出力信号中の誤りは、２だけ変化したシンボル等から生じる誤りよりも、通常ははるかに小さい。
したがって、この場合、劣化関数は、シンボルが変化される量によって決まる。

本発明は、チャネルで変化した確率が高いシンボルを識別しようとする。
そして、これらのシンボルを変更することにより、チャネルで導入された全信号劣化（劣化関数で測る）を減少させたノイズ除去出力信号２３を生成する。
出力信号中のシンボルを一度に１つずつ考慮する場合、シンボルがほぼ等しい頻度で入力信号に現れるならば、特定のシンボルが誤っている確率に関して得ることができる情報は非常に少ない。
種々のシンボル値が入力信号中で等しい頻度を有すると仮定すると、シンボルが出力信号に現れる頻度もまた、対象となるほとんどの場合にほぼ等しくなる。
１を０に変換する確率が０を１に変換する確率と等しいチャネルを通る２値信号を考える。
入力信号中にほぼ等しい個数の１および０がある場合、出力信号もまたほぼ等しい個数の１および０を有する。
というのは、１が０に変換されるごとに、０が１に変換されることもあるからである。
したがって、他のシンボルに比べて、ノイズの結果である可能性が高いような特定のシンボルを識別することはできない。

本発明は、ある「シンボル」値が別の「シンボル」値に比べて非常にまれである場合に、出力信号を改善することができるという観察に基づく。
例えば、入力信号中でのシンボルＡの出現がシンボルＢに比べて非常にまれであり、チャネル誤りによりＡがＢに変換されＢがＡに変換されると仮定する。
また、ＡがＢに変換される確率は、ＢがＡに変換される確率と等しいと仮定し、この確率をＰで表す。
Ｐは既知であると仮定する。
入力信号中の値ＡおよびＢのシンボルの個数を、それぞれＮ_ＡおよびＮ_Ｂで表す。
出力信号中の値ＡおよびＢのシンボルの個数を、それぞれＮ'_ＡおよびＮ'_Ｂで表す。
ノイズ除去器にとって利用可能であるのはＮ'_ＡおよびＮ'_Ｂだけであることに留意すべきである。
出力信号中の値Ａのシンボルの個数は、入力信号中の値Ａのシンボルの個数から、別のシンボルに変換された値Ａのシンボルの個数を差し引き、Ａに変換された他の値のシンボルの個数を加えたものに等しい。
この説明を簡単にするため、アルファベット内にあるのがＡおよびＢの２個のシンボルのみである場合を考える。
その場合、
Ｎ'_Ａ≒Ｎ_Ａ−Ｐ＊Ｎ_Ａ＋Ｐ＊Ｎ_Ｂ
および
Ｎ'_Ｂ≒Ｎ_Ｂ−Ｐ＊Ｎ_Ｂ＋Ｐ＊Ｎ_Ａ
である。
ここで、総カウント数で除算／正規化した後の近似における誤差は、高い確率で、特にシンボル数が大きくなるにつれて小さくなる。
本明細書全体を通じて、正規化されていないシンボル数の近似値または推定値における誤差が「小さい」という場合、または正規化されていないシンボル数に関わる量が互いに「近い」という場合には、関連する誤差は、必ずしも絶対的尺度で小さいのではなく、シンボルの総数に比べて小さい、すなわち、信号中のシンボルの総数で除算／正規化した後で小さいと理解するものとする。

以下の説明を簡単にするため、上記の近似は誤差がゼロであること、すなわち等号が成り立つことを仮定する。
したがって、与えられたＰ、Ｎ'_Ａ、およびＮ'_Ｂに対して、上記の方程式系（≒を＝で置き換えたもの）をＮ_ＡおよびＮ_Ｂについて解くことができ、それによって、入力シーケンス中にＡおよびＢが現れる回数の推定値が、それぞれ得られる。
これらのＡおよびＢのカウントの推定値を、それぞれｎ_Ａおよびｎ_Ｂで表すことにする。
なお、それらに対応するＮ_ＡおよびＮ_Ｂは、入力シーケンス中の実際のカウントを表しているが、想定されるアプリケーションでは、ノイズ除去器にとって利用可能でないことに留意されたい。
この例では、Ｎ_Ａ≪Ｎ_ＢおよびＰ≪１と仮定する。
したがって、Ｎ'_ＡはＮ_Ａ＋Ｐ＊Ｎ_Ｂにほぼ等しく、Ｎ'_ＢはＮ_Ｂにほぼ等しい。
この場合、チャネル誤りが、まれなシンボルの頻度を増大させることが分かる。
出力信号中のＮ'_Ａ個のシンボルは、シンボルの２つのクラスからなるとみなされることができる。
第１のクラスは、チャネルによって正しく伝送されたシンボルからなり、第２のクラスは、値Ｂのシンボルを値Ａのシンボルに変換するという形で誤って伝送されたシンボルからなる。

値Ａの各シンボルがどのクラスに属するかを突き止めることができるとすれば、第２のクラスに属するシンボルをＢに逆変換して、誤りを訂正することができる。
残念ながら、この判定を行う方法はない。
本発明は、他の２つの可能なアクション、すなわち、何もしないか、すべてのＡをＢに逆変換するかについて調べる。
本発明は、Ｄ（Ａ，Ｂ）で測った推定信号劣化が最も小さくなるアクションを実行する。

ＡをＢに変換することに伴う信号劣化が、ＢをＡに変換することに伴う信号劣化に等しい場合、すなわちＤ（Ａ，Ｂ）＝Ｄ（Ｂ，Ａ）＝Ｄである場合を考える。
出力信号は、チャネルによるＢからＡへの変換の結果として、ほぼＰＮ_Ｂ≒Ｎ'_Ａ−Ｎ_Ａ個の誤りを有する。
これらの誤りに関して何もしない場合、（Ｎ'_Ａ−Ｎ_Ａ）Ｄという全信号劣化が、出力信号に存在する。
推定される信号劣化はＰｎ_ＢＤとなり、これもまた、この例ではＮ'_Ａ−ｎ_Ａでよく近似される。

出力信号中の値ＡのすべてのシンボルをＢとおくとする。
これは、ＢがＡに変わったことから生じたＮ'_Ａ−Ｎ_Ａ個の誤りを訂正する。
この変更はまた、出力信号中におよそ（１−Ｐ）Ｎ_Ａ≒Ｎ_Ａ個の新たな誤りも導入する。
というのは、出力信号中でＡとして正しく表現されているＮ_Ａ個のシンボルがＢに変換されるからである。
したがって、出力信号中ですべてのＡをＢに変更することから生じる全信号劣化は、およそＮ_Ａ＊Ｄであり、本発明は、これを（１−Ｐ）ｎ_ＡＤ（この例ではｎ_ＡＤでよく近似される）であると推定する。
なお、（Ｎ'_Ａ−Ｎ_Ａ）Ｄ>Ｎ_Ａ＊Ｄである場合、出力信号中のすべてのＡをＢとおくと、全信号劣化が減少することに留意されたい。
したがって、この例では、Ｎ'_Ａ>２Ｎ_Ａの場合、すべてのＡをＢに変換すべきである。
実際にはＮ_ＡおよびＮ_Ｂは未知であるので、本発明のアルゴリズムは、（Ｎ'_Ａ−Ｎ_Ａ）およびＮ_Ａをそれぞれの推定値Ｐｎ_Ｂ（≒Ｎ'_Ａ−ｎ_Ａ）および（１−Ｐ）ｎ_Ａ（≒ｎ_Ａ）で置き換えることによって得られるこの決定ルールの近似を適用する。

この簡単な例は、入力信号および出力信号が、シンボルＡがシンボルＢに比べて非常にまれであるようなシンボルからなることを仮定している。
本発明のアルゴリズムは、シンボルがほぼ等しい頻度を有する場合にも適用可能であるが、その場合にアルゴリズムを適用すると、出力信号のシンボルは、ほとんど常に不変なままとなる。

本発明は、出力信号中の個々のシンボルの頻度は、ほぼ等しい値を有するかもしれないが、多くの場合に、非常に異なる頻度を有する「スーパーシンボル」を構成するために用いられることができる短い一連のシンボルの繰り返しがあるという観察に基づく。
入力信号および出力信号のシンボルがＭ個の値を有するアルファベットから選択されるシステムを考える。
図２を参照する。
図２は、出力信号の一部を示しており、シンボルａ_１，ａ_２，...，ａ_ｋ（ａ_ｉは一定）のシーケンスが、出力信号中のいくつかの位置２４に現れるように示されている。
シーケンスａ_１，ａ_２，...，ａ_ｋ，ｘ（ここでｘはシーケンスに続く次のシンボルである）は、ｘの値によって決定されるＭ個の値を取り得る「スーパーシンボル」とみなされることができる。
ｘおよびｘ'の或る値に対して、ａ_１，ａ_２，...，ａ_ｋ，ｘがシーケンスａ_１，ａ_２，...，ａ_ｋ，ｘ'よりもはるかに小さい頻度で現れるようなシーケンスａ_１，ａ_２，...，ａ_ｋが見つけられれば、上記の説明で用いたアルゴリズムの一般化が適用され、全信号劣化が改善されることができる。

上記で留意したように、本発明は、チャネルおよびこれらのシンボルが変化した後の変更によって導入される全劣化が、何もしない場合にチャネルから受ける劣化よりも小さいと推定される場合に、出力信号中のシンボルを変更する。
もう一度述べると、チャネルへの入力信号をシーケンス｛ｙ_ｉ｝で表し、チャネルからの出力信号をシーケンス｛ｚ_ｉ｝で表す。
ここで、ｉ＝１〜Ｎである。
本発明の目的は、｛ｚ_ｉ｝中のシンボルを変化させて新たな出力信号｛ｚ'_ｉ｝を得る際に、｛ｙ_ｉ｝と｛ｚ'_ｉ｝との差から生じる全劣化が｛ｙ_ｉ｝と｛ｚ_ｉ｝との差から生じる全劣化よりも小さくなるようにすることである。

出力信号中の１つのシンボルを考える。
一定値を取り、当該シンボルに関して所定の位置にあるシンボルのシーケンスを、当該シンボルの「コンテクスト」と呼ぶことにする。
例えば、シーケンスａ_１，ａ_２，...，ａ_ｋ，ｘが出力信号中に現れる場合、上記のシーケンスａ_１，ａ_２，...，ａ_ｋは、シンボルｘのコンテクストである。
シンボルｘは、多数の異なるコンテクスト中に現れる場合があることに留意すべきである。
また、コンテクストは、当該シンボルのちょうど左側にあるシンボル以外のシンボルに対して、他の何らかの所定の関係にあるシーケンスであってもよい。
このような場合については以下でさらに詳細に説明するが、以下の説明を簡単にするため、当面、出力信号中のシンボルｚ_ｊのコンテクストは、出力シンボルのシーケンス中で、当該シンボルの左側にあるｋ個のシンボルであると仮定する。
また、ｋは一定であることも仮定する。
ｋを選択する方法についても、以下でさらに詳細に説明する。

出力信号中の特定のシンボルｚ_ｊを考える。
そのシンボルのコンテクストは、シーケンス［ｚ_ｊ−ｋ，...，ｚ_ｊ−２，ｚ_ｊ−１］である。
すなわち、ａ_１＝ｚ_ｊ−ｋ、ａ_２＝ｚ_{ｊ−ｋ＋１}等である。
以下の説明を簡単にするため、値ａ_１，ａ_２，...，ａ_ｋのシーケンスは、ベクトルａで表される。
本発明は、０からＭ−１までのｘのそれぞれの値について、出力信号中でコンテクストａの後に値ｘが続くようなコンテクストａが見出される回数をカウントする。
観測されたカウントから、出力信号中のコンテクストの後にもとの信号｛ｙ_ｉ｝中のそれぞれの可能なｘの値が続くコンテクストが現れる回数が、そのチャネルに対する既知の誤り率を用いて、推定されることができる。
これらの推定値が求められた後、上記の方法に類似した方法で、既知の劣化関数に基づいて、ａ，ｘの形のすべてのシーケンスをａ，ｘ'に置き直す決定がされうる。

本発明が作用する方法は、簡単な例示的システムを参照することによって、さらに容易に理解されるる。
チャネルの出力が、２つの状態を取るシンボルのシーケンスであるような伝送、すなわち２値符号化伝送を考える。
チャネルが或るビットを０から１に変える確率は、そのビットを１から０に変える確率に等しいと仮定する。
また、０から１への切替から生じる信号劣化は、１が０に切り替わることから生じる信号劣化に等しいこと、すなわちＤ（０，１）＝Ｄ（１，０）＝Ｄであることも仮定する。
２よりも多くのシンボル値を取るアルファベットを用いて、より一般的な劣化関数を用いるという、より一般的な場合の説明は、後で行われる。
この例の目的上、ビットａ_１，ａ_２，...，ａ_ｋの或る選択に対して、シーケンスａ_１，ａ_２，...，ａ_ｋ，０は、シーケンスａ_１，ａ_２，...，ａ_ｋ，１に比べて、伝送中にまれにしか出現しないと期待されることが既知であると仮定する。
上記の例で言えば、ａ，０は「スーパーシンボル」値Ａに対応し、ａ，１はスーパーシンボル値Ｂに対応する。
本発明によるノイズ除去システムは、すべてのシーケンスａ_１，ａ_２，...，ａ_ｋ，０の最終ビットを０から１に（またはこの逆に）置き直した結果として得られる信号について、劣化関数で測った全劣化が、チャネルから受信されるもとの信号よりも小さいと推定される場合に、この置き直しを行うことによって作用する。

本発明のアルゴリズムが、出力信号｛ｚ_ｉ｝中のｊ番目のビットに適用されていると仮定する。
ｚ_ｊに先行するｋビットをベクトルａ＝［ａ_１，ａ_２，...，ａ_ｋ］で表す。
本発明の方法は、まず、出力信号中にシーケンスａ，０およびａ，１が現れる回数をカウントする。
これらの２つのカウントを、それぞれＮ'_０およびＮ'_１で表す。
この例の目的上、Ｎ'_０≪Ｎ'_１と仮定する。
すなわち、出力信号中にシーケンスａ，０は、シーケンスａ，１よりも、はるかに小さい頻度で出現する。
シーケンスａ，０が出力信号中に生じる可能性がある理由として、入力信号がそのシーケンスを含んでいた場合がある。
また、このシーケンスは、チャネルがシーケンスａ，１の一部のインスタンスをａ，０に変換したために現れる場合もある。
同様に、シーケンスａ，１が出力信号中に生じ得る理由として、入力信号がこのシーケンスを含んでおり、チャネルがそのシーケンスを正しく伝えた場合がある。
あるいは、ａ，１は、チャネルが誤ってシーケンスａ，０をａ，１に変換したために生じることもある。

何もしないことに伴うコストと、或るシーケンスのすべてのインスタンスを他のシーケンスに変換することに伴うコストを求めるため、出力シーケンス｛ｚ_ｉ｝中のａの後に、もとのシーケンス｛ｙ_ｉ｝中の対応する位置において０および１が続くようなａが現れる回数の推定値が必要である。
出力シーケンス中のａと、対応する入力シーケンス位置における０および１とにより、シーケンスａ，０およびａ，１が現れる回数を、それぞれＮ_０およびＮ_１で表す。
具体的には、Ｎ_０は、［ｚ_ｊ−ｋ，ｚ_{ｊ−ｋ＋１}，...，ｚ_ｊ−１］＝ａおよびｙ_ｊ＝０となるようなインデックスｊの数をカウントし、Ｎ_１は、［ｚ_ｊ−ｋ，ｚ_{ｊ−ｋ＋１}，...，ｚ_ｊ−１］＝ａおよびｙ_ｊ＝１となるようなインデックスｊの数をカウントする。
なお、Ｎ_０およびＮ_１は、破損していない入力信号に関する観測されない情報に関わるので、ノイズ除去アルゴリズムにとって利用可能でないことに留意されたい。
或るビットが０から１へ、または１から０へ反転する確率をＰで表す。
すると、Ｎ_０およびＮ_１は、ｎ_０およびｎ_１についての次の方程式系を解くことによって推定されることができる。
Ｎ'_０＝ｎ_０−ｎ_０＊Ｐ＋ｎ_１＊Ｐ （ａ）
Ｎ'_１＝ｎ_１−ｎ_１＊Ｐ＋ｎ_０＊Ｐ （ｂ）
ここで、Ｎ'_０およびＮ'_１はそれぞれ、出力シーケンス中にａ，０およびａ，１が現れる回数である。
本発明により上記の方程式を解くことに基づいて得られるＮ_０およびＮ_１の推定値をそれぞれ、ｎ_０およびｎ_１で表すことにする。
チャネルにより導入される誤りの結果である出力信号中のシーケンスａ，０のインスタンスの数は、高い確率でＰＮ_１に近づく。
本発明は、これをＰｎ_１により推定する。
したがって、何もしない場合に受ける信号劣化は、Ｐｎ_１Ｄと推定される。
ａ，０のすべてのインスタンスがａ，１に変換される場合、およそ（１−Ｐ）Ｎ_０個の誤りが生じる。
というのは、これらのインスタンスのうちの（１−Ｐ）Ｎ_０個は正しいと期待されるからである。
本発明は、この量を（１−Ｐ）ｎ_０により推定する。
したがって、ａ，０のすべてのインスタンスをａ，１とおくことから生じる信号劣化は（１−Ｐ）ｎ_０Ｄと推定される。
よって、本発明は、（１−Ｐ）ｎ_０<Ｐｎ_１の場合、ａ，０のすべてのインスタンスをａ，１に置き直す。
Ｐ≪１およびＮ_０≪Ｎ_１の場合、高い確率で（１−Ｐ）ｎ_０はＮ_０に近づき、Ｐｎ_１はＮ'_０−Ｎ_０に近づく。
すなわち、この範囲のＰ、Ｎ_０およびＮ_１に対し、高い確率で、本発明によるノイズ除去は、コンテクストａとともに出現する０のすべてのインスタンスを、そのような０の出現の半数より多くに誤りがある場合に１とおくという合理的ルールに対応する。

上記の例では、Ｎ_０≪Ｎ_１と仮定した。
チャネル誤り率Ｐが小さいと仮定すると、すべてのａ，１シーケンスをａ，０に置き直すコストは、ほとんど常に、何もしないよりもはるかに大きくなることを示すことができる。
というのは、これらの値のほとんどが正しいからである。
したがって、ａ，０をａ，１に置き直す場合のみを詳細に考察した。
しかし、上記のアルゴリズムは、この場合にも適用可能である。
その結果は単に、シンボルを不変のままにすることとなる。

上記の例は、誤って０を１に変更することに伴う劣化が、誤って１を０に変更することに伴うコストに等しいと仮定している。
状況によっては、これが当てはまらない場合がある。
Ｄ（０，１）がＤ（１，０）とは異なる場合、ビットを置き直す判断は、Ｄ（０，１）とＤ（１，０）との相対値によって決まる。
その場合、上記の例において、何もしないことに伴う劣化は、Ｐｎ_１Ｄ（１，０）と推定される。
ａ，０のすべてのインスタンスをａ，１に変更することに伴う劣化は、同様にして（１−Ｐ）ｎ_０Ｄ（０，１）と推定される。
本例では、（１−Ｐ）ｎ_０Ｄ（０，１）<Ｐｎ_１Ｄ（１，０）の場合に、ａ，０のすべてのインスタンスがａ，１に変更される。

上記の例は、ｋの値が決まっていることを仮定している。
本発明は、入力信号が、統計的にかなりの回数繰り返されるコンテクストを有する場合、すなわち、入力信号中のｘの前に出力シーケンス中のａが現れるようなｘの出現回数を統計的に高い精度で推定することができるほど繰り返してシーケンスａが見出される場合に、最大の利益を提供する。
上記の分析は、チャネル誤りから生じる観測シーケンスの一部を推定することによって決まる。
この推定は、チャネルを出るシーケンス中で、各シーケンスの観測される出現頻度に基づく。
このデータの精度は、出力シーケンス中で観測されるシーケンスの頻度の統計精度によって制限される。
出力シーケンス中で観測されるシーケンスの出現回数が小さい場合、上記の式（ａ）および（ｂ）の精度が低いため、これらのさらに精度の低い方程式を解くことから導かれる推定値ｎ_０およびｎ_１の精度も同様に低くなる。
これらのカウントの精度が十分に低い場合、出力信号中のシンボルを置き直すことに関して、誤った判断がなされるであろう。

長さｋのコンテクストａを有するシンボルｘが上記のように処理される場合を考える。
さらに、Ｑ≫１として、ｐの任意の値に対して、シーケンスａはＱ回現れるが、それよりも大きいコンテクストｐ，ａは頻繁には現れないと仮定する。
すると、ｋよりも大きいコンテクストの出現回数ははるかに小さくなり、小さいほうのコンテクストが用いられた場合に比べて、カウントの統計精度が劣化することになる。
したがって、ｋに対して大きすぎる値を選択すると、決定誤りを引き起こす可能性がある。

ｋの最小値は、入力信号における相関によって決まる。
ｋが小さすぎる場合、入力信号中のａ，ｘに対する推定値の統計精度は高くなるが、ｘのそれぞれの値に対するａ，ｘの相対出現回数はより同程度になる。
上記で留意したように、本ノイズ除去方法は、たとえノイズの結果であるｘの値が相当数存在しても、ｘの値を変更しない。
というのは、種々のシーケンス値の相対頻度は、互いに類似するからである。
この場合、或るシンボルをすべて別のシンボルに置き直しても、信号の全劣化の改善は得られない。

上記の説明から、ｋの最適値が存在することが明らかである。
この最適値は、経験的に決定されることができる。
入力信号中で相関しているシーケンスの長さが長時間にわたって著しく変化しない場合、ｋの最適値は、例示的な入力信号を利用し、ｋの種々の値に対するノイズ除去の結果を比較することによって、実験的に求められることができる。

原理的には、ｋは、任意の特定の出力信号に対して、いくつかの異なるｋの値を用いて、信号をノイズ除去することによって求められることができる。
このようなシステムでは、ｋの値は、満足な統計精度を与える値が見出される値まで、或る上限から減少させられることができる。
また、ノイズ除去アルゴリズムは、置き直すべき他のシンボルを発見するために、異なるｋの値を用いて繰り返されることができる。

入力シーケンス中のシンボルの統計が既知である場合には、ｋの妥当な初期値の推定も行われることができる。
このような推定について、以下でさらに詳細に説明する。

上記の例は、信号中で処理されているシンボルの左側にあるシンボルのシーケンスからなるコンテクストに関連した。
しかし、他の形式のコンテクストも利用可能である。
例えば、シンボルｘの両側にある一定シーケンスからなるコンテクスト、すなわちａ，ｘ，ｂが利用可能である。
同様に、シンボルの右側にある一定シーケンスからなるコンテクスト、すなわちｘ，ｂが利用可能である。
また、ベクトルａおよび／またはｂが「ワイルドカード」を有するようなシーケンスも利用可能である。
すなわち、ａは、ａ_１，ａ_２，...，ａ_ｗ，...，ａ_ｋの形式で書かれることができる。
ここで、ａ_ｗは、ストリング中のシンボルが任意の値を取り得るようなシンボルのストリングであることが可能である。
同様に、ベクトルは、処理されているシンボルに対して所定の位置にある限り、当該シンボルに隣接している必要はない。
なお、ａとｂとは異なる長さであってもよく、ａまたはｂのいずれかが欠けていても（すなわち長さ０であっても）よいことに留意すべきである。

上記の例示的な実施形態では、シーケンス中のシンボルは２値であった。
しかし、本発明は、シンボルが２よりも多くの値を取るシーケンスにも適用可能である。
一般的な場合、各シンボルは、Ｍ個のシンボルを有するアルファベットから選択される。
すなわち、ｙ_ｊ、ｚ_ｊ、ｚ'_ｊ、ａ_ｊ、およびｂ_ｊは、値０，１，２，...，Ｍ−１を取り得る。
この場合、チャネルは、値Ｉのシンボルが値Ｊのシンボルにチャネルにより変換される確率を与える行列Ｐ（Ｉ，Ｊ）によって、特徴づけられる。
ここで、ＩおよびＪはそれぞれ、０からＭ−１までになる。
同様に、シンボルＩがシンボルＪで置換される場合に信号に加わる劣化を測る所定の行列Ｄ（Ｉ，Ｊ）が存在すると仮定される。

このようなより一般的な場合に用いられるノイズ除去ストラテジは、２値シーケンスに関して上記で説明したものと類似している。
処理されるべきシンボルｚ_ｊが与えられた場合、当該シンボルと所定の関係にあるシンボルのシーケンスを調べることによって、当該シンボルのコンテクストを求める。
このコンテクストのシーケンスをａおよびｂで表す。
０からＭ−１までのｘのそれぞれの値について、出力信号中にａ，ｘ，ｂが現れる回数Ｎ'（ｘ）をカウントする。
そして、確率行列Ｐを用いて、上記と類似の方法で、０からＭ−１までのｘについて、入力信号中にａ，ｘ，ｂが現れる回数Ｎ（ｘ）が推定される。
上記と同様に、これらの推定値で、次の方程式系（行列記法で表す）を満たすものをｎ（ｘ）で表す。
Ｎ'＝ｎＰ （ｃ）
ここで、Ｎ'およびｎは、Ｍ次元行ベクトルであり、その成分はそれぞれｘ＝０〜Ｍ−１に対するカウントＮ'（ｘ）およびｎ（ｘ）からなる。
Ｐは、上記で定義したチャネル確率行列である。
したがって、ｎ（ｘ）は次のように表される。
ｎ＝Ｎ'Ｐ^−１ （ｄ）
ここで、Ｐ^−１はＰの逆行列である。
ｑ＝ｚ_ｊとして、ｘのそれぞれの可能な値について、ａ，ｑ，ｂのすべてのインスタンスをａ，ｘ，ｂで置き換えた場合に生じる推定全信号劣化を、Ｄ（Ｉ，Ｊ）を用いて計算する。
ｘ＝ｑの場合は、シーケンスが不変のままである場合に対応する。
推定全信号劣化が最小となるｘの値をｐとして、ｚ_ｊをｐで置き換える。

ａ，ｑ，ｂのすべてのインスタンスが不変のままである場合、信号劣化は、チャネルによって誤ってａ，ｑ，ｂに変換されたａ，ｘ，ｂのそれぞれの可能な値からの寄与の総和となる。
ａ，ｘ，ｂからの寄与は、誤りの個数と、それぞれの誤りから生じる劣化との積である。
ａ，ｘ，ｂから生じる誤ったａ，ｑ，ｂの個数は、高い確率で、Ｎ（ｘ）Ｐ（ｘ，ｑ）に近く、これは、ｎ（ｘ）Ｐ（ｘ，ｑ）であると推定される。
それぞれの誤りから生じる劣化は、Ｄ（ｘ，ｑ）である。
したがって、何もしない場合の信号の推定劣化は、ｑと異なるすべてのｘの値にわたるｎ（ｘ）Ｐ（ｘ，ｑ）Ｄ（ｘ，ｑ）の総和である。
ａ，ｑ，ｂのすべてのインスタンスがａ，ｐ，ｂに変換される場合に生じる劣化を考える。
ａ，ｑ，ｂのインスタンスの一部は、出力信号コンテクストがａ，ｂであるｐのインスタンスを、チャネルがｑに変換した結果である。
したがって、ａ，ｑ，ｂのすべてのインスタンスをａ，ｐ，ｂに変換すれば、これらは補正される。
ａ，ｐ，ｂに変換されたａ，ｑ，ｂの残りのインスタンスは、誤りとなる。
したがって、ａ，ｑ，ｂをａ，ｐ，ｂに変換したことから生じる全劣化は、ｐとは異なるすべてのｘの値にわたるｎ（ｘ）Ｐ（ｘ，ｑ）Ｄ（ｘ，ｐ）の総和として推定される。
ここでも、ｎ（ｘ）Ｐ（ｘ，ｑ）は、Ｎ（ｘ）Ｐ（ｘ，ｑ）の推定値であり、これは、入力信号中ではもともとｘであった、コンテクストａ，ｂを有するｑの出現回数に、高い確率で近いことが期待される。
推定される劣化を最小にするｐの値が、ｑを置き換えるために選択される。
最小にする値がｑであることも十分あり得る。
その場合、ａ，ｑ，ｂは、結局不変のままとなる。

再び図１を参照する。
本発明の好ましい一実施形態では、２パスシステムが用いられて、信号｛ｚ_ｉ｝をノイズ除去する。
この例の目的上、各シンボルのコンテクストは、そのシンボルの左側のｋ個のシンボルと、そのシンボルの右側のｋ'個のシンボルであると仮定する。
第１パスで、コントローラ１１は、シンボルが受信されるごとに、受信された｛ｚ_ｉ｝を、メモリ１３に記憶する。
また、コントローラ１１は、｛ｚ_ｉ｝中の長さＫ＝ｋ＋ｋ'＋１のすべてのシーケンスのリストを作成する。
これらのシーケンスおよび各シーケンスに遭遇した回数が、コンテクストメモリ１４に記憶される。
なお、受信信号は、必ずしも高速なメモリに記憶される必要はないことに留意すべきである。
任意の所与の時刻に、受信信号からＫ個のシンボルが、第１パス中に、コントローラ１１によって必要とされる。
したがって、受信信号は、ディスクドライブに記憶されてもよい。
コンテクストメモリ１４のみが、高速なメモリであればよい。
また、コントローラ１１は、Ｋより小さい長さの各シーケンスについても、その識別およびカウントを記憶してもよい。

また、装置１０は、チャネルがシンボルＩをシンボルＪに変換する確率を指定するデータを記憶するためのメモリ１２も含む。
この情報は、好ましくは、行列Ｐとして、および行列Ｐの逆行列としての両方で記憶される。
というのは、チャネルによって、破損したシーケンス中のコンテクストａ，ｂを有するシンボルに変換された、もとのシーケンス中のｘの出現回数を推定するために、逆行列が必要となるからである。

また、メモリ１２は、シンボルＩがチャネル２０によってシンボルＪに変換される場合に生じる信号劣化を指定する情報も記憶する。
本発明の好ましい実施形態では、この情報は、シンボルＩがシンボルＪで置換される場合に生じる劣化をＩ，Ｊ成分とする行列の形式で記憶される。

次に図３を参照する。
図３は、第２パスで用いられる信号処理アルゴリズムのフローチャートである。
受信信号がメモリ１３に記憶された後、コントローラ１１は、受信シンボルを順次調べて、シンボルを別の値に置き直すべきかどうかを判定する。
５１に示すように、コントローラ１１は、ｚ_ｊにある時、ｚ_ｊの左側のｋ個のシンボルと、ｚ_ｊの右側のｋ'個のシンボルとを読み出し、ｚ_ｊの最大のコンテクスト（そのカウントはメモリ１４に記憶されている）を求める。
コントローラ１１は、５２に示すように、このコンテクストに関連するカウントをメモリ１４から取り出し、５３に示すように、記憶されているカウントが、上記の推定手続きによって、処理を進めるのに十分な統計精度を有する種々の入力シンボルカウントの推定をもたらすかどうかを判定する。
カウントが十分な精度を有する場合、５４に示すように、コントローラ１１は、破損した信号中の現在のコンテクストを有するもとの信号中の各シンボル値の出現回数を推定する。
次に、５５に示すように、ｚ_ｊがそれぞれの可能なシンボル値で置換される場合に生じる信号劣化が推定される。
推定される信号劣化が最小となるｘの値をｘ_ｍｉｎで表す。
ｘ＝ｚ_ｊである場合は、ｚ_ｊが不変な場合に対応する。
次に、５６に示すように、ｊ番目の出力シンボルｚ'_ｊをｘ_ｍｉｎとする。
次に、５７に示すように、ｊの値がインクリメントされ、コントローラ１１は、同様にして次のシンボルの処理に進む。

５２においてカウントの統計精度が十分でない場合、５８に示すように、コントローラ１１は、より小さいコンテクストのデータも存在するかどうかをチェックする。
例えば、現在のコンテクストが、ｚ_ｊの右側にｋ個のシンボルを含み、左側にｋ'個のシンボルを含む場合、右側に（ｋ−１）個のシンボルおよび左側にｋ'個のシンボルのあるコンテクストが、テストされることができる。
メモリ１４が長さＫ−１のストリングに対するカウントを含む場合、必要なデータが存在する。
より小さいコンテクストが見出された場合、コントローラ１１は、６０に示すように、まだ調べていないこの長さのコンテクストを取り出し、ステップ５２から上記のプロセスを繰り返す。
より小さいコンテクストのデータがない場合、５９に示すように、ｚ'_ｊは、ｚ_ｊとおかれ、コントローラ１１は、次のシンボルに進む。

本発明のアルゴリズムは、チャネル確率行列Ｐを用いて、入力シンボルカウントの推定値を計算する（式（ｃ）および（ｄ））とともに、シンボルをノイズ除去する方法を決定する際の推定劣化も計算する。
行列Ｐは、アルゴリズムの調整可能なパラメータとみなされることができ、Ｐの良好な選択は、いくつかの方法で得られることができる。
１つの選択肢は、結果として得られるノイズ除去された信号が十分な品質であると判断されるまで、Ｐを調整することによって、対話的にＰを導出することである。
別法として、Ｐの選択は、チャネルの事前知識に基づくことも可能である。
場合によっては、入力信号中の対応するシンボルの真の値を強く示唆する、ある特定のコンテクストに現れるシンボルの分布に基づいて、破損した信号自体から直接Ｐを推定することが可能なことがある。
例えば、入力データが２値画像からなり、チャネルが２値チャネルである場合、すべて０のコンテクスト中に生じる１の割合は、チャネル変換確率Ｐ（０，１）の良好な推定値となる可能性が高い。
というのは、ほとんどすべてのインスタンスにおいて、対応する入力シンボルは０となるからである。
より大きいアルファベットの信号にこの技法を一般化することは、変動が最小の出力信号の領域を探索してから、これらの領域内の入力信号がほとんど一定であると仮定することに帰する。
所与のこのような領域に対して、この一定入力値の推定値をＩとする。
これは、さまざまな方法（メジアン、平均等）で導出されることができる。
すると、Ｉに対応する領域に制限された出力信号の経験分布は、Ｊ＝０，...，Ｍ−１に対するＰ（Ｉ，Ｊ）（これはＰの第Ｉ行である）の妥当な推定値となる。
最終的に、上記の技法の組合せ（例えば、推定＋事前知識＋対話的実験）が最良の結果をもたらすであろう。

劣化行列Ｄ（Ｉ，Ｊ）もまた、アルゴリズムの調整可能なパラメータとみなされることができ、その最良の選択もまた、対話的に実験を通じて決定されることができることも、言及しておく価値がある。
しかし、通常は、ノイズ除去問題は、自然な、広く受け入れられている劣化の尺度を有し、それを適切なＤ行列に反映させることができる。

上記で説明した本発明の実施形態は、受信デジタル信号、確率関数、チャネル劣化関数、およびシーケンスカウントを記憶するために、別々のメモリを利用している。
しかし、これらの項目の２つ以上を記憶するために単一のメモリを利用する実施形態もまた、本発明の教示から逸脱することなく構成されうる。

本発明の上記の実施形態は、受信信号を直接処理し、種々のパラメータ、コンテクスト、チャネル行列、および劣化関数を記憶する際に用いるための特定のメモリを有するノイズ除去装置を利用している。
しかし、本発明は、適当なデータ処理プログラムを汎用データ処理システムにロードすることによって、チャネルからの受信信号のコピーが転送された当該データ処理システム上で実施されることも可能である。

本発明に対する種々の変更は、上記の説明および添付図面から、当業者には明らかとなるであろう。
よって、本発明は、添付の特許請求の範囲のみによって限定されるべきである。

チャネルで破損した出力信号に作用する、本発明の一実施形態によるノイズ除去システム１０のブロック図である。 図２は、シンボルのシーケンスａ_１，ａ_２，...，ａ_ｋ（ａ_ｉは一定）が出力信号中のいくつかの位置に現れるように示された、出力信号の一部を示す。 本発明の一実施形態による第２パスで用いられる信号処理アルゴリズムのフローチャートである。

符号の説明

１１・・・コントローラ
１２、１３・・・メモリ
１４・・・コンテクストメモリ
２０・・・チャネル

Claims (17)

1. ノイズを導入するチャネル［２０］によりノイズのない信号［２１］から生成されたシンボルのシーケンスを含む受信信号［２２］と、
   前記チャネル［２０］により、値Ｉのシンボルが値Ｊのシンボルに変換される確率を指定する情報と、
   値Ｉのシンボルが値Ｊのシンボルに置換される結果として起こる信号劣化を測る信号劣化関数を指定する情報と
   をそれぞれ記憶する第１、第２、および第３のメモリ［１２、１３］と、
   前記受信信号［２２］のシンボルを置換することにより、前記受信信号［２２］から処理済み信号［２３］を生成するコントローラ［１１］と
   を含み、
   前記コントローラ［１１］は、前記受信信号［２２］の中の前記シンボルのコンテクスト［２４］において値Ｉのシンボルそれぞれを値Ｊのシンボルに置換すると、前記ノイズのない信号［２１］に関連する前記処理済み信号［２３］において、前記信号劣化関数で測定される全信号劣化が減少すると推定される場合に、この置換を行い、
   前記コンテクスト［２４］は、一定値のシンボルのシーケンスであって、置換される前記シンボルに関して所定の位置にあるシンボルのシーケンスを含む
   装置。
2. 前記受信信号［２２］の中の第１の長さのシーケンスそれぞれの識別と出現数とを有する第１のリストを記憶する第４のメモリ［１４］をさらに含む
   請求項１に記載の装置。
3. 前記コントローラ［１１］は、前記第２のメモリ［１２］の情報を利用して、前記チャネル［２０］により、前記受信信号［２２］において、前記値Ｉを有し、前記コンテクスト［２４］を有するシンボルに変換された前記ノイズのない信号［２１］のシンボル値それぞれの出現数を推定する
   請求項１に記載の装置。
4. 前記コントローラ［１１］は、
   前記コンテクスト［２４］のシンボルの値すべてをＪに設定した場合の前記ノイズのない信号［２１］に関する劣化を推定し、
   この推定された劣化を最小化するＪを選択する
   請求項３に記載の装置。
5. 前記第４のメモリ［１４］は、
   前記受信信号［２２］の中の第２の長さのシーケンスそれぞれの識別と出現数とを有する第２のリストをさらに記憶し、
   前記第２の長さは、前記第１の長さより短い
   請求項２に記載の装置。
6. 前記コンテクスト［２４］は、前記第１のリストおよび前記第２のリストの１つから選ばれ、
   この選択は、前記第１のリストおよび第２のリストの中のシーケンスの前記出現数に依存する
   請求項５に記載の装置。
7. チャネル［２０］によりノイズのない信号［２１］から生成されたシンボルのシーケンスを含む受信信号［２２］を処理して、処理済み信号［２３］を生成する方法であって、
   前記受信信号［２２］を記憶すること、
   前記チャネル［２０］により、値Ｉのシンボルが値Ｊのシンボルに変換される確率を指定するチャネル［２０］破損情報を記憶すること、
   値Ｉのシンボルが値Ｊのシンボルに変換される場合に起こる信号劣化を測る信号劣化関数を指定する情報を記憶すること、および、
   前記受信信号の中の前記シンボルのコンテクスト［２４］において値Ｉのシンボルそれぞれを値Ｊのシンボルに置換すると、前記ノイズのない信号［２１］に関連する前記処理済み信号［２３］において、前記信号劣化関数で測定される全信号劣化が減少すると推定される場合に、この置換を行うことによって、前記処理済み信号［２３］を生成すること
   を含み、
   前記コンテクスト［２４］は、一定値のシンボルのシーケンスであって、置換される前記シンボルに関して所定の位置にあるシンボルのシーケンスを含む
   方法。
8. 前記受信信号［２２］の中の第１の長さのシーケンスそれぞれの識別と出現数とを有する第１のリストを記憶することをさらに含む
   請求項７に記載の方法。
9. 前記チャネル［２０］破損情報は、チャネル［２０］により、前記受信信号［２２］において、前記値Ｉを有し、前記コンテクスト［２４］を有するシンボルに変換された前記ノイズのない信号［２１］のシンボル値それぞれの出現数を推定するために用いられる
   請求項７に記載の方法。
10. 前記劣化は、前記コンテクスト［２４］のシンボルの値すべてをＪに設定することによって、場合の前記ノイズのない信号［２１］に関して推定され、
    この推定された劣化を最小化するＪを選択する
    請求項９に記載の方法。
11. 前記受信信号［２２］の中の第２の長さのシーケンスそれぞれの識別と出現数とを有する第２のリストを記憶することをさらに含み、
    前記第２の長さは、前記第１の長さより短い
    請求項８に記載の方法。
12. 前記コンテクスト［２４］は、前記第１のリストおよび前記第２のリストの１つから選ばれ、
    この選択は、前記第１のリストおよび第２のリストの中のシーケンスの前記出現数に依存する
    請求項１１に記載の方法。
13. チャネル［２０］により破損されたシンボルのシーケンスを含む受信信号［２２］を処理して、処理済み信号［２３］を生成するデータ処理プログラムで符号化されたコンピュータ可読媒体であって、
    前記データ処理プログラムは、
    前記受信信号を記憶すること、
    前記チャネル［２０］により、値Ｉのシンボルが値Ｊのシンボルに変換される確率を指定するチャネル［２０］破損情報を記憶すること、
    値Ｉのシンボルが値Ｊのシンボルに変換される場合に起こる信号劣化を測る信号劣化関数を指定する情報を記憶すること、および、
    前記受信信号の中の前記シンボルのコンテクスト［２４］において値Ｉのシンボルそれぞれを値Ｊのシンボルに置換すると、前記受信信号［２１］に関連する前記処理済み信号［２３］において、前記信号劣化関数で測定される全信号劣化が減少すると推定される場合に、この置換を行うことによって、前記処理済み信号［２３］を生成すること
    をデータ処理システムに実行させ、
    前記コンテクスト［２４］は、一定値のシンボルのシーケンスであって、置換される前記シンボルに関して所定の位置にあるシンボルのシーケンスを含む
    コンピュータ可読媒体。
14. 前記データ処理プログラムは、前記受信信号［２２］の中の第１の長さのシーケンスそれぞれの識別と出現数とを有する第１のリストを記憶することを前記データ処理システムにさらに実行させる
    請求項１３に記載のコンピュータ可読媒体。
15. 前記チャネル［２０］破損情報は、チャネル［２０］により、前記受信信号［２２］において、前記値Ｉを有し、前記コンテクスト［２４］を有するシンボルに変換された前記ノイズのない信号［２１］のシンボル値それぞれの出現数を推定するために用いられる
    請求項１３に記載のコンピュータ可読媒体。
16. 前記データ処理プログラムは、
    前記受信信号［２２］の中の第２の長さのシーケンスそれぞれの識別と出現数とを有する第２のリストを記憶することを前記データ処理システムにさらに実行させ、
    前記第２の長さは、前記第１の長さより短い
    請求項１４に記載のコンピュータ可読媒体。
17. 前記コンテクスト［２４］は、前記第１のリストおよび前記第２のリストの１つから選ばれ、
    この選択は、前記第１のリストおよび第２のリストの中のシーケンスの前記出現数に依存する
    請求項１６に記載のコンピュータ可読媒体。

Images