JPH0310423A - 変調方式用トレリスコーディング - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 （産業上の利用分野） 本発明はチャンネルを通じてディジタルデータを送るた
めの変調方式に関する。

（従来の技術） 近年、符号化変調（ｃｏｄｅｄ　ｍｏｄｕｌａｔｉｏｎ
）を用いて理想的な帯域限定ガウスチャンネルの通信容
量の達成に向けて著しい進歩があった。理想的ガウスチ
ャンネルは平担なスペクトルと付加的な白色ガウス雑音
を有している。

理想的なガウスチャンネルでは、信号対雑音比（ＳＮＲ
）が大きいか、あるいは等価的に記号当りのビット数が
大きくなると、その通信容量と非符号化直角振幅変調（
ＣＡＭ）などの非符号化変調方式を用いて得られる通信
容量との差は、１０−８〜＋　ｏ−６程度の誤り率では
約９ｄＢである（Ｆｏｒｎｅｙ、ｅＬ　ａｌ、、　＋Ｅ
ｆｆｉｃｉｅｎｔ　Ｍｏｄｕｌａｔｏｒ　ｆｏｒ　Ｂａ
ｎｄ−Ｌｉｍｉｊｅｄ　　Ｃｈａｎｎｅｌｓ、−ＩＥＥ
Ｅ　　Ｊ、　　　５ｅｌｅｃＬ、　　　Ａｒｅａｓ　　
Ｃｏｍｍｕｎ。

ｖｏｌ、　５ＡＣ−２，Ｉ）Ｉ）、６３２−６４７．ｔ
９８４　）　、周知の符号変調方法で６ｄＢ程度の有効
な「符号化利得Ｊ　（ｃｏｄｉｎｇ　ｇａｉｎ）を得る
ことができて、上述の差を大幅に埋めることができる。

理想的な帯域限定ガウスチャンネル用に有効な符号化変
調方法ではラティス（Ｉａｔｔｉｃｅｌ又はラティス形
トレリス（Ｌｒｅｌｌｉｓｌ符号を用いるが、これらの
ものはコセット（ｃｏｓｅｔ）コードと見倣されている
（ＣｏｓｅＬ　Ｃｏｄｅｓ−ＰａｒＬ　Ｉ　：　Ｉｎｔ
ｒｏｄｕｃｔｉｏｎ　ａｎｄ　Ｇｅｏｍｅｔｒｉｃａｌ
　　Ｃ１ａｓｓｉｆｉｃａｔｉｏｎ、　　−ＩＥＥＥ　
　Ｔｒａｎｓ、　　　ｌｎｆａｒｍ、　Ｔｈｅｏｒｙ、
　ｖｏｌ、　ＩＴ−３４，５ｅｐｔ、、　１９８８１゜
このような符号を用いると、符号化利得がそのコセット
符号に基づく「基本的な符号化利得」と信号立体配座境
界（ｓｉｇｎａｌ　ｃｏｎｓＬｅｌｌａＬｉｏｎ　ｂｏ
ｕｎｄａｒｙ＞の形状に基づく「形状利得Ｊ　（ｓｈａ
ｐｅ　ｇａｉｎ）の二つに分れることが認められている
。

アンが−ベツクの１次元及び２次元ラティス形トレリス
符号ＩＵｎｇｅｒｂｏｅｃｋ、　”Ｃｈａｎｎｅｌ　Ｃ
ｏｄｉｎｇ　　ｗＬｈ　　ＭｕｌＬｉｌｅｖｅｌ／Ｐｈ
ａｓｅ　　Ｓｉｇｎａｌｓ”、　　ＩＥＥＥ　　Ｔｒａ
ｎｓａｃｔｏｎｓ　　ｏｎ　　Ｉｎｆｏｒｍａｔｉｏｎ
　　Ｔｈｅｏｒｙ　　Ｖｏｌ、　　　ＩＴ−２８，ｐｐ
、　　５５−６７、　Ｊａｎｕａｒｙ、　　１９８２）
又はウェイの多次元符号（Ｌ−Ｆ、Ｗｅｉ、　”Ｔｒｅ
ｌｌｉｓ−ｃｏｄｅｄ　ｍｏｄｕｌａｔｉｏｎ　ｗｉｔ
ｈ　ｎ＋ｕｌｔｉｄｉｍｅｎＴ＋１ｏｎａｌ　　ｃｏｎ
ｓｔｅｌｌａｔｉｏｎｓ、−ＩＥＥＥ　　Ｔｒａｎｓ、
　　Ｉｎｆｏｒｍ、　Ｔｈｅｏｒｙ、　　Ｖａｔ、　　
ＩＴ−３３，ｐｐ、　４８３−５ｏ１．　１９１１７１
のような符号で、最大６ｄＢの基本的な符号化利得、あ
るいは［誤り係数Ｊ　１ｅｒｒｏｒ　ｃｏｅｆｆｉｃｉ
ｅｎｔ）のＥｌを考慮すれば、５ｄｌｌ程度の有効符号
化利得を得ることができる（上述のＦｏｒｎｅｙ、　”
Ｃｏ５ｅＬ　Ｃｏｄｅｓ”参照）。

「形状利得」は、単純な直角振幅変調に普通用いられる
方形境界と見倣される信号立体配座境界の形状による符
号化利得の改善を示す。整形［ｓｈａｐｉｎｇ）によっ
てより高次元の球面状の信号立体配座境界、あるいは等
価的に２次元の有効なガウス分布となるならば、最大π
ｅ／６　　（１、５３ｄＢ）倍の形状利得を得ることが
できる（ト述のＦｏｒｎｅｙｅＬａｌ、参照）。

理想的なチャンネルでは、米国特許出願第０６２、．４
９７号（出願日１９８７年６月１２日）及び第１８１．
２０３号（出願日１９８８年４月１３日）において述べ
ているようにボロノイ（Ｖｏｒ。

ｎｏｉｌ配列を用いて、あるいは米国特許出廓第３１２
．２５４号（出願日！９８９年２月１６日）に述べてい
るようにトレリス整形を用いて、ＩｄＢ以上の形状利得
が得られることが分っている。

−・般に、符号化変調方法は理想的なチャンネルを意図
したもので、実際のトレリス符号化変調方法で最大６ｄ
Ｂ程度の符号化利得を得ることができ、従って理想的な
チャンネルの通信容量との差を大幅に埋めることができ
る。この符号化利得は、（実効）５ｄｌｌ程度の基本的
な符号化利得とｌｄ［ｌ程度の形状利得が組合わさった
ものと見做すことができる。

平担でないスペクトルと白色雑音を示す理想的でない誇
通のチャンネルについては、従来線形等化技術を用いて
できるだけ理想的なものに近い等化チャンネルを作って
いる。線形等化器は、記号間干渉ｆｌｎＬｅｒｓｙｍｂ
ｏｌ　ＩｎＬｅｒｆｅｒｅｎｃｅ、１Ｓｌｌが余りひど
くなければ有効であるが、帯域限度チャンネルで実際上
最大の帯域幅を用いたくなる場合のようにチャンネルが
寛刑（ｎｕｌｌｓ）あるいはそれに近いものｆｎｅａｒ
−ｎｕｌ　１８）を持っているときには、線形等化技術
では過剰雑音が増えてしまう、同様に、平担な周波数レ
スポンスを有し且つ雑音スペクトルが平担゛でない通常
のチャンネルに対して、線形等化は雑音信号中の相関を
効果的に利用できない。

より一般的には、ＳＮ比のスペクトルが信号帯域内で大
きく変化するチャンネルでは線形等化器は適切に動作で
きないことがある。

非符号化システム用として、ＳＮ比のスペクトルが激し
く変化するチャンネルに対して線形等化器よりも大幅に
性能が優れている周知の２つの方法は、判定帰還等化（
ＤＦＥ）と一般に用いられているブリコーディングであ
る６所謂従来の判定帰還等化では、線形フィルターを用
いて雑音フィルターと［ブリカーソルＪ　（ｐｒｅ−ｃ
ｕｒｓｏｒ）記号間干渉を除去し、更に前の判定を利用
して「ボストカーソルＪ　（ｏｏｓＬ−ｃｕｒｓｏｒ）
を記号間干渉を除去する。［送信器における判定帰還」
とも呼ばれる一般に用いられているブリコーディングで
も、モジュロ演算で送信器中で引き算を行ってそれと匹
敵する効果が得られる。判定帰還等化と異なって、一般
のブリコーディングでは送信器中でチャンネルレスポン
スの情報が必要となり、これもまた判定帰還等化と異な
るが誤り伝播が起きにくい。

ＳＮ比が大きい場合には、理想的なチャンネル用の符号
化変調方法を理想的な（正確な帰還）零強制（ｚｅｒｏ
−ｆｏｒｃｅｄ）判定帰還等化法と組合わせて理想的な
チャンネルの通信容量に近付けることが分っている１Ｐ
ｒｉｃｅ　−Ｎｏｎｌｉｎｅａｒｌｙ　ｆｅｅｄｂａｃ
ｋ−ｅｑｕａｌｉｚｅｄ　ＰＡＭ　ｖｅｒｓｕｓ　ｃａ
ｐａｃｉＬｙ　Ｆｏｒ　ｎｏｉｓｙ　ｒｉｌＬｅｒ　ｃ
ｈａｎｎｅｌ”　Ｉｃｃ　Ｃｏｎｒ、　Ｒｅｃｏｒｄ、
　ｐＬ　２２−１２　Ｌｏ　２２−ｔ７゜９７２、及び
Ｅｙｕｂｏｇｌｕ、　＋Ｄｅｔｅｃｔｉｏｎ　ｏｒ　５
ｅｖｅｒｌｙ　Ｄｉｓｔａｒｔｅｄ　　Ｓｉｇｎａｌｓ
　　Ｕｓｉｎｇ　　Ｄｅｃｉｓｉｏｎ　　Ｆｅｅｄｂａ
ｃｋ　　Ｎｏ１ｓｅ　Ｐｒｅｄｉｃｔｉｏｎ　ｗｉｔｈ
　ＩｎＬｅｒｌｅａｒｎｉｎｇ、−１εＥＥ　Ｔｒａｎ
ｓ。

Ｃｏｍｍｕ、　ｖｏｌ。Ｃ０Ｗ−３５，ｐｐ、　４０１
−４９０．＾ｐｒｉ１．　１９１１８参照）。確かに、
ＳＮ比が大きいときには１判定帰還等化を用いた非符号
化直角振幅変調によるチャンネルの通信容量と理想的な
チャンネルそそれとのデシベル差も、１０−＠〜１０−
６程度の誤り串では９ｄＢである。符号化システムにつ
いては遅延なく行われる判定は信頼性が低いので、残念
乍ら判定帰還等化を直接用いることはできない、符号化
システムで判定帰還等化に匹敵する性能を得ようとする
方法が幾つか提案されている（米国特許第４．６３１．
７３５号（特許日１９８５年３月２６日）及び第４，７
１３．８２９号（特許日！９８５年６月１９日）参照、
そのうちの一つは低減状態シーケンス推定（ｒｅｄｕｃ
ｅｄ−ｓｔａシｅ　５ｅｑｕｅｎｃｅ　ｅｓｔｉｍａｔ
ｉ、ｏｎ（Ｒ３ＳＥＩ）で、これにより余り複雑なこと
もなく最大シーケンス推定［ｍａｘｉｍｕｍ　１ｉｋｅ
ｌｉ−ｆｏｏｄ　５ｅｑｕｅｎｃｅ　ｅｓｔｉｍａｔｉ
ｏｎ（ＩＪＬｓＥＩＩの性能に近いものが得られる。こ
の方法の最も簡単なものは同時判定帰還デコーディング
（ＰＤＦＤ）と呼ばれ１判定帰還等化法に密接な関係が
ある。

符号化システム用の一般のブリコーディングは、米国特
許出願第２０８．８６７号（名称Ｐａｒ　Ｌｉａｌ　Ｒ
ｅ５ｐｏｎｓｅ　Ｃｈａｎｎｅｌ　Ｓｉｎｇｎａｌｉｎ
ｇ　ＳｙｓＬｅｍｓ、出願日１９８８年６月１５日及び
本願と同日出願の前記米国出願の一部継続出願に述べら
れている。

これら出願では、ｈ（Ｄｌ＝ｌ±Ｄ″の形のレスポンス
を有する通常のパーシャルレスポンスチャンネルについ
て述べている。一般のブリコーディングによれば、記号
当りのビット数が大きい場合は。

送信器中でチャンネルレスポンスが分っていれば、理想
的なチャンネルについて得られるのと同じ符号で且つデ
コーディングの際の複雑さも同じで整形利得（ｓｈａｐ
ｉｎｇ　ｇａｉｎ　）以外は略々同じ符号化利得（理想
的な判定帰還等化の非符号化システムに対し）をどんな
通常のチャンネルについても得ることができる。

（発明の目的及び概要） 本発明はトレリスプリコーディングと呼ばれ、理想的な
チャンネルについて得られるのと同様の大きさ、すなわ
ち、ｌｄＢ程度の整形利得を、コードを余り複雑にする
ことなく通常のチャンネルで得るために一般のブリコー
ディングとトレリス整形の考えを組合わせ且つ拡張した
ものである。

チャンネルレスポンスｈ　ｆＤ）と白色ガウス雑音を有
する通常の離散−時間（ｄｉｓｃｒｅｔｅ（ｉｍｅ）チ
ャンネル（通信速度で動作する）について、トレリスプ
リコーディングではチャンネルレスポンスｈ　（Ｄｉ形
式的に反転したちのｇ　（Ｄ）で濾波したトレリスコー
ドは一般に有限状態トレリス（ｆｉｎｉｔｅ−ｓＬａｔ
ｅ　ｊｒｅｌｌｉｓ）で表現できないことが分っている
。しかし、低減状態シーケンス推定の概念を使えば、コ
ードも余り複雑にすることなく最大シーケンス推定の性
能に近づくように基準コードＣｓ　’を有限状態「スー
パートレリスＪ　（ＦｉｎｉＬｅ−ｓＬａｔｅ″５ｕｐ
ｅｒ−ｔｒｅｌｌｉｓｅｓ“）でデコードできる。事実
、そのような方法の最も簡単なもの、即ち、スーパトレ
リスが普通のコードトレリスに変る同時判定帰還デコー
ディング（ＰＤＦＤ）及び４−状態２次元アンガーベツ
ク符号では、０．６〜０．９ｄＢの形状利得が二つの項
［Ｌｅｒｍｓ）を有するチャンネルレスポンスについて
得られることが分った。

一般に１本発明はディジタルデータシーケンスを１通常
のレスポンスのチャンネルを通じてデータ伝送するため
信号点シーケンス（ｓｉｇｎａｌ　ｐｏｉｎＬｓｅｑｕ
ｅｎｃｅ）にマツプすることを特徴とする。このマツピ
ングはディジタルデータシーケンスとチャンネルレスポ
ンスに基づいてその信号点シーケンスを使用可能なすべ
ての信号点シーケンスの部分集合から選択して行う、使
用可能なすべての信号点シーケンスは濾波されたトレリ
スコードの基本領域内に在る部分集合のものであり、そ
の基本領域は有限次元領域の単純なカルテシアン積以外
のものである。

本発明の好ましい実施例は次のような機能を含む。

濾波されたトレリス符号は、シーケンスがＣ′（Ｄ）　
＝　Ｃ（ＤＩ　ｇ　（Ｄｉのコードである。ここでｇ　
（ＤＩはチャンネルレスポンスに関係したレスポンスを
形式的に反転したものであり、ＣｆＤ］は普通のトレリ
ス符号における符号シーケンスである。上述の選択ステ
ップでは、信号点シーケンスｅ　（ＤＩ　＝　［ｘ　（
Ｄ）　−ｃ（Ｄｌｌ　ｇ（口１　（ｘ　［Ｄ）はディジ
タルデータシーケンスが最初にマツプされる初期シーケ
ンンスである）の平均パワーが最小になる傾向がある。

Ｘ　（Ｄｌは通常のトレリス符号の「単純なカルテシア
ン積である。

上述の選択は、通常のトレリスコードが有する状態数よ
り少ない状態数を使って濾波されたトレリス符号につい
て低減状態シーケンス推定に基づき行われる。

濾波されたトレリス符号の基本領域は近似的にその符号
のボロノイ領域、特に、そのフード用のデコーダー、例
えば、Ｉより大きいか等しい遅延Ｍを有する最小距離デ
コーダー（ｍｉｎｉｍｕｎｎ　ｄｉｓｔａｎｃｅ　ｄｅ
ｃｏｄｅｒｌに近いデコーダーで濾波されたトレリスコ
ード中の零シーケンスにデコードされる信号点シーケン
スの集合から成る。

信号点シーケンスを一連の推定ディジタル要素にデコー
ドし且つ無帰還シンドローム形成子ＨＴを用いて推定デ
ィジタル要素の一部に基づくより数の少ないディジタル
要素のシンドロームを形成することで、ディジタルデー
タシーケンスを信号点シーケンスの雑音で劣化したもの
から取り出す。

初期のシーケンスは第２符号の変形による符号シーケン
スで、第２符号はトレリス又はラティス形の符号である
。

ディジタルデータシーケンスを、普通のトレリス符号の
合同クラスｆｃｏｎｇｒｕｅｎｃｅ　ｃｌａｓｓ）に属
し且つそれを表わす初期シーケンスにマツプし、濾波さ
れたトレリス符号の合同クラスに属し且つ初期シーケン
スより平均パワーが小さい信号点シーケンスを選択し、
更にディジタルデータシーケシスの要素の一部をコセッ
ト表現（ｃａｓｅＬ　ｒｅｐｒｅｓｅｎｔａＬｉ　ｖｅ
）シーケンスを表わすより多数のディジタル要素を形成
するためのコセット表現発生器（ｃｏｓｅｔ　ｒｅｐｒ
ｅｓｅｎＬａＬｉｖｅ　ｇｅｎｅｒａｔｏｒ）に加える
。コセット表現発生器は、ディジタルデータシーケンス
の要素の一部にシンドローム形成マトリックスＩ＋”の
逆であるコセット表現発生器マトリックス（ｌ（−’）
”を乗算する。

トレリス符号は線形または非線形トレリス符号の場合が
ある。線形トレリス符号は４状態アンガ一ベツグ符号で
ある。トレリス符号は２値、３値あるいは４値ラティス
を分割しものに基づくこともある。

データ要素の初期立体配座における信号点へのマツピン
グは線形あるいは距離不変（ｄｉｓｔａｎｃｅ　１ｎｖ
ａｒｉｅｎｔｌである。信号点シーケンスの選択に当っ
ては更に１次元Ｎ（例えばＮ＝２又はＮ＝４）での信号
点シーケンスの最大エネルギーを示すピークパワーを減
少させられる。この選択は信号点シーケンスが通常半径
Ｒｃの球面１ｓｐｈｅｒｅｌ内に在るようにさせられる
。

低減状態シーケンスの推定は、その都度、確実にシーケ
ンスが許容されるものとなる操作、すなわち、低減状態
シーケンス推定器のトレリスにおいて選択された経路の
いずれもが次のときには最も選択される可能性のあるも
のとはならないようにそれらの選択した経路の距離を調
整する操作を行なうステップから成る。これらの経路は
、トレリス内の推定の位置で特定の状態遷移と経路が含
むかどうかに基づいて選ばれる。この操作はトレリス内
の選択した経路に大きな距離を割り当てることから成る
。ディジタルデータシーケンスを信号点シーケンスにマ
ツプするステップは、多数の所定相回転のうちの回転を
与えられた信号点シーケンスのチャンネルのＥＷを受け
たものからディジタルデータシーケンスを確実に取り出
せるようにする。ディジタルデータシーケンスを初期立
体配座に属する信号点シーケンスにマツプするステップ
は、初期立体配座から信号点を選び出すためのビットグ
ループにディジタルデータシーケンスのデータ要素を交
換するステップを含み、そのビットグループは９０度の
相回転を１．２或いは３回受けられた伝送されたシーケ
ンスのチャンネルの影響を受けたものからそれらのビッ
トを確実に取出されるようになっている。

本発明の他の特徴はチャンネルを通じてディジタルデー
タシーケンスを送受信するモデムである。このモデムは
ディジタルデータシーケンスを通常のレスポンスのチャ
ンネルを通じてデータ伝送するための信号点シーケンス
にマツプする手段と、チャンネルを通じて信号点シーケ
ンスの信号点を送出する変調器と、信号点シーケンスの
多分チャンネルの影響を受けたものをチャンネルが受信
する復調器と、そのチャンネルの影響を受けた信号点シ
ーケンスからディジタルデータシーケンスを取り出すた
めの手段から成る。上述のマツピング手段はディジタル
データシーケンスとチャンネルレスポンスに基づいてす
べての使用可能な信号点シーケンスの部分集合から信号
点シーケンスを選択するためのシーケンスセレクタを有
し、その部分集合内のすべての使用可能な信号点シーケ
ンスは濾波されたトレリス符号の基本領域内に在り、更
にその基本領域は有限次元領域の単純なカルテシアン積
以外のものである。

本発明の好ましい実施例では、ディジタルデータシーケ
ンスを取出す手段は適応線形等化器と、適応予測フィル
ターと、デコーダーとから成り、予測フィルターの訓練
時には線形等化器の後、チャンネルレスポンスｂ（０）
が学習され、データ伝送時には予測フィルターは固定化
され、更にこの手段は等化器誤差を構成するために、予
測フィルターの出力に生じた最終的な予測誤差を通過さ
せるｇ　（Ｄｉ素子を有する。

本発明の他の利点及び特徴は好ましい実施例につき以下
述べるところから明らかになるであろう。

（売可の実施例） 以下、添付図面に示した好適な実施料に基づいて本発明
の詳細な説明する。

尚、最初に本発明の基となる用語と原理につき説明する
。

シーケンス アルファベットのＡから一連の要素は（ａｏ。

ａ、、−−−）、（ａ、、に≧０）、或いは遅延演算子
（ｄｅｆａｙ　ｏｐｅｒａｔｏｒ）　Ｄにおいて表わさ
れた形式的なべき級数ａｆＤｌ＝ａａ　、　＋ａ＋　　
ｏ＋　・−−として示す、Ａ（シーケンス空間の要素の
すべてのシーケンスの集合はＡ′で示す。

１ヱエｌ Ｎ次元のラティスへのサブグループはサブラティスと呼
ばれる。サブラティス八゛はラティス八をラテイマΔ中
のサブラティスΔ′の１Δ／Δ゛ｌコセツトに分割させ
る。

本発明では本来複素信号を処理するので、実ラティスへ
の座標を複素（Ｎ／２）次元ラティスΔＣの座標の実数
部及び虚数部と同一種することにより実Ｎ次元ラティス
Δ「を複素ユークリッド（ｎ／２）空間ｃ　””中に要
素がある複素（Ｎ／２）次元ラティスＡＣと見做すのが
原則として好ましい０例えば、２次元ラティスＺ１は複
素ガウス整数のラティス（リング）Ｇと呼ばれる１次元
複素ガウス整数のラティス（リング）Ｇと呼ばれる１次
元複素ラティスに対応する。

ラティス符号は単に在るラティスΔの要素のすべてのシ
ーケンスの集合Δ（１）である。

ラテ　ス〉　し【ス、−１ ２値のラティス形・トレリス符号はΩ（ｌ〜／Δ′：Ｃ
）で示し、ここでΔ／Δ′は１Δ／Δ′＝２“゛のオー
ダーの（２値の）ラティスの分割、Ｃｌｅｔ　Ｓ二２　
状態を有しレートかに／（ｋ＋「）の２値の重量コード
であり、Ｖはコード制約を示す。２値ラティスはサブラ
ティスとして２″′ｚＮを有する整数Ｎ個組のＮ次元ラ
ティスでのサブラティスである。符号Ω用の重量符号化
器（ｃｏｎｖｏｌｕｔｉｏｎａｌ　ｅｎｃｏｄｅｒ）の
コードワードは成るコセットラベル表示によってＡ′の
コセットのシーケンスを指定する、ラティス形トレリス
符号Ω中のフードシーケンスＣ［Ｄ）は集合へ〇の中で
重量コードＣ中の成るコードワードにより多分選択でき
るサブラティスΔ　のコセットのシーケンスに属するシ
ーケンスである。ラティス形トレリス符号二におけるす
べてのフードシーケンスＣ［Ｄ）は、（ｋ＋γ）ピット
のラベルがサブラティスΔ′のコセットを表わすブラン
チを有する重量コードＣのトレリス用で簡素に表現でき
る。

ラティス形トレリス符号ｐの時零のラティス［シｉｍｅ
−ｚｅｒｏ　１ａｔｌｉｃｅ）Δ０は、零状態から広カ
ル２ｋ　トレリスブランチに対応する実ラティスΔの２
にコセットの合併したものであると定義する。

ラティス符号ΔはΔ゛＝△の縮退ｆｄｅｇｅｎｅｒａｔ
ｅｌトレリス符号と見做し得る。

橡胆Σ旦ユλユｊ トレリス符号は、コードシーケンスＣ（０）中のいずれ
か二つのコードシーケンスの和が別のコードシーケンス
であるならば、線形である。線形トレリス符号の簡単な
例はラティス符号ｒである。

しかし、より重要な例は所謂”ｍｏｄｅ−Ｚ”トレリス
符号である。このようなトレリス符号は、Ｎ次元２”方
向のラティス分ＮＺ’　／２２″及び成るレートかに／
Ｎの２値重量コードＣに基づく符号Ω（ＺＮ／２２Ｐ′
）と見做すことができ、更に［１コードＣにおける２値
のＮ組のシーケンスと合同（ｍｏｄ　２１の整ＢＮ組の
シーケンスすべての集合として特徴付けし得る（前述の
Ｆｏｒｎｅｙ、　Ｃｏ５ｅｔ　Ｃｏｄｅｓ−１参照）１
重要なｍｏｄ−２トレリス符号は４状態２次元アンカー
ベック符号と多次元ウェイ符号及、び２重つェイ符号（
ｄｕｂｌ　・ｘｅ：　ｃｏｄｅｓｌとから成る。

ラティス形トレリス符号Ωが線形トレリス符号であれば
、二つのシーケンスａ　ｆＤｌ及びｂ　ｆＤｌの差ａ（
０１−ｂ　ｆｉｌがラティス形トレリス符号Ω中のコー
ドシーケンスＣｆｉｌの場合には、これら二つのシーケ
ンスを合同なモジュロ旦と呼ぶ。

トレリス符号Ωのイブジ−ステイブ（ｅｘｈａｕｓＬｉ
ｖｅ）デコーダーはシーケンス空間（ＲＮｒ　中の任意
のシーケンス「（Ｄ）のトレリス符号Ω中のシーケンス
ＣｆＤｌへのマツプＣ（「）である。特定のコードシー
ケンスＣｆＤ）に関する判定領域旦（Ｃ）はシーケンス
Ｃ（Ｄ）にマツプするすべてのシーケンス「（Ｄ）であ
る、シーケンスｒ　（Ｄ）に関する明らかな誤り、すな
わち、単なる誤りはｅ（ｒｌ＝　ｒ　（Ｄｉ　　−Ｃｔ
ｒｌであり、シーケンスＣ（０１に関する誤り領域は旦
ｅ　（Ｃ）＝旦（Ｃ）−Ｃ（Ｄｌである。トレリス符号
中のすべてのシーケンスＣ（ＤＪに対する全判定領域旦
（Ｃ１はシーケス空間（ＲＮ）”　　のイグゾーステイ
ブバーテイション（ｅｓｈａｕｓｔｉｖｅ　ｐａｒｔｉ
ｔｉｏｎｌである。

線形トレリス符号Ωのフェアー且つイブジ−ステップｆ
ｆａｉｒ、　ｅｘｈａｕｓｔｉｖｅｌなデコーダーが、
シーケンス「（ロ）のＣ（０１へのマツプならば、トレ
リス符号Ω中のシーケンスＣ’　（［１）全部について
ｒ　（ＤＪ＋Ｃ’（Ｄｌ　をｃｔｏ）　＋　ｃ　’　ｆ
Ｄ］　にマツプするようなマツピングを行なう、従って
、コートシーケンスＯに対応する判定領域が旦（０）で
あるならば。

いずれのコードシーケンスゝＣ（０）にも対応する判定
領域は旦ＣＣ）＝旦（０１＋ＣＴＤｌとなり、トレリス
符号Ω中のシーケンスＣ（０）すべてに共通の誤り領域
旦（０１の変形（ｔｒａｎｓｌａｔｅｓ）　Ｒ（０１＋
　Ｃ（Ｄ）から成るシーケンス空間（Ｒ’戸　のイグゾ
ーステイブバーティションが存在する。

トレリス符号旦が線形トレリス符号の場合には、シーケ
ンス空間（ＲＮｆ　に於ける二つのシーケンスは、それ
らの差がトレリス符号Ω中の要素であるならば１合同ｍ
ｏｄ　ｅと呼ばれる。トレリス符号旦はシーケンス加算
（ｓｅｑｕｅｎｃｅ　ａｄｄｉｔｉｏｎ）によるグルー
プなので、合同ｍｏｄΩは等価関係であり、且つシーケ
ンス空間（ＲＨ）″　を等価（合同）クラスに分割する
。線形トレリス符号二の基本領域旦（Ｃ１は夫々合同ク
ラスｍａｄ　Ｃ中の夫々−つのシーケンスから成るシー
ケンスの集合である。従って、シーケンス空間（Ｒ”　
ｒ　中のシーケンスγｌ）のいずれもトレリス符号Ω中
のシーケンスＣｆＤ）と基本領域Ｒ（Ｃ）中のシーケン
スｅ　（ＤＩにって和γ（Ｄ）　＝Ｃ（ＤＪ＋ｅｌＤ）
として一意的に表わすことができる。即ち１．ＲＨ，Ｑ
ｔｊ　　＝Ω＋Ｒ（Ｃ）　　として表現し得るコセット
分解がある。明らかに、旦（Ｃ）はそれがトレリス符号
旦に関してフェアーでイグゾスティブなデコーダーの共
通誤り領域旦（０）であるならば、そしてその場合にの
み線形トレリス符号の基本領域となる。従って、適当な
デコーダーを指定することにより基本領域を特定する。

ヒレ１スブ１コープ　ング 第１図及び以下の説明において、離散時間形チャンネル
（１０）が送信器中のトレリスプリコーダ（１１）の出
力と受信器中のデコーダー（１３）の入力間でｌ／Ｔの
ボーレートで動作すると仮定する。第１図において、チ
ャンネル１０は因果関係のあるｆｃａｎｓａｌｌ複素イ
ンパルス応答ｈ（Ｄｌ＝ｈ。＋ｈｌ　ＤＪｈ２　Ｄ・・
・　（項り、は複素項である）とＥ　［１ｎ−１”ｌ　
＝Ｎｏのようになる離散時間複素白色ガウス雑音シーケ
ンスｎ　（Ｄ）で特徴付けられる。−膜性を失うことな
くり、＝１とする。もしｅ　（Ｄｉがチャンネルへの複
素人力シーケンスであるならば、受信シーケンスはγ（
Ｄ）　＝ｙ（ＤＪ＋ｎ　（Ｄ）　、ここでｙ（ひ）　＝
　ｅ　（Ｄ）　ｈ　（Ｄｌは受信シーケンスの雑音のな
い部分である。このチャンネルモデルは、どの連続時間
又は離散時間線形がウスチャンネルも情報を失うことな
くこの形に換えることができるという意味で標牟的なも
のである。実際上どのようにしてこれが行うことができ
るかについては後述する。

要するに、第２図で説明すればトレリスプリコーディン
グは次の様に動作を行う。まず、チャンネル上に送出す
べき人力ビット（１２）は公知の通信法、例えば非符号
化直角振幅変調（ＱＡＭ）あるいは公知の符号化変調法
に応じて最初の信号点シーケンスＸ　（ＤＪにマツプさ
れる（１４）。すなわち、ｘ（０１は単にラティス符号
Δ′１例えば直角振幅変調についてのｆＺ’）”であり
得る公知のラティス符号Ｃｃの変形Ｃｃ　＋　ａ　（０
１におけるシーケンスである。最初の立体配座（＋６）
（信号点シーケンスｘ（０）が取り出される使用可能な
信号点すべての集合）を成る第２トレリス符号ΩＳの時
間零（Ｌｉｍｅ−ｚｅｒｏ）のラティスΔ、。の成る基
本領域旦。内に成るようにする。従って、Ｘ　（Ｄ）ε
（旦Ｃ）“ 第２図において、まずΩＳは線形ラティス符号でなけれ
ばならない、また符号Ｃｓは符号ΩＣのサブコードでな
ければならない、即ち、符号Ｃｓにおけるどのコートシ
ーケンスも符号Ωε内にある。

第２に、符号Ω３中のコードシーケンスＣ（Ｄｌは次式
の平均パワー（ａｖｅｒａｇｅ　ｐｏｗｅｒ）を最小に
するためトレリスブコーダー中で選ばれる（１８）。

ｅ（ＤＪ＝　［ｘ（ＤＩ−Ｃ（Ｄ）］　ｇ（ＤＪここで
ｇ（０）はチャンネルレスポンスｈ　［Ｄ）の形式的な
反形１／ｈ　（Ｄｌである。

トレリスプリコーディングにおける重要なステップを表
わすのに約立つ方法について述べる。

ｘ　’　ＩＤ）　＝ｘ（Ｄ）ｇｆＤｌとする６次に、１
ｌｅｌＤｌｌｌ”　＝１１Ｘ　　’　（０）　　−Ｃ’
　（Ｄ）ＩＩ”が最小になるｃ　　’　（Ｄ）を求める
。　ｃ　’　（Ｄ）はｃ　［０］　ｇ　（Ｄ）の形のシ
ーケンスであり、ここでＣ（Ｄ）　ｅ　Ｃｓである。す
べてこのようなｃ　’　［０）の集合を濾波されたトレ
リス符号ΩＳ＝Ωｓ　ｇ（Ｄｉと呼ぶ、もしｘ　（ＤＪ
が符号Ｃｓの成る基本領域旦。内に均一に分布するラン
ダムなシーケンスであれば、ｘ　’　ｔＤ）は符号ΩＳ
の基本領域旦。内に均一に分布することに注意すること
、これは、Ｖ（Ｒｅ）　＝Ｖ（Ｒ’。）［ここで基本領
域のボリュームＶ（旦）は各ラティス点に関連したＮ空
間のボリュームである］及び変換ｘ　’　（Ｄｉ　＝ｘ
（Ｄ）ｇｆＤ）は１対１であることから生じる。更に、
ｅ　ｆＤｌは符号Ω“Ｓのボロノイ領域旦ｖ（Ｃ二Ｓ）
内に均一に分布することになる。（符号のボロノイ領域
は最小距離（ｍｉｎｉｍｕｍ　ｄｉｓｔａｎｃｅ）デコ
ーダーによってその符号内の零シーケンスにデコードさ
れる信号点シーケンスの集合である。従って、　ｅｆＤ
ｌの平均パワーＰ　ａｖｇはボロノイ領域内のシーケン
スの平均パワーである。平均パワーＰ　ａｖｇは一般に
符号ΩＳとｇ　（ＤＩのマグニチュードレスポンスｌＧ
［）１間の相互作用に依存するが、ｇ　（Ｄ）の位相レ
スポンス（ｐｈａｓｅ　ｒｅｓｐｏｎｓｅｌとは無関係
であることは留αすること、またｅ　（Ｄｉは非相関シ
ーケンス（即ち平担なスペクトルを有する）であること
も実験により示すことができる。

受信シーケンスは次式で与えられる。

ｒ　（［１１＝　ｅ　（Ｄ）　ｈ　（ＤＩ　＋　ｎ　（
Ｄ）　＝　ｘ　（Ｉｌｌ　−ＣｆＤ）　＋　ｎ　ｆＤｌ
　＝ｙ（Ｄ　Ｉｎ（Ｄ） ここでｙ（０）はＫ　（Ｄ）に対する合同モジュロＣｓ
である。ＣｓはＣｓの線形サブコードであるから、ｙ　
ｆＤ）　＝　ｘ　（Ｄ）　−ｃ　（Ｄｌも（Ｘ　（Ｄｌ
と同様に）Ｃｃの変形ＣＣ＋ａ（０）におけるシーケン
スであり、ｄ”ｍ１ｎ（Ｙ）≧ｄ”ｍ１ｎ（ΩＣ）とな
る。符号Ωε用のデコーダ（ＩＤ）を用いてｙ　（Ｄ）
を検出でき、更にこのデコーダーは雑音ｎ　（ＤＩを有
する理想的なチャンネルを通じてシーケンスＸ　（ＤＪ
を伝送するときと同じ性能（すなわち、ｄ２ｍｉｎ（二
〇ｌ＋を効果的に達成できる。最後に、Ｘ　（Ｄ）はｙ
　ｔｔｌ）に対して合同モジュロΩＳである（旦。）　
中の固有のシーケンスであり、従って、共通誤り領域が
（旦。）　である符号ΩＸ用の＠中なデコーダー（２１
）で、即ち、記号毎の“ｍａｄ八ｓへ”操作で推定され
たｙ　１０）から取り出すことができる（符号Ｃｓ内の
コードシーケンス０に対応するデコーダーの判定領域が
旦（０）ならば、Ｃｓ内のコードシーケンスＣｔＤ）の
いずれにも対応する判定領域は旦（ｃ）　＝Ｒ（Ｑ）　
＋ｃ　（Ｄ）であり％ΩΩ円内全シーケンスＣ（Ｄ）に
対して共通な誤り領域があるのに留意すること）、入力
ビツトは、推定したシーケンスＸ（Ｄ）を情報シーケン
スに再び変換する逆マツパ−（２３）によって検索でき
る。

トレリスプリコーディングの性能は比「：ｄ２ｔｏ　Ｉ
ｎ　／　（Ｐ　ａｗｅ　Ｎ　ａ　）によって測定される
。

′　されたトレリス・− 上述したように、トレリスプリコーディングにおいては
ｌ１ｅ（Ｄ）ＩＩ”　−１１ｘ　　’　（Ｄ）　−ｃ　
’　（Ｄｌｌ１２（ここでｃ’（ＤＩ　はｃ（Ｄｌｇ（
Ｄｌ、　ｃ（ＤＩＥＣ，（１）形ノシーケンス）を最小
にするシーケンスｃ　’　（Ｄ）を求める。このような
ｃ　’　［０）すべてを濾波されたトレリス符号Ωｓ”
”Ｃｓｇと呼ぶ。トレリスプリコーディングを実行する
ためには、符号Ω、用の最小・「均自乗誤差（以下、Ｍ
ＭＳＥと呼ぶ）デコーダーが必要となる。

Ω、が線形であるので、Ω３　′は線形符号であること
は明らかである。符号Ω、を有限状態トレリスによって
表わすことができても、旦、″は一般にそのように表わ
すことは出来ない、事実、Ｓｌが時点にでコードシーケ
ンスｃ　（ＤｌεΩ１を発生する符号化器の状態だとす
ると、時点ｋにおけるシーケンスｃ　’　（ＤＩ　＝ｃ
（Ｄｉｇ（ＤＪの状態はｃ＋＝’＝［Ｓ＋＋；ｐｉ＋　
］であり、ここでｐ＊＝　ＣＣ，−＋、Ｃ，−ｚ＊　　
’　・・〕はレスポンスがｇ　［ＤＪである「チャンネ
ル」の状態を表わす。ｇ　（Ｄｉが有限字数（ｆｉｎｉ
ｔｅ　ｄｅｇｒｅｅｌだとし、でも、Ｐ、のとり得る値
の数は有限ではない、なぜなら可能なコード記号Ｃ＋＋
−＋　ｌｉ＝　１　、　２　。

・・・）の集合はラティスのコセットであり、したがっ
て無限に多い要素を有するからである。したがって、一
般に、符号Ω３′用のＭ　Ｍ　Ｓ　Ｆ、デコーダーはｑ
在可能なコードシーケンスＣ（Ｄｌ又はＣ’　＋［１１
すべてについてのトリー（トレリスではない）検索によ
ってのみ実現し得るが、このようなトリー検索は実行不
能である。

れた２　−トレリス　［の　　　　デコニＬ： 以下の説明では、レスポンスｈ（０）に最小位相レスポ
ンスをもたせる。即ち、ｈ　（０１のすべての核（ｐａ
ｌｅ）と零が単位円内或いは単位円上になるようにする
にれは操作要件ではないが、これにより部分最適デコー
ダーを用いた場合に性能が向上する。

低減状態シーケンス推定（ＲＳＳＥＩの原理を用いて、
符号Ω３′用の近汲適「低減状態」トレリスデコーダー
のクラスをどのように構成するかについて説明する。

本節においては、符号旦、を分割ΔＳ／ΔＳ＝Ｚ”　／
ｒｌ”’　Ｚ”に基づく２次元トレリス符号だと仮定す
る。これらの符号は、Ｒ′″゛１ｚ３の固有のコセット
に関連するブランチ毎に２１遷移を有するトレリスで表
わすことができる。つぎの節では、その方法をどのよう
にしてより高次元のトレリス符号に拡張できるかを示す
。２次元符号はｇ　ｆＤ）が複素数位のレスポンスのと
きに１吏用する最も自然な符号であることは明らかであ
る。

低減状態シーケンス推定の関連する２二つの原理の第１
は、フィルターレスポンスｇ（０）の字数かに以上のと
きでも、最後のに個のコード記号Ｃ＋＋−１が古くなる
につれ（Ｉｅｓｓ　ｒｅｃｅｎｔ）、それについて保持
されている情報が段々と粗くなり遂には全く無視される
（ｉ＝ｋ）ようにラティスΔ（１）、Δ（２）　　・・
・、八（ｋ）のシーケンスがネストされている（すなわ
ちΔ（１）はΔ（ｉ＋ｌ）のサブラティスでなければな
らない）成るラティスΔ（ｉ）のΔＳ／Δｆｉｌｌａの
コセットΔ（ｉ）　　＋ａ　（ｃ　ｗ−Ｉ）のうちの一
つに於けるコード記号Ｃっ−、の親子関係ｆｍｅｍｂｅ
ｒｓｈｉｐｌに関してのみそのコード記号を監視するこ
とである。

したがって、もしΔＳとΔＳ′が２次元叉（１次元複素
）ラティスならば、例えば八ｓ　＝Ｚ”およびΔｓ’　
＝　Ｒｓｉｒ　ｚ　ｉであるならば、２次元区画チェー
ン（ｐａｒＬｉｔｉｏｎ　ｃｈａｉｎｌ　をｚ１／Δ（
ｋ）／・・・／Δｆ１１．（Δ（ｉ）　＝　Ｒ’ｉＺ”
、ここでｌ≦ｉ≦ｋ）と定着すルＩ）”Ｃ’、　Ｚ’／
Ａ（ｉｌ　！；ｔ、Ｊｉ　＝２’ｉ程度の２次元ラティ
ス区画である。

ｚ２中のフード記号Ｃニー、（１≦ｉ≦ｋ）はΔ（ｉ）
のＪ１ゴコセットのひとつに属する。このコセットをａ
（Ｃｍ−１）で示す、したがって１時点ｋにおけるコー
ドシーケンスＣ’　（ＤＪ　＝Ｃ（Ｄｉｇ（ＤＪの「コ
セット状態Ｊ　（ｃｏｓｅＬ　５ｔａＬｅｌ　はｔ菖＝
〔ａ（Ｃ＋＋−＋　）、−・・ａ　（ｃ、−、））　と
定義できる。

次にコセット状！ｒ３ｔ、、を符号エンコーダー状態［
ｅｎｃｏｄｅｒ　ｓシａｔｅ）　　ｓ−と連結して［ス
ーパー状態Ｊ　１ｓｕｐｅｒ−ｓｔａｔ、ｅｌ　Ｖ＋＋
を得る。

ｘ　［ｓｋ；ａ（ｃｋ−１）、　、、、、ａ（ｃｋ−Ｋ
）］。

現状３　Ｖ　、とコード記号ｃｋを与えられると、次の
状態ｖ１．１は一意的に決まることに留意すること、こ
の一意性は区画のネストされた性質、すなわち八（ｉｌ
　はつねに八（口ｔ）のサブラティスであるということ
により保証される。

第３図において、スーパー状態により低減状態トレリス
が定義され、これはしばしばスーパートレリスと呼ばれ
る。このトレリスにおいて、スーパー状態（２５）から
派生するすべてのブランチ（２７）に関連する信号点は
時間零（Ｌｉｍｅ−ｚｅｒｏｌのラティスΔ、。のコセ
ットに属する。もしΔ。

がΔ（１）のサブラティスであるならば、普通のトレリ
スにおけると同様にどのスーパー状態からも２・四のコ
セットのブランチが派生する。これらのブランチの夫々
はへ、。の任意の合併であるΔ。

の２ｓ個のコセットの一つと関連している。他方、もし
Δ（１）がΔＳ　′のサブラティスならば、Δ、。の任
意のコセットの合併であるΔ（１１の２１−１個のコセ
ットの一つ毎にブランチが生じる。

ｖｋのとり得る値の数は有限である。事実、もしΔ（ｉ
）がｋより小さいｉすべてについてＡｓ　’　　（Ｊｉ
″＞ｍ＋ｒ）のサブラティスであり、ΔｌｋｌがΔ、。

（、Ｌ≧ｒ）のサブラティスであるならば。

スーパー状態の総数は次のように与えられる。

”　”　Ｓ”１＜ｉ＜Ｋ　”ｉ−” 低減状態トレリスを説明したので、次にヴイタービのア
ルゴリズムを用いてこれらのトレリスを探索する方法を
説明する。　ｇ（ＤＪ＝ｇ、（ＤＩ　＋　ｇ、、、　（
Ｄ）と置く、ここでｇ　ｋ（ｏ）：　１　＋　ｇ　ｆＤ
ｌ・・・＋ｇＱｋは第１のに＋１項に対応した多項式で
２ｇｅｍ（Ｄ）は多分無限なスパン［ｐｏｓｓｉｂｌｅ
　１ｎｆｉｎｉｔｅ　５ｐａｎ）の残留成分である。　
ｇｇ、１ｓ（ＤＪ　＝ｇｍ（ｏｌ　／ｇｏ（ＤＩ　と置
く、ここでｇｓ　（ｏｌ及びｇｏ　（ＤＪはともに有限
字数多項式である。したがって、　ｇ＋＊（ｏｌ　は遅
延が少なくともに＋１であるｇいｆＤｌ　　と同じ遅延
を有する。

低減状態デコーダへの人力がｘ　’　（ＤＪ　と仮定す
る。第４図において、任意の時点にでのフードシーケン
スｃ　’　（ＤＩ　のユークリッド距離の経路長（Ｅｎ
ｃｌｉｄｅａｎ　ｄｉｓＬａｎｄｅ　ｐａＬｈ　ｍｅｔ
ｒｉｃｌをブランチ長（ｂｒａｎｃｈ　ｍｅＬｒｉｃｓ
）　７　Ｊ　　（ｊ　＜　ｋ　）の累算和「、＝Σ、Ｓ
ｋγ、と定義する。この累算は次に応じて計算され（３
１） ユニて−ｗ（Ｄ）−［ｘ（Ｄ）−ｃ（Ｄ）Ｉｇ−（Ｄ）
、　　二ｉはｙ（Ｄノメイ’（Ｄ）”−ｗ（Ｄ）［９Ｄ
（Ｄ）−１］　＋（Ｘ（Ｄ）　−ｃ（Ｄ）］ｑＮ（Ｄ）
−をに≦０についてはｗｈ＝ｏとして満足させることを
意味する。

（ｇ　、（Ｄ）−１１、ｇ、［Ｄ）及び［Ｉ　　ｇｏ（
ＤＩ　ｌはすべて少なくとも１の遅延を有し、従って、
ヴイタービアルゴリズム（ＶＡ）は併合経路［ｍｅｒｇ
ｉｎｇ　ｐａｔｈｓｌ　を比較しく３３）且つ最小径路
長を有する残存なシーケンスを保存する（３５）ことに
より再帰的に進める（３７）ことができるのに留意のこ
と、勿論、ここではブランチ長が残存経路とは無関係な
最大シーケンス推定（ＭＬＳＥ）におけるヴイタービア
ルゴリズムの動作とは対照的に、残存シーケンスはＣｍ
−Ｉｎ　　・・・Ｃ１，−＊及びＷ５を通る残存経路に
よって決まる。従って、ヴイタービアルゴリズムでは残
存経路毎にこれらの量を記憶する必要がある。トレリス
の構成において、たとえフィルターレスポンスｇ　（Ｄ
Ｉのに項のみが考慮されるにしても、上述の量の記憶値
はすべてブランチ長の計算に含まれる。

これらの低減状態デコーダーのうちで、複雑性に対する
性能のトレードオ）の点で特に際立ったものが一つある
。それは同時判定帰還デコーディング（ＰＤＦＤ）の特
別なシーケンスで、その場合には低減状態トレリスは単
に最初の符号ΩＳのトレリスである。これはに＝Ｏと決
定することで得られる。同時判定帰還デコーダー（以下
ＰＤＦＤデコーダーと呼ぶ）はこのクラスでもつとも簡
単なもので、しばし最適なデコーダーに近い動作をする
が、その性能は最も低い。

実際のヴイターピアルゴリズムは有限のデコーディング
遅れを持っている。このアルゴリズムによれば、時点に
の正しい符号がＶｋとだとすると、観測値γ８．γ１，
１　・・・γ、や、に基づいてに番目の記号について効
果的に判定できると仮定できる（この仮定によれば、ヴ
イタービアルゴリズムは常に正しいコードシーケンスを
選択する）、Ｍ＝０の場合には、そのようなデコーダー
は単純な１り定帰還デコーダー（ＤＦＤ）となり、その
場合、各記号間でデコーダーはそれ以前の判定結果を利
用して［ポストカーソル記号間Ｆ渉」を引き算し、Δ１
゜ようのＭ　Ｍ　Ｓデコーダーを用いてＡ、。の適当な
コセットを選択することによりハード判定（ｈａｒｄ−
ｄｅｃ　ｉｓ　１ｏｎ）デコーダーのように動作する。

この場合、明らかに、チャンネルレスポンスは関係なく
エラーシーケンスは時間零のラティスΔ１゜のボロノイ
領域［Ｒｖ　（Δ、。）］″ｌ内に常にあり、この領域
の平均パワーは伝送された記号の平均パワーを法定する
。

低減状態デコーダー（以下ＲＳ　Ｓ　Ｅデコーダーと呼
ぶ）の共通誤り領域二゛１の基本領域である。この領域
の平均パワーが得られる形状利得を決定する。この領域
、従って形状利得は、前にＭＭＳＥデコーダーでみたよ
うに、最初の符号Ω。

都フィルターレスポンスｇ（０）間の相互作用によって
大体決まる。

実際上、誤り領域形状利得は次のようにして計ることが
できる。符号Ω′、の成る＠囃な基本領域（Ｒ（１１”
内に均一に分布する入力シーケンスＸ′（Ｄ）をデコー
ダーし、エラーシーケンスｅ　（ＤＩを得る。このシー
ケンスはデコーダーの共通誤り領域に均一に分布する。

出力平均自乗誤差（ＭＳＥ）が形状利得となる０Ｍ＝０
ではｌ＼１゜の形状利得を得る。〜１が無限に増えてゆ
くにつれて、誤り領域が変化し、出力平均自乗誤差は使
用されている低減状態トレリスにより決まる限界に向か
って単調に減少する。

れた　　−トレ苧ス　−　の　゛　　デコーダー 上述の低減状態デコーディング方法を、二重ウェイ符号
のようなより高次元（Ｎ２２）の線形トレリス符号Ω、
に適用する。二重ウニ２ｒは、ウェイの−Ｔｒｅｌｌｉ
ｓ−Ｃｏｄｅｄ　ＭｏｄｕｌａＬｉｏｎ　ｗｉｔｈ　Ｍ
ｕｌｔｉｄｉｍｅｎＬｉｏｎａｌ　　Ｃｏｎ５ｔｅｌｌ
ａｔｉｏｓ　　　　　１ＥＥＥ　　Ｔｒａｎｓ、　　　
Ｉｎｆｏｒｍ、　Ｔｈｅｏｒｙ、　Ｖｏｌ、　　ＩＴ−
３３，ｐｐ、４１３：ｌ−５０１，１９１１７に述べら
れているタイプのウェイ符号が二重になったものである
。これらの符号はｍａｄ−２トレリス符号で、これらラ
ティスパーティションΔ、／Δ″、＝Ｚ″／２Ｚ″及び
Ｚ’　にｊ；５いて２Ｚ’（Ｄ’：Ｊセットを選択する
レートかに／Ｎの２値セ凝コードΩに基づくものと見做
すことができる。これらのコセットはＺ２内の２２’の
Ｎ／２コセツトにより特定できる。

Ｎ次元トレリスコードはＮ／２周期で周期的に変化する
２次元トレリスで表現できることになる、ｎＮ／２の時
点ではトレリスは８個の状態を有し、最初のＮ次元トレ
リスと同じように各状態毎に２ｇ″個のブランチを有す
る。一方、中間の時点（ｋＮ／２）＋ｊ　　（ｊ＝１，
２　　・　・　・、　（Ｎ／２−１）では、状態の数が
増え、その正確な数は使用する特定の符号により決まる
。

−・例として、４Ｄ　　８状態の二重ウェイ符号（４Ｄ
　　８−ｓＬａＬｅ　ｄｕａｌ　Ｗｅｉ　ｃｏｄｅ　＞
を考える。この符号はパーティションＺ’／２２’及び
レートが１／４の重量エンコーダーに基づく周期２　（
ｐｅｒｉｏｄ−２１の時変トレリス符号と見做すことが
できる。このトレリスな第５図に示す。ここで、同時に
８つの状態が存在し、各状態からニー）の異なるブラン
チが出てで、その合間に夫々一つのブランチが出ている
状態が１６存在していることに注、α。

一旦２次元トレリスが得られると、低減状態デコーダー
は前節で述べたように定義できる。従って、ヴイタービ
アルゴリズムの動作はトレリスの時間ととも変化する性
質を考慮する必要がある以外は前と同じである。また、
ハード判定デコーダー（Ｍ＝Ｎ／２−１）の形状利得は
時間零のラティスΔ、。のそれとは同じでないかもしれ
ない。

チ　ンネルそ−°ルの これまでのところでは１次式で記述される標準的な雛故
時間チャンネルを想定した６ ｙ　　（Ｄ）　＝　ｅ　［Ｄ）　ｈ　（ＤＩ　＋　Ｗ　
（Ｄ）ここで、ｅ（０）は複素人力シーケンス、ｈ（Ｄ
）はり、＝＋の複素で、因果関係のある（　ｃａｕｓａ
　ｌ）最小位相レスポンス、Ｗ（０）はｅｆｔ）とは無
関係な白色ガウス雑音成分である。実際には物理的チャ
ンネルはほとんどこの標準的なモデルとは合致しない６
すなわち、チャンネルレスポンスは最小位相レスでない
ことも多く、雑品は相関を取り得るし、更に、物理的チ
ャンネルはしばしば連続時間のものである。従って、第
６図において、実際は物理的フィルタ（２０１）はしば
しば送信器と受信器に線形送信及び受信フィルタ（２０
２）と（２０４）が付は加えられて、！！４準モデモデ
ルう離散時間チャンネルを構成する。

標準的なＩｔｉ敗時開時間チャンネルけることの他に、
上述のフィルターレスポンスの性能が最適になるのに役
立つことが望ましい、Ｎ１適の送信フイルタはナイキス
ト帯域内にれんが唇状（又は平坦な）スペクトルを有す
ることを旨通一般化したブリコーディングの場合に示さ
れている（連続時間チャンネルではこの結果は緩やかな
条件下で保持される。０？ｉ述のＰｒ１ｃｅ参照）、他
方、最適の受信フィルタは、ボーレート（及び最適サン
プリング位相）でサンプリングされる整合フィルター（
チャンネルレスポンス及び実際のチャンネルの雑ａスペ
クトルで合される）と、その後に設けられて最小位相組
合わせ（ｍｉｎｉｍｕｍ−ｐｈａｓｅ　ｃｏｍｂｉｎｅ
ｄｌ　レスポンスｈ　（ｏ）を生じる離散時間雑音白色
化フ、ｆルタは零強制線形等化器とその出力に表われる
残留雑音シーケンス用の最小位相線形Ｔ・測（Ｊｉ差）
フィルタとの縦詰接続で説明できる。予測フィルタ（ま
チャンネルモデｌｌ、ｈ（Ｄ）を表わす。

−実際では、全離散時間チャンネルを標Φ的モデルから
はずれて記号間干渉と雑音との間でより良いトレードオ
フを得るのが好ましい場合がある。

例えば、フィルタの選択は出力平均自乗誤差（ＭＳＥ）
に基づいても良い、勿論、記号間モ渉が最小になるとい
う保証ではない。それにも拘らず、適応が容易なのと、
特にＳＮ比が小さいときには１遺り確率が（常にでない
にしても）しばしば低くなると信じられているので、こ
の判定基準を用いることが多い。このＭＳＥ判定基準で
は、最適の送信器スペクトルは異なり、情報理論で見ら
れる［注水特性Ｊ　　（ｗａｔｅｒ−ｐｏｕｒｉｎｇ　
ｃｈａｒａｃＬｅｒｉｓＬｉｃｌを持っている（Ｊ、　
５ａｌｚ、　−Ｏｐｔｉｍｕｍ　ｍｅａｎ−ｓｑｕａｒ
ｅｄｅｒｒｏｒ　ｄｅｃｉｓｉｏｎ　ｆｅｅｄｂａｃｋ
　ｅｑｕａｌｉｚａｔｉｏｎ、−ＢＳＴＪｖｏｌ、５２
．１）Ｉ）、　１３４１−１３７３．１９７３参照）。

しかしながら、電話線上で見られる適度の或いは高いＳ
Ｎ比については、「注水スペクトル」はれんが唇状のス
ペクトルで密接に近似できる。最小Ｍ　Ｓ　Ｅ受信フィ
ルタもボーレートでサンプルされる整合フィルタと白色
残留エラーシーケンスを生じる離散時間フィルタから成
る。この白色化フィルタはＭＳＥ線形等化器をその出力
に表われるエラーシーケンス（２号間干渉と雑音）用の
予測誤差フィルターレスポンスの縦続で表わすことがで
きる。

上述のＭ　Ｓ　Ｅ判基準では、受信したシーケンスはｒ
　（Ｄ）　＝ｅ（Ｄｌｈ（Ｄｌ＋ｎ　　’　（ＤＩ　　
と書くことができ、ここでエラーシーケンスは信号に依
存しまた多分非ガウス形である。トレリスブリコーダー
も同じように動作できる。ここで、最適な送信フィルタ
を用いれば、前レスポンスはＳＮ比と無関係になる（事
実、非記号間干渉判定基＊　（ｎｏ−ＩＳＩ　ｃｒｉＬ
ｅｒ　１ｏｎｌ　で得るものもこれと同じフィルターで
ある。）ことに留意するのも有益かもしれない。

実際り、整合フィルターとＭＳＥ線形等化器の組合わせ
はＴ／Ｍ（’ｒはボー間隔、Ｍはエイリアシングｆａｌ
ｉａｓｉｎｇ）を回避するのに十分な大きさに選ばれて
いる）の分数タップ間隔を有するディジタルトランスバ
ーサル等化器として実現できる。

物理的チャンネルの特性はしばしば分からないので、こ
の等佳品を学習するために適応判定訓練アルゴリズムが
必要となる。これは、Ｑ　Ｐ　Ｓ　Ｋ　ｉ号購成を変調
する擬似雑音（ＰＮ）シーケンスのような公知のトレイ
ニングシーケンスをデータ伝送に先立って伝送し１次に
最小平均自乗アルゴリズム（以下、Ｌ）（Ｓアルゴリズ
ムと呼ぶ）を用いることにより達成できる（Ｊ、　Ｐｒ
ｏａｋｉｓ、”　Ｄｉｇｉｔａｌ　Ｃｏｍｍｕｎｉｃａ
ｔｉｏｎｓ、　−Ｍｃｇｒｏｗ−Ｈｉｌｌ、１９Ｂ３参
照）。いったん等佳品を学習してしまえば、適応最小Ｍ
ＳεＳε線形予測器現できる。このｐ測器のタップ間隔
はＴで、残留誤差シーケンスを白色化する。

その定常状態係数がモデルの所望のチャンネルレスポン
スｈ　（Ｄｌを形成する。これまでの説明では、すべて
のフィルタが無限長であるとした。勿論。

実際には線形等佳品とＦｉ１１１１はｎ限長のフィルタ
で実現する。しかしながら、線形等化器はＰ側型が一ト
分の長さのものの場合には、これまでの説明が近似的に
当てはまる。

ト分に長い訓練期間が終った後、チャンネルレスポンス
ｈ　（ＤＪに関する情報が送信器に送り返されてトレリ
スブリコーディング時に使用される。データ伝送時には
チャンネルレスポンスの小さな変化を検出するように線
形等化器の係数を常に適応アルゴリズムで調整する。し
かし、予測フィルタの方は固定したままとする。この情
報を「サービスチャンネル」を使って送信器に送り返す
ことができ、史に送信器と送信器の間が適当な同期が維
持できるとすれば、予測器の更新も考えられる。

或いは、受信器が予測フィルタの係数の真の現在値を監
視し、もし喰い違いが大きくなすぎた時には新しい訓練
信号を要求するようにしてもよい。

％９．妃のｊ【現 トレリスプリコーディングの応用の一つは、２９５４Ｈ
ｚのボーレートで１９．２ｋｂ／ｓのピットレートで動
作する。すなわち、ポー当り６．５ビツト送出する音声
帯域モデムに対するものである。

送信器及び受信器は大抵ディジタルの形で実現する。

このようなモデムの送信器（１２０＞と受信器（＋０４
）とを第７図及び第８図に夫々示す。上述の最適性に基
づいて、送信器フィルター（１０６）を過剰府域幅が小
さい（≦１２％）二乗余弦平方根特性を有する。即ち、
れんが板状スペクトルを近似するように選ぶ、訓練時に
は、公知の擬似ランダム４点ＱＡＭ（直角振幅変調）シ
ーケンス（＋０７）ｘ（Ｄ）を、受信器が最初にその適
応等化器（１０８）を１次に適応予測フィルタ（１１０
）を学習できるだけの長い時間、訓練／データスイッチ
（＋０５＞を介して伝送する。送信器フィルタの複素出
力を搬送周波数ｗａ（ラジアン／Ｓ）に変調し、その変
調信号の実数部をＤ／Ａ変換し、アナログフィルタで濾
波し、チャンネルを通じて送信する（＋０７＞、受信器
（１０４）では、受イ３信号はアナログフィルタ（＋０
９）で濾波され、１・分高い公称サンプリングレートで
Ａ／Ｄ変換される（サンプリング位相はタイミング回復
回路（Ｌｉｎｉｎｇ　ｒｅｃｏｖｅｒｙ　ｃｉｒｃｕｉ
Ｌｒｙｌにより制御される）。ディジタルサンプルＺＨ
のシーケンス（ここでｎはサンプリング指標）をタップ
間隔Ｔ／Ｍの等佳品遅延線（＋０８）に加える。

適応受信器の動作を説明するために、線形等化器の複素
係数を０１．（ここで−Ｎ、≦ｎ≦Ｎ２（Ｎ、＋Ｎ、＋
　１タツプ））として示す０等化器の出力をボーごとに
計算し、変調してシーケンスＲ゛、を得る。すべての係
数は零に初期設定されるものとする。初期値はまた（Ｃ
ｈｅｖｉｌｌａＬ　ｅｔ　ａｌ”Ｒａｐｉｄ　Ｔｒａｉ
ｎｉｎｇ　ｏｆ　ａ　Ｖｏｉｃｅ−ｂａｎｄ　Ｄａｔｅ
　Ｍｏｄｅｍ　Ｒｅｃｅｉｖｅｒ　Ｅｍｐｌｏｙｉｎｇ
　ａｎ　Ｅｑｕａｌｉｚｅｒ　ｗｉｔｈ　ＦｒａｃＬｉ
ｏｎａｌ　　Ｔ−ｓｐａｃｅｄ　　Ｃｏｅｆｆｉｃｉｅ
ｎｔｓ、　　　ＩＥＥＥ　　Ｔｒａｎｓ、　　　Ｃｏｒ
ａｍｕ、、　　Ｖｏｌ、Ｃロト３５．　　ｐｐ、　　１
１６９−８７６、　５ｅｐｔ、　　１９８７）　　に述
べられているような変速初期設定、方を用いて決めても
よい、いずれの場合でも、線形等化器の係数は・０ｎ、
に＋１＝Ｃｎ、に−”　Ｃｋ　ｚ♂。

（ｎ＝＝Ｎ＋、　　・　・　・　０．　・　・　・　Ｎ
１．　　　＠＝ｒ　’　　　　Ｘ　ｍは等佳品出力と分
かっている伝送記号Ｘ、どの間の誤差、に＝ｎ／Ｍはボ
ー間間隔の指標である）に応じて調整される。もしステ
ップサイズαが十分率さいと、係数はＭＳＥ　（平均自
乗誤差）が最小になる値に収束する。更に、Ｎ。

都Ｎ、が十分大きいと、フィルタは先の述べた最適ＭＳ
Ｅ線形等化器に収束する。

いったん等化器が収束すると、その出力γは係数ｈａ＝
ｔ（固定）、ｈ、及びり、のＴ間隔予測（誤差）フィル
タに供給される。このフィルタがγ（Ｄ＞、即ちチャン
ネルモデルの出力を生じる。その係数は ｈ　ｉ、　　ｋｒ１　”ｈ　１．　ｋｒＱ　Ｃ”　ｋｒ
ｉｔ　’　ｋｒ　　ｉ　ｓ　１　、２ここで、 は予測後の最終的な誤り、βは他の小さなステップサイ
ズである。βが十分率さいと、これらの係数は平均自乗
誤差が最小となる値に収束する。もしチャンネルモデル
全体をここで仮定するように３次元モデルで表現できる
ならば、先に述べたように残留誤差シーケンスがほぼ白
色になると思われる。

収束後、係数ｈｌとｈ２とはトレリスプリコーディング
時に使用するよう送信器に送り返される、これらは、例
えば、係数を２進ワードに符号化し、４−ＱＡＭ信号方
式で送るだけで行うことができる。普通これらのワード
はフレームの開始を示すフラッグと伝送誤りを検出する
ための誤り制御検査を含む小さなフレームで送られる。

以下の説明では、推定チャンネルレスポンスｈ　（Ｄ）
で示し、その形式的逆１ｆｏｒｍａｌ　１ｎｖｅｒｓｅ
ｌをｇ　（ＤＪで示す。

データ端末装置（ＤＴＥ）（＋２０）からの実際のデー
タ伝送時に、予測フィルター（＋１０）は固定しておく
が、線形等佳品＜１０８）はチャンネルレスポンスの小
さな変化を検出するため絶えず判定指示モードとされる
。トレリスブリコープのため１判定は予測フィルター（
＋１０）の出力ｈ　（ＤＪとして得られるεｋを発生す
ることは不可能である。従って１等化器出力を再構成す
るために、予測誤差フィルタの−の出力ｒｋを推定した
チャンネル記号ｙ’ｔ＋との間の最終的な予測誤差ｉ　
’ｋ　＝ｒ、−ｙ′＊がｇｆＤｌ（１２２）を通される
。推定値ｙ″、は簡単なラティス動作で遅延もなく得ら
れるが、これはまた多少の遅さはあるがヴイタ゛−ビデ
コーダーから得ることもできる。実験によれば、この構
造は判定誤りがあっても信頼性良く動作する。

第７図において、トレリスプリコーダ（１２４）では符
号化用に４次元１６状態ウ工イ符号（ΩＣとして示す）
を、整形用に２次元４状態アンガーベツク符号（Ｃｓと
して示す）を用い、２次元（即ち、ボー）如に６．５ビ
ツトを送出する。符号ΩＳはレート１／２の２値重量エ
ンコーダー（ｂｉｎａｒｙ　ｃｏｎｖｏｌｕｔｉｏｎａ
ｌ　ｅｎｃｏｄｅｒｌと２次元パーティションＺ’／２
Ｚ”に基づ＜ｍａｄ２のトレリス符号である０等価的に
、符号Ｃｓはレート２／４のｉｔエンコーダーと４次元
パーティ−ジョンＺ４／２Ｚ４で記憶できる。この形で
符号ΩＳは４次元の時間零ラティスＲＺ’を有する。他
方、符号ΩＣはレート３／４の重量エンコーダーに基づ
いており、パーティション２″′ｆｆＺ４／　２　弓Ｚ
　４に基づくように基準化される。この符号は４次元如
に（等価的には２ボー毎に）一つの冗長ビットが加わる
０時間零ラティスＲＺ’の基本領域は基準化されたラテ
ィス２−’Ｚ’のどのコセットからも正確に２１６・１
１個、即ち、１２弓Ｚ’／ＲＺ’＝２１４の点を含んで
いる。

小さなバッファー（＋　３０）に、信号間ＷＡ（２０）
毎に６．５ビツトのレートでデータ端末装置から受信し
たビットが入る。連続したポーで、スクランブラ−（ｓ
ｃｒａｍｂｌｅｒｌ　　（１３２）はこのバッファーか
ら７或いは６ビツトを交互に取り出す。

スクランブルされた（ｓｃｒａｍｂｌｅｄ）ビットは、
＋６（２ｊ）〜１０（２ｊｌ及びＴ　５　（２ｉ＋Ｉ）
〜１０（２ｊ÷１）のラベルが付けられて二つの連続す
る時点において所謂１ビツト１３個単位で２進エンコー
ダーに送られる。

第９図を参照すると、！ビット１２　（２ｊ）　Ｉ　Ｉ
　（２ｊ）は整数ｍｏｄ　４を表わすものとされ、差分
符号器（＋５０）で差分的に符号化されて＋　０２（２
ｊ）　１口（２ｊｌ＝　１２Ｔ２ｊ）　　Ｉ　１＋２ｊ
ｌ　の、　＋　［１２（２ｊ　−２）　　Ｉ　Ｄｌ（２
ｊ−２１（ここでのはｒｎｏｄ　４加算を示す）の関係
に応じて二つの差分的に符号化されたビット１０２＋２
ｊ）及び！旧（２Ｊ）を得る。

ビット■旧（２ｊ）とＴＯ（２ｊ）はレートが２／３の
１６状態２進重量符号器（１５２）に入り、そこで一つ
の冗長ビットＹＯ（２ｊｌが得られる。第１Ｏ図を参照
すると、この符号器は４＠の２遅延シフトレジスター（
２４Ｂ）と３個のｍａｄ　２アダー（２５０）を有する
順序回路を含む（この符号器は他の回路を使っても実現
できる）。

再び第９図を参照すると、ビットＩ　Ｄ２（２ｊｌ　Ｉ
ＤＩ（２」）と冗長ビットＹＯ（２ｊ）はビット変換器
（＋５４）に入り、そこでは下記の表に応じて４ＷＡの
出力ビットを発生する。

ｒＤ２（２ｊ）　　　　ｒＤｌ（２ｊ）　　１０（２づ
）　　ＹＯ（２ｊ）　　Ｚｌ（２ｊ＋１）ｏａ　　　　
ｏ　　　　ｏ。

００　　　０　　　１１ Ｇｏ　　　　１　　　０Ｇ ００　　　　Ｌ　　　　１１ ０１　　　　Ｑ　　　　０１ ０１　　　０　　　１０ ０１　　　１　　　０１ ０１　　　１　　　１０ １０　　　０　　　００ ｔｏ　　　　Ｑ　　　　１１ １０　　　１　　　０Ｇ １０　　　　Ｌ　　　　１１ １１　　　０　　　０Ｒ １１０１Ｇ １１　　　１　　　０１ １１　　　１　　　１０ ２０（２ｊ＋１）Ｚｌ（２プ） Ｏ ０ ０ ０ １ １ １ １ ０ ０ ０Ｑ ０ １ １ １ １ これらの出力ビットを用いて、ユニオン（ｕｎｉｏｎ）
　カ４　次元’ｊ　’）　ッＦ　ｆｇｒｉｄｌ　２弓Ｚ
’＋（２−，２−’、２−’、２−’）の２４７４の１
６コセツトのうちの一つを選ぶ。このようなコセットの
夫々は２次元グリッドｉ’Ｚ”　＋　（２−’、２−’
）において一対のコセット２４ｚ２で表現できる。これ
らはＺ　Ｉ　（２ｊ）　Ｚ　Ｏ（２ｊｌ及Ｕ　Ｚ　ｌ　
（２ｊ”ｌｌ　Ｚ　Ｑ　ｆＺｊ÷Ｉｌ　ｌ：　、Ｊ：り
個別に選択される。

残りの１ビツト！３（Ｚｊｌ〜ｆ６（２ｊｌは変らず、
改めて２２　（２ｊ）〜Ｚ５　（２ｊｌのラベルが付け
られる。これらはＺ　ｌ　ｆ２ｊ）　Ｚ　Ｏｆ２ｊ）と
組合わされて６個組ミＺ５　（２ｊｌＺ’　（２ｊｌ　
・−−２０［２ｊ）を形成する。同様に、！ビット１２
（２ｊ÷１）〜１５（２ｊ◆１）はＺ　Ｉ　（２ｊ＋Ｉ
Ｉ　Ｚ　Ｏ（２ｊ＋ｌｌとともに６個組みＺ５（２Ｊ◆
ＩＩＺ４ｆ２ｊ◆１）・・・ＺＯ（２ｊ÷１）を形成す
る。

１ビツト夏＋　　１２ｊ＋Ｉ）　１０　（２ｊ＋１）は
順次レート１／２の逆シンドローム形成子（Ｈ−’）　
”　　（＋　５０）に入る。ト］は上記において定義し
た二進符号ΩＳのシンドローム形成子である。第１１Ａ
図を参照すると、（Ｈ−’）”は２組のＳビット５１１
２ｊｌｓｏ（２ｊｌ及びＳ　ｌ　　（２ｊ＋ｌｌ　Ｓ　
Ｏｆ２ｊ◆１）を作る。前に述べたように、また前記の
米国特許出願“ＴｒｅｌｌｉｓＳｈａｐｉｎｇ　ｆｏｒ
　Ｍｏｄｕｌａｔｉｏｎ　Ｓｙｓｔｅｍｓ　　に記載さ
れているように、（Ｈ−”）”は下に述べる（Ｈ）７の
逆であり、これを含めることで誤り伝播を抑制する。

第１２図を参照すると、上述のようにして発信した１６
ビツトに、グリッド２−’Ｚ”　＋　（２２１）上に在
る２５６ポイントの２次元方形信号セットから選んだ二
つの最初の信号点ｒ　（２ｊｌ及びｒ　（２ｊ−１）に
マツプされる。まず、６個組みのＺビットを用いて６４
ポイントの象限−１の信号セット（２６＋＞から信号点
を選択する。この信号点は２−２７２のコセットである
４個の部分集合（第１２図では異なる陰影がついている
）に分けられる。信号点は、第１２図左下隅に示すラベ
リングに応じてｚｌ及びｚＯが一緒になってコセットの
一つを選択するようにラベリングされる。残りのビット
Ｚ５　、Ｚ４　、２３　、２１　、　（Ｄラヘ’）　ン
ク＋１コセットのａについてだけ示しである。他のコセ
ットについては、ポイントを象限１の信号点の中心（＋
／２．１／２）のまわりを９０度回転すると同じラベリ
ングになるというルールでラベリングを行うことができ
る。

ウェイ符号器（＋５２）（第９図）により、象限１のポ
イントの許容シーケンスｒｕ７の最小距離を大きく保持
することができる。

ＳビットＳ１及びＳＯが下記のルールに従って所期のポ
イントの最終的な象限を決定する。

Ｓｔ　　ＳＯ象　　限 ００　　　　　　　　　　１ ０１　　　　　　　　　　４ ＋０　　　　　　　　　２ １１　　　　　　　　　３ 第１３図を参照すると、象限１内の信号点はそれらが７
２のコセットに留まるようにＳビットにより選ばれた象
限に移動させられる。これは象限１のポイントを（０，
０）、（Ｏｌり、（１゜１）又は（−１，０）でオフセ
ットすることで行う、従って、許容シーケンス間の最小
距離は変らない。このようにして得られた信号点が最初
のシーケンスＸ　（Ｄ）を形成する。従って、Ｓビット
は最初のシーケンシＸ　［Ｄｌの要素について２”１０
の２７２のコセットを決定するコセット表現シーケンス
と見做すことができる。

第１４図を参照すると、最初のシーケンスＸ　（ＤＪは
同時判定帰還デイコーディング（ＰＤＦＤ）（２９４）
（これは第９図の回路とともに、第７図のトレリスブリ
コーダーの一部である）を用いて伝送シーケンスｅ　（
Ｄ）に変換される。同時判定帰還デイコーディングの代
りにより強力なＲ３Ｓ、Ｅデコーダー或いは他の濾波さ
れたトレリス符号ΩＳ用の複雑さを低減したデコーダー
ｆｒｅｄｕｃｅｄ−ｃａｍｐｌｅｘＨｙ　ｄｅｃｏｄｅ
ｒ）を用いてもよい。

先に見たように、最適デコーダーは整形コードＣｓから
シーケンスｘ　’　（Ｄｉ　＝Ｘ（Ｄ）ｇ（Ｄ）とｃ　
’　（Ｄ）　＝Ｃ（Ｄｌｇ（ＤＪとの間の平均自乗誤差
が最小になるコードシーケンスＣ（１））を選択する。

伝送されたシーケンスは誤りシーケンスｅ（ＤＪ＝　ｘ
　’　（ＤＩ　　　ｃ（Ｄ）である、同時判定帰還デイ
コーディングにより選択されたフードシーケンスは一般
に最小平均自乗誤差にならないが、実験によると過剰平
均自乗誤差が小さい場合が多い。例えば、二つの係数を
有するチャンネルでは同時判定帰還デイコーディングに
より、ｈ、及びｈ２の値に応じて０．５〜０．８５ｄＢ
の整形利得（ｓｈａｐｉｎｇ　ｇａｉｎｌを得ることが
できる。

ここで、同時判定帰還デイコーディングの動作を少し詳
しく考える。まず、整形フード（ｓｈａｐｉｎｇｃｏｄ
ｌ旦Ｓについて説明する。

第１３図に於いて、このコードの２次元記号は整数ラテ
ィスＺ”　　（２９９）から選ばれる。これらの記号は
ｚ２中の２２”の（４ｆｌｌｌの）コセットに対応し第
１３図の左下隅に示すように、Ａ、Ｂ、Ｃ及びＤのラベ
ルを付された４つの部分集合に分割される。

整形コードΩＳに於いてあり得るシーケンスＣ（Ｄ）の
全部を第１５図のトレリス図で表わす、ここでは、どの
状態からも２本のブランチ（３０２）が出ていて、各ブ
ランチは２次元部分集合を表わす。例えば、状態０はＡ
及びＢのラベルの付いた２本のブランチを有する。

同時判定帰還デコーディングはヴイタービアルゴリズム
を用いて、また４次元ウェイ符号器と同期して、ボーひ
とつ置きに二つの遅延した誤り記号ｅ　（２ｊ−Ｍ）と
ｅ（２ｊ＋Ｉ−Ｍｌ　　（ここでＭは（偶数）はボーの
数で測ったデイコーディング遅れである）をリリースす
るような反復的に動作する。各ボー間間隔毎にヴイター
ビアルゴリズムはトレリス図に於ける各状態を夫々対応
する４つの径路距離λＮ２ｊ＋１）（ｉ＝０．１．２．
３．　ｌ１＝０．Ｉ）を記憶する。ここで２は奇数或い
は偶数のボーを示す。ヴイタービアルゴリズムまた前に
仮定した各状態につき−づつの誤り記号ｅ、（２」＋β
十の）（ｉ＝０．１．２．３．４２＝０．１及びｍ＝１
．２・・・、Ｍ）の有限履歴を記憶する。繰返す毎に（
即ち各ボー毎に）経路長がブランチ距離だけ増分されて
経路が長くなる。ｉ番目の状態からの経路ブランチＰ（
ｐｉ、２１に対するブランチ距離は下記のように表わさ
れる。

ｂｉ、ｐ　　（２ｊ　　１４２）　　＝　　ｌ　　ｅｉ
　　［ｚｊ　　＋Ａ　−１）　　ｂ＋　　ｅ（２ｊ　　
＋ｆ２　　２）　　ｂｉ　　＋ｘ　　（２ｊ１４２＞　
　　ｃ　ｌ＋＃　　（２ｊ　十氾） ここでｃｔ、ｅ（２Ｊ＋β）はブランチ距離を最小にす
るブランチに関連した２Ｚ”のコセットからの記号であ
る。遷移後の各状態ｉ゛毎に二つの併合する経路の累算
距離を比較し、短い方の経路を残存させるものと宣言す
る。その経路距離は状態髪の新しい経路距離となり、次
の式で与えられる残存遷移（ｓｕｒｖｉｖｉｎｇ　Ｌｒ
ａｎｓｉｔｉｏｎｌ　　（ｉ　’　、　ｐ　’　）は後
で使用するためその経路履歴に記憶されたものの中で最
も最近の誤り記号になる。

ｅｌ、（２ｊ＋１）ｘ−ｅｉ、（２ｊ＋１−１）ｈ、　
−ｅｉ＊（２ｊ＋＋１−２）　ｈ２十ｘ（２ｊ＋１）　
−ｃｉ、、ｐ、（２ｊ＋ｌ）。

Ｉボー置きに或はβ＝１のときに、アルゴリズムは最小
経路距離の状態を決定し、その誤り記号の履歴をＭ個の
記号について調べ、時間２ｊ−Ｍ及び２ｊ−Ｍ＋１の間
それらの誤り記号を出力として出す。

プリコーダ−１２４により得られる誤り記号は、チャン
ネルレスポンスｈ　（Ｄ）とは無関係に原点を中心にし
た一辺が２の正方形であるサブラティス２２”のボロノ
イ領域内にある。ｈ、とり。

が共に非整数のときには、誤り記号はその正方形内で無
限に多数の値をとり得る。

２進ラティスのパーティション（ｐａｒｔｉＬｉｏｎｓ
ｌに基づくトレリス符号を用いるトレリスプリコーディ
ングにおいては、伝送されたシーケンスの要素ｅｊは正
方形の境界内にある２Ｄ立体配座に属する。更に、トレ
リスプリコーディングは２Ｄ立体配座のサイズを大きく
する。これらの影響で伝送された記号の最大／平均化が
大きくなるが、時にはこれが望ましくないこともある。

この立体配座の増大を減少させることができ、また同時
判定帰還デコーディングに制約を加えることにより（第
４図）もっと円形の境界を得ることができる。

例えば、同時判定帰還デコーディングに対して、大きさ
が成る所定の径Ｒ６より大きくない要素ｅｊ、即ちＩｅ
ｊｌ≦Ｒｃの大きさの要素の伝送シーケンスＣ（Ｄ）に
なるコードシーケンスＣ′　（Ｄ）のみを（濾波された
符号Ω３゛から）選ぶように制約を加えることができる
。半径Ｒｃがかなり大きいと、デコーダは制約を損なう
ことなく進むことができる。しかし、もち半径Ｒｃが小
さすぎると、この制約を満足しないコードシーケンスを
選ばざるを得ないこともある。

この種の制約は、平均自乗誤差（ＭＳＥ）寸法がＲｃ”
以上のトレリスのブランチをデイエンファシス（ｄｅｅ
ｎｐｈａｓｉｚｅ）　Ｌ／、それらに適当に選んだ数Ｑ
を掛けることにより、Ｒ３５Ｅ型デコーダに非常に簡単
に組み込むことができる。数Ｑが大きくなればなる程、
制約はハードになる。この結果、制約円の外側の点を選
ぶ可能性が減る。数Ｑが充分大きく、半径Ｒｃが余り小
さくなければ、制約円外の点は決して選ばれない、もし
、半径Ｒｃが小さすぎるときには、ブランチを拒否して
はならないことに注意、なぜなら、拒否すると、デコー
ダはコードシーケンスとしてイリーガルなものを選ばざ
るを得ないかもしれず、その場合には最初のシーケンス
「（Ｄ）を受信器で正確に再現できない。

伝送シーケンスｅ　（Ｄ）をチャンネルを通じて伝送す
る前に濾波するときには、濾波後にＰＡＲを最小にする
ためより高次元で制約を（シーケンスｅ　（Ｄ）の連結
する要素のグループについて）加えることが有益である
。例えば、二つの最も曇近のブランチ距離の和を半径の
自乗Ｒｃ，２と比較することで制約を４次元で加えるこ
とができる。

ヴイタービアルゴリズムを更に僅かに変更して、それが
選択するコートシーケンスＣ（Ｄ）が確実にＣｓ’から
の許容されるシーケンスになるようにする。なぜなら、
そうしないと、最初のシーケンスｅ　（Ｄ）が正確に再
生できないからである、ヴイターピアルゴリズムが判定
を下すために経路履歴を調べるときは常に他の経路につ
いても調べてそれらが同じ状態になるかどうか判定する
。

同じ状態になるのでなければ、それらの現在の経路距離
を非常に大きな値に設定して経路を取り除＜　（ｐｒｕ
ｎｅｄ）。これにより、確実に許容コートシーケンスの
みが選ばれる。

プリコートされたシーケンスｅ　（Ｄ）は送信器成形フ
ィルター（＋０６）（第７図）に通され、Ｄ／Ａ変換さ
れ、アナログフロントエンド（ａｎａｌｏｇ　ｆｒｏｒ
＋Ｌ　ｅｎｄｌ　［＋　０７　）で濾波し、その後チャ
ンネルを通じて伝送される。

受信器では、受信信号ｒ　（ｔ）をまずアナログフィル
ター（＋０９）（第７図）で濾波して帯域外雑音を除去
し、Ｍ／Ｔのレートでディジタルストリーム（Ｚｌ）に
Ａ／Ｄ変換する。このディジタルストリームはＮ＋　＋
Ｎ２　＋　１のタップと１７Ｍのタップ間隔を有する適
応線形等佳品（１０８）に入力する。このフィルターの
出力をｌ／Ｔのボーレートでサンプルし、次に復調した
後、予測フィルターｈ（Ｄ）（１１０）を濾波して下記
の受信シーケンスを近似的に生じる。

ｒ　　（Ｄ）＝ｅ　（Ｄ）ｈ　（Ｄ）＋ｎ’　　（Ｄ）
＝ｘ　（Ｄ）−ｃ　（Ｄ）＋ｎ’　　（Ｄ）＝Ｙ　（Ｄ
）＋ｎ’　　（Ｄ） 前に説明したようにｙ　（Ｄ）の要素はＺｌの同じコセ
ット内、従って２−′Ｚ２における２　−ｚ　ｚ　＊の
同じコセット内にある。それ故、ある得るシーケンスｙ
　（Ｄ）間の最小距離はあり得る人力シーケンスｘ　（
Ｄ）間の最小距離よりも小さくはなく、デコーダーを僅
かに変更してシーケンスｙ（Ｄ）の要素ｙｊについて潜
在的に大きな信号セット境界を考慮する必要がなければ
、シーケンスｙ（Ｄ）をｘ　（Ｄ）についてヴイータビ
デコーダ（１３３）でデコードできる。

要素ｙｊに対する信号セット境界の形状及びサイズはチ
ャンネル係数り、とｈ２によって決まるのを示すことが
できる。例えば、もしｈｌとｈ２の両方が実数（ｒｅａ
　ｌ）であるならば、境界は原点を中心とした一辺が２
　（１＋　ｈ＋　＋　ｈａ　）長さの方形となる。もし
、出力立体配座のサイズが重要であるならば、訓練時に
係数の大きさを限定するのが有益かもしれない、これは
制約を受けた適用アルゴリズムで達成し得る。

デコーダ（＋３３）をチャンネルフィルターによる立体
配座の拡張とは無関係にすることができる。もし、受信
シーケンスｙ（Ｄ）を、要素がうティス２ｚ”のもので
あるシーケンスｔ　（Ｄ）で変形すると、その変形され
たシーケンスｙ　（Ｄ）−ａ　（Ｄ）　＝ｘ　（Ｄ）　
−ｃ　（Ｄ）　−ａ　（Ｄ）は依然ｘ（Ｄ）ｎｏｄΩ３
に等しい。というのは、構成要素ｃ　（Ｄ）　＋ａ　（
Ｄ）は許容コードシーケンスであるからである。従って
、受信シーケンスはラティス２ｚ”のボロノイ領域内に
変更し得ることになる（ボロノイ領域は例えば、　Ｃｏ
ｎｗａｙ　＆　５ｌｏａｎｅ、５ｐｈｅｒｅ　　Ｐａｃ
ｋｉｎｇｓ、　　Ｌａｕｉｃｅｓ、Ｇｒｏｕｐｓ、Ｎｅ
ｗ　　Ｙｏｒｋ。

Ｓｐｒｉｎｇｅｒ−Ｖｅｒｌａｆ、　１９８８に定義さ
れている）、（符、号化）コードΩ、に対するヴイター
ビアルゴリズムは、方形境界を有するこの変更シーケン
スで動作でき、遅延した推定シーケンスｙ”を出力でき
る。

ボー−つ置きにヴイタービアルゴリズムは二つの遅延し
た判定ｙ”（２ｊ）と、ｙ”（２ｊ＋１）を生じる。こ
れらから１ビツトを抽出するために、２Ｄの要素が２１
の同じコセット内に留まるように上述の判定を象限ｌに
変換（ｔｒａｎｓｌａｔｅ）することで、まず２ビツト
を得る０次に、２ビツトは第１２図に示す逆マツピング
により抽出できる。

Ｓビットを抽出するために、下記に応じて（前と同様に
）象限にまずラベルを付ける。

象限　　　　　　５ＱＩＳＱ２ １　　　　　　　　　ＤＯ ２０＋ ０ 次に、ｙ”（２ｊ）及びｙ”（２ｊ＋ｌ）の象限により
ラベルＳＱＩ　　（２ｊ）ＳＱＯ（２ｊ）及び５Ｑｌｆ
２ｊ＋　ｔ）ＳＱｆｌ　　（２ｊ＋Ｉ）が決まる。ＳＱ
Ｉ　　（ｉ）ＳＱＯ（ｉ）＝ＳＩ　　（ｉ）ＳＯ（ｉ）
ｅＢＩ　　（ｉ）ＢＯ（ｉ＞　であルコトヲ示１．＝と
は容易である。

ここで、ｊ＝２ｊまたは２ｊ＋１．十は排他的倫理和演
算を示し　Ｂ　Ｉ　ｆｉ）　Ｂ　０（ｉｔはＰＤＦＤに
よるブリコーディング時に選ばれたコード記号Ｃ（）に
ついての２２”のコセット（Ａ＝ＯＯ，Ｂ−１１、Ｃ−
０１及びＤ＝　Ｉ　Ｏ）を示す２進２＠組みである。

第１１図Ｂ及び第１６図において、ラベルＳＱ！（ｉｌ
ｓＱＯ（ｉｌは無帰還で、レート２のシンドローム形成
手段Ｈ”　　（２５６）を順次通過する。このシンドロ
ーム成形手段は、コセットラベルＢ　ｌ　（ｉ）ＢＯ（
ｉｔのどの許容シーケンスでもその出力にオール零のシ
ーケンスが得られる性質を有する。更に、（Ｈ−’）”
　Ｈ”は恒等行列１と等しい。それ故、最初に（Ｈ−’
）”を通過しその日７を通過するシーケンスは変化しな
い、従って、第１６図に示すように、推定値ｙ’ｉｉ）
が正しい限り、シンドローム形成手段の出力に伝送され
たビット１１（２＋日１１０°（２ｊ÷１）が得られる
。シンドローム形成手段はＨ７は無帰還なので、たまた
ま誤りが起こったとしても、それが破局的な誤り伝播に
つながることはない。

第１６図に於いて、残りの情報ビットは、逆ビット変換
器（２８６）と下記の関係に基づいて動作するコーディ
ング作動デコーダーにより取り出すことができる。

１２　　’　　（２ｊＨＩ　　′　（２ｊ）＝ｌＤ２　
′　（２ｊｌｌＤｌ　　′　（２ｊｌ　　ｅ、　　Ｉ　
　Ｄ２　　’　　ｆ２ｊ−２１１ＤＩ　　’　　ｆ２ｊ
ｌ（２ｊ−２）ここで、ｅ４は４を法とする引き算であ
る。

第８図に於いて、！ビットは装置（１３３）の一部を構
成しバッファー（１３５）を介してデータ端末装置に出
力するデイスクランブラ−（ｄｅｓｃｒａｍｂｌｅｒ）
でデイスクランブルされる。

コーディングｄｉｒｆｅｒｅｎ１．ｉａｌ　ｃｏｄｉｎ
チャンネルによって９０ｋ　（ｋ＝１．２又は３）度の
位相回転が生ずるものとする。誤り点の象限ｌへの変換
は点（１／２、！／２）を中心にして同じ環だけ回転す
る。ウェイ符号は９０に度の位相回転とは無関係なので
、発信器で使用するマツピングによって２ビツトの正し
い回復が保証される。残念ながら、これは象限ラベルＳ
ＱＩ　ＳＱＯについては適用できない。

この事態を避けるため、第１７図に示す位相不変ラベレ
ング（ｐｈａｓｅ−ｉｎｖａｒｉａｎｔ　ｌａｂｅｌｉ
ｎｇ）に基づいてラベルシーケンスＳＱＩ　ＳＱＯを作
ることカテ？！ル、　ＳＱＩ　ＳＱＯ＝ＳＩ　ＳＯ＠ｘ
　ＢＩ　ＢＯの関係が成立するのを保証するために差動
符号化動作が必要である。これは次のようにして行なわ
れる。第１８図に於いて、象限ｌのマツピング（２５８
）により得られた各信号点毎にそのサブフォードラント
ラベル（５ｕｂｑｕａｄｒａｎＬ　１ａｂｅｌｌ　Ｓ　
Ｑ　ｌ５ＱＯを第１９図に基づいてサブフォードラント
抽出器１ｓｕｂｑｕａｄｒａｎｔ　ｅｘｔｒａｃｔｏｒ
）　　（３０６）により抽出する。整形差動符号器（３
０９）とオフセット（３１０＞のマツプはビットＳＱＩ
　ＳＱＯとＳＩ　ＳＯを用いて象限！の点を二つの新し
い点Ｘ０（Ｉ）とｘｉ（ｉｌにオフセットする。ここで
１＝２ｊ又はｌ・２ｊ◆１として、新しい点が７２の同
じコセットに留まるようにする。このマツピングは下の
二つの表で記述できる。

ＳＱＯＳＯＩ　　　ＳＯＳｔ　　　　［１００Ｄｏｔ　
　０１０　０１Ｉ０ ＤＩ Δｉ　（オフセット） ０口００００１ ０　　　　０　　　０ ０　　　０　　　　！ ０　　　　０１０　　　　　　０ ０．０　　＋ｊＯ，０ ０，０−ｊｌ、０ −１．０　　＋ｊ０．０ −＋、０　−　ｊｌ、０ ＰＤＦＤディフーダーでは、１点ｘＯ（ｉｌはコセット
Ａ及びＢに対応するブランチに用い、一方Ｘ１（１）は
コセットＣ及びＤに対応するブランチに用いる。もしＳ
ＱＩ　ＳＱＯが受信した点のサブフォードラントラベル
だとすると、ＳＱＩ　ＳＱ口＝ＳＳＯｅｚ　ＢＩ　ＢＯ
であるのを示すことができる。したがって、サブフォー
ドラントラベル（回転不変な）をシンドローム形成手段
ＨＴに通すことにより、９０に度の位相オフセットがあ
っても、ビットＩｎ（２ｊ÷１１　、１＋＋２ｊ＋１１
及びｌＮ２ｊ＋りを回復できる。

ン　し書ス、。の・ 線形（ｍａｄ−２）　　トレリス符号によればあり得る
形状利得の大部分を達成できることが分かったが、ここ
では本発明の方法をどのようにして非線形トレリス符号
Ωに適用するかを簡単に述べる。

実際に知られている非線形トレリス符号器についても、
符号器のどの状態Ｓ、でも次の信号点の集合は符号Ｃの
時間零のラティスΔＧのコセットΔ。＋ａ　（ｓｊｌで
あるような時間零のラティスが存在する。

符号Ωの単純な基本領域はその符号の時間零のラティス
Δ。の基本領域旦。二基づ（ハード判定デコーダーによ
り指定できる６時点ｊに於いて状態Ｓ、を、またシーケ
ンス空間ＲＮに於いてｒＪを与えられると、このデコー
ダーはΔ。＋ａ　（ｓｊｌにおける一意のコード記号ｃ
Ｊをｒ、＝ｃ、＋ｅ、のようなものとする。

なお）８４は旦。の要素である０次の状態５ＪＩ−はＣ
，により決められる。したがって、このハード判定デコ
ーダーはシーケンス空間（Ｒ’戸内のどのシーケン「（
Ｄ）もｒ　１０１　＝ｃ　［０１＋ｅ　ｆＤ）に分解す
る。ここでｃ　（ＤＩ　はΩ内にあり、ｅ（Ｄ）は（Ｒ
ｅｒ　内にある。

従って、（Ｒｃ戸　は符号Ωの単純な基本領域であると
言える。シーケンス空間（ＲＨ）Ｏ′　の全体はオーバ
ーラツプしない変換値１ｎｏｎｏｂｅｒｌａｐｐｉｎｇ
　Ｌｒａｎｓｌａｔｅｓｌ　　（Ｒ’　）″　ｃ　（Ｄ
ｉでカバーされ。

ｃ　ｆＤｌ　は符号Ｃのすべてのコードシーケンスに共
通である。

第３図以降に示したトレリスプリコーディングしステム
の実現は前に述べたとおりにする。データシーケンスを
まず単純な基本領域（Ｒ”戸　内にある最初のシーケン
スにマツプする。濾波された符号Ω′＝Ω言ｏ）用のＲ
５５Ｅデコーダーは符号Ω′内のシーケンスｃ　’　（
Ｄｉが差のシーケンス（ｄｉｆｆｅｒｅｎｃｅ　　５ｅ
ｑｕｅｎｃｅ）ｅ　　（ＤＩ　　　＝　　ｘ　　（ロ）
ｇ！ＤＪ　　　−ｃ′（Ｏ）の平均パワーが小さくなる
ようにする。シーケンスｅ　（ＤＩ　はその後伝送され
る。雑音がないときには、チャンネルフィルタリングの
後ｙ　ｆＤｌ＝　ｅ　（Ｄｉ　　ｈ　（０１＝　ｘ　ｆ
Ｄ）　−ｃ　（ＤＩ　を受信する。

上述のところからｘ　ＩＤＪ　はＣを法とするｘ　（Ｄ
Ｊと合同となることに注意、それゆえ、最初のシーケン
スは、最初に述べた符合旦の時間零のラティスの基本領
域に基づいてハード判定デコーダーを用いることにより
受信シーケンスｙ（０）から回復できる。

６　２　Ｄ　　　　）Ｉｅｘａ　ｏｎａｌ　２Ｄ　Ｃｏ
ｎ５Ｌｅｌｌａｔｉｏｎｓ）もし成形トレリス符号立（
Δ／Δ′二〇）を。

溝成要素２ＤラティスとサブラティスΔ２及びΔが６角
２ＤラティスＡ２のものであるいわゆる３進又は４進ラ
ティスのパーティションΔ／Δ′に基づく符号として選
ぶと、伝送されたシーケンスの要素ｅ、は方形というよ
り６角形の領域Ｒｃ（Δ３　′）内に入る。このよつな
配座はより球面状のものに近い利点を有する。

他の実施例も添付の特許請求の範囲に入る。例えば、池
の低減状態デコーダ（例えば１Ｍアルゴリズム）も使用
することができる。

【図面の簡単な説明】

第１図はチャンネルモデルのブロック図、第２図はトレ
リスプリコーディング法を示すブロック図、第３図は低
減状態トレリスを示す図５．第４図はヴイタービ（Ｖｉ
Ｌｅｒｂｉｌ　アルゴリズムのステップを示す図、第５
図はウェイ（■ｅｉ）符号に対するトレリスを示す図、
第６図はブリコーディングで用いる送信器及び受信器の
ブロック図、第７図は送信器のブロック図、第８図は受
信器のブロック図、第９図はトレリスプリコーディング
のための２値打号化を示すブロック図、第１０図はウェ
イ２値重ｌ符号化器のブロック図、第１１Ａ１９は２値
逆シンドロームから形成手段のブロック図、第１１Ｂ図
は２値シンドローム形成手段のブロック図、第１２図は
信号セットの象限（ｑｕａｄｒａｎｔ）を示す図、第１
３図は象限シフトを示す図２第１４図は第７図のトレリ
スブリコーダーの部分を示す図。 第１５図はトレリス図、第１６図はトレリスデコーダー
の２値部分を示す図、第１７図は位相不変ラベリシグ法
を示すブロック図、第１８図は立体配座形成手段のブロ
ック図、更に第１９図は象限ラベリング法を示す図であ
る。 １０４・・・受信器 スイッチ　＋０８・・ ７・・・シーケンス ＋２０・・・送信器 ルター

Claims (36)

【特許請求の範囲】
1. （１）通常のレスポンスで特徴付けられたチャンネルを
   通じてデータ伝送を行なうためにディジタルデータを信
   号点シーケンスにマップする方法であって、前記ディジ
   タルデータシーケンスと前記レスポンスに基づいて、あ
   り得るすべての信号点シーケンスの部分集合から前記信
   号点シーケンスを選択するステップから成り、部分集合
   中のあり得るすべての信号点シーケンスは濾波されたト
   レリス符号の基本領域内に在り、またその基本領域は有
   限次元領域の単純なカルテシアン積以外のものであるこ
   とを特徴とする変調方式トレリスコーディング方法。
2. （２）前記濾波されたトレリス符号はそのシーケンスが
   ｃ’（Ｄ）＝ｃ（Ｄ）ｇ（Ｄ）の符号であり、ここでｇ
   （Ｄ）はチャンネルレスポンスに関係したレスポンスの
   形式的な逆であり、ｃ（Ｄ）は普通のトレリス符号に於
   けるコードシーケンスである特許請求の範囲第１項記載
   の方法。
3. （３）前記選択ステップは信号点シーケンスｅ（Ｄ）＝
   ［ｘ（Ｄ）−ｃ（Ｄ）］ｇ（Ｄ）の平均パワーを最小に
   する傾向があり、ここでｘ（Ｄ）は前記ディジタルシー
   ケンスを最初にアップする最初のシーケンスである特許
   請求の範囲第２項記載の方法。
4. （４）ｘ（Ｄ）は前記普通のトレリス符号の基本領域内
   に在ることを特徴とする特許請求の範囲第３項記載の方
   法。
5. （５）前記普通のトレリス符号の前記基本領域は有限次
   元領域の単純なカルテシアン積である特許請求の範囲第
   ４項記載の方法。
6. （６）前記選択は前記濾波されたトレリス符号について
   の低減状態シーケンスの推定に基づく特許請求の範囲第
   ２項記載の方法。
7. （７）低減状態シーケンスの推定に使う状態の数は普通
   のトレリス符号が有する状態の数よりも小さい特許請求
   の範囲第６項記載の方法。
8. （８）前記濾波されたトレリス符号の前記基本領域は近
   似的に前記濾波されたトレリス符号のボロノイ領域から
   成る特許請求の範囲第２項記載の方法。
9. （９）前記濾波されたトレリス符号の前記基本領域は、
   前記符号用のデコーダーにより前記符号内の零シーケン
   スにデコードされる前記あり得るすべての信号点シーケ
   ンスの集合から成る特許請求の範囲第２項記載の方法。
10. （１０）前記濾波されたトレリス符号の前記基本領域は
    、前記符号用の最小距離デコーダーへの近似によって前
    記符号内の零シーケンスにデコードされる前記あり得る
    信号点シーケンスの集合から成る特許請求の範囲第９項
    記載の方法。
11. （１１）前記濾波されたトレリス符号の前記基本領域は
    、遅延Ｍ（Ｍは１より大きいか等しい）の最小距離デコ
    ーダーにより前記濾波されたトレリス符号内の零シーケ
    ンスにデコードされる前記あり得る信号点シーケンスの
    集合から成る特許請求の範囲第１０項記載の方法。
12. （１２）特許請求の範囲第１項に於いて、仮に信号点シ
    ーケンスの雑音により劣化したものからディジタルデー
    タシーケンスを回復するステップを含み、このステップ
    は信号点シーケンスを推定したディジタル要素のシーケ
    ンスにディコードするステップと、推定したディジタル
    要素の一部に基づくより少数のディジタル要素のシンド
    ロームを無帰還のシンドローム形成手段ＨＴを用いて形
    成するステップとを含む方法。
13. （１３）前記最初のシーケンスはトレリス又はラティス
    形の第２符号を変換したものからのコードシーケンスで
    ある特許請求の範囲第１項記載の方法。
14. （１４）前記有限次元基本領域は前記普通のトレリス符
    号の時間零のラティスの基本領域である特許請求の範囲
    第５項記載の方法。
15. （１５）前記選択ステップは、 前記ディジタルデータシーケンスを前記普通のトレリス
    符号の合同クラスに属し且つそれを表わす最初のシーケ
    ンスにマップするステップと、前記濾波されたトレリス
    符号の合同クラスに属し、且つそれを表わし、また平均
    パワーが前記最初のシーケンスよりも大きくないステッ
    プとを含み、 前記マッピングステップは、前記ディジタルデータシー
    ケンスの要素の一部を、コセット表現シーケンスを表わ
    す多数のディジタル要素を形成するためのコセット表現
    発生器に供給するステップを含むことを特徴とする特許
    請求の範囲第２項記載の方法。
16. （１６）前記コセット表現発生器は前記ディジタルデー
    タシーケンスの要素の一部に、前記普通のトレリス符号
    用のシンドローム形成マトリックスＨ＾Ｔとは逆のコセ
    ット表現発生器マトリックス（Ｈ＾−＾１）＾Ｔを乗算
    することから成る特許請求の範囲第１５項記載の方法。
17. （１７）特許請求の範囲第１６項において、更に信号点
    シーケンスの濾波され且つ雑音により劣化したものから
    ディジタルデータを回復するステップを含み、このステ
    ップは信号点シーケンスを推定したディジタル要素のシ
    ーケンスにディコードするステップと、推定したディジ
    タル要素の一部に基づくより少数のディジタル要素のシ
    ンドロームを無帰還のシンドローム形成手段Ｈ＾Ｔを用
    いて形成するステップを含むことを特徴とする方法。
18. （１８）前記トレリス符号は線形トレリス符号であるこ
    とを特徴とする特許請求の範囲第２項記載の方法。
19. （１９）前記トレリス符号は非線形トレリス符号である
    ことを特徴とする特許請求の範囲第２項記載の方法。
20. （２０）前記線形トレリス符号は４状態アンガーベック
    符号であることを特徴とする特許請求の範囲第１８項記
    載の方法。
21. （２１）前記トレリス符号は２進ラティスのパーティシ
    ョンに基づいていることを特徴とする特許請求の範囲第
    ２項記載の方法。
22. （２２）前記トレリス符号は３進又は４進ラティスのパ
    ーティションに基づいていることを特徴とする特許請求
    の範囲第２項記載の方法。
23. （２３）データ要素の初期立体配座内の点へのマッピン
    グは線形或は距離不変であることを特徴とする特許請求
    の範囲第２項記載の方法。
24. （２４）前記信号点シーケンスを選択するステップは、
    Ｎ次元における前記信号点シーケンスの最大エネルギー
    を示すそのピークパワーを減らすよう制約を受けている
    ことを特徴とする特許請求の範囲第２項記載の方法。
25. （２５）Ｎ＝２であることを特徴とする特許請求の範囲
    第２４項記載の方法。
26. （２６）Ｎ＝４であることを特徴とする特許請求の範囲
    第２４項記載の方法。
27. （２７）前記選択は前記シーケンスが通常半径Ｒ＿ｃの
    或る球面内に在るように制約されていることを特徴とす
    る特許請求の範囲第２４項記載の方法。
28. （２８）前記低減状態シーケンス推定は、前記シーケン
    スが確実に許容シーケンスとなるような操作が毎回ある
    ステップから成ることを特徴とする特許請求の範囲第６
    項記載の方法。
29. （２９）前記操作は前記低減状態シーケンス推定のトレ
    リスに於ける選択された経路の距離を、前記選択した経
    路はいずれも次の繰返しの時には最も選択され易いもの
    にならないよう調整することを特徴とする特許請求の範
    囲第２８項記載の方法。
30. （３０）前記経路はそれらが前記トレリス内の特定の位
    置で特定の状態遷移を含むかどうかに基づいて選ばれる
    ことを特徴とする特許請求の範囲第２９項記載の方法。
31. （３１）前記操作は大きな距離を前記トレリス内の前記
    選択された経路に割当てることから成ることを特徴とす
    る特許請求の範囲第２９項記載の方法。
32. （３２）前記ディジタルデータシーケンスを前記信号点
    シーケンスにマッピングするステップは、前記ディジタ
    ルデータシーケンスを前記信号点シーケンスの多数の所
    定位相回転のうちの一つの位相回転を受け且つチャンネ
    ルの影響を受けたものから回復できるようになされてい
    ることを特徴とする特許請求の範囲第２項記載の方法。
33. （３３）前記ディジタルデータシーケンスを初期立体配
    座に属する信号点シーケンスにマッピングするステップ
    は、前記立体配座から信号点を選択するためのビットグ
    ループに前記データシーケンス中の前記データ要素を変
    換するステップを含み、前記ビットグループは９０度の
    位相回転を１回、２回又は３回受けた前記伝送シーケン
    スのチャンネルの影響を受けたものから前記ビットが確
    実に回復できるようになされていることを特徴とする特
    許請求の範囲第１４項記載の方法。
34. （３４）通常のレスポンスで特徴付けられたチャンネル
    を通じてデータ伝送を行うためにディジタルデータを信
    号点シーケンスにマップするための装置で、前記ディジ
    タルデータシーケンスと前記レスポンスに基づいてすべ
    てのあり得る信号点シーケンスの部分集合から前記信号
    点シーケンスを選択するための信号点セレクターを有し
    、前記部分集合の中のあり得るすべての信号点シーケン
    スは濾波されたトレリス符号の基本領域内に在り、前記
    基本領域は有限次元領域の単純なカルテシアン積以外の
    ものであることを特徴とするマッピング装置。
35. （３５）チャンネルを通じてディジタルデータを送受す
    るためのモデムで、 通常のレスポンスで特徴付けられたチャンネルを通じて
    データ伝送を行うために前記ディジタルデータシーケン
    スを信号点シーケンスにマップする手段を備え、前記マ
    ッピングする手段は前記ディジタルデータシーケンスと
    前記レスポンスに基づいてあり得るすべての信号点シー
    ケンスの部分集合から前記信号点シーケンスを選択する
    ためのシーケンスセレクターを含み、前記部分集合の中
    のあり得るすべての信号点シーケンスは濾波されたトレ
    リス符号の基本領域内に在り、前記基本領域は有限次元
    領域の単純なカルテシアン積以外のものであり、 前記チャンネルを通じ前記シーケンスの前記信号点を送
    出するための変調器、 前記チャンネルから前記信号点シーケンスの多分チャン
    ネルの影響を受けたものを受信する復調器、更に 前記信号点シーケンスの前記多分チャンネルの影響を受
    けたものからディジタルデータシーケンスを回復する手
    段とから成ることを特徴とするモデム。
36. （３６）前記回復手段は、線形等化器、適応予測フィル
    ターおよびデコーダーから成り、データ伝送時には前記
    予測フィルターは固定しておき、更に等化器誤差を再構
    成するため前記予測フィルタから最終的な予測誤差を通
    すｇ（Ｄ）素子を含むことを特徴とする特許請求の範囲
    第３４項記載のモデム。