JPH07107985B2 - 波形補償方法 - Google Patents

波形補償方法

Info

Publication number
JPH07107985B2
JPH07107985B2 JP1195786A JP1195786A JPH07107985B2 JP H07107985 B2 JPH07107985 B2 JP H07107985B2 JP 1195786 A JP1195786 A JP 1195786A JP 1195786 A JP1195786 A JP 1195786A JP H07107985 B2 JPH07107985 B2 JP H07107985B2
Authority
JP
Japan
Prior art keywords
code error
code
signal
comparator
bit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP1195786A
Other languages
English (en)
Other versions
JPS62171328A (ja
Inventor
誠一 三田
守司 泉田
信数 土居
章 斎藤
守 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP1195786A priority Critical patent/JPH07107985B2/ja
Publication of JPS62171328A publication Critical patent/JPS62171328A/ja
Publication of JPH07107985B2 publication Critical patent/JPH07107985B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Dc Digital Transmission (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は波形補償方法に関し、特にディジタル信号を記
録再生あるいは伝送する場合の符号間干渉の除去方法に
関するものである。
〔従来の技術〕
ディジタル信号をVTRなどに記録再生する場合あるいは
電話線路などを介して伝送する場合に、周波数遮断によ
り符号間干渉が生じ、ディジタル信号の“1"と“0"の識
別が困難になることが多い。そこで、従来はこのような
波形補償法の一つとして、第2図に示すような方法が提
案されている。この方法については、ベル システム
テクニカル ジャーナル,1981年11月発行第1997頁から
第2021頁(THE BELL SYSTEM TECHNICAL JOURNAL,Vol.6
0,November 1981,pp.1997-2021)において論じられてい
る。以下この方法をLC(Linear Canceller)と呼ぶこと
にする。この波形補償方法では、基本的に識別再生した
信号を利用して符号間干渉を取り除く。第2図の波形補
償方法の動作の概要を第3図のタイミングチャートを用
いて説明する。第3図(a)に符号間干渉のない理想的
な孤立インパルス応答を示す。この信号をi(t)とす
る。i(t)の振幅はt=0で1、t=nT(n≠0)で
0である。このような理想応答を持つ波形で情報an(=
“1"あるいは“0")を時刻nTごとに伝送すると常に各nT
において信号の振幅が1あるいは0に維持される。した
がって、信号の振幅が時刻nTにおいて、0.5より大きけ
ればこれを“1"、小さければ“0"と判定すればよい。こ
れに対し、記録再生系あるいは伝送系で周波数特性が劣
化すると(例えば高域部分とする。)再生信号は一般に
第3図(b)に示すように、時刻nT(n≠0)において
振幅が0でなくなり、符号間干渉s(nT)が生じる。こ
の結果、各時刻における信号の振幅がしきい値0.5に近
い状態になり、雑音により符号誤りが発生しやすくな
る。LCでは、このような符号間干渉を以下に示す処理を
行うことで取り除く。第2図において1はLCの入力端で
あり、符号間干渉を持つ波形s(t)が印加される。s
(t)を2経路に分離し、そのうち一方を暫定等化器2
の入力に加え、予備等化する。つぎに、第1の比較器3
により“1"あるいは“0"に識別し、“1"の場合は、第3
図(c)に示すようなパルス信号p(t)を発生する。
このp(t)をシフトレジスタ4により逐次所要時間だ
け遅延させた後、その振幅を係数器8により所定の振幅
s(nT)に設定し、加算する。この結果、第3図(d)
に示すように符号間干渉のコピーに相当するcp(t)な
る信号が得られる。さて、分離した他方の信号は遅延回
路5により所定の時間だけ遅延する。つぎに、これらの
信号を減算器6に加え、差をとることにより符号間干渉
のないi′(t)が第3図(e)に示すように得られ
る。このi′(t)を第2の比較器7で識別再生するこ
とにより元のディジタル信号系列がLCの出力端9に再生
される。
〔発明が解決しようとする問題点〕
しかしながら、以上に述べたことは第1の比較器の出力
における符号誤りが少ないときのみ成立する。すなわち
第1の比較器の出力の符号誤りが増加すると減算器6の
出力端で次第にこの誤り符号が隣接する他の符号に悪影
響を及ぼす。この結果、第2の比較器の出力信号中に符
号誤りが増加することになる。
この典型的な例を第4図を用いて説明する。第4図
(a)は理想孤立波形である。この理想波形が記憶再生
系あるいは伝送系を通過し、周波数特性が劣化し、さら
に雑音が重畳した状態を同図(b)に示す。この結果、
本来“00100"なる符号が第1の比較器3で“01110"と識
別されることになり、±Tの時刻に符号誤りが発生す
る。このような符号誤りをもつ信号で第2図に示した処
理を行なうと同図(c)に示す符号間干渉のコピー信号
が得られ、このコピー信号と遅延回路5の出力信号との
差をとると同図(d)に示す信号がえられ、これを第2
の比較器で2値化すると“00000"なるデータ系列が得ら
れる。すなわち、比較器1で生じた時刻±Tの符号誤り
は第2の比較器7では元の正しい符号になるが、一方正
しく識別された時刻0の符号は第2の比較器7では誤り
になる。
本発明の目的はこのように第2の比較器7で符号誤りが
新たに発生するという特性に着目し、従来法よりさらに
符号誤り率を低減できる等化手法を提供することにあ
る。
〔問題点を解決する手段〕
本発明では、以下の手法を新たに付加することによりLC
の性能向上を図る。
第1の比較器の出力データ系列の時点nTの符号に誤りが
発生したとする。この場合、前述の結果から第2の比較
器ではnTに隣接する(n−1)T、(n+1)Tに符号
誤りが発生する確率が大きくなる。したがって、 (1) 両比較器の出力データ系列をMod2加算すること
により(この結果得られたデータ系列を以下、誤り検出
パターンと呼ぶ)符号誤りの位置を検出できる。さら
に、 (2) 各誤り検出パターンが発生する確率を予め求め
ることにより元の正しい符号を推定することが可能にな
り、これにより符号誤りを訂正することが可能になる。
〔作用〕
以下、この誤り訂正手法に関して詳細に説明する。
まずある特定の誤り検出パターンが発生する確率を求め
る。
符号間干渉s(nT)を以下enと記述する。任意に時刻nT
における暫定等化器2の出力での符号間干渉をEnとする
と、Enは次式で与えられる。
ここでanは信号源のデータ系列である。
このEnを用いて、第1の比較器の出力の符号誤り率Pn
求める。第3図(a)に示すように孤立パルスの振幅は
1に規格化されている。このとき第1の比較器のしきい
値は0.5になる。
今、時点nTおいて、符号が“1"であれば信号の振幅は1
+Enになり、しきい値とのレベル差が0.5+Enになる。
符号が“0"であれば、しきい値とのレベル差は0.5−En
になる。すなわち、符号が“1"のときは符号誤りの点で
はかえって有利になる。“0"のときは符号間干渉により
符号誤りが増す。以上を考慮すると、Pnは次式で与えら
れる。
ただし、 さらに、第2の比較器の入力における時点nTの符号間干
渉をEn′とするとEn′はEnから符号間干渉のコピーに相
当するen-lan+lを差し引くことで得られ、次式のように
なる。
だだし、an′は第1の比較器の出力のデータ系列であ
る。
これから式(2)と同様に、第2の比較器の符号誤り率
Pn′は と与えられる。
以上の式(2),式(4)を用い、一例として1ビット
の孤立誤り検出パターンが発生する確率を求める。第8
図に、両比較器の出力データ系列をMod2加算すると、丁
度孤立パターンになる組み合わせを示す。まず第8図の
cに示す誤り検出パターンが発生する確率PT1を求めて
みる。等化器の出力の時点(n−1)T,nT,(n+1)
Tにおける任意の3ビットパターンの組合わせをiと
し、この時の符号誤り率をPn-1,i,Pn,i,Pn+1,iとして
記述する。この信号を比較器1で逐次識別再生し、その
結果が第8図のcに示すように(正,誤,正)となる確
率PIiは PIi=(1−Pn-1,i)・Pn,i・(1−Pn+1,i) …(5) となる。
さらに第1の比較器の出力が確定した条件下でこれに対
応する時点(n−1)T,nT,(n+1)Tの3ビットの
符号が第2の比較器の出力においてすべて正しくなる条
件付確率(遷移確率)PJiを求める。時点nTの条件付き
確率をPJn,iとすると、各ビットごとに次式のように求
められる。
ただし、PJn-1,i=1、if PJn-1,i≧1 ただし、PJn-1,i=0、if PJn-1,i≦0 ただし、PJn+1,i=1、if PJn+1,i≧1 これから、PJiは次式で与えられる。
PJi=PJn-1,iPJn,iPJn+1,i …(9) ここで、符号間干渉が小さく、 en=0,n≧3 …(10) とする。この場合、時点(n−1)T,nT,(n+1)T
における3ビットの符号は(n−3)Tから(n+3)
Tの範囲に存在する符号の影響を受ける。したがって、
PT1はこれらの7ビットの符号が取り得る全パターンに
対して求め、これを平均することにより得られる。
一例としてSNRを18.5dBに選び、周波数特性がナイキス
ト特性から指数関数的に劣化するときのPT1を検討す
る。波形劣化が大きくなるに伴い、PJjはほぼ1に等し
くなる。すなわち符号誤りが訂正されることを意味す
る。逆に。波形劣化がナイキスト周波数(fT/2)で振幅
が1dB以下と小さくなると、PJiは急速に0に近づく。す
なわち誤りが訂正される確率が低くなる。換言すると符
号誤りが生じる原因が符号間干渉よりはむしろ雑音が主
になることを意味する。雑音に起因する符号誤り率PNは PN=1−Φ(0.5/σ) …(12) と与えられる。また、PJi=1が成立するころでは PT1=Pn …(13) と近似できる。すなわち、PT1は実質的にLCを適用する
前の符号誤り率に等しくなる。
したがって、PN+PTがLC適用前の符号誤り率に対応する
と考えてよい。計算結果を第5図中の実線aに示す。
第8図に示す他の誤り検出パターンの発生確率も同様に
求めることができ、これらの確率は第8図のcのものに
比較し、約3桁以下となる。換言すると、誤り検出パタ
ーンが孤立パターンの場合はLCにより符号誤りが訂正さ
れたと考えるのが妥当であることを意味する。
したがって、LC適用後に残留する符号誤りは誤り検出パ
ターンのうち連続して2ビット以上が不一致になるもの
で生じると考えられる。発生確率が高いものを第9図に
示す。これらのパターンの発生確率をPT2,PT3,PT4,PT5
…とすると、LC適用後の符号誤り率はΣPTNx(第2の比
較器の出力データ中に存在する誤り個数)で与えられ
る。前述と同様にこれらの確率を計算できる。
まず発生確率の高いPT2,PT3、を取り上げ、PT2x(1)
+PT3x(1)+PNを求めた結果を第5図の実線bに示
す。すなわち実線bに示す符号誤り率がLC適用後の符号
誤り率となる。
つぎに、2ビットおよび3ビットの誤り検出パターンに
含まれる符号誤りを訂正する手法を検討する。
誤り検出パターンが2ビットの場合;第9図から見られ
るように、2ビットのものに関しては、いずれか一方が
誤りであることは分かるがどちらが誤りであるか確定す
ることはできない。そこで第1の比較器で判定する前の
アナログ信号(あるいは第2の比較器の直前)の状態か
ら各ビットの尤度を推定することを試みる。すなわち誤
りが検出された2ビットに対応する等化器の出力信号の
振幅の大小を比較する。2ビットに対応する振幅値をA
1,A2とすると|A1−0.5|,|A2−0.5|を求め、この大小を
比較し、大きい方の信号に対応する第2の比較器の出力
が正しい符号であると判定する。誤り検出パターンが2
ビットと3ビットパターンの誤りを訂正した後の符号誤
り率を第5図cに示す。
さらに、残留する誤りの大半は誤り検出パターンが4ビ
ットおよび5ビットのパターン中に存在する誤りが占め
る。
誤り検出パターンが4ビットおよび5ビットの場合; 4ビットパターンに関しては、2ビットパターンで行な
ったのと同様に前2ビット、後2ビットずつ尤度を推定
することで誤りを訂正することができる。
また、5ビットパターンに関しては、3ビットパターン
と同様に誤り位置が確定しているからこの極性を反転す
れば、符号誤りが訂正できる。
4ビットおよび5ビットパターンに関して訂正を施した
後の符号誤り率を第5図dに示す。第5図から分かるよ
うに本手法を適用することで周波数特性の劣化が著しい
所で大幅に符号誤りが改善される。なお前述した手法を
誤り検出パターンが6ビット以上になるものに対しても
行えば、さらに符号誤り率が改善されることは言うまで
もない。
〔実施例〕
以下、本発明の実施例を第1図を用いて説明する。第1
図は本発明による波形等化方式のブロック図であり、第
6図は各部のタイミングチャートである。また、第7図
は第1図の回路の一部をさらに詳細に示したものであ
る。第1図の第1の比較器3および第2の比較器7まで
の動作はすでに説明したLCの動作と同様である。まず、
第6図のAに示す暫定等化器2の出力を第1の比較器3
により識別再生し、さらにこの信号を第1図の遅延回路
10で第2の比較器7の出力に対応する時間まで遅延す
る。第1図の例では、この遅延時間は3ビットになる。
第6図のCは第2の比較器7の出力でBに示す符号誤り
ビットに隣接するビットに符号誤りが生じた場合を示し
ている。つぎに、これらの2つの信号を符号誤り検出回
路11に入力し第6図のEに示すように符号誤り位置を確
定し、この誤り位置の情報を用いて符号誤り低減回路12
で誤りを訂正する。第7図に符号誤り検出回路11および
符号誤り低減回路12(図中点線で囲んだ以外の部分に対
応する)の詳細を示す。まず符号誤り検出回路11では第
2の比較器7および遅延回路10の出力信号の不一致部分
をEOR(排他的論理和)回路14を用いて検出する。さら
に、EOR14の出力信号をシフトレジスタで構成される遅
延回路16により遅延し、このサインを用いてEOR17およ
びEOR18により符号誤り検出パターンの長さを分類す
る。この例ではEOR17により2ビットおよびEOR18により
3ビットのものが分類される。符号誤り検出パターンの
長さが2ビットの場合は前述した様に尤度の判定が必要
になる。これは暫定等化器2の出力をAD変換器19により
ディジタル信号に変換し、この出力を遅延回路20により
1ビット遅延し、これらの大小を減算回路21で比較する
ことで実現できる。減算回路21の出力は遅延回路22によ
り所定時間遅延した後スイッチ回路23に供給される。こ
の信号でEOR17の出力およびこれを1ビット遅延したも
のを選択する。第2の比較器7の出力は遅延回路15によ
り遅延し、これとスイッチ回路23の出力をEOR25に加え
ることで誤り訂正される。さらに、EOR18の出力とEOR25
の出力をEOR26で加算することで誤り検出パターンが3
ビットの符号中の誤りが訂正される。誤り検出パターン
が4ビット以上のものに対しても同様の回路を構成する
ことにより符号誤りが訂正される。
以上述べてきた方法は暫定等化器の出力の波形歪の形状
に関係なく符号誤りが訂正できる。しかし、孤立パルス
の応答が非対称になることが予め知ることができる場合
には、第1の比較器の出力で符号誤りが発生すると、こ
れにより第2の比較器で発生する符号誤りの位置が確定
するため尤度判定回路は不用になる。
さらに、係数器8の各係数C-nかC+n(nは正の整数)い
ずれかの極性の設定が他方より大きくなる場合には孤立
パルスの波形が非対称になっていることを示すから、係
数器の設定状態を常に監視し、これによりスイッチ回路
23の選択をすることも可能である。
また、実施例では第2の比較器の出力信号の符号誤り位
置が検出できるから、これと誤り訂正符号を組合わせる
ことによりイレージャ訂正方式の実現も可能である。
〔発明の効果〕
以上述べたように本発明によれば、 (1) 両比較器の出力データ系列をMod2加算すること
により(この結果得られたデータ系列を以下、誤り検出
パターンと呼ぶ)符号誤りの位置を検出できる。さら
に、 (2) 各誤り検出パターンが発生する確率を予め求め
ることにより元の正しい符号を推定することが可能にな
り、これにより符号誤りを訂正することが可能になる。
この結果、LCの持つ欠点を根本的に改善でき、雑音強調
のない波形等化を実現できる。
【図面の簡単な説明】
第1図は本発明の一実施例をしめすブロック図、第2図
は従来例をしめすブロック図、第3図は従来例の各部の
波形図、第4図は従来例の欠点を示す波形図、第5図は
本発明による改善効果を符号誤り率で示した図、第6図
は本発明の各部の波形図、第7図は本発明の実施例の詳
細図、第8図は誤り検出パターンが孤立パターンになる
組合せを示す図、第9図は誤り検出パターンが2ビット
以上のものの内で発生確率の最も大きいものを示す図で
ある。
フロントページの続き (72)発明者 土居 信数 東京都国分寺市東恋ヶ窪1丁目280番地 株式会社日立製作所中央研究所内 (72)発明者 斎藤 章 茨城県勝田市大字稲田1410番地 株式会社 日立製作所東海工場内 (72)発明者 金子 守 神奈川県横浜市戸塚区吉田町292番地 日 立ビデオエンジニアリング株式会社内 (56)参考文献 三田、天野、泉田、土居,「リニアキャ ンセラのディジタルVTRの適用」,1987 年テレビジョン学会全国大会,No.7− 17 Mita,Izumita,Doi,E to,“Adaptive Equali zation Techniques f or Digital Video Re cording Systems”,SM PTE Preprint No.128− 55

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】入力された符号間干渉を持つ入力波形を分
    離し、 上記分離された1の入力波形を所定の閾値により「1」
    または「0」に識別して「1」の場合にパルス信号を発
    生し、 上記パルス信号を遅延かつ加算して符号間干渉のコピー
    信号を作成し、 上記分離された他の入力波形を遅延し、 上記遅延した他の入力波形から上記パルス信号を減じた
    結果「1」または「0」に識別して識別信号を出力し、 上記パルス信号と上記識別信号との不一致個所をもって
    上記入力波形中の符号誤り位置を特定し、 上記符号誤り位置に基づいて上記識別信号の符号誤りビ
    ットを訂正する ことを特徴とする波形補償方法。
  2. 【請求項2】特許請求の範囲第1項において、 上記符号誤り位置にあるビットを示す信号出力の大小を
    比較することにより、上記ビットの尤度を判定して、上
    記識別信号の符号誤りビットを訂正する ことを特徴とする波形補償方法。
JP1195786A 1986-01-24 1986-01-24 波形補償方法 Expired - Lifetime JPH07107985B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP1195786A JPH07107985B2 (ja) 1986-01-24 1986-01-24 波形補償方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP1195786A JPH07107985B2 (ja) 1986-01-24 1986-01-24 波形補償方法

Publications (2)

Publication Number Publication Date
JPS62171328A JPS62171328A (ja) 1987-07-28
JPH07107985B2 true JPH07107985B2 (ja) 1995-11-15

Family

ID=11792095

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1195786A Expired - Lifetime JPH07107985B2 (ja) 1986-01-24 1986-01-24 波形補償方法

Country Status (1)

Country Link
JP (1) JPH07107985B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4679768B2 (ja) * 2001-08-31 2011-04-27 三菱電機株式会社 軟判定復号装置及び軟判定復号方法
CA2505435A1 (en) * 2002-12-09 2004-06-24 Motorola, Inc. Decision feed forward equalizer system and method
JP4515418B2 (ja) * 2006-07-10 2010-07-28 日本電信電話株式会社 等化回路
JP4867649B2 (ja) * 2006-12-26 2012-02-01 ソニー株式会社 信号処理装置および信号処理方法、並びにプログラム
JP4973939B2 (ja) * 2007-10-10 2012-07-11 ソニー株式会社 受信装置、受信方法、情報処理装置、情報処理方法、及びプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Mita,Izumita,Doi,Eto,"AdaptiveEqualizationTechniquesforDigitalVideoRecordingSystems",SMPTEPreprintNo.128−55
三田、天野、泉田、土居,「リニアキャンセラのディジタルVTRの適用」,1987年テレビジョン学会全国大会,No.7−17

Also Published As

Publication number Publication date
JPS62171328A (ja) 1987-07-28

Similar Documents

Publication Publication Date Title
US4847871A (en) Viterbi detector for digital signal
US6977970B2 (en) Data reproducing apparatus and method for improving detection performance by adjusting decision levels used in data detector
US5946355A (en) Serial-digital receiver
US7522663B2 (en) Burst error limiting feedback equalizer system and method for multidimensional modulation systems
US5774470A (en) Digital signal processor, error detection method, and recording medium reproducer
US6460150B1 (en) Noise-predictive post-processing for PRML data channel
GB2061674A (en) Method and apparatus for magnetic recording and reproduction of digital signal
EP0370772B1 (en) Digital signal reproducing apparatus
US5392316A (en) Decoding method and apparatus with maximum likelihood sequence estimation
JPH05130076A (ja) 最尤シーケンス距離計算器用装置、最尤シーケンスデコード用装置及びデコード方法
JPH07107985B2 (ja) 波形補償方法
GB2302465A (en) Data detection using adaptive thesholding
JPH07192270A (ja) 光ディスク信号再生方式
JP3027333B2 (ja) 磁気記録/再生装置のディジタル信号検出装置
JPH07107986B2 (ja) 波形補償方法
JPH04248169A (ja) 磁気再生装置
KR0183947B1 (ko) 적응형 비터비 검출기
KR19990044378A (ko) 검출기능이 개량된 송신 시스템 및 수신기와 개량된 검출방법
JPH07169191A (ja) 波形等化装置
JP3430855B2 (ja) ノイズ低減回路
JP2917191B2 (ja) ディジタル信号再生装置
JP3083202B2 (ja) 情報再生装置
JPH10199161A (ja) データ記録再生装置に適用するデータ再生システム
JP2005012557A (ja) 信号復号装置及び方法並びに基準電圧生成装置
JPH05260035A (ja) フレーム同期パターン検出装置