JP3250678B2 - 係数処理方法、係数処理回路およびビデオテープレコーダ - Google Patents

係数処理方法、係数処理回路およびビデオテープレコーダ

Info

Publication number
JP3250678B2
JP3250678B2 JP24854092A JP24854092A JP3250678B2 JP 3250678 B2 JP3250678 B2 JP 3250678B2 JP 24854092 A JP24854092 A JP 24854092A JP 24854092 A JP24854092 A JP 24854092A JP 3250678 B2 JP3250678 B2 JP 3250678B2
Authority
JP
Japan
Prior art keywords
value
coefficient
filter
error
divergence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP24854092A
Other languages
English (en)
Other versions
JPH0677772A (ja
Inventor
一行 家坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP24854092A priority Critical patent/JP3250678B2/ja
Publication of JPH0677772A publication Critical patent/JPH0677772A/ja
Application granted granted Critical
Publication of JP3250678B2 publication Critical patent/JP3250678B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Filters That Use Time-Delay Elements (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、例えばデジタル的にビ
デオ信号を記録再生するデジタルビデオテープレコーダ
に用いて好適な係数処理方法、係数処理回路およびビデ
オテープレコーダに関する。
【0002】
【従来の技術】図13は、従来のデジタルビデオテープ
レコーダの再生系の構成例を示している。磁気テープ1
には、ビデオデータあるいはオーディオデータがデジタ
ル的に記録されている。磁気ヘッド2は、磁気テープ1
から、そこに記録されているデータを再生し、増幅器3
を介してA/D変換器4に出力する。A/D変換器4に
よりA/D変換されたデータは、適応フィルタとしての
奇数次のFIR型トランスバーサルフィルタ5と演算回
路6に供給されている。
【0003】演算回路6は、A/D変換器4より供給さ
れたデータから、FIR型トランスバーサルフィルタ5
の係数を演算し、FIR型トランスバーサルフィルタ5
に出力している。FIR型トランスバーサルフィルタ5
は、演算回路6より供給される係数に、A/D変換器4
より入力されるデータを乗算し、デコーダ8に出力して
いる。デコーダ8は、演算回路6とともに等化回路(イ
コライザ)7を構成するFIR型トランスバーサルフィ
ルタ5より供給されたデータをデコードし、論理1また
は0のデータとして、図示せぬ回路に出力する。
【0004】FIR型トランスバーサルフィルタ5は、
例えば図14に示すように構成されている。即ち、この
実施例においては、入力されたデータが遅延回路111
乃至11N-1により順次遅延されるようになされてい
る。そして、各遅延回路111乃至11N-1の入出力が、
乗算器120乃至12N-1において、係数P0(n)乃至P
N-1 (n )と乗算される。加算器13は、乗算器120乃至
12N-1の出力を加算し、出力するようになされてい
る。
【0005】次に、演算回路6が実行する処理を示す図
15のフローチャートを参照して、その動作について説
明する。磁気ヘッド2により、磁気テープ1より再生さ
れたデジタルデータは、増幅器3により増幅された後、
A/D変換器4に入力され、A/D変換される。A/D
変換器4より出力されたデータは、フィルタ5と演算回
路6よりなる等化回路(イコライザ)7に入力される。
【0006】演算回路6は、A/D変換器4より入力さ
れたデータに対して、図14に示す構成のフィルタ5が
行う処理と同様の処理を、図15のフローチャートに従
って、ソフト的に実行する。
【0007】最初に、演算回路6は、フィルタ5の遅延
回路111乃至11N-1により、1クロック分ずつ順次遅
延された場合と同様のデータを生成する。その結果、次
式で表わされる入力データ列X(n)が得られる(ステッ
プS1)。 X(n)=〔x(n),x(n-1),・・・x(n-N+1)〕・・・
(1)
【0008】一方、乗算器120乃至12N-1にロードす
べきタップ係数P0(n),P1(n),・・・PN-1(n)により
構成される、次式で示されるタップ係数ベクトルP(n)
を生成する。 P(n)=〔P0(n),P1(n),・・・PN-1(n)〕・・・
(2)
【0009】次に、乗算器120乃至12N-1が、各遅延
回路111乃至11N-1の入出力に、これらの各タップ係
数を乗算して出力した値を加算器13により加算した場
合に得られる出力y(n)を、次式に従って演算する。
(ステップS2)。 y(n)=P(n)X’(n)・・・(3) 尚、ここでX’(n)は、入力データ列のベクトルX(n)
転置行列を表わしている。
【0010】次に、ステップS2で求めた値y(n)と、
目標値d(n)とから、誤差ε(n)を演算する(ステップS
3)。
【0011】目標値d(n)は、出力y(n)の値と、予め設
定した所定の閾値THとの関係から、次のように定めら
れる。
【0012】即ち、d(n)は、y(n)>THのとき、1と
され、y(n)<−THのとき、−1とされ、−TH<y
(n)<THのとき、0とされる。そして、これらの各場
合において、誤差ε(n)は、次の各式から求められる。 y(n)>THの場合 ε(n)=d(n)−y(n)=1−y(n)・・・(4) y(n)<−THの場合 ε(n)=d(n)−y(n)=−1−y(n)・・・(5) −TH<y(n)<THの場合 ε(n)=d(n)−y(n)=0−y(n)=−y(n)・・・(6)
【0013】次に、グラジエント法としてのLMS法
(最小平均2乗法)に従って、ある時点における平均2
乗誤差をE〔{ε(n)2〕とするとき、次式に従って乗
算器120乃至12N-1の次の係数P(n+1)が演算され
る。 P(n+1)=P(n)−(α/2)∇P(n)E〔{ε(n)2〕 =P(n)−αE〔ε(n)P(n){ε(n)}〕 =P(n)−αE〔ε(n)(n)〕・・・(7) ここで、αはステップサイズであり、勾配(グラジエン
ト)を一度に下る大きさを決定する正の数である。
【0014】しかしながら、A/D変換器4より入力さ
れる信号の状態が時間的に変化している場合、信号の期
待値 E〔ε(n)(n)〕 も変化する。そこで、期待値の代りに、不偏分散値 ε(n)(n) が用いられる。これにより、上記(7)式は次のように
書き替えられる。 P(n+1)=P(n)−αε(n)(n)・・・(8)
【0015】この式に従って、演算回路6内におけるソ
フト的な乗算器120乃至12N-1の各タップ係数が更新
される(ステップS4)。
【0016】そして、次に、このようにして演算された
係数がフィルタ5の実際の乗算器120乃至12N-1にロ
ードされる(ステップS5)。
【0017】以上のようにして、演算回路6により演算
された係数がフィルタ5の各乗算器にロードされ、A/
D変換器4より出力されたデータに、その係数が乗算さ
れて等化が行われる。そして、この等化出力がデコーダ
8に出力される。デコーダ8は、フィルタ5の出力を所
定の閾値と比較し、1または0の論理に判定する(デコ
ードする)。
【0018】
【発明が解決しようとする課題】以上のように従来の装
置は、LMS(最小平均2乗法)アルゴリズムに従っ
て、目標値に対する入力データの誤差が0になるよう
に、タップ係数を更新していくようにしている。その結
果、磁気テープ1から、例えばヘッドクロック部分や無
信号部分が再生されると、殆んど0に近いデータが、比
較的長い時間入力されるため、フィルタ5の出力が、デ
コーダ8により全て論理0とデコードされ、(6)式に
従って、出力y(n)そのものを誤差ε(n)として、さらに
0に近づけるように、フィルタ5のタップ係数が更新さ
れ続ける。従って、その後、正常な入力信号が供給され
たとしても、タップ係数が小さくなり過ぎているため、
フィルタ5の出力は、デコーダ8において論理1とデコ
ードされず、発散してしまう課題があった。
【0019】本発明はこのような状況に鑑みてなされた
ものであり、発散を防止するようにするものである。
【0020】
【課題を解決するための手段】請求項1に記載の係数処
理方法は、フィルタの出力に対応する値と目標値との誤
差を演算し、誤差の平均2乗値を最小化する新たな係数
を演算し、フィルタのセンタタップの係数に対応する値
を所定の基準値と比較して発散の有無を判別し、発散の
判別結果に対応して目標値を推定する閾値を制御し、閾
値は減少される前の値であるか否かを判別し、発散が判
別された場合、閾値が小さくなるように制御し、発散が
判別されない場合、閾値が減少される前の値であるか否
かの判別結果に応じて閾値が大きくなるように制御する
とともに、誤差の平均2乗値を最小化する新たな係数を
フィルタの係数とすることを特徴とする。
【0021】請求項2に記載の係数処理回路は、入力さ
れるデータに所定の係数を乗算して等化する奇数次のF
IR型トランスバーサルフィルタと、フィルタの係数を
演算する演算回路とを有し、演算回路は、フィルタの出
力に対応する値と目標値との誤差を演算する第1の演算
手段と、誤差の平均2乗値を最小化する新たな係数を演
算する第2の演算手段と、フィルタのセンタタップの係
数に対応する値を所定の基準値と比較し発散の有無を判
別する発散判別手段と、発散判別手段の判別結果に対応
して目標値を推定する閾値を制御する制御手段と、閾値
は減少される前の値であるか否かを判別する閾値判別手
段とを備え、発散判別手段により発散が判別された場
合、制御手段は、閾値が小さくなるように制御し、発散
判別手段により発散が判別されない場合、制御手段は、
閾値判別手段の判別結果に応じて閾値が大きくなるよう
に制御するとともに、第2の演算手段により演算された
誤差の平均2乗値を最小化する新たな係数をフィルタの
係数とすることを特徴とする。
【0022】請求項3に記載のビデオテープレコーダ
は、フィルタの出力に対応する値と目標値との誤差を演
算する第1の演算手段と、誤差の平均2乗値を最小化す
る新たな係数を演算する第2の演算手段と、フィルタの
センタタップの係数に対応する値を所定の基準値と比較
し発散の有無を判別する発散判別手段と、発散判別手段
の判別結果に対応して目標値を推定する閾値を制御する
制御手段と、閾値は減少される前の値であるか否かを判
別する閾値判別手段とを備え、発散判別手段により発散
が判別された場合、制御手段は、閾値が小さくなるよう
に制御し、発散判別手段により発散が判別されない場
合、制御手段は、閾値判別手段の判別結果に応じて閾値
が大きくなるように制御するとともに、第2の演算手段
により演算された誤差の平均2乗値を最小化する新たな
係数をフィルタの係数とすることを特徴とする。
【0023】請求項4に記載の係数処理方法は、適応フ
ィルタの出力に対応する値と目標値との誤差を演算し、
誤差の平均2乗値を最小化する新たな係数を演算し、適
応フィルタの出力に対応する値をデコードし、デコード
されたデータのうち、連続する論理0または1の数を計
数し、計数した数を所定の基準値と比較し、比較結果に
対応して目標値を推定する閾値を制御することを特徴と
する。
【0024】請求項5に記載の係数処理回路は、入力さ
れるデータに所定の係数を乗算して等化する適応フィル
タと、適応フィルタの係数を演算する演算回路と、適応
フィルタの出力をデコードするデコーダとを備え、演算
回路は、適応フィルタの出力に対応する値と目標値との
誤差を演算する第1の演算手段と、誤差の平均2乗値を
最小化する新たな係数を演算する第2の演算手段と、デ
コーダによりデコードされたデータに対応するデータの
うち、連続する論理0または1の数を計数する計数手段
と、計数手段により計数した計数値を所定の基準値と比
較する比較手段と、比較手段による比較結果に対応して
目標値を推定する閾値を制御する制御手段とを備えるこ
とを特徴とする。
【0025】請求項6に記載のビデオテープレコーダ
は、磁気テープに記録されているデータを再生する磁気
ヘッドと、磁気ヘッドにより再生されたデータに所定の
係数を乗算する適応フィルタと、適応フィルタの係数を
演算する演算回路と、適応フィルタの出力をデコードす
るデコーダとを有し、演算回路は、適応フィルタの出力
に対応する値と目標値との誤差を演算する第1の演算手
段と、誤差の平均2乗値を最小化する新たな係数を演算
する第2の演算手段と、デコーダによりデコードされた
データに対応するデータのうち、連続する論理0または
1の数を計数する計数手段と、計数手段により計数した
計数値を所定の基準値と比較する比較手段と、比較手段
による比較結果に対応して目標値を推定する閾値を制御
する制御手段とを備えることを特徴とする。
【0026】請求項7に記載の係数処理方法は、適応フ
ィルタの出力に対応する値と目標値との誤差を演算し、
誤差の平均2乗値を最小化する新たな係数を演算し、適
応フィルタの出力をビタビデコーダによりデコードし、
デコードされたデータのうち、連続する論理0または1
の数を所定の容量分だけ記憶し、容量をオーバフローし
たとき、オーバフロー信号を出力し、オーバフロー信号
に対応して目標値を推定する閾値を制御することを特徴
とする。
【0027】請求項8に記載の係数処理回路は、入力さ
れるデータに所定の係数を乗算して等化する適応フィル
タと、適応フィルタの係数を演算する演算回路と、適応
フィルタの出力をデコードするビタビデコーダとを備
え、演算回路は、適応フィルタの出力に対応する値と目
標値との誤差を演算する第1の演算手段と、誤差の平均
2乗値を最小化する新たな係数を演算する第2の演算手
段とを備え、ビタビデコーダは、連続する論理0または
1の数をその容量分だけ記憶し、容量をオーバフローし
たとき、オーバフロー信号を出力する記憶手段と、オー
バフロー信号に対応して目標値を推定する閾値を制御す
る制御手段とを備えることを特徴とする。
【0028】請求項9に記載のビデオテープレコーダ
は、磁気テープに記録されているデータを再生する磁気
ヘッドと、磁気ヘッドにより再生されたデータに所定の
係数を乗算する適応フィルタと、適応フィルタの係数を
演算する演算回路と、適応フィルタの出力をデコードす
るビタビデコーダとを有し、演算回路は、適応フィルタ
の出力に対応する値と目標値との誤差を演算する第1の
演算手段と、誤差の平均2乗値を最小化する新たな係数
を演算する第2の演算手段とを備え、ビタビデコーダ
は、連続する論理0または1の数をその容量分だけ記憶
し、容量をオーバフローしたとき、オーバフロー信号を
出力する記憶手段と、オーバフロー信号に対応して目標
値を推定する閾値を制御する制御手段とを備えることを
特徴とする。
【0029】
【0030】
【0031】
【作用】本発明の第1の係数処理方法、係数処理回路、
およびビデオテープレコーダにおいては、フィルタの出
力に対応する値と目標値との誤差が演算され、誤差の平
均2乗値を最小化する新たな係数が演算され、フィルタ
のセンタタップの係数に対応する値が所定の基準値と比
較されて発散の有無が判別され、発散の判別結果に対応
して目標値を推定する閾値が制御され、閾値は減少され
る前の値であるか否かが判別され、発散が判別された場
合、閾値が小さくなるように制御され、発散が判別され
ない場合、閾値が減少される前の値であるか否かの判別
結果に応じて閾値が大きくなるように制御されるととも
に、誤差の平均2乗値を最小化する新たな係数がフィル
タの係数とされる。
【0032】本発明の第2の係数処理方法、係数処理回
路、およびビデオテープレコーダにおいては、適応フィ
ルタの出力に対応する値と目標値との誤差が演算され、
誤差の平均2乗値を最小化する新たな係数が演算され、
適応フィルタの出力に対応する値がデコードされ、デコ
ードされたデータのうち、連続する論理0または1の数
が計数され、計数した数が所定の基準値と比較され、比
較結果に対応して目標値を推定する閾値が制御される。
【0033】本発明の第3の係数処理方法、係数処理回
路、およびビデオテープレコーダにおいては、適応フィ
ルタの出力に対応する値と目標値との誤差が演算され、
誤差の平均2乗値を最小化する新たな係数が演算され、
適応フィルタの出力がビタビデコーダによりデコードさ
れ、デコードされたデータのうち、連続する論理0また
は1の数が所定の容量分だけ記憶され、容量をオーバフ
ローしたとき、オーバフロー信号が出力され、オーバフ
ロー信号に対応して目標値を推定する閾値が制御され
る。
【0034】
【0035】
【0036】
【0037】
【0038】
【実施例】図1は、本発明のビデオテープレコーダの一
実施例の構成を示すブロック図であり、図13における
場合と対応する部分には同一の符号を付してある。この
実施例においては、等化回路7が、フィルタ5と演算回
路21により構成されている。その他の構成は、図13
における場合と同様である。即ち、本発明のビデオテー
プレコーダは、図13に示した従来の場合と基本的に同
様に構成されており、演算回路21における演算処理が
従来の場合と異なっている。
【0039】そこで、次に図2のフローチャートを参照
して、その動作について説明する。
【0040】ステップS11乃至S14の処理は、図1
5に示したステップS1乃至S4の処理と同様である。
即ち、ここまでに、従来におけるLMSアルゴリズムに
おける場合と同様の処理が実行される。
【0041】そして、ステップS14の次にステップS
15に進み、フィルタ5のセンタタップの係数が演算回
路21において検出され、その値が予め設定された所定
の基準値と比較される。奇数次のFIR型トランスバー
サルフィルタ5は、発散すると、そのタップ係数が最終
的には0となる。
【0042】ここで、フィルタ5のタップ係数が発散し
た場合、0になることについて説明する。
【0043】上記した(3)式から、フィルタ5の出力
(n)は、次式で表わすことができる。
【0044】
【数1】
【0045】そして平均2乗誤差MSEは、次式で表わ
すことができる。
【0046】
【数2】
【0047】ここで∂MSE/∂P0=∂MSE/∂P1
=・・・∂MSE/∂PN-1=0となるタップ係数P0
1,・・・PN-1が最適な係数となる。
【0048】いま、次式が成立する。 ∂MSE/∂Pk=−2E〔d(n)(n-k)〕 +2ΣPiE〔x(n-i)(n-k)〕・・・(11) ∂MSE/∂Pk=0・・・(12)
【0049】従って、次式が成立する。
【0050】
【数3】
【0051】ここで、d(n)=0とおくと、(13)式
は次式で表わすことができる。
【0052】
【数4】
【0053】ここで、E〔x(n-i)(n-k)〕≠0である
から、上記(14)式を満足するには、次式が成立す
る。 P0=P1=・・・Pk=・・・PN-1=0・・・(15)
【0054】このように発散すると、タップ係数が最終
的に0となる。そこで、この発散徴候を検出するため
に、タップ係数が連続的に減少するか否かを、ステップ
S15において判定するのである。判断の基準となる連
続回数(基準値)は、システムにおいて適宜定めること
ができる。
【0055】ステップS15において、発散の傾向にあ
ると判定された場合、ステップS16に進み、ステップ
S13((4)式乃至(6)式)において誤差ε(n)
演算する場合に用いた閾値THを減少させる(0に近い
値にする)。
【0056】即ち、図3に示すように、入力1に対し
て、A/D変換器4が出力する正の値と0の間に正の閾
値THが設けられており、また、入力−1に対して、A
/D変換器4が出力する負の値と0との間に負の閾値−
THが設けられている。上述したように、このTH以上
の値は論理1と判定され、−TH以下の値は−1と判定
され、−THとTHの間の値は0と判定されるのである
が、ステップS16において、このTHを0に近づける
結果、図3に破線で示すように、A/D変換器4より入
力されるデータが論理0と判定される範囲が狭くなる。
これにより、多くのデータが論理1または−1と判定さ
れるようになる。その結果、発散が抑制されるか、発生
しても、速やかに回避される。
【0057】ステップS16の次にステップS11に戻
り、それ以降の処理が繰返し実行される。
【0058】ステップS15において、タップ係数が減
少していない(発散していない)と判定された場合にお
いては、ステップS17に進み、閾値THが元の値(ス
テップS16において、減少される前の値)であるか否
かが判定され、元の値でない場合(ステップS16にお
いて、減少された値である場合)においては、ステップ
S18に進み、この閾値THが増加される(元の値に戻
される)。その後、ステップS19に進み、係数がフィ
ルタ5の各乗算器120乃至12N-1にロードされる。ス
テップS17において、閾値THが元の値であると判定
された場合においては、ステップS18はスキップさ
れ、直接ステップS19に進む。ステップS19の次に
ステップS11に戻り、それ以降の処理が繰返し実行さ
れる。
【0059】図4は、本発明のビデオテープレコーダの
第2の実施例を示している。この実施例においては、F
IR型トランスバーサルフィルタ5とともに等化回路7
を構成する演算回路31が、カウンタ32を内蔵してお
り、この演算回路31にメモリ33が接続されている。
その他の構成は、図1における場合と同様である。
【0060】次に、図4の実施例の動作について、図5
のフローチャートを参照して説明する。
【0061】ステップS21乃至S24の処理は、図2
におけるステップS11乃至S14の処理(図15にお
けるステップS1乃至S4の処理)と同様である。即
ち、通常のLMSアルゴリズムの処理が実行される。
【0062】次にステップS25において、演算回路3
1は、内部のソフト上において、A/D変換器4の出力
と閾値THとを比較してデコードした論理が0(または
論理1でもよい)であるか否かを判定する。論理0でな
い場合(論理1である場合)、ステップS29に進み、
演算回路31が内蔵するカウンタ32がリセットされ
る。そして、ステップS24において演算した新たな係
数が、ステップS30において、フィルタ5の各乗算器
にロードされる。ステップS30の次にステップS21
に戻り、それ以降の処理が繰返される。
【0063】ステップS25において、内部ソフトでデ
コードされた論理が0であると判定された場合、ステッ
プS26に進み、カウンタ32の値が1だけインクリメ
ントされる。そしてステップS27において、そのカウ
ンタ32のカウント値が、予め設定されている想定ゼロ
ラン数より大きいか否かが判定される。
【0064】論理0が連続する最大の値Tmax(最大反
転間隔)は、磁気テープ1における変調方式(例えばM
2,8−10変換等の方式)により規定される。そこ
で、このTmaxに対応して、ゼロラン数が設定される。
NRZの場合、論理的にTmaxは無限大となるが、実際
の検出方式、システムのもとでゼロラン数を実測すれ
ば、所定の発生確率より低い確率のゼロラン数を求める
ことができる。そこで、この場合は、この極めて低い発
生確率の値を想定ゼロラン数とすればよい。
【0065】このように、変調方式により定まるゼロラ
ン数より多い数の論理0が連続する場合においては、こ
れを発散と判定することができる。そこで、この場合に
おいては、ステップS27からステップS28に進み、
このとき演算回路31において演算に用いたデータ、お
よびそれを基にして演算して得られたデータを破棄す
る。そして、フィルタ5の各乗算器には、メモリ33に
予め記憶されている初期値を設定する。この初期値は、
発散しない値とされていることはもとよりである。ある
いはまた、このとき設定する値として、発散していない
状態におけるタップ係数をメモリ33に随時記憶してお
き、このデータを読み出し、ロードするようにすること
もできる。
【0066】ステップS28の次にステップS21に戻
り、それ以降の処理が繰返される。
【0067】ステップS27で、カウンタ32の計数値
が想定ゼロラン数より小さいと判定されたとき、発散の
可能性はないので、ステップS22に戻り、それ以降の
処理が繰返される。
【0068】図6は、本発明のビデオテープレコーダの
さらに他の実施例を示している。この実施例において
は、フィルタ5とともに等化回路7を構成する演算回路
41が、カウンタ42を内蔵しており、また演算回路4
1には、メモリ43が接続されている。さらに、この実
施例においては、デコーダがビタビデコーダ44により
構成されており、このビタビデコーダ44はバッファメ
モリ45を内蔵している。そして、バッファメモリ45
の出力がカウンタ42に供給されている。その他の構成
は、図4における場合と同様である。
【0069】この実施例は、デコーダとしてビタビデコ
ーダ44を用いていることが特徴である。そこで最初
に、このビタビデコーダの動作について説明する。い
ま、ビタビデコーダ44は、Fergusonのアルゴ
リズムを用い、再生検出方式としてPR4(パーシャル
レスポンスクラスIV)を用いているものとする。PR4
は、系の特性として、1−D2を持ち、これは1−Dと
1+Dという特性の2つの系に分けることができる。
【0070】1−Dの特性を持つ系に対応するトレリス
線図は、図7に示すようになる。このトレリス線図を辿
ることにより、データをデコードすることができる。即
ち、このトレリス線図上を、それぞれの時刻でメトリッ
ク(metric)の累算を比較し、パスを辿り、デコ
ードデータを得るのである。
【0071】図7に示すパス上の−1,0,1は、デコ
ードされた結果を示す。NRZIの場合、この1,−1
が、最終的に1とデコードされることになる。
【0072】Fergusonのアルゴリズムにおいて
は、それぞれの時刻において、図8に示す3種類のマー
ジを検出し、それにより得られるパスを辿り、データが
デコードされる。3種類のマージとは、プラス(+)マ
ージ、マイナス(−)マージ、およびノンマージであ
る。
【0073】このマージは、次式で表わされるΔkを用
いて、次のように検出することができる。 Δk=fk +−fk - ここで、fk +,fk -は、それぞれSk=+1およびSk
−1(図7)におけるメトリックを表わす。また次式に
おけるykは再生信号の識別点の値である。
【0074】 ケース1:Δk−yk+1>1の時 プラスマージ Δk+1=yk+1+1 ケース2:−1<Δk−yk+1<1の時 ノンマージ Δk+1=Δk ケース3:Δk−yk+1<−1の時 マイナスマージ Δk+1=yk+1−1
【0075】即ち、マージの検出は、Δk−yk+1が1以
上であるか、−1以下であるかに着目して検出される。
【0076】次に、実際の検出動作について説明する
と、いま図9に示すように、k=1,2,3の各タイミ
ングにおける再生識別点において、1.8,1.2,−
1.7のデータがA/D変換器4より出力されたとす
る。但し、これらの信号のレベルは正しくは、それぞれ
−2,0,2となるものとする。
【0077】このデータ系列は、従来のデコーダにおい
ては閾値THが1であるとすると、1以上が1、−1以
下が−1、−1乃至1の間の値が0とデコードされるた
め、(1,1,−1)とデコードされる。
【0078】これに対して、Fergusonのアルゴ
リズムによるビタビデコーダ44においては、k=1の
時点においてマージが検出される。ここで、Δ0=0と
すると、y1の値がいま1.8であるから、上記したケ
ース3に相当し、マイナスマージが検出される(図1
0)。その結果、Δ1は次式により0.8となる。 Δ1=y1−1=1.8−1=0.8
【0079】次に、k=2のタイミングにおいては、y
2=1.2であり、Δ1は0.8であるため、上記したケ
ース2に対応し、ノンマージが検出される。
【0080】即ち、図10に示すように、k=1のと
き、Δ0=0を中心に、±1の範囲にマージの閾値を有
し、また、k=2のときは、Δ1=0.8を中心に、そ
こから±1の範囲に、即ち、1.8と−0.2のところ
にマージの閾値を有する。図10において、上の閾値を
超えるとマイナスマージが起こり、下の閾値を超えると
プラスマージが起こる。
【0081】以上のようにして、図9および図10に示
した例に対応して、図11に示すマージで表わされたト
レリス線図が得られる。
【0082】図11より明らかなように、この場合にお
けるデコードデータは(1,0,?)となる。k=3に
おいて、?となるのは、次のマージがまだ決定されてい
ないためである。
【0083】従来のデコーダにおいては、2番目のデー
タは論理1とデコードされるのであるが、ビタビデコー
ダにおいては論理0とデコードされていることが判る。
【0084】磁気記録再生系は微分特性を有しているた
め、ハイレベル(+1)の次には、0またはローレベル
(−1)が発生するはずである。しかしながら、k=2
において、従来のデコードデータはハイレベル(+1)
とされているが、ビタビデコーダにおいては、正しく0
とデコードされる。
【0085】但し、このビタビデコーダによりデコード
すると、時刻k−1にマージが発生した場合において、
次のマージが発生するまで、時刻kのデコード値が決定
されない。そこで、次のマージを待たずに暫定的に推定
を行い、これをバッファメモリ45に格納しておき、後
でマージが発生したとき、これを書き替えるようにする
のである。
【0086】暫定的な推定は、次のルールで行うことが
できる。 (1)時刻k−1にプラスマージが発生した場合 Δk>0の場合 b(k)=0 Δk<0の場合 b(k)=1 (2)時刻k−1にマイナスマージが発生した場合 Δk>0の場合 b(k)=1 Δk<0の場合 b(k)=0 (3)時刻k−1にマージが発生しなかった場合 b(k)=0 尚、ここでb(k)は、時刻kにおける推定デコード値を
表わしている。
【0087】バッファメモリ45の容量を越えて、ノン
マージが連続して発生した場合、上記方法で得た推定値
がオーバフローして出力されることになる。仮に、ヘッ
ドクロックや無信号記録部の再生により、等化アルゴリ
ズムが発散の徴候を示したり、または発散状態に陥った
場合、フィルタ5の出力(ビタビデコーダ44の入力)
に略0に近い値が連続し、上記した(3)のノンマージ
の状態が連続することになる。
【0088】バッファメモリ45の容量を、ある程度大
きくしておいた場合にオーバフローが続くということ
は、アルゴリズムの発散と考えることができる。そこ
で、このオーバフロー情報をアルゴリズムにフィードバ
ックすることにより、アルゴリズムの発散を検出するこ
とができる。
【0089】以上の原理に従って、図6の実施例におい
ては、図12のフローチャートに示す処理が実行され
る。即ち、最初にステップS41乃至S45において、
図15に示したステップS1乃至S5における場合と同
様のLMS処理が実行される。
【0090】そして、ステップS45からステップS4
6に進み、演算回路41の内蔵するカウンタ42は、ビ
タビデコーダ44の出力バッファメモリ45がオーバフ
ローを示すフラグを出力したとき、これをカウントす
る。そしてステップS47において、その計数値が予め
設定した所定の基準値R以上となっているか否かを判定
する。計数値が基準値Rより小さい場合においては、発
散が起きていないため、ステップS41に戻り、それ以
降の処理を繰返す。
【0091】これに対して、ステップS47において、
カウント値が基準値R以上であると判定された場合、
散の可能性有と判定され、ステップS48に進み、メモ
リ43に記憶されている初期値の係数が読み出され、フ
ィルタ5の乗算器にロードされる。そして、アルゴリズ
ムは一旦リセットされる。ステップS48の次にステッ
プS41に戻り、それ以降の処理が繰返し実行される。
【0092】尚、この実施例においても、メモリ43に
発散しない状態のタップ係数を記憶しておき、それをス
テップS48においてロードするようにすることも可能
である。
【0093】以上の実施例においては、フィルタ5で実
行される処理と同様の処理を、演算回路21,31,4
1においてソフト的に行うようにしたが、フィルタ5や
デコーダ8の実際の出力を用いて演算を行うことも可能
である。
【0094】また、以上の実施例においては、センタタ
ップの係数、ゼロランまたはオーバフローにより発散ま
たはその傾向を検出し、発散またはその傾向を検出した
場合における処理として、閾値THを変更するか、係数
を所定の初期値、あるいは発散しない所定の係数に変更
するようにしたが、発散の検出方法と、検出された場合
の処理方法は、任意の組合せが可能である。
【0095】
【発明の効果】本発明の第1の係数処理方法、係数処理
回路、およびビデオテープレコーダによれば、フィルタ
の出力に対応する値と目標値との誤差を演算し、誤差の
平均2乗値を最小化する新たな係数を演算し、フィルタ
のセンタタップの係数に対応する値を所定の基準値と比
較して発散の有無を判別し、発散の判別結果に対応して
目標値を推定する閾値を制御し、閾値は減少される前の
値であるか否かを判別し、発散が判別された場合、閾値
が小さくなるように制御し、発散が判別されない場合、
閾値が減少される前の値であるか否かの判別結果に応じ
て閾値が大きくなるように制御するとともに、誤差の平
均2乗値を最小化する新たな係数をフィルタの係数とす
るので、簡単な構成で、確実に発散またはその傾向を検
出し、発散を回避するか、発散したとしても、速やかに
発散しない状態に復帰させることが可能となる。
【0096】本発明の第2の係数処理方法、係数処理回
路、およびビデオテープレコーダによれば、適応フィル
タの出力に対応する値と目標値との誤差を演算し、誤差
の平均2乗値を最小化する新たな係数を演算し、適応フ
ィルタの出力に対応する値をデコードし、デコードされ
たデータのうち、連続する論理0または1の数を計数
し、計数した数を所定の基準値と比較して、比較結果に
対応して目標値を推定する閾値を制御するようにしたの
で、簡単な構成で、確実に発散またはその傾向を検出
し、発散を回避するか、発散したとしても、速やかに発
散しない状態に復帰させることが可能となる。
【0097】本発明の第3の係数処理方法、係数処理回
路、およびビデオテープレコーダによれば、適応フィル
タの出力に対応する値と目標値との誤差を演算し、誤差
の平均2乗値を最小化する新たな係数を演算し、適応フ
ィルタの出力をビタビデコーダによりデコードし、デコ
ードされたデータのうち、連続する論理0または1の数
を所定の容量分だけ記憶し、容量をオーバフローしたと
き、オーバフロー信号を出力し、オーバフロー信号に対
応して目標値を推定する閾値を制御するようにしたの
で、簡単な構成で、確実に発散またはその傾向を検出
し、発散を回避するか、発散したとしても、速やかに発
散しない状態に復帰させることが可能となる。
【0098】
【0099】
【0100】
【0101】
【図面の簡単な説明】
【図1】本発明のビデオテープレコーダの一実施例の構
成を示すブロック図である。
【図2】図1の実施例の動作を説明するフローチャート
である。
【図3】図2のステップS16の処理を説明する図であ
る。
【図4】本発明のビデオテープレコーダの他の実施例の
構成を示すブロック図である。
【図5】図4の実施例の動作を説明するフローチャート
である。
【図6】本発明のビデオテープレコーダのさらに他の実
施例の構成を示すブロック図である。
【図7】図6のビタビデコーダ44の動作原理を説明す
るトレリス線図である。
【図8】図7のマージを説明する図である。
【図9】図6のビタビデコーダ44の動作を説明する図
である。
【図10】図9の例におけるマージの閾値を説明する図
である。
【図11】図9の入力に対応するトレリス線図である。
【図12】図6の実施例の動作を説明するフローチャー
トである。
【図13】従来のビデオテープレコーダの構成例を示す
ブロック図である。
【図14】図13のFIR型トランスバーサルフィルタ
5の構成例を示すブロック図である。
【図15】図13の動作を説明するフローチャートであ
る。
【符号の説明】
1 磁気テープ 2 磁気ヘッド 3 増幅器 4 A/D変換器 5 FIR型トランスバーサルフィルタ 6 演算回路 7 等化回路 8 デコーダ 111乃至11N-1 遅延回路 120乃至12N-1 乗算器 13 加算器 21,31 演算回路 32 カウンタ 33 メモリ 41 演算回路 42 カウンタ 43 メモリ 44 ビタビデコーダ 45 バッファメモリ
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI H03H 17/06 635 H03H 17/06 635B (56)参考文献 特開 平2−217014(JP,A) 特開 平1−136429(JP,A) 特開 平2−237307(JP,A) 特開 昭64−77228(JP,A) 特開 昭62−253232(JP,A) 特開 昭62−213322(JP,A) 特開 昭63−13526(JP,A) (58)調査した分野(Int.Cl.7,DB名) H03H 21/00 G11B 20/10 321 G11B 20/18 534 H03H 15/00 H03H 17/02 601 H03H 17/06 635

Claims (9)

    (57)【特許請求の範囲】
  1. 【請求項1】 入力されるデータに所定の係数を乗算し
    て等化する奇数次のFIR型トランスバーサルフィルタ
    の係数処理方法において、 前記フィルタの出力に対応する値と目標値との誤差を演
    算し、 前記誤差の平均2乗値を最小化する新たな係数を演算
    し、 前記フィルタのセンタタップの係数に対応する値を所定
    の基準値と比較して発散の有無を判別し、 発散の判別結果に対応して前記目標値を推定する閾値を
    制御し、 前記閾値は減少される前の値であるか否かを判別し、 発散が判別された場合、前記閾値が小さくなるように制
    御し、 発散が判別されない場合、前記閾値が減少される前の値
    であるか否かの判別結果に応じて前記閾値が大きくなる
    ように制御するとともに、前記誤差の平均2乗値を最小
    化する新たな係数を前記フィルタの係数とする ことを特
    徴とする係数処理方法。
  2. 【請求項2】 入力されるデータに所定の係数を乗算し
    て等化する奇数次のFIR型トランスバーサルフィルタ
    と、 前記フィルタの前記係数を演算する演算回路とを有する
    係数処理回路において、 前記演算回路は、 前記フィルタの出力に対応する値と目標値との誤差を演
    算する第1の演算手段と、 前記誤差の平均2乗値を最小化する新たな係数を演算す
    る第2の演算手段と、 前記フィルタのセンタタップの係数に対応する値を所定
    の基準値と比較し発散の有無を判別する発散判別手段
    と、 前記発散判別手段の判別結果に対応して前記目標値を推
    定する閾値を制御する制御手段と、 前記閾値は減少される前の値であるか否かを判別する閾
    値判別手段とを備え、 前記発散判別手段により発散が判別された場合、前記制
    御手段は、前記閾値が 小さくなるように制御し、 前記発散判別手段により発散が判別されない場合、前記
    制御手段は、前記閾値判別手段の判別結果に応じて前記
    閾値が大きくなるように制御するとともに前記第2の
    演算手段により演算された前記誤差の平均2乗値を最小
    化する新たな係数を前記フィルタの係数とすることを特
    徴とする係数処理回路。
  3. 【請求項3】 磁気テープに記録されているデータを再
    生する磁気ヘッドと、 前記磁気ヘッドにより再生されたデータに所定の係数を
    乗算する奇数次のFIR型トランスバーサルフィルタ
    と、 前記フィルタの前記係数を演算する演算回路とを有する
    ビデオテープレコーダにおいて、 前記フィルタの出力に対応する値と目標値との誤差を演
    算する第1の演算手段と、 前記誤差の平均2乗値を最小化する新たな係数を演算す
    る第2の演算手段と、 前記フィルタのセンタタップの係数に対応する値を所定
    の基準値と比較し発散の有無を判別する発散判別手段
    と、 前記発散判別手段の判別結果に対応して前記目標値を推
    定する閾値を制御する制御手段と、 前記閾値は減少される前の値であるか否かを判別する閾
    値判別手段とを備え、 前記発散判別手段により発散が判別された場合、前記制
    御手段は、前記閾値が小さくなるように制御し、 前記発散判別手段により発散が判別されない場合、前記
    制御手段は、前記閾値判別手段の判別結果に応じて前記
    閾値が大きくなるように制御するとともに、前記第2の
    演算手段により演算された前記誤差の平均2乗値を最小
    化する新たな係数を前記フィルタの係数とする ことを特
    徴とするビデオテープレコーダ。
  4. 【請求項4】 入力されるデータに所定の係数を乗算し
    て等化する適応フィルタの係数処理方法において、 前記適応フィルタの出力に対応する値と目標値との誤差
    を演算し、 前記誤差の平均2乗値を最小化する新たな係数を演算
    し、 前記適応フィルタの出力に対応する値をデコードし、 デコードされたデータのうち、連続する論理0または1
    の数を計数し、 計数した数を所定の基準値と比較し、 比較結果に対応して前記目標値を推定する閾値を制御す
    ことを特徴とする係数処理方法。
  5. 【請求項5】 入力されるデータに所定の係数を乗算し
    て等化する適応フィルタと、 前記適応フィルタの前記係数を演算する演算回路と、 前記適応フィルタの出力をデコードするデコーダとを備
    える係数処理回路において、 前記演算回路は、 前記適応フィルタの出力に対応する値と目標値との誤差
    を演算する第1の演算手段と、 前記誤差の平均2乗値を最小化する新たな係数を演算す
    る第2の演算手段と、 前記デコーダによりデコードされたデータに対応するデ
    ータのうち、連続する論理0または1の数を計数する計
    数手段と、 前記計数手段により計数した計数値を所定の基準値と比
    較する比較手段と 前記比較手段による比較結果に対応して前記目標値を推
    定する閾値を制御する制御手段と を備えることを特徴と
    する係数処理回路。
  6. 【請求項6】 磁気テープに記録されているデータを再
    生する磁気ヘッドと、 前記磁気ヘッドにより再生されたデータに所定の係数を
    乗算する適応フィルタと、 前記適応フィルタの前記係数を演算する演算回路と、 前記適応フィルタの出力をデコードするデコーダとを有
    するビデオテープレコーダにおいて、 前記演算回路は、 前記適応フィルタの出力に対応する値と目標値との誤差
    を演算する第1の演算手段と、 前記誤差の平均2乗値を最小化する新たな係数を演算す
    る第2の演算手段と、 前記デコーダによりデコードされたデータに対応するデ
    ータのうち、連続する論理0または1の数を計数する計
    数手段と、 前記計数手段により計数した計数値を所定の基準値と比
    較する比較手段と 前記比較手段による比較結果に対応して前記目標値を推
    定する閾値を制御する制御手段と を備えることを特徴と
    するビデオテープレコーダ。
  7. 【請求項7】 入力されるデータに所定の係数を乗算し
    て等化する適応フィルタの係数処理方法において、 前記適応フィルタの出力に対応する値と目標値との誤差
    を演算し、 前記誤差の平均2乗値を最小化する新たな係数を演算
    し、 前記適応フィルタの出力をビタビデコーダによりデコー
    ドし、 デコードされたデータのうち、連続する論理0または1
    の数を所定の容量分だけ記憶し、 前記容量をオーバフローしたとき、オーバフロー信号を
    出力し、 前記オーバフロー信号に対応して前記目標値を推定する
    閾値を制御する ことを特徴とする係数処理方法。
  8. 【請求項8】 入力されるデータに所定の係数を乗算し
    て等化する適応フィルタと、 前記適応フィルタの前記係数を演算する演算回路と、 前記適応フィルタの出力をデコードするビタビデコーダ
    とを備える係数処理回路において、 前記演算回路は、 前記適応フィルタの出力に対応する値と目標値との誤差
    を演算する第1の演算手段と、 前記誤差の平均2乗値を最小化する新たな係数を演算す
    る第2の演算手段とを備え、 前記ビタビデコーダは、 連続する論理0または1の数をその容量分だけ記憶し、
    前記容量をオーバフローしたとき、オーバフロー信号を
    出力する記憶手段と、 前記オーバフロー信号に対応して前記目標値を推定する
    閾値を制御する制御手段と を備えることを特徴とする係
    数処理回路。
  9. 【請求項9】 磁気テープに記録されているデータを再
    生する磁気ヘッドと、 前記磁気ヘッドにより再生されたデータに所定の係数を
    乗算する適応フィルタと、 前記適応フィルタの前記係数を演算する演算回路と、 前記適応フィルタの出力をデコードするビタビデコーダ
    とを有するビデオテープレコーダにおいて、 前記演算回路は、 前記適応フィルタの出力に対応する値と目標値との誤差
    を演算する第1の演算手段と、 前記誤差の平均2乗値を最小化する新たな係数を演算す
    る第2の演算手段とを備え、 前記ビタビデコーダは、 連続する論理0または1の数をその容量分だけ記憶し、
    前記容量をオーバフローしたとき、オーバフロー信号を
    出力する記憶手段と、 前記オーバフロー信号に対応して前記目標値を推定する
    閾値を制御する制御手段と を備えることを特徴とするビ
    デオテープレコーダ。
JP24854092A 1992-08-25 1992-08-25 係数処理方法、係数処理回路およびビデオテープレコーダ Expired - Fee Related JP3250678B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP24854092A JP3250678B2 (ja) 1992-08-25 1992-08-25 係数処理方法、係数処理回路およびビデオテープレコーダ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24854092A JP3250678B2 (ja) 1992-08-25 1992-08-25 係数処理方法、係数処理回路およびビデオテープレコーダ

Publications (2)

Publication Number Publication Date
JPH0677772A JPH0677772A (ja) 1994-03-18
JP3250678B2 true JP3250678B2 (ja) 2002-01-28

Family

ID=17179706

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24854092A Expired - Fee Related JP3250678B2 (ja) 1992-08-25 1992-08-25 係数処理方法、係数処理回路およびビデオテープレコーダ

Country Status (1)

Country Link
JP (1) JP3250678B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100580166B1 (ko) 1999-11-04 2006-05-15 삼성전자주식회사 등화기의 필터 계수를 조절하여 재생 성능을 높이는 장치및 방법
KR100416265B1 (ko) 2001-12-11 2004-01-24 삼성전자주식회사 출력신호의 부호와 절대값을 이용하여 그 동작을 제어하는적응형 등화기
KR100878524B1 (ko) * 2002-05-21 2009-01-13 삼성전자주식회사 등화기의 필터 탭계수 갱신 장치 및 갱신 방법

Also Published As

Publication number Publication date
JPH0677772A (ja) 1994-03-18

Similar Documents

Publication Publication Date Title
US6836511B1 (en) Apparatus for processing a reproduced digital signal
US6678230B2 (en) Waveform equalizer for a reproduction signal obtained by reproducing marks and non-marks recorded on a recording medium
KR100580166B1 (ko) 등화기의 필터 계수를 조절하여 재생 성능을 높이는 장치및 방법
US6104766A (en) Noise predictive maximum likelihood (NPML) detection methods and apparatus based thereon
EP0750306B1 (en) A method of maximum likelihood decoding and a digital information playback apparatus
US7545862B2 (en) Adaptive equalizer, decoding device, and error detecting device
JP2001256736A (ja) データ検出器で用いられる決定レベルを調整して検出性能を高めるデータ再生装置及び方法
JP2000228064A (ja) 光ディスクの復号装置
US6819724B2 (en) Viterbi decoder and Viterbi decoding method
US7184476B2 (en) Adaptive equalizer for controlling operation thereof by using sign and absolute value of output signal thereof
JP3250678B2 (ja) 係数処理方法、係数処理回路およびビデオテープレコーダ
US5805637A (en) Automatic equalizer and digital signal reproducing apparatus carrying the same
JP3042182B2 (ja) 再生データ検出方式
JP3216609B2 (ja) 再生データ検出装置
JP3000938B2 (ja) データ検出再生方法および装置
US7415067B2 (en) Fixed delay tree search/decision feedback equalizer using absolute value calculation and data restoring method using the same
JP3151958B2 (ja) 再生データ検出方式
JP3428360B2 (ja) 波形等化回路
JP2855873B2 (ja) 再生データ検出方式
JP2842251B2 (ja) 再生データ検出方法
JPH06267203A (ja) 再生データ検出装置
JPH10198913A (ja) 判定帰還等化方法及び判定帰還等化器
JP2002170341A (ja) 信号再生装置及び方法
JPH06162422A (ja) 係数処理方法
JP2600589B2 (ja) 再生データ検出装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20011019

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071116

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081116

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091116

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees