JP2002135786A - Receiver and digital data decoding method - Google Patents

Receiver and digital data decoding method

Info

Publication number
JP2002135786A
JP2002135786A JP2000328197A JP2000328197A JP2002135786A JP 2002135786 A JP2002135786 A JP 2002135786A JP 2000328197 A JP2000328197 A JP 2000328197A JP 2000328197 A JP2000328197 A JP 2000328197A JP 2002135786 A JP2002135786 A JP 2002135786A
Authority
JP
Japan
Prior art keywords
digital data
error concealment
decoding
error
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000328197A
Other languages
Japanese (ja)
Other versions
JP4613412B2 (en
Inventor
Hitoshi Nakamura
仁 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000328197A priority Critical patent/JP4613412B2/en
Publication of JP2002135786A publication Critical patent/JP2002135786A/en
Application granted granted Critical
Publication of JP4613412B2 publication Critical patent/JP4613412B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a receiver and a digital data decoding method capable of processing error concealment processing at a decoding part without applying viewing stresses to a user. SOLUTION: In the apparatus, the S/N of input signal is detected at an error detecting/correcting part 13. A processing system of error concealment is switched based on the S/N. High-level error concealment is applied if the S/N is excellent, and low-level error concealment is applied if the S/N is not excellent. Therefore, it becomes possible to successively maintain the strength of error concealment of a suitable strength and to conceal errors while suppressing the viewing stresses to the user.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】この発明は、MPEG(Movi
ng Picture Coding Experts Group )符号化系ストリー
ムの復号機能を有する再生装置及びその制御等により符
号化された動画像を復号して再生する受信装置及びディ
ジタルデータ復号方法に関する。
The present invention relates to an MPEG (Movi)
ng Picture Coding Experts Group) The present invention relates to a reproducing apparatus having a function of decoding an encoding system stream, a receiving apparatus for decoding and reproducing a moving image encoded by control thereof, and a digital data decoding method.

【0002】[0002]

【従来の技術】最近、わが国においても、CS(Commun
ication Satellite )系の衛星を使ったMPEG符号化
系ディジタル放送サービスが普及しつつある。更に近い
将来、BS(Broadcast Satellite )系の衛星や地上波
・ケーブル波等を用いたMPEG符号化系ディジタル放
送サービスの開始が計画されている。
2. Description of the Related Art Recently, CS (Community
Communication satellite (MPEG) -based digital broadcasting services using satellites are becoming widespread. In the near future, the start of an MPEG encoding digital broadcasting service using BS (Broadcast Satellite) satellites, terrestrial waves, cable waves, etc. is planned.

【0003】一般に、このようなディジタル放送サービ
スの再生信号は、従来のアナログ信号による地上波放送
サービスの再生信号と異なり、降雨等の自然現象に起因
する信号品質の劣化を非線型に受ける。例えば、降雨が
徐々に激しくなるような天候下において、アナログ信号
による地上波放送サービスの受信・再生信号は、降雨の
激しさにほぼ比例して徐々に画質が劣化していき、線形
的に段々と視聴しづらくなる。
[0003] Generally, the reproduction signal of such a digital broadcasting service is different from the reproduction signal of the terrestrial broadcasting service using a conventional analog signal in that the signal quality is nonlinearly deteriorated due to natural phenomena such as rainfall. For example, in the weather where the rainfall becomes intense, the reception / reproduction signal of the terrestrial broadcasting service by the analog signal gradually deteriorates in image quality almost in proportion to the intensity of the rainfall, and gradually decreases linearly. It becomes difficult to watch.

【0004】しかし、同じような状況下において、ディ
ジタル信号によるディジタル放送サービスの受信・再生
信号は、ある程度までの入力信号劣化にはディジタル処
理特有のエラー訂正処理により受信・再生信号エラーを
防ぐことができるが、ある劣化を境に非線的にエラー訂
正することができなくなり、極端に劣化した再生画像・
音声信号を出力することになる。この極端に劣化した再
生画象・音声信号は、ユーザーに過度の視聴ストレスを
与え、受信再生装置としては好ましくない。
However, in a similar situation, a received / reproduced signal of a digital broadcasting service by a digital signal can prevent a received / reproduced signal error by an error correction process peculiar to digital processing in order to prevent input signal deterioration to a certain extent. Although it is possible to correct errors non-linearly after a certain deterioration,
An audio signal will be output. The extremely deteriorated reproduced image / audio signal gives an excessive viewing stress to the user, which is not preferable for the receiving / reproducing apparatus.

【0005】その結果として、ディジタル放送サービス
受信再生装置は、入力変調信号がある程度劣化した場合
には、再生画像・音声信号出力をオフにする等の処理を
行うことにより、極端に劣化した画像・音声信号をユー
ザーに視聴させない工夫を行っている。また、MPEG
符号化系ストリームに対する特有のエラー隠蔽処理を復
号時に施すことにより、出力再生画像・音声信号上のエ
ラー(ノイズ)を目立たなくするような工夫も行ってい
る。このエラー隠蔽処理には、幾つか代表的な方法があ
る。例えば、訂正不可能なストリームエラーを画像・音
声の各復号部で検出した場合、直近に正しく復号できた
結果を代わりに利用し続ける方法や、正しく復号できる
まで再生結果を更新しない方法等がある。
[0005] As a result, the digital broadcast service receiving / reproducing apparatus performs processing such as turning off the reproduced image / audio signal output when the input modulated signal has deteriorated to some extent, thereby obtaining an extremely degraded image / audio signal. We are trying to prevent users from watching audio signals. Also, MPEG
By performing a specific error concealment process on the encoding stream at the time of decoding, an attempt is made to make errors (noise) on the output reproduced image / audio signal inconspicuous. There are several typical methods for this error concealment process. For example, when an uncorrectable stream error is detected in each image / audio decoding unit, there are a method of continuing to use the result of the latest correct decoding instead, and a method of not updating the reproduction result until the decoding is correctly performed. .

【0006】[0006]

【発明が解決しようとする課題】しかし、従来のエラー
隠蔽処理では、チューナー等のフロントエンド部と各画
像・音声復号部との連携が不完全であった為、入力変調
信号の段階で検出されるストリームエラーに対して、そ
の生起状況に連動してエラー隠蔽強度を動的に変更させ
ることができなかった。
However, in the conventional error concealment processing, since the cooperation between the front end unit such as a tuner and each image / audio decoding unit is incomplete, it is detected at the stage of the input modulation signal. It is not possible to dynamically change the error concealment strength in response to a stream error that has occurred.

【0007】その為、稀に起こる極端に悪化したストリ
ームエラー用にエラー隠蔽強度を強めて固定設定してし
まうと、頻繁に起こる軽微なストリームエラーに対して
も強度なエラー隠蔽処理を施すことになり、反ってユー
ザーに視聴ストレスを溜める結果になる場合があった。
例えば、復号エラーが検出された時には一切の復号結果
を更新させないような強度の隠蔽処理を施した場合、ユ
ーザーが認知できないような軽微な復号エラーが頻繁に
起こったとしても、再生画像・音声が更新されないとい
った結果になった。これは、ユーザーにとって反って視
聴ストレスを与える結果であった。
[0007] Therefore, if the error concealment strength is increased and fixedly set for a rare and extremely deteriorated stream error, a strong error concealment process is performed even for a frequent minor stream error. In some cases, the result is that the viewing stress is accumulated on the user.
For example, when a concealment process is performed so that no decoding result is updated when a decoding error is detected, even if a small decoding error that the user cannot recognize frequently occurs, the reproduced image / audio is It was not updated. This was a result of giving a viewing stress to the user.

【0008】従って、ユーザーに視聴ストレスを与えな
い理想のエラー隠蔽処理は、ストリームエラーの生起状
況を把握して、その状況に相応しい強度の隠蔽処理を逐
次動的に変更しながら施すことであると考える。
Therefore, an ideal error concealment process that does not give a user viewing stress is to grasp the occurrence state of a stream error and to perform concealment processing of a strength appropriate for the situation while sequentially and dynamically changing the concealment process. Think.

【0009】従って、この発明の目的は、ユーザーに視
聴ストレスを与えないような復号部でのエラー隠蔽処理
が行える受信装置及びディジタルデータ復号方法を提供
することにある。
SUMMARY OF THE INVENTION It is therefore an object of the present invention to provide a receiving apparatus and a digital data decoding method capable of performing error concealment processing in a decoding unit so as not to give a viewing stress to a user.

【0010】[0010]

【課題を解決するための手段】請求項1の発明は、伝送
されてきたディジタルデータを受信する受信装置におい
て、ディジタルデータの受信状態を検出する検出手段
と、ディジタルデータの受信状態に基づいて所定の復号
エラー隠蔽処理方式を選択し、該復号エラー隠蔽処理方
式によりディジタルデータの復号処理を行う復号手段
と、を有することを特徴とする受信装置である。
According to a first aspect of the present invention, there is provided a receiving apparatus for receiving transmitted digital data, comprising: detecting means for detecting a receiving state of digital data; And a decoding means for selecting a decoding error concealment processing method and performing decoding processing of digital data by the decoding error concealment processing method.

【0011】請求項6の発明は、ディジタルデータ復号
方法において、伝送されてきたディジタルデータを受信
するステップと、ディジタルデータの受信状態を検出し
する検出ステップと、ディジタルデータの受信状態に基
づいて所定の復号エラー隠蔽処理方式を選択し、該復号
エラー検出方式によりディジタルデータの復号処理を行
うステップとを有することを特徴とするディジタルデー
タ復号方法である。
According to a sixth aspect of the present invention, in the digital data decoding method, a step of receiving the transmitted digital data, a step of detecting a reception state of the digital data, and a predetermined step based on the reception state of the digital data. Selecting a decoding error concealment processing method and performing digital data decoding processing by the decoding error detection method.

【0012】この発明では、S/N比のような入力信号
のエラー状況を反映する値に応じて、エラー隠蔽処理方
式が切り換えられる。このため、エラー隠蔽強度を逐次
適切な強度に保ことが可能になり、ユーザへの視聴スト
レスを抑えつつ、エラーを隠蔽することが可能になる。
According to the present invention, the error concealment processing method is switched according to a value reflecting an error state of the input signal such as the S / N ratio. For this reason, the error concealment strength can be kept at an appropriate level one by one, and the error can be concealed while suppressing the viewing stress on the user.

【0013】[0013]

【発明の実施の形態】以下、この発明の実施の形態につ
いて図面を参照して説明する。図1は、この発明が適用
されたMPEG符号化系ストリームのディジタル放送サ
ービスを受信する受信再生装置の一例を示すものであ
る。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 shows an example of a receiving / reproducing apparatus for receiving a digital broadcasting service of an MPEG encoding stream to which the present invention is applied.

【0014】図1において、パラボラアンテナやケーブ
ル線等から出力された入力変調(RF)信号は、入力端
子10から、フロントエンド部1内のチューナー部11
に入力供給され、復調部12で、例えば、QPSK(Qu
adrature Phase Shift Keying ) 復調される。復調部1
2からの出力は、エラー検出・訂正部13に供給され
る。エラー検出・訂正部13は、エラーを検出すると同
時に、可能な限り訂正処理を行う。
In FIG. 1, an input modulated (RF) signal output from a parabolic antenna, a cable line, or the like is supplied from an input terminal 10 to a tuner section 11 in the front end section 1.
, And the demodulation unit 12 outputs, for example, QPSK (Qu
adrature Phase Shift Keying) Demodulated. Demodulation unit 1
The output from 2 is supplied to the error detection / correction unit 13. The error detection / correction unit 13 performs error correction as much as possible upon detecting an error.

【0015】このとき、フロントエンド部1内で検出さ
れた入力変調信号のS/N比情報は、例えば、エラー検
出・訂正部13から、システムバス3を介して、制御マ
イコン部14に送られる。
At this time, the S / N ratio information of the input modulation signal detected in the front end unit 1 is sent from the error detection / correction unit 13 to the control microcomputer unit 14 via the system bus 3, for example. .

【0016】制御マイコン部14、ROM部15及びR
AM部16等には、暗号を解読するのに必要なキーが解
読プログラムと共に格納してある。送信されてきたディ
ジタル信号が暗号化されている場合は、この暗号を解読
するキーと解読処理が必要となる。そこで、制御マイコ
ン部14、ROM部15、RAM部16等から解読する
キーを読み出し、このキーをデマルチプレクサ部17に
供給する。
The control microcomputer unit 14, the ROM unit 15, and the R
In the AM unit 16 and the like, a key required to decrypt the encryption is stored together with the decryption program. When the transmitted digital signal is encrypted, a key for decrypting the encrypted signal and a decryption process are required. Therefore, a key to be decrypted is read out from the control microcomputer unit 14, the ROM unit 15, the RAM unit 16, and the like, and this key is supplied to the demultiplexer unit 17.

【0017】デマルチプレクサ部17では、このキーを
利用して、暗号化されたディジタル信号を解読する。
尚、この解読の為に必要なキーと共に、解読プログラム
及び課金情報等もメモリ内に一緒に格納する。
The demultiplexer 17 uses this key to decrypt the encrypted digital signal.
In addition to the key required for the decryption, the decryption program and the billing information are stored together in the memory.

【0018】デマルチプレクサ部17は、エラー検出・
訂正部13からの出力信号を受け、これをデータバッフ
ァメモリ用のRAM部16の適切なメモリ領域、あるい
はデマルチプレクサ部17内部のメモリ領域に一旦格納
する。そして、適宜、これを読み出し、解読した画像信
号を画像復号部18に、音声信号を音声復号部19に供
給する。この時、多重化されている符号化データから、
システムクロックを再形成するのに必要な情報をクロッ
ク発生部20で抽出し、画像復号部18及び音声復号部
19の処理に用いる。
The demultiplexer 17 detects an error.
The output signal from the correction unit 13 is received, and is temporarily stored in an appropriate memory area of the RAM unit 16 for the data buffer memory or a memory area inside the demultiplexer unit 17. Then, this is read out as appropriate, and the decoded image signal is supplied to the image decoding unit 18 and the audio signal is supplied to the audio decoding unit 19. At this time, from the multiplexed encoded data,
Information necessary for re-creating the system clock is extracted by the clock generator 20 and used for processing by the image decoder 18 and the audio decoder 19.

【0019】デマルチプレクサ部17の処理は、ISO
( International Organization forStandardization )
/IEC ( International Electrotechnical Commissio
n )13818-1(Geneva 1995) の規格書に詳細に渡って規定
されている。
The processing of the demultiplexer 17 is based on the ISO
(International Organization for Standardization)
/ IEC (International Electrotechnical Commissio
n) It is specified in detail in the specification of 13818-1 (Geneva 1995).

【0020】画像復号部18は、入力された符号化デー
タを、RAM部16に適宜格納し、MPEG方式により
圧縮符号化されている画像信号の復号処理を実行する。
復号化された画像信号は、表示画像構成部21に供給さ
れ、ここで、例えば、NTSC方式の輝度信号(Y)、
クロマ信号(C)及びコンポジット信号(CV)に変換
される。そして、この信号は、D/Aコンバータ部22
でアナログ変換され、出力される。出力端子23から
は、例えばSビデオ信号形式で、ビデオ信号が出力され
る。
The image decoding unit 18 stores the input coded data in the RAM unit 16 as appropriate, and executes a decoding process of an image signal that has been compression-encoded by the MPEG system.
The decoded image signal is supplied to the display image forming unit 21, where, for example, a luminance signal (Y) of the NTSC system,
It is converted into a chroma signal (C) and a composite signal (CV). This signal is supplied to the D / A converter 22
Is converted to analog and output. From the output terminal 23, a video signal is output in the S-video signal format, for example.

【0021】画像復号部18の処理は、ISO( Intern
ational Organization for Standardization ) /IEC
(International Electrotechnical Commission) 13818-
2(Geneva 1995)の規格書に詳細に渡って規定されてい
る。
The processing of the image decoding unit 18 is based on the ISO (Intern
ational Organization for Standardization) / IEC
(International Electrotechnical Commission) 13818-
2 (Geneva 1995) is specified in detail.

【0022】音声復号部19は、デマルチプレクサ部1
7より供給された符号化音声信号をRAM部16に適宜
格納し、MPEG方式により圧縮符号化されている音声
信号の復号処理を実行する。復号化されたディジタル音
声信号は、D/Aコンバータ部24に供給され、アナロ
グ変換される。このとき、左右のチャンネルの音声信号
が適切に処理され、左右チャンネルの音声出力として、
出力端子25から出力される。
The audio decoding unit 19 includes a demultiplexer 1
The encoded audio signal supplied from 7 is stored in the RAM section 16 as appropriate, and a decoding process of the audio signal compressed and encoded by the MPEG method is executed. The decoded digital audio signal is supplied to the D / A converter unit 24 and is converted into an analog signal. At this time, the audio signals of the left and right channels are properly processed, and as the audio output of the left and right channels,
Output from the output terminal 25.

【0023】音声復号部19の処理は、ISO Interna
tional Organization for Standardization ) / IEC
( International Electrotechnical Commission) 13818
-3(Geneva 1995) の規格書に詳細に渡って規定されてい
る。
The processing of the audio decoding unit 19 is performed according to the ISO Internet
tional Organization for Standardization) / IEC
(International Electrotechnical Commission) 13818
-3 (Geneva 1995).

【0024】制御マイコン部14は、ROM部15に格
納されているプログラムに従い、各種の処理を実行す
る。例えば、システムバス3を介してチューナー部1
1、復調部12、エラー検出・訂正部13等での処理を
制御する。また、システムバス3を介してデマルチプレ
クサ部17、画像復号部18、音声復号部18、表示画
像構成部21の処理ブロックを制御し、ROM部15、
RAM部16、復号データ用メモリ部26に対する各メ
モリアドレスの読み出し・書込み処理等を制御する。
The control microcomputer section 14 executes various processes according to a program stored in the ROM section 15. For example, the tuner unit 1 via the system bus 3
1, the processing in the demodulation unit 12, the error detection / correction unit 13 and the like is controlled. Also, the processing blocks of the demultiplexer unit 17, the image decoding unit 18, the audio decoding unit 18, and the display image forming unit 21 are controlled via the system bus 3, and the ROM unit 15,
It controls read / write processing of each memory address with respect to the RAM section 16 and the decoded data memory section 26 and the like.

【0025】一方、この制御マイコン部14には、リモ
ートコマンダー等からの入力情報を受けたユーザーイン
ターフェース部27からの所定の命令を直接入力するこ
とができる。
On the other hand, a predetermined command from the user interface unit 27 that has received input information from a remote commander or the like can be directly input to the control microcomputer unit 14.

【0026】また、デマルチプレクサ部17は、エラー
検出・訂正部13から供給される符号化されたディジタ
ル画像・音声信号以外に、EPGデータ等のSI(Speci
fication Information) 情報も多重化された状態で供給
される。このSI情報は、適宜、RAM部16、あるい
は、デマルチプレクサ部17内のバッファメモリ内に格
納されて処理される。
Further, the demultiplexer unit 17 includes, besides the coded digital image / audio signal supplied from the error detection / correction unit 13, SI (Speci?
fication Information) Information is also supplied in a multiplexed state. This SI information is stored and processed in a buffer memory in the RAM unit 16 or the demultiplexer unit 17 as appropriate.

【0027】次に、この発明で用いられる画像・音声復
号処理時のエラー隠蔽処理について概略を示す。
Next, an outline of the error concealment processing at the time of the video / audio decoding processing used in the present invention will be described.

【0028】画像復号処理時のエラー隠蔽処理の代表例
は、ミュート法、イントラエラーコンシールメント法、
SNRスケーラビリティ・データパーティショニング
法、スモールスライス法等である。また、音声復号処理
時のエラー隠蔽処理の代表例は、ミュート法、フェード
アウト法、前値ホールド法、平均値補間法等である。
Representative examples of the error concealment processing at the time of image decoding processing include a mute method, an intra error concealment method,
SNR scalability / data partitioning method, small slice method, and the like. Representative examples of the error concealment processing at the time of the audio decoding processing include a mute method, a fade-out method, a previous value hold method, an average value interpolation method, and the like.

【0029】図2は、画像復号処理時のエラー隠蔽処理
の一例を示す略線図であり、図2Aは、通称「イントラ
コンシールメント」と呼ばれている手法であり、図2B
は、「イントラコンシールメントベクトル」と呼ばれて
いる手法の一例である。
FIG. 2 is a schematic diagram showing an example of the error concealment processing at the time of the image decoding processing. FIG. 2A is a technique commonly called “intra concealment”, and FIG.
Is an example of a technique called “intra-concealment vector”.

【0030】MPEG符号化系のような画像間の予測符
号化を用いた符号化方式は、一般にエラーに対して弱
い。これは、予測符号化が以前に復号された画像から行
われる為である。この為、一度エラーが生じると、この
エラーは時間軸方向に伝播する。
An encoding system using predictive encoding between images, such as an MPEG encoding system, is generally vulnerable to errors. This is because predictive coding is performed from a previously decoded image. Therefore, once an error occurs, the error propagates in the time axis direction.

【0031】MPEG符号化系では、このエラー伝播を
一定の区間で収束させる為にI(Intra )ピクチャが存
在する。
In the MPEG encoding system, an I (Intra) picture exists to converge this error propagation in a certain section.

【0032】つまり、MPEG2方式では、I(Intra
)ピクチャと、P(Predicti)ピクチャと、B(Bidir
ectionally Predictive)ピクチャと呼ばれる3種類の
画面が送られる。Iピクチャでは、同一のフレームの画
素を使ってDCT(Discrete Cosine Transform )符号
化が行なわれる。Pピクチャでは、既に符号化されたI
ピクチャ又はPピクチャを参照して、動き補償予測を用
いたDCT符号化が行なわれる。Bピクチャでは、その
前後のIピクチャ又はPピクチャを参照して、動き予測
を用いたDCT符号化が行なわれる。
That is, in the MPEG2 system, I (Intra
) Picture, P (Predicti) picture, and B (Bidir)
Three types of screens called "sectionally predictive" pictures are sent. In an I picture, DCT (Discrete Cosine Transform) coding is performed using pixels of the same frame. In a P picture, the already encoded I
DCT coding using motion compensation prediction is performed with reference to a picture or a P picture. In a B picture, DCT coding using motion prediction is performed with reference to an I picture or a P picture before and after the B picture.

【0033】PピクチャやBピクチャでは、フレーム間
での予測符号化となるため、エラーが伝播するが、Iピ
クチャでは、フレーム内符号化となるため、エラーの伝
播が防げる。しかしながら、逆に、Iピクチャ伝送中に
エラーが生じると、このIピクチャに続くGOPの内容
は全て破壊され、復号画像信号のエラーになる。この
為、エラー耐性には、まずIピクチャの保護が原則であ
る。
In P-pictures and B-pictures, errors are propagated because of predictive encoding between frames, but in I-pictures, intra-frame encoding is performed, so that error propagation can be prevented. However, conversely, if an error occurs during transmission of an I picture, the contents of the GOP following the I picture are all destroyed, resulting in an error in the decoded image signal. For this reason, the principle of error resilience is protection of I pictures.

【0034】イントラコンシールメントベクトル法と
は、この原則に従った方法である。
The intra-concealment vector method is a method according to this principle.

【0035】なかでも最もエラー隠蔽処理の強度が高い
方法は、PピクチャやBピクチャでエラーが存在した場
合は、そのピクチャ画像の復号を諦め、直近にエラー無
く復号できたピクチャ画像を出力し続けることである。
そして、シーケンス・ヘッダ・コードに続く復号エラー
の無いIピクチャを復号できるまで復号結果の更新を行
わないことである。
Among the methods having the highest error concealment processing strength, when an error exists in a P picture or a B picture, the decoding of that picture image is abandoned, and the picture image that could be decoded immediately without error is continuously output. That is.
Then, the decoding result is not updated until an I-picture without a decoding error following the sequence header code can be decoded.

【0036】エラー隠蔽処理の強度が低い方法の一例
は、図2Aに示すような、各ピクチャ内に存在するエラ
ーにより失われたブロックを、予測の為の参照画像か
ら、動きを考慮せずにそのままはめ込む方法である。図
2Aにおいて、ピクチャtのラインxの画素P2に対し
て、その前のピクチャ(t+1)の同位置にある画素P
1がはめ込まれる。
One example of a method with a low strength of the error concealment processing is to remove a block lost due to an error existing in each picture from a reference image for prediction without considering motion as shown in FIG. 2A. It is a method of fitting as it is. In FIG. 2A, a pixel P2 located at the same position in a previous picture (t + 1) with respect to a pixel P2 on a line x of a picture t
1 is fitted.

【0037】この方法に対して多少強度を高めた方法
は、図2Bに示すような、動きベクトルを用いて、参照
画像から動き補償を行って隠蔽する方法である。この動
き補償の値は、Iピクチャの各マクロブロックに付加さ
れる。このとき、付加される動きベクトルは、自分自身
のブロックのもとに位置するブロックの動きベクトルで
ある。画像復号部では、伝送される各マクロブロックの
ベクトルを、横1列単位で記憶しておく。仮にブロック
がエラーで失われた場合、このブロックのベクトルは1
列上に既に伝送され記憶されているので、これを用いて
エラーを隠蔽する。
A method of slightly increasing the strength of this method is a method of concealing by performing motion compensation from a reference image using a motion vector as shown in FIG. 2B. This motion compensation value is added to each macroblock of the I picture. At this time, the added motion vector is a motion vector of a block located under its own block. The image decoding unit stores the vector of each transmitted macroblock in units of one horizontal row. If a block is lost due to an error, the vector of this block is 1
Since it has already been transmitted and stored on the column, it is used to conceal errors.

【0038】このように、エラー隠蔽処理には複数の方
法がある。この発明の実施の形態では、S/N比に応じ
て、エラー隠蔽処理の方法を切り換えるようにしてい
る。
As described above, there are a plurality of methods for error concealment processing. In the embodiment of the present invention, the method of the error concealment processing is switched according to the S / N ratio.

【0039】図3は、入力変調信号の復調処理で検出さ
れるS/N比を用いて、画像及び音声復号部の復号エラ
ー隠蔽処理の方式を、各々独立に切り替えることが可能
となる制御方法の処理フローである。
FIG. 3 shows a control method in which the decoding error concealment processing of the video and audio decoding units can be switched independently using the S / N ratio detected in the demodulation processing of the input modulation signal. It is a processing flow of.

【0040】なお、処理中のエラー隠蔽方法・その隠蔽
強度差に関しては、特に限定した方法・限定した強度は
指定しない。この発明は具体的な隠蔽方法、強度値を指
定するものではない。
As for the error concealment method during the processing and the difference in the concealment strength, no particular method or limited strength is specified. The present invention does not specify a specific concealment method or intensity value.

【0041】まず、システムが始動すると、ステップS
T1の処理により、フロントエンド部1から入力変調信
号のS/N比を制御マイコン部14が受け取る。このS
/N比の値に応じて、各々、画像復号部18、音声復号
部19でのエラー隠蔽処理の強度を逐次変更する。
First, when the system is started, step S
By the process of T1, the control microcomputer unit 14 receives the S / N ratio of the input modulation signal from the front end unit 1. This S
In accordance with the value of the / N ratio, the strength of the error concealment processing in the image decoding unit 18 and the audio decoding unit 19 is sequentially changed.

【0042】システムの初期値は、ステップST2の処
理により、エラー隠蔽強度値変数pを(p=1)とす
る。これにより、あるS/N比に対する閾値threshold-
p が決定される。
As the initial value of the system, the error concealment strength value variable p is set to (p = 1) by the processing of step ST2. As a result, the threshold value for a certain S / N ratio, threshold-
p is determined.

【0043】ステップST3の処理で、この閾値と、フ
ロントエンド部1で検出された入力変調信号のS/N比
とを比較する。
In the process of step ST3, this threshold value is compared with the S / N ratio of the input modulation signal detected by the front end unit 1.

【0044】ステップST3の処理において、閾値thre
shold-pよりもS/N比が小さい場合は、ステップST
4において、エラー隠蔽強度値変数pが1インクリメン
トされて、ステップST3にリターンされる。
In the process of step ST3, the threshold thre
If the S / N ratio is smaller than shold-p, step ST
In 4, the error concealment strength value variable p is incremented by 1, and the process returns to step ST3.

【0045】ステップST3〜ST4の処理を繰り返し
ていくことにより、閾値が徐々に下がっていき、この閾
値とS/N比とを比較することで、入力信号のS/N比
が検出されていく。
By repeating the processing of steps ST3 and ST4, the threshold value gradually decreases. By comparing this threshold value with the S / N ratio, the S / N ratio of the input signal is detected. .

【0046】ステップST3において、閾値よりもS/
N比が大きくなった時は、ステップST5の処理で、エ
ラー隠蔽強度変数pが決められる。
In step ST3, S / S is more than the threshold.
When the N ratio increases, an error concealment strength variable p is determined in the process of step ST5.

【0047】エラー隠蔽強度変数pに対応するビデオ及
びオーディオのエラー隠蔽処理は、図4及び図5に示す
ように予め決められている。そして、ステップST6に
おいて、画像復号部18及び音声復号部19では、夫
々、エラー隠蔽強度変数ECpに対応するエラー隠蔽処
理が実行される。
The error concealment processing for video and audio corresponding to the error concealment strength variable p is predetermined as shown in FIGS. Then, in step ST6, each of the image decoding unit 18 and the audio decoding unit 19 executes an error concealment process corresponding to the error concealment strength variable ECp.

【0048】図4及び図5は、エラー隠蔽強度変数pに
対応するビデオ及びオーディオのエラー隠蔽処理の一例
である。
FIGS. 4 and 5 show an example of video and audio error concealment processing corresponding to the error concealment strength variable p.

【0049】図4に示すように、ビデオのエラー隠蔽処
理では、エラー隠蔽強度値変数pが(p=0〜4)よう
に、入力信号のS/N比が大きいときには、エラー隠蔽
処理として、2次元フレーム内でのスライス置換が行わ
れる。
As shown in FIG. 4, in the video error concealment process, when the S / N ratio of the input signal is large, such as when the error concealment strength value variable p is (p = 0 to 4), the error concealment process is as follows. Slice replacement within a two-dimensional frame is performed.

【0050】そして、エラー隠蔽強度値変数pが(p=
5〜10)になると、エラー隠蔽処理として、Iピクチ
ャ内でのデータ置換に切り換えられる。なお、このと
き、動くベクトルを参照するようにしている。
Then, the error concealment strength value variable p is (p =
5 to 10), the error concealment processing is switched to data replacement in the I picture. At this time, a moving vector is referred to.

【0051】更に、エラー隠蔽強度値変数pが(p=1
0〜p14)になると、S/N比が悪く、動画を再生し
ていくことが困難になる。このときには、復号できた直
近のIピクチャで画像がフリーズされ、静止画再生とな
る。
Further, the error concealment strength value variable p is (p = 1
0 to p14), the S / N ratio is poor, making it difficult to reproduce moving images. At this time, the image is frozen with the most recently decoded I picture, and the still image is reproduced.

【0052】更に、エラー隠蔽強度値変数pが(p=1
5〜p19)になると、画像を再生させることが困難に
なるため、画像がミュートされる。
Further, the error concealment strength value variable p is (p = 1
5 to p19), it becomes difficult to reproduce the image, and the image is muted.

【0053】更に、エラー隠蔽強度値変数pが(p=2
0)より大きくなると、画像のミュートが解除される。
このように、画像のミュートを解除しているのは、ユー
ザに、無信号であることを知らせるためである。S/N
比が非常に悪いときには、画像の再生は困難であるか
ら、画像をミュートすることが考えられる。ところが、
画像をミュートしてしまうと、ユーザは故障であると誤
認してしまうことが考えられる。この例では、S/N比
が非常に悪いときには、ユーザに敢えて画像を見せるこ
とで、故障と誤認されることを防止している。
Further, the error concealment strength value variable p is (p = 2
When the value is larger than 0), the mute of the image is released.
The reason why the muting of the image is released is to notify the user that there is no signal. S / N
When the ratio is very bad, it is difficult to reproduce the image, and it is conceivable to mute the image. However,
If the image is muted, the user may erroneously recognize that the failure has occurred. In this example, when the S / N ratio is very bad, the user dares to show an image to prevent the user from being mistaken for a failure.

【0054】図5に示すように、オーディオのエラー隠
蔽処理では、エラー隠蔽強度値変数pが(p=0〜1
5)のときには、線形補間又は前値ホールドが行われ
る。
As shown in FIG. 5, in the audio error concealment process, the error concealment strength value variable p is set to (p = 0 to 1).
In the case of 5), linear interpolation or previous value hold is performed.

【0055】エラー隠蔽強度値変数pが(p=15〜p
19)になると、オーディオを再生させることが困難に
なるため、オーディオがミュートされる。
When the error concealment strength value variable p is (p = 15 to p
In the case of 19), it is difficult to reproduce the audio, so that the audio is muted.

【0056】更に、エラー隠蔽強度値変数pが(p=2
0)より大きくなると、オーディオのミュートが解除さ
れる。このように、オーディオのミュートを解除してい
るのは、画像の場合と同様に、ユーザに、無信号である
ことを知らせるためである。
Further, the error concealment strength value variable p is (p = 2
If it becomes larger than 0), the audio mute is released. The reason why the audio mute is released is to notify the user that there is no signal, as in the case of the image.

【0057】なお、上述のS/N比に対するエラー隠蔽
処理の切り替えについては、上述の例に限らず、種々の
やり方が考えられる。単に、S/N比が大きいときと、
S2N比が小さいときとで、2段階の切り替えをするよ
うにしても良い。また、上述の例では、ビデオとオーデ
ィオとについて、S/N比に対するエラー隠蔽処理の切
り替えを行っているが、どちらか一方だけ、このような
処理を行うようにしても良い。例えば、ビデオについて
はS/N比に対するエラー隠蔽処理の切り替えを行う
が、オーディオに対しては行わないようにしても良い。
The switching of the error concealment processing with respect to the S / N ratio is not limited to the above-described example, and various methods can be considered. Simply, when the S / N ratio is large,
Two-stage switching may be performed when the S2N ratio is small. Further, in the above-described example, the error concealment processing for the S / N ratio is switched for video and audio, but such processing may be performed for only one of them. For example, the error concealment processing for the S / N ratio may be switched for video, but not performed for audio.

【0058】また、上述の例では、受信されたディジタ
ルデータの受信状態をS/N比の検出をエラー検出・訂
正部で行うようよしているが、チューナ部で信号強度を
検出して受信状態を検出するようにしても良い。
In the above-described example, the reception state of the received digital data is detected by the error detection / correction unit for detecting the S / N ratio. May be detected.

【0059】[0059]

【発明の効果】この発明によれば、入力信号の受信状
態、すなわちS/N比に応じて、エラー隠蔽処理の方式
が切り換えられる。
According to the present invention, the method of the error concealment processing is switched according to the reception state of the input signal, that is, the S / N ratio.

【0060】エラー隠蔽処理設定が固定されていると、
稀に起こる極端に悪化したストリームエラーを隠蔽する
ために、エラー隠蔽強度を強めてしまうと、軽微なスト
リーネエラーに対しても強度なエラー隠蔽処理を施して
しまったり、極端に悪化したストリームエラーが長時間
続いた場合には、再生画像・音声が長時間一切出力され
なくなったりし、かえってユーザにストレスを溜めさせ
る結果になる。
When the error concealment processing setting is fixed,
If the error concealment strength is increased in order to conceal a rare and extremely deteriorated stream error, strong error concealment processing will be performed even for minor stringer errors, or the extremely deteriorated stream error For a long time, the reproduced image / sound may not be output at all for a long time, which may result in the user accumulating stress.

【0061】これに対して、この発明では、S/N比の
ような入力信号のエラー状況を反映する値に応じて、エ
ラー隠蔽処理方式が切り換えられる。このため、エラー
隠蔽強度を逐次適切な強度に保ことが可能になり、ユー
ザへの視聴ストレスを抑えつつ、エラーを隠蔽すること
が可能になる。
On the other hand, in the present invention, the error concealment processing system is switched according to a value reflecting an error state of the input signal such as the S / N ratio. For this reason, the error concealment strength can be kept at an appropriate level one by one, and the error can be concealed while suppressing the viewing stress on the user.

【図面の簡単な説明】[Brief description of the drawings]

【図1】この発明が適用された衛星放送の受信装置の一
例のブロック図である。
FIG. 1 is a block diagram of an example of a satellite broadcast receiving apparatus to which the present invention is applied.

【図2】エラー隠蔽処理の説明に用いる略線図である。FIG. 2 is a schematic diagram used for explaining an error concealment process;

【図3】この発明の一実施の形態の説明に用いるフロー
チャートである。
FIG. 3 is a flowchart used for describing one embodiment of the present invention.

【図4】この発明の一実施の形態の説明に用いる略線図
である。
FIG. 4 is a schematic diagram used for describing an embodiment of the present invention.

【図5】この発明の一実施の形態の説明に用いる略線図
である。
FIG. 5 is a schematic diagram used for describing an embodiment of the present invention.

【符号の説明】[Explanation of symbols]

11・・・チューナ部,13・・・エラー検出・訂正
部,17・・・デマルチプレクサ部,18・・・画像復
号部,19・・・音声復号部
11: Tuner unit, 13: Error detection / correction unit, 17: Demultiplexer unit, 18: Image decoding unit, 19: Voice decoding unit

───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5C059 KK01 MA00 MA23 PP01 PP05 PP06 PP07 RF09 SS02 SS30 TA01 TA09 TA76 TC01 TC12 TC21 TD12 TD13 UA05 5J064 AA00 AA05 BA13 BB03 BB04 BB07 BB08 BC01 BC02 BC07 BC25 BD02  ──────────────────────────────────────────────────続 き Continued on the front page F term (reference) 5C059 KK01 MA00 MA23 PP01 PP05 PP06 PP07 RF09 SS02 SS30 TA01 TA09 TA76 TC01 TC12 TC21 TD12 TD13 UA05 5J064 AA00 AA05 BA13 BB03 BB04 BB07 BB08 BC01 BC02 BC07 BC25 BD02

Claims (7)

【特許請求の範囲】[Claims] 【請求項1】 伝送されてきたディジタルデータを受信
する受信装置において、 上記ディジタルデータの受信状態を検出する検出手段
と、 上記ディジタルデータの受信状態に基づいて所定の復号
エラー隠蔽処理方式を選択し、該復号エラー隠蔽処理方
式により上記ディジタルデータの復号処理を行う復号手
段と、 を有することを特徴とする受信装置。
1. A receiving apparatus for receiving transmitted digital data, comprising: detecting means for detecting a receiving state of the digital data; and selecting a predetermined decoding error concealment processing method based on the receiving state of the digital data. A decoding unit for performing a decoding process of the digital data by the decoding error concealment processing method.
【請求項2】 上記検出手段は、受信信号のS/N比に
基づいて上記受信状態を検出することを特徴とする請求
項1に記載の受信装置。
2. The receiving apparatus according to claim 1, wherein said detecting means detects said receiving state based on an S / N ratio of a received signal.
【請求項3】 上記隠蔽処理方式は、同一のピクチャ内
で空間的に隣接するピクチャの画像を用いて補間を行う
ものを含む請求項1に記載の受信装置。
3. The receiving apparatus according to claim 1, wherein the concealment processing method includes a method of performing interpolation using an image of a spatially adjacent picture in the same picture.
【請求項4】 上記隠蔽処理方式は、隣接するピクチャ
の画像を用いて補間を行うものを含む請求項1に記載の
受信装置。
4. The receiving apparatus according to claim 1, wherein the concealment processing method includes a method of performing interpolation using an image of an adjacent picture.
【請求項5】 上記隠蔽処理方式は、動きベクトルを参
照するようにした請求項4に記載の受信装置。
5. The receiving apparatus according to claim 4, wherein the concealment processing method refers to a motion vector.
【請求項6】 ディジタルデータ復号方法において、 伝送されてきたディジタルデータを受信するステップ
と、 上記ディジタルデータの受信状態を検出する検出ステッ
プと、 上記ディジタルデータの受信状態に基づいて所定の復号
エラー隠蔽処理方式を選択し、該復号エラー検出方式に
より上記ディジタルデータの復号処理を行うステップと
を有することを特徴とするディジタルデータ復号方法。
6. A digital data decoding method, comprising: a step of receiving transmitted digital data; a step of detecting a reception state of the digital data; and a predetermined decoding error concealment based on the reception state of the digital data. Selecting a processing method and performing decoding processing of the digital data by the decoding error detection method.
【請求項7】 上記検出手段は、受信信号のS/N比に
基づいて上記受信状態を検出することを特徴とする請求
項6に記載のディジタルデータ復号方法。
7. The digital data decoding method according to claim 6, wherein said detecting means detects said receiving state based on an S / N ratio of a received signal.
JP2000328197A 2000-10-27 2000-10-27 Receiving apparatus and digital data decoding method Expired - Fee Related JP4613412B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000328197A JP4613412B2 (en) 2000-10-27 2000-10-27 Receiving apparatus and digital data decoding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000328197A JP4613412B2 (en) 2000-10-27 2000-10-27 Receiving apparatus and digital data decoding method

Publications (2)

Publication Number Publication Date
JP2002135786A true JP2002135786A (en) 2002-05-10
JP4613412B2 JP4613412B2 (en) 2011-01-19

Family

ID=18805084

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000328197A Expired - Fee Related JP4613412B2 (en) 2000-10-27 2000-10-27 Receiving apparatus and digital data decoding method

Country Status (1)

Country Link
JP (1) JP4613412B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157112A (en) * 2004-11-25 2006-06-15 Matsushita Electric Ind Co Ltd Digital television broadcast receiving terminal
US7225380B2 (en) 2003-06-05 2007-05-29 Nec Corporation Audio decoder and audio decoding method
JP2007288462A (en) * 2006-04-17 2007-11-01 Hitachi Ltd Video image display device
JP2008542838A (en) * 2005-05-31 2008-11-27 マイクロソフト コーポレーション Robust decoder
JP2009027727A (en) * 2008-08-11 2009-02-05 Fujitsu Microelectronics Ltd Device for decoding moving image and communication terminal device including the same
JP2011239464A (en) * 2011-07-27 2011-11-24 Toshiba Corp Decoder
JP2013031191A (en) * 2005-08-19 2013-02-07 Qualcomm Inc Picture-in-picture processing for video telephony
KR101420878B1 (en) 2007-11-22 2014-07-21 삼성전자주식회사 Method and apparatus for selectively error concealment of video frame

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06253288A (en) * 1992-09-18 1994-09-09 Sgs Thomson Microelectron Sa Method for masking error in transmission system
JPH07284094A (en) * 1994-04-11 1995-10-27 Hitachi Ltd Moving picture communication system, and device and method for restoring picture
JPH09148950A (en) * 1995-11-27 1997-06-06 Matsushita Electric Ind Co Ltd Digital broadcasting reception equipment
JPH10108095A (en) * 1996-10-01 1998-04-24 Sony Corp Receiver for satellite broadcasting
JPH10126386A (en) * 1996-10-14 1998-05-15 Alpine Electron Inc Digital audio broadcast reception method
JPH10336674A (en) * 1997-05-29 1998-12-18 Sanyo Electric Co Ltd Digital broadcast receiver

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06253288A (en) * 1992-09-18 1994-09-09 Sgs Thomson Microelectron Sa Method for masking error in transmission system
JPH07284094A (en) * 1994-04-11 1995-10-27 Hitachi Ltd Moving picture communication system, and device and method for restoring picture
JPH09148950A (en) * 1995-11-27 1997-06-06 Matsushita Electric Ind Co Ltd Digital broadcasting reception equipment
JPH10108095A (en) * 1996-10-01 1998-04-24 Sony Corp Receiver for satellite broadcasting
JPH10126386A (en) * 1996-10-14 1998-05-15 Alpine Electron Inc Digital audio broadcast reception method
JPH10336674A (en) * 1997-05-29 1998-12-18 Sanyo Electric Co Ltd Digital broadcast receiver

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7225380B2 (en) 2003-06-05 2007-05-29 Nec Corporation Audio decoder and audio decoding method
JP2006157112A (en) * 2004-11-25 2006-06-15 Matsushita Electric Ind Co Ltd Digital television broadcast receiving terminal
JP4720157B2 (en) * 2004-11-25 2011-07-13 パナソニック株式会社 Digital TV broadcast receiving terminal
JP2008542838A (en) * 2005-05-31 2008-11-27 マイクロソフト コーポレーション Robust decoder
JP2013031191A (en) * 2005-08-19 2013-02-07 Qualcomm Inc Picture-in-picture processing for video telephony
JP2007288462A (en) * 2006-04-17 2007-11-01 Hitachi Ltd Video image display device
JP4730183B2 (en) * 2006-04-17 2011-07-20 株式会社日立製作所 Video display device
US8559527B2 (en) 2006-04-17 2013-10-15 Hitachi Consumer Electronics Co., Ltd. Image display apparatus
KR101420878B1 (en) 2007-11-22 2014-07-21 삼성전자주식회사 Method and apparatus for selectively error concealment of video frame
JP2009027727A (en) * 2008-08-11 2009-02-05 Fujitsu Microelectronics Ltd Device for decoding moving image and communication terminal device including the same
JP2011239464A (en) * 2011-07-27 2011-11-24 Toshiba Corp Decoder

Also Published As

Publication number Publication date
JP4613412B2 (en) 2011-01-19

Similar Documents

Publication Publication Date Title
JP4764816B2 (en) Robust mode staggercast of reduced resolution video for mobile receivers
US8249113B2 (en) Method and system for providing faster channel switching in a digital broadcast system
US6898246B2 (en) Apparatus and method for decoding an MPEG picture stream
US5532748A (en) Hybrid analog/digital television transmission system
JP4546249B2 (en) Placement of images in the data stream
JP2004007752A (en) Image decoding method and device
JP2006141009A (en) Mobile television receiver
KR19990057100A (en) MPEG decoder and decoding control method
US8331763B2 (en) Apparatus and method for synchronizing reproduction time of time-shifted content with reproduction time of real-time content
JP4613412B2 (en) Receiving apparatus and digital data decoding method
US7403563B2 (en) Image decoding method and apparatus, and television receiver utilizing the same
KR100306827B1 (en) System for receiving and decoding digital signals at two levels of video sharpness
KR101075969B1 (en) Method and apparatus for preventing error propagation in a video sequence
JP2820630B2 (en) Image decoding device
JP4366591B2 (en) Video playback device
KR0179104B1 (en) Satellite channel hdtv incompatible with ground channel hdtv broadcasting
JP2002171530A (en) Re-encoder provided with superimpose function and its method
JPH11266452A (en) Composite television signal transmission system
JPH08102894A (en) Digital television broadcast receiver
JPH11177921A (en) Digital data edit method and digital data edit device
KR100190612B1 (en) Digital satellite video receiving system with a picture pausing function
KR101199379B1 (en) Method Of Recovering Error During Reception Of Broadcast And Digital Broadcasting Terminal With Recovering Error During Reception Of Broadcast
KR20070064750A (en) Receiver and method for receiving digital broadcast

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071009

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090512

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100921

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101004

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131029

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees