JP3520595B2 - Encoded image and audio data receiving device - Google Patents

Encoded image and audio data receiving device

Info

Publication number
JP3520595B2
JP3520595B2 JP07113195A JP7113195A JP3520595B2 JP 3520595 B2 JP3520595 B2 JP 3520595B2 JP 07113195 A JP07113195 A JP 07113195A JP 7113195 A JP7113195 A JP 7113195A JP 3520595 B2 JP3520595 B2 JP 3520595B2
Authority
JP
Japan
Prior art keywords
data
image
stream
multiplexed
information data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP07113195A
Other languages
Japanese (ja)
Other versions
JPH08275147A (en
Inventor
万寿男 奥
藤井  由紀夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP07113195A priority Critical patent/JP3520595B2/en
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to EP96104875A priority patent/EP0735776B1/en
Priority to US08/622,622 priority patent/US5898695A/en
Priority to DE69631393T priority patent/DE69631393T2/en
Priority to KR1019960008488A priority patent/KR100226528B1/en
Priority to CN96108990A priority patent/CN1085008C/en
Publication of JPH08275147A publication Critical patent/JPH08275147A/en
Priority to US09/161,724 priority patent/US5966385A/en
Priority to US09/392,565 priority patent/US6807191B2/en
Application granted granted Critical
Publication of JP3520595B2 publication Critical patent/JP3520595B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】高能率符号化手段にて画像データ
ならびに音声データを圧縮、符号化した符号化データを
受信し、符号化データの復号を行う圧縮画像・音声デー
タの受信装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a compressed image / sound data receiving apparatus for receiving coded data obtained by compressing and coding image data and sound data by a high efficiency coding means and decoding the coded data.

【0002】[0002]

【従来の技術】画像データのデータ量の多さゆえに、冗
長性などを除去する高能率符号化手段で圧縮、符号化し
た後、符号化データを伝送あるいは記録することによ
り、伝送/記録コストの低減が図られる。上記高能率符
号化手段の例としては、ISO/SC29/WG11で標準化してい
るMPEG方式がよく知られている。MPEG方式では、画像、
音声の符号化方法以外にもこれら符号化データの多重化
方法ついてMPEG/システムとして標準化を行っている。
なお該MPEGシステムの詳細は、ISO/IEC 13818-1 Draft
International Standard に記載されているが、その概
要は「MPEG/マルチメディア符号化の国際標準」安田浩
編著、丸善刊行の159頁〜166頁にも記載されている。
2. Description of the Related Art Due to the large amount of image data, it is possible to reduce the transmission / recording cost by transmitting or recording the encoded data after compression and encoding by a high-efficiency encoding means for removing redundancy. Reduction is achieved. As an example of the high-efficiency encoding means, the MPEG method standardized by ISO / SC29 / WG11 is well known. In the MPEG system, images,
In addition to the audio encoding method, the encoding method of these encoded data is standardized as an MPEG / system.
For details of the MPEG system, see ISO / IEC 13818-1 Draft.
Although it is described in International Standard, its outline is also described in “International Standard of MPEG / Multimedia Coding”, edited by Hiroshi Yasuda, pages 159 to 166, published by Maruzen.

【0003】図8は、MPEG/システムの一多重化方法であ
るトランスポートシステムで採用されているトランスポ
ートパケット(以下TSパケットと記す)の構成を示した図
である。
FIG. 8 is a diagram showing a structure of a transport packet (hereinafter referred to as a TS packet) adopted in a transport system which is one multiplexing method of the MPEG / system.

【0004】1TSパケットは188バイトの固定長パケット
であり、4バイトのヘッダと184バイトのデータ部より成
る。また4バイトのヘッダはシンクバイト、エラーフラ
グ、ユニットスタートフラグ、スクランブル制御フラ
グ、プライオリティフラグ、ならびにPIDデータ、アダ
プテーションフィールド制御フラグ、巡回カウンタより
構成され、PIDデータの値により該TSパケット内のデー
タ部の内容区分を識別する。
A 1TS packet is a fixed length packet of 188 bytes, and is composed of a 4-byte header and a 184-byte data section. The 4-byte header is composed of sync byte, error flag, unit start flag, scramble control flag, priority flag, PID data, adaptation field control flag, and cyclic counter, and the data part in the TS packet depends on the PID data value. Identify the content category of.

【0005】またデータ部は、前記アダプテーションフ
ィールド制御フラグでその存在が示されるアダプテーシ
ョンフィールド(以下AFと記す)と画像や音声の符号化デ
ータや多重化情報データなどのペイロードより成る。AF
はAF長データ、不連続フラグ、ランダムアクセスフラ
グ、プライオリティフラグ、AFのオプションデータの有
無を示すPCRフラグ、OPCRフラグ、スプライスポイント
フラグ、プライベートデータフラグ、ならびこれらフラ
グで存在が示されるオプションデータより成る。これら
のオプションデータの中で、PCRデータは送信側と受信
側とでクロック同期を取るための情報であり、受信側で
はフェーズロックドループを用いて27MHzに定められて
いる基準クロックを発生させる。
The data section includes an adaptation field (hereinafter referred to as AF) whose existence is indicated by the adaptation field control flag, and a payload such as coded data of images and voices and multiplexed information data. AF
Consists of AF length data, discontinuity flag, random access flag, priority flag, PCR flag indicating presence / absence of AF option data, OPCR flag, splice point flag, private data flag, and option data whose existence is indicated by these flags. . Among these optional data, PCR data is information for clock synchronization between the transmitting side and the receiving side, and the receiving side generates a reference clock defined at 27 MHz by using a phase locked loop.

【0006】図9は、複数の番組(以下チャンネルと記
す)が多重されたビットストリーム(以下TSストリームと
記す)から特定のチャンネルに属する画像ならびに音声
の符号化データにアクセスする方法を示した図である。
FIG. 9 is a diagram showing a method for accessing coded data of images and audio belonging to a specific channel from a bit stream (hereinafter referred to as TS stream) in which a plurality of programs (hereinafter referred to as channels) are multiplexed. Is.

【0007】プログラムアソシエーションテーブル(以
下PATと記す)は、常にPID="0"のTSパケットで伝送され
るが、該PATは複数チャンネルの多重化情報として、各
々のチャンネルのプログラムマップテーブル(以下PMTと
記す)がどのPID値を有するTSパケットで伝送されるのか
を与える。
The program association table (hereinafter referred to as PAT) is always transmitted in TS packets with PID = "0". The PAT is used as multiplexing information for a plurality of channels, and a program map table for each channel (hereinafter referred to as PMT). Which PID value is transmitted in a TS packet having a PID value.

【0008】図9の例は3チャンネルを多重した例である
が、j番のチャンネルを選択する場合には、j番のチャン
ネルに対応したPMTを得るために、PID=MjなるTSパケッ
トを捕獲する。該PMTには画像データがPID=VjのTSパケ
ットに、音声データがPID=AjのTSパケットで伝送されて
いることが記載されており、PID=VjのTSパケットを捕獲
することにより画像の符号化データを、PID=AjのTSパケ
ットを捕獲することにより音声の符号化データを受信す
ることが可能となる。
The example of FIG. 9 is an example in which three channels are multiplexed, but when the jth channel is selected, a TS packet with PID = Mj is captured in order to obtain the PMT corresponding to the jth channel. To do. The PMT describes that image data is transmitted in TS packets of PID = Vj and audio data is transmitted in TS packets of PID = Aj. It is possible to receive voice encoded data by capturing TS packets of PID = Aj for the encoded data.

【0009】しかしながら上記説明したMPEG/システム
では、TSストリームのシンタックス等を定めているのみ
であり、実際にどのような構成で受信装置を実現するか
について定めているわけでない。また番組案内などの付
加価値サービスの多重についても何ら具体的に定めてい
るものではなく、放送業者あるいは番組配送業者が任意
に定めることができるようになっている。
However, the above-described MPEG / system only defines the syntax of the TS stream and the like, and does not define the actual configuration of the receiving device. Also, multiplexing of value-added services such as program guide is not specifically defined, but can be arbitrarily defined by a broadcasting company or a program delivery company.

【0010】[0010]

【発明が解決しようとする課題】本発明の目的は、複数
のチャンネルが多重されたビットストリームを受信し
て、画像データ、音声データを復元する圧縮画像・音声
データの受信装置を提供することにあり、しかも付加価
値サービスをもフレキシブルに受信可能とさせることに
ある。
SUMMARY OF THE INVENTION It is an object of the present invention to provide a compressed image / audio data receiving apparatus which receives a bit stream in which a plurality of channels are multiplexed and restores image data and audio data. There is also a flexible way to receive value-added services.

【0011】[0011]

【課題を解決するための手段】上記した目的を達成する
ために、本発明では、多重化ストリームから一チャンネ
ル分の符号化ストリームならびに多重化情報データ、付
加情報データを選択するデータ選択手段、該選択した符
号化ストリーム等をバスに供給するバスアクセス手段、
および該バスに接続したマイクロプロセッサ、ランダム
アクセスメモリ、プログラムメモリ、前記付加情報デー
タの処理手段、画像データの復号化手段、音声データの
復号化手段を備える。
In order to achieve the above object, the present invention provides a data selecting means for selecting a coded stream for one channel, multiplexed information data, and additional information data from a multiplexed stream. Bus access means for supplying the selected encoded stream or the like to the bus,
And a microprocessor connected to the bus, a random access memory, a program memory, a processing unit for the additional information data, a decoding unit for image data, and a decoding unit for audio data.

【0012】さらには符号化ストリームに付随するグロ
ック情報に基づいてクロック信号を生成する手段、符号
化ストリームのパケット同期信号を前記マイクロコンピ
ュータに供給するパケット同期供給手段、伝送誤りの訂
正漏れを示すエラーフラグを符号化ストリーム中に付加
する手段、記録メディアインタフェース手段を備える。
Further, means for generating a clock signal based on the glock information associated with the encoded stream, packet synchronization supply means for supplying a packet synchronization signal of the encoded stream to the microcomputer, and an error indicating a transmission error correction omission. A means for adding a flag to the encoded stream and a recording media interface means are provided.

【0013】[0013]

【作用】データ選択手段は多重化ストリームより一チャ
ンネル分の符号化ストリーム等を選択し、バスアクセス
手段を介してランダムアクセスメモリに格納する。マイ
クロプロセッサはランダムアクセスメモリよりデータを
読み出して、読み出したデータの内容を区分けし、画像
データは画像データの復号手段へ、音声データは音声デ
ータの復号手段へ、多重化情報はPIDデータとしてデー
タ選択手段へ、付加情報データはそのままもしくは加工
して付加情報データの処理手段へ、前記バスを介して送
出する。
The data selecting means selects a coded stream or the like for one channel from the multiplexed stream and stores it in the random access memory via the bus access means. The microprocessor reads the data from the random access memory and divides the contents of the read data. Image data is decoded to image data, audio data is decoded to audio data, and multiplexing information is selected as PID data. The additional information data is sent to the means as it is or after being processed, it is sent to the means for processing the additional information data via the bus.

【0014】画像データの復号手段では、画像の符号化
データを伸張・復号し、音声データの復号手段では、音
声の符号化データを伸張・復号し、画像、音声の受信が
行われる。さらには付加情報データの処理手段では、例
えばプログラムガイド等を復号した画像データにオーバ
レイ表示を可能にさせる。
The image data decoding means decompresses / decodes the image coded data, and the audio data decoding means decompresses / decodes the audio coded data to receive the image and the audio. Further, the additional information data processing means enables the overlay display on the image data obtained by decoding the program guide or the like.

【0015】またクロック信号を生成する手段は、前記
画像データの復号手段、音声データの復号手段、マイク
ロプロセッサのクロック信号を供給し、符号化データ等
のデータ転送を容易にさせ、パケット同期供給手段は、
マイクロプロセッサ内でのパケット同期の認識を容易に
させる。
The means for generating a clock signal supplies the image data decoding means, the audio data decoding means, the clock signal of the microprocessor to facilitate the data transfer of encoded data and the like, and the packet synchronization supply means. Is
Facilitates recognition of packet synchronization within the microprocessor.

【0016】さらにエラーフラグを付加する手段は、誤
りの存在を特別な信号線を用いることなく画像データの
復号手段等が用に認識可能とさせ、記録メディアインタ
フェース手段は、受信した多重化ストリームから一チャ
ンネル分を記録メディアに供給し、低いビットレートで
の画像・音声データの記録再生を可能にさせる。
Further, the means for adding an error flag makes it possible for the image data decoding means and the like to recognize the presence of an error without using a special signal line, and the recording media interface means recognizes from the received multiplexed stream. One channel's worth is supplied to the recording medium to enable recording / playback of image / audio data at a low bit rate.

【0017】[0017]

【実施例】以下本発明の実施例を添付図面を用いて説明
する。
Embodiments of the present invention will be described below with reference to the accompanying drawings.

【0018】図1は、本発明による圧縮画像・音声デー
タの受信装置の例を示す図である。
FIG. 1 is a diagram showing an example of a receiving apparatus for compressed image / audio data according to the present invention.

【0019】図にて、1は誤り訂正復号器、2はチャンネ
ルデマルチプレックサ、3はランダムアクセスメモリ(以
下RAMと記す)、4はマイクロコンピュータ、5はプログラ
ムメモリ、6はオンスクリーンディスプレイ・プロセッ
サ(以下OSDプロセッサと記す)、7は画像デコーダ、8は
音声デーコーダである。また図にて、圧縮画像・音声デ
ータの受信装置のチューナ部等は本発明とは直接関係が
ないので記載を省略している。
In the figure, 1 is an error correction decoder, 2 is a channel demultiplexer, 3 is a random access memory (hereinafter referred to as RAM), 4 is a microcomputer, 5 is a program memory, and 6 is an on-screen display. A processor (hereinafter referred to as an OSD processor), 7 is an image decoder, and 8 is an audio decoder. Further, in the figure, the tuner section of the receiving device for compressed image / audio data and the like are not directly related to the present invention, and therefore the description thereof is omitted.

【0020】また図2は、チャンネルデマルチプレック
サ2の一構成を示す図であり、10はPSI-PIDフィルタ、11
はSI-PIDフィルタ、12は画像・音声PIDフィルタ、13はP
CR抽出回路、14は同期信号ディレイ回路、15はエラーフ
ラグディレイ回路、16は混合回路、17はエラーフラグ付
加回路、18はダイレクトメモリアクセス用バッファ(以
下DMAバッファと記す)、19はPIDデータインタフェー
ス、20はクロック発生回路である。
FIG. 2 is a diagram showing a configuration of the channel demultiplexer 2, 10 is a PSI-PID filter, and 11 is a PSI-PID filter.
Is SI-PID filter, 12 is image / sound PID filter, 13 is P
CR extraction circuit, 14 synchronization signal delay circuit, 15 error flag delay circuit, 16 mixing circuit, 17 error flag addition circuit, 18 direct memory access buffer (hereinafter referred to as DMA buffer), 19 PID data interface , 20 are clock generation circuits.

【0021】さらに図3ならびに図4は、図1および図2で
示した実施例の動作を説明する図であり、また図5は、
前記マイクロコンピュータ4の受け持つ仕事(以下タスク
と記す)を示した図である。
Further, FIGS. 3 and 4 are diagrams for explaining the operation of the embodiment shown in FIGS. 1 and 2, and FIG.
FIG. 3 is a diagram showing a job (hereinafter referred to as a task) assigned to the microcomputer 4.

【0022】図1にて、誤り訂正復号器1に入力する符号
化ストリームaは、図3、図4の(a)のCH1、CH2、CH3で示
した各チャンネルの符号化データに対応したTSパケット
に加え、PSI(プログラム仕様情報)のTSパッケットや、S
I(付加サービス情報)のTSパッケットが多重されてい
る。また伝送誤りの訂正や検出のためにパリティデータ
が各々のTSパケットに付加されている。誤り訂正復号器
1では、上記パリティデータを用いて誤り訂正を行い、
誤り訂正後の符号化ストリーム(図1のb)、TSパケットの
ヘッダに対応したTSパケットの同期信号c(図3、図4の
(b))、さらには上記パリティデータの範囲では訂正しき
れなかった伝送エラーが残余する場合には、その存在を
示すエラーフラグd(図4の(d))をチャンネルデマルチプ
レックサ2に送出する。
In FIG. 1, the coded stream a input to the error correction decoder 1 is a TS corresponding to the coded data of each channel shown by CH1, CH2, and CH3 in (a) of FIGS. 3 and 4. In addition to packets, TS packet of PSI (program specification information) and S
TS packet of I (additional service information) is multiplexed. Also, parity data is added to each TS packet for correction and detection of transmission errors. Error correction decoder
In 1, error correction is performed using the above parity data,
The encoded stream after error correction (b in FIG. 1), the synchronization signal c of the TS packet corresponding to the header of the TS packet (see FIGS. 3 and 4).
(b)), and further, when there are remaining transmission errors that could not be corrected within the range of the parity data, an error flag d ((d) in FIG. 4) indicating the existence of the error is set in the channel demultiplexer 2. Send out.

【0023】図2に示したチャンネルデマルチプレクサ2
では、前記誤り訂正後の符号化データbを、図2のPSI-PI
Dフィルタ10、SI-PIDフィルタ11、画像・音声PIDフィル
タ12、PCR抽出回路13に分配する。PSI-PIDフィルタ10で
は、前記PAT、PMT等の多重化情報のTSパケット(以下PSI
パケットと記す)を、またSI-PIDフィルタ11では、プロ
グラムガイドや限定受信情報などの付加サービス情報の
TSパケット(以下SIパケット)を、画像・音声PIDフィル
タ12では特定のチャンネルの画像や音声それぞれの符号
化データに対応したTSパケット(以下画像パケットなら
びに音声パケットと記す)を抽出する。さらにはPCR抽出
回路13では、前記PCRデータのあるTSパケットを捕獲
し、PCRデータを抜き取る。さらにPSIパケット、SIパケ
ットおよび画像パケット、音声パケットは混合回路16で
再多重し、チャンネル選択後の符号化ストリームとして
エラーフラグ付加回路に送出する。該チャンネル選択後
符号化ストリームを図3、図4の(c)に示す。図ではCH2の
チャンネルを選択した場合の符号化ストリームの例であ
るが、図示したように符号化ストリームは、PSIパケッ
ト、SIパケット、CH2のTSパケット(図では画像と音声の
区別を特に示してはいない)のみより成る。
The channel demultiplexer 2 shown in FIG.
Then, the encoded data b after the error correction is converted into the PSI-PI of FIG.
It is distributed to the D filter 10, the SI-PID filter 11, the image / sound PID filter 12, and the PCR extraction circuit 13. In the PSI-PID filter 10, TS packets of multiplexing information such as the PAT and PMT (hereinafter referred to as PSI
(Indicated as a packet), and SI-PID filter 11 uses additional service information such as program guide and conditional access information.
The image / sound PID filter 12 extracts TS packets (hereinafter referred to as SI packets) from the TS packets (hereinafter referred to as image packets and sound packets) corresponding to encoded data of images and sounds of a specific channel. Further, the PCR extraction circuit 13 captures the TS packet having the PCR data and extracts the PCR data. Further, the PSI packet, the SI packet, the image packet, and the voice packet are re-multiplexed by the mixing circuit 16 and sent to the error flag addition circuit as a coded stream after channel selection. The coded stream after the channel selection is shown in (c) of FIGS. 3 and 4. The figure shows an example of the coded stream when the CH2 channel is selected, but as shown in the figure, the coded stream includes PSI packets, SI packets, and CH2 TS packets (in the figure, the distinction between image and audio is particularly shown. No)) only.

【0024】エラーフラグ付加回路17には、前記チャン
ネル選択後符号化ストリームおよびエラーフラグディレ
イ回路15で適切なタイミング調整を行った前記エラーフ
ラグdをも入力し、図4(c)に示したように、エラーの存
在を符号化ストリームの中にマークする。該マーク信号
は、符号化ストリームではユニークなパターンとなるよ
う、例えば前記MPEG方式ではsequence_error_codeを選
ぶのがよい。その後符号化ストリームはDMAバッファ18
を介し、busに接続され、マイコン4との間でDMA転送を
行い、RAM3に符号化ストリームを格納する。
To the error flag adding circuit 17, the coded stream after channel selection and the error flag d which has been subjected to appropriate timing adjustment by the error flag delay circuit 15 are also inputted, and as shown in FIG. 4 (c). Then, mark the presence of an error in the encoded stream. It is preferable to select sequence_error_code in the MPEG system, for example, so that the mark signal has a unique pattern in the encoded stream. Then the encoded stream is DMA buffer 18
It is connected to the bus via, and performs DMA transfer with the microcomputer 4, and stores the encoded stream in the RAM 3.

【0025】なおMPEG方式のsequence_error_codeは4バ
イトのコードである。このように複数バイトのエラーフ
ラグコードを用いる場合には、前記エラーフラグ付加回
路17では、エラーフラグを付加すべき位置が前記TSパケ
ットの最終バイトから(最終-3)バイトの間にあるとき、
エラーフラグコードが2つのパケットをまたがることの
ないよう、(最終-4)バイトの位置からエラーフラグコー
ドを付けるようにする。
The MPEG system sequence_error_code is a 4-byte code. In this way, when using the error flag code of a plurality of bytes, in the error flag adding circuit 17, when the position to add the error flag is between the last byte of the TS packet (final -3) bytes,
To prevent the error flag code from straddling two packets, add the error flag code from the (final-4) byte position.

【0026】また前記busには、PIDインタフェース19も
接続されており、後述するマイコン4からのPID情報を受
け取り、前記PSI-PIDフィルタ10、SI-PIDフィルタ11、
画像・音声PIDフィルタ12、PCR抽出回路13が捕獲すべき
TSパケットのPID情報をそれぞれに分配する。
Further, a PID interface 19 is also connected to the bus, receives PID information from the microcomputer 4 described later, and receives the PSI-PID filter 10, SI-PID filter 11,
Image / audio PID filter 12, PCR extraction circuit 13 should capture
The PID information of TS packets is distributed to each.

【0027】マイコン4は、図5に記したように上記DMA
転送以外に、符号化ストリームをRAM3より読み出し、前
記TSパケットのヘッダ解析を行い、各々のTSパケットの
データ区分、即ち画像データであるか、音声データであ
るか、あるいはPSIデータであるか、SIデータであるか
の識別を行う。その後データの内容に応じ処理を行う。
The microcomputer 4, as shown in FIG.
In addition to transfer, the encoded stream is read from RAM3, the header of the TS packet is analyzed, and the data classification of each TS packet, that is, image data, audio data, PSI data, SI Identify whether it is data. After that, processing is performed according to the content of the data.

【0028】画像データの場合には、前記busに接続さ
れた画像デコーダ7に送出し、画像データを復号化す
る。同様に音声データの場合にも、音声デコーダ8に送
出し、音声データを復号する。
In the case of image data, it is sent to the image decoder 7 connected to the bus and the image data is decoded. Similarly, in the case of audio data, the audio data is sent to the audio decoder 8 and the audio data is decoded.

【0029】またPSIデータの場合には、その内容を解
析し、さらには図示していないリモコン装置を用いてユ
ーザが指示する選択チャンネル情報に基づいて、チャン
ネルデマルチプレクサ2内のPSI-PIDフィルタ10、SI-PID
フィルタ11、画像・音声PIDフィルタ12、PCR抽出回路13
が捕獲すべきTSパケットのPID情報何と何であるかを
定め、busを介し該PID情報をチャンネルデマルチプレク
サ2のPIDデータインタフェース19に送出する。
In the case of PSI data, the content is analyzed, and further, based on the selected channel information instructed by the user using a remote control device (not shown), the PSI-PID filter 10 in the channel demultiplexer 2 is analyzed. , SI-PID
Filter 11, image / sound PID filter 12, PCR extraction circuit 13
There determined whether PID information of the TS packet to be captured is what what is sent to the PID data interface 19 of the channel demultiplexer 2 the PID information via the bus.

【0030】またSIデータの場合には、その内容を解析
し、例えばプログラムガイドの情報であれば、該情報を
からオンスクリーンディスプレイ(OSDと記す)用のデー
タを生成し、busを介し、OSDプロセッサ6に送出する。O
SDプロセッサ6では、前記画像デコーダ7で復号した画像
データの同期gに合わせて、OSDデータfを画像デコーダ7
に供給し、復号した画像データにオーバレイ等して前記
プログラムガイドなどを表示させる。
Further, in the case of SI data, the content is analyzed, and for example, in the case of program guide information, data for on-screen display (referred to as OSD) is generated from the information, and the OSD It is sent to the processor 6. O
In the SD processor 6, the OSD data f is transferred to the image decoder 7 in synchronization with the synchronization g of the image data decoded by the image decoder 7.
The program guide and the like are displayed by overlaying the decoded image data.

【0031】プログラムメモリ5は、マイコン4の動作を
記述したプログラムを格納しておくものである。該プロ
グラムメモリ5には、リードオンリメモリ(ROM)を用いて
もよいが、書換可能型の不揮発性メモリやICカード等を
用いることにより、色々なタイプのSI情報にも柔軟に対
応ができる。
The program memory 5 stores a program describing the operation of the microcomputer 4. A read only memory (ROM) may be used as the program memory 5, but various types of SI information can be flexibly dealt with by using a rewritable nonvolatile memory, an IC card, or the like.

【0032】さらにチャンネルデマルチプレクサ2とマ
イコン4の間には、前記bus以外に、クロック信号clkとT
Sパケットの同期信号eが接続される。PCR抽出回路13で
捕獲した情報は、クロック発生回路20で画像もしくは音
声もしくは両方に同期した基準クロック信号を発生させ
る。MPEG方式では、27MHzに選ばれる。該クロック信号
は、マイコン4のクロック信号として、さらには画像デ
コーダ7、音声デコーダ8のクロック信号として共通に使
われる。
Furthermore, between the channel demultiplexer 2 and the microcomputer 4, clock signals clk and T
The S packet sync signal e is connected. The information captured by the PCR extraction circuit 13 causes a clock generation circuit 20 to generate a reference clock signal synchronized with an image, a sound, or both. 27 MHz is selected in the MPEG system. The clock signal is commonly used as a clock signal for the microcomputer 4 and also as a clock signal for the image decoder 7 and the audio decoder 8.

【0033】同期信号はbusを介して送出するTSパケッ
トに同期させるように、同期ディレイ回路14でタイミン
グ調整してeよりマイコン4のインタラプト信号として供
給する。マイコン4には、該インタラプト信号を与えた
後、一TSパケット分のデータを転送する。
The synchronizing signal is timing-adjusted by the synchronizing delay circuit 14 so as to be synchronized with the TS packet transmitted via the bus, and supplied from e as an interrupt signal of the microcomputer 4. After giving the interrupt signal, the microcomputer 4 transfers data for one TS packet.

【0034】この結果本実施例では、複数のチャンネル
が多重されたビットストリームを受信し、画像データ、
音声データを区別して、それぞれに適したデコーダにデ
ータの送出が可能となる。しかもSI等の付加情報の処理
にも同一のマイコン4を用いており、プログラム等の差
し替えによりSI等の付加情報の処理が柔軟に行える。
As a result, in this embodiment, a bit stream in which a plurality of channels are multiplexed is received, and image data,
It is possible to distinguish the audio data and send the data to a decoder suitable for each. Moreover, the same microcomputer 4 is used for the processing of additional information such as SI, and the processing of additional information such as SI can be performed flexibly by replacing the program.

【0035】またマイコン4、画像デコーダ7、音声デコ
ーダ8にて共通のクロック信号を使用しており、符号化
データの転送が効率よく行える。さらにTSパケットの同
期信号をマイコン4のインタラプト信号として用いてお
り、TSパケットの同期検出は、誤り訂正回路1で1度行う
だけでよく、装置が簡素に実現できる。
Further, since the common clock signal is used in the microcomputer 4, the image decoder 7 and the audio decoder 8, the encoded data can be transferred efficiently. Furthermore, the synchronization signal of the TS packet is used as the interrupt signal of the microcomputer 4, and the synchronization detection of the TS packet only needs to be performed once by the error correction circuit 1, and the device can be realized simply.

【0036】図6は、前記チャンネルデマルチプレクサ2
の第2の構成例である。図にて、図2に示した第1の構
成例と同一のものには同一の番号を付しており、本構成
例では第1の構成例に加えて、選択回路21および記録メ
ディアインタフェース22を備えている。
FIG. 6 shows the channel demultiplexer 2
2 is a second configuration example of. In the figure, the same components as those in the first configuration example shown in FIG. 2 are denoted by the same reference numerals. In this configuration example, in addition to the first configuration example, the selection circuit 21 and the recording media interface 22 are added. Is equipped with.

【0037】前記エラーフラグ付加回路17でエラーフラ
グ処理した、チャンネル選択後の符号化データは、選択
回路21ならびに記録メディアインタフェース22に送出さ
れる。記録メディアインタフェース22からは、該チャン
ネル選択後の符号化データがVTRやハードディスク等の
記録メディアへの記録信号pとして送出される。また記
録メディアの再生信号qが記録メディアインタフェース2
2へ入力され、選択回路21の入力となる。
The coded data after the channel selection, which has been subjected to the error flag processing by the error flag adding circuit 17, is sent to the selection circuit 21 and the recording media interface 22. From the recording medium interface 22, the encoded data after the channel selection is sent out as a recording signal p to a recording medium such as a VTR or a hard disk. In addition, the playback signal q of the recording medium is the recording medium interface
2 is input to the selection circuit 21.

【0038】選択回路21では、図示はしていない制御信
号により直接受信した符号化データを復号するか、記録
メディアからの再生信号信号を復号するのかを選択し、
選択した符号化データを前記DMAバッファに送出する。
The selection circuit 21 selects whether to decode the coded data directly received by a control signal (not shown) or the reproduction signal signal from the recording medium,
The selected encoded data is sent to the DMA buffer.

【0039】本例では、記録メディア装置の中に画像や
音声の符号化・復号化装置を設けることなくディジタル
的に画像・音声データの記録再生が行えるとともに、チ
ャンネル選択した信号を記録メディアへの記録信号とし
ており、そのデータレートも必要最小限に押さえられ
る。
In this example, recording / reproducing of image / sound data can be performed digitally without providing an image / sound encoding / decoding device in the recording medium device, and a channel-selected signal is transmitted to the recording medium. It is a recording signal, and its data rate can be suppressed to the necessary minimum.

【0040】図7は、前記チャンネルデマルチプレクサ2
の第3の構成例である。図にて、図6に示した第2の構成
例と同一のものには同一の番号を付しており、本構成例
では第2の構成例に加えて、PSI-PIDフィルタ23、画像・
音声PIDフィルタ24、混合回路25、エラーフラグ付加回
路26を2重化している。
FIG. 7 shows the channel demultiplexer 2
3 is a third configuration example of. In the figure, the same components as those of the second configuration example shown in FIG. 6 are denoted by the same reference numerals, and in this configuration example, in addition to the second configuration example, the PSI-PID filter 23, the image
The audio PID filter 24, the mixing circuit 25, and the error flag adding circuit 26 are duplicated.

【0041】記録メディアへの記録信号は、該2重化し
たPSI-PIDフィルタ23、画像・音声PIDフィルタ24、混合
回路25、エラーフラグ付加回路26を用いて生成する。
The recording signal to the recording medium is generated by using the doubled PSI-PID filter 23, the image / sound PID filter 24, the mixing circuit 25, and the error flag adding circuit 26.

【0042】この結果本例では、画像デコーダ7、音声
デコーダ8とで復号するチャンネルとは独立に、記録メ
ディアに記録するチャンネルを設定することが可能であ
る。
As a result, in this example, it is possible to set the channels to be recorded on the recording medium independently of the channels to be decoded by the image decoder 7 and the audio decoder 8.

【0043】[0043]

【発明の効果】以上説明したように本発明では、複数の
チャンネルが多重されたビットストリームを受信して、
画像データ、音声データを復元する圧縮画像・音声デー
タの受信装置が簡潔に実現でき、しかも付加価値サービ
スをも柔軟に受信可能となる。
As described above, according to the present invention, a bit stream in which a plurality of channels are multiplexed is received,
A compressed image / audio data receiving device for restoring image data and audio data can be simply realized, and a value-added service can be received flexibly.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明による圧縮画像・音声データの受信装置FIG. 1 is a receiver for compressed image / audio data according to the present invention.

【図2】チャンネルデマルチプレクサの第1の構成例FIG. 2 is a first configuration example of a channel demultiplexer.

【図3】圧縮画像・音声データの受信装置の動作を示す
図(1)
FIG. 3 is a diagram showing an operation of a compressed image / audio data receiving device (1)

【図4】圧縮画像・音声データの受信装置の動作を示す
図(2)
FIG. 4 is a diagram showing the operation of a compressed image / audio data receiving device (2)

【図5】マイコンのタスクを示す図[Figure 5] Diagram showing the tasks of the microcomputer

【図6】チャンネルデマルチプレクサの第2の構成例FIG. 6 is a second configuration example of the channel demultiplexer.

【図7】チャンネルデマルチプレクサの第3の構成例FIG. 7: Third example of configuration of channel demultiplexer

【図8】符号化ストリームの説明図FIG. 8 is an explanatory diagram of an encoded stream.

【図9】チャンネル選択の原理を示す図FIG. 9 is a diagram showing the principle of channel selection.

【符号の説明】[Explanation of symbols]

1…誤り訂正復号器、2…チャンネルデマルチプレクサ、
3…ランダムアクセスメモリ、4…マイコン、5…プログ
ラムメモリ、6…OSDプロセッサ、7…画像デコーダ、8…
音声デコーダ、10…PSI-PIDフィルタ、11…SI-PIDフィ
ルタ、12…画像・音声PIDフィルタ、13…PCR抽出回路、
18…DMAバッファ、19…PIDデータインタフェース、20…
クロック発生回路、22…記録メディアインタフェース
1 ... Error correction decoder, 2 ... Channel demultiplexer,
3 ... Random access memory, 4 ... Microcomputer, 5 ... Program memory, 6 ... OSD processor, 7 ... Image decoder, 8 ...
Audio decoder, 10 ... PSI-PID filter, 11 ... SI-PID filter, 12 ... Image / audio PID filter, 13 ... PCR extraction circuit,
18 ... DMA buffer, 19 ... PID data interface, 20 ...
Clock generation circuit, 22 ... Recording media interface

───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平8−275151(JP,A) 特開 平7−303118(JP,A) 特開 平7−297855(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 7/00 - 7/088 H04N 7/12 H04N 7/24 - 7/68 ─────────────────────────────────────────────────── ─── Continuation of the front page (56) References JP-A-8-275151 (JP, A) JP-A-7-303118 (JP, A) JP-A-7-297855 (JP, A) (58) Field (Int.Cl. 7 , DB name) H04N 7/ 00-7/088 H04N 7/12 H04N 7/ 24-7/68

Claims (7)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】圧縮、符号化した画像データならびに音声
データよりなる一組の符号化ストリームを複数組と、上
位層と下位層を有する多重化情報データ、および付加情
報データとを多重した多重化ストリームからマイクロプ
ロセッサにより指示された一組の符号化ストリームと、
全ての上位層の多重化情報データと、マイクロプロセッ
サにより指示された一部の下位層の多重化情報データ
と、マイクロプロセッサにより指示された一部の付加情
報データを選択するデータ選択手段、該選択した符号化
ストリームならびに多重化情報データ、付加情報データ
をバスに供給するバスアクセス手段、およびマイクロプ
ロセッサ、ランダムアクセスメモリ、プログラムメモ
リ、前記付加情報データの処理手段、画像データの復号
手段、音声データの復号手段を備え、 前記データ選択手段で選択した一組の符号化ストリーム
ならびに多重化情報データ、付加情報データを、前記バ
スアクセス手段ならびにバスを介しランダムアクセスメ
モリに格納し、またランダムアクセスメモリより読み出
したデータをマイクロプロセッサで解析し、上位層の多
重化情報データに基づいて前記データ選択手段に対して
下位層の多重化情報データの選択を指示し、該選択され
下位層の多重化情報データを識別し、該下位層の多重
化情報データに基づいて前記データ選択手段に対して符
号化ストリーム及び付加情報データの選択を指示し、該
選択された画像データ、音声データ、および付加情報デ
ータを識別するとともに、画像データを前記画像データ
の復号手段へ、音声データを前記音声データの復号手段
へ、付加情報データを前記付加情報データの処理手段
へ、前記バスを介して供給することを特徴とする符号化
画像・音声データの受信装置。
1. Multiplexing in which a plurality of sets of a set of encoded streams consisting of compressed and encoded image data and audio data, multiplexed information data having upper and lower layers, and additional information data are multiplexed. Stream to microp
A set of encoded streams instructed by the processor,
All upper layer multiplexed information data and the microprocessor
Some lower layer multiplexed information data specified by the server
And some additional information specified by the microprocessor.
Data selection means for selecting information data , the selected encoded stream and multiplexed information data, bus access means for supplying additional information data to the bus, microprocessor, random access memory, program memory, processing of the additional information data Means, decoding of image data
Means , audio data decoding means, and stores the set of encoded streams selected by the data selecting means, multiplexed information data, and additional information data in a random access memory via the bus access means and the bus, and The data read from the random access memory is analyzed by the microprocessor, and based on the upper layer multiplexed information data, the data selecting means
Instructing the selection of lower layer multiplexed information data,
The lower layer multiplexed information data is identified, and a code is added to the data selection means based on the lower layer multiplexed information data.
Instructing the selection of the encoded stream and the additional information data,
The selected image data, audio data, and additional information data are identified, and the image data is processed by the image data decoding unit, the audio data is processed by the audio data decoding unit, and the additional information data is processed by the additional information data . A device for receiving encoded image / audio data, which is supplied to the means via the bus.
【請求項2】請求項1に記載の符号化画像・音声データ
の受信装置であって、前記一組の符号化ストリームに対
応したクロック情報の抽出手段と該クロック情報に基づ
いてクロック信号を生成する手段を備え、該クロック信
号を前記マイクロプロセッサ、画像データの復号手段、
音声データの復号手段に供給することを特徴とする符号
化画像・音声データの受信装置。
2. A receiving apparatus for encoding image and audio data according to claim 1, generates a clock signal based on the extraction unit and the clock information of the clock information corresponding to the set of encoded streams Means for converting the clock signal into the microprocessor, image data decoding means,
An encoded image / sound data receiving device, which is supplied to a sound data decoding means .
【請求項3】請求項1に記載の符号化画像・音声データ
の受信装置であって、前記多重化ストリームはパケット
形式のストリームであり、 前記選択した一組の符号化ストリームと多重化情報デー
タおよび付加情報データとを多重化した多重化ストリー
ムのパケット同期信号を、前記マイクロプロセッサに供
給するパケット同期供給手段を有すること特徴とする
符号化画像・音声データの受信装置。
3. The encoded image / audio data receiving apparatus according to claim 1, wherein the multiplexed stream is a packet format stream, and the selected set of encoded streams and multiplexed information data. and additional information packet synchronization signal multiplexed stream obtained by multiplexing the data receiving apparatus of the encoded image and audio data, characterized in that it has a packet sync supply means for supplying to the microprocessor.
【請求項4】請求項3に記載の符号化画像・音声データ
の受信装置であって、前記パケット同期信号は、前記マ
イクロプロセッサのインタラプト信号として入力し、該
インタラプト信号に引き続いて一パケット分のデータを
ランダムアクセスメモリに格納することを特徴とする符
号化画像・音声データの受信装置。
4. The coded image / audio data receiving apparatus according to claim 3, wherein the packet synchronization signal is input as an interrupt signal of the microprocessor, and one packet of the packet is succeeded by the interrupt signal. A receiving device for encoded image / audio data, characterized in that the data is stored in a random access memory.
【請求項5】請求項1に記載の符号化画像・音声データ
の受信装置であって、前記多重化ストリームはパケット
形式のストリームであり、さらに誤り訂正パリティデー
タを含むとともに、該誤り訂正パリティデータを用いて
伝送誤りを検出ならびに訂正する伝送誤り訂正手段、符
号化ストリーム中にエラーフラグを付加する手段を備
え、 該伝送誤り訂正手段の訂正不能誤りフラグを見て、前記
符号化ストリーム中にエラーフラグを付加する際に、一
パケットの中でエラーフラグが収まるようにすることを
特徴とする符号化画像・音声データの受信装置。
5. The encoded image / audio data receiving apparatus according to claim 1, wherein the multiplexed stream is a packet format stream, and further includes error correction parity data, and the error correction parity data. A transmission error correction means for detecting and correcting a transmission error by using an error flag, and a means for adding an error flag in the coded stream. A device for receiving coded image / sound data, wherein an error flag is set in one packet when a flag is added.
【請求項6】請求項1に記載の符号化画像・音声データ
の受信装置であって、記録メディアインタフェース手段
を含み、 該記録メディアインタフェース手段は、前記データ選択
手段で選択した一組の符号化ストリームと多重化情報デ
ータおよび付加情報データとを多重化した多重化ストリ
ームを記録メディアに送出し、また記録メディアからの
再生ストリームを前記バスアクセス手段に供給するもの
であることを特徴とする符号化画像・音声データの受信
装置。
6. The receiver of the encoded image and audio data according to claim 1, wherein the recording medium interface unit, the recording medium interface means, a set of coding selected in the data selection means A coding for sending a multiplexed stream obtained by multiplexing a stream, multiplexed information data, and additional information data to a recording medium, and supplying a reproduction stream from the recording medium to the bus access means. Image and audio data receiving device.
【請求項7】請求項1に記載の符号化画像・音声データ
の受信装置であって、前記データ選択手段とは異なる第
2のデータ選択手段と記録メディアインタフェース手段
を含み、 該記録メディアインタフェース手段は、前記第2のデー
タ選択手段で選択した一組の符号化ストリームと多重化
情報データおよび付加情報データとを多重化した多重化
ストリームを記録メディアに送出し、また記録メディア
からの再生ストリームを前記バスアクセス手段に供給す
るものであることを特徴とする符号化画像・音声データ
の受信装置。
7. The encoded image / audio data receiving apparatus according to claim 1, further comprising a second data selecting means different from the data selecting means and a recording media interface means, the recording media interface means. Sends to the recording medium a multiplexed stream obtained by multiplexing the set of encoded streams selected by the second data selecting means with multiplexed information data and additional information data, and reproduces the reproduced stream from the recording medium. A device for receiving coded image / audio data, which is supplied to the bus access means.
JP07113195A 1995-03-29 1995-03-29 Encoded image and audio data receiving device Expired - Lifetime JP3520595B2 (en)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP07113195A JP3520595B2 (en) 1995-03-29 1995-03-29 Encoded image and audio data receiving device
US08/622,622 US5898695A (en) 1995-03-29 1996-03-27 Decoder for compressed and multiplexed video and audio data
DE69631393T DE69631393T2 (en) 1995-03-29 1996-03-27 Decoder for compressed and multiplexed image and audio data
KR1019960008488A KR100226528B1 (en) 1995-03-29 1996-03-27 Decoder for compressed and multiplexed video and audio data
EP96104875A EP0735776B1 (en) 1995-03-29 1996-03-27 Decoder for compressed and multiplexed video and audio data
CN96108990A CN1085008C (en) 1995-03-29 1996-03-29 Decoder for compressed and multiplexed video and audio data
US09/161,724 US5966385A (en) 1995-03-29 1998-09-29 Decoder for compressed and multiplexed video and audio data
US09/392,565 US6807191B2 (en) 1995-03-29 1999-09-09 Decoder for compressed and multiplexed video and audio data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP07113195A JP3520595B2 (en) 1995-03-29 1995-03-29 Encoded image and audio data receiving device

Publications (2)

Publication Number Publication Date
JPH08275147A JPH08275147A (en) 1996-10-18
JP3520595B2 true JP3520595B2 (en) 2004-04-19

Family

ID=13451724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP07113195A Expired - Lifetime JP3520595B2 (en) 1995-03-29 1995-03-29 Encoded image and audio data receiving device

Country Status (1)

Country Link
JP (1) JP3520595B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3183399B2 (en) 1998-04-23 2001-07-09 日本電気株式会社 Image processing apparatus and image processing method
US6671290B1 (en) * 1998-11-10 2003-12-30 Sony Corporation Receiving apparatus and recording/reproducing system for digital broadcasts
JP3348683B2 (en) 1999-04-27 2002-11-20 日本電気株式会社 Digital broadcast receiver
US7366462B2 (en) * 2003-10-24 2008-04-29 Qualcomm Incorporated Method and apparatus for seamlessly switching reception between multimedia streams in a wireless communication system
JP2011078111A (en) * 2010-11-05 2011-04-14 Toshiba Corp Information processing device

Also Published As

Publication number Publication date
JPH08275147A (en) 1996-10-18

Similar Documents

Publication Publication Date Title
KR100226528B1 (en) Decoder for compressed and multiplexed video and audio data
CN100397884C (en) Digital signal processing apparatus and its processing method
JP4481444B2 (en) Image encoding device
KR100495545B1 (en) Reception system and digital broadcasting system
JP2004336576A (en) Content distribution system, content distribution device, device and method for recording and reproducing content, and computer program
KR100799511B1 (en) Digital broadcasting recording/reproducing apparatus and method for the same
JP4190594B2 (en) Electronic apparatus and signal processing method
US20050201390A1 (en) Data processing apparatus and method and computer readable storage medium
US6940901B2 (en) Apparatus and method for information processing
US7434248B2 (en) Broadcast system and apparatus, sync information replacing apparatus and method, program, and recording medium recording the program
JP3520595B2 (en) Encoded image and audio data receiving device
JP3490252B2 (en) Packet-multiplexed audio / video signal separation device
KR100287868B1 (en) A signal recording and reproducing apparatus of a digital storage medium
KR100191731B1 (en) A dvcr
CN100534160C (en) Digital signal processor, processing method
JP2000156848A (en) Digital video device and method for protecting digital image from copying
JP3987712B2 (en) Digital broadcast receiving apparatus, digital broadcast receiving method, digital broadcast receiving program, and computer-readable recording medium
KR100484557B1 (en) Digital signal processing device, digital signal processor and digital signal processing method
JPH09247633A (en) Information supply system, information supply device and output terminal equipment
JPH11340935A (en) Data multiplexer and its method
JP4277843B2 (en) Digital signal recording / reproducing apparatus and digital signal reproducing method
JP3716835B2 (en) Playback apparatus and playback method
JP2001238180A (en) Recording and reproducing apparatus of digital data
JP2001057681A (en) Data broadcast contents preview device and data broadcast contents preview method
KR20010092116A (en) A receiving device and a method for storing and reproducing a satellite broadcasting

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040126

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080213

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090213

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090213

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100213

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100213

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110213

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120213

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120213

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130213

Year of fee payment: 9

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130213

Year of fee payment: 9

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term