JP2006352783A - Output method and output device - Google Patents

Output method and output device Download PDF

Info

Publication number
JP2006352783A
JP2006352783A JP2005179490A JP2005179490A JP2006352783A JP 2006352783 A JP2006352783 A JP 2006352783A JP 2005179490 A JP2005179490 A JP 2005179490A JP 2005179490 A JP2005179490 A JP 2005179490A JP 2006352783 A JP2006352783 A JP 2006352783A
Authority
JP
Japan
Prior art keywords
output
data
video
distribution
distribution data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005179490A
Other languages
Japanese (ja)
Other versions
JP4089708B2 (en
Inventor
Tetsuo Morita
哲郎 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2005179490A priority Critical patent/JP4089708B2/en
Publication of JP2006352783A publication Critical patent/JP2006352783A/en
Application granted granted Critical
Publication of JP4089708B2 publication Critical patent/JP4089708B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an output method and an output device for immediately starting output and outputting high-quality video and audio when the output is continuously executed, in an output device of a cellular phone etc. for receiving and outputting distribution data in which loss compensation data are added to output data such as video data and audio data. <P>SOLUTION: A generating device 2 generates distribution data in which the loss compensation data for compensating a loss portion per block are added to the output data of the video data and audio data, and distributes the generated distribution data as streaming data. The output device 1 receives the distribution data which are distributed, and performs output based on the output data included in the distribution data as output when output starts. After receiving a predetermined operation, if a predetermined condition such as lapse of a predetermined time from the output start based on the distribution data is satisfied, the output device 1 performs output based on the output data for which loss compensation processing based on the loss compensation data is performed. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、欠損箇所を補償する欠損補償データが出力データに付加された配信データを受信し、受信した配信データに係る出力データに基づく出力を行う出力方法、及び該出力方法を適用した出力装置に関し、特にストリーミングデータ等の出力データに基づく出力開始を速やかに行い、かつ欠損箇所を補償することが可能な出力方法及び出力装置に関する。   The present invention relates to an output method for receiving distribution data in which loss compensation data for compensating for a missing portion is added to output data, and performing output based on the output data related to the received distribution data, and an output device to which the output method is applied In particular, the present invention relates to an output method and an output device capable of promptly starting output based on output data such as streaming data and compensating for a missing portion.

映画、テレビジョン放送、コンサート等の様々な映像データをストリーミング配信する映像配信システムが普及している(例えば特許文献1参照)。   Video distribution systems that distribute various types of video data such as movies, television broadcasts, concerts, and the like are widespread (see, for example, Patent Document 1).

また最近の映像配信システムは、有線によるネットワークだけでなく、無線によるネットワーク、例えば携帯電話を受信側の装置として用いる形態にまで発展しつつあり、更に配信する映像データの多チャンネル化も推進されている。   In addition, recent video distribution systems are developing not only for wired networks but also for wireless networks, for example, mobile phones as devices on the receiving side, and more channels for distributed video data are being promoted. Yes.

このような映像配信システムは、配信される映像データが受信側の装置に到達するまでに様々なノイズにより映像データの一部が欠損することがある。特に映像データを無線により携帯電話へ送信する場合には、電磁ノイズによる影響だけでなく、建造物等の障害物による影響も大きいため、有線のネットワークを介しての送信以上に欠損に対する対策が必要となる。   In such a video distribution system, part of the video data may be lost due to various noises before the distributed video data reaches the receiving device. In particular, when video data is transmitted wirelessly to a mobile phone, not only the effects of electromagnetic noise but also the effects of obstacles such as buildings are large, so countermeasures against deficiencies are required beyond transmission via wired networks. It becomes.

そこで映像データの欠損を補償する方法として組織符号型の欠損補償符号方式が採用されている。欠損補償符号方式では、本来の映像データ(オリジナルデータ)を所定長のブロック単位に分割し、ブロック単位に分割したデータに欠損補償データを付加することで欠損箇所を補償可能とする欠損補償符号化を行い、欠損補償符号化を行ったデータをパケット単位に分割して送信側の装置から配信し、受信側の装置では、受信したデータからブロック単位のデータを生成し、ブロック単位のデータに基づいて欠損を補償する欠損補償復号を行う。   Therefore, a systematic code type loss compensation code method is employed as a method for compensating for the loss of video data. In the loss compensation coding method, the original video data (original data) is divided into blocks of a predetermined length, and loss compensation coding is made possible to compensate for the missing portions by adding the loss compensation data to the data divided into blocks. The data subjected to loss compensation coding is divided into packet units and distributed from the transmission side device, and the reception side device generates block unit data from the received data, and based on the block unit data Then, defect compensation decoding is performed to compensate for the defect.

組織符号型の欠損補償符号方式では、例えばx,y,zという3つのデータで示されるオリジナルデータを送信側の装置から配信する場合に、データx,y,zに対して排他的論理和の関係にあるデータw(=x XOR y XOR z)を欠損補償データとして付加した上で配信する。これにより例えば受信側の装置が受信したデータがx,y,wのみであっても、データwは、データx,y,zと排他的論理和の関係にあるので、受信することができたデータx,y,wからデータxを求めることができ、オリジナルデータx,y,zを補償することができる。   In the systematic code type loss compensation code method, for example, when original data represented by three data of x, y, and z is distributed from a transmission side device, exclusive OR is performed on the data x, y, and z. The data w (= x XOR y XOR z) in relation is added as missing compensation data and distributed. Thus, for example, even if the data received by the device on the receiving side is only x, y, w, the data w can be received because it is in an exclusive OR relationship with the data x, y, z. Data x can be obtained from data x, y, w, and original data x, y, z can be compensated.

図6は、欠損補償符号化を行ったデータの一例を概念的に示す説明図である。1、2、…、10、…、20、…等の数字を付したデータは、所定のデータ長に区切られたオリジナルデータである映像データを示しており、R1、R2、…等の符号を付したデータは、欠損補償データを示している。また図6に示すデータは、1、2、…、10、R1、11、…、20、R2、21、…の順に転送される。図6に示す例では、オリジナルの10個の映像データに対して1個の欠損補償データを付加することで、第1ブロック、第2ブロック、…等のブロックを形成した形態を示している。図6に示す欠損補償符号化を行った映像データを携帯電話等の受信側の装置が受信する場合において、携帯電話が受信する映像データの伝送速度が128Kbpsで、1つのブロックのブロックサイズが160Kbyteであるとすると、1つのブロックを構成する映像データの受信に要する時間は10秒となる。なおブロックを単位として欠損補償を行うので、1つのブロックのブロックサイズを大きくしてそのブロックに含まれる欠損補償データを増やせば、パケット欠損を補償する能力を高められる。
特開2004−80169号公報
FIG. 6 is an explanatory diagram conceptually showing an example of data subjected to loss compensation coding. Data with numbers such as 1, 2,..., 10,..., 20,... Indicate video data that is original data divided by a predetermined data length, and are denoted by symbols such as R1, R2,. The attached data indicates missing compensation data. Also, the data shown in FIG. 6 is transferred in the order of 1, 2,..., 10, R1, 11,. The example shown in FIG. 6 shows a form in which blocks such as a first block, a second block,... Are formed by adding one missing compensation data to the original 10 pieces of video data. When the receiving side device such as a mobile phone receives the video data subjected to the loss compensation coding shown in FIG. 6, the transmission speed of the video data received by the mobile phone is 128 Kbps, and the block size of one block is 160 Kbytes. If this is the case, the time required for receiving the video data constituting one block is 10 seconds. Since loss compensation is performed in units of blocks, the ability to compensate for packet loss can be enhanced by increasing the block size of one block and increasing the loss compensation data included in the block.
JP 2004-80169 A

しかしながら欠損補償符号化の単位となるブロックサイズが大きい程、欠損補償符号化された映像データの受信を開始してから、受信した映像データに基づいて映像の出力を開始するまでの時間が長くなるという問題がある。欠損補償符号化された映像データを受信する場合、1つのブロックの受信を完了後、受信したブロックに含まれる欠損補償符号化データに基づく欠損補償処理を行った上で、映像データに基づく映像を出力することになるからである。例えば図6を用いて説明した様に、1つのブロックを構成するデータの受信に10秒を要するとすると、データの受信を開始してから映像が出力されるまで10秒以上を要することになる。特に多チャンネル化が進み、出力させる映像を次々と切り替える、所謂ザッピングを行う場合、データの受信を開始してから出力されるまでの時間は、視聴者に対してストレスを与えることになる。   However, the larger the block size that is the unit of loss compensation encoding, the longer the time from the start of receiving the loss compensation encoded video data to the start of video output based on the received video data. There is a problem. When receiving video data encoded with missing compensation, after completing reception of one block, after performing loss compensation processing based on the missing compensation encoded data included in the received block, the video based on the video data is displayed. It is because it will output. For example, as described with reference to FIG. 6, if it takes 10 seconds to receive the data constituting one block, it takes 10 seconds or more from the start of data reception until the video is output. . In particular, when so-called zapping is performed in which the number of channels is increased and the output video is switched one after another, the time from the start of data reception to the output is stressed to the viewer.

なお欠損補償符号を付加しない映像データを送信する様にした場合、受信側の装置は、1つのブロックを構成するデータの受信を待つ必要が無いので、映像データの受信を開始してから速やかに映像データに基づく映像を出力することができるが、欠損箇所が補償されないため映像に乱れが発生し易く、映像品質が低下するという問題が発生する。   In addition, when transmitting video data to which no missing compensation code is added, the receiving device does not need to wait for the reception of data constituting one block, and therefore promptly after receiving video data. Although an image based on the image data can be output, the missing portion is not compensated, so that the image is likely to be distorted and the image quality is deteriorated.

本発明は斯かる事情に鑑みてなされたものであり、映像データ等の出力データに欠損補償データが付加された配信データを受信し出力する出力装置において、出力開始時には、配信データに含まれる出力データに基づく出力を行い、次いで欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を行うことにより、映像品質等の出力品質の低下を防止すると共に、速やかな出力が可能な出力方法、及び該出力方法を適用した出力装置の提供を目的とする。   The present invention has been made in view of such circumstances, and in an output device that receives and outputs distribution data in which loss compensation data is added to output data such as video data, an output included in the distribution data at the start of output. An output method capable of performing output based on data, and then performing output based on output data obtained by performing defect compensation processing based on defect compensation data, thereby preventing a reduction in output quality such as video quality and enabling prompt output And an output device to which the output method is applied.

第1発明に係る出力方法は、欠損箇所を補償する欠損補償データが出力データに付加された配信データを受信し、受信した配信データに係る出力データに基づく出力を行う出力方法において、出力開始時の出力として、配信データに含まれる出力データに基づく出力を行い、次いで、欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を行うことを特徴とする。   An output method according to a first aspect of the present invention is an output method for receiving distribution data in which loss compensation data for compensating for a missing portion is added to the output data, and performing output based on the output data related to the received distribution data. The output is based on the output data included in the distribution data, and then the output is based on the output data that has been subjected to the loss compensation processing based on the loss compensation data.

第2発明に係る出力装置は、欠損箇所を補償する欠損補償データが出力データに付加された配信データを受信し、受信した配信データに係る出力データに基づく出力を行う出力装置において、出力開始時の出力として、配信データに含まれる出力データに基づく出力を行う第1手段と、該第1手段による出力後、欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を行う第2手段とを備えることを特徴とする。   An output device according to a second aspect of the present invention is an output device that receives distribution data in which loss compensation data for compensating for a missing portion is added to the output data, and performs output based on the output data related to the received distribution data. First means for performing output based on the output data included in the distribution data, and second means for performing output based on the output data subjected to the loss compensation processing based on the loss compensation data after the output by the first means. It is characterized by providing.

第3発明に係る出力装置は、第2発明において、操作を受け付ける操作手段を更に備え、前記第2手段は、前記操作手段が受け付けた操作に基づいて、出力を開始する構成にしてあることを特徴とする。   The output device according to a third aspect of the invention is the output device according to the second aspect, further comprising operating means for accepting an operation, wherein the second means is configured to start output based on an operation accepted by the operating means. Features.

第4発明に係る出力装置は、第2発明又は第3発明において、前記第1手段による出力を開始後の時間を計時する計時手段を更に備え、前記第2手段は、前記計時手段が計時している時間が所定時間に達した場合に、出力を開始する構成にしてあることを特徴とする。   The output device according to a fourth aspect of the present invention is the second or third aspect of the present invention, further comprising time-counting means for timing the time after the start of the output by the first means, wherein the second means is time-measured by the time-measurement means. The output is started when the predetermined time reaches a predetermined time.

第5発明に係る出力装置は、第2発明乃至第4発明のいずれかにおいて、複数チャンネルの配信データを受信する様に構成してあり、出力に係る配信データを選択する選択手段を更に備え、前記第1手段は、前記選択手段が選択した配信データに係る出力開始時の出力として、配信データに含まれる出力データに基づく出力を行う構成にしてあることを特徴とする。   An output device according to a fifth invention is configured to receive distribution data of a plurality of channels in any one of the second invention to the fourth invention, further comprising a selection means for selecting the distribution data related to the output, The first means is configured to perform output based on output data included in the distribution data as an output at the time of starting output related to the distribution data selected by the selection means.

第6発明に係る出力装置は、第2発明乃至第5発明のいずれかにおいて、前記出力データは、映像データ及び/又は音声データに係るストリーミングデータであり、前記第1手段及び第2手段の出力は、映像及び/又は音声の出力であることを特徴とする。   The output device according to a sixth invention is the output device according to any one of the second invention to the fifth invention, wherein the output data is streaming data related to video data and / or audio data, and the output of the first means and the second means. Is an output of video and / or audio.

本発明では、出力開始時の出力として、配信データに含まれる出力データに基づく出力を行うことにより、欠損補償データが付加された一つのブロック分のデータの受信を待たずとも出力が開始されるので、配信データの受信を開始してから出力を行うまでの時間を短縮することが可能である。   In the present invention, the output based on the output data included in the distribution data is performed as the output at the start of output, so that the output is started without waiting for reception of data for one block to which the missing compensation data is added. Therefore, it is possible to shorten the time from the start of receiving the distribution data to the output.

また本発明では、所定の操作を受け付け後、配信データに基づく出力の開始から所定時間経過後等の所定の条件を満足した場合に、欠損補償処理を行った上で出力を行うので、映像品質等の出力品質の低下を防止することが可能である。   Also, in the present invention, when a predetermined condition is satisfied after a predetermined operation is received and a predetermined time elapses after the start of output based on distribution data, the output is performed after performing the loss compensation processing, so that the video quality It is possible to prevent the output quality from being degraded.

本発明に係る出力方法及び出力装置は、映像データ、音声データ等の出力データにブロック単位で欠損箇所を補償する欠損補償データを付加した配信データを生成し、生成した配信データをストリーミングデータとして配信する送信側の装置に対応する受信側の装置であり、配信されている配信データの受信並びに受信した配信データに係る出力データに基づく映像及び音声の出力を行う出力装置に適用する。そして出力装置は、出力開始時の出力として、配信データに含まれている出力データに基づく出力を行い、所定の操作を受け付け後、配信データに基づく出力の開始から所定時間経過後等の所定の条件を満足した場合に、欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を行う。   The output method and output device according to the present invention generates distribution data in which loss compensation data for compensating for a missing portion in block units is added to output data such as video data and audio data, and distributes the generated distribution data as streaming data The present invention is applied to an output device that receives received distribution data and outputs video and audio based on output data related to the received distribution data. Then, the output device performs output based on the output data included in the distribution data as an output at the start of output, and after receiving a predetermined operation, after a predetermined time has elapsed from the start of the output based on the distribution data When the condition is satisfied, output based on the output data that has been subjected to the loss compensation processing based on the loss compensation data is performed.

この様に構成される本発明は、出力開始時には、配信データに含まれる出力データに基づく出力を行うことにより、欠損補償データが付加された一つのブロック分のデータの受信を待たずとも出力が開始されるので、配信データの受信を開始してから出力を行うまでの時間を短縮することが可能である等、優れた効果を奏する。   In the present invention configured as described above, at the start of output, the output is performed based on the output data included in the distribution data, so that the output can be performed without waiting for the reception of data for one block to which the loss compensation data is added. Since it is started, it is possible to shorten the time from the start of receiving the distribution data until the output is performed.

また本発明は、所定の条件を満足後、欠損補償処理を行った上で映像及び音声を出力するので、映像の乱れ等の出力異常が発生し難く、映像品質等の出力品質の低下を防止することが可能である等、優れた効果を奏する。   In addition, since the present invention outputs video and audio after performing defect compensation processing after satisfying a predetermined condition, it is difficult for output abnormalities such as video disturbance to occur and prevents deterioration of output quality such as video quality. It has an excellent effect such as being able to do so.

なお本発明において、欠陥補償処理を行わずに出力していた状態から、欠陥補償処理を行うように切り替えた直後、欠陥補償処理に伴う遅延により、一時的に同じ映像が再出力される可能性があるが、出力を継続する場合、切り替え直後の一時的な映像の再出力は、視聴者に対して大きなストレスを与えることはなく大きな問題とはならない。   In the present invention, there is a possibility that the same video is temporarily output again due to a delay associated with the defect compensation process immediately after switching from performing the defect compensation process to performing the defect compensation process. However, when the output is continued, the temporary re-output of the video immediately after the switching does not give a great stress to the viewer and does not become a big problem.

さらに本発明は、複数チャンネルの配信データを受信し、受信した複数チャンネルの配信データの中から出力させる配信データを選択する場合、特に出力に係るチャンネルを次々と切り替える、所謂ザッピングを行う場合、配信データを選択してから映像及び音声を出力されるまでの時間が短いので、視聴者に対してストレスを与えることがないという優れた効果を奏する。なお出力の開始時には、欠陥補償処理が行われないので、例えば映像の乱れが発生する虞があるが、ザッピング時における多少の映像の乱れは、視聴者に対して大きなストレスを与えることはなく大した問題とはならない。   Further, the present invention receives distribution data of a plurality of channels, selects distribution data to be output from the received distribution data of the plurality of channels, particularly when performing so-called zapping, which switches the channels related to output one after another. Since the time from the selection of data to the output of video and audio is short, there is an excellent effect that the viewer is not stressed. Since defect compensation processing is not performed at the start of output, for example, there is a risk of image disturbance. However, slight image disturbance during zapping does not cause significant stress on the viewer. It will not be a problem.

以下、本発明をその実施の形態を示す図面に基づいて詳述する。図1は、本発明の出力方法を適用した映像配信システムの一例を概念的に示す説明図である。図1中1は、無線通信により受信する映像データ及び音声データに基づく映像及び音声を出力する携帯電話等の出力装置である。出力装置1が受信する映像データ及び音声データは、サーバコンピュータ等の生成装置2にて欠損補償符号化された配信データとして生成され、無線基地局を介してストリーミング配信される。なおストリーミング配信される配信データには、チャンネルが割り当てられており、出力装置1は、複数チャンネルの中から選択した一のチャンネルの配信データに係る映像データ及び音声データに基づく映像及び音声を出力する。但し、夫々のチャンネルの配信データは、一の生成装置2にて生成され配信されても、また複数の生成装置2にて夫々生成され配信されても良い。   Hereinafter, the present invention will be described in detail with reference to the drawings illustrating embodiments thereof. FIG. 1 is an explanatory diagram conceptually showing an example of a video distribution system to which the output method of the present invention is applied. 1, reference numeral 1 denotes an output device such as a mobile phone that outputs video and audio based on video data and audio data received by wireless communication. Video data and audio data received by the output device 1 are generated as distribution data subjected to loss compensation coding by a generation device 2 such as a server computer, and are streamed via a wireless base station. Note that channels are assigned to distribution data to be distributed by streaming, and the output device 1 outputs video and audio based on video data and audio data related to distribution data of one channel selected from a plurality of channels. . However, the distribution data of each channel may be generated and distributed by one generation device 2, or may be generated and distributed by a plurality of generation devices 2, respectively.

図2は、本発明の出力方法を適用した映像配信システムの構成例を示すブロック図である。携帯電話を用いた出力装置1は、各種通信処理、音声入出力処理、画像表示処理等の各種処理を制御するCPU(Central Processing Unit) 等の制御手段101と、コンピュータプログラム及びデータ等の各種情報を記録するROM(Read Only Memory)、RAM(Random Access Memory)等の記録手段102とを備えている。   FIG. 2 is a block diagram showing a configuration example of a video distribution system to which the output method of the present invention is applied. The output device 1 using a mobile phone includes a control means 101 such as a CPU (Central Processing Unit) for controlling various processes such as various communication processes, voice input / output processes, and image display processes, and various information such as computer programs and data. Recording means 102 such as a ROM (Read Only Memory) and a RAM (Random Access Memory).

また出力装置1は、電話通信、ストリーミング配信される配信データの受信等の通信を行うアンテナ及び通信制御回路等の通信手段103と、通信手段103が受信した複数チャンネルの配信データの中から出力させるチャンネルに係る配信データを選択する選択手段104とを備えている。なお当実施の形態では、電話通信及び配信データの受信で、通信手段103を共有する形態を示しているが、夫々の通信毎に通信手段103を設ける様にしても良い。   Further, the output device 1 outputs the communication means 103 such as an antenna and a communication control circuit for performing communication such as reception of distribution data distributed by telephone and streaming, and the distribution data of the plurality of channels received by the communication means 103. Selecting means 104 for selecting distribution data relating to the channel. In this embodiment, the communication unit 103 is shared by telephone communication and distribution data reception. However, the communication unit 103 may be provided for each communication.

さらに出力装置1は、受信した欠損補償符号化された配信データを一時的に記録するキャッシュメモリを有し、キャッシュメモリに記録した配信データに対して欠損を補償する処理を実行する集積回路等の欠損補償復号手段105と、配信データが映像データ及び音声データの原データをMPEG(Motion Picture Expert Group) 等の符号化形式にて圧縮符号化されたデータである場合に、伸長復号して映像データ及び音声データの原データを生成する集積回路等の伸長復号手段106とを備えている。なお欠損補償復号手段105及び伸長復号手段106として集積回路を実装するのではなく、記録手段102に記録したコンピュータプログラムを実行することにより、欠損を補償する処理を実行する様にしても良い。   Further, the output device 1 has a cache memory that temporarily records the received loss compensation encoded delivery data, such as an integrated circuit that performs processing for compensating for the loss of the delivery data recorded in the cache memory. When the loss compensation decoding means 105 and the distribution data are data obtained by compressing and encoding the original data of video data and audio data in an encoding format such as MPEG (Motion Picture Expert Group), the video data is decompressed and decoded. And decompression decoding means 106 such as an integrated circuit for generating the original data of the audio data. Instead of mounting an integrated circuit as the loss compensation decoding means 105 and the decompression decoding means 106, the processing for compensating for the loss may be executed by executing a computer program recorded in the recording means 102.

さらに出力装置1は、マイク及び音声処理回路等の音声入力手段107と、スピーカ及び音声処理回路等の音声出力手段108と、英数字及び各種命令等のキー入力を受け付ける押釦等の操作手段109と、キー入力された情報及び送受信する情報等の各種情報を表示する液晶ディスプレイ等の表示手段110と、時計及びタイマ回路等の計時手段111とを備えている。なお操作手段109としては、配信データに基づく映像及び音声の視聴の開始及びチャンネルの選択を行う選択釦109a、欠損の補償処理を開始させる欠損補償処理開始釦109b等の押釦が配設されている。   Furthermore, the output device 1 includes a voice input unit 107 such as a microphone and a voice processing circuit, a voice output unit 108 such as a speaker and a voice processing circuit, and an operation unit 109 such as a push button that accepts key inputs such as alphanumeric characters and various commands. , A display means 110 such as a liquid crystal display for displaying various information such as key input information and information to be transmitted and received, and a time measuring means 111 such as a clock and a timer circuit. As the operation means 109, push buttons such as a selection button 109a for starting video and audio viewing based on distribution data and selecting a channel, and a loss compensation processing start button 109b for starting loss compensation processing are arranged. .

生成装置2は、装置全体を制御するCPU等の制御手段21と、配信する映像データ及び音声データの原データを記録するハードディスク等の記録手段22と、記録手段22に記録されている映像データ及び音声データの原データをMPEG等の符号化形式にて圧縮符号化する圧縮符号化手段23と、圧縮符号化手段23により圧縮符号化された映像データ及び音声データ(出力データ)をブロック単位に分割して欠損を補償する欠損補償データを付加した配信データを生成する欠損補償符号化手段24と、基地局を介して配信データを配信する通信手段25とを備えている。なお本発明の出力方法を、コンサート、市街地等の撮像対象を撮像しライブ配信する映像配信システムに適用する場合、記録手段22に映像データ及び音声データを予め記録しておくのではなく、カメラ等の撮像手段を用いた撮像により映像データ及び音声データを生成し、生成した映像データ及び音声データを圧縮符号化及び欠損補償符号化して配信データを生成する様にしても良い。また予め圧縮符号化した映像データ及び音声データを記録手段22に記録する様にしても良く、その場合、圧縮符号化手段23は不要となる。また生成装置2から出力装置1へ配信データを配信する速度が十分に高い場合、圧縮符号化せずに映像データ及び音声データの原データを配信する様にしても良い。   The generation device 2 includes a control unit 21 such as a CPU that controls the entire apparatus, a recording unit 22 such as a hard disk that records original data of video data and audio data to be distributed, video data recorded in the recording unit 22, and Compression encoding means 23 that compresses and encodes original data of audio data in an encoding format such as MPEG, and video data and audio data (output data) compressed and encoded by the compression encoding means 23 are divided into blocks. And loss compensation encoding means 24 for generating delivery data to which loss compensation data for compensating for the loss is added, and communication means 25 for delivering the delivery data via the base station. Note that when the output method of the present invention is applied to a video distribution system for capturing an image of an imaging target such as a concert or an urban area and distributing it live, video data and audio data are not recorded in the recording unit 22 in advance, but a camera or the like. Video data and audio data may be generated by imaging using the imaging unit, and the generated video data and audio data may be compression encoded and loss compensation encoded to generate distribution data. In addition, video data and audio data that have been compression-encoded in advance may be recorded in the recording unit 22, and in that case, the compression-encoding unit 23 is unnecessary. Further, when the distribution data is distributed from the generation device 2 to the output device 1 at a sufficiently high speed, the original data of video data and audio data may be distributed without compression encoding.

次に生成装置2から配信される配信データについて説明する。図3は、本発明の出力方法を適用した映像配信システムにて用いられる生成装置2から配信される配信データの一例を概念的に示す説明図である。図3中、1、2、…、10、…、20、…等の数字を付したデータは、所定のデータ長に区切られた出力データである映像データ及び音声データを示しており、R1、R2、…等の符号を付したデータは、欠損補償符号化手段24にて付加された欠損補償データを示している。そして図3に示すデータは、1、2、…、10、R1、11、…、20、R2、21、…の順に配信される。欠損補償データは、所定のデータ長に区切られた所定個のデータに対して排他的論理和の関係にあるデータであり、所定個のデータに欠損補償データを付加することにより、第1ブロック、第2ブロック、…として示す欠損の補償処理の単位となるブロックを構成する。図3に示す例では、所定のデータ長に区切られた10個の映像データ及び音声データに対して1個の欠損補償データを付加することで1つのブロックを構成している。   Next, distribution data distributed from the generation device 2 will be described. FIG. 3 is an explanatory diagram conceptually showing an example of distribution data distributed from the generation device 2 used in the video distribution system to which the output method of the present invention is applied. In FIG. 3, data with numbers such as 1, 2,..., 10,..., 20, etc. indicate video data and audio data which are output data divided into predetermined data lengths. Data with symbols such as R 2,... Indicate missing compensation data added by the missing compensation encoding means 24. The data shown in FIG. 3 is distributed in the order of 1, 2,..., 10, R1, 11,. The missing compensation data is data that is in an exclusive OR relationship with a predetermined number of data divided by a predetermined data length. By adding missing compensation data to the predetermined number of data, the first block, A block serving as a unit of defect compensation processing shown as a second block,. In the example shown in FIG. 3, one block is configured by adding one deficiency compensation data to 10 video data and audio data divided into predetermined data lengths.

また欠損補償データを付加する欠損補償符号化により生成された配信データは、ブロックよりデータ長が小さい送信単位であるパケット単位で生成装置2から配信される。なお各パケットには、配信データのチャンネルを示す符号がヘッダ情報として示されている。   Also, the distribution data generated by the loss compensation encoding to which the loss compensation data is added is distributed from the generation device 2 in packet units, which are transmission units having a data length smaller than that of the block. In each packet, a code indicating a channel of distribution data is shown as header information.

次に本発明の出力方法を適用した映像配信システムに用いられる各種装置の処理について説明する。図4は、本発明の出力装置1の出力処理を示すフローチャートである。出力装置1から出力される映像及び音声を視聴する視聴者は、出力装置1を操作して、配信データを受信し、映像及び音声を出力させる操作を行い、更に視聴するチャンネルを選択する。出力装置1は、制御手段101の制御により、選択釦109aから視聴の開始及びチャンネルの選択を行う操作を受け付け(ステップS1)、通信手段103にて配信データを受信し(ステップS2)、受信した配信データの中から選択されたチャンネルの配信データを、選択手段104にて選択し(ステップS3)、選択された配信データを欠損補償復号手段105が有するキャッシュメモリに記録する(ステップS4)。ステップS3におけるチャンネルの選択は、配信データの受信開始時又はチャンネルの切替時に行われる。   Next, processing of various devices used in a video distribution system to which the output method of the present invention is applied will be described. FIG. 4 is a flowchart showing the output process of the output device 1 of the present invention. A viewer who views video and audio output from the output device 1 operates the output device 1 to receive distribution data, output video and audio, and select a channel to be viewed. The output device 1 receives an operation for starting viewing and selecting a channel from the selection button 109a under the control of the control unit 101 (step S1), receives the distribution data at the communication unit 103 (step S2), and receives it. The distribution data of the channel selected from the distribution data is selected by the selection means 104 (step S3), and the selected distribution data is recorded in the cache memory of the loss compensation decoding means 105 (step S4). The channel selection in step S3 is performed at the start of receiving distribution data or when switching channels.

そして出力装置1は、制御手段101の制御により、記録した配信データに含まれる出力データである映像データ及び音声データを抽出し(ステップS5)、抽出した映像データ及び音声データに基づいて、表示手段110及び音声出力手段108から映像及び音声の出力を開始する(ステップS6)。なお抽出した出力データである映像データ及び音声データが、圧縮符号化されたデータである場合、伸長復号手段106にて伸長復号した上で映像及び音声を出力する。本発明の出力装置1は、ステップS5〜S6に示す様に、選択された配信データの出力開始時の処理として、配信データに含まれる出力データに基づく出力を行う。   Then, the output device 1 extracts video data and audio data, which are output data included in the recorded distribution data, under the control of the control unit 101 (step S5), and based on the extracted video data and audio data, the display unit 110 and the audio output means 108 start outputting video and audio (step S6). When the video data and audio data that are the extracted output data are compression-encoded data, the video and audio are output after being decompressed and decoded by the decompression decoding means 106. As shown in steps S5 to S6, the output device 1 of the present invention performs output based on the output data included in the distribution data as a process at the time of starting the output of the selected distribution data.

ステップS5〜S6にて示した処理により、映像及び音声の出力を開始した出力装置1は、計時手段111にて、出力を開始してからの時間を計時しており、計時手段111が計時している出力開始後の時間が所定時間に達した場合、計時手段111は欠損補償処理を開始させる割込命令を発生させる。また計時手段111が計時している出力開始後の時間が所定時間に達していない場合であっても欠損補償処理開始釦109bから欠損補償処理を開始させる操作を受け付けたとき、欠損補償処理開始釦109bは欠損補償処理を開始させる割込命令を発生させる。   The output device 1 that has started outputting video and audio by the processing shown in steps S5 to S6 uses the time measuring means 111 to measure the time since the start of the output, and the time measuring means 111 measures the time. When the time after the start of output reaches a predetermined time, the time measuring means 111 generates an interrupt command for starting the loss compensation processing. Further, when the operation for starting the defect compensation process is received from the defect compensation process start button 109b even when the time after the start of output timed by the time measuring means 111 has not reached the predetermined time, the defect compensation process start button is received. 109b generates an interrupt instruction for starting the loss compensation process.

出力装置1は、制御手段101にて、欠損補償処理を開始させる割込命令の発生の有無を検出し続けており(ステップS7)、割込命令の発生を検出した場合(ステップS7:YES)、欠損補償復号手段105により、キャッシュメモリに記録した配信データに含まれる欠損補償データに基づいて、出力データである映像データ及び音声データの欠損補償処理を行い(ステップS8)、欠損補償処理を行った映像データ及び音声データに基づいて、表示手段110及び音声出力手段108から映像及び音声の出力を開始する(ステップS9)。ステップS8〜S9にて欠損補償処理を行った映像データ及び音声データに基づく映像及び音声の出力を開始する時、ステップS5〜S6の欠損補償処理を行わない映像及び音声の出力は停止される。また欠損補償処理を行った出力データである映像データ及び音声データが、圧縮符号化されたデータである場合、伸長復号手段106にて伸長復号した上で映像及び音声を出力する。本発明の出力装置1は、ステップS7〜S9に示す様に、配信データに含まれる出力データに基づく出力を開始後、欠損補償処理を開始させる割込命令の発生を検出した場合、欠損補償処理を行った出力データに基づく出力を行う。   The output device 1 continues to detect whether or not the interrupt instruction for starting the loss compensation processing is generated in the control unit 101 (step S7), and when the generation of the interrupt instruction is detected (step S7: YES). Then, the loss compensation decoding means 105 performs loss compensation processing of video data and audio data as output data based on the loss compensation data included in the distribution data recorded in the cache memory (step S8), and performs the loss compensation processing. Based on the recorded video data and audio data, output of video and audio is started from the display means 110 and the audio output means 108 (step S9). When the output of video and audio based on the video data and audio data that have been subjected to the loss compensation processing in steps S8 to S9 is started, the output of video and audio that is not subjected to the loss compensation processing in steps S5 to S6 is stopped. When the video data and audio data that are output data subjected to the loss compensation process are compression-encoded data, the video data and audio are output after being decompressed by the decompression decoding means 106. As shown in steps S7 to S9, the output device 1 according to the present invention detects the occurrence of an interrupt instruction for starting a loss compensation process after starting output based on the output data included in the distribution data. Perform output based on the output data.

なお図4を用いて説明した出力処理中に、再度チャンネルの操作を受け付けた場合、受け付けた操作に基づいて、出力処理を再スタートする割込命令を発生させ、ステップS1に戻り、以降の処理を繰り返す。即ち出力に係るチャンネルを次々と切り替える、所謂ザッピングと呼ばれる操作を受け付けた場合、チャンネルが切り替えられる都度、ステップS1からの処理を繰り返すことになる。   Note that, when an operation for a channel is received again during the output process described with reference to FIG. 4, an interrupt instruction for restarting the output process is generated based on the received operation, and the process returns to step S <b> 1 to perform the subsequent processes. repeat. That is, when an operation called so-called zapping, in which channels for output are switched one after another, is accepted, the processing from step S1 is repeated every time the channel is switched.

図5は、本発明の出力装置1が受信した配信データの一例を概念的に示す説明図である。図5中、1、2、…、10、…、20、…等の数字を付したデータは、所定のデータ長に区切られた出力データである映像データ及び音声データを示しており、R1、R2、…等の符号を付したデータは、欠損補償データを示している。そして出力装置1は、図5に示すデータを、1、2、…、10、R1、11、…、20、R2、21、…の順に受信する。欠損補償データは、所定のデータ長に区切られた所定個のデータに対して排他的論理和の関係にあるデータであり、所定個のデータに欠損補償データを付加することにより、第1ブロック、第2ブロック、…として示す欠損の補償処理の単位となるブロックを構成する。出力装置1は、出力データ及び欠損補償データにて構成される配信データを受信し記録すると、ステップS5〜S6の処理により、第1ブロックを形成する全てのデータを受信していなくとも、図5に1、2、…として示す出力データを抽出し、抽出した出力データに基づく出力を開始する。ステップS5〜S6の処理による出力を開始する時点において、R1として示す欠損補償データを受信しておらず、第1ブロックを形成する全てのデータを受信していない場合であっても、1、2、…として示す出力データを受信していれば、出力装置1は、欠損の補償処理を行うことはできないが、出力データに基づく出力を開始することができる。   FIG. 5 is an explanatory diagram conceptually showing an example of distribution data received by the output device 1 of the present invention. In FIG. 5, data with numbers such as 1, 2,..., 10,..., 20, etc. indicate video data and audio data that are output data divided into predetermined data lengths. Data with symbols such as R2,... Indicate missing compensation data. Then, the output device 1 receives the data shown in FIG. 5 in the order of 1, 2,..., 10, R1, 11, ..., 20, R2, 21,. The missing compensation data is data that is in an exclusive OR relationship with a predetermined number of data divided by a predetermined data length. By adding missing compensation data to the predetermined number of data, the first block, A block serving as a unit of defect compensation processing shown as a second block,. When the output device 1 receives and records the distribution data composed of the output data and the loss compensation data, the processing of steps S5 to S6 does not require receiving all the data forming the first block. , 1,... Are extracted, and output based on the extracted output data is started. Even when the loss compensation data indicated as R1 has not been received and all the data forming the first block has not been received at the time when output by the processing of steps S5 to S6 is started, If the output data indicated as... Is received, the output device 1 cannot perform the loss compensation process, but can start output based on the output data.

また欠損補償処理を開始する時点において、出力装置1が、第3ブロックに属する22として示される出力データまで配信データを受信し記録している場合、ステップS8〜S9の処理により、先ず第2ブロックに属する11〜20の数字を付した出力データ及びR2の符号を付した欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を開始する。従ってこの時点で、第2ブロックに属する11〜20の数字を付した出力データに基づく出力処理を開始している場合、同じ映像及び音声が出力されることになるが、一時的なものであり、これにより視聴者が大きなストレスを感じることはないと考えられる。なお欠損補償処理を開始する時点において、出力装置1が、第1ブロックに属する2として示される出力データまで配信データを受信し記録している場合、R1の符号を付した欠損補償データを受信するまで、ステップS5〜S6の処理により出力を開始する。   When the output device 1 has received and recorded the distribution data up to the output data indicated as 22 belonging to the third block at the time of starting the loss compensation processing, first, the second block is processed by the processing of steps S8 to S9. The output based on the output data to which the loss compensation processing based on the output data having the numbers 11 to 20 and the missing compensation data having the symbol R2 is applied is started. Therefore, at this time, if the output process based on the output data with the numbers 11 to 20 belonging to the second block is started, the same video and audio will be output, but this is temporary. Therefore, it is considered that viewers do not feel great stress. When the output device 1 has received and recorded the distribution data up to the output data indicated as 2 belonging to the first block at the time of starting the loss compensation processing, it receives the loss compensation data labeled with R1. Until this time, output is started by the processing of steps S5 to S6.

前記実施の形態では、映像データ及び音声データをストリーミング配信するシステムに適用する形態を示したが、本発明はこれに限らず、映像データ又は音声データを配信するシステムに適用する等、様々な形態に展開することが可能である。   In the above-described embodiment, the form applied to the system that distributes video data and audio data by streaming is shown. However, the present invention is not limited to this, and various forms such as application to a system that distributes video data or audio data. It is possible to expand to.

また前記実施の形態では、携帯電話を出力装置として用いる形態を示したが、本発明はこれに限らず、携帯電話以外の通信装置であっても良く、また有線のネットワークを介して映像データ及び音声データを配信する等、様々な形態に展開することが可能である。   In the above embodiment, a mobile phone is used as an output device. However, the present invention is not limited to this, and a communication device other than a mobile phone may be used. It is possible to develop various forms such as distributing audio data.

本発明の出力方法を適用した映像配信システムの一例を概念的に示す説明図である。It is explanatory drawing which shows notionally an example of the video delivery system to which the output method of this invention is applied. 本発明の出力方法を適用した映像配信システムの構成例を示すブロック図である。It is a block diagram which shows the structural example of the video delivery system to which the output method of this invention is applied. 本発明の出力方法を適用した映像配信システムにて用いられる生成装置から配信される配信データの一例を概念的に示す説明図である。It is explanatory drawing which shows notionally an example of the delivery data delivered from the production | generation apparatus used with the video delivery system to which the output method of this invention is applied. 本発明の出力装置の出力処理を示すフローチャートである。It is a flowchart which shows the output process of the output device of this invention. 本発明の出力装置が受信した配信データの一例を概念的に示す説明図である。It is explanatory drawing which shows notionally an example of the delivery data which the output device of this invention received. 欠損補償符号化を行ったデータの一例を概念的に示す説明図である。It is explanatory drawing which shows notionally an example of the data which performed loss compensation encoding.

符号の説明Explanation of symbols

1 出力装置
104 選択手段
105 欠損補償復号手段
108 音声出力手段
109 操作手段
109a 選択釦
109b 欠損補償処理開始釦
110 表示手段
111 計時手段
2 生成装置
24 欠損補償符号化手段
DESCRIPTION OF SYMBOLS 1 Output device 104 Selection means 105 Missing compensation decoding means 108 Audio | voice output means 109 Operation means 109a Selection button 109b Missing compensation process start button 110 Display means 111 Time measuring means 2 Generation apparatus 24 Missing compensation encoding means

Claims (6)

欠損箇所を補償する欠損補償データが出力データに付加された配信データを受信し、受信した配信データに係る出力データに基づく出力を行う出力方法において、
出力開始時の出力として、配信データに含まれる出力データに基づく出力を行い、
次いで、欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を行う
ことを特徴とする出力方法。
In the output method of receiving the distribution data in which the defect compensation data for compensating for the missing portion is added to the output data, and performing the output based on the output data related to the received distribution data,
As output at the start of output, output based on the output data included in the distribution data,
Next, an output method comprising: performing output based on output data obtained by performing defect compensation processing based on defect compensation data.
欠損箇所を補償する欠損補償データが出力データに付加された配信データを受信し、受信した配信データに係る出力データに基づく出力を行う出力装置において、
出力開始時の出力として、配信データに含まれる出力データに基づく出力を行う第1手段と、
該第1手段による出力後、欠損補償データに基づく欠損補償処理を行った出力データに基づく出力を行う第2手段と
を備えることを特徴とする出力装置。
In an output device that receives distribution data in which defect compensation data that compensates for a missing portion is added to output data and performs output based on output data related to the received distribution data,
A first means for performing output based on output data included in the distribution data as an output at the start of output;
An output device comprising: second means for performing output based on output data obtained by performing defect compensation processing based on defect compensation data after output by the first means.
操作を受け付ける操作手段を更に備え、
前記第2手段は、前記操作手段が受け付けた操作に基づいて、出力を開始する構成にしてある
ことを特徴とする請求項2に記載の出力装置。
An operation means for receiving an operation;
The output device according to claim 2, wherein the second means is configured to start output based on an operation received by the operation means.
前記第1手段による出力を開始後の時間を計時する計時手段を更に備え、
前記第2手段は、前記計時手段が計時している時間が所定時間に達した場合に、出力を開始する構成にしてある
ことを特徴とする請求項2又は請求項3に記載の出力装置。
Further comprising time measuring means for measuring the time after starting the output by the first means,
4. The output device according to claim 2, wherein the second means is configured to start output when the time measured by the time measuring means reaches a predetermined time. 5.
複数チャンネルの配信データを受信する様に構成してあり、
出力に係る配信データを選択する選択手段を更に備え、
前記第1手段は、前記選択手段が選択した配信データに係る出力開始時の出力として、配信データに含まれる出力データに基づく出力を行う構成にしてある
ことを特徴とする請求項2乃至請求項4のいずれかに記載の出力装置。
It is configured to receive multi-channel distribution data,
Further comprising a selection means for selecting distribution data relating to the output;
The first means is configured to perform output based on output data included in the distribution data as an output at the start of output related to the distribution data selected by the selection means. 5. The output device according to any one of 4.
前記出力データは、映像データ及び/又は音声データに係るストリーミングデータであり、
前記第1手段及び第2手段の出力は、映像及び/又は音声の出力である
ことを特徴とする請求項2乃至請求項5のいずれかに記載の出力装置。
The output data is streaming data related to video data and / or audio data,
The output device according to any one of claims 2 to 5, wherein the outputs of the first means and the second means are video and / or audio outputs.
JP2005179490A 2005-06-20 2005-06-20 Output method and output device Expired - Fee Related JP4089708B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005179490A JP4089708B2 (en) 2005-06-20 2005-06-20 Output method and output device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005179490A JP4089708B2 (en) 2005-06-20 2005-06-20 Output method and output device

Publications (2)

Publication Number Publication Date
JP2006352783A true JP2006352783A (en) 2006-12-28
JP4089708B2 JP4089708B2 (en) 2008-05-28

Family

ID=37648089

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005179490A Expired - Fee Related JP4089708B2 (en) 2005-06-20 2005-06-20 Output method and output device

Country Status (1)

Country Link
JP (1) JP4089708B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011503947A (en) * 2007-11-07 2011-01-27 トムソン ライセンシング FEC encoding and decoding method and apparatus

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011503947A (en) * 2007-11-07 2011-01-27 トムソン ライセンシング FEC encoding and decoding method and apparatus
US8832519B2 (en) 2007-11-07 2014-09-09 Thomson Licensing Method and apparatus for FEC encoding and decoding

Also Published As

Publication number Publication date
JP4089708B2 (en) 2008-05-28

Similar Documents

Publication Publication Date Title
JP4637585B2 (en) Mosaic program guide generation device and mosaic program guide generation method
JP2011050067A (en) Image converter, image reproducer, image conversion/reproduction system, and program
JP5605572B2 (en) Display device, communication device, display method, and program recording medium
JP2008211361A (en) Radio communication method and reception device
JP2006310977A (en) Channel switching support apparatus, output signal switching method, and channel switching support program
US8115872B2 (en) Method of capturing digital broadcast images in a digital broadcast receiving terminal
JP4089708B2 (en) Output method and output device
JP2005333593A (en) Digital broadcast receiver
US20090141792A1 (en) Image processing apparatus, mobile wireless terminal apparatus, and image display method
JP5263967B2 (en) Movie stream processing apparatus and movie stream processing program
JP4570391B2 (en) Broadcast receiving / recording / reproducing device
JPH07327228A (en) Digital encoding and transmission system
JP2004297643A (en) Signal processing apparatus and its control method
KR20050090463A (en) Method and apparatus for preventing error propagation in a video sequence
JP2007281805A (en) Digital broadcasting receiver, digital broadcasting receiving method, and program
JP4762340B2 (en) Signal processing apparatus and signal processing method
JP2011061287A (en) Communication control device, communication control method, and communication control program
JP2007074440A (en) Communication method, communication system, and transmitting apparatus
JP4325697B2 (en) Image processing system, image processing apparatus, image processing method, and program
JP2006352784A (en) Transmission method, receiver and computer program
JP2007043576A (en) Communication method, communication system, and transmission device
JP2010187135A (en) Digital content receiver, digital content reception method, and program
JP4949505B2 (en) Broadcast receiving / recording / reproducing device
JPH11252520A (en) Receiver, transmitter and broadcast system
JP2006217087A (en) Communication method and apparatus thereof

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070814

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080218

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110307

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees