JP5075536B2 - Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム - Google Patents

Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム Download PDF

Info

Publication number
JP5075536B2
JP5075536B2 JP2007227922A JP2007227922A JP5075536B2 JP 5075536 B2 JP5075536 B2 JP 5075536B2 JP 2007227922 A JP2007227922 A JP 2007227922A JP 2007227922 A JP2007227922 A JP 2007227922A JP 5075536 B2 JP5075536 B2 JP 5075536B2
Authority
JP
Japan
Prior art keywords
fec
packet
media
packets
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007227922A
Other languages
English (en)
Other versions
JP2009060513A (ja
Inventor
藤 俊 一 権
江 祐 司 入
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2007227922A priority Critical patent/JP5075536B2/ja
Priority to US12/198,534 priority patent/US8266492B2/en
Priority to EP08163509.6A priority patent/EP2031787A3/en
Priority to CN2008102150205A priority patent/CN101383679B/zh
Publication of JP2009060513A publication Critical patent/JP2009060513A/ja
Application granted granted Critical
Publication of JP5075536B2 publication Critical patent/JP5075536B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L1/004Arrangements for detecting or preventing errors in the information received by using forward error control
    • H04L1/0041Arrangements at the transmitter end
    • H04L1/0042Encoding specially adapted to other signal generation operation, e.g. in order to reduce transmit distortions, jitter, or to improve signal shape

Description

本発明は、FEC送信処理装置、ならびにFEC送信処理のための方法およびプログラムに関する。
RTP(Real−time Transport Protocol:リアルタイムトランスポートプロトコル)は、伝送するデータパケットについて、順序や処理タイミングなどの付加情報を併記することが可能な伝送プロトコルである。受信側で付加情報に基づき受信処理を実行することにより、受信したデータパケット(メディアパケット)は、伝送中に受ける擾乱の影響に関わらず、送信時と同一の状態を再現されたものとなる。ただし、RTPでは、順序の入れ替えや伝送間隔の揺らぎを回復することは可能であるが、損失については検出のみ可能であり回復することはできない。
動画や音声などのリアルタイム・ストリーミングでは、データの損失が動画や音声の再生品質を劣化させる要因となるため、適切に回復措置を講じることが望ましい。このための手法で一般的なものとして、再送を用いるものと誤り訂正符号を用いるものがある。
最も単純な回復措置として、欠損パケットが生じた場合に再送を要求する手法があるが、リアルタイム・ストリーミング伝送での適用は必ずしも適さない。この原因として、上位アプリに対するデータの配送を一定とするため再送データを受信するまでにその前後のデータを滞留させる必要があり、伝搬時間が長ければ大きな遅延が生ずることや、欠損が生じる伝送路では再送データすらも確実に受信できる保証がないことがある。また、放送型の伝送など単一方向の通信である場合など、受信側のフィードバックが不能ならば、そもそも再送を要求することができない。
一方、誤り訂正符号を用いる手法があり、実用的なものとしてFEC(Forward Error Correction:前方向誤り訂正)符号化伝送による回復措置が知られている。FECでは、元データをグループ化し、予め決められた手法で演算して各グループ(演算単位)に対する冗長データ生成し、FECパケットに冗長データを格納して元データと並列に伝送する。受信側では、各グループ内で一部の元データが欠損した場合に、残りの元データと対応する冗長データから予め決められた手法で演算し、欠損した元データを回復することが可能となる。この場合、冗長データと元データがほとんど遅滞なく伝送されるため受信側では即時に回復が可能となり、処理にかかる遅延は再送と比べて小さくなる。
従来、RTPに適用する一般的なFEC方式として、RFC2733で規定された方式がある。また、この方式を映像伝送向けに改善したPro−MPEGフォーラムで規定された方式がある(非特許文献1)。これは、レートが低い場合には高々1つの欠損しか生じない程度の擾乱であっても、レートが高い場合に複数の連続した欠損が生ずることとなる現象を踏まえ、複数の連続した欠損に対する回復性能の向上を図ったものである。具体的には、複数のデータパケットをマトリクス上に整列させた後、各行列でグループ化してFEC符号化を実施し、各グループからそれぞれFECパケットを生成する。この場合、各行と列がFECの1つのグループ(演算単位)となるため、たとえば、ある横一行にわたって連続する欠損は複数の縦列グループの各々で高々1つの欠損として処理できる。
ここでPro−MPEGのFEC方式では、符号化ブロック(マトリクス)に対する複数のFECパケットの伝送を、次のマトリクスが伝送される範囲内で送出するものと規定している。つまり受信側では、FECパケットを受信するまでにマトリクス1つ分の待機遅延が必要となるが、この遅延時間はレートが高い場合に極めて小さなものとなり、他の方式と比べれば問題とならない程度である。また、データパケットとFECパケットの伝送ずれにより伝送中の擾乱で両者を同時に欠損することの回避を期待できる上、データパケットの滞留なく送出時の符号化を実施可能となるため遅延が発生しないこと、FECパケットの伝送レートを一定に平滑化しやすくすること等の利点が大きい。FECパケットの送出範囲が守られなければ、FECパケットの伝送レートが一時的でも想定よりも増大し、帯域予約による制約を受けているネットワーク上での伝送に支障をきたしてしまう。この場合、予約帯域を超過したFECパケットは破棄されるか、強制的にレート低下されることで全体的に遅延する等の問題が発生し、受信装置で正常にFEC符号化処理が出来なくなってしまう。
このように、総合的に見れば合理的なFECパケットの送出規定であると言えるが、そもそもPro−MPEGのFEC方式では固定レート(CBR)のストリームのみを対象としており、変動レート(VBR)のストリームは対象としていなかった。よって、変動レート(VBR)のストリームにおいて、FECパケットの送出範囲とその伝送レート制限を同時に満たし効率的にマトリクスを形成するFEC方式は存在しなかった。
"Pro−MPEG Code of Practice #3 release 2", Pro−MPEG Forum, July 2004
本発明は、メディアパケットのレートが変動する場合においても、1つの符号化ブロックから複数のFECパケットを効率的に生成および送信するFEC方式を用いることを可能としたFEC送信処理装置、ならびにFEC送信処理のための方法およびプログラムを提供する。
本発明の一態様としてのFEC送信処理装置は、
メディアパケットを生成するメディアパケット生成装置からメディアパケットを逐次取得するメディアパケット取得手段と、
前記メディアパケット取得手段により取得されたメディアパケットを、メディアパケットを受信処理するメディアパケット受信処理装置にネットワークを介して送信するメディアパケット送信手段と、
直前に処理したメディアパケット群の後最初に取得されたメディアパケットの取得からあらかじめ定めたFEC時間内に取得されたメディアパケット群を用いてFEC演算処理を行うことにより、前記メディアパケット受信処理装置において損失メディアパケットを回復するための複数のFECパケットを生成するFECパケット生成手段と、
生成された複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記あらかじめ定められたFEC時間内で前記メディアパケット受信処理装置に送信するFECパケット送信手段と、
を備える。
本発明の一態様としてのFEC送信処理方法は、
メディアパケットを生成するメディアパケット生成装置からメディアパケットを逐次取得するメディアパケット取得ステップと、
前記メディアパケット取得ステップにより取得されたメディアパケットを、メディアパケットを受信処理するメディアパケット受信処理装置にネットワークを介して送信するメディアパケット送信ステップと、
直前に処理したメディアパケット群の後最初に取得されたメディアパケットの取得からあらかじめ定めたFEC時間内に取得されたメディアパケット群を用いてFEC演算処理を行うことにより、前記メディアパケット受信処理装置において損失メディアパケットを回復するための複数のFECパケットを生成するFECパケット生成ステップと、
生成された複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記あらかじめ定められたFEC時間内で前記メディアパケット受信処理装置に送信するFECパケット送信ステップと、
を備える。
本発明の一態様としてのFEC送信処理プログラムは、
メディアパケットを生成するメディアパケット生成装置からメディアパケットを逐次取得するメディアパケット取得ステップと、
前記メディアパケット取得ステップにより取得されたメディアパケットを、メディアパケットを受信処理するメディアパケット受信処理装置にネットワークを介して送信するメディアパケット送信ステップと、
直前に処理したメディアパケット群の後最初に取得されたメディアパケットの取得からあらかじめ定めたFEC時間内に取得されたメディアパケット群を用いてFEC演算処理を行うことにより、前記メディアパケット受信処理装置において損失メディアパケットを回復するための複数のFECパケットを生成するFECパケット生成ステップと、
生成された複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記あらかじめ定められたFEC時間内で前記メディアパケット受信処理装置に送信するFECパケット送信ステップと、
をコンピュータに実行させる。
本発明により、メディアパケットのレートが変動する場合においても、1つの符号化ブロックから複数のFECパケットを効率的に生成および送信するFEC方式を用いることが可能となる。
本発明者らが本発明を着想するに至った技術的背景について説明する。
背景技術の欄で述べたように、Pro−MPEGのFEC(Forward Error Correction:前方向誤り訂正)方式では固定レート(CBR:Constant Bit Rate)のストリームのみを対象としており、変動レート(VBR:Variable Bit Rate)のストリームは対象としていなかった。この理由として、マトリクスを形成するFEC方式において、固定レートで適用可能な条件が変動レートでは適用できないことがある。すなわちデータレートが変動する場合に通常考えられる対処方法では、次に述べる問題が発生する。
データレートが変動する場合に、各マトリクスを構成するデータパケット数を一定に保つとする。この場合、マトリクス毎で符号化にかかる時間が変動する結果となるため、FECパケットの送出範囲に対応する時間も変動することとなり、FECパケットの伝送レートが一定とならない。この場合に受信側では、最低レートの場合の送出範囲に対応するつまり最大の符号化時間を遅延時間として設定しておかなければ、受信処理においてデータパケットの枯渇(アンダーフロー)が発生する。このため、一部のデータが原因で全てのデータに関するFEC処理に要する遅延時間が必要以上に長くなってしまう。FECパケットの伝送レートを単純に平滑化した場合は、想定よりも高いレートの場合に低いレートとして伝送されることになるため、さらに遅延時間が長くなってしまい予測不能ともなりうる。
これに対し、不足数をパディングデータ等で補充することにより、全てのマトリクスで構成するデータパケット数を一定とする方法がある。例えばデジタル放送において、無線上を一定レートで伝送する必要があるため、パディングと同等のNULL−TSパケットを用い元の変動レートのストリームを固定レート化した後に伝送するものがある。これをIP上で伝送する際、ネットワーク帯域の有効利用という点から見ればパディングの様な無駄な帯域の消費は望ましくない。このため、不要であるNULL−TSパケットは除き変動レートとして伝送することが望ましい。この変動ストリームにパディングをすると、変動ストリームの最大レートにあわせた固定レートとなるため、NULL−TSパケットを除いた効果が小さくなり、帯域の有効利用を実現できない。
以上のように、変動レートに上記FEC方式を適用する手法として、固定レートの場合と同様にしてマトリクスを構成するデータパケット数を一定に保つことが考えられるが、遅延時間の長大化および帯域の無駄な消費のため、適用は現実的でない。
本発明は、このような問題を発生させることなく、変動レートの場合に、マトリクスを形成するFEC方式(1つの符号化ブロックから複数のFECパケットを生成するFEC方式)を適用可能にするものである。以下、本発明の実施形態について説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係わるFEC送信処理装置の構成を示すブロック図である。
FEC符号化手段11は、変動レート(VBR)でRTPデータパケット(メディアパケット)を生成するRTPデータパケット生成装置21により生成されたRTPデータパケットを逐次取得する。FEC符号化手段11は、あらかじめ定めた固定の符号化時間(FEC時間)α内に取得(入力)されるRTPデータパケットを対象に、RTPデータパケットを取得するごとに、逐次、FEC符号化処理を行う。より詳細には、直前に処理したRTPデータパケット群の後最初に取得されたRTPデータパケットの取得からあらかじめ定めた符号化時間α内に取得された複数のRTPデータパケット(これら複数のRTPデータパケットの集合を符号化ブロック、マトリクス、あるいはメディアパケット群と称する)を対象として、RTPデータパケットが取得されるごとに、FEC符号化処理を行う。これにより1つの符号化ブロックから複数の冗長データを生成する。またFEC符号化処理手段11は、RTPデータパケットを取得するごとに、またはRTPデータパケットに対するFEC符号化処理を行うごとに、RTPデータパケットをRTPデータパケット送信手段13に渡す。RTPデータパケットは、FEC符号化手段11を経由せず、RTPデータパケット生成装置21から直接、RTPデータパケット送信手段13に渡すようにしてもよい。
ここでRTPデータパケットには受信側のFEC受信処理装置41で再生するべきメディアデータ、順序番号、タイムスタンプ等が含まれている。RTPデータパケット生成装置21は、FEC送信処理装置と同一装置に含まれていてもよいし、FEC送信処理装置と異なる装置に含まれていても良い。
RTPデータパケット送信手段13は、FEC符号化処理手段から渡されたRTPデータパケットを、RTPデータパケットを受信処理するFEC受信処理装置41にネットワーク31を介して送信する。
FECパケット生成手段14は、FEC符号化手段11により生成された冗長データと、冗長データを生成するもととなったRTPデータパケットを特定する情報等を含むFECパケットを、各生成された冗長データ毎に、生成する(FECパケット生成処理)。すなわち冗長データの個数と同数のFECパケットを生成する。FECパケットは、FEC受信処理装置(メディアパケット受信処理装置)41において、ネットワーク31等で損失した損失メディアパケットを回復するためのものである。FEC符号化処理と、FECパケット生成処理とを合わせて、FEC演算処理と称するものとする。
FECパケットバッファリング手段15は、FECパケット生成手段14により生成されたFECパケットをバッファリングする。
演算開始時刻記録手段12は、符号化ブロック(マトリクス)内で、最初に取得されたRTPデータパケットが取得された時刻(演算開始時刻)Tを記録する。
FECパケット送信手段16は、符号化ブロックに対して生成された複数のFECパケットを、この符号化ブロックにおいて最初に取得されたメディアパケットの時刻(演算開始時刻)Tに符号化時間αを加算した時刻から、当該符号化時間α内で分散してFEC受信処理装置41に送信する。つまり、最初にメディアパケットを取得してから符号化時間α経過後、符号化時間α内でFECパケットを送信する。符号化ブロック毎にFECパケットを生成および送信する様子を図5に一例として示す。符号化ブロックごとに符号化時間αをかけて符号化処理を行い、演算開始時刻Tから符号化時間αの経過後、符号化時間α内で、FECパケットを分散して送信している。
図2は、FEC演算処理(FEC符号化処理およびFECパケット生成処理)の例を説明する図である。
ここでは100個のRTPデータパケット(符号化ブロック)を用いた例が示される。FEC符号化手段11は、これらのRTPデータパケットを正方形状に整列させてマトリクスを形成し、10行の横列グループと、10列の縦列グループとを形成する。縦列グループ(演算単位)ごとにRTPデータパケット群を演算(ここではXOR)して冗長データを計算する。FECパケット生成手段14は、各縦列グループから計算した冗長データを用いてFECパケットF1〜F10を生成する。FECパケットには、冗長データと、冗長データを生成する元となったRTPデータパケット(冗長データに対応する縦列グループ内のRTPデータパケット)を特定する情報と、RTPデータパケットとは異なる系列の順序番号などが含まれる。例えばFECパケットF1には冗長データと、この冗長データに関連づけられるRTPデータパケット1、11、21、31、・・・、81、91を特定する情報などが含まれる。本実施形態では縦列グループからのみ冗長データおよびFECパケットを生成することとするが、縦列グループに加え、横列グループからも冗長データおよびFECパケットを生成することも可能である。
図3は、図1のFEC送信処理装置の動作例を示すフローチャートである。図4は、FEC送信処理装置における特にFECパケット送信手段16の動作例を説明するフローチャートである。
図3において、FEC符号化手段11は、RTPデータパケット生成装置21から、送信するRTPデータパケットの入力を受け、受け取ったRTPデータパケットを一時的に記録する(S1)。
続いて、FEC符号化手段11は、取得したRTPデータパケットが符号化ブロックの最初にあたる場合は(S2のYES)、演算開始時刻記録手段12にRTPデータパケットを受け取った時刻(演算開始時刻)Tを記録させる(S3)。取得したRTPデータパケットが符号化ブロックの最初に当たらない場合は(S2のNO)、ステップS3を行わずに、ステップS4に進む。
FEC符号化手段11は、受け取ったRTPデータパケットを用いてFEC符号化処理を実施する(S4)。先に示した図2の例では、受け取ったRTPデータパケットが縦列ブロックの先頭である場合は、ステップS4ではそのRTPデータパケットを保持する。RTPデータパケットが縦列ブロックにおける先頭から2番目のときは、1番目のRTPデータパケットと演算(たとえばXOR)を行って、演算値を得る。RTPデータパケットが縦列ブロックにおける先頭から3番目のときは、1番目と2番目のRTPデータパケットから得られた演算値との演算(たとえばXOR)を行う。このようにしてFEC符号化手段11は、RTPデータパケットを受け取るごとに、FEC符号化処理を行う。
FEC符号化手段11は、該当の符号化ブロックについて、最初に取得したRTPデータパケットの演算開始時刻Tから、あらかじめ定めた符号化時間αが経過したかを、判定する(S5)。
演算開始時刻Tから符号化時間αが経過していない場合(S5のNO)ステップS9に進む。
一方、演算開始時刻Tから符号化時間αが経過した場合(S5のYES)、FECパケット生成手段14は、ステップS4のFEC符号化処理により得られた複数の冗長データ、および複数の冗長データを生成する元となったRTPデータパケットの識別子等を用いて、複数のFECパケットを生成する(S6)。
FECパケットバッファリング手段15は、FECパケット生成手段14により生成された複数のFECパケットを、実際に送信されるまでバッファリングする(S7)。
FEC符号化手段11は、次の符号化ブロックに処理を移行するように(次に入力されるRTPデータパケットが符号化ブロックの最初のRTPデータパケットとして取り扱われるように)、構成を切り替える(S8)。
RTPデータパケット送信手段13は、ステップS1で入力されたRTPデータパケットを送信する(S9)。このRTPデータパケットの送信は、ステップS4の直後に行っても良い。
終了指示が入力されたかどうかを判定し(S10)、入力されていないときは(S10のNO)ステップS1に戻り、入力されたときは(S10のYES)本処理を終了する。
図4において、FECパケット送信手段16は、FECパケットバッファリング手段15にFECパケットがある場合に(S21のYES)、現在時刻が送信タイミングであれば(S22のYES)、FECパケットバッファリング手段15からFECパケットを取り出し(S23)、取り出したFECパケットを送信する(S24)。
このときの送信タイミングは、たとえば
演算開始時刻T+符号化時間α+符号化時間α×(該当符号化ブロック内の先頭からの個数/該当符号化ブロック内の全個数)で決定される。あるいは、演算開始時刻T+符号化時間αから、あらかじめ定めた一定のタイミングで、演算開始時刻T+符号化時間αから、符号化時間α内に送信する。
図4のFECパケットの送信フローは、定期的に呼び出されるか、あるいは図3のステップS9またはS10の後に呼び出される。
このように、本実施の形態では、各符号化ブロック(マトリクス)に対する符号化時間(FEC時間)を一定に保つとともに、符号化ブロックにおける最初のRTPデータパケットの取得時刻から符号化時間α後に符号化時間α内でFECパケットを送信するようにしたことにより、変動レートの場合においても遅延をできるだけ生じさせずにFECパケットを送信することができ、また各符号化ブロック間でFECパケットの送信が重複することを防ぐことができる(図5参照)。
(第2の実施形態)
第1の実施形態では、各マトリクスに対する符号化時間を一定に保つようにしたため、マトリクス毎のRTPデータパケット数が変動し得る。このため、符号化時間の長さによっては、FEC符号化処理可能なRTPデータパケットの最大数(1つのマトリクスに含めることのできるRTPデータパケットの最大数)を超過したRTPデータパケット数が入力されることもあり得る。
そこで、本実施形態では、RTPデータパケット送信手段13により最大の送信レートでRTPデータパケットが送信される(RTPデータパケット生成装置21によりRTPデータパケットが最大レートで生成される)ときに、FEC符号化処理可能なRTPデータパケットの最大数(規定個数)のRTPデータパケットが入力(取得)されるのに要される時間(最小符号化時間)を、符号化時間αとして設定する。これにより、符号化時間α内に、RTPデータパケットが最大数を超過して取得されることを防ぐことができる。
(第3の実施形態)
本実施形態では、第2の実施形態と異なる手法(第1の方式および第2の方式)で、第1の実施形態の問題点を解決する。
(第1の方式)1つの符号化ブロックに含めることのできる最大数(あるいは規定個数。以下最大数に統一)のRTPデータパケットが取得されたときは、取得された時点で、符号化時間αの経過を待つことなく、取得された最大数のRTPデータパケットから複数のFECパケットを生成する。そして、生成した複数のFECパケットを、最大数のRTPデータパケットが取得された時刻、すなわち符号化ブロックの中で最初に入力されたRTPデータパケットの演算開始時間TにRTPデータパケットの取得(符号化処理)に要した時間(経過時間)βを加算した時刻、から、符号化時間α内で分散して送信する。なお、符号化時間α内に最大数のRTPデータパケットが取得されない場合は、第1の実施形態と同様に、符号化時間α内に取得されたRTPデータパケットを用いてFECパケットを生成し、次の符号化時間α内で、生成されたFECパケットを分散して送信する。したがって、本方式では、FECパケットの送信タイミングは以下のようになる。
演算開始時刻T+経過時間β+符号化時間α×(該当符号化ブロック内の先頭からの個数/該当符号化ブロック内の全個数)で決定する。あるいは、開始時刻T+経過時間βから、あらかじめ定めた一定のタイミングで、開始時刻T+経過時間βから経過時間αで送信する。ここで経過時間βは、最大数のRTPデータパケットの取得に要した時間あるいは符号化時間αで、符号化時間αに一致するとき(たとえば符号化時間α内に最大数のRTPデータパケットが取得されない場合)が最大値である。
本方式を適用してFECパケットを生成および送信する様子を図6に示す。ここでは上から2番目の符号化ブロックに関して、符号化時間αより短い3α/4(=β)で最大数のRTPデータパケットが取得されたため、これらのRTPデータからFECパケットを生成し、時刻(T+3α/4)から、符号化時間α内で分散して、生成したFECパケットを送信する例が示されている。
本方式によれば、第2の実施形態の様に符号化時間αを最小符号化時間とする必要がなくなり、レートが低くなった場合にFECの冗長度が過剰となることを防ぐことができる。
(第2の方式)第1の方式では、FECパケットを送信する時間は、演算開始時刻T+経過時間βから符号化時間αとしたが、本方式では、演算開始時刻T+経過時間βから経過時間βとする。なお、符号化時間α内に最大数のRTPデータパケットが取得されない場合は、したがって、本方式では、FECパケットの送信タイミングは以下の通りになる。
開始時刻T+経過時間β+経過時間β×(該当符号化ブロック内の先頭からの個数/該当符号化ブロック内の全個数)で決定する。あるいは、開始時刻T+経過時間αから、あらかじめ定めた一定のタイミングで、開始時刻T+経過時間βから経過時間βで送信する。ここで経過時間βは、最大数のRTPデータパケットの取得に要した時間あるいは符号化時間αで、符号化時間αに一致するときが最大値である。
本方式を適用してFECパケットを生成および送信する様子を図7に示す。ここでは上から2番目の符号化ブロックに関して、符号化時間αより短い3α/4(=β)で最大数のRTPデータパケットが取得されたため、演算開始時刻Tから3α/4(=β)が経過した時点で、最大数のRTPデータからFECパケットを生成し、時刻(T+3α/4)から、符号化時間α内で分散して、生成したFECパケットを送信する例が示されている。
本方式によれば、第1の方式の効果に加え、受信側ではFEC符号化処理を早いタイミングで処理できるようになるため、複数のFEC符号化処理を組み合わせている場合などに、回復率の向上を期待することができる。
ここで第1および第2の方式を実現する具体的構成としては図8に示すように、図1の装置に対し、経過時間βを記録する経過時間記録手段17を追加する。経過時間記録手段17は、最大数のRTPデータパケットに対する符号化処理を完了したときまたは符号化時間αが経過したときに、完了時刻と演算開始時刻Tとの差または符号化時間αを、経過時間βとして記録する。FECパケット送信手段16がこの経過時間βを利用して送信タイミングを計算し、送信動作を行う。
図9は、本実施形態に関わる動作の流れを示すフローチャートである。図3のフローチャートのステップS5が、ステップS11に代わり、また、新たなステップS12が追加されている。以下、図3との差分についてのみ説明する。
ステップS11では、該当の符号化ブロックについて、入力された(あるいは符号化された)RTPデータパケットの個数が最大数Nに達したか、あるいは演算開始時刻Tから符号化時間αが経過したかを判定する。いずれかが成立した場合(S11のYES)、開始時刻Tからの経過時間βを、経過時間記録手段17に記録させる(S12)。いずれも成立しない場合は(S11のNO)、ステップS9に進む。
FECパケット送信手段16の動作フローは図4と同じであるが、ステップS22で行う送信タイミングの判定が第1の実施形態と異なる。本実施形態では、送信タイミングは方式1か方式2からに応じて前述した通りに決定される決定される。
(第4の実施形態)
第3の実施形態では、生成したFECパケットを、上記演算開始時刻Tに経過時間βを加算した時刻から、符号化時間αまたは経過時間β内で分散して送信するため、ある符号化ブロックから生成されたFECパケットの送出時間と、次の符号化ブロックから生成されたFECパケットの送出時間が重複する場合も当然生じる(図6および図7参照)。このとき、ネットワーク31上においてFECパケットのレートが一時的に増大し、帯域予約による制約を受けているネットワーク上での伝送に支障をきたしてしまい、受信装置で正常にFEC符号化処理が出来なくなってしまう。
一方、第2の実施形態では、RTPデータパケットの最大の送信レート(生成レート)に対応して上記最小符号化時間を符号化時間αとして設定したが、この場合、送信レート(生成レート)が最大もしくはこれに近い場合はよいが、送信レート(生成レート)が低くなった場合に、過剰な符号化処理が実行される問題がある。すなわち、RTPデータパケットの送信レートが低い場合も、FECパケットが常にRTPデータパケットの最大レートのときと同一レートで送出されることになり、FEC演算処理の冗長度が必要以上に大きくなってしまう。さらに、極端にRTPデータパケットの送信レートが低下した場合には、FECパケットの伝送レートが一時的に増大してしまい、帯域予約するネットワーク31での運用に支障をきたす。
たとえばデジタル放送では、番組の内容やデータ放送の内容、まだら運用などの結果、データパケットの平均的なレートが大きく変動する。この場合に、小さなレートで伝送されるデータに対し、大きなレートの場合と同一の符号化時間を単純に適用すると、データパケットに対するFECパケットの割合すなわち冗長度が必要以上に大きくなってしまい効率が悪く、帯域の有効利用を実現できない。また、デジタルシネマなどさらにレートが高いストリームが出現してきているが、この場合は常に最大レートでの伝送が必要とはならない場合も考えられる。この場合、現在のエンコーダでは見られない、極めて一時的にレートが増大することもあるが、通常はある程度のレートで一定という運用も考慮する必要がある。
本実施形態は、このような第2および第3の実施形態で生じうる問題点を解決する。本実施形態は、FECパケットの生成については第2および第3の実施形態と同一であるが、FECパケットの送信時間(送信タイミング)がこれらの実施形態と異なる。
すなわち、本実施形態では、第2および第3の実施形態と同様に、符号化時間α内に最大数のRTPデータパケットが取得されたときは、取得された時点で(符号化時間αの経過を待たずに)、取得された最大数のRTPデータパケットからFECパケットを生成する。また、符号化時間α内に最大数のRTPデータパケットが取得されない場合は符号化時間α内で取得されたRTPデータパケットからFECパケットを生成する。ただし、FECパケットの送信は、本実施形態では、演算開始時刻Tに符号化時間αを加算した時刻から経過時間β内で分散して行う。したがって、送信タイミングはたとえば以下のようにして決定する。
演算開始時刻T+符号化時間α+経過時間β×(該当符号化ブロック内の先頭からの個数/該当符号化ブロック内の全個数)で決定する。あるいは、開始時刻T+符号化時間αから、あらかじめ定めた一定のタイミングで、開始時刻T+符号化時間αから経過時間βで送信する。
本実施形態に従ってFECパケットを生成および送信する様子を図10に示す。図6および図7と比較して分かるように、演算開始時刻Tから符号化時間αを待った後、経過時間β内でFECパケットを送信するため、各符号化ブロックから生成されたFECパケットの送出時間が重複することはない。したがってFECパケットのレートが一時的に増大して、帯域予約による制約を受けているネットワーク上での伝送に支障をきたすこともない。また符号化時間αとして適度な値を設定(第2の実施形態での最小符号化時間より大きい値)を設定することで、FECパケットの送信レートが想定外に増大する問題も解消され、帯域の有効な利用が可能となる。これは、帯域予約を行うが空き帯域は別の通信で利用可能という運用において、通信帯域の利用効率性を一段と向上させるものである。また、FEC処理の冗長度を必要量に抑え、伝送レートが一時的に想定外に増大する問題を解決し、帯域の有効な利用を可能とする。
本実施形態のブロック図は、第3の実施形態で用いた図8と同じであり、また動作フローも第3の実施形態で用いた図9および図4と同じであるが、図4のステップS22で行う送信タイミングの判定のみが第3の実施形態と異なり、本実施形態では、上記した式にしたがう。
なお、このFEC送信処理装置は、例えば、汎用のコンピュータ装置を基本ハードウェアとして用いることでも実現することが可能である。すなわち、FEC符号化手段11、演算開始時刻記録手段12、経過時間記録手段17、FECパケット生成手段14、FECパケットバッファリング手段15、FECパケット送信手段16、RTPデータパケット送信手段13は、上記のコンピュータ装置に搭載されたプロセッサにプログラムを実行させることにより実現することができる。このとき、FEC送信処理装置は、上記のプログラムをコンピュータ装置にあらかじめインストールすることで実現してもよいし、CD−ROMなどの記憶媒体に記憶して、あるいはネットワークを介して上記のプログラムを配布して、このプログラムをコンピュータ装置に適宜インストールすることで実現してもよい。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
本発明の第1の実施形態に係わるFEC送信処理装置の構成を示すブロック図。 FEC演算処理(FEC符号化処理およびFECパケット生成処理)の例を説明する図。 図1のFEC送信処理装置の動作例を示すフローチャートである。 FEC送信処理装置におけるFECパケット送信手段の動作例を説明するフローチャート。 符号化ブロック毎にFECパケットを生成および送信する様子を示す図。 本発明の第3の実施形態における第1の方式を適用してFECパケットを生成および送信する様子を示す図。 本発明の第3の実施形態における第2の方式を適用してFECパケットを生成および送信する様子を示す図。 本発明の第3の実施形態に係わるFEC送信処理装置の構成を示すブロック図。 本発明の第3の実施形態に関わる動作の流れを示すフローチャート。 第4の実施形態に従ってFECパケットを生成および送信する様子を示す図。
符号の説明
11:FEC符号化手段
12:演算開始時刻記録手段
13:RTPデータパケット送信手段
14:FECパケット生成手段
15:FECパケットバッファリング手段
16:FECパケット送信手段
17:経過時間記録手段
21:RTPデータパケット生成装置
31:ネットワーク
41:FEC受信処理装置

Claims (5)

  1. メディアパケットを生成するメディアパケット生成装置からメディアパケットを逐次取得するメディアパケット取得手段と、
    前記メディアパケット取得手段により取得されたメディアパケットを、メディアパケットを受信処理するメディアパケット受信処理装置にネットワークを介して送信するメディアパケット送信手段と、
    直前に処理したメディアパケット群の後最初に取得されたメディアパケットの取得からあらかじめ定めたFEC時間の経過前までに規定個数のメディアパケットが取得されたとき、前記規定個数のメディアパケットを用いてFEC演算処理を行って、前記メディアパケット受信処理装置において損失メディアパケットを回復するための複数のFECパケットを生成するFECパケット生成手段と、
    前記FECパケット生成手段により生成された複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記規定個数のメディアパケットの取得に要した時間内で前記メディアパケット受信処理装置に送信するFECパケット送信手段と、
    を備えたFEC送信処理装置。
  2. 前記FECパケット生成手段は、前記あらかじめ定めたFEC時間の経過前までに前記規定個数のメディアパケットが取得されなかったときは、前記あらかじめ定めたFEC時間の経過前までに取得したメディアパケットから前記FEC演算処理を行って複数のFECパケットを生成し、
    前記FECパケット送信手段は、当該複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記あらかじめ定められたFEC時間内で前記メディアパケット受信処理装置に送信する
    請求項1に記載のFEC送信処理装置。
  3. 前記規定個数は、前記FEC演算処理可能なメディアパケットの最大個数であることを特徴とする請求項1または2に一項に記載の送信処理装置。
  4. メディアパケットを生成するメディアパケット生成装置からメディアパケットを逐次取得するメディアパケット取得ステップと、
    前記メディアパケット取得ステップにより取得されたメディアパケットを、メディアパケットを受信処理するメディアパケット受信処理装置にネットワークを介して送信するメディアパケット送信ステップと、
    直前に処理したメディアパケット群の後最初に取得されたメディアパケットの取得からあらかじめ定めたFEC時間の経過前までに規定個数のメディアパケットが取得されたとき、前記規定個数のメディアパケットを用いてFEC演算処理を行って、前記メディアパケット受信処理装置において損失メディアパケットを回復するための複数のFECパケットを生成するFECパケット生成ステップと、
    前記FECパケット生成ステップにより生成された複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記規定個数のメディアパケットの取得に要した時間内で前記メディアパケット受信処理装置に送信するFECパケット送信ステップと、
    を備えたFEC送信処理方法。
  5. メディアパケットを生成するメディアパケット生成装置からメディアパケットを逐次取得するメディアパケット取得ステップと、
    前記メディアパケット取得ステップにより取得されたメディアパケットを、メディアパケットを受信処理するメディアパケット受信処理装置にネットワークを介して送信するメディアパケット送信ステップと、
    直前に処理したメディアパケット群の後最初に取得されたメディアパケットの取得からあらかじめ定めたFEC時間の経過前までに規定個数のメディアパケットが取得されたとき、前記規定個数のメディアパケットを用いてFEC演算処理を行って、前記メディアパケット受信処理装置において損失メディアパケットを回復するための複数のFECパケットを生成するFECパケット生成ステップと、
    前記FECパケット生成ステップにより生成された複数のFECパケットを、前記最初に取得されたメディアパケットを取得してから前記あらかじめ定められたFEC時間の経過後、前記規定個数のメディアパケットの取得に要した時間内で前記メディアパケット受信処理装置に送信するFECパケット送信ステップと、
    をコンピュータに実行させるためのFEC送信処理プログラム。
JP2007227922A 2007-09-03 2007-09-03 Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム Active JP5075536B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007227922A JP5075536B2 (ja) 2007-09-03 2007-09-03 Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム
US12/198,534 US8266492B2 (en) 2007-09-03 2008-08-26 FEC transmission processing apparatus and method and program recording medium
EP08163509.6A EP2031787A3 (en) 2007-09-03 2008-09-02 FEC transmission processing apparatus and method and program recording medium
CN2008102150205A CN101383679B (zh) 2007-09-03 2008-09-03 Fec传输处理设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007227922A JP5075536B2 (ja) 2007-09-03 2007-09-03 Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2009060513A JP2009060513A (ja) 2009-03-19
JP5075536B2 true JP5075536B2 (ja) 2012-11-21

Family

ID=39926760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007227922A Active JP5075536B2 (ja) 2007-09-03 2007-09-03 Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム

Country Status (4)

Country Link
US (1) US8266492B2 (ja)
EP (1) EP2031787A3 (ja)
JP (1) JP5075536B2 (ja)
CN (1) CN101383679B (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9192859B2 (en) 2002-12-10 2015-11-24 Sony Computer Entertainment America Llc System and method for compressing video based on latency measurements and other feedback
US9314691B2 (en) 2002-12-10 2016-04-19 Sony Computer Entertainment America Llc System and method for compressing video frames or portions thereof based on feedback information from a client device
US9061207B2 (en) 2002-12-10 2015-06-23 Sony Computer Entertainment America Llc Temporary decoder apparatus and method
US9077991B2 (en) 2002-12-10 2015-07-07 Sony Computer Entertainment America Llc System and method for utilizing forward error correction with video compression
US9138644B2 (en) 2002-12-10 2015-09-22 Sony Computer Entertainment America Llc System and method for accelerated machine switching
US8964830B2 (en) 2002-12-10 2015-02-24 Ol2, Inc. System and method for multi-stream video compression using multiple encoding formats
JP4328602B2 (ja) * 2003-11-20 2009-09-09 富士通株式会社 パケットエラー訂正装置及び方法
JP5135121B2 (ja) * 2008-08-22 2013-01-30 株式会社東芝 データ受信装置、データ受信方法、及びデータ受信プログラム
CN101902315B (zh) * 2009-06-01 2013-04-17 华为技术有限公司 基于前向纠错的重传方法、设备和通信系统
US8543893B2 (en) * 2009-09-02 2013-09-24 Agere Systems Llc Receiver for error-protected packet-based frame
US9237105B2 (en) * 2009-12-08 2016-01-12 Microsoft Technology Licensing, Llc Data communication with compensation for packet loss
JP5174076B2 (ja) 2010-03-30 2013-04-03 株式会社東芝 計算処理装置、受信処理装置、受信処理方法及び受信処理プログラム
JP5677070B2 (ja) * 2010-12-14 2015-02-25 キヤノン株式会社 受信装置及び、受信装置による処理方法
EP2815529B1 (en) 2012-02-17 2019-12-11 Samsung Electronics Co., Ltd. Data packet transmission/reception apparatus and method
WO2015072005A1 (ja) * 2013-11-15 2015-05-21 株式会社日立製作所 通信装置及びシステム及び方法
JP5671124B1 (ja) * 2013-12-11 2015-02-18 日本電信電話株式会社 前方誤り訂正情報生成装置、前方誤り訂正情報生成方法、および前方誤り訂正情報生成プログラム
CN106057554A (zh) * 2015-04-08 2016-10-26 江苏海达电气有限公司 增强型隔离开关外壳
US10523352B2 (en) * 2017-02-06 2019-12-31 Valens Semiconductor Ltd. Forward error correction for incomplete blocks

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6314535B1 (en) * 1999-05-18 2001-11-06 Xircom Wireless, Inc. Dynamic forward error correction
JP2001086153A (ja) * 1999-09-09 2001-03-30 Canon Inc データ通信装置、データ通信システム、データ通信方法及び記憶媒体
JP2001203749A (ja) * 2000-01-20 2001-07-27 Mitsubishi Electric Corp 高効率データ送信装置及び高効率データ伝送システム
KR100458878B1 (ko) * 2002-05-03 2004-12-03 학교법인 경희대학교 Fec 코딩 방식에 기초한 가변길이 패킷 송수신 방법
WO2004023706A1 (en) * 2002-09-06 2004-03-18 Telefonaktiebolaget Lm Ericsson (Publ) Method and devices for controlling retransmissions in data streaming
JP2004171206A (ja) 2002-11-19 2004-06-17 Hitachi Ltd ストレージシステム
KR200325113Y1 (ko) * 2003-06-16 2003-09-02 김춘일 점적호스용 수압조절밸브
JP4349114B2 (ja) * 2003-12-10 2009-10-21 ソニー株式会社 送信装置および方法、受信装置および方法、記録媒体、並びにプログラム
JP4321284B2 (ja) * 2004-02-03 2009-08-26 株式会社デンソー ストリーミングデータ送信装置、および情報配信システム
JP4559126B2 (ja) * 2004-06-01 2010-10-06 日本電信電話株式会社 映像送信方法、映像送信装置、映像送信用プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP4405875B2 (ja) * 2004-08-25 2010-01-27 富士通株式会社 エラー訂正用データの生成方法及び生成装置並びに生成プログラム及び同プログラムを格納したコンピュータ読み取り可能な記録媒体
US7660245B1 (en) * 2004-09-16 2010-02-09 Qualcomm Incorporated FEC architecture for streaming services including symbol-based operations and packet tagging
US7447978B2 (en) * 2004-11-16 2008-11-04 Nokia Corporation Buffering packets of a media stream
JP4459794B2 (ja) * 2004-11-30 2010-04-28 日本電信電話株式会社 符号誤り訂正を行うデータ送信方法、受信方法、装置、システム及びプログラム
WO2006060036A1 (en) * 2004-12-02 2006-06-08 Thomson Licensing Adaptive forward error correction
US7904781B2 (en) * 2004-12-09 2011-03-08 Mitsubishi Electric Corporation Data transmitting device, data receiving device, and data distribution system
ITTO20050221A1 (it) * 2005-04-04 2006-10-05 St Microelectronics Srl Procedimento e sistema per la correzione degli errori a raffica nelle reti di comunicazione, rete e prodotto informatico relativi
KR100843073B1 (ko) * 2005-06-10 2008-07-03 삼성전자주식회사 오류 정정 패킷을 이용한 전송률 제어 방법 및 이를 이용한통신 장치
US7676735B2 (en) * 2005-06-10 2010-03-09 Digital Fountain Inc. Forward error-correcting (FEC) coding and streaming
JP4513725B2 (ja) * 2005-11-09 2010-07-28 ソニー株式会社 パケット送信装置、通信システム及びプログラム
JP2008011096A (ja) * 2006-06-28 2008-01-17 Toshiba Corp Fecエンコード方法、fecデコード方法、fecデコード装置
BRPI0621900A2 (pt) * 2006-07-25 2011-12-20 Thomson Licensing recuperação a partir de perda de pacote em rajadas em redes sem fio baseadas em protocolo internet usando transmissão escalonada e correção antecipada de erro de pacote cruzado
US8010863B2 (en) * 2006-07-28 2011-08-30 Thomson Licensing Method and apparatus for synchronizing multiple multimedia streams
JP5016279B2 (ja) * 2006-09-06 2012-09-05 ソニー株式会社 データ通信システム、データ送信装置およびデータ送信方法
US8707139B2 (en) * 2006-10-18 2014-04-22 Kencast, Inc. Systems, methods, apparatus, and computer program products for providing forward error correction with low latency
JP4250654B2 (ja) * 2006-11-17 2009-04-08 株式会社東芝 通信装置、通信方法および通信プログラム
US20080253369A1 (en) * 2007-04-16 2008-10-16 Cisco Technology, Inc. Monitoring and correcting upstream packet loss
US20080285476A1 (en) * 2007-05-17 2008-11-20 Yasantha Nirmal Rajakarunanayake Method and System for Implementing a Forward Error Correction (FEC) Code for IP Networks for Recovering Packets Lost in Transit
US9312989B2 (en) * 2008-07-07 2016-04-12 Cisco Technology, Inc. Importance-based FEC-aware error-repair scheduling
JP5409032B2 (ja) * 2009-02-06 2014-02-05 キヤノン株式会社 送信装置、及び、方法、プログラム

Also Published As

Publication number Publication date
JP2009060513A (ja) 2009-03-19
US8266492B2 (en) 2012-09-11
EP2031787A2 (en) 2009-03-04
CN101383679A (zh) 2009-03-11
CN101383679B (zh) 2012-07-04
US20090063928A1 (en) 2009-03-05
EP2031787A3 (en) 2013-08-07

Similar Documents

Publication Publication Date Title
JP5075536B2 (ja) Fec送信処理装置、ならびにfec送信処理のための方法およびプログラム
JP5847577B2 (ja) より低いレベルのパケット構造から導かれる記号識別子を用いた放送チャネル上の高品質ストリーム保護
US7320099B2 (en) Method and apparatus for generating error correction data, and a computer-readable recording medium recording an error correction data generating program thereon
JP5141197B2 (ja) 符号化装置
JP5550834B2 (ja) 可変fecオーバヘッド及び保護期間を利用したストリーミング及びバッファリング
JP4321284B2 (ja) ストリーミングデータ送信装置、および情報配信システム
JP5412917B2 (ja) 誤り訂正制御装置、誤り訂正制御方法およびメディアデータ配信システム
JP5409032B2 (ja) 送信装置、及び、方法、プログラム
US20080256418A1 (en) Dynamic stream interleaving and sub-stream based delivery
CN106911699B (zh) 一种基于rtp协议实现i帧重传的方法
JP2009278521A (ja) 通信装置、及び通信方法、プログラム
CN102186119B (zh) 流媒体服务器保证音视频质量动态流量控制的方法
US10225043B2 (en) Information processing apparatus, information processing method, and program
US20150006991A1 (en) Graceful degradation-forward error correction method and apparatus for performing same
US8699520B2 (en) Computer device, receiving device, receiving method, and computer readable storage medium storing instructions of a computer program thereof
EP3029870B1 (en) Information processing device, information processing method, and program
JP5376855B2 (ja) データ送信装置及びデータ送信方法
US20190007069A1 (en) Bandwidth efficient fec scheme supporting uneven levels of protection
JP2011199647A (ja) 誤り訂正符号化装置及び方法及びプログラム及び誤り訂正復号化装置及び方法及びプログラム
WO2016203870A1 (ja) 送信装置、送信方法、及び通信システム
JP2010119009A (ja) コンテンツ配信システム、受信装置及び再生プログラム
JP2013192031A (ja) パケット送信装置、パケット受信装置及びパケット伝送システム
JP2008005030A (ja) パケット送受信装置
TWI511499B (zh) 跨封包模式的通道編碼方法及系統
JP2008017330A (ja) 映像音声配信装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100607

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120827

R151 Written notification of patent or utility model registration

Ref document number: 5075536

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150831

Year of fee payment: 3