JP4019478B2 - 多重化装置及び多重化方法 - Google Patents
多重化装置及び多重化方法 Download PDFInfo
- Publication number
- JP4019478B2 JP4019478B2 JP34094297A JP34094297A JP4019478B2 JP 4019478 B2 JP4019478 B2 JP 4019478B2 JP 34094297 A JP34094297 A JP 34094297A JP 34094297 A JP34094297 A JP 34094297A JP 4019478 B2 JP4019478 B2 JP 4019478B2
- Authority
- JP
- Japan
- Prior art keywords
- bit rate
- channel
- average
- priority
- image quality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4347—Demultiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
- H04N21/23655—Statistical multiplexing, e.g. by controlling the encoder to alter its bitrate to optimize the bandwidth utilization
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
【発明の属する技術分野】
本発明は、多重化装置及び多重化方法に関し、各プログラムを例えばMPEG(Moving Picture Experts Group)の手法により符号化処理した後、時分割多重化して伝送する場合に適用することができる。本発明は、画質優先のチャンネル全体に割り当てられる平均ビットレートの前後を、画質優先のチャンネル全体のビットレートが推移するように困難度に応じてビットレートを配分することにより、画質優先及び平均ビットレート優先によるチャンネルが混在する場合でも、十分に画質を改善することができるようにする。
【0002】
【従来の技術】
従来、衛星放送等のディジタル放送においては、例えばMPEG(Moving Picture Experts Group)の手法によりデータ圧縮したプログラムを多重化して伝送することにより、限られた帯域を有効に利用して、多くのプログラムを伝送するようになされている。
【0003】
このようなディジタル放送においては、統計多重の手法により、各プログラムの伝送レートを動的に変化させて多重化することにより、限られた伝送レートを有効に利用して、全体として高画質のプログラムを伝送するようになされている。
【0004】
すなわち図12は、統計多重の手法により4つのプログラムを多重化する場合の、各プログラムに割り当てる符号量を時間経過により示すものである。統計多重の手法による多重化においては、複数のプログラムにて、画質劣化を知覚し易い箇所が同時に発生し難いことを利用して、各プログラムの伝送レートを動的に変化させ、知覚困難な部分に割り当てた必要以上のレートを他のプログラムに振り分けることにより、伝送効率を向上するようになされている。
【0005】
このような統計多重による多重化においては、画質優先による処理と、平均ビットレート優先による処理とがあり、従来の多重化においては、各プログラムの特徴に応じて、何れかの処理によりビットレートを割り当てるようになされている。
【0006】
すなわち画質優先による処理は、ビットレートを配分する複数プログラム全体として最も画質が向上するように、ビットレートを配分する処理であり、この場合符号化処理された各プログラムの平均ビットレートは、各プログラムの内容(映像の質)により種々に変化することになる。
【0007】
また平均ビットレート優先による処理は、長い時間で各プログラムのビットレートを平均化したとき、この平均化したビットレートが、各プログラムに設定した平均ビットレートに近づくように随時パラメーターを変更しながら、その範囲内で画質が良くなるようにビットレートを配分する処理であり、各プログラムの内容(映像の質)に対して平均ビットレートの設定が大きくかけ離れる等により、画質を損なうことになる。
【0008】
これに対して多重化に供するプログラムにおいては、例えば1本の映画をタイムシフトさせて複数のプログラム(チャンネル)により提供するものがある。このようなプログラムにおいては、同一の番組提供会社が提供するものであることから、平均ビットレートを管理する必要はなく、これら複数チャンネル全体として見たとき最高の画質が求められる。すなわちこのようなプログラムにおいては、画質優先による処理が求められる。
【0009】
また、衛星の1つのトランスポンダに割り当てられる複数のチャンネルにあっては、ニュースチャンネル、スポーツチャンネル、お天気チャンネル等の、それぞれ個別の番組供給会社により提供されるプログラムもある。これらのプログラムにおいては、各チャンネルのビットレートが所定の平均ビットレート近辺で推移することを保証する必要があり、これが損なわれると課金上の問題が生じる。すなわち多チャンネル放送によるコストの分担は、通常、使用した帯域に応じて支払われるからである。これによりこの種のプログラムにおいては、平均ビットレート優先による処理が求められる。
【0010】
これにより従来の多重化においては、例えば1つのトランスポンダにより伝送する8チャンネルのうちの4チャンネルを画質優先により、残る4チャンネルを平均ビットレート優先により伝送する場合があり、この場合図13に示すように、この8チャンネルに割り当てるビットレートを画質優先によるチャンネルと、平均ビットレート優先によるチャンネルとに固定したビットレートにより配分し、各配分されたビットレート内でそれぞれ画質優先による各チャンネル、平均ビットレート優先による各チャンネルにビットレートを配分するようになされていた。
【0011】
【発明が解決しようとする課題】
ところでこの図13のように、全体に割り当てるビットレートを画質優先によるチャンネルと、平均ビットレート優先によるチャンネルとに配分した後、各配分されたビットレート内でそれぞれ画質優先による各チャンネル、平均ビットレート優先による各チャンネルにビットレートを配分する場合、実質上、画質優先による複数チャンネルと平均ビットレート優先による複数チャンネルとでそれぞれ統計多重によりビットレートを配分することになる。
【0012】
これに対して統計多重においては、ビットレートを配分するチャンネル数が増大すればする程、動的に変更可能なビットレートが増大することにより、画質改善効果が著しい特徴がある。これにより図13のように、従来の画質優先及び平均ビットレート優先による複数チャンネルの多重化においては、画質の改善効果が未だ不十分な問題があった。
【0013】
本発明は以上の点を考慮してなされたもので、画質優先及び平均ビットレート優先によるチャンネルが混在する場合でも、十分に画質を改善することができる多重化装置及び多重化方法を提案しようとするものである。
【0014】
【課題を解決するための手段】
かかる課題を解決するため請求項1又は請求項2の発明においては、多重化装置及び多重化方法に適用して、平均ビットレートを優先する符号化処理に選択されたチャンネルについては、困難度の時間平均値と入力された平均ビットレートとに基づいて、この平均ビットレートにより、困難度が増大するに従ってビットレートが増大するようにビットレートを設定し、画質を優先する符号化処理に選択されたチャンネルについては、困難度のチャンネル平均値と残りビットレートを画質を優先する符号化処理に選択されたチャンネルに配分した配分ビットレートとに基づいて、平均ビットレートが配分ビットレートであって、困難度が増大するに従ってビットレートが増大するようにビットレートを設定する。
【0015】
請求項1又は請求項2の構成によれば、平均ビットレートを優先する符号化処理に選択されたチャンネルについては、各チャンネルに設定された平均ビットレートの前後を推移するように、画質を優先する符号化処理に選択されたチャンネルについては、残りビットレートで全体のビットレートが変位するように、各チャンネルのビットレートを設定することができ、平均ビットレートを優先する処理によるチャンネルについては、各チャンネルの平均ビットレートの前後をビットレートが変位するように設定して、かつ画質を優先する処理によるチャンネルについて、画質に応じてビットレートをダイナミックに変更でき、これにより画質優先及び平均ビットレート優先によるチャンネルが混在する場合でも、十分に画質を改善することができる。
【0016】
【発明の実施の形態】
以下、適宜図面を参照しながら本発明の実施の形態を詳述する。
【0017】
(1)第1の実施の形態
(1−1)第1の実施の形態の構成
図2は、本発明の実施の形態に係る多重化装置を示すブロック図である。この多重化装置1は、8系統のプログラムprgA〜prgHをそれぞれデータ圧縮した後、多重化して出力する。ここで各プログラムprgA〜prgHは、それぞれこの多重化装置1により多重化して伝送する放送番組であり、ディジタルビデオ信号により構成される。
【0018】
この多重化装置1において、エンコーダ2A〜2Hは、所定のアルゴリズムに従ってそれぞれプログラムprgA〜prgHを符号化処理することにより、各プログラムprgA〜prgHをデータ圧縮して符号化データでなるトランスポートストリームを出力する。このときエンコーダ2A〜2Hは、一定の量子化テーブルにより符号化処理した発生符号量に対応する困難度DA〜DHをそれぞれ検出し、これら困難度DA〜DHをコントローラ3に通知する。またコントローラ3で指定される目標ビットレートRA〜RHになるように各プログラムprgA〜prgHを符号化処理する。
【0019】
このときエンコーダ2A〜2Hは、ME残差、イントラACにより困難度DA〜DHを検出する。このうちME残差は、ピクチャー単位の、動き予測誤差の絶対値和又は2乗和であり、フレーム間符号化処理における発生符号量にほぼ対応する。またイントラACは、マクロブロックにおける平均値からの各画素値の差分を、ピクチャー単位で累積したものであり、フレーム内符号化処理における発生符号量にほぼ対応する。
【0020】
エンコーダ2A〜2Hは、これらのME残差等のパラメータをピクチャー単位で検出し、符号化のピクチャータイプに対応した1次近似によりこれらのパラメータから困難度DA〜DHを検出する。さらに検出した困難度DA〜DHをピクチャー単位でコントローラ3に通知し、この通知によりコントローラ3より指示される目標ビットレートにより各プログラムprgA〜prgHをデータ圧縮して符号化データでなるトランスポートストリームを出力する。
【0021】
すなわち図3は、エンコーダ2Aを詳細に示すブロック図である。なおエンコーダ2A〜2Hにおいては、同一の構成でなることにより、エンコーダ2Aについてのみ構成を説明し、他のエンコーダ2B〜2Hの重複した説明は省略する。
【0022】
すなわちエンコーダ2Aにおいて、並べ替え回路4は、順次入力されるプログラムprgAによるディジタルビデオ信号について、このディジタルビデオ信号によるピクチャーの配列を符号化処理に対応する配列に並べ替えて出力する。
【0023】
ブロック化回路5は、並べ替え回路4よりラスタ走査の順序で出力される画像データを、符号化処理に対応するマクロブロック単位の順序により出力する。このときブロック化回路5は、必要に応じて色差データについては、これを間引きして出力する。
【0024】
イントラAC演算回路6は、ブロック化回路5の出力データより各ピクチャーのイントラACを計算して出力する。
【0025】
FIFO7は、イントラAC演算回路6を介して入力されるブロック化回路5の出力データを所定時間遅延させて出力する。かくするにつき、この実施の形態においては、このFIFO7による遅延時間が、コントローラ3によるビットレートの計算等に対応するようになされている。なおこの実施の形態において、FIFO7は、GOPのピクチャー数に等しいNピクチャーを一時保持する。
【0026】
動き検出回路8は、このイントラAC演算回路6を介して入力されるブロック化回路5の出力データより、ブロックマッチングの手法を適用して動きベクトルMVを検出し、この動きベクトルMVを所定時間だけ遅延させて動き補償回路9に出力する。このとき動き検出回路8は、符号化処理のピクチャータイプに応じて、前予測、双方向予測により動きベクトルMVを検出する。また動き検出回路8は、この動きベクトルMVの検出の際に得られる動き予測誤差を出力する。
【0027】
動き補償回路9は、フレーム間符号化処理において、内蔵のフレームメモリに保持した予測フレームの画像データを、動きベクトルMVに対応するタイミングにより出力し、これにより予測フレームを動き補償する。このとき動き補償回路9は、Pピクチャーにおいては、前予測により、Bピクチャーにおいては、双方向予測により動き補償する。
【0028】
減算回路10は、フレーム内符号化処理においては、FIFO7の出力データをそのまま続くディスクリートコサイン変換回路(DCT)11に出力する。これに対してフレーム間符号化処理においては、FIFO7の出力データから動き補償回路9の出力データを減算し、動き補償して残る差分データを出力する。
【0029】
ディスクリートコサイン変換回路(DCT)11は、減算回路10の出力データをディスクリートコサイン変換処理し、その結果得られる係数データを所定順序により出力する。
【0030】
量子化回路(Q)12は、レートコントローラ20の設定により量子化テーブルを切り換えて、ディスクリートコサイン変換回路11の出力データを量子化して出力する。
【0031】
逆量子化回路(IQ)14は、量子化回路12における量子化テーブルの切り換えに対応して量子化テーブルを切り換え、量子化回路12の出力データを逆量子化処理し、これにより量子化回路12の入力データを再生する。
【0032】
逆ディスクリートコサイン変換回路(IDCT)16は、逆量子化回路14の出力データを逆ディスクリートコサイン変換処理し、これによりディスクリートコサイン変換回路11の入力データを再生する。
【0033】
加算回路17は、フレーム内符号化処理においては、逆ディスクリートコサイン変換回路16の出力データをそのまま動き補償回路9に出力し、またフレーム間符号化処理においては動き補償回路9の出力データに逆ディスクリートコサイン変換回路16の出力データを加算して出力する。これにより加算回路17は、減算回路10の入力データを再生し、この再生した入力データを動き補償回路9に予測フレームの画像データとして格納する。
【0034】
可変長符号化回路(VLC)18は、量子化回路12の出力データを可変長符号化処理して出力する。バッファ回路19は、可変長符号化回路18の出力データを一旦保持し、所定のデータ転送速度により出力する。これによりこのエンコーダ2Aでは、このバッファ回路19より出力されるプログラムprgAのトランスポートストリームが出力されるようになされている。この処理において、バッファ回路19は、保持したデータ量をマクロブロック単位でレートコントローラ20に出力し、これによりレートコントローラ20において、マクロブロック単位で、発生符号量を検出できるようになされている。
【0035】
レートコントローラ20は、このエンコーダ2Aの動作を制御する演算処理回路により構成され、動きベクトル検出回路8より出力される予測誤差をピクチャー単位で累積してME残差MEを計算するME残差計算部20Aと、ME残差及びイントラACにより困難度DAを計算する困難度計算部20Bと、この困難度DA、バッファ回路18より通知される発生符号量を参考にして、コントローラ3により指定された目標ビットレートRAにより量子化回路12の量子化テーブルを設定する量子化インデックス決定部20Cとの機能ブロックを有する。
【0036】
エンコーダ2Aは、このレートコントローラ20による符号化制御により、コントローラ3により指定された目標ビットレートRAでプログラムprgAを符号化処理してトランスポートストリームを出力する。
【0037】
マルチプレクサ(MUX)21(図2)は、エンコーダ2A〜2Hより出力されるトランスポートストリームを時分割多重化処理して出力する。
【0038】
コントローラ3は、困難度DA〜DHを基準にしてこの多重化装置1に設定された伝送レートを配分することにより、各エンコーダ2A〜2Hの目標ビットレートRA〜RHを計算し、この計算した目標ビットレートRA〜RHを各エンコーダ2A〜2Hに通知する。
【0039】
図4は、プログラムprgA〜prgHの設定を受け付けるモニタ装置の表示画面を示す平面図であり、コントローラ3の制御より所定のモニタ装置に表示される。コントローラ3は、この表示画面上におけるマウスの操作により、各エンコーダ2A〜2Hに入力される各プログラムprgA〜prgHについて、平均ビットレート優先による処理、画質優先による処理の選択を受け付け、また平均ビットレート優先による処理においては、平均ビットレートを受け付ける。
【0040】
この表示画面においては、総合ビットレート(Total Bitrate )の設定により、オペレータが全チャンネルに24〔Mbps〕の伝送速度を設定した場合であり、第1〜第4のプログラムprgA〜prgDについて、優先モード(Priority Mode )の設定により画質優先による処理(Picture Quality )を、第5〜第8のプログラムprgE〜prgHについて、同様の設定により平均ビットレート優先による処理(Avg.Bitrate )を選択した場合である。
【0041】
コントローラ3は、平均ビットレート優先による処理については、各チャンネル毎に、平均ビット(Avg.)、下限値のビットレート(Min.)、上限値のビットレート(Max )の設定を受け付け、このようにして受け付けた平均ビットレートを割り振って余るビットレート(この場合12〔Mbps〕でなる)を画質優先によるチャンネルに等分に割り当て、これを対応する平均ビット(Avg.)に表示する。また事前に設定された条件による下限値のビットレート(Min.)、上限値のビットレート(Max )を画質優先によるチャンネルに表示する。これによりコントローラ3は、優先モード(Priority Mode )に設定されたイベントの実行により、画質優先によるチャンネルについては、平均ビット(Avg.)、下限値のビットレート(Min.)、上限値のビットレート(Max )を入力困難に設定する。
【0042】
図5は、このようにして符号化の条件を受け付けたコントローラ3の処理手順を示すフローチャートである。コントローラ3は、この処理手順において、ステップSP1からステップSP2に移り、ここでこれから符号化処理するピクチャーから続く所定枚数のピクチャーについて、次式の演算処理を各チャンネル毎に実行することにより、各チャンネル毎の時間平均の困難度ADA〜ADHを計算する。なおこの実施の形態において、この時間平均を求める単位時間は、1秒に設定される。またΣの範囲は、これから符号化処理するピクチャーから時間平均を求める単位時間に対応するピクチャーまでであり、jは、A〜Hである。
【0043】
【数1】
【0044】
続いてコントローラ3は、ステップSP3に移り、この計算した時間平均の困難度ADj よりレート設定の関数を各チャンネル毎に規定し、この関数により各チャンネルに仮のビットレートを設定する。
【0045】
ここで図6に示すように、コントローラ3は、平均ビットレート優先のチャンネルにおいては、各チャンネルの時間平均の困難度ADj が各チャンネルに設定された平均ビットレートに対応し、かつ下限値及び上限値のビットレート間で比例関係が成立するように関数を規定する。さらに各ピクチャーの困難度Dj により、このようにして設定した各関数で決まるビットレートを検出し、このビットレートを平均ビットレート優先の各チャンネルに設定する。
【0046】
すなわちコントローラ3は、次式の演算処理により、平均ビットレート優先のチャンネルについて、仮のビットレートを計算する。なおこの(2)式においては、時間平均の困難度ADj をDavg により示す。また、min(A,B)は、値A及びBより値の小さなものを選択する関数である。
【0047】
【数2】
【0048】
これに対して画質優先のチャンネルについて、コントローラ3は、ステップSP1で計算した時間平均の困難度ADj より、チャンネル平均の困難度ΣADj /Nq を計算する。ここでNq は、画質優先のチャンネルの数であり、図4においては、値4である。さらにコントローラ3は、図7に示すように、このチャンネル平均の困難度ΣADj /Nq (Mean Davg)が各チャンネルの平均ビットレートに対応し、かつ最低値及び最大値のビットレート間で比例関係が成立するように、画質優先のチャンネルで共通する関数を規定する。なおここでこの画質優先のチャンネルにおける平均ビットレートは、平均ビットレート優先のチャンネルに設定された平均ビットレートを全体のビットレートより減算して残る減算値のビットレートを、画質優先のチャンネルに等分に配分したものである。また最低値及び最大値は、図4について上述したビットレートである。
【0049】
さらにコントローラ3は、各ピクチャーの困難度Dj により、このようにして設定した関数で決まるビットレートを各画質優先のチャンネル毎に検出し、このビットレートを画質優先の各チャンネルに設定する。
【0050】
かくするにつきコントローラ3は、平均ビットレート優先のチャンネルにおいては、困難度の時間平均関数で決まるビットレートにより、各チャンネルのビットレートを設定するのに対し、画質優先のチャンネルにおいては、このようにして設定した困難度のチャンネル平均関数により各チャンネルのビットレートを設定する。
【0051】
このようにして仮のビットレートを設定すると、コントローラ3は、ステップSP4に移り、この仮のビットレート補正処理を実行する。ここでコントローラ3は、この補正処理により、全体のビットレートが多重化装置1に割り当てられたビットレート24〔Mbps〕になるように、全体のビットレートを設定する。
【0052】
図8は、この仮のビットレート補正処理を示す処理手順であり、コントローラ3は、この処理手順において、ステップSP5からステップSP6に移り、次式の関係式が成立するか否か判断することにより、ステップSP3で検出した各チャンネルの仮のビットレートTmp Ratej による総和のビットレートSum Tmp が、多重化装置1に割り当てられたビットレート(Total Rate)を越えるか否か判断する。
【0053】
【数3】
【0054】
ここで否定結果が得らえると、この場合未だビットレートに余裕があり、この仮のビットレートにより伝送したのでは、何ら意味を持たないヌルビットを伝送することになることにより、コントローラ3は、ステップSP7に移る。ここでコントローラ3は、ビットレートの上限値Maxによりビットレートが制限されていないチャンネルを検出する。さらにコントローラ3は、次式の演算処理により、この検出したチャンネルに余裕のビットレートを比例配分する。
【0055】
【数4】
【0056】
なおこの(4)式におけるTotal Rateは、ビットレートの上限値Maxによりビットレートが制限されているチャンネルのビットレートを、多重化装置1に割り当てられたビットレートTotal Rateより減算したビットレートであり、Sum Tmp Ratej は、ビットレートの上限値Maxによりビットレートが制限されていないチャンネルに仮設定された仮のレートTmp Ratej の総和である。
【0057】
このようにしてビットレートを設定すると、コントローラ3は、ステップSP8に移り、各チャンネルで次式の関係式が成立するか否か判断することにより、このようにしてビットレートを設定したチャンネルにおいて、ビットレートの上限値Max(Rate(Max ))を越えるものが存在するか否か判断する。
【0058】
【数5】
【0059】
ここで上限値Max(Rate(Max ))を越えるものが存在する場合、コントローラ3は、ステップSP9に移り、この上限値Max(Rate(Max ))を越えるチャンネルのビットレートRatej を上限値に設定した後、ステップSP7に戻る。
【0060】
これによりコントローラ3は、必要に応じてステップSP7−SP8−SP9−SP7の処理手順を繰り返し、各チャンネルで上限値を越えない範囲で、仮設定して余るビットレートを配分して各チャンネルのビットレートを設定する。さらにこの設定を完了すると、ステップSP8において否定結果が得られることにより、ステップSP10に移ってこの処理手順を終了する。
【0061】
これに対してステップSP3で検出した各チャンネルの仮のビットレートTmp Ratej による総和のビットレートSum Tmp が、多重化装置1に割り当てられたビットレートTotal Rateを越える場合、ステップSP6において肯定結果が得られることにより、コントローラ3は、ステップSP11に移る。
【0062】
ここでコントローラ3は、ビットレートの下限値Minによりビットレートが制限されていないチャンネルを検出する。さらに次式の演算処理により、多重化装置1に割り当てられたビットレートTotal Rateを越える余分なビットレートをこの検出したチャンネルに比例配分する。
【0063】
【数6】
【0064】
なおこの(6)式におけるTotal Rateは、ビットレートの下限値Minによりビットレートが制限されているチャンネルのビットレートを、多重化装置1に割り当てられたビットレートTotal Rateより減算したビットレートであり、Sum Tmp Ratej は、ビットレートの下限値Minによりビットレートが制限されていないチャンネルに仮設定された仮のレートTmp Ratej の総和である。
【0065】
このようにしてビットレートを設定すると、コントローラ3は、ステップSP12に移り、各チャンネルで次式の関係式が成立するか否か判断することにより、このようにしてビットレートを設定したチャンネルにおいて、ビットレートの下限値Min(Rate(Min ))を越えるものが存在するか否か判断する。
【0066】
【数7】
【0067】
ここで下限値Min(Rate(Min ))を越えるものが存在する場合、コントローラ3は、ステップSP13に移り、この下限値Min(Rate(Min ))を越えるチャンネルのビットレートRatej を下限値に設定した後、ステップSP11に戻る。
【0068】
これによりコントローラ3は、必要に応じてステップSP11−SP12−SP13−SP11の処理手順を繰り返し、各チャンネルで下限値を越えない範囲で、仮設定して不足するビットレートを配分して各チャンネルのビットレートを設定する。さらにこの設定を完了すると、ステップSP12において否定結果が得られることにより、ステップSP10に移ってこの処理手順を終了する。
【0069】
このようにして仮のビットレートを補正して各チャンネルのビットレートを設定すると、コントローラ3は、ステップSP15(図5)に移り、このようにして計算したビットレートを各エンコーダ2A〜2Hに通知する。続いてコントローラ13は、ステップSP16に移り、変数jをインクリメントすることにより、このようにビットレートを算出するピクチャーを続くピクチャーに設定する。
【0070】
続いてコントローラ3は、ステップSP17に移り、ここで時間平均の困難度Davg、チャンネル平均の困難度Mean Davgを更新することにより、仮のビットレート算出に使用した関数を規定する基準値を更新する。
【0071】
ここでコントローラ3は、平均ビットレート優先のチャンネルについては、GOPの最後のピクチャーか否か判断し、ここで最後のピクチャーの場合、次式の演算処理を実行することにより、時間平均の困難度Davgを更新する。
【0072】
【数8】
【0073】
ここで右辺の困難度Davg は、1GOP前の計算基準の困難度である。またkは、重み付け係数であり、十分に大きな整数が適用される。これによりコントローラ3は、困難度Dj の変化に応じて、所定の時定数によりこの計算基準の困難度Davg を変化させ、例えば図9において破線により示すそれまでの時間平均の関数を、実線により示す時間平均の関数に変更する。
【0074】
これに対して画質優先のチャンネルについて、コントローラ3は、何れかのチャンネルを更新基準のチャンネルに設定し、この更新基準のチャンネルにおいて、GOPの最後のピクチャーか否か判断する。さらに最後のピクチャーの場合、コントローラ3は、次式の演算処理を実行することにより、チャンネル平均の困難度Mean Davgを更新する。
【0075】
【数9】
【0076】
ここでNq は、画質優先のチャンネルの数であり、図4の例の場合では、Nq は、値4である。また右辺の困難度Mean Davg は、1GOP前の計算基準の困難度である。これによりコントローラ3は、画質優先の4つのチャンネルのDj についてチャンネル平均ΣADj /Nq を求め、これを重みづけ平均することによって計算基準の困難度Mean Davg を更新し、例えば図10において破線により示すそれまでのチャンネル平均の関数を、実線により示すチャンネル平均の関数に変更する。
【0077】
このようにして困難度Davg 、Mean Davg を更新すると、コントローラ3は、ステップSP18に移り、プログラムが終端したか否か判断し、ここで否定結果が得られると、ステップSP2に戻る。これによりコントローラ3は、GOP単位で時間平均の関数、チャンネル平均の関数を更新しながら、順次ピクチャー単位でビットレートを計算し、この計算したビットレートを各エンコーダ2A〜2Hに通知する。さらに一連の処理が完了すると、ステップSP18において肯定結果が得られることにより、ステップSP18からステップSP19に移り、この処理手順を終了する。
【0078】
これによりコントローラ3は、図1に示すように、平均ビットレート優先によるチャンネルにおいては、各チャンネルに設定された平均ビットレートの前後を、困難度に応じてビットレートが変化するように、目標のビットレートを設定する。また画質優先によるチャンネルについては、平均ビットレート優先によるチャンネルの平均ビットレートを全体のビットレートより減算して残る残りのビットレート(この実施の形態では12〔Mbps〕)の前後を、全体のビットレートが全体の困難度に応じて変化するように、目標ビットレートを設定する。
【0079】
(1−2)第1の実施の形態の動作
以上の構成において、伝送に供する各プログラムprgA〜prgHは(図2)、それぞれエンコーダ2A〜2Hにおいて、一定の量子化テーブルにより符号化処理した際の発生符号量にほぼ対応する困難度DA〜DHが各ピクチャー毎に検出され、この困難度DA〜DHがコントローラ3に通知される。各プログラムprgA〜prgHは、プロフラム全体の伝送レートが困難度DA〜DHを基準にして配分されてぞれぞれ伝送に供する目標ビットレートRA〜RHが計算され、この計算した目標ビットレートRA〜RHが各エンコーダ2A〜2Hに通知され、この通知された目標ビットレートRA〜RHにより符号化処理された後、マルチプレクサ21により多重化処理されて出力される。
【0080】
この目標ビットレートRA〜RHにおいて、各プログラムprgA〜prgHは、これから符号化処理するピクチャーより1秒の時間間隔で、困難度DA〜DHの時間平均値ADj が検出され(図5、ステップSP2)、画質優先モードのチャンネルにおいては、この時間平均値ADj がチャンネル間で平均値化され、チャンネル平均の困難度ΣADj /Nq (Mean Davg)が計算される。
【0081】
さらに平均ビットレートのチャンネルにおいては、各チャンネル毎に、時間平均値の困難度Davgと平均ビットレートとが対応してなる時間平均関数が規定され(図6)、各チャンネルの困難度によりこの時間平均関数で決まるビットレートが仮設定される(図2、ステップSP3)。これに対して画質優先のチャンネルにおいては、チャンネル平均の困難度ΣADj /Nq (Mean Davg)が画質優先チャンネル全体に割り当てられたビットレートをチャンネル数により割り算してなるビットレートに対応するチャンネル平均関数が各チャンネルで共通に規定され(図7)、各チャンネルの困難度によりこのチャンネル平均関数で決まるビットレートが仮設定される(図2、ステップSP3)。
【0082】
さらにこのように仮設定されたビットレートが、上限値、下限値、全体のビットレートにより補正され(図2、ステップSP4)、この補正されたビットレートが目標ビットレートとして各エンコーダ2A〜2Nに通知される。
【0083】
また所定の時間単位で、時間平均の困難度Davgが、困難度に応じて更新され、またGOP単位で平均ビットレート優先の各チャンネルの目標ビットレートが一定の時定数により平均ビットレートに近づくように、さらにはチャンネル平均の困難度Mean Davgが、困難度に応じて変化し、画質優先のチャンネル全体のビットレートがこれらのチャンネルの平均ビットレートに近づくように更新される(図2、ステップSP17)。
【0084】
これにより平均ビットレート優先のチャンネルと、画質優先のチャンネルとが混在する場合に、平均ビットレート優先のチャンネルにおいては、各チャンネルに設定された平均ビットレートの前後を困難度に応じてビットレートが変化するように符号化処理されて多重化される。また画質優先のチャンネルにおいては、画質優先のチャンネル全体のビットレートがこれらのチャンネルの平均ビットレートの前後を全体の困難度に応じてビットレートし、また各チャンネルにおいては困難度に応じてビットレートが変化して符号化処理され、多重化処理される(図1)。
【0085】
(1−3)第1の実施の形態の効果
以上の構成によれば、困難度に応じて、各チャンネルのビットレートを設定するにつき、平均ビットレートを優先するチャンネルについては、各チャンネルに設定された平均ビットレートの前後をビットレートが推移するように、画質を優先するチャンネルについては、平均ビットレートを優先するチャンネルの平均ビットレートを、全体のビットレートより減算して残るビットレートの前後を、全体のビットレートが変位するように、各チャンネルのビットレートを設定することにより、画質優先及び平均ビットレート優先のチャンネルが混在する場合でも、全体的に困難度に応じてビットレートを動的に変化させることができ、その分十分に画質を改善することができる。
【0086】
またこのとき画質を優先するチャンネルについては、時間平均の困難度をチャンネル間で平均値化してチャンネル平均の関数を共通に設定し、このチャンネル平均の関数によりビットレートを設定したことにより、平均ビットレート優先のチャンネルと同様にしてビットレートを設定することができ、その分全体として簡易な処理によりビットレートを設定することができる。
【0087】
また必要に応じて各チャンネルを画質優先又は平均ビットレート優先のチャンネルに設定できることにより、その分必要に応じてこれらの設定を変更して、この種の多重化装置の使い勝手を向上することができる。
【0088】
またこれらの設定の変更においても、画質優先のチャンネルにおいては、チャンネル平均の関数により平均ビットレート優先のチャンネルと同様にしてビットレートを設定することができることにより、その分設定の変更を簡易に実行することができる。
【0089】
(2)他の実施の形態
なお上述の実施の形態においては、GOPを単位にして時間平均の困難度Davg、チャンネル平均の困難度Mean Davgを更新する場合について述べたが、本発明はこれに限らず、必要に応じて種々のピクチャー数により更新してもよい。
【0090】
また上述の実施の形態においては、1秒の時間単位により時間平均の困難度Davgを計算する場合について述べたが、本発明はこれに限らず、必要に応じてこの時間単位を自由に設定することができる。
【0091】
さらに上述の実施の形態においては、これから符号化処理しようとするピクチャーについて、時間平均の困難度Davg、チャンネル平均の困難度MeanDavgを計算してビットレートを設定する場合について述べたが、本発明はこれに限らず、符号化処理結果より時間平均の困難度Davg、チャンネル平均の困難度Mean Davgを計算し、図6及び図7に対応する関数を規定してビットレートを配分する場合等、種々の手法によりビットレートを設定する場合に広く適用することができる。
【0092】
因みに、これらの場合に、画質優先の各チャンネルに共通してチャンネル平均の関数を設定する代わりに、画質優先の全チャンネルより困難度を集計し、この集計した困難度により、一旦、画質優先の全チャンネルに割り当てるビットレートを計算し、このビットレートを画質優先の各チャンネルに配分するようにしてもよい。
【0093】
また上述の実施の形態においては、図6及び図7について説明したように、困難度とビットレートとの関係を一次式による関数により設定する場合について述べたが、本発明はこれに限らず、図11に示すように、二次式による関数によりこれらの関係を設定してもよい。
【0094】
さらに上述の実施の形態においては、MPEGにより各プログラムを符号化処理して伝送する場合について述べたが、本発明はこれに限らず、種々の符号化方式により種々のプログラムを符号化処理して伝送する場合に広く適用することができる。
【0095】
【発明の効果】
上述のように本発明によれば、画質優先のチャンネル全体に割り当てられる平均ビットレートの前後を、画質優先のチャンネル全体のビットレートが推移するように困難度に応じてビットレートを配分することにより、画質優先及び平均ビットレート優先によるチャンネルが混在する場合でも、十分に画質を改善することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係る多重化装置によりビットレートの配分を示すタイムチャートである。
【図2】多重化装置の全体構成を示すブロック図である。
【図3】エンコーダの構成を示すブロック図である。
【図4】図2の多重化装置の初期設定画面を示す平面図である。
【図5】図2の多重化装置のコントローラの処理手順を示すフローチャートである。
【図6】平均ビットレート優先のチャンネルに対して、ビットレートの設定に供する関数を示す特性曲線図である。
【図7】画質優先のチャンネルに対して、ビットレートの設定に供する関数を示す特性曲線図である。
【図8】図5の仮のビットレートの補正処理の処理手順を示すフローチャートである。
【図9】図6の関数の変更を示す特性曲線図である。
【図10】図7の関数の変更を示す特性曲線図である。
【図11】他の実施の形態に係る図6及び図7の関数に対応する関数を示す特性曲線図である。
【図12】統計多重による多重化の説明に供するタイムチャートである。
【図13】画質優先及び平均ビットレート優先によるチャンネルが混在する場合の、従来の多重化におけるビットレートの配分を示すタイムチャートである。
【符号の説明】
1……多重化装置、2A〜2H……エンコーダ、3……コントローラ、4……マルチプレクサ、12……量子化回路、20……レートコントローラ
Claims (6)
- 一定の量子化スケールでビデオデータを符号化処理して発生するデータ量に対応する困難度を、複数チャンネルのビデオデータ毎に検出する困難度の検出手段と、
前記困難度に応じて、各チャンネルに割り当てるビットレートを設定するビットレート設定手段と、
該設定したビットレートにより前記各ビデオデータをそれぞれ符号化処理して多重化し、多重化データを出力する多重化手段とを有する多重化装置において、
前記チャンネル毎に、画質を優先する符号化処理と、平均ビットレートを優先する符号化処理との選択、平均ビットレートの設定を受け付け、前記多重化データのビットレートの入力を受け付ける入力手段を有し、
前記ビットレート設定手段は、
前記平均ビットレートを優先する符号化処理に選択されたチャンネルについては、
前記困難度の時間平均値と前記入力手段で設定された平均ビットレートとに基づいて、前記平均ビットレートにより、前記困難度が増大するに従ってビットレートが増大するように前記ビットレートを設定し、
前記画質を優先する符号化処理に選択されたチャンネルについては、
前記画質を優先する符号化処理に選択されたチャンネルの前記困難度のチャンネル平均値と、前記多重化データのビットレートから前記平均ビットレートを優先する符号化処理に選択されたチャンネルに割り当てて残る残りビットレートを前記画質を優先する符号化処理に選択されたチャンネルに配分した配分ビットレートとに基づいて、平均ビットレートが前記配分ビットレートであって、前記困難度が増大するに従ってビットレートが増大するように前記ビットレートを設定する
ことを特徴とする多重化装置。 - 一定の量子化スケールでビデオデータを符号化処理して発生するデータ量に対応する困難度を、複数チャンネルのビデオデータ毎に検出する困難度の検出のステップと、
前記困難度に応じて、各チャンネルに割り当てるビットレートを設定するビットレート設定のステップと、
該設定したビットレートにより前記各ビデオデータをそれぞれ符号化処理して多重化し、多重化データを出力する多重化のステップとを有する多重化方法において、
前記チャンネル毎に、画質を優先する符号化処理と、平均ビットレートを優先する符号化処理との選択、平均ビットレートの設定を受け付け、前記多重化データのビットレートの入力を受け付ける入力のステップを有し、
前記ビットレート設定のステップは、
前記平均ビットレートを優先する符号化処理に選択されたチャンネルについて、
前記困難度の時間平均値と前記入力のステップで設定された平均ビットレートとに基づいて、前記平均ビットレートにより、前記困難度が増大するに従ってビットレートが増大するように前記ビットレートを設定する平均ビットレート優先チャンネルのビットレート設定ステップと、
前記画質を優先する符号化処理に選択されたチャンネルについて、
前記画質を優先する符号化処理に選択されたチャンネルの前記困難度のチャンネル平均値と、前記多重化データのビットレートから前記平均ビットレートを優先する符号化処理に選択されたチャンネルに割り当てて残る残りビットレートを前記画質を優先する符号化処理に選択されたチャンネルに配分した配分ビットレートとに基づいて、平均ビットレートが前記配分ビットレートであって、前記困難度が増大するに従ってビットレートが増大するように前記ビットレートを設定する画質優先チャンネルのビットレート設定ステップとを有する
ことを特徴とする多重化方法。 - 前記ビットレート設定のステップは、
前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートによる前記多重化データのビットレートが、前記入力のステップで設定された前記多重化データのビットレートとなるように、前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートを補正するビットレートの補正ステップを有する
ことを特徴とする請求項2に記載の多重化方法。 - 前記入力のステップは、
前記複数のチャンネル毎にビットレートの上限値及び下限値の入力を受け付け、
前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップは、
前記入力のステップで設定された前記上限値及び下限値で前記チャンネルのビットレートを制限して設定する
ことを特徴とする請求項2に記載の多重化方法。 - 前記ビットレート設定のステップは、
前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートによる前記多重化データのビットレートが、前記入力のステップで設定された前記多重化データのビットレートとなるように、前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートを補正するビットレートの補正ステップを有し、
前記ビットレートの補正ステップは、
前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートによる前記多重化データのビットレートが、前記入力のステップで設定された前記多重化データのビットレートに対して余裕が有る場合、当該余裕分のビットビットレートを前記上限値で制限されていないチャンネルに配分して加算することにより、前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートを補正する
ことを特徴とする請求項4に記載の多重化方法。 - 前記ビットレート設定のステップは、
前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートによる前記多重化データのビットレートが、前記入力のステップで設定された前記多重化データのビットレートとなるように、前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートを補正するビットレートの補正ステップを有し、
前記ビットレートの補正ステップは、
前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートによる前記多重化データのビットレートが、前記入力のステップで設定された前記多重化データのビットレートを越えている場合、当該越えた分のビットビットレートを前記下限値で制限されていないチャンネルに配分して減算することにより、前記平均ビットレート優先チャンネルのビットレート設定ステップ、前記画質優先チャンネルのビットレート設定ステップで設定されたビットレートを補正する
ことを特徴とする請求項4に記載の多重化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34094297A JP4019478B2 (ja) | 1997-12-11 | 1997-12-11 | 多重化装置及び多重化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34094297A JP4019478B2 (ja) | 1997-12-11 | 1997-12-11 | 多重化装置及び多重化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11177945A JPH11177945A (ja) | 1999-07-02 |
JP4019478B2 true JP4019478B2 (ja) | 2007-12-12 |
Family
ID=18341726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP34094297A Expired - Fee Related JP4019478B2 (ja) | 1997-12-11 | 1997-12-11 | 多重化装置及び多重化方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4019478B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3961681B2 (ja) * | 1998-07-15 | 2007-08-22 | 株式会社東芝 | デジタル放送の階層伝送制御方法及び階層伝送送出装置 |
BR0015030A (pt) * | 1999-10-28 | 2002-06-18 | Ncube Corp | Sistema de largura de banda adaptativo e método para transmitir dados |
JP3767311B2 (ja) * | 2000-03-13 | 2006-04-19 | 日本電気株式会社 | データ放送番組編集装置 |
JP4799191B2 (ja) * | 2006-01-27 | 2011-10-26 | 富士フイルム株式会社 | 通信端末、通信システムおよび通信方法 |
JP5495625B2 (ja) * | 2009-06-01 | 2014-05-21 | キヤノン株式会社 | 監視カメラシステム、監視カメラ及び監視カメラ制御装置 |
JP5561213B2 (ja) * | 2011-03-14 | 2014-07-30 | 日本電気株式会社 | 統計多重制御装置および統計多重制御方法 |
JP2012110019A (ja) * | 2012-01-17 | 2012-06-07 | Fujitsu Ltd | Catvシステム及びそこで用いられるcatvセンタ装置及び加入者端末装置 |
US9379845B2 (en) | 2012-06-04 | 2016-06-28 | Panasonic Intellectual Property Management Co., Ltd. | Transmission device, reception device, transmission method, and reception method |
JP6380935B2 (ja) | 2012-06-04 | 2018-08-29 | パナソニックIpマネジメント株式会社 | 送信装置、受信装置、送信方法および受信方法 |
US11076179B2 (en) | 2017-06-13 | 2021-07-27 | DISH Technologies L.L.C. | Viewership-balanced video multiplexing |
-
1997
- 1997-12-11 JP JP34094297A patent/JP4019478B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11177945A (ja) | 1999-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5805220A (en) | System for transmitting a plurality of video programs simultaneously through a transmission channel | |
US7170938B1 (en) | Rate control method for video transcoding | |
US6587508B1 (en) | Apparatus, method and computer program product for transcoding a coded moving picture sequence | |
Tudor et al. | Real-time transcoding of MPEG-2 video bit streams | |
EP2359602B1 (en) | Method and apparatus for statistical multiplexing | |
KR101194518B1 (ko) | 양자화 단계를 국부적으로 조정하기 위한 방법 | |
US20100091842A1 (en) | Coding rate conversion apparatus, coding rate conversion method, and integrated circuit | |
US9113194B2 (en) | Method and system for interleaving video and data for transmission over a network at a selected bit rate | |
KR20030061809A (ko) | 다른 트랜스코딩 채널 사이에 대역폭 할당을 갖는 통계적리멀티플렉싱 | |
KR20030061806A (ko) | 통계적 멀티플렉서에서의 전송 비트속도를 결정하기 위한방법 및 장치 | |
JP2002209215A (ja) | 符号量制御装置及び方法、並びに画像情報変換装置及び方法 | |
US20040234150A1 (en) | Quantization matrix adjusting method for avoiding underflow of data | |
JP2001145113A (ja) | 画像情報変換装置及び方法 | |
KR20000068362A (ko) | 화상 부호화 제어장치와 방법, 부호화 시스템, 전송 시스템 및방송 시스템 | |
JP4019478B2 (ja) | 多重化装置及び多重化方法 | |
US6785330B1 (en) | Flexible video encoding/decoding method | |
EP1037473A1 (en) | Device and process for regulating bit rate in a system for the statistical multiplexing of streams of images coded according to MPEG 2 coding | |
US6243417B1 (en) | Device and method for encoding image data, and image data transmission method | |
CA2392546C (en) | Video transmission of multiple program signals with encoded bit rates determined by program complexity | |
EP0888009B1 (en) | Device and method for encoding image data, and image data transmission method | |
KR100286108B1 (ko) | 실시간 처리를 위한 비디오 신호에 대한 비트수 추정방법과왜곡추정방법 및 이것들을 이용한 부호화방법과 그 장치 | |
US7391916B2 (en) | Quantization matrix adjusting method for quality improvement | |
JP3889552B2 (ja) | 符号量割り当て装置および方法 | |
US20010000675A1 (en) | Video data encoding apparatus, video data encoding method, and video data transmission method | |
JPH11252546A (ja) | 伝送速度変換装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040416 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070410 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070427 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070917 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101005 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101005 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |