JP3986147B2 - 音響信号処理装置及びオーディオ高速再生方法 - Google Patents
音響信号処理装置及びオーディオ高速再生方法 Download PDFInfo
- Publication number
- JP3986147B2 JP3986147B2 JP02302398A JP2302398A JP3986147B2 JP 3986147 B2 JP3986147 B2 JP 3986147B2 JP 02302398 A JP02302398 A JP 02302398A JP 2302398 A JP2302398 A JP 2302398A JP 3986147 B2 JP3986147 B2 JP 3986147B2
- Authority
- JP
- Japan
- Prior art keywords
- audio
- speed
- video
- stream
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Signal Processing For Digital Recording And Reproducing (AREA)
- Television Signal Processing For Recording (AREA)
Description
【発明の属する技術分野】
本発明は、AV(オーディオ、ビジュアル)機器において、映像の再生速度に合わせてオーディオ信号の再生速度を制御する音響信号処理装置及びオーディオ高速再生方法に関するものである。
【0002】
【従来の技術】
近年、DVD等のように、ビデオデータとオーディオデータが圧縮されたメディアを再生するシステムが急増している。これらのシステムでは、ビデオ及びオーディオの入力データは、パケットに分割されてマルチプレックスされている。このような入力データからビデオデータ(ビデオ信号とも言う)及びオーディオデータ(オーディオ信号とも言う)を分離し、これらのデータをデコードすることによって、ビデオ及びオーディオを再生する。ここで、デジタルビデオディスク(DVD)を例に取り、従来技術について述べる。
【0003】
ビデオデータは、MPEG2の仕様で圧縮されており、Iピクチャ、Pピクチャ、Bピクチャの3種類のピクチャデータから構成されている。NTSC規格において、フィールドストラクチャの場合は各ピクチャが1/60秒、フレームストラクチャの場合は各ピクチャが1/30秒単位で圧縮されて記録されている。
【0004】
またDVDにおけるオーディオ規格の一つとしてAC−3やMPEG−2MCがある。ここでは、オーディオデータが1536オーディオサンプルを1フレームとして構成されており、標本化周波数を48kHz とし、32ms単位で圧縮されてDVDに記録されている。
【0005】
上記のようにオーディオデータやビデオデータを構成する単位時間が異なる場合に、これらのデータを再生するには、同期を取る必要がある。DVDでは、ビデオ及びオーディオの出力の同期は、各パケットにつけられているプログラム・タイム・スタンプ(PTS)の管理により実行される。即ちビデオデータ、オーディオデータの再生タイミングを独立に調整することによって同期が確立される。
【0006】
このようなシステムにおいて、高速再生を行う場合について考える。ビデオを高速再生する場合は以下の手法が一般的に用いられている。
(1−1) ;Iピクチャのみ再生する( 約6倍〜7倍)。
(1−2) ;I及びPピクチャのみ再生する(約1.5 倍から3倍)。
(1−3) ;I及びPピクチャ,及びBピクチャの一部を再生する(約1倍から1.5 倍) 。
【0007】
各ピクチャの枚数はエンコードの方法、ビットレート等によって変化するため、上記(1)〜(3)の手法では、高速再生時に再生速度が一定倍率にならず、約1.5 倍から約7倍くらいの幅を持つ可能性がある。
【0008】
オーディオの場合、従来よりある高速再生を実現する手法として、以下の手法が考えられる。
(2−1) ;出力データを間引き、不連続点を滑らかにする。
(2−2) ;無音部を削除する。
【0009】
しかしながら(2−1)の手法は、固定倍率になるため、ビデオの高速再生の倍率がオーディオより高い場合には音が連続するが、ビデオがオーディオの高速再生の倍率より早く再生できない。またビデオの高速再生の倍率がオーディオより低い場合には音が途切れてしまう。(2−2)の手法は、オーディオの高速再生の倍率がビデオの最も早い場合の高速再生倍率(最大倍速)まで上げるのが困難であり、無音部を検出するための処理が重いという問題があり、実現が難しい。
【0010】
一方、一般的に記録媒体を高速再生するのは、視聴者がある場面をサーチする場合が大部分である。この場合、現在市販されているDVDでは、高速再生時にはオーディオの出力を停止して、ビデオのみ再生していることが多い。
【0011】
【発明が解決しようとする課題】
本発明は、このような従来の問題点に鑑みてなされたものであって、信号処理が簡単であり、ビデオの再生速度に合わせてオーディオを高速再生を行い、且つ音切れが少ない音響信号処理装置及びオーディオ高速再生方法を実現することを目的とするものである。
【0013】
【課題を解決するための手段】
本願の請求項1記載の発明は、再生速度を指示する制御手段と、オーディオ信号とビデオ信号が多重化された入力信号を処理してオーディオ信号とビデオ信号を出力する入力信号処理手段と、前記入力信号処理手段の出力するオーディオ信号を一時的に蓄積するオーディオストリームバッファと、前記入力信号処理手段の出力するビデオ信号を一時的に蓄積するビデオストリームバッファと、前記オーディオストリームバッファからオーディオ信号を取り出して信号処理を行い、オーディオ出力信号を生成するオーディオプロセッサと、前記ビデオストリームバッファからビデオ信号を取り出して信号処理を行い、前記制御手段から高速再生の指示を受けた場合に、ビデオ信号を高速再生してビデオ出力信号を生成するビデオプロセッサと、前記ビデオストリームバッファの状態を監視し、そのビデオストリーム残量が所定量Vより少なくなったときに、前記オーディオプロセッサがオーディオ信号の高速再生を行うようにデータの入出力を制御するバッファコントローラと、を具備することを特徴とするものである。
【0014】
本願の請求項2記載の発明は、再生速度を指示する制御手段と、オーディオ信号とビデオ信号が多重化された入力信号を処理してオーディオ信号とビデオ信号を出力する入力信号処理手段と、前記入力信号処理手段の出力するオーディオ信号を一時的に蓄積するオーディオストリームバッファと、前記入力信号処理手段の出力するビデオ信号を一時的に蓄積するビデオストリームバッファと、前記オーディオストリームバッファからオーディオ信号を取り出して信号処理を行い、オーディオ出力信号を生成するオーディオプロセッサと、前記ビデオストリームバッファからビデオ信号を取り出して信号処理を行い、前記制御手段から高速再生の指示を受けた場合に、ビデオ信号を高速再生してビデオ出力信号を生成するビデオプロセッサと、前記オーディオストリームバッファ及び前記ビデオストリームバッファの状態を監視し、前記オーディオストリームバッファの空き容量が所定量Aより少なくなったとき、かつ前記ビデオストリームバッファのビデオストリーム残量が所定量Vより少なくなったときに、前記オーディオプロセッサがオーディオ信号の高速再生を行うようにデータの入出力を制御するバッファコントローラと、を具備することを特徴とするものである。
【0015】
本願の請求項3記載の発明は、請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、ビデオ信号を高速再生する場合、前記オーディオストリームバッファの内容を断続的にフラッシュすることによってオーディオ信号を間引き、オーディオの再生データ量を削減して高速再生することを特徴とするものである。
【0016】
本願の請求項4記載の発明は、請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、ビデオ信号を高速再生する場合、前記入力信号処理手段から出力されたオーディオ信号をオーディオストリームバッファに転送するのを所定量だけ中断することによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することを特徴とするものである。
【0017】
本願の請求項5記載の発明は、請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、ビデオ信号を高速再生する場合、前記オーディオプロセッサにおいて、前記オーディオストリームバッファからの入力データを所定のデータ量をスキップすることによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することを特徴とするものである。
【0018】
本願の請求項6記載の発明は、請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、ビデオ信号を高速再生する場合、前記オーディオプロセッサにおいて、所定の時間オーディオ信号の出力を停止することによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することを特徴とするものである。
【0019】
【発明の実施の形態】
(実施の形態1)
以下、本発明の実施の形態1における音響信号処理装置について、図面を参照しながら説明する。図1は本実施の形態における音響信号処理装置の構成を示すブロック図である。この音響信号処理装置は、入力ストリーム処理手段2、オーディオストリームバッファ3、ビデオストリームバッファ4、バッファコントローラ5A、制御手段6、オーディオプロセッサ7、ビデオプロセッサ8を含んで構成される。
【0020】
入力ストリーム処理手段2に入力される入力ストリーム1は、DVDの出力データ、又はこれと同等のデータである。即ち入力ストリームデータはビデオ信号及びオーディオ信号が圧縮されてマルチプレックスされたデータである。本実施の形態では説明の簡略化のため、入力ストリーム1をDVDのストリームデータとし、ビデオデータがMPEG2に準拠し、オーディオデータがAC−3に準拠するものとして説明する。しかしこの他のストリーム形式でも同様である。
【0021】
入力ストリーム1が入力されると、入力ストリーム処理手段2は入力ストリームから再生すべきビデオデータ及びオーディオデータを取り出し、ビデオデータをビデオストリームバッファ4に格納し、オーディオデータをオーディオストリームバッファ3に格納する。このとき、バッファコントローラ5Aはオーディオストリームバッファ3の空き容量を監視する。
【0022】
通常状態では、ビデオデータがビデオプロセッサ8に入力されると、ビデオプロセッサ8はデコード処理を行い,ビデオ出力信号10に変換する。またオーディオデータがオーディオプロセッサ7に入力されると、オーディオプロセッサ7はデコード処理を行い、オーディオ出力信号9に変換する。
【0023】
高速再生時には、まずビデオプロセッサ8は制御手段6からの指示に従い、所定倍率の高速再生を行う。このときオーディオプロセッサ7は音のピッチを通常再生時と同一にして、一部のオーディオデータを廃棄することによりオーディオの高速再生を行う。所定倍率の高速再生は、MPEG2ビデオの場合、以下の手法を用いる。
(1−1) ;Iピクチャのみ再生する(約6倍〜7倍)。
(1−2) ;I及びPピクチャのみ再生する(約1.5 倍から3倍)。
(1−3) ;I及びPピクチャ、及びBピクチャの一部を再生する(約1倍から1.5 倍) 。なお、(1−1) 〜(1−3) 以外の高速再生でもよい。
【0024】
これと同時にバッファコントローラ5Aはオーディオストリームバッファ3の空き容量を監視する。そしてオーディオストリームバッファ3の空き容量が所定の値Aより少なくなるまで通常再生を行い、所定の値Aより少なくなったときにオーディオプロセッサ7に残量情報を伝達する。所定の値Aはシステムによって様々に設定することができるが、本実施の形態では、空き容量が0(A=0)の場合について述べる。勿論0以外の空き容量値を用いて制御を行っても同様である。
【0025】
オーディオストリームバッファ3の空き容量が0になった場合に、オーディオプロセッサ7はオーディオの出力データを一部削除することによって、オーディオの高速再生を行う。これを図8を用いて説明を行う。図8は再生中のオーディオストリームバッファ3とビデオストリームバッファ4の状態を示す説明図である。本図において、データ残量を網点部で示し、空き領域を非網点部で示す。
【0026】
ビデオを高速再生をしている場合で、オーディオストリームバッファ3の空き容量が0にならない間は、状態2のようになる。このとき、ビデオストリームバッファ4の残量は0でないので、ビデオプロセッサ8によりビデオのみを高速再生する。このビデオの再生速度に合わせてオーディオストリームが入力されるため、通常再生しているオーディオデータのデコード量が入力データ量より少なくなる。やがて図8の状態1のようになり、オーディオストーリームバッファ3の空き容量が0になる。
【0027】
オーディオストリームバッファ3の空き容量が0になると、バッファコントローラ5Aはこの情報をオーディオプロセッサ7に伝達する。そしてオーディオデータを所定量廃棄(フラッシュ)し、オーディオプロセッサ7は廃棄されたデータの続きから通常速度でオーディオデータのデコードを再開する。
【0028】
次に、廃棄するデータの所定量と廃棄方法を手法毎に述べる。
(i) オーディオストリームバッファのクリア(フラッシュ)
オーディオストリームバッファ3のデータをフラッシュにより一部又は全て廃棄し、デコードしないストリームを一部間引くことにより、再生するオーディオデータを削減して高速再生を行う。廃棄するオーディオデータの所定量は、システムにおけるオーディオストリームバッファサイズ以下の任意の量となる。これにより再生するオーディオデータは図4のようになる。
【0029】
図4は、オーディオの出力ストリームを示し、通常再生の場合がストリーム1であり、バッファクリアした場合がストリーム2である。図4における例は、高速再生時に、ストリーム1の中のフレーム4の途中からフレーム7の途中までがオーディオストリームバッファのクリアによって削除された場合を示す。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、バッファクリアによって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。
【0030】
この手法は処理が簡単であるので実現しやすい。しかし、オーディオデータのフレーム単位で処理ができないため、場合によってはストリームエラーを発生してしまう。また、オーディオストリームバッファ3の内容が全て消えるため、次のフレームのデータが入力されるまで、オーディオデータが出力できないという問題がある。
【0031】
(ii)オーディオストリームの入力制限
入力ストリーム処理手段2からオーディオストリームバッファ3への入力を所定時間停止(未転送)することにより、再生するオーディオデータを削減し、高速再生を行う。廃棄するデータの所定量は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、入力制限毎に(n-1) オーディオフレーム以上のオーディオデータを廃棄する必要がある。
【0032】
再生するオーディオデータは図5のようになる.図5はオーディオの入力ストリームを示し、通常再生の場合がストリーム1、入力制限した場合がストリーム2である。図5における例は、高速再生時に、ストリーム1の中のフレーム4の途中からフレーム7の途中までのオーディオデータが未転送により削除された場合である。その結果、高速再生時にデコードするストリームはストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。
【0033】
この手法は処理が簡単であるので実現しやすい。しかし、オーディオデータのフレーム単位で処理ができないため、場合によってはストリームエラーを発生してしまう。また、次のフレームのデータが入力されるまで、オーディオデータが出力できないという問題がある.
【0034】
(iii) オーディオストリームのスキップ
オーディオプロセッサ7によって1〜数フレーム分、オーディオデータをフレーム単位でスキップ(廃棄)することにより、再生するオーディオデータを削減して高速再生を行う。廃棄するデータは、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、スキップ毎に(n-1) オーディオフレーム以上廃棄する必要がある。
【0035】
再生するオーディオデータは図6のようになる。図6において、通常再生の場合がストリーム1であり、フレームスキップした場合がストリーム2である.図6における例は、高速再生時にストリーム1の中のフレーム4からフレーム7までがフレームスキップによって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、フレームスキップによって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。この手法は処理が簡単であるので実現しやすい。しかも、オーディオデータのフレーム単位で処理されるため、ストリームエラーが発生しない。
【0036】
(iv)オーディオの出力停止
オーディオプロセッサ7によって1〜数フレーム分、オーディオデータをフレーム単位で出力停止することにより、再生するオーディオデータを削減し、高速再生を行う。出力停止するデータの所定量の最小値は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、出力停止毎に(n-1) オーディオフレーム以上を廃棄する必要がある。
【0037】
再生するオーディオデータは図7のようになる。図7はオーディオの出力ストリームを示し、通常再生の場合がストリーム1、出力停止の場合がストリーム2である。図7における例は、高速再生時にストリーム1の中のフレーム4からフレーム7までが出力停止によって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、出力停止によって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。この手法は処理が簡単であるので実現しやすい。しかも、オーディオデータのフレーム単位で処理するため、ストリームエラーが発生しない。
【0038】
以上のように、オーディオストリームバッファ3の空き容量が0になる度に、オーディオストリームを(i) 〜(iv)のいずれかの方法で所定量廃棄することにより、ビデオの高速再生の速度を変えることなく、ビデオの再生速度に合ったオーディオの高速再生を実現することができる。また上記のオーディオのストリーム廃棄方法を取ることにより、音切れの少ないオーディオ高速再生を実現できる。これにより、処理が簡単で、ビデオの再生速度に合わせた高速再生を実現しながら、音切れが少ない音響信号処理装置を実現することができる。
【0039】
(実施の形態2)
次に本発明の実施の形態2における音響信号処理装置について、図面を参照しながら説明する。図2は本実施の形態における音響信号処理装置の構成を示すブロック図である。この音響信号処理装置は、実施の形態1と同様に入力ストリーム処理手段2、オーディオストリームバッファ3、ビデオストリームバッファ4、バッファコントローラ5B、制御手段6、オーディオプロセッサ7、ビデオプロセッサ8を含んで構成される。
【0040】
入力ストリーム処理手段2に入力される入力ストリーム1は、DVDの出力データ又はこれと同等のデータとし、ビデオ信号及びオーディオ信号が圧縮されてマルチプレックスされたストリームデータである。本実施の形態でも説明の簡略化のため、入力ストリーム1をDVDのストリームデータとし、ビデオデータがMPEG2に準拠し、オーディオデータがAC−3に準拠するものとして説明する。しかしこの他のストリーム形式でも同様である.
【0041】
入力ストリーム処理手段2では、入力ストリーム1から再生すべきビデオデータ及びオーディオデータを取り出し、ビデオデータをビデオストリームバッファ4に格納し、オーディオデータをオーディオストリームバッファ3に格納する。このとき、ビデオストリームバッファ4の残量はバッファコントローラ5Bによって監視される。
【0042】
通常状態ではビデオデータはビデオプロセッサ8に入力される。ビデオプロセッサ8はビデオデータをデコード処理し、ビデオ出力信号10に変換する。またオーディオデータはオーディオプロセッサ7に入力される。オーディオプロセッサ7はオーディオデータをデコード処理し、オーディオ出力信号9に変換する。
【0043】
高速再生時には、まずビデオプロセッサ8は制御手段6からの指示に従い、所定の高速再生を行う。このときオーディオプロセッサ7は通常再生を行う。所定の高速再生は、MPEG2ビデオの場合、以下の手法を用いる。
(1−1) ;Iピクチャのみ再生する(約6倍〜7倍)。
(1−2) ;I及びPピクチャのみ再生する(約1.5 倍から3倍)。
(1−3) ;I及びPピクチャ、及びBピクチャの一部を再生する(約1倍から1.5 倍) 。なお、(1−1) 〜(1−3) 以外の高速再生でもよい。
【0044】
これと同時にバッファコントローラ5Bはビデオストリームバッファ4の残量を監視し、ビデオストリームバッファ4の残量が所定値Vより少なくなるまで通常再生を行い、所定値Vより少なくなったときにオーディオプロセッサ7に残量情報を伝達する。所定値Vの値はシステムによって様々に設定が可能であるが、本実施の形態では残量が0(V=0)の場合について述べる。勿論0以外の残量値を用いて制御を行っても同様である。
【0045】
ビデオストリームバッファ4の残量が0になった場合に、オーディオデータを一部削除することによって、オーディオの高速再生を行う。これを図9を用いて説明を行う。図9は再生中のオーディオストリームバッファ3とビデオストリームバッファ4の状態を示す説明図である。本図において、データ残量を網点部で示し、空き領域を非網点部で示す。
【0046】
ビデオデータを高速再生をしている場合で、ビデオストリームバッファ4の残量が0にならない間は図9の状態2のようになる。即ち、ビデオストリームバッファ4及びオーディオストリームバッファ3は、それぞれ残量は0でない状態となり、ビデオのみを高速再生する。このビデオの再生速度に合わせてオーディオストリームのデータが入力されるため、通常再生しているオーディオデータのデコード量が入力データ量より少なくなる。このようにオーディオストリームバッファ3のオーディオデータが処理されないために、入力ストリーム1からビデオストリームの新たな抽出ができなくなり、図9の状態1のように、ビデオストーリームバッファ4の残量が0になる。
【0047】
ビデオストリームバッファ4の残量が0になると、バッファコントローラ5Bはこの情報をオーディオプロセッサ7に伝達する。この情報を受けたオーディオプロセッサ7は、オーディオストリームバッファ3のデータを所定量廃棄し、その後、廃棄されたデータの続きから通常速度でデコードを再開する。
【0048】
廃棄するデータの所定量と廃棄方法を手法毎に述べる。
(i) オーディオストリームバッファクリア
オーディオストリームバッファ3のデータを一部又は全て廃棄し、デコードしていないストリームを一部間引くことにより、再生するオーディオデータを削減し、高速再生を行う。廃棄するオーディオデータの所定量Aは、システムにおけるオーディオストリームバッファサイズ3以下の任意の量となる。これにより再生されるオーディオデータは図4のようになる。
【0049】
図4は、オーディオの出力ストリームを示し、通常再生の場合がストリーム1であり、バッファクリアした場合がストリーム2である。図4における例は、高速再生時に、ストリーム1の中のフレーム4の途中からフレーム7の途中までがオーディオストリームのバッファクリアによって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、バッファクリアによって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。
【0050】
この手法は処理が簡単であるので実現しやすい。しかし、オーディオデータのフレーム単位で処理ができないため、場合によってはストリームエラーを発生してしまう。また、オーディオストリームバッファの内容が全て消えるため、次のフレームのデータが入力されるまで、オーディオデータが出力できないという問題がある。
【0051】
(ii)オーディオストリームの入力制限
入力ストリーム処理手段2からオーディオストリームバッファ3への入力を所定時間停止することにより、再生するオーディオデータを削減し、高速再生を行う。廃棄するデータの所定量Aは、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、入力制限毎に(n-1) オーディオフレーム以上のオーディオデータを廃棄する必要がある。
【0052】
再生するオーディオデータは図5のようになる。図5はオーディオの出力ストリームを示し、通常再生の場合がストリーム1、オーディオデータの未転送より削除した場合がストリーム2である。図5における例は、高速再生時にストリーム1の中のフレーム4の途中からフレーム7の途中までが削除された場合である。その結果、高速再生時にデコードするストリームはストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、データの入力制限(未転送)によって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5倍となる。
【0053】
この手法は処理が簡単であるので実現しやすい。しかし、オーディオデータのフレーム単位で処理ができないため、場合によってはストリームエラーを発生してしまう。また、オーディオストリームバッファのデータが無くなるため、次のフレームのデータが入力されるまで、オーディオデータが出力できないという問題がある。
【0054】
(iii) オーディオストリームのスキップ
オーディオプロセッサ7によって1〜数フレーム分、オーディオデータをフレーム単位でスキップすることにより、再生するオーディオデータを削減し、高速再生を行う。スキップするデータの所定量は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、スキップ毎に(n-1) オーディオフレーム以上廃棄する必要がある。
【0055】
再生するオーディオデータは図6のようになる。図6はオーディオの出力ストリームを示し、通常再生の場合がストリーム1、フレームスキップした場合がストリーム2である。図6における例は、高速再生時にストリーム1の中のフレーム4からフレーム7までがフレームスキップによって削除された場合である。その結果、高速再生時にデコードするストリームはストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、バッファクリアによってデコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5倍となる。この手法は処理が簡単であるので実現しやすい。しかも、オーディオデータのフレーム単位で処理するため、ストリームエラーが発生しない。
【0056】
(iv)オーディオの出力停止
オーディオプロセッサ7によって1〜数フレーム分、オーディオデータをフレーム単位で出力停止することにより、再生するオーディオデータを削減し、高速再生を行う。出力停止するデータの所定量は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、出力停止毎に(n-1) オーディオフレーム以上廃棄する必要がある。
【0057】
再生するオーディオデータは図7のようになる。図7はオーディオの出力ストリームを示し、通常再生の場合がストリーム1、出力停止の場合がストリーム2である。図7における例は、高速再生時にストリーム1の中のフレーム4からフレーム7までが出力停止によって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、出力停止によってデコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5倍となる。この手法は処理が簡単であるので実現しやすい。しかも、オーディオデータのフレーム単位で処理されため、ストリームエラーが発生しない。
【0058】
以上のように、ビデオストリームバッファ4の残量が0になる度に、オーディオストリームを所定量廃棄することにより、ビデオの高速再生の速度を変えることなく、またビデオの再生速度に合ったオーディオの高速再生を実現することができる。また上記のオーディオのストリーム廃棄方法を取ることにより、音切れの少ないオーディオ高速再生を実現できる。これにより、処理が簡単で、ビデオの再生速度に合わせた高速再生を実現しながら、音切れが少ない音響信号処理装置を実現することができる。
【0059】
(実施の形態3)
次に本発明の実施の形態3における音響信号処理装置について、図面を参照しながら説明する。図3は本実施の形態における音響信号処理装置の構成を示すブロック図である。この音響信号処理装置は、実施の形態1と同様に入力ストリーム処理手段2、オーディオストリームバッファ3、ビデオストリームバッファ4、バッファコントローラ5C、制御手段6、オーディオプロセッサ7、ビデオプロセッサ8を含んで構成される。
【0060】
入力ストリーム処理手段2に入力される入力ストリーム1は、DVDの出力データ、又はこれと同等のデータである。即ち入力ストリームデータはビデオ信号及びオーディオ信号が圧縮されてマルチプレックスされたデータである。本実施の形態でも説明の簡略化のため、入力ストリーム1をDVDのストリームデータとし、ビデオデータがMPEG2に準拠し、オーディオデータがAC−3に準拠するものとして説明する。しかしこの他のストリーム形式でも同様である.
【0061】
入力ストリーム処理手段2は、入力ストリーム1から再生すべきビデオデータ及びオーディオデータを取り出す。そして、ビデオデータをビデオストリームバッファ4に格納し、オーディオデータをオーディオストリームバッファ3に格納する。このとき、ビデオストリームバッファ4の残量及びオーディオストリームバッファ3の空き容量は、バッファコントローラ5Cによって監視される。
【0062】
通常状態ではビデオデータはビデオプロセッサ8に入力され、デコード処理された後、ビデオ出力信号10に変換される。またオーディオデータはオーディオプロセッサ7に入力され、デコード処理された後、オーディオ出力信号9に変換される。
【0063】
高速再生時には、まずビデオプロセッサ8は制御手段6からの指示に従い、所定の高速再生を行う。このときオーディオプロセッサ7は通常再生を行う。所定の高速再生は、MPEG2ビデオの場合、以下の手法を用いる。
(1−1) ;Iピクチャのみ再生する(約6倍〜7倍)。
(1−2) ;I及びPピクチャのみ再生する(約1.5 倍から3倍)。
(1−3) ;I及びPピクチャ、及びBピクチャの一部を再生する(約1倍から1.5 倍) 。なお、(1−1) 〜(1−3) 以外の高速再生でもよい。
【0064】
これと同時にバッファコントローラ5Cはビデオストリームバッファ4の残量及びオーディオストリームバッファ3の空き容量を監視する。そして、ビデオストリームバッファの残量が所定値Vより少なくなるまで、又はオーディオストリームバッファ3の空き容量が所定値Aより少なくなるまで通常再生を行う。ビデオストリームバッファ4の残量が所定値Vより少なくなったとき、又はオーディオストリームバッファ3の空き容量が所定値Aより少なくなったときに、オーディオプロセッサ7に残量情報を伝達する。所定の値V及びAはシステムによって様々に設定が可能であるが、本実施の形態では、所定値V及びAが0の場合について述べる。勿論、0以外の値を用いて制御を行っても同様である。
【0065】
ビデオストリームバッファ4の残量が0になった場合、又はオーディオストリームバッファ3の空き容量が0になった場合に、オーディオデータを一部削除することによって、オーディオの高速再生を行う。これを図8及び図9を用いて説明を行う。図8及び図9は再生中のオーディオストリームバッファ3及びビデオストリームバッファ4のデータ残存状態の例を示している。
【0066】
ビデオデータを高速再生をしている場合で、ビデオストリームバッファ4の残量が0にならない間は、図8及び図9の状態2のようになる。即ち、ビデオストリームバッファ4及びオーディオストリームバッファ3の残量は0でないが、ビデオデータのみ高速再生し、このビデオの再生速度に合わせてデータストリームが入力されるため、通常再生しているオーディオデータのデコード量が入力データ量より少なくなる。このため図8の状態1のように、オーディオストーリームバッファ3の空き容量が0になる。又は図9の状態1のように、ビデオストリームバッファ4の残量が0になる。
【0067】
オーディオストリームバッファ3の空き容量が0、又はビデオストリームバッファ4の残量が0になると、バッファコントローラ5Cはこの情報をオーディオプロセッサ7に伝達する。そしてオーディオストリームバッファ3のデータを所定量廃棄し、オーディオプロセッサ7はその後廃棄されたデータの続きから、通常速度でデコードを再開する。
【0068】
データの廃棄量と廃棄方法を手法毎に述べる。
(i) オーディオストリームバッファのクリア
オーディオストリームバッファ3のデータを一部全て廃棄し、デコードしていないストリームを一部間引くことにより、再生するオーディオデータを削減し、高速再生を行う。廃棄するオーディオデータの所定量は、システムにおけるオーディオストリームバッファサイズ以下の任意の量である。これにより、再生するオーディオデータは図4のようになる。
【0069】
図4はオーディオの出力ストリームを示し、通常再生の場合がストリーム1であり、バッファクリアした場合がストリーム2である。図4における例は、高速再生時にストリーム1の中のフレーム4の途中からフレーム7の途中までがオーディオストリームのバッファクリアによって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、バッファクリアによって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。
【0070】
この手法は処理が簡単であるので実現しやすい。しかし、オーディオデータをフレーム単位で処理ができないため、場合によってはストリームエラーを発生してしまう。また、オーディオストリームバッファ3の内容が全て消えるため、次のフレームのデータが入力されるまで、オーディオデータが出力できないという問題がある。
【0071】
(ii)オーディオストリームの入力制限
入力ストリーム処理手段2からオーディオストリームバッファ3への入力を所定時間停止(未転送)することにより、再生するオーディオデータを削減し、高速再生を行う。廃棄するデータの所定量は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、入力制限毎に(n-1) オーディオフレーム以上のオーディオデータを廃棄する必要がある。
【0072】
再生するオーディオデータは図5のようになる。図5はオーディオの入力ストリームを示し、通常再生の場合がストリーム1であり、バッファクリアした場合がストリーム2である。図5における例は、高速再生時にストリーム1の中のフレーム4の途中からフレーム7の途中までがオーディオデータの入力制限によって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、バッファクリアによって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。
【0073】
この手法は処理が簡単であるので実現しやすい。しかし、オーディオデータをフレーム単位で処理ができないため、場合によってはストリームエラーを発生してしまう。また、オーディオストリームバッファ3の内容が全て消えるため、次のフレームのデータが入力されるまで、オーディオデータが出力できないという問題がある。
【0074】
(iii) オーディオストリームのスキップ
オーディオプロセッサによって1〜数フレーム分、オーディオデータをフレーム単位でスキップすることにより、再生するオーディオデータを削減し、高速再生を行う。廃棄するデータの所定量は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、スキップ毎に(n-1) オーディオフレーム以上廃棄する必要がある。
【0075】
再生するオーディオデータは図6のようになる。図6はオーディオの出力ストリームを示し、通常再生の場合がストリーム1であり、フレームスキップした場合がストリーム2である。図6における例は、高速再生時にストリーム1の中のフレーム4からフレーム7までがオーディオストリームのスキップによって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、フレームスキップによって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。この手法は処理が簡単であるので実現しやすい。しかも、オーディオデータのフレーム単位で処理するため、ストリームエラーが発生しない。
【0076】
(iv)オーディオの出力停止
オーディオプロセッサ7によって1〜数フレーム分、オーディオデータをフレーム単位で出力停止することにより、再生するオーディオデータを削減し、高速再生を行う。出力停止するデータの所定量は、システムによってサポートされるビデオの再生倍速によって決定される。ビデオの再生倍速が通常再生のn倍の場合、出力停止毎に(n-1) オーディオフレーム以上廃棄する必要がある。
【0077】
再生するオーディオデータは図7のようになる。図7はオーディオの出力ストリームを示し、通常再生の場合がストリーム1であり、出力停止の場合がストリーム2である。図7における例は、高速再生時に、ストリーム1の中のフレーム4からフレーム7までがオーディオストリームの出力停止によって削除された場合である。その結果、高速再生時にデコードするストリームは、ストリーム1のAの区間が削除されたストリーム2のようになる。この例の場合、出力停止によって、デコード可能なフレーム数は通常再生の場合の12から8に削減でき、再生倍率は12/8=1.5 倍となる。この手法は処理が簡単であるので実現しやすい。しかも、オーディオデータのフレーム単位で処理するため、ストリームエラーが発生しない。
【0078】
以上のように、オーディオストリームバッファ3の空き容量が0になるか、又はビデオストリームバッファ4の残量が0になる度に、オーディオストリームを所定量廃棄する。こうして、ビデオの高速再生の速度を変えることなく、またビデオの再生速度に合ったオーディオの高速再生を実現することができる。
【0079】
MPEG規格のデータストリームにおいて、オーディオデータ及びビデオデータは、一般に夫々独立にチップ化されたLSIでデコード処理される場合が多い。また同一チップであっても、夫々のコアが独立のブロックに形成される場合が多い。このような場合は、バッファコントローラ5は、オーディオストリームバッファ3及びビデオストリームバッファ4の両方の内容を監視できるとは限らない。このような状況では、バッファコントローラ5は監視できる方のストリームバッファのみを参照する。オーディオデータ及びビデオデータが同一のチップのLSIでデコード処理される場合は、データバスを介して両方のストリームバッファを参照することができる。
【0080】
以上のようにオーディオのストリーム廃棄方法を上記(i) 〜(iv)の手法を取ることにより、音切れの少ないオーディオ高速再生を実現できる。これにより、処理が簡単でビデオの再生速度に合わせた高速再生を実現しながら、音切れが少ない音響信号処理装置を実現することができる。
【0081】
尚、以上の実施の形態において、フレーム単位でオーディオデータを削除する場合、例えばフレーム0 〜フレームi ,フレームi+1 ,・・・フレームk-1 ,フレームk ,フレームk+1 を入力し、フレームi+1 ,・・・フレームk-1 を削除する場合には、フレームi ,フレームk のオーディオデータに対してクロスフェードをかけるものとする。
【0083】
【発明の効果】
請求項1記載の発明によれば、オーディオストリームバッファの空き容量を監視し、それぞれ所定量より少なくなった場合にオーディオストリームを所定量廃棄することにより、ビデオの高速再生の速度を変えることなくビデオの再生速度に合った音切れの少ないオーディオの高速再生を実現することができる。
【0084】
請求項2記載の発明によれば、オーディオストリームバッファの空き容量を監視し、それぞれ所定量より少なくなった場合、又はビデオストリームバッファの残量を監視し、それぞれ所定量より少なくなった場合、オーディオストリームを所定量廃棄することにより、ビデオの高速再生の速度を変えることなくビデオの再生速度に合った音切れの少ないオーディオの高速再生を実現することができる
。
【0085】
請求項3記載の発明によれば、オーディオストリームバッファの内容を断続的にフラッシュすることによってオーディオ信号を間引き、オーディオの再生データ量を削減して高速再生することにより、ビデオの高速再生の速度を変えることなくビデオの再生速度に合った音切れの少ないオーディオの高速再生を実現することができる。
【0086】
請求項4記載の発明によれば、入力信号処理手段から出力されたオーディオ信号をオーディオストリームバッファに転送するのを所定量だけ中断することによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することにより、ビデオの高速再生の速度を変えることなくビデオの再生速度に合った音切れの少ないオーディオの高速再生を実現することができる。
【0087】
請求項5記載の発明によれば、オーディオプロセッサにおいて、オーディオストリームバッファからの入力データを所定のデータ量をスキップすることによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することにより、ビデオの高速再生の速度を変えることなくビデオの再生速度に合った音切れの少ないオーディオの高速再生を実現することができる。
【0088】
請求項6記載の発明によれば、オーディオプロセッサにおいて、所定の時間オーディオ信号の出力を停止することによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することにより、ビデオの高速再生の速度を変えることなくビデオの再生速度に合った音切れの少ないオーディオの高速再生を実現することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態1における音響信号処理装置の構成図である。
【図2】本発明の実施の形態2における音響信号処理装置の構成図である。
【図3】本発明の実施の形態3における音響信号処理装置の構成図である。
【図4】本発明の実施の形態1〜3の音響信号処理装置におて、オーディオストリーム削除方法(i) を示す説明図である。
【図5】実施の形態1〜3の音響信号処理装置におて、オーディオストリーム削除方法(ii)を示す説明図である。
【図6】実施の形態1〜3の音響信号処理装置におて、オーディオストリーム削除方法(iii) を示す説明図である。
【図7】実施の形態1〜3の音響信号処理装置におて、オーディオストリーム削除方法(iv)を示す説明図である。
【図8】実施の形態1及び3の音響信号処理装置において、オーディオストリームバッファ及びビデオストリームバッファのデータの残存状態を示す説明図である。
【図9】実施の形態2及び3の音響信号処理装置において、オーディオストリームバッファ及びビデオストリームバッファのデータの残存状態を示す説明図である。
【符号の説明】
1 入力ストリーム
2 入力ストリーム処理手段(入力信号処理手段)
3 オーディオストリームバッファ
4 ビデオストリームバッファ
5A,5B,5C バッファコントローラ
6 制御手段
7 オーディオプロセッサ
8 ビデオプロッセッサ
9 オーディオ出力信号
10 ビデオ出力信号
Claims (6)
- 再生速度を指示する制御手段と、
オーディオ信号とビデオ信号が多重化された入力信号を処理してオーディオ信号とビデオ信号を出力する入力信号処理手段と、
前記入力信号処理手段の出力するオーディオ信号を一時的に蓄積するオーディオストリームバッファと、
前記入力信号処理手段の出力するビデオ信号を一時的に蓄積するビデオストリームバッファと、
前記オーディオストリームバッファからオーディオ信号を取り出して信号処理を行い、オーディオ出力信号を生成するオーディオプロセッサと、
前記ビデオストリームバッファからビデオ信号を取り出して信号処理を行い、前記制御手段から高速再生の指示を受けた場合に、ビデオ信号を高速再生してビデオ出力信号を生成するビデオプロセッサと、
前記ビデオストリームバッファの状態を監視し、そのビデオストリーム残量が所定量Vより少なくなったときに、前記オーディオプロセッサがオーディオ信号の高速再生を行うようにデータの入出力を制御するバッファコントローラと、を具備することを特徴とする音響信号処理装置。 - 前記バッファコントローラはさらに、
前記オーディオストリームバッファの状態を監視し、前記ビデオストリーム残量と前記オーディオストリームバッファの空き容量とがそれぞれ所定量V、所定量Aより少なくなったときに、前記オーディオプロセッサがオーディオ信号の高速再生を行うようにデータの入出力を制御することを特徴とする請求項1記載の音響信号処理装置。 - 請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、
ビデオ信号を高速再生する場合、前記オーディオストリームバッファの内容を断続的にフラッシュすることによってオーディオ信号を間引き、オーディオの再生データ量を削減して高速再生することを特徴とするオーディオ高速再生方法。 - 請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、
ビデオ信号を高速再生する場合、前記入力信号処理手段から出力されたオーディオ信号をオーディオストリームバッファに転送するのを所定量だけ中断することによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することを特徴とするオーディオ高速再生方法。 - 請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、
ビデオ信号を高速再生する場合、前記オーディオプロセッサにおいて、前記オーディオストリームバッファからの入力データを所定のデータ量をスキップすることによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することを特徴とするオーディオ高速再生方法。 - 請求項1又は2の音響信号処理装置におけるオーディオ高速再生方法であって、
ビデオ信号を高速再生する場合、前記オーディオプロセッサにおいて、所定の時間オーディオ信号の出力を停止することによって、オーディオの再生データ量を削減してオーディオ信号を高速再生することを特徴とするオーディオ高速再生方法。
Priority Applications (11)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02302398A JP3986147B2 (ja) | 1998-02-04 | 1998-02-04 | 音響信号処理装置及びオーディオ高速再生方法 |
TW087105480A TW405328B (en) | 1997-04-11 | 1998-04-10 | Audio decoding apparatus, signal processing device, sound image localization device, sound image control method, audio signal processing device, and audio signal high-rate reproduction method used for audio visual equipment |
US09/058,713 US6356639B1 (en) | 1997-04-11 | 1998-04-10 | Audio decoding apparatus, signal processing device, sound image localization device, sound image control method, audio signal processing device, and audio signal high-rate reproduction method used for audio visual equipment |
KR1019980013966A KR100296838B1 (ko) | 1997-04-11 | 1998-04-11 | 음향영상정위장치및음향영상제어방법 |
CNB200410007394XA CN100334810C (zh) | 1997-04-11 | 1998-04-13 | 用于视听设备的声象定位装置和方法 |
CN98103260A CN1208288A (zh) | 1997-04-11 | 1998-04-13 | 用于视听设备的信号处理及声象定位装置和方法 |
DE69841538T DE69841538D1 (de) | 1997-04-11 | 1998-04-14 | Audioverarbeitung für audiovisuelle Apparatur |
EP98106710A EP0871293B1 (en) | 1997-04-11 | 1998-04-14 | Audio processing for audio visual equipment |
ES98106710T ES2340111T3 (es) | 1997-04-11 | 1998-04-14 | Procesamiento de audio para equipo audiovisual. |
KR1020000043783A KR100333999B1 (ko) | 1997-04-11 | 2000-07-28 | 오디오 신호 처리 장치 및 오디오 신호 고속 재생 방법 |
US09/994,962 US6823310B2 (en) | 1997-04-11 | 2001-11-27 | Audio signal processing device and audio signal high-rate reproduction method used for audio visual equipment |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02302398A JP3986147B2 (ja) | 1998-02-04 | 1998-02-04 | 音響信号処理装置及びオーディオ高速再生方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11225309A JPH11225309A (ja) | 1999-08-17 |
JP3986147B2 true JP3986147B2 (ja) | 2007-10-03 |
Family
ID=12098897
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP02302398A Expired - Lifetime JP3986147B2 (ja) | 1997-04-11 | 1998-02-04 | 音響信号処理装置及びオーディオ高速再生方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3986147B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010191415A (ja) * | 1999-08-24 | 2010-09-02 | Sony Corp | 音声再生方法および音声再生装置 |
JP4895418B2 (ja) * | 1999-08-24 | 2012-03-14 | ソニー株式会社 | 音声再生方法および音声再生装置 |
KR100669896B1 (ko) * | 1999-11-10 | 2007-01-18 | 톰슨 라이센싱 | Dvd 레코더를 위한 페이딩 특징 |
JP5059301B2 (ja) * | 2005-06-02 | 2012-10-24 | ルネサスエレクトロニクス株式会社 | 同期再生装置および同期再生方法 |
-
1998
- 1998-02-04 JP JP02302398A patent/JP3986147B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH11225309A (ja) | 1999-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8285113B2 (en) | Method for generating additional information for guaranteeing seamless playback between data streams, recording medium storing the information, and recording, editing and/or playback apparatus using the same | |
KR100290331B1 (ko) | 오디오-비디오 신호의 동기 재생 장치 | |
JP4039417B2 (ja) | 記録再生装置 | |
KR100694164B1 (ko) | 재생 방법 및 그 기록매체 | |
JP2004104728A (ja) | データ編集可能なビデオカメラ、データ編集、記録プログラム、データ記録装置および記録媒体 | |
KR101014664B1 (ko) | 복수의 데이터 스트림 간의 연속 재생을 보장하는 재생방법 및 그 재생 장치 | |
JP3911380B2 (ja) | 転送レート制御装置 | |
JP2006320009A (ja) | 再生装置、再生方法及びその記録媒体 | |
KR100629093B1 (ko) | 디코딩 장치 및 디코딩 방법 | |
JP3986147B2 (ja) | 音響信号処理装置及びオーディオ高速再生方法 | |
JP2008176918A (ja) | 再生装置、再生方法及びその記録媒体 | |
JP2002033712A (ja) | パケット処理装置及びそのパケット出力方法 | |
JP5168105B2 (ja) | 音声再生装置、及び音声再生方法 | |
JP4219883B2 (ja) | 転送レート制御装置、及び記録媒体 | |
JP4973714B2 (ja) | 記録再生装置 | |
JP2005004840A (ja) | ディスク再生装置 | |
JP2005033732A (ja) | 信号処理装置、信号処理方法、プログラム、及び記録媒体 | |
JP2005276246A (ja) | 情報再生方法および情報再生装置 | |
JPH1042254A (ja) | 動画像データ再生方式 | |
JP2007043736A (ja) | 記録再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050114 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070227 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070417 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070612 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070710 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100720 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110720 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110720 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120720 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120720 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130720 Year of fee payment: 6 |
|
EXPY | Cancellation because of completion of term |