JP6704037B2 - 音声符号化装置および方法 - Google Patents

音声符号化装置および方法 Download PDF

Info

Publication number
JP6704037B2
JP6704037B2 JP2018230792A JP2018230792A JP6704037B2 JP 6704037 B2 JP6704037 B2 JP 6704037B2 JP 2018230792 A JP2018230792 A JP 2018230792A JP 2018230792 A JP2018230792 A JP 2018230792A JP 6704037 B2 JP6704037 B2 JP 6704037B2
Authority
JP
Japan
Prior art keywords
power
auxiliary information
unit
transient
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018230792A
Other languages
English (en)
Other versions
JP2019066868A (ja
Inventor
公孝 堤
公孝 堤
菊入 圭
圭 菊入
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Publication of JP2019066868A publication Critical patent/JP2019066868A/ja
Application granted granted Critical
Publication of JP6704037B2 publication Critical patent/JP6704037B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/005Correction of errors induced by the transmission channel, if related to the coding algorithm
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/022Blocking, i.e. grouping of samples in time; Choice of analysis windows; Overlap factoring
    • G10L19/025Detection of transients or attacks for time/frequency resolution switching
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/21Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Description

本発明は、複数のフレームからなる音声信号を符号化して得られた音声符号を含んだ音声パケットを、IP網や移動体通信網経由で伝送する際のエラー隠蔽に関するものであり、さらに詳しくは、エラー隠蔽を実現するための音声符号化装置および方法に関する。
音声・音響信号(以下「音声信号」と総称する)をIP網や移動体通信において伝送する際には、音声信号をエンコードして少ないビット数で表現して音声パケットに分割し、その音声パケットを通信網経由で伝送する。通信網を通じて受け取られた音声パケットは、受信側のサーバ、MCU、端末等において復号され、復号音声信号が得られる。
通信網を通じて音声パケットを伝送する際には、通信網の輻輳状態等に起因して、一部の音声パケットが失われる又は音声パケットに書き込まれた情報の一部に誤りが生じるといった現象(いわゆるパケットロス)が起こりうる。そのような場合には、受信側において音声パケットを正しく復号することができないため、所望の復号音声信号を得ることが出来ない。また、パケットロスが生じた音声パケットに対応する復号音声信号は雑音として知覚されるため、受聴する人間に対して与える主観品質を著しく損なう。
上記のような不都合を解消するため、パケットロスにより失われた部分の音声音響信号を補間するパケットロス隠蔽技術として、「受信側での隠蔽技術」と「送信側での隠蔽技術」がある。
このうち「受信側での隠蔽技術」では、例えば、非特許文献1の技術のように過去に正常に受信したパケットに含まれていた復号音声信号をピッチ単位でコピーした上で、予め決めた減衰係数を乗算することにより、パケットロスした部分に対応する音声信号を生成する。ところが、「受信側での隠蔽技術」は、パケットロスした部分の音声の性質がパケットロスする直前の音声と似ていることを前提としているため、パケットロスした部分がロスする直前の音声と異なる性質を持つ場合や、パワーが急激に変化する場合に十分な隠蔽効果を発揮することができない。
また、「受信側での隠蔽技術」では、より高度なものとして特許文献1の技術がある。この特許文献1の技術では、過去に正常に受信したパケットに含まれていた復号音声をコピーして隠蔽信号を生成するが、コピー元の音声の性質(パワースペクトルの形状)に応じて変化する減衰係数を乗算することにより、異音が少なく高音質な隠蔽信号の整形を行う点が、前述した非特許文献1の技術とは異なる。
一方、「送信側での隠蔽技術」として、特許文献2の技術、および特許文献3の技術がある。
このうち特許文献2の技術では、過去に正常に受信したパケットに含まれる音声信号をバッファに蓄積するとともに、パケットが失われたときにバッファのどの位置から音声信号をコピーするかを示す位置情報を、補助情報として符号化して伝送する。さらに位置情報に加えて、パケットロス部分が無音区間か否かといった振幅情報を補助情報に含めることによってパケットロスが生じた部分が本来無音区間である場合に、不要な音声が混入することを防止する。
また、特許文献3の技術では、復号装置が、パケットロスを隠蔽する第一の隠蔽装置と、第一の隠蔽装置が出力した第一隠蔽信号を補助情報に基づき修正する第二の隠蔽装置と、補助情報を復号する補助情報復号装置を有する。第一の隠蔽装置で十分な隠蔽効果を発揮しない場合、第二の隠蔽装置は、補助情報復号装置が生成する補助情報を用いて第一隠蔽信号を修正し、第二隠蔽信号を生成する。補助情報としてパワースペクトル包絡や、隣接するフレームのパワースペクトル包絡から予測される値と入力パワースペクトル包絡の誤差を符号化した値を利用する。第二の隠蔽装置は、補助情報として利用できるパワースペクトル包絡を有するよう周波数領域において第一隠蔽信号にゲインを乗算し、第一隠蔽信号よりも精度の高い第二隠蔽信号を生成する。
再公表特許WO2007/000988号公報 特開2003−316670号公報 特開2008−111991号公報
ITU-T G.711 Appendix I
しかしながら、特許文献1の技術は、過去に正常に受信した復号信号から予測により隠蔽信号を生成する手法であるため、例えばカスタネットの打音のように予測結果から大きく外れるパワー変化を有する隠蔽信号を、過去の信号から高精度に生成することは困難である。
また、特許文献2の技術は、送信側で無音区間に関する振幅情報を生成し、パケットロスした部分が無音区間の場合に隠蔽信号が生成されるのを防げるが、上記述べたようなカスタネットの打音のような突発的なパワー変化を伴う音について十分な隠蔽効果を有さない。
また、特許文献3の技術は、フレーム単位で時間周波数変換した上で周波数領域での処理を行う方法であるため、処理の単位がフレーム単位となり、フレーム内での急激なパワーの変化を扱うのが困難である。また、過去の信号とパケットロスした信号の相関が高いことを前提としてパケットロス部分の復号音声を高精度化するため、パワーが急激に変化する部分がパケットロスした場合には、信号の相関が低くなるため、パワースペクトル包絡の予測誤差が大きくなるため少ないビット数での符号化が困難であり、高精度な復号音声を生成することが困難である。
以上述べたとおり、従来技術では、拍手やカスタネットの打音のように時間的に早いパワーの変化を伴う信号(以下「トランジェント信号」という)に対しては、十分なエラー隠蔽の効果を有しない、という課題があった。即ち、受信側において、音声信号におけるどのタイミングでトランジェント信号が発生するかを、直前に正常に受け取った音声パケットから復号により得られた復号信号に基づいて正確に予測することは極めて困難である。
本発明は、上記課題を解決し、前後の信号から予測することが困難なトランジェント信号におけるパケットロスを高精度に隠蔽可能なエラー隠蔽技術を与えることを目的とする。
本発明の一側面は、音声復号に関するものであり、以下の音声復号装置、音声復号方法、および音声復号プログラムを含み得る。
本発明の一側面に係る音声復号装置は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出部と、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号部と、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号部と、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成部と、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正部と、を備えることを特徴とする。
本発明の一側面に係る音声復号方法は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置、により実行される音声復号方法であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出ステップと、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号ステップと、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号ステップと、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成ステップと、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正ステップと、を備えることを特徴とする。
本発明の一側面に係る音声復号プログラムは、コンピュータを、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出部と、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号部と、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号部と、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成部と、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正部、として機能させることを特徴とする。
一実施形態において、パワーの時間変化に関する補助情報符号に、1フレームよりも短いサブフレーム複数分のパワーを関数近似したパラメータが含まれてもよい。例えば、パワーの時間変化に関する補助情報は、符号化対象のフレームを複数のサブフレームに分割してサブフレーム毎に算出したパワーを最適に直線近似する予測係数であってもよいし、前記サブフレーム毎に算出したパワーを直線近似した際の予測係数と切片であってもよいし、何らかの関数を用いて近似した際のパラメータであってもよいし、予め定めたコードブックに格納された候補ベクトルのうち、サブフレーム毎に算出したパワーを最適に近似する候補ベクトルのインデックスであってもよいし、その他事前に仮定したモデルに対し定まるパラメータであってもよい。また、パワーの時間変化に関する補助情報は、符号化対象のフレームを1つ以上のサブフレームに分割してサブフレーム毎に算出したパワーを用いて予測を行った際の予測係数と予測誤差系列を符号化したものであってもよい。なお、補助情報の符号化の方法については特に限定しない。
一実施形態において、パワーの時間変化に関する補助情報符号に、1フレームよりも短いサブフレーム複数分のパワーをベクトル量子化して得られたベクトルに関する情報が含まれてもよい。
一実施形態において、補助情報復号部は、音声復号部が復号する音声符号に対応するフレームの1つ以上前あるいは1つ以上後ろのフレームに相当する時間区間に含まれる音声信号に関する補助情報符号を復号してもよい。
ところで、上記パワーの時間変化に関する補助情報は、周波数領域におけるサブバンド毎に算出してもよい。
即ち、一実施形態において、パワーの時間変化に関する補助情報に、全周波数帯域を複数に分割したサブバンド毎に算出した1フレームよりも短いサブフレーム複数分のパワーを、サブバンド毎に関数近似したパラメータが含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、全周波数帯域を複数に分割したサブバンド毎に算出した1フレームよりも短いサブフレーム複数分のパワーを、サブバンド毎にベクトル量子化して得られたベクトルに関する情報が含まれてもよい。
また、一実施形態において、隠蔽信号修正部は、全周波数帯域を複数に分割したサブバンド毎に、第一の隠蔽信号を修正してもよい。
上記のようにサブバンド毎の補助情報を用いる場合でも、補助情報復号部は、音声復号部が復号する音声符号に対応するフレームの1つ以上前あるいは1つ以上後ろのフレームに相当する時間区間に含まれる音声信号に関する補助情報符号を復号してもよい。
なお、音声符号を復号して得られる信号は、MDCT(Modified Discrete Cosine Transform)やQMF(Quadrature Mirror Filter)により周波数領域に変換された信号であってもよいし、過去の復号信号からパケットロス隠蔽のために生成した第一隠蔽信号は上記変換により周波数領域に変換されたものであってもよい。また、第一隠蔽係数は、過去に正常に受信した音声符号を復号して得られる復号信号を反復して得られるものであってもよいし、ピッチ単位で反復して得られるものであってもよいし、予測により生成してもよい。
本発明の一側面(音声復号に関する側面)に係る一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値と、が含まれてもよい。このとき、パワーの時間変化に関する補助情報に、パワーの変化をベクトル量子化した情報が、さらに含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値と、が含まれてもよい。このとき、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーの変化をベクトル量子化した情報が、さらに含まれてもよい。
また、一実施形態において、補助情報復号部は、補助情報を2以上の集合として別々に復号してもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、全周波数帯域を複数に分割したサブバンドのうちの一部のサブバンドについて算出した、1フレームよりも短いサブフレーム複数分のパワーに関する情報が含まれていてもよい。
また、一実施形態において、補助情報復号部は、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドに関するパワーの量子化において、上記1つ以上のサブバンドに含まれる1つ以上のサブバンドであるコアサブバンドのパワー、および、コアサブバンドのパワーとコアサブバンド以外のサブバンドのパワーとの差分、を量子化した情報が含まれる補助情報を復号してもよい。このとき、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレーム以降のパワーの変化を量子化した情報が、さらに含まれてもよい。
また、一実施形態において、補助情報復号部は、パワーの急激な変化の有無を表す指示情報に応じて異なる長さで符号化された補助情報を復号してもよい。
なお、過去の復号信号からパケットロス隠蔽のために生成した第一隠蔽信号は、別の実施形態として例えば、TS26.402の第5.2節に示すような既存の標準技術により生成してもよいし、標準技術ではない別の隠蔽信号生成技術により生成してもよい。
本発明の別の側面は、音声符号化に関するものであり、以下の音声符号化装置、音声符号化方法、および音声符号化プログラムを含み得る。
本発明の別の側面に係る音声符号化装置は、複数のフレームからなる音声信号を符号化する音声符号化装置であって、音声信号を符号化する音声符号化部と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部と、を備えることを特徴とする。
本発明の別の側面に係る音声符号化方法は、複数のフレームからなる音声信号を符号化する音声符号化装置、により実行される音声符号化方法であって、音声信号を符号化する音声符号化ステップと、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化ステップと、を備えることを特徴とする。
本発明の別の側面に係る音声符号化プログラムは、コンピュータを、複数のフレームからなる音声信号を符号化する音声符号化部と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部、として機能させることを特徴とする。
一実施形態において、パワーの時間変化に関する補助情報に、1フレームよりも短いサブフレーム複数分のパワーを関数近似したパラメータが含まれてもよい。
一実施形態において、パワーの時間変化に関する補助情報に、1フレームよりも短いサブフレーム複数分のパワーをベクトル量子化して得られたベクトルに関する情報が含まれてもよい。
一実施形態において、補助情報符号化部は、音声符号化部が符号化するフレームの1つ以上前あるいは1つ以上後ろのフレームに相当する時間区間に含まれる音声信号について、前記補助情報を推定し符号化してもよい。
一実施形態において、パワーの時間変化に関する補助情報に、全周波数帯域を複数に分割したサブバンド毎に算出した1フレームよりも短いサブフレーム複数分のパワーをサブバンド毎に関数近似したパラメータが含まれてもよい。
一実施形態において、パワーの時間変化に関する補助情報に、全周波数帯域を複数に分割したサブバンド毎に算出した1フレームよりも短いサブフレーム複数分のパワーをベクトル量子化して得られたベクトルに関する情報が含まれてもよい。
上記のようにサブバンド毎の補助情報を用いる場合でも、補助情報符号化部は、音声符号化部が符号化するフレームの1つ以上前あるいは1つ以上後ろのフレームに相当する時間区間に含まれる音声信号について、前記補助情報を推定し符号化してもよい。
一実施形態において、補助情報符号化部は、補助情報を2以上の集合として別々に符号化してもよい。
なお、一例として、補助情報符号化部は、補助情報をスカラ量子化した上で符号化してもよいし、ベクトル量子化した上で符号化してもよいし、事前に用意したコードブックを用いて補助情報を直接符号化してもよい。ここでの符号化の方法については特に限定しない。また、補助情報符号化部は、必要なサンプル数だけ音声信号を蓄積した上で、1フレームを複数のサブフレームに分割してサブフレーム毎に算出したパワーを算出し、補助情報としてもよい。補助情報は、上記サブフレーム毎に算出したパワーを最適に直線近似する予測係数であってもよいし、サブフレーム毎に算出したパワーを直線近似した際の予測係数および切片であってもよいし、何らかの関数を用いて近似した際のパラメータであってもよいし、予め定めたコードブックに格納された候補ベクトルのうち、サブフレーム毎に算出したパワーを最適に近似する候補ベクトルのインデックスであってもよいし、その他事前に仮定したモデルに対し定まるパラメータであってもよい。なお、符号化の方法については、前述した補助情報復号部で用いたものに対応する符号化方法を用いる。
本発明の別の側面(音声符号化に関する側面)に係る一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームのパワーあるいはパワーが急激に変化するサブフレームのパワーを量子化した値と、が含まれてもよい。このとき、パワーの時間変化に関する補助情報に、パワーの変化をベクトル量子化した情報が、さらに含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値と、が含まれてもよい。
また、一実施形態において、パワーの時間変化に関する補助情報に、パワーの急激な変化の有無を表す指示情報と、パワーが急激に変化する位置と、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーあるいはパワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーを量子化した値と、が含まれてもよい。このとき、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドのパワーの変化をベクトル量子化した情報が、さらに含まれてもよい。
また、一実施形態において、全周波数帯域を複数に分割したサブバンドのうち1つ以上のサブバンドについて求めた、1フレームよりも短いサブフレーム複数分のパワーに関する情報が含まれていてもよい。
また、一実施形態において、これら補助情報は、全周波数帯域を複数に分割したサブバンドのうち1つ以上のサブバンドに関するものであってもよい。なお、符号化の方法については、前述した補助情報復号部で用いたものに対応する符号化方法を用いる。
また、一実施形態において、補助情報符号化部は、パワーが急激に変化するサブフレームに含まれる1つ以上のサブバンドに関するパワーの量子化において、上記1つ以上のサブバンドに含まれる1つ以上のサブバンドであるコアサブバンドのパワー、および、コアサブバンドのパワーとコアサブバンド以外のサブバンドのパワーとの差分、を量子化してもよい。このとき、パワーの時間変化に関する補助情報に、パワーが急激に変化するサブフレーム以降のパワーの変化を量子化した情報が、さらに含まれてもよい。
また、一実施形態において、補助情報符号化部は、補助情報を、パワーの急激な変化の有無を表す指示情報に応じて異なる長さで符号化してもよい。
本発明は、以下の態様も採用しうる。本発明に係る音声符号化装置は、複数のフレームからなる音声信号を符号化する音声符号化装置であって、音声信号を符号化する音声符号化部と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部と、を備え、前記補助情報符号化部は、前記補助情報として、パワーの変化に関するフラグ及び量子化トランジェントパワーを推定し符号化する。
前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれてもよい。
本発明に係る音声符号化装置は、複数のフレームからなる音声信号を符号化する音声符号化装置であって、音声信号を符号化する音声符号化部と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部と、を備え、前記補助情報符号化部は、前記補助情報として、パワーの変化に関するフラグを推定し符号化し、前記フラグが所定のモードである場合、前記補助情報として、さらに、量子化トランジェントパワーを推定し符号化し、前記フラグが所定のモードでない場合、前記補助情報として、量子化トランジェントパワーを含めない。
本発明に係る音声復号装置は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出部と、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号部と、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号部と、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成部と、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正部と、を備え、前記補助情報復号部は、前記補助情報符号に含まれる、パワーの変化に関するフラグ及び量子化トランジェントパワーを復号して、補助情報として前記フラグ及び前記量子化トランジェントパワーを求める。
前記補助情報符号には、前記フラグ及び前記量子化トランジェントパワーのみが含まれてもよい。
本発明に係る音声復号装置は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出部と、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号部と、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号部と、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成部と、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正部と、を備え、前記補助情報復号部は、前記補助情報符号に含まれる、パワーの変化に関するフラグを復号し、前記フラグが所定のモードである場合、さらに前記補助情報符号に含まれる量子化トランジェントパワーを復号して、補助情報として前記フラグ及び前記量子化トランジェントパワーを求め、前記フラグが所定のモードでない場合、前記補助情報として、量子化トランジェントパワーを含めない。
本発明に係る音声符号化方法は、複数のフレームからなる音声信号を符号化する音声符号化装置、により実行される音声符号化方法であって、音声信号を符号化する音声符号化ステップと、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化ステップと、を備え、前記補助情報符号化ステップでは、前記音声符号化装置は、前記補助情報として、パワーの変化に関するフラグ及び量子化トランジェントパワーを推定し符号化する。
本発明に係る音声符号化方法は、複数のフレームからなる音声信号を符号化する音声符号化装置、により実行される音声符号化方法であって、音声信号を符号化する音声符号化ステップと、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化ステップと、を備え、前記補助情報符号化ステップでは、前記音声符号化装置は、前記補助情報として、パワーの変化に関するフラグを推定し符号化し、前記フラグが所定のモードである場合、前記補助情報として、さらに、量子化トランジェントパワーを推定し符号化し、前記フラグが所定のモードでない場合、前記補助情報として、量子化トランジェントパワーを含めない。
本発明に係る音声復号方法は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置、により実行される音声復号方法であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出ステップと、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号ステップと、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号ステップと、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成ステップと、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正ステップと、を備え、前記補助情報復号ステップでは、前記音声復号装置は、前記補助情報符号に含まれる、パワーの変化に関するフラグ及び量子化トランジェントパワーを復号して、補助情報として前記フラグ及び前記量子化トランジェントパワーを求める。
本発明に係る音声復号方法は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置、により実行される音声復号方法であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出ステップと、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号ステップと、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号ステップと、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成ステップと、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正ステップと、を備え、前記補助情報復号ステップでは、前記音声復号装置は、前記補助情報符号に含まれる、パワーの変化に関するフラグを復号し、前記フラグが所定のモードである場合、さらに前記補助情報符号に含まれる量子化トランジェントパワーを復号して、補助情報として前記フラグ及び前記量子化トランジェントパワーを求め、前記フラグが所定のモードでない場合、前記補助情報として、量子化トランジェントパワーを含めない。
さらに、本発明は、以下の態様も採用しうる。一実施形態に係る音声符号化装置は、複数のフレームからなる音声信号を符号化する音声符号化装置であって、音声信号を符号化する音声符号化部と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部と、を備え、前記補助情報符号化部は、前記補助情報として、パワーの変化に関するフラグを推定し符号化し、前記フラグが所定のモードである場合、前記補助情報として、さらに、量子化トランジェントパワーを推定し符号化し、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めず、前記補助情報には、前記フラグのみが含まれる。
また、一実施形態に係る音声復号装置は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出部と、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号部と、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号部と、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成部と、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正部と、を備え、前記補助情報復号部は、前記補助情報符号に含まれる、パワーの変化に関するフラグを復号し、前記フラグが所定のモードである場合、さらに前記補助情報符号に含まれる量子化トランジェントパワーを復号して、補助情報として前記フラグ及び前記量子化トランジェントパワーを求め、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めず、前記補助情報には、前記フラグのみが含まれる。
また、一実施形態に係る音声符号化方法は、複数のフレームからなる音声信号を符号化する音声符号化装置、により実行される音声符号化方法であって、音声信号を符号化する音声符号化ステップと、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化ステップと、を備え、前記補助情報符号化ステップでは、前記音声符号化装置は、前記補助情報として、パワーの変化に関するフラグを推定し符号化し、前記フラグが所定のモードである場合、前記補助情報として、さらに、量子化トランジェントパワーを推定し符号化し、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めず、前記補助情報には、前記フラグのみが含まれる。
また、一実施形態に係る音声復号方法は、音声符号と、音声符号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報符号と、を含んだ音声パケットから、音声符号を復号する音声復号装置、により実行される音声復号方法であって、音声パケットにおけるパケットエラー又はパケットロスを検出し、検出結果を示すエラーフラグを出力するエラー/ロス検出ステップと、音声パケットに含まれる音声符号を復号して復号信号を求める音声復号ステップと、音声パケットに含まれる補助情報符号を復号して補助情報を求める補助情報復号ステップと、前記エラーフラグが音声パケットの異常を示す場合、既に求められた復号信号に基づいて、パケットロスを隠蔽するための第一の隠蔽信号を生成する第一隠蔽信号生成ステップと、前記補助情報に基づいて、第一の隠蔽信号を修正する隠蔽信号修正ステップと、を備え、前記補助情報復号ステップでは、前記音声復号装置は、前記補助情報符号に含まれる、パワーの変化に関するフラグを復号し、前記フラグが所定のモードである場合、さらに前記補助情報符号に含まれる量子化トランジェントパワーを復号して、補助情報として前記フラグ及び前記量子化トランジェントパワーを求め、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めず、前記補助情報には、前記フラグのみが含まれる。
さらに、本発明は、以下の態様も採用しうる。一実施形態に係る音声符号化装置は、複数のフレームからなる音声信号を符号化する音声符号化装置であって、音声信号を符号化する音声符号化部と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部と、を備え、前記補助情報符号化部は、前記補助情報として、パワーの変化に関するフラグを推定し符号化し、前記フラグが所定のモードである場合、前記補助情報として、さらに、量子化トランジェントパワーを推定し符号化し、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めず、前記補助情報には、前記フラグのみが含まれ、前記音声信号の前記フレームは複数のサブフレームからなり、前記量子化トランジェントパワーは前記サブフレームから推定される。
また、一実施形態に係る音声符号化方法は、複数のフレームからなる音声信号を符号化する音声符号化装置、により実行される音声符号化方法であって、音声信号を符号化する音声符号化ステップと、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化ステップと、を備え、前記補助情報符号化ステップでは、前記音声符号化装置は、前記補助情報として、パワーの変化に関するフラグを推定し符号化し、前記フラグが所定のモードである場合、前記補助情報として、さらに、量子化トランジェントパワーを推定し符号化し、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めず、前記補助情報には、前記フラグのみが含まれ、前記音声信号の前記フレームは複数のサブフレームからなり、前記量子化トランジェントパワーは前記サブフレームから推定される。
本発明は上記述べた方法により、パワーが急激に変化する部分に関する情報を送ることができるので、従来技術ではパケットロス隠蔽が困難であったパワーの急激な時間変化を伴う信号(トランジェント信号)に対して、高精度なパケットロス隠蔽を実現することができる。
発明の一実施形態におけるシステム環境を示す図である。 第1、第2、第3、第6実施形態における符号化部の構成図である。 図2の符号化部の処理のフローチャートである。 第1実施形態等における補助情報符号化部の構成図である。 音声符号化対象となる信号と補助情報符号化対象となる信号との時間的関係およびビットストリームの構成例を示す図である。 第1、第2、第3、第5、第6実施形態における復号部の構成図である。 図6の復号部の処理のフローチャートである。 隠蔽信号修正部の処理の一例を示すフローチャートである。 補助情報符号化部の構成の一例を示す図である。 第4、第5実施形態における符号化部の構成図である。 第一隠蔽信号生成部の構成の一例を示す図である。 隠蔽信号修正部の処理の一例を示すフローチャートである。 第4実施形態における復号部の構成図である。 第6実施形態における音声符号化対象となる信号と補助情報符号化対象となる信号との時間的関係およびビットストリームの構成例を示す図である。 コンピュータのハードウェア構成図である。 コンピュータの外観図である。 音声符号化プログラムの構成を示す図である。 音声復号プログラムの構成を示す図である。 復号部の別の構成例を示す図である。 第7実施形態における補助情報符号化部の構成図である。 図20の補助情報符号化部の処理のフローチャートである。 第7、第11実施形態における補助情報復号部の構成図である。 図22の補助情報復号部の処理のフローチャートである。 第7、第8実施形態における隠蔽信号修正部の構成図である。 第7実施形態の隠蔽信号修正部の処理のフローチャートである。 第8実施形態における補助情報符号化部の構成図である。 図26の補助情報符号化部の処理のフローチャートである。 第8実施形態における補助情報符号化部の変形例を示す構成図である。 図28の補助情報符号化部の処理のフローチャートである。 第8実施形態における補助情報復号部の構成図である。 図30の補助情報復号部の処理のフローチャートである。 第8実施形態の隠蔽信号修正部の処理のフローチャートである。 第10実施形態における補助情報符号化部の構成図である。 図33の補助情報符号化部の処理のフローチャートである。 第10実施形態における補助情報復号部の構成図である。 図35の補助情報復号部の処理のフローチャートである。 第10実施形態における隠蔽信号修正部の処理のフローチャートである。 第11実施形態における補助情報符号化部の構成図である。 図38の補助情報符号化部の処理のフローチャートである。 第11実施形態における補助情報復号部の処理のフローチャートである。 トランジェント検出部の出力内容を示す図である。 トランジェント位置情報のスカラ量子化方法の例を示す図である。 第12実施形態における補助情報符号化部の構成図である。 第12実施形態における補助情報復号部の構成図である。 第13実施形態における補助情報符号化部の構成図である。 第13実施形態における補助情報復号部の構成図である。 第14実施形態における補助情報符号化部の構成図である。 第14実施形態における補助情報復号部の構成図である。 第15実施形態における補助情報符号化部の構成図である。 第15実施形態における補助情報復号部の構成図である。
以下、図面を用いて、本発明に係るさまざまな実施形態を説明する。
[第1実施形態]
まず、図1を用いて、本発明が想定するシステム環境を説明する。図1に示すように、マイクなどのセンサを通じて得られた音声信号はディジタル形式で表現され、符号化部1に入力される。
符号化部1は、決まったサンプル数の音声信号が、内蔵したバッファに所定量蓄積するたびにバッファ内のディジタル信号を符号化する。上記の所定量、即ち、蓄積するサンプル数をフレーム長といい、バッファに蓄積したディジタル信号の集合をフレームと呼ぶ。例えば、32kHzのサンプリング周波数で収音する際に20msのフレーム長とした場合には640サンプルのディジタル信号をバッファに蓄積するものとする。なお、バッファの長さは1フレームよりも長くてよい。例えば、バッファの長さを2フレーム分とした場合、最初だけは2フレーム分のディジタル信号がバッファに蓄積するのを待ってから符号化を始めれば、符号化対象となるフレームの次フレームのディジタル信号を補助情報の推定に利用することができる。符号化を行うタイミングとしては、フレーム長単位で符号化を行ってもよいし、フレーム間にある長さのオーバーラップを持たせて符号化を行ってもよい。符号化には、3GPP enhanced aacPlusや、G.718などの音声符号化を用いる。音声符号化の方法に関しては何を用いてもよい。また、補助情報算出のためにバッファに蓄積した音声音響信号を用いて補助情報を算出し、符号化して伝送する(補助情報符号)。補助情報符号は、音声符号と同一パケットで伝送してもよいし、音声符号を含めたパケットとは別パケットで伝送してもよい。符号化部1の動作の詳細については後述する。
パケット構成部2は、符号化部1で得られた音声符号にRTPヘッダなどの通信に必要な情報を付加して、音声パケットを生成する。生成された音声パケットはネットワークを通じて受信側に送られる。
パケット分離部3は、ネットワークを通じて受信した音声パケットをパケットヘッダ情報とそれ以外の部分(音声符号および補助情報符号、以下「ビットストリーム」という)とに分離し、ビットストリームを復号部4へ出力する。
復号部4は、正常に受信された音声パケットに含まれる音声符号の復号を行い、一方、受信した音声パケットにおける異常(パケットエラー又はパケットロス)を検出した場合にはパケットロス隠蔽を行う。復号部4の詳細な動作については、以下の実施形態にて述べる。復号部4から出力された復号音声は、オーディオのバッファ等に送られスピーカなどを通じて再生されるか、メモリやハードディスクなどの記録媒体に蓄積される。
以上で述べた図1の全体構成は、後述する第2〜第6実施形態でも同様であるため、第2〜第6実施形態では、全体構成についての重複した説明は省略する。
さて、以下では、第1実施形態の特徴的部分として、符号化部1と復号部4について詳細に説明する。第1実施形態では、パワーの時間変化に関する補助情報として、1フレームよりも短いサブフレーム複数分のパワーを関数近似したパラメータを用いる例を説明する。
(符号化部1の構成および動作)
図2に示すように符号化部1は、音声信号を符号化する音声符号化部11と、音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定して符号化する補助情報符号化部12と、補助情報符号化部12による符号化で得られた補助情報符号と音声符号化部11による符号化で得られた音声符号とを多重化してビットストリームとして出力する符号多重化部13と、を備える。
このうち補助情報符号化部12は、図4に示すように、後述するサブフレームパワー計算部121と減衰係数推定部122と減衰係数量子化部123とを備える。
以下、図3を用いて符号化部1の動作について説明する。
音声符号化部11は、予め決めた時間分の入力音声を蓄積し、蓄積した入力音声のうち符号化対象となる分を符号化する(図3のステップS1101)。符号化には例えば、文献「3GPP TS26.401 “Enhanced aacPlus general audio codec General description”」に規定された3GPP enhanced aacPlusや、文献「Recommedation ITU-T G.718 “Frame error robust narrow-band and wideband embedded variable bit-rate coding of speech and audio from 8-32kbit/s”」に規定されたG.718などの音声符号化を用いてもよいし、その他の符号化方法を用いてもよい。
補助情報符号化部12におけるサブフレームパワー計算部121は、予め決めた時間分の入力音声を蓄積し、蓄積した入力音声のうち符号化対象となる分s(0),s(1),…,s(T-1)よりも予め決めたフレーム数(本実施形態ではdフレーム)分後ろの音声信号s(dT),s(1+dT),…,s((d+1)T-1)に対してサブフレームパワー系列を算出する(図3のステップS1211)。ここで、1フレームに含まれるサンプル数をTとした。予測対象信号を
Figure 0006704037

とすると、サブフレームl(0≦l≦L-1)のパワーP(l)は次式により求められる。kはサブフレームにおけるサンプルのインデックスを表す(0≦k≦K-1)。ここで、サブフレームに含まれるディジタル信号のサンプル数をKとした。
Figure 0006704037
なお、第1実施形態では、サブフレームの長さをKとしたが、サブフレーム毎に事前に定めた異なる長さを用いてもよい。l番目のサブフレームの開始のインデックスをkl start、終了のインデックスをkl endとして、次式に従いサブフレームパワー系列を算出してもよい。
Figure 0006704037
減衰係数推定部122は、サブフレームパワー系列から、例えば最小二乗法などを用いて、パワーの時間変化を表す直線の傾きγoptを求める(図3のステップS1221)。より単純にP(0)、P(L-1)から傾きを求めてもよい。ここで、Lは1フレームに含まれるサブフレームの数を表す。また、直線の傾きγoptに加えて、サブフレームパワー系列P(l)を直線近似して得られる切片Poptを求めてもよい。
ここで、サブフレームmのパワーは以下の式で表される。
Figure 0006704037

このとき、直線の傾きγoptと切片Poptは次式に従う(最小二乗法)。
Figure 0006704037
減衰係数量子化部123は、直線の傾きγoptをスカラ量子化した上で符号化し、補助情報符号を出力する(図3のステップS1231)。事前に用意したスカラ量子化コードブックを用いてもよい。サブフレームパワーP(l)を直線近似した場合には、直線の傾きγoptに加えて切片Poptも符号化してもよい。
符号多重化部13は、音声符号と補助情報符号を所定の順序で書き出してビットストリームを出力する(図3のステップS1301)。図5には、音声符号化対象となる信号と補助情報符号化対象となる信号の時間的関係、およびビットストリームの構成の一例を示す(d=1の場合)。例えば図5に示すように、フレームNの音声符号に、例えばフレーム(N+1)の補助情報符号を加えることでビットストリームが得られ、符号多重化部13から出力される。さらに、パケット構成部2により、ビットストリームにパケットヘッダ情報が付加され、第N番目に伝送される音声パケットとなる。
以上のステップS1101〜S1301の処理は入力音声の終了まで繰り返される(ステップS1401)。
(復号部4の構成および動作)
図6に示すように、復号部4は、エラー/ロス検出部41と、符号分離部40と、音声復号部42と、補助情報復号部45と、第一隠蔽信号生成部43と、隠蔽信号修正部44と、を備える。このうち第一隠蔽信号生成部43は、図11に示すように、復号係数蓄積部431と、蓄積復号係数反復部432とを備える。隠蔽信号修正部44は、図12に示すように、補助情報蓄積部441と、サブフレームパワー修正部442と、を備える。
以下、図6、図7を用いて復号部4の動作について説明する。
エラー/ロス検出部41は、受信した音声パケットにおける異常(パケットエラー又はパケットロス)を検出し、検出結果を示すエラーフラグを出力する(図7のステップS4101)。エラーフラグは、デフォルトではパケット正常を示すオフにセットされており、エラー/ロス検出部41は、受信した音声パケットにおける異常を検出した場合、エラーフラグをオン(パケット異常)にセットする。例えば、エラー/ロス検出部41は、新たなパケットを受信するたびに1ずつ値が増加するカウンタを備え、パケットには符号化側からの送信順に番号が振られているとすると、パケットに振られた番号とカウンタ値とを比較して、これらの値が異なる場合にパケットロスを検出することができる。ただし、ここで述べたエラー/ロス検出部41におけるパケットロス検出方法はあくまでも一例に過ぎず、どのような方法を用いてパケットロスを検出してもよい。
以下、エラーフラグがオン(パケット異常)の場合、オフ(パケット正常)の場合それぞれについて動作を説明する。
(エラーフラグがオフの場合(図7のステップS4102でNOの場合))
エラー/ロス検出部41は、エラーフラグを音声復号部42、第一隠蔽信号生成部43、隠蔽信号修正部44および補助情報復号部45に送るとともに、ビットストリームを符号分離部40に送る。
符号分離部40は、ビットストリームをエラー/ロス検出部41から受け取り、ビットストリームを音声符号と補助情報符号とに分離し、音声符号を音声復号部42へ、補助情報符号を補助情報復号部45へ送る(図7のステップS4001)。
音声復号部42は、音声符号を復号して復号信号を生成し、復号音声として出力する。音声符号の復号には、前述した音声符号化部11に対応する復号方法を用いる。このとき、音声復号部42は、復号信号を第一隠蔽信号生成部43にも送る(図7のステップS4311)。このとき第一隠蔽信号生成部43では、送られてきた復号信号が図11の復号係数蓄積部431により蓄積される。ここで蓄積された蓄積復号信号をb(k,l)とする。蓄積される信号は少なくとも過去dフレーム以上としてもよい。ここで、kはサブフレームにおけるサンプルのインデックスを表し(ただし0≦k≦K-1)、lは復号係数蓄積部431に蓄積したサブフレームのインデックスを表す(ただし0≦l≦dL-1)。
補助情報復号部45は、符号分離部40から出力された補助情報符号を復号して補助情報を生成し、隠蔽信号修正部44に送る(図7のステップS4202)。このとき隠蔽信号修正部44では、送られてきた補助情報が図12の補助情報蓄積部441により蓄積される。このとき蓄積する補助情報は、過去数フレーム分(少なくともdフレーム分以上)が望ましい。
上記ステップS4202で補助情報復号部45は、符号分離部40から出力された補助情報符号を復号してインデックスを生成し、インデックスに対応する直線の傾きγをコードブックより求める。ここで、P(-1)はフレームロス直前に正常に受け取った信号のうち最後のサブフレームのパワーを表す。
Figure 0006704037

また、サブフレームのパワーを直線近似して直線の切片を同時に符号化していた場合には、切片PJを用いてサブフレームパワーを次式により求める。
Figure 0006704037
(エラーフラグがオンの場合(図7のステップS4102でYESの場合))
エラー/ロス検出部41は、エラーフラグを音声復号部42、第一隠蔽信号生成部43、隠蔽信号修正部44および補助情報復号部45に送る。
第一隠蔽信号生成部43内の蓄積復号係数反復部432は、復号係数蓄積部431に蓄積された蓄積復号信号を用いて第一隠蔽信号z(k)を求める(図7のステップS4321)。具体的には例えば、次式に示す通り、最後のサブフレームを繰り返すことにより第一隠蔽信号を算出する。
Figure 0006704037
なお、繰り返しの単位を最後のサブフレームに限定せず、b(k,l)の任意の部分を取り出して繰り返してもよい。また、上記のような反復による第一隠蔽信号の生成に限ることなく、復号係数蓄積部431からピッチ単位で波形を取り出して繰り返すことで第一隠蔽信号を算出してもよいし、例えば線形予測などを用いた予測により第一隠蔽信号を生成してもよい。その他にも、例えば以下に示すように事前に定めたモデルに従い、第一隠蔽信号を生成してもよい。
Figure 0006704037
サブフレームパワー修正部442は、第一隠蔽信号から、以下の式に従い第一隠蔽信号のパワーの値をサブフレーム毎に修正して隠蔽信号y(K・l+k)を求める。具体的には、次式に従い修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。また、P-d(m)は、当該パケット(第一隠蔽信号生成対象のパケット)よりもd個前のパケットで伝送された補助情報符号に含まれていたサブフレームに関するパワーを表す(図7のステップS4421)。
Figure 0006704037
例えば、サブフレームパワー修正部442は、図8に示すように、補助情報蓄積部441から、d個前のパケットで伝送された補助情報を取り出し(図8のステップS60)、第一隠蔽信号についてサブフレーム毎に平均二乗振幅値を算出し、サブフレームに含まれる値を平均二乗振幅値で割る(図8のステップS61)。この結果、z’(K・l+k)が得られる。そして、補助情報から、各サブフレームのパワーを算出し、パワーから求められる平均振幅値を上記サブフレームの値に乗算する(図8のステップS62)。これにより、隠蔽信号y(K・l+k)が求められる。
以上の図7のステップS4101〜S4421の処理は入力音声の終了まで繰り返される(図7のステップS4431)。
以上のように第1実施形態では、パワーの時間変化に関する補助情報として、1フレームよりも短いサブフレーム複数分のパワーを関数近似したパラメータを用いることができる。
[第2実施形態]
補助情報としては予め学習あるいは経験的に定めておいたベクトルci(l)を用いたベクトル量子化によりサブフレームのパワー系列を符号化して、補助情報として用いてもよい。そこで、第2実施形態では、第1実施形態における補助情報符号化部12、補助情報復号部45において、サブフレーム複数分のパワーをベクトル量子化して得られたベクトルに関する情報を補助情報として、符号化又は復号する例を説明する。
第2実施形態では、補助情報符号化部12と補助情報復号部45だけが第1実施形態と異なるので、以下、これら2つの要素について説明する。
補助情報符号化部12は、図9に示すように、サブフレームパワー計算部121とサブフレームパワーベクトル量子化部124とを備える。このうちサブフレームパワー計算部121の機能・動作は、第1実施形態と同様である。
サブフレームパワーベクトル量子化部124は、サブフレームl(ただし0≦l≦L-1)のパワーP(l)をベクトル量子化した上で符号化し、補助情報符号を出力する。なお、Iはコードブック中の直線またはベクトルのエントリ数であり、Jは選ばれた直線あるいはベクトルのインデックスである。なお、ci(l)はコードブック中のi番目のコードベクトルのl番目の要素を表す。
Figure 0006704037

選択したJをバイナリ符号化などによって符号化し、補助情報符号とする。
一方、補助情報復号部45は、符号分離部40から出力された補助情報符号を復号してインデックスJを生成し、インデックスJに対応するベクトルcJ(l)をコードブックより求めて出力する。
Figure 0006704037
以上のように第2実施形態では、予め学習あるいは経験的に定めておいたベクトルを用いたベクトル量子化によりサブフレームのパワー系列を符号化して、補助情報として用いることができる。
[第3実施形態]
前述した第1、第2実施形態では、補助情報の算出において音声符号化部11で符号化した信号のdフレーム以上後ろの信号を用いていたが、以下の第3実施形態では、補助情報の算出において音声符号化部11で符号化した信号のdフレーム前の信号を用いる例を説明する。
以下の第3実施形態では、第1実施形態との違いは、補助情報符号化部12におけるサブフレームパワー計算部121および隠蔽信号修正部44におけるサブフレームパワー修正部442のみであるので、これらサブフレームパワー計算部121およびサブフレームパワー修正部442について説明する。
サブフレームパワー計算部121は、予め決めた時間分の入力音声を蓄積し、蓄積した入力音声のうち符号化対象となる分s(0),s(1),…,s(T-1)よりも予め決めたフレーム数(本実施形態ではdフレーム)分前の音声信号s(-dT),s(1-dT),…,s(-1)に対してサブフレームパワー系列を計算する。ここで、1フレームに含まれるサンプル数をTとした。予測対象信号を
Figure 0006704037

とすると、サブフレームl(0≦l≦L-1)のパワーP(l)は次式により求められる。kはサブフレームにおけるサンプルのインデックスを表す(0≦k≦K-1)。ここで、サブフレームに含まれるディジタル信号のサンプル数をKとした。
Figure 0006704037
一方、サブフレームパワー修正部442は、第一隠蔽信号から、以下の式に従い第一隠蔽信号のパワーの値をサブフレーム毎に修正して隠蔽信号y(K・l+k)を求める。具体的には次式に従い修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。またPd(m)は、当該パケット(第一隠蔽信号生成対象のパケット)よりもd個後ろのパケットで伝送された補助情報符号に含まれていたサブフレームに関するパワーを表す。
Figure 0006704037

以上のように第3実施形態では、補助情報の算出において、音声符号化部で符号化した信号よりも数フレーム前の信号を用いることができる。
[第4実施形態]
第4実施形態では、時間周波数変換した信号に対して第1、第2実施形態で行ったような処理を適用する例を説明する。
第4実施形態における符号化部1は、図10に示すように、第1、第2実施形態における符号化部1(図2)に対し、音声符号化部11および補助情報符号化部12の入力側に時間周波数変換部10を追加した構成とされている。
時間周波数変換部10は、分析QMFを用いて音声信号を時間周波数変換する。具体的には次式により時間周波数変換を行う。
Figure 0006704037

ここで、Eは時間方向のサブフレーム数を表し、Kは周波数ビンの数を表す。kは周波数ビンのインデックスであり(ただし0≦k≦K-1)、lはサブフレームのインデックス(ただし0≦l≦L-1)である。他にも、MDCT(Modified Discrete Cosine Transform)などにより時間周波数変換を行うこともできる。
音声符号化部11は、時間周波数変換した音声信号を符号化する。例えばSBR(Spectral Band Replication)などの符号化方法により符号化を行ってもよいが、どのような符号化方法を用いてもよい。
補助情報符号化部12は、図4に示すように、サブフレームパワー計算部121と、減衰係数推定部122と、減衰係数量子化部123とを備える。これら構成要素の中で第1、第2実施形態と異なるのはサブフレームパワー計算部121のみであるので、サブフレームパワー計算部121について以下に説明する。なお、減衰係数量子化部123においては、第2実施形態で述べたようなベクトル量子化を用いてもよい。
サブフレームパワー計算部121は、予め決めた時間分の音声信号を蓄積し、蓄積した音声信号のうち、符号化対象となる分V(k.l)よりも予め決めたフレーム数(dフレーム)分後ろの音声信号に対し時間周波数領域に変換して得られた音声信号V(k,l+d)を用いて、以下の通り補助情報の算出を行う。サブフレームl+dのパワーP(l+d)は、次式により算出する。
Figure 0006704037

符号多重化部13は、第1、第2実施形態と同様に、音声符号と補助情報符号を所定の順序で書き出してビットストリームを出力する。
一方、第4実施形態における復号部4は、図13に示すように、第1、第2実施形態における復号部4(図6)に対し、音声復号部42および隠蔽信号修正部44の出力側に逆変換部46を追加した構成とされている。
このような図13の復号部4において、エラー/ロス検出部41、符号分離部40および音声復号部42の動作は、第1、第2実施形態と同様なので、以下、第一隠蔽信号生成部43、補助情報復号部45、隠蔽信号修正部44および逆変換部46の動作について説明する。
図11に示すように第一隠蔽信号生成部43は、復号係数蓄積部431と、蓄積復号係数反復部432とを備える。このうち復号係数蓄積部431は、音声復号部42から入力した復号信号を蓄積する。蓄積された蓄積復号信号をB(k,l)とする。ここで、kはサブフレームにおけるサンプルのインデックスを表し(ただし0≦k≦K-1)、lは復号係数蓄積部431に蓄積したサブフレームのインデックスを表す(ただし0≦l≦L-1)。
蓄積復号係数反復部432は、エラーフラグがオン(パケット異常)の場合に、復号係数蓄積部431に蓄積された蓄積復号信号を用いて第一隠蔽信号z(k,l)を求める。具体的には例えば、次式に従い最後のサブフレームを繰り返すことにより第一隠蔽信号を算出する。
Figure 0006704037

なお、繰り返しの単位を最後のサブフレームに限定せず、B(k,l)の任意の部分を取り出して繰り返してもよいし、例えば線形予測などを用いた予測により第一隠蔽信号を生成してもよい。その他にも、例えば以下に示すように事前に定めたモデルに従い、第一隠蔽信号を生成してもよい。
Figure 0006704037
補助情報復号部45は、符号分離部40が出力した補助情報符号を復号してインデックスを生成し、インデックスに対応する直線の傾きγをコードブックより求めて出力する。ここで、P(-1)はフレームロス直前に正常に受け取った信号のうち最後のサブフレームのパワーを表す。
Figure 0006704037

また、サブフレームのパワーを直線近似して直線の切片を同時に符号化していた場合には、切片PJを用いてサブフレームパワーを次式により求める。
Figure 0006704037
また、第2実施形態のように補助情報符号化部12内の減衰係数量子化部123においてベクトル量子化を用いていた場合には、第2実施形態における補助情報復号部45のように、本実施形態の補助情報復号部45は、コードブックを用いてサブフレームのパワーを算出する。
図12に示すように隠蔽信号修正部44は、補助情報蓄積部441とサブフレームパワー修正部442とを備える。このうち補助情報蓄積部441は、エラーフラグがオフ(パケット正常)の場合に補助情報復号部45から入力された補助情報を蓄積する。蓄積する補助情報は過去数フレーム分が望ましい。サブフレームパワー修正部442は、第一隠蔽信号から、以下の式に従い第一隠蔽信号のパワーの値をサブフレーム毎に修正して隠蔽信号Y(k,l)を求める。具体的には次式に従い修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。またP-d(m)は、当該パケット(第一隠蔽信号生成対象のパケット)よりもd個前のパケットで伝送された補助情報符号に含まれていたサブフレームに関するパワーを表す。
Figure 0006704037
逆変換部46は、隠蔽信号あるいは復号信号を時間周波数領域から時間領域の信号に変換する。たとえば、合成QMFを示す以下の式により行う。
Figure 0006704037

ここで、lは時間領域の信号のインデックスであり、0≦l≦K(2+L)である。
以上のように第4実施形態では、時間周波数変換した信号に対して第1、第2実施形態で行ったような処理を適用することができる。
[第5実施形態]
第5実施形態では、第1実施形態で述べた手法をサブバンド毎に適用した例を説明する。
第5実施形態における符号化部1では、補助情報符号化部12の動作が第1実施形態とは異なるため、以下、補助情報符号化部12の動作について説明する。補助情報符号化部12は、図4に示すように、サブフレームパワー計算部121と、減衰係数推定部122と、減衰係数量子化部123とを備える。
このうちサブフレームパワー計算部121は、予め決めた時間分の入力音声を蓄積し、蓄積した入力音声のうち符号化対象となる分v(k,l)よりも予め決めたフレーム数(本実施形態ではdフレーム)分後ろの音声信号v(k,l+d)に対してサブフレームパワー系列を計算する。ここで、1フレームに含まれるサンプル数をTとした。予測対象信号をv(k,l+d)=s(k,l+d)とすると、サブフレームl(0≦l≦L-1)のi番目のサブバンドのパワーPi(l)は次式により求められる。kはサブフレームにおけるサンプルのインデックスを表す(ただし0≦k≦K-1)。
Figure 0006704037

なお、サブバンドの決め方としては、サブバンド幅を非等間隔としてもよいし、クリティカルバンドの幅に設定してもよいし、サブバンド幅を1としてもよい。
減衰係数推定部122は、サブフレームパワー系列から、例えば最小二乗法などを用いて、サブフレーム毎にパワーの時間変化を表す直線の傾きγi optを求める。より単純にPi(0)とPi(L-1)から傾きを求めてもよい。また、直線の傾きγi optに加えて、サブフレームパワー系列Pi(l)を直線近似して得られる切片Pi optを求めてもよい。ここで、サブフレームmのパワーは以下の式で表される。
Figure 0006704037

このとき、直線の傾きγoptと切片PJは次式に従う(最小二乗法)。
Figure 0006704037
減衰係数量子化部123は、直線の傾きγi optをスカラー量子化した上で符号化し、補助情報符号を出力する。事前に用意したスカラ量子化コードブックを用いてもよい。サブフレームパワーPi(l)を直線近似した場合には、直線の傾きγi optに加えて切片Pi optも符号化してもよい。また、γi optをすべてのサブバンドについて並べてできるベクトルをベクトル量子化した上で符号化してもよいし、γi optとPi optを並べて出来るベクトルをベクトル量子化した上で符号化してもよい。
第5実施形態における復号部4では、蓄積復号係数反復部432、補助情報復号部45およびサブフレームパワー修正部442の動作が第1実施形態とは異なるため、以下、これらの要素の動作について説明する。
蓄積復号係数反復部432は、エラーフラグがオン(パケット異常)の場合、復号係数蓄積部431に蓄積されている蓄積復号信号を用いて第一隠蔽信号Z(k,l)を求める。なお、復号係数蓄積部431に蓄積された蓄積復号信号をB(k,l)とする。ここで、kはサブフレームにおけるサンプルのインデックスを表し(0≦k≦K-1)、lは復号係数蓄積部431に蓄積されたサブフレームのインデックスを表す(0≦l≦L-1)。
具体的には、蓄積復号係数反復部432は、次式に示す通り、最後のサブフレームを繰り返すことにより第一隠蔽信号を算出する。
Figure 0006704037

なお、繰り返しの単位を最後のサブフレームに限定せず、B(k,l)の任意の部分を取り出して繰り返してもよい。また、上記反復による第一隠蔽信号生成に限ることなく、例えば線形予測などを用いた予測により第一隠蔽信号を生成してもよい。その他にも、例えば以下に示すように事前に定めたモデルに従い、第一隠蔽信号を生成してもよい。
Figure 0006704037
補助情報復号部45は、符号分離部40から出力された補助情報符号を復号してインデックスを生成し、インデックスに対応する直線の傾きγi Jをコードブックより求める。ここで、Pi(-1)はパケットロス直前に正常に受け取った信号のうち最後のサブフレームのパワーを表す。
Figure 0006704037

また、サブフレームのパワーを直線近似して直線の切片を同時に符号化していた場合には、切片Pi Jを用いてサブフレームパワーを次式により求める。
Figure 0006704037
隠蔽信号修正部44内の補助情報蓄積部441は、エラーフラグが正常なパケットを表す値を示す場合に補助情報復号部45から入力された補助情報を蓄積している。蓄積する補助情報は過去数フレーム分(少なくともdフレーム分以上)が望ましい。
このような隠蔽信号修正部44において、サブフレームパワー修正部442は、第一隠蔽信号から、以下の式に従い第一隠蔽信号のパワーの値をサブフレーム毎に修正して隠蔽信号Y(k,l)を求める。具体的には次式に従い修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。また、Pi -d(m)は、当該パケット(第一隠蔽信号生成対象のパケット)よりもd個前のパケットで伝送された補助情報符号に含まれていたサブフレームに関するi番目のサブバンドのパワーを表す。
Figure 0006704037

なお、上記の第5実施形態では、符号化対象となる信号の「dフレーム後」のフレームについて補助情報を算出して符号化する例を示したが、第3実施形態のように符号化対象となる信号の「dフレーム前」のフレームについての補助情報を算出して符号化してもよい。
以上のように第5実施形態では、第1実施形態で述べた手法をサブバンド毎に適用することができる。
[第6実施形態]
第6実施形態では、補助情報符号化部において、2以上の補助情報を求めて別々に符号化してビットストリームに含める例を説明する。以下、第1実施形態との相違点を重点的に説明する。
第6実施形態における符号化部1は、図2に示すように、音声符号化部11と、補助情報符号化部12と、符号多重化部13と、を備える。このうち音声符号化部11は、第1実施形態と同様である。補助情報符号化部12は、図4に示すように、サブフレームパワー計算部121と、減衰係数推定部122と、減衰係数量子化部123とを備える。
このうちサブフレームパワー計算部121は、予め決めた時間分の入力音声を蓄積し、蓄積した入力音声のうち符号化対象となる分s(0),s(1),…,s(T-1)よりも予め決めたフレーム数(本実施形態ではdフレーム)分後ろの音声信号s(dT),s(1+dT),…,s((d+1)T-1)に対してサブフレームパワー系列P1(l)を計算する。
さらに、サブフレームパワー計算部121は、予め決めたフレーム数(本実施形態では(d+1)フレーム)分後ろの音声信号s((d+1)T),s(1+(d+1)T),…,s((d+2)T-1)に対してサブフレームパワー系列P2(l)を計算する。
ここで、1フレームに含まれるサンプル数をTとする。予測対象信号を
Figure 0006704037

とすると、サブフレームl(0≦l≦L-1)のパワーP1(l),P2(l)は次式により求められる。kはサブフレームにおけるサンプルのインデックスを表す(0≦k≦K-1)。
Figure 0006704037
なお、本実施形態では、サブフレームの長さをKとしたが、サブフレーム毎に事前に定めたサブフレーム毎に異なる長さを用いてもよい。l番目のサブフレームの開始のインデックスをkl start、終了のインデックスをkl endとして次式に従いサブフレームパワー系列を算出してもよい。
Figure 0006704037

減衰係数推定部122は、サブフレームパワー系列P1(l),P2(l)から、例えば最小二乗法などを用いて、それぞれパワーの時間変化を表す直線の傾きγ1 opt、γ2 optを求める。算出方法は第1実施形態の減衰係数推定部122と同様である。
減衰係数量子化部123は、直線の傾きγ1 opt、γ2 optを、それぞれスカラ量子化した上で符号化し、補助情報符号C1、C2を出力する。事前に用意したスカラ量子化コードブックを用いてもよい。サブフレームパワーP(l)を直線近似した場合には、直線の傾きγ1 opt、γ2 optに加えて切片P1 opt、P2 optも符号化してもよい。
符号多重化部13は、音声符号と補助情報符号C1、C2を所定の順序で書き出してビットストリームを出力する。図14に音声符号化対象となる信号と補助情報符号化対象となる信号の時間的関係と、ビットストリームの構成の一例を示す。図14に示すように、フレームNの音声符号に、例えばフレーム(N+1)の補助情報符号とフレーム(N+2)の補助情報符号とを加えることでビットストリームが得られ、符号多重化部13から出力される。さらに、図1のパケット構成部2により、ビットストリームにパケットヘッダ情報が付加され、第N番目に伝送される音声パケットとなる。なお、本実施形態では2つの補助情報を生成したが、3つ以上の補助情報を生成してもよい。また、補助情報は、音声符号化部が符号化した音声信号よりも1フレーム以上前の音声信号を対象として、算出してもよい。
第6実施形態における復号部4は、図6に示すように、エラー/ロス検出部41と、符号分離部40と、音声復号部42と、補助情報復号部45と、第一隠蔽信号生成部43と、隠蔽信号修正部44と、を備える。このうちエラー/ロス検出部41、音声復号部42および第一隠蔽信号生成部43の動作は、第1実施形態と同様の動作であるので、重複した説明は省略する。
符号分離部40は、ビットストリームから音声符号と補助情報符号C1、C2を読み出し、音声符号を音声復号部42へ送り、補助情報符号C1、C2を補助情報復号部45に送る。
補助情報復号部45は、補助情報符号C1、C2を復号して補助情報を算出し、隠蔽信号修正部44に送る。例えば、補助情報復号部45は、符号分離部40から出力された補助情報符号C1、C2を復号してインデックスを生成し、それぞれインデックスに対応する直線の傾きγJをコードブックより求める。ここで、P(-1)はフレームロス直前に正常に受け取った信号のうち最後のサブフレームのパワーを表す。
Figure 0006704037

また、サブフレームのパワーを直線近似して直線の切片を同時に符号化していた場合には、切片PJを用いてサブフレームパワーを次式により求める。
Figure 0006704037
隠蔽信号修正部44は、図12に示すように、補助情報蓄積部441と、サブフレームパワー修正部442とを備える。
このうち補助情報蓄積部441は、エラーフラグが正常なパケットを表す値を示す場合に補助情報復号部45から入力した補助情報を蓄積する。蓄積する補助情報は過去数フレーム分(少なくともdフレーム分以上)が望ましい。本実施形態では、1パケットにつき2フレーム分の補助情報が得られる。
サブフレームパワー修正部442は、第一隠蔽信号から、以下の式に従い第一隠蔽信号のパワーの値をサブフレーム毎に修正して隠蔽信号Y(K・l+k)を求める。具体的には次式に従い修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。また、P-d(m)は、当該パケット(第一隠蔽信号生成対象のパケット)よりもd個前のパケットで伝送された補助情報符号C1に含まれていたサブフレームに関するパワーを表す。
Figure 0006704037

例えば、サブフレームパワー修正部442は、図8に示すように、補助情報蓄積部441から、d個前のパケットで伝送された補助情報を取り出し(図8のステップS60)、第一隠蔽信号についてサブフレーム毎に平均二乗振幅値を算出し、サブフレームに含まれる値を平均二乗振幅値で割る(ステップS61)。この結果、z’(K・l+k)が得られる。そして、補助情報から、各サブフレームのパワーを算出し、パワーから求められる平均振幅値を上記サブフレームの値に乗算する(ステップS62)。これにより、隠蔽信号Y(K・l+k)が求められる。以上のステップS4101〜S4421の処理は入力音声の終了まで繰り返される(ステップS4431)。
さらに連続してパケットロスが起きた場合は、当該パケット(第一隠蔽信号生成対象のパケット)よりもd個前のパケットで伝送された補助情報符号C2に含まれていたサブフレームに関するパワーを用いて、同様の処理を行うことにより連続してパケットロスが起こった場合にパケットロスを隠蔽することができる。
以上のように第6実施形態では、補助情報符号化部において、2以上の補助情報を求めて別々に符号化してビットストリームに含めることができる。
ところで、図19には、復号部4の変形例の構成図が示されている。前述した第4実施形態における図13の復号部4では、エラーフラグを音声復号部42、第一隠蔽信号生成部43、隠蔽信号修正部44、補助情報復号部45に入力していたが、図19の構成ではこれらの入力を省略している。これらの入力を省略した構成でも、エラーフラグがオンの場合は音声復号部42および補助情報復号部45への入力がないため、当該入力がないことを以ってエラーフラグがオンと判断できる。即ち、音声復号部42および補助情報復号部45への入力の有無に応じて、エラーフラグの状態判断を行うことができる。第一隠蔽信号生成部43、隠蔽信号修正部44も同様にしてエラーフラグの状態判断を行うことができる。また、図13の復号部4は、図19に示す音声パラメータ蓄積部47が第一隠蔽信号生成部43に含まれる構成としていたが、音声パラメータ蓄積部47は図19のように、第一隠蔽信号生成部43とは独立した構成要素としてもよい。このような図19の復号部4の機能は図13の復号部4の機能と実質同一である。なお、図6に示す第1、第2、第3、第5、第6実施形態の復号部4についても、上記のように、音声復号部42、第一隠蔽信号生成部43、隠蔽信号修正部44、補助情報復号部45へのエラーフラグの入力を省略してもよいし、音声パラメータ蓄積部を第一隠蔽信号生成部43とは独立した構成要素としてもよい。
[第7実施形態]
第7実施形態では、パワーの急激な変化(以下「トランジェント」という)に関する補助情報として、補助情報符号化対象となるフレーム中のトランジェントの位置と、トランジェントの位置におけるサブフレームのパワーとを用いる例を説明する。
(符号化部1の構成および動作)
第7実施形態でも、符号化部1の全体構成は図2の通りであり、復号部4の全体構成は図6の通りである。第7実施形態でも、第2〜6実施形態と同様に全体構成に関する説明を省略する。
以下では、第7実施形態における符号化部1の特徴的部分として、補助情報符号化部12について詳細に説明する。補助情報符号化部12は、図20に示す通り、トランジェント検出部124A、トランジェント位置量子化部125、トランジェントパワースカラ量子化部126、パラメータ符号化部127を備える。
このような補助情報符号化部12の動作を図21に基づき説明する。トランジェント検出部124Aは、予め決めた時間分の入力音声を蓄積し、蓄積した入力音声のうち符号化対象となる分s(0),s(1),…,s(T-1)よりも予め決めたフレーム数(本実施形態ではdフレーム)分後ろの音声信号s(dT),s(1+dT),…,s((d+1)T-1)を用いてトランジェントを検出する(図21のステップS7401)。なお、補助情報符号化対象フレームは、音声符号化対象フレームより1フレーム以上後ろのフレームであってもよいし、1フレーム以上前のフレームであってもよい。また、音声符号化対象のフレームより1フレーム以上前あるいは後ろのフレームから、2以上のフレームを選んで補助情報符号を算出して利用してもよい。
トランジェントの検出方法には、例えば「ITU-T Recommendation G.719」の7.2節で述べられている方法を用いることが出来る。また、他の標準の技術および非標準の技術を用いてトランジェントの検出を行ってもよい。上記7.2節で述べられている方法は、サブフレーム毎のパワーを算出した上で、サブフレームの時間的な変化を閾値と比較することによりトランジェントの判定を行う。トランジェント検出の結果、補助情報符号化対象フレーム中にトランジェントを含むか否かを示すトランジェントフラグFtran、トランジェントの位置ltran、さらにサブフレームパワー系列P(l)が算出される。また、図41に示すようにトランジェントの位置ltranにおけるサブフレームのパワーをP(ltran)とすると、トランジェント検出部124Aは、ライン1L45を通じてトランジェントの位置ltranを出力し、ライン1L46を通じてトランジェントの位置ltranにおけるサブフレームのパワーをP(ltran)を出力し、ライン1L47を通じてトランジェントフラグFtranを出力する。なお、トランジェント検出部124Aがライン1L46を通じてトランジェントの位置ltranとサブフレームパワー系列P(l)とを出力する構成としてもよい。
なお、例えば「ITU-T Recommendation G.719」の7.2節で述べられている方法を用いてトランジェント検出を行った場合には、トランジェント検出部124Aは、図4のサブフレームパワー計算部121で算出されるサブフレームパワー系列と同様のパラメータを算出するものとする。その他の方法によりトランジェント検出を行った場合も、トランジェント検出部124Aは、図4のサブフレームパワー計算部121で算出されるサブフレームパワー系列と同様のパラメータを計算して出力する。
トランジェントフラグFtranが、フレーム中にトランジェントを含む値を示さないときは、通常フレームを示す値がFtranに入力される。この場合、パラメータ符号化部127は、トランジェントフラグのみを符号化し、補助情報符号として出力する(図21のステップS7702)。
一方、トランジェントフラグFtranが、フレーム中にトランジェントを含む値を示すときは、トランジェント位置量子化部125は、トランジェントの位置ltranを予め定めたビット数でスカラ量子化し、量子化位置情報を出力する(図21のステップS7501)。スカラ量子化の方法としては、ltranを2進数とみなしてバイナリ符号化する方法を用いてもよいし、予め定めた位置にインデックスを設け、ltranに最も近い位置のインデックスをバイナリ符号化する方法を用いてもよいし、ハフマン符号化などのエントロピ符号化を用いてもよいし、その他いかなる量子化方法を用いてもよい。図42(a)にはバイナリ符号化によるトランジェント位置情報符号化の一例の模式図を、図42(b)にはスカラ量子化によるトランジェント位置情報符号化の一例の模式図を示す。また、変形例として、トランジェントの位置だけでなく、「パワーの変化を表す情報」として2以上のサブフレームインデックスを選択し、選択された2以上のサブフレームインデックスを符号化して伝送してもよい。ここでの符号化の方法に特に制限は設けない。
トランジェントフラグFtranに、フレーム中にトランジェントを含む値がセットされたときは、トランジェントパワースカラ量子化部126は、トランジェントの位置ltranに対応するサブフレームのパワーをスカラ量子化し、量子化トランジェントパワーを出力する(図21のステップS7601)。例えば6ビットの線形符号化器を用いて0dBから96dBまでの間で量子化を行う場合は、以下の式に従う。ここで、Cは1.55、εは0.001などの値とすることができるが、これらの定数は量子化ビット数等に応じて変更してもよい。
Figure 0006704037

上式により、トランジェントのパワーは0から63までのインデックスに量子化される。また、量子化には、事前に学習などにより定めたコードブックを用いて量子化を行ってもよいし、その他いかなる量子化手段を用いてもよい。なお、トランジェントフラグFtranがフレーム中にトランジェントを含む値を示さないときは、通常フレームを示す値が上式のIEに入力される。
パラメータ符号化部127は、トランジェントフラグと、量子化位置情報と、量子化トランジェントパワーとを合わせて補助情報符号を出力する(図21のステップS7701)。トランジェントフラグと量子化位置情報と量子化トランジェントパワーとをまとめて1つのベクトルとみなした上で、ベクトル量子化やその他の符号化方法により符号化してもよい。符号化の方法については特に制限を設けない。
(復号部4の構成および動作)
復号部4の全体構成は第1実施形態で述べた図6の通りである。以下では、第7実施形態において特徴的な構成である補助情報復号部45および隠蔽信号修正部44の構成と動作について述べる。なお、第一隠蔽信号生成部43は、第1〜第6実施形態で述べた手法に加えて、例えばTS26.402 5.2節に示すような既存の標準技術により第一の隠蔽信号を生成してもよいし、標準ではない別の隠蔽信号生成技術により生成してもよい。
補助情報復号部45は、図22に示す通り、トランジェントフラグ復号部129、トランジェント位置復号部1212、トランジェントパワー復号部1213を備える。
このような補助情報復号部45の動作を図23に基づき説明する。補助情報復号部45では、補助情報符号が復号され、得られたトランジェントフラグFtranがオン(トランジェントを含むフレームを表す)かオフ(トランジェントを含まないフレームを表す)かが判断される(図23のステップS7901)。
トランジェントフラグFtranがトランジェントを含まないフレームを表す場合には、トランジェントフラグFtranの値のみが補助情報として出力される(図23のステップS7142)。
一方、トランジェントフラグFtranがトランジェントを含むフレームを表す場合には、補助情報符号から量子化位置情報ltranを読み出し、復号して量子化位置情報を出力する(図23のステップS7121)。さらに、補助情報符号から量子化トランジェントパワーIEを読み出して復号し、復号トランジェントパワーを出力する(図23のステップS7131)。例えば、上記述べたような線形量子化を用いている場合は、以下の式に従い量子化トランジェントパワーから復号トランジェントパワーを求める。
Figure 0006704037
そして補助情報復号部45は、上記算出されたトランジェントフラグFtran、量子化位置情報、復号トランジェントパワーを補助情報として出力する(図23のステップS7141)。
次に、隠蔽信号修正部44について述べる。図24に示す通り、隠蔽信号修正部44は、補助情報蓄積部441、サブフレームパワー修正部442を備える。なお、第1〜第6実施形態では、エラーフラグをサブフレームパワー修正部442に入力する構成としていたが、図24の隠蔽信号修正部44は、エラーフラグをサブフレームパワー修正部442に入力しない構成とされており、第一隠蔽信号生成部43からの第一隠蔽信号の入力の有無によりエラーフラグの状態判定をする。即ち、第一隠蔽信号生成部43から第一隠蔽信号が入力された場合、エラーフラグがオフと判定し、第一隠蔽信号生成部43から第一隠蔽信号が入力されない場合、エラーフラグがオンと判定する。当然、補助情報蓄積部441、サブフレームパワー修正部442にエラーフラグを入力することによりエラーフラグの判定を行う構成としてもよい。
隠蔽信号修正部44の動作は、図25のフローチャートに示す通りである。まず、上述したように第一隠蔽信号生成部43からの第一隠蔽信号の入力の有無によりエラーフラグの状態判定をする(図25のステップS7800)。ここでエラーフラグがオフである(パケットロスを表さない)場合、補助情報復号部45は、補助情報符号を復号し、図24のライン6L001を通じてトランジェントフラグ、トランジェント位置情報、復号トランジェントパワーを出力する(図25のステップS7101)。そして補助情報蓄積部441は、トランジェントフラグ、トランジェント位置情報、復号トランジェントパワーを蓄積する(図25のステップS7111)。
一方、エラーフラグがオンである(パケットロスを表す)場合は、サブフレームパワー修正部442は、補助情報蓄積部441からトランジェントフラグ、量子化位置情報、復号トランジェントパワーを読み出し、第一隠蔽信号z(K・l+k)のパワーの値をサブフレーム毎に修正して隠蔽信号y(K・l+k)を求める(ただし、0≦l≦L-1、0≦k≦K-1)(図25のステップS7901)。具体的には、以下の手順に従い第一隠蔽信号z(K・l+k)のパワーの値を修正する。まず、第一隠蔽信号生成部43から出力された第一の隠蔽信号は、図24のライン6L002を通じてサブフレームパワー修正部442に入力される。次に、サブフレームパワー修正部442は、トランジェントフラグFtran、トランジェント位置情報ltran、復号トランジェントパワー
Figure 0006704037

を補助情報蓄積部441から読み出す。
次に、サブフレームパワー修正部442は、補助情報蓄積部441から読み出したトランジェント位置情報ltran、復号トランジェントパワー
Figure 0006704037

から、修正した各サブフレームのパワーを算出する(図25のステップS7121)。具体的には以下の手順で行う。まず、各サブフレームのパワーを以下の式に従い算出する。
Figure 0006704037

次に、トランジェントの位置における第一隠蔽信号のパワーと復号トランジェントパワーの差分(差分トランジェントパワー)を算出する。
Figure 0006704037

次にトランジェントの位置以降のサブフレームに対応する第一の隠蔽信号のパワーを、前記、差分トランジェントパワーを用いて修正し、修正隠蔽信号サブフレームパワーを求める。
Figure 0006704037
次に、サブフレームパワー修正部442は、第一の隠蔽信号についてサブフレーム毎のパワーを算出した上で正規化を行う(図25のステップS7801)。第2〜第6実施形態のようにサブフレームの長さを不均一となるよう設定してもよい。本実施形態では、サブフレームの長さが等しい場合について詳細に説明する。
Figure 0006704037
最後に、修正隠蔽信号サブフレームパワーを正規化した第一の隠蔽信号に乗算して、隠蔽信号を算出する(図25のステップS7131)。
Figure 0006704037
なお、図25のステップS7121の変形例として、サブフレームパワーP(m)、復号トランジェントパワー
Figure 0006704037

から、修正隠蔽信号サブフレームパワー
Figure 0006704037

を算出する方法として、次式のような方法を用いてもよい。
Figure 0006704037

最後に予め定めた予測係数apを用いて修正隠蔽信号パワーを算出する。予測係数はサブフレームパワー系列の性質により切り替えてもよい。
Figure 0006704037
他にも事前に定めたモデルを用いて平滑化を行ってもよい。
Figure 0006704037

ここでのfとしては、例えば、シグモイド関数やスプライン関数などを用いてもよいし、平滑化が実現可能であれば、特に制限を設けない。
以上のような第7実施形態により、パワーの急激な変化(トランジェント)に関する補助情報として、パワーの急激な変化の有無を表す指示情報と、補助情報符号化対象となるフレーム中のトランジェントの位置と、トランジェントの位置におけるサブフレームのパワーとを用いて、トランジェント信号に対する高精度なパケットロス隠蔽を実現することができる。
[第8実施形態]
(符号化部1の構成および動作)
第8実施形態における補助情報符号化部12は、図26に示す通り、トランジェント検出部124A、トランジェント位置量子化部125、トランジェントパワースカラ量子化部126、トランジェントパワーベクトル量子化部128、パラメータ符号化部127を備える。第8実施形態は、第7実施形態におけるトランジェントパワースカラ量子化部126に加えてトランジェントパワーベクトル量子化部128を備えている点と、補助情報復号部45の構成および動作が、第7実施形態とは異なる。
第8実施形態における補助情報符号化部12の動作を図27に示す。まず、トランジェント検出部124Aは、補助情報符号化対象フレームに対してトランジェントの検出を行う(図27のステップS7401)。トランジェントの検出方法は第7実施形態における図21のステップS7401と同様である。なお、補助情報符号化対象フレームは、音声符号化対象フレームより1フレーム以上後ろのフレームであってもよいし、1フレーム以上前のフレームであってもよい。また、音声符号化対象のフレームより1フレーム以上前あるいは後ろのフレームから、2以上のフレームを選んで補助情報符号を算出して利用してもよい。
トランジェントが検出された場合は、以下の手順を行う。まず、トランジェント位置量子化部125は、トランジェント位置情報を量子化する(図27のステップS7501)。量子化の方法は第7実施形態における図21のステップS7501と同様である。
次に、トランジェントパワースカラ量子化部126は、トランジェント位置に対応するサブフレームのパワーをスカラ量子化して、量子化トランジェントパワーを出力する。トランジェントパワースカラ量子化部126の動作は第7実施形態と同様である(図27のステップS7601)。
次に、トランジェントパワーベクトル量子化部128は、量子化位置情報が示すサブフレームのパワーを用いて、サブフレームパワー系列を正規化した上で、ベクトル量子化する(図27のステップS8701)。
Figure 0006704037

ベクトル量子化は以下の式に従う。
Figure 0006704037

なお、Iはコードブック中の直線またはベクトルのエントリ数であり、Jは、選ばれた直線あるいはベクトルのインデックス(以下「コードベクトルインデックス」という)である。なお、ci(l)はコードブック中のi番目のコードベクトルのl番目の要素を表す。
なお、本実施形態では、サブフレームパワー系列を正規化した上でベクトル量子化する例を示したが、変形例として、図28のように正規化を行わずにベクトル量子化を行う構成としてもよい。なお、図28の補助情報符号化部12の動作は図29の通りであり、図27のS8701に代わり、ベクトル量子化は以下の式に従う(図29のステップS8901)。その他は図27と同様である。
Figure 0006704037
図27へ戻り、次に、パラメータ符号化部127は、トランジェントフラグと量子化位置情報と量子化トランジェントパワーとコードベクトルインデックスとを補助情報符号として出力する(図27のステップS8801)。このうちトランジェントフラグと量子化位置情報と量子化トランジェントパワーは、ベクトル量子化やその他の符号化方法により符号化してもよい。符号化の方法については特に制限を設けない。また、トランジェントフラグの値がトランジェントの存在を示す値を表す場合のみ、2ビット以上の値で補助情報を符号化し、トランジェントが存在しないことを示す値の場合は、トランジェントフラグを示す1ビットのみを補助情報とする可変長符号化により、補助情報を符号化してもよい。
(復号部4の構成および動作)
第8実施形態と第7実施形態との違いは、図30の補助情報復号部45の構成および動作と、隠蔽信号修正部44における補助情報蓄積部441およびサブフレームパワー修正部442の動作である。図30に示すように、補助情報復号部45は、トランジェントフラグ復号部129、トランジェント位置復号部1212、トランジェントパワー復号部1213、トランジェントパワーベクトル復号部1214を備える。
補助情報復号部45の動作を図31に示す。補助情報復号部45は、補助情報符号からトランジェントフラグFtranと、量子化位置情報ltranと、量子化トランジェントパワーIEと、コードベクトルインデックスJとを読み出し、トランジェントフラグFtranの状態判別を行う(図31のステップS901)。ここでトランジェントフラグFtranの値がトランジェントを表さない場合は、第7実施形態と同様に、トランジェントフラグFtranの値のみが補助情報として出力される(図31のステップS906)。
一方、トランジェントフラグFtranの値がトランジェントを表す場合は、第7実施形態における図23のステップS7121と同様の方法で、量子化位置情報ltranを復号して復号位置情報を出力する(図31のステップS902)。
次に、第7実施形態における図23のステップS7131と同様の方法で、量子化トランジェントパワーから復号トランジェントパワーを求める(図31のステップS903)。
また、コードベクトルインデックスJに対応するコードベクトルcJ(m)を出力する(図31のステップS904)。
最後に、トランジェントフラグ、復号位置情報、復号トランジェントパワー、コードベクトルを出力する(図31のステップS905)。
次に、図24に示す隠蔽信号修正部44の構成を参照しながら、図32に示す隠蔽信号修正部44の動作を説明する。
まず、エラーフラグの状態判定を行う(図32のステップS1500)。エラーフラグの状態判定に当たっては、外部から入力したエラーフラグの値を読み込んでもよいし、第一隠蔽信号生成部43からの第一隠蔽信号がサブフレームパワー修正部442に入力するか否かによって判定してもよい。即ち、第一隠蔽信号がサブフレームパワー修正部442に入力されれば、エラーフラグの値がパケットロスを示していない(オフである)と判定し、第一隠蔽信号がサブフレームパワー修正部442に入力されなければ、エラーフラグの値がパケットロスを示している(オンである)と判定してもよい。
エラーフラグの値がパケットロスを示していない(オフである)場合、補助情報蓄積部441は、トランジェントフラグ、復号位置情報、復号トランジェントパワー、コードベクトルを蓄積する(図32のステップS1501)。
一方、エラーフラグの値がパケットロスを示している(オンである)場合、サブフレームパワー修正部442は、第一隠蔽信号z(K・l+k)から後述の式に従い第一の隠蔽信号のパワーの値をサブフレーム毎に修正して、隠蔽信号y(K・l+k)を求める(ただし、0≦l≦L-1、0≦k≦K-1)。具体的には、以下の手順に従い第一の隠蔽信号のパワーの値をサブフレーム毎に修正する。
まず、補助情報蓄積部から、トランジェントフラグ、復号位置情報、復号トランジェントパワー、コードベクトルを読み出す(図32のステップS1502)。
次に、補助情報を利用してサブフレーム毎のパワーを算出する(図32のステップS1503)。ここでは、まず、サブフレームパワーを算出する。
Figure 0006704037

次に、トランジェント位置に対応するサブフレームパワーと復号トランジェントパワーとの差分である差分トランジェントパワーを算出する。
Figure 0006704037

次に、差分トランジェントパワーとコードベクトルを用いて修正隠蔽信号サブフレームパワーを算出する。
Figure 0006704037

ここで、本実施形態では、符号化側でサブフレームパワー系列の値を正規化した上でベクトル量子化する例を示しているが、正規化を行わずにサブフレームパワー系列のベクトル量子化を行う構成としてもよい。正規化を行わない場合は、修正隠蔽信号サブフレームパワーを以下の通り算出する。
Figure 0006704037
次に、第一の隠蔽信号をサブフレーム毎に正規化する(図32のステップS1504)。
Figure 0006704037
最後に、修正サブフレームパワーを正規化した第一の隠蔽信号に乗算して隠蔽信号を出力する(図32のステップS1505)。
Figure 0006704037
以上のような第8実施形態により、パワーの急激な変化(トランジェント)に関する補助情報として、トランジェントパワーの変化をベクトル量子化した情報をさらに用いて、トランジェント信号に対する高精度なパケットロス隠蔽を実現することができる。
[第9実施形態]
第9実施形態では、時間周波数変換した信号に対して第7、第8実施形態で行ったような処理を適用する例を説明する。なお、補助情報符号化対象フレームは、音声符号化対象フレームより1フレーム以上後ろのフレームであってもよいし、1フレーム以上前のフレームであってもよい。また、音声符号化対象のフレームより1フレーム以上前あるいは後ろのフレームから、2以上のフレームを選んで補助情報符号を算出して利用してもよい。
(符号化部1の構成および動作)
第9実施形態における符号化部1は、第1実施形態で述べた図2と同様の構成であり、全体の詳細な説明を省略する。時間周波数変換については第4実施形態で述べたとおりであり、周波数領域に変換された信号をV(k,l)とする。ここで、kは周波数ビンのインデックスであり(ただし0≦k≦K-1)、lはサブフレームのインデックス(ただし0≦l≦L-1)とする。
以下では、第9実施形態の特徴的部分として、補助情報符号化部について詳細に説明する。補助情報符号化部は、図20に示す通りトランジェント検出部124A、トランジェント検出部124A、トランジェントパワースカラ量子化部126、パラメータ符号化部127からなる。第9実施形態では、パワーの急激な変化(トランジェント)に関する補助情報として、補助情報符号化対象となるフレーム中のトランジェントの位置と、トランジェントの位置におけるサブフレームのパワーのうち、全帯域を複数に分割したうちの一つ以上のサブバンドのパワーを用いる例を説明する。なお、補助情報の符号化においては、第8実施形態で行ったようにベクトル量子化により補助情報の符号化を行ってもよい。また、符号化するサブバンドの数は一つに限定せず、2以上のサブバンドについて同様の処理を行ってもよい。
トランジェント検出部124Aは、周波数領域に変換された信号を用いてトランジェントの検出を行う。トランジェントの検出に当たっては、第7実施形態で用いた手段を用いてもよいし、周波数領域の信号に対するトランジェント検出の標準技術であるTS26.404などを用いてもよいし、その他の周波数領域信号に対するトランジェント検出技術を用いてもよい。ここで、トランジェント検出において予め定めた周波数領域における範囲(K≦k<K)の値についてサブバンドパワー系列を算出するものとする。なお、トランジェントの検出において用いる周波数帯域の信号は、全帯域の信号を用いてもよいし、1つ以上の特定のサブバンドのみを用いてもよい。
Figure 0006704037
トランジェント位置情報、トランジェント位置に対応するサブバンドパワーの値あるいはトランジェント位置に対応するサブバンドパワーを量子化した値の符号化の方法については、上記の通り算出したサブバンドパワー系列に対して、第7実施形態、第8実施形態と同様に適用することができる。なお、補助情報として符号化するサブバンドパワー系列は全帯域を用いて算出されるものでもよいし、1つ以上の特定のサブバンドのみを用いたものでもよい。また、補助情報として符号化するサブバンドパワー系列は、トランジェント検出に用いたサブバンドについて算出したサブバンドパワー系列としてもよいし、トランジェント検出に用いなかったサブバンドについて算出したサブバンドパワー系列としてもよい。
(復号部4の構成および動作)
復号部4の全体構成は、第1実施形態で述べた図6と同様である。以下では第8実施形態において特徴的な構成である補助情報復号部45と、隠蔽信号修正部44の構成と動作について述べる。なお、第一隠蔽信号生成部43は、第1〜第6実施形態で述べた手段に加えて、例えばTS26.402 5.2節に示すような既存の標準技術により第一の隠蔽信号を生成してもよいし、標準ではない別の隠蔽信号生成技術により生成してもよい。
補助情報復号部45は、エラーフラグが通常フレームを表す場合は、補助情報符号からトランジェントフラグFtranと、量子化位置情報ltranと、量子化トランジェントパワーIEを読み出す。トランジェントフラグと量子化位置情報と量子化トランジェントパワーを符号化している場合、補助情報復号部45は、対応する復号手段により補助情報符号を復号し、これらのパラメータを求める。例えば、上記述べたような線形量子化を用いている場合は、以下の式に従い量子化トランジェントパワーから復号トランジェントパワーを求める。
Figure 0006704037
次に、隠蔽信号修正部の動作について述べる。エラーフラグがパケットロスを表す場合は、サブフレームパワー修正部442は、補助情報蓄積部441から補助情報を読み出し、第一隠蔽信号Z(l,k)から以下の式に従い第一隠蔽信号のパワーの値をサブフレーム毎に修正して隠蔽信号Y(l,k)を求める。具体的には、次式に従い修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。
まず、補助情報蓄積部からトランジェントフラグを読み出し、トランジェントの状態判定を行う。トランジェントを示す場合は、第一の隠蔽信号についてサブフレーム毎のパワーを求める。第2〜第6実施形態のようにサブフレームの長さを不均一となるよう設定してもよい。本実施形態では、サブフレームの長さが等しい場合について詳細に説明する。
Figure 0006704037

さらに、トランジェントの位置における第一隠蔽信号のパワーと復号トランジェントパワーの差分(差分トランジェントパワー)を算出する。
Figure 0006704037

さらに、トランジェントの位置以降のサブフレームに対応する第一の隠蔽信号のパワーを、前記、差分トランジェントパワーを用いて修正し、修正隠蔽信号サブフレームパワーを求める。
Figure 0006704037
次に、第一の隠蔽信号をサブフレーム毎に正規化する。
Figure 0006704037
最後に、修正隠蔽信号サブバンドパワーを正規化した第一の隠蔽信号に乗算して、隠蔽信号を算出する。
Figure 0006704037
また、第7実施形態で述べたような平滑化を適用してもよいし、第8実施形態で述べたようなベクトル量子化を組み合わせてもよい。
最後に得られた隠蔽信号を逆変換部46により時間領域の信号に変換することにより隠蔽信号を出力する。
以上のような第9実施形態により、時間周波数変換した信号に対して第7、第8実施形態で行ったような処理を適用することができる。
[第10実施形態]
第10実施形態では、符号化側において、入力信号がトランジェント信号の場合には第7あるいは第8実施形態の手段により補助情報符号を出力し、トランジェント信号以外の部分についても第1〜第3実施形態の手段を用いることによりパケットロスした信号をさらに高品質に隠蔽する。なお、周波数領域で表現された入力信号に対して、トランジェントの場合には第9実施形態の方法を、トランジェント以外の場合には第4〜第6実施形態の方法を用いてもよい。
(符号化部1の動作と構成)
図33に示すとおり、補助情報符号化部12は、減衰係数推定部122、減衰係数量子化部123、トランジェント検出部124A、トランジェント位置量子化部125、トランジェントパワースカラ量子化部126、およびパラメータ符号化部127を備える。個々の構成要素の動作は第1、第2、第7、第8実施形態にて述べた動作と同様である。以下、補助情報符号化部12全体の動作について説明する。補助情報符号化部12の動作は、図34のフローチャートに示した。
まず、トランジェント検出部124Aは、入力信号からトランジェントの有無について判定を行う。トランジェント検出部124Aの動作は第7実施形態と同様である(図34のステップS1701)。補助情報符号化対象となる信号にトランジェントが含まれない場合は、減衰係数推定部122は、第1実施形態と同様の動作により、サブフレームパワー系列から減衰係数を推定する(図34のステップS1702)。
次に、減衰係数量子化部123は、第1実施形態と同様の動作により、減衰係数を量子化し、量子化された減衰係数を出力する(図34のステップS1703)。
次に、パラメータ符号化部127は、量子化された減衰係数を補助情報符号として出力する(図34のステップS1704)。
補助情報符号化対象となる信号にトランジェントが含まれる場合のトランジェント位置量子化部125、トランジェントパワースカラ量子化部126の動作は第7実施形態と同様である(図34のステップS1705〜S1706)。
次に、パラメータ符号化部127は、トランジェントフラグが補助情報符号化対象のフレームにトランジェントを含む値を示す場合、トランジェントフラグ、トランジェント位置情報、量子化トランジェントパワーを符号化して補助情報符号を出力する(図34のステップS1707)。
(復号部4の動作と構成)
第10実施形態の全体構成も第1実施形態〜第9実施形態と同様であるので、主な差分である補助情報復号部45および隠蔽信号修正部44の動作について述べる。
補助情報復号部45は、図35に示す通り、トランジェントフラグ復号部129、減衰係数復号部1210、トランジェント位置復号部1212、トランジェントパワー復号部1213を備える。以下に補助情報復号部45の動作について述べる。動作の流れを示すフローチャートは図36の通りである。
トランジェントフラグ復号部129は、補助情報符号からトランジェントフラグを読み出し、補助情報符号がトランジェント信号に対応するか否かを判別する(図36のステップS1901)。
トランジェントフラグが、補助情報符号がトランジェントに対応していないことを示している場合は、減衰係数復号部1210が補助情報符号から量子化減衰係数符号を読み出し、量子化減衰係数符号を復号し、得られた復号減衰係数およびトランジェントフラグを補助情報として出力する(図36のステップS1902〜S1903)。減衰係数復号部1210の基本的な動作は、第1実施形態の補助情報復号部における減衰係数の算出と同様である。
一方、トランジェントフラグが、補助情報符号がトランジェントに対応していることを示している場合は、トランジェント位置復号部1212が量子化トランジェント位置情報を復号して、得られたトランジェント位置情報(以下「復号位置情報」という)を出力し(図36のステップS1904)、トランジェントパワー復号部1213が、符号化された量子化パワーを復号して、得られた復号トランジェントパワーを出力し(図36のステップS1905)、これによりトランジェントフラグと復号位置情報と復号トランジェントパワーとが補助情報として出力される(図36のステップS1906)。トランジェント位置復号部1212とトランジェントパワー復号部1213の動作は第7実施形態と同様である。
図24の隠蔽信号修正部44の動作の流れを示すフローチャートは図37の通りである。以下、隠蔽信号修正部44の動作について説明する。
エラーフラグを参照し、パケットがエラーを含むか否かを判断する(図37のステップS2001)。ここで、エラーフラグが通常フレームを表す場合、補助情報蓄積部441は、トランジェントフラグの値を参照し(図37のステップS2002)、トランジェントの場合はトランジェントフラグ、復号位置情報、および復号トランジェントパワーを蓄積する(図37のステップS2003)。一方、トランジェントでない場合は、トランジェントフラグおよび復号減衰係数を蓄積する(図37のステップS2004)。
一方、エラーフラグがパケットロスを表す場合、サブフレームパワー修正部442は、第一の隠蔽信号を正規化する(図37のステップS2005)。正規化の方法は、第7実施形態における第一隠蔽信号の正規化と同様である。
次に、サブフレームパワー修正部442は、補助情報蓄積部441からトランジェントフラグを読み出しトランジェントフラグの値を判定する(図37のステップS2006)。ここで、トランジェントフラグがトランジェントを示す値の場合は、サブフレームパワー修正部442は、補助情報蓄積部441から復号位置情報および復号トランジェントパワーを読み出し、これら復号位置情報および復号トランジェントパワーから各サブフレームのパワーを算出し、該パワーから求められる平均振幅値を、ステップS2005で求めた上記サブフレームの値に乗算することで、隠蔽信号を求める(図37のステップS2007)。
一方、トランジェントフラグがトランジェントを示さない場合は、サブフレームパワー修正部442は、補助情報蓄積部441から復号減衰係数を読み出し、第1実施形態に示した方法と同様の方法で復号減衰係数からサブフレームパワー系列を算出する。次に、サブフレームパワー修正部442は、算出したサブフレームパワー系列からゲインを算出し、得られたゲインを、正規化した第一の隠蔽信号に乗算することで、隠蔽信号を求める(図37のステップS2008)。
以上述べた第10実施形態の手法は、周波数領域に変換された入力信号に対して適用してもよい。周波数領域に変換された入力信号に対して適用するに当たっては、一つ以上のサブバンドに対して補助情報の算出・符号化を行ってもよい。
以上のような第10実施形態により、符号化側において、入力信号がトランジェント信号の場合には第7あるいは第8実施形態の手段により補助情報符号を出力し、トランジェント信号以外の部分についても第1〜第3実施形態の手段を用いることによりパケットロスした信号をさらに高品質に隠蔽することができる。
[第11実施形態]
図38に示す通り、補助情報符号化部12に符号長選択部128Aを追加することにより、トランジェントフラグの値がトランジェントの存在を示す値の場合のみ2ビット以上の値で補助情報を符号化し、トランジェントが存在しないことを示す値の場合は、トランジェントフラグを示す1ビットのみを補助情報として符号化する。以上のような可変長符号化により、補助情報を符号化してもよいし、トランジェントが存在しない場合にもトランジェント位置情報と量子化トランジェントパワーと同じビット数分だけゼロを詰めることで常に同じビット数での符号化としてもよいし、何らかの他の情報を変わりに符号化して補助情報符号としてもよい。
当然、本実施形態のように補助情報符号化部に符号長選択部を設けて、補助情報の符号長を可変とする構成は、第1実施形態〜第10実施形態の全てに適用することができる。
以下、第7実施形態の構成に符号長選択部を追加して可変符号長とした場合の構成および動作について説明する。補助情報符号化部12は、図38に示す通りトランジェント検出部124A、トランジェント位置量子化部125、トランジェントパワースカラ量子化部126、パラメータ符号化部127、符号長選択部128Aを備える。
補助情報符号化部12の動作を図39に基づき説明する。トランジェント検出部124Aは、第7実施形態と同様の動作でトランジェントの検出を行う(図39のステップS2201)。
トランジェントフラグFtranがフレーム中にトランジェントを含む値を示すときは、符号長選択部128Aは、予め定めた1ビットより大きいビット数を出力する(図39のステップS2204)。
トランジェント位置量子化部125は、トランジェントの位置ltranを予め定めたビット数でスカラ量子化し、量子化位置情報を出力する(図39のステップS2205)。トランジェント位置量子化部125の動作は第7実施形態と同様である。
次に、トランジェントパワースカラ量子化部126は、トランジェントの位置ltranに対応するサブフレームのパワーをスカラ量子化し、量子化トランジェントパワーを出力する(図39のステップS2206)。トランジェントパワースカラ量子化部126の動作は第7実施形態と同様である。
パラメータ符号化部127は、トランジェントフラグと、量子化位置情報と、量子化トランジェントパワーとを合わせて補助情報符号を出力する(図39のステップS2207)。このとき、補助情報符号全体の長さは図39のステップS2204で定めた値となる。
一方、ステップS2201でトランジェントフラグFtranがフレーム中にトランジェントを含む値を示さないときは、符号長選択部128Aは符号長を1ビットに決定する(図39のステップS2202)。次に、パラメータ符号化部127はトランジェントフラグのみを1ビットで符号化し出力する(図39のステップS2203)。
(復号部4の構成および動作)
補助情報復号部45は、第7実施形態と同様、図22に示す通りトランジェントフラグ復号部129、トランジェント位置復号部1212、トランジェントパワー復号部1213を備える。
このような補助情報復号部45の動作を図40に基づき説明する。補助情報復号部45では、補助情報符号が復号され、得られたトランジェントフラグFtranがオン(トランジェントを含むフレームを表す)かオフ(トランジェントを含まないフレームを表す)かが判断される(図40のステップS2401)。
トランジェントフラグFtranがトランジェントを含むフレームを表す場合には、トランジェントフラグ復号部129は、さらに、補助情報符号から量子化位置情報を読み出してトランジェント位置復号部1212へ出力し、さらに、補助情報符号から量子化トランジェントパワーIEを読み出してトランジェントパワー復号部1213へ出力する(図40のステップS2402)
次に、トランジェント位置復号部1212は、量子化位置情報を復号し、得られた復号位置情報ltranを出力する(図40のステップS2403)。さらに、トランジェントパワー復号部1213は、量子化トランジェントパワーIEを復号し、得られた復号トランジェントパワーP(ltran)を出力する(図40のステップS2404)。
これにより、トランジェントフラグFtran、復号位置情報ltran、復号トランジェントパワーP(ltran)が補助情報として出力される(図40のステップS2405)。なお、図40のステップS2403〜S2405は、第7実施形態と同様である。
一方、トランジェントフラグFtranがトランジェントを含まないフレームを表す場合には、トランジェントフラグFtranのみが補助情報として出力される(図40のステップS2406)。
隠蔽信号修正部44(図24)の動作は第7実施形態と同様である。
以上のような第11実施形態により、補助情報の符号長を可変とすることができる。
[第12実施形態]
第12実施形態では、第7実施形態の変形例について述べる。本実施形態では、量子化トランジェントパワーのみを補助情報として伝送する例を説明する。
(符号化部1の構成および動作)
符号化部1の構成は第1実施形態と同様である。以下では、本実施形態において特徴的な構成である補助情報符号化部12の構成と動作について述べる。補助情報符号化部12の構成は図43に示したとおり、トランジェント検出部124Aと、トランジェントパワースカラ量子化部126と、パラメータ符号化部127とを備える。
トランジェント検出部124Aは、第7実施形態と同様の処理によりサブフレームパワー系列を出力する。トランジェントの位置は、サブフレームパワーが予め定めた閾値を越えるところとしてもよいし、直前サブフレームのパワーに対するサブフレームパワーの比が最大になるところとしてもよい。また、バッファに格納した一定時間分のサブフレームパワーの分散を算出し、得られた分散が最大になるところとしてもよい。
次に、トランジェントパワースカラ量子化部126が、トランジェント位置のサブフレームパワーを第7実施形態と同様の方法で量子化し、量子化トランジェントパワーをパラメータ符号化部127へ出力する。
そして、パラメータ符号化部127は、量子化トランジェントパワーのみを符号化し補助情報符号を生成する。
(復号部4の構成および動作)
復号部4の全体構成は第1実施形態と同様である(図6の通り)。以下では本実施形態において特徴的な構成である補助情報復号部45の構成と動作について述べる。なお、第一隠蔽信号生成部43は、第7実施形態と同様の方法で生成する。
本実施形態における補助情報復号部45の構成は図44に示したとおりである。本実施形態では、符号化部1から送られてくる補助情報符号に、トランジェントフラグおよび量子化位置情報は含まれない。そこで、本実施形態においてはトランジェントフラグを常にオンの値にセットし、トランジェント位置情報には予め定めておいた値lconstを常にセットする。トランジェントパワー復号部1213は、第7実施形態と同様の処理で、量子化トランジェントパワーのみを含む補助情報符号(量子化パワー符号)を復号して復号トランジェントパワーを出力する。
なお、上記のトランジェントフラグ、トランジェント位置情報、および、出力された復号トランジェントパワーが補助情報として、図6の隠蔽信号修正部44により処理される。
以上のようにして、量子化トランジェントパワーのみを補助情報として伝送する実施形態を実現でき、第7実施形態と同様の効果を得ることができる。
[第13実施形態]
第13実施形態では、第7実施形態の別の変形例について述べる。本実施形態では、トランジェントフラグと量子化トランジェントパワーのみを補助情報として伝送する例を説明する。
(符号化部1の構成および動作)
本実施形態において特徴的な構成である補助情報符号化部12の構成と動作について述べる。補助情報符号化部12の構成は図45に示したとおり、トランジェント検出部124Aと、トランジェントパワースカラ量子化部126と、パラメータ符号化部127とを備える。
トランジェント検出部124Aと、トランジェントパワースカラ量子化部126の動作は、第7実施形態と同様である。
パラメータ符号化部127は、トランジェントフラグと量子化トランジェントパワーをまとめて補助情報符号を生成する。トランジェントフラグの値がオフのときは、第7実施形態と同様、パラメータ符号化部127は量子化トランジェントパワーを補助情報符号に含めない。
(復号部4の構成および動作)
復号部4の全体構成は第1実施形態と同様である(図6の通り)。以下では本実施形態において特徴的な構成である補助情報復号部45の構成と動作について述べる。本実施形態における補助情報復号部45の構成は、図46に示す通りである。
トランジェントフラグ復号部129の動作と、トランジェントパワー復号部1213の動作は、第7実施形態と同様である。本実施形態では、第12実施形態と同様に、トランジェント位置情報には予め決めておいた値lconstを常にセットする。
以上のようにして、トランジェントフラグと量子化トランジェントパワーのみを補助情報として伝送する実施形態を実現でき、第7実施形態と同様の効果を得ることができる。
[第14実施形態]
第14実施形態では、トランジェント位置におけるサブフレームをサブバンド毎に分割し、1つ以上のサブバンドのパワーを量子化して補助情報とする。1つ以上のサブバンドのパワーを量子化するにあたって、1つ以上のサブバンドに含まれる1つ以上のサブバンドを「コアサブバンド」とする。次に、コアサブバンド以外のサブバンドについては、当該サブバンド(コアサブバンド以外のサブバンド)のパワーとコアサブバンドのパワーとの差分を算出し、コアサブバンドのパワーおよび上記の差分を量子化して補助情報とする。なお、コアサブバンドのパワーは、補助情報に含めてもよいし、補助情報に含めずに音声符号そのものに含まれる値を代用してもよい。
(符号化部1の構成と動作)
本実施形態における符号化部1は、第1実施形態で述べた図10と同様の構成であり、全体の詳細な説明を省略する。時間周波数変換については第4実施形態において述べたとおりである。周波数領域に変換された信号をV(k,l)とする。ここで、kは周波数ビンのインデックスであり(ただし0≦k≦K-1)、lはサブフレームのインデックス(ただし0≦l≦L-1)とする。また、時間周波数変換部10は、周波数領域に変換された信号V(k,l)と、時間周波数領域変換する前の音声信号の両方を補助情報符号化部12に入力する。
本実施形態における補助情報符号化部12の構成を図47に示す。補助情報符号化部12は、トランジェント検出部124Aと、サブバンドパワー算出部128Bと、コアサブバンドパワー量子化部129Aと、差分量子化部1210Aと、パラメータ符号化部127と、を備える。さらに、トランジェント位置量子化部125を含める構成としてもよいが、以下ではトランジェント位置量子化部125を含めない構成により説明する。
トランジェント検出部124Aの動作は第7実施形態と同様である。
サブバンドパワー算出部128Bは、トランジェント位置に対応するサブフレームについて、以下の式に従いサブバンドパワーを計算する。なお、P(i)(ltran)を、トランジェント位置におけるi番目のサブバンドのパワーとする。また、Ks (i),Ke (i)を、順に、i番目のサブバンドの最初の周波数ビンのインデックス、i番目のサブバンドの最後の周波数ビンのインデックスとする。
Figure 0006704037
コアサブバンドパワー量子化部129Aは、予め定めたicore番目のサブバンドをコアサブバンドとし、コアサブバンドのパワー
Figure 0006704037

を量子化し、コアサブバンドパワー符号を出力する。量子化には、予め定めた量子化コードブックを用いて量子化してもよいし、ハフマン符号化などを用いてエントロピ符号化により量子化してもよい。また、予め1つ以上のJ個のサブバンド
Figure 0006704037

をコアサブバンドとし、上記J個のサブバンドのパワーの平均をコアサブバンドのパワーとしてもよい。また、J個のサブバンドの最大値、または最小値、または中央値をコアサブバンドのパワーとしてもよい。さらに、コアサブバンドパワー量子化部129Aは、コアサブバンドパワー符号を復号し、復号コアサブバンドパワー
Figure 0006704037

を出力する。
差分量子化部1210Aは、差分サブバンドパワー系列
Figure 0006704037

を次式により算出して量子化し、差分サブバンドパワー符号を出力する。量子化には、予め定めた量子化コードブックを用いて量子化してもよいし、ハフマン符号化などを用いてエントロピ符号化により量子化してもよいし、差分サブバンドパワー系列が2以上のサブバンドを備える場合にはベクトル量子化により量子化してもよい。
Figure 0006704037
パラメータ符号化部127は、トランジェントフラグ、コアサブバンドパワー符号、差分サブバンドパワー符号をまとめて補助情報符号を出力する。ただし、トランジェントフラグの値がオフの場合には、コアサブバンドパワー符号、差分サブバンドパワー符号を補助情報符号に含めない。
(復号部4の構成と動作)
本実施形態における補助情報復号部45の構成を図48に示す。補助情報復号部45は、トランジェントフラグ復号部129と、コアサブバンドパワー復号部1214Aと、差分復号部1215と、を備える。さらに、トランジェント位置復号部1212を含める構成としてもよいが、以下ではトランジェント位置復号部1212を含めない構成により説明する。
トランジェントフラグ復号部129の動作は第7実施形態と同様である。
コアサブバンドパワー復号部1214Aは、量子化コアサブバンドパワーを復号し、復号コアサブバンドパワー
Figure 0006704037

を出力する。
差分復号部1215は、差分サブバンドパワー符号を復号し、復号差分サブバンドパワー系列
Figure 0006704037

を出力する。さらに、差分復号部1215は、次式に従い、復号差分サブバンドパワー系列と復号コアサブバンドパワーとを加算して、トランジェントパワースペクトル
Figure 0006704037

を算出する。
Figure 0006704037
次に、本実施形態におけるサブフレームパワー修正部442(図24)の動作について述べる。補助情報蓄積部441は、上記の補助情報復号部45により得られたトランジェントフラグおよびトランジェントパワースペクトルを補助情報として蓄積しており、サブフレームパワー修正部442は、補助情報蓄積部441からトランジェントフラグおよびトランジェントパワースペクトルを読み出し、第一隠蔽信号z(K・l+k)のパワーの値をサブフレーム毎に修正して隠蔽信号y(K・l+k)を求める。具体的には、以下の手順に従い、修正を行う(ただし、0≦l≦L-1、0≦k≦K-1)。
まず、第一隠蔽信号生成部43から出力された第一の隠蔽信号が、サブフレームパワー修正部442に入力される。さらに、補助情報蓄積部441に蓄積されたトランジェントフラグおよびトランジェントパワースペクトルがサブフレームパワー修正部442に入力される。
次に、サブフレームパワー修正部442は、予め定めた値をトランジェント位置情報ltranにセットする。
次に、サブフレームパワー修正部442は、サブバンドパワー系列を以下の式に従い算出する。
Figure 0006704037
次に、サブフレームパワー修正部442は、トランジェントの位置における第一隠蔽信号のサブバンドパワー系列とトランジェントパワースペクトルとの差分(差分トランジェントパワー)を以下の式に従い算出する。
Figure 0006704037
次に、サブフレームパワー修正部442は、トランジェントの位置以降のサブフレームに対応する第一の隠蔽信号のパワーを、上記の差分トランジェントパワーを用いて修正し、修正隠蔽信号サブフレームパワーを求める。
最後に、サブフレームパワー修正部442は、すべてのサブバンドiについて以下の式に従い、修正隠蔽信号サブフレームパワーを第一隠蔽信号に乗算して、隠蔽信号を算出する。ただし、Ks (i)≦k<Ke (i),l≧ltranとする。
Figure 0006704037
以上のように、コアサブバンドのパワーとコアサブバンド以外のサブバンドのパワーとの差分を補助情報として利用し、トランジェント信号に対する高精度なパケットロス隠蔽を実現することができる。
なお、本実施形態では、図47の補助情報符号化部12においてトランジェント位置量子化部125を省略し、図48の補助情報復号部45においてトランジェント位置復号部1212を省略した構成について説明したが、これらを含めた構成としてもよい。
[第15実施形態]
第15実施形態では、第14実施形態における図47のコアサブバンドパワー量子化部129Aおよび図48のコアサブバンドパワー復号部1214Aを省略した場合について述べる。
(符号化部1の構成と動作)
本実施形態における符号化部1は、第1実施形態で述べた図10と同様の構成であり、全体の詳細な説明を省略する。時間周波数変換は第14実施形態と同様である。
音声符号化部11は、音声信号のパワーを算出・量子化してコアサブバンドパワー符号を算出し、音声符号に含めるものとする。コアサブバンドパワー符号の出力に当たっては、時間領域で求めたフレームあるいは1つ以上のサブフレームに関するパワーを量子化してもよいし、周波数領域で求めたフレームあるいは1つ以上のサブフレームのパワーを量子化してもよいし、QMF領域に変換した信号の1つ以上のサブサンプルに関するパワーを量子化してもよい。周波数領域、QMF領域での量子化にあたっては、1つ以上のサブバンドについて算出したパワーを量子化してもよい。
本実施形態における補助情報符号化部12の構成を図49に示す。補助情報符号化部12は、トランジェント検出部124Aと、サブバンドパワー算出部128Bと、差分量子化部1210Aと、パラメータ符号化部127と、を備える。さらに、トランジェント位置量子化部125を含める構成としてもよいが、以下ではトランジェント位置量子化部125を含めない構成により説明する。
トランジェント検出部124Aの動作は第7実施形態と同様であり、サブバンドパワー算出部128Bは、第14実施形態と同様である。
音声符号化部11は、音声符号に含まれるパワーに関する符号を復号して得られる復号コアサブバンドパワーPcoreを差分量子化部1210Aに入力する。
差分量子化部1210Aは、差分サブバンドパワー系列
Figure 0006704037

を次式により算出して量子化し、得られた差分サブバンドパワー符号を出力する。量子化では、予め定めた量子化コードブックを用いて量子化してもよいし、ハフマン符号化などを用いてエントロピ符号化により量子化してもよいし、差分サブバンドパワー系列が2以上のサブバンドを備える場合にはベクトル量子化により量子化してもよい。
Figure 0006704037
パラメータ符号化部127は、第14実施形態と同様である。
(復号部4の構成と動作)
本実施形態における補助情報復号部45の構成を図50に示す。補助情報復号部45は、トランジェントフラグ復号部129と、差分復号部1215と、を備える。さらに、トランジェント位置復号部1212を含める構成としてもよいが、以下ではトランジェント位置復号部1212を含めない構成により説明する。
トランジェントフラグ復号部129の動作は第7実施形態と同様である。
音声復号部42は、音声符号に含まれるパワーに関する符号を復号して得られる復号コアサブバンドパワーPcoreを差分復号部1215に入力する。Pcoreが時間領域など、周波数領域に変換された信号V(k,l)とは異なる領域で求めた値である場合には、オフセットを加算して単位をそろえた上で、Pcoreを差分復号部1215に入力する。
差分復号部1215は、差分サブバンドパワー符号を復号し、復号差分サブバンドパワー系列
Figure 0006704037

を出力する。さらに、差分復号部1215は、下記の式に従い、復号差分サブバンドパワー系列と復号コアサブバンドパワーとを加算して、トランジェントパワースペクトル
Figure 0006704037

を算出する。
Figure 0006704037
図24のサブフレームパワー修正部442は、第14実施形態と同様の動作である。
以上のようにして、第14実施形態における図47のコアサブバンドパワー量子化部129Aおよび図48のコアサブバンドパワー復号部1214Aを省略した実施形態を実現でき、第14実施形態と同様の効果を得ることができる。
なお、本実施形態では、図49の補助情報符号化部12においてトランジェント位置量子化部125を省略し、図50の補助情報復号部45においてトランジェント位置復号部1212を省略した構成について説明したが、これらを含めた構成としてもよい。
[音声符号化プログラムおよび音声復号プログラムについて]
まず、コンピュータを、本発明に係る音声符号化装置として動作させる音声符号化プログラムについて説明する。
図17は、一実施形態に係る音声符号化プログラムの構成を示す図である。図15は、一実施形態に係るコンピュータのハードウェア構成図である。図16は、一実施形態に係るコンピュータの外観図である。図17に示す音声符号化プログラムP1は、図15および図16に示すコンピュータC10を符号化部1として動作させることができる。なお、本明細書に説明するプログラムは、図15および図16に示すようなコンピュータに限定されず、携帯電話、携帯情報端末、携帯型パーソナルコンピュータといった任意の情報処理装置を、当該プログラムに従って動作させることができる。
音声符号化プログラムP1は、記録媒体Mに格納されて提供され得る。なお、記録媒体Mとしては、フレキシブルディスク、CD−ROM、DVD、あるいはROM等の記録媒体、あるいは半導体メモリ等が例示される。
図15に示すように、コンピュータC10は、フレキシブルディスクドライブ装置、CD−ROMドライブ装置、DVDドライブ装置等の読み取り装置C12と、作業用メモリ(RAM)C14と、記録媒体Mに記憶されたプログラムを記憶するメモリC16と、ディスプレイC18と、入力装置であるマウスC20及びキーボードC22と、データ等の送受信を行うための通信装置C24と、プログラムの実行を制御する中央演算部(CPU)C26とを備える。
コンピュータC10は、記録媒体Mが読み取り装置C12に挿入されると、記録媒体Mに格納された音声符号化プログラムP1に読み取り装置C12からアクセス可能になり、音声符号化プログラムP1によって、本発明に係る音声符号化装置として動作することが可能になる。
図16に示すように、音声符号化プログラムP1は、搬送波に重畳されたコンピュータデータ信号Wとしてネットワークを介して提供されるものであってもよい。この場合、コンピュータC10は、通信装置C24によって受信した音声符号化プログラムP1をメモリC16に格納し、音声符号化プログラムP1を実行することができる。
図17に示すように、音声符号化プログラムP1は、音声符号化モジュールP11、および補助情報符号化モジュールP12を備えている。これらの音声符号化モジュールP11、および補助情報符号化モジュールP12は、前述した音声符号化部11、および補助情報符号化部12とそれぞれ同様の機能をコンピュータC10に実行させる。かかる音声符号化プログラムP1によれば、コンピュータC10は、本発明に係る音声符号化装置として動作することが可能となる。
次に、コンピュータを、本発明に係る音声復号装置として動作させる音声復号プログラムについて説明する。図18は、一実施形態に係る音声復号プログラムの構成を示す図である。
図18に示す音声復号プログラムP4は、図15および図16に示したコンピュータにおいて使用され得るものである。また、音声復号プログラムP4は、音声符号化プログラムP1と同様に提供され得る。
図18に示すように、音声復号プログラムP4は、エラー/ロス検出モジュールP41、音声復号モジュールP42、補助情報復号モジュールP45、第一隠蔽信号生成モジュールP43、および隠蔽信号修正モジュールP44を備えている。これらのエラー/ロス検出モジュールP41、音声復号モジュールP42、補助情報復号モジュールP45、第一隠蔽信号生成モジュールP43、および隠蔽信号修正モジュールP44は、前述したエラー/ロス検出部41、音声復号部42、補助情報復号部45、第一隠蔽信号生成部43、および隠蔽信号修正部44とそれぞれ同様の機能をコンピュータC10に実行させる。かかる音声復号プログラムP4によれば、コンピュータC10は、本発明に係る音声復号装置として動作することが可能となる。
以上説明したさまざまな実施形態によって、パワーが急激に変化する部分についての有効な補助情報を符号化側から復号側へ送ることができ、従来技術ではパケットロス隠蔽が困難であったパワーの急激な時間変化を伴う信号(トランジェント信号)に対して、高精度なパケットロス隠蔽を実現し、パケットロス時の主観品質低下を軽減することができる。
1…符号化部、2…パケット構成部、3…パケット分離部、4…復号部、10…時間周波数変換部、11…音声符号化部、12…補助情報符号化部、13…符号多重化部、40…符号分離部、41…エラー/ロス検出部、42…音声復号部、43…第一隠蔽信号生成部、44…隠蔽信号修正部、45…補助情報復号部、46…逆変換部、47…音声パラメータ蓄積部、121…サブフレームパワー計算部、122…減衰係数推定部、123…減衰係数量子化部、124…サブフレームパワーベクトル量子化部、124A…トランジェント検出部、125…トランジェント位置量子化部、126…トランジェントパワースカラ量子化部、127…パラメータ符号化部、128…トランジェントパワーベクトル量子化部、128A…符号長選択部、128B…サブバンドパワー算出部、129…トランジェントフラグ復号部、129A…コアサブバンドパワー量子化部、1210…減衰係数復号部、1210A…差分量子化部、1212…トランジェント位置復号部、1213…トランジェントパワー復号部、1214…トランジェントパワーベクトル復号部、1214A…コアサブバンドパワー復号部、1215…差分復号部、431…復号係数蓄積部、432…蓄積復号係数反復部、441…補助情報蓄積部、442…サブフレームパワー修正部、C10…コンピュータ、C12…読み取り装置、C14…作業用メモリ、C16…メモリ、C18…ディスプレイ、C20…マウス、C22…キーボード、C24…通信装置、C26…CPU、M…記録媒体、W…コンピュータデータ信号、P1…音声符号化プログラム、P11…音声符号化モジュール、P12…補助情報符号化モジュール、P4…音声復号プログラム、P41…エラー/ロス検出モジュール、P42…音声復号モジュール、P43…第一隠蔽信号生成モジュール、P44…隠蔽信号修正モジュール、P45…補助情報復号モジュール。

Claims (2)

  1. 複数のフレームからなる音声信号を符号化する音声符号化装置であって、
    音声信号を符号化する音声符号化部と、
    音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化部と、
    を備え、
    前記補助情報符号化部は、
    前記補助情報として、前記音声符号化部による符号化対象のフレームとは異なるフレームの音声信号におけるパワーの変化に関するフラグを推定し符号化し、
    前記フラグが所定のモードである場合、前記補助情報として、さらに、前記符号化対象のフレームとは異なるフレームの音声信号におけるパワーの変化の位置での量子化トランジェントパワーを推定し符号化し、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、
    前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めない、
    音声符号化装置。
  2. 複数のフレームからなる音声信号を符号化する音声符号化装置、により実行される音声符号化方法であって、
    音声信号を符号化する音声符号化ステップと、
    音声信号を復号する際のパケットロス隠蔽に用いられる、音声信号のパワーの時間変化に関する補助情報を推定し符号化する補助情報符号化ステップと、
    を備え、
    前記補助情報符号化ステップでは、前記音声符号化装置は、
    前記補助情報として、前記音声符号化ステップにおける符号化対象のフレームとは異なるフレームの音声信号におけるパワーの変化に関するフラグを推定し符号化し、
    前記フラグが所定のモードである場合、前記補助情報として、さらに、前記符号化対象のフレームとは異なるフレームの音声信号におけるパワーの変化の位置での量子化トランジェントパワーを推定し符号化し、前記補助情報には、前記フラグ及び前記量子化トランジェントパワーのみが含まれ、
    前記フラグが所定のモードでない場合、前記補助情報には、量子化トランジェントパワーを含めない、
    音声符号化方法。
JP2018230792A 2010-11-22 2018-12-10 音声符号化装置および方法 Active JP6704037B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010260447 2010-11-22
JP2010260447 2010-11-22
JP2011033915 2011-02-18
JP2011033915 2011-02-18

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017102737A Division JP6450802B2 (ja) 2010-11-22 2017-05-24 音声符号化装置および方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019216491A Division JP6789365B2 (ja) 2010-11-22 2019-11-29 音声符号化装置および方法

Publications (2)

Publication Number Publication Date
JP2019066868A JP2019066868A (ja) 2019-04-25
JP6704037B2 true JP6704037B2 (ja) 2020-06-03

Family

ID=46145720

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2012545668A Active JP6000854B2 (ja) 2010-11-22 2011-11-04 音声符号化装置および方法、並びに、音声復号装置および方法
JP2016127642A Active JP6151411B2 (ja) 2010-11-22 2016-06-28 音声符号化装置および方法、並びに、音声復号装置および方法
JP2017102737A Active JP6450802B2 (ja) 2010-11-22 2017-05-24 音声符号化装置および方法
JP2018230792A Active JP6704037B2 (ja) 2010-11-22 2018-12-10 音声符号化装置および方法
JP2019216491A Active JP6789365B2 (ja) 2010-11-22 2019-11-29 音声符号化装置および方法
JP2020183599A Active JP6951536B2 (ja) 2010-11-22 2020-11-02 音声符号化装置および方法

Family Applications Before (3)

Application Number Title Priority Date Filing Date
JP2012545668A Active JP6000854B2 (ja) 2010-11-22 2011-11-04 音声符号化装置および方法、並びに、音声復号装置および方法
JP2016127642A Active JP6151411B2 (ja) 2010-11-22 2016-06-28 音声符号化装置および方法、並びに、音声復号装置および方法
JP2017102737A Active JP6450802B2 (ja) 2010-11-22 2017-05-24 音声符号化装置および方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2019216491A Active JP6789365B2 (ja) 2010-11-22 2019-11-29 音声符号化装置および方法
JP2020183599A Active JP6951536B2 (ja) 2010-11-22 2020-11-02 音声符号化装置および方法

Country Status (12)

Country Link
US (5) US9508350B2 (ja)
EP (3) EP2975610B1 (ja)
JP (6) JP6000854B2 (ja)
CN (2) CN103229234B (ja)
DK (1) DK2975610T3 (ja)
ES (2) ES2966665T3 (ja)
FI (1) FI3518234T3 (ja)
HU (1) HUE064739T2 (ja)
PL (2) PL3518234T3 (ja)
PT (1) PT2975610T (ja)
TW (1) TW201243825A (ja)
WO (1) WO2012070370A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103229234B (zh) 2010-11-22 2015-07-08 株式会社Ntt都科摩 音频编码装置、方法以及音频解码装置、方法
CN103812824A (zh) * 2012-11-07 2014-05-21 中兴通讯股份有限公司 音频多编码传输方法及相应装置
EP2922053B1 (en) * 2012-11-15 2019-08-28 NTT Docomo, Inc. Audio coding device, audio coding method, audio coding program, audio decoding device, audio decoding method, and audio decoding program
CN104301064B (zh) 2013-07-16 2018-05-04 华为技术有限公司 处理丢失帧的方法和解码器
JP5981408B2 (ja) 2013-10-29 2016-08-31 株式会社Nttドコモ 音声信号処理装置、音声信号処理方法、及び音声信号処理プログラム
US9608889B1 (en) * 2013-11-22 2017-03-28 Google Inc. Audio click removal using packet loss concealment
CN104681034A (zh) * 2013-11-27 2015-06-03 杜比实验室特许公司 音频信号处理
CN105225666B (zh) * 2014-06-25 2016-12-28 华为技术有限公司 处理丢失帧的方法和装置
KR20180026528A (ko) * 2015-07-06 2018-03-12 노키아 테크놀로지스 오와이 오디오 신호 디코더를 위한 비트 에러 검출기
WO2017129270A1 (en) * 2016-01-29 2017-08-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for improving a transition from a concealed audio signal portion to a succeeding audio signal portion of an audio signal
BR112018068098A2 (pt) 2016-03-07 2019-01-15 Fraunhofer Ges Forschung unidade de ocultação de erros, decodificador de áudio, método relacionado e programa de computador para diminuição gradual de um quadro de áudio oculto de acordo com diversos fatores de amortecimento para diversas bandas de frequência
WO2017153300A1 (en) 2016-03-07 2017-09-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Error concealment unit, audio decoder, and related method and computer program using characteristics of a decoded representation of a properly decoded audio frame
KR20220151953A (ko) * 2021-05-07 2022-11-15 한국전자통신연구원 부가 정보를 이용한 오디오 신호의 부호화 및 복호화 방법과 그 방법을 수행하는 부호화기 및 복호화기

Family Cites Families (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US862644A (en) * 1906-08-03 1907-08-06 Francis M Kepler Screen.
US4802171A (en) * 1987-06-04 1989-01-31 Motorola, Inc. Method for error correction in digitally encoded speech
US5748763A (en) * 1993-11-18 1998-05-05 Digimarc Corporation Image steganography system featuring perceptually adaptive and globally scalable signal embedding
JPH07336310A (ja) * 1994-06-14 1995-12-22 Matsushita Electric Ind Co Ltd 音声復号化装置
US6904404B1 (en) * 1996-07-01 2005-06-07 Matsushita Electric Industrial Co., Ltd. Multistage inverse quantization having the plurality of frequency bands
AU4201100A (en) * 1999-04-05 2000-10-23 Hughes Electronics Corporation Spectral phase modeling of the prototype waveform components for a frequency domain interpolative speech codec system
JP4287545B2 (ja) * 1999-07-26 2009-07-01 パナソニック株式会社 サブバンド符号化方式
JP4597360B2 (ja) * 2000-12-26 2010-12-15 パナソニック株式会社 音声復号装置及び音声復号方法
US7447639B2 (en) * 2001-01-24 2008-11-04 Nokia Corporation System and method for error concealment in digital audio transmission
US7412004B2 (en) * 2001-06-29 2008-08-12 Agere Systems Inc. Method and apparatus for controlling buffer overflow in a communication system
US7590525B2 (en) * 2001-08-17 2009-09-15 Broadcom Corporation Frame erasure concealment for predictive speech coding based on extrapolation of speech waveform
EP1292036B1 (en) * 2001-08-23 2012-08-01 Nippon Telegraph And Telephone Corporation Digital signal decoding methods and apparatuses
JP4022427B2 (ja) * 2002-04-19 2007-12-19 独立行政法人科学技術振興機構 エラー隠蔽方法、エラー隠蔽プログラム、送信装置、受信装置及びエラー隠蔽装置
CA2388439A1 (en) * 2002-05-31 2003-11-30 Voiceage Corporation A method and device for efficient frame erasure concealment in linear predictive based speech codecs
SG108862A1 (en) * 2002-07-24 2005-02-28 St Microelectronics Asia Method and system for parametric characterization of transient audio signals
US7657427B2 (en) * 2002-10-11 2010-02-02 Nokia Corporation Methods and devices for source controlled variable bit-rate wideband speech coding
KR100711280B1 (ko) * 2002-10-11 2007-04-25 노키아 코포레이션 소스 제어되는 가변 비트율 광대역 음성 부호화 방법 및장치
US20040083110A1 (en) * 2002-10-23 2004-04-29 Nokia Corporation Packet loss recovery based on music signal classification and mixing
CN100471072C (zh) * 2002-11-21 2009-03-18 日本电信电话株式会社 数字信号处理方法
US7343291B2 (en) * 2003-07-18 2008-03-11 Microsoft Corporation Multi-pass variable bitrate media encoding
CN100495930C (zh) * 2003-09-02 2009-06-03 日本电信电话株式会社 浮点信号可逆编码方法、解码方法及其设备
CA2457988A1 (en) * 2004-02-18 2005-08-18 Voiceage Corporation Methods and devices for audio compression based on acelp/tcx coding and multi-rate lattice vector quantization
DE602005022641D1 (de) * 2004-03-01 2010-09-09 Dolby Lab Licensing Corp Mehrkanal-Audiodekodierung
US20090299756A1 (en) * 2004-03-01 2009-12-03 Dolby Laboratories Licensing Corporation Ratio of speech to non-speech audio such as for elderly or hearing-impaired listeners
ATE523876T1 (de) * 2004-03-05 2011-09-15 Panasonic Corp Fehlerverbergungseinrichtung und fehlerverbergungsverfahren
US7272567B2 (en) * 2004-03-25 2007-09-18 Zoran Fejzo Scalable lossless audio codec and authoring tool
US7668712B2 (en) * 2004-03-31 2010-02-23 Microsoft Corporation Audio encoding and decoding with intra frames and adaptive forward error correction
CN1906663B (zh) * 2004-05-10 2010-06-02 日本电信电话株式会社 声学信号分组通信方法、传送方法、接收方法、及其设备和程序
JP5046654B2 (ja) * 2005-01-14 2012-10-10 パナソニック株式会社 スケーラブル復号装置及びスケーラブル復号方法
US20070147518A1 (en) * 2005-02-18 2007-06-28 Bruno Bessette Methods and devices for low-frequency emphasis during audio compression based on ACELP/TCX
WO2007000988A1 (ja) * 2005-06-29 2007-01-04 Matsushita Electric Industrial Co., Ltd. スケーラブル復号装置および消失データ補間方法
US8069035B2 (en) * 2005-10-14 2011-11-29 Panasonic Corporation Scalable encoding apparatus, scalable decoding apparatus, and methods of them
US8620644B2 (en) * 2005-10-26 2013-12-31 Qualcomm Incorporated Encoder-assisted frame loss concealment techniques for audio coding
EP1852849A1 (en) * 2006-05-05 2007-11-07 Deutsche Thomson-Brandt Gmbh Method and apparatus for lossless encoding of a source signal, using a lossy encoded data stream and a lossless extension data stream
JP2007336310A (ja) 2006-06-16 2007-12-27 Onkyo Corp 音響ミュート回路の制御装置
JP5123516B2 (ja) * 2006-10-30 2013-01-23 株式会社エヌ・ティ・ティ・ドコモ 復号装置、符号化装置、復号方法及び符号化方法
KR100862662B1 (ko) * 2006-11-28 2008-10-10 삼성전자주식회사 프레임 오류 은닉 방법 및 장치, 이를 이용한 오디오 신호복호화 방법 및 장치
CN101512909B (zh) * 2006-11-30 2012-12-19 松下电器产业株式会社 信号处理装置
EP2128854B1 (en) * 2007-03-02 2017-07-26 III Holdings 12, LLC Audio encoding device and audio decoding device
JP4984983B2 (ja) * 2007-03-09 2012-07-25 富士通株式会社 符号化装置および符号化方法
US20100106490A1 (en) * 2007-03-29 2010-04-29 Jonas Svedberg Method and Speech Encoder with Length Adjustment of DTX Hangover Period
JP2008261904A (ja) * 2007-04-10 2008-10-30 Matsushita Electric Ind Co Ltd 符号化装置、復号化装置、符号化方法および復号化方法
US8271268B2 (en) * 2007-04-18 2012-09-18 Nuance Communications, Inc. Method to translate, cache and transmit text-based information contained in an audio signal
CN101325537B (zh) * 2007-06-15 2012-04-04 华为技术有限公司 一种丢帧隐藏的方法和设备
WO2009004727A1 (ja) * 2007-07-04 2009-01-08 Fujitsu Limited 符号化装置、符号化方法および符号化プログラム
JP5169059B2 (ja) * 2007-08-06 2013-03-27 パナソニック株式会社 音声通信装置
US8090588B2 (en) * 2007-08-31 2012-01-03 Nokia Corporation System and method for providing AMR-WB DTX synchronization
JP4640407B2 (ja) * 2007-12-07 2011-03-02 ソニー株式会社 信号処理装置、信号処理方法及びプログラム
JP5262171B2 (ja) * 2008-02-19 2013-08-14 富士通株式会社 符号化装置、符号化方法および符号化プログラム
JP5449133B2 (ja) * 2008-03-14 2014-03-19 パナソニック株式会社 符号化装置、復号装置およびこれらの方法
EP2301015B1 (en) * 2008-06-13 2019-09-04 Nokia Technologies Oy Method and apparatus for error concealment of encoded audio data
WO2010005224A2 (en) * 2008-07-07 2010-01-14 Lg Electronics Inc. A method and an apparatus for processing an audio signal
EP2346030B1 (en) * 2008-07-11 2014-10-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder, method for encoding an audio signal and computer program
US8352279B2 (en) * 2008-09-06 2013-01-08 Huawei Technologies Co., Ltd. Efficient temporal envelope coding approach by prediction between low band signal and high band signal
US8175888B2 (en) * 2008-12-29 2012-05-08 Motorola Mobility, Inc. Enhanced layered gain factor balancing within a multiple-channel audio coding system
JP5287546B2 (ja) * 2009-06-29 2013-09-11 富士通株式会社 情報処理装置およびプログラム
US8452606B2 (en) * 2009-09-29 2013-05-28 Skype Speech encoding using multiple bit rates
CN103229234B (zh) 2010-11-22 2015-07-08 株式会社Ntt都科摩 音频编码装置、方法以及音频解码装置、方法
FR3015826B1 (fr) 2013-12-20 2016-01-01 Schneider Electric Ind Sas Procede de surveillance d'une communication entre un equipement emetteur et un equipement recepteur

Also Published As

Publication number Publication date
CN104934036A (zh) 2015-09-23
JP2017142542A (ja) 2017-08-17
EP2645366A4 (en) 2014-05-07
JP2019066868A (ja) 2019-04-25
ES2966665T3 (es) 2024-04-23
HUE064739T2 (hu) 2024-04-28
JP6789365B2 (ja) 2020-11-25
US9508350B2 (en) 2016-11-29
US20220215846A1 (en) 2022-07-07
EP2975610A1 (en) 2016-01-20
JP6000854B2 (ja) 2016-10-05
FI3518234T3 (fi) 2023-12-14
DK2975610T3 (da) 2019-05-27
CN104934036B (zh) 2018-11-02
TW201243825A (en) 2012-11-01
JP6951536B2 (ja) 2021-10-20
CN103229234B (zh) 2015-07-08
US20190019519A1 (en) 2019-01-17
EP2975610B1 (en) 2019-04-24
JP2020073986A (ja) 2020-05-14
US20200357416A1 (en) 2020-11-12
US20130253939A1 (en) 2013-09-26
PT2975610T (pt) 2019-06-04
EP3518234A1 (en) 2019-07-31
CN103229234A (zh) 2013-07-31
EP3518234B1 (en) 2023-11-29
PL3518234T3 (pl) 2024-04-08
JP6450802B2 (ja) 2019-01-09
ES2727748T3 (es) 2019-10-18
WO2012070370A1 (ja) 2012-05-31
JPWO2012070370A1 (ja) 2014-05-19
US11756556B2 (en) 2023-09-12
PL2975610T3 (pl) 2019-08-30
US10762908B2 (en) 2020-09-01
US10115402B2 (en) 2018-10-30
US20170076729A1 (en) 2017-03-16
JP2016194710A (ja) 2016-11-17
EP2645366A1 (en) 2013-10-02
US11322163B2 (en) 2022-05-03
JP6151411B2 (ja) 2017-06-21
JP2021012398A (ja) 2021-02-04

Similar Documents

Publication Publication Date Title
JP6704037B2 (ja) 音声符号化装置および方法
KR102117051B1 (ko) 프레임 에러 은닉방법 및 장치와 오디오 복호화방법 및 장치
KR20200010540A (ko) 대역폭 확장을 위한 고주파수 부호화/복호화 방법 및 장치
US8862463B2 (en) Adaptive time/frequency-based audio encoding and decoding apparatuses and methods
JP5485909B2 (ja) オーディオ信号処理方法及び装置
JP6980871B2 (ja) 信号符号化方法及びその装置、並びに信号復号方法及びその装置
KR20100086000A (ko) 오디오 신호 처리 방법 및 장치
KR20090083070A (ko) 적응적 lpc 계수 보간을 이용한 오디오 신호의 부호화,복호화 방법 및 장치
US20090192789A1 (en) Method and apparatus for encoding/decoding audio signals
KR102625143B1 (ko) 신호 부호화방법 및 장치와 신호 복호화방법 및 장치
KR20150032220A (ko) 신호 부호화방법 및 장치와 신호 복호화방법 및 장치
UA114233C2 (uk) Системи та способи для визначення набору коефіцієнтів інтерполяції
EP4239635A2 (en) Audio encoding device and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200511

R150 Certificate of patent or registration of utility model

Ref document number: 6704037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250