JP2022536158A - 時間反転されたオーディオサブフレームエラー隠蔽 - Google Patents

時間反転されたオーディオサブフレームエラー隠蔽 Download PDF

Info

Publication number
JP2022536158A
JP2022536158A JP2021573331A JP2021573331A JP2022536158A JP 2022536158 A JP2022536158 A JP 2022536158A JP 2021573331 A JP2021573331 A JP 2021573331A JP 2021573331 A JP2021573331 A JP 2021573331A JP 2022536158 A JP2022536158 A JP 2022536158A
Authority
JP
Japan
Prior art keywords
time
spectrum
peak
subframe
subframes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021573331A
Other languages
English (en)
Other versions
JP7371133B2 (ja
Inventor
エリク ノーベル,
アシュア, チャムラーン モラディ
Original Assignee
テレフオンアクチーボラゲット エルエム エリクソン(パブル)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テレフオンアクチーボラゲット エルエム エリクソン(パブル) filed Critical テレフオンアクチーボラゲット エルエム エリクソン(パブル)
Publication of JP2022536158A publication Critical patent/JP2022536158A/ja
Priority to JP2023179369A priority Critical patent/JP2024012337A/ja
Application granted granted Critical
Publication of JP7371133B2 publication Critical patent/JP7371133B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/005Correction of errors induced by the transmission channel, if related to the coding algorithm
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/022Blocking, i.e. grouping of samples in time; Choice of analysis windows; Overlap factoring
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/06Determination or coding of the spectral characteristics, e.g. of the short-term prediction coefficients

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Abstract

オーディオ信号の隠蔽オーディオサブフレームを生成する方法およびデコーダデバイスが提供される。この方法は、サブフレームベースで周波数スペクトルを生成することであって、オーディオ信号の連続したサブフレームが、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する、周波数スペクトルを生成することを含む。以前に受信されたオーディオ信号の信号スペクトルのピークが、隠蔽サブフレームに関して検知され、ピークのうちのそれぞれの位相が推定される。時間反転された位相調整が、推定された位相に基づいて導出され、信号スペクトルのピークに適用されて、時間反転された位相調整を施されたピークが形成される。【選択図】図10

Description

本開示は、全般的には通信に関し、より詳細には、モノラル、ステレオ、またはマルチチャネルオーディオエンコーディングおよびデコーディングに関するパケットロス隠蔽を制御するための方法および装置に関する。
現代の電気通信サービスは、一般にエンドユーザどうしの間における信頼できる接続を提供する。しかしながら、そのようなサービスは依然として、変動するチャネル状況を取り扱う必要があり、そうしたチャネル状況では、たとえばネットワークの混雑または貧弱なセルカバレッジに起因して、ときおりデータパケットが失われる場合がある。送信エラーおよび失われるパッケージの問題を克服するために、電気通信サービスは、パケットロス隠蔽技術(PLC)を利用することが可能である。貧弱な接続、ネットワークの混雑などに起因してデータパケットが失われるケースにおいては、受信機側における失われたパケットの欠落している情報は、デコーダにおいて合成信号によって代用されることが可能である。PLC技術は、しばしばデコーダに密接に結び付けられている場合があり、この場合には、内部状態を使用して、パケットロスをカバーするために信号の継続または外挿をもたらすことが可能である。さまざまな信号タイプに関していくつかのオペレーティングモードを有するマルチモードコーデックに関しては、隠蔽を取り扱うためのいくつかのPLCテクノロジーがある場合が多い。フレームエラー隠蔽(FEC)、フレームロス隠蔽(FLC)、およびエラー隠蔽ユニット(ECU)を含む、パケットロス隠蔽技術に使用される多くの異なる用語がある。
線形予測(LP)ベースの音声コーディングモードに関しては、PLCは、推定されたフレーム末尾のピッチ情報と、前のフレームのピッチサイクルの複製とを使用した声門パルス位置の調整に基づくことが可能である[1]。長期予測子(LTP)のゲインは、連続した失われたフレームの数と、最後の良好な、すなわちエラーのないフレームの安定性とに応じたスピードでゼロへ収束する[2]。周波数ドメイン(FD)ベースのコーディングモードは、音楽などの一般的なまたは複雑な信号を取り扱うように設計されている。最後の受信されたフレームの特徴に応じて、さまざまな技術が使用されることが可能である。そのような分析は、検知された音色成分の数と、信号の周期性とを含むことが可能である。活発な発話または単一の楽器の音楽などの高度に周期的な信号中にフレームロスが生じる場合には、LPベースのPLCに類似した時間ドメインPLCが適している可能性がある。このケースにおいては、FD PLCは、最後の受信されたフレームに基づいてLPパラメータおよび励起信号を推定することによってLPデコーダを模倣することが可能である[2]。失われたフレームが、非周期的なまたはノイズのような信号中に生じるケースにおいては、最後の受信されたフレームは、スペクトルドメインにおいて繰り返されることが可能であり、この場合、繰り返される信号の金属音を低減するために、係数どうしが掛け合わされてランダムサイン信号となる。定常的な音色信号に関しては、検知された音色成分の予測および外挿に基づくアプローチを使用することが有利であるとわかっている。上述の技術に関するさらなる詳細については、[1][2][3]において見出すことが可能である。
周波数ドメインにおいて機能する一般的なエラー隠蔽方法が、位相ECU(エラー隠蔽ユニット)である[4]。位相ECUは、以前にデコードされ再構築された時間ドメイン信号のバッファ上で機能するスタンドアロンのツールである。位相ECUのフレームワークは、正弦波分析および合成パラダイムに基づく。この方法においては、最後の良好なフレームの正弦波成分が抽出されて位相シフトされることが可能である。フレームが失われた場合には、過去のデコードされた合成からDFT(離散フーリエ変換)ドメインにおいて正弦波周波数が取得される。最初に、マグニチュードスペクトル平面のピークを見出すことによって、対応する周波数ビンが識別される。次いで、ピーク周波数ビンを使用して、それらのピークの分数周波数が推定される。隣り合うピークとともにそれらのピークに対応する周波数ビンは、分数周波数を使用して位相シフトされる。フレームの残りに関しては、位相がランダム化されている間、過去の合成の大きさが保持される。バーストエラーも、推定された信号が、それをゼロへ収束させることによってスムーズにミュートされるように取り扱われる。位相ECUについてのさらなる詳細に関しては、[4]において見出すことが可能である。
位相ECUのコンセプトは、周波数ドメインにおいて動作するデコーダにおいて使用されることが可能である。このコンセプトは、図1において示されているような、周波数ドメインにおいてデコーディングを実行するエンコーディング/デコーディングシステムと、図2において示されているようなさらなる周波数ドメイン処理を用いて時間ドメインデコーディングを実行するデコーダも含む。図1においては、時間ドメイン入力オーディオ信号(サブ)フレームが、100でウィンドウ処理され、DFT101によって周波数ドメインへ変換される。エンコーダ102が、周波数ドメインにおいてエンコーディングを実行し、送信103のためのエンコードされたパラメータを提供する。デコーダ104が、受信されたフレームをデコードするか、またはフレームロスのケースにおいてPLC109を適用する。隠蔽フレームの構築において、PLCは、以前にデコードされたフレームのメモリ108を使用することが可能である。デコードされたまたは隠蔽されたフレームは、逆DFT110によって時間ドメインへ変換され、出力オーディオ信号は次いで、オーバーラップ加算演算111によって再構築される。図2は、エンコーダとデコーダとのペアを示しており、この場合、デコーダは、周波数ドメイン処理を容易にするためにDFT変換を適用する。受信されてデコードされた時間ドメイン信号は、最初に105で(サブ)フレームごとにウィンドウ処理され、次いで周波数ドメイン処理107のためにDFT106によって周波数ドメインへ変換され、周波数ドメイン処理107は、(フレームロスのケースにおける)PLC109の前または後のいずれかに行われることが可能である。
それぞれのフレームに関して周波数ドメインスペクトルが既に生成されているので、最後のデコードされたスペクトルをメモリに単に格納することによって、位相ECUのための原材料が容易に取得されることが可能である。しかしながら、デコードされたスペクトルどうしが、別々のウィンドウ処理関数を伴う時間ドメイン信号のフレームどうしに対応する場合には(図1を参照)、アルゴリズムの効率が低減される可能性がある。これが発生する可能性があるのは、デコーダが、たとえば、より高い時間分解能を必要とする過渡音を取り扱うために、合成フレームをより短いサブフレームへと分割する場合である。良好な結果を達成するためには、ECUは、それぞれのフレームに関して望ましいウィンドウ形状を生成するべきであり、さもないと、それぞれのフレーム境界に遷移アーチファクトがある可能性がある。1つのソリューションは、特定のウィンドウに対応するそれぞれのフレームのスペクトルを格納し、それらに個々にECUを適用することである。別のソリューションは、ECUに関する単一のスペクトルを格納し、時間ドメインにおいてウィンドウ処理を補正することであり得る。これは、逆のウィンドウを適用してから、望ましい形状を有するウィンドウを再適用することによって実施されることが可能である。これらのソリューションは、以降で論じられているいくつかの欠点を有する。
周波数ドメインECUを個々のサブフレーム上に適用することに伴う1つの欠点は、失われたフレーム中にそれぞれのサブフレームに関して複製されることになるサブフレームどうしの間に違いがある場合があるということである。連続したフレームロスに関しては、これは、繰り返すアーチファクトにつながる場合がある。なぜなら、それぞれのサブフレームが、わずかに異なるスペクトルシグネチャを有する場合があるからである。別の問題は、メモリ要件が増大されるということである。なぜなら、それぞれのサブフレームのスペクトルが格納される必要があるからである。
ウィンドウ処理が逆にされて再適用されるウィンドウ是正ソリューションは、別々のスペクトルシグネチャの問題を克服する。なぜなら、ECUは、単一のサブフレームに基づくことが可能であるからである。しかしながら、逆にされたウィンドウを適用してから新たなウィンドウを適用することは、それぞれのサンプルに関する除算および乗算を含み、この場合、除算は、計算の面で複雑な演算であり、計算の面で費用がかかる。このソリューションは、事前に算出された是正ウィンドウをメモリに格納することによって改善されることが可能であるが、これは、必要とされるテーブルメモリを増大させることになる。ECUがスペクトルの下位部分上に適用されるケースにおいては、フルスペクトルが是正されることをさらに必要とする場合がある。なぜなら、フルスペクトルは、同じウィンドウ形状を有する必要があるからである。
第1の態様によれば、デコーディングデバイスにおいてオーディオ信号の隠蔽オーディオサブフレームを生成するための方法が示される。この方法は、サブフレームベースで周波数スペクトルを生成することであって、オーディオ信号の連続したサブフレームが、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する、周波数スペクトルを生成することを含む。この方法はさらに、以前に受信されたオーディオ信号の信号スペクトルのピークを分数周波数スケールで検知することと、ピークのうちのそれぞれの位相を推定することと、時間反転された位相調整を施されたピークを形成するために、推定された位相に基づいて信号スペクトルのピークに適用するための時間反転された位相調整を導出することとを含む。この方法はさらに、時間反転を隠蔽オーディオサブフレームに適用することを含む。
提供される潜在的な利点は、反転時間合成を適用することによって単一のサブフレームスペクトルからマルチサブフレームECUが生成されるということである。この生成は、サブフレームウィンドウどうしが互いの時間反転されたバージョンであるケースに適している場合がある。単一の格納されているデコードされたフレームからすべてのECUフレームを生成することは、メモリフットプリントおよび計算の面での複雑さを最小に保ちながら、サブフレームどうしが同様のスペクトルシグネチャを有することを確実にする。
第2の態様によれば、オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイスが示される。このデコーダデバイスは、サブフレームベースで周波数スペクトルを生成することであって、オーディオ信号の連続したサブフレームが、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する、周波数スペクトルを生成することを行うように設定されている。このデコーダデバイスはさらに、以前に受信されたオーディオ信号の信号スペクトルのピークを分数周波数スケールで検知するように、およびピークのうちのそれぞれの位相を推定するように設定されている。このデコーダデバイスはさらに、推定された位相に基づいて信号スペクトルのピークに適用するための時間反転された位相調整を導出するように、および時間反転された位相調整を信号スペクトルのピークに適用することによって、時間反転された位相調整を施されたピークを形成するように設定されている。このデコーダデバイスはさらに、時間反転を隠蔽オーディオサブフレームに適用するように設定されている。
第3の態様によれば、コンピュータプログラムが提供される。このコンピュータプログラムは、通信ネットワークにおいて動作するように設定されているデコーダデバイスの処理回路によって実行されることになるプログラムコードを含み、それによってそのプログラムコードの実行は、第1の態様によるオペレーションをデコーダデバイスに実行させる。
第4の態様によれば、コンピュータプログラム製品が提供される。このコンピュータプログラム製品は、通信ネットワークにおいて動作するように設定されているデコーダデバイスの処理回路によって実行されることになるプログラムコードを含む非一時的ストレージメディアを含み、それによってそのプログラムコードの実行は、第1の態様によるオペレーションをデコーダデバイスに実行させる。
第5の態様によれば、デコーディングデバイスにおいてオーディオ信号に関する隠蔽オーディオサブフレームを生成するための方法が提供される。この方法は、サブフレームベースで周波数スペクトルを生成することであって、オーディオ信号の連続したサブフレームが、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する、周波数スペクトルを生成することを含む。第1の2つの連続したサブフレームのうちの第2のサブフレームに対応する信号スペクトルが格納される。この方法はさらに、第2の2つの連続したサブフレームに関する不良フレームインジケータを受信することを含む。この方法はさらに、信号スペクトルを取得することと、信号スペクトルのピークを分数周波数スケールで検知することと、ピークのうちのそれぞれの位相を推定することと、推定された位相に基づいて、第2の2つの連続したサブフレームのうちの第1のサブフレームに関して格納されているスペクトルのピークに適用するための時間反転された位相調整を導出することとを含む。この方法はさらに、時間反転された位相調整を信号スペクトルのピークに適用して、時間反転された位相調整を施されたピークを形成することを含む。この方法はさらに、時間反転を隠蔽オーディオサブフレームに適用することと、時間反転された位相調整を施されたピークを信号スペクトルのノイズスペクトルと組み合わせて、第2の2つの連続したサブフレームのうちの第1のサブフレームに関する組み合わされたスペクトルを形成することと、組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成することとを含む。
第6の態様によれば、オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイスが示される。このデコーダデバイスは、処理回路と、その処理回路と動作可能に結合されているメモリであって、命令を含み、その命令が、処理回路によって実行されたときに、第1または第5の態様によるオペレーションをデコーダデバイスに実行させる、メモリとを含む。
第7の態様によれば、デコーダデバイスが提供される。このデコーダデバイスは、オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されており、このデコーダデバイスは、第5の態様による方法を実行するように適合されている。
第8の態様によれば、コンピュータプログラムが提供される。このコンピュータプログラムは、通信ネットワークにおいて動作するように設定されているデコーダデバイスの処理回路によって実行されることになるプログラムコードを含み、それによってそのプログラムコードの実行は、第5の態様によるオペレーションをデコーダデバイスに実行させる。
第9の態様によれば、コンピュータプログラム製品が提供される。このコンピュータプログラム製品は、通信ネットワークにおいて動作するように設定されているデコーダデバイスの処理回路によって実行されることになるプログラムコードを含む非一時的ストレージメディアを含み、それによってそのプログラムコードの実行は、第5の態様によるオペレーションをデコーダデバイスに実行させる。
本開示のさらなる理解を提供するために含まれ、本出願に組み込まれ、その一部を構成する添付の図面は、特定の非限定的な実施形態を示している。
エンコーダとデコーダとのペアを示すブロック図であり、この場合、エンコーディングはDFTドメインで行われる。 エンコーダとデコーダとのペアを示すブロック図であり、この場合、デコーダは、周波数ドメイン処理を容易にするためにDFT変換を適用する。 デコーダの2つのサブフレームウィンドウの図であり、この場合、第2のサブフレーム上に適用されたウィンドウは、第1のサブフレーム上に適用されたウィンドウの時間反転されたまたはミラーリングされたバージョンである。 いくつかの実施形態による、位相推定を実行し、時間反転位相計算機を使用して反転時間でECU合成を適用するPLC方法を含むエンコーダ/デコーダシステムを示すブロック図である。 いくつかの実施形態による、時間反転ECU合成を実行するデコーダデバイスのオペレーションを示すフローチャートである。 いくつかの実施形態による、正弦波上の時間反転ウィンドウの図である。 いくつかの実施形態による、反転時間ウィンドウが複素平面におけるDFT係数にどのように影響を与えるかの図である。 いくつかの実施形態によるφε対周波数fの図である。 いくつかの実施形態によるデコーダデバイスを示すブロック図である。 いくつかの実施形態によるデコーダデバイスのオペレーションを示すフローチャートである。 いくつかの実施形態によるデコーダデバイスのオペレーションを示すフローチャートである。
次いで本開示の態様が、以降で添付の図面を参照しながら、より完全に記述され、添付の図面においては、実施形態の例が示されている。しかしながら、実施形態は、多くの異なる形態で具体化されることが可能であり、本明細書において示されている実施形態に限定されるものとして解釈されるべきではない。むしろ、これらの実施形態は、本開示が徹底的で完全なものになるように、およびこれらの実施形態の範囲を当業者に完全に伝えることになるように提供されている。これらの実施形態は相互に排他的ではないということにも留意されたい。一実施形態からの構成要素は、別の実施形態において存在する/使用されると暗黙のうちに想定されることが可能である。
以降の記述は、開示されている主題のさまざまな実施形態を提示している。これらの実施形態は、教示上の例として提示されており、開示されている主題の範囲を限定するものとして解釈されるべきではない。たとえば、記述されている実施形態の特定の詳細は、記述されている主題の範囲から逸脱することなく、修正されること、省略されること、または拡張されることが可能である。
図9は、実施形態による、無線通信を提供するように設定されているデコーダデバイス900(これは、モバイル端末、モバイル通信端末、無線通信デバイス、無線端末、無線通信端末、ユーザ機器(UE)、ユーザ機器ノード/端末/デバイスなどの一部であることが可能である)の要素を示すブロック図である。示されているように、デコーダ900は、その他のデバイス/エンティティー/機能などとの通信を提供するように設定されているネットワークインターフェース回路906(ネットワークインターフェースとも呼ばれる)を含むことが可能である。デコーダ900は、ネットワークインターフェース回路906に動作可能に結合されているプロセッサ回路902(プロセッサとも呼ばれる)と、プロセッサ回路に動作可能に結合されているメモリ回路904(メモリとも呼ばれる)とを含むことも可能である。メモリ回路904は、コンピュータ可読プログラムコードを含むことが可能であり、そのコンピュータ可読プログラムコードは、プロセッサ回路902によって実行されたときに、本明細書において開示されている実施形態によるオペレーションをプロセッサ回路に実行させる。
その他の実施形態によれば、プロセッサ回路902は、メモリを含むように規定されることが可能であり、それによって、別個のメモリ回路は必要とされない。本明細書において論じられているように、デコーダ900のオペレーションは、プロセッサ902および/またはネットワークインターフェース906によって実行されることが可能である。たとえば、プロセッサ902は、マルチチャネルオーディオプレーヤへ通信を送信するように、および/またはエンコーダノード、デポジトリサーバ等などの1つもしくは複数のその他のネットワークノード/エンティティー/サーバからネットワークインターフェース906を通じて通信を受信するようにネットワークインターフェース906を制御することが可能である。その上、モジュールがメモリ904に格納されることが可能であり、これらのモジュールは、命令を提供することが可能であり、それによって、モジュールの命令がプロセッサ902によって実行されたときに、プロセッサ902は、それぞれのオペレーションを実行する。
以降に続く記述においては、実施形態を記述するためにサブフレーム表記が使用されることになる。ここで、サブフレームとは、より大きなフレームの一部を意味し、この場合、より大きなフレームは、サブフレームのセットから構成されている。記述されている実施形態は、フレーム表記を伴って使用されることも可能である。言い換えれば、サブフレームは、本明細書において記述されているのと同じウィンドウ形状を有するフレームのグループを形成することが可能であり、サブフレームは、より大きなフレームの一部である必要はない。
デコーディング方法がサブフレームベースで周波数スペクトルを生成する場合のエンコーダとデコーダとのペアのうちのデコーダを考えていただきたい。連続したサブフレームは、図3において示されているように、適用されたウィンドウ形状が互いのミラーリングされたまたは時間反転されたバージョンであるという特性を有する場合があり、この場合、サブフレーム2は、サブフレーム1のミラーリングされたまたは時間反転されたバージョンである。デコーダは、それぞれのフレームmに関して、再構築されたサブフレーム
Figure 2022536158000002
のスペクトルを取得する。ある実施形態においては、サブフレームスペクトルは、再構築された時間ドメイン合成
Figure 2022536158000003
から取得されることが可能であり、この場合、nはサンプルインデックスである。図2における破線の枠は、周波数ドメイン処理がメモリおよびPLCモジュールの前または後のいずれかに行われることが可能であるということを示している。サブフレームウィンドウ処理関数w(n)およびw(n)を用いて
Figure 2022536158000004
に乗算を行い、
Figure 2022536158000005
に従ってDFT変換を適用することによって、スペクトルが取得されることが可能であり、この場合、Nは、サブフレームウィンドウの長さを示し、Nstep12は、第1および第2のサブフレームの始点間のサンプルどうしにおける距離である。サブフレームウィンドウ処理関数w(n)およびw(n)は、互いのミラーリングされたまたは時間反転されたバージョンである。ここで、サブフレームスペクトルは、図2において概説されているシステムと同様に、デコーダ時間ドメイン合成から取得される。それらの実施形態は、図1において概説されているように、デコーダが直接サブフレームスペクトルを再構築するシステムに関して等しく適用可能であるということに留意されたい。それぞれの正しく受信されデコードされたオーディオフレームmに関して、第2のサブフレーム
Figure 2022536158000006
に対応するスペクトルがメモリに格納される。
Figure 2022536158000007
正しく受信されたフレームに関して、デコーダデバイス900は、周波数ドメイン処理ステップを実行することを進めて、逆DFT変換を実行し、オーバーラップ加算戦略を使用して出力オーディオを再構築することが可能である。欠落しているまたは破損したフレームは、接続を取り扱うトランスポートレイヤによって識別されることが可能であり、フラグの形式であることが可能である不良フレームインジケータ(BFI)を通じて「不良フレーム」としてデコーダへシグナリングされる。デコーダデバイス900が、不良フレームインジケータ(BFI)を通じて不良フレームを検知した場合には、PLCアルゴリズムがアクティブ化される。PLCは位相ECUの原理に従う[4]。格納されたスペクトル
Figure 2022536158000008
は、ピークを分数周波数スケールで検知するピーク検知器アルゴリズムへ入力される。ピークのセット
F={fi},i=1,2,…Npeaks
が検知されることが可能であり、それらは、それらの推定された分数周波数fによって表され、この場合、Npeaksは、検知されたピークの数である。正弦波コーディングパラダイムと同様に、スペクトルのピークは、特定の振幅、周波数、および位相を伴う正弦波を用いてモデル化される。分数周波数は、DFTビンの分数として表されることが可能であり、それによって、たとえばナイキスト周波数は、f=N/2+1で見出される。それぞれのピークは、そのピークを表す周波数ビンの数に関連付けられることが可能である。これらは、
Figure 2022536158000009
のように、分数周波数を最も近い整数に丸めて、隣り合うビン、たとえば、それぞれの側のNnear個のピークを含めることによって見出され、この場合、[・]は、丸め演算を表し、Gは、周波数fでのピークを表すビンのグループである。Nnearという数は、システムを設計する際に特定されることが可能である調整定数である。より大きなNnearは、それぞれのピーク表示におけるさらに高い精度を提供するが、モデル化されることが可能であるピークどうしの間におけるさらに大きな距離ももたらす。Nnearに関する適切な値は、1または2である場合がある。隠蔽スペクトル
Figure 2022536158000010
のピークは、ビンのこれらのグループを使用することによって形成されることが可能であり、この場合、それぞれのグループに位相調整が適用されている。位相調整は、最後の正しく受信されデコードされたフレームと隠蔽フレームとの間において周波数が同じままであると想定して、基礎をなす正弦波における位相での変化を考慮する。位相調整は、前のフレームの分析フレームと、現在のフレームが開始するであろう場所との間における分数周波数およびサンプル数に基づく。図3において示されているように、このサンプル数は、最後の受信されたフレームの第2のサブフレームの始まりと、第1のECUフレームの第1のサブフレームの始まりとの間におけるNstep21、および最後の受信されたフレームの第1のサブフレームと、第1のECUフレームの第1のサブフレームとの間におけるNfullである。Nfullはまた、最後の受信されたフレームの第2のサブフレームと、第1のECUフレームの第2のサブフレームとの間における距離を与えるということに留意されたい。
図4は、以降で記述されている実施形態による、PLCブロック109が位相推定器112を使用して位相推定を実行し、時間反転位相計算機113を使用して反転時間でECU合成を適用するエンコーダ/デコーダシステムを示している。
図5は、以降で記述されている時間反転ECU合成のステップを示すフローチャートである。第1のサブフレームの隠蔽のために、ECU合成が反転時間で行われて、望ましいウィンドウ形状を取得することが可能である。ピークiに関する第1のサブフレームに関する位相調整、または位相補正または位相進行(これらの用語は、この記述の全体を通じて言い換え可能に使用される)は、
Δφi=-2φi-2πfi (N+Nstep21+(Nlost-1)Nfull)/N
として書かれることが可能であり、この場合、Nlostは、連続した失われたフレームの数を示し、φは、周波数fでの正弦波の位相を示す。(Nlost-1)Nfullという項は、バーストエラーに関する位相進行を取り扱い、この場合、ステップは、フルフレームのフレーム長Nfullでインクリメントされる。第1の失われたフレームに関しては、Nlost=1である。スペクトル
Figure 2022536158000011
の周波数ビンを中心とする周波数に関しては、位相φは、単に角度
Figure 2022536158000012
を抽出することによって容易に利用可能であり、この場合、k=[f]である。
一般には、周波数fは分数であり、オペレーション501において位相が推定される必要がある。1つの推定方法は、位相スペクトルの線形補間を使用することである。
Figure 2022536158000013
この場合、
Figure 2022536158000014
は、それぞれ切り捨ておよび切り上げのための演算子を表す。しかしながら、この推定方法は不安定であることが判明した。この推定方法はさらに、2相抽出を必要とし、これは、a+biという標準形式での複素数を用いてスペクトルが表されるケースにおいて、計算の面で複雑なarctan関数を必要とする。計算の面での比較的低い複雑さで信頼できると判明した別の位相推定は、
Figure 2022536158000015
ffrac=fi-ki
であり、この場合、ffracは丸め誤差であり、φは、適用されるウィンドウ形状に依存する調整定数である。この実施形態のウィンドウ形状に関しては、適切な値はφ=0.33であると判明した。別のウィンドウ形状に関しては、適切な値はφ=0.48であると判明した。一般には、適切な値は[0.1,0.7]の範囲で見つかることが可能であると予想される。
オペレーション502において、時間反転された位相調整Δφが、上で説明されているように導出される。
隠蔽スペクトルのピークは、オペレーション503において、格納されているスペクトルに位相調整を適用することによって形成されることが可能である。
Figure 2022536158000016
アスタリスク「*」は、複素共役を示し、これは、オペレーション504において信号の時間反転を与える。これは、第1のECUサブフレームの時間反転をもたらす。逆DFTの後に時間ドメインにおいて反転を実行することが可能である場合もあるということに留意されたい。しかしながら、
Figure 2022536158000017
が完全なスペクトルの一部を表すだけである場合、これは、残りのスペクトルが、たとえばDFT分析の前に時間反転によって前処理されることを必要とする。
ピークビンGによって占められていない
Figure 2022536158000018
の残りのビンは、ノイズスペクトルまたはスペクトルのノイズ成分と呼ばれる場合がある。それらは、ランダムな位相が適用されている状態の格納されているスペクトルの係数を使用して投入されることが可能であり、
Figure 2022536158000019
この場合、φrandはランダムな位相の値を示す。残りのビンは、信号の望ましい特性、たとえばマルチチャネルデコーダシステムにおける第2のチャネルとの相関を保持するスペクトル係数を用いて投入されることも可能である。オペレーション505において、ピークスペクトル
Figure 2022536158000020
(この場合、k∈G)が、ノイズスペクトル
Figure 2022536158000021
(この場合、
Figure 2022536158000022
)と組み合わされて、組み合わされたスペクトルを形成する。
ノイズが時間ドメインにおいて生成されて、ウィンドウ処理され変換される実施形態においては、ピーク成分のウィンドウ処理およびピークスペクトルとの組合せを一致させるためのノイズの時間反転が、上述されている時間反転を適用する前に実行されるべきである。
通常の(反転されていない)時間で合成される第2のサブフレームの生成に関しては、普通の位相調整が使用されることが可能である。
Δφi=2πfiNfullNlost/N
第2のサブフレームに関するECU合成は、第1のサブフレームと同様に形成されることが可能であるが、ピーク係数についての複素共役を省略している。
Figure 2022536158000023
組み合わされた隠蔽スペクトルがオペレーション505において生成されると、組み合わされた隠蔽スペクトルは、逆DFTと、出力オーディオ信号をもたらすオーバーラップ加算演算とを含む、オペレーション506における後続の処理ステップへ供給されることが可能である。
出力オーディオ信号は、再生のためにラウドスピーカーなどの1つまたは複数のスピーカーへ送信されることが可能である。それらのスピーカーは、デコーディングデバイスの一部であること、別個のデバイス、または別のデバイスの一部であることが可能である。
時間反転ECU合成のための位相補正式の導出
正弦波成分の開始位相がφであり、正弦波の周波数がfであると想定されたい。Nstep個のサンプルだけ進んだ後の正弦波の望ましい位相φは、下記のとおりである。
φ10+2πfNstep/N
正弦波の時間反転された継続に関しては、複素共役を適用することによって、または単に負の位相-φを取ることによって、位相が実軸においてミラーリングされる必要がある。この位相角は、現在ではECU合成フレームの終点を表すので、望ましい開始位相φに達するためには、位相が分析フレームの長さだけ巻き戻される必要がある。
φ2=-φ1-2πf(N-1)/N
位相補正Δφを取得するためには、開始位相が差し引かれる必要があり、すなわち、下記のとおりである。
φ0+Δφ=φ2⇒Δφ=φ20
φを置き換えると、下記が与えられる。
Δφ=-2φ0-2πf(Nstep+N-1)/N
連続したフレームロス(バーストロス)に関する数列を付加するために、フルフレームどうしの始点の間におけるサンプルの数に対応する係数が付加されることが可能である、Noffset=(Nlost-1)Nfull。これは、最終的な位相補正を提供する。
Δφ=-2φ0-2πf(N+Nstep-1+(Nlost-1)Nfull)/N,
複素共役を1サンプルの循環シフトとともに使用することによって、望ましい時間反転がDFTドメインにおいて達成されることが可能である。この循環シフトは、最終的な位相補正に含まれ得る2πk/Nの位相補正を伴って実施されることが可能である。
Δφ=-2φ0-2πf(N+Nstep-1+(Nlost-1)Nfull)/N+2πk/N
単一のピークを表す係数に関しては、循環シフトの周波数ビンkは、分数周波数k≒fで近似されることが可能であり、位相補正は、下記へ簡略化されることが可能である。
Δφ=-2φ0-2πf(N+Nstep-1+(Nlost-1)Nfull)/N+2πf/N=
-2φ0-2πf(N+Nstep+(Nlost-1)Nfull)/N
ウィンドウは、N=Nfullであるように設計されることが可能であり、そのケースにおいては、式は、下記へさらに簡略化されることが可能である。
Δφ=-2φ0-2πf(Nstep+Nlost・N)/N
反転時間ECU合成の代替実施形態
別の実施形態においては、位相補正は、2つのステップで行われる。位相は、第1のステップにおいて、ウィンドウの不一致を無視して進められる。
Figure 2022536158000024
第2のステップにおいて、位相を-φだけ戻し、複素共役を適用し、φで位相を復元することによって、ウィンドウ処理の時間反転が達成されることが可能である。
Figure 2022536158000025
このオペレーションに関する動機は、図6において示されているような正弦波上での時間反転ウィンドウの影響を調べることによって見出されることが可能である。図6においては、上段のプロットは、第1の方向に適用されたウィンドウを示しており、下段のプロットは、反対の方向に適用されたウィンドウを示している。正弦波を表す3つの係数が、図7において示されており、これは、反転時間ウィンドウが複素平面におけるDFT係数にどのように影響を与えるかを示している。図6の上段のプロットにおける正弦波に近似する3つのDFT係数は、円でマークされており、その一方で、図6の下段のプロットの対応する係数は、星でマークされている。ひし形は、正弦波の元の位相の位置を示しており、破線は、時間反転ウィンドウの係数が投影される際に経由する観測されるミラーリング平面を示している。時間反転ウィンドウは、角度φでのミラーリング平面における係数のミラーリングを提供する。
φm0frac
実験を通じて、φfracは、下記のように表されることが可能であるということが判明した。
φfrac=πffrac
ffrac=fi-ki
ki=[fi]
この場合、[・]は、丸め演算を示す。正の角度として表されるφεは、ffracとの線形関係によって近似されることが可能であるということも判明した。図8においては、角度φεは、周波数fの関数として表されている。図8のノコギリ歯形状を観察すると、φεの良好な近似値は、下記のとおりであると判明した。
φε=-ffracφC
この場合、φは定数である。一実施形態においては、φは、φ=0.33に設定されることが可能であり、これは、ごく近い近似値を生み出す。φは、明示的には知られていないので、φの交互近似が、下記のように書かれることが可能である。
Figure 2022536158000026
この場合、
Figure 2022536158000027
は、最初の位相調整ステップの後の丸められた周波数ビンkで見出された最大ピーク係数の位相である。
Figure 2022536158000028
ミラーリング平面を実軸と位置合わせし、複素共役を適用し、位相を再び戻すオペレーションは、成形された正弦波の位相を、複素共役に対して中立である位相位置(0またはπ)に調整し、それによって、信号の時間的形状を反転させるだけですむこととして理解されることが可能である。2つのステップのアプローチは、前に記述されている実施形態よりも計算の面で複雑である。しかしながら観測は、φの近似値につながる可能性もある。φは下記のように表されることが可能であるということが図7から理解されることが可能である。
Figure 2022536158000029
これは、上で使用されている位相近似である。
次いで、いくつかの実施形態に従って、図10のフローチャートを参照しながら、(図9のブロック図の構造を使用して実施される)デコーダデバイス900のオペレーションが論じられる。たとえば、モジュールは、図9のメモリ904に格納されることが可能であり、これらのモジュールは、命令を提供することが可能であり、それによって、モジュールの命令がそれぞれのデコーダデバイス処理回路902によって実行されたときに、処理回路902は、フローチャートのそれぞれのオペレーションを実行する。
オペレーション1000において、処理回路902は、サブフレームベースで周波数スペクトルを生成し、このとき、オーディオ信号の連続したサブフレームは、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する。たとえば、第1の2つの連続したサブフレームのそれぞれのサブフレームに関する周波数スペクトルを生成することは、下記を特定することを含む。
Figure 2022536158000030
この場合、Nは、サブフレームウィンドウの長さを示し、サブフレームウィンドウ処理関数w(n)は、連続したサブフレームのうちの第1のサブフレーム
Figure 2022536158000031
に関するサブフレームウィンドウ処理関数であり、w(n)は、連続したサブフレームのうちの第2のサブフレーム
Figure 2022536158000032
に関するサブフレームウィンドウ処理関数であり、Nstep12は、第1の2つの連続したサブフレームのうちの第1のサブフレームと、第1の2つの連続したサブフレームのうちの第2のサブフレームとの間におけるサンプル数である。
オペレーション1002において、処理回路902は、不良フレームインジケータ(BFI)が受信されているかどうかを特定する。不良フレームインジケータは、オーディオフレームが失われているまたは破損しているという表示を提供する。
オペレーション1004において、処理回路902は、それぞれの正しくデコードされたオーディオフレームに関して、第2のサブフレームに対応するスペクトルをメモリに格納する。たとえば、正しくデコードされたフレームmに関して、第2のサブフレーム
Figure 2022536158000033
に対応するスペクトルは、
Figure 2022536158000034
など、メモリに格納される。正しく受信されたフレームに関して、デコーダデバイス900は、上述され図4において示されているように、周波数ドメイン処理ステップを実行することを進めて、逆DFT変換を実行し、オーバーラップ加算戦略を使用して出力オーディオを再構築することが可能である。オーバーラップ加算の原理は、サブフレームおよびフレームの両方に関して同じであるということに留意されたい。フレームの作成は、サブフレーム上にオーバーラップ加算を適用することを必要とし、その一方で最終的な出力フレームは、フレームどうしの間におけるオーバーラップ加算演算の結果である。
処理回路902が、オペレーション1002において不良フレームインジケータ(BFI)を通じて不良フレームを検知した場合には、PLCオペレーション1006~1030が実行される。
オペレーション1006において、処理回路902は、以前に正しくデコードされ処理された第1の2つの連続したサブフレームのうちの第2のサブフレームに対応する信号スペクトルを取得する。たとえば、処理回路902は、デコーディングデバイスのメモリ904から信号スペクトルを取得することが可能である。
オペレーション1008において、処理回路902は、オーディオ信号の以前に受信されたオーディオフレームの信号スペクトルのピークを分数周波数スケールで検知し、以前に受信されたそのオーディオフレームは、不良フレームインジケータを受信する前に受信された。
オペレーション1010において、処理回路902は、隠蔽フレームが2つの連続したサブフレームのうちの第1のサブフレーム用であるかどうかを特定する。
隠蔽フレームが第1のサブフレーム用である場合には、オペレーション1012において、処理回路902は、ピークのうちのそれぞれの位相を推定する。一実施形態においては、下記に従って、時間反転された位相補正を施されたピークのピークに関する位相推定を計算する。
Figure 2022536158000035
この場合、φは、周波数fでの推定された位相であり、
Figure 2022536158000036
は、周波数ビンkでのスペクトル
Figure 2022536158000037
の角度であり、ffracは丸め誤差であり、φは調整定数であり、kは[f]である。調整定数φは、0.1と0.7との間における範囲の値であることが可能である。
オペレーション1014において、処理回路902は、推定された位相に基づいて信号スペクトルのピークに適用するための時間反転された位相補正を導出する。
オペレーション1016において、処理回路902は、時間反転された位相補正を信号スペクトルのピークに適用して、時間反転された位相補正を施されたピークを形成する。
オペレーション1018において、処理回路902は、時間反転を隠蔽オーディオサブフレームに適用する。一実施形態においては、時間反転は、複素共役を隠蔽オーディオサブフレームに適用することによって適用されることが可能である。
オペレーション1020において、処理回路902は、時間反転された位相補正を施されたピークを信号スペクトルのノイズスペクトルと組み合わせて、隠蔽オーディオサブフレームの組み合わされたスペクトルを形成する。
図11に目を向けると、一実施形態においては、1016および1018は、オペレーション1100において処理回路902がそれぞれのピークを複数のピーク周波数ビンに関連付けることによって実行されることが可能である。関連付けを行う処理回路902は、オペレーション1102において、時間反転された位相補正をそれらの複数の周波数ビンのそれぞれに適用することによって、時間反転された位相補正を適用することが可能である。オペレーション1104において、ランダムな位相が適用されている状態の信号スペクトルの係数を使用して、残りのビンが投入される。
図10へ戻ると、オペレーション1022において、処理回路902は、組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成する。
隠蔽フレームが、オペレーション1010において特定された際に第1のサブフレーム用ではない場合には、処理回路902は、少なくとも2つの連続した隠蔽サブフレームのうちの第2の隠蔽サブフレームに関する信号スペクトルのピークに適用するための時間反転されていない位相補正をオペレーション1024において導出する。
オペレーション1026において、処理回路902は、時間反転されていない位相補正を第2のサブフレームに関する信号スペクトルのピークに適用して、時間反転されていない位相補正を施されたピークを形成する。
オペレーション1028において、処理回路902は、時間反転されていない位相補正を施されたピークを信号スペクトルのノイズスペクトルと組み合わせて、第2の隠蔽サブフレームに関する組み合わされたスペクトルを形成する。
オペレーション1030において、処理回路902は、組み合わされたスペクトルに基づいて第2の合成された隠蔽オーディオサブフレームを生成する。
図11に目を向けると、一実施形態においては、1026および1028は、オペレーション1100において処理回路902がそれぞれのピークを複数のピーク周波数ビンに関連付けることによって実行されることが可能である。関連付けを行う処理回路902は、オペレーション1102において、時間反転されていない位相補正をそれらの複数の周波数ビンのそれぞれに適用することによって、時間反転されていない位相補正を適用することが可能である。オペレーション1104において、ランダムな位相が適用されている状態の信号スペクトルの係数を使用して、残りのビンが投入される。
図10のフローチャートからのさまざまなオペレーションは、デコーダデバイスおよび関連した方法のいくつかの実施形態に関しては任意選択であることが可能である。(以降に示されている)例示的な実施形態1の方法に関しては、たとえば、図10のブロック1004および1022~1030のオペレーションは任意選択であることが可能である。(以降に示されている)例示的な実施形態19の方法に関しては、たとえば、図10のブロック1010および1022~1030のオペレーションは任意選択であることが可能である。
例示的な実施形態が、以降で論じられている。
1. デコーディングデバイスにおいてオーディオ信号の隠蔽オーディオサブフレームを生成する方法であって、
サブフレームベースで周波数スペクトルを生成すること(1000)であって、オーディオ信号の連続したサブフレームが、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する、周波数スペクトルを生成すること(1000)と、
不良フレームインジケータを受信すること(1002)と、
オーディオ信号の以前に受信されたオーディオフレームの信号スペクトルのピークを分数周波数スケールで検知すること(1008)であって、以前に受信されたそのオーディオフレームが、不良フレームインジケータを受信する前に受信された、分数周波数スケールで検知すること(1008)と、
ピークのうちのそれぞれの位相を推定すること(1012)と、
推定された位相に基づいて信号スペクトルのピークに適用するための時間反転された位相補正を導出すること(1014)と、
時間反転された位相補正を信号スペクトルのピークに適用して、時間反転された位相補正を施されたピークを形成すること(1016)と、
時間反転を隠蔽オーディオサブフレームに適用すること(1018)と、
時間反転された位相補正を施されたピークを信号スペクトルのノイズスペクトルと組み合わせて、隠蔽オーディオサブフレームに関する組み合わされたスペクトルを形成すること(1020)と、
組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成すること(1022)とを含む方法。
2. 合成された隠蔽オーディオフレームが、少なくとも2つの連続した隠蔽サブフレームを含み、時間反転された位相補正を導出すること、時間反転された位相補正を適用すること、時間反転を適用すること、および時間反転された位相補正を施されたピークを組み合わせることが、少なくとも2つの連続した隠蔽サブフレームのうちの第1の隠蔽サブフレームに関して実行され、この方法がさらに、
少なくとも2つの連続した隠蔽サブフレームのうちの第2の隠蔽サブフレームに関する信号スペクトルのピークに適用するための時間反転されていない位相補正を導出すること(1024)と、
時間反転されていない位相補正を第2のサブフレームに関する信号スペクトルのピークに適用して、時間反転されていない位相補正を施されたピークを形成すること(1026)と、
時間反転されていない位相補正を施されたピークを信号スペクトルのノイズスペクトルと組み合わせて、第2の隠蔽サブフレームに関する組み合わされたスペクトルを形成すること(1028)と、
組み合わされたスペクトルに基づいて第2の合成された隠蔽オーディオサブフレームを生成すること(1030)とを含む、実施形態1の方法。
3. 隠蔽オーディオサブフレームが、失われたオーディオフレームおよび破損したオーディオフレームのうちの一方に関する隠蔽オーディオサブフレームを含む、実施形態1または2の方法。
4. 不良フレームインジケータが、オーディオフレームが失われているかまたは破損しているという表示を提供する、実施形態1から3のいずれか1つの方法。
5. 以前に受信されたオーディオ信号フレームの信号スペクトルをデコーダのメモリから取得することをさらに含む、実施形態1から4のいずれか1つの方法。
6. 時間反転を適用することが、隠蔽オーディオサブフレームに複素共役を適用することを含む、実施形態1から5のいずれか1つの方法。
7. 複数のピークのうちのそれぞれのピークを、ピークを表す複数のピーク周波数ビンに関連付けること(1100)
をさらに含む、実施形態1から6のいずれか1つの方法。
8. 複数のピークのうちのそれぞれのピークに関して、時間反転された位相補正および時間反転されていない位相補正のうちの一方がピークに適用される(1102)、実施形態7の方法。
9. ランダムな位相が適用されている状態の格納されている信号スペクトルの係数を使用して信号スペクトルの残りのビンを投入すること(1104)
をさらに含む、実施形態8のいずれか1つの方法。
10. ピークのうちのそれぞれの位相を推定することが、
下記に従って、時間反転された位相補正を施されたピークのピークに関する位相推定を計算することを含み、
Figure 2022536158000038
この場合、φが、周波数fでの推定された位相であり、
Figure 2022536158000039
が、周波数ビンkでのスペクトル
Figure 2022536158000040
の角度であり、ffracが丸め誤差であり、φが調整定数であり、kが[f]である、実施形態1から9のいずれか1つの方法。
11. φが、0.1と0.7との間における範囲の値を有する、実施形態10の方法。
12. 時間反転されていない位相補正を施されたピークに関する位相推定を計算することが、下記に従って計算され、
Δφi=2πfiNfullNlost/N
この場合、Δφが、周波数fでの正弦波の位相補正を示し、Nfullが、2つのフレームの間におけるサンプル数を示し、Nlostが、連続した失われたフレームの数を示し、Nが、サブフレームウィンドウの長さを示す、実施形態10の方法。
13. ランダムな位相を信号スペクトルのノイズスペクトルに適用することをさらに含む、実施形態1から12のいずれか1つの方法。
14. ランダムな位相をノイズスペクトルに適用することが、時間反転されていない位相調整を施されたピークをノイズスペクトルと組み合わせる前にランダムな位相をノイズスペクトルに適用することを含む、実施形態13の方法。
15. 受信されたオーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、デコーディングデバイスのデコーディング方法が、サブフレームベースで周波数スペクトルを生成し、この場合、連続したサブフレームどうしが、適用されたウィンドウ形状が互いのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有し、このデコーダデバイスが、
処理回路(902)と、
その処理回路と結合されているメモリ(904)であって、命令を含み、それらの命令が、処理回路によって実行されたときに、実施形態1から14のいずれか1つによるオペレーションをデコーダデバイスに実行させる、メモリ(904)とを含むデコーダデバイス(900)。
16. 受信されたオーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、デコーディングデバイスのデコーディング方法が、サブフレームベースで周波数スペクトルを生成し、この場合、連続したサブフレームどうしが、適用されたウィンドウ形状が互いのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有し、このデコーダデバイスが、実施形態1から14のいずれか1つに従って実行するように適合されているデコーダデバイス(900)。
17. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含むコンピュータプログラムであって、それによってそのプログラムコードの実行が、実施形態1から14のいずれか1つによるオペレーションをデコーダデバイス(900)に実行させる、コンピュータプログラム。
18. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含む非一時的ストレージメディアを含むコンピュータプログラム製品であって、それによってそのプログラムコードの実行が、実施形態1から14のいずれか1つによるオペレーションをデコーダデバイス(900)に実行させる、コンピュータプログラム製品。
19. デコーディングデバイスにおいてオーディオ信号に関する隠蔽オーディオサブフレームを生成する方法であって、
サブフレームベースで周波数スペクトルを生成すること(1000)であって、オーディオ信号の連続したサブフレームが、それらの連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状がそれらの連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有する、周波数スペクトルを生成すること(1000)と、
第1の2つの連続したサブフレームのうちの第2のサブフレームに対応する信号スペクトルを格納すること(1004)と、
第2の2つの連続したサブフレームに関する不良フレームインジケータを受信すること(1002)と、
信号スペクトルを取得すること(1006)と、
信号スペクトルのピークを分数周波数スケールで検知すること(1008)と、
ピークのうちのそれぞれの位相を推定すること(1012)と、
推定された位相に基づいて、第2の2つの連続したサブフレームのうちの第1のサブフレームに関して格納されているスペクトルのピークに適用するための時間反転された位相補正を導出すること(1014)と、
時間反転された位相補正を信号スペクトルのピークに適用して、時間反転された位相補正を施されたピークを形成すること(1016)と、
時間反転を隠蔽オーディオサブフレームに適用すること(1018)と、
時間反転された位相補正を施されたピークを信号スペクトルのノイズスペクトルと組み合わせて、第2の2つの連続したサブフレームのうちの第1のサブフレームに関する組み合わされたスペクトルを形成すること(1020)と、
組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成すること(1022)とを含む方法。
20. 合成された隠蔽オーディオフレームが、少なくとも2つの連続した隠蔽サブフレームを含み、時間反転された位相補正を導出すること、時間反転された位相補正を適用すること、および時間反転された位相補正を施されたピークを組み合わせることが、少なくとも2つの連続した隠蔽サブフレームのうちの第1の隠蔽サブフレームに関して実行され、この方法がさらに、
第2の2つの連続したサブフレームのうちの第2のサブフレームに関する信号スペクトルのピークに適用するための時間反転されていない位相補正を導出すること(1024)と、
時間反転されていない位相補正を第2の2つの連続したサブフレームのうちの第2のサブフレームに関する信号スペクトルのピークに適用して、時間反転されていない位相補正を施されたピークを形成すること(1026)と、
時間反転されていないオーディオサブフレームを信号スペクトルのノイズスペクトルと組み合わせて、第2の2つの連続したサブフレームのうちの第2のサブフレームに関する第2の組み合わされたスペクトルを形成すること(1028)と、
第2の組み合わされたスペクトルに基づいて第2の合成されたオーディオサブフレームを生成すること(1030)とを含む、実施形態19の方法。
21. 隠蔽オーディオサブフレームが、失われたオーディオフレームおよび破損したオーディオフレームのうちの一方に関する隠蔽オーディオサブフレームを含む、実施形態19または20の方法。
22. 不良フレームインジケータが、オーディオフレームが失われているかまたは破損しているという表示を提供する、実施形態19から21のいずれか1つの方法。
23. 信号スペクトルをデコーダのメモリから取得することをさらに含む、実施形態19から22のいずれか1つの方法。
24. 時間反転を適用することが、隠蔽オーディオサブフレームに複素共役を適用することを含む、実施形態19から23のいずれか1つの方法。
25. それぞれのピークを、ピークを表す複数のピーク周波数ビンに関連付けること
をさらに含む、実施形態18から24のいずれか1つの方法。
26. 複数のピークのうちのそれぞれのピークに関して、時間反転された位相補正および時間反転されていない位相補正のうちの一方をピークに適用することをさらに含む、実施形態25の方法。
27. ランダムな位相が適用されている状態の格納されているスペクトルの係数を使用して信号スペクトルの残りのビンを投入すること
をさらに含む、実施形態26のいずれか1つの方法。
28. 位相を推定することが、
下記に従って、時間反転された位相補正を施されたピークに関する位相推定を計算することを含み、
Figure 2022536158000041
ffrac=fi-ki
この場合、φが、周波数fでの推定された位相であり、
Figure 2022536158000042
が、周波数fでのスペクトル
Figure 2022536158000043
の角度であり、ffracが丸め誤差であり、φが調整定数であり、kが[f]である、実施形態19から27のいずれか1つの方法。
29. φが、0.1と0.7との間における範囲の値を有する、実施形態28の方法。
30. 時間反転されていない位相補正を施されたピークに関する位相推定を下記に従って計算することをさらに含み、
Δφi=2πfiNfullNlost/N
この場合、Δφが、周波数fでの正弦波の位相補正を示し、Nfullが、2つのフレームの間におけるフレームサンプル数を示し、Nlostが、連続した失われたフレームの数を示し、Nが、サブフレームウィンドウの長さを示す、実施形態28の方法。
31. 第1の2つの連続したサブフレームのそれぞれのサブフレームに関する周波数スペクトルを生成することが、下記を特定することを含み、
Figure 2022536158000044
この場合、Nが、サブフレームウィンドウの長さを示し、サブフレームウィンドウ処理関数w(n)が、連続したサブフレームのうちの第1のサブフレーム
Figure 2022536158000045
に関するサブフレームウィンドウ処理関数であり、w(n)が、連続したサブフレームのうちの第2のサブフレーム
Figure 2022536158000046
に関するサブフレームウィンドウ処理関数であり、Nstep12が、第1の2つの連続したサブフレームのうちの第1のサブフレームと、第1の2つの連続したサブフレームのうちの第2のサブフレームとの間におけるサンプル数である、実施形態19から30のいずれか1つの方法。
32. ランダムな位相を信号スペクトルのノイズスペクトルに適用することをさらに含む、実施形態19から31のいずれか1つの方法。
33. ランダムな位相をノイズスペクトルに適用することが、時間反転されていない位相調整を施されたピークをノイズスペクトルと組み合わせる前にランダムな位相をノイズスペクトルに適用することを含む、実施形態32の方法。
34. 受信されたオーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、デコーディングデバイスのデコーディング方法が、サブフレームベースで周波数スペクトルを生成し、この場合、連続したサブフレームどうしが、適用されたウィンドウ形状が互いのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有し、このデコーダデバイスが、
処理回路(902)と、
その処理回路と結合されているメモリ(904)であって、命令を含み、それらの命令が、処理回路によって実行されたときに、実施形態19から33のいずれか1つによるオペレーションをデコーダデバイスに実行させる、メモリ(904)とを含むデコーダデバイス(900)。
35. 受信されたオーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、デコーディングデバイス(900)のデコーディング方法が、サブフレームベースで周波数スペクトルを生成し、この場合、連続したサブフレームどうしが、適用されたウィンドウ形状が互いのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有し、このデコーダデバイスが、実施形態19から33のいずれか1つに従って実行するように適合されているデコーダデバイス(900)。
36. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含むコンピュータプログラムであって、それによってそのプログラムコードの実行が、実施形態19から33のいずれか1つによるオペレーションをデコーダデバイス(900)に実行させる、コンピュータプログラム。
37. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含む非一時的ストレージメディアを含むコンピュータプログラム製品であって、それによってそのプログラムコードの実行が、実施形態19から33のいずれか1つによるオペレーションをデコーダデバイス(900)に実行させる、コンピュータプログラム製品。
本開示において使用されているさまざまな略語/頭字語に関して、以降に説明が提供されている。
略語 説明
DFT 離散フーリエ変換
IDFT 逆離散フーリエ変換
LP 線形予測
PLC パケットロス隠蔽
ECU エラー隠蔽ユニット
FEC フレームエラー補正/隠蔽
参考文献は、下記のとおり明らかにされている。
[1] T. Vaillancourt, M. Jelinek, R. Salami and R. Lefebvre, "Efficient Frame Erasure Concealment in Predictive Speech Codecs using Glottal Pulse Resynchronisation," 2007 IEEE International Conference on Acoustics, Speech and Signal Processing - ICASSP '07, Honolulu, HI, 2007, pp. IV-1113-IV-1116.
[2] J. Lecomte et al., "Packet-loss concealment technology advances in EVS," 2015 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Brisbane, QLD, 2015, pp. 5708-5712.
[3] 3GPP TS 26.447, Codec for Enhanced Voice Services (EVS); Error Concealment of Lost Packets (Release 12)
[4] S. Bruhn, E. Norvell, J. Svedberg and S. Sverrisson, "A novel sinusoidal approach to audio signal frame loss concealment and its application in the new evs codec standard," 2015 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Brisbane, QLD, 2015, pp. 5142-5146.
一般に、本明細書において使用されているすべての用語は、関連する技術分野におけるそれらの通常の意味に従って解釈されるべきである(ただし、異なる意味が明確に与えられている場合、および/またはその用語が使用されている文脈から暗示されている場合は除く)。要素、装置、コンポーネント、手段、ステップなどへのすべての言及は、別段の明示がない限り、要素、装置、コンポーネント、手段、ステップなどの少なくとも1つの例に言及するものとしてオープンに解釈されるべきである。本明細書において開示されているいずれの方法のステップも、開示されている厳密な順序で実行される必要はない(ただし、あるステップが別のステップに後続または先行するものとして明示的に記述されている場合、および/または、あるステップが別のステップに後続または先行しなければならないということが黙示的である場合は除く)。本明細書において開示されている実施形態のうちのいずれかのいずれの特徴も、適切な場合は常に、任意のその他の実施形態に適用されることが可能である。同様に、それらの実施形態のうちのいずれかのいずれの利点も、任意のその他の実施形態に当てはまることが可能であり、その逆もまた同様である。含まれている実施形態のその他の目的、特徴、および利点は、以降の記述から明らかであろう。
さまざまな実施形態の上述の記述においては、本明細書において使用されている用語は、特定の実施形態を記述するという目的のためのものにすぎず、限定的であることを意図されているものではないということを理解されたい。別段の規定がなされていない限り、本明細書において使用されている(技術用語および科学用語を含む)すべての用語は、本開示が属する技術分野における標準的な技術者によって一般的に理解されるのと同じ意味を有する。一般に使用されている辞書において規定されている用語などの用語は、本明細書および関連する技術分野のコンテキストにおけるそれらの用語の意味と矛盾しない意味を有するものと解釈されるべきであり、理想化された意味または過度に正式な意味に解釈されることはない(ただし、そのような規定が本明細書において明確になされている場合は除く)ということがさらに理解されるであろう。
ある要素が、別の要素に「接続されている」、「結合されている」、「応答している」、またはそれらの変形であると言及されている場合には、その要素は、存在している可能性のあるその他の要素または介在する要素に直接接続されていること、結合されていること、または応答していることが可能である。対照的に、ある要素が、別の要素に「直接接続されている」、「直接結合されている」、「直接応答している」、またはそれらの変形であると言及されている場合には、存在している介在する要素はない。同様の数字は、全体を通じて同様の要素を指す。さらに、本明細書において使用されている「結合されている」、「接続されている」、「応答している」、またはそれらの変形は、無線で結合されていること、接続されていること、または応答していることを含むことが可能である。本明細書において使用される際には、単数形の「a」、「an」、および「the」は、複数形も含むことを意図されている(ただし、そうではないことを文脈が明らかに示している場合は除く)。よく知られている機能または構造は、簡潔さおよび/または明確さのために詳細には記述されていない場合がある。「および/または」という用語は、関連付けられている列挙されたアイテムのうちの1つまたは複数のありとあらゆる組合せを含む。
第1、第2、第3などの用語が、さまざまな要素/オペレーションを記述するために本明細書において使用されている場合があるが、これらの要素/オペレーションは、これらの用語によって限定されるべきではないということが理解されるであろう。これらの用語は、1つの要素/オペレーションを別の要素/オペレーションから区別するために使用されているにすぎない。したがって、いくつかの実施形態における第1の要素/オペレーションは、本開示の教示から逸脱することなく、その他の実施形態における第2の要素/オペレーションと呼ばれることが可能である。同じ参照番号または同じ参照指定子は、本明細書の全体を通じて同じまたは同様の要素を示す。
本明細書において使用される際には、「comprise」、「comprising」、「comprises」、「include」、「including」、「includes」、「have」、「has」、「having」という用語、またはそれらの変形は、オープンエンドであり、1つまたは複数の述べられている特徴、完全体、要素、ステップ、コンポーネント、または機能を含むが、1つまたは複数のその他の特徴、完全体、要素、ステップ、コンポーネント、機能、またはそれらのグループの存在または追加を除外するものではない。さらに、本明細書において使用される際には、ラテン語のフレーズ「exempli gratia」に由来する一般的な略語「e.g.」は、前述されているアイテムの一般的な1つまたは複数の例を紹介または指定するために使用されることが可能であり、そのようなアイテムの限定であることを意図されているものではない。ラテン語のフレーズ「id est」に由来する一般的な略語「i.e.」は、より全般的な列挙から特定のアイテムを指定するために使用されることが可能である。
本明細書においては、コンピュータ実施方法、装置(システムおよび/もしくはデバイス)、ならびに/またはコンピュータプログラム製品のブロック図および/またはフローチャート図を参照しながら、例示的な実施形態が記述されている。ブロック図および/またはフローチャート図のブロック、ならびにブロック図および/またはフローチャート図におけるブロックの組合せは、1つまたは複数のコンピュータ回路によって実行されるコンピュータプログラム命令によって実施されることが可能であるということが理解される。これらのコンピュータプログラム命令は、汎用コンピュータ回路、専用コンピュータ回路、および/またはその他のプログラム可能なデータ処理回路のプロセッサ回路に提供されて、マシンを生み出すことが可能であり、それによって、コンピュータおよび/またはその他のプログラム可能なデータ処理装置のプロセッサを介して実行する命令が、トランジスタ、メモリロケーションに格納されている値、およびそのような回路内のその他のハードウェアコンポーネントを変換および制御して、ブロック図および/または1つもしくは複数のフローチャートブロックにおいて指定されている機能/行為を実施し、そしてそれによって、ブロック図および/またはフローチャートブロックにおいて指定されている機能/行為を実施するための手段(機能性)および/または構造を作成する。
これらのコンピュータプログラム命令は、特定の様式で機能するようにコンピュータまたはその他のプログラム可能なデータ処理装置に指示することができる有形のコンピュータ可読メディアに格納されることも可能であり、それによって、そのコンピュータ可読メディアに格納されているそれらの命令は、ブロック図および/または1つもしくは複数のフローチャートブロックにおいて指定されている機能/行為を実施する命令を含む製品を生み出す。したがって本開示の実施形態は、ハードウェアで、および/または、デジタル信号プロセッサなどのプロセッサ上で稼働するソフトウェア(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)で具体化されることが可能であり、これらは、まとめて「回路」、「モジュール」、またはそれらの変形と呼ばれる場合がある。
いくつかの代替実施態様においては、ブロックにおいて記載されている機能/行為が、フローチャートにおいて記載されている順序から外れて発生する場合があるということにも留意されたい。たとえば、連続して示されている2つのブロックは、実際には実質的に同時に実行されることが可能であり、またはそれらのブロックは、含まれている機能性/行為に応じて、場合によっては反対の順序で実行されることが可能である。その上、フローチャートおよび/もしくはブロック図の所与のブロックの機能性は、複数のブロックへと分離されることが可能であり、ならびに/またはフローチャートおよび/もしくはブロック図の2つ以上のブロックの機能性は、少なくとも部分的に統合されることが可能である。最後に、実施形態の範囲から逸脱することなく、示されているブロックどうしの間にその他のブロックが付加/挿入されることが可能であり、および/またはブロック/オペレーションが省略されることが可能である。その上、図のうちのいくつかは、通信の主要な方向を示すために通信パス上に矢印を含むが、示されている矢印とは反対の方向に通信が発生することが可能であるということを理解されたい。
本開示の原理から実質的に逸脱することなく、実施形態に対して多くの変形および修正が行われることが可能である。すべてのそのような変形および修正は、本明細書においては本開示の範囲内に含まれることを意図されている。したがって、上で開示されている主題は、限定的ではなく例示的であるとみなされるべきであり、実施形態の例は、本開示の趣旨および範囲内に収まるすべてのそのような修正、強化、およびその他の実施形態をカバーすることを意図されている。それゆえに、法律によって認められる最大の範囲まで、本開示の範囲は、実施形態およびそれらの均等物の例を含む本開示の最も広い許容可能な解釈によって特定されるべきであり、前述の詳細な記述によって制限または限定されることはない。

Claims (50)

  1. デコーディングデバイスにおいてオーディオ信号の隠蔽オーディオサブフレームを生成する方法であって、
    前記オーディオ信号の連続したサブフレームが、前記連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状が前記連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有するとき、サブフレームベースで周波数スペクトルを生成すること(1000)と、
    以前に受信されたオーディオ信号の信号スペクトルのピークを分数周波数スケールで検知すること(1008)と、
    前記ピークのうちのそれぞれの位相を推定すること(1012)と、
    推定された前記位相に基づいて前記信号スペクトルの前記ピークに適用するための時間反転された位相調整を導出すること(1014)と、
    前記時間反転された位相調整を前記信号スペクトルの前記ピークに適用して、時間反転された位相調整を施されたピークを形成すること(1016)と、
    時間反転を前記隠蔽オーディオサブフレームに適用すること(1018)とを含む方法。
  2. 前記時間反転された位相調整を施されたピークを前記信号スペクトルのノイズスペクトルと組み合わせて、前記隠蔽オーディオサブフレームに関する組み合わされたスペクトルを形成すること(1020)と、
    前記組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成すること(1022)と
    をさらに含む、請求項1に記載の方法。
  3. 合成された隠蔽オーディオフレームが、少なくとも2つの連続した隠蔽サブフレームを含み、前記時間反転された位相調整を導出すること、前記時間反転された位相調整を適用すること、前記時間反転を適用すること、および前記時間反転された位相調整を施されたピークを組み合わせることが、前記少なくとも2つの連続した隠蔽サブフレームのうちの第1の隠蔽サブフレームに関して実行され、前記方法がさらに、
    前記少なくとも2つの連続した隠蔽サブフレームのうちの第2の隠蔽サブフレームに関する前記信号スペクトルの前記ピークに適用するための時間反転されていない位相調整を導出すること(1024)と、
    前記時間反転されていない位相調整を前記第2のサブフレームに関する前記信号スペクトルの前記ピークに適用して、時間反転されていない位相調整を施されたピークを形成すること(1026)と、
    前記時間反転されていない位相調整を施されたピークを前記信号スペクトルのノイズスペクトルと組み合わせて、前記第2の隠蔽サブフレームに関する組み合わされたスペクトルを形成すること(1028)と、
    前記組み合わされたスペクトルに基づいて第2の合成された隠蔽オーディオサブフレームを生成すること(1030)とを含む、請求項1または2に記載の方法。
  4. 前記以前に受信されたオーディオ信号の前記信号スペクトルを前記デコーディングデバイスのメモリから取得すること(1006)をさらに含む、請求項1から3のいずれか一項に記載の方法。
  5. 前記時間反転を適用することが、前記時間反転された位相調整を施されたピークに複素共役を適用することを含む、請求項1から4のいずれか一項に記載の方法。
  6. 前記検知されたピークのうちのそれぞれのピークを、前記ピークを表す複数のピーク周波数ビンに関連付けること(1100)をさらに含む、請求項1から5のいずれか一項に記載の方法。
  7. 前記複数のピーク周波数ビンのうちのそれぞれのピーク周波数ビンに関して、前記時間反転された位相調整および前記時間反転されていない位相調整のうちの一方が前記ピーク周波数ビンに適用される(1102)、請求項6に記載の方法。
  8. 前記格納されている信号スペクトルの係数を使用して前記信号スペクトルの残りのビンを投入すること(1104)であって、前記スペクトル係数が前記信号の望ましい特性を保持する、残りのビンを投入すること(1104)
    をさらに含む、請求項7に記載の方法。
  9. 前記望ましい特性が、マルチチャネルデコーダシステムにおける第2のチャネルとの相関を含む、請求項8に記載の方法。
  10. 前記ピークのうちのそれぞれの前記位相を推定することが、
    下記に従って、前記時間反転された位相調整を施されたピークの前記ピークに関する位相推定を計算することを含み、
    Figure 2022536158000047
    ffrac=fi-ki
    この場合、φが、周波数fでの推定された位相であり、
    Figure 2022536158000048
    が、周波数ビンkでのスペクトル
    Figure 2022536158000049
    の角度であり、ffracが丸め誤差であり、φが調整定数であり、kが[f]である、請求項1から9のいずれか一項に記載の方法。
  11. 前記時間反転された隠蔽オーディオサブフレームの前記ピークに関する位相調整が、
    Δφi=-2φi-2πfi(N+Nstep21+(Nlost-1)Nfull)/N
    に従って計算される、請求項10に記載の方法。
  12. 前記時間反転された隠蔽オーディオサブフレームの前記ピークに関する位相調整が、下
    Δφ=-2φ0-2πf(Nstep21+Nlost・N)/N
    に従って計算される、請求項10に記載の方法。
  13. ランダムな位相を前記信号スペクトルの前記ノイズスペクトルに適用することをさらに含む、請求項2から12のいずれか一項に記載の方法。
  14. 前記ランダムな位相を前記ノイズスペクトルに適用することが、前記時間反転されていない位相調整を施されたピークを前記ノイズスペクトルと組み合わせる前に前記ランダムな位相を前記ノイズスペクトルに適用することを含む、請求項13に記載の方法。
  15. オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、
    処理回路(902)と、
    前記処理回路と動作可能に結合されているメモリ(904)であって、命令を含み、前記命令が、前記処理回路によって実行されたときに、請求項1から14のいずれか一項に記載のオペレーションを前記デコーダデバイスに実行させる、メモリ(904)とを含むデコーダデバイス(900)。
  16. オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、
    前記オーディオ信号の連続したサブフレームが、前記連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状が前記連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有するとき、サブフレームベースで周波数スペクトルを生成することと、
    以前に受信されたオーディオ信号の信号スペクトルのピークを分数周波数スケールで検知することと、
    前記ピークのうちのそれぞれの位相を推定することと、
    推定された前記位相に基づいて前記信号スペクトルの前記ピークに適用するための時間反転された位相調整を導出することと、
    前記時間反転された位相調整を前記信号スペクトルの前記ピークに適用して、時間反転された位相調整を施されたピークを形成することと、
    時間反転を前記隠蔽オーディオサブフレームに適用することとを行うように適合されているデコーダデバイス(900)。
  17. 前記時間反転された位相調整を施されたピークを前記信号スペクトルのノイズスペクトルと組み合わせて、前記隠蔽オーディオサブフレームに関する組み合わされたスペクトルを形成することと、
    前記組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成することと
    を行うようにさらに適合されている、請求項16に記載のデコーダデバイス。
  18. 合成された隠蔽オーディオフレームが、少なくとも2つの連続した隠蔽サブフレームを含み、前記時間反転された位相調整を導出すること、前記時間反転された位相調整を適用すること、前記時間反転を適用すること、および前記時間反転された位相調整を施されたピークを組み合わせることが、前記少なくとも2つの連続した隠蔽サブフレームのうちの第1の隠蔽サブフレームに関して実行され、前記デコーダデバイスがさらに、
    前記少なくとも2つの連続した隠蔽サブフレームのうちの第2の隠蔽サブフレームに関する前記信号スペクトルの前記ピークに適用するための時間反転されていない位相調整を導出することと、
    前記時間反転されていない位相調整を前記第2のサブフレームに関する前記信号スペクトルの前記ピークに適用して、時間反転されていない位相調整を施されたピークを形成することと、
    前記時間反転されていない位相調整を施されたピークを前記信号スペクトルのノイズスペクトルと組み合わせて、前記第2の隠蔽サブフレームに関する組み合わされたスペクトルを形成することと、
    前記組み合わされたスペクトルに基づいて第2の合成された隠蔽オーディオサブフレームを生成することとを行うように適合されている、請求項16または17に記載のデコーダデバイス。
  19. 前記以前に受信されたオーディオ信号の前記信号スペクトルを前記デコーダデバイスのメモリから取得するようにさらに適合されている、請求項16から18のいずれか一項に記載のデコーダデバイス。
  20. 前記時間反転された位相調整を施されたピークに複素共役を適用することによって前記時間反転を適用するように適合されている、請求項16から19のいずれか一項に記載のデコーダデバイス。
  21. 前記検知されたピークのうちのそれぞれのピークを、前記ピークを表す複数のピーク周波数ビンに関連付けるようにさらに適合されている、請求項16から20のいずれか一項に記載のデコーダデバイス。
  22. 前記時間反転された位相調整および前記時間反転されていない位相調整のうちの一方を前記複数のピーク周波数ビンのうちのそれぞれのピーク周波数ビンに適用するようにさらに適合されている、請求項21に記載のデコーダデバイス。
  23. 前記格納されている信号スペクトルの係数を使用して前記信号スペクトルの残りのビンを投入することであって、前記スペクトル係数が前記信号の望ましい特性を保持する、残りのビンを投入すること
    を行うようにさらに適合されている、請求項22に記載のデコーダデバイス。
  24. 前記望ましい特性が、マルチチャネルデコーダシステムにおける第2のチャネルとの相関を含む、請求項23に記載のデコーダデバイス。
  25. 下記に従って、前記時間反転された位相調整を施されたピークの前記ピークに関する位相推定を計算することによって前記ピークのうちのそれぞれの前記位相を推定するように適合されており、
    Figure 2022536158000050
    ffrac=fi-ki
    この場合、φが、周波数fでの推定された位相であり、
    Figure 2022536158000051
    が、周波数ビンkでのスペクトル
    Figure 2022536158000052
    の角度であり、ffracが丸め誤差であり、φが調整定数であり、kが[f]である、請求項16から24のいずれか一項に記載のデコーダデバイス。
  26. 前記時間反転された隠蔽オーディオサブフレームの前記ピークに関する位相調整を
    Δφi=-2φi-2πfi(N+Nstep21+(Nlost-1)Nfull)/N
    に従って計算するように適合されている、請求項25に記載のデコーダデバイス。
  27. 前記時間反転された隠蔽オーディオサブフレームの前記ピークに関する位相調整を
    Δφ=-2φ0-2πf(Nstep21+Nlost・N)/N
    に従って計算するように適合されている、請求項25に記載のデコーダデバイス。
  28. ランダムな位相を前記信号スペクトルの前記ノイズスペクトルに適用するようにさらに適合されている、請求項16から27のいずれか一項に記載のデコーダデバイス。
  29. 前記時間反転されていない位相調整を施されたピークを前記ノイズスペクトルと組み合わせる前に前記ランダムな位相を前記ノイズスペクトルに適用するようにさらに適合されている、請求項28に記載のデコーダデバイス。
  30. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含むコンピュータプログラムであって、それによって前記プログラムコードの実行が、請求項1から14のいずれか一項に記載のオペレーションを前記デコーダデバイス(900)に実行させる、コンピュータプログラム。
  31. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含む非一時的ストレージメディアを含むコンピュータプログラム製品であって、それによって前記プログラムコードの実行が、請求項1から14のいずれか一項に記載のオペレーションを前記デコーダデバイス(900)に実行させる、コンピュータプログラム製品。
  32. デコーディングデバイスにおいてオーディオ信号に関する隠蔽オーディオサブフレームを生成する方法であって、
    前記オーディオ信号の連続したサブフレームが、前記連続したサブフレームのうちの第1のサブフレームの適用されたウィンドウ形状が前記連続したサブフレームのうちの第2のサブフレームのミラーリングされたバージョンまたは時間反転されたバージョンであるという特性を有するとき、サブフレームベースで周波数スペクトルを生成すること(1000)と、
    第1の2つの連続したサブフレームのうちの第2のサブフレームに対応する信号スペクトルを格納すること(1004)と、
    第2の2つの連続したサブフレームに関する不良フレームインジケータを受信すること(1002)と、
    前記信号スペクトルを取得すること(1006)と、
    前記信号スペクトルのピークを分数周波数スケールで検知すること(1008)と、
    前記ピークのうちのそれぞれの位相を推定すること(1012)と、
    推定された前記位相に基づいて、前記第2の2つの連続したサブフレームのうちの第1のサブフレームに関して格納されている前記スペクトルの前記ピークに適用するための時間反転された位相調整を導出すること(1014)と、
    前記時間反転された位相調整を前記信号スペクトルの前記ピークに適用して、時間反転された位相調整を施されたピークを形成すること(1016)と、
    時間反転を前記隠蔽オーディオサブフレームに適用すること(1018)と、
    前記時間反転された位相調整を施されたピークを前記信号スペクトルのノイズスペクトルと組み合わせて、前記第2の2つの連続したサブフレームのうちの前記第1のサブフレームに関する組み合わされたスペクトルを形成すること(1020)と、
    前記組み合わされたスペクトルに基づいて、合成された隠蔽オーディオサブフレームを生成すること(1022)とを含む方法。
  33. 前記合成された隠蔽オーディオフレームが、少なくとも2つの連続した隠蔽サブフレームを含み、前記時間反転された位相調整を導出すること、前記時間反転された位相調整を適用すること、および前記時間反転された位相調整を施されたピークを組み合わせることが、前記少なくとも2つの連続した隠蔽サブフレームのうちの第1の隠蔽サブフレームに関して実行され、前記方法がさらに、
    前記第2の2つの連続したサブフレームのうちの第2のサブフレームに関する前記信号スペクトルのピークに適用するための時間反転されていない位相調整を導出すること(1024)と、
    前記時間反転されていない位相調整を前記第2の2つの連続したサブフレームのうちの前記第2のサブフレームに関する前記信号スペクトルの前記ピークに適用して、時間反転されていない位相調整を施されたピークを形成すること(1026)と、
    前記時間反転されていないオーディオサブフレームを前記信号スペクトルのノイズスペクトルと組み合わせて、前記第2の2つの連続したサブフレームのうちの前記第2のサブフレームに関する第2の組み合わされたスペクトルを形成すること(1028)と、
    前記第2の組み合わされたスペクトルに基づいて第2の合成されたオーディオサブフレームを生成すること(1030)とを含む、請求項32に記載の方法。
  34. 前記信号スペクトルをデコーディングデバイスのメモリから取得することをさらに含む、請求項32または33に記載の方法。
  35. 前記時間反転を適用することが、前記時間反転された位相調整を施されたピークに複素共役を適用することを含む、請求項32から34のいずれか一項に記載の方法。
  36. それぞれのピークを、前記ピークを表す複数のピーク周波数ビンに関連付けること
    をさらに含む、請求項32から35のいずれか一項に記載の方法。
  37. 前記複数のピーク周波数ビンのうちのそれぞれのピーク周波数ビンに関して、前記時間反転された位相調整および前記時間反転されていない位相調整のうちの一方を前記ピーク周波数ビンに適用することをさらに含む、請求項36に記載の方法。
  38. 格納されている前記スペクトルの係数を使用して前記信号スペクトルの残りのビンを投入することであって、前記スペクトル係数が前記信号の望ましい特性を保持する、残りのビンを投入すること
    をさらに含む、請求項37に記載の方法。
  39. 前記望ましい特性が、マルチチャネルデコーダシステムにおける第2のチャネルとの相関を含む、請求項38に記載の方法。
  40. 前記位相を推定することが、
    下記に従って、前記時間反転された位相調整を施されたピークに関する位相推定を計算することを含み、
    Figure 2022536158000053
    ffrac=fi-ki
    この場合、φが、周波数fでの推定された位相であり、
    Figure 2022536158000054
    が、周波数fでのスペクトル
    Figure 2022536158000055
    の角度であり、ffracが丸め誤差であり、φが調整定数であり、kが[f]である、請求項32から39のいずれか一項に記載の方法。
  41. φが、0.1と0.7との間における範囲の値を有する、請求項40に記載の方法。
  42. 前記時間反転された隠蔽オーディオサブフレームの前記ピークに関する位相調整が、
    Δφi=-2φi-2πfi(N+Nstep21+(Nlost-1)Nfull)/N
    に従って計算される、請求項40に記載の方法。
  43. 前記時間反転された隠蔽オーディオサブフレームの前記ピークに関する位相調整が、
    Δφ=-2φ0-2πf(Nstep21+Nlost・N)/N
    に従って計算される、請求項40に記載の方法。
  44. 前記第1の2つの連続したサブフレームのそれぞれのサブフレームに関する前記周波数スペクトルを生成することが、下記を特定することを含み、
    Figure 2022536158000056
    この場合、Nが、サブフレームウィンドウの長さを示し、サブフレームウィンドウ処理関数w(n)が、前記連続したサブフレームのうちの前記第1のサブフレーム
    Figure 2022536158000057
    に関するサブフレームウィンドウ処理関数であり、w(n)が、前記連続したサブフレームのうちの前記第2のサブフレーム
    Figure 2022536158000058
    に関するサブフレームウィンドウ処理関数であり、Nstep12が、前記第1の2つの連続したサブフレームのうちの第1のサブフレームと、前記第1の2つの連続したサブフレームのうちの前記第2のサブフレームとの間におけるサンプル数である、請求項32から43のいずれか一項に記載の方法。
  45. ランダムな位相を前記信号スペクトルの前記ノイズスペクトルに適用することをさらに含む、請求項32から44のいずれか一項に記載の方法。
  46. 前記ランダムな位相を前記ノイズスペクトルに適用することが、前記時間反転されていない位相調整を施されたピークを前記ノイズスペクトルと組み合わせる前に前記ランダムな位相を前記ノイズスペクトルに適用することを含む、請求項45に記載の方法。
  47. オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、
    処理回路(902)と、
    前記処理回路と動作可能に結合されているメモリ(904)であって、命令を含み、前記命令が、前記処理回路によって実行されたときに、請求項1から14または32から46の少なくとも一項に記載のオペレーションを前記デコーダデバイスに実行させる、メモリ(904)とを含むデコーダデバイス(900)。
  48. オーディオ信号の隠蔽オーディオサブフレームを生成するように設定されているデコーダデバイス(900)であって、請求項32から46の少なくとも一項の方法を実行するように適合されているデコーダデバイス(900)。
  49. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含むコンピュータプログラムであって、それによって前記プログラムコードの実行が、請求項32から46のいずれか一項に記載のオペレーションを前記デコーダデバイス(900)に実行させる、コンピュータプログラム。
  50. 通信ネットワークにおいて動作するように設定されているデコーダデバイス(900)の処理回路(902)によって実行されることになるプログラムコードを含む非一時的ストレージメディアを含むコンピュータプログラム製品であって、それによって前記プログラムコードの実行が、請求項32から46のいずれか一項に記載のオペレーションを前記デコーダデバイス(900)に実行させる、コンピュータプログラム製品。
JP2021573331A 2019-06-13 2020-05-25 時間反転されたオーディオサブフレームエラー隠蔽 Active JP7371133B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023179369A JP2024012337A (ja) 2019-06-13 2023-10-18 時間反転されたオーディオサブフレームエラー隠蔽

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962860922P 2019-06-13 2019-06-13
US62/860,922 2019-06-13
PCT/EP2020/064394 WO2020249380A1 (en) 2019-06-13 2020-05-25 Time reversed audio subframe error concealment

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023179369A Division JP2024012337A (ja) 2019-06-13 2023-10-18 時間反転されたオーディオサブフレームエラー隠蔽

Publications (2)

Publication Number Publication Date
JP2022536158A true JP2022536158A (ja) 2022-08-12
JP7371133B2 JP7371133B2 (ja) 2023-10-30

Family

ID=70847403

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021573331A Active JP7371133B2 (ja) 2019-06-13 2020-05-25 時間反転されたオーディオサブフレームエラー隠蔽
JP2023179369A Pending JP2024012337A (ja) 2019-06-13 2023-10-18 時間反転されたオーディオサブフレームエラー隠蔽

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023179369A Pending JP2024012337A (ja) 2019-06-13 2023-10-18 時間反転されたオーディオサブフレームエラー隠蔽

Country Status (7)

Country Link
US (1) US11967327B2 (ja)
EP (1) EP3984026A1 (ja)
JP (2) JP7371133B2 (ja)
CN (1) CN113950719A (ja)
BR (1) BR112021021928A2 (ja)
CO (1) CO2021016704A2 (ja)
WO (1) WO2020249380A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015530622A (ja) * 2012-09-26 2015-10-15 モトローラ モビリティ エルエルシーMotorola Mobility Llc オーディオ信号をエンコードするための方法および装置
JP2016510432A (ja) * 2013-02-05 2016-04-07 テレフオンアクチーボラゲット エル エム エリクソン(パブル) オーディオフレーム損失のコンシールメントを制御する方法及び装置
JP2016515725A (ja) * 2013-04-18 2016-05-30 オランジュ 重み付けされたノイズの注入によるフレーム消失補正
JP2018040917A (ja) * 2016-09-07 2018-03-15 日本電信電話株式会社 復号装置、復号方法及びプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2006208529B2 (en) * 2005-01-31 2010-10-28 Microsoft Technology Licensing, Llc Method for weighted overlap-add
WO2014108738A1 (en) * 2013-01-08 2014-07-17 Nokia Corporation Audio signal multi-channel parameter encoder
FR3001593A1 (fr) * 2013-01-31 2014-08-01 France Telecom Correction perfectionnee de perte de trame au decodage d'un signal.
EP3621074B1 (en) * 2014-01-15 2023-07-12 Samsung Electronics Co., Ltd. Weight function determination device and method for quantizing linear prediction coding coefficient
EP2922055A1 (en) 2014-03-19 2015-09-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method and corresponding computer program for generating an error concealment signal using individual replacement LPC representations for individual codebook information
JP6826126B2 (ja) * 2016-03-07 2021-02-03 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 異なる周波数帯域の異なる減衰係数に従って隠蔽されたオーディオフレームをフェードアウトする誤り隠蔽ユニット、オーディオデコーダ、および関連する方法およびコンピュータプログラム
CN110114988B (zh) * 2016-11-10 2021-09-07 松下电器(美国)知识产权公司 发送方法、发送装置及记录介质
US10714098B2 (en) * 2017-12-21 2020-07-14 Dolby Laboratories Licensing Corporation Selective forward error correction for spatial audio codecs

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015530622A (ja) * 2012-09-26 2015-10-15 モトローラ モビリティ エルエルシーMotorola Mobility Llc オーディオ信号をエンコードするための方法および装置
JP2016510432A (ja) * 2013-02-05 2016-04-07 テレフオンアクチーボラゲット エル エム エリクソン(パブル) オーディオフレーム損失のコンシールメントを制御する方法及び装置
JP2016515725A (ja) * 2013-04-18 2016-05-30 オランジュ 重み付けされたノイズの注入によるフレーム消失補正
JP2018040917A (ja) * 2016-09-07 2018-03-15 日本電信電話株式会社 復号装置、復号方法及びプログラム

Also Published As

Publication number Publication date
CN113950719A (zh) 2022-01-18
WO2020249380A1 (en) 2020-12-17
CO2021016704A2 (es) 2022-01-17
JP7371133B2 (ja) 2023-10-30
EP3984026A1 (en) 2022-04-20
JP2024012337A (ja) 2024-01-30
US11967327B2 (en) 2024-04-23
BR112021021928A2 (pt) 2021-12-21
US20220246156A1 (en) 2022-08-04

Similar Documents

Publication Publication Date Title
US9514755B2 (en) Position-dependent hybrid domain packet loss concealment
US20230008547A1 (en) Audio frame loss concealment
JP7116521B2 (ja) パワー補償を使用してエラー隠し信号を生成する装置及び方法
KR20080002756A (ko) 가중된 오버랩 애드 방법
JP7167109B2 (ja) 適応型ノイズ推定を使用してエラー隠し信号を生成する装置及び方法
US20150371641A1 (en) Enhanced audio frame loss concealment
KR20160022382A (ko) 개선된 피치 래그 추정을 사용하여 acelpp-형 은폐 내에서 적응적 코드북의 개선된 은폐를 위한 장치 및 방법
AU2015233707B2 (en) Apparatus, method and corresponding computer program for generating an error concealment signal using individual replacement LPC representations for individual codebook information
US20230298597A1 (en) Methods for phase ecu f0 interpolation split and related controller
JP7371133B2 (ja) 時間反転されたオーディオサブフレームエラー隠蔽
CN111402905B (zh) 音频数据恢复方法、装置及蓝牙设备
CA3082175C (en) Selecting pitch lag

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231018

R150 Certificate of patent or registration of utility model

Ref document number: 7371133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150