JP2021047441A - 補償値を用いて音声信号を符号化する装置および方法 - Google Patents

補償値を用いて音声信号を符号化する装置および方法 Download PDF

Info

Publication number
JP2021047441A
JP2021047441A JP2020201431A JP2020201431A JP2021047441A JP 2021047441 A JP2021047441 A JP 2021047441A JP 2020201431 A JP2020201431 A JP 2020201431A JP 2020201431 A JP2020201431 A JP 2020201431A JP 2021047441 A JP2021047441 A JP 2021047441A
Authority
JP
Japan
Prior art keywords
spectral band
analysis result
spectral
band
audio data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020201431A
Other languages
English (en)
Other versions
JP7385549B2 (ja
Inventor
ディッシュ・ザシャ
Disch Sascha
ロイテルフーバー・フランツ
Franz Reutelhuber
ブーテ・ヤン
Jan Buethe
ムルトラス・マークス
Markus Multrus
エドラー・ベルント
Edler Bernd
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Publication of JP2021047441A publication Critical patent/JP2021047441A/ja
Priority to JP2023059844A priority Critical patent/JP2023082142A/ja
Application granted granted Critical
Publication of JP7385549B2 publication Critical patent/JP7385549B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/038Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L21/0216Noise filtering characterised by the method used for estimating noise
    • G10L21/0232Processing in the frequency domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Reduction Or Emphasis Of Bandwidth Of Signals (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)
  • Stereophonic System (AREA)

Abstract

【課題】第1のスペクトル帯域と第2のスペクトル帯域との間にスペクトル微細構造の不一致が存在する場合に、知覚的品質を新しいパラメトリック補償技術によって改善する。【解決手段】音声信号符号化装置は、第1のスペクトル帯域の第1の音声データをコア符号化するコアエンコーダ110と、第1のスペクトル帯域とは異なる第2のスペクトル帯域の第2の音声データをパラメトリックに符号化するパラメトリックコーダ120と、を備える。パラメトリックコーダ120は、第1の解析結果を取得するために第1のスペクトル帯域の第1の音声データを解析し、第2の解析結果を取得するために第2のスペクトル帯域の第2の音声データを解析する解析器121と、第1の解析結果及び第2の解析結果を用いて補償値を計算する補償器124と、補償値を用いて第2のスペクトル帯域の第2の音声データからパラメータを計算するパラメータ計算機126と、を備える。【選択図】図1

Description

本発明は、音声の符号化および復号に関し、特に、帯域幅拡張、あるいはスペクトル帯域複製(SBR)またはインテリジェントギャップ充填(IGF)などのスペクトル強調技術を用いた、音声符号化/復号に関する。
音声信号の記憶または送信は、厳しいビットレート制限を受けることが多い。過去に非常に低いビットレートしか使用できなかったときは、送信された音声の帯域幅をコーダで大幅に減少させていた。現代の音声コーデックは、今日では帯域幅拡張(BWE)法[1−2]を用いて、広帯域信号を符号化することができる。このようなアルゴリズムは、高周波数コンテンツ(HF)のパラメトリック表示に依存し、これは、HFスペクトル領域への転置(「パッチング」)、およびパラメータ駆動による後処理を適用することによって復号された信号の、低周波数部分(LF)を符号化した波形から生成される。しかしながら、例えば、いくつかのターゲット領域にコピーされたパッチ内のスペクトル微細構造が、原コンテンツのスペクトル微細構造と大きく異なっている場合は、不快なアーチファクトが生じて、復号された音声信号の知覚的品質が低下する。
BWEスキームでは、所与のいわゆる交差周波数を上回るHFスペクトル領域の再構築は、スペクトルパッチングに基づくことが多い。通常、HF領域は複数の隣接するパッチからなり、これらのパッチはそれぞれ、所与の交差周波数を下回る、LFスペクトルの帯域通過(BP)領域から供給される。最先端のシステムでは、1組の隣接する副帯域係数をソース領域からターゲット領域にコピーすることによって、フィルタバンク表示内でパッチングが効率的に行われている。次の手順では、エンコーダで測定されて、サイド情報としてビットストリームで送信された元のHF信号の包絡に近似するように、スペクトル包絡が調整される。
しかしながら、スペクトル微細構造の不一致が存在することが多く、これがアーチファクトの認知につながる場合がある。通常知られている不一致は、音調性に関するものである。元のHFが、やや優位なエネルギーコンテンツを有する音調を含み、音調のスペクトル位置にコピーされるパッチの特徴がノイズの多いものである場合、この帯域通過ノイズは拡大されて、不快なノイズバーストとして聞こえる可能性がある。
スペクトル帯域複製(SBR)は、現代の音声コーデック[1]に採用されている、よく知られているBWEである。SBRでは、音調性不一致の問題に、人工的に置き換えた正弦波を挿入することによって対処する。しかしながらこれには、別のサイド情報をデコーダに送信することが必要になり、BWEデータのビット需要が大きくなる。さらに、後続のブロックのために音調の挿入のオン/オフが切り替えられた場合は、挿入された音調が経時的に不安定になる可能性がある。
インテリジェントギャップ充填(IGF)は、MPEG−H 3D Audio、または3GPP EVSコーデックなどの現代のコーデックの、セミパラメトリック符号化技術を示す。IGFは、低ビットレート制限によるエンコーダの量子化プロセスによって導入される、スペクトルホールの充填に適合させることができる。通常、ビット配分が制限されていて透過符号化ができない場合は、まず信号の高周波数(HF)領域にスペクトルホールが出現し、ビットレートが最も低い上部スペクトル範囲全体に次第に影響を及ぼす。デコーダ側では、このようなスペクトルホールは、低周波数(LF)コンテンツからセミパラメトリック方式で生成された合成HFコンテンツと、別のパラメトリック側情報によって制御される後処理とを用いて、IGFを介して置換される。
IGFは基本的に、より低い周波数からスペクトル部分(タイルと呼ばれる)をコピーすることによって、かつ利得係数を適用してエネルギーを調整することによって、高周波数スペクトルを充填することに基づいているが、スペクトル微細構造の観点から、原信号において、コピーアッププロセスのソースとして用いられる周波数範囲がその宛先と異なっている場合は、問題となる場合がある。
強い知覚的影響を与える可能性があるこのような事例の1つは、音調性の相違である。この音調性不一致は、2つの異なる方法で生じる可能性があり、1つは、強い音調性を有する周波数範囲が、構造的にノイズ様と思われるスペクトル領域にコピーされるためであり、もう1つは逆に、原信号内でノイズが音調成分に置き換わるためである。IGFにおいて前者の事例は、ほとんどの音声信号が、通常は高周波数に向かうほどよりノイズ様になるためより一般的であり、スペクトル白色化を適用することによって対処され、必要な場合は、どのくらいの白色化が必要かを知らせるパラメータがデコーダに送信される。後者の事例については、波形符号化を介してHF帯域の音調ラインを保存するように、コアコーダの全帯域符号化能力を用いて音調性を訂正することができる。このいわゆる「残存ライン(surviving line)」は、音調性の強さに基づいて選択することができる。波形符号化は、ビットレートの観点からは非常に要求が厳しく、低ビットレートのシナリオでは使用できない可能性が最も高い方法である。さらに、音調成分を符号化するフレームと、符号化しないフレームとの間の切り替えは不快なアーチファクトを引き起こすため、これを防止する必要がある。
インテリジェントギャップ充填技術については、欧州特許出願公開第2830054号明細書でさらに開示され説明されている。IGF技術は、コアデコーダが処理する同じスペクトル領域で帯域幅拡張を行うことによって、一方では帯域幅拡張の分離に関する問題に対処し、他方ではコア復号化に関する問題に対処する。したがって、フルレートのコアエンコーダ/デコーダが提供され、全音声信号範囲を符号化および復号する。これは、エンコーダ側のダウンサンプラ、およびデコーダ側のアップサンプラを必要としない。その代わりに、処理全体が全サンプリングレート、または全帯域幅領域で行われる。高い符号化利得を得るために、音声信号は、第1のスペクトル部分の第1の組を見つけるために解析され、この音声信号は高分解能で符号化する必要があり、この第1のスペクトル部分の第1の組は、ある実施形態では、音声信号の音調部分を含んでいてもよい。他方では、第2のスペクトル部分の第2の組を構成する、音声信号内の非音調成分、またはノイズが多い成分は、低スペクトル分解能でパラメトリックに符号化される。符号化された音声信号は、次に、第1のスペクトル部分の第1の組のみが、高スペクトル分解能で、波形保存方式で符号化されることを必要とし、さらに第2のスペクトル部分の第2の組が、第1の組から供給された周波数「タイル」を用いて、低分解能でパラメトリックに符号化される。デコーダ側では、全帯域デコーダであるコアデコーダが、波形保存方式で、すなわち追加の周波数再生成があると知ることなく、第1のスペクトル部分の第1の組を再構築する。しかしながら、このようにして生成されたスペクトルには、多数のスペクトルギャップがある。このようなギャップは、その後、一方ではパラメトリックデータを適用する周波数再生成を用いて、他方ではソーススペクトル範囲、すなわちフルレート音声デコーダによって再構築された第1のスペクトル部分を用いて、本発明のインテリジェントギャップ充填(IGF)技術で充填される。
IGF技術は、3GPP TS26.445V13.2.0(2016−06)、Third Generation Partnership Project、Technical Specification Group Services and System Aspect、Codec for Enhanced Voice Services(EVS)、Detailed Algorithmic Description(release13)にも含まれ開示されている。特に、エンコーダ側に関しては、この参考文献の第5.3.3.2.11節の「Intelligent Gap Filling」が参照され、デコーダ側の実施に対しては、さらに第6節の、特に第6.2.2.3.8節「IGF Apply」、その他第6.2.2.2.9節「IGF Bitstream Reader」、または第6.2.2.3.11節「IGF Temporal Flattening」などの、IGF関連の節が参照される。
欧州特許出願公開第2301027号明細書では、帯域幅拡張出力データを生成する装置および方法が開示されている。有声音信号では、計算済みのノイズフロアを低くすることで、元の計算済みノイズフロアと比較して、知覚的な高品質が得られる。結果として生じる音声は、この事例では残響が少なくなる。歯擦音を含む音声信号の場合、ノイズフロアの人工的な増加が、歯擦音に関するパッチング法の欠点をカバーする場合がある。したがって、参考文献では、有声音などの信号に対してノイズフロアを減少させること、および歯擦音などを含む信号に対してノイズフロアを増加させることについて開示されている。異なる信号を区別するために、実施形態ではエネルギー分布データ(例えば、歯擦音パラメータ)を用い、エネルギーのほとんどが、複数または1つの高周波数に位置するかどうか、すなわち音声信号のスペクトル表示が、高周波数に向かって傾斜する増加または減少を示すかどうかを測定する。別の実施では、歯擦音パラメータを生成するために、第1のLPC係数(LPCは、線形予測符号のこと)をさらに用いる。
欧州特許出願公開第2830054号明細書 欧州特許出願公開第2301027号明細書
3GPP TS26.445V13.2.0(2016−06)、Third Generation Partnership Project、Technical Specification Group Services and System Aspect、Codec for Enhanced Voice Services(EVS)、Detailed Algorithmic Description(release13)
音声符号化、または音声処理に対する改善した概念を提供することが、本発明の目的である。
この目的は、請求項1の音声信号を符号化する装置、請求項23の音声信号を符号化する方法、請求項24の音声信号を処理するシステム、請求項25の音声信号を処理する方法、または請求項26のコンピュータプログラムによって達成される。
音声信号を符号化する装置は、第1のスペクトル帯域の第1の音声データをコア符号化するコアエンコーダと、第1のスペクトル帯域とは異なる、第2のスペクトル帯域の第2の音声データをパラメトリックに符号化するパラメトリックコーダとを備える。特に、パラメトリックコーダは、第1の解析結果を取得するために、第1のスペクトル帯域の第1の音声データを解析し、第2の解析結果を取得するために、第2のスペクトル帯域の第2の音声データを解析する、解析器を備える。補償器は、第1の解析結果および第2の解析結果を用いて、補償値を計算する。さらに、パラメータ計算機が、補償器によって決定された補償値を用いて、第2のスペクトル帯域の第2の音声データからパラメータを計算する。
したがって、本発明は、デコーダ側でいくつかのパラメータを用いて行った再構築が、音声信号に必要ないくつかの特徴に対処するかどうかを明らかにするために、通常はソース帯域である第1のスペクトル帯域が、第1の解析結果を得るために解析されるという理解に基づく。同様に、通常はターゲット帯域であり、かつ第1のスペクトル帯域、すなわちソース帯域を用いてデコーダ側で再構築される第2のスペクトル帯域が、第2の解析結果を得るために、解析器によってさらに解析される。したがって、ソース帯域については、ターゲット帯域と同様に、別の解析結果が計算される。
次に、これら2つの解析結果に基づいて、補償器が、修正値に対する補償なく取得されるはずであったいくつかのパラメータを変更するために、補償値を計算する。言い換えれば、本発明は、第2のスペクトル帯域のパラメータが元の音声信号から計算されて、第2のスペクトル帯域が計算済みのパラメータを用いて再構築されるように、デコーダに送信される通常の手順とは異なり、その代わりに、一方ではターゲット帯域から計算された補償済みパラメータ、他方では、第1の解析結果と第2の解析結果との両方に依存する補償値を生じさせる。
補償済みパラメータの計算は、まず非補償パラメータを計算し、次に、この非補償パラメータを補償値と結合できることによって補償済みパラメータを取得する、あるいは補償済みパラメータは、中間結果として未補償パラメータを得ることなく1回で計算することができる。補償済みパラメータは、次に、エンコーダからデコーダに送信することができ、その後、デコーダは、スペクトル帯域複製、またはインテリジェントギャップ充填、その他補償済みパラメータ値を用いた任意の手順などの、一定の帯域幅拡張技術を適用する。したがって、パラメータが所望のスペクトル帯域拡張結果になるかどうかにかかわらず、一定のパラ―メータ計算アルゴリズムを厳守することに対しては、パラメータ計算に加えて、ソース帯域およびターゲット帯域で信号解析を行うことによって、かつその後に、ソース帯域からの結果と、ターゲット帯域からの結果とに基づいて、すなわち第1のスペクトル帯域と第2のスペクトル帯域とのそれぞれに基づいて補償値の計算を行うことによって、柔軟に対処することができる。
好ましくは、解析器、および/または補償器は、音響心理学的不一致を判定する、一種の音響心理モデルを適用する。したがって、実施形態において、補償値の計算は、音調性などのいくつかの信号パラメータの音響心理学的不一致の検出に基づき、補償の手法は、スペクトル帯域利得係数などの他の信号パラメータの修正を介した、知覚的不快感の全体的な最小化に適用される。したがって、異種のアーチファクトをトレードオフすることによって、知覚的にうまくバランスのとれた結果が得られる。
「何としても音調性を固定しようとする」従来技術の手法とは対照的に、実施形態ではむしろ、音調性不一致が検出された、問題があるスペクトルの部分に減衰を印加することによるアーチファクトの改善を教示し、これによって音調性不一致に対して、スペクトルエネルギー包絡の不一致をトレードオフする。
いくつかの信号パラメータの入力において、知覚的不快さのモデルを含む補償の手法では、単に信号パラメータが適合するのではなく、最良の知覚的適合を得る手法を決定することができる。
この手法は、潜在的なアーチファクトの知覚的重要性を重み付けすること、および全体的な欠陥を最小化するために、パラメータの組み合わせを選択することからなる。
この手法は、MDCTなどの変換に基づいて、BWE内で適用されることを主に意図している。それにもかかわらず、本発明の教示は、例えば、同様に直交ミラーフィルタバンク(QMF)に基づくシステム内でほぼ適用可能である。
この技法を適用し得る1つの可能なシナリオは、インテリジェントギャップ充填(IGF)との関係における、ノイズ帯域の検出、およびそれに続く減衰である。
実施形態では、音調性不一致の発生を検出すること、および対応するスケーリング係数を減衰させてその影響を低減することによって、生じ得る音調性不一致を処理する。これは、一方では原音のスペクトルエネルギー包絡からの逸脱につながり得るが、他方ではHFのノイズの多さを低減することにつながり、知覚的品質を全体的に向上させるのに役立つ。
したがって本実施形態は、具体的には、例えば、ソースまたは第1のスペクトル帯域と、ターゲットまたは第2のスペクトル帯域との間にスペクトル微細構造の不一致が存在する場合に、通常は知覚的不快さのモデルによって操作される知覚的品質を、新しいパラメトリック補償技術によって改善する。
好ましい実施形態については、添付の図面に照らして以下で説明する。
一実施形態による、音声信号を符号化する装置のブロック図を示す。 補償検出器を中心とする、符号化する装置のブロック図を示す。 ソース範囲、およびIGFまたは帯域幅拡張範囲を有する音声スペクトルの概略図と、ソース帯域と宛先帯域との間の関連するマッピングとを示す。 コアエンコーダがIGF技術を適用し、第2のスペクトル帯域に残存ラインがある、音声信号のスペクトルを示す。 第1の解析結果の計算に使用される、第1のスペクトル帯域の、シミュレートされた第1の音声データの図を示す。 補償器の図をより詳細に示す。 パラメータ計算機の図をより詳細に示す。 一実施形態における、補償検出器の機能を図示したフローチャートを示す。 非補償の利得係数を計算する、パラメータ計算機の機能を示す。 符号化されて復号された第1のスペクトル帯域から第1の解析結果を計算するコアデコーダを有する、エンコーダの実施を示す。 一実施形態における、エンコーダのブロック図を示し、パッチシミュレータが、第2のスペクトル帯域からシフトした第1のスペクトル帯域幅ラインを生成して、第1の解析結果を取得するように適合されている。 インテリジェントギャップ充填の実施における、音調性不一致の影響を示す。 一実施形態における、パラメトリックエンコーダの実施を示す。 補償済みパラメータ値を用いて音声データを符号化して得られた、聞き取りテストの結果を示す。 補償済みパラメータ値を用いて音声データを符号化して得られた、聞き取りテストの別の結果を示す。 補償済みパラメータ値を用いて音声データを符号化して得られた、聞き取りテストのさらに別の結果を示す。
図1は、本発明の一実施形態による、音声信号100を符号化する装置を示す。本装置は、コアエンコーダ110と、パラメトリックコーダ120とを備える。さらに、コアエンコーダ110、およびパラメトリックコーダ120は、その入力側がスペクトル解析器130に接続され、その出力側が出力インターフェース140に接続される。出力インターフェース140は、符号化された音声信号150を生成する。出力インターフェース140は、一方では符号化されたコア信号160を受信し、入力ライン170においては、第2のスペクトル帯域の少なくとも1つのパラメータ、および通常は、第2のスペクトル帯域のパラメータを含む、完全なパラメータ表示を受信する。さらに、スペクトル解析器130は、音声信号100を第1のスペクトル帯域180と、第2のスペクトル帯域190とに分離する。特に、パラメータ計算機は、図1に信号解析器として図示されている解析器121を備え、解析器121は、第1の解析結果122を取得するために第1のスペクトル帯域180の第1の音声データを解析し、第2の解析結果123を取得するために第2のスペクトル帯域190の第2の音声データを解析する。第1の解析結果122と、第2の解析結果123とは、両方とも補償器124に提供されて、補償値125を計算する。したがって、補償器124は、第1の解析結果122と、第2の解析結果123とを用いて、補償値を計算するように構成される。次に、一方では補償値125と、第2のスペクトル帯域190からの少なくとも第2の音声データ(第1のスペクトル帯域からの第1のスペクトルデータも同様に使用されてもよい)とが、両方ともパラメータ計算機126に提供されて、補償値125を用いて、第2のスペクトル帯域の第2の音声データから、パラメータ170を計算する。
図1のスペクトル解析器130は、例えば、個別のスペクトル帯域、またはMDCTラインを取得するための、単純な時間−周波数変換器にすることができる。したがってこの実施において、スペクトル解析器130は、スペクトルデータを取得するために、修正離散コサイン変換(MDCT)を実施する。次に、このスペクトルデータは、一方はコアエンコーダ110用のデータ、もう一方はパラメトリックコーダ120用のデータに分離するためにさらに解析される。コアエンコーダ110用のデータは、少なくとも第1のスペクトル帯域を含む。さらに、コアエンコーダが1つ以上のソース帯域を符号化するときは、コアデータは別のソースデータをさらに含んでもよい。
したがって、コアエンコーダは、スペクトル帯域複製技術の場合は、コア符号化される入力データとして、交差周波数よりも低い全帯域幅を受信してもよく、次にパラメトリックコーダが、この交差周波数を上回るすべての音声データを受信する。
しかしながら、インテリジェントギャップ充填の枠組みの場合は、コアエンコーダ110は、これもスペクトル解析器130によって解析される、IGF開始周波数を上回るスペクトル線をさらに受信してもよく、その結果、スペクトル解析器130は、IGF開始周波数を上回るデータをもさらに決定し、IGF開始周波数を上回るこのデータは、コアエンコーダによってさらに符号化される。このために、スペクトル解析器130は、「音調マスク(tonal mask)」として実施されてもよく、これについては例えば、3GPP TS 26.445 V13.0.0(12)の第5.3.3.2.11.5節に開示されている「IGF Tonal Mask」でも説明されている。このように、コアエンコーダでどのスペクトル成分を送信するべきかを決定するために、スペクトル解析器130によって音調マスクが計算される。したがって、すべての有意なスペクトルコンテンツが識別され、その一方で、IGFを介したパラメトリック符号化によく適するコンテンツは、音調マスクによってゼロに量子化される。スペクトル解析器130は、パラメトリック符号化によく適するスペクトルコンテンツをパラメトリックコーダ120に転送するが、このデータは例えば、音調マスク処理によってゼロに設定されているデータであってもよい。
図2に示す実施形態では、パラメトリックコーダ120は、第3のスペクトル帯域の第3の音声データをパラメトリックに符号化して、この第3のスペクトル帯域の別のパラメータ200を取得するようにさらに構成される。この事例では、解析器121は、第3のスペクトル帯域202の第3の音声データを解析して、第1の解析結果122と第2の解析結果123とに加えて、第3の解析結果204を取得するように構成される。
さらに、図1のパラメトリックコーダ120は、少なくとも第3の解析結果204を用いて、第3のスペクトル帯域が補償されているかどうかを検出するための、補償検出器210をさらに備える。この検出結果は、第3のスペクトル帯域の補償状況の有無を示す、制御ライン212によって出力される。制御ライン212によって示される通り、第3のスペクトル帯域が補償されていないことを補償検出器が検出すると、パラメータ計算機126は、補償値なしで第3のスペクトル帯域の別のパラメータ200を計算するように構成される。しかしながら、第3のスペクトル帯域が補償されていることを補償検出器が検出した場合は、パラメータ計算機は、補償器124によって計算された追加の補償値で、第3の解析結果200から、第3のスペクトル帯域の別のパラメータ200を計算するように構成される。
好ましい実施形態では、定量補償が適用されると、解析器121は、第1の解析結果として第1の定量値122を計算し、第2の解析結果として第2の定量値123を計算するように構成される。次に、補償器124は、第1の定量値から、かつ第2の定量値から、定量補償値125を計算するように構成される。最後に、パラメータ計算機が、定量補償値を用いて定量パラメータを計算するように構成される。
しかしながら本発明は、定性的な解析結果のみしか得られない場合にも適用可能である。この場合は、定性補償値が計算され、これが次に、一定の非補償パラメータをある程度低下、または上昇させるように、パラメータ計算機を制御する。したがって、両方の解析結果によって、パラメータがある程度増加または減少する場合があり、ある程度の増加または減少は固定されて、いかなる定量的結果にも依存しない。しかしながら、固定された増加/減少の増分の計算はあまり計算集約的ではないが、定量的結果は、固定された増加/減少の増分よりも好ましい。
好ましくは、信号解析器121は、第1の解析結果を取得するために音声データの第1の特徴を解析し、第2の解析結果を取得するために第2のスペクトル帯域の第2の音声データの、同じ第1の特徴をさらに解析する。これとは逆に、パラメータ計算機は、第2の特徴を評価することによって、第2のスペクトル帯域の第2の音声データからパラメータを計算するように構成され、この第2の特徴は、この第1の特徴とは異なる。
例示的に、図2は、第1の特徴が、第1の帯域、第2の帯域、その他任意の帯域などの一定の帯域内のスペクトル微細構造、またはエネルギー分布である状況を示す。これとは逆に、パラメータ計算機によって適用された、またはパラメータ計算機によって決定された第2の特徴は、スペクトル包絡尺度、エネルギー尺度、またはパワー尺度であり、あるいは一般に、帯域内のパワー/エネルギーの絶対的または相対的な尺度を与える、利得係数などの振幅関連尺度である。しかしながら、利得係数の特徴から異なる特徴を測定する他のパラメータは、同様にパラメータ計算機によって計算することができる。さらに、一方は個別のソース帯域、他方は宛先帯域、すなわちそれぞれ第1のスペクトル帯域と、第2のスペクトル帯域との他の特徴は、解析器121によって適用し解析することができる。
さらに、解析器121は、第2のスペクトル帯域190の第2の音声データを用いることなく第1の解析結果122を計算し、かつ第1のスペクトル帯域180の第1の音声データを用いることなく第2の解析結果123をさらに計算するように構成され、この実施形態では、第1のスペクトル帯域と第2のスペクトル帯域とは相互に排他的である、すなわち互いに重なり合わない。
さらに、スペクトル解析器130は、音声信号のフレームを構築するように、または音声サンプルのフレームを取得するために、音声サンプルの入来ストリームを窓処理するようにさらに構成され、隣接するフレームの音声サンプルは互いに重なる。例えば、50%重なり合う場合は、前のフレームの後半部分が、後のフレームの前半に含まれる、同じ元の音声サンプルから導出された音声サンプルを有し、フレーム内の音声サンプルは、窓処理によって元の音声サンプルから導出される。
この場合、音声信号は、例えば、フレームビルダの機能をさらに有する図1のブロック130によってさらに提供されるような、フレームの時系列を含み、補償器124は、以前のフレームの以前の補償フレーム値を用いて、現在のフレームの現在の補償値を計算するように構成される。これは通常、一種の平滑化処理となる。
後で概説するように、図2に示す補償検出器210は、これに加えて、またはこれに代えて、符号221、223で示す、図2の他の機能からのパワースペクトル入力、および過渡入力をそれぞれ含んでもよい。
特に、補償検出器210は、図1の元の音声信号100のパワースペクトルが使用可能なときは、パラメータ計算機126が使用する補償のみを指示するように構成される。このこと、すなわちパワースペクトルの使用可否については、いくつかのデータ要素またはフラグによって信号が送られる。
さらに、補償検出器210は、過渡情報ライン223が現在のフレームに対して、過渡が存在しないという信号を送ったときは、制御ライン212を介してのみ補償処理を可能にするように構成される。したがって、ライン223が、過渡が存在するという信号を送ったときは、解析結果にかかわらず、補償処理全体が無効になる。これは当然のことながら、第2のスペクトル帯域に補償を知らせる信号が送られると、第3のスペクトル帯域に適用される。しかしながら、このフレームに対して過渡状況などの状況が検出されると、いくつかのフレームでは、これが第2のスペクトル帯域にも適用される。したがって、この状況により、いくつかの時間フレームに対して、パラメータ補償がまったく行われないようにすることができ、そしてこれは行われないようになる。
図3aは、振幅A(f)、または2乗振幅A(f)のスペクトルの図を示す。特に、XOVERまたはIGF開始周波数が示されている。
さらに、重なり合っている1組のソース帯域が示され、ソース帯域は、第1のスペクトル帯域180と、別のソース帯域302と、さらに別のソース帯域303とを含む。また、IGFまたはXOVER周波数を上回る宛先帯域は、例えば、第2のスペクトル帯域190、別の宛先帯域305、さらに別の宛先帯域307、および第3のスペクトル帯域202である。
通常は、IGFまたは帯域幅拡張の枠組み内のマッピング機能によって、個々のソース帯域180、302、303と、個々の宛先帯域305、190、307、202との間のマッピングを定義する。このマッピングは、3GPP TS 26.445の事例として固定されてもよく、あるいはいくつかのIGFエンコーダアルゴリズムによって、適応的に決定することができる。いずれの場合も、図3aでは、下の表に、重なり合わない宛先帯域、および重なり合うソース帯域の場合の、宛先帯域とソース帯域との間のマッピングを示し、このマッピングがいくつかのフレームに対して固定される、あるいは適応的に決定されて実際に適応的に決定されているかどうかにかかわりなく、図3aの上部にスペクトルが示されている。
図4は、補償器124の実施をより詳細に示す。この実施では、補償器124は、第1のスペクトル帯域に対する、スペクトル平坦性尺度、波高率、スペクトル傾斜値、その他任意の種類のパラメトリックデータとすることができる第1の解析結果122に加えて、第2のスペクトル帯域に対する解析結果123を受信する。この解析結果は、ここでも、第2のスペクトル帯域のスペクトル平坦性尺度、第2のスペクトル帯域の波高率、または傾斜値、すなわち第2のスペクトル帯域に限定したスペクトル傾斜値であってもよく、第1のスペクトル帯域の傾斜値またはスペクトル傾斜値もまた、第1のスペクトル帯域に限定される。また、補償器124は、第2のスペクトル帯域の停止線などの、第2のスペクトル帯域のスペクトル情報を受信する。したがって、図2のパラメトリック計算機126が、第3のスペクトル帯域202の第3の音声データをパラメトリックに符号化するように構成される状況では、第3のスペクトル帯域は、第2のスペクトル帯域よりも高い周波数を含む。これについては、図3aの例にも図示されており、第3のスペクトル帯域は第2のスペクトル帯域よりも高い周波数にある、すなわち帯域202は、帯域190よりも高い周波数を有する。この状況では、補償器124は、第3のスペクトル帯域に対する補償値の計算に重み値を使用するように構成され、この第3の重み値は、第2のスペクトル帯域に対する補償値の計算に用いられた重み値とは異なる。したがって一般に補償器124は、同じ他の入力値に対して、周波数が高いと補償値が小さくなるように、補償値125の計算に影響を与える。
重み値は、例えば、後で述べるように、第1および第2の解析結果に基づいた補償値の計算に適用される、指数αなどの指数にすることができ、あるいは低い周波数に対してパラメータを計算するときの影響に比べて、高い周波数に異なる影響を与えられる、例えば、乗算値、または加算もしくは減算される値にもすることができる。
また、図4に示すように、補償器は、第2のスペクトル帯域の音調対ノイズ比を受信し、第2のスペクトル帯域の第2の音声データの、音調対ノイズ比に依存する補償値を計算する。したがって、第1の音調対ノイズ比に対する第1の補償値が取得される、または第2の音調対ノイズ比に対する第2の補償値が取得され、第1の音調対ノイズ比が第2の音調対ノイズ比よりも大きいときは、第1の補償値は第2の補償値よりも大きくなる。
前述したように、補償器124は、音響心理モデルを適用することによって補償値をほぼ決定するように構成され、音響心理モデルは、補償値を取得するために、第1の解析結果と第2の解析結果とを用いて、第1の音声データと第2の音声データとの間の音響心理学的不一致を評価するように構成される。音響心理学的不一致を評価するこの音響心理モデルは、後のSFM計算との関連で後述する、フィードフォワード計算として実施することができ、あるいはその代わりに、合成手順によるある種の解析を適用する、フィードバック計算モジュールにすることができる。さらに、音響心理モデルは、ニューラルネットワークとして、またはどの場合に補償が必要で、どの場合に補償が必要でないかを決定するために、一定のトレーニングデータによって自動的に排出される、類似の構造として実装されてもよい。
続いて、図2に示す補償検出器210、または概して、パラメータ計算機120に含まれる検出器の機能を示す。
補償検出器の機能は、第1の解析結果と第2の解析結果との差分が、例えば、図6の600および602におけるように、図示されているような所定の特徴を有するときに、補償状況を検出するように構成される。ブロック600は、第1の解析結果と第2の解析結果との差分を計算するように構成され、次にブロック602は、差分が所定の特徴、または所定の値を有するかどうかを判定する。所定の特徴がないと判定された場合は、次に、符号603で示すように、ブロック602によって補償が行われないことが判定される。しかしながら、所定の特徴が存在すると判定された場合は、ライン604を介して制御が進行する。さらに、検出器は、これに代えて、またはこれに加えて、第2の解析結果が、いくつかの所定の値、またはいくつかの所定の特徴を有するかどうかを判定するように構成される。特徴がないと判定された場合は、次にライン605によって、補償が行われないことを知らせる信号が送信される。しかしながら、所定の値があると判定された場合は、ライン606を介して制御が進行する。本実施形態では、補償があるかないかを判定するには、ライン604および606があれば十分と考えられる。しかしながら、図6に示す実施形態では、後述するように、図1の第2のスペクトル帯域190の、第2の音声データのスペクトル傾斜に基づいた別の判定が行われる。
一実施形態では、解析器は、第1の解析結果として、スペクトル平坦性尺度、波高率、または第1のスペクトル帯域に対する、スペクトル平坦性尺度と波高率との商を計算し、かつ第2の解析結果として、スペクトル平坦性尺度、または波高率、あるいは第2の音声データのスペクトル平坦性尺度と波高率との商を計算するように構成される。
このような実施形態では、パラメータ計算機126は、第2の音声データから、スペクトル包絡情報、または利得係数を計算するようにさらに構成される。
さらに、このような実施形態では、補償器124は、補償値125を計算するように構成され、その結果、第1の解析結果と第2の解析結果との間の第1の差分に対して第1の補償値が得られ、かつ第1の解析結果と第2の解析結果との差分に対して第2の補償値が計算され、第1の補償値が第2の補償値よりも大きいときは、第1の差分が第2の差分よりも大きい。
次に、図6の説明はさらに、補償状況が検出されるかどうかについて、任意に追加判定されることを示している。
ブロック608において、第2の音声データからスペクトル傾斜が計算される。610で示すように、このスペクトル傾斜が閾値を下回ると判定されたときは、612に示すように、補償状況であることが肯定され確認される。しかしながら、スペクトル傾斜が所定の閾値を下回らず、閾値を上回ると判定されたときは、この状況を知らせる信号がライン614によって送信される。ブロック616において、音調成分が、第2のスペクトル帯域190の境界近くにあるかどうかが判定される。符号618で示すように、境界近くに音調成分があると判定されると、補償状況であることが再度肯定され確認される。しかしながら、境界近くに音調成分が存在しないと判定されると、補償は取り消される、すなわちライン620で示すようにオフに切り替えられる。ブロック616における判定、すなわち音調成分が境界に近いかどうかの判定は、任意の実施形態で、シフト済みSFM計算を行うことによってなされる。ブロック608で判定されるように、傾斜に急激な減少があるときは、SFMが計算される周波数領域は、対応するスケール因子帯域(SFB)、または第2のスペクトル帯域の幅の半分だけ下方にシフトする。強い傾斜に対しては、SFMが計算される周波数領域は、第2のスペクトル帯域の幅の半分だけ上方にシフトされる。このようにして、SFMが低いために、減衰するはずだった音調成分を正しく検出することができ、高いSFM値に対して減衰が適用されることはない。
続いて、図5についてより詳細に説明する。具体的には、パラメータ計算機126は、第2のスペクトル帯域、すなわち宛先帯域の音声データから非補償パラメータを計算する、計算機501を備えてもよく、パラメータ計算機126は、非補償パラメータ502と、補償値125とを結合する、結合器503をさらに備える。この結合は、例えば、非補償パラメータ502が利得値で、補償値105が定量補償値のときは、乗算であってもよい。しかしながら、結合器503によって行われる結合は、あるいは、補償値を指数または加算修正として用いた重み付け処理にすることもでき、補償値は、加算値または減算値として用いられる。
さらに、図5に示す実施形態は、非補償パラメータが計算された後に、続いて結合値との結合が行われる唯一の実施形態であることに留意されたい。代替的な実施形態では、補償値は、補償済みパラメータの計算に既に導入しておくことができ、その結果、明示的な非補償パラメータを伴う中間結果は発生しない。その代わりに単一の処理のみが行われ、この「単一の処理」の結果、補償値を用いて、かつ計算アルゴリズムを用いて補償済みパラメータが計算され、補償値125がこのような計算に導入されないときは、その計算結果は非補償パラメータになる。
図7は、非補償パラメータを計算するために、計算機501によって適用される手順を示す。図7に示す「IGFスケール因子の計算」は、3GPP TS 26.445 V13.3.3(2015/12)の第5.3.3.2.11.4節とおおよそ一致する。「複素」TCXパワースペクトルP(スペクトル線の実数部および虚数部が評価されるスペクトル)が使用可能になると、非補償パラメータを計算する図5の計算機501は、700で示すように、パワースペクトルPから、第2のスペクトル帯域の振幅関連尺度の計算を行う。さらに、計算機501は、702で示すように、複素スペクトルPから、第1のスペクトル帯域の振幅関連尺度の計算を行う。また、計算機501は、符号704で示すように、第1のスペクトル帯域、すなわちソース帯域の実数部から振幅関連尺度の計算を行い、その結果、3つの振幅関連尺度、Ecplx,target、Ecplx,source、Ereal,sourceが得られ、別の利得係数計算機能706に入力されて、最終的には、Ereal,sourceをEcplx,sourceで割って、Ecplx,targetを乗じたものの関数となる利得係数が得られる。
あるいは、複素TCXパワースペクトルが使用できないときは、図7の下部に示すように、振幅関連尺度は、実際の第2のスペクトル帯域のみから計算される。
さらに、TCXパワースペクトルPは、例えば、従属節5.3.3.2.11.1.2に示されているように、次の式に基づいて計算されることに留意されたい。
P(sb)=R(sb)+I(sb),sb=0,1,2,…,n−1
ここで、nは実際のTCX窓の長さであり、Rは、現在のTCXスペクトルの(コサイン変換された)実数値部を含むベクトルであり、Iは現在のTCXスペクトルの(サイン変換された)虚数部を含むベクトルである。特に、「TCX」という用語は、3GPP用語に関するものであるが、通常は、スペクトル解析器130が、図1のコアエンコーダ110、またはパラメトリックコーダ120に提供するような、第1のスペクトル帯域、または第2のスペクトル帯域のスペクトル値のことを言う。
図8aは、好ましい実施形態を示し、信号解析器121は、符号化されて再度復号された第1のスペクトル帯域を計算し、そして当然、符号化/復号された第1のスペクトル帯域の音声データを計算する、コアデコーダ800をさらに備える。
次に、コアデコーダ800は、符号化/復号された第1のスペクトル帯域を、信号解析器821に含まれる解析結果計算機801に送って、第1の解析結果122を計算する。さらに、信号解析器は、図1の信号解析器121に含まれる第2の解析結果計算機802を備え、計算済みの第2の解析結果123を計算する。したがって、信号解析器121は、符号化して再度復号した第1のスペクトル帯域を用いて、実際の第1の解析結果122が計算されるように構成され、第2の解析結果は、元の第2のスペクトル帯域から計算される。したがって、解析結果計算機801への入力が、デコーダで使用可能な、第1のスペクトル帯域の復号された第1の音声データに含まれる量子化誤差を既にすべて有しているので、デコーダ側の状況は、エンコーダ側で良好にシミュレートされる。
図8bは、信号解析器の好ましい別の実施を示し、これは、図8aの手順に代えて、あるいは図8aの手順に加えて、パッチシミュレータ804を有する。パッチシミュレータ804は、IGFエンコーダの機能を具体的に認識する、すなわち、コアエンコーダによって実際に符号化される第2の宛先帯域内に、複数の線、または少なくとも1つの線があり得ることを認識する。
具体的には、この状況は図3bに示されている。
図3bは、図3aの上図と同様に、第1のスペクトル帯域180と、第2のスペクトル帯域190とを示している。しかしながら、図3aで述べたことに加えて、第2のスペクトル帯域は、第2のスペクトル帯域内に含まれる特定の線351、352を含み、これはスペクトル解析器130によって、第1のスペクトル帯域180に加えて、コアエンコーダ110によってさらに符号化される線として決定されたものである。
IGF開始周波数310を上回る、いくつかの線のこの特定の符号化は、コアエンコーダ110が、IGF開始周波数よりも高くなる、最大fmax354のナイキスト周波数を有する全帯域エンコーダであるという状況を反映している。これは、交差周波数が最大周波数でもあり、したがってコアエンコーダ110のナイキスト周波数でもある、SBR技術に関連する実施とは対照的である。
テストシミュレータ804は、コアデコーダ800から、第1のスペクトル帯域180、または符号化された第1のスペクトル帯域のいずれかを受け、さらに、スペクトル解析器130、またはコアエンコーダ110からの情報を受け、コアエンコーダ出力信号に含まれる、第2のスペクトル帯域に実際のラインがある。これについては、スペクトル解析器130が、ライン806を介して信号を送る、またはライン808を介してコアエンコーダが信号を送る。ここでパッチシミュレータ804は、4つのスペクトル帯域の単純な第1の音声データを用いることによって、かつ線351、352を第1のスペクトル帯域にシフトさせて、第2のスペクトル帯域から線351、352を第1のスペクトル帯域に挿入することによって、第1のスペクトル帯域の第1の音声データをシミュレートする。したがって、線351´および352´は、図3bの線351、352を第2のスペクトル帯域から第1のスペクトル帯域にシフトさせることによって得られたスペクトル線を表す。好ましくは、スペクトル線351、352は、第1のスペクトル帯域に対しては、帯域境界内にあるこれらの線の位置が、両方の帯域で同一になる、すなわち線と帯域境界との間の差周波数が、第2のスペクトル帯域190、および第1のスペクトル帯域180と同一になるように生成される。
したがって、パッチシミュレータは、図3cに示す、シミュレートされたデータ808を出力し、これは、単純な第1のスペクトル帯域のデータを有し、これに加えて、第2のスペクトル帯域から第1のスペクトル帯域にシフトされた線を有する。ここで、解析結果計算機801は、特定のデータ808を用いて第1の解析結果102を計算し、解析結果計算機802は、第2のスペクトル帯域の元の第2の音声データ、すなわち図3bに示す、線351、352を含む元の音声データから、第2の解析結果123を計算する。
パッチシミュレータ804を用いたこの手順には、追加の線351、352に、例えば、音調性の高さその他の一定の条件を、入力する必要がないという利点がある。その代わりに、第2のスペクトル帯域のいくつかの線が、コアエンコーダによって符号化されるかどうかを判定するのは、完全にスペクトル解析器130、またはコアエンコーダ110次第となる。しかしながら、この処理の結果は、図8bに示すように、これらの線を第1の解析結果122の計算に対する追加の入力として用いることによって、自動的に計算される。
続いて、インテリジェントギャップ充填の枠組み内の、音調性不一致の影響が図示される。
ノイズ帯域アーチファクトを検出するには、ソーススケール因子帯域(SFB)と、ターゲットSFBとの間の音調性の相違を判定する必要がある。音調性の計算には、スペクトル平坦性尺度(SFM)を使用することができる。ソース帯域の方がターゲット帯域よりもノイズが多いという音調性不一致が見つかった場合、一定量の減衰を印加する必要がある。この状況は図9に示されており、本発明の処理は適用されていない。
ツールの急激なオン/オフ動作を避けるために、減衰係数にいくらかの平滑化を適用することも理に適っている。正しい位置に減衰を印加するのに必要なステップについては、以下で詳細に説明する。(なお、減衰は、TCXパワースペクトルPが使用可能で、かつフレームが非過渡(フラグisTransientが無効)であるという、この両方に当てはまる場合にのみ印加される)。
音調性不一致の検出:パラメータ
第1のステップにおいて、音調性不一致がノイズ帯域アーチファクトを引き起こす場合がある、これらのSFBを識別する必要がある。これを行うために、IGF範囲の各SFBの音調性と、コピーアップに使用される対応する帯域とを決定する必要がある。音調性を計算するための1つの適切な尺度は、スペクトル平坦性尺度(SFM)であり、これは、スペクトルの幾何平均をその算術平均で割った商に基づき、0〜1の範囲になる。値が0に近いと音調性が強いことを示し、値が1に近いと、スペクトルにノイズが非常に多いことを表す。式は、次のようになる。
Figure 2021047441
ここでPはTCXパワースペクトル、bは開始線、eは現在のSFBの停止線であり、pは以下の式で定義される。
Figure 2021047441
SFMに加えて波高率が計算され、最大エネルギーをスペクトル内の全周波数ビンの平均エネルギーで割ることによって、スペクトル内部でエネルギーがどのように分布するかをさらに示す。SFMを波高率で割ると、現在のフレームにおけるSFBの音調性尺度になる。波高率は、次の式で計算される。
Figure 2021047441
ここでPは、TCXパワースペクトル、bは開始線、eは現在のSFBの停止線であり、Emaxは以下の式で定義される。
Figure 2021047441
しかしながら、円滑な音調性推定を実現するために、以前のフレームの結果をさらに用いるのが理に適っている。したがって音調性推定は、次の式によって行われる。
Figure 2021047441
ここでsfmは、実際のスペクトル平坦性計算の結果を示し、変数SFMは、波高率で割った商、ならびに平滑化を含む。
ここで、ソースと宛先との音調性の差分が計算される。
Figure 2021047441
この差分が正の値になれば、コピーアップを実行するために、ターゲットスペクトルよりもノイズが多いものが用いられるという条件を示す。このようなSFBは、減衰の有力な候補となる。
しかしながら、SFM値の低さは、必ずしも音調性の強さを示さず、SFBにおけるエネルギーの急激な減少、または傾斜による可能性もある。このことは特に、SFBの中央部のどこかに帯域制限がある項目に適合する。これは、信号にわずかにローパスフィルタがかかった印象を与える、望ましくない減衰につながる可能性がある。
このような場合に減衰を避けるために、SFMdiffが正の全帯域でエネルギーのスペクトル傾斜を計算することによって、影響を受ける可能性があるSFBが決定され、一方向の強い傾斜は、低SFM値を引き起こす急激な低下を示し得る。スペクトル傾斜は、SFBにおいて、以下の式で求められる回帰直線の傾斜で、全スペクトルビンを通じた線形回帰として計算される。
Figure 2021047441
xをビン番号とし、PはTCXパワースペクトル、bは開始線、eは現在のSFBの停止線である。
しかしながら、SFBの境界に近い音調成分もまた急な傾斜を引き起こす場合があるが、これも減衰を受ける必要がある。このような2つの事例を分けるために、急な傾斜を伴う帯域に、別のシフト済みSFM計算を行う必要がある。
傾斜値の閾値は、次の式で定義される。
Figure 2021047441
正規化として、SFB幅で除算する。
強い傾斜
Figure 2021047441
がある場合は、SFMが計算される周波数領域は、SFBの幅の半分だけ下方にシフトされ、強い傾斜
Figure 2021047441
に対しては、上方にシフトされる。このようにして、SFMが低いために、減衰するはずだった音調成分を正しく検出することができ、高いSFM値に対して減衰が適用されることはない。ここでの閾値は値0.04として定義され、減衰は、シフト済みSFMが閾値を下回った場合にのみ印加される。
知覚的不快さのモデル
減衰は、正のSFMdiffに印加されるべきではなく、ターゲットSFBの音調性が実際に非常に高い場合に限り有効となる。特定のSFBにおいて、原信号がノイズの多い背景に重ね合わせられると、ノイズの多い帯域に対する知覚差がむしろ小さくなり、減衰によるエネルギー損失が原因で音を感じにくくなることが、むしろ利点になる場合がある。
妥当な範囲内で印加されることを確実にするために、減衰は、ターゲットSFBの音調性が実際に非常に高い場合にのみ用いられなければならない。したがって、
Figure 2021047441
および
Figure 2021047441
の両方が保持される場合に限り、減衰が印加されるべきである。
考慮するべき別の問題として、IGFスペクトルにおける音調成分の背景の問題がある。ノイズ帯域アーチファクトによって引き起こされる知覚的劣化は、元の音調成分を囲む擬似ノイズ背景がほとんどないか、まったくないときには常に、最も顕著になりやすい。この場合、原音をIGFで生成されたHFスペクトルと比較すると、導入されたノイズ帯域は、まったく新しい、非常に目立って突出したものとして受けとられる。その一方で、かなりの量の背景ノイズが既に存在する場合は、別のノイズが背景に溶け込んで、より不快感の少ない知覚差となる。したがって、印加される減衰の量は、影響を受けるSFBの音調対ノイズ比にも依存していなければならない。
この音調対ノイズ比の計算に対し、SFBにおけるすべてのビンiの二乗されたTCXパワースペクトル値Pが合計されて、帯域の平均エネルギーを得るために、SFBの幅(開始線bと停止線eとによって求められる)で除算される。この平均は実質的に、帯域内の全エネルギーの正規化に用いられる。
Figure 2021047441
1未満の正規化されたエネルギーPnorm,kを有するすべてのビンは、次に合計されて、ノイズ部Pnoiseとして数えられ、
Figure 2021047441
で求められる、閾値1+adapを上回るものはすべて、音調部Ptonalとして数えられる。この閾値はSFBの幅に依存し、その結果、音調成分の高エネルギービンの影響が大きいために、狭い帯域は閾値が低くなって、平均が高くなる。音調部およびノイズ部から、最終的にログ比が算出される。
Figure 2021047441
減衰は、ソースと宛先との間のSFMの差分、およびターゲットSFBのSFMの両方に依存し、差分の大きさとターゲットSFMの小ささとは、両方とも減衰がより強くなることにつながる。音調性の差分が大きくなるほど強い減衰を印加する必要があるのは、理に適っている。さらに、減衰の量は、ターゲットSFMが低い場合、すなわちターゲットSFBの音調性がより高い場合は、より迅速に増加させる必要がある。つまり、極めて音調性が高いSFBに対しては、SFMが減衰範囲内に納まるSFBに対するよりも、強い減衰が印加される。
また、最も高い帯域のエネルギーが奪われると、帯域が制限されたという知覚的印象につながりやすいので、高い周波数に対しては、減衰はより慎重に印加しなければならず、高周波になるほど人の聴覚系の感受性が低くなるために、SFBの微細構造の重要性は低くなる。
音調性不一致の補償:減衰係数の計算
これらすべての考慮事項を1つの減衰式に組み入れるには、ターゲットSFMとソースSFMとの比が、公式の基礎として取り入れられる。この方法では、SFMのより大きい差分絶対値と、より小さいターゲットSFM値との両方がより強い減衰になり、単に差分をとるよりもよく適合する。周波数と音調対ノイズ比とに依存性をさらに追加するために、この比に調整パラメータが適用される。したがって減衰式は、次の式で表すことができる。
Figure 2021047441
ここでdは、スケーリング係数で乗算される減衰係数であり、αおよびβは、減衰調整パラメータであり、次の式で計算される。
Figure 2021047441
ここでeは、現在のSFBの停止線であり、
Figure 2021047441
ここでadapはSFBの幅に依存し、次の式で計算される。
Figure 2021047441
パラメータαは、高周波数により小さい減衰を印加するために周波数とともに減少し、βは、減衰されるSFBの音調対ノイズ比が閾値を下回った場合に、減衰の強度をさらに減少させるために用いられる。この閾値を顕著に下回るほど、減衰は削減される。
減衰は一定の制約内でのみ有効になるため、オンからオフへ急激に移行するのを防止するために、平滑化を適用する必要がある。これを実現するために、いくつかの平滑化メカニズムが有効化される。
移行した後は直接、TCXへのコア切り替え、または減衰されていない以前のフレームの減衰が、高エネルギー過渡後の極端なエネルギー低下を避けるために、そのすべての力が徐々に印加される。さらに、以前のフレームの結果も計算に入れるために、IIRフィルタの形式の忘却係数が使用される。
平滑化の技法はすべて、次の式に含まれる。
Figure 2021047441
ここでdprevは、以前のフレームの減衰係数である。以前のフレームで減衰が有効でなかった場合は、dprevがdcurrで上書きされるが、最低0.1までに制限される。変数の平滑化は別の平滑化係数であり、以前のフレームにおいて、減衰が無効だった場合、過渡フレームの間(フラグisTransientが有効)は2に設定され、あるいはコア切り替えの後(フラグisCelpToTCXが有効)は1に設定される。減衰を伴う各フレームにおいて、変数は1まで減少するが、0を下回ることはない。
最後のステップにおいて、減衰係数dに、スケーリング利得gが乗算される。
Figure 2021047441
図10は、本発明の好ましい実施を示す。
例えば、スペクトル解析器130による出力としての音声信号は、図10の左側にある(c)で示すように、MDCTスペクトル、または複素スペクトルとしても使用可能である。
信号解析器121は、ブロック802によってターゲットコンテンツの音調性を検出するために、かつ符号801において(シミュレートされた)ソースコンテンツの音調性を検出するために、図10の音調性検出器801および802によって実施される。
次に、補償値を得るために、減衰係数計算124が行われ、その後、補償器503が、符号501、700〜706から得られたデータを用いて処理する。符号501、および符号700〜706は、ターゲットコンテンツからの包絡推定、およびシミュレートされたソースコンテンツからの包絡推定、ならびに例えば、図7に符号700〜706で示されている、これに続くスケーリング係数計算を反映している。
したがって、非補償のスケーリングベクトルは、図5を参照して述べたのと同様に、値502としてブロック503に入力される。さらに、図10にはノイズモデル1000が別の構築ブロックとして示されているが、図4を参照して述べたように、同じものを減衰係数計算機124内に直接含めることもできる。
また、白色化推定器をさらに備える図10のパラメトリックIGFエンコーダは、例えば、『Coding of IGF whitening levels』の第5.3.3.2.11.6.4項で述べられているように、白色化レベルを計算するように構成される。特に、IGF白色化レベルは、タイルごとに1ビットまたは2ビットを用いて、計算され送信される。このデータは、最後に完全なIGFパラメトリックデータを得るために、同様にビットストリーム多重化装置140に導入される。
また、「スペクトル希薄化(sparsify spectrum)」のブロックがさらに提供され、これは、コアエンコーダ110によって符号化されるスペクトル線の決定に関するブロック130に対応し、図10では別のブロック1020として示されている。この情報は、好ましくは、特定のIGF状況を反映するために、補償器503によって使用される。
さらに、ブロック801の左側にある「シミュレートされた」という用語、および図10の「包絡推定」というブロックは、図8aに示す状況を指し、「シミュレートされたソースコンテンツ」は、第1のスペクトル帯域で、符号化されて再度復号された音声データである。
あるいは、「シミュレートされた」ソースコンテンツは、線180で示すように、第1のスペクトル帯域の、元の第1の音声データからパッチシミュレータ804によって得られたデータであり、または第2のスペクトル帯域から第1のスペクトル帯域にシフトした線で強化された、コアデコーダ800によって得られる復号された第1のスペクトル帯域である。
続いて、3GPP TS26.445コーデックの修正バージョンを構成する、本発明の別の実施形態が図示される。本発明のプロセスを指定する、新たに追加された文字を以下に示す。ここで、既に3GPP TS 26.445の規格に既に含まれている、いくつかの従属節が明示的に参照される。
5.3.3.2.11.1.9スペクトル傾斜関数SLOPE
Figure 2021047441
を、従属節5.3.3.2.11.1.2に従って計算したTCXパワースペクトルとし、bはスペクトル傾斜測定範囲の開始線、eは停止線である。
IGFに適用されるSLOPE関数は、次の式で定義される。
SLOPE:
Figure 2021047441
Figure 2021047441
ここでnは実際のTCX窓の長さ、xはビン番号である。
5.3.3.2.11.1.10.音調対ノイズ比関数TNR
Figure 2021047441
を、従属節5.3.3.2.11.1.2に従って計算したTCXパワースペクトルとし、bは音調対ノイズ比測定範囲の開始線、eは停止線である。
IGFに適用されるTNR関数は、次の式で定義される。
TNR:
Figure 2021047441
Figure 2021047441
ここでnは実際のTCX窓の長さ、
Figure 2021047441
は次の式で定義される。
Figure 2021047441
そして、adapは次の式で定義される。
Figure 2021047441
減衰:
IGF減衰係数計算については、フレームにわたってフィルタ状態を保持するために、すべてサイズがnBの6つの静的配列(ターゲットおよびソース範囲のSFM計算についてはprevTargetFIR、prevSrcFIR、prevTargetIIR、およびprevSrcIIR、ならびにprevDampおよびdampSmooth)が必要とされる。また、以前のフレームから入力フラグisTransientの情報を保存するために、静的フラグwasTransientが必要になる。
フィルタ状態のリセット
ベクトルprevTargetFIR、prevSrcFIR、prevTargetIIR、prevSrcIIR、ならびにprevDampおよびdampSmoothはすべて、IGFモジュールにおける大きさnBの静的配列であり、次の式の通り初期化される。
for k=0,1,…,nB−1
Figure 2021047441
この初期化は、次の条件で行われるものとする。
・コーデックの起動を伴う
・ビットレートの切り替えを伴う
・コーデックタイプの切り替えを伴う
・isCelpToTCX=真など、CELPからTCXへの移行を伴う
・isTransient=真など、現在のフレームが過渡プロパティを有する場合
・TCXパワースペクトルPが使用可能でない場合
減衰係数の計算
TCXパワースペクトルPが使用可能で、isTransientが偽の場合は、次の式によって計算する。
Figure 2021047441
および
Figure 2021047441
ここで
Figure 2021047441
は、関数tFで既にマッピングされているものとし、従属節5.3.3.2.11.1.1を参照されたく、
Figure 2021047441
は、従属節5.3.3.2.11.1.8で説明されている、IGFターゲット範囲をIGFソース範囲にマッピングするマッピング関数であり、nBは、表94に示すように、スケール因子帯域の数である。SFMは、スペクトル平坦性尺度関数であり、従属節5.3.3.2.11.1.3で説明されており、CRESTは波高率関数であり、従属節5.3.3.2.11.1.4で説明されている。
isCelpToTCXが真、またはwasTransientが真の場合、以下のように設定される。
for k=0,1,…,nB−1
Figure 2021047441
以下の通り計算する。
Figure 2021047441
および
Figure 2021047441
これらのベクトルで、以下の通り計算する。
Figure 2021047441
if for
Figure 2021047441
Figure 2021047441
または
Figure 2021047441
であり、以下を設定する。
Figure 2021047441
他に、従属節5.3.3.2.11.1.9で説明されているように、SLOPE関数でスペクトル傾斜を計算する。
Figure 2021047441
if for
Figure 2021047441
Figure 2021047441
または else if
Figure 2021047441
ここでthreshTiltは、次のように定義される。
Figure 2021047441
シフトしたスペクトラムのSFMを計算する。
Figure 2021047441
シフトは次のように定義される。
Figure 2021047441
if
Figure 2021047441
以下を設定する。
Figure 2021047441
if for
Figure 2021047441
Figure 2021047441
帯域kにおいて、現在のフレームの減衰係数dampCurrをゼロに設定する。
Figure 2021047441
あるいは、
Figure 2021047441
を以下のように計算する。
Figure 2021047441
ここでalphaは、以下のように定義され、
Figure 2021047441
betaは以下のように定義される。
Figure 2021047441
ここでTNRは、従属節5.3.3.2.11.1.10で説明される音調対ノイズ比関数であり、adapは以下のように定義される。
Figure 2021047441
if for
Figure 2021047441
Figure 2021047441
次のように設定する。
Figure 2021047441
サイズnBの減衰係数dのベクトルを計算する。
Figure 2021047441
最後に、isTransientが偽で、パワースペクトルPが使用可能であれば、フィルタを更新する。
for k=0,1…,nB−1
Figure 2021047441
前述した部分の値/指数/パラメータの名前は、本明細書全体を通じて述べられている、対応するパラメータ/指数/値と同様である。次に、聞き取りテストのいくつかの結果を、図11a〜図11cを参照して説明する。
これらの聞き取りテストは、可能化された減衰で符号化された項目と、減衰なしで符号化された項目とを比較することによって、減衰の利点を示すために行った。
図11aに示す第1の結果は、モノラルアイテム(mono−items)を用いた、ビットレート13.2kbpsでサンプル比が32kHzのA−B比較テストである。図11aには、13.2kbpsにおける、減衰あり対減衰なしのA−Bテストの結果が示されている。
図11bに示す2つ目の結果は、モノラルアイテムを用いた、24.4kbpsでサンプル比32kHzのMUSHRAテストの結果である。ここでは、減衰なしの2つのバージョンを、減衰ありの新しいバージョンと比較した。その結果が、図11b(絶対評価)、および図11c(差分評価)に示されている。
本発明による符号化された音声信号は、デジタル記憶媒体、または非一時的な記憶媒体に記憶することができ、あるいは無線送信媒体、またはインターネットなどの有線送信媒体などの送信媒体で送信することができる。
装置に関し、いくつかの態様について説明してきたが、これらの態様は、対応する方法の説明も表していることは明らかであり、ブロックまたは機器は、方法ステップ、または方法ステップの特徴に対応する。同様に、方法ステップに関して説明した態様は、対応するブロックまたは符号、あるいは対応する装置の特徴の説明をさらに表す。
いくつかの実施要件に応じて、本発明の実施形態は、ハードウェアまたはソフトウェアに実装することができる。この実装は、フロッピーディスク、DVD、CD、ROM、PROM、EPROM、EEPROMまたはフラッシュメモリなどのデジタル記憶媒体を用いて実行することができ、これらには電子的に読み取り可能な制御信号が記憶されており、各方法が実行されるように、プログラム可能なコンピュータシステムと協働する(または協働することが可能である)。
本発明によるいくつかの実施形態は、電子的に読み取り可能な制御信号を含むデータ担体を備え、これは、本明細書で説明する方法の1つが実行されるように、プログラム可能なコンピュータシステムと協働することができる。
通常、本発明の実施形態は、プログラムコードを有するコンピュータプログラム製品として実装することができ、プログラムコードは、コンピュータプログラム製品がコンピュータで実行されるときに、方法の1つを実行するために有効になる。プログラムコードは、例えば、機械読み取り可能な担体に記憶されてもよい。
他の実施形態は、本明細書で説明する方法の1つを実行するためのコンピュータプログラムを含み、機械読み取り可能な担体、または非一時的な記憶媒体に記憶される。
言い換えれば、発明的方法の実施形態は、したがって、コンピュータプログラムがコンピュータで実行されるときに、本明細書で説明する方法の1つを実行するためのプログラムコードを含む、コンピュータプログラムである。
発明的方法の別の実施形態は、したがって、本明細書で説明する方法の1つを実行するための、そこに記録されたコンピュータプログラムを含む、データ担体(またはデジタル記憶媒体もしくはコンピュータ可読媒体)である。
発明的方法のさらに別の実施形態は、したがって、本明細書で説明する方法の1つを実行するためのコンピュータプログラムを表す、データ列または一連の信号である。データ列または一連の信号は、例えば、インターネットを介したデータ通信接続等を介して転送されるように構成されてもよい。
別の実施形態は、本明細書で説明する方法の1つを実行するように構成されるかまたは適合された、コンピュータ、またはプログラム可能な論理装置等の処理手段を含む。
別の実施形態は、本明細書で説明する方法の1つを実行するためのコンピュータプログラムをインストールしたコンピュータを含む。
いくつかの実施形態では、本明細書で説明する方法の機能のいくつか、またはすべてを実行するために、プログラム可能な論理装置(例えばフィールド・プログラマブル・ゲート・アレイ(field programmable gate array))が用いられてもよい。いくつかの実施形態では、フィールド・プログラマブル・ゲート・アレイは、本明細書で説明する方法の1つを実行するために、マイクロプロセッサと協働してもよい。一般に、本方法は、好ましくは、任意のハードウェア装置で実行される。
上述の実施形態は、本発明の原理の単なる例示である。本明細書で説明した配置および詳細の、修正および変形は、当業者には明らかであることが理解されよう。したがって、添付の特許請求の範囲によってのみ限定され、本明細書の実施形態の記述および説明として提示した、具体的な詳細によっては限定されないことを意図している。

Claims (26)

  1. 音声信号を符号化する装置であって、
    第1のスペクトル帯域(180)の第1の音声データをコア符号化する、コアエンコーダ(110)と、
    前記第1のスペクトル帯域(180)とは異なる、第2のスペクトル帯域(190)の第2の音声データをパラメトリックに符号化する、パラメトリックコーダ(120)とを備え、前記パラメトリックコーダ(120)は、
    第1の解析結果(122)を取得するために、前記第1のスペクトル帯域(180)の第1の音声データを解析し、第2の解析結果(123)を取得するために、前記第2のスペクトル帯域(190)の第2の音声データを解析する、解析器(121)と、
    前記第1の解析結果(122)、および前記第2の解析結果(123)を用いて補償値(125)を計算する、補償器(124)と、
    前記補償値を用いて、前記第2のスペクトル帯域(190)の前記第2の音声データからパラメータ(170)を計算する、パラメータ計算機(126)とを備える、パラメトリックコーダ(120)と
    を備える、装置。
  2. 前記パラメトリックコーダ(120)が、第3のスペクトル帯域(202)の第3の音声データをパラメトリックに符号化するように構成され、
    前記解析器(121)が、第3の解析結果(204)を取得するために、前記第3のスペクトル帯域(202)の前記第3の音声データを解析するように構成され、
    前記パラメトリックコーダ(120)が、少なくとも前記第3の解析結果(204)を用いて、前記第3のスペクトル帯域が補償されるかどうかを検出する、補償検出器(210)をさらに備え、
    前記補償検出器(210)が、前記第3のスペクトル帯域が補償されないことを検出すると、前記パラメータ計算機(126)が、補償値なしで、前記第3のスペクトル帯域(204)の前記音声データから別のパラメータ(200)を計算するように構成される、
    請求項1に記載の装置。
  3. 前記解析器(121)が、前記第1の解析結果(122)として第1の定量値を計算し、前記第2の解析結果(123)として第2の定量値を計算するように構成され、
    前記補償器(124)が、前記第1の定量値から、かつ前記第2の定量値から、定量補償値(125)を計算するように構成され、
    前記パラメータ計算機(126)が、前記定量補償値(125)を用いて定量パラメータを計算するように構成される、
    請求項1または2に記載の装置。
  4. 前記解析器(121)が、前記第1の解析結果(122)を取得するために前記第1の音声データの第1の特徴を解析し、前記第2の解析結果(123)を取得するために、前記第2のスペクトル帯域の前記第2の音声データの、同じ前記第1の特徴を解析するように構成され、
    前記パラメータ計算機(126)が、第2の特徴を評価することによって、前記第2のスペクトル帯域の前記第2の音声データから、前記パラメータ(170)を計算するように構成され、前記第2の特徴は、前記第1の特徴とは異なっている、
    請求項1から3のいずれか一項に記載の装置。
  5. 前記第1の特徴が、前記第1のスペクトル帯域(180)内のスペクトル微細構造特徴、もしくはエネルギー分布特徴であり、または
    前記第2の特徴が、前記第2のスペクトル帯域(190)内のスペクトル値の包絡尺度、あるいはエネルギー関連尺度またはパワー関連尺度である、
    請求項4に記載の装置。
  6. 前記第1のスペクトル帯域(180)、および前記第2のスペクトル帯域(190)が、それぞれ相互に排他的であり、
    前記解析器(121)が、前記第2のスペクトル帯域(190)の前記第2の音声データを用いることなく前記第1の解析結果(122)を計算し、かつ前記第1のスペクトル帯域(180)の前記第1の音声データを用いることなく前記第2の解析結果(123)を計算するように構成される、
    請求項1から5のいずれか一項に記載の装置。
  7. 前記音声信号(100)が、フレームの時系列を含み、
    前記補償器(124)が、以前のフレームの以前の補償値を用いて、現在のフレームの現在の補償値を計算するように構成される、
    請求項1から6のいずれか一項に記載の装置。
  8. 前記パラメトリックコーダ(120)が、第3のスペクトル帯域(202)の第3の音声データをパラメトリックに符号化するように構成され、
    前記第3のスペクトル帯域(202)が、前記第2のスペクトル帯域(190)よりも高い周波数を有し、
    前記補償器(124)が、前記第3のスペクトル帯域(202)に対する前記補償値の計算に第3の重み値(d)を使用するように構成され、
    前記第3の重み値が、前記第2のスペクトル帯域(190)に対する前記補償値の計算に用いられた第2の重み値とは異なる、
    請求項1から7のいずれか一項に記載の装置。
  9. 前記解析器(121)が、前記第2のスペクトル帯域の前記第2の音声データの、音調対ノイズ比(tonal−to−noise ratio)(400)をさらに計算するように構成され、
    前記補償器(124)が、前記第2の音声データの前記音調対ノイズ比(400)に応じて前記補償値を計算するように構成され、その結果、第1の音調対ノイズ比に対する第1の補償値が取得される、または第2の音調対ノイズ比に対する第2の補償値が取得され、前記第1の補償値は、前記第2の補償値よりも大きくなり、前記第1の音調対ノイズ比は、前記第2の音調対ノイズ比よりも大きくなる、
    請求項1から8のいずれか一項に記載の装置。
  10. 前記パラメータ計算機(126)が、前記第2の音声データから非補償パラメータ(502)を計算するように構成され、かつ前記パラメータを取得するために、前記非補償パラメータ(502)と前記補償値(125)とを結合する(503)ように構成される、
    請求項1から9のいずれか一項に記載の装置。
  11. 前記第1のスペクトル帯域(180)のコア符号化された音声データ(160)と、前記パラメータ(170)とを出力する、出力インターフェース(140)をさらに備える、
    請求項1から10のいずれか一項に記載の装置。
  12. 前記補償器(124)が、音響心理モデル(1002)を適用することによって前記補償値を決定するように構成され、前記音響心理モデル(1000)が、前記補償値(125)を取得するために、前記第1の解析結果(122)と前記第2の解析結果(123)とを用いて、前記第1の音声データと前記第2の音声データとの間の音響心理学的不一致を評価するように構成される、
    請求項1から11のいずれか一項に記載の装置。
  13. 前記音声信号(100)が、フレームの時系列を有し、
    前記解析器(121)が、前記第1の解析結果(122)を取得するために、フレームの前記第1のスペクトル帯域(180)の前記第1の音声データを解析し、前記フレームの第2の解析結果(123)を取得するために、前記第2のスペクトル帯域(190)の、前記フレームの第2の音声データを解析するように構成され、
    前記補償器(124)が、前記フレームの前記第1の解析結果(122)と、前記フレームの前記第2の解析結果(123)とを用いて、前記フレームの補償値(125)を計算するように構成され、
    前記パラメータ計算機(126)が、前記フレームの前記補償値を用いて、前記フレームの、前記第2のスペクトル帯域(190)の前記第2の音声データから、前記パラメータ(170)を計算するように構成される、または
    前記パラメトリックコーダ(120)が、前記第1の解析結果(122)と前記第2の解析結果(123)とに基づいて、フレームの前記第2のスペクトル帯域の前記パラメータが、補償状況の前記補償値(125)、または非補償状況の前記補償値(125)のいずれを用いて計算されるかを検出する、補償検出器(210)をさらに備える、
    請求項1から12のいずれか一項に記載の装置。
  14. 補償検出器(210)が、前記第1の解析結果(122)と、前記第2の解析結果(123)との差分が所定の特徴を有するとき、または前記第2の解析結果が所定の特徴を有するときに、前記補償状況を検出するように構成され、
    前記検出器が、前記音声エンコーダにパワースペクトルが使用できないとき、もしくは現在のフレームが過渡フレーム(223)であることが検出されたときは、スペクトル帯域が補償されないことを検出するように構成される、または
    前記補償器(124)が、前記第1の解析結果と第2の解析結果との商に基づいて、前記補償値(125)を計算するように構成される、
    請求項1から13に記載の装置。
  15. 前記解析器(121)が、前記第1の解析結果(122)として、スペクトル平坦性尺度(spectral flatness measure)、波高率、または前記第1のスペクトル帯域(180)に対する、前記スペクトル平坦性尺度と前記波高率との商を計算するように構成され、かつ前記第2の解析結果(123)として、スペクトル平坦性尺度もしくは波高率、または前記第2のスペクトル帯域(190)に対する、前記スペクトル平坦性尺度と前記波高率との商を計算するように構成される、または
    前記パラメータ計算機(126)が、前記第2の音声データから、スペクトル包絡情報、もしくは利得係数を計算するように構成される、または
    前記補償器(124)が、前記補償値(125)を計算するように構成され、その結果、前記第1の解析結果(122)と、前記第2の解析結果(123)との間の第1の差分に対して、第1の補償値が取得され、前記第1の解析結果(122)と、前記第2の解析結果(123)との間の第2の差分に対して、第2の補償値が計算され、前記第1の差分が、前記第2の差分よりも大きく、前記第1の補償値が、前記第2の補償値よりも大きい、
    請求項1から14のいずれか一項に記載の装置。
  16. 前記解析器(121)が、前記第2の音声データからスペクトル傾斜(608)を計算するように構成され、
    前記解析器(121)が、前記第2のスペクトル帯域の境界近くに音調成分があるかどうかを調べる(616)ように構成され、
    前記パラメトリックコーダ(120)の補償検出器(210)が、前記スペクトル傾斜が所定の閾値を下回る(610)ときにのみ、もしくは前記スペクトル傾斜が所定の閾値を上回り(614)、前記調査(616)により前記境界近くに音調成分が存在すると判定された(618)ときに、前記補償値を用いて前記パラメータを計算すると判定する(612)ように構成される、
    請求項15に記載の装置。
  17. 前記第1のスペクトル帯域の、符号化された第1の音声データを復号して、符号化されて復号された第1の音声データを取得する、デコーダ(800)をさらに備え、
    前記解析器(121)が、前記符号化されて復号された第1の音声データを用いて、前記第1の解析結果を計算する(801)ように構成され、かつ
    装置に入力された前記音声信号から来た前記第2の音声データから、前記第2の解析結果を計算する(802)ように構成される、
    請求項1から16のいずれか一項に記載の装置。
  18. 前記第2のスペクトル帯域のパッチング結果をシミュレートする、パッチシミュレータ(804)をさらに備え、前記パッチング結果は、コア符号化された音声信号に含まれる、前記第2のスペクトル帯域からの少なくとも1つのスペクトル線(351、352)を含み、
    前記解析器(121)が、前記第1の音声データ、および前記第2のスペクトル帯域からの前記少なくとも1つのスペクトル線(351´、352´)を用いて前記第1の解析結果を計算するように構成され、かつ
    符号化するために前記装置に入力された前記音声信号(100)から来る前記第2の音声データから、前記第2の解析結果を計算するように構成される、
    請求項1から17のいずれか一項に記載の装置。
  19. 前記コアエンコーダ(110)が、一連の実値スペクトルの前記第1の音声データを符号化するように構成され、
    前記解析器(121)が、一連のパワースペクトルから前記第1および前記第2の解析結果を計算するように構成され、
    パワースペクトルが、符号化するために前記装置に入力された前記音声信号(100)から計算される、または前記コアエンコーダが使用する実値スペクトルから導出される、
    請求項1から18のいずれか一項に記載の装置。
  20. 前記コアエンコーダ(110)が、少なくとも強調開始周波数(310)まで拡張するコア帯域で、前記音声信号をコア符号化するように構成され、
    前記コア帯域が、前記第1のスペクトル帯域(180)、および前記第1のスペクトル帯域(180)と重なり合う少なくとも1つの別のソース帯域(302、303)を含み、
    前記音声信号が、前記強調開始周波数(310)から最大周波数(354)まで拡張する強調範囲を有し、前記第2のスペクトル帯域(190)、および少なくとも1つの別のターゲット帯域が前記強調範囲に含まれ、前記第2のスペクトル帯域(305、307、202)と、前記別のターゲット帯域とが互いに重なり合わない、
    請求項1から19のいずれか一項に記載の装置。
  21. 前記強調開始周波数(310)が交差周波数であり、コア符号化信号が、前記交差周波数(310)に帯域制限される、または、
    前記強調開始周波数(310)が、インテリジェントギャップ充填(intelligent gap filling、IGF)開始周波数であり、コア符号化信号が、前記強調開始周波数よりも大きくなる前記最大周波数(354)に帯域制限される、
    請求項20に記載の装置。
  22. 前記パラメータ計算機(126)が、
    前記第2のスペクトル帯域の前記第2の音声データに基づいて、前記第2のスペクトル帯域の利得係数を計算し、
    前記補償値として減衰係数を計算し、かつ
    補償済み利得係数を前記パラメータとして取得するために、前記帯域の前記利得係数に前記減衰係数を乗じるように構成され、
    前記装置が、前記第1のスペクトル帯域(180)のコア符号化された音声データ(160)、および前記パラメータ(170)として前記補償された利得係数を出力する、出力インターフェース(140)をさらに備える、
    請求項1から21のいずれか一項に記載の装置。
  23. 音声信号を符号化する方法であって、
    第1のスペクトル帯域(180)の第1の音声データをコア符号化(110)するステップと、
    前記第1のスペクトル帯域(180)とは異なる、第2のスペクトル帯域(190)の第2の音声データをパラメトリックに符号化する(120)ステップとを含み、前記パラメトリックに符号化する(120)ステップは、
    第1の解析結果(122)を取得するために、前記第1のスペクトル帯域(180)の第1の音声データを解析し、第2の解析結果(123)を取得するために、前記第2のスペクトル帯域(190)の第2の音声データを解析する(121)工程と、
    前記第1の解析結果(122)、および前記第2の解析結果(123)を用いて補償値(125)を計算する(124)工程と、
    前記補償値(125)を用いて、前記第2のスペクトル帯域(190)の前記第2の音声データからパラメータ(170)を計算する(126)工程と
    を含む、方法。
  24. 音声信号を処理するシステムであって、
    請求項1から22のいずれか一項に記載の、音声信号を符号化する装置と、
    前記第1のスペクトル帯域(180)の符号化された第1の音声データ(160)を含む、符号化された音声信号、および前記第2のスペクトル帯域(190)の第2の音声データを表す、パラメータ(170)を受信する、デコーダとを備え、
    前記デコーダは、前記パラメータ(170)、および前記第1のスペクトル帯域(180)の復号された第1の音声データを用いて、前記第2のスペクトル帯域(190)用に合成された音声データを再生成するために、スペクトル強調処理を行うように構成される、システム。
  25. 音声信号を処理する方法であって、
    請求項23に従って、音声信号を符号化するステップと、
    前記第1のスペクトル帯域(180)の符号化された第1の音声データ(160)を含む、符号化された音声信号、および前記第2のスペクトル帯域(190)の第2の音声データを表す、パラメータ(170)を受信するステップと、
    前記パラメータ(170)、および前記第1のスペクトル帯域(180)の復号された第1の音声データを用いて、前記第2のスペクトル帯域(190)用に合成された音声データを再生成するために、スペクトル強調処理を行うステップと、
    を含む、方法。
  26. コンピュータ、またはプロセッサで実行されると、請求項23または25に記載の前記方法を行う、コンピュータプログラム。
JP2020201431A 2016-08-23 2020-12-04 補償値を用いて音声信号を符号化する装置および方法 Active JP7385549B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023059844A JP2023082142A (ja) 2016-08-23 2023-04-03 補償値を用いて音声信号を符号化する装置および方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP16185398.1 2016-08-23
EP16185398.1A EP3288031A1 (en) 2016-08-23 2016-08-23 Apparatus and method for encoding an audio signal using a compensation value
JP2019510950A JP6806884B2 (ja) 2016-08-23 2017-08-21 補償値を用いて音声信号を符号化する装置および方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019510950A Division JP6806884B2 (ja) 2016-08-23 2017-08-21 補償値を用いて音声信号を符号化する装置および方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023059844A Division JP2023082142A (ja) 2016-08-23 2023-04-03 補償値を用いて音声信号を符号化する装置および方法

Publications (2)

Publication Number Publication Date
JP2021047441A true JP2021047441A (ja) 2021-03-25
JP7385549B2 JP7385549B2 (ja) 2023-11-22

Family

ID=56799328

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2019510950A Active JP6806884B2 (ja) 2016-08-23 2017-08-21 補償値を用いて音声信号を符号化する装置および方法
JP2020201431A Active JP7385549B2 (ja) 2016-08-23 2020-12-04 補償値を用いて音声信号を符号化する装置および方法
JP2023059844A Pending JP2023082142A (ja) 2016-08-23 2023-04-03 補償値を用いて音声信号を符号化する装置および方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019510950A Active JP6806884B2 (ja) 2016-08-23 2017-08-21 補償値を用いて音声信号を符号化する装置および方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023059844A Pending JP2023082142A (ja) 2016-08-23 2023-04-03 補償値を用いて音声信号を符号化する装置および方法

Country Status (18)

Country Link
US (2) US11521628B2 (ja)
EP (4) EP3288031A1 (ja)
JP (3) JP6806884B2 (ja)
KR (1) KR102257100B1 (ja)
CN (3) CN109863556B (ja)
AR (1) AR109391A1 (ja)
AU (1) AU2017317554B2 (ja)
BR (1) BR112019003711A2 (ja)
CA (1) CA3034686C (ja)
ES (2) ES2967183T3 (ja)
MX (1) MX2019002157A (ja)
PL (2) PL3504707T3 (ja)
PT (1) PT3504707T (ja)
RU (1) RU2727728C1 (ja)
SG (1) SG11201901645SA (ja)
TW (1) TWI653626B (ja)
WO (1) WO2018036972A1 (ja)
ZA (1) ZA201901624B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3288031A1 (en) * 2016-08-23 2018-02-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for encoding an audio signal using a compensation value
CN111383643B (zh) * 2018-12-28 2023-07-04 南京中感微电子有限公司 一种音频丢包隐藏方法、装置及蓝牙接收机
KR20210003507A (ko) * 2019-07-02 2021-01-12 한국전자통신연구원 오디오 코딩을 위한 잔차 신호 처리 방법 및 오디오 처리 장치
CN113808597A (zh) * 2020-05-30 2021-12-17 华为技术有限公司 一种音频编码方法和音频编码装置
CN113808596A (zh) * 2020-05-30 2021-12-17 华为技术有限公司 一种音频编码方法和音频编码装置
TWI755901B (zh) * 2020-10-21 2022-02-21 美商音美得股份有限公司 包括移頻功能之即時音訊處理系統以及包括移頻功能之即時音訊處理程序
CN113612808B (zh) * 2021-10-09 2022-01-25 腾讯科技(深圳)有限公司 音频处理方法、相关设备、存储介质及程序产品

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013538374A (ja) * 2010-09-15 2013-10-10 サムスン エレクトロニクス カンパニー リミテッド 高周波数帯域幅拡張のための符号化/復号化装置及びその方法
JP2019510950A (ja) * 2016-04-04 2019-04-18 マザロ・エンフェーMazaro Nv 可変伝動装置のための遊星可変装置

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3870193B2 (ja) * 2001-11-29 2007-01-17 コーディング テクノロジーズ アクチボラゲット 高周波再構成に用いる符号器、復号器、方法及びコンピュータプログラム
JP4296752B2 (ja) 2002-05-07 2009-07-15 ソニー株式会社 符号化方法及び装置、復号方法及び装置、並びにプログラム
JP2005114814A (ja) * 2003-10-03 2005-04-28 Nippon Telegr & Teleph Corp <Ntt> 音声符号化・復号化方法、音声符号化・復号化装置、音声符号化・復号化プログラム、及びこれを記録した記録媒体
WO2005111568A1 (ja) 2004-05-14 2005-11-24 Matsushita Electric Industrial Co., Ltd. 符号化装置、復号化装置、およびこれらの方法
KR100636144B1 (ko) 2004-06-04 2006-10-18 삼성전자주식회사 오디오 신호 부호화/복호화 장치 및 방법
KR101366124B1 (ko) * 2006-02-14 2014-02-21 오렌지 오디오 인코딩/디코딩에서의 인지 가중 장치
JP4984983B2 (ja) * 2007-03-09 2012-07-25 富士通株式会社 符号化装置および符号化方法
CN101903944B (zh) * 2007-12-18 2013-04-03 Lg电子株式会社 用于处理音频信号的方法和装置
MX2011000361A (es) 2008-07-11 2011-02-25 Ten Forschung Ev Fraunhofer Un aparato y un metodo para generar datos de salida por ampliacion de ancho de banda.
KR101381513B1 (ko) * 2008-07-14 2014-04-07 광운대학교 산학협력단 음성/음악 통합 신호의 부호화/복호화 장치
JP5203077B2 (ja) * 2008-07-14 2013-06-05 株式会社エヌ・ティ・ティ・ドコモ 音声符号化装置及び方法、音声復号化装置及び方法、並びに、音声帯域拡張装置及び方法
RU2591012C2 (ru) 2010-03-09 2016-07-10 Фраунхофер-Гезелльшафт цур Фёрдерунг дер ангевандтен Форшунг Е.Ф. Устройство и способ обработки переходных процессов для аудио сигналов с изменением скорости воспроизведения или высоты тона
US8751225B2 (en) * 2010-05-12 2014-06-10 Electronics And Telecommunications Research Institute Apparatus and method for coding signal in a communication system
CN102800317B (zh) * 2011-05-25 2014-09-17 华为技术有限公司 信号分类方法及设备、编解码方法及设备
JP5942358B2 (ja) * 2011-08-24 2016-06-29 ソニー株式会社 符号化装置および方法、復号装置および方法、並びにプログラム
US8527264B2 (en) * 2012-01-09 2013-09-03 Dolby Laboratories Licensing Corporation Method and system for encoding audio data with adaptive low frequency compensation
PL2951821T3 (pl) * 2013-01-29 2017-08-31 Fraunhofer Gesellschaft zur Förderung der angewandten Forschung e.V. Koncepcja kompensacji przełączania trybu kodowania
CN110111801B (zh) * 2013-01-29 2023-11-10 弗劳恩霍夫应用研究促进协会 音频编码器、音频解码器、方法及编码音频表示
US9741350B2 (en) * 2013-02-08 2017-08-22 Qualcomm Incorporated Systems and methods of performing gain control
KR102450178B1 (ko) * 2013-04-05 2022-10-06 돌비 인터네셔널 에이비 인터리브된 파형 코딩을 위한 오디오 인코더 및 디코더
EP2830064A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for decoding and encoding an audio signal using adaptive spectral tile selection
RU2747713C2 (ru) * 2014-01-03 2021-05-13 Долби Лабораторис Лайсэнзин Корпорейшн Генерирование бинаурального звукового сигнала в ответ на многоканальный звуковой сигнал с использованием по меньшей мере одной схемы задержки с обратной связью
EP2980795A1 (en) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoding and decoding using a frequency domain processor, a time domain processor and a cross processor for initialization of the time domain processor
EP2980794A1 (en) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder and decoder using a frequency domain processor and a time domain processor
US20160372127A1 (en) * 2015-06-22 2016-12-22 Qualcomm Incorporated Random noise seed value generation
EP3288031A1 (en) * 2016-08-23 2018-02-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for encoding an audio signal using a compensation value

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013538374A (ja) * 2010-09-15 2013-10-10 サムスン エレクトロニクス カンパニー リミテッド 高周波数帯域幅拡張のための符号化/復号化装置及びその方法
JP2019510950A (ja) * 2016-04-04 2019-04-18 マザロ・エンフェーMazaro Nv 可変伝動装置のための遊星可変装置

Also Published As

Publication number Publication date
EP3504707B1 (en) 2020-12-16
EP3796315B1 (en) 2023-09-20
WO2018036972A1 (en) 2018-03-01
AU2017317554A1 (en) 2019-04-11
US20220392465A1 (en) 2022-12-08
KR102257100B1 (ko) 2021-05-27
AU2017317554B2 (en) 2019-12-12
PL3796315T3 (pl) 2024-03-18
RU2727728C1 (ru) 2020-07-23
JP6806884B2 (ja) 2021-01-06
KR20190042070A (ko) 2019-04-23
EP4250289A2 (en) 2023-09-27
JP2023082142A (ja) 2023-06-13
CN117198305A (zh) 2023-12-08
JP2019528479A (ja) 2019-10-10
US20190189137A1 (en) 2019-06-20
SG11201901645SA (en) 2019-03-28
ES2844930T3 (es) 2021-07-23
CA3034686A1 (en) 2018-03-01
JP7385549B2 (ja) 2023-11-22
ES2967183T3 (es) 2024-04-29
EP3504707A1 (en) 2019-07-03
CN117198306A (zh) 2023-12-08
MX2019002157A (es) 2019-07-01
AR109391A1 (es) 2018-11-28
CN109863556A (zh) 2019-06-07
TWI653626B (zh) 2019-03-11
EP3796315C0 (en) 2023-09-20
EP4250289A3 (en) 2023-11-08
CA3034686C (en) 2022-03-15
TW201812744A (zh) 2018-04-01
EP3288031A1 (en) 2018-02-28
CN109863556B (zh) 2023-09-26
PT3504707T (pt) 2021-02-03
ZA201901624B (en) 2019-12-18
EP3796315A1 (en) 2021-03-24
US11521628B2 (en) 2022-12-06
US11935549B2 (en) 2024-03-19
PL3504707T3 (pl) 2021-06-14
BR112019003711A2 (pt) 2019-05-28

Similar Documents

Publication Publication Date Title
JP6806884B2 (ja) 補償値を用いて音声信号を符号化する装置および方法
CN110197667B (zh) 对音频信号的频谱执行噪声填充的装置
CN107925388B (zh) 后置处理器、预处理器、音频编解码器及相关方法
KR101706009B1 (ko) 오디오 인코더, 오디오 디코더, 오디오 신호, 오디오 스트림을 부호화 및 복호화하는 장치 및 컴퓨터 프로그램
TWI463484B (zh) 時間扭曲致動信號提供器、音訊信號編碼器、用以提供時間扭曲致動信號之方法、用以編碼音訊信號之方法及電腦程式
EP2394269A1 (en) Bandwidth extension method and apparatus for a modified discrete cosine transform audio coder
KR20180002906A (ko) 오디오 신호 디코더에서의 개선된 주파수 대역 확장
AU2021331096B2 (en) Multi-channel signal generator, audio encoder and related methods relying on a mixing noise signal
CN117178322A (zh) 用于声音信号的统一时域/频域编码的方法和装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210103

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220301

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220901

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230403

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20230403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20230403

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230424

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20230425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231110

R150 Certificate of patent or registration of utility model

Ref document number: 7385549

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150