TWI420513B - 藉由變換內插之音訊封包損失隱蔽 - Google Patents

藉由變換內插之音訊封包損失隱蔽 Download PDF

Info

Publication number
TWI420513B
TWI420513B TW100103234A TW100103234A TWI420513B TW I420513 B TWI420513 B TW I420513B TW 100103234 A TW100103234 A TW 100103234A TW 100103234 A TW100103234 A TW 100103234A TW I420513 B TWI420513 B TW I420513B
Authority
TW
Taiwan
Prior art keywords
transform coefficients
packets
audio
transform
weight
Prior art date
Application number
TW100103234A
Other languages
English (en)
Other versions
TW201203223A (en
Inventor
Peter Chu
Zhemin Tu
Original Assignee
Polycom Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Polycom Inc filed Critical Polycom Inc
Publication of TW201203223A publication Critical patent/TW201203223A/zh
Application granted granted Critical
Publication of TWI420513B publication Critical patent/TWI420513B/zh

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/005Correction of errors induced by the transmission channel, if related to the coding algorithm
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/0212Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using orthogonal transformation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Telephonic Communication Services (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Description

藉由變換內插之音訊封包損失隱蔽
許多類型的系統使用音訊信號處理以產生音訊信號或自此等信號重製聲音。通常,信號處理將音訊信號轉換為數位資料並編碼該資料以經由一網路傳輸。接著,信號處理解碼該資料並將其轉換回類比信號以重製為聲波。
存在用於編碼或解碼音訊信號之各種方式。(編碼並解碼一信號之一處理器或一處理模組一般係稱為一編碼解碼器)。舉例而言,用於音訊及視訊會議之音訊處理使用音訊編碼解碼器以壓縮高保真度音訊輸入,使得用於傳輸之一所得信號保留最佳品質但需要最少數目的位元。依此方式,具有該音訊編碼解碼器之會議裝備需要較小的儲存容量,且該裝備用於傳輸該音訊信號之通信頻道需要較小的頻寬。
名為「7 kHz audio-coding within 64 kbit/s」之ITU-T(國際電信聯盟電信標準領域)提議G.722(1988)描述64千位元/秒內7 kHz音訊編碼之一方法,該提議藉此以引用方式併入。ISDN(整合服務數位網路)線具有以64千位元/秒傳輸資料之能力。此方法基本上將通過使用一ISDN線之一電話網路之音訊頻寬自3 kHz增加至7 kHz。所感知的音訊品質得以改良。雖然此方法使高品質音訊可通過現有的電話網路得到,但是其通常需要來自一電話公司之ISDN服務,該ISDN服務比一常規的窄頻帶電話服務更昂貴。
建議用於電信中之一最近的方法係名為「Low-complexity coding at 24 and 32 kbit/s for hands-free operation in system with low frame loss」之ITU-T提議G.722.1(2005),該提議藉此以引用方式併入本文中。此提議描述提供以比該G.722低很多之24千位元/秒或32千位元/秒之一位元速率操作之50 Hz至7 kHz之一音訊頻寬的一數位寬頻編碼器演算法。在此資料速率下,具有使用常規的類比電話線之一常規的數據機之一電話可傳輸寬頻音訊信號。因此,只要兩端處的電話機可執行如G.722.1中所描述的編碼/解碼,大部分現有的電話網路可支援寬頻對話。
一些常用音訊編碼解碼器使用變換編碼技術來編碼並解碼經由一網路傳輸之音訊資料。舉例而言,ITU-T提議G.719(PolycomSirenTM 22)以及G.722.1.C(PolycomSiren14TM )(兩者以引用方式併入本文中)使用熟知的調變重疊變換(MLT)編碼來壓縮該音訊以用於傳輸。如已知,該調變重疊變換(MLT)係用於各種類型的信號之變換編碼之一餘弦調變過濾器組的一種形式。
一般而言,一重疊變換採用長度為L之一音訊區塊並將該區塊變換為M個係數,其中條件為L>M。為使此產生作用,L-M個樣本之連續區塊之間必須存在一重疊,使得可使用經變換係數之連續區塊得到一合成信號。
對於一調變重疊變換(MLT),該音訊區塊之該長度L等於係數之數目M,因此該重疊係M。因此,用於直接(分析)變換之MLT基函數係由下式給出:
類似地,用於逆(合成)變換之MLT基函數係由下式給出:
在此等方程式中,M係該區塊大小,頻率指數k 自0變化至M-1,且時間指數n 自0變化至2M-1。最後,h a (n )=h s (n )=係所使用的理想重新建構窗。
自此等基函數如下判定MLT係數。直接變換矩陣P a 係第n 列及第k 行中之項目為pa (n,k)之一矩陣。類似地,逆變換矩陣P s 係具有項目ps (n,k)之一矩陣。對於一輸入信號x (n )之2M個輸入樣本之一區塊x ,藉由計算變換係數之其對應的向量。繼而,對於經處理的變換係數之一向量,經重新建構的2M 個樣本向量y 係由給出。最後,用M 樣本重疊將該等經重新建構的y 向量彼此疊加以產生用於輸出之經重新建構的信號y (n )。
圖1展示一典型的音訊或視訊會議配置,其中用作為一傳輸器之一第一終端機10A將經壓縮的音訊信號發送至在此背景中用作為一接收器之一第二終端機10B。該傳輸器10A與該接收器10B兩者具有執行變換編碼(諸如G.722.1.C(PolycomSiren14TM )或G.719(PolycomSirenTM 22)中所使用之變換編碼)之一音訊編碼解碼器16。
該傳輸器10A處之一麥克風12通常跨越20毫秒將源音訊及電子取樣源音訊擷取於音訊區塊14中。此刻,該音訊編碼解碼器16之變換將該等音訊區塊14轉換為若干頻域變換係數組。每一變換係數具有一量值且可為正或負。接著使用此項技術中已知的技術對此等係數量化(18)、編碼,並且經由一網路20(諸如網際網路)發送至該接收器。
在該接收器10B處,一逆程序解碼並解量化(19)該等經編碼的係數。最後,該接收器10B處之該音訊編碼解碼器16對該等係數執行一逆變換以將其等轉換回時域中,以產生在該接收器之揚聲器13處最終重放之輸出音訊區塊14。
音訊封包損失係經由該等網路(諸如網際網路)進行視訊會議及音訊會議中之一常見問題。如已知,音訊封包代表小的音訊片段。當該傳輸器10A經由該網際網路20將該等變換係數之封包發送至該接收器10B時,一些封包可在傳輸期間損失。在產生輸出音訊之後,該等損失封包將在該揚聲器13輸出之聲音中產生靜音間隙。因此,該接收器10B較佳地用已由已自該傳輸器10A接收的該等封包合成之一些形式的音訊填充此等間隙。
如圖1中所示,該接收器10B具有偵測損失封包之一損失封包偵測模組15。接著,當輸出音訊時,一音訊轉發器17填充由此等損失封包導致的間隙。該音訊轉發器17所使用之一現有技術藉由於時域中持續轉發在該封包損失之前發送的最近音訊片段來簡單地填充此等間隙。雖然轉發音訊以填充間隙之現有技術係有效,但是其可於所得音訊中產生蜂鳴及機械假訊,且使用者易於發現此等假訊令人反感。此外,若損失大於5%的封包,則當前技術產生逐漸減少之易聽懂的音訊。
因此,需要一種以產生較佳的音訊品質且避免蜂鳴及機械假訊之方式處置在經由網際網路進行會議時之損失音訊封包的技術。
本文所揭示的音訊處理技術可用於音訊或視訊會議。在該等處理技術中,一終端機接收具有用於重新建構已經歷變換編碼之一音訊信號的變換係數之音訊封包。當接收該等封包時,該終端機判定是否存在任意丟失的封包並用來自先前及隨後的良好訊框之變換係數作為內插值以用於插入作為該等丟失封包之係數。為以內插值取代該等丟失係數,舉例而言,該終端機用一第一權重來加權來自該先前良好的訊框之第一係數,用一第二權重來加權來自該隨後良好的訊框之第二係數,且將此等經加權的係數加總在一起以插入於該等丟失封包中。該等權重可基於音訊頻率及/或所涉及之丟失封包的數目。自此內插,該終端機藉由逆變換該等係數產生一輸出音訊信號。
前述內容並非意欲概述本發明之每一個可能的實施例或每一態樣。
圖2A展示一音訊處理配置,其中用作為一傳輸器之一第一終端機100A將經壓縮的音訊信號發送至在此背景中用作為一接收器之一第二終端機100B。該傳輸器100A與該接收器100B兩者具有執行變換編碼(諸如G.722.1.C(PolycomSiren14TM )或G.719(PolycomSirenTM 22)中所使用之變換編碼)之一音訊編碼解碼器110。對於當前討論,該傳輸器100A及該接收器100B可為一音訊或視訊會議中之端點,但是其等可為其他類型的音訊裝置。
在操作期間,該傳輸器100A處之一麥克風102擷取源音訊,且源音訊之電子取樣區塊或訊框通常跨越20毫秒。(討論同時參考展示根據本發明之一損失封包處置技術300之圖3中之流程圖)。此刻,音訊編碼解碼器110之變換將每一音訊區塊轉換為一組頻域變換係數。為此,該音訊編碼解碼器110接收時域中之音訊資料(方塊302),採用一20毫秒的音訊區塊或訊框(方塊304),並將該區塊轉換為變換係數(方塊306)。每一變換係數具有一量值且可為正或負。
接著使用此項技術中已知的技術,用一量化器115量化此等變換係數並編碼(方塊308),且該傳輸器100A經由一網路125(諸如一IP(網際網路協定)網路、PSTN(公衆交換電話網路)、ISDN(整合服務數位網路)或類似物)將經編碼的變換係數以封包發送至該接收器100B(方塊310)。該等封包可使用任意適合的協定或標準。舉例而言,音訊資料可遵循一內容表,且包括一音訊訊框之所有八位元組可作為一單元附加至有效負載。舉例而言,ITU-T提議G.719及G.722.1C(其等已併入本文中)指定該等音訊訊框之細節。
在該接收器100B處,一介面120接收該等封包(方塊312)。當發送該等封包時,該傳輸器100A產生包含於已發送的每一封包中之一序號。如已知,封包可經由該網路125自該傳輸器100A通過不同路線至該接收器100B,且該等封包可在不同時間到達該接收器100B。因此,該等封包到達之順序可能隨機。
為處置此不同時間的到達(稱為「抖動」),該接收器100B具有耦合至該接收器之介面120之一抖動緩衝器130。通常,該抖動緩衝器130每次保持四個或四個以上封包。因此,該接收器100B基於該等封包之序號將該抖動緩衝器130中之該等封包重新排序(方塊314)。
雖然該等封包可不按順序到達該接收器100B,但是損失封包處置器140適當地將該抖動緩衝器130中之該等封包重新排序,且基於該序列偵測任意損失(丟失)的封包。當該抖動緩衝器130中之該等封包之序號中存在間隙時,宣告一損失封包。舉例而言,若該處置器140在該抖動緩衝器130中發現序號005、006、007、011,則該處置器140可宣告封包008、009、010損失。事實上,此等封包可能實際上並未損失,而是該等封包僅可能係延遲到達。然而,由於延時及緩衝器長度約束,該接收器100B丟棄遲於某一臨限值到達之任意封包。
在隨後的一逆程序中,該接收器100B解碼並解量化該等經編碼的變換係數(方塊316)。若該處置器140已偵測到損失封包(決定318),則該損失封包處置器140知道丟失封包間隙之前及之後的良好封包。變換合成器150使用此技術導出或以內插值取代該等損失封包之丟失的變換係數,因此新變換係數可取代來自該等損失封包之丟失的係數(方塊320)。(在當前實例中,該音訊編碼解碼器使用MLT編碼,使得該等變換係數在本文可被稱為MLT係數)。在此階段,該接收器100B處之音訊編碼解碼器110對該等係數執行一逆變換,且將其等轉換回時域中以對該接收器之揚聲器產生輸出音訊(方塊322至方塊324)。
如在以上程序中可知,該損失封包處置器140將該基於變換之編碼解碼器110之損失封包作為變換係數之一損失組處置,而非偵測損失封包及持續轉發已接收音訊之先前片段來填充該間隙。該變換合成器150接著用自相鄰封包導出之經合成的變換係數來替代來自該等損失封包之變換係數的該損失組。接著,可使用該等係數之一逆變換而於該接收器100B處產生並輸出不具有來自損失封包之音訊間隙之一完整的音訊信號。
圖2B更詳細地示意性展示一會議端點或終端機100。如所示,該會議終端機100可為該IP網路125上之一傳輸器與接收器兩者。亦如所示,該會議終端機100可具有視訊會議能力以及音訊能力。一般而言,該終端機100具有一麥克風102及一揚聲器104,且可具有各種其他輸入/輸出裝置(諸如視訊相機106、顯示器108、鍵盤、滑鼠等)。此外,該終端機100具有一處理器160、記憶體162、轉換器電子器件164及適合該特定網路125之網路介面122/124。該音訊編碼解碼器110提供根據網路終端機之一適合協定之基於標準的會議。此等標準可完全以儲存於記憶體162中且在該處理器160、專用硬體上執行或使用其等之一組合執行之軟體實施。
在一傳輸路徑中,轉換器電子器件164將該麥克風102所拾取之類比輸入信號轉換為數位信號,且在該終端機之處理器160上操作之該音訊編碼解碼器110具有編碼該等數位音訊信號之一編碼器200,以經由一傳輸器介面122在該網路125(諸如網際網路)上傳輸。若存在具有一視訊編碼器170之一視訊編碼解碼器,則其可對視訊信號執行類似功能。
在一接收路徑中,該終端機100具有耦合至該音訊編碼解碼器110之一網路接收器介面124。一解碼器250解碼已接收的信號,且轉換器電子器件164將該等數位信號轉換為類比信號以輸出至該揚聲器104。若存在具有一視訊解碼器172之一視訊編碼解碼器,則其可對視訊信號執行類似功能。
圖3A至圖3B簡要展示一變換編碼的編碼解碼器(諸如一Siren編碼解碼器)之特徵。一特定音訊編碼解碼器之實際細節取決於所使用的編碼解碼器之實施方案及類型。可在ITU-T提議G.722.1 Annex C中找到Siren14TM 之已知細節,且可在ITU-T提議G.719(2008)之「Low-complexity,full-band audio coding for high-quality,conversational applications」中找到SirenTM 22之已知細節,該兩者已以引用的方式併入本文中。亦可在美國專利申請案第11/550,629號第及11/550,682號中找到關於音訊信號之變換編碼的額外細節,該等專利申請案係以引用的方式併入本文中。
圖3A中圖解說明用於一變換編碼的編碼解碼器(例如,一Siren編碼解碼器)之一編碼器200。該編碼器200接收已自一類比音訊信號轉換之一數位信號202。舉例而言,可能已經以48 kHz或其他速率在約20毫秒區塊或訊框中取樣此數位信號202。可為一離散餘弦變換(DCT)之一變換204將來自時域之該數位信號202轉換為具有變換係數之一頻域。舉例而言,該變換204可對每一音訊區塊或訊框產生960個變換係數之一頻譜。該編碼器200在一正規化程序206中發現該等係數之平均能量位準(規範)。接著,該編碼器202用一快速點陣向量量化(FLVQ)演算法208或類似物量化該等係數以編碼一輸出信號210用於封裝及傳輸。
圖3B中圖解說明用於該變換編碼的編碼解碼器(例如,Siren編碼解碼器)之一解碼器250。該解碼器250採用自一網路接收之輸入信號252之傳入位元流,且自該傳入位元流重新產生初始信號之一最佳估計。為此,該解碼器250對該輸入信號252執行一點陣解碼(逆FLVQ)254,且使用一解量化程序256解量化該等經解碼的變換係數。而且,接著可在各種頻帶中修正該等變換係數之能量位準。
此刻,該變換合成器258可對丟失封包用係數作為內插值。最後,一逆變換260作為一逆DCT操作並將該信號自頻域轉換回時域中以作為一輸出信號262傳輸。如可知,該變換合成器258有助於填充可由該等丟失封包引起之任意間隙。然而,該解碼器250之所有現有功能及演算法仍相同。
在對以上所提供的該終端機100及該音訊編碼解碼器110有所瞭解情況下,討論現在轉向該音訊編碼解碼器100如何藉由使用來自經由該網路接收之相鄰訊框、區塊或封包組來對丟失封包用變換係數作為內插值。(在MLT係數方面呈現隨後的討論,但是所揭示的內插程序可同等應用於其他形式的變換編碼之其他變換係數)。
如圖5中利用圖表所展示,用於在損失封包中用變換係數作為內插值之程序400涉及將一內插規則應用於(方塊410)來自先前良好的訊框、區塊或封包組(即,無損失封包)(方塊402)及來自隨後良好的訊框、區塊或封包組(方塊404)之變換係數。因此,該內插規則(方塊410)判定一給定組中損失之封包數目並因此從來自該等良好組之該等變換係數取得(方塊402/方塊404)。接著,該程序400對該等損失封包用新變換係數作為內插值以插入於該給定組中(方塊412)。最後,該程序400執行一逆變換(方塊414)並合成音訊組用於輸出(方塊416)。
圖5更詳細地利用圖表展示該內插程序之內插規則500。如前所述,該內插規則500係依據一訊框、音訊區塊或封包組中之損失封包之數目。實際訊框大小(位元/八位元組)取決於所使用的變換編碼演算法、位元速率、訊框長度及取樣速率。舉例而言,對於一48千位元/秒位元速率、一32 kHz取樣速率及一20毫秒訊框長度下之G.722.1 Annex C,該訊框大小將為960位元/120八位元組。對於G.719,該訊框係20毫秒,該取樣速率係48 kHz,且該位元速率可於任意20毫秒訊框邊界處在32千位元/秒與128千位元/秒之間變化。RFC 5404中指定G.719之有效負載格式。
一般而言,已損失之一給定封包可具有一或多個音訊訊框(例如,20毫秒)、可僅包括一訊框之一部分、可具有一或多個音訊頻道之一或多個訊框、可在一或多個不同位元速率下具有一或多個訊框、且可具有熟習此項技術者已知並與所使用的特定變換編碼演算法及有效負載格式相關之其他複雜性。然而,用於對該等丟失封包以內插值取代丟失變換係數之該內插規則500可調適於一給定實施方案中之特定變換編碼及有效負載格式。
如所示,先前良好的訊框或組510之變換係數(此處展示為MLT係數)被稱為MLT A (i ),且隨後良好的訊框或組530之MLT係數被稱為MLT B (i )。若該音訊編碼解碼器使用SirenTM 22,則指數(i )處於自0至959的範圍。對該等丟失封包之所內插之MLT係數540的絕對值之一般內插規則520係基於應用於該先前及隨後MLT係數510/530之權重512/532判定,如下所示:
|MLT Interpolated (i )|=Weight A *|MLT A (i )|+Weight B *|MLT B (i )|
在該一般內插規則中,以相等的概率將該丟失訊框或組之該等所內插之MLT係數MLT Interpolated (i )540之正負號522隨機設定為正或負。此隨機可有助於自此等經重新建構封包產生之音訊聽起來更自然且不太機械化。
在依此方式內插該等MLT係數540之後,該變換合成器(150;圖2A)填充該等丟失封包之間隙,該接收器(100B)處之該音訊編碼解碼器(110;圖2A)可接著完成其之合成操作以重新建構輸出信號。舉例而言,該音訊編碼解碼器(110)使用已知的技術以採用包含已接收之良好的MLT係數以及在需要處填充的所內插之MLT係數之經處理的變換係數之一向量。該編碼解碼器(110)自此向量重新建構由y =P S 給出之一2M 樣本向量y 。最後,隨著處理繼續,該合成器(150)採用該等經重新建構的y 向量並將其等與M取樣重疊疊加以產生一經重新建構的信號y(n)用於在該接收器(100B)處輸出。
隨著丟失封包之數目發生變化,該內插規則500對該先前MLT係數510及隨後MLT係數530應用不同權重512/532以判定該等所內插之MLT係數540。以下係用於基於丟失封包之數目及其他參數判定兩個權重因數Weight A Weight B 之特定規則。
1.單一損失封包
如圖7A中所圖表展示,該損失封包處置器(140;圖2A)可偵測一主題訊框或封包組620中之一單一損失封包。若損失一單一封包,該處置器(140)基於關於該丟失封包之音訊頻率(例如,該丟失封包之前的音訊之當前頻率),將權重因數(Weight A Weight B )用於以內插值取代該損失封包之丟失的MLT係數。如以下圖表中所示,可相對於當前音訊之一1 kHz頻率判定先前訊框或組610A中之對應封包之該權重因數(Weight A )及隨後訊框或組610B中之對應封包之該權重因數(Weight B ),如下所示:
2.兩個損失封包
如圖7B中所圖表展示,該損失封包處置器(140)可偵測一主題訊框或組622中之兩個損失封包。在此情況中,該處置器(140)將權重因數(Weight A Weight B )用於用MLT係數作為內插值以用於該先前訊框或組610A及隨後訊框或組610B之對應封包中之丟失封包,如下所示:
若每一個封包包括一音訊訊框(例如,20毫秒),則圖7B之每一組610A至610B及622將基本上包含若干封包(即,若干訊框),使得額外封包實際上不可能存在於如圖7A中描繪之該等組610A至610B及622中。
3.三至六個損失封包
如圖7C中所圖表展示,該損失封包處置器(140)可偵測一主題訊框或組624中之三個至六個損失封包(圖7C中展示三個)。三個至六個丟失封包可表示在一給定時間間隔中損失之多達25%的封包。在此情況中,該處置器(140)將權重因數(Weight A Weight B )用於用MLT係數作為內插值以用於該先前訊框或組610A及隨後訊框或組610B之對應封包中之丟失封包,如下所示:
圖7A至圖7C之該等圖表中之封包及訊框或組之配置係意謂闡釋性。如前所述,一些編碼技術可使用包括一特定長度(例如,20毫秒)的音訊之訊框。而且,一些技術可對每一音訊訊框(例如,20毫秒)使用一封包。然而,取決於實施方案,一給定封包可具有一或多個音訊訊框(例如,20毫秒)之資訊或可具有一音訊訊框(例如,20毫秒)之唯一的一部分之資訊。
為定義用於以內插值取代丟失變換係數之權重因數,上述參數使用頻率位準、在一訊框中丟失之封包數目及一丟失封包在丟失封包之一給定組中的位置。可使用此等內插參數之任一者或任意組合定義該等權重因數。用於用變換係數作為內插值之上文所揭示之該等權重因數(Weight A Weight B )、頻率臨限值及內插參數係闡釋性。據信,在一會議期間,此等權重因數、臨限值及參數在填充來自丟失封包之間隙時產生最佳的主觀音訊品質。然而,此等因數、臨限值及參數可對於一特定實施方案而不同,可擴展至闡釋性地呈現之範圍以外,且可取決於所使用的設備類型、所涉及的音訊類型(即,音樂、語音等)、所應用的變換編碼類型及其他考量。
無論如何,當對基於變換之音訊編碼解碼器隱蔽損失的音訊封包時,所揭示的音訊處理技術產生比先前技術解決方案品質更佳之聲音。特定言之,即使損失25%的封包,該所揭示的技術仍可產生比當前技術更易聽懂之音訊。音訊封包損失通常發生在視訊會議應用中,因此改良此等條件期間之品質對改良總體視訊會議體驗係重要的。然而,重要的是,隱蔽封包損失所採取之步驟無需操作用於隱蔽該損失之終端機處之過多的處理或儲存資源。藉由對先前及隨後良好的訊框中之變換係數應用加權,該等所揭示的技術可減小所需要的處理及儲存資源。
雖然已在音訊或視訊會議方面進行描述,但是本發明之教示在涉及包含串流音樂及話音之串流媒體之其他領域中係有用。因此,本發明之教示可應用於除一音訊會議端點及一視訊會議端點之外之其他音訊處理裝置,包含一音訊重放裝置、一個人音樂播放器、一電腦、一伺服器、一電信裝置、一蜂巢式電話、一個人數位助理等。舉例而言,專用的音訊或視訊會議端點可受益於該等所揭示的技術。同樣地,電腦或其他裝置可用於桌面會議中或用於數位音訊之傳輸及接收,且此等裝置亦可受益於該等所揭示的技術。
本發明之該等技術可在電子電路、電腦硬體、韌體、軟體或此等之任意組合中實施。舉例而言,該等所揭示的技術可實施為用於導致一可程式化控制裝置執行該等所揭示的技術之儲存於一程式儲存裝置上的指令。適用於有形地體現程式指令及資訊之程式儲存裝置包含所有形式的非揮發性記憶體,舉例而言,包含半導體記憶體裝置(諸如可擦除且可程式化唯讀記憶體(EPROM)、電可擦除且可程式化唯讀記憶體(EEPROM)及快閃記憶體裝置);磁碟(諸如內部硬碟及抽換式磁碟);磁光碟;及唯讀光碟(CD-ROM)。前述之任一者可由特定應用積體電路(ASIC)(特定應用積體電路)補充或併入其中。
對較佳及其他實施例之以上描述並非意欲限制或約束申請人所設想之發明概念之範疇或適用性。作為揭示本文所含有之該等發明概念的交換,該等申請人期望由隨附申請專利範圍提供之所有專利權利。因此,意欲使隨附申請專利範圍在最大程度上包含處於以下申請專利範圍或其相等物之範疇內之所有修改及變更。
10A...傳輸器/第一終端機
10B...接收器/第二終端機
12...麥克風
13...揚聲器
14...音訊區塊
15...損失封包偵測
16...編碼解碼器
17...音訊轉發器
18...量化器
19...解量化器
20...網際網路
100A...傳輸器/第一終端機
100B...接收器/第二終端機
102...麥克風
104...揚聲器
106...視訊相機
108...顯示器
110...編碼解碼器
115...量化器
120...介面
122...傳輸器介面
124...接收器介面
125...網際網路
130...抖動緩衝器
140...損失封包處置器
150...變換合成器
160...處理器
162...記憶體
164...類比轉數位轉換器
170...視訊編碼器
175...視訊解碼器
200...編碼器
210...輸出信號
250...解碼器
510...先前良好的訊框
512...權重A
520...主題訊框
522...隨機正負號
530...隨後良好的訊框
532...權重B
540...所內插之調變重疊變換(MLT)係數
610A...先前的訊框或組
610B...隨後的訊框或組
620...主題訊框或封包組
622...主題訊框或組
624...主題訊框或組
圖1圖解說明具有一傳輸器及一接收器並使用根據先前技術之損失封包技術之一會議配置。
圖2A圖解說明具有一傳輸器及一接收器並使用根據本發明之損失封包技術之一會議配置。
圖2B更詳細地圖解說明一會議終端機。
圖3A至圖3B各自展示一變換編碼的編碼解碼器之一編碼器及解碼器。
圖4係根據本發明之一編碼、解碼及損失封包處置技術之一流程圖。
圖5利用圖表展示根據本發明之用於在損失封包中用變換係數作為內插值之一程序。
圖6利用圖表展示內插程序之一內插規則。
圖7A至圖7C利用圖表展示用於對丟失封包用變換係數作為內插值之權重。
(無元件符號說明)

Claims (27)

  1. 一種音訊處理方法,其包括:經由一網路在一音訊處理裝置處接收若干封包組,每一組具有該等封包之一或多者,每一封包具有頻域的數個變換係數,其係用於重新建構已經歷變換編碼之時域中之一音訊信號;判定已接收組之一給定組中之一或多個丟失封包,該一或多個丟失封包定序在具有一給定序列之該給定組中;對定序在該給定組之前的一第一組中之一或多個第一封包之第一變換係數應用一第一權重,該一或多個第一封包在該第一組中具有一第一序列,該第一序列對應到在該給定組中之該一或多個丟失封包之該給定序列;對定序在該給定組之後的一第二組中之一或多個第二封包之第二變換係數應用一第二權重,該一或多個第二封包在該第二組中具有一第二序列,該第二序列對應到在該給定組中之該一或多個丟失封包(520)之該給定序列;藉由加總對應之第一經加權的變換係數與對應之第二經加權的變換係數而用變換係數作為內插值;將該等所內插之變換係數插入於取代該一或多個丟失封包中之該給定組中;及藉由對該等變換係數執行一逆變換而對該音訊處理裝置產生一輸出音訊信號。
  2. 如請求項1之方法,其中該音訊處理裝置係選自由一音訊會議端點、一視訊會議端點、一音訊重放裝置、一個人音樂播放器、一電腦、一伺服器、一電信裝置、一蜂巢式電話及一個人數位助理組成之群組。
  3. 如請求項1之方法,其中該網路包括一網際網路協定網路。
  4. 如請求項1之方法,其中該等變換係數包括一調變重疊變換之係數。
  5. 如請求項1之方法,其中每一組具有一個封包,且其中該一個封包包括一輸入音訊訊框。
  6. 如請求項1之方法,其中接收包括:解碼該等封包。
  7. 如請求項6之方法,其中接收包括:解量化該等已解碼的封包。
  8. 如請求項1之方法,其中判定該一或多個丟失封包包括:對在一緩衝器中接收的封包定序及找到該定序中之間隙。
  9. 如請求項1之方法,其中用該等變換係數作為內插值包括:對經加總的該等第一經加權的變換係數及該等第二經加權的變換係數指派一隨機的正號或負號。
  10. 如請求項1之方法,其中應用於該等第一變換係數及該等第二變換係數之該第一權重及該第二權重係基於該第一及該第二變換係數之多個頻率。
  11. 如請求項10之方法,其中針對在一臨限值以下之該第一及該第二變換係數之該等頻率之每一者,該第一權重強 調該等第一變換係數,且該第二權重解除強調該等第二變換係數。
  12. 如請求項11之方法,其中該臨限值係1kHz。
  13. 如請求項11之方法,其中該等第一變換係數係以75%加權,且其中該等第二變換係數係以零加權。
  14. 如請求項10之方法,其中針對在一臨限值以上之該第一及該第二變換係數之該等頻率之每一者,該第一權重及該第二權重同等強調該等第一變換係數及該等第二變換係數。
  15. 如請求項14之方法,其中該等第一變換係數與該等第二變換係數兩者皆係以50%加權。
  16. 如請求項1之方法,其中應用於該等第一變換係數及該等第二變換係數之該第一權重及該第二權重係基於該等丟失封包之一數目。
  17. 如請求項16之方法,其中若在該給定組中丟失該等封包之一者,則針對在一臨限值以下之該第一及該第二變換係數之每一頻率,該第一權重強調該等第一變換係數且該第二權重解除強調該等第二變換係數;及針對在一臨限值以上之該第一及該第二變換係數之每一頻率,該第一權重及該第二權重同等強調該等第一變換係數及該等第二變換係數。
  18. 如請求項16之方法,其中若在該給定組中丟失該等封包之兩者,則 該第一權重對該兩個封包之前一者強調該等第一變換係數,且對該兩個封包之後一者解除強調該等第一變換係數;及該第二權重對該前一個封包解除強調該等第二變換係數,且對該後一個封包強調該等第二變換係數。
  19. 如請求項18之方法,其中該等經強調的係數係以90%加權,且其中該等經解除強調的係數係以零加權。
  20. 如請求項16之方法,其中若在該給定組中丟失三個或三個以上封包,則該第一權重對該等封包之一第一者強調該等第一變換係數,且對該等封包之一最後一者解除強調該等第一變換係數;該第一權重及該第二權重對該等封包之一或多個中間封包同等強調該等第一變換係數及該等第二變換係數;及該第二權重對該等封包之該第一者解除強調該等第二變換係數,且對該等封包之該最後一者強調該等第二變換係數。
  21. 如請求項20之方法,其中該等經強調的係數係以90%加權,其中該等經解除強調的係數係以零加權,且其中該等經同等強調的係數係以40%加權。
  22. 一種程式儲存裝置,其具有儲存於其上之用於導致一可程式化控制裝置執行如請求項1至21之任一項之一音訊處理方法之指令。
  23. 一種音訊處理裝置,其包括: 一音訊輸出介面;一網路介面,其與至少一網路通信並接收音訊封包組,每一組具有該等封包之一或多者,每一封包具有頻域之變換係數;記憶體,其與該網路介面通信並儲存已接收的該等封包;一處理單元,其與該記憶體及該音訊輸出介面通信,該處理單元經一音訊解碼器程式化,該音訊解碼器係經組態以執行如請求項1至21之任一項之一音訊處理方法。
  24. 如請求項23之裝置,其中該裝置包括一會議端點。
  25. 如請求項23之裝置,其進一步包括可通信地耦合至該音訊輸出介面之一揚聲器。
  26. 如請求項23之裝置,其進一步包括一音訊輸入介面及可通信地耦合至該音訊輸入介面之一麥克風。
  27. 如請求項26之裝置,其中該處理單元係與該音訊輸入介面通信,且係經一音訊編碼器程式化,該音訊編碼器係經組態以:將一音訊信號之時域樣本之訊框變換為頻域變換係數;量化該等變換係數;及編碼該等經量化的變換係數。
TW100103234A 2010-01-29 2011-01-28 藉由變換內插之音訊封包損失隱蔽 TWI420513B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US12/696,788 US8428959B2 (en) 2010-01-29 2010-01-29 Audio packet loss concealment by transform interpolation

Publications (2)

Publication Number Publication Date
TW201203223A TW201203223A (en) 2012-01-16
TWI420513B true TWI420513B (zh) 2013-12-21

Family

ID=43920891

Family Applications (1)

Application Number Title Priority Date Filing Date
TW100103234A TWI420513B (zh) 2010-01-29 2011-01-28 藉由變換內插之音訊封包損失隱蔽

Country Status (5)

Country Link
US (1) US8428959B2 (zh)
EP (1) EP2360682B1 (zh)
JP (1) JP5357904B2 (zh)
CN (2) CN102158783A (zh)
TW (1) TWI420513B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9602769B2 (en) 2015-01-12 2017-03-21 Compal Electronics, Inc. Timestamp-based audio and video processing method and system thereof

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9531508B2 (en) * 2009-12-23 2016-12-27 Pismo Labs Technology Limited Methods and systems for estimating missing data
US9787501B2 (en) 2009-12-23 2017-10-10 Pismo Labs Technology Limited Methods and systems for transmitting packets through aggregated end-to-end connection
US10218467B2 (en) 2009-12-23 2019-02-26 Pismo Labs Technology Limited Methods and systems for managing error correction mode
CN102741831B (zh) 2010-11-12 2015-10-07 宝利通公司 多点环境中的可伸缩音频
KR101350308B1 (ko) 2011-12-26 2014-01-13 전자부품연구원 다성 음악 신호에서 추출된 주요 멜로디 교정 장치 및 그 방법
CN103714821A (zh) 2012-09-28 2014-04-09 杜比实验室特许公司 基于位置的混合域数据包丢失隐藏
HUE030163T2 (en) 2013-02-13 2017-04-28 ERICSSON TELEFON AB L M (publ) Hide frame failure
FR3004876A1 (fr) * 2013-04-18 2014-10-24 France Telecom Correction de perte de trame par injection de bruit pondere.
JP6201043B2 (ja) 2013-06-21 2017-09-20 フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー. エラー封じ込め中の切替音声符号化システムについての向上した信号フェードアウトのための装置及び方法
US9583111B2 (en) * 2013-07-17 2017-02-28 Technion Research & Development Foundation Ltd. Example-based audio inpainting
US9661043B2 (en) * 2014-03-10 2017-05-23 JamKazam, Inc. Packet rate control and related systems for interactive music systems
KR102244612B1 (ko) 2014-04-21 2021-04-26 삼성전자주식회사 무선 통신 시스템에서 음성 데이터를 송신 및 수신하기 위한 장치 및 방법
DK3664086T3 (da) * 2014-06-13 2021-11-08 Ericsson Telefon Ab L M Burstramme-fejlhåndtering
EP2980795A1 (en) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoding and decoding using a frequency domain processor, a time domain processor and a cross processor for initialization of the time domain processor
CN112967727A (zh) * 2014-12-09 2021-06-15 杜比国际公司 Mdct域错误掩盖
GB2542219B (en) * 2015-04-24 2021-07-21 Pismo Labs Technology Ltd Methods and systems for estimating missing data
US10074373B2 (en) * 2015-12-21 2018-09-11 Qualcomm Incorporated Channel adjustment for inter-frame temporal shift variations
CN107248411B (zh) 2016-03-29 2020-08-07 华为技术有限公司 丢帧补偿处理方法和装置
WO2020164751A1 (en) 2019-02-13 2020-08-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Decoder and decoding method for lc3 concealment including full frame loss concealment and partial frame loss concealment
KR20200127781A (ko) * 2019-05-03 2020-11-11 한국전자통신연구원 주파수 복원 기법 기반 오디오 부호화 방법
US11646042B2 (en) * 2019-10-29 2023-05-09 Agora Lab, Inc. Digital voice packet loss concealment using deep learning

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6029126A (en) * 1998-06-30 2000-02-22 Microsoft Corporation Scalable audio coder and decoder
US20020007273A1 (en) * 1998-03-30 2002-01-17 Juin-Hwey Chen Low-complexity, low-delay, scalable and embedded speech and audio coding with adaptive frame loss concealment
US20020089602A1 (en) * 2000-10-18 2002-07-11 Sullivan Gary J. Compressed timing indicators for media samples
US6973184B1 (en) * 2000-07-11 2005-12-06 Cisco Technology, Inc. System and method for stereo conferencing over low-bandwidth links

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4754492A (en) 1985-06-03 1988-06-28 Picturetel Corporation Method and system for adapting a digitized signal processing system for block processing with minimal blocking artifacts
US5148487A (en) 1990-02-26 1992-09-15 Matsushita Electric Industrial Co., Ltd. Audio subband encoded signal decoder
US5317672A (en) 1991-03-05 1994-05-31 Picturetel Corporation Variable bit rate speech encoder
SE502244C2 (sv) * 1993-06-11 1995-09-25 Ericsson Telefon Ab L M Sätt och anordning för avkodning av ljudsignaler i ett system för mobilradiokommunikation
US5664057A (en) 1993-07-07 1997-09-02 Picturetel Corporation Fixed bit rate speech encoder/decoder
KR970011728B1 (ko) * 1994-12-21 1997-07-14 김광호 음향신호의 에러은닉방법 및 그 장치
TW321810B (zh) * 1995-10-26 1997-12-01 Sony Co Ltd
US5703877A (en) * 1995-11-22 1997-12-30 General Instrument Corporation Of Delaware Acquisition and error recovery of audio data carried in a packetized data stream
JP3572769B2 (ja) * 1995-11-30 2004-10-06 ソニー株式会社 ディジタルオーディオ信号処理装置および方法
US5805739A (en) 1996-04-02 1998-09-08 Picturetel Corporation Lapped orthogonal vector quantization
US5924064A (en) 1996-10-07 1999-07-13 Picturetel Corporation Variable length coding using a plurality of region bit allocation patterns
US5859788A (en) 1997-08-15 1999-01-12 The Aerospace Corporation Modulated lapped transform method
US6115689A (en) 1998-05-27 2000-09-05 Microsoft Corporation Scalable audio coder and decoder
AU4218199A (en) 1998-05-27 1999-12-13 Microsoft Corporation System and method for entropy encoding quantized transform coefficients of a signal
US6496795B1 (en) 1999-05-05 2002-12-17 Microsoft Corporation Modulated complex lapped transform for integrated signal enhancement and coding
US6597961B1 (en) * 1999-04-27 2003-07-22 Realnetworks, Inc. System and method for concealing errors in an audio transmission
US7006616B1 (en) * 1999-05-21 2006-02-28 Terayon Communication Systems, Inc. Teleconferencing bridge with EdgePoint mixing
US20060067500A1 (en) * 2000-05-15 2006-03-30 Christofferson Frank C Teleconferencing bridge with edgepoint mixing
KR100884134B1 (ko) * 2000-08-15 2009-02-17 마이크로소프트 코포레이션 미디어 샘플을 타임코딩하기 위한 방법
KR100830857B1 (ko) * 2001-01-19 2008-05-22 코닌클리케 필립스 일렉트로닉스 엔.브이. 오디오 전송 시스템, 오디오 수신기, 전송 방법, 수신 방법 및 음성 디코더
JP2004101588A (ja) * 2002-09-05 2004-04-02 Hitachi Kokusai Electric Inc 音声符号化方法及び音声符号化装置
JP2004120619A (ja) 2002-09-27 2004-04-15 Kddi Corp オーディオ情報復号装置
US20050024487A1 (en) * 2003-07-31 2005-02-03 William Chen Video codec system with real-time complexity adaptation and region-of-interest coding
US7596488B2 (en) 2003-09-15 2009-09-29 Microsoft Corporation System and method for real-time jitter control and packet-loss concealment in an audio signal
US8477173B2 (en) * 2004-10-15 2013-07-02 Lifesize Communications, Inc. High definition videoconferencing system
US7519535B2 (en) * 2005-01-31 2009-04-14 Qualcomm Incorporated Frame erasure concealment in voice communications
KR100612889B1 (ko) 2005-02-05 2006-08-14 삼성전자주식회사 선스펙트럼 쌍 파라미터 복원 방법 및 장치와 그 음성복호화 장치
US7627467B2 (en) 2005-03-01 2009-12-01 Microsoft Corporation Packet loss concealment for overlapped transform codecs
JP2006246135A (ja) * 2005-03-04 2006-09-14 Denso Corp スマートエントリシステム用受信機
JP4536621B2 (ja) 2005-08-10 2010-09-01 株式会社エヌ・ティ・ティ・ドコモ 復号装置、および復号方法
US7612793B2 (en) * 2005-09-07 2009-11-03 Polycom, Inc. Spatially correlated audio in multipoint videoconferencing
US20070291667A1 (en) * 2006-06-16 2007-12-20 Ericsson, Inc. Intelligent audio limit method, system and node
US7966175B2 (en) 2006-10-18 2011-06-21 Polycom, Inc. Fast lattice vector quantization
US7953595B2 (en) 2006-10-18 2011-05-31 Polycom, Inc. Dual-transform coding of audio signals
CN100578618C (zh) 2006-12-04 2010-01-06 华为技术有限公司 一种解码方法及装置
CN101009097B (zh) * 2007-01-26 2010-11-10 清华大学 1.2kb/s SELP低速率声码器抗信道误码保护方法
US7991622B2 (en) 2007-03-20 2011-08-02 Microsoft Corporation Audio compression and decompression using integer-reversible modulated lapped transforms
JP2008261904A (ja) 2007-04-10 2008-10-30 Matsushita Electric Ind Co Ltd 符号化装置、復号化装置、符号化方法および復号化方法
CN101325631B (zh) * 2007-06-14 2010-10-20 华为技术有限公司 一种估计基音周期的方法和装置
NO328622B1 (no) * 2008-06-30 2010-04-06 Tandberg Telecom As Anordning og fremgangsmate for reduksjon av tastaturstoy i konferanseutstyr

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020007273A1 (en) * 1998-03-30 2002-01-17 Juin-Hwey Chen Low-complexity, low-delay, scalable and embedded speech and audio coding with adaptive frame loss concealment
US6029126A (en) * 1998-06-30 2000-02-22 Microsoft Corporation Scalable audio coder and decoder
US6973184B1 (en) * 2000-07-11 2005-12-06 Cisco Technology, Inc. System and method for stereo conferencing over low-bandwidth links
US20020089602A1 (en) * 2000-10-18 2002-07-11 Sullivan Gary J. Compressed timing indicators for media samples

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9602769B2 (en) 2015-01-12 2017-03-21 Compal Electronics, Inc. Timestamp-based audio and video processing method and system thereof

Also Published As

Publication number Publication date
EP2360682A1 (en) 2011-08-24
US8428959B2 (en) 2013-04-23
TW201203223A (en) 2012-01-16
EP2360682B1 (en) 2017-09-13
JP5357904B2 (ja) 2013-12-04
JP2011158906A (ja) 2011-08-18
CN105895107A (zh) 2016-08-24
US20110191111A1 (en) 2011-08-04
CN102158783A (zh) 2011-08-17

Similar Documents

Publication Publication Date Title
TWI420513B (zh) 藉由變換內插之音訊封包損失隱蔽
US8386266B2 (en) Full-band scalable audio codec
US8831932B2 (en) Scalable audio in a multi-point environment
WO2019193173A1 (en) Truncateable predictive coding
JP2004518346A (ja) 広帯域信号伝送システム
EP3513406B1 (en) Audio signal processing
US8340959B2 (en) Method and apparatus for transmitting wideband speech signals
WO2008051401A1 (en) Method and apparatus for injecting comfort noise in a communications signal
US8787490B2 (en) Transmitting data in a communication system
JP2005114814A (ja) 音声符号化・復号化方法、音声符号化・復号化装置、音声符号化・復号化プログラム、及びこれを記録した記録媒体
Ulseth et al. VoIP speech quality-Better than PSTN?
JPH10260699A (ja) 音声符号化方法および装置
CN113206773A (zh) 与语音质量估计相关的改进方法和设备
Kang et al. A Cross-Layer PLC Algorithm for a Real-time Audio Conferencing System

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees