JP2020008864A - オーディオスプライシングのコンセプト - Google Patents

オーディオスプライシングのコンセプト Download PDF

Info

Publication number
JP2020008864A
JP2020008864A JP2019149425A JP2019149425A JP2020008864A JP 2020008864 A JP2020008864 A JP 2020008864A JP 2019149425 A JP2019149425 A JP 2019149425A JP 2019149425 A JP2019149425 A JP 2019149425A JP 2020008864 A JP2020008864 A JP 2020008864A
Authority
JP
Japan
Prior art keywords
audio
data stream
access unit
audio data
packet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019149425A
Other languages
English (en)
Other versions
JP6920383B2 (ja
Inventor
ヘルベルト トーマ
Herbert Thoma
ヘルベルト トーマ
ロバート ブライト
Bleidt Robert
ロバート ブライト
シュテファン クレーゲロウ
Kraegeloh Stefan
シュテファン クレーゲロウ
マクス ノイエンドルフ
Max Neuendorf
マクス ノイエンドルフ
アヒム クンツ
Kuntz Achim
アヒム クンツ
アンドレーアス ニーダーマイアー
Niedermeier Andreas
アンドレーアス ニーダーマイアー
ミヒャエル クラッシュマー
Michael Kratschmer
ミヒャエル クラッシュマー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Publication of JP2020008864A publication Critical patent/JP2020008864A/ja
Application granted granted Critical
Publication of JP6920383B2 publication Critical patent/JP6920383B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/233Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23424Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04HBROADCAST COMMUNICATION
    • H04H20/00Arrangements for broadcast or for distribution combined with broadcast
    • H04H20/10Arrangements for replacing or switching information during the broadcast or the distribution
    • H04H20/103Transmitter-side switching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/34Flow control; Congestion control ensuring sequence integrity, e.g. using sequence numbers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Time-Division Multiplex Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)
  • Circuits Of Receivers In General (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

【課題】ストリームスプライサおよび/またはオーディオデコーダでのスプライシングプロセスの手続き上の複雑さの点で、より効率的なオーディオスプライシングの概念を提供する。【解決手段】オーディオスプライシングは、オーディオデータストリーム40に挿入された1つまたは複数のトランケーションユニットパケット42を使用することによって、オーディオデコーダに示すために、所定のアクセスユニットAUiに対して、所定のアクセスユニットが関連付けられているオーディオフレーム14の端部をプレイアウト中に破棄するように構成されている。【選択図】図2

Description

本出願は、オーディオスプライシングに関する。
コード化されたオーディオは、通常、サンプルのチャンク(塊)であり、多くの場合、チャンクあたり1024、2048、または4096個のサンプルが含まれる。AACまたはMPEG−H−3D オーディオのようなMPEGオーディオコーデックの場合、これらのチャンク/フレームは、グラニュールと呼ばれ、符号化されたチャンク/フレームは、アクセスユニット(AU)と呼ばれ、復号化されたチャンクは、コンポジションユニット(CU)と呼ばれる。トランスポートシステムでは、オーディオ信号は、これらの符号化されたチャンク(アクセスユニット)の粒度において、アクセス可能で、アドレス指定が可能なだけである。しかしながら、最終的な粒度でオーディオデータに対処することができれば好都合であるが、特にストリームスプライシングまたは符号化されたオーディオデータの構成の変更のような目的のために、同期され、例えばビデオストリームのような別のストリームに整列される。
これまでに知られていることは、符号化ユニットのいくつかのサンプルを破棄することである。例えば、MPEG−4ファイルフォーマットは、コーディングされたオーディオファイル/ビットストリームの始めと終わりにオーディオサンプルを破棄する目的で使用できる、いわゆる編集リスト(edit lists)を持っている[3]。不都合なことに、この編集リスト方法(edit list method)は、MPEG−4ファイルフォーマットのみで動作し、すなわちファイルフォーマット特有であり、MPEG−2トランスポートストリームのようなストリームフォーマットでは機能しない。それ以外にも、編集リストはMPEG−4ファイルフォーマットに深く組み込まれているため、ストリームスプライシングデバイスで編集リストを簡単に変更することができない。AAC[1]では、トランケーション情報を拡張ペイロード(extension payload)の形式でデータストリームに挿入することができる。しかし、符号化されたAACアクセスユニット内のそのような拡張ペイロードは、トランケーション情報がAAC AUに深く埋め込まれており、ストリームスプライシングデバイスによってその場で容易に変更することができないという点で不利である。
したがって、本発明の目的は、例えば、ストリームスプライサおよび/またはオーディオデコーダでのスプライシングプロセスの手続き上の複雑さの点で、より効率的なオーディオスプライシングの概念を提供することである。
この目的は、添付の独立請求項の主題によって達成される。
本出願の発明は、所定のアクセスユニットが関連付けられているオーディオフレームの末尾部分をプレイアウト中に破棄するように、所定のアクセスユニットに対して、オーディオデコーダに示すために、オーディオスプライシングが、オーディオデータストリームに挿入された1つ以上のトランケーションユニットパケットを使用することによってより効果的にレンダーリングされる、という発想に着想を得ている。
本出願の発明は、オーディオスプライシングが、所定のアクセスユニットが関連付けられているオーディオフレームの末尾部分をプレイアウト中に破棄するように、オーディオデータストリームに挿入された1つまたは複数のトランケーションユニットパケットを使用して、オーディオデコーダに所定のアクセスユニットを示すことにより、より効果的にレンダーリングすることができる、という考え方によって示唆されている。
本出願の態様によれば、オーディオデータストリームは、このように提供されたオーディオデータストリームを、オーディオフレーム長より細かい時間的粒度で、所定のアクセスユニットでより容易にスプライス可能にするために、このようなトランケーションユニットパケットが最初に提供される。したがって、1つまたは複数のトランケーションユニットパケットは、それぞれ、オーディオデコーダおよびストリームスプライサにアドレスされる。実施形態によれば、ストリームスプライサは、可能なスプライスポイントの位置を特定するために、そのようなトランケーションユニットパケットを単に検索する。ストリームスプライサは、所定のアクセスユニットが関連付けられているオーディオフレームの端部を示すように、トランケーションユニットパケットをそれに応じて設定し、第1のオーディオデータストリームを所定のアクセスユニットでカットし、オーディオデータストリームを別のオーディオデータストリームとスプライスして所定のアクセスユニットで互いに当接させる。トランケーションユニットパケットは、スプライス可能なオーディオデータストリーム内に既に提供されているので、追加のデータはスプライシングプロセスによって挿入されることはなく、したがって、ビットレート消費量はそれほど変わらない。
また、スプライシングの際にトランケーションユニットパケットを挿入してもよい。最初にオーディオデータストリームにトランケーションユニットパケットを提供するか、スプライシングの際にトランケーションユニットパケットを同じものに提供するかにかかわりなく、スプライスされたオーディオデータストリームは、所定のアクセスユニットがスプライスポイントを先導するオーディオデータストリームの一部である場合には、その末尾部分を終端とし、また、所定のアクセスユニットがスプライスポイントに続くオーディオデータストリームの一部である場合には先端部分とした、そのようなトランケーションユニットパケットがそこに挿入される。
本出願の実施形態の有利な態様は、従属請求項の主題である。特に、本出願の好ましい実施形態を図面に関して以下に説明する。特に、本発明の好ましい実施形態は、添付の図面に関して以下に説明される。
オーディオ信号と、オーディオ信号のオーディオフレーム単位でオーディオ信号がエンコードされたオーディオデータストリームと、一連のフレームからなるビデオと、別のオーディオデータストリームおよびその中で特定のビデオフレームから前方へ最初のオーディオ信号を潜在的に置き換えるものになっている符号化されたオーディオ信号とを、上から下へ模式的に示している。 本出願の実施例に従うスプライシング可能なオーディオデータストリーム、すなわち、スプライシング動作を軽減するためのTUパケットを備えたオーディオデータストリームの概略図である。 一実施例に従うTUパケットを示す概略図である。 TUパケットが先端部分および後端部分にそれぞれ信号を送ることができる別の実施例に従うTUパケットを概略的に示す。 一実施例に従うオーディオエンコーダのブロック図を示す。 同じものがビデオフレームラスタによる一実施例に従うスプライスインおよびスプライスアウト時間のトリガソースを示す概略図である。 図2のオーディオデータストリームを受信し、それに基づいてスプライスされたオーディオデータストリームを出力するものとして、ストリームスプライサをさらに示す図を用いて実施例に従うストリームスプライサの概略ブロック図を示す。 一実施例に従って、下位のオーディオデータストリームを上位のオーディオデータストリームにスプライスする際の、図7のストリームスプライサの動作モードのフロー図である。 一実施例に従って、下位のオーディオデータストリームから上位のストリームへのスプライシングにおけるストリームスプライサの動作モードのフロー図を示す。 図7に示されるスプライスされたオーディオデータストリームを受信するようにオーディオデコーダをさらに例示する実施例に係るオーディオデコーダのブロック図を示す。 同一のIPFアクセスユニットおよび/またはTUパケットを含むアクセスユニットに依存するアクセスユニットの異なる取扱いを例示するために、図10のオーディオデコーダの動作モードのフロー図を示す。 TUパケットの構文の一例を示す図である。 1つのオーディオデータストリームから他のオーディオデータストリームへのスプライス方法の異なる例を示しており、スプライシング時間は、ビデオ、ここでは毎秒50フレームのビデオと、1024のサンプル幅の粒度(グラニュール)で48kHzのオーディオデータストリームに符号化されたオーディオ信号と、またはオーディオフレームと、90kHzのタイムスタンプタイムベースとを有するので、1つのビデオフレーム持続時間は、1800タイムベースティックに等しく、1つのオーディオフレームまたはオーディオグラニュールは、1920タイムベースティックに等しい。 1つのオーディオデータストリームから他のオーディオデータストリームへのスプライス方法の異なる例を示しており、スプライシング時間は、ビデオ、ここでは毎秒50フレームのビデオと、1024のサンプル幅の粒度(グラニュール)で48kHzのオーディオデータストリームに符号化されたオーディオ信号と、またはオーディオフレームと、90kHzのタイムスタンプタイムベースとを有するので、1つのビデオフレーム持続時間は、1800タイムベースティックに等しく、1つのオーディオフレームまたはオーディオグラニュールは、1920タイムベースティックに等しい。 1つのオーディオデータストリームから他のオーディオデータストリームへのスプライス方法の異なる例を示しており、スプライシング時間は、ビデオ、ここでは毎秒50フレームのビデオと、1024のサンプル幅の粒度(グラニュール)で48kHzのオーディオデータストリームに符号化されたオーディオ信号と、またはオーディオフレームと、90kHzのタイムスタンプタイムベースとを有するので、1つのビデオフレーム持続時間は、1800タイムベースティックに等しく、1つのオーディオフレームまたはオーディオグラニュールは、1920タイムベースティックに等しい。 図13A〜13Cの例示的なフレームおよびサンプルレートを使用してオーディオフレームラスタによって決定されたスプライシング時間で2つのオーディオデータストリームをスプライシングする別の例示的なケースの概略図を示す。 一実施例に従う異なる符号化構成の2つのオーディオデータストリームをスプライシングする際のエンコーダー動作を示す概略図である。 一実施例に従う異なる符号化構成の2つのオーディオデータストリームをスプライシングする際のエンコーダー動作を示す概略図である。 一実施例に従うスプライシングを使用する異なるケースを示す図である。 一実施例に従うスプライシングを使用する異なるケースを示す図である。 一実施例に従う異なる符号化構成をサポートするオーディオエンコーダーのブロック図を示す。
図1は、それぞれのオーディオデータストリームを別のオーディオデータストリームにスプライスするときに発生する問題を示すために、オーディオデータストリームのために例示的な部分を示す。その限りでは、図1のオーディオデータストリームは、後の図に示されるオーディオデータストリームの一種のベースを形成する。したがって、図1のオーディオデータストリームで説明した内容は、以下でさらに説明するオーディオデータストリームに対しても有効である。
図1のオーディオデータストリームは、一般に符号10を用いて示されている。オーディオデータストリームは、そこでオーディオ信号12に符号化される。すなわち、図1に示すように、オーバーラップしておらず、互いに時間的に隣接していてもよいし、あるいは、互いにオーバーラップしていてもよいオーディオ信号12の時間的部分である。オーディオデータストリーム10の方法は、オーディオフレーム14の単位において符号化されたオーディオ信号12が異なるように選択されてもよく、オーディオフレームをオーディオフレーム14の単位でデータストリーム10に符号化するために変換符号化を使用することができる。その場合、1つまたは複数のスペクトル分解変換が、オーディオフレーム14のオーディオ信号に適用され、1つまたは複数のスペクトル分解変換が、オーディオフレーム14を時間的にカバーし、その先端および後端を超えて拡張される。スペクトル分解変換係数は、デコーダが逆変換によってそれぞれのフレームを再構成できるように、データストリーム内に含まれる。逆変換された信号合成されたスペクトル合成変換に従ってデコーダ側で所謂オーバーラップ加算プロセスが互いに重なり合って加算され、オーディオ信号12の再構成を明らかにするために、オーディオフレーム境界を挟んで相互に、そしてさらには、オーディオ信号がスペクトル分解された単位で変換部分をオーバーラップさせ、エンコーダおよび/またはデコーダ側で所謂ウインドウ関数を用いて窓掛けされる。
あるいは、例えば、オーディオデータストリーム10は線形予測を使用してオーディオフレーム14の単位で符号化されたオーディオ信号12を有し、それに基づいて、オーディオフレームは、線形予測係数を使用して符号化され、符号化された予測残差の表現は、次に、LTP利得およびLTP遅延などの長期予測(LTP)係数、コードブックインデックス、および/または励起(残差信号)の変換符号化を使用して符号化される。
ここでも、復号化側でのオーディオフレーム14の再構成は、先行するフレームの符号化に依存してもよく、例えば、あるオーディオフレームから別のオーディオフレームへの時間的予測、または励振信号などを変換符号化するための変換ウインドウの重なりに依存してもよい。これは、以下の説明において役割を果たすため、状況は、ここで言及される。
送信およびネットワーク処理目的のために、オーディオデータストリーム10は、一連のペイロードパケット16からなる。ペイロードパケット16の各々は、オーディオデータストリーム10がストリームオーダ20に沿って分割される一連のアクセスユニット18のそれぞれに属する。各アクセスユニット18は、図1の両頭の矢印22で示すように、オーディオフレーム14のそれぞれの1つに関連付けられている。図1に示すように、オーディオフレーム14の時間的順序は、データストリーム10において関連するオーディオフレーム18の順序と一致してもよい。直ちに別のフレームの後に続くオーディオフレーム14は、データストリーム10内の他のオーディオフレームのアクセスユニットの直後に続くデータストリーム10内のアクセスユニットに関連し得る。
すなわち、図1に示すように、各アクセスユニット18は、1つ以上のペイロードパケット16を有することができる。あるアクセスユニット18の1つまたは複数のペイロードパケット16は、スペクトル分解変換係数、LPC、および/または励起信号の符号化など、関連するフレーム14を記述する前述の符号化パラメータをその中に符号化している。
オーディオデータストリーム10は、また、データストリーム10の各アクセスユニット18に対して、それぞれのアクセスユニット18AUiが関連付けられているオーディオフレームiがプレイアウトされるべきタイムスタンプtiを示すタイムスタンプ情報24を含むことができる。タイムスタンプ情報24は、図1に示すように、関連するオーディオフレームのタイムスタンプを示すように、各アクセスユニット18の1つ以上のパケット16の1つに挿入されてもよいが、関連するアクセスユニットAUiの1つまたは複数のパケットのそれぞれにオーディオフレームiのタイムスタンプ情報tiを挿入するなど、異なる解決策も実現可能である。
パケット化、アクセスユニット分割、およびタイムスタンプ情報24のために、オーディオデータストリーム10は、エンコーダとデコーダとの間でストリーミングされるのに特に適している。すなわち、図1のオーディオデータストリーム10は、ストリームフォーマットのオーディオデータストリームである。図1のオーディオデータストリームは、例えば、MPEG−H 3DオーディオまたはMHAS[2]によるオーディオデータストリームであってもよい。
トランスポート/ネットワーク処理を容易にするために、パケット16は、バイト整列サイズを有してもよく、異なるタイプのパケット16が区別されてもよい。例えば、いくつかのパケット16は、第1のオーディオチャネルまたはオーディオチャネルの第1のセットに関連し、それに関連する第1のパケットタイプを有し、一方、それに関連する別のパケットタイプを有するパケットは、そこに符号化された別のオーディオチャネルまたはオーディオ信号12のオーディオチャネルの別のセットを符号化する。さらにパケットは、構成データ、有効な符号化パラメータ、またはアクセスユニットのシーケンスによって使用されるような、変化の少ないデータを搬送するパケットタイプであってもよい。他のパケット16は、それらが属するアクセスユニットに対して有効な符号化パラメータを担持するパケットタイプであってもよく、他のペイロードパケットは、サンプル値、変換係数、LPC係数などの符号化を伴う。したがって、各パケット16は、中間ネットワークエンティティおよびデコーダによって、それぞれ、容易にアクセス可能なパケットタイプインジケータをその中に有することができる。以下に説明されるTUパケットは、パケットタイプによってペイロードパケットから区別可能であり得る。
オーディオデータストリーム10がそのまま送信される限り、何ら問題は生じない。しかしながら、オーディオ信号12は、図1にτで例示的に示されるある時点までのみ復号側でプレイアウトされることを想像する。図1は、例えば、この時点tが、ビデオフレームクロックのような何らかの外部クロックによって決定され得ることを示している。例えば、図1は、26において、オーディオ信号12に対して時間的に位置合わせされた方法で一連のフレーム28から構成されたビデオを示している。
例えば、タイムスタンプTframeは、新しいシーン、新しいプログラムなどの最初のピクチャのタイムスタンプであってもよく、したがって、オーディオ信号12は、その時点t=Tframeでカットされ、その時点から、例えば新しいシーンまたはプログラムのトーン信号を表す別のオーディオ信号12によって置き換えられることが望ましい。
例えば、図1は、オーディオデータストリーム10と同じように構成された、すなわち1つまたは複数のペイロードパケット16で構成されるアクセスユニット18を使用して構築された、既に存在するオーディオデータストリーム30を示す。そこでは、第1のオーディオフレーム14はその先端がタイムスタンプTframeと一致するように、すなわち、オーディオ信号32はタイムスタンプTframeのプレイアウトに登録されたフレーム14の先端でプレイアウトされるような方法で、オーディオフレーム14内のタイムスタンプTframeで開始するフレーム28の一連のピクチャを伴うか、または記述する。
しかしながら、不都合なことに、オーディオデータストリーム10のフレーム14のフレームレートは、ビデオ26のフレームレートから完全に独立している。したがって、オーディオ信号12τ=Tframeのあるフレーム14内に入る場所は、完全にランダムである。つまり、追加の措置を講ずることなく、τが存在するオーディオフレーム14、jに関連するアクセスユニットAUjを完全に離脱させることができ、オーディオデータストリーム30の一連のアクセスユニット18をオーディオデータストリーム10の先行するアクセスユニットAUj-1に付加し、オーディオ信号12のオーディオフレームjの先端部34にミュートを生じさせる。
以下に記載される様々な実施形態は、上記で概説した欠点を克服し、そのようなスプライシング問題の処理を可能にする。
図2は、本発明の一実施形態によるオーディオデータストリームを示す。図2のオーディオデータストリームは、一般に参照符号40を用いて示されている。主に、オーディオ信号40の構成は、オーディオデータストリーム10に関して上述したものと一致する。すなわち、オーディオデータストリーム40は、一連のペイロードパケット、すなわちオーディオデータストリーム40は、一連のペイロードパケット、すなわち、データストリーム40が分割される各アクセスユニット18についての1つまたは複数のペイロードパケットを含む。各アクセスユニット18は、オーディオフレーム14の単位でデータストリーム40に符号化されたオーディオ信号のオーディオフレームの内の特定の1つに関連付けられる。しかし、これを越えて、オーディオデータストリーム40は、任意の所定のアクセスユニットが関連付けられているオーディオフレーム内でスプライシングされるように「準備」されている。ここでは、これはアクセスユニットAUiおよびアクセスユニットAUjの例である。最初に、アクセスユニットAUiを参照してみましょう。特に、オーディオデータストリーム40は、トランケーションユニットパケット42がその中に挿入されることによって「スプライス可能」とされ、トランケーションユニットパケット42は、アクセスユニットAUiに対して、プレイアウト中に破棄されるべき関連オーディオフレームiの終わり部分を示すように設定可能である。トランケーションユニットパケット42の利点および効果は、以下で説明される。しかしながら、トランケーションユニットパケット42の位置付け及びその内容に関して、いくつかの予備的な注意がなされなければならない。例えば、図2は、トランケーションユニットパケット42がアクセスユニットAUi内に位置するもの、すなわち、トランケーションユニットパケット42の終端部分が示すものを示しているが、トランケーションユニットパケット42は、代わりに、アクセスユニットAUiに先行する任意のアクセスユニットに配置されてもよい。同様に、トランケーションユニットパケット42がアクセスユニットAUi内にあっても、アクセスユニット42は、図2に例示的に示されているように、それぞれのアクセスユニットAUi内の最初のパケットである必要はない。
図3に示されている実施形態によれば、トランケーションユニットパケット42によって示される端部は後端部44であり、すなわち、フレーム14の一部は、オーディオフレーム14内のある時点からフレーム14の後端まで伸びている。言い換えれば、図3の実施形態によれば、トランケーションユニットパケット42によって示される終端部分が先端部分または終端部分であるかどうかをシグナリングするシンタックスエレメントは存在しない。しかしながら、図3のトランケーションユニットパケット42は、パケット42がトランケーションユニットパケットであることを示すパケットタイプインデックス46と、トランケーション長さ、すなわち後端部44の時間的長さΔtを示すトランケーション長さ要素48とを含む。トランケーション長さ48は、個々のオーディオサンプルの単位、または連続するオーディオサンプルのnタプルで部分44の長さを測定することができ、nは1より大きく、例えば、フレーム14のサンプル数をNとすると、Nサンプルよりも小さい。
トランケーションユニットパケット42は、1つ以上のフラグ50および52を任意に含むことができることが、後で説明される。例えば、フラグ50は、トランケーションユニットパケット42がエンド部44を示すアクセスユニットAUiがスプライスアウトポイントとして使用される準備ができていることを示すスプライスアウトフラグであってもよい。フラグ52は、現在のアクセスユニットAUiがスプライスアウトポイントとして実際に使用されたかどうかを示すために、デコーダ専用のフラグとすることができる。
しかしながら、フラグ50および52は、ちょうど概説したように、単にオプションである。例えば、TUパケット42自体は、トランケーションユニット42が属するアクセスユニットがスプライスアウトに適したアクセスユニットであることを、スプライサおよびデコーダをストリーミングする信号とすることができ、トランケーション長さ48をゼロに設定することは、トランケーションを行わず、スプライスアウトを行わないことをデコーダに指示することになる。
TUパケット42に関する上記の注釈は、TUパケット58のような任意のTUパケットに対して有効である。
以下でさらに説明するように、アクセスユニットの先端部分の表示も同様に必要とされることがある。この場合、TUパケット58のような切り捨て単位パケットは、図3に示すような後端部分を示すように設定可能である。このようなTUパケット58は、トランケーションユニットパケットのタイプインデックス46によって、42のような先端部分トランケーションユニットパケットと区別することができる。言い換えれば、異なるパケットタイプは、後端部分を示すTUパケット42と、それぞれ先端部分を示すためのTUパケットとに関連付けることができる。
完全性のために、図4は、トランケーションユニットパケット42が、図3に示される構文要素に加えて、トランケーション長さ48がオーディオフレームiの前端または後端からオーディオフレームiの内側に向かって測定されるかどうか、を示す先行/後続インジケータ54を含む。すなわち、長さがトランケーション長さ48で示される端部が後端部44であるか、先端部56であるかを判定する。TUパケットのパケットタイプは、それと同じになる。
以下により詳細に概説されるように、トランケーションユニットパケット42は、スプライスアウトに適したアクセスユニットAUiを提供する。なぜなら、以下でさらに説明するストリームスプライサが、後端部分44を設定することが可能であるからである。その結果、外部定義されたスプライスアウト時間τ(図1と比較して)がオンになると、オーディオフレームiのプレイアウトが停止される。その時から、スプライスインオーディオデータストリームのオーディオフレームをプレイアウトすることができる。
しかしながら、図2はまた、オーディオデータストリーム40に挿入されるさらなるトランケーションユニットパケット58を示し、このさらなるトランケーションユニットパケット58は、j>iでアクセスユニットAUiを示すように設定可能であり、プレイアウト時にその端部が破棄されることになる。
しかしながら、このとき、アクセスユニットAUi、すなわちアクセスユニットAUj+1は、その直前のアクセスユニットAUj-1とは独立した方法で、その関連するオーディオフレームjを符号化している。すなわち、先行アクセスユニットAUj-1に依存して予測参照または内部復号レジスタが設定されないという点で、または、オーバラップ−加算プロセスが、アクセスユニットAUj-1の再構築を、アクセスユニットAUjを正しく再構成およびプレイアウトするための要件を提供しないようにすることができる。即時のプレイアウトアクセスユニットであるアクセスユニットAUjと、上記のアクセスユニット相互依存性、例えば、AUiを有する他のアクセスユニットとを区別するために、アクセスユニットAUjがハッチングを用いて強調表示される。
図2は、図2に示された他のアクセスユニットが、それぞれのオーディオフレームの正しい再構成およびプレイアウトが可能であるという意味において、それらの再構成が直前のアクセスユニットに依存するように、先行アクセスユニットからそれぞれのアクセスユニットに向いている小さな矢印60で示すように、関連するアクセスユニットの基礎は、直前のアクセスユニットにアクセスする場合にのみ実現可能である。アクセスユニットAUjの場合、アクセスユニットAUjの即時のプレイアウト能力を示すために、直前のアクセスユニット、すなわち、AUj-1からアクセスユニットAUjを指し示す矢印が交差している。例えば、この即時のプレイアウト能力を提供するために、アクセスユニットAUjは、そこに符号化された追加データを有し、デコーダの内部レジスタを初期化するための初期化情報、直前の先行アクセスユニットの逆変換の時間的に重なり合った部分などによって、通常提供されるエイリアシングキャンセル情報の推定を可能にするデータなどがある。
アクセスユニットAUjおよびAUjの能力は、互いに異なる。アクセスユニットAUiは、以下に概説するように、トランケーションユニットパケット42の存在によりスプライスアウトポイントとして適している。言い換えれば、ストリームスプライサは、アクセスユニットAUiにおいてオーディオデータストリーム40を切断して、別のオーディオデータストリーム、すなわちスプライスインオーディオデータストリームからのアクセスユニットを付加することができる。
これは、TUパケット58が後端部分44を示すことができるという条件で、アクセスユニットAUjにおいても実現可能である。付加的または代替的に、トランケーションユニットパケット58は、先端部分を示すように設定可能であり、この場合、アクセスユニットAUjは、場合によってはスプライス(バック)として機能するのに適している。すなわち、トランケーションユニットパケット58は、プレイアウトされないオーディオフレームjの先端部分を示し、その時点まで、すなわち、この終端部分の終端まで、(予備的に)スプライスユニットパケットのオーディオ信号は、オーディオデータストリーム内でプレイアウトすることができる。
例えば、トランケーションユニットパケット42は、スプライスユニットパケット58のスプライスアウトフラグ50がゼロに設定されてもよく、または1に設定されてもよく、スプライスアウトフラグ50がゼロに設定されてもよい。いくつかの明示的な例は、図16に関して以下にさらに説明される。
スプライスイン可能アクセスユニットAUjの存在の必要はないことに留意すべきである。例えば、スプライスインされるオーディオデータストリームは、オーディオデータストリーム40のプレイアウトを時刻τ以降に完全に置き換えることを意図することができる。すなわち、オーディオデータストリーム40にスプライス(バック)が生じない。しかし、スプライスインされるオーディオデータストリームがオーディオデータストリーム40のオーディオ信号を単に予備的に置き換えるものである場合には、オーディオデータストリーム40へのスプライスインバックが必要であり、この場合、スプライスアウトTUパケット42には、データストリーム順序20に続くスプライスインTUパケット58が存在するはずである。
図5は、図2のオーディオデータストリーム40を生成するオーディオエンコーダ70を示す。オーディオエンコーダ70は、オーディオ符号化コア72とトランケーションパケットインサータ74とを含む。オーディオ符号化コア72は、オーディオ符号化コア72に入力されたオーディオ信号12を、オーディオ信号のオーディオフレームの単位でオーディオデータストリーム40のペイロードパケットに符号化するように構成され、例えば図1に関して上で説明したやり方で実行される。すなわち、オーディオ符号化コア72は、例えばMDCTなどの重複変換を使用してオーディオ信号12を符号化し、次に変換係数を符号化する変換符号化器であってもよく、すなわち、オーディオ符号化コア72は、例えばMDCTなどの重複変換を使用してオーディオ信号12を符号化し、次に変換係数を符号化する変換符号化器であってもよく、ラップされた変換のウィンドウは、上述したように、連続するオーディオフレーム間のフレーム境界を横切ることができ、それにより直ちに連続するオーディオフレームとそれらに関連するアクセスユニットとの相互依存性をもたらす。あるいは、オーディオ符号化コア72は、オーディオ信号12をデータストリーム40に符号化するために、線形予測に基づく符号化を使用してもよい。例えば、オーディオ符号化コア72は、オーディオ信号12のスペクトルエンベロープを記述する線形予測係数又は少なくともフレーム毎のプリフィルタリングされたその一部をエンコードし、励起信号を追加的に符号化する。励振信号の符号化に関する予測符号化または重複変換の問題の連続的な更新は、直ちに連続するオーディオフレームとそれらに関連するアクセスユニットとの間の相互依存性をもたらす可能性がある。しかし、他のコーディング原則も想像できる。
トランケーションユニットパケットインサータ74は、図2の42および58のようなトランケーションユニットパケットをオーディオデータストリーム40に挿入する。図5に示すように、TUパケットインサータ74は、この目的のために、スプライス位置トリガ76に応答することができる。例えば、スプライス位置トリガ76は、シーンまたはプログラムの変化、またはビデオの他の変化、すなわち一連のフレーム内で、それに応じてトランケーションユニットパケットインサータ74にそのような新しいシーンまたはプログラムの任意の第1のフレームを通知してもよい。オーディオ信号12は、例えば、ビデオ信号のアコンパニメントが、例えば、ビデオ内の個々のシーンまたはプログラムのいずれも、他のフレームシーケンスなどに置き換えられない。例えば、ビデオがライブサッカーゲームを表し、オーディオ信号12がそれに関連するトーン信号であると想像する。次に、スプライス位置トリガ76は、アド、すなわちアドビデオによる潜在的な置換の対象となるサッカーゲームビデオの一時的な部分を識別するように、手動または自動で操作することが可能となり、したがって、トリガ76は、そのような部分の開始をTUパケットインサータ74に通知し、これにより、TUパケットインサータ74は、それに応答して、そのような位置にTUパケット42を挿入し、すなわち、ビデオの置き換えられる可能性がある部分の最初のビデオフレームが開始するオーディオフレームに関連付けられたアクセスユニットに関連する。さらに、トリガ76は、このような部分の端部部分が該当するオーディオフレームに関連するそれぞれのアクセスユニットにTUパケット58を挿入するように、そのように置換される可能性のある部分の末尾にTUパケットインサータ74に通知する。そのようなTUパケット58に関しては、オーディオエンコーディングコア72は、また、トリガ76に応答して、上述のように即時にプレイアウトを可能にするように、各オーディオフレームをそのようなアクセスユニットAUj(図2と比較して)に異なるか例外的にエンコードする。ビデオのそのような潜在的に置き換えられる部分の間で、トリガ76は、スプライスインポイントまたはスプライスアウトポイントとして機能するために、間欠的にTUパケット58を挿入することができる。具体的な例によれば、トリガ76は、例えば、オーディオエンコーダ70に、そのような部分の最初のフレームまたは開始フレームのタイムスタンプと、そのような部分の最後または最後のフレームのタイムスタンプとを通知し、当該エンコーダ70は、どのTUパケットインサータおよび潜在的に即時のプレイアウト符号化が、トリガ76から受信したタイムスタンプが下降するオーディオフレームを識別することによって行われるべきであるかに関するオーディオフレームおよび関連するアクセスユニットを識別する。
これを説明するために、オーディオ符号化コア72が動作する固定フレームラスタ、すなわちオーディオ信号12が属するビデオの固定フレームラスタ82と共に80で動作する固定フレームラスタを示す図6を参照する。ビデオ86の内の部分84は、波括弧を用いて示されている。この部分84は、例えば、オペレータによって手動で決定されるか、シーンの検出によって完全にまたは部分的に自動的に決定される。第1および最終フレーム88および90は、フレームラスタ80のオーディオフレームiおよびj内にあるタイムスタンプTbおよびTeと関連している。したがって、これらのオーディオフレーム14、すなわちiおよびjには、オーディオフレームjに対応するアクセスユニットを生成するために、オーディオ符号化コア72が即時のプレイアウトモードを使用するTUパケットインサータ74によってTUパケットが提供される。
TUパケットインサータ74は、デフォルト値でTUパケット42および58を挿入するように構成されてもよいことに留意すべきである。例えば、トランケーション長構文要素48は、ゼロに設定されてもよい。オプションであるスプライスインフラグ50に関する限り、図2〜図4に関して上に概説したようにTUパケットインサータ74によって同様に設定され、すなわち、TUパケット42のスプライスアウト可能性と、最終フレームまたはビデオ86の画像に登録されたパケット以外のTUパケット58を生成する。これまでスプライスが適用されていないので、スプライスアクティブフラグ52はゼロに設定される。
図6のオーディオエンコーダに関して、TUパケットの挿入を制御する方法、すなわち図5および図6に関連して説明したように、挿入が実行されるアクセスユニットを選択する方法は例示的なものに過ぎないことに留意されたい。そして、挿入が行われるアクセスユニットを決定する他の方法も同様に可能である。例えば、各アクセスユニット、N番目(N>2)のアクセスユニットまたは各IPFアクセスユニット毎に、対応するTUパケットを提供することができる。
上に明示的に言及していないが、好ましくは、TUパケットは非圧縮形式で符号化され、それぞれのTUパケットのビット消費(符号化ビットレート)は、TUパケットの実際の設定から独立している。このことを述べた上で、エンコーダは、符号化オーディオバッファのフィルレベルを記録するように構成されたレート制御(図5には示されていない)をオプションとして含むことができ、符号化オーディオバッファデータストリーム40が受信されるデコーダの側では、アンダーフローもなく、結果として、ストールやオーバーフローが発生し、パケット12が失われる。エンコーダは、例えば、いくつかのレート/歪み尺度を最適化してフィルレベル制約に従うために、量子化ステップサイズを制御することができる。具体的には、レート制御は、一定または準一定であってもよく、例えば伝送ネットワークのような外部エンティティによって、予め設定される所定の伝送容量/ビットレートを仮定して、デコーダの符号化オーディオバッファのフィルレベルを推定することができる。データストリーム40のTUパケットの符号化レートは、レート制御によって考慮される。したがって、図2に示された形態、すなわち、エンコーダ70によって生成されたバージョンにおいて、データストリーム40は、デコーダの符号化されたオーディオフィルレベルにオーバロードすることなく、オーディオ信号12がそのレート/歪み比に関して、オーディオ信号12であれば、変化する符号化の複雑度を補償するために、同じものをディレーティングすることもできない(アンダーフローにつながる)。しかしながら、既に上記で簡単に概説したように、以下でより詳細に説明するが、好ましい実施形態によれば、全てのスプライスアウトアクセスユニットAUiは、そのオーディオフレームiの時間的長さよりも短い時間的持続時間だけ、デコーダ側でのプレイアウトに寄与すると考えられる。以下に述べる説明から明らかなように、それぞれのスプライスアウトAUにおいて、データストリーム40でスプライスされたスプライスインオーディオデータストリームの(先端の)アクセスユニットは、スプライスインターフェイスとしてのAUiのように、スプライスアウトAU's(AU´s)の後続AUsを置き換える。したがって、その時から、エンコーダ70内で実行されるビットレート制御は、もはや用いられない。それを超えると、先行するAUは、即時のプレイアウトを可能にするように自己完結型にコード化されることが好ましく、これにより非IPFAUsに比べてより多くの符号化ビットレートを消費する。したがって、一実施形態によれば、エンコーダ70は、それぞれのスプライスアウトAU'sの端部、すなわち、その直後の後続AUの境界にあるログされた充填レベルが、次のように仮定するようにレート制御を計画またはスケジュールする。例えば、例えば、1/4のような所定の値、または最大充填レベルの3/4と1/8の間の値とすることができる。
この手段によって、データストリーム40のスプライスアウトAUsでデータストリーム40にスプライスされると想定されるオーディオデータストリームを準備する他のエンコーダは、自身のAUs(以下では、アポストロフィによって元のものと時々区別されることがある)を受信開始時のデコーダの符号化されたオーディオバッファの充填レベルは、これらの他のエンコーダがそれに応じてレート制御をさらに発展させることができるように、所定の値にある。これまでの説明は、データストリーム40のスプライスアウトAUsに集中していたが、所定の推定/ログされた充填レベルへの順応は、スプライスインとスプライスアウトポイントとして、二重の役割を果たしていなくても、AUjのように、AUsにおけるスプライス(バック)のレート制御によって達成されてもよい。したがって、前記他のエンコーダは、同様に、推定または記録された充填レベルが、それらのデータストリームのAUシーケンスの末尾AUで所定の充填レベルをとるように、レート制御を制御することができる。スプライスアウトAUsに関してエンコーダ70について述べたのと同じであってもよい。そのような末尾のAUsは、AUjなどのデータストリーム40のスプライスインAUsとのスプライスポイントから想定されるスプライスバックAUsから想定される。したがって、エンコーダ70のレート制御が、推定/記録された充填レベルがAUjで(またはより良好に)所定の充填レベルをとるように符号化ビットレートをスケジューリングした場合、このビットレート制御は、データストリーム40を符号化して出力した後にスプライシングが実行された場合でも、有効なままである。ちょうど言及した所定の充填レベルは、デフォルトでエンコーダに知られることができ、すなわち、それらの間で合意される。あるいは、それぞれのAUは、それぞれのスプライスインAUまたはスプライスアウトAUの直後に想定されるように、推定/記録された充填レベルの明示的なシグナリングを提供することができる。例えば、その値は、それぞれのスプライスインまたはスプライスアウトAUのTUパケットで送信することができる。これは付加的な付加情報オーバヘッドを必要とするが、エンコーダのレート制御は、スプライスインまたはスプライスアウトAUにおける推定/記録された充填レベルをより自由に提供することができる。例えば、それぞれのスプライスインまたはスプライスアウトAUの後の推定/記録された充填レベルは、最大充填レベルの3/4、すなわちデコーダの符号化オーディオバッファの最大保証容量のようなある閾値を下回ることで十分である。
データストリーム40に関して、これは、所定の平均ビットレートの周りで変化するようにレート制御されること、すなわち、平均ビットレートを有することを意味する。スプライシング可能なオーディオデータストリームの実際のビットレートは、パケットのシーケンスにわたって、すなわち、時間的に変化する。所定の平均ビットレートからの(現在の)偏差は時間的に積分されてもよい。この積分偏差は、スプライスインおよびスプライスアウトアクセスユニットにおいて、積分されたビットレート偏差の範囲(最大−最小)よりも1/2幅より小さい所定の間隔内の値を仮定しているか、または固定値、例えば全てのスプライスインAUおよびスプライスアウトAUsに等しい値であり、これは統合されたビットレート偏差の最大値の3/4より小さくてもよい。上述したように、この値はデフォルトで予め設定されていてもよい。あるいは、値は固定ではなく、すべてのスプライスインAUsとスプライスアウトAUsで同じではなく、データストリームで通知することもできる。
図7は、一実施形態によるオーディオデータストリームをスプライスするためのストリームスプライサを示す。ストリームスプライサは、参照符号100を用いて示され、第1のオーディオ入力インタフェース102、第2のオーディオ入力インタフェース104、スプライスポイントセッター106、およびスプライスマルチプレクサ108を含む。
インタフェース102において、ストリームスプライサは、「スプライス可能な」オーディオデータストリーム、すなわち、1つ以上のTUパケットが供給されるオーディオデータストリームを受信することを期待する。図7では、図2のオーディオデータストリーム40がインタフェース102でストリームスプライサ100に入ることが例示的に示されている。
別のオーディオデータストリーム110は、インタフェース104で受信されることが期待される。ストリームスプライサ100の実装に応じて、インタフェース104で入力されるオーディオデータストリーム110は、図1に関して説明されたものなどの「準備されていない」オーディオデータストリーム、または以下に例示的に示されるような準備されたものであってもよい。
スプライスポイントセッター106は、インタフェース102で入力されるデータストリームに含まれるトランケーションユニットパケット、すなわち、図7の場合にはデータストリーム40のTUパケット42および58を設定し、そして、インタフェース104に入る他のデータストリーム110のトランケーションユニットパケットが存在する場合、そのような2つのTUパケットが図7に例示的に示されている。すなわち、オーディオデータストリーム110の先端または第1のアクセスユニットAU'1内のTUパケット112と、オーディオデータストリーム110の最後または後続のアクセスユニットAU'K内のTUパケット114を含む。特に、図7では、オーディオデータストリーム40のアクセスユニットからオーディオデータストリーム110のアクセスユニットを区別するために、アポストロフィが使用されている。さらに、図7に関して概説された例では、オーディオデータストリーム110は、予め符号化され、固定長の、すなわちここではK個のアクセスユニットの、K個のオーディオフレームに対応すると仮定され、データストリーム40に符号化されたオーディオ信号が置換される。図7において、この置き換えられる時間間隔は、アクセスユニットAUiに対応するオーディオフレームからアクセスユニットAUjに対応するオーディオフレームに及ぶと仮定する。
特に、スプライスポイントセッター106は、以下により詳細に概説される方法で、トランケーションユニットパケットを設定するように構成されている。そのため、実際にトランケーションが行われることが明らかになる。例えば、インタフェース102および104に入るデータストリームのトランケーションユニット内のトランケーション長48は、ゼロに設定されてもよいが、スプライスポイントセッター106は、TUパケットの変換長48の設定を非ゼロ値に変更することができる。価値がどのように決定されるかは、以下で説明する主題です。
スプライスマルチプレクサ108は、このオーディオデータストリーム40のペイロードパケットのサブシーケンスを得るために、TUパケット42を有するアクセスユニットAUiなどのTUパケットを有するアクセスユニットにおいて、インタフェース102に入るオーディオデータストリーム40をカットするように構成される。すなわち、ここでは、図7において、アクセスユニットAUjに先行するアクセスユニットに対応するペイロードパケットのサブシーケンスを例示し、次に、このサブシーケンスをインタフェース104に入力する他のオーディオデータストリーム110のペイロードパケットのシーケンスとスプライシングして、互いに直ちに連続し、所定のアクセスユニットで互いに当接する。例えば、スプライスマルチプレクサ108は、アクセスユニットAU'1で始まるオーディオデータストリーム110のアクセスユニットAU'を付加して、そのアクセスユニットAUiに属するペイロードパケットを単に含めるように、アクセスユニットAUiでオーディオデータストリーム40を切断する。そのため、アクセスユニットAUiとAU'1は、互いに当接する。図7に示すように、スプライスマルチプレクサ108は、TUパケット58を含むアクセスユニットAUjの場合と同様に動作し、このとき、スプライスマルチプレクサ108は、アクセスユニットAUjに属するペイロードパケットで始まるデータストリーム40を、アクセスユニットAU'KがアクセスユニットAUjに隣接するように、オーディオデータストリーム110の終わりに付加する。
したがって、スプライスポイント設定部106は、その時点からオーディオデータストリーム110に符号化されたオーディオ信号によって、オーディオデータストリーム40のオーディオ信号が置換されるように、プレイアウト中に破棄される端部が後端部であることを示すために、アクセスユニットAUiのTUパケット42を設定する。トランケーションユニット58の場合、状況は異なる。ここでは、スプライスポイント設定部106は、プレイアウト中に破棄する端部が、アクセスユニットAUjを関連付けるオーディオフレームの先端部分であることを示すために、TUパケット58を設定する。TUパケット58が先端部分に関連している間に、TUパケット42が後端部分に関係するという事実は、例えば、一方ではTUパケット42のために、他方ではTUパケット58のために、異なるTUパケット識別子を使用することによって、インバウンドオーディオデータストリーム40から既に導出可能であることを想起されたい。
ストリームスプライサ100は、このようにして得られたスプライスされたオーディオデータストリームを出力インタフェース116に出力し、スプライスされたオーディオデータストリームは、参照符号120で示される。
スプライスマルチプレクサ108およびスプライスポイントセッター106がアクセスユニット上で動作する順序は、図7に示すようなものである必要はないことに留意されたい。すなわち、図7において、スプライスマルチプレクサ108の入力は、それぞれ、インタフェース102および104に接続され、その出力がスプライスポイントセッター106を介して出力インタフェース116に接続されていることを示唆しているが、スプライスマルチプレクサ108とスプライスポイントセッター106との間の順序を入れ替えることができる。
動作中、ストリームスプライサ100は、スプライスイン構文要素がスプライスインアクセスユニットに関連するものとして、それぞれのトランケーションユニットパケットを示すか否かの条件で、切断及びスプライシング動作を実行するように、オーディオデータストリーム40内のトランケーションユニットパケット52および58によって構成されるスプライスイン構文要素50を検査するように構成されてもよい。これは以下のことを意味する。今まで説明され、以下でより詳細に概説されるスプライスプロセスは、図2に関して説明したように、TUパケット42によってトリガされ、スプライスインフラグ50は、1にセットされる。したがって、このフラグを1に設定することは、ストリームスプライサ100によって検出され、そこで、以下で、より詳細に説明するスプライスイン動作が実行される。
上述したように、スプライスポイントセッター106は、TUパケット42のようなスプライスインTUパケットとTUパケット58のようなスプライスアウトTUパケットとの間の識別が関係する限り、トランケーションユニットパケット内の設定を変更する必要はない。しかし、スプライスポイント設定部106は、プレイアウト中に破棄するそれぞれの端部の時間的長さを設定する。このために、スプライスポイント設定部106は、外部クロックに従って、TUパケット42、58、112、114が参照する端部の時間的長さを設定するように構成されてもよい。この外部クロック122は、例えば、ビデオフレームクロックから生じる。例えば、オーディオデータストリーム40に符号化されたオーディオ信号が、ビデオに付随するトーン信号を表し、このビデオが図6のビデオ86であることを想像する。さらに、フレーム88に遭遇する、すなわちアドが挿入されるべき時間的部分84を開始するフレームを想像する。スプライスポイントセッター106は、対応するアクセスユニットAUiがTUパケット42を含むことをすでに検出しているかもしれないが、外部クロック122は、このビデオの本来のトーン信号が終了する正確な時間Tbにスプライスポイントセッター106に通知し、オーディオ信号は、データストリーム110に符号化される。例えば、このスプライスポイントの時間は、アドビデオによって置き換えられる第1のピクチャまたはフレームに対応する時間であってもよく、これはデータストリーム110に符号化されたトーン信号を伴う。
図7のストリームスプライサ100の動作モードをより詳細に説明するために、ストリームスプライサ100によって実行されるステップのシーケンスを示す図8を参照する。このプロセスは、重み付けループ130で始まる。すなわち、スプライスマルチプレクサ108および/またはスプライスポイントセッター106のようなストリームスプライサ100は、スプライスインポイント、すなわちトランケーションユニットパケット42が属するアクセスユニットについて、オーディオデータストリーム40をチェックする。図7の場合、アクセスユニットiは、チェック132がイエスでチェックをパスする最初のアクセスユニットであり、チェック132がループしてそれ自身に戻るまでである。スプライスインポイントアクセスユニットAUiが検出されると直ちに、スプライスインポイントアクセスユニットの後端部分(その先端)を外部クロック122から導出された時刻に登録するように、そのTUパケット、すなわち42が設定される。
スプライスポイントセッター106によるこの設定134の後、スプライスマルチプレクサ108は、現在のスプライスインアクセスユニットAUiの後に、データストリーム110のアクセスユニットは、オーディオデータストリーム40の後続のアクセスユニットではなく、出力インタフェース116に接続されるように、他のデータストリーム、すなわちオーディオデータストリーム110に切り替える。
第1のアクセスユニットAU'1に関連する第1のオーディオフレームの始まりと共に、このオーディオ信号は登録され、すなわちすぐに開始され、ストリームスプライサ100は、オーディオデータストリーム110に含まれるタイムスタンプ情報を単に適合させるだけであり、その結果、例えば、第1のアクセスユニットAU'1に関連する先端フレームのタイムスタンプは、スプライスイン時刻と一致し、すなわち、AUiの時刻とAUiに関連付けられたオーディオフレームの時間的長さとステップ134で設定された後端部分の時間的長さを足したものに等しい。すなわち、マルチプレクサスイッチング136の後、アダプテーション138は、データストリーム110のアクセスユニットAU’に対して連続的に実行されるタスクである。しかしながら、この時間の間に、次に説明するスプライスアウトルーチンも実行される。
具体的には、ストリームスプライサ100によって実行されるスプライスアウトルーチンは、待機ループによって開始され、それに従って、オーディオデータストリーム110のアクセスユニットは、TUパケット114と共に提供されるか、またはオーディオデータストリーム110を生成する。このチェック142は、一連のアクセスユニットAU'に対して連続的に実行される。スプライスアウトアクセスユニットに遭遇するとすぐに、すなわち図7の場合はAU'Kである場合、スプライスポイントセッター106は、このスプライスアウトアクセス部のTUパケット114を設定して、プレイアウト中に破棄する末尾部分を登録し、このアクセスユニットAUKに対応するオーディオフレームは、ビデオフレームのタイムスタンプ、すなわち、オーディオデータストリーム110にコード化されたトーン信号が属するアドの後の最初のタイムスタンプのような外部クロックから取得された時刻を有する。この設定144の後、スプライスマルチプレクサ108は、データストリーム110がインバウンドするその入力から、その他の入力に切り替える。特に、スイッチング146は、スプライスされたオーディオデータストリーム120において、アクセスユニットAUjがアクセスユニットAU'Kの直後に来るように実行される。特に、アクセスユニットAUjはデータストリーム40のアクセスユニットであり、そのオーディオフレームは、データストリーム110に符号化されたオーディオ信号の時間的長さに対応する時間量だけスプライスインアクセスユニットAUiに関連するオーディオフレームから時間的に離れているか、またはオーディオデータストリーム40のアクセスユニットのオーディオフレームの長さまたは半分の長さのような所定の量よりも少ない量だけ、そこから逸脱する。
その後、スプライスポイントセッター106は、ステップ148において、アクセスユニットAUjのTUパケット58に、アクセスユニットAUjのオーディオフレームの終端部分がプレイアウトされる時刻と、Kはステップ144で登録されていた。この測定によって、アクセスユニットAUjのオーディオフレームのタイムスタンプは、アクセスユニットAU'KのオーディオフレームのタイムスタンプにアクセスユニットAU'Kのオーディオフレームの時間的長さを足したものに等しく、アクセスユニットAU'Kのオーディオフレームの終端部分とアクセスユニットAUjのオーディオフレームの始端部分の合計を差し引いたものである。この事実は、以下でさらに提供される例を見ると、より明確になるであろう。
このスプライスインルーチンは、スイッチング146の後にも開始される。ピンポンと同様に、所定の部分、すなわちアクセスユニット間の部分を、一方ではTUパケットで他方ではTUパケット58で置き換え、再びオーディオストリーム40に戻すように、ストリームスプライサ100は、一方では連続オーディオデータストリーム40と所定長さのオーディオデータストリームとの間を切り換える。
インタフェース102から104への切替えは、スプライスインルーチンによって行われ、スプライスアウトルーチンは、インタフェース104から102へと導かれる。
しかしながら、図7に関して提供された例は、説明のために単に選択されたものであることも強調される。すなわち、図7のストリームスプライサ100は、適切な長さのオーディオ信号が第1のオーディオフレームを有する第1のアクセスユニットで符号化されたオーディオデータストリーム110によって1つのオーディオデータストリーム40から置き換えられる「ブリッジ」部分に限定されない オーディオ信号の先端に登録されてエンコードされて、置き換えられる時間部分に挿入される。むしろ、ストリームスプライサは、例えば、1回のスプライスプロセスのみを実行するためのものであってもよい。
さらに、オーディオデータストリーム110は、スプライスインされるべきオーディオ信号の先端に登録された最初のオーディオフレームを有することに限定されない。むしろ、オーディオデータストリーム110自体は、オーディオデータストリーム40の基礎となるオーディオフレームクロックとは独立して動作するそれ自身のオーディオフレームクロックを有する何らかのソースから生じる可能性がある。その場合、オーディオデータストリーム40からオーディオデータストリーム110への切り替えは、図8に示すステップに加えて、ステップ148に対応する設定ステップ、すなわちオーディオデータストリーム110のTUパケットの設定も含む。
ストリームスプライサの動作の上記説明は、TUパケットがプレイアウト中に破棄されるべき先端部分を示すスプライスされたオーディオデータストリーム120のAUのタイムスタンプに関して変更されてもよいことに留意されたい。AUの元のタイムスタンプを残す代わりに、ストリームマルチプレクサ108は、元のタイムスタンプに先行部分の時間的長さを加算して、それによって先端部分の後端を指し示すことによって元のタイムスタンプを修正するように構成することができ、従って、AUのオーディオフレームフラグメントが実際にプレイアウトされる時間までの時間である。この代替案は、後述する図16のタイムスタンプの例で示されている。
図10は、本出願の一実施形態によるオーディオデコーダ160を示す。例示的に、オーディオデコーダ160は、ストリームスプライサ100によって生成されたスプライスされたオーディオデータストリーム120を受信するものとして示されている。しかしながら、ストリームスプライサに関してなされた記述と同様に、図10のオーディオデコーダ160は、図7〜図9に関して説明した種類のスプライスされたオーディオデータストリーム120に限定されず、1つのベースオーディオデータストリームは、対応するオーディオ信号長が符号化されている他のオーディオデータストリームによって予備的に置き換えられる。
オーディオデコーダ160は、スプライスされたオーディオデータストリームを受信するオーディオデコーダコア162と、オーディオトランケータ164とを含む。オーディオデコードコア162は、インバウンドオーディオデータストリーム120のペイロードパケットのシーケンスからオーディオ信号のオーディオフレームの単位でオーディオ信号の再構成を実行する。ここで、上述したように、ペイロードパケットは、スプライスされたオーディオデータストリーム120が分割(区画)されているアクセスユニットのシーケンスの1つである。各アクセスユニット120がオーディオフレームのそれぞれに関連付けられているので、オーディオデコードコア162は、オーディオフレームおよび関連するアクセスユニットごとに再構成されたオーディオサンプルをそれぞれ出力する。上述したように、復号化は、逆スペクトル変換を含むことができ、オーバーラップ/加算プロセスまたはオプションで予測符号化の概念のため、オーディオ復号化コア162は、追加の使用中に、すなわち、先行アクセスユニットである。しかし、アクセスユニットAUjなどの即時のプレイアウトアクセスユニットが到着すると、オーディオ復号化コア162は、前のアクセスユニットからのデータを必要とせずに、即時のプレイアウトを可能にするために追加のデータを使用することができる。さらに、上述したように、オーディオ復号化コア162は、線形予測復号を用いて動作することができる。すなわち、オーディオ復号化コア162は、合成フィルタを形成するために各アクセスユニットに含まれる線形予測係数を使用し、例えば変換復号、すなわち逆変換、テーブルルックアップを含むアクセスユニットからの励起信号を復号することができるこのようにして得られた励起信号を合成フィルタにかけるか、あるいはスペクトル領域の励起信号を、対応するように形成された伝達関数を用いて整形することにより、それぞれのアクセスユニットに含まれるインデックスおよび/または予測符号化または内部状態更新合成フィルタの伝達関数に変換する。オーディオトランケータ164は、オーディオデータストリーム120に挿入されたトランケーションユニットパケットに応答し、そのようなTUパケットを有するあるアクセスユニットに関連するオーディオフレームをトランケーションして、その端部を破棄し、このことは、TUパケットのプレイアウトにおいて破棄されることが示される。
図11は、図10のオーディオデコーダ160の動作モードを示す。新しいアクセスユニットを検出する170と、オーディオデコーダは、このアクセスユニットが即時のプレイアウトモードを使用して符号化されたアクセスユニットであるかどうかをチェックする。現在のアクセスユニットが即時のプレイアウトフレームアクセスユニットである場合、オーディオ復号化コア162は、このアクセスユニットを、この現在のアクセスユニットに関連するオーディオフレームを再構成するための自己完結した情報源として扱う。すなわち、上述のように、オーディオ復号化コア162は、このアクセスユニットに符号化されたデータに基づいて、現在のアクセスユニットに関連するオーディオフレームを再構成するための内部レジスタを事前充填することができる。追加的または代替的に、オーディオ復号化コア162は、非IPFモードのように、任意の先行アクセスユニットからの予測の使用を控える。追加的または代替的に、オーディオ復号化コア162は、現在のアクセスユニットのオーディオフレームの時間的に先端のエイリアシング解除のために、任意の先行アクセスユニットまたはその前のオーディオフレームとのオーバーラップ加算プロセスを実行しない。むしろ、例えば、オーディオ復号化コア162は、現在のアクセスユニット自体から時間的エイリアシングキャンセル情報を導出する。したがって、チェック172は、現在のアクセスユニットがIPFアクセスユニットであることを明らかにする場合、IPFデコードモード174は、オーディオデコードコア162によって実行され、それによって、現在のオーディオフレームの再構成が得られる。あるいは、チェック172は、現在のアクセスユニットがIPFではないことを明らかにする場合、オーディオ復号化コア162は、通常の非IPF復号化モードとして現在のアクセスユニットに適用する。すなわち、前のアクセスユニットを処理した後、オーディオ復号コア162の内部レジスタをそのまま採用してもよい。代替的にまたは追加的に、現在のアクセスユニットのオーディオフレームの時間的に後続する端部を再構成するのを助けるために、オーバーラップ加算プロセスを使用することができる。代替的または追加的に、先行アクセスユニットからの予測が使用されてもよい。非IPFデコーディング176はまた、現在のアクセスユニットのオーディオフレームの再構成において終了する。次のチェック178は、切り捨てが実行されるべきかどうかをチェックする。チェック178は、オーディオトランケータ164によって実行される。具体的には、オーディオトランケータ164は、現在のアクセスユニットがTUパケットを有するかどうか、およびTUパケットがプレイアウト中に破棄されるべきエンド部分を示すかどうかをチェックする。例えば、オーディオトランケータ164は、TUパケットが現在のアクセスユニットのデータストリームに含まれているかどうか、およびスプライスアクティブフラグ52がセットされているかどうか、および/またはトランケーション長さ48がゼロでないかどうかをチェックする。トランケーションが行われない場合、ステップ174またはステップ176のいずれかから再構成された再構成オーディオフレームは、ステップ180において完全にプレイアウトされる。しかし、トランケーションが実行される場合、オーディオトランケータ164は、トランケーションを実行し、残りの部分のみがステップ182でプレイアウトされる。TUパケットによって示される端部が終端部分である場合、再構成されたオーディオフレームの残りは、そのオーディオフレームに関連付けられたタイムスタンプから開始されてプレイアウトされる。先端部分であるTUパケットによってプレイアウト中に破棄された端部が示されている場合には、このオーディオフレームのタイムスタンプに先端部分の時間長を加えたものにオーディオフレームの残りの部分がプレイアウトされる。すなわち、現在のオーディオフレームの残りの部分のプレイアウトは、先端部分の時間的長さによって遅延される。その後、プロセスは、次のアクセスユニットによってさらに遂行される。
図10の例を参照すると、オーディオ復号化コア162は、アクセスユニットAUi-1およびAUiに通常の非IPF復号化176を実行する。しかしながら、後者はTUパケット42を有する。このTUパケット42は、プレイアウト中に破棄されるべき後端部分を示し、したがって、オーディオトランケータ164は、アクセスユニットAUiに関連するオーディオフレーム14の後端184がプレイアウトされることを防止し、すなわち、出力オーディオ信号186を形成することに関与しているからである。以下、アクセスユニットAU'1が到着する。即時のプレイアウトフレームアクセスユニットも同じであり、それに応じてステップ174のオーディオ復号化コア162によって処理される。オーディオ復号化コア162は、例えば、それ自体の2つ以上のインスタンス化を開く能力を含むことができることに留意されたい。すなわち、IPF復号化が実行されるときはいつでも、これはオーディオ復号化コア162の更なるインスタンス化の開始を伴う。いずれにせよ、アクセスユニットAU'1がIPFアクセスユニットであるので、そのオーディオ信号が、その前のAUi-1およびAUiと比較して完全に新しいオーディオシーンに実際に関連していることは重要ではない。オーディオ復号化コア162はそれを気にしない。むしろ、それは自己完結型アクセスユニットとしてアクセスユニットAU'1を取り、そこからオーディオフレームを再構成する。
先行アクセスユニットAU'1のオーディオフレームの終端部分の長さは、ストリームスプライサ100によって、高い確実性で設定されているので、アクセスユニットAU'1のオーディオフレームの始まりは、アクセスユニットAUiのオーディオフレームの残りの後端に直ちに接する。すなわち、それらは、アクセスユニットAUiのオーディオフレームの中間のどこかの遷移時間T1に当接する。アクセスユニットAU'Kに遭遇すると、オーディオ復号化コア162は、ステップ176でこのアクセスユニットを復号して、このオーディオフレームを表示または再構成し、このオーディオフレームは、そのTUパケット114による後端部分の表示のために、その後端でトランケーションされる。したがって、後端部分までのアクセスユニットAU'Kのオーディオフレームの残りのみがプレイアウトされる。そして、アクセスユニットAUjは、IPFデコード174においてオーディオデコードコア162によって、すなわちアクセスユニットAU'Kとは独立して自己完結的にデコードされ、そこから得られたオーディオフレームは、その先端がトランケーションユニットパケット58としてトランケートされる先端部分を示す。アクセスユニットAU'KおよびAUjのオーディオフレームの残りの部分は、遷移時刻T2で互いに当接する。
上述の実施形態は、基本的に、関連するアクセスユニットを復号した後に、あるオーディオフレームのオーディオサンプルを廃棄するべきかどうかを記述するシグナリングを使用する。上述の実施形態は、例えば、MPEG−H 3Dオーディオのようなオーディオコーデックを拡張するために適用されてもよい。MPEG−H 3Dオーディオ規格は、MHASと呼ばれるMPEG−H 3Dオーディオデータを変換するための自己完結型ストリームフォーマットを定義している[2]。上述の実施形態に沿って、上述のトランケーションユニットパケットのトランケーションデータは、MHASレベルでシグナリングすることができる。そこでは、容易に検出することができ、図7のストリームスプライサ100のようなストリームスプライシング装置によって、その場で容易に変更することができる。このような新しいMHASパケットタイプは、例えば、PACTYP CUTRUNCATIONでタグ付けすることができる。このパケットタイプのペイロードは、図12に示す構文を有することができる。図12の特定のシンタックス例と、図3および図4に関して上述した説明との一致を容易にするために、例えば、図3および図4の参照符号は、図12の対応する構文要素を識別するため再利用されている。セマンティクスは、以下のようになる。
IsActive:切り捨てメッセージがアクティブな場合、0の場合、デコーダはメッセージを無視する必要がある。
CanSplice:スプライスデバイスがスプライスを開始できることを伝える。
TruncRight:ここに続けなさい。 (注:これは基本的には広告開始フラグであるが、スプライシングデバイスはデコーダに情報を持たないため、0にリセットすることができる)。
NTruncSamples:AUの末尾からサンプルをトランケートする場合、1がAUの先端からサンプルを切り取る場合。
MHASストリームは、MHASパケットペイロードが常にバイトアライメントされていることを保証するので、トランケーション情報は、即時に容易にアクセス可能であり、例えば、ストリームスプライシング装置によって、容易に挿入することができ、削除または変更することができる。MPEG−H 3Dオーディオストリームは、すべてのAUについて、またはisActive が0に設定された適切なAUのサブセットに対して、PACType PACTYP CUTRUNCATIONを有するMHASパケットタイプを含むことができる。次に、ストリームスプライシング装置は、このMHASパケットを必要に応じて変更することができる。そうでなければ、ストリームスプライシング装置は、後述するように、有意なビットレートオーバーヘッドを追加することなく、そのようなMHASパケットを容易に挿入することができる。MPEG−H 3Dオーディオの最大グラニュールサイズは4096サンプルです。したがって、nTruncSamplesの13ビットですべての有意義なトランケーション値を通知するのに十分である。nTruncSamplesと3つの1ビットフラグは、一緒になって、16ビットまたは2バイトを占め、それ以上のバイトアライメントは必要ない。
図13A〜図13Cは、CUトランケーションの方法を使用して、サンプル正確なストリームスプライシングを実施する方法を示す。
図13Aは、ビデオストリームおよびオーディオストリームを示す。ビデオフレーム番号5では、プログラムは異なるソースに切り替えられる。新しいソースのビデオとオーディオのアライメントは、古いソースのアライメントとは異なる。古いストリームの最後のCUの終わりおよび新しいストリームの始めにデコードされたオーディオPCMサンプルのサンプルを正確に切り換えることを可能にするためには、これを除去しなければならない。デコードされたPCMドメインの短期間のクロスフェーディングが、出力PCM信号の不具合を避けるために必要となることがある。図13Aは、具体的な値の例を示す。何らかの理由でAUS/CUSのオーバーラップが望ましくない場合、図13Bおよび図13Cに示す2つの可能な解決策が存在する。新しいストリームの最初のAUは新しいストリーム用のコンフィギュレーションデータと、新しいコンフィギュレーションでデコーダを初期化するために必要なすべてのプレロールを持っていなければならない。これは、MPEG−H 3Dオーディオ規格で定義されている即時のプレイアウトフレーム(IPF)を用いて行うことができる。
CUトランケーション方法の別のアプリケーションは、MPEG−H 3Dオーディオストリームの構成を変更することである。異なるMPEG−H 3Dオーディオストリームは、非常に異なる構成を有し得る。例えば、ステレオプログラムの後に、11.1チャンネルおよび追加のオーディオオブジェクトを含むプログラムを続けることができる。この構成は、通常、オーディオストリームのグラニュールと整列していないビデオフレームの境界で変化する。CUトランケーションの方法は、図14に示すように、サンプルの正確なオーディオ構成の変更を実装するために使用できる。
図14は、ビデオストリームおよびオーディオストリームを示す。ビデオフレーム番号5では、プログラムは異なる構成に切り替えられる。新しいオーディオ構成の最初のCUは、構成の変更が発生したビデオフレームに合わせられる。サンプルの正確な構成変更を有効にするには、古い構成の最後のCUの最後にあるオーディオPCMサンプルを削除する必要がある。新しいコンフィギュレーションを持つ最初のAUは、新しいコンフィギュレーションデータと、新しいコンフィギュレーションのデコーダを初期化するために必要なすべてのプリロールを伝送する必要がある。これは、MPEG−H 3Dオーディオ規格で定義されている即時のプレイアウトフレーム(IPF)を用いて行うことができる。エンコーダは、古い構成のPCMオーディオサンプルを使用して、両方の構成に存在するチャネルの新しい構成のプリロールをエンコードすることができる。例:構成の変更がステレオから11.1までの場合、新しい11.1構成の左右のチャネルは、古いステレオ構成の左右のプリロールデータ形式を使用できる。新しい11.1構成の他のチャネルは、プレロールのためにゼロを使用する。図15は、この例のエンコーダ動作およびビットストリーム生成を示す。
図16は、スプライス可能またはスプライスされたオーディオデータストリームのさらなる例を示す。例えば、図16Aを参照されたい。図16Aは、例示的に7つの連続したアクセスユニットAU1〜AU7を含むスプライス可能なオーディオデータストリームの一部を示す。第2および第6のアクセスユニットは、それぞれTUパケットを備えている。フラグ52をゼロに設定することによって、両方が使用されない、すなわち非アクティブである。アクセスユニットAU6のTUパケットは、IPFタイプのアクセスユニットによって構成され、すなわち、データストリームへのスプライスを可能にする。Bにおいて、図16は、アドの挿入後のAのオーディオデータストリームを示す。このアドは、アクセスユニットAU'1〜AU'4のデータストリームにコード化される。CおよびDにおいて、図16は、AおよびBと比較して修正されたケースを示す。特に、アクセスユニットAU1...のオーディオデータストリームのオーディオエンコーダは、アクセスユニットAU6のオーディオフレーム内のどこかで符号化設定を変更することを決定している。したがって、Cの元のオーディオデータストリームは、タイムスタンプ6.0の2つのアクセスユニット、すなわちAU6およびAU'1をそれぞれ含み、それぞれ後端部分および先端部分(前端部分)はプレイアウト中に破棄されるように指示される。ここで、トランケーションのアクティブ化は、オーディオデコーダによって既にプリセットされている。それにもかかわらず、AU'1アクセスユニットは依然としてスプライスバックインアクセスユニットとして使用可能であり、この可能性はDに示されている。
スプライスアウトポイントで符号化設定を変更する例をEおよびFに示す。最後に、GおよびHにおいて、図16のAおよびBの例は、アクセスユニットAU5を提供する別のTUパケットによって拡張され、スプライスインまたはコンティニューポイントとして機能することができる。
上述したように、TUパケットによるオーディオデータストリームのアクセスユニットのプリプロビジョニングは、これらのTUパケットのビットレート消費をアクセスユニットの非常に早い段階で考慮に入れる能力の点で好ましいがこれは必須ではない。例えば、図7〜図9に関して上述したストリームスプライサは、第1のインタフェース102におけるインバウンドオーディオデータストリーム内のTUパケットの発生以外の手段によってスプライスインポイントまたはスプライスアウトポイントを識別する点で変更することができる。例えば、スプライスインおよびスプライスアウトポイントの検出に関しても、ストリームスプライサは外部クロック122に反応することができる。この代替案によれば、スプライスポイントセッター106は、TUパケットを設定するだけでなく、それらをデータストリームに挿入する。但し、オーディオエンコーダは準備作業から解放されないことに注意して下さい。オーディオエンコーダは、スプライスバックインポイントとして機能するアクセスユニットのIPFコーディングモードを選択する必要がある。
最後に、図17は、良好なスプライス技術が、異なるコーディング構成間で変更可能なオーディオエンコーダ内でも使用され得ることを示す。図17のオーディオエンコーダ70は、図5のものと同じ方法で構成されているが、今回は、オーディオエンコーダ70が構成変更トリガ200に応答する。すなわち、図16のケースCを参照されたい。オーディオ符号化コア72は、オーディオ信号12をアクセスユニットAU1〜AU6に連続的に符号化する。アクセスユニットAU6のオーディオフレーム内のどこかで、構成変更時間がトリガ200によって示される。
したがって、オーディオ符号化コア72は、同じオーディオフレームラスタを使用して、アクセスユニットAU6の現在のオーディオフレームを、より多くの符号化オーディオチャネルなどを含むオーディオ符号化モードなどの新しい構成を使用して符号化する。オーディオ符号化コア72は、IPF符号化モードを追加して新たな構成を使用して、オーディオフレームを他の時間に符号化する。これにより、アクセスユニットAU'1になり、アクセスユニットAU'1がアクセスユニットの順序にすぐに続く。両方のアクセスユニット、すなわちアクセスユニットAU6およびアクセスユニットAU'1には、TUパケットインサータ74によってTUパケットが提供され、前者は後端部分が払い出されるように示され、後者は先端部分が払い出されるように示されている。後者は、IPFアクセスユニットであるため、スプライスバックインポイントとしても機能する。
上述した実施形態の全てについて、おそらく、スプライスされたオーディオデータストリームのAUのサブシーケンスからスプライスアウトAU(例えばAUi)までの再構成されたオーディオ信号をクロスフェーディングがデコーダで実行されることに留意すべきである。このスプライスアウトAUのオーディオフレームの後端部分の先端で実際に終端されるはずであり、一方では、スプライスアウトAU(AU’1など)を直ちに続いて起こるAUからのスプライスされたオーディオデータストリームのAUのサブシーケンスから再構築されたオーディオ信号は、後継AUのオーディオフレームの先端から直ぐに開始されることになっている可能性があり、または後継AUのオーディオフレームの先端部分の後端で開始されるはずである。
すなわち、プレイアウトされるべき直ぐ連続するAUの部分が互いに突き当たるタイムスタンプを囲んで横切る時間的な間隔内で、復号器によってスプライスされたオーディオデータストリームからプレイアウトされるように実際にプレイアウトされたオーディオ信号は、直ちに隣接する両方のAUのオーディオフレームの組み合わせによって形成することができ、後続のAUのオーディオフレームの組合せ寄与は、この時間間隔内で時間的に増加し、スプライスアウトAUのオーディオフレームの組合せ寄与は、時間間隔において時間的に減少する。
同様に、クロスフェードは、AUjなどのスプライスインAUSとその直前のAU(AU'Kなど)との間で実行できる。すなわち、その時点を取り囲んで横切る時間間隔内でスプライスインAUのーディオフレームと先行AUのオーディオフレームとの組み合わせによって、実際的なプレイアウトされたオーディオ信号を形成し、これでスプライスインAU'Sのオーディオフレームの先端部分と先行AU'Sのオーディオフレームの終端部分とが当接する。
上記の実施形態の別の表現を使用すると、トランスポートストリームによって利用可能な帯域幅を利用する可能性、および使用可能なデコーダMHz:オーディオスプライスポイントメッセージの一種が、それが置き換えるオーディオフレームとともに送信される。スプライスポイントの周りの出力オーディオおよび入力オーディオの両方がデコードされ、それらの間のクロスフェードが実行されてもよい。オーディオスプライスポイントメッセージは、単にクロスフェードを行う場所をデコーダに指示する。スプライスがPCMドメインに正しく登録されているため、これは本質的に「完全な」スプライスである。
したがって、以上の説明は、特に、以下の側面を明らかにした:
A1. スプライス可能なオーディオデータストリーム40であって、前記スプライス可能なオーディオデータストリーム40は、一連のペイロードパケット16のシーケンスを含み、前記各ペイロードパケットは、前記スプライス可能なオーディオデータストリームが分割される前記一連のアクセスユニット18のそれぞれの1つに属し、各アクセスユニットは、オーディオフレームの単位で前記スプライス可能なオーディオデータストリームに符号化されるオーディオ信号12のオーディオフレーム14のそれぞれの1つの前記オーディオフレーム14に関連付けられ、そして、
前記スプライス可能なオーディオデータストリーム40は、所定のアクセスユニットのために、スプライス可能なオーディオデータストリームに挿入され、且つ、示すようにセット可能となっているトランケーションユニットパケット42;58と、プレイアウト中に破棄するように、前記所定のアクセスユニットが関連付けられているオーディオフレーム端部44;56とを、含む、スプライス可能なオーディオデータストリーム。
A2. 態様A1に従属するスプライス可能なオーディオデータストリームであって、オーディオフレームの端部が後端部分44である。
A3. 態様A1または態様A2に従属するスプライス可能なオーディオデータストリームであって、
前記スプライス可能なオーディオデータストリームは、前記スプライス可能なオーディオデータストリームに挿入され、更なる所定のアクセスユニットを示すようにセット可能な更なるトランケーションユニットパケット(58)と、プレイアウト中に破棄されるように、前記更なる所定のアクセスユニットが関連付けられている更なるオーディオフレームの端部44;56とを含む、スプライス可能なオーディオデータストリームである。
A4. 態様A3に従属するスプライス可能なオーディオデータストリームであって、さらなるオーディオフレームの端部は、先端部分56である。
A5. 態様A3または態様A4に従属するスプライス可能なオーディオデータストリームであって、前記トランケーションユニットパケット42およびさらなる前記トランケーションユニットパケット58は、スプライスアウト構文要素50を含み、前記スプライスアウト構文要素50は、それぞれ、前記トランケーションユニットパケットまたは前記さらなるトランケーションユニットパケットのそれぞれ1つが、スプライスアウトアクセスユニットに関連するかどうかを示す。
A6. 態様A3〜態様A5のいずれかに従属するスプライス可能なオーディオデータストリームであって、例えばAUiなどの前記所定のアクセスユニットは、復号化する側での再構成が前記所定のアクセスユニットの直前のアクセスユニットに依存するように、それぞれの関連するオーディオフレームをある方法で符号化し、大部分のアクセスユニットは、復号化する側での再構成がそれぞれの直前のアクセスユニットに依存するように、それぞれの関連するオーディオフレームをある方法で符号化し、前記更なる所定のアクセスユニットAUjは、復号化する側での再構成が前記さらなる所定のアクセスユニットの直前のアクセスユニットとは独立しているように、それぞれの関連するオーディオフレームをある方法で符号化し、それにより即時のプレイアウトを可能にする。
A7. 態様A6に従属するスプライス可能なオーディオデータストリームであって、前記トランケーションユニットパケット42および前記更なるトランケーションユニットパケット58は、それぞれ、前記トランケーションユニットパケットまたは前記更なるトランケーションユニットパケットのそれぞれの1つが、前記スプライスアウトアクセスユニットに関連するか否かを示す、スプライスアウト構文要素(50)を含み、前記トランケーションユニットパケットに含まれる前記スプライスアウト構文要素(50)は、前記トランケーションユニットパケットがスプライスアウトアクセスユニットに関連することを示し、前記更なるトランケーションユニットパケットに含まれる前記構文要素は、前記更なるトランケーションユニットパケットがスプライスアウトアクセスユニットに関係しないことを示す。
A8. 態様A6に従属するスプライス可能なオーディオデータストリームであって、前記トランケーションユニットパケット42および前記更なるトランケーションユニットパケット58は、それぞれ、前記トランケーションユニットパケットまたは前記更なるトランケーションユニットパケットのそれぞれの1つが、スプライスアウトアクセスユニットに関連するか否かを示す、スプライスアウト構文要素を含み、前記トランケーションユニットパケットに含まれる前記構文要素50は、前記トランケーションユニットパケットがスプライスアウトアクセスユニットに関連することを示し、前記更なるトランケーションユニットパケットに含まれる前記スプライスアウト構文要素は、前記更なるトランケーションユニットパケットがスプライスアウトアクセスユニットに関連することを示し、前記更なるトランケーションユニットパケットは、先端/後端のトランケーション構文要素54およびトランケーション長さ要素48を含み、先端/後端のトランケーション構文要素は、前記更なるオーディオフレームの端部が、後端部分44または先端部分56であるかどうか示すためのものであり、トランケーション長さ要素は、前記更なるオーディオフレームの端部の長さΔtを示すためのものである。
A9. 前記所定のアクセスユニットにおいて、所定の平均ビットレートからの統合されたビットレートの偏差が前提となるために、前記所定の平均ビットレートの周りで変化するようにレート制御される態様A1〜態様A8のいずれかに従属するスプライス可能なオーディオデータストリームであって、前記スプライス可能なオーディオデータストリームは、完全なスプライス可能なオーディオデータストリームにわたって変動する統合されたビットレート偏差の範囲よりも1/2幅未満の所定の間隔内の値をとるようにする。
A10. 前記所定のアクセスユニットにおいて、所定の平均ビットレートからの統合されたビットレートの偏差が前提となるために、前記所定の平均ビットレートの周りで変化するようにレート制御される態様A1〜態様A8のいずれかに従属するスプライス可能なオーディオデータストリームであって、前記スプライス可能なオーディオデータストリームは、前記所定のアクセスユニットにおいて、完全なスプライス可能なオーディオデータストリームにわたって変動する統合されたビットレート偏差の最大値の3/4より小さい固定値を有する。
A11. 前記所定のアクセスユニットにおいて、所定の平均ビットレートからの統合されたビットレートの偏差が前提となるために、前記所定の平均ビットレートの周りで変化するようにレート制御される態様A1〜態様A8のいずれかに従属するスプライス可能なオーディオデータストリームであって、前記スプライス可能なオーディオデータストリームは、前記所定のアクセスユニットと、トランケーションユニットパケットが前記スプライス可能なオーディオデータストリーム内に存在する他のアクセスユニットとの間で、所定の値を有する。
B1. スプライス可能なオーディオデータストリームであって、前記スプライス可能なオーディオデータストリームは、一連のペイロードパケット16を含み、前記各ペイロードパケットは、前記スプライス可能なオーディオデータストリームが分割される前記一連のアクセスユニット18のそれぞれの1つに属し、各アクセスユニットは、オーディオ信号12のオーディオフレーム14のそれぞれの1つの前記オーディオフレーム14に関連付けられ、
そして、前記スプライス可能なオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、所定のアクセスユニットが関連付けられているオーディオフレームの内のプレイアウト中に破棄されるべきオーディオフレームの端部44,56を示すトランケーションユニットパケット42、58、114を含み、
前記一連のペイロードパケットの第1サブシーケンスのペイロードパケットにおいて、各ペイロードパケットは、前記第1のオーディオ信号のオーディオフレームの単位で第1オーディオ信号を符号化した第1のオーディオデータストリームのアクセスユニットAU#に属し、前記第1のオーディオデータストリームのアクセスユニットは、前記所定のアクセスユニットを含み、
前記一連のペイロードパケットの第2サブシーケンスのペイロードパケットにおいて、各ペイロードパケットは、前記第2のオーディオデータストリームのオーディオフレームの単位で第2のオーディオ信号を符号化した第2のオーディオデータストリームのアクセスユニットAU’#に属し、
ペイロードパケットの前記第1および前記第2のサブシーケンスは、互いに直ちに連続し、所定のアクセスユニットにおいて互いに当接し、前記端部は、前記第2のサブシーケンスに先行する前記第1のサブシーケンスの場合には後端部分44であり、前記第1のサブシーケンスに先行する前記第2のサブシーケンスの場合には先端部分56である。
B2. 態様B1に従属するスプライスされたオーディオデータストリームであって、前記第1のサブシーケンスが前記第2のサブシーケンスに先行し、前記端部が後端部分44として先行する。
B3. 態様B1または態様B2に従属するスプライスされたオーディオデータストリームであって、前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、且つ、プレイアウト中に破棄するように、更なる所定のアクセスユニットが関連付けられている更なるオーディオフレームの先端部分58を示すさらなるトランケーションユニットパケット58をさらに含み、一連のペイロードパケットの第3のサブシーケンスのペイロードパケットにおいて、各ペイロードパケットは、第3のオーディオ信号が符号化された第3のオーディオデータストリームのアクセスユニットAU’’#、または前記第1のサブシーケンスのペイロードパケットが属する前記第1のオーディオデータストリームのアクセスユニットに続いて、前記第1のオーディオデータストリームのアクセスユニットAU#に属し、前記第3のオーディオデータストリームのアクセスユニットは、前記さらなる所定のアクセスユニットを含む。
B4. 態様3に従属するスプライスされたオーディオデータストリームであって、前記所定のアクセスユニットを含む前記スプライスされたオーディオデータストリームのアクセスユニットの大部分は、復号する側での再構成がそれぞれの直前のアクセスユニットに依存するように、それぞれの関連するオーディオフレームを符号化し、例えばAUi+1などの前記アクセスユニットは、所定のアクセスユニットの直後に位置し、その再構成が例えばAUiなどの所定のアクセスユニットから独立するように、それぞれの関連するオーディオフレームを符号化した前記第2のオーディオデータストリームのアクセスユニットのオンセットを形成し、それによって即時のプレイアウトが可能となり、そして、前記更なる所定のアクセスユニットAUjは、その再構成が別の所定のアクセスユニットの直前のアクセスユニットから独立するように、更なるオーディオフレームを符号化して、それによってそれぞれ即時のプレイアウトが可能となっている。
B5. 前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、プレイアウトにおいて破棄されるように、たとえばAUjなどの前記更なる所定のアクセスユニットの直前のたとえばAU'Kなどの前記アクセスユニットを関連付ける別のオーディオフレームの後端部分44を示す更なるトランケーションユニットパケット114をさらに含み、
前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームの各アクセスユニットに対して、それぞれのアクセスユニットが関連付けられているオーディオフレームがプレイアウトされるタイムスタンプを示すタイムスタンプ情報24を含み、
前記更なる所定のアクセスユニットのタイムスタンプは、前記更なる所定のアクセスユニットの直前のアクセスユニットのタイムスタンプに、前記更なる所定のアクセスユニットの直前のアクセスユニットが、更なるオーディオフレームの先端部分の時間的長さと更に別のオーディオフレームの後端部分の合計を差し引いて関連付けられる前記オーディオフレームの時間的長さを加えたものに等しいか、
または前記更なる所定のアクセスユニットの直前のアクセスユニットのタイムスタンプに、前記更なる所定のアクセスユニットの直前のアクセスユニットが関連する前記オーディオフレームの時間的長さを加えたものと等しく、さらに別のオーディオフレームの前記後端部分の前記時間的長さを差し引いたものである。
B6. 態様B2に従属するスプライシングされたオーディオデータストリームであって、前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、AU'K等の前記所定のアクセスユニットの直後のAUj等の前記アクセスユニットが関連付けられてプレイアウト中に破棄される更なる別のオーディオフレームの先端部分56を示すさらに更なる別のトランケーションユニットパケット58をさらに含み、スプライスされたオーディオデータストリームは、それぞれのアクセスユニットが関連付けられているオーディオフレームがプレイアウトされるべき場所でスプライスされたオーディオデータストリームの各アクセスユニットに対して、それぞれのタイムスタンプを示すタイムスタンプ情報24を含み、
前記所定のアクセスユニットの直後のアクセスユニットのタイムスタンプは、前記所定のアクセスユニットの前記タイムスタンプに、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの前記後端部分の時間的長さと、前記更なる別のアクセスユニットの前端部分との合計を差し引いた前記オーディオフレームの時間長さを加えたものに等しいか、または
前記所定のアクセスユニットの直後のアクセスユニットのタイムスタンプは、前記所定のアクセスユニットのタイムスタンプに、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの前記後端部分の前記時間的長さを差し引いた前記所定のアクセスユニットが関連付けられている前記オーディオフレームの時間的長さを加えたものに等しい。
B7. 態様B6に従属するスプライスされたオーディオデータストリームであって、前記スプライスされたオーディオデータストリームのアクセスユニットの大部分は、復号側でのその再構成が直前の各アクセスユニットに依存可能な方法で、前記それぞれの関連するオーディオフレームを符号化し、前記所定のアクセスユニットの直後に位置し、前記第2のオーディオデータストリームの前記アクセスユニットのオンセットを形成することは、復号化側での前記再構成は所定のアクセスユニットから独立しており、それにより即時にプレイアウトが可能となる方法で、前記それぞれの関連するオーディオフレームを符号化する。
B8. 態様B7に従属するスプライシングされたオーディオデータストリームであって、前記第1および第2のオーディオデータストリームは、異なる符号化構成を使用して符号化され、前記アクセスユニットは、前記所定のアクセスユニットの直後に位置し、前記第2のオーディオデータストリームの前記アクセスユニットのオンセットを形成して、デコーダを新たに構成するための構成データcfgを符号化する。
B9. 態様B4に従属するスプライスされたオーディオデータストリームであって、前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、前記所定のアクセスユニットの直後の前記アクセスユニットが関連付けられてプレイアウト中に破棄される更なる別のオーディオフレームの先端部分を示すさらに更なる別のトランケーションユニットパケット112をさらに含み、スプライスされたオーディオデータストリームは、それぞれのアクセスユニットが関連付けられているオーディオフレームがプレイアウトされるべき場所でスプライスされたオーディオデータストリームの各アクセスユニットに対して、それぞれのタイムスタンプを示すタイムスタンプ情報24を含み、
前記所定のアクセスユニットの直後の前記アクセスユニットのタイムスタンプは、前記所定のアクセスユニットの前記タイムスタンプに、前記更に別のオーディオフレームの前記先端部分の時間的長さと前記所定のアクセスユニットに関連する前記オーディオフレームの前記後端部分の時間的長さとの合計を差し引いた前記所定のアクセスユニットに関連付けられた前記オーディオフレームの時間長を足したものに等しいか、または
前記所定のアクセスユニットの前記タイムスタンプに、前記所定のアクセスユニットに関連付けられた前記オーディオフレームの時間的長さを加えたものから所定のアクセスユニットに関連するオーディオフレームの前記後端部分の時間的長さを差し引いた時間的長さに等しい。
B10. 態様B4、B5またはB9に従属するスプライシングされたオーディオデータストリームであって、前記所定のアクセスユニットの直後の前記アクセスユニットのタイムスタンプの時間は、前記所定のアクセスユニットのタイムスタンプに、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの時間的長さを加えたものに等しく、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの前記後端部の時間的長さを差し引いたものである。
C1. オーディオデータストリームをスプライシングするためのストリームスプライサであって、
第1のオーディオデータストリームが分割された一連のアクセスユニット18のそれぞれの1つに属し、前記第1のオーディオデータストリームの各アクセスユニットは、第1のオーディオ信号12のオーディオフレーム14の単位で前記第1のオーディオデータストリームに符号化される前記第1のオーディオ信号のオーディオフレームのそれぞれ1つに関連し、一連のペイロードパケット16を含む第1のオーディオデータストリーム40を受信するための第1のオーディオ入力インタフェース102、
第2のオーディオデータストリームが分割された一連のアクセスユニットのそれぞれの1つに属し、前記第2のオーディオデータストリームの各アクセスユニットは、第2のオーディオ信号のオーディオフレームの単位で前記第2のオーディオデータストリームに符号化される前記第2のオーディオ信号のオーディオフレームのそれぞれ1つに関連し、一連のペイロードパケットを含む第2のオーディオデータストリーム110を受信するための第2のオーディオ入力インタフェース104、
スプライスポイントセッター、および
スプライスマルチプレクサーを含み、
前記第1のオーディオデータストリームは、前記第1のオーディオデータストリームに挿入され、所定のアクセスユニットが関連付けられたオーディオフレームの端部44;56が、プレイアウト中に破棄することを所定のアクセスユニットに対して示すように設定可能なトランケーションユニットパケット42;58をさらに含み、
前記スプライスポイントセッター106は、所定のアクセスユニットが関連付けられており、プレイアウト中に破棄されるように、トランケーションユニットパケットがオーディオフレームの後端部分44;56を示すために、トランケーションユニットパケット42;58を設定するように構成され、あるいは、前記スプライスポイントセッター106は、トランケーションユニットパケット42;58を第1のオーディオデータストリームに挿入し、所定のアクセスユニットに対して示すために同じことを設定するように構成され、
所定のアクセスユニットが関連付けられているオーディオフレームの端部44;56は、プレイアウト中に廃棄されるように、前記トランケーションユニットパケット42;58を設定し、前記トランケーションユニットパケット42;58は、プレイアウト中に破棄されるように、前記所定のアクセスユニットが関連付けられたオーディオフレームの端部44;56を示しており、そして
前記スプライスマルチプレクサー108は、各ペイロードパケットが所定のアクセスユニットを含む第1のオーディオデータストリームのアクセスユニットのランのそれぞれのアクセスユニットに属する状態で第1のオーディオデータストリームのペイロードパケットのサブシーケンスを取得するように、前記所定のアクセスユニットにおいて前記第1のオーディオデータストリームをカットするように構成され、そして、
前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスと前記第2のオーディオデータストリームの一連のペイロードパケットとを、互いに所定のアクセスユニットで互いに直に連続して当接するようにスプライスして、
前記所定のアクセスユニットが関連する前記オーディオフレームの前記端部は、前記第2のオーディオデータストリームの一連のペイロードパケットに先行する前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスの場合には、後端部分44であり、第1のオーディオデータストリームのペイロードパケットのサブシーケンスの場合には、第2のオーディオデータストリームの一連のペイロードパケットに続く先端部分56である、ストリームスプライサ。
C2. 態様C1に従属するストリームスプライサであって、前記第1のオーディオデータストリームの前記ペイロードパケットのサブシーケンスは、前記第2のオーディオデータストリームの一連のペイロードパケットの第2のサブシーケンスと、前記所定のアクセスユニットが関連付けられて後端部分44となるオーディオフレームの端部とに、先行する。
C3. 態様C2に従属するストリームスプライサであって、前記ストリームスプライサは、前記トランケーションユニットパケットに含まれるスプライスアウト構文要素50を検査するように構成され、前記スプライスアウト構文要素50がスプライスアウトアクセスユニットに関連する前記トランケーションユニットパケットを示すかどうかの条件で切断およびスプライシングを実行することができる。
C4. 態様C1〜態様C3のいずれかに従属するストリームスプライサであって、前記スプライスポイント設定部は、外部クロックと一致するように、前記端部の時間的長さを設定する。
C5. 態様C4に従属するストリームスプライサであって、前記外部クロックは、ビデオフレームクロックである。
C6. 態様C2に従属するスプライスされたオーディオデータストリームであって、前記第2のオーディオデータストリームは、前記第2のオーディオデータストリーム110に挿入された更なるトランケーションユニットパケット114を挿入によって生じさせるか、またはスプライスポイントセッター106を有し、プレイアウトで廃棄されるように、第2のオーディオデータストリームのたとえばAU’Kなどの終端アクセスユニット110が関連付けられている更なるオーディオフレームの端部を示すために設定可能となって、そして、
前記第1のオーディオデータストリームは、プレイアウト中に破棄されるように関連付けられ、前記第1のオーディオデータストリームに挿入され、プレイアウト中に破棄されるように関連付けられ、たとえばAUjなどのさらに別の所定のアクセスユニットを有するさらに別のオーディオフレームの端部を示すように設定可能なさらに別のトランケーションユニットパケット58をさらに含み、
たとえばAUiなどの前記所定のアクセスユニットの前記オーディオフレームとたとえばAUjなどの前記更なる別の所定のアクセスユニットの前記更なる別のオーディオフレームとの間の時間的な距離は、たとえばAUiなどの前記所定のアクセスユニットとたとえばAU’Kなどの前記後端のアクセスユニットとのスプライシングの後に、たとえばAU’1などのその先端の/先導するアクセスユニットの間の前記第2のオーディオ信号の時間的な長さと一致し、
前記スプライスポイントセッター106は、プレイアウト中に破棄される前記更なるオーディオフレームの後端部分44を示すように、そして、前記更なるトランケーションユニットパケット58は、プレイアウト中に破棄されるべき前記更なる別のオーディオフレームの先端部分を示すように、前記更なるトランケーションユニットパケット114を設定するように構成され、
前記スプライスマルチプレクサー108は、前記第2のオーディオデータストリーム110に含まれるタイムスタンプ情報24に適応させ、各アクセスユニットに対して、前記それぞれのアクセスユニットが関連付けられ、プレイアウトとなる前記オーディオフレームのそれぞれのタイムスタンプを示すように構成され、
前記第2のオーディオデータストリーム110の先行するアクセスユニットが関連する先行するオーディオフレームのタイムスタンプは、前記所定のアクセスユニットが関連付けられたオーディオフレームのタイムスタンプと一致するようにし、さらに、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの時間的長さから、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの前記後端部分の時間的長さを差し引いたものであり、
前記更なる別のオーディオフレームのタイムスタンプは、前記更なるオーディオフレームのタイムスタンプに、前記更なるオーディオフレームの時間的長さを加えたものに等しく、前記更なるオーディオフレームの後端部分の時間的長さと前記更なる別のオーディオフレームの前端部分との合計を差し引いたもとなるように、前記スプライスポイントセッター106が、前記更なるトランケーションユニットパケット114および前記更なる別のトランケーションユニットパケット58を設定するために構成される。
C7. 態様C2に従属するスプライスされたオーディオデータストリームであって、前記第2のオーディオデータストリーム110は、前記第2のオーディオデータストリームに挿入された更なるトランケーションユニットパケット112を挿入によって生じさせるか、またはスプライスポイントセッター106を有し、プレイアウトで廃棄されるように、前記第2のオーディオデータストリームのたとえばAU’1などの先導するアクセスユニットが関連付けられる更なる別のオーディオフレームの端部を示すように設定可能となり、
前記スプライスポイントセッター(106)は、前記第2のオーディオデータストリームの先導するアクセスユニットが関連付けられる更なるオーディオフレームの端部を示すように設定可能な前記第2のオーディオデータストリームに挿入された更なるトランケーションユニットパケット(112)を挿入によって生じさせるか、またはプレイアウトで廃棄されるように、プレイアウト中に破棄される前記更なるオーディオフレームの先端部分を示すように、前記更なるトランケーションユニットパケット(112)を設定するように構成され、
タイムスタンプ情報24は、前記第1および第2のオーディオデータストリームに含まれ、各アクセスユニットについて、前記オーディオフレームがそれぞれのタイムスタンプを示し、前記第1および第2のオーディオデータストリームの前記それぞれのアクセスユニットが関連付けられ、プレイアウトされるべきであり、時間的に整列され、そして、スプライスポイントセッター106は、前記更なるオーディオフレームのタイムスタンプから、たとえばAUiなどの前記所定のアクセスユニットが関連付けられた前記オーディオフレームの時間的長さを引いた値になるように、前記更なるトランケーションユニットパケットを設定するように構成され、その上、前記先端部分の時間的長さは、前記所定のアクセスユニットが関連する前記オーディオフレームのタイムスタンプと、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの時間的長さから前記後端部分の時間的長さを差し引いたものに等しい。
D1. 前記ペイロードパケットの各々は、前記オーディオデータストリームが分割される一連のアクセスユニット18のそれぞれの1つに属し、各アクセスユニットは、オーディオフレームのそれぞれの1つに関連付けられるように、オーディオデータストリーム120の一連のペイロードパケット16からオーディオ信号のオーディオフレーム14の単位でオーディオ信号12を再構成するように構成されたオーディオデコードコア162/オーディオ復号コア162、および
その終端部が前記トランケーションユニットパケットによってプレイアウト中に破棄されるように指示される前記オーディオ信号をプレイアウトする際に、前記オーディオデータストリームに挿入されたトランケーションユニットパケット42;58;114に応答して、所定のアクセスユニットに関連付けられたオーディオフレームをトランケートするように/切り捨てて破棄するように構成されたオーディオトランケーター164を含む、オーディオデコーダ。
D2. 態様D1に従属するオーディオコーダであって、端部は、後端部分44または先端部分56である。
D3. 態様D1または態様D2に従属するオーディオデコーダであって、前記オーディオデータストリームの前記アクセスユニットの大部分は、その再構成がそれぞれの直前のアクセスユニットに依存するような方法で、前記それぞれの関連するオーディオフレームを符号化しており、前記オーディオデコーディングコア162は、多数のアクセスユニットの各々が前記それぞれの直前のアクセスユニットに応じて関連付けられる前記オーディオフレームを再構成するように構成される。
D4. 態様D3に従属するオーディオデコーダであって、前記所定のアクセスユニットは、その再構成が前記所定のアクセスユニットの直前のアクセスユニットとは独立しているように、前記それぞれの関連するオーディオフレームを符号化し、前記オーディオ復号ユニット162は、前記所定のアクセスユニットの直前のアクセスユニットから独立して、前記所定のアクセスユニットが関連付けられる前記オーディオフレームを再構成するように構成される。
D5. 態様D3または態様D4に従属するオーディオデコーダであって、前記所定のアクセスユニットが構成データを符号化し、オーディオ復号化ユニット162が、構成データに従って構成オプションを構成するために構成データを使用するように構成され、前記所定のアクセスユニットと、前記所定のアクセスユニットの直後に位置するアクセスユニットのランとが関連付けられている前記オーディオフレームを再構成するための前記デコードオプションを適用する。
D6. 態様D1〜態様D5のいずれかに従属するオーディオデコーダであって、前記オーディオデータストリームは、前記オーディオデータストリームの各アクセスユニットに対して、前記それぞれのアクセスユニットが関連付けられている前記オーディオフレームでプレイアウトされる各タイムスタンプを示すタイムスタンプ情報24を含み、前記オーディオデコーダは、前記タイムスタンプ情報に従って前記オーディオフレームの先端部分を時間的に整列させ、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの前記終端部分を放棄して、前記オーディオフレームをプレイアウトするように構成される。
D7. 態様D1〜態様D6のいずれかに従属するオーディオ復号器であって、前記オーディオフレームの前記終端部分と残りの部分との接合点でクロスフェードを実行するように構成されたオーディオデコーダ。
E1. 各ペイロードパケットは、オーディオデータストリーム40が分割されたアクセスユニット18のそれぞれの1つに属し、各アクセスユニットはオーディオフレームのそれぞれ1つに関連付けられるように、オーディオ信号のオーディオフレーム14の単位で、前記オーディオデータストリーム40のペイロードパケット16にオーディオ信号12を符号化するように構成されたオーディオ符号化コア72、および
所定のアクセスユニットが関連付けられ、プレイアウト中に破棄されるように、前記オーディオフレームの終端部を示すように設定可能なトランケーションユニットパケット44;58を前記オーディオデータストリームに挿入するトランケーションパケット挿入部74を含む、オーディオエンコーダ。
E2. 態様E1に従属するオーディオエンコーダであって、前記オーディオエンコーダは、態様A1〜態様9のいずれかに従属するスプライス可能なオーディオデータストリームを生成するように構成される。
E3. 態様E1または態様E2に従属するオーディオエンコーダであって、前記オーディオエンコーダは、外部クロックに応じて前記アクセスユニットの中から前記所定のアクセスユニットを選択するように構成される。
E4. 態様E3に従属するオーディオエンコーダであって、前記外部クロックは、ビデオフレームクロックである。
E5. 態様E1〜態様E5のいずれかに従属するオーディオエンコーダであって、前記所定のアクセスユニットにおいて、所定の平均ビットレートからの統合ビットレート偏差を仮定するために、オーディオデータストリームのビットレートが所定の平均ビットレートの周りで変化し、それに従うようにレート制御を実行するように構成され、これは、完全なスプライス可能なオーディオデータストリームにわたって変動する統合されたビットレート偏差の範囲よりも1/2幅未満の所定の間隔内の値をとる。
E6. 態様E1〜態様E5のいずれかに従属するオーディオエンコーダであって、前記所定のアクセスユニットにおいて、所定の平均ビットレートからの統合ビットレート偏差を仮定するために、オーディオデータストリームのビットレートが所定の平均ビットレートの周りで変化し、それに従うようにレート制御を実行するように構成され、これは、完全なスプライス可能なオーディオデータストリームにわたって変動する統合されたビットレート偏差の最大値の3/4より小さい固定値を有する。
E7. 態様E1〜態様E5のいずれかに従属するオーディオエンコーダであって、前記所定のアクセスユニットにおいて、所定の平均ビットレートからの統合ビットレート偏差を仮定するために、オーディオデータストリームのビットレートが所定の平均ビットレートの周りで変化し、それに従うようにレート制御を実行するように構成され、前記所定のアクセスユニットの他にトランケーションユニットパケットが前記オーディオデータストリームに挿入される他のアクセスユニットもまた、所定の値をとる。
E8. 態様E1〜態様E7のいずれかに従属するオーディオエンコーダであって、ログされたフィル(充填)状態が、前記所定のアクセスユニットにおいて所定の値をとるように符号化されたオーディオデコーダのバッファ充填状態をロギングすることによって、レート制御を実行するように構成される。
E9. 態様E8に従属するオーディオエンコーダであって、前記所定の値は、トランケーションユニットパケットが前記オーディオデータストリームに挿入されるアクセスユニット間で共通である。
E10. 態様E8に従属するオーディオエンコーダであって、前記オーディオデータストリーム内の前記所定の値をシグナリングするように構成される。
いくつかの態様を装置の文脈で説明してきたが、これらの態様は、ブロックまたはデバイスが方法ステップまたは方法ステップの特徴に対応する、対応する方法の記述も表すことは明らかである。同様に、方法ステップの文脈で説明される態様は、対応するブロックまたは対応する装置のアイテムまたは特徴の記述も表す。方法ステップの一部または全部は、例えば、マイクロプロセッサ、プログラム可能なコンピュータまたは電子回路のようなハードウェア装置によって実行されてもよい(または使用されてもよい)。いくつかの実施形態では、最も重要な方法ステップのうちのいくつか1つまたは複数をこのような装置によって実行することができる。
本発明のスプライシングまたはスプライシング可能なオーディオデータストリームは、デジタル記憶媒体に格納することができ、または無線伝送媒体またはインターネットなどの有線伝送媒体などの伝送媒体上で伝送することができる。
特定の実施要件に応じて、本発明の実施形態は、ハードウェアまたはソフトウェアで実施することができる。実装は、その上に、電子的に読み取り可能な制御信号が記憶されたフロッピーディスク、DVD、ブルーレイ、CD、ROM、PROM、EPROM、EEPROMまたはフラッシュメモリなどのデジタル記憶媒体を使用して実行することができる。それらはそれぞれの方法が実行されるようにプログラム可能なコンピュータシステムと協働する(または協働することができる)。したがって、デジタル記憶媒体はコンピュータ可読であってもよい。
本発明によるいくつかの実施形態は、プログラム可能なコンピュータシステムと協働して、本明細書に記載の方法の1つが実行されるように、電子的に読み取り可能な制御信号を有するデータキャリアを備える。
一般に、本発明の実施形態は、コンピュータプログラム製品がコンピュータ上で動作するときに、前記方法の1つを実行するように動作するプログラムコードを有するコンピュータプログラム製品として実施することができる。プログラムコードは、例えば、機械可読キャリアに格納することができる。
他の実施形態は、本明細書に記載の方法の1つを実行するためのコンピュータプログラムを含み、機械読み取り可能なキャリアに格納される。
言い換えれば、本発明の方法の実施形態は、コンピュータプログラムがコンピュータ上で実行されるときに、本明細書に記載の方法の1つを実行するためのプログラムコードを有するコンピュータプログラムである。
したがって、本発明の方法のさらなる実施形態は、本明細書に記載の方法の1つを実行するためのコンピュータプログラムを含む、データキャリア(またはデジタル記憶媒体、またはコンピュータ可読媒体)である。データキャリア、デジタル記憶媒体または記録された媒体は、典型的には有形および/または非移行型である。
したがって、本発明の方法のさらなる実施形態は、本明細書に記載の方法の内の1つを実行するためのコンピュータプログラムを表すデータストリームまたは一連の信号である。データストリーム又は信号のシーケンスは、例えば、インターネットを介して、例えば、データ通信接続を介して転送されるように構成することができる。
さらなる実施形態は、本明細書に記載の方法の内の1つを実行するように構成されたまたはそれに適応する処理手段、例えばコンピュータまたはプログラマブル論理装置を含む。
さらなる実施形態は、本明細書に記載の方法の1つを実行するためのコンピュータプログラムがインストールされたコンピュータを含む。
本発明によるさらなる実施形態は、本明細書で説明される方法の1つを実行するためのコンピュータプログラムを受信機に転送するように構成された装置またはシステムを含む(例えば、電子的にまたは光学的に)。受信機は、例えば、コンピュータ、モバイルデバイス、メモリデバイスなどであってもよい。装置またはシステムは、例えば、コンピュータプログラムを受信機に転送するためのファイルサーバを備えることができる。
いくつかの実施形態では、プログラマブルロジックデバイス(例えばフィールドプログラマブルゲートアレイ)を使用して、本明細書に記載の方法の機能の一部または全部を実行することができる。いくつかの実施形態では、フィールドプログラマブルゲートアレイは、本明細書で説明する方法の1つを実行するためにマイクロプロセッサと協働することができる。一般に、これらの方法は、好ましくは、任意のハードウェア装置によって実行される。
本明細書に記載の装置は、ハードウェア装置を使用して、またはコンピュータを使用して、またはハードウェア装置とコンピュータの組み合わせを使用して実装することができる。
本明細書に記載の方法は、ハードウェア装置を使用して、またはコンピュータを使用して、またはハードウェア装置とコンピュータの組み合わせを使用して実施することができる。
上述の実施形態は、本発明の原理の単なる例示である。本明細書に記載された構成および詳細の修正および変形は、当業者には明らかであることが理解される。したがって、差し迫った特許請求の範囲によってのみ限定され、本明細書の実施形態の説明および説明によって示される特定の詳細によっては限定されないことが意図される。

参照
[1]METHOD AND ENCODER AND DECODER FOR SAMPLE-ACCURATE REPRESENTATION OF AN AUDIO SIGNAL, IIS1b-10 F51302 WO-ID, FH110401PID
[2]ISO/IEC 23008-3, Information technology - High efficiency coding and media delivery in heterogeneous environments - Part 3: 3D audio
[3]ISO/IEC DTR 14496-24: Information technology - Coding of audio-visual objects - Part 24: Audio and systems interaction

Claims (21)

  1. スプライス可能なオーディオデータストリーム(40)であって、
    前記スプライス可能なオーディオデータストリーム(40)は、一連のペイロードパケット(16)を含み、前記各ペイロードパケットは、前記スプライス可能なオーディオデータストリームが分割される前記一連のアクセスユニット(18)のそれぞれの1つに属し、各アクセスユニットは、オーディオフレームの単位で前記スプライス可能なオーディオデータストリームに符号化されるオーディオ信号(12)のオーディオフレーム(14)のそれぞれの1つの前記オーディオフレーム(14)に関連付けられ、そして、
    前記スプライス可能なオーディオデータストリーム(40)は、所定のアクセスユニットのために、スプライス可能なオーディオデータストリームに挿入され、且つ、示すようにセット可能となっているトランケーションユニットパケット(42;58)と、プレイアウト中に破棄するように、前記所定のアクセスユニットが関連付けられているオーディオフレームの端部(44;56)とを、含むことを特徴とする、スプライス可能なオーディオデータストリーム。
  2. 前記スプライス可能なオーディオデータストリームは、
    前記スプライス可能なオーディオデータストリームに挿入され、更なる所定のアクセスユニットを示すようにセット可能な更なるトランケーションユニットパケット(58)と、
    プレイアウト中に破棄されるように、前記更なる所定のアクセスユニットが関連付けられている更なるオーディオフレームの端部(44;56)とを含む、請求項1に記載のスプライス可能なオーディオデータストリーム。
  3. 前記所定のアクセスユニットは、復号化する側での再構成が前記所定のアクセスユニットの直前のアクセスユニットに依存するように、それぞれの関連するオーディオフレームをある方法で符号化し、
    大部分のアクセスユニットは、復号化する側での再構成がそれぞれの直前のアクセスユニットに依存するように、それぞれの関連するオーディオフレームをある方法で符号化し、
    他の所定のアクセスユニットは、復号化する側での再構成が別の所定のアクセスユニットの直前のアクセスユニットとは独立しているように、それぞれの関連するオーディオフレームをある方法で符号化し、それにより即時のプレイアウトを可能にする、請求項2に記載のスプライス可能なオーディオデータストリーム。
  4. 前記トランケーションユニットパケット(42)および更なるトランケーションユニットパケット(58)は、それぞれ、前記トランケーションユニットパケットまたは前記更なるトランケーションユニットパケットのそれぞれの1つが、前記スプライスアウトアクセスユニットに関連するか否かを示すスプライスアウト構文要素(50)を含み、
    前記トランケーションユニットパケットに含まれる前記スプライスアウト構文要素(50)は、前記トランケーションユニットパケットがスプライスアウトアクセスユニットに関連することを示し、
    前記更なるトランケーションユニットパケットに含まれる前記構文要素は、前記更なるトランケーションユニットパケットがスプライスアウトアクセスユニットに関係しないことを示す、請求項3に記載のスプライス可能なオーディオデータストリーム。
  5. 前記トランケーションユニットパケット(42)および前記更なるトランケーションユニットパケット(58)は、それぞれ、前記トランケーションユニットパケットまたは前記更なるトランケーションユニットパケットのそれぞれの1つが、スプライスアウトアクセスユニットに関連するか否かを示すスプライスアウト構文要素を含み、
    前記トランケーションユニットパケットに含まれる前記構文要素(50)は、前記トランケーションユニットパケットがスプライスアウトアクセスユニットに関連することを示し、
    前記更なるトランケーションユニットパケットに含まれる前記スプライスアウト構文要素は、前記更なるトランケーションユニットパケットがスプライスアウトアクセスユニットに関連することを示し、
    前記更なるトランケーションユニットパケットは、先端/後端のトランケーション構文要素(54)およびトランケーション長さ要素(48)を含み、
    前記先端/後端のトランケーション構文要素は、前記更なるオーディオフレームの端部が、後端部分(44)または先端部分(56)であるかどうか示すためのものであり、
    前記トランケーション長さ要素は、前記更なるオーディオフレームの端部の長さ(Δt)を示すためのものである、請求項3に記載のスプライス可能なオーディオデータストリーム。
  6. スプライスされたオーディオデータストリームであって、
    前記スプライスされたオーディオデータストリームは、一連のペイロードパケットのシーケンス(16)を含み、前記各ペイロードパケットは、前記スプライスされたオーディオデータストリームが分割される前記一連のアクセスユニット(18)のそれぞれの1つに属し、
    各アクセスユニットは、オーディオフレーム(14)のそれぞれの1つの前記オーディオフレーム(14)に関連付けられ、そして、
    前記スプライスされたオーディオデータストリームは、スプライス可能なオーディオデータストリームに挿入され、且つ、プレイアウト中に破棄するように、所定のアクセスユニットが関連付けられているオーディオフレームの端部(44;56)を示すトランケーションユニットパケット(44;58;114)を含み、
    前記一連のペイロードパケットの第1のサブシーケンスのペイロードパケットにおいて、各ペイロードパケットは、前記第1のオーディオ信号のオーディオフレームの単位で第1のオーディオ信号を符号化した第1のオーディオデータストリームのアクセスユニット(AU#)に属し、前記第1のオーディオデータストリームのアクセスユニットは、前記所定のアクセスユニットを含み、
    前記一連のペイロードパケットの第2のサブシーケンスのペイロードパケットにおいて、各ペイロードパケットは、前記第2のオーディオデータストリームのオーディオフレームの単位で第2のオーディオ信号を符号化した第2のオーディオデータストリームのアクセスユニット(AU’#)に属し、
    ペイロードパケットの前記第1および前記第2のサブシーケンスは、互いに直ちに連続し、所定のアクセスユニットにおいて互いに当接し、前記端部は、前記第2のサブシーケンスに先行する前記第1のサブシーケンスの場合には後端部分(44)であり、前記第1のサブシーケンスに先行する前記第2のサブシーケンスの場合には先端部分(56)である、スプライスされたオーディオデータストリーム。
  7. 前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、且つ、プレイアウト中に破棄するように、更なる所定のアクセスユニットが関連付けられている更なるオーディオフレームの先端部分(58)を示す更なるトランケーションユニットパケット(58)をさらに含み、
    一連のペイロードパケットの第3のサブシーケンスのペイロードパケットにおいて、各ペイロードパケットは、第3のオーディオ信号が符号化された第3のオーディオデータストリームのアクセスユニット(AU’’#)、または
    前記第1のサブシーケンスのペイロードパケットが属する前記第1のオーディオデータストリームのアクセスユニットに続いて、前記第1のオーディオデータストリームのアクセスユニット(AU#)に属し、
    前記第2のオーディオデータストリームのアクセスユニットは、前記さらなる所定のアクセスユニットを含む、請求項6に記載のスプライスされたオーディオデータストリーム。
  8. 前記所定のアクセスユニットを含む前記スプライスされたオーディオデータストリームのアクセスユニットの大部分は、復号する側での再構成がそれぞれの直前のアクセスユニットに依存するように、それぞれの関連するオーディオフレームを符号化し、
    前記アクセスユニットは、所定のアクセスユニットの直後に位置し、その再構成が所定のアクセスユニットから独立するように、それぞれの関連するオーディオフレームを符号化した前記第2のオーディオデータストリームのアクセスユニットのオンセットを形成し、それによって即時のプレイアウトが可能となり、そして
    前記さらなる所定のアクセスユニットは、その再構成が別の所定のアクセスユニットの直前のアクセスユニットから独立するように、さらなるオーディオフレームを符号化して、それによってそれぞれ即時のプレイアウトが可能となっている、請求項7に記載のスプライスされたオーディオデータストリーム。
  9. 前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームに挿入され、プレイアウトにおいて破棄されるように前記さらなる所定のアクセスユニットの直前のアクセスユニットを関連付ける別のオーディオフレームの後端部分(44)を示すさらなるトランケーションユニットパケット(114)をさらに含み、
    前記スプライスされたオーディオデータストリームは、前記スプライスされたオーディオデータストリームの各アクセスユニットに対して、それぞれのアクセスユニットが関連付けられているオーディオフレームがプレイアウトされるタイムスタンプを示すタイムスタンプ情報(24)を含み、
    前記更なる所定のアクセスユニットのタイムスタンプは、前記更なる所定のアクセスユニットの直前のアクセスユニットのタイムスタンプに、前記更なる所定のアクセスユニットの直前のアクセスユニットが、更なるオーディオフレームの先端部分の時間的長さと更に別のオーディオフレームの後端部分の合計を差し引いて関連付けられる前記オーディオフレームの時間的長さを加えたものに等しい、請求項7または請求項8に記載のスプライスされたオーディオデータストリーム。
  10. 前記所定のアクセスユニットの直ぐ後続のアクセスユニットの時間的タイムスタンプは、前記所定のアクセスユニットのタイムスタンプに前記オーディオフレームの時間的長さを加えたものに等しく、前記オーディオフレームの時間的長さは、前記所定のアクセスユニットが関連付けられ、前記所定のアクセスユニットが関連付けられる前記オーディオフレームの後端部分の時間的長さを差し引いた長さである、請求項8または請求項9に記載のスプライスされたオーディオデータストリーム。
  11. オーディオデータストリームをスプライシングするためのストリームスプライサであって、
    第1のオーディオデータストリームが分割された一連のアクセスユニット(18)のそれぞれの1つに属し、前記第1のオーディオデータストリームの各アクセスユニットは、第1のオーディオ信号(12)のオーディオフレーム(14)の単位で前記第1のオーディオデータストリームに符号化される前記第1のオーディオ信号のオーディオフレームのそれぞれ1つに関連し、一連のペイロードパケット(16)を含む第1のオーディオデータストリーム(40)を受信するための第1のオーディオ入力インタフェース(102)、
    第2のオーディオデータストリームが分割された一連のアクセスユニットのそれぞれの1つに属し、前記第2のオーディオデータストリームの各アクセスユニットは、第2のオーディオ信号のオーディオフレームの単位で前記第2のオーディオデータストリームに符号化される前記第2のオーディオ信号のオーディオフレームのそれぞれ1つに関連し、一連のペイロードパケットを含む第2のオーディオデータストリーム(110)を受信するための第2のオーディオ入力インタフェース(104)、
    スプライスポイントセッター、および
    スプライスマルチプレクサーを含み、
    前記第1のオーディオデータストリームは、前記第1のオーディオデータストリームに挿入され、所定のアクセスユニットが関連付けられたオーディオフレームの端部(44;56)が、プレイアウト中に破棄することを所定のアクセスユニットに対して示すように設定可能なトランケーションユニットパケット(42;58)をさらに含み、
    前記スプライスポイントセッター(106)は、所定のアクセスユニットが関連付けられており、プレイアウト中に破棄されるように、トランケーションユニットパケットがオーディオフレームの後端部分(44;56)を示すために、トランケーションユニットパケット(42;58)を設定するように構成され、あるいは、前記スプライスポイントセッター(106)は、トランケーションユニットパケット(42;58)を第1のオーディオデータストリームに挿入し、所定のアクセスユニットに対して示すために同じことを設定するように構成され、
    所定のアクセスユニットが関連付けられているオーディオフレームの端部(44;56)は、プレイアウト中に廃棄されるように、前記トランケーションユニットパケット(42;58)を設定し、前記トランケーションユニットパケット(42;58)は、生中に破棄されるように、前記所定のアクセスユニットが関連付けられたオーディオフレームの端部(44;56)を示しており、そして
    前記スプライスマルチプレクサー(108)は、各ペイロードパケットが所定のアクセスユニットを含む第1のオーディオデータストリームのアクセスユニットのランのそれぞれのアクセスユニットに属する状態で第1のオーディオデータストリームのペイロードパケットのサブシーケンスを取得するように、前記所定のアクセスユニットにおいて前記第1のオーディオデータストリームをカットするように構成され、そして、
    前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスと前記第2のオーディオデータストリームの一連のペイロードパケットとを、互いに所定のアクセスユニットで互いに直に連続して当接するようにスプライスして、
    前記所定のアクセスユニットが関連する前記オーディオフレームの前記端部は、前記第2のオーディオデータストリームの一連のペイロードパケットに先行する前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスの場合には、後端部分(44)であり、第1のオーディオデータストリームのペイロードパケットのサブシーケンスの場合には、第2のオーディオデータストリームの一連のペイロードパケットに続く先端部分(56)である、ストリームスプライサ。
  12. 前記第1のオーディオデータストリームの前記ペイロードパケットのサブシーケンスは、前記第2のオーディオデータストリームの一連のペイロードパケットの第2のサブシーケンスと、前記所定のアクセスユニットが関連付けられて後端部分(44)となるオーディオフレームとに先行する、請求項11に記載のストリームスプライサ。
  13. 前記スプライスポイントセッターは、外部クロックと一致するように前記端部の時間的長さを設定することを特徴とする、請求項11または請求項12に記載のストリームスプライサ。
  14. 前記第2のオーディオデータストリームは、前記第2のオーディオデータストリーム(110)に挿入された更なるトランケーションユニットパケット(114)を挿入によって生じさせるか、またはスプライスポイントセッター(106)を有し、プレイアウトで廃棄されるように、第2のオーディオデータストリームの終端アクセスユニット(110)が関連付けられている更なるオーディオフレームの端部を示すために設定可能となって、そして、
    前記第1のオーディオデータストリームは、プレイアウト中に破棄されるように関連付けられ、前記第1のオーディオデータストリームに挿入され、プレイアウト中に破棄されるように関連付けられ、さらに別の所定のアクセスユニットを有するさらに別のオーディオフレームの端部を示すように設定可能なさらに別のトランケーションユニットパケット(58)をさらに含み、
    前記所定のアクセスユニットの前記オーディオフレームと前記更なる別の所定のアクセスユニットの前記更なる別のオーディオフレームとの間の時間的な距離は、前記所定のアクセスユニットと前記後続のアクセスユニットとのスプライシングの後に、その先導するアクセスユニットの間の前記第2のオーディオ信号の時間的な長さと一致し、
    前記スプライスポイントセッター(106)は、プレイアウト中に破棄される前記更なるオーディオフレームの後端部分(44)を示すように、そして、前記更なるトランケーションユニットパケット(58)は、プレイアウト中に破棄されるべき前記更なる別のオーディオフレームの先端部分を示すように、前記更なるトランケーションユニットパケット(114)を設定するように構成され、
    前記スプライスマルチプレクサー(108)は、前記第2のオーディオデータストリーム(110)に含まれるタイムスタンプ情報(24)に適応させ、各アクセスユニットに対して、前記それぞれのアクセスユニットが関連付けられ、プレイアウトとなる前記オーディオフレームのそれぞれのタイムスタンプを示すように構成され、
    前記第2のオーディオデータストリーム(110)の先行するアクセスユニットが関連する先行するオーディオフレームのタイムスタンプは、前記所定のアクセスユニットが関連付けられたオーディオフレームのタイムスタンプと一致するようにし、さらに、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの時間的長さから、前記所定のアクセスユニットが関連付けられている前記オーディオフレームの前記後端部分の時間的長さを差し引いたものであり、
    前記更なる別のオーディオフレームのタイムスタンプは、前記更なるオーディオフレームのタイムスタンプに、前記更なるオーディオフレームの時間的長さを加えたものに等しく、前記更なるオーディオフレームの後端部分の時間的長さと前記更なる別のオーディオフレームの先端部分との合計を差し引いたもとなるように、前記スプライスポイントセッター(106)が、前記更なるトランケーションユニットパケット(114)および前記更なる別のトランケーションユニットパケット(58)を設定するために構成される、請求項12に記載のスプライスされたオーディオデータストリーム。
  15. 前記第2のオーディオデータストリーム(110)は、前記第2のオーディオデータストリームに挿入された更なるトランケーションユニットパケット(112)を挿入によって生じさせるか、またはスプライスポイントセッター(106)を有し、プレイアウトで廃棄されるように、前記第2のオーディオデータストリームの先導するアクセスユニットが関連付けられる更なる別のオーディオフレームの端部を示すように設定可能となり、
    前記スプライスポイントセッター(106)は、プレイアウト中に破棄される前記更なるオーディオフレームの先端部分を示すように、前記更なるトランケーションユニットパケット(112)を設定するように構成され、
    タイムスタンプ情報(24)は、前記第1および第2のオーディオデータストリームに含まれ、各アクセスユニットについて、前記オーディオフレームがそれぞれのタイムスタンプを示し、前記第1および第2のオーディオデータストリームの前記それぞれのアクセスユニットが関連付けられ、プレイアウトされるべきであり、時間的に整列され、そして、スプライスポイントセッター(106)は、前記更なるオーディオフレームのタイムスタンプから、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの時間的長さを引いた値になるように、前記更なるトランケーションユニットパケットを設定するように構成され、その上、前記先端部分の時間的長さは、前記所定のアクセスユニットが関連する前記オーディオフレームのタイムスタンプと、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの時間的長さから前記後端部分の時間的長さを差し引いたものに等しい、請求項12に記載のスプライスされたオーディオデータストリーム。
  16. 前記ペイロードパケットの各々は、前記オーディオデータストリームが分割される一連のアクセスユニット(18)のそれぞれの1つに属し、各アクセスユニットは、オーディオフレームのそれぞれの1つに関連付けられるように、オーディオデータストリーム(120)の一連のペイロードパケット(16)からオーディオ信号のオーディオフレーム(14)の単位でオーディオ信号(12)を再構成するように構成されたオーディオ復号化コア(162)、および
    その端部が前記トランケーションユニットパケットによってプレイアウト中に破棄されるように指示される前記オーディオ信号をプレイアウトする際に、前記オーディオデータストリームに挿入されたトランケーションユニットパケット(42;58;114)に応答して、所定のアクセスユニットに関連付けられたオーディオフレームをトランケートするように構成されたオーディオトランケーター(164)を含む、オーディオデコーダ。
  17. 各ペイロードパケットは、オーディオデータストリーム(40)が分割されたアクセスユニット(18)のそれぞれの1つに属し、各アクセスユニットはオーディオフレームのそれぞれ1つに関連付けられるように、オーディオ信号のオーディオフレーム(14)の単位で、前記オーディオデータストリーム(40)のペイロードパケット(16)にオーディオ信号(12)を符号化するように構成されたオーディオ符号化コア(72)、および
    所定のアクセスユニットが関連付けられ、プレイアウト中に破棄されるように、前記オーディオフレームの端部を示すように設定可能なトランケーションユニットパケット(44;58)を前記オーディオデータストリームに挿入するトランケーションパケット挿入部(74)を含む、オーディオエンコーダ。
  18. オーディオデータストリームをスプライスする方法であって、前記方法は、第1のオーディオデータストリーム(40)を含み、前記第1のオーディオデータストリーム(40)は、一連のペイロードパケット(16)を含み、前記一連のペイロードパケット(16)は、前記第1のオーディオデータストリームが分割された一連のアクセスユニット(18)のそれぞれの1つに属し、前記第1のオーディオデータストリームの各アクセスユニットは、第1のオーディオ信号のオーディオフレームの単位で前記第1のオーディオデータストリームに符号化された第1のオーディオ信号(12)のオーディオフレーム(14)のそれぞれの1つに関連し、そして、各々が前記第2のオーディオデータストリームが分割された一連のアクセスユニットのそれぞれの1つに属する一連のペイロードパケットを含む第2のオーディオデータストリーム(110)であって、前記第2のオーディオデータストリームの各アクセスユニットは、第2のオーディオ信号のオーディオフレームの単位で前記第2のオーディオデータストリームに符号化された前記第2のオーディオ信号のオーディオフレームのそれぞれの1つに関連しており、
    前記第1のオーディオデータストリームは、前記第1のオーディオデータストリームに挿入され、所定のアクセスユニットを示すように設定可能なトランケーションユニットパケット(42;58)をさらに含み、所定のアクセスユニットが関連付けられたオーディオフレームの端部(44;56)がプレイアウト中に破棄されるようにし、そして、前記方法は、前記トランケーションユニットパケット(42:58)を設定するステップを含み、前記トランケーションユニットパケットは、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの端部(44;56)を示し、プレイアウト中に破棄することが可能となり、あるいは、
    前記方法は、前記トランケーションユニットパケット(42;58)を前記第1のオーディオデータストリームに挿入するステップを含み、前記トランケーションユニットパケット(42;58)を所定のアクセスユニットを示すように設定し、前記所定のアクセスユニットが関連付けられた前記オーディオフレームの端部(44;56)は、プレイアウト中に破棄され、前記トランケーションユニットパケット(42;58)を設定するように、トランケーションユニットパケットは、所定のアクセスユニットが関連付けられたオーディオフレームの端部(44;56)を示し、プレイアウト中に破棄することが可能となり、そして、
    前記方法は、
    前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスを取得するように、前記所定のアクセスユニットにおいて、各ペイロードパケットが、前記所定のアクセスユニットを含む前記第1のオーディオデータストリームのアクセスユニットのランのそれぞれのアクセスユニットに属する前記第1のオーディオデータストリームを切断するステップ、および
    前記第1のオーディオデータストリームの前記ペイロードパケットのサブシーケンスと、前記第2のオーディオデータストリームの前記一連のペイロードパケットとを、互いに前記所定のアクセスユニットにおいて、互いに直に連続して当接するように、スプライシングするステップをさらに含み、
    前記所定のアクセスユニットが関連する前記オーディオフレームの前記端部は、前記第2のオーディオデータストリームの一連のペイロードパケットに先行する前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスの場合には、後端部分(44)であり、そして、前記第1のオーディオデータストリームのペイロードパケットのサブシーケンスの場合には、前記第2のオーディオデータストリームの前記一連のペイロードパケットに続く先端部分(56)である、オーディオデータストリームをスプライスする方法。
  19. オーディオデータストリーム(120)の一連のペイロードパケット(16)から、オーディオ信号のオーディオフレーム(14)の単位でオーディオ信号(12)を再構成するステップを含み、
    前記ペイロードパケットの各々は、前記オーディオデータストリームが分割される一連のアクセスユニット(18)のそれぞれに属し、各アクセスユニットは、前記オーディオフレームのそれぞれの1つに関連付けられ、そして、
    前記オーディオデータストリームに挿入されたトランケーションユニットパケット(42;58;114)に応答して、所定のアクセスユニットに関連するオーディオフレームをトランケーションして破棄することを含む、オーディオ復号方法。
  20. 各ペイロードパケットは、オーディオデータストリームが分割されたアクセスユニット(18)のそれぞれの1つに属し、各アクセスユニットは、オーディオフレームのそれぞれの1つに関連付けられるように、オーディオデータストリーム(40)のペイロードパケット(16)に、前記オーディオ信号のオーディオフレーム(14)の単位でオーディオ信号(12)を符号化するステップ、および
    所定のアクセスユニットが関連付けられたオーディオフレームの端部を示すように設定可能なトランケーションユニットパケット(44;58)を前記オーディオデータストリームに挿入してプレイアウト中に破棄するステップを含む、オーディオ符号化方法。
  21. 請求項18〜請求項20のいずれかに記載の方法をコンピュータ上で実行するときに、プログラムコードを有するコンピュータプログラムを格納したコンピュータ可読デジタル記憶媒体。
JP2019149425A 2014-09-09 2019-08-16 オーディオスプライシングのコンセプト Active JP6920383B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP14184141 2014-09-09
EP14184141.1 2014-09-09
EP15154752.8A EP2996269A1 (en) 2014-09-09 2015-02-11 Audio splicing concept
EP15154752.8 2015-02-11
JP2017513465A JP6605025B2 (ja) 2014-09-09 2015-09-08 オーディオスプライシングのコンセプト

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017513465A Division JP6605025B2 (ja) 2014-09-09 2015-09-08 オーディオスプライシングのコンセプト

Publications (2)

Publication Number Publication Date
JP2020008864A true JP2020008864A (ja) 2020-01-16
JP6920383B2 JP6920383B2 (ja) 2021-08-18

Family

ID=51542159

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017513465A Active JP6605025B2 (ja) 2014-09-09 2015-09-08 オーディオスプライシングのコンセプト
JP2019149425A Active JP6920383B2 (ja) 2014-09-09 2019-08-16 オーディオスプライシングのコンセプト

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017513465A Active JP6605025B2 (ja) 2014-09-09 2015-09-08 オーディオスプライシングのコンセプト

Country Status (15)

Country Link
US (5) US10511865B2 (ja)
EP (3) EP2996269A1 (ja)
JP (2) JP6605025B2 (ja)
KR (1) KR101997058B1 (ja)
CN (2) CN107079174B (ja)
AR (1) AR101783A1 (ja)
AU (1) AU2015314286C1 (ja)
CA (1) CA2960114C (ja)
ES (1) ES2969748T3 (ja)
MX (1) MX366276B (ja)
MY (1) MY189151A (ja)
RU (1) RU2696602C2 (ja)
SG (1) SG11201701516TA (ja)
TW (1) TWI625963B (ja)
WO (1) WO2016038034A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2996269A1 (en) 2014-09-09 2016-03-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio splicing concept
CN111052752A (zh) * 2017-08-28 2020-04-21 杜比实验室特许公司 媒体感知导航元数据
CN108053821B (zh) * 2017-12-12 2022-09-06 腾讯科技(深圳)有限公司 生成音频数据的方法和装置
CN115691518A (zh) 2018-02-22 2023-02-03 杜比国际公司 用于处理嵌入在mpeg-h 3d音频流中的辅媒体流的方法及设备
CN112740325B (zh) * 2018-08-21 2024-04-16 杜比国际公司 即时播放帧(ipf)的生成、传输及处理的方法、设备及系统
CN109949792B (zh) * 2019-03-28 2021-08-13 优信拍(北京)信息科技有限公司 多音频的合成方法及装置
CN112837709B (zh) * 2021-02-24 2022-07-22 北京达佳互联信息技术有限公司 一种音频文件拼接的方法及装置
CN113516969B (zh) * 2021-09-14 2021-12-14 北京远鉴信息技术有限公司 一种拼接语音的鉴别方法、装置、电子设备及存储介质

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6806909B1 (en) * 1997-03-03 2004-10-19 Koninklijke Philips Electronics N.V. Seamless splicing of MPEG-2 multimedia data streams
US5899969A (en) * 1997-10-17 1999-05-04 Dolby Laboratories Licensing Corporation Frame-based audio coding with gain-control words
JP3539615B2 (ja) 1998-03-09 2004-07-07 ソニー株式会社 符号化装置、編集装置及び符号化多重化装置並びにそれらの方法
JP2000206994A (ja) 1999-01-20 2000-07-28 Victor Co Of Japan Ltd 音声符号化装置及び復号化装置
US20060093045A1 (en) * 1999-06-29 2006-05-04 Roger Anderson Method and apparatus for splicing
WO2001046957A1 (en) * 1999-12-22 2001-06-28 Sarnoff Corporation Method and apparatus for smoothing spliced discontinuous audio streams
US6792047B1 (en) * 2000-01-04 2004-09-14 Emc Corporation Real time processing and streaming of spliced encoded MPEG video and associated audio
US6678332B1 (en) 2000-01-04 2004-01-13 Emc Corporation Seamless splicing of encoded MPEG video and audio
US7096481B1 (en) * 2000-01-04 2006-08-22 Emc Corporation Preparation of metadata for splicing of encoded MPEG video and audio
US6907081B2 (en) * 2001-03-30 2005-06-14 Emc Corporation MPEG encoder control protocol for on-line encoding and MPEG data storage
JP4359499B2 (ja) * 2001-06-08 2009-11-04 アイピージー エレクトロニクス 503 リミテッド オーディオ信号の編集
EP1449365A2 (en) * 2001-07-09 2004-08-25 Visible World, Inc. System and method for seamless switching of compressed audio streams
US7496283B2 (en) * 2002-06-28 2009-02-24 Microsoft Corporation Methods and systems for processing digital data rate and directional playback changes
JP2004272054A (ja) 2003-03-11 2004-09-30 Toshiba Corp 圧縮音声データの編集方法、編集プログラム及び編集装置
US7400653B2 (en) * 2004-06-18 2008-07-15 Dolby Laboratories Licensing Corporation Maintaining synchronization of streaming audio and video using internet protocol
US7512705B2 (en) * 2004-12-01 2009-03-31 Hewlett-Packard Development Company, L.P. Truncating data units
JP4371127B2 (ja) 2006-07-14 2009-11-25 ソニー株式会社 再生装置、再生方法、プログラム
US8538565B2 (en) 2008-02-22 2013-09-17 Panasonic Corporation Music playing apparatus, music playing method, recording medium storing music playing program, and integrated circuit that implement gapless play
ES2434828T3 (es) * 2008-10-06 2013-12-17 Telefonaktiebolaget L M Ericsson (Publ) Método y aparato para el suministro de audio por multicanales alineados
CN102177542B (zh) * 2008-10-10 2013-01-09 艾利森电话股份有限公司 能量保留多通道音频编码
US8743906B2 (en) * 2009-01-23 2014-06-03 Akamai Technologies, Inc. Scalable seamless digital video stream splicing
WO2010125583A2 (en) * 2009-04-28 2010-11-04 Vubites India Private Limited Method and apparatus for coordinated splicing of multiple streams
US8589999B1 (en) * 2009-08-11 2013-11-19 Arris Solutions, Inc. Methods and systems for splicing between media streams
US9031850B2 (en) 2009-08-20 2015-05-12 Gvbb Holdings S.A.R.L. Audio stream combining apparatus, method and program
PL2491555T3 (pl) * 2009-10-20 2014-08-29 Fraunhofer Ges Forschung Wielotrybowy kodek audio
SG182466A1 (en) * 2010-01-12 2012-08-30 Fraunhofer Ges Forschung Audio encoder, audio decoder, method for encoding and audio information, method for decoding an audio information and computer program using a modification of a number representation of a numeric previous context value
JP5719922B2 (ja) * 2010-04-13 2015-05-20 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン サンプルごとに正確なオーディオ信号表現のための方法、エンコーダ及びデコーダ
US9094658B2 (en) 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
US20110293021A1 (en) * 2010-05-28 2011-12-01 Jayant Kotalwar Prevent audio loss in the spliced content generated by the packet level video splicer
US9055305B2 (en) 2011-01-09 2015-06-09 Mediatek Inc. Apparatus and method of sample adaptive offset for video coding
US9008170B2 (en) 2011-05-10 2015-04-14 Qualcomm Incorporated Offset type and coefficients signaling method for sample adaptive offset
US9357235B2 (en) 2011-10-13 2016-05-31 Qualcomm Incorporated Sample adaptive offset merged with adaptive loop filter in video coding
WO2013074365A1 (en) 2011-11-18 2013-05-23 Dolby Laboratories Licensing Corporation Subjective based post-filter optimization
KR101638720B1 (ko) 2012-05-29 2016-07-20 미디어텍 인크. 샘플 어댑티브 오프셋 정보를 부호화하는 방법 및 장치
ES2781573T3 (es) 2012-06-08 2020-09-03 Sun Patent Trust Procedimiento de codificación de imágenes, procedimiento de decodificación de imágenes, dispositivo de codificación de imágenes, dispositivo de decodificación de imágenes, y dispositivo de codificación y decodificación de imágenes
EP3297283B1 (en) 2012-06-11 2019-09-04 Samsung Electronics Co., Ltd. Encoding and decoding videos sharing sao parameters according to a color component
US9596461B2 (en) 2012-11-26 2017-03-14 Qualcomm Incorporated Loop filtering across constrained intra block boundaries in video coding
KR20150009122A (ko) * 2013-07-15 2015-01-26 주식회사 케이티 지역 광고를 합성하는 서버 및 장치, 그리고 영상 스트림을 합성하는 서버
EP2996269A1 (en) 2014-09-09 2016-03-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio splicing concept
US10057574B2 (en) 2015-02-11 2018-08-21 Qualcomm Incorporated Coding tree unit (CTU) level adaptive loop filter (ALF)
CN105989577B (zh) * 2015-02-17 2020-12-29 中兴通讯股份有限公司 一种图像校正的方法和装置
CN107736027B (zh) 2015-06-12 2021-06-01 松下知识产权经营株式会社 图像编码方法、图像解码方法、图像编码装置及图像解码装置
US10841581B2 (en) 2016-07-14 2020-11-17 Arris Enterprises Llc Region specific encoding and SAO-sensitive-slice-width-adaptation for improved-quality HEVC encoding
US10200687B2 (en) 2017-06-02 2019-02-05 Apple Inc. Sample adaptive offset for high dynamic range (HDR) video compression
CN107707915B (zh) 2017-09-30 2019-11-12 上海兆芯集成电路有限公司 采样点自适应偏移滤波的控制方法及其影像处理系统
CN110740246A (zh) * 2018-07-18 2020-01-31 阿里健康信息技术有限公司 一种图像矫正方法、移动设备和终端设备
CN111178278B (zh) * 2019-12-30 2022-04-08 上海商汤临港智能科技有限公司 视线方向确定方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
ES2969748T3 (es) 2024-05-22
RU2017111578A3 (ja) 2018-10-10
TW201626803A (zh) 2016-07-16
EP3192195B1 (en) 2024-01-03
US10511865B2 (en) 2019-12-17
US11882323B2 (en) 2024-01-23
US20170230693A1 (en) 2017-08-10
AR101783A1 (es) 2017-01-11
BR112017003288A2 (pt) 2017-11-28
AU2015314286A1 (en) 2017-04-13
EP3192195C0 (en) 2024-01-03
KR101997058B1 (ko) 2019-07-08
JP6605025B2 (ja) 2019-11-13
US20240129560A1 (en) 2024-04-18
US11025968B2 (en) 2021-06-01
SG11201701516TA (en) 2017-03-30
JP2017534898A (ja) 2017-11-24
EP3192195A1 (en) 2017-07-19
MX2017002815A (es) 2017-05-17
TWI625963B (zh) 2018-06-01
CN113038172A (zh) 2021-06-25
AU2015314286C1 (en) 2020-06-04
US20210352342A1 (en) 2021-11-11
RU2696602C2 (ru) 2019-08-05
EP4307686A2 (en) 2024-01-17
US11477497B2 (en) 2022-10-18
JP6920383B2 (ja) 2021-08-18
MX366276B (es) 2019-07-04
KR20170049592A (ko) 2017-05-10
CN107079174B (zh) 2021-02-05
EP4307686A3 (en) 2024-04-17
RU2017111578A (ru) 2018-10-10
US20230074155A1 (en) 2023-03-09
CN107079174A (zh) 2017-08-18
CA2960114A1 (en) 2016-03-17
AU2015314286B2 (en) 2019-01-03
US20200195985A1 (en) 2020-06-18
MY189151A (en) 2022-01-28
CN113038172B (zh) 2023-09-22
EP2996269A1 (en) 2016-03-16
WO2016038034A1 (en) 2016-03-17
CA2960114C (en) 2019-08-20

Similar Documents

Publication Publication Date Title
JP6920383B2 (ja) オーディオスプライシングのコンセプト
US20230335146A1 (en) Audio decoder, apparatus for generating encoded audio output data and methods permitting initializing a decoder
US9883213B2 (en) Embedding encoded audio into transport stream for perfect splicing
KR20210043679A (ko) 즉시 재생 프레임(ipf)의 생성, 전송 및 처리를 위한 방법, 장치 및 시스템
BR112017003288B1 (pt) Conceito de combinação de áudio

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201201

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210601

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210726

R150 Certificate of patent or registration of utility model

Ref document number: 6920383

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150