KR20040088526A

KR20040088526A - Ｍｐ4에서 ａｖｃ를 지원하기 위한 방법 및 장치

Info

Publication number: KR20040088526A
Application number: KR10-2004-7013184A
Authority: KR
Inventors: 모하메드 주바이르 비샤람; 알리 타바타바이; 토비 워커
Original assignee: 소니 일렉트로닉스 인코포레이티드
Priority date: 2002-02-25
Filing date: 2003-02-24
Publication date: 2004-10-16
Also published as: JP2010124479A; KR20040088541A; JP2010104030A

Abstract

멀티미디어 데이터의 다수의 부분을 위한 파라미터 세트를 식별하는 파라미터 세트 메타데이터가 생성된다. 추가로, 멀티미디어 데이터와 관련된 파일이 형성된다. 상기 파일은 파라미터 세트 메타데이터 뿐만 아니라 멀티미디어 데이터에 속하는 다른 정보를 포함한다.

Description

ＭＰ4에서 ＡＶＣ를 지원하기 위한 방법 및 장치{METHOD AND APPARATUS FOR SUPPORTING AVC IN MP4}

네트워크, 멀티미디어, 데이터베이스 및 다른 디지털 용량에 대한 급속한 요구 증가함에 따라, 많은 멀티미디어 코딩 및 저장 방식이 전개되었다. 오디오/비디오 데이터를 인코딩 및 저장하기 위한 잘 알려진 파일 포맷 중 하나가 Apple Computer Inc.에서 개발한 QuickTime(등록상표) 파일 포맷이다. QuickTime 파일 포맷은 ISO(International Organization for Standardization) 멀티미디어 파일 포맷, ISO/IEC 14496-12, 정보 기술 - 오디오-비디오 객체의 코딩 - 제12부: ISO 미디어 파일 포맷(ISO 파일 포맷으로도 알려짐)을 생성하기 위한 시작점으로서 사용되었고, 차례로 2가지 표준 파일 포맷, 즉 (1) MPEG(Moving Picture Experts Group)이 개발한, MP4로 알려진 MPEG-4 파일 포맷(ISO/IEC 14496-14, 정보 기술 - 오디오-비디오 객체의 코딩 - 제14부: MP4 파일 포맷); 및 (2) JPEG(Joint Photographic Experts Group)이 개발한 JPEG 2000용 파일 포맷(ISO/IEC 15444-1)을 위한 템플릿으로서 사용되었다.

ISO 미디어 파일 포맷은 박스(box)로 언급되는{원자(atom) 또는 객체(object)로도 언급되는} 객체 지향 구조(object-oriented structure)로 구성된다. 2개의 중요한 상위레벨 박스는 미디어 데이터 또는 메타데이터를 포함한다. 대부분의 박스는 실제 미디어 데이터에 관한 선언적, 구조적 및 시간적 정보를 제공하는 메타데이터의 계층을 설명한다. 이러한 박스 수집은 무비 박스(movie box)로 알려진 박스내에 포함된다. 미디어 데이터 자체는 미디어 데이터 박스내에 배치되거나 또는 외부에 배치될 수 있다. 각각의 미디어 데이터스트림은 (기본 스트림 또는 간단하게 스트림으로도 알려진) 트랙이라고 불린다.

주요 메타데이터는 무비 객체이다. 무비 박스는 시간적으로 표시되는 미디어데이터를 설명하는 트랙 박스를 포함한다. 트랙을 위한 미디어 데이터는 다양한 유형{예를 들어, 비디오 데이터, 오디오 데이터, 2진 포맷 스크린 표시(BIFS: binary format screen representations) 등}을 가질 수 있다. 각각의 트랙은 (액세스 유닛 또는 화상으로도 알려진) 샘플로 추가 분할된다. 샘플은 특정 시점에서의 미디어 데이터의 유닛을 나타낸다. 샘플 메타데이터는 샘플 박스 세트에 포함된다. 각각의 트랙 박스는 각각의 샘플에 대한 시간, 그 바이트 크기, 및 그 미디어 데이터에 대한 그 위치(파일에 대해서 외부 또는 내부) 등을 제공하는 박스를 포함하는, 샘플 테이블 박스 메타데이터 박스를 포함한다. 샘플은 타이밍, 위치 및 다른 메타데이터 정보를 나타낼 수 있는 최소 데이터 엔터티이다.

최근, MPEG의 비디오 그룹 및 ITU(International Telecommunication Union)의 VCEG(Video Coding Experts Group)는 ITU Recommendation H.264 또는 MPEG-4-Part 10, AVC(Advanced Video Codec) 또는 JVT 코덱으로 언급되는 새로운 비디오 코딩/디코딩(코덱) 표준을 개발하기 위해 JVT(Joint Video Team)로서 함께 작업하기 시작했다. 이들 용어, 및 H.264, JVT 및 AVC와 같은 그 약어들은 본 명세서에서 교환가능하게 사용된다.

JVT 코덱 디자인은 2개의 서로 다른 개념층, 즉 VCL(Video Coding Layer)과 NAL(Network Abstraction Layer)을 구별했다. VCL은 움직임 보상, 계수의 변환 코딩, 및 엔트로피 코딩과 같은, 코덱의 코딩 관련 부분을 포함한다. VCL의 출력은 슬라이스이고, 그 각각은 일련의 매크로블록 및 관련 헤더 정보를 포함한다. NAL은 VCL 데이터를 전달하기 위해 사용되는 전송층의 세부사항으로부터 VCL을 추출한다.NAL은 슬라이스 레벨 위의 정보에 대한 포괄 및 전송 독립 표시(generic and transport independent representation)를 정의한다. NAL은 비디오 코덱 자체와 외부 세계 사이의 인터페이스를 정의한다. 내부적으로, NAL은 NAL 패킷을 이용한다. NAL 패킷은 페이로드 유형을 나타내는 유형 필드 + 페이로드내의 비트 세트를 포함한다. 단일 슬라이스내의 데이터는 다른 데이터 파티션(partition)으로 추가 분할될 수 있다.

많은 기존의 비디오 코딩 포맷에서, 코딩된 스트림 데이터는 디코딩 프로세스를 제어하는 파라미터를 포함하는 다양한 종류의 헤더를 포함한다. 예를 들어, MPEG-2 비디오 표준은 시퀀스 헤더, GOP(enhanced group of pictures), 및 화상 헤더를 이들 아이템에 대응하는 비디오 데이터 이전에 포함한다. JVT에서, VCL 데이터를 디코딩하는데 필요한 정보는 파라미터 세트로 그룹화된다. 각각의 파라미터 세트는 이어서 슬라이스로부터의 참조로 사용되는 식별자가 제공된다. 스트림 내부(대역내)에 파라미터 세트를 전송하는 대신, 스트림 외부(대역외)에 전송될 수 있다.

기존의 파일 포맷은 코딩된 미디어 데이터와 관련된 파라미터 세트를 저장하기 위한 설비를 제공하지 않거나, 또는 상기 파라미터 세트가 효율적으로 검색 및 전송될 수 있도록 미디어 데이터(즉, 샘플 또는 서브-샘플)를 파라미터 세트에 효율적으로 링크하기 위한 수단을 제공하지 않는다.

ISO 미디어 파일 포맷에서, 미디어 데이터를 파싱(parsing)하지 않고서 액세스될 수 있는 최소 유닛은 샘플, 즉 AVC에서의 전체 화상이다. 많은 코딩된 포맷에서, 샘플은 서브-샘플(샘플 프래그먼트 또는 액세스 유닛 프래그먼트라고도 언급됨)이라고 불리는 더 작은 유닛으로 추가 분할될 수 있다. AVC의 경우에, 서브-샘플은 슬라이스에 대응한다. 그러나, 기존의 파일 포맷은 샘플의 하위부분의 액세스를 지원하지 않는다. 파일 내에 저장된 데이터를 스트리밍을 위해 유동적으로 패킷으로 형성할 필요가 있는 시스템에서, 이러한 서브-샘플에 대한 액세스의 결여는 스트리밍을 위한 JVT 미디어 데이터의 유동적인 패킷화를 방해한다.

기존의 저장 포맷의 다른 한계는, 미디어 데이터를 스트리밍하는 경우에 네트워크 상태의 변경에 반응하여 다른 대역폭을 갖는 저장된 스트림 사이에서의 스위칭을 처리해야 한다는 것이다. 일반적인 스트리밍 시나리오에서, 주요 요구사항 중의 하나는, 네트워크 상태의 변경에 반응하여 압축 데이터의 비트 전송율을 스케일링하는 것이다. 이것은 일반적으로 대표적인 네트워크 상태를 위해 다른 대역폭 및 품질 세팅으로 다수의 스트림을 인코딩하고 그것을 하나 이상의 파일 내에 저장함으로써 실현된다. 서버는 이후 네트워크 상태에 반응하여 이러한 프리코딩(pre-coding)된 스트림 사이에서 스위칭할 수 있다. 기존의 파일 포맷에서, 스트림 사이의 스위칭은 재구성을 위해 이전 샘플에 종속되지 않는 샘플에서만 가능하다. 이러한 샘플은 I-프레임으로 언급된다. 재구성을 위해 이전 샘플에 종속되는 샘플(즉, 참조를 위해 다수의 샘플에 종속되는 P-프레임 또는 B-프레임)에서의 스트림 사이의 스위칭을 위한 지원이 현재 제공되지 않는다.

AVC 표준은 스트림 사이의 효율적인 스위칭, 랜덤 액세스 및 에러 회복뿐만 아니라 다른 특징을 가능하게 하기 위해 스위칭 화상(SI-화상 및 SP-화상이라고함)으로 알려진 툴을 제공한다. 스위칭 화상은, 그 재구성 값이 스위칭될 것으로 예상되는 화상과 정확하게 동등한 특수 화상 유형이다. 스위칭 화상은, 매치되는 화상을 예측하기 위해 사용되는 화상과 다른 기준 화상을 이용하여, I-프레임을 이용하는 것보다 더 효율적인 코딩을 제공할 수 있다. 파일 내에 저장된 스위칭 화상을 효율적으로 이용하기 위해서, 어떤 화상 세트가 동등한지와 어떤 화상이 예측을 위해 사용되는지를 알 필요가 있다. 기존의 파일 포맷은 이러한 정보를 제공하지 않고, 따라서 코딩된 스트림을 파싱함으로써 이러한 정보가 추출되어야 하는데, 이는 비효율적이고 속도가 느리다.

본 출원은 2002년 2월 25일자로 출원된 미국 가 특허출원 제60/359,606호, 2002년 3월 5일자로 출원된 미국 가 특허출원 제60/361,773호, 및 2002년 3월 8일자로 출원된 미국 가 특허출원 제60/363,643호와 관련되고, 그 이익을 청구하며, 상기 특허출원들은 본 명세서에서 참조에 의해 구체화되어 있다.

본 발명은 통상 멀티미디어 파일 포맷으로 오디오/비디오 컨텐트를 저장 및 검색하는 것에 관한 것으로, 특히 ISO 미디어 파일 포맷과 호환가능한 파일 포맷에 관한 것이다.

본 출원서의 명세서의 일부는 저작권 보호를 받는 제재를 포함한다. 저작권 소유자는 본 특허 문서 또는 특허 명세서가 미국 특허청의 특허 파일 또는 레코드에 나오기 때문에 누군가 팩시밀리로 복제하는 것에 대해 이의가 없지만, 그 밖의 모든 저작권은 무엇이든지 소유한다. 다음의 고지는 도면에 도시되고 후술되는 바와 같은 소프트웨어 및 데이터에 적용된다: Copyright ⓒ 2001, Sony Electronics, Inc., All Rights Reserved.

도 1은 인코딩 시스템의 한 실시예의 블록도.

도 2는 디코딩 시스템의 한 실시예의 블록도.

도 3은 본 발명을 실시하기에 적절한 컴퓨터 환경의 블록도.

도 4는 인코딩 시스템에서 서브-샘플 메타데이터를 저장하는 방법의 흐름도.

도 5는 디코딩 시스템에서 서브-샘플 메타데이터를 이용하는 방법의 흐름도.

도 6은 서브-샘플을 갖는 확장형 MP4 미디어 스트림 모델을 나타내는 도면.

도 7a-7k는 서브-샘플 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타내는 도면.

도 8은 인코딩 시스템에서 파라미터 세트 메타데이터를 저장하는 방법의 흐름도.

도 9는 디코딩 시스템에서 파라미터 세트 메타데이터를 이용하는 방법의 흐름도.

도 10a-10e는 파라미터 세트 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타내는 도면.

도 11은 예시적인 최신형 GOP를 나타내는 도면.

도 12는 인코딩 시스템에서 시퀀스 메타데이터를 저장하는 방법의 흐름도.

도 13은 디코딩 시스템에서 시퀀스 메타데이터를 이용하는 방법의 흐름도.

도 14a-14e는 시퀀스 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타내는 도면.

도 15a 및 15b는 비트 스트림 스위칭을 위한 스위치 샘플 세트의 이용을 나타내는 도면.

도 15c는 2개 비트 스트림 사이의 스위치가 수행될 포인트를 결정하는 방법의 한 실시예의 흐름도.

도 16은 인코딩 시스템에서 스위치 샘플 메타데이터를 저장하는 방법의 흐름도.

도 17은 디코딩 시스템에서 스위치 샘플 메타데이터를 이용하는 방법의 흐름도.

도 18은 스위치 샘플 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타내는 도면.

도 19a 및 19b는 비트 스트림으로의 랜덤 액세스 엔트리 포인트를 용이하게 하기 위한 스위치 샘플 세트의 이용을 나타내는 도면.

도 19c는 샘플에 대한 랜덤 액세스 포인트를 결정하는 방법의 한 실시예의 흐름도.

도 20a 및 20b는 에러 복구를 용이하게 하기 위한 스위치 샘플 세트의 이용을 나타내는 도면.

도 20c는 샘플을 전송할 때 에러 복구를 용이하게 하는 방법의 한 실시예의 흐름도.

따라서, 새로운 비디오 코딩 표준에 의해 제공되는 새로운 성능을 제안하고, 기존의 저장 방법의 한계를 해결하기 위해 저장 방법을 개선할 필요가 있다.

멀티미디어 데이터의 다수의 부분을 위한 파라미터 세트를 식별하는 파라미터 세트 메타데이터가 생성된다. 추가로, 멀티미디어 데이터와 관련된 파일이 형성된다. 상기 파일은 파라미터 세트 메타데이터뿐만 아니라 멀티미디어 데이터에 속하는 다른 정보를 포함한다.

본 발명은 첨부 도면의 도면들에서 제한의 방법으로서가 아니라 예의 방법으로 예시되고, 도면에서 유사한 참조번호는 유사한 요소를 언급한다.

다음의 본 발명의 실시예의 상세한 설명에서, 유사 참조부호는 유사 요소를 나타내고, 본 발명이 실시될 수 있는 특정 실시예가 예시의 방법으로 도시되어 있는 첨부 도면에 대한 참조가 이뤄진다. 이들 실시예는 당업자가 본 발명을 실시할 수 있도록 하기 위해 충분히 상세하게 설명되며, 다른 실시예가 이용될 수 있고 논리적, 기계적, 전기적, 기능적 및 다른 변경이 본 발명의 범주에서 벗어나지 않고서 이뤄질 수 있다는 점이 이해된다. 따라서, 다음의 상세한 설명은 제한하는 관점에서 취해진 것이 아니고, 본 발명의 범주는 첨부된 청구의 범위에 의해서만 한정된다.

본 발명의 작동의 개요에서 시작하면, 도 1은 인코딩 시스템(100)의 한 실시예를 나타낸다. 인코딩 시스템(100)은 미디어 인코더(104), 메타데이터 발생기(106) 및 파일 생성기(108)를 포함한다. 미디어 인코더(104)는 비디오 데이터(예를 들어, 자연 소스 비디오 장면으로부터 생성된 비디오 객체 및 다른 외부 비디오 객체), 오디오 데이터(예를 들어, 자연 소스 오디오 장면으로부터 생성된 오디오 객체 및 다른 외부 오디오 객체), 합성 객체, 또는 상기 데이터들의 임의의 조합을 포함할 수 있는 미디어 데이터를 수신한다. 미디어 인코더(104)는 다수의 각각의 인코더로 구성될 수 있거나, 또는 다양한 유형의 미디어 데이터를 처리하기 위해 서브-인코더를 포함할 수 있다. 미디어 인코더(104)는 미디어 데이터를 코딩하고, 그것을 메타데이터 발생기(106)로 전달한다. 메타데이터 발생기(106)는 미디어 파일 포맷에 따라서 미디어 데이터에 관한 정보를 제공하는 메타데이터를 발생시킨다. 미디어 파일 포맷은 ISO 미디어 파일 포맷(또는 MPEG-4, JPEG 2000 등과 같은 그 파생 포맷 중 어떤 한 포맷), QuickTime 또는 임의의 다른 미디어 파일 포맷으로부터 유도될 수 있고, 또한 어떤 추가적인 데이터 구조를 포함할 수 있다. 한 실시예에서, 미디어 데이터내의 서브-샘플에 속하는 메타데이터를 저장하기 위해 추가적인 데이터 구조가 정의된다. 다른 실시예에서, 미디어 데이터의 일부(예를 들어, 샘플 또는 서브-샘플)를, 종래 방식으로 미디어 데이터 내에 저장된 디코딩 정보를 포함하는 대응하는 파라미터 세트에 링크하는 메타데이터를 저장하기 위해 추가적인 데이터 구조가 정의된다. 또 다른 실시예에서, 미디어 데이터내의 샘플의 상호의존성에 기초하여 생성되는 메타데이터내의 다양한 샘플 그룹에 속하는 메타데이터를 저장하기 위해 추가적인 데이터 구조가 정의된다. 더 다른 실시예에서, 미디어 데이터와 관련된 스위치 샘플 세트에 속하는 메타데이터를 저장하기 위해 추가적인 데이터 구조가 정의된다. 스위치 샘플 세트는 동일한 디코딩 값을 갖지만 다른 샘플에 종속될 수 있는 샘플 세트를 언급한다. 더 다른 실시예에서, 추가적인 데이터 구조의 다양한 조합이 사용되는 파일 포맷으로 정의된다. 이러한 추가 데이터 구조 및 그 기능이 더 상세하게 후술될 것이다.

파일 생성기(108)는 미디어 파일 포맷에 의해 그 구조가 정의되는 파일 내에 메타데이터를 저장한다. 한 실시예에서, 상기 파일은 코딩된 미디어 데이터 및 상기 미디어 데이터에 속하는 메타데이터를 모두 포함한다. 대안적으로, 코딩된 미디어 데이터는 분리된 파일 내에 부분적으로 또는 전체적으로 포함되고, (예를 들어, URL을 통해) 참조로 메타데이터 파일 내에 포함되는 메타데이터에 링크된다. 파일 생성기(108)에 의해 생성되는 파일은 저장 또는 전송을 위해 채널(110)상에서 이용 가능하다.

도 2는 디코딩 시스템(200)의 한 실시예를 나타낸다. 디코딩 시스템(200)은 메타데이터 추출기(204), 미디어 데이터스트림 프로세서(206), 미디어 디코더(210), 합성기(212), 및 렌더러(renderer)(214)를 포함한다. 디코딩시스템(200)은 클라이언트 디바이스 상에 존재할 수 있고, 로컬 재생을 위해 사용될 수 있다. 대안적으로, 디코딩 시스템(200)은 데이터를 스트리밍하기 위해 사용될 수 있고, 네트워크(예를 들어, 인터넷)(208)상에서 서로 통신하는 서버부와 클라이언트부를 구비할 수 있다. 서버부는 메타데이터 추출기(204) 및 미디어 데이터스트림 프로세서(206)를 포함할 수 있다. 클라이언트부는 미디어 디코더(210), 합성기(212) 및 렌더러(214)를 포함할 수 있다.

메타데이터 추출기(204)는 데이터베이스(216)내에 저장되거나 또는 {예를 들어, 인코딩 시스템(100)으로부터} 네트워크상에서 수신된 파일로부터 메타데이터를 추출할 책임이 있다. 파일은 추출되는 메타데이터와 관련된 미디어 데이터를 포함하거나 포함하지 않을 수 있다. 상기 파일로부터 추출된 메타데이터는 전술한 하나 이상의 추가 데이터 구조를 포함한다.

추출된 메타데이터는 또한 관련 코딩된 미디어 데이터를 수신하는 미디어 데이터스트림 프로세서(206)로 전달된다. 미디어 데이터스트림 프로세서(206)는 미디어 디코더(210)로 전송될 미디어 데이터스트림을 형성하기 위해 메타데이터를 이용한다. 한 실시예에서, 미디어 데이터스트림 프로세서(206)는 (예를 들어, 패킷화를 위해) 미디어 데이터 내에 서브-샘플을 배치하기 위해 서브-샘플에 속하는 메타데이터를 이용한다. 다른 실시예에서, 미디어 데이터스트림 프로세서(206)는 미디어 데이터의 일부를 그 대응 파라미터 세트에 링크하기 위해 파라미터 세트에 속하는 메타데이터를 이용한다. 더 다른 실시예에서, 미디어 데이터스트림 프로세서(206)는 특정 그룹내의 샘플을 액세스하기 위해 메타데이터내의 다양한 샘플 그룹을 정의하는 메타데이터를 이용한다{예를 들어, 전송 상태에 반응하여 전송된 비트 전송율을 더 낮추기 위해서 다른 샘플이 종속되지 않는 샘플을 포함하는 그룹을 드롭하는 것에 의한 범위성(scalability)을 위해서}. 더 다른 실시예에서, 미디어 데이터스트림 프로세서(206)는 스위칭될 것으로 생각되는 샘플과 동일한 디코딩 값을 갖지만 이러한 결과적인 샘플이 종속되는 샘플에 종속되지 않는 스위치 샘플을 배치하기 위해 스위치 샘플 세트를 한정하는 메타데이터를 이용한다(예를 들어, P-프레임 또는 B-프레임에서 서로 다른 비트 전송율로 스트림을 스위칭하는 것을 허용하기 위해서).

일단 미디어 데이터스트림이 형성되면, 상기 스트림은 디코딩을 위해 (예를 들어 로컬 재생을 위해) 직접 또는 (예를 들어, 데이터 스트리밍을 위해) 네트워크(208)를 통해 미디어 디코더(210)로 전송된다. 합성기(212)는 미디어 디코더(210)의 출력을 수신하고, 이후 렌더러(214)에 의해 사용자 디스플레이 디바이스 상에 렌더링되는 장면을 합성한다.

다음의 도 3의 설명은 컴퓨터 하드웨어 및 본 발명을 구현하기에 적당한 다른 작동 구성요소의 개요를 제공하고자 하는 것이지만, 적용 가능한 환경을 제한하고자 하는 것은 아니다. 도 3은 도 1의 메타데이터 발생기(106) 및/또는 파일 생성기(108), 또는 도 2의 메타데이터 추출기(204) 및/또는 미디어 데이터스트림 프로세서(206)로서 사용하기에 적당한 컴퓨터 시스템의 한 실시예를 나타낸다.

컴퓨터 시스템(340)은 시스템 버스(365)에 연결되는 프로세서(350), 메모리(355) 및 입력/출력 가능수단(360)을 포함한다. 메모리(355)는프로세서(350)에 의해 실행되는 경우에 본 명세서에서 설명된 방법을 수행하는 지령을 저장하기 위해 구성된다. 입력/출력(360)은 또한 프로세서(350)에 의해 액세스 가능한 임의의 저장 디바이스 유형을 포함하는, 다양한 유형의 컴퓨터-판독 가능한 미디어를 포함한다. 당업자는, 용어 "컴퓨터-판독 가능한 미디엄/미디어"가 데이터 신호를 인코딩하는 반송파를 더 포함한다는 것을 즉시 인식할 것이다. 또한, 시스템(340)은 메모리(355)내에서 실행되는 운영 시스템 소프트웨어에 의해 제어된다는 것을 이해할 것이다. 입력/출력 및 관련 미디어(360)는 본 발명의 방법 및 운영 시스템을 위한 컴퓨터-실행 가능한 지령을 저장한다. 도 1 및 도 2에 도시된 각각의 메타데이터 발생기(106), 파일 생성기(108), 메타데이터 추출기(204), 및 미디어 데이터스트림 프로세서(206)는 프로세서(350)에 연결된 분리된 구성요소이거나, 또는 프로세서(350)에 의해 실행되는 컴퓨터-판독 가능한 지령으로 실시될 수도 있다. 한 실시예에서, 컴퓨터 시스템(340)은 인터넷상에서 미디어 데이터를 전송 또는 수신하기 위해 ISP(Internet Service Provider)의 일부가 되거나 또는 입력/출력(360)을 통해 ISP에 연결될 수 있다. 본 발명이 인터넷 액세스 및 인터넷 웹 기반 사이트에 제한되지 않는다는 점이 용이하게 명백해진다. 직접 연결된 전용 네트워크 또한 고려된다.

컴퓨터 시스템(340)이 다른 구조를 갖는 많은 가능한 컴퓨터 시스템의 한 예시인 점을 이해할 것이다. 일반적인 컴퓨터 시스템은 통상 적어도 프로세서, 메모리, 및 메모리를 프로세서에 연결하는 버스를 포함할 것이다. 당업자는 본 발명이 멀티프로세서 시스템, 미니컴퓨터, 메인프레임 컴퓨터 등을 포함한 다른 컴퓨터 시스템 구성과 함께 실시될 수 있다는 점을 즉시 이해할 것이다. 본 발명은 또한 통신 네트워크를 통해 링크되는 원격 처리 디바이스에 의해 태스크가 수행되는 분산 컴퓨팅 환경에서 실시될 수 있다.

서브-샘플 액세스가능성

도 4 및 도 5는 각각 인코딩 시스템(100) 및 디코딩 시스템(200)에 의해 수행되는 서브-샘플 메타데이터를 저장 및 검색하기 위한 프로세스를 나타낸다. 상기 프로세스는 하드웨어(예를 들어, 회로, 전용 로직 등), (예를 들어, 범용 컴퓨터 시스템 또는 전용 기기 상에서 실행되는) 소프트웨어, 또는 상기 하드웨어와 소프트웨어의 결합을 포함할 수 있는 처리 로직에 의해 수행될 수 있다. 소프트웨어-구현 프로세스를 위해서, 흐름도의 설명은, 당업자가 적절하게 구성된 컴퓨터(메모리를 포함한, 컴퓨터-판독 가능한 미디어로부터의 지령을 실행하는 컴퓨터의 프로세서)상에서 상기 프로세스를 수행하기 위한 지령을 포함하는 그러한 프로그램을 개발할 수 있도록 한다. 컴퓨터-실행 가능한 지령은 컴퓨터 프로그래밍 언어로 기록될 수 있거나, 또는 펌웨어 로직으로 실시될 수 있다. 만일 인식된 표준에 따른 프로그래밍 언어로 기록된다면, 상기 지령은 다양한 하드웨어 플랫폼 상에서 다양한 운영 시스템으로의 인터페이스를 위해 실행될 수 있다. 추가로, 본 발명의 실시예는 임의의 특정 프로그래밍 언어와 관련하여 설명되지 않는다. 본 명세서에서 설명된 설명을 구현하기 위해 다양한 프로그래밍 언어가 사용될 수 있다는 점을 이해해야할 것이다. 추가로, 해당 기술분야에서 하나의 형태 또는 다른 형태(예를 들어, 프로그램, 프로시저, 프로세스, 애플리케이션, 모듈, 로직 등)를 갖는 소프트웨어가 행위를 취하거나 또는 결과를 발생시키는 것으로 말하는 것은 공통적이다. 이러한 표현은 단순하게 짧게 말하자면 컴퓨터에 의한 소프트웨어의 실행이 컴퓨터의 프로세서로 하여금 행위를 수행하거나 결과를 생성하게 한다는 것이다. 본 발명의 범주에서 벗어나지 않고서 얼마간의 동작이 도 4 및 도 5에 예시된 프로세스로 구현될 수 있고, 도시되고 본 명세서에서 설명된 블록의 배치에 의해 특정한 순서가 강제되지 않는다는 점이 이해될 것이다.

도 4는 인코딩 시스템(100)에서 서브-샘플 메타데이터를 생성하기 위한 방법(400)의 한 실시예의 흐름도이다. 먼저, 방법(400)은 인코딩된 미디어 데이터를 갖는 파일을 수신하는 처리 로직에서 시작된다{처리 블록(402)}. 다음, 처리 로직은 미디어 데이터내의 서브-샘플의 경계를 식별하는 정보를 추출한다{처리 블록(404)}. 사용되는 파일 포맷에 따라서, 시간 속성이 부착될 수 있는 데이터스트림의 최소 유닛은 (ISO 미디어 파일 포맷 또는 QuickTime에 의해 정의되는 바와 같은) 샘플, (MPEG-4에 의해 정의되는 바와 같은) 액세스 유닛, 또는 (JVT에 의해 정의되는 바와 같은) 화상 등으로 언급된다. 서브-샘플은 샘플 레벨 아래의 데이터스트림의 인접 부분을 나타낸다. 서브-샘플의 정의는 코딩 포맷에 따라 달라지지만, 일반적으로 서브-샘플은 샘플의 부분적인 재구성을 얻기 위해 단일 엔터티 또는 서브유닛의 결합으로서 디코딩될 수 있는 샘플의 의미있는 서브유닛이다. 서브-샘플은 또한 액세스 유닛 프래그먼트로 불릴 수 있다. 종종, 서브-샘플은, 각각의 서브-샘플이 동일한 샘플내의 다른 서브-샘플에 대해 약간 종속되거나 종속되지 않도록 하기 위해서, 샘플의 데이터스트림의 분할을 나타낸다. 예를 들어, JVT에서,서브-샘플은 NAL 패킷이다. 유사하게, MPEG-4 비디오에서, 서브-샘플은 비디오 패킷이다.

한 실시예에서, 인코딩 시스템(100)은 전술한 바와 같이 JVT에 의해 정의된 네트워크 추출층에서 작동한다. JVT 미디어 데이터스트림은 일련의 NAL 패킷으로 구성되며, 여기서, 각각의 NAL 패킷(NAL 유닛으로도 언급됨)이 헤더부 및 페이로드부를 포함한다. 하나의 NAL 패킷 유형은 각각의 슬라이스를 위한 코딩된 VCL 데이터 또는 한 슬라이스의 단일 데이터 파티션을 포함하기 위해 사용된다. 추가로, NAL 패킷은 SEI(supplemental enhancement information) 메시지를 포함하는 정보 패킷일 수 있다. SEI 메시지는 대응하는 슬라이스의 디코딩에서 사용될 선택적 데이터를 나타낸다. JVT에서, 서브-샘플은 헤더 및 페이로드 모두를 갖는 완전한 NAL 패킷일 수 있다.

처리 블록(406)에서, 처리 로직은 미디어 데이터내의 서브-샘플을 정의하는 서브-샘플 메타데이터를 생성한다. 한 실시예에서, 서브-샘플 메타데이터는 사전 한정된 데이터 구조 세트(예를 들어, 박스 세트)로 조직된다. 사전 한정된 데이터 구조 세트는 각각의 서브-샘플의 크기에 관한 정보를 포함하는 데이터 구조, 각각의 샘플내의 전체 서브-샘플 수에 관한 정보를 포함하는 데이터 구조, 각각의 서브-샘플(예를 들어, 서브-샘플로 정의되는 것)을 설명하는 정보를 포함하는 데이터 구조, 또는 서브-샘플에 속하는 데이터를 포함하는 임의의 다른 데이터 구조를 포함할 수 있다.

다음, 한 실시예에서, 처리 로직은 임의의 데이터 구조가 반복되는 데이터시퀀스를 포함하는지 여부를 결정한다{결정 박스(408)}. 만일 이러한 결정이 긍정이라면, 처리 로직은 각각의 반복된 데이터 시퀀스를 시퀀스 발생 기준 및 반복된 시퀀스가 발생하는 횟수로서 변환한다{처리 블록(410)}.

그 다음, 처리 블록(412)에서, 처리 로직은 특정 미디어 파일 포맷(예를 들어, JVT 파일 포맷)을 이용하는 미디어 데이터와 관련된 파일로의 서브-샘플 메타데이터를 포함한다. 미디어 파일 포맷에 따라서, 서브-샘플 메타데이터는 샘플 메타데이터와 함께 저장될 수 있거나(예를 들어, 서브-샘플 데이터 구조는 샘플 데이터 구조를 포함하는 샘플 테이블 박스내에 포함될 수 있다), 또는 샘플 메타데이터와 상관없이 저장될 수 있다.

도 5는 디코딩 시스템(200)에서 서브-샘플 메타데이터를 이용하기 위한 방법(500)의 한 실시예의 흐름도이다. 먼저, 방법(500)은 인코딩된 미디어 데이터와 관련된 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(502)}. 상기 파일은 데이터베이스(로컬 또는 외부), 인코딩 시스템(100), 또는 네트워크상의 임의의 다른 디바이스로부터 수신될 수 있다. 상기 파일은 미디어 데이터내의 서브-샘플을 정의하는 서브-샘플 메타데이터를 포함한다.

다음, 처리 로직은 상기 파일로부터 서브-샘플 메타데이터를 추출한다{처리 블록(504)}. 전술한 바와 같이, 서브-샘플 메타데이터는 데이터 구조 세트(예를 들어, 박스 세트)에 저장될 수 있다.

추가로, 처리 블록(506)에서, 처리 로직은 (동일한 파일 또는 다른 파일 내에 저장된) 인코딩된 미디어 데이터내의 서브-샘플을 식별하기 위해 추출된 메타데이터를 이용하고, 다양한 서브-샘플을 미디어 디코더로 전송될 패킷으로 결합하여, 스트리밍을 위해(예를 들어, 에러 회복, 범위성 등을 지원하기 위해) 미디어 데이터의 유동적인 패킷화를 가능하게 한다.

이제 (확장형 MP4라고 언급되는) 확장형 ISO 미디어 파일 포맷을 참조하여 예시적인 서브-샘플 메타데이터 구조가 설명될 것이다. 다른 미디어 파일 포맷이 서브-샘플 메타데이터를 저장하기 위한 유사한 데이터 구조를 구현하기 위해 용이하게 확장될 수 있다는 점이 당업자에게 명백할 것이다.

도 6은 서브-샘플을 갖는 확장형 MP4 미디어 스트림 모델을 나타낸다. 프레젠테이션 데이터(예를 들어, 동기화된 오디오 및 비디오를 포함하는 프레젠테이션)는 무비(602)에 의해 표시된다. 무비(602)는 트랙(604) 세트를 포함한다. 각각의 트랙(604)은 미디어 데이터스트림을 나타낸다. 각각의 트랙(604)은 샘플(606)로 분할된다. 각각의 샘플(606)은 특정한 시점에서의 미디어 데이터의 유닛을 나타낸다. 샘플(606)은 서브-샘플(608)로 추가 분할된다. JVT 표준에서, 서브-샘플(608)은 화상의 단일 슬라이스, 다수의 데이터 파티션을 갖는 슬라이스의 하나의 데이터 파티션, 대역내 파라미터 세트, 또는 SEI 정보 패킷과 같은 NAL 패킷 또는 유닛을 나타낼 수 있다. 대안적으로, 서브-샘플(608)은 미디어내의 공간 또는 시간 영역을 나타내는 코딩된 데이터와 같은, 샘플의 임의의 다른 구조화된 요소를 나타낼 수 있다. 한 실시예에서, 일부 구조적 또는 의미적 표준에 따른 코딩된 미디어 데이터의 임의의 파티션은 서브-샘플로서 취급될 수 있다.

도 7a-7l은 서브-샘플 메타데이터를 저장하기 위한 예시적인 데이터 구조를나타낸다.

도 7a를 참조하면, ISO 미디어 파일 포맷에 의해 정의된 샘플 메타데이터 박스를 포함하는 샘플 테이블 박스(700)는 서브-샘플 크기 박스(702), 서브-샘플 설명 관계 박스(704), 서브-샘플-샘플 박스(706), 및 서브-샘플 설명 박스(708)와 같은 서브-샘플 액세스 박스를 포함하기 위해 확장된다. 한 실시예에서, 서브-샘플 액세스 박스의 사용은 선택적이다.

도 7b를 참조하면, 샘플(710)은 예를 들어 슬라이스(712)와 같은 슬라이스, 파티션(714)과 같은 데이터 파티션, 및 ROI(716)와 같은 관심 영역(ROI: regions of interest)으로 분할될 수 있다. 각각의 이러한 샘플은 다른 종류의 샘플의 서브-샘플로의 분할을 나타낸다. 단일 샘플내의 서브-샘플들은 서로 다른 크기를 가질 수 있다.

서브-샘플 크기 박스(718)는 서브-샘플 크기 박스(718)의 버전을 지정하는 버전 필드, 디폴트 서브-샘플 크기를 지정하는 서브-샘플 크기 필드, 트랙내의 서브-샘플의 수를 제공하기 위한 서브-샘플 카운트 필드, 및 각각의 서브-샘플의 크기를 지정하는 엔트리 크기 필드를 포함한다. 만일 서브-샘플 크기 필드가 0으로 세팅되면, 서브-샘플은 서브-샘플 크기 테이블(720)내에 저장되는 다른 크기를 갖는다. 만일 서브-샘플 크기 필드가 0으로 세팅되지 않으면, 일정한 서브-샘플 크기를 지정하고, 이는 서브-샘플 크기 테이블(720)이 비어있다는 것을 나타낸다. 상기 테이블(720)은 서브-샘플 크기를 나타내기 위해 32비트의 고정 크기 또는 가변 길이 필드를 가질 수 있다. 만일 상기 필드가 가변 길이라면, 서브-샘플 테이블은 서브-샘플 크기 필드의 바이트 길이를 나타내는 필드를 포함한다.

도 7c를 참조하면, 서브-샘플-샘플 박스(722)는 서브-샘플-샘플 박스(722)의 버전을 지정하는 버전 필드, 및 테이블(723)내의 엔트리의 수를 제공하는 엔트리 카운트 필드를 포함한다. 서브-샘플-샘플 테이블내의 각각의 엔트리는, 동일한 수의 샘플당 서브-샘플을 셰어링하는 샘플의 실행(run)에서 제 1 샘플의 인덱스를 제공하는 제 1 샘플 필드, 및 샘플의 실행 내에서 각각의 샘플내의 서브-샘플의 수를 제공하는 샘플당 서브-샘플 필드를 포함한다.

테이블(723)은 1회 실행시에(in a run) 존재하는 샘플의 수를 계산하고, 상기 수에 적절한 샘플당 서브-샘플을 곱하며, 모든 실행의 결과를 함께 더함으로써, 트랙내의 전체 서브-샘플의 수를 찾는데 사용될 수 있다.

도 7d를 참조하면, 서브-샘플 설명 관계 박스(724)는 서브-샘플 설명 관계 박스(724)의 버전을 지정하는 버전 필드, 설명되는 서브-샘플의 유형(예를 들어, NAL 패킷, 관심 영역 등)을 나타내는 설명 유형 식별자, 및 테이블(726)내의 엔트리의 수를 제공하는 엔트리 카운트 필드를 포함한다. 테이블(726)내의 각각의 엔트리는 서브-샘플 설명 ID를 나타내는 서브-샘플 설명 유형 식별자 필드, 및 동일한 서브-샘플 설명 ID를 셰어링하는 서브-샘플의 실행에서 제 1 서브-샘플의 인덱스를 제공하는 제 1 서브-샘플 필드를 포함한다.

서브-샘플 설명 유형 식별자는 서브-샘플 설명 ID 필드의 이용을 제어한다. 즉, 상기 설명 유형 식별자로 지정된 유형에 따라서, 서브-샘플 설명 ID 필드는 ID 자체내의 서브-샘플 설명을 직접 인코딩하는 설명 ID를 스스로 지정할 수 있거나,또는 서브-샘플 설명 ID 필드는 다른 테이블(즉, 후술되는 서브-샘플 설명 테이블)로의 인덱스의 역할을 할 수 있다. 예를 들어, 만일 설명 유형 식별자가 JVT 설명을 나타낸다면, 서브-샘플 설명 ID 필드는 JVT 서브-샘플의 특징을 지정하는 코드를 포함할 수 있다. 이러한 경우에, 서브-샘플 설명 ID 필드는, 서브-샘플내의 사전 한정된 데이터 파티션의 존재를 나타내기 위해 비트 마스크로서 사용되는 최하위 8비트 및 NAL 패킷 유형을 나타내거나 또는 미래의 확장을 위해 사용되는 더 높은 차수의 24비트를 갖는 32비트 필드일 수 있다.

도 7e를 참조하면, 서브-샘플 설명 박스(728)는 서브-샘플 설명 박스(728)의 버전을 지정하는 버전 필드, 테이블(730)내의 엔트리의 수를 제공하는 엔트리 카운트 필드, 서브-샘플의 특징에 관한 정보를 제공하는 서브-샘플 설명 필드의 설명 유형을 제공하는 설명 유형 식별자 필드, 및 하나 이상의 서브-샘플 설명 엔트리를 포함하는 테이블(730)을 포함한다. 서브-샘플 설명 유형은 설명 정보가 관련되는 유형을 식별하고, 서브-샘플 설명 관계 테이블(724)내의 동일 필드에 대응한다. 테이블(730)내의 각각의 엔트리는 이러한 설명 엔트리와 관련된 서브-샘플의 특징에 관한 정보를 갖는 서브-샘플 설명 엔트리를 포함한다. 상기 설명 엔트리의 포맷 및 정보는 설명 유형 필드에 따라 달라진다. 예를 들어, 설명 유형이 파라미터 세트인 경우에, 각각의 설명 엔트리는 파라미터 세트의 값을 포함할 것이다.

설명 정보는 파라미터 세트 정보, ROI에 속하는 정보, 또는 서브-샘플을 특징화하기 위해 필요한 임의의 다른 정보와 관련될 수 있다. 파라미터 세트에서, 서브-샘플 설명 관계 테이블(724)은 각각의 서브-샘플과 관련된 파라미터 세트를 나타낸다. 이러한 경우에, 서브-샘플 설명 ID는 파라미터 세트 식별자에 대응한다. 유사하게, 서브-샘플은 다음과 같이 다른 관심 영역을 나타낼 수 있다. 비디오 프레임 또는 이미지의 코딩된 마이크로블록의 다른 영역으로의 분할을 나타내기 위해서, 서브-샘플을 하나 이상의 코딩된 매크로블록으로 정의한 다음, 서브-샘플 설명 관계 테이블을 이용한다. 예를 들어, 프레임내의 코딩된 매크로블록은 2개의 서브-샘플 설명 ID(예를 들어, 1 및 2인 서브-샘플 설명 ID)를 갖는 전면 및 배경 매크로블록으로 분할될 수 있고, 이는 각각 전면 및 배경 영역에 대한 지정을 나타낸다.

도 7f는 다른 유형의 서브-샘플을 나타낸다. 서브-샘플은 파티션이 없는 슬라이스(732), 다수의 데이터 파티션이 있는 슬라이스(734), 슬라이스내의 헤더(736), 슬라이스 중간의 데이터 파티션(738), 슬라이스의 최종 데이터 파티션(740), SEI 정보 패킷(742) 등을 나타낼 수 있다. 각각의 이러한 서브-샘플 유형은 도 7g에 도시된 8비트 마스크(744)의 특정 값과 관련될 수 있다. 8비트 마스크는 전술한 바와 같이 32비트 서브-샘플 설명 ID 필드의 8 최하위 비트를 형성할 수 있다. 도 7h는 "jvtd"와 동일한 설명 유형 식별자를 갖는 서브-샘플 설명 관계 박스(724)를 나타낸다. 테이블(726)은 도 7g에 도시된 값을 저장하는 32비트 서브-샘플 설명 ID 필드를 포함한다.

도 7h-7k는 서브-샘플 설명 관계 테이블내의 데이터의 압축을 나타낸다.

도 7i를 참조하면, 비압축 테이블(726)은 시퀀스(748)를 반복하는 서브-샘플 설명 ID의 시퀀스(750)를 포함한다. 압축 테이블(746)에서, 반복된 시퀀스(750)는시퀀스(748)에 대한 기준 및 상기 시퀀스가 발생하는 횟수로 압축되었다.

도 7j에 도시된 한 실시예에서, 시퀀스 발생은, 그 최상위 비트를 시퀀스 플래그(754)의 실행으로서 이용하고, 그 다음 23비트를 발생 인덱스(756)로서 이용하며, 그 최하위 비트를 발생 길이(758)로서 이용함으로써 서브-샘플 설명 ID 필드 내에서 인코딩될 수 있다. 만일 플래그(754)가 1로 세팅된다면, 그것은 상기 엔트리가 반복된 시퀀스의 발생이라는 것을 나타낸다. 그렇지 않으면, 상기 엔트리는 서브-샘플 설명 ID이다. 발생 인덱스(756)는 제 1 시퀀스 발생의 서브-샘플 설명 관계 박스(724)내의 인덱스이고, 길이(758)는 반복된 시퀀스 발생의 길이를 나타낸다.

도 7k에 도시된 다른 실시예에서, 반복된 시퀀스 발생 테이블(760)은 반복된 시퀀스 발생을 나타내기 위해 사용된다. 서브-샘플 설명 ID 필드의 최상위 비트는, 상기 엔트리가 서브-샘플 설명 관계 박스(724)의 일부인 반복 시퀀스 발생 테이블(760)내의 엔트리의 시퀀스 인덱스(764) 또는 서브-샘플 설명 ID인지를 나타내는 시퀀스 플래그(762)의 실행으로서 사용된다. 반복된 시퀀스 발생 테이블(760)은 반복된 시퀀스에서 제 1 아이템의 서브-샘플 설명 관계 박스(724)내의 인덱스를 지정하기 위한 발생 인덱스 필드, 및 반복된 시퀀스 길이를 지정하기 위한 길이 필드를 포함한다.

파라미터 세트

JVT와 같은 특정 미디어 포맷에서, 미디어 데이터의 적절한 디코딩에 필요한 임계 제어값을 포함하는 "헤더" 정보는 코딩된 데이터의 나머지로부터 분리/단절되고 파라미터 세트 내에 저장된다. 그 다음, 코딩된 데이터와 함께 스트림내의 이들 제어값을 혼합하기 보다는, 코딩된 데이터는 고유 식별자와 같은 메커니즘을 이용하여 필요한 파라미터 세트를 참조할 수 있다. 이러한 방식은 코딩된 데이터로부터 더 높은 레벨의 코딩 파라미터의 전송을 단절한다. 동시에, 공통 제어값 세트를 파라미터 세트로서 셰어링함으로써 중복성(redundancy)을 또한 감소시킨다.

파라미터 세트를 이용하는 저장된 미디어 스트림의 효율적인 전송을 지원하기 위해서, 전송기 또는 플레이어는 파라미터 세트가 전송 또는 액세스되어야 하는 시기 및 위치를 알기 위해서 코딩된 데이터를 대응하는 파라미터로 신속하게 링크할 수 있어야 한다. 본 발명의 한 실시예는 파라미터 세트와 대응하는 미디어 데이터 부분 사이의 관계를 파라미터 세트 메타데이터로서 지정하는 데이터를 미디어 파일 포맷으로 저장함으로써 이러한 능력을 제공한다.

도 8 및 도 9는 각각 인코딩 시스템(100) 및 디코딩 시스템(200)에 의해 수행되는 파라미터 세트 메타데이터를 저장 및 검색하기 위한 프로세스를 나타낸다. 상기 프로세스는 하드웨어(예를 들어, 회로, 전용 로직 등), (예를 들어, 범용 컴퓨터 시스템 또는 전용 기기상에서 실행되는) 소프트웨어, 또는 상기 하드웨어와 소프트웨어의 결합을 포함할 수 있는 처리 로직에 의해 수행될 수 있다.

도 8은 인코딩 시스템(100)에서 파라미터 세트 메타데이터를 생성하기 위한 방법(800)의 한 실시예의 흐름도이다. 먼저, 방법(800)은 인코딩된 미디어 데이터를 갖는 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(802)}. 상기 파일은 미디어 데이터의 일부를 디코딩하는 방법을 지정하는 인코딩 파라미터 세트를 포함한다. 다음, 처리 로직은 파라미터 세트로 언급되는 인코딩 파라미터 세트와 대응하는 미디어 데이터 부분 사이의 관계를 검사하고{처리 블록(804)}, 파라미터 세트 및 미디어 데이터 부분과의 그 관계를 정의하는 파라미터 세트 메타데이터를 생성한다{처리 블록(806)}. 상기 미디어 데이터 부분은 샘플 또는 서브-샘플로 표시될 수 있다.

한 실시예에서, 파라미터 세트 메타데이터는 사전 한정된 데이터 구조 세트(예를 들어, 박스 세트)로 조직된다. 사전 한정된 데이터 구조 세트는 파라미터 세트에 관한 설명 정보를 포함하는 데이터 구조, 및 샘플과 대응하는 파라미터 세트 사이의 관계를 정의하는 정보를 포함하는 데이터 구조를 포함할 수 있다. 한 실시예에서, 사전 한정된 데이터 구조 세트는 또한 서브-샘플과 대응하는 파라미터 세트 사이의 관계를 정의하는 정보를 포함하는 데이터 구조를 포함한다. 서브-샘플-파라미터 세트 관계 정보를 포함하는 데이터 구조는 샘플-파라미터 세트 관계 정보를 포함하는 데이터 구조에 우선하거나 우선하지 않을 수 있다.

다음, 한 실시예에서, 처리 로직은 임의의 파라미터 세트 데이터 구조가 반복되는 데이터 시퀀스를 포함하는지 여부를 결정한다{결정 박스(808)}. 만일 이러한 결정이 긍정이라면, 처리 로직은 각각의 반복된 데이터 시퀀스를 시퀀스 발생에 대한 기준 및 시퀀스가 발생하는 횟수로 변환한다{처리 블록(810)}.

그 후, 처리 블록(812)에서, 처리 로직은 특정 미디어 파일 포맷(예를 들어, JVT 파일 포맷)을 이용하는 미디어 데이터와 관련된 파일로의 파라미터 세트 메타데이터를 포함한다. 미디어 파일 포맷에 따라서, 파라미터 세트 메타데이터는 트랙메타데이터 및/또는 샘플 메타데이터와 함께 저장될 수 있거나{예를 들어, 파라미터 세트에 관한 설명 정보를 포함하는 데이터 구조는 트랙 박스내에 포함될 수 있고, 관계 정보를 포함하는 데이터 구조(들)는 샘플 테이블 박스내에 포함될 수 있다), 또는 트랙 메타데이터 및/또는 샘플 메타데이터와 상관없이 저장될 수 있다.

도 9는 디코딩 시스템(200)에서 파라미터 세트 메타데이터를 이용하기 위한 방법(900)의 한 실시예의 흐름도이다. 먼저, 방법(900)은 인코딩된 미디어 데이터와 관련된 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(902)}. 상기 파일은 데이터베이스(로컬 또는 외부), 인코딩 시스템(100), 또는 네트워크상의 임의의 다른 디바이스로부터 수신될 수 있다. 상기 파일은 미디어 데이터를 위한 파라미터 세트 및 파라미터 세트와 대응하는 미디어 데이터 부분(예를 들어, 대응하는 샘플 또는 서브-샘플) 사이의 관계를 정의하는 파라미터 세트 메타데이터를 포함한다.

다음, 처리 로직은 상기 파일로부터 파라미터 세트 메타데이터를 추출한다{처리 블록(904)}. 전술한 바와 같이, 파라미터 세트 메타데이터는 데이터 구조 세트(예를 들어, 박스 세트)내에 저장될 수 있다.

추가로, 처리 블록(906)에서, 처리 로직은 어떤 파라미터 세트가 특정 미디어 데이터 부분(예를 들어, 샘플 또는 서브-샘플)과 관련되는지를 결정하기 위해 추출된 메타데이터를 이용한다. 상기 정보는 이후 대응하는 파라미터 세트 및 미디어 데이터 부분의 전송 시간을 제어하는데 사용될 수 있다. 즉, 특정 샘플 또는 서브-샘플을 디코딩하는데 사용될 파라미터 세트는 샘플 또는 서브-샘플을 포함하는패킷 이전에 전송되거나 또는 샘플 또는 서브-샘플을 포함하는 패킷과 함께 전송되어야 한다.

따라서, 파라미터 세트 메타데이터의 이용은, 더 신뢰성있는 채널 상에서의 독립적인 파라미터 세트 전송을 가능하게 하여, 미디어 스트림의 일부가 손실되게 하는 에러 또는 데이터 손실 기회를 감소시킨다.

이제 확장형 ISO 미디어 파일 포맷(확장형 ISO로 언급됨)을 참조하여 예시적인 파라미터 세트 메타데이터 구조가 설명될 것이다. 그러나, 파라미터 세트 메타데이터를 저장하기 위한 다양한 데이터 구조를 구현하기 위해 다른 미디어 파일 포맷이 확장될 수 있다는 점에 유의해야 한다.

도 10a-10e는 파라미터 세트 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타낸다.

도 10a를 참조하면, ISO 파일 포맷에 의해 정의되는 트랙 메타데이터 박스를 포함하는 트랙 박스(1002)는 파라미터 세트 설명 박스(1004)를 포함하기 위해 확장된다. 추가로, ISO 파일 포맷에 의해 정의되는 샘플 메타데이터 박스를 포함하는 샘플 테이블 박스(1006)는 샘플-파라미터 세트 박스(1008)를 포함하기 위해 확장된다. 한 실시예에서, 샘플 테이블 박스(1006)는 더 상세하게 후술되는 바와 같이 샘플-파라미터 세트 박스(1008)에 우선할 수 있는 서브-샘플-파라미터 세트 박스를 포함한다.

한 실시예에서, 파라미터 세트 메타데이터 박스(1004,1008)는 필수적이다. 다른 실시예에서, 파라미터 세트 설명 박스(1004)만이 필수적이다. 더 다른 실시예에서, 모든 파라미터 세트 메타데이터 박스는 선택적이다.

도 10b를 참조하면, 파라미터 세트 설명 박스(1010)는 파라미터 세트 설명 박스(1010)의 버전을 지정하는 버전 필드, 테이블(1012)내의 엔트리의 수를 제공하기 위한 파라미터 세트 설명 카운트 필드, 및 파라미터 세트에 대한 엔트리 자체를 포함하는 파라미터 세트 엔트리 필드를 포함한다.

파라미터 세트는 샘플 레벨 또는 서브-샘플 레벨로부터 참조될 수 있다. 도 10c를 참조하면, 샘플-파라미터 세트 박스(1014)는 샘플 레벨로부터 파라미터 세트에 대한 참조를 제공한다. 샘플-파라미터 세트 박스(1014)는 샘플-파라미터 세트 박스(1014)의 버전을 지정하는 버전 필드, 디폴트 파라미터 세트 ID를 지정하는 디폴트 파라미터 세트 ID 필드, 및 테이블(1016)내의 엔트리의 수를 제공하는 엔트리 카운트 필드를 포함한다. 테이블(1016)내의 각각의 엔트리는 동일한 파라미터 세트를 셰어링하는 샘플의 실행에서 제 1 샘플의 인덱스를 제공하는 제 1 샘플 필드, 및 파라미터 세트 설명 박스(1010)에 대한 인덱스를 지정하는 파라미터 세트 인덱스를 포함한다. 만일 디폴트 파라미터 세트 ID가 0이라면, 상기 샘플은 테이블(1016)내에 저장되는 다른 파라미터 세트를 갖는다. 그렇지 않으면, 일정한 파라미터 세트가 사용되고 어레이가 뒤에 오지 않는다.

한 실시예에서, 서브-샘플 설명 관계 테이블과 관련하여 더 상세하게 전술한 바와 같이, 테이블(1016)내의 데이터는 각각의 반복된 시퀀스를 초기 시퀀스에 대한 기준 및 상기 시퀀스가 발생한 횟수로 변환함으로써 압축된다.

파라미터 세트는 파라미터 세트와 서브-샘플 사이의 관계를 정의함으로써 서브-샘플 레벨로부터 참조될 수 있다. 한 실시예에서, 파라미터 세트와 서브-샘플 사이의 관계는 전술한 서브-샘플 설명 관계 박스를 이용하여 정의된다. 도 10d는 파라미터 세트를 참조하는 설명 유형 식별자{예를 들어, 설명 유형 식별자는 "pars"와 동일하다}를 갖는 서브-샘플 설명 관계 박스(1018)를 나타낸다. 이러한 설명 유형 식별자에 기초하여, 테이블(1020)내의 서브-샘플 설명 ID는 파라미터 세트 설명 박스(1010)내의 인덱스를 나타낸다.

한 실시예에서, 파라미터 세트를 참조하는 설명 유형 식별자를 갖는 서브-샘플 설명 관계 박스(1018)가 존재하는 경우, 상기 박스는 샘플-파라미터 세트 박스(1014)에 우선한다.

파라미터 세트는, 파라미터 세트가 생성되는 시간과 대응하는 미디어 데이터 부분을 디코딩하기 위해 파라미터 세트가 사용되는 시간 사이에서 변경될 수 있다. 만일 이러한 변경이 발생하면, 디코딩 시스템(200)은 파라미터 세트에 대한 변경을 지정하는 파라미터 업데이트 패킷을 수신한다. 파라미터 세트 메타데이터는 업데이트의 전후 모두에서 파라미터 세트의 상태를 식별하는 데이터를 포함한다.

도 10e를 참조하면, 파라미터 세트 설명 박스(1010)는, 시간(t₀)에 생성된 초기 파라미터 세트(1022)에 대한 엔트리 및 시간(t₁)에 수신된 파라미터 업데이트 패킷(1026)에 반응하여 생성된 업데이트된 파라미터 세트(1024)에 대한 엔트리를 포함한다. 서브-샘플 설명 관계 박스(1018)는 2개의 파라미터 세트를 대응하는 서브-샘플과 관련시킨다.

샘플 그룹

트랙내의 샘플이 미디어 데이터에서의 하이레벨 구조를 나타내는 시퀀스(가능한 한 비연속적)로의 샘플의 다양한 논리 그룹화(파티션)를 가질 수 있지만, 기존의 파일 포맷은 상기 그룹화를 표시하고 저장하기 위한 편리한 메커니즘을 제공하지 않는다. 예를 들어, JVT와 같은 개선된 코딩 포맷은 그 상호의존성에 기초하여 단일 트랙내의 샘플을 그룹으로 조직한다. (본 명세서에서 시퀀스 또는 샘플 그룹으로 언급되는) 이들 그룹은 네트워크 상태에 의해 요구되는 경우에 제거 가능한 샘플 체인을 식별하는데 사용될 수 있어서, 시간적 범위성을 지원한다. 샘플 그룹을 파일 포맷으로 정의하는 메타데이터의 저장은, 미디어의 전송기가 상기 특성을 용이하고 효율적으로 구현할 수 있도록 한다.

샘플 그룹의 한 예시는, 그 프레임 상호간의 종속성이 샘플 세트로 하여금 다른 샘플과 상관없이 디코딩되도록 허용하는 샘플 세트이다. JVT에서, 이러한 샘플 그룹은 최신형 화상 그룹(최신형 GOP)으로 언급된다. 최신형 GOP에서, 샘플은 서브시퀀스로 분할될 수 있다. 각각의 서브시퀀스는 서로 종속되고 유닛으로서 배치될 수 있는 샘플 세트를 포함한다. 추가로, 최신형 GOP의 샘플은 상위층내의 샘플이 오직 하위층내의 샘플로부터 예측되도록 계층적으로 층으로 구성될 수 있어서, 다른 샘플을 디코딩할 능력에 영향을 미치지 않고서 가장 높은 층의 샘플이 배치되도록 허용한다. 임의의 다른 층내의 샘플에 종속되지 않는 샘플을 포함하는 최하위층은 베이스층으로 언급된다. 베이스층이 아닌 임의의 다른 층은 인핸스먼트층(enhancement layer)으로 언급된다.

도 11은 샘플이 2개의 층, 즉 베이스층(1102) 및 인핸스먼트층(1104)과 2개의 서브시퀀스(1106,1108)로 분할되는 예시적인 최신형 GOP를 나타낸다. 각각의 2개 서브시퀀스(1106,1108)는 서로 상관없이 드롭될 수 있다.

도 12 및 도 13은 각각 인코딩 시스템(100) 및 디코딩 시스템(200)에 의해 수행되는 샘플 그룹 메타데이터의 저장 및 검색을 위한 프로세스를 나타낸다. 상기 프로세스는 하드웨어(예를 들어, 회로, 전용 로직 등), (예를 들어, 범용 컴퓨터 시스템 또는 전용 기기상에서 실행되는) 소프트웨어, 또는 상기 하드웨어와 소프트웨어의 결합을 포함할 수 있는 처리 로직에 의해 수행될 수 있다.

도 12는 인코딩 시스템(100)에서 샘플 그룹 메타데이터를 생성하기 위한 방법(1200)의 한 실시예의 흐름도이다. 먼저, 방법(1200)은 인코딩된 미디어 데이터를 갖는 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(1202)}. 미디어 데이터의 트랙내의 샘플은 특정한 상호의존성을 갖는다. 예를 들어, 상기 트랙은, 임의의 다른 샘플에 종속되지 않는 I-프레임, 단일 이전 샘플에 종속되는 P-프레임, 및 I-프레임, P-프레임 및 B-프레임의 임의의 조합을 포함하는 2개의 이전 샘플에 종속되는 B-프레임을 포함할 수 있다. 그 상호의존성에 기초하여, 트랙내의 샘플은 논리적으로 샘플 그룹(예를 들어, 최신형 GOP, 층, 서브시퀀스 등)으로 결합될 수 있다.

다음, 처리 로직은 각각의 트랙내의 샘플 그룹을 식별하기 위해 미디어 데이터를 검사하고{처리 블록(1204)}, 샘플 그룹을 설명하고 어떤 샘플이 각각의 샘플 그룹 내에 포함되는지를 정의하는 샘플 그룹 메타데이터를 생성한다{처리블록(1206)}. 한 실시예에서, 샘플 그룹 메타데이터는 사전 한정된 데이터 구조 세트(예를 들어, 박스 세트)로 조직된다. 사전 한정된 데이터 구조 세트는 각각의 샘플 그룹에 관한 설명 정보를 포함하는 데이터 구조, 및 각각의 샘플 그룹 내에 포함된 샘플을 식별하는 정보를 포함하는 데이터 구조를 포함할 수 있다.

다음, 한 실시예에서, 처리 로직은 임의의 샘플 그룹 데이터 구조가 반복된 데이터 시퀀스를 포함하는지 여부를 결정한다{결정 박스(1208)}. 만일 이러한 결정이 긍정이라면, 처리 로직은 각각의 반복되는 데이터 시퀀스를 시퀀스 발생에 대한 기준 및 시퀀스가 발생하는 횟수로 변환한다{처리 블록(1210)}.

그 후, 처리 블록(1212)에서, 처리 로직은 특정 미디어 파일 포맷(예를 들어, JVT 파일 포맷)을 이용하는 미디어 데이터와 관련된 파일로의 샘플 그룹 메타데이터를 포함한다. 미디어 파일 포맷에 따라서, 샘플 그룹 메타데이터는 샘플 메타데이터와 함께 저장될 수 있거나(예를 들어, 샘플 그룹 데이터 구조는 샘플 테이블 박스내에 포함될 수 있다), 또는 샘플 메타데이터와 상관없이 저장될 수 있다.

도 13은 디코딩 시스템(200)에서 샘플 그룹 메타데이터를 이용하기 위한 방법(1300)의 한 실시예의 흐름도이다. 먼저, 방법(1300)은 인코딩된 미디어 데이터와 관련된 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(1302)}. 상기 파일은 데이터베이스(로컬 또는 외부), 인코딩 시스템(100), 또는 네트워크상의 임의의 다른 디바이스로부터 수신될 수 있다. 상기 파일은 미디어 데이터내의 샘플 그룹을 정의하는 샘플 그룹 메타데이터를 포함한다.

다음, 처리 로직은 상기 파일로부터 샘플 그룹 메타데이터를 추출한다{처리블록(1304)}. 전술한 바와 같이, 샘플 그룹 메타데이터는 데이터 구조 세트(예를 들어, 박스 세트)내에 저장될 수 있다.

추가로, 처리 블록(1306)에서, 처리 로직은 다른 샘플을 디코딩할 능력에 영향을 주지 않고서 처분될 수 있는 샘플 체인을 식별하기 위해 추출된 샘플 그룹 메타데이터를 이용한다. 한 실시예에서, 상기 정보는 특정 샘플 그룹내의 샘플을 액세스하고 어떤 샘플이 네트워크 용량의 변경에 반응하여 드롭될 수 있는지를 결정하는데 사용될 수 있다. 다른 실시예에서, 샘플 그룹 메타데이터는 트랙내의 샘플의 일부만이 처리되거나 또는 렌더링되도록 샘플을 필터링하는데 사용된다.

따라서, 샘플 그룹 메타데이터는 샘플에 대한 선택적 액세스 및 범위성을 용이하게 한다.

이제 (확장형 MP4로 언급되는) 확장형 ISO 미디어 파일 포맷과 관련하여 예시적인 샘플 그룹 메타데이터 구조가 설명될 것이다. 그러나, 샘플 그룹 메타데이터를 저장하기 위한 다양한 데이터 구조를 구현하기 위해 다른 미디어 파일 포맷이 확장될 수 있다는 점에 유의해야 한다.

도 14a-14e는 샘플 그룹 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타낸다.

도 14a를 참조하면, MP4에 의해 정의되는 샘플 메타데이터 박스를 포함하는 샘플 테이블 박스(1400)는 샘플 그룹 박스(1402) 및 샘플 그룹 설명 박스(1404)를 포함하도록 확장된다. 한 실시예에서, 샘플 그룹 메타데이터 박스(1402,1404)는 선택적이다.

도 14b를 참조하면, 샘플 그룹 박스(1406)는 특정 샘플 그룹 내에 포함된 샘플 세트를 찾는데 사용된다. 샘플 그룹 박스(1406)의 다수의 인스턴스는 서로 다른 유형의 샘플 그룹(예를 들어, 최신형 GOP, 서브시퀀스, 층, 파라미터 세트 등)에 대응하도록 허용된다. 샘플 그룹 박스(1406)는 샘플 그룹 박스(1406)의 버전을 지정하는 버전 필드, 테이블(1408)내의 엔트리의 수를 제공하기 위한 엔트리 카운트 필드, 샘플 그룹 유형을 식별하기 위한 샘플 그룹 식별자 필드, 동일한 샘플 그룹 내에 포함되는 샘플의 실행에서 제 1 샘플의 인덱스를 제공하는 제 1 샘플 필드, 및 샘플 그룹 설명 박스로의 인덱스를 지정하는 샘플 그룹 설명 인덱스를 포함한다.

도 14c를 참조하면, 샘플 그룹 설명 박스(1410)는 샘플 그룹의 특징에 관한 정보를 제공한다. 샘플 그룹 설명 박스(1410)는 샘플 그룹 설명 박스(1410)의 버전을 지정하는 버전 필드, 테이블(1412)내의 엔트리의 수를 제공하기 위한 엔트리 카운트 필드, 샘플 그룹의 유형을 식별하기 위한 샘플 그룹 식별자 필드, 및 샘플 그룹 설명자를 제공하기 위한 샘플 그룹 설명 필드를 포함한다.

도 14d를 참조하면, 층("layr") 샘플 그룹 유형에 대한 샘플 그룹 박스(1416)의 이용이 예시된다. 샘플(1 내지 11)은 샘플의 상호의존성에 기초하여 3개 층으로 분할된다. 층(0)(베이스층)에서, 샘플(1,6,11)은 서로에 대해서만 종속되지만 임의의 다른 층내의 샘플에 대해서는 종속되지 않는다. 층(1)에서, 샘플(2,5,7,10)은 하위층{즉, 층(0)}내의 샘플 및 상기 층(1)내의 샘플에 종속된다. 층(2)에서, 샘플(3,4,8,9)은 하위층{층(0,1)}내의 샘플 및 상기 층(2)내의 샘플에 종속된다. 따라서, 층(2)의 샘플은 하위층(0,1)으로부터의 샘플을 디코딩하는 능력에 영향을 미치지 않고서 처분될 수 있다.

샘플 그룹 박스(1416)내의 데이터는 샘플과 층 사이의 상기 관계를 예시한다. 도시된 바와 같이, 더 상세하게 전술된 바와 같이 상기 데이터는 각각의 반복된 층 패턴을 초기 층 패턴에 대한 기준 및 상기 패턴이 발생하는 횟수로 변환함으로써 압축될 수 있는 반복 층 패턴(1414)을 포함한다.

도 14e를 참조하면, 서브시퀀스("sseq") 샘플 그룹 유형에 대한 샘플 그룹 박스(1418)의 이용이 예시된다. 샘플(1 내지 11)은 샘플의 상호의존성에 기초하여 4개 서브시퀀스로 분할된다. 층(0)에서의 서브시퀀스(0)를 제외한 각각의 서브시퀀스는 다른 서브시퀀스가 종속되지 않는 샘플을 포함한다. 따라서, 서브시퀀스내의 샘플은 필요한 경우에 유닛으로서 처분될 수 있다.

샘플 그룹 박스(1418)내의 데이터는 샘플과 서브시퀀스 사이의 관계를 예시한다. 이러한 데이터는 대응하는 서브시퀀스의 시작에서 샘플에 대한 랜덤 액세스를 허용한다.

스트림 스위칭

일반적인 스트리밍 시나리오에서, 주요 요구사항 중의 하나는, 네트워크 상태 변경에 반응하여 압축된 데이터의 비트 전송율을 스케일링하는 것이다. 이것을 실현하는 가장 간단한 방법은, 대표적인 네트워크 상태에 대한 다른 비트 전송율 및 품질 세팅을 이용하여 다수의 스트림을 인코딩하는 것이다. 상기 서버는 이후 네트워크 상태에 반응하여 이들 미리 코딩된 스트림 사이에서 스위칭할 수 있다.

JVT 표준은 스위칭 화상이라고 불리는 새로운 유형의 화상을 제공하는데, 상기 화상은 예측을 위해 동일한 프레임을 이용하기 위해서 2개 화상을 필요로 하지 않고서 하나의 화상이 다른 화상으로 동일하게 재구성되도록 허용한다. 특히, JVT는 2가지 유형의 스위칭 화상, 즉 임의의 다른 화상과 상관없이 코딩되는, I-프레임과 유사한 SI-화상, 및 다른 화상과 관련하여 코딩되는 SP-화상을 제공한다. 스위칭 화상은, 전달 상태 변경에 반응하여 다른 비트 전송율 및 품질 세팅을 갖는 스트림 사이에서의 스위칭을 구현하고, 에러 회복을 제공하며, 고속 재생 및 되감기와 같은 트릭 모드를 구현하기 위해 사용될 수 있다.

그러나, 스트림 스위칭, 에러 회복, 트릭 모드 및 다른 특징을 구현하는 경우에 JVT 스위칭 화상을 효율적으로 이용하기 위해서, 플레이어는 저장된 미디어 데이터내의 어떤 샘플이 교대 표시를 갖는지 및 그 종속성은 무엇인지를 알아야 한다. 기존의 파일 포맷은 이러한 능력을 제공하지 않는다.

본 발명의 한 실시예는 스위치 샘플 세트를 정의함으로써 전술한 한계를 해결한다. 스위치 샘플 세트는 그 디코딩된 값이 동일하지만 다른 기준 샘플을 이용할 수 있는 샘플 세트를 나타낸다. 기준 샘플은 다른 샘플 값을 예측하기 위해 사용되는 샘플이다. 스위치 샘플 세트의 각각의 멤버는 스위치 샘플로 언급된다. 도 15a는 비트 스트림 스위칭을 위한 스위치 샘플 세트의 이용을 예시한다.

도 15a를 참조하면, 스트림(1) 및 스트림(2)은 다른 품질 및 비트 전송율 파라미터를 갖는 동일한 컨텐트의 2가지 인코딩이다. 샘플(S12)은 스트림(1)에서 스트림(2)으로의 스위칭을 구현하는데 사용되는, 어느 한쪽 스트림 내에서 발생하지않는, SP-화상이다(스위칭은 방향 특성이다). 샘플(S12,S2)은 스위치 샘플 세트 내에 포함된다. S1 및 S12 모두는 트랙(1)내의 샘플(P12)로부터 예측되고, S2는 트랙(2)내의 샘플(P22)로부터 예측된다. 샘플(S12,S2)이 서로 다른 기준 샘플을 이용하지만, 그 디코딩된 값은 동일하다. 따라서, 스트림(1)으로부터 스트림(2)으로의 스위칭{스트림(1)내의 샘플(S1) 및 스트림(2)내의 샘플(S2)에서}은 스위치 샘플(S12)을 통해서 실현될 수 있다.

도 16 및 도 17은 각각 인코딩 시스템(100) 및 디코딩 시스템(200)에 의해 수행되는 스위치 샘플 메타데이터를 저장 및 검색하기 위한 프로세스를 예시한다. 상기 프로세스는 하드웨어(예를 들어, 회로, 전용 로직 등), (예를 들어, 범용 컴퓨터 시스템 또는 전용 기기상에서 실행되는) 소프트웨어, 또는 상기 하드웨어와 소프트웨어의 결합을 포함할 수 있는 처리 로직에 의해 수행될 수 있다.

도 16은 인코딩 시스템(100)에서 스위치 샘플 메타데이터를 생성하기 위한 방법(1600)의 한 실시예의 흐름도이다. 먼저, 방법(1600)은 인코딩된 미디어 데이터를 갖는 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(1602)}. 상기 파일은 (예를 들어, 대표적인 네트워크 상태에 대한 다른 대역폭 및 품질 세팅을 위해) 미디어 데이터에 대한 하나 이상의 교대 인코딩을 포함한다. 교대 인코딩은 하나 이상의 스위칭 화상을 포함한다. 이러한 화상은 에러 회복 또는 트릭 모드와 같은 특수 특성을 구현하는 분리된 엔터티로서, 또는 교대 미디어 데이터스트림 내부에 포함될 수 있다. 상기 트랙 및 스위치 화상을 생성하는 방법은 본 발명에 의해 명시되지 않지만, 다양한 가능성이 당업자에게 명백하다. 예를 들어, 각각의 트랙 쌍 사이에서의 스위치 샘플의 주기적인(예를 들어, 1초마다) 배치는 교대 인코딩을 포함한다.

다음, 동일한 디코딩 값을 갖지만 다른 기준 샘플을 이용하는 해당 샘플을 포함하는 스위치 샘플 세트를 생성하기 위해 상기 파일을 검사하고{처리 블록(1604)}, 미디어 데이터를 위한 스위치 샘플 세트를 정의하고 스위치 샘플 세트내의 샘플을 설명하는 스위치 샘플 메타데이터를 생성한다{처리 블록(1606)}. 한 실시예에서, 스위치 샘플 메타데이터는 내장형 테이블(nested table) 세트를 포함하는 테이블 박스와 같은 사전 한정된 데이터 구조로 조직된다.

다음, 한 실시예에서, 처리 로직은 스위치 샘플 메타데이터 구조가 반복된 데이터 시퀀스를 포함하는지 여부를 결정한다{결정 박스(1608)}. 만일 상기 결정이 긍정이라면, 처리 로직은 각각의 반복된 데이터 시퀀스를 시퀀스 발생에 대한 기준 및 시퀀스가 발생한 횟수로 변환한다{처리 블록(1610)}.

그 다음, 처리 블록(1612)에서, 처리 로직은 특정 미디어 파일 포맷(예를 들어, JVT 파일 포맷)을 이용하는 미디어 데이터와 관련된 파일로의 스위치 샘플 메타데이터를 포함한다. 한 실시예에서, 스위치 샘플 메타데이터는 스트림 스위칭을 위해 지정된 분리된 트랙 내에 저장될 수 있다. 다른 실시예에서, 스위치 샘플 메타데이터는 샘플 메타데이터와 함께 저장된다(예를 들어, 시퀀스 데이터 구조는 샘플 테이블 박스내에 포함될 수 있다).

도 17은 디코딩 시스템(200)에서 스위치 샘플 메타데이터를 이용하기 위한 방법(1700)의 한 실시예의 흐름도이다. 먼저, 방법(1700)은 인코딩된 미디어 데이터와 관련된 파일을 처리 로직이 수신하는 것으로부터 시작된다{처리 블록(1702)}. 상기 파일은 데이터베이스(로컬 또는 외부), 인코딩 시스템(100), 또는 네트워크상의 임의의 다른 디바이스로부터 수신될 수 있다. 상기 파일은 미디어 데이터와 관련된 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함한다.

다음, 처리 로직은 상기 파일로부터 스위치 샘플 메타데이터를 추출한다{처리 블록(1704)}. 전술한 바와 같이, 스위치 샘플 메타데이터는 내장형 테이블 세트를 포함하는 테이블 박스와 같은 데이터 구조 내에 저장될 수 있다.

추가로, 처리 블록(1706)에서, 처리 로직은 특정 샘플을 포함하는 스위치 샘플 세트를 찾고 스위치 샘플 세트로부터 대안적인 샘플을 선택하기 위해 추출된 메타데이터를 이용한다. 초기 샘플과 동일한 디코딩 값을 갖는 대안적인 샘플은, 이후 네트워크 상태 변경에 반응하여 2개의 서로 다르게 인코딩된 비트 스트림 사이에서 스위칭하고, 비트 스트림으로의 랜덤 액세스 엔트리 포인트를 제공하며, 에러 회복을 용이하게 하기 위해서 사용될 수 있다.

이제, (확장형 MP4라고 언급되는) 확장형 ISO 미디어 파일 포맷과 관련하여 예시적인 스위치 샘플 메타데이터 구조가 설명될 것이다. 그러나, 스위치 샘플 메타데이터를 저장하기 위한 다양한 데이터 구조를 구현하기 위해 다른 미디어 파일 포맷이 확장될 수 있다는 점에 유의해야 한다.

도 18은 스위치 샘플 메타데이터를 저장하기 위한 예시적인 데이터 구조를 나타낸다. 예시적인 데이터 구조는 내장형 테이블 세트를 포함하는 스위치 샘플 테이블 박스의 형태를 갖는다. 테이블(1802)내의 각각의 엔트리는 하나의 스위치 샘플 세트를 식별한다. 각각의 스위치 샘플 세트는, 그 재구성이 객관적으로 동일(또는 지각적으로 동일)하지만 스위치 샘플과 동일한 트랙(스트림)내에 존재하거나 존재하지 않을 수 있는 다른 기준 샘플로부터 예측될 수 있는 스위치 샘플 그룹으로 구성된다. 테이블(1802)내의 각각의 엔트리는 대응하는 테이블(1804)로 링크된다. 상기 테이블(1804)은 스위치 샘플 세트 내에 포함된 각각의 스위치 샘플을 식별한다. 테이블(1804)내의 각각의 엔트리는 스위치 샘플의 위치(즉, 그 트랙 및 샘플 번호), 스위치 샘플에 의해 사용되는 기준 샘플을 포함하는 트랙, 스위치 샘플에 의해 사용되는 기준 샘플의 총 수, 및 스위치 샘플에 의해 사용되는 각각의 기준 샘플을 정의하는 대응 테이블(1806)로 추가 링크된다.

도 15a에 예시된 바와 같이, 한 실시예에서, 스위치 샘플 메타데이터는 동일한 컨텐트의 서로 다르게 인코딩된 버전 사이에서 스위칭하는데 사용될 수 있다. MP4에서, 각각의 교대 코딩은 분리된 MP4 트랙으로서 저장되고, 트랙 헤더내의 "교대 그룹"은 그것이 특정 컨텐트의 교대 인코딩임을 나타낸다.

도 15b는 도 15a에 따라 샘플(S2,S12)로 구성되는 스위치 샘플 세트(1502)를 정의하는 메타데이터를 포함하는 테이블을 예시한다.

도 15c는 2개 비트 스트림 사이의 스위치가 수행될 포인트를 결정하기 위한 방법의 일실시예(1510)의 흐름도이다. 상기 스위치가 스트림(1)에서 스트림(2)으로 수행될 것으로 가정하면, 방법(1510)은 스트림(1)의 기준 트랙을 갖는 스위치 샘플 및 스트림(2)의 스위치 샘플 트랙을 갖는 스위치 샘플을 포함하는 모든 스위치 샘플 세트를 찾기 위한 스위치 샘플 메타데이터의 탐색에서 시작된다{처리블록(1512)}. 다음, 결과적인 스위치 샘플 세트는 스트림(1)의 기준 트랙을 갖는 스위치 샘플의 모든 기준 샘플이 이용 가능한 스위치 샘플 세트를 선택하기 위해 평가된다{처리 블록(1514)}. 예를 들어, 만일 스트림(1)의 기준 트랙을 갖는 스위치 샘플이 P-프레임이라면, 스위칭 이전에 하나의 샘플이 이용 가능하도록 요구된다. 추가로, 선택된 스위치 샘플 세트내의 샘플들은 스위칭 포인트를 결정하기 위해 사용된다{처리 블록(1516)}. 즉, 스위칭 포인트는, 스트림(1)의 기준 트랙을 갖는 스위치 샘플의 최고 기준 샘플 바로 다음에 있다가, 스트림(1)의 기준 트랙을 갖는 스위치 샘플을 통해서, 스트림(2)의 스위치 샘플 트랙을 갖는 스위치 샘플이 바로 다음에 오는 샘플을 향하는 것으로 간주된다.

다른 실시예에서, 스위치 샘플 메타데이터는 도 19a-19c에 예시된 바와 같이 비트 스트림으로의 랜덤 액세스 엔트리 포인트를 용이하게 하기 위해 사용될 수 있다.

도 19a-19b를 참조하면, 스위치 샘플(1902)은 샘플(S2,S12)로 구성된다. S2는 P22로부터 예측되고 보통의 스트림 재생 동안 사용되는 P-프레임이다. S12는 (예를 들어, 슬라이싱을 위한) 랜덤 액세스 포인트로서 사용된다. 일단 S12가 디코딩되면, 스트림 재생은 P24가 S2 이후에 디코딩된 것처럼 P24의 디코딩으로 계속된다.

도 19c는 샘플{예를 들어, 트랙(T)상의 샘플(S)}에 대한 랜덤 액세스 포인트를 결정하기 위한 방법(1910)의 한 실시예의 흐름도이다. 방법(1910)은 스위치 샘플 트랙(T)을 갖는 스위치 샘플을 포함하는 모든 스위치 샘플 세트를 찾기 위한 스위치 샘플 메타데이터의 탐색에서 시작된다{처리 블록(1912)}. 다음, 결과적인 스위치 샘플 세트는 스위치 샘플 트랙(T)을 갖는 스위치 샘플이 디코딩 순서로 샘플(S) 이전에 가장 가까운 샘플인 스위치 샘플 세트를 선택하기 위해 평가된다{처리 블록(1914)}. 추가로, 스위치 샘플 트랙(T)을 갖는 스위치 샘플 이외의 스위치 샘플{샘플(SS)}은 샘플(S)에 대한 램덤 액세스 포인트를 위해 선택된 스위치 샘플 세트로부터 선택된다{처리 블록(1916)}. 스트림 재생동안, 샘플(SS)은 샘플(S) 대신 디코딩된다{샘플(SS)에 대한 엔트리로 지정된 임의의 기준 샘플의 디코딩이 이어짐}.

더 다른 실시예에서, 스위치 샘플 메타데이터는 도 20a-20c에 예시된 바와 같이 에러 복구를 용이하게 하기 위해 사용될 수 있다.

도 20a-20b를 참조하면, 스위치 샘플(2002)은 샘플(S2,S12,S22)로 구성된다. 샘플(S2)은 샘플(P4)로부터 예측된다. 샘플(S12)은 샘플(S1)로부터 예측된다. 만일 샘플(P2와 P4) 사이에서 에러가 발생하면, 스위치 샘플(S12)은 샘플(S2) 대신 디코딩될 수 있다. 이후 스트리밍은 여느 때처럼 샘플(P6)에서 계속된다. 만일 에러가 또한 샘플(S1)에 영향을 미치면, 스위치 샘플(S22)은 샘플(S2) 대신 디코딩될 수 있고, 그 후 스트리밍은 여느 때처럼 샘플(P6)에서 계속될 것이다.

도 20c는 샘플{예를 들어, 샘플(S)}을 전송하는 경우에 에러 복구를 용이하게 하기 위한 방법(2010)의 한 실시예의 흐름도이다. 방법(2010)은 샘플(S)과 동일한 스위치 샘플 또는 디코딩 순서로 샘플(S) 뒤에 오는 스위치 샘플을 포함하는 모든 스위치 샘플 세트를 찾기 위한 스위치 샘플 메타데이터의 탐색에서 시작된다{처리 블록(2012)}. 다음, 결과적인 스위치 샘플 세트는 샘플(S)에 가장 가깝고 그 기준 샘플이 (피드백 또는 일부 다른 정보 소스를 통해) 정확한 것으로 알려진 스위치 샘플(SS)을 갖는 스위치 샘플 세트를 선택하기 위해 평가된다{처리 블록(2014)}. 추가로, 스위치 샘플(SS)은 샘플(S) 대신 전송된다{처리 블록(2016)}.

오디오/비디오 메타데이터의 저장 및 검색이 설명되었다. 특정 실시예가 본 명세서에서 예시되고 설명되었지만, 당업자는 동일한 목적을 실현할 것으로 평가되는 임의의 배치가 도시된 특정 실시예에 대해 대체될 수 있다는 점을 이해할 것이다. 본 명세서는 본 발명의 임의의 적응 또는 변경을 커버하고자 하는 것이다.

전술한 바와 같이, 본 발명은 통상 멀티미디어 파일 포맷, 특히 ISO 미디어 파일 포맷과 호환가능한 파일 포맷으로 오디오/비디오 컨텐트를 저장 및 검색하는 방법 및 장치에서 이용 가능하다.

Claims

복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하는 단계; 및

상기 파라미터 세트 메타데이터를 포함하는, 상기 멀티미디어 데이터와 관련된 파일을 형성하는 단계를 포함하는, 방법.
제 1항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플인, 방법.
제 1항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터의 일부내의 서브-샘플인, 방법.
제 1항에 있어서, 상기 파라미터 세트 메타데이터의 생성 단계는,

인코딩된 멀티미디어 데이터를 갖는 파일을 수신하는 단계;

상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 검사하는 단계; 및

상기 검사된 관계에 기초하여 상기 파라미터 세트 메타데이터를 정의하는 단계를 포함하는, 방법.
제 1항에 있어서, 상기 파라미터 세트 메타데이터의 생성 단계는,

상기 파라미터 세트 메타데이터를 사전 한정된 데이터 구조 세트로 조직하는 단계를 포함하는, 방법.
제 5항에 있어서, 상기 파라미터 세트 메타데이터의 생성 단계는,

상기 사전 한정된 데이터 구조 세트내의 각각의 반복된 데이터 시퀀스를 시퀀스 발생에 대한 기준 및 발생 횟수로 변환하는 단계를 더 포함하는, 방법.
제 5항에 있어서, 상기 사전 한정된 데이터 구조 세트는, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 방법.
제 1항에 있어서,

상기 멀티미디어 데이터와 관련된 파일을 디코딩 시스템으로 전송하는 단계;

상기 디코딩 시스템에서 상기 멀티미디어 데이터와 관련된 파일을 수신하는 단계; 및

상기 디코딩 시스템에서, 상기 멀티미디어 데이터와 관련된 파일로부터 상기 파라미터 세트 메타데이터를 추출하는 단계로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 멀티미디어 데이터의 적어도 일부를 디코딩하는데 필요한 상기 하나 이상의 파라미터 세트 중 임의의 하나를 식별하는데 사용되는, 추출 단계를 더 포함하는, 방법.
멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 포함하는, 멀티미디어 데이터와 관련된 파일을 수신하는 단계; 및

상기 파일로부터 상기 파라미터 세트 메타데이터를 추출하는 단계로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하는데 사용되는, 추출 단계를 포함하는, 방법.
제 9항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플인, 방법.
제 9항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터의 일부내의 서브-샘플인, 방법.
제 9항에 있어서,

상기 결정된 관계를 이용하여 상기 복수의 멀티미디어 데이터 부분 및 상기 하나 이상의 파라미터 세트에 대한 전송 시간을 제어하는 단계를 더 포함하는, 방법.
제 9항에 있어서, 상기 추출된 파라미터 세트 메타데이터는 사전 한정된 데이터 구조 세트로 조직되는, 방법.
제 13항에 있어서, 상기 사전 한정된 데이터 구조 세트는, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 방법.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하는 단계;

상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 생성하는 단계; 및

상기 파라미터 세트 메타데이터 및 상기 샘플 그룹 메타데이터를 포함하는, 상기 멀티미디어 데이터와 관련된 파일을 형성하는 단계를 포함하는, 방법.
제 15항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중의 임의의 하나인, 방법.
제 15항에 있어서, 상기 파라미터 세트 메타데이터의 생성 단계는,

상기 파라미터 세트 메타데이터를, 상기 하나 이상의 파리미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직하는 단계를 포함하는, 방법.
제 15항에 있어서, 상기 그룹화는 상기 복수의 샘플의 상호의존성에 기초하는, 방법.
제 15항에 있어서, 상기 샘플 그룹 메타데이터의 생성 단계는,

상기 샘플 그룹 메타데이터를, 상기 멀티미디어 데이터내의 복수의 샘플 그룹에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 각각의 상기 복수의 샘플 그룹내의 샘플을 식별하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직하는 단계를 포함하는, 방법.
멀티미디어 데이터와 관련된 파일을 수신하는 단계로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터, 및 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 포함하는, 수신 단계; 및

상기 파일로부터 상기 파라미터 세트 메타데이터 및 상기 샘플 그룹 메타데이터를 추출하는 단계로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하는데 사용되고, 상기 추출된 샘플 그룹 메타데이터는 이어서 미래의 처리 시에 처분될 수 있는 샘플을 식별하는데 사용되는, 추출 단계를 포함하는, 방법.
제 20항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중 임의의 하나인, 방법.
제 20항에 있어서,

상기 결정된 관계를 이용하여 상기 복수의 멀티미디어 데이터 부분 및 상기 하나 이상의 파라미터 세트에 대한 전송 시간을 제어하는 단계를 더 포함하는, 방법.
제 20항에 있어서, 상기 추출된 파라미터 세트 메타데이터는, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직되는, 방법.
제 20항에 있어서, 상기 그룹화는 상기 복수의 샘플의 상호의존성에 기초하는, 방법.
제 20항에 있어서, 네트워크 용량 변경에 반응하여, 상기 멀티미디어 데이터의 나머지 샘플의 디코딩에 영향을 미치지 않고서 처분될 수 있는 하나 이상의 샘플을 찾는 단계를 더 포함하는, 방법.
제 20항에 있어서,

상기 추출된 샘플 그룹 메타데이터에 기초하여, 렌더링될 샘플의 수를 감소시키기 위해 복수의 샘플을 필터링하는 단계를 더 포함하는, 방법.
제 20항에 있어서, 상기 추출된 샘플 그룹 메타데이터는, 상기 멀티미디어 데이터내의 복수의 샘플 그룹에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 각각의 상기 복수의 샘플 그룹내의 샘플을 식별하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직되는, 방법.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하는 단계;

상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 생성하는 단계;

상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 생성하는 단계로서, 각각의 상기 복수의 스위치 샘플 세트는 동일한 디코딩 값을 갖는 샘플을 포함하는, 생성 단계; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하는 단계로서, 상기 파일은 상기 파라미터 세트 메타데이터, 상기 샘플 그룹 메타데이터, 및 상기 스위치 샘플 메타데이터를 포함하는, 형성 단계를 포함하는, 방법.
제 28항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중 임의의 하나인, 방법.
제 28항에 있어서, 상기 파라미터 세트 메타데이터의 생성 단계는,

상기 파라미터 세트 메타데이터를, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파리미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직하는 단계를 포함하는, 방법.
제 28항에 있어서, 상기 그룹화는 상기 복수의 샘플의 상호의존성에 기초하는, 방법.
제 28항에 있어서, 상기 샘플 그룹 메타데이터의 생성 단계는,

상기 샘플 그룹 메타데이터를, 상기 멀티미디어 데이터내의 복수의 샘플 그룹에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 각각의 상기 복수의 샘플 그룹내의 샘플을 식별하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직하는 단계를 포함하는, 방법.
제 28항에 있어서, 각각의 상기 복수의 스위치 샘플 세트내의 샘플은 서로 다른 기준 샘플을 이용하는, 방법.
제 28항에 있어서, 상기 스위치 샘플 메타데이터의 생성 단계는,

상기 스위치 샘플 메타데이터를, 내장형 테이블 세트를 포함하는 테이블 박스로서 표시된 사전 한정된 데이터 구조로 조직하는 단계를 포함하는, 방법.
멀티미디어 데이터와 관련된 파일을 수신하는 단계로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터, 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터, 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는, 수신 단계; 및

상기 파일로부터 상기 파라미터 세트 메타데이터, 상기 샘플 그룹 메타데이터, 및 상기 스위치 샘플 메타데이터를 추출하는 단계로서, 상기 추출된 파라미터세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 사용되고, 상기 추출된 샘플 그룹 메타데이터는 이어서 미래 처리 시에 처분될 수 있는 샘플을 식별하기 위해 사용되며, 상기 추출된 스위치 샘플 메타데이터는 이어서 특정 샘플에 대한 교체 샘플을 찾기 위해 사용되는, 추출 단계를 포함하는, 방법.
제 35항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중 임의의 하나인, 방법.
제 35항에 있어서,

상기 결정된 관계를 이용하여 상기 복수의 멀티미디어 데이터 부분 및 상기 하나 이상의 파라미터 세트에 대한 전송 시간을 제어하는 단계를 더 포함하는, 방법.
제 35항에 있어서, 상기 추출된 파라미터 세트 메타데이터는, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직되는, 방법.
제 35항에 있어서, 상기 그룹화는 상기 복수의 샘플의 상호의존성에 기초하는, 방법.
제 35항에 있어서, 네트워크 용량 변경에 반응하여, 상기 멀티미디어 데이터의 나머지 샘플의 디코딩에 영향을 미치지 않고서 처분될 수 있는 하나 이상의 샘플을 찾는 단계를 더 포함하는, 방법.
제 35항에 있어서,

상기 추출된 샘플 그룹 메타데이터에 기초하여, 렌더링될 샘플의 수를 감소시키기 위해 복수의 샘플을 필터링하는 단계를 더 포함하는, 방법.
제 35항에 있어서, 상기 추출된 샘플 그룹 메타데이터는, 상기 멀티미디어 데이터내의 복수의 샘플 그룹에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 각각의 상기 복수의 샘플 그룹내의 샘플을 식별하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직되는, 방법.
제 35항에 있어서, 각각의 상기 복수의 스위치 샘플 세트는 동일한 디코딩 값을 갖지만 다른 기준 샘플을 이용하는 샘플을 포함하는, 방법.
제 35항에 있어서,

상기 복수의 스위치 샘플 세트 내에서, 특정 샘플을 포함하는 스위치 샘플 세트를 찾는 단계; 및

발견된 스위치 샘플 세트로부터 대안적인 샘플을 선택하는 단계를 더 포함하는, 방법.
제 35항에 있어서, 상기 추출된 스위치 샘플 메타데이터는 내장형 테이블 세트를 포함하는 테이블 박스로 표시되는 사전 한정된 데이터 구조로 조직되는, 방법.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하는 단계;

상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 생성하는 단계로서, 각각의 상기 복수의 스위치 샘플 세트는 동일한 디코딩 값을 갖는 샘플을 포함하는, 생성 단계; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하는 단계로서, 상기 파일은 상기 파라미터 세트 메타데이터 및 상기 스위치 샘플 메타데이터를 포함하는, 형성 단계를 포함하는, 방법.
제 46항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중 임의의 하나인, 방법.
제 46항에 있어서, 상기 파라미터 세트 메타데이터의 생성 단계는,

상기 파라미터 세트 메타데이터를, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파리미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직하는 단계를 포함하는, 방법.
제 46항에 있어서, 각각의 상기 복수의 스위치 샘플 세트내의 샘플은 서로 다른 기준 샘플을 이용하는, 방법.
제 46항에 있어서, 상기 스위치 샘플 메타데이터의 생성 단계는,

상기 스위치 샘플 메타데이터를, 내장형 테이블 세트를 포함하는 테이블 박스로서 표시된 사전 한정된 데이터 구조로 조직하는 단계를 포함하는, 방법.
멀티미디어 데이터와 관련된 파일을 수신하는 단계로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터, 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는, 수신 단계; 및

상기 파일로부터 상기 파라미터 세트 메타데이터 및 상기 스위치 샘플 메타데이터를 추출하는 단계로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 사용되고, 상기 추출된 스위치 샘플 메타데이터는 이어서 특정 샘플에 대한 교체 샘플을 찾기 위해 사용되는, 추출 단계를 포함하는, 방법.
제 51항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중 임의의 하나인, 방법.
제 51항에 있어서,

상기 결정된 관계를 이용하여 상기 복수의 멀티미디어 데이터 부분 및 상기 하나 이상의 파라미터 세트에 대한 전송 시간을 제어하는 단계를 더 포함하는, 방법.
제 51항에 있어서, 상기 추출된 파라미터 세트 메타데이터는, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 사전 한정된 데이터 구조 세트로 조직되는, 방법.
제 51항에 있어서, 각각의 상기 복수의 스위치 샘플 세트는 동일한 디코딩값을 갖지만 서로 다른 기준 샘플을 이용하는 샘플을 포함하는, 방법.
제 51항에 있어서,

상기 복수의 스위치 샘플 세트 내에서, 특정 샘플을 포함하는 스위치 샘플 세트를 찾는 단계; 및

발견된 스위치 샘플 세트로부터 대안적인 샘플을 선택하는 단계를 더 포함하는, 방법.
제 51항에 있어서, 상기 추출된 스위치 샘플 메타데이터는, 내장형 테이블 세트를 포함하는 테이블 박스로서 표시되는, 사전 한정된 데이터 구조로 조직되는, 방법.
데이터 처리 시스템 상에서 실행되는 애플리케이션 프로그램에 의한 액세스를 위해 데이터를 저장하기 위한 메모리로서,

상기 메모리 내에 저장된 복수의 데이터 구조로서, 상기 복수의 데이터 구조는 상기 애플리케이션 프로그램에 의해 사용되는 파일 내에 존재하며, 상기 파일은 멀티미디어 데이터와 관련되고, 복수의 상기 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 정의하는 파라미터 세트 메타데이터를 포함하는, 복수의 데이터 구조를 포함하는, 메모리.
제 58항에 있어서, 상기 파라미터 세트 메타데이터를 포함하는 파일은 또한 관련된 멀티미디어 데이터를 포함하는, 메모리.
제 58항에 있어서, 상기 파라미터 세트 메타데이터를 포함하는 파일은 상기 관련 멀티미디어 데이터를 포함하는 파일에 대한 참조를 포함하는, 메모리.
제 58항에 있어서, 상기 복수의 데이터 구조는, 상기 하나 이상의 파라미터 세트에 관한 설명 정보를 포함하는 제 1 데이터 구조, 및 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 정의하는 정보를 포함하는 제 2 데이터 구조를 포함하는, 메모리.
데이터 처리 시스템 상에서 실행되는 애플리케이션 프로그램에 의한 액세스를 위해 데이터를 저장하기 위한 메모리로서,

상기 메모리 내에 저장되는 복수의 데이터 구조로서, 상기 복수의 데이터 구조는 상기 애플리케이션 프로그램에 의해 사용되는 파일 내에 존재하며, 상기 파일은 멀티미디어 데이터와 관련되고, 복수의 상기 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 정의하는 파라미터 세트 메타데이터, 및 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 포함하는, 복수의 데이터 구조를 포함하는, 메모리.
데이터 처리 시스템 상에서 실행되는 애플리케이션 프로그램에 의한 액세스를 위해 데이터를 저장하기 위한 메모리로서,

상기 메모리 내에 저장되는 복수의 데이터 구조로서, 상기 복수의 데이터 구조는 상기 애플리케이션 프로그램에 의해 사용되는 파일 내에 존재하며, 상기 파일은 멀티미디어 데이터와 관련되고, 복수의 상기 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 정의하는 파라미터 세트 메타데이터, 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터, 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는, 복수의 데이터 구조를 포함하는, 메모리.
데이터 처리 시스템 상에서 실행되는 애플리케이션 프로그램에 의한 액세스를 위해 데이터를 저장하기 위한 메모리로서,

상기 메모리 내에 저장되는 복수의 데이터 구조로서, 상기 복수의 데이터 구조는 상기 애플리케이션 프로그램에 의해 사용되는 파일 내에 존재하며, 상기 파일은 멀티미디어 데이터와 관련되고, 복수의 상기 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 정의하는 파라미터 세트 메타데이터, 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는, 복수의 데이터 구조를 포함하는, 메모리.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하기 위한 메타데이터 발생기; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 파일 생성기로서, 상기 파일은 상기 파라미터 세트 메타데이터를 포함하는, 파일 생성기를 포함하는, 장치.
제 65항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 및 서브-샘플 중 임의의 하나인, 장치.
제 65항에 있어서, 상기 메타데이터 발생기는, 인코딩된 멀티미디어 데이터를 갖는 파일을 수신하고, 상기 하나 이상의 파라미터 세트와 상기 복수의 멀티미디어 데이터 부분 사이의 관계를 검사하며, 상기 검사된 관계에 기초하여 상기 파라미터 세트 메타데이터를 정의함으로써, 파라미터 세트 메타데이터를 생성하는, 장치.
제 65항에 있어서,

디코딩 시스템에서 상기 멀티미디어 데이터와 관련된 파일을 수신하고, 상기 멀티미디어 데이터와 관련된 파일로부터 상기 파라미터 세트 메타데이터를 추출하기 위한 메타데이터 추출기; 및

상기 멀티미디어 데이터의 적어도 일부를 디코딩하는데 필요한 상기 하나 이상의 파라미터 세트 중 임의의 하나를 식별하기 위해 상기 추출된 파라미터 세트메타데이터를 이용하기 위한 미디어 데이터스트림 프로세서를 더 포함하는, 장치.
멀티미디어 데이터와 관련된 파일로서, 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 포함하는 파일을 수신하고, 상기 파일로부터 상기 파라미터 세트 메타데이터를 추출하기 위한 메타데이터 추출기; 및

상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 상기 추출된 파라미터 세트 메타데이터를 이용하기 위한 미디어 데이터스트림 프로세서를 포함하는, 장치.
제 69항에 있어서, 각각의 상기 복수의 멀티미디어 데이터 부분은 상기 멀티미디어 데이터내의 샘플 또는 서브-샘플인, 장치.
제 69항에 있어서, 상기 미디어 데이터스트림 프로세서는 추가로 상기 결정된 관계를 이용하여 상기 복수의 멀티미디어 데이터 부분 및 상기 하나 이상의 파라미터 세트에 대한 전송 시간을 제어하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하고, 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 생성하기 위한 메타데이터 발생기; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 파일 생성기로서, 상기 파일은 상기 파라미터 세트 메타데이터 및 상기 샘플 그룹 메타데이터를 포함하는, 파일 생성기를 포함하는, 장치.
멀티미디어 데이터와 관련된 파일로서, 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터, 및 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 포함하는 파일을 수신하고, 상기 파일로부터 상기 파라미터 세트 메타데이터 및 상기 샘플 그룹 메타데이터를 추출하기 위한 메타데이터 추출기; 및

상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 상기 추출된 파라미터 세트 메타데이터를 이용하고, 미래 처리 시에 처분될 수 있는 샘플을 식별하기 위해 상기 추출된 샘플 그룹 메타데이터를 이용하기 위한 미디어 데이터스트림 프로세서를 포함하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하고, 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 생성하며, 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 생성하기 위한 메타데이터 발생기; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 파일 생성기로서, 상기 파일은 상기 파라미터 세트 메타데이터, 상기 샘플 그룹 메타데이터, 및 상기 스위치 샘플 메타데이터를 포함하는, 파일 생성기를 포함하는, 장치.
멀티미디어 데이터와 관련된 파일로서, 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터, 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터, 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는 파일을 수신하고, 상기 파일로부터 상기 파라미터 세트 메타데이터, 상기 샘플 그룹 메타데이터, 및 상기 스위치 샘플 메타데이터를 추출하기 위한 메타데이터 추출기; 및

상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 상기 추출된 파라미터 세트 메타데이터를 이용하고, 미래 처리 시에 처분될 수 있는 샘플을 식별하기 위해 상기 추출된 샘플 그룹 메타데이터를 이용하며, 특정 샘플에 대한 교체 샘플을 찾기 위해 상기 추출된 스위치 샘플 메타데이터를 이용하기 위한 미디어 데이터스트림 프로세서를 포함하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하고, 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 생성하기 위한 메타데이터 발생기; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 파일 생성기로서, 상기 파일은 상기 파라미터 세트 메타데이터 및 상기 스위치 샘플 메타데이터를 포함하는, 파일 생성기를 포함하는, 장치.
멀티미디어 데이터와 관련된 파일로서, 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는 파일을 수신하고, 상기 파일로부터 상기 파라미터 세트 메타데이터 및 상기 스위치 샘플 메타데이터를 추출하기 위한 메타데이터 추출기; 및

상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 상기 추출된 파라미터 세트 메타데이터를 이용하고, 특정 샘플에 대한 교체 샘플을 찾기 위해 상기 추출된 스위치 샘플 메타데이터를 이용하기 위한 미디어 데이터스트림 프로세서를 포함하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하기 위한 수단; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 수단으로서, 상기 파일은 상기 파라미터 세트 메타데이터를 포함하는, 형성 수단을 포함하는, 장치.
멀티미디어 데이터와 관련된 파일을 수신하기 위한 수단으로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 포함하는, 수신 수단,

상기 파일로부터 상기 파라미터 세트 메타데이터를 추출하기 위한 수단으로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 사용되는, 추출 수단을 포함하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하기 위한 수단;

상기 멀티미디어데이터 내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 생성하기 위한 수단; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 수단으로서, 상기 파일은 상기 파라미터 세트 메타데이터 및 상기 샘플 그룹 메타데이터를 포함하는, 형성 수단을 포함하는, 장치.
멀티미디어 데이터와 관련된 파일을 수신하기 위한 수단으로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터, 및 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 포함하는, 수신 수단,

상기 파일로부터 상기 파라미터 세트 메타데이터 및 상기 샘플 그룹 메타데이터를 추출하기 위한 수단으로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 사용되고, 상기 추출된 샘플 그룹 메타데이터는 이어서 미래 처리 시에 처분될 수 있는 샘플을 식별하기 위해 사용되는, 추출 수단을 포함하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하기 위한 수단;

상기 멀티미디어데이터 내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터를 생성하기 위한 수단;

상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 생성하기 위한 수단으로서, 각각의 상기 복수의 스위치 샘플 세트는 동일한 디코딩 값을 갖는 샘플을 포함하는, 생성 수단; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 수단으로서, 상기 파일은 상기 파라미터 세트 메타데이터, 상기 샘플 그룹 메타데이터, 및 상기 스위치 샘플 메타데이터를 포함하는, 형성 수단을 포함하는, 장치.
멀티미디어 데이터와 관련된 파일을 수신하기 위한 수단으로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터세트 메타데이터, 상기 멀티미디어 데이터내의 복수의 샘플의 그룹화를 정의하는 샘플 그룹 메타데이터, 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는, 수신 수단,

상기 파일로부터 상기 파라미터 세트 메타데이터, 상기 샘플 그룹 메타데이터, 및 상기 스위치 샘플 메타데이터를 추출하기 위한 수단으로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 사용되고, 상기 추출된 샘플 그룹 메타데이터는 이어서 미래 처리 시에 처분될 수 있는 샘플을 식별하기 위해 사용되며, 상기 추출된 스위치 샘플 메타데이터는 특정 샘플에 대한 대체 샘플을 찾기 위해 사용되는, 추출 수단을 포함하는, 장치.
복수의 멀티미디어 데이터 부분을 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터를 생성하기 위한 수단;

상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 생성하기 위한 수단으로서, 각각의 상기 복수의 스위치 샘플 세트는 동일한 디코딩 값을 갖는 샘플을 포함하는, 생성 수단; 및

상기 멀티미디어 데이터와 관련된 파일을 형성하기 위한 수단으로서, 상기 파일은 상기 파라미터 세트 메타데이터 및 상기 스위치 샘플 메타데이터를 포함하는, 형성 수단을 포함하는, 장치.
멀티미디어 데이터와 관련된 파일을 수신하기 위한 수단으로서, 상기 파일은 상기 멀티미디어 데이터를 위한 하나 이상의 파라미터 세트를 식별하는 파라미터 세트 메타데이터 및 상기 멀티미디어 데이터와 관련된 복수의 스위치 샘플 세트를 정의하는 스위치 샘플 메타데이터를 포함하는, 수신 수단,

상기 파일로부터 상기 파라미터 세트 메타데이터 및 상기 스위치 샘플 메타데이터를 추출하기 위한 수단으로서, 상기 추출된 파라미터 세트 메타데이터는 이어서 상기 하나 이상의 파라미터 세트와 복수의 상기 멀티미디어 데이터 부분 사이의 관계를 결정하기 위해 사용되고, 상기 추출된 스위치 샘플 메타데이터는 특정 샘플에 대한 대체 샘플을 찾기 위해 사용되는, 추출 수단을 포함하는, 장치.