KR20190008223A - 가상 현실에서의 원형 어안 비디오 - Google Patents

가상 현실에서의 원형 어안 비디오 Download PDF

Info

Publication number
KR20190008223A
KR20190008223A KR1020187032803A KR20187032803A KR20190008223A KR 20190008223 A KR20190008223 A KR 20190008223A KR 1020187032803 A KR1020187032803 A KR 1020187032803A KR 20187032803 A KR20187032803 A KR 20187032803A KR 20190008223 A KR20190008223 A KR 20190008223A
Authority
KR
South Korea
Prior art keywords
video data
video
parameters
image
encoded
Prior art date
Application number
KR1020187032803A
Other languages
English (en)
Other versions
KR102503598B1 (ko
Inventor
비잔 포루탄푸어
예-쿠이 왕
피 훙 응우옌
닝 비
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20190008223A publication Critical patent/KR20190008223A/ko
Application granted granted Critical
Publication of KR102503598B1 publication Critical patent/KR102503598B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • H04N5/2258—
    • H04N5/23238—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

제공되는 것들은 360도 비디오와 함께 360도 비디오에서의 어안 이미지들을 기술하는 파라미터들을 포함하는 시스템들, 방법들, 및 컴퓨터 판독가능 매체이다. 360도 비디오는 그때, 어안 이미지들을 일부 다른 포맷으로 변환하는 일 없이, 전방위 카메라에 의해 캡처된 대로 저장 및/또는 송신될 수 있다. 그 파라미터들은 어안 이미지들을 중간 포맷, 이를테면 등장방형 포맷으로 매핑하기 위해 나중에 사용될 수 있다. 중간 포맷은 360도 비디오를 저장, 송신, 및/또는 디스플레이하는데 사용될 수 있다. 그 파라미터들은 어안 이미지들을 360도 비디오 프레젠테이션으로 디스플레이될 수 있는 포맷, 이를테면 구면 포맷으로 직접적으로 매핑하는데 대안적으로 또는 부가적으로 사용될 수 있다.

Description

가상 현실에서의 원형 어안 비디오
360도 비디오가 관람자들에게 몰입되는 경험을 제공할 수 있다. 예를 들어, 360도 비디오가 관람자에게 가상 현실 경험을 제공하여, 관람자가 가상적으로 상이한 시간 및/또는 장소에 놓이게 할 수 있다. 다른 예로서, 360도 비디오는 관람자에게 원격 디바이스 (예컨대, 무인 항공기, 또는 다른 디바이스) 에 의해 캡처되는 비디오 콘텐츠의 일인칭 뷰를 제공할 수 있다. 360도 비디오를 캡처하는 하나의 방법이 전방위 카메라 (omnidirectional camera) 를 사용하는 것이다. 전방위 카메라들은 단지 몇 개의 렌즈들만으로 넓은 시야를 캡처할 수 있다. 결과적인 이미지들은 어안 (fisheye) 효과를 나타낸다.
다양한 구현예들에서, 제공되는 것들은 360도 비디오와 함께 360도 비디오에서의 어안 이미지들을 기술하는 파라미터들을 포함하는 시스템들, 방법들, 및 컴퓨터 판독가능 매체이다. 360도 비디오는 그때, 어안 이미지들을 일부 다른 포맷으로 변환하는 일 없이, 전방위 카메라에 의해 캡처된 대로 저장 및/또는 송신될 수 있다. 그 파라미터들은 어안 이미지들을 중간 포맷, 이를테면 등장방형 (equirectangular) 포맷으로 매핑하기 위해 나중에 사용될 수 있다. 중간 포맷은 360도 비디오를 저장, 송신, 및/또는 디스플레이하는데 사용될 수 있다. 그 파라미터들은 어안 이미지들을 360도 비디오 프레젠테이션으로 디스플레이될 수 있는 포맷, 이를테면 구면 포맷으로 직접적으로 매핑하는데 대안적으로 또는 부가적으로 사용될 수 있다.
적어도 하나의 예에 따르면, 비디오 데이터를 프로세싱하는 방법이 제공된다. 그 방법은 전방위 카메라에 의해 캡처되는 360도 비디오 데이터를 획득하는 단계를 포함한다. 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함할 수 있다. 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다 (warped). 그 방법은 전방위 카메라에 연관되는 파라미터들을 획득하는 단계를 더 포함한다. 그 파라미터들은 이미지의 원형 지역을 기술할 수 있다. 그 방법 360도 비디오 데이터를 인코딩하는 단계를 더 포함한다. 그 방법은 인코딩된 비디오 데이터를 생성하는 단계를 더 포함한다. 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함할 수 있다.
다른 예에서, 전방위 카메라에 의해 캡처된 360도 비디오 데이터를 획득하도록 구성되는 프로세서와 메모리를 포함하는 장치가 제공된다. 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함할 수 있다. 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 프로세서는 전방위 카메라에 연관되는 파라미터들을 획득하도록 구성되고 획득할 수 있다. 그 파라미터들은 이미지의 원형 지역을 기술할 수 있다. 프로세서는 360도 비디오 데이터를 인코딩하도록 구성되고 인코딩할 수 있다. 프로세서는 인코딩된 비디오 데이터를 생성하도록 구성되고 생성할 수 있다. 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함할 수 있다.
다른 예에서, 프로세서에 의해 실행될 때, 전방위 카메라에 의해 캡처된 360도 비디오 데이터를 획득하는 단계를 포함하는 방법을 수행하는 명령들을 저장하고 있는 컴퓨터 판독가능 매체가 제공된다. 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함할 수 있다. 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 그 방법은 전방위 카메라에 연관되는 파라미터들을 획득하는 단계를 더 포함한다. 그 파라미터들은 이미지의 원형 지역을 기술할 수 있다. 그 방법 360도 비디오 데이터를 인코딩하는 단계를 더 포함한다. 그 방법은 인코딩된 비디오 데이터를 생성하는 단계를 더 포함한다. 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함할 수 있다.
다른 예에서, 전방위 카메라에 의해 캡처된 360도 비디오 데이터를 획득하는 수단을 포함하는 장치가 제공된다. 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함할 수 있다. 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 그 장치는 전방위 카메라에 연관되는 파라미터들을 획득하는 수단을 더 포함한다. 그 파라미터들은 이미지의 원형 지역을 기술할 수 있다. 그 장치는 360도 비디오 데이터를 인코딩하는 수단을 더 포함한다. 그 장치는 인코딩된 비디오 데이터를 생성하는 수단을 더 포함한다. 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함할 수 있다.
일부 양태들에서, 그 장면은 이미지의 하나 이상의 원형 지역들로 워핑된다. 이들 양태들에서, 파라미터들은 하나 이상의 원형 지역들의 양을 포함한다. 일부 양태들에서, 파라미터들은 원형 지역의 중심의 수평 좌표를 포함한다. 일부 양태들에서, 파라미터들은 원형 지역의 중심의 수직 좌표를 포함한다. 일부 양태들에서, 파라미터들은 전체 반경 값을 포함하며, 전체 반경이 원형 지역의 중심에서부터 원형 지역의 외부 에지까지의 거리이다. 일부 양태들에서, 파라미터들은 프레임 반경 값을 포함하며, 프레임 반경은 원형 지역의 중심에서부터 이미지의 에지까지의 거리이다. 일부 양태들에서, 파라미터들은 장면 반경 값을 포함하는데, 장면 반경이 원형 지역의 중심에서부터 이미지에 캡처된 장애물의 외부 에지까지의 거리이다. 일부 양태들에서, 파라미터들은 원형 지역 내의 장면의 회전을 포함하며, 그 회전은 이미지의 배향에 대한 것이다. 일부 양태들에서, 파라미터들은 플립 (flip) 값을 포함하며, 플립 값은 장면이 원형 지역 내에서 역전되었는지의 여부와 그 장면이 역전된 방향을 나타낸다.
일부 양태들에서, 파라미터들은 스케일링 값을 포함하며, 스케일링 값은 장면이 원형 지역 내에서 스케일링되었는지의 여부, 그 장면이 스케일링된 축, 및 그 장면이 스케일링된 양을 나타낸다. 일부 양태들에서, 파라미터들은 시야 값을 포함하며, 시야 값은 원형 지역에 캡처되는 뷰의 도 수를 나타낸다. 일부 양태들에서, 파라미터들은 압축 곡선 값을 포함하며, 압축 곡선 값은 원형 지역에 포함되는 장면에 대한 원형 지역의 기하학적 압축 곡선을 나타낸다. 일부 양태들에서, 파라미터들은 사용불가능 화소들을 포함하는 이미지 내 영역들의 양을 나타내는 값을 포함한다. 일부 양태들에서, 파라미터들은 사용불가능 화소들을 포함하는 이미지 내 영역의 위치 및 사이즈를 포함한다.
일부 양태들에서, 인코딩된 비디오 데이터를 생성하는 단계는 인코딩된 360도 비디오 데이터를 파일에 기입하는 단계를 포함한다. 이들 양태들에서, 파일은 국제 표준화 기구 기본 미디어 파일 포맷 (International Standards Organization Base Media File Format) (ISOBMFF) 포맷에 따라 포맷될 수 있다. 일부 양태들에서, 파라미터들은 파일 레벨에, 영화 레벨, 또는 파일의 트랙 레벨에 포함된다. 일부 양태들에서, 파라미터들은 제한된 스킴 정보 박스에 포함된다.
일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 파라미터들을 보충적 향상 정보 (Supplemental Enhancement Information) (SEI) 메시지 속에 인코딩하는 단계를 더 포함한다. SEI 메시지는 인코딩된 360도 비디오 데이터에 포함될 수 있다. 일부 양태들에서, SEI 메시지는 고급 비디오 코딩 (AVC) 또는 고효율 비디오 코드 (HEVC) 표준에 따라 포맷된다.
일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 인코딩된 비디오 데이터를 생성하는 단계를 더 포함하며, 인코딩된 비디오 데이터를 생성하는 단계는 파라미터들을 세션 데이터 프로토콜 (Session Data Protocol) (SDP) 속성들로서 인코딩하는 단계를 포함한다.
일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 인코딩된 비디오 데이터를 생성하는 단계를 더 포함하며, 인코딩된 비디오 데이터를 생성하는 단계는 파라미터들을 미디어 프레젠테이션 디스크립션 (Media Presentation Description) (MPD) 파일 속에 기입하는 단계를 포함한다.
일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 인코딩된 비디오 데이터를 생성하는 단계를 더 포함하며, 인코딩된 비디오 데이터를 생성하는 단계는 파라미터들을 MPEG (Motion Pictures Experts Group) 전송 스트림 속에 기입하는 단계를 포함한다.
일부 양태들에서, 위에서 설명된 바와 같은 장치가 모바일 디바이스를 포함할 수 있다. 일부 구현예들에서, 모바일 디바이스는 전방위 카메라를 포함한다.
적어도 하나의 예에 따르면, 비디오 데이터를 프로세싱하는 방법이 제공된다. 그 방법은 인코딩된 비디오 데이터를 획득하는 단계를 포함한다. 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함한다. 그 방법은 360도 비디오 데이터를 생성하기 위해 인코딩된 비디오 데이터를 디코딩하는 단계를 더 포함한다. 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함할 수 있고, 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 그 방법은 360도 비디오 프레젠테이션을 생성하는 단계를 더 포함한다. 360도 비디오 프레젠테이션을 생성하는 단계는 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 파라미터들을 사용하는 단계를 포함할 수 있다.
다른 예에서, 인코딩된 비디오 데이터를 획득하도록 구성되는 프로세서와 메모리를 포함하는 장치가 제공된다. 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함한다. 프로세서는 360도 비디오 데이터를 생성하기 위해 인코딩된 비디오 데이터를 디코딩하도록 구성되고 디코딩할 수 있다. 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함할 수 있고, 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 프로세서는 360도 비디오 프레젠테이션을 생성하도록 구성되고 생성할 수 있다. 360도 비디오 프레젠테이션을 생성하는 것은 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 파라미터들을 사용하는 것을 포함할 수 있다.
다른 예에서, 프로세서에 의해 실행될 때, 인코딩된 비디오 데이터를 획득하는 단계를 포함하는 방법을 수행하는 명령들을 저장하고 있는 컴퓨터 판독가능 매체가 제공된다. 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함한다. 그 방법은 360도 비디오 데이터를 생성하기 위해 인코딩된 비디오 데이터를 디코딩하는 단계를 더 포함한다. 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함할 수 있고, 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 그 방법은 360도 비디오 프레젠테이션을 생성하는 단계를 더 포함한다. 360도 비디오 프레젠테이션을 생성하는 단계는 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 파라미터들을 사용하는 단계를 포함할 수 있다.
다른 예에서, 인코딩된 비디오 데이터를 획득하는 수단을 포함하는 장치가 제공된다. 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함한다. 그 장치는 360도 비디오 데이터를 생성하기 위해 인코딩된 비디오 데이터를 디코딩하는 수단을 더 포함한다. 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함할 수 있고, 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 그 장치는 360도 비디오 프레젠테이션을 생성하는 수단을 더 포함한다. 360도 비디오 프레젠테이션을 생성하는 것은 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 파라미터들을 사용하는 것을 포함할 수 있다.
일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체가 원형 지역을 등장방형 포맷으로 매핑하는 것을 더 포함한다. 이들 양태들은 360도 비디오 프레젠테이션을 위해 등장방형 포맷을 사용하는 것을 더 포함한다.
일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체가 원형 지역을 360도 포맷으로 직접적으로 매핑하는 것을 더 포함한다. 이들 양태들은 360도 비디오 프레젠테이션을 위해 360도 포맷을 사용하는 것을 더 포함한다.
일부 양태들에서, 그 장면은 이미지의 하나 이상의 원형 지역들로 워핑된다. 이들 양태들에서, 파라미터들은 하나 이상의 원형 지역들의 양을 포함한다. 일부 양태들에서, 파라미터들은 원형 지역의 중심의 수평 좌표를 포함한다. 일부 양태들에서, 파라미터들은 원형 지역의 중심의 수직 좌표를 포함한다. 일부 양태들에서, 파라미터들은 전체 반경 값을 포함하며, 전체 반경이 원형 지역의 중심에서부터 원형 지역의 외부 에지까지의 거리이다. 일부 양태들에서, 파라미터들은 프레임 반경 값을 포함하며, 프레임 반경은 원형 지역의 중심에서부터 이미지의 에지까지의 거리이다. 일부 양태들에서, 파라미터들은 장면 반경 값을 포함하는데, 장면 반경이 원형 지역의 중심에서부터 이미지에서 캡처된 장애물의 외부 에지까지의 거리이다. 일부 양태들에서, 파라미터들은 원형 지역 내의 장면의 회전을 포함하며, 그 회전은 이미지의 배향에 대한 것이다. 일부 양태들에서, 파라미터들은 플립 (flip) 값을 포함하며, 플립 값은 장면이 원형 지역 내에서 역전되었는지의 여부와 그 장면이 역전된 방향을 나타낸다.
일부 양태들에서, 파라미터들은 스케일링 값을 포함하며, 스케일링 값은 장면이 원형 지역 내에서 스케일링되었는지의 여부, 그 장면이 스케일링된 축, 및 그 장면이 스케일링된 양을 나타낸다. 일부 양태들에서, 파라미터들은 시야 값을 포함하며, 시야 값은 원형 지역에 캡처되는 뷰의 도 수를 나타낸다. 일부 양태들에서, 파라미터들은 압축 곡선 값을 포함하며, 압축 곡선 값은 원형 지역에 포함되는 장면에 대한 원형 지역의 기하학적 압축 곡선을 나타낸다. 일부 양태들에서, 파라미터들은 사용불가능 화소들을 포함하는 이미지 내 영역들의 양을 나타내는 값을 포함한다. 일부 양태들에서, 파라미터들은 사용불가능 화소들을 포함하는 이미지 내 영역의 위치 및 사이즈를 포함한다.
일부 양태들에서, 인코딩된 비디오 데이터는 파일로부터 획득되며, 그 파일은 ISOBMFF (International Standards Organization Base Media File Format) 포맷에 따라 포맷된다. 일부 양태들에서, 파라미터들은 파일 레벨에, 영화 레벨, 또는 트랙 레벨에 포함된다. 일부 양태들에서, 파라미터들은 제한된 스킴 정보 박스에 포함된다.
일부 양태들에서, 보충적 향상 정보 (SEI) 메시지로부터 파라미터들을 디코딩하며, SEI 메시지는 인코딩된 비디오 데이터에 포함된다. 일부 양태들에서, SEI 메시지는 고급 비디오 코딩 (AVC) 또는 고효율 비디오 코드 (HEVC) 표준에 따라 포맷된다.
일부 양태들에서, 인코딩된 비디오 데이터를 디코딩하는 것은 세션 데이터 프로토콜 (SDP) 속성들로부터 파라미터들을 획득하는 것을 포함한다.
일부 양태들에서, 인코딩된 비디오 데이터를 디코딩하는 것은 미디어 프레젠테이션 디스크립션 (MPD) 파일로부터 파라미터들을 획득하는 것을 포함한다.
일부 양태들에서, 인코딩된 비디오 데이터를 디코딩하는 것은 MPEG (Motion Pictures Experts Group) 전송 스트림으로부터 파라미터들을 획득하는 것을 포함한다.
일부 양태들에서, 위에서 설명된 바와 같은 장치가 모바일 디바이스를 포함할 수 있다. 일부 구현예들에서, 모바일 디바이스는 360도 비디오 프레젠테이션을 디스플레이하는 디스플레이를 포함한다.
이 개요는 청구된 요지의 핵심 또는 본질적 특징들을 식별하기 위해 의도된 것이 아니며, 청구된 요지의 범위를 결정하는데 홀로 사용되도록 의도된 것도 아니다. 발명의 주제는 이 특허의 전체 명세서, 임의의 또는 모두 도면들, 및 각각의 청구항의 적절한 부분들을 참조하여 이해되어야 한다.
전술한 바는, 다른 특징들 및 실시형태들과 함께, 다음의 상세한 설명, 청구범위, 및 첨부 도면들을 참조할 시 더 명확하게 될 것이다.
본 출원의 예시적인 실시형태들이 다음의 도면들을 참조하여 아래에서 상세히 설명된다:
도 1a와 도 1b는 어안 렌즈들을 사용하여 넓은 시야를 캡처하는 전방위 카메라들에 의해 캡처되는 비디오 프레임들의 예들을 도시한다.
도 2는 등장방형 비디오 프레임의 일 예를 도시한다.
도 3은 360도 비디오 프레젠테이션에서 사용되고 있는 등장방형 비디오 프레임의 일 예를 도시한다.
도 4a와 도 4b는 360도 비디오 프레임에서의 어안 이미지가 반구면 표현에 직접적으로 매핑된 일 예를 도시한다.
도 5는 두 개의 어안 렌즈들을 갖는 전방위 카메라에 의해 캡처되는 비디오 프레임의 일 예를 도시한다.
도 6a는 비디오 프레임에 캡처된 어안 이미지를 설명하는데 사용될 수 있는 추가적인 파라미터들의 일 예를 도시한다.
도 6b는 어안 이미지의 하부 부분의 일 예를 그 이미지에서 카메라 본체의 존재를 예시하기 위해 도시한다.
도 7은 ISOBMFF에 따라 포맷된, 비디오 프레젠테이션을 위한 데이터와 메타데이터를 포함하는 ISO 기본 미디어 파일의 일 예를 도시한다.
도 8a와 도 8b는 ISO 기본 미디어 파일에서의 최고 레벨 박스가 그 파일이 가상 현실 콘텐츠를 포함함을 나타내는데 사용되는 예들을 도시한다.
도 9는 영화 레벨 표시가 ISO 기본 미디어 파일에서 그 파일이 가상 현실 콘텐츠를 포함함을 나타내기 위해 사용되는 일 예를 도시한다.
도 10은 트랙 레벨 표시자가 ISO 기본 미디어 파일에서 그 파일이 가상 현실 콘텐츠를 포함함을 나타내기 위해 사용되는 일 예를 도시한다.
도 11은 트랙의 콘텐츠들이 가상 현실 콘텐츠를 포함함을 시그널링하는데 핸들러 박스가 사용되는 ISO 기본 미디어 파일의 하나의 예를 도시한다.
도 12는 트랙이 가상 현실 콘텐츠를 포함함을 나타내기 위해 새로운 핸들러 박스가 정의된 ISO 기본 미디어 파일의 일 예를 도시한다.
도 13은 ISO 기본 미디어 파일에 포함될 수 있는 미디어 박스의 일 예를 도시한다.
도 14는 비트스트림의 일부일 수 있는 액세스 유닛의 일 예를 도시한다.
도 15는 네트워크 통신들을 위한 개방시스템들 상호접속 모델의 일 예를 도시한다.
도 16은 비디오 콘텐츠를 스트리밍하기 위한 DASH 프레젠테이션의 일 예를 도시한다.
도 17은 MPEG 전송 스트림의 일 예를 도시한다.
도 18은 360도 어안 비디오를 그 비디오에서의 어안 이미지들을 기술하는 파라미터들과 함께 인코딩하는 프로세스의 일 예를 도시한다.
도 19는 360도 비디오를 포함하는 인코딩된 비디오 데이터를 디코딩하는 프로세스의 일 예를 도시한다.
도 20은 인코딩 디바이스와 디코딩 디바이스를 포함하는 시스템의 일 예를 도시하는 블록도이다.
도 21은 예시적인 인코딩 디바이스를 도시하는 블록도이다.
도 22은 예시적인 디코딩 디바이스를 도시하는 블록도이다.
본 개시물의 특정한 양태들 및 실시형태들이 아래에서 제공된다. 이들 양태들 및 실시형태들의 일부가 독립적으로 적용될 수도 있고 그것들 중 일부는 본 기술분야의 숙련된 자들에게 명확하게 될 바와 같이 조합하여 적용될 수도 있다. 다음의 기술에서, 설명의 목적으로, 특정 세부사항들이 본 개시물의 실시형태들의 철저한 이해를 제공하기 위하여 언급된다. 그러나, 다양한 실시형태들이 이들 특정 세부사항들 없이 실시될 수도 있다는 것이 명백할 것이다. 도면들 및 설명은 제한되는 것으로 의도되지 않는다.
뒤이은 설명은 예시적인 실시형태들만을 제공하고, 본 개시물의 범위, 적용 가능성, 또는 구성을 제한하도록 의도되지 않는다. 오히려, 예시적인 실시형태들의 뒤이은 설명은 본 기술분야의 통상의 기술자들에게 예시적인 실시형태를 구현하는 가능한 설명을 제공할 것이다. 다양한 변경들이 첨부의 청구항들에서 언급되는 본 개시물의 정신 및 범위로부터 벗어남 없이 엘리먼트들의 기능 및 배열로 이루어질 수도 있다는 것이 이해되어야 한다.
특정 세부사항들이 실시형태들의 철저한 이해를 제공하기 위해 다음의 상세한 설명에서 주어진다. 그러나, 실시형태들이 이들 특정 세부사항들 없이 실시될 수도 있다는 것은 본 기술분야의 통상의 기술자에 의해 이해될 것이다. 예를 들어, 회로들, 시스템들, 네트워크들, 프로세스들, 및 다른 컴포넌트들이 불필요하게 상세하여 실시형태들을 이해하기 어렵게 하지 않기 위하여 블록도 형태의 컴포넌트들로서 도시될 수도 있다. 다른 경우들에서, 널리 공지된 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들이 실시형태들을 이해하기 어렵게 하는 것을 피하기 위하여 불필요한 세부사항 없이 도시될 수도 있다.
또한, 개개의 실시형태들은 플로차트, 흐름도, 데이터 흐름도, 구조도, 또는 블록도로서 묘사되는 프로세서로서 설명될 수도 있다는 점에 주의한다. 플로차트가 순차적 프로세스로서 동작들을 기술할 수도 있지만, 많은 동작들은 병행하여 또는 동시에 수행될 수 있다. 덧붙여서, 동작들의 순서는 재배열될 수도 있다. 프로세스가 그것의 동작들이 완료될 때 종료되지만, 도면에 포함되지 않은 추가적인 단계들을 가질 수 있다. 프로세스는 메소드, 함수, 프로시저, 서브루틴, 서브프로그램 등에 해당할 수도 있다. 프로세스가 함수에 해당하는 경우, 그것의 종료는 호출 함수 또는 메인 함수로의 기능의 반환에 해당할 수 있다.
"컴퓨터 판독가능 매체"라는 용어는 명령(들)및/또는 데이터를 저장, 포함, 또는 운반할 수 있는 휴대용 또는 비-휴대용 저장 디바이스들, 광학적 저장 디바이스들, 및 다양한 다른 매체들을 비제한적으로 포함한다. 컴퓨터 판독가능 매체가 데이터가 저장될 수 있는 그리고 무선으로 또는 유선 접속들을 통해 전파하는 반송파들 및/또는 일시적 전자 신호들을 포함하지 않는 비-일시적 매체를 포함할 수도 있다. 비일시적 매체의 예들은 자기 디스크 또는 테이프, 콤팩트 디스크 (CD) 또는 디지털 다기능 디스크 (DVD) 와 같은 광 저장 매체, 플래시 메모리, 메모리 또는 메모리 디바이스들을 비제한적으로 포함할 수도 있다. 컴퓨터 판독가능 매체가 프로시저, 함수, 서브프로그램, 프로그램, 루틴, 서브루틴, 모듈, 소프트웨어 패키지, 클래스, 또는 명령들, 데이터 구조들, 또는 프로그램문들의 임의의 조합을 나타낼 수도 있는 코드 및/또는 머신 실행가능 명령들을 저장하고 있을 수도 있다. 코드 세그먼트가, 정보, 데이터, 독립변수들 (arguments), 파라미터들, 또는 메모리 콘텐츠들을 전달하고 및/또는 수신하는 것에 의해 다른 코드 세그먼트 또는 하드웨어 회로에 커플링될 수도 있다. 정보, 독립변수들, 파라미터들, 데이터 등은, 메모리 공유, 메시지 패싱, 토큰 패싱, 네트워크 전송 등을 포함하는 임의의 적합한 수단을 경유하여 전달되거나, 포워딩되거나, 또는 송신될 수도 있다.
더욱이, 실시형태들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 디스크립션 언어들 또는 그것들의 임의의 조합에 의해 구현될 수도 있다. 소프트웨어, 펌웨어, 미들웨어 또는 마이크로코드로 구현될 때, 필요한 태스크들 (예컨대, 컴퓨터 프로그램 제품) 을 수행하는 프로그램 코드 또는 코드 세그먼트들은 컴퓨터 판독가능 또는 머신 판독가능 매체에 저장될 수도 있다. 프로세서(들)가 필요한 태스크들을 수행할 수도 있다.
가상 현실은 겉보기에 실제 또는 물리적 방식으로 상호작용할 수 있는 3차원 환경을 설명한다. 일부 경우들에서, 가상 현실 환경을 경험하는 사용자가, 가상 환경과 상호작용하기 위해, 전자 장비, 이를테면 두부 장착형 디스플레이 (head-mounted display) (HMD) 와 옵션적으로 또한 의복 (예컨대, 센서들이 장착된 장갑) 을 사용한다. 사용자가 실세계에서 이동함에 따라, 가상 환경에서 렌더링되는 이미지들 또한 변화하여, 사용자에게 사용자가 가상 환경 내에서 이동하고 있다는 지각을 제공한다. 일부 경우들에서, 가상 환경은 사용자의 움직임들과 상관되는 사운드를 포함하여, 사용자에게 사운드들이 특정 방향 또는 소스로부터 나온다는 느낌을 준다. 가상 현실 비디오는 매우 고품질로 캡처되고 렌더링되어, 진정으로 몰입적 가상 현실 경험을 잠재적으로 제공한다. 가상 현실 애플리케이션들은 무엇보다도 게이밍, 훈련, 교육, 스포츠 비디오, 및 온라인 소핑을 포함한다.
360도 비디오는 가상 현실 환경에서 디스플레이를 위해 캡처된 비디오이다. 일부 애플리케이션들에서, 실세계로부터의 비디오는, 게이밍 및 가상 세계들에서 발견될 수도 있는 바와 같은 컴퓨터 생성된 그래픽과는 대조적으로, 가상 현실 환경의 프레젠테이션에서 사용될 수 있다. 이들 애플리케이션들에서, 사용자가 그녀의 현재 로케이션을 체험할 수 있는 동일한 방식으로 사용자는 다른 로케이션을 경험할 수 있다. 예를 들어, 사용자가 샌프란시스코에 위치된 360도 비디오 시스템을 사용하면서 베를린의 도보 여행을 경험할 수 있다.
360도 비디오 시스템이 비디오 캡처 디바이스와 비디오 디스플레이 디바이스, 그리고 아마도 또한 서버들, 데이터 저장소, 및 데이터 송신 장비와 같은 다른 중간 디바이스들을 통상적으로 포함한다. 비디오 캡처 디바이스가 카메라 세트, 다시 말하면, 각각의 카메라가 상이한 방향으로 배향되고 상이한 뷰를 캡처하는 다수의 카메라들의 세트를 포함할 수도 있다. 일부 애플리케이션들에서, 여섯 개의 카메라들이 카메라 세트의 로케이션을 중심으로 전체 360도 뷰를 캡처하는데 사용될 수 있다. 일부 비디오 캡처 디바이스들은 더 적은 카메라들을 사용할 수도 있다. 예를 들어, 일부 비디오 캡처 디바이스들은 주로 좌우 뷰들을 캡처하거나 또는 넓은 시야를 갖는 렌즈들을 사용한다. 비디오가 프레임들을 일반적으로 포함하는데, 프레임이 장면의 전자적으로 코딩된 스틸 이미지이다. 카메라들은 초당 특정한 수의 프레임들을 캡처하는데, 이는 카메라의 프레임 레이트라고 보통 지칭된다.
일부 경우들에서, 무결절성 360도 뷰를 제공하기 위해, 이미지 스티칭이 카메라 세트에서 카메라들의 각각에 의해 캡처되는 비디오에 대해 수행될 수 있다. 360도 비디오 생성의 경우에서의 이미지 스티칭은 비디오 프레임들이 중첩하거나 또는 그렇지 않으면 연결하는 영역에서 인접한 카메라들로부터의 비디오 프레임들을 결합하는 것 또는 병합하는 것을 수반한다. 그 결과는 대략 구면 프레임일 것이고, 메르카토르투영법 (Mercator projection) 과 유사하게, 병합된 데이터는 평면 형태로 표현될 수 있다. 예를 들어, 병합된 비디오 프레임에서의 화소들은 큐브 형상의 평면들, 또는 일부 다른 3차원, 평면 형상 (예컨대, 피라미드, 팔면체 등) 으로 매핑될 수도 있다. 비디오 캡처 및 비디오 디스플레이 디바이스들은 래스터 원칙 - 비디오 프레임이 화소들의 그리드로서 취급되는 것을 의미함 - 으로 동작할 수 있으며 그 경우 정사각형 평면들, 직사각형 평면들, 또는 다른 적합한 모양의 평면들이 구면 환경을 나타내는데 사용될 수 있다.
평면 표현에 매핑되는 360도 비디오 프레임들은, 저장 및/또는 송신을 위해 인코딩 및/또는 압축될 수 있다. 인코딩 및/또는 압축은 비디오 코덱 (예컨대, H.265로서 또한 알려진 고효율 비디오 코딩 (HEVC) 표준, H.264로서 알려진 고급 비디오 코딩 표준을 준수하는 코드, 또는 다른 적합한 코덱) 을 사용하여 완수될 수 있고 압축된 비디오 비트스트림 (또는 인코딩된 비디오 비트스트림) 또는 비트스트림들의 그룹을 초래한다. 비디오 코덱을 사용한 비디오 데이터의 인코딩은 아래에서 더 상세히 설명된다.
일부 구현예들에서, 인코딩된 비디오 비트스트림(들)은 미디어 포맷 또는 파일 포맷으로 저장 및/또는 캡슐화될 수 있다. 저장된 비트스트림(들)은, 예를 들어, 네트워크를 통해, 비디오를 디스플레이를 위해 디코딩하고 렌더링할 수 있는 수신기 디바이스에 송신될 수 있다. 이러한 수신기 디바이스는 본 명세서에서 비디오 디스플레이 디바이스라고 지칭될 수도 있다. 예를 들어, 360도 비디오 시스템이 인코딩된 비디오 데이터로부터 캡슐화된 파일들을 (예컨대, 국제표준화기구 (ISO) 기본 미디어 파일 포맷 및/또는 파생된 파일 포맷들을 사용하여) 생성할 수 있다. 예를 들면, 비디오 코덱은 비디오 데이터를 인코딩할 수 있고 캡슐화 엔진이 하나 이상의 ISO 포맷 미디어 파일들에 비디오 데이터를 캡슐화함으로써 미디어 파일들을 생성할 수 있다. 대안적으로 또는 부가적으로, 저장된 비트스트림(들)은 저장 매체로부터 직접적으로 수신기 디바이스에 제공될 수 있다.
수신기 디바이스가 인코딩된 비디오 비트스트림을 디코딩 및/또는 압축해제하도록 코덱을 또한 구현할 수 있다. 인코딩된 비디오 비트스트림(들)이 미디어 포맷 또는 파일 포맷으로 저장 및/또는 캡슐화되는 경우들에서, 수신기 디바이스는 비디오 비트스트림을 파일 (또는 파일들) 로 패킹하는데 사용되었던 미디어 또는 파일 포맷을 지원할 수 있고, 인코딩된 비디오 데이터를 생성하기 위해 비디오 (및 아마도 또한 오디오) 데이터를 추출할 수 있다. 예를 들어, 수신기 디바이스는 캡슐화된 비디오 데이터를 갖는 미디어 파일들을 파싱하여 인코딩된 비디오 데이터를 생성할 수 있고, 수신기 디바이스에서의 코덱은 인코딩된 비디오 데이터를 디코딩할 수 있다.
수신기 디바이스는 그 다음에 디코딩된 비디오 신호를 렌더링 디바이스 (예컨대, 비디오 디스플레이 디바이스, 플레이어 디바이스, 또는 다른 적합한 렌더링 디바이스) 에 전송할 수 있다. 렌더링 디바이스들은, 예를 들어, 두부 장착형 디스플레이들, 가상 현실 텔레비전들, 및 다른 180 또는 360도 디스플레이 디바이스들을 포함한다. 일반적으로, 두부 장착형 디스플레이가 착용자의 머리의 움직임 및/또는 착용자의 눈들의 움직임을 추적할 수 있다. 두부 장착형 디스플레이는 추적 정보를 사용하여 착용자가 바라보는 방향에 대응하는 360도 비디오의 일부를 렌더링할 수 있어, 착용자는 그녀가 실세계를 체험하는 것과 동일한 방식으로 가상 환경을 경험한다. 렌더링 디바이스가 비디오가 캡처되었던 동일한 프레임 레이트에서 또는 상이한 프레임 레이트에서 비디오를 렌더링할 수도 있다.
360도 비디오를 캡처하는 카메라 세트들은 다양한 전방위 카메라들, 반사굴절 카메라들 (렌즈들 및 만곡형 거울들을 사용하는 카메라), 어안 렌즈들이 장비된 카메라들, 및/또는 다른 적합한 카메라들을 포함할 수 있다. 전방위 카메라의 하나의 예는 리코 세타-S (Ricoh Theta-S) 인데, 이는 반대 방향들로 포커싱하는 두 개의 어안 렌즈들을 사용한다.
전방위 카메라들, 이를테면 반사굴절 카메라들과 어안 렌즈들을 갖는 카메라들은, 상당한 량의 왜곡을 갖는 이미지들을 보통 캡처한다. 도 a1와 도 1b는 어안 렌즈들을 사용하여 넓은 시야를 캡처하는 전방위 카메라들에 의해 캡처되는 비디오 프레임들의 예들을 도시한다. 도 1a의 예에서 비디오 프레임 (100) 은 원형 어안 이미지를 포함한다. 어안 렌즈들은 매우 넓은 각도들, 이를테면 180 도 이상을 캡처할 수 있다. 그런고로, 뒤를 맞대어 위치된 두 개의 어안 렌즈들이 장비된 카메라가, 함께 360 도 (또는 이상) 의 뷰를 제공하는 두 개의 이미지들을 캡처할 수 있다. 비-광각 어안 렌즈들은 약 45 도 내지 약 90 도 정도의 시야를 캡처한다. 시야가 라디안으로 대안적으로 또는 부가적으로 표시될 수 있다.
광각을 캡처하기 위하여, 어안 렌즈들은 장면의 이미지를 왜곡시킨다. 도 1a에 도시된 바와 같이, 비디오 프레임 (100) 에 캡처되는 장면이 형상이 원형이고, 이 원형 지역의 중심에서부터 외부 에지들로 워핑된다. 카메라 센서들이 직사각형이기 때문에, 비디오 프레임 (100) 은 직사각형이고 이미지는, 점묘 (stippling) 를 사용하여 여기서 예시된, 장면의 일부가 아닌 영역들을 포함한다. 이들 영역들에서의 화소들은 사용 가능하지 않은 것으로 간주되는데, 이들 화소들이 장면의 일부가 아니기 때문이다.
도 1b의 예는 전체 프레임 어안 이미지를 포함하는 비디오 프레임 (102) 을 포함한다. 이 유형의 비디오 프레임 (102) 에서, 광각 시야가 원형 지역에서 또한 캡처되었고, 장면은 원형 지역으로 워핑되었다. 이 예에서, 이미지는 (예컨대, 더 크게 되게) 스케일링되며 그래서 장면은 직사각형 프레임의 에지들을 채운다. 이 예시적인 비디오 프레임 (102) 은 사용불가능 영역들을 포함하지 않고, 렌즈에 의해 캡처될 수 있는 장면의 일부 부분들은 잘라내어지거나 또는 캡처되지 않는다.
어안 이미지들을 사용하여 넓은 시야를 캡처하는 360도 비디오는 다른 포맷들로 리매핑될 수 있다. 이들 다른 포맷들은 360도 비디오를 저장, 송신, 및/또는 관람하는데 사용될 수 있다. 하나의 예시적인 포맷이 등장방형 포맷이다. 도 2는 등장방형 비디오 프레임 (200) 의 일 예를 도시한다. 이 예시적인 등장방형 비디오 프레임 (200) 에서, 두 개의 어안 이미지들 (202a, 202b) 로부터의 사용가능 화소들 (예컨대, 원형 지역들에서의 화소들) 은 등장방형 포맷에 매핑되었다. 이 예에서, 각각의 어안 이미지 (202a, 202b) 는 180도 이상의 시야를 포함하여서, 함께, 두 개의 어안 이미지들 (202a, 202b) 은 360도 시야 (아마도 일부 중첩을 가짐) 를 포함한다.
어안 이미지들 (202a, 202b) 로부터 화소들을 매핑하는 것은 어안 이미지들 (202a, 202b) 에 캡처된 장면을 워핑하지 않고, 그 화소들을 비디오 프레임 (200) 의 에지들을 향해 신장하는 효과를 가진다. 결과적인 등장방형 이미지는 비디오 프레임 (200) 의 상단 및 하단에서 신장된 것으로 나타날 수도 있다. 널리 공지된 등장방형 투영법이 지구의 지리가 직교하는 위도 및 경도 선들로 표시되는 메르카토르투영법이다.
다양한 구현예들에서, 어안 이미지들 (202a, 202b) 은 다른 포맷들에, 이를테면 큐브, 실린더, 피라미드, 절단된 피라미드, 또는 일부 다른 기하학적 형상에 의해 형성되는 면들 상에 매핑될 수 있다. 이들 경우들의 각각에서, 어안 이미지들 (202a, 202b) 에 존재하는 왜곡은 정정될 수 있고 사용불가능 화소들은 제거될 수 있다. 평면 데이터는 저장 및/또는 송신을 위해 또한 패키징될 수 있고, 360도 비디오를 디스플레이하는데 사용될 수 있다.
일부 경우들에서, 중간 포맷이, 예를 들어, 360도 비디오 데이터를 저장 및/또는 송신하는데, 또는 비디오 데이터를 다른 포맷으로 변환하는데 유용할 수 있다. 예를 들어, 등장방형 표현이, 도 3에 예시된 바와 같이, 비디오 데이터를 디스플레이하기 위해 구면 포맷 (예컨대, 구면 기하형상) 으로 매핑될 수 있다.
도 3은 360도 비디오 프레젠테이션에서 사용되고 있는 등장방형 비디오 프레임 (300) 의 일 예를 도시한다. 등장방형 비디오 프레임 (300) 은 구면 기하형상으로 매핑될 수 있고, 결과적인 구면 표현이 두부 장착형 디스플레이 또는 일부 다른 360도 비디오 디스플레이 디바이스를 사용하는 관람자 (320) 에게 디스플레이될 수 있다. 다른 예들에서, 등장방형 비디오 프레임 (300) 은 입방체, 실린더형, 피라미드형, 또는 일부 다른 기하학적 형상으로 매핑될 수 있는데, 기하학적 형상은 비디오를 디스플레이하기 위해 360도 비디오 디스플레이 디바이스에 의해 사용될 수 있다.
위에서 언급된 바와 같이, 등장방형 비디오 프레임 (300) 이, 상부 및 하부 지역들에서의 화소들이 신장되며 그리고/또는 압축되어 보이게 전체 360도 시야를 캡처할 수 있다. 등장방형 비디오 프레임 (300) 을 360도 비디오 프레젠테이션에서 사용하기 위해, 등장방형 비디오 프레임 (300) 에서의 화소들은 구면 표현에 매핑될 수 있다. 이 매핑은 등장방형 비디오 프레임 (300) 의 상부 및 하부 지역들을 구면 표현의 상단 및 하단 (예컨대, 각각 "북극" 및 "남극") 을 향해 확장하는 효과를 가질 수 있다. 상부 및 하부 지역들을 확장하는 것은 등장방형 비디오 프레임 (300) 에서 명확한, 이들 영역들에서의 왜곡을 정정할 수 있다.
등장방형 비디오 프레임 (300) 을 구면 표현으로 매핑하는 것은 구면 표현의 중심 (예컨대, 균분원 (equator)) 주위에서 프레임의 폭을 워핑하는 효과를 추가로 가질 수 있다. 등장방형 비디오 프레임 (300) 의 좌측 및 우측 에지들은 나란히 매핑되어서, "이은자리 (seam)"가 보이지 않는다.
일단 등장방형 비디오 프레임 (300) 이 구면 표현에 매핑되었다면, 구면 표현은 디스플레이될 수 있다. 관람자 (320) 가, 두부 장착형 디스플레이 또는 다른 360도 비디오 디스플레이 디바이스를 사용하여, 구면 표현 내에서부터 구면 표현을 볼 수 있다. 대부분의 경우들에서, 관람자 (320) 는 "지면"이, 관람자의 관점에서, 구면 표현의 최하단 지점이 되도록 위치된다. 일부 경우들에서, 구면 표현의 균분원은 관람자의 눈 높이에 위치된다. 다양한 구현예들에서, 구면 표현은 관람자의 키 및/또는 (예컨대, 관람자가 앉아 있거나, 서 있거나, 또는 얼마간의 다른 자세로 있다면) 자세에 맞도록 확장되거나 또는 수축될 수 있다.
그러나, 일부 경우들에서, 중간 포맷, 이를테면 등장방형 포맷이 필요하지 않다. 다양한 구현예들에서, 등장방형 형상으로 처음에 매핑하는 대신, 360도 비디오에서의 어안 이미지들이 디스플레이될 수 있는 표현으로 직접적으로 매핑될 수 있다. 도 4a와 도 4b는 360도 비디오 프레임 (400) 에서의 어안 이미지가 반구면 표현 (410) 에 직접적으로 매핑된 일 예를 도시한다. 위에서 논의된 바와 같이, 도 4a의 비디오 프레임 (400) 은 형상이 직사각형인데, 직사각형 형상은 카메라의 이미지 캡처 센서의 사이즈 및 모양에 대응한다. 비디오 프레임 (400) 은 장면을 캡처하는 화소들을 포함하는 원형 지역 (402) 을 포함한다. 화소들이 캡처되지 않았던, 비디오 프레임 (400) 의 코너들 (404) 은 좌측 블랭크일 수 있거나 또는 흑색 화소들 (예컨대, 0 또는 255의 화소 값을 가짐) 을 포함할 수 있다.
원형 지역 (402) 에 캡처되는 화소들은 특정한 시야를 포함하는데, 그 시야는 렌즈 및/또는 카메라에 의해 좌우된다. 예를 들어, 원형 지역 (402) 은 카메라의 렌즈, 거울(들), 및/또는 센서의 구성에 의존하여, 90도 시야, 180도 시야, 270도 시야, 또는 일부 다른 각도의 시야를 포함할 수 있다. 그 시야는 라디안으로 대안적으로 또는 부가적으로 표시될 수 있다. 시야를 비디오 프레임 (400) 에 맞추기 위해, 화소들은 원형 지역 (402) 에 선형 또는 비선형 방식으로 워핑된다.
다양한 구현예들에서, 아래에서 설명되는 기법들은 원형 지역 (402) 에서의 화소들을 반구면 표현 (410) 으로 매핑하며, 그것의 일 예가 도 2b에 예시된다. 반구면 표현 (410) 은 그 다음에 360도 비디오 디스플레이 디바이스를 사용하여 관람자 (420) 에게 비디오 프레임 (400) 을 제시하는데 사용될 수 있다. 반구면 표현 (410) 은 구의 절반 (이는 180 도의 뷰로 표현됨), 구의 절반 미만 (예컨대, 비디오 프레임 (400) 이 180 도 미만의 뷰를 캡처할 때임), 또는 구의 절반을 초과 (예컨대, 비디오 프레임 (400) 이 180 도를 초과하는 뷰를 캡처할 때임) 일 수 있다.
다양한 구현예들에서, 비디오 프레임 (400) 의 원형 지역 (402) 을 반구면 표현 (410) 에 매핑하는 것은 원형 지역 (402) 에서의 화소들을 반구면 형상으로 신장하는 효과를 가질 수 있다. 예를 들어, 원형 지역 (402) 의 중심 (412) 은 반구면 표현 (410) 의 중심 (422) 또는 정점 (apex) 에 해당할 수 있다. 추가의 예로서, 원형 지역 (402) 의 최상단 지점 (414a) 은 반구면 표현 (410) 의 최상단 지점 (424a) (예컨대, 북극) 에 대응할 수 있고, 원형 지역 (402) 의 최하단 지점 (414b) 은 반구면 표현 (410) 의 최하단 지점 (424b) (예컨대, 남극) 에 대응할 수 있다. 마찬가지로, 원형 지역 (402) 의 먼 우측 (414c) 및 먼 좌측 (414d) 은 이 예에서 반구면 표현 (410) 의 극우 (far right) (424c) 및 비시각적인 극좌 (far left) (424d) 인 것들에 대응할 수 있다. 원형 지역 (402) 의 중심 (412) 및 에지들에서의 화소들은 또한 반구면 표현 (410) 의 표면 전체에 걸쳐 고르게 분산될 수 있다.
결과적인 반구면 표현 (410) 은 평평한 비디오 프레임 (400) 을 360도 비디오 프레젠테이션으로 나타내는데 사용될 수 있다. 360도 비디오 디스플레이 디바이스를 사용하면, 반구면 표현 (410) 은 관람자 (420) 에게 반구면 표현 (410) 에 의해 캡처된 화소들에 의해 표현되는 장면의 내부에 자신이 있다는 몰입이 주어지도록 렌더링될 수 있다. 일부 경우들에서, 반구면 표현 (410) 의 정점은 관람자의 시야의 중심에 있도록 배향될 수 있다.
다양한 구현예들에서, 추가적인 반구면 표현이 관람자 (420) 뒤에 있을 뷰를 위해 제공될 수 있다. 예를 들어, 위에서 언급된 바와 같이, 카메라에는 뒤를 맞대어 위치되는 두 개의 어안 렌즈들이 장비될 수 있다. 그 카메라는 장면의 360 도 (또는 이상) 의 뷰를 함께 제공하는 두 개의 이미지들을 캡처할 수 있다. 이러한 예에서, 카메라는 제 2 어안 이미지 (도시되지 않음) 를 캡처할 수 있는데, 이 어안 이미지는 도 4에 도시된 어안 이미지와 동일한 프레임 (400) 에 포함될 수 있거나 또는 상이한 프레임에 포함될 수 있다. 제 2 어안 이미지는 관람자 (420) 바로 뒤에 있는 다른 반구면 표현 (도시되지 않음) 에 직접적으로 매핑될 수 있다. 두 개의 반구들은 전체 구를 이루며, 이 전체 구는 비디오 프레임(들)에 의해 캡처된 장면의 전체 360도 뷰를 제공하는 디스플레이를 위해 렌더링될 수 있다.
어안 이미지들을 디스플레이 포맷으로 직접적으로 매핑하고, 중간 포맷을 바이패스함으로써, 360도 비디오를 디스플레이하기 위해 요구되는 프로세싱의 양과, 그 프로세싱을 실행하는데 요구되는 시간이 감소될 수 있다. 프로세싱 요건들을 감소시키는 것은 휴대용 디바이스들에서 배터리 사용량을 감소시키는 추가의 이점을 또한 가진다. 덧붙여, 중간 포맷을 회피함에 있어서의 시간 절약이 스포츠 경기들의 360도 생방송과 같은 라이브 스트리밍 애플리케이션들에서 유익할 수 있다. 어안 이미지들로부터 디스플레이 포맷으로 직접적으로 매핑하는 것으로부터의 다른 가능한 이점들은 이미지 품질에서의 개선 및/또는 감소된 대역폭 요건들이다. 예를 들어, 중간 포맷을 생성함에 있어서 발생할 수도 있는 화소들의 신장 및/또는 외삽이 방지될 수 있다. 이 예에서, 화소 데이터를 외삽함에 있어서 생성된 데이터 또한 방지된다. 대신, 어안 렌즈의 광학적 압축이 보존된다.
캡처된 비디오로부터 디스플레이 포맷으로 직접적으로 매핑하는 것은 캡처된 비디오가 어안 렌즈들을 사용할 때 아마도 더 효율적일 수 있다. 예를 들어, 네 개 또는 여섯 개의 렌즈들을 사용하는 카메라 세트들은 인접한 렌즈들 사이의 큰, 중첩 영역들을 캡처할 수도 있다. 이 용장성 (redundant) 데이터는 중간 포맷에서 제거되지만, 중간 매핑 없이는, 360도 비디오 데이터의 사이즈는 매우 클 수도 있다. 그 반면, 어안 렌즈들을 사용하는 카메라 세트가 적거나 또는 매우 작은 중첩을 갖는 이미지들을 생성할 수 있다. 비디오 데이터는 따라서 더 콤팩트해질 수도 있다.
360도 비디오에서의 어안 이미지들을 디스플레이 포맷으로 직접적으로 매핑하기 위해, 또는 중간 포맷으로 매핑하기 위해, 매핑을 실행하는 컴퓨팅 디바이스가 어안 이미지들에 관한 정보를 요구한다. 이러한 정보는, 예를 들어, 각각의 어안 이미지에 캡처되는 시야, 비디오 프레임들 내의 어안 이미지들의 사이즈 및 배향, 및 다른 파라미터들 등을 포함할 수 있는데, 그것들은 아래에서 더 논의된다. 현재, 360도 비디오에서의 어안 이미지들을 기술하는 정보는 전방위 카메라들에 의해 제공되지 않거나 또는 비-표준 형태로 제공된다. 덧붙여, 각각의 카메라는 이미지들을 상이하게 캡처하고 기록할 수도 있어서, 360도 어안 비디오에서 사용가능 화소들의 위치는 쉽게 추정될 수 없다.
360도 비디오에서의 어안 이미지들을 기술하는 파라미터들 없이는, 소프트웨어 애플리케이션이 어안 데이터를 중간 포맷으로 쉽게 변환할 수 없다. 소프트웨어 애플리케이션은 비디오에서 사용가능 화소와 사용불가능 화소 간을 구별하려는 시도를 할 수 있지만, 이미지에서 시야 및 방사상 왜곡도와 같은 정보를 결정하는 것은 매우 어렵고 부정확성의 경향이 있을 수도 있다. 어안 이미지들을 기술하는 파라미터들을 가지지 않는 소프트웨어는 따라서 낮은 시각적 품질을 가지는 리매핑된 비디오 프레임들을 생성할 수도 있다.
비디오 변환 요건들은 추가적인 문제들을 도입한다. 예를 들어, 비디오 콘텐츠를 호스팅하는 서비스들, 이를테면 웹사이트들은, 서비스들의 서버들에 업로드된 360도 비디오가 특정한 중간 포맷 (예컨대, 등장방형 포맷, 또는 서비스들에 의해 특정되는 다른 적합한 포맷) 에 따라 포맷되는 것을 때때로 요구한다. 비디오 호스팅 서비스들은 캡처된 비디오로부터 요구된 중간 포맷으로의 변환을 제공하지 않을 수도 있으며 그 경우 비디오를 업로딩하는 개인은 변환을 실행할 책임이 있을 수도 있다.
360도 비디오 카메라들은 카메라에 의해 생성되는 비디오를 다른 포맷들로 변환하는 적합한 소프트웨어가 딸려 있을 수도 있지만, 이 소프트웨어는 사용하기 어려울 수 있다. 카메라 사용자는 소프트웨어와 임의의 가능한 셋팅들 (예컨대, 보기 모드들, 전개 (unfold) 모드들, 제어 영역, 교정 등) 을 이해하는데 필요한 기술적 지식이 없을 수도 있다. 사실, 카메라 사용자는 깊이 있는 기술적 지식을 요구하지 않는 간단한 소프트웨어 (예컨대, 푸시 버튼, 또는 다른 간단한 소프트웨어) 를 원할 수도 있다. 덧붙여, 소프트웨어는 캡처된 비디오의 포맷을 기술하는 독점적, 비-표준 데이터에 의존할 수도 있다. 그 소프트웨어는 따라서 하나의 유형의 카메라로부터의 비디오 데이터만 프로세싱하고, 다른 유형들을 갖는 카메라들로부터의 비디오 데이터를 프로세싱하지 못할 수도 있다.
다양한 구현예들에서, 어안 360도 비디오 콘텐츠를 기술하는 다양한 파라미터들이 정의될 수 있다. 이들 파라미터들은 360도 비디오에서의 어안 이미지들을 중간 포맷으로 매핑하는데, 또는 360도 비디오에서의 어안 이미지들을 디스플레이 포맷으로 직접적으로 매핑하는데 사용될 수 있다.
다양한 구현예들에서, 어안 360도 비디오 데이터는, 임의의 중간 프로세싱 없이, 카메라로부터 직접적으로 인코딩될 수 있다. 다양한 구현예들에서, 비디오 캡처 디바이스가, 비디오 데이터에서의 어안 이미지들을 기술하는 파라미터들을, 그 비디오 데이터와 함께 인코딩할 수 있다. 비디오 디스플레이 디바이스, 또는 인코딩된 데이터를 디코딩하는 일부 다른 디바이스가, 그 파라미터들을 사용하여 360도 어안 비디오를 중간 포맷 또는 디스플레이 포맷에 매핑할 수 있다.
일부 구현예들에서, 어안 비디오 파라미터들은 360도 비디오 데이터를 저장하는 파일로 인코딩될 수 있다. 예를 들어, 그 파일은 ISO 기본 미디어 파일 포맷 (ISOBMFF) 표준을 사용하여 포맷될 수 있다. 이 예에서, 그 파라미터들은 파일에서의 하나 이상의 데이터 구조들 (ISOBMFF에 의해 "박스들"이라고 지칭됨) 에 포함될 수 있다. 다른 예로서, 그 파라미터들은 보충적 향상 정보 (SEI) 메시지에 포함될 수 있고, 비디오 데이터를 포함하는 인코딩된 비트스트림에 포함될 수 있다. 다른 예로서, 그 파라미터들은 DASH 표준에 따라 비디오를 스트리밍하는데 사용되는 미디어 프레젠테이션 디스크립션 (MPD) 파일에 속성 또는 엘리먼트로서 포함될 수 있다. 다른 예로서, 그 파라미터들은 세션 디스크립션 프로토콜 (Session Description Protocol) (SDP) 속성들로서 포함될 수 있다. 다른 예로서, 그 파라미터들은 MPEG-2 전송 스트림에 디스크립터들로서 포함될 수 있다. 이들 및 다른 예들은 독립적으로 또는 다양한 조합들로 사용될 수 있다.
위의 예들 중 하나 이상의 예들을 사용하여 제공되는 어안 비디오 파라미터들은 다양한 애플리케이션들을 위해 사용될 수 있다. 예를 들어, 사용자 생성 360도 비디오가 서버에 업로드될 수 있고, 다른 디바이스들은 DASH 또는 일부 다른 적응적 스트리밍 기술을 사용하여 비디오를 소비할 수 있다. 이 예에서, 360도 비디오 데이터는 어안 포맷으로부터 흔히 사용되는 포맷, 이를테면 등장방형 또는 큐브 지도 포맷으로 트랜스코딩되거나 또는 변환될 수 있다. 일부 경우들에서, 비디오 콘텐츠를 호스팅하는 서버가 리매핑을 실행하기 위해 어안 비디오 파라미터들을 사용할 수 있다. 일부 경우들에서, 비디오는 클라이언트 디바이스에 어안 비디오 파라미터들과 함께 제공될 수 있고, 클라이언트 디바이스는 리매핑을 실행할 수 있다. 이 예에서, 파라미터들은, 예를 들어, ISOBMFF 파일에, 인코딩된 비트스트림에서의 SEI 메시지에, DASH MPD에, 세션 디스크립션에, MPEG-2 전송 스트림에, 또는 일부 다른 적합한 포맷으로 인코딩될 수 있다.
다른 예의 애플리케이션이 SWIS (See-What-I-See) 유형의 비디오 채팅 또는 유사한 애플리케이션이다. 이 유형의 애플리케이션에서, 두 명의 사용자들이 라이브 비디오를 사용하여 말할 수 있고, 한 사용자는 자신의 환경을, 360도 비디오를 사용하여, 다른 사용자에게, 실시간으로 보여줄 수 있다. 이 예에서, 어안 비디오는 제 1 사용자의 디바이스에서부터 제 2 사용자의 디바이스로 어안 파라미터들과 함께 송신될 수 있다. 제 2 사용자의 디바이스는 그러면 어안 비디오를 제 2 사용자에게의 디스플레이를 위해 렌더링할 수 있다. 이 예에서, RTP/UDP/IP 프로토콜 스택은 비디오 송신을 위해 사용될 수 있는데, 왜냐하면, 화상 통화 및 비디오 화상회의와 유사하게, 송신의 대화적 성질이 낮은 단 대 단 레이턴시를 요구하기 때문이다. 비디오를 스트리밍하는데 사용될 HTTP/TCP/IP 프로토콜 스택은, 충분히 낮은 레이턴시를 가지지 않을 수도 있다. 이 예에서, 어안 파라미터들은, 예를 들어, 무엇보다도, 세션 디스크립션에 인코딩될 수 있다.
도 5는 두 개의 어안 렌즈들을 갖는 카메라에 의해 캡처되는 비디오 프레임 (500) 을 사용하여 여기서 예시되는 다양한 어안 파라미터들의 예들을 도시한다. 이 예에서, 렌즈들은 반대 방향들을 향하도록 장착되고, 카메라는 양 렌즈들로부터의 이미지들을 하나의 비디오 프레임 (500) 속에 동시에 기록할 수 있다. 그 결과, 예시적인 비디오 프레임 (500) 은 두 개의 원형 지역들 (502a, 502b) 을 포함한다. 좌측 원형 지역 (502a) 은 장면의 워핑된 뷰를 포함하는 한편, 우측 원형 지역 (502b) 은 좌측 원형 지역 (502a) 에서의 장면으로부터 180도를 향하는 동일한 장면을 포함한다. 다른 예들에서, 전방위 카메라로부터의 비디오 프레임이 하나의 어안 이미지를 가질 수도 있거나, 또는 두 개를 초과하는 어안 이미지들을 가질 수도 있다.
도 5의 예에서, 다양한 파라미터들이 비디오 프레임 (500) 에 캡처된 어안 이미지들을 기술할 수 있다. 예를 들어, 비디오 프레임 (500) 은 두 개의 (또는 하나 또는 네 개의) 어안 이미지들을 포함한다는 것을 파라미터가 제공할 수 있다 (그러나 많은 어안 이미지들이 비디오 프레임 (500) 에 캡처된다). 다른 예로서, 파라미터들은 각각의 어안 이미지의 배향을 기술할 수 있다. 도시된 예에서, 양 어안 이미지들은 서로 옆으로 있어, 지면이 우측 이미지에서의 좌측에 위치되고, 좌측 이미지에서의 좌측에 위치된다.
다양한 구현예들에서, 파라미터들은 어안 이미지들의 로케이션 및 기하구조를 기술할 수 있다. 예를 들어, 파라미터가 하나 또는 다른 하나 또는 둘 다의 원형 지역들 (502a, 502b) 의 중심의 수평 좌표 (512) 를 제공할 수 있다. 수평 좌표 (512) 는 비디오 프레임 (500) 의 좌측 또는 우측 에지에 대해 제공될 수 있다. 다른 예로서, 파라미터가 하나 또는 다른 하나 또는 둘 다의 원형 지역들 (502a, 502b) 의 중심의 수직 좌표 (514) 를 제공할 수 있다. 수직 좌표 (514) 는 비디오 프레임 (500) 의 상단 또는 하단 에지를 기준으로 제공될 수 있다. 수평 좌표 (512) 및 수직 좌표 (514) 는 밀리미터 단위 또는 화소 또는 일부 다른 측정 단위로 표현될 수 있다. 다른 예로서, 파라미터들은 원형 지역들 (502a, 502b) 의 직경 (520) 또는 반경을 포함할 수 있다.
다양한 구현예들에서, 파라미터들은 비디오 프레임 (500) 의 비사용 영역들, 다시 말하면, 원형 지역들 (502a, 502b) 외부의 영역들을 또한 기술할 수 있다. 예를 들어, 수직 거리 (516) 가 비디오 프레임 (500) 의 하단 에지 (및/또는 상단 에지) 와 원형 지역들 (502a, 502b) 사이의 거리를 기술할 수 있다. 다른 예로서, 수평 거리 (518) 가 비디오 프레임 (500) 의 우측 에지 (및/또는 좌측 에지) 와 원형 지역들 (502a, 502b) 사이의 거리를 기술할 수 있다. 수직 거리 (516) 및 수평 거리 (518) 는 밀리미터 단위 또는 화소 또는 일부 다른 측정 단위로 표현될 수 있다.
다양한 구현예들에서, 파라미터들은 이미지들을 캡처했던 렌즈들에 관한 정보를 또한 포함할 수 있다. 예를 들어, 파라미터들은 시야를 포함할 수 있다. 시야는 렌즈에 의해 캡처될 수 있는 실세계의 부분이다. 시야는 도 단위로 표현될 수 있다. 예를 들어, 어안 렌즈가 180 도 이상 (또는 이하) 의 시야를 가질 수 있다. 도시된 예에서, 좌측 원형 지역 (502a) 및 우측 원형 지역 (502b) 둘 다에서 나타나는 엘리먼트 (524) 에 의해 나타낸 바와 같이, 시야는 180 도보다 더 크다. 다른 예로서, 파라미터들은 어안 왜곡이 렌즈의 중심에서부터 외부 에지까지 선형인지, 또는 비선형인지를 포함할 수 있다. 왜곡이 비선형이면, 파라미터들은 비-선형성을 조정하기 위한 스케일링 값들을 포함할 수 있다.
다양한 구현예들에서, 파라미터들은 카메라 및/또는 렌즈 아티팩트들을 또한 기술할 수 있다. 예를 들어, 도시된 예에서, 카메라 본체 (522) 는 원형 지역들 (502a, 502b) 의 둘 다에서 가시적이다. 다른 예들에서, 카메라 본체 및/또는 렌즈 본체의 부분들이 원형 지역들 (502a, 502b) 의 다른 부분들에서 가시적일 수도 있다. 일부 예들에서, 카메라 본체 및/또는 렌즈 본체는 원형 지역들 (502a, 502b) 주위에서 모두 가시적일 수도 있다.
다양한 다른 파라미터들이 여기서 예시되지 않은 상황들을 기술할 수 있다. 예를 들어, 파라미터들은 하나의 또는 다른 어안 이미지가 다른 어안 이미지에 대한 거울상인지 또는 실세계에 대한 거울상인지를 기술할 수 있다. 예를 들어, 우측 어안 이미지는 상하 방향으로, 좌우 방향, 또는 일부 다른 방향으로 뒤집힐 수도 있다. 임의의 미러링을 기술하는 파라미터들은 좌측 원형 지역 (502a) 및 우측 원형 지역 (502b) 의 에지들 사이의 대응관계를 결정하는데 사용될 수 있다.
비디오 프레임 (500) 을 렌더링함에 있어서 유용할 수도 있는 다양한 다른 파라미터들이 또한 제공될 수 있다. 예를 들어, 파라미터들은 카메라 교정 파라미터들, 이를테면 회전도 (예컨대, 피치, 요 (yaw), 및/또는 롤 (roll)) 와 실세계에서의 카메라의 로케이션을 포함할 수 있다.
위에서 논의된 파라미터들의 일부 또는 전부는 비디오 프레임 (500) 을 캡처했던 카메라에 의해 제공될 수 있다. 예를 들어, 카메라는, 예를 들어 렌즈들의 시야를 포함한, 어안 이미지들을 캡처하는데 사용된 렌즈들 및/또는 그 렌즈들이 이미지를 워핑하는 방식을 기술하는 정보를 가질 수도 있다. 다른 예로서, 카메라는 어안 이미지들이 비디오 프레임 (500) 속에 기입되는 방식을 기술하는 정보를 가질 수도 있다.
일부 경우들에서, 동일한 시야, 초점 거리, 형상, 및/또는 다른 특성을 갖는 동일한 유형의 렌즈는 좌측 및 우측 어안 이미지들 둘 다를 캡처하는데 사용되었을 것이지만, 이는 항상 그 경우는 아닐 수도 있다. 두 개의 어안 이미지들이 상이할 때, 별개의 파라미터들이 각각의 어안 이미지에 제공될 수도 있다.
도 6a는 비디오 프레임 (600) 에 캡처된 어안 이미지를 설명하는데 사용될 수 있는 추가적인 파라미터들 의 일 예를 도시한다. 이 예에서, 어안 렌즈에 의해 캡처될 수 있는 원형 지역 (602) 은 비디오 프레임 (600) 내에 완전히 포함되지 않는다. 이는, 예를 들어, 카메라가 전체 프레임 어안 비디오를 캡처하도록 구성될 때 발생할 수도 있는데, 왜냐하면 시야가 이미지 센서보다 더 넓기 때문이거나, 또는 일부 다른 이유 때문이다.
이 예 및 다른 예에서, 어안 이미지를 기술하는 파라미터들은 전체 반경 (620) 과, 장면 반경 (624) 을 포함할 수 있다. 전체 반경 (620) 은 원형 지역 (602) 의 중심 (626) 에서부터 원형 지역 (602) 의 외부 에지까지의 거리를 기술한다. 달리 말하면, 전체 반경 (620) 은 렌즈에 의해 캡처될 수 있는 지역을 기술한다. 프레임 반경 (622) 은 원형 지역 (602) 의 중심 (626) 에서부터 비디오 프레임 (600) 의 가장 가까운 에지까지의 거리를 기술한다. 프레임 반경 (622) 은 따라서 비디오 프레임 (600) 에 실제로 캡처된 지역을 기술한다. 일부 구현예들에서, 프레임 반경 값이 비디오 프레임 (600) 의 모든 네 개의 에지들에 대해 제공될 수 있다. 장면 반경 (624) 은 원형 지역 (602) 의 중심 (626) 에서부터 이 예에서 카메라 본체 (616) 인 장애물의 에지까지의 거리를 기술한다. 일부 경우들에서, 어안 렌즈의 시야는 카메라 자체의 일부를 이미지에 캡처할 만큼 충분히 크다. 대안적으로 또는 부가적으로, 카메라 본체 (616) 는 카메라 본체에 대한 렌즈의 배향으로 인해 이미지에서 나타날 수도 있다. 다양한 구현예들에서, 장면 반경 (624) 값은 카메라 본체 (616), 또는 비디오 프레임 (600) 에 나타나는 일부 다른 변함없는 장애물을 수용할 수 있다. 장면 반경 (624) 은 어안 이미지가 다른 포맷으로 매핑될 때 이 장애물을 무시하는데 사용될 수 있다.
도 6b는 어안 이미지 (630) 의 하부 부분의 일 예를 그 이미지 (630) 에서 카메라 본체 (616) 의 존재를 예시하기 위해 도시한다. 이 예에서, 촬상된 손은 어안 이미지의 최저 에지에서 나타나야 하지만, 대신에 카메라 본체 (616) 는 그 이미지의 이 영역을 가로막는다.
다양한 구현예들에서, 360도 어안 비디오는, 어안 이미지들을 다른 포맷으로 리매핑하기 위한 임의의 중간 프로세싱 없이, 파일로 직접적으로 패킹될 수 있다. 이들 구현예들에서, 어안 이미지들을 기술하는 파라미터들은 파일에 포함될 수 있다.
파일 포맷 표준들은 비디오 (와 아마도 또한 오디오) 데이터를 하나 이상의 파일들로 패킹 및 언패킹하기 위한 포맷을 정의할 수 있다. 파일 포맷 표준들은 ISO (International Organization for Standardization) 기본 미디어 파일 포맷 (ISOBMFF, ISO/IEC 14496-12에서 정의됨) 과, 동화상 전문가 그룹 (MPEG) MPEG-4 파일 포맷 (ISO/IEC 14496-15에서 정의됨), 3세대 파트너십 프로젝트 (3GPP) 파일 포맷 (3GPP TS 26.244에서 정의됨) 그리고 고급 비디오 코딩 (AVC) 파일 포맷 및 고효율 비디오 코딩 (HEVC) 파일 포맷 (둘 다는 ISO/IEC 14496-15에서 정의됨) 을 포함한, ISOBMFF로부터 파생된 다른 파일 포맷들을 포함한다. ISO/IEC 14496-12 및 14496-15에 대한 최근의 새로운 판들의 초안 텍스트들은 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/111_Geneva/wg11/w15177-v6-w15177.zip 및 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/112_Warsaw/wg11/w15479-v2-w15479.zip에서 각각 입수 가능하다.
ISOBMFF는 많은 코덱 캡슐화 포맷들 (예컨대, AVC 파일 포맷 또는 임의의 다른 적합한 코덱 캡슐화 포맷) 에 대해서, 뿐만 아니라 많은 멀티미디어 컨테이너 포맷들 (예컨대, MPEG-4 파일 포맷, 3GPP 파일 포맷 (3GPP), 디지털 비디오 브로드캐스팅 (DVB) 파일 포맷, 또는 임의의 다른 적합한 멀티미디어 컨테이너 포맷) 에 대한 기초로서 사용된다. ISOBMFF 기반 파일 포맷들은 스트리밍 미디어라고 또한 지칭되는 연속 미디어를 위해 사용될 수 있다.
연속 미디어 (예컨대, 오디오 및 비디오) 외에도, 정적 미디어 (예컨대, 이미지들) 및 메타데이터가 ISOBMFF에 부합하는 파일에 저장될 수 있다. ISOBMFF에 따라 구조화된 파일들은, 국부 미디어 파일 플레이백, 원격 파일의 점진적 다운로딩, HTTP를 통한 동적 적응적 스트리밍 (DASH) 을 위한 세그먼트들로서, 스트리밍될 콘텐츠를 위한 컨테이너들 (이 경우 컨테이너들은 패킷화 명령들을 포함함) 로서, 수신된 실시간 미디어 스트림들의 기록을 위해, 또는 다른 용도들을 포함하는 많은 목적들을 위해 사용될 수도 있다.
ISOBMFF와 그것의 파생된 파일 포맷들 (예컨대, AVC 파일 포맷 또는 다른 파생된 파일 포맷들) 은 많은 멀티미디어 애플리케이션들에서 미디어 콘텐츠 (예컨대, 비디오, 오디오, 및 시한 (timed) 텍스트) 의 저장 및 캡슐화를 위해 널리 사용된다. ISOBMFF와 ISOBMFF로부터 파생된 파일 포맷들은, 그러나, 가상 현실 (VR) 콘텐츠를 저장하기 위한 사양들을 포함하지 않는다. 예를 들어, 360도 비디오가 ISOBMFF 또는 파생된 파일 포맷에 기초하여 파일에 저장되면, 플레이어 디바이스가 360도 비디오를 기존의 평면 비디오로서 처리할 수도 있다 (예컨대, 프로세스하려고 시도할 수 있다) (예컨대, 플레이어 디바이스는 360도 비디오를 360도 콘텐츠를 포함하지 않는 것으로 처리할 수도 있다). 따라서 플레이어는 렌더링 동안 360도 비디오의 필요한 투영을 적용하지 않아, 디스플레이될 때 비디오가 왜곡되고 잠재적으로 볼 수 없게 되는 결과를 초래할 수도 있다.
다양한 구현예들에서, ISOBMFF에 대한 수정들 및/또는 추가들은 ISOBMFF, 또는 ISOBMFF로부터 파생된 포맷에 따라 포맷된 파일이 가상 현실 콘텐츠를 포함함을 나타낼 수 있다. 예를 들어, 일부 구현예들에서, 파일이 파일 레벨 표시를 포함할 수 있는데, 파일 레벨 표시는 파일의 콘텐츠들이 가상 현실 사용 사례들 또는 구현예들에서의 사용을 위해 포맷됨을 신호한다 (예컨대, 나타낸다). 다른 예로서, 일부 구현예들에서, 파일이 영화 레벨 표시를 포함할 수 있는데, 영화 레벨 표시는 파일에서의 영화 프레젠테이션은 가상 현실 콘텐츠를 포함함을 신호한다 (예컨대, 나타낸다). 다른 예로서, 일부 구현예들에서, 파일이 트랙 레벨 표시를 포함할 수 있는데, 트랙 레벨 표시는 트랙이 가상 현실 콘텐츠를 포함함을 시그널링한다 (예컨대, 나타낸다). 다양한 구현예들에서, 가상 현실 콘텐츠에 관련된 파라미터는 파일, 영화, 및/또는 트랙 레벨에서 또한 시그널링될 수 있다.
이들 및 다른 구현예들에서, 플레이어 디바이스들은 파일이 가상 현실 콘텐츠를 포함할 경우를 인식할 수 있다. 일부 경우들에서, 가상 현실 콘텐츠를 디스플레이할 수 없는 플레이어 디바이스들은 가상 현실 미디어를 무시하며 그리고/또는 스킵할 수 있다.
도 7은 ISOBMFF에 따라 포맷된, 비디오 프레젠테이션을 위한 데이터와 메타데이터를 포함하는 ISO 기본 미디어 파일 (700) 의 일 예를 도시한다. ISOBMFF는 교환, 관리, 편집, 및 미디어의 프레젠테이션을 용이하게 하는 유연하고 확장 가능한 포맷으로 시한 미디어 정보를 포함하도록 설계된다. 미디어의 프레젠테이션은 프레젠테이션을 포함하는 시스템에 "국부적"일 수도 있거나 또는 프레젠테이션은 네트워크 또는 다른 스트림 전달 메커니즘을 통할 수도 있다.
"프레젠테이션"은, ISOBMFF 사양에서 정의된 바와 같이, 비디오 캡처 디바이스에 의해 순차적으로 캡처됨으로써 종종 관련되는, 또는 일부 다른 이유로 관련되는 픽처들의 시퀀스이다. 여기서, 프레젠테이션이 영화 또는 비디오 프레젠테이션이라고 또한 지칭될 수도 있다. 프레젠테이션이 오디오를 포함할 수도 있다. 하나의 파일이 전체 프레젠테이션을 위한 메타데이터를 포함하는 하나 이상의 파일들에 단일 프레젠테이션이 포함될 수도 있다. 메타데이터는 타이밍 및 프레이밍 데이터, 디스크립터들, 포인터들, 파라미터들, 및 프레젠테이션을 기술하는 다른 정보와 같은 정보를 포함한다. 메타데이터는 비디오 및/또는 오디오 데이터 자체를 포함하지 않는다. 메타데이터를 포함하는 파일이 아닌 파일들이 ISOBMFF에 따라 포맷될 필요는 없고, 이들 파일들은 메타데이터에 의해 참조만될 수 있도록 포맷되는 것이 필요하다.
ISO 기본 미디어 파일의 파일 구조는 개체 지향이고 (object-oriented), 파일에서의 개개의 개체의 구조는 개체의 유형으로부터 직접적으로 유추될 수 있다. ISO 기본 미디어 파일에서의 개체들은 ISOBMFF 사양에 의해 "박스들"로서 지칭된다. ISO 기본 미디어 파일이 다른 박스들을 포함할 수 있는 박스들의 시퀀스로서 구조화된다. 박스들은 박스에 대한 사이즈 및 유형을 제공하는 헤더를 일반적으로 포함한다. 사이즈는 헤더, 필드들, 및 박스 내에 포함되는 모든 박스들을 포함하는 박스의 전체 사이즈를 기술한다. 플레이어 디바이스에 의해 인식되지 않는 유형을 갖는 박스들은 통상적으로 무시되고 스킵된다.
도 7의 예에 의해 도시된 바와 같이, 파일의 최고 레벨에서, ISO 기본 미디어 파일 (700) 이 파일 유형 박스 (710), 영화 박스 (720), 및 하나 이상의 영화 프래그먼트들 (730a, 730n) 을 포함할 수 있다. 이 레벨에 포함될 수 있지만 이 예에서 표현되지 않는 다른 박스들은, 무엇보다도, 자유 공간 박스들, 메타데이터 박스들, 및 미디어 데이터 박스들을 포함한다.
ISO 기본 미디어 파일이 박스 유형 "ftyp"에 의해 식별되는 파일 유형 박스 (710) 를 포함할 수 있다. 파일 유형 박스 (710) 는 파일을 파싱하기에 가장 적합할 수 있는 ISOBMFF 사양을 식별한다. 이 경우에서 "가장"은 ISO 기본 미디어 파일 (700) 이 특정 ISOBMFF 사양에 따라 포맷되었을 수도 있지만, 그 사양의 다른 신판들 (iterations) 과 호환할 가능성이 있다는 것을 의미한다. 이 가장 적합한 사양이 주요 브랜드라고 지칭된다. 플레이어 디바이스가 그 디바이스가 파일의 콘텐츠들을 디코딩 및 디스플레이할 수 있는지의 여부를 주요 브랜드를 사용하여 결정할 수 있다. 파일 유형 박스 (710) 는 ISOBMFF 사양의 버전을 나타내는데 사용될 수 있는 버전 번호를 또한 포함할 수 있다. 파일 유형 박스 (710) 는 호환 브랜드들의 리스트를 또한 포함할 수 있는데, 그 리스트는 파일이 호환되는 다른 브랜드들의 리스트를 포함한다. ISO 기본 미디어 파일이 하나를 초과하는 주요 브랜드와 호환 가능할 수 있다.
ISO 기본 미디어 파일 (700) 이 파일 유형 박스 (710) 를 포함할 때, 하나의 파일 유형 박스만이 있다. ISO 기본 미디어 파일 (700) 이 더 오래된 플레이어 디바이스들과 호환되기 위하여 파일 유형 박스 (710) 를 생략할 수도 있다. ISO 기본 미디어 파일 (700) 이 파일 유형 박스 (710) 를 포함하지 않을 때, 플레이어 디바이스가 디폴트 주요 브랜드 (예컨대, "mp41"), 마이너 버전 (예컨대, "0"), 및 호환 브랜드 (예컨대, "mp41") 를 추정할 수 있다. 파일 유형 박스 (710) 는 ISO 기본 미디어 파일 (700) 에서 가능한 한 앞에 보통 배치된다.
ISO 기본 미디어 파일이 영화 박스 (720) 를 더 포함할 수 있는데, 영화 박스는 프레젠테이션을 위한 메타데이터를 포함한다. 영화 박스 (720) 는 박스 유형 "moov"에 의해 식별된다. ISO/IEC 14496-12는 프레젠테이션이, 하나의 파일에 포함되든 또는 다수의 파일들에 포함되든, 하나의 영화 박스 (720) 만을 포함할 수 있다는 것을 제공한다. 자주, 영화 박스 (720) 는 ISO 기본 미디어 파일의 시작부분 근처에 있다. 영화 박스 (720) 는 영화 헤더 박스 (722) 를 포함하고, 하나 이상의 트랙 박스들 (724) 뿐만 아니라 다른 박스들을 포함할 수 있다.
박스 유형 "mvhd"에 의해 식별되는 영화 헤더 박스 (722) 는 미디어 독립적이고 전체 프레젠테이션에 관계가 있는 정보를 포함할 수 있다. 예를 들어, 영화 헤더 박스 (722) 는, 무엇보다도, 프레젠테이션에 대한 생성 시간, 수정 시간, 시간척도, 및/또는 지속기간과 같은 정보를 포함할 수 있다. 영화 헤더 박스 (722) 는 프레젠테이션에서 다음 트랙을 식별하는 식별자를 또한 포함할 수 있다. 예를 들어, 식별자는 도시된 예에서 영화 박스 (720) 에 의해 포함되는 트랙 박스 (724) 를 가리킬 수 있다.
박스 유형 "trak"에 의해 식별되는 트랙 박스 (724) 는 프레젠테이션을 위한 트랙에 대한 정보를 포함할 수 있다. 프레젠테이션이 하나 이상의 트랙들을 포함할 수 있으며, 각각의 트랙은 프레젠테이션에서의 다른 트랙들과는 독립적이다. 각각의 트랙은 트랙에서의 콘텐츠에 특정한 시간적 및 공간적 정보를 포함할 수 있고, 각각의 트랙은 미디어 박스에 연관될 수 있다. 트랙에서의 데이터는 미디어 데이터일 수 있으며, 그 경우 트랙은 미디어 트랙이거나, 또는 데이터는 스트리밍 프로토콜들을 위한 패킷화 정보일 수 있으며, 그 경우 트랙은 힌트 트랙이다. 미디어 데이터는, 예를 들어, 비디오 및 오디오 데이터를 포함한다. 도시된 예에서, 예시적인 트랙 박스 (724) 는 트랙 헤더 박스 (724a) 와 미디어 박스 (724b) 를 포함한다. 트랙 박스는 다른 박스들, 이를테면 트랙 참조 박스, 트랙 그룹 박스, 편집 박스, 사용자 데이터 박스, 메타 박스, 및 다른 것들을 포함할 수 있다.
박스 유형 "tkhd"에 의해 식별되는 트랙 헤더 박스 (724a) 는, 트랙 박스 (724) 에 포함되는 트랙의 특성을 특정할 수 있다. 예를 들어, 트랙 헤더 박스 (724a) 는, 무엇보다도, 트랙의 생성 시간, 수정 시간, 지속기간, 트랙 식별자, 계층 식별자, 그룹 식별자, 볼륨, 폭, 및/또는 높이를 포함할 수 있다. 미디어 트랙에 대해, 트랙 헤더 박스 (724a) 는, 무엇보다도, 트랙이 인에이블되는지의 여부, 트랙이 프레젠테이션의 일부로서 플레이되어야하는지의 여부, 또는 트랙이 프레젠테이션을 미리보기하는데 사용될 수 있는지의 여부를 추가로 식별할 수 있다. 트랙의 프레젠테이션은 프레젠테이션의 시작부분에 있는 것으로 일반적으로 추정된다. 트랙 박스 (724) 는 명시적 타임라인 지도를 포함할 수 있는, 여기에 예시되지 않은, 리스트 편집 박스 (edit list box) 를 포함할 수 있다. 타임라인 지도는, 무엇보다도, 트랙에 대한 오프셋 시간을 특정할 수 있으며, 오프셋은 트랙에 대한, 프레젠테이션의 시작부분 후의, 시작 시간을 나타낸다.
도시된 예에서, 트랙 박스 (724) 는 박스 유형 "mdia"에 의해 식별되는 미디어 박스 (724b) 를 또한 포함한다. 미디어 박스 (724b) 는 트랙에서의 미디어 데이터에 관한 정보와 개체들을 포함할 수 있다. 예를 들어, 미디어 박스 (724b) 는 핸들러 참조 박스를 포함할 수 있는데, 핸들러 참조 박스는 트랙의 미디어 유형과 그 트랙에서의 미디어가 제시되는 프로세스를 식별할 수 있다. 다른 예로서, 미디어 박스 (724b) 는 미디어 정보 박스를 포함할 수 있는데, 미디어 정보 박스는 트랙에서의 미디어의 특성들을 식별할 수 있다. 미디어 정보 박스는, 각각의 샘플이, 예를 들어 샘플에 대한 데이터의 로케이션을 포함하는, 미디어 데이터 (예컨대, 비디오 또는 오디오 데이터) 의 청크를 기술하는, 샘플들의 테이블을 더 포함할 수 있다. 샘플에 대한 데이터는 아래에서 더 논의되는 미디어 데이터 박스에 저장된다. 대부분의 다른 박스들에서처럼, 미디어 박스 (724b) 는 미디어 헤더 박스를 또한 포함할 수 있다.
도시된 예에서, 예시적인 ISO 기본 미디어 파일 (700) 은 프레젠테이션의 다수의 프래그먼트들 (730a, 730b, 730c, 730n) 을 또한 포함한다. 프래그먼트들 (730a, 730b, 730c, 730n) 은 ISOBMFF 박스들이 아니며, 오히려 영화 프래그먼트 박스 (732) 와 영화 프래그먼트 박스 (732) 에 의해 참조되는 미디어 데이터 박스 (738) 를 기술한다. 영화 프래그먼트 박스 (732) 와 미디어 데이터 박스들 (738) 은 최고 레벨 박스들이지만, 영화 프래그먼트 박스 (732) 와 미디어 데이터 박스 (738) 사이의 관계를 나타내기 위해 여기서 그룹화된다.
박스 유형 "moof"에 의해 식별되는 영화 프래그먼트 박스 (732) 는, 그렇지 않으면 영화 박스 (720) 에 저장될 추가적인 정보를 포함함으로써 프레젠테이션을 연장시킬 수 있다. 영화 프래그먼트 박스들 (732) 을 사용하여, 프레젠테이션이 점증적으로 구축될 수 있다. 영화 프래그먼트 박스 (732) 가 영화 프래그먼트 헤더 박스 (734) 와 트랙 프래그먼트 박스 (736), 뿐만 아니라 여기서 예시되지 않은 다른 박스들을 포함할 수 있다.
박스 유형 "mfhd"에 의해 식별되는 영화 프래그먼트 헤더 박스 (734) 는 시퀀스 번호를 포함할 수 있다. 플레이어 디바이스가 시퀀스 번호를 사용하여 프래그먼트 (730a) 가 프레젠테이션을 위한 다음 데이터 조각을 포함함을 검증할 수 있다. 일부 경우들에서, 파일의 콘텐츠들, 또는 프레젠테이션을 위한 파일들은, 플레이어 디바이스에 순서 없이 제공될 수 있다. 예를 들어, 네트워크 패킷들은 패킷들이 원래 송신되었던 순서에서와는 다른 순서로 자주 도착할 수 있다. 이들 경우들에서, 시퀀스 번호는 프래그먼트들에 대한 올바른 순서를 결정함에 있어서 플레이어 디바이스를 지원할 수 있다.
영화 프래그먼트 박스 (732) 는 박스 유형 "traf"에 의해 식별되는 하나 이상의 트랙 프래그먼트 박스들 (736) 을 또한 포함할 수 있다. 영화 프래그먼트 박스 (732) 가 트랙 프래그먼트들의 세트를 트랙당 영 개 이상 포함할 수 있다. 트랙 프래그먼트들은 영 개 이상의 트랙 런들을 포함할 수 있으며, 그 트랙 런들의 각각은 트랙에 대한 샘플들의 연속하는 런을 기술한다. 트랙 프래그먼트들은 샘플들을 트랙에 가산하는 것 외에도, 빈 시간을 트랙에 추가하는데 사용될 수 있다.
박스 유형 "mdat"에 의해 식별되는 미디어 데이터 박스 (738) 는 미디어 데이터를 포함한다. 비디오 트랙들에서, 미디어 데이터 박스 (738) 는 비디오 프레임들을 포함할 것이다. 미디어 데이터 박스가 오디오 데이터를 대안적으로 또는 부가적으로 포함할 수 있다. 프레젠테이션이 하나 이상의 개별 파일들에 포함되는 영 개 이상의 미디어 데이터 박스들을 포함할 수 있다. 미디어 데이터는 메타데이터에 의해 기술된다. 도시된 예에서, 미디어 데이터 박스 (738) 에서의 미디어 데이터는 트랙 프래그먼트 박스 (736) 에 포함된 메타데이터에 의해 기술될 수 있다. 다른 예들에서, 미디어 데이터 박스에서의 미디어 데이터는 영화 박스 (720) 에서의 메타데이터에 의해 기술될 수 있다. 메타데이터는 파일 (700) 내에서 절대 오프셋에 의해 특정 미디어 데이터를 참조하여서, 미디어 데이터 박스 (738) 내의 미디어 데이터 헤더 및/또는 자유 공간이 스킵될 수 있다.
ISO 기본 미디어 파일 (700) 에서의 다른 프래그먼트들 (730b, 730c, 730n) 은 첫 번째 프래그먼트 (730a) 에 대해 예시된 것들과 유사한 박스들을 포함할 수 있으며, 그리고/또는 다른 박스들을 포함할 수 있다.
ISOBMFF는 미디어의 국부 플레이백을 지원하는 것 외에도, 네트워크를 통해 미디어 데이터를 스트리밍하기 위한 지원을 포함한다. 하나의 영화 프레젠테이션을 포함하는 파일 또는 파일들은 힌트 트랙들이라 불리는 추가적인 트랙들을 포함할 수 있는데, 힌트 트랙들은 파일 또는 파일들을 패킷들로서 형성 및 송신함에 있어서 스트리밍 서버를 지원할 수 있는 명령들을 포함한다. 이들 명령들은, 예를 들어, 전송할 서버에 대한 데이터 (예컨대, 헤더 정보) 또는 미디어 데이터의 세그먼트들에 대한 참조들을 포함할 수 있다. 파일이 상이한 스트리밍 프로토콜들을 위한 별도의 힌트 트랙들을 포함할 수 있다. 힌트 트랙들은 파일을 리포맷할 필요 없이 파일에 또한 추가될 수 있다.
미디어 데이터를 스트리밍하는 하나의 방법이 HTTP (HyperText Transfer Protocol) 를 통한 동적 적응 스트리밍 (Dynamic Adaptive Streaming), 또는 DASH (ISO/IEC 23009-1:2014에서 정의됨) 이다. MPEG-DASH로서 또한 공지된 DASH는, 기존의 HTTP 웹 서버들을 사용하여 미디어 콘텐츠의 고품질 스트리밍을 가능하게 하는 적응적 비트레이트 스트리밍 기법이다. DASH는 미디어 콘텐츠를 작은 HTTP 기반 파일 세그먼트들의 시퀀스로 쪼갬으로써 동작하며, 각각의 세그먼트는 콘텐츠의 짧은 시간 간격을 포함한다. DASH를 사용하여, 서버가 미디어 콘텐츠를 상이한 비트 레이트들로 제공할 수 있다. 미디어를 플레이하고 있는 클라이언트 디바이스가 다음의 세그먼트를 다운로딩할 때 대안적 비트 레이트들 중에서 선택할 수 있고, 변화하는 네트워크 조건들에 적응할 수 있다. DASH는 월드 와이드 웹을 통해 콘텐츠를 전달하기 위해 인터넷의 HTTP 웹 서버 인프라스트럭처를 사용한다. DASH는 미디어 콘텐츠를 인코딩 및 디코딩하는데 사용되는 코덱과는 독립적이고, 따라서, 무엇보다도, H.264 및 HEVC과 같은 코덱들로 동작한다.
ISOBMFF 사양은 DASH와 함께 사용하기 위한 스트림 액세스 포인트들 (SAP들) 의 여섯 가지 유형들을 특정한다. 첫 번째 두 개의 SAP 유형들 (유형 1 및 2) 은 H.264/AVC 및 HEVC에서의 순간적 디코딩 리프레시 (IDR) 픽처들에 대응한다. 예를 들어, IDR 픽처가 디코더에서 디코딩 프로세스를 완전히 리프레시하거나 또는 재초기화고 새로운 코딩된 비디오 시퀀스를 시작하는 인트라 픽처 (I-픽처) 이다. 일부 예들에서, IDR 픽처와 디코딩 순서에서 IDR 픽처를 뒤따르는 임의의 픽처가 디코딩 순서에서 IDR 픽처 전에 오는 임의의 픽처에 의존하지 않을 수 있다.
세 번째 SAP 유형 (유형 3) 은 개방형 GOP (Group of Pictures) 랜덤 액세스 포인트들에 대응하며, 그런고로 HEVC에서 BLA (broken link access) 또는 CRA (clean random access) 픽처들에 대응한다. 예를 들어, CRA 픽처가 또한 I-픽처이다. CRA 픽처가 디코더를 리프레시하지 않을 수도 있고 새로운 CVS를 시작하지 않아, CRA 픽처의 선행 픽처들이 디코딩 순서에서 CRA 픽처 앞에 오는 픽처들에 의존하는 것을 허용할 수도 있다. 랜덤 액세스는 CRA 픽처, 디코딩 순서에서 CRA 픽처 앞에 오는 임의의 픽처에 의존하지 않는 CRA 픽처에 연관되는 선행 픽처들, 그리고 디코딩 순서 및 출력 순서 둘 다에서 CRA에 뒤따르는 모든 연관된 픽처들을 디코딩함으로써 CRA 픽처에서 행해질 수도 있다. 일부 경우들에서, CRA 픽처가 연관된 선행 픽처들을 갖지 않을 수도 있다. 일부 실시형태들에서, 다중 계층의 경우에, 0보다 큰 계층 ID를 갖는 계층에 속하는 IDR 또는 CRA 픽처가 P-픽처 또는 B-픽처일 수도 있지만, 이들 픽처들은 IDR 또는 CRA 픽처와 동일한 액세스 단위에 속하는 그리고 IDR 또는 CRA 픽처를 포함하는 계층보다 작은 계층 ID를 갖는 다른 픽처들로부터의 계층간 예측만을 사용할 수 있다.
네 번째 SAP 유형 (유형 4) 은 점진적 디코딩 리프레시 (gradual decoding refresh) (GDR) 랜덤 액세스 포인트들에 대응한다.
ISOBMFF는, 유연하고 확장 가능하고 다양한 유형들의 미디어를 저장 및 송신하기 위해 널리 사용되지만, 가상 현실 비디오를 저장하거나 또는 ISO 기본 미디어 파일의 콘텐츠들을 가상 현실 콘텐츠를 포함하는 것으로서 식별하는 메커니즘들을 포함하지 않는다. 플레이어 디바이스들은 따라서 파일의 콘텐츠들이 가상 현실 또는 360도 비디오를 포함하는 것으로 결정하지 못할 수도 있다. 가상 현실 콘텐츠를 디스플레이할 수 없는 플레이어 디바이스들은 어쨌든 콘텐츠를 디스플레이하려고 시도하여, 왜곡된 프레젠테이션을 초래할 수도 있다.
다양한 구현예들에서, ISOBMFF 및/또는 ISOBMFF로부터 파생된 파일 포맷들은 가상 현실 콘텐츠가 식별될 수 있도록 수정 및/또는 확장될 수 있다. 이들 구현예들은 가상 현실 콘텐츠를 각각 독립적으로 또는 조합하여 식별할 수 있는 박스들, 브랜드 값들, 박스에서의 예약된 비트들, 및/또는 다른 표시자들을 수반할 수 있다.
다양한 구현예들에서, 360도 비디오에서의 어안 이미지들을 기술하는 파라미터들은 ISOBMFF 파일에 포함될 수 있다. 예를 들어, 파라미터들은 파일 레벨, 영화 레벨, 및/또는 트랙 레벨에 포함될 수 있다. 일부 구현예들에서, 파라미터들은 ISOBMFF 파일에 하위 호환가능 (Backwards-compatible) 방식으로 포함될 수 있다. 이 문맥에서의 "하위 호환가능"은, 360도 비디오를 지원하지 않는, 또는 어안 이미지들을 디스플레이 포맷으로 렌더링하는 것을 지원하지 않는 비디오 디스플레이 디바이스가, 360도 비디오를 표시하는 것을 시도하고 왜곡된 결과를 제공하는 대신, 비디오에서의 일부 버전을 여전히 파싱하고 플레이할 수 있는 것을 의미한다.
도 8a와 도 8b는 ISO 기본 미디어 파일에서의 최고 레벨 박스가 그 파일 (800) 이 가상 현실 콘텐츠를 포함함을 나타내는데 사용되는 예들을 도시한다. 다양한 구현예들에서, 최고 레벨 박스를 사용하는 것은 파일 (800) 에서의 콘텐츠의 모두가 가상 현실 콘텐츠임을 나타낸다. 파일 (800) 은 파일 유형 박스 (810) 를 포함할 수 있는데, 파일 유형 박스는 파일 (800) 이 호환되는 ISOBMFF의 브랜드(들)또는 특정 신판들 또는 ISOBMFF의 파생물들을 특정할 수 있다. 파일 (800) 은 영화 박스 (820) 를 또한 포함할 수 있는데, 영화 박스는 프레젠테이션을 위한 메타데이터를 포함할 수 있다. 파일 (800) 은 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (830a, 830b, 830c, 830n) 을 옵션적으로 또한 포함할 수 있다.
도 8a의 예에서, 파일 유형 박스 (810) 는 파일 (800) 이 가상 현실 콘텐츠를 포함함을 나타내는데 사용될 수 있다. 파일 유형 박스 (810) 는, 예를 들어, 파일이 가상 현실 브랜드와 호환 가능한지를 나타내는 브랜드 값을 특정하는데 사용될 수 있다. 다양한 구현예들에서, 파일 유형 박스 (810) 에서 열거된 호환 브랜드들은, 가상 현실 관련 파라미터들을 제공하기 위해 사용될 수 있는 옵션적 브랜드 표시자들을 제공하는데 또한 사용될 수 있다. 예를 들어, 하나의 호환 브랜드 값이 가상 현실 콘텐츠가 2차원 (2-D) 임을 나타낼 수 있는 한편 다른 호환 브랜드 값이 가상 현실 콘텐츠가 3차원 (3-D) 임을 나타낼 수 있다. 다른 예로서, 호환 브랜드 값들은 매핑 유형; 다시 말하면, 가상 현실의 구면 표현 또는 360도 비디오가 파일 (800) 내의 저장을 위해 등장방형, 큐브, 또는 피라미드 포맷, 또는 일부 다른 포맷에 매핑되었는지의 여부를 나타내는데 사용될 수 있다. 다양한 구현예들에서, 비디오의 차원수 (dimensionality) 및/또는 매핑과 같은 정보는 파일 유형 박스 (810) 에서의 옵션적인 필드들을 사용하여 대안적으로 또는 부가적으로 나타내어질 수 있다.
도 8b의 예에서, 새로운 박스 유형 (860) 이 정의되어 있다. 새로운 박스 유형 (860) 은, 파일 유형 박스 (810) 와 유사한 최고 레벨 박스이다. 파일에서의 새로운 박스 유형 (860) 의 존재, 및/또는 새로운 박스 유형 (860) 에서의 표시자들은 파일 (800) 이 가상 현실 콘텐츠를 포함함을 나타내는데 사용될 수 있다. 예를 들어, 새로운 박스 유형 (860) 은 가상 현실 호환 브랜드 값을 특정하며, 그리고/또는 호환 브랜드들의 리스트에 가상 현실 콘텐츠와 호환하는 브랜드 값을 포함시킬 수 있다. 새로운 박스 유형 (860) 은, 예를 들어, 가상 현실 콘텐츠가 2-D 360도 비디오인지 또는 3-D 360도 비디오인지를 나타낼 수 있는 옵션적 파라미터들, 파일 (800) 에 저장된 360도 비디오 데이터에 대한 매핑, 및/또는 360도 비디오가 어안 이미지들을 포함할 때의 어안 파라미터들을 더 포함할 수 있다. 새로운 박스 유형 (860) 을 특정하는 것은, 도 8a의 예에서처럼, 파일 유형 박스 (810) 를 수정할 필요를 방지할 수 있다. 새로운 박스 유형 (860) 을 인식할 수 없는 플레이어 디바이스들은 그것을 무시할 수도 있다.
파일 유형 박스 (810) 또는 파일의 최고 레벨에 대해 정의되는 새로운 박스 유형 (860) 이 파일 (800) 이 가상 현실 콘텐츠를 포함함을 나타내는데 사용될 때, 일부 구현예들에서, 파일 (800) 은 가상 현실 콘텐츠의 존재를 시그널링하기 위해 다른 박스들에서의 표시자들을 파일 (800) 에 포함시키는 것이 필요하지 않을 수도 있다.
도 9는 영화 레벨 표시가 ISO 기본 미디어 파일 (900) 에서 그 파일 (900) 이 가상 현실 콘텐츠를 포함함을 나타내기 위해 사용되는 일 예를 도시한다. 파일 (900) 은 파일 유형 박스 (910) 를 포함할 수 있는데, 파일 유형 박스는 파일 (900) 이 호환되는 ISOBMFF의 브랜드(들)또는 특정 신판들 또는 ISOBMFF의 파생물들을 특정할 수 있다. 파일 (900) 은 영화 박스 (920) 를 또한 포함할 수 있는데, 영화 박스는 프레젠테이션을 위한 메타데이터를 포함할 수 있다. 파일 (900) 은 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (930a, 930b, 930c, 930n) 을 옵션적으로 또한 포함할 수 있다.
위에서 논의된 바와 같이, 영화 박스 (920) 는 영화 헤더 박스 (922) 와 옵션적으로 하나 이상의 트랙 박스들 (924) 을 포함할 수 있다. 도 9의 예에서, 영화 헤더 박스 (922) 는 영화 박스 (920) 에 의해 기술되는 영화 또는 프레젠테이션이 가상 현실 콘텐츠를 포함함을 나타내는데 사용된다. 예를 들어, 영화 헤더 박스 (922) 에서의 예약된 비트가, 1의 값으로 설정될 때, 영화 콘텐츠는 가상 현실 또는 360도 비디오임을 나타낼 수 있고, 영화가 360도 비디오일 수도 있거나 또는 아닐 수도 있을 때 다른 값으로 설정될 수 있다. 하나의 구체적인 예에서, 예약된 비트들 중 하나의 예약된 비트가 표시를 전달하는데 사용되면, 1과 동일한 비트는 콘텐츠가 360도 비디오 콘텐츠임을 나타내고, 0과 동일한 비트는 콘텐츠가 360도 비디오 콘텐츠일 수도 있거나 또는 아닐 수도 있음을 나타낸다. 예약된 비트들을 프로세싱하도록 구성되지 않은 플레이어 디바이스들은 이들 비트들을 무시할 수도 있다.
영화 헤더 박스 (922) 에서의 다른 필드들 및/또는 예약된 비트들이 가상 현실 콘텐츠에 관계가 있는 옵션적 파라미터들을 제공하는데 사용될 수 있다. 예를 들어, 영화 헤더 박스 (922) 는 가상 현실 콘텐츠가 2-D 360도 비디오인지 또는 3-D 360도 비디오인지를 나타내는 파라미터를 포함할 수 있다.
다른 예로서, 영화 헤더 박스 (922) 는 360도 비디오 콘텐츠가 프리-스티칭되는지 또는 포스트-스티칭되는지를 나타내는 파라미터를 포함할 수 있다. "프리-스티칭되는" 것은 360도 비디오 프레젠테이션을 위해 캡처된 상이한 뷰들이 파일 (900) 에 저장되기 전에 단일 표현으로 조립되었음을 의미하고 "포스트-스티칭되"는 것은 상이한 뷰들이 파일 (900) 에 개별적으로 저장되었고, 디코더 디바이스에 의해 단일 표현으로 조립될 것임을 의미한다.
프리-스티칭된 360도 비디오는 형상이 구면인 것으로 통상적으로 표현되고, 저장에 더 편리한 다른 형상 (예컨대, 등장방형, 큐브 매핑형, 피라미드 매핑형, 또는 일부 다른 형상) 으로 매핑된다. 사용되는 매핑 유형을 나타내는 파라미터들은, 예를 들어 예약된 비트들을 사용하여, 영화 헤더 박스 (922) 에서 시그널링될 수 있는 파라미터들의 다른 예들이다. 예를 들어, 하나의 예약된 비트는 각각의 매핑 유형 표시를 전달하는데 사용될 수 있다. 다양한 구현예들에서, 플레이어 디바이스가 다수의 매핑 유형들을 지원할 수 있다. 이들 구현예들에서, 영화 헤더 박스 (922) 는 각각의 개별 트랙을 위한 및/또는 트랙들의 그룹을 위한 매핑 유형을 포함할 수 있다.
영화 헤더 박스 (922) 가 영화 박스 (920) 에 저장되는 영화 프레젠테이션이 360도 비디오를 포함함을 나타내는데 사용될 때, 다양한 구현예들에서, 영화 박스 (920) 에서의 다른 박스들은 360도 비디오의 존재를 시그널링하는 것이 필요하지 않을 수도 있다.
도 10은 트랙 레벨 표시자가 ISO 기본 미디어 파일 (1000) 에서 그 파일 (1000) 이 가상 현실 콘텐츠를 포함함을 나타내기 위해 사용되는 일 예를 도시한다. 파일 (1000) 은 파일 유형 박스 (1010) 를 포함할 수 있는데, 파일 유형 박스는 파일 (1000) 이 호환되는 ISOBMFF의 브랜드(들)또는 특정 신판들 또는 ISOBMFF의 파생물들을 특정할 수 있다. 파일 (1000) 은 영화 박스 (1020) 를 또한 포함할 수 있는데, 영화 박스는 프레젠테이션을 위한 메타데이터를 포함할 수 있다. 파일 (1000) 은 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (1030a, 1030b, 1030c, 1030n) 을 옵션적으로 또한 포함할 수 있다.
영화 박스 (1020) 는 영화 헤더 박스 (1022) 와 하나 이상의 트랙 박스들 (1024), 뿐만 아니라 여기서 예시되지 않는 다른 박스들을 포함할 수 있다. 영화 헤더 박스 (1022) 는 전체 프레젠테이션을 기술하는 정보를 포함할 수 있다. 트랙 박스 (1024) 는 프레젠테이션에서의 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (1024) 는 트랙 헤더 박스 (1024a) 와 영 개 이상의 미디어 데이터 박스들 (1024b) 을 포함할 수 있다.
도 10의 예에서, 특정 트랙 박스 (1024) 를 위한 트랙 헤더 박스 (1024a) 는 트랙 박스 (1024) 에 의해 기술되는 트랙이 가상 현실 트랙임을 나타내는데 사용되며, 이는 그 트랙에 의해 참조되는 샘플들이 가상 현실 데이터를 포함함을 의미한다. 트랙에서의 가상 현실 콘텐츠는, 예를 들어 트랙 헤더 박스 (1024a) 에서의 예약된 비트들을 사용하여, 나타내어질 수 있다. 예를 들어, 특정 예약된 비트가 1의 값으로 설정될 때, 트랙은 가상 현실 콘텐츠를 포함하고, 그 비트가 다른 값으로 설정될 때, 트랙은 가상 현실 콘텐츠를 포함하거나 또는 포함하지 않을 수도 있다. 하나의 구체적인 예에서, 예약된 비트들 중 하나의 예약된 비트가 표시를 전달하는데 사용되면, 1과 동일한 비트는 콘텐츠가 가상 현실 콘텐츠임을 나타내고, 0과 동일한 비트는 콘텐츠가 가상 현실 콘텐츠일 수도 있거나 또는 아닐 수도 있음을 나타낸다. 일부 구현예들에서, 트랙 헤더 박스 (1024a) 에서의 가상 현실 콘텐츠의 시그널링은 영화 헤더 박스 (1022) 에서 시그널링되는 것에 의존할 수도 있다. 예를 들어, 영화 헤더 박스 (1122) 가 영화가 가상 현실 콘텐츠를 포함하지 않음을 나타낼 때, 트랙이 가상 현실 데이터를 포함한다는 트랙 헤더 박스 (1024a) 에서의 임의의 표시는 무시될 수 있다.
다양한 구현예들에서, 다른 가상 현실 관련 파라미터들이 트랙 헤더 박스 (1024a) 에서 또한 시그널링될 수 있다. 예를 들어, 예약된 비트 또는 일부 다른 변수가 트랙에서의 가상 현실 또는 360도 비디오가 프리-스티칭되는지 또는 포스트-스티칭되는지를 나타내는데 사용될 수 있다. 트랙에서의 비디오가 프리-스티칭될 때, 추가적인 파라미터들은 (예컨대, 관점 및/또는 시야각에 대해) 카메라 포지션과 같은 정보를 제공할 수 있다. 트랙에서의 비디오가 포스트-스티칭될 때, 추가적인 파라미터들은 구면 비디오 표현과 파일 (1000) 에 데이터를 저장하는데 사용되는 표현 (예컨대, 등장방형, 큐브 지도, 피라미드 지도, 또는 일부 다른 형상) 사이의 매핑 유형을 제공할 수 있다. 다양한 구현예들에서, 360도 비디오 데이터에서의 어안 이미지들을 기술하는 어안 파라미터들은, 트랙 헤더 박스 (1024a) 에 또한 저장될 수 있다.
트랙 박스 (1024) 를 위한 트랙 헤더 박스 (1024a) 가 트랙이 가상 현실 콘텐츠를 포함함을 시그널링하는데 사용될 때, 일부 구현예들에서, 트랙 박스 (1024) 에서의 다른 박스들은 그 트랙에서 가상 현실 콘텐츠의 존재를 또한 시그널링하는 것을 필요로 하지 않을 수도 있다.
다양한 구현예들에서, ISO 기본 미디어 파일에서의 트랙이 가상 현실 콘텐츠를 포함할 때, 다양한 추가적인 또는 대안적인 접근법들이 가상 현실 콘텐츠를 플레이어 디바이스에 시그널링하는데 사용될 수 있다. 도 11은 트랙의 콘텐츠들이 가상 현실 콘텐츠를 포함함을 시그널링하는데 핸들러 박스 (1124c) 가 사용되는 ISO 기본 미디어 파일 (1100) 의 하나의 예를 도시한다. 파일 (1100) 은 파일 유형 박스 (1110) 를 포함할 수 있는데, 파일 유형 박스는 파일 (1100) 이 호환되는 ISOBMFF의 브랜드(들)또는 특정 신판들 또는 ISOBMFF의 파생물들을 특정할 수 있다. 파일 (1100) 은 영화 박스 (1120) 를 또한 포함할 수 있는데, 영화 박스는 프레젠테이션을 위한 메타데이터를 포함할 수 있다. 파일 (1100) 은 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (1130a, 1130b, 1130c, 1130n) 을 옵션적으로 또한 포함할 수 있다.
영화 박스 (1120) 는 영화 헤더 박스 (1122) 와 하나 이상의 트랙 박스들 (1124), 뿐만 아니라 여기서 예시되지 않는 다른 박스들을 포함할 수 있다. 영화 헤더 박스 (1122) 는 전체 프레젠테이션을 기술하는 정보를 포함할 수 있다. 트랙 박스 (1124) 는 프레젠테이션에서의 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (1124) 는 트랙 헤더 박스 (1124a) 와 영 개 이상의 미디어 데이터 박스들 (1124b) 을 포함할 수 있다.
미디어 데이터 박스 (1124b) 는 무엇보다도 핸들러 박스 (1124c) 를 포함할 수 있다. 핸들러 참조 박스라고 또한 지칭될 수도 있는 핸들러 박스 (1124c) 는, 트랙의 미디어 유형을 나타낼 수 있다. 트랙의 미디어 유형은 트랙에서의 미디어 데이터가 제시되는 프로세스를 정의한다. 미디어 유형들의 예들은 무엇보다도 비디오와 오디오를 포함한다. 미디어가 제시되는 방식은 미디어의 포맷을 포함할 수 있다. 예를 들어, 플레이어 디바이스가 트랙에서 비디오 데이터를 전달하는데 사용하는 포맷 (예컨대, 애스펙트 비, 해상도, 프레임 레이트 등) 이 비디오 트랙에 저장될 수 있고, 핸들러 박스 (1124c) 의 비디오 핸들러 버전에 의해 식별될 수 있다. 일부 경우들에서, 파일 (1100) 은 임의의 유형의 메타데이터 스트림들을 위한 일반 핸들러를 포함할 수 있다. 이들 경우들에서, 비디오 콘텐츠의 특정 포맷은 콘텐츠를 기술하는 샘플 엔트리에 의해 식별될 수 있다.
일부 경우들에서, 미디어 데이터 박스 (1124b) 는 핸들러 박스 (1124c) 를 포함할 수 있다. 핸들러 박스 (1124c) 는 트랙 박스 (1124) 에 의해 기술되는 트랙이 가상 현실 데이터를 포함함을 나타내는데 사용될 수 있다. 예를 들어, 트랙이 비디오 데이터를 기술할 때, 핸들러 박스 (1124c) 는 구체적으로는 박스 유형 "vide"에 의해 식별될 수 있는 비디오 핸들러 박스일 수 있다.
다양한 구현예들에서, 핸들러 박스 (1124c) 는 미디어 데이터 박스 (1124b) 에 의해 참조되는 미디어 콘텐츠가 가상 현실 콘텐츠를 포함함을 나타내는데 사용될 수 있다. 예를 들어, 핸들러 박스 (1124c) 는 트랙에 포함되는 비디오 콘텐츠가 가상 현실 또는 360도 비디오라는 (예컨대, 예약된 비트 또는 새로운 변수에서의) 옵션적 표시자를 포함할 수 있다. 옵션적 표시자를 판독하도록 구성되는 비디오 플레이어들은 그것을 무시할 수도 있다.
일부 구현예들에서, 비디오 핸들러 박스는 가상 현실 콘텐츠를 기술하는 파라미터들, 이를테면 가상 현실 또는 360도 비디오가 2-D인지 또는 3-D인지, 360도 비디오가 프리-스티칭되는지 또는 포스트-스티칭되는지, 360도 비디오에 대한 매핑, 및/또는 360도 비디오가 어안 이미지들을 포함할 때의 어안 파라미터들을 옵션적으로 또한 포함할 수 있다. 다양한 구현예들에서, 가상 현실 콘텐츠에 관련된 파라미터들은 트랙 박스 (1024) 에서 발견될 수 있는 다양한 다른 박스들에서 표시될 수 있다. 예를 들어, 파라미터들은 트랙 헤더 박스 (1124a) 에서 시그널링될 수 있다. 대안적으로 또는 부가적으로, 파라미터들은 미디어 헤더 박스 (박스 유형 "mdhd"에 의해 식별됨) 에서, 그리고/또는 비디오 미디어 헤더 박스 (박스 유형 "vmhd"에 의해 식별됨) 에서 시그널링될 수 있는데, 그것들은 여기서 예시되지 않는다. 대안적으로 또는 부가적으로, 파라미터들은 샘플 엔트리에서, 그리고/또는 트랙 박스 (1124) 의 최고 레벨에 배치될 수 있는 새로이 정의된 박스에서 표시될 수 있다.
도 12는 트랙이 가상 현실 콘텐츠를 포함함을 나타내기 위해 새로운 핸들러 박스 (1224d) 가 정의된 ISO 기본 미디어 파일 (1200) 의 일 예를 도시한다. 파일 (1200) 은 파일 유형 박스 (1210) 를 포함할 수 있는데, 파일 유형 박스는 파일 (1200) 이 호환되는 ISOBMFF의 브랜드(들)또는 특정 신판들 또는 ISOBMFF의 파생물들을 특정할 수 있다. 파일 (1200) 은 영화 박스 (1220) 를 또한 포함할 수 있는데, 영화 박스는 프레젠테이션을 위한 메타데이터를 포함할 수 있다. 파일 (1200) 은 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (1230a, 1230b, 1230c, 1230n) 을 옵션적으로 또한 포함할 수 있다.
영화 박스 (1220) 는 영화 헤더 박스 (1222) 와 하나 이상의 트랙 박스들 (1224), 뿐만 아니라 여기서 예시되지 않는 다른 박스들을 포함할 수 있다. 영화 헤더 박스 (1222) 는 전체 프레젠테이션을 기술하는 정보를 포함할 수 있다. 트랙 박스 (1224) 는 프레젠테이션에서의 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (1224) 는 트랙 헤더 박스 (1224a) 와 영 개 이상의 미디어 데이터 박스들 (1224b) 을 포함할 수 있다.
위에서 논의된 바와 같이, 일부 경우들에서 미디어 데이터 박스 (1224b) 는 핸들러 박스 (1224d) 를 포함할 수 있는데, 핸들러 박스는 미디어 데이터 박스 (1224b) 에 의해 기술되는 미디어 콘텐츠를 나타내기 위한 포맷들을 기술할 수 있다. 도 12의 예에서, 가상 현실 또는 360도 비디오 데이터에 특유한 새로운 핸들러 박스 (1224d) 가 정의되어 있다. 새로운 핸들러 박스 (1224d) 는, 예를 들어, 박스 유형 "vrvd"에 의해 식별될 수 있다. 이 예에서, 가상 현실 콘텐츠와 호환되지 않는 비디오 플레이어들이 새로운 핸들러 박스 (1224d) 를 식별하지 못할 수도 있고, 따라서 새로운 핸들러 박스 (1224d) 를 무시하고 트랙 박스 (1224) 에 의해 조회되는 임의의 콘텐츠를 스킵할 수도 있다. 가상 현실 콘텐츠는 따라서 가상 현실 비디오를 디스플레이하도록 구성되지 않는 플레이어에 의해 렌더링 및 디스플레이되지 않을 것이다.
일부 구현예들에서, 새로운 비디오 핸들러 박스는 가상 현실 콘텐츠를 기술하는 파라미터들, 이를테면 가상 현실 또는 360도 비디오가 2-D인지 또는 3-D인지, 360도 비디오가 프리-스티칭되는지 또는 포스트-스티칭되는지, 360도 비디오에 대한 매핑, 및/또는 어안 파라미터들을 옵션적으로 또한 포함할 수 있다. 다양한 구현예들에서, 가상 현실 콘텐츠에 관련된 파라미터들은 트랙 박스 (1224) 에서 발견될 수 있는 다양한 다른 박스들에서 표시될 수 있다. 예를 들어, 파라미터들은 트랙 헤더 박스 (1224a) 에서 시그널링될 수 있다. 대안적으로 또는 부가적으로, 파라미터들은 미디어 헤더 박스 (박스 유형 "mdhd"에 의해 식별됨) 에서, 그리고/또는 비디오 미디어 헤더 박스 (박스 유형 "vmhd"에 의해 식별됨) 에서 시그널링될 수 있는데, 그것들은 여기서 예시되지 않는다. 대안적으로 또는 부가적으로, 파라미터들은 샘플 엔트리에서, 그리고/또는 트랙 박스 (1224) 의 최고 레벨에 배치될 수 있는 새로이 정의된 박스에서 표시될 수 있다.
도 13은 ISO 기본 미디어 파일에 포함될 수 있는 미디어 박스 (1340) 의 일 예를 도시한다. 위에서 논의된 바와 같이, 미디어 박스가 트랙 박스에 포함될 수 있고, 트랙에 미디어 데이터를 기술하는 정보와 개체들을 포함할 수 있다. 도시된 예에서, 미디어 박스 (1340) 는 미디어 정보 박스 (1342) 를 포함한다. 미디어 박스 (1340) 는 여기서 예시되지 않는 다른 박스들을 또한 포함할 수 있다.
미디어 정보 박스 (1342) 는 트랙에서의 미디어에 관한 특성 정보를 기술하는 개체들을 포함할 수 있다. 예를 들어, 미디어 정보 박스 (1342) 는 데이터 정보 박스를 포함할 수 있는데, 데이터 정보 박스는 트랙에서의 미디어 정보의 로케이션을 기술한다. 다른 예로서, 미디어 정보 박스 (1342) 는, 트랙이 비디오 데이터를 포함할 때, 비디오 미디어 헤더를 포함할 수 있다. 비디오 미디어 헤더는 비디오 미디어의 코딩과는 독립적인 일반 프레젠테이션 정보를 포함할 수 있다. 미디어 정보 박스 (1342) 는 트랙이 오디오 데이터를 포함할 때 사운드 미디어 헤더를 또한 포함할 수 있다.
미디어 정보 박스 (1342) 는, 도시된 예에서 제공되는 바와 같이, 샘플 테이블 박스 (1344) 를 또한 포함할 수 있다. 박스 유형 "stbl"에 의해 식별되는 샘플 테이블 박스 (1344) 는, 트랙에서의 미디어 샘플들에 대한 로케이션들 (예컨대, 파일에 대한 로케이션들), 뿐만 아니라 샘플들에 대한 시간 정보를 제공할 수 있다. 샘플 테이블 박스 (1344) 에 의해 제공되는 정보를 사용하면, 플레이어 디바이스는 샘플들을 올바른 시간 순서로 위치시키며, 샘플의 유형을 결정하며, 그리고/또는 무엇보다도, 컨테이너 내의 샘플의 사이즈, 컨테이너, 및 오프셋을 결정할 수 있다.
샘플 테이블 박스 (1344) 는 박스 유형 "stsd"에 의해 식별되는 샘플 디스크립션 박스 (1346) 을 포함할 수 있다. 샘플 디스크립션 박스 (1346) 는, 예를 들어, 샘플을 위해 사용되는 코딩 유형에 관한 상세한 정보와, 그 코딩 유형에 필요한 임의의 초기화 정보를 제공할 수 있다. 샘플 디스크립션 박스에 저장되는 정보는 샘플들을 포함하는 트랙의 유형에 특화될 수 있다. 예를 들어, 트랙이 비디오 트랙일 때 하나의 포맷이 샘플 디스크립션을 위해 사용될 수도 있고 트랙이 힌트 트랙일 때 상이한 포맷이 사용될 수도 있다. 추가의 예로서, 샘플 디스크립션을 위한 포맷은 힌트 트랙의 포맷에 의존하여 또한 가변할 수도 있다.
샘플 디스크립션 박스 (1346) 는 하나 이상의 샘플 엔트리들 (1348a, 1348b, 1348c) 을 포함할 수 있다. 샘플 엔트리 유형은 추상 클래스이고, 따라서 통상적으로 샘플 디스크립션 박스는, 다른 예들도 있지만 무엇보다도, 비디오 데이터를 위한 시각적 샘플 엔트리 또는 오디오 샘플들을 위한 오디오 샘플 엔트리와 같은 특정 샘플 엔트리 박스를 포함한다. 샘플 엔트리 박스가 특정 샘플을 위한 파라미터들을 저장할 수 있다. 예를 들어, 비디오 샘플에 대해, 샘플 엔트리 박스는, 무엇보다도, 비디오 샘플에 대한 폭, 높이, 수평 해상도, 수직해상도, 프레임 카운트, 및/또는 깊이를 포함할 수 있다. 다른 예로서, 오디오 샘플에 대해, 샘플 엔트리는, 무엇보다도, 채널 카운트, 채널 레이아웃, 및/또는 샘플링 레이트를 포함할 수 있다.
도시된 예에서, 첫 번째 샘플 엔트리 (1348a) 는 제한된 스킴 정보 박스 (1360) 를 포함한다. 박스 유형 "rinf"에 의해 식별되는 제한된 스킴 정보 박스가, 샘플에 적용되는 제한된 스킴과 그 스킴의 파라미터들을 양쪽 모두를 이해하기 위해 요구되는 정보를 포함할 수 있다. 일부 경우들에서, 파일의 저자는 플레이어 디바이스로부터의 특정한 액션들을 요구할 수도 있다. 이들 경우들에서, 파일은, 파일의 미디어 콘텐츠들을 렌더링하기 위하 요건들을 결정하기 위해 플레이어 디바이스가 로케이팅하고 사용하는 제한된 스킴 정보 박스를 포함할 수 있다. 콘텐츠를 렌더링하지 못할 수도 있는 플레이어들은 자신들이 콘텐츠를 렌더링할 수 없고, 따라서 콘텐츠를 프로세싱하려고 시도하지 않아야 한다고 결정하기 위해 제한된 스킴 정보 박스를 또한 사용할 수 있다. 제한된 스킴 정보 박스는 원래의 샘플 엔트리 유형, 다시 말하면, 제한된 스킴 정보 박스에 의해 기술되는 임의의 변환 전의 샘플 엔트리의 유형을 통상적으로 포함한다.
다양한 구현예들에서, 제한된 스킴이 가상 현실 콘텐츠에 대해 정의될 수 있다. 이들 구현예들에서, 제한된 스킴 정보 박스 (1360) 가 가상 현실 데이터를 포함하는 샘플 엔트리 (1348a) 에 추가될 수 있다. 제한된 스킴의 유형은 박스 유형 "schm"에 의해 식별되는 스킴 유형 박스 (1362) 에서 특정될 수 있다. 예를 들어, "vrvd"에 대응하는 인코딩이 가상 현실 콘텐츠에 대한 제한된 스킴을 식별하는데 사용될 수 있다.
도시된 예에서의 제한된 스킴 정보 박스 (1360) 는 박스 유형 "schi"에 의해 식별되는 스킴 정보 박스 (1364) 를 포함한다. 스킴 정보 박스 (1364) 는 특정 스킴에 대한 정보를 저장할 수 있다. 예를 들어, 제한된 스킴이 가상 현실 콘텐츠에 대한 것일 때, 스킴 정보 박스 (1364) 는 가상 현실 콘텐츠에 대한 파라미터들을 포함할 수 있다. 이들 파라미터들은, 예를 들어, 가상 현실 또는 360도 비디오가 2-D인지 또는 3-D인지, 360도 비디오가 프리-스티칭되는지 또는 포스트-스티칭되는지, 360도 비디오에 대한 매핑, 및/또는 360도 비디오가 어안 이미지들을 포함할 때의 어안 파라미터들을 포함할 수 있다. 다양한 구현예들에서, 스킴 정보 박스가 가상 현실 콘텐츠에 대해, 구체적으로는 가상 현실 콘텐츠에 대한 파라미터들을 포함하기 위해 정의될 수 있다.
도 13에 예시된 기법을 사용하여, 새로운 박스들이 레거시 플레이어 디바이스들에 의해 이해되지 않을 수도 있는 ISOBMFF 사양에 추가되는 것이 필요하지 않다. 심지어 새로운 박스들로, 레거시 플레이어 디바이스가 그 디바이스들이 식별할 수 없는 콘텐츠를 플레이하려고 시도할 수도 있고, 이 콘텐츠가 가상 현실 미디어일 때, 그 결과는 왜곡된 프레젠테이션이 될 수 있다. 새로운 박스들을 추가하는 것을 방지함에 있어서, 파일이 가상 현실 콘텐츠에 대해 생성될 수 있으며, 그 파일은 레거시 플레이어 디바이스가 식별할 수 있는 박스들만을 포함할 가능성이 있다. 레거시 플레이어 디바이스는 그 디바이스가 제한된 스킴 정보 박스 (1364) 에 의해 기술되는 제한된 스킴을 구현할 수 없다는 것을 추가로 결정하고, 따라서 가상 현실 콘텐츠를 디스플레이하려고 시도하지 않을 수 있다.
그 기법은 레거시 플레이어들과 가상 현실 콘텐츠를 렌더링할 수 있는 플레이어들 양쪽 모두에 대한 유연성을 부가적으로 제공한다. 레거시 플레이어가, 예를 들어, 그 플레이어는 제한된 스킴 정보 박스에 의해 식별되는 가상 현실 스킴을 이해하는지의 여부를 결정할 수 있다. 플레이어 디바이스가 제한된 스킴을 준수할 수 없을 때, 플레이어 디바이스는 트랙에서의 콘텐츠 전혀 렌더링하지 않을 것을 선택할 수도 있거나, 또는 원래의, 비변환된 샘플들을 대신 프로세싱할 수 있을 수도 있다. 제한된 스킴 메커니즘은 따라서 플레이어 디바이스들이 비트스트림을 렌더링하기 위한 요건들을 결정하기 위해 파일을 검사하는 것을 가능하게 할 수 있고, 레거시 플레이어 디바이스가 그 디바이스는 프로세싱할 수 없을 수도 있는 파일들을 디코딩 및 렌더링하는 것을 중단시킬 수 있다.
다양한 구현예들에서, 가상 현실 콘텐츠는 비디오 비트스트림에서의 보충적 향상 정보 (SEI) 메시지에 대안적으로 또는 부가적으로 포함될 수 있다. SEI 메시지는 따라서 비트스트림이 가상 현실 콘텐츠를 포함함을 나타낸다. 다양한 구현예들에서, SEI 메시지는 파일 레벨, 영화 레벨, 및/또는 트랙 레벨에서 가상 현실 콘텐츠를 나타낼 수 있다. 다양한 구현예들에서, SEI 메시지는 360도 비디오의 속성들 ((예컨대, 비디오가 2-D인지 또는 3-D인지, 프리-스티칭되는지 또는 포스트-스티칭되는지, 어안 파라미터들 등) 을 기술하는 파라미터들을 또한 포함할 수 있다.
위에서 기술된 기법들의 하나 이상의 기법들을 사용하여, 어안 파라미터들은 하위 호환 방식으로 ISOBMFF 파일에 포함될 수 있다. 예를 들어, 하위 호환성은 다음의 단계들을 사용하여 성취될 수 있다:
- 일반 샘플 엔트리 'resv'는 샘플 엔트리의 4-문자 코드 (4CC) 를 대체하는데 사용된다.
- 제한된 스킴 정보 박스가 샘플 디스크립션에 추가되며, 모든 다른 박스들을 비수정된 채로 남겨둔다.
- 원래의 샘플 엔트리 유형은 제한된 스킴 정보 박스 내에 포함되는 원본 포맷 박스 내에 저장된다.
- 새로운 박스가 360도 비디오 메타데이터 정보를 포함하도록 정의되고 이 새로운 박스는 제한된 스킴 정보 박스에 포함된다.
- 가상 현실 스킴 유형은 정의되며, 이는 SchemeTypeBox 내에 포함된다.
- 360도 비디오 메타데이터는 SchemeInformationBox에 저장되는 새로운 박스 (예컨대, VR 비디오 박스라 지칭됨) 에 포함된다.
아래에서 제공되는 것들은 ISOBMFF 파일에 가상 현실 또는 360도 비디오 정보를 제공하기 위한 정의들, 신택스, 및 시맨틱스이다. 다음의 섹션들은 ISOBMFF 사양의 섹션 8.15에 대한 수정들로서 작성되어 있다. 이 섹션에 추가될 텍스트는 밑줄친 텍스트 (추가된 텍스트의 예) 로서 도시된다.
가상 현실 비디오 정보 박스의 정의, 신택스, 및 시맨틱스는 다음과 같다:
정의
박스 유형: `vrvd'
컨테이너: 스킴 정보 박스 ('schi')
의무사항: 예 (SchemeType이 'vrvd'일 때)
수량: 하나
VR 비디오 박스는 트랙에 포함되는 비디오는 VR 비디오임을 나타내는데 사용된다. VR 비디오 박스는 SchemeType이 'vrvd'일 때 존재할 것이다.
신택스
Figure pct00001
시맨틱스
vr_mapping_type은 구면 비디오로부터 직사각형 포맷으로의 매핑 유형을 나타내는 정수이다. 영의 값이 등-장방형 지도를 나타낸다. 값 1이 큐브 지도를 나타낸다. 값 2는 특정 투영 지도가 사용되지 않고 각각의 코딩된 비디오 픽처는 각각의 원형 이미지가 어안 카메라 렌즈에 의해 캡처되는 다수의 (보통 두 개의) 원형 이미지들을 포함하는 어안 비디오 픽처이고 , 포맷은 FisheyeVideoInfoBox에 의해 기술됨을 나타낸다. 다른 값들은 유보된다.
도입되는 어안 비디오 정보 박스 정의, 신택스, 및 시맨틱스는 다음과 같다 (예컨대, ISOBMFF 사양의 섹션 8.15에의 추가들):
정의
박스 유형: `fevi'
컨테이너: 스킴 정보 박스 ('vrvd')
의무사항: 예 (vr_mapping_type이 2와 동일할 때)
수량: 하나
어안 비디오 정보 박스는 트랙에 포함되는 어안 VR 비디오의 포맷을 나타내는데 사용된다. 포맷 정보는 어안 VR 비디오의 렌더링에서 사용될 수 있다. 이 박스는 컨테이너 'vrvd' 박스의 vr_mapping_type이 2와 동일할 때 존재할 것이다.
신택스
Figure pct00002
시맨틱스
num _circular_images는 이 박스가 적용되는 각각의 샘플의 코딩된 픽처에서의 원형 이미지들의 수를 나타낸다. 통상적으로, 그 값은 2와 동일하지만, 다른 영이 아닌 값들이 또한 가능하다.
image_center_x는 이 박스가 적용되는 각각의 샘플의 코딩된 픽처에서의 원형 이미지의 중심의, 루마 샘플들에서의, 수평 좌표를 나타내는 고정소수점 16.16 값이다.
image_center_y는 이 박스가 적용되는 각각의 샘플의 코딩된 픽처에서의 원형 이미지의 중심의, 루마 샘플들에서의, 수직 좌표를 나타내는 고정소수점 16.16 값이다.
full_radius는 원형 이미지의 중심에서부터 완전 둥근 이미지의 에지까지의, 루마 샘플들에서의, 반경을 나타내는 고정소수점 16.16 값이다. [전체 반경, 프레임 반경, 및 장면 반경을 도시하는 일 예에 대해 도 4를 참조]. 전체 반경은 원형 이미지가 완전히 원형이 아니고 실제로 타원인 경우에 수평 반경 및 수직 반경 둘 다로서 정의될 수도 있다. 원형 이미지가 잘라내어지면, 이 값은 여전히 이론적으로 잘라내어지지 않은 전체 반경으로서 정의된다.
frame_radius는 원형 이미지의 중심에서부터 이미지 경계 (border) 의 가장 가까운 에지까지의, 루마 샘플들에서의, 반경을 나타내는 고정소수점 16.16 값이다. 원형 어안 이미지는 카메라 프레임에 의해 잘라내어질 수도 있으며, 그러므로 이 값은 화소들이 사용 가능한 원의 반경을 나타낸다.
scene_radius는 원형 이미지의 중심으로부터 카메라 본체 자체로부터의 장애물들이 없다는 것을 보장하는, 그 이미지에서의 영역의 가장 가까운 에지까지의, 루마 샘플들에서의, 반경을 나타내는 고정소수점 16.16 값이다.
image_rotation은 원형 이미지의 회전의 양을 도 단위로 나타내는 고정소수점 16.16 값이다. 상이한 비디오 카메라 제조업자들이 캡처되는 각각의 개개의 어안 이미지에 대해 상이한 좌표계들 또는 레이아웃들을 선택할 수도 있다. 그 이미지는 이미지들에 의해 +/- 90 도, 또는 +/- 180 도, 또는 임의의 다른 값으로 회전될 수도 있다.
image_flip은 이미지가 뒤집혔는지와 어떻게 뒤집혔는지를 나타내고 따라서 역 플리핑 동작이 적용될 필요가 있는지의 여부를 나타낸다. 값 0은 이미지는 뒤집히지 않았음을 나타낸다. 값 1은 이미지는 수직으로 뒤집혔음을 나타낸다. 값 2는 이미지는 수평으로 뒤집혔음을 나타낸다. 값 3은 이미지는 수직 및 수평 둘 다로 뒤집혔음을 나타낸다.
image_scale_axis_angle, image_scale_x, 및 image_scale_y는 이미지는 축을 따라 스케일링되었는지와 어떻게 스케일링되었는지를 나타내는 세 개의 고정소수점 16.16 값들이다. 그 축은 image_scale_axis_angle의 값에 의해 나타내어진 바와 같은 단일 각도에 의해, 도 단위로, 정의된다. 0 도의 각도가 수평 벡터가 완전히 수평이고 수직 벡터가 완전히 수직임을 의미한다. image _scale_x 및 image_scale_y의 값들은 축에 각각 평행하고 직교하는 방향들에서의 스케일링 비율들을 나타낸다.
field_of_view는 어안 렌즈의 시야를 도 단위로 나타내는 고정소수점 16.16 값이다. 반구면 어안 렌즈에 대한 전형적인 값은 180.0 도이다.
num _compression_curve_ pionts는 다음의 compression_curve_x 및 compression_curve_y 쌍들을 나타내는 정수이다.
compression_curve_x 및 compression_curve_y의 쌍들의 리스트는 캡처되었던 구 장면의 일부에 대하여 원형 이미지의 기하학적 압축 곡선을 나타내는 고정소수점 16.16 값들이다. compression _curve_x 값들의 어레이는 이미지 중심의 0.0부터, 이미지 경계 가장자리까지의 1.0까지의 범위의 반경 길이의 정규화된 값들을 나타낸다. compression _curve_y 값들의 어레이는 카메라 뷰 방향으로부터의 각도들을 도 단위로 나타낸다. 180 도의 시야를 갖는 어안 렌즈에 대해, 정규화된 축을 따르는 도들의 범위는 이미지의 중심의 0.0부터 이미지의 경계 가장자리의 90.0 도이다.
num _ deadzones는 이 박스가 적용되는 각각의 샘플의 코딩된 픽처에서의 데드 존들의 수를 나타내는 정수이다.
deadzone _left_horizontal_offset, deadzone _top_vertical_offset, deadzone_width 및 deadzone _height는 화소들이 사용 가능하지 않은 데드존 직사각형 영역의 위치 및 사이즈를 나타내는 정수 값들이다. deadzone _left_horizontal_offset 및 deadzone _top_vertical_offset은 각각, 코딩된 픽처에서의 데드존의 상부 좌측 코너의, 루마 샘플들에서의, 수평 및 수직 좌표들을 나타낸다. deadzone _width 및 deadzone _height는 각각 데드존의, 루마 샘플들에서의, 폭 및 높이를 나타낸다. 비디오를 표현하기 위한 비트들을 절약하기 위해, 데드 존 내의 모든 화소들은 동일한 화소 값, 예컨대, 모두 흑색으로 세팅되어야 한다.
다양한 구현예들에서, 어안 이미지들을 갖는 360도 비디오에 대한 어안 파라미터들은 보충적 향상 정보 (SEI) 메시지에서 대안적으로 또는 부가적으로 제공될 수 있다. SEI 메시지가 비디오에 관한 정보를 제공하기 위해 비디오 비트스트림들에서 사용되는 네트워크 추상화 계층 (NAL) 유닛의 유형이다. SEI 메시지들은, 예를 들어, 디코딩된 비디오 신호의 유용성을 향상시킬 수도 있지만 비디오 픽처들에서의 샘플들의 값들을 디코딩하는데 필요하지 않은 다른 보충적 데이터와 타이밍 정보를 제공할 수 있다.
도 14는 비트스트림의 일부에서 사용될 수 있는 액세스 유닛 (1400) (AU) 의 일 예를 도시한다. 아래에서 더 논의되는 바와 같이, 비트스트림이 일련의 액세스 유닛들을 포함할 수 있다. 각각의 액세스 유닛을 디코딩하는 것은 하나의 디코딩된 픽처를 초래한다. 여기서 도시되는 예시적인 액세스 유닛 (1400) 과 같은 액세스 유닛들은 H.264/AVC 및 H.265/HEVC 표준들에 포함된다.
액세스 유닛 (1400) 이, 도 14의 예에서 도시된 바와 같이, 기본 코딩된 픽처를 함께 포함하는 NAL 유닛들의 세트를 포함할 수 있다. 액세스 유닛 (1400) 이 여기서 점선들로 예시되는 옵션적 NAL 유닛들을 포함할 수 있다. 액세스 유닛 (1400) 이 옵션적으로 액세스 유닛 구분자 (1402) 로 시작할 수 있다. 액세스 유닛 구분자는 액세스 유닛의 시작을 찾는데 도움이 될 수 있다. 액세스 유닛 (1400) 은 기본 코딩된 픽처 (1406) 에 선행하는 보충적 향상 정보 (1404) 를 또한 옵션적으로 포함할 수 있다. SEI는 픽처 타이밍 정보와 같은 데이터를 포함할 수 있다. 기본 코딩된 픽처 (1406) 는 비디오 코딩 계층 (VCL) NAL 유닛들을 포함할 수 있다. VCL NAL 유닛들은 비디오 픽처의 샘플들을 나타내는 슬라이스들 또는 슬라이스 데이터 파티션들을 포함한다. 기본 코딩된 픽처 (1406) 에 뒤따르는 것은 용장성 코딩된 픽처 (1408) 를 포함하는 일부 추가적인 VCL NAL 유닛들일 수도 있다. 용장성 코딩된 픽처 (1408) 는 동일한 비디오 픽처의 영역들의 용장성 표현들을 포함할 수 있고, 기본 코딩된 픽처 (1406) 에서 데이터의 손실 또는 손상으로부터 복구함에 있어서 디코더에 의한 사용을 위해 이용 가능하다. 디코더들은 용장성 코딩된 픽처들을 그것들이 존재하면 디코딩할 것이 요구되지 않는다.
기본 코딩된 픽처 (1406) 가 코딩된 비디오 시퀀스의 마지막 픽처일 때, 액세스 유닛 (1400) 은 시퀀스의 말단을 나타내기 위해, 시퀀스 말단 (1410) NAL 유닛을 포함할 수 있다. 기본 코딩된 픽처 (1406) 가 또한 비트스트림에서의 마지막 코딩된 픽처일 때, 액세스 유닛 (1400) 은 스트림 말단 (1412) NAL 유닛 (비트스트림 말단 NAL 유닛이라고 또한 지칭됨) 을 또한 포함할 수 있다.
액세스 유닛에서의 NAL 유닛들은 아래에서 더 설명된다.
다양한 구현예들에서, SEI NAL 유닛은 인코딩된 360도 어안 픽처들과 어안 파라미터들을 제공하는데 사용될 수 있다. 아래에서 제공되는 것은 어안 파라미터들을 포함하는 SEI NAL 유닛에 대한 예시적인 신택스 및 시맨틱스이다.
신택스
Figure pct00003
시맨틱스
코딩된 계층식 비디오 시퀀스 (Coded Layer-wise Video Sequence) (CLVS) 에서의 360 어안 비디오 정보 SEI 메시지의 존재는 CLVS에서의 각각의 코딩된 비디오 픽처가 어안 카메라 렌즈에 의해 캡처되는 다수의 (보통 두 개의) 원형 이미지들을 포함하는 360도 어안 비디오 픽처임을 나타낸다. 360 어안 비디오 정보 SEI 메시지로 전달되는 360도 어안 비디오의 정보는 가상 현실 환경에서 360 어안 비디오를 직접적으로 렌더링하기 위해 수신기에 의해 사용될 수 있다.
360 어안 비디오 정보 SEI 메시지는, 현재 CLVS라고 또한 지칭되는, SEI 메시지를 포함하는 CLVS에 적용된다. CVLS에 존재할 때 360 어안 비디오 정보 SEI 메시지는 CLVS의 첫 번째 액세스 유닛에 존재할 것이고 CLVS의 다른 액세스 유닛들에 존재할 수도 있다.
num _circular_images_ minus1 더하기 1은 현재 CLVS의 각각의 코딩된 픽처에서의 원형 이미지들의 수를 특정한다. 통상적으로, num_circular_images_minus1의 값은 1과 동일하지만, 다른 영이 아닌 값들이 또한 가능하다.
image_center_x_ int[i] 및 image_center_x_ frac[i]는 각각, 현재 CLVS의 각각의 코딩된 픽처에서의 i-번째 원형 이미지의 중심의, 루마 샘플들에서의, 수평 좌표의 정수부 및 소수부를 특정한다.
image_center_y_ int[i] 및 image_center_y_ frac[i]는 각각, 현재 CLVS의 각각의 코딩된 픽처에서의 i-번째 원형 이미지의 중심의, 루마 샘플들에서의, 수직 좌표의 정수부 및 소수부를 특정한다.
full_radius_ int[i] 및 full_radius_ frac[i]는 각각, 원형의 i-번째 원형 이미지의 중심에서부터 완전 둥근 이미지의 에지까지의, 루마 샘플들에서의, 반경의 정수부 및 소수부를 특정한다. [일 예에 대해 도 4를 참조]. 전체 반경은 원형 이미지가 완전히 원형이 아니고 실제로 타원인 경우에 수평 반경 및 수직 반경 둘 다로서 정의될 수도 있다. 원형 이미지가 잘라내어지면, 이 값은 여전히 이론적으로 잘라내어지지 않은 전체 반경으로서 정의된다.
picture_radius_ int[i] 및 picture_radius_ frac[i]는 각각, i-번째 원형 이미지의 중심부터 이미지 보더의 가장 가까운 에지까지의, 루마 샘플들에서의, 반경의 정수부 및 소수부를 특정한다. [일 예에 대해 도 4를 참조]. 원형 어안 이미지는 카메라 프레임에 의해 잘라내어질 수도 있으며, 그러므로 이 값은 화소들이 사용 가능한 원의 반경을 나타낸다.
scene_radius_ int[i] 및 scene_radius_ frac[i]는 각각, i-번째 원형 이미지의 중심에서부터 카메라 본체 자체로부터의 장애물들이 없는 것을 보장하는, 이미지에서의 영역의 가장 가까운 곳까지의, 루마 샘플들에서의, 반경의 정수부 및 소수부를 특정한다. [일 예에 대해 도 4를 참조].
image_rotation_ int[i] 및 image_rotation_ frac[i]는 각각, i-번째 원형 이미지의 회전의 양의 정수부 및 소수부를 도 단위로 특정한다. 상이한 비디오 카메라 제조업자들이 캡처되는 각각의 개개의 어안 이미지에 대해 상이한 좌표계들 또는 레이아웃들을 선택할 수도 있다. 그 이미지는 이미지들에 의해 +/- 90 도, 또는 +/- 180 도, 또는 임의의 다른 값으로 회전될 수도 있다. [도 3은 하나는 +90 도로, 다른 하나는 -90 도 (즉, +270 도) 로 회전되는 두 개의 이미지들을 도시한다].
image_flip_idc[i]는 i-번째 원형 이미지가 뒤집혔는지와 어떻게 뒤집혔는지를 나타내고 따라서 역 플리핑 동작이 적용될 필요가 있는지의 여부를 나타낸다. 값 0은 이미지는 뒤집히지 않았음을 나타낸다. 값 1은 이미지는 수직으로 뒤집혔음을 나타낸다. 값 2는 이미지는 수평으로 뒤집혔음을 나타낸다. 값 3은 이미지는 수직 및 수평 둘 다로 뒤집혔음을 나타낸다.
image_scale_axis_angle_ int[i] 및 image_scale_axis_angle_ frac[i]는 각각, i-번째 원형 이미지가 스케일링되었던 스케일링 축의 각도의 정수부 및 소수부를 도 단위로 특정한다. 0 도의 각도가 수평 벡터가 완전히 수평이고 수직 벡터가 완전히 수직임을 의미한다.
image_scale_x_ int[i] 및 image_scale_x_ frac[i]는 각각, i-번째 원형 이미지에 대한 스케일링 축에 평행한 방향의 스케일링 비율의 정수부 및 소수부를 특정한다.
image_scale_y_ int[i] 및 image_scale_y_ frac[i]는 각각, i-번째 원형 이미지에 대한 스케일링 축에 직교하는 방향의 스케일링 비율의 정수부 및 소수부를 특정한다.
field_of_view_ int[i] 및 field_of_view_ frac[i]는 각각, i-번째 원형 이미지에 대한 어안 렌즈의 시야의 정수부 및 소수부를 도 단위로 특정한다. 반구면 어안 렌즈에 대한 전형적인 값은 180.0 도이다.
num _compression_curve_ pionts[i]는 다음의 compression_curve_x_int[i], compression_curve_x_frac[i], compression_curve_y_int[i], 및 compression_curve_y_frac[i] 리스트들의 수를 특정한다.
num _compression_curve_ pionts[i]는 다음의 compression_curve_x_int[i], compression_curve_x_frac[i], compression_curve_y_int[i], 및 compression_curve_y_frac[i] 리스트들의 수를 특정한다.
compression_curve_x_ int[i][j] 및 compression_curve_x_ frac[i][j]는 i-번째 원형 이미지에 대해 이미지 중심 0.0부터 이미지 경계 가장자리 1.0까지의 범위의 반경 길이의 j-번째 정규화된 값을 특정한다.
compression_curve_y_ int[i][j] 및 compression_curve_y_ frac[i][j]는 i-번째 원형 이미지에 대한 카메라 뷰 방향으로부터의 j-번째 각도를 도 단위로 특정한다. 180 도의 시야를 갖는 어안 렌즈에 대해, 정규화된 축을 따르는 도들의 범위는 이미지의 중심의 0.0부터 이미지의 경계 가장자리의 90.0 도이다.
반경 길이 및 각도의 정규화된 값들의 쌍들의 리스트는 i-번째 어안 카메라 렌즈에 의해 캡처되었던 구 장면의 일부에 대하여 원형 이미지의 기하학적 압축 곡선을 나타낸다.
num _ deadzones는 현재 CLVS의 각각의 코딩된 픽처에서의 데드 존들의 수를 특정한다.
deadzone _left_horizontal_offset[i], deadzone _top_vertical_offset[i], deadzone_width[i], 및 deadzone _height[i]는 화소들이 사용 가능하지 않은 i-번째 데드존 직사각형 영역의 위치 및 사이즈를 특정한다. deadzone_left_horizontal_offset[i] 및 deadzone_top_vertical_offset[i]는 각각, 현재 CLVS의 각각의 코딩된 픽처에서의 i-번째 데드존의 상부 좌측 코너의, 루마 샘플들에서의, 수평 및 수직 좌표들을 특정한다. deadzone_width[i] 및 deadzone_height[i]는 각각, 현재 CLVS의 각각의 코딩된 픽처에서의 i-번째 데드존의, 루마 샘플들에서의, 폭 및 높이를 특정한다. 비디오를 표현하기 위한 비트들을 절약하기 위해, 데드존 내의 모든 화소들은 동일한 화소 값, 예컨대, 모두 흑색으로 설정해야 한다는 것에 주의한다.
다양한 구현예들에서, 어안 이미지들을 갖는 360도 비디오에 대한 어안 파라미터들은 세션 기술 프로토콜 (SDP) 을 사용하여 대안적으로 또는 부가적으로 제공될 수 있다. SDP는 멀티미디어 통신 세션들을 기술하는데 사용될 수 있다. 이러한 디스크립션들은, 예를 들어, 세션 발표, 세션 초대, 및 파라미터 협상을 위해 사용될 수 있다. SDP는 미디어 자체를 전달하는데 사용되지 않지만, 미디어 유형, 포맷, 및 연관된 성질들의 협상을 위해 엔드포인트들 사이에서 사용될 수 있다. 속성들 및 파라미터들의 한 세트가 종종 세션 프로파일이라 지칭된다. SDP는 원래 세션 고지 프로토콜 (Session Announcement Protocol) (SAP) 의 컴포넌트였지만, 실시간 전송 프로토콜 (RTP), 실시간 스트리밍 프로토콜 (RTSP), 세션 개시 프로토콜 (SIP) 과 연계하여 그리고 멀티캐스트 세션들을 기술하기 위한 자립형 포맷으로서 다른 용도들을 발견하였다. SDP는 RFC 4566에서 기술된다.
도 15는 네트워크 통신들을 위한 개방시스템들 상호접속 (OSI) 모델 (1500) 의 일 예를 도시한다. 이 모델 내에서, SDP는 접속 관리, 에러 복구, 보안, 원격 동작, 및 다른 기능들이 발생하는 세션 계층 (1510) 에 구현된다. 아래에서 추가로 논의되는 바와 같이, 어안 파라미터들은 세션 계층 (1510) 에서 교환되는 세션 속성들 (1520) 에 포함될 수 있다.
OSI 모델 (1500) 은 통신 기능들을 표준화하고, 그 준수는 다양한 통신 시스템들 사이의 상호운용성을 가능하게 한다. 모델 (1500) 에서의 각각의 계층은 위의 계층에 서비스를 제공하고 아래의 계층에 의해 서비스를 제공받는다. 물리 계층 (1502) 은 물리적 매체를 통한 원시 비트 스트림들의 송신 및 수신을 정의한다. 데이터 링크 계층 (1504) 은 두 개의 노드들 사이의 데이터 프레임들의 신뢰성 있는 송신을 정의한다. 물리적 어드레싱과 같은 동작들은 데이터 링크 계층 (1504) 에서 핸들링된다. 네트워크 계층 (1506) 은 어드레싱, 라우팅, 및 트래픽 제어를 포함한 멀티-노드 네트워크의 구조 및 관리를 정의한다. 패킷 단편화 및 로컬 어드레싱과 같은 동작들은 네트워크 계층 (1506) 에서 일어난다. 전송 계층 (1508) 은, 세그먼트화, 확인응답, 및 다중화를 포함하여, 네트워크 상의 포인트들 사이의 데이터 세그먼트들의 신뢰성 있는 송신을 가능하게 한다. 단 대 단 접속 관리, 메시지 세그먼트화, 메시지 시퀀싱, 신뢰도, 및 흐름 제어와 같은 동작들은 전송 계층 (1508) 에서 일어날 수 있다. 세션 계층 (1510) 은 두 개의 노드들 사이의 다수의 백투백 (back-to-back) 송신들 형태의 정보의 연속 상호교환들인 세션들의 관리를 정의한다. 이전에 언급된 바와 같이, 접속 관리, 에러 복구, 보안, 및 원격 동작과 같은 동작들은 세션 계층 (1510) 에서 일어날 수 있다. 프레젠테이션 계층 (1512) 은 캐릭터 인코딩, 데이터 압축, 그리고 암호화 및/또는 암호해독을 포함한, 네트워킹 서비스 및 애플리케이션 사이의 데이터의 변환을 정의한다. 애플리케이션 계층 (1514) 은, 리소스 공유, 원격 파일 액세스, 및 다른 동작들을 포함하는, 하이 레벨 애플리케이션 프로그래밍 인터페이스들 (API들) 을 포함한다.
다양한 구현예들에서, 어안 파라미터들은 SDP 메시지의 미디어 디스크립션 및/또는 세션 디스크립션에 포함될 수 있다. 예를 들어, 스트리밍 콘텐츠에서의 360도 비디오의 존재를 나타내기 위해 필드가 세션 디스크립션 및/또는 미디어 디스크립션에서 추가되거나 또는 수정될 수 있다. 덧붙여, 일부 구현예들에서, 가상 현실 콘텐츠에 관련한 파라미터들은 SDP 메시지에 또한 추가될 수 있다. 이러한 파라미터들은, 예를 들어, 가상 현실 콘텐츠가 2-D인지 또는 3-D인지, 그 콘텐츠가 프리 스티칭되는지 또는 포스트-스티칭되는지, 데이터를 저장하는데 사용되는 매핑, 및/또는 비디오 데이터에서 어안 이미지들을 기술하는 파라미터들을 포함할 수 있다. 이 예 및 다른 예에서, SDP는 미디어 콘텐츠가 가상 현실 콘텐츠를 포함함을 나타내기 위해 RTP 기반 스트리밍, 브로드캐스트, 및/또는 텔레프레전스 또는 컨퍼런스 애플리케이션들에서 사용될 수 있다.
아래에서 제공되는 것은 세션 디스크립션에서의 필드들의 일 예이다. 옵션적 필드들이 "=*" 로 특정되고 아래의 예에서, 360도 비디오 파라미터들은 세션 속성 라인들 및/또는 미디어 속성 라인들을 사용하여 특정될 수 있다.
세션 디스크립션
v= (프로토콜 버전 번호, 현재 0만)
o= (발신자 및 세션 식별자: 사용자명, id, 버전 번호, 네트워크 주소)
s= (세션 이름: 적어도 하나의 UTF-8-인코딩된 문자가 필수임)
i=* (세션 타이틀 또는 짧은 정보)
u=* (디스크립션의 URI)
e=* (옵션적인 연락처 이름을 갖는 영 개 이상의 이메일 주소)
p=* (옵션적인 연락처 이름을 갖는 영 개 이상의 전화 번호)
c=* (연결 정보―모든 미디어에 포함되면 요구되지 않음)
b=* (영 개 이상의 대역폭 정보 라인들)
하나 이상의 시간 디스크립션들 ("t=" 및 "r=" 라인들; 아래 참조)
z=* (시간대 조정들)
k=* (암호화 키)
a=* (영 개 이상의 세션 속성 라인들)
영 개 이상의 미디어 디스크립션들 (각각의 것은 "m=" 라인으로 시작; 아래 참조)
시간 디스크립션
t= (시간 세션은 액티브)
r=* (영 회 이상의 반복 횟수)
미디어 디스크립션
m= (미디어 이름 및 전송 주소)
i=* (미디어 타이틀 또는 정보 필드)
c=* (연결 정보 ― 세션 레벨에 포함되면 옵션적임)
b=* (영 개 이상의 대역폭 정보 라인들)
k=* (암호화 키)
a=* (영 개 이상의 미디어 속성 라인들 ― 세션 속성 라인들을 무시)
다양한 구현예들에서, 어안 이미지들을 포함하는 360도 비디오에 대한 어안 파라미터들은 DASH를 사용하여 송신되는 비디오 데이터에 대안적으로 또는 부가적으로 제공될 수 있다. 예를 들어, 360도 비디오는 DASH 프레젠테이션의 미디어 프레젠테이션 레벨에서 나타내어질 수 있다. 미디어 프레젠테이션이, DASH 사양에 의해 정의된 바와 같이, 바운드되거나 또는 언바운드된 미디어 프레젠테이션을 위한 데이터의 모음 (예컨대, 다른 예들로 있지만 무엇보다도, 단일 모션 픽처 또는 연속 라이브 스트림) 이다. 미디어 프레젠테이션이 미디어 프레젠테이션 디스크립션에 의해 기술될 수 있으며, 문서가 미디어 프레젠테이션의 세그먼트들에 액세스하기 위해 적절한 HTTP URL들 (uniform resource locators) 을 구축하도록 DASH 클라이언트에 의해 사용될 수 있는 메타데이터를 포함한다.
도 16은 비디오 콘텐츠를 스트리밍하기 위한 DASH 프레젠테이션 (1600) 의 일 예를 도시한다. 비디오 콘텐츠는 미디어 프레젠테이션 (1602) 에 포함되는데, 미디어 프레젠테이션는 연속 비디오 스트림을 기술할 수 있다. 미디어 프레젠테이션 (1602) 은 미디어 프레젠테이션 디스크립션 (MPD) 을 포함할 수 있는데, 미디어 프레젠테이션 디스크립션은 메니페스트라고 또한 지칭될 수 있다. MPD는 미디어 프레젠테이션 (1602) 에 미디어 세그먼트들에 관한 정보를 포함하는, 예를 들어 XML (eXtensible Markup Language) 을 사용하여 포맷된 문서이다. 이 정보는, 예를 들어, 세그먼트들과 그 세그먼트들 사이에서 선택하는데 사용될 수 있는 정보 사이의 관계들을 포함할 수 있다. MPD는 클라이언트 디바이스들 (예컨대, 콘텐츠를 수신하는 디바이스들) 이 사용할 수 있는 다른 데이터를 또한 포함할 수 있다.
다양한 구현예들에서, 미디어 프레젠테이션 디스크립션은 미디어 프레젠테이션 디스크립션에 의해 기술되는 미디어 콘텐츠가 가상 현실 콘텐츠를 포함함을 나타내는데 사용될 수 있다. 예를 들어, 엘리먼트가 미디어 프레젠테이션 디스크립션을 위한 스키마에 추가되거나 또는 수정될 수 있으며 그 엘리먼트는 그때 가상 현실 콘텐츠를 시그널링한다. 다양한 구현예들에서, 속성들은 가상 현실 콘텐츠에 관한 정보, 이를테면 위에서 논의된 바와 같이 그 콘텐츠가 2-D인지 또는 3-D인지, 그 콘텐츠가 프리-스티칭되는지 또는 포스트-스티칭되는지, 콘텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 매핑, 및/또는 어안 파라미터들 등을 제공하기 위해 미디어 프레젠테이션 디스크립션에 또한 추가되거나 또는 수정될 수도 있다. 일부 구현예들에서, 미디어 프레젠테이션 디스크립션에서의 가상 현실 표시자가 프레젠테이션에서의 콘텐츠의 모두가 가상 현실을 위해 포맷됨을 나타낸다.
미디어 프레젠테이션 (1602) 은 기간들 (1604a~1604c) 로 나누어질 수 있다. 기간이, DASH에 의해 정의된 바와 같이, 미디어 프레젠테이션 (1602) 내의 시구간이다. 프레젠테이션은 따라서 기간들 (1604a~1604c) 의 연속 시퀀스로 이루어진다. 기간 (1604a~1604c) 이, 예를 들어, 시작 시간에 의해 기술될 수 있는데, 시작 시간은 기간에서의 시구간이 시작하는 시간을 나타낸다. 다른 방식으로 말하면, 시작 시간은 시간 영으로부터의 오프셋이다.
다양한 구현예들에서, 기간의 엘리먼트들 및/또는 속성들은 그 기간이 360도 비디오 콘텐츠를 포함함을 나타내는데 사용될 수 있다. 예를 들어, 엘리먼트가 기간을 위한 스키마에 추가되거나 또는 수정될 수 있으며 그 엘리먼트는 그때 가상 현실 콘텐츠를 시그널링한다. 다양한 구현예들에서, 속성들은 가상 현실 콘텐츠에 관한 정보, 이를테면 그 콘텐츠가 2-D인지 또는 3-D인지, 그 콘텐츠가 프리-스티칭되는지 또는 포스트-스티칭되는지, 그 콘텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 매핑, 및/또는 어안 파라미터들 등을 제공하기 위해 기간에 또한 추가되거나 또는 수정될 수도 있다. 일부 구현예들에서, 그 기간에서의 가상 현실 표시자가 그 기간에서의 콘텐츠가 가상 현실을 위해 포맷됨을 나타낸다.
기간 (1604b) (예컨대, 도시된 예에서의 기간 2) 내에, 미디어 콘텐츠는, 예를 들어, 평균 비트레이트, 언어, 캡션 셋팅, 자멱 셋팅 등을 포함하는, 인코딩들의 일관된 세트를 가질 수 있다. 기간 (1604b) 은 콘텐츠가 스트리밍되어 나올 수 있는 소스 (예컨대, 기본 URL (Uniform Resource Locator)) 를 또한 제공할 수 있다. 기간 (1604b) 에서의 콘텐츠는 적응 세트들 (1624, 1626) 로 배열될 수 있다. 적응 세트가 하나 이상의 미디어 콘텐츠 컴포넌트들의 교환 가능한 인코딩된 버전의 세트를 나타낸다. 예를 들어, 기간이 메인 비디오 컴포넌트를 위한 하나의 적응 세트 (1624) 와 메인 오디오 컴포넌트를 위한 별도의 적응 세트 (1626) 를 포함할 수도 있다. 이용 가능한 다른 콘텐츠, 이를테면 캡션들 또는 오디오 디스크립션들이 있는 경우, 이것들의 각각은 별도의 적응 세트를 가질 수 있다.
다양한 구현예들에서, 360도 비디오 정보는 적응 세트에 포함될 수 있다. 예를 들어, 엘리먼트가 적응 세트를 위한 스키마에 추가되거나 또는 수정될 수 있으며, 그 엘리먼트는 그때 360도 비디오 콘텐츠를 시그널링한다. 다양한 구현예들에서, 속성들은 가상 현실 콘텐츠에 관한 정보, 이를테면 그 콘텐츠가 2-D인지 또는 3-D인지, 그 콘텐츠가 프리-스티칭되는지 또는 포스트-스티칭되는지, 그 콘텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 매핑, 및/또는 어안 파라미터들 등을 제공하기 위해 적응 세트에 또한 추가되거나 또는 수정될 수도 있다. 일부 구현예들에서, 적응 세트에서의 360도 비디오 표시자가 적응 세트에서의 표현들의 각각이 360도 비디오 콘텐츠를 포함함을 나타낸다.
적응 세트 (예컨대, 비디오 적응 세트 (1624)) 가 다수의 대체 표현들 (1632) 을 포함할 수 있다. 표현이 하나 또는 여러 미디어 콘텐츠 컴포넌트들의 전달가능 인코딩된 버전을 기술한다. 적응 세트 내의 임의의 단일 표현이 그 기간에서의 미디어 콘텐츠 컴포넌트들을 렌더링하는데 사용될 수 있다. 전송되는 하나의 적응에서의 상이한 표현들이 인지적으로 동등한 것으로 간주될 수도 있는데, 이는 클라이언트 디바이스가 네트워크 조건들 또는 다른 요인들에 적응하기 위하여 적응 세트 내에서 하나의 표현으로부터 다른 표현으로 동적으로 스위칭할 수 있음을 의미한다. 예를 들어, 각각의 표현은 특정 대역폭과, 프레임 높이 및 폭, 뿐만 아니라 프레임 레이트 또는 인코딩 유형과 같은 다른 정보를 가질 수 있다. 표현 (1632) 이 미디어 프레젠테이션 (1602) 에서의 세그먼트들을 기술하는 세그먼트 정보 (1642) 를 더 포함할 수 있다.
다양한 구현예들에서, 360도 비디오 콘텐츠에 관한 정보는 표현 (1632) 에서 제공될 수 있다. 예를 들어, 엘리먼트가 표현을 위한 스키마에 추가되거나 또는 수정될 수 있으며, 엘리먼트는 그때 가상 현실 콘텐츠를 나타낸다. 다양한 구현예들에서, 속성들은 가상 현실 콘텐츠에 관한 정보, 이를테면 그 콘텐츠가 2-D인지 또는 3-D인지, 그 콘텐츠가 프리-스티칭되는지 또는 포스트-스티칭되는지, 그 콘텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 매핑을 제공하기 위해 표현에 또한 추가되거나 또는 수정될 수도 있다. 일부 구현예들에서, 표현에서의 가상 현실 표시자가 표현의 콘텐츠가 가상 현실을 위해 포맷되었음을 나타낸다.
세그먼트 정보 (1642) 는 초기화 세그먼트 (1644) 와 하나 이상의 미디어 세그먼트들 (1646a~1646c) 을 기술할 수 있다. 초기화 세그먼트 (1644) 는 미디어 자체에 선행하는 얼마간의 콘텐츠를 포함할 수 있다. 각각의 미디어 세그먼트 (1646a~1646c) 는 전체 기간 (1604b) 의 부분을 포함한다. 미디어 세그먼트들 (1646a~1646c) 은 기간 (1604b) 의 시작에 대한 시작 시간과, 소스 로케이션 (예컨대, URL) 에 의해 기술될 수 있다.
다양한 구현예들에서, 어안 콘텐츠를 포함하는 360도 비디오에 대한 어안 파라미터들은 MPEG 전송 스트림 (MPEG-TS) 에 대안적으로 또는 부가적으로 제공될 수 있다. 도 17은 MPEG 전송 스트림 (1700) 의 일 예를 도시한다. MPEG-TS은 오디오, 비디오, 및 프로그래밍 데이터를 송신 및 저장하는데 사용되는 컨테이너 포맷이다. MPEG-TS는 신호가 열화될 때 송신 무결성을 유지하기 위한 오류 정정 및 스트림 동기화 특징들과 함께, 패킷화된 기본 스트림들을 캡슐화하는 컨테이너 포맷을 특정한다. MPEG-TS는 신뢰할 수 없는 송신 매체들, 이를테면 지상 및 위성 브로드캐스트를 통한 스트림라이닝을 위해 의도된다.
MPEG 전송 스트림 (1700) 이 다수의 전송 패킷들 (1702) 을 포함한다. 패킷이 전송 스트림에서의 데이터의 기본 유닛이다. 전송 스트림 자체는, 임의의 글로벌 헤더 없이, 패킷들의 시퀀스이다. 각각의 패킷 (1702) 은 헤더 (1704) 와 패이로드 (1706) 를 포함한다. 헤더 (1704) 는, 예를 들어, 패이로드의 콘텐츠들, 다른 패킷들에 관한 패킷들 시퀀스, 에러 정보 등을 기술하는 것을 포함하는, 패킷 (1702) 에 관한 정보를 제공한다.
다른 필드들도 있지만 그 중에서, 헤더 (1704) 는 패킷 식별자 (1708) (PID) 를 포함할 수 있다. 패킷 식별자 (1708) 는 패이로드 (1706) 에 포함되는 데이터를 기술할 수 있다. 예를 들어, PID = 2는 패이로드 (1706) 가 전송 스트림 디스크립터 테이블 (TSDT) 의 일부 또는 전부를 포함함을 나타낸다. 전송 스트림 디스크립터 테이블은 전송 스트림 (1700) 에 관련한 디스크립터들 (1710) 을 포함할 수 있다.
다양한 구현예들에서, 디스크립터들은 360도 비디오 콘텐츠를 기술하는 전송 스트림 디스크립터 테이블에 추가될 수 있다. 예를 들어, 디스크립터들은 360도 비디오 파라미터들, 이를테면 그 콘텐츠가 2-D인지 또는 3-D인지, 그 콘텐츠가 프리-스티칭되는지 또는 포스트-스티칭되는지, 그 콘텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 매핑, 및/또는 어안 파라미터들에 추가될 수 있다. 이들 및 다른 예들에서, 전송 스트림 (1700) 을 수신하기 있는 클라이언트 디바이스가 전송 스트림 (170) 으로 송신되는 비디오 데이터를 디코딩 및/또는 리매핑하기 위한 파라미터들을 사용할 수 있다.
다른 예로서, 멀티미디어 브로드캐스트 멀티캐스트 서비스들 (MBMS) 은 콘텐츠가 3GPP 셀룰러 네트워크들을 통해 송신될 때 360도 비디오 콘텐츠를 나타내는데 사용될 수 있다. MBMS는 셀 내 및 코어 네트워크 내 둘 다에서 브로드캐스트 및 멀티캐스트 서비스들의 효율적인 전달을 제공할 수 있는 지점 대 다지점 인터페이스 사용이다. MBMS를 위한 타겟 애플리케이션들은 모바일 텔레비전, 라이브 비디오 및 오디오 스트림라이닝, 파일 전달, 및 비상 경보의 전달을 포함한다.
다양한 구현예들에서, 360도 비디오 콘텐츠, 뿐만 아니라 그 콘텐츠에 관련된 파라미터들의 시그널링은 새로운 특징을 MBMS 특징 요건 리스트에 추가함으로써 완수될 수 있다. 다양한 구현예들에서, 360도 비디오 콘텐츠의 시그널링은 다른 브로드캐스트 및 멀티캐스트 애플리케이션들에 유사한 형태로 완수될 수 있다.
도 18은 360도 어안 비디오를 그 비디오에서의 어안 이미지들을 기술하는 파라미터들과 함께 인코딩하는 프로세스 (1800) 의 일 예를 도시한다. 1802에서, 프로세스 (1800) 는 전방위 카메라에 의해 캡처되는 360도 비디오 데이터를 획득하는 것을 포함하며, 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함하고, 그 이미지에서, 장면은 이미지의 원형 지역으로 워핑된다. 원형 지역은 어안 이미지라고 또한 지칭될 수 있다.
1804에서, 프로세스 (1800) 는 전방위 카메라에 연관되는 파라미터들을 획득하는 것을 포함하며, 그 파라미터들은 이미지의 원형 지역을 기술한다. 파라미터들은 다른 파라미터들도 있지만 도 5, 도 6a 및 도 6b에 관해 기술되는 것들을 포함한다. 일부 구현예들에서, 파라미터들은 카메라로부터 직접적으로 획득된다. 일부 구현예들에서, 파라미터들은 360도 비디오 데이터에 메타데이터로서 임베딩된다.
도 18의 1806에서, 프로세스 (1800) 는 360도 비디오 데이터를 인코딩하는 것을 포함한다. 다양한 구현예들에서, 360도 비디오는 데이터의 임의의 변환 또는 조작 없이 인코딩되어서, 비디오에서의 어안 이미지들은 전방위 카메라에 의해 캡처된 것으로서 인코딩된다. 다양한 구현예들에서, 360도 비디오는 AVC 또는 HEVC 표준, 또는 일부 다른 비디오 인코딩 표준을 사용하여 인코딩된다.
1808에서, 프로세스 (1800) 는 인코딩된 비디오 데이터를 생성하는 것을 포함하며, 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와, 전방위 카메라에 연관되는 파라미터들을 포함한다.
일부 구현예들에서, 인코딩된 비디오 데이터를 생성하는 것은 writing 인코딩된 360도 비디오를 파일에 기입하는 것을 포함하며, 그 파일은 ISOBMFF 파일 포맷에 따라 포맷된다. 이들 구현예들에서, 파라미터들은 파일의 파일 레벨, 영화 레벨, 및/또는 트랙 레벨에 포함될 수 있다. 일부 구현예들에서, 파라미터들은 파일에서의 제한된 스킴 정보 박스에 포함될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 생성하는 것은 SEI 메시지에 파라미터들을 인코딩하는 것을 포함한다. 이들 구현예들에서, SEI 메시지는 인코딩된 360도 비디오 데이터에 포함될 수 있다. 예를 들어, NAL 유닛일 수 있는 SEI 메시지는, 인코딩된 360도 비디오 데이터를 포함하는 비트스트림의 액세스 유닛에 포함될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 생성하는 것은 파라미터들을 SDP 속성들로서 인코딩하는 것을 포함한다. 이들 구현예들에서, 파라미터들은 목적지에 세션 데이터 프로토콜을 사용하여 전달될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 생성하는 것은 파라미터들을 MPD 파일 속에 기입하는 것을 포함한다. MPD 파일은 인코딩된 비디오 데이터의 DASH 프레젠테이션에 포함될 수 있다. DASH 프레젠테이션은 하나의 로케이션에서부터 다른 로케이션으로 스트리밍될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 생성하는 것은 파라미터들을 MPEG 전송 스트림 속에 기입하는 것을 포함한다. 이들 구현예들에서, 파라미터들은 전송 스트림에 디스크립터들로서 포함될 수 있다. 파라미터들은 그 다음에 목적지에 MPEG 전송 스트림을 사용하여 전달될 수 있다.
도 19는 360도 비디오를 포함하는 인코딩된 비디오 데이터를 디코딩하는 프로세스 (1900) 의 일 예를 도시한다. 1902에서, 프로세스 (1900) 는 인코딩된 비디오 데이터를 획득하는 것을 포함하며, 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 360도 비디오 데이터와 전방위 카메라에 연관되는 파라미터들을 포함한다. 그 파라미터들은 다른 파라미터들도 있지만 무엇보다도 도 5, 도 6a 및 도 6b에 관해 위에서 설명된 것들을 포함할 수 있다.
도 19의 1904에서, 프로세스 (1900) 는 360도 비디오 데이터를 생성하기 위해 인코딩된 비디오 데이터를 디코딩하는 것을 포함하며, 360도 비디오 데이터로부터의 프레임이 장면의 이미지를 포함하고, 그 이미지에서, 장면은 i이미지의 원형 지역으로 워핑된다. 원형 지역은 어안 이미지라고 또한 지칭될 수 있다.
1906에서, 프로세스 (1900) 는 360도 비디오 프레젠테이션을 생성하는 것을 포함하며, 360도 비디오 프레젠테이션을 생성하는 것은 원형 지역을 360도 포맷으로 매핑하기 위해 파라미터들을 사용하는 것을 포함한다.
일부 구현예들에서, 인코딩된 비디오 데이터는 파일로부터 획득되며, 그 파일은 ISOBMFF 파일 포맷에 따라 포맷된다. 이들 구현예들에서 파라미터들은 파일 레벨, 영화 레벨, 및/또는 트랙 레벨에서 파일 내에 있을 수 있다. 일부 구현예들에서, 파라미터들은 파일에서의 제한된 스킴 정보 박스에 있을 수 있다.
일부 구현예들에서, 파라미터들은 SEI 메시지로부터 디코딩된다. 이들 구현예들에서, SEI 메시지는 인코딩된 비디오 데이터에 포함될 수 있다. 예를 들어, SEI 메시지는 360도 비디오 데이터를 포함하는 인코딩된 비트스트림에서의 NAL 유닛일 수 있다. 다양한 구현예들에서, SEI 메시지는 AVC 또는 HEVC 표준, 또는 일부 다른 표준에 따라 포맷될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 디코딩하는 것은 SDP 파라미터들로부터 파라미터들을 획득하는 것을 포함한다. 이들 구현예들에서, 인코딩된 비디오 데이터는, SDP 프로토콜을 사용하여, 네트워크를 통해 획득될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 디코딩하는 것은 MPD 파일로부터 파라미터들을 획득하는 것을 포함한다. 이들 구현예들에서, 인코딩된 비디오 데이터는 DASH 프로토콜을 사용하여 스트리밍된 비디오로서 획득될 수 있다.
일부 구현예들에서, 인코딩된 비디오 데이터를 디코딩하는 것은 MPEG 전송 스트림으로부터 파라미터들을 획득하는 것을 포함한다. 이들 구현예들에서, 파라미터들은 전송 스트림에 디스크립터들로서 인코딩될 수 있고, 인코딩된 비디오 데이터는 전송 스트림으로부터 획득될 수 있다.
일부 구현예들에서, 위에서 논의된 프로세스들 (1800, 1900) 은 모바일 디바이스, 이를테면 스마트 폰, 태블릿 컴퓨터, 랩톱 컴퓨터, 개인 정보 단말기, 또는 네트워크에 무선 접속할 수 있는 그리고/또는 쉽게 운반될 만큼 충분히 작고 가벼운 임의의 다른 종류의 컴퓨팅 디바이스로 구현될 수 있다. 이들 구현예들에서, 모바일 디바이스는 360도 비디오를 캡처하기 위한 전방위 카메라를 포함할 수 있다. 일부 구현예들에서, 모바일 디바이스는 360도 비디오를 디스플레이하기 위한 디스플레이를 포함할 수 있다.
일부 예들에서, 프로세스들 (1800, 1900) 은 컴퓨팅 디바이스 또는 장치, 이를테면 도 20에 관해 아래에서 논의되는 시스템에 의해 수행될 수도 있다. 예를 들어, 프로세스들 (1800, 1900) 은 도 20에 도시된 시스템 (2000) 및/또는 저장소 (2008) 또는 출력 (2010) 에 의해 수행될 수 있다. 일부 경우들에서, 컴퓨팅 디바이스 또는 장치는 도 18 및 도 19의 프로세스들 (1800, 1900) 의 단계들을 수행하도록 구성되는 프로세서, 마이크로프로세서, 마이크로컴퓨터, 또는 디바이스의 다른 컴포넌트를 포함할 수도 있다. 일부 예들에서, 컴퓨팅 디바이스 또는 장치는 비디오 프레임들을 포함하는 비디오 데이터 (예컨대, 비디오 시퀀스) 를 캡처하도록 구성되는 카메라를 포함할 수도 있다. 예를 들어, 컴퓨팅 디바이스는 비디오 코덱을 포함할 수도 있는 카메라 디바이스 (예컨대, 전방위 카메라, 또는 다른 유형의 카메라 디바이스) 를 포함할 수도 있다. 일부 예들에서, 비디오 데이터를 캡처하는 카메라 또는 다른 캡처 디바이스가 컴퓨팅 디바이스와는 별개이며, 그 경우 컴퓨팅 디바이스는 캡처된 비디오 데이터를 수신한다. 컴퓨팅 디바이스는 비디오 데이터를 통신하도록 구성되는 네트워크 인터페이스를 더 포함할 수도 있다. 네트워크 인터페이스는 인터넷 프로토콜 (IP) 기반 데이터 또는 임의의 다른 적합한 유형의 데이터를 통신하도록 구성될 수도 있다.
프로세스들 (1800, 1900) 은 논리적 흐름도들로서 예시되며, 그것들의 동작은 하드웨어, 컴퓨터 명령들, 또는 그것들의 조합으로 구현될 수 있는 동작들의 시퀀스를 나타낸다. 컴퓨터 명령들의 맥락에서, 동작들은, 하나 이상의 프로세서들에 의해 실행될 때, 언급된 동작들을 수행하는, 하나 이상의 컴퓨터 판독가능 저장 매체들 상에 저장된 컴퓨터 실행가능 명령들을 나타낸다. 일반적으로, 컴퓨터 실행가능 명령들은 특정 기능들을 수행하거나 또는 특정 데이터 유형들을 구현하는 루틴들, 프로그램들, 객체들 (objects), 컴포넌트들, 데이터 구조들 등을 포함한다. 동작들이 기술되는 순서는 제한하는 것으로서 해석되도록 의도되지 않았고, 임의의 수의 기술된 동작들은 그 프로세스들을 구현하기 위해 임의의 순서로 그리고/또는 병렬로 조합될 수 있다.
덧붙여, 프로세스들 (1800, 1900) 은 실행가능 명령들로 구성되는 하나 이상의 컴퓨터 시스템들의 제어 하에 수행될 수 있고, 하나 이상의 프로세서들 상에서, 하드웨어, 또는 그 조합들에 의해 집단적으로 실행하는 코드 (예컨대, 실행가능 명령들, 하나 이상의 컴퓨터 프로그램들, 또는 하나 이상의 애플리케이션들) 로서 구현될 수도 있다. 위에서 언급된 바와 같이, 코드는, 예를 들어 하나 이상의 프로세서들에 의해 실행 가능한 복수의 명령들을 포함하는 컴퓨터 프로그램 형태로, 컴퓨터 판독가능 또는 머신 판독가능 저장 매체 상에 저장될 수도 있다. 컴퓨터 판독가능 또는 머신 판독가능 저장 매체는 비-일시적일 수도 있다.
더 많은 디바이스들 및 시스템들이 소비자들에게 디지털 비디오 데이터를 소비할 능력을 제공함에 따라, 효율적인 비디오 코딩 기법들에 대한 필요성은 더 중요해지고 있다. 비디오 코딩은 디지털 비디오 데이터에 존재하는 대량의 데이터를 핸들링하는데 필요한 저장 및 송신 요건들을 줄이기 위해 필요하다. 다양한 비디오 코딩 기법들이 비디오 데이터를 더 낮은 비트 레이트를 사용하면서도 높은 비디오 품질을 유지하는 형태로 압축하는데 사용될 수도 있다.
도 20은 인코딩 디바이스 (2004) 와 디코딩 디바이스 (2012) 를 포함하는 시스템 (2000) 의 일 예를 도시하는 블록도이다. 인코딩 디바이스 (2004) 는 소스 디바이스의 일부일 수도 있고, 디코딩 디바이스 (2012) 는 수신 디바이스의 일부일 수도 있다. 소스 디바이스 및/또는 수신 디바이스는 전자 디바이스, 이를테면 모바일 또는 정지식 전화 핸드셋 (예컨대, 스마트폰, 셀룰러폰 등), 데스크탑 컴퓨터, 랩톱 또는 노트북 컴퓨터, 태블릿 컴퓨터, 셋톱 박스, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 콘솔, 비디오 스트리밍 디바이스, 또는 임의의 다른 적합한 전자 디바이스를 포함할 수도 있다. 일부 예들에서, 소스 디바이스와 수신 디바이스는 무선 통신들을 위한 하나 이상의 무선 트랜시버들을 포함할 수도 있다. 본 명세서에서 설명되는 코딩 기법들은, 스트리밍 비디오 송신들 (예컨대, 인터넷을 통함), 텔레비전 브로드캐스트들 또는 송신들, 데이터 저장 매체 상의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장되는 디지털 비디오의 디코딩, 또는 다른 애플리케이션들을 포함하는, 다양한 멀티미디어 애플리케이션들에서의 비디오 코딩에 적용 가능하다. 일부 예들에서, 시스템 (2000) 은 화상회의 시스템, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 게이밍, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위해 단방향 또는 양방향 비디오 송신을 지원할 수 있다.
인코딩 디바이스 (2004) (또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하는 비디오 코딩 표준 또는 프로토콜을 사용하여, 가상 현실 비디오 데이터를 포함한 비디오 데이터를 인코딩하는데 사용될 수 있다. 비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 각각 SVC및 MVC로서 알려진 스케일러블 비디오 코딩 및 멀티뷰 비디오 코딩 확장본들을 포함한 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 를 포함한다. 더 최근의 비디오 코딩 표준인 고 효율 비디오 코딩 (HEVC) 이 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group, VCEG) 및 ISO/IEC 동 화상 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 완결되었다. MV-HEVC라 지칭되는 HEVC에 대한 멀티뷰 확장본과, SHVC라 지칭되는 HEVC에 대한 스케일러블 확장본, 또는 임의의 다른 적합한 코딩 프로토콜을 포함하여, HEVC에 대한 다양한 확장본들이 다층 비디오 코딩을 다루고 JCT-VC에 의해 또한 개발되고 있다.
본 명세서에서 설명되는 구현예들은 HEVC 표준, 또는 그 확장본들을 사용하여 예들을 설명한다. 그러나, 본 명세서에서 설명되는 기법들 및 시스템들은 다른 코딩 표준들, 이를테면 AVC, MPEG, 그 확장본들, 또는 이미 이용 가능하거나 또는 아직 이용 가능하지 않거나 또는 개발되고 있는 다른 적합한 코딩 표준들에 또한 적용 가능할 수도 있다. 따라서, 본 명세서에서 설명되는 기법들 및 시스템들이 특정 비디오 코딩 표준을 참조하여 설명될 수도 있지만, 본 기술분야의 통상의 기술자는 그 설명이 특정 표준에만 적용되도록 해석되지 않아야 함을 이해할 것이다.
비디오 소스 (2002) 는 비디오 데이터를 인코딩 디바이스 (2004) 에 제공할 수도 있다. 비디오 소스 (2002) 는 소스 디바이스의 일부일 수도 있거나, 또는 소스 디바이스와는 다른 디바이스의 일부일 수도 있다. 비디오 소스 (2002) 는 비디오 캡처 디바이스 (예컨대, 비디오 카메라, 카메라 폰, 비디오 폰 등), 저장된 비디오를 포함하는 비디오 아카이브, 비디오 데이터를 제공하는 비디오 서버 또는 콘텐츠 제공자, 비디오 서버 또는 콘텐츠 제공자로부터 비디오를 수신하는 비디오 피드 인터페이스, 컴퓨터 그래픽 비디오 데이터를 생성하는 컴퓨터 그래픽 시스템, 이러한 소스들의 조합, 또는 임의의 다른 적합한 비디오 소스를 포함할 수도 있다. 비디오 소스 (2002) 의 하나의 예는 인터넷 프로토콜 카메라 (IP 카메라) 를 포함할 수 있다. IP 카메라가 감시, 홈 보안, 또는 다른 적합한 애플리케이션을 위해 사용될 수 있는 유형의 디지털 비디오 카메라이다. 아날로그 폐쇄 회로 텔레비전 (CCTV) 카메라들과는 달리, IP 카메라가 컴퓨터 네트워크 및 인터넷을 통해 데이터를 전송 및 수신할 수 있다.
비디오 소스 (2002) 로부터의 비디오 데이터는 하나 이상의 입력 픽처들 또는 프레임들을 포함할 수도 있다. 픽처 또는 프레임은 비디오의 일부인 스틸 이미지이다. 인코딩 디바이스 (2004) 의 인코더 엔진 (2006) (또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하기 위해 비디오 데이터를 인코딩한다. 일부 예들에서, 인코딩된 비디오 비트스트림 (또는 "비디오 비트스트림" 또는 "비트스트림") 이 일련의 하나 이상의 코딩된 비디오 시퀀스들이다. 코딩된 비디오 시퀀스 (CVS) 가 기본 계층에 랜덤 액세스 포인트 픽처를 가지고 특정한 성질들을 갖는 AU로 시작하고 기본 계층에 랜덤 액세스 포인트 픽처를 가지고 특정한 성질들을 갖는 다음의 AU까지 그 AU를 포함하지 않는 일련의 액세스 유닛들 (AU들) 을 포함한다. 예를 들어, CVS를 시작하는 랜덤 액세스 포인트 픽처의 특정한 성질들은 1과 동일한 RASL 플래그 (예컨대, NoRaslOutputFlag) 를 포함할 수도 있다. 그렇지 않으면, 랜덤 액세스 포인트 픽처 (0과 동일한 RASL 플래그를 가짐) 가 CVS를 시작하지 않는다. 액세스 유닛 (AU) 이 동일한 출력 시간을 공유하는 하나 이상의 코딩된 픽처들 및 코딩된 픽처들에 대응하는 제어 정보를 포함한다. 픽처들의 코딩된 슬라이스들은 비트스트림 레벨에서 네트워크 추상화 계층 (NAL) 유닛들이라 지칭되는 데이터 유닛들로 캡슐화된다. 예를 들어, HEVC 비디오 비트스트림이 NAL 유닛들을 포함하여 하나 이상의 CVS들을 포함할 수도 있다. 비디오 코딩 계층 (VCL) NAL 유닛들과 비-VCL NAL 유닛들을 포함하는 두 가지 클래스들의 NAL 유닛들이 HEVC 표준에 존재한다. VCL NAL 유닛이 코딩된 픽처 데이터의 하나의 슬라이스 또는 슬라이스 세그먼트 (아래에서 기술됨) 를 포함하고, 비-VCL NAL 유닛이 하나 이상의 코딩된 픽처들에 관련되는 제어 정보를 포함한다.
NAL 유닛들은 비디오 데이터의 코딩된 표현 (예컨대, 인코딩된 비디오 비트스트림, 비트스트림의 CVS 등), 이를테면 비디오에서의 픽처들의 코딩된 표현들을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 인코더 엔진 (2006) 은 각각의 픽처를 다수의 슬라이스들로 파티셔닝함으로써 픽처들의 코딩된 표현들을 생성한다. 슬라이스들은 그 다음에 루마 샘플들 및 크로마 샘플들의 코딩 트리 블록들 (CTB들) 로 파티셔닝된다. 루마 샘플들의 CTB와 크로마 샘플들의 하나 이상의 CTB들이, 그 샘플들을 위한 신택스와 함께, 코딩 트리 유닛 (CTU) 이라고 지칭된다. CTU가 HEVC 인코딩을 위한 기본 프로세싱 유닛이다. CTU가 가변하는 사이즈들의 다수의 코딩 유닛들 (CU들) 로 분할될 수 있다. CU가 코딩 블록들 (CB들) 이라고 지칭되는 루마 및 크로마 샘플 어레이들을 포함한다.
루마 및 크로마 CB들은 예측 블록들 (PB들) 로 추가로 분할될 수 있다. PB가 인터 예측을 위해 동일한 모션 파라미터들을 사용하는 루마 또는 크로마 성분의 샘플들의 블록이다. 루마 PB 및 하나 이상의 크로마 PB들은, 연관된 신택스와 함께, 예측 유닛 (PU) 을 형성한다. 모션 파라미터들의 세트가 각각의 PU에 대한 비트스트림에서 시그널링되고 루마 PB 및 하나 이상의 크로마 PB들의 인터 예측을 위해 사용된다. CB가 하나 이상의 변환 블록들 (TB들) 로 또한 파티셔닝될 수 있다. TB이 예측 잔차 신호를 코딩하기 위해 동일한 2차원 변환이 적용되는 컬러 성분의 샘플들의 정사각형 블록을 나타낸다. 변환 유닛 (TU) 이 루마 및 크로마 샘플들의 TB들과, 대응하는 신택스 엘리먼트들을 나타낸다.
CU의 사이즈가 코딩 노드의 사이즈에 대응하고 형상이 정사각형일 수도 있다. 예를 들어, CU의 사이즈가 8 x 8 샘플들, 16 x 16 샘플들, 32 x 32 샘플들, 64 x 64 샘플들, 또는 대응하는 CTU의 사이즈까지의 임의의 다른 적절한 사이즈일 수도 있다. "N x N"라는 어구는 수직 및 수평 치수들 (예컨대, 8 화소들 x 8 화소들) 의 측면에서 비디오 블록의 화소 치수들을 지칭하기 위해 본 명세서에서 사용된다. 블록에서의 화소들은 행들 및 열들로 배열될 수도 있다. 일부 실시형태들에서, 블록들은 수직 방향에서와 동일한 수의 화소들을 수평 방향에서 가지지 않을 수도 있다. CU에 연관된 신택스 데이터는, 예를 들어, CU의 하나 이상의 PU들로의 파티셔닝을 기술할 수도 있다. 파티셔닝 모드들은 CU가 인트라 예측 모드 인코딩되든지, 또는 인터 예측 모드 인코딩되든지 간에 상이할 수도 있다. PU들은 형상이 비-정사각형이도록 파티셔닝될 수도 있다. CU에 연관된 신택스 데이터는, 예를 들어, CTU에 따라 하나 이상의 TU들로의 CU의 파티셔닝을 또한 기술할 수도 있다. TU가 형상이 정사각형이거나 또는 정사각형이 아닐 수 있다.
HEVC 표준에 따르면, 변환들이 변환 유닛들 (TU들) 을 사용하여 변환될 수도 있다. TU들은상이한 CU들에 대해 가변할 수도 있다. TU들은 주어진 CU 내의 PU들의 사이즈에 기초한 사이즈로 될 수도 있다. TU들은 PU들과 동일한 사이즈이거나 또는 그것들보다 작을 수도 있다. 일부 예들에서, CU에 대응하는 잔차 샘플들은 잔차 쿼드 트리 (RQT) 로서 알려진 쿼드트리 구조를 사용하여 더 작은 유닛들로 세분될 수도 있다. RQT의 리프 노드들이 TU들에 대응할 수도 있다. TU들에 연관되는 화소 차이 값들이 변환 계수들을 형성하도록 변환될 수도 있다. 변환 계수들은 그 다음에 인코더 엔진 (2006) 에 의해 양자화될 수도 있다.
일단 비디오 데이터의 픽처들이 CU들로 파티셔닝되면, 인코더 엔진 (2006) 은 예측 모드를 사용하여 각각의 PU를 예측한다. 예측은 그 다음에 잔차들 (아래에서 설명됨) 을 얻기 위해 원래의 비디오 데이터로부터 감산된다. 각각의 CU에 대해, 예측 모드가 신택스 데이터를 사용하여 비트스트림 내부에서 시그널링될 수도 있다. 예측 모드가 인트라 예측 (또는 픽처내 예측) 또는 인터 예측 (또는 픽처간 예측) 을 포함할 수도 있다. 인트라 예측을 사용하여, 각각의 PU는, 예를 들어, PU에 대한 평균값을 찾기 위한 DC 예측, 평평한 표면을 PU에 맞추기 위한 평면 예측, 이웃 데이터로부터의 외삽을 위한 방향 예측, 또는 임의의 다른 적합한 유형들의 예측을 사용하여, 동일한 픽처에서의 이웃 이미지 데이터로부터 예측된다. 인터 예측을 사용하면, 각각의 PU는 하나 이상의 참조 픽처들에서의 이미지 데이터 (출력 순서에서 현재 픽처 전 또는 후) 로부터 모션 보상 예측을 사용하여 예측된다. 픽처 영역을 픽처간 예측을 사용하여 코딩할지 또는 픽처내 예측을 사용하여 코딩할지의 결정은, 예를 들어, CU 레벨에서 이루어질 수도 있다. 일부 예들에서, 픽처의 하나 이상의 슬라이스들에는 슬라이스 유형이 배정된다. 슬라이스 유형들은 I 슬라이스, P 슬라이스, 및 B 슬라이스를 포함한다. I 슬라이스 (인트라-프레임들, 독립적으로 디코딩 가능함) 가 인트라 예측에 의해서만 코딩되는 픽처의 슬라이스이고, 그러므로 I 슬라이스가 슬라이스의 임의의 블록을 예측하기 위해 프레임 내의 데이터만을 요구하기 때문에 독립적으로 디코딩 가능하다. P 슬라이스 (단방향 예측된 프레임들) 가 인트라 예측 및 단방향 인터 예측으로 코딩될 수도 있는 픽처의 슬라이스이다. P 슬라이스 내의 각각의 블록은 인트라 예측 또는 인터 예측 중 어느 하나로 코딩된다. 인터 예측이 적용될 때, 블록은 하나의 참조 픽처에 의해서만 예측되고, 그러므로 참조 샘플들은 하나의 프레임의 하나의 참조 지역으로부터만의 것들이다. B 슬라이스 (양방향 예측 프레임들) 가 인트라 예측 및 인터 예측으로 코딩될 수도 있는 픽처의 슬라이스이다. B 슬라이스의 블록이 두 개의 참조 픽처들로부터 양방향 예측될 수도 있으며, 각각의 픽처는 하나의 참조 지역에 기여하고 두 개의 참조 지역들의 샘플 세트들은 양방향 예측된 블록의 예측 신호를 생성하기 위해 (예컨대, 동일한 가중값들로) 가중된다. 위에서 설명된 바와 같이, 하나의 픽처의 슬라이스들은 독립적으로 코딩된다. 일부 경우들에서, 픽처가 그저 하나의 슬라이스로서 코딩될 수 있다.
PU가 예측 프로세스에 관련된 데이터를 포함할 수도 있다. 예를 들어, PU가 인트라 예측을 사용하여 인코딩될 때, PU는 PU에 대한 인트라 예측 모드를 기술하는 데이터를 포함할 수도 있다. 다른 예로서, PU가 인터 예측을 사용하여 인코딩될 때, PU는 PU에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU에 대한 모션 벡터를 정의하는 데이터는, 예를 들어, 모션 벡터의 수평 성분, 모션 벡터의 수직 성분, 모션 벡터에 대한 분해능 (예컨대, 1/4 화소 정밀도 또는 1/8 화소 정밀도), 모션 벡터가 가리키는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예컨대, List 0, List 1, 또는 List C) 를 기술할 수도 있다.
인코딩 디바이스 (2004) 는 그 다음에 변환 및 양자화를 수행할 수도 있다. 예를 들어, 예측에 뒤따라, 인코더 엔진 (2006) 은 PU에 대응하는 잔차 값들을 산출할 수도 있다. 잔차 값들은 화소 차이 값들을 포함할 수도 있다. 예측이 수행된 후에 남아 있을 수도 있는 임의의 잔차 데이터가 블록 변환을 사용하여 변환되는데, 블록 변환은 이산 코사인 변환, 이산 사인 변환, 정수 변환, 웨이브릿 변환, 또는 다른 적합한 변환 기능에 기초할 수도 있다. 일부 경우들에서, 하나 이상의 블록 변환들 (예컨대, 사이즈 32 x 32, 16 x 16, 8 x 8, 4 x 4 등) 은 각각의 CU에서의 잔차 데이터에 적용될 수도 있다. 일부 실시형태들에서, TU가 인코더 엔진 (2006) 에 의해 구현되는 변환 및 양자화 프로세스들을 위해 사용될 수도 있다. 하나 이상의 PU들을 갖는 주어진 CU가 하나 이상의 TU들을 또한 포함할 수도 있다. 아래에서 더 상세히 설명되는 바와 같이, 잔차 값들은 블록 변환들을 사용하여 변환 계수들로 변환될 수도 있고, 그 다음에 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위해 TU들을 사용하여 양자화되고 스캐닝될 수도 있다.
다르게 말하면, CU의 PU들을 사용하는 인트라 예측 또는 인터 예측 코딩에 뒤따라, 인코더 엔진 (2006) 은 CU의 TU들에 대한 잔차 데이터를 산출할 수도 있다. PU들은 공간 도메인 (또는 화소 도메인) 에서의 화소 데이터를 포함할 수도 있다. TU들은 블록 변환의 적용에 뒤따르는 변환 도메인에서의 계수들을 포함할 수도 있다. 이전에 언급된 바와 같이, 잔차 데이터는 인코딩되지 않은 픽처의 화소들 및 PU들에 대응하는 예측 값들 사이의 화소 차이 값들에 해당할 수도 있다. 인코더 엔진 (2006) 은 CU에 대한 잔차 데이터를 포함하는 TU들을 형성할 수도 있고 그 다음에 CU에 대한 변환 계수들을 생성하기 위해 그 TU들을 변환할 수도 있다.
인코더 엔진 (2006) 은 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 계수들을 표현하는데 사용되는 데이터의 양을 줄이기 위해 변환 계수들을 양자화함으로써 추가의 압축을 제공한다. 예를 들어, 양자화는 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 하나의 예에서, n-비트 값을 갖는 계수가 양자화 동안 n이 m보다 더 큰 m-비트 값으로 버림될 수도 있다.
일단 양자화가 수행되면, 코딩된 비디오 비트스트림은 양자화된 변환 계수들, 예측 정보 (예컨대, 예측 모드들, 모션 벡터들 등), 파티셔닝 정보, 및 임의의 다른 적합한 데이터, 이를테면 다른 신택스 데이터를 포함한다. 코딩된 비디오 비트스트림의 상이한 엘리먼트들은 그 다음에 인코더 엔진 (2006) 에 의해 엔트로피 인코딩될 수도 있다. 일부 예들에서, 인코더 엔진 (2006) 은 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 미리 정의된 스캔 순서를 이용하여 양자화된 변환 계수들을 스캔할 수도 있다. 일부 예들에서, 인코더 엔진 (2006) 은 적응적 스캔을 수행할 수도 있다. 벡터 (예컨대, 1차원 벡터) 를 형성하기 위해 양자화된 변환 계수들을 스캐닝한 후, 인코더 엔진 (2006) 은 그 벡터를 엔트로피 인코딩할 수도 있다. 예를 들어, 인코더 엔진 (2006) 은 콘텍스트 적응 가변 길이 코딩, 콘텍스트 적응 이진 산술 코딩, 신택스 기반 콘텍스트 적응 이진 산술 코딩, 확률 간격 파티셔닝 엔트로피 코딩, 또는 다른 적합한 엔트로피 인코딩 기법을 사용할 수도 있다.
인코딩 디바이스 (2004) 의 출력 (2010) 은 인코딩된 비디오 비트스트림 데이터를 구성하는 NAL 유닛들을 통신 링크 (2020) 를 통해 수신 디바이스의 디코딩 디바이스 (2012) 에 전송할 수도 있다. 디코딩 디바이스 (2012) 의 입력 (2014) 은 NAL 유닛들을 수신할 수도 있다. 통신 링크 (2020) 는 무선 네트워크, 유선 네트워크, 또는 유선 및 무선 네트워크의 조합에 의해 제공되는 채널을 포함할 수도 있다. 무선 네트워크가 임의의 무선 인터페이스 또는 무선 인터페이스들의 조합을 포함할 수도 있고, 임의의 적합한 무선 네트워크 (예컨대, 인터넷 또는 다른 광역 네트워크, 패킷 기반 네트워크, WiFiTM, 무선 주파수 (RF), UWB, WiFi-Direct, 셀룰러, LTE (Long-Term Evolution), WiMaxTM 등) 를 포함할 수도 있다. 유선 네트워크가 임의의 유선 인터페이스 (예컨대, 섬유, 이더넷, 전력선 이더넷, 동축 케이블을 통한 이더넷, 디지털 신호 라인 (DSL) 등) 를 포함할 수도 있다. 유선 및/또는 무선 네트워크들은 다양한 장비, 이를테면 기지국들, 라우터들, 액세스 포인트들, 브릿지들, 게이트웨이들, 스위치들 등을 사용하여 구현될 수도 있다. 인코딩된 비디오 비트스트림 데이터는 통신 표준, 이를테면 무선 통신 프로토콜에 따라 변조되고 수신 디바이스로 송신될 수도 있다.
일부 예들에서, 인코딩 디바이스 (2004) 는 인코딩된 비디오 비트스트림 데이터를 저장소 (2008) 에 저장할 수도 있다. 출력 (2010) 은 인코더 엔진 (2006) 으로부터 또는 저장소 (2008) 로부터 인코딩된 비디오 비트스트림 데이터를 취출할 수도 있다. 저장소 (2008) 는 다양한 분산되거나 또는 국부적으로 액세스되는 데이터 저장 미디어 중 어느 것을 포함할 수도 있다. 예를 들어, 저장소 (2008) 는 하드 드라이브, 저장 디스크, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 미디어를 포함할 수도 있다.
디코딩 디바이스 (2012) 의 입력 (2014) 은 인코딩된 비디오 비트스트림 데이터를 수신하고 비디오 비트스트림 데이터를 디코더 엔진 (2016) 에, 또는 저장소 (2018) 에 디코더 엔진 (2016) 에 의한 나중의 사용을 위해 제공할 수도 있다. 디코더 엔진 (2016) 은 인코딩된 비디오 데이터를 구성하는 하나 이상의 코딩된 비디오 시퀀스들의 엘리먼트들을 (예컨대, 엔트로피 디코더를 사용하여) 엔트로피 디코딩하고 추출함으로써 인코딩된 비디오 비트스트림 데이터를 디코딩할 수도 있다. 디코더 엔진 (2016) 은 그 다음에 인코딩된 비디오 비트스트림 데이터에 대한 스케일링 및 역변환을 수행할 수도 있다. 잔차 데이터는 그 다음에 디코더 엔진 (2016) 의 예측 스테이지에 전해진다. 디코더 엔진 (2016) 은 그 다음에 화소들의 블록 (예컨대, PU) 를 예측한다. 일부 예들에서, 예측은 역변환의 출력 (잔차 데이터) 에 가산된다.
디코딩 디바이스 (2012) 는 디코딩된 비디오를 비디오 목적지 디바이스 (2022) 에 출력할 수도 있으며, 비디오 목적지 디바이스는 디코딩된 비디오 데이터를 콘텐츠의 소비자에게 디스플레이하기 위한 디스플레이 또는 다른 출력 디바이스를 포함할 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (2022) 는 디코딩 디바이스 (2012) 를 포함하는 수신 디바이스의 일부일 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (2022) 는 수신 디바이스와는 다른 별도의 디바이스의 일부일 수도 있다.
보충적 향상 정보 (SEI) 메시지들이 비디오 비트스트림들에 포함될 수 있다. 예를 들어, SEI 메시지들은 디코딩 디바이스 (2012) 에 의해 비트스트림을 디코딩하기 위하여 필수적이지 않은 정보 (예컨대, 메타데이터) 를 운반하는데 사용될 수도 있다. 이 정보는 디코딩된 출력의 디스플레이 또는 프로세싱을 개선함에 있어서 유용하다 (예컨대, 이러한 정보는 콘텐츠의 가시성을 개선하기 위해 디코더 측 엔티티들에 의해 사용될 수 있다).
일부 실시형태들에서, 비디오 인코딩 디바이스 (2004) 및/또는 비디오 디코딩 디바이스 (2012) 는 각각 오디오 인코딩 디바이스 및 오디오 디코딩 디바이스와 통합될 수도 있다. 비디오 인코딩 디바이스 (2004) 및/또는 비디오 디코딩 디바이스 (2012) 는 위에서 설명된 코딩 기법들을 구현하는데 필요한 다른 하드웨어 또는 소프트웨어, 이를테면 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적회로들 (ASIC들), 필드 프로그램가능 게이트 어레이들 (FPGA들), 이산 로직, 소프트웨어, 하드웨어, 펌웨어 또는 그것들의 임의의 조합들을 또한 포함할 수도 있다. 비디오 인코딩 디바이스 (2004) 와 비디오 디코딩 디바이스 (2012) 는 각각의 디바이스에서의 조합된 인코더/디코더 (코덱) 의 일부로서 통합될 수도 있다.
HEVC 표준에 대한 화장본들이 MV-HEVC라 지칭되는 멀티뷰 비디오 코딩 확장본과, SHVC라 지칭되는 스케일러블 비디오 코딩 확장본을 포함한다. MV-HEVC 및 SHVC 확장본들은 상이한 계층들이 인코딩된 비디오 비트스트림에 포함되어 있는 계층화된 코딩의 개념을 공유한다. 코딩된 비디오 시퀀스에서의 각각의 계층은 고유 계층 식별자 (ID) 에 의해 어드레싱된다. 계층 ID가 NAL 유닛이 연관되는 계층을 식별하기 위해 NAL 유닛의 헤더에 존재할 수도 있다. MV-HEVC에서, 상이한 계층들이 비디오 비트스트림에서의 동일한 장면의 상이한 뷰들을 나타낼 수 있다. SHVC에서, 상이한 공간적 해상도들 (또는 픽처 해상도) 로 또는 상이한 재구성 충실도들로 비디오 비트스트림을 나타내는 상이한 스케일러블 계층들이 제공된다. 스케일러블 계층들은 기본 계층 (계층 ID = 0을 가짐) 과 하나 이상의 향상 계층들 (계층 ID들 = 1, 2, ... n을 가짐) 을 포함할 수도 있다. 기본 계층은 HEVC의 첫 번째 버전의 프로파일을 준수할 수도 있고, 비트스트림에서 최저 이용가능 계층을 표현한다. 향상 계층들은 기본 계층과 비교하여 증가된 공간적 해상도, 시간적 해상도 또는 프레임 레이트, 및/또는 재구성 충실도 (또는 품질) 를 가진다. 향상 계층들은 계층적으로 조직되고 하위 계층들에 따라 달라질 수도 있거나 또는 달라지지 않을 수도 있다. 일부 예들에서, 상이한 계층들은 단일 표준 코덱을 사용하여 코딩될 수도 있다 (예컨대, 모든 계층들은 HEVC, SHVC, 또는 다른 코딩 표준을 사용하여 인코딩된다). 일부 예들에서, 상이한 계층들은 멀티-표준 코덱을 사용하여 코딩될 수도 있다. 예를 들어, 기본 계층이 AVC를 사용하여 코딩될 수도 있는 한편, 하나 이상의 향상 계층들이 HEVC 표준에 대한 SHVC 및/또는 MV-HEVC 확장본들을 사용하여 코딩될 수도 있다. 일반적으로, 계층이 VCL NAL 유닛들의 세트와 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들에는 특정 계층 ID 값이 배정된다. 계층들은 계층이 하위 계층에 따라 달라질 수도 있다는 의미로 계층적일 수 있다.
일반적으로, 계층이 VCL NAL 유닛들의 세트와 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들에는 특정 계층 ID 값이 배정된다. 계층들은 계층이 하위 계층에 따라 달라질 수도 있다는 의미로 계층적일 수 있다. 계층 세트가 자립적인 (self-contained) 비트스트림 내에서 표현되는 계층들의 세트를 지칭하며, 이는 계층 세트 내의 계층들이 디코딩 프로세스에서 계층 세트의 다른 계층들에 따라 달라질 수 있지만, 디코딩을 위한 임의의 다른 계층들에 따라 달라지지 않는다는 것을 의미한다. 따라서, 계층 세트에서의 계층들은 비디오 콘텐츠를 표현할 수 있는 독립적인 비트스트림을 형성할 수 있다. 계층 세트에서의 계층들의 세트는 서브-비트스트림 추출 프로세스의 동작에 의해 다른 비트스트림으로부터 획득될 수도 있다. 계층 세트가 디코더가 특정한 파라미터들에 따라 동작하기 원할 때 디코딩될 것인 계층들의 세트에 해당할 수도 있다.
카메라 (예컨대, 어안 카메라 또는 다른 전방위 카메라) 에 의해 캡처된 비디오 데이터는 송신 및 저장을 위해 필요한 데이터의 양을 줄이기 위해 코딩될 수 있다. 코딩 기법들은 예시적인 비디오 인코딩 및 디코딩 시스템 (예컨대, 시스템 (2000)) 에서 구현될 수도 있다. 일부 예들에서, 시스템이 목적지 디바이스에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 비디오 데이터를 컴퓨터 판독가능 매체를 통해 목적지 디바이스에 제공한다. 소스 디바이스와 목적지 디바이스는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 이른바 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스 등을 포함한 매우 다양한 디바이스들 중 임의의 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스와 목적지 디바이스는 무선 통신을 위해 장비될 수도 있다.
인코딩 디바이스 (2104) 및 디코딩 디바이스 (2212) 의 특정 세부사항들은 각각 도 21 및 도 22에서 도시된다. 도 21은 본 개시물에서 기술되는 기법들 중 하나 이상을 구현할 수도 있는 예시적인 인코딩 디바이스 (2104) 를 도시하는 블록도이다. 인코딩 디바이스 (2104) 는, 예를 들어, 본 명세서에서 설명되는 신택스 구조들 (예컨대, VPS, SPS, PPS, 또는 다른 신택스 엘리먼트들의 신택스 구조들) 을 생성할 수도 있다. 인코딩 디바이스 (2104) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라 예측 및 인터 예측 코딩을 수행할 수도 있다. 이전에 설명된 바와 같이, 인트라 코딩은 주어진 비디오 프레임 또는 픽처 내에서 공간적 리던던시를 감소시키거나 또는 제거하기 위해 공간적 예측에 적어도 부분적으로 의존한다. 인터 코딩은, 비디오 시퀀스의 인접한 또는 주위의 프레임들 내의 시간적 리던던시를 감소시키거나 또는 제거하기 위해 시간적 예측에 적어도 부분적으로 의존한다. 인트라 모드 (I 모드) 는 여러 공간 기반 압축 모드들 중 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양-예측 (B 모드) 과 같은 인터 모드들은 여러 시간 기반 압축 모드들 중 임의의 것을 지칭할 수도 있다.
인코딩 디바이스 (2104) 는 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 복원을 위해, 인코딩 디바이스 (2104) 는 역양자화 유닛 (58), 역변환 유닛 (60), 및 합산기 (62) 를 또한 포함한다. 필터 유닛 (63) 은 블록화제거 필터, 적응적 루프 필터 (ALF), 및 샘플 적응 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된다. 비록 필터 유닛 (63) 이 루프내 필터인 것으로 도 21에서 도시되지만, 다른 구성들에서, 필터 유닛 (63) 은 포스트 루프 필터로서 구현될 수도 있다. 포스트 프로세싱 디바이스 (57) 가 인코딩 디바이스 (2104) 에 의해 생성되는 인코딩된 비디오 데이터에 대해 추가적인 프로세싱을 수행할 수도 있다. 본 개시물의 기법들은 일부 경우들에서 인코딩 디바이스 (2104) 에 의해 구현될 수도 있다. 그러나, 다른 경우들에서, 본 개시물의 기법들 중 하나 이상은 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.
도 21에 도시된 바와 같이, 인코딩 디바이스 (2104) 는 비디오 데이터를 수신하고 파티셔닝 유닛 (35) 는 그 데이터를 비디오 블록들로 파티셔닝한다. 파티셔닝은 슬라이스들, 슬라이스 세그먼트들, 타일들, 또는 다른 더 큰 유닛들로의 파티셔닝, 뿐만 아니라, 예컨대 LCU들 및 CU들의 쿼드트리 구조에 따른, 비디오 블록 파티셔닝을 또한 포함할 수도 있다. 인코딩 디바이스 (2104) 는 인코딩될 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 일반적으로 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고 아마도 타일들이라고 지칭되는 비디오 블록들의 세트들로) 나누어질 수도 있다. 예측 프로세싱 유닛 (41) 은 복수의 가능한 코딩 모드들 중 하나, 이를테면 복수의 인트라 코딩 모드들 중 하나 또는 복수의 인터 예측 코딩 모드들 중 하나를 에러 결과들 (예컨대, 코딩 레이트와 왜곡 레벨 등) 에 기초하여 현재 비디오 블록에 대해 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라 또는 인터 코딩된 블록을 잔차 블록 데이터를 생성하는 합산기 (50) 및 참조 픽처로서 사용하기 위해 인코딩된 블록을 복원하는 합산기 (62) 에 제공할 수도 있다.
예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 코딩될 현재 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃 블록들을 기준으로 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 압축을 제공할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 는 하나 이상의 참조 픽처들에서의 하나 이상의 예측성 블록들을 기준으로 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 압축을 제공한다.
모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터 예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들, B 슬라이스들 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 과 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만 개념적 목적들을 위해 별개로 예시된다. 모션 추정 유닛 (42) 에 의해 수행되는 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터가, 예를 들어, 참조 픽처 내의 예측성 블록에 대한 현재 비디오 프레임 또는 픽처 내의 비디오 블록의 예측 유닛 (PU) 의 변위를 나타낼 수도 있다.
예측성 블록이 차의 절대값 합 (sum of absolute difference, SAD), 차의 제곱 합 (sum of square difference, SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 화소 차이의 관점에서 코딩될 비디오 블록의 PU에 밀접하게 매칭된다고 생각되는 블록이다. 일부 예들에서, 인코딩 디바이스 (2104) 는 픽처 메모리 (64) 에 저장된 참조 픽처들의 부정수 (sub-integer) 화소 위치들에 대한 값들을 산출할 수도 있다. 예를 들어, 인코딩 디바이스 (2104) 는 참조 픽처의 1/4 화소 위치들, 1/8 화소 위치들, 또는 다른 분수 (fractional) 화소 위치들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 풀 (full) 화소 위치들 및 분수 화소 위치들에 대한 모션 검색을 수행하여 분수 화소 정밀도를 갖는 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (42) 은 PU의 위치와 참조 픽처의 예측성 블록의 위치를 비교함으로써 인터 코딩된 슬라이스에서의 비디오 블록의 PU에 대한 모션 벡터를 산출한다. 참조 픽처는 픽처 메모리 (64) 에 저장된 하나 이상의 참조 픽처들을 각각 식별하는 제 1 참조 픽처 리스트 (List 0) 또는 제 2 참조 픽처 리스트 (List 1) 로부터 선택될 수도 있다. 모션 추정 유닛 (42) 은 산출된 모션 벡터를 엔트로피 인코딩 유닛 (56) 과 모션 보상 유닛 (44) 으로 전송한다.
모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측성 블록을 페치하는 것 또는 생성하는 것, 아마도 부화소 정밀도로 보간들을 수행하는 것을 수반할 수도 있다. 현재 비디오 블록의 PU에 대한 모션 벡터를 수신 시, 모션 보상 유닛 (44) 은 참조 픽처 리스트에서 모션 벡터가 가리키는 예측성 블록을 찾을 수도 있다. 인코딩 디바이스 (2104) 는, 코딩되고 있는 현재 비디오 블록의 화소 값들로부터 예측성 블록의 화소 값들을 감산하여 화소 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 화소 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 성분들 양쪽 모두를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (44) 은 비디오 슬라이스의 비디오 블록들을 디코딩함에 있어서 디코딩 디바이스 (2212) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스에 연관된 신택스 엘리먼트들을 또한 생성할 수도 있다.
인트라 예측 프로세싱 유닛 (46) 은, 위에서 기술된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터 예측에 대한 대안으로서 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라 예측 프로세싱 유닛 (46) 은 현재 블록을 인코딩하는데 사용하기 위한 인트라 예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 프로세싱 유닛 (46) 은 예컨대, 개별 인코딩 과정들 동안에 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 프로세싱 유닛 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 프로세싱 유닛 (46) 은 다양한 테스트된 인트라 예측 모드들에 대한 레이트 왜곡 분석을 사용하여 레이트 왜곡 값들을 산출하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라 예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록과 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의 인코딩되지 않은 블록 사이의 왜곡 (또는 에러) 의 양, 뿐만 아니라 인코딩된 블록을 생성하는데 사용된 비트 레이트 (다시 말하면, 비트들의 수) 를 결정한다. 인트라 예측 프로세싱 유닛 (46) 은 어떤 인트라 예측 모드가 그 블록에 대한 최상의 레이트 왜곡 값을 나타내는지를 결정하기 위해 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 산출할 수도 있다.
어느 경우에나, 블록에 대한 인트라 예측 모드를 선택한 후, 인트라 예측 프로세싱 유닛 (46) 은 그 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라 예측 모드를 나타내는 정보를 인코딩할 수도 있다. 인코딩 디바이스 (2104) 는 다양한 블록들에 대한 콘텍스트들을 인코딩하는 구성 데이터 정의들 뿐만 아니라 콘텍스트들의 각각을 위해 사용할 가장 가능성 있는 인트라 예측 모드, 인트라 예측 모드 인덱스 테이블, 및 수정된 인트라 예측 모드 인덱스 테이블의 표시들을 송신되는 비트스트림에 포함시킬 수도 있다. 비트스트림 구성 데이터는 복수의 인트라 예측 모드 인덱스 테이블들과 복수의 수정된 인트라 예측 모드 인덱스 테이블들 (코드워드 매핑 테이블들이라고 또한 지칭됨) 을 포함할 수도 있다.
예측 프로세싱 유닛 (41) 이 인터 예측 또는 인트라 예측 중 어느 하나를 통해 현재 비디오 블록에 대한 예측성 블록을 생성한 후, 인코딩 디바이스 (2104) 는 현재 비디오 블록으로부터 예측성 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는, 하나 이상의 TU들에 포함되고 변환 프로세싱 유닛 (52) 에 인가될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환과 같은 변환을 사용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환시킨다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 화소 도메인으로부터 변환 도메인, 이를테면 주파수 도메인으로 변환할 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 에 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더욱 감소시킨다. 양자화 프로세스는 그 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 양자화 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 일부 예들에서, 양자화 유닛 (54) 은 그 다음에, 양자화된 변환 계수들을 포함하는 행렬의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 이 그 스캔을 수행할 수도 있다.
양자화를 뒤따라, 엔트로피 인코딩 유닛 (56) 이 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 콘텍스트 적응 가변 길이 코딩 (CAVLC), 콘텍스트 적응 이진 산술 코딩 (CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 인코딩 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 뒤이어, 인코딩된 비트스트림은 디코딩 디바이스 (2212) 로 송신되거나 또는 나중의 송신 또는 디코딩 디바이스 (2212) 에 의한 취출을 위해 보관될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 코딩되고 있는 현재 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 또한 엔트로피 인코딩할 수도 있다.
역양자화 유닛 (58) 과 역변환 프로세싱 유닛 (60) 은 각각 역양자화 및 역변환을 적용하여, 참조 픽처의 참조 블록으로서 나중에 사용하기 위해 화소 도메인에서 잔차 블록을 복원한다. 모션 보상 유닛 (44) 은 참조 픽처 리스트 내의 참조 픽처들 중 하나의 참조 픽처의 예측성 블록에 잔차 블록을 가산함으로써 참조 블록을 산출할 수도 있다. 모션 보상 유닛 (44) 은 또한 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용하여 모션 추정에서의 사용을 위한 부정수 화소 값들을 산출할 수도 있다. 합산기 (62) 는 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산하여, 픽처 메모리 (64) 에서의 저장을 위한 참조 블록을 생성한다. 참조 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 후속 비디오 프레임 또는 픽처에서의 블록을 인터 예측하기 위한 참조 블록으로서 사용될 수도 있다.
이런 방식으로, 도 21의 인코딩 디바이스 (2104) 는 인코딩된 비디오 비트스트림에 대한 신택스를 생성하도록 구성되는 비디오 인코더의 일 예를 나타낸다. 인코딩 디바이스 (2104) 는, 예를 들어, 위에서 기술된 바와 같은 VPS, SPS, 및 PPS 파라미터 세트들을 생성할 수도 있다. 인코딩 디바이스 (2104) 는 도 21 및 도 22를 참조하여 위에서 설명된 프로세스들을 포함하는 본 명세서에서 설명되는 기법들의 임의의 것을 수행할 수도 있다. 본 개시물의 기법들은 대체로 인코딩 디바이스 (2104) 에 관해 설명되었지만, 위에서 언급된 바와 같이, 본 개시물의 기법들 중 일부는 포스트 프로세싱 디바이스 (57) 에 의해 또한 구현될 수도 있다.
도 22는 예시적인 비디오 인코더 (2212) 를 도시하는 블록도이다. 디코딩 디바이스 (2212) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역양자화 유닛 (86), 역변환 프로세싱 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 픽처 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 과 인트라 예측 프로세싱 유닛 (84) 을 포함한다. 디코딩 디바이스 (2212) 는, 일부 예들에서, 도 21로부터 인코딩 디바이스 (2104) 에 관해 기술된 인코딩 과정에 일반적으로 역인 디코딩 과정을 수행할 수도 있다.
디코딩 프로세스 동안, 디코딩 디바이스 (2212) 는 인코딩 디바이스 (2104) 에 의해 전송되는 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 일부 실시형태들에서, 디코딩 디바이스 (2212) 는 인코딩 디바이스 (2104) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 일부 실시형태들에서, 디코딩 디바이스 (2212) 는, 이를테면 위에서 설명된 기법들 중 하나 이상을 구현하도록 구성되는 서버, 미디어 인식 네트워크 엘리먼트 (MANE), 비디오 에디터/스플라이서, 또는 다른 그러한 디바이스와 같은 네트워크 엔티티 (79) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 네트워크 엔티티 (79) 는 인코딩 디바이스 (2104) 를 포함할 수도 있거나 또는 포함하지 않을 수도 있다. 본 개시물에서 설명되는 기법들 중 일부는 네트워크 (79) 가 인코딩된 비디오 비트스트림을 디코딩 디바이스 (2212) 로 송신하기 전에 네트워크 엔티티 (79) 에 의해 구현될 수도 있다. 일부 비디오 디코딩 시스템들에서, 네트워크 엔티티 (79) 와 디코딩 디바이스 (2212) 는 별개의 디바이스들의 부분들일 수도 있지만, 다른 경우들에서, 네트워크 엔티티 (79) 에 관해 설명된 기능은 디코딩 디바이스 (2212) 를 포함하는 동일한 디바이스에 의해 구현될 수도 있다.
디코딩 디바이스 (2212) 의 엔트로피 디코딩 유닛 (80) 은 그 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 에 포워딩한다. 디코딩 디바이스 (2212) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 디코딩 유닛 (80) 은 VPS, SPS, 및 PPS 세트들과 같은 하나 이상의 파라미터 세트들에서의 고정 길이 신택스 엘리먼트들과 가변 길이 신택스 엘리먼트들 양쪽 모두를 프로세싱하고 파싱할 수도 있다.
비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 은 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 현재 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 시그널링된 인트라 예측 모드 및 데이터에 기초하여 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P, 또는 GPB) 슬라이스로서 코딩되는 경우, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재 비디오 슬라이스의 비디오 블록에 대한 예측성 블록들을 생성한다. 예측성 블록들은 참조 픽처 리스트들 중 하나 내의 참조 픽처들 중 하나로부터 생성될 수도 있다. 디코딩 디바이스 (2212) 는 픽처 메모리 (92) 에 저장된 참조 픽처들에 기초하여 디폴트 구축 기법들을 사용하여, 참조 프레임 리스트들 (List 0 및 List 1) 을 구축할 수도 있다.
모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 사용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측성 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 은 파라미터 세트에서의 하나 이상의 신택스 엘리먼트들을 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예컨대, 인트라 예측 또는 인터 예측), 인터 예측 슬라이스 유형 (예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 하나 이상의 참조 픽처 리스트들에 대한 구축 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 스테이터스, 및 현재 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정할 수도 있다.
모션 보상 유닛 (82) 은 보간 필터들에 기초하여 보간을 또한 수행할 수도 있다. 모션 보상 유닛 (82) 은 비디오 블록들의 인코딩 동안에 인코딩 디바이스 (2104) 에 의해 사용된 바와 같은 보간 필터들을 사용하여 참조 블록들의 부정수 화소들에 대한 보간된 값들을 산출할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 인코딩 디바이스 (2104) 에 의해 사용된 보간 필터들을 결정할 수도 있고, 그 보간 필터들을 사용하여 예측성 블록들을 생성할 수도 있다.
역양자화 유닛 (86) 은 비트스트림으로 제공되고 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역양자화, 즉, 탈양자화한다. 역양자화 프로세스는 양자화 정도와, 마찬가지로 적용되어야 할 역양자화의 정도를 결정하기 위해, 비디오 슬라이스에서의 각각의 비디오 블록에 대해 인코딩 디바이스 (2104) 에 의해 산출된 양자화 파라미터의 사용을 포함할 수도 있다. 역변환 프로세싱 유닛 (88) 은 화소 도메인에서 잔차 블록들을 생성하기 위하여 역변환 (예컨대, 역 DCT 또는 다른 적합한 역변환), 역 정수 변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다.
모션 보상 유닛 (82) 이 현재 비디오 블록에 대한 예측성 블록을 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 생성한 후, 디코딩 디바이스 (2212) 는 역변환 프로세싱 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측성 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원한다면, 루프 필터들이 (코딩 루프 내 또는 코딩 루프 뒤 중 어느 하나에서) 화소 전환 (transition) 들을 부드럽게 하기 위해, 또는 그렇지 않으면 비디오 품질을 개선하기 위해 또한 사용될 수도 있다. 필터 유닛 (91) 은 블록화제거 필터, 적응적 루프 필터 (ALF), 및 샘플 적응 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된다. 비록 필터 유닛 (91) 이 루프내 필터인 것으로 도 22에서 도시되지만, 다른 구성들에서, 필터 유닛 (91) 은 포스트 루프 필터로서 구현될 수도 있다. 주어진 프레임 또는 픽처에서의 디코딩된 비디오 블록들은 그러면 픽처 메모리 (92) 에 저장되며, 그 픽처 메모리는 후속 모션 보상을 위해 사용되는 참조 픽처들을 저장한다. 픽처 메모리 (92) 는 디스플레이 디바이스, 이를테면 도 20에 도시된 비디오 목적지 디바이스 (2022) 상의 나중의 프레젠테이션을 위해 디코딩된 비디오를 또한 저장한다.
앞서의 기술에서, 애플리케이션의 양태들은 그것의 특정 실시형태들을 참조하여 설명되지만, 본 기술분야의 통상의 기술자들은 본 개시물이 그렇게 제한되는 것으로 인식할 것이다. 따라서, 본 출원의 예시적인 실시형태들은 본 명세서에서 상세히 설명되었지만, 발명적 개념들은 달리 다양하게 실시되고 채용될 수도 있다는 것과, 첨부의 청구항들은, 종래 기술에 의해 제한된 바를 제외하고는, 이러한 변동들을 포함하도록 해석되도록 의도됨이 이해될 것이다. 위에서 기술된 개시물의 다양한 특징들 및 양태들은 개별적으로 또는 공동으로 사용될 수도 있다. 게다가, 실시형태들은 출원서의 더 넓은 사상 및 범위로부터 벗어남 없이 본 명세서에서 설명된 것들을 넘어서는 임의의 수의 환경들 및 애플리케이션들에서 이용될 수 있다. 명세서 및 도면들은 따라서 제한이라기 보다는 예시적인 것으로 간주되는 것들이다. 예시 목적으로, 방법들은 특정 순서로 설명되었다. 대체 실시형태들에서, 방법들은 기술된 것과는 상이한 순서로 수행될 수도 있다.
컴포넌트들이 특정한 동작들을 수행"하도록 구성되는" 것으로서 설명되는 경우, 이러한 구성은, 예를 들어, 전자 회로들 또는 다른 하드웨어를 동작을 수행하도록 설계함으로써, 프로그램가능 전자 회로들 (예컨대, 마이크로프로세서들, 또는 다른 적합한 전자 회로들) 을 동작을 수행하도록 프로그래밍함으로써, 또는 그것들의 임의의 조합으로 완수될 수 있다.
본 명세서에서 개시된 실시형태들과 관련하여 설명되는 다양한 예시적인 논리 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 둘 다의 조합들로 구현될 수도 있다. 하드웨어 및 소프트웨어의 이러한 교환가능성을 명백하게 예증하기 위하여, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들, 및 단계들이 일반적으로 그것들의 기능의 관점에서 위에서 설명되었다. 이러한 기능이 하드웨어 또는 소프트웨어 중 어느 것으로 구현되는지는 전체 시스템에 부과되는 특정 애플리케이션 및 설계 제약들에 달려있다. 통상의 기술자들은 설명된 기능성을 각 특정 애플리케이션에 대하여 다양한 방식들로 구현할 수도 있지만, 이러한 구현 결정들은 본 개시물의 범위로부터의 일탈을 야기하는 것으로서 해석되지 않아야 한다.
본 명세서에서 설명된 기법들은 하드웨어, 소프트웨어, 펌웨어, 또는 그것들의 임의의 조합으로 구현될 수도 있다. 이러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 애플리케이션을 포함한 다수의 용도들을 갖는 집적회로 디바이스들과 같은 다양한 디바이스들 중 임의의 것으로 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명되는 임의의 특징부들은 통합형 로직 디바이스에 함께 또는 개별적이지만 상호작용하는 로직 디바이스들로서 따로따로 구현될 수도 있다. 소프트웨어로 구현된다면, 이 기법들은, 실행될 때 위에서 설명된 방법들 중의 하나 이상을 수행하는 명령들을 포함한 프로그램 코드를 포함하는 컴퓨터 판독가능 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터 판독가능 데이터 저장 매체는 패키징 자료들을 포함할 수도 있는 컴퓨터 프로그램 제품의 부분을 형성할 수도 있다. 컴퓨터 판독가능 매체는 메모리 또는 데이터 저장 매체, 이를테면 동기식 다이나믹 랜덤 액세스 메모리 (SDRAM) 와 같은 랜덤 액세스 메모리 (RAM), 판독전용 메모리 (ROM), 비휘발성 랜덤 액세스 메모리 (NVRAM), 전기 소거가능 프로그램가능 판독전용 메모리 (EEPROM), 플래시 메모리, 자기 또는 광 데이터 저장 매체 등을 포함할 수도 있다. 본 기법들은 부가하여, 또는 대안으로, 컴퓨터에 의해 액세스, 판독, 및/또는 실행될 수 있는 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 운반하거나 또는 전달하는 컴퓨터 판독가능 통신 매체, 이를테면 전파되는 신호들 또는 파들에 의해 적어도 부분적으로 실현될 수도 있다.
프로그램 코드는 하나 이상의 프로세서들, 이를테면 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적회로들 (ASIC들), 필드 프로그램가능 로직 어레이들 (FPGA들), 또는 다른 동등한 집적 또는 개별 로직 회로를 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 이러한 프로세서는 본 개시물에서 설명되는 기법들 중 임의의 것을 수행하도록 구성될 수도 있다. 범용 프로세서가 마이크로프로세서일 수도 있지만, 대체예에서, 그 프로세서는 기존의 임의의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서가 컴퓨팅 디바이스들의 조합, 예컨대, DSP 및 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 협력하는 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성으로 또한 구현될 수도 있다. 따라서, 본원에서 사용되는 바와 같은 "프로세서"라는 용어는 앞서의 구조, 앞서의 구조의 임의의 조합, 또는 본원에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 또는 장치 중 임의의 것을 지칭할 수도 있다. 덧붙여서, 일부 양태들에서, 본원에서 설명된 기능은 인코딩 및 디코딩을 위해 구성된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에 제공될 수도 있거나, 또는 결합형 비디오 인코더-디코더 (CODEC) 에 통합될 수도 있다.
본 명세서에서 논의되는 코딩 기법들은 예시적인 비디오 인코딩 및 디코딩 시스템에서 실시될 수도 있다. 시스템이 목적지 디바이스에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 비디오 데이터를 목적지 디바이스에 컴퓨터 판독가능 매체를 통해 제공한다. 소스 디바이스와 목적지 디바이스는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 이른바 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스들 등을 포함한 매우 다양한 디바이스들 중 임의의 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스와 목적지 디바이스는 무선 통신을 위해 장비될 수도 있다.
목적지 디바이스는 컴퓨터 판독가능 매체를 통해 디코딩될 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터 판독가능 매체는 소스 디바이스로부터 목적지 디바이스로 인코딩된 비디오 데이터를 이동시킬 수 있는 임의 유형의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 컴퓨터 판독가능 매체가, 소스 디바이스가 인코딩된 비디오 데이터를 직접적으로 목적지 디바이스에 실시간으로 송신하는 것을 가능하게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 통신 표준, 이를테면 무선 통신 프로토콜에 따라 변조되고 목적지 디바이스로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 이를테면 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는 패킷 기반 네트워크, 이를테면 국부 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
일부 예들에서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스로 출력될 수도 있다. 마찬가지로, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산형 또는 국부적으로 액세스되는 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스는 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 해당할 수도 있다. 목적지 디바이스는 저장 디바이스로부터의 저장된 비디오 데이터에 스트리밍 또는 다운로드를 통해 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스로 송신할 수 있는 임의의 유형의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예컨대, 웹사이트용), 파일 전송 프로토콜 (FTP) 서버, 네트워크 부속 스토리지 (NAS) 디바이스들, 또는 국부 디스크 드라이브를 포함한다. 목적지 디바이스는 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양쪽 모두의 조합을 포함할 수도 있다. 저장 디바이스로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 그 조합일 수도 있다.
본 개시물의 기법들은 무선 애플리케이션들 또는 셋팅들로 반드시 제한되지는 않는다. 그 기법들은 다양한 멀티미디어 애플리케이션들 중 임의의 것, 이를테면 OTA (over-the-air) 텔레비전 브로드캐스트, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 인터넷 스트리밍 비디오 송신들, 이를테면 HTTP를 통한 동적 적응적 스트리밍 (DASH), 데이터 저장 매체 상에 인코딩된 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들의 지원으로 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템이 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위해 단방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
하나의 예에서 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함할 수도 있다. 소스 디바이스의 비디오 인코더는 본 명세서에서 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스와 목적지 디바이스가 다른 컴포넌트들 또는 배열체들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 비디오 소스, 이를테면 외부 카메라로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스는, 통합형 디스플레이 디바이스를 포함하는 것이 아니라, 외부 디스플레이 디바이스와 인터페이싱할 수도 있다.
위의 예시적인 시스템은 단지 하나의 예이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 비록 대체로 본 개시물의 기법들이 비디오 인코딩 디바이스에 의해 수행되지만, 그 기법들은 통상 "코덱 (CODEC)"이라고 지칭되는 비디오 인코더/디코더에 의해 또한 수행될 수도 있다. 더구나, 본 개시물의 기법들은 비디오 프리프로세서 (preprocessor) 에 의해 또한 수행될 수도 있다. 소스 디바이스와 목적지 디바이스는, 소스 디바이스가 목적지 디바이스로의 송신을 위해 코딩된 비디오 데이터를 생성하는 그런 코딩 디바이스들의 예들일 뿐이다. 일부 예들에서, 소스 및 목적지 디바이스들은 그 디바이스들의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적 방식으로 동작할 수도 있다. 그런고로, 예시적인 시스템들은, 예컨대, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 또는 화상 통화를 위해 비디오 디바이스들 사이의 단방향 또는 양방향 비디오 송신을 지원할 수도 있다.
비디오 소스는 비디오 캡처 디바이스, 이를테면 비디오 카메라, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 콘텐츠 제공자로부터의 비디오를 수신하는 비디오 피드 인터페이스를 포함할 수도 있다. 추가의 대체예로서, 비디오 소스는 컴퓨터 그래픽 기반 데이터를, 소스 비디오, 또는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성 비디오의 조합으로서 생성할 수도 있다. 일부 경우들에서, 비디오 소스가 비디오 카메라이면, 소스 디바이스와 목적지 디바이스가 이른바 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 위에서 언급된 바와 같이, 본 개시물에서 설명되는 기법들은 대체로 비디오 코딩에 적용 가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각각의 경우에서, 캡처된, 사전-캡처된 (pre-captured), 또는 컴퓨터 생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 그러면 출력 인터페이스에 의해 컴퓨터 판독가능 매체 상으로 출력될 수도 있다.
언급된 바와 같이, 컴퓨터 판독가능 매체는 일시적인 매체들, 이를테면 무선 브로드캐스트 또는 유선 네트워크 송신물, 또는 저장 매체들 (다시 말하면, 비일시적 (non-transitory) 저장 매체들), 이를테면 하드 디스크, 플래시 드라이브, 콤팩트 디스크, 디지털 비디오 디스크, 블루레이 디스크, 또는 다른 컴퓨터 판독가능 매체들을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (도시되지 않음) 가 소스 디바이스로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에, 예컨대, 네트워크 송신을 통해 제공할 수도 있다. 마찬가지로, 매체 생산 설비, 이를테면 디스크 스탬핑 설비의 컴퓨팅 디바이스가, 소스 디바이스로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 포함하는 디스크를 생산할 수도 있다. 그러므로, 컴퓨터 판독가능 매체는 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체들을 포함한다고 이해될 수도 있다.
목적지 디바이스의 입력 인터페이스는 컴퓨터 판독가능 매체로부터 정보를 수신한다. 컴퓨터 판독가능 매체의 정보는, 블록들 및 다른 코딩된 유닛들, 예컨대, 픽처들의 그룹 (GOP) 의 특성들 및/또는 프로세싱을 기술하는 신택스 엘리먼트들을 포함하는, 비디오 디코더에 의해 또한 사용되는, 비디오 인코더에 의해 정의된 신택스 정보를 포함할 수도 있다. 디스플레이 디바이스가 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다. 본 발명의 다양한 실시형태들이 설명되어 있다.

Claims (50)

  1. 비디오 데이터를 프로세싱하는 방법으로서,
    전방위 카메라에 의해 캡처되는 360도 비디오 데이터를 획득하는 단계로서, 상기 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 360도 비디오 데이터를 획득하는 단계;
    상기 전방위 카메라에 연관되는 파라미터들을 획득하는 단계로서, 상기 파라미터들은 상기 이미지의 상기 원형 지역을 기술하는, 상기 파라미터들을 획득하는 단계;
    상기 360도 비디오 데이터를 인코딩하는 단계; 및
    인코딩된 비디오 데이터를 생성하는 단계로서, 상기 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 상기 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 생성하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  2. 제 1 항에 있어서,
    상기 파라미터들은, 상기 이미지에서의 하나 이상의 원형 지역들의 수량, 상기 원형 지역의 중심의 수평 좌표, 상기 원형 지역의 중심의 수직 좌표, 전체 반경 값, 프레임 반경 값, 장면 반경 값, 상기 원형 지역 내에서의 상기 장면의 회전, 플립 값; 스케일링 값; 시야 값, 압축 곡선 값, 사용불가능 화소들을 포함하는 상기 이미지 내의 영역들의 양을 나타내는 값, 또는 사용불가능 화소들을 포함하는 상기 이미지 내의 영역의 위치 및 사이즈 중 하나 이상을 포함하는, 비디오 데이터를 프로세싱하는 방법.
  3. 제 1 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 단계는 상기 인코딩된 360도 비디오 데이터를 파일에 기입하는 단계를 포함하고, 상기 파일은 국제 표준화 기구 기본 미디어 파일 포맷 (ISOBMFF) 포맷에 따라 포맷되는, 비디오 데이터를 프로세싱하는 방법.
  4. 제 3 항에 있어서,
    상기 파라미터들은 파일 레벨에, 영화 레벨에, 또는 트랙 레벨에 포함되는, 비디오 데이터를 프로세싱하는 방법.
  5. 제 3 항에 있어서,
    상기 파라미터들은 제한된 스킴 정보 박스에 포함되는, 비디오 데이터를 프로세싱하는 방법.
  6. 제 1 항에 있어서,
    보충적 향상 정보 (SEI) 메시지에 상기 파라미터들을 인코딩하는 단계로서, 상기 SEI 메시지는 상기 인코딩된 360도 비디오 데이터에 포함되는, 상기 파라미터들을 인코딩하는 단계를 더 포함하는, 비디오 데이터를 프로세싱하는 방법.
  7. 제 6 항에 있어서,
    상기 SEI 메시지는 고급 비디오 코딩 (AVC) 또는 고효율 비디오 코드 (HEVC) 표준에 따라 포맷되는, 비디오 데이터를 프로세싱하는 방법.
  8. 제 1 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 단계는 상기 파라미터들을 세션 데이터 프로토콜 (SDP) 속성들로서 인코딩하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  9. 제 1 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 단계는 상기 파라미터들을 미디어 프레젠테이션 디스크립션 (MPD) 파일에 기입하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  10. 제 1 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 단계는 상기 파라미터들을 동화상 전문가 그룹 (MPEG) 전송 스트림에 기입하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  11. 인코딩된 비디오를 프로세싱하는 장치로서,
    전방위 카메라에 의해 캡처된 2차원 비디오 데이터를 저장하도록 구성되는 메모리; 및
    프로세서를 포함하며,
    상기 프로세서는,
    전방위 카메라에 의해 캡처되는 360도 비디오 데이터를 획득하는 것으로서, 상기 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 360도 비디오 데이터를 획득하는 것을 행하고;
    상기 전방위 카메라에 연관되는 파라미터들을 획득하는 것으로서, 상기 파라미터들은 상기 이미지의 상기 원형 지역을 기술하는, 상기 파라미터들을 획득하는 것을 행하며;
    상기 360도 비디오 데이터를 인코딩하며; 그리고
    인코딩된 비디오 데이터를 생성하는 것으로서, 상기 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 상기 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 생성하는 것을 행하도록 구성되는, 인코딩된 비디오를 프로세싱하는 장치.
  12. 제 11 항에 있어서,
    상기 파라미터들은, 상기 이미지에서의 하나 이상의 원형 지역들의 수량, 상기 원형 지역의 중심의 수평 좌표, 상기 원형 지역의 중심의 수직 좌표, 전체 반경 값, 프레임 반경 값, 장면 반경 값, 상기 원형 지역 내에서의 상기 장면의 회전, 플립 값; 스케일링 값; 시야 값, 압축 곡선 값, 사용불가능 화소들을 포함하는 상기 이미지 내의 영역들의 양을 나타내는 값, 또는 사용불가능 화소들을 포함하는 상기 이미지 내의 영역의 위치 및 사이즈 중 하나 이상을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  13. 제 11 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 것은 상기 인코딩된 360도 비디오 데이터를 파일에 기입하는 것을 포함하고, 상기 파일은 국제 표준화 기구 기본 미디어 파일 포맷 (ISOBMFF) 포맷에 따라 포맷되는, 인코딩된 비디오를 프로세싱하는 장치.
  14. 제 13 항에 있어서,
    상기 파라미터들은 파일 레벨에, 영화 레벨에, 또는 트랙 레벨에 포함되는, 인코딩된 비디오를 프로세싱하는 장치.
  15. 제 13 항에 있어서,
    상기 파라미터들은 제한된 스킴 정보 박스에 포함되는, 인코딩된 비디오를 프로세싱하는 장치.
  16. 제 11 항에 있어서,
    상기 프로세서는 또한,
    보충적 향상 정보 (SEI) 메시지에 상기 파라미터들을 인코딩하는 것으로서, 상기 SEI 메시지는 상기 인코딩된 360도 비디오 데이터에 포함되는, 상기 파라미터들을 인코딩하는 것을 행하도록 구성되는, 인코딩된 비디오를 프로세싱하는 장치.
  17. 제 16 항에 있어서,
    상기 SEI 메시지는 고급 비디오 코딩 (AVC) 또는 고효율 비디오 코드 (HEVC) 표준에 따라 포맷되는, 인코딩된 비디오를 프로세싱하는 장치.
  18. 제 11 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 것은 상기 파라미터들을 세션 데이터 프로토콜 (SDP) 속성들로서 인코딩하는 것을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  19. 제 11 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 것은 상기 파라미터들을 미디어 프레젠테이션 디스크립션 (MPD) 파일에 기입하는 것을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  20. 제 11 항에 있어서,
    상기 인코딩된 비디오 데이터를 생성하는 것은 상기 파라미터들을 동화상 전문가 그룹 (MPEG) 전송 스트림에 기입하는 것을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  21. 제 11 항에 있어서,
    모바일 디바이스를 더 포함하며,
    상기 모바일 디바이스는 상기 전방위 카메라를 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  22. 명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금,
    전방위 카메라에 의해 캡처되는 360도 비디오 데이터를 획득하는 것으로서, 상기 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 360도 비디오 데이터를 획득하는 것을 행하게 하고;
    상기 전방위 카메라에 연관되는 파라미터들을 획득하는 것으로서, 상기 파라미터들은 상기 이미지의 상기 원형 지역을 기술하는, 상기 파라미터들을 획득하는 것을 행하게 하며;
    상기 360도 비디오 데이터를 인코딩하게 하며; 그리고
    인코딩된 비디오 데이터를 생성하는 것으로서, 상기 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 상기 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 생성하는 것을 행하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
  23. 전방위 카메라에 의해 캡처되는 360도 비디오 데이터를 획득하는 수단으로서, 상기 360도 비디오 데이터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 360도 비디오 데이터를 획득하는 수단;
    상기 전방위 카메라에 연관되는 파라미터들을 획득하는 수단으로서, 상기 파라미터들은 상기 이미지의 상기 원형 지역을 기술하는, 상기 파라미터들을 획득하는 수단;
    상기 360도 비디오 데이터를 인코딩하는 수단; 및
    인코딩된 비디오 데이터를 생성하는 수단으로서, 상기 인코딩된 비디오 데이터는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 상기 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 생성하는 수단을 포함하는, 장치.
  24. 비디오 데이터를 프로세싱하는 방법으로서,
    인코딩된 비디오 데이터를 획득하는 단계로서, 상기 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 획득하는 단계;
    360도 비디오 데이터를 생성하기 위해 상기 인코딩된 비디오 데이터를 디코딩하는 단계로서, 상기 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 인코딩된 비디오 데이터를 디코딩하는 단계; 및
    360도 비디오 프레젠테이션을 생성하는 단계로서, 상기 360도 비디오 프레젠테이션을 생성하는 것은 상기 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 상기 파라미터들을 사용하는 것을 포함하는, 상기 360도 비디오 프레젠테이션을 생성하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  25. 제 24 항에 있어서,
    상기 원형 지역을 등장방형 포맷으로 매핑하는 단계; 및
    상기 360도 비디오 프레젠테이션을 위해 상기 등장방형 포맷을 사용하는 단계를 더 포함하는, 비디오 데이터를 프로세싱하는 방법.
  26. 제 24 항에 있어서,
    상기 원형 지역을 직접적으로 상기 360도 포맷으로 매핑하는 단계; 및
    상기 360도 비디오 프레젠테이션을 위해 상기 360도 포맷을 사용하는 단계를 더 포함하는, 비디오 데이터를 프로세싱하는 방법.
  27. 제 24 항에 있어서,
    상기 파라미터들은, 상기 이미지에서의 하나 이상의 원형 지역들의 수량, 상기 원형 지역의 중심의 수평 좌표, 상기 원형 지역의 중심의 수직 좌표, 전체 반경 값, 프레임 반경 값, 장면 반경 값, 상기 원형 지역 내에서의 상기 장면의 회전, 플립 값; 스케일링 값; 시야 값, 압축 곡선 값, 사용불가능 화소들을 포함하는 상기 이미지 내의 영역들의 양을 나타내는 값, 또는 사용불가능 화소들을 포함하는 상기 이미지 내의 영역의 위치 및 사이즈 중 하나 이상을 포함하는, 비디오 데이터를 프로세싱하는 방법.
  28. 제 24 항에 있어서,
    상기 인코딩된 비디오 데이터는 파일로부터 획득되며, 상기 파일은 국제 표준화 기구 기본 미디어 파일 포맷 (ISOBMFF) 포맷에 따라 포맷되는, 비디오 데이터를 프로세싱하는 방법.
  29. 제 28 항에 있어서,
    상기 파라미터들은 파일 레벨에, 영화 레벨에, 또는 트랙 레벨에 포함되는, 비디오 데이터를 프로세싱하는 방법.
  30. 제 28 항에 있어서,
    상기 파라미터들은 제한된 스킴 정보 박스에 포함되는, 비디오 데이터를 프로세싱하는 방법.
  31. 제 24 항에 있어서,
    보충적 향상 정보 (SEI) 메시지로부터 상기 파라미터들을 디코딩하는 단계로서, 상기 SEI 메시지는 상기 인코딩된 비디오 데이터에 포함되는, 상기 파라미터들을 디코딩하는 단계를 더 포함하는, 비디오 데이터를 프로세싱하는 방법.
  32. 제 31 항에 있어서,
    상기 SEI 메시지는 고급 비디오 코딩 (AVC) 또는 고효율 비디오 코드 (HEVC) 표준에 따라 포맷되는, 비디오 데이터를 프로세싱하는 방법.
  33. 제 24 항에 있어서,
    상기 인코딩된 비디오 데이터를 디코딩하는 단계는 세션 데이터 프로토콜 (SDP) 속성들로부터 상기 파라미터들을 획득하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  34. 제 24 항에 있어서,
    상기 인코딩된 비디오 데이터를 디코딩하는 단계는 미디어 프레젠테이션 디스크립션 (MPD) 파일로부터 상기 파라미터들을 획득하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  35. 제 24 항에 있어서,
    상기 인코딩된 비디오 데이터를 디코딩하는 단계는 동화상 전문가 그룹 (MPEG) 전송 스트림으로부터 상기 파라미터들을 획득하는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법.
  36. 인코딩된 비디오를 프로세싱하는 장치로서,
    전방위 카메라에 의해 캡처된 2차원 비디오 데이터를 저장하도록 구성되는 메모리; 및
    프로세서를 포함하고,
    상기 프로세서는,
    인코딩된 비디오 데이터를 획득하는 것으로서, 상기 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 획득하는 것을 행하고;
    360도 비디오 데이터를 생성하기 위해 상기 인코딩된 비디오 데이터를 디코딩하는 것으로서, 상기 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 인코딩된 비디오 데이터를 디코딩하는 것을 행하며; 그리고
    360도 비디오 프레젠테이션을 생성하는 것으로서, 360도 비디오 프레젠테이션을 생성하는 것은 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 상기 파라미터들을 사용하는 것을 포함하는, 상기 360도 비디오 프레젠테이션을 생성하는 것을 행하도록
    구성되는, 인코딩된 비디오를 프로세싱하는 장치.
  37. 제 36 항에 있어서,
    상기 프로세서는 또한,
    상기 원형 지역을 등장방형 포맷으로 매핑하며;
    상기 360도 비디오 프레젠테이션을 위해 상기 등장방형 포맷을 사용하도록 구성되는, 인코딩된 비디오를 프로세싱하는 장치.
  38. 제 36 항에 있어서,
    상기 프로세서는 또한,
    상기 원형 지역을 직접적으로 상기 360도 포맷으로 매핑하며; 그리고
    상기 360도 비디오 프레젠테이션을 위해 상기 360도 포맷을 사용도록 구성되는, 인코딩된 비디오를 프로세싱하는 장치.
  39. 제 36 항에 있어서,
    상기 파라미터들은, 상기 이미지에서의 하나 이상의 원형 지역들의 수량, 상기 원형 지역의 중심의 수평 좌표, 상기 원형 지역의 중심의 수직 좌표, 전체 반경 값, 프레임 반경 값, 장면 반경 값, 상기 원형 지역 내에서의 상기 장면의 회전, 플립 값; 스케일링 값; 시야 값, 압축 곡선 값, 사용불가능 화소들을 포함하는 상기 이미지 내의 영역들의 양을 나타내는 값, 또는 사용불가능 화소들을 포함하는 상기 이미지 내의 영역의 위치 및 사이즈 중 하나 이상을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  40. 제 36 항에 있어서,
    상기 인코딩된 비디오 데이터는 파일로부터 획득되며, 상기 파일은 국제 표준화 기구 기본 미디어 파일 포맷 (ISOBMFF) 포맷에 따라 포맷되는, 인코딩된 비디오를 프로세싱하는 장치.
  41. 제 40 항에 있어서,
    상기 파라미터들은 파일 레벨에, 영화 레벨에, 또는 트랙 레벨에 포함되는, 인코딩된 비디오를 프로세싱하는 장치.
  42. 제 40 항에 있어서,
    상기 파라미터들은 제한된 스킴 정보 박스에 포함되는, 인코딩된 비디오를 프로세싱하는 장치.
  43. 제 36 항에 있어서,
    상기 프로세서는 또한,
    보충적 향상 정보 (SEI) 메시지로부터 상기 파라미터들을 디코딩하는 것으로서, 상기 SEI 메시지는 상기 인코딩된 비디오 데이터에 포함되는, 상기 파라미터들을 디코딩하는 것을 행하도록 구성되는, 인코딩된 비디오를 프로세싱하는 장치.
  44. 제 43 항에 있어서,
    상기 SEI 메시지는 고급 비디오 코딩 (AVC) 또는 고효율 비디오 코드 (HEVC) 표준에 따라 포맷되는, 인코딩된 비디오를 프로세싱하는 장치.
  45. 제 36 항에 있어서,
    상기 인코딩된 비디오 데이터를 디코딩하는 것은 세션 데이터 프로토콜 (SDP) 속성들로부터 상기 파라미터들을 획득하는 것을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  46. 제 36 항에 있어서,
    상기 인코딩된 비디오 데이터를 디코딩하는 것은 미디어 프레젠테이션 디스크립션 (MPD) 파일로부터 상기 파라미터들을 획득하는 것을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  47. 제 36 항에 있어서,
    상기 인코딩된 비디오 데이터를 디코딩하는 것은 동화상 전문가 그룹 (MPEG) 전송 스트림으로부터 상기 파라미터들을 획득하는 것을 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  48. 제 36 항에 있어서,
    모바일 디바이스를 더 포함하며,
    상기 모바일 디바이스는 상기 360도 비디오 프레젠테이션을 디스플레이하기 위한 디스플레이를 포함하는, 인코딩된 비디오를 프로세싱하는 장치.
  49. 명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금,
    인코딩된 비디오 데이터를 획득하는 것으로서, 상기 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 획득하는 것을 행하게 하며;
    360도 비디오 데이터를 생성하기 위해 상기 인코딩된 비디오 데이터를 디코딩하는 것으로서, 상기 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 인코딩된 비디오 데이터를 디코딩하는 것을 행하게 하며; 그리고
    360도 비디오 프레젠테이션을 생성하는 것으로서, 상기 360도 비디오 프레젠테이션을 생성하는 것은 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 상기 파라미터들을 사용하는 것을 포함하는, 상기 360도 비디오 프레젠테이션을 생성하는 것을 행하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
  50. 인코딩된 비디오 데이터를 획득하는 수단으로서, 상기 인코딩된 비디오 데이터는 전방위 카메라에 의해 캡처되는 인코딩된 360도 비디오 데이터와, 상기 전방위 카메라에 연관되는 파라미터들을 포함하는, 상기 인코딩된 비디오 데이터를 획득하는 수단;
    360도 비디오 데이터를 생성하기 위해 상기 인코딩된 비디오 데이터를 디코딩하는 수단으로서, 상기 360도 비디오 데이터로부터의 비디오 프레임이 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 지역으로 워핑되는, 상기 인코딩된 비디오 데이터를 디코딩하는 수단; 및
    360도 비디오 프레젠테이션을 생성하는 수단으로서, 상기 360도 비디오 프레젠테이션을 생성하는 것은 상기 원형 지역을 360도 비디오 프레젠테이션에서 사용될 수 있는 포맷으로 매핑하기 위해 상기 파라미터들을 사용하는 것을 포함하는, 상기 360도 비디오 프레젠테이션을 생성하는 수단을 포함하는, 장치.
KR1020187032803A 2016-05-20 2017-04-25 가상 현실에서의 원형 어안 비디오 KR102503598B1 (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662339504P 2016-05-20 2016-05-20
US62/339,504 2016-05-20
US15/495,730 US10979691B2 (en) 2016-05-20 2017-04-24 Circular fisheye video in virtual reality
US15/495,730 2017-04-24
PCT/US2017/029417 WO2017200721A1 (en) 2016-05-20 2017-04-25 Circular fisheye video in virtual reality

Publications (2)

Publication Number Publication Date
KR20190008223A true KR20190008223A (ko) 2019-01-23
KR102503598B1 KR102503598B1 (ko) 2023-02-23

Family

ID=58800889

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020187032803A KR102503598B1 (ko) 2016-05-20 2017-04-25 가상 현실에서의 원형 어안 비디오

Country Status (9)

Country Link
US (1) US10979691B2 (ko)
EP (1) EP3459253B1 (ko)
JP (1) JP2019517212A (ko)
KR (1) KR102503598B1 (ko)
CN (1) CN109076239B (ko)
BR (1) BR112018073534A2 (ko)
CA (1) CA3020505A1 (ko)
TW (1) TW201742444A (ko)
WO (1) WO2017200721A1 (ko)

Families Citing this family (80)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10043237B2 (en) 2015-08-12 2018-08-07 Gopro, Inc. Equatorial stitching of hemispherical images in a spherical image capture system
KR102170550B1 (ko) * 2016-05-24 2020-10-29 노키아 테크놀로지스 오와이 미디어 콘텐츠를 인코딩하는 방법, 장치 및 컴퓨터 프로그램
EP3761645A1 (en) * 2016-05-26 2021-01-06 Vid Scale, Inc. Methods and apparatus of viewport adaptive 360 degree video delivery
KR102506480B1 (ko) * 2016-06-14 2023-03-07 삼성전자주식회사 영상 처리 장치 및 그 영상 처리 방법
US10460501B2 (en) * 2016-07-04 2019-10-29 Liquid Cinema Inc., Canada System and method for processing digital video
US10297086B2 (en) 2016-07-04 2019-05-21 Liquid Cinema Inc. System and method for processing digital video
US10694102B2 (en) 2016-07-22 2020-06-23 Immervision, Inc. Method to capture, store, distribute, share, stream and display panoramic image or video
US20180048877A1 (en) * 2016-08-10 2018-02-15 Mediatek Inc. File format for indication of video content
WO2018043905A1 (ko) * 2016-08-29 2018-03-08 엘지전자 주식회사 360 비디오를 전송하는 방법, 360 비디오를 수신하는 방법, 360 비디오 전송 장치, 360 비디오 수신 장치
KR102560029B1 (ko) * 2016-09-12 2023-07-26 삼성전자주식회사 가상 현실 콘텐트를 송수신하는 방법 및 장치
KR102498598B1 (ko) * 2016-10-18 2023-02-14 삼성전자주식회사 영상 처리 장치 및 그 영상 처리 방법
US10186075B2 (en) * 2016-11-30 2019-01-22 Adcor Magnet Systems, Llc System, method, and non-transitory computer-readable storage media for generating 3-dimensional video images
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
WO2018156243A1 (en) * 2017-02-22 2018-08-30 Twitter, Inc. Transcoding video
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
US10819907B2 (en) * 2017-03-30 2020-10-27 Mediatek Inc. Method and apparatus for signaling spherical region information in ISOBMFF
US10469751B2 (en) * 2017-05-12 2019-11-05 Garmin Switzerland Gmbh Smart stabilization and reorientation for an omnidirectional camera
US10375375B2 (en) * 2017-05-15 2019-08-06 Lg Electronics Inc. Method of providing fixed region information or offset region information for subtitle in virtual reality system and device for controlling the same
US10861359B2 (en) * 2017-05-16 2020-12-08 Texas Instruments Incorporated Surround-view with seamless transition to 3D view system and method
US10992961B2 (en) * 2017-05-25 2021-04-27 Qualcomm Incorporated High-level signaling for fisheye video data
US10269181B2 (en) * 2017-05-31 2019-04-23 Verizon Patent And Licensing Inc. Methods and systems for generating a virtualized projection of a customized view of a real-world scene for inclusion within virtual reality media content
US10255949B2 (en) * 2017-05-31 2019-04-09 Verizon Patent And Licensing Inc. Methods and systems for customizing virtual reality data
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US20190005709A1 (en) * 2017-06-30 2019-01-03 Apple Inc. Techniques for Correction of Visual Artifacts in Multi-View Images
US10754242B2 (en) * 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
US20190007536A1 (en) 2017-07-03 2019-01-03 Essential Products, Inc. Handheld writing implement form factor mobile device
US10462345B2 (en) 2017-08-11 2019-10-29 Essential Products, Inc. Deformable structure that compensates for displacement of a camera module of a camera accessory
KR102082707B1 (ko) * 2017-09-22 2020-02-28 엘지전자 주식회사 360 비디오를 전송하는 방법, 360 비디오를 수신하는 방법, 360 비디오 전송 장치, 360 비디오 수신 장치
US10818087B2 (en) 2017-10-02 2020-10-27 At&T Intellectual Property I, L.P. Selective streaming of immersive video based on field-of-view prediction
WO2019083266A1 (ko) * 2017-10-24 2019-05-02 엘지전자 주식회사 피쉬아이 비디오 정보를 포함한 360도 비디오를 송수신하는 방법 및 그 장치
US20190222823A1 (en) * 2017-12-18 2019-07-18 Immersive Tech, Inc. Techniques for Capturing and Rendering Videos with Simulated Reality Systems and for Connecting Services with Service Providers
CN111630850B (zh) * 2018-01-23 2022-11-04 Lg电子株式会社 用于发送或接收包括相机镜头信息的360度视频的方法和设备
CN111656790A (zh) * 2018-01-26 2020-09-11 夏普株式会社 用于发送信号通知位置信息的系统和方法
US10779006B2 (en) * 2018-02-14 2020-09-15 Qualcomm Incorporated Signaling 360-degree video information
US11297298B2 (en) 2018-02-27 2022-04-05 Lg Electronics Inc. Method for transmitting and receiving 360-degree video including camera lens information, and device therefor
US10659815B2 (en) 2018-03-08 2020-05-19 At&T Intellectual Property I, L.P. Method of dynamic adaptive streaming for 360-degree videos
US11245919B2 (en) * 2018-03-16 2022-02-08 Sony Corporation Image processing device and image processing method
US10554883B2 (en) * 2018-03-30 2020-02-04 Ricoh Company, Ltd. VR system, communication method, and non-transitory computer-readable medium
CN110351492B (zh) * 2018-04-06 2021-11-19 中兴通讯股份有限公司 一种视频数据处理方法、装置及介质
US10812828B2 (en) 2018-04-10 2020-10-20 At&T Intellectual Property I, L.P. System and method for segmenting immersive video
WO2019203574A1 (ko) * 2018-04-17 2019-10-24 엘지전자 주식회사 360 비디오 데이터의 서브픽처 기반 처리 방법 및 그 장치
US11836885B2 (en) 2018-05-07 2023-12-05 Apple Inc. Dynamic foveated pipeline
US10764494B2 (en) 2018-05-25 2020-09-01 Microsoft Technology Licensing, Llc Adaptive panoramic video streaming using composite pictures
US10666863B2 (en) 2018-05-25 2020-05-26 Microsoft Technology Licensing, Llc Adaptive panoramic video streaming using overlapping partitioned sections
GB2574445A (en) * 2018-06-06 2019-12-11 Canon Kk Method, device, and computer program for transmitting media content
KR102188270B1 (ko) * 2018-07-06 2020-12-09 엘지전자 주식회사 360 비디오 데이터의 서브픽처 기반 처리 방법 및 그 장치
JP7163656B2 (ja) * 2018-07-30 2022-11-01 株式会社リコー 配信システム、受信クライアント端末、配信方法
US10762394B2 (en) 2018-07-31 2020-09-01 Intel Corporation System and method for 3D blob classification and transmission
US11212506B2 (en) 2018-07-31 2021-12-28 Intel Corporation Reduced rendering of six-degree of freedom video
US10887574B2 (en) 2018-07-31 2021-01-05 Intel Corporation Selective packing of patches for immersive video
US10839589B2 (en) * 2018-07-31 2020-11-17 Intel Corporation Enhanced immersive media pipeline for correction of artifacts and clarity of objects in computing environments
US11178373B2 (en) 2018-07-31 2021-11-16 Intel Corporation Adaptive resolution of point cloud and viewpoint prediction for video streaming in computing environments
US10893299B2 (en) 2018-07-31 2021-01-12 Intel Corporation Surface normal vector processing mechanism
US10863160B2 (en) 2018-08-08 2020-12-08 Liquid Cinema Inc. Canada Conditional forced perspective in spherical video
US11057631B2 (en) 2018-10-10 2021-07-06 Intel Corporation Point cloud coding standard conformance definition in computing environments
US11055541B2 (en) * 2018-10-12 2021-07-06 Volvo Car Corporation Vehicle lane marking and other object detection using side fisheye cameras and three-fold de-warping
EP3651119A1 (en) * 2018-11-06 2020-05-13 Koninklijke Philips N.V. Disparity estimation from a wide angle image
EP3739880A1 (en) * 2019-05-14 2020-11-18 Axis AB Method, device and computer program product for encoding a distorted image frame
JP7306089B2 (ja) 2019-06-17 2023-07-11 株式会社リコー 画像処理システム、撮像システム、画像処理装置、撮像装置およびプログラム
US11288763B1 (en) * 2019-06-21 2022-03-29 Gopro, Inc. Systems and methods for visually encoding information into a pixel-based image
US20220360787A1 (en) * 2019-06-21 2022-11-10 Telefonaktiebolaget Lm Ericsson (Publ) Video coding layer up-switching indication
US11050938B2 (en) 2019-07-03 2021-06-29 Gopro, Inc. Apparatus and methods for pre-processing and stabilization of captured image data
US11386522B2 (en) * 2019-08-07 2022-07-12 Reification Inc. Calibration of individual and arrayed cameras using images and video
US20210029326A1 (en) * 2019-10-15 2021-01-28 Intel Corporation Session description protocol (sdp) based signaling of camera calibration parameters
CN110930299A (zh) * 2019-12-06 2020-03-27 杭州视洞科技有限公司 一种基于半球展开的圆形鱼眼视频显示方案
US20210245047A1 (en) 2020-02-10 2021-08-12 Intel Corporation Continuum architecture for cloud gaming
US11734789B2 (en) 2020-06-02 2023-08-22 Immersive Tech, Inc. Systems and methods for image distortion correction
TWI783239B (zh) * 2020-06-29 2022-11-11 中華電信股份有限公司 優化影像資料之方法
US11503087B2 (en) * 2020-09-09 2022-11-15 Samsung Electronics Co., Ltd. Method and apparatus for processing immersive media
US11715230B2 (en) 2020-10-06 2023-08-01 Defender LLC System and method for detecting objects in video images
CN112491648B (zh) * 2020-11-17 2022-03-08 重庆美沣秦安汽车驱动系统有限公司 一种基于can通信矩阵的汽车通信数据转换方法及存储介质
CN112927371A (zh) * 2021-03-03 2021-06-08 深圳市创想三维科技有限公司 图像处理方法、装置、计算机设备和存储介质
US11838341B2 (en) 2021-04-19 2023-12-05 Tencent America LLC Signaling schemes in events message tracks
JP2022184139A (ja) * 2021-05-31 2022-12-13 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR20230065655A (ko) * 2021-11-05 2023-05-12 한화비전 주식회사 다채널 영상 수신 장치 및 방법
CN117652139A (zh) * 2021-11-25 2024-03-05 英特尔公司 用于图像的基于图块的拼接和编码的方法和装置
US20230377606A1 (en) * 2022-05-23 2023-11-23 Microsoft Technology Licensing, Llc Video editing projects using single bundled video files
WO2024054446A1 (en) * 2022-09-06 2024-03-14 Apple Inc. Circular image compression
GB2624904A (en) * 2022-11-30 2024-06-05 Sony Interactive Entertainment Inc Virtual reality streaming system and method

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150010752A (ko) * 2012-07-04 2015-01-28 인텔 코오퍼레이션 파노라마 기반 3d 비디오 코딩
JP2015156051A (ja) * 2012-06-06 2015-08-27 ソニー株式会社 画像処理装置、画像処理方法、プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5796426A (en) 1994-05-27 1998-08-18 Warp, Ltd. Wide-angle image dewarping method and apparatus
US6833843B2 (en) 2001-12-03 2004-12-21 Tempest Microsystems Panoramic imaging and display system with canonical magnifier
KR101404527B1 (ko) * 2007-12-26 2014-06-09 다이니폰 인사츠 가부시키가이샤 화상 변환 장치 및 화상 변환 방법
PL2491720T3 (pl) * 2009-10-20 2018-08-31 Telefonaktiebolaget Lm Ericsson (Publ) Zapewnienie uzupełniających informacji przetwarzania
CN103247020A (zh) * 2012-02-03 2013-08-14 苏州科泽数字技术有限公司 一种基于径向特征的鱼眼图像展开方法
US9357199B2 (en) * 2013-01-04 2016-05-31 Qualcomm Incorporated Separate track storage of texture and depth views for multiview coding plus depth
JP2015019215A (ja) * 2013-07-10 2015-01-29 オリンパスイメージング株式会社 撮像装置及び撮像方法
WO2015104451A1 (en) * 2014-01-07 2015-07-16 Nokia Technologies Oy Method and apparatus for video coding and decoding
JP5843033B1 (ja) * 2014-05-15 2016-01-13 株式会社リコー 撮像システム、撮像装置、プログラムおよびシステム
CN104408732B (zh) * 2014-12-10 2017-07-28 东北大学 一种基于全向结构光的大视场深度测量系统及方法
WO2017188714A1 (ko) * 2016-04-26 2017-11-02 엘지전자 주식회사 360도 비디오를 전송하는 방법, 360도 비디오를 수신하는 방법, 360도 비디오 전송 장치, 360도 비디오 수신 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015156051A (ja) * 2012-06-06 2015-08-27 ソニー株式会社 画像処理装置、画像処理方法、プログラム
KR20150010752A (ko) * 2012-07-04 2015-01-28 인텔 코오퍼레이션 파노라마 기반 3d 비디오 코딩

Also Published As

Publication number Publication date
TW201742444A (zh) 2017-12-01
US10979691B2 (en) 2021-04-13
CA3020505A1 (en) 2017-11-23
CN109076239A (zh) 2018-12-21
JP2019517212A (ja) 2019-06-20
US20170339392A1 (en) 2017-11-23
WO2017200721A1 (en) 2017-11-23
CN109076239B (zh) 2022-07-19
EP3459253B1 (en) 2024-04-17
BR112018073534A2 (pt) 2019-03-19
KR102503598B1 (ko) 2023-02-23
EP3459253A1 (en) 2019-03-27

Similar Documents

Publication Publication Date Title
KR102503598B1 (ko) 가상 현실에서의 원형 어안 비디오
US10917564B2 (en) Systems and methods of generating and processing files for partial decoding and most interested regions
US11062738B2 (en) Signalling of video content including sub-picture bitstreams for video coding
KR102185811B1 (ko) 컨테이너 파일들 및 비디오 비트스트림들의 관심 영역들의 강화된 시그널링
KR102204178B1 (ko) 관심 영역들의 시그널링의 시스템들 및 방법들
US11532128B2 (en) Advanced signaling of regions of interest in omnidirectional visual media
CN108605168B (zh) 一种处理虚拟现实数据的方法、装置以及非暂时性计算机可读媒体

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant