KR102296853B1 - 화상 복호 장치 및 방법 - Google Patents

화상 복호 장치 및 방법 Download PDF

Info

Publication number
KR102296853B1
KR102296853B1 KR1020157035887A KR20157035887A KR102296853B1 KR 102296853 B1 KR102296853 B1 KR 102296853B1 KR 1020157035887 A KR1020157035887 A KR 1020157035887A KR 20157035887 A KR20157035887 A KR 20157035887A KR 102296853 B1 KR102296853 B1 KR 102296853B1
Authority
KR
South Korea
Prior art keywords
image
decoding
unit
load
information
Prior art date
Application number
KR1020157035887A
Other languages
English (en)
Other versions
KR20160031461A (ko
Inventor
시노부 핫토리
오지 나카가미
미츠히로 히라바야시
Original Assignee
소니그룹주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니그룹주식회사 filed Critical 소니그룹주식회사
Publication of KR20160031461A publication Critical patent/KR20160031461A/ko
Application granted granted Critical
Publication of KR102296853B1 publication Critical patent/KR102296853B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156—Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/127—Prioritisation of hardware or computational resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/43—Hardware specially adapted for motion estimation or compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4621—Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61—Network physical structure; Signal processing
    • H04N21/6106—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 개시는, 복호에 필요한 성능을 보다 정확하게 파악할 수 있도록 하는 화상 복호 장치 및 방법에 관한 것이다. 화상 데이터의 부호화 데이터와, 그 화상 데이터의 화상의 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하고, 취득한 복호 부하 정의 정보에 기초하여 취득한 부호화 데이터의 복호를 제어하고, 그 제어에 따라, 취득한 부호화 데이터를 복호한다. 본 개시는, 예를 들어, 화상 데이터를 스케일러블에 부호화하는 화상 부호화 장치, 또는, 화상 데이터가 스케일러블에 부호화된 부호화 데이터를 복호하는 화상 복호 장치 등의 화상 처리 장치에 적용할 수 있다.

Description

화상 복호 장치 및 방법{IMAGE DECODING DEVICE AND METHOD}
본 개시는 화상 복호 장치 및 방법에 관한 것으로서, 특히, 복호에 필요한 성능을 보다 정확하게 파악할 수 있도록 한 화상 복호 장치 및 방법에 관한 것이다.
최근 들어, MPEG-4 Part10(Advanced Video Coding, 이하 AVC라고 기재한다)보다 더한층 부호화 효율의 향상을 목적으로 하여, ITU-T(International Telecommunication Union Telecommunication Standardization Sector)와, ISO/IEC(International Organization for Standardization/International Electrotechnical Commission)의 공동의 표준화 단체인 JCTVC(Joint Collaboration Team - Video Coding)에 의해, HEVC(High Efficiency Video Coding)라고 불리는 부호화 방식의 표준화가 진행되고 있다(예를 들어, 비특허문헌 1 참조).
HEVC에서는, 타일(Tile) 구조를 이용하여, 애플리케이션에 의해 복호가 필요하게 되는 영역만을 복호하는 것이 가능하게 되어 있다. 타일 영역이 단독으로 복호 가능한 것을 나타내기 위해서, HEVC 제2판 이후(MV-HEVC, SHVC, Range Ext. 등을 포함)에, Motion-constrained tile sets SEI에 의해 서포트된다.
Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, Gary J. Sullivan, Ye-Kui Wang, Thomas Wiegand, "High Efficiency Video Coding(HEVC) text specification draft 10(for FDIS & Last Call)", JCTVC-L1003_v34, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 12th Meeting: Geneva, CH, 14-23 Jan. 2013
그러나, 디코더가, 스트림을 복호할 수 있을지의 판별을 하기 위한 기준으로 되어 있는 레벨(Level)이나 버퍼(Buffer) 용량 관련의 정보는, 스트림 전체로서의 값 혹은 레이어(Layer) 단위의 값이 정의되어 있을 뿐이었다.
그로 인해, 전체 화상의 일부만을 복호하는 애플리케이션에 있어서도, 복호 가부의 판단은, 화면 전체를 복호하는 경우의 부하를 상정하여 행해지게 되어, 불필요하게 높은 레벨(Level)의 디코더가 필요하게 되어버릴 우려가 있었다. 또한, 그 때문에 배신할 수 있는 애플리케이션이 불필요하게 제한되어버릴 우려도 있었다.
본 개시는, 이러한 상황을 감안하여 이루어진 것으로서, 복호에 필요한 성능을 보다 정확하게 파악할 수 있도록 하는 것이다.
본 기술의 일 측면은, 화상 데이터의 부호화 데이터와, 상기 화상 데이터의 화상의, 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하는 취득부와, 상기 취득부에 의해 취득된 상기 복호 부하 정의 정보에 기초하여 상기 취득부에 의해 취득된 상기 부호화 데이터의 복호를 제어하는 제어부와, 상기 제어부에 의한 제어에 따라, 상기 취득부에 의해 취득된 상기 부호화 데이터를 복호하는 복호부를 구비하는 화상 복호 장치이다.
상기 부분 영역은, 독립적으로 복호할 수 있다.
상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하도록 할 수 있다.
상기 복호 부하 정의 정보는, 상기 부분 영역의 크기를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하도록 할 수 있다.
상기 복호 부하 정의 정보는, 상기 부분 영역의, 세로 방향의 길이를 나타내는 정보와 가로 방향의 길이를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하도록 할 수 있다.
상기 복호 부하 정의 정보는, 독립적으로 복호할 수 있는 부분 영역의 SEI(Supplemental Enhancement Information)에 포함되도록 할 수 있다.
상기 화상 데이터는 복수 레이어를 포함하고, 상기 복수 레이어의 상기 복호 부하 정의 정보는, 상기 SEI에 포함되도록 할 수 있다.
상기 복호 부하 정의 정보는, 기준으로 하는 상기 부분 영역의 크기를 나타내는 정보와, 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을 포함하도록 할 수 있다.
상기 부분 영역은, 타일이도록 할 수 있다.
상기 부분 영역은, 복수의 타일의 집합이도록 할 수 있다.
상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역 중에서, 최대의 복호 처리의 부하의 크기를 정의하는 정보를 포함하도록 할 수 있다.
상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역에 공통인 부하의 크기를 정의하는 정보를 포함하도록 할 수 있다.
상기 픽처에 포함되는 복수의 상기 부분 영역이 L자형인 경우, 상기 L자형을 내포하는 사각형의 영역에 대하여 상기 부하의 크기를 정의하도록 할 수 있다.
상기 취득부는, 또한 상기 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보를 취득하고, 상기 취득된 정보가, 상기 복호 부하 정의 정보가 설정되어 있는 것을 나타내는 경우에, 상기 상기 복호 부하 정의 정보를 취득할 수 있다.
본 기술의 일 측면은, 또한, 화상 데이터의 부호화 데이터와, 상기 화상 데이터의 화상의, 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하고, 취득된 상기 복호 부하 정의 정보에 기초하여 취득된 상기 부호화 데이터의 복호를 제어하고, 그 제어에 따라, 취득된 상기 부호화 데이터를 복호하는 화상 복호 방법이다.
본 기술의 일 측면에 있어서는, 화상 데이터의 부호화 데이터와, 화상 데이터의 화상의 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보가 취득되고, 취득된 복호 부하 정의 정보에 기초하여 취득된 부호화 데이터의 복호가 제어되고, 그 제어에 따라, 취득된 부호화 데이터가 복호된다.
본 개시에 의하면, 화상을 부호화·복호할 수 있다. 특히, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
도 1은 코딩 유닛의 구성예를 설명하는 도면이다.
도 2는 계층 화상 부호화 방식의 예를 도시하는 도면이다.
도 3은 스페이셜한 스케일러블 부호화의 예를 설명하는 도면이다.
도 4는 템포럴한 스케일러블 부호화의 예를 설명하는 도면이다.
도 5는 신호 잡음비의 스케일러블 부호화의 예를 설명하는 도면이다.
도 6은 부분 표시를 행하는 애플리케이션의 예를 설명하는 도면이다.
도 7은 부분 표시를 행하는 애플리케이션의 다른 예를 설명하는 도면이다.
도 8은 본 기술을 적용한 복호 부하의 정의의 방법의 예를 설명하는 도면이다.
도 9는 MCTS SEI의 확장예를 도시하는 도면이다.
도 10은 MCTS SEI의 개요를 설명하는 도면이다.
도 11은 MCTS SEI의 확장예를 도시하는 도면이다.
도 12는 MCTS SEI의 확장예를 도시하는 도면이다.
도 13은 MCTS SEI의 확장예를 도시하는 도면이다.
도 14는 MCTS SEI의 확장예를 도시하는 도면이다.
도 15는 MCTS SEI의 확장예를 도시하는 도면이다.
도 16은 MCTS SEI의 확장예를 도시하는 도면이다.
도 17은 MCTS SEI의 확장예를 도시하는 도면이다.
도 18은 ROI마다의 신택스의 전송의 예를 도시하는 도면이다.
도 19는 MCTS SEI의 확장예를 도시하는 도면이다.
도 20은 MCTS SEI의 신택스의 예를 도시하는 도면이다.
도 21은 MCTS SEI의 확장예를 도시하는 도면이다.
도 22는 파라미터의 맵핑의 모습을 설명하는 도면이다.
도 23은 신택스 요소를 설명하는 도면이다.
도 24는 MCTS SEI의 확장예를 도시하는 도면이다.
도 25는 파라미터의 맵핑의 모습을 설명하는 도면이다.
도 26은 신택스 요소를 설명하는 도면이다.
도 27은 화상 부호화 장치의 주된 구성예를 도시하는 블록도이다.
도 28은 베이스 레이어 화상 부호화부의 주된 구성예를 도시하는 블록도이다.
도 29는 인핸스먼트 레이어 화상 부호화부의 주된 구성예를 도시하는 블록도이다.
도 30은 헤더 정보 생성부의 주된 구성예를 도시하는 블록도이다.
도 31은 화상 부호화 처리의 흐름의 예를 설명하는 흐름도이다.
도 32는 베이스 레이어 부호화 처리의 흐름의 예를 설명하는 흐름도이다.
도 33은 인핸스먼트 레이어 부호화 처리의 흐름의 예를 설명하는 흐름도이다.
도 34는 헤더 정보 생성 처리의 흐름의 예를 설명하는 흐름도이다.
도 35는 화상 복호 장치의 주된 구성예를 도시하는 블록도이다.
도 36은 베이스 레이어 화상 복호부의 주된 구성예를 도시하는 블록도이다.
도 37은 인핸스먼트 레이어 화상 복호부의 주된 구성예를 도시하는 블록도이다.
도 38은 헤더 정보 해석부의 구성예를 도시하는 블록도이다.
도 39는 화상 복호 처리의 흐름의 예를 설명하는 흐름도이다.
도 40은 헤더 정보 해석 처리의 흐름의 예를 설명하는 흐름도이다.
도 41은 베이스 레이어 복호 처리의 흐름의 예를 설명하는 흐름도이다.
도 42는 인핸스먼트 레이어 복호 처리의 흐름의 예를 설명하는 흐름도이다.
도 43은 다시점 화상 부호화 방식의 예를 도시하는 도면이다.
도 44는 본 기술을 적용한 다시점 화상 부호화 장치의 주된 구성예를 도시하는 도면이다.
도 45는 본 기술을 적용한 다시점 화상 복호 장치의 주된 구성예를 도시하는 도면이다.
도 46은 컴퓨터의 주된 구성예를 도시하는 블록도이다.
도 47은 텔레비전 장치의 개략적인 구성의 일례를 도시하는 블록도이다.
도 48은 휴대 전화기의 개략적인 구성의 일례를 도시하는 블록도이다.
도 49는 기록 재생 장치의 개략적인 구성의 일례를 도시하는 블록도이다.
도 50은 촬상 장치의 개략적인 구성의 일례를 도시하는 블록도이다.
도 51은 스케일러블 부호화 이용의 일례를 도시하는 블록도이다.
도 52는 스케일러블 부호화 이용의 다른 예를 도시하는 블록도이다.
도 53은 스케일러블 부호화 이용의 또한 다른 예를 도시하는 블록도이다.
도 54는 비디오 세트의 개략적인 구성의 일례를 도시하는 블록도이다.
도 55는 비디오 프로세서의 개략적인 구성의 일례를 도시하는 블록도이다.
도 56은 비디오 프로세서의 개략적인 구성의 다른 예를 도시하는 블록도이다.
이하, 본 개시를 실시하기 위한 형태(이하 실시 형태로 한다)에 대하여 설명한다. 또한, 설명은 이하의 순서로 행한다.
1. 제1 실시 형태(부분 화상의 복호 부하 정의)
2. 제2 실시 형태(화상 부호화 장치)
3. 제3 실시 형태(화상 복호 장치)
4. 제4 실시 형태(다시점 화상 부호화·다시점 화상 복호 장치)
5. 제5 실시 형태(컴퓨터)
6. 제6 실시 형태(응용예)
7. 제7 실시 형태(스케일러블 부호화의 응용예)
8. 제8 실시 형태(세트·유닛·모듈·프로세서)
<1. 제1 실시 형태>
<화상 부호화의 표준화의 흐름>
최근 들어, 화상 정보를 디지털로서 취급하고, 그 때, 효율이 높은 정보의 전송, 축적을 목적으로 하여, 화상 정보 특유의 용장성을 이용하여, 이산 코사인 변환 등의 직교 변환과 움직임 보상에 의해 압축하는 부호화 방식을 채용하여 화상을 압축 부호하는 장치가 보급되고 있다. 이 부호화 방식에는, 예를 들어, MPEG(Moving Picture Experts Group) 등이 있다.
특히, MPEG2(ISO/IEC 13818-2)는 범용 화상 부호화 방식으로서 정의되어 있고, 비월 주사 화상 및 순차 주사 화상의 양쪽, 및 표준 해상도 화상 및 고정밀 화상을 망라하는 표준이다. 예를 들어, MPEG2는, 프로페셔널 용도 및 컨슈머 용도의 광범위한 애플리케이션에 현재 널리 사용되고 있다. MPEG2 압축 방식을 사용함으로써, 예를 들어 720x480화소를 갖는 표준 해상도의 비월 주사 화상이라면 4 내지 8Mbps의 부호량(비트 레이트)을 할당할 수 있다. 또한, MPEG2 압축 방식을 사용함으로써, 예를 들어 1920x1088 화소를 갖는 고해상도의 비월 주사 화상이라면 18 내지 22Mbps의 부호량(비트 레이트)을 할당할 수 있다. 이에 의해, 높은 압축률과 양호한 화질의 실현이 가능하다.
MPEG2는 주로 방송용에 적합한 고화질 부호화를 대상으로 하고 있었지만, MPEG1보다 낮은 부호량(비트 레이트), 즉 보다 높은 압축률의 부호화 방식에는 대응하지 않았다. 휴대 단말기의 보급에 의해, 이후 그러한 부호화 방식의 요구는 높아질 것으로 생각되고, 이것에 대응하여 MPEG4 부호화 방식의 표준화가 행하여졌다. 화상 부호화 방식에 대해서는, 1998년 12월에 ISO/IEC 14496-2로서 그 규격이 국제 표준으로 승인되었다.
또한, 최근 들어, 당초 텔레비전 회의용의 화상 부호화를 목적으로 하여, H.26L(ITU-T(International Telecommunication Union Telecommunication Standardization Sector) Q6/16 VCEG(Video Coding Expert Group))이라고 하는 표준의 규격화가 진행되었다. H.26L은 MPEG2이나 MPEG4와 같은 종래의 부호화 방식에 비해, 그 부호화, 복호화에 보다 많은 연산량이 요구되기는 하지만, 더 높은 부호화 효율이 실현되는 것이 알려져 있다. 또한, 현재, MPEG4의 활동의 일환으로서, 이 H.26L을 기초로, H.26L에서는 서포트되지 않는 기능도 도입하여, 더 높은 부호화 효율을 실현하는 표준화가 Joint Model of Enhanced-Compression Video Coding으로서 행하여졌다.
표준화의 스케줄로서는, 2003년 3월에는 H.264 및 MPEG-4 Part10(Advanced Video Coding, 이하 AVC라고 기재한다)이라고 하는 이름 하에 국제 표준이 되었다.
또한, 이 H.264/AVC의 확장으로서, RGB나 4:2:2, 4:4:4와 같은, 업무용으로 필요한 부호화툴이나, MPEG-2에서 규정되어 있던 8x8DCT나 양자화 매트릭스도 포함한 FRExt(Fidelity Range Extension)의 표준화가 2005년 2월에 완료되었다. 이에 의해, H.264/AVC를 사용하여, 영화에 포함되는 필름 노이즈도 양호하게 표현하는 것이 가능한 부호화 방식이 되어, Blu-Ray Disc(상표) 등의 폭넓은 애플리케이션에 사용되는 단계가 되었다.
그러나, 요즘, 하이비전 화상의 4배인, 4000x2000화소 정도의 화상을 압축하고 싶다고 하는, 또는, 인터넷과 같은, 한정된 전송 용량의 환경에 있어서, 하이비전 화상을 배신하고 싶다고 하는, 더한층 고압축률 부호화에 대한 요구가 높아지고 있다. 이로 인해, 상술한, ITU-T 산하의 VCEG에 있어서, 부호화 효율의 개선에 관한 검토가 계속 행해지고 있다.
따라서, 현재, AVC보다 더한층 부호화 효율의 향상을 목적으로 하여, ITU-T와, ISO/IEC(International Organization for Standardization/International Electrotechnical Commission)의 공동의 표준화 단체인 JCTVC(Joint Collaboration Team - Video Coding)에 의해, HEVC(High Efficiency Video Coding)라고 불리는 부호화 방식의 표준화가 진행되고 있다. HEVC 규격에 대해서는, 2013년 1월에 드래프트판 사양인 Committee draft가 발행되어 있다(예를 들어, 비특허문헌 1 참조).
<부호화 방식>
이하에 있어서는, HEVC(High Efficiency Video Coding) 방식의 화상 부호화·복호에 적용하는 경우를 예로 들어, 본 기술을 설명한다.
<코딩 유닛>
AVC(Advanced Video Coding) 방식에 있어서는, 매크로 블록과 서브매크로 블록에 의한 계층 구조가 규정되어 있다. 그러나, 16x16 화소의 매크로 블록에서는, 차세대 부호화 방식의 대상이 되는, UHD(Ultra High Definition; 4000화소x2000화소)와 같은 큰 화면 프레임에 대하여 최적은 아니다.
이에 비해, HEVC 방식에 있어서는, 도 1에 도시되는 바와 같이, 코딩 유닛(CU(Coding Unit))이 규정되어 있다.
CU는, Coding Tree Block(CTB)이라고도 불리고, AVC 방식에 있어서의 매크로 블록과 동일한 역할을 하는, 픽처 단위의 화상의 부분 영역이다. 후자는, 16x16 화소의 크기로 고정되어 있는 것에 비해, 전자의 크기는 고정되어 있지 않고, 각각의 시퀀스에 있어서, 화상 압축 정보 중에 있어서 지정되게 된다.
예를 들어, 출력이 되는 부호화 데이터에 포함되는 시퀀스 파라미터 세트(SPS(Sequence Parameter Set))에 있어서, CU의 최대 사이즈(LCU(Largest Coding Unit))와 최소 사이즈(SCU(Smallest Coding Unit))가 규정된다.
각각의 LCU 내에서는, SCU의 사이즈를 하회하지 않는 범위에서, split-flag=1로 함으로써, 보다 작은 사이즈의 CU로 분할할 수 있다. 도 1의 예에서는, LCU의 크기가 128이며, 최대 계층 심도가 5가 된다. 2Nx2N의 크기의 CU는, split_flag의 값이 「1」일 때, 하나 아래의 계층이 되는, NxN의 크기의 CU로 분할된다.
또한, CU는, 인트라 혹은 인터 예측의 처리 단위가 되는 영역(픽처 단위의 화상의 부분 영역)인 프레딕션 유닛(Prediction Unit(PU))으로 분할되고, 또한, 직교 변환의 처리 단위가 되는 영역(픽처 단위의 화상의 부분 영역)인, 트랜스폼 유닛(Transform Unit(TU))으로 분할된다. 현재, HEVC 방식에 있어서는, 4x4 및 8x8 외에, 16x16 및 32x32 직교 변환을 사용하는 것이 가능하다.
이상의 HEVC 방식과 같이, CU를 정의하고, 그 CU를 단위로 하여 각종 처리를 행하는 부호화 방식의 경우, AVC 방식에 있어서의 매크로 블록은 LCU에 상당하고, 블록(서브블록)은 CU에 상당한다고 생각할 수 있다. 또한, AVC 방식에 있어서의 움직임 보상 블록은, PU에 상당한다고 생각할 수 있다. 단, CU는, 계층 구조를 가지므로, 그 최상위 계층의 LCU의 사이즈는, 예를 들어 128x128 화소와 같이, AVC 방식의 매크로 블록보다 크게 설정되는 것이 일반적이다.
따라서, 이하, LCU는, AVC 방식에 있어서의 매크로 블록도 포함하는 것으로 하고, CU는, AVC 방식에 있어서의 블록(서브블록)도 포함하는 것으로 한다. 즉, 이하의 설명에 사용하는 「블록」은, 픽처 내의 임의의 부분 영역을 나타내고, 그 크기, 형상, 및 특성 등은 한정되지 않는다. 즉, 「블록」에는, 예를 들어, TU, PU, SCU, CU, LCU, 서브블록, 매크로 블록, 또는 슬라이스 등 임의의 영역(처리 단위)이 포함된다. 물론, 이들 이외의 부분 영역(처리 단위)도 포함된다. 사이즈나 처리 단위 등을 한정할 필요가 있는 경우에는, 적절히 설명한다.
또한, 본 명세서에 있어서, CTU(Coding Tree Unit)는 LCU(최대수의 CU)의 CTB(Coding Tree Block)와, 그 LCU 베이스(레벨)로 처리할 때의 파라미터를 포함하는 단위인 것으로 한다. 또한, CTU를 구성하는 CU(Coding Unit)는 CB(Coding Block)와, 그 CU 베이스(레벨)로 처리할 때의 파라미터를 포함하는 단위인 것으로 한다.
<모드 선택>
그런데, AVC 그리고 HEVC 부호화 방식에 있어서, 더 높은 부호화 효율을 달성하기 위해서는, 적절한 예측 모드의 선택이 중요하다.
이러한 선택 방식의 예로서, JM(Joint Model)이라고 불리는 H.264/MPEG-4 AVC의 참조 소프트웨어(http://iphome.hhi.de/suehring/tml/index.htm에 공개되어 있다)에 실장되어 있는 방법을 들 수 있다.
JM에 있어서는, 이하에 설명하는, High Complexity Mode와, Low Complexity Mode의 2가지의 모드 판정 방법을 선택하는 것이 가능하다. 어느 쪽도, 각각의 예측 모드 Mode에 관한 코스트 함수값을 산출하고, 이것을 최소로 하는 예측 모드를 해당 블록 내지 매크로 블록에 대한 최적 모드로서 선택한다.
High Complexity Mode에 있어서의 코스트 함수는, 이하의 수학식 1과 같이 나타난다.
Figure 112015124293472-pct00001
여기서, Ω은, 해당 블록 내지 매크로 블록을 부호화하기 위한 후보 모드의 전체 집합이며, D는, 해당 예측 모드에서 부호화한 경우의, 복호 화상과 입력 화상의 차분 에너지이다. λ는, 양자화 파라미터의 함수로서 부여되는 Lagrange 미정승수이다. R은, 직교 변환 계수를 포함한, 해당 모드에서 부호화한 경우의 총 부호량이다.
즉, High Complexity Mode에서의 부호화를 행하기 위해서는, 상기 파라미터 D 및 R을 산출하기 위해서, 모든 후보 모드에 의해, 한번, 임시 인코드 처리를 행할 필요가 있어, 더 높은 연산량을 필요로 한다.
Low Complexity Mode에 있어서의 코스트 함수는, 이하의 수학식 2와 같이 나타난다.
Figure 112015124293472-pct00002
여기서, D는, High Complexity Mode의 경우와 달리, 예측 화상과 입력 화상의 차분 에너지가 된다. QP2Quant(QP)는 양자화 파라미터 QP의 함수로서 부여되고, HeaderBit는, 직교 변환 계수를 포함하지 않는, 움직임 벡터나, 모드와 같은, Header에 속하는 정보에 관한 부호량이다.
즉, Low Complexity Mode에 있어서는, 각각의 후보 모드에 대해서, 예측 처리를 행할 필요가 있지만, 복호 화상까지는 필요없기 때문에, 부호화 처리까지 행할 필요는 없다. 이로 인해, High Complexity Mode보다 낮은 연산량에서의 실현이 가능하다.
<계층 부호화>
그런데, 지금까지의, MPEG2, AVC와 같은 화상 부호화 방식은, 스케일러빌리티(scalability) 기능을 갖고 있었다. 스케일러블 부호화(계층 부호화)란, 화상을 복수 레이어화(계층화)하고, 레이어마다 부호화하는 방식이다. 도 2는, 계층 화상 부호화 방식의 일례를 도시하는 도면이다.
도 2에 도시된 바와 같이, 화상의 계층화에 있어서는, 스케일러빌리티 기능을 갖는 소정의 파라미터를 기준으로 해서 하나의 화상이 복수의 계층(레이어)으로 분할된다. 즉, 계층화된 화상(계층 화상)은 그 소정의 파라미터의 값이 서로 상이한 복수의 계층(레이어)의 화상을 포함한다. 이 계층 화상의 복수의 레이어는, 다른 레이어의 화상을 이용하지 않고 자신의 레이어 화상만을 사용하여 부호화·복호를 행하는 베이스 레이어(base layer)와, 다른 레이어의 화상을 이용하여 부호화·복호를 행하는 논베이스 레이어(non-base layer)(인핸스먼트 레이어(Enhancement layer)라고도 칭함)를 포함한다. 논베이스 레이어는, 베이스 레이어의 화상을 이용하도록 해도 되고, 다른 논베이스 레이어의 화상을 이용하도록 해도 된다.
일반적으로, 논베이스 레이어는, 용장성이 저감되도록, 자신의 화상과, 다른 레이어의 화상과의 차분 화상의 데이터(차분 데이터)에 의해 구성된다. 예를 들어, 하나의 화상을 베이스 레이어와 논베이스 레이어(인핸스먼트 레이어라고도 칭함)로 2계층화한 경우, 베이스 레이어의 데이터만으로 원래의 화상보다도 저품질의 화상이 얻어지고, 베이스 레이어의 데이터와 논베이스 레이어의 데이터를 합성함으로써, 원래의 화상(즉 고품질의 화상)이 얻어진다.
이렇게 화상을 계층화함으로써, 상황에 따라서 다양한 품질의 화상을 용이하게 얻을 수 있다. 예를 들어 휴대 전화와 같은, 처리 능력이 낮은 단말기에 대해서는, 베이스 레이어만의 화상 압축 정보를 전송하고, 공간 시간 해상도가 낮은, 또는, 화질이 좋지 않은 동화상을 재생하고, 텔레비전이나 퍼스널 컴퓨터와 같은, 처리 능력이 높은 단말기에 대해서는, 베이스 레이어 외에, 인핸스먼트 레이어의 화상 압축 정보를 전송하고, 공간 시간 해상도가 높은, 또는, 화질이 높은 동화상을 재생하는 등, 트랜스 코드 처리를 행하지 않고, 단말기나 네트워크의 능력에 따른 화상 압축 정보를, 서버로부터 송신하는 것이 가능하게 된다.
<스케일러블한 파라미터>
이러한 계층 화상 부호화·계층 화상 복호(스케일러블 부호화·스케일러블 복호)에 있어서, 스케일러빌리티(scalability) 기능을 갖는 파라미터는 임의이다. 예를 들어, 도 3에 도시되는 바와 같은 공간 해상도를 그 파라미터로 해도 된다(spatial scalability). 이 스페이셜 스케일러빌리티(spatial scalability)의 경우, 레이어마다 화상의 해상도가 상이하다. 즉, 도 3에 도시된 바와 같이, 각 픽처가, 원래의 화상보다 공간적으로 저해상도인 베이스 레이어와, 베이스 레이어의 화상과 합성함으로써 원래의 화상(원래의 공간 해상도)이 얻어지는 인핸스먼트 레이어의 2계층으로 계층화된다. 물론, 이 계층수는 일례이며, 임의의 계층수로 계층화할 수 있다.
또한, 이러한 스케일러빌리티성을 갖게 하는 파라미터로서, 이외에는, 예를 들어, 도 4에 도시된 바와 같은, 시간 해상도를 적용해도 된다(temporal scalability). 이 템포럴 스케일러빌리티(temporal scalability)의 경우, 레이어마다 프레임 레이트가 상이하다. 즉, 이 경우, 도 4에 도시된 바와 같이, 서로 다른 프레임 레이트의 레이어로 계층화되어 있어, 저프레임 레이트의 레이어에, 고프레임 레이트의 레이어를 가함으로써, 보다 고프레임 레이트의 동화상을 얻을 수 있고, 모든 레이어를 가함으로써, 원래의 동화상(원의 프레임 레이트)을 얻을 수 있다. 이 계층수는 일례이며, 임의의 계층수로 계층화할 수 있다.
또한, 이러한 스케일러빌리티성을 갖게 하는 파라미터로서, 그 밖에는, 예를 들어, 도 5에 도시되는 바와 같은, 신호 잡음비(SNR(Signal to Noise ratio))를 적용해도 된다(SNR scalability). 이 SNR 스케일러빌리티(SNR scalability)의 경우, 레이어마다 SN비가 상이하다. 즉, 이 경우, 도 5에 도시되는 바와 같이, 각 픽처가, 원래의 화상보다 SNR이 낮은 베이스 레이어와, 베이스 레이어의 화상과 합성함으로써 원래의 화상(원래의 SNR)이 얻어지는 인핸스먼트 레이어의 2계층으로 계층화된다. 즉, 베이스 레이어(base layer) 화상 압축 정보에 있어서는, 저PSNR의 화상에 관한 정보가 전송되고 있고, 이것에, 인핸스먼트 레이어(enhancement layer) 화상 압축 정보를 가함으로써, 고PSNR 화상을 재구축하는 것이 가능하다. 물론, 이 계층수는 일례이며, 임의의 계층수로 계층화할 수 있다.
스케일러빌리티성을 갖게 하는 파라미터는, 상술한 예 이외여도 되는 것은 물론이다. 예를 들어, 베이스 레이어(base layer)가 8비트(bit) 화상으로 되고, 이것에 인핸스먼트 레이어(enhancement layer)를 가함으로써, 10비트(bit) 화상이 얻어지는 비트 심도 스케일러빌리티(bit-depth scalability)가 있다.
또한, 베이스 레이어(base layer)가 4:2:0 포맷의 컴포넌트 화상으로 되고, 이것에 인핸스먼트 레이어(enhancement layer)를 가함으로써, 4:2:2 포맷의 컴포넌트 화상이 얻어지는 크로마 스케일러빌리티(chroma scalability)가 있다.
<타일 구조와 레이어의 정의>
HEVC에서는, 타일(Tile) 구조를 이용하여, 애플리케이션에 의해 복호가 필요하게 되는 영역만을 복호하는 것이 가능하게 되어 있다. 타일 영역이 단독으로 복호 가능한 것을 나타내기 때문에, HEVC 제2판 이후(MV-HEVC, SHVC, Range Ext. 등을 포함)에, Motion-constrained tile sets SEI에 의해 서포트된다.
<애플리케이션예>
본 기술을 적용하는 애플리케이션의 예에 대하여 설명한다.
서버로부터 단말기로 화상을 배신하는 시스템에 있어서, 예를 들어, 도 6에 도시하는 예와 같이, 1매의 화면을 복수로 분할하고, 표시 영역을 전환하면서 배신하는 애플리케이션이 있다. 또한, 예를 들어, 도 7에 도시하는 예와 같이, 화상의 애스펙트비나 해상도를 선택하기 위해서, 표시할(배신할) 부분 영역을 선택하는 애플리케이션도 있다.
도 6의 애플리케이션 경우, 화상의 부호화·복호에 있어서의 타일(Tile)을 단위로 하여 전체 화상으로부터 부분 화상이 잘라내져서 단말기로 배신된다. 이 잘라내는 부분 화상의 전체 화상에 있어서의 위치는, 예를 들어 단말기의 유저 등이 지정할 수 있다. 따라서, 단말기에는, 전체 화상 중 원하는 위치의 부분 화상을 표시시킬 수 있다. 예를 들어, 스포츠 중계 등의 서비스에 있어서, 서버 등에 의해 제공되는, 회장 전체나 필드 전체 등을 촬상한 광각의 화상으로부터, 유저가 원하는 부분(예를 들어, 마음에 드는 선수, 감독, 골대 앞, 벤치, 객석 등)에 주목하고, 그 부분 화상을 잘라내서 다운로드(혹은 스트리밍)하여, 단말기에 표시시킬 수 있다. 즉, 단말기의 유저는, 전체 화상 중 원하는 부분에 주목할 수 있다.
도 7의 애플리케이션 경우, 타일을 선택하는 것만으로, 표시 화상의 해상도를 HD로 하거나, 시네마 사이즈로 하거나 할 수 있다.
그러나, 디코더가, 스트림을 복호할 수 있는지의 판별을 하기 위한 기준으로 되어 있는 레벨(Level)이나 버퍼(Buffer) 용량 관련의 정보는, 스트림 전체로서의 값 혹은 레이어(Layer) 단위의 값이 정의되어 있을 뿐이었다.
그로 인해, 전체 화상의 일부만을 복호하는 애플리케이션에 있어서도, 복호 가부의 판단은, 화면 전체를 복호하는 경우의 부하를 상정하여 행해지게 되어, 불필요하게 높은 레벨(Level)의 디코더가 필요하게 되어버릴 우려가 있었다. 또한, 그 때문에 배신할 수 있는 애플리케이션이 불필요하게 제한되어버릴 우려도 있었다.
따라서, 부호화되는 화상 데이터의 화상의, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 설정하고, 그 복호 부하 정의 정보를 전송하도록 한다. 예를 들어, 복호 부하 정의 정보를, 화상 데이터의 부호화 데이터와 함께, 부호화측으로부터 복호측으로 전송하도록 한다.
이와 같이 함으로써, 디코더는, 그 복호 부하 정의 정보에 따라서, 부분 영역을 복호하는 데 필요한 성능을 파악하고, 복호 가부 판단을 행할 수 있다. 즉, 복호에 필요한 성능을, 보다 정확하게 파악할 수 있다. 따라서, 이 화상 데이터에 의해 적절한 성능의 디코더를 선택할 수 있다. 이에 의해, 화상 데이터의 복호 부하에 대하여 불필요하게 높은 레벨(Level)의 디코더를 적용하는 사태의 발생을 억제할 수 있다. 또한, 그 때문에 배신할 수 있는 애플리케이션이 불필요하게 제한되어버리는 것도 억제할 수 있다.
<복호 부하 정의 정보의 설정>
복호 부하 정의 정보의 정의는, 예를 들어, 도 8과 같이 행한다. 예를 들어, 도 8의 A의 예와 같이, 단일의 레이어의 독립적으로 복호할 수 있는 부분 영역에 대하여 그 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 설정하도록 해도 된다. 도 8의 A의 예에서는, 단일 레이어의 화상의 전체 복호에 대하여 레벨 4.0이 설정되고, 그 화상 중 단독 디코드 가능한 타일(부분 영역)의 복호에 대하여 레벨 2.0이 설정되어 있다.
또한, 예를 들어, 도 8의 B의 예와 같이, 복수의 레이어를 포함하는 화상의 각 레이어의 독립적으로 복호할 수 있는 부분 영역에 대하여 복호 부하 정의 정보를 설정하도록 해도 된다. 도 8의 B의 예에서는, 전체 레이어의 화상 복호에 대하여 레벨 5.0이 설정되고, 베이스 레이어(레이어 0)의 화상의 전체의 복호에 대하여 레벨 4.0이 설정되어 있다. 또한, 베이스 레이어(레이어 0)의 화상 중 단독 디코드 가능한 타일(부분 영역)의 복호에 대하여 레벨 2.0이 설정되어 있다. 또한, 인핸스먼트 레이어(레이어 1)의 화상 중, 그 베이스 레이어(레이어 0)의 화상 중 단독 디코드 가능한 타일만을 참조하는 타일의 복호(즉, 참조되는 베이스 레이어(레이어 0)의 타일, 및 그것을 참조하는 인핸스먼트 레이어(레이어 1)의 타일의 복호)에 대하여 레벨 4.0이 설정되어 있다.
또한, 예를 들어, 도 8의 C의 예와 같이, 독립적으로 복호할 수 있는 부분 영역만을 참조하는 레이어의 전체 화상과, 그 참조되는 부분 영역에 대하여 복호 부하 정의 정보를 설정하도록 해도 된다. 즉, 단독 디코드 가능한 타일(부분 영역)을 참조하는 측은, 부분 영역이 아니라 전체 화상이어도 된다. 도 8의 C의 예에서는, 기본적으로 도 8의 B의 예의 경우와 마찬가지로 레벨이 설정된다. 단, 도 8의 B의 예에서는, 인핸스먼트 레이어(레이어 1)의 화상 중, 베이스 레이어(레이어 0)의 화상 중 단독 디코드 가능한 타일만을 참조하는 타일의 복호에 대하여 레벨이 설정되어 있었지만, 도 8의 C의 예에서는, 그 대신에, 그 베이스 레이어(레이어 0)의 화상 중 단독 디코드 가능한 타일만을 참조하는 인핸스먼트 레이어(레이어 1)의 전체 화상의 복호(즉, 참조되는 베이스 레이어(레이어 0)의 타일, 및 그것을 참조하는 인핸스먼트 레이어(레이어 1)의 전체 화상의 복호)에 대하여 레벨 4.0이 설정되어 있다.
또한, 이 경우, 인핸스먼트 레이어(레이어 1)의 전체 화상이 참조하는 부분 영역(타일)(의 위치)을 식별하기 위해서, 참조원이 되는 인핸스먼트 레이어(레이어 1)의 전체 화상에, 참조처가 되는 베이스 레이어(레이어 0)의 타일의 위치 정보를 대응짓도록(맵핑하도록) 해도 된다. 도 8의 C의 예에서는, 인핸스먼트 레이어(레이어 1)의 전체 화상에 있어서의 좌측 상단 코너의 좌표에, 베이스 레이어(레이어 0)의 타일에 있어서의 동일 위치의 좌표가 맵핑되어 있다.
<레벨에서 규정되는 파라미터>
또한, 레벨에서 규정되어 있는 파라미터에는, 화상의 최대 픽셀(pixel)수(MaxLumaPs), 최대 버퍼 용량(MaxCPB Size), 1초당의 화상의 최대 픽셀(pixel)수(MaxLumaSr), 최대 비트 레이트(MaxBR) 등이 있다.
<복호 부하 정의 정보>
복호에 필요한 부하의 크기의 정의는, 예를 들어, MCTS SEI(Motion constrained tile set Supplemental Enhancement Information)를 확장하여 행한다.
예를 들어, 도 9의 A에 도시하는 신택스와 같이, MCTS SEI에 있어서, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보로서, 그 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨(mcts_level_idc[i])을 설정하도록 해도 된다. 여기서, 「i」는, 단수 또는 복수의 타일에 의해 구성되는 부분 영역인 세트(타일 세트라고도 칭함)를 나타낸다. 즉, 도 9의 A의 예에서는, 복호에 필요한 레벨 정보(mcts_level_idc)의 값이 이 세트마다 설정된다. 이 경우, 시맨틱스는, 예를 들어 도 9의 B와 같이 해도 된다.
MCTS SEI에 있어서, 독립적으로 복호할 수 있는 부분 영역은, 직사각형의 세트마다 설정되어 있다. 예를 들어, 도 10의 A의 좌측 상단의 사선 부분이 독립적으로 복호할 수 있는 부분 영역이라고 하면, 그 부분 영역은, MCTS SEI에 있어서, 도 10의 B에 도시된 바와 같이 세트마다 설정되어 있다. 또한, 도 10의 C에 도시하는 예와 같이, 세트에 포함되는 타일이 다른 세트와 오버랩해도 된다. 부분 영역의 픽셀수는, 각 세트의 픽셀수로부터, 예를 들어, 도 10의 D의 예와 같이 산출할 수 있다.
또한, 예를 들어, 도 11의 A에 도시하는 신택스와 같이, MCTS SEI에 있어서, 복수 레이어의 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보로서, 각 레이어의 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨(mcts_level_idc[i][j])을 설정하도록 해도 된다. 여기서, 「i」는 세트를 나타내고, 「j」는 레이어를 나타낸다. 즉, 도 11의 A의 예에서는, 복호에 필요한 레벨 정보(mcts_level_idc)의 값이 세트마다, 또한, 레이어마다 설정된다. 이 경우, 시맨틱스는, 예를 들어 도 11의 B와 같이 해도 된다.
또한, 예를 들어, 도 12의 A에 도시하는 신택스와 같이, MCTS SEI에 있어서, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보로서, 그 부분 영역의 크기를 나타내는 정보(maxLumaPS_in_set[i])를 설정하도록 해도 된다. 여기서, 「i」는 세트를 나타낸다. 즉, 도 12의 A의 예에서는, 세트(부분 영역)의 크기를 나타내는 정보(maxLumaPS_in_set)의 값이 세트마다 설정된다. 이 경우, 시맨틱스는, 예를 들어 도 12의 B와 같이 해도 된다.
또한, 예를 들어, 도 13의 A에 도시하는 신택스와 같이, MCTS SEI에 있어서, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보로서, 그 부분 영역의, 세로 방향의 길이를 나타내는 정보(mcts_height_in_luma_samples[i])와 가로 방향의 길이를 나타내는 정보(mcts_width_in_luma_samples[i])를 설정하도록 해도 된다. 여기서, 「i」는 세트를 나타낸다. 즉, 도 13의 A의 예에서는, 세트(부분 영역)의, 세로 방향의 길이를 나타내는 정보(mcts_height_in_luma_samples)의 값과 가로 방향의 길이를 나타내는 정보(mcts_width_in_luma_samples)의 값이 세트마다 설정된다. 이 경우, 시맨틱스는, 예를 들어 도 13의 B와 같이 해도 된다.
또한, 예를 들어, 도 14에 도시되는 신택스와 같이, MCTS SEI에 있어서, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보로서, 그 부분 영역을 복호하는 가상 참조 디코더의 파라미터(mcts_hrd_parameters())를 설정하도록 해도 된다.
그 경우, 예를 들어, 도 15의 A에 도시하는 신택스와 같이, 가상 참조 디코더의 파라미터(mcts_hrd_parameters())로서, 가상 참조 디코더의 최대 입력 비트 레이트(mcts_bit_rate_value_minus1)와 버퍼 용량(mcts_cpb_size_value_minus1)을 설정하도록 해도 된다. 이 경우, 시맨틱스는, 예를 들어 도 15의 B와 같이 해도 된다.
또한, 예를 들어, 도 16의 A에 도시된 바와 같이, 이상과 같은 MCTS SEI의 확장 외에, 시퀀스 파라미터 세트(SPS(Sequence Parameter Set))에 있어서, MCTS SEI에 상술한 바와 같은 복호 부하 정의 정보가 설정되어 있는지 여부를 나타내는 정보(mcts_present_flag)를 설정하도록 해도 된다. 이 경우, 시맨틱스는, 예를 들어 도 16의 B와 같이 해도 된다.
또한, 예를 들어, 도 17의 A에 도시된 바와 같이, 시퀀스 파라미터 세트(SPS)에 있어서, 그 복호 부하 정의 정보가 설정되어 있는지 여부를 나타내는 정보 대신에 MCTS SEI에 설정되는 복호 부하 정의 정보와 동일한 복호 부하 정의 정보를 설정하도록 해도 된다. 이 경우, 시맨틱스는, 예를 들어 도 17의 B와 같이 해도 된다.
또한, 시퀀스 파라미터 세트(SPS)에 설정하는 정보는, 시퀀스 파라미터 세트(SPS) 대신에 비디오 파라미터 세트(VPS(Video Parameter Set))에 설정하도록 해도 된다.
물론, 복호 부하 정의 정보의 설정 방법은 임의로서, 상술한 예로 한정되지 않는다. 또한, 상술한 복수의 방법을 조합해도 된다. 또한, 상술한 방법과, 기타의 방법을 조합해도 된다.
이상과 같이 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 설정함으로써, 그 복호 부하 정의 정보에 기초하여 복호에 필요한 성능을 보다 정확하게 파악할 수 있다. 또한, 그 복호 부하 정의 정보를 복호측으로 전송함으로써, 복호측에 있어서도, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<DASH에의 적응>
예를 들어 도 6과 같은 DASH의 유스 케이스에서는, 일정수의 타일 영역을 움직이게 하면서 재생할 수 있는 것이 바람직하다. 그러나, 재생할 수 있는 부분 화상(타일의 조합)을 모두 타일 세트(tile_set)로서 등록하고, 각각에 대하여 복호 부하 정의 정보를 설정하도록 하면, 그 타일 세트의 수가 많은 경우, 정보량이 증대될 가능성이 있다.
예를 들어, 도 18의 예와 같이, 2x2 타일의 부분 화상(타일 세트)을 재생(표시)시키는 경우에 있어서, 그 부분 화상의 위치를 이동시키면(전체 화상 중에서 표시시키는 부분을 변경하면), 그 이동하는 동안 모두, 부분 화상(타일 세트)이 표시(재생)되게 된다. 이러한 부분 화상의 수는, 도면 중 우측의 식에 도시된 바와 같이 방대한 것이 될 가능성이 있다. 그로 인해, 이러한 부분 화상 모두에 대해서, 복호 부하 정의 정보를 설정하면, 정보량이 현실적이지 않을 정도로 증대될 가능성이 있다. 또한, 그 때의 각 타일 세트에 관한 복호 부하 정보의 용장성은 극히 높은 것이 될 가능성이 있다. 즉, 불필요하게 정보량이 증대될 가능성이 있다.
따라서, 예를 들어, MCTS SEI를 확장하고, 복호 부하 정보로서, 기준으로 하는 부분 화상의 크기를 나타내는 정보와, 그 부분 화상의 복호 처리의 부하의 크기를 나타내는 레벨을 설정한다. 즉, 부분 화상의 크기에 의해 복호 처리의 부하의 크기를 추정할 수 있는 정보를 MCTS SEI에 저장한다.
그리고, 예를 들어, 이러한 정보를 참조함으로써(복호할 영역의 크기와 그 기준으로 하는 부분 화상의 크기를 비교함으로써), 그 영역의 복호 처리의 부하의 크기를 보다 올바르게 파악할 수 있다.
여기서, 기준으로 하는 부분 화상의 크기는, 어떤 정보에 의해 나타나도록 해도 되는데, 예를 들어, 전체 화상이 균등하게 분할된 타일(Tile)을 단위로 하여 나타내도록 해도 된다. 또한, 그 기준으로 하는 크기의 수는 임의지만, 복호 처리의 부하의 크기를 보다 올바르게 파악하기 위해서는 복수인 쪽이 바람직하다. 또한, 복호 처리의 부하의 크기를, 어떤 정보에 의해 나타나도록 해도 되는데, 예를 들어, 레벨 정보(level)에 의해 나타내도록 해도 된다.
그런데, 기존의 ROI는, 애플리케이션이 임의로 장소를 지정할 수 있을 것이 전제로 되어 있고, 역으로 말하자면, 반드시, 어떤 영역(ROI)이 정의되는 것이 절대적인 것으로 되어 있다.
그러나, DASH의 타일 스트리밍(Tiled Streaming)과 같은 애플리케이션의 경우, 유저가 선택한 영역을 잘라내서 표시한다는 것이 컨셉으로 되어 있다(해상도가 다른 스트림으로 전환하는 것도 포함함). 즉, 어느 영역이 선택될지는, 유저가 임의로 결정할 수 있으므로, 모든 타일이 단독 디코드 가능한 타일이며, 또한, 균등하게 분할되어 있다라고 하는 전제로, 재생할 디바이스의 능력(Level)에 따라 선택할 타일의 수가 상이하다는 것이, 가장, 통상적인 서비스의 운용이 되는 것이 상정된다.
따라서, 기존의 ROI를 위한 애플리케이션의 전제와, DASH의 Tiled Streaming을 위한 애플리케이션의 전제는, 방향성이 조금 상이하다.
따라서, 양쪽 전제를 하나의 SEI로 만족시키면서도, 애플리케이션이 복호할 영역(타일) 단위의 레벨(Level)을 정의할 수 있도록 애플리케이션의 모드라고 하는 것을 도입하고, 그 모드마다, 정의해야 할 정보를, 변경할 수 있도록 확장해도 된다.
예를 들어, 애플리케이션마다, 필요하게 되는 정의할 정보를 변경할 수 있도록, 모드라고 하는 개념을 정의한다. 예를 들어, DASH 모드를 설정한다. 그리고, DASH 모드==균등 분할+전체 타일 독립이라고 정의한다. 즉, DASH 모드에서는, 화면이 균등 타일 분할(uniform_spacing_flag=1＠PPS)인 것으로 한다. 또한, 개개의 타일이 독립 디코드 가능함이 알려져 있는 것으로 한다.
그리고 이 DASH 모드의 경우에, 한번에 디코딩할 타일수와, 그에 대응하는 레벨 정보를 기술(정의)하도록 한다. 예를 들어, 도 19의 경우, 한번에 디코딩할 타일수로서, 4, 12, 30의 3개가 설정되고, 그 3개의 경우 각각에 대해서, 레벨 정보(복호 부하 정보)가 설정된다.
이와 같이 함으로써, 상술한 양쪽 애플리케이션에 대하여 보다 적절하게 복호 부하 정보를 설정할 수 있다.
그 경우의, MCTS SEI의 확장예(신택스의 예)를 도 20에 도시하였다. 도 20의 예의 경우, 위로부터 2행째에 있어서 애플리케이션의 모드(mcts_mode)가 설정된다. 그리고, 위로부터 4행째와 같이, 그 모드가 종래의 ROI에 대한 애플리케이션의 모드(mode for current ROI application)일 경우(mcts_mode==0), 상술한 각 예와 마찬가지로, 독립적으로 복호 가능한 부분 화상마다 복호 부하 정보가 설정된다. 예를 들어, 위로부터 13행째에 있어서는, 복호에 필요한 레벨 정보(mcts_level_idc[i])가 설정된다.
또한, 애플리케이션의 모드가 DASH 모드(mode for DASH application)일 경우(mcts_mode==1), 한번에 디코딩할 영역의 타일수와, 그에 대응하는 레벨 정보가 설정된다. 예를 들어, 위로부터 17행째에 있어서, 그 영역의 식별 정보(mcts_id[i])가 설정되고, 그 다음 행에 있어서는, 그 식별 정보가 나타내는 영역에 포함되는 타일수를 나타내는 정보(num_of_tiles_minus1[i])가 설정되고, 또한, 그 다음 행에 있어서는, 그 영역을 복호하는 데 필요한 레벨 정보(mcts_level_idc[i])가 설정된다.
여기서, 「i」는 세트를 나타낸다. 즉, 도 20의 예에서는, 복호에 필요한 레벨 정보(mcts_level_idc)의 값, 식별 정보(mcts_id)의 값, 및 그 식별 정보가 나타내는 영역에 포함되는 타일수를 나타내는 정보(num_of_tiles_minus1)의 값이 이 세트마다 설정된다.
이상과 같이 복호 부하 정보를 설정함으로써, 그 복호 부하 정보에 기초하여, 복호할 영역의 크기(타일수)에 따라, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다. 또한, 그 복호 부하 정의 정보를 복호측으로 전송함으로써, 복호측에 있어서도, 복호할 영역의 크기(타일수)에 따라, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<복호 부하 정의 정보의 설정의 다른 예 1>
이상에 있어서, 타일 세트는, 직사각형인 것으로 설명하였다. 이 경우, 예를 들어, MCTS(단독으로 복호 가능한 타일군(부분 영역))가 「L」자형이라고 하면, 문자 「L」의 세로선 부분을 나타내는 세로 방향을 길이 방향으로 하는 타일 세트와, 문자 「L」의 가로선 부분을 나타내는 가로 방향을 길이 방향으로 하는 타일 세트의 2가지의 세트를 정의할 필요가 있다.
또한, 이상에 있어서, 복호 부하 정의 정보로서, 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨(복호에 필요한 레벨)을 나타내는 정보(mcts_level_idc[i])의 값이 그 직사각형의 세트마다 설정되는 것으로 설명하였다. 즉, 이 경우, 「L」자형의 부분 영역에 대해서, 복호에 필요한 레벨을 나타내는 정보(mcts_level_idc[i])를 2개 설정해야 한다. 물론, 이와 같이 함으로써, 각 세트의 복호에 필요한 레벨이 서로 상이한 경우에 대응할 수 있지만, 각 세트의 복호에 필요한 레벨이 서로 동일한 경우에는 용장이 되어, 부호화 효율이 저감될 가능성이 있다.
따라서, 세트마다가 아니라, 단독으로 복호 가능한 부분 영역에 대하여 하나의 레벨을 설정할 수 있도록 해도 된다. 단독으로 복호 가능한 세트는, 단독으로 복호 가능한 부분 영역이기도 하다. 즉, 단독으로 복호 가능한 복수의 부분 영역에 공통의 레벨을 정의할 수 있도록 해도 된다. 그 경우의 신택스의 예를 도 21의 A에 도시하였다. 또한, 그 경우의 시맨틱스의 예를 도 21의 B에 도시하였다.
도 21의 A의 예에서는, 위로부터 3행째에 있어서, 모든 타일이 단독으로 복호 가능한 세트를 형성할지 여부를 나타내는 정보(each_tile_one_tile_set_flag)가 설정되고, 위로부터 4행째에 있어서, SEI 메시지에 정의된 motion-constrained tile sets에, 복호에 필요한 레벨을 나타내는 정보(mcts_level_idc)가 포함되는지 여부를 나타내는 정보(mcts_level_idc_present_flag)가 설정된다.
그리고, 위로부터 5행째에 있어서, 모든 타일이 독자적으로 복호 가능한 세트를 형성하는 것은 아니라고 판정된 경우(! each_tile_one_tile_set_flag), 위로부터 7행째 내지 16행째의 루프에 있어서, 각 세트에 관한 설정이 행하여지지만, 복호에 필요한 레벨(mcts_level_idc)의 설정은, 그 루프의 밖의 위로부터 18행째에 있어서 행하여진다.
즉, 도 22의 예와 같이, 모두 단독으로 복호 가능한, 「0」번째의 식별 정보(mcts_id[0])가 할당된 세트와, 「1」번째의 식별 정보(mcts_id[1])가 할당된 세트가 서로 인접하고, 각 세트의 복호에 필요한 레벨이 서로 동등할 경우, 세트마다 레벨 정보(mcts_level_idc[i])를 설정하는 것이 아니가, 양 세트 공통의 레벨 정보(mcts_level_idc)를 설정할 수 있다.
이와 같이 함으로써, 단독으로 복호 가능한 복수의 부분 영역(예를 들어 복수의 세트로 나타낼 필요가 있는 부분 영역)에 대하여 하나의(공통의) 레벨 정보만을 설정할 수 있어, 용장성을 저감하고, 부호화 효율을 향상시킬 수 있다.
또한, 비특허문헌 1에 기재된 HEVC에 있어서는, 레벨은 전체 화상(픽처) 단위로 정의되는 것이 상정되어 있고, 레벨에서의 파라미터의 규정도, 전체 화상(픽처) 단위로 행해진다. 따라서, 상술한 바와 같이 부분 영역 단위로 레벨을 정의하는 데 있어서, 그 부분 영역용의 레벨에 관한 파라미터의 규정도 행하고, 그 규정을 전체 화상(픽처) 단위의 레벨에서의 규정에 할당(파라미터의 맵핑을 행)하도록 해도 된다.
예를 들어, 단독으로 복호 가능한 부분 영역이 사각형인 경우, 그 부분 영역에 대하여 레벨에서의 파라미터를 규정하고, 전체 화상(픽처) 단위의 레벨에서의 규정을, 그 규정으로 치환하도록 해도 된다. 또한, 예를 들어, 단독으로 복호 가능한 부분 영역이 「L」자형인 경우, 그 「L」자형의 부분 영역을 내포하는 사각형을 설정하고, 그 사각형의 영역에 대하여 레벨에서의 파라미터를 규정하고, 전체 화상(픽처) 단위의 레벨에서의 규정을, 그 규정으로 치환하도록 해도 된다.
예를 들어, 도 22의 경우, 단독으로 복호 가능한 부분 영역이, 식별 정보(mcts_id[0])의 세트와 식별 정보(mcts_id[1])의 세트에 의해 구성되는 경우, 그 양 세트를 포함하는 사각형의 영역을 설정하고, 이것을 픽처(레벨에서의 파라미터의 규정 단위)에 할당한다. 즉 이 사각형의 영역의 가로 방향의 크기 W를 pic_width_in_luma_samples로서 추정하고, 이 사각형의 영역의 세로 방향의 크기 H를 pic_height_in_luma_samples로서 추정하고, 이 사각형의 영역의 크기 WxH를 PicSizeInSamplesY로서 추정하고, 이 사각형의 영역에 대하여 레벨에서의 파라미터를 규정하도록 해도 된다.
이와 같이 함으로써, 사각형의 영역에 대하여 규정한 파라미터의 값을 픽처 단위로 규정되는 파라미터에 맵핑할 수 있다. 그리고, 이러한 파라미터의 맵핑을 행함으로써, 단독으로 복호 가능한 부분 영역에 대하여 보다 적절한 규정을 채용할 수 있게 된다.
그런데, 모든 타일이 단독으로 복호 가능한 경우, 그 부분 영역의 크기에 따라, 그 부분 영역의 복호에 필요한 레벨(mcts_level_idc[i])을 설정할 수 있다. 이 경우, 그 부분 영역의 크기를, 그 부분 영역의 세로 방향의 타일수(행수)와 가로 방향의 타일수(열수)로 나타내도록 해도 된다. 여기서, 「i」는, 부분 영역의 크기와 레벨의 대응 관계의 수를 나타낸다.
도 21의 A의 예에서는, 위로부터 20행째 내지 28행째의 루프에 있어서, 부분 영역의 크기와 레벨이 대응지어진다. 그 루프 중에 있어서, 부분 영역의 세로 방향의 타일수를 나타내는 정보(num_mc_tile_columns_minus1[i])가 설정되고(위로부터 24행째), 부분 영역의 가로 방향의 타일수를 나타내는 정보(num_mc_tile_rows_minus1[i])가 설정된다(위로부터 25행째).
예를 들어, 도 23의 경우, 식별 정보(mcts_level_id[0])가 설정되는 「0」번째의 대응 관계에서는, 레벨(meta_level_idc[0])에 대하여 타일수 2x2의 부분 영역이 대응지어진다. 즉, 이 대응 관계에 있어서, 부분 영역의 세로 방향의 타일수를 나타내는 정보(num_mc_tile_columns_minus1[0])의 값이 「1」로 설정되고, 부분 영역의 가로 방향의 타일수를 나타내는 정보(num_mc_tile_rows_minus1[0])가 「1」로 설정된다. 이러한 정보를 설정함으로써, 레벨(meta_level_idc[0])에 대응하는 부분 영역의 타일수가 4인 것뿐만 아니라, 부분 영역의 형상(세로 2타일x가로 2타일의 직사각형인 것)도 나타난다.
또한, 예를 들어, 도 23의 경우, 식별 정보(mcts_level_id[1])가 설정되는 「1」번째의 대응 관계에서는, 레벨(meta_level_idc[1])에 대하여 타일수 4x4의 부분 영역이 대응지어진다. 즉, 이 대응 관계에 있어서, 부분 영역의 세로 방향의 타일수를 나타내는 정보(num_mc_tile_columns_minus1[1])의 값이 「3」으로 설정되고, 부분 영역의 가로 방향의 타일수를 나타내는 정보(num_mc_tile_rows_minus1[1])가 「3」으로 설정된다. 이러한 정보를 설정함으로써, 레벨(meta_level_idc[1])에 대응하는 부분 영역의 타일수가 16인 것뿐만 아니라, 부분 영역의 형상(세로 4타일x가로 4타일의 직사각형인 것)도 나타난다.
이와 같이 함으로써, 부분 영역과 레벨을 대응짓는 정보의 편리성을 향상시킬 수 있다. 예를 들어, 이 부분 화상을 취득하여 표시하는 단말기가, 이 정보에 기초하여 부분 영역이 가로로 긴지 여부를 판단하여, 부분 영역이 가로로 긴 경우, 상하에 검은 띠를 넣어서 표시하는 등의 표시 화상의 애스펙트비 조정을 보다 용이하게 행할 수 있다.
<복호 부하 정의 정보의 설정의 다른 예 2>
모든 타일이 단독으로 복호 가능한 경우, 픽처 내에 있어서의 타일 단위의 레벨의 최댓값(max_level_idc)을 설정하도록 해도 된다. 즉, 1타일을 1세트로 하고, 각 세트에 대하여 설정되는 레벨의, 픽처 내에 있어서의 최댓값을 설정하도록 해도 된다. 그 경우의 신택스의 예를 도 24의 A에 도시하였다. 또한, 그 경우의 시맨틱스의 예를 도 24의 B에 도시하였다.
도 24의 A의 예에서는, 위로부터 21행째에 있어서, 그 픽처에 있어서의 레벨의 최댓값(max_level_idc)이 설정된다. 이 레벨은, 도 26의 예에 도시된 바와 같이, 1타일에 의해 구성되는 세트에 대하여 설정되는 레벨이다. 예를 들어, 도 26의 경우, 픽처 내의 세로 6세트(6타일)x가로 10세트(10타일)의 합계 60세트(60타일)의 각 세트에 대하여 설정된 레벨의 최댓값이 max_level_idc로서 설정되어 있다.
전체 화상으로부터 몇개의 타일을 잘라낼지는 애플리케이션이 결정한다. 그 애플리케이션은, 각 레벨에 대응하는 타일수가 모두 정의되어 있지 않아도, 이 레벨의 최댓값(max_level_idc)에 기초하여 잘라낼 수 있는(복호 등의 처리를 행할 수 있는) 타일의 수를 충분히 정확하게 판단할 수 있다.
즉, 각 레벨에 대응하는 타일수를 모두 정의하는 대신, 픽처에 있어서의, 1타일로 구성되는 세트마다(즉, 타일마다)에 설정되는 레벨의 최댓값(max_level_idc)만을 설정하기만 하면, 애플리케이션은, 그 설정에 기초하여 복호 등의 처리를 파탄시키지 않도록, 잘라내는 타일의 수를 제어할 수 있다.
그리고, 이와 같이 함으로써, 각 레벨에 대응하는 타일수를 모두 정의하는 경우보다도, 모든 타일의 신택스를 간이화하여, 처리의 부하를 저감시킬 수 있다. 또한, 각 레벨에 대응하는 타일수를 모두 정의하는 경우보다도, 전송하는 정보량을 저감시킬 수 있어, 부호화 효율을 향상시킬 수 있다.
또한, 도 24의 A의 예에서는, 위로부터 17행째에 있어서, 각 부분 영역에 대하여 레벨(mcts_level_idc[i])이 설정된다. 즉, 도 25의 A의 예와 같이, 모두 단독으로 복호 가능한, 식별 정보(mcts_id[0])가 할당된 세트와 식별 정보(mcts_id[1])가 할당된 세트가 존재하는 경우, 그 세트마다 레벨(mcts_level_idc[i])을 설정할 수 있다.
그 때, 세트를 포함하는 사각형의 영역을 세트마다 설정하고, 이들을 각각 픽처(레벨에서의 파라미터의 규정 단위)에 할당하도록 해도 된다. 예를 들어, 도 25의 A의 경우, 식별 정보(mcts_id[0])의 세트를 포함하는 사각형의 영역을 설정하고, 이 사각형의 영역의 가로 방향의 크기 W를 pic_width_in_luma_samples로서 추정하고, 이 사각형의 영역의 세로 방향의 크기 H를 pic_height_in_luma_samples로서 추정하고, 이 사각형의 영역의 크기 WxH를 PicSizeInSamplesY로서 추정하고, 이 사각형의 영역에 대하여 레벨에서의 파라미터를 규정하도록 해도 된다. 마찬가지로, 식별 정보(mcts_id[1])의 세트를 포함하는 사각형의 영역을 설정하고, 이 사각형의 영역의 가로 방향의 크기 W를 pic_width_in_luma_samples로서 추정하고, 이 사각형의 영역의 세로 방향의 크기 H를 pic_height_in_luma_samples로서 추정하고, 이 사각형의 영역의 크기 WxH를 PicSizeInSamplesY로서 추정하고, 이 사각형의 영역에 대하여 레벨에서의 파라미터를 규정하도록 해도 된다.
이와 같이 함으로써, 각 사각형의 영역에 대하여 규정한 파라미터의 값을 픽처 단위로 규정되는 파라미터에 맵핑할 수 있다. 그리고, 이러한 파라미터의 맵핑을 행함으로써, 단독으로 복호 가능한 각 부분 영역에 대하여 보다 적절한 규정을 채용할 수 있게 된다.
또한, 단독으로 복호 가능한 부분 영역이 복수의 직사각형 영역에 의해 형성되는 경우, 그들 모두의 직사각형 영역을 포함하는 사각형을 설정하도록 하면 된다. 예를 들어, 도 25의 B의 경우, 식별 정보(mcts_id[0])의 세트는 2개의 직사각형 영역을 포함하지만, 이 세트를 모두 포함하는 사각형의 영역을 설정하고, 이 사각형의 영역의 가로 방향의 크기 W를 pic_width_in_luma_samples로서 추정하고, 이 사각형의 영역의 세로 방향의 크기 H를 pic_height_in_luma_samples로서 추정하고, 이 사각형의 영역의 크기 WxH를 PicSizeInSamplesY로서 추정하고, 이 사각형의 영역에 대하여 레벨에서의 파라미터를 규정하도록 해도 된다.
이와 같이 함으로써, 단독으로 복호 가능한 부분 영역이 복수의 직사각형 영역에 의해 형성되는 경우에도, 사각형의 영역에 대하여 규정한 파라미터의 값을 픽처 단위로 규정되는 파라미터에 맵핑할 수 있다. 그리고, 이러한 파라미터의 맵핑을 행함으로써, 단독으로 복호 가능한 부분 영역이 복수의 직사각형 영역에 의해 형성되는 경우에도, 그 부분 영역에 대하여 보다 적절한 규정을 채용할 수 있게 된다.
<2. 제2 실시 형태>
<화상 부호화 장치>
이어서, 이상과 같은 본 기술을 실현하는 장치와 그 방법에 대하여 설명한다. 도 27은, 본 기술을 적용한 화상 처리 장치의 일 형태인, 화상 부호화 장치를 도시하는 도면이다. 도 27에 도시하는 화상 부호화 장치(100)는 계층 화상 부호화(스케일러블 부호화)를 행하는 장치이다. 도 27에 도시된 바와 같이, 화상 부호화 장치(100)는 베이스 레이어 화상 부호화부(101), 인핸스먼트 레이어 화상 부호화부(102), 다중화부(103), 및 제어부(104)를 갖는다.
베이스 레이어 화상 부호화부(101)는, 베이스 레이어 화상을 부호화하여, 베이스 레이어 화상 부호화 스트림을 생성한다. 인핸스먼트 레이어 화상 부호화부(102)는 인핸스먼트 레이어 화상을 부호화하여, 인핸스먼트 레이어 화상 부호화 스트림을 생성한다. 다중화부(103)는 베이스 레이어 화상 부호화부(101)에서 생성된 베이스 레이어 화상 부호화 스트림과, 인핸스먼트 레이어 화상 부호화부(102)에서 생성된 인핸스먼트 레이어 화상 부호화 스트림을 다중화하여, 계층 화상 부호화 스트림을 생성한다. 다중화부(103)는 생성한 계층 화상 부호화 스트림을 복호측으로 전송한다.
제어부(104)는, 화상 데이터 전체에 관계하는 설정을 행하고, 그 설정에 기초하여 베이스 레이어 화상 부호화부(101) 및 인핸스먼트 레이어 화상 부호화부(102)를 제어함으로써, 각 레이어의 부호화를 제어한다. 또한, 제어부(104)는 그 설정을 사용하여 비디오 파라미터 세트(VPS)를 생성하고, 다중화부(103)에 공급하고, 복호측으로 전송시킨다. 그 때, 비디오 파라미터 세트는, 계층 화상 부호화 스트림에 포함하여 전송하도록 해도 되고, 계층 화상 부호화 스트림과는 별도의 데이터로서 전송하도록 해도 된다.
또한, 복호 부하 정의 정보 혹은 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보를 비디오 파라미터 세트(VPS)에 설정하는 경우, 제어부(104)는 베이스 레이어 화상 부호화부(101) 및 인핸스먼트 레이어 화상 부호화부(102)로부터 복호 부하 정의 정보 등을 수집하고, 그 정보에 기초하여 복호 부하 정의 정보 혹은 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보를 비디오 파라미터 세트(VPS)에 설정한다.
또한, 베이스 레이어 화상 부호화부(101) 및 인핸스먼트 레이어 화상 부호화부(102)는 서로, 복호 처리의 부하의 크기에 관한 정보인 복호 부하 관련 정보를 수수할 수도 있다. 예를 들어, 도 11의 예와 같이 복수 레이어의 복호 부하 정의 정보를 설정하는 경우, 그 레이어의 부호화부는, 다른 레이어의 복호 부하 관련 정보를 수집한다.
<베이스 레이어 화상 부호화부>
도 28은, 도 27의 베이스 레이어 화상 부호화부(101)의 주된 구성예를 도시하는 블록도이다. 도 28에 도시된 바와 같이, 베이스 레이어 화상 부호화부(101)는 A/D 변환부(111), 화면 재배열 버퍼(112), 연산부(113), 직교 변환부(114), 양자화부(115), 가역 부호화부(116), 축적 버퍼(117), 역양자화부(118), 및 역직교 변환부(119)를 갖는다. 또한, 베이스 레이어 화상 부호화부(101)는 연산부(120), 루프 필터(121), 프레임 메모리(122), 선택부(123), 인트라 예측부(124), 인터 예측부(125), 예측 화상 선택부(126), 및 레이트 제어부(127)를 갖는다.
A/D 변환부(111)는, 입력된 화상 데이터(베이스 레이어 화상 정보)를 A/D 변환하고, 변환 후의 화상 데이터(디지털 데이터)를 화면 재배열 버퍼(112)에 공급하고, 기억시킨다. 화면 재배열 버퍼(112)는 기억한 표시의 순서의 프레임의 화상을, GOP(Group Of Picture)에 따라, 부호화를 위한 프레임의 순서대로 재배열하고, 프레임의 순서를 재배열한 화상을, 연산부(113)에 공급한다. 또한, 화면 재배열 버퍼(112)는 프레임의 순서를 재배열한 화상을, 인트라 예측부(124) 및 인터 예측부(125)에도 공급한다.
연산부(113)는, 화면 재배열 버퍼(112)로부터 판독된 화상으로부터, 예측 화상 선택부(126)를 통하여 인트라 예측부(124) 혹은 인터 예측부(125)로부터 공급되는 예측 화상을 감산하고, 그 차분 정보를 직교 변환부(114)로 출력한다. 예를 들어, 인트라 부호화가 행하여지는 화상의 경우, 연산부(113)는 화면 재배열 버퍼(112)로부터 판독된 화상으로부터, 인트라 예측부(124)로부터 공급되는 예측 화상을 감산한다. 또한, 예를 들어, 인터 부호화가 행하여지는 화상의 경우, 연산부(113)는 화면 재배열 버퍼(112)로부터 판독된 화상으로부터, 인터 예측부(125)로부터 공급되는 예측 화상을 감산한다.
직교 변환부(114)는, 연산부(113)로부터 공급되는 차분 정보에 대하여 이산 코사인 변환이나 카루넨 루베 변환 등의 직교 변환을 실시한다. 직교 변환부(114)는 그 변환 계수를 양자화부(115)에 공급한다.
양자화부(115)는, 직교 변환부(114)로부터 공급되는 변환 계수를 양자화한다. 양자화부(115)는 레이트 제어부(127)로부터 공급되는 부호량의 목표값에 관한 정보에 기초하여 양자화 파라미터를 설정하고, 그 양자화를 행한다. 양자화부(115)는 양자화된 변환 계수를 가역 부호화부(116)에 공급한다.
가역 부호화부(116)는, 양자화부(115)에 있어서 양자화된 변환 계수를 임의의 부호화 방식으로 부호화한다. 계수 데이터는, 레이트 제어부(127)의 제어 하에서 양자화되어 있으므로, 이 부호량은, 레이트 제어부(127)가 설정한 목표값이 된다(혹은 목표값에 근사한다).
또한, 가역 부호화부(116)는, 인트라 예측의 모드를 나타내는 정보 등을 인트라 예측부(124)로부터 취득하고, 인터 예측의 모드를 나타내는 정보나 차분 움직임 벡터 정보 등을 인터 예측부(125)로부터 취득한다. 또한, 가역 부호화부(116)는 시퀀스 파라미터 세트(SPS), 및 픽처 파라미터 세트(PPS) 등을 포함하는 베이스 레이어의 NAL(Network Abstraction Layer) 유닛을 적절히 생성한다.
가역 부호화부(116)는, 이들 각종 정보를 임의의 부호화 방식으로 부호화하여, 부호화 데이터(부호화 스트림이라고도 칭함)의 일부로 한다(다중화한다). 가역 부호화부(116)는 부호화하여 얻어진 부호화 데이터를 축적 버퍼(117)에 공급하여 축적시킨다.
가역 부호화부(116)의 부호화 방식으로서는, 예를 들어, 가변 길이 부호화 또는 산술 부호화 등을 들 수 있다. 가변 길이 부호화로서는, 예를 들어, H.264/AVC 방식으로 정해져 있는 CAVLC(Context-Adaptive Variable Length Coding) 등을 들 수 있다. 산술 부호화로서는, 예를 들어, CABAC(Context-Adaptive Binary Arithmetic Coding) 등을 들 수 있다.
축적 버퍼(117)는, 가역 부호화부(116)로부터 공급된 부호화 스트림(베이스 레이어 부호화 스트림)을 일시적으로 유지한다. 축적 버퍼(117)는 소정의 타이밍에 있어서, 유지하고 있는 베이스 레이어 부호화 스트림을 다중화부(103)(도 27)로 출력한다. 즉, 축적 버퍼(117)는 베이스 레이어 부호화 스트림을 전송하는 전송부이기도 하다.
또한, 양자화부(115)에 있어서 양자화된 변환 계수는, 역양자화부(118)에도 공급된다. 역양자화부(118)는 그 양자화된 변환 계수를, 양자화부(115)에 의한 양자화에 대응하는 방법으로 역양자화한다. 역양자화부(118)는 얻어진 변환 계수를 역직교 변환부(119)에 공급한다.
역직교 변환부(119)는, 역양자화부(118)로부터 공급된 변환 계수를, 직교 변환부(114)에 의한 직교 변환 처리에 대응하는 방법으로 역직교 변환한다. 역직교 변환된 출력(복원된 차분 정보)은 연산부(120)에 공급된다.
연산부(120)는, 역직교 변환부(119)로부터 공급된 역직교 변환 결과인, 복원된 차분 정보에, 예측 화상 선택부(126)를 통하여 인트라 예측부(124) 혹은 인터 예측부(125)로부터의 예측 화상을 가산하고, 국부적으로 복호된 화상(복호 화상)을 얻는다. 그 복호 화상은, 루프 필터(121) 또는 프레임 메모리(122)에 공급된다.
루프 필터(121)는, 디블록 필터나 적응 루프 필터 등을 포함하여, 연산부(120)로부터 공급되는 재구성 화상에 대하여 적절히 필터 처리를 행한다. 예를 들어, 루프 필터(121)는 재구성 화상에 대하여 디블록 필터 처리를 행함으로써 재구성 화상의 블럭 노이즈를 제거한다. 또한, 예를 들어, 루프 필터(121)는 그 디블록 필터 처리 결과(블럭 노이즈의 제거가 행하여진 재구성 화상)에 대하여 위너 필터(Wiener Filter)를 사용하여 루프 필터 처리를 행함으로써 화질 개선을 행한다. 루프 필터(121)는 필터 처리 결과(이하, 복호 화상이라고 칭함)를 프레임 메모리(122)에 공급한다.
또한, 루프 필터(121)가 재구성 화상에 대하여 추가로, 다른 임의의 필터 처리를 행하도록 해도 된다. 또한, 루프 필터(121)는 필요에 따라, 필터 처리에 사용한 필터 계수 등의 정보를 가역 부호화부(116)에 공급하고, 그것을 부호화시키도록 할 수도 있다.
프레임 메모리(122)는, 공급되는 복호 화상을 기억하고, 소정의 타이밍에 있어서, 기억하고 있는 복호 화상을 참조 화상으로서, 선택부(123)에 공급한다.
보다 구체적으로는, 프레임 메모리(122)는 연산부(120)로부터 공급되는 재구성 화상과, 루프 필터(121)로부터 공급되는 복호 화상을 각각 기억한다. 프레임 메모리(122)는 소정의 타이밍에 있어서, 혹은, 인트라 예측부(124) 등의 외부로부터의 요구에 기초하여 기억하고 있는 재구성 화상을, 선택부(123)를 통하여 인트라 예측부(124)에 공급한다. 또한, 프레임 메모리(122)는 소정의 타이밍에 있어서, 혹은, 인터 예측부(125) 등의 외부로부터의 요구에 기초하여 기억하고 있는 복호 화상을, 선택부(123)를 통하여, 인터 예측부(125)에 공급한다.
선택부(123)는, 프레임 메모리(122)로부터 공급되는 참조 화상의 공급처를 선택한다. 예를 들어, 인트라 예측의 경우, 선택부(123)는 프레임 메모리(122)로부터 공급되는 참조 화상(커런트 픽처 내의 화소값 혹은 베이스 레이어 복호 화상)을 인트라 예측부(124)에 공급한다. 또한, 예를 들어, 인터 예측의 경우, 선택부(123)는 프레임 메모리(122)로부터 공급되는 참조 화상(인핸스먼트 레이어의 커런트 픽처 외의 복호 화상 또는 베이스 레이어 복호 화상)을 인터 예측부(125)에 공급한다.
인트라 예측부(124)는, 처리 대상의 프레임 화상인 커런트 픽처에 대해서, 예측 처리를 행하고, 예측 화상을 생성한다. 인트라 예측부(124)는 이 예측 처리를, 소정의 블록마다(블록을 처리 단위로 하여) 행한다. 즉, 인트라 예측부(124)는 커런트 픽처의, 처리 대상인 커런트 블록의 예측 화상을 생성한다. 그 때, 인트라 예측부(124)는 선택부(123)를 통하여 프레임 메모리(122)로부터 참조 화상으로서 공급되는 재구성 화상을 사용하여 예측 처리(화면 내 예측(인트라 예측이라고도 칭함))를 행한다. 즉, 인트라 예측부(124)는 재구성 화상에 포함되는, 커런트 블록의 주변 화소값을 사용하여 예측 화상을 생성한다. 이 인트라 예측에 이용되는 주변 화소값은, 커런트 픽처의, 과거에 처리된 화소의 화소값이다. 이 인트라 예측에는(즉, 예측 화상의 생성 방법에는), 복수의 방법(인트라 예측 모드라고도 칭하는)이 후보로서 미리 준비되어 있다. 인트라 예측부(124)는 이 미리 준비된 복수의 인트라 예측 모드에서 이 인트라 예측을 행한다.
인트라 예측부(124)는, 후보가 되는 모든 인트라 예측 모드에서 예측 화상을 생성하고, 화면 재배열 버퍼(112)로부터 공급되는 입력 화상을 사용하여 각 예측 화상의 코스트 함수값을 평가하고, 최적의 모드를 선택한다. 인트라 예측부(124)는 최적의 인트라 예측 모드를 선택하면, 그 최적의 모드에서 생성된 예측 화상을, 예측 화상 선택부(126)에 공급한다.
또한, 상술한 바와 같이, 인트라 예측부(124)는 채용된 인트라 예측 모드를 나타내는 인트라 예측 모드 정보 등을, 적절히 가역 부호화부(116)에 공급하고, 부호화시킨다.
인터 예측부(125)는, 커런트 픽처에 대해서, 예측 처리를 행하여, 예측 화상을 생성한다. 인터 예측부(125)는 이 예측 처리를, 소정의 블록마다(블록을 처리 단위로 하여) 행한다. 즉, 인터 예측부(125)는 커런트 픽처의, 처리 대상인 커런트 블록의 예측 화상을 생성한다. 그 때, 인터 예측부(125)는 화면 재배열 버퍼(112)로부터 공급되는 입력 화상의 화상 데이터와, 프레임 메모리(122)로부터 참조 화상으로서 공급되는 복호 화상의 화상 데이터를 사용하여, 예측 처리를 행한다. 이 복호 화상은, 커런트 픽처보다 앞서 처리된 프레임의 화상(커런트 픽처가 아닌 다른 픽처)이다. 즉, 인터 예측부(125)는 다른 픽처의 화상을 사용하여 예측 화상을 생성하는 예측 처리(화면간 예측(인터 예측이라고도 칭함))를 행한다.
이 인터 예측은, 움직임 예측과 움직임 보상을 포함한다. 보다 구체적으로는, 인터 예측부(125)는 입력 화상과 참조 화상을 사용하여, 커런트 블록에 대하여 움직임 예측을 행하고, 움직임 벡터를 검출한다. 그리고, 인터 예측부(125)는 참조 화상을 사용하여, 검출된 움직임 벡터에 따라서 움직임 보상 처리를 행하고, 커런트 블록의 예측 화상(인터 예측 화상 정보)을 생성한다. 이 인터 예측에는(즉, 예측 화상의 생성 방법에는), 복수의 방법(인터 예측 모드라고도 칭함)이 후보로서 미리 준비되어 있다. 인터 예측부(125)는 이 미리 준비된 복수의 인터 예측 모드에서 이러한 인터 예측을 행한다.
인터 예측부(125)는, 후보가 되는 모든 인터 예측 모드에서 예측 화상을 생성한다. 인터 예측부(125)는 화면 재배열 버퍼(112)로부터 공급되는 입력 화상과, 생성한 차분 움직임 벡터의 정보 등을 사용하여, 각 예측 화상의 코스트 함수값을 평가하고, 최적의 모드를 선택한다. 인터 예측부(125)는, 최적의 인터 예측 모드를 선택하면, 그 최적의 모드에서 생성된 예측 화상을, 예측 화상 선택부(126)에 공급한다.
인터 예측부(125)는, 채용된 인터 예측 모드를 나타내는 정보나, 부호화 데이터를 복호할 때에 그 인터 예측 모드에서 처리를 행하기 위하여 필요한 정보 등을 가역 부호화부(116)에 공급하고, 부호화시킨다. 필요한 정보로서는, 예를 들어, 생성된 차분 움직임 벡터의 정보나, 예측 움직임 벡터 정보로서 예측 움직임 벡터의 인덱스를 나타내는 플래그 등이 있다.
예측 화상 선택부(126)는, 연산부(113)나 연산부(120)에 공급하는 예측 화상의 공급원을 선택한다. 예를 들어, 인트라 부호화의 경우, 예측 화상 선택부(126)는 예측 화상의 공급원으로서 인트라 예측부(124)를 선택하고, 그 인트라 예측부(124)로부터 공급되는 예측 화상을 연산부(113)나 연산부(120)에 공급한다. 또한, 예를 들어, 인터 부호화의 경우, 예측 화상 선택부(126)는 예측 화상의 공급원으로서 인터 예측부(125)를 선택하고, 그 인터 예측부(125)로부터 공급되는 예측 화상을 연산부(113)나 연산부(120)에 공급한다.
레이트 제어부(127)는 축적 버퍼(117)에 축적된 부호화 데이터의 부호량에 기초하여 오버플로우 또는 언더플로우가 발생하지 않도록, 양자화부(115)의 양자화 동작의 레이트를 제어한다.
또한, 프레임 메모리(122)는 기억하고 있는 베이스 레이어 복호 화상을, 인핸스먼트 레이어 화상 부호화부(102)에 공급한다.
또한, 도 28에 도시된 바와 같이, 베이스 레이어 화상 부호화부(101)는 헤더 정보 생성부(128)를 더 갖는다.
헤더 정보 생성부(128)는 시퀀스 파라미터 세트(SPS)나 MCTS SEI 등의 헤더 정보를 생성한다. 그 때, 헤더 정보 생성부(128)는 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보의 설정에 관한 처리를 행한다. 예를 들어, 헤더 정보 생성부(128)는, 가역 부호화부(116)로부터 베이스 레이어의 복호 부하 관련 정보를 취득하고, 그 복호 부하 관련 정보에 기초하여 베이스 레이어의, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 생성할 수 있다. 또한, 헤더 정보 생성부(128)는, 예를 들어, 인핸스먼트 레이어 화상 부호화부(102)로부터 인핸스먼트 레이어의 복호 부하 관련 정보를 취득하고, 그 복호 부하 관련 정보에 기초하여, 인핸스먼트 레이어의, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 생성할 수 있다.
또한, 헤더 정보 생성부(128)는, 제어부(104)에 복호 부하 정의 정보 등을 공급하여, 비디오 파라미터 세트에 복호 부하 정의 정보에 관한 설정을 행하게 할 수 있다.
<인핸스먼트 레이어 화상 부호화부>
도 29는, 도 27의 인핸스먼트 레이어 화상 부호화부(102)의 주된 구성예를 도시하는 블록도이다. 도 29에 도시된 바와 같이, 인핸스먼트 레이어 화상 부호화부(102)는 도 28의 베이스 레이어 화상 부호화부(101)와 기본적으로 동일한 구성을 갖는다.
즉, 인핸스먼트 레이어 화상 부호화부(102)는, 도 29에 도시된 바와 같이, A/D 변환부(131), 화면 재배열 버퍼(132), 연산부(133), 직교 변환부(134), 양자화부(135), 가역 부호화부(136), 축적 버퍼(137), 역양자화부(138), 및 역직교 변환부(139)를 갖는다. 또한, 인핸스먼트 레이어 화상 부호화부(102)는 연산부(140), 루프 필터(141), 프레임 메모리(142), 선택부(143), 인트라 예측부(144), 인터 예측부(145), 예측 화상 선택부(146), 및 레이트 제어부(147)를 갖는다.
이들 A/D 변환부(131) 내지 레이트 제어부(147)는 도 28의 A/D 변환부(111) 내지 레이트 제어부(127)에 대응하고, 각각, 대응하는 처리부와 동일한 처리를 행한다. 단, 인핸스먼트 레이어 화상 부호화부(102)의 각 부는, 베이스 레이어가 아니라, 인핸스먼트 레이어 화상 정보의 부호화에 관한 처리를 행한다. 따라서, A/D 변환부(131) 내지 레이트 제어부(147)의 처리의 설명으로서, 상술한 도 28의 A/D 변환부(111) 내지 레이트 제어부(127)에 관한 설명을 적용할 수 있는데, 그 경우, 처리하는 데이터는, 베이스 레이어의 데이터가 아니라, 인핸스먼트 레이어의 데이터인 것으로 할 필요가 있다. 또한, 데이터의 입력원이나 출력처의 처리부는, 적절히, A/D 변환부(131) 내지 레이트 제어부(147) 중의 대응하는 처리부로 바꿔서 읽을 필요가 있다.
인핸스먼트 레이어 화상 부호화부(102)는 추가로, 헤더 정보 생성부(148)를 갖는다.
헤더 정보 생성부(148)는 도 28의 헤더 정보 생성부(128)에 대응하고, 헤더 정보 생성부(128)와 동일한 처리를 행한다. 단, 헤더 정보 생성부(148)는 베이스 레이어가 아니라, 인핸스먼트 레이어에 관한 처리를 행한다.
또한, 인핸스먼트 레이어의 복호 부하 정의 정보도 베이스 레이어의 헤더 정보 생성부(128)에서 작성하는 경우, 인핸스먼트 레이어의 헤더 정보 생성부(148)는 생략할 수 있다.
<헤더 정보 생성부>
도 30은, 도 28의 헤더 정보 생성부(128)가 갖는 기능 블록의 구성예를 도시하는 도면이다. 헤더 정보 생성부(128)에 있어서, 예를 들어, CPU가 ROM 등으로부터 판독한 프로그램을 RAM을 사용하여 실행하는 등, 상술한 처리가 실행됨으로써, 도 30에 도시하는 각종 기능 블록이 실현된다.
도 30에 도시된 바와 같이, 헤더 정보 생성부(128)는 복호 부하 관련 정보 취득부(151), MCTS SEI 생성부(152), 및 SPS 생성부(153)를 갖는다.
복호 부하 관련 정보 취득부(151)는, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 생성하는 데 사용되는 복호 처리의 부하에 관한 정보를 취득한다. 이 복호 처리의 부하에 관한 정보의 내용은, 복호 부하 정의 정보를 생성하는 데 사용되는 것이라면, 어떤 것이어도 된다.
MCTS SEI 생성부(152)는, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 포함하는 MCTS SEI를 생성한다. 즉, MCTS SEI 생성부(152)는 MCTS SEI에 있어서, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 설정한다. 이 복호 부하 정의 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다. 또한, MCTS SEI 생성부(152)가 부분 영역 단위로 레벨을 정의하는 데 있어서, 제1 실시 형태에 있어서 설명한 바와 같이, 그 부분 영역용의 레벨에 관한 파라미터의 규정도 행하고, 그 규정을 전체 화상(픽처) 단위의 레벨에서의 규정에 할당(파라미터의 맵핑을 행)하도록 해도 된다.
SPS 생성부(153)는, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보, 혹은, MCTS SEI에 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보(그들을 통합하여 복호 부하의 정의에 관한 정보라고도 칭함)를 포함하는 시퀀스 파라미터 세트(SPS)를 생성한다. 즉, SPS 생성부(153)는 시퀀스 파라미터 세트(SPS)에 있어서, 독립적으로 복호할 수 있는 부분 영역의 복호 부하의 정의에 관한 정보를 설정한다. 이 복호 부하의 정의에 관한 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다.
또한, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 MCTS SEI에만 설정하고, 시퀀스 파라미터 세트(SPS)에 있어서, 이들 정보를 설정하지 않도록 할 수도 있다. 그 경우, SPS 생성부(153)는 생략할 수도 있다.
<화상 부호화 처리의 흐름>
이어서, 이상과 같은 화상 부호화 장치(100)에 의해 실행되는 각 처리의 흐름에 대하여 설명한다. 처음에, 도 31의 흐름도를 참조하여, 화상 부호화 처리의 흐름의 예를 설명한다.
화상 부호화 처리가 개시되면, 화상 부호화 장치(100)의 제어부(104)는 스텝 S101에 있어서, 스케일러블 부호화 전체의 설정을 행한다.
스텝 S102에 있어서, 제어부(104)는 스텝 S101에서 행한 설정에 따라서 베이스 레이어 화상 부호화부(101) 내지 다중화부(103)의 각 부를 제어한다.
스텝 S103에 있어서, 제어부(104)는 스텝 S101에서 행한 설정을 반영시켜서 비디오 파라미터 세트(VPS)를 생성한다.
스텝 S104에 있어서, 베이스 레이어 화상 부호화부(101)는 베이스 레이어의 화상 데이터를 부호화한다.
스텝 S105에 있어서, 인핸스먼트 레이어 화상 부호화부(102)는 인핸스먼트 레이어의 화상 데이터를 부호화한다.
스텝 S106에 있어서, 다중화부(103)는, 스텝 S104에서 생성된 베이스 레이어 화상 부호화 스트림과, 스텝 S105에서 생성된 인핸스먼트 레이어 화상 부호화 스트림을(즉, 각 레이어의 비트 스트림을) 다중화하여, 1계통의 계층 화상 부호화 스트림을 생성한다. 또한, 다중화부(103)는, 필요에 따라, 스텝 S103에서 생성된 비디오 파라미터 세트(VPS)를 계층 화상 부호화 스트림에 포함한다. 다중화부(103)는 그 계층 화상 부호화 스트림을 출력하고, 복호측으로 전송한다.
스텝 S106의 처리가 종료되면, 화상 부호화 장치(100)는 화상 부호화 처리를 종료한다. 이러한 화상 부호화 처리에 의해 1픽처가 처리된다. 따라서, 화상 부호화 장치(100)는 이러한 화상 부호화 처리를 계층화된 동화상 데이터의 각 픽처에 대하여 반복하여 실행한다. 단, 예를 들어, 스텝 S101 내지 스텝 S103의 처리 등, 픽처마다 행할 필요가 없는 처리는, 적절히 생략한다.
<베이스 레이어 부호화 처리의 흐름>
이어서, 도 31의 스텝 S104에 있어서, 베이스 레이어 화상 부호화부(101)에 의해 실행되는 베이스 레이어 부호화 처리의 흐름의 예를, 도 32의 흐름도를 참조하여 설명한다.
베이스 레이어 부호화 처리가 개시되면, 베이스 레이어 화상 부호화부(101)의 A/D 변환부(111)는 스텝 S121에 있어서, 입력된 동화상의 각 프레임(픽처)의 화상을 A/D 변환한다.
스텝 S122에 있어서, 화면 재배열 버퍼(112)는 스텝 S121에 있어서 A/D 변환된 화상을 기억하고, 각 픽처의 표시하는 순서로부터 부호화하는 순서로의 재배열을 행한다.
스텝 S123에 있어서, 인트라 예측부(124)는 인트라 예측 모드의 인트라 예측 처리를 행한다.
스텝 S124에 있어서, 인터 예측부(125)는 인터 예측 모드에서의 움직임 예측이나 움직임 보상 등을 행하는 인터 예측 처리를 행한다.
스텝 S125에 있어서, 예측 화상 선택부(126)는 코스트 함수값 등에 기초하여 예측 화상을 선택한다. 즉, 예측 화상 선택부(126)는, 스텝 S123의 인트라 예측에 의해 생성된 예측 화상과, 스텝 S124의 인터 예측에 의해 생성된 예측 화상 중 어느 한쪽을 선택한다.
스텝 S126에 있어서, 연산부(113)는, 스텝 S122의 처리에 의해 프레임순이 재배열된 입력 화상과, 스텝 S125의 처리에 의해 선택된 예측 화상과의 차분을 연산한다. 즉, 연산부(113)는 입력 화상과 예측 화상의 차분 화상의 화상 데이터를 생성한다. 이와 같이 하여 구해진 차분 화상의 화상 데이터는, 원래의 화상 데이터에 비하여 데이터양이 저감된다. 따라서, 화상을 그대로 부호화할 경우에 비교하여, 데이터양을 압축할 수 있다.
스텝 S127에 있어서, 직교 변환부(114)는 스텝 S126의 처리에 의해 생성된 차분 화상의 화상 데이터를 직교 변환한다.
스텝 S128에 있어서, 양자화부(115)는, 레이트 제어부(127)에 의해 산출된 양자화 파라미터를 사용하여, 스텝 S127의 처리에 의해 얻어진 직교 변환 계수를 양자화한다.
스텝 S129에 있어서, 역양자화부(118)는 스텝 S128의 처리에 의해 생성된 양자화된 계수(양자화 계수라고도 칭함)를 양자화부(115)의 특성에 대응하는 특성으로 역양자화한다.
스텝 S130에 있어서, 역직교 변환부(119)는 스텝 S129의 처리에 의해 얻어진 직교 변환 계수를 역직교 변환한다.
스텝 S131에 있어서, 연산부(120)는, 스텝 S130의 처리에 의해 복원된 차분 화상에, 스텝 S125의 처리에 의해 선택된 예측 화상을 가산함으로써, 재구성 화상의 화상 데이터를 생성한다.
스텝 S132에 있어서 루프 필터(121)는, 스텝 S131의 처리에 의해 생성된 재구성 화상의 화상 데이터에 루프 필터 처리를 행한다. 이에 의해, 재구성 화상의 블럭 노이즈 등이 제거된다.
스텝 S133에 있어서, 프레임 메모리(122)는 스텝 S132의 처리에 의해 얻어진 복호 화상(베이스 레이어 복호 화상)이나 스텝 S131의 처리에 의해 얻어진 재구성 화상 등의 데이터를 기억한다.
스텝 S134에 있어서, 가역 부호화부(116)는 스텝 S128의 처리에 의해 얻어진, 양자화된 계수를 부호화한다. 즉, 차분 화상에 대응하는 데이터에 대하여 가변 길이 부호화나 산술 부호화 등의 가역 부호화가 행하여진다.
또한, 이때, 가역 부호화부(116)는, 스텝 S125의 처리에 의해 선택된 예측 화상의 예측 모드에 관한 정보를 부호화하고, 차분 화상을 부호화하여 얻어지는 부호화 데이터에 부가한다. 즉, 가역 부호화부(116)는, 인트라 예측부(124)로부터 공급되는 최적 인트라 예측 모드 정보, 혹은, 인터 예측부(125)로부터 공급되는 최적 인터 예측 모드에 따른 정보 등도 부호화하여, 부호화 데이터에 부가한다.
스텝 S135에 있어서, 헤더 정보 생성부(128)는 각종 널 유닛 등의 헤더 정보를 생성한다. 생성된 헤더 정보는, 가역 부호화부(116)에 공급되어, 부호화 데이터에 부가된다.
스텝 S136에 있어서 축적 버퍼(117)는 스텝 S134 및 스텝 S135의 처리에 의해 얻어진 부호화 데이터(베이스 레이어 화상 부호화 스트림)를 축적한다. 축적 버퍼(117)에 축적된 베이스 레이어 화상 부호화 스트림은, 적절히 판독되어, 다중화부(103)에 공급되어서 인핸스먼트 레이어 화상 부호화 스트림과 다중화된 후, 전송로나 기록 매체를 통하여 복호측으로 전송된다.
스텝 S137에 있어서 레이트 제어부(127)는 스텝 S136의 처리에 의해 축적 버퍼(117)에 축적된 부호화 데이터의 부호량(발생 부호량)에 기초하여 오버플로우 또는 언더플로우가 발생하지 않도록, 양자화부(115)의 양자화 동작의 레이트를 제어한다. 또한, 레이트 제어부(127)는 양자화 파라미터에 관한 정보를, 양자화부(115)에 공급한다.
스텝 S137의 처리가 종료되면, 베이스 레이어 부호화 처리가 종료되고, 처리는 도 31로 복귀된다.
<인핸스먼트 레이어 부호화 처리의 흐름>
이어서, 도 31의 스텝 S105에 있어서, 인핸스먼트 레이어 화상 부호화부(102)에 의해 실행되는 인핸스먼트 레이어 부호화 처리의 흐름의 예를, 도 33의 흐름도를 참조하여 설명한다.
이 인핸스먼트 레이어 부호화 처리의 각 처리(스텝 S141 내지 스텝 S157)는 베이스 레이어 부호화 처리의 각 처리(스텝 S121 내지 스텝 S137)에 대응하고, 그들 처리와 기본적으로 동일하게 실행된다. 단, 베이스 레이어 부호화 처리의 각 처리가 베이스 레이어에 대하여 행하여진 것에 대해, 이 인핸스먼트 레이어 부호화 처리의 각 처리(스텝 S141 내지 스텝 S157)는 인핸스먼트 레이어에 대하여 행하여진다.
또한, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보의 설정을, 베이스 레이어만으로 행하는 경우, 스텝 S155에 있어서, 복호 부하 정의 정보의 설정은 생략할 수 있다.
스텝 S157의 처리가 종료되면, 인핸스먼트 레이어 부호화 처리가 종료되고, 처리는 도 31로 복귀된다.
<헤더 생성 처리의 흐름>
이어서, 도 34의 흐름도를 참조하여, 도 32의 스텝 S135에 있어서 실행되는 헤더 생성 처리의 흐름의 예를 설명한다.
헤더 생성 처리가 개시되면, 헤더 정보 생성부(128)는 스텝 S161에 있어서, 예를 들어 시퀀스 파라미터 세트(SPS), SEI, 픽처 파라미터 세트(PPS(Picture Parameter Set)), 슬라이스 헤더(SliceHeader) 등의 각종 헤더 정보를 생성한다.
스텝 S162에 있어서, 복호 부하 관련 정보 취득부(151)는 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보의 생성에 필요한, 그 부분 영역의 복호 처리의 부하에 관한 정보인 복호 부하 관련 정보를 취득한다. 또한, 인핸스먼트 레이어의 복호 부하 정의 정보도 설정하는 경우, 인핸스먼트 레이어로부터도 복호 부하 관련 정보를 취득한다. 이 복호 부하 관련 정보의 내용은, 복호 부하 정의 정보를 생성하는 데 사용되는 것이라면, 어떤 것이어도 된다.
스텝 S163에 있어서, MCTS SEI 생성부(152)는 스텝 S161에 있어서 생성한 독립적으로 복호할 수 있는 부분 영역의 MCTS SEI에, 그 부분 영역의 복호 부하 정의 정보를 설정한다. 예를 들어, MCTS SEI 생성부(152)는 제1 실시 형태에 있어서 도 9 내지 도 26의 신택스 등을 참조하여 설명한 바와 같이, 복호 부하 정의 정보를 설정한다.
예를 들어 도 10과 같이, 독립적으로 복호할 수 있는 부분 영역이 복수의 세트(복수의 타일(Tile))를 포함하는 경우, MCTS SEI 생성부(152)는 각 타일의 복호 부하 관련 정보를 사용하여, 복호 부하 관련 정보를 세트마다 설정한다. 또한, MCTS SEI 생성부(152)가 각 타일의 복호 부하 관련 정보를 사용하여, 그 부분 영역 전체의 복호 부하 정의 정보를 설정하도록 해도 된다.
또한, 독립적으로 복호할 수 있는 부분 영역이 복수 존재하는 경우, MCTS SEI 생성부(152)는 각 부분 영역에 대하여 복호 부하 정의 정보를 각각 설정하도록 해도 된다. 이 복호 부하 정의 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다.
스텝 S164에 있어서, SPS 설정부(153)는 스텝 S161에 있어서 생성한 시퀀스 파라미터 세트(SPS)에, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보, 혹은, MCTS SEI에 그 부분 영역의 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보(복호 부하의 정의에 관한 정보라고도 칭함)를 설정한다. 이 복호 부하의 정의에 관한 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다.
스텝 S164의 처리가 종료되면, 헤더 정보 생성 처리가 종료되고, 처리는 도 32로 복귀된다.
또한, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 MCTS SEI에만 설정하고, 시퀀스 파라미터 세트(SPS)에 있어서, 이들 정보를 설정하지 않도록 할 수도 있다. 그 경우, 스텝 S164의 처리는, 생략할 수도 있다.
또한, 스텝 S163에 있어서, MCTS SEI 생성부(152)가 부분 영역 단위로 레벨을 정의하는 데 있어서, 제1 실시 형태에 있어서 설명한 바와 같이, 그 부분 영역용의 레벨에 관한 파라미터의 규정도 행하고, 그 규정을 전체 화상(픽처) 단위의 레벨에서의 규정에 할당(파라미터의 맵핑을 행)하도록 해도 된다.
이상과 같이 설정된 헤더 정보는, 가역 부호화부(116)에 공급되어, 부호화 데이터에 포함할 수 있다.
이상과 같이 각 처리를 실행함으로써, 화상 부호화 장치(100)는 복호에 필요한 성능을 보다 정확하게 파악할 수 있도록 할 수 있다.
또한, 인핸스먼트 레이어에 있어서 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 설정하는 경우, 헤더 정보 생성부(148)는 도 34의 흐름도를 참조하여 설명한 바와 같이 실행하면 된다. 반대로, 복호 부하 정의 정보를 설정하지 않는 경우에는, 도 34의 스텝 S161의 처리만 실행하도록 하면 된다.
<3. 제3 실시 형태>
<화상 복호 장치>
이어서, 이상과 같이 부호화된 부호화 데이터의 복호에 대하여 설명한다. 도 35는, 본 기술을 적용한 화상 처리 장치의 일 형태인, 화상 부호화 장치(100)에 대응하는 화상 복호 장치의 주된 구성예를 도시하는 블록도이다. 도 35에 도시하는 화상 복호 장치(200)는 화상 부호화 장치(100)가 생성한 부호화 데이터를, 그 부호화 방법에 대응하는 복호 방법으로 복호한다(즉, 계층 부호화된 부호화 데이터를 계층 복호한다). 도 35에 도시된 바와 같이, 화상 복호 장치(200)는 역다중화부(201), 베이스 레이어 화상 복호부(202), 인핸스먼트 레이어 화상 복호부(203), 및 제어부(204)를 갖는다.
역다중화부(201)는, 부호화측으로부터 전송된, 베이스 레이어 화상 부호화 스트림과 인핸스먼트 레이어 화상 부호화 스트림이 다중화된 계층 화상 부호화 스트림을 수취하고, 그것을 역다중화하여, 베이스 레이어 화상 부호화 스트림과, 인핸스먼트 레이어 화상 부호화 스트림을 추출한다. 베이스 레이어 화상 복호부(202)는 역다중화부(201)에 의해 추출된 베이스 레이어 화상 부호화 스트림을 복호하여, 베이스 레이어 화상을 얻는다. 인핸스먼트 레이어 화상 복호부(203)는 역다중화부(201)에 의해 추출된 인핸스먼트 레이어 화상 부호화 스트림을 복호하여, 인핸스먼트 레이어 화상을 얻는다.
제어부(204)는, 역다중화부(201)로부터 공급된 비디오 파라미터 세트(VPS)를 해석하고, 그 정보에 기초하여 베이스 레이어 화상 복호부(202) 및 인핸스먼트 레이어 화상 복호부(203)를 제어한다(각 레이어의 부호화를 제어한다).
또한, 제어부(204)는, 베이스 레이어 화상 복호부(202) 및 인핸스먼트 레이어 화상 복호부(203)로부터 헤더 정보의 복호 부하 정의 정보의 해석 결과를 취득하고, 그 해석 결과에 따라, 화상 복호 장치(200)의 각 처리부의 동작을 제어한다.
<베이스 레이어 화상 복호부>
도 36은, 도 35의 베이스 레이어 화상 복호부(202)의 주된 구성예를 도시하는 블록도이다. 도 36에 도시된 바와 같이 베이스 레이어 화상 복호부(202)는 축적 버퍼(211), 가역 복호부(212), 역양자화부(213), 역직교 변환부(214), 연산부(215), 루프 필터(216), 화면 재배열 버퍼(217), 및 D/A 변환부(218)를 갖는다. 또한, 베이스 레이어 화상 복호부(202)는 프레임 메모리(219), 선택부(220), 인트라 예측부(221), 인터 예측부(222), 및 예측 화상 선택부(223)를 갖는다.
축적 버퍼(211)는 전송되어 온 부호화 데이터(역다중화부(201)로부터 공급되는 베이스 레이어 화상 부호화 스트림)를 수취하는 수취부이기도 하다. 축적 버퍼(211)는 전송되어 온 부호화 데이터를 수취하고, 축적하고, 소정의 타이밍에 있어서 그 부호화 데이터를 가역 복호부(212)에 공급한다. 이 부호화 데이터에는, 예측 모드 정보 등의 복호에 필요한 정보가 부가되어 있다.
가역 복호부(212)는, 축적 버퍼(211)로부터 공급된, 가역 부호화부(116)에 의해 부호화된 정보를, 그 부호화 방식에 대응하는 복호 방식으로 복호한다. 가역 복호부(212)는 복호하여 얻어진 차분 화상의 양자화된 계수 데이터를, 역양자화부(213)에 공급한다.
또한, 가역 복호부(212)는, 최적의 예측 모드에 인트라 예측 모드가 선택되었는지 인터 예측 모드가 선택되었는지를 판정하고, 그 최적의 예측 모드에 관한 정보를, 인트라 예측부(221) 및 인터 예측부(222) 중, 선택되었다고 판정한 모드쪽에 공급한다. 즉, 예를 들어, 부호화측에 있어서 최적의 예측 모드로서 인트라 예측 모드가 선택된 경우, 그 최적의 예측 모드에 관한 정보(인트라 예측 모드 정보)가 인트라 예측부(221)에 공급된다. 또한, 예를 들어, 부호화측에 있어서 최적의 예측 모드로서 인터 예측 모드가 선택된 경우, 그 최적의 예측 모드에 관한 정보(인터 예측 모드 정보)가 인터 예측부(222)에 공급된다.
또한, 가역 복호부(212)는 예를 들어, 양자화 행렬이나 양자화 파라미터 등의, 역양자화에 필요한 정보를, 부호화 데이터로부터 추출하고, 역양자화부(213)에 공급한다.
역양자화부(213)는, 가역 복호부(212)에 의해 복호되어서 얻어진 양자화된 계수 데이터를, 양자화부(115)의 양자화 방식에 대응하는 방식으로 역양자화한다. 또한, 이 역양자화부(213)는 역양자화부(118)와 동일한 처리부이다. 역양자화부(213)는 얻어진 계수 데이터(직교 변환 계수)를 역직교 변환부(214)에 공급한다.
역직교 변환부(214)는, 역양자화부(213)로부터 공급되는 직교 변환 계수를, 필요에 따라, 직교 변환부(114)의 직교 변환 방식에 대응하는 방식으로 역직교 변환한다. 또한, 이 역직교 변환부(214)는 역직교 변환부(119)와 동일한 처리부이다.
이 역직교 변환 처리에 의해 차분 화상의 화상 데이터가 복원된다. 이 복원된 차분 화상의 화상 데이터는, 부호화측에 있어서 직교 변환되기 전의 차분 화상의 화상 데이터에 대응한다. 이하에 있어서는, 이, 역직교 변환부(214)의 역직교 변환 처리에 의해 얻어진, 복원된 차분 화상의 화상 데이터를, 복호 잔차 데이터라고도 칭한다. 역직교 변환부(214)는 이 복호 잔차 데이터를, 연산부(215)에 공급한다. 또한, 연산부(215)에는, 예측 화상 선택부(223)를 통하여, 인트라 예측부(221) 또는 인터 예측부(222)로부터 예측 화상의 화상 데이터가 공급된다.
연산부(215)는, 이 복호 잔차 데이터와 예측 화상의 화상 데이터를 사용하여, 차분 화상과 예측 화상을 가산한 재구성 화상의 화상 데이터를 얻는다. 이 재구성 화상은, 연산부(113)에 의해 예측 화상이 감산되기 전의 입력 화상에 대응한다. 연산부(215)는 그 재구성 화상을 루프 필터(216)에 공급한다.
루프 필터(216)는, 공급된 재구성 화상에 대하여 디블록 필터 처리나 적응 루프 필터 처리 등을 포함하는 루프 필터 처리를 적절히 실시하여 복호 화상을 생성한다. 예를 들어, 루프 필터(216)는 재구성 화상에 대하여 디블록 필터 처리를 행함으로써, 블럭 노이즈를 제거한다. 또한, 예를 들어, 루프 필터(216)는, 그 디블록 필터 처리 결과(블럭 노이즈의 제거가 행하여진 재구성 화상)에 대하여 위너 필터(Wiener Filter)를 사용하여 루프 필터 처리를 행함으로써 화질 개선을 행한다.
또한, 루프 필터(216)가 행하는 필터 처리의 종류는 임의이며, 상술한 것 이외의 필터 처리를 행해도 된다. 또한, 루프 필터(216)가 화상 부호화 장치로부터 공급된 필터 계수를 사용하여 필터 처리를 행하도록 해도 된다. 또한, 루프 필터(216)가 이러한 필터 처리를 생략하고, 입력된 데이터를 필터 처리하지 않고 출력할 수도 있다.
루프 필터(216)는 필터 처리 결과인 복호 화상(또는 재구성 화상)을 화면 재배열 버퍼(217) 및 프레임 메모리(219)에 공급한다.
화면 재배열 버퍼(217)는 복호 화상에 대하여 프레임의 순서 재배열을 행한다. 즉, 화면 재배열 버퍼(217)는 화면 재배열 버퍼(112)에 의해 부호화순으로 재배열된 각 프레임의 화상을, 원래의 표시순으로 재배열한다. 즉, 화면 재배열 버퍼(217)는 부호화순으로 공급되는 각 프레임의 복호 화상의 화상 데이터를, 그 순서대로 기억하고, 부호화순으로 기억한 각 프레임의 복호 화상의 화상 데이터를, 표시순으로 판독하여 D/A 변환부(218)에 공급한다. D/A 변환부(218)는 화면 재배열 버퍼(217)로부터 공급된 각 프레임의 복호 화상(디지털 데이터)을 D/A 변환하고, 아날로그 데이터로서, 도시하지 않은 디스플레이로 출력하고, 표시시킨다.
프레임 메모리(219)는, 공급되는 복호 화상을 기억하고, 소정의 타이밍에 있어서, 혹은, 인트라 예측부(221)나 인터 예측부(222) 등의 외부의 요구에 기초하여 기억하고 있는 복호 화상을 참조 화상으로 하여, 선택부(220)를 통하여 인트라 예측부(221)나 인터 예측부(222)에 공급한다.
인트라 예측부(221)에는, 인트라 예측 모드 정보 등이 가역 복호부(212)로부터 적절히 공급된다. 인트라 예측부(221)는, 인트라 예측부(124)에 있어서 사용된 인트라 예측 모드(최적 인트라 예측 모드)에서 인트라 예측을 행하고, 예측 화상을 생성한다. 그 때, 인트라 예측부(221)는 선택부(220)를 통하여 프레임 메모리(219)로부터 공급되는 재구성 화상의 화상 데이터를 사용하여 인트라 예측을 행한다. 즉, 인트라 예측부(221)는 이 재구성 화상을 참조 화상(주변 화소)으로서 이용한다. 인트라 예측부(221)는 생성한 예측 화상을 예측 화상 선택부(223)에 공급한다.
인터 예측부(222)에는, 최적 예측 모드 정보나 움직임 정보 등이 가역 복호부(212)로부터 적절히 공급된다. 인터 예측부(222)는 가역 복호부(212)로부터 취득된 최적 예측 모드 정보가 나타내는 인터 예측 모드(최적 인터 예측 모드)에서, 프레임 메모리(219)로부터 취득한 복호 화상(참조 화상)을 사용하여 인터 예측을 행하고, 예측 화상을 생성한다.
예측 화상 선택부(223)는 인트라 예측부(221)로부터 공급되는 예측 화상 또는 인터 예측부(222)로부터 공급되는 예측 화상을, 연산부(215)에 공급한다. 그리고, 연산부(215)에 있어서는, 그 예측 화상과 역직교 변환부(214)로부터의 복호 잔차 데이터(차분 화상 정보)가 가산되어서 재구성 화상이 얻어진다.
또한, 프레임 메모리(219)는 기억하고 있는 베이스 레이어 복호 화상을, 인핸스먼트 레이어 화상 복호부(203)에 공급한다.
베이스 레이어 화상 복호부(202)는 또한 헤더 정보 해석부(224)를 갖는다. 헤더 정보 해석부(224)는 가역 복호부(212)에 의해 부호화 스트림으로부터 추출된 헤더 정보를 취득하고, 그것을 해석한다. 예를 들어, 헤더 정보 해석부(224)는 헤더 정보에 포함되는 복호 부하 정의 정보를 해석한다. 헤더 정보 해석부(224)는 그 해석 결과를 나타내는 정보를, 제어부(204)에 공급한다.
<인핸스먼트 레이어 화상 복호부>
도 37은, 도 35의 인핸스먼트 레이어 화상 복호부(203)의 주된 구성예를 도시하는 블록도이다. 도 37에 도시된 바와 같이, 인핸스먼트 레이어 화상 복호부(203)는 도 36의 베이스 레이어 화상 복호부(202)와 기본적으로 동일한 구성을 갖는다.
즉, 인핸스먼트 레이어 화상 복호부(203)는 도 37에 도시된 바와 같이, 축적 버퍼(231), 가역 복호부(232), 역양자화부(233), 역직교 변환부(234), 연산부(235), 루프 필터(236), 화면 재배열 버퍼(237), 및 D/A 변환부(238)를 갖는다. 또한, 인핸스먼트 레이어 화상 복호부(203)는 프레임 메모리(239), 선택부(240), 인트라 예측부(241), 인터 예측부(242), 및 예측 화상 선택부(243)를 갖는다.
이들 축적 버퍼(231) 내지 예측 화상 선택부(243)는 도 36의 축적 버퍼(211) 내지 예측 화상 선택부(223)에 대응하고, 각각, 대응하는 처리부와 동일한 처리를 행한다. 단, 인핸스먼트 레이어 화상 복호부(203)의 각 부는, 베이스 레이어가 아니라, 인핸스먼트 레이어 화상 정보의 부호화에 관한 처리를 행한다. 따라서, 축적 버퍼(231) 내지 예측 화상 선택부(243)의 처리의 설명으로서, 상술한 도 36의 축적 버퍼(211) 내지 예측 화상 선택부(223)에 관한 설명을 적용할 수 있지만, 그 경우, 처리하는 데이터는, 베이스 레이어의 데이터가 아니라, 인핸스먼트 레이어의 데이터인 것으로 할 필요가 있다. 또한, 데이터의 입력원이나 출력처의 처리부는, 적절히, 인핸스먼트 레이어 화상 복호부(203)의, 대응하는 처리부로 바꿔서 읽을 필요가 있다.
또한, 프레임 메모리(239)는, 베이스 레이어 화상 복호부(202)로부터 공급되는 베이스 레이어 복호 화상을 취득하고, 예를 들어 롱텀 참조 프레임 등으로서 기억한다. 이 베이스 레이어 복호 화상은, 인트라 예측부(241)나 인터 예측부(242)에 의한 예측 처리에 있어서, 예를 들어 레이어간 예측의 참조 화상으로서 이용된다.
인핸스먼트 레이어 화상 복호부(203)는 또한, 헤더 정보 해석부(244)를 갖는다.
가역 복호부(232)는 인핸스먼트 레이어 화상 부호화 스트림으로부터 예를 들어 시퀀스 파라미터 세트(SPS)나 MCTS SEI 등의 헤더 정보를 취득한다. 이 헤더 정보에는, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보가 포함되어 있을 가능성이 있다. 가역 복호부(232)는 그 헤더 정보를 헤더 정보 해석부(244)에 공급한다.
헤더 정보 해석부(244)는, 공급된 헤더 정보에 포함되는, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 해석하고, 그 해석 결과를 제어부(204)에 공급한다.
또한, 복호 부하 정의 정보가 베이스 레이어에 있어서만 설정되는 경우, 인핸스먼트 레이어의 헤더 정보 해석부(244)는 생략하도록 해도 된다.
<헤더 정보 해석부>
도 38은, 도 36의 헤더 정보 해석부(224)가 갖는 기능 블록의 구성예를 도시하는 도면이다. 헤더 정보 해석부(224)에 있어서, 예를 들어, CPU가 ROM 등으로부터 판독한 프로그램을 RAM을 사용하여 실행하는 등, 상술한 처리가 실행됨으로써, 도 38에 도시하는 각종 기능 블록이 실현된다.
도 38에 도시된 바와 같이, 헤더 정보 해석부(224)는 헤더 정보 취득부(251), SPS 해석부(252), MCTS SEI 해석부(253), 레벨 특정부(254), 및 제공부(255)를 갖는다.
헤더 정보 취득부(251)는 가역 복호부(212)로부터 공급되는 각종 헤더 정보를 취득한다. SPS 해석부(252)는 헤더 정보 취득부(251)에 의해 헤더 정보로서 취득된 시퀀스 파라미터 세트(SPS)를 해석한다. 이 시퀀스 파라미터 세트(SPS)에는, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하의 정의에 관한 정보가 포함된다. 이 복호 부하의 정의에 관한 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다.
MCTS SEI 해석부(253)는 헤더 정보 취득부(251)에 의해 헤더 정보로서 취득된 MCTS SEI를 해석한다. 이 MCTS SEI는, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 포함한다. 이 복호 부하 정의 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다.
레벨 특정부(254)는 SPS 해석부(252) 및 MCTS SEI의 해석 결과에 기초하여 독립적으로 복호할 수 있는 부분 영역의 복호에 필요한 레벨을 특정한다. 제공부(255)는 레벨 특정부(254)에 의해 특정된 레벨, 또는, 그 레벨에 대응하는 복호 처리의 부하에 관한 정보를 제어부(104)에 제공한다.
또한, 전체 화상(픽처) 단위의 레벨에서의 규정에 대하여 제1 실시 형태에 있어서 설명한 바와 같이 부분 영역용을 포함하는 소정의 영역으로 규정된 파라미터가 맵핑되어 있는 경우, 레벨 특정부(254) 혹은 제공부(255)는 레벨의 특정 또는 레벨의 해석 시에, 그 맵핑된 파라미터를 채용할 수 있다.
또한, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 MCTS SEI에만 설정하고, 시퀀스 파라미터 세트(SPS)에 있어서, 이들 정보를 설정하지 않도록 할 수도 있다. 그 경우, SPS 해석부(252)는 생략할 수도 있다.
<화상 복호 처리의 흐름>
이어서, 이상과 같은 화상 복호 장치(200)에 의해 실행되는 각 처리의 흐름에 대하여 설명한다. 처음에, 도 39의 흐름도를 참조하여, 화상 복호 처리의 흐름의 예를 설명한다.
화상 복호 처리가 개시되면, 스텝 S201에 있어서, 화상 복호 장치(200)의 역다중화부(201)는 부호화측으로부터 전송되는 계층 화상 부호화 스트림을 레이어마다 역다중화한다.
스텝 S202에 있어서, 가역 복호부(212)는 스텝 S201의 처리에 의해 추출된 베이스 레이어 화상 부호화 스트림으로부터 복호 부하 정의 정보를 포함하는 헤더 정보를 추출한다.
또한, 예를 들어, 복호 부하 정의 정보가 인핸스먼트 레이어에도 존재하는 경우, 가역 복호부(232)도 마찬가지로 이 처리를 행하여, 인핸스먼트 레이어의 헤더 정보를 추출한다.
스텝 S203에 있어서, 헤더 정보 해석부(224)는 스텝 S202에 있어서 추출된 헤더 정보를 해석하여, 복호 부하 정의 정보부터 복호에 필요한 레벨을 특정한다.
스텝 S204에 있어서, 제어부(204)는 스텝 S203의 해석 결과에 기초하여 부호화 스트림을 복호 가능한지 여부를 판정한다. 복호 가능하다고 판정된 경우, 처리는 스텝 S205로 진행한다.
스텝 S205에 있어서, 베이스 레이어 화상 복호부(202)는 베이스 레이어 화상 부호화 스트림을 복호한다. 스텝 S206에 있어서, 인핸스먼트 레이어 화상 복호부(203)는 인핸스먼트 레이어 화상 부호화 스트림을 복호한다.
스텝 S206의 처리가 종료되면, 화상 복호 처리가 종료된다.
또한, 스텝 S204에 있어서, 복호 불가능하다고 판정된 경우, 처리는 스텝 S207로 진행한다. 이 경우, 스텝 S207에 있어서, 제어부(204)는 복호를 정상적으로 할 수 없는 경우의 소정의 처리인 에러 처리를 행한다.
이 에러 처리는 어떤 처리여도 된다. 예를 들어, 복호를 강제 종료(중단, 일시 정지 등을 포함한다)해도 되고, 화상이나 음성 등으로 유저에 대하여 경고하도록 해도 된다. 또한, 예를 들어 레벨이 보다 낮은 다른 부호화 스트림을 취득하여 복호를 다시 하도록 해도 된다. 또한, 예를 들어, 복호 화상에 흐트러짐이 발생하는 것을 허용하고, 그 부호화 스트림을 강제적으로 복호하도록 해도 된다.
스텝 S207의 처리가 종료되면, 화상 복호 처리가 종료된다.
<헤더 정보 해석 처리의 흐름>
이어서, 도 40의 흐름도를 참조하여, 도 39의 스텝 S203에 있어서 실행되는 헤더 정보 해석 처리의 흐름의 예를 설명한다.
헤더 정보 해석 처리가 개시되면, SPS 해석부(252)는 스텝 S211에 있어서, 시퀀스 파라미터 세트(SPS)를 참조할지 여부를 판정한다. 헤더 정보로서 취득된 시퀀스 파라미터 세트(SPS)에, 독립적으로 복호할 수 있는 부분 영역의 복호 부하의 정의에 관한 정보가 포함되어 있고, 시퀀스 파라미터 세트(SPS)를 참조한다고 판정된 경우, 처리는 스텝 S212로 진행한다.
스텝 S212에 있어서, SPS 해석부(252)는 시퀀스 파라미터 세트(SPS)에 포함되는, 독립적으로 복호할 수 있는 부분 영역의 복호 부하의 정의에 관한 정보를 해석한다. 이 복호 부하의 정의에 관한 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다. 해석이 종료되면, 처리는 스텝 S213으로 진행한다. 또한, 스텝 S211에 있어서, 시퀀스 파라미터 세트(SPS)에, 독립적으로 복호할 수 있는 부분 영역의 복호 부하의 정의에 관한 정보가 포함되어 있지 않고, 시퀀스 파라미터 세트(SPS)를 참조하지 않는다고 판정된 경우, 처리는 스텝 S213으로 진행한다.
스텝 S213에 있어서, MCTS SEI 해석부(253)는 MCTS SEI를 참조할지 여부를 판정한다. 헤더 정보로서 취득된 MCTS SEI에, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보가 설정되어 있고, MCTS SEI를 참조한다고 판정된 경우, 처리는 스텝 S214로 진행한다.
스텝 S214에 있어서, MCTS SEI 해석부(253)는 MCTS SEI에 포함되는, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 해석한다. 이 복호 부하 정의 정보의 내용은 임의이다. 예를 들어, 제1 실시 형태에 있어서, 도 9 내지 도 26을 참조하여 설명한 각종 정보 중 어느 하나 이상이 이 복호 부하 정의 정보에 포함되도록 해도 된다. 해석이 종료되면, 처리는 스텝 S215로 진행한다. 또한, 스텝 S213에 있어서, MCTS SEI에, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보가 설정되어 있지 않고, MCTS SEI를 참조하지 않는다고 판정된 경우, 처리는 스텝 S215로 진행한다.
스텝 S215에 있어서, 레벨 특정부(254)는 스텝 S212 및 스텝 S214의 해석 결과에 기초하여 복호에 필요한 레벨을 특정한다.
스텝 S216에 있어서, 제공부(255)는 스텝 S215에 있어서 특정된 복호에 필요한 레벨을 나타내는 정보를 제어부(104)에 제공한다.
스텝 S216의 처리가 종료되면, 헤더 정보 해석 처리가 종료되고, 처리는 도 39로 복귀된다.
또한, 전체 화상(픽처) 단위의 레벨에서의 규정에 대하여 제1 실시 형태에 있어서 설명한 바와 같이 부분 영역용을 포함하는 소정의 영역에서 규정된 파라미터가 맵핑되어 있는 경우, 레벨 특정부(254) 혹은 제공부(255)는 스텝 S215 혹은 스텝 S216의 처리에 있어서, 그 맵핑된 파라미터를 채용할 수 있다.
또한, 제1 실시 형태에 있어서 설명한 바와 같이, 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 MCTS SEI에만 설정하고, 시퀀스 파라미터 세트(SPS)에 있어서, 이들 정보를 설정하지 않도록 할 수도 있다. 그 경우, 스텝 S211 및 스텝 S212의 처리는, 생략할 수도 있다.
<베이스 레이어 복호 처리의 흐름>
이상과 같은 복호 부하 정의 정보에 기초하는 복호 가부 판정의 결과, 복호 가능이라고 된 경우, 도 39의 스텝 S205에 있어서 베이스 레이어 복호 처리가 실행된다. 그 베이스 레이어 복호 처리의 흐름의 예를, 도 41의 흐름도를 참조하여 설명한다.
베이스 레이어 복호 처리가 개시되면, 스텝 S221에 있어서, 베이스 레이어 화상 복호부(202)의 축적 버퍼(211)는 전송되어 온 베이스 레이어 부호화 스트림을 축적한다. 스텝 S222에 있어서, 가역 복호부(212)는 축적 버퍼(211)로부터 공급되는 베이스 레이어 부호화 스트림을 복호한다. 즉, 가역 부호화부(116)에 의해 부호화된 I 슬라이스, P 슬라이스, 및 B 슬라이스 등의 화상 데이터가 복호된다. 이때, 헤더 정보 등의 비트 스트림에 포함된 화상 데이터 이외의 각종 정보도 복호된다.
스텝 S223에 있어서, 역양자화부(213)는 스텝 S222의 처리에 의해 얻어진, 양자화된 계수를 역양자화한다.
스텝 S224에 있어서, 역직교 변환부(214)는 스텝 S223에 있어서 역양자화된 계수를 역직교 변환한다.
스텝 S225에 있어서, 인트라 예측부(221) 및 인터 예측부(222)는 예측 처리를 행하고, 예측 화상을 생성한다. 즉, 가역 복호부(212)에 있어서 판정된, 부호화 시에 적용된 예측 모드에서 예측 처리가 행하여진다. 보다 구체적으로는, 예를 들어, 부호화 시에 인트라 예측이 적용된 경우, 인트라 예측부(221)가 부호화 시에 최적으로 된 인트라 예측 모드에서 예측 화상을 생성한다. 또한, 예를 들어, 부호화 시에 인터 예측이 적용된 경우, 인터 예측부(222)가 부호화 시에 최적으로 된 인터 예측 모드에서 예측 화상을 생성한다.
스텝 S226에 있어서, 연산부(215)는 스텝 S225에 있어서 역직교 변환되어서 얻어진 차분 화상에, 스텝 S226에서 생성된 예측 화상을 가산한다. 이에 의해 재구성 화상의 화상 데이터가 얻어진다.
스텝 S227에 있어서, 루프 필터(216)는 스텝 S227의 처리에 의해 얻어진 재구성 화상의 화상 데이터에 대하여 디블록 필터 처리나 적응 루프 필터 처리 등을 포함하는 루프 필터 처리를 적절히 행한다.
스텝 S228에 있어서, 화면 재배열 버퍼(217)는 스텝 S227에 있어서 필터 처리된 재구성 화상의 각 프레임의 재배열을 행한다. 즉, 부호화 시에 재배열된 프레임의 순서가, 원래의 표시의 순서로 재배열된다.
스텝 S229에 있어서, D/A 변환부(218)는 스텝 S228에 있어서 프레임의 순서가 재배열된 화상을 D/A 변환한다. 이 화상이 도시하지 않은 디스플레이로 출력되어, 화상이 표시된다.
스텝 S230에 있어서, 프레임 메모리(219)는 스텝 S227의 처리에 의해 얻어진 복호 화상이나 스텝 S226의 처리에 의해 얻어진 재구성 화상 등의 데이터를 기억한다.
스텝 S230의 처리가 종료되면, 베이스 레이어 복호 처리가 종료되고, 처리는 도 39로 복귀된다.
<인핸스먼트 레이어 복호 처리의 흐름>
베이스 레이어 복호 처리와 마찬가지로, 이상과 같은 복호 부하 정의 정보에 기초하는 복호 가부 판정의 결과, 복호 가능이라고 된 경우, 도 39의 스텝 S206에 있어서 인핸스먼트 레이어 복호 처리가 실행된다. 그 인핸스먼트 레이어 복호 처리의 흐름의 예를, 도 42의 흐름도를 참조하여 설명한다.
인핸스먼트 레이어 복호 처리의 각 처리(스텝 S241 내지 스텝 S250)는 도 41의 베이스 레이어 복호 처리의 각 처리(스텝 S221 내지 스텝 S230)에 대응하고, 그들 처리와 기본적으로 동일하게 실행된다. 단, 베이스 레이어 복호 처리의 각 처리(스텝 S221 내지 스텝 S230)가 베이스 레이어에 대하여 행하여진 것에 비해, 인핸스먼트 레이어 복호 처리의 각 처리(스텝 S241 내지 스텝 S250)는 인핸스먼트 레이어에 대하여 행하여진다.
스텝 S250의 처리가 종료되면, 인핸스먼트 레이어 복호 처리가 종료되고, 처리는 도 39로 복귀된다.
이상과 같이 각 처리를 실행함으로써, 화상 복호 장치(200)는 독립적으로 복호할 수 있는 부분 영역의 복호 부하 정의 정보를 사용함으로써, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
본 기술의 적용 범위는, 부분 화상을 부호화·복호 가능한 모든 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다.
또한, 본 기술은, 예를 들어, MPEG, H.26x 등과 같이, 이산 코사인 변환 등의 직교 변환과 움직임 보상에 의해 압축된 화상 정보(비트 스트림)를 위성 방송, 케이블 텔레비전, 인터넷, 또는 휴대 전화기 등의 네트워크 미디어를 통하여 수신할 때에 사용되는 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다. 또한, 본 기술은, 광, 자기 디스크, 및 플래시 메모리와 같은 기억 미디어 상에서 처리할 때에 사용되는 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다.
<4. 제4 실시 형태>
<다시점 화상 부호화·다시점 화상 복호에의 적용>
상술한 일련의 처리는, 다시점 화상 부호화·다시점 화상 복호에 적용할 수 있다. 도 43은, 다시점 화상 부호화 방식의 일례를 도시한다.
도 43에 도시된 바와 같이, 다시점 화상은, 복수의 시점(뷰(view))의 화상을 포함한다. 이 다시점 화상의 복수의 뷰는, 다른 뷰의 정보를 이용하지 않고 자신의 뷰의 화상만을 사용하여 부호화·복호를 행하는 베이스 뷰와, 다른 뷰의 정보를 이용하여 부호화·복호를 행하는 논베이스 뷰를 포함한다. 논베이스 뷰의 부호화·복호는, 베이스 뷰의 정보를 이용하도록 해도 되고, 다른 논베이스 뷰의 정보를 이용하도록 해도 된다.
즉, 다시점 화상 부호화·복호에 있어서의 뷰 간의 참조 관계는, 계층 화상 부호화·복호에 있어서의 레이어 간의 참조 관계와 마찬가지이다. 따라서, 도 43과 같은 다시점 화상의 부호화·복호에 있어서, 상술한 방법을 적용하도록 해도 된다. 이와 같이 함으로써, 다시점 화상의 경우도 마찬가지로, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<다시점 화상 부호화 장치>
도 44는, 상술한 다시점 화상 부호화를 행하는 다시점 화상 부호화 장치를 도시하는 도면이다. 도 44에 도시된 바와 같이, 다시점 화상 부호화 장치(600)는 부호화부(601), 부호화부(602), 및 다중화부(603)를 갖는다.
부호화부(601)는 베이스 뷰 화상을 부호화하여, 베이스 뷰 화상 부호화 스트림을 생성한다. 부호화부(602)는 논베이스 뷰 화상을 부호화하여, 논베이스 뷰 화상 부호화 스트림을 생성한다. 다중화부(603)는 부호화부(601)에서 생성된 베이스 뷰 화상 부호화 스트림과, 부호화부(602)에서 생성된 논베이스 뷰 화상 부호화 스트림을 다중화하여, 다시점 화상 부호화 스트림을 생성한다.
이 다시점 화상 부호화 장치(600)의 부호화부(601)로서 베이스 레이어 화상 부호화부(101)를 적용하고, 부호화부(602)로서 인핸스먼트 레이어 화상 부호화부(102)를 적용해도 된다. 이와 같이 함으로써, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<다시점 화상 복호 장치>
도 45는, 상술한 다시점 화상 복호를 행하는 다시점 화상 복호 장치를 도시하는 도면이다. 도 45에 도시된 바와 같이, 다시점 화상 복호 장치(610)는 역다중화부(611), 복호부(612), 및 복호부(613)를 갖는다.
역다중화부(611)는 베이스 뷰 화상 부호화 스트림과 논베이스 뷰 화상 부호화 스트림이 다중화된 다시점 화상 부호화 스트림을 역다중화하여, 베이스 뷰 화상 부호화 스트림과, 논베이스 뷰 화상 부호화 스트림을 추출한다. 복호부(612)는 역다중화부(611)에 의해 추출된 베이스 뷰 화상 부호화 스트림을 복호하여, 베이스 뷰 화상을 얻는다. 복호부(613)는 역다중화부(611)에 의해 추출된 논베이스 뷰 화상 부호화 스트림을 복호하여, 논베이스 뷰 화상을 얻는다.
이 다시점 화상 복호 장치(610)의 복호부(612)로서 베이스 레이어 화상 복호부(202)를 적용하고, 복호부(613)로서 인핸스먼트 레이어 화상 복호부(203)를 적용해도 된다. 이와 같이 함으로써, 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<5. 제5 실시 형태>
<컴퓨터>
상술한 일련의 처리는, 하드웨어에 의해 실행시킬 수도 있고, 소프트웨어에 의해 실행시킬 수도 있다. 일련의 처리를 소프트웨어에 의해 실행하는 경우에는, 그 소프트웨어를 구성하는 프로그램이 컴퓨터에 인스톨된다. 여기서 컴퓨터에는, 전용의 하드웨어에 내장되어 있는 컴퓨터나, 각종 프로그램을 인스톨함으로써, 각종 기능을 실행하는 것이 가능한, 예를 들어 범용의 퍼스널 컴퓨터 등이 포함된다.
도 46은, 상술한 일련의 처리를 프로그램에 의해 실행하는 컴퓨터의 하드웨어 구성예를 도시하는 블록도이다.
도 46에 도시하는 컴퓨터(800)에 있어서, CPU(Central Processing Unit)(801), ROM(Read Only Memory)(802), RAM(Random Access Memory)(803)은, 버스(804)를 통하여 서로 접속되어 있다.
버스(804)에는 또한, 입출력 인터페이스(810)도 접속되어 있다. 입출력 인터페이스(810)에는, 입력부(811), 출력부(812), 기억부(813), 통신부(814), 및 드라이브(815)가 접속되어 있다.
입력부(811)는 예를 들어, 키보드, 마우스, 마이크로폰, 터치 패널, 입력 단자 등을 포함한다. 출력부(812)는 예를 들어, 디스플레이, 스피커, 출력 단자 등을 포함한다. 기억부(813)는 예를 들어, 하드 디스크, RAM 디스크, 불휘발성이 메모리 등을 포함한다. 통신부(814)는 예를 들어, 네트워크 인터페이스를 포함한다. 드라이브(815)는 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 리무버블 미디어(821)를 구동한다.
이상과 같이 구성되는 컴퓨터에서는, CPU(801)가, 예를 들어, 기억부(813)에 기억되어 있는 프로그램을, 입출력 인터페이스(810) 및 버스(804)를 통하여, RAM(803)에 로드하여 실행함으로써, 상술한 일련의 처리가 행하여진다. RAM(803)에는 또한, CPU(801)가 각종 처리를 실행하는 데 있어서 필요한 데이터 등도 적절히 기억된다.
컴퓨터(CPU(801))가 실행하는 프로그램은, 예를 들어, 패키지 미디어 등으로서의 리무버블 미디어(821)에 기록하여 적용할 수 있다. 그 경우, 프로그램은, 리무버블 미디어(821)를 드라이브(815)에 장착함으로써, 입출력 인터페이스(810)를 통하여, 기억부(813)에 인스톨할 수 있다.
또한, 이 프로그램은, 로컬에리어 네트워크, 인터넷, 디지털 위성 방송과 같은, 유선 혹은 무선의 전송 매체를 통하여 제공할 수도 있다. 그 경우, 프로그램은, 통신부(814)로 수신하고, 기억부(813)에 인스톨할 수 있다.
기타, 이 프로그램은, ROM(802)이나 기억부(813)에 미리 인스톨해 둘 수도 있다.
또한, 컴퓨터가 실행하는 프로그램은, 본 명세서에서 설명하는 순서에 따라서 시계열로 처리가 행하여지는 프로그램이어도 되고, 병렬로, 또는 호출이 행하여졌을 때 등의 필요한 타이밍에 처리가 행하여지는 프로그램이어도 된다.
또한, 본 명세서에 있어서, 기록 매체에 기록되는 프로그램을 기술하는 스텝은, 기재된 순서에 따라서 시계열적으로 행하여지는 처리는 물론, 반드시 시계열적으로 처리되지는 않더라도, 병렬적 또는 개별로 실행되는 처리도 포함하는 것이다.
또한, 본 명세서에 있어서, 시스템이란, 복수의 구성 요소(장치, 모듈(부품) 등)의 집합을 의미하고, 모든 구성 요소가 동일 하우징 내에 있는지 여부는 묻지 않는다. 따라서, 별개의 하우징에 수납되고, 네트워크를 통하여 접속되어 있는 복수의 장치, 및 하나의 하우징 내에 복수의 모듈이 수납되어 있는 하나의 장치는, 모두, 시스템이다.
또한, 이상에 있어서, 하나의 장치(또는 처리부)로서 설명한 구성을 분할하여, 복수의 장치(또는 처리부)로서 구성하도록 해도 된다. 반대로, 이상에 있어서 복수의 장치(또는 처리부)로서 설명한 구성을 통합하여 하나의 장치(또는 처리부)로서 구성되도록 해도 된다. 또한, 각 장치(또는 각 처리부)의 구성에 상술한 것 이외의 구성을 부가하도록 해도 되는 것은 물론이다. 또한, 시스템 전체로서의 구성이나 동작이 실질적으로 동일하면, 어떤 장치(또는 처리부)의 구성의 일부를 다른 장치(또는 다른 처리부)의 구성에 포함하도록 해도 된다.
이상, 첨부 도면을 참조하면서 본 개시가 바람직한 실시 형태에 대하여 상세하게 설명했지만, 본 개시의 기술적 범위는 이러한 예에 한정되지 않는다. 본 명세서에 개시된 기술분야에 있어서의 통상의 지식을 갖는 사람이라면, 청구범위에 기재된 기술적 사상의 범주 내에서, 각종 변경예 또는 수정예에 상도할 수 있는 것은 명확하며, 이들에 대해서도, 당연히 본 개시의 기술적 범위에 속하는 것이라고 이해된다.
예를 들어, 본 기술은, 하나의 기능을, 네트워크를 통하여 복수의 장치에서 분담, 공동하여 처리하는 클라우드 컴퓨팅의 구성을 취할 수 있다.
또한, 상술한 흐름도에서 설명한 각 스텝은, 하나의 장치에서 실행하는 것 외에, 복수의 장치에서 분담하여 실행할 수 있다.
또한, 하나의 스텝에 복수의 처리가 포함되는 경우에는, 그 하나의 스텝에 포함되는 복수의 처리는, 하나의 장치에서 실행하는 것 외에, 복수의 장치에서 분담하여 실행할 수 있다.
상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치는, 예를 들어, 위성 방송, 케이블 TV 등의 유선 방송, 인터넷 상에서의 배신, 및 셀룰러 통신에 의한 단말기에의 배신 등에 있어서의 송신기 혹은 수신기, 광 디스크, 자기 디스크 및 플래시 메모리 등의 매체에 화상을 기록하는 기록 장치, 또는, 이들 기억 매체로부터 화상을 재생하는 재생 장치 등의 다양한 전자 기기에 응용될 수 있다. 이하, 4가지의 응용예에 대하여 설명한다.
<6. 제6 실시 형태>
<제1 응용예: 텔레비전 수상기 >
도 47은, 상술한 실시 형태를 적용한 텔레비전 장치의 개략적인 구성의 일례를 도시하고 있다. 텔레비전 장치(900)는 안테나(901), 튜너(902), 디멀티플렉서(903), 디코더(904), 영상 신호 처리부(905), 표시부(906), 음성 신호 처리부(907), 스피커(908), 외부 인터페이스(I/F)부(909), 제어부(910), 유저 인터페이스(I/F)부(911), 및 버스(912)를 구비한다.
튜너(902)는 안테나(901)를 통하여 수신되는 방송 신호로부터 원하는 채널의 신호를 추출하고, 추출한 신호를 복조한다. 그리고, 튜너(902)는 복조에 의해 얻어진 부호화 비트 스트림을 디멀티플렉서(903)로 출력한다. 즉, 튜너(902)는 화상이 부호화되어 있는 부호화 스트림을 수신하는, 텔레비전 장치(900)에 있어서의 전송부로서의 역할을 갖는다.
디멀티플렉서(903)는 부호화 비트 스트림으로부터 시청 대상의 프로그램 영상 스트림 및 음성 스트림을 분리하고, 분리한 각 스트림을 디코더(904)로 출력한다. 또한, 디멀티플렉서(903)는 부호화 비트 스트림으로부터 EPG(Electronic Program Guide) 등의 보조적인 데이터를 추출하고, 추출한 데이터를 제어부(910)에 공급한다. 또한, 디멀티플렉서(903)는 부호화 비트 스트림이 스크램블되어 있는 경우에는, 디스크램블을 행해도 된다.
디코더(904)는 디멀티플렉서(903)로부터 입력되는 영상 스트림 및 음성 스트림을 복호한다. 그리고, 디코더(904)는 복호 처리에 의해 생성되는 영상 데이터를 영상 신호 처리부(905)로 출력한다. 또한, 디코더(904)는 복호 처리에 의해 생성되는 음성 데이터를 음성 신호 처리부(907)로 출력한다.
영상 신호 처리부(905)는 디코더(904)로부터 입력되는 영상 데이터를 재생하고, 표시부(906)에 영상을 표시시킨다. 또한, 영상 신호 처리부(905)는 네트워크를 통하여 공급되는 애플리케이션 화면을 표시부(906)에 표시시켜도 된다. 또한, 영상 신호 처리부(905)는 영상 데이터에 대해서, 설정에 따라, 예를 들어 노이즈 제거 등의 추가적인 처리를 행해도 된다. 또한, 영상 신호 처리부(905)는 예를 들어 메뉴, 버튼 또는 커서 등의 GUI(Graphical User Interface)의 화상을 생성하고, 생성한 화상을 출력 화상에 중첩해도 된다.
표시부(906)는 영상 신호 처리부(905)로부터 공급되는 구동 신호에 의해 구동되어, 표시 디바이스(예를 들어, 액정 디스플레이, 플라즈마 디스플레이 또는 OELD(Organic ElectroLuminescence Display)(유기EL 디스플레이) 등)의 영상면 상에 영상 또는 화상을 표시한다.
음성 신호 처리부(907)는 디코더(904)로부터 입력되는 음성 데이터에 대하여 D/A 변환 및 증폭 등의 재생 처리를 행하고, 스피커(908)로부터 음성을 출력시킨다. 또한, 음성 신호 처리부(907)는 음성 데이터에 대하여 노이즈 제거 등의 추가적인 처리를 행해도 된다.
외부 인터페이스부(909)는 텔레비전 장치(900)와 외부 기기 또는 네트워크를 접속하기 위한 인터페이스이다. 예를 들어, 외부 인터페이스부(909)를 통하여 수신되는 영상 스트림 또는 음성 스트림이, 디코더(904)에 의해 복호되어도 된다. 즉, 외부 인터페이스부(909)도 또한, 화상이 부호화되어 있는 부호화 스트림을 수신하는, 텔레비전 장치(900)에 있어서의 전송부로서의 역할을 갖는다.
제어부(910)는 CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램, 프로그램 데이터, EPG 데이터, 및 네트워크를 통하여 취득되는 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어, 텔레비전 장치(900)의 기동 시에 CPU에 의해 읽어들여져, 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스부(911)로부터 입력되는 조작 신호에 따라, 텔레비전 장치(900)의 동작을 제어한다.
유저 인터페이스부(911)는 제어부(910)와 접속된다. 유저 인터페이스부(911)는 예를 들어, 유저가 텔레비전 장치(900)를 조작하기 위한 버튼 및 스위치, 및 원격 제어 신호의 수신부 등을 갖는다. 유저 인터페이스부(911)는 이들 구성 요소를 통하여 유저에 의한 조작을 검출하여 조작 신호를 생성하고, 생성한 조작 신호를 제어부(910)로 출력한다.
버스(912)는, 튜너(902), 디멀티플렉서(903), 디코더(904), 영상 신호 처리부(905), 음성 신호 처리부(907), 외부 인터페이스부(909) 및 제어부(910)를 서로 접속한다.
이렇게 구성된 텔레비전 장치(900)에 있어서, 디코더(904)는 상술한 실시 형태에 따른 화상 복호 장치(200)의 기능을 갖는다. 그것에 의해, 텔레비전 장치(900)에서의 화상의 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<제2 응용예: 휴대 전화기>
도 48은, 상술한 실시 형태를 적용한 휴대 전화기의 개략적인 구성의 일례를 도시하고 있다. 휴대 전화기(920)는 안테나(921), 통신부(922), 음성 코덱(923), 스피커(924), 마이크로폰(925), 카메라부(926), 화상 처리부(927), 다중 분리부(928), 기록 재생부(929), 표시부(930), 제어부(931), 조작부(932), 및 버스(933)를 구비한다.
안테나(921)는 통신부(922)에 접속된다. 스피커(924) 및 마이크로폰(925)은 음성 코덱(923)에 접속된다. 조작부(932)는 제어부(931)에 접속된다. 버스(933)는 통신부(922), 음성 코덱(923), 카메라부(926), 화상 처리부(927), 다중 분리부(928), 기록 재생부(929), 표시부(930), 및 제어부(931)를 서로 접속한다.
휴대 전화기(920)는 음성 통화 모드, 데이터 통신 모드, 촬영 모드 및 텔레비전 전화 모드를 포함하는 여러가지 동작 모드에서, 음성 신호의 송수신, 전자 메일 또는 화상 데이터의 송수신, 화상의 촬상, 및 데이터의 기록 등의 동작을 행한다.
음성 통화 모드에서, 마이크로폰(925)에 의해 생성되는 아날로그 음성 신호는 음성 코덱(923)에 공급된다. 음성 코덱(923)은 아날로그 음성 신호를 음성 데이터로 변환하고, 변환된 음성 데이터를 A/D 변환하여 압축한다. 그리고, 음성 코덱(923)은 압축 후의 음성 데이터를 통신부(922)로 출력한다. 통신부(922)는 음성 데이터를 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는 생성한 송신 신호를, 안테나(921)를 통하여 기지국(도시하지 않음)에 송신한다. 또한, 통신부(922)는 안테나(921)를 통하여 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 그리고, 통신부(922)는 수신 신호를 복조 및 복호하여 음성 데이터를 생성하고, 생성한 음성 데이터를 음성 코덱(923)으로 출력한다. 음성 코덱(923)은 음성 데이터를 신장 및 D/A 변환하여, 아날로그 음성 신호를 생성한다. 그리고, 음성 코덱(923)은 생성한 음성 신호를 스피커(924)에 공급하여 음성을 출력시킨다.
또한, 데이터 통신 모드에서, 예를 들어, 제어부(931)는 조작부(932)를 통한 유저에 의한 조작에 따라, 전자 메일을 구성하는 문자 데이터를 생성한다. 또한, 제어부(931)는 문자를 표시부(930)에 표시시킨다. 또한, 제어부(931)는 조작부(932)를 통한 유저로부터의 송신 지시에 따라서 전자 메일 데이터를 생성하고, 생성한 전자 메일 데이터를 통신부(922)로 출력한다. 통신부(922)는 전자 메일 데이터를 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는 생성한 송신 신호를, 안테나(921)를 통하여 기지국(도시하지 않음)에 송신한다. 또한, 통신부(922)는 안테나(921)를 통하여 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 그리고, 통신부(922)는 수신 신호를 복조 및 복호하여 전자 메일 데이터를 복원하고, 복원한 전자 메일 데이터를 제어부(931)로 출력한다. 제어부(931)는 표시부(930)에 전자 메일의 내용을 표시시킴과 함께, 전자 메일 데이터를 기록 재생부(929)에 공급하고, 그 기억 매체에 기입시킨다.
기록 재생부(929)는 판독 기입 가능한 임의의 기억 매체를 갖는다. 예를 들어, 기억 매체는, RAM 또는 플래시 메모리 등의 내장형의 기억 매체여도 되고, 하드 디스크, 자기 디스크, 광자기 디스크, 광 디스크, USB(Universal Serial Bus) 메모리, 또는 메모리 카드 등의 외부 장착형의 기억 매체여도 된다.
또한, 촬영 모드에서, 예를 들어, 카메라부(926)는 피사체를 촬상하여 화상 데이터를 생성하고, 생성한 화상 데이터를 화상 처리부(927)로 출력한다. 화상 처리부(927)는 카메라부(926)로부터 입력되는 화상 데이터를 부호화하여, 부호화 스트림을 기록 재생부(929)에 공급하고, 그 기억 매체에 기입시킨다.
또한, 화상 표시 모드에서, 기록 재생부(929)는 기억 매체에 기록되어 있는 부호화 스트림을 판독하여 화상 처리부(927)로 출력한다. 화상 처리부(927)는 기록 재생부(929)로부터 입력되는 부호화 스트림을 복호하여, 화상 데이터를 표시부(930)에 공급하고, 그 화상을 표시시킨다.
또한, 텔레비전 전화 모드에서, 예를 들어, 다중 분리부(928)는 화상 처리부(927)에 의해 부호화된 영상 스트림과, 음성 코덱(923)으로부터 입력되는 음성 스트림을 다중화하고, 다중화한 스트림을 통신부(922)로 출력한다. 통신부(922)는 스트림을 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는 생성한 송신 신호를, 안테나(921)를 통하여 기지국(도시하지 않음)에 송신한다. 또한, 통신부(922)는 안테나(921)를 통하여 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 이들 송신 신호 및 수신 신호에는, 부호화 비트 스트림이 포함될 수 있다. 그리고, 통신부(922)는 수신 신호를 복조 및 복호하여 스트림을 복원하고, 복원한 스트림을 다중 분리부(928)로 출력한다. 다중 분리부(928)는 입력되는 스트림으로부터 영상 스트림 및 음성 스트림을 분리하고, 영상 스트림을 화상 처리부(927), 음성 스트림을 음성 코덱(923)으로 출력한다. 화상 처리부(927)는 영상 스트림을 복호하여, 영상 데이터를 생성한다. 영상 데이터는, 표시부(930)에 공급되어, 표시부(930)에 의해 일련의 화상이 표시된다. 음성 코덱(923)은 음성 스트림을 신장 및 D/A 변환하여, 아날로그 음성 신호를 생성한다. 그리고, 음성 코덱(923)은 생성한 음성 신호를 스피커(924)에 공급하여 음성을 출력시킨다.
이렇게 구성된 휴대 전화기(920)에 있어서, 화상 처리부(927)는 상술한 실시 형태에 따른 화상 부호화 장치(100)나 화상 복호 장치(200)의 기능을 갖는다. 그것에 의하여, 휴대 전화기(920)에서의 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<제3 응용예: 기록 재생 장치>
도 49는, 상술한 실시 형태를 적용한 기록 재생 장치의 개략적인 구성의 일례를 도시하고 있다. 기록 재생 장치(940)는 예를 들어, 수신한 방송 프로그램의 음성 데이터 및 영상 데이터를 부호화하여 기록 매체에 기록한다. 또한, 기록 재생 장치(940)는 예를 들어, 다른 장치로부터 취득되는 음성 데이터 및 영상 데이터를 부호화하여 기록 매체에 기록해도 된다. 또한, 기록 재생 장치(940)는 예를 들어, 유저의 지시에 따라, 기록 매체에 기록되어 있는 데이터를 모니터 및 스피커 상에서 재생한다. 이때, 기록 재생 장치(940)는 음성 데이터 및 영상 데이터를 복호한다.
기록 재생 장치(940)는, 튜너(941), 외부 인터페이스(I/F)부(942), 인코더(943), HDD(Hard Disk Drive)(944), 디스크 드라이브(945), 셀렉터(946), 디코더(947), OSD(On-Screen Display)(948), 제어부(949), 및 유저 인터페이스(I/F)부(950)를 구비한다.
튜너(941)는 안테나(도시하지 않음)를 통하여 수신되는 방송 신호로부터 원하는 채널의 신호를 추출하고, 추출한 신호를 복조한다. 그리고, 튜너(941)는 복조에 의해 얻어진 부호화 비트 스트림을 셀렉터(946)로 출력한다. 즉, 튜너(941)는 기록 재생 장치(940)에 있어서의 전송부로서의 역할을 갖는다.
외부 인터페이스부(942)는 기록 재생 장치(940)와 외부 기기 또는 네트워크를 접속하기 위한 인터페이스이다. 외부 인터페이스부(942)는 예를 들어, IEEE(Institute of Electrical and Electronic Engineers)1394 인터페이스, 네트워크 인터페이스, USB 인터페이스, 또는 플래시 메모리 인터페이스 등이어도 된다. 예를 들어, 외부 인터페이스부(942)를 통하여 수신되는 영상 데이터 및 음성 데이터는, 인코더(943)에 입력된다. 즉, 외부 인터페이스부(942)는 기록 재생 장치(940)에 있어서의 전송부로서의 역할을 갖는다.
인코더(943)는 외부 인터페이스부(942)로부터 입력되는 영상 데이터 및 음성 데이터가 부호화되어 있지 않은 경우에, 영상 데이터 및 음성 데이터를 부호화한다. 그리고, 인코더(943)는 부호화 비트 스트림을 셀렉터(946)로 출력한다.
HDD(944)는, 영상 및 음성 등의 콘텐츠 데이터가 압축된 부호화 비트 스트림, 각종 프로그램 및 기타의 데이터를 내부의 하드 디스크에 기록한다. 또한, HDD(944)는, 영상 및 음성의 재생 시에, 이들 데이터를 하드 디스크로부터 판독한다.
디스크 드라이브(945)는 장착되어 있는 기록 매체에의 데이터의 기록 및 판독을 행한다. 디스크 드라이브(945)에 장착되는 기록 매체는, 예를 들어 DVD(Digital Versatile Disc) 디스크(DVD-Video, DVD-RAM(DVD - Random Access Memory), DVD-R(DVD - Recordable), DVD-RW(DVD - Rewritable), DVD+R(DVD +Recordable), DVD+RW(DVD +Rewritable) 등) 또는 Blu-ray(등록 상표) 디스크 등이어도 된다.
셀렉터(946)는, 영상 및 음성의 기록 시에는, 튜너(941) 또는 인코더(943)로부터 입력되는 부호화 비트 스트림을 선택하고, 선택한 부호화 비트 스트림을 HDD(944) 또는 디스크 드라이브(945)로 출력한다. 또한, 셀렉터(946)는 영상 및 음성의 재생 시에는, HDD(944) 또는 디스크 드라이브(945)로부터 입력되는 부호화 비트 스트림을 디코더(947)로 출력한다.
디코더(947)는, 부호화 비트 스트림을 복호하고, 영상 데이터 및 음성 데이터를 생성한다. 그리고, 디코더(947)는 생성한 영상 데이터를 OSD(948)로 출력한다. 또한, 디코더(947)는 생성한 음성 데이터를 외부의 스피커로 출력한다.
OSD(948)는, 디코더(947)로부터 입력되는 영상 데이터를 재생하고, 영상을 표시한다. 또한, OSD(948)는, 표시하는 영상에, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI의 화상을 중첩해도 된다.
제어부(949)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램, 및 프로그램 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어, 기록 재생 장치(940)의 기동 시에 CPU에 의해 읽어들여져, 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스부(950)로부터 입력되는 조작 신호에 따라, 기록 재생 장치(940)의 동작을 제어한다.
유저 인터페이스부(950)는 제어부(949)와 접속된다. 유저 인터페이스부(950)는 예를 들어, 유저가 기록 재생 장치(940)를 조작하기 위한 버튼 및 스위치, 및 원격 제어 신호의 수신부 등을 갖는다. 유저 인터페이스부(950)는 이들 구성 요소를 통하여 유저에 의한 조작을 검출하여 조작 신호를 생성하고, 생성한 조작 신호를 제어부(949)로 출력한다.
이렇게 구성된 기록 재생 장치(940)에 있어서, 인코더(943)는 상술한 실시 형태에 따른 화상 부호화 장치(100)의 기능을 갖는다. 또한, 디코더(947)는 상술한 실시 형태에 따른 화상 복호 장치(200)의 기능을 갖는다. 그것에 의해, 기록 재생 장치(940)에서의 화상의 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<제4 응용예: 촬상 장치>
도 50은, 상술한 실시 형태를 적용한 촬상 장치의 개략적인 구성의 일례를 도시하고 있다. 촬상 장치(960)는 피사체를 촬상하여 화상을 생성하고, 화상 데이터를 부호화하여 기록 매체에 기록한다.
촬상 장치(960)는, 광학 블록(961), 촬상부(962), 신호 처리부(963), 화상 처리부(964), 표시부(965), 외부 인터페이스(I/F)부(966), 메모리부(967), 미디어 드라이브(968), OSD(969), 제어부(970), 유저 인터페이스(I/F)부(971), 및 버스(972)를 구비한다.
광학 블록(961)은 촬상부(962)에 접속된다. 촬상부(962)는 신호 처리부(963)에 접속된다. 표시부(965)는 화상 처리부(964)에 접속된다. 유저 인터페이스부(971)는 제어부(970)에 접속된다. 버스(972)는 화상 처리부(964), 외부 인터페이스부(966), 메모리부(967), 미디어 드라이브(968), OSD(969), 및 제어부(970)를 서로 접속한다.
광학 블록(961)은 포커스 렌즈 및 조리개 기구 등을 갖는다. 광학 블록(961)은 피사체의 광학상을 촬상부(962)의 촬상면에 결상시킨다. 촬상부(962)는 CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal Oxide Semiconductor) 등의 이미지 센서를 갖고, 촬상면에 결상한 광학상을 광전 변환에 의해 전기 신호로서의 화상 신호로 변환한다. 그리고, 촬상부(962)는 화상 신호를 신호 처리부(963)로 출력한다.
신호 처리부(963)는, 촬상부(962)로부터 입력되는 화상 신호에 대하여 니 보정, 감마 보정, 색보정 등의 다양한 카메라 신호 처리를 행한다. 신호 처리부(963)는 카메라 신호 처리 후의 화상 데이터를 화상 처리부(964)로 출력한다.
화상 처리부(964)는, 신호 처리부(963)로부터 입력되는 화상 데이터를 부호화하여, 부호화 데이터를 생성한다. 그리고, 화상 처리부(964)는 생성한 부호화 데이터를 외부 인터페이스부(966) 또는 미디어 드라이브(968)로 출력한다. 또한, 화상 처리부(964)는 외부 인터페이스부(966) 또는 미디어 드라이브(968)로부터 입력되는 부호화 데이터를 복호하여, 화상 데이터를 생성한다. 그리고, 화상 처리부(964)는 생성한 화상 데이터를 표시부(965)로 출력한다. 또한, 화상 처리부(964)는 신호 처리부(963)로부터 입력되는 화상 데이터를 표시부(965)로 출력하여 화상을 표시시켜도 된다. 또한, 화상 처리부(964)는 OSD(969)로부터 취득되는 표시용 데이터를, 표시부(965)로 출력하는 화상에 중첩해도 된다.
OSD(969)는, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI의 화상을 생성하고, 생성한 화상을 화상 처리부(964)로 출력한다.
외부 인터페이스부(966)는 예를 들어 USB 입출력 단자로서 구성된다. 외부 인터페이스부(966)는 예를 들어, 화상의 인쇄 시에, 촬상 장치(960)와 프린터를 접속한다. 또한, 외부 인터페이스부(966)에는, 필요에 따라 드라이브가 접속된다. 드라이브에는, 예를 들어, 자기 디스크 또는 광 디스크 등의 리무버블 미디어가 장착되어, 리무버블 미디어로부터 판독되는 프로그램이, 촬상 장치(960)에 인스톨될 수 있다. 또한, 외부 인터페이스부(966)는 LAN 또는 인터넷 등의 네트워크에 접속되는 네트워크 인터페이스로서 구성되어도 된다. 즉, 외부 인터페이스부(966)는 촬상 장치(960)에 있어서의 전송부로서의 역할을 갖는다.
미디어 드라이브(968)에 장착되는 기록 매체는, 예를 들어, 자기 디스크, 광자기 디스크, 광 디스크, 또는 반도체 메모리 등의, 판독 기입 가능한 임의의 리무버블 미디어이면 된다. 또한, 미디어 드라이브(968)에 기록 매체가 고정적으로 장착되어, 예를 들어, 내장형 하드디스크 드라이브 또는 SSD(Solid State Drive)와 같은 비가반성의 기억부가 구성되어도 된다.
제어부(970)는 CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램, 및 프로그램 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어, 촬상 장치(960)의 기동 시에 CPU에 의해 읽어들여져, 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스부(971)로부터 입력되는 조작 신호에 따라, 촬상 장치(960)의 동작을 제어한다.
유저 인터페이스부(971)는 제어부(970)와 접속된다. 유저 인터페이스부(971)는 예를 들어, 유저가 촬상 장치(960)를 조작하기 위한 버튼 및 스위치 등을 갖는다. 유저 인터페이스부(971)는 이들 구성 요소를 통하여 유저에 의한 조작을 검출하여 조작 신호를 생성하고, 생성한 조작 신호를 제어부(970)로 출력한다.
이렇게 구성된 촬상 장치(960)에 있어서, 화상 처리부(964)는 상술한 실시 형태에 따른 화상 부호화 장치(100)나 화상 복호 장치(200)의 기능을 갖는다. 그것에 의해, 촬상 장치(960)에서의 복호에 필요한 성능을 보다 정확하게 파악할 수 있다.
<7. 제7 실시 형태>
<스케일러블 부호화의 응용예: 제1 시스템>
이어서, 스케일러블 부호화(계층(화상) 부호화)된 스케일러블 부호화 데이터의 구체적인 이용예에 대하여 설명한다. 스케일러블 부호화는, 예를 들어, 도 51에 도시하는 예와 같이, 전송하는 데이터의 선택을 위하여 이용된다.
도 51에 도시하는 데이터 전송 시스템(1000)에 있어서, 배신 서버(1002)는 스케일러블 부호화 데이터 기억부(1001)에 기억되어 있는 스케일러블 부호화 데이터를 판독하고, 네트워크(1003)를 통하여, 퍼스널 컴퓨터(1004), AV 기기(1005), 태블릿 디바이스(1006), 및 휴대 전화기(1007) 등의 단말 장치로 배신한다.
그 때, 배신 서버(1002)는 단말 장치의 능력이나 통신 환경 등에 따라, 적절한 품질의 부호화 데이터를 선택하여 전송한다. 배신 서버(1002)가 불필요하게 고품질의 데이터를 전송해도, 단말 장치에 있어서 반드시 고화질의 화상을 얻을 수 있다고는 할 수 없고, 지연이나 오버플로우의 발생 요인이 될 우려가 있다. 또한, 불필요하게 통신 대역을 점유하거나, 단말 장치의 부하를 불필요하게 증대시키거나 해버릴 우려도 있다. 반대로, 배신 서버(1002)가 불필요하게 저품질의 데이터를 전송해도, 단말 장치에 있어서 충분한 화질의 화상을 얻을 수 없을 우려가 있다. 그로 인해, 배신 서버(1002)는 스케일러블 부호화 데이터 기억부(1001)에 기억되어 있는 스케일러블 부호화 데이터를, 적절히, 단말 장치의 능력이나 통신 환경 등에 대하여 적절한 품질의 부호화 데이터로서 판독하고, 전송한다.
예를 들어, 스케일러블 부호화 데이터 기억부(1001)는 스케일러블에 부호화된 스케일러블 부호화 데이터(BL+EL)(1011)를 기억한다고 하자. 이 스케일러블 부호화 데이터(BL+EL)(1011)는, 베이스 레이어와 인핸스먼트 레이어의 양쪽을 포함하는 부호화 데이터이며, 복호함으로써, 베이스 레이어의 화상 및 인핸스먼트 레이어의 화상 양쪽을 얻을 수 있는 데이터이다.
배신 서버(1002)는, 데이터를 전송하는 단말 장치의 능력이나 통신 환경 등에 따라, 적절한 레이어를 선택하고, 그 레이어의 데이터를 판독한다. 예를 들어, 배신 서버(1002)는, 처리 능력이 높은 퍼스널 컴퓨터(1004)나 태블릿 디바이스(1006)에 대해서는, 고품질의 스케일러블 부호화 데이터(BL+EL)(1011)를 스케일러블 부호화 데이터 기억부(1001)로부터 판독하고, 그대로 전송한다. 이에 비해, 예를 들어, 배신 서버(1002)는, 처리 능력이 낮은 AV 기기(1005)나 휴대 전화기(1007)에 대해서는, 스케일러블 부호화 데이터(BL+EL)(1011)로부터 베이스 레이어의 데이터를 추출하고, 스케일러블 부호화 데이터(BL+EL)(1011)와 같은 콘텐츠의 데이터이지만, 스케일러블 부호화 데이터(BL+EL)(1011)보다도 저품질의 스케일러블 부호화 데이터(BL)(1012)로서 전송한다.
이렇게 스케일러블 부호화 데이터를 사용함으로써, 데이터양을 용이하게 조정할 수 있으므로, 지연이나 오버플로우의 발생을 억제하거나, 단말 장치나 통신 매체의 부하 불필요한 증대를 억제하거나 할 수 있다. 또한, 스케일러블 부호화 데이터(BL+EL)(1011)는, 레이어 간의 용장성이 저감되어 있으므로, 각 레이어의 부호화 데이터를 개별의 데이터로 하는 경우보다도 그 데이터양을 저감시킬 수 있다. 따라서, 스케일러블 부호화 데이터 기억부(1001)의 기억 영역을 보다 효율적으로 사용할 수 있다.
또한, 퍼스널 컴퓨터(1004) 내지 휴대 전화기(1007)와 같이, 단말 장치에는 여러가지 장치를 적용할 수 있으므로, 단말 장치의 하드웨어 성능은, 장치에 따라 상이하다. 또한, 단말 장치가 실행하는 애플리케이션도 다양하므로, 그 소프트웨어의 능력도 다양하다. 또한, 통신 매체가 되는 네트워크(1003)도, 예를 들어 인터넷이나 LAN(Local Area Network) 등, 유선 혹은 무선, 또는 그 양쪽을 포함하는 모든 통신 회선망을 적용할 수 있고, 그 데이터 전송 능력은 다양하다. 또한, 다른 통신 등에 따라서도 변화될 우려가 있다.
따라서, 배신 서버(1002)는 데이터 전송을 개시하기 전에, 데이터의 전송처가 되는 단말기 장치와 통신을 행하고, 단말 장치의 하드웨어 성능이나, 단말 장치가 실행하는 애플리케이션(소프트웨어)의 성능 등과 같은 단말 장치의 능력에 관한 정보, 및 네트워크(1003)의 이용 가능 대역폭 등의 통신 환경에 관한 정보를 얻도록 해도 된다. 그리고, 배신 서버(1002)가 여기에서 얻은 정보를 기초로, 적절한 레이어를 선택하도록 해도 된다.
또한, 레이어의 추출은, 단말 장치에 있어서 행하도록 해도 된다. 예를 들어, 퍼스널 컴퓨터(1004)가, 전송된 스케일러블 부호화 데이터(BL+EL)(1011)를 복호하여, 베이스 레이어의 화상을 표시해도 되고, 인핸스먼트 레이어의 화상을 표시해도 된다. 또한, 예를 들어, 퍼스널 컴퓨터(1004)가, 전송된 스케일러블 부호화 데이터(BL+EL)(1011)로부터, 베이스 레이어의 스케일러블 부호화 데이터(BL)(1012)를 추출하고, 기억하거나, 다른 장치로 전송하거나, 복호하여 베이스 레이어의 화상을 표시하거나 하도록 해도 된다.
물론, 스케일러블 부호화 데이터 기억부(1001), 배신 서버(1002), 네트워크(1003), 및 단말 장치의 수는 모두 임의이다. 또한, 이상에 있어서는, 배신 서버(1002)가 데이터를 단말 장치로 전송하는 예에 대하여 설명했지만, 이용예는 이것에 한정되지 않는다. 데이터 전송 시스템(1000)은 스케일러블 부호화된 부호화 데이터를 단말 장치로 전송할 때, 단말 장치의 능력이나 통신 환경 등에 따라, 적절한 레이어를 선택하여 전송하는 시스템이라면, 임의의 시스템에 적용할 수 있다.
그리고, 도 51과 같은 데이터 전송 시스템(1000)에 있어서도, 도 1 내지 도 42를 참조하여 상술한 계층 부호화·계층 복호에의 적용과 마찬가지로 본 기술을 적용함으로써, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
<스케일러블 부호화의 응용예: 제2 시스템>
또한, 스케일러블 부호화는, 예를 들어, 도 52에 도시하는 예와 같이, 복수의 통신 매체를 통한 전송을 위하여 이용된다.
도 52에 도시하는 데이터 전송 시스템(1100)에 있어서, 방송국(1101)은 지상파 방송(1111)에 의해, 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를 전송한다. 또한, 방송국(1101)은 유선 혹은 무선 또는 그 양 통신망을 포함하는 임의의 네트워크(1112)를 통하여, 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 전송한다(예를 들어 패킷화하여 전송한다).
단말 장치(1102)는 방송국(1101)이 방송하는 지상파 방송(1111)의 수신 기능을 갖고, 이 지상파 방송(1111)을 통하여 전송되는 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를 수취한다. 또한, 단말 장치(1102)는 네트워크(1112)를 통한 통신을 행하는 통신 기능을 더 갖고, 이 네트워크(1112)를 통하여 전송되는 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 수취한다.
단말 장치(1102)는 예를 들어 유저 지시 등에 따라, 지상파 방송(1111)을 통하여 취득한 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를, 복호하여 베이스 레이어의 화상을 얻거나, 기억하거나, 다른 장치로 전송하거나 한다.
또한, 단말 장치(1102)는 예를 들어 유저 지시 등에 따라, 지상파 방송(1111)을 통하여 취득한 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)와, 네트워크(1112)를 통하여 취득한 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 합성하여, 스케일러블 부호화 데이터(BL+EL)를 얻거나, 그것을 복호하여 인핸스먼트 레이어의 화상을 얻거나, 기억하거나, 다른 장치로 전송하거나 한다.
이상과 같이, 스케일러블 부호화 데이터는, 예를 들어 레이어마다 다른 통신 매체를 통하여 전송시킬 수 있다. 따라서, 부하를 분산시킬 수 있어, 지연이나 오버플로우의 발생을 억제할 수 있다.
또한, 상황에 따라, 전송에 사용하는 통신 매체를, 레이어마다 선택할 수 있도록 해도 된다. 예를 들어, 데이터양이 비교적 많은 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를 대역폭이 넓은 통신 매체를 통하여 전송시키고, 데이터양이 비교적 적은 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 대역폭이 좁은 통신 매체를 통하여 전송시키도록 해도 된다. 또한, 예를 들어, 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 전송하는 통신 매체를, 네트워크(1112)로 할지, 지상파 방송(1111)으로 할지를, 네트워크(1112)의 이용 가능 대역폭에 따라서 전환하도록 해도 된다. 물론, 임의의 레이어의 데이터에 대하여 마찬가지이다.
이렇게 제어함으로써, 데이터 전송에 있어서의 부하의 증대를 보다 억제할 수 있다.
물론, 레이어수는 임의이며, 전송에 이용하는 통신 매체의 수도 임의이다. 또한, 데이터 배신처가 되는 단말 장치(1102)의 수도 임의이다. 또한, 이상에 있어서는, 방송국(1101)으로부터의 방송을 예로 들어 설명했지만, 이용예는 이것에 한정되지 않는다. 데이터 전송 시스템(1100)은 스케일러블 부호화된 부호화 데이터를, 레이어를 단위로 하여 복수로 분할하고, 복수의 회선을 통하여 전송하는 시스템이라면, 임의의 시스템에 적용할 수 있다.
그리고, 이상과 같은 데이터 전송 시스템(1100)에 있어서도, 도 1 내지 도 42를 참조하여 상술한 계층 부호화·계층 복호에의 적용과 마찬가지로 본 기술을 적용함으로써, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
<스케일러블 부호화의 응용예: 제3 시스템>
또한, 스케일러블 부호화는, 예를 들어, 도 53에 도시하는 예와 같이, 부호화 데이터의 기억에 이용된다.
도 53에 도시하는 촬상 시스템(1200)에 있어서, 촬상 장치(1201)는 피사체(1211)를 촬상하여 얻어진 화상 데이터를 스케일러블 부호화하여, 스케일러블 부호화 데이터(BL+EL)(1221)로서, 스케일러블 부호화 데이터 기억 장치(1202)에 공급한다.
스케일러블 부호화 데이터 기억 장치(1202)는 촬상 장치(1201)로부터 공급되는 스케일러블 부호화 데이터(BL+EL)(1221)를, 상황에 따른 품질로 기억한다. 예를 들어, 통상 시의 경우, 스케일러블 부호화 데이터 기억 장치(1202)는 스케일러블 부호화 데이터(BL+EL)(1221)로부터 베이스 레이어의 데이터를 추출하고, 저품질이고 데이터양이 적은 베이스 레이어의 스케일러블 부호화 데이터(BL)(1222)로서 기억한다. 이에 비해, 예를 들어, 주목 시의 경우, 스케일러블 부호화 데이터 기억 장치(1202)는 고품질이고 데이터양이 많은 스케일러블 부호화 데이터(BL+EL)(1221) 그대로 기억한다.
이와 같이 함으로써, 스케일러블 부호화 데이터 기억 장치(1202)는 필요한 경우에만, 화상을 고화질로 보존할 수 있으므로, 화질 열화에 의한 화상의 가치 저감을 억제하면서, 데이터양의 증대를 억제할 수 있어, 기억 영역의 이용 효율을 향상시킬 수 있다.
예를 들어, 촬상 장치(1201)가 감시 카메라라고 하자. 촬상 화상에 감시 대상(예를 들어 침입자)이 찍히고 있지 않은 경우(통상 시의 경우), 촬상 화상의 내용은 중요하지 않을 가능성이 높으므로, 데이터양의 저감이 우선되어, 그 화상 데이터(스케일러블 부호화 데이터)는 저품질로 기억된다. 이에 비해, 촬상 화상에 감시 대상이 피사체(1211)로서 찍히고 있을 경우(주목 시의 경우), 그 촬상 화상의 내용은 중요할 가능성이 높으므로, 화질이 우선되어, 그 화상 데이터(스케일러블 부호화 데이터)는 고품질로 기억된다.
또한, 통상 시인지 주목 시인지는, 예를 들어, 스케일러블 부호화 데이터 기억 장치(1202)가 화상을 해석함으로써 판정해도 된다. 또한, 촬상 장치(1201)가 판정하고, 그 판정 결과를 스케일러블 부호화 데이터 기억 장치(1202)로 전송하도록 해도 된다.
또한, 통상 시인지 주목 시인지의 판정 기준은 임의이고, 판정 기준으로 하는 화상의 내용은 임의이다. 물론, 화상의 내용 이외의 조건을 판정 기준으로 할 수도 있다. 예를 들어, 수록한 음성의 크기나 파형 등에 따라서 전환하도록 해도 되고, 소정 시간마다로 전환하도록 해도 되고, 유저 지시 등의 외부로부터의 지시에 의해 전환하도록 해도 된다.
또한, 이상에 있어서는, 통상 시와 주목 시의 2가지의 상태를 전환하는 예를 설명했지만, 상태의 수는 임의로서, 예를 들어, 통상 시, 약간 주목 시, 주목 시, 매우 주목 시 등과 같이, 3가지 이상의 상태를 전환하도록 해도 된다. 단, 이 전환하는 상태의 상한수는, 스케일러블 부호화 데이터의 레이어수에 의존한다.
또한, 촬상 장치(1201)가 스케일러블 부호화의 레이어수를, 상태에 따라서 결정하도록 해도 된다. 예를 들어, 통상 시의 경우, 촬상 장치(1201)가 저품질로서 데이터양이 적은 베이스 레이어의 스케일러블 부호화 데이터(BL)(1222)를 생성하고, 스케일러블 부호화 데이터 기억 장치(1202)에 공급하도록 해도 된다. 또한, 예를 들어, 주목 시의 경우, 촬상 장치(1201)가 고품질로서 데이터양이 많은 베이스 레이어의 스케일러블 부호화 데이터(BL+EL)(1221)를 생성하고, 스케일러블 부호화 데이터 기억 장치(1202)에 공급하도록 해도 된다.
이상에 있어서는, 감시 카메라를 예로 들어 설명했지만, 이 촬상 시스템(1200)의 용도는 임의로서, 감시 카메라에 한정되지 않는다.
그리고, 도 53과 같은 촬상 시스템(1200)에 있어서도, 도 1 내지 도 42를 참조하여 상술한 계층 부호화·계층 복호에의 적용과 마찬가지로 본 기술을 적용함으로써, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
또한, 본 기술은, 미리 준비된 해상도 등이 서로 상이한 복수의 부호화 데이터 중에서 적절한 것을 세그먼트 단위로 선택하여 사용하는, 예를 들어 MPEG DASH 등과 같은 HTTP 스트리밍에도 적용할 수 있다. 즉, 이러한 복수의 부호화 데이터 간에, 부호화나 복호에 관한 정보를 공유할 수도 있다.
<8. 제8 실시 형태>
<실시의 기타의 예>
이상에 있어서 본 기술을 적용하는 장치나 시스템 등의 예를 설명했지만, 본 기술은, 이에 한정하지 않고, 이러한 장치 또는 시스템을 구성하는 장치에 탑재하는 모든 구성, 예를 들어, 시스템 LSI(Large Scale Integration) 등으로서의 프로세서, 복수의 프로세서 등을 사용하는 모듈, 복수의 모듈 등을 사용하는 유닛, 유닛에 추가로 기타의 기능을 부가한 세트 등(즉, 장치의 일부 구성)으로서 실시할 수도 있다.
<비디오 세트>
본 기술을 세트로서 실시할 경우의 예에 대해서, 도 54를 참조하여 설명한다. 도 54는, 본 기술을 적용한 비디오 세트의 개략적인 구성의 일례를 도시하고 있다.
최근 들어, 전자 기기의 다기능화가 진행하고 있어, 그 개발이나 제조에 있어서, 그 일부의 구성을 판매나 제공 등으로서 실시할 경우, 하나의 기능을 갖는 구성으로서 실시를 행하는 경우 뿐만 아니라, 관련하는 기능을 갖는 복수의 구성을 조합하여, 복수의 기능을 갖는 1세트로서 실시를 행하는 경우도 많이 보이게 되었다.
도 54에 도시하는 비디오 세트(1300)는 이러한 다기능화된 구성이며, 화상의 부호화나 복호(어느 한쪽이어도 되고, 양쪽이어도 된다)에 관한 기능을 갖는 디바이스에, 그 기능에 관련하는 기타의 기능을 갖는 디바이스를 조합한 것이다.
도 54에 도시된 바와 같이, 비디오 세트(1300)는 비디오 모듈(1311), 외부 메모리(1312), 파워 매니지먼트 모듈(1313), 및 프론트엔드 모듈(1314) 등의 모듈군과, 커넥티비티(1321), 카메라(1322), 및 센서(1323) 등이 관련하는 기능을 갖는 디바이스를 갖는다.
모듈은, 서로 관련하는 몇 가지의 부품적 기능을 통합하여, 통합된 기능을 가진 부품으로 한 것이다. 구체적인 물리적 구성은 임의인데, 예를 들어, 각각 기능을 갖는 복수의 프로세서, 저항이나 콘덴서 등의 전자 회로 소자, 기타의 디바이스 등을 배선 기판 등에 배치하여 일체화된 것이 생각된다. 또한, 모듈에 다른 모듈이나 프로세서 등을 조합하여 새로운 모듈로 하는 것도 생각된다.
도 54의 예의 경우, 비디오 모듈(1311)은 화상 처리에 관한 기능을 갖는 구성을 조합한 것이며, 어플리케이션 프로세서, 비디오 프로세서, 브로드밴드 모뎀(1333), 및 RF 모듈(1334)을 갖는다.
프로세서는, 소정의 기능을 갖는 구성을 SoC(System On a Chip)에 의해 반도체칩에 집적한 것이며, 예를 들어 시스템 LSI(Large Scale Integration) 등이라고 칭해지는 것도 있다. 이 소정의 기능을 갖는 구성은, 논리 회로(하드웨어 구성)여도 되고, CPU, ROM, RAM 등과, 그들을 사용하여 실행되는 프로그램(소프트웨어 구성)이어도 되고, 그 양쪽을 조합한 것이어도 된다. 예를 들어, 프로세서가, 논리 회로와 CPU, ROM, RAM 등을 갖고, 기능의 일부를 논리 회로(하드웨어 구성)에 의해 실현하고, 기타의 기능을 CPU에 있어서 실행되는 프로그램(소프트웨어 구성)에 의해 실현하도록 해도 된다.
도 54의 어플리케이션 프로세서(1331)는 화상 처리에 관한 애플리케이션을 실행하는 프로세서이다. 이 어플리케이션 프로세서(1331)에 있어서 실행되는 애플리케이션은, 소정의 기능을 실현하기 위해서, 연산 처리를 행할 뿐만 아니라, 예를 들어 비디오 프로세서(1332) 등, 비디오 모듈(1311) 내외의 구성을 필요에 따라서 제어할 수도 있다.
비디오 프로세서(1332)는 화상의 부호화·복호(그 한쪽 혹은 양쪽)에 관한 기능을 갖는 프로세서이다.
브로드밴드 모뎀(1333)은 인터넷이나 공중 전화 회선망 등의 광대역의 회선을 통하여 행하여지는 유선 혹은 무선(또는 그 양쪽)의 광대역 통신에 의해 송신하는 데이터(디지털 신호)를 디지털 변조하는 등 하여 아날로그 신호로 변환하거나, 그 광대역 통신에 의해 수신한 아날로그 신호를 복조하여 데이터(디지털 신호)로 변환하거나 한다. 브로드밴드 모뎀(1333)은 예를 들어, 비디오 프로세서(1332)가 처리하는 화상 데이터, 화상 데이터가 부호화된 스트림, 어플리케이션 프로그램, 설정 데이터 등, 임의의 정보를 처리한다.
RF 모듈(1334)은 안테나를 통하여 송수신되는 RF(Radio Frequency) 신호에 대하여 주파수 변환, 변복조, 증폭, 필터 처리 등을 행하는 모듈이다. 예를 들어, RF 모듈(1334)은 브로드밴드 모뎀(1333)에 의해 생성된 기저 대역 신호에 대하여 주파수 변환 등을 행하여 RF 신호를 생성한다. 또한, 예를 들어, RF 모듈(1334)은 프론트엔드 모듈(1314)을 통하여 수신된 RF 신호에 대하여 주파수 변환 등을 행하여 기저 대역 신호를 생성한다.
또한, 도 54에 있어서 점선(1341)에 도시된 바와 같이, 어플리케이션 프로세서(1331)와 비디오 프로세서(1332)를 일체화하여, 하나의 프로세서로서 구성되도록 해도 된다.
외부 메모리(1312)는, 비디오 모듈(1311)의 외부에 설치된, 비디오 모듈(1311)에 의해 이용되는 기억 디바이스를 갖는 모듈이다. 이 외부 메모리(1312)의 기억 디바이스는, 어떤 물리 구성에 의해 실현하도록 해도 되지만, 일반적으로 프레임 단위의 화상 데이터와 같은 대용량의 데이터 저장에 이용되는 경우가 많으므로, 예를 들어 DRAM(Dynamic Random Access Memory)과 같은 비교적 저렴하고 대용량인 반도체 메모리에 의해 실현하는 것이 바람직하다.
파워 매니지먼트 모듈(1313)은, 비디오 모듈(1311)(비디오 모듈(1311) 내의 각 구성)에의 전력 공급을 관리하고, 제어한다.
프론트엔드 모듈(1314)은 RF 모듈(1334)에 대하여 프론트엔드 기능(안테나측의 송수신 단의 회로)을 제공하는 모듈이다. 도 54에 도시된 바와 같이, 프론트엔드 모듈(1314)은 예를 들어, 안테나부(1351), 필터(1352), 및 증폭부(1353)를 갖는다.
안테나부(1351)는 무선 신호를 송수신하는 안테나 및 그 주변의 구성을 갖는다. 안테나부(1351)는 증폭부(1353)로부터 공급되는 신호를 무선 신호로서 송신하고, 수신한 무선 신호를 전기 신호(RF 신호)로서 필터(1352)에 공급한다. 필터(1352)는 안테나부(1351)를 통하여 수신된 RF 신호에 대하여 필터 처리 등을 행하고, 처리 후의 RF 신호를 RF 모듈(1334)에 공급한다. 증폭부(1353)는 RF 모듈(1334)로부터 공급되는 RF 신호를 증폭하고, 안테나부(1351)에 공급한다.
커넥티비티(1321)는 외부와의 접속에 관한 기능을 갖는 모듈이다. 커넥티비티(1321)의 물리 구성은 임의이다. 예를 들어, 커넥티비티(1321)는 브로드밴드 모뎀(1333)이 대응하는 통신 규격 이외의 통신 기능을 갖는 구성이나, 외부 입출력 단자 등을 갖는다.
예를 들어, 커넥티비티(1321)가 Bluetooth(등록 상표), IEEE 802.11(예를 들어 Wi-Fi(Wireless Fidelity, 등록 상표)), NFC(Near Field Communication), IrDA(InfraRed Data Association) 등의 무선 통신 규격에 준거하는 통신 기능을 갖는 모듈이나, 그 규격에 준거한 신호를 송수신하는 안테나 등을 갖도록 해도 된다. 또한, 예를 들어, 커넥티비티(1321)가 USB(Universal Serial Bus), HDMI(등록 상표)(High-Definition Multimedia Interface) 등의 유선 통신 규격에 준거하는 통신 기능을 갖는 모듈이나, 그 규격에 준거한 단자를 갖도록 해도 된다. 또한, 예를 들어, 커넥티비티(1321)가 아날로그 입출력 단자 등의 기타의 데이터(신호) 전송 기능 등을 갖도록 해도 된다.
또한, 커넥티비티(1321)가 데이터(신호)의 전송처의 디바이스를 포함하도록 해도 된다. 예를 들어, 커넥티비티(1321)가 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 기록 매체에 대하여 데이터의 판독이나 기입을 행하는 드라이브(리무버블 미디어의 드라이브뿐만 아니라, 하드 디스크, SSD(Solid State Drive), NAS(Network Attached Storage) 등도 포함한다)를 갖도록 해도 된다. 또한, 커넥티비티(1321)가 화상이나 음성의 출력 디바이스(모니터나 스피커 등)를 갖도록 해도 된다.
카메라(1322)는, 피사체를 촬상하고, 피사체의 화상 데이터를 얻는 기능을 갖는 모듈이다. 카메라(1322)의 촬상에 의해 얻어진 화상 데이터는, 예를 들어, 비디오 프로세서(1332)에 공급되어서 부호화된다.
센서(1323)는 예를 들어, 음성 센서, 초음파 센서, 광 센서, 조도 센서, 적외선 센서, 이미지 센서, 회전 센서, 각도 센서, 각속도 센서, 속도 센서, 가속도 센서, 경사 센서, 자기 식별 센서, 충격 센서, 온도 센서 등, 임의의 센서 기능을 갖는 모듈이다. 센서(1323)에 의해 검출된 데이터는, 예를 들어, 어플리케이션 프로세서(1331)에 공급되어서 애플리케이션 등에 의해 이용된다.
이상에 있어서 모듈로서 설명한 구성을 프로세서로서 실현하도록 해도 되고, 반대로 프로세서로서 설명한 구성을 모듈로서 실현하도록 해도 된다.
이상과 같은 구성의 비디오 세트(1300)에 있어서, 후술하는 바와 같이 비디오 프로세서(1332)에 본 기술을 적용할 수 있다. 따라서, 비디오 세트(1300)는 본 기술을 적용한 세트로서 실시할 수 있다.
<비디오 프로세서의 구성예>
도 55는, 본 기술을 적용한 비디오 프로세서(1332)(도 54)의 개략적인 구성의 일례를 도시하고 있다.
도 55의 예의 경우, 비디오 프로세서(1332)는 비디오 신호 및 오디오 신호의 입력을 받아서 이들을 소정의 방식으로 부호화하는 기능과, 부호화된 비디오 데이터 및 오디오 데이터를 복호하고, 비디오 신호 및 오디오 신호를 재생 출력하는 기능을 갖는다.
도 55에 도시된 바와 같이, 비디오 프로세서(1332)는 비디오 입력 처리부(1401), 제1 화상 확대 축소부(1402), 제2 화상 확대 축소부(1403), 비디오 출력 처리부(1404), 프레임 메모리(1405), 및 메모리 제어부(1406)를 갖는다. 또한, 비디오 프로세서(1332)는 인코드·디코드 엔진(1407), 비디오 ES(Elementary Stream) 버퍼(1408A 및 1408B), 및 오디오 ES 버퍼(1409A 및 1409B)를 갖는다. 또한, 비디오 프로세서(1332)는 오디오 인코더(1410), 오디오 디코더(1411), 다중화부(MUX(Multiplexer))(1412), 역다중화부(DMUX(Demultiplexer))(1413), 및 스트림 버퍼(1414)를 갖는다.
비디오 입력 처리부(1401)는, 예를 들어 커넥티비티(1321)(도 54) 등으로부터 입력된 비디오 신호를 취득하고, 디지털 화상 데이터로 변환한다. 제1 화상 확대 축소부(1402)는 화상 데이터에 대하여 포맷 변환이나 화상의 확대 축소 처리 등을 행한다. 제2 화상 확대 축소부(1403)는 화상 데이터에 대하여 비디오 출력 처리부(1404)를 통하여 출력할 목적지에서의 포맷에 따라서 화상의 확대 축소 처리를 행하거나, 제1 화상 확대 축소부(1402)와 동일한 포맷 변환이나 화상의 확대 축소 처리 등을 행하거나 한다. 비디오 출력 처리부(1404)는 화상 데이터에 대하여 포맷 변환이나 아날로그 신호로의 변환 등을 행하고, 재생된 비디오 신호로서 예를 들어 커넥티비티(1321) 등으로 출력한다.
프레임 메모리(1405)는, 비디오 입력 처리부(1401), 제1 화상 확대 축소부(1402), 제2 화상 확대 축소부(1403), 비디오 출력 처리부(1404), 및 인코드·디코드 엔진(1407)에 의해 공용되는 화상 데이터용의 메모리이다. 프레임 메모리(1405)는 예를 들어 DRAM 등의 반도체 메모리로서 실현된다.
메모리 제어부(1406)는, 인코드·디코드 엔진(1407)으로부터의 동기 신호를 받아, 액세스 관리 테이블(1406A)에 기입된 프레임 메모리(1405)에의 액세스 스케줄을 따라서 프레임 메모리(1405)에 대한 기입·판독의 액세스를 제어한다. 액세스 관리 테이블(1406A)은, 인코드·디코드 엔진(1407), 제1 화상 확대 축소부(1402), 제2 화상 확대 축소부(1403) 등에서 실행되는 처리에 따라, 메모리 제어부(1406)에 의해 갱신된다.
인코드·디코드 엔진(1407)은, 화상 데이터의 인코드 처리, 및 화상 데이터가 부호화된 데이터인 비디오 스트림의 디코드 처리를 행한다. 예를 들어, 인코드·디코드 엔진(1407)은 프레임 메모리(1405)로부터 판독한 화상 데이터를 부호화하여, 비디오 스트림으로서 비디오 ES 버퍼(1408A)에 순차 기입한다. 또한, 예를 들어, 비디오 ES 버퍼(1408B)로부터 비디오 스트림을 순차 판독하여 복호하고, 화상 데이터로서 프레임 메모리(1405)에 순차 기입한다. 인코드·디코드 엔진(1407)은 이 부호화나 복호에 있어서, 프레임 메모리(1405)를 작업 영역으로서 사용한다. 또한, 인코드·디코드 엔진(1407)은 예를 들어 매크로 블록마다의 처리를 개시하는 타이밍에, 메모리 제어부(1406)에 대하여 동기 신호를 출력한다.
비디오 ES 버퍼(1408A)는, 인코드·디코드 엔진(1407)에 의해 생성된 비디오 스트림을 버퍼링하여, 다중화부(MUX)(1412)에 공급한다. 비디오 ES 버퍼(1408B)는, 역다중화부(DMUX)(1413)로부터 공급된 비디오 스트림을 버퍼링하여, 인코드·디코드 엔진(1407)에 공급한다.
오디오 ES 버퍼(1409A)는, 오디오 인코더(1410)에 의해 생성된 오디오 스트림을 버퍼링하고, 다중화부(MUX)(1412)에 공급한다. 오디오 ES 버퍼(1409B)는, 역다중화부(DMUX)(1413)로부터 공급된 오디오 스트림을 버퍼링하고, 오디오 디코더(1411)에 공급한다.
오디오 인코더(1410)는, 예를 들어 커넥티비티(1321) 등으로부터 입력된 오디오 신호를 예를 들어 디지털 변환하고, 예를 들어 MPEG 오디오 방식이나 AC3(AudioCode number 3) 방식 등의 소정의 방식으로 부호화한다. 오디오 인코더(1410)는 오디오 신호가 부호화된 데이터인 오디오 스트림을 오디오 ES 버퍼(1409A)에 순차 기입한다. 오디오 디코더(1411)는 오디오 ES 버퍼(1409B)로부터 공급된 오디오 스트림을 복호하고, 예를 들어 아날로그 신호로의 변환 등을 행하고, 재생된 오디오 신호로서 예를 들어 커넥티비티(1321) 등에 공급한다.
다중화부(MUX)(1412)는, 비디오 스트림과 오디오 스트림을 다중화한다. 이 다중화의 방법(즉, 다중화에 의해 생성되는 비트 스트림의 포맷)은 임의이다. 또한, 이 다중화 시에, 다중화부(MUX)(1412)는, 소정의 헤더 정보 등을 비트 스트림에 부가할 수도 있다. 즉, 다중화부(MUX)(1412)는, 다중화에 의해 스트림의 포맷을 변환할 수 있다. 예를 들어, 다중화부(MUX)(1412)는, 비디오 스트림과 오디오 스트림을 다중화함으로써, 전송용 포맷의 비트 스트림인 트랜스포트 스트림으로 변환한다. 또한, 예를 들어, 다중화부(MUX)(1412)는, 비디오 스트림과 오디오 스트림을 다중화함으로써, 기록용 파일 포맷의 데이터(파일 데이터)로 변환한다.
역다중화부(DMUX)(1413)는, 다중화부(MUX)(1412)에 의한 다중화에 대응하는 방법으로, 비디오 스트림과 오디오 스트림이 다중화된 비트 스트림을 역다중화한다. 즉, 역다중화부(DMUX)(1413)는, 스트림 버퍼(1414)로부터 판독된 비트 스트림으로부터 비디오 스트림과 오디오 스트림을 추출한다(비디오 스트림과 오디오 스트림을 분리한다). 즉, 역다중화부(DMUX)(1413)는, 역다중화에 의해 스트림의 포맷을 변환(다중화부(MUX)(1412)에 의한 변환의 역변환)할 수 있다. 예를 들어, 역다중화부(DMUX)(1413)는, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등으로부터 공급된 트랜스포트 스트림을, 스트림 버퍼(1414)를 통하여 취득하고, 역다중화함으로써, 비디오 스트림과 오디오 스트림으로 변환할 수 있다. 또한, 예를 들어, 역다중화부(DMUX)(1413)는, 예를 들어 커넥티비티(1321)에 의해 각종 기록 매체로부터 판독된 파일 데이터를, 스트림 버퍼(1414)를 통하여 취득하고, 역다중화함으로써, 비디오 스트림과 오디오 스트림으로 변환할 수 있다.
스트림 버퍼(1414)는 비트 스트림을 버퍼링한다. 예를 들어, 스트림 버퍼(1414)는, 다중화부(MUX)(1412)로부터 공급된 트랜스포트 스트림을 버퍼링하고, 소정의 타이밍에 있어서, 혹은 외부로부터의 요구 등에 기초하여 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등에 공급한다.
또한, 예를 들어, 스트림 버퍼(1414)는, 다중화부(MUX)(1412)로부터 공급된 파일 데이터를 버퍼링하고, 소정의 타이밍에 있어서, 혹은 외부로부터의 요구 등에 기초하여 예를 들어 커넥티비티(1321) 등에 공급하고, 각종 기록 매체에 기록시킨다.
또한, 스트림 버퍼(1414)는 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등을 통하여 취득한 트랜스포트 스트림을 버퍼링하고, 소정의 타이밍에 있어서, 혹은 외부로부터의 요구 등에 기초하여 역다중화부(DMUX)(1413)에 공급한다.
또한, 스트림 버퍼(1414)는, 예를 들어 커넥티비티(1321) 등에 있어서 각종 기록 매체로부터 판독된 파일 데이터를 버퍼링하고, 소정의 타이밍에 있어서, 혹은 외부로부터의 요구 등에 기초하여 역다중화부(DMUX)(1413)에 공급한다.
이어서, 이와 같은 구성의 비디오 프로세서(1332)의 동작예에 대하여 설명한다. 예를 들어, 커넥티비티(1321) 등으로부터 비디오 프로세서(1332)에 입력된 비디오 신호는, 비디오 입력 처리부(1401)에 있어서 4:2:2Y/Cb/Cr 방식 등의 소정의 방식의 디지털 화상 데이터로 변환되어, 프레임 메모리(1405)에 순차 기입된다. 이 디지털 화상 데이터는, 제1 화상 확대 축소부(1402) 또는 제2 화상 확대 축소부(1403)에 판독되어서, 4:2:0Y/Cb/Cr 방식 등의 소정의 방식으로의 포맷 변환 및 확대 축소 처리가 행하여져, 다시 프레임 메모리(1405)에 기입된다. 이 화상 데이터는, 인코드·디코드 엔진(1407)에 의해 부호화되어, 비디오 스트림으로서 비디오 ES 버퍼(1408A)에 기입된다.
또한, 커넥티비티(1321) 등으로부터 비디오 프로세서(1332)에 입력된 오디오 신호는, 오디오 인코더(1410)에 의해 부호화되어, 오디오 스트림으로서, 오디오 ES 버퍼(1409A)에 기입된다.
비디오 ES 버퍼(1408A)의 비디오 스트림과, 오디오 ES 버퍼(1409A)의 오디오 스트림은, 다중화부(MUX)(1412)에 판독되어서 다중화되어, 트랜스포트 스트림 혹은 파일 데이터 등으로 변환된다. 다중화부(MUX)(1412)에 의해 생성된 트랜스포트 스트림은, 스트림 버퍼(1414)에 버퍼된 후, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등을 통하여 외부 네트워크로 출력된다. 또한, 다중화부(MUX)(1412)에 의해 생성된 파일 데이터는, 스트림 버퍼(1414)에 버퍼된 후, 예를 들어 커넥티비티(1321) 등으로 출력되어, 각종 기록 매체에 기록된다.
또한, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등을 통하여 외부 네트워크로부터 비디오 프로세서(1332)에 입력된 트랜스포트 스트림은, 스트림 버퍼(1414)에 버퍼된 후, 역다중화부(DMUX)(1413)에 의해 역다중화된다. 또한, 예를 들어 커넥티비티(1321) 등에 있어서 각종 기록 매체로부터 판독되어, 비디오 프로세서(1332)에 입력된 파일 데이터는, 스트림 버퍼(1414)에 버퍼된 후, 역다중화부(DMUX)(1413)에 의해 역다중화된다. 즉, 비디오 프로세서(1332)에 입력된 트랜스포트 스트림 혹은 파일 데이터는, 역다중화부(DMUX)(1413)에 의해 비디오 스트림과 오디오 스트림으로 분리된다.
오디오 스트림은, 오디오 ES 버퍼(1409B)를 통하여 오디오 디코더(1411)에 공급되고, 복호되어서 오디오 신호가 재생된다. 또한, 비디오 스트림은, 비디오 ES 버퍼(1408B)에 기입된 후, 인코드·디코드 엔진(1407)에 의해 순차 판독되고 복호되어서 프레임 메모리(1405)에 기입된다. 복호된 화상 데이터는, 제2 화상 확대 축소부(1403)에 의해 확대 축소 처리되어서, 프레임 메모리(1405)에 기입된다. 그리고, 복호된 화상 데이터는, 비디오 출력 처리부(1404)에 판독되어서, 4:2:2Y/Cb/Cr 방식 등의 소정의 방식으로 포맷 변환되고, 또한 아날로그 신호로 변환되어서, 비디오 신호가 재생 출력된다.
이렇게 구성되는 비디오 프로세서(1332)에 본 기술을 적용하는 경우, 인코드·디코드 엔진(1407)에, 상술한 각 실시 형태에 따른 본 기술을 적용하면 된다. 즉, 예를 들어, 인코드·디코드 엔진(1407)이 상술한 실시 형태에 따른 화상 부호화 장치(100)나 화상 복호 장치(200)의 기능을 갖도록 하면 된다. 이와 같이 함으로써, 비디오 프로세서(1332)는 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
또한, 인코드·디코드 엔진(1407)에 있어서, 본 기술(즉, 상술한 각 실시 형태에 따른 화상 부호화 장치나 화상 복호 장치의 기능)은 논리 회로 등의 하드웨어에 의해 실현하도록 해도 되고, 내장 프로그램 등의 소프트웨어에 의해 실현하도록 해도 되고, 그들 양쪽에 의해 실현하도록 해도 된다.
<비디오 프로세서의 다른 구성예>
도 56은, 본 기술을 적용한 비디오 프로세서(1332)의 개략적인 구성의 다른 예를 도시하고 있다. 도 56의 예의 경우, 비디오 프로세서(1332)는 비디오 데이터를 소정의 방식으로 부호화·복호하는 기능을 갖는다.
보다 구체적으로는, 도 56에 도시된 바와 같이, 비디오 프로세서(1332)는, 제어부(1511), 디스플레이 인터페이스(1512), 디스플레이 엔진(1513), 화상 처리 엔진(1514), 및 내부 메모리(1515)를 갖는다. 또한, 비디오 프로세서(1332)는 코덱 엔진(1516), 메모리 인터페이스(1517), 다중화·역다중화부(MUX DMUX)(1518), 네트워크 인터페이스(1519), 및 비디오 인터페이스(1520)를 갖는다.
제어부(1511)는 디스플레이 인터페이스(1512), 디스플레이 엔진(1513), 화상 처리 엔진(1514), 및 코덱 엔진(1516) 등, 비디오 프로세서(1332) 내의 각 처리부의 동작을 제어한다.
도 56에 도시된 바와 같이, 제어부(1511)는 예를 들어, 메인 CPU(1531), 서브 CPU(1532), 및 시스템 컨트롤러(1533)를 갖는다. 메인 CPU(1531)는, 비디오 프로세서(1332) 내의 각 처리부의 동작을 제어하기 위한 프로그램 등을 실행한다. 메인 CPU(1531)는, 그 프로그램 등에 따라서 제어 신호를 생성하고, 각 처리부에 공급한다(즉, 각 처리부의 동작을 제어한다). 서브 CPU(1532)는, 메인 CPU(1531)의 보조적인 역할을 한다. 예를 들어, 서브 CPU(1532)는, 메인 CPU(1531)가 실행하는 프로그램 등의 자 프로세스나 서브루틴 등을 실행한다. 시스템 컨트롤러(1533)는 메인 CPU(1531) 및 서브 CPU(1532)가 실행하는 프로그램을 지정하는 등, 메인 CPU(1531) 및 서브 CPU(1532)의 동작을 제어한다.
디스플레이 인터페이스(1512)는, 제어부(1511)의 제어 하에, 화상 데이터를 예를 들어 커넥티비티(1321) 등으로 출력한다. 예를 들어, 디스플레이 인터페이스(1512)는 디지털 데이터의 화상 데이터를 아날로그 신호로 변환하고, 재생된 비디오 신호로서, 또는 디지털 데이터의 화상 데이터 그대로, 커넥티비티(1321)의 모니터 장치 등으로 출력한다.
디스플레이 엔진(1513)은, 제어부(1511)의 제어 하에, 화상 데이터에 대하여 그 화상을 표시시키는 모니터 장치 등의 하드웨어 스펙에 맞추도록, 포맷 변환, 사이즈 변환, 색 영역 변환 등의 각종 변환 처리를 행한다.
화상 처리 엔진(1514)은, 제어부(1511)의 제어 하에, 화상 데이터에 대하여 예를 들어 화질 개선을 위한 필터 처리 등, 소정의 화상 처리를 실시한다.
내부 메모리(1515)는, 디스플레이 엔진(1513), 화상 처리 엔진(1514), 및 코덱 엔진(1516)에 의해 공용되는, 비디오 프로세서(1332)의 내부에 설치된 메모리이다. 내부 메모리(1515)는 예를 들어, 디스플레이 엔진(1513), 화상 처리 엔진(1514), 및 코덱 엔진(1516) 간에 행하여지는 데이터의 수수에 이용된다. 예를 들어, 내부 메모리(1515)는 디스플레이 엔진(1513), 화상 처리 엔진(1514), 또는 코덱 엔진(1516)으로부터 공급되는 데이터를 저장하고, 필요에 따라(예를 들어, 요구에 따라), 그 데이터를, 디스플레이 엔진(1513), 화상 처리 엔진(1514), 또는 코덱 엔진(1516)에 공급한다. 이 내부 메모리(1515)는, 어떤 기억 디바이스에 의해 실현하도록 해도 되지만, 일반적으로 블록 단위의 화상 데이터나 파라미터 등과 같은 소용량의 데이터 저장에 이용하는 경우가 많으므로, 예를 들어 SRAM(Static Random Access Memory)과 같은 비교적(예를 들어 외부 메모리(1312)와 비교하여) 소용량이지만 응답 속도가 고속인 반도체 메모리에 의해 실현하는 것이 바람직하다.
코덱 엔진(1516)은 화상 데이터의 부호화나 복호에 관한 처리를 행한다. 이 코덱 엔진(1516)이 대응하는 부호화·복호의 방식은 임의로서, 그 수는 1개여도 되고, 복수여도 된다. 예를 들어, 코덱 엔진(1516)은 복수의 부호화·복호 방식의 코덱 기능을 구비하고, 그 중에서 선택된 것으로 화상 데이터의 부호화 혹은 부호화 데이터의 복호를 행하도록 해도 된다.
도 56에 도시하는 예에 있어서, 코덱 엔진(1516)은, 코덱에 관한 처리의 기능 블록으로서, 예를 들어, MPEG-2 Video(1541), AVC/H.264(1542), HEVC/H.265(1543), HEVC/H.265(Scalable)(1544), HEVC/H.265(Multi-view)(1545), 및 MPEG-DASH(1551)을 갖는다.
MPEG-2 Video(1541)은, 화상 데이터를 MPEG-2 방식으로 부호화하거나 복호하거나 하는 기능 블록이다. AVC/H.264(1542)는, 화상 데이터를 AVC 방식으로 부호화하거나 복호하거나 하는 기능 블록이다. HEVC/H.265(1543)는, 화상 데이터를 HEVC 방식으로 부호화하거나 복호하거나 하는 기능 블록이다. HEVC/H.265(Scalable)(1544)는, 화상 데이터를 HEVC 방식으로 스케일러블 부호화하거나 스케일러블 복호하거나 하는 기능 블록이다. HEVC/H.265(Multi-view)(1545)는, 화상 데이터를 HEVC 방식으로 다시점 부호화하거나 다시점 복호하거나 하는 기능 블록이다.
MPEG-DASH(1551)은, 화상 데이터를 MPEG-DASH(MPEG-Dynamic Adaptive Streaming over HTTP) 방식으로 송수신하는 기능 블록이다. MPEG-DASH는, HTTP(HyperText Transfer Protocol)를 사용하여 비디오의 스트리밍을 행하는 기술이며, 미리 준비된 해상도 등이 서로 상이한 복수의 부호화 데이터 중에서 적절한 것을 세그먼트 단위로 선택하여 전송하는 것을 특징의 하나로 한다. MPEG-DASH(1551)은, 규격에 준거하는 스트림의 생성이나 그 스트림의 전송 제어 등을 행하고, 화상 데이터의 부호화·복호에 대해서는, 상술한 MPEG-2 Video(1541) 내지 HEVC/H.265(Multi-view)(1545)를 이용한다.
메모리 인터페이스(1517)는 외부 메모리(1312)용의 인터페이스이다. 화상 처리 엔진(1514)이나 코덱 엔진(1516)으로부터 공급되는 데이터는, 메모리 인터페이스(1517)를 통하여 외부 메모리(1312)에 공급된다. 또한, 외부 메모리(1312)로부터 판독된 데이터는, 메모리 인터페이스(1517)를 통하여 비디오 프로세서(1332)(화상 처리 엔진(1514) 혹은 코덱 엔진(1516))에 공급된다.
다중화·역다중화부(MUX DMUX)(1518)는, 부호화 데이터의 비트 스트림, 화상 데이터, 비디오 신호 등, 화상에 관한 각종 데이터의 다중화나 역다중화를 행한다. 이 다중화·역다중화의 방법은 임의이다. 예를 들어, 다중화 시에, 다중화·역다중화부(MUX DMUX)(1518)는, 복수의 데이터를 하나로 통합할 뿐만 아니라, 소정의 헤더 정보 등을 그 데이터에 부가할 수도 있다. 또한, 역다중화 시에, 다중화·역다중화부(MUX DMUX)(1518)는, 하나의 데이터를 복수로 분할할 뿐만 아니라, 분할한 각 데이터에 소정의 헤더 정보 등을 부가할 수도 있다. 즉, 다중화·역다중화부(MUX DMUX)(1518)는, 다중화·역다중화에 의해 데이터의 포맷을 변환할 수 있다. 예를 들어, 다중화·역다중화부(MUX DMUX)(1518)는, 비트 스트림을 다중화함으로써, 전송용 포맷의 비트 스트림인 트랜스포트 스트림이나, 기록용 파일 포맷의 데이터(파일 데이터)로 변환할 수 있다. 물론, 역다중화에 의해 그 역변환도 가능하다.
네트워크 인터페이스(1519)는 예를 들어 브로드밴드 모뎀(1333)이나 커넥티비티(1321) 등에 적합한 인터페이스이다. 비디오 인터페이스(1520)는 예를 들어 커넥티비티(1321)나 카메라(1322) 등에 적합한 인터페이스이다.
이어서, 이러한 비디오 프로세서(1332)의 동작예에 대하여 설명한다. 예를 들어, 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등을 통하여 외부 네트워크로부터 트랜스포트 스트림을 수신하면, 그 트랜스포트 스트림은, 네트워크 인터페이스(1519)를 통하여 다중화·역다중화부(MUX DMUX)(1518)에 공급되어서 역다중화되고, 코덱 엔진(1516)에 의해 복호된다. 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 예를 들어, 화상 처리 엔진(1514)에 의해 소정의 화상 처리가 실시되고, 디스플레이 엔진(1513)에 의해 소정의 변환이 행하여지고, 디스플레이 인터페이스(1512)를 통하여 예를 들어 커넥티비티(1321) 등에 공급되고, 그 화상이 모니터에 표시된다. 또한, 예를 들어, 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 코덱 엔진(1516)에 의해 재부호화되고, 다중화·역다중화부(MUX DMUX)(1518)에 의해 다중화되어서 파일 데이터로 변환되고, 비디오 인터페이스(1520)를 통하여 예를 들어 커넥티비티(1321) 등으로 출력되어, 각종 기록 매체에 기록된다.
또한, 예를 들어, 커넥티비티(1321) 등에 의해 도시하지 않은 기록 매체로부터 판독된, 화상 데이터가 부호화된 부호화 데이터의 파일 데이터는, 비디오 인터페이스(1520)를 통하여 다중화·역다중화부(MUX DMUX)(1518)에 공급되어서 역다중화되고, 코덱 엔진(1516)에 의해 복호된다. 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 화상 처리 엔진(1514)에 의해 소정의 화상 처리가 실시되고, 디스플레이 엔진(1513)에 의해 소정의 변환이 행하여지고, 디스플레이 인터페이스(1512)를 통하여 예를 들어 커넥티비티(1321) 등에 공급되고, 그 화상이 모니터에 표시된다. 또한, 예를 들어, 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 코덱 엔진(1516)에 의해 재부호화되고, 다중화·역다중화부(MUX DMUX)(1518)에 의해 다중화되어서 트랜스포트 스트림으로 변환되고, 네트워크 인터페이스(1519)를 통하여 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등에 공급되어 도시하지 않은 다른 장치로 전송된다.
또한, 비디오 프로세서(1332) 내의 각 처리부의 사이에서의 화상 데이터나 기타의 데이터의 수수는, 예를 들어, 내부 메모리(1515)나 외부 메모리(1312)를 이용하여 행하여진다. 또한, 파워 매니지먼트 모듈(1313)은, 예를 들어 제어부(1511)에의 전력 공급을 제어한다.
이렇게 구성되는 비디오 프로세서(1332)에 본 기술을 적용하는 경우, 코덱 엔진(1516)에, 상술한 각 실시 형태에 따른 본 기술을 적용하면 된다. 즉, 예를 들어, 코덱 엔진(1516)이 상술한 실시 형태에 따른 화상 부호화 장치(100)나 화상 복호 장치(200)를 실현하는 기능 블록을 갖도록 하면 된다. 이와 같이 함으로써, 비디오 프로세서(1332)는 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
또한, 코덱 엔진(1516)에 있어서, 본 기술(즉, 상술한 각 실시 형태에 따른 화상 부호화 장치나 화상 복호 장치의 기능)은 논리 회로 등의 하드웨어에 의해 실현하도록 해도 되고, 내장 프로그램 등의 소프트웨어에 의해 실현하도록 해도 되고, 그들 양쪽에 의해 실현하도록 해도 된다.
이상으로 비디오 프로세서(1332)의 구성을 2예 나타냈지만, 비디오 프로세서(1332)의 구성은 임의로서, 상술한 2예 이외의 것이어도 된다. 또한, 이 비디오 프로세서(1332)는 1개의 반도체칩으로서 구성되도록 해도 되지만, 복수의 반도체칩으로서 구성되도록 해도 된다. 예를 들어, 복수의 반도체를 적층하는 3차원 적층 LSI로 해도 된다. 또한, 복수의 LSI에 의해 실현되도록 해도 된다.
<장치에의 적용예>
비디오 세트(1300)는 화상 데이터를 처리하는 각종 장치에 내장할 수 있다. 예를 들어, 비디오 세트(1300)는 텔레비전 장치(900)(도 47), 휴대 전화기(920)(도 48), 기록 재생 장치(940)(도 49), 촬상 장치(960)(도 50) 등에 내장할 수 있다. 비디오 세트(1300)를 내장함으로써, 그 장치는, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
또한, 비디오 세트(1300)는 예를 들어, 도 51의 데이터 전송 시스템(1000)에 있어서의 퍼스널 컴퓨터(1004), AV 기기(1005), 태블릿 디바이스(1006), 및 휴대 전화기(1007) 등의 단말 장치, 도 52의 데이터 전송 시스템(1100)에 있어서의 방송국(1101) 및 단말 장치(1102), 및 도 53의 촬상 시스템(1200)에 있어서의 촬상 장치(1201) 및 스케일러블 부호화 데이터 기억 장치(1202) 등에도 내장할 수 있다. 비디오 세트(1300)를 내장함으로써, 그 장치는, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
또한, 상술한 비디오 세트(1300)의 각 구성의 일부여도, 비디오 프로세서(1332)를 포함하는 것이라면, 본 기술을 적용한 구성으로서 실시할 수 있다. 예를 들어, 비디오 프로세서(1332)만을 본 기술을 적용한 비디오 프로세서로서 실시할 수 있다. 또한, 예를 들어, 상술한 바와 같이 점선(1341)에 의해 나타나는 프로세서나 비디오 모듈(1311) 등을 본 기술을 적용한 프로세서나 모듈 등으로서 실시할 수 있다. 또한, 예를 들어, 비디오 모듈(1311), 외부 메모리(1312), 파워 매니지먼트 모듈(1313), 및 프론트엔드 모듈(1314)을 조합하여, 본 기술을 적용한 비디오 유닛(1361)으로서 실시할 수도 있다. 어느 구성의 경우에도, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
즉, 비디오 프로세서(1332)를 포함하는 것이라면 어떤 구성이어도, 비디오 세트(1300)의 경우와 마찬가지로, 화상 데이터를 처리하는 각종 장치에 내장할 수 있다. 예를 들어, 비디오 프로세서(1332), 점선(1341)에 의해 나타나는 프로세서, 비디오 모듈(1311), 또는, 비디오 유닛(1361)을 텔레비전 장치(900)(도 47), 휴대 전화기(920)(도 48), 기록 재생 장치(940)(도 49), 촬상 장치(960)(도 50), 도 51의 데이터 전송 시스템(1000)에 있어서의 퍼스널 컴퓨터(1004), AV 기기(1005), 태블릿 디바이스(1006), 및 휴대 전화기(1007) 등의 단말 장치, 도 52의 데이터 전송 시스템(1100)에 있어서의 방송국(1101) 및 단말 장치(1102), 및 도 53의 촬상 시스템(1200)에 있어서의 촬상 장치(1201) 및 스케일러블 부호화 데이터 기억 장치(1202) 등에 내장할 수 있다. 그리고, 본 기술을 적용한 어느 하나의 구성을 내장함으로써, 그 장치는, 비디오 세트(1300)의 경우와 마찬가지로, 도 1 내지 도 42를 참조하여 상술한 효과와 동일한 효과를 얻을 수 있다.
또한, 본 명세서에서는, 각종 정보가, 부호화 스트림에 다중화되어서, 부호화측으로부터 복호측으로 전송되는 예에 대하여 설명하였다. 그러나, 이들 정보를 전송하는 방법은 이러한 예에 한정되지 않는다. 예를 들어, 이들 정보는, 부호화 비트 스트림에 다중화되는 경우는 없고, 부호화 비트 스트림과 관련지어진 별개의 데이터로서 전송되거나 또는 기록되어도 된다. 여기서, 「관련짓는다」라고 하는 용어는, 비트 스트림에 포함되는 화상(슬라이스 혹은 블록 등, 화상의 일부여도 된다)과 그 화상에 대응하는 정보를 복호 시에 링크시킬 수 있도록 하는 것을 의미한다. 즉, 정보는, 화상(또는 비트 스트림)과는 다른 전송로 상에서 전송되어도 된다. 또한, 정보는, 화상(또는 비트 스트림)과는 다른 기록 매체(또는 동일한 기록 매체의 다른 기록 에리어)에 기록되어도 된다. 또한, 정보와 화상(또는 비트 스트림)은, 예를 들어, 복수 프레임, 1 프레임, 또는 프레임 내의 일부분 등이 임의의 단위로 서로 관련지어져도 된다.
또한, 본 기술은 이하와 같은 구성도 취할 수 있다.
(1) 화상 데이터를 부호화하는 부호화부와,
상기 화상 데이터의 화상의, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 설정하는 복호 부하 정의 정보 설정부와,
상기 부호화부에 의해 생성된 상기 화상 데이터의 부호화 데이터와, 상기 복호 부하 정의 정보 설정부에 의해 설정된 상기 복호 부하 정의 정보를 전송하는 전송부
를 구비하는 화상 부호화 장치.
(2) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(1), (3) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(3) 상기 복호 부하 정의 정보는, 상기 부분 영역의 크기를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(1), (2), (4) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(4) 상기 복호 부하 정의 정보는, 상기 부분 영역의, 세로 방향의 길이를 나타내는 정보와 가로 방향의 길이를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(1) 내지 (3), (5) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(5) 상기 복호 부하 정의 정보는, 상기 부분 영역을 복호하는 가상 참조 디코더의 최대 입력 비트 레이트 및 버퍼 용량을 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(1) 내지 (4), (6) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(6) 상기 복호 부하 정의 정보는, 복수의 상기 부분 영역에 공통의, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(1) 내지 (5), (7) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(7) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 각 레벨에 대응하는 상기 부분 영역의 세로 방향 크기와 가로 방향의 크기를 정의하는 정보를 포함하는
(1) 내지 (6), (8) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(8) 상기 복호 부하 정의 정보는, 상기 화상 내에 있어서의 상기 복호 처리의 부하의 크기를 나타내는 레벨의 최댓값을 정의하는 정보를 포함하는
(1) 내지 (7), (9) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(9) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하고,
상기 복호 부하 정의 정보 설정부는, 상기 레벨에서의 파라미터를, 상기 부분 영역을 포함하는 소정의 영역에 대하여 규정하고, 상기 화상 단위로의 규정에 할당하는
(1) 내지 (8), (10) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(10) 상기 복호 부하 정의 정보 설정부는, 독립적으로 복호할 수 있는 부분 영역의 SEI(Supplemental Enhancement Information)에, 상기 부분 영역마다 상기 복호 부하 정의 정보를 설정하는
(1) 내지 (9), (11) 내지 (13) 중 어느 하나에 기재된 화상 부호화 장치.
(11) 상기 화상 데이터는 복수 레이어를 포함하고,
상기 복호 부하 정의 정보 설정부는, 상기 SEI에, 상기 복수 레이어의 상기 복호 부하 정의 정보를 설정하는
(1) 내지 (10), (12), (13) 중 어느 하나에 기재된 화상 부호화 장치.
(12) 상기 복호 부하 정의 정보 설정부는, 또한, 시퀀스 파라미터 세트(SPS(Sequence Parameter Set))에, 상기 SEI에 상기 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보나, 혹은, 상기 SEI로 설정되는 상기 복호 부하 정의 정보와 동일한 복호 부하 정의 정보를 설정하는
(1) 내지 (11), (13) 중 어느 하나에 기재된 화상 부호화 장치.
(13) 상기 복호 부하 정의 정보는, 기준으로 하는 상기 부분 영역의 크기를 나타내는 정보와, 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을 포함하는
(1) 내지 (12) 중 어느 하나에 기재된 화상 부호화 장치.
(14) 화상 데이터를 부호화하고,
상기 화상 데이터의 화상의, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 설정하고,
생성된 상기 화상 데이터의 부호화 데이터와, 설정된 상기 복호 부하 정의 정보를 전송하는
화상 부호화 방법.
(15) 화상 데이터의 부호화 데이터와, 상기 화상 데이터의 화상의, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하는 취득부와,
상기 취득부에 의해 취득된 상기 복호 부하 정의 정보를 해석하는 해석부와,
상기 해석부에 의한 상기 복호 부하 정의 정보의 해석 결과에 기초하여 상기 취득부에 의해 취득된 상기 부호화 데이터의 복호를 제어하는 제어부와,
상기 제어부에 의한 제어에 따라, 상기 취득부에 의해 취득된 상기 부호화 데이터를 복호하는 복호부
를 구비하는 화상 복호 장치.
(16) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(15), (17) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(17) 상기 복호 부하 정의 정보는, 상기 부분 영역의 크기를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(15), (16), (18) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(18) 상기 복호 부하 정의 정보는, 상기 부분 영역의, 세로 방향의 길이를 나타내는 정보와 가로 방향의 길이를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(15) 내지 (17), (19) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(19) 상기 복호 부하 정의 정보는, 상기 부분 영역을 복호하는 가상 참조 디코더의 최대 입력 비트 레이트 및 버퍼 용량을 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(15) 내지 (18), (20) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(20) 상기 복호 부하 정의 정보는, 복수의 상기 부분 영역에 공통의, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(15) 내지 (19), (21) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(21) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 각 레벨에 대응하는 상기 부분 영역의 세로 방향 크기와 가로 방향의 크기를 정의하는 정보를 포함하는
(15) 내지 (20), (22) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(22) 상기 복호 부하 정의 정보는, 상기 화상 내에 있어서의 상기 복호 처리의 부하의 크기를 나타내는 레벨의 최댓값을 정의하는 정보를 포함하는
(15) 내지 (21), (23) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(23) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하고,
상기 제어부는, 상기 부분 영역을 포함하는 소정의 영역에 대하여 규정되고, 상기 화상 단위로의 규정에 할당된 상기 레벨에서의 파라미터를 사용하여, 상기 부호화 데이터의 복호를 제어하는
(15) 내지 (22) (24) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(24) 상기 해석부는, 독립적으로 복호할 수 있는 부분 영역의 SEI(Supplemental Enhancement Information)에, 상기 부분 영역마다 설정된 상기 복호 부하 정의 정보를 해석하는
(15) 내지 (23), (25) 내지 (27) 중 어느 하나에 기재된 화상 복호 장치.
(25) 상기 화상 데이터는 복수 레이어를 포함하고,
상기 해석부는, 상기 SEI로 설정된 상기 복수 레이어의 상기 복호 부하 정의 정보를 해석하는
(15) 내지 (24), (26), (27) 중 어느 하나에 기재된 화상 복호 장치.
(26) 상기 해석부는, 또한, 시퀀스 파라미터 세트(SPS(Sequence Parameter Set))로 설정된, 상기 SEI에 상기 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보, 혹은, 상기 SEI로 설정되는 상기 복호 부하 정의 정보와 동일한 복호 부하 정의 정보를 해석하는
(15) 내지 (25), (27) 중 어느 하나에 기재된 화상 복호 장치.
(27) 상기 복호 부하 정의 정보는, 기준으로 하는 상기 부분 영역의 크기를 나타내는 정보와, 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을 포함하는
(15) 내지 (26) 중 어느 하나에 기재된 화상 복호 장치.
(28) 화상 데이터의 부호화 데이터와, 상기 화상 데이터의 화상의, 독립적으로 복호할 수 있는 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하고,
취득된 상기 복호 부하 정의 정보를 해석하고,
상기 복호 부하 정의 정보의 해석 결과에 기초하여 취득된 상기 부호화 데이터의 복호를 제어하고,
그 제어에 따라, 취득된 상기 부호화 데이터를 복호하는
화상 복호 방법.
(31) 화상 데이터의 부호화 데이터와, 상기 화상 데이터의 화상의, 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하는 취득부와,
상기 취득부에 의해 취득된 상기 복호 부하 정의 정보에 기초하여 상기 취득부에 의해 취득된 상기 부호화 데이터의 복호를 제어하는 제어부와,
상기 제어부에 의한 제어에 따라, 상기 취득부에 의해 취득된 상기 부호화 데이터를 복호하는 복호부
를 구비하는 화상 복호 장치.
(32) 상기 부분 영역은, 독립적으로 복호할 수 있는
(31)에 기재된 화상 복호 장치.
(33) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(31) 또는 (32)에 기재된 화상 복호 장치.
(34) 상기 복호 부하 정의 정보는, 상기 부분 영역의 크기를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(31) 내지 (33) 중 어느 하나에 기재된 화상 복호 장치.
(35) 상기 복호 부하 정의 정보는, 상기 부분 영역의, 세로 방향의 길이를 나타내는 정보와 가로 방향의 길이를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(31) 내지 (34) 중 어느 하나에 기재된 화상 복호 장치.
(36) 상기 복호 부하 정의 정보는, 독립적으로 복호할 수 있는 부분 영역의 SEI(Supplemental Enhancement Information)에 포함되는
(31) 내지 (35) 중 어느 하나에 기재된 화상 복호 장치.
(37) 상기 화상 데이터는 복수 레이어를 포함하고,
상기 복수 레이어의 상기 복호 부하 정의 정보는, 상기 SEI에 포함되는
(31) 내지 (36) 중 어느 하나에 기재된 화상 복호 장치.
(38) 상기 복호 부하 정의 정보는, 기준으로 하는 상기 부분 영역의 크기를 나타내는 정보와, 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을 포함하는
(31) 내지 (37) 중 어느 하나에 기재된 화상 복호 장치.
(39) 상기 부분 영역은, 타일인
(31) 내지 (38) 중 어느 하나에 기재된 화상 복호 장치.
(40) 상기 부분 영역은, 복수의 타일의 집합인
(31) 내지 (39) 중 어느 하나에 기재된 화상 복호 장치.
(41) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역 중에서, 최대의 복호 처리의 부하의 크기를 정의하는 정보를 포함하는
(31) 내지 (40) 중 어느 하나에 기재된 화상 복호 장치.
(42) 상기 복호 부하 정의 정보는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역에 공통인 부하의 크기를 정의하는 정보를 포함하는
(31) 내지 (41) 중 어느 하나에 기재된 화상 복호 장치.
(43) 상기 픽처에 포함되는 복수의 상기 부분 영역이 L자형인 경우, 상기 L자형을 내포하는 사각형의 영역에 대하여 상기 부하의 크기를 정의하는
(31) 내지 (42) 중 어느 하나에 기재된 화상 복호 장치.
(44) 상기 취득부는, 또한 상기 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보를 취득하고, 상기 취득된 정보가, 상기 복호 부하 정의 정보가 설정되어 있는 것을 나타내는 경우에, 상기 상기 복호 부하 정의 정보를 취득하는
(31) 내지 (43) 중 어느 하나에 기재된 화상 복호 장치.
(45) 화상 데이터의 부호화 데이터와, 상기 화상 데이터의 화상의, 부분 영역의 복호 처리의 부하의 크기를 정의하는 복호 부하 정의 정보를 취득하고,
취득된 상기 복호 부하 정의 정보에 기초하여 취득된 상기 부호화 데이터의 복호를 제어하고,
그 제어에 따라, 취득된 상기 부호화 데이터를 복호하는
화상 복호 방법.
100: 화상 부호화 장치
101: 베이스 레이어 화상 부호화부
102: 인핸스먼트 레이어 화상 부호화부
103: 다중화부
104: 제어부
128: 헤더 정보 생성부
148: 헤더 정보 생성부
151: 복호 부하 관련 정보 취득부
152: MCTS SEI 생성부
153: SPS 생성부
200: 화상 복호 장치
201: 역다중화부
202: 베이스 레이어 화상 복호부
203: 인핸스먼트 레이어 화상 복호부
204: 제어부
224: 헤더 정보 해석부
244: 헤더 정보 해석부
251: 헤더 정보 취득부
252: SPS 해석부
253: MCTS SEI 해석부
254: 레벨 특정부
255: 제공부

Claims (32)

  1. 화상에 대하여 기준이 되는 부분 영역의 크기를 나타내는 정보와 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨에 기초하여, 상기 화상을 부호화한 부호화 데이터의 복호를 제어하는 제어부와,
    상기 제어부에 의한 제어에 따라, 상기 부호화 데이터를 복호하는 복호부
    를 구비하는 화상 복호 장치.
  2. 제1항에 있어서, 상기 부분 영역은, 독립적으로 복호할 수 있는
    화상 복호 장치.
  3. 제1항에 있어서, 상기 제어부는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  4. 제1항에 있어서, 상기 제어부는, 상기 부분 영역의 크기를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  5. 제1항에 있어서, 상기 제어부는, 상기 부분 영역의, 세로 방향의 길이를 나타내는 정보와 가로 방향의 길이를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  6. 제1항에 있어서, 상기 부분 영역의 크기를 나타내는 정보와 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을, 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 복호 부하 정의 정보로서 취득하는 취득부를 더 구비하고,
    상기 제어부는, 상기 취득부에 의해 취득된 복호 부하 정의 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  7. 제6항에 있어서, 상기 취득부는, 상기 복호 부하 정의 정보를, 상기 부호화 데이터의 보조 정보로서 취득하는
    화상 복호 장치.
  8. 제7항에 있어서, 상기 취득부는, 상기 복호 부하 정의 정보를, 독립적으로 복호할 수 있는 부분 영역의 SEI(Supplemental Enhancement Information)로서 취득하는
    화상 복호 장치.
  9. 제8항에 있어서, 상기 화상 데이터는 복수 레이어를 포함하고,
    상기 취득부는, 상기 복수 레이어의 상기 복호 부하 정의 정보를, 상기 SEI로서 취득하는
    화상 복호 장치.
  10. 제1항에 있어서, 상기 부분 영역은, 타일인
    화상 복호 장치.
  11. 제1항에 있어서, 상기 부분 영역은, 복수의 타일의 집합인
    화상 복호 장치.
  12. 제1항에 있어서, 상기 제어부는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역 중에서 최대의 복호 처리의 부하의 크기를 정의하는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  13. 제1항에 있어서, 상기 제어부는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역에 공통인 부하의 크기를 정의하는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  14. 제13항에 있어서, 상기 제어부는, 상기 픽처에 포함되는 복수의 상기 부분 영역이 L자형인 경우, 상기 L자형을 내포하는 사각형의 영역에 대하여 상기 부하의 크기를 정의하는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  15. 제1항에 있어서, 상기 제어부는, 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보를 사용하여, 상기 부호화 데이터의 복호를 제어하는
    화상 복호 장치.
  16. 화상에 대하여 기준이 되는 부분 영역의 크기를 나타내는 정보와 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨에 기초하여, 상기 화상을 부호화한 부호화 데이터의 복호를 제어하고,
    상기 제어에 따라, 상기 부호화 데이터를 복호하는
    화상 복호 방법.
  17. 화상을 부호화하는 부호화부와,
    상기 화상에 대하여 기준이 되는 부분 영역의 크기를 나타내는 정보와 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을 설정하는 설정부
    를 구비하는 화상 부호화 장치.
  18. 제17항에 있어서, 상기 부분 영역은, 독립적으로 복호할 수 있는
    화상 부호화 장치.
  19. 제17항에 있어서, 상기 설정부는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 생성하는
    화상 부호화 장치.
  20. 제17항에 있어서, 상기 설정부는, 상기 부분 영역의 크기를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 생성하는
    화상 부호화 장치.
  21. 제17항에 있어서, 상기 설정부는, 상기 부분 영역의, 세로 방향의 길이를 나타내는 정보와 가로 방향의 길이를 나타내는 정보에 의해 상기 부분 영역의 복호 처리의 부하의 크기를 정의하는 정보를 생성하는
    화상 부호화 장치.
  22. 제17항에 있어서, 상기 부분 영역의 크기를 나타내는 정보와 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을, 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 복호 부하 정의 정보로서 전송하는 전송부를 더 구비하는
    화상 부호화 장치.
  23. 제22항에 있어서, 상기 전송부는, 상기 복호 부하 정의 정보를, 상기 부호화부에 의해 얻어지는 상기 화상을 부호화한 부호화 데이터의 보조 정보로서 전송하는
    화상 부호화 장치.
  24. 제23항에 있어서, 상기 전송부는, 상기 복호 부하 정의 정보를, 독립적으로 복호할 수 있는 부분 영역의 SEI(Supplemental Enhancement Information)로서 전송하는
    화상 부호화 장치.
  25. 제24항에 있어서, 상기 화상 데이터는 복수 레이어를 포함하고,
    상기 전송부는, 상기 복수 레이어의 상기 복호 부하 정의 정보를, 상기 SEI로서 전송하는
    화상 부호화 장치.
  26. 제17항에 있어서, 상기 부분 영역은, 타일인
    화상 부호화 장치.
  27. 제17항에 있어서, 상기 부분 영역은, 복수의 타일의 집합인
    화상 부호화 장치.
  28. 제17항에 있어서, 상기 설정부는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역 중에서 최대의 복호 처리의 부하의 크기를 정의하는 정보를 생성하는
    화상 부호화 장치.
  29. 제17항에 있어서, 상기 설정부는, 상기 복호 처리의 부하의 크기를 나타내는 레벨에 의해, 상기 화상 데이터의 픽처에 포함되는 복수의 부분 영역에 공통인 부하의 크기를 정의하는 정보를 생성하는
    화상 부호화 장치.
  30. 제29항에 있어서, 상기 설정부는, 상기 픽처에 포함되는 복수의 상기 부분 영역이 L자형인 경우, 상기 L자형을 내포하는 사각형의 영역에 대하여 상기 부하의 크기를 정의하는 정보를 생성하는
    화상 부호화 장치.
  31. 제17항에 있어서, 상기 설정부는, 복호 부하 정의 정보가 설정되어 있는지를 나타내는 정보를 생성하는
    화상 부호화 장치.
  32. 화상을 부호화하고,
    상기 화상에 대하여 기준이 되는 부분 영역의 크기를 나타내는 정보와 상기 부분 영역의 복호 처리의 부하의 크기를 나타내는 레벨을 설정하는
    화상 부호화 방법.
KR1020157035887A 2013-07-12 2014-07-09 화상 복호 장치 및 방법 KR102296853B1 (ko)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JPJP-P-2013-147088 2013-07-12
JP2013147088 2013-07-12
JPJP-P-2013-153479 2013-07-24
JP2013153479 2013-07-24
JPJP-P-2013-214206 2013-10-11
JP2013214206 2013-10-11
PCT/JP2014/068259 WO2015005367A1 (ja) 2013-07-12 2014-07-09 画像復号装置および方法

Publications (2)

Publication Number Publication Date
KR20160031461A KR20160031461A (ko) 2016-03-22
KR102296853B1 true KR102296853B1 (ko) 2021-09-01

Family

ID=52280045

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157035887A KR102296853B1 (ko) 2013-07-12 2014-07-09 화상 복호 장치 및 방법

Country Status (9)

Country Link
US (3) US11218710B2 (ko)
EP (1) EP3021580A4 (ko)
JP (3) JP6358475B2 (ko)
KR (1) KR102296853B1 (ko)
CN (2) CN106210746B (ko)
BR (1) BR112016000132B1 (ko)
RU (1) RU2669685C2 (ko)
SG (2) SG10201604902PA (ko)
WO (1) WO2015005367A1 (ko)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3008896B1 (en) * 2013-07-15 2021-03-31 Sony Corporation Extensions of motion-constrained tile sets sei message for interactivity
KR102304687B1 (ko) * 2013-07-22 2021-09-27 소니그룹주식회사 정보 처리 장치 및 방법
JP6692087B2 (ja) * 2013-12-27 2020-05-13 サン パテント トラスト 配信方法、およびシステム
EP3035326B1 (en) * 2014-12-19 2019-07-17 Alcatel Lucent Encoding, transmission , decoding and displaying of oriented images
KR101724555B1 (ko) * 2014-12-22 2017-04-18 삼성전자주식회사 부호화 방법 및 장치와 복호화 방법 및 장치
JP6468847B2 (ja) * 2015-01-07 2019-02-13 キヤノン株式会社 画像復号装置、画像復号方法、及びプログラム
AU2015207825A1 (en) * 2015-07-28 2017-02-16 Canon Kabushiki Kaisha Method, apparatus and system for encoding video data for selected viewing conditions
US10419768B2 (en) * 2016-03-30 2019-09-17 Qualcomm Incorporated Tile grouping in HEVC and L-HEVC file formats
US10764575B2 (en) * 2017-03-03 2020-09-01 Qualcomm Incorporated Coding MCTS-nested SEI messages to exclude other SEI messages that are not MCTS-nested
CN111837396B (zh) 2018-04-03 2023-05-09 华为技术有限公司 基于子图像码流视角相关视频编码中的误差抑制
JPWO2019198523A1 (ja) * 2018-04-11 2021-05-13 ソニーグループ株式会社 画像処理装置および方法
JP7141280B2 (ja) * 2018-09-03 2022-09-22 株式会社三共 スロットマシン
JP2020150338A (ja) 2019-03-11 2020-09-17 キヤノン株式会社 画像復号装置、画像復号方法、及びプログラム
US11330030B2 (en) 2019-07-25 2022-05-10 Dreamworks Animation Llc Network resource oriented data communication
US11785239B2 (en) * 2021-06-29 2023-10-10 Tencent America LLC Independent coded region output supplementary enhancement information message

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013102298A (ja) 2011-11-07 2013-05-23 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2400487C (en) 1997-09-19 2004-01-20 Sharp Kabushiki Kaisha Image decoder
US6552722B1 (en) * 1998-07-17 2003-04-22 Sensable Technologies, Inc. Systems and methods for sculpting virtual objects in a haptic virtual reality environment
US6847736B2 (en) * 2000-03-28 2005-01-25 Canon Kabushiki Kaisha In image compression, selecting field or frame discrete wavelet transformation based on entropy, power, or variances from the high frequency subbands
JP2001285865A (ja) * 2000-03-28 2001-10-12 Canon Inc 画像処理装置及びその方法、コンピュータ可読メモリ
JP2003224846A (ja) 2002-01-29 2003-08-08 Matsushita Electric Ind Co Ltd 画像処理装置、復号化装置、符号化装置、画像処理システム、画像処理方法、及び、符号化方法
US7029467B2 (en) * 2002-07-16 2006-04-18 Edwards Lifesciences Corporation Multiple lumen catheter having a soft tip
US7386176B2 (en) * 2002-11-15 2008-06-10 Ricoh Company, Ltd. Image sending apparatus and image receiving apparatus for sending and receiving code sequence data
US20050254575A1 (en) 2004-05-12 2005-11-17 Nokia Corporation Multiple interoperability points for scalable media coding and transmission
JP2006033507A (ja) * 2004-07-16 2006-02-02 Sony Corp 遠隔編集システム、主編集装置、遠隔編集装置、編集方法、編集プログラム、及び記憶媒体
JP4825524B2 (ja) * 2006-01-31 2011-11-30 株式会社東芝 動画像復号装置および動画像復号方法
JP4585479B2 (ja) * 2006-03-30 2010-11-24 株式会社東芝 サーバ装置および映像配信方法
JP2008042566A (ja) 2006-08-07 2008-02-21 Toshiba Corp 情報処理装置および情報処理装置のデコード制御方法
JP2009124209A (ja) * 2007-11-12 2009-06-04 Sony Corp 情報処理装置および方法
US8285068B2 (en) * 2008-06-25 2012-10-09 Cisco Technology, Inc. Combined deblocking and denoising filter
JP2010244316A (ja) * 2009-04-07 2010-10-28 Sony Corp 符号化装置および方法、並びに、復号装置および方法
JP5158000B2 (ja) * 2009-04-07 2013-03-06 ソニー株式会社 情報処理装置および方法
TW201116041A (en) * 2009-06-29 2011-05-01 Sony Corp Three-dimensional image data transmission device, three-dimensional image data transmission method, three-dimensional image data reception device, three-dimensional image data reception method, image data transmission device, and image data reception
CN101656885B (zh) 2009-09-17 2011-12-07 中兴通讯股份有限公司 多核处理器中并行解码的方法和装置
JP5159927B2 (ja) * 2011-07-28 2013-03-13 株式会社東芝 動画像復号装置及び動画像復号方法
US9161039B2 (en) * 2012-09-24 2015-10-13 Qualcomm Incorporated Bitstream properties in video coding
US9749627B2 (en) * 2013-04-08 2017-08-29 Microsoft Technology Licensing, Llc Control data for motion-constrained tile set
JP2015095733A (ja) * 2013-11-11 2015-05-18 キヤノン株式会社 画像伝送装置、画像伝送方法、及びプログラム
US9930340B2 (en) * 2014-06-20 2018-03-27 Qualcomm Incorporated Systems and methods for selectively performing a bitstream conformance check

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013102298A (ja) 2011-11-07 2013-05-23 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
S. Hattori, et al. HLS: Extensions to Motion-constrained tile sets SEI message. JCT-VC of ITU-T and ISO/IEC. JCTVC-N0117 Ver.1, Jul. 15, 2013, pp.1-3

Also Published As

Publication number Publication date
RU2015156212A3 (ko) 2018-04-25
BR112016000132A2 (ko) 2017-07-25
WO2015005367A1 (ja) 2015-01-15
RU2015156212A (ru) 2017-06-27
JP2020039153A (ja) 2020-03-12
RU2669685C2 (ru) 2018-10-12
SG11201600044QA (en) 2016-02-26
JP2018164300A (ja) 2018-10-18
CN105359522A (zh) 2016-02-24
US11812042B2 (en) 2023-11-07
CN106210746B (zh) 2019-10-11
JP6358475B2 (ja) 2018-07-18
JPWO2015005367A1 (ja) 2017-03-02
US20230388525A1 (en) 2023-11-30
EP3021580A4 (en) 2016-12-21
SG10201604902PA (en) 2016-08-30
BR112016000132B1 (pt) 2023-02-28
US20160173890A1 (en) 2016-06-16
US20220124354A1 (en) 2022-04-21
CN105359522B (zh) 2019-09-17
CN106210746A (zh) 2016-12-07
JP6780761B2 (ja) 2020-11-04
EP3021580A1 (en) 2016-05-18
KR20160031461A (ko) 2016-03-22
US11218710B2 (en) 2022-01-04
JP6642631B2 (ja) 2020-02-05

Similar Documents

Publication Publication Date Title
JP6780761B2 (ja) 画像符号化装置および方法
US11627309B2 (en) Image encoding device and method, and image decoding device and method
US9894362B2 (en) Image processing apparatus and method
US10412397B2 (en) Image processing device and method
WO2015137145A1 (ja) 画像符号化装置および方法、並びに画像復号装置および方法
WO2015098561A1 (ja) 復号装置および復号方法、並びに、符号化装置および符号化方法
US9930353B2 (en) Image decoding device and method
US20150312581A1 (en) Image processing device and method
WO2015053112A1 (ja) 復号装置および復号方法、並びに、符号化装置および符号化方法
KR102338766B1 (ko) 화상 부호화 장치 및 방법, 및 기록 매체
WO2014208326A1 (ja) 画像符号化装置および方法、並びに、画像復号装置および方法
US20150139310A1 (en) Image processing apparatus and image processing method
WO2015098563A1 (ja) 画像符号化装置および方法、並びに画像復号装置および方法
WO2014162916A1 (ja) 画像符号化装置および方法、並びに、画像復号装置および方法
US20160037184A1 (en) Image processing device and method

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant