KR20200088512A - 화상 처리 장치 및 방법 - Google Patents
화상 처리 장치 및 방법 Download PDFInfo
- Publication number
- KR20200088512A KR20200088512A KR1020207020340A KR20207020340A KR20200088512A KR 20200088512 A KR20200088512 A KR 20200088512A KR 1020207020340 A KR1020207020340 A KR 1020207020340A KR 20207020340 A KR20207020340 A KR 20207020340A KR 20200088512 A KR20200088512 A KR 20200088512A
- Authority
- KR
- South Korea
- Prior art keywords
- unit
- image
- motion vector
- encoding
- decoding
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/55—Motion estimation with spatial constraints, e.g. at image or region borders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Processing (AREA)
Abstract
본 발명은, 복수 뷰의 픽처를 병렬로 처리할 수 있도록 하는 화상 처리 장치 및 방법에 관한 것이다. LCU에서의 아래 4 라인은, 루프 필터를 위해 대기가 필요하게 되는데, 또한, 루프 필터의 대기 4 라인에서부터 위의 4 라인이, 움직임 보상의 interpolation filter에 필요하게 된다. 따라서, 베이스 뷰의 부호화에 대하여 디펜던트 뷰의 부호화를 2 라인 늦출 경우, 커런트 LCU 라인의 다음의 LCU 라인 중, 아래의 8 라인을 제외한 라인인 (LCU 사이즈-8) 라인까지, 디펜던트 뷰로부터의 참조가 가능하게 된다. 본 발명은, 예를 들어 화상 처리 장치에 적용할 수 있다.
Description
본 개시는, 화상 처리 장치 및 방법에 관한 것으로, 특히, 복수 뷰의 픽처를 병렬로 처리할 수 있도록 한 화상 처리 장치 및 방법에 관한 것이다.
최근 들어, 화상 정보를 디지털로서 취급하고, 그때, 효율이 높은 정보의 전송, 축적을 목적으로, 화상 정보 특유의 용장성을 이용하여, 이산 코사인 변환 등의 직교 변환과 움직임 보상에 의해 압축하는 부호화 방식을 채용하여 화상을 압축 부호화하는 장치가 보급되고 있다. 이 부호화 방식에는, 예를 들어 MPEG(Moving Picture Experts Group)나 H.264 및 MPEG-4 Part10(Advanced Video Coding, 이하, H.264/AVC라고 함) 등이 있다.
그리고, 현재, H.264/AVC보다 가일층 부호화 효율의 향상을 목적으로, ITU-T와 ISO/IEC의 공동의 표준화 단체인 JCTVC(Joint Collaboration Team-Video Coding)에 의해, HEVC(High Efficiency Video Coding)라고 불리는 부호화 방식의 표준화가 진행되고 있다(예를 들어, 비특허문헌 1 참조).
현시점에서의 HEVC의 드래프트에서는, 병행 처리 툴의 하나로서, 디펜던트 슬라이스(Dependent slice)가 채용되고 있다. 디펜던트 슬라이스를 사용함으로써 각 뷰의 픽처 단위의 병렬 디코드가 가능하다.
Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, Gary J. Sullivan, Thomas Wiegand, "High efficiency video coding(HEVC) text specification draft 8", JCTVC-J1003_d7, 2012. 7. 28
그러나, 디펜던트 슬라이스를 사용했다고 해도, 뷰간에는, 움직임 보상의 의존 관계가 있기 때문에, 복수의 뷰의 픽처를 병렬로 디코딩하는 것이 곤란하였다.
본 개시는, 이러한 상황을 감안하여 이루어진 것이며, 복수 뷰의 픽처를 병렬로 처리할 수 있는 것이다.
본 개시의 제1 측면의 화상 처리 장치는, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하는 수취부와, 상기 수취부에 의해 수취된 움직임 벡터 범위 제한 정보를 사용하여, 상기 수취부에 의해 수취된 부호화 스트림을 복호 처리하는 복호부를 구비한다.
상기 움직임 벡터 범위 제한 정보는, 상기 인터뷰 움직임 벡터의 범위에 Vertical 방향의 제한이 있는 것을 나타내는 플래그다.
상기 움직임 벡터 범위 제한 정보는, 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한을 나타내는 값이다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있으며, LCU 사이즈-8이다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, 루프 필터가 오프인 경우, LCU사이즈-4이다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 화상 포맷의 세로 해상도에 따라서 결정된다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 레벨에 따라서 결정된다.
상기 움직임 벡터 범위 제한 정보는, SPS(Sequence Parameter Set)에 설정되어 있다.
상기 움직임 벡터 범위 제한 정보는, VPS(Video Parameter Set)에 설정되어 있다.
상기 움직임 벡터 범위 제한 정보는, VUI(Video Usability Information)에 설정되어 있다.
상기 복호부는, 상기 수취부에 의해 수취된 움직임 벡터 범위 제한 정보를 복호 처리하고, 복호 처리한 움직임 벡터 범위 제한 정보를 사용하여, 상기 수취부에 의해 수취된 부호화 스트림을 복호 처리할 수 있다.
본 개시의 제1 화상 처리 방법은, 화상 처리 장치가, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하고, 수취된 움직임 벡터 범위 제한 정보를 사용하여, 수취된 부호화 스트림을 복호 처리한다.
본 개시의 제2 화상 처리 장치는, 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 설정하는 설정부와, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하고, 상기 부호화 스트림을 생성하는 부호화부와, 상기 부호화부에 의해 생성된 부호화 스트림과, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 전송하는 전송부를 구비한다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보로서, 상기 인터뷰 움직임 벡터의 범위에 Vertical 방향의 제한이 있는 것을 나타내는 플래그를 설정할 수 있다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보로서, 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한을 나타내는 값을 설정할 수 있다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, LCU 사이즈-8이다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, 루프 필터가 오프인 경우, LCU 사이즈-4이다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 화상 포맷의 세로 해상도에 따라서 결정된다.
상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 레벨에 따라서 결정된다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, SPS(Sequence Parameter Set)에 설정할 수 있다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, VPS(Video Parameter Set)에 설정한다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, VUI(Video Usability Information)에 설정한다.
상기 부호화부는, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 부호화 처리하고, 부호화 처리된 움직임 벡터 범위 제한 정보를 사용하여, 상기 화상 데이터를 부호화 처리하여, 상기 부호화 스트림을 생성할 수 있다.
본 개시의 제2 측면의 화상 처리 방법은, 화상 처리 장치가, 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 설정하고, 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하고, 생성된 부호화 스트림과, 설정된 움직임 벡터 범위 제한 정보를 전송한다.
본 개시의 제3 측면의 화상 처리 장치는, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 CTU(Coding Tree Unit) 라인수에 따라 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하는 수취부와, 상기 수취부에 의해 수취된 움직임 벡터 범위 제한 정보를 사용하여, 상기 수취부에 의해 수취된 부호화 스트림을 복호 처리하는 복호부를 구비한다.
상기 움직임 벡터 범위 제한 정보는, 상기 서로 다른 뷰로부터 지연되는 Vertical 방향의 CTU 라인수에 따라 설정되어 있다.
상기 Vertical 방향의 CTU 라인수는,
[수학식 3]
이다.
상기 움직임 벡터 범위 제한 정보는, SPS(Sequence Parameter Set)에 설정되어 있다.
본 개시의 제3 측면의 화상 처리 방법은, 화상 처리 장치가, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 CTU(Coding Tree Unit) 라인수에 따라 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하고, 수취된 움직임 벡터 범위 제한 정보를 사용하여, 수취된 부호화 스트림을 복호 처리한다.
본 개시의 제4 측면의 화상 처리 장치는, 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 CTU(Coding Tree Unit) 라인수에 따라 설정하는 설정부와, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하는 부호화부와, 상기 부호화부에 의해 생성된 부호화 스트림과, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 전송하는 전송부를 구비한다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, 상기 서로 다른 뷰로부터 지연되는 Vertical 방향의 CTU 라인수에 따라 설정할 수 있다.
상기 Vertical 방향의 CTU 라인수는,
[수학식 3]
이다.
상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, SPS(Sequence Parameter Set)에 설정할 수 있다.
본 개시의 제4 측면의 화상 처리 방법은, 화상 처리 장치가, 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 CTU(Coding Tree Unit) 라인수에 따라 설정하고, 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하고, 생성된 부호화 스트림과, 설정된 움직임 벡터 범위 제한 정보를 전송한다.
본 개시의 제1 측면에서는, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보가 수취된다. 그리고, 수취된 움직임 벡터 범위 제한 정보를 사용하여, 수취된 부호화 스트림이 복호 처리된다.
본 개시의 제2 측면에서는, 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가 설정된다. 그리고, 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림이 생성되고, 생성된 부호화 스트림과, 설정된 움직임 벡터 범위 제한 정보가 전송된다.
본 개시의 제3 측면에서는, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 CTU(Coding Tree Unit) 라인수에 따라 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보가 수취된다. 그리고, 수취된 움직임 벡터 범위 제한 정보를 사용하여, 수취된 부호화 스트림이 복호 처리된다.
본 개시의 제4 측면에서는, 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가 CTU(Coding Tree Unit) 라인수에 따라 설정되고, 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림이 생성된다. 그리고, 생성된 부호화 스트림과, 설정된 움직임 벡터 범위 제한 정보가 전송된다.
또한, 상술한 화상 처리 장치는, 독립된 장치이어도 되고, 하나의 화상 부호화 장치 또는 화상 복호 장치를 구성하고 있는 내부 블록이어도 된다.
본 개시의 제1 측면 및 제3 측면에 의하면, 화상을 복호할 수 있다. 특히, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
본 개시의 제2 측면 및 제4 측면에 의하면, 화상을 부호화할 수 있다. 특히, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
도 1은 본 기술을 적용한 다시점 화상 부호화 장치의 예를 나타내는 도이다.
도 2는 다시점 화상 부호화 장치의 주된 구성예를 도시하는 블록도이다.
도 3은 뷰 부호화부의 구성예를 도시하는 블록도이다.
도 4는 인터뷰 움직임 벡터의 탐색 범위의 제한에 대해서 설명하는 도이다.
도 5는 인터뷰 움직임 벡터의 탐색 범위의 제한에 대해서 설명하는 도이다.
도 6은 본 기술의 효과의 예를 나타내는 도이다.
도 7은 다시점 화상 부호화 처리를 설명하는 흐름도이다.
도 8은 부호화 처리를 설명하는 흐름도이다.
도 9는 디펜던트 뷰 화상의 부호화 처리를 설명하는 흐름도이다.
도 10은 본 기술을 적용한 다시점 화상 복호 장치의 예를 나타내는 도이다.
도 11은 다시점 화상 복호 장치의 주된 구성예를 도시하는 블록도이다.
도 12는 뷰 복호부의 구성예를 도시하는 블록도이다.
도 13은 다시점 화상 복호 처리를 설명하는 흐름도이다.
도 14는 복호 처리를 설명하는 흐름도이다.
도 15는 신택스의 예를 나타내는 도이다.
도 16은 신택스 부호화 처리의 예를 설명하는 흐름도이다.
도 17은 디펜던트 뷰 화상의 부호화 처리를 설명하는 흐름도이다.
도 18은 신택스의 예를 나타내는 도이다.
도 19는 신택스의 예를 나타내는 도이다.
도 20은 일반적인 화상 포맷에 대한 제약 값의 예를 나타내는 도이다.
도 21은 신택스의 예를 나타내는 도이다.
도 22는 신택스의 예를 나타내는 도이다.
도 23은 SHVC에 적용하는 경우에 필요한 제약에 대해서 설명하는 도이다.
도 24는 인터 레이어 예측 벡터=0의 제약에 대해서 설명하는 도이다.
도 25는 인터 레이어 예측 벡터가 1 화소 이하인 제약에 대해서 설명하는 도이다.
도 26은 인터 레이어 예측 벡터가 X 화소 이하인 제약에 대해서 설명하는 도이다.
도 27은 신택스의 다른 예(VPS_EXT)를 도시하는 도이다.
도 28은 스테레오 프로파일에서의 제약에 대해서 설명하는 도이다.
도 29는 신택스의 예를 나타내는 도이다.
도 30은 SPS_EXT와의 기술적인 차분을 설명하는 도이다.
도 31은 참고 문헌의 기술과의 기술적인 차분을 설명하는 도이다.
도 32는 신택스의 또 다른 예(VUI_EXT)를 도시하는 도이다.
도 33은 다른 참고 문헌의 기술에서의 신택스의 예를 나타내는 도이다.
도 34는 다른 참고 문헌의 기술에 대해서 설명하는 도이다.
도 35는 스테레오 프로파일에서의 제약에 대해서 설명하는 도이다.
도 36은 다른 참고 문헌의 기술과의 기술적인 차분을 설명하는 도이다.
도 37은 다시점 화상 부호화 방식의 예를 나타내는 도이다.
도 38은 개시를 적용한 다시점 화상 부호화 장치의 주된 구성예를 도시하는 도이다.
도 39는 본 개시를 적용한 다시점 화상 복호 장치의 주된 구성예를 도시하는 도이다.
도 40은 계층 화상 부호화 방식의 예를 나타내는 도이다.
도 41은 본 개시를 적용한 계층 화상 부호화 장치의 주된 구성예를 도시하는 도이다.
도 42는 본 개시를 적용한 계층 화상 복호 장치의 주된 구성예를 도시하는 도이다.
도 43은 컴퓨터의 주된 구성예를 도시하는 블록도이다.
도 44는 텔레비전 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 45는 휴대 전화기의 개략적인 구성의 일례를 나타내는 블록도이다.
도 46은 기록 재생 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 47은 촬상 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 48은 스케일러블 부호화 이용의 일례를 나타내는 블록도이다.
도 49는 스케일러블 부호화 이용의 다른 예를 나타내는 블록도이다.
도 50은 스케일러블 부호화 이용의 또 다른 예를 도시하는 블록도이다.
도 51은 비디오 세트의 개략적인 구성의 일례를 나타내는 블록도이다.
도 52는 비디오 프로세서의 개략적인 구성의 일례를 나타내는 블록도이다.
도 53은 비디오 프로세서의 개략적인 구성의 다른 예를 나타내는 블록도이다.
도 54는 콘텐츠 재생 시스템의 구성을 나타낸 설명도이다.
도 55는 콘텐츠 재생 시스템에서의 데이터의 흐름을 나타낸 설명도이다.
도 56은 MPD의 구체예를 나타낸 설명도이다.
도 57은 콘텐츠 재생 시스템의 콘텐츠 서버의 구성을 도시한 기능 블록도이다.
도 58은 콘텐츠 재생 시스템의 콘텐츠 재생 장치의 구성을 도시한 기능 블록도이다.
도 59는 콘텐츠 재생 시스템의 콘텐츠 서버의 구성을 도시한 기능 블록도이다.
도 60은 무선 통신 시스템의 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트다.
도 61은 무선 통신 시스템의 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트다.
도 62는 무선 통신 시스템의 각 장치에 의한 통신 처리에 있어서 송수신되는 프레임 포맷(frame format)의 구성예를 모식적으로 도시하는 도이다.
도 63은 무선 통신 시스템의 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트다.
도 2는 다시점 화상 부호화 장치의 주된 구성예를 도시하는 블록도이다.
도 3은 뷰 부호화부의 구성예를 도시하는 블록도이다.
도 4는 인터뷰 움직임 벡터의 탐색 범위의 제한에 대해서 설명하는 도이다.
도 5는 인터뷰 움직임 벡터의 탐색 범위의 제한에 대해서 설명하는 도이다.
도 6은 본 기술의 효과의 예를 나타내는 도이다.
도 7은 다시점 화상 부호화 처리를 설명하는 흐름도이다.
도 8은 부호화 처리를 설명하는 흐름도이다.
도 9는 디펜던트 뷰 화상의 부호화 처리를 설명하는 흐름도이다.
도 10은 본 기술을 적용한 다시점 화상 복호 장치의 예를 나타내는 도이다.
도 11은 다시점 화상 복호 장치의 주된 구성예를 도시하는 블록도이다.
도 12는 뷰 복호부의 구성예를 도시하는 블록도이다.
도 13은 다시점 화상 복호 처리를 설명하는 흐름도이다.
도 14는 복호 처리를 설명하는 흐름도이다.
도 15는 신택스의 예를 나타내는 도이다.
도 16은 신택스 부호화 처리의 예를 설명하는 흐름도이다.
도 17은 디펜던트 뷰 화상의 부호화 처리를 설명하는 흐름도이다.
도 18은 신택스의 예를 나타내는 도이다.
도 19는 신택스의 예를 나타내는 도이다.
도 20은 일반적인 화상 포맷에 대한 제약 값의 예를 나타내는 도이다.
도 21은 신택스의 예를 나타내는 도이다.
도 22는 신택스의 예를 나타내는 도이다.
도 23은 SHVC에 적용하는 경우에 필요한 제약에 대해서 설명하는 도이다.
도 24는 인터 레이어 예측 벡터=0의 제약에 대해서 설명하는 도이다.
도 25는 인터 레이어 예측 벡터가 1 화소 이하인 제약에 대해서 설명하는 도이다.
도 26은 인터 레이어 예측 벡터가 X 화소 이하인 제약에 대해서 설명하는 도이다.
도 27은 신택스의 다른 예(VPS_EXT)를 도시하는 도이다.
도 28은 스테레오 프로파일에서의 제약에 대해서 설명하는 도이다.
도 29는 신택스의 예를 나타내는 도이다.
도 30은 SPS_EXT와의 기술적인 차분을 설명하는 도이다.
도 31은 참고 문헌의 기술과의 기술적인 차분을 설명하는 도이다.
도 32는 신택스의 또 다른 예(VUI_EXT)를 도시하는 도이다.
도 33은 다른 참고 문헌의 기술에서의 신택스의 예를 나타내는 도이다.
도 34는 다른 참고 문헌의 기술에 대해서 설명하는 도이다.
도 35는 스테레오 프로파일에서의 제약에 대해서 설명하는 도이다.
도 36은 다른 참고 문헌의 기술과의 기술적인 차분을 설명하는 도이다.
도 37은 다시점 화상 부호화 방식의 예를 나타내는 도이다.
도 38은 개시를 적용한 다시점 화상 부호화 장치의 주된 구성예를 도시하는 도이다.
도 39는 본 개시를 적용한 다시점 화상 복호 장치의 주된 구성예를 도시하는 도이다.
도 40은 계층 화상 부호화 방식의 예를 나타내는 도이다.
도 41은 본 개시를 적용한 계층 화상 부호화 장치의 주된 구성예를 도시하는 도이다.
도 42는 본 개시를 적용한 계층 화상 복호 장치의 주된 구성예를 도시하는 도이다.
도 43은 컴퓨터의 주된 구성예를 도시하는 블록도이다.
도 44는 텔레비전 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 45는 휴대 전화기의 개략적인 구성의 일례를 나타내는 블록도이다.
도 46은 기록 재생 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 47은 촬상 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 48은 스케일러블 부호화 이용의 일례를 나타내는 블록도이다.
도 49는 스케일러블 부호화 이용의 다른 예를 나타내는 블록도이다.
도 50은 스케일러블 부호화 이용의 또 다른 예를 도시하는 블록도이다.
도 51은 비디오 세트의 개략적인 구성의 일례를 나타내는 블록도이다.
도 52는 비디오 프로세서의 개략적인 구성의 일례를 나타내는 블록도이다.
도 53은 비디오 프로세서의 개략적인 구성의 다른 예를 나타내는 블록도이다.
도 54는 콘텐츠 재생 시스템의 구성을 나타낸 설명도이다.
도 55는 콘텐츠 재생 시스템에서의 데이터의 흐름을 나타낸 설명도이다.
도 56은 MPD의 구체예를 나타낸 설명도이다.
도 57은 콘텐츠 재생 시스템의 콘텐츠 서버의 구성을 도시한 기능 블록도이다.
도 58은 콘텐츠 재생 시스템의 콘텐츠 재생 장치의 구성을 도시한 기능 블록도이다.
도 59는 콘텐츠 재생 시스템의 콘텐츠 서버의 구성을 도시한 기능 블록도이다.
도 60은 무선 통신 시스템의 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트다.
도 61은 무선 통신 시스템의 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트다.
도 62는 무선 통신 시스템의 각 장치에 의한 통신 처리에 있어서 송수신되는 프레임 포맷(frame format)의 구성예를 모식적으로 도시하는 도이다.
도 63은 무선 통신 시스템의 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트다.
이하, 본 개시를 실시하기 위한 형태(이하, 실시 형태라 함)에 대해서 설명한다. 또한, 설명은 이하의 순서로 행한다.
1. 제1 실시 형태(다시점 화상 부호화 장치)
2. 제2 실시 형태(다시점 화상 복호 장치)
3. 제3 실시 형태(신택스의 예)
4. 제4 실시 형태(제약 값의 다른 예)
5. 제5 실시 형태(스케일러블 HEVC의 경우의 제약 방법)
6. 제6 실시 형태(신택스의 다른 예)
7. 제7 실시 형태(CTU 라인에 의한 제약 방법)
8. 제8 실시 형태(다시점 화상 부호화 장치, 다시점 화상 복호 장치)
9. 제9 실시 형태(계층 화상 부호화 장치, 계층 화상 복호 장치)
10. 제10 실시 형태(컴퓨터)
11. 응용예
12. 스케일러블 부호화의 응용예
13. 제11 실시 형태(세트·유닛·모듈·프로세서)
14. MPEG-DASH의 콘텐츠 재생 시스템의 응용예
15. Wi-Fi 규격의 무선 통신 시스템의 응용예
<1. 제1 실시 형태>
[다시점 화상 부호화 장치의 구성예]
도 1은, 본 개시를 적용한 화상 처리 장치로서의 다시점 화상 부호화 장치의 일 실시 형태의 구성을 나타내고 있다.
도 1의 다시점 화상 부호화 장치(11)는, 촬영(Captured)된 다시점 화상 등의 촬영 화상을 HEVC 방식으로 부호화하여, 부호화 스트림을 생성한다. 생성된 부호화 스트림은, 후술하는 다시점 화상 복호 장치(211) 등에 전송된다.
도 2는, 도 1의 다시점 화상 부호화 장치의 구성예를 도시하는 블록도이다. 또한, 도 2의 예에서는, 베이스 뷰(시점)와 디펜던트 뷰(시점)를 포함하는 2 시점의 화상이 부호화되는 예가 나타나 있다. 이하, 베이스 뷰의 화상을, 베이스 뷰 화상이라고 칭하고, 디펜던트 뷰의 화상을, 디펜던트 뷰 화상이라고 칭한다.
도 2의 예에서, 다시점 화상 부호화 장치(11)는 신택스 부호화부(21), 타이밍 제어부(22), 베이스 뷰 부호화부(23), 디펜던트 뷰 부호화부(24), DPB(Decoded Picture Buffer)(25) 및 전송부(26)에 의해 구성되어 있다.
신택스 부호화부(21)는, 베이스 뷰 및 디펜던트 뷰의 SPS(Sequence Parameter Set), PPS(Picture Parameter Set), SEI(Supplemental Enhancement Information), 슬라이스 헤더 등의 부호화 스트림의 신택스를 순서대로 설정하여 부호화한다. 신택스 부호화부(21)는, 부호화한 신택스를, 전송부(26)에 공급한다.
특히, 신택스 부호화부(21)는, 신택스의 하나로서 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 interview_vector_v_range_restrict_flag를 설정한다. 인터뷰 움직임 벡터란, 뷰간에서 탐색된 움직임 벡터를 말한다. interview_vector_v_range_restrict_flag는, 디펜던트 뷰의 부호화(복호)에 있어서, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한이 있는 것을 나타내는 플래그다. interview_vector_v_range_restrict_flag는, 예를 들어 SPS에 설정된다. 또한, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보는, 플래그에 제한되지 않는다.
신택스 부호화부(21)는, 설정한 interview_vector_v_range_restrict_flag를, 타이밍 제어부(22) 및 디펜던트 뷰 부호화부(24)에 공급한다.
타이밍 제어부(22)는, 신택스 부호화부(21)로부터 공급되는 interview_vector_v_range_restrict_flag에 따라, 베이스 뷰 부호화부(23)로부터의 부호화 처리의 진척 정보를 참조하여, 베이스 뷰 화상의 부호화 처리와 디펜던트 뷰 화상의 부호화 처리의 타이밍을 제어하기 위한 제어 신호를 공급한다.
즉, 타이밍 제어부(22)는, 베이스 뷰 부호화부(23)의 부호화 처리를 개시시킨다. 그리고, 타이밍 제어부(22)는, 신택스 부호화부(21)로부터 공급되는 interview_vector_v_range_restrict_flag가 1(온)인 경우, 베이스 뷰 부호화부(23)의 부호화 처리가 소정의 LCU 라인까지 오면, 베이스 뷰 부호화부(23)와 디펜던트 뷰 부호화부(24)를 병렬로 동작시킨다.
한편, 타이밍 제어부(22)는, 신택스 부호화부(21)로부터 공급되는 interview_vector_v_range_restrict_flag가 0(오프)인 경우, 베이스 뷰 부호화부(23)의 부호화 처리의 종료를 기다려서, 디펜던트 뷰 부호화부(24)의 부호화 처리를 개시시킨다.
베이스 뷰 부호화부(23)에는, 베이스 뷰 화상이 입력된다. 베이스 뷰 부호화부(23)는, 외부로부터 부호화 대상으로서 입력되는 베이스 뷰 화상을 부호화하고, 그 결과 얻어지는 베이스 뷰 화상의 부호화 데이터를 전송부(26)에 공급한다. 또한, 베이스 뷰 부호화부(23)는, DPB(25)에 기억된 베이스 뷰의 디코드 화상으로부터, 부호화 대상의 화상을 부호화하기 위해서 참조하는 참조 픽처를 선택하고, 그것을 사용해서 화상의 부호화를 행한다. 그때에, 로컬 디코드한 결과의 디코드 화상은, DPB(25)에 일시 기억된다.
디펜던트 뷰 부호화부(24)에는, 디펜던트 뷰 화상이 입력된다. 디펜던트 뷰 부호화부(24)는, 외부로부터 부호화 대상으로서 입력되는 디펜던트 뷰 화상을 부호화하고, 그 결과 얻어지는 디펜던트 뷰 화상의 부호화 데이터를 전송부(26)에 공급한다. 또한, 디펜던트 뷰 부호화부(24)는, DPB(25)에 기억된 베이스 뷰 또는 디펜던트 뷰의 디코드 화상으로부터, 부호화 대상의 화상을 부호화하기 위해서 참조하는 참조 픽처를 선택하고, 그것을 사용해서 화상의 부호화를 행한다. 그때에, 로컬 디코드한 결과의 디코드 화상은, DPB(25)에 일시 기억된다.
특히, 디펜던트 뷰 부호화부(24)는, 신택스 부호화부(21)로부터 공급되는 interview_vector_v_range_restrict_flag가 온일 경우, 베이스 뷰의 디코드 화상에서의 탐색 범위의 Vertical의 정방향을 미리 설정된 값까지 제한하여, 디펜던트 뷰 화상의 커런트 블록의 인터뷰 움직임 벡터를 탐색한다.
DPB(25)는, 베이스 뷰 복호부(23) 및 디펜던트 뷰 부호화부(24) 각각에서 부호화 대상의 화상을 부호화하고, 로컬 디코드함으로써 얻어지는 로컬 디코드 후의 화상(디코드 화상)을 예측 화상의 생성시에 참조하는 참조 픽처(의 후보)로서 일시 기억한다.
DPB(25)는, 베이스 뷰 부호화부(23) 및 디펜던트 뷰 부호화부(24)에서 공용되므로, 베이스 뷰 부호화부(23) 및 디펜던트 뷰 부호화부(24) 각각은, 자신에게서 얻어진 디코드 화상 외에, 다른 뷰 부호화부에서 얻어진 디코드 화상도 참조할 수 있다. 단, 베이스 시점 화상을 부호화하는 베이스 뷰 부호화부(23)는, 동일한 시점(베이스 뷰)의 화상밖에 참조하지 않는다.
전송부(26)는, 신택스 부호화부(21)로부터의 신택스, 베이스 뷰 부호화부(23)로부터의 베이스 뷰의 부호화 데이터 및 디펜던트 뷰 부호화부(24)로부터의 디펜던트 뷰의 부호화 데이터를 다중화하여, 부호화 스트림을 생성한다.
[뷰 부호화부의 구성예]
도 3은, 베이스 뷰 부호화부(23)의 구성예를 도시하는 블록도이다. 또한, 디펜던트 뷰 부호화부(24)도 베이스 뷰 부호화부(23)와 기본적으로 마찬가지로 구성된다.
도 3에서, 베이스 뷰 부호화부(23)는, A/D(Analog/Digital) 변환부(111), 화면 재배열 버퍼(112), 연산부(113), 직교 변환부(114), 양자화부(115), 가변 길이 부호화부(116), 축적 버퍼(117), 역양자화부(118), 역직교 변환부(119), 연산부(120), 인루프 필터(121), 화면내 예측부(122), 인터 예측부(123) 및 예측 화상 선택부(124)를 갖는다.
A/D 변환부(111)에는, 부호화 대상의 화상(동화상)인 베이스 뷰의 화상 픽처가, 표시순으로 순차 공급된다.
A/D 변환부(111)는, 거기에 공급되는 픽처가, 아날로그 신호일 경우에는, 그 아날로그 신호를 A/D 변환하여, 화면 재배열 버퍼(112)에 공급한다.
화면 재배열 버퍼(112)는, A/D 변환부(111)로부터의 픽처를 일시 기억하고, 미리 결정된 GOP(Group of Pictures)의 구조에 따라 픽처를 판독함으로써, 픽처의 배열을, 표시순에서 부호화순(복호순)으로 재배열하는 재배열을 행한다.
화면 재배열 버퍼(112)로부터 판독된 픽처는, 연산부(113), 화면내 예측부(122) 및 인터 예측부(123)에 공급된다.
연산부(113)에는, 화면 재배열 버퍼(112)로부터, 픽처가 공급되는 것 외에, 예측 화상 선택부(124)로부터, 화면내 예측부(122), 또는, 인터 예측부(123)에서 생성된 예측 화상이 공급된다.
연산부(113)는, 화면 재배열 버퍼(112)로부터 판독된 픽처를, 부호화 대상의 픽처인 대상 픽처로 하고, 또한, 대상 픽처를 구성하는 매크로 블록(LCU)을 순차, 부호화 대상의 대상 블록으로 한다.
그리고, 연산부(113)는, 대상 블록의 화소값으로부터, 예측 화상 선택부(124)로부터 공급되는 예측 화상의 화소값을 감산한 감산 값을, 필요에 따라 연산함으로써 예측 부호화를 행하여, 직교 변환부(114)에 공급한다.
직교 변환부(114)는, 연산부(113)로부터의 대상 블록(의 화소값, 또는, 예측 화상이 감산된 잔차)에 대하여 이산 코사인 변환이나, 카루넨 루베 변환 등의 직교변환을 실시하고, 그 결과 얻어지는 변환 계수를, 양자화부(115)에 공급한다.
양자화부(115)는, 직교 변환부(114)로부터 공급되는 변환 계수를 양자화하고, 그 결과 얻어지는 양자화 값을, 가변 길이 부호화부(116)에 공급한다.
가변 길이 부호화부(116)는, 양자화부(115)로부터의 양자화 값에 대하여 가변 길이 부호화(예를 들어, CAVLC(Context-Adaptive Variable Length Coding) 등)나, 산술 부호화(예를 들어, CABAC(Context-Adaptive Binary Arithmetic Coding) 등) 등의 가역 부호화를 실시하고, 그 결과 얻어지는 부호화 데이터를, 축적 버퍼(117)에 공급한다.
또한, 가변 길이 부호화부(116)에는, 양자화부(115)로부터 양자화 값이 공급되는 것 외에, 화면내 예측부(122)나 인터 예측부(123)로부터, 부호화 데이터의 헤더에 포함하는 헤더 정보가 공급된다.
가변 길이 부호화부(116)는, 화면내 예측부(122)나 인터 예측부(123)로부터의 헤더 정보를 부호화하여, 부호화 데이터의 헤더에 포함한다.
축적 버퍼(117)는, 가변 길이 부호화부(116)로부터의 부호화 데이터를 일시 기억하고, 소정의 데이터 레이트로 출력한다.
축적 버퍼(117)로부터 출력된 부호화 데이터는, 도 1의 전송부(26)에 공급된다.
양자화부(115)에서 얻어진 양자화 값은, 가변 길이 부호화부(116)에 공급되는 것 외에, 역양자화부(118)에도 공급되고, 역양자화부(118), 역직교 변환부(119) 및 연산부(120)에서, 로컬 디코드가 행하여진다.
즉, 역양자화부(118)는, 양자화부(115)로부터의 양자화 값을, 변환 계수로 역양자화하여, 역직교 변환부(119)에 공급한다.
역직교 변환부(119)는, 역양자화부(118)로부터의 변환 계수를 역직교 변환하여, 연산부(120)에 공급한다.
연산부(120)는, 역직교 변환부(119)로부터 공급되는 데이터에 대하여 필요에 따라, 예측 화상 선택부(124)로부터 공급되는 예측 화상의 화소값을 가산함으로써, 대상 블록을 복호(로컬 디코드)한 디코드 화상을 얻어, 인루프 필터(121)에 공급한다.
인루프 필터(121)는, 예를 들어 디블로킹 필터로 구성된다. 또한, 예를 들어 HEVC 방식이 채용될 경우, 인루프 필터(121)는, 디블로킹 필터 및 적응 오프셋 필터(Sample Adaptive Offset: SAO)로 구성된다. 인루프 필터(121)는, 연산부(120)로부터의 디코드 화상을 필터링함으로써, 디코드 화상에 발생한 블록 왜곡을 제거(저감)하여, DPB(25)에 공급한다.
여기서, DPB(25)는, 인루프 필터(121)로부터의 디코드 화상, 즉, 베이스 뷰 부호화부(23)에서 부호화되어 로컬 디코드된 베이스 뷰의 화상을, 시간적으로 후에 행하여지는 예측 부호화(연산부(113)에서 예측 화상의 감산이 행하여지는 부호화)에 사용하는 예측 화상을 생성할 때에 참조하는 참조 픽처(의 후보)로서 기억한다.
도 2에서 상술한 바와 같이, DPB(25)는, 베이스 뷰 부호화부(23) 및 디펜던트 뷰 부호화부(24)에서 공용되므로, 베이스 뷰 부호화부(23)에서 부호화되어 로컬 디코드된 베이스 뷰의 화상 외에, 디펜던트 뷰 부호화부(24)에서 부호화되어 로컬 디코드된 디펜던트 뷰의 화상 등도 기억한다.
또한, 역양자화부(118), 역직교 변환부(119) 및 연산부(120)에 의한 로컬 디코드는, 예를 들어 참조 픽처가 되는 것이 가능한 참조 가능 픽처인 I 픽처, P 픽처 및 Bs 픽처를 대상으로서 행하여지고, DPB(25)에서는, I 픽처, P 픽처 및 Bs 픽처의 디코드 화상이 기억된다.
화면내 예측부(122) 및 인터 예측부(123)는, PU 단위로 움직임 예측을 행한다.
화면내 예측부(122)는, 대상 픽처가, 인트라 예측(화면 내 예측)될 수 있는 I 픽처, P 픽처, 또는, B 픽처(Bs 픽처를 포함함)일 경우에, DPB(25)로부터, 대상 픽처 중, 이미 로컬 디코드되어 있는 부분(디코드 화상)을 판독한다. 그리고, 화면내 예측부(122)는, DPB(25)로부터 판독한, 대상 픽처 중 디코드 화상의 일부를, 화면 재배열 버퍼(112)로부터 공급되는 대상 픽처의 대상 블록의 예측 화상으로 한다.
또한, 화면내 예측부(122)는, 예측 화상을 사용해서 대상 블록을 부호화하는 데 필요로 하는 부호화 비용, 즉, 대상 블록의, 예측 화상에 대한 잔차 등을 부호화하는 데 필요로 하는 부호화 비용을 구하여, 예측 화상과 함께, 예측 화상 선택부(124)에 공급한다.
인터 예측부(123)는, 대상 픽처가, 인터 예측될 수 있는 P 픽처, 또는, B 픽처(Bs 픽처를 포함함)일 경우에, DPB(25)로부터, 대상 픽처보다 전에 부호화되어서 로컬 디코드된 1 이상의 픽처를, 후보 픽처(참조 픽처의 후보)로서 판독한다.
또한, 인터 예측부(123)는, 화면 재배열 버퍼(112)로부터의 대상 픽처의 대상 블록과, 후보 픽처를 사용한 ME(Motion Estimation)(움직임 검출)에 의해, 대상 블록과, 후보 픽처의, 대상 블록에 대응하는 대응 블록(대상 블록과의 SAD(Sum of Absolute Differences)를 최소로 하는 블록)과의 어긋남으로서의 움직임을 나타내는 인터 움직임 벡터를 검출한다. 또한, 디펜던트 뷰 화상의 부호화에 있어서는, 인터 움직임 벡터에는, 시간적인 어긋남을 나타내는 움직임 벡터뿐만 아니라, 뷰간의 어긋남을 나타내는 인터뷰 움직임 벡터도 포함된다. 또한, 도 2의 신택스 부호화부(21)로부터 공급되는 interview_vector_v_range_restrict_flag가 온일 경우, 인터뷰 움직임 벡터의 Vertical 방향의 탐색 범위가 제한된다.
인터 예측부(123)는, 대상 블록의 인터 움직임 벡터에 따라, DPB(25)로부터의 후보 픽처의 움직임 분의 어긋남을 보상하는 움직임 보상을 행함으로써, 예측 화상을 생성한다.
즉, 인터 예측부(123)는, 후보 픽처의, 대상 블록의 위치로부터, 그 대상 블록의 움직임 벡터에 따라서 이동한(어긋난) 위치의 블록(영역)인 대응 블록을, 예측 화상으로서 취득한다.
또한, 인터 예측부(123)는, 대상 블록을, 예측 화상을 사용해서 부호화하는 데 필요로 하는 부호화 비용을, 예측 화상의 생성에 사용하는 후보 픽처나, 매크로 블록 타입이 서로 다른 인터 예측 모드마다 구한다.
그리고, 인터 예측부(123)는, 부호화 비용이 최소인 인터 예측 모드를, 최적의 인터 예측 모드인 최적 인터 예측 모드로 해서, 그 최적 인터 예측 모드에서 얻어진 예측 화상과 부호화 비용을, 예측 화상 선택부(124)에 공급한다. 또한, 디펜던트 뷰 화상의 부호화에 있어서는, 인터 예측 모드에는, 인터뷰 예측 모드도 포함된다.
예측 화상 선택부(124)는, 화면내 예측부(122) 및 인터 예측부(123) 각각으로부터의 예측 화상 중, 부호화 비용이 작은 쪽을 선택하여, 연산부(113) 및 (120)에 공급한다.
여기서, 화면내 예측부(122)는, 인트라 예측에 관한 정보를 헤더 정보로서, 가변 길이 부호화부(116)에 공급하고, 인터 예측부(123)는, 인터 예측에 관한 정보(움직임 벡터의 정보 등)를 헤더 정보로서, 가변 길이 부호화부(116)에 공급한다.
가변 길이 부호화부(116)는, 화면내 예측부(122) 및 인터 예측부(123) 각각으로부터의 헤더 정보 중, 부호화 비용이 작은 예측 화상이 생성된 쪽으로부터의 헤더 정보를 선택하여, 부호화 데이터의 헤더에 포함한다.
[본 기술의 개요]
이어서, 도 4를 참조하여, 본 기술에 의한 인터뷰 움직임 벡터의 탐색 범위의 제한에 대해서 설명한다.
HEVC에 있어서는, 병행 처리 툴의 하나로서, 디펜던트 슬라이스(Dependent slice)가 채용되어 있다. 디펜던트 슬라이스를 사용함으로써 각 뷰의 픽처 단위의 병렬 디코드가 가능하다.
그러나, 디펜던트 슬라이스를 사용했다고 해도, 뷰간에는, 움직임 보상의 의존 관계가 있기 때문에, 복수의 뷰의 픽처를 병렬로 디코딩하는 것이 곤란하였다.
또한, 예를 들어 스테레오 화상을 고려한 경우, 베이스 뷰 화상과 디펜던트 뷰 화상에서는, 가로의 라인은 어긋나 있지만, Vertical 방향의 어긋남은, 수 픽셀 단위의 어긋남 정도이며, 그다지 어긋나 있지 않다.
따라서, 본 기술에서는, 뷰간에서의 움직임 보상의 의존 관계, 즉, 인터뷰 움직임 벡터의 탐색 범위의 Vertical 방향(특히, Vertical의 정방향)의 제한을 설정함으로써, 복수의 뷰의 병렬 디코드 처리를 가능하게 한다.
도 4의 예에서는, 실선의 가로 라인은, 베이스 뷰에서의 LCU 라인을 나타내고 있고, LCU 라인간은, LCU 사이즈를 나타내고 있다. 또한, 위에서 2번째의 LCU 라인에서의 블록 PU1 및 PU2는, 디펜던트 뷰의 PU를 나타내고 있기 때문에, 점선으로 나타내고 있다.
디펜던트 뷰의 PU1의 LCU 라인을 디코딩하기 위해서는, 베이스 뷰에 있어서 동일한 LCU 라인은 적어도 디코딩하지 않으면 안되는데, 동일한 LCU 라인을 디코딩하기 위해서는, 하측의 LCU 경계인 4 라인에 루프 필터를 적용할 필요가 있다. 하측의 LCU 경계인 4 라인 중, 3 라인이 디블로킹 필터를 위한 라인이며, 1 라인은, 적응 루프 필터(SAO)를 위한 라인이다.
즉, 하측의 LCU 경계인 4 라인에 루프 필터를 적용하기 위해서는, 그 아래의 LCU 라인의 상측의 LCU 경계 4 라인의 디코드도 필요하게 된다.
따라서, 베이스 뷰의 부호화에 대하여, 디펜던트 뷰의 부호화를 2 라인 늦추면, 2 LCU Line delay가 나타나 있는 LCU 블록의 Vertical 방향의 위치까지는(즉, 커런트 PU가 속하는 LCU 라인의 다음의 LCU 라인의 LUC 사이즈로부터, 아래의 4 라인을 제외한(LCU 사이즈-4) 라인까지는), 디코드 완료가 되므로, 디펜던트 뷰로부터의 참조가 가능하게 된다.
반대로, 디펜던트 뷰로부터, 3 LCU Line delay가 나타나 있는 LCU의 Vertical 방향의 위치까지(즉, 커런트 PU가 속하는 LCU 라인의 다음의 LCU 라인까지) 참조 가능하게 되도록 하기 위해서는, 아래 4 라인의 루프 필터 대기가 필요하므로, 베이스 뷰의 부호화에 대하여 디펜던트 뷰의 부호화를 3 LCU 라인 늦출 필요가 있다.
또한, 도 4를 참조하여 상술한 바와 같이, LCU에서의 아래 4 라인은, 루프 필터를 위해 대기가 필요해지지만, 실제로는, 도 5에 도시되는 바와 같이, 루프 필터의 대기 4 라인으로부터 더 위의 4 라인은, 움직임 보상의 interpolation filter에 필요한 라인이다.
따라서, 베이스 뷰의 부호화에 대하여, 디펜던트 뷰의 부호화를 2 라인 늦출 경우, 실제로는, 커런트 LCU 라인의 다음의 LCU 라인의 LCU 사이즈로부터, 아래의 8 라인을 제외한(LCU사이즈-8) 라인까지는, 디펜던트 뷰로부터의 참조가 가능하게 된다. 즉, 이 경우, 인터뷰 움직임 벡터의 Vy 성분의 정방향의 최댓값은, LCU 사이즈-8이 된다.
또한, 다시점 화상 부호화 장치(11)에서 루프 필터가 오프로 설정되어 있는 경우에는, 도 4를 참조하여 상술한 루프 필터의 대기 4 라인을 기다릴 필요가 없으므로, 커런트 LCU 라인의 다음의 LCU 라인 중, 움직임 보상의 interpolation filter분의 4 라인을 제외한 라인까지, 인터뷰 움직임 벡터의 참조 범위가 제한된다.
이상과 같이, 인터뷰 움직임 벡터의 Vertical 방향의 참조 범위를 제한함으로써, 도 6에 도시된 바와 같이, 본 기술에서는, 베이스 뷰 화상의 디코드가 2 LCU 라인이 끝난 시점에서, 디펜던트 뷰 화상의 디코드를 개시할 수 있다.
즉, 종래 기술(HEVC)에서는, 베이스 뷰 화상의 디코드가 끝나지 않으면, 디펜던트 뷰 화상의 디코드가 개시되지 않았던 데 반해, 본 기술에서는, 베이스 뷰 화상의 2 LCU 라인째부터, 베이스 뷰 화상의 디코드와 디펜던트 뷰 화상의 디코드를 병렬 처리로 할 수 있다.
또한, 도 6의 예에서는, 디코드를 예로 들어 설명했지만, 인코드에서도 동일하다고 할 수 있다. 또한, 인코드에 있어서는, 참조 범위가 제한되므로, 인터뷰 움직임 벡터의 탐색 처리가 수월해진다.
[다시점 화상 부호화 장치의 동작]
이어서, 도 7의 흐름도를 참조하여, 도 1의 다시점 화상 부호화 장치(11)의 동작으로서, 다시점 화상 부호화 처리에 대해서 설명한다. 또한, 도 7의 예에서는, 베이스 뷰와 디펜던트 뷰의 부호화 처리 및 복호 처리의 지연은, 2 LCU 라인이며, 인터뷰 움직임 벡터의 Vy 성분의 정방향의 제한이 있을 경우에는, LCU 사이즈-8 이하로 제한되는 것이 미리 설정되어 있다고 하자. 또한, 뷰 처리간의 지연의 라인수나 인터뷰 움직임 벡터의 V 성분의 정방향의 제한 값은 일례이며, 상술한 값에 한정되지 않는다.
스텝 S11에서, 신택스 부호화부(21)는, 베이스 뷰 및 디펜던트 뷰의 신택스를 설정하여 부호화한다. 또한, 그때, 신택스 부호화부(21)는, 신택스의 하나로서 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 interview_vector_v_range_restrict_flag를 설정한다.
신택스 부호화부(21)는, 설정한 interview_vector_v_range_restrict_flag를, 타이밍 제어부(22) 및 디펜던트 뷰 부호화부(24)에 공급한다. 또한, 부호화된 신택스는, 전송부(26)에 공급된다.
스텝 S12에서, 베이스 뷰 부호화부(23)는, 타이밍 제어부(22)의 제어 하에, 베이스 뷰 화상을 부호화한다. 또한, 이 부호화 처리에 대해서는, 도 8을 참조하여 후술된다. 스텝 S12의 처리에 의해, 베이스 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다. 이때, 베이스 뷰 부호화부(23)는, 베이스 뷰 화상의 부호화 처리의 진척 정보를, 타이밍 제어부(22)에 공급한다.
스텝 S13에서, 베이스 뷰 부호화부(23)로부터의 진척 정보를 참조하여, 타이밍 제어부(22)는, 베이스 뷰 부호화부(23)가 소정의 LCU 라인(예를 들어, 2 LCU 라인)까지 부호화한 것인지 여부를 판정한다. 이 소정의 LCU 라인수는, 실시예에 따라 상이하다.
스텝 S13에서, 베이스 뷰 부호화부(23)가 아직 소정의 LCU 라인까지 부호화되어 있지 않다고 판정된 경우, 처리는, 스텝 S12로 복귀되어, 그 이후의 처리가 반복된다. 한편, 스텝 S13에서, 베이스 뷰 부호화부(23)가 소정의 LCU 라인까지 부호화되었고 판정된 경우, 처리는, 스텝 S14로 진행된다.
타이밍 제어부(22)는, 스텝 S14에서, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag(V 방향의 탐색 범위 제한 플래그)가 1인지 여부를 판정한다. 스텝 S14에서, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag가, 0이라고 판정된 경우, 처리는, 스텝 S15로 진행된다.
타이밍 제어부(22)는, 스텝 S15에서, 베이스 뷰 부호화부(23)에, 베이스 뷰 화상이 남아있는 LCU 라인을 부호화시킨다. 그리고, 타이밍 제어부(22)는, 스텝 S15에서, 베이스 뷰 화상의 부호화가 완료되고 나서, 스텝 S16에서, 디펜던트 뷰 부호화부(24)에, 디펜던트 뷰 화상의 부호화 처리를 행하게 한다.
즉, 스텝 S15에서, 베이스 뷰 부호화부(23)는, 베이스 뷰 화상이 남아있는 LCU 라인을 부호화한다. 그리고, 스텝 S16에서, 디펜던트 뷰 부호화부(24)는, 디펜던트 화상을 부호화한다. 또한, 스텝 S15 및 S16에서의 부호화 처리도, 도 8을 참조하여 후술되는 부호화 처리와 기본적으로 마찬가지의 처리다. 스텝 S15의 처리에 의해, 베이스 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다. 스텝 S16의 처리에 의해, 디펜던트 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다.
한편, 스텝 S14에서, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag가 1이라고 판정된 경우, 처리는, 스텝 S17로 진행된다.
타이밍 제어부(22)는, 스텝 S17에서, 디펜던트 뷰 부호화부(24)에, 디펜던트 뷰 화상의 부호화 처리를 행하게 하고, 그것과 병행하여, 스텝 S18에서, 베이스 뷰 부호화부(23)에, 베이스 뷰 화상이 남아있는 LCU 라인을 부호화시킨다.
즉, 스텝 S17에서, 디펜던트 뷰 부호화부(24)는, 디펜던트 화상을 부호화한다. 또한, 이 디펜던트 뷰 화상의 부호화 처리는, 도 9를 참조하여 후술되지만, 이 부호화 처리에서는, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag에 따라, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 제한되어, 부호화 처리가 행하여져, 디펜던트 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다.
또한, 스텝 S17의 처리와 병행하여, 스텝 S18에서, 베이스 뷰 부호화부(23)는, 베이스 뷰 화상이 남아있는 LCU 라인을 부호화한다. 또한, 스텝 S18에서의 부호화 처리도, 도 8을 참조하여 후술되는 부호화 처리와 마찬가지의 처리다. 스텝 S18의 처리에 의해, 베이스 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다.
스텝 S19에서, 전송부(26)는, 신택스 부호화부(21)로부터의 신택스, 베이스 뷰 부호화부(23)로부터의 베이스 뷰의 부호화 데이터 및 디펜던트 뷰 부호화부(24)로부터의 디펜던트 뷰의 부호화 데이터를 다중화하여, 부호화 스트림을 생성한다.
[부호화 처리의 예]
이어서, 도 8의 흐름도를 참조하여, 도 7의 스텝 S12의 부호화 처리에 대해서 설명한다. 또한, 도 7의 스텝 S15, S16 및 S18의 부호화 처리도 도 8의 처리와 마찬가지로 행하여진다.
A/D 변환부(111)에는, 부호화 대상의 화상인 베이스 뷰의 화상 픽처가, 표시순으로 순차 공급된다. 스텝 S31에서, A/D 변환부(111)는, 공급되는 픽처가, 아날로그 신호일 경우에는, 그 아날로그 신호를 A/D 변환하여, 화면 재배열 버퍼(112)에 공급한다.
화면 재배열 버퍼(112)는, 스텝 S32에서, A/D 변환부(111)로부터의 픽처를 일시 기억하고, 미리 결정된 GOP의 구조에 따라 픽처를 판독함으로써, 픽처의 배열을, 표시순에서 부호화순으로 재배열하는 재배열을 행한다. 화면 재배열 버퍼(112)로부터 판독된 픽처는, 연산부(113), 화면내 예측부(122) 및 인터 예측부(123)에 공급된다.
스텝 S33에서, 화면내 예측부(122)는, 인트라 예측(화면 내 예측)을 행하여, 예측 화상을 생성한다. 그때, 화면내 예측부(122)는, 예측 화상을 사용해서 대상 블록을 부호화하는 데 필요로 하는 부호화 비용, 즉, 대상 블록의, 예측 화상에 대한 잔차 등을 부호화하는 데 필요로 하는 부호화 비용을 구하여, 예측 화상과 함께 예측 화상 선택부(124)에 공급한다.
스텝 S34에서, 인터 예측부(123)는, 움직임 예측, 보상 처리를 행하여, 예측 화상을 생성한다. 즉, 인터 예측부(123)는, 화면 재배열 버퍼(112)로부터의 대상 픽처의 대상 블록과, DPB(25)로부터 판독한 후보 픽처를 사용한 움직임 검출을 행하고, 인터 움직임 벡터(인터뷰 움직임 벡터도 포함함)를 검출한다. 인터 예측부(123)는, 대상 블록의 인터 움직임 벡터에 따라, DPB(25)로부터의 후보 픽처의 움직임 분의 어긋남을 보상하는 움직임 보상을 행함으로써, 예측 화상을 생성한다.
스텝 S35에서, 예측 화상 선택부(124)는, 화면내 예측부(122) 및 인터 예측부(123) 각각으로부터의 예측 화상 중, 부호화 비용이 작은 쪽을 선택하여, 연산부(113) 및 연산부(120)에 공급한다.
여기서, 화면내 예측부(122)는, 인트라 예측에 관한 정보를 헤더 정보로서, 가변 길이 부호화부(116)에 공급하고, 인터 예측부(123)는, 인터 예측에 관한 정보(움직임 벡터의 정보 등)를 헤더 정보로서, 가변 길이 부호화부(116)에 공급한다.
스텝 S36에서, 연산부(113)는, 화면 재배열 버퍼(112)의 원 화상과 예측 화상 선택부(124)로부터 공급되는 예측 화상의 차분을 연산하여, 직교 변환부(114)에 공급한다.
스텝 S37에서, 직교 변환부(114)는, 연산부(113)로부터의 대상 블록(의 화소값, 또는, 예측 화상이 감산된 잔차)에 대하여 이산 코사인 변환이나, 카루넨 루베 변환 등의 직교 변환을 실시하고, 그 결과 얻어지는 변환 계수를, 양자화부(115)에 공급한다.
스텝 S38에서, 양자화부(115)는, 직교 변환부(114)로부터 공급되는 변환 계수를 양자화하고, 그 결과 얻어지는 양자화 값을, 역양자화부(118)에 공급한다.
스텝 S39에서, 역양자화부(118)는, 양자화부(115)로부터의 양자화 값을, 변환 계수로 역양자화하여, 역직교 변환부(119)에 공급한다.
스텝 S40에서, 역직교 변환부(119)는, 역양자화부(118)로부터의 변환 계수를 역직교 변환하여, 연산부(120)에 공급한다.
스텝 S41에서, 연산부(120)는, 역직교 변환부(119)로부터 공급되는 데이터에 대하여 필요에 따라, 예측 화상 선택부(124)로부터 공급되는 예측 화상의 화소값을 가산한다. 이에 의해, 대상 블록을 복호(로컬 디코드)한 디코드 화상을 얻어, 인루프 필터(121)에 공급한다.
스텝 S42에서, 인루프 필터(121)는 인루프 필터 처리를 행한다. 인루프 필터(121)가, 예를 들어 디블로킹 필터로 구성되는 경우, 인루프 필터(121)는, 연산부(120)로부터의 디코드 화상을 필터링함으로써, 디코드 화상에 발생한 블록 왜곡을 제거(저감)하여, DPB(25)에 공급한다.
스텝 S43에서, DPB(25)는, 인루프 필터(121)로부터의 디코드 화상을 기억한다.
상술한 스텝 S38에서 양자화된 양자화 값은, 역양자화부(118) 외에, 가변 길이 부호화부(116)에도 공급된다.
스텝 S44에서, 가변 길이 부호화부(116)는, 양자화부(115)로부터의 양자화 값에 대하여 가역 부호화를 실시하고, 그 결과 얻어지는 부호화 데이터를, 축적 버퍼(117)에 공급한다.
스텝 S45에서, 축적 버퍼(117)는, 가변 길이 부호화부(116)로부터의 부호화 데이터를 일시 기억하고, 소정의 데이터 레이트로 출력한다. 축적 버퍼(117)로부터 출력된 부호화 데이터는, 도 1의 전송부(26)에 공급된다.
[부호화 처리의 예]
이어서, 도 9의 흐름도를 참조하여, 도 7의 스텝 S17의 디펜던트 뷰 화상의 부호화 처리에 대해서 설명한다.
디펜던트 뷰 부호화부(24)는, 도 7의 스텝 S14가 "예"인 경우에, 타이밍 제어부(22)로부터의 부호화 처리 개시를 나타내는 제어 신호를 수취한다. 이것에 대응하여, 스텝 S61에서, 디펜던트 뷰 부호화부(24)는, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag(V 방향의 탐색 범위 제한 플래그)가 1인지 여부를 판정한다.
스텝 S61에서, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag가,1이라고 판정된 경우, 처리는, 스텝 S62로 진행된다.
스텝 S62에서, 디펜던트 뷰 부호화부(24)는, 인터뷰 움직임 벡터의 V 방향의 탐색 범위를, 예를 들어 미리 설정되어 있는 LCU 사이즈-8의 라인까지의 범위로 제한한다. 즉, 인터뷰 움직임 벡터의 정방향의 V 성분이, LCU 사이즈-8 이하로 제한된다. 또한, 인터뷰 움직임 벡터의 부방향의 V 성분에 대해서도 제한되어도 된다.
스텝 S61에서, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag가, 0이라고 판정된 경우, 스텝 S62의 처리는 스킵되고, 처리는, 스텝 S63으로 진행된다.
스텝 S63에서, 디펜던트 뷰 부호화부(24)는, 디펜던트 뷰 화상을 부호화한다. 이 부호화 처리는, 도 8의 스텝 S34의 움직임 예측·보상 처리에서, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 제한되어 있는 것 이외는, 상술한 도 8의 부호화 처리와 기본적으로 마찬가지의 처리다. 따라서, 그 설명은 반복이 되므로, 생략된다.
스텝 S15의 처리에 의해, 디펜던트 뷰 화상의 부호화 데이터가 생성되어, 디펜던트 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다.
이상과 같이, interview_vector_v_range_restrict_flag가 1인 경우, 디펜던트 뷰 화상에 있어서, 움직임 예측·보상 처리를 행할 때에, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 미리 설정되어 있는 값까지의 범위로 제한된다.
이에 의해, 제한되어 있는 탐색 범위 이외의 화상이 사용되지 않으므로, 부호화측에서나 복호측에서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다.
<2. 제2 실시 형태>
[다시점 화상 복호 장치의 구성예]
도 10은, 본 개시를 적용한 화상 처리 장치로서의 다시점 화상 복호 장치의 일 실시 형태의 구성을 나타내고 있다.
도 10의 다시점 화상 복호 장치(211)는, 도 1의 다시점 화상 부호화 장치(11)에 의해 부호화된 부호화 스트림을 복호한다. 즉, 이 부호화 스트림의 신택스에 있어서는, 인터뷰 움직임 벡터의 Vertical 방향의 참조 범위의 제한에 관한 정보인 인터뷰 움직임 벡터의 탐색 범위 제한 정보가 설정되어 있다.
도 11은, 도 10의 다시점 화상 복호 장치(211)의 구성예를 도시하는 블록도이다. 또한, 도 11의 예에서는, 도 2의 예에 대응시켜서, 베이스 뷰(시점)와 디펜던트 뷰(시점)로 이루어지는 2 시점의 화상이 부호화되는 예가 나타나 있다.
도 11의 예에서, 다시점 화상 복호 장치(211)는, 수취부(221), 신택스 복호부(222), 타이밍 제어부(223), 베이스 뷰 복호부(224), 디펜던트 뷰 복호부(225) 및 DPB(226)를 포함하도록 구성된다. 즉, 다시점 화상 복호 장치(211)는, 다시점 화상 부호화 장치(11)로부터 전송되어 오는 부호화 스트림을 수신하고, 베이스 뷰 화상의 부호화 데이터와 디펜던트 뷰 화상의 부호화 데이터를 복호한다.
수취부(221)는, 도 1의 다시점 화상 부호화 장치(11)로부터 전송되어 오는 부호화 스트림을 수취한다. 수취부(221)는, 수취된 비트 스트림으로부터 베이스 뷰의 화상의 부호화 데이터 및 디펜던트 뷰의 화상의 부호화 데이터 등을 분리한다.
그리고, 수취부(221)는, 베이스 뷰의 화상의 부호화 데이터를 베이스 뷰 복호부(224)에 공급한다. 수취부(221)는, 디펜던트 뷰의 화상의 부호화 데이터를 디펜던트 뷰 복호부(225)에 공급한다. 또한, 수취부(221)는, 베이스 뷰의 화상의 부호화 데이터 및 디펜던트 뷰의 화상의 부호화 데이터를 신택스 복호부(222)에 공급한다.
신택스 복호부(222)는, 베이스 뷰의 화상의 부호화 데이터 및 디펜던트 뷰의 화상의 부호화 데이터로부터, SPS, PPS, SEI, 슬라이스 헤더를 각각 추출하여, 순서대로 복호한다. 그리고, 신택스 복호부(222)는, 예를 들어 SPS에 설정되어 있는 interview_vector_v_range_restrict_flag를 복호하고, 복호한 interview_vector_v_range_restrict_flag를, 타이밍 제어부(223)에 공급한다.
타이밍 제어부(223)는, 신택스 복호부(222)로부터 공급되는 interview_vector_v_range_restrict_flag에 따라, 베이스 뷰 복호부(224)로부터의 복호 처리의 진척 정보를 참조하여, 베이스 뷰 화상의 복호 처리와 디펜던트 뷰 화상의 복호 처리의 타이밍을 제어하기 위한 제어 신호를 공급한다.
즉, 타이밍 제어부(223)는, 베이스 뷰 복호부(224)의 복호 처리를 개시시킨다. 그리고, 타이밍 제어부(223)는, 신택스 복호부(222)로부터 공급되는 interview_vector_v_range_restrict_flag가 1(온)인 경우, 베이스 뷰 복호부(224)의 복호 처리가 소정의 LCU 라인까지 오면, 베이스 뷰 복호부(224)와 디펜던트 뷰 복호부(225)를 병렬로 동작시킨다.
한편, 타이밍 제어부(223)는, 신택스 복호부(222)로부터 공급되는 interview_vector_v_range_restrict_flag가 0(오프)일 경우, 베이스 뷰 복호부(224)의 복호 처리가 끝났을 때, 디펜던트 뷰 복호부(225)의 복호 처리를 개시시킨다.
베이스 뷰 복호부(224)는, 수취부(221)로부터 공급되는 베이스 뷰의 부호화 데이터를 복호하여, 베이스 뷰의 화상을 생성한다. 또한, 베이스 뷰 복호부(224)는, DPB(226)에 기억된 베이스 뷰의 디코드 화상으로부터, 복호 대상의 화상을 복호하기 위해 참조하는 참조 픽처를 선택하고, 그것을 사용해서 화상의 복호를 행한다. 그때에, 복호 결과의 디코드 화상은, DPB(226)에 일시 기억된다.
디펜던트 뷰 복호부(225)는, 수취부(221)로부터 공급되는 디펜던트 뷰의 부호화 데이터를 복호하여, 디펜던트 뷰의 화상을 생성한다. 또한, 디펜던트 뷰 복호부(225)는, DPB(226)에 기억된 베이스 뷰 또는 디펜던트 뷰의 디코드 화상으로부터, 복호 대상의 화상을 부호화하기 위해 참조하는 참조 픽처를 선택하고, 그것을 사용해서 화상의 복호를 행한다. 그때에, 디코딩한 결과의 디코드 화상은, DPB(226)에 일시 기억된다.
또한, 디펜던트 뷰 복호부(225)는, interview_vector_v_range_restrict_flag가 온일 경우, 베이스 뷰의 디코드 화상에서의 탐색 범위의 Vertical 방향이 제한되어 부호화된 디펜던트 뷰의 부호화 데이터를 복호한다. 따라서, 구해진 움직임 벡터의 V 성분은, 제한 완료된 탐색 범위에 포함되어 있다.
DPB(226)는, 베이스 뷰 복호부(224) 및 디펜던트 뷰 복호부(225) 각각에서 복호 대상의 화상을 복호하고, 디코딩함으로써 얻어지는 디코드 후의 화상(디코드 화상)을, 예측 화상의 생성시에 참조하는 참조 픽처(의 후보)로서 일시 기억한다.
DPB(226)는, 베이스 뷰 복호부(224) 및 디펜던트 뷰 복호부(225)에서 공용되므로, 베이스 뷰 복호부(224) 및 디펜던트 뷰 복호부(225) 각각은, 자신에게서 얻어진 디코드 화상 외에, 다른 뷰 부호화부에서 얻어진 디코드 화상도 참조할 수 있다. 단, 베이스 시점 화상을 부호화하는 베이스 뷰 부호화부(23)는, 동일한 시점(베이스 뷰)의 화상밖에 참조하지 않는다.
[뷰 복호부의 구성예]
도 12는, 베이스 뷰 복호부(224)의 구성예를 도시하는 블록도이다. 또한, 디펜던트 뷰 복호부(225)도 베이스 뷰 복호부(224)와 기본적으로 마찬가지로 구성된다.
도 12의 예에서, 베이스 뷰 복호부(224)는, 축적 버퍼(311), 가변 길이 복호부(312), 역양자화부(313), 역직교 변환부(314), 연산부(315), 인루프 필터(316), 화면 재배열 버퍼(317), D/A(Digital/Analog) 변환부(318), 화면내 예측부(319), 인터 예측부(320), 예측 화상 선택부(321) 및 캐시(322)를 갖는다.
축적 버퍼(311)에는, 수취부(221)(도 11)로부터, 베이스 뷰의 화상의 부호화 데이터가 공급된다.
축적 버퍼(311)는, 거기에 공급되는 부호화 데이터를 일시 기억하고, 가변 길이 복호부(312)에 공급한다.
가변 길이 복호부(312)는, 축적 버퍼(311)로부터의 부호화 데이터를 가변 길이 복호함으로써, 양자화 값이나 헤더 정보를 복원한다. 그리고, 가변 길이 복호부(312)는, 양자화 값을 역양자화부(313)에 공급하고, 헤더 정보를, 화면내 예측부(319) 및 인터 예측부(320)에 공급한다.
역양자화부(313)는, 가변 길이 복호부(312)로부터의 양자화 값을, 변환 계수로 역양자화하여, 역직교 변환부(314)에 공급한다.
역직교 변환부(314)는, 역양자화부(313)로부터의 변환 계수를 역직교 변환하여, 매크로 블록(LCU) 단위로, 연산부(315)에 공급한다.
연산부(315)는, 역직교 변환부(314)로부터 공급되는 매크로 블록을 복호 대상의 대상 블록으로 하여, 그 대상 블록에 대해 필요에 따라, 예측 화상 선택부(321)로부터 공급되는 예측 화상을 가산함으로써, 복호를 행한다. 연산부(315)는, 그 결과 얻어지는 디코드 화상을 인루프 필터(316)에 공급한다.
인루프 필터(316)는, 예를 들어 디블로킹 필터로 구성된다. 또한, 예를 들어 HEVC 방식이 채용될 경우, 인루프 필터(316)는, 디블로킹 필터 및 적응 오프셋 필터로 구성된다. 인루프 필터(316)는, 연산부(315)로부터의 디코드 화상에 대하여, 예를 들어 도 3의 인루프 필터(121)와 마찬가지의 필터링을 행하고, 그 필터링 후의 디코드 화상을, 화면 재배열 버퍼(317)에 공급한다.
화면 재배열 버퍼(317)는, 인루프 필터(316)로부터의 디코드 화상의 픽처를 일시 기억해서 판독함으로써, 픽처의 배열을, 원래의 배열(표시순)로 재배열하여, D/A 변환부(318)에 공급한다.
D/A 변환부(318)는, 화면 재배열 버퍼(317)로부터의 픽처를 아날로그 신호로 출력할 필요가 있는 경우에, 그 픽처를 D/A 변환해서 출력한다.
또한, 인루프 필터(316)는, 필터링 후의 디코드 화상 중, 참조 가능 픽처인 I 픽처, P 픽처 및 Bs 픽처의 디코드 화상을, DPB(226)에 공급한다.
여기서, DPB(226)는, 인루프 필터(316)로부터의 디코드 화상의 픽처, 즉, 베이스 뷰의 화상 픽처를, 시간적으로 후에 행하여지는 복호에 사용하는 예측 화상을 생성할 때에 참조하는 참조 픽처의 후보(후보 픽처)로서 기억한다.
도 11에서 설명한 바와 같이, DPB(226)는, 베이스 뷰 복호부(224) 및 디펜던트 뷰 복호부(225)에서 공용되므로, 베이스 뷰 복호부(224)에서 복호된 베이스 뷰의 화상 외에, 디펜던트 뷰 복호부(225)에서 복호된 디펜던트 베이스 뷰의 화상 등도 기억한다.
화면내 예측부(319)는, 가변 길이 복호부(312)로부터의 헤더 정보에 기초하여, 대상 블록이, 인트라 예측(화면내 예측)에서 생성된 예측 화상을 사용해서 부호화되어 있는지 여부를 인식한다.
대상 블록이, 인트라 예측에서 생성된 예측 화상을 사용해서 부호화되어 있는 경우, 화면내 예측부(319)는, 도 3의 화면내 예측부(122)와 마찬가지로, DPB(226)로부터, 대상 블록을 포함하는 픽처(대상 픽처) 중의, 이미 복호되어 있는 부분(디코드 화상)을 판독한다. 그리고, 화면내 예측부(319)는, DPB(226)로부터 판독한, 대상 픽처 중 디코드 화상의 일부를, 대상 블록의 예측 화상으로서, 예측 화상 선택부(321)에 공급한다.
캐시(322)는, DPB(226)의 픽처 중, 인터 예측부(320)에서 사용될 수 있는 범위의 화소를 판독하여, 일시 축적하고 있다.
인터 예측부(320)는, 가변 길이 복호부(312)로부터의 헤더 정보에 기초하여, 대상 블록이, 인터 예측에서 생성된 예측 화상을 사용해서 부호화되어 있는지 여부를 인식한다.
대상 블록이, 인터 예측에서 생성된 예측 화상을 사용해서 부호화되어 있는 경우, 인터 예측부(320)는, 가변 길이 복호부(312)로부터의 헤더 정보에 기초하여, 대상 블록의 최적 인터 예측 모드(인터뷰 예측 모드를 포함함)를 인식하고, 캐시(322)에 기억되어 있는 후보 픽처로부터, 최적 인터 예측 모드에 대응하는 후보 픽처를, 참조 픽처로서 판독한다.
또한, 인터 예측부(320)는, 가변 길이 복호부(312)로부터의 헤더 정보에 기초하여, 대상 블록의 예측 화상의 생성에 사용된 움직임을 나타내는 인터 움직임 벡터를 인식하고, 도 3의 인터 예측부(123)와 마찬가지로, 그 인터 움직임 벡터에 따라, 참조 픽처의 움직임 보상을 행함으로써, 예측 화상을 생성한다. 또한, 디펜던트 뷰에 있어서는, 인터 움직임 벡터에는, 시간적인 어긋남을 나타내는 움직임 벡터뿐만 아니라, 뷰간의 어긋남을 나타내는 인터뷰 움직임 벡터도 포함된다.
즉, 인터 예측부(320)는, 후보 픽처의, 대상 블록의 위치로부터, 그 대상 블록의 인터 움직임 벡터에 따라서 이동한(어긋난) 위치의 블록(대응 블록)을, 예측 화상으로서 취득한다.
그리고, 인터 예측부(320)는, 예측 화상을, 예측 화상 선택부(321)에 공급한다.
예측 화상 선택부(321)는, 화면내 예측부(319)로부터 예측 화상이 공급되는 경우에는 그 예측 화상을, 인터 예측부(320)로부터 예측 화상이 공급되는 경우에는 그 예측 화상을, 각각 선택하여, 연산부(315)에 공급한다.
[다시점 화상 복호 장치의 동작]
이어서, 도 13의 흐름도를 참조하여, 도 10의 다시점 화상 복호 장치(211)의 동작으로서, 다시점 화상 복호 처리에 대해서 설명한다. 또한, 도 7에서도 상술한 바와 같이, 도 13의 예에서는, 베이스 뷰와 디펜던트 뷰의 부호화 처리 및 복호 처리의 지연은, 2 LCU 라인이며, 인터뷰 움직임 벡터의 Vy 성분의 정방향의 제한이 있을 경우에는, Vy 성분은, LCU 사이즈-8 이하로 제한되는 것이 미리 설정되어 있다고 하자. 즉, 인터뷰 움직임 벡터의 V의 정방향의 탐색 범위가, LCU 사이즈-8의 라인까지 설정되어 있다.
스텝 S111에서, 수취부(221)는, 도 1의 다시점 화상 부호화 장치(11)로부터 전송되어 오는 부호화 스트림을 수취한다. 수취부(221)는, 수취된 비트 스트림으로부터 베이스 뷰의 화상의 부호화 데이터, 디펜던트 뷰의 화상의 부호화 데이터를 분리한다.
그리고, 수취부(221)는, 베이스 뷰의 화상의 부호화 데이터를 베이스 뷰 복호부(224)에 공급한다. 수취부(221)는, 디펜던트 뷰의 화상의 부호화 데이터를 디펜던트 뷰 복호부(225)에 공급한다. 또한, 수취부(221)는, 베이스 뷰의 화상의 부호화 데이터 및 디펜던트 뷰의 화상의 부호화 데이터를 신택스 복호부(222)에 공급한다.
신택스 복호부(222)는, 스텝 S112에서, 신택스를 복호한다. 즉, 신택스 복호부(222)는, 베이스 뷰의 화상의 부호화 데이터 및 디펜던트 뷰의 화상의 부호화 데이터로부터, SPS, PPS, SEI, 슬라이스 헤더를 각각 추출하여, 순서대로 복호한다. 그리고, 신택스 복호부(222)는, 예를 들어 SPS에 설정되어 있는 interview_vector_v_range_restrict_flag를 복호하고, 복호한 interview_vector_v_range_restrict_flag를, 타이밍 제어부(223)에 공급한다.
스텝 S113에서, 베이스 뷰 복호부(224)는, 타이밍 제어부(223)의 제어 하에, 베이스 뷰 화상의 부호화 데이터를 복호한다. 또한, 이 복호 처리에 대해서는, 도 14를 참조하여 후술된다. 스텝 S113의 처리에 의해, 부호화 데이터가 복호되어, LCU 마다의 베이스 뷰 화상이 생성되어 간다. 이때, 베이스 뷰 복호부(224)는, 베이스 뷰 화상의 부호화 처리의 진척 정보를, 타이밍 제어부(22)에 공급한다.
스텝 S114에서, 베이스 뷰 복호부(224)로부터의 진척 정보를 참조하여, 타이밍 제어부(223)는, 베이스 뷰 복호부(224)가 소정의 LCU 라인(예를 들어, 2 LCU 라인)까지 복호했는지 여부를 판정한다. 이 LCU 라인수는, 실시예에 따라 상이하다.
스텝 S114에서, 베이스 뷰 복호부(224)가 아직 소정의 LCU 라인까지 부호화되어 있지 않다고 판정된 경우, 처리는, 스텝 S113으로 복귀되어, 그 이후의 처리가 반복된다. 한편, 스텝 S114에서, 베이스 뷰 복호부(224)가 소정의 LCU 라인까지 복호되었다고 판정된 경우, 처리는, 스텝 S115로 진행된다.
타이밍 제어부(223)는, 스텝 S115에서, 신택스 복호부(222)로부터 공급된 interview_vector_v_range_restrict_flag(V 방향의 탐색 범위 제한 플래그)가 1인지 여부를 판정한다. 스텝 S115에서, 신택스 복호부(222)로부터 공급된 interview_vector_v_range_restrict_flag가, 0이라고 판정된 경우, 처리는, 스텝 S116으로 진행된다.
타이밍 제어부(223)는, 스텝 S116에서, 베이스 뷰 복호부(224)에, 베이스 뷰 화상이 남아있는 LCU 라인을 복호시킨다. 그리고, 타이밍 제어부(223)는, 스텝 S116에서, 베이스 뷰 화상의 복호가 완료되고 나서, 스텝 S117에서, 디펜던트 뷰 복호부(225)에, 디펜던트 뷰 화상의 복호 처리를 행하게 한다.
즉, 스텝 S116에서, 베이스 뷰 복호부(224)는, 베이스 뷰 화상이 남아있는 LCU 라인을 복호한다. 그리고, 스텝 S117에서, 디펜던트 뷰 복호부(225)는, 디펜던트 화상을 복호한다. 또한, 스텝 S116 및 S117에서의 복호 처리도, 도 14를 참조하여 후술되는 복호 처리와 기본적으로 마찬가지의 처리다. 스텝 S116의 처리에 의해, 베이스 뷰 화상이 생성된다. 스텝 S117의 처리에 의해, 디펜던트 뷰 화상이 생성된다.
한편, 스텝 S115에서, 신택스 복호부(222)로부터 공급된 interview_vector_v_range_restrict_flag가, 1이라고 판정된 경우, 처리는, 스텝 S118로 진행된다.
타이밍 제어부(223)는, 스텝 S118에서, 디펜던트 뷰 복호부(225)에, 디펜던트 뷰 화상의 복호 처리를 행하게 하고, 그것과 병행해서, 스텝 S119에서, 베이스 뷰 복호부(224)에, 베이스 뷰 화상이 남아있는 LCU 라인을 복호시킨다.
즉, 스텝 S118에서, 디펜던트 뷰 복호부(225)는 디펜던트 화상을 복호한다. S118에서의 복호 처리도, 도 14를 참조하여 후술되는 복호 처리와 기본적으로 마찬가지의 처리다. 즉, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 제한되어 부호화 처리가 행하여진 부호화 데이터를 복호하는 점이 상이할 뿐이며, 디펜던트 뷰 화상의 복호 처리로서는, 스텝 S117의 복호 처리와 기본적으로 동일하다. 스텝 S118의 처리에 의해, 디펜던트 뷰 화상이 생성된다.
또한, 스텝 S118의 처리와 병행해서, 스텝 S119에서, 베이스 뷰 복호부(224)는, 베이스 뷰 화상이 남아있는 LCU 라인을 부호화한다. 또한, 스텝 S119에서의 부호화 처리도, 도 14를 참조하여 후술되는 복호 처리와 기본적으로 마찬가지의 처리다. 스텝 S119의 처리에 의해, 베이스 뷰 화상이 생성된다.
[복호 처리의 예]
이어서, 도 14의 흐름도를 참조하여, 도 13의 스텝 S113의 복호 처리에 대해 설명한다. 또한, 도 13의 스텝 S116 내지 S119의 복호 처리도 도 14의 처리와 기본적으로 마찬가지로 행하여진다.
축적 버퍼(311)에는, 수취부(221)(도 11)로부터, 베이스 뷰의 화상의 부호화 데이터가 공급된다. 축적 버퍼(311)는, 스텝 S131에서, 공급되는 부호화 데이터를 일시 기억하고, 가변 길이 복호부(312)에 공급한다.
스텝 S132에서, 가변 길이 복호부(312)는, 축적 버퍼(311)로부터의 부호화 데이터를 가변 길이 복호함으로써, 양자화 값이나 헤더 정보를 복원한다. 그리고, 가변 길이 복호부(312)는, 양자화 값을 역양자화부(313)에 공급하고, 헤더 정보를, 화면내 예측부(319) 및 인터 예측부(320)에 공급한다.
스텝 S133에서, 캐시(322)는, DPB(226)의 픽처 중, 인터 예측부(320)에서 사용될 수 있는 범위의 화소를 판독하여 일시 축적한다.
즉, 도 13의 스텝 S113, S116, S117, S119의 복호 처리에 있어서는, 예를 들어 움직임 벡터를 탐색하기 위해 일정 정도의 범위의 화소가 캐시(322)에 판독된다. 이에 반해, 도 13의 스텝 S118의 복호 처리에 있어서는, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 제한되어 부호화 처리가 행하여진 부호화 데이터를 복호한다. 즉, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 제한되어 있다. 따라서, 예를 들어 디펜던트 뷰 화상의 복호에 있어서, 인터뷰 참조 화상을 캐시(322)에 판독할 때에는, 부호화시에 제한되어 있는 탐색 범위만의 화소를 판독하면 되므로, 캐시(322)에 있어서, 큰 용량을 가질 필요가 없어진다.
스텝 S134에서, 화면내 예측부(319) 또는 인터 예측부(320)는, 가변 길이 복호부(312)로부터의 헤더 정보의 예측 모드에 따라, 예측 화상을 생성한다. 또한, 그때, 화면내 예측부(319)는, DPB(226)로부터, 대상 블록을 포함하는 픽처 중, 이미 복호되어 있는 부분(디코드 화상)을 판독하고, DPB(226)로부터 판독한, 대상 픽처 중 디코드 화상의 일부를, 대상 블록의 예측 화상으로서, 예측 화상 선택부(321)에 공급한다.
이에 반해, 인터 예측부(320)는, 가변 길이 복호부(312)로부터의 헤더 정보에 기초하여, 대상 블록의 최적 인터 예측 모드를 인식하고, 캐시(322)에 기억되어 있는 후보 픽처로부터, 최적 인터 예측 모드에 대응하는 후보 픽처를, 참조 픽처로서 판독한다. 또한, 인터 예측부(320)는, 가변 길이 복호부(312)로부터의 헤더 정보에 기초하여, 대상 블록의 예측 화상의 생성에 사용된 움직임을 나타내는 인터 움직임 벡터를 인식하고, 도 3의 인터 예측부(123)와 마찬가지로, 그 인터 움직임 벡터에 따라, 참조 픽처의 움직임 보상을 행함으로써 예측 화상을 생성한다. 생성된 예측 화상은, 예측 화상 선택부(321)에 공급된다.
스텝 S135에서, 예측 화상 선택부(321)는, 화면내 예측부(319)로부터 예측 화상이 공급되는 경우에는 그 예측 화상을, 인터 예측부(320)로부터 예측 화상이 공급되는 경우에는 그 예측 화상을, 각각 선택하여, 연산부(315)에 공급한다.
스텝 S136에서, 역양자화부(313)는, 가변 길이 복호부(312)로부터의 양자화 값을, 변환 계수로 역양자화하여, 역직교 변환부(314)에 공급한다.
스텝 S137에서, 역직교 변환부(314)는, 역양자화부(313)로부터의 변환 계수를 역직교 변환하여, 매크로 블록(LCU) 단위로 연산부(315)에 공급한다.
스텝 S138에서, 연산부(315)는, 역직교 변환부(314)로부터 공급되는 매크로 블록을 복호 대상의 대상 블록으로 하고, 그 대상 블록에 대하여 필요에 따라, 예측 화상 선택부(321)로부터 공급되는 예측 화상을 가산함으로써, 복호를 행한다. 그 결과 얻어진 디코드 화상은, 인루프 필터(316)에 공급된다.
스텝 S139에서, 인루프 필터(316)는, 연산부(315)로부터의 디코드 화상에 대하여, 예를 들어 도 3의 인루프 필터(121)와 마찬가지의 필터링을 행하고, 그 필터링 후의 디코드 화상을, DPB(226) 및 화면 재배열 버퍼(317)에 공급한다.
스텝 S140에서, DPB(226)는, 인루프 필터(316)로부터의 디코드 화상의 픽처, 즉, 베이스 뷰의 화상 픽처를, 시간적으로 후에 행하여지는 복호에 사용하는 예측 화상을 생성할 때에 참조하는 참조 픽처의 후보(후보 픽처)로서 기억한다.
스텝 S141에서, 화면 재배열 버퍼(317)는, 인루프 필터(316)로부터의 디코드 화상의 픽처를 일시 기억해서 판독함으로써, 픽처의 배열을, 원래의 배열(표시순)로 재배열하여, D/A 변환부(318)에 공급한다.
스텝 S142에서, D/A 변환부(318)는, 화면 재배열 버퍼(317)로부터의 픽처를 아날로그 신호로 출력할 필요가 있는 경우에, 그 픽처를 D/A 변환해서 출력한다.
이상과 같이, interview_vector_v_range_restrict_flag가 1인 경우, 디펜던트 뷰 화상에 있어서, 움직임 예측·보상 처리를 행할 때에, 인터뷰 움직임 벡터의 V 방향의 탐색 범위가 미리 설정되어 있는 값으로 제한되어 있다. 따라서, 제한되어 있는 탐색 범위 이외의 화상이 사용되지 않으므로, 부호화측에 있어서나 복호측에 있어서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다.
또한, 탐색 범위 이외의 화상을 판독할 필요가 없어지므로, 캐시(322)의 용량을 저감시킬 수 있다.
<3. 제3 실시 형태>
[신택스의 예]
도 15는, 시퀀스 파라미터 세트의 신택스와, 그것에 대한 시맨틱스의 예를 나타내는 도이다. 또한, 도 15의 예는, V 방향의 레인지 제한값으로서 미리 설정된 것(LCU 사이즈-8)이 사용되는 경우의 예다.
도 15의 예의 경우, 신택스에 나타낸 바와 같이, 시퀀스 파라미터 세트에 있어서, 프로파일이, 예를 들어 다시점을 서포트하는 프로파일인 "Multi-view support Profile"일 경우에, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 interview_vector_v_range_restrict_flag가 설정된다.
또한, 시맨틱스로서는, 다음과 같이 정의되어 있다.
interview_vector_v_range_restrict_flag는 1일 경우, 디펜던트 뷰 화상에서 사용되고 있는 인터뷰 움직임 벡터의 Vertical 성분이, 휘도 화소의 단위로 LCU 사이즈-8 이하인 것을 나타내고 있다. 만일 이 플래그가 존재하지 않으면, 그 값은, 0이라 간주된다. 만약 프로파일이, "Stereo Profile"과 동등할 경우, 그 값은, 1로 세트된다.
[신택스 부호화 처리의 다른 예]
이어서, 도 16의 흐름도를 참조하여, 도 15의 신택스의 경우에, 도 7의 스텝 S11에서 행하여지는 신택스(도 15의 경우 SPS) 부호화 처리에 대해서 설명한다.
스텝 S201에서, 신택스 부호화부(21)는, 프로파일이 Multi-view를 서포트하고 있는지 여부를 판정한다. 즉, "Multi-view support Profile"인지 여부가 판정된다.
스텝 S201에서, 프로파일이 Multi-view를 서포트하고 있다고 판정된 경우, 처리는, 스텝 S202로 진행된다. 스텝 S202에서, 신택스 부호화부(21)는, interview_vector_v_range_restrict_flag를 1로 설정하고, SPS를 복호측에 전송한다.
한편, 스텝 S201에서, 프로파일이 Multi-view를 서포트하고 있지 않다고 판단되었을 경우, 처리는, 스텝 S203으로 진행된다. 스텝 S203에서, 신택스 부호화부(21)는, interview_vector_v_range_restrict_flag를 복호측에 보내지 않는다. 즉, 복호측에서 0이라 간주되므로, 스텝 S202에서, 신택스 부호화부(21)는, SPS에 있어서, interview_vector_v_range_restrict_flag를 설정하지 않는다.
[디펜던트 뷰 화상의 부호화 처리의 다른 예]
이어서, 도 17의 흐름도를 참조하여, 도 15의 신택스의 경우에, 도 7의 스텝 S17에서 행하여지는 디펜던트 뷰 화상의 부호화 처리의 예에 대해서 설명한다. 또한, 이 처리는, 도 9의 디펜던트 뷰 화상의 부호화 처리의 다른 예다.
또한, 이 예의 경우, 신택스 부호화부(21)로부터, 타이밍 제어부(22)와 디펜던트 뷰 부호화부(24)에, profile_idc가 공급되고, profile_idc가 Multi-view를 서포트하고 있는 경우만, interview_vector_v_range_restrict_flag가 공급된다.
디펜던트 뷰 부호화부(24)는, 도 7의 스텝 S14가 "예"인 경우에, 타이밍 제어부(22)로부터의 부호화 처리 개시를 나타내는 제어 신호를 수취한다. 이것에 대응하여, 스텝 S221에서, 디펜던트 뷰 부호화부(24)는, 신택스 부호화부(21)로부터 공급된 profile_idc를 참조하여, profile_idc가 Multi-view를 서포트하고 있는지 여부를 판정한다.
스텝 S221에서, profile_idc가 Multi-view를 서포트하고 있다고 판정된 경우, 처리는, 스텝 S222로 진행된다. 스텝 S222에서, 디펜던트 뷰 부호화부(24)는, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag(V 방향의 탐색 범위 제한 플래그)가 1인지 여부를 판정한다.
스텝 S222에서, 신택스 부호화부(21)로부터 공급된 interview_vector_v_range_restrict_flag가 1이라고 판정된 경우, 처리는, 스텝 S223으로 진행된다.
스텝 S223에서, 디펜던트 뷰 부호화부(24)는, 디펜던트 뷰에 있어서, 인터뷰 움직임 벡터의 V(Vertical) 성분을, x(예를 들어, 미리 설정되어 있는 LCU 사이즈-8)로 제한한다.
한편, 스텝 S221에서, profile_idc가 Multi-view를 서포트하고 있지 않다고 판단되었을 경우, 또는, 스텝 S222에서, interview_vector_v_range_restrict_flag가 0이라고 판정된 경우, 처리는, 스텝 S224로 진행된다.
스텝 S224에서, 디펜던트 뷰 부호화부(24)는, 디펜던트 뷰에 있어서, 인터뷰 움직임 벡터의 V 성분을, 종래와 마찬가지로, 제한하지 않는다.
스텝 S223 또는 S224의 처리 후, 처리는, 스텝 S225로 진행된다. 스텝 S225에 있어서, 디펜던트 뷰 부호화부(24)는, 디펜던트 뷰 화상을 부호화한다. 이 부호화 처리는, 도 8의 스텝 S34의 움직임 예측·보상 처리에 있어서, 인터뷰 움직임 벡터의 V 성분의 값(즉, V 방향의 탐색 범위)이 제한되어 있는 것 이외는, 상술한 도 8의 부호화 처리와 기본적으로 마찬가지의 처리다. 따라서, 그 설명은 반복되므로 생략된다.
스텝 S15의 처리에 의해, 디펜던트 뷰 화상의 부호화 데이터가 생성되어, 디펜던트 뷰 화상의 부호화 데이터가 전송부(26)에 공급된다.
이상과 같이, profile_idc가 Multi-view를 서포트하고 있고, interview_vector_v_range_restrict_flag가 1인 경우, 디펜던트 뷰 화상에 있어서, 움직임 예측·보상 처리를 행할 때에, 인터뷰 움직임 벡터의 V 성분(의 정방향)이 미리 설정되어 있는 값으로 제한된다.
이에 의해, 제한되어 있는 탐색 범위 이외의 화상이 사용되지 않으므로, 부호화측에 있어서나 복호측에 있어서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다.
[신택스의 다른 예]
도 18은, 시퀀스 파라미터 세트의 신택스와, 그것에 대한 시맨틱스의 예를 나타내는 도이다. 또한, 도 18의 예는, V 방향의 레인지 제한 값을 신택스에 기재하는 경우의 예다.
도 18의 예의 신택스에 도시된 바와 같이, 시퀀스 파라미터 세트에 있어서, 프로파일이, 예를 들어 다시점을 서포트하는 프로파일인 "Multi-view support Profile"인 경우에, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 interview_vector_v_range_restrict_flag가 설정된다. 또한, interview_vector_v_range_restrict_flag가 1일 경우, interview_vector_v_range로서, V 방향의 레인지 제한 값이 설정된다.
또한, 시맨틱스로서는, 다음과 같이 정의되어 있다.
interview_vector_v_range_restrict_flag는 1일 경우, 디펜던트 뷰 화상에서 사용되고 있는 인터뷰 움직임 벡터의 Vertical 성분이, 휘도 화소의 단위로 interview_vector_v_range에 설정되어 있는 값 이하인 것을 나타내고 있다. 만일 이 플래그가 존재하지 않으면, 그 값은 0이라 간주된다. 만약 프로파일이, "Stereo Profile"과 동등할 경우, 그 값은 1로 세트된다.
그리고, 이 interview_vector_v_range는, 휘도 화소의 단위로 인터뷰 움직임 벡터의 Vertical 성분의 최댓값을 나타낸다. 만일 이 설정이 존재하지 않으면, 그 값은 0이라 간주된다.
[신택스의 또 다른 예]
도 19는, 시퀀스 파라미터 세트의 신택스와, 그것에 대한 시맨틱스의 예를 나타내는 도이다. 또한, 도 19의 예는, V 방향과 H 방향의 레인지 제한 값을 신택스에 기재하는 경우의 예다.
도 19의 예의 신택스에 도시된 바와 같이, 시퀀스 파라미터 세트에 있어서, 프로파일이, 예를 들어 다시점을 서포트하는 프로파일인 "Multi-view support Profile"일 경우에, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 interview_vector_v_range_restrict_flag가 설정된다. 또한, interview_vector_v_range_restrict_flag가 1일 경우, interview_vector_v_range로서, V 방향의 레인지 제한 값과, interview_vector_h_range로서, H 방향의 레인지 제한 값이 설정된다.
또한, 시맨틱스로서는, 다음과 같이 정의되어 있다.
interview_vector_v_range_restrict_flag는 1일 경우, 디펜던트 뷰 화상에서 사용되고 있는 인터뷰 움직임 벡터의 Vertical 성분이, 휘도 화소의 단위로 interview_vector_v_range에 설정되어 있는 값 이하인 것을 나타내고 있다. 만일 이 플래그가 존재하지 않으면, 그 값은 0이라 간주된다. 만약 프로파일이, "Stereo Profile"과 동등할 경우, 그 값은 1로 세트된다.
그리고, 이 interview_vector_v_range는, 휘도 화소의 단위로 인터뷰 움직임 벡터의 Vertical 성분의 최댓값을 나타낸다. 만일 이 설정이 존재하지 않으면, 그 값은 0이라 간주된다.
또한 interview_vector_h_range는, 휘도 화소의 단위로 인터뷰 움직임 벡터의 Horizontal 성분의 최댓값을 나타낸다. 만일 이 설정이 존재하지 않으면, 그 값은 0이라 간주된다. 만일 값이 255일 경우, 그것은, Horizontal 성분에 대해서 제한이 없음을 나타낸다.
이와 같이, 인터뷰 움직임 벡터의 Horizontal 성분(즉, H 방향의 탐색 범위)도 제한을 설정할 수 있다. 이 경우, 복호측에 있어서, 도 12의 캐시(322)에 판독하는 화소의 범위가, V 방향만의 경우보다 더 좁힐 수 있으므로, 캐시(322)의 용량을 더욱 적게 할 수 있다. 이에 의해, 장치를 저렴하게 구성할 수 있다.
또한, Horizontal 방향의 레인지는, SEI 등의 Depth(또는 disparity)의 최솟값과 최댓값으로부터도 추정하는 것이 가능하다. SEI로부터 추정 가능한 최솟값, 최댓값은, 시차의 경우, Dmin, Dmax가 되고, 뎁스의 경우, Znear, Zfar가 된다.
시차의 경우, Dmax로부터, 인터뷰 움직임 벡터의 H 성분의 제한 값(IVx)의 최솟값, 최댓값을 계산에 의해 구할 수 있다. 마찬가지로, 뎁스의 경우, Znear로부터, 인터뷰 움직임 벡터의 H 성분의 제한 값(IVx)의 최솟값, 최댓값을 계산에 의해, IVx=fL/Zmax(f: 초점 거리, L: 카메라간 거리)로서 구할 수 있다.
이 값(IVx)을 사용해서 디코드함으로써, Horizontal 성분의 제한과 마찬가지로, 복호측에 있어서, 도 12의 캐시(322)에 판독하는 화소의 범위가, V 방향만의 경우보다 더 좁힐 수 있으므로, 보다 캐시(322)의 용량을 적게 할 수 있다. 이에 의해, 장치를 저렴하게 구성할 수 있다.
이상과 같이, 본 기술에 의하면, 디코딩한 결과의 움직임 벡터 레인지(길이)가 제한을 초과해서는 안된다. 그리고, 부호화측에서, 그 제한이 있는지 여부의 정보가 보내져 오고, 보내져 온 정보가 참인 경우에는, 움직임 벡터의 레인지가 제한된다.
또한, 상기 설명에서는, 움직임 벡터의 레인지의 제한 값이 고정값인 경우에 대해서 설명해 왔는데, 제한 값이 고정값인 경우, 화면의 사이즈가 커짐에 따라서, 그 제약이 엄격해져 버린다. 따라서, 이어서, 제한 값이 고정값이 아닌 경우에 대해서 설명한다. 또한, 이하, 제한 값을 제약 값으로서 설명한다.
<4. 제4 실시 형태>
[화면의 세로 해상도에 따른 제약 값]
먼저, 화면의 세로 해상도에 따라서 제약 값을 구하는 방법에 대해 설명한다. 예를 들어, 제약 값은, 화면의 세로 해상도의 비율에 의한 계산식인 다음의 식 (1)로 표현된다.
여기서, pic_height_in_luma_samples는, 시퀀스 파라미터 세트에 있어서 화면(화상 포맷)의 세로 해상도를 규정하는 것이다. α는, 뷰간의 상하 방향 화면의 어긋남에 대한 허용량을 나타낸다. 예를 들어, α=0.05가 되는데, 0.01 내지 0.3 정도의 값이라면, α는 0.05에 한정되지 않는다. 또한, 이 α를 변수로서 복호측에 보내도록 해도 된다.
또한, 식 (1)에서의 (2)는, Log의 밑이며, Log2LCUsize=4 or 5 or 6(LCU 사이즈는 16이나 32나 64)이 된다. 예를 들어, Log2LCUsize=6으로 했을 경우, 식 (1)에서의 >>6과 <<6은, 최대 CTB(Coding Tree Block)사이즈, 즉 LCU 사이즈 64단위로 제약 값을 크게 해 가는 것을 나타낸다. 이것은, 패러렐 디코드 처리를 생각했을 때의 워스트 케이스의 처리 단위 때문이다.
그리고, 마지막으로 8을 감산하고 있는 것은, 인루프 필터 4 픽셀과 움직임 보상 필터 4 픽셀 때문이다.
도 20은, 일반적인 화상 포맷에 대한 제약 값의 예를 나타내는 도이다. 이 제약 값은, 식 (1)에서 α=0.05 및 Log2LCUsize=6으로서 계산되어 있다.
도 20의 예에서는, 좌측에서부터, 화상 포맷의 명칭, 가로 해상도, 세로 해상도 및 제약 값이 나타나 있다. 1200 전후의 사이즈까지의 세로 해상도의 경우의 제약 값은 56이다. 1536 이상, 2304 전후의 사이즈까지의 세로 해상도의 경우의 제약 값은 120이다. 4096 전후의 세로 해상도의 경우의 제약 값은 248이다.
[신택스의 예]
도 21은, 시퀀스 파라미터 세트의 신택스와, 그것에 대한 시맨틱스, 및 프로파일의 예를 나타내는 도이다. 또한, 도 21의 예는, V 방향의 레인지 제한 값(제약 값)으로서, 해상도에 따른 제약 값, 즉, α=0.05 및 Log2LCUsize=6으로 했을 경우의 식 (1)이 사용되는 예다.
도 21의 예의 경우, 신택스에 나타낸 바와 같이, 시퀀스 파라미터 세트의 익스텐션에 있어서, disparity_vector_constraint_flag가 설정된다.
이것에 대해서 시맨틱스는, 다음과 같이 정의되어 있다. disparity_vector_constraint_flag=1은, disparity 벡터가 CVS(Coded Video Sequence)에 있어서 제한되어 있는 것을 명시하고 있다.
disparity_vector_constraint_flag가 1일 때, disparity 벡터의 세로 성분은, 픽셀에서의 constraint의 값(dv_constraint_value)과 같거나 그것보다 작다. 다양한 constraint의 값은, α=0.05 및 Log2LCUsize=6으로 한 식 (1)에 명시되어 있다.
disparity_vector_constraint_flag가 0일 때, disparity 벡터의 길이에 관한 제약은 없다. 그리고, 그 플래그가 존재하지 않을 때, 그 값은, 0인 것이 바람직하다.
또한, 스테레오 프로파일은, 다음과 같이 정의되어 있다. 스테레오 프로파일에 입각한 비트 스트림은, 다음에 계속되는 제약에 따른다. 논베이스 뷰에서의 시퀀스 파라미터 세트의 익스텐션은, 1과 동일한 disparity_vector_constraint_flag만 가지고 있다.
[레벨에 따른 제약 값]
이어서, 레벨에 따라서 제약 값을 구하는 방법에 대해 설명한다. 제약 값 자체는, 상술한 세로 해상도의 경우와 동일하지만, 규격서에서의 표현 방법이 상이하다. 또한, 높은 레벨에서 작은 화면 프레임을 부호화했을 경우, 제약이 느슨해진다. 즉, 예를 들어 레벨 5에서 HD 화상을 부호화하면, 세로 해상도의 경우, 제약 값이 56인데, 레벨의 경우, 제약 값은 120이 되어, 세로 해상도의 경우보다 제약을 느슨하게 할 수 있다.
도 22는, 시맨틱스의 예를 나타내는 도이다. 또한, 도 22의 예는, V 방향의 레인지 제한 값(제약 값)으로서, 레벨에 따른 제약 값을 사용하는 경우의 예다. 레벨은, 어느 정도의 픽셀을 포함하는 것인지를 나타내는 것이며, 부호화측에 있어서, 일정 정도의 범위가 설정 가능하다.
disparity_vector_constraint_flag=1은, disparity 벡터가 CVS에 있어서 제한되어 있는 것을 명시하고 있다.
disparity_vector_constraint_flag가 1일 때, disparity 벡터의 세로 성분은, 픽셀에서의 constraint의 값(dv_constraint_value)과 동일하거나, 그것보다 작다. 다양한 constraint의 값은, 테이블 A(도면 중 우측)에 명시되어 있다.
테이블 A에는, 레벨, 최대 높이 및 제약 값(dv_constraint_value)이 나타나 있다. 또한, 레벨에서의 소수점 이하는, 시간 방향의 프레임 레이트의 차이를 나타내는 것이다. 레벨의 정수 값이 4까지인 경우의 제약 값은 56이다. 레벨의 정수 값이 5인 경우의 제약 값은 120이다. 레벨의 정수 값이 6인 경우의 제약 값은 248이다.
또한, disparity_vector_constraint_flag가 0일 때, disparity 벡터의 길이에 관한 제약은 없다. 그리고, 그 플래그가 존재하지 않을 때, 그 값은, 0인 것이 바람직하다.
이상과 같이, 화면의 세로 해상도나 레벨에 따른 제약 값을 사용함으로써, 화면 사이즈가 커짐으로써 엄격해지는 제약을 느슨하게 할 수 있다. 이에 의해, 화면 사이즈가 커졌다고 해도, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
또한, 상기 설명에서는, 베이스 뷰와 디펜던트 뷰의 2 시점의 예를 설명했지만, 2 시점에 한정되지 않고, 본 기술은, 2 시점 이외의 다시점 화상의 부호화, 복호에도 적용할 수 있다.
또한, 본 기술은, 후술하는 스케일러블 부호화(계층 부호화)에 관한 규격인 SHVC(Scalable HEVC)에도 적용할 수 있는데, 본 기술을 SHVC에 적용하는 경우, 상술한 예 이외에, 이하의 제약의 필요성도 생각할 수 있다.
<5. 제5 실시 형태>
[SHVC에 적용하는 경우의 제약]
이어서, 도 23을 참조하여, 본 기술을 SHVC에 적용하는 경우에 필요한 제약에 대해서 설명한다.
도 23의 예에서는, 베이스 레이어(Base Layer)와, 인핸스먼트 레이어(Enhancement Layer)가 나타나 있다. 지금, 인핸스먼트 레이어의 커런트 화상(Curr.)에 있어서, 쇼트 텀(short-term)의 예측 벡터로서, MV가, 참조 화상(ref)에 대하여 탐색되어 있다. 또한, 인핸스먼트 레이어의 커런트 화상(Curr.)에 있어서, 롱 텀의 예측 벡터로서, MV_IL(InterLayyer)이 화상(rSpic.)에 대하여 탐색되어 있다. 이 화상(rSpic.)은, DPB(Decoded Picture Buffer), 예를 들어 도 2의 DPB(25)(도 11의 DPB(226)) 내의 베이스 레이어의 저해상도 참조 화상(rlpic)이 리샘플링 처리(re-sample process)에 의해 업 샘플링된 것이다.
이러한 경우, 레이어간의 예측 벡터(인터 레이어 예측 벡터)인 MV_IL에 대하여, 이하의 3종류의 제약의 필요성이 생각된다.
·MV_IL은, 반드시 0일 필요가 있다.
·MV_IL은, 1 화소 이하일 필요가 있다.
·MV_IL은, X 화소 이하일 필요가 있다.
[제약 MV_IL=0에 대해서]
먼저, 도 24를 참조하여, MV_IL=0의 제약에 대해서 설명한다. 도 24의 예에서는, 인핸스먼트 레이어의 커런트 화상(Curr.)에 있어서, 인터 레이어 예측 벡터(MV_IL)가, 화상(rSpic.)에 대하여 탐색되어 있다. 화상(rSpic.)은, 도 23을 참조하여 상술한 바와 같이, DPB(25)(DPB(226)) 내의 베이스 레이어의 저해상도 참조 화상(rlpic)이 리샘플링 처리(re-sample process)에 의해 업 샘플링된 것이다.
여기서, MV_IL=0의 제약이 있을 경우, 스케일러블 비디오 프로파일은, 다음과 같이 정의된다. 스케일러블 비디오 프로파일에 입각한 비트 스트림은, 다음에 계속되는 제약에 따른다. 가로 성분과 세로 성분의 양쪽의 인터 레이어 예측 벡터는, 0과 동일하다.
이상과 같이, MV_IL=0의 제약에 의해 동일한 위치의 화소밖에 참조하지 않기 때문에, 실장이 가장 간단해진다.
[제약(MV_IL은, 1 화소 이하임)에 대해서]
이어서, 도 25를 참조하여, MV_IL은, 1 화소 이하인 제약에 대해서 설명한다. 도 25의 예에서는, 인핸스먼트 레이어의 커런트 화상(Curr.)에 있어서, 인터 레이어 예측 벡터(MV_IL)가 화상(rSpic.)에 대하여 탐색되어 있다. 화상(rSpic.)은, 도 23을 참조하여 상술한 바와 같이, DPB(25)(DPB(226)) 내의 베이스 레이어의 저해상도 참조 화상(rlpic)이 리샘플링 처리(re-sample process)에 의해 업 샘플링된 것이다.
여기서, 베이스 레이어에서의 원화의 저해상도 화상 제작시의 다운 샘플링과, DPB(25)(DPB(226))에서의 업 샘플링시의 필터가 상이하게 됨으로써, 위상 이동이 일어나버릴 우려가 있다.
예를 들어, 인핸스먼트 레이어에 대한 입력의 원화는, 좌측에서부터 1 내지 4번째의 화소로 구성되어 있다고 하자. 그리고, 부호화측에서의 베이스 레이어에 있어서, 원화의 좌측에서부터 2번째의 화소의 타이밍 및 4번째의 화소의 타이밍에서 다운 샘플링된 축소화 A와, 원화의 좌측에서부터 1번째와 2번째의 사이의 타이밍 및 3번째와 4번째의 사이의 타이밍에서 다운 샘플링된 축소화 B가 있었다고 해도, 그 축소화를 만드는 방법은, 부호화측밖에 알 수 없다.
즉, 복호측에서는, 축소화를 만드는 방법을 알 수 없으므로, DPB(25)(DPB(226))에서의 업 샘플링 시에, 좌측에서부터 2 내지 5번째의 화소에서 업 샘플링되어버리면, 복호측에서 업 샘플링된 확대 화상은, 원화와 어긋남이 발생해버린다.
따라서, MV_IL은, 1 화소 이하라는 제약에 의해, 베이스 레이어에서의 원화의 저해상도 화상 제작시의 다운 샘플링과, DPB(25)(DPB(226))에서의 업 샘플링시의 필터가 상이함으로 인한 위상 어긋남이 있다고 해도, MV_IL에서 흡수할 수 있다.
여기서, MV_IL은, 1 화소 이하라는 제약이 있을 경우, 스케일러블 비디오 프로파일은, 다음과 같이 정의된다. 스케일러블 비디오 프로파일에 입각한 비트 스트림은, 다음에 계속되는 제약에 따른다. 가로 성분과 세로 성분의 양쪽의 인터 레이어 예측 벡터는, 0과 동일하거나, 또는, 픽셀에 있어서 1보다 작다.
[제약(MV_IL은, X 화소 이하임)에 대해서]
이어서, 도 26을 참조하여, MV_IL은, X 화소 이하인 제약에 대해서 설명한다. 도 26의 예에서는, 인핸스먼트 레이어의 커런트 화상(Curr.)에 있어서, 인터 레이어 예측 벡터(MV_IL)가 화상(rSpic.)에 대하여 탐색되어 있다. 화상(rSpic.)은, 도 23을 참조하여 상술한 바와 같이, DPB(25)(DPB(226)) 내의 베이스 레이어의 저해상도 참조 화상(rlpic)이 리샘플링 처리(re-sample process)에 의해 업 샘플링된 것이다.
여기서, 예를 들어 저해상도 화상과 고해상도 화상이 서로 다른 렌즈를 사용하는 등 다른 계에서 촬영된 경우, 또는, 저해상도 화상이, ROI(Region of interest) 중심으로 고해상도 화상으로부터 잘라내서 만들어진 경우에는, MV_IL에 제한이 없는 것이 더 유효하게 된다.
단, 그 경우도, 패러렐 디코드를 생각한 제약이 있으면 바람직하다. 예를 들어, 다음 식 (2) 나타내는 constraint 이내의 MV_IL이라면, 베이스 레이어와 인핸스먼트 레이어를 병행해서 디코드 가능하다.
여기서, scale_factor는, 확대율을 나타내고 있다. BL_CTBsize와 EL_CTBsize는, 베이스 레이어와 인핸스먼트 레이어의 CTB 사이즈를 각각 나타내고 있다.
도 26의 우측에 도시된 바와 같이, 구체적으로는, 베이스 레이어의 CTB 사이즈가 64이고, 확대율이 2인 경우, 베이스 레이어를 1CTB 디코드하면, 인핸스먼트 레이어의 최초의 CTB의 움직임 벡터가 56 화소 이하이면 디코드를 개시할 수 있다.
여기서, MV_IL은, X 화소 이하라는 제약이 있을 경우, 스케일러블 비디오 프로파일은 다음과 같이 정의된다. 스케일러블 비디오 프로파일에 입각한 비트 스트림은, 다음에 계속되는 제약에 따른다. 가로 성분과 세로 성분의 양쪽의 인터 레이어 예측 벡터는, 0과 동일하거나, 또는, 픽셀에 있어서 1보다 작다. 다양한 인터 레이어 제약 값은, 상술한 식 (2)에 명시되어 있다. 예를 들어, 인터 레이어 제약 값은, (2×64-64)-8=56[pixel]이 된다.
이상과 같이, SHVC(즉, 스케일러블 부호화)의 경우에는, 상술한 바와 같은 움직임 벡터의 레인지의 제약을 붙이는 것으로도, 복수 레이어-(뷰)의 픽처를 병렬로 처리할 수 있다.
또한, 상기 설명에서는, 프로파일에 있어서, 움직임 벡터의 제한을 정의하는 예로서 3가지 경우를 설명했지만, 예를 들어 그 제한이 있고 없음의 ON/OFF를 플래그로 해서, 부호화측에서 복호측으로 보내도록 해도 된다.
또한, 상술한 움직임 벡터의 레인지의 제한 값에 관한 플래그가, SPS나 SPS_EXT(Extention)에 기술되는 예를 설명했지만, 다음에 설명한 바와 같이 VPS(Video Parameter Set)_EXT나 VUI(Video Usability Information)_EXT 등에 설정하여, 복호측에 전송하는 것도 가능하다. 또한, 이하에서는, inter_view_mv_vert_constraint_flag가, 움직임 벡터의 레인지의 제한 값에 관한 플래그를 나타낸다.
<6. 제6 실시 형태>
[신택스의 다른 예(VPS_EXT)]
도 27은, VPS_EXT의 신택스와, 그것에 대한 시맨틱스의 예를 나타내는 도이다.
도 27의 예의 신택스에 도시된 바와 같이, inter_view_mv_vert_constraint_flag는, 1 내지 최대 레이어수-1마다(즉, 레이어마다) 설정된다. 또한, Base view에 있어서는 불필요하므로, 레이어수는 0보다 크다.
또한, 시맨틱스로서는, 다음과 같이 정의되어 있다.
inter_view_mv_vert_constraint_flag[i]은, i번째의 레이어의 VCL의 NAL 유닛에서의 신택스 엘리먼트인 inter_view_mv_vert_constraint_flag의 값을 명시하고 있다. 이 플래그가 존재하지 않을 때, 1부터 vps_max_layers_minus1까지의 범위에서의 i의 사이를 포괄하여, inter_view_mv_vert_constraint_flag[i]의 값은 0과 동일하다고 추측된다.
1과 동일한 inter_view_mv_vert_constraint_flag는, 인터 레이어 예측에서 사용되고 있는 움직임 벡터의 수직 성분이 CVS에 있어서 제약되어 있음을 명시하고 있다. inter_view_mv_vert_constraint_flag가 1과 동일할 때, 인터 레이어 예측에서 사용되고 있는 움직임 벡터의 수직 성분은, 휘도 화소의 단위로 56 이하일 것이다.
inter_view_mv_vert_constraint_flag가 0과 동일할 때, 이 플래그에 의해 나타나는 인터 레이어 예측에서 사용되고 있는 움직임 벡터의 수직 성분의 제약은 없다.
[스테레오 프로파일에서의 제약]
도 28은, 움직임 벡터의 레인지의 제한 값에 관한 플래그가 SPS_EXT 신택스에 기술되는 경우(이하, SPS_EXT의 경우라고 함) 및 VPS_EXT 신택스에 기술되는 경우(이하, VPS_EXT의 경우라고 함) 각각의 스테레오 프로파일에서의 제약의 예를 나타내고 있다. SPS_EXT 신택스에 기술되는 경우의 스테레오 프로파일은, VPS_EXT 신택스에 기술되면 프레임으로 둘러싸인 부분만이 변경된다.
즉, SPS_EXT 신택스에 기술되는 경우, 「레이어 id가 i의 부호화 화상에서의 액티브 레이어의 SPS의 SPS_EXT 구조에 있어서, ViewID[i]가 0보다 클 때, inter_view_mv_vert_constraint_flag는 1과 동일하다.」라고 기술되어 있다.
이에 반해, VPS_EXT 신택스에 기술되는 경우, 「레이어 id가 i의 부호화 화상에서의 VPS_EXT 구조에 있어서, ViewID[i]가 0보다 클 때, ViewId[i]의 inter_view_mv_vert_constraint_flag는 1과 동일하다.」로 변경된다.
[SPS_EXT의 경우와 VSP_EXT의 경우의 차분]
도 29는, SPS_EXT의 경우와, VSP_EXT의 경우의 기술적인 차분에 대해서 설명하는 도이다.
VSP_EXT의 경우에 있어서, SPS_EXT의 경우와 동일한 점으로서는, 시점마다 부호화할 수 있으므로, 비트 스트림 레벨(bitstream level)의 트랜스 코드가 가능한 것을 들 수 있다.
한편, VSP_EXT의 경우에 있어서, SPS_EXT의 경우와 상이한 점 중, 첫번째로서는, VPS는, 시퀀스의 제일 선두에 위치하고, SPS보다 고위의 신택스이며, SPS(뷰)마다의 통합된 정보가 포함되어 있다. 따라서, VSP_EXT에 기술되고, 또한, 뷰가 멀티 뷰인 경우에는, 각 SPS를 처리하기 전에 보다 빨리 각 시점에서의 비트 스트림 제약을 알 수 있다. 그로 인해, 디코더 코어의 부하 분산이 용이한 것을 들 수 있다.
구체적으로는, 도 30에 도시된 바와 같이, 예를 들어 9 시점인 경우, 도면 중 세로 방향의 참조 관계는, 부호화 효율이 나쁘므로, 움직임 벡터의 레인지의 제한 값에 관한 플래그를 0으로 설정하는 것이 바람직하다. 이에 반해, 도면 중 가로 방향의 참조 관계는, 움직임 벡터의 레인지의 제한 값에 관한 플래그를 1로 해서 제약을 붙일 수 있다.
VSP_EXT의 경우, 이러한 제약의 정보를 보다 빨리 알 수 있으므로, 예를 들어 도 30 중, 가로에 위치하는 2개의 뷰가, 움직임 벡터의 레인지의 제약이 설정되어 있는 스테레오 프로파일에 준거하고 있음을 보다 빨리 알 수 있어, 그 2개의 뷰를 스테레오로서 취출하는 것이 가능해진다. 이에 의해, 부하 분산이 용이해진다.
또한, 도 29로 돌아가서, VSP_EXT의 경우에 있어서, SPS_EXT의 경우와 상이한 점 중, 두번째로서는, 변형예로서, 3D 프로파일의 경우에만 플래그를 보낸다는 신택스로 했을 경우, 그 판단이 용이해진다.
또한, Ying Chen, Ye-Kui Wang, "AHG7: Comments on parameter sets for MV-HEVC", JCT3V-D0196, 2013. 4. 13(이하, 참고 문헌 1이라고 함)에는, VPS_EXT에 있어서, iner_view_mv_vert_constraint_flag가 설정되는 것이 제안되어 있다.
그러나, 도 31에 도시된 바와 같이, 신택스에 있어서, 그 플래그에는, 1비트밖에 설치되어 있지 않다. 이로 인해, 참고 문헌 1의 제안에서는, 시점수가 복수인 경우에, 시점마다의 정보를 기술할 수 없다.
따라서, 도 31에서도, 예를 들어 9 시점인 경우, 도 30의 경우와 마찬가지로, 도면 중 세로 방향의 참조 관계는, 부호화 효율이 나쁘므로, 움직임 벡터의 레인지의 제한 값에 관한 플래그를 0으로 설정한다. 그러나, 참고 문헌 1의 제안의 경우, 본 기술의 경우와 달리, 도면 중 가로 방향의 참조 관계에 대하여 움직임 벡터의 레인지의 제약을 개별로 붙일 수 없다.
[신택스의 다른 예(VUI_EXT)]
도 32는, VUI_EXT의 신택스의 예를 나타내는 도이다.
도 32의 예의 신택스에 도시된 바와 같이, inter_view_mv_vert_constraint_flag는, VUI_EXT에서의 bitstream_restriction_flag 중에 포함되어 있다. bitstream_restriction_flag에는, 비트 스트림 제약이 기술되어 있다.
또한, 도 32의 예의 신택스에 도시된 바와 같이, VUI_EXT는, SPS_EXT의 하나로서, SPS의 후반 부분에 포함되어 있기 때문에, 시맨틱스나 스테레오 프로파일 제약에 대해서는, SPS_EXT의 경우와 거의 동일하다.
또한, 기술적인 차분에 대해서는, VUI_EXT의 경우에 있어서, SPS_EXT의 경우와 거의 동일하다. 단, VUI_EXT의 경우에, SPS_EXT의 경우와 상이한 점으로서는, VUI는, 디코드 결과에 영향을 주지 않는 정보를 기술하는 장소이기 때문에, 플래그의 값에 의하지 않고, 디코드 결과(=디코드 화상)가 동일한 것이 명확해서, 바로 알 수 있다는 이점이 있다. 또한, 이 플래그는, 인코드 제약의 플래그이므로, 이 비트 스트림 제약에 있는 것이 적절하기도 하다.
또한, 상술한 움직임 벡터의 레인지의 제한 값에 관한 플래그를, VPS_EXT나 VUI_EXT에 설정하는 경우도, SPS(_EXT)에 설정하는 경우와, 플래그의 설정 장소가 상이할 뿐으로, 기본적으로 마찬가지의 처리를 행하기 때문에, 그 설명은 반복되므로 생략된다.
즉, VPS_EXT나 VUI_EXT에 설정하는 경우의 플래그에 관한 각 처리도, 상술한 도 1의 다시점 화상 부호화 장치(11)와 도 10의 다시점 화상 복호 장치(211)에 의해 행하여지는 처리다. 따라서, 상술한 도 1의 다시점 화상 부호화 장치(11)와 도 10의 다시점 화상 복호 장치(211)는, SPS의 경우의 각 처리(도 7의 다시점 화상 부호화 처리, 도 9의 디펜던트 뷰 화상의 부호화 처리, 도 13의 다시점 화상 복호 처리, 도 16의 신택스 부호화 처리, 도 17의 디펜던트 뷰 화상의 부호화 처리 등)와 기본적으로 마찬가지의 처리를 행한다.
이상과 같이, 상술한 움직임 벡터의 레인지의 제한 값에 관한 플래그를, VPS_EXT나 VUI_EXT 등에 설정해도, SPS_EXT에 설정한 경우와 마찬가지로, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
또한, 상기 설명에서는, 움직임 벡터의 레인지를 제한(제약)하는 방법으로서, 제한 값에 관한 플래그를 전송하는 예를 설명하였다. 여기서, Robert Skupin, Karsten Suhring, Yago Sanchez de la Fuente, Thomas Schierl, A. K. Ramasubramonian, Y. Chen, Y. -K. Wang, V. Seregin, L. Zhang, T. Ikai, and Y. Yamamoto, "Inter-layer delay indication in VUI(combining aspects of JCTVC-M0200, JCT3V-D0064 and JCT3V-D0199)", JCTVC-M0463, 2013. 5. 24(이하, 참고 문헌 2라고 함)에는, 레이어간의 디코드 딜레이 정보를 VUI_EXT에 기술하는 것이 제안되어 있다.
다음에 설명한 바와 같이, 상술한 플래그 이외의 방법으로서, 참고 문헌 2의 제안에 기재된 방법(즉, CTU 라인에 의한 설정)으로, 움직임 벡터의 레인지를 제한(제약)하는 것도 가능하다.
또한, 여기서, 본 명세서에 있어서, CTU(Coding Tree Unit)는, LCU(최대수의 CU)의 CTB(Coding Tree Block)와, 그 LCU 베이스(레벨)에서 처리할 때의 파라미터를 포함하는 단위라고 한다. 또한, CTU를 구성하는 CU(Coding Unit)는, CB(Coding Block)와, 그 CU 베이스(레벨)에서 처리할 때의 파라미터를 포함하는 단위라고 한다.
<7. 제7 실시 형태>
[움직임 벡터의 레인지의 제약의 다른 예]
도 33은, 참고 문헌 2의 제안에서의 신택스의 예를 나타내는 도이다.
도 33에 도시된 바와 같이, 참고 문헌 2의 제안에서는, SPS_EXT의 VUI_EXT에서의 bitstream_restriction_flag 중, 레이어간의 디코드 딜레이 정보(디코드 지연 정보)가 기술되어 있다.
도 33의 신택스에 대해서 위에서부터 순차적으로 설명한다. 레이어간의 디코드 딜레이 정보 중, num_delay_ref_layers에는, 0 또는 참조 레이어수가 기술된다. num_delay_ref_layers는, 0이라면, 움직임 벡터의 레인지의 제약이 없는 것을 나타내고 있다. 여기에 기술된 참조 레이어수만큼, 이하의 루프가 반복된다.
min_spatial_segment_delay[i]에는, 참조 레이어로부터 딜레이하는 세로 방향의 CTU 라인의 수가 기술된다. 이 CTU의 사이즈는, 참조하는 CTU의 크기에 의존한다. ctu_based_delay_enabled_flag[i]에는, x 방향의 Delay 정보(Delay의 유무)가 기술된다. min_delay_ctb_horizontal[i]에는, 참조 레이어의 동일한 위치의 CTB로부터 딜레이하는 (X 방향의) CTU의 수가 기술된다.
또한, 레이어간의 디코드 딜레이 정보는, VUI(SPS_EXT)에 있으므로, 각 레이어에 대해서 기술 가능하고, 예를 들어 도 33에 도시된 바와 같이, 레이어 2(Layer 2)의 경우, 참조하지 않을 수도 있고, 레이어 0(Layer 0)과 레이어 1(Layer 1)의 양쪽 또는 어느 한쪽에 대한 딜레이 정보를 기술할 수 있다.
[신택스의 설정예]
또한, 도 34를 참조하여 도 33의 신택스의 설정예에 대해서 설명한다. 도 34의 예에서는, 레이어 0(Layer 0: baselayer)과 레이어 1(Layer 1)이 나타나 있다.
레이어 1의 Current CU가 나타나 있고, 레이어 0에는, 레이어 1의 Current CU에 동일한 위치에서, Current CU(이하, Curr CU라고 함)에 대응하는 CU인 Co-located CU(이하, Col CU라고 함)가 나타나 있다.
여기서, 예를 들어 레이어 0이, 해칭되어 있는 CU까지의 디코드가 종료되면, 레이어 1의 Curr CU를 디코드할 수 있을 경우에 있어서의 레이어 1의 SPS_EXT_VUI에서는, 다음과 같이 설정된다.
num_delay_ref_layers=1
min_spatial_segment_delay[0]=2
ctu_based_delay_enabled_flag[0]=1
min_delay_ctb_horizontal[0]=3
즉, 참조 레이어수는 1이며, 참조 레이어로부터 딜레이하는 CTU 라인수는 2이다. x 방향의 Delay가 있고, 그 수는, Col CU로부터 3CTU이도록 설정된다.
여기서, 본 기술에 의한 움직임 벡터의 레인지의 제약은, MV_V≤56pixel이다. 이것은, CTUsize=64인 경우의 1 라인 딜레이에 상당하고, CTUsize=32인 경우의 2 라인 딜레이에 상당하고, CTUsize=16인 경우의 4 라인 딜레이에 상당한다.
즉, 이것은, 다음 식 (3)으로 나타내는 라인 딜레이에 상당한다. 또한, 식 (3)에서의 Log의 밑은 2이다.
[수학식 3]
따라서, CTU 라인의 설정에 있어서, 세로 방향의 딜레이수를, 이 식 (3)으로 설정함으로써, 딜레이 정보로서는 플래그의 경우와 동일한 기재 방식을 취할 수 있다.
[스테레오 프로파일에서의 제약]
도 35는, 움직임 벡터의 레인지의 제한 값에 관한 플래그가 SPS_EXT 신택스에 기술되는 경우와, VUI에 있어서 CTU 라인에서 설정하는 경우의 각각의 스테레오 프로파일에서의 제약의 예를 나타내고 있다. 또한, SPS_EXT 신택스에 기술되는 경우의 스테레오 프로파일은, VUI에 있어서 CTU 라인에서 설정되면, 프레임으로 둘러싸인 부분만이 변경된다.
즉, SPS_EXT 신택스에 기술되는 경우, 「레이어 id가 i의 부호화 화상에서의 액티브 레이어의 SPS의 SPS_EXT 구조에 있어서, ViewID[i]가 0보다 클 때, inter_view_mv_vert_constraint_flag는 1과 동일하다.」라고 기술되어 있다.
이에 반해, CTU 라인에 의한 설정의 경우, 「레이어 id가 i의 부호화 화상에서의 액티브 레이어의 SPS의 SPS_EXT 구조에 있어서, ViewID[i]가 0보다 클 때, num_delay_ref_layers는 1과 동일하고, 또한, min_spatial_segment_delay[0]은, 1 <<(6-refLog2CtbSizeY)와 동일하다.」로 변경된다.
즉, SPS_EXT에서의 플래그의 경우, 벡터가 이 범위로 제한되어 있음을 의미하고 있고, CTU 라인에 의한 설정의 경우, 이것만 기다리면 디코드를 개시할 수 있음을 의미하고 있으며, 양자는, 디코드측에 있어서는 동의이다.
[SPS_EXT의 경우와 CTU 라인에 의한 제약의 경우의 차분]
도 36은, SPS_EXT의 경우(즉, 플래그의 경우)와, CTU 라인에 의한 제약의 기술적인 차분에 대해서 설명하는 도이다.
CTU 라인에 의한 제약은, 디코더측의 딜레이 정보로서는, 상술한 바와 같이 SPS_EXT의 경우와 거의 동일한 것이다.
한편, CTU 라인에 의한 제약에 있어서, SPS_EXT의 경우와 상이한 점은, 인코더측에 있어서, 참조면에서의 루프 필터의 온/오프, 또한, Y 방향의 시차 벡터가 정수 정밀도인지 여부에 의해, MV_V≤56pixel이라는 제약을 변경할 수 있다는 점이다.
구체적으로는, 루프 필터 오프의 경우, MV_V≤60(=64-MC 필터의 오프셋4)pixel까지 움직임 벡터의 범위를 연장시킬 수 있다. 또한, 움직임 벡터장이 정수의 경우, MC 필터가 불필요하게 되므로, MV_V≤60(=64-루프 필터의 오프셋의 4) pixel까지 움직임 벡터의 범위를 연장시킬 수 있다. 또한, 루프 필터 오프 및 움직임 벡터 길이가 정수인 경우, MV_V≤64pixel까지 움직임 벡터의 범위를 연장시킬 수 있다.
즉, 인코더측으로서는, 제약을 완화할 수 있다. 또한, 반대로 말하면, CTU 라인에 의한 제약에 있어서는, 56pixel이라는 미세한 설정은 할 수 없다.
또한, CTU 라인에 의한 제약의 경우와 플래그 설정하는 경우는, 플래그로 설정할지, 또는, CTU 라인의 제약에 있어서 세로 방향의 딜레이수를 상술한 식 (3)으로 설정할지의 설정 정보의 차이만이다. 즉, 처리에 있어서는, 설정 정보의 차이와, 처리에서의 분기가, 플래그에 의한 판단인지, 또는, CTU 라인의 설정에서의 세로 방향의 딜레이수에 의한 판단인지의 차이만이며, 그 이외(예를 들어, 다른 처리 내용이나 처리 타이밍 등)에는, 기본적으로 마찬가지의 처리를 행하기 때문에, 그 설명은 반복되므로 생략된다.
즉, CTU 라인에 의한 설정에 관한 각 처리도, 상술한 도 1의 다시점 화상 부호화 장치(11)와 도 10의 다시점 화상 복호 장치(211)에 의해 행하여진다. 상술한 도 1의 다시점 화상 부호화 장치(11)와 도 10의 다시점 화상 복호 장치(211)는, 설정 정보의 분기에서의 판단의 차이 이외에는, 상술한 도 1의 다시점 화상 부호화 장치(11)와 도 10의 다시점 화상 복호 장치(211)에 의한 SPS의 경우의 각 처리(도 7의 다시점 화상 부호화 처리, 도 9의 디펜던트 뷰 화상의 부호화 처리, 도 13의 다시점 화상 복호 처리, 도 16의 신택스 부호화 처리, 도 17의 디펜던트 뷰 화상의 부호화 처리 등)와 기본적으로 마찬가지의 처리를 행한다.
이상과 같이, CTU 라인에 의한 설정으로도, 움직임 벡터의 제약 플래그와 마찬가지로, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
이상에서는, 부호화 방식으로서 HEVC 방식을 기초로 사용하도록 하였다. 단, 본 개시는 이에 한정되지 않고, 그 밖의 부호화 방식/복호 방식을 적용할 수 있다.
또한, 본 개시는, 예를 들어 HEVC 방식 등과 같이, 이산 코사인 변환 등의 직교 변환과 움직임 보상에 의해 압축된 화상 정보(비트 스트림)를, 위성 방송, 케이블 텔레비전, 인터넷 또는 휴대 전화기 등의 네트워크 미디어를 통해서 수신할 때에 사용되는 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다. 또한, 본 개시는, 광, 자기 디스크 및 플래시 메모리와 같은 기억 미디어 상에서 처리할 때에 사용되는 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다.
<8. 제8 실시 형태>
[다시점 화상 부호화·다시점 화상 복호에 대한 적용]
상술한 일련의 처리는, 다시점 화상 부호화·다시점 화상 복호에 적용할 수 있다. 도 37은, 다시점 화상 부호화 방식의 일례를 나타낸다.
도 37에 도시된 바와 같이, 다시점 화상은, 복수의 시점의 화상을 포함하고, 그 복수의 시점 중 소정의 하나의 시점의 화상이, 베이스 뷰의 화상으로 지정되어 있다. 베이스 뷰의 화상 이외의 각 시점의 화상은, 논베이스 뷰의 화상으로서 취급된다.
도 37과 같은 다시점 화상 부호화를 행하는 경우, 각 뷰(동일 뷰)에 있어서, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 설정할 수 있다. 또한, 각 뷰(상이한 뷰)에 있어서, 다른 뷰에서 설정된 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 공유할 수도 있다.
이 경우, 베이스 뷰에 있어서 설정된 인터뷰 움직임 벡터의 탐색 범위 제한 정보가, 적어도 하나의 논베이스 뷰에서 사용된다. 또는, 예를 들어 논베이스 뷰(view_id=i)에 있어서 설정된 인터뷰 움직임 벡터의 탐색 범위 제한 정보가, 베이스 뷰 및 논베이스 뷰(view_id=j)의 적어도 어느 한쪽에서 사용된다.
이에 의해, 인터뷰 움직임 벡터의 탐색 범위의 V 방향을 제한할 수 있다. 따라서, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
[다시점 화상 부호화 장치]
도 38은, 상술한 다시점 화상 부호화를 행하는 다시점 화상 부호화 장치를 도시하는 도이다. 도 38에 도시된 바와 같이, 다시점 화상 부호화 장치(600)는, 부호화부(601), 부호화부(602) 및 다중화부(603)를 갖는다.
부호화부(601)는, 베이스 뷰 화상을 부호화하여, 베이스 뷰 화상 부호화 스트림을 생성한다. 부호화부(602)는, 논베이스 뷰 화상을 부호화하여, 논베이스 뷰 화상 부호화 스트림을 생성한다. 다중화부(603)는, 부호화부(601)에서 생성된 베이스 뷰 화상 부호화 스트림과, 부호화부(602)에서 생성된 논베이스 뷰 화상 부호화 스트림을 다중화하여, 다시점 화상 부호화 스트림을 생성한다.
이 다시점 화상 부호화 장치(600)의 부호화부(601) 및 부호화부(602)에 대하여 다시점 화상 부호화 장치(11)(도 1)를 적용할 수 있다. 이 경우, 다시점 화상 부호화 장치(600)는, 부호화부(601)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보와, 부호화부(602)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 설정해서 전송시킨다.
또한, 상술한 바와 같이 부호화부(601)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를, 부호화부(601) 및 부호화부(602)에서 공유해서 사용하도록 설정하여 전송시키도록 해도 된다. 반대로, 부호화부(602)가 통합해서 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를, 부호화부(601) 및 부호화부(602)에서 공유해서 사용하도록 설정하여 전송시키도록 해도 된다.
[다시점 화상 복호 장치]
도 39는, 상술한 다시점 화상 복호를 행하는 다시점 화상 복호 장치를 도시하는 도이다. 도 39에 도시된 바와 같이, 다시점 화상 복호 장치(610)는, 역 다중화부(611), 복호부(612) 및 복호부(613)를 갖는다.
역 다중화부(611)는, 베이스 뷰 화상 부호화 스트림과 논베이스 뷰 화상 부호화 스트림이 다중화된 다시점 화상 부호화 스트림을 역 다중화하여, 베이스 뷰 화상 부호화 스트림과, 논베이스 뷰 화상 부호화 스트림을 추출한다. 복호부(612)는, 역 다중화부(611)에 의해 추출된 베이스 뷰 화상 부호화 스트림을 복호하여, 베이스 뷰 화상을 얻는다. 복호부(613)는, 역 다중화부(611)에 의해 추출된 논베이스 뷰 화상 부호화 스트림을 복호하여, 논베이스 뷰 화상을 얻는다.
이 다시점 화상 복호 장치(610)의 복호부(612) 및 복호부(613)에 대하여, 다시점 화상 복호 장치(211)(도 10)를 적용할 수 있다. 이 경우, 다시점 화상 복호 장치(610)는, 부호화부(601)가 설정하고, 복호부(612)가 복호한 인터뷰 움직임 벡터의 탐색 범위 제한 정보와, 부호화부(602)가 설정하고, 복호부(613)가 복호한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 사용해서 처리를 행한다.
또한, 상술한 바와 같이 부호화부(601)(또는, 부호화부(602))가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를, 부호화부(601) 및 부호화부(602)에서 공유해서 사용하도록 설정하여 전송되고 있는 경우가 있다. 이 경우, 다시점 화상 복호 장치(610)에서는, 부호화부(601)(또는, 부호화부(602))가 설정하고, 복호부(612)(또는 복호부(613))가 복호한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 사용해서 처리가 행하여진다.
<9. 제9 실시 형태>
[계층 화상 부호화·계층 화상 복호에 대한 적용]
상술한 일련의 처리는, 계층 화상 부호화·계층 화상 복호에 적용할 수 있다. 도 40은, 다시점 화상 부호화 방식의 일례를 나타낸다.
도 40에 도시된 바와 같이, 계층 화상은, 복수의 계층(해상도)의 화상을 포함하고, 그 복수의 해상도 중 소정의 하나의 계층의 화상이, 베이스 레이어의 화상으로 지정되어 있다. 베이스 레이어의 화상 이외의 각 계층의 화상은, 논베이스 레이어의 화상으로서 취급된다.
도 40과 같은 계층 화상 부호화(공간 스케일러빌리티)를 행하는 경우, 각 레이어(동일 레이어)에 있어서, 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 설정할 수 있다. 또한, 인터뷰 움직임 벡터는, 계층 화상의 경우에 있어서는, 인터 레이어 움직임 벡터와 동일한 것을 나타낸다. 또한, 각 레이어(상이한 레이어)에 있어서, 다른 레이어에서 설정된 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 공유할 수 있다.
이 경우, 베이스 레이어에 있어서 설정된 인터뷰 움직임 벡터의 탐색 범위 제한 정보가, 적어도 하나의 논베이스 레이어에서 사용된다. 또는, 예를 들어 논베이스 레이어(layer_id=i)에 있어서 설정된 인터뷰 움직임 벡터의 탐색 범위 제한 정보가, 베이스 레이어 및 논베이스 레이어(layer_id=j)의 적어도 어느 한쪽에서 사용된다.
이에 의해, 인터뷰 움직임 벡터의 탐색 범위의 V 방향을 제한할 수 있다. 따라서, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
[계층 화상 부호화 장치]
도 41은, 상술한 계층 화상 부호화를 행하는 계층 화상 부호화 장치를 도시하는 도이다. 도 41에 도시된 바와 같이, 계층 화상 부호화 장치(620)는, 부호화부(621), 부호화부(622) 및 다중화부(623)를 갖는다.
부호화부(621)는, 베이스 레이어 화상을 부호화하여, 베이스 레이어 화상 부호화 스트림을 생성한다. 부호화부(622)는, 논베이스 레이어 화상을 부호화하여, 논베이스 레이어 화상 부호화 스트림을 생성한다. 다중화부(623)는, 부호화부(621)에서 생성된 베이스 레이어 화상 부호화 스트림과, 부호화부(622)에서 생성된 논베이스 레이어 화상 부호화 스트림을 다중화하여, 계층 화상 부호화 스트림을 생성한다.
이 계층 화상 부호화 장치(620)의 부호화부(621) 및 부호화부(622)에 대하여, 다시점 화상 부호화 장치(11)(도 1)를 적용할 수 있다. 이 경우, 계층 화상 부호화 장치(620)는, 부호화부(621)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보와, 부호화부(602)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 설정해서 전송시킨다.
또한, 상술한 바와 같이 부호화부(621)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를, 부호화부(621) 및 부호화부(622)에서 공유해서 사용하도록 설정하여 전송시키도록 해도 된다. 반대로, 부호화부(622)가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를, 부호화부(621) 및 부호화부(622)에서 공유해서 사용하도록 설정하여 전송시키도록 해도 된다.
[계층 화상 복호 장치]
도 42는, 상술한 계층 화상 복호를 행하는 계층 화상 복호 장치를 도시하는 도이다. 도 42에 도시된 바와 같이, 계층 화상 복호 장치(630)는, 역 다중화부(631), 복호부(632) 및 복호부(633)를 갖는다.
역 다중화부(631)는, 베이스 레이어 화상 부호화 스트림과 논베이스 레이어 화상 부호화 스트림이 다중화된 계층 화상 부호화 스트림을 역 다중화하여, 베이스 레이어 화상 부호화 스트림과, 논베이스 레이어 화상 부호화 스트림을 추출한다. 복호부(632)는, 역 다중화부(631)에 의해 추출된 베이스 레이어 화상 부호화 스트림을 복호하여, 베이스 레이어 화상을 얻는다. 복호부(633)는, 역 다중화부(631)에 의해 추출된 논베이스 레이어 화상 부호화 스트림을 복호하여, 논베이스 레이어 화상을 얻는다.
이 계층 화상 복호 장치(630)의 복호부(632) 및 복호부(633)에 대하여, 다시점 화상 복호 장치(211)(도 10)를 적용할 수 있다. 이 경우, 계층 화상 복호 장치(630)는, 부호화부(621)가 설정하고, 복호부(632)가 복호한 인터뷰 움직임 벡터의 탐색 범위 제한 정보와, 부호화부(622)가 설정하고, 복호부(633)가 복호한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 사용해서 처리를 행한다.
또한, 상술한 바와 같이 부호화부(621)(또는, 부호화부(622))가 설정한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를, 부호화부(621) 및 부호화부(622)에서 공유해서 사용하도록 설정하여 전송되고 있는 경우가 있다. 이 경우, 계층 화상 복호 장치(630)에서는, 부호화부(621)(또는, 부호화부(622))가 설정하고, 복호부(632)(또는, 복호부(633))가 복호한 인터뷰 움직임 벡터의 탐색 범위 제한 정보를 사용해서 처리가 행하여진다.
<10. 제10 실시 형태>
[컴퓨터의 구성예]
상술한 일련의 처리는, 하드웨어에 의해 실행할 수도 있고, 소프트웨어에 의해 실행할 수도 있다. 일련의 처리를 소프트웨어에 의해 실행하는 경우에는, 그 소프트웨어를 구성하는 프로그램이 컴퓨터에 인스톨된다. 여기서, 컴퓨터에는, 전용의 하드웨어에 내장되어 있는 컴퓨터나, 각종 프로그램을 인스톨함으로써, 각종 기능을 실행하는 것이 가능한, 예를 들어 범용의 퍼스널 컴퓨터 등이 포함된다.
도 43은, 상술한 일련의 처리를 프로그램에 의해 실행하는 컴퓨터의 하드웨어의 구성예를 도시하는 블록도이다.
컴퓨터(800)에 있어서, CPU(Central Processing Unit)(801), ROM(Read Only Memory)(802), RAM(Random Access Memory)(803)은, 버스(804)에 의해 서로 접속되어 있다.
버스(804)에는, 또한, 입출력 인터페이스(810)가 접속되어 있다. 입출력 인터페이스(810)에는, 입력부(811), 출력부(812), 기억부(813), 통신부(814) 및 드라이브(815)가 접속되어 있다.
입력부(811)는, 키보드, 마우스, 마이크로폰 등을 포함한다. 출력부(812)는, 디스플레이, 스피커 등을 포함한다. 기억부(813)는, 하드 디스크나 불휘발성의 메모리 등을 포함한다. 통신부(814)는, 네트워크 인터페이스 등을 포함한다. 드라이브(815)는, 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 리무버블 미디어(821)를 구동한다.
이상과 같이 구성되는 컴퓨터에서는, CPU(801)가, 예를 들어 기억부(813)에 기억되어 있는 프로그램을, 입출력 인터페이스(810) 및 버스(804)를 통해서, RAM(803)에 로드해서 실행함으로써, 상술한 일련의 처리가 행하여진다.
컴퓨터(800)(CPU(801))가 실행하는 프로그램은, 예를 들어 패키지 미디어 등으로서의 리무버블 미디어(821)에 기록해서 제공할 수 있다. 또한, 프로그램은, 로컬 에리어 네트워크, 인터넷, 디지털 위성 방송과 같은, 유선 또는 무선의 전송 매체를 통해서 제공할 수 있다.
컴퓨터에서는, 프로그램은, 리무버블 미디어(821)를 드라이브(815)에 장착함으로써, 입출력 인터페이스(810)를 통해 기억부(813)에 인스톨할 수 있다. 또한, 프로그램은, 유선 또는 무선의 전송 매체를 통해 통신부(814)에서 수신하고, 기억부(813)에 인스톨할 수 있다. 그 밖에, 프로그램은, ROM(802)이나 기억부(813)에, 미리 인스톨해 둘 수 있다.
또한, 컴퓨터가 실행하는 프로그램은, 본 명세서에서 설명하는 순서에 따라서 시계열로 처리가 행하여지는 프로그램이어도 되고, 병렬로, 또는 호출이 행하여졌을 때 등의 필요한 타이밍에 처리가 행하여지는 프로그램이어도 된다.
또한, 본 명세서에 있어서, 기록 매체에 기록되는 프로그램을 기술하는 스텝은, 기재된 순서를 따라 시계열적으로 행하여지는 처리는 물론, 반드시 시계열적으로 처리되지 않아도, 병렬적 또는 개별로 실행되는 처리도 포함하는 것이다.
또한, 본 명세서에 있어서, 시스템이란, 복수의 디바이스(장치)에 의해 구성되는 장치 전체를 나타내는 것이다.
또한, 이상에 있어서, 하나의 장치(또는 처리부)로서 설명한 구성을 분할하여, 복수의 장치(또는 처리부)로서 구성하도록 해도 된다. 반대로, 이상에 있어서 복수의 장치(또는 처리부)로서 설명한 구성을 통합해서 하나의 장치(또는 처리부)로서 구성되도록 해도 된다. 또한, 각 장치(또는 각 처리부)의 구성에 상술한 것 이외의 구성을 부가하도록 해도 물론 좋다. 또한, 시스템 전체로서의 구성이나 동작이 실질적으로 동일하면, 어떤 장치(또는 처리부)의 구성의 일부를 다른 장치(또는 다른 처리부)의 구성에 포함하도록 해도 된다. 즉, 본 기술은, 상술한 실시 형태에 한정되는 것이 아니라, 본 기술의 요지를 일탈하지 않는 범위에서 다양한 변경이 가능하다.
상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치는, 위성 방송, 케이블 TV 등의 유선 방송, 인터넷상에서의 배신 및 셀룰러 통신에 의한 단말기에 대한 배신 등에 있어서의 송신기 또는 수신기, 광 디스크, 자기 디스크 및 플래시 메모리 등의 매체에 화상을 기록하는 기록 장치, 또는, 이들 기억 매체로부터 화상을 재생하는 재생 장치 등의 다양한 전자 기기에 응용될 수 있다. 이하, 4개의 응용예에 대해서 설명한다.
<11. 응용예>
[제1 응용예: 텔레비전 수상기]
도 44는, 상술한 실시 형태를 적용한 텔레비전 장치의 개략적인 구성의 일례를 나타내고 있다. 텔레비전 장치(900)는, 안테나(901), 튜너(902), 디멀티플렉서(903), 디코더(904), 영상 신호 처리부(905), 표시부(906), 음성 신호 처리부(907), 스피커(908), 외부 인터페이스(909), 제어부(910), 유저 인터페이스(911) 및 버스(912)를 구비한다.
튜너(902)는, 안테나(901)를 통해서 수신되는 방송 신호로부터 원하는 채널의 신호를 추출하고, 추출한 신호를 복조한다. 그리고, 튜너(902)는, 복조에 의해 얻어진 부호화 비트 스트림을 디멀티플렉서(903)에 출력한다. 즉, 튜너(902)는, 화상이 부호화되어 있는 부호화 스트림을 수신하는, 텔레비전 장치(900)에서의 전송 수단으로서의 역할을 갖는다.
디멀티플렉서(903)는, 부호화 비트 스트림으로부터 시청 대상의 프로그램의 영상 스트림 및 음성 스트림을 분리하고, 분리한 각 스트림을 디코더(904)에 출력한다. 또한, 디멀티플렉서(903)는, 부호화 비트 스트림으로부터 EPG(Electronic Program Guide) 등의 보조적인 데이터를 추출하고, 추출한 데이터를 제어부(910)에 공급한다. 또한, 디멀티플렉서(903)는, 부호화 비트 스트림이 스크램블되어 있는 경우에는, 디스크램블을 행해도 된다.
디코더(904)는, 디멀티플렉서(903)로부터 입력되는 영상 스트림 및 음성 스트림을 복호한다. 그리고, 디코더(904)는, 복호 처리에 의해 생성되는 영상 데이터를 영상 신호 처리부(905)에 출력한다. 또한, 디코더(904)는, 복호 처리에 의해 생성되는 음성 데이터를 음성 신호 처리부(907)에 출력한다.
영상 신호 처리부(905)는, 디코더(904)로부터 입력되는 영상 데이터를 재생하여, 표시부(906)에 영상을 표시시킨다. 또한, 영상 신호 처리부(905)는, 네트워크를 통해서 공급되는 애플리케이션 화면을 표시부(906)에 표시시켜도 된다. 또한, 영상 신호 처리부(905)는, 영상 데이터에 대해서, 설정에 따라, 예를 들어 노이즈 제거(억제) 등의 추가적인 처리를 행해도 된다. 또한, 영상 신호 처리부(905)는, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI(Graphical User Interface)의 화상을 생성하고, 생성한 화상을 출력 화상에 중첩해도 된다.
표시부(906)는, 영상 신호 처리부(905)로부터 공급되는 구동 신호에 의해 구동되어, 표시 디바이스(예를 들어, 액정 디스플레이, 플라즈마 디스플레이 또는 OELD(Organic ElectroLuminescence Display)(유기 EL 디스플레이) 등)의 영상면 위로 영상 또는 화상을 표시한다.
음성 신호 처리부(907)는, 디코더(904)로부터 입력되는 음성 데이터에 대해서 D/A 변환 및 증폭 등의 재생 처리를 행하여, 스피커(908)로부터 음성을 출력시킨다. 또한, 음성 신호 처리부(907)는, 음성 데이터에 대해서 노이즈 제거(억제) 등의 추가적인 처리를 행해도 된다.
외부 인터페이스(909)는, 텔레비전 장치(900)와 외부 기기 또는 네트워크를 접속하기 위한 인터페이스다. 예를 들어, 외부 인터페이스(909)를 통해서 수신되는 영상 스트림 또는 음성 스트림이, 디코더(904)에 의해 복호되어도 된다. 즉, 외부 인터페이스(909)도 또한, 화상이 부호화되어 있는 부호화 스트림을 수신하는, 텔레비전 장치(900)에서의 전송 수단으로서의 역할을 갖는다.
제어부(910)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램, 프로그램 데이터, EPG 데이터, 및 네트워크를 통해서 취득되는 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어 텔레비전 장치(900)의 기동시에 CPU에 의해 판독되어 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스(911)로부터 입력되는 조작 신호에 따라, 텔레비전 장치(900)의 동작을 제어한다.
유저 인터페이스(911)는 제어부(910)와 접속된다. 유저 인터페이스(911)는, 예를 들어 유저가 텔레비전 장치(900)를 조작하기 위한 버튼 및 스위치, 및 원격 제어 신호의 수신부 등을 갖는다. 유저 인터페이스(911)는, 이들 구성 요소를 통해 유저에 의한 조작을 검출해서 조작 신호를 생성하고, 생성한 조작 신호를 제어부(910)에 출력한다.
버스(912)는, 튜너(902), 디멀티플렉서(903), 디코더(904), 영상 신호 처리부(905), 음성 신호 처리부(907), 외부 인터페이스(909) 및 제어부(910)를 서로 접속한다.
이렇게 구성된 텔레비전 장치(900)에 있어서, 디코더(904)는, 상술한 실시 형태에 따른 화상 복호 장치의 기능을 갖는다. 그에 의해, 텔레비전 장치(900)에서의 화상의 복호 시에, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
[제2 응용예: 휴대 전화기]
도 45는, 상술한 실시 형태를 적용한 휴대 전화기의 개략적인 구성의 일례를 나타내고 있다. 휴대 전화기(920)는, 안테나(921), 통신부(922), 음성 코덱(923), 스피커(924), 마이크로폰(925), 카메라부(926), 화상 처리부(927), 다중 분리부(928), 기록 재생부(929), 표시부(930), 제어부(931), 조작부(932) 및 버스(933)를 구비한다.
안테나(921)는 통신부(922)에 접속된다. 스피커(924) 및 마이크로폰(925)은, 음성 코덱(923)에 접속된다. 조작부(932)는 제어부(931)에 접속된다. 버스(933)는, 통신부(922), 음성 코덱(923), 카메라부(926), 화상 처리부(927), 다중 분리부(928), 기록 재생부(929), 표시부(930) 및 제어부(931)를 서로 접속한다.
휴대 전화기(920)는, 음성 통화 모드, 데이터 통신 모드, 촬영 모드 및 텔레비전 전화 모드를 포함하는 다양한 동작 모드에서, 음성 신호의 송수신, 전자 메일 또는 화상 데이터의 송수신, 화상의 촬상 및 데이터의 기록 등의 동작을 행한다.
음성 통화 모드에서, 마이크로폰(925)에 의해 생성되는 아날로그 음성 신호는, 음성 코덱(923)에 공급된다. 음성 코덱(923)은, 아날로그 음성 신호를 음성 데이터로 변환하고, 변환된 음성 데이터를 A/D 변환해서 압축한다. 그리고, 음성 코덱(923)은, 압축 후의 음성 데이터를 통신부(922)에 출력한다. 통신부(922)는, 음성 데이터를 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는, 생성한 송신 신호를, 안테나(921)를 통해서 기지국(도시하지 않음)에 송신한다. 또한, 통신부(922)는, 안테나(921)를 통해서 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 그리고, 통신부(922)는, 수신 신호를 복조 및 복호해서 음성 데이터를 생성하고, 생성한 음성 데이터를 음성 코덱(923)에 출력한다. 음성 코덱(923)은, 음성 데이터를 신장 및 D/A 변환하여, 아날로그 음성 신호를 생성한다. 그리고, 음성 코덱(923)은, 생성한 음성 신호를 스피커(924)에 공급해서 음성을 출력시킨다.
또한, 데이터 통신 모드에서, 예를 들어 제어부(931)는, 조작부(932)를 통한 유저에 의한 조작에 따라, 전자 메일을 구성하는 문자 데이터를 생성한다. 또한, 제어부(931)는 문자를 표시부(930)에 표시시킨다. 또한, 제어부(931)는, 조작부(932)를 통한 유저로부터의 송신 지시에 따라서 전자 메일 데이터를 생성하고, 생성한 전자 메일 데이터를 통신부(922)에 출력한다. 통신부(922)는, 전자 메일 데이터를 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는, 생성한 송신 신호를, 안테나(921)를 통해서 기지국(도시하지 않음)에 송신한다. 또한, 통신부(922)는, 안테나(921)를 통해서 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 그리고, 통신부(922)는, 수신 신호를 복조 및 복호해서 전자 메일 데이터를 복원하고, 복원한 전자 메일 데이터를 제어부(931)에 출력한다. 제어부(931)는, 표시부(930)에 전자 메일의 내용을 표시시킴과 함께, 전자 메일 데이터를 기록 재생부(929)의 기억 매체에 기억시킨다.
기록 재생부(929)는, 판독 기입 가능한 임의의 기억 매체를 갖는다. 예를 들어, 기억 매체는, RAM 또는 플래시 메모리 등의 내장형의 기억 매체이어도 되고, 하드 디스크, 자기 디스크, 광자기 디스크, 광 디스크, USB(Universal Serial Bus) 메모리, 또는 메모리 카드 등의 외부 장착형의 기억 매체이어도 된다.
또한, 촬영 모드에서, 예를 들어 카메라부(926)는, 피사체를 촬상해서 화상 데이터를 생성하고, 생성한 화상 데이터를 화상 처리부(927)에 출력한다. 화상 처리부(927)는, 카메라부(926)로부터 입력되는 화상 데이터를 부호화하고, 부호화 스트림을 기억 재생부(929)의 기억 매체에 기억시킨다.
또한, 텔레비전 전화 모드에서, 예를 들어 다중 분리부(928)는, 화상 처리부(927)에 의해 부호화된 영상 스트림과, 음성 코덱(923)으로부터 입력되는 음성 스트림을 다중화하고, 다중화한 스트림을 통신부(922)에 출력한다. 통신부(922)는, 스트림을 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는, 생성한 송신 신호를, 안테나(921)를 통해서 기지국(도시하지 않음)에 송신한다. 또한, 통신부(922)는, 안테나(921)를 통해서 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 이들 송신 신호 및 수신 신호에는, 부호화 비트 스트림이 포함될 수 있다. 그리고, 통신부(922)는, 수신 신호를 복조 및 복호해서 스트림을 복원하고, 복원한 스트림을 다중 분리부(928)에 출력한다. 다중 분리부(928)는, 입력되는 스트림으로부터 영상 스트림 및 음성 스트림을 분리하고, 영상 스트림을 화상 처리부(927), 음성 스트림을 음성 코덱(923)에 출력한다. 화상 처리부(927)는, 영상 스트림을 복호하여, 영상 데이터를 생성한다. 영상 데이터는, 표시부(930)에 공급되어, 표시부(930)에 의해 일련의 화상이 표시된다. 음성 코덱(923)은, 음성 스트림을 신장 및 D/A 변환하여, 아날로그 음성 신호를 생성한다. 그리고, 음성 코덱(923)은, 생성한 음성 신호를 스피커(924)에 공급해서 음성을 출력시킨다.
이렇게 구성된 휴대 전화기(920)에 있어서, 화상 처리부(927)는, 상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치의 기능을 갖는다. 그에 의해, 휴대 전화기(920)에서의 화상의 부호화 및 복호 시에, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
[제3 응용예: 기록 재생 장치]
도 46은, 상술한 실시 형태를 적용한 기록 재생 장치의 개략적인 구성의 일례를 나타내고 있다. 기록 재생 장치(940)는, 예를 들어 수신한 방송 프로그램의 음성 데이터 및 영상 데이터를 부호화해서 기록 매체에 기록한다. 또한, 기록 재생 장치(940)는, 예를 들어 다른 장치로부터 취득되는 음성 데이터 및 영상 데이터를 부호화해서 기록 매체에 기록해도 된다. 또한, 기록 재생 장치(940)는, 예를 들어 유저의 지시에 따라, 기록 매체에 기록되어 있는 데이터를 모니터 및 스피커상에서 재생한다. 이때, 기록 재생 장치(940)는, 음성 데이터 및 영상 데이터를 복호한다.
기록 재생 장치(940)는, 튜너(941), 외부 인터페이스(942), 인코더(943), HDD(Hard Disk Drive)(944), 디스크 드라이브(945), 셀렉터(946), 디코더(947), OSD(On-Screen Display)(948), 제어부(949) 및 유저 인터페이스(950)를 구비한다.
튜너(941)는, 안테나(도시하지 않음)를 통해서 수신되는 방송 신호로부터 원하는 채널의 신호를 추출하고, 추출한 신호를 복조한다. 그리고, 튜너(941)는, 복조에 의해 얻어진 부호화 비트 스트림을 셀렉터(946)에 출력한다. 즉, 튜너(941)는, 기록 재생 장치(940)에서의 전송 수단으로서의 역할을 갖는다.
외부 인터페이스(942)는, 기록 재생 장치(940)와 외부 기기 또는 네트워크를 접속하기 위한 인터페이스다. 외부 인터페이스(942)는, 예를 들어 IEEE 1394 인터페이스, 네트워크 인터페이스, USB 인터페이스, 또는 플래시 메모리 인터페이스 등이어도 된다. 예를 들어, 외부 인터페이스(942)를 통해서 수신되는 영상 데이터 및 음성 데이터는, 인코더(943)에 입력된다. 즉, 외부 인터페이스(942)는, 기록 재생 장치(940)에서의 전송 수단으로서의 역할을 갖는다.
인코더(943)는, 외부 인터페이스(942)로부터 입력되는 영상 데이터 및 음성 데이터가 부호화되어 있지 않은 경우에, 영상 데이터 및 음성 데이터를 부호화한다. 그리고, 인코더(943)는, 부호화 비트 스트림을 셀렉터(946)에 출력한다.
HDD(944)는, 영상 및 음성 등의 콘텐츠 데이터가 압축된 부호화 비트 스트림, 각종 프로그램 및 기타 데이터를 내부의 하드 디스크에 기록한다. 또한, HDD(944)는, 영상 및 음성의 재생 시에, 이들 데이터를 하드 디스크로부터 판독한다.
디스크 드라이브(945)는, 장착되어 있는 기록 매체에 대한 데이터의 기록 및 판독을 행한다. 디스크 드라이브(945)에 장착되는 기록 매체는, 예를 들어 DVD 디스크(DVD-Video, DVD- RAM, DVD-R, DVD-RW, DVD+R, DVD+RW 등) 또는 Blu-ray(등록 상표) 디스크 등이어도 된다.
셀렉터(946)는, 영상 및 음성의 기록 시에는, 튜너(941) 또는 인코더(943)로부터 입력되는 부호화 비트 스트림을 선택하고, 선택한 부호화 비트 스트림을 HDD(944) 또는 디스크 드라이브(945)에 출력한다. 또한, 셀렉터(946)는, 영상 및 음성의 재생 시에는, HDD(944) 또는 디스크 드라이브(945)로부터 입력되는 부호화 비트 스트림을 디코더(947)에 출력한다.
디코더(947)는, 부호화 비트 스트림을 복호하여, 영상 데이터 및 음성 데이터를 생성한다. 그리고, 디코더(947)는, 생성한 영상 데이터를 OSD(948)에 출력한다. 또한, 디코더(904)는, 생성한 음성 데이터를 외부의 스피커에 출력한다.
OSD(948)는, 디코더(947)로부터 입력되는 영상 데이터를 재생하여, 영상을 표시한다. 또한, OSD(948)는, 표시하는 영상에, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI의 화상을 중첩해도 된다.
제어부(949)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램 및 프로그램 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어 기록 재생 장치(940)의 기동시에 CPU에 의해 판독되어 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스(950)로부터 입력되는 조작 신호에 따라, 기록 재생 장치(940)의 동작을 제어한다.
유저 인터페이스(950)는 제어부(949)와 접속된다. 유저 인터페이스(950)는, 예를 들어 유저가 기록 재생 장치(940)를 조작하기 위한 버튼 및 스위치, 및 원격 제어 신호의 수신부 등을 갖는다. 유저 인터페이스(950)는, 이들 구성 요소를 통해 유저에 의한 조작을 검출해서 조작 신호를 생성하고, 생성한 조작 신호를 제어부(949)에 출력한다.
이렇게 구성된 기록 재생 장치(940)에 있어서, 인코더(943)는, 상술한 실시 형태에 따른 화상 부호화 장치의 기능을 갖는다. 또한, 디코더(947)는, 상술한 실시 형태에 따른 화상 복호 장치의 기능을 갖는다. 그에 의해, 기록 재생 장치(940)에서의 화상의 부호화 및 복호 시에, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
[제4 응용예: 촬상 장치]
도 47은, 상술한 실시 형태를 적용한 촬상 장치의 개략적인 구성의 일례를 나타내고 있다. 촬상 장치(960)는, 피사체를 촬상해서 화상을 생성하고, 화상 데이터를 부호화해서 기록 매체에 기록한다.
촬상 장치(960)는, 광학 블록(961), 촬상부(962), 신호 처리부(963), 화상 처리부(964), 표시부(965), 외부 인터페이스(966), 메모리(967), 미디어 드라이브(968), OSD(969), 제어부(970), 유저 인터페이스(971) 및 버스(972)를 구비한다.
광학 블록(961)은 촬상부(962)에 접속된다. 촬상부(962)는 신호 처리부(963)에 접속된다. 표시부(965)는 화상 처리부(964)에 접속된다. 유저 인터페이스(971)는 제어부(970)에 접속된다. 버스(972)는, 화상 처리부(964), 외부 인터페이스(966), 메모리(967), 미디어 드라이브(968), OSD(969) 및 제어부(970)를 서로 접속한다.
광학 블록(961)은, 포커스 렌즈 및 조리개 기구 등을 갖는다. 광학 블록(961)은, 피사체의 광학상을 촬상부(962)의 촬상면에 결상시킨다. 촬상부(962)는, CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal Oxide Semiconductor) 등의 이미지 센서를 갖고, 촬상면에 결상한 광학상을 광전 변환에 의해 전기 신호로서의 화상 신호로 변환한다. 그리고, 촬상부(962)는, 화상 신호를 신호 처리부(963)에 출력한다.
신호 처리부(963)는, 촬상부(962)로부터 입력되는 화상 신호에 대하여 니 보정, 감마 보정, 색 보정 등의 다양한 카메라 신호 처리를 행한다. 신호 처리부(963)는, 카메라 신호 처리 후의 화상 데이터를 화상 처리부(964)에 출력한다.
화상 처리부(964)는, 신호 처리부(963)로부터 입력되는 화상 데이터를 부호화하여, 부호화 데이터를 생성한다. 그리고, 화상 처리부(964)는, 생성한 부호화 데이터를 외부 인터페이스(966) 또는 미디어 드라이브(968)에 출력한다. 또한, 화상 처리부(964)는, 외부 인터페이스(966) 또는 미디어 드라이브(968)로부터 입력되는 부호화 데이터를 복호하여, 화상 데이터를 생성한다. 그리고, 화상 처리부(964)는, 생성한 화상 데이터를 표시부(965)에 출력한다. 또한, 화상 처리부(964)는, 신호 처리부(963)로부터 입력되는 화상 데이터를 표시부(965)에 출력해서 화상을 표시시켜도 된다. 또한, 화상 처리부(964)는, OSD(969)로부터 취득되는 표시용 데이터를, 표시부(965)에 출력하는 화상에 중첩해도 된다.
OSD(969)는, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI의 화상을 생성하고, 생성한 화상을 화상 처리부(964)에 출력한다.
외부 인터페이스(966)는, 예를 들어 USB 입출력 단자로서 구성된다. 외부 인터페이스(966)는, 예를 들어 화상의 인쇄 시에, 촬상 장치(960)와 프린터를 접속한다. 또한, 외부 인터페이스(966)에는, 필요에 따라 드라이브가 접속된다. 드라이브에는, 예를 들어 자기 디스크 또는 광 디스크 등의 리무버블 미디어가 장착되어, 리무버블 미디어로부터 판독되는 프로그램이, 촬상 장치(960)에 인스톨될 수 있다. 또한, 외부 인터페이스(966)는, LAN 또는 인터넷 등의 네트워크에 접속되는 네트워크 인터페이스로서 구성되어도 된다. 즉, 외부 인터페이스(966)는, 촬상 장치(960)에서의 전송 수단으로서의 역할을 갖는다.
미디어 드라이브(968)에 장착되는 기록 매체는, 예를 들어 자기 디스크, 광자기 디스크, 광 디스크, 또는 반도체 메모리 등의, 판독 기입 가능한 임의의 리무버블 미디어이면 된다. 또한, 미디어 드라이브(968)에 기록 매체가 고정적으로 장착되어, 예를 들어 내장형 하드디스크 드라이브 또는 SSD(Solid State Drive)와 같은 비가반성의 기억부가 구성되어도 된다.
제어부(970)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램 및 프로그램 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어 촬상 장치(960)의 기동시에 CPU에 의해 판독되어 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스(971)로부터 입력되는 조작 신호에 따라, 촬상 장치(960)의 동작을 제어한다.
유저 인터페이스(971)는 제어부(970)와 접속된다. 유저 인터페이스(971)는, 예를 들어 유저가 촬상 장치(960)를 조작하기 위한 버튼 및 스위치 등을 갖는다. 유저 인터페이스(971)는, 이들 구성 요소를 통해 유저에 의한 조작을 검출해서 조작 신호를 생성하고, 생성한 조작 신호를 제어부(970)에 출력한다.
이렇게 구성된 촬상 장치(960)에 있어서, 화상 처리부(964)는, 상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치의 기능을 갖는다. 그에 의해, 촬상 장치(960)에서의 화상의 부호화 및 복호 시에, 복수 뷰의 픽처를 병렬로 처리할 수 있다.
<12. 스케일러블 부호화의 응용예>
[제1 시스템]
이어서, 스케일러블 부호화(계층 부호화)된 스케일러블 부호화 데이터의 구체적인 이용 예에 대해서 설명한다. 스케일러블 부호화는, 예를 들어 도 48에 나타나는 예와 같이, 전송하는 데이터의 선택을 위해 이용된다.
도 48에 나타내는 데이터 전송 시스템(1000)에 있어서, 배신 서버(1002)는, 스케일러블 부호화 데이터 기억부(1001)에 기억되어 있는 스케일러블 부호화 데이터를 판독하고, 네트워크(1003)를 통해, 퍼스널 컴퓨터(1004), AV 기기(1005), 태블릿 디바이스(1006) 및 휴대 전화기(1007) 등의 단말 장치에 배신한다.
그때, 배신 서버(1002)는, 단말 장치의 능력이나 통신 환경 등에 따라, 적절한 품질의 부호화 데이터를 선택해서 전송한다. 배신 서버(1002)가 불필요하게 고품질의 데이터를 전송해도, 단말 장치에서 고화질의 화상이 얻어진다고는 할 수 없으며, 지연이나 오버플로우의 발생 요인이 될 우려가 있다. 또한, 불필요에 통신 대역을 점유하거나, 단말 장치의 부하를 불필요하게 증대시키거나 해버릴 우려도 있다. 반대로, 배신 서버(1002)가 불필요하게 저품질의 데이터를 전송해도, 단말 장치에서 충분한 화질의 화상을 얻을 수 없을 우려가 있다. 그로 인해, 배신 서버(1002)는, 스케일러블 부호화 데이터 기억부(1001)에 기억되어 있는 스케일러블 부호화 데이터를, 적절히, 단말 장치의 능력이나 통신 환경 등에 대하여 적절한 품질의 부호화 데이터로서 판독하여 전송한다.
예를 들어, 스케일러블 부호화 데이터 기억부(1001)는, 스케일러블하게 부호화된 스케일러블 부호화 데이터(BL+EL)(1011)를 기억한다고 하자. 이 스케일러블 부호화 데이터(BL+EL)(1011)는, 베이스 레이어와 인핸스먼트 레이어의 양쪽을 포함하는 부호화 데이터이며, 복호함으로써, 베이스 레이어의 화상 및 인핸스먼트 레이어의 화상 양쪽을 얻을 수 있는 데이터다.
배신 서버(1002)는, 데이터를 전송하는 단말 장치의 능력이나 통신 환경 등에 따라, 적절한 레이어를 선택하고, 그 레이어의 데이터를 판독한다. 예를 들어, 배신 서버(1002)는, 처리 능력이 높은 퍼스널 컴퓨터(1004)나 태블릿 디바이스(1006)에 대해서는, 고품질의 스케일러블 부호화 데이터(BL+EL)(1011)를 스케일러블 부호화 데이터 기억부(1001)로부터 판독하여, 그대로 전송한다. 이에 반해, 예를 들어 배신 서버(1002)는, 처리 능력이 낮은 AV 기기(1005)나 휴대 전화기(1007)에 대해서는, 스케일러블 부호화 데이터(BL+EL)(1011)로부터 베이스 레이어의 데이터를 추출하여, 스케일러블 부호화 데이터(BL+EL)(1011)와 같은 콘텐츠의 데이터이지만, 스케일러블 부호화 데이터(BL+EL)(1011)보다 저품질의 스케일러블 부호화 데이터(BL)(1012)로서 전송한다.
이렇게 스케일러블 부호화 데이터를 사용함으로써, 데이터량을 용이하게 조정할 수 있으므로, 지연이나 오버플로우의 발생을 억제하거나, 단말 장치나 통신 매체의 부하의 불필요한 증대를 억제하거나 할 수 있다. 또한, 스케일러블 부호화 데이터(BL+EL)(1011)는, 레이어간의 용장성이 저감되어 있으므로, 각 레이어의 부호화 데이터를 개별 데이터로 하는 경우보다 그 데이터량을 저감시킬 수 있다. 따라서, 스케일러블 부호화 데이터 기억부(1001)의 기억 영역을 보다 효율적으로 사용할 수 있다.
또한, 퍼스널 컴퓨터(1004) 내지 휴대 전화기(1007)와 같이, 단말 장치에는 다양한 장치를 적용할 수 있으므로, 단말 장치의 하드웨어 성능은 장치에 따라 상이하다. 또한, 단말 장치가 실행하는 애플리케이션도 다양하므로, 그 소프트웨어의 능력도 다양하다. 또한, 통신 매체가 되는 네트워크(1003)도, 예를 들어 인터넷이나 LAN(Local Area Network) 등, 유선 또는 무선, 또는 그 양쪽을 포함하는 모든 통신 회선망을 적용할 수 있어, 그 데이터 전송 능력은 다양하다. 또한, 다른 통신 등에 의해서도 변화할 우려가 있다.
따라서, 배신 서버(1002)는, 데이터 전송을 개시하기 전에, 데이터의 전송처가 되는 단말기 장치와 통신을 행하여, 단말 장치의 하드웨어 성능이나, 단말 장치가 실행하는 애플리케이션(소프트웨어)의 성능 등과 같은 단말 장치의 능력에 관한 정보, 및 네트워크(1003)의 이용 가능 대역폭 등의 통신 환경에 관한 정보를 얻도록 해도 된다. 그리고, 배신 서버(1002)가, 여기에서 얻은 정보를 기초로, 적절한 레이어를 선택하도록 해도 된다.
또한, 레이어의 추출은, 단말 장치에서 행하도록 해도 된다. 예를 들어, 퍼스널 컴퓨터(1004)가, 전송된 스케일러블 부호화 데이터(BL+EL)(1011)를 복호하여, 베이스 레이어의 화상을 표시해도 되고, 인핸스먼트 레이어의 화상을 표시해도 된다. 또한, 예를 들어 퍼스널 컴퓨터(1004)가, 전송된 스케일러블 부호화 데이터(BL+EL)(1011)로부터, 베이스 레이어의 스케일러블 부호화 데이터(BL)(1012)를 추출하여 기억하거나, 다른 장치에 전송하거나, 복호하여 베이스 레이어의 화상을 표시하거나 하도록 해도 된다.
물론, 스케일러블 부호화 데이터 기억부(1001), 배신 서버(1002), 네트워크(1003) 및 단말 장치의 수는 모두 임의이다. 또한, 이상에서는, 배신 서버(1002)가 데이터를 단말 장치에 전송하는 예에 대해서 설명했지만, 이용 예는 이것에 한정되지 않는다. 데이터 전송 시스템(1000)은, 스케일러블 부호화된 부호화 데이터를 단말 장치에 전송할 때, 단말 장치의 능력이나 통신 환경 등에 따라 적절한 레이어를 선택해서 전송하는 시스템이라면, 임의의 시스템에 적용할 수 있다.
그리고, 도 48과 같은 데이터 전송 시스템(1000)에서도, 도 1 내지 도 36을 참조하여 상술한 다시점 화상 부호화 장치, 다시점 화상 복호 장치에 대한 적용과 마찬가지로 본 기술을 적용함으로써, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
[제2 시스템]
또한, 스케일러블 부호화는, 예를 들어 도 49에 나타나는 예와 같이, 복수의 통신 매체를 통한 전송을 위해 이용된다.
도 49에 나타내는 데이터 전송 시스템(1100)에 있어서, 방송국(1101)은, 지상파 방송(1111)에 의해, 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를 전송한다. 또한, 방송국(1101)은, 유선 또는 무선 또는 그 양쪽의 통신망을 포함하는 임의의 네트워크(1112)를 통해, 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 전송한다(예를 들어 패킷화하여 전송함).
단말 장치(1102)는, 방송국(1101)이 방송하는 지상파 방송(1111)의 수신 기능을 갖고, 이 지상파 방송(1111)을 통해 전송되는 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를 수취한다. 또한, 단말 장치(1102)는, 네트워크(1112)를 통한 통신을 행하는 통신 기능을 더 갖고, 이 네트워크(1112)를 통해 전송되는 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 수취한다.
단말 장치(1102)는, 예를 들어 유저 지시 등에 따라, 지상파 방송(1111)을 통해 취득한 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를, 복호하여 베이스 레이어의 화상을 얻거나, 기억하거나, 다른 장치에 전송하거나 한다.
또한, 단말 장치(1102)는 예를 들어 유저 지시 등에 따라, 지상파 방송(1111)을 통해 취득한 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)와, 네트워크(1112)를 통해 취득한 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 합성하여, 스케일러블 부호화 데이터(BL+EL)를 얻거나, 그것을 복호하여 인핸스먼트 레이어의 화상을 얻거나, 기억하거나, 다른 장치에 전송하거나 한다.
이상과 같이, 스케일러블 부호화 데이터는, 예를 들어 레이어마다 서로 다른 통신 매체를 통해 전송시킬 수 있다. 따라서, 부하를 분산시킬 수 있어, 지연이나 오버플로우의 발생을 억제할 수 있다.
또한, 상황에 따라, 전송에 사용하는 통신 매체를, 레이어마다 선택할 수 있도록 해도 된다. 예를 들어, 데이터량이 비교적 많은 베이스 레이어의 스케일러블 부호화 데이터(BL)(1121)를 대역폭이 넓은 통신 매체를 통해 전송시키고, 데이터량이 비교적 적은 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 대역폭이 좁은 통신 매체를 통해 전송시키도록 해도 된다. 또한, 예를 들어 인핸스먼트 레이어의 스케일러블 부호화 데이터(EL)(1122)를 전송하는 통신 매체를, 네트워크(1112)로 할 것인지, 지상파 방송(1111)으로 할 것인지를, 네트워크(1112)의 이용 가능 대역폭에 따라서 전환하도록 해도 된다. 물론, 임의의 레이어의 데이터에 대해서 마찬가지이다.
이렇게 제어함으로써, 데이터 전송에서의 부하의 증대를 보다 억제할 수 있다.
물론, 레이어수는 임의이며, 전송에 이용하는 통신 매체의 수도 임의이다. 또한, 데이터 배신처가 되는 단말 장치(1102)의 수도 임의이다. 또한, 이상에서는, 방송국(1101)으로부터의 방송을 예로 들어 설명했지만, 이용 예는 이것에 한정되지 않는다. 데이터 전송 시스템(1100)은, 스케일러블 부호화된 부호화 데이터를, 레이어를 단위로서 복수로 분할하여, 복수의 회선을 통해 전송하는 시스템이라면, 임의의 시스템에 적용할 수 있다.
그리고, 도 49와 같은 데이터 전송 시스템(1100)에서도, 도 1 내지 도 36을 참조하여 상술한 다시점 화상 부호화 장치, 다시점 화상 복호 장치에 대한 적용과 마찬가지로 본 기술을 적용함으로써, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
[제3 시스템]
또한, 스케일러블 부호화는, 예를 들어 도 50에 나타나는 예와 같이, 부호화 데이터의 기억에 이용된다.
도 50에 나타내는 촬상 시스템(1200)에 있어서, 촬상 장치(1201)는, 피사체(1211)를 촬상하여 얻어진 화상 데이터를 스케일러블 부호화하고, 스케일러블 부호화 데이터(BL+EL)(1221)로서, 스케일러블 부호화 데이터 기억 장치(1202)에 공급한다.
스케일러블 부호화 데이터 기억 장치(1202)는, 촬상 장치(1201)로부터 공급되는 스케일러블 부호화 데이터(BL+EL)(1221)를, 상황에 따른 품질로 기억한다. 예를 들어, 통상시의 경우, 스케일러블 부호화 데이터 기억 장치(1202)는, 스케일러블 부호화 데이터(BL+EL)(1221)로부터 베이스 레이어의 데이터를 추출하여, 저품질이며 데이터량이 적은 베이스 레이어의 스케일러블 부호화 데이터(BL)(1222)로서 기억한다. 이에 반해, 예를 들어 주목시의 경우, 스케일러블 부호화 데이터 기억 장치(1202)는, 고품질이며 데이터량이 많은 스케일러블 부호화 데이터(BL+EL)(1221) 그대로 기억한다.
이와 같이 함으로써, 스케일러블 부호화 데이터 기억 장치(1202)는, 필요한 경우만 화상을 고화질로 보존할 수 있으므로, 화질 열화에 의한 화상의 가치의 저감을 억제하면서, 데이터량의 증대를 억제할 수 있어, 기억 영역의 이용 효율을 향상시킬 수 있다.
예를 들어, 촬상 장치(1201)가 감시 카메라라고 한다. 촬상 화상에 감시 대상(예를 들어 침입자)이 나타나지 않은 경우(통상시인 경우), 촬상 화상의 내용은 중요하지 않을 가능성이 높으므로, 데이터량의 저감이 우선되어, 그 화상 데이터(스케일러블 부호화 데이터)는 저품질로 기억된다. 이에 반해, 촬상 화상에 감시 대상이 피사체(1211)로서 찍혀 있을 경우(주목시인 경우), 그 촬상 화상의 내용은 중요할 가능성이 높으므로, 화질이 우선되어, 그 화상 데이터(스케일러블 부호화 데이터)는 고품질로 기억된다.
또한, 통상시인지 주목시인지는, 예를 들어 스케일러블 부호화 데이터 기억 장치(1202)가 화상을 해석함으로써 판정해도 된다. 또한, 촬상 장치(1201)가 판정하여, 그 판정 결과를 스케일러블 부호화 데이터 기억 장치(1202)에 전송하도록 해도 된다.
또한, 통상시인지 주목시인지의 판정 기준은 임의이며, 판정 기준으로 하는 화상의 내용은 임의이다. 물론, 화상의 내용 이외의 조건을 판정 기준으로 할 수도 있다. 예를 들어, 수록한 음성의 크기나 파형 등에 따라서 전환하도록 해도 되고, 소정의 시간마다 전환하도록 해도 되고, 유저 지시 등의 외부로부터의 지시에 의해 전환하도록 해도 된다.
또한, 이상에서는, 통상시와 주목시의 2개의 상태를 전환하는 예를 설명했지만, 상태의 수는 임의이어서, 예를 들어 통상시, 약간 주목시, 주목시, 매우 주목시 등과 같이, 3개 이상의 상태를 전환하도록 해도 된다. 단, 이 전환하는 상태의 상한수는, 스케일러블 부호화 데이터의 레이어 수에 의존한다.
또한, 촬상 장치(1201)가, 스케일러블 부호화의 레이어 수를, 상태에 따라서 결정하도록 해도 된다. 예를 들어, 통상시의 경우, 촬상 장치(1201)가, 저품질이고 데이터량이 적은 베이스 레이어의 스케일러블 부호화 데이터(BL)(1222)를 생성하여, 스케일러블 부호화 데이터 기억 장치(1202)에 공급하도록 해도 된다. 또한, 예를 들어 주목시의 경우, 촬상 장치(1201)가, 고품질이고 데이터량이 많은 베이스 레이어의 스케일러블 부호화 데이터(BL+EL)(1221)를 생성하여, 스케일러블 부호화 데이터 기억 장치(1202)에 공급하도록 해도 된다.
이상에서는, 감시 카메라를 예로 들어 설명했지만, 이 촬상 시스템(1200)의 용도는 임의이며, 감시 카메라에 한정되지 않는다.
그리고, 도 50과 같은 촬상 시스템(1200)에서도, 도 1 내지 도 36을 참조하여 상술한 다시점 화상 부호화 장치, 다시점 화상 복호 장치에 대한 적용과 마찬가지로 본 기술을 적용함으로써, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
<13. 제11의 실시 형태>
[실시의 기타 예]
이상에서 본 기술을 적용하는 장치나 시스템 등의 예를 설명했지만, 본 기술은, 이에 한정되지 않고, 이러한 장치 또는 시스템을 구성하는 장치에 탑재하는 모든 구성, 예를 들어 시스템 LSI(Large Scale Integration) 등으로서의 프로세서, 복수의 프로세서 등을 사용하는 모듈, 복수의 모듈 등을 사용하는 유닛, 유닛에 또한 그 밖의 기능을 부가한 세트 등(즉, 장치의 일부 구성)으로서 실시할 수도 있다.
[비디오 세트]
본 기술을 세트로서 실시하는 경우의 예에 대해서, 도 51을 참조하여 설명한다. 도 51은, 본 기술을 적용한 비디오 세트의 개략적인 구성의 일례를 나타내고 있다.
최근 들어, 전자 기기의 다기능화가 진행되고 있어, 그 개발이나 제조에 있어서, 그 일부의 구성을 판매나 제공 등으로서 실시할 경우, 1 기능을 갖는 구성으로서 실시를 행하는 경우뿐만 아니라, 관련하는 기능을 갖는 복수의 구성을 조합하여, 복수의 기능을 갖는 1세트로서 실시를 행하는 경우도 많이 나타나고 있다.
도 51에 나타내는 비디오 세트(1300)는, 이러한 다기능화된 구성이며, 화상의 부호화나 복호(어느 한쪽이어도 되고, 양쪽이어도 됨)에 관한 기능을 갖는 디바이스에, 그 기능에 관련하는 기타 기능을 갖는 디바이스를 조합한 것이다.
도 51에 도시된 바와 같이, 비디오 세트(1300)는, 비디오 모듈(1311), 외부 메모리(1312), 파워 매니지먼트 모듈(1313), 및 프론트엔드 모듈(1314) 등의 모듈 군과, 커넥티비티(1321), 카메라(1322), 및 센서(1323) 등의 관련된 기능을 갖는 디바이스를 갖는다.
모듈은, 서로 관련된 몇 가지의 부품적 기능을 통합하여, 종합적인 기능을 가진 부품으로 한 것이다. 구체적인 물리적 구성은 임의이지만, 예를 들어 각각 기능을 갖는 복수의 프로세서, 저항이나 콘덴서 등의 전자 회로 소자, 그 밖의 디바이스 등을 배선 기판 등에 배치하여 일체화된 것을 생각할 수 있다. 또한, 모듈에 다른 모듈이나 프로세서 등을 조합하여 새로운 모듈로 하는 것도 생각할 수 있다.
도 51의 예의 경우, 비디오 모듈(1311)은, 화상 처리에 관한 기능을 갖는 구성을 조합한 것이며, 어플리케이션 프로세서, 비디오 프로세서, 브로드밴드 모뎀(1333), 및 RF 모듈(1334)을 갖는다.
프로세서는, 소정의 기능을 갖는 구성을 SoC(System On a Chip)에 의해 반도체 칩에 집적한 것이며, 예를 들어 시스템 LSI(Large Scale Integration) 등이라고 칭해지는 경우도 있다. 이 소정의 기능을 갖는 구성은, 논리 회로(하드웨어 구성)이어도 되고, CPU, ROM, RAM 등과, 그것들을 사용해서 실행되는 프로그램(소프트웨어 구성)이어도 되고, 그 양쪽을 조합한 것이어도 된다. 예를 들어, 프로세서가, 논리 회로와 CPU, ROM, RAM 등을 갖고, 기능의 일부를 논리 회로(하드웨어 구성)에 의해 실현하고, 그 밖의 기능을 CPU에서 실행되는 프로그램(소프트웨어 구성)에 의해 실현하도록 해도 된다.
도 51의 어플리케이션 프로세서(1331)는, 화상 처리에 관한 애플리케이션을 실행하는 프로세서이다. 이 어플리케이션 프로세서(1331)에서 실행되는 애플리케이션은, 소정의 기능을 실현하기 위해서, 연산 처리를 행할 뿐만 아니라, 예를 들어 비디오 프로세서(1332) 등, 비디오 모듈(1311) 내외의 구성을 필요에 따라서 제어할 수도 있다.
비디오 프로세서(1332)는, 화상의 부호화·복호(그 한쪽 또는 양쪽)에 관한 기능을 갖는 프로세서이다.
브로드밴드 모뎀(1333)은, 인터넷이나 공중 전화 회선망 등의 광대역의 회선을 통해 행하여지는 유선 또는 무선(또는 그 양쪽)의 광대역 통신에 관한 처리를 행하는 프로세서(또는 모듈)이다. 예를 들어, 브로드밴드 모뎀(1333)은, 송신하는 데이터(디지털 신호)를 디지털 변조하거나 해서 아날로그 신호로 변환하거나, 수신한 아날로그 신호를 복조하여 데이터(디지털 신호)로 변환하거나 한다. 예를 들어, 브로드밴드 모뎀(1333)은, 비디오 프로세서(1332)가 처리하는 화상 데이터나 화상 데이터가 부호화된 스트림, 어플리케이션 프로그램, 설정 데이터 등, 임의의 정보를 디지털 변조·복조할 수 있다.
RF 모듈(1334)은, 안테나를 통해 송수신되는 RF(Radio Frequency) 신호에 대하여 주파수 변환, 변복조, 증폭, 필터 처리 등을 행하는 모듈이다. 예를 들어, RF 모듈(1334)은, 브로드밴드 모뎀(1333)에 의해 생성된 기저 대역 신호에 대하여 주파수 변환 등을 행하여 RF 신호를 생성한다. 또한, 예를 들어, RF 모듈(1334)은, 프론트엔드 모듈(1314)을 통해 수신된 RF 신호에 대하여 주파수 변환 등을 행하여 기저 대역 신호를 생성한다.
또한, 도 51에서 점선(1341)으로 도시된 바와 같이, 어플리케이션 프로세서(1331)와 비디오 프로세서(1332)를 일체화되고, 하나의 프로세서로서 구성되도록 해도 된다.
외부 메모리(1312)는, 비디오 모듈(1311)의 외부에 설치된, 비디오 모듈(1311)에 의해 이용되는 기억 디바이스를 갖는 모듈이다. 이 외부 메모리(1312)의 기억 디바이스는, 어떤 물리 구성에 의해 실현하도록 해도 되지만, 일반적으로 프레임 단위의 화상 데이터와 같은 대용량의 데이터 저장에 이용되는 경우가 많으므로, 예를 들어 DRAM(Dynamic Random Access Memory)과 같은 비교적 저렴하고 대용량의 반도체 메모리에 의해 실현하는 것이 바람직하다.
파워 매니지먼트 모듈(1313)은, 비디오 모듈(1311)(비디오 모듈(1311) 내의 각 구성)에 대한 전력 공급을 관리하고 제어한다.
프론트엔드 모듈(1314)은, RF 모듈(1334)에 대하여 프론트엔드 기능(안테나측의 송수신단의 회로)을 제공하는 모듈이다. 도 51에 도시된 바와 같이, 프론트엔드 모듈(1314)은, 예를 들어 안테나부(1351), 필터(1352) 및 증폭부(1353)를 갖는다.
안테나부(1351)는, 무선 신호를 송수신하는 안테나 및 그 주변의 구성을 갖는다. 안테나부(1351)는, 증폭부(1353)로부터 공급되는 신호를 무선 신호로서 송신하고, 수신한 무선 신호를 전기 신호(RF 신호)로서 필터(1352)에 공급한다. 필터(1352)는, 안테나부(1351)를 통해 수신된 RF 신호에 대하여 필터 처리 등을 행하고, 처리 후의 RF 신호를 RF 모듈(1334)에 공급한다. 증폭부(1353)는, RF 모듈(1334)로부터 공급되는 RF 신호를 증폭하여, 안테나부(1351)에 공급한다.
커넥티비티(1321)는, 외부와의 접속에 관한 기능을 갖는 모듈이다. 커넥티비티(1321)의 물리 구성은 임의이다. 예를 들어, 커넥티비티(1321)는, 브로드밴드 모뎀(1333)이 대응하는 통신 규격 이외의 통신 기능을 갖는 구성이나, 외부 입출력 단자 등을 갖는다.
예를 들어, 커넥티비티(1321)가 Bluetooth(등록 상표), IEEE 802.11(예를 들어 Wi-Fi(Wireless Fidelity, 등록 상표)), NFC(Near Field Communication), IrDA(InfraRed Data Association) 등의 무선 통신 규격에 준거하는 통신 기능을 갖는 모듈이나, 그 규격에 준거한 신호를 송수신하는 안테나 등을 갖도록 해도 된다. 또한, 예를 들어 커넥티비티(1321)가 USB(Universal Serial Bus), HDMI(등록 상표)(High-Definition Multimedia Interface) 등의 유선 통신 규격에 준거하는 통신 기능을 갖는 모듈이나, 그 규격에 준거한 단자를 갖도록 해도 된다. 또한, 예를 들어 커넥티비티(1321)가 아날로그 입출력 단자 등의 기타 데이터(신호) 전송 기능 등을 갖도록 해도 된다.
또한, 커넥티비티(1321)가 데이터(신호)의 전송처의 디바이스를 포함하도록 해도 된다. 예를 들어, 커넥티비티(1321)가, 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 기록 매체에 대하여 데이터의 판독이나 기입을 행하는 드라이브(리무버블 미디어의 드라이브뿐만 아니라, 하드 디스크, SSD(Solid State Drive), NAS(Network Attached Storage) 등도 포함함)를 갖도록 해도 된다. 또한, 커넥티비티(1321)가 화상이나 음성의 출력 디바이스(모니터나 스피커 등)를 갖도록 해도 된다.
카메라(1322)는, 피사체를 촬상하고, 피사체의 화상 데이터를 얻는 기능을 갖는 모듈이다. 카메라(1322)의 촬상에 의해 얻어진 화상 데이터는, 예를 들어 비디오 프로세서(1332)에 공급되어서 부호화된다.
센서(1323)는, 예를 들어 음성 센서, 초음파 센서, 광 센서, 조도 센서, 적외선 센서, 이미지 센서, 회전 센서, 각도 센서, 각속도 센서, 속도 센서, 가속도 센서, 경사 센서, 자기 식별 센서, 충격 센서, 온도 센서 등, 임의의 센서 기능을 갖는 모듈이다. 센서(1323)에 의해 검출된 데이터는, 예를 들어 어플리케이션 프로세서(1331)에 공급되어서 애플리케이션 등에 의해 이용된다.
이상에서 모듈로서 설명한 구성을 프로세서로서 실현하도록 해도 되고, 반대로 프로세서로서 설명한 구성을 모듈로서 실현하도록 해도 된다.
이상과 같은 구성의 비디오 세트(1300)에 있어서, 후술하는 바와 같이 비디오 프로세서(1332)에 본 기술을 적용할 수 있다. 따라서, 비디오 세트(1300)는 본 기술을 적용한 세트로서 실시할 수 있다.
[비디오 프로세서의 구성예]
도 52는, 본 기술을 적용한 비디오 프로세서(1332)(도 51)의 개략적인 구성의 일례를 나타내고 있다.
도 52의 예의 경우, 비디오 프로세서(1332)는, 비디오 신호 및 오디오 신호의 입력을 받아서 이들을 소정의 방식으로 부호화하는 기능과, 부호화된 비디오 데이터 및 오디오 데이터를 복호하여, 비디오 신호 및 오디오 신호를 재생 출력하는 기능을 갖는다.
도 52에 도시된 바와 같이, 비디오 프로세서(1332)는, 비디오 입력 처리부(1401), 제1 화상 확대 축소부(1402), 제2 화상 확대 축소부(1403), 비디오 출력 처리부(1404), 프레임 메모리(1405) 및 메모리 제어부(1406)를 갖는다. 또한, 비디오 프로세서(1332)는, 인코드·디코드 엔진(1407), 비디오 ES(Elementary Stream) 버퍼(1408A) 및 (1408B), 및 오디오 ES 버퍼(1409A) 및 (1409B)를 갖는다. 또한, 비디오 프로세서(1332)는, 오디오 인코더(1410), 오디오 디코더(1411), 다중화부(MUX(Multiplexer))(1412), 역 다중화부(DMUX(Demultiplexer))(1413) 및 스트림 버퍼(1414)를 갖는다.
비디오 입력 처리부(1401)는, 예를 들어 커넥티비티(1321)(도 51) 등으로부터 입력된 비디오 신호를 취득하여, 디지털 화상 데이터로 변환한다. 제1 화상 확대 축소부(1402)는, 화상 데이터에 대하여 포맷 변환이나 화상의 확대 축소 처리 등을 행한다. 제2 화상 확대 축소부(1403)는, 화상 데이터에 대하여, 비디오 출력 처리부(1404)를 통해 출력하는 앞에서의 포맷에 따라서 화상의 확대 축소 처리를 행하거나, 제1 화상 확대 축소부(1402)와 마찬가지의 포맷 변환이나 화상의 확대 축소 처리 등을 행하거나 한다. 비디오 출력 처리부(1404)는, 화상 데이터에 대하여, 포맷 변환이나 아날로그 신호로의 변환 등을 행하여, 재생된 비디오 신호로서 예를 들어 커넥티비티(1321)(도 51) 등에 출력한다.
프레임 메모리(1405)는, 비디오 입력 처리부(1401), 제1 화상 확대 축소부(1402), 제2 화상 확대 축소부(1403), 비디오 출력 처리부(1404) 및 인코드·디코드 엔진(1407)에 의해 공용되는 화상 데이터용의 메모리다. 프레임 메모리(1405)는, 예를 들어 DRAM 등의 반도체 메모리로서 실현된다.
메모리 제어부(1406)는, 인코드·디코드 엔진(1407)으로부터의 동기 신호를 받아, 액세스 관리 테이블(1406A)에 기입된 프레임 메모리(1405)에 대한 액세스 스케줄에 따라서 프레임 메모리(1405)에 대한 기입·판독의 액세스를 제어한다. 액세스 관리 테이블(1406A)은, 인코드·디코드 엔진(1407), 제1 화상 확대 축소부(1402), 제2 화상 확대 축소부(1403) 등에서 실행되는 처리를 따라, 메모리 제어부(1406)에 의해 갱신된다.
인코드·디코드 엔진(1407)은, 화상 데이터의 인코드 처리, 및 화상 데이터가 부호화된 데이터인 비디오 스트림의 디코드 처리를 행한다. 예를 들어, 인코드·디코드 엔진(1407)은, 프레임 메모리(1405)로부터 판독한 화상 데이터를 부호화하여, 비디오 스트림으로서 비디오 ES 버퍼(1408A)에 순차 기입한다. 또한, 예를 들어 비디오 ES 버퍼(1408B)로부터 비디오 스트림을 순차 판독하여 복호하고, 화상 데이터로서 프레임 메모리(1405)에 순차 기입한다. 인코드·디코드 엔진(1407)은, 이 부호화나 복호에 있어서, 프레임 메모리(1405)를 작업 영역으로서 사용한다. 또한, 인코드·디코드 엔진(1407)은, 예를 들어 매크로 블록마다의 처리를 개시하는 타이밍에서, 메모리 제어부(1406)에 대하여 동기 신호를 출력한다.
비디오 ES 버퍼(1408A)는, 인코드·디코드 엔진(1407)에 의해 생성된 비디오 스트림을 버퍼링하여, 다중화부(MUX)(1412)에 공급한다. 비디오 ES 버퍼(1408B)는, 역 다중화부(DMUX)(1413)로부터 공급된 비디오 스트림을 버퍼링하여, 인코드·디코드 엔진(1407)에 공급한다.
오디오 ES 버퍼(1409A)는, 오디오 인코더(1410)에 의해 생성된 오디오 스트림을 버퍼링하여, 다중화부(MUX)(1412)에 공급한다. 오디오 ES 버퍼(1409B)는, 역 다중화부(DMUX)(1413)로부터 공급된 오디오 스트림을 버퍼링하여, 오디오 디코더(1411)에 공급한다.
오디오 인코더(1410)는, 예를 들어 커넥티비티(1321)(도 51) 등으로부터 입력된 오디오 신호를, 예를 들어 디지털 변환하여, 예를 들어 MPEG 오디오 방식이나 AC3(Audio Codenumber 3) 방식 등의 소정의 방식으로 부호화한다. 오디오 인코더(1410)는, 오디오 신호가 부호화된 데이터인 오디오 스트림을 오디오 ES 버퍼(1409A)에 순차 기입한다. 오디오 디코더(1411)는, 오디오 ES 버퍼(1409B)로부터 공급된 오디오 스트림을 복호하여, 예를 들어 아날로그 신호로의 변환 등을 행하고, 재생된 오디오 신호로서 예를 들어 커넥티비티(1321)(도 51) 등에 공급한다.
다중화부(MUX)(1412)는, 비디오 스트림과 오디오 스트림을 다중화한다. 이 다중화의 방법(즉, 다중화에 의해 생성되는 비트 스트림의 포맷)은 임의이다. 또한, 이 다중화 시에, 다중화부(MUX)(1412)는, 소정의 헤더 정보 등을 비트 스트림에 부가할 수도 있다. 즉, 다중화부(MUX)(1412)는, 다중화에 의해 스트림의 포맷을 변환할 수 있다. 예를 들어, 다중화부(MUX)(1412)는, 비디오 스트림과 오디오 스트림을 다중화함으로써, 전송용의 포맷의 비트 스트림인 트랜스포트 스트림으로 변환한다. 또한, 예를 들어 다중화부(MUX)(1412)는, 비디오 스트림과 오디오 스트림을 다중화함으로써, 기록용 파일 포맷의 데이터(파일 데이터)로 변환한다.
역 다중화부(DMUX)(1413)는, 다중화부(MUX)(1412)에 의한 다중화에 대응하는 방법으로, 비디오 스트림과 오디오 스트림이 다중화된 비트 스트림을 역 다중화한다. 즉, 역 다중화부(DMUX)(1413)는, 스트림 버퍼(1414)로부터 판독된 비트 스트림으로부터 비디오 스트림과 오디오 스트림을 추출한다(비디오 스트림과 오디오 스트림을 분리함). 즉, 역 다중화부(DMUX)(1413)는, 역 다중화에 의해 스트림의 포맷을 변환(다중화부(MUX)(1412)에 의한 변환의 역변환)할 수 있다. 예를 들어, 역 다중화부(DMUX)(1413)는, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등(모두 도 51)으로부터 공급된 트랜스포트 스트림을, 스트림 버퍼(1414)를 통해 취득하여, 역 다중화함으로써, 비디오 스트림과 오디오 스트림으로 변환할 수 있다. 또한, 예를 들어 역 다중화부(DMUX)(1413)는, 예를 들어 커넥티비티(1321)에 의해(도 51) 각종 기록 매체로부터 판독된 파일 데이터를, 스트림 버퍼(1414)를 통해 취득하여, 역 다중화함으로써, 비디오 스트림과 오디오 스트림으로 변환할 수 있다.
스트림 버퍼(1414)는 비트 스트림을 버퍼링한다. 예를 들어, 스트림 버퍼(1414)는, 다중화부(MUX)(1412)로부터 공급된 트랜스포트 스트림을 버퍼링하고, 소정의 타이밍에 있어서, 또는 외부로부터의 요구 등에 기초하여, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333)(모두 도 51) 등에 공급한다.
또한, 예를 들어 스트림 버퍼(1414)는, 다중화부(MUX)(1412)로부터 공급된 파일 데이터를 버퍼링하고, 소정의 타이밍에 있어서, 또는 외부로부터의 요구 등에 기초하여, 예를 들어 커넥티비티(1321)(도 51) 등에 공급하여, 각종 기록 매체에 기록시킨다.
또한, 스트림 버퍼(1414)는, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333) 등(모두 도 51)을 통해 취득한 트랜스포트 스트림을 버퍼링하고, 소정의 타이밍에 있어서, 또는 외부로부터의 요구 등에 기초하여, 역 다중화부(DMUX)(1413)에 공급한다.
또한, 스트림 버퍼(1414)는, 예를 들어 커넥티비티(1321)(도 51) 등에서 각종 기록 매체로부터 판독된 파일 데이터를 버퍼링하고, 소정의 타이밍에 있어서, 또는 외부로부터의 요구 등에 기초하여, 역 다중화부(DMUX)(1413)에 공급한다.
이어서, 이와 같은 구성의 비디오 프로세서(1332)의 동작 예에 대해서 설명한다. 예를 들어, 커넥티비티(1321)(도 51) 등으로부터 비디오 프로세서(1332)에 입력된 비디오 신호는, 비디오 입력 처리부(1401)에서 4:2:2Y/Cb/Cr 방식 등의 소정의 방식의 디지털 화상 데이터로 변환되어, 프레임 메모리(1405)에 순차 기입된다. 이 디지털 화상 데이터는, 제1 화상 확대 축소부(1402) 또는 제2 화상 확대 축소부(1403)에 판독되어서, 4:2:0Y/Cb/Cr 방식 등의 소정의 방식으로의 포맷 변환 및 확대 축소 처리가 행하여지고, 다시 프레임 메모리(1405)에 기입된다. 이 화상 데이터는, 인코드·디코드 엔진(1407)에 의해 부호화되어, 비디오 스트림으로서 비디오 ES 버퍼(1408A)에 기입된다.
또한, 커넥티비티(1321)(도 51) 등으로부터 비디오 프로세서(1332)에 입력된 오디오 신호는, 오디오 인코더(1410)에 의해 부호화되어, 오디오 스트림으로서, 오디오 ES 버퍼(1409A)에 기입된다.
비디오 ES 버퍼(1408A)의 비디오 스트림과, 오디오 ES 버퍼(1409A)의 오디오 스트림은, 다중화부(MUX)(1412)에 판독되어 다중화되어, 트랜스포트 스트림 또는 파일 데이터 등으로 변환된다. 다중화부(MUX)(1412)에 의해 생성된 트랜스포트 스트림은, 스트림 버퍼(1414)에 버퍼된 후, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333)(모두 도 51) 등을 통해 외부 네트워크에 출력된다. 또한, 다중화부(MUX)(1412)에 의해 생성된 파일 데이터는, 스트림 버퍼(1414)에 버퍼된 후, 예를 들어 커넥티비티(1321)(도 51) 등에 출력되어, 각종 기록 매체에 기록된다.
또한, 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333)(모두 도 51) 등을 통해 외부 네트워크로부터 비디오 프로세서(1332)에 입력된 트랜스포트 스트림은, 스트림 버퍼(1414)에 버퍼된 후, 역 다중화부(DMUX)(1413)에 의해 역 다중화된다. 또한, 예를 들어 커넥티비티(1321)(도 51) 등에 있어서 각종 기록 매체로부터 판독되어, 비디오 프로세서(1332)에 입력된 파일 데이터는, 스트림 버퍼(1414)에 버퍼된 후, 역 다중화부(DMUX)(1413)에 의해 역 다중화된다. 즉, 비디오 프로세서(1332)에 입력된 트랜스포트 스트림 또는 파일 데이터는, 역 다중화부(DMUX)(1413)에 의해 비디오 스트림과 오디오 스트림으로 분리된다.
오디오 스트림은, 오디오 ES 버퍼(1409B)를 통해 오디오 디코더(1411)에 공급되어, 복호되어서 오디오 신호가 재생된다. 또한, 비디오 스트림은, 비디오 ES 버퍼(1408B)에 기입된 후, 인코드·디코드 엔진(1407)에 의해 순차 판독되어 복호되어서 프레임 메모리(1405)에 기입된다. 복호된 화상 데이터는, 제2 화상 확대 축소부(1403)에 의해 확대 축소 처리되어서, 프레임 메모리(1405)에 기입된다. 그리고, 복호된 화상 데이터는, 비디오 출력 처리부(1404)에 판독되어서, 4:2:2Y/Cb/Cr 방식 등의 소정의 방식으로 포맷 변환되고, 또한 아날로그 신호로 변환되어서, 비디오 신호가 재생 출력된다.
이렇게 구성되는 비디오 프로세서(1332)에 본 기술을 적용하는 경우, 인코드·디코드 엔진(1407)에, 상술한 각 실시 형태에 따른 본 기술을 적용하면 된다. 즉, 예를 들어 인코드·디코드 엔진(1407)이, 제1 실시 형태에 따른 다시점 화상 부호화 장치(11)(도 1)나 제2 실시 형태에 따른 다시점 화상 복호 장치(211)(도 10)의 기능을 갖도록 하면 된다. 이와 같이 함으로써, 비디오 프로세서(1332)는, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
또한, 인코드·디코드 엔진(1407)에 있어서, 본 기술(즉, 상술한 각 실시 형태에 따른 화상 부호화 장치나 화상 복호 장치의 기능)은, 논리 회로 등의 하드웨어에 의해 실현하도록 해도 되고, 내장 프로그램 등의 소프트웨어에 의해 실현하도록 해도 되고, 그 양쪽에 의해 실현하도록 해도 된다.
[비디오 프로세서의 다른 구성예]
도 53은, 본 기술을 적용한 비디오 프로세서(1332)(도 51)의 개략적인 구성의 다른 예를 나타내고 있다. 도 53의 예의 경우, 비디오 프로세서(1332)는, 비디오 데이터를 소정의 방식으로 부호화·복호하는 기능을 갖는다.
보다 구체적으로는, 도 53에 도시된 바와 같이, 비디오 프로세서(1332)는, 제어부(1511), 디스플레이 인터페이스(1512), 디스플레이 엔진(1513), 화상 처리 엔진(1514) 및 내부 메모리(1515)를 갖는다. 또한, 비디오 프로세서(1332)는, 코덱 엔진(1516), 메모리 인터페이스(1517), 다중화·역 다중화부(MUX DMUX)(1518), 네트워크 인터페이스(1519) 및 비디오 인터페이스(1520)를 갖는다.
제어부(1511)는, 디스플레이 인터페이스(1512), 디스플레이 엔진(1513), 화상 처리 엔진(1514) 및 코덱 엔진(1516) 등, 비디오 프로세서(1332) 내의 각 처리부의 동작을 제어한다.
도 53에 도시된 바와 같이, 제어부(1511)는, 예를 들어 메인 CPU(1531), 서브 CPU(1532) 및 시스템 컨트롤러(1533)를 갖는다. 메인 CPU(1531)는, 비디오 프로세서(1332) 내의 각 처리부의 동작을 제어하기 위한 프로그램 등을 실행한다. 메인 CPU(1531)는, 그 프로그램 등에 따라서 제어 신호를 생성하고, 각 처리부에 공급한다(즉, 각 처리부의 동작을 제어함). 서브 CPU(1532)는, 메인 CPU(1531)의 보조적인 역할을 한다. 예를 들어, 서브 CPU(1532)는, 메인 CPU(1531)가 실행하는 프로그램 등의 자 프로세스나 서브루틴 등을 실행한다. 시스템 컨트롤러(1533)는, 메인 CPU(1531) 및 서브 CPU(1532)가 실행하는 프로그램을 지정하는 등, 메인 CPU(1531) 및 서브 CPU(1532)의 동작을 제어한다.
디스플레이 인터페이스(1512)는, 제어부(1511)의 제어 하에, 화상 데이터를 예를 들어 커넥티비티(1321)(도 51) 등에 출력한다. 예를 들어, 디스플레이 인터페이스(1512)는, 디지털 데이터의 화상 데이터를 아날로그 신호로 변환하여, 재생된 비디오 신호로서, 또는 디지털 데이터의 화상 데이터 그대로, 커넥티비티(1321)(도 51)의 모니터 장치 등에 출력한다.
디스플레이 엔진(1513)은, 제어부(1511)의 제어 하에, 화상 데이터에 대하여 그 화상을 표시시키는 모니터 장치 등의 하드웨어 스펙에 맞추도록, 포맷 변환, 사이즈 변환, 색 영역 변환 등의 각종 변환 처리를 행한다.
화상 처리 엔진(1514)은, 제어부(1511)의 제어 하에, 화상 데이터에 대하여 예를 들어 화질 개선을 위한 필터 처리 등, 소정의 화상 처리를 실시한다.
내부 메모리(1515)는, 디스플레이 엔진(1513), 화상 처리 엔진(1514) 및 코덱 엔진(1516)에 의해 공용되는, 비디오 프로세서(1332)의 내부에 설치된 메모리이다. 내부 메모리(1515)는, 예를 들어 디스플레이 엔진(1513), 화상 처리 엔진(1514) 및 코덱 엔진(1516)의 사이에 행하여지는 데이터의 수수에 이용된다. 예를 들어, 내부 메모리(1515)는, 디스플레이 엔진(1513), 화상 처리 엔진(1514) 또는 코덱 엔진(1516)으로부터 공급되는 데이터를 저장하고, 필요에 따라(예를 들어, 요구에 따라), 그 데이터를, 디스플레이 엔진(1513), 화상 처리 엔진(1514) 또는 코덱 엔진(1516)에 공급한다. 이 내부 메모리(1515)는, 어떤 기억 디바이스에 의해 실현하도록 해도 되지만, 일반적으로 블록 단위의 화상 데이터나 파라미터 등과 같은 소용량의 데이터 저장에 이용하는 경우가 많으므로, 예를 들어 SRAM(Static Random Access Memory)과 같은 비교적(예를 들어 외부 메모리(1312)와 비교해서) 소용량이지만 응답 속도가 고속인 반도체 메모리에 의해 실현하는 것이 바람직하다.
코덱 엔진(1516)은, 화상 데이터의 부호화나 복호에 관한 처리를 행한다. 이 코덱 엔진(1516)이 대응하는 부호화·복호의 방식은 임의이며, 그 수는 1개이어도 되고, 복수이어도 된다. 예를 들어, 코덱 엔진(1516)은, 복수의 부호화·복호 방식의 코덱 기능을 구비하고, 그 중에서 선택된 것으로 화상 데이터의 부호화 또는 부호화 데이터의 복호를 행하도록 해도 된다.
도 53에 나타내는 예에서, 코덱 엔진(1516)은, 코덱에 관한 처리의 기능 블록으로서, 예를 들어 MPEG-2 Video(1541), AVC/H.264(1542), HEVC/H.265(1543), HEVC/H.265(Scalable)(1544), HEVC/H.265(Multi-view)(1545) 및 MPEG-DASH(1551)를 갖는다.
MPEG-2Video(1541)는, 화상 데이터를 MPEG-2 방식으로 부호화하거나 복호하는 기능 블록이다. AVC/H.264(1542)는, 화상 데이터를 AVC 방식으로 부호화하거나 복호하는 기능 블록이다. HEVC/H.265(1543)는, 화상 데이터를 HEVC 방식으로 부호화하거나 복호하는 기능 블록이다. HEVC/H.265(Scalable)(1544)는, 화상 데이터를 HEVC 방식으로 스케일러블 부호화하거나 스케일러블 복호하는 기능 블록이다. HEVC/H.265(Multi-view)(1545)는, 화상 데이터를 HEVC 방식으로 다시점 부호화하거나 다시점 복호하는 기능 블록이다.
MPEG-DASH(1551)는, 화상 데이터를 MPEG-DASH(MPEG-Dynamic Adaptive Streaming over HTTP) 방식으로 송수신하는 기능 블록이다. MPEG-DASH는, HTTP(Hyper Text Transfer Protocol)를 사용하여 비디오의 스트리밍을 행하는 기술이며, 미리 준비된 해상도 등이 서로 상이한 복수의 부호화 데이터 중에서 적절한 것을 세그먼트 단위로 선택해서 전송하는 것을 특징의 하나로 한다. MPEG-DASH(1551)는, 규격에 준거하는 스트림의 생성이나 그 스트림의 전송 제어 등을 행하고, 화상 데이터의 부호화·복호에 대해서는, 상술한 MPEG-2Video(1541) 내지 HEVC/H.265(Multi-view)(1545)를 이용한다.
메모리 인터페이스(1517)는 외부 메모리(1312)용의 인터페이스다. 화상 처리 엔진(1514)이나 코덱 엔진(1516)으로부터 공급되는 데이터는, 메모리 인터페이스(1517)를 통해 외부 메모리(1312)에 공급된다. 또한, 외부 메모리(1312)로부터 판독된 데이터는, 메모리 인터페이스(1517)를 통해 비디오 프로세서(1332)(화상 처리 엔진(1514) 또는 코덱 엔진(1516))에 공급된다.
다중화·역 다중화부(MUX DMUX)(1518)는, 부호화 데이터의 비트 스트림, 화상 데이터, 비디오 신호 등, 화상에 관한 각종 데이터의 다중화나 역 다중화를 행한다. 이 다중화·역 다중화의 방법은 임의이다. 예를 들어, 다중화 시에, 다중화·역 다중화부(MUX DMUX)(1518)는, 복수의 데이터를 하나로 통합할 뿐만 아니라, 소정의 헤더 정보 등을 그 데이터에 부가할 수도 있다. 또한, 역 다중화 시에, 다중화·역 다중화부(MUX DMUX)(1518)는, 하나의 데이터를 복수로 분할할 뿐만 아니라, 분할한 각 데이터에 소정의 헤더 정보 등을 부가할 수도 있다. 즉, 다중화·역 다중화부(MUX DMUX)(1518)는, 다중화·역 다중화에 의해 데이터의 포맷을 변환할 수 있다. 예를 들어, 다중화·역 다중화부(MUX DMUX)(1518)는, 비트 스트림을 다중화함으로써, 전송용의 포맷의 비트 스트림인 트랜스포트 스트림이나, 기록용 파일 포맷의 데이터(파일 데이터)로 변환할 수 있다. 물론, 역 다중화에 의해 그 역변환도 가능하다.
네트워크 인터페이스(1519)는, 예를 들어 브로드밴드 모뎀(1333)이나 커넥티비티(1321)(모두 도 51) 등에 적합한 인터페이스다. 비디오 인터페이스(1520)는, 예를 들어 커넥티비티(1321)나 카메라(1322)(모두 도 51) 등에 적합한 인터페이스다.
이어서, 이러한 비디오 프로세서(1332)의 동작 예에 대해서 설명한다. 예를 들어, 커넥티비티(1321)나 브로드밴드 모뎀(1333)(모두 도 51) 등을 통해 외부 네트워크로부터 트랜스포트 스트림을 수신하면, 그 트랜스포트 스트림은, 네트워크 인터페이스(1519)를 통해 다중화·역 다중화부(MUX DMUX)(1518)에 공급되어서 역 다중화되고, 코덱 엔진(1516)에 의해 복호된다. 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 예를 들어 화상 처리 엔진(1514)에 의해 소정의 화상 처리가 실시되고, 디스플레이 엔진(1513)에 의해 소정의 변환이 행하여져, 디스플레이 인터페이스(1512)를 통해 예를 들어 커넥티비티(1321)(도 51) 등에 공급되어, 그 화상이 모니터에 표시된다. 또한, 예를 들어 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 코덱 엔진(1516)에 의해 재부호화되고, 다중화·역 다중화부(MUX DMUX)(1518)에 의해 다중화되어서 파일 데이터로 변환되어, 비디오 인터페이스(1520)를 통해 예를 들어 커넥티비티(1321)(도 51) 등에 출력되어, 각종 기록 매체에 기록된다.
또한, 예를 들어 커넥티비티(1321)(도 51) 등에 의해 도시하지 않은 기록 매체로부터 판독된, 화상 데이터가 부호화된 부호화 데이터의 파일 데이터는, 비디오 인터페이스(1520)를 통해 다중화·역 다중화부(MUX DMUX)(1518)에 공급되어서 역 다중화되어, 코덱 엔진(1516)에 의해 복호된다. 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 화상 처리 엔진(1514)에 의해 소정의 화상 처리가 실시되고, 디스플레이 엔진(1513)에 의해 소정의 변환이 행하여져, 디스플레이 인터페이스(1512)를 통해 예를 들어 커넥티비티(1321)(도 51) 등에 공급되어, 그 화상이 모니터에 표시된다. 또한, 예를 들어 코덱 엔진(1516)의 복호에 의해 얻어진 화상 데이터는, 코덱 엔진(1516)에 의해 재부호화되고, 다중화·역 다중화부(MUX DMUX)(1518)에 의해 다중화되어서 트랜스포트 스트림으로 변환되어, 네트워크 인터페이스(1519)를 통해 예를 들어 커넥티비티(1321)나 브로드밴드 모뎀(1333)(모두 도 51) 등에 공급되어 도시하지 않은 다른 장치에 전송된다.
또한, 비디오 프로세서(1332) 내의 각 처리부의 사이에서의 화상 데이터나 그 밖의 데이터의 수수는, 예를 들어 내부 메모리(1515)나 외부 메모리(1312)를 이용하여 행하여진다. 또한, 파워 매니지먼트 모듈(1313)은, 예를 들어 제어부(1511)에 대한 전력 공급을 제어한다.
이렇게 구성되는 비디오 프로세서(1332)에 본 기술을 적용하는 경우, 코덱 엔진(1516)에, 상술한 각 실시 형태에 따른 본 기술을 적용하면 된다. 즉, 예를 들어 코덱 엔진(1516)이 제1 실시 형태에 따른 다시점 화상 부호화 장치(11)(도 1)나 제2 실시 형태에 따른 다시점 화상 복호 장치(211)(도 10)를 실현하는 기능 블록을 갖도록 하면 된다. 이와 같이 함으로써, 비디오 프로세서(1332)는, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
또한, 코덱 엔진(1516)에 있어서, 본 기술(즉, 상술한 각 실시 형태에 따른 화상 부호화 장치나 화상 복호 장치의 기능)은, 논리 회로 등의 하드웨어에 의해 실현하도록 해도 되고, 내장 프로그램 등의 소프트웨어에 의해 실현하도록 해도 되고, 그 양쪽에 의해 실현하도록 해도 된다.
이상으로 비디오 프로세서(1332)의 구성을 2가지 예시했지만, 비디오 프로세서(1332)의 구성은 임의이며, 상술한 2가지 예 이외의 것이어도 된다. 또한, 이 비디오 프로세서(1332)는, 하나의 반도체 칩으로서 구성되도록 해도 되지만, 복수의 반도체 칩으로서 구성되도록 해도 된다. 예를 들어, 복수의 반도체를 적층하는 3차원 적층 LSI로 해도 된다. 또한, 복수의 LSI에 의해 실현되도록 해도 된다.
[장치에 대한 적용예]
비디오 세트(1300)는, 화상 데이터를 처리하는 각종 장치에 내장할 수 있다. 예를 들어, 비디오 세트(1300)는, 텔레비전 장치(900)(도 44), 휴대 전화기(920)(도 45), 기록 재생 장치(940)(도 46), 촬상 장치(960)(도 47) 등에 내장할 수 있다. 비디오 세트(1300)를 내장함으로써, 그 장치는, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
또한, 비디오 세트(1300)는, 예를 들어 도 48의 데이터 전송 시스템(1000)에서의 퍼스널 컴퓨터(1004), AV 기기(1005), 태블릿 디바이스(1006) 및 휴대 전화기(1007) 등의 단말 장치, 도 49의 데이터 전송 시스템(1100)에서의 방송국(1101) 및 단말 장치(1102), 및 도 50의 촬상 시스템(1200)에서의 촬상 장치(1201) 및 스케일러블 부호화 데이터 기억 장치(1202) 등에도 내장할 수 있다. 비디오 세트(1300)를 내장함으로써, 그 장치는, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다. 또한, 도 54의 콘텐츠 재생 시스템이나, 도 60의 무선 통신 시스템에서의 각 장치에도 내장할 수 있다.
또한, 상술한 비디오 세트(1300)의 각 구성의 일부이어도, 비디오 프로세서(1332)를 포함하는 것이라면, 본 기술을 적용한 구성으로서 실시할 수 있다. 예를 들어, 비디오 프로세서(1332)만을 본 기술을 적용한 비디오 프로세서로서 실시할 수 있다. 또한, 예를 들어 상술한 바와 같이 점선(1341)에 의해 나타내는 프로세서나 비디오 모듈(1311) 등을, 본 기술을 적용한 프로세서나 모듈 등으로서 실시할 수 있다. 또한, 예를 들어 비디오 모듈(1311), 외부 메모리(1312), 파워 매니지먼트 모듈(1313) 및 프론트엔드 모듈(1314)을 조합하여, 본 기술을 적용한 비디오 유닛(1361)으로서 실시할 수도 있다. 어떤 구성의 경우든, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
즉, 비디오 프로세서(1332)를 포함하는 것이라면 어떤 구성이라도, 비디오 세트(1300)의 경우와 마찬가지로, 화상 데이터를 처리하는 각종 장치에 내장할 수 있다. 예를 들어, 비디오 프로세서(1332), 점선(1341)에 의해 나타내는 프로세서, 비디오 모듈(1311), 또는, 비디오 유닛(1361)을 텔레비전 장치(900)(도 44), 휴대 전화기(920)(도 45), 기록 재생 장치(940)(도 46), 촬상 장치(960)(도 47), 도 48의 데이터 전송 시스템(1000)에서의 퍼스널 컴퓨터(1004), AV 기기(1005), 태블릿 디바이스(1006) 및 휴대 전화기(1007) 등의 단말 장치, 도 49의 데이터 전송 시스템(1100)에서의 방송국(1101) 및 단말 장치(1102), 및 도 50의 촬상 시스템(1200)에서의 촬상 장치(1201) 및 스케일러블 부호화 데이터 기억 장치(1202) 등에 내장할 수 있다. 또한, 도 54의 콘텐츠 재생 시스템이나, 도 60의 무선 통신 시스템에서의 각 장치에도 내장할 수 있다. 그리고, 본 기술을 적용한 어느 하나의 구성을 내장함으로써, 그 장치는, 비디오 세트(1300)의 경우와 마찬가지로, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
또한, 본 기술은, 미리 준비된 해상도 등이 서로 상이한 복수의 부호화 데이터 중에서 적절한 것을 세그먼트 단위로 선택해서 사용하는, 예를 들어 후술하는 MPEG DASH 등과 같은 HTTP 스트리밍의 콘텐츠 재생 시스템이나 Wi-Fi 규격의 무선 통신 시스템에도 적용할 수 있다.
<14. MPEG-DASH의 응용예>
[콘텐츠 재생 시스템의 개요]
먼저, 도 54 내지 도 56을 참조하여, 본 기술을 적용 가능한 콘텐츠 재생 시스템에 대해서 개략적으로 설명한다.
이하에서는, 먼저, 이러한 각 실시 형태에서 공통되는 기본 구성에 대하여 도 54 및 도 55를 참조하여 설명한다.
도 54는, 콘텐츠 재생 시스템의 구성을 나타낸 설명도이다. 도 54에 도시한 바와 같이, 콘텐츠 재생 시스템은, 콘텐츠 서버(1610, 1611)와, 네트워크(1612)와, 콘텐츠 재생 장치(1620)(클라이언트 장치)를 구비한다.
콘텐츠 서버(1610, 1611)와 콘텐츠 재생 장치(1620)는, 네트워크(1612)를 통해 접속되어 있다. 이 네트워크(1612)는, 네트워크(1612)에 접속되어 있는 장치로부터 송신되는 정보의 유선 또는 무선의 전송로다.
예를 들어, 네트워크(1612)는, 인터넷, 전화 회선망, 위성 통신망 등의 공중 회선망이나, Ethernet(등록 상표)을 포함하는 각종 LAN(Local Area Network), WAN(Wide Area Network) 등을 포함해도 된다. 또한, 네트워크(1612)는, IP-VPN(Internet Protocol-Virtual Private Network) 등의 전용 회선망을 포함해도 된다.
콘텐츠 서버(1610)는, 콘텐츠 데이터를 부호화하고, 부호화 데이터 및 부호화 데이터의 메타 정보를 포함하는 데이터 파일을 생성하여 기억한다. 또한, 콘텐츠 서버(1610)가 MP4 형식의 데이터 파일을 생성할 경우, 부호화 데이터는 「mdat」에 해당하고, 메타 정보는 「moov」에 해당한다.
또한, 콘텐츠 데이터는, 음악, 강연 및 라디오 프로 등의 음악 데이터나, 영화, 텔레비전 프로그램, 비디오 프로그램, 사진, 문서, 그림 및 도표 등의 영상 데이터나, 게임 및 소프트웨어 등이어도 된다.
여기서, 콘텐츠 서버(1610)는, 동일 콘텐츠에 관하여, 서로 다른 비트 레이트로 복수의 데이터 파일을 생성한다. 또한 콘텐츠 서버(1611)는, 콘텐츠 재생 장치(1620)로부터의 콘텐츠의 재생 요구에 대하여, 콘텐츠 서버(1610)의 URL의 정보에, 콘텐츠 재생 장치(1620)에서 당해 URL에 부가시키는 파라미터의 정보를 포함하여 콘텐츠 재생 장치(1620)에 송신한다. 이하, 도 55를 참조하여 당해 사항에 대해 구체적으로 설명한다.
도 55는, 도 54의 콘텐츠 재생 시스템에서의 데이터의 흐름을 나타낸 설명도이다. 콘텐츠 서버(1610)는, 동일한 콘텐츠 데이터를 서로 다른 비트 레이트로 부호화하고, 도 55에 도시한 바와 같이 예를 들어 2Mbps의 파일 A, 1.5Mbps의 파일 B, 1Mbps의 파일 C를 생성한다. 상대적으로, 파일 A는 하이 비트 레이트이며, 파일 B는 표준 비트 레이트이며, 파일 C는 로 비트 레이트이다.
또한, 도 55에 도시한 바와 같이, 각 파일의 부호화 데이터는 복수의 세그먼트로 구분되어 있다. 예를 들어, 파일 A의 부호화 데이터는 「A1」, 「A2」, 「A3」, …「An」이라는 세그먼트로 구분되어 있고, 파일 B의 부호화 데이터는 「B1」, 「B2」, 「B3」, …「Bn」이라는 세그먼트로 구분되어 있고, 파일 C의 부호화 데이터는 「C1」, 「C2」, 「C3」, …「Cn」이라는 세그먼트로 구분되어 있다.
또한, 각 세그먼트는, MP4의 싱크 샘플(예를 들어, AVC/H.264의 영상 부호화에서는 IDR- 픽처)로 시작되는 단독으로 재생 가능한 1 또는 2 이상의 영상 부호화 데이터 및 음성 부호화 데이터를 포함하여 구성되어도 된다. 예를 들어, 1초 30 프레임의 비디오 데이터가 15 프레임 고정 길이의 GOP(Group of Picture)로 부호화되어 있었을 경우, 각 세그먼트는, 4GOP에 상당하는 2초분의 영상 및 음성 부호화 데이터나, 20GOP에 상당하는 10초분의 영상 및 음성 부호화 데이터이어도 된다.
또한, 각 파일에서의 배치 순서가 동일한 세그먼트에 의한 재생 범위(콘텐츠의 선두에서부터의 시간 위치의 범위)는 동일하다. 예를 들어, 세그먼트 「A2」, 세그먼트 「B2」, 및 세그먼트 「C2」의 재생 범위는 동일하며, 각 세그먼트가 2초분의 부호화 데이터일 경우, 세그먼트 「A2」, 세그먼트 「B2」, 및 세그먼트 「C2」의 재생 범위는, 모두 콘텐츠의 2초 내지 4초이다.
콘텐츠 서버(1610)는, 이러한 복수의 세그먼트로 구성되는 파일 A 내지 파일 C를 생성하면, 파일 A 내지 파일 C를 기억한다. 그리고, 콘텐츠 서버(1610)는, 도 55에 도시한 바와 같이, 서로 다른 파일을 구성하는 세그먼트를 콘텐츠 재생 장치(1620)에 순차적으로 송신하고, 콘텐츠 재생 장치(1620)는, 수신한 세그먼트를 스트리밍 재생한다.
여기서, 본 실시 형태에 의한 콘텐츠 서버(1610)는, 각 부호화 데이터의 비트 레이트 정보 및 액세스 정보를 포함하는 플레이 리스트 파일(이하, MPD: Media Presentation Description)을 콘텐츠 재생 장치(1620)에 송신하고, 콘텐츠 재생 장치(1620)는, MPD에 기초하여, 복수의 비트 레이트 중 어느 하나의 비트 레이트를 선택하고, 선택한 비트 레이트에 대응하는 세그먼트의 송신을 콘텐츠 서버(1610)에 요구한다.
도 54에서는, 하나의 콘텐츠 서버(1610)만이 도시되어 있지만, 본 개시는, 이러한 예에 한정되지 않음은 물론이다.
도 56은, MPD의 구체예를 나타낸 설명도이다. 도 56에 도시한 바와 같이, MPD에는, 서로 다른 비트 레이트(BANDWIDTH)를 갖는 복수의 부호화 데이터에 관한 액세스 정보가 포함된다. 예를 들어, 도 56에 나타낸 MPD는, 256Kbps, 1.024Mbps, 1.384Mbps, 1.536Mbps, 2.048Mbps의 각각의 부호화 데이터가 존재하는 것을 나타냄과 함께, 각 부호화 데이터에 관한 액세스 정보를 포함한다. 콘텐츠 재생 장치(1620)는, 이러한 MPD에 기초하여, 스트리밍 재생하는 부호화 데이터의 비트 레이트를 동적으로 변경하는 것이 가능하다.
또한, 도 54에는 콘텐츠 재생 장치(1620)의 일례로서 휴대 단말기를 나타내고 있지만, 콘텐츠 재생 장치(1620)는 이러한 예에 한정되지 않는다. 예를 들어, 콘텐츠 재생 장치(1620)는, PC(Personal Computer), 가정용 영상 처리 장치(DVD 레코더, 비디오 데크 등), PDA(Personal Digital Assistants), 가정용 게임기기, 가전 기기 등의 정보 처리 장치이어도 된다. 또한, 콘텐츠 재생 장치(1620)는, 휴대 전화, PHS(Personal Handyphone System), 휴대용 음악 재생 장치, 휴대용 영상 처리 장치, 휴대용 게임기기 등의 정보 처리 장치이어도 된다.
[콘텐츠 서버의 구성]
이상, 도 54 내지 도 56을 참조하여, 콘텐츠 재생 시스템의 개요를 설명하였다. 계속해서, 도 57을 참조하여, 콘텐츠 서버(1610)의 구성을 설명한다.
도 57은, 콘텐츠 서버(1610)의 구성을 도시한 기능 블록도이다. 도 57에 도시한 바와 같이, 콘텐츠 서버(1610)는, 파일 생성부(1631)와, 기억부(1632)와, 통신부(1633)를 구비한다.
파일 생성부(1631)는, 콘텐츠 데이터를 부호화하는 인코더(1641)를 구비하고, 동일한 콘텐츠에서 비트 레이트가 상이한 복수의 부호화 데이터, 및 상술한 MPD를 생성한다. 예를 들어, 파일 생성부(1631)는, 256Kbps, 1.024Mbps, 1.384Mbps, 1.536Mbps, 2.048Mbps의 각각의 부호화 데이터를 생성했을 경우, 도 56에 도시된 바와 같은 MPD를 생성한다.
기억부(1632)는, 파일 생성부(1631)에 의해 생성된 비트 레이트가 상이한 복수의 부호화 데이터 및 MPD를 기억한다. 이 기억부(1632)는, 불휘발성 메모리, 자기 디스크, 광 디스크 및 MO(Magneto Optical) 디스크 등의 기억 매체이어도 된다. 불휘발성 메모리로서는, 예를 들어 EEPROM(Electrically Erasable Programmable Read-Only Memory), EPROM(Erasable Programmable ROM)을 들 수 있다. 또한, 자기 디스크로서는, 하드 디스크 및 원반형 자성체 디스크 등을 들 수 있다. 또한, 광 디스크로서는, CD(Compact Disc, DVD-R(Digital Versatile Disc Recordable) 및 BD(Blu-Ray Disc(등록 상표)) 등을 들 수 있다.
통신부(1633)는, 콘텐츠 재생 장치(1620)와의 인터페이스이며, 네트워크(1612)를 통해 콘텐츠 재생 장치(1620)와 통신한다. 보다 상세하게는, 통신부(1633)는, HTTP에 따라서 콘텐츠 재생 장치(1620)와 통신하는 HTTP 서버로서의 기능을 갖는다. 예를 들어, 통신부(1633)는, MPD를 콘텐츠 재생 장치(1620)에 송신하고, HTTP에 따라서 콘텐츠 재생 장치(1620)로부터 MPD에 기초하여 요구된 부호화 데이터를 기억부(1632)로부터 추출하고, HTTP 리스펀스로서 콘텐츠 재생 장치(1620)에 부호화 데이터를 송신한다.
[콘텐츠 재생 장치의 구성]
이상, 본 실시 형태에 의한 콘텐츠 서버(1610)의 구성을 설명하였다. 계속해서, 도 58을 참조하여 콘텐츠 재생 장치(1620)의 구성을 설명한다.
도 58은, 콘텐츠 재생 장치(1620)의 구성을 도시한 기능 블록도이다. 도 58에 도시한 바와 같이, 콘텐츠 재생 장치(1620)는, 통신부(1651)와, 기억부(1652)와, 재생부(1653)와, 선택부(1654)와, 현재지 취득부(1656)를 구비한다.
통신부(1651)는, 콘텐츠 서버(1610)와의 인터페이스이며, 콘텐츠 서버(1610)에 대하여 데이터를 요구하고, 콘텐츠 서버(1610)로부터 데이터를 취득한다. 보다 상세하게는, 통신부(1651)는, HTTP에 따라서 콘텐츠 재생 장치(1620)와 통신하는 HTTP 클라이언트로서의 기능을 갖는다. 예를 들어, 통신부(1651)는, HTTP Range를 이용함으로써, 콘텐츠 서버(1610)로부터 MPD나 부호화 데이터의 세그먼트를 선택적으로 취득할 수 있다.
기억부(1652)는, 콘텐츠의 재생에 관한 다양한 정보를 기억한다. 예를 들어, 통신부(1651)에 의해 콘텐츠 서버(1610)로부터 취득되는 세그먼트를 순차적으로 버퍼링한다. 기억부(1652)에 버퍼링된 부호화 데이터의 세그먼트는, FIFO(First In First Out)로 재생부(1653)에 순차적으로 공급된다.
또한 기억부(1652)는, 후술하는 콘텐츠 서버(1611)로부터 요구된, MPD에 기술되어 있는 콘텐츠의 URL에 대한 파라미터의 부가 지시에 기초하여, 통신부(1651)에서 URL에 파라미터를 부가하고, 그 URL에 액세스하기 위한 정의를 기억한다.
재생부(1653)는, 기억부(1652)로부터 공급되는 세그먼트를 순차적으로 재생한다. 구체적으로는, 재생부(1653)는, 세그먼트의 디코드, DA 변환 및 렌더링 등을 행한다.
선택부(1654)는, MPD에 포함되는 어떤 비트 레이트에 대응하는 부호화 데이터의 세그먼트를 취득할지를 동일 콘텐츠 내에서 순차적으로 선택한다. 예를 들어, 선택부(1654)가 네트워크(1612)의 대역에 따라서 세그먼트 「A1」, 「B2」, 「A3」을 순차적으로 선택하면, 도 55에 도시한 바와 같이, 통신부(1651)가 콘텐츠 서버(1610)로부터 세그먼트 「A1」, 「B2」, 「A3」을 순차적으로 취득한다.
현재지 취득부(1656)는, 콘텐츠 재생 장치(1620)의 현재의 위치를 취득하는 것이며, 예를 들어 GPS(Global Positioning System) 수신기 등의 현재지를 취득하는 모듈로 구성되어 있어도 된다. 또한 현재지 취득부(1656)는, 무선 네트워크를 사용하여 콘텐츠 재생 장치(1620)의 현재의 위치를 취득하는 것이어도 된다.
[콘텐츠 서버의 구성]
도 59는, 콘텐츠 서버(1611)의 구성예를 도시하는 설명도이다. 도 59에 도시한 바와 같이, 콘텐츠 서버(1611)는, 기억부(1671)와, 통신부(1672)를 구비한다.
기억부(1671)는, MPD의 URL의 정보를 기억한다. MPD의 URL의 정보는, 콘텐츠의 재생을 요구하는 콘텐츠 재생 장치(1620)로부터의 요구에 따라, 콘텐츠 서버(1611)로부터 콘텐츠 재생 장치(1620)에 송신된다. 또한 기억부(1671)는, 콘텐츠 재생 장치(1620)에 대한 MPD의 URL의 정보를 제공할 때에, 당해 MPD에 기술되어 있는 URL에 콘텐츠 재생 장치(1620)에서 파라미터를 부가시킬 때의 정의 정보를 기억한다.
통신부(1672)는, 콘텐츠 재생 장치(1620)와의 인터페이스이며, 네트워크(1612)를 통해 콘텐츠 재생 장치(1620)와 통신한다. 즉, 통신부(1672)는, 콘텐츠의 재생을 요구하는 콘텐츠 재생 장치(1620)로부터, MPD의 URL의 정보의 요구를 수신하고, 콘텐츠 재생 장치(1620)에 MPD의 URL의 정보를 송신한다. 통신부(1672)로부터 송신되는 MPD의 URL에는, 콘텐츠 재생 장치(1620)에서 파라미터를 부가시키기 위한 정보가 포함된다.
콘텐츠 재생 장치(1620)에서 MPD의 URL에 부가시키는 파라미터에 대해서는, 콘텐츠 서버(1611) 및 콘텐츠 재생 장치(1620)에서 공유하는 정의 정보로 다양하게 설정할 수 있다. 일례를 들면, 콘텐츠 재생 장치(1620)의 현재 위치, 콘텐츠 재생 장치(1620)를 사용하는 유저의 유저 ID, 콘텐츠 재생 장치(1620)의 메모리 사이즈, 콘텐츠 재생 장치(1620)의 스토리지 용량 등의 정보를, 콘텐츠 재생 장치(1620)에서 MPD의 URL에 부가시킬 수 있다.
이상과 같은 구성의 콘텐츠 재생 시스템에 있어서, 도 1 내지 도 36을 참조하여 상술한 바와 같은 본 기술을 적용함으로써, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다.
즉, 콘텐츠 서버(1610)의 인코더(1641)는, 상술한 실시 형태에 따른 화상 부호화 장치(11)(도 1)의 기능을 갖는다. 또한, 콘텐츠 재생 장치(1620)의 재생부(1653)는, 상술한 실시 형태에 따른 화상 복호 장치(211)(도 10)의 기능을 갖는다. 그에 의해, 부호화측에나 복호측에서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다.
또한, 콘텐츠 재생 시스템에 있어서, 본 기술에 의해 부호화된 데이터를 송수신함으로써, 인터뷰 움직임 벡터의 V 방향을 제한할 수 있으므로, 부호화측에서나 복호측에서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다.
<15. Wi-Fi 규격의 무선 통신 시스템의 응용예>
[무선 통신 장치의 기본 동작예]
본 기술을 적용 가능한 무선 통신 시스템에서의 무선 통신 장치의 기본 동작예에 대하여 설명한다.
최초로, P2P(Peer to Peer) 접속을 확립하여 특정한 애플리케이션을 동작시킬 때까지의 무선 패킷 송수신이 이루어진다.
이어서, 제2층에 접속하기 전에, 사용하는 특정한 애플리케이션을 지정하고 나서 P2P 접속을 확립하여 특정한 애플리케이션을 동작시킬 때까지의 무선 패킷 송수신이 이루어진다. 그 후, 제2층에서의 접속 후에, 특정한 애플리케이션을 기동하는 경우의 무선 패킷 송수신이 이루어진다.
[특정한 애플리케이션 동작 개시 시에 있어서의 통신 예]
도 60 및 도 61은, 상술한 P2P(Peer to Peer) 접속을 확립하여 특정한 애플리케이션을 동작시킬 때까지의 무선 패킷 송수신의 예이며, 무선 통신의 기초가 되는 각 장치에 의한 통신 처리 예를 나타내는 시퀀스 차트이다. 구체적으로는, Wi-Fi Alliance에 있어서 표준화되어 있는 Wi-Fi 다이렉트(Direct) 규격(Wi-Fi P2P라 불리는 경우도 있음)에서의 접속에 이르는 다이렉트 접속의 확립 수순의 일례를 나타낸다.
여기서, Wi-Fi 다이렉트에서는, 복수의 무선 통신 장치가 서로의 존재를 검출한다(Device Discovery, Service Discovery). 그리고, 접속 기기 선택을 행하면 그 선택된 기기간에 있어서, WPS(Wi-Fi Protected Setup)로 기기 인증을 행함으로써 다이렉트 접속을 확립한다. 또한, Wi-Fi 다이렉트에서는, 복수의 무선 통신 장치가 본체(Group Owner) 또는 별체(Client) 중 어떤 것으로서의 역할을 담당할지를 결정하여 통신 그룹을 형성한다.
단, 이 통신 처리 예에서는, 일부의 패킷 송수신에 대해서는 생략하여 나타낸다. 예를 들어, 첫회 접속 시에는, 상술한 바와 같이, WPS를 사용하기 위한 패킷 교환이 필요하고, AuthenticationRequest/Response의 교환 등에 있어서도 패킷 교환이 필요해진다. 그러나, 도 60 및 도 61에서는, 이 패킷 교환에 관한 도시를 생략하고, 2회째 이후의 접속에 대해서만 나타낸다.
또한, 도 60 및 도 61에서는, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)사이에서의 통신 처리 예를 나타내지만, 다른 무선 통신 장치간에서의 통신 처리에 대해서도 마찬가지이다.
최초로, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)사이에 있어서 Device Discovery가 행하여진다(1711). 예를 들어, 제1 무선 통신 장치(1701)는, Probe request(응답 요구 신호)를 송신하고, 이 Probe request에 대한 Probe response(응답 신호)를 제2 무선 통신 장치(1702)로부터 수신한다. 이에 의해, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)는, 서로의 존재를 발견할 수 있다. 또한, Device Discovery에 의해, 상대의 디바이스 명이나 종류(TV, PC, 스마트폰 등)를 취득할 수 있다.
계속해서, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)사이에 있어서 Service Discovery가 행하여진다(1712). 예를 들어, 제1 무선 통신 장치(1701)는, Device Discovery에서 발견한 제2 무선 통신 장치(1702)가 대응하고 있는 서비스를 조회하는 Service Discovery Query를 송신한다. 그리고, 제1 무선 통신 장치(1701)는, Service Discovery Response를 제2 무선 통신 장치(1702)로부터 수신함으로써, 제2 무선 통신 장치(1702)가 대응하고 있는 서비스를 취득한다. 즉, Service Discovery에 의해, 상대가 실행 가능한 서비스 등을 취득할 수 있다. 상대가 실행 가능한 서비스는, 예를 들어 service, protocol(DLNA(Digital Living Network Alliance) DMR(Digital Media Renderer) 등)이다.
계속해서, 유저에 의해 접속 상대의 선택 조작(접속 상대 선택 조작)이 행하여진다(1713). 이 접속 상대 선택 조작은, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702) 중 어느 한쪽에만 발생하기도 한다. 예를 들어, 제1 무선 통신 장치(1701)의 표시부에 접속 상대 선택 화면이 표시되고, 이 접속 상대 선택 화면에서 접속 상대로서 제2 무선 통신 장치(1702)가 유저 조작에 의해 선택된다.
유저에 의해 접속 상대 선택 조작이 행하여지면(1713), 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)사이에 있어서 Group Owner Negotiation이 행하여진다(1714). 도 60 및 도 61에서는, Group Owner Negotiation의 결과에 의해, 제1 무선 통신 장치(1701)가 그룹오너(Group Owner)(1715)가 되고, 제2 무선 통신 장치(1702)가 클라이언트(Client)(1716)가 되는 예를 나타낸다.
계속해서, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)사이에 있어서, 각 처리(1717 내지 1720)가 행해짐으로써, 다이렉트 접속이 확립된다. 즉, Association(L2(제2층) link 확립)(1717), Secure link 확립(1718)이 순차 행하여진다. 또한, IP Address Assignment(1719), SSDP(Simple Service Discovery Protocol) 등에 의한 L3 상에서의 L4 setup(1720)이 순차 행하여진다. 또한, L2(layer2)는 제2층(데이터 링크층)을 의미하고, L3(layer3)은 제3층(네트워크층)을 의미하고, L4(layer4)는 제4층(트랜스포트층)을 의미한다.
계속해서, 유저에 의해 특정한 애플리케이션의 지정 또는 기동 조작(어플리케이션 지정·기동 조작)이 행하여진다(1721). 이 어플리케이션 지정·기동 조작은, 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702) 중 어느 한쪽에만 발생하기도 한다. 예를 들어, 제1 무선 통신 장치(1701)의 표시부에 어플리케이션 지정·기동 조작 화면이 표시되고, 이 어플리케이션 지정·기동 조작 화면에서 특정한 애플리케이션이 유저 조작에 의해 선택된다.
유저에 의해 어플리케이션 지정·기동 조작이 행하여지면(1721), 이 어플리케이션 지정·기동 조작에 대응하는 특정한 애플리케이션이 제1 무선 통신 장치(1701) 및 제2 무선 통신 장치(1702)사이에서 실행된다(1722).
여기서, Wi-Fi Direct 규격 이전의 사양(IEEE802.11로 표준화된 사양)의 범위 내에서, AP(Access Point)-STA(Station)간의 접속을 행하는 경우를 상정한다. 이 경우에는, 제2층에서 접속하기 전(IEEE802.11용어로는 association 전)에는, 어떤 디바이스와 연결하려고 하고 있는지를 사전에 알 수 없었다.
이에 반해, 도 60 및 도 61에 도시한 바와 같이, Wi-Fi Direct에서는, Device discovery나 Service Discovery(option)에 있어서, 접속 후보 상대를 찾는 때에, 접속 상대의 정보를 취득할 수 있다. 이 접속 상대의 정보는, 예를 들어 기본적인 디바이스의 타입이나, 대응하고 있는 특정한 애플리케이션 등이다. 그리고, 그 취득된 접속 상대의 정보에 기초하여, 유저에게 접속 상대를 선택시킬 수 있다.
이 시스템을 확장하여, 제2층에서 접속하기 전에 특정한 애플리케이션을 지정하여, 접속 상대를 선택하고, 이 선택 후에, 자동으로 특정한 애플리케이션을 기동시키는 무선 통신 시스템을 실현하는 것도 가능하다. 이러한 경우의 접속에 이르는 시퀀스의 일례를, 도 63에 나타내었다. 또한, 이 통신 처리에 있어서 송수신되는 프레임 포맷(frame format)의 구성예를 도 62에 나타내었다.
[프레임 포맷의 구성예]
도 62는, 본 기술의 기초가 되는 각 장치에 의한 통신 처리에 있어서 송수신되는 프레임 포맷(frame format)의 구성예를 모식적으로 도시하는 도이다. 즉, 도 62에는, 제2층에서의 접속을 확립하기 위한 MAC frame의 구성예를 나타낸다. 구체적으로는, 도 63에 나타내는 시퀀스를 실현하기 위한 Association Request/Response(1787)의 프레임 포맷의 일례이다.
또한, Frame Control(1751)로부터 Sequence Control(1756)까지는, MAC 헤더이다. 또한, Association Request를 송신할 때에는, Frame Control(1751)에 있어서, B3B2="0b00", 또한, B7B6B5B4="0b0000"이 설정된다. 또한, Association Response를 encapsulate할 때에는, Frame Control(1751)에 있어서, B3B2="0b00", 또한, B7B6B5B4="0b0001"이 설정된다. 또한, 「0b00」은, 2진법으로 「00」인 것을 나타내고, 「0b0000」은, 2진법으로 「0000」인 것을 나타내고, 「0b0001」은, 2진법으로 「0001」인 것을 나타낸다.
여기서, 도 62에 나타내는 MAC frame은, 기본적으로는, IEEE802.11-2007 사양서 section7.2.3.4절과 7.2.3.5절에 기재된 Association Request/Responseframe format이다. 단, IEEE802.11 사양서 내에서 정의되어 있는 Information Element(이하, IE라 생략함)뿐만 아니라, 독자적으로 확장한 IE를 포함하고 있는 점이 상이하다.
또한, Vendor Specific IE(1760)인 것을 나타내기 위해서, IE Type(Information Element ID(1761))에는, 10진수로 127이 세트된다. 이 경우, IEEE802.11-2007 사양 7.3.2.26절에 의해, Length 필드(1762)와, OUI 필드(1763)가 계속되고, 그 후에 vendor specific content(1764)가 배치된다.
Vendor specific content(1764)의 내용으로서는, 최초로 vendor specific IE의type를 나타내는 필드(IE type(1765))를 설치한다. 그리고, 그 후에, 복수의 subelement(1766)를 저장할 수 있는 구성으로 하는 것을 생각할 수 있다.
subelement(1766)의 내용으로서, 사용되어야 할 특정한 애플리케이션의 명칭(1767)이나, 그 특정한 애플리케이션 동작 시의 디바이스의 역할(1768)을 포함시키는 것을 생각할 수 있다. 또한, 특정한 애플리케이션, 또는, 그 제어를 위하여 사용되는 포트 번호 등의 정보(L4 셋업을 위한 정보)(1769)나, 특정한 애플리케이션 내에서의 Capability에 관한 정보(Capability 정보)를 포함하는 것을 생각할 수 있다. 여기서, Capability 정보는, 예를 들어 지정하는 특정한 애플리케이션이 DLNA인 경우에, 음성 송출/재생에 대응하고 있거나, 영상 송출/재생에 대응하고 있는 등을 특정하기 위한 정보이다.
이상과 같은 구성의 무선 통신 시스템에 있어서, 도 1 내지 도 36을 참조하여 상술한 바와 같은 본 기술을 적용함으로써, 도 1 내지 도 36을 참조하여 상술한 효과와 마찬가지의 효과를 얻을 수 있다. 즉, 부호화측에서나 복호측에서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다. 또한, 상술한 무선 통신 시스템에 있어서, 본 기술에 의해 부호화된 데이터를 송수신함으로써, 인터뷰 움직임 벡터의 V 방향을 제한할 수 있으므로, 부호화측에서나 복호측에서도, 베이스 뷰 화상과 디펜던트 화상의 병렬 처리를 행할 수 있다.
또한, 본 명세서에서는, 인터뷰 움직임 벡터의 탐색 범위의 V 방향의 제한에 관한 정보인 인터뷰 움직임 벡터의 탐색 범위 제한 정보 등의 각종 정보가, 부호화 스트림에 다중화되어서, 부호화측에서 복호측으로 전송되는 예에 대하여 설명하였다. 그러나, 이들 정보를 전송하는 방법은 이러한 예에 한정되지 않는다. 예를 들어, 이들 정보는, 부호화 비트 스트림에 다중화되지 않고, 부호화 비트 스트림과 관련지어진 별개인 데이터로서 전송되거나 또는 기록되어도 된다. 여기서, 「관련짓는다」라는 용어는, 비트 스트림에 포함되는 화상(슬라이스 또는 블록 등, 화상의 일부이어도 됨)과 당해 화상에 대응하는 정보를 복호시에 링크시킬 수 있도록 하는 것을 의미한다. 즉, 정보는, 화상(또는 비트 스트림)과는 다른 전송로 상에서 전송되어도 된다. 또한, 정보는, 화상(또는 비트 스트림)과는 다른 기록 매체(또는 동일한 기록 매체의 다른 기록 에리어)에 기록되어도 된다. 또한, 정보와 화상(또는 비트 스트림)은, 예를 들어 복수 프레임, 1 프레임, 또는 프레임 내의 일부분 등의 임의의 단위로 서로 관련지어져도 된다.
또한, 상기 설명에서는, 설정된 탐색 범위 제한 정보를 설정하고 나서 부호화 처리를 행하는 것으로 기재했지만, 순서는 어느 쪽이 먼저이든 상관없다. 또한, 화상 데이터의 부호화에는, 부호화된 탐색 범위 제한 정보가 사용되어도 되고, 부호화 전의 탐색 범위 제한 정보가 사용되어도 된다.
이상, 첨부 도면을 참조하면서 본 개시의 적합한 실시 형태에 대해서 상세하게 설명했지만, 본 개시는 이러한 예에 한정되지 않는다. 본 개시가 속하는 기술 분야에서의 통상의 지식을 갖는 사람이라면, 청구범위에 기재된 기술적 사상의 범주 내에서, 각종 변경예 또는 수정예에 상도할 수 있음은 명확하며, 이들에 대해서도, 당연히 본 개시의 기술적 범위에 속하는 것이라고 이해된다.
또한, 본 기술은 이하와 같은 구성도 취할 수 있다.
(1) 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하는 수취부와,
상기 수취부에 의해 수취된 움직임 벡터 범위 제한 정보를 사용하여, 상기 수취부에 의해 수취된 부호화 스트림을 복호 처리하는 복호부
를 구비하는 화상 처리 장치.
(2) 상기 움직임 벡터 범위 제한 정보는, 상기 인터뷰 움직임 벡터의 범위에 Vertical 방향의 제한이 있는 것을 나타내는 플래그인,
상기 (1)에 기재된 화상 처리 장치.
(3) 상기 움직임 벡터 범위 제한 정보는, 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한을 나타내는 값인,
상기 (1) 또는 (2)에 기재된 화상 처리 장치.
(4) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, LCU 사이즈-8인, 상기 (1) 또는 (2)에 기재된 화상 처리 장치.
(5) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, 루프 필터가 오프인 경우, LCU 사이즈-4인,
상기 (1) 또는 (2)에 기재된 화상 처리 장치.
(6) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 화상 포맷의 세로 해상도에 따라서 결정되는,
상기 (1) 또는 (2)에 기재된 화상 처리 장치.
(7) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 레벨에 따라서 결정되는,
상기 (1) 또는 (2)에 기재된 화상 처리 장치.
(8) 상기 설정부는, 상기 탐색 범위 제한 정보를, SPS(Sequence Parameter Set)에 설정하는,
상기 (1) 내지 (7) 중 어느 한 항에 기재된 화상 처리 장치.
(9) 상기 움직임 벡터 범위 제한 정보는, VPS(Video Parameter Set)에 설정되어 있는,
상기 (1) 내지 (7) 중 어느 한 항에 기재된 화상 처리 장치.
(10) 상기 움직임 벡터 범위 제한 정보는, VUI(Video Usability Information)에 설정되어 있는,
상기 (1) 내지 (7) 중 어느 한 항에 기재된 화상 처리 장치.
(11) 상기 복호부는, 상기 수취부에 의해 수취된 움직임 벡터 범위 제한 정보를 복호 처리하고, 복호 처리한 움직임 벡터 범위 제한 정보를 사용하여, 상기 수취부에 의해 수취된 부호화 스트림을 복호 처리하는,
상기 (1) 내지 (10) 중 어느 한 항에 기재된 화상 처리 장치.
(12) 화상 처리 장치가,
커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하고,
수취된 움직임 벡터 범위 제한 정보를 사용하여, 수취된 부호화 스트림을 복호 처리하는,
화상 처리 방법.
(13) 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 설정하는 설정부와,
상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하는 부호화부와,
상기 부호화부에 의해 생성된 부호화 스트림과, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 전송하는 전송부
를 구비하는 화상 처리 장치.
(14) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보로서, 상기 인터뷰 움직임 벡터의 범위에 Vertical 방향의 제한이 있는 것을 나타내는 플래그를 설정하는,
상기 (13)에 기재된 화상 처리 장치.
(15) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보로서, 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한을 나타내는 값을 설정하는,
상기 (13) 또는 (14)에 기재된 화상 처리 장치.
(16) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, LCU 사이즈-8인,
상기 (13) 또는 (14)에 기재된 화상 처리 장치.
(17) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 미리 설정되어 있고, 루프 필터가 오프인 경우, LCU 사이즈-4인,
상기 (13) 또는 (14)에 기재된 화상 처리 장치.
(18) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 화상 포맷의 세로 해상도에 따라서 결정되는,
상기 (13) 또는 (14)에 기재된 화상 처리 장치.
(19) 상기 인터뷰 움직임 벡터의 범위의 Vertical의 정방향의 제한 값은, 레벨에 따라서 결정되는,
상기 (13) 또는 (14)에 기재된 화상 처리 장치.
(20) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, SPS(Sequence Parameter Set)에 설정하는,
상기 (13) 또는 (14) 중 어느 한 항에 기재된 화상 처리 장치.
(21) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, VPS(Video Parameter Set)에 설정하는,
상기 (13) 또는 (14) 중 어느 한 항에 기재된 화상 처리 장치.
(22) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, VUI(Video Usability Information)에 설정하는,
상기 (13) 또는 (14) 중 어느 한 항에 기재된 화상 처리 장치.
(23) 상기 부호화부는, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 부호화 처리하고, 부호화 처리된 움직임 벡터 범위 제한 정보를 사용하여, 상기 화상 데이터를 부호화 처리하고, 상기 부호화 스트림을 생성하는,
상기 (13) 내지 (22) 중 어느 한 항에 기재된 화상 처리 장치.
(24) 화상 처리 장치가,
부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 설정하고,
설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하고,
생성된 부호화 스트림과, 설정된 움직임 벡터 범위 제한 정보를 전송하는,
화상 처리 방법.
(25) 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 CTU(Coding Tree Unit) 라인수에 따라 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하는 수취부와,
상기 수취부에 의해 수취된 움직임 벡터 범위 제한 정보를 사용하여, 상기 수취부에 의해 수취된 부호화 스트림을 복호 처리하는 복호부
를 구비하는 화상 처리 장치.
(26) 상기 움직임 벡터 범위 제한 정보는, 상기 서로 다른 뷰로부터 지연되는 Vertical 방향의 CTU 라인수에 따라 설정되어 있는,
상기 (25)에 기재된 화상 처리 장치.
(27) 상기 Vertical 방향의 CTU 라인수는,
[수학식 3]
인
상기 (25) 또는 (26)에 기재된 화상 처리 장치.
(28) 상기 움직임 벡터 범위 제한 정보는, SPS(Sequence Parameter Set)에 설정되어 있는,
상기 (25) 내지 (27)에 기재된 화상 처리 장치.
(29) 화상 처리 장치가,
커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보가, 화상 데이터가 계층 구조를 갖는 단위로 부호화된 부호화 스트림의 신택스에 있어서 CTU(Coding Tree Unit) 라인수에 따라 설정된 부호화 스트림과, 상기 움직임 벡터 범위 제한 정보를 수취하고,
수취된 움직임 벡터 범위 제한 정보를 사용하여, 수취된 부호화 스트림을 복호 처리하는,
화상 처리 방법.
(30) 부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 CTU(Coding Tree Unit) 라인수에 따라 설정하는 설정부와,
상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하고, 상기 부호화 스트림을 생성하는 부호화부와,
상기 부호화부에 의해 생성된 부호화 스트림과, 상기 설정부에 의해 설정된 움직임 벡터 범위 제한 정보를 전송하는 전송부
를 구비하는 화상 처리 장치.
(31) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, 상기 서로 다른 뷰로부터 지연되는 Vertical 방향의 CTU 라인수에 따라 설정하는,
상기 (30)에 기재된 화상 처리 장치.
(32) 상기 Vertical 방향의 CTU 라인수는,
[수학식 3]
인
상기 (30) 또는 (31)에 기재된 화상 처리 장치.
(33) 상기 설정부는, 상기 움직임 벡터 범위 제한 정보를, SPS(Sequence Parameter Set)에 설정하는,
상기 (30) 내지 (32) 중 어느 한 항에 기재된 화상 처리 장치.
(34) 화상 처리 장치가,
부호화 스트림의 신택스에 있어서, 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 CTU(Coding Tree Unit) 라인수에 따라 설정하고,
설정된 움직임 벡터 범위 제한 정보를 사용해서, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하고,
생성된 부호화 스트림과, 설정된 움직임 벡터 범위 제한 정보를 전송하는,
화상 처리 방법.
(35) 커런트 블록에 대응하는 인터뷰 움직임 벡터의, 상기 커런트 블록의 뷰와는 다른 뷰를 참조하는 움직임 벡터의 Vertical 방향의 값의 제한에 관한 정보인 움직임 벡터 범위 제한 정보를 사용하여, 화상 데이터를, 계층 구조를 갖는 단위로 부호화 처리하여, 상기 부호화 스트림을 생성하는 부호화부와,
상기 부호화부에 의해 생성된 부호화 스트림을 전송하는 전송부
를 구비하는 화상 처리 장치.
(36) 움직임 벡터 범위 제한 정보는, 인터뷰 움직임 벡터가 0 화소인 제한을 나타내는 정보인,
상기 (35)에 기재된 화상 처리 장치.
(37) 움직임 벡터 범위 제한 정보는, 인터뷰 움직임 벡터가 1 화소 이하인 제한을 나타내는 정보인,
상기 (35)에 기재된 화상 처리 장치.
(38) 움직임 벡터 범위 제한 정보는, 인터뷰 움직임 벡터가 X 화소 이하인 제한을 나타내는 정보인,
상기 (35)에 기재된 화상 처리 장치.
11 : 다시점 화상 부호화 장치
21 : 신택스 부호화부
22 : 타이밍 제어부 23 : 베이스 뷰 부호화부
24 : 디펜던트 뷰 부호화부 25 : DPB
26 : 전송부 123 : 인터 예측부
211 : 다시점 화상 복호 장치 221 : 수취부
222 : 신택스 복호부 223 : 타이밍 제어부
224 : 베이스 뷰 복호부 225 : 디펜던트 뷰 복호부
226 : DPB 320 : 인터 예측부
322 : 캐시
22 : 타이밍 제어부 23 : 베이스 뷰 부호화부
24 : 디펜던트 뷰 부호화부 25 : DPB
26 : 전송부 123 : 인터 예측부
211 : 다시점 화상 복호 장치 221 : 수취부
222 : 신택스 복호부 223 : 타이밍 제어부
224 : 베이스 뷰 복호부 225 : 디펜던트 뷰 복호부
226 : DPB 320 : 인터 예측부
322 : 캐시
Claims (10)
- 커런트 블록의 뷰와는 다른 뷰를 참조하는 상기 커런트 블록에 대응하는 인터뷰 움직임 벡터가 휘도 화소의 단위로 사전 결정된 값보다 작은 Vertical 방향의 범위 제한을 갖는지 여부를 나타내는 플래그를 포함하는 움직임 벡터 범위 제한 정보가 부호화된 신택스들을 포함하는 부호화 스트림을 생성하고,
상기 부호화 스트림을 전송하도록 구성된 회로
를 구비하는 화상 처리 장치. - 제1항에 있어서,
상기 사전 결정된 값은 56화소인 화상 처리 장치. - 제1항에 있어서,
상기 움직임 벡터 범위 제한 정보는, 상기 인터뷰 움직임 벡터를 위한 Vertical 정방향의 범위의 제한을 나타내는 값을 더 포함하는 화상 처리 장치. - 제1항에 있어서,
상기 움직임 벡터 범위 제한 정보는, SPS(Sequence Parameter Set)에 설정되어 있는, 화상 처리 장치. - 제1항에 있어서,
상기 회로는, 상기 움직임 벡터 범위 제한 정보를 부호화 처리하도록 더 구성되는, 화상 처리 장치. - 커런트 블록의 뷰와는 다른 뷰를 참조하는 상기 커런트 블록에 대응하는 인터뷰 움직임 벡터가 휘도 화소의 단위로 사전 결정된 값보다 작은 Vertical 방향의 범위 제한을 갖는지 여부를 나타내는 플래그를 포함하는 움직임 벡터 범위 제한 정보가 부호화된 신택스들을 포함하는 부호화 스트림을 생성하는 단계; 및
상기 부호화 스트림을 전송하는 단계를 포함하는,
화상 처리 방법. - 제6항에 있어서,
상기 사전 결정된 값은 56화소인, 화상 처리 방법. - 제6항에 있어서,
상기 움직임 벡터 범위 제한 정보는, 상기 인터뷰 움직임 벡터를 위한 Vertical 정방향의 범위의 제한을 나타내는 값을 더 포함하는, 화상 처리 방법. - 제6항에 있어서,
상기 움직임 벡터 범위 제한 정보는, SPS에 설정되어 있는, 화상 처리 방법. - 제6항에 있어서,
상기 움직임 벡터 범위 제한 정보를 부호화 처리하는 단계를 더 포함하는, 화상 처리 방법.
Applications Claiming Priority (7)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012218306 | 2012-09-28 | ||
| JPJP-P-2012-218306 | 2012-09-28 | ||
| JPJP-P-2013-041903 | 2013-03-04 | ||
| JP2013041903 | 2013-03-04 | ||
| JP2013134839 | 2013-06-27 | ||
| JPJP-P-2013-134839 | 2013-06-27 | ||
| PCT/JP2013/075294 WO2014050695A1 (ja) | 2012-09-28 | 2013-09-19 | 画像処理装置および方法 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020157006894A Division KR102135986B1 (ko) | 2012-09-28 | 2013-09-19 | 화상 처리 장치 및 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200088512A true KR20200088512A (ko) | 2020-07-22 |
| KR102245026B1 KR102245026B1 (ko) | 2021-04-27 |
Family
ID=50388100
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020207020340A KR102245026B1 (ko) | 2012-09-28 | 2013-09-19 | 화상 처리 장치 및 방법 |
| KR1020157006894A KR102135986B1 (ko) | 2012-09-28 | 2013-09-19 | 화상 처리 장치 및 방법 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020157006894A KR102135986B1 (ko) | 2012-09-28 | 2013-09-19 | 화상 처리 장치 및 방법 |
Country Status (11)
| Country | Link |
|---|---|
| US (3) | US9924189B2 (ko) |
| EP (2) | EP3579562B1 (ko) |
| KR (2) | KR102245026B1 (ko) |
| AU (3) | AU2013321333B2 (ko) |
| BR (1) | BR112015006323A2 (ko) |
| CA (1) | CA2885408C (ko) |
| MX (2) | MX352012B (ko) |
| MY (1) | MY187250A (ko) |
| RU (2) | RU2645284C2 (ko) |
| SG (3) | SG10201601307SA (ko) |
| WO (1) | WO2014050695A1 (ko) |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| BR112015006323A2 (pt) * | 2012-09-28 | 2017-07-04 | Sony Corp | dispositivo e método de processamento de imagem |
| JP2016015009A (ja) * | 2014-07-02 | 2016-01-28 | ソニー株式会社 | 情報処理システム、情報処理端末、および情報処理方法 |
| EP3041233A1 (en) * | 2014-12-31 | 2016-07-06 | Thomson Licensing | High frame rate-low frame rate transmission technique |
| US10027989B2 (en) * | 2015-05-06 | 2018-07-17 | Integrated Device Technology, Inc. | Method and apparatus for parallel decoding |
| GB2538997A (en) * | 2015-06-03 | 2016-12-07 | Nokia Technologies Oy | A method, an apparatus, a computer program for video coding |
| EP3306925B1 (en) | 2015-06-05 | 2019-09-18 | Sony Corporation | Image processing device and image processing method |
| KR20180039722A (ko) * | 2015-09-08 | 2018-04-18 | 엘지전자 주식회사 | 영상의 부호화/복호화 방법 및 이를 위한 장치 |
| KR102476207B1 (ko) * | 2015-11-12 | 2022-12-08 | 삼성전자주식회사 | 반도체 장치의 동작 방법 및 반도체 시스템 |
| US10848768B2 (en) | 2018-06-08 | 2020-11-24 | Sony Interactive Entertainment Inc. | Fast region of interest coding using multi-segment resampling |
| EP3939287A4 (en) * | 2019-04-25 | 2022-05-11 | Beijing Bytedance Network Technology Co., Ltd. | RESTRICTIONS ON DIFFERENCE BETWEEN MOVEMENT VECTORS |
| WO2020259681A1 (en) | 2019-06-25 | 2020-12-30 | Beijing Bytedance Network Technology Co., Ltd. | Restrictions on motion vector difference |
| JP7555698B2 (ja) * | 2019-09-30 | 2024-09-25 | 株式会社ソニー・インタラクティブエンタテインメント | 画像データ転送装置および画像データ転送方法 |
| US11164339B2 (en) | 2019-11-12 | 2021-11-02 | Sony Interactive Entertainment Inc. | Fast region of interest coding using multi-segment temporal resampling |
| US11785205B2 (en) * | 2019-12-24 | 2023-10-10 | Qualcomm Incorporated | Shared decoder picture buffer for multiple layers |
Family Cites Families (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP0935396A3 (en) * | 1998-02-09 | 2004-08-11 | Matsushita Electric Industrial Co., Ltd. | Video coding method and apparatus |
| JP2002245451A (ja) * | 2001-02-19 | 2002-08-30 | Nippon Hoso Kyokai <Nhk> | 立体画像評価装置 |
| US7277587B2 (en) * | 2002-04-26 | 2007-10-02 | Sharp Laboratories Of America, Inc. | System and method for lossless video coding |
| CA2673494C (en) * | 2006-10-16 | 2014-07-08 | Nokia Corporation | System and method for using parallelly decodable slices for multi-view video coding |
| US7822280B2 (en) * | 2007-01-16 | 2010-10-26 | Microsoft Corporation | Epipolar geometry-based motion estimation for multi-view image and video coding |
| KR101083379B1 (ko) * | 2007-03-14 | 2011-11-14 | 니폰덴신뎅와 가부시키가이샤 | 움직임 벡터 탐색 방법 및 장치 그리고 프로그램을 기록한 기록매체 |
| BR122012021950A2 (pt) | 2007-10-05 | 2015-08-04 | Thomson Licensing | Aparelho para incorporação de informação de usabilidade de vídeo (vui) em um sistema de codificação de vídeo com múltiplos visualizações (mvc) |
| CN101282478A (zh) | 2008-04-24 | 2008-10-08 | 上海华平信息技术股份有限公司 | 实现高清视频并行编码的方法及系统 |
| JP2009296443A (ja) * | 2008-06-06 | 2009-12-17 | Mitsubishi Electric Corp | ベクトル探索範囲制限装置および動画像符号化装置 |
| JP5163429B2 (ja) | 2008-11-05 | 2013-03-13 | ソニー株式会社 | 動きベクトル検出装置、その処理方法およびプログラム |
| AU2011286922A1 (en) | 2010-08-03 | 2013-02-07 | Sony Corporation | Image processing device and image processing method |
| CN101917619B (zh) | 2010-08-20 | 2012-05-09 | 浙江大学 | 一种多视点视频编码快速运动估计方法 |
| WO2012101781A1 (ja) * | 2011-01-26 | 2012-08-02 | 株式会社日立製作所 | 画像復号化装置 |
| KR20120090740A (ko) * | 2011-02-07 | 2012-08-17 | (주)휴맥스 | 정밀한 단위의 필터 선택을 적용한 영상 부호화/복호화 장치 및 방법 |
| TWI461066B (zh) * | 2011-11-03 | 2014-11-11 | Ind Tech Res Inst | 彈性調整估算搜尋範圍的移動估算方法及視差估算方法 |
| US9451252B2 (en) * | 2012-01-14 | 2016-09-20 | Qualcomm Incorporated | Coding parameter sets and NAL unit headers for video coding |
| CN104396244B (zh) * | 2012-04-16 | 2019-08-09 | 诺基亚技术有限公司 | 用于视频编码和解码的装置、方法和计算机可读存储介质 |
| US9998726B2 (en) * | 2012-06-20 | 2018-06-12 | Nokia Technologies Oy | Apparatus, a method and a computer program for video coding and decoding |
| CN104521236B (zh) * | 2012-07-27 | 2017-10-20 | 寰发股份有限公司 | 三维视频编码或解码方法 |
| JP6172155B2 (ja) * | 2012-09-28 | 2017-08-02 | ソニー株式会社 | 画像処理装置および方法 |
| BR112015006323A2 (pt) * | 2012-09-28 | 2017-07-04 | Sony Corp | dispositivo e método de processamento de imagem |
-
2013
- 2013-09-19 BR BR112015006323A patent/BR112015006323A2/pt active Search and Examination
- 2013-09-19 MX MX2016006873A patent/MX352012B/es unknown
- 2013-09-19 MY MYPI2015700901A patent/MY187250A/en unknown
- 2013-09-19 RU RU2015110062A patent/RU2645284C2/ru active
- 2013-09-19 KR KR1020207020340A patent/KR102245026B1/ko active IP Right Grant
- 2013-09-19 RU RU2018101766A patent/RU2673100C1/ru active
- 2013-09-19 KR KR1020157006894A patent/KR102135986B1/ko active IP Right Grant
- 2013-09-19 EP EP19186838.9A patent/EP3579562B1/en not_active Not-in-force
- 2013-09-19 CA CA2885408A patent/CA2885408C/en active Active
- 2013-09-19 SG SG10201601307SA patent/SG10201601307SA/en unknown
- 2013-09-19 AU AU2013321333A patent/AU2013321333B2/en not_active Ceased
- 2013-09-19 WO PCT/JP2013/075294 patent/WO2014050695A1/ja active Application Filing
- 2013-09-19 SG SG10201601308UA patent/SG10201601308UA/en unknown
- 2013-09-19 SG SG11201502126RA patent/SG11201502126RA/en unknown
- 2013-09-19 US US14/422,858 patent/US9924189B2/en not_active Expired - Fee Related
- 2013-09-19 MX MX2015003591A patent/MX339554B/es active IP Right Grant
- 2013-09-19 EP EP13842989.9A patent/EP2899984B1/en active Active
-
2017
- 2017-10-25 AU AU2017251760A patent/AU2017251760B2/en not_active Ceased
-
2018
- 2018-01-31 US US15/884,681 patent/US20180152725A1/en not_active Abandoned
-
2020
- 2020-01-07 AU AU2020200093A patent/AU2020200093B2/en not_active Ceased
-
2021
- 2021-12-29 US US17/564,257 patent/US20220124361A1/en not_active Abandoned
Non-Patent Citations (2)
| Title |
|---|
| A. Vetro, P. Pandit, H. Kimata, A. Smolic, Y.-K. Wang, Joint draft 8.0 on multiview video coding, Joint Video Team (JVT) of ISO/IEC MPEG ITU-T VCEG ISO/IEC JTC1/SC29/WG11 and ITU-T SG16 Q.6, Hannover,* * |
| Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, Gary J. Sullivan, Thomas Wiegand, "High efficiency video coding(HEVC) text specification draft 8", JCTVC-J1003_d7, 2012. 7. 28 |
Also Published As
| Publication number | Publication date |
|---|---|
| MX352012B (es) | 2017-11-06 |
| WO2014050695A1 (ja) | 2014-04-03 |
| AU2013321333B2 (en) | 2017-07-27 |
| EP3579562A1 (en) | 2019-12-11 |
| AU2017251760B2 (en) | 2019-10-10 |
| SG10201601307SA (en) | 2016-03-30 |
| EP2899984A1 (en) | 2015-07-29 |
| KR20150067142A (ko) | 2015-06-17 |
| KR102245026B1 (ko) | 2021-04-27 |
| SG11201502126RA (en) | 2015-05-28 |
| MX2015003591A (es) | 2015-06-05 |
| AU2020200093B2 (en) | 2021-05-20 |
| CA2885408A1 (en) | 2014-04-03 |
| RU2015110062A (ru) | 2016-10-10 |
| MY187250A (en) | 2021-09-15 |
| CA2885408C (en) | 2021-11-30 |
| US20180152725A1 (en) | 2018-05-31 |
| BR112015006323A2 (pt) | 2017-07-04 |
| US9924189B2 (en) | 2018-03-20 |
| EP2899984A4 (en) | 2016-05-25 |
| KR102135986B1 (ko) | 2020-07-20 |
| RU2645284C2 (ru) | 2018-02-19 |
| AU2020200093A1 (en) | 2020-01-30 |
| AU2013321333A1 (en) | 2015-03-12 |
| US20220124361A1 (en) | 2022-04-21 |
| AU2017251760A1 (en) | 2017-11-16 |
| EP3579562B1 (en) | 2021-09-08 |
| SG10201601308UA (en) | 2016-03-30 |
| US20150229945A1 (en) | 2015-08-13 |
| MX339554B (es) | 2016-05-30 |
| RU2673100C1 (ru) | 2018-11-22 |
| EP2899984B1 (en) | 2019-11-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| AU2020200093B2 (en) | Image processing device and method | |
| US12022116B2 (en) | Image processing apparatus and image processing method | |
| US12113976B2 (en) | Image encoding device and method and image decoding device and method | |
| US10516894B2 (en) | Image processing device and method | |
| WO2014203763A1 (ja) | 復号装置および復号方法、並びに、符号化装置および符号化方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A107 | Divisional application of patent | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |