KR20170007073A - 파노라믹 비디오의 왜곡보정 방법 및 장치 - Google Patents
파노라믹 비디오의 왜곡보정 방법 및 장치 Download PDFInfo
- Publication number
- KR20170007073A KR20170007073A KR1020150138631A KR20150138631A KR20170007073A KR 20170007073 A KR20170007073 A KR 20170007073A KR 1020150138631 A KR1020150138631 A KR 1020150138631A KR 20150138631 A KR20150138631 A KR 20150138631A KR 20170007073 A KR20170007073 A KR 20170007073A
- Authority
- KR
- South Korea
- Prior art keywords
- panoramic
- segment
- warping
- camera
- input image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000012545 processing Methods 0.000 claims description 57
- 230000008569 process Effects 0.000 claims description 15
- 230000011664 signaling Effects 0.000 claims description 4
- 230000006837 decompression Effects 0.000 claims 1
- 238000012937 correction Methods 0.000 abstract description 12
- 238000005192 partition Methods 0.000 description 37
- 238000013507 mapping Methods 0.000 description 20
- 238000006243 chemical reaction Methods 0.000 description 10
- 238000013139 quantization Methods 0.000 description 10
- 238000001914 filtration Methods 0.000 description 9
- 239000000470 constituent Substances 0.000 description 7
- 239000013598 vector Substances 0.000 description 7
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 6
- 238000000638 solvent extraction Methods 0.000 description 5
- 241000023320 Luma <angiosperm> Species 0.000 description 4
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 4
- 238000005859 coupling reaction Methods 0.000 description 4
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 4
- 230000001131 transforming effect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 238000010845 search algorithm Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000002618 waking effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/89—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
-
- G06T3/18—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H04N5/23238—
Abstract
본 발명에 따른 파노라믹 비디오 부호화 방법은 입력 영상을 복수의 세그먼트로 분할하고, 분할된 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하며, 입력 영상에 관한 파노라믹 포맷에 기초하여 와핑 영역에 해당하는 세그먼트에 대해서 디와핑을 수행하고, 상기 디와핑이 수행된 세그먼트를 부호화하는 것을 특징으로 한다.
Description
본 발명은 파노라믹 비디오의 왜곡보정 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 응용 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 데이터량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 저장하는 경우, 전송 비용과 저장 비용이 증가하게 된다. 영상 데이터가 고해상도, 고품질화 됨에 따라 발생하는 이러한 문제들을 해결하기 위해서는 고효율의 영상 압축 기술들이 활용될 수 있다.
영상 압축 기술로 현재 픽쳐의 이전 또는 이후 픽쳐로부터 현재 픽쳐에 포함된 화소값을 예측하는 화면 간 예측 기술, 현재 픽쳐 내의 화소 정보를 이용하여 현재 픽쳐에 포함된 화소값을 예측하는 화면 내 예측 기술, 출현 빈도가 높은 값에 짧은 부호를 할당하고 출현 빈도가 낮은 값에 긴 부호를 할당하는 엔트로피 부호화 기술 등 다양한 기술이 존재하고 이러한 영상 압축 기술을 이용해 영상 데이터를 효과적으로 압축하여 전송 또는 저장할 수 있다.
한편, 고해상도 영상에 대한 수요가 증가함과 함께, 새로운 영상 서비스로서 입체 영상 컨텐츠에 대한 수요도 함께 증가하고 있다. 고해상도 및 초고해상도의 입체 영상 콘텐츠를 효과적으로 제공하기 위한 비디오 압축 기술에 대하여 논의가 진행되고 있다.
왜곡보정의 컴퓨팅 부하를 낮추고 파노라믹 카메라형태의 다양성에 따른 범용적 단말 서비스의 어려움을 극복하고자 한다.
범용적인 파노라믹 재생 서비스를 위하여 각 파노라믹 카메라의 왜곡정보를 DB화 하여 화면 왜곡보정 과정에서의 클라우드화 처리과정을 통해 다양한 포맷 형태의 파노라믹 비디오를 처리 가능하게 하고자 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법은, 입력 영상을 복수의 세그먼트로 분할하고, 상기 분할된 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하며, 상기 입력 영상에 관한 파노라믹 포맷에 기초하여, 상기 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행하고, 상기 디와핑이 수행된 세그먼트를 부호화하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 와핑 영역인지 여부는 상기 세그먼트 내에 속한 와핑 메쉬의 꼭지점의 개수 또는 상기 와핑 메쉬의 모양 중 적어도 하나에 기초하여 결정되는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 파노라믹 포맷은 상기 입력 영상에 관한 와핑 타입 또는 영상 왜곡도 패턴을 의미하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 디와핑을 수행하는 단계는, 상기 입력 영상에 관한 카메라 식별 정보에 기초하여 상기 파노라믹 포맷을 결정하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 카메라 식별 정보는 상기 입력 영상을 촬영한 카메라의 종류 또는 카메라 특성을 식별하기 위해 시그날링되는 정보를 의미하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 디와핑을 수행하는 단계는, 상기 카메라 식별 정보에 기초하여 상기 입력 영상을 촬영한 카메라 타입을 결정하고, 상기 결정된 카메라 타입에 대응하는 상기 파노라믹 포맷을 기-정의된 테이블 정보로부터 추출하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 테이블 정보는 카메라 타입 별로 이용 가능한 파노라믹 포맷으로 구성되는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 방법에 있어서, 상기 세그먼트는 복수의 LCU(largest coding unit) 행을 포함하고, 상기 세그먼트는 상기 LCU 행 단위로 병렬적으로 디와핑되며, 상기 LCU 행 내에서는 기-정의된 스캔 순서에 따라 LCU 단위로 순차적으로 디와핑되는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치는, 입력 영상을 복수의 세그먼트로 분할하고, 상기 분할된 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하는 와핑 영역 결정부, 상기 입력 영상에 관한 파노라믹 포맷에 기초하여, 상기 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행하는 디와핑 처리부 및 상기 디와핑이 수행된 세그먼트를 부호화하는 인코딩부를 포함하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 와핑 영역 결정부는, 상기 세그먼트 내에 속한 와핑 메쉬의 꼭지점의 개수 또는 상기 와핑 메쉬의 모양 중 적어도 하나에 기초하여 상기 와핑 영역인지 여부를 결정하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 파노라믹 포맷은 상기 입력 영상에 관한 와핑 타입 또는 영상 왜곡도 패턴을 의미하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 디와핑 처리부는, 상기 입력 영상에 관한 카메라 식별 정보에 기초하여 상기 파노라믹 포맷을 결정하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 카메라 식별 정보는 상기 입력 영상을 촬영한 카메라의 종류 또는 카메라 특성을 식별하기 위해 시그날링되는 정보를 의미하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 디와핑 처리부는, 상기 카메라 식별 정보에 기초하여 상기 입력 영상을 촬영한 카메라 타입을 결정하고, 상기 결정된 카메라 타입에 대응하는 상기 파노라믹 포맷을 기-정의된 테이블 정보로부터 추출하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 테이블 정보는 카메라 타입 별로 이용 가능한 파노라믹 포맷으로 구성되는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 장치에 있어서, 상기 세그먼트는 복수의 LCU(largest coding unit) 행을 포함하고, 상기 디와핑 처리부는 상기 세그먼트에 포함되는 상기 LCU 행 단위로 병렬적으로 디와핑을 수행하되, 상기 LCU 행 내에서는 기-정의된 스캔 순서에 따라 LCU 단위로 순차적으로 디와핑이 수행되는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 시스템은, 파노라믹 비디오를 구성하는 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하고, 상기 파노라믹 비디오에 관한 파노라믹 포맷에 기초하여 상기 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행하며, 상기 디와핑이 수행된 세그먼트를 부호화하는 파노라믹 영상 처리 서버와 상기 파노라믹 비디오에 대응하는 파노라믹 포맷을 결정하는 데이터베이스 서버를 포함하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 시스템에 있어서, 상기 데이터베이스 서버는, 상기 파노라믹 비디오에 관한 카메라 식별 정보에 기초하여 상기 파노라믹 비디오의 디와핑에 이용되는 파노라믹 포맷을 결정하고, 상기 결정된 파노라믹 포맷을 상기 파노라믹 영상 처리 서버로 전송하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 시스템에 있어서, 상기 데이터베이스 서버는, 상기 카메라 식별 정보에 기초하여 상기 파노라믹 비디오를 촬영한 카메라 타입을 결정하고, 상기 결정된 카메라 타입에 대응하는 파노라믹 포맷을 기-저장된 테이블 정보로부터 추출하는 것을 특징으로 한다.
본 발명에 따른 파노라믹 비디오 부호화 시스템에 있어서, 상기 테이블 정보는 카메라 타입 별로 이용 가능한 파노라믹 포맷으로 구성되는 것을 특징으로 한다.
입력 영상을 소정의 세그먼트 단위로 분할하여 왜곡 보정을 처리함으로써, 왜곡 보정의 컴퓨팅 부하를 낮출 수 있고, 상대적으로 컴퓨팅 파워가 낮은 단말기에서 고해상도 파노라믹 동영상 처리가 가능하다.
서버-클라이언트의 왜곡 보정의 하이브리드 방식은 왜곡 보정의 클라우드화 처리로 단말 사양뿐만 아니라 파노라믹 카메라 종류에 상관없이 범용적인 파노라믹 재생서비스가 가능하다.
도 1은 본 발명이 적용되는 일실시예로서, 디와핑(de-warping) 처리에 기반하여 사용자 시점의 영상을 복원하는 과정을 도시한 것이다.
도 2는 본 발명이 적용되는 일실시예로서, 병렬 처리 기반의 디와핑 처리 방법을 도시한 것이다.
도 3은 본 발명이 적용되는 일실시예로서, 세그먼트 단위로 와핑 영역인지 여부를 결정하는 방법을 도시한 것이다.
도 4는 본 발명이 적용되는 일실시예로서, 파노라믹 영상 처리 서버(100)의 개략적인 구성을 도시한 것이다.
도 5는 본 발명의 일 실시예에 따른 인코딩부(400)를 개략적으로 도시한 블록도이다.
도 6은 본 발명이 적용되는 일실시예로서, 컴퓨팅 파워에 기반하여 디와핑을 수행하는 시스템을 도시한 것이다.
도 7은 본 발명이 적용되는 일실시예로서, 단말기의 성능에 기반한 파노라믹 영상 처리 서버(100)와 단말기(10) 간의 선택적인 디와핑 수행 방법을 도시한 것이다.
도 8은 본 발명이 적용되는 일실시예로서, 쿼드트리 구조의 파티션닝에 기반하여 와핑된 영상에 대해 디와핑을 수행하는 과정을 도시한 것이다.
도 9는 본 발명이 적용되는 일실시예로서, 세그먼트를 쿼드트리 구조로 분할하는 방법을 도시한 것이다.
도 10은 본 발명이 적용되는 일실시예로서, 파노라믹 포맷의 종류를 도시한 것이다.
도 2는 본 발명이 적용되는 일실시예로서, 병렬 처리 기반의 디와핑 처리 방법을 도시한 것이다.
도 3은 본 발명이 적용되는 일실시예로서, 세그먼트 단위로 와핑 영역인지 여부를 결정하는 방법을 도시한 것이다.
도 4는 본 발명이 적용되는 일실시예로서, 파노라믹 영상 처리 서버(100)의 개략적인 구성을 도시한 것이다.
도 5는 본 발명의 일 실시예에 따른 인코딩부(400)를 개략적으로 도시한 블록도이다.
도 6은 본 발명이 적용되는 일실시예로서, 컴퓨팅 파워에 기반하여 디와핑을 수행하는 시스템을 도시한 것이다.
도 7은 본 발명이 적용되는 일실시예로서, 단말기의 성능에 기반한 파노라믹 영상 처리 서버(100)와 단말기(10) 간의 선택적인 디와핑 수행 방법을 도시한 것이다.
도 8은 본 발명이 적용되는 일실시예로서, 쿼드트리 구조의 파티션닝에 기반하여 와핑된 영상에 대해 디와핑을 수행하는 과정을 도시한 것이다.
도 9는 본 발명이 적용되는 일실시예로서, 세그먼트를 쿼드트리 구조로 분할하는 방법을 도시한 것이다.
도 10은 본 발명이 적용되는 일실시예로서, 파노라믹 포맷의 종류를 도시한 것이다.
이하 첨부된 도면을 참조로 본 발명의 바람직한 실시예를 상세히 설명하기로 한다. 이에 앞서, 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서, 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.
본 명세서에서 어떤 구성 요소가 다른 구성 요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있는 것을 의미할 수도 있고, 중간에 다른 구성 요소가 존재하는 것을 의미할 수도 있다. 아울러, 본 명세서에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함될 수 있음을 의미한다.
제1, 제2 등의 용어는 다양한 구성들을 설명하는데 사용될 수 있지만, 상기 구성들은 상기 용어에 의해 한정되지 않는다. 상기 용어들은 하나의 구성을 다른 구성으로부터 구별하는 목적으로 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성은 제2 구성으로 명명될 수 있고, 유사하게 제2 구성도 제1 구성으로 명명될 수 있다.
또한, 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성 단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 하나의 구성부를 이루거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있다. 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리 범위에 포함된다.
또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.
도 1은 본 발명이 적용되는 일실시예로서, 디와핑(de-warping) 처리에 기반하여 사용자 시점의 영상을 복원하는 과정을 도시한 것이다.
카메라에 의해 촬영된 파노라믹 비디오는 도 1과 같이 왜곡된 형태를 가질 수 있다. 이하 왜곡된 형태의 파노라미 비디오를 와핑된 영상(warped image)라 부르기로 한다.
와핑된 영상에 대응하는 와핑 메쉬(warping mesh)를 결정할 수 있다. 와핑 메쉬는 카메라의 종류, 파노라믹 포맷 형태, 카메라 파라미터 등에 기초하여 결정될 수 있다. 여기서, 카메라 파라미터에는 고유의 카메라 파라미터 (intrinsic camera parameter) 및 비고유의 카메라 파라미터 (extrinsic camera parameter)가 있을 수 있고, 고유의 카메라 파라미터는 초점 거리(focal length), 가로세로비(aspect ratio), 주점(principal point) 등을 포함할 수 있고, 비고유의 카메라 파라미터는 세계 좌표계에서의 카메라의 위치정보 등을 포함할 수 있다.
와핑 메쉬를 직사각형 형태의 비디오 화면에 맞게 그리드 와핑(grid warping)을 수행하여 그리드 와핑된 영상을 생성할 수 있다.
그리드 와핑된 영상은 왜곡된 영상 정보를 가진 영역을 포함할 수 있으며, 이러한 왜곡된 영상 정보를 보정하여 사용자 시점의 영상을 복원할 수 있다. 이하, 왜곡된 영상 정보를 보정하는 것을 디와핑(de-warping)이라 부르기로 한다.
복원된 영상을 소정의 단위(슬라이스, 타일, 코딩 블록, 예측 블록, 변환 블록 등)로 분할하고, 예측, 변환, 양자화, 엔트로피 부호화를 통해 비트스트림을 생성할 수 있다.
도 2는 본 발명이 적용되는 일실시예로서, 병렬 처리 기반의 디와핑 처리 방법을 도시한 것이다.
도 2를 참조하면, 입력 영상을 복수의 세그먼트로 분할할 수 있다(S200).
여기서, 세그먼트는 입력 영상의 병렬 처리를 위해 정의된 소정의 단위를 의미할 수 있다. 예를 들어, 상기 세그먼트는 슬라이스, 슬라이스 세그먼트 또는 타일(tile)을 의미할 수 있다. 본 발명에서 병렬 처리라 함은 복수의 세그먼트 중 어느 하나의 세그먼트는 다른 하나의 세그먼트에 디펜던시(dependency) 없이 부호화됨을 의미한다. 즉, 어느 하나의 세그먼트는 다른 하나의 세그먼트를 부호화하기 위해 이용되는 코딩 정보를 참조하지 아니하고 독립적으로 부호화됨을 의미한다. 또는, 본 발명의 세그먼트는 입력 영상을 처리하기 위한 기본 단위(예를 들어, 코딩 유닛)를 의미할 수도 있다.
나아가, 최적의 부호화 효율을 위해 입력 영상을 구성하는 세그먼트의 개수를 결정할 수 있다. 또한, 각 세그먼트가 동일한 크기를 가지는지를 결정하고, 만일 각 세그먼트가 동일한 크기를 가지지 않는 경우에는 각 세그먼트의 크기를 결정할 수 있다. 상기 결정된 세그먼트의 개수와 각 세그먼트의 크기 중 적어도 하나에 기초하여 입력 영상을 복수의 세그먼트로 분할할 수 있다.
도 2를 참조하면, 각 세그먼트 별로 해당 세그먼트가 와핑 영역인지 여부를 결정할 수 있다(S210).
여기서, 와핑 영역이라 함은 디와핑 처리가 요구되는 영역을 의미한다. 즉, 해당 세그먼트에 왜곡된 영상 정보를 가진 코딩 블록이 적어도 하나가 포함된 경우, 해당 세그먼트는 와핑 영역으로 결정될 수 있다.
본 발명에서 와핑 영역인지 여부는 해당 세그먼트에 포함된 와핑 메쉬의 꼭지점의 개수, 와핑 메쉬의 모양, 크기 등을 고려하여 결정되며, 이는 도 3을 참조하여 자세히 살펴 보도록 한다.
해당 세그먼트가 와핑 영역으로 결정된 경우, 해당 세그먼트에 대해 디와핑을 수행할 수 있다(S220).
구체적으로, 해당 세그먼트는 복수의 LCU(largest coding unit)을 포함하며, 기-정의된 스캔 순서(예를 들어, raster scan)에 따라 LCU 단위로 순차적으로 디와핑을 수행할 수 있다.
또한, 해당 세그먼트를 복수의 LCU 행으로 분할함으로써, LCU 행 단위로 병렬적으로 디와핑을 수행할 수도 있다. 이러한 병렬적 처리를 위해 LCU 행 내의 현재 LCU는 좌측, 상단, 상단-좌측에 위치하는 LCU에 대해서 디와핑이 수행된 이후 디와핑을 수행할 수 있다.
하나의 입력 영상에 복수의 와핑 영역이 존재하는 경우, 와핑 영역에 해당하는 세그먼트들은 서로 병렬적으로 또는 독립적으로 디와핑을 수행할 수도 있다.
한편, 입력 영상 내 현재 세그먼트가 와핑 영역으로 결정된 경우, 파노라믹 포맷에 기초하여 해당 세그먼트에 대해 디와핑을 수행할 수 있다. 여기서, 파노라믹 포맷은 입력 영상에서 발생 가능한 와핑 타입 또는 영상 왜곡도 패턴을 의미할 수 있다. 입력 영상을 촬영한 카메라의 종류 또는 카메라 고유의 특성에 기반하여 입력 영상은 고유의 파노라믹 포맷을 가질 수 있다. 입력 영상에 관한 파노라믹 포맷을 결정하기 위해 카메라 타입과 파노라믹 포맷 간의 매핑 관계 또는 상관 관계를 정의한 테이블 정보가 이용될 수 있다. 즉, 입력 영상을 촬영한 카메라 타입을 분류/결정하고, 결정된 카메라 타입에 대응하는 파노라믹 포맷을 상기 테이블 정보로부터 추출할 수 있다.
한편, 입력 영상에 관한 카메라 타입은 카메라 식별 정보에 기초하여 결정될 수 있다. 여기서, 카메라 식별 정보는 파노라믹 비디오를 촬영한 카메라의 종류 또는 카메라의 속성을 식별하기 위해 부호화된 정보를 의미할 수 있다. 예를 들어, 카메라 식별 정보는 카메라의 시리얼 번호 또는 카메라 파라미터 중 적어도 하나를 포함할 수 있다. 여기서, 카메라 파라미터는 상술한 바와 같이, 고유의 카메라 파라미터 (intrinsic camera parameter) 또는 비고유의 카메라 파라미터 (extrinsic camera parameter)를 포함할 수 있고, 고유의 카메라 파라미터는 초점 거리(focal length), 가로세로비(aspect ratio), 주점(principal point) 등을 포함하고, 비고유의 카메라 파라미터는 세계 좌표계에서의 카메라의 위치정보 등을 포함할 수 있다. 카메라 식별 정보는 입력 영상과 함께 비트스트림을 통해 시그날링될 수 있다. 만일, S210 단계에서 해당 세그먼트가 비-와핑 영역으로 결정된 경우, 해당 세그먼트는 디와핑 처리를 스킵할 수 있다.
도 2를 참조하면, S220 단계에서 디와핑된 영역과 S210 단계에서 결정된 비-와핑 영역을 조합하여 입력 영상을 재구성하고, 재구성된 입력 영상에 대해서 부호화를 수행할 수 있다(S230).
구체적으로, 재구성된 입력 영상에 대해서 예측, 변환, 양자화, 엔트로피 부호화를 수행하여 비트스트림을 생성할 수 있으며, 이에 대해서는 도 5에서 자세히 살펴 보도록 한다.
도 3은 본 발명이 적용되는 일실시예로서, 세그먼트 단위로 와핑 영역인지 여부를 결정하는 방법을 도시한 것이다.
1.
와핑
메쉬의
꼭지점의
개수
세그먼트 내에 속한 와핑 메쉬의 꼭지점의 개수에 기초하여 해당 세그먼트가 와핑 영역인지 여부를 결정할 수 있다. 와핑 메쉬의 꼭지점의 개수와 소정의 제1 임계치를 비교하여 결정할 수 있다. 여기서, 제1 임계치는 디와핑의 스킵이 허용되는 꼭지점의 최소 개수를 의미하는 것으로, 이는 기-설정된 값이 고정적으로 이용될 수도 있고, 사용자 또는 카메라 등과 같은 외부 환경 변수를 고려하여 가변적으로 설정될 수도 있다.
예를 들어, 와핑 메쉬의 꼭지점의 개수가 4개 미만인 경우, 해당 세그먼트는 와핑 영역으로 결정될 수 있고, 와핑 메쉬의 꼭지점의 개수가 4개 이상인 경우, 비-와핑 영역으로 결정되어 디와핑을 스킵할 수 있다.
2.
와핑
메쉬의
모양
세그먼트 내에 속한 와핑 메쉬의 모양에 기초하여 해당 세그먼트가 와핑 영역인지 여부를 결정할 수 있다. 이는 와핑 메쉬의 모양이 정방형에 가까울수록 왜곡도가 적다고 판단할 수 있기 때문이다.
도 3을 참조하면, d1=d2이고 z1=z2인 경우, 와핑 메쉬의 모양이 정방형에 가까운 것으로 볼 수 있다. 여기서, d1, d2, z1, z2는 아래 수학식 1과 같이 결정될 수 있다.
상기 d1과 d2의 차이값이 제2 임계치보다 작은지 여부(제 1조건) 및/또는 z1와 z2의 차이값이 제3 임계치보다 작은지 여부(제2 조건)를 고려하여 해당 세그먼트이 와핑 영역인지를 결정할 수 있다. 여기서, 제2 임계치 및 제3 임계치는 디와핑이 스킵되는 최대 허용치를 의미하는 것으로서, 기-설정된 값이 고정적으로 이용될 수도 있고, 외부 환경 변수(파노라믹 비디오 포맷, 사용자, 카메라 등)를 고려하여 가변적으로 결정될 수도 있다.
예를 들어, 상기 d1과 d2의 차이값이 제2 임계치보다 작고, z1와 z2의 차이값이 제3 임계치보다 작은 경우, 해당 세그먼트는 비-와핑 영역으로 결정되고, 해당 세그먼트에 대해 디와핑을 스킵할 수 있다. 반대로, 상기 d1과 d2의 차이값이 제2 임계치보다 크거나, z1와 z2의 차이값이 제3 임계치보다 큰 경우, 해당 세그먼트는 와핑 영역으로 결정되고, 해당 세그먼트에 대해 디와핑을 수행할 수 있다.
3.
와핑
메쉬의
꼭지점의
개수 및 모양
상술한 와핑 메쉬의 꼭지점의 개수와 와핑 메쉬의 모양을 모두 고려하여 해당 세그먼트가 와핑 영역인지를 결정할 수도 있다.
구체적으로, 와핑 메쉬의 꼭지점의 개수와 소정의 제1 임계치를 비교하여 결정할 수 있다. 와핑 메쉬의 꼭지점의 개수가 제1 임계치보다 작은 경우, 해당 세그먼트는 와핑 영역으로 결정될 수 있고, 와핑 메쉬의 꼭지점의 개수가 제1 임계치보다 큰 경우, 와핑 메쉬의 모양을 고려하여 와핑 영역인지를 재결정할 수 있다.
도 3에서, 상기 d1과 d2의 차이값이 제2 임계치보다 작고, z1와 z2의 차이값이 제3 임계치보다 작은 경우, 해당 세그먼트는 비-와핑 영역으로 결정되고, 해당 세그먼트에 대해 디와핑을 스킵할 수 있다. 반대로, 상기 d1과 d2의 차이값이 제2 임계치보다 크거나, z1와 z2의 차이값이 제3 임계치보다 큰 경우, 해당 세그먼트는 와핑 영역으로 결정될 수 있다.
도 3에서는 세그먼트 단위로 와핑 영역인지를 여부를 결정하는 방법에 대해서 살펴보았으나, 이에 한정되지 아니한다. 예를 들어, 세그먼트 단위보다 작은 단위로 와핑 영역인지를 여부를 더 결정할 수도 있으며, 이에 대해서는 도 8 내지 도 9를 참조하여 자세히 살펴 보기로 한다.
도 4는 본 발명이 적용되는 일실시예로서, 파노라믹 영상 처리 서버(100)의 개략적인 구성을 도시한 것이다.
본 발명의 파노라믹 영상 처리 서브(100)는 와핑 영역 결정부(200), 디와핑 처리부(300)와 인코딩부(400)를 포함할 수 있다.
와핑 영역 결정부(200)는 입력 영상을 복수의 세그먼트로 분할하고, 각 세그먼트 별로 해당 세그먼트가 와핑 영역인지 여부를 결정할 수 있다.
여기서, 세그먼트는 입력 영상의 병렬 처리를 위해 정의된 소정의 단위를 의미할 수 있다. 예를 들어, 상기 세그먼트는 슬라이스, 슬라이스 세그먼트 또는 타일(tile)을 의미할 수 있다. 본 발명에서 병렬 처리라 함은 복수의 세그먼트 중 어느 하나의 세그먼트는 다른 하나의 세그먼트에 디펜던시(dependency) 없이 부호화됨을 의미한다. 즉, 어느 하나의 세그먼트는 다른 하나의 세그먼트를 부호화하기 위해 이용되는 코딩 정보를 참조하지 아니하고 독립적으로 부호화됨을 의미한다.
나아가, 와핑 영역 결정부(200)는 최적의 부호화 효율을 위해 입력 영상을 구성하는 세그먼트의 개수를 결정할 수 있다. 또한, 각 세그먼트가 동일한 크기를 가지는지를 결정하고, 만일 각 세그먼트가 동일한 크기를 가지지 않는 경우에는 각 세그먼트의 크기를 결정할 수 있다. 상기 결정된 세그먼트의 개수와 각 세그먼트의 크기 중 적어도 하나에 기초하여 입력 영상을 복수의 세그먼트로 분할할 수 있다.
본 실시예에서 와핑 영역이라 함은 디와핑 처리가 요구되는 영역을 의미한다. 즉, 해당 세그먼트에 왜곡된 영상 정보를 가진 코딩 블록이 적어도 하나가 포함된 경우, 해당 세그먼트는 와핑 영역으로 결정될 수 있다. 또한, 와핑 영역 결정부(200)는 각 세그먼트에 포함된 와핑 메쉬의 꼭지점의 개수, 와핑 메쉬의 모양, 크기 등을 고려하여 해당 세그먼트가 와핑 영역에 해당하는지 여부를 결정하며, 이는 도 3에서 자세히 살펴 보았는바, 여기서 자세한 설명은 생략하기로 한다.
디와핑 처리부(300)는 해당 세그먼트가 와핑 영역으로 결정된 경우, 해당 세그먼트에 대해 디와핑을 수행할 수 있다.
구체적으로, 파노라믹 비디오에 관한 파노라믹 포맷에 기초하여 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행할 수 있다. 여기서, 파노라믹 포맷은 수신된 파노라믹 비디오에서 사용되는 와핑 메쉬 또는 와핑 타입을 의미할 수도 있고, 파노라믹 비디오의 영상에서 발생 가능한 영상 왜곡도 패턴을 의미할 수도 있다. 예를 들어, 도 10은 본 발명이 적용되는 일실시예로서, 파노라믹 포맷의 종류를 도시한 것으로서, 도 10을 참조하면, 원통형 포맷(cylindrical format), 등장방형 포맷(equirectangular format), 피시아이 포맷(fisheye), 메르카토르 포맷(Mercator format), 직선 포맷(rectilinear), 정현곡선 포맷(sinusoidal) 등 다양한 종류가 파노라믹 포맷으로 이용될 수 있다.
파노라믹 비디오는 이를 촬영한 카메라의 종류 또는 카메라 고유의 특성에 기반하여 고유의/범용의 파노라믹 포맷을 가질 수 있다. 상술한 다양한 파노라믹 포맷 중에서 상기 파노라믹 비디오에 관한 파노라믹 포맷을 선택적으로 이용할 수 있다. 이를 위해 파노라믹 영상 처리 서버(100)와 유무선 네트워크로 연결된 외부의 데이터베이스 서버가 이용될 수 있다.
상기 데이터베이스 서버는 파노라믹 비디오의 디와핑을 위해 이용 가능한 하나 또는 그 이상의 파노라믹 포맷을 저장할 수 있다. 예를 들어, 상기 데이터베이스 서버는 다음 표 1과 같이 카메라 타입과 파노라믹 포맷 간의 매핑 관계 또는 상관 관계를 정의한 테이블 정보를 저장할 수 있다.
| 카메라 타입 | 파노라믹 포맷 |
| 1 | 원통형 포맷(cylindrical format) |
| 2 | 피시아이 포맷(fisheye) |
| 3 | 정현곡선 포맷(sinusoidal) |
표 1을 참조하면, 상기 테이블 정보는 카메라 타입 별로 대응하는 파노라믹 포맷을 정의하고 있다. 즉, 카메라 타입이 1인 경우, 원통형 포맷(cylindrical format)의 파노라믹 포맷이 이용되고, 카메라 타입이 2인 경우, 피시아이 포맷(fisheye)의 파노라믹 포맷이 이용될 수 있다. 다만, 표 1과 같이 카메라 타입 별로 하나의 파노라믹 포맷이 매핑될 수도 있고, 카메라 타입 별로 복수의 파노라믹 포맷이 매핑될 수 있음은 물론이다. 이와 같이, 파노라믹 비디오를 위한 카메라의 왜곡 정보를 데이터베이스화함으로써, 다양한 형태의 파노라믹 비디오에 대해서 적응적으로 왜곡 정보를 사용할 수 있다.
상기 카메라 타입은 파노라믹 비디오를 촬영한 카메라를 식별하는 인덱스를 의미하는 것으로서, 상기 데이터베이스 서버는 수신된 파노라믹 비디오의 카메라 타입을 결정하기 위해 카메라 식별 정보를 이용할 수 있다. 상기 카메라 식별 정보는 파노라믹 비디오와 함께 비트스트림을 통해 수신될 수 있다. 예를 들어, 카메라 식별 정보는 비디오 파라미터 세트, 시퀀스 파라미터 세트 등에 포함되어 시그날링될 수도 있고, SEI message를 통해서 시그날링될 수도 있다.
상기 카메라 식별 정보는 파노라믹 비디오를 촬영한 카메라의 종류 또는 카메라의 속성을 식별하기 위해 부호화된 정보를 의미할 수 있다. 예를 들어, 카메라 식별 정보는 카메라의 시리얼 번호 또는 카메라 파라미터 중 적어도 하나를 포함할 수 있다. 여기서, 카메라 파라미터는 상술한 바와 같이, 고유의 카메라 파라미터 (intrinsic camera parameter) 또는 비고유의 카메라 파라미터 (extrinsic camera parameter)를 포함할 수 있고, 고유의 카메라 파라미터는 초점 거리(focal length), 가로세로비(aspect ratio), 주점(principal point) 등을 포함하고, 비고유의 카메라 파라미터는 세계 좌표계에서의 카메라의 위치정보 등을 포함할 수 있다.
상기 데이터베이스 서버는 상기 카메라 식별 정보에 기초하여 파노라믹 비디오와 관련된 카메라 타입을 분류/결정하고, 결정된 카메라 타입에 대응하는 파노라믹 포맷을 기-저장된 테이블 정보로부터 추출할 수 있다. 다만, 상기 테이블 정보는 외부의 데이터베이스 서버에 저장된 것에 한정되지 아니하며, 파노라믹 영상 처리 서버(100)에 포함된 데이터베이스에 기-저장된 것일 수도 있다.
파노라믹 영상 처리 서버(100)는 파노라믹 비디오에 대해서 디와핑이 요구되는 경우, 수신된 파노라믹 비디오에 대응하는 파노라믹 포맷을 상기 데이터베이스 서버에 요청할 수 있고, 파노라믹 영상 처리 서버(100)의 요청에 대응하여 상기 데이터베이스 서버는 상술한 과정을 통해서 파노라믹 비디오의 디와핑에 이용되는 파노라믹 포맷을 결정하여 이를 파노라믹 영상 처리 서버(100)에 전달할 수 있다. 파노라믹 영상 처리 서버(100)의 디와핑 처리부(300)는 상기 데이터베이스 서버에서 결정된 파노라믹 포맷에 기초하여 해당 세그먼트에 대해 디와핑을 수행할 수 있다.
한편, 디와핑되는 세그먼트는 복수의 LCU(largest coding unit)을 포함하며, 디와핑 처리부(300)는 기-정의된 스캔 순서(예를 들어, raster scan)에 따라 LCU 단위로 순차적으로 디와핑을 수행할 수 있다.
또한, 디와핑 처리부(300)는 해당 세그먼트를 복수의 LCU 행으로 분할함으로써, LCU 행 단위로 병렬적으로 디와핑을 수행할 수도 있다. 이러한 병렬적 처리를 위해 LCU 행 내의 현재 LCU는 좌측, 상단, 상단-좌측에 위치하는 LCU에 대해서 디와핑이 수행된 이후 디와핑을 수행할 수 있다.
하나의 입력 영상에 복수의 와핑 영역이 존재하는 경우, 디와핑 처리부(300)는 와핑 영역에 해당하는 세그먼트들은 서로 병렬적으로 또는 독립적으로 디와핑을 수행할 수도 있다. 한편, 와핑 영역 결정부(200)에서 해당 세그먼트가 비-와핑 영역으로 결정된 경우, 해당 세그먼트는 디와핑 처리부(300)로 전달되지 아니하고, 인코딩부(400)로 전송되어 부호화될 수 있다.
인코딩부(400)는 디와핑 처리부(300)에서 출력되는 디와핑된 영역과 와핑 영역 결정부(200)에서 출력되는 비-와핑 영역을 조합하여 입력 영상을 재구성하고, 재구성된 입력 영상에 대해서 부호화를 수행할 수 있다. 즉, 재구성된 입력 영상에 대해서 예측, 변환, 양자화, 엔트로피 부호화를 수행하여 비트스트림을 생성할 수 있으며, 이하 도 5에서 자세히 살펴 보도록 한다.
도 5는 본 발명의 일 실시예에 따른 인코딩부(400)를 개략적으로 도시한 블록도이다.
본 발명에 따른 인코딩부(400)는 분할부(410), 예측부(420), 변환부(430), 양자화부(440), 재정렬부(450), 엔트로피 부호화부(460), 역양자화부(470), 역변환부(480), 필터부(490) 및 메모리(495)를 포함할 수 있다.
인코딩부는 이하의 본 발명의 실시예에서 설명하는 영상 부호화 방법에 의해 구현될 수 있으나, 일부의 구성부에서의 동작은 인코딩부의 복잡도를 낮추기 위해 또는 빠른 실시간 부호화를 위해 수행되지 않을 수 있다. 예를 들어, 예측부에서 화면 내 예측을 수행함에 있어서, 실시간으로 부호화를 수행하기 위해 모든 화면 내 예측 모드 방법을 사용하여 최적의 화면 내 부호화 방법을 선택하는 방법을 사용하지 않고 일부의 제한적인 개수의 화면 내 예측 모드를 사용하여 그 중에서 하나의 화면 내 예측 모드를 최종 화면 내 예측 모드로 선택하는 방법이 사용될 수 있다. 또 다른 예로 화면 내 예측 또는 화면 간 예측을 수행함에 있어 사용되는 예측 블록의 형태를 제한적으로 사용하도록 하는 것도 가능하다.
인코딩부에서 처리되는 블록의 단위는 부호화를 수행하는 부호화 단위, 예측을 수행하는 예측 단위, 변환을 수행하는 변환 단위가 될 수 있다. 부호화 단위는 CU(Coding Unit), 예측 단위는 PU(Prediction Unit), 변환 단위는 TU(Transform Unit)라는 용어로 표현될 수 있다.
분할부(410)에서는 입력 영상을 복수의 부호화 블록, 예측 블록 및 변환 블록의 조합으로 분할하고 소정의 기준(예를 들어, 비용 함수)으로 그 중 하나의 부호화 블록, 예측 블록 및 변환 블록의 조합을 선택하여 입력 영상을 분할할 수 있다. 예를 들어, 입력 영상에서 부호화 단위를 분할하기 위해서는 쿼드 트리 구조(QuadTree Structure)와 같은 재귀적인 트리 구조를 사용할 수 있다. 이하, 본 발명의 실시예에서는 부호화 블록의 의미를 부호화를 하는 블록이라는 의미뿐만 아니라 복호화를 수행하는 블록이라는 의미로도 사용할 수 있다.
예측 블록은 화면 내 예측 또는 화면 간 예측과 같은 예측을 수행하는 단위가 될 수 있다. 화면 내 예측을 수행하는 블록은 2Nx2N, NxN과 같은 정사각형 형태의 블록일 수 있다. 화면 간 예측을 수행하는 블록으로는 2Nx2N, NxN과 같은 정사각형의 형태 또는 2NxN, Nx2N과 같은 직사각형의 형태 또는 비대칭 형태인 AMP (Asymmetric Motion Partitioning)를 사용한 예측 블록 분할 방법이 있다. 예측 블록의 형태에 따라 변환부(415)에서는 변환을 수행하는 방법이 달라질 수 있다.
인코딩부(400)의 예측부(420)는 화면 내 예측(intra prediction)을 수행하는 화면 내 예측부(421)와 화면 간 예측(inter prediction)을 수행하는 화면 간 예측부(422)를 포함할 수 있다.
예측부(420)는 예측 블록에 대해 화면 간 예측을 사용할 것인지 또는 화면 내 예측을 수행할 것인지를 결정할 수 있다. 화면 내 예측을 수행함에 있어서 예측 블록 단위로 화면 내 예측 모드를 결정하고, 결정된 화면 내 예측 모드에 기초하여 화면 내 예측을 수행하는 과정은 변환 블록 단위로 수행될 수도 있다. 생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(430)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 움직임 정보 등은 잔차값과 함께 엔트로피 부호화부(430)에서 부호화되어 디코더에 전달될 수 있다.
PCM(Pulse Coded Modulation) 부호화 모드를 사용할 경우, 예측부(420)를 통해 예측을 수행하지 않고, 원본 블록을 그대로 부호화하여 디코더에 전송하는 것도 가능하다.
화면 내 예측부(421)에서는 현재 블록(예측 대상이 되는 블록)의 주변에 존재하는 참조 픽셀을 기초로 화면 내 예측된 블록을 생성할 수 있다. 화면 내 예측 방법에서 화면 내 예측 모드는 참조 픽셀을 예측 방향에 따라 사용하는 방향성 예측 모드와 예측 방향을 고려하지 않는 비방향성 모드를 가질 수 있다. 루마 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드는 종류가 상이할 수 있다. 색차 정보를 예측하기 위해 루마 정보를 예측한 화면 내 예측 모드 또는 예측된 루마 정보를 활용할 수 있다. 만약, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀을 다른 픽셀로 대체하고, 이를 사용하여 예측 블록을 생성할 수 있다.
예측 블록은 복수개의 변환 블록을 포함할 수 있는데, 화면 내 예측을 수행 시 예측 블록의 크기와 변환 블록의 크기가 동일할 경우, 예측 블록의 좌측에 존재하는 픽셀, 좌측 상단에 존재하는 픽셀, 상단에 존재하는 픽셀을 기초로 예측 블록에 대한 화면 내 예측을 수행할 수 있다. 하지만, 화면 내 예측을 수행 시 예측 블록의 크기와 변환 블록의 크기가 상이하여 예측 블록의 내부에 복수의 변환 블록이 포함되는 경우, 변환 블록에 인접한 주변 픽셀을 참조 픽셀로 이용하여 화면 내 예측을 수행할 수 있다. 여기서, 변환 블록에 인접한 주변 픽셀은 예측 블록에 인접한 주변 픽셀과 예측 블록 내에 이미 복호화된 픽셀 중 적어도 하나를 포함할 수 있다.
화면 내 예측 방법은 화면 내 예측 모드에 따라 참조 화소에 MDIS(Mode Dependent Intra Smoothing) 필터를 적용한 후 예측 블록을 생성할 수 있다. 참조 픽셀에 적용되는 MDIS 필터의 종류는 상이할 수 있다. MDIS 필터는 화면 내 예측이 수행되어 화면 내 예측된 블록에 적용되는 추가의 필터로서 참조 픽셀과 예측을 수행 후 생성된 화면 내 예측된 블록에 존재하는 잔차를 줄이는데 사용될 수 있다. MDIS 필터링을 수행함에 있어 참조 픽셀과 화면 내 예측된 블록에 포함된 일부 열에 대한 필터링은 화면 내 예측 모드의 방향성에 따라 다른 필터링을 수행할 수 있다.
화면 간 예측부(422)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 블록의 정보를 참조하여 예측을 수행할 수 있다. 화면 간 예측부(422)에는 참조 픽쳐 보간부, 움직임 예측부, 움직임 보상부가 포함될 수 있다.
참조 픽쳐 보간부에서는 메모리(495)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 루마 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.
화면 간 예측부(422)는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 움직임 예측을 수행할 수 있다. 움직임 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 움직임 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 움직임 벡터 값을 가질 수 있다. 화면 간 예측부(122, 127)에서는 여러 가지 화면 간 예측 방법 중 하나의 화면 간 예측 방법을 적용하여 현재 블록에 대한 예측을 수행할 수 있다.
화면 간 예측 방법으로는 예를 들어, 스킵(Skip) 방법, 머지(Merge) 방법, MVP(Motion Vector Predictor)를 이용하는 방법 등 다양한 방법이 사용될 수 있다.
화면 간 예측에 있어서 움직임 정보 즉, 참조 인덱스, 움직임 벡터, 레지듀얼 신호 등의 정보는 엔트로피 부호화되어 디코더에 전달된다. 스킵 모드가 적용되는 경우에는 잔차 신호가 생성되지 아니하므로, 잔차 신호에 대한 변환 및 양자화 과정이 생략될 수 있다.
예측부(420)에서 생성된 예측 블록과 예측 블록의 복원 블록과 차이 값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성되며, 잔차 블록은 변환부(430)에 입력된다.
변환부(430)에서는 잔차 블록을 DCT(Discrete Cosine Transform) 또는 DST(Discrete Sine Transform)와 같은 변환 방법을 사용하여 변환시킬 수 있다. 잔차 블록을 변환하기 위해 DCT를 적용할지 DST를 적용할지는 잔차 블록을 생성하기 위해 사용된 예측 블록의 화면 내 예측 모드 정보 및 예측 블록의 크기 정보를 기초로 결정할 수 있다. 즉, 변환부(430)에서는 예측 블록의 크기 및 예측 방법에 따라 변환 방법을 다르게 적용할 수 있다.
양자화부(440)는 변환부(430)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(440)에서 산출된 값은 역양자화부(470)와 재정렬부(450)에 제공될 수 있다.
재정렬부(450)는 양자화된 잔차 값에 대해 계수 값의 재정렬을 수행할 수 있다. 재정렬부(450)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(450)에서는 지그-재그 스캔(Zig-Zag Scan)방법을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다. 변환 블록의 크기 및 화면 내 예측 모드에 따라 지그-재그 스캔 방법이 아닌 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔 방법, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔 방법이 사용될 수 있다. 즉, 변환 블록의 크기 및 화면 내 예측 모드에 따라 지그-재그 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.
엔트로피 부호화부(460)는 재정렬부(450)에 의해 산출된 값들을 기초로 엔트피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)와 같은 다양한 부호화 방법을 사용할 수 있다.
엔트로피 부호화부(460)는 재정렬부(450) 및 예측부(420)로부터 부호화 블록의 잔차값 계수 정보 및 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 블록 정보 및 전송 단위 정보, 움직임 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 제공받아 소정의 부호화 방법을 기초로 엔트로피 부호화를 수행할 수 있다. 또한, 엔트로피 부호화부(460)에서는 재정렬부(450)에서 입력된 부호화 단위의 계수값을 엔트로피 부호화할 수 있다.
엔트로피 부호화부(460)에서는 화면 내 예측 모드 정보에 대한 이진화를 수행하여 현재 블록의 화면 내 예측 모드 정보를 부호화할 수 있다. 엔트로피 부호화부(460)에는 이러한 이진화 동작을 수행하기 위한 코드워드 매핑부가 포함될 수 있고, 화면 내 예측을 수행하는 예측 블록의 크기에 따라 이진화를 다르게 수행할 수 있다. 코드워드 매핑부에서는 코드워드 매핑 테이블이 이진화 동작을 통해 적응적으로 생성되거나 미리 저장되어 있을 수 있다. 또 다른 실시예로 엔트로피 부호화부(460)에서 코드넘 매핑을 수행하는 코드넘 매핑부와 코드워드 매핑을 수행하는 코드워드 매핑부를 이용하여 현재 화면 내 예측 모드 정보를 표현할 수 있다. 코드넘 매핑부와 코드워드 매핑부에서는 코드넘 매핑 테이블과 코드워드 매핑 테이블이 생성되거나 저장되어 있을 수 있다.
역양자화부(470) 및 역변환부(480)에서는 양자화부(440)에서 양자화된 값들을 역양자화하고 변환부(430)에서 변환된 값들을 역변환 한다. 역양자화부(470) 및 역변환부(480)에서 생성된 잔차값(Residual)은 예측부(420)에 포함된 움직임 추정부, 움직임 보상부 및 화면 내 예측부를 통해서 예측된 예측 블록과 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.
필터부(490)는 디블록킹 필터, 오프셋 보정부 중 적어도 하나를 포함할 수 있다.
디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한, 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링을 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행처리가 되도록 할 수 있다.
오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.
필터부(490)는 디블록킹 필터, 오프셋 보정을 모두 적용하지 않고 디블록킹 필터만 적용하거나 디블록킹 필터와 오프셋 보정을 둘 다 적용할 수도 있다.
메모리(495)는 필터부(490)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 화면 간 예측을 수행 시 예측부(420)에 제공될 수 있다.
도 6은 본 발명이 적용되는 일실시예로서, 컴퓨팅 파워에 기반하여 디와핑을 수행하는 시스템을 도시한 것이다.
도 6을 참조하면, 단말기(10)는 관리 서버(20)에 파노라믹 VOD에 관한 서비스 포트 정보를 요청할 수 있다(S600).
관리 서버(20)는 단말기(10)로부터 서비스 포트 정보의 요청이 있는 경우, 해당 단말기(10)에 서비스 포트 정보를 전달하고, 단말기(10)의 컴퓨팅 파워 정보를 요청할 수 있다(S605).
상기 관리 서버(20)의 요청에 대응하여 단말기(10)는 컴퓨팅 파워 정보를 관리 서버(20)에 전달할 수 있다(S610).
관리 서버(20)는 단말기(10)로부터 수신된 컴퓨팅 파워 정보에 기반하여 입력 영상에 대한 디와핑을 단말기(10)에서 처리할지 여부를 결정할 수 있다(S615).
만일, 입력 영상에 대한 디와핑을 단말기(10)에서 처리하는 것으로 결정된 경우, 상기 관리 서버(20)는 VOD 서버(30)에 파노라믹 비디오를 요청할 수 있다(S620).
상기 관리 서버(20)의 요청이 있는 경우, VOD 서버(30)는 DB 서버(40)에 파노라믹 포맷을 요청할 수 있고(S625), 상기 DB 서버(40)는 VOD 서버(30)의 요청에 대응하여 파노라믹 포맷을 VOD 서버(30)에 전달할 수 있다(S630). VOD 서버(30)는 DB 서버(40)로부터 수신한 파노라믹 포맷에 대응하는 파노라믹 비디오 스트림을 단말기(10)로 전송할 수 있다(S635).
상기 단말기(10)는 수신된 파노라믹 비디오 스트림을 복호화하여 와핑된 영상을 복원하고, 이에 대해서 디와핑을 수행한 후 이를 다시 인코딩할 수 있다. 이를 위해 상기 단말기(10)는 파노라믹 영상 처리 서버(100)와 동일하게 와핑 영역 결정부(200), 디와핑 처리부(300)와 인코딩부(400)를 포함할 수 있으며, 이는 도 4에서 자세히 살펴 보았는바, 여기서 자세한 설명은 생략하기로 한다.
만일, 입력 영상에 대한 디와핑을 파노라믹 영상 처리 서버(100)에서 처리하는 것으로 결정된 경우, 상기 관리 서버(20)는 VOD 서버(30)에 파노라믹 비디오를 요청할 수 있다(S640).
상기 관리 서버(20)의 요청이 있는 경우, VOD 서버(30)는 DB 서버(40)에 파노라믹 포맷을 요청할 수 있고(S645), 상기 DB 서버(40)는 VOD 서버(30)의 요청에 대응하여 파노라믹 포맷을 VOD 서버(30)에 전달할 수 있다(S650). VOD 서버(30)는 DB 서버(40)로부터 수신한 파노라믹 포맷에 대응하는 파노라믹 비디오 스트림을 파노라믹 영상 처리 서버(100)로 전송할 수 있다(S655).
파노라믹 영상 처리 서버(100)는 수신된 파노라믹 비디오 스트림을 디코딩하여 와핑된 영상을 생성하고, 와핑된 영상에 대해 디와핑을 수행할 수 있다. 파노라믹 영상 처리 서버(100)는 디와핑된 영상을 인코딩하여 왜곡 보정된 파노라믹 비디오 스트림을 생성할 수 있다. 파노라믹 영상 처리 서버(100)에서 디와핑을 수행하는 방법은 도 4에서 자세히 살펴 보았는바, 여기서 자세한 설명은 생략하기로 한다.
파노라믹 영상 처리 서버(100)에서 생성된 파노라믹 비디오 스트림은 단말기(10)로 전송될 수 있다(S660). 해당 단말기(10)는 수신된 파노라믹 비디오 스트림을 디코딩하여 왜곡된 영상 정보가 없는 영상을 복원할 수 있다.
도 7은 본 발명이 적용되는 일실시예로서, 단말기의 성능에 기반한 파노라믹 영상 처리 서버(100)와 단말기(10) 간의 선택적인 디와핑 수행 방법을 도시한 것이다.
하나의 영상을 서로 다른 사용자(user A, user B)가 보는 경우에, 각 사용자가 보는 전체 FOV(field of video)에 따라 각 세그먼트의 왜곡 정도가 상이할 수 있다.
도 7을 참조하면, 각 사용자가 보는 전체 FOV(field of video)에 따라 파노라믹 비디오의 와핑 영역이 상이하게 결정될 수 있다. 이때 각 사용자의 단말기의 성능에 고려하여 와핑 영역에 대한 디와핑을 파노라믹 영상 처리 서버(100)에서 수행할지, 아니면 해당 단말기에서 수행할지를 결정할 수 있다.
예를 들어, user A의 단말기 성능이 낮은 경우, 파노라믹 영상 처리 서버(100)에서 와핑 영역에 대한 디와핑을 수행하고, 비-와핑 영역은 파노라믹 영상 처리 서버(100)를 거치지 아니하고 단말기로 전송될 수 있다. 파노라믹 영상 처리 서버(100)에서 디와핑된 영역은 단말기로 전송되며, 디와핑된 영역과 비-와핑 영역은 조합되어 부호화될 수 있다.
한편, user B의 단말기 성능이 높은 경우, 와핑 영역과 비-와핑 영역 모두 단말기로 전송되고, 단말기는 와핑 영역에 대해서 디와핑을 수행할 수 있다. 마찬가지로, 단말기는 디와핑된 영역과 비-와핑 영역을 조합하여 입력 영상을 재구성한 후, 이를 부호화할 수 있다.
도 8은 본 발명이 적용되는 일실시예로서, 쿼드트리 구조의 파티션닝에 기반하여 와핑된 영상에 대해 디와핑을 수행하는 과정을 도시한 것이다.
현재 세그먼트에 속한 와핑 메쉬의 꼭지점의 개수 또는 와핑 메쉬의 모양 중 적어도 하나에 기초하여 현재 세그먼트가 와핑 영역인지를 결정할 수 있다. 이는 도 3을 참조하여 자세히 살펴 보았는바, 여기서 자세한 설명은 생략하기로 한다.
현재 세그먼트가 와핑 영역으로 결정된 경우, 현재 세그먼트를 쿼드트리 구조로 분할하고, 현재 세그먼트를 구성하는 각각의 파티션에 대해서 도 3의 방법에 따라 와핑 영역인지를 결정할 수 있다. 여기서, 쿼드트리 구조의 분할은 현재 세그먼트 내에서 와핑 영역의 위치를 정확히 검출하기 위한 것이다. 본 발명의 쿼드트리 구조의 분할에 대해서는 도 9를 참조하여 살펴 보기로 한다. 반면, 현재 세그먼트가 비-와핑 영역으로 결정된 경우, 이는 현재 세그먼트에는 왜곡된 영상 정보가 존재하지 않음을 의미하므로, 쿼드트리 구조의 분할을 수행하지 않는다.
구체적으로, 쿼드트리 구조의 분할을 통해 현재 세그먼트는 4개의 파티션(즉, 파티션0 내지 파티션3)으로 분할될 수 있다. 상기 4개의 파티션 각각에 대해서 도 3의 방법에 따라 와핑 영역인지를 추가적으로 결정할 수 있다. 상기 4개의 파티션 중 적어도 하나는 와핑 영역으로 결정될 수 있다. 예를 들어, 파티션0은 와핑 영역으로 결정될 수 있고, 나머지 파티션 즉, 파티션1 내지 파티션3은 비-와핑 영역으로 결정될 수 있다. 이 경우, 와핑 영역으로 결정된 파티션0에 대해서 추가적으로 쿼드트리 구조로 분할을 수행하고, 파티션0를 구성하는 각각의 파티션(이하, 서브-파티션이라 함)에 대해서 와핑 영역인지 여부를 결정할 수 있다.
이와 같이, 파노라믹 영상의 일부 영역(예를 들어, 세그먼트, 파티션, 서브-파티션 등)이 와핑 영역으로 결정된 경우, 분할 뎁스(split depth) 또는 분할 레벨(split level)를 증가시키고 동시에 일부 영역을 사분할함으로써 파노라믹 영상에 존재하는 와핑 영역의 위치를 정확히 검출할 수 있다. 다만, 쿼드트리 구조의 분할은 소정의 분할 뎁스 범위 내에서 및/또는 소정의 블록 크기 범위 내에서 수행되는 것으로 제한될 수 있다. 여기서, 소정의 분할 뎁스는 분할 뎁스의 최대값을 의미할 수 있고, 소정의 블록 크기는 분할이 허용되는 블록의 최소 크기를 의미할 수 있다. 소정의 분할 뎁스와 블록 크기는 파노라믹 영상 처리 서버에 기-설정된 것일 수도 있고, 사용자 지정에 의해 가변적으로 결정될 수도 있다.
도 9는 본 발명이 적용되는 일실시예로서, 세그먼트를 쿼드트리 구조로 분할하는 방법을 도시한 것이다.
도 9에서 세그먼트(900)는 분할 레벨의 값이 0이고, 와핑 영역인 것으로 가정한다. 상기 세그먼트(900)는 파티션0, 파티션1, 파티션2 및 파티션3으로 분할될 수 있다. 이 경우, 각 파티션 별로 분할 레벨의 값은 1로 증가되고, 각각의 파티션에 대해서 해당 파티션이 와핑 영역인지 여부를 결정할 수 있다.
만일, 파티션0가 와핑 영역으로 결정된 경우, 도 9에 도시된 바와 같이 파티션0는 4개의 서브-파티션 a 내지 d로 분할될 수 있다. 파티션1과 파티션2는 비-와핑 영역으로 결정된 경우로서, 추가적으로 분할되지 아니한다.
한편, 파티션3은 와핑 영역으로 결정된 경우로서, 도 9에 도시된 바와 같이 파티션3은 4개의 서브-파티션으로 분할되고, 각각의 서브-파티션에 대한 분할 레벨의 값은 2로 증가된다. 그런 다음, 4개의 서브-파티션 각각에 대해서 와핑 영역인지 여부를 결정할 수 있다.
파티션3에 포함된 서브-파티션 g, i 및 m은 비-와핑 영역으로 결정된 경우로서, 추가적으로 분할되지 아니한다. 반면, 블록 h 내지 k로 구성된 서브-파티션은 와핑 영역으로 결정된 경우로서, 상기 4개의 블록 h 내지 k로 분할되고, 각각의 블록에 대한 블록 레벨의 값은 3으로 증가된다. 만일, 기-설정된 분할 레벨의 최대값이 3인 경우이거나, 4개의 블록 h 내지 k의 블록 크기가 분할이 허용되는 블록의 최소 크기에 해당하는 경우, 상기 블록 h 내지 k 각각에 대해서 와핑 영역인지 여부를 결정하지 않을 수 있고, 또는 쿼드트리 구조의 분할을 더 이상 수행하지 않을 수 있다.
이와 같이 쿼드트리 구조의 분할을 통해 파노라믹 영상을 와핑 영역과 비-와핑 영역으로 구분할 수 있다.
Claims (15)
- 입력 영상을 복수의 세그먼트로 분할하는 단계; 여기서, 상기 세그먼트는 상기 입력 영상의 병렬 처리를 위해 정의된 소정의 단위를 의미함,
상기 분할된 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하는 단계; 여기서, 상기 와핑 영역은 디와핑(de-warping) 처리가 요구되는 영역을 의미함,
상기 입력 영상에 관한 파노라믹 포맷에 기초하여, 상기 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행하는 단계; 및
상기 디와핑이 수행된 세그먼트를 부호화하는 단계를 포함하는 파노라믹 비디오 부호화 방법. - 제1항에 있어서,
상기 와핑 영역인지 여부는 상기 세그먼트 내에 속한 와핑 메쉬의 꼭지점의 개수 또는 상기 와핑 메쉬의 모양 중 적어도 하나에 기초하여 결정되는 것을 특징으로 하는 파노라믹 비디오 부호화 방법. - 제1항에 있어서,
상기 파노라믹 포맷은 상기 입력 영상에 관한 와핑 타입 또는 영상 왜곡도 패턴을 의미하는 것을 특징으로 하는 파노라믹 비디오 부호화 방법. - 제3항에 있어서, 상기 디와핑을 수행하는 단계는,
상기 입력 영상에 관한 카메라 식별 정보에 기초하여 상기 파노라믹 포맷을 결정하는 단계를 포함하고,
상기 카메라 식별 정보는 상기 입력 영상을 촬영한 카메라의 종류 또는 카메라 특성을 식별하기 위해 시그날링되는 정보를 의미하는 것을 특징으로 하는 파노라믹 비디오 부호화 방법. - 제3항에 있어서, 상기 디와핑을 수행하는 단계는,
상기 카메라 식별 정보에 기초하여 상기 입력 영상에 관련된 카메라 타입을 결정하는 단계; 및
상기 결정된 카메라 타입에 대응하는 상기 파노라믹 포맷을 기-정의된 테이블 정보로부터 추출하는 단계를 포함하되,
상기 테이블 정보는 카메라 타입 별로 이용 가능한 하나 또는 그 이상의 파노라믹 포맷으로 구성되는 것을 특징으로 하는 파노라믹 비디오 부호화 방법. - 제1항에 있어서,
상기 세그먼트는 복수의 LCU(largest coding unit) 행을 포함하고,
상기 세그먼트는 상기 LCU 행 단위로 병렬적으로 디와핑되며,
상기 LCU 행 내에서는 기-정의된 스캔 순서에 따라 LCU 단위로 순차적으로 디와핑되는 것을 특징으로 하는 파노라믹 비디오 부호화 방법. - 입력 영상을 복수의 세그먼트로 분할하고, 상기 분할된 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하는 와핑 영역 결정부; 여기서, 상기 세그먼트는 상기 입력 영상의 병렬 처리를 위해 정의된 소정의 단위를 의미하고, 상기 와핑 영역은 디와핑(de-warping) 처리가 요구되는 영역을 의미함,
상기 입력 영상에 관한 파노라믹 포맷에 기초하여, 상기 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행하는 디와핑 처리부; 및
상기 디와핑이 수행된 세그먼트를 부호화하는 인코딩부를 포함하는 파노라믹 비디오 부호화 장치. - 제7항에 있어서, 상기 와핑 영역 결정부는,
상기 세그먼트 내에 속한 와핑 메쉬의 꼭지점의 개수 또는 상기 와핑 메쉬의 모양 중 적어도 하나에 기초하여 상기 와핑 영역인지 여부를 결정하는 것을 특징으로 하는 파노라믹 비디오 부호화 장치. - 제7항에 있어서,
상기 파노라믹 포맷은 상기 입력 영상에 관한 와핑 타입 또는 영상 왜곡도 패턴을 의미하는 것을 특징으로 하는 파노라믹 비디오 부호화 장치. - 제9항에 있어서, 상기 디와핑 처리부는,
상기 입력 영상에 관한 카메라 식별 정보에 기초하여 상기 파노라믹 포맷을 결정하고,
상기 카메라 식별 정보는 상기 입력 영상을 촬영한 카메라의 종류 또는 카메라 특성을 식별하기 위해 시그날링되는 정보를 의미하는 것을 특징으로 하는 파노라믹 비디오 부호화 장치. - 제9항에 있어서, 상기 디와핑 처리부는,
상기 카메라 식별 정보에 기초하여 상기 입력 영상에 관련된 카메라 타입을 결정하고, 상기 결정된 카메라 타입에 대응하는 상기 파노라믹 포맷을 기-정의된 테이블 정보로부터 추출하되,
상기 테이블 정보는 카메라 타입 별로 이용 가능한 하나 또는 그 이상의 파노라믹 포맷으로 구성되는 것을 특징으로 하는 파노라믹 비디오 부호화 장치. - 제7항에 있어서,
상기 세그먼트는 복수의 LCU(largest coding unit) 행을 포함하고,
상기 디와핑 처리부는 상기 세그먼트에 포함되는 상기 LCU 행 단위로 병렬적으로 디와핑을 수행하되,
상기 LCU 행 내에서는 기-정의된 스캔 순서에 따라 LCU 단위로 순차적으로 디와핑이 수행되는 것을 특징으로 하는 파노라믹 비디오 부호화 장치. - 파노라믹 비디오를 구성하는 복수의 세그먼트 각각에 대해서 와핑 영역(warped region)인지 여부를 결정하고, 상기 파노라믹 비디오에 관한 파노라믹 포맷에 기초하여 상기 와핑 영역으로 결정된 세그먼트에 대해서 디와핑을 수행하며, 상기 디와핑이 수행된 세그먼트를 부호화하는 파노라믹 영상 처리 서버; 여기서, 상기 세그먼트는 상기 입력 영상의 병렬 처리를 위해 정의된 소정의 단위를 의미하고, 상기 와핑 영역은 디와핑(de-warping) 처리가 요구되는 영역을 의미함,
상기 파노라믹 비디오에 대응하는 파노라믹 포맷을 결정하는 데이터베이스 서버를 포함하는 파노라믹 비디오 부호화 시스템. - 제13항에 있어서, 상기 데이터베이스 서버는,
상기 파노라믹 비디오에 관한 카메라 식별 정보에 기초하여 상기 파노라믹 비디오의 디와핑에 이용되는 파노라믹 포맷을 결정하고, 상기 결정된 파노라믹 포맷을 상기 파노라믹 영상 처리 서버로 전송하는 파노라믹 비디오 부호화 시스템. - 제14항에 있어서, 상기 데이터베이스 서버는,
상기 카메라 식별 정보에 기초하여 상기 파노라믹 비디오를 촬영한 카메라 타입을 결정하고, 상기 결정된 카메라 타입에 대응하는 파노라믹 포맷을 기-저장된 테이블 정보로부터 추출하되,
상기 테이블 정보는 카메라 타입 별로 이용 가능한 파노라믹 포맷으로 구성되는 것을 특징으로 하는 파노라믹 비디오 부호화 시스템.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/KR2016/007352 WO2017007250A1 (ko) | 2015-07-08 | 2016-07-07 | 파노라믹 비디오의 왜곡보정 방법 및 장치 |
| US15/742,403 US20180220156A1 (en) | 2015-07-08 | 2016-07-07 | Method and device for correcting distortion of panoramic video |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR20150097007 | 2015-07-08 | ||
| KR1020150097007 | 2015-07-08 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20170007073A true KR20170007073A (ko) | 2017-01-18 |
| KR102493934B1 KR102493934B1 (ko) | 2023-01-31 |
Family
ID=57992382
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020150129819A KR20170007069A (ko) | 2015-07-08 | 2015-09-14 | 파노라믹 비디오의 왜곡보정 방법 및 장치 |
| KR1020150138631A KR102493934B1 (ko) | 2015-07-08 | 2015-10-01 | 파노라믹 비디오의 왜곡보정 방법 및 장치 |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020150129819A KR20170007069A (ko) | 2015-07-08 | 2015-09-14 | 파노라믹 비디오의 왜곡보정 방법 및 장치 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US20180220156A1 (ko) |
| KR (2) | KR20170007069A (ko) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021055027A1 (en) * | 2019-09-20 | 2021-03-25 | Synaptics Incorporated | Image de-warping system |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102500836B1 (ko) * | 2016-09-27 | 2023-02-16 | 한화테크윈 주식회사 | 광각 영상 처리 방법 및 이를 위한 장치 |
| WO2019161289A1 (en) * | 2018-02-17 | 2019-08-22 | Dreamvu, Inc. | System and method for capturing omni-stereo videos using multi-sensors |
| USD943017S1 (en) | 2018-02-27 | 2022-02-08 | Dreamvu, Inc. | 360 degree stereo optics mount for a camera |
| USD931355S1 (en) | 2018-02-27 | 2021-09-21 | Dreamvu, Inc. | 360 degree stereo single sensor camera |
| CN110728619B (zh) * | 2018-07-17 | 2024-03-22 | 中科创达软件股份有限公司 | 一种全景图像拼接渲染方法及装置 |
| WO2020053383A1 (en) | 2018-09-14 | 2020-03-19 | Koninklijke Kpn N.V. | Video coding based on global motion compensated motion vector predictors |
| US11455705B2 (en) * | 2018-09-27 | 2022-09-27 | Qualcomm Incorporated | Asynchronous space warp for remotely rendered VR |
| US11295541B2 (en) * | 2019-02-13 | 2022-04-05 | Tencent America LLC | Method and apparatus of 360 degree camera video processing with targeted view |
| GB2590152A (en) * | 2019-10-04 | 2021-06-23 | Vaion Ltd | Encoding and decoding a video |
| GB201914348D0 (en) * | 2019-10-04 | 2019-11-20 | Vaion Ltd | Encoding and decoding a video |
| CN114115525B (zh) * | 2021-10-29 | 2022-11-18 | 北京城市网邻信息技术有限公司 | 信息显示方法、装置、设备及存储介质 |
| CN116958164A (zh) * | 2022-04-08 | 2023-10-27 | 影石创新科技股份有限公司 | 一种图像处理方法、装置、电子设备和存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20110090083A (ko) * | 2010-02-02 | 2011-08-10 | 삼성전자주식회사 | 디지털 촬영 장치 및 이의 영상 왜곡 보정 방법 |
| KR20130086004A (ko) * | 2012-01-20 | 2013-07-30 | 삼성전자주식회사 | 병렬 처리가 가능한 엔트로피 부호화 방법 및 장치, 병렬 처리가 가능한 엔트로피 복호화 방법 및 장치 |
| JP2015050661A (ja) * | 2013-09-02 | 2015-03-16 | キヤノン株式会社 | 符号化装置、符号化装置の制御方法、及び、コンピュータプログラム |
| US20150131924A1 (en) * | 2013-11-13 | 2015-05-14 | Microsoft Corporation | Creation of Rectangular Images from Input Images |
-
2015
- 2015-09-14 KR KR1020150129819A patent/KR20170007069A/ko unknown
- 2015-10-01 KR KR1020150138631A patent/KR102493934B1/ko active IP Right Grant
-
2016
- 2016-07-07 US US15/742,403 patent/US20180220156A1/en not_active Abandoned
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20110090083A (ko) * | 2010-02-02 | 2011-08-10 | 삼성전자주식회사 | 디지털 촬영 장치 및 이의 영상 왜곡 보정 방법 |
| KR20130086004A (ko) * | 2012-01-20 | 2013-07-30 | 삼성전자주식회사 | 병렬 처리가 가능한 엔트로피 부호화 방법 및 장치, 병렬 처리가 가능한 엔트로피 복호화 방법 및 장치 |
| JP2015050661A (ja) * | 2013-09-02 | 2015-03-16 | キヤノン株式会社 | 符号化装置、符号化装置の制御方法、及び、コンピュータプログラム |
| US20150131924A1 (en) * | 2013-11-13 | 2015-05-14 | Microsoft Corporation | Creation of Rectangular Images from Input Images |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021055027A1 (en) * | 2019-09-20 | 2021-03-25 | Synaptics Incorporated | Image de-warping system |
| US11669942B2 (en) | 2019-09-20 | 2023-06-06 | Synaptics Incorporated | Image de-warping system |
Also Published As
| Publication number | Publication date |
|---|---|
| KR102493934B1 (ko) | 2023-01-31 |
| US20180220156A1 (en) | 2018-08-02 |
| KR20170007069A (ko) | 2017-01-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11570431B2 (en) | Method and device for performing image decoding on basis of intra prediction in image coding system | |
| JP6407389B2 (ja) | データ符号化及び復号化 | |
| KR20170007073A (ko) | 파노라믹 비디오의 왜곡보정 방법 및 장치 | |
| CA2997097C (en) | Method and device for processing video signal | |
| KR102322188B1 (ko) | 영상 복호화 장치 | |
| KR102081350B1 (ko) | 인트라 예측 방법과 이를 이용한 부호화기 및 복호화기 | |
| JP2020510374A (ja) | 映像コーディングシステムにおける変換方法及びその装置 | |
| JP2019525577A (ja) | 画像符号化／復号方法、装置、及び、ビットストリームを保存した記録媒体 | |
| US10951908B2 (en) | Method and device for decoding image according to intra prediction in image coding system | |
| US11659174B2 (en) | Image encoding method/device, image decoding method/device and recording medium having bitstream stored therein | |
| CN112237001A (zh) | 使用自适应运动矢量分辨率的视频信号处理方法及装置 | |
| AU2012335896A1 (en) | Signaling quantization matrices for video coding | |
| KR20190130502A (ko) | 영상 복호화 방법/장치, 영상 부호화 방법/장치 및 비트스트림을 저장한 기록 매체 | |
| KR20200033212A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR20210082421A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR20200007671A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| EP4022921A1 (en) | Geometric partition mode with harmonized motion field storage and motion compensation | |
| KR20200039591A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR101468078B1 (ko) | 화면 내 예측 방법 및 장치 | |
| KR20210035062A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR20200074877A (ko) | 비디오 부호화/복호화 방법 및 장치 | |
| KR20190140820A (ko) | 성분 간 참조 기반의 비디오 신호 처리 방법 및 장치 | |
| KR20210070942A (ko) | 영역 차등적 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체 | |
| KR20210042841A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR20200061309A (ko) | 영상 성분 간 예측 방법과 그를 이용한 영상 부호화 및 복호화 방법 및 장치 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |