KR102641163B1 - 영상 처리 장치 및 그 영상 처리 방법 - Google Patents
영상 처리 장치 및 그 영상 처리 방법 Download PDFInfo
- Publication number
- KR102641163B1 KR102641163B1 KR1020180151429A KR20180151429A KR102641163B1 KR 102641163 B1 KR102641163 B1 KR 102641163B1 KR 1020180151429 A KR1020180151429 A KR 1020180151429A KR 20180151429 A KR20180151429 A KR 20180151429A KR 102641163 B1 KR102641163 B1 KR 102641163B1
- Authority
- KR
- South Korea
- Prior art keywords
- pixel
- area
- image frame
- pixel block
- pixel value
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 68
- 238000003672 processing method Methods 0.000 title claims description 17
- 238000000034 method Methods 0.000 claims description 28
- 230000008569 process Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 12
- 238000001914 filtration Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000013256 coordination polymer Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 229910021420 polycrystalline silicon Inorganic materials 0.000 description 1
- 229920005591 polysilicon Polymers 0.000 description 1
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
- H04N21/440263—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
- H04N21/440272—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA for performing aspect ratio conversion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/0122—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal the input and the output signals having different aspect ratios
Abstract
영상 처리 장치가 개시된다. 영상 처리 장치는, 입력부 및, 입력부를 통해 입력된 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 프로세서를 포함하며, 프로세서는,출력 영상 프레임에 대한 정보 및 입력 영상 프레임에 기초하여 픽셀 값을 패딩할 영역을 식별하고, 식별된 영역에 포함된 대상 픽셀 영역을 기준으로 제1 픽셀 블럭을 식별하고, 제1 픽셀 블럭에 포함된 픽셀 값에 기초하여 제2 픽셀 블럭을 식별하고, 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 대상 픽셀 영역을 패딩하여 출력 영상 프레임을 획득할 수 있다.
Description
본 개시는 영상 처리 장치 및 그 영상 처리 방법에 관한 것으로, 더욱 상세하게는 입력 영상을 리타겟팅 처리하여 출력 영상을 획득하는 영상 처리 장치 및 그 영상 처리 방법에 관한 것이다.
전자 기술의 발달에 힘입어 다양한 유형의 전자기기가 개발 및 보급되고 있다. 특히, 가정, 사무실, 공공 장소 등 다양한 장소에서 이용되는 디스플레이 장치는 최근 수년 간 지속적으로 발전하고 있다.
최근에는 고해상도 영상 서비스, 실시간 스트리밍 서비스에 대한 요구가 크게 증가하고 있다.
경우에 따라 입력 영상의 해상도와 출력 해상도가 상이한 경우 입력 영상을 출력 해상도에 맞추기 위한 영상 처리를 적용한다. 다만 입력 영상의 해상도와 출력 해상도의 종횡비(가로세로비율)가 동일한 경우에는 영상 왜곡이 없으나, 종횡비가 상이한 경우 종횡비 조정으로 인해 영상 왜곡이 발생하게 되는 문제점이 있다.
본 개시은 상술한 필요성에 따른 것으로, 본 개시의 목적은, 유사 픽셀 패딩을 통해 영상 왜곡 없이 입력 영상의 종횡비를 조정하여 출력 영상을 획득할 수 있는 영상 처리 장치 및 그 영상 처리 방법을 제공함에 있다.
이상과 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따른 영상 처리 장치는, 입력부 및 상기 입력부를 통해 입력된 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 프로세서를 포함하며, 상기 프로세서는, 상기 출력 영상 프레임에 대한 정보 및 상기 입력 영상 프레임에 기초하여 픽셀 값을 패딩할 영역을 식별하고, 상기 식별된 영역에 포함된 대상 픽셀 영역을 기준으로 제1 픽셀 블럭을 식별하고, 상기 제1 픽셀 블럭에 포함된 픽셀 값에 기초하여 제2 픽셀 블럭을 식별하고, 상기 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 상기 대상 픽셀 영역을 패딩하여 상기 출력 영상 프레임을 획득한다.
이 경우, 상기 프로세서는, 상기 입력 영상 프레임의 종횡비에 기초하여 상기 입력 영상 프레임을 스케일링하고, 상기 스케일링된 영상 프레임 및 상기 출력 영상 프레임에 대한 정보에 기초하여 상기 패딩할 영역을 식별하고, 상기 스케일링된 영상 프레임에서 상기 제2 픽셀 블럭을 식별할 수 있다.
또한, 상기 프로세서는, 상기 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 상기 제2 픽셀 블럭을 식별할 수 있다.
또한, 상기 프로세서는, 상기 입력 영상 프레임에서 전경 영역을 식별하고, 상기 전경 영역 또는 인접 영역 중 적어도 하나에서 상기 제2 픽셀 블럭이 탐색되면 재 탐색을 수행할 수 있다.
또한, 상기 프로세서는, 상기 제1 픽셀 블럭에 포함된 픽셀들을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀들의 픽셀 값으로 패딩할 수 있다.
또한, 상기 프로세서는, 상기 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해, 해당 픽셀 값 및 상기 제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값에 기초하여 산출된 픽셀 값으로 대체할 수 있다.
또한, 상기 프로세서는, 상기 대상 픽셀 영역에 포함된 픽셀을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀의 픽셀 값으로 패딩할 수 있다.
또한, 상기 프로세서는, 상기 입력 영상 프레임의 모션 정보를 획득하고, 상기 모션 정보에 기초하여 상기 픽셀 값이 패딩된 영역을 블러링 처리할 수 있다.
또한, 상기 프로세서는, 상기 입력 영상 프레임에서 전경 영역이 상기 픽셀 값이 패딩된 영역에 포함되는 경우, 상기 모션 정보가 임계값 이상이면 상기 픽셀 값이 패딩된 영역을 블러링 처리하고, 상기 모션 정보가 상기 임계값 미만이면 상기 픽셀 값이 패딩된 영역을 유지할 수 있다.
또한, 상기 프로세서는, 기설정된 프레임 구간 내에 포함된 복수의 프레임 각각의 상기 대상 픽셀 영역을 상기 제2 픽셀 블럭에 포함된 픽셀 값으로 패딩할 수 있다.
또한, 디스플레이를 더 포함하며, 상기 프로세서는, 상기 획득된 출력 영상 프레임을 디스플레이하도록 상기 디스플레이를 제어할 수 있다.
한편, 본 발명의 일 실시 예에 따른 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 영상 처리 장치의 영상 처리 방법은, 상기 출력 영상 프레임에 대한 정보 및 상기 입력 영상 프레임에 기초하여 픽셀 값을 패딩할 영역을 식별하고, 상기 식별된 영역에 포함된 대상 픽셀 영역을 기준으로 제1 픽셀 블럭을 식별하는 단계, 상기 제1 픽셀 블럭에 포함된 픽셀 값에 기초하여 제2 픽셀 블럭을 식별하는 단계 및, 상기 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 상기 대상 픽셀 영역을 패딩하여 상기 출력 영상 프레임을 획득하는 단계를 포함할 수 있다.
이 경우, 상기 제2 픽셀 블럭을 식별하는 단계는, 상기 입력 영상 프레임의 종횡비에 기초하여 상기 입력 영상 프레임을 스케일링하고, 상기 스케일링된 영상 프레임 및 상기 출력 영상 프레임에 대한 정보에 기초하여 상기 패딩할 영역을 식별하고, 상기 스케일링된 영상 프레임에서 상기 제2 픽셀 블럭을 식별할 수 있다.
또한, 상기 제2 픽셀 블럭을 식별하는 단계는, 상기 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 상기 제2 픽셀 블럭을 식별할 수 있다.
또한, 상기 제2 픽셀 블럭을 식별하는 단계는, 상기 입력 영상 프레임에서 전경 영역을 식별하고, 상기 전경 영역 또는 인접 영역 중 적어도 하나에서 상기 제2 픽셀 블럭이 탐색되면 재 탐색을 수행할 수 있다.
또한, 상기 출력 영상 프레임을 획득하는 단계는, 상기 제1 픽셀 블럭에 포함된 픽셀들을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀들의 픽셀 값으로 패딩할 수 있다.
또한, 상기 출력 영상 프레임을 획득하는 단계는, 상기 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해, 해당 픽셀 값 및 상기 제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값에 기초하여 산출된 픽셀 값으로 대체할 수 있다.
또한, 상기 출력 영상 프레임을 획득하는 단계는, 상기 대상 픽셀 영역에 포함된 픽셀을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀의 픽셀 값으로 패딩할 수 있다.
또한, 상기 입력 영상 프레임의 모션 정보를 획득하고, 상기 모션 정보에 기초하여 상기 픽셀 값이 패딩된 영역을 블러링 처리하는 단계를 더 포함할 수 있다.
또한, 상기 블러링 처리하는 단계는, 상기 입력 영상 프레임에서 전경 영역이 상기 픽셀 값이 패딩된 영역에 포함되는 경우, 상기 모션 정보가 임계값 이상이면 상기 픽셀 값이 패딩된 영역을 블러링 처리하고, 상기 모션 정보가 상기 임계값 미만이면 상기 픽셀 값이 패딩된 영역을 유지할 수 있다.
또한, 상기 출력 영상 프레임을 획득하는 단계는, 기설정된 프레임 구간 내에 포함된 복수의 프레임 각각의 상기 대상 픽셀 영역을 상기 제2 픽셀 블럭에 포함된 픽셀 값으로 패딩할 수 있다.
또한, 본 발명의 일 실시 예에 따른 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 영상 처리 장치의 프로세서에 의해 실행되는 경우 상기 영상 처리 장치가 동작을 수행하도록 하는 컴퓨터 명령을 저장하는 비일시적 컴퓨터 판독 가능 매체에 있어서, 상기 동작은, 상기 출력 영상 프레임에 대한 정보 및 상기 입력 영상 프레임에 기초하여 픽셀 값을 패딩할 영역을 식별하고, 상기 식별된 영역에 포함된 대상 픽셀 영역을 기준으로 제1 픽셀 블럭을 식별하는 단계, 상기 제1 픽셀 블럭에 포함된 픽셀 값에 기초하여 제2 픽셀 블럭을 식별하는 단계 및, 상기 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 상기 대상 픽셀 영역을 패딩하여 상기 출력 영상 프레임을 획득하는 단계를 포함할 수 있다.
본 개시의 다양한 실시 예에 따르면, 영상 왜곡 없이 입력 영상의 종횡비를 조정하여 출력 영상을 획득할 수 있게 된다. 예를 들어, 영상의 주요 영역을 손실할 가능성이 없고, 비디오 컨텐츠 내 시간적 일관성을 유지할 수 있게 된다.
도 1은 본 개시의 일 실시 예에 따른 영상 처리 장치의 구현 예를 설명하기 위한 도면이다.
도 2는 본 개시의 일 실시 예에 따른 영상 처리 장치의 구성을 나타내는 블럭도이다.
도 3은 본 개시의 일 실시 예에 따른 종횡비 조정 방법을 설명하기 위한 도면이다.
도 4a 내지 도 4f는 본 개시의 일 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면들이다.
도 5a 및 도 5b는 본 개시의 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면들이다.
도 6은 본 발명의 또 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면이다.
도 7a 및 도 7b는 본 발명의 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면이다.
도 8a 내지 도 8c는 본 개시의 다른 실시 예에 따른 블러링 처리 방법을 설명하기 위한 도면들이다.
도 9는 본 개시의 일 실시 예에 따른 영상 처리 방법을 설명하기 위한 블럭도이다.
도 10은 본 개시의 다른 실시 예에 따른 영상 처리 장치의 일 구현 예를 나타내는 도면이다.
도 11은 본 발명의 일 실시 예에 따른 영상 처리 방법을 설명하기 위한 흐름도이다.
도 2는 본 개시의 일 실시 예에 따른 영상 처리 장치의 구성을 나타내는 블럭도이다.
도 3은 본 개시의 일 실시 예에 따른 종횡비 조정 방법을 설명하기 위한 도면이다.
도 4a 내지 도 4f는 본 개시의 일 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면들이다.
도 5a 및 도 5b는 본 개시의 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면들이다.
도 6은 본 발명의 또 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면이다.
도 7a 및 도 7b는 본 발명의 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면이다.
도 8a 내지 도 8c는 본 개시의 다른 실시 예에 따른 블러링 처리 방법을 설명하기 위한 도면들이다.
도 9는 본 개시의 일 실시 예에 따른 영상 처리 방법을 설명하기 위한 블럭도이다.
도 10은 본 개시의 다른 실시 예에 따른 영상 처리 장치의 일 구현 예를 나타내는 도면이다.
도 11은 본 발명의 일 실시 예에 따른 영상 처리 방법을 설명하기 위한 흐름도이다.
이하에서는 첨부 도면을 참조하여 본 개시를 상세히 설명한다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 개시에 대해 구체적으로 설명하기로 한다.
본 개시의 실시 예에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 개시의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.
본 개시의 실시 예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 개시된 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 실시 예들을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
A 및 B 중 적어도 하나라는 표현은 "A" 또는 "B" 또는 "A 및 B" 중 어느 하나를 나타내는 것으로 이해되어야 한다.
본 개시에서 "모듈" 혹은 "부"는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈" 혹은 복수의 "부"는 특정한 하드웨어로 구현될 필요가 있는 "모듈" 혹은 "부"를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.
아래에서는 첨부한 도면을 참고하여 본 개시의 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 개시를 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
도 1은 본 개시의 일 실시 예에 따른 영상 처리 장치의 구현 예를 설명하기 위한 도면이다.
영상 처리 장치(100)는 도 1에 도시된 바와 같이 TV 또는 set-top box 로 구현될 수 있으나, 이에 한정되는 것은 아니며 스마트 폰, 태블릿 PC, 노트북 PC, HMD(Head mounted Display), NED(Near Eye Display), LFD(large format display), Digital Signage(디지털 간판), DID(Digital Information Display), 비디오 월(video wall), 프로젝터 디스플레이, 카메라 등과 같이 영상 처리 및/또는 디스플레이 기능을 갖춘 장치라면 한정되지 않고 적용 가능하다.
영상 처리 장치(100)는 다양한 압축 영상 또는 다양한 해상도의 영상을 수신할 수 있다. 예를 들어, 영상 처리 장치(100)는 MPEG(Moving Picture Experts Group)(예를 들어, MP2, MP4, MP7 등), JPEG(joint photographic coding experts group), AVC(Advanced Video Coding), H.264, H.265, HEVC(High Efficiency Video Codec) 등으로 압축된 형태로 영상을 수신할 수 있다. 또는 영상 처리 장치(100)는 SD(Standard Definition), HD(High Definition), Full HD, Ultra HD 영상 중 어느 하나의 영상을 수신할 수 있다.
일 실시 예에 따라 입력되는 영상의 해상도와 출력 해상도가 종횡비가 상이한 경우, 입력 영상의 해상도를 출력 해상도에 맞추기 위한 리타겟팅(retargeting) 처리가 요구된다. 예를 들어, 입력 영상의 해상도는 HD 또는 Full HD 영상이고 출력 해상도는 Ultra HD인 경우 출력 해상도에 맞추어 영상을 리타겟팅(retargeting) 처리하게 된다. 이 경우, 입력 영상의 종횡비(가로세로비율)를 출력 영상의 종횡비에 맞게 조정함에 따라 영상 왜곡이 발생하게 되는 문제점이 있다.
이에 따라 본 개시에서는 입력 영상의 해상도와 출력 해상도의 종횡비가 상이한 경우 영상 왜곡을 최소화할 수 있는 다양한 실시 예에 대해 설명하도록 한다.
도 2는 본 개시의 일 실시 예에 따른 영상 처리 장치의 구성을 나타내는 블럭도이다.
도 2에 따르면, 영상 처리 장치(100)는 입력부(110) 및 프로세서(120)를 포함한다.
입력부(110)는 다양한 타입의 컨텐츠를 입력받는다. 예를 들어 입력부(110)는 AP 기반의 Wi-Fi(와이파이, Wireless LAN 네트워크), 블루투스(Bluetooth), 지그비(Zigbee), 유/무선 LAN(Local Area Network), WAN, 이더넷, IEEE 1394, HDMI(High Definition Multimedia Interface), MHL (Mobile High-Definition Link), USB (Universal Serial Bus), DP(Display Port), 썬더볼트(Thunderbolt), VGA(Video Graphics Array)포트, RGB 포트, D-SUB(D-subminiature), DVI(Digital Visual Interface) 등과 같은 통신 방식을 통해 외부 장치(예를 들어, 소스 장치), 외부 저장 매체(예를 들어, USB), 외부 서버(예를 들어 웹 하드) 등으로부터 스트리밍 또는 다운로드 방식으로 영상 신호를 입력받을 수 있다. 여기서, 영상 신호는 디지털 신호가 될 수 있으나 이에 한정되는 것은 아니다.
프로세서(120)는 영상 처리 장치(100)의 전반적인 동작을 제어한다.
일 실시 예에 따라 프로세서(120)는 디지털 영상 신호를 처리하는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), TCON(Time controller)으로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며, 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ARM 프로세서 중 하나 또는 그 이상을 포함하거나, 해당 용어로 정의될 수 있다. 또한, 프로세서(140)는 프로세싱 알고리즘이 내장된 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다.
프로세서(120)는 입력부(110)를 통해 입력된 영상 프레임을 리타겟팅 즉, 종횡비를 조정하여 출력 영상 프레임을 획득한다.
구체적으로, 프로세서(120)는 출력 영상 프레임에 대한 정보 및 입력 영상 프레임에 기초하여 픽셀 값을 패딩할 영역을 식별할 수 있다. 여기서, 출력 영상 프레임에 대한 정보는, 출력 영상 프레임의 해상도 정보가 될 수 있다.
예를 들어, 프로세서(120)는 입력 영상 프레임 및 리타겟팅 정보에 기초하여 픽셀 값을 패딩할 영역을 식별하고, 식별된 영역에 포함된 대상 픽셀 영역을 기준으로 제1 픽셀 블럭(또는 제1 픽셀 영역)을 식별할 수 있다. 여기서, 리타겟팅 정보는, 입력 영상 프레임의 해상도 정보 및 출력 영상 프레임의 해상도 정보를 포함할 수 있다. 또는, 리타겟팅 정보는, 입력 영상 프레임의 종횡비 및 출력 영상 프레임의 종횡비를 포함할 수 있다. 또는, 리타겟팅 정보는, 입력 영상 프레임의 해상도 정보 및 출력 영상 프레임의 해상도 정보에 기초하여 산출된 입력 영상 프레임의 종횡비 조정 정보를 포함할 수 있다.
일 예에 따라 프로세서(120)는 입력 영상 프레임의 종횡비에 기초하여 입력 영상 프레임을 스케일링하고, 스케일링된 영상 프레임 및 출력 영상 프레임에 대한 정보에 기초하여 픽셀 값을 패딩할 영역을 식별할 수 있다.
예를 들어, 도 3에 도시된 바와 같이 프로세서(120)는 입력 영상 프레임(310)의 해상도가 SD(720 x 480)이고, 출력 영상 프레임의 해상도가 4K UHD(3,840 x 2,160)인 경우, 가로 비율 및 세로 비율을 4.5 배(2160/480) 스케일링할 수 있다. 이 경우, 스케일링된 영상(320)의 세로 길이는 출력 영상 프레임에 맞지만, 가로 길이는 3840-3240(720*4.5)=600 만큼 부족하게 된다. 이 경우, 프로세서(120)는 스케일링된 영상 프레임의 가로 세로 각각 300 픽셀 길이 영역(331, 332)을 픽셀 값을 패딩할 영역(이하, 픽셀 패딩 영역)으로 식별할 수 있다.
프로세서(120)는 픽셀 패딩 영역이 식별되면 식별된 영역에서 대상 픽셀 영역을 기준으로 제1 픽셀 블럭을 식별할 수 있다. 여기서, 대상 픽셀 영역은 적어도 하나의 픽셀을 포함할 수 있다. 대상 픽셀 영역은 복수 개의 픽셀을 포함할 수 도 있으나, 이하에서는 설명의 편의를 위하여 대상 픽셀 영역이 하나의 픽셀을 포함하는 경우를 상정하여 설명하도록 한다.
일 실시 예에 따라, 프로세서(120)는 픽셀 값을 패딩할 대상 픽셀 영역이 식별되면, 해당 대상 픽셀 영역을 중심 픽셀로 하며 주변 픽셀을 포함하는 기설정된 크기의 제1 픽셀 블럭을 식별할 수 있다. 여기서, 기설정된 크기는 3*3, 5*5, 7*7 등 다양한 크기가 될 수 있으나, 이하에서는 설명의 편의를 위하여 5*5 픽셀 블럭을 획득하는 경우를 상정하여 설명하도록 한다. 여기서, 픽셀 블럭은 예를 들어 패치로 구현될 수 있다.
이어서, 프로세서(120)는 제1 픽셀 블럭에 포함된 픽셀 값에 기초하여 제2 픽셀 블럭(또는 제2 픽셀 영역)을 식별하고, 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 대상 픽셀 영역을 패딩할 수 있다. 여기서, 제2 픽셀 블럭은 제1 픽셀 블럭의 크기와 동일할 수 있으나, 이에 한정되는 것은 아니다.
일 실시 예에 따라 프로세서(120)는 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 제2 픽셀 블럭을 식별할 수 있다. 대부분의 영상은 프렉탈 이론의 기반이 되는 자기 유사성이라는 특징을 가지고 있다. 즉, 영상 내에 일 영역과 유사한 다른 영역이 포함되어 있다는 가정 하에, 영상 내의 다른 영역에 대하여 유사도를 측정한 후 유사도가 높은 픽셀 영역을 제2 픽셀 블럭으로 식별할 수 있다.
제2 픽셀 블럭이 식별되면, 일 실시 예에 따라 프로세서(120)는 대상 픽셀 영역에 포함된 픽셀을 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀의 픽셀 값으로 패딩할 수 있다. 예를 들어, 프로세서(120)는 5*5 형태의 제1 픽셀 블럭에서 (3, 3) 위치의 픽셀이 대상 픽셀 영역인 경우, 해당 픽셀을 5*5 형태의 제2 픽셀 블럭에서 (3, 3) 위치의 대응되는 픽셀의 픽셀 값으로 패딩할 수 있다.
제2 픽셀 블럭이 식별되면, 다른 실시 예에 따라 프로세서(120)는 제1 픽셀 블럭에 포함된 픽셀들을 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀들의 픽셀 값으로 패딩할 수 있다. 예를 들어, 프로세서(120)는 제1 픽셀 블럭에 포함된 픽셀들을 제2 픽셀 블럭의 픽셀 값으로 패딩하는 것도 가능하다. 즉, 제1 픽셀 블럭에 포함된 각 픽셀을 제2 픽셀 블럭에 포함된 대응되는 위치의 픽셀 값으로 패딩할 수 있다.
이 경우, 프로세서(120)는 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해, 해당 픽셀 값 및 제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값에 기초하여 산출된 픽셀 값으로 대체할 수 있다. 예를 들어, 프로세서(120)는 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해 해당 픽셀 값 및 제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값을 합산한 후 합산된 값을 합산 횟수로 나누어 산출된 픽셀 값으로 대체할 수 있다.
한편, 프로세서(120)는 입력 영상 프레임에서 전경 영역을 식별하고, 전경 영역 또는 인접 영역 중 적어도 하나에서 제2 픽셀 블럭이 탐색되면 재 탐색을 수행하여 새로운 제2 픽셀 블럭을 탐색할 수 있다.
또한 프로세서(120)는 입력 영상 프레임의 모션 정보를 획득하고, 모션 정보에 기초하여 픽셀 값이 패딩된 영역을 블러링 처리할 수 있다. 여기서, 모션 정보는, 화면 전체의 모션을 나타내는 글로벌 모션 정보일 수 있다. 예를 들어, 글로벌 모션 정보는, 입력 영상 프레임 전체의 픽셀 값 변화량, 입력 영상 프레임에 포함된 적어도 하나의 픽셀 블럭, 예를 들어 복수의 픽셀 블럭의 픽셀 값 변화량 등 다양한 값을 고려하여 산출될 수 있다.
일 실시 예에 따라 프로세서(120)는 식별된 전경 영역이 픽셀 값이 패딩된 영역에 포함되는 경우, 모션 정보가 임계값 이상이면 픽셀 값이 패딩된 영역을 블러링 처리하고, 모션 정보가 임계값 미만이면 픽셀 값이 패딩된 영역을 유지할 수 있다. 여기서, 전경 영역이란 경계선을 접하는 두 영역이 있는 한 장면에서 지각의 대상이 되는 부분(또는 카메라에 의해 가장 세밀하게 포착되어 보는 사람의 시선이 집중되는 영역)을 의미하며, 그 밖의 나머지 영역은 배경 영역이 될 수 있다.
다른 실시 예에 따라 프로세서(120)는 씬이 변경된 후 첫 번째 프레임에서 전경이 영상의 양쪽 끝 쪽에 존재하는 것으로 식별되면, 상술한 리타겟팅 ㅊ처철처리 대신 uniform scaling을 적용하는 fallback 기법을 이용할 수 있다. 이 경우 극심한 화질 저하는 효과적으로 방지 할 수 있게 된다.
예를 들어, 하기 표 1과 같이 케이스 별로 본 발명의 다양한 실시 예를 적용할 수 있다.
| Cases | Detection criteria | Operation | Example | |
| Foreground in padded area at the start frame | FG ratio in side area | Uniform scaling (until the next scene change) | ||
| Appearance of foreground in padded area | GM=0 | FG ratio in padded area & warping blocks | Maintaining padded area | Scrolling text, foreground moving |
| GM≠0 | Blurring on padded area | |||
| Zoom in / out | High matching cost | Blurring on padded area | ||
| Rapid camera translation (mag. GM ↑) | ||||
여기서, FG: foreground, GM: global motion, Mag.: magnitude
도 4a 내지 도 4f는 본 개시의 일 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면들이다.
본 개시의 일 실시 예에 따르면, 도 4a에 도시된 바와 같이 픽셀 패딩 영역(331)이 식별되면 도 4b에 도시된 바와 식별된 영역(331)에서 대상 픽셀 영역(411)을 기준으로 제1 픽셀 블럭(410)을 식별할 수 있다. 여기서, 대상 픽셀 영역(411)이 하나의 픽셀을 포함하는 것으로 도시하였으나, 경우에 따라 복수 개의 픽셀을 포함할 수 있음은 물론이다. 또한, 제1 픽셀 블럭(410)의 크기는 설명의 편의를 위하여 5*5인 경우로 상정하였다.
제1 픽셀 블럭(410)이 식별되면, 도 4c에 도시된 바와 같이 제1 픽셀 블럭(410)에 포함된 픽셀 값에 기초하여 제1 픽셀 블럭(410)과 유사한 픽셀 값을 가지는 픽셀 블럭을 탐색한다. 예를 들어, 유사성을 판단하는 비용 함수(cost function)를 이용하여 유사 픽셀 블럭을 탐색할 수 있다. 유사성을 판단하는 비용 함수로는 MSE(Mean Square Error), SAD(Sum of absolute difference), MAD(Median Absolute Deviation), correlation 중 적어도 하나가 이용될 수 있으나, 이에 한정되는 것은 아니다. 일 예로, MSE를 적용하는 경우, 픽셀 블럭들의 MSE를 산출하고, MSE 관점에서 유사도가 높은 패치 즉, MSE 차이가 작은 패치를 탐색하여 유사 픽셀 블럭을 식별할 수 있다. 다른 예로, 양 픽셀 블럭에 포함된 픽셀 값 차이의 합에 기초하여 유사 픽셀 블럭을 식별할 수 있다. 이 경우, 양 픽셀 블럭에서 픽셀 값이 존재하는 위치에 대해서는 픽셀 값 차이를 산출할 수 있다. 또 다른 예로, 인접 픽셀 블럭 내 전경 픽셀의 전체 수에 기초하여 유사 픽셀 블럭을 식별할 수 있다. 또 다른 예로, 이전 프레임에서 계산된 픽셀 값과의 차이를 이용하여 유사 픽셀 블럭을 식별할 수 있다.
도 4d에 도시된 바와 같이 제1 픽셀 블럭(410)과 유사한 픽셀 값을 가지는 제2 픽셀 블럭(420)이 식별되면, 도 4e에 도시된 바와 같이 제2 픽셀 블럭(420)에 포함된 픽셀 값에서 대상 픽셀 영역(411)에 대응되는 픽셀 값을 식별할 수 있다. 이어서, 도 4f에 도시된 바와 같이 식별된 픽셀 값에 기초하여 대상 픽셀 영역(411)을 패딩할 수 있다.
일 실시 예에 따르면, 도 4f에 도시된 바와 같이 대상 픽셀 영역(411) 만을 패딩할 수도 있으나, 다른 실시 예에 따르면, 도 5a에 도시된 바와 같이 제1 픽셀 블럭(410)을 제2 픽셀 블럭(420)의 픽셀 값으로 패딩하는 것도 가능하다. 즉, 제1 픽셀 블럭(410)에 포함된 각 픽셀을 제2 픽셀 블럭(420)에 포함된 대응되는 위치의 픽셀 값으로 패딩할 수 있다. 이 경우, 도 5b에 도시된 바와 같이 제1 픽셀 블럭(410)에서 기존 픽셀 값들과 겹치는 픽셀들(430)의 경우, 기존 픽셀 값들 및 새로 패딩되는 픽셀 값들이 축적한 후 축적된 픽셀 값을 축적된 횟수로 나눈 픽셀 값으로 채워질 수 있다. 다만, 이에 한정되는 것은 아니며, 양자 중 최대 또는 최소 값, 제1 가중치가 적용된 기존 픽셀 값 및 제2 가중치가 적용된 새로 패딩되는 픽셀 값의 평균 값, 양자 중 최대 또는 최소 값에 제3 가중치를 적용한 값 등과 같이 다양한 방식으로 패딩될 픽셀 값이 산출될 수 있다.
한편, 상술한 다양한 실시 예들은, 기설정된 프레임 구간 단위(예를 들어, 씬 단위)로 수행될 수 있다. 일 실시 예에 따라, 프로세서(120)는 동일한 씬 구간에 포함된 복수의 프레임 각각의 대상 픽셀 영역을 제2 픽셀 블럭에 포함된 픽셀 값으로 패딩할 수 있다. 예를 들어, 동일한 씬 구간에 포함된 복수의 프레임 중 첫 번째 프레임에서 결정된 제2 픽셀 블럭에서 제 1 픽셀 기준 상대적 위치의 픽셀 값으로, 나머지 프레임의 대상 픽셀 영역을 탐색하여 패딩할 수 있다. 이에 따라 동일한 씬 구간에 포함된 복수의 프레임에서 픽셀 패딩 영역(331)에 사용될 픽셀 값의 상대적 위치는 동일할 수 있다. 즉, 동일한 씬 구간에는 동일한 상대적 위치의 픽셀 값이 디스플레이될 수 있다. 다른 실시 예에 따르면, 동일한 씬 구간에서 첫 번째 프레임에 포함된 픽셀 패딩 영역(331)의 픽셀 값이 결정되면, 이후 프레임에 적절한 가중치를 적용하여 픽셀 패딩 영역(331)의 픽셀 값을 결정하는 것도 가능하다.
한편, 프로세서(120)는 씬이 변경되면, 상술한 동작을 통해 새로운 유사 픽셀 블럭을 탐색하여 대상 픽셀 영역을 패딩할 수 있다. 다만, temporal coherency(시간적 일관성)을 유지하기 위하여, 이전 씬에서 패딩을 위해 사용되는 픽셀의 상대적 위치를 동일하게 이용하여 현재 씬에서 픽셀 패딩을 수행할 수도 있다. 또는, 각 씬의 영상 특성에 따라 복수의 이전 씬에서 패딩에 이동된 픽셀 위치 값을 동일하게 현재 씬에서 이용하여 픽셀 패딩을 수행할 수도 있다.
도 6은 본 발명의 또 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면이다.
도 6에 도시된 바에 따르면, 도 4f(또는 도 5a)와 같은 픽셀 값 패딩 후, 픽셀 값이 패딩된 픽셀 블럭(410)에 포함된 각 픽셀 블럭에 기설정된 가중치를 곱하여 출력 영상을 획득할 수 있다.
도 7a 및 도 7b는 본 발명의 다른 실시 예에 따른 픽셀 패딩 방법을 설명하기 위한 도면이다.
본 개시의 다른 실시 예에 따르면, 입력 영상 프레임의 모션 정보에 기초하여 픽셀 값이 패딩된 픽셀 패딩 영역을 블러링 처리할 수 있다. 구체적으로, 프로세서(120)는 입력 영상 프레임에서 식별된 전경 영역의 위치 및 입력 영상 프레임의 모션 정보에 기초하여 픽셀 패딩 영역을 블러링 처리할 수 있다.
일 예로, 도 8a에 도시된 바와 같이 프로세서(120)는 전경 영역(810)이 픽셀 값이 픽셀 패딩 영역(331)에 포함되는 경우, 해당 프레임의 모션 정보가 임계값 미만이면 픽셀 값이 패딩된 영역(331)을 유지할 수 있다.
다른 예로, 도 8b에 도시된 바와 같이 프로세서(120)는 전경 영역(820)이 픽셀 값이 픽셀 패딩 영역(331)에 포함되는 경우, 해당 프레임의 모션 정보가 임계값 이상이면 픽셀 값이 패딩된 영역(331)을 블러링 처리할 수 있다.
도 8a 내지 도 8c는 본 개시의 다른 실시 예에 따른 블러링 처리 방법을 설명하기 위한 도면들이다.
본 개시의 다른 실시 예에 따라 픽셀 패딩 영역(331)을 블러링 처리하기 위해, 프로세서(120)는 고주파 성분을 필터링하는 저주파 통과 필터를 적용할 수 있다. 예를 들어, 프로세서(120)는 가우시안 블러링(또는 가우시안 필터링) 처리를 할 수 있다. 가우시안 블러링은 가우시안 확률 분포에 기초한 가우시안 필터를 이용하여 블러 처리하는 방법으로, 가우시안 필터를 픽셀 패딩 영역(331)에 적용하게 되면 고주파 성분은 차단되어 블러 처리가 된다.
예를 들어, 가우시안 필터는 도 8a에 도시된 바와 같이 x축의 0은 가중치가 크고, +/- 부분로 갈수록 가중치가 적어지는 형태가 될 수 있고, 이러한 가우시안 필터를 5*6 형태의 마스크(80)에 적용하면 마스크(80) 중심은 가중치가 크고, 마스크(80)의 가장자리로 갈수록 가중치가 적어지는 형태가 될 수 있다. 다만 도 6a에 도시된 수치는 예로 든 것이며, 필터링 수치는 가우시안 함수의 시그마 값에 따라 달라짐은 물론이다.
프로세서(120)는 도 8b에 도시된 바와 같이 가우시안 마스크(80)를 픽셀 패딩 영역(331)에 포함된 각 픽셀 값에 적용하여 픽셀 패딩 영역(331)를 가우시안 블러링 처리할 수 있다. 구체적으로, 프로세서(120)는 픽셀 패딩 영역(331)에 포함된 각 픽셀 값이 가우시안 마스크(80)의 중심에 위치하도록 가우시안 마스크(80)를 이동시켜 가며 각 픽셀 값에 대해 필터링을 수행할 수 있다.
이 경우, 프로세서(120)는 픽셀 패딩 영역(331)의 경계에 위치한 픽셀 값에 대해서는 미러링한 픽셀 값에 기초하여 필터링을 수행할 수 있다. 예를 들어, 픽셀 패딩 영역(331)의 (1,1) 위치의 픽셀 값 즉 P1을 가우시안 마스크(80)의 중심에 위치시켜 필터링을 수행하는 경우에는 도 8c에 도시된 바와 같이 경계 위치의 픽셀 값들을 미러링하여 P1 값을 중심으로 하는 가상의 패치(90)를 생성한 후 P1 값을 가우시안 마스크(80)의 중심에 위치시켜 필터링을 수행할 수 있다. 다만, 도 6c에서는 설명의 편의를 위하여 3*3 픽셀 블럭을 기반으로 3*3 가우시안 마스크(80) 및 3*3 의 형태로 패치(90)를 이용하는 경우로 설명하였으나 6a 및 6b와 같이 5*5 가우시안 마스크 및 패치가 이용될 수 있음은 물론이다.
이와 같이 프로세서(120)는 픽셀 패딩 영역(331)에 포함된 모든 픽셀 값들에 대한 가우시안 필터링을 수행하여, 블러링된 픽셀 패딩 영역(331)을 획득할 수 있다.
도 9는 본 개시의 일 실시 예에 따른 영상 처리 방법을 설명하기 위한 블럭도이다.
도 9에 도시된 바에 따르면, n 번째 프레임이 입력되면, 전경 영역을 검출하고, n-1 번째 프레임 및 n 번째 프레임에 기초하여 모션 정보(예를 들어, 글로벌 모션 정보)를 획득할 수 있다(S910).
이어서, 검출된 전경 영역의 위치를 고려하여 대상 픽셀 블럭을 패딩하기 위한 패딩 블럭을 탐색할 수 있다(S920). 이 후, 탐색된 유사 픽셀 블럭의 픽셀 값을 이용하여 픽셀 패딩 블럭(331)의 영상을 채워나간다(in-painting)(S930).
한편, 글로벌 모션 정보 및 전경 영역의 위치에 따라 픽셀 패딩 블럭(331)을 유지하거나 블러링 처리할 수도 있다(S940).
도 10은 본 개시의 다른 실시 예에 따른 영상 처리 장치의 일 구현 예를 나타내는 도면이다.
도 10에 따르면, 영상 처리 장치(100')는 통신부(110), 프로세서(120), 디스플레이(130), 메모리(140) 및 사용자 인터페이스(150)를 포함한다.
디스플레이(130)는 LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 디스플레이, LED(Light Emitting Diodes), PDP(Plasma Display Panel) 등과 같은 다양한 형태의 디스플레이로 구현될 수 있다. 디스플레이(160) 내에는 a-si TFT, LTPS(low temperature poly silicon) TFT, OTFT(organic TFT) 등과 같은 형태로 구현될 수 있는 구동 회로, 백라이트 유닛 등도 함께 포함될 수 있다. 한편, 디스플레이(130)는 터치 센서와 결합된 터치 스크린, 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등으로 구현될 수 있다.
또한, 본 개시의 일 실시 예에 따른, 디스플레이(130)는 영상을 출력하는 디스플레이 패널뿐만 아니라, 디스플레이 패널을 하우징하는 베젤을 포함할 수 있다. 특히, 본 개시의 일 실시예에 따른, 베젤은 사용자 인터렉션을 감지하기 위한 터치 센서(미도시)를 포함할 수 있다.
프로세서(120)는 본 개시의 다양한 실시 예에 따라 처리된 영상을 디스플레이하도록 디스플레이(130)를 제어할 수 있다.
일 예에 따라 프로세서(120)는 그래픽 처리 기능(비디오 처리 기능)을 수행할 수 있다. 예를 들어, 프로세서(120)는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성할 수 있다. 여기서, 연산부(미도시)는 수신된 제어 명령에 기초하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산할 수 있다. 그리고, 렌더링부(미도시)는 연산부(미도시)에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성할 수 있다. 또한, 프로세서(120)는 비디오 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
다른 예에 따라, 프로세서(120)는 오디오 데이터에 대한 처리를 수행할 수 있다. 구체적으로, 프로세서(120)는 오디오 데이터에 대한 디코딩이나 증폭, 노이즈 필터링 등과 같은 다양한 처리가 수행될 수 있다.
메모리(140)는 본 개시의 다양한 실시 예를 위해 필요한 데이터를 저장할 수 있다. 예를 들어, 메모리(140)는 프로세서(120)에 포함된 롬(ROM)(예를 들어, EEPROM(electrically erasable programmable read-only memory)), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(120)와 별도의 메모리로 구현될 수도 있다. 이 경우, 메모리(140)는 데이터 저장 용도에 따라 영상 처리 장치(100)에 임베디드된 메모리 형태로 구현되거나, 영상 처리 장치(100)에 탈부착이 가능한 메모리 형태로 구현될 수도 있다. 예를 들어, 영상 처리 장치(100)의 구동을 위한 데이터의 경우 영상 처리 장치(100)에 임베디드된 메모리에 저장되고, 영상 처리 장치(100)의 확장 기능을 위한 데이터의 경우 영상 처리 장치(100)에 탈부착이 가능한 메모리에 저장될 수 있다. 한편, 영상 처리 장치(100)에 임베디드된 메모리의 경우 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나로 구현되고, 영상 처리 장치(100)에 탈부착이 가능한 메모리의 경우 메모리 카드(예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 등), USB 포트에 연결가능한 외부 메모리(예를 들어, USB 메모리) 등과 같은 형태로 구현될 수 있다.
사용자 인터페이스(150)는 버튼, 터치 패드, 마우스 및 키보드와 같은 장치로 구현되거나, 상술한 디스플레이 기능 및 조작 입력 기능도 함께 수행 가능한 터치 스크린으로도 구현될 수 있다. 여기서, 버튼은 영상 처리 장치(100)의 본체 외관의 전면부나 측면부, 배면부 등의 임의의 영역에 형성된 기계적 버튼, 터치 패드, 휠 등과 같은 다양한 유형의 버튼이 될 수 있다.
한편, 영상 처리 장치(100)는 구현 예에 따라 튜너 및 복조부를 추가적으로 포함할 수 있다.
튜너(미도시)는 안테나를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기 저장된 모든 채널을 튜닝하여 RF 방송 신호를 수신할 수 있다.
복조부(미도시)는 튜너에서 변환된 디지털 IF 신호(DIF)를 수신하여 복조하고, 채널 복호화 등을 수행할 수도 있다.
도 11은 본 발명의 일 실시 예에 따른 영상 처리 방법을 설명하기 위한 흐름도이다.
도 11에 도시된 영상 처리 방법에 따르면, 우선 출력 영상 프레임에 대한 정보 및 입력 영상 프레임에 기초하여 픽셀 값을 패딩할 영역을 식별한다(S1110).
이어서, 식별된 영역에 포함된 대상 픽셀 영역을 기준으로 제1 픽셀 블럭을 식별한다(S1120).
이어서, 제1 픽셀 블럭에 포함된 픽셀 값에 기초하여 제2 픽셀 블럭을 식별하고(S1130), 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 대상 픽셀 영역을 패딩하여 출력 영상 프레임을 획득한다(S1140).
이 경우, 제2 픽셀 블럭을 식별하는 S1130 단계에서는, 입력 영상 프레임의 종횡비에 기초하여 입력 영상 프레임을 스케일링하고, 스케일링된 영상 프레임 및 출력 영상 프레임에 대한 정보에 기초하여 패딩할 영역을 식별하고, 스케일링된 영상 프레임에서 제2 픽셀 블럭을 식별할 수 있다.
또한, 제2 픽셀 블럭을 식별하는 S1130 단계에서는, 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 제2 픽셀 블럭을 식별할 수 있다.
또한, 제2 픽셀 블럭을 식별하는 S1130 단계에서는, 입력 영상 프레임에서 전경 영역을 식별하고, 전경 영역 또는 인접 영역 중 적어도 하나에서 제2 픽셀 블럭이 탐색되면 재 탐색을 수행할 수 있다.
또한, 출력 영상 프레임을 획득하는 S1140 단계에서는, 제1 픽셀 블럭에 포함된 픽셀들을 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀들의 픽셀 값으로 패딩할 수 있다.
또한, 출력 영상 프레임을 획득하는 S1140 단계에서는, 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해, 해당 픽셀 값 및제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값에 기초하여 산출된 픽셀 값으로 대체할 수 있다.
또한, 출력 영상 프레임을 획득하는 S1140 단계에서는, 대상 픽셀 영역에 포함된 픽셀을 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀의 픽셀 값으로 패딩할 수 있다.
또한 입력 영상 프레임의 모션 정보를 획득하고, 모션 정보에 기초하여 픽셀 값이 패딩된 영역을 블러링 처리하는 단계를 더 포함할 수 있다.
이 경우, 입력 영상 프레임에서 전경 영역이 픽셀 값이 패딩된 영역에 포함되는 경우, 모션 정보가 임계값 이상이면 상기 픽셀 값이 패딩된 영역을 블러링 처리하고, 모션 정보가 임계값 미만이면 픽셀 값이 패딩된 영역을 유지할 수 있다.
또한, 출력 영상 프레임을 획득하는 S1140 단계에서는, 기설정된 프레임 구간 내에 포함된 복수의 프레임 각각의 대상 픽셀 영역을 제2 픽셀 블럭에 포함된 픽셀 값으로 패딩할 수 있다.
또한, 디스플레이의 출력 정보에 기초하여 입력 영상의 종횡비를 조정하고, 종횡비가 조정된 영상에 기초하여 픽셀 값을 패딩할 영역을 식별하며, 획득된 출력 영상 프레임을 디스플레이를 통해 디스플레이할 수 있다.
상술한 다양한 실시 예들에 따르면, 기존 cropping 기반 방법(영상 특성에 관계 없이 영상의 가로 혹은 세로 축을 기준으로 일부 영역만 잘라내는 기법), seam carving 기반 방법(영상 내에 중요하지 않은 연결된 선 (seam) 들을 찾아 찾아진 선이 있는 영역을 늘리거나 줄여 종횡비를 조정하는 기법) 혹은 warping 기반 방법(영상 내 픽셀별로 중요도를 판단하여 중요도에 따라서 부분적으로 영상을 늘리거나 줄여 원하는 종횡비를 조정하는 기법)에서도 달성할 수 없었던 시간적 일관성(temporal coherency)을 유지하면서 영상 컨텐츠의 왜곡을 최소화할 수 있게 된다.
다만, 본 개시의 다양한 실시 예들은 영상 처리 장치 뿐 아니라, 셋탑 박스와 같은 영상 수신 장치, TV와 같은 디스플레이 장치 등 영상 처리가 가능한 모든 영상 처리 장치에 적용될 수 있음은 물론이다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 방법들은, 기존 영상 처리 장치에 설치 가능한 어플리케이션 형태로 구현될 수 있다.
또한, 상술한 본 개시의 다양한 실시 예들에 따른 방법들은, 기존 영상 처리 장치에 대한 소프트웨어 업그레이드, 또는 하드웨어 업그레이드 만으로도 구현될 수 있다.
또한, 상술한 본 개시의 다양한 실시 예들은 영상 처리 장치에 구비된 임베디드 서버, 또는 영상 처리 장치 및 디스플레이 장치 중 적어도 하나의 외부 서버를 통해 수행되는 것도 가능하다.
한편, 본 개시의 일시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 영상 처리 장치(예: 영상 처리 장치(A))를 포함할 수 있다. 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접, 또는 프로세서의 제어 하에 다른 구성요소들을 이용하여 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
또한, 본 개시의 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
또한, 상술한 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.
100: 영상 처리 장치 110: 입력부
120: 프로세서
120: 프로세서
Claims (20)
- 입력부; 및
상기 입력부를 통해 입력된 입력 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 프로세서;를 포함하며,
상기 프로세서는,
상기 입력 영상 프레임의 종횡비에 기초하여 상기 입력 영상 프레임을 스케일링하고,
상기 스케일링된 영상 프레임의 해상도 및 상기 출력 영상 프레임의 해상도 차이에 기초하여 픽셀 값을 패딩할 패딩 영역을 식별하고,
상기 식별된 패딩 영역에 포함된 대상 픽셀 영역을 중심으로 주변 픽셀을 포함하는 기 설정된 크기의 제1 픽셀 블럭을 식별하고,
상기 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 제2 픽셀 블럭을 식별하고,
상기 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 상기 대상 픽셀 영역을 패딩하여 상기 출력 영상 프레임을 획득하고,
상기 프로세서는,
상기 입력 영상 프레임의 모션 정보를 획득하고, 상기 모션 정보에 기초하여 상기 픽셀 값이 패딩된 영역을 블러링 처리하는, 영상 처리 장치. - 삭제
- 삭제
- 제1항에 있어서,
상기 프로세서는,
상기 입력 영상 프레임에서 전경 영역을 식별하고, 상기 전경 영역 또는 인접 영역 중 적어도 하나에서 상기 제2 픽셀 블럭이 탐색되면 재 탐색을 수행하는, 영상 처리 장치. - 제1항에 있어서,
상기 프로세서는,
상기 제1 픽셀 블럭에 포함된 픽셀들을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀들의 픽셀 값으로 패딩하는, 영상 처리 장치. - 제5항에 있어서,
상기 프로세서는,
상기 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해, 해당 픽셀 값 및 상기 제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값에 기초하여 산출된 픽셀 값으로 대체하는, 영상 처리 장치. - 제1항에 있어서,
상기 프로세서는,
상기 대상 픽셀 영역에 포함된 픽셀을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀의 픽셀 값으로 패딩하는, 영상 처리 장치. - 삭제
- 제1항에 있어서,
상기 프로세서는,
상기 입력 영상 프레임에서 전경 영역이 상기 픽셀 값이 패딩된 영역에 포함되는 경우, 상기 모션 정보가 임계값 이상이면 상기 픽셀 값이 패딩된 영역을 블러링 처리하고, 상기 모션 정보가 상기 임계값 미만이면 상기 픽셀 값이 패딩된 영역을 유지하는, 영상 처리 장치. - 제1항에 있어서,
상기 프로세서는,
기설정된 프레임 구간 내에 포함된 복수의 프레임 각각의 상기 대상 픽셀 영역을 상기 제2 픽셀 블럭에 포함된 픽셀 값으로 패딩하는, 영상 처리 장치. - 제1항에 있어서,
디스플레이;를 더 포함하며,
상기 프로세서는,
상기 획득된 출력 영상 프레임을 디스플레이하도록 상기 디스플레이를 제어하는, 영상 처리 장치. - 입력 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 영상 처리 장치의 영상 처리 방법에 있어서,
상기 입력 영상 프레임의 종횡비에 기초하여 상기 입력 영상 프레임을 스케일링하는 단계;
상기 스케일링된 영상 프레임의 해상도 및 상기 출력 영상 프레임의 해상도 차이에 기초하여 픽셀 값을 패딩할 패딩 영역을 식별하고, 상기 식별된 영역에 포함된 대상 픽셀 영역을 중심으로 주변 픽셀을 포함하는 기 설정된 크기의 제1 픽셀 블럭을 식별하는 단계;
상기 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 제2 픽셀 블럭을 식별하는 단계;
상기 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 상기 대상 픽셀 영역을 패딩하는 단계; 및
상기 입력 영상 프레임의 모션 정보를 획득하고, 상기 모션 정보에 기초하여 상기 픽셀 값이 패딩된 영역을 블러링 처리하여 상기 출력 영상 프레임을 획득하는 단계;를 포함하는 영상 처리 방법. - 삭제
- 삭제
- ◈청구항 15은(는) 설정등록료 납부시 포기되었습니다.◈제12항에 있어서,
상기 제2 픽셀 블럭을 식별하는 단계는,
상기 입력 영상 프레임에서 전경 영역을 식별하고, 상기 전경 영역 또는 인접 영역 중 적어도 하나에서 상기 제2 픽셀 블럭이 탐색되면 재 탐색을 수행하는, 영상 처리 방법. - ◈청구항 16은(는) 설정등록료 납부시 포기되었습니다.◈제12항에 있어서,
상기 출력 영상 프레임을 획득하는 단계는,
상기 제1 픽셀 블럭에 포함된 픽셀들을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀들의 픽셀 값으로 패딩하는, 영상 처리 방법. - ◈청구항 17은(는) 설정등록료 납부시 포기되었습니다.◈제16항에 있어서,
상기 출력 영상 프레임을 획득하는 단계는,
상기 제1 픽셀 블럭에 포함된 픽셀들 중 픽셀 값을 가지는 일부 픽셀에 대해, 해당 픽셀 값 및 상기 제2 픽셀 블럭 중 대응되는 픽셀의 픽셀 값에 기초하여 산출된 픽셀 값으로 대체하는, 영상 처리 방법. - ◈청구항 18은(는) 설정등록료 납부시 포기되었습니다.◈제12항에 있어서,
상기 출력 영상 프레임을 획득하는 단계는,
상기 대상 픽셀 영역에 포함된 픽셀을 상기 제2 픽셀 블럭에 포함된 픽셀들 중 대응되는 픽셀의 픽셀 값으로 패딩하는, 영상 처리 방법. - 삭제
- 입력 영상 프레임을 리타겟팅하여 출력 영상 프레임을 획득하는 영상 처리 장치의 프로세서에 의해 실행되는 경우 상기 영상 처리 장치가 동작을 수행하도록 하는 컴퓨터 명령을 저장하는 비일시적 컴퓨터 판독 가능 매체에 있어서,
상기 동작은,
상기 입력 영상 프레임의 종횡비에 기초하여 상기 입력 영상 프레임을 스케일링하는 단계;
상기 스케일링된 영상 프레임의 해상도 및 상기 출력 영상 프레임의 해상도 차이에 기초하여 픽셀 값을 패딩할 패딩 영역을 식별하고, 상기 식별된 영역에 포함된 대상 픽셀 영역을 중심으로 주변 픽셀을 포함하는 기 설정된 크기의 제1 픽셀 블럭을 식별하는 단계;
상기 제1 픽셀 블럭에 포함된 픽셀 값과 유사도가 임계 값 이상인 픽셀 값을 가지는 픽셀 블럭을 탐색하여 제2 픽셀 블럭을 식별하는 단계;
상기 제2 픽셀 블럭에 포함된 픽셀 값에 기초하여 상기 대상 픽셀 영역을 패딩하는 단계; 및
상기 입력 영상 프레임의 모션 정보를 획득하고, 상기 모션 정보에 기초하여 상기 픽셀 값이 패딩된 영역을 블러링 처리하여 상기 출력 영상 프레임을 획득하는 단계;를 포함하는 비일시적 컴퓨터 판독 가능 매체.
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180151429A KR102641163B1 (ko) | 2018-11-29 | 2018-11-29 | 영상 처리 장치 및 그 영상 처리 방법 |
| PCT/KR2019/001798 WO2020111387A1 (ko) | 2018-11-29 | 2019-02-14 | 영상 처리 장치 및 그 영상 처리 방법 |
| US17/279,182 US11741570B2 (en) | 2018-11-29 | 2019-02-14 | Image processing device and image processing method of same |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180151429A KR102641163B1 (ko) | 2018-11-29 | 2018-11-29 | 영상 처리 장치 및 그 영상 처리 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200064833A KR20200064833A (ko) | 2020-06-08 |
| KR102641163B1 true KR102641163B1 (ko) | 2024-02-28 |
Family
ID=70852147
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180151429A KR102641163B1 (ko) | 2018-11-29 | 2018-11-29 | 영상 처리 장치 및 그 영상 처리 방법 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11741570B2 (ko) |
| KR (1) | KR102641163B1 (ko) |
| WO (1) | WO2020111387A1 (ko) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102611017B1 (ko) * | 2021-09-23 | 2023-12-07 | 주식회사 토비스 | 진동 보정 기능을 제공하는 디스플레이 장치 및 그의 제어 방법 |
Family Cites Families (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4103073B2 (ja) | 2001-01-09 | 2008-06-18 | ミクロナス ミュニッヒ ゲーエムベーハー | ビデオ信号を変換する方法および装置 |
| US6987882B2 (en) | 2002-07-01 | 2006-01-17 | Xerox Corporation | Separation system for Multiple Raster Content (MRC) representation of documents |
| KR20050061556A (ko) | 2002-10-22 | 2005-06-22 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 고장시 조치를 갖는 이미지 처리 유닛 |
| US20080150709A1 (en) * | 2004-02-20 | 2008-06-26 | Sharp Kabushiki Kaisha | Onboard Display Device, Onboard Display System and Vehicle |
| KR20070119018A (ko) | 2005-02-23 | 2007-12-18 | 크레이그 써머스 | 3ｄ 카메라 및 3ｄ비디오를 위한 자동 씬 모델링 |
| KR101090067B1 (ko) * | 2007-11-14 | 2011-12-07 | 삼성전자주식회사 | 영상처리장치 및 그 제어방법 |
| US9245043B2 (en) * | 2009-12-23 | 2016-01-26 | Fuji Xerox Co., Ltd. | Embedded media markers and systems and methods for generating and using them |
| KR101960852B1 (ko) * | 2011-01-13 | 2019-03-22 | 삼성전자주식회사 | 배경 픽셀 확장 및 배경 우선 패치 매칭을 사용하는 멀티 뷰 렌더링 장치 및 방법 |
| US9582928B2 (en) | 2011-01-13 | 2017-02-28 | Samsung Electronics Co., Ltd. | Multi-view rendering apparatus and method using background pixel expansion and background-first patch matching |
| US8789095B2 (en) * | 2012-05-15 | 2014-07-22 | At&T Intellectual Property I, Lp | Apparatus and method for providing media content |
| US10284842B2 (en) | 2013-03-05 | 2019-05-07 | Qualcomm Incorporated | Inter-layer reference picture construction for spatial scalability with different aspect ratios |
| US8917329B1 (en) * | 2013-08-22 | 2014-12-23 | Gopro, Inc. | Conversion between aspect ratios in camera |
| KR102189647B1 (ko) | 2014-09-02 | 2020-12-11 | 삼성전자주식회사 | 디스플레이 장치, 시스템 및 그 제어 방법 |
| JP2018506106A (ja) | 2014-12-22 | 2018-03-01 | トムソン ライセンシングＴｈｏｍｓｏｎ Ｌｉｃｅｎｓｉｎｇ | 再帰的階層処理を使用して外挿画像を生成するための装置および方法 |
| US10841491B2 (en) | 2016-03-16 | 2020-11-17 | Analog Devices, Inc. | Reducing power consumption for time-of-flight depth imaging |
| KR102498598B1 (ko) | 2016-10-18 | 2023-02-14 | 삼성전자주식회사 | 영상 처리 장치 및 그 영상 처리 방법 |
| WO2018093372A1 (en) * | 2016-11-17 | 2018-05-24 | Google Llc | Media rendering with orientation metadata |
| KR20180080120A (ko) | 2017-01-02 | 2018-07-11 | 주식회사 케이티 | 비디오 신호 처리 방법 및 장치 |
-
2018
- 2018-11-29 KR KR1020180151429A patent/KR102641163B1/ko active IP Right Grant
-
2019
- 2019-02-14 WO PCT/KR2019/001798 patent/WO2020111387A1/ko active Application Filing
- 2019-02-14 US US17/279,182 patent/US11741570B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| US20220005153A1 (en) | 2022-01-06 |
| US11741570B2 (en) | 2023-08-29 |
| WO2020111387A1 (ko) | 2020-06-04 |
| KR20200064833A (ko) | 2020-06-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11003951B2 (en) | Image processing apparatus and image processing method thereof | |
| US8866871B2 (en) | Image processing method and image processing device | |
| US9652829B2 (en) | Video super-resolution by fast video segmentation for boundary accuracy control | |
| US9661298B2 (en) | Depth image enhancement for hardware generated depth images | |
| CN110569013B (zh) | 基于展示屏幕的图像展示方法以及装置 | |
| CN112399120B (zh) | 电子装置及其控制方法 | |
| CN109690612B (zh) | 图像处理装置和记录介质 | |
| US11062430B2 (en) | Display apparatus and image processing method thereof | |
| EP3719741B1 (en) | Image processing apparatus and image processing method thereof | |
| JP2012513719A (ja) | 画像スケーリング曲線の生成 | |
| CN111741274A (zh) | 一种支持画面局部放大和漫游的超高清视频监看方法 | |
| KR102641163B1 (ko) | 영상 처리 장치 및 그 영상 처리 방법 | |
| US20220148235A1 (en) | Display apparatus and image processing method thereof for applying random patches to pixel block | |
| US10091455B2 (en) | Apparatus and method for frame rate conversion | |
| KR20240034010A (ko) | 전자 장치 및 그 영상 처리 방법 | |
| US10075697B2 (en) | Display apparatus and image processing method | |
| CN116347156A (zh) | 视频处理方法、装置、电子设备、存储介质 | |
| CN105791941A (zh) | 超高清osd菜单的显示方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right |