KR20190049197A - 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 - Google Patents
고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 Download PDFInfo
- Publication number
- KR20190049197A KR20190049197A KR1020170144785A KR20170144785A KR20190049197A KR 20190049197 A KR20190049197 A KR 20190049197A KR 1020170144785 A KR1020170144785 A KR 1020170144785A KR 20170144785 A KR20170144785 A KR 20170144785A KR 20190049197 A KR20190049197 A KR 20190049197A
- Authority
- KR
- South Korea
- Prior art keywords
- pixels
- image
- region
- pixel value
- empty space
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 6
- 239000002131 composite material Substances 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 5
- 230000015572 biosynthetic process Effects 0.000 abstract description 3
- 238000001228 spectrum Methods 0.000 abstract description 3
- 238000003786 synthesis reaction Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0102—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving the resampling of the incoming video signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/403—Edge-driven scaling; Edge-based scaling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Color Image Communication Systems (AREA)
Abstract
고해상도 영상을 이용한 업샘플링 및 RGB 합성 방법, 및 이를 수행하는 장치가 개시된다. 일 실시예에 따른 영상 생성 방법은 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 획득하는 단계와, 상기 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하는 단계와, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 단계를 포함한다.
Description
아래 실시예들은 멀티(또는 하이) 스펙트럼 영상 생성기, 스캐너, 또는 위성 영상으로부터 생성된 다중 채널 영상들에 대해서 향상된 RGB 합성 및 효율적인 업샘플링 방법에 관한 것이다.
위성 시스템의 발달로, 현대인들은 언제 어디서든 인터넷 또는 방송을 통해서 위성 영상을 접할 수 있게 되었다.
특히, 기상위성 영상은 센서의 발달로 인해, 고해상도의 기상 영상을 생성하고 서비스한다. 기상 영상은 일기 예측을 위해 전문 지식인 또는 비 전문 지식인에게 중요한 정보로 활용되고 있다.
기상 영상 중에 Red, Green, Blue 채널 영상 데이터는 중요한 가시 영상으로 활용되며, 특히 RGB 합성 영상을 생성하기 위해 활용된다.
전통적으로 RGB 합성 시, 서로 다른 해상도를 가질 경우, 에러를 최소화하기 위해 가장 작은 영상의 해상도로 Down Sampling하여 RGB 합성 영상을 생성한다.
실시예들은 서로 다른 해상도를 갖는 다중 스펙트럼 영상들에 대해서 효율적인 업샘플링 기술과 RGB 합성 영상 생성 기술을 제공할 수 있다.
실시예들은 고해상 영상을 최대한 활용하여 주변 채널의 저해상도 영상을 고해상도로 업생플링하는 기술을 제공할 수 있다.
일 실시예에 따른 영상 생성 방법은 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 획득하는 단계와, 상기 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하는 단계와, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 단계를 포함한다.
상기 획득하는 단계는 상기 가시 채널 영상들을 양자화하는 단계를 포함할 수 있다.
상기 업샘플링하는 단계는 상기 나머지 영상을 확장하여 확장 어레이를 생성하는 단계와, 상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 단계를 포함할 수 있다.
상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함할 수 있다.
상기 보간하는 단계는 상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산하는 단계를 포함할 수 있다.
상기 계산하는 단계는 상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하는 단계와, 상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하는 단계와, 상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산하는 단계를 포함할 수 있다.
상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함할 수 있다.
상기 빈 공간 영역에 인접한 화소들의 화소 값은 상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고, 상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고, 상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값일 수 있다.
일 실시예에 따른 영상 생성 장치는 멀티 스펙트럼 영상들을 수신하는 수신부와, 상기 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하고, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 컨트롤러를 포함한다.
상기 컨트롤러는 상기 가시 채널 영상들을 양자화하는 양자화기를 포함할 수 있다.
상기 컨트롤러는 상기 나머지 영상을 확장하여 확장 어레이를 생성하고, 상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 업샘플링기를 더 포함할 수 있다.
상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함할 수 있다.
상기 업샘플링기는 상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산할 수 있다.
상기 업샘플링기는 상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하고, 상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하고, 상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산할 수 있다.
상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함할 수 있다.
상기 빈 공간 영역에 인접한 화소들의 화소 값은 상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고, 상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고, 상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값일 수 있다.
도 1은 일 실시예에 따른 영상 생성 장치의 개략적인 블록도이다.
도 2는 일 실시예에 따른 고해상도 업샘플링 및 RGB 합성 영상 생성 방법을 설명하기 위한 개념도이다.
도 3은 도 1에 도시된 컨트롤러의 개략적인 블록도를 나타낸다.
도 4는 도 3에 도시된 업샘플링기의 업샘플링 동작을 설명하기 위한 일 예이다.
도 5는 일 실시예에 따른 RGB 합성 영상을 생성하는 방법의 플로우 차트의 일 예이다.
도 2는 일 실시예에 따른 고해상도 업샘플링 및 RGB 합성 영상 생성 방법을 설명하기 위한 개념도이다.
도 3은 도 1에 도시된 컨트롤러의 개략적인 블록도를 나타낸다.
도 4는 도 3에 도시된 업샘플링기의 업샘플링 동작을 설명하기 위한 일 예이다.
도 5는 일 실시예에 따른 RGB 합성 영상을 생성하는 방법의 플로우 차트의 일 예이다.
본 명세서에서 개시되어 있는 본 발명의 개념에 따른 실시예들에 대해서 특정한 구조적 또는 기능적 설명들은 단지 본 발명의 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 본 발명의 개념에 따른 실시예들은 당ㅇ한 형태로 실시될 수 있으며 본 명세서에서 설명된 실시예들에 한정되지 않는다.
본 발명의 개념에 따른 실시예들은 다양한 변경들을 가할 수 있고 여러 가지 형태들을 가질 수 있으므로 실시예들을 도면에 예시하고 본 명세서에 상세하게 설명하고자 한다. 그러나, 이는 본 발명의 개념에 따른 실시예들을 특정한 개시형태들에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 본 발명의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~사이에"와 "바로~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
본 명세서에서 사용한 용어는 단지 특정한 실시예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어를 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일 실시예에 따른 영상 생성 장치의 개략적인 블록도이고, 도 2는 일 실시예에 따른 고해상도 업샘플링 및 RGB 합성 영상 생성 방법을 설명하기 위한 개념도이다.
도 1 및 도 2를 참조하면, 영상 생성 장치(10)는 멀티 스펙트럼 영상들(또는 하이 스펙트럼 영상들)에 포함된 가시 채널 영상들의 해상도가 서로 상이한 경우, 효율적인 업샘플링 방법과 RGB 합성 생성 방법을 수행할 수 있다. 영상 생성 장치(10)는 수신부(100) 및 컨트롤러(200)를 포함한다.
수신부(100)는 멀티 스펙트럼 영상들을 수신할 수 있다. 멀티 스펙트럼 영상들은 멀티 스펙트럼 센서, 하이 스펙트럼 센서, 스캐너 등 다양한 파장의 영상을 생성하는 센서 또는 위성 영상으로부터 생성될 수 있다. 예를 들어, 멀티 스펙트럼 영상들은 동일한 시간대 같은 시점에서의 파장이 다른 복수의 영상들을 포함할 수 있다. 이때, 멀티 스펙트럼 영상들은 파장대 별로 해상도가 서로 상이할 수 있다.
컨트롤러(200)는 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 이용하여 RGB 합성 영상을 생성할 수 있다. 이때, 컨트롤러(200)는 가시 채널 영상들 중에서 고해상도 영상을 기준으로 가시 채널 영상들을 업샘플링하고, 업샘플링된 영상들을 이용하여 고해상도의 RGB 합성 영상을 생성할 수 있다.
우선, 컨트롤러(200)는 가시 채널 영상들 중에서 고해상도 영상을 선택할 수 있다. 컨트롤러(200)는 고해상도 영상에 기초하여 나머지 영상(예를 들어, 가시 채널 영상들 중에서 고해상도 영상을 제외한 나머지 가시 채널 영상들)을 업샘플링할 수 있다.
이후에, 컨트롤러(200)는 업샘플링된 나머지 영상 및 고해상도 영상을 합성하여 RGB 합성 영상을 생성할 수 있다.
도 2에 도시된 바와 같이, 가시 채널 영상들은 제1 가시 채널 영상, 제2 가시 채널 영상, 및 제3 가시 채널 여상을 포함할 수 있다. 제1 가시 채널 영상은 블루 채널 영상이고, 제2 가시 채널 영상은 그린 채널 영상이고, 제3 가시 채널 영상은 레드 채널 영상일 수 있다. 컨트롤러(200)는 가장 해상도가 높은 레드 채널 영상을 이용하여 블루 채널 영상 및 그린 채널 영상을 업샘플링할 수 있다. 이후에, 컨트롤러(200)는 업샘플링된 블루 채널 영상, 업샘플링된 그린 채널 영상, 및 레드 채널 영상을 합성하여 RGB 합성 영상을 생성할 수 있다.
영상 생성 장치(10)는 고해상도 영상의 정보를 최대한 효율적으로 활용하여 업샘플링 동작을 수행하고, 최고 해상도에 맞춰 RGB 합성 영상을 생성함으로써, 이전보다 고해상도 RGB 합성 영상을 제공할 수 있다.
도 3은 도 1에 도시된 컨트롤러의 개략적인 블록도를 나타낸다.
도 3을 참조하면, 컨트롤러(200)는 양자화기(210), 업샘플링기(230) 및 RGB 합성기(250)를 포함한다.
양자화기(210)는 가시 채널 영상들을 양자화할 수 있다. 서로 다른 파장의 가시 채널 영상들은 서로 다른 해상도 및 데이터 크기(bit depth)를 갖을 수 있다. 양자화기(210)는 가시 채널 영상들을 양자화하여 동일한 데이터 크기(bit depth)의 영상들을 생성할 수 있다.
양자회기(210)는 양자화된 가시 채널 영상들, 즉 동일한 데이터 크기의 가시 채널 영상들을 업샘플링기(230)로 출력할 수 있다.
업샘플링기(230)는 가시 채널 영상들 중에서 고해상도(또는 최고 해상도) 영상을 선택할 수 있다. 업샘플링기(230)는 나머지 영상을 확장하여 확장 어레이를 생성할 수 있다.
확장 어레이는 나머지 영상에 포함된 화소들 영역을 포함할 수 있다. 나머지 영상에 포함된 화소들 영역은 확장되어 확장 어레이의 특정 위치의 영역에 배치될 수 있다. 이에, 빈 공간 영역은 확장 어레이에서 확장되어 특정 위치의 영역에 배치되는 화소들 사이에 생성될 수 있다. 즉, 확장 어레이는 나머지 영상을 구성하는 화소들 영역 및 화소들 사이에 생성된 빈 공간 영역으로 구성될 수 있다.
업샘플링기(230)는 고해상도 영상에 기초하여 확장 어레이의 빈 공간 영역을 보간할 수 있다. 예를 들어, 업샘플링기(230)는 나머지 영상에 포함된 화소들 중에서 빈 공간 영역에 인접한 화소들의 화소 값 및 빈 공간 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 빈 공간 영역을 보간할 화소 값을 계산할 수 있다.
이때, 빈 공간 영역은 확장 어레이에서 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함할 수 있다. 즉, 업샘플링기(230)는 수평 영역, 수직 영역, 및 센터 영역을 보간할 화소 값을 계산할 수 있다.
이하에서는 설명의 편의를 위해, 나머지 영상에 포함된 화소들이 4개인 경우를 가정한다. 반드시 이에 한정되는 것은 아니며, 나머지 영상에 포함된 화소들은 1 이상일 수 있다.
업샘플링기(230)는 빈 공간 영역의 수평 영역에 보간할 화소 값을 수학식 1을 이용하여 계산할 수 있다.
여기서, 은 수평 영역에 대응하는 고해상도 영상의 화소 값을 이용한 예측 값일 수 있다. 과 은 수평 영역에 바로 인접한 화소들의 화소 값을 이용한 예측 값일 수 있다. 은 가중치 값을 의미하며, 가중치 값은 설정될 수 있다.
즉, 업샘플링기(230)는 수평 영역에 인접한 화소들의 차분에 대한 평균 값과 수평 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산할 수 있다.
수학식 1과 같이, 업샘플링기(230)는 예측 값들에 기초하여 수평 영역에 보간할 화소 값을 계산할 수 있다.
업샘플링기(230)는 빈 공간 영역의 수직 영역에 보간할 화소 값을 수학식 3을 이용하여 계산할 수 있다.
여기서, 은 수직 영역에 대응하는 고해상도 영상의 화소 값을 이용한 예측 값일 수 있다. 과 은 수직 영역에 바로 인접한 화소들의 화소 값을 이용한 예측 값일 수 있다. 은 가중치 값을 의미하며, 가중치 값은 설정될 수 있다.
즉, 업샘플링기(230)는 수직 영역에 인접한 화소들의 차분에 대한 평균 값과 수평 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 예측 값을 계산할 수 있다.
수학식 3과 같이, 업샘플링기(230)는 예측 값들에 기초하여 수직 영역에 보간할 화소 값을 계산할 수 있다.
업샘플링기(230)는 빈 공간 영역의 센터 영역에 보간할 화소 값을 수학식 5을 이용하여 계산할 수 있다.
여기서, 은 센터 영역에 대응하는 고해상도 영상의 화소 값을 이용한 예측 값일 수 있다. , , 및 은 센터 영역에 바로 인접한 화소들의 화소 값을 이용한 예측 값일 수 있다. 은 가중치 값을 의미하며, 가중치 값은 설정될 수 있다.
즉, 업샘플링기(230)는 센터 영역에 인접한 화소들의 차분에 대한 평균 값과 센터 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 예측 값을 계산할 수 있다.
수학식 5와 같이, 업샘플링기(230)는 예측 값들에 기초하여 센터 영역에 보간할 화소 값을 계산할 수 있다.
상술한 바와 같이, 업샘플링기(230)는 업샘플링 대상인 나머지 영상의 화소 값과 고해상도 영상의 화소 값을 참조하여 나머지 영상을 업샘플링할 수 있다.
RGB 합성기(250)는 업샘플링된 나머지 영상과 고해상도 영상을 합성하여 RGB 합성 영상을 생성할 수 있다. 고해상도 영상은 양자화기(260) 및/또는 업샘플링기(230)로부터 전달될 수 있다.
도 4는 도 3에 도시된 업샘플링기의 업샘플링 동작을 설명하기 위한 일 예이다.
설명의 편의를 위해, 나머지 영상은 4개의 화소(411~417)로 구성되고, 참조 영상인 고해상도 영상은 12개의 화소(431~442)로 구성된 것으로 가정한다.
도 3 및 도 4를 참조하면, 업샘플링기(230)는 업샘플링할 대상인 나머지 영상을 nXm으로 확장하여 확장 어레이를 생성할 수 있다.
수평 영역(421)에 보간될 화소 값은 수평 영역(421)에 인접한 화소들(411, 413)의 화소 값과 수평 영역(421)에 대응하는 고해상도 영상의 화소(432)의 화소 값에 기초하여 계산되어, 수평 영역(421)을 보간하는데 사용될 수 있다. 다른 수평 영역(422, 426, 427)도 상술한 방식을 통해 보간될 수 있다.
수직 영역(423)에 보간될 화소 값은 수직 영역(423)에 인접한 화소들(411, 415)의 화소 값과 수직 영역(423)에 대응하는 고해상도 영상의 화소(435)의 화소 값에 기초하여 계산되어, 수직 영역(423)을 보간하는데 사용될 수 있다. 다른 수직 영역(425)도 상술한 방식을 통해 보간될 수 있다.
센터 영역(424)에 보간될 화소 값은 센터 영역(424)에 인접한 화소들(411~417)의 화소 값과 센터 영역(424)에 대응하는 고해상도 영상의 화소(436)의 화소 값에 기초하여 계산되어, 센터 영역(424)을 보간하는데 사용될 수 있다. 다른 센터 영역(426)도 상술한 방식을 통해 보간될 수 있다.
도 5는 일 실시예에 따른 RGB 합성 영상을 생성하는 방법의 플로우 차트의 일 예이다.
도 5를 참조하면, 컨트롤러(200)는 영상을 수신할 수 있다(S510). 컨트롤러(200)는 수신된 영상이 고해상도(또는 최대 해상도) 영상인지 판단할 수 있다(S520).
수신된 영상이 고해상도 영상인 경우, 컨트롤러(200)는 고해상도 영상을 업샘플링 동작에 이용되는 참조 영상으로 저장할 수 있다(S530). 예를 들어, 컨트롤러(200)는 고해상도 영상에 포함된 각 화소의 화소값, 고해상도 영상의 해상도 등을 저장할 수 있다.
수신된 영상이 고해상도 영상이 아닌 경우, 컨트롤러(200)는 참조 영상으로 저장한 고해상도 영상에 기초하여 고해상도(또는 최대 해상도)로 수신된 영상을 업샘플링, 즉 영상 보간을 수행할 수 있다(S540). 이때, 컨트롤러(200)는 저장된 고해상도 영상에 포함된 각 화소의 화소 값, 해상도 등을 이용할 수 있다.
컨트롤러(200)는 업샘플링된 영상(또는 보간된 영상)과 고해상도 영상을 합성하여 RGB 합성 영상을 생성할 수 있다(S550).
컨트롤러(200)는 RGB 합성 영상을 저장할 수 있다(S560).
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (16)
- 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 획득하는 단계;
상기 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하는 단계; 및
업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 단계
를 포함하는 영상 생성 방법.
- 제1항에 있어서,
상기 획득하는 단계는,
상기 가시 채널 영상들을 양자화하는 단계
를 포함하는 영사 생성 방법.
- 제2항에 있어서,
상기 업샘플링하는 단계는,
상기 나머지 영상을 확장하여 확장 어레이를 생성하는 단계; 및
상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 단계
를 포함하는 영상 생성 방법.
- 제3항에 있어서,
상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함하는 영상 생성 방법
- 제4항에 있어서,
상기 보간하는 단계는,
상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산하는 단계
를 포함하는 영상 생성 방법.
- 제5항에 있어서,
상기 계산하는 단계는,
상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하는 단계;
상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하는 단계; 및
상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산하는 단계
를 포함하는 영상 생성 방법.
- 제5항에 있어서,
상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함하는 영상 생성 방법.
- 제7항에 있어서,
상기 빈 공간 영역에 인접한 화소들의 화소 값은,
상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고,
상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고,
상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값인 영상 생성 방법.
- 멀티 스펙트럼 영상들을 수신하는 수신부; 및
상기 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하고, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 컨트롤러
를 포함하는 영상 생성 장치.
- 제9항에 있어서,
상기 컨트롤러는,
상기 가시 채널 영상들을 양자화하는 양자화기
를 포함하는 영상 생성 장치.
- 제10항에 있어서,
상기 컨트롤러는,
상기 나머지 영상을 확장하여 확장 어레이를 생성하고, 상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 업샘플링기
더 포함하는 영상 생성 장치.
- 제11항에 있어서,
상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함하는 영상 생성 장치.
- 제12항에 있어서,
상기 업샘플링기는,
상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산하는 영상 생성 장치.
- 제13항에 있어서,
상기 업샘플링기는,
상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하고, 상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하고, 상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산하는 영상 생성 장치.
- 제13항에 있어서,
상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함하는 영상 생성 장치.
- 제15항에 있어서,
상기 빈 공간 영역에 인접한 화소들의 화소 값은,
상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고,
상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고,
상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값인 영상 생성 장치.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170144785A KR20190049197A (ko) | 2017-11-01 | 2017-11-01 | 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 |
US15/962,411 US20190130528A1 (en) | 2017-11-01 | 2018-04-25 | Method of upsampling based on maximum-resolution image and compositing rgb image, and apparatus performing the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170144785A KR20190049197A (ko) | 2017-11-01 | 2017-11-01 | 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20190049197A true KR20190049197A (ko) | 2019-05-09 |
Family
ID=66244089
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170144785A KR20190049197A (ko) | 2017-11-01 | 2017-11-01 | 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20190130528A1 (ko) |
KR (1) | KR20190049197A (ko) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017099616A (ja) * | 2015-12-01 | 2017-06-08 | ソニー株式会社 | 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03160575A (ja) * | 1989-11-20 | 1991-07-10 | Toshiba Corp | 画像表示装置 |
US6181376B1 (en) * | 1997-10-14 | 2001-01-30 | Intel Corporation | Method of determining missing color values for pixels in a color filter array |
US7236191B2 (en) * | 2003-04-30 | 2007-06-26 | Nokia Corporation | Method and system for image processing with pixel interpolation using second order gradients |
JP2008021126A (ja) * | 2006-07-13 | 2008-01-31 | Neuro Solution Corp | 画像拡大縮小装置 |
WO2011132279A1 (ja) * | 2010-04-21 | 2011-10-27 | キヤノン株式会社 | 画像処理装置、方法、及び記録媒体 |
US9930316B2 (en) * | 2013-08-16 | 2018-03-27 | University Of New Brunswick | Camera imaging systems and methods |
US8878950B2 (en) * | 2010-12-14 | 2014-11-04 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using super-resolution processes |
US9442012B2 (en) * | 2011-04-25 | 2016-09-13 | Skybox Imaging, Inc. | Systems and methods for overhead imaging and video |
WO2013031081A1 (ja) * | 2011-08-30 | 2013-03-07 | シャープ株式会社 | 信号処理装置及び信号処理方法、固体撮像装置、電子情報機器、信号処理プログラム、並びにコンピュータ読み取り可能な記憶媒体 |
US9460527B2 (en) * | 2013-02-04 | 2016-10-04 | Qualcomm Incorporated | Pattern mode for frame buffer compression |
US9710959B2 (en) * | 2013-09-27 | 2017-07-18 | Intel Corporation | Compressed 3D graphics rendering exploiting psychovisual properties |
EP3117612A1 (en) * | 2014-03-14 | 2017-01-18 | VID SCALE, Inc. | Systems and methods for rgb video coding enhancement |
US10250892B2 (en) * | 2015-11-04 | 2019-04-02 | Nvidia Corporation | Techniques for nonlinear chrominance upsampling |
KR102410016B1 (ko) * | 2015-12-16 | 2022-06-16 | 삼성전자주식회사 | 이미지 처리 장치 및 이미지 처리 시스템 |
CN109863441A (zh) * | 2016-08-11 | 2019-06-07 | 小利兰·斯坦福大学理事会 | 荧光显微镜 |
-
2017
- 2017-11-01 KR KR1020170144785A patent/KR20190049197A/ko unknown
-
2018
- 2018-04-25 US US15/962,411 patent/US20190130528A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20190130528A1 (en) | 2019-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2074586B1 (en) | Image enhancement | |
KR101548285B1 (ko) | 고해상도 영상 획득 장치 및 그 방법 | |
JP2015035198A (ja) | 画像処理装置及び画像処理方法 | |
JP6039657B2 (ja) | 3dコンテンツをリターゲティングするための方法およびデバイス | |
JP5901362B2 (ja) | 色変換装置、カラーサブサンプリング装置およびこれらのプログラム | |
JP2014522596A5 (ko) | ||
JP6366935B2 (ja) | 擬似カラー化画像処理システム | |
KR20130086921A (ko) | 3차원 비디오를 위한 영상 처리 방법 및 장치 | |
KR101975269B1 (ko) | 깊이 방향에 대한 가중치를 이용한 실영상 풀 컬러 디지털 홀로그래픽 생성 방법 및 시스템 | |
JP5829898B2 (ja) | 画像空間超解像装置及びプログラム | |
JP6471022B2 (ja) | 画像処理システムおよび画像処理方法 | |
CN107220934B (zh) | 图像重建方法及装置 | |
JP6102938B2 (ja) | 画像処理装置、及び、画像処理方法 | |
KR20190049197A (ko) | 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 | |
JP6018032B2 (ja) | レーダ画像判読支援装置及びレーダ画像判読支援方法 | |
KR101379905B1 (ko) | 이미지 렌더링 방법 및 시스템 | |
US20170228905A1 (en) | Method and apparatus for processing image and recording medium storing program therefor | |
JP5894422B2 (ja) | 時空間低相関画像超解像装置、画像空間超解像装置、及びそれらのプログラム | |
JP6559077B2 (ja) | 情報処理装置及び情報処理方法 | |
JP5570448B2 (ja) | 画像領域分割装置及びプログラム | |
US7421131B2 (en) | System and method for block truncation-type compressed domain image processing | |
US11778240B2 (en) | Banding artifact detection in images and videos | |
JP5308322B2 (ja) | 画像符号化装置、画像復号装置及びプログラム | |
JP6452793B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4904013B2 (ja) | 画像生成プログラムおよび画像生成装置 |