KR20190049197A - 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 - Google Patents

고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 Download PDF

Info

Publication number
KR20190049197A
KR20190049197A KR1020170144785A KR20170144785A KR20190049197A KR 20190049197 A KR20190049197 A KR 20190049197A KR 1020170144785 A KR1020170144785 A KR 1020170144785A KR 20170144785 A KR20170144785 A KR 20170144785A KR 20190049197 A KR20190049197 A KR 20190049197A
Authority
KR
South Korea
Prior art keywords
pixels
image
region
pixel value
empty space
Prior art date
Application number
KR1020170144785A
Other languages
English (en)
Inventor
김태정
안도섭
정일구
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020170144785A priority Critical patent/KR20190049197A/ko
Priority to US15/962,411 priority patent/US20190130528A1/en
Publication of KR20190049197A publication Critical patent/KR20190049197A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0102—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving the resampling of the incoming video signal
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/403—Edge-driven scaling; Edge-based scaling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Color Image Communication Systems (AREA)

Abstract

고해상도 영상을 이용한 업샘플링 및 RGB 합성 방법, 및 이를 수행하는 장치가 개시된다. 일 실시예에 따른 영상 생성 방법은 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 획득하는 단계와, 상기 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하는 단계와, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 단계를 포함한다.

Description

고해상도 영상을 이용한 업샘플링 및 RGB 합성 방법, 및 이를 수행하는 장치{METHOD OF UPSAMPLING BASED ON MAXIMUM RESOLUTION IMAGE AND COMPOSITING RGB IMAGE, AND AN APPARATUS OPERATING THE SAME}
아래 실시예들은 멀티(또는 하이) 스펙트럼 영상 생성기, 스캐너, 또는 위성 영상으로부터 생성된 다중 채널 영상들에 대해서 향상된 RGB 합성 및 효율적인 업샘플링 방법에 관한 것이다.
위성 시스템의 발달로, 현대인들은 언제 어디서든 인터넷 또는 방송을 통해서 위성 영상을 접할 수 있게 되었다.
특히, 기상위성 영상은 센서의 발달로 인해, 고해상도의 기상 영상을 생성하고 서비스한다. 기상 영상은 일기 예측을 위해 전문 지식인 또는 비 전문 지식인에게 중요한 정보로 활용되고 있다.
기상 영상 중에 Red, Green, Blue 채널 영상 데이터는 중요한 가시 영상으로 활용되며, 특히 RGB 합성 영상을 생성하기 위해 활용된다.
전통적으로 RGB 합성 시, 서로 다른 해상도를 가질 경우, 에러를 최소화하기 위해 가장 작은 영상의 해상도로 Down Sampling하여 RGB 합성 영상을 생성한다.
실시예들은 서로 다른 해상도를 갖는 다중 스펙트럼 영상들에 대해서 효율적인 업샘플링 기술과 RGB 합성 영상 생성 기술을 제공할 수 있다.
실시예들은 고해상 영상을 최대한 활용하여 주변 채널의 저해상도 영상을 고해상도로 업생플링하는 기술을 제공할 수 있다.
일 실시예에 따른 영상 생성 방법은 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 획득하는 단계와, 상기 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하는 단계와, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 단계를 포함한다.
상기 획득하는 단계는 상기 가시 채널 영상들을 양자화하는 단계를 포함할 수 있다.
상기 업샘플링하는 단계는 상기 나머지 영상을 확장하여 확장 어레이를 생성하는 단계와, 상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 단계를 포함할 수 있다.
상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함할 수 있다.
상기 보간하는 단계는 상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산하는 단계를 포함할 수 있다.
상기 계산하는 단계는 상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하는 단계와, 상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하는 단계와, 상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산하는 단계를 포함할 수 있다.
상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함할 수 있다.
상기 빈 공간 영역에 인접한 화소들의 화소 값은 상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고, 상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고, 상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값일 수 있다.
일 실시예에 따른 영상 생성 장치는 멀티 스펙트럼 영상들을 수신하는 수신부와, 상기 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하고, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 컨트롤러를 포함한다.
상기 컨트롤러는 상기 가시 채널 영상들을 양자화하는 양자화기를 포함할 수 있다.
상기 컨트롤러는 상기 나머지 영상을 확장하여 확장 어레이를 생성하고, 상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 업샘플링기를 더 포함할 수 있다.
상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함할 수 있다.
상기 업샘플링기는 상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산할 수 있다.
상기 업샘플링기는 상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하고, 상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하고, 상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산할 수 있다.
상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함할 수 있다.
상기 빈 공간 영역에 인접한 화소들의 화소 값은 상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고, 상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고, 상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값일 수 있다.
도 1은 일 실시예에 따른 영상 생성 장치의 개략적인 블록도이다.
도 2는 일 실시예에 따른 고해상도 업샘플링 및 RGB 합성 영상 생성 방법을 설명하기 위한 개념도이다.
도 3은 도 1에 도시된 컨트롤러의 개략적인 블록도를 나타낸다.
도 4는 도 3에 도시된 업샘플링기의 업샘플링 동작을 설명하기 위한 일 예이다.
도 5는 일 실시예에 따른 RGB 합성 영상을 생성하는 방법의 플로우 차트의 일 예이다.
본 명세서에서 개시되어 있는 본 발명의 개념에 따른 실시예들에 대해서 특정한 구조적 또는 기능적 설명들은 단지 본 발명의 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 본 발명의 개념에 따른 실시예들은 당ㅇ한 형태로 실시될 수 있으며 본 명세서에서 설명된 실시예들에 한정되지 않는다.
본 발명의 개념에 따른 실시예들은 다양한 변경들을 가할 수 있고 여러 가지 형태들을 가질 수 있으므로 실시예들을 도면에 예시하고 본 명세서에 상세하게 설명하고자 한다. 그러나, 이는 본 발명의 개념에 따른 실시예들을 특정한 개시형태들에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 본 발명의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~사이에"와 "바로~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
본 명세서에서 사용한 용어는 단지 특정한 실시예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어를 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일 실시예에 따른 영상 생성 장치의 개략적인 블록도이고, 도 2는 일 실시예에 따른 고해상도 업샘플링 및 RGB 합성 영상 생성 방법을 설명하기 위한 개념도이다.
도 1 및 도 2를 참조하면, 영상 생성 장치(10)는 멀티 스펙트럼 영상들(또는 하이 스펙트럼 영상들)에 포함된 가시 채널 영상들의 해상도가 서로 상이한 경우, 효율적인 업샘플링 방법과 RGB 합성 생성 방법을 수행할 수 있다. 영상 생성 장치(10)는 수신부(100) 및 컨트롤러(200)를 포함한다.
수신부(100)는 멀티 스펙트럼 영상들을 수신할 수 있다. 멀티 스펙트럼 영상들은 멀티 스펙트럼 센서, 하이 스펙트럼 센서, 스캐너 등 다양한 파장의 영상을 생성하는 센서 또는 위성 영상으로부터 생성될 수 있다. 예를 들어, 멀티 스펙트럼 영상들은 동일한 시간대 같은 시점에서의 파장이 다른 복수의 영상들을 포함할 수 있다. 이때, 멀티 스펙트럼 영상들은 파장대 별로 해상도가 서로 상이할 수 있다.
컨트롤러(200)는 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 이용하여 RGB 합성 영상을 생성할 수 있다. 이때, 컨트롤러(200)는 가시 채널 영상들 중에서 고해상도 영상을 기준으로 가시 채널 영상들을 업샘플링하고, 업샘플링된 영상들을 이용하여 고해상도의 RGB 합성 영상을 생성할 수 있다.
우선, 컨트롤러(200)는 가시 채널 영상들 중에서 고해상도 영상을 선택할 수 있다. 컨트롤러(200)는 고해상도 영상에 기초하여 나머지 영상(예를 들어, 가시 채널 영상들 중에서 고해상도 영상을 제외한 나머지 가시 채널 영상들)을 업샘플링할 수 있다.
이후에, 컨트롤러(200)는 업샘플링된 나머지 영상 및 고해상도 영상을 합성하여 RGB 합성 영상을 생성할 수 있다.
도 2에 도시된 바와 같이, 가시 채널 영상들은 제1 가시 채널 영상, 제2 가시 채널 영상, 및 제3 가시 채널 여상을 포함할 수 있다. 제1 가시 채널 영상은 블루 채널 영상이고, 제2 가시 채널 영상은 그린 채널 영상이고, 제3 가시 채널 영상은 레드 채널 영상일 수 있다. 컨트롤러(200)는 가장 해상도가 높은 레드 채널 영상을 이용하여 블루 채널 영상 및 그린 채널 영상을 업샘플링할 수 있다. 이후에, 컨트롤러(200)는 업샘플링된 블루 채널 영상, 업샘플링된 그린 채널 영상, 및 레드 채널 영상을 합성하여 RGB 합성 영상을 생성할 수 있다.
영상 생성 장치(10)는 고해상도 영상의 정보를 최대한 효율적으로 활용하여 업샘플링 동작을 수행하고, 최고 해상도에 맞춰 RGB 합성 영상을 생성함으로써, 이전보다 고해상도 RGB 합성 영상을 제공할 수 있다.
도 3은 도 1에 도시된 컨트롤러의 개략적인 블록도를 나타낸다.
도 3을 참조하면, 컨트롤러(200)는 양자화기(210), 업샘플링기(230) 및 RGB 합성기(250)를 포함한다.
양자화기(210)는 가시 채널 영상들을 양자화할 수 있다. 서로 다른 파장의 가시 채널 영상들은 서로 다른 해상도 및 데이터 크기(bit depth)를 갖을 수 있다. 양자화기(210)는 가시 채널 영상들을 양자화하여 동일한 데이터 크기(bit depth)의 영상들을 생성할 수 있다.
양자회기(210)는 양자화된 가시 채널 영상들, 즉 동일한 데이터 크기의 가시 채널 영상들을 업샘플링기(230)로 출력할 수 있다.
업샘플링기(230)는 가시 채널 영상들 중에서 고해상도(또는 최고 해상도) 영상을 선택할 수 있다. 업샘플링기(230)는 나머지 영상을 확장하여 확장 어레이를 생성할 수 있다.
확장 어레이는 나머지 영상에 포함된 화소들 영역을 포함할 수 있다. 나머지 영상에 포함된 화소들 영역은 확장되어 확장 어레이의 특정 위치의 영역에 배치될 수 있다. 이에, 빈 공간 영역은 확장 어레이에서 확장되어 특정 위치의 영역에 배치되는 화소들 사이에 생성될 수 있다. 즉, 확장 어레이는 나머지 영상을 구성하는 화소들 영역 및 화소들 사이에 생성된 빈 공간 영역으로 구성될 수 있다.
업샘플링기(230)는 고해상도 영상에 기초하여 확장 어레이의 빈 공간 영역을 보간할 수 있다. 예를 들어, 업샘플링기(230)는 나머지 영상에 포함된 화소들 중에서 빈 공간 영역에 인접한 화소들의 화소 값 및 빈 공간 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 빈 공간 영역을 보간할 화소 값을 계산할 수 있다.
이때, 빈 공간 영역은 확장 어레이에서 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함할 수 있다. 즉, 업샘플링기(230)는 수평 영역, 수직 영역, 및 센터 영역을 보간할 화소 값을 계산할 수 있다.
이하에서는 설명의 편의를 위해, 나머지 영상에 포함된 화소들이 4개인 경우를 가정한다. 반드시 이에 한정되는 것은 아니며, 나머지 영상에 포함된 화소들은 1 이상일 수 있다.
업샘플링기(230)는 빈 공간 영역의 수평 영역에 보간할 화소 값을 수학식 1을 이용하여 계산할 수 있다.
Figure pat00001
여기서,
Figure pat00002
은 수평 영역에 대응하는 고해상도 영상의 화소 값을 이용한 예측 값일 수 있다.
Figure pat00003
과
Figure pat00004
은 수평 영역에 바로 인접한 화소들의 화소 값을 이용한 예측 값일 수 있다.
Figure pat00005
은 가중치 값을 의미하며, 가중치 값은 설정될 수 있다.
업샘플링기(230)는
Figure pat00006
을 수학식 2를 이용하여 계산할 수 있다.
Figure pat00007
즉, 업샘플링기(230)는 수평 영역에 인접한 화소들의 차분에 대한 평균 값과 수평 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산할 수 있다.
수학식 1과 같이, 업샘플링기(230)는 예측 값들에 기초하여 수평 영역에 보간할 화소 값을 계산할 수 있다.
업샘플링기(230)는 빈 공간 영역의 수직 영역에 보간할 화소 값을 수학식 3을 이용하여 계산할 수 있다.
Figure pat00008
여기서,
Figure pat00009
은 수직 영역에 대응하는 고해상도 영상의 화소 값을 이용한 예측 값일 수 있다.
Figure pat00010
과
Figure pat00011
은 수직 영역에 바로 인접한 화소들의 화소 값을 이용한 예측 값일 수 있다.
Figure pat00012
은 가중치 값을 의미하며, 가중치 값은 설정될 수 있다.
업샘플링기(230)는
Figure pat00013
을 수학식 4를 이용하여 계산할 수 있다.
Figure pat00014
즉, 업샘플링기(230)는 수직 영역에 인접한 화소들의 차분에 대한 평균 값과 수평 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 예측 값을 계산할 수 있다.
수학식 3과 같이, 업샘플링기(230)는 예측 값들에 기초하여 수직 영역에 보간할 화소 값을 계산할 수 있다.
업샘플링기(230)는 빈 공간 영역의 센터 영역에 보간할 화소 값을 수학식 5을 이용하여 계산할 수 있다.
Figure pat00015
여기서,
Figure pat00016
은 센터 영역에 대응하는 고해상도 영상의 화소 값을 이용한 예측 값일 수 있다.
Figure pat00017
,
Figure pat00018
,
Figure pat00019
및
Figure pat00020
은 센터 영역에 바로 인접한 화소들의 화소 값을 이용한 예측 값일 수 있다.
Figure pat00021
은 가중치 값을 의미하며, 가중치 값은 설정될 수 있다.
업샘플링기(230)는
Figure pat00022
을 수학식 6을 이용하여 계산할 수 있다.
Figure pat00023
즉, 업샘플링기(230)는 센터 영역에 인접한 화소들의 차분에 대한 평균 값과 센터 영역에 대응하는 고해상도 영상의 화소 값에 기초하여 예측 값을 계산할 수 있다.
수학식 5와 같이, 업샘플링기(230)는 예측 값들에 기초하여 센터 영역에 보간할 화소 값을 계산할 수 있다.
상술한 바와 같이, 업샘플링기(230)는 업샘플링 대상인 나머지 영상의 화소 값과 고해상도 영상의 화소 값을 참조하여 나머지 영상을 업샘플링할 수 있다.
RGB 합성기(250)는 업샘플링된 나머지 영상과 고해상도 영상을 합성하여 RGB 합성 영상을 생성할 수 있다. 고해상도 영상은 양자화기(260) 및/또는 업샘플링기(230)로부터 전달될 수 있다.
도 4는 도 3에 도시된 업샘플링기의 업샘플링 동작을 설명하기 위한 일 예이다.
설명의 편의를 위해, 나머지 영상은 4개의 화소(411~417)로 구성되고, 참조 영상인 고해상도 영상은 12개의 화소(431~442)로 구성된 것으로 가정한다.
도 3 및 도 4를 참조하면, 업샘플링기(230)는 업샘플링할 대상인 나머지 영상을 nXm으로 확장하여 확장 어레이를 생성할 수 있다.
수평 영역(421)에 보간될 화소 값은 수평 영역(421)에 인접한 화소들(411, 413)의 화소 값과 수평 영역(421)에 대응하는 고해상도 영상의 화소(432)의 화소 값에 기초하여 계산되어, 수평 영역(421)을 보간하는데 사용될 수 있다. 다른 수평 영역(422, 426, 427)도 상술한 방식을 통해 보간될 수 있다.
수직 영역(423)에 보간될 화소 값은 수직 영역(423)에 인접한 화소들(411, 415)의 화소 값과 수직 영역(423)에 대응하는 고해상도 영상의 화소(435)의 화소 값에 기초하여 계산되어, 수직 영역(423)을 보간하는데 사용될 수 있다. 다른 수직 영역(425)도 상술한 방식을 통해 보간될 수 있다.
센터 영역(424)에 보간될 화소 값은 센터 영역(424)에 인접한 화소들(411~417)의 화소 값과 센터 영역(424)에 대응하는 고해상도 영상의 화소(436)의 화소 값에 기초하여 계산되어, 센터 영역(424)을 보간하는데 사용될 수 있다. 다른 센터 영역(426)도 상술한 방식을 통해 보간될 수 있다.
도 5는 일 실시예에 따른 RGB 합성 영상을 생성하는 방법의 플로우 차트의 일 예이다.
도 5를 참조하면, 컨트롤러(200)는 영상을 수신할 수 있다(S510). 컨트롤러(200)는 수신된 영상이 고해상도(또는 최대 해상도) 영상인지 판단할 수 있다(S520).
수신된 영상이 고해상도 영상인 경우, 컨트롤러(200)는 고해상도 영상을 업샘플링 동작에 이용되는 참조 영상으로 저장할 수 있다(S530). 예를 들어, 컨트롤러(200)는 고해상도 영상에 포함된 각 화소의 화소값, 고해상도 영상의 해상도 등을 저장할 수 있다.
수신된 영상이 고해상도 영상이 아닌 경우, 컨트롤러(200)는 참조 영상으로 저장한 고해상도 영상에 기초하여 고해상도(또는 최대 해상도)로 수신된 영상을 업샘플링, 즉 영상 보간을 수행할 수 있다(S540). 이때, 컨트롤러(200)는 저장된 고해상도 영상에 포함된 각 화소의 화소 값, 해상도 등을 이용할 수 있다.
컨트롤러(200)는 업샘플링된 영상(또는 보간된 영상)과 고해상도 영상을 합성하여 RGB 합성 영상을 생성할 수 있다(S550).
컨트롤러(200)는 RGB 합성 영상을 저장할 수 있다(S560).
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (16)

  1. 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들을 획득하는 단계;
    상기 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하는 단계; 및
    업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 단계
    를 포함하는 영상 생성 방법.
  2. 제1항에 있어서,
    상기 획득하는 단계는,
    상기 가시 채널 영상들을 양자화하는 단계
    를 포함하는 영사 생성 방법.
  3. 제2항에 있어서,
    상기 업샘플링하는 단계는,
    상기 나머지 영상을 확장하여 확장 어레이를 생성하는 단계; 및
    상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 단계
    를 포함하는 영상 생성 방법.
  4. 제3항에 있어서,
    상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함하는 영상 생성 방법
  5. 제4항에 있어서,
    상기 보간하는 단계는,
    상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산하는 단계
    를 포함하는 영상 생성 방법.
  6. 제5항에 있어서,
    상기 계산하는 단계는,
    상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하는 단계;
    상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하는 단계; 및
    상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산하는 단계
    를 포함하는 영상 생성 방법.
  7. 제5항에 있어서,
    상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함하는 영상 생성 방법.
  8. 제7항에 있어서,
    상기 빈 공간 영역에 인접한 화소들의 화소 값은,
    상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고,
    상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고,
    상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값인 영상 생성 방법.
  9. 멀티 스펙트럼 영상들을 수신하는 수신부; 및
    상기 멀티 스펙트럼 영상들에 포함된 가시 채널 영상들 중에서 고해상도 영상에 기초하여 상기 가시 채널 영상들 중에서 상기 고해상도 영상을 제외한 나머지 영상을 업샘플링하고, 업샘플링된 나머지 영상 및 상기 고해상도 영상을 합성하여 RGB 합성 영상을 생성하는 컨트롤러
    를 포함하는 영상 생성 장치.
  10. 제9항에 있어서,
    상기 컨트롤러는,
    상기 가시 채널 영상들을 양자화하는 양자화기
    를 포함하는 영상 생성 장치.
  11. 제10항에 있어서,
    상기 컨트롤러는,
    상기 나머지 영상을 확장하여 확장 어레이를 생성하고, 상기 고해상도 영상에 기초하여 상기 확장 어레이의 빈 공간 영역을 보간하는 업샘플링기
    더 포함하는 영상 생성 장치.
  12. 제11항에 있어서,
    상기 확장 어레이는 상기 나머지 영상에 포함된 화소들 영역과 상기 화소들 사이에 생성된 상기 빈 공간 영역을 포함하는 영상 생성 장치.
  13. 제12항에 있어서,
    상기 업샘플링기는,
    상기 화소들 중에서 상기 빈 공간 영역에 인접한 화소들의 화소 값 및 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 상기 빈 공간 영역을 보간할 화소 값을 계산하는 영상 생성 장치.
  14. 제13항에 있어서,
    상기 업샘플링기는,
    상기 빈 공간 영역에 인접한 화소들의 차분에 대한 평균 값과 상기 빈 공간 영역에 대응하는 상기 고해상도 영상의 화소 값에 기초하여 제1 예측 값을 계산하고, 상기 인접한 화소들의 화소 값에 기초하여 제2 예측 값을 계산하고, 상기 제1 예측 값 및 상기 제2 예측 값에 기초하여 상기 보간할 화소 값을 계산하는 영상 생성 장치.
  15. 제13항에 있어서,
    상기 빈 공간 영역은 상기 화소들 간의 위치를 기준으로 수평 위치의 수평 영역, 수직 위치의 수직 영역, 및 센터 위치의 센터 영역을 포함하는 영상 생성 장치.
  16. 제15항에 있어서,
    상기 빈 공간 영역에 인접한 화소들의 화소 값은,
    상기 수평 영역을 보간하는 경우 상기 화소들 중에서 상기 수평 영역에 바로 인접한 화소들의 화소 값이고,
    상기 수직 영역을 보간하는 경우 상기 화소들 중에서 상기 수직 영역에 바로 인접한 화소들의 화소 값이고,
    상기 센터 영역을 보간하는 경우 상기 화소들 전체의 화소 값인 영상 생성 장치.
KR1020170144785A 2017-11-01 2017-11-01 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치 KR20190049197A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170144785A KR20190049197A (ko) 2017-11-01 2017-11-01 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치
US15/962,411 US20190130528A1 (en) 2017-11-01 2018-04-25 Method of upsampling based on maximum-resolution image and compositing rgb image, and apparatus performing the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170144785A KR20190049197A (ko) 2017-11-01 2017-11-01 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치

Publications (1)

Publication Number Publication Date
KR20190049197A true KR20190049197A (ko) 2019-05-09

Family

ID=66244089

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170144785A KR20190049197A (ko) 2017-11-01 2017-11-01 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치

Country Status (2)

Country Link
US (1) US20190130528A1 (ko)
KR (1) KR20190049197A (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03160575A (ja) * 1989-11-20 1991-07-10 Toshiba Corp 画像表示装置
US6181376B1 (en) * 1997-10-14 2001-01-30 Intel Corporation Method of determining missing color values for pixels in a color filter array
US7236191B2 (en) * 2003-04-30 2007-06-26 Nokia Corporation Method and system for image processing with pixel interpolation using second order gradients
JP2008021126A (ja) * 2006-07-13 2008-01-31 Neuro Solution Corp 画像拡大縮小装置
WO2011132279A1 (ja) * 2010-04-21 2011-10-27 キヤノン株式会社 画像処理装置、方法、及び記録媒体
US9930316B2 (en) * 2013-08-16 2018-03-27 University Of New Brunswick Camera imaging systems and methods
US8878950B2 (en) * 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
WO2012148919A2 (en) * 2011-04-25 2012-11-01 Skybox Imaging, Inc. Systems and methods for overhead imaging and video
US9160937B2 (en) * 2011-08-30 2015-10-13 Sharp Kabushika Kaisha Signal processing apparatus and signal processing method, solid-state imaging apparatus, electronic information device, signal processing program, and computer readable storage medium
US9460527B2 (en) * 2013-02-04 2016-10-04 Qualcomm Incorporated Pattern mode for frame buffer compression
US9710959B2 (en) * 2013-09-27 2017-07-18 Intel Corporation Compressed 3D graphics rendering exploiting psychovisual properties
EP3117612A1 (en) * 2014-03-14 2017-01-18 VID SCALE, Inc. Systems and methods for rgb video coding enhancement
US10250892B2 (en) * 2015-11-04 2019-04-02 Nvidia Corporation Techniques for nonlinear chrominance upsampling
KR102410016B1 (ko) * 2015-12-16 2022-06-16 삼성전자주식회사 이미지 처리 장치 및 이미지 처리 시스템
CN109863441A (zh) * 2016-08-11 2019-06-07 小利兰·斯坦福大学理事会 荧光显微镜

Also Published As

Publication number Publication date
US20190130528A1 (en) 2019-05-02

Similar Documents

Publication Publication Date Title
EP2074586B1 (en) Image enhancement
KR101548285B1 (ko) 고해상도 영상 획득 장치 및 그 방법
JP6253331B2 (ja) 画像処理装置及び画像処理方法
WO2018196470A1 (zh) 图像处理方法及装置
US7876323B2 (en) Display apparatus and display method, learning apparatus and learning method, and programs therefor
JP5901362B2 (ja) 色変換装置、カラーサブサンプリング装置およびこれらのプログラム
JP2014522596A (ja) ３ｄコンテンツを再目標化するための方法およびデバイス
JP2014522596A5 (ko)
KR102004248B1 (ko) ３차원 비디오를 위한 영상 처리 방법 및 장치
KR101975269B1 (ko) 깊이 방향에 대한 가중치를 이용한 실영상 풀 컬러 디지털 홀로그래픽 생성 방법 및 시스템
CN107220934B (zh) 图像重建方法及装置
JP6102938B2 (ja) 画像処理装置、及び、画像処理方法
JP5829898B2 (ja) 画像空間超解像装置及びプログラム
KR20190049197A (ko) 고해상도 영상을 이용한 업샘플링 및 rgb 합성 방법, 및 이를 수행하는 장치
JP6471022B2 (ja) 画像処理システムおよび画像処理方法
JP6366935B2 (ja) 擬似カラー化画像処理システム
EP2908527A1 (en) Device, program, and method for reducing data size of multiple images containing similar information
KR101379905B1 (ko) 이미지 렌더링 방법 및 시스템
US20170228905A1 (en) Method and apparatus for processing image and recording medium storing program therefor
JP5894422B2 (ja) 時空間低相関画像超解像装置、画像空間超解像装置、及びそれらのプログラム
JP6559077B2 (ja) 情報処理装置及び情報処理方法
KR20220030084A (ko) 영상 처리 방법 및 장치
JP5308322B2 (ja) 画像符号化装置、画像復号装置及びプログラム
JP6452793B2 (ja) 画像処理装置及び画像処理方法
JP4904013B2 (ja) 画像生成プログラムおよび画像生成装置