KR20220010285A - 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법 - Google Patents

디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법 Download PDF

Info

Publication number
KR20220010285A
KR20220010285A KR1020200088976A KR20200088976A KR20220010285A KR 20220010285 A KR20220010285 A KR 20220010285A KR 1020200088976 A KR1020200088976 A KR 1020200088976A KR 20200088976 A KR20200088976 A KR 20200088976A KR 20220010285 A KR20220010285 A KR 20220010285A
Authority
KR
South Korea
Prior art keywords
pixel
value
chroma
white
pixel value
Prior art date
Application number
KR1020200088976A
Other languages
English (en)
Inventor
차수람
Original Assignee
에스케이하이닉스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이하이닉스 주식회사 filed Critical 에스케이하이닉스 주식회사
Priority to KR1020200088976A priority Critical patent/KR20220010285A/ko
Priority to US17/147,966 priority patent/US11750783B2/en
Priority to CN202110200736.3A priority patent/CN113949850B/zh
Priority to JP2021079177A priority patent/JP2022019550A/ja
Publication of KR20220010285A publication Critical patent/KR20220010285A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/73—Colour balance circuits, e.g. white balance circuits or colour temperature control
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/40—Scaling the whole image or part thereof
    • G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/40—Scaling the whole image or part thereof
    • G06T3/4038—Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14609—Pixel-elements with integrated switching, control, storage or amplification elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843—Demosaicing, e.g. interpolating colour pixel values
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611—Correction of chromatic aberration
    • H04N9/04559—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Abstract

본 발명은 복수의 픽셀이 구비된 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정부; 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 미세 조정부; 상기 소스 픽셀 데이터와 상기 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 크로마 추정부; 및 상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 색상 보정부를 포함하는 디모자익 동작 회로를 제공할 수 있다.

Description

디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법{DEMOSAIC OPERATION CIRCUIT, IMAGE SENSING DEVICE AND OPERATION METHOD THEREOF}
본 발명은 반도체 장치에 관한 것으로, 더욱 상세하게는 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법에 관한 것이다.
최근 컴퓨터 환경에 대한 패러다임(paradigm)이 언제, 어디서나 컴퓨터 시스템을 사용할 수 있도록 하는 유비쿼터스 컴퓨팅(ubiquitous computing)으로 전환되고 있다. 이로 인해 휴대폰, 디지털 카메라, 노트북 컴퓨터 등과 같은 휴대용 전자 장치의 사용이 급증하고 있다.
특히, 영상기기의 급속한 발전으로 이미지 센서가 장착된 카메라, 캠코더 등의 이미지 촬영 장치에 대한 개발이 가속화되고 있다. 이러한 이미지 촬영 장치는 이미지를 촬영하여 기록 매체에 기록함과 동시에, 언제든지 재생시킬 수 있어 사용자가 급속하게 증가하고 있다. 이에 따라 성능 및 기능에 대한 사용자의 요구도 점차 높아지고 있으며, 소형, 경량화, 저전력화와 더불어 고성능화 및 다기능화가 추구되고 있다.
본 발명의 실시 예들은 RGBW 패턴을 구비한 소스 픽셀 데이터에서 화이트 픽셀이 50%인 이미지 패턴에 대해 디모자익 동작을 수행하는 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법을 제공할 수 있다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명은 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법을 제공한다.
본 발명의 실시 예들에 따른 디모자익 동작 회로는 복수의 픽셀이 구비된 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정부; 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 미세 조정부; 상기 소스 픽셀 데이터와 상기 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 크로마 추정부; 및 상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 색상 보정부를 포함할 수 있다.
상기 화이트 픽셀값 추정부는 상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값의 절대값을 바탕으로 방향별 화이트 픽셀의 기울기값을 계산하는 방향별 화이트 픽셀값 계산 블록; 상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산하는 RGB 채널 평균값 계산 블록; 및 상기 방향별 화이트 픽셀값 계산 블록에서 계산된 방향별 화이트 픽셀의 기울기값 및 상기 RGB 채널 평균값 계산 블록에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정 블록을 포함할 수 있다.
상기 화이트 픽셀값 추정블록은 상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정할 수 있다.
상기 미세 조정부는 상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 상기 화이트 픽셀 추정부에서 추정된 화이트 픽셀의 기울기값을 이용하여 화이트 픽셀값을 미세 조정할 수 있다.
상기 크로마 추정부는 상기 소스 픽셀 데이터로부터 상기 미세 조정된 화이트 픽셀값을 차감하여 크로마 어레이를 계산할 수 있다.
상기 크로마 추정부는 상기 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도(similarity)에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정할 수 있다.
또한, 본 발명의 다른 실시예에 따른 이미지 생성 장치는 복수의 픽셀을 구비한 이미지 센서; 및 상기 이미지 센서의 출력신호를 처리하는 이미지 신호 프로세서를 포함하되, 상기 이미지 센서 및 상기 이미지 신호 프로세서중 어느 하나의 내부에 디모자익 동작 회로가 구현되며, 상기 디모자익 동작 회로는, 복수의 픽셀이 구비된 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정부; 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 미세 조정부; 상기 소스 픽셀 데이터와 상기 미세 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 크로마 추정부; 및 상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 색상 보정부를 포함할 수 있다.
상기 화이트 픽셀값 추정부는 상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값의 절대값을 바탕으로 방향별 화이트 픽셀값을 계산하는 방향별 화이트 픽셀값 계산 블록; 상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산하는 RGB 채널 평균값 계산 블록; 및 상기 방향별 화이트 픽셀값 계산 블록에서 계산된 상기 방향별 화이트 픽셀값 및 상기 RGB 채널 평균값 계산 블록에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정 블록을 포함할 수 있다.
상기 화이트 픽셀값 추정블록은 상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정할 수 있다.
상기 미세 조정부는 상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 상기 화이트 픽셀 추정부에서 추정된 화이트 픽셀값을 이용하여 화이트 픽셀값을 미세 조정할 수 있다.
상기 크로마 추정부는 상기 소스 픽셀 데이터로부터 상기 조정된 화이트 픽셀값을 차감하여 크로마 어레이를 계산할 수 있다.
상기 크로마 추정부는 상기 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정할 수 있다.
본 발명의 다른 실시예에 따른 이미지 센싱 장치의 동작 방법은 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 화이트 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 단계; 픽셀 어레이의 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 단계; 상기 소스 픽셀 데이터와 상기 미세 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 단계; 및 상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 단계를 포함할 수 있다.
상기 화이트 픽셀값을 추정하는 단계는 상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값을 바탕으로 방향별 화이트 픽셀값을 계산하는 단계; 및상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산하는 단계를 포함하고, 상기 방향별 화이트 픽셀값을 단계에서 계산된 방향별 화이트 픽셀값 및 상기 RGB 채널 평균값을 계산하는 단계에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정할 수 있다.
상기 화이트 픽셀값을 추정하는 단계에서는 상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정할 수 있다.
상기 화이트 픽셀값을 미세 조정하는 단계에서는 상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 상기 화이트 픽셀 추정부에서 추정된 화이트 픽셀값을 이용하여 화이트 픽셀값을 미세 조정할 수 있다.
상기 채널별 크로마를 추정하는 단계에서는 상기 소스 픽셀 데이터로부터 상기 조정된 화이트 픽셀값을 차감하여 크로마 어레이를 계산할 수 있다.
상기 채널별 크로마를 추정하는 단계에서는 상기 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정할 수 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 실시 예들은 화이트 픽셀이 50%로 구비된 다양한 RGBW패턴에 대해 디모자익 동작을 실행할 수 있으므로 이미지 생성 장치의 적용성을 향상시킬 수 있다.
도 1은 본 발명의 일 실시예에 따른 디모자익 동작 회로의 블록도를 나타낸다.
도 2는 다른 색상을 갖는 픽셀간의 차이값을 바탕으로 방향별 화이트 픽셀의 계산을 설명하는 도면이다.
도 3은 화이트 픽셀간의 차이를 바탕으로 방향별 화이트 픽셀의 계산을 설명하는 도면이다.
도 4는 센터에 위치한 레드 픽셀의 추정된 화이트 픽셀을 나타내는 도면이다.
도 5는 화이트 픽셀의 미세 조정을 설명하는 도면이다.
도 6은 크로마 어레이의 추정을 설명하는 도면이다.
도 7은 화이트 픽셀 게인, 엣지 게인 및 색상 게인을 나타내는 그래프이다.
도 8은 본 발명의 다른 실시예에 따른 이미지 센싱 장치의 블록도를 나타낸다.
도 9는 본 발명의 또 다른 실시 예에 따른 이미지 센싱 장치의 블록도를 나타낸다.
도 10은 본 발명의 또 다른 실시예에 따른 이미지 센싱 장치의 동작을 설명하는 흐름도이다.
도 11은 본 발명의 일시예에 따른 이미지 센싱 장치가 적용된 시스템의 일 실시예를 설명하는 블록도를 나타낸다.
이하, 본 발명에 따른 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 하기의 설명에서는 본 발명에 따른 동작을 이해하는데 필요한 부분만이 설명되며 그 이외 부분의 설명은 본 발명의 요지를 흩뜨리지 않도록 생략될 것이라는 것을 유의하여야 한다.
이하, 도면들을 참조하여 본 발명의 실시 예들에 대해서 보다 구체적으로 설명하기로 한다.
도 1 내지 도 7을 참조하여 본 발명의 일 실시예에 따른 디모자익 동작 회로를 설명한다.
도 1은 본 발명의 일 실시예에 따른 디모자익 동작 회로의 블록도를 나타내고, 도 2는 다른 색상을 갖는 픽셀간의 차이를 바탕으로 화이트 픽셀의 추정을 설명하는 도면이며, 도 3은 화이트 픽셀간의 차이를 바탕으로 화이트 픽셀의 추정을 설명하는 도면이고, 도 4는 센터에 위치한 레드 픽셀의 추정된 화이트 픽셀을 나타내는 도면이며, 도 5는 화이트 픽셀의 미세 조정을 설명하는 도면이고, 도 6은 크로마 어레이의 추정을 설명하는 도면이며, 도 7은 화이트 픽셀 게인, 엣지 게인 및 색상 게인을 나타내는 그래프이다.
도 1에 도시된 본 발명의 일 실시예에 따른 디모자익 동작 회로(300)는 화이트 픽셀값 추정부(310), 미세 조정부(320), 크로마 추정부(330) 및 색상 보정부(340)를 포함할 수 있다.
화이트 픽셀값 추정부(310)는 복수의 픽셀이 구비된 픽셀 어레이(미도시)로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 화이트 픽셀의 기울기값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정할 수 있다. 화이트 픽셀값 추정부(310)는 방향별 화이트 픽셀값 계산 블록(312), RGB 채널 평균값 계산 블록(314) 및 화이트 픽셀값 추정 블록(316)을 포함할 수 있다.
방향별 화이트 픽셀값 계산 블록(312)은 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값을 바탕으로 방향별 화이트 픽셀의 기울기값을 계산할 수 있다.
도 2를 참조하면, 수식 1과 같이 서로 다른 색상을 갖는 픽셀간의 차이값을 이용하여 방향별 화이트 픽셀의 기울기값이 계산될 수 있다.
Figure pat00001
이때,
Figure pat00002
는 소스 픽셀 데이터중에서 픽셀(P33) 중심으로 동쪽방향으로 서로 다른 색상을 갖는 픽셀간의 차이값의 합을 나타내고,
Figure pat00003
는 픽셀(P33) 중심으로 서쪽방향으로 서로 다른 색상을 갖는 픽셀간의 차이값의 합을 나타내며,
Figure pat00004
는 픽셀(P33) 중심으로 수평방향의 픽셀간의 차이값의 합을 나타내고,
Figure pat00005
는 픽셀(P33) 중심으로 수직방향의 픽셀간의 차이값의 합을 나타내며,
Figure pat00006
는 픽셀(P33)의 1차 추정된 화이트 픽셀값을 나타내고,
Figure pat00007
는 동쪽 방향 화이트 픽셀의 기울기값을 나타낸다.
또한, 상기 수식 1과 동일한 방식으로 서쪽 방향 화이트 픽셀값, 남쪽 방향 화이트 픽셀값, 북쪽 방향 화이트 픽셀값을 구할수 있다.
도 3을 참조하면, 하기 수식 2와 같이 화이트 픽셀간의 차이값을 이용하여 방향별 화이트 픽셀의 기울기값이 계산될 수 있다.
Figure pat00008
이때,
Figure pat00009
는 동쪽 방향 화이트 픽셀의 기울기값을 나타내며, 상기 수식 2와 동일한 방식으로 서쪽 방향 화이트 픽셀의 기울기값, 남쪽 방향 화이트 픽셀의 기울기값, 북쪽 방향 화이트 픽셀의 기울기값을 구할수 있다.
RGB 채널 평균값 계산 블록(314)은 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 각 채널의 평균값을 계산할 수 있다.
화이트 픽셀값 추정 블록(316)은 방향별 화이트 픽셀값 계산 블록(312)에서 계산된 방향별 화이트 픽셀의 기울기값 및 상기 RGB 채널 평균값 계산 블록(314)에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정할 수 있다.
추정된 수평방향 화이트 픽셀값은 하기 수식 3과 같이 계산되어 추정될 수 있다.
Figure pat00010
이때,
Figure pat00011
는 동쪽 방향 화이트 픽셀의 기울기값을 나타내고,
Figure pat00012
는 서쪽 방향 화이트 픽셀의 기울기값을 나타내며,
Figure pat00013
는 픽셀(P34)에서의 서쪽 방향 화이트 픽셀값을 나타내며,
Figure pat00014
는 픽셀(P32)에서 동쪽 방향 화이트 픽셀값을 나타내고,
Figure pat00015
는 픽셀(P33)에서 추정된 수평방향 화이트 픽셀값을 나타낸다.
추정된 수직방향 화이트 픽셀값은 하기 수식 4와 같이 계산되어 추정될 수 있다.
Figure pat00016
이때,
Figure pat00017
은 북쪽 방향 화이트 픽셀의 기울기값을 나타내고,
Figure pat00018
는 남쪽 방향 화이트 픽셀의 기울기값을 나타내며,
Figure pat00019
는 픽셀(P43)에서 남쪽 방향 화이트 픽셀값을 나타내고,
Figure pat00020
는 픽셀(P23)에서 북쪽 방향 화이트 픽셀값을 나타내며,
Figure pat00021
는 픽셀(P33)에서 추정된 수직방향 화이트 픽셀값을 나타낸다.
추정된 수평/수직방향 화이트 픽셀값은 하기 수식 5와 같이 계산되어 추정될 수 있다.
Figure pat00022
이때
Figure pat00023
는 픽셀(P43)에서 남쪽 방향 화이트 픽셀값을 나타내고,
Figure pat00024
는 픽셀(P23)에서 북쪽 방향 화이트 픽셀값을 나타내며,
Figure pat00025
는 픽셀(P33)에서 추정된 수평/수직방향 화이트 픽셀값을 나타낸다.
미세 조정부(320)는 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정할 수 있다.
예를들어, 도 4에 도시된 바와 같이, 7x7 커널(kernel)의 센터에 위치한 레드 픽셀(R33)에서 추정된 화이트 픽셀값(Wc)을 미세 조정할 수 있다(R33=Wc).
특히, 센터 픽셀이 레드 픽셀(Red pixel), 블루 픽셀(Blue pixel) 또는 그린 픽셀(Green pixel)인 경우 화이트 픽셀값 추정부(310)에서 추정된 화이트 픽셀값을 이용하여 수평필터, 수직필터 또는 수평/수직필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정할 수 있다.
도 5를 참조하면, 동쪽 방향 화이트 픽셀의 기울기값과 서쪽 방향 화이트 픽셀의 기울기 값의 합에 소정의 가중치를 부여한 값이 남쪽 방향 화이트 픽셀의 기울기값과 북쪽 방향 화이트 픽셀의 기울기값의 합보다 작다면 수평 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정할 수 있다.
또한, 동쪽 방향 화이트 픽셀의 기울기값과 서쪽 방향 화이트 픽셀의 기울기 값의 합에 소정의 가중치를 부여한 값이 남쪽 방향 화이트 픽셀의 기울기값과 북쪽 방향 화이트 픽셀의 기울기값의 합보다 크다면 수직 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정할 수 있다.
또한, 동쪽 방향 화이트 픽셀의 기울기값과 서쪽 방향 화이트 픽셀의 기울기 값의 합에 소정의 가중치를 부여한 값이 남쪽 방향 화이트 픽셀의 기울기값과 북쪽 방향 화이트 픽셀의 기울기값의 합과 동일하면 수평/수직 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정할 수 있다.
크로마 추정부(330)는 소스 픽셀 데이터와 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정할 수 있다.
보다 상세하게, 도 6에 도시된 바와 같이, 크로마 추정부(330)는 소스 픽셀 데이터로(Bayer pattern)부터 조정된 화이트 픽셀값(White)을 차감하여 크로마 어레이를 계산하고 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도(similarity)에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정할 수 있다.
채널별 크로마는 하기 수식 6에 따라 추정될 수 있다.
Figure pat00026
이때,
Figure pat00027
는 센터에 위치한 레드 픽셀의 추정된 크로마를 나타내고,
Figure pat00028
는 센터에 위치한 그린 픽셀의 추정된 크로마를 나타내며,
Figure pat00029
는 센터에 위치한 블루 픽셀의 추정된 크로마를 나타내고, wgt는 가중치를 나타내며, (i,j)는 레드 픽셀, 그린 픽셀, 블루 픽셀의 위치를 나타낸다.
색상 보정부(340)는 미세 조정부(320)에서 추정된 화이트 픽셀값 및 크로마 추정부(330)에서 추정된 크로마 가중치를 바탕으로 색상을 보정할 수 있다.
도 7을 참조하면, 화이트 픽셀 게인(DYgain), 엣지 게인(Edgegain), 색상 게인(Colorgain)에 대한 그래프를 통해 색상 보정을 최적화할 수 있다.
즉, 하기 수식 7과 같이 색상 보정을 계산할 수 있다.
Figure pat00030
이때, fcsgain은 에러 색상 보정 게인을 나타내고, DYgain은 화이트 픽셀 게인을 나타내며, Edgegain은 엣지 게인을 나타내고, Colorgain은 색상 게인을 나타내며, Rout은 센터에 위치한 레드 픽셀의 미세 조정된 화이트 픽셀값과 추정된 크로마값의 합을 나타내고, Gout은 센터에 위치한 그린 픽셀의 미세 조정된 화이트 픽셀값과 추정된 크로마값의 합을 나타내며, Bout은 센터에 위치한 블루 픽셀의 미세 조정된 화이트 픽셀값과 추정된 크로마값의 합을 나타내고, Rest는 레드 픽셀의 보정된 색상을 나타내며, Best는 블루 픽셀의 보정된 색상을 나타낸다.
도 8은 본 발명의 일 실시예에 따른 이미지 센싱 장치의 블록도를 나타낸다.
도 8을 참조하면, 이미지 센싱 장치(10)는 이미지 센서(100) 및 이미지 신호 프로세서(ISP, 400)를 포함할 수 있다.
이미지 센싱 장치(10)는 PC(personal computer) 또는 모바일 컴퓨팅 장치로 구현될 수있다. 상기 이미지 센싱 장치는 랩탑 컴퓨터 (laptop computer), 이동 전화기, 스마트 폰(smart phone), 태블릿(tablet) PC, PDA(personal digital assistant), EDA (enterprise digital assistant), 디지털 스틸 카메라(digital still camera), 디지털 비디오 카메라(digital video camera), PMP(portable multimedia player), 모바일 인터넷 장치(mobile internet device(MID)), 웨어러블 컴퓨터, 사물 인터넷(internet of things(IoT))장치, 또는 만물 인터넷(internet of everything(IoE)) 장치로 구현될 수 있다.
도 8에 도시된 이미지 센서(100)는 픽셀 어레이(200)와 디모자익 동작 회로(300)를 포함할 수 있다.
픽셀 어레이(200)는 복수의 픽셀을 구비할 수 있다. 여기서, 픽셀(pixel)은 픽셀 데이터를 의미할 수 있고, RGB 데이터 포맷, YUV 데이터 포맷, 또는 YCbCr 데이터 포맷을 가질 수 있으나 이에 한정되는 것은 아니다.
디모자익 동작 회로(300)는 화이트 픽셀이 50%를 차지하는 RGBW 패턴의 디모자익(demosaic) 동작을 수행한다.
디모자익 동작 회로(300)의 상세 구성 및 동작은 도 1 내지 도 7에 도시된 디모자익(demosaic) 동작 회로(300)의 구성 및 동작과 실질적으로 동일하거나 유사하므로 이에 대한 상세한 설명은 생략한다.
이미지 신호 프로세서(400)는 프로세서의 일 실시 예로서 집적 회로, 시스템 온 칩(system on chip(SoC)), 또는 모바일 AP로 구현될 수 있다. 이미지 신호 프로세서(400)는 상기 이미지 센서(100)의 출력신호를 처리한다. 즉, 이미지 센서(100)내에 구비된 디모자익 동작 회로(300)에서 화이트 픽셀이 50%를 차지하는 RGBW 패턴의 디모자익(demosaic) 동작을 수행한 이미지 이미지 출력신호를 제공받아 처리한다.
상세하게는, 이미지 신호 프로세서(400)는 픽셀 데이터에 상응하는 베이어 패턴(BAYER)을 처리하여 RGB 이미지 데이터를 생성할 수 있다. 예컨대, 이미지 신호 프로세서(400)는 이미지 데이터(IDATA)가 디스플레이에서 디스플레이될 수 있도록 베이어 패턴(BAYER)을 가공(또는 처리)하고, 가공(또는 처리)된 이미지 데이터를 인터페이스로 전송할 수 있다.
실시예에 따라, 이미지 센서(100)와 이미지 신호 프로세서(400)는 각각 칩으로 구현되고, 하나의 패키지, 예컨대 멀티-칩 패키지(multi-chip package(MCP))로 구현될 수 있다. 다른 실시 예에 따라, 이미지 센서(100)와 이미지 신호 프로세서(400)는 하나의 칩으로 구현될 수도 있다.
도 9는 본 발명의 다른 실시 예에 따른 이미지 센싱 장치의 블록도를 나타낸다.
도 9를 참조하면, 이미지 센싱 장치(10)는 이미지 센서(100) 및 이미지 신호 프로세서(ISP, 400)를 포함할 수 있다.
디모자익 동작 회로(300)는 이미지 센서(100) 내에 구현되지 않고 이미지 신호 프로세서(400) 내에 구현된 것을 제외하면, 도 9의 이미지 센싱 장치(10)의 구조와 동작은 도 8의 이미지 센싱 장치(10)의 구조와 동작이 실질적으로 동일하거나 유사하므로 상세한 설명은 생략한다.
이하, 도 10을 참조하여 본 발명의 또 다른 실시예에 따른 이미지 생성 장치의 동작을 설명한다. 도 10은 본 발명의 또 다른 실시예에 따른 이미지 생성 장치의 동작을 설명하는 흐름도이다.
도 10에 도시된 이미지 생성 장치의 동작은 화이트 픽셀값을 추정하는 단계(S1000), 추정된 화이트 픽셀값을 미세조정하는 단계(S1100), 채널별 크로마를 추정하는 단계(S1200) 및 색상을 보정하는 단계(S1300)을 포함한다.
화이트 픽셀값을 추정하는 단계(S1000)에서는 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 화이트 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정할 수 있다.
상기 화이트 픽셀값을 추정하는 단계는 방향별 화이트 픽셀값을 계산하는 단계, RGB 채널 평균값을 계산하는 단계 및 화이트 픽셀값의 추정 단계를 포함할 수 있다.
방향별 화이트 픽셀값을 계산하는 단계에서는 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값을 바탕으로 방향별 화이트 픽셀값을 계산할 수 있다.
RGB 채널 평균값을 계산하는 단계에서는 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산할 수 있다.
화이트 픽셀값의 추정 단계에서는 방향별 화이트 픽셀값을 단계에서 계산된 방향별 화이트 픽셀값 및 RGB 채널 평균값을 계산하는 단계에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정할 수 있다.
이때, 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정할 수 있다.
화이트 픽셀값을 미세 조정하는 단계(S1100)에서는 픽셀 어레이의 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정할 수 있다.
이때, 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 화이트 픽셀 추정 단계에서 추정된 화이트 픽셀값을 이용하여 화이트 픽셀값을 미세 조정할 수 있다.
크로마를 추정하는 단계(S1200)에서는 소스 픽셀 데이터와 미세 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정할 수 있다.
이때, 크로마 어레이는 소스 픽셀 데이터로부터 상기 조정된 화이트 픽셀값을 차감하여 계산될 수 있다.
또한, 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도(similarity)에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정할 수 있다.
이하, 본 발명의 일시예에 따른 이미지 센싱 장치가 적용된 시스템의 일 실시예를 설명한다. 도 11은 본 발명의 일시예에 따른 이미지 센싱 장치가 적용된 시스템의 일 실시예를 설명하는 블록도를 나타낸다.
도 11에 도시된 시스템은 퍼스널 컴퓨터 시스템, 데스크탑 컴퓨터, 랩탑 또는 노트북 컴퓨터, 메인프레임 컴퓨터 시스템, 핸드헬드 컴퓨팅 디바이스, 셀룰러 폰, 스마트폰, 모바일 폰, 워크스테이션, 네트워크 컴퓨터, 소비자 디바이스, 애플리케이션 서버, 저장 디바이스, 지능형 디스플레이, 주변장치 디바이스 그 예로서 스위치, 모뎀, 라우터, 기타 등등, 또는 일반적으로 임의의 유형의 컴퓨팅 디바이스를 포함하지만, 이에 제한되지 않는 다양한 유형들의 컴퓨팅 디바이스 중 어느 것일 수 있다.
일 예시 실시예에 따라서, 도 11에 예시된 시스템은 시스템-온-칩(system-on-a-chip, SOC)을 나타낼 수 있다. 이름에서 암시되는 바와 같이, SOC(1000)의 컴포넌트들은 집적 회로 "칩"처럼 단일 반도체 기판 상에 집적될 수 있다. 몇몇 실시예에서, 컴포넌트들은 시스템에서 둘 이상의 별개의 칩 상에 구현될 수 있다. SOC(1000)는 본 명세서에서 예시로서 사용될 것이다.
예시된 실시예에서, SOC(1000)의 컴포넌트들은 중앙 프로세싱 유닛(CPU) 컴플렉스(1020), 온-칩 주변장치 컴포넌트들(1040A 및 1040B)(보다 간략하게, "주변장치들"), 메모리 제어기(MC)(1030), 이미지 신호 프로세서(400) 및 통신 패브릭(fabric)(1010)을 포함할 수 있다.
SOC(1000)는 또한 추가 컴포넌트들에, 그 예로서 메모리(1800) 및 이미지 센서(100)에 결합될 수 있다. 컴포넌트들(1020, 1030, 1040A 및 1040B, 그리고 200) 모두는 통신 패브릭(1010)에 결합될 수 있다. 메모리 제어기(1030)는 사용 중에 메모리(1800)에 결합될 수 있고, 주변장치(1040B)는 사용 중에 외부 인터페이스(1900)에 결합될 수 있다.
예시되는 실시예에서, CPU 컴플렉스(1020)는 하나 이상의 프로세서(1024) 및 레벨 2(L2) 캐시(1022)를 포함할 수 있다. 주변장치들(1040A 및 1040B)은 SOC(1000)에 포함된 추가 하드웨어 기능성의 임의의 세트일 수 있다. 예를들어, 주변장치들(1040A 및 1040B)은 하나 이상의 디스플레이 디바이스들 상에 비디오 데이터를 디스플레잉하도록 구성된 디스플레이 제어기들, 그래픽 프로세싱 유닛(GPU)들, 비디오 인코더/디코더들, 스케일러(scaler)들, 로테이터(rotator)들, 블렌더(blender)들, 기타 등등을 포함할 수 있다.
이미지 신호 프로세서(400)는 이미지 센서(100)(또는 다른 이미지 센서)로부터 이미지 캡처 데이터를 프로세싱할 수 있다. 이미지 신호 프로세서(400) 및 이미지 센서(100)는 도 1 내지 도 10에 도시된 이미지 신호 프로세서(400)와 이미지 센서(100)의 구성 및 동작이 적용될 수 있다.
주변장치들은 또한 오디오 주변장치들 그 예로서 마이크로폰들, 스피커들, 마이크로폰들 및 스피커들에 대한 인터페이스들, 오디오 프로세서들, 디지털 신호 프로세서들, 믹서들, 기타 등등을 포함할 수 있다. 주변장치들은, 인터페이스들 그 예로서 범용 직렬 버스(USB), PCI 익스프레스(PCIe)를 포함한 주변장치 컴포넌트 인터커넥트(PCI), 직렬 및 병렬 포트들, 기타 등등을 포함한 SOC(1000) 외부의 다양한 인터페이스들(1900)에 대한 주변장치 인터페이스제어기들(예컨대, 주변장치(1040B))을 포함할 수 있다. 주변장치들은 네트워킹 주변장치들 그 예로서 미디어 액세스 제어기(MAC)들을 더 포함할 수 있다. 일반적으로, 임의의 세트의 하드웨어가 다양한 실시예들에 따라서 포함될 수 있다.
CPU 컴플렉스(1020)는 SOC(1000)의 CPU 역할을 하는 하나 이상의 CPU 프로세서들(1024)을 포함할 수 있다. 시스템의 CPU는 시스템, 그 예로서 운영체제의 메인 제어 소프트웨어를 실행하는 프로세서(들)를 포함할 수 있다. 일반적으로, 사용 중 CPU에 의해 실행되는 소프트웨어는 시스템의 다른 컴포넌트들을 제어하여 소기의 시스템의 기능성을 실현할 수 있다. 프로세서들(1024)은 또한 다른 소프트웨어, 그 예로서 애플리케이션 프로그램들을 실행할 수 있다. 애플리케이션 프로그램들은 사용자 기능성을 제공할 수 있고, 저 레벨 디바이스 제어를 위해 운영체제에 의존할 수 있다. 따라서, 프로세서들(1024)은 또한 애플리케이션 프로세서들로 지칭될 수 있다.
CPU 컴플렉스(1020)는 다른 하드웨어, 그 예로서 L2 캐시(1022) 및/또는 시스템의 다른 컴포넌트들에 대한 인터페이스(예컨대, 통신 패브릭(1010)에 대한 인터페이스)를 더 포함할 수 있다.
일반적으로, 프로세서는 프로세서에 의해 구현된 명령어 세트 아키텍처에 정의된 명령어들을 실행하도록 구성된 임의의 회로 및/또는 마이크로코드를 포함할 수 있다. 명령어들을 실행시키는 것에 응답하여 프로세서들 상에 의해 동작되는 명령어들 및 데이터는 메모리(1800)에 일반적으로 저장될 수 있지만, 소정의 명령어들 역시 주변장치들로의 직접적인 프로세서 액세스에 대해 정의될 수 있다. 프로세서들은 시스템 온 칩(SOC(1000)) 또는 다른 레벨들의 통합부로서 다른 컴포넌트들과 함께 집적 회로 상에서 구현된 프로세서 코어들을 망라할 수 있다. 프로세서들은 별개의 마이크로프로세서들, 프로세서 코어들 및/또는 멀티칩 모듈 구현부들 내에 집적화된 마이크로프로세서들, 다수의 집적 회로들로서 구현된 프로세서들, 기타 등등을 더 망라할 수 있다.
메모리 제어기(1030)는 일반적으로 SOC(1000)의 다른 컴포넌트들로부터 메모리 동작들을 수신하고, 메모리(1800)에 액세스하여 메모리 동작들을 완수하기 위한 회로를 포함할 수 있다. 메모리 제어기(1030)는 임의의 유형의 메모리(1800)에 액세스하도록 구성될 수 있다. 예를 들어, 메모리(1800)는 SRAM(static random accessmemory), DRAM(dynamic RAM), 그 예로서 더블 데이터 레이트(DDR, DDR2, DDR3 기타 등등) DRAM을 포함하는 SDRAM(synchronous DRAM)일 수 있다. 저전력/모바일 버전들의 DDR DRAM(예컨대, LPDDR, mDDR 기타 등등)이 지원될 수 있다. 메모리 제어기(1030)는 동작들을 지시하고(그리고 잠재적으로 재지시하고) 동작들을 메모리(1800)에 제시하는, 메모리 동작들을 위한 큐들을 포함할 수 있다. 메모리 제어기(1030)는 메모리로의 기입을 기다리는 기입 데이터 및 메모리 동작의 소스로의 복귀를 기다리는 판독 데이터를 저장하는 데이터 버퍼들을 더 포함할 수 있다.
몇몇 실시예들에서, 메모리 제어기(1030)는 최근에 액세스된 메모리 데이터를 저장하는 메모리 캐시를 포함할 수 있다. SOC 구현예들에서, 예를 들어, 메모리 캐시는, 다시 곧 액세스될 것으로 예상되는 경우에 메모리(1800)로부터의 데이터의 재-액세스를 피함으로써, SOC에서의 전력 비를 감소시킬 수 있다. 일부 경우들에서, 메모리 캐시는 또한, 소정의 컴포넌트들만을 보조하는 프라이빗 캐시들 그 예로서 프로세서들(1024)의 L2 캐시(1022) 또는 캐시들과 상반되는 것과 같은, 시스템 캐시로서 지칭될 수 있다. 추가적으로, 몇몇 실시예에서, 시스템 캐시는 메모리 제어기(1030) 내에 위치될 필요가 없다.
실시예에서, 메모리(1800)는 칩-온-칩 또는 패키지-온-패키지 구성으로 SOC(1000)와 함께 패키징될 수 있다. SOC(1000) 및 메모리(1800)의 멀티칩 모듈 구성 역시 사용될 수 있다. 그러한 구성들은 시스템 내의 다른 컴포넌트들로의(예컨대, 종점들 16A 및 16B로의) 전송들보다 (데이터 관측 면에서) 상대적으로 더 안정적일 수
있다. 따라서, 보호 데이터는 메모리(1800)에 암호화되지 않은 상태로 상주할 수 있는 반면, 보호 데이터는 SOC(1000)와 외부 종점들 사이에서의 교환을 위해 암호화될 수 있다.
통신 패브릭(1010)은 SOC(1000)의 컴포넌트들 중에서 통신을 위한 임의의 통신 인터커넥트 및 프로토콜일 수 있다. 통신 패브릭(1010)은 공유 버스 구성들, 크로스 바(cross bar) 구성들, 및 브릿지를 갖는 계층적 버스들을 포함한 버스에 기반할 수 있다. 통신 패브릭(1010)은 또한 패킷에 기반할 수 있고, 브릿지를 갖는 계층이거나, 크로스 바, 지점 간 연결(point-to-point), 또는 다른 인터커넥트들일 수 있다. 도 9에 도시된 개수보다 많거나 적은 각각의 컴포넌트/서브컴포넌트가 있을 수 있다.
몇몇 실시예들에서, 본 명세서에서 기술된 방법들은 컴퓨터 프로그램 제품, 또는 소프트웨어에 의해 구현될 수 있다. 몇몇 실시예들에서, 비-일시적인, 컴퓨터-판독가능 저장 매체는 컴퓨터 시스템(또는 다른 전자 디바이스들)을 프로그램하여, 본 명세서에 기술된 기법들 중 몇몇 또는 모두를 수행하기 위해 사용될 수 있는 명령어들을 저장할 수 있다. 컴퓨터-판독가능 저장 매체는 기계(예컨대, 컴퓨터)에 의해 판독가능한 형태(예컨대, 소프트웨어, 프로세싱 애플리케이션)로 정보를 저장하는 임의의 메커니즘을 포함할 수 있다. 기계-판독가능 매체는 자기 저장 매체(예컨대, 플로피 디스켓); 광 저장 매체(예컨대, CD-ROM); 광자기 저장 매체; 판독 전용 메모리(ROM); 랜덤 액세스 메모리(RAM); 소거 및 프로그램가능 메모리(예컨대, EPROM 및 EEPROM); 플래시 메모리; 전기, 또는 프로그램 명령어들을 저장하기에 적합한 다른 유형들의 매체를 포함할 수 있지만, 이에 제한되지 않는다. 추가로, 프로그램 명령어들은 광, 음향 또는 다른 형태의 전파된 신호(예컨대, 반송파들, 적외선 신호들, 디지털 신호들, 기타 등등)를 사용하여 통신될 수 있다.
컴퓨터 시스템(1000)은 하나 이상의 모듈들, 그 예로서 동일한 컴퓨터 시스템의 메모리(1800)에 저장된 프로그램 명령어들 내에 존재할 수 있거나, 컴퓨터 시스템(1000)과 유사하거나 서로 다른 또 다른 컴퓨터 시스템의 메모리 내에 저장된 프로그램 명령어들 내에 존재할 수 있는, 노이즈 제거 회로를 실행하도록 구성될 수 있는 프로세서 유닛(1020)(가능하다면 다수의 프로세서들, 싱글-스레드(threaded) 프로세서, 멀티-스레드 프로세서, 멀티-코어 프로세서, 기타 등등을 포함함)을 포함할 수 있다.
한편, 본 발명의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로, 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 안되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.
10: 이미지 센싱 장치
100: 이미지 센서
200: 픽셀 어레이
300: 디모자익 동작 회로
310: 화이트 픽셀값 추정부
320: 미세 조정부
330: 크로마 추정부
340: 색상 보정부
400: 이미지 신호 프로세서

Claims (20)

  1. 복수의 픽셀이 구비된 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정부;
    센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 미세 조정부;
    상기 소스 픽셀 데이터와 상기 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 크로마 추정부; 및
    상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 색상 보정부를
    포함하는 디모자익 동작 회로.
  2. 제1항에 있어서,
    상기 화이트 픽셀값 추정부는
    상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값의 절대값을 바탕으로 방향별 화이트 픽셀의 기울기값을 계산하는 방향별 화이트 픽셀값 계산 블록;
    상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산하는 RGB 채널 평균값 계산 블록; 및
    상기 방향별 화이트 픽셀값 계산 블록에서 계산된 방향별 화이트 픽셀의 기울기값 및 상기 RGB 채널 평균값 계산 블록에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정 블록을
    포함하는 디모자익 동작 회로.
  3. 제2항에 있어서,
    상기 화이트 픽셀값 추정블록은
    상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정하는
    디모자익 동작 회로.
  4. 제3항에 있어서,
    상기 미세 조정부는
    상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 상기 화이트 픽셀 추정부에서 추정된 화이트 픽셀의 기울기값을 이용하여 화이트 픽셀값을 미세 조정하는
    디모자익 동작 회로.
  5. 제1항에 있어서,
    상기 크로마 추정부는
    상기 소스 픽셀 데이터로부터 상기 미세 조정된 화이트 픽셀값을 차감하여 크로마 어레이를 계산하는
    디모자익 동작 회로.
  6. 제5항에 있어서,
    상기 크로마 추정부는
    상기 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도(similarity)에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정하는
    디모자익 동작 회로.
  7. 제6항에 있어서,
    하기 수식에 따라 상기 채널별 크로마를 추정하는 디모자익 동작회로,
    Figure pat00031

    이때,
    Figure pat00032
    는 센터에 위치한 레드 픽셀의 추정된 크로마를 나타내고,
    Figure pat00033
    는 센터에 위치한 그린 픽셀의 추정된 크로마를 나타내며,
    Figure pat00034
    는 센터에 위치한 블루 픽셀의 추정된 크로마를 나타내고, wgt는 가중치를 나타내며, (i,j)는 레드 픽셀, 그린 픽셀, 블루 픽셀의 위치를 나타낸다.
  8. 제7항에 있어서,
    상기 색상 보정부는 하기 수식들에 따라 색상을 보정하는 디모자익 동작회로,
    Figure pat00035

    이때, fcsgain은 에러 색상 보정 게인을 나타내고, DYgain은 화이트 픽셀 게인을 나타내며, Edgegain은 엣지 게인을 나타내고, Colorgain은 색상 게인을 나타내며, Rout은 센터에 위치한 레드 픽셀의 미세 조정된 화이트 픽셀값과 추정된 크로마값의 합을 나타내고, Gout은 센터에 위치한 그린 픽셀의 미세 조정된 화이트 픽셀값과 추정된 크로마값의 합을 나타내며, Bout은 센터에 위치한 블루 픽셀의 미세 조정된 화이트 픽셀값과 추정된 크로마값의 합을 나타내고, Rest는 레드 픽셀의 보정된 색상을 나타내며, Best는 블루 픽셀의 보정된 색상을 나타낸다.
  9. 복수의 픽셀을 구비한 이미지 센서; 및
    상기 이미지 센서의 출력신호를 처리하는 이미지 신호 프로세서를 포함하되,
    상기 이미지 센서 및 상기 이미지 신호 프로세서중 어느 하나의 내부에 디모자익 동작 회로가 구현되며,
    상기 디모자익 동작 회로는,
    복수의 픽셀이 구비된 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정부;
    센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 미세 조정부;
    상기 소스 픽셀 데이터와 상기 미세 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 크로마 추정부; 및
    상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 색상 보정부를
    포함하는 이미지 센싱 장치.
  10. 제9항에 있어서,
    상기 화이트 픽셀값 추정부는
    상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값의 절대값을 바탕으로 방향별 화이트 픽셀값을 계산하는 방향별 화이트 픽셀값 계산 블록;
    상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산하는 RGB 채널 평균값 계산 블록; 및
    상기 방향별 화이트 픽셀값 계산 블록에서 계산된 상기 방향별 화이트 픽셀값 및 상기 RGB 채널 평균값 계산 블록에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정하는 화이트 픽셀값 추정 블록을
    포함하는 이미지 센싱 장치.
  11. 제10항에 있어서,
    상기 화이트 픽셀값 추정블록은
    상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정하는
    이미지 센싱 장치.
  12. 제11항에 있어서,
    상기 미세 조정부는
    상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 상기 화이트 픽셀 추정부에서 추정된 화이트 픽셀값을 이용하여 화이트 픽셀값을 미세 조정하는
    이미지 센싱 장치.
  13. 제9항에 있어서,
    상기 크로마 추정부는
    상기 소스 픽셀 데이터로부터 상기 조정된 화이트 픽셀값을 차감하여 크로마 어레이를 계산하는
    이미지 센싱 장치.
  14. 제13항에 있어서,
    상기 크로마 추정부는
    상기 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정하는
    이미지 센싱 장치.
  15. 픽셀 어레이로부터 제공되는 소스 픽셀 데이터를 이용하여 방향별 화이트 픽셀값 및 RGB 채널 평균값을 획득하고 이를 바탕으로 화이트 픽셀값을 추정하는 단계;
    픽셀 어레이의 센터 픽셀과 주변 화이트 픽셀의 기울기에 따라 서로 다르게 할당된 가중치를 바탕으로 서로 다른 필터를 통해 노이즈를 제거하여 추정된 화이트 픽셀값을 미세 조정하는 단계;
    상기 소스 픽셀 데이터와 상기 미세 조정된 화이트 픽셀값을 바탕으로 크로마 어레이를 계산하여 채널별 크로마를 추정하는 단계; 및
    상기 미세 조정부에서 추정된 화이트 픽셀값 및 크로마 추정부에서 추정된 크로마 가중치를 바탕으로 색상을 보정하는 단계를
    포함하는 이미지 센싱 장치의 동작 방법.
  16. 제15항에 있어서,
    상기 화이트 픽셀값을 추정하는 단계는
    상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 서로 다른 색상을 갖는 픽셀간의 차이값 및 화이트 픽셀간의 차이값을 바탕으로 방향별 화이트 픽셀값을 계산하는 단계; 및
    상기 픽셀 어레이로부터 제공되는 소스 픽셀 데이터중 센터 픽셀의 위치에 따라 RGB 채널 평균값을 계산하는 단계를 포함하고,
    상기 방향별 화이트 픽셀값을 단계에서 계산된 방향별 화이트 픽셀값 및 상기 RGB 채널 평균값을 계산하는 단계에서 계산된 RGB 채널 평균값을 바탕으로 화이트 픽셀값을 추정하는
    이미지 센싱 장치의 동작 방법.
  17. 제16항에 있어서,
    상기 화이트 픽셀값을 추정하는 단계에서는,
    상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 수평방향 필터와 수직방향 필터를 이용하여 센터 픽셀에 대응되는 화이트 픽셀값을 추정하는
    이미지 센싱 장치의 동작 방법.
  18. 제17항에 있어서,
    화이트 픽셀값을 미세 조정하는 단계에서는,
    상기 센터 픽셀이 그린 픽셀, 레드 픽셀 또는 블루 픽셀인 경우에, 상기 화이트 픽셀 추정부에서 추정된 화이트 픽셀값을 이용하여 화이트 픽셀값을 미세 조정하는
    이미지 센싱 장치의 동작 방법.
  19. 제15항에 있어서,
    상기 채널별 크로마를 추정하는 단계에서는,
    상기 소스 픽셀 데이터로부터 상기 조정된 화이트 픽셀값을 차감하여 크로마 어레이를 계산하는
    이미지 센싱 장치의 동작 방법.
  20. 제19항에 있어서,
    상기 채널별 크로마를 추정하는 단계에서는,
    상기 크로마 어레이중 센터 픽셀의 크로마값을 중심으로 채널별 크로마 유사도에 따라 크로마 가중치를 할당하여 가중치에 따라 채널별 크로마를 추정하는
    이미지 센싱 장치의 동작 방법.
KR1020200088976A 2020-07-17 2020-07-17 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법 KR20220010285A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020200088976A KR20220010285A (ko) 2020-07-17 2020-07-17 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법
US17/147,966 US11750783B2 (en) 2020-07-17 2021-01-13 Demosaic operation circuit, image sensing device and operation method of the same
CN202110200736.3A CN113949850B (zh) 2020-07-17 2021-02-23 去马赛克操作电路、图像感测装置及其操作方法
JP2021079177A JP2022019550A (ja) 2020-07-17 2021-05-07 デモザイク動作回路、イメージセンシング装置、及びその動作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200088976A KR20220010285A (ko) 2020-07-17 2020-07-17 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법

Publications (1)

Publication Number Publication Date
KR20220010285A true KR20220010285A (ko) 2022-01-25

Family

ID=79293616

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200088976A KR20220010285A (ko) 2020-07-17 2020-07-17 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법

Country Status (4)

Country Link
US (1) US11750783B2 (ko)
JP (1) JP2022019550A (ko)
KR (1) KR20220010285A (ko)
CN (1) CN113949850B (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11825217B2 (en) 2021-09-30 2023-11-21 SK Hynix Inc. Image sensing device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115442573A (zh) * 2022-08-23 2022-12-06 深圳市汇顶科技股份有限公司 图像处理方法、装置和电子设备

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5323233A (en) 1990-07-31 1994-06-21 Canon Kabushiki Kaisha Image signal processing apparatus having a color filter with offset luminance filter elements
JP4059686B2 (ja) * 2002-02-08 2008-03-12 富士通株式会社 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ
US7333678B1 (en) 2003-05-20 2008-02-19 Micronas Usa, Inc. Edge adaptive demosaic system and method
US7525584B2 (en) 2004-01-05 2009-04-28 Lifesize Communications, Inc. Fast edge directed demosaicing
US7554696B2 (en) * 2004-02-26 2009-06-30 Sharp Laboratories Of America, Inc. Dot-gain reduction method for multi-level halftoning
JP4290193B2 (ja) 2006-12-26 2009-07-01 三洋電機株式会社 画像処理装置
US20080253652A1 (en) 2007-04-10 2008-10-16 Aricent Inc. Method of demosaicing a digital mosaiced image
JP2009044367A (ja) 2007-08-08 2009-02-26 Fujifilm Corp 撮影方法及び撮影装置
US7825965B2 (en) * 2007-09-07 2010-11-02 Seiko Epson Corporation Method and apparatus for interpolating missing colors in a color filter array
CN101399996B (zh) 2007-09-27 2010-09-29 比亚迪股份有限公司 一种彩色滤镜阵列插值方法
JP2009290795A (ja) 2008-05-30 2009-12-10 Sharp Corp 画像処理装置、画像処理方法、画像処理プログラム、記録媒体、および電子情報機器
JP2010021908A (ja) 2008-07-14 2010-01-28 Sony Corp 画像処理装置、画像処理方法および画像処理プログラム
JP5326943B2 (ja) * 2009-08-31 2013-10-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US8638342B2 (en) 2009-10-20 2014-01-28 Apple Inc. System and method for demosaicing image data using weighted gradients
US8891866B2 (en) * 2011-08-31 2014-11-18 Sony Corporation Image processing apparatus, image processing method, and program
WO2013100033A1 (ja) 2011-12-28 2013-07-04 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
KR101980931B1 (ko) 2012-01-24 2019-05-21 소니 주식회사 화상 처리 장치 및 화상 처리 방법과 기록 매체
US9191635B2 (en) * 2012-03-19 2015-11-17 Semiconductor Components Industries, Llc Imaging systems with clear filter pixels
CN102663719B (zh) 2012-03-19 2014-06-04 西安电子科技大学 基于非局部均值的Bayer型CFA图像去马赛克方法
JP6362333B2 (ja) 2013-02-14 2018-07-25 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US9224782B2 (en) * 2013-04-19 2015-12-29 Semiconductor Components Industries, Llc Imaging systems with reference pixels for image flare mitigation
CN103841388A (zh) 2014-03-04 2014-06-04 华为技术有限公司 一种去马赛克的方法及装置
JP6080190B2 (ja) 2014-09-15 2017-02-15 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドＳｚ Ｄｊｉ Ｔｅｃｈｎｏｌｏｇｙ Ｃｏ．，Ｌｔｄ デモザイク化の方法
WO2016152414A1 (ja) 2015-03-26 2016-09-29 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
CN105430357B (zh) 2015-11-26 2017-07-18 上海富瀚微电子股份有限公司 图像传感器的去马赛克方法及装置
US10148926B2 (en) 2015-12-07 2018-12-04 Samsung Electronics Co., Ltd. Imaging apparatus and image processing method of thereof
JP6758859B2 (ja) * 2016-03-01 2020-09-23 キヤノン株式会社 撮像装置、撮像システム、および画像処理方法
US10638060B2 (en) 2016-06-28 2020-04-28 Intel Corporation Color correction of RGBIR sensor stream based on resolution recovery of RGB and IR channels
US10262399B2 (en) 2017-01-09 2019-04-16 Samsung Electronics Co., Ltd. Image denoising with color-edge contrast preserving
KR102018246B1 (ko) 2017-09-27 2019-11-04 인천대학교 산학협력단 그라디언트 기반 rgbw cfa 디모자킹 장치 및 방법
CN108171668A (zh) 2017-12-29 2018-06-15 南京邮电大学盐城大数据研究院有限公司 一种基于定向加权插值的cfa图像去马赛克方法
US10984504B2 (en) 2019-06-26 2021-04-20 Intel Corporation Advanced demosaicing with angle compensation and defective pixel correction

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11825217B2 (en) 2021-09-30 2023-11-21 SK Hynix Inc. Image sensing device

Also Published As

Publication number Publication date
CN113949850A (zh) 2022-01-18
CN113949850B (zh) 2023-08-01
US20220021857A1 (en) 2022-01-20
US11750783B2 (en) 2023-09-05
JP2022019550A (ja) 2022-01-27

Similar Documents

Publication Publication Date Title
JP6486996B2 (ja) 局所階調曲線計算を使用した画像階調調整
US9479695B2 (en) Generating a high dynamic range image using a temporal filter
US9787922B2 (en) Pixel defect preprocessing in an image signal processor
US20170061582A1 (en) Temporal filtering of independent color channels in image data
KR20220010285A (ko) 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법
US11645737B2 (en) Skin map-aided skin smoothing of images using a bilateral filter
KR102412020B1 (ko) 이미지 센서의 파라미터 제어 방법
KR20220010297A (ko) 엣지 기반 샤프니스 세기 제어 회로, 이미지 센싱 장치 및 그 동작방법
US9374526B2 (en) Providing frame delay using a temporal filter
KR20210142398A (ko) 로컬 톤 맵핑 회로, 이미지 센싱 장치 및 그 동작방법
KR20220135801A (ko) 컬러 보정 회로, 이미징 센싱 장치 및 그 동작방법
KR20210142382A (ko) 그리드 게인 계산 회로, 이미지 센싱 장치 및 그 동작방법
US11196946B1 (en) Smart binning circuit, image sensing device and operation method of the same

Legal Events

Date Code Title Description
A201 Request for examination