KR102575281B1 - 결함화소 정보 기록장치, 결함화소 보정장치 및 방법 - Google Patents

결함화소 정보 기록장치, 결함화소 보정장치 및 방법 Download PDF

Info

Publication number
KR102575281B1
KR102575281B1 KR1020160133599A KR20160133599A KR102575281B1 KR 102575281 B1 KR102575281 B1 KR 102575281B1 KR 1020160133599 A KR1020160133599 A KR 1020160133599A KR 20160133599 A KR20160133599 A KR 20160133599A KR 102575281 B1 KR102575281 B1 KR 102575281B1
Authority
KR
South Korea
Prior art keywords
defective pixel
location information
defective
pixel
pixels
Prior art date
Application number
KR1020160133599A
Other languages
English (en)
Other versions
KR20180041441A (ko
Inventor
이창민
Original Assignee
한화비전 주식회사
비전넥스트 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한화비전 주식회사, 비전넥스트 주식회사 filed Critical 한화비전 주식회사
Priority to KR1020160133599A priority Critical patent/KR102575281B1/ko
Priority to EP16918906.5A priority patent/EP3528493B1/en
Priority to PCT/KR2016/012155 priority patent/WO2018070585A1/ko
Publication of KR20180041441A publication Critical patent/KR20180041441A/ko
Priority to US16/182,086 priority patent/US10621706B2/en
Application granted granted Critical
Publication of KR102575281B1 publication Critical patent/KR102575281B1/ko

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Theoretical Computer Science (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

결함화소 보정장치는, 피사체로부터 제공된 광을 전기적 신호로 변환하여 영상 데이터를 출력하는 이미지 센서와, 부호화된 위치정보를 저장하는 데이터 메모리와, 상기 메모리에 저장된 부호화된 위치정보로부터 결함화소의 위치정보를 복원하는 위치정보 디코더와, 상기 위치정보를 이용하여 상기 영상 데이터에 포함된 화소들 중에서 상기 결함화소를 식별하고, 상기 식별된 결함화소를 상기 결함화소의 주변에 있는 적어도 하나의 주변 화소를 이용하여 보간하는 화소 보정부로 이루어진다.

Description

결함화소 정보 기록장치, 결함화소 보정장치 및 방법{Apparatus for writing information on defect pixels, apparatus for correcting defect pixels, and method thereof}
본 발명은 이미지 센서의 결함화소들의 정보를 기록하는 장치, 상기 기록된 정보를 이용하여 결함화소들을 보정하는 장치 및 방법에 관한 것이다.
일반적으로, 디지털카메라나 비디오 카메라 등의 이미지 촬상 장치에 있어서 CCD(Charge Coupled Device)나 CMOS(Complementary Metal-oxide Semiconductor) 등의 고체 촬상 소자가 일반적으로 사용된다. 이러한 고체 촬상 소자에서는 제조 과정에서 발생하는 결함화소는 화질의 저하나 제조 상의 수율을 낮추는 요인이 된다. 현재로서는 결함화소를 완전하게 없애는 것은 기술적으로 곤란하거나 그렇게 하기 위해 이미지 센서의 제조 단가가 상승할 수 밖에 없다. 따라서, 결함화소의 주위 화소를 이용한 보간 처리를 하고 화질 향상을 도모하는 종래 기술이 제안되고 있다.
상기 종래 기술에 따르면, 우선 고체 촬상 소자의 공장 출하시 등에 소정의 조건 하에서 표준 전하축적시간, 고체 촬상 소자를 노광해 얻어진 출력값을 이용해 결함화소를 판정한다. 그리고 그 때 취득한 결함화소의 위치 정보 및 출력 레벨 등의 정보를 기억하여, 촬상시에는 이 기억한 결함화소의 위치 정보 및 출력 레벨 등의 정보를 기초로, 결함화소에 인접하는 화소의 출력 레벨을 이용하여 결함화소의 출력의 보간 처리를 한다. 즉, 상기 종래 기술은 미리 공장 출하시에 결함화소 위치를 검사해 두고, 이 결과를 메모리에 저장함으로써 결함화소 위치를 특정하는 방식이다.
한편, 최근에는 800만 이상의 고화소 감시 카메라가 사용되고 있으며 향후에는 full HD(high definition)의 화소 수의 4배에 달하는 4K(UHD, ultra high definition) 영상을 지원하는 카메라까지 상용화될 것으로 예상된다. 그러나, 이와 같이 이미지 센서의 화소수가 크게 증가함에 따라 결함화소의 수도 마찬가지로 증가할 수 밖에 없다. 또한, 현실적으로 카메라의 가격 경쟁력을 고려할 때 결함화소의 수가 적은 고가의 이미지 센서를 채택하기도 어려운 상황이다.
통상의 결함화소 보정 기술에 있어서, 이와 같이 결함화소의 개수가 증가하면 그에 따른 SRAM(static random access memory)과 같은 메모리의 용량이 커져야 하기 때문에 그만큼 전체 제품의 단가가 상승하게 된다. 예를 들어, 800만 화소를 지원하는 이미지 센서에서 1% 정도의 불량이 발생해도 결함화소의 위치 데이터의 수는 8만개나 되며, 이에 따라 하나의 위치정보가 차지하는 비트량도 커지게 되므로 전체적으로 기록되어야 하는 데이터의 양은 기하급수적으로 증가된다.
도 1에 도시된 바와 같이, 이러한 800만 화소를 지원하는 이미지 센서에서 하나의 결함화소의 위치 정보(15)를 기록하기 위해, x좌표 값으로 12비트, y좌표 값으로 12비트 총 24비트가 소요된다고 가정하면, SRAM에서는 이러한 위치 정보에만 약 2M 비트가 요구된다.
특히, 어두운 장면을 촬영하기 위해 이미지 센서의 게인을 크게 인가해야 하는 상황이거나, 고온의 조건 또는 긴 셔터 시간과 같은 열악한 촬영 환경에서는 결함화소의 개수가 이보다 더 크게 발생되므로 위치 정보의 양도 더 늘어날 수 있다.
일본특허공개 제2003-333435호 공보
본 발명이 이루고자 하는 기술적 과제는, 고화소의 이미지 센서를 사용하는 카메라 장치에서 상기 이미지 센서에 포함된 결함화소를 효율적으로 복원하기 위한, 결함화소 정보 기록장치 및 결함화소 보정장치를 제공하는 것이다.
본 발명이 이루고자 하는 다른 기술적 과제는, 상기 결함화소 정보의 크기를 최소화하여 상기 결함화소 보정장치의 메모리에 저장되는 데이터 량을 감소시키는 것이다.
본 발명이 이루고자 하는 또 다른 기술적 과제는, 이미지 센서에 포함된 결함화소들의 분포에 따라 상기 결함화소 정보를 적응적으로 무손실 압축하는 것이다.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
상기 기술적 과제를 달성하기 위한 본 발명의 일 실시예에 따른 결함화소 정보 기록장치는, 이미지 센서; 상기 이미지 센서에 포함된 화소들 중 결함화소를 식별하고, 상기 식별된 결함화소의 위치정보를 제공하는 화소 검사부; 상기 제공된 위치정보를 부호화하여 부호화된 위치정보를 생성하는 위치정보 인코더; 및 상기 생성된 부호화된 위치정보를 저장하는 데이터 메모리를 포함하되, 상기 위치정보 인코더는 상기 결함화소 간의 거리에 따라, 제1 부호화 방식과 상기 제1 부호화 방식과 상이한 제2 부호화 방식 중에서 하나의 부호화 방식을 선택하고 상기 선택된 부호화 방식으로 상기 위치정보를 부호화한다.
또한, 상기 기술적 과제를 달성하기 위한 본 발명의 일 실시예에 따른 결함화소 보정장치는, 피사체로부터 제공된 광을 전기적 신호로 변환하여 영상 데이터를 출력하는 이미지 센서; 부호화된 위치정보를 저장하는 데이터 메모리; 상기 메모리에 저장된 부호화된 위치정보로부터 결함화소의 위치정보를 복원하는 위치정보 디코더; 및 상기 위치정보를 이용하여 상기 영상 데이터에 포함된 화소들 중에서 상기 결함화소를 식별하고, 상기 식별된 결함화소를 상기 결함화소의 주변에 있는 적어도 하나의 주변 화소를 이용하여 보간하는 화소 보정부를 포함하되, 상기 위치정보 디코더는 상기 결함화소 간의 거리에 따라, 제1 복호화 방식과 상기 제1 복호화 방식과 상이한 제2 복호화 방식 중에서 하나의 복호화 방식을 선택하고 상기 선택된 복호화 방식으로 상기 위치정보를 복원한다.
본 발명에 따른 결함화소 정보 기록장치 및 결함화소 보정장치에 따르면, 고용량의 메모리를 사용하지 않고도 고화소의 이미지 센서에 포함된 결함화소를 효율적으로 복원하는 것이 가능하다.
또한, 본 발명에 따른 결함화소 정보 기록장치 및 결함화소 보정장치에 따르면, 결함화소 보정을 위해 사용되는 상기 화소 정보의 데이터 량을 최소화할 수 있다.
도 1은 종래에 결함화소의 위치정보를 기록한 데이터 포맷을 보여주는 도면이다.
도 2는 본 발명의 일 실시예에 따른 결함화소 정보 기록장치를 도시한 블록도이다.
도 3은 도 2의 결함화소 정보 기록장치에 포함된 위치정보 인코더의 세부 구성을 보여주는 블록도이다.
도 4는 복수의 화소들로 구성된 하나의 센서 패널 또는 영상 데이터를 예시하는 도면이다.
도 5는 제1 부호화 방식(또는 복호화 방식)에 따라 부호화된 위치정보를 예시하는 도면이다.
도 6은 제2 부호화 방식(또는 복호화 방식)에 따라 부호화된 위치정보를 예시하는 도면이다.
도 7은 본 발명의 일 실시예에 따라 수평 래스터 스캔을 사용할 때 결함화소들 간의 상호 관련성을 보여주는 도면이다.
도 8은 본 발명의 일 실시예에 따라 수직 래스터 스캔을 사용할 때 결함화소들 간의 상호 관련성을 보여주는 도면이다.
도 9는 데이터 메모리에 저장되는 다수의 결함화소에 관한 부호화된 위치정보를 예시하는 도면이다.
도 10은 본 발명의 일 실시예에 따른 결함화소 보정장치를 도시한 블록도이다.
도 11은 결함화소를 그 주변의 유효한 화소를 이용하여 보간하는 예를 보여주는 도면이다.
도 12는 도 10의 결함화소 보정장치에 포함된 위치정보 디코더의 세부 구성을 보여주는 블록도이다.
도 13은 본 발명의 일 실시예에 따른 위치정보 부호화 및 복호화 과정을 구체적인 예를 들어 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
이하 첨부된 도면들을 참조하여 본 발명의 일 실시예를 상세히 설명한다.
도 2는 본 발명의 일 실시예에 따른 결함화소 정보 기록장치(100)를 도시한 블록도이다. 결함화소 정보 기록장치(100)는 테스트 신호 인가부(10), 이미지 센서(20), 화소 검사부(30), 위치정보 인코더(40), 데이터 메모리(50), 시스템 프로세서(90) 및 시스템 메모리(95)를 포함하여 구성될 수 있다.
이미지 센서(20)는 피사체로부터의 출사된 광을 영상 데이터(전기적 신호)로 변환하는 고체 촬상 소자로서, CCD(Charge Coupled Device), CMOS(Complementary Metal-oxide Semiconductor) 등으로 구현될 수 있다.
테스트 신호 인가부(10)는 이미지 센서(20)를 검사하기 위해 이미지 센서(20)에 테스트 신호를 인가한다. 상기 테스트 신호는 단순 화이트 영상 또는 채널별 테스트를 위한 R(red), G(green), B(blue)일 수 있다. 또한, 온도에 따라 결함화소가 발생 여부가 달라질 수도 있으므로 다양한 온도 기준에 따라 테스트 신호를 인가할 수도 있다. 다른 실시예로서, 상기 테스트 신호는 물리적인 신호가 아니라 실제 피사체의 광을 통해 이미지 센서(20)에 가해질 수도 있다.
화소 검사부(30)는 테스트 신호 인가부(10)에 의해 인가된 신호에 따라 생성되어야 할 목표 화소 값을, 실제로 이미지 센서(20)를 통해 출력된 화소 값과 비교하여 이미지 센서(20)에 포함된 결함화소를 검사한다. 이러한 검사에 따라 발견되는 결함화소는 완전한 데드 화소(dead pixel)일 수도 있지만, 상기 목표 화소 값과 출력된 화소 값의 차이가 소정의 기준치 이상인 화소일 수도 있다. 또는, 이미지 센서(20)의 온도 범위에 따라 상이한 기준을 만족하지 않으면 결함화소라고 판단될 수도 있다.
화소 검사부(30)는 이러한 검사 과정을 통해 결함화소를 판별하며, 해당 결함화소가 갖는 위치정보를 출력한다. 상기 위치정보는 예를 들어, 결함화소의 위치를 나타내는 수평 좌표 및 수직 좌표일 수 있다.
위치정보 인코더(40)는 상기 출력된 위치정보를 인코딩(무손실 압축)하여 데이터 메모리(50)에 기록한다. 위치정보 인코더(40)에 관한 보다 자세한 설명은 도 3을 참조하여 후술하기로 한다.
데이터 메모리(50)는 RAM(Random Access Memory), 플래시 메모리(Flash Memory), SSD(Solid State Disk) 등 다양한 저장 소자로 구현될 수 있으며, 특히 SRAM(static random access memory)일 수 있다.
시스템 프로세서(90)는 결함화소 정보 기록장치(100) 전체를 제어하는 컨트롤러이며, 시스템 프로세서(90)가 실행하는 프로그램은 시스템 메모리(95)에 기록되어 순차 판독되면서 실행된다. 또한 상기 시스템 메모리(46) 내에는 시스템 정보를 기억하는 영역이나 사용자 설정 정보를 기억하는 영역이 구비되어, 다양한 정보나 설정을 추후 기동시에 판독하고 복원하는 것이 가능하다. 이러한 시스템 메모리(95)는 RAM, 플래시 메모리, SSD 등으로 구현될 수 있다.
도 3은 위치정보 인코더(40)의 세부 구성을 보여주는 블록도이다. 위치정보 인코더(40)는 화소 검사부(30)로부터 제공된 결함화소의 위치정보를 부호화하여 부호화된 위치정보를 생성하고, 상기 생성된 부호화된 위치정보를 데이터 메모리(50)에 저장한다. 특히, 위치 정보 인코더(40)는 상기 결함화소들 간의 거리에 따라, 복수의 복호화 방식 중 하나의 복호화 방식을 선택하여 위치정보를 부호화할 수 있다. 이 때, 상기 결함화소 간의 거리는 스캔 순서상 인접한 결함화소 간의 거리(예: 수직 방향 거리)이다.
먼저, 화소 검사부(30)로부터 제공된 결함화소의 위치정보(Xn, Yn)는 데이터 버퍼(42)에 일시 저장된 후 감산부(43) 및 데이터 포맷 기록부(48)에 제공된다.
감산부(43)는 현재 결함화소의 수직 좌표(Yn)에서 스캔 순서상 이전 결함화소의 수직 좌표(Yn - 1)를 차감하고, 그 차감 결과(DIFF)를 거리 비교부(44)에 제공한다. 여기서, 스캔 순서라 함은 하나의 센서 패널 또는 영상 데이터를 구성하는 복수의 화소를 순차적으로 탐색하는 방식을 의미한다.
한편, 구역 사이즈 제공부(41)는 전체 영역을 분할하는 단위인 구역 사이즈(V_comp)를 생성하고 비교부(44) 및 구역 인덱스 산출부(45)에 제공한다. 도 4는 복수의 화소들로 구성된 하나의 이미지 센서 패널 또는 영상 데이터(55)를 예시하는 도면이다. 도 4에서 예시하는 바와 같이, 전체 영역은 가로 4096개, 새로 2048개 총 4096*2048개의 화소로 구성되어 있다. 이 때, 전체 영역은 세로 방향으로 복수의 구역으로 분할될 수 있으며 이 때 V_comp는 복수의 구역들에 대해 일정한 구역 사이즈를 의미한다. 도 4에서는 3개의 결함화소 p(n-1), p(n) 및 p(n+1)가 표시되어 있는데, 2개의 결함화소 p(n-1) 및 p(n)는 동일한 구역(REF=0) 내에 위치하며, 다른 하나의 결함화소 p(n+1)는 다른 구역(REF=k-1) 내에 위치하는 것으로 예시되어 있다. 이 때, 어떤 결함화소 p(n+1)의 수직 좌표가 그 구역 내에서 차지하는 상대적인 위치는 "IND"로 표시된다.
구역 사이즈 제공부(41)가 생성하는 구역 사이즈(V_comp)는 고정된 값으로 정해져 있을 수도 있고 전체 영역의 수직 방향 사이즈(V_axis)에 대응하여(예: 비례적으로) 조정될 수도 있다. 또한, 사용자의 입력에 의하여 생성될 수도 있다. 예를 들어, V_axis가 2048인 도 4의 경우에서는 예를 들어, V_comp는 2n (n=32, 64 등)으로 정해질 수 있다.
비교부(44)는 구역 사이즈 제공부(41)로부터 제공된 V_comp와 감산부(43)로부터 제공된 DIFF를 비교하여 그 비교 결과, DIFF가 V_comp보다 작거나 같으면 데이터 포맷 기록부(48)에 통지하여 도 5와 같은 데이터 포맷이 생성되게 하고, DIFF가 V_comp보다 크면 구역 인덱스 산출부(45)에 통지하여 도 6와 같은 데이터 포맷이 생성되게 한다.
데이터 포맷 기록부(48)는 비교부(44)로부터의 통지에 따라, 도 5와 같은 데이터 포맷(52)을 생성한다(제1 부호화 방식). 상기 데이터 포맷(52)은 상기 현재 결함화소(P(n))의 수직 좌표(Yn)와 상기 스캔 순서상 이전 결함화소(P(n-1))의 수직 좌표(Yn-1) 간의 차이값(DIFF)을 기록한 필드(DIFF_V)와, 상기 압축되지 않은 수평 좌표 정보를 기록한 필드(H_POSITION)로 구성된다. 이 때, 도 5에 도시된 바와 같이, DIFF는 DIFF_V 필드에 예를 들어, 5비트로 기록될 수 있다. 이 경우 DIFF의 최대값은 25, 즉 32가 될 것이다. 이러한 DIFF의 최대값은 상기 V_comp와 동일하기 때문에 이 경우에 V_comp도 32 이내의 값으로 제한될 것이다. 물론, DIFF_V 필드의 크기 및 V_comp를 더 크게 선택할 수 있게 하려면 더 큰 비트수가 필요할 것이다.
상기 차이값(DIFF)는 전체 영역의 수직 방향 크기(V_axis)와 상관없이 V_comp를 한도로 그 비트수가 억제된다. 예를 들어 도 4에서 V_comp가 32이라고 하면, DIFF는 32를 넘지 않는 값이 될 것이다. 따라서, DIFF에 할당되는 비트수를 도 5와 같이 5비트로 줄일 수 있는 것이다.
한편, 구역 인덱스 산출부(45)는 비교부(44)로부터의 통지에 따라 상기 현재 결함화소의 수직 좌표(Yn)가 속하는 수직 방향 구역의 인덱스(REF)를 산출한다. 도 4를 예를 들면, 결함화소 P(n-1) 및 P(n)의 수직 방향 구역의 인덱스(REF)는 0이고, 결함화소 P(n+1)의 수직 방향 구역의 인덱스(REF)는 k-1이다. 이러한 수직 방향 구역의 인덱스(REF)는 현재 결함화소의 수직 좌표(Yn)를 구역 사이즈(V_comp)로 나눈 값에서 정수 부분을 취하는 연산에 의해 얻을 수 있다.
로컬위치 산출부(46)는 구역 사이즈 제공부(41)로부터 제공된 V_comp와 구역 인덱스 산출부(45)로부터 제공된 REF를 이용하여, 해당 구역 내에서 상기 현재 결함화소의 수직 좌표(Yn)가 차지하는 로컬 위치(IND)를 산출한다. 도 4에서 현재 결함화소가 P(n+1)이라고 하면 로컬 위치는 현재 구역(k-1)의 상부 경계선(현재 구역의 초기위치: 51)으로부터 현재 결함화소 P(n+1)까지의 수직 거리(화소수), 즉 IND이다. 이러한 로컬 위치(IND)는 현재 결함화소의 수직 좌표(Yn + 1)에서, 상기 REF와 V_comp를 승산한 값을 차감함으로써 계산될 수 있다.
데이터 포맷 기록부(48)는 구역 인덱스 산출부(45)로부터 제공된 REF와 로컬위치 산출부(46)로부터 제공된 IND를 이용하여 도 6와 같은 데이터 포맷(54)을 생성한다. 데이터 포맷(54)은 코드워드를 기록한 제1 필드(CODEWORD)와, 상기 현재 결함화소의 수직 좌표가 속하는 수직 방향 구역의 인덱스(REF)를 기록한 제2 필드(REF_LINE_INDEX)와, 상기 구역 내에서 상기 현재 결함화소의 수직 좌표가 차지하는 위치(IND)를 기록한 제3 필드(IND_DIFF_V)와, 상기 압축되지 않은 수평 좌표 정보를 기록한 제4 필드(H_POSITION)의 순서로 구성될 수 있다. 도 6의 데이터 포맷(54)에서 제1 필드와 제3 필드는 동일하게 7비트이고, 제2 필드 및 4 필드는 동일하게 10비트를 갖는 것으로 예시되어 있다.
이 때, 제1 필드의 코드워드는 DIFF가 V_comp보다 클 때 생성되는 제2 부호화 방식에 따른 데이터 포맷(54)을, DIFF가 V_comp보다 작거나 같을 때 생성되는 제1 부호화 방식에 따른 데이터 포맷(52)과 구별하기 위한 소정 크기의 식별 비트이다. 이 때, 코드워드는 도 5의 DIFF_V 필드와 중복되지 않는 비트들로 구성되는 것이 바람직하다. 상기 코드워드를 상기 DIFF_V 필드와 중복되지 않게 기록하는 구체적인 예시는 도 13을 참조하여 후술하기로 한다. 또한, 다른 실시예로서 코드워드 필드를 아예 사용하지 않고, 도 5 및 도 6에 있어서 공히 1비트의 식별 필드를 선두에 부가하여, 디코더 단에서 두 개의 데이터 포맷(52, 54)을 구별하게 하는 것도 가능하다.
결국, 데이터 포맷 기록부(48)는 DIFF와 V_comp간의 크기 비교에 따라 제1 부호화 방식에 따른 데이터 포맷(도 5의 52) 또는 제2 부호화 방식에 따른 데이터 포맷(도 6의 54)을 생성하게 된다. 이상의 데이터 포맷의 생성에 있어서 살펴본 바와 같이, 수직 좌표 정보는 어떤 식으로든 압축을 적용한 데에 비해, 수평 좌표는 압축을 적용하지 않았다. 그 이유는 일반적으로 사용되는 수평 래스터 스캔을 따를 때 수직 좌표는 점증하는 특성을 가지기 때문에 결함화소 간의 상호 관련성이 높음에 비해, 수평 좌표는 증가 및 감소를 빈번하게 반복하기 때문에 상호 관련성이 낮기 때문이다. 즉, 수평 좌표에는 압축 알고리즘을 적용하는 것이 오히려 위치정보의 데이터 량을 증가시키는 문제를 일으킬 수도 있다는 점이 고려되었다.
도 7은 본 발명의 일 실시예에 따라 수평 래스터 스캔을 사용할 때 결함화소들 간의 상호 관련성을 보여주는 도면이다. 도 7에서 3개의 결함화소 P(n-1), P(n), P(n+1)가 존재한다고 할 때, 이들간의 수평 좌표를 살펴보면, 결함화소들 모두가 근접한 상부 영역에 위치함에도 불구하고 상당히 큰 변화를 나타낸다. 특히, 세로 방향에 비해 가로 방향이 긴 통상의 종횡비를 고려할 때 이러한 변화는 더 커질 것이다. 이에 비해, 상기 3개의 결함 화소 P(n-1), P(n), P(n+1)가 갖는 수직 좌표들의 변화는 0 또는 1 정도로 매우 작음을 알 수 있다.
그러나, 스캔 방향을 도 8과 같이 수직 래스터 스캔을 이용한다면 위의 상황은 오히려 반대가 될 수 있다. 이 경우에는 수직 좌표의 변화가 크고 수평 좌표의 변화가 적으므로 반대로 수직 좌표 정보를 압축하지 않고 수평 좌표 정보만을 압축하는 것이 바람직할 것이다. 다만, 이하 본 발명에서는 도 7과 같은 통상의 수평 래스터 스캔을 사용하는 경우를 예시하여 설명할 것이다.
다시 도 3를 참조하면, 데이터 포맷 기록부(48)에 의해 생성된 데이터 포맷은 엔트로피 부호화부(49)에 의해 추가적으로 무손실 압축될 수도 있다. 이러한 엔트로피 부호화 방식으로는 허프만 부호화, 가변 길이 부호화, 이진 산술 부호화 등 알려진 다양한 알고리즘이 사용될 수 있다. 엔트로피 부호화부(49)에서 부호화된 비트스트림은 데이터 메모리(50)에 기록된다. 도 9에 도시하는 바와 같이, 상기 부호화된 비트스트림은 데이터 포맷(52, 54)의 종류에 무관하게, 결함화소(Pn)에 대한 수직 위치정보(EYn)와 수평 위치정보(EXn)의 순서로 하나의 유닛을 구성하여 저장된다. 이는 부호화 방식과 무관하게 동일한 포맷을 갖는 수평 위치정보에 비해, 수직 위치정보는 도 5와 도 6에서 도시된 바와 같이 전술한 DIFF에 따라 완전히 다른 포맷을 갖기 때문에, 데이터 포맷의 선두에서 부호화 방식을 식별할 수 있도록 하기 위함이다.
이상과 같이, 결함화소 정보 기록장치(100)의 위치정보 인코더(40)에 의해 데이터 메모리(50)에 기록되는, 부호화된 위치정보는 이후 도 10과 같은 결함화소 보정장치(200)로 전달된다.
도 10은 본 발명의 일 실시예에 따른 결함화소 보정장치(200)를 도시한 블록도이다. 결함화소 보정장치(200)는 촬영 렌즈(110), 이미지 센서(120), A/D 변환부(125), 화소 보정부(130), 위치정보 디코더(140), 데이터 메모리(150) 및 영상 처리부(160)를 포함하며, 시스템 프로세서(190), 시스템 메모리(195), 센서 컨트롤러(112), 렌즈 컨트롤러(114), 화상 메모리(165) 및 화상 표시부(170)를 더 포함할 수 있다.
피사체로부터의 반사광은 촬영 렌즈(110)를 통해 이미지 센서(120)로 수광된다. 또한, 이미지 센서(120)는 상기 반사광을 영상 데이터(전기적 신호)로 변환하는 고체 촬상 소자로서, CCD, CMOS 등으로 구현될 수 있다. 이미지 센서(120)는 R(red), G(green), B(blue)의 3색의 컬러 필터가 베이어(bayer) 배열된 컬러 대응 센서일 수 있다. 일 실시예에 있어서, 화소 데이터는 R→G→R→G→···의 순서로 출력되는 화소열과 B→G→B→G→의 순서로 출력되는 화소열이 교대로 반복되어 출력된다. 단, 이 출력순서서는 일례이며 이미지 센서(120)가 갖는 컬러 필터의 배열에 따라 출력되는 색의 순서가 달라질 수도 있다.
상기 이미지 센서(120)에서 출력된 RGB 아날로그 신호는 각종의 아날로그 처리가 실시된 후, A/D 변환부(125)에서 디지털 변환되어 디지털 화소 데이터로서 화소 보정부(130)로 출력된다.
한편, 데이터 메모리(150)에 기록되어 있는 결함화소들에 관한 데이터 포맷은 위치정보 디코더(140)에 제공되며, 위치정보 디코더(140)는 위치정보 인코더(40)에 의해 제공된 데이터 포맷을 복호화하여 결함화소의 위치정보를 복원한다. 데이터 메모리(150)에 기록되어 있는 상기 데이터 포맷은 결함화소 정보 기록장치(100)의 데이터 메모리(50)에 기록된 부호화된 위치정보이다.
위치정보 디코더(140)에 관한 보다 자세한 설명은 도 12를 참조하여 후술하기로 한다.
화소 보정부(130)는 A/D 변환부(125)로부터 제공되는 화소 데이터와, 위치정보 디코더(140)로부터 제공되는 결함화소의 위치정보를 이용하여, 상기 화소 데이터에 포함된 결함화소를 식별한다. 구체적으로, 상기 위치정보를 이용하여 상기 영상 데이터에 포함된 화소들 중에서 상기 결함화소를 식별하고, 상기 식별된 결함화소를 상기 결함화소의 주변에 있는 적어도 하나의 주변 화소를 이용하여 보간한다.
도 11은 결함화소(T)를 그 주변의 유효한 화소를 이용하여 보간하는 예를 보여주는 도면이다. 도 11에서 결함화소(T)는 주변 화소들(a~h)로부터 보간하여 생성된다. 예를 들어, 결함화소(T)는 주변 화소들(a~h)의 평균(mean)이나 메디안(median) 연산에 의해 보간될 수 있다. 또는 결함화소와 주변 화소들(a-h) 간의 관련성을 기준으로 먼저 상기 주변 화소들(a~h)에 가중치를 적용한 후 평균을 구함에 의해(가중 평균에 의해) 결함화소(T)를 보간할 수도 있다.
이 때, 주변 화소들(a~h) 중에도 결함화소가 포함되어 있을 수 있으므로 상기 주변 화소들(a~h) 중에서 결함화소는 상기 보간에 이용하지 않는다. 다만, 도 12는 결함화소(T) 보간의 일 예에 불과하며, 도 5보다 더 많거나 적은 주변 화소를 이용하여 결함화소(T)를 보간할 수 있음은 물론이다.
영상 처리부(160)는 입력한 화소 데이터에 대해서 오토 화이트 밸런스(AWB), 컨트라스트 조절, 감마 조정 등 각종의 디지털 처리를 실시한다. 그리고 얻어진 연산 결과에 기초하여, 시스템 프로세서(190)가 센서 컨트롤러(112)와 렌즈 컨트롤러(114)를 제어할 수 있게 한다.
센서 컨트롤러(112)는 이미지 센서(120)에 구비되는 기계식 또는 전자식 셔터를 제어하여 노출 정도를 조절한다. 또한 플래시(미도시 됨)과 연동함으로써 플래시 조광 기능도 제어할 수 있다. 또한, 렌즈 컨트롤러(114)는 촬영 렌즈(110)의 초점 또는 줌 배율을 제어한다.
영상 처리부(160)에서 생성된 영상(정지 영상 또는 동영상)은 화상 메모리(165)에 저장된다. 화상 표시부(170)는 LCD(Liquid Crystal Display), OLED(Organic Light-emitting Diode), CRT(Cathode Ray Tube) 등으로 구성되며, 화상 메모리(165)에 기록된 영상을 화면 상에 표시한다.
시스템 프로세서(190)는 결함화소 보정장치(200) 전체를 제어하는 컨트롤러이며, 시스템 프로세서(190)가 실행하는 프로그램은 시스템 메모리(195)에 기록되어 순차 판독되면서 실행된다. 또한 시스템 메모리(195) 내에는 시스템 정보를 기억하는 영역이나 사용자 설정 정보를 기억하는 영역이 구비되어, 다양한 정보나 설정을 추후 기동시에 판독하고 복원하는 것이 가능하다. 이러한 시스템 메모리(195)는 RAM, 플래시 메모리, SSD 등으로 구현될 수 있다.
도 12는 위치정보 디코더(140)의 세부 구성을 보여주는 블록도이다. 위치정보 디코더(140)는 데이터 메모리에 저장된, 부호화된 위치정보로부터 결함화소의 위치정보를 복원한다. 특히, 상기 위치정보 디코더(140)는 상기 결함화소 간의 거리에 따라, 제1 복호화 방식과 제2 복호화 방식 중에서 하나의 복호화 방식을 선택하고 상기 선택된 복호화 방식으로 상기 위치정보를 복원한다. 이 때, 상기 결함화소 간의 거리는 스캔 순서상 인접한 결함화소 간의 거리(수직 좌표 거리)이다.
엔트로피 복호화부(142)는 데이터 메모리(150)에 저장된 데이터 포맷(부호화된 위치정보)을 무손실 복호화한다. 이러한 엔트로피 복호화 방식으로는 허프만 복호화, 가변 길이 복호화, 이진 산술 복호화 등 엔트로피 부호화부(49)에 대응되는 알고리즘이 사용된다. 물론, 위치정보 인코더(40)에서 엔트로피 부호화부(49)가 사용되지 않았다면 위치정보 디코더(140)에서도 엔트로피 복호화부(142)는 생략될 수 있다.
데이터 포맷 식별부(143)는 데이터 포맷(부호화된 위치정보)의 선두 부분의 일정크기의 비트(도 6에서 CODEWARD 필드 크기의 비트)를 판독하여 상기 데이터 포맷이 제1 복호화 방식 및 제2 복호화 방식 중 어느 것으로 복호화되어야 하는지를 식별한다. 도 5의 데이터 포맷과 도 6의 데이터 포맷은 선두에 서로 중첩되지 않는 소정 비트로 기록되기 때문에 이를 통해 인코더 단에서 양자 중 어느 데이터 포맷으로 부호화 되었는지를 파악할 수 있다.
상기 복호화 방식은 위치정보 인코더(40)에서 선택된 부호화 방식에 대응되는데, 상기 부호화 방식은 상기 결함화소 간의 거리, 보다 자세하게는 현재 결함화소와 스캔 순서상 직전 결함화소간의 거리(예: 수직 좌표 거리)에 따라 결정되었다. 따라서, 이러한 복호화 방식도 본질적으로는 상기 결함화소 간의 거리에 따라 결정된다고 볼 수 있다.
데이터 포맷 판독부(144)는 데이터 포맷 식별부(143)에서 식별한 데이터 포맷의 정의에 따라 상기 데이터 포맷에 포함된 각각의 필드들을 판독한다. 상기 데이터 포맷이 상기 제1 복호화 방식이라고 판단된 경우, 데이터 포맷 판독부(144)는 현재 결함화소의 수직 좌표와 상기 스캔 순서상 이전 결함화소의 수직 좌표 간의 차이값(DIF)을 기록한 필드(DIFF_V)와, 상기 압축되지 않은 수평 좌표 정보(Xn)를 기록한 필드(H_POSITION)를 판독한다(도 5 참조). 상기 판독된 차이값(DIFF)은 가산부(148)에 제공되고, 수평 좌표 정보(Xn)는 데이터 버퍼(147)에 제공된다.
가산부(148)는 상기 제공된 차이값(DIFF)과, 데이터 버퍼(147)에 일시 저장되어 있는 현재 결함화소에 대한 이전 결함화소의 수직 좌표(Yn - 1)를 가산함으로써 상기 현재 결함화소의 수직 좌표(Yn)를 복원한다. 상기 복원된 수직 좌표(Yn)는 데이터 버퍼(147)에 다시 일시 저장된다. 이에 따라, 데이터 버퍼(147)에는 복원된 수평 좌표(Xn)와 수직 좌표(Yn)가 모두 저장되어, 이후 화소 보정부(130)에 위치정보로서 제공된다.
한편, 상기 데이터 포맷이 상기 제2 복호화 방식이라고 판단된 경우, 데이터 포맷 판독부(144)는 현재 결함화소의 수직 좌표가 속하는 수직 방향 구역의 인덱스(REF)를 기록한 필드(REF_LINE_INDEX)와, 해당 구역 내에서 상기 현재 결함화소의 수직 좌표가 차지하는 로컬 위치(IND)를 기록한 필드(IND_DIFF_V)와, 상기 압축되지 않은 수평 좌표 정보(Xn)를 기록한 필드(H_POSITION)를 판독한다(도 6 참조).
상기 판독된 수직 방향 구역의 인덱스(REF)는 초기위치 산출부(145)에 제공되고, 상기 구역 내에서 현재 결함화소의 수직 좌표가 차지하는 로컬 위치(IND)는 수직좌표 산출부(146)에 제공되며, 수평 좌표 정보(Xn)는 데이터 버퍼(147)에 제공된다.
초기위치 산출부(145)는 현재 결함화소 P(n+1)가 속하는 구역(REF=k-1)의 초기위치(도 4의 51)를 산출한다. 구체적으로, 상기 초기위치는 상기 수직 방향 구역의 인덱스(REF)에 상기 수직 방향 구역의 사이즈(V_comp)를 승산하여 구할 수 있다. 이 때, 상기 수직 방향 구역의 사이즈(V_comp)는 구역 사이즈 제공부(141)에 의해 제공될 수 있는데, 결함화소 정보 기록장치(100)와 결함화소 보정장치(200) 간에 미리 약속된 값일 수도 있고, 소정의 규칙에 따라 정의된 값일 수도 있으며, 결함화소 정보 기록장치(100)로부터 제공된 값일 수도 있다.
수직좌표 산출부(146)는 초기위치 산출부(145)에서 산출된 초기위치와, 해당 구역 내에서 현재 결함화소의 수직 좌표가 차지하는 위치(IND)를 가산함으로써 상기 현재 결함화소의 수직 좌표(Yn)를 복원하여 데이터 버퍼(147)에 일시 저장한다. 이에 따라, 데이터 버퍼(147)에는 복원된 수평 좌표(Xn)와 수직 좌표(Yn)가 모두 저장되며, 이후 화소 보정부(130)에 위치정보로서 제공된다.
이상과 같이, 본 발명에서는 스캔 순서상 인접한 결함화소들 간의 거리에 기초하여 서로 다른 부호화 방식(또는 복호화 방식)을 사용하는 것을 제시하였다. 그런데, 도 5의 데이터 포맷(52)과 달리 도 6의 데이터 포맷(54)은 기존에 단순히 수평 좌표와 수직 좌표를 병치하여 기록하는 경우보다 더 많은 비트수를 차지하므로, 이론적으로는 후자(54)가 많이 선택되면 오히려 비트수의 오버헤드가 발생할 가능성이 있다. 그러나, 후자(54)가 많이 선택된다는 것은 결함화소의 수가 그리 많지 않다는 뜻이므로 이러한 오버헤드는 SRAM과 같은 데이터 메모리의 용량에 특별히 문제가 되지 않을 것이다. 반면에, 상기 데이터 메모리의 용량에 문제를 일으킬 수 있는 상황, 즉 결함화소의 수가 급증한 경우에는 전자의 데이터 포맷(52)이 주로 선택될 것이고 이 때에는 기존에 비해 상당한 데이터 량 감소 효과를 얻을 수 있다.
지금까지 도 1, 도 3, 도 10 및 도 12의 각 구성요소들은 메모리 상의 소정 영역에서 수행되는 태스크, 클래스, 서브 루틴, 프로세스, 오브젝트, 실행 쓰레드, 프로그램과 같은 소프트웨어(software)나, FPGA(field-programmable gate array)나 ASIC(application-specific integrated circuit)과 같은 하드웨어(hardware)로 구현될 수 있으며, 또한 상기 소프트웨어 및 하드웨어의 조합으로 이루어질 수도 있다. 상기 구성요소들은 컴퓨터로 판독 가능한 저장 매체에 포함되어 있을 수도 있고, 복수의 컴퓨터에 그 일부가 분산되어 분포될 수도 있다.
또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능하다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
도 13은 본 발명의 일 실시예에 따른 위치정보 부호화 및 복호화 과정을 구체적인 예를 들어 설명하기 위한 도면이다. 도 13의 이미지 센서 패널(57)에서 결함화소는 총 13개로서 각각 원형 도트(dot)로 표시되어 있으며, 구역 사이즈(V_comp)는 32로 설정되어 있다. 각 결함화소에 표시된 좌표는 순서대로 해당 결함화소의 y좌표와 x좌표를 각각 의미한다. 이와 같은 13개의 결함화소들의 위치 정보를 도 1과 같은 종래의 방식을 이용하여 다음의 표 1과 같이 표시할 수 있다. 표 1에서 예를 들면, 4번째 결함화소는 좌표값이 10진수로 (50, 4090)이므로, 16진수로 표시하면 y좌표인 50이 "032"이고, x좌표인 4090이 "ffa"이므로 양자를 합하여 "0x032ffa"로 표시되었다.
No. 좌표 (y, x) 데이터 포맷 (16진수)
1 (0,1) 0x000001
2 (3,1200) 0x0034b0
3 (30, 2400) 0x01e960
4 (50, 4090) 0x032ffa
5 (90, 50) 0x05a032
6 (95, 3000) 0x05fbb8
7 (110, 3500) 0x06edac
8 (130, 1300) 0x082514
9 (150, 1000) 0x0963e8
10 (159, 1500) 0x09f5dc
11 (165, 900) 0x0a5384
12 (170, 1700) 0x0aa6a4
13 (190, 2700) 0x0bea8c
한편, 도 13과 결함화소를 갖는 이미지 센서 패널(57)에 대해, 본 발명의 일 실시예에 따른 위치정보의 데이터 포맷은 다음의 표 2와 같이 표시할 수 있다.
No. 좌표 (y, x) 데이터 포맷 (16진수)
1 (0,1) 0x00001
2 (3,1200) 0x034b0
3 (30, 2400) 0x1b960
4 (50, 4090) 0x14ffa
5 (90, 50) 0x00C20-0x1A032
6 (95, 3000) 0x05bb8
7 (110, 3500) 0x0fdac
8 (130, 1300) 0x14514
9 (150, 1000) 0x143e8
10 (159, 1500) 0x095dc
11 (165, 900) 0x06384
12 (170, 1700) 0x056a4
13 (190, 2700) 0x14a8c
표 2에서 4번째 결함화소의 좌표값은 (50, 4090)이고, 이전 결함화소의 좌표값은 (30, 2400)이다. 따라서, 현재 결함화소의 수직 좌표와 스캔 순서상 이전 결함화소의 수직 좌표간의 차이값(DIFF)은 20이다. 이 때, 도 13에서 구역 사이즈(V_comp)는 32이므로 DIFF는 V_comp보다 작기 때문에, 도 5와 같은 데이터 포맷이 사용된다. 따라서, DIFF_V 필드에 기록되는 DIFF 값은 20으로서 16진수로 "14"이고, H_POSITION 필드에 기록되는 x 좌표값은 4090이므로 16진수로 "ffa"이다. 따라서, 4번째 결함화소의 데이터 포맷은 양자를 결합하여 "0x14ffa"가 된다.
한편, 표 2에서 5번째 결함화소의 좌표값은 (90, 50)이고, 이전 결함화소의 좌표값은 (50, 4090)이다. 따라서, 현재 결함화소의 수직 좌표와 스캔 순서상 이전 결함화소의 수직 좌표간의 차이값(DIFF)은 40으로 상기 구역 사이즈(V_comp)보다 크기 때문에 도 6과 같은 데이터 포맷이 사용된다. 이 때, 상기 5번째 결함화소에서 데이터 필드는 "0x00C201A032"로 표시될 수 있다. 여기서 "0x00C20"은 코드워드(CODEWORD 필드에 기록됨) 및 상기 REF(REF_LINE_INDEX 필드에 기록됨)를 함께 표시한 것이고, 나머지 "0x1A032" 중에서 "01A"는 상기 IND(IND_DIFF_V 필드에 기록됨)는 26을 나타내고, "032"는 x 좌표값(H_POSITION 필드에 기록됨)인 50을 나타낸다. 전술한 바와 같이 상기 REF는 현재 결함화소의 y 좌표가 속하는 구역의 인덱스(REF)이고, IND는 해당 구역 내에서 상기 현재 결함화소의 y 좌표가 차지하는 로컬 위치이다.
그런데, "0x00C20"을 비트열(2진수)로 표시하면 "0_0000_1100_0010_0000" 이다. 여기서 총 비트는 20비트가 아니라 17비트이므로 16진수의 맨 앞의 0은 1비트로서 0 또는 1만 나타낼 수 있다. 표 2에서 모든 데이터 포맷들은 17비트로 표시되므로 맨 앞의 0("0x" 이후에 표시되는 0)은 2진수(1비트)이다. 상기 비트열에서 코드워드는 7비트의 고정값으로서 "0000011"이고, REF는 10비트로서 "0000100000"이다.
여기서, x 좌표의 최대값, 즉 이미지 센서 패널의 가로 크기를 현재 고화소 이미지 센서에서 지원하는 2952라고 할 때, 특별히 도 5의 데이터 포맷과 도 6의 데이터 포맷을 구별하는 플래그를 시그널링(signaling)하지 않더라도 DIFF와 코드워드 간의 비중복성에 의해 양자는 구분될 수 있다. 도 12의 데이터 포맷 식별부(143)는 두 데이터 포맷을 구분하기 위한 특별한 정보를 요하지 않으며 입력된 비트열을 순차적으로 읽어 들인다.
데이터 포맷 식별부(143)는 먼저 상기 읽은 비트열의 6번째 및 7번째 비트가 "11"인지를 확인한다. 만약 이것이 "11"이라면 현재의 비트열이 도 6과 같은 데이터 포맷(54)이라는 것을 파악할 수 있다. 왜냐하면, 도 5와 같은 데이터 포맷(52)이라면 6번째 비트부터 마지막 비트까지가 x 좌표일 것인데, x 좌표의 최대값이 전술한 2952이므로 6번째 및 7번째 비트가 모두 1이 되는 경우는 발생할 수 없기 때문이다. 즉, 12자리 비트열에서 앞 두 자리가 "11"이면 최소한 3072이므로 x 좌표가 될 수 없고 따라서, 데이터 포맷 식별부(143)는 입력된 비트열이 도 6과 같은 데이터 포맷(54)이라는 것을 파악할 수 있는 것이다. 물론, 상기 6번째 및 7번째 비트 중에서 0이 하나라도 있다면 데이터 포맷 식별부(143)는 도 5와 같은 데이터 포맷(54)으로 식별할 것이다.
한편, 5번째 결함화소에서 REF는 전술한 바와 같이 "0000100000"로 되어 있다. 이 값은 32로서 도 4와 같이 결함화소가 속하는 구역의 인덱스가 아니라 상기 구역이 나타내는 초기 위치의 완전 좌표이다. 다만, 도 13에서 5번째 결함화소가 속하는 구역의 완전 좌표는 64이지만, 구역의 좌표는 항상 짝수이므로 64를 2로 나누어 32로 기록한 것이다. 물론, 초기위치 산출부(145)는 여기에 2를 곱하여 64를 해당 구역의 초기위치로 산출할 것이다. 이러한 변형 실시예에 따르면, 도 12에서 초기위치 산출부(145)는 V_comp를 파악할 필요없이, 데이터 포맷 판독부(144)로부터 제공된 REF만으로 현재 결함화소가 속하는 구역의 초기위치를 산출할 수 있다.
이러한 변형 실시예가 유용한 점은, 도 3의 위치정보 인코더(40)가 다양한 V_comp(예: 8, 16, 32 등)에 대해서 실제로 데이터 포맷을 임시로 기록해 본 후, 그 기록된 데이터 크기가 가장 작은 데이터 포맷으로 위치정보를 부호화할 수 있다는 데에 있다. 이와 같이 가변적으로 V_comp를 정하고 그에 따른 데이터 포맷을 위치정보 디코더(140)에 전달하기만 하면 특별히 V_comp를 시그널링할 필요는 없어진다.
이상 첨부된 도면을 참조하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이지 않다.
10: 테스트 신호 인가부 20, 120: 이미지 센서
30: 화소 검사부 40: 위치정보 인코더
50, 150: 데이터 메모리 90, 190: 시스템 프로세서
95, 195: 시스템 메모리 100: 결함화소 기록장치
110: 촬영 렌즈 112: 센서 컨트롤러
114: 렌즈 컨트롤러 120: 이미지 센서
125: A/D 변환부 130: 화소 보정부
140: 위치 정보 디코더 160: 영상 처리부
165: 화상 메모리 170: 화상 표시부

Claims (20)

  1. 피사체로부터 제공된 광을 전기적 신호로 변환하여 영상 데이터를 출력하는 이미지 센서;
    부호화된 위치정보를 저장하는 데이터 메모리;
    상기 메모리에 저장된 부호화된 위치정보로부터 결함화소의 위치정보를 복원하는 위치정보 디코더; 및
    상기 위치정보를 이용하여 상기 영상 데이터에 포함된 화소들 중에서 상기 결함화소를 식별하고, 상기 식별된 결함화소를 상기 결함화소의 주변에 있는 적어도 하나의 주변 화소를 이용하여 보간하는 화소 보정부를 포함하되,
    상기 위치정보 디코더는 상기 결함화소 간의 거리에 따라, 제1 복호화 방식과 상기 제1 복호화 방식과 상이한 제2 복호화 방식 중에서 하나의 복호화 방식을 선택하고 상기 선택된 복호화 방식으로 상기 위치정보를 복원하고,
    상기 제1 복호화 방식은 상기 결함화소 간의 거리가 구역 사이즈보다 작을 때 선택되고, 상기 제2 복호화 방식은 상기 결함화소 간의 거리가 상기 구역 사이즈보다 클 때 선택되며,
    상기 구역 사이즈는 상기 영상 데이터의 전체 영역을 복수의 구역들로 균등하게 분할할 때 상기 구역의 사이즈인, 결함화소 보정장치.
  2. 제1항에 있어서,
    상기 결함화소 간의 거리는 스캔 순서상 인접한 결함화소 간의 거리인 결함화소 보정장치.
  3. 제2항에 있어서,
    상기 스캔 순서는 수평방향 래스터(raster) 스캔인 결함화소 보정장치.
  4. 제3항에 있어서,
    상기 부호화된 위치정보는 압축되지 않은 수평 좌표 정보와 압축된 수직 좌표 정보를 하나의 단위로 포함하는 결함화소 보정장치.
  5. 제4항에 있어서,
    상기 부호화된 위치정보는 상기 압축된 수직 좌표 정보와 상기 수평 좌표 정보의 순서로 구성되는 결함화소 보정장치.
  6. 제5항에 있어서, 상기 위치정보 디코더는
    상기 부호화된 위치정보의 앞에서부터 일정한 크기의 비트를 읽음으로써, 상기 복호화 방식을 선택하는 결함화소 보정장치.
  7. 제6항에 있어서, 상기 위치정보 디코더는
    상기 제1 복호화 방식에 따라, 현재 결함화소의 수직 좌표와 상기 스캔 순서상 이전 결함화소의 수직 좌표 간의 차이값을 기록한 필드와, 상기 압축되지 않은 수평 좌표 정보를 기록한 필드를 판독하는 결함화소 보정장치.
  8. 제7항에 있어서, 상기 위치정보 디코더는
    상기 이전 결함화소의 수직 좌표와 상기 차이값을 가산함으로써 상기 현재 결함화소의 수직 좌표를 복원하는 결함화소 보정장치.
  9. 제6항에 있어서, 상기 위치정보 디코더는
    상기 제2 복호화 방식에 따라, 현재 결함화소의 수직 좌표가 속하는 수직 방향 구역의 인덱스를 기록한 필드와, 상기 구역 내에서 상기 현재 결함화소의 수직 좌표가 차지하는 위치를 기록한 필드와, 상기 압축되지 않은 수평 좌표 정보를 기록한 필드를 판독하는 결함화소 보정장치.
  10. 이미지 센서;
    상기 이미지 센서에 포함된 화소들 중 결함화소를 식별하고, 상기 식별된 결함화소의 위치정보를 제공하는 화소 검사부;
    상기 제공된 위치정보를 부호화하여 부호화된 위치정보를 생성하는 위치정보 인코더; 및
    상기 생성된 부호화된 위치정보를 저장하는 데이터 메모리를 포함하되,
    상기 위치정보 인코더는 상기 결함화소 간의 거리에 따라, 제1 부호화 방식과 상기 제1 부호화 방식과 상이한 제2 부호화 방식 중에서 하나의 부호화 방식을 선택하고 상기 선택된 부호화 방식으로 상기 위치정보를 부호화하되,
    상기 제1 부호화 방식은 상기 결함화소 간의 거리가 구역 사이즈보다 작을 때 선택되고, 상기 제2 부호화 방식은 상기 결함화소 간의 거리가 상기 구역 사이즈보다 클 때 선택되며,
    상기 구역 사이즈는 영상 데이터의 전체 영역을 복수의 구역들로 균등하게 분할할 때 상기 구역의 사이즈인, 결함화소 정보 기록장치.
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
KR1020160133599A 2016-10-14 2016-10-14 결함화소 정보 기록장치, 결함화소 보정장치 및 방법 KR102575281B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020160133599A KR102575281B1 (ko) 2016-10-14 2016-10-14 결함화소 정보 기록장치, 결함화소 보정장치 및 방법
EP16918906.5A EP3528493B1 (en) 2016-10-14 2016-10-27 Defective pixel information recording device, and defective pixel correction device and method
PCT/KR2016/012155 WO2018070585A1 (ko) 2016-10-14 2016-10-27 결함화소 정보 기록장치, 결함화소 보정장치 및 방법
US16/182,086 US10621706B2 (en) 2016-10-14 2018-11-06 Device for recording information about defective pixels, and defective pixel value correction device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160133599A KR102575281B1 (ko) 2016-10-14 2016-10-14 결함화소 정보 기록장치, 결함화소 보정장치 및 방법

Publications (2)

Publication Number Publication Date
KR20180041441A KR20180041441A (ko) 2018-04-24
KR102575281B1 true KR102575281B1 (ko) 2023-09-06

Family

ID=61905724

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160133599A KR102575281B1 (ko) 2016-10-14 2016-10-14 결함화소 정보 기록장치, 결함화소 보정장치 및 방법

Country Status (4)

Country Link
US (1) US10621706B2 (ko)
EP (1) EP3528493B1 (ko)
KR (1) KR102575281B1 (ko)
WO (1) WO2018070585A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105872539B (zh) * 2015-02-08 2020-01-14 同济大学 图像编码方法和装置及图像解码方法和装置
US11823417B2 (en) 2020-07-16 2023-11-21 Samsung Electronics Co., Ltd. Camera module, image processing system and image compression method
KR20230037237A (ko) 2021-09-09 2023-03-16 에스케이하이닉스 주식회사 이미지 처리 시스템 및 그 동작 방법
KR102523166B1 (ko) * 2022-09-05 2023-04-18 옐로시스 주식회사 복수의 색 센서들을 포함하는 색 센서 어레이, 색 센서 어레이를 포함하는 전자 장치, 및 복수의 색 센서들 간의 영향을 저감함으로써 결과 정보를 획득하기 위한 동작 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130265295A1 (en) * 2012-04-06 2013-10-10 Canon Kabushiki Kaisha Pixel information management apparatus and image capture apparatus using the same
JP2014158256A (ja) * 2013-01-18 2014-08-28 Canon Inc 撮像装置、伸長回路、プログラム、および、補正データ生成装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0693757B2 (ja) * 1985-05-16 1994-11-16 ソニー株式会社 固体撮像装置の雑音除去回路
WO1992021204A2 (en) * 1991-05-10 1992-11-26 Eastman Kodak Company Customizable timing and control asic for electronic imaging
JPH07336605A (ja) * 1994-06-13 1995-12-22 Matsushita Electric Ind Co Ltd 画素欠陥補正装置
JP3825935B2 (ja) * 1999-04-08 2006-09-27 キヤノン株式会社 画像処理装置及び画像処理方法及び記録媒体及び画像処理システム
JP2003259381A (ja) * 2002-03-06 2003-09-12 Olympus Optical Co Ltd 欠陥画素補正装置
JP2003333435A (ja) 2002-03-08 2003-11-21 Canon Inc 補正処理装置、撮像装置、補正処理方法、補正処理コンピュータプログラム
TWI244330B (en) * 2004-10-21 2005-11-21 Novatek Microelectronics Corp Image sensing device with pixel correction function and method for correcting pixel sensing-information in an image sensing device
EP1686789A1 (en) * 2005-01-31 2006-08-02 STMicroelectronics (Research & Development) Limited Imaging system utilizing imaging lens and image sensor and method for aligning optical axis therein
JP2007129287A (ja) * 2005-11-01 2007-05-24 Sony Corp 固体撮像素子の欠陥検出装置および欠陥検出方法、欠陥補正装置および欠陥補正方法ならびに撮像装置
US8026964B2 (en) * 2008-07-08 2011-09-27 Aptina Imaging Corporation Method and apparatus for correcting defective imager pixels
KR20130102402A (ko) * 2012-03-07 2013-09-17 삼성전자주식회사 영상 처리 장치 및 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130265295A1 (en) * 2012-04-06 2013-10-10 Canon Kabushiki Kaisha Pixel information management apparatus and image capture apparatus using the same
JP2014158256A (ja) * 2013-01-18 2014-08-28 Canon Inc 撮像装置、伸長回路、プログラム、および、補正データ生成装置

Also Published As

Publication number Publication date
US20190087945A1 (en) 2019-03-21
EP3528493A4 (en) 2020-03-25
US10621706B2 (en) 2020-04-14
EP3528493B1 (en) 2021-07-14
KR20180041441A (ko) 2018-04-24
EP3528493A1 (en) 2019-08-21
WO2018070585A1 (ko) 2018-04-19

Similar Documents

Publication Publication Date Title
US10621706B2 (en) Device for recording information about defective pixels, and defective pixel value correction device and method
JP5231529B2 (ja) ビデオカメラ
US9721609B2 (en) Image capturing apparatus, image capturing system, and control method for the image capturing apparatus
JP2005286482A (ja) 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置
US8823832B2 (en) Imaging apparatus
JP5135953B2 (ja) 画像処理装置、画像処理方法、及び撮像装置
US8976276B2 (en) Image processing apparatus, image capturing apparatus, and image processing method
JP2015144339A (ja) 画像処理装置、画像処理方法およびプログラム
US20130322755A1 (en) Image processing method and apparatus
US10497093B2 (en) Image processing apparatus for minimizing deterioration of image quality of a raw image
US10142604B2 (en) Imaging apparatus and control method thereof
JP2017224939A (ja) 撮像装置
KR101981161B1 (ko) 신호 처리장치, 신호 처리방법 및 촬상장치
US10397587B2 (en) Image processing apparatus and control method thereof
KR102138331B1 (ko) 영상 처리 장치, 영상 처리 방법, 및 촬영 장치
US10516896B2 (en) Encoding device, encoding method, and storage medium
JP2021078008A (ja) 画像処理装置、画像処理方法及び撮像装置
JP6225137B2 (ja) 車載カメラ画像処理装置
WO2016047250A1 (ja) 信号処理装置、撮像装置および信号処理方法
US11310442B2 (en) Display control apparatus for displaying image with/without a frame and control method thereof
JP2006197181A (ja) 固体撮像素子の信号処理装置および信号処理方法、並びに画像処理装置
JP2013219682A (ja) 撮像装置
JP2007174450A (ja) 撮像装置、撮像方法およびプログラム、並びに記録媒体

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right