KR101040842B1 - 플리커 저감 방법, 촬상 장치 및 플리커 저감 회로 - Google Patents

플리커 저감 방법, 촬상 장치 및 플리커 저감 회로 Download PDF

Info

Publication number
KR101040842B1
KR101040842B1 KR1020057008810A KR20057008810A KR101040842B1 KR 101040842 B1 KR101040842 B1 KR 101040842B1 KR 1020057008810 A KR1020057008810 A KR 1020057008810A KR 20057008810 A KR20057008810 A KR 20057008810A KR 101040842 B1 KR101040842 B1 KR 101040842B1
Authority
KR
South Korea
Prior art keywords
flicker
flicker component
image signal
input image
difference value
Prior art date
Application number
KR1020057008810A
Other languages
English (en)
Other versions
KR20050075425A (ko
Inventor
마사야 기노시따
마끼비 나까무라
겐지 다나까
Original Assignee
소니 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니 주식회사 filed Critical 소니 주식회사
Publication of KR20050075425A publication Critical patent/KR20050075425A/ko
Application granted granted Critical
Publication of KR101040842B1 publication Critical patent/KR101040842B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Abstract

수광 소자 등을 이용하지 않고, 간단한 신호 처리에 의해서만, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자에 고유의 형광등 플리커를, 피사체나 영상 신호 레벨 및 형광등의 종류 등에 상관없이, 고정밀도로 검출하고, 확실하고 또한 충분하게 저감할 수 있도록 한다. 신호 In'(x, y)는, 플리커 성분을 포함하는 RGB 원색 신호 또는 휘도 신호이다. 신호 In'(x.y)를 1 수평 주기 이상의 시간에 걸쳐 적분하고, 인접하는 필드에서의 적분값의 차분값을 연속하는 3 필드에서의 적분값의 평균치로 정규화한다. 그 정규화 후의 차분값 gn(y)를 이산 푸리에 변환하여 스펙트럼을 추출하고, 그 추출한 스펙트럼으로부터 플리커 계수 Γ(y)를 추정하고, In'(x, y)/[1+Γ(y)]의 연산을 행한다.
Figure R1020057008810
수광 소자, 플리커, 이산 푸리에 변환, 스펙트럼, 촬상 소자

Description

플리커 저감 방법, 촬상 장치 및 플리커 저감 회로{FLICKER REDUCTION METHOD, IMAGE PICKUP DEVICE, AND FLICKER REDUCTION CIRCUIT}
본 발명은, 형광등의 조명하에서 CMOS(상보형 금속 산화물 반도체) 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자(이메이져, 이미지 센서)에 의해 피사체를 촬영한 경우에 촬상 소자로부터 얻어지는 영상 신호에 발생하는 형광등 플리커를 저감시키는 방법, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자를 이용한 비디오 카메라나 디지털 스틸 카메라 등의 촬상 장치, 및, 그 촬상 장치에 이용하는 플리커 저감 회로에 관한 것이다.
상용 교류 전원에 의해 직접 점등되는 형광등의 조명하에서, 비디오 카메라에 의해 피사체를 촬영하면, 형광등의 휘도 변화(광량 변화)의 주파수(상용 교류 전원 주파수의 2배)와 카메라의 수직 동기 주파수의 차이에 의해, 촬영 출력의 영상 신호에 시간적인 명암의 변화, 소위 형광등 플리커를 발생한다.
예를 들면, 상용 교류 전원 주파수가 50Hz인 지역에서, 비인버터 방식의 형광등의 조명하에서, NTSC 방식(수직 동기 주파수는 60Hz)의 CCD 카메라에 의해 피사체를 촬영하는 경우, 도 28에 도시하는 바와 같이, 1 필드 주기가 1/60초인 데 반하여, 형광등의 휘도 변화의 주기가 1/100초로 되기 때문에, 형광등의 휘도 변화 에 대하여 각 필드의 노광 타이밍이 어긋나, 각 화소의 노광량이 필드마다 변화한다.
그 때문에, 예를 들면, 노광 시간이 1/60초일 때에는, 기간 a1, a2, a3에서는, 동일한 노광 시간이라 하더라도 노광량이 서로 다르고, 노광 시간이 1/60초보다 짧을 때(단, 후술하는 바와 같이 1/100초가 아닐 때)에는, 기간 b1, b2, b3에서는, 동일한 노광 시간이라 하더라도 노광량이 서로 다르다.
형광등의 휘도 변화에 대한 노광 타이밍은, 3 필드마다 원래의 타이밍으로 되돌아가기 때문에, 플리커에 의한 명암 변화는, 3 필드마다의 반복으로 된다. 즉, 각 필드의 휘도비(플리커를 보는 방법)는, 노광 기간에 의해 변하지만, 플리커의 주기는 변하지 않는다.
단, 디지털 카메라 등, 프로그레시브 방식의 카메라이며, 수직 동기 주파수가 30Hz인 경우에는, 3 프레임마다 명암 변화가 반복된다.
또한, 형광등은, 백색광을 발광하기 위해, 통상적으로, 복수의 형광체, 예를 들면, 적, 녹, 청의 형광체가 이용되고 있다. 그러나, 이들 형광체는, 각각이 고유한 잔광 특성을 가지고, 휘도 변화의 주기 중에 존재하는 방전 정지로부터 다음의 방전 개시까지의 기간은, 각각의 잔광 특성으로 감쇠 발광한다. 그 때문에, 이 기간에서는, 처음에는 백색이던 광이, 점차로 색상을 바꾸면서 감쇠하게 되기 때문에, 상기한 바와 같이 노광 타이밍이 어긋나면, 명암 변화 뿐만 아니라, 색상 변화를 발생한다. 또한, 형광등은, 특정한 파장에 강한 피크가 존재한다고 하는 특유의 분광 특성을 가지고 있기 때문에, 색에 의해 신호의 변동 성분이 서로 다르다.
그리고, 이와 같은 색상 변화, 및 색마다의 변동 성분의 차에 의해, 소위 색 플리커가 발생한다.
이에 반하여, 도 28의 최하단에 도시한 바와 같이, 노광 시간을 형광등의 휘도 변화의 주기(1/100초)의 정수배로 설정하면, 노광 타이밍에 상관없이 노광량이 일정하게 되어, 플리커를 발생하지 않는다.
실제, 유저의 조작에 의해, 또는 카메라에서의 신호 처리에 의해 형광등 조명하임을 검출함으로써, 형광등 조명하인 경우에는 노광 시간을 1/100초의 정수배로 설정하는 방식을 생각할 수 있다. 이 방식에 따르면, 단순한 방법으로, 플리커의 발생을 완전하게 방지할 수 있다.
그러나, 이 방식으로는, 임의의 노광 시간으로 설정할 수 없기 때문에, 적절한 노출을 얻기 위한 노광량 조정 수단의 자유도가 감소하게 된다.
그 때문에, 임의의 셔터 속도(노광 시간) 하에서 형광등 플리커를 저감할 수 있는 방법이 요구된다.
이것에 대해서는, CCD 촬상 장치와 같이 1 화면 내의 모든 화소가 동일한 노광 타이밍에서 노광되는 촬상 장치의 경우에는, 플리커에 의한 명암 변화 및 색 변화가 필드 사이에서만 나타나기 때문에, 비교적 용이하게 실현할 수 있다.
예를 들면, 도 28의 경우, 노광 시간이 1/100초의 정수배가 아니면, 플리커는 3 필드의 반복 주기로 되기 때문에, 각 필드의 영상 신호의 평균치가 일정하게 되도록 3 필드 전의 영상 신호로부터 현재의 휘도 및 색의 변화를 예측하고, 그 예측 결과에 부합하여 각 필드의 영상 신호의 게인을 조정함으로써, 플리커를 실용상 문제가 없는 레벨까지 억압할 수 있다.
그러나, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자에서는, 화소마다의 노광 타이밍이 화면 수평 방향에서 판독 클럭(화소 클럭)의 1 주기분씩 순차적으로 어긋나, 모든 화소에서 노광 타이밍이 서로 다르기 때문에, 상기의 방법으로는 플리커를 충분히 억압할 수는 없다.
도 29에, 그 모습을 도시한다. 상기한 바와 같이 화면 수평 방향에서도 각 화소의 노광 타이밍이 순차적으로 어긋나지만, 형광등의 휘도 변화의 주기에 비교하여 1 수평 주기는 충분히 짧기 때문에, 동일 라인 상의 화소는 노광 타이밍이 동시라고 가정하고, 화면 수직 방향에서의 각 라인의 노광 타이밍을 나타낸다. 실제로, 이와 같이 가정해도 문제는 없다.
도 29에 도시한 바와 같이, XY 어드레스 주사형의 촬상 소자, 예를 들면 CMOS 촬상 소자에서는, 라인마다 노광 타이밍이 서로 다르고(F1은, 임의의 필드에서의, 그 모습을 나타낸다), 각 라인에서 노광량에 차를 발생하기 때문에, 플리커에 의한 명암 변화 및 색 변화가, 필드 사이 뿐만 아니라 필드 내에서도 발생하여, 화면 상에서는 줄무늬 모양(줄무늬 자체의 방향은 수평 방향, 줄무늬의 변화의 방향은 수직 방향)으로서 나타난다.
도 30에, 피사체가 균일한 패턴인 경우의, 이 화면내 플리커의 모습을 도시한다. 줄무늬 모양의 1 주기(1 파장)가 1/100초이기 때문에, 1 화면 중에는 1.666 주기분의 줄무늬 모양이 발생하게 되고, 1 필드당의 판독 라인 수를 M으로 하면, 줄무늬 모양의 1 주기는 판독 라인 수에서는 L=M*60/100에 상당한다. 또한, 명세 서 및 도면에서는, 별표 (*)를 승산의 기호로서 이용한다.
도 31에 도시하는 바와 같이, 이 줄무늬 모양은, 3 필드(3 화면)에서 5 주기(5 파장)분으로 되고, 연속적으로 보면 수직 방향으로 흐르는 것처럼 보인다.
도 30 및 도 31에는, 플리커에 의한 명암 변화만을 도시하지만, 실제로는 상기한 색 변화도 가해져, 화질이 현저하게 열화한다. 특히 색 플리커는, 셔터 속도가 빨라지면 현저해질 뿐만 아니라, XY 어드레스 주사형의 촬상 소자에서는, 그 영향이 화면 내에 나타나기 때문에, 화질 열화가 보다 눈에 띄게 된다.
이와 같은 XY 어드레스 주사형의 촬상 소자의 경우에도, 노광 시간을 형광등의 휘도 변화의 주기(1/100초)의 정수배로 설정할 수 있으면, 노광 타이밍에 상관없이 노광량이 일정하게 되어, 화면내 플리커를 포함하는 형광등 플리커를 발생하지 않는다.
그러나, CMOS 촬상 소자 등에서, 전자 셔터 속도를 가변으로 하면, 촬상 장치가 복잡하게 된다. 또한, 전자 셔터를 자유롭게 끊을 수 있는 촬상 장치라 하더라도, 플리커 방지를 위해 노광 시간을 l/100초의 정수배로만 설정할 수 있다고 한다면, 적절한 노출을 얻기 위한 노광량 조정 수단의 자유도가 감소하게 된다.
그래서, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자에 고유한 형광등 플리커를 저감시키는 방법이 제안되고 있다.
특허 문헌 1(특개2000-350102 공보) 또는 특허 문헌 2(특개2000-23040 공보)에는, 수광 소자나 측광 소자에 의해 형광등의 광량을 측정함으로써 플리커 성분을 추정하고, 그 추정 결과에 부합하여 촬상 소자로부터의 영상 신호의 이득을 제어하 는 방법이 개시되어 있다.
특허 문헌 3(특개2001-16508 공보)에는, 현재의 외광 조건에 적합한 제1 전자 셔터값와 형광등의 명멸 주기에 대하여 소정의 관계를 갖는 제2 전자 셔터값의 2조건에서 2종의 화상을 촬영하고, 양자의 신호를 비교함으로써 플리커 성분을 추정하고, 그 추정 결과에 부합하여 촬상 소자로부터의 영상 신호의 이득을 제어하는 방법이 개시되어 있다.
특허 문헌 4(특개평11-164192호 공보)에는, 미리 형광등 조명하에서의 명암 변화의 모습을 보정 계수로서 메모리 내에 기록해 두는 한편, 영상 신호 성분과 플리커 성분의 주파수의 차이를 이용하여 촬상 소자로부터의 영상 신호로부터 플리커 성분의 위상을 검출하고, 그 검출 결과에 부합하여 메모리 내의 보정 계수에 의해 영상 신호를 보정하는 방법이 개시되어 있다.
특허 문헌 5(특개2000-165752 공보)에는, 플리커의 위상이 정확히 180도 반전하도록 하는 시간 차를 갖고 노광된 2개의 영상 신호로부터 보정 계수를 산출하고, 그 산출한 보정 계수에 의해 영상 신호를 보정하는 방법이 개시되어 있다.
그러나, 특허 문헌 1, 2에 기재된 바와 같이, 수광 소자나 측광 소자에 의해 형광등의 광량을 측정함으로써 플리커 성분을 추정하는 방법은, 촬상 장치에 수광 소자나 측광 소자를 부가하기 때문에, 촬상 장치 시스템의 사이즈나 코스트가 증대한다.
또한, 특허 문헌 3에 기재된 바와 같이, 서로 다른 셔터 조건(노출 조건)에서 2종의 화상을 촬영하여 플리커 성분을 추정하는 방법도, 촬상 장치의 시스템이 복잡화하는 결점이 있고, 또한, 이 방법은, 동화상의 촬영에는 적합하지 않은 결점이 있다.
또한, 특허 문헌 4에 기재된 바와 같이, 메모리 내에 준비한 계수를 보정 신호로서 이용하는 방법은, 모든 종류의 형광등에 대하여, 보정 계수를 준비해 두는 것은 불가능하기 때문에, 형광등의 종류에 따라서는, 플리커 성분을 정확하게 검출하고, 확실하게 저감할 수 없는 결점이 있다. 또한, 특허 문헌 4에 기재된 바와 같이, 영상 신호 성분과 플리커 성분의 주파수의 차이를 이용하여 영상 신호로부터 플리커 성분을 추출하는 방법에서는, 플리커 성분이 미소한 흑의 배경 부분이나 저조도의 부분 등에서는, 영상 신호 성분과 구별하여 플리커 성분을 검출하는 것이 어려울 뿐만 아니라, 화면 중에 움직임의 어떤 물체가 존재하는 경우에는, 플리커 성분의 검출 성능이 현저하게 저하한다.
또한, 특허 문헌 5에 기재된 바와 같이, 서로 다른 타이밍 조건에서 2종의 화상을 촬영하여 플리커 성분을 추정하는 방법은, 특허 문헌 3에 기재된 방법과 마찬가지로, 촬상 장치의 시스템이 복잡화할 뿐만 아니라, 동화상의 촬영에는 적합하지 않은 결점이 있다.
그래서, 본 발명은, 수광 소자 등을 이용하지 않고, 간단한 신호 처리에 의해서만, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자에 고유한 형광등 플리커를, 피사체나 영상 신호 레벨 및 형광등의 종류 등에 상관없이, 고정밀도로 검출하고, 확실하고 또한 충분하게 저감할 수 있도록 한 것이다.
제1 발명의 플리커 저감 방법은,
형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 영상 신호 또는 휘도 신호에 포함되는 형광등 플리커 성분을 저감하는 방법으로서,
상기 영상 신호 또는 상기 휘도 신호를 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 공정과,
그 적분값, 또는 인접하는 필드 또는 프레임에서의 적분값의 차분값을, 정규화하는 공정과,
그 정규화 후의 적분값 또는 차분값의 스펙트럼을 추출하는 공정과,
그 추출한 스펙트럼으로부터 플리커 성분을 추정하는 공정과,
그 추정한 플리커 성분을 제거하도록, 추정한 플리커 성분과 상기 입력 화상 신호를 연산하는 공정을 구비하는 것이다.
제2 발명의 플리커 저감 방법은,
형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 각 색의 색 신호에 포함되는 형광등 플리커 성분을 저감시키는 방법으로서,
상기 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 공정과,
그 적분값, 또는 인접하는 필드 또는 프레임에서의 적분값의 차분값을, 정규화하는 공정과,
그 정규화 후의 적분값 또는 차분값의 스펙트럼을 추출하는 공정과,
그 추출한 스펙트럼으로부터 플리커 성분을 추정하는 공정과,
그 추정한 플리커 성분을 제거하도록, 추정한 플리커 성분과 상기 입력 화상 신호를 연산하는 공정을 구비하는 것이다.
제3 발명의 플리커 저감 방법은,
형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 휘도 신호 및 각 색의 색 신호에 포함되는 형광등 플리커 성분을 저감시키는 방법으로서,
상기 휘도 신호 및 상기 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 공정과,
그 적분값, 또는 인접하는 필드 또는 프레임에서의 적분값의 차분값을, 정규화하는 공정과,
그 정규화 후의 적분값 또는 차분값의 스펙트럼을 추출하는 공정과,
그 추출한 스펙트럼으로부터 플리커 성분을 추정하는 공정과,
그 추정한 플리커 성분을 제거하도록, 추정한 플리커 성분과 상기 입력 화상 신호를 연산하는 공정을 구비하는 것이다.
상기의 방법의, 본 발명의 플리커 저감 방법에서는, 정규화 후의 적분값 또는 차분값으로서, 플리커 성분 이외의 신호 성분이 제거되어, 피사체에 상관없이, 또한 플리커 성분이 미소한 흑의 배경 부분이나 저조도의 부분 등이라 하더라도, 플리커 성분을 용이하게 고정밀도로 추정할 수 있는 신호가 얻어지고, 그 정규화 후의 적분값 또는 차분값의 적당한 차수까지의 스펙트럼을 추출함으로써, 형광등의 종류나 휘도 변화 파형 등에 상관없이, 또한 피사체의 영향에 의해 신호 성분이 불연속으로 되는 영역에서도, 플리커 성분을 고정밀도로 추정할 수 있고, 그 추정한 플리커 성분과 입력 화상 신호를 연산함으로써, 입력 화상 신호로부터 플리커 성분을 확실하고 또한 충분하게 저감할 수 있다.
특히, 제2 또는 제3 발명의 플리커 저감 방법에서는, 영상 신호로서 얻어지는 각 색의 색 신호마다, 또는 휘도 신호 및 각 색의 색 신호마다, 플리커 성분을 검출하여, 저감하기 때문에, 색 플리커를 포함하는 형광등 플리커를, 고정밀도로 검출하고, 확실하고 또한 충분하게 저감할 수 있다.
도 1은, 본 발명의 촬상 장치의 일 실시 형태의 시스템 구성을 도시하는 도면.
도 2는, 원색계 시스템의 디지털 신호 처리부의 일례를 도시하는 도면.
도 3은, 보색계 시스템의 디지털 신호 처리부의 일례를 도시하는 도면.
도 4는, 플리커 저감부의 제1 예를 도시하는 도면.
도 5는, 포화 영역을 고려한 경우의 연산 블록의 일례를 도시하는 도면.
도 6은, 플리커 저감부의 제2 예를 도시하는 도면.
도 7은, 플리커 저감부의 제3 예를 도시하는 도면.
도 8은, 비형광등 조명하를 고려한 경우의 플리커 저감부의 일례를 도시하는 도면.
도 9는, 비형광등 조명하를 고려한 경우의 플리커 저감부의 다른 예를 도시하는 도면.
도 10은, 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우를 고려한 경우의 촬상 장치의 예를 도시하는 도면.
도 11은, 촬영 상황에 의해 플리커 저감 처리가 불필요해지는 경우를 고려한 경우의 촬상 장치의 일례를 도시하는 도면.
도 12는, 촬영 상황에 의해 플리커 저감 처리가 불필요해지는 경우를 고려한 경우의 촬상 장치의 다른 예를 도시하는 도면.
도 13은, 추정된 플리커 성분을 조정하는 경우의 예의 기본적인 구성을 도시하는 도면.
도 14는, 추정된 플리커 성분을 조정하는 경우의 제1 구체예를 도시하는 도면.
도 15는, 추정된 플리커 성분을 조정하는 경우의 제2 구체예를 도시하는 도면.
도 16은, 도 14 및 도 15의 예의 설명에 기여하는 도면.
도 17a와 도 17b는, 각 예의 설명에 기여하는 식을 나타내는 도면.
도 18a와 도 18b는, 각 예의 설명에 기여하는 식을 나타내는 도면.
도 19a와 도 19b는, 각 예의 설명에 기여하는 식을 나타내는 도면.
도 20a∼도 20e는, 각 예의 설명에 기여하는 식을 나타내는 도면.
도 21a∼도 21c는, 각 예의 설명에 기여하는 식을 나타내는 도면.
도 22a와 도 22b는, 도 8 및 도 9의 예의 설명에 기여하는 도면.
도 23은, 시험에서 이용한 피사체를 나타내는 도면.
도 24는, 도 23의 피사체인 경우의 적분값을 도시하는 도면.
도 25는, 도 23의 피사체인 경우의 차분값을 도시하는 도면.
도 26은, 도 23의 피사체인 경우의 정규화 후의 차분값을 도시하는 도면.
도 27은, 도 23의 피사체인 경우의 추정된 플리커 계수를 도시하는 도면.
도 28은, CCD 촬상 소자인 경우의 형광등 플리커의 설명에 기여하는 도면.
도 29는, XY 어드레스 주사형의 촬상 소자인 경우의 형광등 플리커의 설명에 기여하는 도면.
도 30은, XY 어드레스 주사형의 촬상 소자인 경우의 형광등 플리커의 1 화면 내의 줄무늬 모양을 도시하는 도면.
도 31은, XY 어드레스 주사형의 촬상 소자인 경우의 형광등 플리커의 연속하는 3 화면에 걸친 줄무늬 모양을 도시하는 도면.
〔촬상 장치의 실시 형태: 도 1∼도 3〕
(시스템 구성: 도 1)
도 1은, 본 발명의 촬상 장치의 일 실시 형태의 시스템 구성을 도시하며, XY 어드레스 주사형의 촬상 소자로서 CMOS 촬상 소자를 이용한 비디오 카메라의 경우이다.
본 실시 형태의 촬상 장치, 즉 비디오 카메라에서는, 피사체로부터의 광이, 촬상 광학계(11)를 통하여 CMOS 촬상 소자(12)에 입사하여, CMOS 촬상 소자(12)에서 광전 변환되고, CMOS 촬상 소자(12)로부터 아날로그 영상 신호가 얻어진다.
CMOS 촬상 소자(12)는, CMOS 기판 상에, 포토다이오드(포토 게이트), 전송 게이트(셔터 트랜지스터), 스위칭 트랜지스터(어드레스 트랜지스터), 증폭 트랜지스터, 리세트 트랜지스터(리세트 게이트) 등을 갖는 화소가 복수, 2차원 형상으로 배열되고 형성됨과 함께, 수직 주사 회로, 수평 주사 회로 및 영상 신호 출력 회로가 형성된 것이다.
CMOS 촬상 소자(12)는, 후술하는 바와 같이 원색계와 보색계 중 어느 것이라도 무방하고, CMOS 촬상 소자(12)로부터 얻어지는 아날로그 영상 신호는, RGB 각 색의 원색 신호 또는 보색계의 색 신호이다.
그 CMOS 촬상 소자(12)로부터의 아날로그 영상 신호는, IC(집적 회로)로서 구성된 아날로그 신호 처리부(13)에서, 색 신호마다, 샘플 홀드되고, AGC(자동 이득 제어)에 의해 게인이 제어되고, A/D 변환에 의해 디지털 신호로 변환된다.
그 아날로그 신호 처리부(13)로부터의 디지털 영상 신호는, IC로서 구성된 디지털 신호 처리부(20)에서, 후술하는 바와 같이 처리되고, 디지털 신호 처리부(20) 내의 플리커 저감부(25)에서, 후술하는 바와 같이 신호 성분마다, 본 발명의 방법에 의해 플리커 성분이 저감된 후에, 최종적으로 휘도 신호(Y)와 적, 청의 색차 신호(R-Y, B-Y)로 변환되어, 디지털 신호 처리부(20)로부터 출력된다.
시스템 컨트롤러(14)는, 마이크로 컴퓨터 등에 의해 구성되고, 카메라 각 부를 제어한다.
구체적으로, 시스템 컨트롤러(14)로부터, IC에 의해 구성된 렌즈 구동용 드라이버(15)에, 렌즈 구동 제어 신호가 공급되고, 렌즈 구동용 드라이버(15)에 의해, 촬상 광학계(11)의 렌즈가 구동된다.
또한, 시스템 컨트롤러(14)로부터 타이밍 제너레이터(16)에, 타이밍 제어 신호가 공급되고, 타이밍 제너레이터(16)로부터 CMOS 촬상 소자(12)에, 각종 타이밍 신호가 공급되어, CMOS 촬상 소자(12)가 구동된다.
또한, 디지털 신호 처리부(20)로부터 시스템 컨트롤러(14)에, 각 신호 성분의 검파 신호가 취득되고, 시스템 컨트롤러(14)로부터의 AGC 신호에 의해, 아날로그 신호 처리부(13)에서, 상기한 바와 같이 각 색 신호의 게인이 제어됨과 함께, 시스템 컨트롤러(14)에 의해, 디지털 신호 처리부(20)에서의 신호 처리가 제어된다.
또한, 시스템 컨트롤러(14)에는, 손떨림 센서(17)가 접속되고, 촬영자의 동작에 의해 피사체가 단시간에 크게 변화하는 경우에는, 그것이, 손떨림 센서(17)의 출력으로부터, 시스템 컨트롤러(14)에 의해 검출되고, 후술하는 바와 같이 플리커 저감부(25)가 제어된다.
또한, 시스템 컨트롤러(14)에는, 마이크로 컴퓨터 등에 의해 구성된 인터페이스(I/F)(19)를 통하여, 유저 인터페이스(18)를 구성하는 조작부(18a) 및 표시부(18b)가 접속되고, 조작부(18a)에서의 설정 조작이나 선택 조작 등이, 시스템 컨트롤러(14)에 의해 검출됨과 함께, 카메라의 설정 상태나 제어 상태 등이, 시스템 컨트롤러(14)에 의해 표시부(18b)에 표시된다.
촬영자가 조작부(18a)에서 줌 조작 등의 카메라 조작을 행함으로써 피사체가 단시간에 크게 변화하는 경우에는, 그것이, 시스템 컨트롤러(14)에 의해 검출되고, 후술하는 바와 같이 플리커 저감부(25)가 제어된다.
또한, 후술하는 바와 같은 플리커 저감 처리가 불필요한 경우에는, 그것이,
시스템 컨트롤러(14)에 의해 검출되고, 후술하는 바와 같이 플리커 저감부(25)가 제어된다.
(원색계 시스템의 경우: 도 2)
도 2에, 원색계 시스템의 경우의 디지털 신호 처리부(20)의 일례를 도시한다.
원색계 시스템은, 도 1의 촬상 광학계(11)가 피사체로부터의 광을 RGB 각 색의 색광으로 분리하는 분해 광학계를 가지고, CMOS 촬상 소자(12)로서 RGB 각 색용의 CMOS 촬상 소자를 갖는 3판 시스템, 또는, CMOS 촬상 소자(12)로서, 광 입사면에 RGB 각 색의 색 필터가 화면 수평 방향으로 1 화소마다 순차적으로, 반복 배열된 하나의 CMOS 촬상 소자를 갖는 1판 시스템이다. 이 경우, CMOS 촬상 소자(12)로부터는, RGB 각 색의 원색 신호가 병렬로 읽어내어진다.
도 2의 디지털 신호 처리부(20)에서는, 클램프 회로(21)에서, 입력의 RGB 원색 신호의 흑 레벨이 소정 레벨로 클램프되고, 게인 조정 회로(22)에서, 노출량에 부합하여 클램프 후의 RGB 원색 신호의 게인이 조정되고, 플리커 저감부(25R, 25G, 25B)에서, 본 발명의 방법에 의해, 게인 조정 후의 RGB 원색 신호 중의 플리커 성분이 저감된다.
또한, 도 2의 디지털 신호 처리부(20)에서는, 화이트 밸런스 조정 회로(27)에서, 플리커 저감 후의 RGB 원색 신호의 화이트 밸런스가 조정되고, 감마 보정 회로(28)에서, 화이트 밸런스 조정 후의 RGB 원색 신호의 계조가 변환되고, 합성 매트릭스 회로(29)에서, 감마 보정 후의 RGB 원색 신호로부터, 출력의 휘도 신호(Y) 및 색차 신호(R-Y, B-Y)가 생성된다.
원색계 시스템에서는, 일반적으로 도 2와 같이 RGB 원색 신호의 처리가 모두 종료한 후에 휘도 신호(Y)가 생성되기 때문에, 도 2와 같이 RGB 원색 신호의 처리 과정에서 RGB 원색 신호 중의 플리커 성분을 저감함으로써, 각 색 성분 및 휘도 성분의 플리커 성분을 함께 충분히 저감할 수 있다.
또한, 플리커 저감부(25R, 25G, 25B)는, 도 2와 같이 배치하는 것이 바람직하지만, 반드시, 이에 한정되는 것은 아니다.
(보색계 시스템의 경우: 도 3)
도 3에, 보색계 시스템의 경우의 디지털 신호 처리부(20)의 일례를 도시한다.
보색계 시스템은, 도 1의 CMOS 촬상 소자(12)로서, 광 입사면에 보색계의 색 필터가 형성된 하나의 CMOS 촬상 소자를 갖는 1판 시스템이다. 보색계의 색 필터는, 예를 들면, 도 3에 색 필터(1)로서 도시하는 바와 같이, 어느 하나 거른 수평 라인 위치(Lo)에서는, 초록의 색 필터부(1G)와 마젠타의 색 필터부(1Mg)가 수평 방향으로 1 화소마다 순차적으로, 반복 배열되고, 다른 하나 거른 수평 라인 위치(Le)에서는, 시안의 색 필터부(1Cy)와 옐로우의 색 필터부(1Ye)가 수평 방향으로 1 화소마다 순차적으로, 반복 배열된 것이다.
이 경우, 도 1의 CMOS 촬상 소자(12)로부터는, 인접하는 2 수평 라인 위치의 영상 신호가 합성되어 읽어내어진다. 따라서, CMOS 촬상 소자(12)로부터는, 각 수평 기간에서, 도 3의 예에서는, 초록의 색 신호와 시안의 색 신호와의 합성 신호와, 마젠타의 색 신호와 옐로우의 색 신호와의 합성 신호가, 1 화소 클럭마다 교대로 얻어진다.
도 3의 디지털 신호 처리부(20)에서는, 클램프 회로(21)에서, 그 보색 신호의 흑 레벨이 소정 레벨로 클램프되고, 게인 조정 회로(22)에서, 노출량에 부합하여 클램프 후의 보색 신호의 게인이 조정되고, 휘도 합성 회로(23)에서, 게인 조정 후의 보색 신호로부터 휘도 신호(Y)가 생성됨과 함께, 원색 분리 회로(24)에서, 게인 조정 후의 보색 신호로부터 RGB 원색 신호가 생성된다.
또한, 도 3의 디지털 신호 처리부(20)에서는, 플리커 저감부(25Y)에서, 본 발명의 방법에 의해, 휘도 합성 회로(23)로부터의 휘도 신호(Y) 중의 플리커 성분이 저감됨과 함께, 플리커 저감부(25R, 25G, 25B)에서, 본 발명의 방법에 의해, 원색 분리 회로(24)로부터의 RGB 원색 신호 중의 플리커 성분이 저감된다.
또한, 도 3의 디지털 신호 처리부(20)에서는, 감마 보정 회로(26)에서, 플리커 저감 후의 휘도 신호의 계조가 보정되어, 출력의 휘도 신호(Y)가 얻어지고, 화이트 밸런스 조정 회로(27)에서, 플리커 저감 후의 RGB 원색 신호의 화이트 밸런스가 조정되고, 감마 보정 회로(28)에서, 화이트 밸런스 조정 후의 RGB 원색 신호의 계조가 변환되고, 합성 매트릭스 회로(29)에서, 감마 보정 후의 RGB 원색 신호로부 터 색차 신호(R-Y, B-Y)가 생성된다.
보색계 시스템에서는, 도 3과 같이 디지털 신호 처리부(20)의 비교적 전단에서 휘도 신호 및 RGB 원색 신호가 생성된다. 이것은, 휘도 신호는, 상기의 합성 신호로부터 단순한 가산 처리에 의해 용이하게 생성할 수 있을 뿐만 아니라, 상기의 합성 신호로부터 차분 처리에 의해 RGB 원색 신호를 생성하고, 그 RGB 원색 신호로부터 휘도 신호를 생성하면, 휘도 신호의 S/N이 열화하기 때문이다.
그러나, 이와 같이 휘도 신호와 색 신호의 처리 계통을 따로 하는 경우에는,
각 색 성분의 플리커 성분을 저감하는 것만으로는, 휘도 성분의 플리커 성분을 저감하는 데 충분하지 않고, 도 3과 같이 따로 휘도 성분의 플리커 성분을 저감함으로써 비로소, 각 색 성분 및 휘도 성분의 플리커 성분을 함께 충분히 저감할 수 있다.
또한, 플리커 저감부(25Y 및 25R, 25G, 25B)는, 도 3과 같이 배치하는 것이 바람직하지만, 반드시, 이에 한정되는 것은 아니다.
〔플리커 저감 방법의 실시 형태: 도 4∼도 27〕
도 2의 플리커 저감부(25R, 25G, 25B), 및 도 3의 플리커 저감부(25Y, 25R, 25G, 25B)는, 각각, 이하의 예와 같이 구성된다. 따라서, 이하에서는, 플리커 저감부(25R, 25G, 25B, 25Y)를, 플리커 저감부(25)라고 총칭한다.
또한, 이하에서, 입력 화상 신호란, 각각, 플리커 저감부(25)에 입력되는 플리커 저감 전의 RGB 원색 신호 또는 휘도 신호이고, 출력 화상 신호란, 각각, 플리커 저감부(25)로부터 출력되는 플리커 저감 후의 RGB 원색 신호 또는 휘도 신호이 다.
또한, 이하의 예는, 상용 교류 전원 주파수가 50Hz인 지역에서, 형광등의 조명하에서, NTSC 방식(수직 동기 주파수는 60Hz)의 CMOS 카메라에 의해 피사체를 촬영하는 경우, 따라서, 형광등 플리커를 저감하지 않을 때에는, 도 29∼도 31에 도시한 바와 같이, 플리커에 의한 명암 변화 및 색 변화가, 필드 사이 뿐만 아니라 필드 내에서도 발생하고, 화면 상에서는 3 필드(3 화면)에서 5 주기(5 파장)분의 줄무늬 모양으로서 나타나는 경우이다.
형광등이 비인버터 방식인 경우는 물론, 인버터 방식인 경우도, 정류가 충분하지 않은 경우에는 플리커를 발생하기 때문에, 형광등이 비인버터 방식인 경우에 한정되지 않는다.
(플리커 저감 방법의 제1 예: 도 4)
도 4는, 플리커 저감부(25)의 제1 예를 도시한다.
도 30 및 도 31은, 피사체가 똑같은 경우이지만, 일반적으로 플리커 성분은 피사체의 신호 강도에 비례한다.
그래서, 일반적인 피사체에 대한 임의의 필드 n 및 임의의 화소 (x, y)에서의 입력 화상 신호(플리커 저감 전의 RGB 원색 신호 또는 휘도 신호)를 In'(x, y)로 하면, In'(x, y)는, 플리커 성분을 포함하지 않는 신호 성분과, 이것에 비례한 플리커 성분과의 합으로서, 도 17a의 식(1)로 표현된다.
In(x, y)는, 신호 성분이고, Γn(y)*In(x, y)는, 플리커 성분이고, Γn(y)는, 플리커 계수이다. 형광등의 발광 주기(1/100초)에 비교하여 1 수평 주기는 충 분히 짧고, 동일 필드의 동일 라인에서는 플리커 계수는 일정하다고 간주할 수 있기 때문에, 플리커 계수는 Γn(y)로 나타낸다.
Γn(y)를 일반화하기 위해, 도 17a의 식(2)에 도시하는 바와 같이, 푸리에 급수로 전개한 형식으로 기술한다. 이에 의해, 형광등의 종류에 따라 서로 다른 발광 특성 및 잔광 특성을 모두 망라한 형식으로 플리커 계수를 표현할 수 있다.
식(2) 중의 λo는, 도 30에 도시한 화면내 플리커의 파장이고, 1 필드당의 판독 라인 수를 M으로 하면, L(=M*60/100) 라인에 상당한다. ωo는, λo으로 정규화된 규격화 각주파수이다.
γm은, 각 다음(m=1, 2, 3,...)의 플리커 성분의 진폭이다. Φmn은, 각 다음의 플리커 성분의 초기 위상을 나타내고, 형광등의 발광 주기(1/100초)와 노광 타이밍에 의해 결정된다. 단, Φmn은 3 필드마다 동일한 값으로 되기 때문에, 직전의 필드와의 사이의 Φmn의 차는, 도 17a의 식(3)으로 표현된다.
<적분값의 산출 및 보존>
도 4의 예에서는, 먼저, 입력 화상 신호 In'(x, y)가, 플리커 검출용에 도안의 영향을 적게 하기 위해서, 적분 블록(31)에서, 도 17b의 식(4)에 나타내는 바와 같이, 화면 수평 방향으로 1 라인분에 걸쳐 적분되어, 적분값 Fn(y)가 산출된다. 식(4) 중의 αn(y)는, 도 17b의 식(5)으로 표현되는 바와 같이, 신호 성분 In(x, y)의 1 라인분에 걸친 적분값이다.
산출된 적분값 Fn(y)는, 이후의 필드에서의 플리커 검출용으로, 적분값 유지 블록(32)에 기억 유지된다. 적분값 유지 블록(32)은, 적어도 2 필드분의 적분값을 유지할 수 있는 구성으로 된다.
피사체가 똑같으면, 신호 성분 In(x, y)의 적분값αn(y)가 일정값으로 되기 때문에, 입력 화상 신호 In'(x, y)의 적분값 Fn(y)로부터 플리커 성분 αn(y)*Γn(y)를 추출하는 것은 용이하다.
그러나, 일반적인 피사체에서는, αn(y)에도 m*ωo 성분이 포함되기 때문에, 플리커 성분으로서의 휘도 성분 및 색 성분과, 피사체 자신의 신호 성분으로서의 휘도 성분 및 색 성분을 분리할 수 없어, 순수하게 플리커 성분만을 추출할 수는 없다. 또한, 식(4)의 제1항의 신호 성분에 대하여 제2항의 플리커 성분은 매우 작기 때문에, 플리커 성분은 신호 성분 중에 대부분 묻히게 된다.
참고로, 도 23에 도시하는 피사체(실제는 컬러 화상)에 대한, 연속하는 3 필드에서의 적분값 Fn(y)를, 도 24에 도시한다. 이것은, 적색 신호에 대한 것으로, Field:N+0(실선), Field:N+1(파선), Field:N+2(점선)은, 연속하는 3 필드에서의 제1, 제2, 제3 필드이다. 도 24로부터도 알 수 있는 바와 같이, 적분값 Fn(y)로부터 직접, 플리커 성분을 추출하는 것은 불가능하다고 할 수 있다.
<평균치 계산 및 차분 계산>
그래서, 도 4의 예에서는, 적분값 Fn(y)로부터 αn(y)의 영향을 제거하기 위해서, 연속하는 3 필드에서의 적분값을 이용한다.
즉, 본 예에서는, 적분값 Fn(y)의 산출시, 적분값 유지 블록(32)으로부터, 1 필드 전의 동일한 라인의 적분값 Fn_1(y), 및 2 필드 전의 동일한 라인의 적분값 Fn_2(y)가 읽어내어지고, 평균치 계산 블록(33)에서, 3개의 적분값 Fn(y), Fn_1(y), Fn_2(y)의 평균치 AVE[Fn(y)]가 산출된다.
연속하는 3 필드의 기간 중의 피사체를 거의 동일하다고 간주할 수 있으면, αn(y)는 동일한 값이라고 간주할 수 있다. 피사체의 움직임이 3 필드 사이에서 충분히 작으면, 실용상, 이 가정은 문제없다. 또한, 연속하는 3 필드에서의 적분값의 평균치를 연산하는 것은, 식(3)의 관계로부터, 플리커 성분의 위상이 (-2π/3)*m씩 순차적으로 어긋난 신호를 더하게 되므로, 결과적으로 플리커 성분이 제거되는 것으로 된다. 따라서, 평균치 AVE[Fn(y)]는, 도 18a의 식(6)으로 표현된다.
단, 이상은, 도 18a의 식(7)의 근사가 성립하는 것으로서, 연속하는 3 필드에서의 적분값의 평균치를 산출하는 경우이지만, 피사체의 움직임이 큰 경우에는, 식(7)의 근사가 성립하지 않게 된다.
그 때문에, 피사체의 움직임이 큰 경우를 상정한 플리커 저감부(25)로서는, 적분값 유지 블록(32)에 3 필드 이상에 걸친 적분값을 유지하고, 해당하는 필드의 적분값 Fn(y)를 합쳐서 4 필드 이상에 걸친 적분값의 평균치를 산출하면 된다. 이에 의해, 시간 축 방향의 로우 패스 필터 작용에 의해, 피사체가 움직인 것에 의한 영향이 작아진다.
단, 플리커는 3 필드마다의 반복으로 되기 때문에, 플리커 성분을 제거하기위해서는, 연속하는 j(3의, 2배 이상의 정수배, 즉, 6, 9,...) 필드에서의 적분값의 평균치를 산출할 필요가 있고, 적분값 유지 블록(32)은, 적어도(j-1) 필드분의 적분값을 유지할 수 있는 구성으로 한다.
도 4의 예는, 도 18a의 식(7)의 근사가 성립하는 것으로 한 경우이다. 본 예에서는, 또한, 차분 계산 블록(34)에서, 적분 블록(31)으로부터의 해당 필드의 적분값 Fn(y)와, 적분값 유지 블록(32)으로부터의 1 필드 전의 적분값 Fn_1(y)의 차분이 계산되고, 도 18b의 식(8)으로 표현되는 차분값 Fn(y)-Fn_1(y)가 산출된다. 식(8)도, 식(7)의 근사가 성립하는 것을 전제로 하고 있다.
도 25에, 도 23에 도시한 피사체에 대한, 연속하는 3 필드에서의 차분값 Fn(y)-Fn_1(y)를 도시한다. 이로부터 알 수 있는 바와 같이, 차분값 Fn(y)-Fn_1(y)에서는, 피사체의 영향이 충분히 제거되기 때문에, 도 24에 도시한 적분값 Fn(y)에 비하여 플리커 성분(플리커 계수)의 모습이 명확하게 나타난다.
<차분값의 정규화>
도 4의 예에서는, 또한, 정규화 블록(35)에서, 차분 계산 블록(34)으로부터의 차분값 Fn(y)-Fn_1(y)가, 평균치 계산 블록(33)으로부터의 평균치 AVE[Fn(y)]로 제산됨으로써 정규화되고, 정규화 후의 차분값 gn(y)가 산출된다.
정규화 후의 차분값 gn(y)는, 도 18a의 식(6)과 도 18b의 (8) 및 삼각 함수의 합곱 공식에 의해, 도 19a의 식(9)와 같이 전개되고, 또한 도 17a의 식(3)의 관계로부터, 도 19b의 식(10)으로 표현된다. 식(10) 중의 │Am│, θm은, 식(11a) (11b)로 표현된다.
차분값 Fn(y)-Fn_1(y)는, 피사체의 신호 강도의 영향이 남기 때문에, 영역에 의해 플리커에 의한 휘도 변화 및 색 변화의 레벨이 서로 달라지지만, 상기한 바와 같이 정규화함으로써, 전 영역에 걸쳐 플리커에 의한 휘도 변화 및 색 변화를 동일레벨로 맞출 수 있다.
도 26에, 도 23에 도시한 피사체에 대한, 연속하는 3 필드에서의 정규화 후의 차분값 gn(y)를 나타낸다.
<스펙트럼 추출에 의한 플리커 성분의 추정>
도 19b의 식(11a)(11b)으로 표현되는 │Am│, θm은, 정규화 후의 차분값 gn(y)의, 각 다음의 스펙트럼의 진폭 및 초기 위상이고, 정규화 후의 차분값 gn(y)를 푸리에 변환하여, 각 다음의 스펙트럼의 진폭 │Am│ 및 초기 위상 θm을 검출하면, 도 20a의 식(12a)(l2b)에 의해, 도 17a의 식(2)에 나타낸 각 다음의 플리커 성분의 진폭 γm 및 초기 위상 Φmn을 구할 수 있다.
그래서, 도 4의 예에서는, DFT 블록(51)에서, 정규화 블록(35)으로부터의 정규화 후의 차분값 gn(y)의, 플리커의 1 파장분(L 라인분)에 상당하는 데이터를, 이산 푸리에 변환한다.
DFT 연산을 DFT[gn(y)]로 하고, 차수 m의 DFT 결과를 Gn(m)으로 하면, DFT 연산은, 도 20b의 식(13)으로 표현된다. 식(13) 중의 W는, 식(l4)로 표현된다. 또한, DFT의 정의에 의해, 식(11a)(11b)와 식(13)의 관계는, 도 20c의 식(15a)(15b)로 표현된다.
따라서, 식(12a)(12b)(15a)(15b)로부터, 도 20d의 식(16a)(l6b)에 의해, 각 다음의 플리커 성분의 진폭 γm 및 초기 위상 Φmn을 구할 수 있다.
DFT 연산의 데이터 길이를, 플리커의 1 파장분(L 라인분)으로 하는 것은, 이에 의해, 정확하게 ωo의 정수배의 이산 스펙트럼 군을 직접, 얻을 수 있기 때문이다.
일반적으로, 디지털 신호 처리의 푸리에 변환으로서는, FFT(고속 푸리에 변환)가 이용되지만, 본 발명의 실시 형태에서는, 굳이 DFT를 이용한다. 그 이유는, 푸리에 변환의 데이터 길이가 2의 멱승으로 되어 있지 않기 때문에, FFT보다 DFT 쪽이 편리하기 때문이다. 단, 입출력 데이터를 가공하여 FFT를 이용할 수도 있다.
실제의 형광등 조명하에서는, 차수 m을 수차까지 한정해도, 플리커 성분을 충분히 근사할 수 있기 때문에, DFT 연산도 데이터를 모두 출력할 필요는 없고, 본 발명의 용도에서는 FFT에 비하여 연산 효율이라는 점에서 단점은 없다.
DFT 블록(51)에서는, 먼저, 식(13)으로 정의되는 DFT 연산에 의해, 스펙트럼이 추출되고, 그 후, 식(16a)(16b)의 연산에 의해, 각 다음의 플리커 성분의 진폭 γm 및 초기 위상 Φmn이 추정된다.
도 4의 예에서는, 또한, 플리커 생성 블록(53)에서, DFT 블록(51)으로부터의 γm, Φmn의 추정값으로부터, 도 17a의 식(2)으로 표현되는 플리커 계수 Γn(y)가 산출된다.
단, 상기한 바와 같이, 실제의 형광등 조명하에서는, 차수 m을 수차까지 한정해도, 플리커 성분을 충분히 근사할 수 있기 때문에, 식(2)에 의한 플리커 계수 Γn(y)의 산출에 있어서는, 총합 차수를 무한대가 아닌, 미리 정해진 차수, 예를 들면 2차까지 한정할 수 있다.
도 27에, 도 23에 도시한 피사체에 대한, 연속하는 3 필드에서의 플리커 계수 Γn(y)를 도시한다.
상기의 방법에 따르면, 적분값 Fn(y)에서는 플리커 성분이 신호 성분 중에 완전하게 묻히게 되는, 플리커 성분이 미소한 흑의 배경 부분이나 저조도의 부분 등의 영역에서도, 차분값 Fn(y)-Fn_1(y)를 산출하고, 이것을 평균치 AVE[Fn(y)]로 정규화함으로써, 플리커 성분을 고정밀도로 검출할 수 있다.
또한, 적당한 차수까지의 스펙트럼으로부터 플리커 성분을 추정하는 것은, 정규화 후의 차분값 gn(y)를 완전히 재현하지 않고 근사하게 되지만, 이에 의해, 오히려, 피사체의 상태에 의해 정규화 후의 차분값 gn(y)에 불연속적인 부분이 생겨도, 그 부분의 플리커 성분을 정밀도 있게 추정할 수 있게 된다.
<플리커 저감을 위한 연산>
도 17a의 식(1)로부터, 플리커 성분을 포함하지 않는 신호 성분 In(x, y)는, 도 20e의 식(17)로 표현된다.
그래서, 도 4의 예에서는, 연산 블록(40)에서, 플리커 생성 블록(53)으로부터의 플리커 계수 Γn(y)에 1이 더해지고, 그 합[1+Γn(y)]으로 입력 화상 신호 In'(x, y)가 제산된다.
이에 의해, 입력 화상 신호 In'(x, y)에 포함되는 플리커 성분이 거의 완전히 제거되고, 연산 블록(40)으로부터는, 출력 화상 신호(플리커 저감 후의 RGB 원색 신호 또는 휘도 신호)로서, 실질적으로 플리커 성분을 포함하지 않는 신호 성분 In(x, y)가 얻어진다.
또한, 시스템이 갖는 연산 능력의 제약으로부터, 상기의 모든 처리를 1 필드의 시간 내에 완결할 수 없는 경우에는, 플리커가 3 필드마다의 반복으로 되는 것을 이용하여, 연산 블록(40) 내에 플리커 계수 Γn(y)를 3 필드에 걸쳐 유지하는 기능을 마련하고, 3 필드 후의 입력 화상 신호 In'(x, y)에 대하여, 그 유지한 플리커 계수 Γn(y)를 연산하는 구성으로 하면 된다.
(포화 영역을 고려한 경우의 예: 도 5)
도 4의 예에서, 입력 화상 신호 In'(x, y)의 레벨이 포화 영역에 있는 경우, 연산 블록(40)에서 식(17)의 연산을 행하면, 반대로 신호 성분(색 성분 또는 휘도 성분)이 변화한다. 그래서, 연산 블록(40)은, 도 5의 예와 같이 구성하는 것이 바람직하다.
도 5의 예의 연산 블록(40)은, 플리커 생성 블록(53)으로부터의 플리커 계수 Γn(y)에 1을 더하는 가산 회로(41), 그 합[1+Γn(y)]으로 입력 화상 신호 In'(x, y)를 제산하는 제산 회로(42), 입력측의 스위치(43), 출력측의 스위치(44), 및 포화 레벨 판정 회로(45)에 의해 구성되고, 포화 레벨 판정 회로(45)에서, 입력 화상 신호 In'(x, y)의 레벨이 포화 영역의 임계값 레벨 이상인지의 여부가, 화소마다 판단된다.
그리고, 입력 화상 신호 In'(x, y)의 레벨이 포화 영역의 임계값 레벨에 미달할 때에는, 그 화소에서는, 포화 레벨 판정 회로(45)에 의해 스위치(43 및 44)가 제산 회로(42)측으로 절환되어, 상기한 바와 같이, 식(17)의 연산 결과가 출력 화상 신호로서, 연산 블록(40)으로부터 출력된다.
이에 반하여, 입력 화상 신호 In'(x, y)의 레벨이 포화 영역의 임계값 레벨 이상일 때에는, 그 화소에서는, 포화 레벨 판정 회로(45)에 의해 스위치(43 및 44)가 반대측으로 절환되어, 입력 화상 신호 In'(x, y)가, 그대로 출력 화상 신호로 서, 연산 블록(40)으로부터 출력된다.
따라서, 입력 화상 신호 In'(x, y)의 레벨이 포화 영역에 있는 경우에, 신호 성분(색 성분 또는 휘도 성분)이 변화하게 되는 것이 없어, 고화질의 출력 화상 신호가 얻어진다.
(플리커 저감 방법의 제2 예: 도 6)
도 4의 예와 같이, 차분값 Fn(y)-Fn_1(y)를 평균치 AVE[Fn(y)]로 정규화하면, 유한한 계산 정밀도를 효과적으로 확보할 수 있다. 그러나, 요구되는 계산 정밀도를 만족할 수 있는 경우에는, 적분값 Fn(y)를 직접, 평균치 AVE[Fn(y)]로 정규화해도 무방하다.
도 6은, 이 경우의 예를 도시하며, 정규화 블록(35)에서, 적분 블록(31)으로부터의 적분값 Fn(y)가, 평균치 계산 블록(33)으로부터의 평균치 AVE[Fn(y)]로 제산됨으로써 정규화되고, 정규화 후의 차분값 gn(y)가 산출된다.
단, 이 경우의 정규화 후의 차분값 gn(y)는, 도 21a의 식(18)로 표현되는 것으로 되기 때문에, 후단의 처리를 도 4의 예와 마찬가지로 하기 위해, 감산 회로(36)에서, 도 21b의 식(19)으로 나타내는 바와 같이, 식(18)로 표현되는 정규화 후의 차분값 gn(y)로부터 1을 감산하고, 그 결과를 DFT(이산 푸리에 변환) 블록(51)에 송출한다.
이 경우, │Am│=γm, θm=Φmn 이기 때문에, 도 20c의 식(15a)(15b)로부터, γm, Φmn은, 도 21c의 식(20a)(20b)에 의해 구할 수 있다.
따라서, DFT 블록(51)에서는, 도 4의 예에서는, 식(13)으로 정의되는 DFT 연 산에 의해 스펙트럼을 추출한 후, 식(16a)(16b)의 연산에 의해 각 다음의 플리커 성분의 진폭 γm 및 초기 위상 Φmn을 추정하는 데 반하여, 도 6의 예에서는, 식(13)으로 정의되는 DFT 연산에 의해 스펙트럼을 추출한 후, 식(20a)(20b)의 연산에 의해 각 다음의 플리커 성분의 진폭 γm 및 초기 위상 Φmn을 추정한다. 이후의 처리는, 도 4의 예와 동일하다
도 6의 예에서는, 차분 계산 블록(34)이 불필요해지기 때문에, 그 만큼, 플리커 저감부(25)를 간략화할 수 있다.
본 예에서도, 연산 블록(40)은, 도 5의 예와 같이 구성하는 것이 바람직하다.
(플리커 저감 방법의 제3 예: 도 7)
도 4의 예에서 정규화에 이용하는 평균치 AVE[Fn(y)]는, 도 18a의 식(7)의 근사가 성립하는 경우에는, 식(6)으로 표현되는 바와 같이 αn(y)와 동일할 뿐만 아니라, 도 17b의 식(4)의 제2항[αn(y)*Γn(y)]는, 제1항의 αn(y)에 비하여 충분히 작기 때문에, 정규화에 미치는 제2항의 영향은 매우 작다.
따라서, 정규화에 대해서는, 평균치 AVE[Fn(y)] 대신에 적분값 Fn(y)를 이용해도, 거의 문제가 없고, 평균치 AVE[Fn(y)]를 이용하는 경우와 마찬가지로, 효과적으로 플리커 성분을 검출할 수 있다.
그래서, 도 7의 예에서는, 정규화 블록(35)에서, 차분 계산 블록(34)으로부터의 차분값 Fn(y)-Fn_1(y)를, 적분 블록(31)으로부터의 적분값 Fn(y)로 제산함으로써 정규화한다. 이후의 처리는, 도 4의 예와 동일하다.
도 7의 예에서는, 적분값 유지 블록(32)은 1 필드분의 적분값을 유지할 수 있으면 될 뿐만 아니라, 평균치 계산 블록(33)을 필요로 하지 않기 때문에, 플리커 저감부(25)를 간략화할 수 있다.
본 예에서도, 연산 블록(40)은, 도 5의 예와 같이 구성하는 것이 바람직하다.
(비형광등 조명하에서는 다른 처리를 행하는 경우의 예: 도 8 및 도 9)
비형광등 조명하(형광등이 아닌 조명 환경)에서 촬영하는 경우, 상기한 플리커 저감 처리를 행하더라도, 특별한 문제점을 발생하지 않지만, 이 경우, 본래 불필요한 처리를 행하는 것으로 되기 때문에, 가령 플리커 성분이 충분히 작더라도, 화질에의 영향이 걱정된다.
그 때문에, 비형광등 조명하에서 촬영하는 경우에는, 플리커 저감 처리가 실행되지 않고, 입력 화상 신호 In'(x, y)가, 그대로 출력 화상 신호로서 플리커 저감부(25)로부터 출력되도록, 플리커 저감부(25)를 구성하는 것이 바람직하다.
도 8은, 그와 같이 플리커 저감부(25)를 구성한 경우의 일례를 도시한다. 정규화 적분값 산출 블록(30)은, 도 4, 도 6 또는 도 7의 예와 같이 구성된다. 도 4 및 도 7의 예에서는, 적분값 Fn(y)가 아닌, 차분값 Fn(y)-Fn_1(y)가 정규화되지만, 편의상, 정규화 적분값 산출 블록이라고 칭한다.
도 8의 예에서는, DFT 블록(51)과 플리커 생성 블록(53) 사이에, 형광등 조명하 판정 블록(52)이 마련된다.
DFT 블록(51)에서 추정되고, 산출되는 각 다음의 성분의 레벨(진폭) γm은, 형광등 조명하에서는, 도 22a에 도시하는 바와 같이, m=1의 성분의 레벨이, 임의의 임계값 Th보다 충분히 크고, m이 커짐에 따라서 급격하게 레벨이 작아지는 데 반하여, 비형광등 조명하에서는, 도 22b에 도시하는 바와 같이, 각 다음의 성분의 레벨이 임계값 Th 이하로 된다.
비형광등 조명하에서는, 스펙트럼이 제로로 되는 것이 이상적이지만, 실제로는, 피사체가 움직이기 때문에, 연속하는 복수 필드의 신호로부터 생성되는 정규화 후의 차분값 gn(y) 또는 적분값 gn(y)-1에, 주파수 성분을 약간 포함하는 것은 피할 수 없다.
그래서, 형광등 조명하 판정 블록(52)에서는, 예를 들면, m=1의 성분의 레벨이 임계값 Th를 초과하는지의 여부를 판단하고, 임계값 Th를 초과하는 경우에는, 형광등 조명하라고 판정하여, DFT 블록(51)으로부터의 γm, Φmn의 추정값을, 그대로 플리커 생성 블록(53)에 출력한다. 따라서, 이 경우에는, 상기한 바와 같이 플리커 저감 처리가 실행된다.
한편, m=1의 성분의 레벨이 임계값 Th 이하인 경우에는, 형광등 조명하 판정 블록(52)은, 비형광등 조명하라고 판정하여, 차수 m의 모두에 대하여, γm의 추정값을 제로로 한다. 따라서, 이 경우에는, 플리커 계수 Γn(y)도 제로로 되고, 입력 화상 신호 In'(x, y)가, 그대로 출력 화상 신호로서 연산 블록(40)으로부터 출력된다.
도 9는 다른 예를 도시한다. 본 예에서는, 형광등 조명하 판정 블록(52)은, 도 8의 예와 마찬가지로 형광등 조명하인지의 여부를 판정하지만, 비형광등 조명하 라고 판정한 경우에는, 검출 플래그 C0MP_0FF를 세트하여, 플리커 생성 블록(53) 및 연산 블록(40)에서의 처리를 정지시키고, 입력 화상 신호 In'(x, y)를, 그대로 출력 화상 신호로서 연산 블록(40)으로부터 출력시킨다. 형광등 조명하인 경우에는, 검출 플래그 C0MP_OFF가 리세트되고, 상기한 바와 같이 플리커 저감 처리가 실행된다.
도 9의 예에서는, 비형광등 조명하에서 촬영하는 경우, 화질에의 영향을 없앨 수 있을 뿐만 아니라, 소비 전력도 삭감할 수 있다.
(촬영자의 조작이나 동작에 의해 피사체가 크게 변화하는 경우: 도 10)
줌잉, 패닝, 틸팅 등의 카메라 조작에 의해, 또는 촬영자의 손떨림에 의해, 피사체가 단시간에 크게 변화하는 경우가 많이 있다. 이 경우, 도 18a의 식(7)의 가정이 성립하지 않게 되기 때문에, 결과적으로 플리커 검출 정밀도가 악화한다.
그래서, 이와 같이 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우를 고려하여, 촬상 장치는, 예를 들면, 도 10의 예와 같이 구성한다.
도 10의 예에서는, 플리커 저감부(25)로서는, 도 4, 도 6 또는 도 7의 예에서, 플리커 생성 블록(53)과 연산 블록(40) 사이에, 스위치(55, 56) 및 플리커 유지 블록(57)이 마련되고, 시스템 컨트롤러(14)로부터 출력되는 후술하는 검출 플래그 DET_OFF가, 스위치(55 및 56)에 절환 신호로서 공급된다.
플리커 유지 블록(57)은, 3 필드분의 플리커 계수 Γn(y)를 유지할 수 있는 것으로 되고, 1 필드분의 처리가 종료할 때마다 플리커 계수 Γn(y)를 다음의 필드용으로 저장함과 함께, 3 필드마다의 반복하여 판독 출력이 절환되게 된다.
촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우에는, 이것이 시스템 컨트롤러(14)에 의해 검출된다.
예를 들면, 촬영자가 조작부(18a)의 줌 키를 누르면, 그것이 인터페이스(19)를 통하여 시스템 컨트롤러(14)에 의해 검지된다. 시스템 컨트롤러(14)는, 이에 의해, 망원이나 광각의 조작 등, 촬영자의 줌 조작에 부합하여, 렌즈의 구동을 제어한다. 또한, 촬영자의 손떨림은, 손떨림 센서(17)에 의해 검지되고, 시스템 컨트롤러(14)에 손떨림 정보가 보내진다. 시스템 컨트롤러(14)는, 그 손떨림 정보를 기초로, 손떨림 보정을 제어한다. 패닝이나 틸팅도, 시스템 컨트롤러(14)에 의해 검지되고, 시스템 컨트롤러(14)는, 패닝 중은 손떨림 보정을 약하게 하는 등의 제어를 행한다. 이와 같은 검출 제어는, 일반적으로 카메라에서 행해지고 있는 것과 다를 바 없다.
또한, 도 10의 예에서는, 시스템 컨트롤러(14)는, 피사체가 단시간에 크게 변화하게 하는 촬영자의 조작 또는 동작을 검출한 경우에는, 검출 플래그 DET_OFF를 세트하고, 그와 같은 조작 또는 동작이 이루어지지 않는 경우에는, 검출 플래그 DET_OFF를 리세트한다.
그리고, 피사체가 단시간에 크게 변화하지 않는 통상의 상태에서는, 검출 플래그 DET_OFF가 리세트됨으로써, 플리커 저감부(25)에서는, 스위치(55)가 플리커 생성 블록(53)측으로 절환되어, 플리커 생성 블록(53)으로부터의, 그 때의 플리커 계수 Γn(y)가 연산 블록(40)에 공급되고, 플리커 저감 처리가 실행됨과 함께, 스위치(56)가 온 상태로 되어, 그 때의 플리커 계수 Γn(y)가 플리커 유지 블록(57) 에 저장된다.
한편, 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우에는, 검출 플래그 DET_OFF가 세트됨으로써, 플리커 저감부(25)에서는, 스위치(55)가 플리커 유지 블록(57)측으로 절환되고, 플리커 생성 블록(53)으로부터의, 그 때의 검출 정밀도가 나쁜 플리커 계수 Γn(y) 대신에, 플리커 유지 블록(57)으로부터 읽어내어진, 피사체가 단시간에 크게 변화하는 조작 또는 동작이 이루어지기 직전의, 검출 정밀도가 좋은 플리커 계수 Γn(y)가, 연산 블록(40)에 공급되고, 플리커 저감 처리가 실행됨과 함께, 스위치(56)가 오프 상태로 되어, 그 때의 검출 정밀도가 나쁜 플리커 계수 Γn(y)가 플리커 유지 블록(57)에 저장되는 것이 방지된다.
따라서, 본 예에서는, 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우에도, 플리커 검출 정밀도가 좋아지게 되어, 플리커가 확실하고 또한 충분하게 저감된다.
또한, 본 예에서는, 검출 플래그 DET_OFF가, 정규화 적분값 산출 블록(30), DFT 블록(51) 및 플리커 생성 블록(53)에도 송출되고, 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우에는, 검출 플래그 DET_OFF가 세트됨으로써, 정규화 적분값 산출 블록(30), DFT 블록(51) 및 플리커 생성 블록(53)에서의 처리가 정지된다. 따라서, 본 예에서는, 소비 전력을 삭감할 수도 있다.
또한, 본 예는, 플리커 계수 Γn(y)를 직전의 신호로 바꾸는 경우이지만, 보다 전단의 신호, 예를 들면 적분값 Γn(y)를, 직전의 신호로 바꾸도록 구성해도 무 방하다.
(촬영 상황에 따라서는 다른 처리를 행하는 경우의 예: 도 11 및 도 12)
이하에 설명하는 바와 같이, 촬영 상황에 따라서는 플리커 저감 처리가 불필요해지는 경우가 있다. 이 경우, 화질에의 영향을 고려하면, 상기한 비형광등 조명하에서 촬영하는 경우와 마찬가지로, 본래 불필요한 플리커 저감 처리는 행하지 않는 쪽이 바람직하다.
플리커 저감 처리가 불필요한 촬영 상황으로서는, 첫째, 동화상과 정지 화상의 양방을 촬영할 수 있는 비디오 카메라나 디지털 스틸 카메라로 정지 화상을 촬영하는 경우를 들 수 있다.
이 경우, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자를 이용한 카메라라 하더라도, 1 화면 내의 모든 화소의 노광 타이밍(노광 개시 및 노광 종료의 타이밍)을 동일하게 할 수 있어, 형광등 플리커의 발생을 회피할 수 있다. 촬상 소자로부터의 판독은, 동화상을 촬영하는 경우와 같은 프레임 레이트의 제약이 없기 때문에, 기계적인 셔터를 폐쇄하여 차광한 상태에서, 천천히 행할 수 있다.
그리고, 이와 같이 1 화면 내의 모든 화소의 노광 타이밍을 동일하게 하여 정지 화상을 촬영하는 경우인지의 여부에 대해서는, 도 1의 실시 형태에서는, 조작부(18a)에서의 카메라 조작에 기초하여, 시스템 컨트롤러(14)에서 검출할 수 있다.
플리커 저감 처리가 불필요한 촬영 상황으로서는, 둘째, 옥외의 태양광 아래 등에서 촬영하는 경우나, 노광량의 조정 등에 의해 노광 시간(전자 셔터 시간)을 형광등의 휘도 변화의 주기(1/100초)의 정수배로 설정하는 경우를 들 수 있다.
형광등 조명하에 있는지의 여부는, 도 8 및 도 9의 예에 도시한 바와 같이, DFT 블록(51)에서 추출된 스펙트럼의 레벨로부터 검출할 수 있지만, 여기서, 옥외의 태양광 아래 등에서 촬영하는 경우라는 것은, 동일한 비형광등 조명하라 하더라도, 피사체의 광량 등으로부터 시스템 컨트롤러(14)에서, 비형광등 조명하임을 직접 검출할 수 있는 경우이다.
또한, 상기한 바와 같이, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자를 이용한 카메라라 하더라도, 노광 시간을 형광등의 휘도 변화의 주기(1/100초)의 정수배로 설정했을 때에는, 화면내 플리커를 포함하는 형광등 플리커를 발생하지 않는다. 그리고, 노광량의 조정 등에 의해 노광 시간이 형광등의 휘도 변화의 주기의 정수배로 설정되었는지의 여부는, 시스템 컨트롤러(14)에서 직접 검출할 수 있다.
그래서, 이와 같이 시스템 컨트롤러(14)에 의해 플리커 저감 처리가 불필요한 촬영 상황이라고 판단된 경우에는, 플리커 저감 처리가 실행되지 않고, 입력 화상 신호 In'(x, y)가, 그대로 출력 화상 신호로서 플리커 저감부(25)로부터 출력되도록, 시스템을 구성한다.
도 11은, 그와 같이 시스템을 구성한 경우의 일례를 도시한다. 본 예에서는, 플리커 저감부(25)에서, DFT 블록(51)과 플리커 생성 블록(53) 사이에 제로화 블록(59)이 마련되고, 시스템 컨트롤러(14)로부터의 플리커 저감 온 오프 제어 신호에 의해, 제로화 블록(59)이 제어된다.
그리고, 시스템 컨트롤러(14)에서 플리커 저감 처리가 필요하다고 판단된 경 우에는, 플리커 저감 온 오프 제어 신호가 온 상태로 되고, 제로화 블록(59)은, DFT 블록(51)으로부터의 γm, Φmn의 추정값을, 그대로 플리커 생성 블록(53)에 출력한다. 따라서, 이 경우에는, 상기한 바와 같이 플리커 저감 처리가 실행된다.
한편, 시스템 컨트롤러(14)에서 플리커 저감 처리가 불필요하다고 판단된 경우에는, 플리커 저감 온 오프 제어 신호가 오프 상태로 되고, 제로화 블록(59)은, 차수 m의 모두에 대해, γm의 추정값을 제로로 한다. 따라서, 이 경우에는, 플리커 계수 Γn(y)도 제로로 되고, 입력 화상 신호 In'(x, y)가, 그대로 출력 화상 신호로서 연산 블록(40)으로부터 출력된다.
도 12는 다른 예를 도시한다. 본 예에서는, 플리커 저감부(25)의 연산 블록(40)이, 도 5의 예에 도시한 가산 회로(41), 제산 회로(42) 및 스위치(43, 44)를 가지고, 포화 레벨 판정 회로(45)를 갖지 않는 것으로 하여 구성되고, 시스템 컨트롤러(14)로부터의 플리커 저감 온 오프 제어 신호에 의해, 스위치(43 및 44)가 절환된다.
그리고, 시스템 컨트롤러(14)에서 플리커 저감 처리가 필요하다고 판단된 경우에는, 스위치(43 및 44)가 제산 회로(42)측으로 절환되어, 상기한 바와 같이, 식(17)의 연산 결과가 출력 화상 신호로서, 연산 블록(40)으로부터 출력된다.
한편, 시스템 컨트롤러(14)에서 플리커 저감 처리가 불필요하다고 판단된 경우에는, 스위치(43 및 44)가 반대측으로 절환되어, 입력 화상 신호 In'(x, y)가, 그대로 출력 화상 신호로서, 연산 블록(40)으로부터 출력된다.
또한, 도 12의 예에서는, 플리커 저감 온 오프 제어 신호가, 정규화 적분값 산출 블록(30), DFT 블록(51) 및 플리커 생성 블록(53)에도 송출되고, 시스템 컨트롤러(14)에서 플리커 저감 처리가 불필요하다고 판단된 경우에는, 정규화 적분값 산출 블록(30), DFT 블록(51) 및 플리커 생성 블록(53)에서의 처리가 정지된다. 따라서, 본 예에서는, 소비 전력을 삭감할 수도 있다.
(검출된 플리커 성분을 조정하는 경우의 예: 도 13∼도 15)
상기한 각 예의 방법에 따르면, 형광등 플리커가 정상적·안정적으로 발생하고 있는 상태에서는, 입력 화상 신호로부터 플리커 성분을 확실하고 또한 효과적으로 저감할 수 있다.
그러나, 상기한 각 예의 방법에서는, 플리커 성분의 검출에 있어서, 복수 필드 사이의 평균 연산 또는 차분 연산을 행하기 때문에, 형광등의 스위치를 온 또는 오프로 한 순간이나, 형광등 조명하의 방에 입실하고, 또는 형광등 조명하의 방으로부터 나왔을 때 등, 천이적인 비안정 상태에서는, 플리커 성분을 정확하게 검출할 수 없다. 그 때문에, 이와 같은 상태일 때에 얻어진 플리커 성분에 의해 플리커 저감 처리를 실행하면, 입력 화상 신호에 대하여 바람직하지 않은 보정이 행해지는 경우가 있다.
또한, 상기한 각 예의 방법에서는, 수평 방향의 피사체 이동, 또는 패닝이나 줌잉 등의 카메라 조작이나 촬영자의 손떨림에 의해 발생하는 수평 방향의 화면 각도 변화에 대해서는, 확실하고 또한 안정적으로 플리커를 저감할 수 있지만, 수직 방향의 피사체 이동, 또는 틸팅이나 줌잉 등의 카메라 조작이나 촬영자의 손떨림에 의해 발생하는 수직 방향의 화면 각도 변화에 대해서는, 플리커 저감 성능이 약간 낮아진다.
이 문제는, 도 10에 도시한 방법에 의해 해결할 수 있다. 그러나, 이 방법에서는, 피사체가 단시간에 크게 변화하지 않는 통상의 안정 상태와, 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는 경우 사이에서, 플리커 계수 Γn(y)가 절환되기 때문에, 촬영자는 위화감을 느낄 수 있다.
또한, 통상의 안정 상태라 하더라도, 외란을 억제하는 것은 할 수 없지만, 도 10에 도시한 방법에서는, 추종성이 빠르기 때문에, 외란에 직접 반응하여, 오히려 플리커 저감의 오차를 발생하는 경우가 있다.
외란의 영향을 적게 하기 위해서는, 플리커 성분을 추정하는 처리의 과정에서, LPF(로우 패스 필터)에 의한 필터링을 행하고, 또한, 그 시상수를 길게 하여, 플리커 추정의 추종성을 느리게 하면 된다.
그러나, 이와 같이 추종성을 느리게 하면, 상기한 상태 천이 시의 추종성까지 늦어지게 되고, 형광등의 스위치를 온 상태로 한 순간이나, 형광등 조명하의 방에 입실했을 때와 같이, 플리커 저감 처리가 필요함에도 불구하고, 좀처럼 처리가 실행되지 않는다고 하는 문제나, 형광등의 스위치를 오프로 한 순간이나, 형광등 조명하의 방으로부터 나왔을 때와 같이, 플리커 저감 처리가 불필요함에도 불구하고, 처리가 속행된다는 문제를 발생한다.
그 외에, 검출된 플리커 성분을, 그대로 입력 영상 신호와 연산하는 대신에, 필요에 따라, 검출된 플리커 성분을, 그 진폭이나 위상을 조정한 후에, 입력 영상 신호와 연산함으로써, 다양한 장면에서, 보다 플렉시블하고 또한 적절한 플리커 저 감을 행할 수 있다.
그래서, 이하의 예는, 플리커 저감에 관련하는 파라미터인, 추정된 플리커 성분의 진폭 및 위상을 조정하는 경우이다.
도 13에, 본 예의 기본적인 구성을 도시한다. 본 예에서는, 상기한 플리커 저감부(25)의 DFT 블록(51)으로부터 얻어지는, 추정된 플리커 성분의 진폭 γm 및 초기 위상 Φmn의 데이터를, 시스템 컨트롤러(14)에 취득하여, 시스템 컨트롤러(14) 내의 파라미터 제어부(14a)에서, 후술하는 바와 같이 조정하고, 그 조정 후의 진폭 γm' 및 초기 위상 Φmn'의 데이터를, 플리커 저감부(25)의 플리커 생성 블록(53)에 입력한다.
플리커 생성 블록(53)에서는, DFT 블록(51)으로부터 얻어지는 진폭 γm 및 초기 위상 Φmn 대신에, 이 조정 후의 진폭 γm' 및 초기 위상 Φmn'으로부터, 도 17a의 식(2)로 표현되는 플리커 계수 Γn(y)가 산출된다. 즉, 본 예에서는, 도 17a의 식(2) 중의 γm 및 Φmn은, γm' 및 Φmn'으로 치환된다.
또한, 도 13은, 플리커 저감부(25)의 정규화 적분값 산출 블록(30)을, 도 4에 도시한 구성으로 하는 경우이지만, 정규화 적분값 산출 블록(30)은, 도 6 또는 도 7에 도시한 구성으로 해도 무방하다.
<제1 구체예: 도 14>
도 14는, 이 경우의 제1 구체예를 도시한다.
파라미터 제어부(14a)의 입력 신호로 되는 진폭 γm 및 초기 위상 Φmn의 데이터는, 실제로는 1 필드당 m 계통 있지만, 여기서는 1 계통으로 통합하여 나타낸 다. 파라미터 제어부(14a)의 출력 신호로 되는 진폭 γm' 및 초기 위상 Φmn'의 데이터에 대해서도, 마찬가지이다.
본 예에서는, DFT 블록(51)으로부터의 진폭 γm 및 초기 위상 Φmn의 데이터가, 각각 디지털 LPF(로우 패스 필터)(61 및 62)에 공급되고, 디지털 LPF(61)의 출력 데이터가, 게인 조정 회로(승산 회로)(63)에 공급되고, 게인 조정 회로(63)의 출력 데이터가, 조정 후의 진폭 γm'의 데이터로서, 플리커 생성 블록(53)에 입력됨과 함께, 디지털 LPF(62)의 출력 데이터가, 조정 후의 초기 위상 Φmn'의 데이터로서, 플리커 생성 블록(53)에 입력된다.
디지털 LPF(61)의 시상수 Ta, 및 디지털 LPF(62)의 시상수 Tp는, 시상수 설정 블록(65)에 의해 설정된다. 게인 조정 회로(63)에서의 게인(승산 계수) Ka는, 게인 설정 블록(66)에 의해 설정된다.
디지털 LPF(61 및 62)로서는, 시상수를 일정 범위 내에서 임의로 또한 연속적으로 바꿀 수 있는 것이 바람직하지만, 목적의 시상수를 설정할 수 없는 경우에는, 그에 가까운 시상수를 설정할 수 있는 것으로 하면 된다. 또한, 하나의 LPF에서 시상수를 연속적으로 바꿀 수 없는 경우에는, 내부에 별개의 시상수를 갖는 복수의 LPF를 준비하고, 이것에 시상수 Ta, Tp로서 제어 코드를 부여함으로써, 그 복수의 LPF로부터 하나의 LPF가 선택되도록 구성할 수 있다.
또한, 플리커 발생 시의 초기 위상 Φmn은, 주기적으로 변동한다. 예를 들면, 상용 교류 전원 주파수가 50Hz, 카메라의 수직 동기 주파수가 60Hz인 경우에는, 초기 위상 Φmn은, 3 필드마다 동일한 값으로 되고, 직전의 필드 사이에서는, 도 17a의 식(3)으로 표현되는 차(상위)를 발생한다.
그 때문에, 디지털 LPF(62)는, 이 초기 위상 Φmn의 변동을 고려하여, 동일한 위상의 데이터에 대하여 하나의 LPF를 구성할 필요가 있다. 즉, 상기의 예와 같이 초기 위상 Φmn의 변동의 주기가 3 필드인 경우에는, 디지털 LPF(62)로서 3개의 LPF를 마련하고, 초기 위상 Φmn의 데이터를, 이들 3개의 LPF로 배분하여 입력한다.
또한, 진폭 γm 및 초기 위상 Φmn의 데이터와, 시스템 컨트롤러(14) 내에서 얻어지는 AE(자동 노출) 제어 정보 및 AWB(오토 화이트 밸런스) 제어 정보가, 상태 검출 블록(68)에 입력된다. AE 제어 정보는, 구체적으로 설명하면, 화면의 밝기의 정보이고, AWB 제어 정보는, 구체적으로 설명하면, 색 온도나 형광등 조명하인지의 여부를 나타내는 정보이다.
그리고, 상태 검출 블록(68)에서, 이들 입력 정보로부터, 후술하는 바와 같이, 현재의 촬영 환경이 형광등 조명하인지의 여부, 혹은, 형광등의 스위치가 온 또는 오프 상태로 되는 등, 비형광등 조명하로부터 형광등 조명하로의 천이 상태, 또는 형광등 조명하로부터 비형광등 조명하로의 천이 상태에 있는지의 여부 등의, 형광등 플리커의 발생에 영향을 주는 촬영 상황이 검출되고, 그 검출 결과에 부합하여 제어 모드가 결정된다.
그 결정된 제어 모드가, 제어 모드 제시 신호에 의해, 시상수 설정 블록(65) 및 게인 설정 블록(66)에 제시되고, 이것을 받아, 시상수 설정 블록(65)은, 디지털 LPF(61 및 62)의 시상수 Ta 및 Tp를 설정하고, 게인 설정 블록(66)은, 게인 조정 회로(63)에서의 게인 Ka를 설정한다.
도 16에, 상태 검출 블록(68)에서의 상기한 상태 검출의 판단 기준의 예를 도시한다. 먼저, 형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 경우에는, 추정된 플리커 성분의 진폭 γm은, 거의 일청치로 되고, 초기 위상 Φmn은, 일정 주기(상용 교류 전원 주파수가 50Hz, 카메라의 수직 동기 주파수가 60Hz 인 경우에는, 3 필드)마다 거의 동일한 값으로 된다.
따라서, 이들 정보로부터, 형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 상태임을 충분히 판단할 수 있다.
그 밖에, 형광등 조명하에서는, 화면의 밝기가 거의 일정 주기로 변동하기 때문에, 그것을 나타내는 AE 제어의 밝기 정보로부터, 형광등 조명하임을 충분히 판단할 수 있다.
또한, 통상적으로, AWB 제어에서는, 검파된 색 정보로부터 광원을 추정하고, 광원이 형광등인지의 여부를 판단하고 있기 때문에, 그 AWB 제어의 광원 추정 정보로부터, 형광등 조명하임을 판단할 수도 있다.
본 예에서는, 과거의 복수 필드에 걸친 이상의 정보를 종합적으로 판단함으로써, 검출의 정밀도를 높인다.
그리고, 상태 검출 블록(68)은, 이와 같이 형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 상태라고 판단한 경우에는, 제어 모드를 후술하는 모드 A로 설정한다.
한편, 비형광등 조명하에서 정상적으로 플리커가 발생하지 않은 경우에는, 추정된 플리커 성분의 진폭 γm은, 노이즈 성분만으로, 제로 부근에서 랜덤하게 변동하고, 초기 위상 Φmn은, 노이즈에 의해 랜덤하게 변동한다.
따라서, 이들 정보로부터, 비형광등 조명하에서 플리커 저감 처리가 불필요한 상태임을 충분히 판단할 수 있다.
그 밖에, 비형광등 조명하에서는, 화면의 밝기의 변동에 주기성이 없기 때문에, 그것을 나타내는 AE 제어의 밝기 정보로부터, 비형광등 조명하임을 충분히 판단할 수 있다. 또한, 상기한 AWB 제어의 광원 추정 정보로부터, 비형광등 조명하임을 판단할 수도 있다.
본 예에서는, 과거의 복수 필드에 걸친 이상의 정보를 종합적으로 판단함으로써, 검출의 정밀도를 높인다.
그리고, 상태 검출 블록(68)은, 이와 같이 비형광등 조명하에서 정상적으로 플리커가 발생하지 않은(플리커 저감 처리가 불필요한) 상태라고 판단한 경우에는, 제어 모드를 후술하는 모드 B로 설정한다.
상태 검출 블록(68)에서 결정된 제어 모드에 부합하여, 구체적으로, 시상수 설정 블록(65) 및 게인 설정 블록(66)에서, 디지털 LPF(61, 62)의 시상수 Ta, Tp 및 게인 조정 회로(63)에서의 게인 Ka로서, 어떠한 값을 설정할 것인가에 대해서는, 시스템의 구성이나 시스템에 대한 요구에 부합하여, 이하와 같이 결정한다.
먼저, 디지털 LPF(61)의 시상수 Ta에 대해서는, 상기한 바와 같이, 추정된 플리커 성분의 진폭 γm은, 제로 부근인지의 여부의 차이는 있지만, 모드 A(형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 상태)이든지, 모드 B(비형 광등 조명하에서 정상적으로 플리커가 발생하지 않은 상태)이든지, 거의 일정값으로 된다. 거의 일정값으로 되지 않지 않는 것은, 외란이 있는 경우이다.
그래서, 외란에 대해 강한, 보다 로버스트한 시스템으로 하기 위해서는, 디지털 LPF(61)의 시상수 Ta를 길게 설정하는 것이 바람직하다. 그러나, 제어 모드가, 모드 A로부터 모드 B로, 또는 모드 B로부터 모드 A로, 천이하는 경우를 생각하면, 천이 시에는 추종성이 빠른 쪽이 좋고, 디지털 LPF(61)의 시상수 Ta는 짧게 설정해야 한다.
즉, 진폭 γm에 대해서는, 2개의 상반되는 요구를 동시에 만족할 필요가 있다. 그러나, 도 4, 도 6 또는 도 7에 도시한 바와 같은, 본 발명의 방법의 기본적인 방법은, 원래 외란에 대하여 강한 알고리즘이다.
따라서, 실제로는, 후자의 추종성을 중시하여, 시상수 Ta를 짧게 설정한다. 물론, 모드 A 또는 모드 B와 같은 정상 상태에서는 시상수 Ta가 길어지고, 모드 A로부터 모드 B로의 천이시 또는 모드 B로부터 모드 A로의 천이 시에는 시상수 Ta가 짧아지도록, 시상수 Ta를 동적으로 제어할 수 있으면, 가장 적합하다.
한편, 디지털 LPF(62)의 시상수 Tp에 대해서는, 모드 A(형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 상태)에서는, 도 16에 도시한 바와 같이, 플리커 발생의 원리에 의해, 초기 위상 Φmn은 일정 주기마다 거의 동일한 값으로 되기 때문에, 외란에 대하여 강해지도록, 시상수 Tp를 충분히 길게 설정해야 한다.
이에 반하여, 모드 B(비형광등 조명하에서 정상적으로 플리커가 발생하지 않 은 상태)에서는, 초기 위상 Φmn은 랜덤한 값을 계속해서 취하기 때문에, 시상수 Tp를 길게 설정하는 것에 의한 효과는 특별히 없다. 구체적으로, 모드 B에서는, 후술하는 게인 조정의 효과에 의해, 시상수 Tp는 임의의 값으로 설정할 수 있다.
또한, 모드 A와 모드 B 사이에서 시상수 Ta 또는 Tp을 절환하도록 구성해도 무방하다.
게인 조정 회로(63)에서의 게인 Ka에 대해서는, 모드 A(형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 상태)에서는, 도 16에 도시하는 바와 같이 진폭 γm이 거의 일정값으로 되기 때문에, 기본적으로 게인 Ka를 1로 설정하면 무방하다.
단, 게인 Ka는, 진폭 γm의 보정율을 결정하는 것이며(Ka=1로 설정하면, 입력의 1OO%를 출력하고, 보정율은 제로), 게인 Ka를 바꿈으로써, 진폭 γm의 보정율을 직접 제어할 수 있다.
그리고, 실제의 촬영 환경에서는, 굳이 진폭을 크게 하고 싶은 경우나, 작게 하고 싶은 경우가 있기 때문에, 게인 Ka는, 1에 한정되지 않고, 1보다 큰 값, 또는 1보다 작은 값으로 설정할 수 있도록, 시스템을 구성해도 무방하다.
한편, 모드 B(비형광등 조명하에서 정상적으로 플리커가 발생하지 않은 상태)에서는, 진폭 γm은 노이즈에 의해 제로 부근의 랜덤한 값으로 된다. 그리고 본래, 모드 B에서는 플리커 저감 처리를 행할 필요가 없기 때문에, 모드 B에서는, 게인 Ka를 제로로 설정하여, 불필요한 처리가 이루어지지 않도록 한다.
이상은, 모드 A 또는 모드 B라는 안정 상태(플리커가 정상적으로 발생하고 있는 상태, 또는 정상적으로 발생하지 않은 상태)인 경우이지만, 상태 검출 블록(68)에서 검출되는 모드가 모드 A로부터 모드 B로 변화했을 때에는, 촬영 환경이 형광등 조명하로부터 비형광등 조명하로 천이한 가능성이 높고, 상태 검출 블록(68)에서 검출되는 모드가 모드 B로부터 모드 A로 변화했을 때에는, 촬영 환경이 비형광등 조명하로부터 형광등 조명하로 천이한 가능성이 높다.
그리고, 도 4, 도 6 또는 도 7에 도시한 바와 같은, 본 발명의 방법의 기본적인 방법에서는, 복수 필드 사이의 평균 연산 또는 차분 연산에 의해 플리커 성분을 추출하기 때문에, 이러한 천이 시에는, 평균 연산 또는 차분 연산에 이용되는 각 신호 열의 일부에는 플리커 성분을 포함하고, 다른 일부에는 플리커 성분을 포함하지 않는 상태로 된다.
그 결과, 평균 연산 또는 차분 연산에 의해 얻어지는 플리커 성분에 오차를 발생하고, 검출되는 진폭 γm 및 초기 위상 Φmn에도 오차가 발생한다. 그리고, 이와 같은 오차를 포함하는 진폭 γm 및 초기 위상 Φmn으로부터 플리커 계수 Γn(y)를 산출하면, 당연히, 출력 화상 신호에 악영향을 미친다.
이 문제를 경감하기 위해서, 게인 설정 블록(66)에서는, 제어 모드의 천이 모습을 검출하고, 천이 상태에 부합하여 게인 Ka의 값을 제어한다.
구체적으로, 제어 모드가 모드 A로부터 모드 B로 천이한 경우, 천이 개시 시 점에서 이미 진폭 γm 및 초기 위상 Φmn의 신뢰성이 떨어지고 있기 때문에, 천이 후, 즉시 게인 Ka를 1로부터 제로로 절환하여, 플리커 생성 블록(53) 및 연산 블록(40)에서의 플리커 저감 처리를 정지하고, 또는 게인 Ka를 서서히 작게 하여, 플리 커 생성 블록(53) 및 연산 블록(40)에서의 플리커 저감 처리를 원활하게 정지한다.
반대로 제어 모드가 모드 B로부터 모드 A로 천이한 경우, 천이 개시 시점에서는 아직 진폭 γm 및 초기 위상 Φmn의 신뢰성이 낮기 때문에, 진폭 γm 및 초기 위상 Φmn의 신뢰성이 충분히 높아질 때까지 대기하고 나서, 게인 Ka를 제로로부터 1로 절환하여, 플리커 생성 블록(53) 및 연산 블록(40)에서의 플리커 저감 처리를 실행하고, 또는 게인 Ka를 서서히 크게 하여, 플리커 생성 블록(53) 및 연산 블록(40)에서의 플리커 저감 처리를 원활하게 실행한다.
<제2 구체예: 도 15>
도 15는, 제2 구체예를 도시한다.
본 예는, 도 14에 도시한 예에 대하여, 기억부(71∼74), 스위치(75∼78) 및 상태 검출 블록(69)을 부가한 것이다.
기억부(71)는, 진폭 γm의 데이터를 기억하고, 기억부(72)는, 초기 위상 Φmn의 데이터를 기억하고, 기억부(73)는, 게인 조정 회로(63)의 출력 데이터를 기억하고, 기억부(74)는, 디지털 LPF(62)의 출력 데이터를 기억하는 것이고, 스위치(75∼78)는, 각각, 상태 검출 블록(69)의 검출 결과에 부합하여, 기억부(71∼74)의 입력 데이터와 출력 데이터 중 어느 하나를 선택하는 것이고, 스위치(75)의 출력 데이터가, 디지털 LPF(61)에 공급되고, 스위치(76)의 출력 데이터가, 디지털 LPF(62)에 공급되고, 스위치(77)의 출력 데이터가, 진폭 γm'의 데이터로서 플리커 생성 블록(53)에 입력되고, 스위치(78)의 출력 데이터가, 초기 위상 Φmn'의 데이터로서 플리커 생성 블록(53)에 입력된다.
상태 검출 블록(69)에는, 줌잉 정보 및 손떨림 정보가 입력된다. 상태 검출 블록(69)은, 줌잉 정보로부터는, 줌잉에 의해 큰 화면 각도 변화를 발생하고 있는지의 여부를 판단하고, 손떨림 정보로부터는 패닝이나 틸팅, 또는 대진폭의 손떨림 등에 의해 큰 화면 각도 변화를 발생하고 있는지의 여부를 판단한다.
그리고, 큰 화면 각도 변화를 발생하고 있지 않다고 판단한 경우에는, 상태 검출 블록(69)은, 스위치(75∼78)를, 각각 기억부(71∼74)가 아닌 측으로 절환한다. 즉, 통상은, 도 14의 예와 마찬가지로, 플리커 저감 처리가 실행된다.
한편, 큰 화면 각도 변화를 발생하고 있다고 판단한 경우에는, 상태 검출 블록(69)은, 스위치(75∼78)를, 각각 기억부(71∼74)측으로 절환한다.
즉, 큰 화면 각도 변화를 발생하고 있는 상태에서는, 진폭 γm 및 초기 위상 Φmn의 신뢰성이 떨어지기 때문에, 과거에 요구되어 기억부(73 및 74)에 기억되어 있는 진폭 데이터 및 초기 위상 데이터가, 진폭 γm' 및 초기 위상 Φmn'으로서 플리커 생성 블록(53)에 입력된다.
도 16에 도시하는 바와 같이, 모드 A(형광등 조명하에서 플리커가 정상적·안정적으로 발생하고 있는 상태)에서는, 진폭 γm 및 초기 위상 Φmn이 안정되어 있기 때문에, 과거의 값을 이용해도 아무런 문제는 없으며, 오히려 과거의 값을 적극적으로 이용해야 한다.
단, 화면 각도 변화 중에 디지털 LPF(61 및 62)에 신뢰성이 낮은 데이터가 계속 입력되면, 다음으로 스위치(77 및 78)가 기억부(73 및 74)가 아닌 측으로 절환된 직후의 진폭 γm' 및 초기 위상 Φmn'은, 오차를 포함한 것으로 된다.
이를 방지하기 위해서, 큰 화면 각도 변화를 발생하고 있는 상태에서는, 상태 검출 블록(69)은, 스위치(77 및 78)를 기억부(73 및 74)측으로 절환함과 함께, 스위치(75 및 76)를 기억부(71 및 72)측으로 절환하여, 그 때의 신뢰성이 낮은 데이터가, 디지털 LPF(61 및 62)에 입력되지 않고, 기억부(71 및 72)에 기억되어 있는, 큰 화면 각도 변화를 발생하기 전의 신뢰성이 높은 데이터가, 디지털 LPF(61 및 62)에 입력되도록 제어한다.
또한, 줌잉 정보나 손떨림 정보에 한정되지 않고, 별도로, 진폭 γm 및 초기 위상 Φmn의 신뢰성을 판정하여, 그 판정 결과의 신뢰성 레벨 정보를, 상태 검출 블록(69)의 입력 정보로 하고, 신뢰성 레벨 정보가 진폭 γm 및 초기 위상 Φmn의 신뢰성이 낮음을 나타내는 경우에는, 상기한 바와 같이 스위치(75∼78)가 기억부(71∼74)측으로 절환됨으로써, 과거의 신뢰성이 높은 데이터가 이용되도록 구성할 수도 있다.
<효과>
이상의 예에 따르면, 형광등 조명하나 비형광등 조명하의 정상 상태에서는 외란의 영향을 보다 받기 어렵고, 그러면서도 천이 시의 응답성·추종성이 좋은 처리를 실현할 수 있다. 또한, 상태 천이시나 화면 각도 변화시, 또는 플리커 검출 파라미터의 신뢰성이 낮은 경우 등에도, 원활하게, 또한 위화감 없이, 적절한 처리를 행할 수 있다.
〔다른 실시 형태〕
(적분에 대해)
상기한 각 예는, 입력 화상 신호 In'(x, y)를 1 라인분에 걸쳐 적분하는 경우이지만, 입력 화상 신호 In'(x, y)의 적분은, 도안의 영향을 적게 하여 플리커 성분의 샘플링 값을 얻기 때문에, 1 라인에 한정되지 않고, 복수 라인의 시간에 걸쳐 행해도 무방하다. 상기한 바와 같이 화면 상에서는 줄무늬 모양으로서 나타나는 형광등 플리커(화면내 플리커)의 1 주기는 L(=M*60/100) 라인에 상당하기 때문에, 그 1 주기, 즉 L 라인에서, 적어도 2개의 샘플링 값을 얻도록 하면, 소위 샘플링의 정리로부터, 플리커 성분을 검출할 수 있다.
실제로는, 화면내 플리커의 1 주기, 즉 L 라인에서, 수개 이상 내지 10개 이상의 샘플링 값을 얻는 것이 바람직하지만, 그 경우에도, 입력 화상 신호 In'(x, y)를 수평 주기의 수배 이상 내지 10배 이상의 시간에 걸쳐 적분할 수 있다. 또한, 적분 시간은, 2.5 수평 주기 등과 같이, 수평 주기의 정확한 정수배가 아니어도 무방하다.
그리고, 이와 같이 적분 시간을 길게 하고, 단위 시간 당의 샘플링 수를 줄이는 경우에는, DFT 블록(51)에서의 DFT 연산의 부담을 가볍게 할 수 있을 뿐만 아니라, 피사체가 화면 수직 방향으로 움직인 경우에, 그 영향을 적게 할 수 있다.
(그 외에 대해)
도 2와 같은 원색계 시스템의 경우, 도 2와 같이 플리커 저감부(25R, 25G, 25B)에 의해 RGB 각 색의 원색 신호마다 플리커 성분을 검출하고, 저감하는 대신, 예를 들면, 합성 매트릭스 회로(29)의 휘도 신호(Y)의 출력측에, 상기한 예와 같은 플리커 저감부(25)를 마련하여, 휘도 신호(Y) 중의 플리커 성분을 검출하고, 저감 하도록 구성해도 무방하다.
또한, 상기한 실시 형태는, 플리커 저감부(25)를 포함하는 디지털 신호 처리부(20)를 하드웨어에 의해 구성하는 경우이지만, 플리커 저감부(25) 또는 디지털 신호 처리부(20)의 일부 또는 전부를 소프트웨어에 의해 구성해도 무방하다.
또한, 상기한 실시 형태는, 수직 동기 주파수가 60Hz(1 필드 주기가 1/60초)인 경우이지만, 본 발명은, 예를 들면, 디지털 카메라 등, 프로그레시브 방식의 카메라이며, 수직 동기 주파수가 30Hz(1 프레임 주기가 1/30초)인 경우에도 적용할 수 있다. 이 경우에는, 3 프레임 주기(1/10초)가 형광등의 발광 주기(1/100초)의 정수배로 되기(플리커의 줄무늬 모양은 3 프레임에서 10 파장분으로 된다) 때문에, 상기한 실시 형태의 필드를 프레임으로 치환하면 된다.
또한, 본 발명은, CMOS 촬상 소자 이외의 XY 어드레스 주사형의 촬상 소자를 이용하는 경우에도 적용할 수 있다.
상기한 바와 같이, 본 발명에 따르면, 수광 소자 등을 이용하지 않고, 간단한 신호 처리에 의해서만, CMOS 촬상 소자 등의 XY 어드레스 주사형의 촬상 소자에 고유한 형광등 플리커를, 피사체나 영상 신호 레벨 및 형광등의 종류 등에 상관없이, 고정밀도로 검출하고, 확실하고 또한 충분하게 저감할 수 있다.
특히, RGB 각 색의 원색 신호에 대하여, 본 발명의 플리커 저감 방법을 이용하는 경우에는, 명암 플리커 뿐만 아니라 색 플리커를도, 고정밀도로 검출하고, 확실하고 또한 충분하게 저감할 수 있다.
또한, 신호 레벨이 포화 영역에 있을 때에는 플리커 저감의 연산을 행하지 않도록 하는 경우에는, 플리커 저감의 연산을 행함으로써 반대로 신호 성분이 변화하는 것을 방지할 수 있다.
또한, 비형광등 조명하일 때에는 플리커 저감의 연산을 행하지 않도록 하는 경우에는, 플리커 저감의 연산을 행하는 것에 의한 화질에의 영향을 방지할 수 있다.
또한, 촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화할 때에는, 직전에 추정한 플리커 성분, 또는 직전의 신호에 기초하여 추정한 플리커 성분을 연산하는 경우에는, 피사체가 단시간에 크게 변화하는 것에 의한 플리커 검출 정밀도의 악화를 방지할 수 있다.
또한, 정지 화상을 촬영할 때 등과 같이 플리커 저감 처리가 불필요한 촬영 상황일 때에는 플리커 저감의 연산을 행하지 않도록 하는 경우에는, 플리커 저감의 연산을 행하는 것에 의한 화질에의 영향을 방지할 수 있다.
또한, 추정한 플리커 성분을 조정하고, 그 조정 후의 플리커 성분을 입력 화상 신호와 연산하는 경우에는, 형광등 조명하나 비형광등 조명하의 정상 상태에서는 외란의 영향을 보다 받기 어렵고, 그러면서도 천이 시의 응답성·추종성이 좋은 처리를 실현할 수 있을 뿐만 아니라, 상태 천이시나 화면 각도 변화시, 또는 플리커 검출 파라미터의 신뢰성이 낮은 경우 등에도, 원활하게, 또한 위화감 없이, 적절한 처리를 행할 수 있다.

Claims (46)

  1. 형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 영상 신호 또는 휘도 신호에 포함되는 형광등 플리커 성분을 저감하는 방법으로서,
    상기 영상 신호 또는 상기 휘도 신호를 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 공정과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 공정과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 공정과,
    그 추출한 스펙트럼으로부터 플리커 성분을 추정하는 공정과,
    그 추정한 플리커 성분을 제거하도록, 추정한 플리커 성분과 상기 입력 화상 신호를 연산하는 공정
    을 구비하고,
    상기 정규화 공정에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 플리커 저감 방법.
  2. 형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 각 색의 색 신호에 포함되는 형광등 플리커 성분을 저감하는 방법으로서,
    상기 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 l 수평 주기 이상의 시간에 걸쳐 적분하는 공정과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 공정과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 공정과,
    그 추출한 스펙트럼으로부터 플리커 성분을 추정하는 공정과,
    그 추정한 플리커 성분을 제거하도록, 추정한 플리커 성분과 상기 입력 화상 신호를 연산하는 공정
    을 구비하며,
    상기 정규화 공정에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 플리커 저감 방법.
  3. 형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 휘도 신호 및 각 색의 색 신호에 포함되는 형광등 플리커 성분을 저감하는 방법으로서,
    상기 휘도 신호 및 상기 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 공정과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 공정과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 공정과,
    그 추출한 스펙트럼으로부터 플리커 성분을 추정하는 공정과,
    그 추정한 플리커 성분을 제거하도록, 추정한 플리커 성분과 상기 입력 화상 신호를 연산하는 공정
    을 구비하며,
    상기 정규화 공정에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 플리커 저감 방법.
  4. 삭제
  5. 삭제
  6. 삭제
  7. 제1항 내지 제3항 중 어느 한 항에 있어서,
    상기 스펙트럼 추출 공정에서는, 정규화 후의 차분값을 푸리에 변환하는 플리커 저감 방법.
  8. 제1항 내지 제3항 중 어느 한 항에 있어서,
    상기 입력 화상 신호의 레벨이 포화 영역에 있는지의 여부를 판단하고, 포화 영역에 있다고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 플리커 저감 방법.
  9. 제1항 내지 제3항 중 어느 한 항에 있어서,
    추출한 스펙트럼의 레벨로부터 형광등 조명하인지의 여부를 판단하고, 형광등 조명하가 아니라고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 플리커 저감 방법.
  10. 제1항 내지 제3항 중 어느 한 항에 있어서,
    촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는지의 여부를 판단하고, 크게 변화한다고 판정했을 때에는, 직전에 추정한 플리커 성분, 또는 직전의 신호에 기초하여 추정한 플리커 성분과, 상기 입력 화상 신호를 연산하는 플리커 저감 방법.
  11. 제1항 내지 제3항 중 어느 한 항에 있어서,
    플리커 저감 처리가 불필요한 촬영 상황인지의 여부를 판단하고, 불필요한 촬영 상황이라고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 플리커 저감 방법.
  12. 삭제
  13. 제1항 내지 제3항 중 어느 한 항에 있어서,
    추정한 플리커 성분의 진폭 데이터 및 초기 위상 데이터를, 각각 로우 패스 필터를 통해서 조정하고, 그 조정 후의 진폭 데이터 및 초기 위상 데이터를 이용하여, 상기 입력 화상 신호와 연산하는 플리커 성분을 생성하는 플리커 저감 방법.
  14. 제13항에 있어서,
    조정 후의 진폭 데이터 및 초기 위상 데이터를 기억부에 보존해 놓고, 일정한 상태가 검출된 경우에는, 그 보존되어 있는 진폭 데이터 및 초기 위상 데이터를 이용하여, 상기 입력 화상 신호와 연산하는 플리커 성분을 생성하는 플리커 저감 방법.
  15. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 영상 신호 또는 휘도 신호를 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 촬상 장치.
  16. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 촬상 장치.
  17. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 휘도 신호 및 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 촬상 장치.
  18. 삭제
  19. 삭제
  20. 삭제
  21. 제15항 내지 제17항 중 어느 한 항에 있어서,
    상기 스펙트럼 추출 수단은, 정규화 후의 차분값을 푸리에 변환하는 수단인 촬상 장치.
  22. 제15항 내지 제17항 중 어느 한 항에 있어서,
    상기 입력 화상 신호의 레벨이 포화 영역에 있는지의 여부를 판단하고, 포화 영역에 있다고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 수단을 구비하는 촬상 장치.
  23. 제15항 내지 제17항 중 어느 한 항에 있어서,
    상기 스펙트럼 추출 수단에 의해 추출된 스펙트럼의 레벨로부터 형광등 조명하인지의 여부를 판단하고, 형광등 조명하가 아니라고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 수단을 구비하는 촬상 장치.
  24. 제15항 내지 제17항 중 어느 한 항에 있어서,
    촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화하는지의 여부를 판단하고, 크게 변화한다고 판정했을 때에는, 상기 연산 수단에 대하여, 상기 플리커 성분 추정 수단에 의해 직전에 추정된 플리커 성분, 또는 직전의 신호에 기 초하여 상기 플리커 성분 추정 수단에 의해 추정된 플리커 성분과, 상기 입력 화상 신호를 연산시키는 수단을 구비하는 촬상 장치.
  25. 제15항 내지 제17항 중 어느 한 항에 있어서,
    플리커 저감 처리가 불필요한 촬영 상황인지의 여부를 판단하고, 불필요한 촬영 상황이라고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 수단을 구비하는 촬상 장치.
  26. 삭제
  27. 제15항 내지 제17항 중 어느 한 항에 있어서,
    상기 플리커 성분 추정 수단에 의해 추정된 플리커 성분의 진폭 데이터 및 초기 위상 데이터를 조정하여, 상기 입력 화상 신호와 연산되는 플리커 성분을 생성하는 로우 패스 필터 수단을 구비하는 촬상 장치.
  28. 제27항에 있어서,
    상기 로우 패스 필터 수단에 의해 조정된 진폭 데이터 및 초기 위상 데이터 를 보존하는 기억 수단과,
    일정한 상태가 검출된 경우에, 상기 기억 수단에 보존되어 있는 진폭 데이터 및 초기 위상 데이터를 이용하여, 상기 입력 화상 신호와 연산하는 플리커 성분을 생성하는 수단을 구비하는 촬상 장치.
  29. 형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 영상 신호 또는 휘도 신호에 포함되는 형광등 플리커 성분을 저감하는 회로로서,
    상기 영상 신호 또는 상기 휘도 신호를 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 플리커 저감 회로.
  30. 형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 각 색의 색 신호에 포함되는 형광등 플리커 성분을 저감하는 회로로서,
    상기 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 플리커 저감 회로.
  31. 형광등 조명하에서 XY 어드레스 주사형의 촬상 소자에 의해 피사체를 촬영함으로써 얻어지는 휘도 신호 및 각 색의 색 신호에 포함되는 형광등 플리커 성분을 저감하는 회로로서,
    상기 휘도 신호 및 상기 각 색의 색 신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단에서는, 상기 차분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여 상기 차분값을 정규화하는 플리커 저감 회로.
  32. 삭제
  33. 삭제
  34. 삭제
  35. 제29항 내지 제31항 중 어느 한 항에 있어서,
    상기 스펙트럼 추출 수단은, 정규화 후의 차분값을 푸리에 변환하는 수단인 플리커 저감 회로.
  36. 제29항 내지 제31항 중 어느 한 항에 있어서,
    상기 입력 화상 신호의 레벨이 포화 영역에 있는지의 여부를 판단하고, 포화 영역에 있다고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 수단을 구비하는 플리커 저감 회로.
  37. 제29항 내지 제31항 중 어느 한 항에 있어서,
    상기 스펙트럼 추출 수단에 의해 추출된 스펙트럼의 레벨로부터 형광등 조명하인지의 여부를 판단하고, 형광등 조명하가 아니라고 판정했을 때에는, 상기 입력 화상 신호를, 그대로 출력 화상 신호로서 추출하는 수단을 구비하는 플리커 저감 회로.
  38. 제29항 내지 제31항 중 어느 한 항에 있어서,
    촬영자의 조작 또는 동작에 의해 피사체가 단시간에 크게 변화한다는 외부 제어 수단에 의한 판정이 있는 경우, 상기 연산 수단은 상기 외부제어수단의 제어에 의해, 상기 플리커 성분 추정 수단에 의해 직전에 추정된 플리커 성분, 또는 직전의 신호에 기초하여 상기 플리커 성분 추정 수단에 의해 추정된 플리커 성분과, 상기 입력 화상 신호를 연산하는 플리커 저감 회로.
  39. 제29항 내지 제31항 중 어느 한 항에 있어서,
    플리커 저감 처리가 불필요한 촬영 상황이라는 외부 제어 수단에 의한 판정이 있는 경우, 상기 연산수단은 상기 외부제어수단의 제어에 의해 상기 입력 화상 신호를 그대로 출력 화상 신호로서 추출하는 플리커 저감 회로.
  40. 제29항 내지 제31항 중 어느 한 항에 있어서,
    상기 플리커 성분 추정 수단에 의해서 추정한 플리커 성분의 진폭 데이터 및 초기 위상 데이터를, 각각 로우 패스 필터를 통해 조정하고, 그 조정된 플리커 성분을 상기 입력 화상 신호와 연산하는 수단을 구비하는 플리커 저감 회로.
  41. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻을 수 있는 영상 신호 또는 휘도 신호를 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    그 적분값을 정규화하는 수단과,
    그 정규화 후의 적분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단은, 상기 적분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여, 그 제산 결과로부터 소정치를 감산하여 상기 적분값을 정규화하는 촬상 장치.
  42. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻을 수 있는 각 색의 색신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    그 적분값을 정규화하는 수단과,
    그 정규화 후의 적분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단은, 상기 적분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여, 그 제산 결과로부터 소정치를 감산하여 상기 적분값을 정규화하는 촬상 장치.
  43. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻을 수 있는 휘도 신호 및 각 색의 색신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    그 적분값을 정규화하는 수단과,
    그 정규화 후의 적분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단은, 상기 적분값을 연속하는 복수 필드 또는 복수 프레임에 있어서의 적분값의 평균치로 제산하여, 그 제산 결과로부터 소정치를 감산하여 상기 적분값을 정규화하는 촬상 장치.
  44. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻을 수 있는 영상 신호 또는 휘도 신호를 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에 있어서의 적분값의 차분값을 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단은, 상기 차분값을 상기 적분값으로 제산하여 상기 차분값을 정규화하는 촬상 장치.
  45. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻을 수 있는 각 색의 색신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에 있어서의 적분값의 차분값을, 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단은, 상기 차분값을 상기 적분값으로 제산하여 상기 차분값을 정규화하는 촬상 장치.
  46. XY 어드레스 주사형의 촬상 소자와,
    상기 촬상 소자에 의해 피사체를 촬영함으로써 얻을 수 있는 휘도 신호 및 각 색의 색신호를, 각각 입력 화상 신호로서, 그 입력 화상 신호를 1 수평 주기 이상의 시간에 걸쳐 적분하는 수단과,
    인접하는 필드 또는 프레임에 있어서의 적분값의 차분값을, 정규화하는 수단과,
    그 정규화 후의 차분값의 스펙트럼을 추출하는 수단과,
    그 추출된 스펙트럼으로부터 플리커 성분을 추정하는 수단과,
    그 추정된 플리커 성분을 제거하도록, 추정된 플리커 성분과 상기 입력 화상 신호를 연산하는 수단
    을 구비하며,
    상기 정규화 수단은, 상기 차분값을 상기 적분값으로 제산하여 상기 차분값을 정규화하는 촬상 장치.
KR1020057008810A 2002-11-18 2003-10-16 플리커 저감 방법, 촬상 장치 및 플리커 저감 회로 KR101040842B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JPJP-P-2002-00333158 2002-11-18
JP2002333158 2002-11-18
JP2003173642A JP4423889B2 (ja) 2002-11-18 2003-06-18 フリッカ低減方法、撮像装置およびフリッカ低減回路
JPJP-P-2003-00173642 2003-06-18

Publications (2)

Publication Number Publication Date
KR20050075425A KR20050075425A (ko) 2005-07-20
KR101040842B1 true KR101040842B1 (ko) 2011-06-14

Family

ID=32328307

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020057008810A KR101040842B1 (ko) 2002-11-18 2003-10-16 플리커 저감 방법, 촬상 장치 및 플리커 저감 회로

Country Status (6)

Country Link
US (1) US7656436B2 (ko)
EP (1) EP1566962A4 (ko)
JP (1) JP4423889B2 (ko)
KR (1) KR101040842B1 (ko)
AU (1) AU2003302113A1 (ko)
WO (1) WO2004047427A1 (ko)

Families Citing this family (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4259998B2 (ja) * 2003-12-19 2009-04-30 三洋電機株式会社 フリッカ検出装置及び撮像装置
JP4796755B2 (ja) * 2004-07-01 2011-10-19 Hoya株式会社 像ブレ補正装置
JP4285542B2 (ja) 2004-11-15 2009-06-24 ソニー株式会社 フリッカ補正方法及びフリッカ補正回路並びにそれらを用いた撮像装置
US7538799B2 (en) 2005-01-14 2009-05-26 Freescale Semiconductor, Inc. System and method for flicker detection in digital imaging
US7683948B2 (en) * 2005-03-31 2010-03-23 Freescale Semiconductor, Inc. System and method for bad pixel replacement in image processing
JP4207922B2 (ja) * 2005-04-19 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
JP4207923B2 (ja) 2005-04-19 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
JP4207926B2 (ja) 2005-05-13 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
JP4539432B2 (ja) * 2005-05-16 2010-09-08 ソニー株式会社 画像処理装置および撮像装置
JP4539449B2 (ja) * 2005-06-10 2010-09-08 ソニー株式会社 画像処理装置および撮像装置
CN1882047B (zh) * 2005-06-13 2011-06-15 索尼株式会社 图像处理设备和图像拾取设备
JP4453648B2 (ja) 2005-06-13 2010-04-21 ソニー株式会社 画像処理装置および撮像装置
JP4483744B2 (ja) 2005-08-26 2010-06-16 ソニー株式会社 撮像装置及び撮像制御方法
JP4631611B2 (ja) 2005-08-30 2011-02-16 ソニー株式会社 フリッカ検出装置とフリッカ除去装置と撮像装置およびフリッカ検出方法
JP4904749B2 (ja) * 2005-09-08 2012-03-28 ソニー株式会社 フリッカ低減方法、フリッカ低減回路及び撮像装置
KR100721664B1 (ko) * 2005-12-22 2007-05-23 매그나칩 반도체 유한회사 이미지 센서의 플리커 검출 회로 및 방법
JP4371108B2 (ja) * 2005-12-27 2009-11-25 ソニー株式会社 撮像装置および方法、記録媒体、並びにプログラム
US8068148B2 (en) * 2006-01-05 2011-11-29 Qualcomm Incorporated Automatic flicker correction in an image capture device
US7593040B2 (en) 2006-01-30 2009-09-22 Omnivision Technologies, Inc. Image anti-shake in digital cameras
JP5175441B2 (ja) * 2006-03-03 2013-04-03 日本電気株式会社 撮影装置及び方法並びにプログラム
JP4840578B2 (ja) * 2006-06-29 2011-12-21 京セラ株式会社 撮像装置のフリッカ検出方法と装置
KR20090087915A (ko) * 2006-11-14 2009-08-18 코닌클리케 필립스 일렉트로닉스 엔.브이. 슬로우 모션을 검출하기 위한 방법 및 장치
KR100891434B1 (ko) * 2007-05-16 2009-04-03 주식회사 코아로직 플리커 노이즈 검출 장치, 방법 및 그 기록매체
JP4971956B2 (ja) * 2007-11-27 2012-07-11 キヤノン株式会社 フリッカ補正装置、フリッカ補正方法並びに撮像装置
JP5111100B2 (ja) * 2007-12-28 2012-12-26 キヤノン株式会社 画像処理装置、画像処理方法、プログラム及び記憶媒体
WO2009098741A1 (ja) 2008-02-04 2009-08-13 Panasonic Corporation 撮像装置、集積回路及び撮像方法
JP5035025B2 (ja) 2008-03-03 2012-09-26 ソニー株式会社 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム
JP2010021645A (ja) * 2008-07-08 2010-01-28 Nikon Corp 画像処理装置、撮像装置、および画像処理プログラム
JP5106283B2 (ja) * 2008-07-15 2012-12-26 三洋電機株式会社 ビデオカメラ
US7911505B2 (en) * 2008-08-20 2011-03-22 Eastman Kodak Company Detecting illuminant flicker
JP4626689B2 (ja) * 2008-08-26 2011-02-09 ソニー株式会社 撮像装置、補正回路および補正方法
US8451345B2 (en) 2008-11-20 2013-05-28 Panasonic Corporation Flicker reduction device, integrated circuit, and flicker reduction method
JP5218239B2 (ja) * 2009-04-14 2013-06-26 ソニー株式会社 画像データ処理装置および撮像装置
EP2262228A1 (en) * 2009-06-09 2010-12-15 Global IP Solutions (GIPS) AB Detection and supression of flicker in a sequence of images
JP2011030093A (ja) * 2009-07-28 2011-02-10 Sanyo Electric Co Ltd ビデオカメラ
JP4724767B2 (ja) * 2009-08-19 2011-07-13 アキュートロジック株式会社 撮像装置のフリッカ検出方法及びフリッカ検出装置、フリッカ検出プログラム
JP2011091775A (ja) 2009-10-26 2011-05-06 Toshiba Corp 固体撮像装置
JP5523124B2 (ja) * 2010-01-26 2014-06-18 キヤノン株式会社 撮像装置
JP5625371B2 (ja) * 2010-01-29 2014-11-19 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
JP2011163947A (ja) * 2010-02-10 2011-08-25 Seiko Epson Corp 光特性測定方法およびその装置
JP5682196B2 (ja) * 2010-09-22 2015-03-11 セイコーエプソン株式会社 画像補正回路、撮影装置および画像補正プログラム
JP2012109794A (ja) 2010-11-17 2012-06-07 Toshiba Corp 固体撮像装置
US9418270B2 (en) 2011-01-31 2016-08-16 Hand Held Products, Inc. Terminal with flicker-corrected aimer and alternating illumination
JP5296112B2 (ja) * 2011-02-04 2013-09-25 パナソニック株式会社 フリッカ補正装置、フリッカ補正方法、およびフリッカ補正プログラム
US8542292B2 (en) 2011-02-04 2013-09-24 Panasonic Corporation Flicker correction device, flicker correction method and flicker correction program
US9088727B2 (en) 2011-04-06 2015-07-21 Pelco, Inc. Spatially-varying flicker detection
JPWO2012147337A1 (ja) * 2011-04-28 2014-07-28 オリンパス株式会社 フリッカ検出装置、フリッカ検出方法およびフリッカ検出プログラム
TWI469632B (zh) * 2011-11-09 2015-01-11 Silicon Motion Inc 抗閃爍攝錄裝置與攝錄方法
US8736711B2 (en) * 2012-03-19 2014-05-27 Htc Corporation Camera with anti-flicker capability and image capturing method with anti-flicker capability
JP6209533B2 (ja) * 2013-04-12 2017-10-04 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America フリッカ低減装置、撮像装置およびフリッカ低減方法
CN104541499B (zh) * 2013-06-14 2018-05-18 松下电器(美国)知识产权公司 摄像装置、集成电路以及闪烁减少方法
JP6060824B2 (ja) * 2013-06-20 2017-01-18 株式会社Jvcケンウッド 撮像装置、及びフリッカ低減方法
JP6525525B2 (ja) 2014-07-31 2019-06-05 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016034094A (ja) 2014-07-31 2016-03-10 ソニー株式会社 画像処理装置、画像処理方法、プログラム、およびイメージセンサ
JP6638652B2 (ja) 2014-08-27 2020-01-29 ソニー株式会社 撮像装置および撮像装置の制御方法
JP6300118B2 (ja) * 2015-09-24 2018-03-28 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム
CN105430289B (zh) * 2015-11-19 2018-05-15 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种基于cmos图像传感器检测led闪烁频率的方法
KR102523301B1 (ko) * 2015-12-15 2023-04-19 삼성전자주식회사 플리커를 제거하는 이미지 센서 회로 및 이를 포함하는 카메라 장치
JP2018093275A (ja) * 2016-11-30 2018-06-14 オリンパス株式会社 撮像装置およびフリッカ判定方法
KR20220048090A (ko) 2020-10-12 2022-04-19 삼성전자주식회사 주파수 도메인을 이용한 이미지 센서의 검사 방법 및 이를 수행하는 검사 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11122513A (ja) * 1997-10-09 1999-04-30 Matsushita Electric Ind Co Ltd 蛍光灯フリッカー補正装置及びそれを使用したカメラ
JPH11252446A (ja) * 1998-03-03 1999-09-17 Matsushita Electric Ind Co Ltd フリッカ補正装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6195127B1 (en) * 1996-07-18 2001-02-27 Sanyo Electric Co., Ltd. Digital camera, having a flash unit, which determines proper flash duration through an assessment of image luminance and, where needed, a preliminary flash emission
US6850278B1 (en) * 1998-11-27 2005-02-01 Canon Kabushiki Kaisha Solid-state image pickup apparatus
JP3476400B2 (ja) 1999-10-19 2003-12-10 松下電器産業株式会社 フリッカ検出・補正装置およびフリッカ検出・補正方法
EP1091571B1 (en) * 1999-10-08 2012-05-30 Panasonic Corporation Apparatus and methods for detection and compensation of illumination flicker, detection and measurement of AC line frequency
US7298401B2 (en) * 2001-08-10 2007-11-20 Micron Technology, Inc. Method and apparatus for removing flicker from images
JP2003198932A (ja) * 2001-12-27 2003-07-11 Sharp Corp フリッカ補正装置およびフリッカ補正方法、並びにフリッカ補正プログラムを記録した記録媒体

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11122513A (ja) * 1997-10-09 1999-04-30 Matsushita Electric Ind Co Ltd 蛍光灯フリッカー補正装置及びそれを使用したカメラ
JPH11252446A (ja) * 1998-03-03 1999-09-17 Matsushita Electric Ind Co Ltd フリッカ補正装置

Also Published As

Publication number Publication date
US20060055823A1 (en) 2006-03-16
EP1566962A4 (en) 2009-09-16
AU2003302113A1 (en) 2004-06-15
EP1566962A1 (en) 2005-08-24
KR20050075425A (ko) 2005-07-20
US7656436B2 (en) 2010-02-02
JP4423889B2 (ja) 2010-03-03
JP2004222228A (ja) 2004-08-05
WO2004047427A1 (ja) 2004-06-03

Similar Documents

Publication Publication Date Title
KR101040842B1 (ko) 플리커 저감 방법, 촬상 장치 및 플리커 저감 회로
JP5035025B2 (ja) 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム
JP4483744B2 (ja) 撮像装置及び撮像制御方法
KR101007427B1 (ko) 촬상 장치 및 플리커 저감 방법
JP4487640B2 (ja) 撮像装置
EP1091571A2 (en) Apparatus and methods for detection and compensation of illumination flicker, detection and measurement of AC line frequency
EP1513339B1 (en) Method for determining photographic environment and imaging apparatus
JP4904749B2 (ja) フリッカ低減方法、フリッカ低減回路及び撮像装置
US20140063294A1 (en) Image processing device, image processing method, and solid-state imaging device
KR20060128649A (ko) 화상 처리 장치 및 촬상 장치
JP2007174537A (ja) 撮像装置
JP2008235955A (ja) 撮像方法、固体撮像装置、撮像装置
JP2004179839A (ja) 固体撮像装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee