KR20100008760A

KR20100008760A - 화상 처리장치 및 화상 처리방법

Info

Publication number: KR20100008760A
Application number: KR1020090062826A
Authority: KR
Inventors: 에이이치로 이케다
Original assignee: 캐논 가부시끼가이샤
Priority date: 2008-07-16
Filing date: 2009-07-10
Publication date: 2010-01-26
Also published as: EP2650824A2; JP2010045770A; EP2146306A3; JP5390943B2; EP2650824A3; EP2146306A2; US20100014775A1; CN101631200B; US8401328B2; CN101631200A; EP2650824B1; KR101115370B1

Abstract

화상 처리장치는, 화상을 검출하는 검출회로와, 상기 검출된 화상의 휘도를 결정하고 상기 검출된 화상 내의 휘도의 격차를 줄이는 보정을 행하는 휘도 보정회로와, 인증 처리에서 사용하기 위해, 상기 휘도 보정회로에 의해 보정된 검출 화상으로부터 특징량 데이터를 추출하는 추출회로를 갖는다.

화상처리, 얼굴 인증, 휘도 보정, 특징량 데이터, 스미어

Description

화상 처리장치 및 화상 처리방법{IMAGE PROCESSING APPARATUS AND IMAGE PROCESSING METHOD}

본 발명은 화상 처리장치 및 화상 처리방법에 관한 것으로서, 특히 얼굴 인증에 사용하기 위한 특징량 데이터의 추출이 가능한 화상 처리장치 및 화상 처리방법에 관한 것이다.

종래, 인간의 얼굴을 촬영하여 얻어진 화상 데이터에 근거하여, 인증 처리를 행하는 얼굴 대조장치가 알려져 있다. 얼굴 대조장치는, 고체 촬상소자를 사용하여 촬상장치에서 촬상된 인증 대상자의 얼굴 화상의 입력을 수신한다. 얼굴 대조장치는, 얼굴 화상으로부터, 눈, 코, 입, 얼굴 윤곽 등, 인증 대상자의 얼굴을 구성하는 부품의 특징량을 표시하는 인증자 특징량 데이터를 취득한다. 그리고, 얼굴 대조장치는, 사전에 기억된 등록자의 특징량 데이터를 인증자 특징량 데이터 각각과 대조한다. 얼굴 대조장치는, 그 인증 대상자의 등록자에 대한 유사도를 결정한다. 그리고. 얼굴 대조장치는, 인증 대상자를 유사도가 최대이었던 것으로 판정된 등록 자라고 인증한다.

이때, 최대의 유사도가 미리 정해진 인증 임계값보다도 작으면, 인증 대상자를 미등록자로 판정한다(인증 대상자를 등록자인 것으로 인증하지 않는다). 또한, 최대의 유사도가 인증 임계값과 동일한 경우, 인증 대상자를 등록자로 인증할지 미등록자로 인증할지에 대해서는 사전에 정해져 있다.

얼굴 대조장치는, 예를 들면, 시설의 도어의 자물쇠 채움/열림의 제어장치에 인증 결과를 공급한다. 제어장치는 인증 결과에 따라 도어의 자물쇠 채움/열림을 행한다. 또한, automated teller machine(ATM)에서 거래하는 이용자를 특정하기 위해, 얼굴 대조장치를 이용하는 것도 제안되어 있다. 구체적으로는, ATM에 촬상장치를 설치하고, 이 촬상장치에서 촬상한 이용자의 얼굴 화상을 이용하여 이용자를 특정하는 것이 제안되어 있다. 이에 따르면, 사용자의 인증을 위해 사용되어 왔던 카드(예를 들면, 캐시카드)의 삽입과, 비밀번호의 입력 등의 조작을 불필요하게 하여, 조작성의 향상을 도모한다.

그런데, 종래의 얼굴 대조장치는, 등록자를 정면에서 촬상한 얼굴 화상에서 얻은 등록자의 특징량 데이터를 기억하고 있다. 한편, 대조시에 촬상되는 인증 대상자의 얼굴 화상에 있어서의 조명 조건(조명의 방향, 밝기, 조명 색 등)은, 촬상장치의 설치환경과, 촬상시에 있어서의 인증 대상자의 자세에 의해 정해진다. 이 때문에, 촬상장치의 설치환경에 따라서는, 촬상된 인증 대상자의 얼굴 화상에서 취득한 특징량 데이터와, 이 인증 대상자에 대응하는 등록자의 특징량 데이터의 유사도가 작아지는 일이 있다. 그 결과, 인증 대상자가 등록자일 때에도, 그 인증 대상 자를 미등록자인 것으로 오판별하는 일이 있다.

이때, 등록자인 인증 대상자를 미등록자인 것으로 인증하는 오판별의 발생 확률(소위, 오배제율(false rejection rate))을 줄이기 위해서는, 인증 임계값을 낮게 설정하면 된다. 역으로, 인증 임계값을 낮게 설정하면, 등록자가 아닌 인증 대상자를 등록자인 것으로 인증하는 오판별의 발생 확률(소위, 오수리율(false acceptance rate))이 증가한다. 이에 따라, 시큐리티 레벨이 저하된다. 이 때문에, 인증 임계값은, 얼굴 대조장치가 적용되는 시스템에서 요구되는 시큐리티 레벨에 따라 설정된다. 구체적으로는, 확보해야 할 시큐리티 레벨이 높은 시스템일수록, 인증 임계값을 높게 설정한다. 이에 따라, 오배제율의 저감보다도 오수리율의 저감을 우선하도록 하고 있다.

일본국 특개 2005-56004호에는, 다양한 조명 조건하에서 촬영된 복수의 얼굴 화상에서 얻은 등록자의 특징량 데이터를 기억하는 기술이 개시되어 있다. 이 기술은 오배제율과 오수리율의 양자를 저감시켜, 인증 정밀도를 향상시킨다. 구체적으로는, 등록자의 얼굴 화상을 3차원(3D) 모델 화상으로 한다. 이 3D 모델 화상에서 조명 조건이 다른 복수의 2차원(2D) 모델 화상을 생성한다. 그리고, 생성된 복수의 2D 모델 화상에서 등록자의 특징량 데이터를 취득하여 기억한다.

그렇지만, 일본국 특개 2005-56004호에 개시된 구성에서는, 1인의 등록자에 대하여 조명 조건이 다른 복수의 얼굴 화상에서 얻은, 등록자의 복수의 특징량 데이터를 기억할 필요가 있어, 등록 작업이 대단히 번거롭다고 하는 과제가 있었다. 그리고, 등록자의 특징량 데이터를 기억할 때 뿐만 아니라, 등록자의 특징량 데이 터와의 유사도를 결정하기 위해 인증자의 특징량 데이터를 구할 때에도, 이와 유사한 과제가 존재한다. 즉, 인증자 특징량 데이터를 구할 때에도, 조명 조건의 영향을 배제하기 위해서는, 조명 조건을 바꾸면서 촬영된 복수의 얼굴 화상으로부터 인증자의 특징량 데이터를 구할 필요가 있다는 과제가 있었다.

본 발명은, 복수의 얼굴 화상 데이터를 사용하지 않더라도, 높은 인증 정밀도를 얻을 수 있는 특징량 데이터를 추출할 수 있는 화상 처리장치에 관한 것이다.

본 발명의 일면에 따르면, 화상 처리장치는, 화상을 검출하는 검출회로와, 상기 검출된 화상의 휘도를 결정하고 상기 검출된 화상 내의 휘도의 격차를 줄이는 보정을 행하는 휘도 보정회로와, 인증 처리에서 사용하기 위해, 상기 휘도 보정회로에 의해 보정된 검출 화상으로부터 특징량 데이터를 추출하는 추출회로를 갖는다.

본 발명의 또 다른 국면에 따르면, 화상 처리장치는, 화상을 검출하는 검출회로와, 상기 검출된 화상 내의 스미어 발생 영역 및 스미어 발생량을 결정하고, 상기 스미어 발생량에 근거하여 상기 스미어 발생 영역에 포함되는 화소값을 보정하는 스미어 보정회로와, 상기 스미어 보정회로에서 보정된 상기 검출 화상으로부터, 인증 처리에서 사용하기 위한 특징량 데이터를 추출하는 추출회로를 갖는다.

본 발명의 또 다른 국면에 따르면, 화상 처리방법은, 화상을 검출하는 것과, 상기 검출된 화상의 휘도를 결정하고 상기 화상 내의 휘도의 격차를 줄이는 보정을 행하는 것과, 인증 처리에서 사용하기 위해, 휘도의 격차를 줄이는 보정이 행해진 상기 검출된 화상으로부터 특징량 데이터를 추출하는 것을 갖는다.

본 발명의 또 다른 국면에 따르면, 화상 처리방법은, 화상을 검출하는 것과, 상기 검출된 화상 내의 스미어 발생 영역 및 스미어 발생량을 결정하고, 상기 스미어 발생량에 근거하여 상기 스미어 발생 영역에 포함되는 화소값을 보정하는 것과, 인증 처리에서 사용하기 위해, 상기 스미어 발생 영역에 포함되는 화소값이 상기 스미어 발생량에 근거하여 보정되는 상기 검출 화상으로부터 특징량 데이터를 추출하는 것을 갖는다.

본 발명의 또 다른 특징 및 국면은 첨부도면을 참조하여 주어지는 이하의 실시예의 상세한 설명으로부터 명백해질 것이다.

이하. 본 발명의 다양한 실시예들, 특징 및 국면을 첨부도면을 참조하여 상세히 설명한다.

도 1은 본 발명의 제1실시예에 따른 화상 처리장치의 일례로서의 디지털 카메라의 구성을 도시한 도면이다.

촬상소자(14)는, 전하결합소자(charge coupled device: CCD)나 상보성 금속산화물 반도체(complementary metal-oxide semiconductor: CMOS) 센서의 광전변환소자로 구성된다. 촬상소자14)는 촬영 렌즈(10)를 투과한 광학 상을 전기신호로 변환한다. 아날로그 디지털(A/D) 변환기(16)는 촬상소자(14)의 아날로그 신호의 출력 을 디지털 신호로 변환한다.

타이밍 발생부(18)는 촬상소자(14), A/D 변환기(16) 및 디지털 아날로그(D/A) 변환기(26)에 클록 신호와 제어신호를 공급한다.

화상 처리부(20)는, A/D 변환기(16)로부터의 데이터, 또는, 메모리 제어부(22)로부터의 데이터에 대하여 소정의 화소 보간처리와 색 변환 처리를 행한다.

또한, 화상 처리부(20)는, 촬상된 화상 데이터를 사용하여 소정의 연산 처리를 행한다. 이 소정의 연산 처리에 대해서는 후술한다.

메모리 제어부(22)는, A/D 변환기(16), 타이밍 발생부(18), 화상 처리부(20), 화상 표시 메모리(24), D/A 변환기(26), 메모리(30) 및 압축 신장부(32)를 제어한다.

A/D 변환기(16)의 출력 데이터는 메모리 제어부(22)를 거쳐 화상 표시 메모리(24) 또는 메모리(30)에 기록된다.

화상 표시 메모리(24)에 기록된 표시용의 화상 데이터는, D/A 변환기(26)를 거쳐 액정 디스플레이(liquid crystal display: LCD)나 유기 전계발광(electroluninescence: EL) 디스플레이 등으로 구성된 화상 표시부(28)에 의해 표시된다. 촬상한 화상 데이터를 화상 표시부(28)에 의해 순차 표시함으로써, 피사체의 상을 실시간으로 표시하는 전자 뷰파인더(electronic view finder: EVF) 기능을 실현하는 것이 가능하다.

메모리(30)는 촬영한 정지 화상과 동화상을 격납하는 기억장치이다. 메모리(30)는, 소정 매수의 정지 화상과 소정 시간의 동화상을 격납하는데 충분한 기억 용량을 구비하고 있다. 그 때문에, 복수매의 정지 화상을 연속하여 촬영함으로써, 고속으로 대량의 화상 기록을 메모리(30)에 대하여 행하는 것이 가능해진다. 또한, 메모리(30)는 시스템 제어부(50)의 작업 영역으로서도 사용하는 것이 가능하다.

압축 신장부(32)는, 메모리(30)에 격납된 화상을 판독하여, 적응 이산 코사인 변환(adaptive discrete cosine transform: ADCT), 웨이브렛 변환 등을 사용한 공지의 데이터 압축 처리 또는 데이터 신장 처리를 행하고, 처리를 마친 데이터를 메모리(30)에 기록한다.

시스템 제어부(50)는, 예를 들면, 중앙처리장치(CPU)로서, 메모리(52)에 기억된 프로그램을 실행함으로써 디지털 카메라(100) 전체를 제어한다. 메모리(52)는 시스템 제어부(50)의 동작용의 상수, 변수, 프로그램 등을 기억한다.

불휘발성 메모리(56)는 전기적으로 소거 및 기록가능한 메모리로서, 예를 들면, 전기적 소거 및 프로그램 가능 판독 전용 메모리(electrically erasable and programmable read only memory: EEPROM)이다.

동작부(70)는, 시스템 제어부(50)에 각종의 동작 지시를 입력하도록 구성된 조작수단을 구성한다.

제1셔터 스위치(SW1)(62)는, 디지털 카메라(100)에 설치된 셔터 버튼(미도시)의 제1스트로크(예를 들면, 반 누름)로 온이 된다. 제1셔터 스위치(SW1)(62)가 온이 되면, 시스템 제어부(50)는, 초점맞춤 제어, 노출 제어 및 광량 제어 등의 동작 개시를 하도록 회로(미도시)에 지시한다.

제2셔터 스위치(SW2)(64)는, 디지털 카메라(100)에 설치된 셔터 버튼의 제2 스트로크(예를 들면, 완전 누름)로 온이 된다. 제2셔터 스위치(SW2)(64)가 온이 되면, 노광처리, 현상처리 및 기록처리로 이루어진 일련의 처리의 개시를 지시한다. 우선, 노광처리에서는, 촬상소자(14)에서 판독한 신호가 A/D 변환기(16)에 의해 변환되고, 화상 데이터가 메모리 제어부(22)를 거쳐 메모리(30)에 기록된다. 또한, 화상 처리부(20)와 메모리 제어부(22)에서의 연산을 사용하여 현상처리가 행해진다. 또한, 메모리(30)에서 화상 데이터를 판독하여, 압축 신장부(32)에서 압축을 행하고, 외부 기록매체(120)에 화상 데이터를 기록하는 기록처리가 행해진다.

본 실시예에 있어서, joint photographic experts group(JPEG) 압축 모드에 있어서는, 압축 신장부(32)가 메모리(30)에 기록된 화상 데이터를 판독하여, 화상 데이터를 설정된 압축율로 압축한 후, 압축된 화상 데이터를 외부 기록매체(120)에 기록한다.

RAW 모드에서는, 압축 신장부(32)가 A/D 변환기(16), 메모리 제어부(22)를 거쳐 촬상소자(14)의 색 필터의 화소 배열에 대응하는 라인마다 메모리(30)에 기록된 화상 데이터를 그대로 판독하여, 판독된 데이터를 외부 기록매체(120)에 기록한다.

인터페이스(I/F)(91)는, 화상 처리부(20) 및 메모리 제어부(22)와, 외부 기록매체(120) 사이의 인터페이스이다.

얼굴 인증부(101)는, 화상 처리부(20)에서 처리된 화상 데이터와 화상 표시 메모리(24)에 기억되어 있는 촬상 화상 데이터를 해석하여, 촬상 화상에 포함되는 인간의 얼굴을 검출한다. 구체적으로는, 얼굴 인증부(101)는, 인간의 얼굴로 생각 되는 영역(얼굴 영역)을 검출한다. 얼굴 인증부(101)는, 얼굴 영역이 검출되었을 경우에, 인간의 얼굴의 확률(신뢰도), 화상 중의 위치, 사이즈 등을 얼굴 영역에 대한 정보로서 출력한다. 또한, 얼굴 인증부(101)는, 검출된 얼굴 영역의 눈, 코, 입, 얼굴 윤곽 등의 얼굴 부품(특징점)의 특징량을 표시하는 등록자의 특징량 데이터(사서 데이터)를 산출하여 출력한다.

외부 기록매체(120)는, 불휘발성 반도체 메모리 카드, 카드형 하드 디스크 등으로, 디지털 카메라(100)에 대하여 착탈가능하게 부착된다.

본 실시예의 디지털 카메라(100)는, 촬상 화상으로부터 인간의 얼굴의 영역을 검출하고, 눈, 코, 입, 얼굴 윤곽 등의 얼굴 부품의 특징량을 표시하는 특징량 데이터(얼굴 인증에 사용하기 위한 사서 데이터)를 생성한다. 얼굴 영역의 검출 및 특징량 데이터의 생성은 전술한 것과 같이 얼굴 인증부(101)에서 행한다.

본 실시예는, 사광이나 역광으로 촬상된 화상 등 광원과 얼굴의 위치 관계에 의해 얼굴에 그림자가 존재할 경우에는, 그림자의 영역에 대하여 부분 계조 보정을 실시한 후 특징량 데이터가 생성되는 것을 특징으로 한다.

또한, 부분 계조보정은, 8 비트 이상의 계조를 갖는 감마 보정전의 신호, 구체적으로는 RAW 신호로 실시함으로써, 계조 점프(tone jump)를 방지할 수 있으며, 보다 정밀도가 높은 사서 데이터를 취득할 수 있다. 본 실시예에 있어서, 얼굴 인증부(101)는, 화상 표시부(28)를 실시간으로 피사체를 관찰하기 위해 사용하는 전자 뷰파인더(EVF)로서 기능시키기 위해 생성한 표시용 화상으로부터 사서 데이터를 취득한다.

도 2는 본 실시예의 디지털 카메라(100)에 있어서 특징량 데이터의 취득에 관한 구성을 상세히 나타낸 블록도이다. 또한, 도 3은 도 2의 동작을 설명하기 위한 흐름도이다. 도 2 및 도 3을 사용하여, 본 실시예의 디지털 카메라(100)에 있어서의 특징량 데이터의 취득 동작에 대해 설명한다.

도 3의 스텝 S101에 있어서, 촬상소자(14)는 미리 설정된 주기(여기에서는 1/30초에 1회)로 피사체(미도시)의 촬영을 실행하여, 촬영 화상에 대응한 화상신호를 출력한다.

스텝 S102에서, A/D 변환기(16)는 촬상소자(14)에서 판독된 아날로그 화상신호를 디지털 화상신호로 변환하고, 메모리(30)는 디지털 화상신호를 일시적으로 기록한다. 이 시점에서의 화상신호를 RAW 신호 또는 RAW 데이터라고 부른다.

스텝 S103에서, 옵티컬 블랙(OB) 처리부(204)는 촬상소자(14)의 옵티컬 블랙 영역의 데이터를 사용하여, RAW 신호의 흑 레벨을 0으로 설정하는 흑 레벨 보정처리를 행한다. 또한, WB(화이트 밸런스) 처리부(205)는, 공지의 오토 화이트 밸런스 보정처리에 의해, 광원을 추정하고, 백색 레벨을 조정하기 위해 각 색 신호에 곱하는 게인(WB 게인)을 구한다. 그리고, WB 처리부(205)는 WB 게인을 RAW 신호에 적용한다.

스텝 S104에서, WB 게인 적용후의 신호는 YUV 변환 처리부(206)에서 red, green 및 blue(RGB) 신호로부터 YUV 신호로 변환된다. RGB 신호란, 촬상소자(14)의 red(R), green(G), blue(B) 각각의 색 필터에 대응하는 화소의 출력값으로 표시되는 신호이다. YUV 신호란 휘도신호(Y)와, 색차신호(U 및 V)로 표시되는 신호이다. 또한, 리사이즈 처리부(207)는 YUV 신호의 종횡비를 1:1로 리사이즈하고, 리사이즈된 신호를 화상 표시 메모리(24)에 기록한다. 스텝 S101∼S104의 처리를 1/30초 주기로 반복한다. 이에 따라, 화상 표시부(28)는 30 프레임/초로 YUV 신호를 사용하여 촬영 화상을 표시하여, EVF로서 기능한다.

스텝 S105에서, 리사이즈 처리부(207)로부터의 YUV 신호, 즉 표시용 화상을 표시하는 신호는 얼굴 검출 처리부(209)에도 공급된다. 얼굴 검출 처리부(209)는, 표시용 화상으로부터 인간의 얼굴로 생각되는 화상영역(얼굴 영역)을 검출하고, 그것의 크기와 화상 중의 위치, 신뢰도 등의 정보를 얼굴 검출 결과로서 블록 적분 처리부(210)에 출력한다.

이때, 본 실시예에 있어서의 얼굴 검출에서는, 공지의 얼굴 검출 기술을 이용할 수 있다. 공지의 얼굴 검출 기술로서는, 뉴럴 네트워크 등을 이용한 학습에 근거한 수법, 템플릿 매칭을 사용하여 눈, 코, 입 등의 형상에 특징이 있는 부위를 화상으로부터 찾아내어, 유사도가 높으면 이 화상을 얼굴로 간주하는 수법 등이 있다. 또한, 그 밖에도, 예를 들어, 피부의 색이나 눈의 형태 등의 화상 특징량을 검출하여, 통계적 해석을 사용한 수법 등이 다수 제안되어 있다. 일반적으로는, 이들 수법을 복수 조합하여, 얼굴 검출의 정밀도를 향상시키고 있다. 구체적인 예로서는, 일본국 특개 2002-251380호 공보에 기재된 웨이브렛 변환과 화상 특징량을 이용하여 얼굴을 검출하는 방법 등을 들 수 있다.

스텝 S106 이하의 처리에서는, 검출된 얼굴 영역 내의 휘도의 격차를 줄이는 보정을 행하여, 얼굴 영역 내의 그림자의 영향을 경감시킨다. 스텝 S106에서, 블록 적분 처리부(210)는 얼굴 검출 처리부(209)에서의 얼굴 검출 결과에 따라 얼굴 영역을 사각형 형상으로 간주하여, 얼굴 영역을 도 4에 도시된 것과 같은 블록들로 분할한다. 블록의 크기는, 예를 들면, 평균적인 크기를 갖는 얼굴 영역이 미리 정한 수로 분할되도록 사전에 정해 둘 수 있다.

본 실시예에서는, 분할된 블록의 위치를, 좌측 상부 모퉁이의 블록이 (0,0)으로 지정된 2차원 좌표로 표시하는 것으로 한다. 도 4에 도시된 예에서는, 얼굴 영역을 수평 방향으로 7개의 블록, 수직 방향으로 8개의 블록으로 분할하고 있다. 블록의 좌표는 (0,0) 내지 (6,7)이다.

스텝 S107에서, 블록 적분 처리부(210)는 각 블록에 가중치를 설정한다. 본 실시예에서는, 눈의 부근보다 위의 블록에 대한 가중치를 0으로 설정한다. 또한, 배경이 포함되는 블록에 대한 가중치를 0으로 설정한다. 그 이외의 나머지 블록에 대한 가중치를 1로 설정한다. 이때, 이하의 설명에서는, 블록 (x,y)에 대한 가중치를 BLW[x][y]로 표기한다.

도 5는, 도 4의 블록 (0,4) 내지 (6,7)에서 설정하는 가중치의 예를 나타낸 도면이다. 눈보다 위의 블록 (0,0) 내지 (6,3)는 연산에 사용하지 않기 때문에, 도 5에서는 이들 블록의 기재를 생략하고 있다. 또한, 이하의 설명에서, "전체 블록"이란 연산에 사용하는 블록의 전체, 즉 블록 (0,4)∼(6,7)을 표시하며, 블록 (0,0) 내지 (6,3)은 포함되지 않는다.

스텝 S108에서, 블록 적분 처리부(210)는 블록마다의 휘도 평균값을 산출한다. 이때, 이하의 설명에서는, 블록 (x,y)의 평균 휘도를 YAV[x][y]로 표기한다. 도 6에, 블록 (0,4) 내지 6,7)에 대해 산출한 휘도 평균값의 예를 나타낸다.

스텝 S109에서, 블록 적분 처리부(210)는, 스텝 S107 및 S108에서 산출한 블록 가중치 BLW[x][y]와 각 블록에 대한 휘도 평균값 YAV[x][y]를 사용하여 얼굴 영역 내의 휘도 평균값 AYAV를 산출한다.

AYAV = (YAV[0][4]*BLW[0][4]+YAV[0][5]*BLW[0][5]+ … YAV[6][3]*BLW[6][3])/(BLW[0][4]+ … BLW[6][3])

도 7은, 각 블록에 대하여 블록 가중치 BLW[x][y]과 각 블록에 대한 휘도 평균값 YAV[x][y]를 곱하여 얻어진 값을 나타내고 있다. 따라서, 도 7의 각 블록의 값의 합계(1510)를 가중치의 합계값(22)으로 나누는 것에 의해 휘도 평균값 AYAV(68.6)가 얻어진다.

스텝 S110에서, 보정 게인 산출 처리부(211)는, 블록마다의 휘도 평균값을 미리 정한 1개의 휘도값으로 보정하기 위한 보정 게인을 산출한다. 본 실시예에서는, 블록마다의 휘도 평균값을 전체 블록의 휘도 평균값으로 보정하기 위한 보정 게인(블록 보정 게인)을 결정한다. 이하의 식을 사용하여 블록 (x,y)의 보정 게인 CGA[x][y]을 산출한다. 이때, 가중치가 0인 블록에 대해서는, 보정하지 않는다(즉, 보정 게인=1) 것으로 한다.

CGA[x][y] = AYAV/YAV[x][y] (BLW[x][y]>0)

CGA[x][y] = 1 (BLW[x][y]=0)

도8a는, 평균 휘도값 AYAV가 68.6일 경우에 산출되는 블록 보정 게인의 예를

나타내고 있다. 이때, 이 블록 보정 게인은 반드시 평균 휘도값을 사용하여 결정할 필요는 없다. 예를 들면, 얼굴 영역에 대한 적정 휘도값을 미리 설정해 둔다. 그후, 블록마다의 휘도 평균값을 이 적정 휘도값으로 보정하기 위한 블록 보정 게인을 결정하도록 하여도 된다. 도 8b는, 적정 휘도값이 120일 경우에 산출되는 블록 보정 게인의 예를 나타내고 있다.

스텝 S111에서, 보정 게인 산출 처리부(211)는 블록 보정 게인의 평균값을 산출한다.

GAAverage = (CGA[0][4]+CGA[0][5]+ … CGA[6][3])/28

스텝 S112에서, 보정 게인 산출 처리부(211)는, 도 9에 도시된 것과 같이, 미리 설정한, 촬영시의 감도마다의 보정 게인 상한값과 보정 게인 평균값을 비교한다. 그리고, 보정 게인 산출 처리부(211)는, 보정 게인 평균값이 상한값을 넘을 경우(스텝 S112에서 NO), 현재의 화상으로부터 특징량 데이터는 취득하지 않는 것으로 결정하고, 다음의 촬영 동작을 위해 처리가 스텝 S101로 되돌아간다. 이것은, 게인의 값이 커짐에 따라 보정후의 화상의 노이즈가 증대하기 때문이다. 이에 따라, 특징량 데이터의 신뢰성이 저하한다. 촬영시의 감도가 높을수록, 원래의 게인이 더 커진다. 이에 따라, 보정 게인은 작은 것이 바람직하다. 따라서, 촬영시의 감도가 높을수록 상한값은 작게 설정한다.

한편, 스텝 S113에서, 보정 게인 평균값이 상한값 이하이면(스텝 S112에서 YES), 보정 게인 산출 처리부(211)는, 블록 단위에 대한 게인인 블록 보정 게인으로부터, 선형 보간 등의 보간처리에 의해, 블록 내의 화소마다의 보정 게인(화소 보정 게인)을 산출한다.

스텝 S114에서, 휘도 보정 처리부(212)는, 블록 내의 화소에 화소 보정 게인을 승산하여, 휘도 보정을 행한다.

스텝 S115에서, YUV 변환 처리부(213)는, 휘도 보정후의 화상신호를 YUV 신호로 변환한다.

스텝 S116에서, 리사이즈 처리부(214)는, YUV 신호의 종횡비가 1:1이 되도록 리사이즈 처리한다.

스텝 S117에서, 특징점 추출 처리부(215)는, 리사이즈후의 YUV 신호와 얼굴 검출 결과에 근거하여, 공지의 방법에 의해, 눈, 코, 입, 얼굴 윤곽 등, 인증 대상자의 얼굴 부품과, 그것의 특징량 데이터를 추출한다.

스텝 S118에서, 디지털 카메라(100)가 추출된 특징량 데이터를 사서 데이터로서 등록하는 사서 등록 모드로 설정되어 있으면(스텝 S118에서 YES), 스텝 S119로 처리가 진행한다. 디지털 카메라(100)가, 화상에서 추출한 특징량 데이터를, 불휘발성 메모리(56)에 사서 데이터로서 이미 기록되어 있는 특징량 데이터와 대조하는 인증 모드로 설정되어 있으면, 스텝 S120으로 처리가 진행한다.

스텝 S119에서, 특징점 추출 처리부(215)는, 추출된 특징량 데이터를, 예를 들면, 불휘발성 메모리(56)에, 사서 데이터로서 기록한다.

스텝 S120에서, 특징점 추출 처리부(215)는, 추출된 특징량 데이터를 특징량 데이터 비교부(216)에 출력한다. 특징량 데이터 비교부(216)는, 불휘발성 메모리(56)에서 모든 사서 데이터를 판독하여, 특징점 추출 처리부(215)에서 출력된 특징량 데이터와의 유사도를 산출한다. 그리고, 판독된 사서 데이터 중에서 가장 높 은 유사도를 보이는 사서 데이터와, 특징점 추출 처리부(215)에서 출력된 특징량 데이터가 동일 인물이라고 판단함으로써, 인증을 행한다.

이와 같이, 본 실시예에 따르면, 얼굴 인증에 필요한 특징량 데이터를 추출하기 위한 화상에 대하여, 얼굴 영역의 휘도 보정을 행하고나서 특징량 데이터를 추출한다. 따라서, 역광이나 사광 등의 환경하에서 촬상된 화상 등, 조명조건 등에 의해 얼굴에 그림자 등이 발생한 경우에도, 그림자의 영향을 경감하여, 정밀도가 좋은 사서 데이터를 등록할 수 있다.

또한, 휘도 보정처리를 감마 보정전의 RAW 신호의 상태에서 실시한다. 이에 따라, 휘도 보정에 의한 계조 점프의 발생이 억제되어, 눈, 코, 입, 얼굴 윤곽 등의 얼굴 부품에 대하여 정밀도가 좋은 특징량 데이터를 취득하는 것이 가능해진다.

또한, 사서 데이터로서 등록할 특징량 데이터를 추출하기 위한 동작을 수행할 때 뿐만 아니라, 등록 완료의 사서 데이터를 사용하여 얼굴 인증할 때에도, 휘도 보정처리를 적용한 화상으로부터 특징량 데이터를 추출함으로써, 인증 정밀도를 향상시킬 수 있다.

다음에, 본 발명의 제2실시예에 대해 설명한다. 본 실시예에 따른 화상 처리장치는, 눈, 코, 입, 얼굴 윤곽 등, 인증 대상자의 얼굴 부품의 특징량을 표시하는 등록자 특징량 데이터(사서 데이터)를 추출할 때에, 얼굴 영역에 있어서의 스미어(smear)의 발생을 검출하여, 스미어의 영향이 없는 얼굴 부품의 특징량을 산출하는 것을 특징으로 한다.

본 실시예에 있어서도, 제1실시예와 유사한 구성을 갖는 디지털 카메라(100) 를 사용하는 것이 가능하다. 따라서, 구성에 관한 중복되는 설명은 생략한다. 본 실시예에서는, 사서 데이터로서 등록하는 특징량 데이터의 추출 동작에 대해 설명한다.

도 10은, 본 실시예의 화상 처리장치로서의 디지털 카메라(100)에 의해 행해지는 특징량 데이터의 추출 처리를 설명하는 흐름도이다. 본 실시예에 있어서도, 얼굴 인증에 사용하기 위한 얼굴 부품의 특징량 데이터(사서 데이터)를 표시용 화상을 사용하여 추출하는 것으로 한다.

우선, 제1실시예에 있어서의 스텝 S101 내지 S104와 유사한 방법으로, EVF 표시용의 화상의 촬영, YUV 신호의 생성 및 리사이즈 처리가 행해진다.

스텝 S105에서, YUV 신호가 얼굴 검출 처리부(209)(도 2)에 공급되어, 인간의 얼굴 영역이 검출된다. 스텝 S904에서, 화상 처리부(20)는 스미어 발생량을 산출한다.

도 11은, 촬상소자(14)를, 편의상, 수평 방향으로 26 화소, 수직 방향으로 30 화소의 수광 화소(110)와, 수평 방향으로 26 화소, 수직 방향으로 3 화소의 스미어 검출용의 차광 화소(112)를 구비한 구성으로서 도시한 도면이다. 이하의 설명에 있어서, 수평 방향으로 m번째, 수직 방향으로 n번째의 화소의 출력값을 PIX(m,n)으로 표시한다.

촬상소자(14)가 CCD일 경우에, 포화 화소로부터의 전하가 수직 전송로로 누설되어 스미어가 발생한다. 그 때문에, 스미어가 수직 전송로를 따라 전파하여, 예를 들면, 도 11의 X 좌표에서 7 내지 9에 의해 주어진 열 방향의 모든 화소가 스미 어의 영향을 받는다. 또한, 차광 화소(112)가 차광되어 있기 때문에, 통상 그것의 출력은 0이다. 그러나, 스미어가 발생하면, CCD의 수직 전송 동작에 의해 스미어가 전파하여, 0보다 큰 값을 출력하게 된다. 따라서, 스미어 검출 영역의 출력 화소값을 종 방향으로 가산 평균하여, 각 열에 있어서의 스미어 발생량 SME[m]을 산출할 수 있다.

예를 들면, 0열째의 스미어 발생량 SME[0]은 다음과 같이 산출될 수 있다:

SME[0] = (PIX(0,30)+PIX(0,31)+PIX(0,32))/3

도 11의 예에서는, 7열째 내지 9열째에 스미어가 발생하고 있다. 그 값이 예를 들면 다음과 같다:

SME[7]=400

SME[8]=400

SME[9]=200 (모두 10 비트 A/D 변환기가 사용되는 경우)

이때, 본 실시예에 있어서, 스미어 발생량의 산출은 화상 처리부(20)가 행한다. 또한, 화상 처리부(20)는, 스미어 발생량 뿐만 아니라, 스미어 발생 영역 및 포화 화소 영역도 검출한다. 스미어 발생 영역과 포화 화소 영역은, 스미어 발생이 검출된 열에 있어서의 화소값에 근거하여 검출할 수 있다.

다음에, 스텝 S905에서, 화상 처리부(20)는, 열마다 산출한 스미어 값을, 대응하는 열에 포함되는 모든 화소의 값에서 감산하여, 스미어에 의한 화소값의 증가분을 보정한다. 즉, 다음과 같은 연산이 행해진다.

PIX(m,n) = PIX(m,n)-SME[m]

스텝 S906에서, 제1실시예에 있어서 설명한 것과 같이, 공지의 수법을 사용하여, 얼굴 인증에 필요한 얼굴 부품과 그것의 특징량 데이터를 추출한다.

스텝 S907에서, 얼굴 검출 처리부(209)가 얼굴 검출 결과로서 출력하는 얼굴 영역의 위치에 관한 정보(얼굴 좌표)가, 얼굴 영역을 포함하는 사각형 영역의 대각점 좌표로서 제공된다. 그리고, 도 11에 나타낸 예에 있어서, 얼굴 검출 처리부(209)가 얼굴 좌표로서, 좌표 (5,2)와 좌표 (18,27)을 출력한다.

도 11의 예에서는, 좌표 (7,1)과 좌표 (9,29)를 대각 꼭지점으로 갖는 사각형 영역에서 스미어가 발생하고 있다. 또한, 7열째와 8열째의 모든 수광 화소는 스미어 발생에 의해 화소값이 모두 1023(10비트의 A/D 변환기(16)를 사용했을 경우)으로 포화되어 있고, 9열째의 수광 화소들은 스미어 값이 비교적 작아, 화소값이 1023 이하(즉, 800)가 되는 경우를 예로 든다.

본 실시예에 있어서, 특징점 추출 처리부(215)는, 스미어 보정후의 얼굴 화상에서 얼굴 부품을 추출하는 동시에, 스미어 보정전에 화소값이 포화하고 있었던 영역을 포함하는 얼굴 부품은 특징량 데이터의 추출 대상에서 제외하는 것을 특징으로 한다.

도 11의 예에서는, 얼굴 부품 중에서 우측 눈 및 우측 볼 윤곽신호가 스미어에 의해 포화된 화상을 포함하고 있기 때문에, 얼굴 부품으로서 추출할 수 있어도, 그것의 특징량 데이터를 사서 데이터로서 등록하지 않는다. 이 경우, 특징량 데이터의 추출은 행하지만, 등록하지 않는 방법, 특징량 데이터의 추출 자체를 행하지 않는 방법의 어느 것이라도 된다. 한편, 입에 대해서는, 그것의 우측 단부가 9열째 의 스미어 발생 영역에 걸리고 있지만, 9열째의 화소는 포화하지 않고 있으므로, 스미어 보정후의 화상으로부터 입이 얼굴 부품으로서 추출되고, 특징량 데이터의 추출도 행한다. 따라서, 도 11의 예에 있어서는, 입, 좌측 눈, 코, 좌측 볼 윤곽신호의 특징량 데이터가 추출되어, 사서 데이터로서 등록된다. 이때, 얼굴 부품의 종류는 본 발명과 직접 관계되지 않는다. 따라서, 이들 얼굴 부품은 단순한 예시로서, 다른 얼굴 부품의 추출을 배제하는 것을 나타낼 의도는 없다. 예시된 얼굴 부품의 모든 추출이 필수적인 것은 아니다.

본 실시예에 따르면, 촬상 화상으로부터 얼굴 인증에 필요한 사서 데이터를 등록할 때, 촬상 화상 중의 스미어 발생 영역을 검출하고, 스미어 보정후의 화상으로부터 얼굴 부품 및 특징량 데이터의 추출을 행한다. 그 때문에, 외광 등의 강한 광원 아래에 있어서도, 스미어의 영향이 적으며, 보다 정밀도가 높은 사서 데이터를 등록하는 것이 가능해진다.

또한, 스미어 보정전의 포화 화소 영역을 포함하는 얼굴 부품은, 특징량 데이터의 등록 대상에서 제외한다. 따라서, 인증에 사용할 특징량 데이터의 등록량을 삭감할 수 있는 것 이외에, 특징량 데이터의 정밀도를 향상시킬 수 있어, 인증 정밀도의 향상을 실현할 수 있다.

더구나, 사서 데이터를 등록할 때 뿐만 아니라, 등록 완료의 사서 데이터를 사용하여 얼굴 인증할 때에도, 유사한 처리를 적용한 화상으로부터 특징량 데이터를 추출할 수 있어, 인증 정밀도의 향상을 실현할 수 있다.

상기한 설명에서는, 디지털 카메라를 본 발명의 실시예로 이용하였지만, 본 발명이 이 디지털 카메라에 한정되는 것은 아니다. 본 발명은 디지털 비디오 카메라에 의해 실시될 수도 있다. 또한, 장착된 기록매체에서 받은 화상 데이터나, 네트워크를 거쳐 수신한 화상 데이터로부터, 얼굴의 특징량 데이터를 검출하도록 하면, 퍼스널컴퓨터 상의 애플리케이션에 있어서도 본 발명을 실시하는 것이 가능하다.

예시적인 실시예들을 참조하여 본 발명을 설명하였지만, 본 발명이 이러한 실시예에 한정되지 않는다는 것은 자명하다. 이하의 청구범위의 보호범위는 가장 넓게 해석되어 모든 변형, 동등물 구조 및 기능을 포괄하여야 한다.

도 1은 본 발명의 제1실시예에 따른 화상 처리장치의 일례로서의 디지털 카메라의 구성예를 도시한 도면이다.

도 2는 일 실시예에 따른 본 화상 처리장치의 신호 처리부의 개략도이다.

도 3은 제1실시예에 따른 얼굴 화상 데이터 취득부의 동작 흐름도이다.

도 4는 얼굴 영역의 블록 분할을 나타낸 도면이다.

도 5는 블록의 가중치를 나타낸 도면이다.

도 6은 블록의 휘도 평균값을 나타낸 도면이다.

도 7은 블록의 가중치와 휘도 평균값을 승산한 결과를 나타낸 도면이다.

도 8a 및 도 8b는 블록의 보정 게인을 나타낸 도면이다.

도 9는 촬영 감도마다의 보정 게인 임계값을 나타낸 도면이다.

도 10은 제2실시예에 따른 얼굴 화상 데이터 취득부의 동작 흐름도이다.

도 11은, 검출된 얼굴과, 촬상소자에 있어서의 수광 영역 및 차광 영역을 나타낸 도면이다.

Claims

화상을 검출하는 검출회로와,

상기 검출된 화상의 휘도를 결정하고 상기 검출된 화상 내의 휘도의 격차를 줄이는 보정을 행하는 휘도 보정회로와,

인증 처리에서 사용하기 위해, 상기 휘도 보정회로에 의해 보정된 검출 화상으로부터 특징량 데이터를 추출하는 추출회로를 갖는 것을 특징으로 하는 화상 처리장치.
제 1항에 있어서,

상기 화상은 인간의 얼굴 화상이고, 상기 휘도 보정회로는, 상기 얼굴의 영역을 복수의 블록으로 분할하고, 블록마다의 휘도 평균값을 미리 정한 1개의 휘도값으로 보정하기 위한 블록 보정 게인을 결정하고, 상기 블록마다의 블록 보정 게인으로부터 화소마다의 화소 보정 게인을 생성하고, 상기 화소 보정 게인을 상기 얼굴의 영역 내의 화소에 적용하여, 상기 보정을 행하는 것을 특징으로 하는 화상 처리장치.
제 2항에 있어서,

상기 휘도 보정회로는 상기 블록 보정 게인의 평균값을 결정하고,

상기 추출 회로는, 상기 평균값이 미리 정한 값을 초과하는 경우에는, 상기 특징량 데이터의 추출을 행하지 않는 것을 특징으로 하는 화상 처리장치.
제 3항에 있어서,

상기 미리 정한 값은, 상기 화상을 촬영할 때에 설정된 감도가 낮을수록, 높은 값으로 설정되는 것을 특징으로 하는 화상 처리장치.
제 1항에 있어서,

상기 화상 처리장치는, 상기 추출 회로가 추출한 특징량 데이터를, 상기 인증 처리에 사용하는 사서 데이터로서 등록하는 메모리를 더 갖는 것을 특징으로 하는 화상 처리장치.
제 1항에 있어서,

상기 화상 처리장치는, 상기 추출 회로가 추출한 특징량 데이터와, 미리 메모리에 기억된 사서 데이터의 유사도를 산출함으로써, 상기 인증 처리를 행하는 비교회로를 더 갖는 것을 특징으로 하는 화상 처리장치.
제 1항에 있어서,

상기 휘도 보정회로는, 상기 보정을 상기 화상의 RAW 신호에 대하여 행하는 것을 특징으로 하는 화상 처리장치.
화상을 검출하는 검출회로와,

상기 검출된 화상 내의 스미어 발생 영역 및 스미어 발생량을 결정하고, 상기 스미어 발생량에 근거하여 상기 스미어 발생 영역에 포함되는 화소값을 보정하는 스미어 보정회로와,

상기 스미어 보정회로에서 보정된 상기 검출 화상으로부터, 인증 처리에서 사용하기 위한 특징량 데이터를 추출하는 추출회로를 갖는 것을 특징으로 하는 화상 처리장치.
제 8항에 있어서,

상기 화상 처리장치는, 상기 추출회로가 추출한 특징량 데이터를, 상기 인증 처리에 사용하는 사서 데이터로서 등록하는 메모리를 더 갖고,

상기 스미어 보정회로는, 상기 스미어 발생 영역 내에 있어서의 포화 화소 영역을 검출하고,

상기 메모리는, 상기 포화 화소 영역에 있는 특징량 데이터를 상기 사서 데이터로 서 등록하지 않는 것을 특징으로 하는 화상 처리장치.
제 9항에 있어서,

상기 스미어 보정회로는 상기 보정을 상기 화상의 RAW 신호에 대해 행하는 것을 특징으로 하는 화상 처리장치.
화상을 검출하는 것과,

상기 검출된 화상의 휘도를 결정하고 상기 화상 내의 휘도의 격차를 줄이는 보정을 행하는 것과,

인증 처리에서 사용하기 위해, 휘도의 격차를 줄이는 보정이 행해진 상기 검출된 화상으로부터 특징량 데이터를 추출하는 것을 갖는 것을 특징으로 하는 화상 처리방법.
제 11항에 있어서,

추출한 상기 특징량 데이터를, 상기 인증 처리에 사용하는 사서 데이터로서 메모리에 등록하는 것을 더 갖는 것을 특징으로 하는 화상 처리방법.
제 11항에 있어서,

추출한 상기 특징량 데이터와, 미리 메모리에 기억된 사서 데이터의 유사도를 산출함으로써, 상기 인증 처리를 행하는 것을 더 갖는 것을 특징으로 하는 화상 처리방법.
화상을 검출하는 것과,

상기 검출된 화상 내의 스미어 발생 영역 및 스미어 발생량을 결정하고, 상기 스미어 발생량에 근거하여 상기 스미어 발생 영역에 포함되는 화소값을 보정하는 것과,

인증 처리에서 사용하기 위해, 상기 스미어 발생 영역에 포함되는 화소값이 상기 스미어 발생량에 근거하여 보정되는 상기 검출 화상으로부터 특징량 데이터를 추출하는 것을 갖는 것을 특징으로 하는 화상 처리방법.
제 14항에 있어서,

상기 스미어 발생 영역 내에 있어서의 포화 화소 영역을 검출하는 것을 더 갖고,

상기 특징량 데이터 중에서 상기 포화 화소 영역에 있지 않는 특징량 데이터는, 상기 인증 처리에 사용하는 사서 데이터로서 메모리에 등록하고,

상기 포화 화소 영역에 있는 특징량 데이터는, 상기 인증 처리에 사용하는 사서 데 이터로서 메모리에 등록하지 않는 것을 특징으로 하는 화상 처리방법.