KR101036858B1

KR101036858B1 - 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체

Info

Publication number: KR101036858B1
Application number: KR1020090114468A
Authority: KR
Inventors: 고이치 나카고미
Original assignee: 가시오게산키 가부시키가이샤
Priority date: 2008-11-28
Filing date: 2009-11-25
Publication date: 2011-05-25
Also published as: TWI390453B; JP2010152871A; JP4862934B2; US8411911B2; KR20100061361A; TW201030632A; EP2192544B1; EP2192544A1; CN101902577A; US20100135532A1

Abstract

본 발명은, 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체에 관한 것으로서, 얼굴 화상을 촬상하여 취득하는 촬상 장치(100)로서, 취득된 얼굴 화상에 있어서의 얼굴의 특징부의 위치를 검출하고, 검출된 얼굴의 특징부의 위치를 기준으로 한, 얼굴의 의사 윤곽선을 생성하고, 생성된 의사 윤곽선에 기초하여, 얼굴 화상에 대하여 보정 처리를 행하는 화상 처리부(4)를 구비하는 것을 특징으로 한다.

Description

화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체{IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND STORAGE MEDIUM FOR STORING PROGRAM}

본 발명은, 얼굴 화상을 보정하는 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체에 관한 것이다

특허 문헌 1(일본 특허출원 공개번호 2008-242921호 공보)은, 입력된 화상의 얼굴에 대응하는 영역을 보정하는 프린터를 개시(開示)하고 있다. 특허 문헌 2(일본 특허출원 공개번호 2005-277772호 공보)는, 피사체 인물의 화상 데이터를 취득하여 상기 화상 데이터를 보정하는 포토 시일(photo seal) 판매기를 개시하고 있다.

그러나, 이 프린터나 포토 시일 판매기에 의해, 화상 내에 있어서 피사체 인물의 눈을 크게 하거나, 얼굴의 윤곽을 작게 하거나 하는 등의 보정을 행하는 경우, 사용자(또는 피사체 인물)가 터치 펜 등을 조작하여 수정될 영역을 지정해야만 하므로, 번잡한 작업이 필요하다.

본 발명은, 얼굴 화상을 간단하게 보정할 수 있는 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체를 제공하는 것을 목적으로 한다.

전술한 과제를 해결하기 위해, 본 발명의 일측면에 따른 화상 처리 장치는, 화상을 취득하는 화상 취득 수단; 상기 화상 취득 수단에 의해 취득된 화상으로부터, 얼굴의 특징부를 검출하는 특징부 검출 수단; 상기 특징부 검출 수단에 의해 검출된 특징부의 위치에 기초하여, 상기 얼굴의 의사 윤곽선을 생성하는 윤곽 생성 수단; 및 상기 윤곽 생성 수단에 의해 생성된 의사 윤곽선에 기초하여, 상기 화상을 보정하는 보정 수단을 구비하는 것을 특징으로 한다.

또한, 본 발명의 다른 측면에 따른 화상 처리 방법은, 화상을 취득하는 화상 취득 단계; 상기 화상 취득 단계에 의해 취득된 화상으로부터, 얼굴의 특징부를 검출하는 특징부 검출 단계; 상기 특징부 검출 단계에 의해 검출된 특징부의 위치에 기초하여, 상기 얼굴의 의사 윤곽선을 생성하는 윤곽 생성 단계, 및 상기 윤곽 생성 단계에 의해 생성된 의사 윤곽선에 기초하여, 상기 화상을 보정하는 보정 단계 를 포함한다.

본 발명의 또 다른 측면에 따른 기억 매체는, 컴퓨터로, 화상을 취득하는 화상 취득 처리; 상기 화상 취득 처리에 의해 취득된 화상으로부터, 얼굴의 특징부를 검출하는 특징부 검출 처리; 상기 특징부 검출 처리에 의해 검출된 특징부의 위치에 기초하여, 상기 얼굴의 의사 윤곽선을 생성하는 윤곽 생성 처리; 및 상기 윤곽 생성 처리에 의해 생성된 의사 윤곽선에 기초하여, 상기 화상을 보정하는 보정 처리를 실행시키는 컴퓨터로 판독 가능한 프로그램이 기록된 것을 특징으로 한다

이하, 본 발명에 따른 화상 처리 장치의 일례를 나타낸 디지털 카메라의 실시예를, 도면을 참조하여 설명한다.

본 발명의 일실시예가, 도면을 참조하여 상세하게 설명되지만, 발명의 범위는, 도시되는 실시예로 한정되지 않는다.

도 1은, 본 실시예가 적용되는 촬상 장치(100)의 개략적인 구성을 나타낸 블록도이다.

촬상 장치(100)는, 얼굴 화상을 취득하고, 상기 얼굴 화상에 있어서의 특징부를 검출하고, 상기 특징부에 기초하여 얼굴의 의사(擬似) 윤곽 L1을 생성하고, 의사 윤곽 L1에 기초하여 얼굴 화상을 보정한다.

도 1에 나타낸 바와 같이, 촬상 장치(100)는, 촬상 렌즈부(1), 전자 촬상부(2), 촬상 제어부(3), 화상 처리부(4), 기억 매체(5), 표시부(6), 표시 제어부(7), 조작 입력부(8), 데이터 메모리(9), 프로그램 메모리(10), 및 CPU(11)를 구 비하고 있다.

촬상 렌즈부(1)는, 줌 렌즈(1a)나 포커스 렌즈(1b) 등의 복수의 렌즈로 구성된다. 촬상 렌즈부(1)는, 줌 렌즈(1a)를 광축 방향으로 이동시키는 줌 구동부(도시하지 않음), 및 포커스 렌즈(1b)를 광축 방향으로 이동시키는 초점 구동부(도시하지 않음)를 구비하고 있다.

전자 촬상부(2)는, 피사체를 촬상하여 상기 피사체의 얼굴의 화상 데이터를 생성한다. 전자 촬상부(2)는, CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal-oxide Semiconductor) 등의 촬상 소자를 구비한다. 전자 촬상부(2)는, 촬상 렌즈부(1)의 각종 렌즈를 통과한 피사체의 광학상을 2차원의 화상 신호로 변환한다.

촬상 제어부(3)는, 도시는 생략하지만, 타이밍 발생기 및 수직 드라이버를 구비하고 있다. 촬상 제어부(3)는, 타이밍 발생기 및 수직 드라이버에 전자 촬상부(2)를 주사 구동시켜, 소정 주기로 피사체 상을 2차원의 화상 신호로 변환시킨다. 촬상 제어부(3)는, 전자 촬상부(2)의 촬상 영역으로부터 1화면 분의 화상(프레임)을 받아 화상 처리부(4)에 출력한다.

촬상 렌즈부(1), 전자 촬상부(2) 및 촬상 제어부(3)는, 화상 데이터를 취득하는 수단으로서 기능한다.

촬상 제어부(3)는, AE(자동 노출 처리), AF(자동 초점 처리), AWB(자동 화이트 밸런스)의 제어 등을 행한다.

화상 처리부(4)는, 촬상 제어부(3)로부터 전송된 프레임에 기초하여 화질 조 정, 해상도 변환 및 화상 압축 등의 화상 처리를 행하고, 표시용 화상 데이터나 기록용 화상 데이터를 생성한다. 화상 처리부(4)는, 아나로그값 상태로 전송된 프레임에 대하여, RGB색 성분마다 게인 조정을 행한다. 그리고, 샘플 홀드 회로(도시 생략)가 상기 프레임에 대하여 샘플 홀드를 행하고, A/D 변환기(도시 생략)가 상기 프레임을 디지털 데이터로 변환하여, 컬러 프로세스 회로(도시 생략)가 화소 보간 처리 및 γ보정 처리를 포함하는 컬러 프로세스 처리를 행한다. 그 후, 디지털 휘도 신호 Y 및 디지털 색차 신호 Cb, Cr이 생성된다.

휘도 신호 Y 및 색차 신호 Cb, Cr은, DMA 컨트롤러(도시하지 않음)를 통하여, 데이터 메모리(9)에 전송된다.

화상 처리부(4)는, 소정의 얼굴 검출 방법을 이용하여, CPU(11)의 제어에 기초하여, 촬상 제어부(3)로부터 전송된 프레임으로부터 얼굴 화상 영역을 검출하는 얼굴 검출부(4a)를 구비하고 있다.

얼굴 검출부(4a)는, 프레임으로부터 얼굴 화상 영역을 검출하고, 검출된 얼굴 화상 영역으로부터, 예를 들면 눈, 코 또는 입 등의 특징부를 검출한다. 이 얼굴 검출 방법은 공지된 기술이므로, 상세한 설명을 생략한다.

CPU(11) 및 얼굴 검출부(4a)는, 전자 촬상부(2) 및 촬상 제어부(3)에 의해 생성된 프레임의 특징부를 검출하는 수단으로서 기능한다.

얼굴 검출부(4a)는, CPU(11)의 제어 하에, 얼굴 화상 영역으로부터 눈의 위치를 검출하는 눈 위치 검출부(4b)를 구비하고 있다.

눈 위치 검출부(4b)는, 얼굴의 좌우 양 눈의 중심(예를 들면, 눈동자의 중 심)의 좌표(rightEyeX, rightEyeY) 및 (leftEyeX, leftEyeY)를 검출한다(도 2 참조).

CPU(11) 및 눈 위치 검출부(4b)는, 얼굴 화상으로부터 얼굴의 눈의 위치를 검출하는 수단으로서 기능한다.

화상 처리부(4)는, CPU(11)의 제어 하에, 얼굴의 의사 윤곽선 L1을 생성하는 윤곽 생성부(4c)를 구비하고 있다.

윤곽 생성부(4c)는, 특징부로서 눈 위치 검출부(4b)에 의해 검출된 좌우 양 눈의 위치 좌표 (rightEyeX, rightEyeY), (leftEyeX, leftEyeY)에 기초하여, 상기 얼굴의 윤곽인 것으로 추정되는 의사 윤곽선 L1을 생성한다. 윤곽 생성부(4c)는, 상기 위치 좌표에 기초하여, 얼굴의 경사 및 좌우 눈 사이의 거리를 산출한다. 의사 윤곽선 L1은, 이 산출 결과에 기초하여 생성된다. 윤곽 생성부(4c)는, 하기 식 (1)에 기초하여, x축에 대한 얼굴의 경사각도 θ를 산출한다[도 3의 (a) 참조]. 식 (1)에 있어서, delta_x는, x 방향의 양 눈 사이의 거리를 나타내고, delta_y는, y 방향의 양 눈 사이의 거리를 나타낸다.

[식 (1)]

식 (1)에 대하여, delta_x는 「rightEyeX - leftEyeX」로부터 구해지고, delta_y는 「rightEyeY - leftEyeY」로부터 구해진다.

윤곽 생성부(4c)는, delta_x 및 delta_y를 사용하여, 식 (2)로부터 좌우 눈 사이의 거리 dis_lr_eye를 산출한다(도 2 참조).

[식 (2)]

윤곽 생성부(4c)는, 좌우 눈 사이의 중심점의 좌표 (wcx, wcy), 얼굴의 경사각도 θ 및 좌우 눈 사이의 거리 dis_lr_eye에 기초하여, 의사 윤곽 L1이 타원이라는 상정 하에, 식 (3)으로부터 의사 윤곽선 L1을 도출한다[도 3의 (a) 참조].

[식 (3)]

식 (3)에 있어서, "a"는 좌우 눈 사이의 거리 dis_lr_eye와 같다.

CPU(11) 및 윤곽 생성부(4c)는, 얼굴 검출부(4a)에 의해 검출된 특징부(예를 들면, 눈)에 기초하여, 얼굴의 의사 윤곽선 L1을 생성하는 수단으로서 기능한다.

화상 처리부(4)는, CPU(11)의 제어 하에, 의사 윤곽선 L1에 기초하여 얼굴 화상을 보정한다. 화상 처리부(4)는, 의사 윤곽선(11)에 기초하여, 얼굴에 있어서 좌우 양 눈보다 아래쪽의 영역을 변형시키는 워프 처리(warp processing)를 행한다.

화상 처리부(4)는, 이동량 맵 생성부(4d)를 구비하고 있다. 이동량 맵 생성부(4d)는, 얼굴 화상 중의 화소와 의사 윤곽선 L1과의 거리를 산출하고, 산출된 거리에 기초하여, 워프 처리에 있어서의 상기 화소의 이동량을 규정하는 이동량 맵 map(x, y)를 생성한다.

이동량 맵 map(x, y)는, 입력된 얼굴 화상과 동일한 사이즈, 예를 들면, 640×480화소의 VGA 사이즈로 설정되어 있다. 이동량 맵은, 각 화소에 대하여 x축 방향 및 y축 방향의 이동량을 규정한다. 본 실시예에 있어서는, 계산량을 삭감하여 처리의 고속화를 도모하기 위하여, 각 화소의 x축 방향의 이동량을 규정하는 이동량 맵이 생성된다.

워프 처리에서는, 화상 내의 각 화소가 이동량 맵 map(x, y)[도 4의 (a) 참조]에 기초하여 이동되고, 원하는 출력 화상[도 4의 (c) 참조]을 얻어진다. 예를 들면, 도 4의 (a)에 나타낸 바와 같이, 이동량 맵이 있는 화소(흑색 동그라미로 나타냄)의 이동량은, map(x, y)=(1.4, 0)에 의해 규정된다. 화상 내의 대응하는 화소[도 4의 (b) 참조]가 x축 방향으로 1.4화소 만큼 이동하고, 출력 화상에 있어서의 화소가 부여된다[도 4의 (c)에서는 흰색 동그라미로 나타냄).

이동량 맵 생성부(4d)는, 얼굴 화상 중의 화소 각각에 대하여, 식 (4)에 기초하여 의사 윤곽선 L1으로부터의 x축 방향의 거리 delta_x를 산출한다. 그리고, 이동량 맵 생성부(4d)는, 산출된 delta_x 및 가우스 분포의 분산 σX에 기초하여, 식 (5)로부터 각 화소의 x축 계수 "gw_x"를 산출한다(도 5 참조).

[식 (4)]

[식 (5)]

분산 σX는, 좌우 눈 사이의 거리 dis_lr_eye와 조정용 계수 kx의 곱(product)에 비례한다. 분산 σX는, 좌우 눈 사이의 거리 dis_lr_eye에 따라 변화한다. 따라서, 좌우 눈 사이의 거리 dis_lr_eye, 즉 얼굴의 크기에 따라 자동적으로 x축 계수 "gw_x"를 조정할 수 있다.

조정용 계수 kx는, 사용자에 의한 조작 입력부(8)의 조작에 따라 입력되는 화상 보정 레벨 혹은 처리 강도(후술)에 기초하여 설정될 수도 있다.

이에 더하여, 이동량 맵 생성부(4d)는, 각 화소에 대하여, 턱과 눈의 중간 위치를 통과하는 중간선 m으로부터의 y축 방향의 거리 deltaY를 산출한다. 그리고, 이동량 맵 생성부(4d)는, 산출된 deltaY 및 가우스 분포의 분산 σY에 기초하여, 식 (5)로부터 각 화소의 x축 계수"gw_x"를 산출한다(도 5 참조).

[식 (6)]

분산 σY는, 좌우 눈 사이의 거리 dis_lr_eye와 조정용 계수 ky의 곱에 비례한다. 분산 σY는, 좌우 눈 사이의 거리 dis_lr_eye에 따라 변화한다. 따라서, 좌우 눈 사이의 거리 dis_lr_eye, 즉 얼굴의 크기에 따라 자동적으로 y축 계수 qw_y를 조정할 수 있다.

조정용 계수 ky는, 사용자에 의한 조작 입력부(8)의 조작에 따라 입력되는 화상 보정 레벨 또는 처리 강도(후술)에 따라 설정될 수도 있다.

그리고, 이동량 맵 생성부(4d)는, x축 계수 gw_x 및 y축 계수 gw_y에 따라, 즉 의사 윤곽선 L1으로부터의 x축 방향의 거리 deltaX 및 중간선 m으로부터의 y축 방향의 거리 deltaY에 따라, 각 화소의 x축 방향의 이동량을 규정한다. 의사 윤곽선 L1으로부터 x축 방향으로 이격되는 화소일수록 이동량이 작아지고(도 5 및 도 6 참조), 또 중간선 m으로부터 y축 방향으로 이격되는 화소일수록 이동량이 작아진다.

또한, 이동량 맵 생성부(4d)는, 좌우의 눈의 중심점의 좌표 (wcx, wcy)에 대한 x축 방향의 위치에 따라, 각 화소에 대하여, 이동량 맵 map(x, y)를 생성한다.

화소의 x 좌표가 양 눈 사이의 중심점의 x 좌표 wcx보다 큰 경우(x>wcx), 즉 얼굴의 좌측에 관계하는 화소에 대해서는, 이동량 맵 생성부(4d)는, 하기 식 (7)로부터, 이동량 맵 map(x, y)의 x 성분을 산출한다. 이동량 맵 생성부(4d)는, x축 계수 gw_x와 y축 계수 gw_y의 곱을 상기 화소의 x 좌표로부터 감산함으로써 상기 이동량 맵 map(x, y)의 x 성분을 도출한다. 한편, 상기 화소의 x 좌표가 중심점의 x 좌표 wcx보다 작은 경우(x<wcx), 즉 얼굴의 우측에 관계하는 화소에 대해서는, 이동량 맵 생성부(4d)는, 하기 식 (8)로부터, 이동량 맵 map(x, y)의 x 성분을 산출한다. 이동량 맵 생성부(4)는, x축 계수 gw_x와 y축 계수 gw_y의 곱을 상기 화소의 x 좌표에 가산함으로써 이동량 맵 map(x, y)의 x 성분을 도출한다.

[식 (7)]

[식 (8)]

화소의 x 좌표가 양 눈 사이의 중심점의 x 좌표 wcx와 동일한 경우에는, 이동량 맵 map(x,y)의 x 좌표는 생성되지 않는다. 또는, 이동량 맵 map(x, y)는, 입력 화상에 있어서의 화소 위치가 출력 화상에 있어서의 화소 위치와 같아지도록 생성될 수도 있다.

의사 윤곽선(11)으로부터 x축 방향으로 이격되는 화소일수록 x축 계수 gw_x가 작아지므로, 이동량 맵 생성부(4d)는, 의사 윤곽선 L1으로부터 x축 방향으로 이격되는 화소일수록 이동량이 작아지는 이동량 맵 map(x, y)를 생성할 수 있다.

도 6에 있어서는, 좌측뺨부와 그 주변에 대응하는 의사 윤곽선 L1의 일부분 A에 있어서의 화소의 이동량이, 화살표의 길이 및 방향으로 모식적으로 표시되어 있다. 화살표의 길이가 길수록 이동량이 크게 되어 있다.

화상 처리부(4)는, 이동량 맵 생성부(4d)에 의해 생성된 이동량 맵 map(x, y)에서 규정된 각 화소의 이동량에 따라, 각 화소에 대하여 워프 처리를 행한다. 이로써, x 좌표의 값이 양 눈 사이의 중심점의 x 좌표 wcx보다 큰 화소(즉, x>wcx)는, 워프 처리에 있어서, 이동량에 따라 좌측으로 이동한다. 이에 더하여, x 좌표의 값이 양 눈 사이의 중심점의 x 좌표 wcx보다 작은 화소(x<wcx)는, 워프 처리에 있어서, 이동량에 따라 우측으로 이동한다. 이로써, 워프 처리는, 좌우의 눈보다 아래쪽의 부분이 가늘게 되도록 얼굴의 화상을 변형시킨다.

워프 처리에 있어서, 얼굴 화상의 변형 레벨은, 사용자에 의한 조작 입력부(8)의 조작에 따라 변경된다. 워프 처리는, 여기서는 얼굴의 화상을 변형하는 일례로서 설명하였지만, 본 발명은, 이것으로 한정되는 것은 아니다.

이와 같이, CPU(11) 및 화상 처리부(4)는, 의사 윤곽선 L1에 기초하여, 얼굴 화상에 대하여 보정을 행하는 수단으로서 기능한다.

기억 매체(5)는, 불휘발성 메모리(플래시 메모리) 등을 포함한다. 기억 매체(5)는, 화상 처리부(4)의 JPEG 압축부(도시 생략)에 의해 부호화된 화상 데이터를 기억한다. 또한, 기억 매체(5)는, 화상 보정 처리된 화상 데이터를 기억한다.

표시 제어부(7)는, 데이터 메모리(9)에 일시적으로 기억되어 있는 표시용 데이터를 판독하여 표시부(6)에 표시시킨다. 표시 제어부(7)는, VRAM, VRAM 컨트롤러, 디지털 비디오 인코더 등을 구비하고 있다. 그리고, 디지털 비디오 인코더는, CPU(11)의 제어 하에 데이터 메모리(9)로부터 판독되어 VRAM에 기억되어 있는 휘도 신호 Y 및 색차 신호 Cb, Cr을, VRAM 컨트롤러를 통하여 VRAM으로부터 정기적으로 판독한다. 비 디지털 비디오 인코더는, 판독한 데이터에 기초하여 비디오 신호를 발생시키고, 상기 비디오 신호를 표시부(6)에 출력한다.

표시부(6)는, 표시 제어부(7)로부터 보내진 비디오 신호에 기초하여, 전자 촬상부(2)에 의해 촬상된 화상을 표시한다. 촬상 모드에 있어서는, 표시부(6)는, 촬상 제어부(3)에 의해 생성된 복수의 프레임을 라이브 뷰(live view) 화상으로서 순차적으로 표시하고, 기록용 화상으로서 촬상된 렉뷰(REC-view) 화상을 표시한다.

조작 입력부(8)는, 촬상 장치(100)에 대하여 조작 지시를 입력하기 위해 사용된다. 조작 입력부(8)는, 촬상 지시를 부여하는 셔터 버튼, 기능 선택이나 표시 설정에 관한 메뉴 화면의 표시 지시를 부여하는 메뉴 버튼, 동작 모드를 선택하고, 선택된 모드를 구획하는 지시를 부여하는 선택 버튼, 줌 량의 조정 지시를 부여하는 줌 버튼 등을 구비한다. 조작 입력부(8)는, 이들 버튼의 조작에 따라 조작 신호를 CPU(11)에 출력한다.

선택 결정 버튼은, 메뉴 버튼의 조작에 따라 표시된 메뉴 화면 상에서의, 화상 보정 레벨(즉 처리 강도: 예를 들면, 레벨 1∼레벨 3 등)의 설정 지시의 입력에 사용된다. 조작 입력부(8)는, 조작에 따라 설정 신호를 CPU(11)에 출력한다.

CPU(11)는, 입력된 설정 신호에 따라 화상 보정 레벨을 설정한다.

조작 입력부(8) 및 CPU(11)는, 화상 보정 처리의 처리 강도를 설정하는 수단으로서 기능한다.

CPU(11)는, 촬상 장치(100)의 각 부를 제어한다. 즉, CPU(11)는, 프로그램 메모리(10)에 기억된 촬상 장치(100)용 각종 프로그램에 따라 각 부를 제어한다.

데이터 메모리(9)는, 예를 들면 플래시 메모리 등을 가지고, CPU(11)에 의해 처리되는 데이터를 일시적으로 기억한다.

프로그램 메모리(10)는, CPU(11)의 동작에 필요한 각종 프로그램이나 데이터 등을 기억하고 있다.

프로그램 메모리(10)에 기억되는 프로그램은, 얼굴 검출 제어 루틴, 눈 위치 검출 제어 루틴, 윤곽 생성 제어 루틴, 보정 제어 루틴을 포함한다.

"루틴"이라는 용어는, 컴퓨터 프로그램의 일부를 이루며, 어떤 기능을 실현하는 일련의 명령군을 의미한다.

얼굴 검출 제어 루틴은, 얼굴 검출부(4a)에, 전자 촬상부(2)에 의해 생성된 프레임으로부터 목, 코, 입 등에 상당하는 특징부(얼굴 파트)를 검출시키고, 상기 얼굴을 검출시키는 기능을 CPU(11)에 실현시키기 위한 명령군을 포함한다.

눈 위치 검출 제어 루틴은, 얼굴 검출부(4a)에 의해 검출된 얼굴에 있어서의 눈의 위치를 눈 위치 검출부(4b)에 검출시키는 기능을 CPU(11)에 실현시키기 위한 명령군을 포함한다.

윤곽 생성 제어 루틴은, 얼굴 검출부(4a)에 의해 검출된 좌우의 눈 등의 얼굴의 특징부에 기초하여, 얼굴의 의사 윤곽선 L1을 윤곽 생성부(4c)에 생성시키는 기능을 CPU(11)에 실현시키기 위한 명령군을 포함한다. 이 윤곽 생성 제어 루틴에 의하면, CPU(11)는, 눈 위치 검출부(4b)에 의해 검출된 눈의 위치에 기초하여 얼굴의 경사 및 좌우 눈 사이의 거리를 윤곽 생성부(4c)에 산출시킨다. 이에 더하여, CPU(11)는, 산출 결과에 기초하여 얼굴의 의사 윤곽선 L1을 윤곽 생성부(4c)에 생성시킨다.

보정 제어 루틴은, 윤곽 생성부(4c)에 의해 생성된 의사 윤곽선 L1에 기초하여, 얼굴 화상에 대하여 화상 처리부(4)에 보정 처리를 행하게 하는 기능을 CPU(11)에 실현시키기 위한 명령군을 포함한다. 보정 제어 루틴에 따라, CPU(11)는, 의사 윤곽선 L1에 기초하여 얼굴 화상을 변형시키는 워프 처리를, 화상 처리 부(4)에 행하게 한다. 즉, CPU(11)는, 얼굴 화상 중의 각 화소에 대하여 의사 윤곽 선 L1과의 거리를 화상 처리부(4)의 이동량 맵 생성부(4d)에 산출시키고, 산출된 거리에 따라 각 화소에 대한 이동량을 정하는 이동량 맵을 이동량 맵 생성부(4d)에 생성시킨다. 그리고, CPU(11)는 화상 처리부(4)에, 이동량 맵으로부터 부여되는 이동량에 따른 워프 처리를 얼굴 화상에 대하여 행하게 한다.

다음으로, 촬상 장치(100)에 의해 실행되는 화상 보정 방법에 의한 화상 보정 처리에 대하여, 도 7을 참조하여 설명한다.

도 7은, 화상 보정 처리에 대한 동작예를 나타내는 흐름도이다.

화상 보정 처리는, 메뉴 화면 상에서 화상 보정 모드를 선택하기 위하여 사용자에 의한 조작 입력부(8)의 조작에 따라 실행된다.

도 7에 나타낸 바와 같이, 사용자에 의한 조작 입력부(8)의 셔터 버튼의 조작에 따라, CPU(11)는, 촬상 제어부(3)에 초점 맞춤 조건, 노출 조건 및 화이트 밸런스를 조정시키고, 전자 촬상부(2)에 피사체로서 얼굴 화상을 촬영시킨다(단계 S1). 이로써, 촬상 제어부(3)는, 전자 촬상부(2)의 촬상 영역으로부터, 얼굴 화상의 프레임을 판독하여 화상 처리부(4)에 출력한다.

얼굴 검출 제어 루틴에 따라, CPU(11)는 얼굴 검출부(4a)에, 얼굴 화상의 프레임으로부터 목, 코, 입 등의 특징부(얼굴 파트)를 검출시키고, 상기 특징부에 기초하여 얼굴을 검출시킨다(단계 S2).

그리고, 눈 위치 검출 제어 루틴에 따라, CPU(11)는 눈 위치 검출부(4b)에, 얼굴 검출부(4a)에 의해 검출된 얼굴의 좌우 양 눈 각각의 중심의 좌표 (rightEyeX, rightEyeY) 및 (leftEyeX, leftEyeY)를 검출시킨다(단계 S3).

윤곽 생성 제어 루틴에 따라, CPU(11)는 윤곽 생성부(4c)에, x축 방향의 양 눈 사이의 거리 "delta_x(= rightEyeX - leftEyeX)" 및 y축 방향의 양 눈 사이의 거리 "delta_y(= rightEyeY - leftEyeY)"의 절대값에 기초하여, 식 (1)로부터 x축에 대한 얼굴의 경사각도 θ를 산출시키고, 또한 윤곽 생성부(4c)에, delta_x와 delta_y에 기초하여, 식 (2)로부터 좌우 눈 사이의 거리 dis_lr_eye를 산출시킨다(단계 S4).

[식 (1)]

[식 (2)]

CPU(11)는 윤곽 생성부(4c)에, 양 눈 사이의 중심점의 좌표(wcx, wcy), 얼굴의 경사각도 θ 및 좌우 눈 사이의 거리 dis_lr_eye에 따라 식 (3)으로부터 의사 윤곽선 L1을 생성시킨다(단계 S5).

[식 (3)]

보정 제어 루틴에 따라, CPU(11)는 이동량 맵 생성부(4d)에, 얼굴 화상 중의 각 화소에 대하여 의사 윤곽선 L1과의 거리를 산출시키고, 또한 이동량 맵 생성 부(4d)에, 산출된 의사 윤곽선 L1으로부터의 거리에 기초하여 화소마다의 이동량을 정하는 이동량 맵 map(x, y)를 생성시킨다(단계 S6).

구체적으로는, CPU(11)는 이동량 맵 생성부(4d)에, 얼굴 화상 중의 화소마다 식 (4)로부터, 의사 윤곽선 L1으로부터의 x축 방향의 거리 deltaX를 산출시킨다. 그리고, CPU(11)는 이동량 맵 생성부(4d)에, 식 (5)의 지수 함수를 사용하여, x축 방향의 거리 deltaX 및 가우스 분포의 분산 σX로부터 화소마다의 x축 방향의 이동량에 관한 x축 계수 gw_x를 산출시킨다.

[식 (4)]

[식 (5)]

이어서, CPU(11)는 이동량 맵 생성부(4d)에, 턱과 눈의 중간 위치를 통과하는 중간선 m으로부터의 y축 방향의 거리 deltaY를 산출시킨다. 그리고, CPU(11)는 이동량 맵 생성부(4d)에, 식 (6)의 지수 함수를 사용하여, y축 방향의 거리 deltaY 및 가우스 분포의 분산 σY로부터 화소마다의 y축 방향의 이동량에 관한 y축 계수 gw_y를 산출시킨다.

[식 (6)]

화소의 x 좌표가 양 눈 사이의 중심점의 x 좌표 wcx보다 큰 경우(x>wcx), CPU(11)는, 식 (7)에 기초하여, x축 계수 gw_x와 y축 계수 gw_y의 곱을 상기 화소의 x 좌표로부터 감산함으로써, 이동량 맵 map(x, y)를 이동량 맵 생성부(4d)에 생성시킨다. 한편, 화소의 x 좌표가 양 눈 사이 중심점의 x 좌표 wcx보다 작은 경우(x<wcx), CPU(11)는, 식 (8)에 기초하여 x축 계수 gw_x와 y축 계수 gw_y의 곱을 상기 화소의 x 좌표에 가산함으로써, 이동량 맵 map(x, y)를 이동량 맵 생성부(4d)에 생성시킨다.

[식 (7)]

[식 (8)]

CPU(11)는 화상 처리부(4)에, 각 화소에 대하여 이동량 맵 map(x, y)에 의해 정해지는 상기 화소의 이동량에 따라 워프 처리를 행하게 하고, x 좌표의 값이 양 눈 사이의 중심점의 x 좌표 wcx보다 큰 화소(즉, x>wcx)는 이동량분 좌측으로 이동시키고, x 좌표의 값이 wcx보다 작은 화소(x<wcx)은 이동량분 우측으로 이동시켜서, 상기 얼굴 화상을 보정한다(단계 S7).

그리고, CPU(11)는, 워프 처리에 의해 보정된 화상의 화상 데이터를 기억 매체(5)에 저장하고(단계 S8), 상기 화상 보정 처리를 종료한다.

이상과 같이, 본 실시예의 촬상 장치(100)에, 전자 촬상부(2)에 의해 취득된 얼굴 화상에 있어서의 얼굴의 특징부가 검출되고, 상기 특징부에 기초하여, 얼굴의 의사 윤곽선 L1을 생성할 수 있다. 구체적으로는, 오른쪽 눈 및 왼쪽 눈의 위치 좌표 (rightEyeX, rightEyeY), (leftEyeX, leftEyeY)가 검출된다. 검출된 위치 좌표 (rightEyeX, rightEyeY), (leftEyeX, leftEyeY)에 기초하여, 얼굴의 경사각도 θ 및 좌우 눈 사이의 거리 dis_lr_eye가 산출된다. 그리고, 이 산출 결과에 기초하여, 얼굴의 의사 윤곽선 L1을 생성할 수 있다. 따라서, 얼굴의 특징부의 검출, 및 얼굴의 경사각도 θ와 좌우 눈 사이의 거리 dis_lr_eye의 산출을 적절하게 행할 수 있고, 얼굴의 특징부에 기초한 상기 얼굴의 유사 윤곽선 L1의 생성을 적절하게 행할 수 있다.

그리고, 생성된 의사 윤곽선 L1에 기초하여, 취득한 얼굴 화상에 대하여 보정 처리를 행할 수 있다. 즉, 얼굴의 의사 윤곽선 L1에 기초하여, 얼굴 화상을 변형시키는 워프 처리를 행할 수 있다. 구체적으로는, 얼굴 화상 중의 각 화소와 의사 윤곽선(11)과의 거리가 산출되고, 산출된 거리에 기초하여 각 화소에 대하여 이동량을 규정하는 이동량 맵 map(x, y)가 생성된다. 워프 처리는, 얼굴 화상에 대하여, 이동량 맵 map(x, y)에 의해 부여되는 이동량에 따라 행해진다. 따라서, 의사 윤곽선 L1에 기초하여, 얼굴 화상에 대한 보정 처리를 적절하게 행할 수 있다.

따라서, 전자 촬상부(2)에 의해 얼굴을 촬상하는 것만으로, 양 눈로부터 아 래쪽의 윤곽을 가늘게 하도록 얼굴 화상에 대한 보정을 행할 수 있다. 그리고, 사용자가 화상 보정을 위해 특별한 조작을 행할 필요가 없고, 얼굴 화상에 대한 보정을 간단하게 실행할 수 있다.

화상 보정의 레벨은, 사용자에 의한 조작 입력부(8)의 소정 조작에 의해 설정된다. 화상 보정 처리는, 얼굴 화상에 대하여 상기 화상 보정 레벨에 따라 행해진다. 이로써, 처리 강도, 즉 얼굴을 가늘게 하는 정도를, 사용자가 원하는 레벨로 설정할 수 있고, 촬상 장치(100)의 사용 편리성이 양호하게 된다.

그리고, 본 발명은, 상기 실시예로 한정되지 않고, 본 발명의 취지를 벗어나지 않는 범위에 있어서, 각종 개량 및 설계의 변경을 행해도 된다.

예를 들면, 화상 보정 처리를 행할 것인지의 여부는, 얼굴 검출에 의해 검출된 얼굴의 크기에 따라 결정될 수도 있다. 검출된 얼굴이 소정 범위 내에 없고 소정값보다 커지거나 작아지는 경우, 또는 좌우 눈 사이의 거리가 소정값보다 커지거나 작아지는 경우에는, 의사 윤곽선 L1은 반드시 생성되지 않아도 된다. 이로써, 불필요한 화상 보정이 행해지지 않게 된다.

x축 방향의 이동량은, 검출된 얼굴의 크기에 따라 변화시켜도 된다. 검출된 얼굴이 클수록 x축 방향의 이동량이 커지도록, 조정용 계수 kx의 크기를 변화시켜 식 (5)로 산출되는 x축 계수 gw_x의 크기를 변화시키거나, x축 계수 gw_x에 소정의 계수를 곱하거나 함으로써, x축 방향의 이동량을 변화시켜도 된다. 이에 따라, 화상 사이즈에 대한 얼굴의 크기를 고려하여, 화상 보정 처리를 적절하게 행할 수 있다.

상기 실시예에서는, 얼굴의 특징부로서 눈이 검출되었다. 그러나, 코, 입, 눈썹이 특징부로서 검출될 수도 있다.

상기 실시예에서는, 눈의 위치를 기준으로 하여 의사 윤곽선 L1이 생성되었다. 그러나, 의사 윤곽선 L1은, 얼굴의 특징부이면 어떠한 부위를 기준으로 하여 생성되어도 된다. 예를 들면, 코, 입 등의 위치 중 하나 또는 복수개를 기준으로 해도 된다.

눈에 더하여, 코나 입의 위치를 기준으로 하여 의사 윤곽선 L1을 생성함으로써, 보다 정확하게 의사 윤곽선(11)을 생성할 수 있다. 따라서, 화상 보정 처리를 보다 적절하게 행할 수 있다.

상기 실시예에서는, 눈의 위치를 기준으로 하여 의사 윤곽선 L1이 생성되었다. 그러나, 의사 윤곽선 L1은, 눈의 위치에 더하여 눈의 크기를 기준으로 하여 생성되어도 된다. 즉, 눈 위치 검출부(4b)는 눈의 위치에 더하여 눈의 크기를 산출해도 되고, 산출된 눈의 위치 및 크기에 기초하여 의사 윤곽선 L1이 생성되어도 된다.

이로써, 보다 정확한 의사 윤곽선 L1을 생성할 수 있고, 화상 보정 처리를 보다 적절하게 행할 수 있다.

상기 실시예에서는, 의사 윤곽선 L1의 형상은 타원인 것으로 상정되었다. 그러나, 의사 윤곽선은, 타원형으로 한정되지 않는다. 의사 윤곽선 L1은, 얼굴의 윤곽을 따르는 곡선이라면 어떤 것이라도 된다. 예를 들면, 도 3의 (b)에 나타낸 바와 같이, 식 L2 = ax²+bx+c(a, b, c는 임의의 수)에 의해 표시되는 포물선 L2일 수도 있다. 전술한 실시예와 마찬가지로, 의사 윤곽선 L2를 사용해도, 얼굴 화상에 대하여 적절한 화상 보정을 행할 수 있다.

상기 실시예에서는, 양 눈로부터 아래쪽 부분이 가늘게 되도록 얼굴 화상에 대한 화상 보정이 행해졌다. 그러나, 본 발명은 이에 한정되지 않는다. 예를 들면, 화소의 x 좌표가 양 눈 사이의 중심점의 x 좌표 wcx보다 큰 경우(즉, x>wcx의 경우), 식 (8)로부터 이동량 맵 map(x, y)가 산출될 수도 있다. 또한, 화소의 x 좌표가 양 눈 사이의 중심점의 x 좌표 wcx보다 작은 경우(x<wcx), 식 (7)로부터 이동량 맵 map(x, y)가 산출될 수도 있다. 이와 같이 하여, 양 눈보다 아래쪽의 부분이 넓어지도록 화상 보정이 행해질 수도 있다.

또한, 피사체 인물의 연령이 추정될 수도 있으며, 추정된 연령을 고려하여 의사 윤곽선 L1이 생성될 수도 있다. 예를 들면, 어린이들의 눈의 위치는 어른의 눈의 위치보다 낮기 때문에, 피사체 인물의 연령을 고려함으로써 얼굴의 의사 윤곽선 L1을 보다 정확하게 생성할 수 있다.

또한, 얼굴의 의사 윤곽선 L1은, 피사체 인물의 성별이나 인종을 고려하여 생성될 수도 있다.

라이브 뷰 화상에 보정 처리를 행해도 되고, 보정된 화상을 라이브 뷰 화상으로서 표시하도록 해도 된다. 즉, 이동량 맵 map(x, y)가 생성되고, 순차적으로 입력되는 라이브 뷰 화상이 이동량 맵 map(x, y)에 기초하여 보정된다. 이 보정된 화상이 라이브 뷰 화상으로서 표시되고. 그 동안, 사용자는 조작 입력부(8)를 조작하여 화상 보정의 레벨을 조정할 수 있다. 조정된 화상 보정 레벨에 따른 얼굴 화상이, 라이브 뷰 화상으로서 표시된다. 따라서, 사용자는, 화상을 기록하기 전에, 설정된 화상 보정 레벨로 보정된 얼굴 화상을 확인할 수 있다. 그 후, 조작 입력부(8)의 셔터 버튼이 눌러지면, 기록용 화상의 촬영이 행해지고, 라이브 뷰 화상 표시중에 설정된 화상 보정 레벨로 보정 처리가 실행되고, 보정된 화상이 기억 매체에 기록된다.

또한, 촬상 장치(100)의 전술한 구성은 일례로서 나타낸 것이며, 촬상 장치(100)의 구성은, 예시된 것으로 한정되는 것은 아니다.

촬상 장치(100)는, 화상 처리 장치의 일례로서 설명되고 있다. 그러나, 상이한 화상 처리 장치가 이용될 수도 있다. 촬상 렌즈부(1), 전자 촬상부(2), 및 촬상 제어부(3)는, 반드시 구비되지 않아도 된다. 본 발명은, 얼굴 화상을 취득하고, 상기 얼굴 화상에 있어서의 특징부를 검출하고, 특징부에 기초하여 의사 윤곽선을 생성하고, 상기 의사 윤곽선에 기초하여 얼굴 화상에 보정 처리를 행할 수 있는 어떠한 화상 처리 장치에 적용될 수도 있다. 예를 들면, 본 발명은, 퍼스널 컴퓨터 등의 컴퓨터 시스템에 적용될 수도 있다.

상기 실시예에서는, CPU(11)의 제어 하에서, 화상 처리부(4)[얼굴 검출부(4a), 눈 위치 검출부(4b), 윤곽 생성부(4c), 이동량 맵 생성부(4d)]가 얼굴 검출 기능, 특징부 검출 기능, 윤곽 생성 기능, 화상 보정 기능을 실현하였다. 그러나, 본 발명은 이것으로 한정되지 않는다. 이들 기능은, CPU(11)가 기억 매체에 기억된 소정의 프로그램을 실행함으로써 제공될 수도 있다.

도 1은 본 발명을 적용한 일실시예의 촬상 장치의 개략적인 구성을 나타낸 블록도이다.

도 2는 도 1의 촬상 장치에 의한 눈 위치 검출 처리의 일례를 설명하기 위한 도면이다.

도 3은 도 1의 촬상 장치에 의해 생성된 의사 윤곽선의 일례를 나타낸 도면이다.

도 4는 화상의 보정 처리를 설명하기 위한 도면이다.

도 5는 도 1의 촬상 장치에 의한 보정 처리의 일례를 설명하기 위한 도면이다.

도 6은 도 5의 보정 처리에 있어서의 얼굴 화상의 일부분의 이동량을 모식적으로 나타낸 도면이다.

도 7은 도 1의 촬상 장치에 의한 화상 보정 처리에 관한 동작의 일례를 나타낸 흐름도이다

Claims

화상을 취득하는 화상 취득 수단;

상기 화상 취득 수단에 의해 취득된 화상으로부터, 얼굴의 특징부를 검출하는 특징부 검출 수단;

상기 특징부 검출 수단에 의해 검출된 특징부의 위치에 기초하여, 상기 얼굴의 의사 윤곽선을 생성하는 윤곽 생성 수단; 및

상기 윤곽 생성 수단에 의해 생성된 의사 윤곽선에 기초하여, 상기 화상을 보정하는 보정 수단;

을 포함하는 화상 처리 장치.
제1항에 있어서,

상기 특징부 검출 수단은, 상기 특징부로서 인물의 양 눈의 위치를 검출하고,

상기 윤곽 생성 수단은, 상기 특징부 검출 수단이 검출한 양 눈의 위치에 기초하여, 상기 의사 윤곽선을 생성하는, 화상 처리 장치.
제2항에 있어서,

상기 윤곽 생성 수단은, 상기 양 눈의 위치에 기초하여, 화상에 있어서의 얼굴의 경사각도 및 양 눈 사이의 거리를 산출하고, 상기 경사각도 및 상기 양 눈 사 이의 거리에 기초하여 상기 의사 윤곽선을 생성하는, 화상 처리 장치.
제1항에 있어서,

상기 특징부의 크기를 산출하는 산출 수단을 더 포함하고,

상기 윤곽 생성 수단은, 상기 특징부의 위치 및 크기에 기초하여, 상기 의사 윤곽선을 생성하는, 화상 처리 장치.
제1항에 있어서,

상기 보정 수단은, 상기 의사 윤곽선에 기초하여, 상기 화상을 변형시키는, 화상 처리 장치.
제5항에 있어서,

상기 화상 중의 각 화소에 대하여, 상기 의사 윤곽선과의 거리를 산출하는 거리 산출 수단; 및

상기 각 화소에 대하여, 상기 의사 윤곽선으로부터의 거리에 따라 이동량을 결정하는 이동량 결정 수단

을 더 포함하고,

상기 보정 수단은, 상기 이동량에 따라 상기 화상을 변형시키는, 화상 처리 장치.
제1항에 있어서,

상기 화상을 보정하는 강도를 설정하는 설정 수단을 더 포함하고,

상기 보정 수단은, 상기 설정 수단에 의해 설정된 상기 강도에 따라 상기 화상을 보정하는, 화상 처리 장치.
화상을 취득하는 화상 취득 단계;

상기 화상 취득 단계에 의해 취득된 화상으로부터, 얼굴의 특징부를 검출하는 특징부 검출 단계;

상기 특징부 검출 단계에 의해 검출된 특징부의 위치에 기초하여, 상기 얼굴의 의사 윤곽선을 생성하는 윤곽 생성 단계; 및

상기 윤곽 생성 단계에 의해 생성된 의사 윤곽선에 기초하여, 상기 화상을 보정하는 보정 단계;

를 포함하는 화상 처리 방법.
컴퓨터로,

화상을 취득하는 화상 취득 처리;

상기 화상 취득 처리에 의해 취득된 화상으로부터, 얼굴의 특징부를 검출하는 특징부 검출 처리;

상기 특징부 검출 처리에 의해 검출된 특징부의 위치에 기초하여, 상기 얼굴의 의사 윤곽선을 생성하는 윤곽 생성 처리; 및

상기 윤곽 생성 처리에 의해 생성된 의사 윤곽선에 기초하여, 상기 화상을 보정하는 보정 처리;

를 실행시키는 컴퓨터로 판독 가능한 프로그램이 기록된, 기억 매체