KR100954835B1

KR100954835B1 - 얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템

Info

Publication number: KR100954835B1
Application number: KR1020090071706A
Authority: KR
Inventors: 박흥준; 오철균; 김익동; 박정훈; 송윤경
Original assignee: 주식회사 크라스아이디
Priority date: 2009-08-04
Filing date: 2009-08-04
Publication date: 2010-04-30
Also published as: CN102598058A; WO2011016649A3; US20120121133A1; WO2011016649A2

Abstract

얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템에 관한 것으로서, 본 발명의 일 실시예에 따른 얼굴변화 검출 시스템은 복수의 입력영상을 획득하는 영상 입력부, 상기 복수의 입력영상에 대한 얼굴 영역을 추출하는 얼굴 추출부, 및 상기 얼굴 영역의 변화량을 산출하여 상기 복수의 입력영상에 포함된 소정의 얼굴변화를 감지하는 얼굴변화 추출부를 포함한다.

얼굴 변화, 얼굴변화 감지, 표정 변화

Description

얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템{System for extracting the face change of same person, and intelligent system using it}

본 발명은 얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템에 관한 것으로, 더욱 상세하게는 실시간으로 얼굴변화를 검출하는 얼굴변화 검출 시스템 및 이를 이용하여 소정의 기기를 제어하는 지능형 시스템에 관한 것이다.

정보화 사회가 발달함에 따라 사람을 식별하기 위한 신분 확인 기술이 중요해지고 있으며, 컴퓨터를 이용한 개인의 정보 보호 및 신분 확인을 위해 인체 특징을 이용하는 생체 인식 기술이 연구되고 있다. 생체 인식 기술 중에서도 얼굴 인식 기술은 지문 인식, 홍채 인식 등 사용자의 특별한 동작이나 행위를 요구하는 인식 기술과 달리 비접촉식으로 사용자의 신분을 확인할 수 있기에 편리할 수 있다.

얼굴 인식 기술은 멀티미디어 데이터베이스 검색 핵심 기술 중의 하나로 얼굴 정보를 이용한 동영상의 요약, 이미지 검색, 보안, 감시 시스템 등에 이용될 수 있다.

이러한 얼굴 인식에 대하여는 주로 인증 및 보안에 관심이 집중되어 있으며, 얼굴 인식을 이용한 어플리케이션에 대한 연구는 부족한 실정이다. 이와 함께, 얼 굴 인식에는 다양한 각도에서의 촬영된 영상이나 조명 등에 따라 인식 결과에 민감하게 반응하여 고사양, 고성능의 인식 시스템이 요구될 수 있다.

따라서, 얼굴 인식을 이용한 어플리케이션에 집중하면서 실시간 상으로 구현 가능한 시스템이 필요하다.

본 발명이 해결하고자 하는 일 과제는 복수의 영상에서 얼굴 변화를 검출하는데 소요되는 자원을 줄일 수 있는 얼굴 변화 검출 시스템을 제공하는 데 있다.

이와 함께, 본 발명이 해결하고자 하는 다른 과제는 검출된 얼굴 변화에 따라 소정의 기기를 동작시키는 지능형 시스템을 제공하는 데 있다.

본 발명의 해결하고자 하는 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

상기 해결하고자 하는 과제를 달성하기 위하여 본 발명의 얼굴 변화 검출 시스템의 일 양태(Aspect)는 복수의 입력영상을 획득하는 영상 입력부; 상기 복수의 입력영상에 대한 얼굴 영역을 추출하는 얼굴 추출부; 및 상기 얼굴 영역의 변화량을 산출하여 상기 복수의 입력영상에 포함된 소정의 얼굴변화를 감지하는 얼굴변화 추출부를 포함한다.

상기 해결하고자 하는 과제를 달성하기 위하여 본 발명의 얼굴 변화 검출 시스템의 다른 양태(Aspect)는 제1 및 제2 입력영상을 획득하는 영상 입력부; 상기 제1 입력영상에 대한 얼굴 영역을 제1 메인 프레임으로 추출하는 얼굴 추출부; 상기 제2 입력영상에 대한 얼굴 영역을 제1 메인 프레임을 추적하여 제2 메인 프레임으로 추출하는 얼굴영역 트랙킹부; 및 상기 제1 메인 프레임 및 상기 제2 메인 프 레임의 차이로부터 산출된 제1 변화량을 이용하여 얼굴변화 여부를 검출하고, 상기 제1 및 제2 메인 프레임 내의 눈 또는 입 영역을 포함하는 서브 프레임의 차이로부터 산출된 제2 변화량을 이용하여 상기 얼굴변화의 양태를 결정하는 얼굴변화 추출부를 포함한다.

상기 해결하고자 하는 다른 과제를 달성하기 위하여 본 발명의 얼굴변화 감지에 따른 지능형 시스템의 일 양태(Aspect)는 복수의 입력영상을 획득하는 카메라; 상기 복수의 입력영상을 처리하여 얼굴변화의 양태를 감지하는 얼굴변화 감지부; 상기 감지된 얼굴변화의 양태에 따라 피제어 기기를 제어하는 대응액션을 생성하는 대응액션 생성부; 및 상기 생성된 대응액션을 상기 피제어 기기로 송신하는 대응액션 송신부를 포함한다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 제시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

이하, 본 발명의 실시예들에 의하여 얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템을 설명하기 위한 블록도 또는 처리 흐름도에 대한 도면들을 참고하여 본 발명에 대해 설명하도록 한다. 이 때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.

또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행 예들에서는 블록들에서 언급된 기능들이 순서를 벗어나 서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.

본 실시예에서 사용되는 '~부' 또는 '모듈'이라는 용어는 소프트웨어 또는 FPGA또는 ASIC과 같은 하드웨어 구성요소를 의미하며, '~부' 또는 '모듈'은 어떤 역할들을 수행한다. 그렇지만 '~부' 또는 '모듈'은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부' 또는 '모듈'은 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부' 또는 '모듈'은 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함할 수 있다. 구성요소들과 '~부' 또는 '모듈'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부' 또는 '모듈'들로 결합되거나 추가적인 구성요소들과 '~부' 또는 '모듈'들로 더 분리될 수 있다.

이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템의 블록도를 보여주며, 도 2는 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템에서의 메인 프레 임 및 서브 프레임을 보여준다.

도 1 및 2를 참조하면, 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템(100)은 영상 획득부(120), 얼굴 추출부(130), 얼굴영역 트랙킹부(150), 및 얼굴변화 추출부(170)를 포함할 수 있다.

영상 획득부(120)는 외부로부터 복수의 입력영상을 획득한다. 영상 획득부(120)는 영상 입력 센서에 의하여 복수의 입력영상을 획득하거나 또는 소정의 시간 동안 연속적으로 촬상하는 동영상 전부 또는 일부의 영상들을 복수로 획득할 수 있다.

영상 획득부(120)는 소정의 시간 간격 동안 복수의 입력영상을 획득할 수 있다. 예를 들어, 10초당 적어도 한 번 이상 눈 깜박임이 이루어지는 것으로 예상되는 경우에는 영상 획득부(120)는 적어도 10초 동안 연속된 복수의 입력영상을 획득할 수 있다. 이와 함께, 본 발명의 얼굴 인식 시스템(100)에서는 사용자로 하여금 의도적으로 소정의 얼굴 변화를 유도하거나 지시하는 효과음 또는 명령음을 생성하여 사용자에게 제공할 수 있다. 사용자가 의도적으로 눈을 깜박이거나 입을 여닫는 경우 등의 얼굴 변화를 일으키거나 얼굴 변화가 일어나는 경우에, 영상 획득부(120)는 복수의 입력영상을 획득할 수 있다.

한편, 영상 입력 센서에 의하여 입력영상을 획득하는 경우에는 소정의 렌즈를 통하여 입사되는 피사체의 영상 신호를 전기적 신호로 변환하여 입력영상을 획득할 수 있다. 여기서, 영상 입력 센서는 CCD(Charge Coupled Device, CCD), CMOS, 기타 당업계에 알려진 영상 획득 수단을 포함할 수 있다. 이와 함께, 영상 입력 센 서에 의해 획득된 전기적인 신호를 디지털 신호로 변환하는 아날로그/디지털 변환기 및 아날로그/디지털 변환기에 의해 변환된 디지털 신호를 입력 받아 영상 신호를 처리하는 DSP(Digital Signal Processor, DSP) 등에 의하여 소정의 입력영상을 획득할 수 있다.

또한, 영상 획득부(120)는 획득된 입력영상을 단일 채널의 영상으로 변환할 수 있다. 예를 들어, 입력영상을 그레이(Gray) 스케일로 변경할 수 있다. 또는 입력영상이 'RGB' 채널의 다채널 영상인 경우에 이를 하나의 채널 값으로 변경할 수도 있다. 따라서, 입력영상에 대하여 하나의 채널에서의 인텐서티(Intensity) 값으로 변환함으로써, 입력영상에 대한 밝기 분포를 용이하게 나타낼 수 있다.

얼굴 추출부(130)는 복수의 입력영상으로부터 각 얼굴영상으로 추출하는 역할을 한다. 얼굴 추출부(130)는 각각의 입력영상으로부터 대략적인 얼굴을 검출 후에 얼굴 내의 특정 구성요소인 눈, 코, 입 등을 추출하고, 이를 바탕으로 소정의 얼굴 영역을 메인 프레임(main frame; 300)으로 추출할 수 있다. 예를 들어, 두 눈의 위치가 검출되었다면, 두 눈의 거리를 구할 수 있다. 얼굴 추출부(130)는 두 눈 사이의 거리에 기초하여 입력영상에서 얼굴 영역을 얼굴영상으로 추출할 수도 있으며, 이로써 입력영상의 배경 혹은 사람의 머리 스타일의 변화 등에 대한 영향을 줄일 수 있다. 얼굴 추출부(130)는 추출된 얼굴 영역 정보를 이용하여 얼굴 영역의 크기를 정규화 시킬 수 있다. 얼굴 영역의 크기를 정규화시킴으로써 얼굴 영역에서의 두 눈과의 거리, 눈과 코 사이의 거리 등의 고유한 특징을 동일한 스케일 레벨로 산출할 수 있다.

이와 함께, 얼굴 추출부(130)는 얼굴 내의 특정 구성요소인 눈 및 입을 각각 포함하는 영역을 서브 프레임으로 지정하여 추출할 수 있다. 예를 들어, 눈을 포함하는 영역을 제1 서브 프레임(sub-frame; 310)으로 지정하며, 입을 포함하는 역역을 제2 서브 프레임(320)으로 지정할 수 있다.

얼굴영역 트랙킹부(150)는 복수의 입력영상에 대하여 메인 프레임(300)을 추적하는 역할을 한다. 얼굴영역 트랙킹부(150)는 동일한 인물에 대하여 연속 또는 불연속적으로 획득한 입력영상에 대하여, 입력영상 전체에 대한 처리를 하지 않고 메인 프레임(300)을 추적(tracking)하여 처리시간을 단축시킬 수 있다. 동일한 인물의 얼굴영역을 추출하여 얼굴변화를 감지하는 경우에는 매 입력영상마다의 얼굴영역을 추출하는 것은 시스템에 부하를 줄 수 있다. 따라서, 본 발명의 일 실시예에서는 매 입력영상에 대하여 얼굴영역을 추출하지 않고 얼굴영역으로 판단되는 메인 프레임(300)을 추적함으로써 매 입력영상에 대한 영상처리에 대한 부담을 줄일 수 있다.

얼굴영역을 추적하는 일례로서, 처음 얼굴영역을 추출한 제1 입력영상에서 메인 프레임(300)에서의 얼굴의 테두리를 추출한다. 이후 얼굴변화를 감지하려는 후속 입력영상에서의 메인 프레임(300)에서 얼굴의 테두리를 추출하여 해당 얼굴 테두리 영역의 이동을 감지한다. 이동된 얼굴 테두리 영역만큼 메인 프레임(300)의 위치를 후속 입력영상에서 이동시킴으로써, 얼굴영역을 추적할 수 있다.

얼굴영역을 추적하는 다른 예로서, 처음 얼굴영역을 추출한 제1 입력영상에서 메인 프레임(300)에서의 색상 정보를 추출한다. 이후 얼굴변화를 감지하려는 후 속 입력영상에서의 메인 프레임(300)에서 다시 색상 정보를 추출함으로써, 제1 입력 영상과 동일한 색상 정보를 가지는 픽셀 그룹들이 후속 입력영상에서 이동된 위치를 파악한다. 따라서, 색상 정보의 이동된 위치만큼 후속 입력영상에서의 메인 프레임(300)을 이동시킴으로써, 연속적으로 획득된 복수의 입력영상 내에서의 얼굴영역을 추적할 수 있다.

상기와 같이 본 발명의 일 실시예에서는 복수의 입력영상에 대하여 매번 얼굴영역을 추출하는 수고 없이 제1 입력영상에 대한 얼굴영역을 메인 프레임(300)으로 추출한 후에 후속되는 입력영상에 대하여는 메인 프레임(300)을 추적하는 기법에 의하여 얼굴영역을 계속적으로 추출할 수 있다.

얼굴변화 추출부(170)는 얼굴영역에서의 변화량을 이용하여 얼굴변화를 추출하는 역할을 한다. 얼굴변화 추출부(170)는 추적하는 메인 프레임(300)에서의 제1 변화량을 추출하여 얼굴변화의 존부를 판단할 수 있다. 이와 함께, 메인 프레임 내에서의 서브 프레임에서의 제2 변화량을 추출하여 얼굴변화의 구체적인 양태를 추출할 수 있다. 여기서, 얼굴변화의 구체적인 양태는 얼굴변화에 의해 구분되는 각각의 목록으로서, 예를 들어 눈 깜박임, 입 여닫음, 얼굴 좌우 회전, 얼굴 상하 회전 등의 다양한 양태로 발현될 수 있다.

상기와 같이, 얼굴변화 추출부(170)는 제1 변화량에 의하여 입력영상에 대한 얼굴변화가 존부를 감지하고, 제2 변화량을 판단하여 실질적인 얼굴변화의 양태를 감지할 수 있다.

도 3은 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템에서 얼굴변화 추 출부의 블록도를 보여준다. 도 3을 참조하면, 얼굴변화 추출부(170)는 제1 변화량 산출부(210) 및 제2 변화량 산출부(220)를 포함할 수 있다.

제1 변화량 산출부(210)는 메인 프레임에서의 입력영상의 얼굴변화에 대한 제1 변화량을 계산하여 제1 임계치와 비교하여 얼굴영역의 변화를 일차적으로 감지한다.

본 발명의 일 실시예에서는 처음 얼굴영역을 추출한 제1 입력영상에서 메인 프레임(300)을 저장한다. 이후 얼굴변화를 감지하려는 후속 입력영상들에서의 메인 프레임(300)을 추적하면서 각각 저장한다. 예를 들어, 후속 입력영상들을 각각 제2 입력영상, 제3 입력영상, 제4 입력영상 및 제5 입력영상이라고 가정할 수 있다.

제1 변화량 산출부(210)는 제2 입력영상의 제2 메인 프레임에 대하여 제1 입력영상의 제1 메인 프레임과의 차이를 연산한다. 이와 함께, 제3 입력영상의 제3 메인 프레임에 대하여 제1 입력영상의 제1 메인 프레임과의 차이를 연산한다. 동일하게 제4 입력영상 및 제5 입력영상에 대하여도 동일한 연산을 수행한다. 여기서, 차이는 제1 메인 프레임 및 제2 메인 프레임내에서의 영상의 차이로 정의되며, 이러한 영상의 차이는 메인 프레임에서의 동일 위치에서의 색상의 차이 또는 그레이 스케일(Gray-scale)에서의 색상 차이를 합산하거나 평균화함에 의해서 제1 변화량으로 산출될 수 있다.

제1 변화량 산출부(210)는 각각의 연산에 의한 결과를 제1 결과치, 제2 결과치, ..., 제5 결과치로 산출하고, 각 변화량의 크기가 소정의 제1 임계치보다 큰 경우에는 해당 입력영상의 얼굴변화가 있는 것으로 판단할 수 있다. 예를 들어, 제 1 결과치 내지 제4 결과치의 크기가 제1 임계지 보다 작은 경우에는 얼굴변화가 없는 것으로 판단하고, 제5 결과치의 크기가 제1 임계치 이상인 경우에는 얼굴변화가 있는 것으로 판단할 수 있다.

한편, 제1 변화량 산출부(210)는 소정의 시간 단위로 복수의 입력영상을 획득하고, 각 변화량의 크기 중에서 가장 결과치가 높은 입력영상을 선택할 수 있다. 이는, 사용자가 눈을 깜박이는 중이거나 입을 여닫는 중인 경우에 변화량의 크기가 가장 큰 입력영상 만을 선택하여 비교하도록 하기 위함이다.

제1 변화량 산출부(210)는 얼굴변화가 있는 것으로 판단된 경우에는 해당 입력영상 또는 해당 입력영상의 메인 프레임을 제2 변화량 산출부(220)에 전달한다.

제2 변화량 산출부(220)는 메인 프레임(300) 내에 있는 서브 프레임(310, 320)의 변화량을 제2 변화량으로 계산하여 얼굴변화의 양태를 판단한다. 제2 변화량 산출부(220)는 깍박임 검출부(250), 여닫음 검출부(260), 좌우회전 검출부(270) 및 상하회전 검출부(280)를 포함할 수 있다. 여기서, 제2 변화량은 제1 입력영상 및 얼굴변화를 감지하려는 후속 입력영상들에서의 서브 프레임의의 차이로부터 도출되는 크기로서, 예를 들어 제1 입력영상의 서브 프레임 및 후속 입력영상의 서브 프레임에서의 동일 위치에서의 색상의 차이에 의해 산출되거나 또는 서브 프레임의 이동에 따른 위치 변화량에 의해 산출될 수 있다.

제2 변화량 산출부(220)는 깍박임 검출부(250)에 의하여 눈 깍박임 여부를 판별하고, 여닫음 검출부(260)에 의하여 입 여닫음 여부를 판별하고, 좌우회전 검출부(270)에 의하여 얼굴의 좌우 회전여부를 판별하고, 상하회전 검출부(280)를 통 하여 얼굴의 상하 회전여부를 판별한다.

상기와 같이, 본 발명의 일 실시예에서는 제1 변화량에 의하여 얼굴변화가 존재하는지 여부를 일차적으로 판단하고, 제2 변화량에 의하여 얼굴변화의 구체적인 양태를 판별함으로써, 복수의 입력영상 전체에 대하여 얼굴변화를 감지하지 않더라도 제1 변화량의 크기에 의해 선택된 입력영상에 대하여 서브 프레임에 대한 제2 변화량을 감지하여 얼굴변화의 양태를 판별하여 연산 부담을 줄여 실시간 및 저사양에서의 얼굴변화의 감지를 할 수 있다.

도 4는 본 발명의 일 실시예에 의하여 추출된 눈 영역의 서브 프레임에서의 눈 깜박임의 일례를 보여준다.

도 4를 참조하면, 얼굴 추출부(130)는 제1 입력영상(401)에서의 추출된 눈 영역인 제1 서브 프레임(410)으로 추출할 수 있다. 이와 함께, 제1 변화량에 의하여 얼굴변화가 감지된 후속 입력영상(402)에서의 제1 서브 프레임(411)이 추출될 수 있다. 추출된 제1 서브 프레임(410, 411)은 아이-라인(440) 및/또는 눈동자(430)를 포함할 수 있다.

따라서, 얼굴변화 검출부(170)의 깍박임 검출부(250)는 눈동자(430)의 크기 변화 또는 아이-라인(440)의 변화를 이용하여 눈 깜박임을 검출할 수 있다.

예를 들어, 눈동자(430)의 크기의 관점에서 살펴보면, 눈을 깜박이는 경우에는 노출되는 눈동자(430)가 제1 입력영상의 제1 서브 프레임(410)에 비하여 후속 입력영상의 제1 서브 프레임(411)의 눈동자(431)이 현저히 작아짐을 알 수 있다.

또는, 아이 라인(440)의 관점에서 살펴보면, 눈을 깜박이는 경우에는 아이- 라인의 상부(442) 및 하부(444)가 접하게 된 후에 다시 일정한 거리를 형성하며 눈 윤곽(450)을 형성할 수 있다. 따라서, 아이 라인의 상부(442) 및 하부(444)의 거리가 일정거리 이하로 낮아지면 눈 깜박임이 있는 것으로 판단하거나, 또는 최소 거리 및 최대 거리의 비가 일정값 이하인 경우에 눈 깜박임이 있는 것으로 판단할 수 있다. 따라서, 제1 입력영상의 제1 서브 프레임(410)의 아이 라인 상하부(442, 444)의 거리에 비하여 후속 입력영상의 제1 서브 프레임(411)의 아이 라인 상하부(442, 444)의 거리가 현저히 작아짐을 알 수 있다.

상기와 같이, 깍박임 검출부(250)는 눈동자(430)의 크기 변화량 또는 아이 라인(440)의 변화량을 검출하여 얼굴변화의 구체적인 양태 중 하나인 눈 깜박임을 검출할 수 있다.

도 5는 본 발명의 일 실시예에 의하여 추출된 입 영역의 서브 프레임에서의 입 여닫음의 일례를 보여준다.

도 5를 참조하면, 얼굴 추출부(130)는 제1 입력영상(401)에서의 추출된 입 영역인 제2 서브 프레임(480)으로 추출할 수 있다. 이와 함께, 제1 변화량에 의하여 얼굴변화가 감지된 후속 입력영상(402)에서의 제2 서브 프레임(481)이 추출될 수 있다.

얼굴변화 검출부(170)의 여닫음 검출부(260)는 제2 서브 프레임(480, 481)에서 마우스-라인(470)을 추출하여, 마우스-라인의 상부(472) 및 하부(474)의 변화를 이용하여 입 여닫음 여부를 검출할 수 있다.

예를 들어, 마우스-라인의 상부(472) 및 하부(474)의 간격이 소정 간격 이상 인 경우에는 열린 입으로 판단하고, 마우스-라인의 상부(472) 및 하부(474)의 간격이 소정 간격 미만인 경우에는 닫힌 입으로 판단하여, 입 여닫음을 검출할 수 있다.

또는, 여닫음 검출부(270)는 마우스-라인(470)에 의해 형성되는 윤곽선(contour; 477) 내부면(478)의 면적을 이용하여 입 여닫음을 검출할 수도 있다. 입이 닫힌 경우에는 마우스-라인의 상하부(472, 474)가 접해 있기에, 윤곽선 면적이 영이며, 입이 열린 상태에서는 윤곽선(477)에 의해 닫힌 영역이 생성되어 소정의 면적을 가질 수 있다. 따라서, 최소 면적 및 최대 면적의 비가 임계치 이하거나, 또는 최대 면적이 최소 면적에 비하여 일정량 이상인 경우에 입이 닫히거나 열리는 것으로 판단할 수 있다.

도 6a은 본 발명의 일 실시예에 의하여 추출된 서브 프레임의 이동에 의한 상하 회전을 판별하는 예를 보여주며, 도 6b는 본 발명의 일 실시예에 의하여 추출된 서브 프레임의 이동에 의한 좌우 회전을 판별하는 예를 보여준다.

도 6a을 참조하면, 제1 입력영상 및 제1 변화량에 의하여 얼굴변화가 감지된 후속 입력영상에서의 제1 서브 프레임 및 제2 서브 프레임의 이동량을 제2 변화량으로 할 수 있다.

예를 들어, 제1 입력영상(401)의 제1 서브 프레임(310)을 기준으로 얼굴변화가 감지된 후속 입력영상(402)에서의 제1 서브 프레임(310)이 상방향으로 이동하고, 제2 서브 프레임(320) 역시 상방향으로 이동한 경우에는 얼굴이 상향으로 회전한 것으로 판단할 수 있다.

또는, 제1 입력영상(401)의 제1 서브 프레임(310)을 기준으로 얼굴변화가 감지된 후속 입력영상(402)에서의 제1 서브 프레임(310)이 하방향으로 이동하고, 제2 서브 프레임(320) 역시 하방향으로 이동한 경우에는 얼굴이 하향으로 회전한 것으로 판단할 수 있다.

도 6b를 참조하면, 도 6a와 마찬가지로 제1 서브 프레임(310) 및/또는 제2 서브 프레임(320)의 이동량을 산출하여 좌우로 이동하는 경우에 얼굴이 좌우로 회전하는 것으로 판단할 수 있다.

상기와 같이, 본 발명의 일 실시예에 따르면 서브 프레임(310, 320)의 변화량을 산출하여 얼굴변화의 구체적인 양태를 판별함으로써, 얼굴변화를 용이하게 판단할 수 있다.

도 7은 본 발명의 일 실시예에 따른 얼굴 변화에 감지에 따른 지능형 시스템의 블록도를 보여준다. 도 7을 참조하면, 본 발명의 일 실시예에 따른 얼굴 변화에 감지에 따른 지능형 시스템(700)은 카메라(710), 얼굴변화 감지부(730), 대응액션 생성부(750) 및 대응액션 송신부(770)를 포함할 수 있다.

카메라(710)는 소정의 얼굴을 포함하는 복수의 입력영상을 획득한다. 입력영상 획득을 위한 카메라(710)에는 제한이 없으며, 예를 들어 일반 카메라, 적외선 카메라 등에 의하여 입력영상을 획득할 수 있다.

얼굴변화 감지부(730)는 복수의 입력영상에서의 얼굴 변화를 감지하는 역할을 한다. 얼굴변화 감지부(730)는 복수의 입력영상에서의 추출된 얼굴 영역에서의 눈 깜박임, 입 여닫음 또는 얼굴의 상하/좌우 움직임 등의 다양한 얼굴변화를 감지 할 수 있다.

얼굴변화 감지부(730)는 복수의 입력영상에 대하여 메인 프레임을 추적하면서 제1 변화량의 크기를 비교하여 얼굴변화 여부를 판단한다. 이에, 얼굴변화 감지부(730)는 제1 입력영상 및 제1 변화량에 의하여 얼굴변화가 감지된 후속 입력영상에서의 서브 프레임의 변화량인 제2 변화량을 이용하여 얼굴변화가 감지된 후속 입력영상에서의 얼굴변화의 구체적인 양태를 판단한다.

대응액션 생성부(750)는 감지된 얼굴변화의 양태(810)에 따라 대응액션(820)을 생성하는 역할을 한다. 대응액션 생성부(750)는 감지된 얼굴 변화에 대응되는 대응액션을 룩업 테이블(Look-up table)에서 검색하여 생성할 수 있다.

예를 들어, 소정의 얼굴변화에 따른 룩업 테이블을 나타내는 도 8에서와 같이, 각 얼굴변화에 따른 대응액션을 지정된 테이블을 저장한 상태에서 소정의 얼굴변화의 양태가 감지되면 해당 룩업 테이블을 검색하여 대응액션을 생성할 수 있다.

대응액션 송신부(770)는 생성된 대응액션을 제어하려는 피제어 기기에 명령어로 송신하는 역할을 한다. 대응액션 송신부(770)는 제어하려는 각 피제어 기기에 적합한 명령어를 생성하여 송신할 수 있다. 여기서, 소정의 피제어 기기는 다양한 전자 제품(예를 들어, 휴대폰, TV, 냉장고, 에어컨, 캠코더 등)뿐만 아니라 PMP, MP3 등에서 카메라가 부착된 전자기기를 포함할 수 있다.

한편, 본 발명의 일 실시예에 따른 얼굴변화 감지에 따른 지능형 시스템은 다양한 기기에 임베디드 시스템으로 장착되어, 각 피제어 기기와 일체적으로 결합하여 동작할 수 있다. 따라서, 각 피제어 기기에 대하여 얼굴변화에 따른 소정의 인터페이스 기능을 수행하여, 마우스 또는 터치 패드 등의 인터페이스 없이도 간편하게 얼굴변화에 따라 각 기기에 소정의 동작을 수행하도록 할 수 있다.

이상과 첨부된 도면을 참조하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.

도 1은 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템의 블록도이다.

도 2는 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템에서의 메인 프레임 및 서브 프레임을 보여주는 도면이다.

도 3은 본 발명의 일 실시예에 따른 얼굴 변화 검출 시스템에서 얼굴변화 추출부의 블록도이다.

도 4는 본 발명의 일 실시예에 의하여 추출된 눈 영역의 서브 프레임에서의 눈 깜박임의 일례를 보여주는 도면이다.

도 5는 본 발명의 일 실시예에 의하여 추출된 입 영역의 서브 프레임에서의 입 여닫음의 일례를 보여주는 도면이다.

도 6a은 본 발명의 일 실시예에 의하여 추출된 서브 프레임의 이동에 의한 상하 회전을 판별하는 예를 보여주는 도면이다.

도 6b는 본 발명의 일 실시예에 의하여 추출된 서브 프레임의 이동에 의한 좌우 회전을 판별하는 예를 보여주는 도면이다.

도 7은 본 발명의 일 실시예에 따른 얼굴 변화에 감지에 따른 지능형 시스템의 블록도이다.

도 8은 소정의 얼굴변화에 따른 대응액션을 나타내는 룩업 테이블을 보여주는 도면이다.

<도면의 주요 부분에 관한 부호의 설명>

120: 영상 획득부 130: 얼굴 추출부

150: 얼굴영역 트랙킹부 170: 얼굴변화 추출부

210: 제1 변화량 산출부 220: 제2 변화량 산출부

300: 메인 프레임 310, 320: 서브 프레임

401: 제1 입력영상 402: 제2 입력영상

710: 카메라 730: 얼굴변화 감지부

750: 대응액션 생성부 770: 대응액션 송신부

Claims

삭제
삭제
삭제
삭제
삭제
제1 및 제2 입력영상을 획득하는 영상 입력부;

상기 제1 입력영상에 대한 얼굴 영역을 제1 메인 프레임으로 추출하는 얼굴 추출부;

상기 제2 입력영상에 대한 얼굴 영역을 제1 메인 프레임을 추적하여 제2 메인 프레임으로 추출하는 얼굴영역 트랙킹부; 및

상기 제1 메인 프레임 및 상기 제2 메인 프레임의 차이로부터 산출된 제1 변화량을 이용하여 얼굴변화 존재를 검출하고, 상기 얼굴변화 존재가 검출된 경우에 상기 제1 및 제2 메인 프레임 내의 눈 또는 입 영역을 포함하는 서브 프레임의 차이로부터 산출된 제2 변화량을 이용하여 얼굴변화의 양태를 결정하는 얼굴변화 추출부를 포함하는, 얼굴변화 감지에 따른 지능형 시스템.
제 6항에 있어서,

상기 결정된 얼굴변화의 양태에 따라 피제어 기기를 제어하는 대응액션을 생성하는 대응액션 생성부; 및

상기 생성된 대응액션을 상기 피제어 기기로 송신하는 대응액션 송신부를 더 포함하는, 얼굴변화 감지에 따른 지능형 시스템.
제 6항에 있어서, 상기 얼굴변화 추출부는

상기 제1 변화량의 크기가 제1 임계치 이상인 경우에 상기 얼굴변화 존재를 검출하는, 얼굴변화 감지에 따른 지능형 시스템.
제 8항에 있어서, 상기 얼굴변화 추출부는

상기 제2 변화량을 이용하여 눈 깜박임, 입 여닫음, 얼굴의 좌우 회전 및 얼굴의 상하 회전을 판별하는, 얼굴변화 감지에 따른 지능형 시스템.
제 7항에 있어서, 상기 피제어 기기는

디지털 TV(DTV), 로봇, PC, PMP, MP3 및 상기 영상 입력부를 부착한 전자기기 중 하나인, 얼굴변화 감지에 따른 지능형 시스템.