KR101191605B1 - 비접촉식 인터랙션 시스템 및 방법 - Google Patents

비접촉식 인터랙션 시스템 및 방법 Download PDF

Info

Publication number
KR101191605B1
KR101191605B1 KR1020110002384A KR20110002384A KR101191605B1 KR 101191605 B1 KR101191605 B1 KR 101191605B1 KR 1020110002384 A KR1020110002384 A KR 1020110002384A KR 20110002384 A KR20110002384 A KR 20110002384A KR 101191605 B1 KR101191605 B1 KR 101191605B1
Authority
KR
South Korea
Prior art keywords
infrared
vision module
camera
visible light
image
Prior art date
Application number
KR1020110002384A
Other languages
English (en)
Other versions
KR20120080914A (ko
Inventor
박종일
엄태영
Original Assignee
한양대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한양대학교 산학협력단 filed Critical 한양대학교 산학협력단
Priority to KR1020110002384A priority Critical patent/KR101191605B1/ko
Publication of KR20120080914A publication Critical patent/KR20120080914A/ko
Application granted granted Critical
Publication of KR101191605B1 publication Critical patent/KR101191605B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

사람의 직접적인 터치없이 저가로 사람과 인터랙션을 구현할 수 있는 인터랙션 시스템 및 방법이 개시된다. 상기 인터랙션 방법은 비전 모듈의 전면에 위치한 대상의 가시광 이미지 및 적외선 이미지를 획득하는 단계, 상기 획득된 가시광 이미지에서 배경을 제거하여 전면 영역을 검출하는 단계, 상기 전면 영역에서 인간의 피부만을 표현한 스킨 영역을 검출하는 단계, 상기 적외선 이미지로부터 깊이 정보를 검출하는 단계, 상기 검출된 깊이 정보를 상기 스킨 영역에 반영하여 상기 비전 모듈의 가장 전면에 위치한 인간을 추적하여 인간-관심 영역을 검출하는 단계 및 상기 인간-관심 영역에서 추적하고자 하는 신체 부위를 분류하는 단계를 포함한다. 여기서, 상기 깊이 정보에서의 깊이는 상기 비전 모듈의 전면의 대상들로부터 반사된 적외선의 세기에 반비례한다.

Description

비접촉식 인터랙션 시스템 및 방법{INTERACTION SYSTEM AND METHOD OF DETECTING HUMAN MOTION WITHOUT HUMAN'S TOUCH}
본 발명은 사람의 직접적인 터치없이도 사람의 움직임을 감지하고 사람과 인터랙션할 수 있는 인터랙션 시스템 및 방법에 관한 것이다.
인터랙션 시스템은 사람과 상호작용할 수 있는 시스템으로, 예를 들어 사람의 움직임을 영상에 반영한다.
현재, 인터랙션 시스템은 마커를 이용하는 방법, 사람이 직접 터치하는 방법, 컨트롤러와 같은 특수 장비를 이용하는 방법 등을 사용한다.
그러나, 마커를 이용하는 인터랙션 시스템은 상기 마커를 신체에 부착해야 하는 불편함이 있고, 사람이 직접 터치하는 인터랙션 시스템은 사람이 직접 터치해야하므로 사용이 불편하고 시스템을 설치하는 공간의 제약이 많다.
또한, 상기 특수 장비를 이용하는 인터랙션 시스템은 고가의 장비를 사용해야 하므로, 상기 인터랙션 시스템의 구축 비용이 증가된다.
본 발명의 목적은 사람의 직접적인 터치없이 저가로 사람과 인터랙션을 구현할 수 있는 인터랙션 시스템 및 방법을 제공하는 것이다.
상기한 바와 같은 목적을 달성하기 위하여, 본 발명의 일 실시예에 따른 인터랙션 시스템에 사용되는 비전 모듈은 미러; 상기 미러를 투과하여 진행하는 적외선을 감지하여 적외선 이미지를 획득하는 적외선 카메라; 상기 미러에 의해 반사된 가시광선을 감지하여 가시광 이미지를 획득하는 가시광 카메라; 및 외부로 적외선을 출력하는 적어도 하나의 적외선 발광 소자를 포함한다. 여기서, 상기 출력된 적외선은 상기 비전 모듈의 앞에 위치한 대상에 의해 반사되고, 상기 적외선 카메라는 상기 대상에 의해 반사된 적외선을 감지하여 상기 적외선 이미지를 획득하며, 상기 적외선 발광 소자의 세기는 상기 비전 모듈로부터 인터랙션하고자 하는 위치까지의 거리에 따라 조정된다.
본 발명의 다른 실시예에 따른 인터랙션 시스템에 사용되는 비전 모듈은 미러; 상기 미러를 투과하여 진행하는 적외선을 감지하여 적외선 이미지를 획득하는 적외선 카메라; 상기 미러에 의해 반사된 가시광선을 감지하여 가시광 이미지를 획득하는 가시광 카메라; 외부로 적외선을 출력하는 적어도 하나의 적외선 발광 소자; 및 상기 비전 모듈의 전면에 설치된 전면 렌즈를 포함한다. 여기서, 상기 출력된 적외선은 상기 비전 모듈의 전면에 위치한 대상에 의해 반사되고, 상기 반사된 적외선은 상기 전면 렌즈 및 상기 미러를 순차적으로 투과하여 상기 적외선 카메라에 의해 감지되고, 상기 가시광선은 상기 전면 렌즈를 투과한 후 상기 미러에 의해 반사되어 상기 가시광 카메라에 의해 감지된다.
본 발명의 일 실시예에 따른 인터랙션 방법은 비전 모듈의 전면에 위치한 대상의 가시광 이미지 및 적외선 이미지를 획득하는 단계; 상기 획득된 가시광 이미지에서 배경을 제거하여 전면 영역을 검출하는 단계; 상기 전면 영역에서 인간의 피부만을 표현한 스킨 영역을 검출하는 단계; 상기 적외선 이미지로부터 깊이 정보를 검출하는 단계; 상기 검출된 깊이 정보를 상기 스킨 영역에 반영하여 상기 비전 모듈의 가장 전면에 위치한 인간을 추적하여 인간-관심 영역을 검출하는 단계; 및 상기 인간-관심 영역에서 추적하고자 하는 신체 부위를 분류하는 단계를 포함한다. 여기서, 상기 깊이 정보에서의 깊이는 상기 비전 모듈의 전면의 대상들로부터 반사된 적외선의 세기에 반비례한다.
본 발명에 따른 인터랙션 시스템 및 방법은 가시광선을 감지할 수 있는 하나의 웹 카메라와 적외선을 감지할 수 있는 하나의 웹 카메라를 사용하여 사람의 움직임을 감지하므로, 사람의 터치없이도 인터랙션을 구현할 수 있어서 편리성이 향상되고 저가의 웹 카메라들을 사용함에 따라 상기 시스템의 구축 비용이 감소할 수 있다.
또한, 상기 인터랙션 시스템에 사용되는 비전 모듈이 디스플레이 소자의 상단 등에 간단히 설치될 수 있고 사람의 직접적인 터치없이도 인터랙션이 가능하므로, 설치 공간의 제약이 없다.
게다가, 상기 인터랙션 시스템 및 방법이 적외선 이미지로부터 획득된 3차원 깊이 정보를 이용하므로, 디스플레이 소자 앞에 가장 가까이 위치한 사람을 정확하게 추적할 수 있다.
더욱이, 상기 인터랙션 시스템 및 방법이 적외선 발광 소자들의 세기를 상기 디스플레이 소자로부터 인터랙션하고자 하는 사람까지의 거리에 따라 적절하게 조정하므로, 상기 인터랙션 동작을 최적으로 구현할 수 있다.
또한, 상기 인터랙션 시스템이 전면 렌즈를 미러 앞에 설치하므로, 대상 감지 범위(시야각)를 증가시킬 수 있다.
도 1은 본 발명의 일 실시예에 따른 인터랙션 시스템을 도시한 도면이다.
도 2는 본 발명의 제 1 실시예에 따른 비전 모듈을 도시한 사시도이다.
도 3은 본 발명의 일 실시예에 따른 인터랙션 방법, 특히 인간-관심 영역 추적 과정을 도시한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 Adaboost learning 알고리즘을 이용하여 인간-관심 영역을 분류한 결과를 도시한 도면이다.
도 5는 본 발명의 일 실시예에 따른 인간-관심 영역의 추적 결과를 도시한 도면이다.
도 6은 본 발명의 제 2 실시예에 따른 비전 모듈을 도시한 사시도이다.
도 7은 본 발명의 일 실시예에 따른 영상 구현부를 도시한 블록도이다.
이하에서는 첨부된 도면들을 참조하여 본 발명의 실시예들을 자세히 설명하도록 한다.
도 1은 본 발명의 일 실시예에 따른 인터랙션 시스템을 도시한 도면이고, 도 2는 본 발명의 제 1 실시예에 따른 비전 모듈을 도시한 사시도이다.
본 발명의 인터랙션 시스템(interaction system)은 사람과 상호 작용할 수 있는 시스템으로서, 사람의 직접적인 터치 없이도 사람의 움직임을 감지하여 영상으로 제공한다.
도 1을 참조하면, 본 실시예의 인터랙션 시스템은 DID(Digital Information Display) 등과 같은 디스플레이 소자(100) 및 비전 모듈(102)을 포함한다.
비전 모듈(102)은 디스플레이 소자(100)의 상단 등에 간단하게 설치되며, 상기 인터랙션 시스템의 앞에 위치하는 사람의 움직임을 감지한다. 특히, 비전 모듈(102)은 사람의 직접적인 터치가 없어도 사람의 동작, 특히 손이나 얼굴의 움직임을 감지할 수 있다.
본 발명의 일 실시예에 따르면, 비전 모듈(102)은 도 2에 도시된 바와 같이 하우징(200), 제 1 카메라(202), 제 2 카메라(204), 미러(Mirror, 206) 및 적외선 발광부(210)를 포함한다.
제 1 카메라(202)는 예를 들어 저가의 웹 카메라이며, 가시광선을 감지하여 영상을 촬영하며, 상기 촬영에 따른 가시광 이미지를 영상 구현부(미도시)로 제공한다. 여기서, 상기 영상 구현부는 비전 모듈(102) 내에 포함될 수도 있고 디스플레이 소자(100)에 포함될 수도 있다.
제 2 카메라(204)는 예를 들어 적외선 필터가 제거된 저가의 웹 카메라일 수 있으며, 적외선을 감지하여 영상을 촬영하며, 상기 촬영에 따른 적외선 이미지를 상기 영상 구현부로 제공한다. 여기서, 제 1 카메라(202)와 제 2 카메라(204)는 동일 시점의 영상을 촬영한다.
이러한 제 2 카메라(204)는 암실(208) 내에 위치한다.
미러(206)는 적외선은 투과시키고 가시광선은 반사시키는 기구로서, 예를 들어 콜드 미러(Cold mirror)일 수 있다.
이러한 미러(206)는 암실(208)의 입구에 설치되며, 도 2에 도시된 바와 같이 소정 각도만큼 기울어져서 배열된다. 결과적으로, 외부로부터 미러(206)로 입사된 빛 중 적외선은 투과하여 제 2 카메라(204)에 의해 감지되고, 가시광선은 미러(206)에 의해 반사되어 제 1 카메라(202)에 의해 감지된다. 다만, 제 1 카메라(202)에 의해 촬영된 영상은 미러(206)의 반사를 고려하여 좌우 반전된다.
본 발명의 일 실시예에 따르면, 제 1 카메라(202)와 미러(206) 사이의 거리는 제 2 카메라(204)와 미러(206) 사이의 거리와 동일할 수 있다.
적외선 발광부(210)는 적외선을 비전 모듈(102)의 외부로 방출하는 소자로 서, 지지부(220) 및 적외선 발광 소자들(222)을 포함한다.
지지부(220)는 도 2에 도시된 바와 같이 하우징(200)의 전면에 설치될 수 있다. 다만, 도 2에서는 지지부(220)를 사각형 형태로 구현하였으나, 적외선 발광 소자들(222)이 설치될 수 있는 한 모양에는 특별한 제한이 없다.
적외선 발광 소자들(222)은 적외선을 방출하는 소자로서, 예를 들어 IR LED(Infrared Light Emitting Diode)이며, 지지부(220) 상에 형성된다.
적외선 발광 소자들(222)로부터 방출된 적외선은 디스플레이 소자(100)의 앞에 위치한 대상(사람, 물건 등)에 의해 반사되어 미러(206)를 통하여 제 2 카메라(204)로 입사된다.
제 2 카메라(204)는 상기 입사된 적외선의 세기를 통하여 3차원 깊이 정보(three-dimensional depth information)를 생성한다.
본 발명의 일 실시예에 따르면, 적외선 발광 소자(222)의 세기는 상기 인터랙션 시스템으로부터 인터랙션하고자 하는 위치까지의 거리에 따라 조정될 수 있다. 이 경우, 비전 모듈(102)은 적외선 발광 소자들(222)의 세기를 조정하기 위한 발광 소자 제어부를 더 포함할 수 있다. 사용자가 상기 발광 소자 제어부를 수동으로 조작하여 적외선 발광 소자들(222)의 세기를 조정할 수도 있고, 상기 발광 소자 제어부가 설치된 공간의 밝기 등을 측정하여 인터랙션하고자 하는 위치까지의 거리를 고려하여 자동으로 적외선 발광 소자들(222)의 세기를 조정할 수도 있다.
정리하면, 본 실시예의 비전 모듈(102)은 저가의 카메라들(202 및 204)을 이용하여 가시광 이미지 및 적외선 이미지를 획득하고, 상기 획득된 이미지들을 상기 영상 구현부로 제공한다. 상기 영상 구현부는 상기 이미지들로부터 디스플레이 소자(100) 앞에 위치한 사람의 움직임을 검출하고, 특히 손이나 얼굴을 검출하고, 상기 검출된 사람의 움직임을 디스플레이 소자(100)의 영상에 반영시킨다. 물론, 디스플레이 소자(100)에 디스플레이되는 영상은 디스플레이 소자(100) 앞에 위치한 사람의 영상일 수도 있고 상기 사람의 움직임이 반영되는 캐릭터일 수도 있다.
또한, 비전 모듈(102)은 소형으로 제작될 수 있기 때문에, 디스플레이 소자(100)의 상단 등에 간단하게 설치될 수도 있다.
이하, 본 발명의 인터랙션 시스템의 인터랙션 과정, 특히 인간-관심 영역 추적 과정을 첨부된 도면을 참조하여 상술하겠다.
도 3은 본 발명의 일 실시예에 따른 인터랙션 방법, 특히 인간-관심 영역 추적 과정을 도시한 순서도이다.
도 3을 참조하면, 제 1 카메라(202)를 이용하여 가시광 이미지를 획득하고, 제 2 카메라(204)를 이용하여 적외선 이미지를 획득한다(S300). 여기서, 상기 획득된 이미지들은 영상 구현부로 전송된다.
이어서, 상기 영상 구현부는 상기 가시광 이미지로부터 배경을 제거하여 전경 영역(Foreground area)을 검출한다(S302).
본 발명의 일 실시예에 따르면, 상기 영상 구현부는 정적 배경으로 가정하고 디퍼런스 컬러 키잉(Difference Color Keying)을 이용하여 상기 전경 영역을 검출한다. 구체적으로는, 배경 이미지가 배경만을 포함한 프레임들을 평균함에 의해 계산되고, 현재 프레임의 배경은 예측 컬러값, 컬러값의 표준 편차, 밝기 왜곡의 변동 정도 및 색도 왜곡의 변동 정도에 의해 모델링된다. 그런 후, 상기 전경 영역, 예를 들어 상기 인터랙션 시스템으로부터 가장 가까이 위치한 사람의 영역은 일반 컬러 공간 및 정규화된 컬러 공간 견지에서 현재 프레임으로부터 배경을 디퍼런싱(differencing), 예를 들어 투명하게 처리함에 의해 검출될 수 있다.
계속하여, 상기 영상 구현부는 상기 전경 영역으로부터 얼굴 및 손 등과 같은 스킨 영역들(Skin areas)을 검출한다(S304).
본 발명의 일 실시예에 따르면, 상기 영상 구현부는 상기 가시광 이미지를 YCbCr 컬러 공간(color space)으로 변환하고, 그런 후 상기 전경 영역의 픽셀들을 스킨 영역들(Si)과 비스킨 영역들(non-skin areas)로 분류한다. 즉, 상기 영상 구현부는 cb값이 소정 범위(θ1≥cb(fik)≥θ2)에 있고 cr값이 소정 범위(θ3≥cr(fik)≥θ4)에 있으면 스킨 영역으로 분류하고 나머지 픽셀들을 비스킨 영역으로 분류한다. 여기서, fik는 전경 영역의 픽셀을 의미한다. 상기 스킨 영역들은 각 프레임별로 독립적으로 검출된다.
이어서, 상기 영상 구현부는 상기 적외선 이미지를 이용하여 인간-관심 영역을 검출한다(S306). 구체적으로는, 상기 영상 구현부는 상기 적외선 이미지로부터 획득된 3차원 깊이 정보를 이용한다. 일반적으로 대상으로부터 반사된 적외선의 양은 상기 인터랙션 시스템으로부터 대상까지의 거리에 반비례한다. 따라서, 상기 인터랙션 시스템으로부터 가장 가까이 위치한 인간 영역(Ii)은 상기 적외선 이미지에서 가장 밝게 표현된다. 인터랙션을 위하여 상기 인터랙션 시스템으로부터 가장 가까이 위치한 사람을 검출하므로, 상기 영상 구현부는 상기 적외선 이미지 중 가장 밝은 부분을 인간 영역(Ii)으로 검출하고, 상기 검출된 인간 영역(Ii)을 상기 스킨 영역과 조합하여, 즉 Si∩Ii를 구하여 상기 인터랙션 시스템으로부터 가장 가까운 사람의 움직임을 추적할 수 있다. 즉, 상기 영상 구현부는 상기 적외선 이미지로부터 획득된 3차원 깊이 정보를 이용하여 상기 인터랙션 시스템 앞에 위치한 대상들 중 가장 가까이 위치한 사람의 스킨 영역을 검출하며, 즉 관심있는 인간의 영역(이하, "인간-관심 영역"이라 함)을 검출한다. 따라서, 상기 인터랙션 시스템 앞에 다수의 사람들이 위치하더라도 가장 가까운 사람의 움직임을 검출할 수 있다.
계속하여, 상기 영상 구현부는 상기 검출된 인간-관심 영역으로부터 특정 신체 부위를 분류한다(S308). 예를 들어, 상기 영상 구현부는 상기 인간-관심 영역에서 인터랙션의 주관심 부위인 손과 얼굴을 분류한다. 본 발명의 일 실시예에 따르면, 상기 영상 구현부는 얼굴 인식 방법의 하나인 Haar-like features 및 얼굴 영 역 검출 방법의 하나인 Adaboost learning 알고리즘에 기초하여 얼굴을 검출하며, 상기 인간-관심 영역에서 상기 얼굴 영역을 제외하여 손 영역을 검출한다.
이어서, 상기 영상 구현부는 상기 분류된 신체 부위를 디스플레이 화면에 반영한다(S310).
정리하면, 본 발명의 인터랙션 방법은 상기 적외선 이미지로부터 획득된 3차원 이미지를 통하여 상기 인터랙션 시스템에 가장 가까이 위치한 사람을 검출하고, 상기 검출 결과를 상기 가시광 이미지로부터 추출된 스킨 영역에 반영하여 인간-관심 영역을 추적한다.
이하, 본 실시예의 인간-관심 추적 방법을 사용하여 인터랙션을 구현한 실험 결과를 살펴보겠다.
도 4는 본 발명의 일 실시예에 따른 Adaboost learning 알고리즘을 이용하여 인간-관심 영역을 분류한 결과를 도시한 도면이고, 도 5는 본 발명의 일 실시예에 따른 인간-관심 영역의 추적 결과를 도시한 도면이다.
도 4의 우측 상단에 도시된 바와 같이 스킨 영역들 중 가장 강한 적외선 세기를 가지는 영역이 검출되고, 좌측 하단에 도시된 바와 같이 Adaboost learning 알고리즘에 기초하여 손 영역 및 얼굴 영역이 분류되며, 상기 분류된 손 영역 및 얼굴 영역이 디스플레이 화면에 빨간색 사각 박스 및 연두색 원형 박스로 표시되었다. 즉, 좌측 상단의 원래 이미지에서 손 및 얼굴이 정확하게 추적되었음을 확인할 수 있다.
도 5를 참조하면, 사각형 박스와 원형 박스가 사람의 움직임에 따라 같이 움직임을 확인할 수 있다. 즉, 본 발명의 인간-관심 영역 추적 방법은 손 및 얼굴의 움직임을 정확하게 추적할 수 있다.
도 6은 본 발명의 제 2 실시예에 따른 비전 모듈을 도시한 사시도이다.
도 6을 참조하면, 본 실시예의 비전 모듈(102)은 하우징(600), 제 1 카메라(602), 제 2 카메라(604), 미러(606), 전면 렌즈(608), 암실(610),적외선 발광부(612) 및 발광 소자 제어부(614)를 포함한다.
전면 렌즈(608) 및 발광 소자 제어부(614)를 제외한 나머지 구성요소들은 제 1 실시예에서와 동일하므로, 이하 동일한 구성요소들에 대한 설명은 생략하겠다.
전면 렌즈(608)는 도 6에 도시된 바와 같이 미러(606) 앞에 위치하며, 예를 들어 어안 렌즈이다. 결과적으로, 대상으로부터 반사된 광 등이 전면 렌즈(608)를 통과한 후 미러(606)로 입사된다.
이러한 전면 렌즈(608)는 대상을 감지할 수 있는 범위를 확대시키는 역할을 수행하며, 즉 넓은 시야각을 제공한다. 예를 들어, 전면 렌즈(608)가 없을 때 비전 모듈(102)은 중앙 부분의 사람은 잘 감지하지만 외측에 위치하는 사람은 잘 감지하지 못할 수 있으나, 전면 렌즈(608)를 비전 모듈(102)에 구현함에 의해 중앙 부분뿐만 아니라 외측에 위치하는 사람도 잘 감지할 수 있다.
다만, 전면 렌즈(608)를 미러(606)의 앞에 위치시키면, 카메라들(602 및 604)에 의해 촬영되는 이미지가 왜곡될 수도 있으므로, 영상 구현부는 상기 왜곡된 이미지를 보정할 수 있는 영상 보정 알고리즘을 추가적으로 사용할 수 있다.
발광 소자 제어부(614)는 적외선 발광부(612)에 포함된 적외선 발광 소자들의 세기를 조정하며, 모든 적외선 발광 소자들 전체를 일괄적으로 조정할 수도 있고 발광 소자들의 일부만을 조정할 수도 있다. 여기서, 발광 소자 제어부(614)와 상기 적외선 발광 소자들은 유선으로 연결될 수도 있고 무선으로 연결될 수도 있다.
또한, 발광 소자 제어부(614)는 도 6에 도시된 바와 같이 비전 모듈(102)의 일측에 구현될 수도 있고 디스플레이 소자(100)에 구현될 수도 있다. 여기서, 사용자는 리모트 콘트롤러(미도시)를 이용하여 발광 소자 제어부(614)를 제어할 수도 있고, 발광 소자 제어부(614)를 조정할 수 있는 버튼 등이 비전 모듈(102)의 외부로 노출되어 상기 버튼을 누름에 의해 적외선 발광 소자들의 세기를 조정할 수도 있다. 즉, 발광 소자 제어부(614)가 상기 발광 소자들의 세기를 제어할 수 있는 한 그의 위치, 제어 방법 등은 다양하게 변형될 수 있다.
정리하면, 본 실시예의 비전 모듈(102)은 전면 렌즈(608)를 이용하여 대상 감지 범위를 확장시키고, 발광 소자 제어부(614)를 이용하여 적외선 발광 소자들의 세기를 조정한다.
본 발명의 다른 실시예에 따르면, 전면 렌즈가 미러(606) 앞에 설치되지 않고, 각 카메라들(602 및 604) 앞에 각기 설치되거나 카메라들(602 및 604)에 각기 포함되어 구현될 수도 있다.
도 7은 본 발명의 일 실시예에 따른 영상 구현부를 도시한 블록도이다.
도 7을 참조하면, 본 실시예의 영상 구현부는 제어부(700), 이미지 관리부(702), 깊이 정보부(704), 전경 영역 검출부(706), 스킨 영역 검출부(708), 관심 영역 검출부(710), 영역 분류부(712), 영상부(714) 및 저장부(716)를 포함한다.
이미지 관리부(702)는 카메라들로부터 전송된 가시광 이미지 및 적외선 이미지를 관리하며, 특히 어안 렌즈 설치 등으로 인하여 보정이 필요한 경우 상기 이미지들을 보정한다.
깊이 정보부(704)는 상기 적외선 이미지로부터 3차원 깊이 정보를 획득하되, 상기 깊이 정보는 인터랙션 시스템으로부터 가장 가까이 위치한 사람을 검출하기 위하여 사용된다.
전경 영역 검출부(706)는 상기 가시광 이미지로부터 배경을 제거하여 전경 영역을 검출한다.
스킨 영역 검출부708)는 상기 전경 영역을 스킨 영역들과 비스킨 영역들로 분리하여 스킨 영역들을 검출한다.
관심 영역 검출부(710)는 상기 적외선 이미지로부터 획득된 깊이 정보를 이용하여 상기 스킨 영역들로부터 인간-관심 영역을 검출한다(S710).
영역 분류부(712)는 상기 인간-관심 영역에서 예를 들어 손 및 얼굴을 분류시킨다.
영상부(714)는 상기 분류 결과를 디스플레이 소자(100)의 화면에 디스플레이되는 영상에 반영한다.
저장부(716)는 상기 이미지들, 보정된 이미지 등과 같은 각종 데이터를 저장한다.
제어부(700)는 상기 영상 구현부의 구성요소들의 동작을 전반적으로 제어한다.
상기한 본 발명의 실시예는 예시의 목적을 위해 개시된 것이고, 본 발명에 대한 통상의 지식을 가지는 당업자라면 본 발명의 사상과 범위 안에서 다양한 수정, 변경, 부가가 가능할 것이며, 이러한 수정, 변경 및 부가는 하기의 특허청구범위에 속하는 것으로 보아야 할 것이다.
100 : 디스플레이 소자 102 : 비전 모듈
200 : 하우징 202 : 제 1 카메라
204 : 제 2 카메라 206 : 미러
208 : 암실 210 : 적외선 발광부
220 : 지지부 222 : 적외선 발광 소자
600 : 하우징 602 : 제 1 카메라
604 : 제 2 카메라 606 : 미러
608 : 전면 렌즈 610 : 암실
612 : 적외선 발광부 614 : 발광 소자 제어부
700 : 제어부 702 : 이미지 관리부
704 : 깊이 정보부 706 : 전경 영역 검출부
708 : 스킨 영역 검출부 710 : 관심 영역 검출부
712 : 영역 분류부 714 : 영상부
716 : 저장부

Claims (10)

  1. 인터랙션 시스템에 사용되는 비전 모듈에 있어서,
    미러;
    상기 미러를 투과하여 진행하는 적외선을 감지하여 적외선 이미지를 획득하는 적외선 카메라;
    상기 미러에 의해 반사된 가시광선을 감지하여 가시광 이미지를 획득하는 가시광 카메라; 및
    외부로 적외선을 출력하는 적어도 하나의 적외선 발광 소자를 포함하되,
    상기 출력된 적외선은 상기 비전 모듈의 앞에 위치한 대상에 의해 반사되고, 상기 적외선 카메라는 상기 대상에 의해 반사된 적외선을 감지하여 상기 적외선 이미지를 획득하며, 상기 적외선 발광 소자의 세기는 상기 비전 모듈로부터 인터랙션하고자 하는 위치까지의 거리에 따라 조정되는 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  2. 제1항에 있어서, 상기 미러는 가시광선은 반사시키고 적외선만을 통과시키며, 상기 가시광 카메라는 웹 카메라이고, 상기 적외선 카메라는 적외선 필터가 제거된 웹 카메라이며, 상기 미러로부터 상기 가시광 카메라까지의 거리는 상기 미러로부터 상기 적외선 카메라까지의 거리와 동일한 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  3. 제1항에 있어서, 상기 적외선 카메라는 암실에 위치하고, 상기 적외선 발광 소자들은 상기 비전 모듈의 전면에 설치되며, 상기 비전 모듈은 디스플레이 소자의 상단에 설치되고, 상기 각 카메라들에는 각기 어안렌즈가 포함되어 구현되는 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  4. 제1항에 있어서, 상기 비전 모듈은,
    상기 비전 모듈의 전면에 설치된 전면 렌즈를 더 포함하되,
    상기 반사된 적외선은 상기 전면 렌즈 및 상기 미러를 순차적으로 투과하여 상기 적외선 카메라에 의해 감지되고, 상기 가시광선은 상기 전면 렌즈를 투과한 후 상기 미러에 의해 반사되어 상기 가시광 카메라에 의해 감지되는 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  5. 제4항에 있어서, 상기 전면 렌즈는 어안 렌즈인 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  6. 인터랙션 시스템에 사용되는 비전 모듈에 있어서,
    미러;
    상기 미러를 투과하여 진행하는 적외선을 감지하여 적외선 이미지를 획득하는 적외선 카메라;
    상기 미러에 의해 반사된 가시광선을 감지하여 가시광 이미지를 획득하는 가시광 카메라;
    외부로 적외선을 출력하는 적어도 하나의 적외선 발광 소자; 및
    상기 비전 모듈의 전면에 설치된 전면 렌즈를 포함하되,
    상기 출력된 적외선은 상기 비전 모듈의 전면에 위치한 대상에 의해 반사되고, 상기 반사된 적외선은 상기 전면 렌즈 및 상기 미러를 순차적으로 투과하여 상기 적외선 카메라에 의해 감지되고, 상기 가시광선은 상기 전면 렌즈를 투과한 후 상기 미러에 의해 반사되어 상기 가시광 카메라에 의해 감지되는 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  7. 제6항에 있어서, 상기 적외선 발광 소자의 세기는 상기 비전 모듈로부터 인터랙션하고자 하는 위치까지의 거리에 따라 조정되고, 상기 가시광 카메라는 웹 카메라이며, 상기 적외선 카메라는 적외선 필터가 제거된 웹 카메라이고, 상기 적외선 카메라는 암실 내에 배열되며, 상기 적외선 발광 소자들은 상기 비전 모듈의 전면에 설치되고, 상기 전면 렌즈는 어안 렌즈인 것을 특징으로 하는 인터랙션 시스템에 사용되는 비전 모듈.
  8. 비전 모듈의 전면에 위치한 대상의 가시광 이미지 및 적외선 이미지를 획득하는 단계;
    상기 획득된 가시광 이미지에서 배경을 제거하여 전면 영역을 검출하는 단계;
    상기 전면 영역에서 인간의 피부만을 표현한 스킨 영역을 검출하는 단계;
    상기 적외선 이미지로부터 깊이 정보를 검출하는 단계;
    상기 검출된 깊이 정보를 상기 스킨 영역에 반영하여 상기 비전 모듈의 가장 전면에 위치한 인간을 추적하여 인간-관심 영역을 검출하는 단계; 및
    상기 인간-관심 영역에서 추적하고자 하는 신체 부위를 분류하는 단계를 포함하되,
    상기 깊이 정보에서의 깊이는 상기 비전 모듈의 전면의 대상들로부터 반사된 적외선의 세기에 반비례하는 것을 특징으로 하는 인터랙션 방법.
  9. 제8항에 있어서, 상기 분류는 일련의 Haar-like features 및 Adaboost 학습 알고리즘을 이용하여 수행되는 것을 특징으로 하는 인터랙션 방법.
  10. 제8항에 있어서, 상기 가시광 이미지는 웹 카메라에 의해 획득되고, 상기 적외선 이미지는 적외선 필터가 제거된 웹 카메라에 의해 획득되는 것을 특징으로 하는 인터랙션 방법.
KR1020110002384A 2011-01-10 2011-01-10 비접촉식 인터랙션 시스템 및 방법 KR101191605B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110002384A KR101191605B1 (ko) 2011-01-10 2011-01-10 비접촉식 인터랙션 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110002384A KR101191605B1 (ko) 2011-01-10 2011-01-10 비접촉식 인터랙션 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20120080914A KR20120080914A (ko) 2012-07-18
KR101191605B1 true KR101191605B1 (ko) 2012-10-15

Family

ID=46713326

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110002384A KR101191605B1 (ko) 2011-01-10 2011-01-10 비접촉식 인터랙션 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR101191605B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103631470B (zh) * 2013-12-13 2016-09-21 中国人民解放军国防科学技术大学 基于红外反射式光电探测点阵的隔空输入系统与输入方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080013826A1 (en) 2006-07-13 2008-01-17 Northrop Grumman Corporation Gesture recognition interface system
US7406184B2 (en) 2002-07-03 2008-07-29 Equinox Corporation Method and apparatus for using thermal infrared for face recognition

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7406184B2 (en) 2002-07-03 2008-07-29 Equinox Corporation Method and apparatus for using thermal infrared for face recognition
US20080013826A1 (en) 2006-07-13 2008-01-17 Northrop Grumman Corporation Gesture recognition interface system

Also Published As

Publication number Publication date
KR20120080914A (ko) 2012-07-18

Similar Documents

Publication Publication Date Title
US7349020B2 (en) System and method for displaying an image composition template
US20200082160A1 (en) Face recognition module with artificial intelligence models
US9852339B2 (en) Method for recognizing iris and electronic device thereof
US9438813B2 (en) Lighting system and method for image and object enhancement
US20140037135A1 (en) Context-driven adjustment of camera parameters
US10834337B2 (en) Dynamic frame rate controlled thermal imaging systems and methods
EP2894851B1 (en) Image processing device, image processing method, program, and computer-readable storage medium
KR20120057033A (ko) Ｉｐｔｖ 제어를 위한 원거리 시선 추적 장치 및 방법
CN104284119A (zh) 在对象的预定义部分上投影图像的设备、系统和方法
JP4448304B2 (ja) 顔検知装置
US20110128386A1 (en) Interactive device and method for use
KR100968205B1 (ko) 적외선 카메라 방식의 공간 터치 감지 장치, 방법 및스크린 장치
KR101961266B1 (ko) 시선 추적 장치 및 이의 시선 추적 방법
JP6977823B2 (ja) 情報処理装置、制御方法、及びプログラム
KR101476503B1 (ko) 착용형 디스플레이 장치를 위한 인터랙션 제공 장치 및 방법
KR101191605B1 (ko) 비접촉식 인터랙션 시스템 및 방법
KR102184295B1 (ko) 다중 광도 영상 획득 장치 및 방법
TWI325998B (en) Projection apparatus and system
JP2017173455A (ja) 情報処理装置、情報処理方法及びプログラム
KR101929003B1 (ko) 광 감지 기능을 구비한 o l e d 디스플레이 장치
US20160119614A1 (en) Display apparatus, display control method and computer readable recording medium recording program thereon
US20210192205A1 (en) Binding of selfie face image to iris images for biometric identity enrollment
KR20090090980A (ko) 영상을 이용한 포인팅 장치
JP2007322704A (ja) 画像表示システム及びその制御方法
KR20220079753A (ko) 얼굴 인식에 기초하여 촬영 대상의 온도를 측정하는 방법

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20151001

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20161004

Year of fee payment: 5

LAPS Lapse due to unpaid annual fee