KR101230265B1 - 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말 - Google Patents

타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말 Download PDF

Info

Publication number
KR101230265B1
KR101230265B1 KR1020100027952A KR20100027952A KR101230265B1 KR 101230265 B1 KR101230265 B1 KR 101230265B1 KR 1020100027952 A KR1020100027952 A KR 1020100027952A KR 20100027952 A KR20100027952 A KR 20100027952A KR 101230265 B1 KR101230265 B1 KR 101230265B1
Authority
KR
South Korea
Prior art keywords
terminal
information
person
gaze
user
Prior art date
Application number
KR1020100027952A
Other languages
English (en)
Other versions
KR20110108647A (ko
Inventor
홍상우
신상희
유병철
임민주
김정윤
이유종
박명순
강석훈
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to KR1020100027952A priority Critical patent/KR101230265B1/ko
Publication of KR20110108647A publication Critical patent/KR20110108647A/ko
Application granted granted Critical
Publication of KR101230265B1 publication Critical patent/KR101230265B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 발명은 단말의 정보표시 기술에 관한 것으로서, 더욱 상세하게는 단말의 화면에 특정정보를 표시하는 도중에, 카메라로 영상을 촬영하고, 촬영한 영상을 분석하여 타인의 시선을 인식하고, 인식한 타인의 시선이 단말의 화면을 주시하는 경우 단말의 화면에 다른정보를 타인의 시선 방향으로 출력하도록 한다. 이때 단말에서 타인의 시선을 인식할지 여부는 사용자의 입력에 의해 인식하게 하거나 또는 특정컨텐츠의 경우 자동으로 인식하게 할 수 있다. 또한 단말에 특정객체가 접근하면 이를 감지하고, 감지한 객체가 사람인지 여부를 판단하여 타인의 시선을 인식하도록 할 수 있다. 본 발명에 의하면 사용자가 공공장소에서도 타인의 시선을 의식할 필요없이 화면에 표시된 정보를 주시할 수 있게되고 사용자의 개인정보가 타인에게 노출되는 것을 방지할 수 있다. 또한 타인이 화면을 주시할 때에만 다른정보를 출력하기 때문에, 사용자의 시선방향과 다른방향으로 항상 다른정보를 출력하는 것보다 전력소모를 줄일 수 있다.

Description

타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말{Method for displaying information of terminal by gaze recognition, and the terminal thereof}
본 발명은 단말의 정보표시 기술에 관한 것으로서, 더욱 상세하게는 단말에 특정정보를 표시한 상태에서 타인의 시선을 인식하면 사용자가 보고 있는 정보와 다른정보를 타인의 시선방향으로 출력하여 사용자의 개인정보가 타인에게 유출되는 것을 방지하도록 하는, 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말에 관한 것이다.
통신기술의 발전에 따라 단말은 점점 고사양화 되고 그 기능은 다양해지고 있다. 특히 휴대단말의 경우 이동통신망의 발달, 무선컨텐츠의 증가, 휴대단말에 구비된 프로세서 및 메모리의 비약적 발전으로 인해 음악 또는 동영상 파일의 재생, 사진촬영, 게임, TV 또는 라디오 방송 수신 등 복잡한 기능들을 수행할 수 있게 되었다. 이에 따라 사용자는 시간과 장소에 구애됨이 없이 이동통신단말이나 PDA(Portable Data Assistant) 등과 같은 단말을 통하여 다양한 정보를 이용할 수 있게 되었다.
하지만 사용자가 버스, 지하철 등과 같은 타인과 인접한 상태에서 단말을 통하여 특정정보(예컨대 문자메세지, 사진, 동영상 등)를 볼 때, 사용자와 인접한 타인에게도 단말에 표시된 정보가 무방비로 노출되는 문제점을 안고 있다.
이로 인해 사용자는 타인의 시선을 신경쓰면서 단말을 통하여 특정정보를 보아야 하기 때문에, 해당 정보에 집중할 수 없는 문제점을 안고 있다.
또한 특정정보가 사용자의 사생활을 담고 있는 정보인 경우 또는 특정정보가 계좌번호, 계좌비밀번호 등 금융관련 정보인 경우 불특정 타인에게 사용자의 개인정보가 노출될 수 있는 문제점 역시 존재한다.
본 발명은 상기한 종래의 문제점을 해결하기 위해 제안된 것으로서, 단말이 타인의 시선을 인식하면 복수의 정보를 하나의 화면에 표시할 수 있는 디스플레이부를 통하여 사용자가 보고 있는 정보와 다른정보를 타인의 시선방향으로 출력하는 기술을 제공하고자 한다. 즉 단말에 표시된 정보가 사용자와 인접한 타인에게 무방비로 노출되는 문제점을 해소하여 사용자의 프라이버시를 지킬 수 있는, 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말을 제공하는데 그 목적이 있다.
또한 본 발명은 단말의 사용자가 공공장소에서도 타인의 시선을 의식할 필요없이 단말의 화면에 표시중인 정보에 집중할 수 있도록 하는, 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말을 제공하는데 그 목적이 있다.
상기와 같은 목적을 달성하기 위한 본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말은, 바라보는 방향에 따라 둘 이상의 정보를 하나의 화면에 표시할 수 있는 디스플레이부, 객체를 촬영하는 적어도 하나의 카메라부, 상기 디스플레이부에 특정정보를 표시하는 도중에 상기 카메라부에서 촬영된 영상을 수신하고, 수신한 상기 영상을 분석하여 타인의 시선을 인식하고, 인식한 상기 타인의 시선이 상기 화면을 주시하는 경우 상기 디스플레이부에 표시된 상기 특정정보와는 다른정보를 상기 타인의 시선 방향으로 출력하는 제어부를 포함한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 사용자의 얼굴영상을 저장하는 저장부를 더 포함하고, 상기 제어부는 수신한 상기 영상에서 얼굴영상을 추출하고, 추출한 상기 얼굴영상과 상기 저장부에 저장된 상기 사용자의 얼굴영상을 비교하여 상기 타인의 얼굴영상을 추출하고, 추출한 상기 타인의 얼굴영상에서 눈 영상을 추출하여 상기 타인의 시선을 인식하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 상기 제어부는 인식한 상기 타인의 시선이 상기 화면을 일정시간 초과하여 주시하는 경우 상기 디스플레이부에 표시된 상기 특정정보와는 다른정보를 상기 타인의 시선 방향으로 출력하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 상기 특정정보는 문자메세지, 이메일, 사진, 동영상, 메모, 문서, 전화번호부, 금융정보 중 적어도 하나인 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 상기 타인의 시선 방향으로 출력할 상기 다른정보의 설정정보를 저장하는 저장부를 더 포함하고, 상기 다른정보는 상기 단말에 디폴트로 설정된 정보 또는 상기 사용자에 의해 기 설정된 정보인 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 입력을 수신하는 입력부를 더 포함하고, 상기 제어부는 상기 입력부로 사용자의 입력을 수신하여 상기 카메라부를 활성화하거나 또는 상기 특정정보가 기 설정된 특정컨텐츠인 경우 자동으로 상기 카메라부를 활성화 하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 상기 카메라부를 활성화하는 상기 특정컨텐츠 설정정보를 저장하는 저장부를 더 포함하고, 상기 특정컨텐츠는 상기 단말에 디폴트로 설정된 컨텐츠 또는 상기 사용자에 의해 기 설정된 컨텐츠인 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 객체의 접근을 감지하는 근접감지부를 더 포함하고, 상기 제어부는 상기 단말에 객체가 접근함을 상기 근접감지부로 감지하면 상기 카메라부를 활성화 하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 상기 근접감지부는 카메라, 적외선센서, 초음파센서 중 적어도 하나를 포함하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따라 정보를 표시하는 단말에 있어서, 객체의 온도를 측정하는 온도측정부를 더 포함하고, 상기 제어부는 상기 단말에 접근한 상기 객체의 온도를 상기 온도측정부로 측정하여 상기 객체가 사람으로 판단되는 경우 상기 카메라부를 활성화 하는 것을 특징으로 한다.
상기와 같은 목적을 달성하기 위한 본 발명의 타인의 시선인식에 따른 단말의 정보표시방법은, 단말이 화면에 특정정보를 표시하는 정보표시단계, 상기 단말이 상기 화면을 타인의 시선이 주시하는지 여부를 모니터링하는 모니터링단계, 상기 모니터링 중 상기 화면을 상기 타인의 시선이 주시하는 것으로 판단되면, 상기 단말이 상기 화면에 상기 특정정보와는 다른정보를 상기 타인의 시선 방향으로 출력하는 출력단계를 포함한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 모니터링단계는, 상기 단말이 적어도 하나의 카메라로 영상을 촬영하는 촬영단계, 상기 단말이 상기 촬영된 영상을 분석하여 상기 타인의 시선을 실시간으로 추적하는 추적단계, 상기 단말이 상기 시선 추적 중 상기 타인의 시선이 상기 단말의 화면에 정지하는 시간을 산출하는 산출단계, 상기 산출된 시간이 일정시간을 초과하는 경우, 상기 단말이 상기 타인의 시선이 상기 화면을 주시하는 것으로 판단하는 판단단계를 포함하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 추적단계는, 상기 단말이 상기 카메라로 촬영한 영상에서 타인의 얼굴 영상을 추출하는 단계, 상기 단말이 상기 추출된 타인의 얼굴 영상에서 눈을 추출하고, 상기 추출한 눈의 위치 변화를 추적하여 타인의 시선을 추적하는 단계를 포함하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 정보표시단계에서 상기 특정정보는 문자메세지, 이메일, 사진, 동영상, 메모, 문서, 전화번호부, 금융정보 중 적어도 하나를 포함하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 출력단계에서 상기 다른정보는 상기 단말에 디폴트로 설정된 정보 또는 상기 사용자에 의해 기 설정된 정보인 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 모니터링단계 이전에, 상기 단말이 모니터링 모드를 활성화하는 활성화단계를 더 포함하는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 활성화단계에서, 상기 모니터링 모드는 사용자의 입력에 의해 활성화 되거나 또는 특정컨텐츠를 실행하는 경우 자동으로 활성화 되는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 특정컨텐츠는 상기 단말에 디폴트로 설정된 컨텐츠 또는 상기 사용자에 의해 기 설정된 컨텐츠인 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 사용자의 입력은 키패드입력, 음성입력, 화면터치입력 또는 제스처입력 중 적어도 하나인 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 활성화단계에서, 상기 모니터링 모드는 객체가 일정 거리내에 접근함을 상기 단말이 감지하여 활성화 되는 것을 특징으로 한다.
본 발명의 타인의 시선인식에 따른 단말의 정보표시방법에 있어서, 상기 활성화단계에서, 상기 모니터링 모드는 객체가 일정 거리내에 접근함을 상기 단말이 감지하고 상기 객체의 온도를 측정하여 상기 객체가 사람으로 판단되는 경우에 활성화 되는 것을 특징으로 한다.
본 발명에 의하면, 단말에서 정보를 표시하고 있는 도중에 타인의 시선을 인식하면 사용자가 보고 있는 정보와 다른정보를 타인의 시선방향으로 출력하기 때문에, 사용자가 보고 있는 정보가 사용자와 인접한 타인에게 무방비로 노출되는 문제를 해소하여 사용자의 프라이버시를 보호할 수 있다. 또한 사용자가 보고 있는 정보가 금융관련 정보인 경우, 사용자의 금융관련 정보의 유출을 막아 발생 가능한 사고를 방지할 수 있다.
본 발명에 의하면, 단말이 사용자가 보고 있는 정보와 다른정보를 타인의 시선방향으로 출력하기 때문에, 사용자는 별도로 단말의 화면을 가리지 않고도 공공장소에서 타인의 시선을 의식할 필요 없이 단말을 통해 보고있는 정보에 집중할 수 있게 된다.
본 발명에 의하면, 사용자가 필요에 따라 타인의 시선을 인식하는 단말의 기능을 실행을 할 수 있어 사용자의 편의가 증진된다.
본 발명에 의하면, 단말이 타인의 시선을 인식하기 때문에 사용자가 별도로 단말을 조작하여 특정기능을 실행시킬 필요가 없게되어 사용자의 편의가 증진된다.
본 발명에 의하면, 타인이 화면을 주시하는 것을 감지할 때에만 다른정보를 출력하기 때문에, 사용자의 시선방향과 다른방향으로 항상 다른정보를 출력하는 것보다 배터리의 소모를 줄일 수 있다.
도 1은 본 발명의 실시예에 따른 타인의 시선인식에 따라 정보를 표시하는 단말의 구성도이다.
도 2 내지 도 4는 본 발명의 실시예에 따른 타인의 시선인식에 따른 단말의 정보표시방법을 나타낸 흐름도이다.
도 5는 본 발명의 실시예에 따른 타인의 시선인식에 따른 단말의 정보표시방법을 나타내는 화면예시도이다.
이하 첨부된 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있는 바람직한 실시예를 상세히 설명한다. 다만, 본 발명의 바람직한 실시예에 대한 동작 원리를 상세하게 설명함에 있어 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. 또한, 도면 전체에 걸쳐 유사한 기능 및 작용을 하는 부분에 대해서는 동일한 도면 부호를 사용한다.
도 1은 본 발명의 실시예에 따른 타인의 시선인식에 따라 정보를 표시하는 단말의 구성도이다. 본 실시예의 단말(10)은 시선인식이 가능한 단말로서, 이동통신단말, 노트북(Notebook), PDA(Personal Digital Assistant), PMP(Portable Multimedia Player), DMB(Digital Multimedia Broadcasting), ATM(Automated Teller Machine), 내비게이션(Navigation) 또는 DVB(Digital Video Broadcasting)와 같은 디지털방송 수신기 등 현재 개발되어 상용화되었거나 향후 개발될 모든 장비를 포함하는 개념으로 해석되어야 한다.
본 실시예에 따른 단말(10)은 디스플레이부(13), 카메라부(15), 제어부(11)를 포함하고 저장부(16), 입력부(17), 근접감지부(18), 온도측정부(19)를 더 포함하여 구성될 수 있다.
디스플레이부(13)는 단말(10)의 사용자 명령에 따른 동작이나 데이터, 정보, 또는 컨텐츠를 시각적으로 표현하기 위한 장치이다. 본 발명의 디스플레이부(13)는 바라보는 방향에 따라 둘 이상의 정보를 하나의 화면에 표시할 수 있다. 예컨대 세가지의 정보를 하나의 화면에 표시하는 경우, 디스플레이부(13)는 백라이트로부터 입사된 광을 가운데, 좌측, 우측 화소의 3개의 광 경로로 분리하여 세가지의 정보를 하나의 화면에 동시에 표시할 수 있게된다. 예를 들어 하나의 화면을 세명의 사람이 동시에 바라보는 경우, 정면에서 바라보는 사람은 화면에 표시된 지도정보를 볼 수 있고, 좌측에서 바라보는 사람은 동영상을 볼 수 있고, 우측에서 바라보는 사람은 사진을 볼 수 있게된다. 다만 위에서 언급한 내용들은 예시일 뿐이며 현재 개발되어 상용화되었거나, 향후 기술발전에 따라 구현가능한 모든 다중정보 디스플레이 기술을 통해 디스플레이부(13)를 구현할 수 있다고 할 것이다.
또한 이후 본 발명을 설명함에 있어서 세가지의 정보를 하나의 화면에 표시하는 경우를 예시로 설명을 진행해 나가지만, 본 발명의 권리범위가 이에 한정되지는 않는다.
카메라부(15)는 객체의 촬영 기능을 수행하며, 특히 본 발명에 있어서 카메라부(15)는 시선 인식을 위한 영상을 획득한다. 카메라부(15)는 적어도 하나의 카메라를 포함한다. 또한 카메라부(15)는 이미지 센서, 신호처리부 및 영상처리부를 포함하여 구성될 수 있다. 이미지 센서는 촬영한 영상의 광신호를 아날로그 신호로 변환한다. 신호처리부는 아날로그 신호를 디지털 신호로 변환한다. 그리고 영상처리부는 신호처리부를 통해 입력되는 영상신호를 처리하여 영상데이터를 획득하며, 획득된 영상데이터를 제어부(11)나 디스플레이부(13)를 통해 출력하거나 저장부(16)에 저장할 수 있다.
저장부(16)는 단말(10)의 동작 제어시 필요한 프로그램과, 그 프로그램 수행 중에 발생되는 데이터를 저장한다. 본 발명에 있어서 저장부(16)는 시선 인식을 이용하여 화면에 정보를 출력하는, 예컨대 타인의 시선을 인식하여 표시중인 정보와는 다른정보를 타인의 시선방향으로 출력하는 프로그램을 저장한다. 그리고 저장부(16)는 단말(10)의 사용자 얼굴영상을 저장할 수 있으며, 카메라부(15)를 활성화하는 특정컨텐츠에 대한 설정정보를 저장할 수 있다. 또한 본 발명에 있어서 저장부(16)는 타인의 시선방향으로 출력할 다른정보에 대한 설정정보를 저장할 수 있다.
입력부(17)는 사용자 입력을 수신하여 이에 따른 전기적 신호를 제어부(11)로 전달하는 역할을 한다. 본 발명에 있어서 입력부(17)는 카메라부(15)를 활성화 시키기 위한 사용자의 입력을 수신한다. 입력부(17)는 사용자 입력을 위한 키패드, 터치패드, 터치스크린, 돔 스위치(dome switch), 조그 휠, 또는 조그 스위치 등의 입력장치를 포함할 수 있으며, 다만 이에 한정되지는 않으며 현재 개발되어 상용화되었거나 향후 기술발전에 따라 구현가능한 모든 입력장치를 통해 입력부(17)를 구현할 수 있다고 할 것이다. 또한 근접감지부(18)의 센서도 필요에 따라 입력부(17)로 이용될 수 있다.
근접감지부(18)는 객체의 근접을 감지하는 역할을 한다. 본 발명에 있어서 근접감지부(18)는 단말(10)에 객체가 접근함을 감지하면 감지신호를 제어부(11)로 전달하는 역할을 하게 된다. 본 발명의 근접감지부(18)는 카메라, 적외선센서, 초음파센서 등을 이용하여 단말(10)에 객체가 근접함을 감지할 수 있다.
단말(10)의 근접감지부(18)가 카메라를 포함한 경우라면, 제어부(11)는 카메라가 촬영하는 화상의 픽셀 변화를 시간 순서에 따라 비교하여 객체의 근접여부를 파악할 수 있다. 이를 위해, 예를 들어, 저장부(16)는 이진화된(binary) 삼원색 좌표계(RGB:Red-Green-Blue Coordinates) 정보 또는 색조/채도/명도 좌표계(HSI:Hue, Saturation, Intensity Coordinates) 정보 등을 더 저장하고, 제어부(11)는 화상의 픽셀을 저장된 좌표계 정보와 비교하여 판단 동작을 수행할 수 있다.
단말(10)의 근접감지부(18)가 초음파센서를 포함한 경우, 제어부(11)는 디스플레이부(14) 화면의 좌우측 특정각도의 법선방향과 수평하게 XY축 방향으로 적외선(초음파)를 조사하는 상태에서, 객체가 적외선(초음파)의 경로를 차단하는 것을 근접감지부(18)의 초음파센서로 감지하여 객체가 단말(10)에 근접하는지 여부를 파악할 수 있다.
또한, 단말(10)의 근접감지부(18)가 적외선센서를 포함한 경우에는, 객체에서 조사되는 적외선을 감지하여 객체가 단말(10)에 근접하는지 여부를 파악할 수도 있다.
다만 근접감지부(18)의 구성은 카메라, 적외선센서, 초음파센서에 한정되지는 않으며 현재 개발되어 상용화 되었거나, 향후 기술발전에 따라 구현 가능한 객체의 근접을 감지할 수 있는 모든 기술을 통해 근접감지부(18)를 구현할 수 있다고 할 것이다.
온도측정부(19)는 객체의 온도를 측정하는 역할을 하며 적어도 하나의 적외선 온도계를 포함한다. 본 발명에 있어서 온도측정부(19)는 근접감지부(18)로 감지한 단말(10)에 근접한 객체의 온도를 측정하여 측정신호를 제어부(11)로 전달한다. 이때 제어부(11)는 전달받은 측정신호로부터 근접한 객체가 사람인지 여부를 판단하게 된다. 즉 온도측정부(19)로 측정한 객체의 온도가 사람의 체온(예컨대 35.5~38℃)범위 이내이면 근접한 객체를 사람으로 판단하게 된다.
적외선 온도계는 적외선방사에 의하여 동작되는 온도계로서, 측정 원리는 절대 온도 0도(-273℃) 이상의 온도를 갖는 모든 객체가 빛의 속도로 발생하는 적외선 에너지를 적외선 온도계의 센서가 감지해서 열을 전기적 신호로 변환시킨 후 온도계 내에 내장된 회로가 그 신호를 온도 값으로 변환하여 객체의 온도를 표시하는 것이다. 적외선 온도계는 물체나 인체에 직접 접촉시키지 않고 물체에서 나오는 열을 감지하여 온도를 측정하는 비접촉식 온도계이다. 따라서 본 발명에서 단말(10)은 객체에 직접 접촉하지 않고도 객체의 온도를 측정할 수 있게된다.
제어부(11)는 단말(10)의 동작을 전체적으로 제어하는 역할을 하며, 이러한 동작을 수행하는 프로세서 등을 포함할 수 있다.
본 발명의 실시예에서, 제어부(11)는 디스플레이부(13) 화면에 특정정보를 표시하는 도중에 카메라부(15)로 촬영된 영상을 수신한다. 그리고 수신한 영상을 분석하여 타인의 시선을 인식하게 되고, 인식한 타인의 시선이 디스플레이부(13) 화면을 주시하는 것으로 판단되는 경우, 디스플레이부(13)에 표시중인 특정정보와 다른정보를 타인의 시선방향으로 출력하게 된다. 이때 단말(10)의 사용자는 표시중인 특정정보를 그대로 볼 수 있으며, 동시에 타인은 디스플레이부(13) 화면에서 다른정보를 보게 된다.
여기서 디스플레이부(13) 화면에 표시한 특정정보는 문자메세지, 이메일, 사진, 동영상, 메모, 문서, 전화번호부, 금융정보(예컨대 계좌번호, 신용카드번호, 각종 금융거래관련 비밀번호 등) 등 표시 가능한 어떠한 정보도 될 수 있다.
또한 디스플레이부(13) 화면을 통해 타인의 시선방향으로 출력하는 다른정보는 단말(10)에 디폴트로 설정된 정보 또는 사용자에 의해 기 설정된 정보일 수 있다. 이때 다른정보의 설정정보는 저장부(16)에 저장되어 있게된다. 예컨대 다른정보는 풍경사진, 시계 또는 날씨정보, 경고메세지, 검은색의 화면 등 표시 가능한 어떠한 정보도 될 수 있으며 단말(10) 사용자는 설정을 변경할 수 있다. 예를 들어 디스플레이부(13) 화면이 세가지의 정보를 표시할 수 있는 경우, 좌우측으로 경고메세지가 출력되도록 단말(10)에 디폴트로 설정되어 있을 수 있다. 이때 사용자는 좌측으로는 날씨정보가 출력되고 우측으로는 풍경사진이 출력되도록 설정을 변경할 수 있다. 이에 따라 타인의 시선방향으로 출력할 다른정보를 사용자가 설정할 수 있게되어 단말(10)조작시 사용자의 선택의 폭이 넓어지게 된다.
한편 제어부(11)는 수신한 영상을 분석하여 인식한 타인의 시선이 디스플레이부(13) 화면을 일정시간을 초과하여 주시하는 것으로 판단되는 경우에 디스플레이부(13)에 표시중인 특정정보와 다른정보를 타인의 시선방향으로 출력할 수도 있다.
제어부(11)는 다음과 같이 시선을 추적할 수 있다. 먼저 제어부(11)는 카메라부(15)로 촬영한 영상에서 얼굴 영상을 추출한다. 그리고 제어부(19)는 추출한 얼굴 영상에서 눈을 추출하고, 추출한 눈의 위치 변화로부터 시선을 추적한다. 예컨대, 얼굴 영상은 PCA(principal component analysis), FDA(Fisher Discriminant Analysis), ICA(Independent Component Analysis) 중에 하나를 이용하여 추출할 수 있다. 제어부(11)는 추출한 얼굴 영상에서 얼굴구성요소인 눈을 adaboost 또는 SVM(Support Vector Machine)를 이용하여 추출한다. 그리고 제어부(11)는 추출한 눈의 위치변화로부터 시선을 추적한다. 여기서 adaboost는 객체의 형태를 추출하기 위한 학습 알고리즘으로, Yoav Freund and Robert E. Schapire 에 의한 "A decision-theoretic generalization of on-line learning and an application to boosting", In Computational Learning Theory: Eurocolt '95, pp. 23-37, Springer-Verlag, 1995에 자세히 기재되어 있다.
그 외 제어부(11)는 수신한 영상에서 얼굴 영상을 추출하고, 추출한 얼굴 영상에서 눈을 추출하기 위해서, ASM(Active Shape Modelling), AAM(Active Appearance Modelling) 등과 같은 얼굴 모델링 기법을 사용할 수도 있다.
예를 들어 단말(10)의 사용자가 지하철 등 공공장소내에서 사용자의 주민등록번호, 사용자의 신용카드번호 등 개인정보가 담긴 문자메세지를 작성하여 전송하려고 하는 경우, 카메라부(15)는 사용자 주위를 촬영한다. 그리고 제어부(11)는 카메라부(15)로 촬영한 영상을 수신하여 수신한 영상을 분석하게 되고, 분석한 영상으로부터 사용자 주위에 있는 사람들의 시선을 인식하게 된다. 이때 사용자 주위에 있는 사람들 중 한명이 사용자의 단말(10) 화면을 일정시간(예컨대 3초) 초과하여 주시하고 있음을 단말(10)이 인식하게 되면 제어부(11)는 화면을 주시하고 있는 사람의 방향으로 날짜 및 시계가 표시된 영상을 디스플레이부(13) 화면에 출력하게 된다. 또는 사용자의 좌우측에서 각각 사용자의 단말(10) 화면을 일정시간 초과하여 주시하고 있음을 단말(10)이 인식하게 되면 제어부(11)는 좌측으로는 날짜 및 시계가 표시된 영상을 디스플레이부(13) 화면에 출력한다. 그리고 우측으로는 풍경사진이 표시된 영상을 디스플레이부(13) 화면에 출력하게 된다. 이에 따라 단말(10) 사용자는 개인정보가 담긴 문자메세지가 타인에게 노출되는 것을 최소화 할 수 있다.
또한 제어부는 카메라부(15)로 촬영된 영상을 수신하고, 수신한 영상에서 얼굴영상을 추출하고, 추출한 얼굴영상과 저장부(16)에 기 저장되어 있는 단말(10)의 사용자 얼굴영상을 비교하여 사용자 이외에 타인의 얼굴영상을 다시 추출하고, 추출한 타인의 얼굴영상에서 눈 영상을 추출하여 타인의 시선을 인식할 수 있다. 사용자의 얼굴영상과 타인의 얼굴영상을 구분하는 방법은 위에서 설명한 adaboost 또는 SVM(Support Vector Machine)를 통해 구현될 수 있으며, 다만 이에 한정되는 것은 아니다.
본 발명의 실시예에서, 제어부(11)는 시선 인식을 위해 카메라부(15)를 활성화 시킬 수 있다. 이때 제어부(11)는 입력부(17)로 사용자의 입력을 받아서 카메라부(15)를 활성화 할 수 있다.
예를 들어 사용자가 지하철 등 공공장소내에서 사용자의 주민등록번호, 사용자의 신용카드번호 등 개인정보가 담긴 문자메세지를 작성하여 전송하려고 하는 경우, 사용자는 입력부(17)로 카메라부(15)를 활성화 하는 입력을 한다. 이후 제어부(11)는 카메라부(15)를 활성화 하게되고 타인의 시선을 인식하게 된다. 이에 따라 사용자는 안심하고 개인정보가 담긴 문자메세지를 작성할 수 있게되며 타인에게 개인정보가 노출되는 것을 최소화 할 수 있다. 또한 사용자가 필요에 따라 언제든 카메라부(15)를 활성화하여 타인의 시선을 인식할 수 있게되어 단말(10)의 활용도가 높아지게 된다.
한편 제어부(11)는 디스플레이부(13) 화면에 표시된 특정정보가 기 설정된 특정컨텐츠인 경우 자동으로 카메라부(15)를 활성화 할 수도 있다. 여기서 특정컨텐츠는 단말(10)에 디폴트로 설정된 컨텐츠 또는 단말(10)의 사용자에 의해 설정된 컨텐츠 일 수 있다. 이때 저장부(16)는 카메라부(15)를 활성화하는 특정컨텐츠 설정정보를 저장하고 있다.
예를 들어 사용자가 단말(10)에서 동영상을 재생하는 경우, 제어부(11)는 저장부(16)에 저장된 카메라부(15)를 활성화하는 특정컨텐츠 설정정보로부터 동영상 재생시 카메라부(15)를 활성화 하도록 설정되어 있는지 여부를 판단한다. 그리고 동영상 재생시 카메라부(15)를 활성화 하도록 설정되어 있는 경우, 제어부(11)는 자동으로 카메라부(15)를 활성화하여 타인의 시선을 인식할 수 있도록 하게된다. 이에 따라 사용자는 단말(10)을 조작하여 카메라부(15)를 활성화 할 수고를 덜게된다. 또한 사용자가 카메라부(15)를 활성화 하기 위한 특정컨텐츠를 설정할 수 있어 사용자의 편의가 증진된다.
본 발명의 실시예에서, 제어부(11)는 근접감지부(18)로 객체가 단말(10)에 접근함을 감지하면 카메라부(15)를 활성화하여 타인의 시선을 인식할 수 있다. 이때 근접감지부(18)는 카메라, 적외선센서, 초음파센서 중 적어도 하나를 이용하여 객체가 단말(10)에 접근함을 감지할 수 있으며, 이외에도 접근을 감지할 수 있는 가능한 모든 장치를 통해 객체가 단말(10)에 접근함을 감지할 수 있다고 할 것이다. 카메라, 적외선센서, 초음파센서에 대한 자세한 설명은 이미 한 바 생략한다.
또한 제어부(11)는 근접감지부(18)로 객체가 단말(10)에 접근함을 감지하고, 감지한 객체의 온도를 온도측정부(19)로 측정하여 객체가 사람으로 판단되는 경우 카메라부(15)를 활성화 하여 타인의 시선을 인식하도록 할 수 있다.
예를 들어 사용자가 단말(10)을 이용하여 어떤 정보를 보고있는 경우, 사용자가 단말(10)을 들고 벽으로 다가가게 되면 단말(10)은 근접감지부(18)로 벽이 단말(10)에 접근함을 감지하게 된다. 이후 온도측정부(19)로 벽의 온도를 측정하게 되고 제어부(11)는 단말(10)에 접근한 객체가 사람이 아닌것으로 판단하여 카메라부(15)를 활성화 하지 않는다. 반면에 사용자가 단말(10)을 들고 타인쪽으로 다가가거나 타인이 사용자쪽으로 다가오게 되면 단말(10)은 근접감지부(18)로 객체가 단말(10)에 접근함을 감지하게 된다. 이후 온도측정부로 객체의 온도를 측정하게 되고, 제어부(11)는 단말(10)에 접근한 객체가 사람인 것으로 판단하게 된다. 그리고 제어부(11)는 카메라부(15)를 활성화하여 타인의 시선을 인식할 수 있도록 하게 된다. 이에 따라 사용자는 주위로 타인이 다가오는 것을 인지하지 못하더라도 사용자가 단말(10)로 보고있는 정보가 타인에게 유출되는 것을 방지할 수 있다. 또한 온도측정을 통해 단말(10)에 접근한 객체가 사람인지 여부를 판별함으로써 단말(10)이 불필요하게 카메라부(15)를 활성화 하는 것을 방지할 수 있다.
도 2 내지 도 4는 본 발명의 실시예에 따른 타인의 시선인식에 따른 단말의 정보표시방법을 나타낸 흐름도이다.
도 1, 도 2를 참조하면, 단말(10)은 디스플레이부(13) 화면에 특정정보를 표시한다(S20). 이때 디스플레이부(13) 화면에 표시한 특정정보는 문자메세지, 이메일, 사진, 동영상, 메모, 문서, 전화번호부, 금융정보(예컨대 계좌번호, 신용카드번호, 각종 금융거래관련 비밀번호 등) 등 화면에 표시 가능한 어떠한 정보도 될 수 있다.
이후 객체가 단말(10)에 접근함을 근접감지부(18)로 감지하게 된다(S31). 이때 근접감지부(18)는 카메라, 적외선센서, 초음파센서 등을 이용하여 객체가 단말(10)에 접근함을 감지할 수 있다.
그리고 근접한 객체의 온도를 온도측정부(19)로 측정하여 객체가 사람인지 여부를 판단하게 된다(S33). 즉 온도측정부(19)는 적외선 온도계 등을 이용하여 근접한 객체의 온도를 측정하게 된다.
측정한 객체의 온도로부터 근접한 객체가 사람으로 판단되는 경우 시선 모니터링을 활성화 하게된다(S39). 즉 카메라부(15)를 활성화하여 타인의 시선을 인식할 수 있도록 한다.
다음으로 단말(10)은 카메라부(15)를 통하여 근접한 객체를 포함한 영상을 촬영한다(S41).
이후 단말(10)은 촬영한 영상으로 분석하여 타인의 시선을 인식하여 실시간으로 추적하게 된다. 더 상세히 설명하면 단말(10)은 촬영한 영상에서 타인의 얼굴영상을 추출한다(S43). 이때 저장부(16)에 기 저장된 단말(10)의 사용자 얼굴영상과 촬영된 영상을 비교하여 타인의 얼굴영상을 추출할 수 있다. 이어서 S43단계에서 추출한 타인의 얼굴영상에서 눈을 추출한다(S45). 그리고 단말(10)은 추출한 눈의 위치 변화로부터 타인의 시선을 추적한다(S47). 예컨대 단말(10)은 촬영한 영상에서 얼굴 영상을 PCA, FDA, ICA 중에 하나를 이용하여 추출할 수 있다. 단말(10)은 추출한 얼굴 영상에서 눈을 adaboost 또는 SVM을 이용하여 추출한다. 그리고 단말(10)은 추출한 눈의 위치변화로부터 타인의 시선을 추적할 수 있다.
다음으로 단말(10)은 화면 상에서 타인의 시선이 정지하는 시간을 산출한다(S51). 그리고 단말(10)은 산출된 시간이 설정된 일정시간을 초과하는 지의 여부를 판단한다(S53).
S53단계의 판단 결과 산출된 시간이 설정된 일정시간을 초과하지 않는 경우, 단말(10)은 특정정보의 현재 표시 상태를 유지한다.
S53단계의 판단 결과 산출된 시간이 설정된 일정시간을 초과한 경우, 단말(10)은 타인의 시선이 단말(10)의 화면을 주시하는 것으로 판단하게 된다(S60). 그리고 현재 표시중인 특정정보와는 다른정보(예컨대 날씨정보, 시계정보, 풍경사진 등)를 복수의 정보를 표시할 수 있는 디스플레이부(13) 화면을 통해 타인의 시선방향으로 출력한다(S70).
한편 S70단계에서 타인의 시선방향으로 출력하는 다른정보는 단말(10)에 디폴트로 설정된 정보 또는 사용자에 의해 기 설정된 정보일 수 있다. 이때 다른정보에 대한 설정정보는 저장부(16)에 저장되어 있게된다. 예컨대 디스플레이부(13) 화면이 세가지의 정보를 표시할 수 있는 경우, 사용자가 좌측으로는 날씨정보를 출력하도록 설정하고 우측으로는 경고메세지를 출력하도록 설정할 수 있으며 사용자의 필요에 따라 설정을 변경할 수도 있다.
이에 따라 타인의 시선방향으로 출력할 다른정보를 사용자가 설정할 수 있게되어 단말(10)조작시 사용자의 선택의 폭이 넓어지게 된다. 또한 사용자는 주위로 타인이 다가오는 것을 인지하지 못하더라도 사용자가 단말(10)로 보고있는 정보가 타인에게 유출되는 것을 방지할 수 있다. 그리고 온도측정을 통해 단말(10)에 접근한 객체가 사람인지 여부를 판별함으로서 단말(10)이 불필요하게 시선 모니터링을 활성화 하는 것을 방지할 수 있다.
한편 도 1 내지 도 3을 참조하면 단말(10)이 S39 단계에서 시선 모니터링을 활성화 하는 것은 단말(10)이 사용자로부터 입력부(17)를 통해 시선 모니터링을 실행하는 입력을 수신하여 수행될 수 있다(S35).
이때 시선 모니터링을 실행하는 입력은 키패드입력, 음성입력, 화면터치입력 또는 제스처 입력 중 적어도 하나일 수 있으며 이외에도 현재 개발되어 상용화 되었거나 향후 기술발전에 따라 상용화 될 모든 입력장치를 통한 입력일 수 있다. 이후의 단계는 도 2에서 설명한 단계와 동일한 바 자세한 설명을 생략한다.
이에 따라 사용자는 안심하고 단말(10)의 화면에 표시중인 특정정보에 집중할 수 있으며 타인에게 개인정보가 노출되는 것을 최소화 할 수 있다. 또한 사용자가 필요에 따라 언제든 시선 모니터링을 활성화하여 타인의 시선을 인식할 수 있게되어 단말(10)의 활용도가 높아지게 된다.
한편 도 1, 도 2, 도 4를 참조하면 단말(10)이 S39 단계에서 시선 모니터링을 활성화 하는 것은 S20단계에서 단말(10)이 화면에 표시한 특정정보가 기 설정된 특정컨텐츠인 경우 자동으로 수행될 수 있다(S37).
이때 기 설정된 특정컨텐츠의 설정정보는 저장부(16)에 저장되어 있다. 그리고 시선 모니터링을 활성화 할 특정컨텐츠의 설정정보는 단말(10)에 디폴트로 설정되어 있을 수 있으며 사용자에 의해 기 설정되어 저장부(16)에 저장될 수도 있다.
이후의 단계는 도 2에서 설명한 단계와 동일한 바 자세한 설명을 생략한다.
이에 따라 사용자는 별도로 단말(10)을 조작하여 시선 모니터링을 활성화하는 수고를 덜게된다. 또한 기 설정된 특정컨텐츠를 단말(10)의 화면에 표시하는 경우 시선 모니터링이 자동으로 활성화되어, 사용자가 타인이 근접하는 것을 인지하지 못하더라도, 단말(10)의 화면에 표시된 정보가 타인에게 노출되는 것을 방지할 수 있다. 그리고 사용자가 시선 모니터링을 활성화 하기 위한 특정컨텐츠를 설정할 수 있어 사용자의 편의가 증진된다.
도 5는 본 발명의 실시예에 따른 타인의 시선인식에 따른 단말의 정보표시방법을 나타내는 화면예시도이다.
단말(10)의 사용자가 지인에게 은행 계좌번호를 담은 문자메세지를 작성하여 전송하려는 경우, 단말(10)은 디스플레이부(13) 화면을 주시하는 복수의 타인의 시선을 인식한다. 그리고 사용자의 좌측에서 화면을 바라보고 있는 타인의 방향으로는 날짜 및 시계가 표시된 영상(83)을 디스플레이부(13) 화면에 출력한다. 또한 동시에 사용자의 우측에서 화면을 바라보고 있는 타인의 방향으로는 풍경사진이 표시된 영상(85)을 디스플레이부(13) 화면에 출력한다. 이에 따라 단말(10) 사용자는 공공장소(예컨대 지하철)에서도 타인의 시선을 의식할 필요 없이 안심하고 은행 계좌번호를 문자메세지로 작성하여 지인에게 전송할 수 있다. 또한 문자메세지 내용이 사용자에 인접한 타인에게 노출되는 것을 방지할 수 있다.
이상으로 본 발명의 기술적 사상을 예시하기 위한 바람직한 실시예와 관련하여 설명하고 도시하였지만, 본 발명은 이와 같이 도시되고 설명된 그대로의 구성 및 작용에만 국한되는 것은 아니며, 기술적 사상의 범주를 일탈함 없이 본 발명에 대해 다수의 변경 및 수정이 가능함을 당업자들은 잘 이해할 수 있을 것이다. 따라서 그러한 모든 적절한 변경 및 수정과 균등물들도 본 발명의 범위에 속하는 것으로 간주되어야 할 것이다.
본 발명은 단말의 정보표시 기술에 관한 것으로서, 더욱 상세하게는 단말에 특정정보를 표시한 상태에서 타인의 시선을 인식하면 바라보는 방향에 따라 복수의 정보를 하나의 화면에 표시할 수 있는 디스플레이부를 통해 사용자가 보고 있는 정보와 다른정보를 타인의 시선방향으로 출력하도록 한다. 본 발명에 의하면 사용자가 공공장소에서도 타인의 시선을 의식할 필요없이 화면에 표시된 정보에 집중할 수 있다. 또한 사용자의 개인정보가 불특정 타인에게 무분별하게 노출되는 것을 방지할 수 있으며, 특히 금융정보 등의 노출을 최소화 하여 발생 가능한 사고를 미연에 방지할 수 있다. 그리고 타인이 화면을 주시할 때에만 다른정보를 출력하기 때문에, 사용자의 시선방향과 다른방향으로 항상 다른정보를 출력하는 것보다 전력소모를 줄일 수 있다. 한편 본 발명은 ATM(automated teller machine)기기 등 결제서비스를 제공하는 장치 등의 분야에도 응용이 가능하다.
10: 단말 11: 제어부
13: 디스플레이부 15: 카메라부
16: 저장부 17: 입력부
18: 근접감지부 19: 온도측정부

Claims (21)

  1. 바라보는 방향에 따라 둘 이상의 정보를 하나의 화면에 표시할 수 있는 디스플레이부;
    객체를 촬영하는 적어도 하나의 카메라부;
    상기 디스플레이부에 특정정보를 표시하는 도중에, 상기 카메라부에서 촬영된 영상을 수신하고, 수신한 상기 영상을 분석하여 타인의 시선을 인식하고, 인식한 상기 타인의 시선이 상기 화면을 주시하는 경우 상기 디스플레이부에 표시된 상기 특정정보와는 다른정보를 상기 타인의 시선 방향으로 출력하는 제어부;
    를 포함하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  2. 제1항에 있어서,
    사용자의 얼굴영상을 저장하는 저장부; 를 더 포함하고,
    상기 제어부는 수신한 상기 영상에서 얼굴영상을 추출하고, 추출한 상기 얼굴영상과 상기 저장부에 저장된 상기 사용자의 얼굴영상을 비교하여 상기 타인의 얼굴영상을 추출하고, 추출한 상기 타인의 얼굴영상에서 눈 영상을 추출하여 상기 타인의 시선을 인식하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  3. 제1항에 있어서,
    상기 제어부는 인식한 상기 타인의 시선이 상기 화면을 일정시간 초과하여 주시하는 경우 상기 디스플레이부에 표시된 상기 특정정보와는 다른정보를 상기 타인의 시선 방향으로 출력하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  4. 제1항에 있어서,
    상기 특정정보는 문자메세지, 이메일, 사진, 동영상, 메모, 문서, 전화번호부, 금융정보 중 적어도 하나인 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  5. 제1항에 있어서,
    상기 타인의 시선 방향으로 출력할 상기 다른정보의 설정정보를 저장하는 저장부; 를 더 포함하고,
    상기 다른정보는 상기 단말에 디폴트로 설정된 정보 또는 사용자에 의해 기 설정된 정보인 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  6. 제1항에 있어서,
    입력을 수신하는 입력부; 를 더 포함하고,
    상기 제어부는 상기 입력부로 사용자의 입력을 수신하여 상기 카메라부를 활성화하거나 또는 상기 특정정보가 기 설정된 특정컨텐츠인 경우 자동으로 상기 카메라부를 활성화 하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  7. 제6항에 있어서,
    상기 카메라부를 활성화하는 상기 특정컨텐츠 설정정보를 저장하는 저장부; 를 더 포함하고,
    상기 특정컨텐츠는 상기 단말에 디폴트로 설정된 컨텐츠 또는 상기 사용자에 의해 기 설정된 컨텐츠인 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  8. 제1항에 있어서,
    객체의 접근을 감지하는 근접감지부; 를 더 포함하고
    상기 제어부는 상기 단말에 객체가 접근함을 상기 근접감지부로 감지하면 상기 카메라부를 활성화 하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  9. 제8항에 있어서,
    상기 근접감지부는 카메라, 적외선센서, 초음파센서 중 적어도 하나를 포함하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  10. 제8항에 있어서,
    객체의 온도를 측정하는 온도측정부; 를 더 포함하고
    상기 제어부는 상기 단말에 접근한 상기 객체의 온도를 상기 온도측정부로 측정하여 상기 객체가 사람으로 판단되는 경우 상기 카메라부를 활성화 하는 것을 특징으로 하는 타인의 시선인식에 따라 정보를 표시하는 단말.
  11. 단말이 화면에 특정정보를 표시하는 정보표시단계;
    상기 단말이 상기 화면을 타인의 시선이 주시하는지 여부를 모니터링하는 모니터링단계;
    상기 모니터링 중 상기 화면을 상기 타인의 시선이 주시하는 것으로 판단되면, 상기 단말이 상기 화면에 상기 특정정보와는 다른정보를 상기 타인의 시선 방향으로 출력하는 출력단계;
    를 포함하는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  12. 제11항에 있어서, 상기 모니터링단계는,
    상기 단말이 적어도 하나의 카메라로 영상을 촬영하는 촬영단계;
    상기 단말이 상기 촬영된 영상을 분석하여 상기 타인의 시선을 실시간으로 추적하는 추적단계;
    상기 단말이 상기 시선 추적 중 상기 타인의 시선이 상기 단말의 화면에 정지하는 시간을 산출하는 산출단계;
    상기 산출된 시간이 일정시간을 초과하는 경우, 상기 단말이 상기 타인의 시선이 상기 화면을 주시하는 것으로 판단하는 판단단계;
    를 포함하는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  13. 제12항에 있어서, 상기 추적단계는,
    상기 단말이 상기 카메라로 촬영한 영상에서 타인의 얼굴 영상을 추출하는 단계;
    상기 단말이 상기 추출된 타인의 얼굴 영상에서 눈을 추출하고, 상기 추출한 눈의 위치 변화를 추적하여 타인의 시선을 추적하는 단계;
    를 포함하는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  14. 제11항에 있어서, 상기 정보표시단계에서,
    상기 특정정보는 문자메세지, 이메일, 사진, 동영상, 메모, 문서, 전화번호부, 금융정보 중 적어도 하나를 포함하는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  15. 제11항에 있어서, 상기 출력단계에서,
    상기 다른정보는 상기 단말에 디폴트로 설정된 정보 또는 사용자에 의해 기 설정된 정보인 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  16. 제11항에 있어서, 상기 모니터링단계 이전에,
    상기 단말이 모니터링 모드를 활성화하는 활성화단계;
    를 더 포함하는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  17. 제16항에 있어서, 상기 활성화단계에서,
    상기 모니터링 모드는 사용자의 입력에 의해 활성화 되거나 또는 특정컨텐츠를 실행하는 경우 자동으로 활성화 되는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  18. 제17항에 있어서,
    상기 특정컨텐츠는 상기 단말에 디폴트로 설정된 컨텐츠 또는 상기 사용자에 의해 기 설정된 컨텐츠인 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  19. 제17항에 있어서,
    상기 사용자의 입력은 키패드입력, 음성입력, 화면터치입력 또는 제스처입력 중 적어도 하나인 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  20. 제16항에 있어서, 상기 활성화단계에서,
    상기 모니터링 모드는 객체가 일정 거리내에 접근함을 상기 단말이 감지하여 활성화 되는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
  21. 제16항에 있어서, 상기 활성화단계에서,
    상기 모니터링 모드는 객체가 일정 거리내에 접근함을 상기 단말이 감지하고 상기 객체의 온도를 측정하여 상기 객체가 사람으로 판단되는 경우에 활성화 되는 것을 특징으로 하는 타인의 시선인식에 따른 단말의 정보표시방법.
KR1020100027952A 2010-03-29 2010-03-29 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말 KR101230265B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100027952A KR101230265B1 (ko) 2010-03-29 2010-03-29 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100027952A KR101230265B1 (ko) 2010-03-29 2010-03-29 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말

Publications (2)

Publication Number Publication Date
KR20110108647A KR20110108647A (ko) 2011-10-06
KR101230265B1 true KR101230265B1 (ko) 2013-02-06

Family

ID=45026153

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100027952A KR101230265B1 (ko) 2010-03-29 2010-03-29 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말

Country Status (1)

Country Link
KR (1) KR101230265B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190097764A (ko) * 2018-02-13 2019-08-21 심찬욱 기부 시스템
KR20200118524A (ko) 2019-04-08 2020-10-16 유홍준 능동형 동작 인식 추적 기반의 영상 처리 시스템 및 방법

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101413649B1 (ko) * 2012-11-07 2014-07-09 (주)아바비젼 다수의 사용자를 위한 터치 테이블 탑 디스플레이장치
KR102093198B1 (ko) 2013-02-21 2020-03-25 삼성전자주식회사 시선 인식을 이용한 사용자 인터페이스 방법 및 장치
KR102337682B1 (ko) * 2014-10-01 2021-12-09 삼성전자주식회사 디스플레이 장치 및 그의 제어 방법
KR102594097B1 (ko) * 2015-09-08 2023-10-25 에스케이플래닛 주식회사 사용자 장치, 서비스 제공 장치, 그를 포함하는 결제 시스템, 그의 제어 방법 및 컴퓨터 프로그램이 기록된 기록매체
KR102356345B1 (ko) 2016-04-20 2022-01-28 삼성전자주식회사 전자 장치 및 그 제어 방법
CN109753776B (zh) * 2018-12-29 2021-01-08 维沃移动通信有限公司 一种信息处理的方法、装置以及移动终端
CN109947381B (zh) * 2019-02-28 2023-08-25 佛山星乔电子科技有限公司 一种地铁半透明显示装置群组的多线联动控制方法及控制系统
KR102140927B1 (ko) * 2020-02-11 2020-08-04 주식회사 베오텍 공간 터치 제어방법
US11403936B2 (en) * 2020-06-12 2022-08-02 Smith Micro Software, Inc. Hygienic device interaction in retail environments

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060170644A1 (en) 2003-03-20 2006-08-03 Sadao Ioki Image display unit
KR20070071933A (ko) * 2005-12-30 2007-07-04 브이케이 주식회사 보안필터가 장착된 이동통신 단말기
KR100810308B1 (ko) 2005-03-30 2008-03-04 엡슨 이미징 디바이스 가부시키가이샤 액정 표시 장치
KR20080041051A (ko) * 2006-11-06 2008-05-09 주식회사 시공테크 관람자의 시선 방향을 고려한 전시 시스템의 인터페이스방법 및 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060170644A1 (en) 2003-03-20 2006-08-03 Sadao Ioki Image display unit
KR100810308B1 (ko) 2005-03-30 2008-03-04 엡슨 이미징 디바이스 가부시키가이샤 액정 표시 장치
KR20070071933A (ko) * 2005-12-30 2007-07-04 브이케이 주식회사 보안필터가 장착된 이동통신 단말기
KR20080041051A (ko) * 2006-11-06 2008-05-09 주식회사 시공테크 관람자의 시선 방향을 고려한 전시 시스템의 인터페이스방법 및 장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190097764A (ko) * 2018-02-13 2019-08-21 심찬욱 기부 시스템
KR102192948B1 (ko) * 2018-02-13 2020-12-18 심찬욱 기부 시스템
KR20200118524A (ko) 2019-04-08 2020-10-16 유홍준 능동형 동작 인식 추적 기반의 영상 처리 시스템 및 방법

Also Published As

Publication number Publication date
KR20110108647A (ko) 2011-10-06

Similar Documents

Publication Publication Date Title
KR101230265B1 (ko) 타인의 시선인식에 따른 단말의 정보표시방법 및 그 단말
EP2979154B1 (en) Display device and control method thereof
KR102039427B1 (ko) 스마트 글라스
WO2019101021A1 (zh) 图像识别方法、装置及电子设备
US10942580B2 (en) Input circuitry, terminal, and touch response method and device
US10817705B2 (en) Method, apparatus, and system for resource transfer
US9230158B1 (en) Fraud detection for facial recognition systems
US9607138B1 (en) User authentication and verification through video analysis
US9436862B2 (en) Electronic apparatus with segmented guiding function and small-width biometrics sensor, and guiding method thereof
EP2879095A1 (en) Method, apparatus and terminal device for image processing
US10776646B2 (en) Identification method and apparatus and computer-readable storage medium
US20220309836A1 (en) Ai-based face recognition method and apparatus, device, and medium
US20150261997A1 (en) Apparatus and method for recognizing image
SG177164A1 (en) Controlled access to functionality of a wireless device
Khamis et al. Understanding face and eye visibility in front-facing cameras of smartphones used in the wild
CN105279459A (zh) 一种终端防偷窥方法及移动终端
US20180357400A1 (en) Electronic device and method for providing user information
KR20140043689A (ko) 대상물의 자동적 인식과 캡쳐
US20220269800A1 (en) Privacy protection method for electronic device and electronic device
CN110619239A (zh) 应用界面处理方法、装置、存储介质及终端
CN111062248A (zh) 图像检测的方法、装置、电子设备及介质
CN111695509A (zh) 一种身份验证方法、装置、机器可读介质及设备
Lian et al. Smart privacy-preserving screen based on multiple sensor fusion
JP2009156948A (ja) 表示制御装置、表示制御方法、及び、表示制御プログラム
US10742937B2 (en) Watching apparatus, watching method, and recording medium

Legal Events

Date Code Title Description
A201 Request for examination
N231 Notification of change of applicant
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160113

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170103

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20180122

Year of fee payment: 6

LAPS Lapse due to unpaid annual fee