KR101554412B1 - Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring - Google Patents

Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring Download PDF

Info

Publication number
KR101554412B1
KR101554412B1 KR1020140001751A KR20140001751A KR101554412B1 KR 101554412 B1 KR101554412 B1 KR 101554412B1 KR 1020140001751 A KR1020140001751 A KR 1020140001751A KR 20140001751 A KR20140001751 A KR 20140001751A KR 101554412 B1 KR101554412 B1 KR 101554412B1
Authority
KR
South Korea
Prior art keywords
user
module
transparent screen
gaze
transparent
Prior art date
Application number
KR1020140001751A
Other languages
Korean (ko)
Other versions
KR20150081846A (en
Inventor
조성호
한효녕
최봉재
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020140001751A priority Critical patent/KR101554412B1/en
Publication of KR20150081846A publication Critical patent/KR20150081846A/en
Application granted granted Critical
Publication of KR101554412B1 publication Critical patent/KR101554412B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Dermatology (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • User Interface Of Digital Computer (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 디바이스(Wearable Device)는 사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈; 상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈; 상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈; 상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈; 및 상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 웨어러블 프레임을 포함한다.A wearable device for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement comprises an object recognition module for recognizing at least one object located in front of the user; A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object; An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest; A transparent screen module for displaying information of the object; And a wearable frame for supporting the EEG measurement module, the eye tracking module, the object recognition module, and the transparent screen module and worn by the user.

Description

시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 디바이스{WEARABLE DEVICE FOR EXTRACTING USER INTENTION AGAINST USER VIEWING OBJECT USING GAZE TRACKING AND BRAIN WAVE MEASURING}TECHNICAL FIELD [0001] The present invention relates to a wearable device for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement,

본 발명은 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 디바이스에 관한 것으로, 구체적으로 사용자가 주시하는 대상 물체를 선택하고, 선택된 대상 물체에 대한 사용자의 의도를 추출하는 과정에서 시선 추적 및 뇌파 측정을 이용하는 기술에 관한 것이다.
The present invention relates to a wearable device for extracting a user's intention to an object viewed by a user using eye tracking and EEG measurement. More particularly, the present invention relates to a wearable device for selecting an object to be watched by a user, The present invention relates to a technique of using eye tracking and brain wave measurement in the process of extracting a brain.

시선 추적만을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 기술은 사용자의 시선을 추적하는 과정에서, 사용자의 시선이 일정 시간 이상 물체에 머무는 경우, 해당 물체를 사용자가 선택한 것으로 인식함으로써, 사용자의 의도를 추출할 수 있다.A technique of extracting a user's intention to an object viewed by a user using only eye tracking is performed in a process of tracking a user's gaze. When a user's gaze stays on an object for a predetermined time or longer, , The user's intention can be extracted.

따라서, 시선 추적만을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 기술은 사용자가 주변 관찰을 위해 의도하지 않은 물체를 단순 응시하는 경우, 의도하지 않은 물체가 사용자에 의해 선택된 것으로 인식하는 문제점이 발생한다.Therefore, a technique of extracting a user's intention to an object viewed by a user using only eye tracking can be applied to a case in which a user looks at an object that is not intended for the surrounding observation and recognizes that an unintended object is selected by the user A problem arises.

이에, 본 명세서에서는 시선 추적뿐만 아니라, 뇌파 측정을 이용하여, 사용자가 주시하는 대상 물체를 정확히 선택하여, 사용자의 의도를 추출하는 기술을 제안한다.
Accordingly, in this specification, a technology for extracting a user's intention by accurately selecting an object to be watched by a user using not only eye tracking but also EEG measurement is proposed.

본 발명의 실시예들은 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 대상 물체를 정확히 선택하는 방법, 장치 및 시스템을 제공한다.Embodiments of the present invention provide a method, apparatus, and system for accurately selecting an object to be watched by a user using eye tracking and brain wave measurement.

또한, 본 발명의 실시예들은 사용자가 주시하는 대상 물체를 선택하는 과정에서, 사용자의 단순 응시로부터 발생하는 작동 오류 현상을 감소시키는 방법, 장치 및 시스템을 제공한다.In addition, embodiments of the present invention provide a method, an apparatus, and a system for reducing an operation error phenomenon resulting from a simple examination of a user in a process of selecting an object to be watched by a user.

또한, 본 발명의 실시예들은 선택된 대상 물체에 대한 정보를 사용자에게 디스플레이하는 방법, 장치 및 시스템을 제공한다.Embodiments of the present invention also provide a method, apparatus, and system for displaying information about a selected object to a user.

또한, 본 발명의 실시예들은 대상 물체에 대한 사용자의 의도를 추출함으로써, 추출된 사용자의 의도를 기초로 대상 물체를 제어하는 방법, 장치 및 시스템을 제공한다.
Embodiments of the present invention also provide a method, an apparatus, and a system for controlling a target object based on an intention of an extracted user by extracting a user's intention to the target object.

본 발명의 일실시예에 따른 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 디바이스(Wearable Device)는 사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈; 상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈; 상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈; 상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈; 및 상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 웨어러블 프레임을 포함한다.A wearable device for extracting a user's intention to an object viewed by a user using eye tracking and EEG measurement according to an embodiment of the present invention includes an object recognition unit for recognizing at least one object located in front of the user, module; A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object; An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest; A transparent screen module for displaying information of the object; And a wearable frame for supporting the EEG measurement module, the eye tracking module, the object recognition module, and the transparent screen module and worn by the user.

상기 뇌파 측정 모듈은 상기 사용자의 뇌파를 측정하여 상기 대상 물체의 정보에 대한 상기 사용자의 의도를 추출할 수 있다.The EEG measurement module may extract the intention of the user with respect to the information of the target object by measuring the EEG of the user.

상기 웨어러블 디바이스는 상기 뇌파 측정 모듈로부터 추출된 상기 사용자의 의도를 기초로, 무선 통신을 통하여 상기 대상 물체를 제어하는 제어 모듈을 더 포함할 수 있다.The wearable device may further include a control module for controlling the object through wireless communication based on the intention of the user extracted from the EEG measurement module.

상기 제어 모듈은 상기 시선 추적 모듈로부터 획득된 상기 사용자의 시선에 대한 정보를 기초로 상기 무선 통신을 통하여 상기 대상 물체를 제어할 수 있다.The control module may control the target object through the wireless communication based on information on the user's gaze obtained from the gaze tracking module.

상기 투명 화면 모듈은 상기 뇌파 측정 모듈로부터 선택된 상기 대상 물체에 미리 설정된 그래픽 효과를 적용하여 디스플레이할 수 있다.The transparent screen module can display and apply a predetermined graphic effect to the object selected from the brain wave measurement module.

상기 시선 추적 모듈 및 상기 투명 화면 모듈 각각은 상기 사용자의 시선이 확보되도록 투명 렌즈에 결합될 수 있다.Each of the eye tracking module and the transparent screen module may be coupled to a transparent lens so as to secure the user's gaze.

상기 시선 추적 모듈은 상기 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 반사된 상기 사용자의 눈동자의 움직임을 분석하여, 상기 사용자의 시선을 추적할 수 있다.The eye tracking module may analyze the movement of the eyes of the user reflected on the reflective film inclined at a preset angle in the lateral direction included in the transparent lens to track the user's gaze.

상기 투명 화면 모듈은 상기 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 상기 대상 물체의 정보를 입사하여 디스플레이할 수 있다.The transparent screen module can display the information of the object on the reflective film inclined at a preset angle in the lateral direction included in the transparent lens and display the information.

상기 시선 추적 모듈 및 상기 투명 화면 모듈 각각은 상기 웨어러블 디바이스의 가상의 중앙선을 기준으로 좌우측에 배치될 수 있다.Each of the visual line tracking module and the transparent screen module may be disposed at left and right sides with respect to a virtual center line of the wearable device.

본 발명의 일실시예에 따른 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 글래스(Wearable Glass)는 사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈; 상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈; 상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈; 상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈; 상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 안경 프레임; 및 상기 시선 추적 모듈 및 상기 투명 화면 모듈이 각각 결합되는 두 개의 투명 렌즈들을 포함한다.A wearable glass for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement according to an embodiment of the present invention includes an object recognition unit for recognizing at least one object located in front of the user, module; A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object; An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest; A transparent screen module for displaying information of the object; A spectacle frame for supporting the EEG measurement module, the eye tracking module, the object recognition module and the transparent screen module, and worn by the user; And two transparent lenses to which the line-of-sight tracking module and the transparent screen module are coupled, respectively.

상기 뇌파 측정 모듈은 상기 사용자의 뇌파를 측정하여 상기 대상 물체의 정보에 대한 상기 사용자의 의도를 추출할 수 있다.The EEG measurement module may extract the intention of the user with respect to the information of the target object by measuring the EEG of the user.

상기 웨어러블 글래스는 상기 뇌파 측정 모듈로부터 추출된 상기 사용자의 의도를 기초로, 무선 통신을 통하여 상기 대상 물체를 제어하는 제어 모듈을 더 포함할 수 있다.The wearable glass may further include a control module for controlling the object through wireless communication based on the intention of the user extracted from the EEG measurement module.

본 발명의 일실시예에 따른 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 방법은 사용자 전방에 위치한 적어도 하나의 물체를 인식하는 단계; 상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 단계; 상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 단계; 및 상기 대상 물체의 정보를 디스플레이하는 단계를 포함한다.A method for extracting a user's intention for an object viewed by a user using eye tracking and brain wave measurement according to an embodiment of the present invention includes: recognizing at least one object located in front of the user; Tracking an eye of the user with respect to the at least one object to obtain an object of interest of the at least one object; Measuring an EEG of the user and selecting an object of interest; And displaying information of the object.

상기 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 방법은 상기 사용자의 뇌파를 측정하여 상기 대상 물체의 정보에 대한 상기 사용자의 의도를 추출하는 단계; 및 상기 사용자의 의도를 기초로, 무선 통신을 통하여 상기 대상 물체를 제어하는 단계를 더 포함할 수 있다.
A method of extracting an intention of a user for an object to be watched by a user includes the steps of extracting an intention of the user for information of the object by measuring an EEG of the user; And controlling the object through wireless communication based on the intention of the user.

본 발명의 실시예들은 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 대상 물체를 정확히 선택하는 방법, 장치 및 시스템을 제공할 수 있다.Embodiments of the present invention can provide a method, an apparatus, and a system for accurately selecting an object to be watched by a user using eye tracking and brain wave measurement.

또한, 본 발명의 실시예들은 사용자가 주시하는 대상 물체를 선택하는 과정에서, 사용자의 단순 응시로부터 발생하는 작동 오류 현상을 감소시키는 방법, 장치 및 시스템을 제공할 수 있다.In addition, embodiments of the present invention can provide a method, an apparatus, and a system for reducing an operation error phenomenon resulting from a simple examination of a user in a process of selecting an object to be watched by a user.

또한, 본 발명의 실시예들은 선택된 대상 물체에 대한 정보를 사용자에게 디스플레이하는 방법, 장치 및 시스템을 제공할 수 있다.Embodiments of the present invention may also provide a method, apparatus, and system for displaying information about a selected object to a user.

또한, 본 발명의 실시예들은 대상 물체에 대한 사용자의 의도를 추출함으로써, 추출된 사용자의 의도를 기초로 대상 물체를 제어하는 방법, 장치 및 시스템을 제공할 수 있다.
In addition, embodiments of the present invention can provide a method, an apparatus, and a system for controlling a target object based on an intention of an extracted user by extracting a user's intention to the target object.

도 1은 본 발명의 일실시예에 따른 웨어러블 디바이스를 나타낸 도면이다.
도 2는 본 발명의 일실시예에 따른 웨어러블 디바이스에 포함되는 투명 화면 모듈에 의해 디스플레이되는 대상 물체의 정보를 나타낸 도면이다.
도 3은 본 발명의 일실시예에 따른 웨어러블 디바이스에 포함되는 시선 추적 모듈 및 투명 화면 모듈을 나타낸 도면이다.
도 4는 본 발명의 일실시예에 따른 웨어러블 디바이스의 구조를 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 웨어러블 디바이스를 나타낸 블록도이다.
도 6은 본 발명의 일실시예에 따른 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 방법을 나타낸 플로우 차트이다.
도 7은 본 발명의 일실시예에 따른 웨어러블 글래스를 나타낸 블록도이다.
1 is a view showing a wearable device according to an embodiment of the present invention.
2 is a view showing information of an object displayed by a transparent screen module included in a wearable device according to an embodiment of the present invention.
FIG. 3 is a diagram illustrating a visual line tracking module and a transparent screen module included in a wearable device according to an exemplary embodiment of the present invention.
4 is a diagram illustrating a structure of a wearable device according to an embodiment of the present invention.
5 is a block diagram illustrating a wearable device according to an embodiment of the present invention.
6 is a flowchart illustrating a method of extracting a user's intention for an object viewed by a user using eye tracking and brain wave measurement according to an exemplary embodiment of the present invention.
7 is a block diagram showing a wearable glass according to an embodiment of the present invention.

이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
Hereinafter, embodiments according to the present invention will be described in detail with reference to the accompanying drawings. However, the present invention is not limited to or limited by the embodiments. In addition, the same reference numerals shown in the drawings denote the same members.

도 1은 본 발명의 일실시예에 따른 웨어러블 디바이스를 나타낸 도면이다.1 is a view showing a wearable device according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일실시예에 따른 웨어러블 디바이스(Wearable Device)(110)는 시선 추적 및 뇌파 측정을 이용하여 사용자(120)가 주시하는 대상 물체에 대한 사용자(120)의 의도를 추출한다. 여기서, 웨어러블 디바이스(110)는 사용자(120)가 착용 가능한 장치로서, 물체 인식 모듈, 시선 추적 모듈, 뇌파 측정 모듈, 투명 화면 모듈 및 웨어러블 프레임을 포함한다. 특히, 웨어러블 디바이스(110)는 추출된 사용자(120)의 의도를 기초로, 무선 통신을 통하여 대상 물체를 제어하는 제어 모듈을 더 포함할 수 있다.Referring to FIG. 1, a wearable device 110 according to an exemplary embodiment of the present invention detects an intention of a user 120 on an object viewed by a user 120 using eye tracking and brain wave measurement . Here, the wearable device 110 includes an object recognition module, a gaze tracking module, an EEG measurement module, a transparent screen module, and a wearable frame. In particular, the wearable device 110 may further include a control module for controlling the object through wireless communication based on the intention of the extracted user 120. [

웨어러블 디바이스(110)에 포함되는 물체 인식 모듈은 사용자(120)의 전방에 위치한 적어도 하나의 물체를 인식한다. 예를 들어, 물체 인식 모듈은 사용자(120)의 전방을 촬영하는 카메라로서, 사용자(120)의 전방에 위치한 제1 물체(130) 및 제2 물체(140)를 인식할 수 있다.The object recognition module included in the wearable device 110 recognizes at least one object located in front of the user 120. [ For example, the object recognition module may recognize a first object 130 and a second object 140 located in front of the user 120, which is a camera for photographing the user 120 in front of the user.

시선 추적 모듈은 적어도 하나의 물체에 대한 사용자(120)의 시선을 추적하여 적어도 하나의 물체 중 관심 물체를 획득한다. 예를 들어, 사용자(120)의 시선(121)이 제1 물체(130)를 향해 있다면, 시선 추적 모듈은 관심 물체로 제1 물체(130)를 획득할 수 있고, 사용자(120)의 시선(122)이 제2 물체(140)를 향해 있다면, 시선 추적 모듈은 관심 물체로 제2 물체(140)를 획득할 수 있다. 여기서, 시선 추적 모듈은 사용자(120)의 시선을 추적하기 위해, 사용자(120)의 눈 위치에 배치될 수 있다. 예를 들어, 시선 추적 모듈은 사용자(120)의 시선이 확보되도록 투명 렌즈와 결합되어 사용자(120)의 눈 위치에 배치될 수 잇다.The line-of-sight tracking module tracks the line of sight of the user 120 to at least one object to obtain an object of interest among at least one object. For example, if the line of sight 121 of the user 120 is toward the first object 130, the eye tracking module may obtain the first object 130 as an object of interest, 122 are toward the second object 140, the eye tracking module may obtain the second object 140 as an object of interest. Here, the gaze tracking module may be placed at the eye position of the user 120 to track the gaze of the user 120. For example, the eye tracking module may be placed at the eye position of the user 120 in combination with the transparent lens to ensure that the user 120 has a line of sight.

뇌파 측정 모듈은 사용자(120)의 뇌파를 측정하여, 관심 물체 중 대상 물체를 선택한다. 예를 들어, 사용자(120)의 시선(121)이 제1 물체(130)를 향해 있다가, 사용자(120)의 시선(122)이 제2 물체(140)로 향한 경우, 뇌파 측정 모듈은 사용자(120)의 뇌파를 측정하여, 사용자(120)가 응시한 제1 물체(130) 및 제2 물체(140) 중 사용자(120)가 의도를 가지고 주시한 대상 물체를 선택할 수 있다. 더 구체적인 예를 들면, 사용자(120)가 제2 물체(140)는 단순 응시를 하고, 제1 물체(130)는 의도를 가지고 주시한 경우, 뇌파 측정 모듈은 사용자(120)의 뇌파를 측정하여, 대상 물체로 제1 물체(130)를 선택할 수 있다.The EEG measurement module measures the brain waves of the user 120 and selects an object of interest. For example, if the eye 121 of the user 120 faces the first object 130 and the eye 122 of the user 120 faces the second object 140, The user 120 can intentionally select an object of interest among the first object 130 and the second object 140 that the user 120 has gazed by measuring the brain waves of the user 120. More specifically, when the user 120 looks at the second object 140 and the first object 130 intentionally looks at it, the EEG measurement module measures the brain waves of the user 120 , The first object 130 can be selected as the object.

투명 화면 모듈은 선택된 대상 물체의 정보를 디스플레이한다. 여기서, 투명 화면 모듈은 스크린 또는 투명 렌즈와 결합되어, 결합된 스크린 또는 투명 렌즈에 대상 물체의 정보를 디스플레이할 수 있다. 이 때, 투명 화면 모듈은 선택된 대상 물체에 미리 설정된 그래픽 효과를 적용하여 디스플레이할 수 있다. 예를 들어, 뇌파 측정 모듈에 의해 선택된 대상 물체가 제1 물체(130)인 경우, 투명 화면 모듈은 제1 물체(130) 주변에 플래시 효과를 적용하여, 제1 물체(130)를 디스플레이할 수 있다. 이 때, 뇌파 측정 모듈은 투명 화면 모듈에 의해 디스플레이된 대상 물체의 정보에 대한 사용자(120)의 의도를 사용자(120)의 뇌파를 측정함으로써, 추출할 수 있다. 이에 대한 상세한 설명은 도 2를 참조하여 기재하기로 한다.The transparent screen module displays the information of the selected object. Here, the transparent screen module may be combined with a screen or a transparent lens to display information of the object on a combined screen or a transparent lens. At this time, the transparent screen module can display the selected object by applying a preset graphic effect to the object. For example, if the object selected by the brain wave measurement module is the first object 130, the transparent screen module may apply a flash effect around the first object 130 to display the first object 130 have. At this time, the brain wave measuring module can extract the intention of the user 120 with respect to the information of the object displayed by the transparent screen module by measuring the brain waves of the user 120. A detailed description thereof will be described with reference to Fig.

본 발명의 일실시예에 따른 제어 모듈은 뇌파 측정 모듈로부터 추출된 사용자(120)의 의도를 기초로, 무선 통신을 통하여 대상 물체를 제어할 수 있다. 예를 들어, 뇌파 측정 모듈에 의해 대상 물체로 제1 물체(130)가 선택되고, 투명 화면 모듈에 의해 디스플레이된 제1 물체(130)의 정보에 대한 사용자(120)의 의도가 뇌파 측정 모듈로부터 추출된 경우, 제어 모듈은 제1 물체(130)의 정보에 대한 사용자(120)의 의도를 기초로 제1 물체(130)를 제어할 수 있다. 더 구체적인 예를 들면, 제1 물체(130)의 음량 정보에 대한 사용자(120)의 음량 높임의 의도가 뇌파 측정 모듈로부터 추출된 경우, 제어 모듈은 사용자(120)의 제1 물체(130)에 대한 음량 높임의 의도에 기초하여, 제1 물체(130)의 음량을 높일 수 있다.The control module according to an embodiment of the present invention can control the object through wireless communication based on the intention of the user 120 extracted from the EEG measurement module. For example, if the first object 130 is selected as the object of interest by the EEG measurement module and the intention of the user 120 for the information of the first object 130 displayed by the transparent screen module If so, the control module may control the first object 130 based on the intention of the user 120 with respect to the information of the first object 130. More specifically, if the intention of the user 120 to increase the volume of the volume information of the first object 130 is extracted from the EEG measurement module, the control module controls the first object 130 of the user 120 The volume of the first object 130 can be increased based on the intention of increasing the volume.

또한, 제어 모듈은 시선 추적 모듈로부터 획득된 사용자(120)의 시선에 대한 정보를 기초로 무선 통신을 통하여 대상 물체를 제어할 수 있다. 예를 들어, 뇌파 측정 모듈에 의해 대상 물체로 제1 물체(130)가 선택되고, 투명 화면 모듈에 의해 디스플레이된 제1 물체(130)의 정보에 대한 사용자(120)의 시선 정보가 시선 추적 모듈로부터 획득된 경우, 제어 모듈은 제1 물체(130)의 정보에 대한 사용자(120)의 시선 정보에 기초하여 제1 물체(130)를 제어할 수 있다. 더 구체적인 예를 들면, 제1 물체(130)의 음량 정보에 대해 사용자(120)의 시선이 음량 높임에 머무는 경우, 제어 모듈은 사용자(120)의 제1 물체(130)에 대한 음량 정보 중 음량 높임에 머무는 사용자(120)의 시선 정보를 기초로, 제1 물체(130)의 음량을 높일 수 있다.Also, the control module can control the target object through wireless communication based on the information about the gaze of the user 120 obtained from the gaze tracking module. For example, the first object 130 is selected as an object by the EEG measurement module, and the visual information of the user 120 on the information of the first object 130 displayed by the transparent screen module is input to the eye- The control module may control the first object 130 based on the sight line information of the user 120 with respect to the information of the first object 130. [ More specifically, for example, when the gaze of the user 120 lingers on the volume of the first object 130, the control module determines that the volume of the volume information of the first object 130 of the user 120 The volume of the first object 130 can be increased based on the sight line information of the user 120 staying at the height.

또한, 제어 모듈은 뇌파 측정 모듈 및 시선 추적 모듈 모두를 이용하여, 대상 물체를 제어할 수 있다. 예를 들어, 제어 모듈은 디스플레이된 대상 물체의 정보 중 특정 정보에 대한 사용자(120)의 시선을 시선 추적 모듈로부터 획득하여, 특정 정보를 선택하고, 특정 정보에 대한 사용자(120)의 의도를 뇌파 측정 모듈로부터 획득하여, 대상 물체의 특정 정보에 대한 제어를 수행할 수 있다.Further, the control module can control the target object using both the EEG measurement module and the eye tracking module. For example, the control module acquires the user's 120 line of sight from the displayed information of the target object from the eye tracking module, selects specific information, From the measurement module, and can control the specific information of the object.

웨어러블 프레임은 웨어러블 디바이스(110)에 포함되는 물체 인식 모듈, 시선 추적 모듈, 뇌파 측정 모듈, 투명 화면 모듈 및 제어 모듈을 지지하기 위한 프레임으로서, 사용자(120)의 신체에 웨어러블 디바이스(110)가 착용 가능하게 할 수 있다. 예를 들어, 웨어러블 디바이스(110)가 웨어러블 글래스(Glass)인 경우, 웨어러블 프레임은 안경 프레임일 수 있고, 웨어러블 디바이스(110)가 웨어러블 와치(Watch)인 경우, 웨어러블 프레임은 시계 프레임 및 시계줄일 수 있다.The wearable frame is a frame for supporting the object recognition module, the eye tracking module, the brain wave measurement module, the transparent screen module and the control module included in the wearable device 110. The wearable frame 110 wears the wearable device 110 to the body of the user 120 . For example, if the wearable device 110 is a wearable glass, the wearable frame may be a glasses frame, and if the wearable device 110 is a wearable watch, the wearable frame may be a clock frame and a clock have.

이와 같이, 본 발명의 일실시예에 따른 웨어러블 디바이스(110)는 사용자(120)의 시선을 추적하여 관심 물체를 획득하고, 사용자(120)의 뇌파를 측정하여, 관심 물체 중 대상 물체를 선택함으로써, 사용자(120)의 단순 응시로부터 발생하는 작동 오류 현상을 감소시킬 수 있다. 예를 들어, 웨어러블 디바이스(110)는 사용자(120)의 시선을 커서 동작으로, 사용자(120)로부터 측정되는 뇌파를 선택 동작으로 활용함으로써, 사용자(120)가 주시하는 대상 물체를 선택할 수 있다. 또한, 웨어러블 디바이스(110)는 선택된 대상 물체의 정보를 사용자(120)에게 디스플레이하고, 디스플레이된 대상 물체의 정보에 대한 사용자(120)의 뇌파를 측정함으로써, 대상 물체에 대한 사용자(120)의 의도를 추출하여, 대상 물체를 사용자(120)의 의도에 따라 제어할 수 있다.
As described above, the wearable device 110 according to an embodiment of the present invention tracks an eye of a user 120 to acquire an object of interest, measures an EEG wave of the user 120, and selects an object of interest , It is possible to reduce the operation error phenomenon that arises from the simple gazing of the user 120. For example, the wearable device 110 can select an object to be watched by the user 120 by using the eye 120 measured by the user 120 as a selection operation in a cursor operation. The wearable device 110 may also display the information of the selected object to the user 120 and measure the brain waves of the user 120 with respect to the information of the displayed object to determine the intention of the user 120 So that the object can be controlled according to the intention of the user 120.

도 2는 본 발명의 일실시예에 따른 웨어러블 디바이스에 포함되는 투명 화면 모듈에 의해 디스플레이되는 대상 물체의 정보를 나타낸 도면이다.2 is a view showing information of an object displayed by a transparent screen module included in a wearable device according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 일실시예에 따른 웨어러블 디바이스에 포함되는 투명 화면 모듈(210)은 대상 물체(220)의 정보(230)를 디스플레이한다. 여기서, 투명 화면 모듈(210)은 사용자의 시선이 확보되도록 투명 렌즈(240)에 결합되어, 대상 물체(220) 및 대상 물체(220)의 정보(230)를 투명 렌즈(240)에 디스플레이할 수 있다. 또한, 투명 화면 모듈(210)은 별도의 스크린에 장착되어, 대상 물체(220) 및 대상 물체(220)의 정보(230)를 스크린에 디스플레이할 수 있다. 예를 들어, 웨어러블 디바이스가 웨어러블 와치인 경우, 투명 화면 모듈(210)은 시계의 스크린에 결합되어, 대상 물체(220) 및 대상 물체(220)의 정보(230)를 시계의 스크린에 디스플레이할 수 있다.Referring to FIG. 2, a transparent screen module 210 included in a wearable device according to an exemplary embodiment of the present invention displays information 230 of a target object 220. The transparent screen module 210 is coupled to the transparent lens 240 so as to secure the user's gaze so that the information 230 of the object 220 and the object 220 can be displayed on the transparent lens 240 have. The transparent screen module 210 may be mounted on a separate screen to display information 230 of the object 220 and the object 220 on the screen. For example, if the wearable device is a wearable watch, the transparent screen module 210 may be coupled to the screen of the watch to display information 230 of the object 220 and the object 220 on the screen of the watch have.

이 때, 대상 물체(220)에는 미리 설정된 그래픽 효과가 적용되어 디스플레이될 수 있다. 예를 들어, 투명 화면 모듈(210)은 대상 물체(220) 주변에 플래시 효과(250)를 적용하여 대상 물체(220)를 디스플레이할 수 있다.At this time, a predetermined graphic effect can be applied to the target object 220 and displayed. For example, the transparent screen module 210 may display a target object 220 by applying a flash effect 250 around the target object 220.

본 발명의 일실시예에 따른 웨어러블 디바이스는 디스플레이되는 대상 물체(220)의 정보(230)에 대한 사용자의 의도를 뇌파 측정 모듈을 이용하여 추출함으로써, 제어 모듈을 통하여 추출된 사용자의 의도에 따라 대상 물체(220)를 제어할 수 있다. 예를 들어, 대상 물체(220)의 정보(230) 중 음량 정보(260)에 대해, 사용자가 음량을 높이고자 하는 의도를 가지는 경우, 뇌파 측정 모듈은 사용자의 뇌파를 측정하여, 대상 물체(220)의 음량 정보(260)에 대한 사용자의 의도를 추출할 수 있고, 제어 모듈은 추출된 사용자의 의도에 따라 대상 물체(220)의 음량을 높일 수 있다.The wearable device according to an embodiment of the present invention extracts the intention of the user with respect to the information 230 of the object 220 to be displayed using the EEG module, The object 220 can be controlled. For example, when the user intends to increase the volume of the volume information 260 in the information 230 of the target object 220, the EEG measurement module measures the EEG of the user, The control module can increase the volume of the object 220 according to the intention of the extracted user.

또한, 제어 모듈은 대상 물체(220)의 정보(230)에 대한, 시선 추적 모듈로부터 획득된 사용자의 시선에 기초하여 대상 물체(220)를 제어할 수 있다. 예를 들어, 시선 추적 모듈이 대상 물체(220)의 정보(230) 중 음량 정보(260)에 대한 사용자의 시선을 추적한 경우, 제어 모듈은 추적된 사용자의 시선에 따라 대상 물체(220)의 음량 정보(260)를 선택할 수 있고, 사용자가 음량 정보(260)에 대해, 음량을 높이고자 하는 의도를 가지는 경우, 뇌파 측정 모듈로부터 측정된 음량 정보(260)에 대한 사용자의 의도에 기초하여 대상 물체(220)의 음량을 높일 수 있다.The control module can also control the object 220 based on the user's gaze obtained from the gaze tracking module for the information 230 of the object 220. [ For example, when the gaze tracking module tracks the user's gaze of the volume information 260 in the information 230 of the target object 220, the control module controls the gaze of the target object 220 When the user has intention to increase the volume with respect to the volume information 260, the volume information 260 may be selected based on the user's intention regarding the volume information 260 measured from the EEG measurement module The volume of the object 220 can be increased.

이와 같이, 본 발명의 일실시예에 따른 웨어러블 디바이스는 디스플레이된 대상 물체의 정보로부터 시선 추적 모듈 및 뇌파 측정 모듈을 각각 독립적으로 이용하거나, 결합하여 이용함으로써, 사용자의 의도를 추출하여 대상 물체를 제어할 수 있다.
As described above, the wearable device according to an embodiment of the present invention extracts the intention of the user and controls the target object by using the eye tracking module and the brain wave measuring module independently or in combination from the displayed information of the object of interest can do.

도 3은 본 발명의 일실시예에 따른 웨어러블 디바이스에 포함되는 시선 추적 모듈 및 투명 화면 모듈을 나타낸 도면이다.FIG. 3 is a diagram illustrating a visual line tracking module and a transparent screen module included in a wearable device according to an exemplary embodiment of the present invention.

도 3을 참조하면, 본 발명의 일실시예에 따른 웨어러블 디바이스에 포함되는 투명 화면 모듈(310) 및 시선 추적 모듈(320) 각각은 사용자의 시선이 확보되도록 투명 렌즈에 결합될 수 있다. 여기서, 투명 화면 모듈(310) 및 시선 추적 모듈(320) 각각은 웨어러블 디바이스의 가상의 중앙선을 기준으로 좌우측에 배치될 수 있다. 예를 들어, 투명 화면 모듈(310)은 제1 투명 렌즈(330)와 결합되어 좌측에 배치될 수 있고, 시선 추적 모듈(320)은 제2 투명 렌즈(340)와 결합되어 우측에 배치될 수 있다.Referring to FIG. 3, each of the transparent screen module 310 and the gaze tracking module 320 included in the wearable device according to an embodiment of the present invention may be coupled to a transparent lens so as to secure a user's gaze. Here, each of the transparent screen module 310 and the gaze tracking module 320 may be disposed on the left and right sides with respect to a virtual center line of the wearable device. For example, the transparent screen module 310 can be disposed on the left side in combination with the first transparent lens 330, and the eye tracking module 320 can be disposed on the right side in combination with the second transparent lens 340 have.

투명 화면 모듈(310)은 제1 투명 렌즈(330) 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름(331)에 대상 물체의 정보를 입사하여 디스플레이할 수 있다(350). 이 때, 반사 필름(331)은 글래스(332)에 부착되어 지지될 수 있고, 반사 필름(331)에 입사되는 대상 물체의 정보는 렌즈(333)를 통과하여 디스플레이될 수 있다(350). 따라서, 제1 투명 렌즈(330)를 통한 사용자의 시선(360)은 확보될 수 있다.The transparent screen module 310 may display the information of the target object on the reflective film 331 inclined at a preset angle in the lateral direction included in the first transparent lens 330 and display the information. At this time, the reflection film 331 can be attached to and supported by the glass 332, and information on the object to be incident on the reflection film 331 can be displayed through the lens 333 (350). Therefore, the user's eyes 360 through the first transparent lens 330 can be secured.

시선 추적 모듈(320)은 제2 투명 렌즈(340) 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름(341)에 반사된 사용자의 눈동자의 움직임(370)을 분석하여, 사용자의 시선(380)을 추적할 수 있다. 이 때, 반사 필름(341)은 글래스(342)에 부착되어 지지될 수 있다. 따라서, 제2 투명 렌즈(340)를 통한 사용자의 시선(380)은 확보될 수 있다.The eye tracking module 320 analyzes the movement 370 of the user's pupil reflected on the reflective film 341 inclined at a preset angle in the lateral direction included in the second transparent lens 340 to detect the user's gaze 380). At this time, the reflection film 341 can be attached to the glass 342 and supported. Thus, the user's eyes 380 through the second transparent lens 340 can be secured.

이와 같은 투명 화면 모듈(310) 및 시선 추적 모듈(320)은 웨어러블 글래스에 한정되지 않고, 웨어러블 와치 또는 웨어러블 헬멧 등의 다양한 웨어러블 디바이스에 적용 가능하다.
The transparent screen module 310 and the gaze tracking module 320 are not limited to the wearable glass, but can be applied to various wearable devices such as a wearable watch or a wearable helmet.

도 4는 본 발명의 일실시예에 따른 웨어러블 디바이스의 구조를 나타낸 도면이다.4 is a diagram illustrating a structure of a wearable device according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 일실시예에 따른 웨어러블 디바이스는 웨어러블 글래스일 수 있다. 이하, 웨어러블 디바이스의 구조에 대해 웨어러블 글래스의 경우를 예시로 설명하지만, 이러한 웨어러블 디바이스의 구조를 기계적으로 변경함으로써, 웨어러블 글래스에 한정되지 않고, 웨어러블 와치 또는 웨어러블 헬멧 등의 다양한 웨어러블 디바이스에 적용 가능하다.Referring to FIG. 4, the wearable device according to an embodiment of the present invention may be wearable glass. Hereinafter, the structure of the wearable device will be described by way of example, but by mechanically changing the structure of the wearable device, it is applicable not only to the wearable glass, but also to various wearable devices such as a wearable watch or a wearable helmet .

웨어러블 디바이스는 물체 인식 모듈(410), 시선 추적 모듈(420), 뇌파 측정 모듈(430), 투명 화면 모듈(440), 웨어러블 프레임(450) 및 제어 모듈(460)을 포함할 수 있다.The wearable device may include an object recognition module 410, a gaze tracking module 420, an EEG measurement module 430, a transparent screen module 440, a wearable frame 450 and a control module 460.

여기서, 시선 추적 모듈(420) 및 투명 화면 모듈(440) 각각은 투명 렌즈(470)에 결합될 수 있다.Here, each of the eye tracking module 420 and the transparent screen module 440 may be coupled to the transparent lens 470.

또한, 웨어러블 프레임(450)은 물체 인식 모듈(410), 시선 추적 모듈(420) 및 투명 화면 모듈(440)이 각각 결합된 투명 렌즈(470), 뇌파 측정 모듈(430) 및 제어 모듈(460)을 지지할 수 있다. 이 때, 웨어러블 프레임(450)의 뒷부분(451)은 사용자에 의해 착용되는 경우, 사이즈 조절 및 착용감 향상을 위하여 고무 밴드로 구성될 수 있다.
The wearable frame 450 includes a transparent lens 470, an EEG measurement module 430 and a control module 460 to which the object recognition module 410, the eye tracking module 420 and the transparent screen module 440 are coupled, . ≪ / RTI > At this time, the rear portion 451 of the wearable frame 450 may be formed of a rubber band for the purpose of size adjustment and wearing comfort when worn by a user.

도 5는 본 발명의 일실시예에 따른 웨어러블 디바이스를 나타낸 블록도이다.5 is a block diagram illustrating a wearable device according to an embodiment of the present invention.

도 5를 참조하면, 본 발명의 일실시예에 따른 웨어러블 디바이스는 물체 인식 모듈(510), 시선 추적 모듈(520), 뇌파 측정 모듈(530), 투명 화면 모듈(540), 웨어러블 프레임(550) 및 제어 모듈(560)을 포함한다.5, a wearable device according to an embodiment of the present invention includes an object recognition module 510, a gaze tracking module 520, an EEG measurement module 530, a transparent screen module 540, a wearable frame 550, And a control module 560.

물체 인식 모듈(510)은 사용자의 전방에 위치한 적어도 하나의 물체를 인식한다.The object recognition module 510 recognizes at least one object located in front of the user.

시선 추적 모듈(520)은 적어도 하나의 물체에 대한 사용자의 시선을 추적하여 적어도 하나의 물체 중 관심 물체를 획득한다.The gaze tracking module 520 tracks the user's gaze on at least one object to obtain an object of interest among at least one object.

또한, 시선 추적 모듈(520)은 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 반사된 사용자의 눈동자의 움직임을 분석하여, 사용자의 시선을 추적할 수 있다.In addition, the eye tracking module 520 may analyze the movement of the user's pupil reflected on the reflective film inclined at a preset angle in the lateral direction included in the transparent lens, thereby tracking the user's gaze.

뇌파 측정 모듈(530)은 사용자의 뇌파를 측정하여 관심 물체 중 대상 물체를 선택한다.The EEG measurement module 530 measures a user's brain wave to select an object of interest.

또한, 뇌파 측정 모듈(530)은 사용자의 뇌파를 측정하여 대상 물체의 정보에 대한 사용자의 의도를 추출한다.In addition, the EEG measurement module 530 measures a user's brain wave to extract a user's intention regarding information of the object.

투명 화면 모듈(540)은 대상 물체의 정보를 디스플레이한다.The transparent screen module 540 displays information of the object.

또한, 투명 화면 모듈(540)은 뇌파 측정 모듈(530)로부터 선택된 대상 물체에 미리 설정된 그래픽 효과를 적용하여 디스플레이할 수 있다.In addition, the transparent screen module 540 can display the selected object from the EEG measurement module 530 by applying a preset graphic effect.

또한, 투명 화면 모듈(540)은 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 대상 물체의 정보를 입사하여 디스플레이할 수 있다.In addition, the transparent screen module 540 can display information of the object to be incident on the reflective film inclined at a predetermined angle in the lateral direction included in the transparent lens and display the information.

또한, 시선 추적 모듈(520) 및 투명 화면 모듈(540) 각각은 사용자의 시선이 확보되도록 투명 렌즈에 결합될 수 있다.In addition, each of the eye tracking module 520 and the transparent screen module 540 may be coupled to a transparent lens so as to secure a user's gaze.

또한, 시선 추적 모듈(520) 및 투명 화면 모듈(540) 각각은 웨어러블 디바이스의 가상의 중앙선을 기준으로 좌우측에 배치될 수 있다.In addition, each of the eye tracking module 520 and the transparent screen module 540 may be disposed on the left and right sides with respect to a virtual center line of the wearable device.

웨어러블 프레임(550)은 뇌파 측정 모듈(530), 시선 추적 모듈(520), 물체 인식 모듈(510) 및 투명 화면 모듈(540)을 지지하고, 사용자에 의해 착용된다.The wearable frame 550 supports the EEG measurement module 530, the eye tracking module 520, the object recognition module 510 and the transparent screen module 540 and is worn by the user.

제어 모듈(560)은 뇌파 측정 모듈(530)로부터 추출된 사용자의 의도를 기초로, 무선 통신을 통하여 대상 물체를 제어할 수 있다.The control module 560 can control the target object through wireless communication based on the intention of the user extracted from the EEG measurement module 530. [

또한, 제어 모듈(560)은 시선 추적 모듈(520)로부터 획득된 사용자의 시선에 대한 정보를 기초로 무선 통신을 통하여 대상 물체를 제어할 수 있다.
In addition, the control module 560 can control the target object through wireless communication based on the information about the user's gaze obtained from the gaze tracking module 520. [

도 6은 본 발명의 일실시예에 따른 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 방법을 나타낸 플로우 차트이다.6 is a flowchart illustrating a method of extracting a user's intention for an object viewed by a user using eye tracking and brain wave measurement according to an exemplary embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 웨어러블 디바이스는 사용자 전방에 위치한 적어도 하나의 물체를 인식한다(610).Referring to FIG. 6, a wearable device according to an exemplary embodiment of the present invention recognizes at least one object positioned in front of a user (610).

또한, 웨어러블 디바이스는 상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득한다(620).In addition, the wearable device traces the user's gaze to the at least one object to obtain an object of interest of the at least one object (620).

또한, 웨어러블 디바이스는 상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택한다(630).In addition, the wearable device measures an EEG of the user and selects an object of interest (630).

또한, 웨어러블 디바이스는 대상 물체의 정보를 디스플레이한다(640).Further, the wearable device displays information of the object (640).

또한, 웨어러블 디바이스는 사용자의 뇌파를 측정하여 상기 대상 물체의 정보에 대한 상기 사용자의 의도를 추출할 수 있다(650).In addition, the wearable device can extract the intention of the user with respect to the information of the object by measuring the brain wave of the user (650).

또한, 웨어러블 디바이스는 사용자의 의도를 기초로, 무선 통신을 통하여 상기 대상 물체를 제어할 수 있다(660).
Further, the wearable device can control the object through wireless communication based on the user's intention (660).

도 7은 본 발명의 일실시예에 따른 웨어러블 글래스를 나타낸 블록도이다.7 is a block diagram showing a wearable glass according to an embodiment of the present invention.

도 7을 참조하면, 본 발명의 일실시예에 따른 웨어러블 글래스는 물체 인식 모듈(710), 시선 추적 모듈(720), 뇌파 측정 모듈(730), 투명 화면 모듈(740), 안경 프레임(750), 두 개의 투명 렌즈들(760) 및 제어 모듈(770)을 포함한다.7, the wearable glass according to an exemplary embodiment of the present invention includes an object recognition module 710, a gaze tracking module 720, an EEG measurement module 730, a transparent screen module 740, a spectacle frame 750, Two transparent lenses 760, and a control module 770.

물체 인식 모듈(710)은 사용자의 전방에 위치한 적어도 하나의 물체를 인식한다.The object recognition module 710 recognizes at least one object located in front of the user.

시선 추적 모듈(720)은 적어도 하나의 물체에 대한 사용자의 시선을 추적하여 적어도 하나의 물체 중 관심 물체를 획득한다.The eye tracking module 720 tracks the user's gaze on at least one object to obtain the object of interest among at least one object.

또한, 시선 추적 모듈(720)은 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 반사된 사용자의 눈동자의 움직임을 분석하여, 사용자의 시선을 추적할 수 있다.In addition, the eye tracking module 720 can track the user's gaze by analyzing the movement of the user's pupil reflected on the reflective film inclined at a preset angle in the lateral direction included in the transparent lens.

뇌파 측정 모듈(730)은 사용자의 뇌파를 측정하여 관심 물체 중 대상 물체를 선택한다.The EEG measurement module 730 measures a user's brain wave to select an object of interest.

또한, 뇌파 측정 모듈(730)은 사용자의 뇌파를 측정하여 대상 물체의 정보에 대한 사용자의 의도를 추출한다.In addition, the EEG measurement module 730 measures a user's brain wave to extract a user's intention regarding information of the object.

투명 화면 모듈(740)은 대상 물체의 정보를 디스플레이한다.The transparent screen module 740 displays information of the object.

또한, 투명 화면 모듈(740)은 뇌파 측정 모듈(530)로부터 선택된 대상 물체에 미리 설정된 그래픽 효과를 적용하여 디스플레이할 수 있다.In addition, the transparent screen module 740 can display the selected object from the EEG measurement module 530 by applying a preset graphic effect.

또한, 투명 화면 모듈(740)은 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 대상 물체의 정보를 입사하여 디스플레이할 수 있다.In addition, the transparent screen module 740 can display information of the object to be incident on the reflective film inclined at a preset angle in the lateral direction included in the transparent lens and display the information.

또한, 시선 추적 모듈(720) 및 투명 화면 모듈(740) 각각은 웨어러블 글래스의 가상의 중앙선을 기준으로 좌우측에 배치될 수 있다.Each of the eye tracking module 720 and the transparent screen module 740 may be disposed on the left and right sides with respect to a virtual center line of the wearable glass.

안경 프레임(750)은 뇌파 측정 모듈(730), 시선 추적 모듈(720), 물체 인식 모듈(710) 및 투명 화면 모듈(740)을 지지하고, 사용자에 의해 착용된다.The eyeglass frame 750 supports the EEG measurement module 730, the eye tracking module 720, the object recognition module 710 and the transparent screen module 740 and is worn by the user.

두 개의 투명 렌즈들(760)에는 시선 추적 모듈(720) 및 투명 화면 모듈(740)이 각각 결합된다.The two transparent lenses 760 are coupled to the eye tracking module 720 and the transparent screen module 740, respectively.

제어 모듈(770)은 뇌파 측정 모듈(730)로부터 추출된 사용자의 의도를 기초로, 무선 통신을 통하여 대상 물체를 제어할 수 있다.The control module 770 can control the target object through wireless communication based on the intention of the user extracted from the EEG measurement module 730.

또한, 제어 모듈(770)은 시선 추적 모듈(720)로부터 획득된 사용자의 시선에 대한 정보를 기초로 무선 통신을 통하여 대상 물체를 제어할 수 있다.
In addition, the control module 770 can control the target object through wireless communication based on the information about the user's gaze obtained from the gaze tracking module 720. [

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components. For example, the apparatus and components described in the embodiments may be implemented within a computer system, such as, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable array (FPA) A programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For ease of understanding, the processing apparatus may be described as being used singly, but those skilled in the art will recognize that the processing apparatus may have a plurality of processing elements and / As shown in FIG. For example, the processing unit may comprise a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as a parallel processor.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the foregoing, and may be configured to configure the processing device to operate as desired or to process it collectively or collectively Device can be commanded. The software and / or data may be in the form of any type of machine, component, physical device, virtual equipment, computer storage media, or device , Or may be permanently or temporarily embodied in a transmitted signal wave. The software may be distributed over a networked computer system and stored or executed in a distributed manner. The software and data may be stored on one or more computer readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to an embodiment may be implemented in the form of a program command that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions to be recorded on the medium may be those specially designed and configured for the embodiments or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. For example, it is to be understood that the techniques described may be performed in a different order than the described methods, and / or that components of the described systems, structures, devices, circuits, Lt; / RTI > or equivalents, even if it is replaced or replaced.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

Claims (12)

시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 디바이스(Wearable Device)에 있어서,
사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈;
상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈;
상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈;
상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈; 및
상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 웨어러블 프레임
을 포함하고,
상기 시선 추적 모듈 및 상기 투명 화면 모듈 각각은 상기 사용자의 시선이 확보되도록 투명 렌즈에 결합되고,
상기 시선 추적 모듈은
상기 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 반사된 상기 사용자의 눈동자의 움직임을 분석하여, 상기 사용자의 시선을 추적하는 웨어러블 디바이스.
1. A wearable device for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement,
An object recognition module for recognizing at least one object located in front of the user;
A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object;
An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest;
A transparent screen module for displaying information of the object; And
The eye tracking module, the object recognition module, and the transparent screen module, and the wearable frame worn by the user,
/ RTI >
Wherein each of the visual line tracking module and the transparent screen module is coupled to a transparent lens so as to secure a line of sight of the user,
The eye tracking module
And analyzes the motion of the user's pupils reflected by the reflective film inclined at a preset angle in the lateral direction included in the transparent lens to track the user's gaze.
제1항에 있어서,
상기 뇌파 측정 모듈은
상기 사용자의 뇌파를 측정하여 상기 대상 물체의 정보에 대한 상기 사용자의 의도를 추출하는 웨어러블 디바이스.
The method according to claim 1,
The EEG measurement module
And extracting the intention of the user with respect to the information of the object by measuring the brain waves of the user.
제2항에 있어서,
상기 뇌파 측정 모듈로부터 추출된 상기 사용자의 의도를 기초로, 무선 통신을 통하여 상기 대상 물체를 제어하는 제어 모듈
을 더 포함하는 웨어러블 디바이스.
3. The method of claim 2,
A control module for controlling the object through wireless communication based on the intention of the user extracted from the EEG measurement module,
And a wearable device.
제3항에 있어서,
상기 제어 모듈은
상기 시선 추적 모듈로부터 획득된 상기 사용자의 시선에 대한 정보를 기초로 상기 무선 통신을 통하여 상기 대상 물체를 제어하는 웨어러블 디바이스.
The method of claim 3,
The control module
And controls the target object through the wireless communication based on information on a line of sight of the user obtained from the line-of-sight tracking module.
제1항에 있어서,
상기 투명 화면 모듈은
상기 뇌파 측정 모듈로부터 선택된 상기 대상 물체에 미리 설정된 그래픽 효과를 적용하여 디스플레이하는 웨어러블 디바이스.
The method according to claim 1,
The transparent screen module
And a graphic effect preset in the target object selected from the EEG measurement module is applied and displayed.
삭제delete 삭제delete 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 디바이스(Wearable Device)에 있어서,
사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈;
상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈;
상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈;
상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈; 및
상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 웨어러블 프레임
을 포함하고,
상기 시선 추적 모듈 및 상기 투명 화면 모듈 각각은 상기 사용자의 시선이 확보되도록 투명 렌즈에 결합되고,
상기 투명 화면 모듈은
상기 투명 렌즈 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 상기 대상 물체의 정보를 입사하여 디스플레이하는 웨어러블 디바이스.
1. A wearable device for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement,
An object recognition module for recognizing at least one object located in front of the user;
A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object;
An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest;
A transparent screen module for displaying information of the object; And
The eye tracking module, the object recognition module, and the transparent screen module, and the wearable frame worn by the user,
/ RTI >
Wherein each of the visual line tracking module and the transparent screen module is coupled to a transparent lens so as to secure a line of sight of the user,
The transparent screen module
Wherein information of the object is incident on a reflective film inclined at a predetermined angle in a lateral direction included in the transparent lens and displayed.
삭제delete 시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 글래스(Wearable Glass)에 있어서,
사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈;
상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈;
상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈;
상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈;
상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 안경 프레임; 및
상기 시선 추적 모듈 및 상기 투명 화면 모듈이 각각 결합되는 두 개의 투명 렌즈들
을 포함하고,
상기 시선 추적 모듈은
상기 투명 렌즈들 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 반사된 상기 사용자의 눈동자의 움직임을 분석하여, 상기 사용자의 시선을 추적하는 웨어러블 글래스.
1. A wearable glass for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement,
An object recognition module for recognizing at least one object located in front of the user;
A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object;
An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest;
A transparent screen module for displaying information of the object;
A spectacle frame for supporting the EEG measurement module, the eye tracking module, the object recognition module and the transparent screen module, and worn by the user; And
Two transparent lenses to which the eye tracking module and the transparent screen module are coupled,
/ RTI >
The eye tracking module
Wherein the eye of the user is tracked by analyzing the motion of the user's pupils reflected by the reflective film inclined at a predetermined angle in the lateral direction included in the transparent lenses.
제10항에 있어서,
상기 뇌파 측정 모듈은
상기 사용자의 뇌파를 측정하여 상기 대상 물체의 정보에 대한 상기 사용자의 의도를 추출하고,
상기 뇌파 측정 모듈로부터 추출된 상기 사용자의 의도를 기초로, 무선 통신을 통하여 상기 대상 물체를 제어하는 제어 모듈을 더 포함하는 웨어러블 글래스.
11. The method of claim 10,
The EEG measurement module
Extracting the intention of the user with respect to the information of the object by measuring the brain waves of the user,
And a control module for controlling the object through wireless communication based on the intention of the user extracted from the EEG measurement module.
시선 추적 및 뇌파 측정을 이용하여 사용자가 주시하는 물체에 대한 사용자의 의도를 추출하는 웨어러블 글래스(Wearable Glass)에 있어서,
사용자의 전방에 위치한 적어도 하나의 물체를 인식하는 물체 인식 모듈;
상기 적어도 하나의 물체에 대한 상기 사용자의 시선을 추적하여 상기 적어도 하나의 물체 중 관심 물체를 획득하는 시선 추적 모듈;
상기 사용자의 뇌파를 측정하여 상기 관심 물체 중 대상 물체를 선택하는 뇌파 측정 모듈;
상기 대상 물체의 정보를 디스플레이하는 투명 화면 모듈;
상기 뇌파 측정 모듈, 상기 시선 추적 모듈, 상기 물체 인식 모듈 및 상기 투명 화면 모듈을 지지하고, 상기 사용자에 의해 착용되는 안경 프레임; 및
상기 시선 추적 모듈 및 상기 투명 화면 모듈이 각각 결합되는 두 개의 투명 렌즈들
을 포함하고,
상기 투명 화면 모듈은
상기 투명 렌즈들 내에 포함되는 측면 방향으로 미리 설정된 각도로 기울어진 반사 필름에 상기 대상 물체의 정보를 입사하여 디스플레이하는 웨어러블 글래스.
1. A wearable glass for extracting a user's intention to an object viewed by a user using eye tracking and brain wave measurement,
An object recognition module for recognizing at least one object located in front of the user;
A gaze tracking module that tracks the gaze of the user with respect to the at least one object to obtain an object of interest among the at least one object;
An EEG measurement module for measuring an EEG of the user and selecting an object among the objects of interest;
A transparent screen module for displaying information of the object;
A spectacle frame for supporting the EEG measurement module, the eye tracking module, the object recognition module and the transparent screen module, and worn by the user; And
Two transparent lenses to which the eye tracking module and the transparent screen module are coupled,
/ RTI >
The transparent screen module
Wherein information of the object is incident on a reflective film inclined at a preset angle in a lateral direction included in the transparent lenses and displayed.
KR1020140001751A 2014-01-07 2014-01-07 Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring KR101554412B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140001751A KR101554412B1 (en) 2014-01-07 2014-01-07 Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140001751A KR101554412B1 (en) 2014-01-07 2014-01-07 Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring

Publications (2)

Publication Number Publication Date
KR20150081846A KR20150081846A (en) 2015-07-15
KR101554412B1 true KR101554412B1 (en) 2015-09-18

Family

ID=53793565

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140001751A KR101554412B1 (en) 2014-01-07 2014-01-07 Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring

Country Status (1)

Country Link
KR (1) KR101554412B1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019040665A1 (en) 2017-08-23 2019-02-28 Neurable Inc. Brain-computer interface with high-speed eye tracking features
KR20200098524A (en) 2017-11-13 2020-08-20 뉴레이블 인크. Brain-computer interface with adaptation for high speed, accuracy and intuitive user interaction
US20220236801A1 (en) * 2019-06-28 2022-07-28 Sony Group Corporation Method, computer program and head-mounted device for triggering an action, method and computer program for a computing device and computing device
US11829527B2 (en) 2020-11-30 2023-11-28 Samsung Electronics Co., Ltd. Augmented reality device, electronic device interacting with augmented reality device, and controlling method thereof
KR20220075857A (en) * 2020-11-30 2022-06-08 삼성전자주식회사 Augmented reality device, electronic device interacting with augmented reality device, and controlling method thereof

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101203921B1 (en) * 2011-09-21 2012-11-27 유제형 Information providing apparatus using an eye tracking and local based service

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101203921B1 (en) * 2011-09-21 2012-11-27 유제형 Information providing apparatus using an eye tracking and local based service

Also Published As

Publication number Publication date
KR20150081846A (en) 2015-07-15

Similar Documents

Publication Publication Date Title
US10203752B2 (en) Head-mounted devices having variable focal depths
US11500607B2 (en) Using detected pupil location to align optical components of a head-mounted display
US11314323B2 (en) Position tracking system for head-mounted displays that includes sensor integrated circuits
US9857870B2 (en) Method of acquiring gaze information irrespective of whether user wears vision aid and moves
US10684469B2 (en) Detecting and mitigating motion sickness in augmented and virtual reality systems
KR101554412B1 (en) Wearable device for extracting user intention against user viewing object using gaze tracking and brain wave measuring
US20150187115A1 (en) Dynamically adjustable 3d goggles
US9696798B2 (en) Eye gaze direction indicator
CN110583016B (en) Non-planar computing display
US20150309567A1 (en) Device and method for tracking gaze
US20150097772A1 (en) Gaze Signal Based on Physical Characteristics of the Eye
US20170171538A1 (en) Ar display with adjustable stereo overlap zone
KR20170020351A (en) A method and a display device with pixel repartition optimization
KR101788452B1 (en) Apparatus and method for replaying contents using eye tracking of users
KR101467529B1 (en) Wearable system for providing information
KR20190075501A (en) Device and method to detect reflection
CN109151446A (en) Control method and electronic equipment

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20180823

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20200106

Year of fee payment: 5

R401 Registration of restoration