KR102133018B1 - Method and its apparatus for controlling a mouse cursor using eye recognition - Google Patents

Method and its apparatus for controlling a mouse cursor using eye recognition Download PDF

Info

Publication number
KR102133018B1
KR102133018B1 KR1020130102161A KR20130102161A KR102133018B1 KR 102133018 B1 KR102133018 B1 KR 102133018B1 KR 1020130102161 A KR1020130102161 A KR 1020130102161A KR 20130102161 A KR20130102161 A KR 20130102161A KR 102133018 B1 KR102133018 B1 KR 102133018B1
Authority
KR
South Korea
Prior art keywords
gaze point
filter coefficient
flat filter
distance
electronic device
Prior art date
Application number
KR1020130102161A
Other languages
Korean (ko)
Other versions
KR20150025041A (en
Inventor
이상원
박정훈
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020130102161A priority Critical patent/KR102133018B1/en
Publication of KR20150025041A publication Critical patent/KR20150025041A/en
Application granted granted Critical
Publication of KR102133018B1 publication Critical patent/KR102133018B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Position Input By Displaying (AREA)

Abstract

본 발명은 안구 인식을 이용한 마우스 커서 제어 방법 및 그 전자 장치에 관한 것으로서, 전자 장치의 안구 인식을 이용한 마우스 커서 제어 방법은 안구 이미지를 수신하는 과정과, 상기 안구 이미지를 분석하여 상기 안구가 응시하는 응시점을 결정하는 과정과, 상기 응시점의 이동 거리에 따라 평탄 필터(Smoothing Filter) 계수를 결정하는 과정과, 상기 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 과정을 포함하여, 전자 장치에서 사용자가 응시하는 응시점의 이동 속도에 따라 마우스 커서의 이동 속도를 조절할 수 있는 효과가 있다. The present invention relates to a method for controlling a mouse cursor using eye recognition and an electronic device thereof. The method for controlling a mouse cursor using eye recognition of an electronic device includes a process of receiving an eye image and analyzing the eye image to allow the eye to stare Including the process of determining a gaze point, a process of determining a smoothing filter coefficient according to the moving distance of the gaze point, and a process of controlling the movement speed of a mouse cursor based on the smoothing filter coefficient, the electronic There is an effect of adjusting the movement speed of the mouse cursor according to the movement speed of the gaze point that the user gazes at the device.

Description

안구 인식을 이용한 마우스 커서 제어 방법 및 그 전자 장치{METHOD AND ITS APPARATUS FOR CONTROLLING A MOUSE CURSOR USING EYE RECOGNITION}A mouse cursor control method using eye recognition and its electronic device{METHOD AND ITS APPARATUS FOR CONTROLLING A MOUSE CURSOR USING EYE RECOGNITION}

본 발명은 전자 장치에 관한 것으로서, 특히 전자 장치에서 안구 인식 기술을 이용하여 마우스 커서를 제어하기 위한 방법 및 장치에 관한 것이다.
The present invention relates to an electronic device, and more particularly, to a method and apparatus for controlling a mouse cursor using eye recognition technology in an electronic device.

터치스크린을 구비한 전자 장치는 터치스크린을 통해 사용자의 손 혹은 터치 펜을 감지하고, 감지된 위치에 대응하는 동작을 수행한다. 그러나, 전자 장치에서 사용자의 손 혹은 터치 펜을 감지하여 동작하는 경우, 신체가 부자유한 사용자는 전자 장치를 조작할 수 없는 문제점이 발생하였다. 이에 따라, 최근에는 전자 장치에서 카메라로부터 입력되는 사용자의 안구(혹은 눈)을 인식하여 전자 장치의 동작을 제어하기 위한 방안이 논의되고 있다. 예를 들어, 전자 장치는 전자 장치에 구비된 카메라를 이용하여 안구의 이미지를 획득하고, 획득된 안구 이미지를 분석하여 디스플레이 장치에 디스플레이된 마우스 커서를 제어할 수 있다. An electronic device having a touch screen detects a user's hand or a touch pen through the touch screen, and performs an operation corresponding to the detected position. However, when an electronic device senses and operates a user's hand or touch pen, a user with a physically inadequate condition may not be able to operate the electronic device. Accordingly, recently, a method for controlling the operation of the electronic device by recognizing the user's eye (or eye) input from the camera in the electronic device has been discussed. For example, the electronic device may acquire an image of the eyeball using a camera provided in the electronic device, analyze the obtained eyeball image, and control a mouse cursor displayed on the display device.

하지만, 안구 이미지를 이용하여 마우스 커서를 제어하는 경우, 다양한 요인에 의해서 마우스 커서의 좌표를 결정하는 정확도가 저하되는 현상이 발생한다. 예를 들어, 전자 장치는 눈의 동작 능력, 카메라의 성능 및 노이즈에 의해 좌표를 정확하게 결정하기 어려운 실정이다. 또한, 종래의 안구 이미지를 이용하여 마우스 커서를 제어하는 경우, 사용자의 응시점이 이동하는 속도에 비해, 마우스 커서의 이동 속도가 현저히 떨어지게 되어, 안구 마우스 커서를 효율적으로 제어하기 어려운 문제점이 존재한다. However, when a mouse cursor is controlled using an eyeball image, a phenomenon in which the accuracy of determining the coordinates of the mouse cursor is reduced due to various factors occurs. For example, it is difficult for an electronic device to accurately determine coordinates based on eye movement capability, camera performance, and noise. In addition, when a mouse cursor is controlled using a conventional eyeball image, the moving speed of the mouse cursor is significantly reduced compared to the speed at which the user's gaze point moves, and there is a problem that it is difficult to efficiently control the eye mouse cursor.

이에 따라, 안구 마우스 커서 제어 시, 마우스 커서의 좌표를 정확하게 결정하고, 사용자의 응시점 이동 속도에 따라 마우스 커서의 이동 속도를 제어하는 방법이 제공될 필요가 있다.
Accordingly, there is a need to provide a method for accurately determining the coordinates of the mouse cursor when controlling the eye mouse cursor, and controlling the movement speed of the mouse cursor according to the user's gaze speed.

따라서, 본 발명의 실시 예는 전자 장치에서 안구 인식 기술을 이용하여 마우스 커서를 제어하기 하기 위한 방법 및 장치를 제공함에 있다.Accordingly, an embodiment of the present invention is to provide a method and apparatus for controlling a mouse cursor using an eye recognition technology in an electronic device.

본 발명의 다른 실시 예는 전자 장치에서 응시점의 이동 속도에 따라 평탄 필터 계수를 결정하기 위한 방법 및 장치를 제공함에 있다. Another embodiment of the present invention provides a method and apparatus for determining a flat filter coefficient according to a movement speed of a gaze point in an electronic device.

본 발명의 또 다른 실시 예는 전자 장치에서 응시점의 이동 속도에 따라 마우스 커서의 이동 속도를 제어하기 위한 방법 및 장치를 제공함에 있다. Another embodiment of the present invention to provide a method and apparatus for controlling the movement speed of the mouse cursor according to the movement speed of the gaze point in the electronic device.

본 발명의 또 다른 실시 예는 전자 장치에서 응시점이 컨텐츠의 임계 거리 이내에 접근하는 경우, 마우스 커서의 속도를 제어하기 위한 방법 및 장치를 제공함에 있다.
Another embodiment of the present invention is to provide a method and apparatus for controlling the speed of a mouse cursor when the gaze point approaches within a threshold distance of content in the electronic device.

본 발명의 실시 예에 따르면, 전자 장치에서 안구 인식을 이용한 마우스 커서 제어 방법에 있어서, 안구 이미지를 수신하는 과정과, 상기 안구 이미지를 분석하여 상기 안구가 응시하는 응시점을 결정하는 과정과, 상기 응시점의 이동 거리에 따라 평탄 필터(Smoothing Filter) 계수를 결정하는 과정과, 상기 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 과정을 포함한다.According to an embodiment of the present invention, in a method for controlling a mouse cursor using eye recognition in an electronic device, a process of receiving an eyeball image, analyzing the eyeball image, and determining a gaze point of the eyeball, And determining a smoothing filter coefficient according to the moving distance of the gaze point, and controlling a moving speed of the mouse cursor based on the smoothing filter coefficient.

본 발명의 실시 예에 따르면, 안구 인식을 이용하여 마우스 커서를 제어하는 전자 장치는 안구 이미지를 수신하는 이미지 획득부와, 상기 안구 이미지를 분석하여 상기 안구가 응시하는 응시점을 결정하고, 상기 응시점의 이동 거리에 따라 평탄 필터(Smoothing Filter) 계수를 결정한 후, 상기 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 커서 속도 제어부를 포함한다.
According to an embodiment of the present invention, an electronic device that controls a mouse cursor using eye recognition includes an image acquisition unit that receives an eyeball image, analyzes the eyeball image, determines a gaze point at which the eyeball gazes, and the gaze After determining the smoothing filter coefficient according to the moving distance of the point, a cursor speed control unit controlling the moving speed of the mouse cursor based on the smoothing filter coefficient.

본 발명에서는 전자 장치에서 안구 이미지를 수신하고, 수신된 안구 이미지를 분석하여, 사용자가 응시하는 응시점을 결정하고, 결정된 응시점의 이동 거리에 따라, 서로 다른 평탄 필터 계수를 적용하여, 마우스 커서의 이동 속도를 제어함으로써, 전자 장치에서 사용자가 응시하는 응시점의 이동 속도에 따라 마우스 커서의 이동 속도를 조절할 수 있다.
In the present invention, the electronic device receives an eyeball image, analyzes the received eyeball image, determines a gaze point that the user gazes, applies different flat filter coefficients according to the determined moving distance of the gaze point, and mouse cursor By controlling the moving speed of, the moving speed of the mouse cursor may be adjusted according to the moving speed of the gaze point that the user gazes in the electronic device.

도 1은 본 발명의 실시 예에 따라 사용자의 안구를 인식하여 마우스를 제어하기 위한 전자 장치를 도시하는 도면,
도 2는 본 발명의 실시 예에 따라 사용자의 안구를 인식하여 마우스를 제어하기 위한 전자 장치의 블럭 구성을 도시하는 도면,
도 3은 본 발명의 실시 예에 따라 전자 장치에서 응시점과 평탄 필터 계수 사이의 관계를 나타내는 그래프를 도시하는 도면,
도 4a는 본 발명의 실시 예에 따라 전자 장치에서 응시점의 이동 거리에 따라 마우스 커서의 이동 속도를 제어하기 위한 절차를 도시하는 도면,
도 4b는 본 발명의 실시 예에 따라 전자 장치에서 응시점의 이동 거리에 따라 마우스 커서의 이동 속도를 제어하기 위한 수단을 도시하는 도면,
도 5는 본 발명의 실시 예에 따라 전자 장치에서 안구를 인식하여 응시점의 이동 속도에 따라 마우스 커서를 제어하기 위한 절차를 도시하는 도면,
도 6은 본 발명의 실시 예에 따라 전자 장치에서 응시점이 이동되는 경우, 마우스 커서의 속도를 제어하기 위한 절차를 도시하는 도면 및
도 7은 본 발명의 실시 예에 따라 전자 장치에서 컨텐츠 주위에서 응시점이 이동되는 경우, 마우스 커서의 속도를 제어하기 위한 절차를 도시하는 도면.
1 is a diagram illustrating an electronic device for controlling a mouse by recognizing a user's eye according to an embodiment of the present invention;
2 is a block diagram of an electronic device for controlling a mouse by recognizing a user's eye according to an embodiment of the present invention;
FIG. 3 is a graph showing a relationship between a gaze point and a flat filter coefficient in an electronic device according to an embodiment of the present invention;
4A is a diagram illustrating a procedure for controlling a moving speed of a mouse cursor according to a moving distance of a gaze point in an electronic device according to an embodiment of the present invention;
4B is a view showing a means for controlling a movement speed of a mouse cursor according to a movement distance of a gaze point in an electronic device according to an embodiment of the present invention;
5 is a view showing a procedure for controlling the mouse cursor according to the movement speed of the gaze point by recognizing the eyeball in the electronic device according to an embodiment of the present invention;
6 is a view showing a procedure for controlling the speed of the mouse cursor when the gaze point is moved in the electronic device according to an embodiment of the present invention;
7 is a diagram illustrating a procedure for controlling the speed of a mouse cursor when a gaze point is moved around content in an electronic device according to an embodiment of the present invention.

이하 본 발명의 바람직한 실시 예를 첨부된 도면을 참조하여 설명한다. 그리고, 본 발명을 설명함에 있어서, 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단된 경우 그 상세한 설명은 생략할 것이다. 또한, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings. And, in the description of the present invention, if it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description will be omitted. In addition, terms to be described later are terms defined in consideration of functions in the present invention, which may vary according to a user's or operator's intention or practice. Therefore, the definition should be made based on the contents throughout this specification.

도 1은 본 발명의 실시 예에 따라 사용자의 안구를 인식하여 마우스를 제어하기 위한 전자 장치를 도시하고 있다.1 illustrates an electronic device for controlling a mouse by recognizing a user's eye according to an embodiment of the present invention.

도 1을 참조하면, 전자 장치는 디스플레이 장치(101), 제 1 LED(Light Emitting Diode)(103), 제 2 LED(105) 및 카메라(107)를 포함한다.Referring to FIG. 1, the electronic device includes a display device 101, a first light emitting diode (LED) 103, a second LED 105, and a camera 107.

디스플레이 장치(101)는 전자 장치의 그래픽 요소를 디스플레이한다. 디스플레이 장치(101)는 전자 장치와 사용자 사이에 입/출력을 위한 인터페이스를 제공한다. 즉, 디스플레이 장치(101)는 사용자 입력에 대응하여, 사용자에게 텍스트, 그래픽 및 비디오를 바탕으로 하는 시각적 출력을 제공한다. 본 발명의 따른 디스플레이 장치(101)는 사용자의 안구가 응시하는 것으로 결정된 응시점 좌표에 대응되는 위치에 마우스 커서를 디스플레이할 수 있다. 더하여, 디스플레이 장치(101)는 사용자의 응시점이 이동하는 속도에 따라 마우스 커서를 이동시켜 디스플레이할 수 있다.The display device 101 displays graphic elements of the electronic device. The display device 101 provides an interface for input/output between the electronic device and the user. That is, the display device 101 provides visual output based on text, graphics, and video to the user in response to user input. The display device 101 according to the present invention may display a mouse cursor at a position corresponding to the gaze point coordinates determined by the user's eyeball to gaze. In addition, the display device 101 may display the mouse cursor by moving the user's gaze point according to the moving speed.

제 1 LED(103)는 사용자의 안구 이미지를 선명하게 획득하도록 사용자의 안구에 빛을 출력할 수 있다. 이때, 제 1 LED(103)는 전자 장치의 카메라 주위에 구비된 하나 이상의 LED를 의미한다. 자세히 말해, 제 1 LED는 사용자의 안구 이미지에서, 제 2 LED로부터 출력된 LED 포인트의 위치를 정확하게 결정하기 위해, 사용자의 동공에 밝은 빛을 출력할 수 있다. 즉, 제 2 LED의 포인트가 사용자 동공과 겹쳐질 때, 일반적으로 동공의 어두운 색상으로 인해 제 2 LED의 포인트 위치를 정확히 판단하기 어려울 수 있다. 따라서 이러한 문제점을 해소하기 위해, 제 1 LED를 통해 사용자의 동공으로 밝은 빛을 출력하여 안구 이미지 내 사용자의 동공 부분이 원래 색상보다 밝은 색상을 갖도록 함으로써 제 2 LED의 포인트 위치를 보다 정확히 판단할 수 있도록 한다.The first LED 103 may output light to the user's eyeball to obtain a user's eyeball image clearly. At this time, the first LED 103 means one or more LEDs provided around the camera of the electronic device. Specifically, the first LED may output bright light to the pupil of the user in order to accurately determine the position of the LED point output from the second LED in the user's eye image. That is, when the point of the second LED overlaps the user pupil, it may be difficult to accurately determine the point position of the second LED due to the dark color of the pupil. Therefore, in order to solve this problem, it is possible to more accurately determine the point position of the second LED by outputting bright light to the pupil of the user through the first LED so that the pupil portion of the eye image has a brighter color than the original color. To make.

제 2 LED(105)는 사용자가 응시하는 응시점을 결정하기 위해, 사용자 안구에 LED 포인트를 맺히게 하기 위해, 빛을 출력할 수 있다. 이때, 제 2 LED(105)는 두 개 이상의 LED로 구성될 수 있다. 본 발명의 실시 예에 따른 제 2 LED(105)는 제 1 LED(103)로부터 빛이 출력된 다음 시점에 출력되어 안구에 LED 포인트를 맺히게 할 수 있다. The second LED 105 may output light to determine the gaze point that the user gazes, and to make the LED point on the user's eyeball. At this time, the second LED 105 may be composed of two or more LEDs. The second LED 105 according to an embodiment of the present invention may be output at a point in time after light is output from the first LED 103 to make the LED point on the eyeball.

카메라(107)는 사용자의 안구를 촬영하여, 안구 이미지를 획득할 수 있다. 본 발명의 실시 예에 따른 카메라(107)는 제 1 LED(103) 및 제 2 LED(105)가 순차적으로 빛을 출력한 이후에 이미지 촬영을 수행하여, 안구 이미지를 획득할 수 있다. 이때, 카메라(107)는 제 1 LED(103) 및 제 2 LED(105)가 빛을 출력한 후에, 촬영을 수행하기 때문에, 안구에 제 2 LED(105)의 포인트가 맺힌 이미지를 촬영할 수 있다.
The camera 107 may photograph an eyeball of the user to obtain an eyeball image. The camera 107 according to an embodiment of the present invention may acquire an eyeball image by performing image shooting after the first LED 103 and the second LED 105 sequentially output light. At this time, since the camera 107 performs photographing after the first LED 103 and the second LED 105 output light, it is possible to photograph an image in which the point of the second LED 105 is formed on the eyeball. .

도 2는 본 발명의 실시 예에 따라 사용자의 안구를 인식하여 마우스를 제어하기 위한 전자 장치의 블럭 구성을 도시하고 있다.2 is a block diagram of an electronic device for controlling a mouse by recognizing a user's eye according to an embodiment of the present invention.

도 2를 참조하면, 전자 장치(200)는 LED 출력 제어부(201), 이미지 획득부(203) 및 커서 속도 제어부(205)를 포함한다. Referring to FIG. 2, the electronic device 200 includes an LED output control unit 201, an image acquisition unit 203, and a cursor speed control unit 205.

LED 출력 제어부(201)는 전자 장치(200)에 구비된 제 1 LED 및 제 2 LED를 제어하여 빛을 출력할 수 있다. 자세히 말해, LED 출력 제어부(201)는 사용자 제어에 의해 안구 인식을 위한 입력이 수신된 경우, 제 2 LED를 구동시켜 빛을 출력하도록 제어하고, 제 2 LED가 빛을 출력할 시, 안구에 맺힌 LED 포인트가 잘 구별되도록 카메라 주위에 구비된 제 1 LED를 구동시켜 빛을 출력하도록 제어할 수 있다. LED 출력 제어부(201)는 제 1 LED를 먼저 구동시켜 빛이 출력되도록 한 이후에, 제 2 LED를 구동시켜 빛이 출력되도록 제어할 수도 있고, 제 1 LED와 제 2 LED를 동시에 구동시켜 빛이 출력되도록 제어할 수도 있다.The LED output control unit 201 may control the first LED and the second LED provided in the electronic device 200 to output light. In detail, when the input for eye recognition is received by the user control, the LED output control unit 201 controls the second LED to output light, and when the second LED outputs light, the LED output control unit 201 is attached to the eyeball. In order to distinguish the LED points, the first LED provided around the camera may be driven to control light output. The LED output control unit 201 may drive the first LED first so that light is output, and then control the second LED to output light, and simultaneously drive the first LED and the second LED to generate light. It can also be controlled to be output.

이미지 획득부(203)는 제 2 LED에서 빛이 출력된 이후, 전자 장치에 구비된 카메라를 이용하여 안구의 이미지를 촬영할 수 있다. 다시 말해, 이미지 획득부(203)는 제 2 LED에서 출력된 빛에 의해 안구에 LED 포인트가 맺히도록 한 이후에, 카메라를 이용하여 안구의 이미지를 촬영할 수 있다. 이후, 이미지 획득부(203)는 미리 설정된 주기마다 카메라를 통해 이미지를 촬영하여 안구 이미지를 획득하거나 혹은 카메라를 통해 안구 이미지를 실시간으로 획득할 수도 있다. After the light is output from the second LED, the image acquisition unit 203 may capture an image of the eyeball using a camera provided in the electronic device. In other words, the image acquisition unit 203 may take an image of the eyeball using a camera after the LED point is formed on the eyeball by the light output from the second LED. Subsequently, the image acquisition unit 203 may acquire an eyeball image by capturing an image through a camera at a predetermined period, or may acquire an eyeball image in real time through the camera.

커서 속도 제어부(205)는 이미지 획득부(203)에서 획득된 이미지를 분석하여 마우스 커서의 이동속도를 제어할 수 있다. 먼저, 커서 속도 제어부(205)는 이미지 획득부(203)에서 획득된 안구 이미지에서, 동공의 위치 및 LED 포인트의 위치를 바탕으로 사용자가 응시하는 응시점을 결정할 수 있다. 다시 말해, 커서 속도 제어부(205)는 이미지 획득부(203)에서 획득된 안구 이미지를 분석하여, LED 포인트를 기준으로 동공의 위치를 확인함으로써, 사용자의 안구가 응시하고 있는 응시점을 결정할 수 있다. The cursor speed control unit 205 may analyze the image acquired by the image acquisition unit 203 to control the moving speed of the mouse cursor. First, the cursor speed controller 205 may determine a gaze point that the user gazes based on the position of the pupil and the position of the LED point in the eyeball image acquired by the image acquisition unit 203. In other words, the cursor speed control unit 205 analyzes the eyeball image acquired by the image acquisition unit 203 and checks the pupil's position based on the LED point to determine the gaze point that the user's eyeball is staring at. .

더하여, 커서 속도 제어부(205)는 결정된 응시점의 이동을 감지할 수 있다. 자세히 말해, 커서 속도 제어부(205)는 안구 이미지를 분석하여 결정된 응시점이 이동되었는지 여부를 확인하고, 응시점이 이동된 경우, 응시점이 이동된 이동 거리를 결정할 수 있다. In addition, the cursor speed controller 205 can detect the movement of the determined gaze point. Specifically, the cursor speed control unit 205 may analyze the eyeball image to determine whether the determined gaze point has been moved, and if the gaze point has been moved, may determine a movement distance at which the gaze point has been moved.

이후, 커서 속도 제어부(205)는 응시점의 결정된 이동 거리와, 미리 결정된 제 1 임계 거리 및 제 2 임계 거리의 비교 결과에 따라, 평탄 필터 계수를 결정하고, 결정된 필터 계수를 바탕으로 마우스 커서의 위치를 결정할 수 있다. 예를 들어, 응시점의 이동 거리가 제 1 임계 거리보다 큰 경우, 커서 속도 제어부(205)는 최소 평탄 필터 계수를 바탕으로 마우스 커서의 위치를 결정할 수 있다. 다른 예를 들어, 응시점의 이동 거리가 제 2 임계 거리보다 작은 경우, 커서 속도 제어부(205)는 최대 평탄 필터 계수를 바탕으로 마우스 커서의 위치를 결정할 수 있다. 또 다른 예를 들어, 응시점의 이동 거리가 제 1 임계 거리보다 작고, 제 2 임계 거리보다 큰 경우, 커서 속도 제어부(205)는 미리 설정된 함수를 이용하여 계산된 평탄 필터 계수를 바탕으로 마우스 커서의 위치를 결정할 수 있다. 응시점의 이동 거리가 제 1 임계 거리보다 작고, 제 2 임계 거리보다 큰 경우, 커서 속도 제어부(205)는 아래의 수학식과 같이 평탄 필터 계수(f)를 계산할 수 있다. Thereafter, the cursor speed control unit 205 determines the flat filter coefficient according to the comparison result of the determined travel distance of the gaze point and the predetermined first threshold distance and the second threshold distance, and based on the determined filter coefficient You can determine the location. For example, when the movement distance of the gaze point is greater than the first threshold distance, the cursor speed control unit 205 may determine the position of the mouse cursor based on the minimum flat filter coefficient. For another example, when the movement distance of the gaze point is smaller than the second threshold distance, the cursor speed control unit 205 may determine the position of the mouse cursor based on the maximum flat filter coefficient. For another example, when the movement distance of the gaze point is smaller than the first threshold distance and larger than the second threshold distance, the cursor speed control unit 205 uses the mouse cursor based on the flat filter coefficient calculated using a preset function. You can determine the location. When the movement distance of the gaze point is smaller than the first threshold distance and larger than the second threshold distance, the cursor speed controller 205 may calculate the flat filter coefficient f as shown in the following equation.

Figure 112013078394188-pat00001
Figure 112013078394188-pat00001

이때, α는 최대 평탄 계수를 의미하고, β는 최소 평탄 계수를 의미하며, T는 제 1 임계 거리, t는 제 2 임계 거리를 의미한다. 또한, 커서 속도 제어부(205)는 현재 응시점(g[n])과 이전 프레임의 마우스 커서 위치(p[n-1])를 이용하여 아래의 수학식과 같이 응시점의 이동 거리(d)를 계산할 수 있다. At this time, α means the maximum flatness coefficient, β means the minimum flatness coefficient, T means the first critical distance, and t means the second critical distance. In addition, the cursor speed control unit 205 uses the current gaze point (g[n]) and the mouse cursor position (p[n-1]) of the previous frame to determine the movement distance (d) of the gaze point as in the following equation. Can be calculated.

Figure 112013078394188-pat00002
Figure 112013078394188-pat00002

결과적으로, 커서 속도 제어부(205)는 결정된 평탄 필터 계수(f), 이전 프레임의 마우스 커서 위치(p[n-1]) 및 현재 응시점(g[n])를 이용하여 아래의 수학식과 같이 현재 마우스 커서의 위치(p[n])를 계산할 수 있다.As a result, the cursor speed control unit 205 uses the determined flat filter coefficient f, the mouse cursor position (p[n-1]) of the previous frame, and the current gaze point (g[n]) as shown in the following equation. The current mouse cursor position (p[n]) can be calculated.

Figure 112013078394188-pat00003
Figure 112013078394188-pat00003

여기서, 응시점의 이동 거리와 평탄 필터 계수의 관계는 도 3에 도시된 바와 같은 그래프의 형태로 가시화될 수 있다. 도 3에 도시된 그래프의 형태는 하나의 실시 예이며, t ~ T 사이의 그래프 형태는 시작점과 끝점만 동일하다면 어떠한 그래프의 형태로든 표현될 수 있다.(예를 들어, 2차 식, 3차 식, tanh 등)Here, the relationship between the moving distance of the gaze point and the flat filter coefficient may be visualized in the form of a graph as shown in FIG. 3. The form of the graph shown in FIG. 3 is one embodiment, and the form of the graph between t and T can be expressed in any graph form as long as the start point and the end point are the same. Expression, tanh, etc.)

이에 따라, 응시점이 상대적으로 빠르게 이동하는 경우, 커서 속도 제어부(205)는 이전 응시점과 이후 응시점 사이의 거리 차이가 크기 때문에, 평탄 필터 계수를 최소 평탄 필터 계수로 결정하여, 마우스 커서의 이동 속도를 빠르게 제어할 수 있다.Accordingly, when the gaze point moves relatively quickly, since the distance difference between the previous gaze point and the subsequent gaze point is large, the cursor speed control unit 205 determines the flat filter coefficient as the minimum flat filter coefficient and moves the mouse cursor. Speed can be controlled quickly.

반면, 응시점이 상대적으로 느리게 이동하는 경우, 커서 속도 제어부(205)는 이전 응시점과 이후 응시점 사이의 거리 차이가 작기 때문에, 평탄 필터 계수를 최대 평탄 필터 계수로 결정하여, 마우스 커서의 이동 속도를 느리게 제어할 수 있다.On the other hand, when the gaze point moves relatively slowly, since the distance difference between the previous gaze point and the subsequent gaze point is small, the cursor speed control unit 205 determines the flat filter coefficient as the maximum flat filter coefficient and moves the mouse cursor. Can be controlled slowly.

더하여, 커서 속도 제어부(205)는 미리 설정된 영역에서 마우스 커서 속도를 제어할 수 있다. 예를 들어, 커서 속도 제어부(205)는 미리 설정된 컨텐츠로부터 임계 거리를 설정하여, 임계 거리 이내에서 응시점이 이동하는 경우, 마우스 커서의 움직임을 느리게 제어할 수 있다. 이때, 커서 속도 제어부(205)는 미리 설정된 영역으로 마우스 커서가 이동하는 경우, 평탄 필터 계수를 최대 평탄 필터 계수로 결정하여, 마우스 커서의 이동 속도를 느리게 제어할 수 있다.
In addition, the cursor speed control unit 205 may control the mouse cursor speed in a preset area. For example, the cursor speed control unit 205 may set the threshold distance from the preset content, and when the gaze point moves within the threshold distance, the movement of the mouse cursor may be controlled slowly. At this time, when the mouse cursor moves to a preset area, the cursor speed control unit 205 may determine the flat filter coefficient as the maximum flat filter coefficient, and slowly control the moving speed of the mouse cursor.

도 4a는 본 발명의 실시 예에 따라 전자 장치(200)에서 응시점의 이동 거리에 따라 마우스 커서의 이동 속도를 제어하기 위한 절차를 도시하고 있다.4A illustrates a procedure for controlling the movement speed of the mouse cursor according to the movement distance of the gaze point in the electronic device 200 according to an embodiment of the present invention.

도 4a를 참조하면, 전자 장치(200)는 401단계에서 안구 이미지를 수신한다. 자세히 말해, 전자 장치(200)는 안구 인식을 위해 카메라를 통해 사용자를 촬영하고, 획득된 이미지에서 공지된 기술을 이용하여 안구의 영역을 추출할 수 있다. Referring to FIG. 4A, the electronic device 200 receives an eyeball image in step 401. Specifically, the electronic device 200 may photograph a user through a camera for eye recognition, and extract an area of the eye using a known technique from the acquired image.

이후, 전자 장치(200)는 403단계에서 안구 이미지를 분석하여 안구가 응시하는 응시점을 결정한다. 이때, 전자 장치(200)는 안구 인식을 통해 마우스 커서를 제어하는 미리 공지된 기술을 바탕으로 안구가 응시하는 응시점을 결정할 수 있다. 예를 들어, 전자 장치(200)는 카메라 주위에 구비된 제 1 LED를 통해 빛을 출력한 후, 제 2 LED를 통해 빛을 출력하여 안구에 제 2 LED의 LED 포인트를 선명하게 맺히게할 수 있다. 이때, 제 1 LED를 통해 빛을 출력한 후, 제 2 LED를 통해 빛을 출력하는 것은 안구에 제 2 LED의 LED 포인트가 선명하게 맺히도록 하여, 안구 이미지에서 제 2 LED의 포인트의 위치를 정확하게 판단할 수 있도록 하기 위함이다. 이후, 전자 장치(200)는 카메라를 통해 안구 이미지를 수신하고, 수신된 안구 이미지에서 동공 및 LED 포인트의 위치를 분석하여 응시점을 결정할 수 있다. Thereafter, in step 403, the electronic device 200 analyzes the eyeball image to determine a gaze point at which the eyeball stares. At this time, the electronic device 200 may determine a gaze point at which the eyeball stares, based on a previously known technique of controlling a mouse cursor through eyeball recognition. For example, the electronic device 200 may output light through the first LED provided around the camera, and then output the light through the second LED, so that the LED point of the second LED is clearly formed on the eyeball. . At this time, after outputting the light through the first LED, outputting the light through the second LED causes the LED point of the second LED to be clearly formed on the eyeball, so that the position of the point of the second LED in the eyeball image is accurately This is to make judgment possible. Thereafter, the electronic device 200 may receive an eyeball image through the camera, and analyze the position of the pupil and the LED point in the received eyeball image to determine the gaze point.

전자 장치(200)는 405단계에서 응시점의 이동 거리에 따라 평탄 필터 계수를 결정할 수 있다. 만약, 응시점의 이동 거리가 미리 결정된 제 1 임계 거리보다 큰 경우, 전자 장치(200)는 미리 결정된 최소 평탄 필터 계수를 마우스 커서의 위치 결정에 이용될 평탄 필터 계수로 결정할 수 있다. 또한, 응시점의 이동 거리가 미리 결정된 제 2 임계 거리보다 작은 경우, 전자 장치(200)는 미리 결정된 최대 평탄 필터 계수를 마우스 커서의 위치 결정에 이용될 평탄 필터 계수로 결정할 수 있다. 더하여, 응시점의 이동 거리가 미리 결정된 제 1 임계 거리보다 작고, 제 2 임계 거리보다 큰 경우, 전자 장치(200)는 수학식 1에 나타낸 바와 같이 미리 설정된 함수를 이용하여 계산된 평탄 필터 계수를 마우스 커서의 위치 결정에 이용될 평탄 필터 계수로 결정할 수 있다.In step 405, the electronic device 200 may determine the flat filter coefficient according to the movement distance of the gaze point. If the movement distance of the gaze point is greater than a first predetermined threshold distance, the electronic device 200 may determine a predetermined minimum flat filter coefficient as a flat filter coefficient to be used for positioning the mouse cursor. Also, when the movement distance of the gaze point is smaller than the predetermined second threshold distance, the electronic device 200 may determine the predetermined maximum flat filter coefficient as a flat filter coefficient to be used for positioning the mouse cursor. In addition, when the movement distance of the gaze point is smaller than a predetermined first threshold distance and larger than a second threshold distance, the electronic device 200 uses the flat filter coefficient calculated using a preset function as shown in Equation (1). It can be determined by a flat filter coefficient to be used for positioning the mouse cursor.

이후, 전자 장치(200)는 407단계로 진행하여 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어할 수 있다. 즉, 결정된 평탄 필터 계수를 이용하여 수학식 3에 나타낸 바와 같은 방식으로 마우스 커서의 위치를 결정함으로써, 마우스 커서의 이동 속도를 제어할 수 있다. 예를 들어, 전자 장치(200)는 시선의 이동이 빠른 경우(응시점의 이동 거리가 긴 경우), 최소 평탄 필터 계수를 이용하여 마우스 커서가 빠른 속도로 이동 되도록 제어할 수 있다. 또한, 전자 장치(200)는 시선의 이동이 느린 경우(응시점의 이동 거리가 짧은 경우), 최대 평탄 필터 계수를 이용하여 마우스 커서가 느린 속도로 이동 되도록 제어할 수 있다. 이에 따라, 본 발명의 실시 예에 따른 전자 장치(200)는 시선의 이동 속도에 따라 서로 다른 평탄 계수 필터를 적용하여 보다 정밀하게 마우스 커서의 이동을 제어할 수 있다.
Thereafter, the electronic device 200 proceeds to step 407 to control the movement speed of the mouse cursor based on the flat filter coefficients. That is, by determining the position of the mouse cursor in the manner as shown in Equation 3 using the determined flat filter coefficient, the moving speed of the mouse cursor can be controlled. For example, when the gaze movement is fast (when the gaze point movement distance is long), the electronic device 200 may control the mouse cursor to move at a high speed using the minimum flat filter coefficient. Also, the electronic device 200 may control the mouse cursor to move at a slow speed by using the maximum flat filter coefficient when the gaze movement is slow (when the gaze point movement distance is short). Accordingly, the electronic device 200 according to an embodiment of the present invention can control the movement of the mouse cursor more precisely by applying different flat coefficient filters according to the movement speed of the gaze.

도 4b는 본 발명의 실시 예에 따라 전자 장치(200)에서 응시점의 이동 거리에 따라 마우스 커서의 이동 속도를 제어하기 위한 수단을 도시하고 있다. 4B illustrates a means for controlling the movement speed of the mouse cursor according to the movement distance of the gaze point in the electronic device 200 according to an embodiment of the present invention.

도 4b를 참조하면, 전자 장치(200)는 안구 이미지를 수신하는 수단(411)을 포함한다. 이때, 전자 장치(200)는 이미지 촬영을 위한 카메라를 구비할 수 있다. 더하여, 전자 장치(200)는 촬영된 이미지에서 사용자의 안구를 추출하여 인식하기 위한 모듈을 구비할 수 있다. Referring to FIG. 4B, the electronic device 200 includes means 411 for receiving an eyeball image. At this time, the electronic device 200 may include a camera for image capture. In addition, the electronic device 200 may include a module for extracting and recognizing the user's eyeball from the captured image.

더하여, 전자 장치(200)는 안구 이미지를 분석하여 안구가 응시하는 응시점을 결정하는 수단(413)을 포함한다. 이때, 전자 장치(200)는 안구에 LED 포인트가 맺히도록 빛을 출력하는 제 2 LED 및 안구에 제 2 LED의 LED 포인트가 선명하게 맺히도록 빛을 출력하는 제 1 LED를 구비할 수 있다. In addition, the electronic device 200 includes means 413 for analyzing an eyeball image to determine a gaze point at which the eyeball stares. In this case, the electronic device 200 may include a second LED outputting light so that the LED point is formed on the eyeball and a first LED outputting light so that the LED point of the second LED is clearly formed on the eyeball.

더하여, 전자 장치(200)는 응시점의 이동 거리에 따라 평탄 필터 계수를 결정하는 수단(415)를 포함한다. 더하여, 전자 장치(200)는 응시점의 이동 거리에 따라 서로 다른 평탄 필터 계수를 적용하기 위해, 평탄 필터 계수를 미리 저장하는 수단 및 평탄 필터 계수를 계산하기 위한 함수를 저장하는 수단을 포함할 수 있다.In addition, the electronic device 200 includes means 415 for determining a flat filter coefficient according to the movement distance of the gaze point. In addition, the electronic device 200 may include means for storing the flat filter coefficients in advance and means for storing a function for calculating the flat filter coefficients, in order to apply different flat filter coefficients according to the moving distance of the gaze point. have.

더하여, 전자 장치(200)는 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 수단(417)을 포함할 수 있다. 이때, 전자 장치(20))는 미리 설정된 영역 내에서 응시점의 이동이 감지되는 경우, 마우스 커서의 이동 속도를 느리게 설정하기 위한 수단을 포함할 수 있다.
In addition, the electronic device 200 may include means 417 for controlling the movement speed of the mouse cursor based on the flat filter coefficients. In this case, when the movement of the gaze point is detected within the preset area, the electronic device 20 may include means for setting the movement speed of the mouse cursor slowly.

도 5는 본 발명의 실시 예에 따라 전자 장치(200)에서 안구를 인식하여 응시점의 이동 속도에 따라 마우스 커서를 제어하기 위한 절차를 도시하고 있다.5 illustrates a procedure for controlling the mouse cursor according to the movement speed of the gaze point by recognizing the eyeball in the electronic device 200 according to an embodiment of the present invention.

도 5를 참조하면, 전자 장치(200)는 501단계에서 제 1 LED를 통해 빛을 출력할 수 있다. 자세히 말해, 전자 장치(200)는 카메라를 통해 안구 이미지를 획득할 경우, 해당 이미지에서 동공 및 LED 포인트의 위치를 선명하게 구별하기 위해, 카메라 주위에 구비된 제 1 LED에서 빛을 출력할 수 있다. Referring to FIG. 5, the electronic device 200 may output light through the first LED in step 501. More specifically, when the eyeball image is acquired through the camera, the electronic device 200 may output light from the first LED provided around the camera in order to clearly distinguish the location of the pupil and the LED point in the corresponding image. .

이후, 전자 장치(200)는 503단계에서 제 2 LED를 통해 빛을 출력할 수 있다. 이때, 전자 장치(200)는 안구 이미지를 획득하여 사용자가 응시하는 응시점을 결정하기 위해, 제 2 LED에서 빛을 출력할 수 있다. Thereafter, the electronic device 200 may output light through the second LED in step 503. At this time, the electronic device 200 may output the light from the second LED to obtain the eyeball image and determine the gaze point that the user gazes.

이후, 전자 장치(200)는 505단계에서 카메라를 통해 안구 이미지를 수신한다. 자세히 말해, 전자 장치(200)는 카메라를 통해 사용자를 촬영하고, 촬영된 사용자의 이미지에서 안구 영역을 추출할 수 있다. 이때, 전자 장치(200)는 미리 공지된 기술을 이용하여 인물 이미지에서 안구 영역을 추출할 수 있다. Thereafter, the electronic device 200 receives an eyeball image through a camera in operation 505. Specifically, the electronic device 200 may photograph a user through a camera and extract an eyeball region from the photographed user's image. At this time, the electronic device 200 may extract the eye region from the person image using a technique known in advance.

이후, 전자 장치(200)는 507단계로 진행하여 안구 이미지에서 동공 및 LED 포인트의 위치를 분석한 후, 509단계에서 분석 결과를 바탕으로 사용자가 응시하는 응시점을 결정할 수 있다. 자세히 말해, 전자 장치(200)는 안구 이미지에서 LED 포인트의 위치를 기준으로한 동공의 위치에 따라, 사용자가 응시하고 있는 응시점을 결정할 수 있다. Thereafter, the electronic device 200 proceeds to step 507, analyzes the position of the pupil and the LED point in the eyeball image, and determines the gaze point that the user gazes based on the analysis result in step 509. More specifically, the electronic device 200 may determine a gaze point that the user is gazing according to the position of the pupil based on the position of the LED point in the eyeball image.

이후, 전자 장치(200)는 511단계에서 응시점의 이동을 감지할 수 있다. 이때, 응시점의 이동 거리는 현재 눈동자의 응시점과 이전 프레임의 마우스 커서 위치 사이의 거리를 바탕으로 결정할 수 있다.Thereafter, the electronic device 200 may detect movement of the gaze point in step 511. At this time, the movement distance of the gaze point may be determined based on the distance between the gaze point of the current pupil and the mouse cursor position of the previous frame.

이후, 전자 장치(200)는 513단계에서 응시점의 이동 거리(d)와 제 1 임계 거리(T) 및 제 2 임계 거리(t)를 비교하여 평탄 필터 계수를 결정할 수 있다. 이때, 제 1 임계 거리(T) 및 제 2 임계 거리(t)는 설계 단계에서 미리 설정되어 저장될 수 있으며, 사용자 제어에 따라 변경될 수 있다.Thereafter, the electronic device 200 may determine the flat filter coefficient by comparing the movement distance d of the gaze point with the first threshold distance T and the second threshold distance t in operation 513. At this time, the first threshold distance T and the second threshold distance t may be preset and stored in the design stage, and may be changed according to user control.

먼저, 응시점의 이동 거리(d)가 제 1 임계 거리(T)보다 큰 경우, 전자 장치(200)는 515단계에서 평탄 필터 계수를 미리 결정된 최소 평탄 필터 계수로 결정할 수 있다.First, when the movement distance d of the gaze point is greater than the first threshold distance T, the electronic device 200 may determine the flat filter coefficient as a predetermined minimum flat filter coefficient in step 515.

응시점의 이동 거리(d)가 제 1 임계 거리보다 작고, 제 2 임계 거리 보다 큰 경우, 전자 장치(200)는 517단계로 진행하여 미리 설정된 함수를 바탕으로 평탄 필터 계수를 결정할 수 있다. 이때, 전자 장치(200)는 상술한 수학식 1을 이용하여 평탄 필터 계수를 결정할 수 있다. When the movement distance d of the gaze point is smaller than the first threshold distance and larger than the second threshold distance, the electronic device 200 proceeds to step 517 to determine a flat filter coefficient based on a preset function. In this case, the electronic device 200 may determine the flat filter coefficient using Equation 1 above.

응시점의 이동 거리(d)가 제 2 임계 거리보다 작은 경우, 전자 장치(2000)는 519단계에서 평탄 필터 계수를 미리 결정된 최대 평탄 필터 계수로 결정할 수 있다. When the movement distance d of the gaze point is smaller than the second threshold distance, the electronic device 2000 may determine the flat filter coefficient as a predetermined maximum flat filter coefficient in step 519.

응시점의 이동 거리와 미리 설정된 임계 거리의 비교 결과를 바탕으로, 평탄 필터 계수가 결정된 경우, 전자 장치(200)는 521단계로 진행하여 결정된 필터 계수를 바탕으로 마우스 커서의 위치를 결정할 수 있다. 이때, 전자 장치(200)는 상술한 수학식 3을 이용하여 마우스 커서의 위치를 결정할 수 있다. When the flat filter coefficient is determined based on the comparison result of the movement distance of the gaze point and a preset threshold distance, the electronic device 200 may proceed to step 521 to determine the position of the mouse cursor based on the determined filter coefficient. At this time, the electronic device 200 may determine the position of the mouse cursor using Equation 3 described above.

이후, 전자 장치(200)는 523단계로 진행하여 결정된 위치로 마우스 커서를 이동시켜 디스플레이할 수 있다. 전자 장치(200)는 응시점의 이동 거리에 따라, 서로 다른 평탄 필터 계수를 적용함으로써, 시선이 빠르게 이동하는 경우에는 마우스 커서의 이동을 빠르게 제어할 수 있고, 시선이 느리게 이동하는 경우에는 마우스 커서의 이동을 느리게 제어할 수 있다. 예를 들어, 시선이 빠르게 이동하는 경우, 전자 장치(200)는 평탄 필터 계수를 작은 값으로 설정하여 마우스 커서의 이동을 빠르게 제어할 수 있다. 다른 예를 들어, 시선이 느리게 이동하는 경우, 전자 장치(200)는 평탄 필터 계수를 큰 값으로 설정하여 마우스 커서의 이동을 느리게 제어할 수 있다. Thereafter, the electronic device 200 proceeds to step 523 to move the mouse cursor to the determined position and display it. The electronic device 200 can quickly control the movement of the mouse cursor when the gaze moves rapidly, and apply the different flat filter coefficients according to the movement distance of the gaze point, and the mouse cursor when the gaze moves slowly. You can control the movement slowly. For example, when the gaze moves rapidly, the electronic device 200 may quickly control the movement of the mouse cursor by setting the flat filter coefficient to a small value. For another example, when the gaze moves slowly, the electronic device 200 may control the movement of the mouse cursor slowly by setting the flat filter coefficient to a large value.

이후, 전자 장치(200)는 본 발명의 실시 예에 따른 절차를 종료할 수 있다.
Thereafter, the electronic device 200 may end the procedure according to an embodiment of the present invention.

이하 설명하는 도 6 및 도 7은 상술한 마우스 커서 제어 방법에 대한 실시 예로써, 응시점의 이동 거리에 따라 마우스 커서를 이동하는 경우, 컨텐츠 주위에서 보다 정교하게 마우스 커서의 이동을 제어하기 위한 방법이다.6 and 7 described below are examples of the method for controlling the mouse cursor described above, and when the mouse cursor is moved according to the movement distance of the gaze point, a method for more precisely controlling the movement of the mouse cursor around the content to be.

도 6은 본 발명의 실시 예에 따라 전자 장치에서 응시점이 이동되는 경우, 마우스 커서의 속도를 제어하기 위한 절차를 도시하고 있다.6 illustrates a procedure for controlling the speed of the mouse cursor when the gaze point is moved in the electronic device according to an embodiment of the present invention.

도 6을 참조하면, 응시점의 이동 거리가 긴 경우, 전자 장치는 평탄 필터 계수를 작은 값으로 설정하여 마우스 커서의 위치를 위치 A(601)에서 위치 B(603)로 빠르게 이동시킬 수 있다. Referring to FIG. 6, when the gaze point movement distance is long, the electronic device may quickly move the position of the mouse cursor from the location A 601 to the location B 603 by setting the flat filter coefficient to a small value.

한편, 도 7에 도시된 바와 같이, 특정 컨텐츠의 임계 거리 내에서, 사용자의 응시점의 이동이 감지되는 경우, 전자 장치는 마우스 커서를 정교하게 제어하기 위해, 평탄 필터 계수를 큰 값으로 설정하여 마우스 커서의 위치를 위치 A(701)에서 위치 B(703)로 느리게 이동시킬 수 있다. 자세히 말해, 전자 장치(200)는 사용자가 마우스 커서를 이용하여 전자 장치(200)를 제어하는 경우, 자주 사용하는 컨텐츠의 임계 거리를 설정하고, 해당 임계 거리 이내에서 응시점의 이동이 감지되는 경우, 평탄 필터 계수를 큰 값으로 설정하여, 컨텐츠의 임계 거리 내에서 마우스 커서를 느리게 이동할 수 있도록 제어할 수 있다. 이때, 전자 장치는 컨텐츠의 UI크기에 따라 서로 다른 임계 거리를 설정할 수 있으며, 컨텐츠별 임계 거리는 전자 장치의 설계 단계에서 설정될 수 있고, 컨텐츠 설치 시, 사용자 제어에 의해 설정될 수 있으며, 사용자의 제어에 따라 변경될 수 있다.
Meanwhile, as illustrated in FIG. 7, when a movement of the user's gaze point is detected within a threshold distance of a specific content, the electronic device sets the flat filter coefficient to a large value to precisely control the mouse cursor. The position of the mouse cursor can be moved slowly from position A (701) to position B (703). More specifically, when the user controls the electronic device 200 using a mouse cursor, the electronic device 200 sets a threshold distance of frequently used content, and when the gaze point movement is detected within the corresponding threshold distance , By setting the flat filter coefficient to a large value, it can be controlled to move the mouse cursor slowly within a critical distance of the content. At this time, the electronic device may set different threshold distances according to the UI size of the content, and the threshold distances for each content may be set in the design stage of the electronic device, and may be set by user control when installing the content. It can be changed under control.

본 명세서에 설명된 발명의 실시 예 및 모든 기능 동작들은 본 명세서에서 개시된 구조 및 이들의 균등 구조들을 포함하는 컴퓨터 소프트웨어, 펌웨어(firmware), 또는 하드웨어로, 또는 이들의 하나 이상의 조합으로 실시될 수 있다. 또한, 본 명세서에서 설명된 발 명의 실시 예들은 하나 이상의 컴퓨터 프로그램 제품, 즉 데이터 프로세싱 장치에 의해 실행되거나 이 장치의 동작을 제어하기 위한 컴퓨터 판독가능 매체 상에 인코딩된 컴퓨터프로그램 명령어들의 하나 이상의 모듈로 실시될 수 있다. Embodiments of the invention and all functional operations described herein may be implemented in computer software, firmware, or hardware, including a structure disclosed herein and equivalent structures thereof, or in a combination of one or more thereof. . In addition, embodiments of the invention described herein are one or more computer program products, ie, one or more modules of computer program instructions that are executed by a data processing device or encoded on a computer readable medium for controlling the operation of the device. Can be practiced.

컴퓨터 판독가능 매체는 머신 판독가능 저장 매체, 머신 판독가능 저장 기판, 메모리 장치, 머신 판독가능 전파 스트림에 영향을 주는 물질의 구성, 또는 이들의 하나 이상의 조합이 될 수 있다. 데이터 프로세싱 장치라는 용어는 예로 프로그램 가능한 프로세서, 컴퓨터, 또는 다중 프로세서 또는 컴퓨터를 포함하는 데이터를 프로세싱하기 위한 모든 기기, 장치 및 머신을 포함한다. 기기는 하드웨어에 부가하여 해당 컴퓨터 프로그램에 대한 실행 환경을 생성하는 코드, 예컨대 프로세서 펌웨어, 프로토콜 스택, 데이터베이스 관리 시스템, 운영 시스템 또는 하나 이상의 이들의 조합을 구성하는 코드를 포함할 수 있다.The computer-readable medium can be a machine-readable storage medium, a machine-readable storage substrate, a memory device, a composition of materials affecting a machine-readable propagation stream, or a combination of one or more of these. The term data processing device includes, for example, a programmable processor, computer, or any device, device, and machine for processing data, including multiple processors or computers. The device may include, in addition to hardware, code that generates an execution environment for a corresponding computer program, such as processor firmware, a protocol stack, a database management system, an operating system, or code constituting one or more combinations thereof.

한편 본 발명의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능하다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 아니 되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야한다.On the other hand, in the detailed description of the present invention, specific embodiments have been described, but various modifications are possible without departing from the scope of the present invention. Therefore, the scope of the present invention should not be limited to the described embodiments, but should be determined not only by the scope of the claims to be described later, but also by the scope and equivalents of the claims.

Claims (18)

안구 마우스의 커서를 제어하기 위한 전자 장치의 방법에 있어서,
상기 전자 장치에 구비된 LED(light emitting diode)로부터 출력된 포인트를 적어도 하나 포함하는 안구 이미지를 수신하는 과정과,
상기 안구 이미지를 분석하여 상기 안구가 응시하는 응시점을 획득하는 과정과,
상기 응시점과 이전 프레임의 마우스 커서 위치에 기반하여 상기 응시점의 이동 거리를 획득하는 과정,
상기 응시점의 이동 거리와 미리 정의된 임계 거리에 기반하여 평탄 필터(Smoothing Filter) 계수를 획득하는 과정과,
상기 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 과정을 포함하는 방법.
A method of an electronic device for controlling a cursor of an eye mouse, comprising:
Receiving an eyeball image including at least one point output from a light emitting diode (LED) provided in the electronic device;
Analyzing the eyeball image to obtain a gaze point at which the eyeball stares,
Obtaining a moving distance of the gaze point based on the gaze point and the position of the mouse cursor of the previous frame,
Obtaining a smoothing filter coefficient based on a moving distance of the gaze point and a predefined threshold distance;
And controlling a moving speed of the mouse cursor based on the flat filter coefficients.
청구항 1에 있어서,
상기 안구 이미지를 수신하는 과정은,
상기 전자 장치에 구비된 제 1 LED를 이용하여 빛을 출력하는 과정과,
상기 전자 장치에 구비된 제 2 LED를 이용하여 빛을 출력하는 과정과,
상기 전자 장치에 구비된 카메라를 이용하여 적어도 하나의 LED에 의한 포인트를 포함하는 안구 이미지를 촬영하는 과정과,
상기 촬영된 이미지에서 안구 영역을 추출하는 과정을 포함하는 방법.
The method according to claim 1,
The process of receiving the eyeball image,
Outputting light using the first LED provided in the electronic device;
Outputting light using a second LED provided in the electronic device;
A process of photographing an eyeball image including a point by at least one LED using a camera provided in the electronic device;
And extracting an eye region from the photographed image.
청구항 1에 있어서,
상기 안구 이미지를 분석하여 상기 안구가 응시하는 응시점을 획득하는 과정은,
상기 이미지에서 동공 및 LED 포인트를 확인하는 과정과,
상기 LED 포인트의 위치를 기준으로 한 상기 동공의 위치에 따라 상기 안구가 응시하는 응시점을 획득하는 과정을 포함하는 방법.
The method according to claim 1,
The process of analyzing the image of the eyeball and obtaining a gaze point at which the eyeball stares,
The process of identifying the pupil and the LED point in the image,
And acquiring a gaze point at which the eyeball gazes according to the position of the pupil based on the position of the LED point.
청구항 1에 있어서,
상기 응시점의 이동 거리에 따라 평탄 필터(Smoothing Filter) 계수를 획득하는 과정은,
상기 응시점의 이동 거리와 제 1 임계 거리 및 제 2 임계 거리를 비교하는 과정과,
상기 응시점의 이동 거리가 제 1 임계 거리보다 큰 경우, 미리 설정된 최소 평탄 필터 계수를 상기 평탄 필터 계수로 획득하는 과정을 포함하는 방법.
The method according to claim 1,
The process of obtaining a smoothing filter coefficient according to the moving distance of the gaze point,
Comparing the moving distance of the gaze point with a first critical distance and a second critical distance,
And when the moving distance of the gaze point is greater than a first threshold distance, obtaining a preset minimum flat filter coefficient as the flat filter coefficient.
청구항 4에 있어서,
상기 응시점의 이동 거리가 제 1 임계 거리보다 작고, 제 2 임계 거리보다 큰 경우, 하기 수학식을 이용하여 평탄 필터 계수를 계산하는 과정과,
상기 계산된 평탄 필터 계수를 상기 평탄 필터 계수로 획득하는 과정을 더 포함하는 방법.
Figure 112020007082070-pat00016

여기서, f는 평탄 필터 계수, α는 최대 평탄 필터 계수,
Figure 112020007082070-pat00017
는 최소 평탄 필터 계수, T는 상기 제 1 임계 거리, t는 상기 제 2 임계 거리를 의미함.
The method according to claim 4,
Calculating a flat filter coefficient using the following equation when the moving distance of the gaze point is smaller than the first critical distance and larger than the second critical distance,
And obtaining the calculated flat filter coefficients as the flat filter coefficients.
Figure 112020007082070-pat00016

Where f is the flat filter coefficient, α is the maximum flat filter coefficient,
Figure 112020007082070-pat00017
Is the minimum flat filter coefficient, T is the first critical distance, and t is the second critical distance.
청구항 5에 있어서,
상기 응시점의 이동 거리가 제 2 임계 거리보다 작은 경우, 미리 설정된 최대 평탄 필터 계수를 상기 평탄 필터 계수로 획득하는 과정을 포함하는 방법.
The method according to claim 5,
And if the moving distance of the gaze point is smaller than a second threshold distance, obtaining a preset maximum flat filter coefficient as the flat filter coefficient.
청구항 1에 있어서,
상기 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 과정은,
상기 평탄 필터 계수를 바탕으로 하기 수학식과 같이 마우스 커서의 위치를 계산하는 과정과,
상기 계산된 위치로 상기 마우스 커서를 이동시키는 과정을 포함하는 방법.
Figure 112020007082070-pat00018

여기서, p[n]은 현재 프레임의 마우스 커서 위치, f는 상기 획득된 평탄 필터 계수, p[n-1]은 이전 프레임의 마우스 커서 위치 및 g[n] 현재 응시점을 의미함.
The method according to claim 1,
The process of controlling the movement speed of the mouse cursor based on the flat filter coefficients,
The process of calculating the position of the mouse cursor based on the flat filter coefficients as in the following equation,
And moving the mouse cursor to the calculated position.
Figure 112020007082070-pat00018

Here, p[n] is the mouse cursor position of the current frame, f is the obtained flat filter coefficient, p[n-1] is the mouse cursor position of the previous frame and g[n] is the current gaze point.
청구항 1에 있어서,
상기 응시점의 이동 거리에 따라 평탄 필터(Smoothing Filter) 계수를 획득하는 과정은,
응시점이 특정 컨텐츠의 미리 설정된 임계 거리 이내로 이동하는지 여부를 확인하는 과정과,
상기 응시점이 특정 컨텐츠의 미리 설정된 임계 거리 이내로 이동하는 경우, 상기 평탄 필터 계수를 미리 설정된 최대 평탄 필터 계수로 획득하는 과정을 포함하는 방법.
The method according to claim 1,
The process of obtaining a smoothing filter coefficient according to the moving distance of the gaze point,
Confirming whether the gaze point moves within a predetermined threshold distance of a specific content,
And when the gaze point moves within a predetermined threshold distance of specific content, obtaining the flat filter coefficient as a preset maximum flat filter coefficient.
안구 마우스의 커서를 제어하기 위한 전자 장치에 있어서,
상기 전자 장치에 구비된 LED(light emitting diode)로부터 출력된 포인트를 적어도 하나 포함하는 안구 이미지를 수신하는 이미지 획득부와,
상기 안구 이미지를 분석하여 상기 안구가 응시하는 응시점을 획득하고, 상기 응시점과 이전 프레임의 마우스 커서 위치에 기반하여 상기 응시점의 이동거리를 획득하고, 상기 응시점의 이동 거리와 임계 거리에 기반하여 평탄 필터(Smoothing Filter) 계수를 획득한 후, 상기 평탄 필터 계수를 바탕으로 마우스 커서의 이동 속도를 제어하는 커서 속도 제어부를 포함하는 장치.
In the electronic device for controlling the cursor of the eye mouse,
An image acquiring unit receiving an eyeball image including at least one point output from a light emitting diode (LED) provided in the electronic device;
The eyeball image is analyzed to obtain a gaze point at which the eyeball gazes, a movement distance of the gaze point is obtained based on the gaze point and the mouse cursor position of the previous frame, and the movement distance and critical distance of the gaze point After obtaining a smoothing filter coefficient based on, a device including a cursor speed control unit that controls a moving speed of a mouse cursor based on the smoothing filter coefficient.
청구항 9에 있어서,
상기 전자 장치에 구비된 제 1 LED를 이용하여 빛을 출력하도록 제어하고, 상기 전자 장치에 구비된 제 2 LED를 이용하여 빛을 출력하도록 제어하는 LED 출력 제어부를 더 포함하며,
상기 이미지 획득부는 상기 전자 장치에 구비된 카메라를 이용하여 적어도 하나의 LED에 의한 포인트를 포함하는 안구 이미지를 촬영하도록 제어하며.
상기 커서 속도 제어부는 촬영된 이미지에서 안구 영역을 추출하는 장치.
The method according to claim 9,
Further comprising an LED output control unit for controlling to output light using the first LED provided in the electronic device, and controlling to output the light using the second LED provided in the electronic device,
The image acquisition unit controls to capture an eyeball image including a point by at least one LED using a camera provided in the electronic device.
The cursor speed controller is a device that extracts the eyeball area from the captured image.
청구항 9에 있어서,
상기 커서 속도 제어부는 상기 이미지에서 동공 및 LED 포인트를 확인하고, 상기 LED 포인트의 위치를 기준으로 한 상기 동공의 위치에 따라 상기 안구가 응시하는 응시점을 획득하는 장치.
The method according to claim 9,
The cursor speed control unit checks the pupil and the LED point in the image, and obtains a gaze point at which the eyeball stares according to the pupil position based on the position of the LED point.
청구항 9에 있어서,
상기 커서 속도 제어부는 상기 응시점의 이동 거리와 제 1 임계 거리 및 제 2 임계 거리를 비교하고, 상기 응시점의 이동 거리가 제 1 임계 거리보다 큰 경우, 미리 설정된 최소 평탄 필터 계수를 상기 평탄 필터 계수로 획득하는 장치.
The method according to claim 9,
The cursor speed control unit compares a movement distance of the gaze point with a first threshold distance and a second threshold distance, and when the movement distance of the gaze point is greater than the first threshold distance, the preset minimum flat filter coefficient is the flat filter A device obtained by counting.
청구항 12에 있어서,
상기 커서 속도 제어부는 상기 응시점의 이동 거리가 제 1 임계 거리보다 작고, 제 2 임계 거리보다 큰 경우, 하기 수학식을 이용하여 평탄 필터 계수를 계산하고, 상기 계산된 평탄 필터 계수를 상기 평탄 필터 계수로 획득하는 장치.
Figure 112020007082070-pat00019

여기서, f는 평탄 필터 계수, α는 최대 평탄 필터 계수,
Figure 112020007082070-pat00020
는 최소 평탄 필터 계수, T는 상기 제 1 임계 거리, t는 상기 제 2 임계 거리를 의미함.
The method according to claim 12,
When the movement distance of the gaze point is smaller than the first threshold distance and larger than the second threshold distance, the cursor speed control unit calculates a flat filter coefficient by using the following equation, and calculates the flat filter filter coefficient using the flat filter. A device obtained by counting.
Figure 112020007082070-pat00019

Where f is the flat filter coefficient, α is the maximum flat filter coefficient,
Figure 112020007082070-pat00020
Is the minimum flat filter coefficient, T is the first critical distance, and t is the second critical distance.
청구항 12에 있어서,
상기 커서 속도 제어부는 상기 응시점의 이동 거리가 제 2 임계 거리보다 작은 경우, 미리 설정된 최대 평탄 필터 계수를 상기 평탄 필터 계수로 획득하는 장치.
The method according to claim 12,
The cursor speed control unit acquires a preset maximum flat filter coefficient as the flat filter coefficient when the movement distance of the gaze point is smaller than a second threshold distance.
청구항 9에 있어서,
상기 커서 속도 제어부는 상기 평탄 필터 계수를 바탕으로 하기 수학식과 같이 마우스 커서의 위치를 계산하고, 상기 계산된 위치로 상기 마우스 커서를 이동시키는 장치.
Figure 112020007082070-pat00021

여기서, p[n]은 현재 프레임의 마우스 커서 위치, f는 상기 획득된 평탄 필터 계수, p[n-1]은 이전 프레임의 마우스 커서 위치 및 g[n] 현재 응시점을 의미함.
The method according to claim 9,
The cursor speed control unit calculates the position of the mouse cursor based on the flat filter coefficients as in the following equation, and moves the mouse cursor to the calculated position.
Figure 112020007082070-pat00021

Here, p[n] is the mouse cursor position of the current frame, f is the obtained flat filter coefficient, p[n-1] is the mouse cursor position of the previous frame and g[n] is the current gaze point.
청구항 9에 있어서,
상기 커서 속도 제어부는 응시점이 특정 컨텐츠의 미리 설정된 임계 거리 이내로 이동하는지 여부를 확인하고, 상기 응시점이 특정 컨텐츠의 미리 설정된 임계 거리 이내로 이동하는 경우, 상기 평탄 필터 계수를 미리 설정된 최대 평탄 필터 계수로 획득하는 장치.
The method according to claim 9,
The cursor speed control unit determines whether the gaze point moves within a predetermined threshold distance of a specific content, and when the gaze point moves within a predetermined threshold distance of a specific content, acquires the flat filter coefficient as a preset maximum flat filter coefficient Device.
삭제delete 삭제delete
KR1020130102161A 2013-08-28 2013-08-28 Method and its apparatus for controlling a mouse cursor using eye recognition KR102133018B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020130102161A KR102133018B1 (en) 2013-08-28 2013-08-28 Method and its apparatus for controlling a mouse cursor using eye recognition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130102161A KR102133018B1 (en) 2013-08-28 2013-08-28 Method and its apparatus for controlling a mouse cursor using eye recognition

Publications (2)

Publication Number Publication Date
KR20150025041A KR20150025041A (en) 2015-03-10
KR102133018B1 true KR102133018B1 (en) 2020-07-10

Family

ID=53021356

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130102161A KR102133018B1 (en) 2013-08-28 2013-08-28 Method and its apparatus for controlling a mouse cursor using eye recognition

Country Status (1)

Country Link
KR (1) KR102133018B1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016029422A1 (en) * 2014-08-29 2016-03-03 Hewlett-Packard Development Company, L.P. Touchscreen gestures
WO2018186889A1 (en) 2017-04-07 2018-10-11 Hewlett-Packard Development Company, L.P. Cursor adjustments
KR102065532B1 (en) 2017-07-18 2020-01-13 이주성 Eye Recognition Key Board for Korean Alphabet Input
KR102083372B1 (en) * 2017-09-15 2020-03-02 한동대학교 산학협력단 System for alternative computer access using eye-tracking and voice recognition and operating method having the same
CN111552389B (en) * 2020-05-11 2023-04-28 Oppo广东移动通信有限公司 Gaze point shake eliminating method, gaze point shake eliminating device and storage medium

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008128998A (en) * 2006-11-27 2008-06-05 Fuji Heavy Ind Ltd Smoothing filter system and speed detector
JP2012065781A (en) * 2010-09-22 2012-04-05 Fujitsu Ltd Line-of-sight detection device, and correction coefficient determination program

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030069531A (en) * 2002-02-21 2003-08-27 한국과학기술원 Eye gaze point estimation method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008128998A (en) * 2006-11-27 2008-06-05 Fuji Heavy Ind Ltd Smoothing filter system and speed detector
JP2012065781A (en) * 2010-09-22 2012-04-05 Fujitsu Ltd Line-of-sight detection device, and correction coefficient determination program

Also Published As

Publication number Publication date
KR20150025041A (en) 2015-03-10

Similar Documents

Publication Publication Date Title
US9916012B2 (en) Image processing apparatus, image processing method, and program
JP7151814B2 (en) Information processing device, information processing method and program
US11650659B2 (en) User input processing with eye tracking
US9122917B2 (en) Recognizing gestures captured by video
US10659681B2 (en) Information processing apparatus, information processing method, and program
KR102133018B1 (en) Method and its apparatus for controlling a mouse cursor using eye recognition
US9131150B1 (en) Automatic exposure control and illumination for head tracking
US8934673B2 (en) Image processing method and apparatus for detecting target
US8837780B2 (en) Gesture based human interfaces
JP2021502627A (en) Image processing system and processing method using deep neural network
EP2874045A1 (en) Gesture recognition device and control method for the same
EP2704057A2 (en) Gesture recognition apparatus, control method thereof, display instrument, and computer readable medium
KR101631011B1 (en) Gesture recognition apparatus and control method of gesture recognition apparatus
JP2016520946A (en) Human versus computer natural 3D hand gesture based navigation method
US9171200B2 (en) Gestural interaction identification
US9436870B1 (en) Automatic camera selection for head tracking using exposure control
KR101631015B1 (en) Gesture recognition apparatus and control method of gesture recognition apparatus
US10088924B1 (en) Overcoming motion effects in gesture recognition
JP2011095985A (en) Image display apparatus
US10379678B2 (en) Information processing device, operation detection method, and storage medium that determine the position of an operation object in a three-dimensional space based on a histogram
JP6229554B2 (en) Detection apparatus and detection method
JP2013225013A5 (en)
KR102107182B1 (en) Hand Gesture Recognition System and Method
TWI444909B (en) Hand gesture image recognition method and system using singular value decompostion for light compensation
KR20190069023A (en) Method of Providing Touchless Input Interface Based on Hand Recognition and The Apparatus Applied Thereto

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant