WO2016093419A1 - 시선 캘리브레이션 방법 및 그 전자 장치 - Google Patents

시선 캘리브레이션 방법 및 그 전자 장치 Download PDF

Info

Publication number
WO2016093419A1
WO2016093419A1 PCT/KR2015/000285 KR2015000285W WO2016093419A1 WO 2016093419 A1 WO2016093419 A1 WO 2016093419A1 KR 2015000285 W KR2015000285 W KR 2015000285W WO 2016093419 A1 WO2016093419 A1 WO 2016093419A1
Authority
WO
WIPO (PCT)
Prior art keywords
event
screen
calibration
electronic device
user
Prior art date
Application number
PCT/KR2015/000285
Other languages
English (en)
French (fr)
Inventor
김창한
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US15/534,765 priority Critical patent/US20170344111A1/en
Publication of WO2016093419A1 publication Critical patent/WO2016093419A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/197—Matching; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance

Definitions

  • Various embodiments of the present disclosure relate to a method of calibrating a line of sight and an electronic device thereof.
  • Examples of methods of determining and / or tracking the gaze of the user in the electronic device may be to determine the gaze by using information such as iris, pupil, or corneal glint. Tracking methods are being studied.
  • gaze calibration To determine what part of the user's gaze is on the display screen, let the user look at a fixed location and model the direction of the user's gaze by analyzing the iris, pupil, corneal glint, etc. Can be.
  • a calibration process for matching the point on the display screen viewed by the user with the point recognized by the electronic device is required, which may be referred to as gaze calibration.
  • the location or area tracked by the electronic device due to a change in the state of the display for example, a change in position
  • a change in the user's position for example, a change in the user's position
  • an environment for example, a change in the user's position
  • a position where the user actually looks or Differences between regions can occur.
  • Various embodiments of the present disclosure may provide a gaze calibration method and an electronic device capable of simultaneously performing a calibration process while simultaneously tracking a gaze when a user looks at a display.
  • an electronic device including a camera unit configured to capture an image in response to an operation of displaying an event at a location on a screen of the electronic device; And a controller configured to perform calibration on the gaze based on information related to the gaze of the user determined from the photographed image and information on a location on the screen on which the event is displayed.
  • an operation method of an electronic device may include determining whether the event is a preset event when at least one event occurs in the electronic device; Photographing an image through a camera if the event is a preset event; And calibrating the gaze of the user determined from the photographed image based on location information on the screen corresponding to the event.
  • the gaze calibration method and the electronic device may perform the calibration even when the user does not realize the direct use of the electronic device without performing a minimum manual calibration process or a separate calibration process.
  • the gaze calibration method and the electronic device may perform the calibration while tracking the gaze while the user uses the electronic device.
  • FIG. 1 is a diagram illustrating a configuration example of an electronic device according to various embodiments of the present disclosure.
  • FIG. 2 is a flowchart illustrating a gaze calibration procedure according to various embodiments of the present disclosure.
  • FIG. 3 is a flowchart illustrating a gaze calibration procedure according to various embodiments of the present disclosure.
  • FIG. 4 is a flowchart illustrating a gaze calibration procedure according to various embodiments of the present disclosure.
  • FIG. 5 is a flowchart illustrating a calibration error determination procedure according to various embodiments of the present disclosure.
  • FIG. 6 is a flowchart illustrating a calibration information update procedure according to various embodiments of the present disclosure.
  • FIG. 7 illustrates an example of event occurrence according to various embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating an event occurrence according to various embodiments of the present disclosure.
  • FIG. 9 is a diagram illustrating an example of event occurrence according to various embodiments of the present disclosure.
  • FIG. 10 illustrates a line of sight of a user according to various embodiments of the present disclosure.
  • FIG. 11 is a diagram illustrating a gaze calibration screen according to various embodiments of the present disclosure.
  • FIG. 12 is a diagram illustrating modeling of gaze tracking according to various embodiments of the present disclosure.
  • FIG. 13 is a diagram illustrating an example of a gaze prediction method according to various embodiments of the present disclosure.
  • FIG. 14 is a view illustrating a change of an event occurrence position according to various embodiments of the present disclosure.
  • 15 is a block diagram illustrating a detailed structure of an electronic device according to an embodiment of the present disclosure.
  • 16 is a block diagram of a program module according to various embodiments of the present disclosure.
  • expressions such as “have”, “may have”, “include”, or “may contain” include the presence of a corresponding feature (e.g., numerical, functional, operational, or component such as a component). Does not exclude the presence of additional features.
  • expressions such as “A or B”, “at least one of A or / and B”, or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B”, “at least one of A and B”, or “at least one of A or B” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” as used in various embodiments may modify various elements in any order and / or importance, and the elements may be modified. It is not limited. The above expressions may be used to distinguish one component from another.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be referred to as a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • no other component e.g., a third component
  • the expression “configured to” used in this document is, for example, “suitable for”, “having the capacity to” depending on the situation. It may be used interchangeably with “designed to”, “adapted to”, “made to”, or “capable of”.
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or set up) to perform A, B, and C” may execute a dedicated processor (eg, an embedded processor) to perform the operation, or one or more software programs stored in a memory device. By doing so, it may mean a general-purpose processor (for example, a CPU or an application processor) capable of performing the corresponding operations.
  • the electronic device may be a smartphone, a tablet personal computer, a mobile phone, a video phone, or an e-book reader. reader, desktop personal computer (PC), laptop personal computer (PC), netbook computer, workstation, server, personal digital assistant (PDA), portable multimedia player (PMP), MP3 player , Mobile medical devices, cameras, or wearable devices (e.g. smart glasses, head-mounted-device (HMD)), electronic clothing, electronic bracelets, electronic necklaces, electronic accessories (appcessory), an electronic tattoo, a smart mirror, or a smart watch.
  • PC personal computer
  • PC personal computer
  • netbook computer workstation
  • server personal digital assistant
  • PMP portable multimedia player
  • MP3 player MP3 player
  • Mobile medical devices cameras, or wearable devices (e.g. smart glasses, head-mounted-device (HMD)), electronic clothing, electronic bracelets, electronic necklaces, electronic accessories (appcessory), an electronic tattoo, a smart mirror, or a smart watch.
  • HMD head-mounted-device
  • electronic clothing
  • the electronic device may be a smart home appliance.
  • Smart home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, vacuum cleaners, ovens, microwave ovens, washing machines, air purifiers, set-top boxes, home automation Home automation control panel, security control panel, TV box (e.g. Samsung HomeSync TM, Apple TV TM, or Google TV TM), game console (e.g. Xbox TM, PlayStation TM), electronics It may include at least one of a dictionary, an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include various medical devices (eg, various portable medical measuring devices (such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as CT (computed tomography, imaging or ultrasound), navigation devices, global positioning system receivers, event data recorders (EDRs), flight data recorders (FDRs), automotive infotainment devices, ships Electronic equipment (e.g. ship navigation systems, gyro compasses, etc.), avionics, security devices, vehicle head units, industrial or home robots, automatic teller's machines (financial institutions), shop POS (point of sales), or the Internet of things (e.g. light bulbs, sensors, electrical or gas meters, sprinkler devices, fire alarms, thermostats, street lights, toasters) ), Exercise equipment, hot water tank, heater, boiler, and the like.
  • various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters
  • MRA magnetic
  • an electronic device may be a furniture or part of a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be one or a combination of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • 'gaze calibration' may refer to a calibration for matching a position on a display screen viewed by an actual user to an on-screen position recognized by an electronic device to analyze a user's gaze. have.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • an electronic device may include a control unit 110, a light source unit 120, a camera unit 130, a display unit 140, an input unit 150, or a storage unit 160. It may be configured to include at least one.
  • the controller 110 includes at least one of a calibration processor 111, an event determiner 112, a position determiner 113, a gaze determiner 114, and a data verifier 115. Can be.
  • the calibration processor 111 may perform a function of processing a calibration for the user's gaze. Various methods may be applied as a method of processing the user's gaze calibration, and specific embodiments will be described later.
  • the calibration may include a correction for matching the position on the display screen viewed by the actual user with the position on the screen recognized by the electronic device to analyze the gaze of the user.
  • the event determination unit 112 may determine event occurrence for various events that may occur in the electronic device, and may include at least one event related information (eg, event type, event occurrence time, event attribute) related to the generated event. Information, etc.).
  • event related information eg, event type, event occurrence time, event attribute
  • the type of the event may be an input event input by the user through the input unit 150.
  • it may be a click event by a mouse or may be a touch event in which a user touches a specific position on a touch screen.
  • it may be various gesture events in which the user can select a specific position on the screen.
  • gesture used in various embodiments of the present invention refers to a movement made by a user using a part of a body or a part of an object associated with the user, and does not limit only a movement of a specific body part such as a finger or a hand. Do not.
  • a gesture may be interpreted to include various gestures such as folding of an arm, movement of a head, and movement using a pen.
  • the gesture may be a touch, a release of a touch, a rotate, a pinch, a spread, a touch drag, a flick, a swipe, Touch and hold, tap, double tap, drag, drag and drop, multiswipes, shake, rotate And the like).
  • the touched state may include a very close approach even if a finger touches or does not actually touch the touch screen.
  • the type of the event may be an output event displayed through the display unit 140.
  • it may be a popup window generation event in which a popup window is generated at a specific position on the screen.
  • the position determiner 113 may determine a position on the screen corresponding to the event confirmed by the event determiner 112. For example, when the generated event is a touch event for touching a specific position on the screen, the position determiner 113 may check the position on the screen where the touch event occurs. Also, for example, when the generated event is a mouse click event, the position determining unit 113 may check the position (eg, the position of the cursor) on the screen selected by the mouse click. For example, when the generated event is an event of generating a pop-up window and displaying the pop-up window, the position determiner 113 may check a position on the screen on which the pop-up window is displayed.
  • the position information checked by the position determiner 113 may be coordinate information (eg, coordinates of a pixel) indicating a specific point on a display screen, and includes an area including at least one coordinate. It may also be location information for.
  • the gaze determiner 114 may perform a function of determining the gaze of the user. In addition, the gaze determination unit 114 may further perform a function of determining the gaze of the user and tracking the gaze of the user.
  • the gaze determination method of the gaze determination unit 114 may be implemented by various gaze determination algorithms, and various embodiments of the present disclosure are not limited to a specific algorithm.
  • the gaze determination unit 114 may model the shape of the eyeball using information such as the user's iris, the pupil, the glare of the cornea, and determine or track the eyes of the user. Can be.
  • the gaze determiner 114 may determine the user's gaze (or gaze direction) in conjunction with the camera 130 or the light source 120.
  • the user's gaze may be determined by photographing a face or eye of the user through the camera unit 130 and analyzing the photographed image.
  • the at least one light source may be emitted through the light source unit 120 under the control of the controller 110.
  • the gaze determiner 114 photographs the face or eye of the user through the camera unit 130 and through the position of the light source formed on the eye in the captured image. The eyes of the user may be determined.
  • the calibration information 161 processed by the calibration processor 111 and / or the gaze information 162 determined by the gaze determiner 114 may be stored in the storage 160.
  • the calibration information 161 and / or the gaze information 162 may be stored corresponding to each user information.
  • the calibration processor 111 may be implemented to perform calibration through a separate calibration setting menu. For example, when the user executes the calibration function, a mark is displayed at at least one position on the screen set through the display unit 140, and when the user stares at the mark displayed on the screen, the screen stared by the user The user's gaze may be calibrated with respect to the location of the image. For example, as a function of the calibration, a correction may be performed to match a position on the display screen viewed by the user to a position on the screen recognized by the electronic device.
  • the calibration processor 111 may generate an event (for example, an event for checking position information on the screen corresponding to the event) that is preset through the event determiner 112. If it is determined, the calibration procedure may be performed without switching to a separate calibration setting menu. If calibration is performed when a set event occurs without switching to the separate calibration setting menu, the user may not realize that the electronic device is calibrating. Performing calibration according to the above embodiment does not affect the user's use of the electronic device (eg, execution of various applications, web browsing, etc.), thereby enabling the user to conveniently use the electronic device.
  • an event for example, an event for checking position information on the screen corresponding to the event
  • calibration through the separate calibration setting menu and calibration performed without switching to the calibration setting menu when the event occurs may be provided in parallel or only when an event occurs without the separate calibration setting. It may be implemented to perform calibration.
  • an initial calibration may be performed through a separate calibration setting menu, and then more precise calibration may be performed when a preset event occurs.
  • the data verifier 115 may verify a calibration that is already set, according to various embodiments of the present disclosure. For example, when an event in which a location on a screen is specified according to various embodiments of the present invention occurs while the calibration information 161 is stored in the storage unit 160, calibration information is generated using location information on the screen where the event occurs. The calibration data may be verified or updated by comparing with the previously stored calibration information 161.
  • the controller 110 may determine the gaze and / or track the gaze through the gaze determiner 114, and at the same time through the calibration processor 111 according to various embodiments of the present disclosure. Calibration can also be performed.
  • the controller 110 may be referred to as a processor, and the controller 110 may be a central processing unit (CPU), an application processor (AP), or a communication processor. (CP)) or one or more.
  • the controller 110 may execute, for example, an operation or data processing related to control and / or communication of at least one other element of the electronic device.
  • the storage unit 160 may include a volatile and / or nonvolatile memory.
  • the storage unit 160 may store, for example, commands or data related to at least one other element of the electronic device.
  • the storage unit 160 may store software and / or a program.
  • the program may include, for example, a kernel, middleware, an application programming interface (API), and / or an application program (or “application”). At least a portion of the kernel, middleware, or API may be called an operating system (OS).
  • OS operating system
  • the kernel is, for example, system resources (eg, buses, processors, storage 160, etc.) used to execute operations or functions implemented in other programs (eg, middleware, APIs, or application programs).
  • the kernel may provide an interface for controlling or managing system resources by accessing individual components of the electronic device from the middleware, the API, or the application program. have.
  • the middleware may serve as an intermediary to allow the API or the application program to communicate with the kernel to exchange data. Further, the middleware may use system resources (eg, a bus, a processor, or a memory, etc.) of the electronic device for at least one of the application programs, for example, with respect to the work requests received from the application program. Control of work requests (eg, scheduling or load balancing) can be performed using methods such as assigning priorities.
  • system resources eg, a bus, a processor, or a memory, etc.
  • the API is, for example, an interface for the application to control a function provided by the kernel or the middleware, for example, at least one interface for file control, window control, image processing, character control, or the like. Or a function (eg, an instruction).
  • the display unit 140 may include, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, a microelectromechanical systems (MEMS) display, or an electronic paper ( electronic paper) display.
  • the display unit 140 may display various contents (for example, text, images, videos, icons, symbols, etc.) to the user.
  • the display unit 140 may include a touch screen.
  • the display unit 140 may receive a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • FIG. 1 illustrates functions related to various embodiments of the present disclosure to operate independently within the electronic device
  • a separate communication interface may be provided to communicate with an external electronic device or a server through a network. It may be implemented to perform some of the functions according to various embodiments of the present disclosure.
  • the server may support driving of the electronic device by performing at least one operation (or function) among operations (or functions) implemented in the electronic device.
  • the server may include at least some components of the controller 110 implemented in the electronic device, and perform (or perform) at least one of the operations (or functions) performed by the controller 110. You can also act.
  • each functional unit or module may mean a functional and structural combination of hardware for performing the technical idea of various embodiments of the present disclosure and software for driving the hardware.
  • each functional unit or module may mean a logical unit of a predetermined code and a hardware resource for performing the predetermined code, and necessarily means a physically connected code or a kind of hardware. Or not can be easily deduced by the average expert in the art of the embodiments of the present invention.
  • An electronic device may include a camera unit configured to photograph an image in response to an operation of displaying an event at a location on a screen of the electronic device; And a controller configured to perform calibration on the gaze based on information related to the gaze of the user determined from the photographed image and information on a location on the screen on which the event is displayed.
  • the event may be a preset event, and may be an event capable of confirming location information on which the event is displayed on a screen.
  • the event may be an input event related to selection of at least one screen location.
  • the input event may be a selection event of a cursor position displayed on a screen by an input unit, a touch event on a touch screen, or a gesture event of a user.
  • the event may be an output event related to an object generated at at least one screen location.
  • the output event may be a popup window generation event in which a popup window is generated at at least one screen location.
  • the pop-up window may be generated at a position different from a previously generated position according to a setting.
  • the location information on the screen may be coordinate information indicating at least one point on a display screen or information about an area including the at least one coordinate.
  • control unit may update the calibration information to the calibration information determined at the event occurrence when the preset error range is exceeded as a result of the comparison between the preset calibration information and the calibration information determined at the event occurrence. Can be.
  • the controller may identify a user from the photographed image and control the calibration information generated from the photographed image to be stored corresponding to the user information of the user.
  • FIG. 2 is a flowchart illustrating a gaze calibration procedure according to various embodiments of the present disclosure.
  • an image may be captured by operating the camera unit in operation 204.
  • the preset event may be, for example, an event capable of confirming location information corresponding to the event. If it is determined that the preset event has occurred, it is possible to take an image (image) of the face or eye through the camera unit and perform a calibration procedure without switching to a separate calibration setting menu. For example, when performing the calibration when the preset event occurs as described above without switching to the separate calibration setting menu, the user may not be aware of the progress of the calibration.
  • calibration may be performed on a corresponding position of the generated event. For example, the user's gaze determined from the photographed image may be calibrated based on location information on the screen corresponding to the generated event.
  • the event occurrence according to the selection is set as a preset event.
  • the calibration procedure may be performed without switching to a separate calibration setting menu.
  • the procedures according to the selection in the execution of the web page or the application may be continuously performed, and the performing of the calibration may be executed in the background separately from the operation of the web page or the application. Accordingly, the user may not be aware of the calibration operation and may not affect the operation of the web page or application being executed. In addition, a user may perform calibration separately from the task when performing various tasks through the electronic device even without performing calibration in a separate calibration setting menu.
  • the gaze determination and / or gaze tracking of the user may be performed when the work is performed through the electronic device, and the calibration may be performed simultaneously with the gaze determination and / or gaze tracking according to various embodiments of the present disclosure. .
  • FIG. 3 is a flowchart illustrating a gaze calibration procedure according to various embodiments of the present disclosure.
  • an input event occurs in operation 302
  • the camera unit may be operated to capture an image. For example, by taking an image (image) of a face or eye through the camera unit, a calibration procedure may be performed without switching to a separate calibration setting menu.
  • calibration may be performed on a corresponding position of the generated event. For example, the user's gaze determined from the photographed image may be calibrated based on location information on the screen corresponding to the generated event.
  • the electronic device may track the eyes of the user according to various application executions in operation 402.
  • the eye tracking information of the user may be applied to the execution of the application.
  • the line of sight of the user may be tracked to scroll the screen, to select a specific position viewed by the user, or to zoom the screen based on the position viewed by the user.
  • the generated input event is an event related to a location. For example, if the generated input event is an event of selecting a specific location on the screen (for example, an event of selecting a specific location on the screen by a mouse, or a touch event in which the user touches a specific location on the touch screen), the event related to the location. Judging by
  • the camera unit may be operated to capture an image in operation 406.
  • an image (image) of a face or an eye may be photographed through a camera unit, and a calibration procedure may be performed without switching to a separate calibration setting menu.
  • a gaze calibration operation may be performed simultaneously with the gaze tracking operation.
  • a calibration for a position corresponding to the generated event may be performed.
  • the user's gaze determined from the captured image may be calibrated based on location information on the screen corresponding to the generated event.
  • the calibrated information may be corrected to more accurate information by applying the calibrated information according to the occurrence of the event in operation 410.
  • the electronic device may track the eyes of the user according to various application executions in operation 502.
  • the eye tracking information of the user may be applied to the execution of the application.
  • the line of sight of the user may be tracked to scroll the screen, to select a specific position viewed by the user, or to zoom the screen based on the position viewed by the user.
  • the generated input event is an event related to a location. For example, if the generated input event is an event of selecting a specific location on the screen (for example, an event of selecting a specific location on the screen by a mouse, or a touch event in which the user touches a specific location on the touch screen), the event related to the location. Judging by
  • the image may be photographed by operating the camera unit in operation 506.
  • an image (image) of a face or eyeball may be photographed through a camera unit, and in operation 508, a position on the screen corresponding to the user's gaze may be calculated using the already stored calibration information from the photographed image.
  • a position on the screen determined through the gaze determination may be compared with a position where the event occurs. As a result of the comparison, if it is determined that the error range is exceeded in operation 512, it may be determined that an error has occurred in the calibration information already stored in operation 514.
  • an operation corresponding to the error may be performed according to various embodiments of the present disclosure.
  • whether an error occurs may be displayed on a screen, or the display may be switched to a separate calibration setting menu to induce a calibration procedure.
  • a calibration operation is performed using location information corresponding to the generated event and an image photographed when the event occurs, and calibration information that is already set as changed calibration information according to the performed calibration is performed. Can be updated.
  • the number of error occurrences may be counted, and the set calibration information may be updated when the number of error occurrences exceeds the set number of times.
  • FIG. 6 is a flowchart illustrating a calibration information update procedure according to various embodiments of the present disclosure.
  • a predetermined event occurs in operation 602
  • an image may be captured by operating a camera unit in operation 604.
  • the preset event may be, for example, an event capable of confirming location information corresponding to the event. If it is determined that the preset event has occurred, it is possible to take an image (image) of the face or eye through the camera unit and perform a calibration procedure without switching to a separate calibration setting menu. For example, when performing the calibration when the preset event occurs as described above without switching to the separate calibration setting menu, the user may not be aware of the progress of the calibration.
  • the user may be identified by recognizing the iris from the captured image.
  • calibration information generated from the captured image may correspond to a user identified from the captured image.
  • calibration information may be stored or updated for each recognized user.
  • the gaze determination and / or gaze tracking may be performed by confirming the current user's situation information and applying calibration information corresponding to the corresponding situation.
  • At least one of the operations illustrated in FIGS. 2 to 6 may be omitted, and at least one other operation may be added between the operations. Also, the operations of FIGS. 2 to 6 may be processed in the order shown, and the execution order of at least one operation may be changed from the execution order of other operations.
  • a method of operating an electronic device may include determining whether the event is a preset event when at least one event occurs in the electronic device; Photographing an image through a camera if the event is a preset event; And calibrating the gaze of the user determined from the photographed image based on location information on the screen corresponding to the event.
  • the event may be a predetermined event and may be an event capable of confirming location information corresponding to the event on a screen.
  • the event may be an input event related to selection of at least one location.
  • the input event may be a selection event of a cursor position displayed on a screen by an input unit, a touch event on a touch screen, or a gesture event of a user.
  • the event may be an output event related to an object generated at at least one screen location.
  • the output event may be a popup window generation event in which a popup window is generated at at least one screen location.
  • the pop-up window may be generated at a position different from a previously generated position according to a setting.
  • the location information on the screen may be coordinate information indicating at least one point on a display screen or information about an area including the at least one coordinate.
  • the method may include: comparing preset calibration information with calibration information determined when the event occurs; And updating the calibration information to the calibration information determined when the event occurs, when the comparison result exceeds the preset error range.
  • the method may further include identifying a user from the captured image; And storing the calibration information generated from the photographed image corresponding to the user information of the user.
  • a web page may be displayed on the screen 710 of the electronic device 700 (eg, a TV or a monitor), and a cursor 730 may be displayed to allow a user to select a specific location.
  • the electronic device 700 eg, a TV or a monitor
  • a cursor 730 may be displayed to allow a user to select a specific location.
  • the user may determine that the user is staring at the position of the cursor 730 on the screen.
  • the electronic device In operation 700, the user may determine that the user gazes at the position 720 on the screen where the cursor 730 is displayed.
  • an input event related to selection may occur, and as described above, a calibration operation according to generation of an input event related to the selection may be performed according to various embodiments of the present disclosure. can do. For example, when the input event occurs, a user's face or eyeball is photographed through a camera, and the photographed image and location information on which the selection event occurs (for example, information on the location 730 on the screen where the cursor 730 is displayed). ) Can be used for calibration.
  • the performing of the calibration according to various embodiments of the present disclosure may not be displayed on the screen, and may be an operation that is not perceived by the user.
  • the calibration process may be executed in the background without executing a separate calibration menu.
  • FIG. 8 is a diagram illustrating an event occurrence according to various embodiments of the present disclosure.
  • various application icons may be displayed on an application menu screen of the electronic device 800 (eg, a smartphone).
  • the user when the user selects a specific application icon 810 with the hand 820 or the electronic pen on the touch screen, it may be determined that the user stares at the location of the selected application 810. .
  • an input event related to the selection may occur, and as described above, a calibration operation according to the occurrence of the input event related to the selection may be performed according to various embodiments of the present disclosure. For example, when the input event occurs, a user's face or eye is photographed through a camera, and the photographed image and location information on which the selection event occurs (for example, location information on the screen on which the application icon 810 is displayed) are used. Calibration can be performed.
  • the performing of the calibration according to various embodiments of the present disclosure may not be displayed on the screen, and may be an operation that the user does not notice.
  • the calibration process may be executed in the background without executing a separate calibration menu.
  • a pop-up window 910 for performing a function may be displayed on an execution screen of a photo view (eg, gallery) application of the electronic device 900 (eg, a smartphone).
  • a photo view eg, gallery
  • the electronic device 900 eg, a smartphone
  • the user when the user selects a specific selection button 920 (or selection box) of the popup window with a hand or an electronic pen on the touch screen, the user may select a screen on which the selected selection button 920 is displayed. You can judge by staring at the location.
  • an input event related to a selection may occur, and as described above, a calibration operation according to an input event generation related to the selection may be performed according to various embodiments of the present disclosure. For example, when the input event occurs, a user's face or eyeball is photographed through a camera, and the photographed image and the location information on which the selection event occurs (for example, the position 920 of the selection box of the popup window) are used. Calibration can be performed.
  • the performing of the calibration according to various embodiments of the present disclosure may not be displayed on the screen, and may be an operation that the user does not notice.
  • the calibration process may be executed in the background without executing a separate calibration menu.
  • FIG. 10 illustrates a line of sight of a user according to various embodiments of the present disclosure.
  • a plurality of marks 1021 for calibration may be displayed on the screen of the monitor 1000.
  • At least one light source 1110a, 1110b, 1110c, and 1110d may be provided at at least one corner of the monitor.
  • the at least one light sources 1110a, 1110b, 1110c, and 1110d emit light, and the emitted light sources may be formed on the eyes of the user.
  • the user's face or eyeball image may be captured by a camera provided in the monitor.
  • the user's face or eyeball image is photographed while the user stares at a specific mark 1021 displayed on the screen of the monitor 1000, the user's gaze may be calibrated through at least one light source formed on the captured image. have.
  • FIG. 11 is a diagram illustrating a gaze calibration screen according to various embodiments of the present disclosure.
  • a gaze calibration screen when a user looks at a position displayed on a monitor, a corresponding position on the screen determined by already stored calibration information may be different from the position of a mark displayed on the actual screen.
  • calibration information may be updated by performing calibration according to various embodiments of the present disclosure.
  • FIG. 12 is a diagram illustrating modeling of gaze tracking according to various embodiments of the present disclosure. Referring to FIG. 12, gaze tracking may be modeled by various methods.
  • a technique for predicting and tracking a point of gaze (hereinafter, referred to as 'POG') on the screen may be applied to various embodiments of the present disclosure.
  • a visible camera not only a visible camera but also an infrared camera (IR), an infrared LED lighting device, etc. may be used for accurate eye tracking.
  • IR infrared camera
  • LED lighting device etc.
  • coordinates of a reflection point hereinafter, referred to as 'CR'
  • PC pupil center
  • PCCR pupil center corneal reflection
  • the HN model may consist of three planes.
  • IR light sources L 1 -L 4 1211, 1212, 1213, and 1214 are formed on the cornea (G 1- G 4 ) (1231, 1232). , 1233, 1234), then G 1 -G 4 (1231, 1232, 1233, 1234) and point PC (P) on plane ⁇ C (1230) through the camera to the image plane ( ⁇ I ) ( 1220). This finally generates the PC (p) of the eye image and four CR (g 1 -g 4 ) 1221, 1222, 1223, 1224.
  • FIG. 13 illustrates a geometric model of a PCCR scheme that may be applied to various embodiments of the present disclosure.
  • POG prediction in the HN method may be configured with two mapping functions (MF) as shown.
  • MF mapping functions
  • ⁇ N 1320 may mean a normalized plane having a size of a unit square.
  • P I the PC detected in the eye images
  • P N 1320 is a homography function It can be mapped to the P N 1320 plane through. This is possible using four CRs (g 1 -g 4 ) on ⁇ I 1310 and the four corner points G 1 -G 4 of ⁇ N 1320.
  • the final POG can be obtained by mapping to the point on the ⁇ S 1330 using. Can be obtained through the calibration process.
  • the entire mapping function is By the function, it may be mapped from the ⁇ I (1310) plane to the ⁇ S (1330) plane.
  • the user looks sequentially at four or nine (or more) points on the screen, and stores the PC coordinates p N on ⁇ N 1320 at each point in time, corresponding to the corresponding coordinates on the screen.
  • Homography Functions Can be calculated.
  • a "ransac" or least square algorithm may be used as a method for minimizing errors.
  • the calibration method is an embodiment applicable to at least one of various embodiments of the present disclosure.
  • Various embodiments of the present disclosure may be applied to various calibration methods other than the calibration method, but are not limited to the disclosed method. .
  • FIG. 14 is a view illustrating a change of an event occurrence position according to various embodiments of the present disclosure.
  • calibration may be efficiently performed by variously changing a location where an event occurs on the screen of the electronic device 1400.
  • the first popup window 1410 may be displayed on the upper left side of the screen, and as shown in FIG. 14B, the second popup window ( 1420, and a third pop-up window 1430 may be displayed on the lower right side of the screen as shown in FIG. 14C, and as shown in FIG. 14D.
  • the fourth popup window 1440 may be displayed.
  • the display position of the pop-up window may be variously set in consideration of the type of the application being executed or the configuration of the screen being displayed.
  • the position where the pop-up window is displayed may be determined in consideration of the arrangement state of the photo, text, and icon displayed on the screen.
  • the accuracy of calibration for each position or part of the entire area of the screen of the electronic device 1400 may be compared, and the pop-up window may be located at a position or area having a relatively low calibration accuracy. You can also implement this to be displayed.
  • a location where the pop-up window is generated may be preset and displayed at various locations as shown.
  • the display position of the pop-up window may be set at random.
  • the electronic device 1501 may include, for example, all or part of the electronic device shown in FIG. 1.
  • the electronic device 1501 may include at least one application processor (AP) 1510, a communication module 1520, a subscriber identification module (SIM) card 1524, a memory 1530, a sensor module 1540, and an input.
  • AP application processor
  • SIM subscriber identification module
  • Device 1550 display 1560, interface 1570, audio module 1580, camera module 1591, power management module 1595, battery 1596, indicator 1597, and motor 1598. It may include.
  • the AP 1510 may control, for example, a plurality of hardware or software components connected to the AP 1510 by running an operating system or an application program, and may perform various data processing and operations.
  • the AP 1510 may be implemented by, for example, a system on chip (SoC).
  • SoC system on chip
  • the AP 1510 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the AP 1510 may include at least some of the components illustrated in FIG. 15 (eg, the cellular module 1521).
  • the AP 1510 may load and process a command or data received from at least one of other components (eg, nonvolatile memory) into the volatile memory, and store various data in the nonvolatile memory. Can be.
  • the communication module 1520 may be, for example, a cellular module 1521, a WIFI module 1523, a BT module 1525, a GPS module 1527, an NFC module 1528, and a radio frequency (RF) module 1529. ) May be included.
  • a cellular module 1521 a WIFI module 1523, a BT module 1525, a GPS module 1527, an NFC module 1528, and a radio frequency (RF) module 1529.
  • the cellular module 1521 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment of the present disclosure, the cellular module 1521 may perform identification and authentication of the electronic device 1501 in a communication network using a subscriber identification module (eg, the SIM card 1524). According to an embodiment of the present disclosure, the cellular module 1521 may perform at least some of the functions that the AP 1510 may provide. According to an embodiment of the present disclosure, the cellular module 1521 may include a communication processor (CP).
  • CP communication processor
  • Each of the WIFI module 1523, the BT module 1525, the GPS module 1527, or the NFC module 1528 may include, for example, a processor for processing data transmitted and received through a corresponding module. Can be. According to some embodiments, at least some (eg, two or more) of the cellular module 1521, the WIFI module 1523, the BT module 1525, the GPS module 1527, or the NFC module 1528 may be one integrated chip. It may be included in an integrated chip (IC) or an IC package.
  • IC integrated chip
  • the RF module 1529 may transmit / receive, for example, a communication signal (for example, an RF signal).
  • the RF module 1529 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 1521, the WIFI module 1523, the BT module 1525, the GPS module 1527, or the NFC module 1528 may transmit and receive an RF signal through a separate RF module. Can be.
  • the SIM card 1524 may include, for example, a card including a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity).
  • ICCID integrated circuit card identifier
  • the memory 1530 may include, for example, an internal memory 1532 or an external memory 1534.
  • the internal memory 1532 may be, for example, volatile memory (for example, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (for example, nonvolatile memory).
  • OTPROM one time programmable ROM
  • PROM programmable ROM
  • EPROM erasable and programmable ROM
  • EEPROM electrically erasable and programmable ROM
  • mask ROM mask ROM
  • flash ROM flash memory
  • flash memory e.g. NAND flash or NOR flash, etc.
  • a hard drive or a solid state drive (SSD).
  • the external memory 1534 may be a flash drive, for example, a compact flash (CF), a secure digital (SD), a micro secure digital (Micro-SD), a mini secure digital (X-), or an xD ( extreme digital), or a memory stick.
  • the external memory 1534 may be functionally and / or physically connected to the electronic device 1501 through various interfaces.
  • the sensor module 1540 may measure a physical quantity or detect an operation state of the electronic device 1501, and may convert the measured or detected information into an electrical signal.
  • the sensor module 1540 includes, for example, a gesture sensor 1540A, a gyro sensor 1540B, a barometric pressure sensor 1540C, a magnetic sensor 1540D, an acceleration sensor 1540E, a grip sensor 1540F, and a proximity sensor. (1540G), color sensor (e.g. red, green, blue) sensor (1540H), biometric sensor (1540I), temperature / humidity sensor (1540J), light sensor (1540K), or UV (ultra) violet) at least one of the sensors 1540M.
  • the sensor module 1540 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor, an IR (eg infrared) sensor, iris sensor and / or fingerprint sensor.
  • the sensor module 1540 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 1501 further includes a processor configured to control the sensor module 1540 as part of or separately from the AP 1510, while the AP 1510 is in a sleep state. The sensor module 1540 may be controlled.
  • the input device 1550 may be, for example, a touch panel 1552, a (digital) pen sensor 1554, a key 1556, or an ultrasonic input device. (1558).
  • the touch panel 1552 may use, for example, at least one of capacitive, resistive, infrared, or ultrasonic methods.
  • the touch panel 1552 may further include a control circuit.
  • the touch panel 1552 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 1554 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 1556 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 1548 may check data by detecting sound waves with a microphone (for example, the microphone 1588) in the electronic device 1501 through an input tool for generating an ultrasonic signal.
  • the display 1560 may include a panel 1562, a hologram device 1564, or a projector 1566.
  • the panel 1562 may include a configuration that is the same as or similar to that of the display unit 140 of FIG. 1.
  • the panel 1562 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 1562 may be configured as a single module together with the touch panel 1552.
  • the hologram device 1564 may show a stereoscopic image in the air by using interference of light.
  • the projector 1566 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 1501.
  • the display 1560 may further include a control circuit for controlling the panel 1562, the hologram device 1564, or the projector 1566.
  • the interface 1570 may be, for example, a high-definition multimedia interface (HDMI) 1552, a universal serial bus (USB) 1574, an optical interface 1576, or a D-sub (D-D). subminiature) 1578. Additionally or alternatively, the interface 1570 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an infrared data association (IrDA). It may include a specification interface.
  • HDMI high-definition multimedia interface
  • USB universal serial bus
  • optical interface 1576 or a D-sub (D-D). subminiature) 1578.
  • D-D D-sub
  • subminiature 1578 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an infrared data association (IrDA). It may include a specification interface.
  • the audio module 1580 may bidirectionally convert, for example, a sound and an electrical signal.
  • the audio module 1580 may process sound information input or output through, for example, a speaker 1582, a receiver 1584, an earphone 1586, a microphone 1588, or the like.
  • the camera module 1591 is, for example, a device capable of capturing still images and moving images.
  • the camera module 1591 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). ), Or flash (eg, LED or xenon lamp). At least some components of the camera module 1591 may be included in, for example, the camera unit 130 illustrated in FIG. 1.
  • the power management module 1595 may manage power of the electronic device 1501, for example.
  • the power management module 1595 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 1596, a voltage, a current, or a temperature during charging.
  • the battery 1596 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 1597 may display a specific state of the electronic device 1501 or a part thereof (for example, the AP 1510), for example, a booting state, a message state, or a charging state.
  • the motor 1598 may convert an electrical signal into mechanical vibration, and may generate a vibration or a haptic effect.
  • the electronic device 1501 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting the mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or media flow.
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • Each of the above-described elements of the electronic device may be composed of one or more components, and the name of the corresponding element may vary according to the type of the electronic device.
  • the electronic device may include at least one of the above-described components, and some components may be omitted or further include other additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form one entity, and thus may perform the same functions of the corresponding components before being combined.
  • the program module 1610 may include an operating system (OS) for controlling resources related to an electronic device and / or various applications (eg, application programs) running on the operating system.
  • OS operating system
  • applications eg, application programs
  • the operating system may be, for example, android, ios, windows, symbian, tizen, or bada.
  • the program module 1610 may include a kernel 1620, middleware 1630, an application programming interface (API) 1660, and / or an application 1670. At least a part of the program module 1610 may be preloaded on the electronic device or downloaded from a server.
  • API application programming interface
  • the kernel 1620 may include, for example, a system resource manager 1621 or a device driver 1623.
  • the system resource manager 1621 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 1621 may include a process manager, a memory manager, or a file system manager.
  • the device driver 1623 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WIFI driver, an audio driver, or an inter-process communication (IPC) driver. have.
  • IPC inter-process communication
  • the middleware 1630 may provide, for example, a function commonly required by the application 1670, or the API 1660 to enable the application 1670 to efficiently use limited system resources inside the electronic device. ) May provide various functions to the application 1670.
  • the middleware 1630 includes a runtime library 1635, an application manager 1641, a window manager 1641, a multimedia manager 1643, and a resource manager. (resource manager) 1644, power manager 1645, database manager 1646, package manager 1647, connectivity manager 1648, notification manager It may include at least one of a notification manager 1649, a location manager 1650, a graphic manager 1651, or a security manager 1652.
  • the application manager 1641 may manage, for example, a life cycle of at least one of the applications 1670.
  • the window manager 1641 may manage GUI resources used on the screen.
  • the multimedia manager 1643 may identify a format necessary for playing various media files and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 1644 may manage resources such as source code, memory, or storage space of at least one of the applications 1670.
  • the power manager 1645 may operate together with, for example, a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device. .
  • the database manager 1646 may create, search for, or change a database to be used by at least one of the applications 1670.
  • the package manager 1647 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 1648 may manage, for example, a wireless connection such as WIFI or Bluetooth.
  • the notification manager 1649 may display or notify an event such as an arrival message, an appointment, a proximity notification, or the like in a manner that does not disturb the user.
  • the location manager 1650 may manage location information of the electronic device.
  • the graphic manager 1651 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 1652 may provide various security functions required for system security or user authentication.
  • the middleware 1630 may include a telephone manager for managing a voice or video call function of the electronic device. It may further include.
  • the middleware 1630 may include a middleware module forming a combination of various functions of the above-described components.
  • the middleware 1630 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 1630 may dynamically remove some of the existing components or add new components.
  • the API 1660 is, for example, a set of API programming functions and may be provided in a different configuration according to an operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 1670 may be, for example, a home 1671, a dialer 1672, an SMS / MMS 1673, an instant message (IM) 1674, a browser 1675, a camera 1676, an alarm 1677. ), Contacts 1678, voice dial 1679, email 1680, calendar 1801, media player 1802, album 1683, or clock 1684, health care (e.g., exercise volume) Or one or more applications that can provide functions such as measuring blood sugar, or providing environmental information (eg, providing barometric pressure, humidity, or temperature information).
  • health care e.g., exercise volume
  • one or more applications that can provide functions such as measuring blood sugar, or providing environmental information (eg, providing barometric pressure, humidity, or temperature information).
  • the application 1670 may be an application that supports information exchange between the electronic device (eg, the electronic device of FIG. 1) and an external electronic device (hereinafter, for convenience of description, an “information exchange application”). It may include.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device. .
  • the notification delivery application may provide a function of delivering notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application) to an external electronic device. It may include.
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may, for example, turn-on / turn-off or brightness of a display of at least one function of an external electronic device (eg, the external electronic device itself (or some component)) in communication with the electronic device. (Or, resolution) adjustment), an application running on the external electronic device or a service (eg, a call service or a message service) provided by the external electronic device may be managed (eg, installed, deleted, or updated).
  • the application 1670 may include an application (eg, a health care application) designated according to an attribute of the external electronic device (eg, an attribute of the electronic device, and the type of the electronic device is a mobile medical device). Can be.
  • the application 1670 may include an application received from an external electronic device.
  • the application 1670 may include a preloaded application or a third party application downloadable from a server.
  • the names of the components of the program module 1610 according to the shown embodiment may vary depending on the type of operating system.
  • At least some of the above-described steps of FIGS. 2 to 6 may be implemented as the application 1670 or an OS (eg, the API 1660, the middleware 1630, the kernel ( 1620. At least some of the above-described steps of FIGS. 2 to 6 may be implemented in a dedicated processor (eg, an AP or a CP) configured in hardware.
  • an OS e.g., the API 1660, the middleware 1630, the kernel ( 1620.
  • a dedicated processor eg, an AP or a CP
  • At least a part of the program module 1610 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a part of the program module 1610 may be implemented (for example, executed) by, for example, a processor (for example, the AP 1510). At least a part of the program module 1610 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • module or “functional unit” may refer to a unit including one or a combination of two or more of hardware, software, or firmware.
  • Module or “functional part” is used interchangeably with terms such as, for example, unit, logic, logical block, component, or circuit.
  • Can be The "module” or “functional part” may be a minimum unit or part of an integrally formed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” or “functional part” can be implemented mechanically or electronically.
  • a “module” or “function unit” may be an application-specific integrated circuit (ASIC) chip, field-programmable gate arrays (FPGAs), or programmable logic devices that perform certain operations, known or developed in the future. -logic device).
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • programmable logic devices that perform certain operations, known or developed in the future. -logic device).
  • an apparatus eg, modules or functions thereof
  • a method eg, operations
  • computer-readable storage media in the form of a program module. It can be implemented as a command stored in.
  • the command is executed by a processor (eg, the controller 110)
  • the one or more processors may perform a function corresponding to the command.
  • the computer-readable storage medium may be, for example, the storage unit 160.
  • the computer-readable recording medium may include a hard disk, a floppy disk, a magnetic medium (for example, magnetic tape), an optical media (for example, a compact disc read only memory (CD-ROM), a DVD). (digital versatile disc), magneto-optical media (such as floptical disk), hardware devices (such as read only memory, random access memory (RAM), or flash memory Etc.
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the above-described hardware device may include It may be configured to operate as one or more software modules to perform the operations of the various embodiments, and vice versa.
  • Modules or program modules according to various embodiments of the present disclosure may include at least one or more of the above components, some of them may be omitted, or may further include other additional components.
  • Operations performed by a module, program module, or other component according to various embodiments of the present disclosure may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added.
  • the instructions are configured to cause the at least one processor to perform at least one operation when executed by the at least one processor.
  • the at least one event occurs in the electronic device, determining whether the event is a preset event; Photographing an image through a camera if the event is a preset event; And calibrating the gaze of the user determined from the photographed image based on location information on the screen corresponding to the event.

Abstract

본 발명의 다양한 실시 예들은, 전자 장치의 화면상의 위치에서 이벤트가 표시되는 동작에 반응하여, 이미지를 촬영하는 카메라부; 및 상기 촬영된 이미지로부터 판단된 사용자의 시선과 관련된 정보 및 상기 이벤트가 표시된 화면상의 위치에 대한 정보를 기반으로, 상기 시선에 대한 캘리브레이션을 수행하도록 제어하는 제어부;를 포함할 수 있다. 또한, 본 발명의 다양한 실시 예들은 다른 실시 예들이 가능할 수 있다.

Description

시선 캘리브레이션 방법 및 그 전자 장치
본 발명의 다양한 실시 예들은 시선을 캘리브레이션하는 방법 및 그 전자 장치에 관한 것이다.
전자 장치에서 사용자의 시선(gaze)을 판단 및/또는 추적(tracking)하는 방법들의 예로서 홍채(iris), 동공(pupil), 또는 각막의 반짝임(glint) 등의 정보를 이용하여 시선을 판단 및/추적하는 방법들이 연구되고 있다.
사용자의 시선이 디스플레이 화면상의 어떤 부분을 바라보고 있는지를 확인하기 위하여, 사용자에게 정해진 위치를 바라보게 하고, 예컨대, 홍채, 동공, 각막의 반짝임 등을 분석함으로써 사용자의 시선이 바라보는 방향을 모델링할 수 있다. 사용자의 시선을 분석하기 위해서는 실제 사용자가 바라보는 디스플레이 화면상의 지점과 전자 장치에서 인식한 지점을 일치시키기 위한 보정 과정이 필요하며, 이를 시선 캘리브레이션(gaze calibration)이라 칭할 수 있다.
사용자의 시선 추적을 위해서는 시선 추적에 앞서 사용자로 하여금 화면의 여러 군데를 바라보도록 유도함으로써 캘리브레이션을 수행해야 하는 번거로움이 있었다.
또한, 초기에 캘리브레이션 과정을 거치더라도 디스플레이의 상태 변화(예컨대, 위치 변화), 사용자의 위치 변화, 또는 환경의 변화 등으로 인하여 전자 장치에서 시선을 추적한 위치 또는 영역과 사용자가 실제 바라보는 위치 또는 영역 간의 차이가 발생할 수 있다.
본 발명의 다양한 실시 예들은, 사용자가 디스플레이를 바라볼 때, 시선을 추적을 하는 동시에 캘리브레이션 과정을 함께 수행할 수 있는 시선 캘리브레이션 방법 및 그 전자 장치를 제공할 수 있다.
전술한 과제 또는 다른 과제를 해결하기 위한, 한 실시 예에 따른 전자 장치는, 전자 장치의 화면상의 위치에서 이벤트가 표시되는 동작에 반응하여, 이미지를 촬영하는 카메라부; 및 상기 촬영된 이미지로부터 판단된 사용자의 시선과 관련된 정보 및 상기 이벤트가 표시된 화면상의 위치에 대한 정보를 기반으로, 상기 시선에 대한 캘리브레이션을 수행하도록 제어하는 제어부;를 포함할 수 있다.
또한, 다양한 실시 예 중 어느 하나에 따른 전자 장치의 동작 방법은, 전자 장치에서 적어도 하나의 이벤트가 발생하면, 상기 이벤트가 미리 설정된 이벤트인지 판단하는 동작; 상기 이벤트가 미리 설정된 이벤트이면, 카메라를 통해 이미지를 촬영하는 동작; 상기 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션하는 동작;을 포함할 수 있다.
다양한 실시 예에 따른 시선 캘리브레이션 방법 및 그 전자 장치는, 최소한의 수동 캘리브레이션 과정만을 수행하거나 별도의 캘리브레이션 과정 없이도 사용자가 직접 전자 장치를 활용하면서 자각하지 못하는 중에도 캘리브레이션을 수행할 수 있다.
또한, 다양한 실시 예에 따른 시선 캘리브레이션 방법 및 그 전자 장치는, 사용자가 전자 장치를 사용하는 중 시선을 추적함과 동시에 캘리브레이션을 수행할 수 있다.
도 1은 본 발명의 다양한 실시 예에 따른 전자 장치의 구성 예를 나타내는 도면이다.
도 2는 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 절차를 나타내는 흐름도이다.
도 3은 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 절차를 나타내는 흐름도이다.
도 4는 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 절차를 나타내는 흐름도이다.
도 5는 본 발명의 다양한 실시 예에 따른 캘리브레이션 오차 판단 절차를 나타내는 흐름도이다.
도 6은 본 발명의 다양한 실시 예에 따른 캘리브레이션 정보 갱신 절차를 나타내는 흐름도이다.
도 7은 본 발명의 다양한 실시 예에 따른 이벤트 발생의 예를 나타내는 도면이다.
도 8은 본 발명의 다양한 실시 예에 따른 이벤트 발생의 예를 나타내는 도면이다.
도 9는 본 발명의 다양한 실시 예에 따른 이벤트 발생의 예를 나타내는 도면이다.
도 10은 본 발명의 다양한 실시 예에 따른 사용자의 시선을 나타내는 도면이다.
도 11은 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 화면을 나타내는 도면이다.
도 12는 본 발명의 다양한 실시 예에 따른 시선 추적의 모델링을 나타내는 도면이다.
도 13은 본 발명의 다양한 실시 예에 따른 시선 예측 방법의 예를 나타내는 도면이다.
도 14는 본 발명의 다양한 실시 예에 따른 이벤트 발생 위치의 변경을 나타내는 도면이다.
도 15는 본 발명의 실시 예에 따른 전자 장치의 세부 구조를 나타내는 블록도이다.
도 16은 본 발명의 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
이하, 본 개시의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 개시를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", " A 및 B 중 적어도 하나", 또는 " A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
다양한 실시 예에서 사용된 "제 1", "제 2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 개시의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 개시의 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 일반적으로 사용되는 사전에 정의된 용어들은 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미를 가지는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 개시의 실시 예들을 배제하도록 해석될 수 없다.
본 개시의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 전자 장치는 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상 전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 스마트 안경, 머리 착용형 장치(head-mounted-device(HMD)), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 문신, 스마트 미러, 또는 스마트 와치(smart watch))중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller’s machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 개시의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
후술하는 설명에서 사용되는 용어, '캘리브레이션(gaze calibration)'은 사용자의 시선을 분석하기 위해 실제 사용자가 바라보는 디스플레이 화면상의 위치와 전자 장치에서 인식한 화면상의 위치를 일치시키기 위한 보정을 지칭할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 본 발명의 다양한 실시 예에 따른 전자 장치의 구성 예를 나타내는 도면이다. 도 1을 참조하면, 본 발명의 다양한 실시 예에 따른 전자 장치는, 제어부(110), 광원부(120), 카메라부(130), 표시부(140), 입력부(150), 또는 저장부(160) 중 적어도 하나 이상을 포함하여 구성될 수 있다. 또한, 상기 제어부(110)는 캘리브레이션 처리부(111), 이벤트 판단부(112), 위치 판단부(113), 시선 판단부(114), 또는 데이터 검증부(115) 중 적어도 하나 이상을 포함하여 구성될 수 있다.
캘리브레이션 처리부(111)는 사용자의 시선에 대한 캘리브레이션을 처리하는 기능을 수행할 수 있다. 상기 사용자의 시선에 대한 캘리브레이션을 처리하는 방법으로는 다양한 방법들이 적용될 수 있으며, 구체적인 실시 예들은 후술하기로 한다.
상기 캘리브레이션은 사용자의 시선을 분석하기 위해 실제 사용자가 바라보는 디스플레이 화면상의 위치와 전자 장치에서 인식한 화면상의 위치를 일치시키기 위한 보정을 포함할 수 있다.
이벤트 판단부(112)는 전자 장치에서 발생 가능한 다양한 이벤트들에 대한 이벤트 발생을 판단할 수 있으며, 상기 발생한 이벤트와 관련된 적어도 하나의 이벤트 관련 정보(예컨대, 이벤트의 유형, 이벤트 발생 시간, 이벤트의 속성 정보 등)를 확인할 수 있다.
본 발명의 다양한 실시 예에 따라 상기 이벤트의 유형으로는 입력부(150)를 통해 사용자가 입력하는 입력 이벤트일 수 있다. 예컨대, 마우스에 의한 클릭 이벤트일 수도 있으며, 사용자가 터치스크린상의 특정 위치를 터치하는 터치 이벤트일 수도 있다. 또한, 예컨대, 사용자가 화면상의 특정 위치를 선택할 수 있는 다양한 제스처 이벤트일 수도 있다.
본 발명의 다양한 실시 예에 사용되는 용어“제스처”는, 사용자가 신체의 일부 또는 사용자와 연계된 물체의 일부를 사용하여 만든 움직임을 의미하고, 손가락 또는 손 등의 특정 신체 부위의 움직임만을 한정하지는 않는다. 예컨대, 제스처는 팔의 접힘, 고개의 움직임, 펜을 이용한 움직임 등과 같은 다양한 동작들을 포함하는 의미로 해석될 수 있다.
예컨대, 상기 제스처는 터치(touch), 터치의 해제(release), 회전(rotate), 핀치(pinch), 스프레드(spread), 터치 드래그(touch drag), 플릭(flick), 스와이프(swipe), 터치 앤 홀드(touch and hold), 탭(tap), 더블 탭(double tap), 드래그(drag), 드래그 앤 드롭(drag and drop), 멀티 스와이프(multiswipes), 쉐이크(shake), 로테이트(rotate) 등의 동작을 포함할 수 있다. 또한, 터치한 상태란 터치스크린 상에 손가락이 닿았거나 실제로 닿지 않았더라도 매우 근접하게 접근한 것을 포함할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 상기 이벤트의 유형으로는 표시부(140)를 통해 디스플레이되는 출력 이벤트일 수 있다. 예컨대, 화면상의 특정 위치에 팝업창이 생성되는 팝업창 생성 이벤트일 수도 있다.
위치 판단부(113)는 상기 이벤트 판단부(112)를 통해 확인된 이벤트에 대응하는 화면상의 위치를 판단할 수 있다. 예컨대, 상기 발생한 이벤트가 화면상의 특정 위치를 터치하는 터치 이벤트일 경우, 상기 위치 판단부(113)는 상기 터치 이벤트가 발생한 화면상의 위치를 확인할 수 있다. 또한, 예컨대, 상기 발생한 이벤트가 마우스 클릭 이벤트일 경우, 상기 위치 판단부(113)는 상기 마우스 클릭에 의해 선택된 화면상의 위치(예컨대, 커서의 위치)를 확인할 수 있다. 또한, 예컨대, 상기 발생한 이벤트가 팝업창을 생성하여 화면에 표시하는 이벤트일 경우, 상기 위치 판단부(113)는 상기 팝업창이 표시된 화면상의 위치를 확인할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 위치 판단부(113)에서 확인하는 위치 정보는 디스플레이 화면상의 특정 지점을 나타내는 좌표 정보(예컨대, 픽셀의 좌표)일 수도 있으며, 적어도 하나의 좌표들을 포함하는 영역에 대한 위치 정보일 수도 있다.
시선 판단부(114)는 사용자의 시선을 판단하는 기능을 수행할 수 있다. 또한, 상기 시선 판단부(114)는 사용자의 시선을 판단하고, 사용자의 시선을 추적하는 기능을 더 수행할 수 있다.
상기 시선 판단부(114)의 시선 판단 방법은 다양한 시선 판단 알고리즘에 의해 구현될 수 있으며, 본 발명의 다양한 실시 예들이 특정 알고리즘으로 한정되는 것은 아니다. 예컨대, 본 발명의 다양한 실시 예에 따라 상기 시선 판단부(114)는 사용자의 홍채, 동공, 각막의 반짝임 등의 정보를 이용하여 안구의 모양을 모델링하고, 이를 통해 사용자의 시선을 판단 또는 추적할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 시선 판단부(114)는 카메라부(130) 또는 광원부(120)와 연동하여 사용자의 시선(또는 시선 방향)을 판단할 수도 있다. 예컨대, 카메라부(130)를 통해 사용자의 얼굴 또는 안구를 촬영하고, 촬영된 이미지를 분석하여 사용자의 시선을 판단할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 제어부(110)의 제어에 따라 광원부(120)를 통해 적어도 하나의 광원을 발광시키도록 할 수 있다. 상기 시선 판단부(114)에서는 상기 광원부(120)를 통해 광원이 발광할 때, 상기 카메라부(130)를 통해 사용자의 얼굴 또는 안구를 촬영하고, 촬영된 이미지에서 안구에 맺힌 광원의 위치를 통해 사용자의 시선을 판단할 수 있다.
상기 캘리브레이션 처리부(111)를 통해 처리된 캘리브레이션 정보(161) 및/또는 상기 시선 판단부(114)를 통해 판단된 시선 정보(162)는 저장부(160)에 저장될 수 있다. 또한, 본 발명의 다양한 실시 예에 따라, 상기 캘리브레이션 정보(161) 및/또는 상기 시선 정보(162)는 각 사용자 정보와 대응하여 저장될 수도 있다.
본 발명의 다양한 실시 예에 따라, 상기 캘리브레이션 처리부(111)는 별도의 캘리브레이션 설정 메뉴를 통해 캘리브레이션을 수행하도록 구현할 수도 있다. 예컨대, 사용자가 캘리브레이션 기능을 실행하면, 표시부(140)를 통해 설정된 적어도 하나의 화면상의 위치에 마크(mark)를 표시하고, 사용자가 화면상에 표시된 상기 마크를 응시하면, 상기 사용자가 응시한 화면상의 위치에 대해 사용자의 시선을 캘리브레이션할 수 있다. 예컨대, 상기 캘리브레이션의 기능으로서, 사용자가 바라보는 디스플레이 화면상의 위치와 전자 장치에서 인식한 화면상의 위치를 일치시키기 위한 보정을 할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 캘리브레이션 처리부(111)는 상기 이벤트 판단부(112)를 통해 미리 설정된 이벤트(예컨대, 이벤트에 대응하는 화면상의 위치 정보에 대한 확인이 가능한 이벤트)가 발생한 것으로 판단하면, 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 캘리브레이션 절차를 수행할 수도 있다. 상기 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 설정된 이벤트 발생 시에 캘리브레이션을 수행할 경우, 사용자는 전자 장치에서 캘리브레이션을 수행하고 있음을 자각하지 못할 수도 있다. 상기 실시 예에 따른 캘리브레이션 수행은 사용자의 전자 장치 사용(예컨대, 다양한 애플리케이션의 실행, 웹 브라우징 등)에 영향을 주지 않음으로 사용자로 하여금 전자 장치의 편리한 사용을 가능하게 할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 별도의 캘리브레이션 설정 메뉴를 통한 캘리브레이션과, 상기 이벤트 발생시 캘리브레이션 설정 메뉴로 전환하지 않고 수행하는 캘리브레이션은 병행하여 제공될 수도 있으며, 상기 별도의 캘리브레이션 설정 없이 이벤트 발생시에만 캘리브레이션을 수행하도록 구현될 수도 있다.
또한, 본 발명의 다양한 실시 예에 따라, 초기에는 별도의 캘리브레이션 설정 메뉴를 통해 대략적인 캘리브레이션을 수행하고, 이후 미리 설정된 이벤트 발생시 보다 정밀한 캘리브레이션을 수행하도록 구현할 수도 있다.
데이터 검증부(115)는 본 발명의 다양한 실시 예에 따라 이미 설정된 캘리브레이션에 대한 검증을 수행할 수 있다. 예컨대, 저장부(160)에 캘리브레이션 정보(161)가 저장된 상태에서 본 발명의 다양한 실시 예에 따라 화면상의 위치가 지정된 이벤트가 발생하면, 상기 이벤트가 발생한 화면상의 위치 정보를 이용하여 캘리브레이션 정보를 생성하고, 상기 이미 저장된 캘리브레이션 정보(161)와 비교함으로써 캘리브레이션 데이터를 검증 또는 갱신할 수도 있다.
상기 제어부(110)는 미리 설정된 이벤트가 발생하면 시선 판단부(114)를 통해 시선을 판단 및/또는 시선을 추적할 수 있으며, 본 발명의 다양한 실시 예에 따라 이와 동시에 캘리브레이션 처리부(111)를 통해 캘리브레이션을 수행할 수도 있다.
상기 제어부(110)는 프로세서(processor)로 지칭될 수도 있으며, 상기 제어부(110)는 중앙처리장치(central processing unit(CPU)), 애플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 상기 제어부(110)는, 예를 들면, 상기 전자 장치의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
상기 저장부(160)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 상기 저장부(160)는, 예를 들면, 상기 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 상기 저장부(160)는 소프트웨어 및/또는 프로그램을 저장할 수 있다. 상기 프로그램은, 예를 들면, 커널, 미들웨어, 애플리케이션 프로그래밍 인터페이스(application programming interface(API)), 및/또는 애플리케이션 프로그램(또는 "애플리케이션") 등을 포함할 수 있다. 상기 커널, 미들웨어, 또는 API의 적어도 일부는, 운영 체제(operating system(OS))라 불릴 수 있다.
상기 커널은, 예를 들면, 다른 프로그램들(예: 미들웨어, API, 또는 애플리케이션 프로그램에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스, 프로세서, 또는 저장부(160) 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널은 상기 미들웨어, 상기 API, 또는 상기 애플리케이션 프로그램에서 상기 전자 장치의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
상기 미들웨어는, 예를 들면, 상기 API 또는 상기 애플리케이션 프로그램이 상기 커널과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 상기 미들웨어는 상기 애플리케이션 프로그램으로부터 수신된 작업 요청들과 관련하여, 예를 들면, 상기 애플리케이션 프로그램 중 적어도 하나의 애플리케이션에 상기 전자 장치의 시스템 리소스(예: 버스, 프로세서, 또는 메모리 등)를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예: 스케쥴링 또는 로드 밸런싱)를 수행할 수 있다.
상기 API는, 예를 들면, 상기 애플리케이션이 상기 커널 또는 상기 미들웨어에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 화상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
상기 표시부(140)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이를 포함할 수 있다. 상기 표시부(140)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)를 표시할 수 있다. 상기 표시부(140)는, 터치스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
상기 도 1에서는 본 발명의 다양한 실시 예들과 관련된 기능들이 상기 전자 장치의 내에서 독립적으로 동작하도록 도시되어 있으나, 별도의 통신 인터페이스(미도시)를 구비하여 네트워크를 통해 외부 전자 장치 또는 서버 등과 통신하여 본 발명의 다양한 실시 예들에 따른 기능의 일부를 수행하도록 구현할 수도 있다.
예컨대, 본 발명의 다양한 실시 예에 따르면, 상기 서버는 상기 전자 장치에서 구현되는 동작(또는, 기능)들 중 적어도 하나의 동작(또는, 기능)을 수행함으로써, 상기 전자 장치의 구동을 지원할 수 있다. 예를 들면, 상기 서버는 상기 전자 장치에 구현된 제어부(110)의 적어도 일부 구성요소를 포함하여, 상기 제어부(110)가 수행하는 동작(또는, 기능)들 중 적어도 하나의 동작을 수행(또는, 대행)할 수도 있다.
한편, 본 발명의 다양한 실시 예에서 각 기능부 또는 모듈이라 함은, 본 발명의 다양한 실시 예의 기술적 사상을 수행하기 위한 하드웨어 및 상기 하드웨어를 구동하기 위한 소프트웨어의 기능적, 구조적 결합을 의미할 수 있다. 예컨대, 상기 각 기능부 또는 모듈은 소정의 코드와 상기 소정의 코드가 수행되기 위한 하드웨어 리소스의 논리적인 단위를 의미할 수 있으며, 반드시 물리적으로 연결된 코드를 의미하거나, 한 종류의 하드웨어를 의미하는 것은 아님은 본 발명의 실시 예의 기술분야의 평균적 전문가에게는 용이하게 추론될 수 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 전자 장치는, 전자 장치의 화면상의 위치에서 이벤트가 표시되는 동작에 반응하여, 이미지를 촬영하는 카메라부; 및 상기 촬영된 이미지로부터 판단된 사용자의 시선과 관련된 정보 및 상기 이벤트가 표시된 화면상의 위치에 대한 정보를 기반으로, 상기 시선에 대한 캘리브레이션을 수행하도록 제어하는 제어부;를 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 미리 설정된 이벤트로서, 화면상에서 상기 이벤트가 표시된 위치 정보에 대한 확인이 가능한 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 적어도 하나의 화면상의 위치에 대한 선택과 관련된 입력 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 입력 이벤트는, 입력부에 의한 화면상에 표시된 커서 위치의 선택 이벤트 또는 터치스크린상에서의 터치 이벤트 또는 사용자의 제스처 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 적어도 하나의 화면상의 위치에 생성되는 객체와 관련된 출력 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 출력 이벤트는, 적어도 하나의 화면상의 위치에 팝업창이 생성되는 팝업창 생성 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 팝업창은, 설정에 따라 이전 생성된 위치와 상이한 위치에 생성될 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 화면상의 위치 정보는, 디스플레이 화면상의 적어도 하나의 지점을 나타내는 좌표 정보 또는 상기 적어도 하나의 좌표들을 포함하는 영역에 대한 정보일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 제어부는, 미리 설정된 캘리브레이션 정보와 상기 이벤트 발생 시 결정된 캘리브레이션 정보의 비교 결과, 미리 설정된 오차 범위를 초과하면, 캘리브레이션 정보를 상기 이벤트 발생 시 결정된 캘리브레이션 정보로 갱신할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 제어부는, 상기 촬영된 이미지로부터 사용자를 식별하고, 상기 촬영된 이미지로부터 생성된 캘리브레이션 정보가 상기 사용자의 사용자 정보에 대응하여 저장되도록 제어할 수 있다.
이하, 도 2 내지 도 6을 참조하여 전술한 전자 장치에서의 시선 캘리브레이션 방법의 다양한 실시 예들을 상세히 설명하기로 한다.
도 2는 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 절차를 나타내는 흐름도이다. 도 2를 참조하면, 본 발명의 다양한 실시 예에 따라, 동작 202에서 미리 설정된 이벤트가 발생하면, 동작 204에서 카메라부를 동작시켜 영상을 촬영할 수 있다. 미리 설정된 이벤트는 예컨대, 이벤트에 대응하는 위치 정보에 대한 확인이 가능한 이벤트일 수 있다. 상기 미리 설정된 이벤트가 발생한 것으로 판단하면, 카메라부를 통해 얼굴 또는 안구의 이미지(영상)를 촬영하고, 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 캘리브레이션 절차를 수행할 수 있다. 예컨대, 상기 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 상기와 같이 미리 설정된 이벤트 발생 시 캘리브레이션을 수행할 경우, 사용자는 캘리브레이션의 진행을 자각하지 못할 수도 있다.
동작 206에서, 상기 촬영된 영상(이미지)을 기반으로, 상기 발생한 이벤트의 대응하는 위치에 대한 캘리브레이션을 수행할 수 있다. 예컨대, 상기 발생한 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션할 수 있다.
예컨대, 본 발명의 다양한 실시 예에 따라 사용자가 웹페이지를 열람하거나, 특정 애플리케이션을 실행하는 중에, 마우스 클릭 또는 터치를 하여 화면상의 특정 위치를 선택하면, 상기 선택에 따른 이벤트 발생을 미리 설정된 이벤트로 판단하고, 별도의 캘리브레이션 설정 메뉴로 전환하지 않고도 캘리브레이션 절차를 수행할 수 있다.
상기의 경우 웹페이지 또는 애플리케이션 실행에서의 상기 선택에 따른 절차들이 연속하여 진행될 수 있으며, 상기 캘리브레이션의 수행 동작은 상기 웹페이지 또는 애플리케이션의 동작과는 별도로 백그라운드에서 실행될 수 있다. 이에 따라, 상기 캘리브레이션 수행 동작을 사용자는 자각하지 못할 수 있으며, 상기 실행되고 있는 웹페이지 또는 애플리케이션의 동작에 영향을 미치지 않을 수 있다. 또한, 사용자는 별도의 캘리브레이션 설정 메뉴에서 캘리브레이션을 수행하지 않더라도 전자 장치를 통한 다양한 작업 수행시, 상기 작업과는 별도로 캘리브레이션을 동시에 수행할 수 있다.
또한, 상기 전자 장치를 통한 작업 수행 시 사용자의 시선 판단 및/또는 시선 추적을 수행할 수 있으며, 본 발명의 다양한 실시 예에 따라 상기 시선 판단 및/또는 시선 추적과 동시에 상기 캘리브레이션을 수행할 수도 있다.
도 3은 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 절차를 나타내는 흐름도이다. 도 3을 참조하면, 본 발명의 다양한 실시 예에 따라, 동작 302에서 입력 이벤트가 발생하면, 동작 304에서 상기 발생한 입력 이벤트가 위치와 관련된 이벤트인지를 판단할 수 있다. 예컨대, 상기 발생한 입력 이벤트가 화면상의 특정 위치를 선택하는 이벤트(예컨대, 마우스에 의해 화면상의 특정 위치를 선택하는 이벤트, 또는 터치스크린상에서 사용자가 특정 위치를 터치하는 터치 이벤트 등)이면 위치와 관련된 이벤트로 판단할 수 있다.
상기 판단 결과, 위치와 관련된 이벤트로 판단하면, 동작 306에서 카메라부를 동작시켜 영상을 촬영할 수 있다. 예컨대, 카메라부를 통해 얼굴 또는 안구의 이미지(영상)를 촬영하여, 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 캘리브레이션 절차를 수행할 수 있다.
동작 308에서, 상기 촬영된 영상(이미지)을 기반으로, 상기 발생한 이벤트의 대응하는 위치에 대한 캘리브레이션을 수행할 수 있다. 예컨대, 상기 발생한 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션할 수 있다.
도 4는 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 절차를 나타내는 흐름도이다. 도 4를 참조하면, 본 발명의 다양한 실시 예에 따라, 동작 402에서 다양한 애플리케이션 실행에 따라 전자 장치에서는 사용자의 시선을 추적할 수 있다. 상기 사용자의 시선 추적 정보는 상기 애플리케이션의 실행에 적용될 수 있다. 예컨대, 사용자의 시선을 추적하여, 화면을 스크롤링하거나, 사용자가 바라보는 특정 위치를 선택하거나, 사용자가 바라보는 위치를 기준으로 화면을 줌(zooming) 시킬 수 있다.
입력 이벤트가 발생하면, 동작 404에서 상기 발생한 입력 이벤트가 위치와 관련된 이벤트인지를 판단할 수 있다. 예컨대, 상기 발생한 입력 이벤트가 화면상의 특정 위치를 선택하는 이벤트(예컨대, 마우스에 의해 화면상의 특정 위치를 선택하는 이벤트, 또는 터치스크린상에서 사용자가 특정 위치를 터치하는 터치 이벤트 등)이면 위치와 관련된 이벤트로 판단할 수 있다.
상기 판단 결과, 위치와 관련된 이벤트로 판단하면, 동작 406에서 카메라부를 동작시켜 영상을 촬영할 수 있다. 예컨대, 카메라부를 통해 얼굴 또는 안구의 이미지(영상)를 촬영하고, 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 캘리브레이션 절차를 수행할 수 있다. 예컨대, 본 발명의 다양한 실시 예에 따라, 상기 시선 추적 동작과 동시에 시선 캘리브레이션 동작을 수행할 수 있다.
예컨대, 상기 촬영된 영상(이미지)을 기반으로, 상기 발생한 이벤트에 대응하는 위치에 대한 캘리브레이션을 수행할 수 있다. 또한, 예컨대, 상기 발생한 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션할 수 있다.
동작 408에서, 상기 캘리브레이션한 정보를 미리 설정된 캘리브레이션 정보와 비교하여 미리 설정된 오차 범위 이내이면, 동작 410에서 상기 이벤트 발생에 따라 캘리브레이션한 정보를 적용함으로써 이미 설정된 캘리브레이션 정보를 보다 정확한 정보로 수정할 수 있다.
도 5는 본 발명의 다양한 실시 예에 따른 캘리브레이션 오차 판단 절차를 나타내는 흐름도이다. 도 5를 참조하면, 본 발명의 다양한 실시 예에 따라, 동작 502에서 다양한 애플리케이션 실행에 따라 전자 장치에서는 사용자의 시선을 추적할 수 있다. 상기 사용자의 시선 추적 정보는 상기 애플리케이션의 실행에 적용될 수 있다. 예컨대, 사용자의 시선을 추적하여, 화면을 스크롤링하거나, 사용자가 바라보는 특정 위치를 선택하거나, 사용자가 바라보는 위치를 기준으로 화면을 줌(zooming) 시킬 수 있다.
입력 이벤트가 발생하면, 동작 504에서 상기 발생한 입력 이벤트가 위치와 관련된 이벤트인지를 판단할 수 있다. 예컨대, 상기 발생한 입력 이벤트가 화면상의 특정 위치를 선택하는 이벤트(예컨대, 마우스에 의해 화면상의 특정 위치를 선택하는 이벤트, 또는 터치스크린상에서 사용자가 특정 위치를 터치하는 터치 이벤트 등)이면 위치와 관련된 이벤트로 판단할 수 있다.
상기 판단 결과, 위치와 관련된 이벤트로 판단하면, 동작 506에서 카메라부를 동작시켜 영상을 촬영할 수 있다. 예컨대, 카메라부를 통해 얼굴 또는 안구의 이미지(영상)를 촬영하고, 동작 508에서 상기 촬영된 이미지로부터 이미 저장된 캘리브레이션 정보를 이용하여 사용자의 시선에 대응하는 화면상의 위치를 산출할 수 있다.
동작 510에서, 상기 시선 판단을 통해 결정된 화면상의 위치와 상기 이벤트가 발생한 위치를 비교할 수 있다. 상기 비교 결과, 동작 512에서 오차 범위를 초과하는 것을 판단하면, 동작 514에서 이미 저장된 캘리브레이션 정보에 오차가 발생한 것으로 판단할 수 있다.
상기 동작 514에서, 이미 저장된 캘리브레이션 정보에 오차가 발생한 것으로 판단되면, 본 발명의 다양한 실시 예에 따라 오차 발생에 대응하는 동작을 수행할 수 있다.
예컨대, 본 발명의 다양한 실시 예에 따라, 상기 오차 발생 여부를 화면상에 표시할 수도 있으며, 별도의 캘리브레이션 설정 메뉴로 전환하여 캘리브레이션 절차를 진행하도록 유도할 수도 있다. 또한, 본 발명의 다양한 실시 예에 따라, 상기 발생한 이벤트에 대응하는 위치 정보와 상기 이벤트 발생시 촬영된 이미지를 이용하여 캘리브레이션 동작을 수행하고, 상기 수행된 캘리브레이션에 따른 변경된 캘리브레이션 정보로 이미 설정된 캘리브레이션 정보를 갱신할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 상기 이미 저장된 캘리브레이션에 오차가 발생한 것으로 판단하면, 오차 발생 횟수를 카운트하고, 오차 발생 횟수가 설정된 횟수를 초과하면 설정된 캘리브레이션 정보를 갱신하도록 구현할 수도 있다.
도 6은 본 발명의 다양한 실시 예에 따른 캘리브레이션 정보 갱신 절차를 나타내는 흐름도이다. 도 6을 참조하면, 본 발명의 다양한 실시 예에 따라, 동작 602에서 미리 설정된 이벤트가 발생하면, 동작 604에서 카메라부를 동작시켜 영상을 촬영할 수 있다. 상기 미리 설정된 이벤트는 예컨대, 이벤트에 대응하는 위치 정보에 대한 확인이 가능한 이벤트일 수 있다. 상기 미리 설정된 이벤트가 발생한 것으로 판단하면, 카메라부를 통해 얼굴 또는 안구의 이미지(영상)를 촬영하고, 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 캘리브레이션 절차를 수행할 수 있다. 예컨대, 상기 별도의 캘리브레이션 설정 메뉴로 전환하지 않고 상기와 같이 미리 설정된 이벤트 발생 시 캘리브레이션을 수행할 경우, 사용자는 캘리브레이션의 진행을 자각하지 못할 수도 있다.
본 발명의 다양한 실시 예에 따라, 동작 606에서, 상기 촬영된 이미지로부터 홍채를 인식함으로써 사용자를 식별할 수 있다. 예컨대, 상기 촬영된 이미지로부터 생성된 캘리브레이션 정보는 상기 촬영된 이미지로부터 식별된 사용자에 대응될 수 있다.
동작 508에서, 상기 인식된 사용자별로 캘리브레이션 정보를 저장 또는 갱신할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 캘리브레이션을 수행하는 사용자의 인식뿐만 아니라, 상기 캘리브레이션 수행시의 사용자의 각 상황에 따른 정보를 수집하고, 각 사용자의 상황 정보와 상기 캘리브레이션 정보를 대응하여 저장할 수도 있다. 이에 따라, 전자 장치에서 시선 판단 및/또는 시선 추적 시에 현재 사용자의 상황 정보를 확인하고, 해당 상황에 대응하는 캘리브레이션 정보를 적용시킴으로써 보다 정확한 시선 판단 및/또는 시선 추적을 수행할 수 있다.
상기 도 2 내지 도 6에 도시된 동작들 중 적어도 하나의 동작이 생략되어 실행될 수도 있으며, 적어도 하나의 다른 동작이 상기 동작들 사이에 추가될 수도 있다. 또한, 상기 도 2 내지 도 6의 동작들은 도시된 순서로 처리될 수도 있으며, 적어도 하나의 동작에 대한 실행 순서가 다른 동작의 실행 순서와 변경되어 처리될 수도 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 전자 장치의 동작 방법은, 전자 장치에서 적어도 하나의 이벤트가 발생하면, 상기 이벤트가 미리 설정된 이벤트인지 판단하는 동작; 상기 이벤트가 미리 설정된 이벤트이면, 카메라를 통해 이미지를 촬영하는 동작; 상기 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션하는 동작;을 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 미리 설정된 이벤트로서, 화면상에서 상기 이벤트에 대응하는 위치 정보에 대한 확인이 가능한 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 적어도 하나의 위치에 대한 선택과 관련된 입력 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 입력 이벤트는, 입력부에 의한 화면상에 표시된 커서 위치의 선택 이벤트 또는 터치스크린상에서의 터치 이벤트 또는 사용자의 제스처 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 적어도 하나의 화면상의 위치에 생성되는 객체와 관련된 출력 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 출력 이벤트는, 적어도 하나의 화면상의 위치에 팝업창이 생성되는 팝업창 생성 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 팝업창은, 설정에 따라 이전 생성된 위치와 상이한 위치에 생성될 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 화면상의 위치 정보는, 디스플레이 화면상의 적어도 하나의 지점을 나타내는 좌표 정보 또는 상기 적어도 하나의 좌표들을 포함하는 영역에 대한 정보일 수 있다.
본 발명의 다양한 실시 예에 따라, 미리 설정된 캘리브레이션 정보와 상기 이벤트 발생 시 결정된 캘리브레이션 정보를 비교하는 동작; 및 상기 비교 결과, 미리 설정된 오차 범위를 초과하면, 캘리브레이션 정보를 상기 이벤트 발생 시 결정된 캘리브레이션 정보로 갱신하는 동작;을 더 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 촬영된 이미지로부터 사용자를 식별하는 동작; 및 상기 촬영된 이미지로부터 생성된 캘리브레이션 정보가 상기 사용자의 사용자 정보에 대응하여 저장하는 동작;을 더 포함할 수 있다.
도 7은 본 발명의 다양한 실시 예에 따른 이벤트 발생의 예를 나타내는 도면이다. 도 7을 참조하면, 전자 장치(700)(예컨대, TV 또는 모니터)의 화면(710)에 웹페이지가 표시될 수 있으며, 사용자가 특정 위치를 선택할 수 있도록 커서(730)가 표시될 수 있다.
본 발명의 다양한 실시 예에 따라, 사용자는 화면상에서 커서(730)의 위치를 응시하고 있는 것으로 판단할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라 사용자가 다양한 선택 수단(예컨대, 손가락, 키보드 또는 마우스 등)을 이용하여 상기 커서(730)가 표시되고 있는 화면(710)상의 위치를 선택하면, 전자 장치(700)에서는 사용자가 상기 커서(730)가 표시되고 있는 화면상의 위치(720)를 응시하는 것으로 판단할 수도 있다.
상기 커서(730)가 표시된 화면상에서의 위치가 선택되면, 선택과 관련된 입력 이벤트가 발생할 수 있으며, 전술한 바와 같이 본 발명의 다양한 실시 예에 따라 상기 선택과 관련된 입력 이벤트 발생에 따른 캘리브레이션 동작을 수행할 수 있다. 예컨대, 상기 입력 이벤트가 발생하면, 카메라를 통해 사용자의 얼굴 또는 안구를 촬영하고, 촬영된 이미지와 상기 선택 이벤트가 발생한 위치 정보(예컨대, 상기 커서(730)가 표시된 화면상의 위치(730)의 정보)를 이용하여 캘리브레이션을 수행할 수 있다.
상기 본 발명의 다양한 실시 예에 따른 캘리브레이션의 수행 과정은 화면상에 표시되지 않을 수 있으며, 사용자가 자각하지 않는 동작일 수 있다. 또한, 상기 캘리브레이션 수행 과정은 별도의 캘리브레이션 수행 메뉴를 실행하지 않고서도 백그라운드에서 실행이 가능할 수 있다.
도 8은 본 발명의 다양한 실시 예에 따른 이벤트 발생의 예를 나타내는 도면이다. 도 8을 참조하면, 전자 장치(800)(예컨대, 스마트폰)의 애플리케이션 메뉴 화면에 다양한 애플리케이션 아이콘이 표시될 수 있다.
본 발명의 다양한 실시 예에 따라, 사용자가 터치스크린 상에서 손(820) 또는 전자 펜으로 특정 애플리케이션 아이콘(810)을 선택하면, 사용자가 상기 선택된 애플리케이션(810)의 위치를 응시하는 것으로 판단할 수 있다.
상기 특정 애플리케이션 아이콘(810)이 선택되면, 선택과 관련된 입력 이벤트가 발생할 수 있으며, 전술한 바와 같이 본 발명의 다양한 실시 예에 따라 상기 선택과 관련된 입력 이벤트 발생에 따른 캘리브레이션 동작을 수행할 수 있다. 예컨대, 상기 입력 이벤트가 발생하면, 카메라를 통해 사용자의 얼굴 또는 안구를 촬영하고, 촬영된 이미지와 상기 선택 이벤트가 발생한 위치 정보(예컨대, 상기 애플리케이션 아이콘(810)이 표시된 화면상의 위치 정보)를 이용하여 캘리브레이션을 수행할 수 있다.
상기 본 발명의 다양한 실시 예에 따른 캘리브레이션의 수행 과정은 화면상에 표시되지 않을 수 있으며, 사용자가 자각하지 않는 동작일 수 있다. 또한, 상기 캘리브레이션 수행 과정은 별도의 캘리브레이션 수행 메뉴를 실행하지 않고서도 백그라운드에서 실행이 가능할 수 있다.
도 9는 본 발명의 다양한 실시 예에 따른 이벤트 발생의 예를 나타내는 도면이다. 도 9를 참조하면, 전자 장치(900)(예컨대, 스마트폰)의 사진 보기(예컨대, 갤러리) 애플리케이션 실행 화면에 기능 수행을 위한 팝업창(910)이 표시될 수 있다.
본 발명의 다양한 실시 예에 따라, 사용자가 터치스크린 상에서 손 또는 전자 펜으로 상기 팝업창의 특정한 선택 버튼(920)(또는 선택 박스)을 선택하면, 사용자가 상기 선택된 선택 버튼(920)이 표시된 화면상의 위치를 응시하는 것으로 판단할 수 있다.
상기 팝업창에서 특정 선택 버튼이 선택되면, 선택과 관련된 입력 이벤트가 발생할 수 있으며, 전술한 바와 같이 본 발명의 다양한 실시 예에 따라 상기 선택과 관련된 입력 이벤트 발생에 따른 캘리브레이션 동작을 수행할 수 있다. 예컨대, 상기 입력 이벤트가 발생하면, 카메라를 통해 사용자의 얼굴 또는 안구를 촬영하고, 촬영된 이미지와 상기 선택 이벤트가 발생한 위치 정보(예컨대, 상기 팝업창의 선택 박스의 위치(920) 정보)를 이용하여 캘리브레이션을 수행할 수 있다.
상기 본 발명의 다양한 실시 예에 따른 캘리브레이션의 수행 과정은 화면상에 표시되지 않을 수 있으며, 사용자가 자각하지 않는 동작일 수 있다. 또한, 상기 캘리브레이션 수행 과정은 별도의 캘리브레이션 수행 메뉴를 실행하지 않고서도 백그라운드에서 실행이 가능할 수 있다.
도 10은 본 발명의 다양한 실시 예에 따른 사용자의 시선을 나타내는 도면이다. 도 10을 참조하면, 캘리브레이션 설정 메뉴 실행 시 모니터(1000)의 화면상에 캘리브레이션을 위한 복수의 마크(1021)를 표시할 수 있다.
또한, 상기 모니터의 적어도 한 모서리에는 적어도 하나의 광원(1110a, 1110b, 1110c, 1110d)이 구비될 수 있다. 예컨대, 캘리브레이션 설정 기능이 실행되면, 상기 적어도 하나의 광원(1110a, 1110b, 1110c, 1110d)이 발광하며, 상기 발광된 광원은 사용자의 안구에 맺힐 수 있다.
상기 모니터에 구비된 카메라를 통해 상기 사용자의 얼굴 또는 안구 이미지가 촬영될 수 있다. 사용자가 모니터(1000)의 화면상에 표시된 특정 마크(1021)를 응시한 상태에서 사용자의 얼굴 또는 안구 이미지가 촬영되면, 상기 촬영된 이미지에 맺힌 적어도 하나의 광원을 통해 사용자의 시선을 캘리브레이션할 수 있다.
도 11은 본 발명의 다양한 실시 예에 따른 시선 캘리브레이션 화면을 나타내는 도면이다. 도 11을 참조하면, 모니터에 표시된 위치를 사용자가 주시할 때, 이미 저장된 캘리브레이션 정보에 의해 판단된 화면상의 대응하는 위치가 실제 화면상에 표시된 마크의 위치와 상이할 수 있다. 상기 위치의 차이가 오차 범위를 벗어날 경우, 본 발명의 다양한 실시 예에 따른 캘리브레이션 수행을 통해 캘리브레이션 정보를 갱신할 수 있다.
도 12는 본 발명의 다양한 실시 예에 따른 시선 추적의 모델링을 나타내는 도면이다. 도 12를 참조하면, 다양한 방법에 의해 시선 추적을 모델링할 수 있다.
다양한 실시 예에 따르면, 화면상에서 사용자의 시선이 머무는 지점(point of gaze, 이하 'POG')을 예측하고 추적하는 기술은 본 발명의 다양한 실시 예들에 적용될 수 있다.
예컨대, 정확한 시선 추적을 위해 가시광 카메라(visible camera)뿐만 아니라, 적외선 카메라(IR(infrared) camera), 적외선 LED 조명 장치 등을 이용할 수 있다. 상기 방식의 경우 동공의 중심(pupil center, 이하 'PC') 좌표와 함께 IR 조명이 안구에서 반사되는 반사점(corneal reflection, 이하 'CR')의 좌표를 사용할 수 있다. 이를 PCCR(pupil center corneal reflection) 기법이라고 부르며, CR의 개수에 따라 다양한 시선추적 방법들이 존재할 수 있다.
도 12는 HN(homography normalization) 기법에서 채택하는 기하학적인 모델을 나타낸다. 상기 HN 모델은 3개의 평면으로 구성될 수 있다. 첫째, 화면의 네 모서리에 IR 광원(L1-L4)(1211, 1212, 1213, 1214)을 부착한 모니터 스크린 평면(ПS)(1210), 네 개의 CR(G1-G4)(1231, 1232, 1233, 1234)로 구성된 각막 평면(corneal plane)(ПC)(1230), 그리고 카메라 이미지 평면(ПI)(1220)이다.
입력된 안구 이미지가 얻어지는 과정을 보면, 네 개의 IR 광원들(L1-L4)(1211, 1212, 1213, 1214)이 각막(cornea)에 맺히게 되고(G1-G4)(1231, 1232, 1233, 1234), 다음으로 G1-G4(1231, 1232, 1233, 1234)와 평면 ПC(1230)상의 점 PC(P)가 카메라를 통하여 이미지 평면(image plane)(ПI)(1220)에 맺히게 된다. 이로써 최종적으로 안구 이미지의 PC(p)와 네 개의 CR(g1-g4)(1221, 1222, 1223, 1224)들을 생성하게 된다.
도 13은 본 발명의 다양한 실시 예에 적용될 수 있는 PCCR 방식의 기하학적 모델을 도시한다. 도 13을 참조하면, HN 방식에서의 POG 예측은 도시된 바와 같이 두 개의 매핑 함수(mapping function; MF)로 구성될 수 있다. ПI(1310) 에서 ПN(1320)로의 매핑과 ПN(1320) 에서 ПS(1330)로의 매핑이다. 여기서 ПN(1320)은 단위 스퀘어(unit square)의 크기를 갖는 정규화된 평면(normalized plane)을 의미할 수 있다.
안구 이미지에서 검출된 PC인 pI가 호모그래피(homography) 함수
Figure PCTKR2015000285-appb-I000001
을 통하여 ПN(1320) 평면으로 매핑될 수 있다. 이는 ПI(1310)상의 4개의 CR들(g1-g4) 과 ПN(1320)의 네 모서리 지점(G1-G4)을 이용하여 가능하다.
ПN(1320)상의 PC인 pN을 함수
Figure PCTKR2015000285-appb-I000002
을 이용하여 ПS(1330)상의 점으로 매핑하여 최종 POG를 얻을 수 있다.
Figure PCTKR2015000285-appb-I000003
은 캘리브레이션 과정을 통해 얻을 수 있다.
다양한 실시 예에 따라, 전체 매핑 함수는
Figure PCTKR2015000285-appb-I000004
로 나타낼 수 있으며, 상기 함수에 의해,ПI(1310) 평면에서 ПS(1330) 평면으로 매핑될 수 있다.
캘리브레이션을 위해 사용자는 화면상의 4개 또는 9개(또는 그 이상) 지점을 순차적으로 바라보도록 하며, 각 시점에서의 ПN(1320) 상에서의 PC 좌표 pN들을 저장하여 각각 해당 화면상의 대응 좌표들과의 호모그래피(homography) 함수
Figure PCTKR2015000285-appb-I000005
을 계산할 수 있다. 상기 단계에서는 오류를 최소화하기 위한 방법으로 "ransac" 또는 최소 자승(least square) 알고리즘을 사용할 수 있다.
상기 캘리브레이션 방법은 본 발명의 다양한 실시 예들 중 적어도 하나에 적용할 수 있는 실시 예로서, 본 발명의 다양한 실시 예들은 상기 캘리브레이션 방법 이외의 다양한 캘리브레이션 방법들이 적용될 수 있으며, 상기 개시된 방법으로 한정되는 것은 아니다.
도 14는 본 발명의 다양한 실시 예에 따른 이벤트 발생 위치의 변경을 나타내는 도면이다. 도 14를 참조하면, 전자 장치(1400)의 화면상에서 이벤트가 발생하는 위치를 다양하게 변경시킴으로써 캘리브레이션을 효율적으로 수행할 수 있다. 예컨대, 도 14의 (a)에 도시된 바와 같이 화면의 좌측 상부에 제1 팝업창(1410)을 표시할 있으며, 이후 도 14의 (b)에 도시된 바와 같이 화면의 우측 상부에 제2 팝업창(1420)을 표시할 있으며, 도 14의 (c)에 도시된 바와 같이 화면의 우측 하부에 제3 팝업창(1430)을 표시할 있으며,도 14의 (d)에 도시된 바와 같이 화면의 좌측 하부에 제4 팝업창(1440)을 표시할 있다. 다양한 위치에 팝업창을 위치시켜 캘리브레이션을 수행하도록 함으로써 캘리브레이션의 효율 및 정확도를 높일 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 팝업창의 표시 위치는 실행되고 있는 애플리케이션의 유형 또는 표시되고 있는 화면의 구성을 고려하여 다양하게 설정될 수 있다. 예컨대, 본 발명의 다양한 실시 예에 따라 캘리브레이션을 위한 팝업창이 표시될 때, 화면상에 표시되고 있는 사진, 텍스트, 아이콘 등의 배치 상태를 고려하여 팝업창이 표시되는 위치를 결정할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 전자 장치(1400)의 화면상의 전체 영역 중 각 위치 또는 각 부분에 대한 캘리브레이션의 정확도를 비교하고, 상대적으로 캘리브레이션의 정확도가 낮은 위치 또는 영역에 상기 팝업창이 표시되도록 구현할 수도 있다.
예컨대, 본 발명의 다양한 실시 예에 따라, 사용자가 각종 애플리케이션을 수행하는 중 팝업창 생성 이벤트가 발생하면, 상기 팝업창이 생성되는 위치를 미리 설정하고 도시된 바와 같이 다양한 위치에 표시되도록 할 수 있다. 또한, 상기 팝업창의 표시 위치는 랜덤하게 설정할 수도 있다.
도 15는 다양한 실시 예에 따른 전자 장치(1501)의 블록도(1500)이다. 상기 전자 장치(1501)는, 예를 들면, 도 1에 도시된 전자 장치의 전체 또는 일부를 포함할 수 있다. 상기 전자 장치(1501)는 하나 이상의 애플리케이션 프로세서(AP: application processor)(1510), 통신 모듈(1520), SIM(subscriber identification module) 카드(1524), 메모리(1530), 센서 모듈(1540), 입력 장치(1550), 디스플레이(1560), 인터페이스(1570), 오디오 모듈(1580), 카메라 모듈(1591), 전력 관리 모듈(1595), 배터리(1596), 인디케이터(1597), 및 모터(1598)를 포함할 수 있다.
상기 AP(1510)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 상기 AP(1510)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 상기 AP(1510)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 상기 AP(1510)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 상기 AP(1510)는 도 15에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(1521))를 포함할 수도 있다. 상기 AP(1510)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
상기 통신 모듈(1520)은, 예를 들면, 셀룰러 모듈(1521), WIFI 모듈(1523), BT 모듈(1525), GPS 모듈(1527), NFC 모듈(1528) 및 RF(radio frequency) 모듈(1529)을 포함할 수 있다.
상기 셀룰러 모듈(1521)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈(1521)은 가입자 식별 모듈(예: SIM 카드(1524))을 이용하여 통신 네트워크 내에서 전자 장치(1501)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈(1521)은 상기 AP(1510)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈(1521)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
상기 WIFI 모듈(1523), 상기 BT 모듈(1525), 상기 GPS 모듈(1527) 또는 상기 NFC 모듈(1528) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(1521), WIFI 모듈(1523), BT 모듈(1525), GPS 모듈(1527) 또는 NFC 모듈(1528) 중 적어도 일부(예: 두 개 이상)는 하나의 집적 칩(integrated chip)(IC) 또는 IC 패키지 내에 포함될 수 있다.
상기 RF 모듈(1529)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. 상기 RF 모듈(1529)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(1521), WIFI 모듈(1523), BT 모듈(1525), GPS 모듈(1527) 또는 NFC 모듈(1528) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
상기 SIM 카드(1524)는, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID (integrated circuit card identifier)) 또는 가입자 정보(예: IMSI (international mobile subscriber identity))를 포함할 수 있다.
상기 메모리(1530)(예: 메모리(1530))는, 예를 들면, 내장 메모리(1532) 또는 외장 메모리(1534)를 포함할 수 있다. 상기 내장 메모리(1532)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive (SSD)) 중 적어도 하나를 포함할 수 있다.
상기 외장 메모리(1534)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 상기 외장 메모리(1534)는 다양한 인터페이스를 통하여 상기 전자 장치(1501)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
상기 센서 모듈(1540)은, 예를 들면, 물리량을 계측하거나 전자 장치(1501)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈(1540)은, 예를 들면, 제스처 센서(1540A), 자이로 센서(1540B), 기압 센서(1540C), 마그네틱 센서(1540D), 가속도 센서(1540E), 그립 센서(1540F), 근접 센서(1540G), 컬러(color) 센서(예: RGB(red, green, blue) 센서(1540H)), 생체 센서(1540I), 온/습도 센서(1540J), 조도 센서(1540K), 또는 UV(ultra violet) 센서(1540M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대안적으로, 상기 센서 모듈(1540)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 상기 센서 모듈(1540)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1501)는 AP(1510)의 일부로서 또는 별도로, 센서 모듈(1540)을 제어하도록 구성된 프로세서를 더 포함하여, 상기 AP(1510)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(1540)을 제어할 수 있다.
상기 입력 장치(1550)는, 예를 들면, 터치 패널(touch panel)(1552), (디지털) 펜 센서(pen sensor)(1554), 키(key)(1556), 또는 초음파(ultrasonic) 입력 장치(1558)를 포함할 수 있다. 상기 터치 패널(1552)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 상기 터치 패널(1552)은 제어 회로를 더 포함할 수도 있다. 상기 터치 패널(1552)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
상기 (디지털) 펜 센서(1554)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 상기 키(1556)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 상기 초음파 입력 장치(1558)는 초음파 신호를 발생하는 입력 도구를 통해, 전자 장치(1501)에서 마이크(예: 마이크(1588))로 음파를 감지하여 데이터를 확인할 수 있다.
상기 디스플레이(1560)(예: 표시부(140))는 패널(1562), 홀로그램 장치(1564), 또는 프로젝터(1566)를 포함할 수 있다. 상기 패널(1562)은, 도 1의 표시부(140)과 동일 또는 유사한 구성을 포함할 수 있다. 상기 패널(1562)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 상기 패널(1562)은 상기 터치 패널(1552)과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치(1564)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 상기 프로젝터(1566)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 상기 스크린은, 예를 들면, 상기 전자 장치(1501)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 상기 디스플레이(1560)는 상기 패널(1562), 상기 홀로그램 장치(1564), 또는 프로젝터(1566)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
상기 인터페이스(1570)는, 예를 들면, HDMI(high-definition multimedia interface)(1572), USB(universal serial bus)(1574), 광 인터페이스(optical interface)(1576), 또는 D-sub(D-subminiature)(1578)를 포함할 수 있다. 추가적으로 또는 대안적으로, 상기 인터페이스(1570)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
상기 오디오 모듈(1580)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈(1580)은, 예를 들면, 스피커(1582), 리시버(1584), 이어폰(1586), 또는 마이크(1588) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
상기 카메라 모듈(1591)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래쉬(flash)(예: LED 또는 xenon lamp)를 포함할 수 있다. 상기 카메라 모듈(1591)의 적어도 일부 구성요소는, 예를 들면, 도 1에 도시된 카메라부(130)에 포함될 수 있다.
상기 전력 관리 모듈(1595)은, 예를 들면, 상기 전자 장치(1501)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 상기 전력 관리 모듈(1595)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. 상기 PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 상기 배터리 게이지는, 예를 들면, 상기 배터리(1596)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 상기 배터리(1596)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
상기 인디케이터(1597)는 상기 전자 장치(1501) 혹은 그 일부(예: AP(1510))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터(1598)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 상기 전자 장치(1501)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 상기 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어 플로우 (media flow) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
상기 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품 (component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 16은 다양한 실시 예에 따른 프로그램 모듈(1610)의 블록도(1600)이다. 한 실시 예에 따르면, 상기 프로그램 모듈(1610)은 전자 장치에 관련된 자원을 제어하는 운영 체제(operation system (OS)) 및/또는 운영 체제상에서 구동되는 다양한 애플리케이션(예: 애플리케이션 프로그램)을 포함할 수 있다. 상기 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(1610)은 커널(1620), 미들웨어(1630), API(application programming interface)(1660), 및/또는 애플리케이션(1670)을 포함할 수 있다. 상기 프로그램 모듈(1610)의 적어도 일부는 전자 장치상에 프리로드(preload) 되거나, 서버로부터 다운로드(download) 가능하다.
상기 커널(1620)은, 예를 들면, 시스템 리소스 매니저(1621) 또는 디바이스 드라이버(1623)를 포함할 수 있다. 상기 시스템 리소스 매니저(1621)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 상기 시스템 리소스 매니저(1621)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 상기 디바이스 드라이버(1623)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WIFI 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
상기 미들웨어(1630)는, 예를 들면, 상기 애플리케이션(1670)이 공통적으로 필요로 하는 기능을 제공하거나, 상기 애플리케이션(1670)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 상기 API(1660)를 통해 다양한 기능들을 상기 애플리케이션(1670)으로 제공할 수 있다. 한 실시 예에 따르면, 상기 미들웨어(1630)는 런타임 라이브러리(1635), 애플리케이션 매니저(application manager)(1641), 윈도우 매니저(window manager)(1642), 멀티미디어 매니저(multimedia manager)(1643), 리소스 매니저(resource manager)(1644), 파워 매니저(power manager)(1645), 데이터베이스 매니저(database manager)(1646), 패키지 매니저(package manager)(1647), 연결 매니저(connectivity manager)(1648), 통지 매니저(notification manager)(1649), 위치 매니저 (location manager)(1650), 그래픽 매니저(graphic manager)(1651), 또는 보안 매니저(security manager)(1652) 중 적어도 하나를 포함할 수 있다.
상기 애플리케이션 매니저(1641)는, 예를 들면, 상기 애플리케이션(1670) 중 적어도 하나의 애플리케이션의 라이프 사이클(life cycle)을 관리할 수 있다. 상기 윈도우 매니저(1642)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 상기 멀티미디어 매니저(1643)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 상기 리소스 매니저(1644)는 상기 애플리케이션(1670) 중 적어도 어느 하나의 애플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
상기 파워 매니저(1645)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 상기 데이터베이스 매니저(1646)는 상기 애플리케이션(1670) 중 적어도 하나의 애플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 상기 패키지 매니저(1647)는 패키지 파일의 형태로 배포되는 애플리케이션의 설치 또는 업데이트를 관리할 수 있다.
상기 연결 매니저(1648)는, 예를 들면, WIFI 또는 블루투스 등의 무선 연결을 관리할 수 있다. 상기 통지 매니저(1649)는 도착 메시지, 약속, 근접성 알림 등의 사건 (event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 상기 위치 매니저(1650)는 전자 장치의 위치 정보를 관리할 수 있다. 상기 그래픽 매니저(1651)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 상기 보안 매니저(1652)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치 (예: 도 1의 전자 장치)가 전화 기능을 포함한 경우, 상기 미들웨어(1630)는 상기 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
상기 미들웨어(1630)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 상기 미들웨어(1630)는 차별화된 기능을 제공하기 위해 운영 체제의 종류별로 특화된 모듈을 제공할 수 있다. 또한, 상기 미들웨어(1630)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
상기 API(1660)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼별로 두 개 이상의 API 셋을 제공할 수 있다.
상기 애플리케이션(1670)은, 예를 들면, 홈(1671), 다이얼러(1672), SMS/MMS(1673), IM(instant message)(1674), 브라우저(1675), 카메라(1676), 알람(1677), 컨택트(1678), 음성 다이얼(1679), 이메일(1680), 달력(1681), 미디어 플레이어(1682), 앨범(1683), 또는 시계(1684), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 제공할 수 있는 하나 이상의 애플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 상기 애플리케이션(1670)은 상기 전자 장치(예: 도 1의 전자 장치)와 외부 전자 장치 사이의 정보 교환을 지원하는 애플리케이션(이하, 설명의 편의 상, "정보 교환 애플리케이션")을 포함할 수 있다. 상기 정보 교환 애플리케이션은, 예를 들면, 상기 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 애플리케이션, 또는 상기 외부 전자 장치를 관리하기 위한 장치 관리(device management) 애플리케이션을 포함할 수 있다.
예를 들면, 상기 알림 전달 애플리케이션은 상기 전자 장치의 다른 애플리케이션(예: SMS/MMS 애플리케이션, 이메일 애플리케이션, 건강 관리 애플리케이션, 또는 환경 정보 애플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치로 전달하는 기능을 포함할 수 있다. 또한, 상기 알림 전달 애플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 상기 장치 관리 애플리케이션은, 예를 들면, 상기 전자 장치와 통신하는 외부 전자 장치의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 상기 외부 전자 장치에서 동작하는 애플리케이션 또는 상기 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 상기 애플리케이션(1670)은 상기 외부 전자 장치의 속성(예: 전자 장치의 속성으로서, 전자 장치의 종류가 모바일 의료 기기)에 따라 지정된 애플리케이션(예: 건강 관리 애플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 상기 애플리케이션(1670)은 외부 전자 장치로부터 수신된 애플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 상기 애플리케이션(1670)은 프리로드 애플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 애플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(1610)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
본 발명의 다양한 실시 예에 따르면, 전술한 도 2 내지 도 6의 각 단계들 중 적어도 일부는 상기 애플리케이션(1670)으로 구현되거나, OS(예컨대, 상기 API(1660), 미들웨어(1630), 커널(1620) 중 적어도 하나로 구현될 수 있다. 또한, 상기 전술한 도 2 내지 도 6의 각 단계들 중 적어도 일부는 하드웨어로 구성된 전용 프로세서(예컨대, AP 또는 CP) 내에 구현될 수도 있다.
다양한 실시 예에 따르면, 상기 프로그램 모듈(1610)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 상기 프로그램 모듈(1610)의 적어도 일부는, 예를 들면, 프로세서(예: AP(1510))에 의해 구현(implement)(예: 실행)될 수 있다. 상기 프로그램 모듈(1610)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈" 또는 "기능부"는, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈" 또는 "기능부"는, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈" 또는 "기능부"는, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈" 또는 "기능부"는 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈" 또는 "기능부"는, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어는, 프로세서 (예: 제어부(110))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 상기 저장부(160)가 될 수 있다.
상기 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱 (heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
다양한 실시 예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 전자 장치에서 적어도 하나의 이벤트가 발생하면, 상기 이벤트가 미리 설정된 이벤트인지 판단하는 동작; 상기 이벤트가 미리 설정된 이벤트이면, 카메라를 통해 이미지를 촬영하는 동작; 상기 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션하는 동작;을 포함할 수 있다.
그리고 본 명세서와 도면에 발명된 본 발명의 실시 예들은 본 발명의 실시 예에 따른 기술 내용을 쉽게 설명하고 본 발명의 실시 예의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 실시 예의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 다양한 실시 예의 범위는 여기에 발명된 실시 예들 이외에도 본 발명의 다양한 실시 예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 다양한 실시 예의 범위에 포함되는 것으로 해석되어야 한다.

Claims (20)

  1. 전자 장치의 화면상의 위치에서 이벤트가 표시되는 동작에 반응하여, 이미지를 촬영하는 카메라부; 및
    상기 촬영된 이미지로부터 판단된 사용자의 시선과 관련된 정보 및 상기 이벤트가 표시된 화면상의 위치에 대한 정보를 기반으로, 상기 시선에 대한 캘리브레이션을 수행하도록 제어하는 제어부;를 포함하는, 전자 장치.
  2. 제1항에 있어서, 상기 이벤트는,
    미리 설정된 이벤트로서, 화면상에서 상기 이벤트가 표시된 위치 정보에 대한 확인이 가능한 이벤트인, 전자 장치.
  3. 제2항에 있어서, 상기 이벤트는,
    적어도 하나의 화면상의 위치에 대한 선택과 관련된 입력 이벤트인, 전자 장치.
  4. 제3항에 있어서, 상기 입력 이벤트는,
    입력부에 의한 화면상에 표시된 커서 위치의 선택 이벤트 또는 터치스크린상에서의 터치 이벤트 또는 사용자의 제스처 이벤트인, 전자 장치.
  5. 제2항에 있어서, 상기 이벤트는,
    적어도 하나의 화면상의 위치에 생성되는 객체와 관련된 출력 이벤트인, 전자 장치.
  6. 제5항에 있어서, 상기 출력 이벤트는,
    적어도 하나의 화면상의 위치에 팝업창이 생성되는 팝업창 생성 이벤트인, 전자 장치.
  7. 제6항에 있어서, 상기 팝업창은,
    설정에 따라 이전 생성된 위치와 상이한 위치에 생성되는, 전자 장치.
  8. 제1항에 있어서, 상기 화면상의 위치 정보는,
    디스플레이 화면상의 적어도 하나의 지점을 나타내는 좌표 정보 또는 상기 적어도 하나의 좌표들을 포함하는 영역에 대한 정보인, 전자 장치.
  9. 제1항에 있어서, 상기 제어부는,
    미리 설정된 캘리브레이션 정보와 상기 이벤트 발생 시 결정된 캘리브레이션 정보의 비교 결과, 미리 설정된 오차 범위를 초과하면, 캘리브레이션 정보를 상기 이벤트 발생 시 결정된 캘리브레이션 정보로 갱신하는, 전자 장치.
  10. 제1항에 있어서, 상기 제어부는,
    상기 촬영된 이미지로부터 사용자를 식별하고, 상기 촬영된 이미지로부터 생성된 캘리브레이션 정보가 상기 사용자의 사용자 정보에 대응하여 저장되도록 제어하는, 전자 장치.
  11. 전자 장치에서 적어도 하나의 이벤트가 발생하면, 상기 이벤트가 미리 설정된 이벤트인지 판단하는 동작;
    상기 이벤트가 미리 설정된 이벤트이면, 카메라를 통해 이미지를 촬영하는 동작; 및
    상기 이벤트에 대응하는 화면상의 위치 정보를 기반으로, 상기 촬영된 이미지로부터 판단한 사용자의 시선을 캘리브레이션하는 동작;을 포함하는, 전자 장치에서의 시선 캘리브레이션 방법.
  12. 제11항에 있어서, 상기 이벤트는,
    미리 설정된 이벤트로서, 화면상에서 상기 이벤트에 대응하는 위치 정보에 대한 확인이 가능한 이벤트인, 전자 장치에서의 시선 캘리브레이션 방법.
  13. 제12항에 있어서, 상기 이벤트는,
    적어도 하나의 위치에 대한 선택과 관련된 입력 이벤트인, 전자 장치에서의 시선 캘리브레이션 방법.
  14. 제13항에 있어서, 상기 입력 이벤트는,
    입력부에 의한 화면상에 표시된 커서 위치의 선택 이벤트 또는 터치스크린상에서의 터치 이벤트 또는 사용자의 제스처 이벤트인, 전자 장치에서의 시선 캘리브레이션 방법.
  15. 제12항에 있어서, 상기 이벤트는,
    적어도 하나의 화면상의 위치에 생성되는 객체와 관련된 출력 이벤트인, 전자 장치에서의 시선 캘리브레이션 방법.
  16. 제15항에 있어서, 상기 출력 이벤트는,
    적어도 하나의 화면상의 위치에 팝업창이 생성되는 팝업창 생성 이벤트인, 전자 장치에서의 시선 캘리브레이션 방법.
  17. 제16항에 있어서, 상기 팝업창은,
    설정에 따라 이전 생성된 위치와 상이한 위치에 생성되는, 전자 장치에서의 시선 캘리브레이션 방법.
  18. 제11항에 있어서, 상기 화면상의 위치 정보는,
    디스플레이 화면상의 적어도 하나의 지점을 나타내는 좌표 정보 또는 상기 적어도 하나의 좌표들을 포함하는 영역에 대한 정보인, 전자 장치에서의 시선 캘리브레이션 방법.
  19. 제11항에 있어서,
    미리 설정된 캘리브레이션 정보와 상기 이벤트 발생 시 결정된 캘리브레이션 정보를 비교하는 동작; 및
    상기 비교 결과, 미리 설정된 오차 범위를 초과하면, 캘리브레이션 정보를 상기 이벤트 발생 시 결정된 캘리브레이션 정보로 갱신하는 동작;을 더 포함하는, 전자 장치에서의 시선 캘리브레이션 방법.
  20. 제11항에 있어서,
    상기 촬영된 이미지로부터 사용자를 식별하는 동작; 및
    상기 촬영된 이미지로부터 생성된 캘리브레이션 정보가 상기 사용자의 사용자 정보에 대응하여 저장하는 동작;을 더 포함하는, 전자 장치에서의 시선 캘리브레이션 방법.
PCT/KR2015/000285 2014-12-11 2015-01-12 시선 캘리브레이션 방법 및 그 전자 장치 WO2016093419A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US15/534,765 US20170344111A1 (en) 2014-12-11 2015-01-12 Eye gaze calibration method and electronic device therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140178479A KR20160071139A (ko) 2014-12-11 2014-12-11 시선 캘리브레이션 방법 및 그 전자 장치
KR10-2014-0178479 2014-12-11

Publications (1)

Publication Number Publication Date
WO2016093419A1 true WO2016093419A1 (ko) 2016-06-16

Family

ID=56107584

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/000285 WO2016093419A1 (ko) 2014-12-11 2015-01-12 시선 캘리브레이션 방법 및 그 전자 장치

Country Status (3)

Country Link
US (1) US20170344111A1 (ko)
KR (1) KR20160071139A (ko)
WO (1) WO2016093419A1 (ko)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10733275B1 (en) * 2016-04-01 2020-08-04 Massachusetts Mutual Life Insurance Company Access control through head imaging and biometric authentication
US10956544B1 (en) 2016-04-01 2021-03-23 Massachusetts Mutual Life Insurance Company Access control through head imaging and biometric authentication
EP3242228A1 (en) * 2016-05-02 2017-11-08 Artag SARL Managing the display of assets in augmented reality mode
KR101857466B1 (ko) * 2017-06-16 2018-05-15 주식회사 비주얼캠프 헤드 마운트 디스플레이 및 그 캘리브레이션 방법
US20190018485A1 (en) * 2017-07-17 2019-01-17 Thalmic Labs Inc. Dynamic calibration systems and methods for wearable heads-up displays
CN110018733A (zh) * 2018-01-10 2019-07-16 北京三星通信技术研究有限公司 确定用户触发意图的方法、设备和存储器设备
EP3511803B1 (en) * 2018-01-10 2021-11-03 Samsung Electronics Co., Ltd. Method and apparatus to determine trigger intent of user
TWI704501B (zh) * 2018-08-09 2020-09-11 宏碁股份有限公司 可由頭部操控的電子裝置與其操作方法
CN111399633B (zh) * 2019-01-03 2023-03-31 见臻科技股份有限公司 针对眼球追踪应用的校正方法
SE545129C2 (en) * 2021-03-31 2023-04-11 Tobii Ab Method and system for eye-tracker calibration

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020103625A1 (en) * 2000-12-08 2002-08-01 Xerox Corporation System and method for analyzing eyetracker data
JP2006285715A (ja) * 2005-04-01 2006-10-19 Konica Minolta Holdings Inc 視線検出システム
KR20120127790A (ko) * 2011-05-16 2012-11-26 경북대학교 산학협력단 시선추적 시스템 및 그 방법
KR20130043366A (ko) * 2011-10-20 2013-04-30 경북대학교 산학협력단 시선 추적 장치와 이를 이용하는 디스플레이 장치 및 그 방법
KR20140104661A (ko) * 2013-02-21 2014-08-29 삼성전자주식회사 시선 인식을 이용한 사용자 인터페이스 방법 및 장치

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6873714B2 (en) * 2002-02-19 2005-03-29 Delphi Technologies, Inc. Auto calibration and personalization of eye tracking system using larger field of view imager with higher resolution
EP2321714A1 (en) * 2008-08-07 2011-05-18 Koninklijke Philips Electronics N.V. Method of and system for determining a head-motion/gaze relationship for a user, and an interactive display system
US8982160B2 (en) * 2010-04-16 2015-03-17 Qualcomm, Incorporated Apparatus and methods for dynamically correlating virtual keyboard dimensions to user finger size
CA2853709C (en) * 2011-10-27 2020-09-01 Tandemlaunch Technologies Inc. System and method for calibrating eye gaze data
US8235529B1 (en) * 2011-11-30 2012-08-07 Google Inc. Unlocking a screen using eye tracking information
WO2014106219A1 (en) * 2012-12-31 2014-07-03 Burachas Giedrius Tomas User centric interface for interaction with visual display that recognizes user intentions
US9189095B2 (en) * 2013-06-06 2015-11-17 Microsoft Technology Licensing, Llc Calibrating eye tracking system by touch input
US9552060B2 (en) * 2014-01-28 2017-01-24 Microsoft Technology Licensing, Llc Radial selection by vestibulo-ocular reflex fixation
US9727135B2 (en) * 2014-04-30 2017-08-08 Microsoft Technology Licensing, Llc Gaze calibration

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020103625A1 (en) * 2000-12-08 2002-08-01 Xerox Corporation System and method for analyzing eyetracker data
JP2006285715A (ja) * 2005-04-01 2006-10-19 Konica Minolta Holdings Inc 視線検出システム
KR20120127790A (ko) * 2011-05-16 2012-11-26 경북대학교 산학협력단 시선추적 시스템 및 그 방법
KR20130043366A (ko) * 2011-10-20 2013-04-30 경북대학교 산학협력단 시선 추적 장치와 이를 이용하는 디스플레이 장치 및 그 방법
KR20140104661A (ko) * 2013-02-21 2014-08-29 삼성전자주식회사 시선 인식을 이용한 사용자 인터페이스 방법 및 장치

Also Published As

Publication number Publication date
US20170344111A1 (en) 2017-11-30
KR20160071139A (ko) 2016-06-21

Similar Documents

Publication Publication Date Title
WO2016093419A1 (ko) 시선 캘리브레이션 방법 및 그 전자 장치
WO2016175452A1 (en) Fingerprint information processing method and electronic device supporting the same
WO2018034555A1 (ko) 디스플레이를 제어하는 전자 장치 및 방법
WO2018084580A1 (en) Device for performing wireless charging and method thereof
WO2017135599A1 (ko) 외부 전자 장치를 제어하기 위한 방법 및 전자 장치
WO2017061762A1 (ko) 복수의 디스플레이를 구비한 전자장치 및 그 제어 방법
WO2019039871A1 (en) ELECTRONIC DEVICE AND METHOD FOR OPERATING APPLICATIONS
WO2016175602A1 (en) Electronic device for providing short-cut user interface and method therefor
WO2017022971A1 (ko) 전자 장치에서 디스플레이 방법 및 장치
WO2018155928A1 (ko) 복수의 생체 센서를 이용하여 인증을 수행하기 위한 전자 장치 및 그의 동작 방법
AU2015318901B2 (en) Device for handling touch input and method thereof
WO2018131932A1 (ko) 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
WO2017052216A1 (en) Method for providing events corresponding to touch attributes and electronic device thereof
WO2018106019A1 (ko) 콘텐츠 출력 방법 및 이를 지원하는 전자 장치
WO2018048212A1 (en) Method for protecting personal information and electronic device thereof
WO2017026821A1 (ko) 전자 장치 및 전자 장치의 입력 방법
WO2017150815A1 (ko) 디스플레이의 밝기를 제어하는 방법, 전자 장치 및 컴퓨터 판독가능 기록매체
WO2017209446A1 (en) Electronic device and information processing system including the same
WO2018143643A1 (ko) 전자장치 및 이를 사용하여 디스플레이에 연동된 생체 센서의 제어 방법
WO2016163826A1 (en) Method and apparatus for operating sensor of electronic device
WO2017023040A1 (en) Screen controlling method and electronic device for supporting the same
WO2017200323A1 (ko) 사용자 데이터를 저장하는 전자 장치 및 그 방법
WO2017078283A1 (ko) 사용자의 위치를 결정하는 전자 장치 및 그 제어 방법
WO2018155905A1 (ko) 식별 정보 관리 방법 및 이를 지원하는 전자 장치
WO2018151447A1 (ko) 피사체의 이미지를 획득하기 위한 인터페이스를 제공하는 방법 및 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15868532

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 15534765

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15868532

Country of ref document: EP

Kind code of ref document: A1