WO2015152487A1 - 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 - Google Patents

사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
WO2015152487A1
WO2015152487A1 PCT/KR2014/010644 KR2014010644W WO2015152487A1 WO 2015152487 A1 WO2015152487 A1 WO 2015152487A1 KR 2014010644 W KR2014010644 W KR 2014010644W WO 2015152487 A1 WO2015152487 A1 WO 2015152487A1
Authority
WO
WIPO (PCT)
Prior art keywords
input event
posture
movement
user interface
command
Prior art date
Application number
PCT/KR2014/010644
Other languages
English (en)
French (fr)
Inventor
황성재
Original Assignee
주식회사 퓨처플레이
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 퓨처플레이 filed Critical 주식회사 퓨처플레이
Priority to KR1020177004641A priority Critical patent/KR20170021910A/ko
Priority to KR1020157035979A priority patent/KR101710042B1/ko
Priority to US14/831,594 priority patent/US20150355722A1/en
Publication of WO2015152487A1 publication Critical patent/WO2015152487A1/ko
Priority to US15/266,022 priority patent/US10175767B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/163—Wearable computers, e.g. on a belt
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12—Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00—Aspects of interface with display user
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00—Aspects of data communication
    • G09G2370/06—Consumer Electronics Control, i.e. control of another device by a display or vice versa

Definitions

  • the present invention relates to a method, device, system, and non-transitory computer readable recording medium for providing a user interface.
  • mobile smart devices having various communication and sensing functions and powerful computing functions such as smart phones and smart pads have been widely used.
  • Such mobile smart devices may be relatively small in size and can be carried by the user (eg, smart glasses, smart watches, smart bands, smart devices in the form of rings or broaches, directly on the body or clothing). Smart devices that are attached or embedded).
  • a user might want to perform some task using his or her two or more (heterogeneous) smart devices, or want to perform some task that needs to intervene with his smart device and another user's device. Can be.
  • the (potential) intention of such a user could not be properly supported.
  • the object of the present invention is to solve all the above-mentioned problems.
  • the present invention obtains information about the attitude or movement of the first device and the second device associated with the input event in a preset time interval including a time point at which the input event occurs,
  • the user can use the relative relationship between the posture or movement of two or more devices by determining a command to be performed in response to an input event. Another goal is to provide a more convenient and extended user interface for the user.
  • a method for providing a user interface comprising: a first device and a second associated with the input event in a preset time interval, including a time point when the input event occurs when an input event occurs; Acquiring information about a posture or movement of a device; and referring to a relative relationship between the posture or movement of the first device and the posture or movement of the second device, a command to be performed in response to the input event.
  • a method is provided that includes determining.
  • a device for providing a user interface comprising: technical means for obtaining information about a posture or movement of the device when an input event associated with the device occurs, and the posture or movement of the device;
  • a device is provided that includes a program module for determining a command to be performed in response to the input event with reference to a relative relationship between posture or movement of another device.
  • a system for providing a user interface comprising: a first device and a first device associated with the input event in a preset time interval that includes, when an input event occurs, a time point at which the input event occurs; 2 Obtain information about a posture or movement of the device, and determine a command to be performed in response to the input event by referring to a relative relationship between the posture or movement of the first device and the posture or movement of the second device.
  • a control unit, and a system including a storage for storing information provided from at least one of the first device and the second device.
  • non-transitory computer readable recording medium for recording another method, device, system, and computer program for executing the method.
  • an effect of providing a more convenient and expanded user interface to a user is achieved by using a relative relationship between postures or movements of two or more devices.
  • the user wearing a second device on a body part such as a wrist when a user wearing a second device on a body part such as a wrist generates an input event such as a touch or a drag with respect to the first device, the user has a posture of the body part (for example, , The bottom touch posture, the side touch posture of the finger, the top touch posture of the finger, and the like (for example, the movement away from or close to the first device) can be easily adjusted. The effect which becomes possible is achieved.
  • FIG. 1 is a view showing a schematic configuration of an entire system for providing a user interface according to an embodiment of the present invention.
  • FIGS. 2 to 5 are diagrams exemplarily illustrating a configuration for providing a user interface according to the first embodiment of the present invention.
  • 6 and 7 are diagrams exemplarily illustrating a configuration for providing a user interface according to the first embodiment of the present invention.
  • FIGS. 8 to 10 are diagrams exemplarily illustrating a configuration for providing a user interface according to a second exemplary embodiment of the present invention.
  • 11 to 14 are diagrams exemplarily illustrating a configuration for providing a user interface according to a second exemplary embodiment of the present invention.
  • 15 to 17 are diagrams exemplarily illustrating a configuration for providing a user interface according to an extended embodiment of the present invention.
  • FIG. 18 is a diagram illustrating visual feedback provided according to an extended embodiment of the present invention.
  • 19 to 20 are diagrams exemplarily illustrating a configuration for providing a user interface according to another exemplary embodiment of the present invention.
  • FIG. 1 is a view showing a schematic configuration of an entire system for matching a plurality of devices according to an embodiment of the present invention.
  • the entire system may include a communication network 100, a user interface providing system 200, and a plurality of devices 310 and 320.
  • the communication network 100 may be configured regardless of a communication mode such as wired communication or wireless communication, and includes a local area network (LAN) and a metropolitan area network (MAN). ), And various communication networks such as a wide area network (WAN).
  • LAN local area network
  • MAN metropolitan area network
  • WAN wide area network
  • the communication network 100 as used herein may be a known Internet or World Wide Web (WWW).
  • WWW World Wide Web
  • the communication network 100 may include, at least in part, a known wired / wireless data communication network, a known telephone network, or a known wired / wireless television communication network without being limited thereto.
  • the user interface providing system 200 may be a digital device having a computing capability by mounting a microprocessor and a memory means.
  • the user interface providing system 200 may be a server system.
  • the user interface providing system 200 may be configured to provide one of the devices 310 and 320 to the other through the communication network 100 to provide predetermined information or control commands to the other, or to receive the predetermined information or control commands from the other. To perform the function.
  • the user interface providing system 200 when the input event occurs, the first device 310 associated with the input event in a predetermined time interval, including the time when the input event occurs; ) And information about the posture or movement of the second device 320, and with reference to the relative relationship between the posture or movement of the first device 310 and the posture or movement of the second device 320, By determining a command to be performed in response to an event, a function of providing a more convenient and expanded user interface to a user may be performed by using a relative relationship between postures or movements of two or more devices.
  • Such user interface provision may be performed by a controller (not shown) included by the user interface provision system 200.
  • a controller may exist in the form of a program module in the user interface providing system 200.
  • Such program modules may take the form of operating systems, application modules or other program modules.
  • the program module may be stored in a remote storage device that can communicate with the user interface providing system 200.
  • the program module includes, but is not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform particular tasks or execute particular abstract data types, which will be described later, according to the present invention.
  • the user interface providing system 200 may store information about a posture or a movement provided from at least one of the plurality of devices 310 and 320, and may be used by at least one of the plurality of devices 310 and 320. To do more.
  • the above-described storage may be performed by a storage (not shown) included by the user interface providing system 200.
  • Such storage is a concept that includes a computer readable recording medium, and may be a broad database including not only a narrow database but also a file system based data record.
  • the user interface providing system 200 has been described as above, but this description is exemplary, and at least some of the functions or components required for the user interface providing system 200 are subject to manipulation as necessary. It will be apparent to those skilled in the art that at least one of the devices 310, 320 may be implemented or included.
  • the plurality of devices 310 and 320 may be matched to the user interface providing system 200 or the plurality of devices 310 and 320 (preferably, the plurality of devices 310). , 320) may be separated from each other or externalized (externalized), and may be a digital device having a function of communicating with each other, and having a memory means and a microprocessor, Any number may be employed as the device 310, 320 according to the present invention.
  • Devices 310 and 320 may be so-called smart devices such as smartphones, smart pads, smart glasses, smart watches, smart bands, smart rings, etc., or may be desktop computers, notebook computers, workstations, PDAs, web pads, mobile phones, buttons, mice. It may be a more traditional device such as, a keyboard, an electronic pen, and the like.
  • the devices 310 and 320 may include at least one technical means capable of receiving an operation from a user.
  • technical means include known components, such as touch panels, pointing tools (e.g., mouse, stylus, electronic pen, etc.), graphical objects that can be manipulated by users, keyboards, toggle switches, biometric information (fingerprints, etc.). Recognition sensors, distance sensors, and the like.
  • the device 310, 320 may include at least one technical means for obtaining physical information about the attitude or movement of the device (310, 320).
  • technical means include motion sensors, acceleration sensors, gyros, magnetic sensors, positioning modules (such as GPS modules, beacon-based positioning (identification) modules), barometers, distance sensors, cameras, etc. Can be mentioned.
  • the devices 310 and 320 process the above physical information to provide information or control commands to other devices 310 and 320, or receive information or control commands from other devices 310 and 320, or the like.
  • An application program for generating such information or control command may be further included.
  • Such an application may exist in the form of a program module in the corresponding devices 310 and 320.
  • the nature of the program module may be similar to the overall control of the user interface providing system 200 as described above.
  • the application may be replaced with a hardware device or a firmware device, at least a part of which may perform a function substantially the same or equivalent thereto.
  • the first device 310 and the second device 320 may have a predetermined association (for example, an association that belongs to the same user, or an association that functions for the same user).
  • the first device 310 and the second device 320 when it is recognized that they have an association that is located substantially close to each other, or that one of them is reasonable to authenticate or allow the other.
  • a predetermined connection may be formed between the two terminals, which may be performed by the user interface providing system 200 or may be performed by the first device 310 and the second device 320.
  • the attitude of the first device 310 and the second device 320 associated with the corresponding input event in a predetermined time interval including a time point at which the input event occurs.
  • the information is obtained, and a command to be performed in response to the corresponding input event may be determined based on a relative relationship between the posture of the first device 310 and the posture of the second device 320.
  • the input event may occur on the first device 310, and the second device 320 may be integrally coupled with the input means for generating the corresponding input event.
  • the direction of the first device 310 and the direction of the second device 320 that are specified based on at least one coordinate axis in a predetermined time interval including a time point at which an input event occurs.
  • the command to be performed corresponding to the corresponding input event may be determined according to the relationship therebetween.
  • 2 to 5 are diagrams exemplarily illustrating a configuration for providing a user interface according to the first embodiment of the present invention. 2 to 5, it may be assumed that a user generates an input event of touching the touch panel of the first device 310 with a portion of a finger or the like wearing the second device 320.
  • the user may generate an input event of touching the touch panel of the first device 310 through the bottom of the finger of the hand wearing the second device 320, in which case the first device
  • the normal direction of the plane specifying the touch panel of 310 that is, the direction of the Z axis when the plane specifying the touch panel of the first device 310 is defined by the X and Y axes
  • the normal direction of the plane specifying the front face of 320 ie, the direction of the Z 'axis when the plane specifying the front face of the second device 320 is defined by the X' and Y 'axes
  • the angle formed by the two directions stays within a predetermined value (for example, a value between 0 and 60 degrees).
  • the user may generate an input event of touching the touch panel of the first device 310 through the side of the finger of the hand wearing the second device 320.
  • the first event may be generated.
  • the normal direction of the plane specifying the touch panel of the device 310 and the normal direction of the plane specifying the front of the second device 320 are not significantly different, so that the angle formed by the two directions is a predetermined value. Fall within a range (eg, a value between 60 and 120 degrees).
  • the user may generate an input event of touching the touch panel of the first device 310 through the back of the hand or the upper surface of the finger wearing the second device 320.
  • the normal direction of the plane specifying the touch panel of the first device 310 and the normal direction of the plane specifying the front of the second device 320 have a large difference, and accordingly, an angle formed by the two directions is predetermined.
  • the value is exceeded (eg, a value between 120 and 180 degrees).
  • a command to be performed in response to the corresponding input event may be determined by referring to a relative relationship between the direction of the first device 310 and the direction of the second device 320 (that is, an angle formed by the two directions). Accordingly, it is possible to match an operation to be performed while generating an input event and a command to be performed corresponding to the input event.
  • a command to be performed in response to an input event is determined by referring to a relative relationship between the posture of the first device 310 and the posture of the second device 320, thereby specifying the real world space. Even when the first device 310 or the second device 320 moves or rotates in an absolute coordinate system (for example, as shown in FIG. 5, the first device 310 and the second while the user is walking or lying down). Even when the device 320 is used, the type of operation that the user takes while generating an input event can be accurately recognized.
  • a predetermined time interval including not only a time point at which an input event occurs but also a time point at which an input event occurs (for example, a time section of 3 seconds before and after each time point at which an input event occurs).
  • a command to be performed in response to the corresponding input event may be specified by referring to a relative relationship between the posture of the first device 310 and the posture of the second device 320 in FIG.
  • 6 and 7 are diagrams exemplarily illustrating a configuration for providing a user interface according to the first embodiment of the present invention. 6 and 7, it may be assumed that a user generates an input event of touching the touch panel of the first device 310 with a portion of a finger, etc. of a hand wearing the second device 320.
  • the normal direction of the plane specifying the touch panel of the first device 310 and the normal direction of the plane specifying the front surface of the second device 320 are mutually different. Is in a position that is opposite (not necessarily mathematically exactly opposite) (ie, the back of the hand of the second device 320 facing the display panel side of the first device 310).
  • the user inverts his hand and the normal direction of the plane specifying the touch panel of the first device 310 and the normal direction of the plane specifying the front of the second device 320 coincide with each other.
  • the position of the palm of the hand wearing the second device 320 is toward the display panel of the first device 310. It is assumed that the user interface providing system 200 according to the present embodiment recognizes such a change in posture as a predetermined gesture (aka, flip and touch gesture), and a predetermined command corresponding thereto is applied. Can be performed.
  • a predetermined gesture aka, flip and touch gesture
  • the normal direction of the plane specifying the touch panel of the first device 310 and the normal direction of the plane specifying the front surface of the second device 320 are different from each other. It is in a position to be coincident with each other (not necessarily mathematically correct) (ie, a palm of the hand wearing the second device 320 toward the display panel side of the first device 310).
  • the normal direction of the plane specifying the front panel of the second device 320 and the normal direction of the plane specifying the touch panel of the first device 310 by flipping the hands are opposite to each other ( Take a posture (ie, the back of the hand of the hand wearing the second device 320 toward the display panel side of the first device 310) to be in a mathematically exact opposite direction. It can be assumed that the user interface providing system 200 according to the present embodiment recognizes such a change in posture as a predetermined gesture (aka, Touch and Flip Gesture) and corresponds to a predetermined gesture.
  • the command can be executed.
  • the information is obtained, and a command to be performed in response to the corresponding input event may be determined based on a relative relationship between the movement of the first device 310 and the movement of the second device 320.
  • the input event may occur on the first device 310, and the second device 320 may be integrally coupled with the input means for generating the corresponding input event.
  • the movement of the first device 310 and the movement of the second device 320 specified based on at least one coordinate axis in a predetermined time interval including a time point at which an input event occurs.
  • the command to be performed corresponding to the corresponding input event may be determined according to the relationship therebetween. For example, the distance change between the first device 310 and the second device 320 or the second device 320 is changed from the first device 310 in a predetermined time period before and after the time at which the input event occurs. Recognizing a direction away from or near, etc., based on this, a predetermined command corresponding to each case may be performed.
  • FIGS. 8 to 10 are diagrams exemplarily illustrating a configuration for providing a user interface according to a second exemplary embodiment of the present invention.
  • a user who wears the second device 320 on the wrist starts with his hand close to the first device 310.
  • a relatively short distance is generated to generate an input event of touching the first device 310 (see FIG. 8A, aka Touch) and the user's hand from a distance from the first device 310.
  • Long-distance Touch In the case of generating an input event that touches the first device 310 by moving a relatively long distance from each other (refer to (b) of FIG. 8, so-called Long-distance Touch) can be recognized separately.
  • different commands may be executed.
  • a user wearing the second device 320 on the wrist starts at an arbitrary point on the touch panel of the first device 310.
  • the drag operation is stopped near the boundary of the touch panel of the first device 310 (see FIG. 9B, aka Drag) and the drag operation started at an arbitrary point on the touch panel of the first device 310.
  • the drag operation is stopped near the boundary of the touch panel of the first device 310 (see FIG. 9B, aka Drag) and the drag operation started at an arbitrary point on the touch panel of the first device 310.
  • the drag operation is stopped near the boundary of the touch panel of the first device 310 (see FIG. 9B, aka Drag) and the drag operation started at an arbitrary point on the touch panel of the first device 310.
  • the drag operation is stopped near the boundary of the touch panel of the first device 310 (see FIG. 9B, aka Drag) and the drag operation started at an arbitrary point on the touch panel of the first device 310.
  • the drag operation is stopped near the boundary of the touch panel of the first
  • a user wearing the second device 320 on the wrist touches an arbitrary point on the touch panel of the first device 310.
  • the release operation to move his hand to a relatively close position from the first device 310 see (a) of FIG. 10 (aka, Release) and the first device 310)
  • the release operation to move his hand to a relatively close position from the first device 310 see (a) of FIG. 10 (aka, Release) and the first device 310)
  • the release operation to move his hand to a relatively close position from the first device 310 see (a) of FIG. 10 (aka, Release) and the first device 310)
  • a release operation of moving one's hand to a relatively far distance from the first device 310 after touching an arbitrary point on the touch panel see (b) of FIG. 10, aka long-distance release
  • 11 to 14 are diagrams exemplarily illustrating a configuration for providing a user interface according to a second exemplary embodiment of the present invention.
  • a user who wears the second device 320 on the wrists of both hands may be used by any user on the touch panel of the first device 310. It is possible to recognize that the drag operation started at each point continues even beyond the boundary of the touch panel of the first device 310 (aka, long-distance zoom), and corresponding commands (for example, For example, a zoom in or a zoom out command may be performed.
  • corresponding commands for example, For example, a zoom in or a zoom out command may be performed.
  • a user who wears the second device 320 on the wrist is predetermined with respect to the touch panel of the first device 310.
  • Generate an input event of approaching an arbitrary point on the touch panel (see FIG. 12, aka Directional Touch) or after touching an arbitrary point on the touch panel of the first device 310.
  • Recognizing generating an input event away from the touch panel of the device 310 in a predetermined direction may allow a predetermined command to be performed in response to each input event. .
  • the first device 310, the movement (V 1) and a second device 320, the movement (V 2) the relative relationship (V R V between the 2 -V 1 ) to determine the command to be performed in response to the input event, so that the first device 310 or the second device 320 moves or rotates in an absolute coordinate system that specifies real-world space ( For example, even when the user uses the first device 310 and the second device 320 while the user is walking or running, the user can accurately recognize the type of action that is taken while generating an input event.
  • 15 to 17 are diagrams exemplarily illustrating a configuration for providing a user interface according to an extended embodiment of the present invention.
  • FIG. 15A drawing when an input event occurs in which a user touches the touch panel of the first device 310 through the bottom of a finger of a hand wearing the second device 320.
  • the command may be performed (see FIG. 15A), and the user may touch the touch panel of the first device 310 through the side of the finger of the hand wearing the second device 320 as shown in FIG. 3.
  • the erase command may be performed (see FIG. 15B), and as shown in FIG. 4, the first device (eg, through the upper surface of the finger of the user wearing the second device 320) may be used.
  • a command for displaying a color selection menu may be performed (see FIG. 15C).
  • FIG. 16A when an input event in which the user takes a flip and touch gesture occurs as shown in FIG. 6, an instruction to copy the content A selected by the touch may be performed (FIG. 16A).
  • FIG. 16B When an input event that a user takes a touch and flip gesture occurs as shown in FIG. 7, a command for pasting the copied content A to the touched position may be performed (see FIG. 16B). ).
  • an e-book is displayed through the display panel of the first device 310.
  • the user who wears the second device 320 on the wrist is the first device.
  • a command to turn over pages of the corresponding e-book may be performed one by one ( Referring to FIG. 17 (a)), a drag operation that is started by a user wearing the second device 320 on the wrist at an arbitrary point on the touch panel of the first device 310 may be performed by the touch panel of the first device 310.
  • a command to turn over several pages of the e-book at a time may be performed (see FIG. 17B).
  • the user interface providing system 200 while the input event using the first device 310 and the second device 320 is generated, the posture or movement of the first device 310 and Visual feedback may be provided by visualizing information about a relative relationship between postures or movements of the second device 320.
  • FIG. 18 is a diagram exemplarily illustrating visual feedback provided according to an extended embodiment of the present invention.
  • the first graphic object 1810 having blue, orange, and green colors may be displayed on a portion where a corresponding touch occurs in the touch panel of the first device 310.
  • the second device 320 is moved away from or close to the first device 310, the distance between the first device 310 and the second device 320, the first device ( Information about the relative speed of the second device 320 relative to 310 and the direction in which the second device moves away from or close to the first device 310 may surround each of the first graphic objects 1810 above. It may be visualized as the second graphic object 1820 whose size changes according to the attribute value of the information.
  • the type of input events that can be recognized in the present invention and the type of commands that can be determined are not necessarily limited to those mentioned above, and may be changed as many as possible within the scope of achieving the object of the present invention.
  • the user interface providing system 200 as shown in Figure 19, the user touches the first device 310 through the bottom of the finger of the hand wearing the second device 320. It may be recognized that an input event for rotating a hand around the touched contact occurs while the panel is touched, and as shown in FIG. 20, a predetermined graphic object such as a dial in response to the above input event is generated. A command to rotate 2010 can be performed.
  • Embodiments according to the present invention described above may be implemented in the form of program instructions that may be executed by various computer components, and may be recorded on a non-transitory computer readable recording medium.
  • the non-transitory computer readable recording medium may include program instructions, data files, data structures, etc. alone or in combination.
  • the program instructions recorded on the non-transitory computer readable recording medium may be those specially designed and configured for the present invention, or may be known and available to those skilled in the computer software arts.
  • non-transitory computer readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs, DVDs, magnetic-optical media such as floppy disks ( magneto-optical media) and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.
  • program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
  • the hardware device may be configured to operate as one or more software modules to perform the process according to the invention, and vice versa.

Abstract

본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 입력 이벤트가 발생하면, 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 입력 이벤트와 연관된 제1 디바이스 및 제2 디바이스의 자세 또는 움직임에 관한 정보를 획득하는 단계, 및 제1 디바이스의 자세 또는 움직임과 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 입력 이벤트에 대응하여 수행될 명령을 결정하는 단계를 포함하는 방법이 제공된다.

Description

사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
본 발명은 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어, 스마트폰, 스마트 패드 등과 같이 다양한 통신 및 센싱 기능과 강력한 연산 기능을 갖춘 이동식 스마트 디바이스가 널리 사용되고 있다. 이러한 이동식 스마트 디바이스 중에는 사용자가 신체에 착용하여 휴대할 수 있는 비교적 작은 크기의 것(예를 들면, 스마트 글래스, 스마트 워치, 스마트 밴드, 링이나 브로치와 같은 형태의 스마트 디바이스, 신체나 의류에 직접적으로 부착되거나 매립되는 스마트 디바이스 등)도 있다.
이러한 상황에서 사용자는 본인의 두 개 이상의 (이종의) 스마트 디바이스를 사용하여 어떤 작업을 수행하려고 하거나, 본인의 스마트 디바이스와 다른 사용자의 디바이스가 함께 개입될 필요가 있는 어떤 작업이 수행되게끔 하려고 할 수 있다. 그러나, 종래의 기술에 따르면, 이러한 사용자의 (잠재적인) 의도가 적절하게 서포팅될 수 없었다.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은 입력 이벤트가 발생하면, 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 입력 이벤트와 연관된 제1 디바이스 및 제2 디바이스의 자세 또는 움직임에 관한 정보를 획득하고, 제1 디바이스의 자세 또는 움직임과 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 입력 이벤트에 대응하여 수행될 명령을 결정함으로써, 두 개 이상의 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 이용하여 사용자에게 보다 편리하고 확장된 사용자 인터페이스를 제공할 수 있도록 하는 것을 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 입력 이벤트가 발생하면, 상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 상기 입력 이벤트와 연관된 제1 디바이스 및 제2 디바이스의 자세 또는 움직임에 관한 정보를 획득하는 단계, 및 상기 제1 디바이스의 자세 또는 움직임과 상기 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 단계를 포함하는 방법이 제공된다.
본 발명의 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 디바이스로서, 상기 디바이스와 연관된 입력 이벤트가 발생하면, 상기 디바이스의 자세 또는 움직임에 관한 정보를 획득하는 기술 수단, 및 상기 디바이스의 자세 또는 움직임과 다른 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 프로그램 모듈을 포함하는 디바이스가 제공된다.
본 발명의 또 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 시스템으로서, 입력 이벤트가 발생하면, 상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 상기 입력 이벤트와 연관된 제1 디바이스 및 제2 디바이스의 자세 또는 움직임에 관한 정보를 획득하고, 상기 제1 디바이스의 자세 또는 움직임과 상기 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 제어부, 및 상기 제1 디바이스 및 상기 제2 디바이스 중 적어도 하나로부터 제공 받은 정보를 저장하는 저장소를 포함하는 시스템이 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 디바이스, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 두 개 이상의 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 이용하여 사용자에게 보다 편리하고 확장된 사용자 인터페이스를 제공할 수 있게 되는 효과가 달성된다.
또한, 본 발명에 의하면, 손목 등의 신체 부위에 제2 디바이스를 착용하고 있는 사용자가 제1 디바이스에 대하여 터치, 드래그 등의 입력 이벤트를 발생시키는 경우에, 사용자가 신체 부위의 자세(예를 들면, 손가락 밑면 터치 자세, 손가락 옆면 터치 자세, 손가락 윗면 터치 자세 등)나 움직임(예를 들면, 제1 디바이스로부터 멀어지거나 가까워지는 움직임)을 간단히 조절하기만 하면 그에 대응하여 다양하고 명령이 손쉽게 수행될 수 있게 되는 효과가 달성된다.
도 1은 본 발명의 일 실시예에 따라 사용자 인터페이스를 제공하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 2 내지 도 5는 본 발명의 제1 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
도 6 및 도 7은 본 발명의 제1 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
도 8 내지 도 10은 본 발명의 제2 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
도 11 내지 도 14는 본 발명의 제2 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
도 15 내지 도 17은 본 발명의 확장된 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
도 18은 본 발명의 확장된 실시예에 따라 제공되는 비주얼 피드백(Visual Feedback)을 예시적으로 나타내는 도면이다.
도 19 내지 도 20은 본 발명의 다른 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
<부호의 설명>
100: 통신망
200: 사용자 인터페이스 제공 시스템
310: 제1 디바이스
320: 제2 디바이스
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
전체 시스템의 구성
도 1은 본 발명의 일 실시예에 따라 복수의 디바이스를 매칭시키기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은 통신망(100), 사용자 인터페이스 제공 시스템(200), 및 복수의 디바이스(310, 320)를 포함하여 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따른 통신망(100)은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망(100)은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망(100)은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기일 수 있다. 이러한 사용자 인터페이스 제공 시스템(200)은 서버 시스템일 수 있다. 사용자 인터페이스 제공 시스템(200)은 통신망(100)을 통하여 디바이스(310, 320) 중 하나가 다른 하나로 소정의 정보나 제어 명령을 제공하거나, 하나가 다른 하나로부터 소정의 정보나 제어 명령을 제공 받도록 매개하는 기능을 수행할 수 있다.
이를 위하여, 사용자 인터페이스 제공 시스템(200)은, 아래에서 자세하게 설명되는 바와 같이, 입력 이벤트가 발생하면, 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 입력 이벤트와 연관된 제1 디바이스(310) 및 제2 디바이스(320)의 자세 또는 움직임에 관한 정보를 획득하고, 제1 디바이스(310)의 자세 또는 움직임과 제2 디바이스(320)의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 입력 이벤트에 대응하여 수행될 명령을 결정함으로써, 두 개 이상의 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 이용하여 사용자에게 보다 편리하고 확장된 사용자 인터페이스를 제공하는 기능을 수행할 수 있다.
이와 같은 사용자 인터페이스 제공은 사용자 인터페이스 제공 시스템(200)에 의하여 포함되는 제어부(미도시됨)에 의하여 수행될 수 있다. 이러한 제어부는 사용자 인터페이스 제공 시스템(200) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태를 가질 수 있다. 또한, 프로그램 모듈은 사용자 인터페이스 제공 시스템(200)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
또한, 사용자 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320) 중 적어도 하나로부터 제공 받은 자세 또는 움직임에 관한 정보를 저장하고, 이것이 복수의 디바이스(310, 320) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 상술한 저장은 사용자 인터페이스 제공 시스템(200)에 의하여 포함되는 저장소(미도시됨)에 의하여 수행될 수 있다. 이러한 저장소는 컴퓨터 판독 가능한 기록 매체를 포함하는 개념으로서, 협의의 데이터베이스뿐만 아니라 파일 시스템에 기반을 둔 데이터 기록 등을 포함하는 광의의 데이터베이스일 수도 있다.
사용자 인터페이스 제공 시스템(200)의 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다. 한편, 사용자 인터페이스 제공 시스템(200)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 사용자 인터페이스 제공 시스템(200)에 요구되는 기능이나 구성요소의 적어도 일부가 필요에 따라 조작의 대상이 되는 복수의 디바이스(310, 320) 중 적어도 하나에서 실현되거나 포함될 수도 있음은 당업자에게 자명하다.
마지막으로, 본 발명의 일 실시예에 따른 복수의 디바이스(310, 320)는 사용자 인터페이스 제공 시스템(200) 또는 복수의 디바이스(310, 320) 중 상대되는 것(바람직하게는, 복수의 디바이스(310, 320)는 서로 분리되어 있거나 외부화(externalization) 되어 있을 수 있음)에 접속한 후 통신할 수 있는 기능을 포함하는 디지털 기기로서, 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 디바이스(310, 320)로서 채택될 수 있다. 디바이스(310, 320)는 스마트폰, 스마트 패드, 스마트 글래스, 스마트 워치, 스마트 밴드, 스마트 링 등과 같은 소위 스마트 디바이스이거나 데스크탑 컴퓨터, 노트북 컴퓨터, 워크스테이션, PDA, 웹 패드, 이동 전화기, 버튼, 마우스, 키보드, 전자 펜 등과 같은 다소 전통적인 디바이스일 수 있다.
특히, 본 발명의 일 실시예에 따르면, 디바이스(310, 320)에는 사용자로부터의 조작을 입력 받을 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 터치 패널, 포인팅 도구(예를 들면, 마우스, 스타일러스, 전자 펜 등), 사용자 조작이 가능한 그래픽 객체, 키보드, 토글 스위치, 생채 정보(지문 등) 인식 센서, 거리 센서 등을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320)는 그 디바이스(310, 320)의 자세나 움직임에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 움직임 센서, 가속도 센서, 자이로, 자기 센서, 위치 결정 모듈(GPS 모듈, 비콘 기반의 위치 결정(확인) 모듈 등), 기압계, 거리 센서, 카메라 등을 들 수 있다.
또한, 디바이스(310, 320)에는 위와 같은 물리적인 정보를 처리하여 다른 디바이스(310, 320 등)에 대하여 정보나 제어 명령을 제공하거나 다른 디바이스(310, 320 등)로부터 정보나 제어 명령을 제공 받거나 이러한 정보나 제어 명령을 생성하기 위한 애플리케이션 프로그램이 더 포함되어 있을 수 있다. 이러한 애플리케이션은 해당 디바이스(310, 320) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈의 성격은 전술한 바와 같은 사용자 인터페이스 제공 시스템(200)의 제어부와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.
한편, 본 발명의 일 실시예에 따르면, 제1 디바이스(310)와 제2 디바이스(320)가 소정의 연관성(예를 들면, 동일한 사용자에게 속하는 것이라는 연관성이나, 동일한 사용자를 위하여 기능하는 것이라는 연관성이나, 서로 실질적으로 가까운 곳에 배치되어 있는 것이라는 연관성이나, 이들 중 하나가 다른 하나를 인증하거나 허용하는 것이 합당하다는 연관성)을 갖는 것이라는 점이 인식되는 경우에, 제1 디바이스(310)와 제2 디바이스(320) 간에 소정의 연결이 형성될 수 있는데, 이러한 인식 또는 연결은 사용자 인터페이스 제공 시스템(200)에 의해 수행되거나 제1 디바이스(310) 및 제2 디바이스(320)에 의해 수행될 수 있다.
실시예들
아래에서는, 본 발명의 여러 실시예에 따라 복수의 디바이스(310, 320)가 개입되는 사용자 인터페이스를 제공하는 방법의 구체적인 예에 관하여 자세하게 살펴보기로 한다.
1. 제1 실시예
본 실시예에 따르면, 입력 이벤트가 발생하면, 해당 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 해당 입력 이벤트와 연관된 제1 디바이스(310) 및 제2 디바이스(320)의 자세에 관한 정보가 획득하고, 제1 디바이스(310)의 자세와 제2 디바이스(320)의 자세 사이의 상대적인 관계에 기초하여 해당 입력 이벤트에 대응하여 수행될 명령이 결정될 수 있다.
구체적으로, 본 실시예에 따르면, 입력 이벤트는 제1 디바이스(310) 상에서 발생할 수 있고, 제2 디바이스(320)는 해당 입력 이벤트를 발생시키는 입력 수단과 일체로 결합되어 있을 수 있다. 또한, 본 실시예에 따르면, 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 적어도 하나의 좌표 축을 기준으로 하여 특정되는 제1 디바이스(310)의 방향과 제2 디바이스(320)의 방향 사이의 관계에 따라 해당 입력 이벤트에 대응하여 수행될 명령이 결정될 수 있다.
도 2 내지 도 5는 본 발명의 제1 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다. 도 2 내지 도 5에서, 사용자가 제2 디바이스(320)를 착용한 손의 손가락 등의 부위로 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트를 발생시키는 경우를 가정할 수 있다.
먼저, 도 2를 참조하면, 사용자가 제2 디바이스(320)를 착용한 손의 손가락 밑면을 통해 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트를 발생시킬 수 있는데, 이러한 경우 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향(즉, 제1 디바이스(310)의 터치 패널을 특정하는 평면이 X축 및 Y축에 의하여 정의된다고 할 때 Z축의 방향)과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향(즉, 제2 디바이스(320)의 정면을 특정하는 평면이 X'축 및 Y'축에 의하여 정의된다고 할 때 Z'축의 방향)은 유사하게 되고, 이에 따라 두 방향이 이루는 각도가 소정의 값 이내에 머물게 된다(예를 들면, 0도에서 60도 사이의 값).
다음으로, 도 3을 참조하면, 사용자가 제2 디바이스(320)를 착용한 손의 손가락 옆면을 통해 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트를 발생시킬 수 있는데, 이러한 경우 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향은 적지 않은 차이를 나타내게 되고, 이에 따라, 두 방향이 이루는 각도가 소정의 수치 범위 내에 속하게 된다(예를 들면, 60도에서 120도 사이의 값).
다음으로, 도 4를 참조하면, 사용자가 제2 디바이스(320)를 착용한 손의 손등 또는 손가락 윗면을 통해 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트를 발생시킬 수 있는데, 이러한 경우 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향은 큰 차이를 나타내게 되고, 이에 따라, 두 방향이 이루는 각도가 소정의 값을 초과하게 된다(예를 들면, 120도에서 180도 사이의 값).
도 2 내지 도 4에서 살펴본 바와 같이, 사용자가 입력 이벤트를 발생시키는 동작의 유형에 따라 제1 디바이스(310)의 방향과 제2 디바이스(320)의 방향 사이의 상대적인 관계가 달라지기 때문에, 본 실시예에 따르면, 제1 디바이스(310)의 방향과 제2 디바이스(320)의 방향 사이의 상대적인 관계(즉, 두 방향이 이루는 각도)를 참조로 하여 해당 입력 이벤트에 대응하여 수행될 명령을 결정할 수 있으며, 이에 따라 사용자가 입력 이벤트를 발생시키면서 취하는 동작과 해당 입력 이벤트에 대응하여 수행될 명령을 매칭시킬 수 있게 된다.
한편, 본 실시예에 따르면, 제1 디바이스(310)의 자세와 제2 디바이스(320)의 자세 사이의 상대적인 관계를 참조로 하여 입력 이벤트에 대응하여 수행될 명령을 결정하므로, 실세계 공간을 특정하는 절대적인 좌표계에서 제1 디바이스(310) 또는 제2 디바이스(320)가 이동하거나 회전하는 경우에도(예를 들면, 도 5에서와 같이 사용자가 걷고 있거나 누워 있는 상태에서 제1 디바이스(310) 및 제2 디바이스(320)를 이용하는 경우에도) 사용자가 입력 이벤트를 발생시키면서 취하는 동작의 유형을 정확하게 인식할 수 있게 된다.
한편, 본 실시예에 따르면, 입력 이벤트가 발생하는 시점뿐만 아니라 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간(예를 들면, 입력 이벤트가 발생하는 시점의 전후 각각 3초 동안의 시간 구간)에서의 제1 디바이스(310)의 자세와 제2 디바이스(320)의 자세 사이의 상대적인 관계를 참조로 하여 해당 입력 이벤트에 대응하여 수행될 명령을 특정할 수 있다.
도 6 및 도 7은 본 발명의 제1 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다. 도 6 및 도 7에서, 사용자가 제2 디바이스(320)를 착용한 손의 손가락 등의 부위로 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트를 발생시키는 경우를 가정할 수 있다.
먼저, 도 6을 참조하면, 입력 이벤트를 발생시키기 전에 사용자가 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향이 서로 반대(반드시 수학적으로 정확하게 반대이어야 하는 것은 아님)가 되도록 하는 자세(즉, 제2 디바이스(320)를 착용한 손의 손등이 제1 디바이스(310)의 표시 패널 쪽을 향하는 자세)를 취하고 있다가, 입력 이벤트를 발생시킬 때에는 사용자가 손을 뒤집어서 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향이 서로 일치(반드시 수학적으로 정확하게 일치해야 하는 것은 아님)되도록 하는 자세(즉, 제2 디바이스(320)를 착용한 손의 손바닥이 제1 디바이스(310)의 표시 패널 쪽을 향하는 자세)를 취하는 경우를 가정할 수 있는데, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 이러한 자세 변화를 소정의 제스쳐(일명, 플립 앤드 터치 제스쳐(Flip and Touch Gesture))로 인식하고 그에 대응하는 소정의 명령이 수행되도록 할 수 있다.
다음으로, 도 7을 참조하면, 입력 이벤트를 발생시킬 때에 사용자가 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향이 서로 일치(반드시 수학적으로 정확하게 일치해야 하는 것은 아님)가 되도록 하는 자세(즉, 제2 디바이스(320)를 착용한 손의 손바닥이 제1 디바이스(310)의 표시 패널 쪽을 향하는 자세)를 취하고 있다가, 입력 이벤트를 발생시킨 이후에는 사용자가 손을 뒤집어서 제1 디바이스(310)의 터치 패널을 특정하는 평면의 법선 방향과 제2 디바이스(320)의 정면을 특정하는 평면의 법선 방향이 서로 반대(반드시 수학적으로 정확하게 반대이어야 하는 것은 아님)가 되도록 하는 자세(즉, 제2 디바이스(320)를 착용한 손의 손등이 제1 디바이스(310)의 표시 패널 쪽을 향하는 자세)를 취하는 경우를 가정할 수 있는데, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 이러한 자세 변화를 소정의 제스쳐(일명, 터치 앤드 플립 제스쳐(Touch and Flip Gesture))로 인식하고 그에 대응하는 소정의 명령이 수행되도록 할 수 있다.
2. 제2 실시예
본 실시예에 따르면, 입력 이벤트가 발생하면, 해당 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 해당 입력 이벤트와 연관된 제1 디바이스(310) 및 제2 디바이스(320)의 움직임에 관한 정보가 획득하고, 제1 디바이스(310)의 움직임과 제2 디바이스(320)의 움직임 사이의 상대적인 관계에 기초하여 해당 입력 이벤트에 대응하여 수행될 명령이 결정될 수 있다.
구체적으로, 본 실시예에 따르면, 입력 이벤트는 제1 디바이스(310) 상에서 발생할 수 있고, 제2 디바이스(320)는 해당 입력 이벤트를 발생시키는 입력 수단과 일체로 결합되어 있을 수 있다. 또한, 본 실시예에 따르면, 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 적어도 하나의 좌표 축을 기준으로 하여 특정되는 제1 디바이스(310)의 움직임과 제2 디바이스(320)의 움직임 사이의 관계에 따라 해당 입력 이벤트에 대응하여 수행될 명령이 결정될 수 있다. 예를 들면, 입력 이벤트가 발생하는 시점을 전후로 하는 기설정된 시간 구간에서 제1 디바이스(310)와 제2 디바이스(320) 사이의 거리 변화 또는 제2 디바이스(320)가 제1 디바이스(310)로부터 멀어지거나 가까워지는 방향 등을 인식하고, 이를 기초로 하여 각각의 경우에 대응하는 소정의 명령이 수행될 수 있다.
도 8 내지 도 10은 본 발명의 제2 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 8을 참조하면, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 제2 디바이스(320)를 손목에 착용한 사용자가 자신의 손을 제1 디바이스(310)로부터 가까운 곳에서부터 출발해 상대적으로 짧은 거리를 이동시켜 제1 디바이스(310)를 터치하는 입력 이벤트를 발생시키는 경우(도 8의 (a) 참조, 일명, Touch)와 자신의 손을 제1 디바이스(310)로부터 먼 곳에서부터 출발해 상대적으로 긴 거리를 이동시켜 제1 디바이스(310)를 터치하는 입력 이벤트를 발생시키는 경우(도 8의 (b) 참조, 일명, Long-distance Touch)를 구분하여 인식할 수 있으며, 각각의 경우에 대응하여 서로 다른 명령이 수행되도록 할 수 있다.
다음으로, 도 9를 참조하면, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 제2 디바이스(320)를 손목에 착용한 사용자가 제1 디바이스(310)의 터치 패널 상의 임의의 지점에서 시작한 드래그 동작을 제1 디바이스(310)의 터치 패널의 경계 부근에서 멈추는 경우(도 9의 (b) 참조, 일명, Drag)와 제1 디바이스(310)의 터치 패널 상의 임의의 지점에서 시작한 드래그 동작을 제1 디바이스(310)의 터치 패널의 경계를 지나서도 계속하는 경우(도 9의 (a) 참조, 일명, Long-distance Drag)를 구분하여 인식할 수 있으며, 각각의 경우에 대응하여 서로 다른 명령이 수행되도록 할 수 있다.
다음으로, 도 10을 참조하면, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 제2 디바이스(320)를 손목에 착용한 사용자가 제1 디바이스(310)의 터치 패널 상의 임의의 지점을 터치하고 난 후에 자신의 손을 제1 디바이스(310)로부터 상대적으로 가까운 곳까지 이동시키는 릴리스(release) 동작을 하는 경우(도 10의 (a) 참조, 일명, Release)와 제1 디바이스(310)의 터치 패널 상의 임의의 지점을 터치하고 난 후에 자신의 손을 제1 디바이스(310)로부터 상대적으로 먼 곳까지 이동시키는 릴리스 동작을 하는 경우(도 10의 (b) 참조, 일명, Long-distance Release)를 구분하여 인식할 수 있으며, 각각의 경우에 대응하여 서로 다른 명령이 수행되도록 할 수 있다.
도 11 내지 도 14는 본 발명의 제2 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 11을 참조하면, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 제2 디바이스(320)를 양손의 손목에 각각 착용한 사용자가 제1 디바이스(310)의 터치 패널 상의 임의의 두 지점에서 각각 시작한 드래그 동작을 제1 디바이스(310)의 터치 패널의 경계를 지나서도 계속하는 동작을 취하는 것(일명, Long-distance Zoom)을 인식할 수 있으며, 이에 대응하여 소정의 명령(예를 들면, 줌 인(Zoom In) 또는 줌 아웃(Zoom Out) 명령)이 수행되도록 할 수 있다.
다음으로, 도 12 및 도 13을 참조하면, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 제2 디바이스(320)를 손목에 착용한 사용자가 제1 디바이스(310)의 터치 패널에 대하여 소정의 방향으로 접근하여 터치 패널 상의 임의의 지점을 터치하는 입력 이벤트를 발생시키거나(도 12 참조, 일명, Directional Touch) 제1 디바이스(310)의 터치 패널 상의 임의의 지점을 터치한 이후에 제1 디바이스(310)의 터치 패널에 대하여 소정의 방향으로 멀어지는 입력 이벤트를 발생시키는 것(도 13 참조, 일명, Directional Touch)을 인식하고, 각각의 입력 이벤트에 대응하여 소정의 명령이 수행되도록 할 수 있다.
한편, 본 실시예에 따르면, 도 14에 도시된 바와 같이, 제1 디바이스(310)의 움직임(V1)과 제2 디바이스(320)의 움직임(V2) 사이의 상대적인 관계(VR = V2 - V1)를 참조로 하여 입력 이벤트에 대응하여 수행될 명령을 결정하므로, 실세계 공간을 특정하는 절대적인 좌표계에서 제1 디바이스(310) 또는 제2 디바이스(320)가 이동하거나 회전하는 경우에도(예를 들면, 사용자가 걷거나 뛰고 있는 상태에서 제1 디바이스(310) 및 제2 디바이스(320)를 이용하는 경우에도) 사용자가 입력 이벤트를 발생시키면서 취하는 동작의 유형을 정확하게 인식할 수 있게 된다.
3. 확장된 실시예
도 15 내지 도 17은 본 발명의 확장된 실시예에 따라 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 15를 참조하면, 도 2에서와 같이 사용자가 제2 디바이스(320)를 착용한 손의 손가락 밑면을 통해 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트가 발생하는 경우에 그리기 명령이 수행될 수 있고(도 15의 (a) 참조), 도 3에서와 같이 사용자가 제2 디바이스(320)를 착용한 손의 손가락 옆면을 통해 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트가 발생하는 경우에 지우기 명령이 수행될 수 있고(도 15의 (b) 참조), 도 4에서와 같이 사용자가 제2 디바이스(320)를 착용한 손의 손가락 윗면을 통해 제1 디바이스(310)의 터치 패널을 터치하는 입력 이벤트가 발생하는 경우에 컬러 선택 메뉴가 표시되는 명령이 수행될 수 있다(도 15의 (c) 참조).
다음으로, 도 16을 참조하면, 도 6에서와 같이 사용자가 플립 앤드 터치 제스쳐를 취하는 입력 이벤트가 발생하는 경우에 터치에 의해 선택된 컨텐트 A를 복사하는 명령이 수행될 수 있고(도 16의 (a) 참조), 도 7에서와 같이 사용자가 터치 앤드 플립 제스쳐를 취하는 입력 이벤트가 발생하는 경우에는 앞서 복사된 컨텐트 A를 터치된 위치에 붙여 넣는 명령이 수행될 수 있다(도 16의 (b) 참조).
다음으로, 도 17을 참조하면, 제1 디바이스(310)의 표시 패널을 통하여 전자책이 표시되는 경우를 가정할 수 있는데, 이러한 경우 제2 디바이스(320)를 손목에 착용한 사용자가 제1 디바이스(310)의 터치 패널 상의 임의의 지점에서 시작한 드래그 동작을 제1 디바이스(310)의 터치 패널의 경계 부근에서 멈추는 입력 이벤트가 발생하면 해당 전자책의 페이지를 한 장씩 넘기는 명령이 수행될 수 있고(도 17의 (a) 참조), 제2 디바이스(320)를 손목에 착용한 사용자가 제1 디바이스(310)의 터치 패널 상의 임의의 지점에서 시작한 드래그 동작을 제1 디바이스(310)의 터치 패널의 경계를 지나서도 계속하는 입력 이벤트가 발생하면 해당 전자책의 페이지를 한꺼번에 여러 장 넘기는 명령이 수행될 수 있다(도 17의 (b) 참조).
한편, 본 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 제1 디바이스(310) 및 제2 디바이스(320)를 이용한 입력 이벤트가 발생하고 있는 동안에, 제1 디바이스(310)의 자세 또는 움직임과 제2 디바이스(320)의 자세 또는 움직임 사이의 상대적인 관계에 관한 정보를 시각화한 비주얼 피드백(Visual Feedback)을 제공할 수 있다.
도 18은 본 발명의 확장된 실시예에 따라 제공되는 비주얼 피드백을 예시적으로 나타내는 도면이다.
도 18을 참조하면, 제2 디바이스(320)를 손에 착용한 사용자가 제1 디바이스(310)의 터치 패널에 대하여 손가락의 밑면, 옆면 및 윗면을 통해 터치하는 입력 이벤트가 각각 발생하는 경우에, 제1 디바이스(310)의 터치 패널 중 해당 터치가 발생한 부분에 각각 파란색, 주황색 및 녹색을 갖는 제1 그래픽 객체(1810)가 표시될 수 있다. 계속하여, 도 18을 참조하면, 제2 디바이스(320)가 제1 디바이스(310)로부터 멀어지거나 가까워지는 경우에 제1 디바이스(310)와 제2 디바이스(320) 사이의 거리, 제1 디바이스(310)를 기준으로 한 제2 디바이스(320)의 상대적인 속도 및 제2 디바이스가 제1 디바이스(310)로부터 멀어지거나 가까워는 방향에 관한 정보는, 위의 제1 그래픽 객체(1810)를 둘러싸면서 각 정보의 속성값에 따라 크기가 변하는 제2 그래픽 객체(1820)로서 시각화될 수 있다.
한편, 본 발명에서 인식될 수 있는 입력 이벤트의 유형과 결정될 수 있는 명령의 종류가 반드시 위에서 언급된 것에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 얼마든지 변경될 수 있음을 밝혀 둔다. 일 예로서, 본 발명에 따른 사용자 인터페이스 제공 시스템(200)은, 도 19에 도시된 바와 같이, 사용자가 제2 디바이스(320)를 착용한 손의 손가락 밑면을 통해 제1 디바이스(310)의 터치 패널을 터치한 상태에서 그 터치된 접점을 중심으로 손을 회전시키는 입력 이벤트가 발생하는 것을 인식할 수 있으며, 도 20에 도시된 바와 같이, 위와 같은 입력 이벤트에 대응하여 다이얼과 같은 소정의 그래픽 객체(2010)를 회전시키는 명령이 수행되도록 할 수 있다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 비일시성의 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (9)

  1. 사용자 인터페이스를 제공하기 위한 방법으로서,
    입력 이벤트가 발생하면, 상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 상기 입력 이벤트와 연관된 제1 디바이스 및 제2 디바이스의 자세 또는 움직임에 관한 정보를 획득하는 단계, 및
    상기 제1 디바이스의 자세 또는 움직임과 상기 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 단계
    를 포함하는 방법.
  2. 제1항에 있어서,
    상기 입력 이벤트는 상기 제1 디바이스 상에서 발생하고, 상기 입력 이벤트를 발생시키는 입력 수단과 상기 제2 디바이스는 일체로 움직이는 방법.
  3. 제1항에 있어서,
    상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서 적어도 하나의 좌표 축을 기준으로 하여 특정되는 상기 제1 디바이스의 방향과 상기 제2 디바이스의 방향 사이의 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 방법.
  4. 제1항에 있어서,
    상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서 상기 제1 디바이스와 상기 제2 디바이스 사이의 거리 변화를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 방법.
  5. 제1항에 있어서,
    상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서 상기 제2 디바이스가 상기 제1 디바이스에 대하여 가까워지거나 멀어지는 방향을 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 방법.
  6. 제1항에 있어서,
    상기 입력 이벤트에 관한 정보 및 상기 제1 디바이스의 자세 또는 움직임과 상기 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계에 관한 정보 중 적어도 하나를 시각화한 비주얼 피드백을 제공하는 단계
    를 더 포함하는 방법.
  7. 제1항 내지 제6항 중 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 비일시성의 컴퓨터 판독 가능한 기록 매체.
  8. 사용자 인터페이스를 제공하기 위한 디바이스로서,
    상기 디바이스와 연관된 입력 이벤트가 발생하면, 상기 디바이스의 자세 또는 움직임에 관한 정보를 획득하는 기술 수단, 및
    상기 디바이스의 자세 또는 움직임과 상기 입력 이벤트와 연관된 다른 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 프로그램 모듈
    을 포함하는 디바이스.
  9. 사용자 인터페이스를 제공하기 위한 시스템으로서,
    입력 이벤트가 발생하면, 상기 입력 이벤트가 발생하는 시점을 포함하는 기설정된 시간 구간에서의 상기 입력 이벤트와 연관된 제1 디바이스 및 제2 디바이스의 자세 또는 움직임에 관한 정보를 획득하고, 상기 제1 디바이스의 자세 또는 움직임과 상기 제2 디바이스의 자세 또는 움직임 사이의 상대적인 관계를 참조로 하여, 상기 입력 이벤트에 대응하여 수행될 명령을 결정하는 제어부, 및
    상기 제1 디바이스 및 상기 제2 디바이스 중 적어도 하나로부터 제공 받은 정보를 저장하는 저장소
    를 포함하는 시스템.
PCT/KR2014/010644 2014-04-03 2014-11-06 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 WO2015152487A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020177004641A KR20170021910A (ko) 2014-04-03 2014-11-06 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR1020157035979A KR101710042B1 (ko) 2014-04-03 2014-11-06 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
US14/831,594 US20150355722A1 (en) 2014-04-03 2015-08-20 Method, Device, System And Non-Transitory Computer-Readable Recording Medium For Providing User Interface
US15/266,022 US10175767B2 (en) 2014-04-03 2016-09-15 Method, device, system and non-transitory computer-readable recording medium for providing user interface

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2014-0040140 2014-04-03
KR20140040140 2014-04-03

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US14/831,594 Continuation US20150355722A1 (en) 2014-04-03 2015-08-20 Method, Device, System And Non-Transitory Computer-Readable Recording Medium For Providing User Interface

Publications (1)

Publication Number Publication Date
WO2015152487A1 true WO2015152487A1 (ko) 2015-10-08

Family

ID=54240775

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2014/010644 WO2015152487A1 (ko) 2014-04-03 2014-11-06 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Country Status (3)

Country Link
US (2) US20150355722A1 (ko)
KR (2) KR101710042B1 (ko)
WO (1) WO2015152487A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10191611B2 (en) * 2015-11-27 2019-01-29 GitSuite LLC Graphical user interface defined cursor displacement tool
CN106445095A (zh) * 2016-04-25 2017-02-22 福建省卓展信息科技有限公司 一种输入方法和装置及其存储设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090252311A1 (en) * 2008-04-07 2009-10-08 Martijn Kuiken Electronic device with motion controlled functions
US20100124949A1 (en) * 2008-11-14 2010-05-20 Sony Ericsson Mobile Communications Ab Portable communication device and remote motion input device
US20130002538A1 (en) * 2008-12-22 2013-01-03 Mooring David J Gesture-based user interface for a wearable portable device
US20130234924A1 (en) * 2012-03-07 2013-09-12 Motorola Mobility, Inc. Portable Electronic Device and Method for Controlling Operation Thereof Based on User Motion
US20130342457A1 (en) * 2012-06-22 2013-12-26 Cape Evolution Limited Data manipulation on electronic device and remote terminal

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100287513A1 (en) * 2009-05-05 2010-11-11 Microsoft Corporation Multi-device gesture interactivity
WO2011042748A2 (en) * 2009-10-07 2011-04-14 Elliptic Laboratories As User interfaces
US20110163944A1 (en) * 2010-01-05 2011-07-07 Apple Inc. Intuitive, gesture-based communications with physics metaphors
SG183928A1 (en) * 2010-03-09 2012-10-30 Mitsui Chemicals Inc Highly productive isopropyl alcohol-producing bacterium
US8736583B2 (en) * 2011-03-29 2014-05-27 Intel Corporation Virtual links between different displays to present a single virtual object
US11704016B2 (en) 2013-12-04 2023-07-18 Autodesk, Inc. Techniques for interacting with handheld devices
KR102297473B1 (ko) 2014-07-15 2021-09-02 삼성전자주식회사 신체를 이용하여 터치 입력을 제공하는 장치 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090252311A1 (en) * 2008-04-07 2009-10-08 Martijn Kuiken Electronic device with motion controlled functions
US20100124949A1 (en) * 2008-11-14 2010-05-20 Sony Ericsson Mobile Communications Ab Portable communication device and remote motion input device
US20130002538A1 (en) * 2008-12-22 2013-01-03 Mooring David J Gesture-based user interface for a wearable portable device
US20130234924A1 (en) * 2012-03-07 2013-09-12 Motorola Mobility, Inc. Portable Electronic Device and Method for Controlling Operation Thereof Based on User Motion
US20130342457A1 (en) * 2012-06-22 2013-12-26 Cape Evolution Limited Data manipulation on electronic device and remote terminal

Also Published As

Publication number Publication date
US20170038849A1 (en) 2017-02-09
US20150355722A1 (en) 2015-12-10
US10175767B2 (en) 2019-01-08
KR20170021910A (ko) 2017-02-28
KR20160040144A (ko) 2016-04-12
KR101710042B1 (ko) 2017-02-24

Similar Documents

Publication Publication Date Title
WO2018151449A1 (en) Electronic device and methods for determining orientation of the device
WO2017095123A1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
WO2014178693A1 (ko) 복수의 디바이스를 매칭시키는 방법, 그리고 상기 매칭이 가능하게끔 하여 주는 디바이스 및 서버 시스템
WO2016088981A1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
WO2016072823A2 (ko) 루프 형태의 택타일 멀티터치 입력장치, 제스처와 그 방법
WO2015126197A1 (ko) 카메라 중심의 가상터치를 이용한 원격 조작 장치 및 방법
WO2016080596A1 (ko) 프로토타이핑 툴을 제공하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
WO2013141464A1 (ko) 터치 기반의 입력제어 방법
WO2012064128A2 (ko) 터치스크린장치 및 그 제어방법
WO2018004140A1 (ko) 전자 장치 및 그의 동작 방법
WO2020130356A1 (en) System and method for multipurpose input device for two-dimensional and three-dimensional environments
WO2013162236A1 (ko) 포인터를 표시하지 않는 투명 디스플레이 가상 터치 장치
WO2014104727A1 (ko) 멀티 포인트 터치를 이용한 사용자 인터페이스 제공 방법 및 이를 위한 장치
WO2014054861A1 (en) Terminal and method for processing multi-point input
WO2014185753A1 (ko) 복수의 디바이스를 매칭시키는 방법, 그리고 상기 매칭이 가능하게끔 하여 주는 디바이스 및 서버 시스템
WO2023059087A1 (en) Augmented reality interaction method and apparatus
WO2016035940A1 (en) Display device and method of controlling therefor
WO2015152487A1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
WO2015056886A1 (ko) 시선의 위치를 감지하여 터치스크린을 제어하는 방법
WO2019203591A1 (en) High efficiency input apparatus and method for virtual reality and augmented reality
WO2021153961A1 (ko) 가상현실을 이용한 이미지입력시스템 및 이를 이용한 이미지데이터 생성방법
WO2020184890A1 (ko) 2차원 카메라를 이용하여 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
WO2015084082A1 (ko) 자세 또는 동작을 인식하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
WO2016093463A1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
WO2014109543A1 (ko) 가상 터치 포인터를 이용한 화면 제어 방법 및 이를 수행하는 휴대용 단말기

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14888388

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20157035979

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase
122 Ep: pct application non-entry in european phase

Ref document number: 14888388

Country of ref document: EP

Kind code of ref document: A1