WO2015194918A1 - Method and system for providing user interface, and non-transitory computer-readable recording medium - Google Patents
Method and system for providing user interface, and non-transitory computer-readable recording medium Download PDFInfo
- Publication number
- WO2015194918A1 WO2015194918A1 PCT/KR2015/006297 KR2015006297W WO2015194918A1 WO 2015194918 A1 WO2015194918 A1 WO 2015194918A1 KR 2015006297 W KR2015006297 W KR 2015006297W WO 2015194918 A1 WO2015194918 A1 WO 2015194918A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- biometric information
- gesture
- input
- user
- command
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
Definitions
- the present invention relates to a method, system and non-transitory computer readable recording medium for providing a user interface.
- Apple, Inc. introduced a technology called Touch ID (i.e., recognizes a user's fingerprint using RF (Radio Frequency) within a predetermined area).
- Touch ID i.e., recognizes a user's fingerprint using RF (Radio Frequency) within a predetermined area.
- RF Radio Frequency
- the conventional technology introduced so far only pays attention only to the recognition of biometric information such as a fingerprint on the mobile terminal device, and the user can easily control the mobile terminal device based on the biometric information recognized on the mobile terminal device. There is no suggestion for providing a user interface to help.
- the present inventors have come to develop a technology for recognizing a gesture together with biometric information and utilizing both of them to provide a user with a more convenient and expanded user interface.
- the object of the present invention is to solve all the above-mentioned problems.
- the present invention recognizes the gesture and the biometric information obtained from the gesture input means and the biometric information input means, respectively, and with reference to the corresponding relationship between the predetermined gesture or biometric information and the predetermined object or command Specify the object and command corresponding to the recognized gesture or the recognized biometric information above, specify the user with reference to the recognized biometric information above, and specify the above within the scope of authority granted to the specified user above It is another object of the present invention to determine that the specified command is to be performed on a given object, so as to recognize both the gesture and the biometric information and to provide a user with a more convenient and expanded user interface based on the recognition result.
- a method for providing a user interface comprising: (a) recognizing a gesture and biometric information obtained from a gesture input means and a biometric information input means, respectively, (b) a preset gesture Or specifying an object and a command corresponding to the recognized gesture or the recognized biometric information by referring to a corresponding relationship between the biometric information and a predetermined object or command, and specifying a user by referring to the recognized biometric information. And (c) determining that the specified command is to be performed on the specified object within the range of privileges granted to the specified user.
- a system for providing a user interface comprising: a gesture recognition unit for recognizing a gesture obtained from the gesture input means, a biometric information recognition unit for recognizing biometric information obtained from the biometric information input means And an object and a command corresponding to the recognized gesture or the recognized biometric information with reference to a corresponding relationship between the predetermined gesture or the biometric information and the predetermined object or command, and referring to the recognized biometric information.
- a gesture recognition unit for recognizing a gesture obtained from the gesture input means
- a biometric information recognition unit for recognizing biometric information obtained from the biometric information input means
- an object and a command corresponding to the recognized gesture or the recognized biometric information with reference to a corresponding relationship between the predetermined gesture or the biometric information and the predetermined object or command, and referring to the recognized biometric information.
- non-transitory computer readable recording medium for recording another method, system, and computer program for executing the method for implementing the present invention.
- the effect of enabling various control of the mobile terminal device is achieved by using the gesture and the biometric information together.
- the present invention by associating an object or a command with an inputable gesture or biometric information, if the user simply inputs only the gesture and biometric information, the corresponding command can be performed on the corresponding object. Is achieved.
- FIG. 1 is a diagram illustrating an internal configuration of a user interface providing system according to an embodiment of the present invention by way of example.
- FIGS. 2 to 4 are diagrams exemplarily illustrating how a user interface operates according to an embodiment of the present invention.
- FIG. 5 is a diagram illustrating a process of providing visual feedback according to an embodiment of the present invention.
- FIG. 6 is a diagram illustrating a state in which a user interface operates according to an embodiment of the present invention.
- FIG. 7 is a diagram exemplarily illustrating a configuration for providing a user interface using an integrated technical means capable of receiving both a gesture and biometric information according to an embodiment of the present invention.
- FIG. 8 is a diagram illustrating a configuration in which various commands are performed in response to various gestures according to an embodiment of the present invention.
- a microprocessor is provided with memory means such as a personal computer (for example, a desktop computer, a notebook computer, etc.), a server, a workstation, a PDA, a web pad, a mobile phone, a smartphone, a tablet, and the like.
- a personal computer for example, a desktop computer, a notebook computer, etc.
- a server for example, a server, a workstation, a PDA, a web pad, a mobile phone, a smartphone, a tablet, and the like.
- the user terminal device itself to be described later may be a user interface providing system.
- the user interface providing system according to an embodiment of the present invention, a gesture input means and a fingerprint recognition sensor that can receive various gestures from a user using a touch screen, an infrared sensor, an acceleration sensor, a camera, or the like.
- biometric information input means for receiving biometric information from a user using an iris recognition sensor, a voice recognition sensor, a pulse recognition sensor, an EEG sensor, a temperature recognition sensor, and the like, and visual information accompanying the user interface. It may include a display means for displaying the.
- FIG. 1 is a diagram illustrating an internal configuration of a user interface providing system according to an embodiment of the present invention by way of example.
- the user interface providing system 100 may include a gesture recognition unit 110, a biometric information recognition unit 120, a command execution unit 130, a communication unit 140, and the like. It may include a controller 150. According to an embodiment of the present invention, the gesture recognition unit 110, the biometric information recognition unit 120, the command execution unit 130, the communication unit 140 and the control unit 150 is at least a portion of the external system (not shown).
- Program modules which are in communication with each other. Such program modules may be included in the user interface providing system 100 in the form of an operating system, an application program module, and other program modules, and may be physically stored on various known storage devices.
- program modules may be stored in a remote storage device that can communicate with the user interface providing system 100.
- program modules include, but are not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform particular tasks or execute particular abstract data types, described below, in accordance with the present invention.
- the gesture recognition unit 110 may perform a function of recognizing a gesture input from a user with reference to a user operation input from a predetermined gesture input means.
- the gesture according to the present invention may correspond to at least one object or command.
- a gesture input from a user may include a touch input for an arbitrary point on the touch screen, a touch input extending from a first point to a second point on the touch screen (that is, swipe or drag). , Post-touch release, flicking, pinch, and the like.
- the gesture or rotation of the user terminal device including the acceleration sensor or the gyro sensor may be included in the gesture of the present invention.
- the gesture according to the present invention is not necessarily limited to those listed above, and it can be understood that the present invention may be changed as much as possible within the scope of achieving the object of the present invention.
- the biometric information recognizing unit 120 may perform a function of recognizing biometric information input from a predetermined biometric information input means.
- the biometric information according to the present invention may correspond to at least one object or command.
- the biometric information input from the user may include fingerprint information obtained from a fingerprint recognition sensor, iris information obtained from an iris recognition sensor, vein information obtained from a vein recognition sensor, voice information obtained from a voice recognition sensor, and pulse recognition.
- Pulse information obtained from the sensor, brain wave information obtained from the EEG sensor, temperature information obtained from the temperature sensor may be included.
- the biological information according to the present invention is not necessarily limited to those listed above, and it can be understood that the present invention can be changed as much as possible within the scope of achieving the object of the present invention.
- the gesture and the biometric information may be input sequentially or simultaneously.
- the biometric information may be recognized after the gesture is first recognized, or the gesture may be recognized after the biometric information is first recognized.
- the gesture input means and the biometric information input means are integrally formed, the gesture and the biometric information may be input at the same time.
- the gesture may be input through a touch screen
- the biometric information may be input through a fingerprint recognition sensor provided on a home button separate from the touch screen.
- both the gesture and the biometric information may be input through an integrated technology means such as a fingerprint integrated display (FOD) or a trace fingerprint sensor.
- an integrated technology means such as a fingerprint integrated display (FOD) or a trace fingerprint sensor.
- the command execution unit 130 refers to the recognized gesture or the recognized biometric device above with reference to a corresponding relationship between the preset gesture or biometric information and the preset object or command.
- An object and a command corresponding to the information may be specified, and the user may be specified with reference to the recognized biometric information.
- the command execution unit 130 may perform a function of determining that the specified command is performed on the specified object within the authority granted to the specified user. Can be.
- each of the various gestures that may be input from the user may be preset to correspond to an object or a command.
- the gesture corresponding to the preset gesture may correspond to the gesture input from the user.
- the gesture of touching one of the plurality of icons displayed on the touch screen may be preset to correspond to selecting an object indicated by the icon.
- a gesture ie, swipe or drag
- a save or load command may be preset to correspond to a save or load command.
- the biometric information that may be input from the user may be used as a criterion for identifying the user and specifying the user.
- each of the various biometric information that may be input from the user may be preset to correspond to an object or a command, and referring to the preset correspondence, the biometric information input from the user may be The corresponding object or command can be specified.
- the fingerprint information corresponding to the index finger may be preset to correspond to the object A
- the fingerprint information corresponding to the thumb may be preset to correspond to the object B.
- the fingerprint information corresponding to the index finger may be preset to correspond to a command to perform a payment using a credit card A, and the fingerprint information corresponding to a thumb uses a credit card B to make a payment. It may be preset to correspond to a command to perform.
- FIGS. 2 to 4 are diagrams exemplarily illustrating how a user interface operates according to an embodiment of the present invention.
- the user interface providing system 100 recognizes the above gesture and biometric information.
- the user A, the content A, and the save command can be specified, and a command for storing the content A in the storage space given to the user A of the cloud server can be determined.
- the index finger may be placed on the touch screen 210 by the fingerprint recognition sensor 220.
- the user interface providing system 100 recognizes the above gesture and biometric information, and executes a user B, content B, and a load command.
- the content B stored in the storage space given to the user B of the cloud server corresponding to the fingerprint information of the index finger of the user B is loaded into the user terminal device, and the content B is touched by the user terminal device.
- a command to display on the screen 210 may be determined to be performed.
- the system 100 for providing a user interface may recognize a user A, a content A, and a storage command by recognizing the above gesture and biometric information, and detect a user A in a storage space given to the user A in a cloud server. It may be determined that a command for storing the content A corresponding to the finger is performed.
- the user interface providing system 100 may recognize the above gesture and the biometric information to specify the user B, the content B, and a load command, and detect the user B in a storage space given to the user B in the cloud server. It may be determined that a command for loading content B stored in correspondence with a finger to the user terminal device is performed.
- the user A touches the content A displayed on the touch screen 410 with the index finger for more than a predetermined time and the content B touches the content B with the thumb for more than a predetermined time
- the user A's index finger and thumb Content A and content B may correspond to fingers, respectively.
- a predetermined gesture using the index finger a predetermined command may be performed on the content A corresponding to the index finger, and the user A uses the thumb.
- a predetermined gesture is input, a predetermined command may be performed on the finger B corresponding to the thumb.
- FIG. 5 is a diagram illustrating a process of providing visual feedback according to an embodiment of the present invention.
- an arrow shape may induce the user to input a gesture corresponding to the above-described "drag”.
- Visual feedback may be displayed on the touch screen 510.
- FIG. 6 is a diagram illustrating a state in which a user interface operates according to an embodiment of the present invention.
- a user touches an arbitrary area on the touch screen 610 of the user terminal device with an index finger, it passes through specific areas 631 and 632 of a plurality of areas displayed on the touch screen 610.
- the index finger is positioned on the fingerprint recognition sensor 620 after performing a gesture of dragging (ie, dragging) toward the fingerprint recognition sensor 620 of the user terminal device
- a user interface according to an embodiment of the present invention is provided.
- the system 100 may recognize the gesture and the biometric information, and determine that a command corresponding to the specific region is performed. For example, when the drag gesture above passes through block 631 indicated by the number “7”, payment may be made in a seven-month installment (see FIG. 6 (a)), and the drag gesture above is the number “3”. In the case where the block 632 is marked with ", payment may be made in a three-month installment (see FIG. 6B).
- FIG. 7 is a diagram exemplarily illustrating a configuration for providing a user interface using an integrated technical means capable of receiving both a gesture and biometric information according to an embodiment of the present invention.
- fingerprint information may be obtained only when the user touches a specific area (hereinafter, referred to as a fingerprint recognition area) on the fingerprint recognition integrated touch screen 720. That is, the activation of the fingerprint recognition function may be determined according to the area where the touch manipulation is input to the fingerprint recognition integrated touch screen 720.
- a user performs an operation of touching a first graphic element on a fingerprint recognition integrated touch screen and the touch operation is not released (ie, the user continues the fingerprint recognition integrated touch screen).
- the user's fingerprint information may be obtained through the fingerprint recognition area when the mobile phone is located in the fingerprint recognition area that performs the fingerprint recognition function.
- the fingerprint recognition area performing the fingerprint recognition function on the fingerprint recognition integrated touch screen may be displayed only temporarily based on a user's touch manipulation or the like.
- the fingerprint recognition area may be displayed on the fingerprint recognition integrated touch screen only when the user inputs a touch operation corresponding to a preset gesture on the fingerprint recognition integrated touch screen.
- the fingerprint recognition area may be displayed on the fingerprint recognition integrated touch screen only when the user touches a predetermined graphic element on the fingerprint recognition integrated touch screen.
- certain graphic elements may be displayed on the fingerprint recognition integrated touch screen only when the user touches the fingerprint recognition area on the fingerprint recognition integrated touch screen.
- the fingerprint recognition area may be displayed on the fingerprint recognition integrated touch screen only while the user maintains a touch state for a predetermined graphic element on the fingerprint recognition integrated touch screen, and the user is in the touch state above.
- the fingerprint recognition area displayed on the fingerprint recognition integrated touch screen may disappear.
- the display size, the display form of the fingerprint recognition area according to the type or function of the graphic element touched by the user on the fingerprint recognition integrated touch screen or the object corresponding to the graphic element may vary.
- auditory feedback or tactile feedback may be provided together in response to the user touching a predetermined graphic element displayed on the fingerprint recognition integrated touch screen.
- the intensity, period (frequency), pattern, and providing method of the auditory feedback or the tactile feedback may vary according to the type or function of the graphic element to be touched or an object corresponding to the graphic element.
- FIG. 8 is a diagram illustrating a configuration in which various commands are performed in response to various gestures according to an embodiment of the present invention.
- a user may perform various gestures by inputting biometric information (ie, fingerprint information) after performing various gestures or by performing various gestures after the user inputs biometric information.
- biometric information ie, fingerprint information
- FIG. 8A when the user touches the fingerprint sensor immediately to input fingerprint information without performing any gesture (see FIG. 8A), after the user shakes his hand in the air, the user touches the fingerprint sensor.
- FIG. 8B the user may input a fingerprint information by touching a fingerprint sensor after performing a gesture of inverting a hand (see FIG. 8C).
- different commands may be performed corresponding to each of the above three cases.
- the user directly inputs fingerprint information by touching the fingerprint sensor without any gesture see FIG.
- the user touches the fingerprint sensor to input the fingerprint information and then touches the hand in the air. It may be assumed that the gesture of shaking is performed (see (e) of FIG. 8), the gesture of inverting the hand after the user touches the fingerprint sensor to input fingerprint information (see (f) of FIG. 8), and the like. In this case, different commands may be performed corresponding to each of the above three cases.
- the communication unit 140 performs a function to enable the user interface providing system 100 to communicate with an external device.
- the controller 150 controls the flow of data between the gesture recognition unit 110, the biometric information recognition unit 120, the command execution unit 130, and the communication unit 140. Do this. That is, the controller 150 controls the flow of data from the outside or between each component of the user interface providing system, such that the gesture recognition unit 110, the biometric information recognition unit 120, the command execution unit 130, and the communication unit Each control is performed at 140 to perform a unique function.
- Embodiments according to the present invention described above may be implemented in the form of program instructions that may be executed by various computer components, and may be recorded on a non-transitory computer readable recording medium.
- the non-transitory computer readable recording medium may include program instructions, data files, data structures, etc. alone or in combination.
- the program instructions recorded on the non-transitory computer readable recording medium may be those specially designed and configured for the present invention, or may be known and available to those skilled in the computer software arts.
- non-transitory computer readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs, DVDs, magnetic-optical media such as floppy disks ( magneto-optical media) and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.
- program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
- the hardware device may be configured to operate as one or more software modules to perform the process according to the invention, and vice versa.
- gesture recognition unit 110 gesture recognition unit
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
According to one aspect of the present invention, a method for providing a user interface comprises the steps of: (a) recognizing a gesture and bio-information respectively obtained from a gesture input means and a bio-information input means; (b) specifying an object and a command corresponding to the recognized gesture or the recognized bio-information by referring to a corresponding relationship between a preset gesture or bio-information and a preset object or command, and specifying a user by referring to the recognized bio-information; and (c) determining that the specified command is to be carried out with respect to the specified object within the scope of a right granted to the specified user.
Description
본 발명은 사용자 인터페이스를 제공하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.The present invention relates to a method, system and non-transitory computer readable recording medium for providing a user interface.
최근 스마트폰을 비롯한 모바일 단말 장치가 높은 수준의 보안이 요구되는 정보를 수용하는 경우가 많아짐에 따라, 모바일 단말 장치에 적용시킬 수 있는 개인화 기술 또는 보안 기술에 대한 수요와 관심이 증가하고 있다.Recently, as mobile terminal devices including smartphones receive information requiring a high level of security, demand and interest for personalization technology or security technology that can be applied to mobile terminal devices are increasing.
이와 관련하여, 애플사(Apple, Inc.)가 아이폰에 도입한 터치아이디(Touch ID)라는 기술(즉, 즉, 소정의 영역 내에서 RF(Radio Frequency)를 이용하여 사용자의 지문을 인식하는)이나 RGB 카메라와 같은 광학 장치를 이용하여 지문의 형상을 시각적으로 인식하는 기술 등 다양한 종래기술이 소개된 바 있다.In this regard, Apple, Inc. introduced a technology called Touch ID (i.e., recognizes a user's fingerprint using RF (Radio Frequency) within a predetermined area). Various prior arts, such as a technique for visually recognizing the shape of a fingerprint using an optical device such as an RGB camera, have been introduced.
하지만, 지금까지 소개된 종래기술은 모바일 단말 장치 상에서 지문과 같은 생체 정보를 인식하는 것 자체에만 관심을 기울이고 있을 뿐, 모바일 단말 장치 상에서 인식된 생체 정보를 기초로 하여 사용자가 모바일 단말 장치를 손쉽게 제어할 수 있도록 도와주는 사용자 인터페이스를 제공하는 것에 대하여는 시사하고 있는 바가 없다.However, the conventional technology introduced so far only pays attention only to the recognition of biometric information such as a fingerprint on the mobile terminal device, and the user can easily control the mobile terminal device based on the biometric information recognized on the mobile terminal device. There is no suggestion for providing a user interface to help.
이에, 본 발명자는 생체 정보와 더불어 제스쳐를 인식하고 이를 모두 활용하여 사용자에게 보다 편리하고 확장된 사용자 인터페이스를 제공할 수 있는 기술을 개발하기에 이르렀다.Accordingly, the present inventors have come to develop a technology for recognizing a gesture together with biometric information and utilizing both of them to provide a user with a more convenient and expanded user interface.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.The object of the present invention is to solve all the above-mentioned problems.
또한, 본 발명은 제스쳐(gesture) 입력 수단 및 생체 정보 입력 수단으로부터 각각 획득되는 제스쳐 및 생체 정보를 인식하고, 기설정된 제스쳐 또는 생체 정보와 기설정된 객체 또는 명령 사이의 대응 관계를 참조로 하여 위의 인식된 제스쳐 또는 위의 인식된 생체 정보에 대응되는 객체 및 명령을 특정하고, 위의 인식된 생체 정보를 참조로 하여 사용자를 특정하고, 위의 특정된 사용자에게 부여된 권한 범위 내에서 위의 특정된 객체에 대하여 위의 특정된 명령이 수행되도록 결정함으로써, 제스쳐와 생체 정보를 모두 인식하고 그 인식 결과에 기초하여 사용자에게 보다 편리하고 확장된 사용자 인터페이스를 제공할 수 있도록 하는 것을 다른 목적으로 한다.In addition, the present invention recognizes the gesture and the biometric information obtained from the gesture input means and the biometric information input means, respectively, and with reference to the corresponding relationship between the predetermined gesture or biometric information and the predetermined object or command Specify the object and command corresponding to the recognized gesture or the recognized biometric information above, specify the user with reference to the recognized biometric information above, and specify the above within the scope of authority granted to the specified user above It is another object of the present invention to determine that the specified command is to be performed on a given object, so as to recognize both the gesture and the biometric information and to provide a user with a more convenient and expanded user interface based on the recognition result.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.Representative configuration of the present invention for achieving the above object is as follows.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, (a) 제스쳐(gesture) 입력 수단 및 생체 정보 입력 수단으로부터 각각 획득되는 제스쳐 및 생체 정보를 인식하는 단계, (b) 기설정된 제스쳐 또는 생체 정보와 기설정된 객체 또는 명령 사이의 대응 관계를 참조로 하여 상기 인식된 제스쳐 또는 상기 인식된 생체 정보에 대응되는 객체 및 명령을 특정하고, 상기 인식된 생체 정보를 참조로 하여 사용자를 특정하는 단계, 및 (c) 상기 특정된 사용자에게 부여된 권한 범위 내에서 상기 특정된 객체에 대하여 상기 특정된 명령이 수행되도록 결정하는 단계를 포함하는 방법이 제공된다.According to one aspect of the invention, a method for providing a user interface, comprising: (a) recognizing a gesture and biometric information obtained from a gesture input means and a biometric information input means, respectively, (b) a preset gesture Or specifying an object and a command corresponding to the recognized gesture or the recognized biometric information by referring to a corresponding relationship between the biometric information and a predetermined object or command, and specifying a user by referring to the recognized biometric information. And (c) determining that the specified command is to be performed on the specified object within the range of privileges granted to the specified user.
본 발명의 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 시스템으로서, 제스쳐(gesture) 입력 수단으로부터 획득되는 제스쳐를 인식하는 제스쳐 인식부, 생체 정보 입력 수단으로부터 획득되는 생체 정보를 인식하는 생체 정보 인식부, 및 기설정된 제스쳐 또는 생체 정보와 기설정된 객체 또는 명령 사이의 대응 관계를 참조로 하여 상기 인식된 제스쳐 또는 상기 인식된 생체 정보에 대응되는 객체 및 명령을 특정하고, 상기 인식된 생체 정보를 참조로 하여 사용자를 특정하고, 상기 특정된 사용자에게 부여된 권한 범위 내에서 상기 특정된 객체에 대하여 상기 특정된 명령이 수행되도록 결정하는 명령 수행부를 포함하는 시스템이 제공된다.According to another aspect of the present invention, a system for providing a user interface, comprising: a gesture recognition unit for recognizing a gesture obtained from the gesture input means, a biometric information recognition unit for recognizing biometric information obtained from the biometric information input means And an object and a command corresponding to the recognized gesture or the recognized biometric information with reference to a corresponding relationship between the predetermined gesture or the biometric information and the predetermined object or command, and referring to the recognized biometric information. To specify a user, and to determine that the specified command is to be performed on the specified object within a range of authority granted to the specified user.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.In addition, there is further provided a non-transitory computer readable recording medium for recording another method, system, and computer program for executing the method for implementing the present invention.
본 발명에 의하면, 단순히 생체 정보를 인식하여 사용자의 신원을 확인하는 것을 넘어서, 제스쳐와 생체 정보를 함께 인식하여 활용함으로써 모바일 단말 장치에 대한 다양한 제어를 가능하게 하는 효과가 달성된다.According to the present invention, beyond the recognition of the user's identity by simply recognizing the biometric information, the effect of enabling various control of the mobile terminal device is achieved by using the gesture and the biometric information together.
또한, 본 발명에 의하면, 입력 가능한 제스쳐 또는 생체 정보에 객체 또는 명령을 대응시켜 놓음으로써, 사용자가 제스쳐 및 생체 정보만을 간단히 입력하면 그에 대응되는 객체에 대하여 그에 대응되는 명령이 수행될 수 있게 되는 효과가 달성된다.In addition, according to the present invention, by associating an object or a command with an inputable gesture or biometric information, if the user simply inputs only the gesture and biometric information, the corresponding command can be performed on the corresponding object. Is achieved.
도 1은 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템의 내부 구성을 예시적으로 나타내는 도면이다.1 is a diagram illustrating an internal configuration of a user interface providing system according to an embodiment of the present invention by way of example.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 사용자 인터페이스가 동작하는 모습을 예시적으로 나타내는 도면이다.2 to 4 are diagrams exemplarily illustrating how a user interface operates according to an embodiment of the present invention.
도 5는 본 발명의 일 실시예에 따라 비주얼 피드백을 제공하는 과정을 예시적으로 나타내는 도면이다.5 is a diagram illustrating a process of providing visual feedback according to an embodiment of the present invention.
도 6은 본 발명의 일 실시예에 따라 사용자 인터페이스가 동작하는 모습을 예시적으로 나타내는 도면이다.6 is a diagram illustrating a state in which a user interface operates according to an embodiment of the present invention.
도 7은 본 발명의 일 실시예에 따라 제스쳐와 생체 정보를 모두 입력 받을 수 있는 일체형 기술 수단을 활용하여 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.FIG. 7 is a diagram exemplarily illustrating a configuration for providing a user interface using an integrated technical means capable of receiving both a gesture and biometric information according to an embodiment of the present invention.
도 8은 본 발명의 일 실시예에 따라 다양한 제스쳐에 대응하여 다양한 명령이 수행되는 구성을 예시적으로 나타내는 도면이다.8 is a diagram illustrating a configuration in which various commands are performed in response to various gestures according to an embodiment of the present invention.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.DETAILED DESCRIPTION The following detailed description of the invention refers to the accompanying drawings that show, by way of illustration, specific embodiments in which the invention may be practiced. These embodiments are described in sufficient detail to enable those skilled in the art to practice the invention. It should be understood that the various embodiments of the present invention are different but need not be mutually exclusive. For example, certain shapes, structures, and characteristics described herein may be embodied in other embodiments without departing from the spirit and scope of the invention with respect to one embodiment. In addition, it is to be understood that the location or arrangement of individual components within each disclosed embodiment may be changed without departing from the spirit and scope of the invention. The following detailed description, therefore, is not to be taken in a limiting sense, and the scope of the present invention, if properly described, is defined only by the appended claims, along with the full range of equivalents to which such claims are entitled. Like reference numerals in the drawings refer to the same or similar functions throughout the several aspects.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily implement the present invention.
사용자 인터페이스 제공 시스템의 구성Configuration of User Interface Provision System
이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 사용자 인터페이스 제공 시스템의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.Hereinafter, the internal structure of the user interface providing system performing important functions for the implementation of the present invention and the function of each component will be described.
본 발명의 일 실시예에 따르면, 개인용 컴퓨터(예를 들어, 데스크탑 컴퓨터, 노트북 컴퓨터 등), 서버, 워크스테이션, PDA, 웹 패드, 이동 전화기, 스마트폰, 태블릿 등과 같이 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 장치라면 얼마든지 본 발명의 사용자 인터페이스 제공 시스템으로 채택될 수 있으며, 후술할 사용자 단말 장치 자체가 사용자 인터페이스 제공 시스템이 될 수도 있다. 특히, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템은, 터치 스크린(touch screen), 적외선 센서, 가속도 센서, 카메라 등을 이용하여 사용자로부터 다양한 제스쳐를 입력 받을 수 있는 제스쳐 입력 수단과 지문 인식 센서, 홍채 인식 센서, 음성 인식 센서, 맥박 인식 센서, 뇌파 인식 센서, 온도 인식 센서 등을 이용하여 사용자로부터 생체 정보를 입력 받을 수 있는 생체 정보 입력 수단을 포함할 수 있고, 사용자 인터페이스에 수반되는 시각 정보를 표시할 수 있는 표시 수단을 포함할 수 있다.According to an embodiment of the present invention, a microprocessor is provided with memory means such as a personal computer (for example, a desktop computer, a notebook computer, etc.), a server, a workstation, a PDA, a web pad, a mobile phone, a smartphone, a tablet, and the like. As long as the device equipped with a computing capability can be adopted as the user interface providing system of the present invention, the user terminal device itself to be described later may be a user interface providing system. In particular, the user interface providing system according to an embodiment of the present invention, a gesture input means and a fingerprint recognition sensor that can receive various gestures from a user using a touch screen, an infrared sensor, an acceleration sensor, a camera, or the like. And biometric information input means for receiving biometric information from a user using an iris recognition sensor, a voice recognition sensor, a pulse recognition sensor, an EEG sensor, a temperature recognition sensor, and the like, and visual information accompanying the user interface. It may include a display means for displaying the.
도 1은 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템의 내부 구성을 예시적으로 나타내는 도면이다.1 is a diagram illustrating an internal configuration of a user interface providing system according to an embodiment of the present invention by way of example.
도 1을 참조하면, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(100)은, 제스쳐 인식부(110), 생체 정보 인식부(120), 명령 수행부(130), 통신부(140) 및 제어부(150)를 포함할 수 있다. 본 발명의 일 실시예에 따르면, 제스쳐 인식부(110), 생체 정보 인식부(120), 명령 수행부(130), 통신부(140) 및 제어부(150)는 그 중 적어도 일부가 외부 시스템(미도시됨)과 통신하는 프로그램 모듈들일 수 있다. 이러한 프로그램 모듈들은 운영 시스템, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 사용자 인터페이스 제공 시스템(100)에 포함될 수 있으며, 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈들은 사용자 인터페이스 제공 시스템(100)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈들은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.Referring to FIG. 1, the user interface providing system 100 according to an exemplary embodiment of the present invention may include a gesture recognition unit 110, a biometric information recognition unit 120, a command execution unit 130, a communication unit 140, and the like. It may include a controller 150. According to an embodiment of the present invention, the gesture recognition unit 110, the biometric information recognition unit 120, the command execution unit 130, the communication unit 140 and the control unit 150 is at least a portion of the external system (not shown). Program modules), which are in communication with each other. Such program modules may be included in the user interface providing system 100 in the form of an operating system, an application program module, and other program modules, and may be physically stored on various known storage devices. In addition, such program modules may be stored in a remote storage device that can communicate with the user interface providing system 100. On the other hand, such program modules include, but are not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform particular tasks or execute particular abstract data types, described below, in accordance with the present invention.
먼저, 본 발명의 일 실시예에 따르면, 제스쳐 인식부(110)는 소정의 제스쳐 입력 수단으로부터 입력되는 사용자 조작을 참조로 하여 사용자로부터 입력되는 제스쳐(gesture)를 인식하는 기능을 수행할 수 있다. 후술할 바와 같이, 본 발명에 따른 제스쳐는 적어도 하나의 객체 또는 명령에 대응되어 있을 수 있다.First, according to an embodiment of the present invention, the gesture recognition unit 110 may perform a function of recognizing a gesture input from a user with reference to a user operation input from a predetermined gesture input means. As will be described later, the gesture according to the present invention may correspond to at least one object or command.
예를 들면, 사용자로부터 입력되는 제스쳐에는, 터치 스크린 상의 임의의 지점에 대한 터치 입력, 터치 스크린 상의 제1 지점에서 제2 지점까지 이어지는 터치 입력(즉, 스와이프(swipe) 또는 드래그(drag)), 터치 후 릴리스(release), 플리킹(flicking), 핀치(pinch) 등이 포함될 수 있다. 다른 예를 들면, 가속도 센서 또는 자이로 센서를 구비한 사용자 단말 장치를 회전시키거나 흔드는 것도 본 발명에서 말하는 제스쳐에 포함될 수 있다. 다만, 본 발명에 따른 제스쳐가 반드시 상기 열거된 것에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 얼마든지 변경될 수 있음을 밝혀 둔다.For example, a gesture input from a user may include a touch input for an arbitrary point on the touch screen, a touch input extending from a first point to a second point on the touch screen (that is, swipe or drag). , Post-touch release, flicking, pinch, and the like. As another example, the gesture or rotation of the user terminal device including the acceleration sensor or the gyro sensor may be included in the gesture of the present invention. However, the gesture according to the present invention is not necessarily limited to those listed above, and it can be understood that the present invention may be changed as much as possible within the scope of achieving the object of the present invention.
다음으로, 생체 정보 인식부(120)는 소정의 생체 정보 입력 수단으로부터 입력되는 생체 정보를 인식하는 기능을 수행할 수 있다. 후술할 바와 같이, 본 발명에 따른 생체 정보는 적어도 하나의 객체 또는 명령에 대응되어 있을 수 있다.Next, the biometric information recognizing unit 120 may perform a function of recognizing biometric information input from a predetermined biometric information input means. As will be described later, the biometric information according to the present invention may correspond to at least one object or command.
예를 들면, 사용자로부터 입력되는 생체 정보에는, 지문 인식 센서로부터 획득되는 지문 정보, 홍채 인식 센서로부터 획득되는 홍채 정보, 정맥 인식 센서로부터 획득되는 정맥 정보, 음성 인식 센서로부터 획득되는 음성 정보, 맥박 인식 센서로부터 획득되는 맥박 정보, 뇌파 인식 센서로부터 획득되는 뇌파 정보, 온도 인식 센서로부터 획득되는 온도 정보 등이 포함될 수 있다. 다만, 본 발명에 따른 생체 정보가 반드시 상기 열거된 것에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 얼마든지 변경될 수 있음을 밝혀 둔다.For example, the biometric information input from the user may include fingerprint information obtained from a fingerprint recognition sensor, iris information obtained from an iris recognition sensor, vein information obtained from a vein recognition sensor, voice information obtained from a voice recognition sensor, and pulse recognition. Pulse information obtained from the sensor, brain wave information obtained from the EEG sensor, temperature information obtained from the temperature sensor may be included. However, the biological information according to the present invention is not necessarily limited to those listed above, and it can be understood that the present invention can be changed as much as possible within the scope of achieving the object of the present invention.
한편, 본 발명의 일 실시예에 따르면, 제스쳐와 생체 정보는 순차적으로 입력될 수도 있고 동시에 입력될 수도 있다. 예를 들면, 제스쳐가 먼저 인식된 후에 생체 정보가 인식되거나, 생체 정보가 먼저 인식된 후에 제스쳐가 인식될 수 있다.Meanwhile, according to an embodiment of the present invention, the gesture and the biometric information may be input sequentially or simultaneously. For example, the biometric information may be recognized after the gesture is first recognized, or the gesture may be recognized after the biometric information is first recognized.
또한, 본 발명의 일 실시예에 따르면, 제스쳐 입력 수단과 생체 정보 입력 수단이 일체로 구성된 경우에는 제스쳐와 생체 정보가 한꺼번에 입력될 수도 있다.According to an embodiment of the present invention, when the gesture input means and the biometric information input means are integrally formed, the gesture and the biometric information may be input at the same time.
예를 들면, 제스쳐는 터치 스크린을 통하여 입력되고, 생체 정보는 터치 스크린과 별개인 홈 버튼 상에 구비되는 지문 인식 센서를 통하여 입력될 수 있다.For example, the gesture may be input through a touch screen, and the biometric information may be input through a fingerprint recognition sensor provided on a home button separate from the touch screen.
다른 예를 들면, 지문 인식 일체형 터치 스크린(Fingerprint On Display; FOD)이나 트레이스 지문 인식 센서와 같은 일체형 기술 수단을 통하여 제스쳐와 생체 정보가 모두 입력될 수 있다.As another example, both the gesture and the biometric information may be input through an integrated technology means such as a fingerprint integrated display (FOD) or a trace fingerprint sensor.
다음으로, 본 발명의 일 실시예에 따르면, 명령 수행부(130)는 기설정된 제스쳐 또는 생체 정보와 기설정된 객체 또는 명령 사이의 대응 관계를 참조로 하여 위의 인식된 제스쳐 또는 위의 인식된 생체 정보에 대응되는 객체 및 명령을 특정하고, 위의 인식된 생체 정보를 참조로 하여 사용자를 특정할 수 있다.Next, according to an embodiment of the present invention, the command execution unit 130 refers to the recognized gesture or the recognized biometric device above with reference to a corresponding relationship between the preset gesture or biometric information and the preset object or command. An object and a command corresponding to the information may be specified, and the user may be specified with reference to the recognized biometric information.
또한, 본 발명의 일 실시예에 따르면, 명령 수행부(130)는 위의 특정된 사용자에게 부여된 권한 내에서 위의 특정된 객체에 대하여 위의 특정된 명령이 수행되도록 결정하는 기능을 수행할 수 있다.In addition, according to an embodiment of the present invention, the command execution unit 130 may perform a function of determining that the specified command is performed on the specified object within the authority granted to the specified user. Can be.
구체적으로, 본 발명의 일 실시예에 따르면, 사용자로부터 입력될 수 있는 다양한 제스쳐 각각은 객체 또는 명령과 대응되도록 기설정될 수 있고, 이와 같이 기설정된 대응 관계를 참조하면 사용자로부터 입력되는 제스쳐에 대응되는 객체 또는 명령을 특정할 수 있다. 예를 들면, 터치 스크린 상의 표시된 복수의 아이콘 중 어느 한 아이콘을 터치하는 제스쳐는 해당 아이콘이 가리키는 객체를 선택하는 것과 대응되는 것으로 기설정될 수 있다. 다른 예를 들면, 터치 스크린 상의 임의의 한 지점에서 다른 지점까지 계속하여 터치하는 제스쳐(즉, 스와이프 또는 드래그)는 저장하기 또는 불러오기 명령과 대응되는 것으로 기설정될 수 있다.Specifically, according to an embodiment of the present invention, each of the various gestures that may be input from the user may be preset to correspond to an object or a command. Referring to the preset correspondence, the gesture corresponding to the preset gesture may correspond to the gesture input from the user. You can specify which objects or commands are being used. For example, the gesture of touching one of the plurality of icons displayed on the touch screen may be preset to correspond to selecting an object indicated by the icon. For another example, a gesture (ie, swipe or drag) that continuously touches from any one point on the touch screen to another point may be preset to correspond to a save or load command.
기본적으로, 본 발명의 일 실시예에 따르면, 사용자로부터 입력될 수 있는 생체 정보는 사용자의 신원을 확인하고 사용자를 특정하는 기준으로서 활용될 수 있다. 또한, 본 발명의 일 실시예에 따르면, 사용자로부터 입력될 수 있는 다양한 생체 정보 각각은 객체 또는 명령과 대응되도록 기설정될 수 있고, 이와 같이 기설정된 대응 관계를 참조하면 사용자로부터 입력되는 생체 정보에 대응되는 객체 또는 명령을 특정할 수 있다. 예를 들면, 검지 손가락에 해당하는 지문 정보는 객체 A에 대응되는 것으로 기설정될 수 있고, 엄지 손가락에 해당하는 지문 정보는 객체 B에 대응되는 것으로 기설정될 수 있다. 다른 예를 들면, 검지 손가락에 해당하는 지문 정보는 신용카드 A를 이용하여 결제를 수행하라는 명령에 대응되는 것으로 기설정될 수 있고, 엄지 손가락에 해당하는 지문 정보는 신용카드 B를 이용하여 결제를 수행하라는 명령에 대응되는 것으로 기설정될 수 있다.Basically, according to an embodiment of the present invention, the biometric information that may be input from the user may be used as a criterion for identifying the user and specifying the user. In addition, according to an embodiment of the present invention, each of the various biometric information that may be input from the user may be preset to correspond to an object or a command, and referring to the preset correspondence, the biometric information input from the user may be The corresponding object or command can be specified. For example, the fingerprint information corresponding to the index finger may be preset to correspond to the object A, and the fingerprint information corresponding to the thumb may be preset to correspond to the object B. As another example, the fingerprint information corresponding to the index finger may be preset to correspond to a command to perform a payment using a credit card A, and the fingerprint information corresponding to a thumb uses a credit card B to make a payment. It may be preset to correspond to a command to perform.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 사용자 인터페이스가 동작하는 모습을 예시적으로 나타내는 도면이다.2 to 4 are diagrams exemplarily illustrating how a user interface operates according to an embodiment of the present invention.
먼저, 도 2의 (a)를 참조하면, 사용자 A가 사용자 단말 장치의 터치 스크린(210) 상에 표시된 컨텐츠 A를 검지 손가락으로 터치한 상태에서 사용자 단말 장치의 지문 인식 센서(220) 방향으로 드래그하는 제스쳐(즉, 끌어오기)를 행한 후에 검지 손가락을 지문 인식 센서(220)에 위치시키는 경우에, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(100)은 위의 제스쳐 및 생체 정보를 인식하여 사용자 A, 컨텐츠 A 및 저장하기 명령을 특정할 수 있고, 클라우드 서버의 사용자 A에게 주어진 저장 공간 내에 컨텐츠 A를 저장하는 명령이 수행되도록 결정할 수 있다.First, referring to FIG. 2A, in the state where user A touches the content A displayed on the touch screen 210 of the user terminal device with an index finger, drags toward the fingerprint recognition sensor 220 of the user terminal device. In the case where the index finger is positioned in the fingerprint recognition sensor 220 after performing a gesture (that is, pulling), the user interface providing system 100 according to an embodiment of the present invention recognizes the above gesture and biometric information. The user A, the content A, and the save command can be specified, and a command for storing the content A in the storage space given to the user A of the cloud server can be determined.
또한, 도 2의 (b)를 참조하면, 사용자 B가 검지 손가락을 사용자 단말 장치의 지문 인식 센서(220)에 위치시킨 후에 검지 손가락을 지문 인식 센서(220)에서 터치 스크린(210) 상의 임의의 지점으로 드래그하는 제스쳐(즉, 끌어넣기)를 행하는 경우에, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(100)은 위의 제스쳐 및 생체 정보를 인식하여 사용자 B, 컨텐츠 B 및 불러오기 명령을 특정할 수 있고, 클라우드 서버의 사용자 B에게 주어진 저장 공간 내에 사용자 B의 검지 손가락의 지문 정보에 대응된 상태로 저장되어 있는 컨텐츠 B를 사용자 단말 장치로 불러오고 그 컨텐츠 B를 사용자 단말 장치의 터치 스크린(210) 상에 표시하는 명령이 수행되도록 결정할 수 있다.In addition, referring to FIG. 2B, after the user B places the index finger on the fingerprint recognition sensor 220 of the user terminal device, the index finger may be placed on the touch screen 210 by the fingerprint recognition sensor 220. In the case of performing a gesture of dragging (that is, dragging) to a point, the user interface providing system 100 according to an embodiment of the present invention recognizes the above gesture and biometric information, and executes a user B, content B, and a load command. The content B stored in the storage space given to the user B of the cloud server corresponding to the fingerprint information of the index finger of the user B is loaded into the user terminal device, and the content B is touched by the user terminal device. A command to display on the screen 210 may be determined to be performed.
다음으로 도 3의 (a)를 참조하면, 사용자 A가 사용자 단말 장치의 지문 인식 센서(320) 상에 검지 손가락을 위치시킨 상태에서 검지 손가락을 위에서 아래로 이동시키는 경우에, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(100)은 위의 제스쳐 및 생체 정보를 인식하여 사용자 A, 컨텐츠 A 및 저장하기 명령을 특정할 수 있고, 클라우드 서버 내에서 사용자 A에게 주어진 저장 공간 내에 사용자 A의 검지 손가락에 대응되는 컨텐츠 A를 저장하는 명령이 수행되도록 결정할 수 있다.Next, referring to FIG. 3A, when the user A moves the index finger from the top to the bottom while the index finger is positioned on the fingerprint recognition sensor 320 of the user terminal device, one embodiment of the present invention is implemented. According to an example, the system 100 for providing a user interface may recognize a user A, a content A, and a storage command by recognizing the above gesture and biometric information, and detect a user A in a storage space given to the user A in a cloud server. It may be determined that a command for storing the content A corresponding to the finger is performed.
또한, 도 3의 (b)를 참조하면, 사용자 B가 사용자 단말 장치의 지문 인식 센서(320) 상에 검지 손가락을 위치시킨 상태에서 검지 손가락을 아래에서 위로 이동시키는 경우에, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(100)은 위의 제스쳐 및 생체 정보를 인식하여 사용자 B, 컨텐츠 B 및 불러오기 명령을 특정할 수 있고, 클라우드 서버 내에서 사용자 B에게 주어진 저장 공간 내에 사용자 B의 검지 손가락에 대응되어 저장되어 있는 컨텐츠 B를 사용자 단말 장치로 불러오는 명령이 수행되도록 결정할 수 있다.In addition, referring to FIG. 3B, when the user B moves the index finger from the bottom up while the index finger is positioned on the fingerprint recognition sensor 320 of the user terminal device, one embodiment of the present invention is implemented. The user interface providing system 100 according to the example may recognize the above gesture and the biometric information to specify the user B, the content B, and a load command, and detect the user B in a storage space given to the user B in the cloud server. It may be determined that a command for loading content B stored in correspondence with a finger to the user terminal device is performed.
다음으로, 도 4를 참조하면, 사용자 A가 터치 스크린(410) 상에 표시된 컨텐츠 A를 검지 손가락으로 일정 시간 이상 터치하고 컨텐츠 B를 엄지 손가락으로 일정 시간 이상 터치하면, 사용자 A의 검지 손가락 및 엄지 손가락에 각각 컨텐츠 A 및 컨텐츠 B가 대응될 수 있게 된다. 계속하여, 도 4를 참조하면, 사용자 A가 검지 손가락을 이용하여 소정의 제스쳐를 입력하면 검지 손가락에 대응되어 있는 컨텐츠 A에 대하여 소정의 명령이 수행될 수 있고, 사용자 A가 엄지 손가락을 이용하여 소정의 제스쳐를 입력하면 엄지 손가락에 대응되어 있는 손가락 B에 대하여 소정의 명령이 수행될 수 있다.Next, referring to FIG. 4, when the user A touches the content A displayed on the touch screen 410 with the index finger for more than a predetermined time and the content B touches the content B with the thumb for more than a predetermined time, the user A's index finger and thumb Content A and content B may correspond to fingers, respectively. 4, when the user A inputs a predetermined gesture using the index finger, a predetermined command may be performed on the content A corresponding to the index finger, and the user A uses the thumb. When a predetermined gesture is input, a predetermined command may be performed on the finger B corresponding to the thumb.
도 5는 본 발명의 일 실시예에 따라 비주얼 피드백을 제공하는 과정을 예시적으로 나타내는 도면이다.5 is a diagram illustrating a process of providing visual feedback according to an embodiment of the present invention.
도 5를 참조하면, 사용자가 사용자 단말 장치의 터치 스크린(510) 상에 표시된 특정 객체를 터치하는 경우에, 사용자가 앞서 설명한 "끌어오기"에 해당하는 제스쳐를 입력하는 것을 유도할 수 있는 화살표 모양의 비주얼 피드백을 터치 스크린(510) 상에 표시할 수 있다.Referring to FIG. 5, when the user touches a specific object displayed on the touch screen 510 of the user terminal device, an arrow shape may induce the user to input a gesture corresponding to the above-described "drag". Visual feedback may be displayed on the touch screen 510.
도 6은 본 발명의 일 실시예에 따라 사용자 인터페이스가 동작하는 모습을 예시적으로 나타내는 도면이다.6 is a diagram illustrating a state in which a user interface operates according to an embodiment of the present invention.
도 6을 참조하면, 사용자가 사용자 단말 장치의 터치 스크린(610) 상의 임의의 영역을 검지 손가락으로 터치한 상태에서 터치 스크린(610) 상에 표시된 복수의 영역 중 특정 영역(631, 632)을 거쳐 사용자 단말 장치의 지문 인식 센서(620) 방향으로 드래그하는 제스쳐(즉, 끌어오기)를 행한 후에 검지 손가락을 지문 인식 센서(620)에 위치시키는 경우에, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(100)은 위의 제스쳐 및 생체 정보를 인식하여 위의 특정 영역에 해당하는 명령이 수행되도록 결정할 수 있다. 예를 들면, 위의 드래그 제스쳐가 숫자 "7"이라고 표시된 블록(631)을 거치는 경우에 7개월 할부로 결제가 이루어질 수 있고(도 6의 (a) 참조), 위의 드래그 제스쳐가 숫자 "3"이라고 표시된 블록(632)을 거치는 경우에는 3개월 할부로 결제가 이루어질 수 있다(도 6의 (b) 참조).Referring to FIG. 6, in a state where a user touches an arbitrary area on the touch screen 610 of the user terminal device with an index finger, it passes through specific areas 631 and 632 of a plurality of areas displayed on the touch screen 610. In the case where the index finger is positioned on the fingerprint recognition sensor 620 after performing a gesture of dragging (ie, dragging) toward the fingerprint recognition sensor 620 of the user terminal device, a user interface according to an embodiment of the present invention is provided. The system 100 may recognize the gesture and the biometric information, and determine that a command corresponding to the specific region is performed. For example, when the drag gesture above passes through block 631 indicated by the number “7”, payment may be made in a seven-month installment (see FIG. 6 (a)), and the drag gesture above is the number “3”. In the case where the block 632 is marked with ", payment may be made in a three-month installment (see FIG. 6B).
도 7은 본 발명의 일 실시예에 따라 제스쳐와 생체 정보를 모두 입력 받을 수 있는 일체형 기술 수단을 활용하여 사용자 인터페이스를 제공하는 구성을 예시적으로 나타내는 도면이다.FIG. 7 is a diagram exemplarily illustrating a configuration for providing a user interface using an integrated technical means capable of receiving both a gesture and biometric information according to an embodiment of the present invention.
먼저, 도 7의 (a)를 참조하면, 사용자가 지문 인식 일체형 터치 스크린(710) 상의 제1 그래픽 요소(711)를 터치하는 조작을 행하면, 위의 터치 조작이 행해진 위치에 관한 정보 및 사용자의 지문 정보가 획득될 수 있고, 사용자가 위의 터치를 지문 인식 일체형 터치 스크린(710) 상의 제2 그래픽 요소(712 내지 715)로 옮겨가는 조작(예를 들면, 드래그 조작 등)을 행하면, 해당 사용자가 필요한 권한을 가지고 있다는 가정 하에, 제1 그래픽 요소(711)에 대응하는 객체에 대하여 제2 그래픽 요소(712 내지 715)에 대응하는 명령(예를 들면, 파일 전송, 파일 삭제, 파일 공유, 클라우드 저장, 애플리케이션 수행 등)이 실행될 수 있다.First, referring to FIG. 7A, when a user performs an operation of touching the first graphic element 711 on the fingerprint recognition integrated touch screen 710, information regarding the position where the above touch operation is performed and Fingerprint information can be obtained, and when the user performs an operation (eg, a drag operation) to move the above touch to the second graphic element 712 to 715 on the fingerprint recognition integrated touch screen 710, the user A command corresponding to the second graphic element 712 to 715 for the object corresponding to the first graphic element 711 (eg, file transfer, file deletion, file sharing, cloud) Storage, application execution, etc.).
다음으로, 도 7의 (b)를 참조하면, 사용자가 지문 인식 일체형 터치 스크린(720) 상의 특정 영역(이하, 지문 인식 영역)을 터치하는 경우에만 지문 정보가 획득될 수 있다. 즉, 지문 인식 일체형 터치 스크린(720)에 대하여 터치 조작이 입력되는 영역이 어디인지에 따라 지문 인식 기능의 활성화 여부가 결정될 수 있다.Next, referring to FIG. 7B, fingerprint information may be obtained only when the user touches a specific area (hereinafter, referred to as a fingerprint recognition area) on the fingerprint recognition integrated touch screen 720. That is, the activation of the fingerprint recognition function may be determined according to the area where the touch manipulation is input to the fingerprint recognition integrated touch screen 720.
계속하여, 도 7의 (b)를 참조하면, 사용자가 지문 인식 일체형 터치 스크린(720)상의 제1 그래픽 요소(721)를 터치하는 조작을 행하면 위의 터치 조작이 행해진 위치에 관한 정보가 획득될 수 있고, 사용자가 위의 터치를 지문 인식 영역(722)으로 옮겨가는 조작(예를 들면, 드래그 조작 등)을 행하면 위의 지문 인식 영역(722)을 통하여 비로소 사용자의 지문 정보가 획득될 수 있고, 해당 사용자가 필요한 권한을 가지고 있다는 가정 하에, 제1 그래픽 요소(721) 또는 지문 인식 영역(722)에 대응하는 객체에 대하여 제1 그래픽 요소(721) 또는 지문 인식 영역(722)에 대응하는 명령(예를 들면, 파일 전송, 파일 삭제, 파일 공유, 클라우드 저장, 애플리케이션 수행 등)이 실행될 수 있다.Subsequently, referring to FIG. 7B, when the user performs an operation of touching the first graphic element 721 on the fingerprint recognition integrated touch screen 720, information regarding the position at which the above touch operation is performed may be obtained. When the user performs an operation of moving the touch to the fingerprint recognition area 722 (eg, a drag operation), the fingerprint information of the user may be obtained through the fingerprint recognition area 722. A command corresponding to the first graphic element 721 or the fingerprint recognition area 722 for an object corresponding to the first graphic element 721 or the fingerprint recognition area 722, assuming that the user has the necessary rights. (E.g., file transfer, file deletion, file sharing, cloud storage, application execution, etc.) may be performed.
이하에서는, 도 7의 실시예와 더불어 상정할 수 있는 다양한 실시예에 대하여 살펴보기로 한다.Hereinafter, various embodiments that can be assumed along with the embodiment of FIG. 7 will be described.
먼저, 본 발명의 일 실시예에 따르면, 사용자가 지문 인식 일체형 터치 스크린 상의 제1 그래픽 요소를 터치하는 조작을 행하고 그 터치 조작이 해제되지 않은 상태에서(즉, 사용자가 지문 인식 일체형 터치 스크린을 계속 터치하고 있는 상태에서) 이동하여 지문 인식 기능을 수행하는 지문 인식 영역에 위치하게 되는 경우에, 위의 지문 인식 영역을 통하여 사용자의 지문 정보가 획득될 수 있다.First, according to one embodiment of the present invention, a user performs an operation of touching a first graphic element on a fingerprint recognition integrated touch screen and the touch operation is not released (ie, the user continues the fingerprint recognition integrated touch screen). In the case of being touched), the user's fingerprint information may be obtained through the fingerprint recognition area when the mobile phone is located in the fingerprint recognition area that performs the fingerprint recognition function.
다음으로, 본 발명의 일 실시예에 따르면, 지문 인식 일체형 터치 스크린 상에서 지문 인식 기능을 수행하는 지문 인식 영역은 사용자의 터치 조작 등에 기초하여 일시적으로만 표시될 수 있다.Next, according to an embodiment of the present invention, the fingerprint recognition area performing the fingerprint recognition function on the fingerprint recognition integrated touch screen may be displayed only temporarily based on a user's touch manipulation or the like.
예를 들면, 사용자가 지문 인식 일체형 터치 스크린 상에 기설정된 제스쳐에 해당하는 터치 조작을 입력하는 경우에만 지문 인식 일체형 터치 스크린 상에 지문 인식 영역이 표시될 수 있다.For example, the fingerprint recognition area may be displayed on the fingerprint recognition integrated touch screen only when the user inputs a touch operation corresponding to a preset gesture on the fingerprint recognition integrated touch screen.
다른 예를 들면, 사용자가 지문 인식 일체형 터치 스크린 상에서 소정의 그래픽 요소를 터치하는 경우에만 지문 인식 일체형 터치 스크린 상에 지문 인식 영역이 표시될 수 있다. 반대로, 사용자가 지문 인식 일체형 터치 스크린 상에서 지문 인식 영역을 터치하는 경우에만 지문 인식 일체형 터치 스크린 상에 소정의 그래픽 요소가 표시될 수도 있다.For another example, the fingerprint recognition area may be displayed on the fingerprint recognition integrated touch screen only when the user touches a predetermined graphic element on the fingerprint recognition integrated touch screen. Conversely, certain graphic elements may be displayed on the fingerprint recognition integrated touch screen only when the user touches the fingerprint recognition area on the fingerprint recognition integrated touch screen.
또 다른 예를 들면, 사용자가 지문 인식 일체형 터치 스크린 상에서 소정의 그래픽 요소에 대한 터치 상태를 유지하고 있는 동안에만 지문 인식 일체형 터치 스크린 상에 지문 인식 영역이 표시될 수 있고, 사용자가 위의 터치 상태를 해제(release)한 경우에는 지문 인식 일체형 터치 스크린 상에 표시되었던 지문 인식 영역이 사라질 수 있다.As another example, the fingerprint recognition area may be displayed on the fingerprint recognition integrated touch screen only while the user maintains a touch state for a predetermined graphic element on the fingerprint recognition integrated touch screen, and the user is in the touch state above. When the device is released, the fingerprint recognition area displayed on the fingerprint recognition integrated touch screen may disappear.
다음으로, 본 발명의 일 실시예에 따르면, 지문 인식 일체형 터치 스크린 상에서 사용자에 의해 터치되는 그래픽 요소 또는 그 그래픽 요소에 대응하는 객체의 종류 또는 기능에 따라 위의 지문 인식 영역의 표시 크기, 표시 형태, 표시 색상, 표시 방식, 표시 시간 등이 달라질 수 있다.Next, according to an embodiment of the present invention, the display size, the display form of the fingerprint recognition area according to the type or function of the graphic element touched by the user on the fingerprint recognition integrated touch screen or the object corresponding to the graphic element The display color, the display method, and the display time may vary.
한편, 본 발명의 일 실시예에 따르면, 사용자가 지문 인식 일체형 터치 스크린 상에 표시되는 소정의 그래픽 요소를 터치하는 것에 대응하여 청각 피드백 또는 촉각 피드백이 함께 제공될 수 있는데, 이러한 경우에, 위의 터치되는 그래픽 요소 또는 그 그래픽 요소에 대응하는 객체의 종류 또는 기능에 따라 청각 피드백 또는 촉각 피드백의 세기, 주기(주파수), 패턴, 제공 방식 등이 달라질 수 있다.Meanwhile, according to an embodiment of the present invention, auditory feedback or tactile feedback may be provided together in response to the user touching a predetermined graphic element displayed on the fingerprint recognition integrated touch screen. The intensity, period (frequency), pattern, and providing method of the auditory feedback or the tactile feedback may vary according to the type or function of the graphic element to be touched or an object corresponding to the graphic element.
한편, 도 8은 본 발명의 일 실시예에 따라 다양한 제스쳐에 대응하여 다양한 명령이 수행되는 구성을 예시적으로 나타내는 도면이다.Meanwhile, FIG. 8 is a diagram illustrating a configuration in which various commands are performed in response to various gestures according to an embodiment of the present invention.
도 8을 참조하면, 사용자는 다양한 제스쳐를 행한 후에 생체 정보(즉, 지문 정보)를 입력하거나 사용자가 생체 정보를 입력한 후에 다양한 제스쳐를 행함으로써 보다 다양한 명령이 수행되도록 할 수 있다. 구체적으로, 사용자가 아무런 제스쳐를 행함이 없이 곧바로 지문 인식 센서를 터치하여 지문 정보를 입력하는 경우(도 8의 (a) 참조), 사용자가 손을 허공에 흔드는 제스쳐를 행한 후에 지문 인식 센서를 터치하여 지문 정보를 입력하는 경우(도 8의 (b) 참조), 사용자가 손을 뒤집는 제스쳐를 행한 후에 지문 인식 센서를 터치하여 지문 정보를 입력하는 경우(도 8의 (c) 참조) 등을 가정할 수 있는데, 위의 세 가지 경우 각각에 대응하여 서로 다른 명령이 수행될 수 있다. 또한, 사용자가 아무런 제스쳐를 행함이 없이 곧바로 지문 인식 센서를 터치하여 지문 정보를 입력하는 경우(도 8의 (d) 참조), 사용자가 지문 인식 센서를 터치하여 지문 정보를 입력한 후에 손을 허공에 흔드는 제스쳐를 행하는 경우(도 8의 (e) 참조), 사용자가 지문 인식 센서를 터치하여 지문 정보를 입력한 후에 손을 뒤집는 제스쳐를 행하는 경우(도 8의 (f) 참조) 등을 가정할 수 있는데, 위의 세 가지 경우 각각에 대응하여 서로 다른 명령이 수행될 수 있다.Referring to FIG. 8, a user may perform various gestures by inputting biometric information (ie, fingerprint information) after performing various gestures or by performing various gestures after the user inputs biometric information. Specifically, when the user touches the fingerprint sensor immediately to input fingerprint information without performing any gesture (see FIG. 8A), after the user shakes his hand in the air, the user touches the fingerprint sensor. In the case of inputting fingerprint information (see FIG. 8B), the user may input a fingerprint information by touching a fingerprint sensor after performing a gesture of inverting a hand (see FIG. 8C). In the above three cases, different commands may be performed corresponding to each of the above three cases. In addition, when the user directly inputs fingerprint information by touching the fingerprint sensor without any gesture (see FIG. 8D), the user touches the fingerprint sensor to input the fingerprint information and then touches the hand in the air. It may be assumed that the gesture of shaking is performed (see (e) of FIG. 8), the gesture of inverting the hand after the user touches the fingerprint sensor to input fingerprint information (see (f) of FIG. 8), and the like. In this case, different commands may be performed corresponding to each of the above three cases.
다음으로, 본 발명의 일 실시예에 따른 통신부(140)는 사용자 인터페이스 제공 시스템(100)이 외부 장치와 통신할 수 있도록 하는 기능을 수행한다.Next, the communication unit 140 according to an embodiment of the present invention performs a function to enable the user interface providing system 100 to communicate with an external device.
마지막으로, 본 발명의 일 실시예에 따른 제어부(150)는 제스쳐 인식부(110), 생체 정보 인식부(120), 명령 수행부(130) 및 통신부(140) 간의 데이터의 흐름을 제어하는 기능을 수행한다. 즉, 제어부(150)는 외부로부터의 또는 사용자 인터페이스 제공 시스템의 각 구성요소 간의 데이터의 흐름을 제어함으로써, 제스쳐 인식부(110), 생체 정보 인식부(120), 명령 수행부(130) 및 통신부(140)에서 각각 고유 기능을 수행하도록 제어한다.Finally, the controller 150 according to an embodiment of the present invention controls the flow of data between the gesture recognition unit 110, the biometric information recognition unit 120, the command execution unit 130, and the communication unit 140. Do this. That is, the controller 150 controls the flow of data from the outside or between each component of the user interface providing system, such that the gesture recognition unit 110, the biometric information recognition unit 120, the command execution unit 130, and the communication unit Each control is performed at 140 to perform a unique function.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 비일시성의 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Embodiments according to the present invention described above may be implemented in the form of program instructions that may be executed by various computer components, and may be recorded on a non-transitory computer readable recording medium. The non-transitory computer readable recording medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the non-transitory computer readable recording medium may be those specially designed and configured for the present invention, or may be known and available to those skilled in the computer software arts. Examples of non-transitory computer readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs, DVDs, magnetic-optical media such as floppy disks ( magneto-optical media) and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device may be configured to operate as one or more software modules to perform the process according to the invention, and vice versa.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.Although the present invention has been described by specific embodiments such as specific components and the like, but the embodiments and the drawings are provided to assist in a more general understanding of the present invention, the present invention is not limited to the above embodiments. For those skilled in the art, various modifications and variations can be made from these descriptions.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.Accordingly, the spirit of the present invention should not be limited to the above-described embodiments, and all of the equivalents or equivalents of the claims, as well as the appended claims, fall within the scope of the spirit of the present invention. I will say.
<부호의 설명> <Description of the code>
100: 사용자 인터페이스 제공 시스템100: user interface providing system
110: 제스쳐 인식부110: gesture recognition unit
120: 생체 정보 인식부120: biometric information recognition unit
130: 명령 수행부130: command execution unit
140: 통신부140: communication unit
150: 제어부150: control unit
210, 310, 410, 510: 터치 스크린210, 310, 410, 510: touch screen
220, 320, 420, 520: 지문 인식 센서220, 320, 420, 520: Fingerprint Sensor
Claims (12)
- 사용자 인터페이스를 제공하기 위한 방법으로서,As a method for providing a user interface,(a) 제스쳐(gesture) 입력 수단 및 생체 정보 입력 수단으로부터 각각 획득되는 제스쳐 및 생체 정보를 인식하는 단계,(a) recognizing the gesture and the biometric information obtained from the gesture input means and the biometric information input means, respectively;(b) 기설정된 제스쳐 또는 생체 정보와 기설정된 객체 또는 명령 사이의 대응 관계를 참조로 하여 상기 인식된 제스쳐 또는 상기 인식된 생체 정보에 대응되는 객체 및 명령을 특정하고, 상기 인식된 생체 정보를 참조로 하여 사용자를 특정하는 단계, 및(b) specifying an object and a command corresponding to the recognized gesture or the recognized biometric information with reference to a corresponding relationship between the preset gesture or the biometric information and the predetermined object or command, and referring to the recognized biometric information Specifying a user, and(c) 상기 특정된 사용자에게 부여된 권한 범위 내에서 상기 특정된 객체에 대하여 상기 특정된 명령이 수행되도록 결정하는 단계(c) determining that the specified command is to be performed on the specified object within a range of privileges granted to the specified user.를 포함하는 방법.How to include.
- 제1항에 있어서,The method of claim 1,상기 제스쳐는 터치 입력, 자세 입력 및 움직임 입력 중 적어도 하나에 의하여 특정되는 방법.And the gesture is specified by at least one of a touch input, a posture input, and a motion input.
- 제1항에 있어서,The method of claim 1,상기 생체 정보는 지문 정보, 홍채 정보, 음성 정보, 맥박 정보, 뇌파 정보 및 온도 정보 중 적어도 하나에 의하여 특정되는 방법.The biometric information is specified by at least one of fingerprint information, iris information, voice information, pulse information, brain wave information, and temperature information.
- 제1항에 있어서,The method of claim 1,상기 (a) 단계에서,In the step (a),제스쳐 및 생체 정보 중 적어도 하나의 입력을 유도하는 비주얼 피드백을 제공하는 방법.A method of providing visual feedback that derives at least one input of gesture and biometric information.
- 제1항에 있어서,The method of claim 1,상기 (c) 단계에서,In the step (c),상기 인식된 생체 정보가 제1 생체 정보인 경우에는 상기 제1 생체 정보에 대응되는 제1 객체에 대하여 상기 특정된 명령이 수행되도록 결정하고, 상기 인식된 생체 정보가 제2 생체 정보인 경우에는 상기 제2 생체 정보에 대응되는 제2 객체에 대하여 상기 특정된 명령이 수행되도록 결정하는 방법.If the recognized biometric information is the first biometric information, the predetermined command is determined to be performed on the first object corresponding to the first biometric information, and when the recognized biometric information is the second biometric information, And determining the specified command to be performed on a second object corresponding to second biometric information.
- 제1항에 있어서,The method of claim 1,상기 제스쳐 입력 수단 및 상기 생체 정보 입력 수단은 제스쳐 입력 기능 및 생체 정보 입력 기능을 모두 수행할 수 있는 기술 수단에 의하여 일체로 구성되고,The gesture input means and the biometric information input means are integrally formed by technical means capable of performing both a gesture input function and a biometric information input function,상기 객체 및 상기 명령 중 적어도 하나는 상기 기술 수단에 대하여 상기 제스쳐가 입력되는 위치에 기초하여 특정되는 방법.At least one of the object and the command is specified based on a position at which the gesture is input relative to the description means.
- 제1항에 있어서,The method of claim 1,상기 제스쳐 입력 수단 및 상기 생체 정보 입력 수단은 제스쳐 입력 기능 및 생체 정보 입력 기능을 모두 수행할 수 있는 기술 수단에 의하여 일체로 구성되고,The gesture input means and the biometric information input means are integrally formed by technical means capable of performing both a gesture input function and a biometric information input function,상기 기술 수단에 대하여 상기 제스쳐가 입력되는 위치에 기초하여 상기 생체 정보 인식 기능의 활성화 여부가 결정되는 방법.Determining whether to activate the biometric information recognition function based on a position at which the gesture is input to the technical means.
- 제7항에 있어서,The method of claim 7, wherein상기 제스쳐가 기설정된 영역에 대하여 입력되는 것에 대응하여 상기 기설정된 영역에서 상기 생체 정보 인식 기능이 활성화되는 방법.And the biometric information recognition function is activated in the preset area in response to the gesture being input to the preset area.
- 제1항에 있어서,The method of claim 1,상기 제스쳐 입력 수단 및 상기 생체 정보 입력 수단은 제스쳐 입력 기능 및 생체 정보 입력 기능을 모두 수행할 수 있는 기술 수단에 의하여 일체로 구성되고,The gesture input means and the biometric information input means are integrally formed by technical means capable of performing both a gesture input function and a biometric information input function,상기 기술 수단에 대하여 상기 제스쳐가 입력되는 것에 대응하여 상기 기술 수단 상에 상기 생체 정보 인식 기능이 활성화된 영역이 표시되는 방법.And a region on which the biometric information recognition function is activated on the technical means in response to the gesture input to the technical means.
- 제1항에 있어서,The method of claim 1,상기 제스쳐 입력 수단 및 상기 생체 정보 입력 수단은 제스쳐 입력 기능 및 생체 정보 입력 기능을 모두 수행할 수 있는 기술 수단에 의하여 일체로 구성되고,The gesture input means and the biometric information input means are integrally formed by technical means capable of performing both a gesture input function and a biometric information input function,상기 제스쳐에 의해 선택되는 그래픽 요소 또는 상기 그래픽 요소에 대응하는 다른 객체에 기초하여, 상기 기술 수단 상에 표시되는 상기 생체 정보 인식 기능이 활성화된 영역의 표시 크기, 표시 형태, 표시 색상, 표시 방식 및 표시 시간 중 적어도 하나가 결정되는 방법.A display size, a display form, a display color, a display method of an area on which the biometric information recognition function is activated displayed on the technical means based on the graphic element selected by the gesture or another object corresponding to the graphic element; At least one of the display times is determined.
- 제1항 내지 제10항 중 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 비일시성의 컴퓨터 판독 가능한 기록 매체.A non-transitory computer readable recording medium having recorded thereon a computer program for executing the method according to any one of claims 1 to 10.
- 사용자 인터페이스를 제공하기 위한 시스템으로서,A system for providing a user interface,제스쳐(gesture) 입력 수단으로부터 획득되는 제스쳐를 인식하는 제스쳐 인식부,A gesture recognition unit for recognizing a gesture obtained from a gesture input means,생체 정보 입력 수단으로부터 획득되는 생체 정보를 인식하는 생체 정보 인식부, 및A biometric information recognizing unit that recognizes biometric information obtained from biometric information input means, and기설정된 제스쳐 또는 생체 정보와 기설정된 객체 또는 명령 사이의 대응 관계를 참조로 하여 상기 인식된 제스쳐 또는 상기 인식된 생체 정보에 대응되는 객체 및 명령을 특정하고, 상기 인식된 생체 정보를 참조로 하여 사용자를 특정하고, 상기 특정된 사용자에게 부여된 권한 범위 내에서 상기 특정된 객체에 대하여 상기 특정된 명령이 수행되도록 결정하는 명령 수행부The object and the command corresponding to the recognized gesture or the recognized biometric information are specified with reference to a corresponding relationship between the preset gesture or the biometric information and the predetermined object or command, and the user is referred to by referring to the recognized biometric information. A command execution unit for determining a specified command to be performed on the specified object within a range of authority granted to the specified user.를 포함하는 시스템.System comprising.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020187026863A KR20180107288A (en) | 2014-06-20 | 2015-06-22 | Method and system for providing user interface, and non-transitory computer-readable recording medium |
KR1020167007891A KR101901735B1 (en) | 2014-06-20 | 2015-06-22 | Method and system for providing user interface, and non-transitory computer-readable recording medium |
US15/092,791 US20160370866A1 (en) | 2014-06-20 | 2016-04-07 | Method, System and Non-Transitory Computer-Readable Recording Medium for Automatically Performing an Action |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2014-0075331 | 2014-06-20 | ||
KR20140075331 | 2014-06-20 | ||
KR10-2014-0153954 | 2014-11-06 | ||
KR1020140153954A KR20150145677A (en) | 2014-06-20 | 2014-11-06 | Method, system and non-transitory computer-readable recording medium for providing user interface |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2015194918A1 true WO2015194918A1 (en) | 2015-12-23 |
Family
ID=54935820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/KR2015/006297 WO2015194918A1 (en) | 2014-06-20 | 2015-06-22 | Method and system for providing user interface, and non-transitory computer-readable recording medium |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2015194918A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113056718A (en) * | 2018-11-14 | 2021-06-29 | 华为技术有限公司 | Handheld mobile terminal control method and related device |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20020087665A (en) * | 2001-05-15 | 2002-11-23 | 엘지전자 주식회사 | Method for conducting in a PDA |
US20060215883A1 (en) * | 2005-03-25 | 2006-09-28 | Samsung Electronics Co., Ltd. | Biometric identification apparatus and method using bio signals and artificial neural network |
US20070150842A1 (en) * | 2005-12-23 | 2007-06-28 | Imran Chaudhri | Unlocking a device by performing gestures on an unlock image |
KR20120048359A (en) * | 2010-11-05 | 2012-05-15 | 목포대학교산학협력단 | 3d image qube password interface system for entrance/exit of sailors using an infrared camera |
KR20140037280A (en) * | 2007-09-24 | 2014-03-26 | 애플 인크. | Embedded authentication systems in an electronic device |
-
2015
- 2015-06-22 WO PCT/KR2015/006297 patent/WO2015194918A1/en active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20020087665A (en) * | 2001-05-15 | 2002-11-23 | 엘지전자 주식회사 | Method for conducting in a PDA |
US20060215883A1 (en) * | 2005-03-25 | 2006-09-28 | Samsung Electronics Co., Ltd. | Biometric identification apparatus and method using bio signals and artificial neural network |
US20070150842A1 (en) * | 2005-12-23 | 2007-06-28 | Imran Chaudhri | Unlocking a device by performing gestures on an unlock image |
KR20140037280A (en) * | 2007-09-24 | 2014-03-26 | 애플 인크. | Embedded authentication systems in an electronic device |
KR20120048359A (en) * | 2010-11-05 | 2012-05-15 | 목포대학교산학협력단 | 3d image qube password interface system for entrance/exit of sailors using an infrared camera |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113056718A (en) * | 2018-11-14 | 2021-06-29 | 华为技术有限公司 | Handheld mobile terminal control method and related device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101901735B1 (en) | Method and system for providing user interface, and non-transitory computer-readable recording medium | |
WO2016129938A1 (en) | Method and apparatus for performing payment function in limited state | |
US8863042B2 (en) | Handheld device with touch controls that reconfigure in response to the way a user operates the device | |
WO2012108723A2 (en) | Information display apparatus having at least two touch screens and information display method thereof | |
JP6054892B2 (en) | Application image display method, electronic apparatus, and computer program for multiple displays | |
WO2013141464A1 (en) | Method of controlling touch-based input | |
WO2014065499A1 (en) | Edit providing method according to multi-touch-based text block setting | |
KR102264444B1 (en) | Method and apparatus for executing function in electronic device | |
US20160077620A1 (en) | Method and apparatus for controlling electronic device using touch input | |
WO2014025131A1 (en) | Method and system for displaying graphic user interface | |
WO2018151449A1 (en) | Electronic device and methods for determining orientation of the device | |
AU2012214924A1 (en) | Information display apparatus having at least two touch screens and information display method thereof | |
KR102521192B1 (en) | Electronic apparatus and operating method thereof | |
WO2015108224A1 (en) | System for driving device through touch input in low-power mode in which display is turned off | |
CN104243749B (en) | The control method of image processing system and image processing system | |
WO2017209568A1 (en) | Electronic device and operation method thereof | |
CN104536563A (en) | Electronic equipment control method and system | |
WO2016080596A1 (en) | Method and system for providing prototyping tool, and non-transitory computer-readable recording medium | |
CN105074644A (en) | Information processing terminal, screen control method, and screen control program | |
WO2012093779A2 (en) | User terminal supporting multimodal interface using user touch and breath and method for controlling same | |
US20150138127A1 (en) | Electronic apparatus and input method | |
WO2018084684A1 (en) | Method for controlling execution of application on electronic device using touchscreen and electronic device for the same | |
WO2013005901A1 (en) | Apparatus and method for inputting character on touch screen | |
US20170255318A1 (en) | Performing Actions Responsive to Hovering Over an Input Surface | |
WO2014185753A1 (en) | Method for matching multiple devices, and device and server system for enabling matching |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 15808890 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 20167007891 Country of ref document: KR Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 15808890 Country of ref document: EP Kind code of ref document: A1 |