KR20170139474A - 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 - Google Patents

사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
KR20170139474A
KR20170139474A KR1020170165717A KR20170165717A KR20170139474A KR 20170139474 A KR20170139474 A KR 20170139474A KR 1020170165717 A KR1020170165717 A KR 1020170165717A KR 20170165717 A KR20170165717 A KR 20170165717A KR 20170139474 A KR20170139474 A KR 20170139474A
Authority
KR
South Korea
Prior art keywords
haptic feedback
information
triggering event
user interface
present
Prior art date
Application number
KR1020170165717A
Other languages
English (en)
Inventor
황성재
Original Assignee
주식회사 퓨처플레이
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 퓨처플레이 filed Critical 주식회사 퓨처플레이
Publication of KR20170139474A publication Critical patent/KR20170139474A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0172—Head mounted characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545—Pens or stylus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416—Control or interface arrangements specially adapted for digitisers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0486—Drag-and-drop
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01—Indexing scheme relating to G06F3/01
    • G06F2203/014—Force feedback applied to GUI
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Optics & Photonics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하는 단계, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 단계를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 방법이 제공된다.

Description

사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체{METHOD, DEVICE, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR PROVIDING USER INTERFACE}
본 발명은 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어, 스마트폰, 스마트 패드 등과 같이 다양한 통신 및 센싱 기능과 강력한 연산 기능을 갖춘 이동식 스마트 디바이스가 널리 사용되고 있다. 이러한 이동식 스마트 디바이스 중에는 사용자가 신체에 착용하여 휴대할 수 있는 비교적 작은 크기의 것(예를 들면, 스마트 글래스, 스마트 워치, 스마트 밴드, 링이나 브로치와 같은 형태의 스마트 디바이스, 신체나 의류에 직접적으로 착용되거나 매립되는 스마트 디바이스 등)도 있다.
이러한 상황에서 사용자는 본인의 두 개 이상의 (이종의) 스마트 디바이스를 사용하여 어떤 작업을 수행하려고 하거나, 본인의 스마트 디바이스와 다른 사용자의 디바이스가 함께 개입될 필요가 있는 어떤 작업이 수행되게끔 하려고 할 수 있으며, 그 작업이 수행되고 있는 상태에 관한 정보를 직관적으로 제공 받기를 원할 수 있다. 그러나, 종래의 기술에 따르면, 이러한 사용자의 (잠재적인) 의도와 니즈(Needs)가 적절하게 서포팅될 수 없었다.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 트리거링 이벤트가 발생한 것으로 판단되면, 트리거링 이벤트와 연관된 제1 디바이스 및 제2 디바이스 사이의 인터랙션에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스에 인가되는 압력에 관한 정보, 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 제1 디바이스 및 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어함으로써, 두 개 이상의 디바이스가 연관된 상태에서 수행되는 작업에 관한 정보를 햅틱 피드백을 통하여 사용자에게 직관적으로 제공할 수 있도록 하는 것을 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하는 단계, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 단계를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 방법이 제공된다.
본 발명의 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 디바이스로서, 상기 디바이스 및 다른 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는 것을 감지하는 센싱 모듈, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 디바이스 및 상기 다른 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 디바이스 또는 상기 다른 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 디바이스 또는 상기 다른 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 디바이스 및 상기 다른 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 프로그램 모듈을 포함하고, 상기 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 다른 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 다른 디바이스는 상기 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 디바이스가 제공된다.
본 발명의 또 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 시스템으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 제어부, 및 상기 제1 디바이스 및 상기 제2 디바이스 중 적어도 하나로부터 제공 받은 정보를 저장하는 저장소를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 시스템이 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 디바이스, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 두 개 이상의 디바이스가 연관된 상태에서 수행되는 작업에 관한 정보를 햅틱 피드백을 통하여 사용자에게 직관적으로 제공할 수 있게 되는 효과가 달성된다.
또한, 본 발명에 의하면, 사용자의 신체에 착용되어 있는 디바이스와 사용자의 신체에 착용되어 있지 않은 디바이스 사이에서 수행되는 작업이나 사용자의 신체에 착용되어 있는 둘 이상의 디바이스 사이에서 수행되는 작업에 관한 정보를 직감시키는 다양한 패턴의 햅틱 피드백을 제공할 수 있게 되는 효과가 달성된다.
또한, 본 발명에 의하면, 디지털 디바이스를 사용하는 사용자에게 실제 펜이나 연필을 사용할 때 느낄 수 있는 실감을 제공할 수 있게 되는 효과가 달성된다.
도 1은 본 발명의 일 실시예에 따라 사용자 인터페이스를 제공하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임을 비롯한 물리적인 속성을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 5 내지 도 9는 본 발명의 일 실시예에 따라 트리거링 이벤트와 연관된 부분의 표시 상태, 컨텐츠 또는 기능을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 10 내지 도 11은 본 발명의 일 실시예에 따라 이종의 디바이스 사이에서 발생하는 인터랙션을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
전체 시스템의 구성
도 1은 본 발명의 일 실시예에 따라 사용자 인터페이스를 제공하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은 통신망(100), 사용자 인터페이스 제공 시스템(200), 및 복수의 디바이스(310, 320, 330)를 포함하여 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따른 통신망(100)은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망(100)은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망(100)은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기일 수 있다. 이러한 사용자 인터페이스 제공 시스템(200)은 서버 시스템일 수 있다. 사용자 인터페이스 제공 시스템(200)은 통신망(100)을 통하여 디바이스(310, 320, 330) 중 하나가 다른 하나로 소정의 정보나 제어 명령을 제공하거나, 하나가 다른 하나로부터 소정의 정보나 제어 명령을 제공 받도록 매개하는 기능을 수행할 수 있다.
이를 위하여, 사용자 인터페이스 제공 시스템(200)은, 아래에서 자세하게 설명되는 바와 같이, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 트리거링 이벤트가 발생한 것으로 판단되면, 트리거링 이벤트와 연관된 제1 디바이스 및 제2 디바이스 사이의 인터랙션에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스에 인가되는 압력에 관한 정보, 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 제1 디바이스 및 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어함으로써, 두 개 이상의 디바이스가 연관된 상태에서 수행되는 작업에 관한 정보를 햅틱 피드백을 통하여 사용자에게 직관적으로 제공할 수 있도록 하는 기능을 수행할 수 있다.
이와 같은 사용자 인터페이스 제공은 사용자 인터페이스 제공 시스템(200)에 의하여 포함되는 제어부(미도시됨)에 의하여 수행될 수 있다. 이러한 제어부는 사용자 인터페이스 제공 시스템(200) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태를 가질 수 있다. 또한, 프로그램 모듈은 사용자 인터페이스 제공 시스템(200)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
또한, 본 발명의 일 실시예에 따르면, 사용자 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320, 330) 사이에서 발생하는 인터랙션에 관한 정보를 저장하고, 이것이 복수의 디바이스(310, 320, 330) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 또한, 사용자 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320, 330) 중 적어도 하나로부터 제공 받은 신체 접촉 여부 또는 신체 접촉 위치에 관한 정보를 저장하고, 이것이 복수의 디바이스(310, 320, 330) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 나아가, 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320, 330) 중 적어도 하나에서 제공되고 있는 컨텐츠 또는 기능을 구성하는 정보를 저장하고, 이러한 정보가 복수의 디바이스(310, 320, 330) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 상술한 저장은 사용자 인터페이스 제공 시스템(200)에 의하여 포함되는 저장소(미도시됨)에 의하여 수행될 수 있다. 본 발명의 일 실시예에 따르면, 이러한 저장소는 컴퓨터 판독 가능한 기록 매체를 포함하는 개념으로서, 협의의 데이터베이스뿐만 아니라 파일 시스템에 기반을 둔 데이터 기록 등을 포함하는 광의의 데이터베이스일 수도 있다.
사용자 인터페이스 제공 시스템(200)의 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다. 한편, 사용자 인터페이스 제공 시스템(200)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 사용자 인터페이스 제공 시스템(200)에 요구되는 기능이나 구성요소의 적어도 일부가 필요에 따라 조작의 대상이 되는 복수의 디바이스(310, 320, 330) 중 적어도 하나에서 실현되거나 포함될 수도 있음은 당업자에게 자명하다.
마지막으로, 본 발명의 일 실시예에 따른 복수의 디바이스(310, 320, 330)는 사용자 인터페이스 제공 시스템(200) 또는 복수의 디바이스(310, 320, 330) 중 상대되는 것(바람직하게는, 복수의 디바이스(310, 320, 330)는 서로 분리되어 있거나 외부화(externalization) 되어 있을 수 있음)에 접속한 후 통신할 수 있는 기능을 포함하는 디지털 기기로서, 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 디바이스(310, 320, 330)로서 채택될 수 있다. 디바이스(310, 320, 330)는 스마트폰, 스마트 패드, 스마트 글래스, 스마트 워치, 스마트 밴드, 스마트 링, 스마트 네클레스(necklace), 스마트 펜 등과 같은 소위 스마트 디바이스이거나 데스크탑 컴퓨터, 노트북 컴퓨터, 워크스테이션, PDA, 웹 패드, 이동 전화기, 버튼, 마우스, 키보드 등과 같은 다소 전통적인 디바이스일 수 있다. 또한, 디바이스(310, 320, 330)는 리모컨, 가전기기 등의 IoT(Internet of Things) 디바이스일 수 있다. 또한, 디바이스(310, 320, 330)는 붓(blush), 컴퍼스(compass), 각도기(protractor), 가위(scissors), 자(ruler), 장갑(gloves) 등의 기능을 수행할 수 있는 필기용 스마트 디바이스일 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 사용자에게 전달되는 햅틱 피드백(예를 들면, 진동, 전기 자극 등)을 발생시킬 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 액츄에이터, 진동 모터, 전기 자극 발생기 등의 햅틱 피드백 발생 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 사용자로부터의 조작을 입력 받을 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 터치 패널, 포인팅 도구(예를 들면, 마우스, 스마트 펜 등), 사용자 조작이 가능한 그래픽 객체, 키보드, 토글 스위치, 생채 정보(지문 등) 인식 센서, 거리 센서, 호버링(hovering) 인식 센서 등의 센싱 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 그 디바이스(310, 320, 330)의 위치, 자세나 움직임에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 움직임 센서, 가속도 센서, 자이로스코프, 자기 센서, 위치 결정 모듈(GPS 모듈, 비콘 기반의 위치 결정(확인) 모듈 등), 기압계, 거리 센서, 카메라 등의 센싱 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 해당 디바이스(310, 320, 330)를 소지하고 있는 사용자의 인체로부터 획득되는 생체 정보에 기초하여 해당 디바이스(310, 320)의 위치, 자세나 움직임에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 포함될 수 있다. 이러한 기술 수단의 예로서, 근전도 신호 측정 장치 등의 센싱 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 해당 디바이스(310, 320, 330)를 소지하고 있는 사용자에 의하여 인가되는 압력에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 포함될 수 있다. 이러한 기술 수단의 예로서, 압력 센서 등의 센싱 모듈을 들 수 있다.
또한, 디바이스(310, 320, 330)에는 위와 같은 물리적인 정보를 처리하여 다른 디바이스(310, 320, 330)에 대하여 정보나 제어 명령을 제공하거나 다른 디바이스(310, 320, 330)로부터 정보나 제어 명령을 제공 받거나 이러한 정보나 제어 명령을 생성하기 위한 애플리케이션 프로그램이 더 포함되어 있을 수 있다. 이러한 애플리케이션은 해당 디바이스(310, 320, 330) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈의 성격은 전술한 바와 같은 사용자 인터페이스 제공 시스템(200)의 제어부와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.
한편, 본 발명의 일 실시예에 따르면, 제1 디바이스(310)와 제2 디바이스(320)가 소정의 연관성(예를 들면, 동일한 사용자에게 속하는 것이라는 연관성이나, 동일한 사용자를 위하여 기능하는 것이라는 연관성이나, 서로 실질적으로 가까운 곳에 배치되어 있는 것이라는 연관성이나, 이들 중 하나가 다른 하나를 인증하거나 허용하는 것이 합당하다는 연관성)을 갖는 것이라는 점이 인식되는 경우에, 제1 디바이스(310)와 제2 디바이스(320) 간에 소정의 연결이 형성될 수 있는데, 이러한 인식 또는 연결은 사용자 인터페이스 제공 시스템(200)에 의해 수행되거나 제1 디바이스(310) 및 제2 디바이스(320)에 의해 수행될 수 있다.
실시예들
아래에서는, 본 발명에 따른 사용자 인터페이스 제공 시스템(200)이 여러 실시예에 따라 복수의 디바이스(310, 320, 330)가 개입되는 사용자 인터페이스를 제공하는 구체적인 예에 관하여 자세하게 살펴보기로 한다.
본 발명의 일 실시예에 따르면, 사용자 인터페이스 제공 시스템(200)은, 제1 디바이스(310) 및 제2 디바이스(320) 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 트리거링 이벤트가 발생한 것으로 판단되면, 트리거링 이벤트와 연관된 제1 디바이스(310) 및 제2 디바이스(320) 사이의 인터랙션에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스(310) 또는 제2 디바이스(320)의 위치, 자세 또는 움직임에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스(310) 또는 제2 디바이스(320)에 인가되는 압력에 관한 정보, 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 제1 디바이스(310) 및 제2 디바이스(320) 중 적어도 하나에서 제공되는 햅틱 피드백의 속성을 제어할 수 있다. 여기서, 제2 디바이스(320)는 터치 패널이 구비된 표시 화면을 포함하고 있는 제1 디바이스(310)와 인터랙션할 수 있는 스마트 펜 디바이스일 수 있다.
본 발명의 일 실시예에 따르면, 트리거링 이벤트에는, 제1 디바이스(310)와 제2 디바이스(320)가 개입될 수 있으면서도 제1 디바이스(310), 제2 디바이스(320) 또는 사용자 인터페이스 제공 시스템(200)에 의하여 감지될 수 있는 모든 종류의 이벤트가 포함될 수 있다. 예를 들면, 트리거링 이벤트에는, 제1 디바이스(310)에 대하여 제2 디바이스(320)를 접촉시키는 조작이 발생하는 이벤트, 제1 디바이스(310)에 대하여 제2 디바이스(320)를 호버링(hovering)시키는 조작이 발생하는 이벤트 등이 포함될 수 있다. 다른 예를 들면, 트리거링 이벤트에는, 제1 디바이스(310)와 제2 디바이스(320)가 인터랙션함에 따라 제1 디바이스(310)와 제2 디바이스(320) 사이에서 데이터 전송, 결제, 보안 인증 등의 작업이 수행되는 이벤트를 포함할 수 있다. 또 다른 예를 들면, 트리거링 이벤트에는, 제1 디바이스(310)의 위치, 자세 또는 움직임과 제2 디바이스(320)의 위치, 자세 또는 움직임 사이의 상대적인 관계가 기설정된 관계(예를 들면, 제2 디바이스(320)가 제1 디바이스(310)의 표시 화면에 대하여 기설정된 각도로 기울어지는 관계 등)에 해당하게 되는 이벤트를 포함할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 트리거링 이벤트가 발생하는 것에 대응하여, 제1 디바이스(310) 또는 제2 디바이스(320)의 위치, 자세 또는 움직임을 참조로 하여 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 속성(즉, 패턴)을 결정하는 기능을 수행할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 트리거링 이벤트가 발생하는 것에 대응하여, 트리거링 이벤트와 연관된 부분의 표시 상태를 참조로 하여 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 속성(즉, 패턴)을 결정하는 기능을 수행할 수 있다. 예를 들면, 사용자가 터치하고 있는 부분에 표시되는 그래픽 객체의 컬러, 밝기, 입체감 등에 따라 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기, 시간, 발생 위치 등이 결정될 수 있다.
또한, 본 발명의 일 실시예에 따르면, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 트리거링 이벤트가 발생하는 것에 대응하여, 트리거링 이벤트와 연관된 컨텐츠 또는 기능을 참조로 하여 제1 디바이스(310) 및 제2 디바이스(320) 각각에서 제공되는 햅틱 피드백의 속성을 결정하는 기능을 수행할 수 있다.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임을 비롯한 물리적인 속성을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 2를 참조하면, 태블릿인 제1 디바이스(310)와 스마트 펜 디바이스인 제2 디바이스(320)가 이루는 각도(201, 202)에 따라 햅틱 피드백의 세기가 제어될 수 있다. 예를 들면, 제1 디바이스(310)의 표시 화면에 대한 법선 방향과 제2 디바이스(320)의 길이 방향이 이루는 각도가 작아짐에 따라(즉, 제2 디바이스(320)가 제1 디바이스(310)의 표시 화면에 대하여 상대적으로 서 있는 자세를 취하게 됨에 따라) 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 작아지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 커질 수 있다. 반대로, 제1 디바이스(310)의 표시 화면에 대한 법선 방향과 제2 디바이스(320)의 길이 방향이 이루는 각도가 커짐에 따라(즉, 제2 디바이스(320)가 제1 디바이스(310)의 표시 화면에 대하여 상대적으로 누워 있는 자세를 취하게 됨에 따라) 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 커지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 작아질 수 있다.
계속하여, 도 2를 참조하면, 스마트 펜 디바이스인 제2 디바이스(320)의 펜촉(즉, 제1 디바이스(310)의 표시 화면과의 접촉 면적)의 두께에 따라 햅틱 피드백의 세기가 제어될 수 있다. 예를 들면, 제2 디바이스(320)의 펜촉(321)의 두께가 얇아짐에 따라 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 작아지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 커질 수 있다(도 2의 (a) 참조). 반대로, 제2 디바이스(320)의 펜촉(322)의 두께가 두꺼워짐에 따라 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 커지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 작아질 수 있다(도 2의 (b) 참조).
다음으로, 도 3을 참조하면, 태블릿인 제1 디바이스(310)에서 제공되는 햅틱 피드백이 제1 디바이스(310)의 표시 화면에 대하여 수직한 Y축을 따라 그 방향이 주기적으로 전환되는 패턴으로 발생되고, 스마트 펜 디바이스인 제2 디바이스(320)에서 제공되는 햅틱 피드백이 제2 디바이스(320)의 길이 방향에 평행한 축(위의 Y축과 실질적으로 동일할 수 있음)을 따라 그 방향이 주기적으로 전환되는 패턴으로 발생되는 경우를 가정할 수 있다. 이러한 경우에, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 서로 주기가 일치하고 방향이 반대이면, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 상쇄됨에 따라 사용자가 느끼는 햅틱 피드백의 세기가 작아질 수 있다(도 3의 (a) 참조). 반대로, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 서로 주기가 일치하고 방향도 일치하면, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 서로 보강됨에 따라 사용자가 느끼는 햅틱 피드백의 세기가 커질 수 있다(도 3의 (b) 참조). 한편, 위와 같은 상쇄 또는 보강에 따른 사용자 경험의 변화는 제1 디바이스(310)의 표시 화면에 대한 법선 방향과 제2 디바이스(320)의 길이 방향이 이루는 각도가 작아짐에 따라 더 커질 수 있다.
다음으로, 도 4를 참조하면, 태블릿인 제1 디바이스(310)의 표시 화면에 대하여 스마트 펜 디바이스인 제2 디바이스(320)가 호버링되거나 터치됨에 따라 햅틱 피드백이 제공되는 위치가 달라질 수 있다. 예를 들면, 제2 디바이스(320)의 펜촉 부분이 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체가 표시된 지점으로부터 기설정된 거리 내에 떠 있는(즉, 호버링되는) 경우에, 제2 디바이스(320)에서 햅틱 피드백(401)이 제공될 수 있으며, 이에 따라 제2 디바이스(320)를 조작하고 있는 사용자가 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체를 터치하는 것이 유도될 수 있게 된다. 다른 예를 들면, 제2 디바이스(320)의 펜촉 부분이 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체가 표시된 지점에 터치되는 경우에, 제1 디바이스(320)에서 햅틱 피드백(402)이 제공될 수 있으며, 이에 따라 제2 디바이스(320)를 조작하고 있는 사용자는 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체가 터치되었다는 것을 직감할 수 있게 된다.
도 5 내지 도 9는 본 발명의 일 실시예에 따라 트리거링 이벤트와 연관된 부분의 표시 상태, 컨텐츠 또는 기능을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 5를 참조하면, 햅틱 피드백이 제공되는 위치 또는 세기가 두 개의 디바이스(310, 320) 사이에서 상보(相補)적으로 제어되는 경우를 가정할 수 있다.
구체적으로, 도 5의 (a)를 참조하면, 사용자가 스마트 펜 디바이스인 제2 디바이스(320)를 이용하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시된 그래픽 객체에 대하여 소정의 조작을 입력함으로써 해당 그래픽 객체에 대응하는 파일이 복사되는 경우에, 제1 디바이스(310)에서 제공되는 햅틱 피드백(501)의 세기가 작아지는 것과 함께 제2 디바이스(320)에서 제공되는 햅틱 피드백(502)의 세기가 커질 수 있으며, 이에 따라 사용자는 제1 디바이스(310)에서 제공되던 햅틱 피드백이 제2 디바이스(320)로 옮겨온 것과 같이 느껴지는 사용자 경험(UX, User Experience)을 제공 받을 수 있게 된다.
다음으로, 도 5의 (b)를 참조하면, 사용자가 스마트 펜 디바이스인 제2 디바이스(320)를 이용하여 태블릿인 제1 디바이스(310)의 표시 화면 상의 임의의 지점에 대하여 소정의 조작을 입력함으로써 제1 디바이스(310)의 저장소에 어떤 파일이 붙여넣기되는 경우에, 제2 디바이스(320)에서 제공되는 햅틱 피드백(504)의 세기가 작아지는 것과 함께 제1 디바이스(310)에서 제공되는 햅틱 피드백(503)의 세기가 커질 수 있으며, 이에 따라 사용자는 제2 디바이스(320)에서 제공되던 햅틱 피드백이 제1 디바이스(310)로 옮겨온 것과 같이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 6을 참조하면, 햅틱 피드백이 제공되는 위치 또는 세기가 세 개의 디바이스(310, 320, 330) 사이에서 상보(相補)적으로 제어되는 경우를 가정할 수 있다.
구체적으로, 도 6의 (a)를 참조하면, 사용자가 스마트 밴드인 제3 디바이스(330)를 손목에 착용한 손으로 스마트 펜 디바이스인 제2 디바이스(320)를 조작하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시된 그래픽 객체에 대하여 소정의 조작을 입력함으로써 해당 그래픽 객체에 대응하는 파일이 복사되는 경우에, 제1 디바이스(310)에서 제공되는 햅틱 피드백(601)의 세기가 작아지고, 이와 함께 제2 디바이스(320)에서 제공되는 햅틱 피드백(602)의 세기가 커졌다가 작아지고, 또 이와 함께 제3 디바이스(330)에서 제공되는 햅틱 피드백(603)의 세기가 커질 수 있으며, 이에 따라 사용자는 제1 디바이스(310)에서 제공되던 햅틱 피드백이 제2 디바이스(320)를 거쳐 제3 디바이스(330)로 옮겨온 것과 같이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 6의 (b)를 참조하면, 사용자가 스마트 밴드인 제3 디바이스(330)를 손목에 착용한 손으로 스마트 펜 디바이스인 제2 디바이스(320)를 조작하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시된 그래픽 객체에 대하여 소정의 조작을 입력함으로써 제1 디바이스(310)의 저장소에 어떤 파일이 붙여넣기되는 경우에, 제3 디바이스(330)에서 제공되는 햅틱 피드백(606)의 세기가 작아지고, 이와 함께 제2 디바이스(320)에서 제공되는 햅틱 피드백(605)의 세기가 커졌다가 작아지고, 또 이와 함께 제1 디바이스(310)에서 제공되는 햅틱 피드백(604)의 세기가 커질 수 있으며, 이에 따라 사용자는 제3 디바이스(330)에서 제공되던 햅틱 피드백이 제2 디바이스(320)를 거쳐 제1 디바이스(310)로 옮겨온 것과 같이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 7 및 도 8을 참조하면, 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시되는 그래픽 객체 중 스마트 펜 디바이스인 제2 디바이스(320)에 의하여 조작되는 그래픽 객체의 속성(외관, 외관에 매타포된 물질의 속성 또는 재질 등) 또는 그 그래픽 객체에 대응하는 컨텐츠의 속성(파일 크기, 개수, 유형 등)에 따라 햅틱 피드백의 속성이 제어될 수 있다.
구체적으로, 도 7을 참조하면, 스마트 펜 디바이스인 제2 디바이스(320)에 의하여 드래그되는 그래픽 객체(제1 디바이스(310)의 표시 화면 상에 표시됨)에 대응하는 컨텐츠의 파일 크기가 100MB인 경우에(711) 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백(701, 702)의 세기가 그 파일 크기가 20MB인 경우에(712) 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백(703, 704)의 세기보다 상대적으로 크게 결정될 수 있다. 이에 따라, 사용자는 컨텐츠의 파일 크기가 클수록 더 강한 저항감이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
또한, 도 8을 참조하면, 스마트 펜 디바이스인 제2 디바이스(320)에 의하여 터치되는 그래픽 객체(제1 디바이스(310)의 표시 화면 상에 표시됨)의 외관의 입체감 또는 두께가 상대적으로 작은 경우에(801) 제2 디바이스(320)의 아래쪽에 설치되어 있는 진동 모터에서 햅틱 피드백이 발생될 수 있고, 그 그래픽 객체의 외관의 입체감 또는 두께가 상대적으로 큰 경우에는(802) 제2 디바이스(320)의 위쪽에 설치되어 있는 진동 모터에서 햅틱 피드백이 발생될 수 있다. 이에 따라, 사용자는 그래픽 객체의 입체감이 직관적으로 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 9를 참조하면, 태블릿인 제1 디바이스(310)과 스마트 펜 디바이스인 제2 디바이스(320)가 인터랙션함에 있어서, 제2 디바이스(320)에 대응하여 설정되는 입력 툴의 종류(901, 902, 903, 904, 905)에 따라 햅틱 피드백의 패턴이 달라질 수 있고(도 9의 (a) 참조), 제1 디바이스의 표시 화면(310) 상에 표시되는 바탕(또는 레이어)의 재질(911, 912)에 따라 햅틱 피드백의 패턴이 달라질 수 있으며(도 9의 (b) 참조), 제2 디바이스의 종류(921, 922)에 따라 햅틱 피드백의 패턴이 달라질 수 있다(도 9의 (c) 참조).
도 10 내지 도 11은 본 발명의 일 실시예에 따라 이종의 디바이스 사이에서 발생하는 인터랙션을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 10을 참조하면, 사용자가 스마트 자 디바이스인 제3 디바이스(330)와 스마트 펜 디바이스인 제2 디바이스(320)를 함께 이용하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 소정의 그래픽 객체를 드로잉하는 경우에, 제1 디바이스(310) 또는 제3 디바이스(330)에서 햅틱 피드백이 발생되는 부분의 위치가 제2 디바이스(320)의 펜촉의 움직임에 따라 이동할 수 있다.
다음으로, 도 11을 참조하면, 사용자에 의해 조작되는 스마트 펜 디바이스인 제2 디바이스(320)가 헤드 마운티드 디바이스인 제1 디바이스(310)에 의해 발생되는 증강 현실 객체(또는 가상 현실 객체)와 인터랙션하는 경우에, 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 속성이 그 인터랙션에 기초하여 동적으로 제어될 수 있다.
이상에서는, 제1 디바이스(310)가 태블릿, 스마트폰 또는 헤드 마운티드 디바이스이고 제2 디바이스(320)가 스마트 펜 디바이스인 실시예에 대하여 주로 설명되었지만, 본 발명이 반드시 이에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 제1 디바이스와 제2 디바이스는 앞서 언급된 다른 다양한 종류의 디바이스로도 구현될 수 있음을 밝혀 둔다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 비일시성의 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 통신망
200: 사용자 인터페이스 제공 시스템
310: 제1 디바이스
320: 제2 디바이스
330: 제3 디바이스

Claims (1)

  1. 사용자 인터페이스를 제공하기 위한 방법.
KR1020170165717A 2015-12-01 2017-12-05 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 KR20170139474A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20150169742 2015-12-01
KR1020150169742 2015-12-01

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020160092097A Division KR101807655B1 (ko) 2015-12-01 2016-07-20 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Publications (1)

Publication Number Publication Date
KR20170139474A true KR20170139474A (ko) 2017-12-19

Family

ID=58797212

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020160092097A KR101807655B1 (ko) 2015-12-01 2016-07-20 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR1020170165717A KR20170139474A (ko) 2015-12-01 2017-12-05 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020160092097A KR101807655B1 (ko) 2015-12-01 2016-07-20 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Country Status (3)

Country Link
US (1) US20190025921A1 (ko)
KR (2) KR101807655B1 (ko)
WO (1) WO2017095123A1 (ko)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102268797B1 (ko) * 2017-12-28 2021-06-23 엘에스일렉트릭(주) 증강 현실 제공 시스템 및 방법
US11323556B2 (en) * 2018-01-18 2022-05-03 Samsung Electronics Co., Ltd. Electronic device and method of operating electronic device in virtual reality
US10769701B1 (en) * 2018-02-27 2020-09-08 Amazon Technologies, Inc. Sensory-based delivery of content
US20190369752A1 (en) * 2018-05-30 2019-12-05 Oculus Vr, Llc Styluses, head-mounted display systems, and related methods
GB2584167B (en) * 2019-05-24 2023-06-28 Sensae Aps User interface, user interface system and method
US11797090B2 (en) * 2021-05-13 2023-10-24 Microsoft Technology Licensing, Llc Stylus haptic output
KR102395865B1 (ko) * 2021-11-23 2022-05-10 (주)몽몽이 인공지능을 이용한 반려동물 증강현실 구현 시스템
KR102559938B1 (ko) * 2022-04-24 2023-07-27 주식회사 피앤씨솔루션 증강현실 전용 필기도구를 이용한 증강현실 텍스쳐 전시 방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8253686B2 (en) * 2007-11-26 2012-08-28 Electronics And Telecommunications Research Institute Pointing apparatus capable of providing haptic feedback, and haptic interaction system and method using the same
WO2011106798A1 (en) * 2010-02-28 2011-09-01 Osterhout Group, Inc. Local advertising content on an interactive head-mounted eyepiece
US8416066B2 (en) * 2010-04-29 2013-04-09 Microsoft Corporation Active vibrations
GB201205765D0 (en) * 2012-03-30 2012-05-16 Hiwave Technologies Uk Ltd Touch and haptics device
US9715276B2 (en) * 2012-04-04 2017-07-25 Immersion Corporation Sound to haptic effect conversion system using multiple actuators
KR101988310B1 (ko) * 2012-10-31 2019-06-12 엘지전자 주식회사 정전식 스타일러스 펜 및 이를 포함하는 이동 단말기
KR20140090318A (ko) * 2013-01-07 2014-07-17 삼성전자주식회사 햅틱 기반 카메라 운용 지원 방법 및 이를 지원하는 단말기
KR102104910B1 (ko) * 2013-02-28 2020-04-27 삼성전자주식회사 입력 유닛에 촉각 피드백을 제공하는 휴대 장치 및 그 방법
US9367136B2 (en) * 2013-04-12 2016-06-14 Microsoft Technology Licensing, Llc Holographic object feedback
KR102087392B1 (ko) * 2013-05-13 2020-04-14 삼성전자주식회사 동작 방법 및 그 전자 장치
KR101815720B1 (ko) * 2013-05-21 2018-01-05 삼성전자주식회사 진동 제어 방법 및 장치
KR102204784B1 (ko) * 2014-03-10 2021-01-19 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US9753539B2 (en) * 2014-10-02 2017-09-05 Futureplay Inc. Method, device, system and non-transitory computer-readable recording medium for providing user interface
US9990078B2 (en) * 2015-12-11 2018-06-05 Immersion Corporation Systems and methods for position-based haptic effects

Also Published As

Publication number Publication date
KR20170064456A (ko) 2017-06-09
KR101807655B1 (ko) 2017-12-11
US20190025921A1 (en) 2019-01-24
WO2017095123A1 (ko) 2017-06-08

Similar Documents

Publication Publication Date Title
KR101807655B1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
EP3548989B1 (en) Generating virtual notation surfaces with gestures in an augmented and/or virtual reality environment
US10055064B2 (en) Controlling multiple devices with a wearable input device
KR102385759B1 (ko) 컨텍스트 정보에 기초한 터치 표면에 대한 비활성 영역
KR101302138B1 (ko) 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법
US20200310561A1 (en) Input device for use in 2d and 3d environments
JP4515458B2 (ja) ３次元ポインティング方法、３次元ポインティング装置、及び３次元ポインティングプログラム
US9753539B2 (en) Method, device, system and non-transitory computer-readable recording medium for providing user interface
EP3191930A1 (en) Handedness detection from touch input
KR101318244B1 (ko) 3차원 사용자 인터페이스 구현 시스템 및 구현 방법
WO2015108112A1 (ja) 操作判定装置、操作判定方法、および、プログラム
CN109782920A (zh) 一种用于扩展现实的人机交互方法及处理终端
KR20160008890A (ko) 신체를 이용하여 터치 입력을 제공하는 장치 및 방법
JP2020510254A (ja) 表示情報及び／又はデータの同時多機能操作を可能とするディスプレイを備えたスマートデバイス
US20140359541A1 (en) Terminal and method for controlling multi-touch operation in the same
US10175767B2 (en) Method, device, system and non-transitory computer-readable recording medium for providing user interface
EP3433713B1 (en) Selecting first digital input behavior based on presence of a second, concurrent, input
KR101790216B1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR20170124593A (ko) 지능형 상호작용 방법, 장비 및 시스템
KR101916700B1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR101680698B1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
KR101793146B1 (ko) 입력 장치
KR20240036543A (ko) 혼합 현실 입출력 확장 시스템
JP2023079161A (ja) 表示制御装置、表示制御方法、及びプログラム
KR20210123920A (ko) 에어 제스처에 의한 편집 기능을 제공하기 위한 전자 장치, 그 동작 방법 및 저장 매체

Legal Events

Date Code Title Description
A107 Divisional application of patent