KR20170138937A - 기회적 디스플레이를 위한 햅틱 피드백 - Google Patents

기회적 디스플레이를 위한 햅틱 피드백 Download PDF

Info

Publication number
KR20170138937A
KR20170138937A KR1020170068880A KR20170068880A KR20170138937A KR 20170138937 A KR20170138937 A KR 20170138937A KR 1020170068880 A KR1020170068880 A KR 1020170068880A KR 20170068880 A KR20170068880 A KR 20170068880A KR 20170138937 A KR20170138937 A KR 20170138937A
Authority
KR
South Korea
Prior art keywords
display device
user
haptic
haptic effect
processor
Prior art date
Application number
KR1020170068880A
Other languages
English (en)
Inventor
빈센트 레베스크
Original Assignee
임머숀 코퍼레이션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 임머숀 코퍼레이션 filed Critical 임머숀 코퍼레이션
Publication of KR20170138937A publication Critical patent/KR20170138937A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416—Control or interface arrangements specially adapted for digitisers
    • G06K9/00604—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/19—Sensors therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01—Indexing scheme relating to G06F3/01
    • G06F2203/014—Force feedback applied to GUI

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 명세서에 개시된 하나의 예시적인 시스템은 센서 근방의 디스플레이 디바이스, 컴퓨팅 디바이스 또는 컴퓨팅 디바이스의 사용자의 시야 내에서 검출하도록 구성된 센서와 통신하는 컴퓨팅 디바이스를 포함한다. 센서는 또한 디스플레이 디바이스와 연관된 신호를 센서와 통신하는 프로세서에 송신하도록 구성될 수 있다. 프로세서는 신호에 기초하여 디스플레이 디바이스의 컨텐츠(예를 들어, 텍스트, 이미지, 사운드, 비디오 등) 및 위치를 디스플레이하거나 출력하기 위한 디스플레이 디바이스의 이용 가능성을 결정하도록 구성된다. 프로세서는 또한 디스플레이 디바이스의 이용 가능성 및 위치에 기초하여 햅틱 효과를 결정하고 햅틱 효과와 연관된 햅틱 신호를 송신하도록 구성된다. 예시적인 시스템은 또한 햅틱 신호를 수신하고 햅틱 효과를 출력하도록 구성되는 햅틱 출력 디바이스를 포함할 수 있다.

Description

기회적 디스플레이를 위한 햅틱 피드백{HAPTIC FEEDBACK FOR OPPORTUNISTIC DISPLAYS}
본 개시내용은 일반적으로 사용자 인터페이스 디바이스에 관한 것이다. 보다 구체적으로, 본 개시내용은, 제한적이지는 않지만, 기회적 디스플레이를 위한 햅틱 피드백에 관한 것이다.
현대의 많은 디바이스는 디바이스의 사용자에게 컨텐츠를 제공하는데 사용될 수 있는 디스플레이 디바이스를 포함한다. 컨텐츠는 텍스트, 이미지, 사운드, 비디오 등을 포함할 수 있다. 관중(예를 들어, 디바이스를 보는 또 다른 사용자)은 또한 디스플레이 디바이스 상에 제공된 컨텐츠를 볼 수 있다. 그러나, 일부 디스플레이 디바이스는 햅틱 피드백 능력이 결여될 수 있다. 또한, 디스플레이가 관중에게 관련될 수 있는 컨텐츠를 제공하는 경우, 관중의 주의가 디스플레이에 이끌려지지 않을 수도 있다.
본 개시내용의 다양한 실시예는 기회적 디스플레이를 위한 햅틱 피드백을 제공하는 시스템 및 방법을 제공한다.
일 실시예에서, 본 개시내용의 시스템은 컴퓨팅 디바이스 및 컴퓨팅 디바이스에 통신 가능하게 결합된 센서를 포함할 수 있다. 센서는 센서에 근접하며 컴퓨팅 디바이스의 사용자의 시야 내에 있는 디스플레이 디바이스를 검출하고 디스플레이 디바이스와 연관된 신호를 송신하도록 구성될 수 있다. 시스템은 또한 센서와 통신하는 프로세서를 포함하고, 상기 프로세서는 센서로부터 신호를 수신하고 컨텐츠(예를 들어, 텍스트, 이미지, 사운드, 비디오, 애니메이션 그래픽, 등)를 사용자에게 디스플레이하거나 출력하기 위한 디스플레이 디바이스의 이용 가능성을 결정하고 신호에 기초하여 디스플레이 디바이스의 위치를 결정하도록 구성된다. 프로세서는 또한 디스플레이 디바이스의 이용 가능성 및 디스플레이 디바이스의 위치에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정하도록 구성될 수 있다. 프로세서는 제1 햅틱 효과와 연관된 제1 햅틱 신호를 송신할 수 있다. 시스템은 제1 햅틱 신호를 수신하고 제1 햅틱 효과를 출력하도록 구성되는 햅틱 출력 디바이스를 추가로 포함할 수 있다.
또 다른 실시예에서, 본 개시내용의 방법은 컴퓨팅 디바이스에 통신 가능하게 결합된 센서에 의해, 센서에 근접하고 컴퓨팅 디바이스의 사용자의 시야 내에 있는 디스플레이 디바이스를 검출하는 단계; 센서에 의해, 디스플레이 디바이스와 연관된 센서 신호를 프로세서에 송신하는 단계를 포함할 수 있다. 본 방법은 또한 프로세서에 의해, 센서 신호에 적어도 부분적으로 기초하여 사용자에게 컨텐츠를 출력하기 위한 디스플레이 디바이스의 이용 가능성 및 디스플레이 디바이스의 위치를 결정하는 단계를 포함할 수 있다. 본 방법은 또한 상기 프로세서에 의해, 상기 디스플레이 디바이스의 이용 가능성 및 디스플레이 디바이스의 위치에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정하는 단계를 포함할 수 있다. 본 방법은 또한 프로세서에 의해, 상기 제1 햅틱 효과와 연관된 제1 햅틱 신호를 상기 햅틱 출력 디바이스애 송신하는 단계를 포함할 수 있다. 햅틱 출력 디바이스는 제1 햅틱 신호를 수신하고 제1 햅틱 효과를 출력하도록 구성될 수 있다. 또 다른 실시예는 그러한 방법을 구현하기 위한 컴퓨터 판독 가능 매체를 포함한다.
이 예시적인 실시예들은 본 발명 대상의 범위를 제한하거나 한정하기 위한 것이 아니라 오히려 본 발명의 이해를 돕기 위한 예를 제공하기 위해 언급되어 있다. 예시적인 실시예들은 상세한 설명에 논의되어 있으며, 추가적인 설명은 거기에 제공되어 있다. 다양한 실시예들에 의해 제공되는 이점은 본 명세서를 검토함으로써 및/또는 특허청구범위 대상의 하나 이상의 실시예들을 실시함으로써 더욱 이해될 수 있다.
완전하고 실행가능한 개시내용은 특히 명세서의 나머지 부분에서 제시된다. 명세서에서는 이하의 첨부 도면들을 참조한다.
도 1은 일 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백의 시스템을 나타내는 블록도이다.
도 2는 일 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백의 시스템의 실시예를 나타낸다.
도 3은 또 다른 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백의 시스템의 또 다른 실시예를 나타낸다.
도 4는 일 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백을 제공하는 방법을 수행하기 위한 단계들의 흐름도이다.
도 5는 또 다른 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백을 제공하는 또 다른 방법을 수행하기 위한 단계들의 흐름도이다.
이제, 다양한 대안적인 예시적인 실시예들 및 첨부 도면들에 대한 참조가 상세하게 이루어질 것이다. 각 예는 제한으로서가 아니라 설명으로 제공된다. 본 기술분야의 통상의 기술자들에게는 수정들 및 변형들이 이루어질 수 있다는 것이 명백할 것이다. 예를 들어, 일 실시예의 일부로서 도시되거나 설명된 특징들은 또 다른 실시예를 산출하기 위해 다른 실시예에서 사용될 수 있다. 따라서, 본 개시내용은 첨부된 청구항들 및 그들의 등가물의 범위 내에 있는 수정들 및 변형들을 포함하는 것으로 의도된다.
기회적 디스플레이를 위한 햅틱 피드백의 예시
본 개시내용의 한 예시적인 실시예는 스마트 폰 또는 스마트 워치와 같은 컴퓨팅 디바이스를 포함한다. 컴퓨팅 디바이스는 센서, 메모리, 햅틱 출력 디바이스, 및 이들 요소들 각각과 통신하는 프로세서를 포함한다.
예시적인 실시예에서, 센서는 컴퓨팅 디바이스 근처의 기회적 디스플레이 디바이스를 검출할 수 있다. 기회적 디스플레이 디바이스는 컴퓨팅 디바이스, 센서, 또는 컴퓨팅 디바이스의 사용자(예를 들어, 스마트 워치를 착용한 사용자 또는 스마트 폰의 사용자)에 근접한 디스플레이 디바이스를 포함하고, 컨텐츠를 컴퓨팅 디바이스의 사용자 또는 또 다른 사용자에게 출력하거나 디스플레이하는데 사용될 수 있다. 예를 들어, 기회적 디스플레이 디바이스는 사용자 근처에 있으며 컴퓨팅 디바이스의 사용자의 시야 내에 있는 또 다른 스마트 폰, 스마트 워치 또는 다른 디스플레이 디바이스 상의 디스플레이 디바이스일 수 있고 디스플레이 디바이스가 사용자에게 컨텐츠를 제공하는데 사용될 수 있는 컴퓨팅 디바이스와 통신할 수 있다. 따라서, 예를 들어, 사용자는 사용자의 컴퓨팅 디바이스 상에 컨텐츠를 수신할 수 있지만 기회적 디스플레이 상에 디스플레이된 컨텐츠를 보기를 원할 수 있다. 예를 들어, 사용자가 다른 사람의 맞은 편에 앉아서 다른 사람의 스마트 워치 디스플레이를 볼 수 있는 경우, 사용자는 스마트 워치가 사용자의 시야에 있는 동안 다른 사람의 스마트 워치 디스플레이 상에 특정 텍스트 메시지가 디스플레이되기를 원할 수 있다. 그렇게 함으로써 사용자는 사용자 자신의 컴퓨팅 디바이스에 액세스하거나 볼 필요없이 다른 사람에게 미치는 영향을 최소화하면서 텍스트 메시지의 컨텐츠를 볼 수 있다.
예시적인 실시예에서, 센서는 기회적 디스플레이 디바이스를 검출하고 신호를 프로세서에 송신하며, 프로세서는 신호에 기초하여 기회주의 디스플레이 디바이스의 이용 가능성 및 위치를 결정한다. 기회적 디스플레이 디바이스의 이용 가능성은 기회적 디스플레이 디바이스가 사용자에게 컨텐츠를 디스플레이하는데 이용 가능하고 및/또는 사용자에게 컨텐츠를 디스플레이하고 있다는 것을 표시할 수 있다. 이러한 실시예에서, 프로세서는 컨텐츠를 포함하는 데이터를 기회적 디스플레이 디바이스에 의해 출력되도록 기회적 디스플레이 디바이스에 송신하도록 구성될 수 있다. 예시적인 실시예에서, 프로세서는 기회적 디스플레이 디바이스의 이용 가능성에 적어도 부분적으로 기초한 제1 햅틱 효과 및 기회적 디스플레이 디바이스의 위치에 적어도 부분적으로 기초한 제2 햅틱 효과를 결정하도록 구성된다. 이러한 햅틱 신호는 결합되어 단일의 복합 햅틱 효과를 형성할 수 있다.
예시적인 실시예에서, 프로세서는 제1 햅틱 효과와 연관된 제1 햅틱 신호 및 제2 햅틱 효과와 연관된 제2 햅틱 신호를 햅틱 출력 디바이스에 송신하도록 구성된다. 햅틱 출력 디바이스는 기회적 디스플레이 디바이스의 이용 가능성과 연관된 하나 이상의 제1 햅틱 효과(예를 들어, 텍스처, 진동, 스트로킹 센세이션(stroking sensation) 및/또는 찌르는 센세이션(stinging sensation))를 출력하도록 구성된다. 예시적인 실시예에서, 하나 이상의 제1 햅틱 효과는 기회적 디스플레이 디바이스가 이용 가능하다는 것을 컴퓨팅 디바이스의 사용자에게 표시할 수 있다(예를 들어, 사용자와 관련될 수 있는 프로세서로부터 수신된 컨텐츠를 디스플레이 함).
예시적인 실시예에서, 햅틱 출력 디바이스는 또한 기회적 디스플레이 디바이스의 위치와 연관된 하나 이상의 제2 햅틱 효과를 출력하도록 구성된다. 이러한 실시예에서, 하나 이상의 제2 햅틱 효과는 컴퓨팅 디바이스의 사용자에게 기회적 디스플레이 디바이스의 위치(예를 들어, 사용자가 기회적 디스플레이 디바이스 상에 디스플레이되는 컨텐츠를 보기 위해 보아야 하는 곳)를 표시한다. 이러한 방식으로, 제1 및 제2 햅틱 효과는 기회적 디스플레이 디바이스 상에 디스플레이된 컨텐츠를 볼 수 있는 시간 및 볼 수 있는 위치를 컴퓨팅 디바이스의 사용자에게 표시한다.
예시적인 실시예에서, 기회적 디스플레이 디바이스는 센서, 메모리, 햅틱 출력 디바이스, 및 이들 요소들 각각과 통신하는 프로세서를 포함할 수 있다. 이러한 실시예에서, 센서는 컴퓨팅 디바이스의 사용자의 시야 또는 사용자의 응시 방향을 검출할 수 있다. 예를 들어, 기회적 디스플레이는 비디오 스크린에 대해 통과하는 사용자의 시야를 검출하기 위한 내장형 또는 근접 센서를 갖는 비디오 스크린을 포함할 수 있다. 센서는 컴퓨팅 디바이스의 사용자의 시야의 방향에 기초하여 햅틱 신호를 햅틱 출력 디바이스로 송신하는 프로세서에 신호를 송신할 수 있다. 햅틱 출력 디바이스는 프로세서로부터 햅틱 신호를 수신하고 컴퓨팅 디바이스의 사용자의 시야와 연관된 하나 이상의 햅틱 효과를 출력하도록 구성된다. 예시적인 실시예에서, 햅틱 출력 효과는 컴퓨팅 디바이스의 사용자가 기회적 디스플레이 디바이스를 보고 있다는 것을 기회적 디스플레이 디바이스와 연관된 또 다른 사용자(예를 들어, 기회적 디스플레이 디바이스로서 사용되는 스마트 워치를 착용한 사용자)에게 표시할 수 있다.
이러한 예시적인 예들은 독자들에게 본원에서 논의되는 일반적 대상을 소개하기 위하여 주어지며, 개시된 개념들의 범주를 제한하려는 의도는 아니다. 이하의 섹션들은 도면들을 참조하여 다양한 추가적인 특징들 및 예들을 설명하며, 도면들에서 유사한 참조번호들은 유사한 요소들을 나타내고, 방향성 설명들은 예시적인 예들을 설명하기 위해 사용되지만, 예시적인 예들이 본 개시내용을 제한하기 위해 사용되어선 안된다.
기회적 디스플레이를 위한 햅틱 피드백의 예시적 시스템
도 1은 일 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백의 시스템(100)을 나타내는 블록도이다. 도 1에 도시된 실시예에서, 시스템(100)은 버스(106)를 통해 다른 하드웨어와 통신하는 프로세서(102)를 갖는 컴퓨팅 디바이스(101)를 포함한다. 컴퓨팅 디바이스(101)는 예를 들어, 모바일 디바이스(예를 들어, 스마트 폰), 태블릿, e-리더, 스마트 워치, 헤드 장착 디스플레이, 안경, 착용 디바이스 등을 포함할 수 있다.
RAM, ROM, EEPROM 등과 같은 임의의 적합한 유형의(tangible)(그리고 비일시적인) 컴퓨터 판독 가능 매체를 포함할 수 있는 메모리(104)는 컴퓨팅 디바이스(101)의 동작을 구성하는 프로그램 컴포넌트들을 구현한다. 도시된 실시예에서, 컴퓨팅 디바이스(101)는 하나 이상의 네트워크 인터페이스 디바이스(110), 입/출력(I/O) 인터페이스 컴포넌트(112) 및 스토리지(114)를 더 포함한다.
네트워크 인터페이스 디바이스(110)는 네트워크 접속을 용이하게 하는 임의의 컴포넌트들 중 하나 이상을 나타낼 수 있다. 그 예로는 이더넷, USB, IEEE 1394와 같은 유선 인터페이스, 및/또는 IEEE 802.11, 블루투스, 또는 셀룰러 전화 네트워크에 액세스하기 위한 무선 인터페이스(예를 들어, CDMA, GSM, UMTS, 또는 다른 모바일 통신 네트워크에 액세스하기 위한 트랜스시버/안테나)와 같은 무선 인터페이스가 있지만 이들에 제한되지 않는다.
I/O 컴포넌트들(112)은, 데이터를 입력하거나 데이터를 출력하는데 사용되는 하나 이상의 디스플레이(134), 게임 제어기, 키보드, 마우스, 조이스틱, 카메라, 버튼, 스피커, 마이크로폰 및/또는 다른 하드웨어와 같은 디바이스들에 대한 유선 또는 무선 접속을 용이하게 하기 위해 사용될 수 있다. 스토리지(114)는 컴퓨팅 디바이스(101)에 포함되거나 프로세서(102)에 결합된 자기, 광학 또는 다른 저장 매체와 같은 비휘발성 스토리지를 나타낸다.
일부 실시예에서, 컴퓨팅 디바이스(101)는 터치 감지 표면(116)을 포함한다. 터치 감지 표면(116)은 사용자의 촉각 입력을 감지하도록 구성되는 임의의 표면을 나타낸다. 하나 이상의 터치 센서(108)는 터치 영역 내의 터치(예를 들어, 대상이 터치 감지 표면(116)을 접촉하는 경우)를 검출하고, 터치와 연관된 신호를 프로세서(102)에 송신하도록 구성된다. 임의의 적당한 수, 유형 또는 배열의 터치 센서(108)가 사용될 수 있다. 예를 들어, 저항성 및/또는 용량성 센서들이 터치 감지 표면(116)에 내장되어, 터치의 위치 및 다른 정보, 예를 들어, 압력, 속도 및/또는 방향을 결정하는데 이용될 수 있다.
터치 센서(108)는, 부가적으로 또는 대안적으로, 다른 유형의 센서들을 포함할 수 있다. 예를 들어, 터치 감지 표면(116)의 뷰와 함께 광학 센서들이 터치 위치를 결정하는 데 사용될 수 있다. 또 다른 예로서, 터치 센서(108)는 디스플레이의 측면에 탑재된 LED(Light Emitting Diode) 손가락 검출기를 포함할 수 있다. 일부 실시예들에서, 터치 센서(108)는 사용자 상호작용의 복수의 양태를 검출하도록 구성될 수 있다. 예를 들어, 터치 센서(108)는 사용자 상호작용의 속도, 압력, 및 방향을 검출하고, 이 정보를 프로세서(102)로 송신되는 신호 내에 포함시킬 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 터치 감지 표면(116) 및 컴퓨팅 디바이스(101)의 디스플레이(134)를 조합하는 터치 인에이블형 디스플레이를 포함한다. 터치 감지 표면(116)은 디스플레이(134) 외부에 대응하거나 또는 디스플레이(134)의 컴포넌트들 위의 하나 이상의 재료 층에 대응할 수 있다. 다른 실시예들에서, 컴퓨팅 디바이스(101)는 컴퓨팅 디바이스(101)에 인터페이스되는 시스템(11)에 포함되어 있는 디스플레이(134)에 제공된 그래픽 사용자 인터페이스에 매핑될 수 있는 터치 감지 표면(116)을 포함한다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 카메라(130)를 포함한다. 카메라(130)가 도 1에서 컴퓨팅 디바이스(101)의 내부에 있는 것으로 도시되어 있지만, 일부 실시예들에서, 카메라(130)는 컴퓨팅 디바이스(101)의 외부에 있고 이 컴퓨팅 디바이스와 통신할 수 있다. 일례로서, 카메라(130)는 컴퓨팅 디바이스(101)의 외부에 있고, 이더넷, USB, IEEE 1394와 같은 유선 인터페이스, 및/또는 IEEE1 802.11, 블루투스, 또는 라이오 인터페이스와 같은 무선 인터페이스를 통해 이 컴퓨팅 디바이스와 통신할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 하나 이상의 센서(132)를 포함한다. 일부 실시예들에서, 센서(132)는 예를 들어, 자이로스코프, 가속도계, GPS(global positioning system) 유닛, 거리 센서(range sensor), 깊이 센서, 블루투스 디바이스, 카메라, 적외선 센서, QR(quick response) 코드 센서 등을 포함할 수 있다. 일부 실시예들에서, 센서(132)는 예를 들어, 디바이스를 식별할 수 있는 신체 착용 카메라(예를 들어, 구글 글라스)를 포함하는 카메라를 포함할 수 있다. 일부 실시예들에서, 컴퓨팅 디바이스(101)는 착용 디바이스(예를 들어, 안경)를 포함할 수 있고 센서(132)는 컴퓨팅 디바이스(101)의 사용자의 응시, 시선 또는 시야를 검출하기 위한 임의의 디바이스를 포함할 수 있다. 일부 실시예들에서, 센서(132)는 컴퓨팅 디바이스(101) 외부에 있고, 컴퓨팅 디바이스와 유선 또는 무선 통신한다.
일부 실시예들에서, 센서(132)는 센서(132), 컴퓨팅 디바이스(101), 또는 컴퓨팅 디바이스(101)의 사용자에 근접해 있는 기회적 디스플레이 디바이스(예를 들어, 디스플레이 디바이스(136) 또는 또 다른 컴퓨팅 디바이스)의 이용 가능성, 존재 또는 위치를 검출할 수 있다. 일례로서, 센서(132)는 센서(132)와 디스플레이 디바이스 간의 신호 세기를 분석함으로써 다른 블루투스 디바이스(예를 들어, 블루투스 디스플레이 디바이스) 또는 네트워크 디바이스의 존재 및 위치를 검출하도록 구성된 블루투스 디바이스 또는 다른 네트워크 디바이스일 수 있다. 일부 실시예들에서, 센서(132)는 (예를 들어, 센서(132)와 디스플레이 디바이스 간의 블루투스 신호의 세기에 기초하여) 센서(132), 컴퓨팅 디바이스(101), 또는 컴퓨팅 디바이스(101)의 사용자와 디스플레이 디바이스 간의 거리를 검출할 수 있다. 또 다른 예로서, 센서(132)는 실내 위치 확인 기술을 사용하여 디스플레이 디바이스의 이용 가능성, 존재 또는 위치를 결정할 수 있다. 또 다른 예에서, 센서(132)는 센서(132), 컴퓨팅 디바이스(101) 또는 컴퓨팅 디바이스(101)의 사용자에 대한 포지션 또는 위치에 관한 데이터를 서버 또는 다른 디바이스에 전송할 수 있다. 이에 응답하여, 서버 또는 다른 디바이스는 센서(132)에 의해 송신된 데이터에 기초하여 센서(132) 또는 컴퓨팅 디바이스(101) 근처에 있는 다른 디바이스(예를 들어, 디스플레이 디바이스(136))의 포지션, 위치 또는 이용 가능성에 관한 데이터를 송신할 수 있다.
일부 실시예들에서, 센서(132)는 센서(132) 근처의 디바이스에 관한 다른 데이터를 검출할 수 있다. 예를 들어, 센서(132)는 센서(132) 근처의 디바이스(예를 들어, 디스플레이 디바이스(136))의 유형, 크기, 형상 등을 검출할 수 있다.
일부 실시예들에서, 프로세서(102)는 단일의 센서(132)와 통신할 수 있고, 다른 실시예들에서, 프로세서(102)는 복수의 센서들(132), 예를 들어, 자이로스코프, 가속도계, 및 블루투스 디바이스와 통신할 수 있다. 센서(132)는 센서 신호를 프로세서(102)에 전송하도록 구성된다.
일부 실시예들에서, 시스템(100)은 프로세서(102)와 통신하는 햅틱 출력 디바이스(118)를 더 포함한다. 햅틱 출력 디바이스(118)는 햅틱 신호에 응답하여 햅틱 효과를 출력하도록 구성된다. 예를 들어, 햅틱 출력 디바이스(118)는 프로세서(102)로부터의 햅틱 신호에 응답하여 햅틱 효과를 출력할 수 있다. 일부 실시예들에서, 햅틱 출력 디바이스(118)는 예를 들어, 진동, 스퀴즈(squeeze), 포크(poke), 인지된 마찰 계수의 변화, 시뮬레이팅된 질감, 스트로킹 센세이션, 전기 촉각 효과, 또는 표면 변형(예를 들어, 컴퓨팅 디바이스(101)와 연관된 표면의 변형), 및/또는 고체, 액체 또는 가스의 퍼프(puff)를 포함하는 햅틱 효과를 출력하도록 구성된다. 또한, 일부 햅틱 효과들은 동일하거나 상이한 유형들의 복수의 햅틱 출력 디바이스들(118)을 순차적으로 및/또는 일제히 이용할 수 있다. 단일 햅틱 출력 디바이스(118)가 도 1에 도시되어 있지만, 일부 실시예들은 햅틱 효과를 생성하기 위해 동일하거나 상이한 유형의 복수의 햅틱 출력 디바이스(118)를 이용할 수 있다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 프로세서(102)와 통신하며 컴퓨팅 디바이스(101) 내부에 있다. 일부 실시예들에서, 햅틱 출력 디바이스(118)는 컴퓨팅 디바이스(101)의 외부에 있고 (예를 들어, 이더넷, USB, IEEE 1394와 같은 유선 인터페이스들 및/또는 IEEE 802.11, 블루투스 또는 라디오 인터페이스들과 같은 무선 인터페이스들을 통해) 컴퓨팅 디바이스(101)와 통신한다. 예를 들어, 햅틱 출력 디바이스(118)는 착용 디바이스(예를 들어, 손목 밴드, 팔찌, 모자, 머리띠 등)와 연관(예를 들어, 결합)될 수 있고 프로세서(102)로부터 햅틱 신호를 수신하도록 구성될 수 있다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 진동을 포함하는 햅틱 효과를 출력하도록 구성된다. 햅틱 출력 디바이스(118)는, 예를 들어 압전 액추에이터, 전기 모터, 전자기 액추에이터, 보이스 코일, 형상 기억 합금, 전기 활성 폴리머(electro-active polymer), 솔레노이드, 편심 회전 질량 모터(ERM)(eccentric rotating mass motor) 또는 선형 공진 액추에이터(LRA)(linear resonant actuator) 중 하나 이상을 포함할 수 있다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 햅틱 출력 디바이스(118)와 연관되는 표면의 인지된 마찰 계수를 조절하는 햅틱 효과를 출력하도록 구성된다. 일 실시예에서, 햅틱 출력 디바이스(118)는 초음파 액추에이터를 포함한다. 초음파 액추에이터는 햅틱 출력 디바이스(118)와 연관된 표면의 인지된 마찰 계수를 증가 또는 감소시키는 초음파 주파수, 예를 들어 20kHz로 진동할 수 있다. 일부 실시예들에서, 초음파 액추에이터는 압전 재료를 포함할 수 있다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 햅틱 효과를 출력하기 위해, 예를 들어 정전 액추에이터(electrostatic actuator)를 사용하여 정전기 인력을 사용한다. 이러한 햅틱 효과는, 컴퓨팅 디바이스(101)와 연관된 표면(예를 들어, 터치 감지 표면(116)) 상의, 시뮬레이팅된 질감(texture), 시뮬레이팅된 진동, 스트로킹 센세이션(stroking sensation), 또는 마찰 계수의 인지된 변화를 포함할 수 있다. 일부 실시예들에서, 정전 액추에이터는 도전층 및 절연층을 포함할 수 있다. 도전층은 임의의 반도체, 또는 구리, 알루미늄, 금 또는 은과 같은 다른 도전성 재료일 수 있다. 절연층은 유리, 플라스틱, 폴리머, 또는 임의의 다른 절연 재료일 수 있다. 또한, 프로세서(102)는 도전층에 전기 신호, 예를 들어 AC 신호를 인가함으로써 정전 액추에이터를 동작시킬 수 있다. 일부 실시예들에서, 고전압 증폭기는 AC 신호를 생성할 수 있다. 전기 신호는 터치 감지 표면(116) 근처에 있거나 이것을 터치하는 객체(예를 들어, 사용자의 손가락 또는 다른 신체 부위, 또는 스타일러스)와 도전층 사이에 용량성 결합을 생성할 수 있다. 객체와 도전층 사이의 인력 레벨들을 변화시키는 것은 사용자에 의해 인지되는 햅틱 효과를 변화시킬 수 있다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 변형 햅틱 효과(deformation haptic effect)를 출력하도록 구성되는 변형 디바이스를 포함한다. 변형 햅틱 효과는 컴퓨팅 디바이스(101)와 연관되는 표면의 부분들을 높이거나 낮추는 것을 포함할 수 있다. 예를 들어, 변형 햅틱 효과는 터치 감지 표면(116)의 부분들을 높이는 것을 포함할 수 있다. 일부 실시예들에서, 변형 햅틱 효과는 컴퓨팅 디바이스(101)와 연관된 표면을 구부리기(bending), 접기(folding), 말기(rolling), 비틀기(twisting), 스퀴징(squeezing), 플렉싱(flexing), 형상을 변경, 또는 다른 방식으로 변형하는 것을 포함할 수 있다. 예를 들어, 변형 햅틱 효과는 컴퓨팅 디바이스(101) 또는 컴퓨팅 디바이스(101)와 연관된 표면(예를 들어, 터치 감지 표면(116)) 상에 힘을 가할 수 있어, 이것이 구부러지거나, 접히거나, 둥글게 말리거나, 비틀리거나, 압착되거나, 굽혀지거나, 형상을 변경하거나, 또는 다른 방식으로 변형되게 한다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 변형 햅틱 효과를 출력하기 위해 (예를 들어, 컴퓨팅 디바이스(101)와 연관되는 표면을 구부리거나 변형시키기 위해) 구성되는 유체(fluid)를 포함한다. 예를 들어, 유체는 스마트 젤(smart gel)을 포함할 수 있다. 스마트 젤은 자극 또는 자극들(예를 들어, 전계, 자계, 온도, 자외선, 셰이킹(shaking), 또는 pH 변동)에 응답하여 변하는 기계적이거나 구조적인 속성들을 가진 유체를 포함한다. 예를 들어, 자극에 응답하여, 스마트 젤은 강성, 체적, 투명도, 및/또는 색상이 변할 수 있다. 일부 실시예들에서, 강성은 컴퓨팅 디바이스(101)와 연관된 표면(예를 들어, 터치 감지 표면(116))의 변형에 대한 저항을 포함할 수 있다. 일부 실시예들에서, 하나 이상의 배선이 스마트 젤에 내장되거나 그에 결합될 수 있다. 이러한 배선들을 통해 전류가 흐르면, 열이 방출되어, 스마트 젤이 확장 또는 축소되게 하여, 컴퓨팅 디바이스(101) 또는 컴퓨팅 디바이스(101)와 연관된 표면을 변형시킨다.
또 다른 예로서, 유체는 유변(예를 들어, 자기 유변 또는 전기 유변) 유체를 포함할 수 있다. 유변학적 유체는 유체(예를 들어, 오일 또는 물)에 현탁되어 있는 금속 입자들(예를 들어, 철 입자들)을 포함한다. 전기장 또는 자기장에 응답하여, 유체 내의 분자들의 순서가 재정렬되어, 유체의 전체적인 감쇠 및/또는 점도를 변경할 수 있다. 이는 컴퓨팅 디바이스(101) 또는 컴퓨팅 디바이스(101)와 연관된 표면이 변형되게 할 수 있다.
일부 실시예들에서, 햅틱 출력 디바이스(118)는 기계적 변형 디바이스를 포함한다. 예를 들어, 일부 실시예들에서, 햅틱 출력 디바이스(118)는 변형 컴포넌트를 회전시키는 암(arm)에 결합되는 액추에이터를 포함할 수 있다. 변형 컴포넌트는, 예를 들어 타원형, 별 모양의, 또는 물결 모양의 형상을 포함할 수 있다. 변형 컴포넌트는 일부 회전 각도들로 컴퓨팅 디바이스(101)와 연관된 표면을 이동시키도록 구성될 수 있는데, 다른 것들에서는 그렇지 않다. 액추에이터는 압전 엑추에이터, 회전/선형 액추에이터, 솔레노이드, 전기 활성 폴리머 액추에이터, 매크로 섬유 복합재(macro fiber composite)(MFC) 액추에이터, 형상 기억 합금(shape memory alloy)(SMA) 액추에이터, 및/또는 기타 액추에이터를 포함할 수 있다. 액추에이터가 변형 컴포넌트를 회전시킬 때, 변형 컴포넌트는 표면을 움직여서, 표면이 변형되게 할 수 있다. 이러한 실시예에서, 변형 컴포넌트는 표면이 평평한 위치에서 시작될 수 있다. 프로세서(102)로부터 신호를 수신한 것에 응답하여, 액추에이터는 변형 컴포넌트를 회전시킬 수 있다. 변형 컴포넌트를 회전시키는 것은 표면의 하나 이상의 부분이 올라가거나 내려가게 할 수 있다. 일부 실시예들에서, 변형 컴포넌트는 프로세서(102)가 액추에이터에게 변형 컴포넌트를 회전시켜 그 최초 위치로 돌아가도록 시그널링할 때까지 이 회전된 상태에 남아 있을 수 있다.
또한, 다른 기술들 또는 방법들이 컴퓨팅 디바이스(101)와 연관된 표면을 변형시키는데 사용될 수 있다. 예를 들어, 햅틱 출력 디바이스(118)는 표면 재구성 가능 햅틱 기판(예를 들어, 섬유들, 나노 튜브들, 전기 활성 폴리머들, 압전 요소들, 또는 형상 기억 합금들을 포함하지만 이에 국한되지 않음)으로부터의 접촉에 기초하여 그 표면을 변형시키거나 또는 그 질감을 변경하도록 구성되는 가요성 표면층(flexible surface layer)을 포함할 수 있다. 일부 실시예들에서, 햅틱 출력 디바이스(118)는, 예를 들어, 변형 메커니즘(예를 들어, 배선들에 결합된 모터), 공기 또는 유체 포켓들, 재료들의 국부적 변형, 공진하는 기계적 요소들, 압전 재료들, MEMS(micro-electromechanical systems) 요소들 또는 펌프들, 열 유체 포켓들, 가변 다공성 막들(variable porosity membranes), 또는 층류 변조(laminar flow modulation)에 의해 변형된다.
메모리(104)로 되돌아 가면, 일부 실시예에서 기회적 디스플레이를 위한 햅틱 피드백을 제공하기 위해 디바이스가 어떻게 구성될 수 있는지를 나타내는 모듈(124, 126 및 128, 129)이 도시되어 있다.
이 예에서, 검출 모듈(124)은 터치의 위치를 결정하기 위해서 터치 센서(108)를 통해 터치 감지 표면(116)을 모니터링하도록 프로세서(102)를 구성한다. 예를 들어, 검출 모듈(124)은, 터치의 존재 또는 부재를 추적하기 위해, 터치가 존재하면, 터치의 위치, 경로, 속도, 가속도, 압력 및/또는 다른 특성들 중 하나 이상을 시간에 대해 추적하기 위해, 터치 센서(108)를 샘플링할 수 있다.
일부 실시예들에서, 컨텐츠 제공 모듈(129)은 컨텐츠(예를 들어, 텍스트, 이미지, 사운드, 비디오 등)를 사용자(예를 들어, 컴퓨팅 디바이스(101)의 사용자 또는 또 다른 사용자)에게 제공하도록 프로세서(102)를 구성한다. 일례로서, 컨텐츠 제공 모듈(129)은 임의의 포맷(예를 들어, 애니메이션 그래픽 교환 포맷)의 이미지를 사용자에게 제공하도록 프로세서(102)를 구성한다. 컨텐츠가 컴퓨터 생성 이미지를 포함하는 경우, 컨텐츠 제공 모듈(129)은 디스플레이 디바이스(예를 들어, 컴퓨팅 디바이스의 디스플레이(134), 디스플레이 디바이스(136) 또는 프로세서(102)에 통신 가능하게 결합된 또 다른 디스플레이) 상에 디스플레이하기 위한 이미지를 생성하도록 구성된다. 컨텐츠가 비디오 및/또는 정지 이미지를 포함하는 경우, 컨텐츠 제공 모듈(129)은 비디오 및/또는 정지 이미지에 접근하고, 디스플레이 디바이스 상에 디스플레이하기 위한 비디오 및/또는 정지 이미지의 뷰를 생성하도록 구성된다. 컨텐츠가 오디오 컨텐츠를 포함하는 경우, 컨텐츠 제공 모듈(129)은 대응하는 사운드를 출력하기 위해, 디스플레이 디바이스의 부분일 수 있는, 스피커를 구동할 전자 신호를 생성하도록 구성된다. 일부 실시예들에서, 컨텐츠 또는 컨텐츠가 유도되는 정보는 도 1에 도시된 바와 같이 컴퓨팅 디바이스(101)의 일부일 수 있거나 컴퓨팅 디바이스(101)와 분리되어 컴퓨팅 디바이스(101)에 통신 가능하게 결합될 수 있는 스토리지(114)로부터 컨텐츠 제공 모듈(129)에 의해 획득될 수 있다. 일부 실시예들에서, 컨텐츠 제공 모듈(129)은 프로세서(102)가 컨텐츠를 또 다른 디바이스에 송신하게 할 수 있다. 일례로서, 컨텐츠 제공 모듈(129)은 컨텐츠를 생성하거나 이에 액세스하여 프로세서로 하여금 디스플레이 디바이스(136)에 컨텐츠를 전송하게 할 수 있다.
일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 생성할 햅틱 효과를 결정하기 위해 데이터를 분석하는 프로그램 컴포넌트를 나타낸다. 햅틱 효과 결정 모듈(126)은 하나 이상의 알고리즘 또는 룩업 테이블을 이용하여 출력할 하나 이상의 햅틱 효과를 선택하는 코드를 포함할 수 있다. 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 햅틱 효과를 결정하기 위해 프로세서(102)에 의해 이용 가능한 하나 이상의 알고리즘들 또는 룩업 테이블들을 포함한다.
특히, 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 센서(132)로부터 수신된 센서 신호에 적어도 부분적으로 기초하여 햅틱 효과를 결정할 수 있다. 예를 들어, 프로세서(102)는 센서(132)로부터 센서 신호를 수신하여 컴퓨팅 디바이스(101) 부근의 디스플레이 디바이스(예를 들어, 디스플레이 디바이스(136))의 이용 가능성을 결정할 수 있다. 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스의 결정된 이용 가능성에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정할 수 있다. 예를 들어, 이러한 일 실시예에서, 햅틱 효과 결정 모듈(126)은 컴퓨팅 디바이스(101)와 연관된 사용자(예를 들어, 컴퓨팅 디바이스를 착용한 사용자)에게 출력되는 제1 햅틱 효과를 결정하여 디스플레이 디바이스가 사용 가능한 사용자에게 표시할 수 있다(예를 들어, 사용자와 관련될 수 있는 컨텐츠를 표시할 수 있다).
예를 들어, 디스플레이 디바이스(136)는 컴퓨팅 디바이스(101) 근처에 있을 수 있고 센서(132)는 (예를 들어, 센서(132)와 디스플레이 디바이스(136) 간의 블루투스 신호의 세기에 기초하여) 블루투스를 통해 디스플레이 디바이스(136)를 검출할 수 있다. 컴퓨팅 디바이스(101)는 센서(132)로부터 신호를 수신하고, 디스플레이 디바이스(136)가 이용 가능하다는 것(예를 들어, 디스플레이 디바이스(136)가 블루투스를 통해 컴퓨팅 디바이스(101)에 접속하여 컴퓨팅 디바이스(101)로부터 컨텐츠를 수신하기 위해 발견 가능하고 이용 가능하다는 것)을 결정할 수 있다. 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스(136)가 사용자 근처에 있고 디스플레이 디바이스(136)에 의해 디스플레이 되도록 블루투스를 통해 컴퓨팅 디바이스(101)로부터 컨텐츠를 수신하고 있음을 사용자에게 표시하도록 출력될 진동 또는 일련의 진동을 결정할 수 있다.
일부 실시예들에서, 프로세서(102)는 센서(132)로부터 센서 신호를 수신하여 디스플레이 디바이스의 위치 또는 포지션을 결정할 수 있다. 이러한 실시예에서, 프로세서(102)는 센서(132), 컴퓨팅 디바이스(101) 또는 컴퓨팅 디바이스(101) 또는 센서(132)와 연관된 사용자와 디스플레이 디바이스(136) 간의 거리를 결정할 수 있다. 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스의 결정된 위치 또는 포지션에 적어도 부분적으로 기초하여 제2 햅틱 효과를 결정할 수 있다. 제2 햅틱 효과는 디스플레이 디바이스(136)의 위치 또는 포지션을 표시할 수 있는 하나 이상의 햅틱 효과를 포함할 수 있다. 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스(136)의 위치 또는 포지션에 기초하여 햅틱 효과의 특성(예를 들어, 크기, 지속 시간, 위치, 유형, 주파수 등)을 결정할 수 있다. 예를 들어, 이러한 일 실시예에서, 햅틱 효과 결정 모듈(126)은 사용자에 대한 디스플레이 디바이스(136)의 위치(예를 들어, 수직 또는 수평 위치)를 사용자에게 표시하기 위해 컴퓨팅 디바이스(101)의 사용자에게 출력되는 제2 햅틱 효과를 결정할 수 있다.
일례로서, 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스(136)가 사용자의 좌측에 위치한다면 햅틱 효과를 결정할 수 있고, 디스플레이 디바이스(136)가 사용자의 앞에 있다면 또 다른 햅틱 효과를 결정할 수 있으며, 디스플레이 디바이스(136)가 사용자 위에 있다면 또 다른 햅틱 효과를 결정할 수 있다. 또 다른 예로서, 햅틱 효과 결정 모듈(126)은 사용자가 디스플레이 디바이스(136)로부터 멀리 떨어져 있으면 약하거나 짧은 햅틱 효과를 결정할 수 있고, 또는 사용자가 디스플레이 디바이스(136) 근처에 있으면 강하거나 긴 햅틱 효과를 결정할 수 있다.
일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 사용자에 대한 디스플레이 디바이스(136)의 위치를 사용자에게 표시하도록 순차적 햅틱 피드백을 결정할 수 있다. 이러한 실시예들에서, 햅틱 효과 결정 모듈(126)은 (예를 들어, 사용자의 팔을 따라 일련의 햅틱 출력을 결정함으로써) 방향을 향한 흐름의 인식을 생성할 수 있는 하나 이상의 햅틱 효과를 결정할 수 있으며, 사용자에 대한 디스플레이 디바이스(136)의 방향을 표시할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 컴퓨팅 디바이스(101)의 사용자에 대한 디바이스(예를 들어, 디스플레이 디바이스(136))의 위치와 연관된 다양한 출력 효과를 제공하는 하나 이상의 햅틱 출력 디바이스(118)를 포함할 수 있다.
일부 실시예들에서, 프로세서(102)는 센서(132)로부터 센서 신호를 수신하여 디스플레이 디바이스의 크기, 유형, 형상 또는 다른 속성을 결정할 수 있다. 이러한 실시예에서, 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스의 크기, 유형, 형상 또는 다른 속성을 표시하기 위해 하나 이상의 햅틱 효과를 결정할 수 있다. 예를 들어, 햅틱 효과는 디스플레이 디바이스의 크기(디스플레이 디바이스가 큰 경우, 예를 들어, 대형 LCD 스크린인 경우에는 강한 진동을, 그리고 디스플레이 디바이스가 작은 경우, 예를 들어, 스마트 워치의 경우에는 약한 진동을)에 기초하여 선택될 수 있다.
또 다른 실시예에서, 햅틱 효과 결정 모듈(126)은 컨텐츠 제공 모듈(129)에 의해 제공된 컨텐츠에 기초하여 햅틱 효과를 결정하는 코드를 포함할 수 있다. 예를 들어, 컨텐츠 제공 모듈(129)은 디스플레이 디바이스(136) 상에 출력될 시각적 컨텐츠를 제공할 수 있다. 일 실시예에서, 햅틱 효과 결정 모듈(126)은 시각적 컨텐츠와 연관된 햅틱 효과를 결정할 수 있다. 예를 들어, 그러한 일 실시예에서, 햅틱 효과 결정 모듈(126)은 디스플레이 디바이스(136)에 의해 제공되는 비디오와 연관된 햅틱 트랙을 제공하기 위한 햅틱 효과를 결정할 수 있다. 햅틱 트랙은 제공되는 비디오에서 발생하는 이벤트에 대응하는 햅틱 효과(예를 들어, 진동) 또는 일련의 햅틱 효과를 포함할 수 있다. 예를 들어, 비디오에 일련의 폭발이 포함된 경우, 햅틱 트랙은 각 폭발에 대응하는 일련의 진동일 수 있다. 따라서, 사용자가 비디오를 볼 때, 사용자는 비디오와 연관된 햅틱 효과를 인지할 수 있다.
일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 터치 감지 표면(116) 상의 터치의 위치에 기초하여, 출력할 햅틱 효과를 결정하는 코드, 및 이러한 효과를 시뮬레이팅하기 위해 제공할 하나 이상의 햅틱 효과를 선택하는 코드를 포함할 수 있다. 예를 들어, 디스플레이(134) 상에 가상 객체(예를 들어, 가상 가구, 자동차, 동물, 만화 캐릭터, 버튼, 레버, 로고 또는 사람)의 존재를 시뮬레이팅하기 위해 터치의 위치에 기초하여 상이한 햅틱 효과들이 선택될 수 있다. 또한, 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 가상 객체의 크기, 컬러, 위치, 움직임 및/또는 다른 특성들에 기초하여, 출력할 햅틱 효과를 결정하는 코드 및 그 효과를 시뮬레이팅하기 위해 제공할 하나 이상의 햅틱 효과를 선택하는 코드를 포함할 수 있다. 예를 들어, 가상 객체의 컬러에 기초하여 햅틱 효과들이 선택될 수 있다(예를 들어, 가상 객체가 적색인 경우 강한 진동, 그리고 가상 객체가 녹색인 경우 보다 약한 진동).
일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 이벤트에 기초하여 햅틱 효과를 결정하는 코드를 포함한다. 본 명세서에 사용되는 바와 같이, 이벤트는 임의의 상호 작용, 액션(action), 충돌(collision), 또는 연관된 햅틱 효과를 잠재적으로 포함할 수 있는 컴퓨팅 디바이스(101)의 동작 동안 발생하는 다른 이벤트이다. 일부 실시예들에서, 이벤트는 사용자 입력(예를 들어, 버튼 누름, 조이스틱 조작, 터치 감지 표면(116)과의 상호 작용, 디바이스를 비틀거나 배향시키는 것), 시스템 상태(예를 들어, 저 배터리, 저 메모리, 또는 시스템이 메시지, 착신 전화 호, 통지 또는 업데이트를 수신한 것에 기초하여 생성되는 통지와 같은 시스템 통지), 데이터를 전송하는 것, 데이터를 수신하는 것, 또는 프로그램 이벤트(예를 들어, 프로그램이 게임이면, 프로그램 이벤트는 폭발들, 사격들, 충돌들, 게임 캐릭터들 사이의 상호작용들, 새로운 레벨로 전진하는 것, 또는 울퉁불퉁한 지형에 걸쳐서 운전하는 것을 포함할 수 있음)를 포함할 수 있다.
일부 실시예들에서, 햅틱 효과 생성 모듈(128)은 선택된 햅틱 효과를 생성하기 위해 프로세서(102)가 햅틱 신호들을 생성하여 햅틱 출력 디바이스(118)에 송신하게 하는 프로그래밍을 나타낸다. 일부 예들에서, 햅틱 효과 생성 모듈(128)은 햅틱 출력 디바이스(118)가 햅틱 효과 결정 모듈(126)에 의해 결정된 햅틱 효과를 생성하게 한다. 예를 들어, 햅틱 효과 생성 모듈(128)은 선택된 햅틱 효과를 생성하기 위해 햅틱 출력 디바이스(118)에 송신할 저장된 파형들 또는 커맨드에 액세스할 수 있다. 일부 실시예들에서, 햅틱 효과 생성 모듈(128)은 햅틱 신호를 결정하기 위한 알고리즘들을 포함할 수 있다. 햅틱 효과 생성 모듈(128)은 햅틱 효과를 위한 목표 좌표(예를 들어, 햅틱 효과를 출력할 터치 감지 표면(116)과 같은 컴퓨팅 디바이스(101)상의 위치에 대한 좌표)를 결정하는 알고리즘을 포함할 수 있다.
일부 실시예들에서, 디스플레이 디바이스(136)는 프로세서(138), 메모리(140), 버스(142), I/O 컴포넌트(144), 스토리지(146), 네트워크 인터페이스 디바이스(148), 디스플레이(150), 터치 감지 표면(152), 터치 센서(154), 카메라(156), 센서(158), 및 햅틱 출력 디바이스(160)을 포함하며, 이들 각각은 필요하지 않다고 할지라도, 메모리(104), 프로세서(102), 버스(106), I/O 컴포넌트(112), 스토리지(114), 네트워크 인터페이스 디바이스(110), 디스플레이(134), 터치 감지 표면(116), 터치 센서(108), 카메라(130), 센서(132) 및 컴퓨팅 디바이스(101)의 햅틱 출력 디바이스(118)와 실질적으로 동일한 방식으로 구성될 수 있다. 일부 실시예들에서, 디스플레이 디바이스(136)는 도 1에 도시된 컴포넌트의 전부 또는 일부를 포함할 수 있다.
일부 실시예들에서, 디스플레이 디바이스(136)는 예를 들어, 모바일 디바이스(예를 들어, 스마트 폰), 태블릿, e-리더, 스마트 워치, 헤드 장착 디스플레이, 안경, 착용 디바이스, 인터렉티브 키오스크, 금전 등록기의 화면 또는 컨텐츠를 제공하기 위한 디스플레이를 포함하는 임의의 다른 디바이스를 포함한다.
컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)에 통신 가능하게 결합될 수 있다. 예를 들어, 컴퓨팅 디바이스(101) 및 디스플레이 디바이스(136)는 네트워크 인터페이스 디바이스(110 및 148)를 사용하여 통신할 수 있다(예를 들어, 데이터 또는 신호(172, 174)를 송신 또는 수신한다). 일례로서, 컴퓨팅 디바이스(101) 및 디스플레이 디바이스(136)는 각각 공통 무선 네트워크에 접속될 수 있고 무선 네트워크를 통해 통신할 수 있다. 또 다른 예로서, 컴퓨팅 디바이스(101) 및 디스플레이 디바이스(136)는 블루투스 연결을 통해 통신 가능하게 결합될 수 있다.
일부 실시예들에서, 디스플레이 디바이스(136)는 기회적 디스플레이 디바이스일 수 있다. 예를 들어, 디스플레이 디바이스(136)는 컴퓨팅 디바이스(101)의 사용자 근처에 있으며 디스플레이 디바이스(136)가 사용자에게 컨텐츠를 제공하는데 사용될 수 있도록 사용자의 시야 내에 있는 디스플레이 디바이스일 수 있다.
일부 실시예들에서, 디스플레이 디바이스(136)의 센서(158)는 또 다른 디바이스(예를 들어, 컴퓨팅 디바이스(101))의 존재 또는 위치를 검출할 수 있다. 예를 들어, 센서(158)는 또 다른 디바이스의 존재 또는 위치를 검출하기 위한 센서(132)와 실질적으로 동일한 방식으로 구성될 수 있다.
일부 실시예들에서, 센서(158)는 컴퓨팅 디바이스(101)의 사용자의 시야 방향을 검출할 수 있다. 예를 들어, 센서는 사용자의 응시, 시선 또는 시야를 검출하는데 사용되는 임의의 디바이스를 포함할 수 있다. 예를 들어, 센서(158)는 컴퓨팅 디바이스(101)의 사용자의 눈의 이미지를 캡처하도록 구성된 카메라를 포함할 수 있고 프로세서(138)는 다양한 이미지 처리 방법 및 기술을 사용함으로써 이미지에 적어도 부분적으로 기초하여 컴퓨팅 디바이스(101)의 사용자의 시야의 방향을 결정할 수 있다. 또 다른 실시예에서, 센서(158)는 컴퓨팅 디바이스(101)의 사용자의 눈 근처의 근육 또는 사용자의 눈의 움직임을 모니터링하도록 구성되고 프로세서(138)는 모니터링된 움직임에 적어도 부분적으로 기초하여 사용자의 시야 방향을 결정하도록 구성된다. 또 다른 실시예에서, 센서(158)는 컴퓨팅 디바이스(101)의 사용자의 눈을 움직이는 근육의 전기적 활동을 모니터링 또는 측정하도록 구성될 수 있고 프로세서(138)는 사용자의 시야의 방향을 결정하도록 구성될 수 있다. 일부 실시예들에서, 센서(158)는 예를 들어, 기능적 자기 공명 영상(functional magnetic resonance imaging: fMRI) 또는 뇌전도(EEG)와 연관된 센서를 포함하는 사용자의 의도 또는 자유 의지를 결정하는데 사용되는 다른 센서를 포함할 수 있다. 또 다른 실시예에서, 센서(158)는 예를 들어 사용자의 신체 또는 머리 자세를 분석하는 것을 포함하는 다양한 방법 및 기술을 통해 사용자의 응시, 시선 또는 시야를 검출할 수 있다.
일부 실시예들에서, 메모리(140)는 모듈(162, 164, 168, 170)을 포함한다. 일부 실시예들에서, 메모리(140)는 모듈(162, 164, 168, 170) 모두 또는 일부를 포함한다. 모듈(162, 164, 168, 170)은 컴퓨팅 디바이스(101)의 각각의 모듈(124, 126, 128 및 129)과 실질적으로 동일한 방식으로 각각 구성될 수 있다.
일부 실시예들에서, 햅틱 효과 결정 모듈(164)은 센서(158)로부터 수신된 센서 신호에 적어도 부분적으로 기초하여 햅틱 효과를 결정할 수 있다. 일부 실시예들에서, 프로세서(138)는 센서(158)로부터 센서 신호를 수신하여 컴퓨팅 디바이스(101)의 사용자의 응시 또는 시야의 방향을 결정할 수 있다. 이 결정에 기초하여, 햅틱 효과 결정 모듈(164)은 햅틱 효과를 결정할 수 있다. 예를 들어, 그러한 일 실시예에서, 프로세서(138)는 컴퓨팅 디바이스(101)의 사용자가 (예를 들어, 디스플레이 디바이스의 디스플레이(150)에서) 디스플레이 디바이스(136)를 보거나 또는 디스플레이 디바이스의 방향을 보고 있다고 결정할 수 있다. 이러한 결정에 기초하여, 햅틱 효과 결정 모듈(126)은 컴퓨팅 디바이스(101)의 사용자가 디스플레이 디바이스(136)를 보고 있다는 것을 표시하기 위해 디스플레이 디바이스(136)의 사용자에게 출력되는 햅틱 효과를 결정할 수 있다. 예를 들어, 스마트 워치는 또 다른 사용자가 디스플레이 디바이스(136)를 보고 있다는 것을 표시하기 위해 잠시 진동할 수 있다. 이러한 방식으로, 디스플레이 디바이스(136)의 사용자는 사람(예를 들어, 컴퓨팅 디바이스(101)의 사용자)이 그 사람과 관련될 수 있는 디스플레이 디바이스 상의 컨텐츠를 보고 있다는 것(예를 들어, 읽고 있다는 것)을 인식하게 될 수 있다.
일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 컴퓨팅 디바이스(101)의 사용자의 응시 또는 시야의 방향에 기초하여 또 다른 햅틱 효과를 결정하여 디스플레이 디바이스(136)의 사용자에게 디스플레이 디바이스(136)의 배향 방법을 표시할 수 있다. 예를 들어, 햅틱 효과는 컴퓨팅 디바이스(101)의 사용자가 디스플레이 디바이스(136) 상의 컨텐츠를 볼 수 있게 하기 위해 사용자가 팔, 손목, 다리 또는 손을 조정해야 한다는 것을 디스플레이 디바이스(136)의 사용자에게 표시할 수 있다. 예를 들어, 사용자의 손목에 있는 스마트 워치는 또 다른 사람(예를 들어, 컴퓨팅 디바이스(101)의 사용자)이 스마트 워치의 디스플레이의 상단을 보고 있다는 것을 사용자에게 표시하기 위해 스마트 워치의 상단을 향해(예를 들어, 사용자의 손목의 상단을 향해) 진동할 수 있으며, 이는 사용자가 사용자의 손목을 조정하여 디스플레이의 상단이 다른 사람에게 더 잘 보이도록 할 수 있다.
일부 실시예들에서, 컨텐츠 제공 모듈(170)은 컨텐츠 제공 모듈(129)과 실질적으로 동일한 방식으로 구성될 수 있고 컨텐츠(예를 들어, 텍스트, 이미지, 사운드, 비디오, 애니메이션 그래픽 등)를 사용자(예를 들어, 컴퓨팅 디바이스(101)의 사용자, 디스플레이 디바이스(136)의 사용자, 또는 또 다른 사용자)에게 제공하도록 프로세서(138)를 구성할 수 있다. 일부 실시예들에서, 컨텐츠 또는 컨텐츠가 유도되는 정보는 또 다른 디바이스(예를 들어, 컴퓨팅 디바이스(101))로부터 획득될 수 있다. 예를 들어, 컨텐츠 제공 모듈(129)은 프로세서로 하여금 컴퓨팅 디바이스(101)로부터 컨텐츠를 포함하는 데이터를 수신하도록 구성될 수 있다. 컨텐츠는 (예를 들어, 디스플레이(150)를 통해) 디스플레이 디바이스(136)에 의해 디스플레이될 수 있다.
도 2는 기회적 디스플레이를 위한 햅틱 피드백의 시스템의 실시예를 나타낸다. 시스템은 컴퓨팅 디바이스(101) 및 디스플레이 디바이스(136)를 포함한다. 도 2에 도시된 예에서, 디스플레이 디바이스(136)는 기회적 디스플레이 디바이스이다(예를 들어, 디스플레이 디바이스(136)는 예를 들어, 디스플레이(150)를 통해 컨텐츠를 디스플레이하도록 구성되고 컴퓨팅 디바이스(101)의 사용자(204)의 시야(208) 내에 있다).
컴퓨팅 디바이스(101)는 센서(예를 들어, 도 1의 센서(132))를 포함한다. 일부 실시예들에서, 센서는 컴퓨팅 디바이스(101)의 내부 또는 컴퓨팅 디바이스의 외부에 있을 수 있다. 센서는 컴퓨팅 디바이스(101) 또는 컴퓨팅 디바이스(101)와 연관된 사용자(204)(예를 들어, 컴퓨팅 디바이스(101)를 사용하거나 착용하는 사용자)에 근접한 디바이스를 검출하도록 구성될 수 있다.
도 2에 도시된 실시예에서, 센서는 센서, 컴퓨팅 디바이스(101) 또는 사용자(204) 근처에 있는 디스플레이 디바이스(136)를 검출할 수 있다. 일부 실시예들에서, 센서는 디스플레이 디바이스(136)를 검출하고 디스플레이 디바이스(136)와 연관된 센서 신호를 컴퓨팅 디바이스(101)와 연관된 프로세서(예를 들어, 도 1의 프로세서(102))에 전송할 수 있다. 센서 신호는 디스플레이 디바이스의 임의의 속성에 대응할 수 있다. 예를 들어, 센서 신호는 디스플레이 디바이스(136)의 이용 가능성을 표시할 수 있다. 예를 들어, 디스플레이 디바이스(136)는 디스플레이(150)를 통해 컨텐츠(예를 들어, 텍스트, 경고, 사운드, 이미지, 비디오, 애니메이션 그래픽 등)를 제공하거나 출력하도록 이용 가능할 수 있다. 일부 실시예들에서, 센서 신호는 디스플레이 디바이스(136)의 위치(예를 들어, 센서, 컴퓨팅 디바이스(101) 또는 사용자(204)에 대한 디스플레이 디바이스의 위치 또는 포지션)를 표시할 수 있다. 또 다른 실시예에서, 센서 신호는 디스플레이 디바이스(136)의 유형, 크기 또는 형상을 표시할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 센서 신호에 적어도 부분적으로 기초하여 하나 이상의 햅틱 효과를 결정하여 출력할 수 있다. 햅틱 효과는 각각 진동 또는 임의의 다른 햅틱 효과를 포함할 수 있다. 예를 들어, 컴퓨팅 디바이스(101)는 센서 신호를 수신하여 디스플레이 디바이스(136)가 이용 가능하다는 것(예를 들어, 사용자(204)의 시야(208) 내에, 근방에 있고 및/또는 사용자(204)와 관련된 컨텐츠를 보고 있다는 것)을 결정할 수 있다. 일부 실시예들에서, 컨텐츠는 컴퓨팅 디바이스(101)로부터 디스플레이 디바이스(136)로 송신될 수 있다. 컴퓨팅 디바이스(101)는 사용자(204)의 신체 부위(예를 들어, 팔, 다리, 손목, 손 또는 다른 신체 부위)에 햅틱 효과(예를 들어, 짧은 진동)를 출력하여 디스플레이 디바이스(136)가 이용 가능하다는 것을 사용자(204)에게 표시할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 (예를 들어, 사용자(204)에 대한) 디스플레이 디바이스의 위치 또는 포지션을 사용자에게 표시하기 위해 사용자(204)의 신체 부위에 하나 이상의 다른 햅틱 효과를 출력할 수 있다. 예를 들어, 일부 실시예들에서, 컴퓨팅 디바이스(101)는 사용자(204)에 대해 디스플레이 디바이스(136)가 위 또는 아래에 있다는 것을 사용자(204)에게 표시하기 위해 햅틱 효과를 출력한다. 또 다른 예로서, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)가 사용자(204)의 좌측 또는 우측에 있다는 것을 사용자(204)에게 표시하기 위해 햅틱 효과를 출력한다. 또 다른 예에서, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)가 사용자(204)의 앞에 또는 뒤에 있다는 것을 사용자(204)에게 표시하기 위해 햅틱 효과를 출력한다.
예시적인 예로서, 컴퓨팅 디바이스(101)는 착용 디바이스(예를 들어, 손목 밴드 또는 머리띠)를 포함할 수 있고 또한 하나 이상의 햅틱 출력 디바이스를 포함할 수 있다. 컴퓨팅 디바이스(101)는 (예를 들어, 사용자가 왼손 손목에 손목 밴드를 가지고 있는 경우 또는 햅틱 출력 디바이스가 사용자(204)의 신체의 좌측에 위치하는 경우) 디스플레이 디바이스(136)가 사용자의 좌측에 있다는 것을 사용자(204)에게 표시하기 위해 컴퓨팅 디바이스(101) 또는 사용자(204)의 신체의 좌측에 햅틱 효과를 출력하도록 구성될 수 있다. 컴퓨팅 디바이스(101)는 또한 디스플레이 디바이스(136)가 사용자(204)의 앞 또는 위에 있다는 것을 사용자에게 표시하기 위해 컴퓨팅 디바이스(101)의 상부 또는 사용자(204)의 신체 부위(예를 들어, 사용자가 손목 밴드를 착용하고 있다면 사용자(204)의 손목의 상부)에 햅틱 효과를 출력하도록 구성될 수 있다. 또 다른 실시예에서, 컴퓨팅 디바이스(101)는 사용자가 디스플레이 디바이스(136)로부터 멀리 떨어져 있을 때에는 약한 햅틱 효과(예를 들어, 약한 진동)를 출력하고 사용자(204)가 디스플레이 디바이스(136)에 근접해 있을 때에는 강한 햅틱 효과(예를 들어, 강한 진동)를 출력할 수 있다.
이러한 방식으로, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)의 수평 및/또는 수직 위치를 사용자(204)에게 표시하여 사용자(204)와 관련될 수 있는, 디스플레이 디바이스(136) 상에 제공된 컨텐츠(예를 들어, 컴퓨팅 디바이스(101)에 의해 제공되는 컨텐츠)를 사용자(204)가 볼 수 있게 한다.
또 다른 실시예에서, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136) 또는 디스플레이 디바이스(136)의 디스플레이(150)의 크기, 형상, 유형 또는 다른 속성을 표시하기 위해 하나 이상의 다른 햅틱 효과를 사용자(204)에게 출력할 수 있다. 예를 들어, 일부 실시예들에서, 컴퓨팅 디바이스(101)는 센서 신호에 적어도 부분적으로 기초하여 디스플레이 디바이스(136) 또는 디스플레이(150)의 크기를 결정할 수 있다. 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)의 크기를 사용자(204)에게 표시하기 위해 햅틱 효과를 결정하여 출력할 수 있다. 일례로서, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)가 대형 디스플레이 디바이스(예를 들어, 대형 LED 스크린)인 경우 강한 진동을 사용자(204)에게 출력할 수 있다. 또 다른 예에서, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)가 소형 디스플레이 디바이스(예를 들어, 스마트 워치 또는 손목 밴드)인 경우 약한 진동을 사용자(204)에게 출력할 수 있다. 이러한 방식으로, 햅틱 효과는 사용자(204)와 관련된 컨텐츠를 디스플레이할 수 있는, 디스플레이 디바이스(136) 또는 디스플레이(150)의 크기 또는 다른 속성을 사용자(204)에게 표시할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136)에 컨텐츠를 제공하도록 구성될 수 있다. 예를 들어, 컴퓨팅 디바이스(101)는 컨텐츠를 포함하는 데이터를 송신할 수 있고 디스플레이 디바이스(136)는 (예를 들어, 디스플레이(150)를 통해) 컨텐츠를 디스플레이하도록 구성될 수 있다. 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136) 상에 디스플레이된 컨텐츠와 연관된 하나 이상의 햅틱 효과를 출력할 수 있다. 예를 들어, 컨텐츠는 비디오 또는 비디오 게임을 포함할 수 있고, 컴퓨팅 디바이스(101)는 디스플레이 디바이스(136) 상에 디스플레이된 비디오 게임 또는 비디오 컨텐츠에 대응하는 하나 이상의 햅틱 효과를 출력할 수 있다. 일례로서, 비디오 컨텐츠는 하나 이상의 액션 또는 상호작용(예를 들어, 비디오 내의 캐릭터 또는 객체 간의 상호작용)을 포함할 수 있다. 컴퓨팅 디바이스(101)는 액션 또는 상호작용과 연관된 하나 이상의 진동을 출력하여, 사용자가 액션 또는 상호작용이 디스플레이 디바이스(136) 상에 디스플레이될 때 액션 및/또는 상호작용을 인식할 수 있게 한다.
일부 실시예들에서, 디스플레이 디바이스(136)는 컴퓨팅 디바이스(101)의 존재 또는 근접을 검출하기 위한 센서(206)를 포함할 수 있다. 일부 실시예들에서, 센서(206)는 사용자(204)의 시선 또는 시야(208) 또는 사용자(204)의 응시(210)의 방향을 검출하도록 구성될 수 있다. 도 2에 도시된 실시예에서, 디스플레이 디바이스(136)는 도 1의 카메라(156) 또는 센서(158)와 실질적으로 동일한 방식으로 구성될 수 있는 센서(206)를 포함한다.
일부 실시예들에서, 디스플레이 디바이스(136)는 센서(206)로부터의 데이터에 적어도 부분적으로 기초하여 컴퓨팅 디바이스(101)에 데이터를 송신할 수 있다. 예를 들어, 센서(206)는 (예를 들어, 블루투스 신호를 통해) 컴퓨팅 디바이스(101)의 존재 또는 근접을 검출하고 센서(206)로부터의 데이터에 기초하여 디스플레이 디바이스(136)의 이용 가능성, 위치 또는 속성을 표시하는 데이터를 송신할 수 있다.
또 다른 예로서, 센서(206)는 사용자(204)의 시야(208) 또는 사용자의 응시(210)의 방향을 검출할 수 있다. 디스플레이 디바이스(136)는 센서(206)로부터의 데이터에 기초하여 디스플레이 디바이스(136)의 이용 가능성, 위치 또는 속성을 표시하는 데이터를 송신할 수 있다. 일례로서, 디스플레이 디바이스(136)는 센서(206)로부터의 데이터에 기초하여 사용자(204)가 디스플레이 디바이스(136) 또는 디스플레이 디바이스의 디스플레이(150)를 보고 있거나 이들의 방향을 보고 있다고 결정하고 이 결정에 기초하여 디스플레이 디바이스의 이용 가능성, 위치 또는 속성에 관한 데이터를 컴퓨팅 디바이스(101)에 송신할 수 있다. 일부 실시예들에서, 컴퓨팅 디바이스(101)는 전술한 바와 같이 디스플레이 디바이스(136)의 이용 가능성, 위치 또는 속성에 기초하여 사용자(204)에게 하나 이상의 햅틱 효과를 출력할 수 있다.
일부 실시예들에서, 디스플레이 디바이스(136)는 센서(206)로부터의 데이터에 적어도 부분적으로 기초하여 햅틱 효과를 결정할 수 있다. 예를 들어, 일부 실시예들에서, 디스플레이 디바이스(136)는 사용자(204)의 시야(208) 또는 사용자의 응시(210)의 방향에 기초하여 햅틱 효과를 결정할 수 있다. 그러한 일 실시예에서, 디스플레이 디바이스(136)는 센서(206)로부터의 데이터에 기초하여 사용자(204)가 디스플레이 디바이스(136) 또는 디스플레이(150)를 보거나 이들의 방향을 보고 있다고 결정하고 햅틱 효과(예를 들어, 진동)를 디스플레이 디바이스(136)의 사용자(212)(예를 들어, 사용자의 손목, 손, 팔, 다리, 손)에게 출력할 수 있다. 햅틱 효과는 사용자(204)가 디스플레이 디바이스(136) 또는 디스플레이(150)를 보고 있다고 사용자(212)에게 표시할 수 있다. 예를 들어, 도 2에 도시된 실시예에서, 디스플레이 디바이스(136)는 사용자의 손목(214)에서 햅틱 효과를 출력하여 사용자(204)와 관련될 수 있는 디스플레이 디바이스의 디스플레이(150) 상의 컨텐츠(예를 들어, 컴퓨팅 디바이스(101)로부터 디스플레이 디바이스(136)로 송신되는 컨텐츠)를 사용자(204)가 읽거나 보고 있다고 사용자(212)에게 표시할 수 있다. 일부 실시예들에서, 사용자(212)는 햅틱 효과에 응답하여 디스플레이 디바이스(136)를 제 위치에 유지할 수 있다. 또 다른 실시예에서, 사용자(212)는 햅틱 효과에 응답하여 사용자(204)의 시야(208) 밖으로 디스플레이 디바이스(136)를 이동시킬 수 있다.
일부 실시예들에서, 디스플레이 디바이스(136)는 사용자(212)에게 하나 이상의 다른 햅틱 효과를 출력하여 사용자가 센서(206)로부터의 데이터에 기초하여 어떻게 디스플레이 디바이스(136)에 향할 수 있는지를 사용자(212)에게 표시할 수 있다. 예를 들어, 센서는 사용자(204)의 응시(210)의 방향이 디스플레이(150)의 상단부를 향하고 있다는 것을 검출할 수 있다. 디스플레이 디바이스(136)는 센서(206)로부터의 데이터에 기초하여 사용자(212)에게 하나 이상의 햅틱 효과를 출력할 수 있다. 햅틱 효과는 사용자(204)가 디스플레이(150)의 상단부 상의 컨텐츠를 볼 수 있도록 사용자가 사용자의 손목(214)을 회전시켜야 한다는 것을 사용자(212)에게 표시할 수 있다. 일례로서, 디스플레이 디바이스(136)는 사용자(204)가 디스플레이(150)의 상단을보고 있다는 것을 사용자(212)에게 표시하기 위해 디스플레이 디바이스의 상단을 향하여(예를 들어, 사용자의 손목(214)의 상단을 향하여) 진동을 출력할 수 있으며, 이는 사용자(212)가 그에 따라 디스플레이 디바이스(136)를 조정하게 할 수 있다.
도 3은 또 다른 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백의 시스템의 또 다른 실시예를 나타낸다. 도 3에 도시된 예에서, 시스템은 스마트 폰 또는 태블릿을 포함하는 컴퓨팅 디바이스(302) 및 기회적 디스플레이 디바이스(304)를 포함한다. 컴퓨팅 디바이스(302)는 기회적 디스플레이 디바이스(304)의 존재, 이용 가능성 또는 위치를 검출할 수 있는 센서(도시 생략)를 포함한다. 기회적 디스플레이 디바이스(304)는 디스플레이(306)를 포함하는 임의의 디바이스를 포함한다. 일부 실시예들에서, 기회적 디스플레이 디바이스(304)는 센서(310)를 포함할 수 있다.
도 3에 도시된 예에서, 컴퓨팅 디바이스(302)의 사용자(308)는 기회적 디스플레이 디바이스(304) 옆을 보행하고 있을 수 있고 컴퓨팅 디바이스(302)는 사용자(308)의 포켓 또는 다른 곳에 있을 수 있다. 컴퓨팅 디바이스(302)의 센서는 사용자(308)가 기회적 디스플레이 디바이스(304) 근처에 있을 때(예를 들어, 기회적 디스플레이 디바이스(304)가 사용자(308)의 시야 내에 있을 때) 기회적 디스플레이 디바이스(304)를 검출할 수 있다. 일부 실시예들에서, 센서는 이벤트 발생시 기회적 디스플레이 디바이스(304)를 검출할 수 있다. 본 명세서에 사용되는 바와 같은 이벤트는, 연관된 햅틱 효과를 잠재적으로 포함할 수 있는 컴퓨팅 디바이스(302)의 동작 중 발생하는 임의의 상호작용, 액션, 또는 다른 이벤트이다. 일부 실시예들에서, 이벤트는 시스템 상태(예를 들어, 낮은 배터리, 낮은 메모리), 시스템 통지(예를 들어, 시스템이 착신 호, 경고, 업데이트, 다가오는 회의 리마인더, 등을 수신하는 것에 기초하여 생성된 통지), 데이터 수신(예를 들어, 텍스트 메시지 수신)을 포함할 수 있다. 예를 들어, 컴퓨팅 디바이스(302)는 경고 또는 업데이트(예를 들어, 회의 또는 뉴스 경고에 관한 경고)를 수신할 수 있다. 센서는 경고에 응답하여 사용자(308)의 시야 내의 기회적 디스플레이 디바이스(304)를 검출할 수 있다.
일부 실시예들에서, 기회적 디스플레이 디바이스(304)는 사용자(308)가 기회적 디스플레이 디바이스(304)에 접근할 때 컴퓨팅 디바이스(302)를 검출할 수 있다. 예를 들어, 기회적 디스플레이 디바이스(304)는 사용자(308)가 기회주의 디스플레이 디바이스(304) 근처에 있을 때 컴퓨팅 디바이스(302)를 검출할 수 있는 센서(310)(예를 들어, 도 2의 센서(206)와 실질적으로 동일한 방식으로 구성된 카메라 또는 다른 센서)를 포함할 수 있다. 또 다른 실시예에서, 센서(310)는 (예를 들어, 사용자가 기회적 디스플레이 디바이스(304)의 방향을 보고 있을 때) 사용자(308)의 시야 또는 사용자(308)의 응시의 방향을 검출할 수 있다. 일부 실시예들에서, 기회적 디스플레이 디바이스(304)는 센서(310)로부터의 데이터에 기초하여 기회적 디스플레이 디바이스(304)의 이용 가능성 또는 위치와 연관된 신호를 컴퓨팅 디바이스(302)에 송신할 수 있다. 예를 들어, 기회적 디스플레이 디바이스(304)는 기회적 디스플레이 디바이스(304)가 사용자(308)의 시야 내에 있을 때 기회적 디스플레이 디바이스(304)의 이용 가능성 및 위치에 관한 신호를 송신할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(302)는 센서 데이터(예를 들어, 컴퓨팅 디바이스(302)의 센서로부터의 데이터 또는 기회적 디스플레이 디바이스(304)의 센서(310)로부터의 데이터)에 기초하여 기회적 디스플레이 디바이스(304)의 이용 가능성 또는 위치를 결정할 수 있다. 예를 들어, 컴퓨팅 디바이스(302)는 기회적 디스플레이 디바이스(304)가 센서 데이터에 기초하여 이벤트(예를 들어, 컴퓨팅 디바이스(302)에 의해 수신된 경고)와 연관된 컨텐츠를 디스플레이하는데 이용 가능한지를 결정할 수 있다. 컴퓨팅 디바이스(302)는 디스플레이 디바이스가 이용 가능한 것으로 결정된 것에 응답하여 기회적 디스플레이 디바이스(304)에 데이터를 송신할 수 있다. 기회적 디스플레이 디바이스(304)는 (예를 들어, 디스플레이(306)를 통해) 데이터에 기초하여 이벤트와 연관된 컨텐츠를 디스플레이할 수 있다. 도 3에 도시된 예에서, 컴퓨팅 디바이스(302)는 경고(309)를 기회적 디스플레이 디바이스(304)에 송신하여 디스플레이(306) 상에 표시한다.
일부 실시예들에서, 컴퓨팅 디바이스(302)는 기회적 디스플레이 디바이스(304)의 이용 가능성에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정하여 출력할 수 있다. 예를 들어, 일부 실시예들에서, 컴퓨팅 디바이스(302)는 (예를 들어, 기회적 디스플레이 디바이스(304)가 경고(309)를 디스플레이하고 있을 때) 이벤트와 연관된 컨텐츠를 디스플레이하는 기회적 디스플레이 디바이스(304)에 기초하여 제1 햅틱 효과를 결정할 수 있다. 컴퓨팅 디바이스(302)는 사용자(308)의 신체 부위(예를 들어, 엉덩이 또는 다른 신체 부위)에 제1 햅틱 효과(예를 들어, 진동, 스퀴즈 또는 포크)를 출력하여 기회적 디스플레이 디바이스(304)가 사용자(308)와 관련된 컨텐츠를 디스플레이하고 있다는 것(예를 들어, 기회적 디스플레이 디바이스(304)가 컴퓨팅 디바이스(302)에 의해 수신된 경고(309)를 디스플레이하고 있다는 것)을 사용자(308)에게 표시할 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(302)는 (예를 들어, 사용자(308)에 대한) 기회적 디스플레이 디바이스(304)의 위치 또는 포지션에 적어도 부분적으로 기초하여 제2 햅틱 효과를 결정하여 출력할 수 있다. 일부 실시예들에서, 제2 햅틱 효과는 하나 이상의 햅틱 효과를 포함할 수 있다. 일부 실시예들에서, 컴퓨팅 디바이스(302)는 사용자(308)와 디스플레이 디바이스 간의 근접 또는 거리를 표시하기 위해 사용자의 신체 부위에 제2 햅틱 효과(예를 들어, 진동)를 출력할 수 있다. 예를 들어, 컴퓨팅 디바이스(302)는 기회적 디스플레이 디바이스(304)가 사용자(308) 근처에 있다는 것을 표시하기 위해 강한 햅틱 효과(예를 들어, 강한 진동)를 사용자(308)에게 출력할 수 있다. 또한, 컴퓨팅 디바이스(302)는 또한 컴퓨팅 디바이스(302)의 상단에서 또 다른 햅틱 효과(예를 들어, 진동)를 출력하여 기회적 디스플레이 디바이스(304)가 사용자(308)의 앞에 있다는 것을 표시할 수 있다. 또 다른 예로서, 컴퓨팅 디바이스는 사용자(308)의 팔에 착용될 수 있다. 컴퓨팅 디바이스(302)는 (예를 들어, 사용자(308)의 팔을 따라 일련의 햅틱 출력을 출력함으로써) 기회적 디스플레이 디바이스(304)를 향한 방향으로의 흐름의 인식을 생성할 수 있는 하나 이상의 햅틱 효과를 출력할 수 있는데, 이는 사용자에 대한 기회적 디스플레이 디바이스(304)의 방향을 표시할 수 있다. 일부 실시예들에서, 제1 및 제2 햅틱 효과는 디스플레이 디바이스(304)의 이용 가능성 및 사용자(308)에 대한 디스플레이 디바이스(304)의 위치를 표시하기 위한 단일의 복합 햅틱 효과를 형성하도록 결합될 수 있다.
일부 실시예들에서, 컴퓨팅 디바이스(302)는 기회적 디스플레이 디바이스(304)에 의해 디스플레이되는 컨텐츠에 적어도 부분적으로 기초하여 제3 햅틱 효과를 결정하여 출력할 수 있다. 일부 실시예들에서, 제3 햅틱 효과는 하나 이상의 햅틱 효과를 포함할 수 있다. 예를 들어, 컴퓨팅 디바이스(302)는 디스플레이 디바이스에 의해 디스플레이되는 경고(309)와 연관된 햅틱 효과를 출력할 수 있다. 일례로서, 경고(309)는 비디오일 수 있고 컴퓨팅 디바이스(302)는 기회적 디스플레이 디바이스(304)에 의해 디스플레이되는 비디오에 대응하는 하나 이상의 햅틱 효과를 사용자(308)에게 출력할 수 있다. 예를 들어, 비디오는 충돌 또는 일련의 충돌(예를 들어, 뉴스 경고 또는 기타 경고)을 포함할 수 있고 제3 햅틱 효과는 각 충돌에 대응하는 일련의 진동일 수 있으며, 이는 사용자가 비디오에서 하나 이상의 충돌과 연관된 햅틱 효과를 경험할 수 있게 한다.
일부 실시예들에서, 기회적 디스플레이 디바이스(304)는 햅틱 출력 디바이스를 포함할 수 있다. 이러한 실시예들에서, 기회적 디스플레이 디바이스(304)는 센서(310)로부터의 데이터에 기초하여 햅틱 효과를 결정하여 출력할 수 있다. 예를 들어, 그러한 일 실시예에서, 센서(310)는 사용자(308)가 기회적 디스플레이 디바이스(304)에 근접할 때 컴퓨팅 디바이스(302)를 검출하거나 사용자(308)의 시야를 검출할 수 있다. 기회적 디스플레이 디바이스(304)는 (예를 들어, 기회적 디스플레이 디바이스(304)에 의해 디스플레이될 컨텐츠와 연관된 데이터를 수신하기 위해) 컴퓨팅 디바이스(302)에 통신 가능하게 결합될 수 있다. 기회적 디스플레이 디바이스(304)는 사용자(308)가 기회적 디스플레이 디바이스(304)에 근접할 때 햅틱 효과(예를 들어, 고체, 액체 또는 가스 또는 진동의 퍼프)를 출력할 수 있다. 햅틱 효과는 (예를 들어, 컴퓨팅 디바이스(302)에 의해 수신된 경고(309)를 디스플레이하는) 기회적 디스플레이 디바이스(304)가 이용 가능하다는 것을 사용자(308)에게 표시하거나 사용자(308)에 대한 기회적 디스플레이 디바이스(304)의 위치를 표시할 수 있다. 일례로서, 기회적 디스플레이 디바이스(304)는 경고(309)가 디스플레이되고 있음을 표시하고 기회적 디스플레이 디바이스(304)의 위치를 표시하기 위해 사용자(308)가 기회적 디스플레이 디바이스(304) 근처에 있을 때 강한 진동을 출력할 수 있다.
기회적 디스플레이를 위한 햅틱 피드백의 예시적 방법
도 4는 일 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백을 제공하는 방법(400)을 수행하기 위한 단계들의 흐름도이다. 일부 실시예들에서는, 도 4에서의 단계들이 프로세서, 예를 들어, 범용 컴퓨터, 모바일 디바이스, 또는 서버에서의 프로세서에 의해 실행되는 프로그램 코드로 구현될 수 있다. 일부 실시예들에서, 이런 단계들은 프로세서들의 그룹에 의해 구현될 수 있다. 일부 실시예들에서, 도 4에 도시된 하나 이상의 단계는 생략되거나 다른 순서로 수행될 수 있다. 유사하게, 일부 실시예들에서는, 도 4에 도시되지 않은 추가적인 단계들이 또한 수행될 수 있다. 아래에서 설명되는 단계들은 도 1 및 도 2에 도시된 시스템들과 관련하여 상술된 컴포넌트들을 참조하여 설명된다.
본 방법(400)은 컴퓨팅 디바이스(101)의 센서(132)가 사용자(204)의 시야 내에서 하나 이상의 디스플레이 디바이스(136)를 검출할 때 단계 402에서 시작한다. 일부 실시예들에서, 센서(132)는 센서(132) 또는 컴퓨팅 디바이스(101) 근처의 디스플레이 디바이스(136)를 검출할 수 있다. 디스플레이 디바이스(136)는 센서(132) 또는 컴퓨팅 디바이스(101) 근처에 있고 컨텐츠를 디스플레이하는데 사용될 수 있는 디스플레이 디바이스를 포함하는 기회적 디스플레이일 수 있다. 일부 실시예들에서, 디스플레이 디바이스(136)는 사용자(204)의 시야 내에 있으며, 디스플레이 디바이스(136)는 사용자(204)에게 컨텐츠를 디스플레이하는데 사용될 수 있다. 예를 들어, 센서(132)는 센서(132)와 디스플레이 디바이스(136) 간의 블루투스 신호의 세기를 분석함으로써 디스플레이 디바이스(136)의 존재 및 위치를 검출할 수 있다. 일부 실시예들에서, 센서(132)는 (예를 들어, 센서(132)와 디스플레이 디바이스(136) 간의 블루투스 신호의 세기에 기초하여) 센서(132), 컴퓨팅 디바이스(101) 및 디스플레이 디바이스(136) 간의 거리를 검출할 수 있다.
본 방법(400)은 디스플레이 디바이스(136)에 관한 신호가 프로세서(102)에 송신될 때 단계 404에서 계속된다. 일부 실시예들에서, 센서(132)는 디스플레이 디바이스(136)에 관한 신호를 프로세서(102)에 송신한다. 다른 실시예들에서, 디스플레이 디바이스와 연관된 또 다른 센서(예를 들어, 디스플레이 디바이스(136)의 센서(206))는 디스플레이 디바이스(136)에 관한 신호를 송신한다.
본 방법은 프로세서(102)가 신호에 기초하여 디스플레이 디바이스(136)의 이용 가능성 및 위치를 결정할 때 단계 406에서 계속된다. 일부 실시예들에서, 프로세서(102)는 사용자(204)에게 컨텐츠(예를 들어, 텍스트, 이미지, 사운드, 비디오, 애니메이션 그래픽 등)를 디스플레이하기 위해 디스플레이 디바이스(136)의 이용 가능성을 결정한다. 예를 들어, 프로세서(102)는 컴퓨팅 디바이스(101)로부터 컨텐츠를 수신하기 위해 디스플레이 디바이스(136)가 블루투스를 통해 컴퓨팅 디바이스(101)에 접속할 수 있는지를 결정할 수 있다. 일부 실시예들에서, 프로세서(102)는 (예를 들어, 후술하는 단계 410에서) 컨텐츠를 디스플레이 디바이스(136)에 제공하도록 구성될 수 있다.
일부 실시예들에서, 프로세서(102)는 사용자(204)에 대한 디스플레이 디바이스(136)의 위치를 결정한다. 예를 들어, 프로세서(102)는 사용자(204)에 대한 디스플레이 디바이스(136)의 수평 및 수직 위치를 결정한다.
본 방법(400)은 프로세서(102)가 신호에 기초하여 디스플레이 디바이스(136)의 특성을 결정할 때 단계 408에서 계속된다. 일부 실시예들에서, 프로세서(102)는 센서로부터의 신호에 기초하여 디스플레이 디바이스(136)의 유형, 크기 또는 형상을 결정한다. 예를 들어, 프로세서(102)는 디스플레이 디바이스(136)가 대형 디스플레이 디바이스(예를 들어, 대형 LCD 스크린) 또는 소형 디스플레이 디바이스(예를 들어, 스마트 워치)인 것으로 결정한다. 또 다른 예로서, 프로세서(102)는 디스플레이 디바이스(136)의 유형, 예를 들어, 디스플레이 디바이스(136)가 LCD 스크린인지 또는 스마트 워치인지를 결정한다.
방법(400)은 프로세서(102)가 컨텐츠를 디스플레이 디바이스(136)에 송신할 때 단계 410에서 계속된다. 일부 실시예들에서, 컨텐츠 제공 모듈(129)은 프로세서(102)가 컨텐츠를 디스플레이 디바이스(136)에 송신하게 한다. 예를 들어, 프로세서(102)는 (예를 들어, 단계 406에서) 디스플레이 디바이스(136)가 이용 가능하다고 프로세서(102)가 결정하면 텍스트 메시지 또는 경고를 디스플레이 디바이스(136)에 송신할 수 있다.
방법(400)은 프로세서(102)가 디스플레이 디바이스(136)의 이용 가능성 및 위치에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정할 때 단계 412에서 계속된다. 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 프로세서(102)로 하여금 제1 햅틱 효과를 결정하게 한다. 일부 실시예들에서, 제1 햅틱 효과는 하나 이상의 햅틱 효과를 포함할 수 있다. 예를 들어, 제1 햅틱 효과는 디스플레이 디바이스(136)의 이용 가능성에 기초한 이용 가능성 햅틱 효과 및 디스플레이 디바이스(136)의 위치에 기초한 위치 햅틱 효과를 포함할 수 있다.
예를 들어, 프로세서(102)는 이용 가능한(예를 들어, 컴퓨팅 디바이스(101)로부터 수신된 컨텐츠를 디스플레이하고 및/또는 컴퓨팅 디바이스(101)로부터의 컨텐츠를 디스플레이하는데 이용 가능한) 디스플레이 디바이스(136) 및 사용자(204)에 대한 디스플레이 디바이스(136)의 수평 및 수직 위치와 연관된 제1 햅틱 효과(예를 들어, 일련의 진동)를 결정할 수 있다. 예로서, 제1 햅틱 효과는 사용자에 대한 디스플레이 디바이스(136)의 수평 위치를 표시하기 위한 사용자(204)의 신체 부위 또는 컴퓨팅 디바이스(101)의 좌측 또는 우측에 출력될 일련의 간헐적인 진동 및/또는 사용자(204)에 대한 디스플레이 디바이스(136)의 수직 위치를 표시하기 위한 사용자(204)의 신체 부위 또는 컴퓨팅 디바이스(101)의 상단 또는 하단 부분에 출력될 일련의 간헐적인 진동이 뒤따르는 컨텐츠를 디스플레이 디바이스(136)가 디스플레이하고 있다는 것을 사용자(204)에게 표시하는 제1 진동을 포함할 수 있다.
방법(400)은 프로세서가 디스플레이 디바이스(136)의 특성에 적어도 부분적으로 기초하여 제2 햅틱 효과를 결정할 때 단계 414에서 계속된다. 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 프로세서(102)로 하여금 제2 햅틱 효과를 결정하게 한다.
예를 들어, 프로세서(102)는 디스플레이 디바이스(136)의 크기, 유형, 형상 또는 다른 속성에 기초하여 제2 햅틱 효과를 결정할 수 있다. 예를 들어, 제2 햅틱 효과는 디스플레이 디바이스(136)가 대형 디스플레이 디바이스(예를 들어, 대형 LCD 스크린)인 경우 강한 진동일 수 있다. 또 다른 예로서, 디스플레이 디바이스가 소형 디스플레이 디바이스(예를 들어, 스마트 워치)인 경우, 제2 햅틱 효과는 약한 진동일 수 있다.
방법(400)은 (예를 들어, 단계 410에서) 프로세서가 디스플레이 디바이스(136)에 송신된 컨텐츠에 적어도 부분적으로 기초하여 제3 햅틱 효과를 결정할 때 단계 416에서 계속된다. 일부 실시예들에서, 햅틱 효과 결정 모듈(126)은 프로세서(102)로 하여금 제3 효과를 결정하게 한다.
예를 들어, 디스플레이 디바이스(136)에 송신된 컨텐츠가 비디오인 경우, 프로세서(102)는 비디오에 대응하는 제3 햅틱 효과를 결정할 수 있다. 예로서, 비디오는 하나 이상의 폭발 또는 충돌을 포함할 수 있고 제3 햅틱 효과는 폭발 또는 충돌에 대응하는 하나 이상의 진동을 포함할 수 있다.
본 방법은 프로세서(102)가 햅틱 출력 디바이스(118)에 제1 햅틱 효과와 연관된 제1 햅틱 신호를 송신하고, 제2 햅틱 효과와 연관된 제2 햅틱 신호, 또는 제3 햅틱 효과와 연관된 제3 햅틱 신호를 햅틱 출력 디바이스(118)에 송신할 때 단계 418에서 계속된다. 일부 실시예들에서, 프로세서(102)는 제1, 제2 및 제3 햅틱 신호 중 하나 이상을 햅틱 출력 디바이스(118)에 송신할 수 있다. 일부 실시예들에서, 햅틱 효과 생성 모듈(128)은 프로세서(102)로 하여금 제1, 제2 및 제3 햅틱 신호를 생성하여 햅틱 출력 디바이스(118)에 송신하게 한다.
방법(400)은 햅틱 출력 디바이스(118)가 디스플레이 디바이스(136)의 이용 가능성 및 위치에 기초하여 제1 햅틱 효과를 출력할 때 단계 420에서 계속된다. 일부 실시예들에서, 제1 햅틱 효과는 진동, 표면 변형, 스퀴즈(squeeze), 포크(poke), 및/또는 고체, 액체, 가스 또는 플라즈마의 퍼프를 포함한다. 일부 실시예들에서, 제1 햅틱 효과는 디스플레이 디바이스(136)가 사용자(204)와 관련된 컨텐츠(예를 들어, 컴퓨팅 디바이스(101)로부터 디스플레이 디바이스(136)로 전송된 컨텐츠)를 디스플레이하고 있다는 것을 사용자(204)에게 표시하고 디스플레이 디바이스(136)의 위치를 사용자(204)에게 표시할 수 있다. 이러한 방식으로, 사용자(204)는 사용자(204)와 관련될 수 있는 디스플레이 디바이스(136) 상에 디스플레이되는 컨텐츠를 보도록 경고될 수 있다.
방법(400)은 햅틱 출력 디바이스(118)가 디스플레이 디바이스(136)의 특성에 기초한 제2 햅틱 효과 또는 디스플레이 디바이스(136)에 송신된 컨텐츠에 기초한 제3 햅틱 효과를 출력할 때 단계 422에서 계속된다. 일부 실시예들에서, 제2 또는 제3 햅틱 효과는 각각 진동, 표면 변형, 스퀴즈, 포크, 및/또는 고체, 액체, 가스 또는 플라즈마의 퍼프를 포함할 수 있다. 일부 실시예들에서, 제2 햅틱 효과는 사용자(204)에게 사용자와 관련된 컨텐츠를 디스플레이하고 있는 디스플레이 디바이스(136)의 크기, 유형 또는 형상을 표시할 수 있다. 제3 햅틱 효과는 사용자(204)가 디스플레이 디바이스(136)에 의해 표시된 컨텐츠와 연관된 햅틱 효과를 인식하게 할 수 있다.
도 5는 또 다른 실시예에 따른 기회적 디스플레이를 위한 햅틱 피드백을 제공하는 또 다른 방법(500)을 수행하기 위한 단계들의 흐름도이다. 일부 실시예들에서, 도 5에서의 단계들은 프로세서, 예를 들어, 범용 컴퓨터, 모바일 디바이스, 또는 서버 내의 프로세서에 의해 실행될 수 있는 프로그램 코드로 구현될 수 있다. 일부 실시예들에서, 이러한 단계들은 프로세서들의 그룹에 의해 구현될 수 있다. 일부 실시예들에서, 도 5에 도시된 하나 이상의 단계는 생략되거나 다른 순서로 수행될 수 있다. 유사하게, 일부 실시예들에서, 도 5에 도시되지 않은 부가 단계들이 또한 수행될 수 있다. 아래에서 설명되는 단계들은 도 1 및 도 2에 도시된 시스템들과 관련하여 상술된 컴포넌트들을 참조하여 설명된다.
방법(500)은 디스플레이 디바이스(136)의 센서(206)가 디스플레이 디바이스(136) 근처에 있는 컴퓨팅 디바이스(101)를 검출할 때 단계 502에서 시작한다. 일부 실시예들에서, 센서(206)는 컴퓨팅 디바이스(101)의 존재 또는 근접을 검출할 수 있다. 예를 들어, 센서(206)는 센서(206)와 컴퓨팅 디바이스(101) 간의 신호 세기를 분석함으로써(예를 들어, 블루투스 신호의 세기에 기초하여 컴퓨팅 디바이스(101)가 발견 가능한지를 결정하고 또한 컴퓨팅 디바이스(101)의 근접성을 결정함으로써) 컴퓨팅 디바이스(101)의 존재 및 근접을 검출할 수 있는 블루투스 디바이스를 포함할 수 있다.
방법(500)은 센서(206)가 컴퓨팅 디바이스(101)의 사용자(204)의 시야(208)를 검출할 때 단계 504에서 계속된다. 일부 실시예들에서, 센서(206)는 사용자(204)의 시야(208) 또는 응시(210)의 방향을 검출할 수 있는 카메라 또는 다른 적절한 디바이스를 포함한다.
본 방법은 사용자(204)의 시야(208) 또는 응시(210)의 방향에 대한 제1 신호가 디스플레이 디바이스(136)의 프로세서(138)에 송신될 때 단계 506에서 계속된다. 일부 실시예들에서, 센서(206)는 프로세서(138)에 제1 신호를 송신한다.
본 방법은 프로세서(138)가 제1 신호(예를 들어, 단계 506에서 센서(206)로부터 프로세서(138)로 송신된 제1 신호)에 기초하여 사용자(204)의 시야(208)의 방향 또는 응시(210)의 방향을 결정할 때 단계 508에서 계속된다.
예를 들어, 센서(206)는 사용자(204)의 시야(208) 또는 응시(210)의 방향에 대한 데이터를 디스플레이 디바이스(136)의 프로세서(138)에 송신할 수 있다. 프로세서(138)는 사용자(204)가 사용자(204)의 시야(208) 또는 응시(210)의 방향에 기초하여 디스플레이 디바이스(136)를 보거나 또는 디스플레이 디바이스의 방향을 보고 있다고 결정할 수 있다. 예로서, 센서(206)는 사용자(204)의 눈의 움직임 또는 사용자(204)의 눈 근처의 근육을 모니터링하기 위한 카메라를 포함할 수 있고 프로세서(138)는 모니터링된 움직임에 기초하여 사용자(204)의 시야(208) 또는 응시(210)의 방향을 결정할 수 있다. 또 다른 예로서, 센서(206)는 사용자(204)의 눈을 움직이는 근육의 전기적 활동을 모니터링하거나 측정하고 프로세서(138)는 근육의 전기적 활동에 기초하여 사용자(204)의 시야(208) 또는 응시(210)의 방향을 결정한다. 프로세서(138)는 사용자(204)가 사용자(204)의 시야(208) 또는 시선(210)의 방향에 기초하여 디스플레이 디바이스(136)를 보거나 디스플레이 디바이스의 방향을 보고 있다고 결정할 수 있다.
본 방법은 디스플레이 디바이스(136)에 대한 제2 신호가 컴퓨팅 디바이스(101)(예를 들어, 컴퓨팅 디바이스(101)의 프로세서(102))에 송신될 때 단계 510에서 계속된다. 일부 실시예들에서, 디스플레이 디바이스(136)는 사용자(204)의 시선(208) 또는 응시(210)의 방향에 적어도 부분적으로 기초하여 컴퓨팅 디바이스(101)에 제2 신호를 송신할 수 있다.
예를 들어, 디스플레이 디바이스(136)의 프로세서(138)는 사용자(204)가 디스플레이 디바이스(136)를 보거나 또는 디스플레이 디바이스의 방향을 보고 있다고 결정할 수 있고 디스플레이 디바이스(136)는 그 결정에 기초하여 디스플레이 디바이스(136)의 이용 가능성, 위치 또는 속성을 표시하는 제2 신호를 컴퓨팅 디바이스(101)에 송신할 수 있다. 일부 실시예들에서, 컴퓨팅 디바이스(101)는 상술한 바와 같이 제2 신호에 기초하여 디스플레이 디바이스의 이용 가능성, 위치 또는 속성을 결정할 수 있다.
본 방법은 프로세서(138)가 사용자(204)의 시야(208)에 적어도 부분적으로 기초하여 디스플레이 디바이스 햅틱 효과를 결정할 때 단계 512에서 계속된다. 일부 실시예들에서, 디스플레이 디바이스의 햅틱 효과 결정 모듈(164)은 프로세서(138)로 하여금 디스플레이 디바이스 햅틱 효과를 결정하게 한다.
예를 들어, 프로세서(138)는 (예를 들어, 단계 510에서) 디스플레이 디바이스(136)를 보거나 또는 디스플레이 디바이스의 방향을 보는 컴퓨팅 디바이스(101)의 사용자(204)에 기초하여 디스플레이 디바이스 햅틱 효과를 결정할 수 있다. 프로세서(138)는 사용자(204)가 디스플레이 디바이스(136)를 보거나 또는 디스플레이 디바이스의 방향을 보고 있다고 사용자(212)에게 표시하기 위한, 디스플레이 디바이스(136)의 사용자(212)에게 출력될 디스플레이 디바이스 햅틱 효과를 결정할 수 있다. 예로서, 디스플레이 디바이스(136)는 스마트 워치일 수 있고 사용자(204)가 디스플레이 디바이스(136)의 디스플레이(150)를 보고 있다고(예를 들어, 사용자(204)가 디스플레이(150) 상의 컨텐츠를 보고 있다고) 사용자(212)에게 표시하기 위해 잠깐 진동할 수 있다.
일부 실시예들에서, 디스플레이 디바이스 햅틱 효과는 하나 이상의 햅틱 효과를 포함할 수 있다. 예를 들어, 디스플레이 디바이스 햅틱 효과는 사용자(204)가 디스플레이 디바이스(136)를 보고 있다고 사용자(212)에게 표시하기 위한 햅틱 효과(예를 들어, 짧은 진동)를 포함할 수 있다. 디스플레이 디바이스 햅틱 효과는 사용자(204)가 디스플레이 디바이스(136) 상에 디스플레이되는 컨텐츠를 볼 수 있도록 사용자(212)가 팔, 손목, 다리 또는 손을 조정해야 한다는 것을 사용자(212)에게 표시하기 위한 또 다른 햅틱 효과(예를 들어, 강한 진동)를 포함할 수 있다. 예로서, 스마트 워치는 사용자의 손목(214)의 하부를 향해 스마트 워치의 하부에서 진동하여 사용자(204)가 디스플레이 디바이스(136)의 하부를 보고 있다고 사용자(212)에게 표시할 수 있다. 사용자(212)는 사용자(204)가 디스플레이 디바이스(136) 상의 컨텐츠를 더 잘 볼 수 있도록 디스플레이 디바이스 햅틱 효과에 응답하여 사용자의 손목(214)을 조정할 수 있다(예를 들어, 디스플레이 디바이스(136)의 하부가 더 잘 보여질 수 있도록 손목(214)을 회전시킨다).
본 방법(500)은 프로세서(138)가 디스플레이 디바이스 햅틱 효과와 연관된 디스플레이 디바이스 햅틱 신호를 디스플레이 디바이스(136)의 햅틱 출력 디바이스(160)에 송신할 때 단계 514에서 계속된다. 일부 실시예들에서, 햅틱 효과 생성 모듈(168)은 프로세서(138)로 하여금 디스플레이 디바이스 햅틱 신호를 생성하여 햅틱 출력 디바이스(118)에 송신하게 한다.
본 방법(500)은 햅틱 출력 디바이스(160)가 디스플레이 디바이스 햅틱 효과를 출력할 때 단계 516에서 계속된다. 일부 실시예들에서, 디스플레이 디바이스 햅틱 효과는 컴퓨팅 디바이스(101)의 사용자(204)의 시야(208)의 방향에 기초하여 디스플레이 디바이스(136)의 사용자(212)에게 출력될 수 있다. 다른 실시예들에서, 디스플레이 디바이스 햅틱 효과는 사용자(204)의 시야(208)의 방향에 기초하여 컴퓨팅 디바이스(101)의 사용자(204)에게 출력될 수 있다. 일부 실시예들에서, 디스플레이 디바이스 햅틱 효과는 진동, 표면 변형, 스퀴즈, 포크, 및/또는 고체, 액체, 가스 또는 플라즈마의 퍼프를 포함한다. 일부 실시예들에서, 디스플레이 디바이스 햅틱 효과는 사용자(204)가 디스플레이 디바이스(136)를 보고 있다고 사용자(212)에게 표시하기 위한 하나 이상의 햅틱 효과를 포함한다. 다른 실시예들에서, 디스플레이 디바이스 햅틱 효과는 디스플레이 디바이스(136)가 이용 가능하다는 것을 사용자(204)에게 표시하고 또한 사용자(204)에 대한 디스플레이 디바이스(137)의 위치를 표시하기 위한 하나 이상의 햅틱 효과를 포함한다.
일반적인 고려 사항
위에 논의된 방법, 시스템 및 디바이스는 예들이다. 다양한 구성들은 다양한 절차 또는 컴포넌트를 적절하게 생략, 치환 또는 추가할 수 있다. 예를 들어, 대안적인 구성에서, 방법은 기술된 것과는 상이한 순서로 수행될 수 있고/있거나 다양한 스테이지가 추가, 생략, 및/또는 조합될 수 있다. 또한, 소정 구성들과 관련하여 설명된 특징들은 다양한 다른 구성에 조합될 수 있다. 구성들의 상이한 양태들 및 요소들은 유사한 방식으로 조합될 수 있다. 또한, 기술이 발전함에 의해, 다수의 요소는 예가 되고 본 개시내용 또는 청구항의 범위를 제한하지 않는다.
예시적 구성들(구현들을 포함함)에 대한 완전한 이해를 제공하기 위해 구체적인 상세 사항들이 설명에 제공되었다. 그렇지만, 이 구성들은 이런 구체적인 상세 사항들 없이도 실시될 수 있다. 예를 들어, 공지된 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들이 이 구성들을 불명료하게 하는 것을 피하기 위해 불필요한 상세 사항 없이 도시되었다. 이 설명은 예시적 구성들만을 제공하고, 청구항들의 범위, 적용성, 또는 구성을 제한하지 않는다. 오히려, 구성들에 대한 이전 설명은 기술된 기법을 구현하는 것을 가능하게 하는 설명을 본 기술분야의 통상의 기술자에게 제공할 것이다. 본 개시내용의 사상 또는 범위를 벗어나지 않고서, 요소들의 기능 및 배열에 다양한 변경들이 행해질 수 있다.
또한, 구성은 흐름도 또는 블록도로 묘사되는 프로세스로서 설명될 수 있다. 이들 각각은 동작들을 순차적인 프로세스로서 설명할 수 있지만, 동작들 중 다수는 병렬로 또는 동시에 수행될 수 있다. 또한, 동작들의 순서가 재배열될 수 있다. 프로세스는 도면에 포함되지 않은 추가 단계들을 가질 수 있다. 더욱이, 본 방법들의 예들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 기술 언어, 또는 이것들의 임의의 조합에 의해 구현될 수 있다. 소프트웨어, 펌웨어, 미들웨어, 또는 마이크로코드에서 구현될 때, 필수 작업을 수행하기 위한 프로그램 코드 또는 코드 세그먼트들은 저장 매체와 같은 비일시적 컴퓨터 판독 가능 매체에 저장될 수 있다. 프로세서들은 기술된 작업들을 수행할 수 있다.
일부 예시적인 구성들을 기술하였지만, 본 개시내용의 사상을 벗어나지 않고서 다양한 수정, 대안적인 구조, 및 등가물이 사용될 수 있다. 예를 들어, 전술한 요소들은 더 큰 시스템의 컴포넌트들일 수 있는데, 여기서 다른 규칙들은 본 발명의 애플리케이션보다 우선하거나 다른 방식으로 이를 수정할 수 있다. 또한, 위의 요소들을 고려하기 전, 도중, 또는 그 후에 다수의 단계가 취해질 수 있다. 따라서, 이상의 설명은 청구항의 범위를 한정하지 않는다.
본 명세서에서 “하도록 적응된” 또는 “하도록 구성된”의 사용은 추가적인 작업들 또는 단계들을 수행하도록 적응된 또는 구성된 디바이스들을 배제하지 않는 개방적이고 포괄적인 언어인 것으로 의도된다. 추가로, “에 기초한”의 사용은 하나 이상의 열거된 조건들 또는 값들”에 기초한” 프로세스, 단계, 계산, 또는 다른 액션은, 실제로는, 열거된 것들 이외에 추가적인 조건들 또는 값들에 기초할 수 있다는 점에서, 개방적이고 포괄적인 것으로 의도된다. 본 명세서에 포함되는 제목, 리스트 및 넘버링은 설명의 편의을 위한 것일 뿐 제한적인 것을 의미하는 것은 아니다.
본 발명의 대상의 양태들에 따른 실시예들은, 디지털 전자 회로, 컴퓨터 하드웨어, 펌웨어, 소프트웨어 또는 이들의 조합으로 구현될 수 있다. 일 실시예에서, 컴퓨터는 하나의 프로세서 또는 프로세서들을 포함할 수 있다. 프로세서는 프로세서에 결합되는 RAM(random access memory) 등의 컴퓨터 판독 가능 매체로의 액세스를 포함하거나 또는 구비한다. 프로세서는, 센서 샘플링 루틴, 선택 루틴들, 및 앞서 기술된 방법들을 수행하기 위한 다른 루틴들을 포함하는 하나 이상의 컴퓨터 프로그램을 실행하는 것과 같이, 메모리에 저장되는 컴퓨터 실행 가능 프로그램 명령어들을 실행한다.
이 프로세서들은 마이크로프로세서, 디지털 신호 프로세서(DSP), ASIC(application-specific integrated circuit), FPGA들(field programmable gate arrays), 및 상태 머신들을 포함할 수 있다. 이 프로세서들은 PLC들, PIC들(programmable interrupt controllers), PLD들(programmable logic devices), PROM들(programmable read-only memories), EPROM들(electronically programmable read-only memories), 또는 EEPROM들, 또는 다른 유사한 디바이스들을 더 포함할 수 있다.
그러한 프로세서들은 매체, 예를 들어, 프로세서에 의해 실행될 때, 프로세서로 하여금, 프로세서에 의해 수행되거나 도움을 받아 본 명세서에서 설명된 단계들을 수행하게 할 수 있는 명령어들을 저장할 수 있는 유형의(tangible) 컴퓨터 판독 가능 매체를 포함할 수 있거나, 또는 이와 통신할 수 있다. 컴퓨터 판독 가능 매체의 실시예들은 웹 서버 내의 프로세서와 같은 프로세서에 컴퓨터 판독 가능 명령어들을 제공할 수 있는 모든 전자, 광학, 자기, 또는 다른 저장 디바이스들을 포함할 수 있지만, 이에 제한되지는 않는다. 매체의 다른 일례들은, 플로피 디스크, CD-ROM, 자기 디스크, 메모리 칩, ROM, RAM, ASIC, 구성된 프로세서, 모든 광 매체, 모든 자기 테이프 또는 다른 자기 매체, 또는 컴퓨터 프로세서가 판독할 수 있는 임의의 다른 매체를 포함하지만, 이들로만 제한되지는 않는다. 또한, 라우터, 사적 또는 공공 네트워크, 또는 다른 송신 디바이스와 같은 다양한 다른 디바이스들이 컴퓨터 판독가능 매체를 포함할 수 있다. 프로세서, 및 기술된 프로세싱은 하나의 또는 그 이상의 구조들일 수 있으며, 하나의 또는 그 이상의 구조들을 통해 분산될 수 있다. 프로세서는 본 명세서에 기술된 방법들(또는 방법들의 파트들) 중 하나 또는 그 이상을 실행하기 위한 코드를 포함할 수 있다.
본 발명 대상은 그의 특정 실시예들에 관련하여 상세히 설명되었지만, 본 기술분야의 통상의 기술자들은, 전술한 내용을 이해하게 되면, 그러한 실시예들의 변경들, 변형들, 및 동등물들을 쉽게 만들어 낼 수 있음을 알 것이다. 따라서, 본 개시내용은 제한적인 목적 보다는 오히려 예시적인 목적으로 제시되는 것이며, 본 기술분야의 통상의 기술자들에게 용이하게 명백한 본 발명 대상에 대한 이러한 변경들, 변형들 및/또는 추가들을 배제하는 것이 아니다.

Claims (20)

  1. 시스템으로서,
    컴퓨팅 디바이스;
    상기 컴퓨팅 디바이스에 통신 가능하게 결합되고, 상기 센서에 근접하며 상기 컴퓨팅 디바이스의 사용자의 시야 내에 있는 디스플레이 디바이스를 검출하고 상기 디스플레이 디바이스에 관련된 신호를 송신하도록 구성된 센서;
    상기 센서에 통신 가능하게 결합되어 상기 신호를 수신하기 위한 프로세서 -상기 프로세서는,
    상기 신호에 기초하여 상기 디스플레이 디바이스의 컨텐츠 및 위치를 출력하기 위한 상기 디스플레이 디바이스의 이용 가능성을 결정하고,
    상기 디스플레이 디바이스의 이용 가능성 및 위치에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정하며,
    상기 제1 햅틱 효과와 연관된 제1 햅틱 신호를 송신하도록 구성됨- ; 및
    상기 제1 햅틱 신호를 수신하고 상기 제1 햅틱 효과를 출력하도록 구성되는 햅틱 출력 디바이스를 포함하는 시스템.
  2. 제1항에 있어서,
    상기 프로세서는 또한 상기 컨텐츠를 포함하는 데이터를 상기 디스플레이 디바이스에 송신하도록 구성되고, 상기 컨텐츠는 텍스트, 이미지, 사운드 또는 비디오를 포함하는 시스템.
  3. 제2항에 있어서,
    상기 프로세서는, 또한
    상기 컨텐츠에 적어도 부분적으로 기초한 제2 햅틱 효과를 결정하고, 상기 제2 햅틱 효과를 출력하도록 구성된 햅틱 출력 디바이스에 제2 햅틱 신호를 송신하도록 구성되는 시스템.
  4. 제1항에 있어서,
    상기 제1 햅틱 효과는 상기 사용자에 대한 상기 디스플레이 디바이스의 수평 위치와 연관된 수평 햅틱 효과 및 상기 사용자에 대한 상기 디스플레이 디바이스의 수직 위치와 연관된 수직 햅틱 효과를 포함하는 시스템.
  5. 제4항에 있어서,
    상기 햅틱 출력 디바이스는 제1 햅틱 출력 디바이스 및 제2 햅틱 출력 디바이스를 포함하고, 상기 제1 햅틱 출력 디바이스는 상기 수평 햅틱 효과를 출력하도록 구성되고 상기 제2 햅틱 출력 디바이스는 상기 수직 햅틱 효과를 출력하도록 구성되는 시스템.
  6. 제1항에 있어서,
    상기 프로세서는, 또한
    상기 신호에 기초하여 상기 디스플레이 디바이스의 크기, 형상 또는 유형을 결정하고;
    상기 디스플레이 디바이스의 크기, 형상 또는 유형에 적어도 부분적으로 기초하여 제2 햅틱 효과를 결정하며;
    상기 제2 햅틱 효과를 출력하도록 구성된 상기 햅틱 출력 디바이스에 제2 햅틱 신호를 송신하도록 구성되는 시스템.
  7. 제1항에 있어서,
    상기 프로세서는, 또한
    상기 디스플레이 디바이스로부터 디스플레이 신호를 수신하고 -상기 디스플레이 디바이스는 상기 사용자의 시야를 검출하도록 구성된 디스플레이 디바이스 센서로부터의 데이터에 기초하여 상기 사용자의 시야의 방향을 결정하도록 구성된 디스플레이 디바이스 프로세서를 포함함- ;
    상기 디스플레이 신호에 기초하여 상기 디스플레이 디바이스의 이용 가능성 및 위치를 결정하도록 구성되는 시스템.
  8. 제7항에 있어서,
    상기 디스플레이 디바이스 센서는 상기 사용자의 눈과 연관된 이미지를 캡처하도록 구성된 카메라를 포함하고, 상기 디스플레이 디바이스 프로세서는 상기 이미지에 기초하여 상기 사용자의 시야의 방향을 결정하도록 구성되는 시스템.
  9. 제7항에 있어서,
    상기 디스플레이 디바이스 센서는 사용자의 눈의 근육의 움직임을 모니터링하도록 구성되고, 상기 디스플레이 디바이스 프로세서는 상기 모니터링된 움직임에 기초하여 상기 사용자의 시야를 결정하도록 구성되는 시스템.
  10. 제7항에 있어서,
    상기 디스플레이 디바이스는 디스플레이 햅틱 출력 디바이스를 포함하고, 상기 디스플레이 디바이스 프로세서는,
    상기 사용자의 시야 방향에 적어도 부분적으로 기초하여 디스플레이 디바이스 햅틱 효과를 결정하고;
    상기 디스플레이 디바이스 햅틱 효과와 연관된 디스플레이 디바이스 햅틱 신호를 상기 디스플레이 디바이스 햅틱 효과를 출력하도록 구성된 상기 디스플레이 햅틱 출력 디바이스에 송신하도록 구성되는 시스템.
  11. 제1항에 있어서,
    상기 센서는 상기 시스템 또는 센서의 사용자와 연관된 위치 신호를 송신하고 상기 위치 신호에 기초하여 상기 디스플레이 디바이스의 위치 및 이용 가능성에 관한 데이터를 수신하도록 구성되는 시스템.
  12. 방법으로서,
    컴퓨팅 디바이스에 통신 가능하게 결합된 센서에 의해, 상기 센서에 근접하며 상기 컴퓨팅 디바이스의 사용자의 시야 내에 있는 디스플레이 디바이스를 검출하는 단계;
    상기 센서에 의해, 상기 디스플레이 디바이스와 연관된 센서 신호를 프로세서에 송신하는 단계;
    상기 프로세서에 의해, 상기 센서 신호에 적어도 부분적으로 기초하여 사용자에게 컨텐츠를 출력하기 위한 상기 디스플레이 디바이스의 이용 가능성 및 상기 디스플레이 디바이스의 위치를 결정하는 단계;
    상기 프로세서에 의해, 상기 디스플레이 디바이스의 이용 가능성 및 위치에 적어도 부분적으로 기초하여 제1 햅틱 효과를 결정하는 단계;
    상기 프로세서에 의해, 상기 제1 햅틱 효과와 연관된 제1 햅틱 신호를 상기 햅틱 출력 디바이스에 송신하는 단계; 및
    상기 햅틱 출력 디바이스에 의해, 제1 햅틱 효과를 출력하는 단계를 포함하는 방법.
  13. 제12항에 있어서,
    상기 제1 햅틱 효과는 상기 사용자에 대한 상기 디스플레이 디바이스의 수평 위치와 연관된 수평 햅틱 효과 및 상기 사용자에 대한 상기 디스플레이 디바이스의 수직 위치와 연관된 수직 햅틱 효과를 포함하는 방법.
  14. 제12항에 있어서,
    상기 프로세서에 의해, 상기 컨텐츠를 포함하는 데이터를 상기 디스플레이 디바이스에 송신하는 단계를 더 포함하고, 상기 컨텐츠는 이미지, 사운드, 비디오, 또는 텍스트를 포함하는 방법.
  15. 제14항에 있어서,
    상기 프로세서에 의해, 상기 컨텐츠에 적어도 부분적으로 기초하여 제2 햅틱 효과를 결정하는 단계;
    상기 프로세서에 의해, 상기 제2 햅틱 효과와 연관된 제2 햅틱 신호를 상기 햅틱 출력 디바이스에 송신하는 단계;
    상기 햅틱 출력 디바이스에 의해, 제2 햅틱 효과를 출력하는 단계를 더 포함하는 방법.
  16. 제12항에 있어서,
    상기 프로세서에 의해, 상기 센서 신호에 기초하여 상기 디스플레이 디바이스의 크기, 형상 또는 유형을 결정하는 단계;
    상기 프로세서에 의해, 상기 디스플레이 디바이스의 크기, 형상 또는 유형에 적어도 부분적으로 기초하여 제2 햅틱 효과를 결정하는 단계;
    상기 프로세서에 의해, 상기 제2 햅틱 효과와 연관된 제2 햅틱 신호를 상기 햅틱 출력 디바이스에 송신하는 단계; 및
    상기 햅틱 출력 디바이스에 의해, 제2 햅틱 효과를 출력하는 단계를 더 포함하는 방법.
  17. 제12항에 있어서,
    상기 센서 신호에 기초하여 사용자에게 컨텐츠를 출력하기 위한 상기 디스플레이 디바이스의 이용 가능성 및 상기 디스플레이 디바이스의 위치를 결정하는 단계는,
    상기 프로세서에 의해, 상기 디스플레이 디바이스로부터 디스플레이 신호를 수신하는 단계 -상기 디스플레이 디바이스는 상기 사용자의 시야를 검출하도록 구성된 디스플레이 디바이스 센서로부터의 데이터에 기초하여 상기 사용자의 시야의 방향을 결정하도록 구성된 디스플레이 디바이스 프로세서를 포함함- ; 및
    상기 디스플레이 신호에 적어도 부분적으로 기초하여 상기 디스플레이 디바이스의 이용 가능성 및 위치를 결정하는 단계를 포함하는 방법.
  18. 제17항에 있어서,
    상기 디스플레이 디바이스 센서는 상기 사용자의 눈과 연관된 이미지를 캡처하도록 구성된 카메라를 포함하고, 상기 디스플레이 디바이스 프로세서는 상기 이미지에 기초하여 상기 사용자의 시야의 방향을 결정하도록 구성되는 방법.
  19. 제17항에 있어서,
    상기 디스플레이 디바이스 센서는 사용자의 눈의 움직임을 모니터링하도록 구성되고, 상기 디스플레이 디바이스 프로세서는 상기 모니터링된 움직임에 기초하여 상기 사용자의 시야를 결정하도록 구성되는 방법.
  20. 제17항에 있어서,
    상기 디스플레이 디바이스는 디스플레이 햅틱 출력 디바이스를 포함하고, 상기 방법은,
    상기 디스플레이 디바이스 프로세서에 의해, 상기 사용자의 시야 방향에 적어도 부분적으로 기초하여 디스플레이 디바이스 햅틱 효과를 결정하는 단계; 및
    상기 디스플레이 디바이스 프로세서에 의해, 상기 디스플레이 디바이스 햅틱 효과와 연관된 디스플레이 디바이스 햅틱 신호를 상기 디스플레이 디바이스 햅틱 효과를 출력하도록 구성된 상기 디스플레이 햅틱 출력 디바이스에 송신하는 단계를 더 포함하는 방법.
KR1020170068880A 2016-06-08 2017-06-02 기회적 디스플레이를 위한 햅틱 피드백 KR20170138937A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/176,692 US10198072B2 (en) 2016-06-08 2016-06-08 Haptic feedback for opportunistic displays
US15/176,692 2016-06-08

Publications (1)

Publication Number Publication Date
KR20170138937A true KR20170138937A (ko) 2017-12-18

Family

ID=59034661

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170068880A KR20170138937A (ko) 2016-06-08 2017-06-02 기회적 디스플레이를 위한 햅틱 피드백

Country Status (5)

Country Link
US (2) US10198072B2 (ko)
EP (1) EP3255525A1 (ko)
JP (1) JP2017224290A (ko)
KR (1) KR20170138937A (ko)
CN (1) CN107479687A (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200131129A (ko) * 2019-05-13 2020-11-23 (주)부품디비 wavy-MRE와 전자석을 이용한 진동 액추에이터
KR20200131130A (ko) * 2019-05-13 2020-11-23 (주)부품디비 wavy-MRE와 전자석을 이용한 근감각 액추에이터

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7801569B1 (en) * 2007-03-22 2010-09-21 At&T Intellectual Property I, L.P. Mobile communications device with distinctive vibration modes
DE602007012211D1 (de) * 2007-06-08 2011-03-10 Research In Motion Ltd Haptische Anzeige für ein elektronisches Handgerät
KR101467796B1 (ko) * 2009-01-12 2014-12-10 엘지전자 주식회사 이동단말기 및 그 제어 방법
US9571625B2 (en) * 2009-08-11 2017-02-14 Lg Electronics Inc. Electronic device and control method thereof
US10013857B2 (en) * 2011-12-21 2018-07-03 Qualcomm Incorporated Using haptic technologies to provide enhanced media experiences
PL2837167T3 (pl) * 2012-04-12 2019-06-28 Telefonaktiebolaget Lm Ericsson (Publ) Parowanie terminala mobilnego z urządzeniem bezprzewodowym
US8754757B1 (en) * 2013-03-05 2014-06-17 Immersion Corporation Automatic fitting of haptic effects
US9833697B2 (en) * 2013-03-11 2017-12-05 Immersion Corporation Haptic sensations as a function of eye gaze
JP6545155B2 (ja) * 2013-06-08 2019-07-17 アップル インコーポレイテッドＡｐｐｌｅ Ｉｎｃ． ２つ以上のディスプレイを同期させるためのデバイス、方法、及びグラフィカルユーザインタフェース
KR102092332B1 (ko) 2013-07-01 2020-04-14 삼성전자주식회사 휴대 장치 및 휴대 장치의 화면 표시 방법
US10067566B2 (en) 2014-03-19 2018-09-04 Immersion Corporation Systems and methods for a shared haptic experience
US10613627B2 (en) 2014-05-12 2020-04-07 Immersion Corporation Systems and methods for providing haptic feedback for remote interactions
US9723494B2 (en) * 2015-11-04 2017-08-01 At&T Intellectual Property I, L.P. Augmented reality visual Wi-Fi signal

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200131129A (ko) * 2019-05-13 2020-11-23 (주)부품디비 wavy-MRE와 전자석을 이용한 진동 액추에이터
KR20200131130A (ko) * 2019-05-13 2020-11-23 (주)부품디비 wavy-MRE와 전자석을 이용한 근감각 액추에이터

Also Published As

Publication number Publication date
EP3255525A1 (en) 2017-12-13
US20190265794A1 (en) 2019-08-29
US20170357315A1 (en) 2017-12-14
JP2017224290A (ja) 2017-12-21
CN107479687A (zh) 2017-12-15
US10198072B2 (en) 2019-02-05

Similar Documents

Publication Publication Date Title
US10564729B2 (en) Haptic feedback using a field of view
US10394285B2 (en) Systems and methods for deformation and haptic effects
US10248210B2 (en) Systems and methods for haptically-enabled conformed and multifaceted displays
US9147332B1 (en) Somatosensory type notification alerts
JP2018147517A (ja) ウェアラブルデバイスマネージャー
JP2015228214A (ja) 触覚通知マネージャ
KR102406072B1 (ko) 압력 입력에 따라 전자 장치의 동작을 제어하는 전자 장치 및 방법
CN107861613A (zh) 显示与内容相关联的导航器的方法和实现其的电子装置
US20190265794A1 (en) Haptic feedback for opportunistic displays
KR20200075773A (ko) 사용자의 모션 또는 환경에 기초하여 햅틱 효과들을 제공하는 시스템들 및 방법들
Mankar Advance technology-google glass