KR20190017010A - 멀티모덜 햅틱 효과 - Google Patents
멀티모덜 햅틱 효과 Download PDFInfo
- Publication number
- KR20190017010A KR20190017010A KR1020197000154A KR20197000154A KR20190017010A KR 20190017010 A KR20190017010 A KR 20190017010A KR 1020197000154 A KR1020197000154 A KR 1020197000154A KR 20197000154 A KR20197000154 A KR 20197000154A KR 20190017010 A KR20190017010 A KR 20190017010A
- Authority
- KR
- South Korea
- Prior art keywords
- haptic
- dynamic
- input
- haptic effect
- user input
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0414—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using force sensing means to determine a position
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
실시예들은 사용자 입력(예를 들어, 압력 기반 또는 다른 제스처)에 응답하여 햅틱 효과들을 발생시킨다. 실시예들은 사용자 입력에 대응하는 제1 입력 범위를 수신하고, 제1 입력 범위에 대응하는 햅틱 프로파일을 수신한다. 햅틱 프로파일의 제1 동적 부분 동안, 실시예들은 제1 동적 부분 동안 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 발생시킨다. 또한, 햅틱 프로파일의 제1 트리거 위치에서, 실시예들은 트리거링된 햅틱 효과를 발생시킨다.
Description
관련 출원에 대한 상호 참조
본 출원은 2016년 7월 8일자로 출원된 미국 임시 특허 출원 제62/360,036호의 우선권을 주장하고, 그 개시내용은 본 명세서에 참조로 포함되어 있다.
분야
일 실시예는 일반적으로 햅틱 효과들에 관한 것이고, 특히 멀티모덜 햅틱 효과들의 발생에 관한 것이다.
모바일 폰, 스마트폰, 카메라 폰, 카메라, 개인 정보 단말기("PDA") 등과 같은 휴대용/모바일 전자 디바이스들은 전형적으로, 디바이스들에 대해 발생하는 특정의 이벤트들을 사용자에게 경고하는 출력 메커니즘들을 포함한다. 예를 들어, 셀 폰은 통상적으로 착신 전화 호출 이벤트를 사용자에게 가청적으로 통지하기 위한 스피커를 포함한다. 가청 신호는 특정 호출음, 음악 곡, 음향 효과 등을 포함할 수 있다. 추가로, 셀 폰들 및 스마트폰들은 착신 전화 호출들의 사용자들에게 시각적으로 통지하는 데 사용될 수 있는 디스플레이 스크린들을 포함할 수 있다.
일부 모바일 디바이스들에서, 운동 감각 피드백(예컨대 능동 및 저항성 힘 피드백) 및/또는 촉각 피드백(예컨대 진동, 질감, 및 열)이 또한 사용자에게 제공되는데, 더 일반적으로는 집합적으로 "햅틱 피드백" 또는 "햅틱 효과들"로서 알려져 있다. 햅틱 피드백은 사용자 인터페이스를 향상시키고 단순화시키는 큐들을 제공할 수 있다. 특히, 진동 효과들 또는 진동촉각 햅틱 효과들은 특정 이벤트들을 사용자에게 경고하기 위해 전자 디바이스들의 사용자들에게 큐들을 제공하는 데 있어서 유용할 수 있고, 또는 시뮬레이션된 또는 가상 환경 내에서 더 큰 감각 몰입을 일으키도록 실제적 피드백을 제공할 수 있다.
실시예들은 사용자 입력(예를 들어, 압력 기반 또는 다른 제스처)에 응답하여 햅틱 효과들을 발생시킨다. 실시예들은 사용자 입력에 대응하는 제1 입력 범위를 수신하고, 제1 입력 범위에 대응하는 햅틱 프로파일을 수신한다. 햅틱 프로파일의 제1 동적 부분 동안, 실시예들은 제1 동적 부분 동안 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 발생시킨다. 또한, 햅틱 프로파일의 제1 트리거 위치에서, 실시예들은 트리거링된 햅틱 효과를 발생시킨다.
도 1은 본 발명의 일 실시예를 구현할 수 있는 햅틱 가능 멀티모덜 모바일 디바이스/시스템의 블록도이다.
도 2는 압력 기반 입력에 응답하여 햅틱 효과들을 제공하기 위한 일 실시예의 그래픽 표현을 예시한다.
도 3은 압력 기반 입력에 응답하여 햅틱 효과들을 제공하기 위한 일 실시예의 그래픽 표현을 예시한다.
도 4는 일 실시예에 따른 멀티모덜 햅틱 효과들로 버튼 누름들을 시뮬레이션하는 예를 예시한다.
도 5는 일 실시예에 따른 멀티모덜 햅틱 효과들로 상이한 재료들을 시뮬레이션하는 예를 예시한다.
도 6은 사용자가 터치스크린의 x-y 축 평면에서 재료들을 가로질러 손가락을 슬라이딩함에 따라 도 5의 재료들의 질감을 시뮬레이션하는 예를 예시한다.
도 7은 본 발명의 실시예들에 따른 과립상 합성 툴을 예시한다.
도 8은 일 실시예에 따른 멀티모덜 햅틱 효과를 발생시킬 때의 도 1의 시스템의 기능의 흐름도이다.
도 9는 일 실시예에 따른 멀티모덜 햅틱 효과를 발생시킬 때의 도 1의 시스템의 기능의 흐름도이다.
도 10은 본 발명의 실시예들에 따른 4개의 상이한 기계적 스위치들의 힘 프로파일들 및 대응하는 햅틱 프로파일들을 예시한다.
도 2는 압력 기반 입력에 응답하여 햅틱 효과들을 제공하기 위한 일 실시예의 그래픽 표현을 예시한다.
도 3은 압력 기반 입력에 응답하여 햅틱 효과들을 제공하기 위한 일 실시예의 그래픽 표현을 예시한다.
도 4는 일 실시예에 따른 멀티모덜 햅틱 효과들로 버튼 누름들을 시뮬레이션하는 예를 예시한다.
도 5는 일 실시예에 따른 멀티모덜 햅틱 효과들로 상이한 재료들을 시뮬레이션하는 예를 예시한다.
도 6은 사용자가 터치스크린의 x-y 축 평면에서 재료들을 가로질러 손가락을 슬라이딩함에 따라 도 5의 재료들의 질감을 시뮬레이션하는 예를 예시한다.
도 7은 본 발명의 실시예들에 따른 과립상 합성 툴을 예시한다.
도 8은 일 실시예에 따른 멀티모덜 햅틱 효과를 발생시킬 때의 도 1의 시스템의 기능의 흐름도이다.
도 9는 일 실시예에 따른 멀티모덜 햅틱 효과를 발생시킬 때의 도 1의 시스템의 기능의 흐름도이다.
도 10은 본 발명의 실시예들에 따른 4개의 상이한 기계적 스위치들의 힘 프로파일들 및 대응하는 햅틱 프로파일들을 예시한다.
본 발명의 실시예들은 사용자 입력의 범위 동안 특정 임계치들에서 트리거링될 수 있는 미리 설계된 정적 햅틱 효과들과 조합된 사용자 입력의 범위에 기초하여 동적으로 발생된 햅틱 효과들을 조합하는 멀티모덜 햅틱 효과들을 발생시킨다. 멀티모덜 햅틱 효과들은 압력 기반 입력 및 x-y 축 위치 입력 둘 다에 응답하여 발생될 수 있다. 멀티모덜 햅틱 효과들은 재료들 또는 물리적 버튼들의 특성들과 같은, 요소들의 실세계 물리적 특성들을 - 사용자가 이들 실세계 요소들의 시뮬레이션들에 압력을 가하거나 또는 이들 요소들의 표면을 횡단함에 따라 - 모방하기 위해 사용될 수 있다.
도 1은 본 발명의 일 실시예를 구현할 수 있는 햅틱 가능 모바일 디바이스/시스템(10)의 블록도이다. 시스템(10)은 하우징(15) 내에 장착된 터치 감응성 표면 또는 터치스크린(11) 또는 다른 유형의 터치 감응성 사용자 인터페이스를 포함하고, 기계적 키들/버튼들(13)을 포함할 수 있다. 시스템(10)은 스마트폰, 태블릿, 터치스크린을 갖는 데스크톱 또는 랩톱 컴퓨터 시스템, 게임 제어기, 임의의 유형의 웨어러블 디바이스 등을 포함하는, 터치 감응성 사용자 인터페이스/터치스크린(11)을 포함하는 임의의 유형의 디바이스일 수 있다.
시스템(10)의 내부에 시스템(10) 상에서 햅틱 효과들을 발생시키는 햅틱 피드백 시스템이 있다. 햅틱 피드백 시스템은 프로세서 또는 제어기(12)를 포함한다. 프로세서(12)에는 메모리(20) 및 구동 회로(16)가 결합되고, 구동 회로는 햅틱 출력 디바이스(18)에 결합된다. 프로세서(12)는 임의의 유형의 범용 프로세서일 수 있거나, 주문형 집적 회로("ASIC")와 같은 햅틱 효과들을 제공하도록 특별히 설계된 프로세서일 수 있다. 프로세서(12)는 전체 시스템(10)을 동작시키는 동일한 프로세서일 수 있거나, 별개의 프로세서일 수 있다. 프로세서(12)는 하이 레벨 파라미터들에 기초하여 어떤 햅틱 효과들이 재생될 것인지 및 그 효과들이 재생되는 순서를 결정할 수 있다. 일반적으로, 특정 햅틱 효과를 정의하는 하이 레벨 파라미터들은 크기, 주파수, 및 지속기간을 포함한다. 스트리밍 모터 명령들과 같은 로우 레벨 파라미터들이 특정한 햅틱 효과를 결정하는 데 이용될 수도 있다. 햅틱 효과는 햅틱 효과가 발생될 때 이들 파라미터들의 어떤 변동을 포함하거나 또는 사용자의 상호작용에 기초한 이들 파라미터들의 변동을 포함한다면 동적이라고 간주될 수 있다.
프로세서(12)는 원하는 햅틱 효과들이 생성되게 하기 위해 요구되는 전류 및 전압(즉, "모터 신호들")을 햅틱 출력 디바이스(18)를 공급하는 데 사용되는 전자 컴포넌트들 및 회로를 포함하는, 구동 회로(16)에 제어 신호들을 출력한다. 시스템(10)은 하나보다 많은 햅틱 출력 디바이스(18)를 포함할 수 있고, 각각의 햅틱 출력 디바이스는 공통의 프로세서(12)에 모두 결합되는 별개의 구동 회로(16)를 포함할 수 있다. 메모리 디바이스(20)는 임의의 유형의 스토리지 디바이스 또는 컴퓨터-판독가능 매체, 예컨대 랜덤 액세스 메모리("RAM") 또는 판독 전용 메모리("ROM")일 수 있다. 메모리(20)는 프로세서(12)에 의해 실행되는 명령어들, 예컨대 운영 체제 명령어들을 저장한다. 명령어들 중에서, 메모리(20)는, 프로세서(12)에 의해 실행될 때, 멀티모덜 햅틱 효과들을 발생시키는 명령어들인 햅틱 효과 발생 모듈(22)을 포함하고, 아래에 더 상세히 개시된다. 메모리(20)는 또한 프로세서(12)의 내부에 위치하거나, 또는 내부 및 외부 메모리의 임의의 조합일 수 있다.
터치 표면 또는 터치스크린(11)은 터치들을 인식하고, 표면 상의 터치들의 위치 및 크기를 인식할 수도 있다. 터치들에 대응하는 데이터는 프로세서(12), 또는 시스템(10) 내의 다른 프로세서에 전송되고, 프로세서(12)는 터치들을 해석하고 이에 응답하여 햅틱 효과 신호들을 발생시킨다. 터치 표면(11)은 용량성 감지, 저항성 감지, 표면 음향파 감지, 압력 감지, 광학 감지 등을 포함하는 임의의 감지 기술을 이용하여 터치들을 감지할 수 있다. 터치 표면(11)은 다중-터치 접촉들을 감지할 수 있고, 동시에 발생하는 다수의 터치를 구별할 수 있다. 터치 표면(11)은 사용자가 상호작용하기 위한 이미지들, 예컨대 키들, 버튼들, 다이얼들 등을 발생시키고 디스플레이하는 터치스크린일 수 있거나, 최소한의 이미지들을 갖거나 이미지를 갖지 않는 터치패드일 수 있다.
햅틱 출력 디바이스(18)는 햅틱 효과들을 발생시키는 임의의 유형의 디바이스일 수 있고, 사용자의 신체의 원하는 영역에 원하는 햅틱 효과를 생성할 수 있도록 시스템(10)의 임의의 영역에 물리적으로 위치할 수 있다.
일 실시예에서, 햅틱 출력 디바이스(18)는 진동촉각 햅틱 효과들을 발생시키는 액추에이터이다. 이 목적으로 사용되는 액추에이터들은 편심 질량체(eccentric mass)가 모터에 의해 이동되는 "ERM"(Eccentric Rotating Mass), 스프링에 부착된 질량체가 전후로 구동되는 "LRA"(Linear Resonant Actuator)와 같은 전자기 액추에이터, 또는 압전기, 전기활성 중합체들 또는 형상 기억 합금들과 같은 "스마트 재료"를 포함할 수 있다. 햅틱 출력 디바이스(18)는 또한 정전기 마찰("ESF") 디바이스 또는 초음파 표면 마찰("USF") 디바이스와 같은 디바이스, 또는 초음파 햅틱 트랜스듀서를 이용하여 음향 복사 압력을 유도하는 디바이스일 수 있다. 다른 디바이스들은 햅틱 기판 및 가요성 또는 변형 가능한 표면을 사용할 수 있고, 디바이스들은 에어 제트 등을 사용한 공기의 퍼프(a puff of air)와 같은 투사(projected) 햅틱 출력을 제공할 수 있다. 햅틱 출력 디바이스(18)는 또한 열적 햅틱 효과들을 제공하는(예를 들어, 가열 또는 냉각하는) 디바이스일 수 있다.
비록 단일 햅틱 출력 디바이스(18)가 도 1에 도시되어 있지만, 일부 실시예들은 햅틱 피드백을 제공하기 위해 동일한 또는 상이한 유형의 다수의 햅틱 출력 디바이스들을 사용할 수 있다. 일부 햅틱 효과들은 디바이스의 하우징에 결합된 액추에이터를 이용할 수 있고, 일부 햅틱 효과들은 다수의 액추에이터들을 순차적으로 및/또는 일제히 이용할 수 있다. 예를 들어, 일부 실시예들에서, 다수의 진동 액추에이터들 및 정전기 액추에이터들은 단독으로 또는 일제히 사용되어 상이한 햅틱 효과들을 제공할 수 있다. 일부 실시예들에서, 햅틱 출력 디바이스(18)는 터치 감응성 표면(11)에 결합될 수 있는 솔레노이드 또는 다른 힘 또는 변위 액추에이터를 포함할 수 있다. 또한, 햅틱 출력 디바이스(18)는 강성이거나 가요성일 수 있다.
시스템(10)은 프로세서(12)에 결합된 센서(28)를 추가로 포함한다. 센서(28)는 시스템(10)의 사용자의 임의의 유형의 특성(예를 들어, 체온, 심박수 등과 같은 생체지표), 또는 사용자의 컨텍스트(context) 또는 현재 컨텍스트(예를 들어, 사용자의 위치, 주위의 온도 등)를 검출하기 위해 사용될 수 있다.
센서(28)는 소리, 움직임, 가속도, 생리학적 신호, 거리, 유량(flow), 힘/압력/변형(strain)/구부러짐, 습도, 선형 위치, 배향/경사, 무선 주파수, 회전 위치, 회전 속도, 스위치의 조작, 온도, 진동, 또는 가시광선 강도와 같은, 그러나 이에 제한되지는 않는 에너지의 형태, 또는 다른 물리적 특성을 검출하도록 구성될 수 있다. 센서(28)는 검출된 에너지 또는 다른 물리적 특성을, 전기 신호, 또는 가상 센서 정보를 나타내는 임의의 신호로 변환하도록 추가로 구성될 수 있다. 센서(28)는 가속도계, 심전도, 뇌파도, 근전도, 안전도(electrooculogram), 구개전도(electropalatograph), 갈바닉 피부 반응 센서(galvanic skin response sensor), 용량성 센서, 홀 효과 센서, 적외선 센서, 초음파 센서, 압력 센서, 광섬유 센서, 굴곡 센서(또는 벤드(bend) 센서), 힘 감응성 저항기, 로드 셀(load cell), LuSense CPS2 155, 미니어처 압력 트랜스듀서, 압전 센서, 스트레인 게이지, 습도계, 선형 위치 터치 센서, 선형 전위차계(또는 슬라이더), 선형 가변 차동 변압기, 나침반, 경사계, 자기 태그(또는 무선 주파수 식별 태그), 회전식 인코더, 회전식 전위차계, 자이로스코프, 온-오프 스위치, 온도 센서(예컨대, 온도계, 열전쌍(thermocouple), 저항 온도 검출기, 써미스터(thermistor), 또는 온도-변환 집적 회로), 마이크, 광도계, 고도계, 생물학적 모니터, 카메라, 또는 광-의존성 저항기와 같은, 그러나 이에 제한되지는 않는 임의의 디바이스일 수 있다.
압력 센서로서 사용될 때, 센서(28)(터치스크린(11) 내에 통합될 수 있음)는 터치스크린(11)에 대해 사용자에 의해 가해지는 압력의 양을 검출하도록 구성된다. 압력 센서(28)는 센서 신호들을 프로세서(12)에 송신하도록 추가로 구성된다. 압력 센서(28)는, 예를 들어, 용량성 센서, 스트레인 게이지, 또는 힘 감응성 저항기("FSR")를 포함할 수 있다. 일부 실시예들에서, 압력 센서(28)는 사용자와 터치스크린(11) 사이의 접촉의 표면적을 결정하도록 구성될 수 있다.
시스템(10)은 시스템(10)이 인터넷/클라우드(50)를 통해 통신할 수 있게 해주는 통신 인터페이스(25)를 추가로 포함한다. 인터넷/클라우드(50)는 시스템(10)에 대한 원격 스토리지 및 처리를 제공할 수 있고 시스템(10)이 유사한 또는 상이한 유형의 디바이스와 통신할 수 있게 한다. 또한, 본 명세서에 기술된 임의의 처리 기능은 시스템(10)으로부터 원격에 있고 인터페이스(25)를 통해 통신되는 프로세서/제어기에 의해 수행될 수 있다.
실시예들은 시스템(10)에 대한 적어도 두 가지 유형의 입력에 응답하여 햅틱 효과들을 제공한다. 입력의 하나의 유형은 터치스크린(11)의 대략 Z-축을 따른 압력 기반 입력이다. 압력 기반 입력은 압력의 양이 증가 또는 감소함에 따라 압력 값들의 범위를 포함한다. 도 2는 압력 기반 입력에 응답하여 햅틱 효과들을 제공하기 위한 일 실시예의 그래픽 표현을 예시한다. 활성인 동안, 시스템(10)은 미리 정의된 압력 값들 또는 "키 프레임들"(P1, P2, P3,…PN)을 모니터링한다. 표면에 인가되는 일부 압력 제스처에 의해 압력 값(P1)이 검출되는 경우, 시스템은 일부 액션을 취할 수 있거나 그렇지 않을 수 있고, 압력 값들(P2, P3,…PN)을 계속 모니터링한다. 도면에서 P1 + ε 및 P2 - ε라고 불리는 사일런트 키 프레임들은 이들 압력 값이 도달 또는 교차될 때 햅틱 응답이 중단되는 것을 보장한다. 압력 값들이 P1과 P2 사이에 들 때, 햅틱 효과가 생성되지 않을 것이고 보간이 요구되지 않는데, 왜냐하면 2개의 사일런트 키 프레임들 사이의 값들이 사일런트 기간(201)을 구성하기 때문이다. 키 프레임들(P2 및 P3) 사이에, 시스템은 키 프레임들(P2 및 P3)과 연관된 햅틱 출력 값들 간의 보간(202)을 제공하여, P2를 수반하는 햅틱 응답과 P3을 수반하는 햅틱 응답 사이에 과도적 햅틱 효과들을 제공한다. 보간 및 보간된 효과들은 다수의 특정된 햅틱 피드백 효과들과 연관된 효과들을 변조하거나 혼합하는 데 이용되는 특징들이다. 다른 실시예에서, 보간 대신에, 아래에 상세히 개시되는 바와 같이, 과립상 합성이 사용된다.
도 2의 기능은 압력이 증가할 때 재생될 햅틱 효과들과 압력이 감소할 때 재생될 햅틱 효과들을 구별하기 위한 능력을 제공한다. 도 2의 기능은 압력이 너무 빨리 증가할 때 햅틱 효과들이 스킵되는 것을 추가로 방지한다. 예를 들어, 압력이 0에서 최대가 될 때, 중간 압력 레벨들과 연관되는 모든 효과들이 재생될 것이다. 또한, 효과들이 연속적으로 재생될 필요가 있는 경우 효과들 사이에서 사일런스 갭(silence gap)이 구현될 것이다.
도 3은 압력 기반 입력에 응답하여 햅틱 효과들을 제공하기 위한 일 실시예의 그래픽 표현을 예시한다. 일 실시예에서, 시스템은 P2가 P1보다 더 큰지 또는 더 작은지를 식별하고, 인가되는 압력이 증가하는지 또는 감소하는지에 기초하여 상이한 햅틱 응답들을 제공할 수 있다. 일부 실시예들에서, 증가하는 그리고 감소하는 압력 상황들은 햅틱 응답들의 2개의 상이한 세트들을 초래하고, 햅틱 응답들(301, 302)은 감소하는 압력 인가에 대응하고, 햅틱 응답들(303, 304)은 증가하는 압력 인가에 대응한다. 일부 실시예들에서, 증가하는 압력 상황들은 햅틱 응답들을 발생시킬 것이고, 감소하는 압력 상황들은 햅틱 효과 없음(305)을 초래할 것이다. 도 2에서와 같이, 다수의 레벨의 압력이 인가되는 것에 응답하여 상이한 햅틱 효과들(301-304)이 발생될 수 있다. 사일런트 키 프레임들은 효과 보간이 의도된 결과가 아닌 실시예들에서 이용된다. 다수의 압력 레벨들(즉, P1, P2, P3, … PN)이 인가됨에 따라, 일 실시예는 각각의 압력 레벨과 연관된 각각의 효과가 발생되도록 보장한다. 일 실시예에서, 후속 효과들 사이에서 사일런스 갭이 발생되어 사용자가 햅틱 피드백을 구별하고 이해할 수 있도록 보장할 수 있다.
압력 기반에 더하여, 다른 유형의 입력은 터치스크린(11)의 x-y 축을 따른 제스처 유형 입력이다. 제스처는 의미 또는 사용자 의도를 전달하는 객체(예를 들어, 사용자의 손가락 또는 스타일러스)의 임의의 움직임이다. 간단한 제스처들은 더 복잡한 제스처들을 형성하도록 조합될 수 있다는 것을 알 것이다. 예를 들어, 손가락을 터치 감응성 표면과 접촉시키는 것은 "핑거 온(finger on)" 제스처라 지칭될 수 있는 반면, 터치 감응성 표면으로부터 손가락을 제거하는 것은 별개의 "핑거 오프(finger off)" 제스처라 지칭될 수 있다. "핑거 온"과 "핑거 오프" 제스처들 사이의 시간이 비교적 짧은 경우, 조합된 제스처는 "탭핑"이라고 지칭될 수 있고; "핑거 온"과 "핑거 오프" 제스처들 사이의 시간이 비교적 긴 경우, 조합된 제스처는 "긴 탭핑(long tapping)"이라고 지칭될 수 있고; "핑거 온" 및 "핑거 오프" 제스처들의 2차원(x, y) 위치들 사이의 거리가 비교적 큰 경우, 조합된 제스처는 "슬라이딩"이라고 지칭될 수 있고; "핑거 온" 및 "핑거 오프" 제스처들의 2차원(x, y) 위치들 사이의 거리가 비교적 작은 경우, 조합된 제스처는 "스와이핑", "스머징" 또는 "플리킹"이라고 지칭될 수 있다. 임의의 수의 2차원 또는 3차원의 단순한 또는 복잡한 제스처들이 임의의 방식으로 조합되어, 디바이스에 대한 다수의 손가락 접촉들, 손바닥 또는 제1 접촉, 또는 근접도를 포함하지만 이에 제한되지 않는, 임의의 수의 다른 제스처들을 형성할 수 있다. 제스처는 또한 가속도계, 자이로스코프, 또는 다른 모션 센서를 갖는 디바이스에 의해 인식되어, 전자 신호들로 변환된 임의의 형태의 손 동작일 수 있다. 그러한 전자 신호들은 가상 주사위를 흔드는 것과 같은 동적 효과를 활성화할 수 있고, 센서는 동적 효과를 발생시키는 사용자 의도를 캡처한다. 압력 기반 입력에서와 같이, 제스처 기반 입력은 터치스크린(11)을 통한 포인트 A로부터 포인트 B까지의 슬라이드 제스처와 같은 입력의 범위와 연관될 수 있다.
개시된 바와 같이, 햅틱 효과들은 입력의 범위를 따라 발생될 수 있다. 이들 햅틱 효과들은 동적 햅틱 효과들로 간주될 수 있고, 보간 또는 과립상 합성을 이용하여 발생될 수 있다. 과립상 합성을 사용하면, 입력은 신호 또는 파형의 여러 짧은 조각을 산출하거나 발생시킬 수 있고, 각각의 파형을 포락선과 조합하여 "과립(grain)"를 생성할 수 있다. 여러 과립을 동시에, 순차적으로 또는 둘 다 발생시킬 수 있고, 과립들을 조합하여 "클라우드"을 형성할 수 있다. 이어서, 이 클라우드를 이용하여 햅틱 신호를 합성할 수 있고, 후속하여 이 햅틱 신호를 이용하여 햅틱 효과를 발생시킬 수 있다. 입력에 과립상 합성이 적용되기 전에, 입력은 주파수-편이 또는 주파수-편이와 필터링의 조합을 통해 옵션으로 수정될 수 있다. 일 실시예에서, 업데이트당 상이한 파라미터들을 갖는 개별 과립들이 입력 값(예를 들어, 압력, 위치, 이동 거리)에 따라 발생된다. 과립상 합성의 추가의 세부 사항은, 예를 들어, 미국 특허 제9,257,022호에 개시되어 있고, 그 개시내용은 본 명세서에 참조로 포함된다.
사용자 입력이 압력 기반인 경우, 동적 햅틱 효과는 사용자 입력이 증가하는 압력에 대응하는지 또는 감소하는 압력에 대응하는지에 따라 변화될 수 있다. 사용자 입력이 슬라이드 제스처인 경우, 동적 햅틱 효과는 슬라이드 제스처의 방향 및 속도에 따라 변화될 수 있다. 사용자 입력이 압력 기반 입력 및 슬라이드 제스처 둘 다를 포함하는 경우, 동적 햅틱 효과는 속도 및 방향의 상이한 조합들에 기초하여 변경될 수 있다.
범위 기반 입력(예를 들어, 압력 기반 입력 또는 제스처 기반 입력)에 응답하여 동적 햅틱 효과를 발생시키는 것에 더하여, 실시예들은 범위를 따라 있는 특정의 미리 정의된 "트리거" 포인트들에서 추가의 미리 설계된 "정적" 햅틱 효과들을 추가한다. 트리거 포인트들은 압력 기반 입력들에 대한 특정 임계치들, 또는 제스처 기반 입력들에 대한 특정 x-y 축 좌표들, 또는 이 둘의 조합으로 정의된다. 범위를 따라 동적 햅틱 효과 및 정적 햅틱 효과 둘 다를 조합함으로써, 전체 햅틱 효과들이 향상된다. 예를 들어, 목재 또는 기계적 버튼과 같은 재료들을 시뮬레이션하는 햅틱 효과들은 "목재" 또는 " 버튼" 상의 압력에 응답하여 햅틱 효과들을 발생시킨다. 범위 동안의 특정 포인트들에서, 목재 내의 섬유가 변형되거나 파손될 때, 시뮬레이션의 컴플라이언스가 변화한다. 트리거링된 정적 햅틱 효과들은 컴플라이언스를 시뮬레이션하는 데 도움이 된다.
도 4는 일 실시예에 따른 멀티모덜 햅틱 효과들로 버튼 누름들을 시뮬레이션하는 예를 예시한다. 다수의 "버튼"(401-405)이 도 1의 압력 감응성 터치스크린(11) 상에 디스플레이된다. 버튼들(401-405)은 실제 물리적 버튼들을 표현하기 위해 그래픽으로 디스플레이된다. 각각의 버튼은, 버튼의 배치에 대응하는 x-y 축 좌표들 상에서 z 축을 따라 압력을 인가하는 사용자에 의해 터치스크린(11) 상에 "푸시(pushed)" 또는 "눌릴(depressed)" 수 있다. 버튼의 상태 및 그것이 어디까지 "푸시"되는지에 관한 피드백이 멀티모덜 햅틱 피드백, 오디오 피드백, 및 시각 피드백의 조합에 의해 제공되어 버튼이 푸시되고 있다는 다중 감각 일루전을 생성할 수 있다.
각각의 버튼은 낮은 내지 높은 인가된 압력 값들의 대응하는 입력 압력 범위(410)를 가질 수 있다. 압력 값들은 터치스크린의 사용자와의 접촉의 양의 측정과 같은, 실제 압력 또는 일부 유형의 "의사 압력" 계산에 기초할 수 있다(즉, 접촉이 많을수록, 압력이 더 많다).
과립상 합성에 의해 발생된 동적 햅틱 효과들의 제1 범위(411)(또는 "동적 부분"), 이어서 정적인 미리 정의된 햅틱 효과를 트리거링하는 트리거 포인트(412)(또는 " 트리거 위치"), 이어서 과립상 합성에 의해 발생된 동적 햅틱 효과들의 제2 범위(413)를 포함하는 햅틱 프로파일/범위(420)가 압력 범위(410)에 대응한다. 햅틱 범위(420)는 객체(즉, 버튼들(401-405) 중 하나 이상)의 햅틱 프로파일로서 기능한다. 범위들에 기초하여, 사용자는 버튼이 그의 이동 범위를 따라 푸시됨에 따라 햅틱 효과들을 느끼고, 오디오 효과들을 듣고, 시각 효과들을 볼 것이고(411), 버튼 이동 범위의 하부/끝에 닿음에 따라 트리거링된 햅틱 효과 및/또는 사운드 효과 및/또는 시각 효과를 경험할 것이고(412), 이어서 버튼이 완전히 눌린 후에 사용자가 버튼을 추가로 누름에 따라 추가의 동적 및/또는 다중 감각 효과들을 경험할 것이다(413). 물리적 버튼이 완전히 눌린 후에, 버튼이 만들어지는 재료(예를 들어, 플라스틱)의 일부 컴플라이언스가 있을 수 있고, 그 결과 버튼의 이동 범위에 도달한 후에도 압력이 증가됨에 따라 추가의 다중 감각 피드백(413에 도시됨)이 초래된다. 동적 햅틱 효과들과 정적 햅틱 효과의 조합의 결과로서, "버튼들"의 이동은 실제 버튼들을 모방한다.
도 5는 일 실시예에 따른 멀티모덜 햅틱 효과들로 상이한 재료들을 시뮬레이션하는 예를 예시한다. 농구공, 도지 볼, 스폰지, 스티로폼 및 가죽을 포함하는, 다수의 "재료들"(501)이 압력 감응성 터치스크린(11) 상에 디스플레이된다. 재료들(501)은 실제 대응하는 물리적 재료들을 나타내기 위해 그래픽으로 디스플레이된다. 압력 범위(502) 및 대응하는 햅틱 프로파일/범위(503)가 또한 도시된다. 햅틱 범위(503) 내에서, 상이한 재료들에 대응하는 상이한 햅틱 효과들이 도시된다. 각각의 햅틱 효과는, 과립상 합성에 의해 구현되는, 동적 햅틱 효과들의 조합, 및 하나 이상의 트리거링된 햅틱 효과들을 포함한다. 503에서의 범위들의 결과로서, 증가하는 압력이 인가됨에 따라 재료들 각각의 컴플라이언스가 시뮬레이션될 수 있다. 예를 들어, 스폰지는 비교적 누르기 쉬울 것이고, 일관된 신축성을 제공할 것이다. 대조적으로, 스티로폼은 임의의 압력에 대해 비교적 뻣뻣한 저항을 제공하고, 더 많은 압력에 대해서는 부분들이 균열/파손을 시작할 것이고, 이는 정적 트리거링된 효과들에 의해 시뮬레이션될 것이다. 아래 개시된 바와 같이, 재료들 중 하나가 목재라면 컴플라이언스 효과는 더 현저할 수 있다. 컴플라이언스를 시뮬레이션하기 위해 트리거링된 정적 햅틱 효과가 사용될 때, 트리거링된 포인트들은 스폰지 및 스티로폼에 대해 도시된 바와 같이, 범위(503) 상의 대응하는 재료에 대한 범위 내에 도시될 것이다.
도 6은 사용자가 터치스크린(11)의 x-y 축 평면에서 재료들을 가로질러 손가락 또는 다른 객체를 슬라이딩함에 따라 도 5의 재료들(501)의 질감을 시뮬레이션하는 예를 예시한다. 도 6에 도시된 예에서, 사용자는 601에서의 도지 볼로부터 603에서의 스폰지로 횡단하고, 그 재료들 사이에 602에서의 과도기가 도시된다. 특정한 재료에 접촉하는 동안, 재료의 질감을 시뮬레이션하기 위해 과립상 합성이 사용된다. 재료의 질감을 시뮬레이션하는 개시내용은 미국 특허 제9,330,544호에 개시되어 있고, 그 개시내용은 본 명세서에 참조로 포함된다. 603에 도시된 바와 같이, 사용자가 재료들 사이의 갭이 존재할 수 있는 과도기에 접근함에 따라, 트리거 정적 햅틱 효과가 갭을 시뮬레이션한다. 이어서, 다음 재료를 시뮬레이션하기 위해 상이한 과립상 합성이 사용된다. 다른 실시예에서, 재료들이 바닥 내의 목재 판자들이라면, 각각의 판자 사이의 갭들은 목재 판자들의 질감을 시뮬레이션하는 동적 햅틱 효과들 사이의 정적 햅틱 효과를 사용하여 시뮬레이션될 것이다.
도 7은 본 발명의 실시예들에 따른 과립상 합성 툴(700)을 예시한다. 도 7에서, 툴(700)의 사용자 인터페이스가 도시되어 있다. 툴(700)는 사용자가 과립 사이즈, 과립 밀도, 과립 크기, 사이클 당 최대 과립들, 및 압력 범위를 특정할 수 있게 한다. 툴(700)은 시작 키 프레임 및 종료 키 프레임에 의한 파라미터 렌더링, 역 렌더링, .xml 파일로부터의 프리셋 로딩, .xml 파일로의 새로운 햅틱 효과 저장 및 상이한 압력 레벨들에 대한 효과 설계를 가능하게 한다. 툴(700)은 또한 효과 파라미터 설정들의 라이브 프리뷰를 가능하게 하여, 효과 설계자가 컨트롤들의 위치(들)의 변경의 결과를 즉시 느낄 수 있게 한다. 추가적으로, 툴(700)은 동기화된 오디오 피드백을 가능하게 하고, 이에 의해 오디오 신호가 햅틱 신호와 함께 합성되고 그것에 잘 매칭되도록 생성될 수 있다. 또한, 툴(700)은 시뮬레이션되는 재료의 이미지의 컨텍스트에서 햅틱 및 오디오 효과들이 경험될 수 있도록 시각 오버레이를 제공한다.
도 8은 일 실시예에 따른 멀티모덜 햅틱 효과를 발생시킬 때의 도 1의 시스템(10)의 기능의 흐름도이다. 일 실시예에서, 멀티모덜 햅틱 효과 발생 모듈(22)은, 프로세서(12)에 의해 실행될 때, 기능을 수행한다. 일 실시예에서, 도 8(및 아래 도 9)의 흐름도의 기능은 메모리 또는 다른 컴퓨터 판독가능 또는 유형적(tangible) 매체에 저장되고, 프로세서에 의해 실행되는 소프트웨어에 의해 구현된다. 다른 실시예들에서, 기능은 하드웨어(예를 들면, 주문형 집적 회로("ASIC"), 프로그래머블 게이트 어레이("PGA"), 필드 프로그래머블 게이트 어레이("FPGA") 등의 이용을 통해), 또는 하드웨어 및 소프트웨어의 임의의 조합에 의해 수행될 수 있다.
801에서, 힘 검출의 형태로 사용자 입력(즉, 압력 기반 입력)이 수신된다. 다른 실시예들에서, 사용자 입력은 압력 기반 대신에 x-y 축 위치 데이터의 형태일 수 있다.
802에서, 실시예들은 입력을 입력과 연관된 객체의 햅틱 프로파일에 대해 비교한다. 햅틱 프로파일은 도 4의 햅틱 범위(420) 또는 도 5의 햅틱 범위(503)에 의해 도시된 바와 같이 햅틱 범위의 형태이고, 사용자 입력에 대응하고 입력 범위(예를 들어, 입력 범위(도 4의 410 또는 도 5의 502))에 대응하는 햅틱 효과들을 제공한다. 일 실시예에서, 햅틱 효과들은 적어도 하나의 동적 햅틱 효과(햅틱 프로파일의 동적 부분에서) 및 적어도 하나의 트리거링된 정적 햅틱 효과(햅틱 프로파일의 트리거 위치에서)의 조합이다.
803에서, 실시예들은 입력을 햅틱 프로파일에 대해 설계된 효과 임계치들 또는 트리거들과 비교하고, 설계된 효과 트리거(예를 들어, 도 4의 트리거(412))에서 입력이 발생했는지를 결정한다. 예를 들어, 압력의 양은 센서 입력 범위를 따른 트리거 위치에 대응할 수 있다.
803에서 예이면, 804에서 설계된 햅틱 효과가 햅틱 출력 디바이스에 의해 재생된다. 일 실시예에서 설계된 햅틱 효과는 미리 정의될 수 있는 정적 햅틱 효과이다.
803에서 아니오이면, 805에서 실시예들은 동적 햅틱 효과의 파라미터 값을 검색하고, 806에서, 파라미터 값에 기초하여 햅틱 효과를 재생한다. 일 실시예에서, 동적 효과는 입력으로서 파라미터 값을 사용하여 과립상 합성을 사용하여 생성된다. 다른 실시예에서, 동적 효과는 파라미터 값을 입력으로서 사용하여 보간을 사용하여 생성된다. 파라미터 값들은 툴(700)에서, 소스 코드에서, 또는 다른 수단에 의해 정의될 수 있다.
801에서의 힘/압력 입력에 더하여, 입력은 또한 방향성, 속도, 가속도, 리프트, 롤, 요 등의 형태, 또는 디바이스가 직면할 수 있는 임의의 유형의 입력일 수 있다. 디바이스들은 핸드헬드 및/또는 웨어러블 디바이스들을 포함할 수 있다. 웨어러블 디바이스들은 예를 들어, 장갑, 조끼, 모자, 헬멧, 부츠, 팬츠, 셔츠, 안경, 고글, 시계, 보석, 다른 액세서리 등을 포함할 수 있다. 디바이스들은 물리적 구조들일 수 있거나 디바이스들은 증강 또는 가상 현실의 부분으로서 발생될 수 있다. 입력을 검출하는 센서들은 물리적 센서들일 수 있거나 또는 이들은 가상 센서들일 수 있다. 입력은 입력이 검출되는 디바이스 상에 효과를 야기하거나 또는 그 효과가 달성된 디바이스와 물리적으로 또는 무선으로 링크된 다른 디바이스 상에 효과를 야기할 수 있다.
도 9는 일 실시예에 따른 멀티모덜 햅틱 효과를 발생시킬 때의 도 1의 시스템(10)의 기능의 흐름도이다. 일 실시예에서, 멀티모덜 햅틱 효과 발생 모듈(22)은, 프로세서(12)에 의해 실행될 때, 기능을 수행한다.
901에서, 실시예들은 입력 범위들의 수를 결정한다. 일부 실시예들에서, 다수의 상이한 햅틱 범위들은 동일한 사용자 입력 범위에 대응한다. 예를 들어, 도 4를 참조하면, 압력이 증가하고 있을 때(즉, 사용자가 버튼을 누르고 있을 때)의 햅틱 범위(420)에 더하여, 사용자가 버튼 상의 압력을 해제/감소시키고 있을 때의 상이한 햅틱 범위가 존재하여, 증가하는 그리고 감소하는 압력에 대한 상이한 햅틱 효과들을 생성할 수 있다.
따라서, 버튼 활성화 전에 대한 하나의 효과 범위, 증가하는 힘에 의한 버튼 활성화 후에 대한 하나의 효과 범위, 및 감소하는 힘에 의한 버튼 활성화 후에 대한 하나의 효과 범위와 같이, 다수의 범위들이 상이한 상태들에 결부될 수 있다. 효과 범위 설정들은 과립상에 기초할 수 있거나, 예컨대 게임 엔진 내부의 다른 요소들에 결부될 수 있거나 그렇지 않을 수 있는 다른 수단에 의해 정의된 파라미터들에 기초할 수 있다. 파라미터 값들을 포함하는 하나 이상의 포인트들(또는 키 프레임들)이 있을 수 있고, 그 파라미터 값들 사이는 보간된다.
902에서, 실시예들은 입력 범위들의 수가 1과 같거나 그보다 큰지를 결정한다.
902에서 하나의 입력 범위가 존재하는 경우, 903에서, 실시예들은 입력 범위의 시작 및 종료에 대한 값들(예를 들어, 도 4의 햅틱 범위(420)의 값들)을 검색한다. 904에서, 실시예들은 범위에서의 설계된 효과들의 위치를 검색한다. 예를 들어, 설계된/미리 정의된 햅틱 효과들은 햅틱 프리미티브의 형태로 메모리에 저장될 수 있다. 메모리(20)는 클라우드 스토리지를 원격으로 사용하는 것을 포함하여, 스토리지, 또는 임의의 다른 이용 가능한 스토리지 위치를 위해 사용될 수 있다.
902에서 하나보다 많은 입력 범위가 존재하는 경우(예를 들어, 2개 이상의 입력 범위), 905에서 실시예들은 입력 범위들 각각에 대한 시작 및 종료에 대한 값들을 검색한다. 906에서, 실시예들은 범위들 각각에 대한 설계된 효과들의 위치들을 검색한다.
907에서, 실시예들은 서로 변조하도록 설정되는 다수의 동시 범위들이 있는지를 결정한다. 예를 들어, 일부 경우에, 동시에 멀티모덜 출력에 영향을 미치는, 그들 자신의 모덜 프로파일들을 갖는 다수의 센서 입력들이 있을 수 있다. 멀티모덜 효과는 상이한 범위들로 분할된다. 각각의 범위는 상이한 변조 방법들을 사용할 수 있고, 그 변조 방법들은 입력 값에 따라 동적 햅틱 효과 파라미터들을 계산한다. 각각의 범위의 그러한 변조 방법들은 효과 설정들에 저장된다. 효과를 재생하는 동안, 애플리케이션은 현재의 입력 값이 어떤 범위에 속하는지를 알아보기 위해 효과 설정을 체크하고 이 범위에 대한 변조 방법에 기초하여 정확한 햅틱 효과 파라미터들을 계산할 것이다.
907에서 예이면, 911에서 변조의 방법이 결정된다. 912에서, 방법은 코어 범위와 비교된다. 913에서, 설계된 효과는 설정들에 기초하여 변조된다. 예를 들어, 스크린 상의 슬라이드 제스처는 특정 범위 내의 햅틱 크기를 초래하는 모덜 프로파일을 가질 수 있는 반면, 디바이스를 이동시키는 동안에 수행될 때 동일한 슬라이드 제스처로부터 생성된 햅틱 신호는 슬라이드 제스처와 조합하여 가속도계의 입력에 의해 변조된다.
907에서, 또는 904 또는 903 후에, 실시예들은 사용자 입력(예를 들어, 압력 기반 또는 위치 입력)을 체크한다. 시스템이 사용자 입력을 검출하면, 실시예들은 도 8에서 설명된 바와 같이 햅틱 효과를 재생한다. 입력이 없다면, 909에서, 어떠한 햅틱 효과도 재생되지 않는다.
904 및 905에서 검색된 저장된 설계된 효과들과 관련하여, 하나 이상의 설계된 기본 효과들이 존재할 수 있고, 이들은 주파수, 크기 및 지속기간과 같은 미리 정의된 햅틱 파라미터들을 갖는 햅틱 프리미티브들의 형태일 수 있다. 이들 햅틱 프리미티브들, 또는 "기본 효과들"은 동적 효과들을 위해 수정될 수 있다(예를 들어, 변조를 통해). 설계된 효과의 값들은 파라미터 값들을 위해 사용될 수 있다.
동적 효과들은 강도, 주파수(즉, 신호 폭 및/또는 신호 폭 사이의 갭), 및 신호 형상(예를 들어, 사인파, 삼각형 파, 정사각형 파, 톱니 업(saw tooth up) 파, 또는 톱니 다운(saw tooth down) 파)의 기본 효과들의 수정을 요구할 수 있다. 햅틱 설정들에 대한 범위들은 적어도 객체, 표면, 재료, 또는 물리 기반 값(예를 들어, 중량, 마찰 등)의 특성으로서 저장될 수 있다.
실시예들은 실세계 객체들의 프로파일들에 기초하여 물리 기반 햅틱 프로파일들(즉, 사용자 입력에 대응하는 햅틱 범위들)을 발생시킬 수 있다. 도 10은 일 실시예에 따른 기계적 스위치들/버튼들의 프로파일들, 및 시뮬레이션된 버튼들에 대해 햅틱 효과들이 발생될 수 있게 하는 햅틱 프로파일들의 발생을 예시한다. 도 10은 본 발명의 실시예들에 따른 4개의 상이한 기계적 스위치들의 힘 프로파일들(1001-1004) 및 대응하는 햅틱 프로파일들을 예시한다.
1001에서, 스위치는 동작 포인트 및 리셋 포인트를 갖는 선형 작동을 갖는다. 1002에서, 스위치는 동작 포인트, 리셋 포인트, 및 압력 포인트를 갖는 압력 포인트 인체 공학을 갖는다. 1003에서, 스위치는 동작 포인트 및 압력 포인트를 갖는 대안적인 액션을 갖는다. 1004에서, 스위치는 동작 포인트, 리셋 포인트, 및 압력 포인트를 갖는 압력 포인트 클릭을 갖는다.
실시예들은 키 이동의 모델에 대한 햅틱 설계 파라미터들의 새로운 매핑을 생성한다. 실시예들은 트리거링된 햅틱, 오디오, 및 시각 효과들에 의해 표현되는 임의의 수의 임계 포인트들을 허용하고, 증가하는 압력에 대한 햅틱 매핑으로부터 감소하는 압력에 대한 별개의 햅틱 매핑을 갖는 히스테리시스를 모델링한다. 이러한 방식으로, 실시예들은 동등한 경험이 발생되는 방식으로 기계적 키들로부터의 힘 프로파일들 및 오디오 프로파일들이 디지털 햅틱 및 오디오 피드백으로 모델링되는 것을 가능하게 한다. 예시적인 매핑들(1010 내지 1012)이 도 10에 도시되어 있다.
다른 예로서, 물리 기반 햅틱 프로파일들은 미세한 촉각 특징들 및 총 촉각 특징들의 조합을 갖고 객체들의 물리적 특성들에 기초하는 실세계 객체들의 시뮬레이션들을 위해 사용될 수 있다. 예를 들어, 목재 바닥의 유형과 같은 얇은 목재 보(wooden beam)가 시뮬레이션될 수 있다. 목재 보의 시뮬레이션은 미세한 촉각 특징들을 포함하고, 따라서 보가 컴플라이언스 상호작용을 통해 구부러질 때, 목재 내부의 섬유들은 변형 또는 파손되어, 촉각 감각을 일으킬 수 있다. 그러나, 각각의 변형 또는 파손 섬유를 모델링하고 각각의 섬유-변형 이벤트에 대해 햅틱 효과를 출력하는 것은 어려울 수 있다. 이 상호작용을 설계하는 것은 단지 부담스러울 뿐만 아니라, 계산 집약적일 것이다. 대신에, 실시예들은 미세한 촉각 특징들을 렌더링하기 위해 압력 제스처로부터 동적 효과 파라미터들로의 더 높은 레벨 매핑을 사용할 수 있다.
목재 보의 시뮬레이션은 또한 보가 특정 양 구부러질 때, 더 많은 섬유들이 균열되도록 총 촉각 특징들을 포함한다. 이들 균열의 촉각 감각은 일부 포락선 품질들을 갖는 큰 규모의 짧은 지속기간 이벤트들(예를 들어, 공격, 붕괴 등)의 것이다. 이들 이벤트들에는 일부 조직상 요소들이 있을 수 있지만, 이들은 매우 짧은 기간들에서 발생한다. 이들은 트리거링된 햅틱, 오디오, 및 시각 이벤트들로 잘 시뮬레이션될 수 있다. 미세한 촉각 특징들을 위해 사용되는 동적 효과 매핑을 사용하는 것은 매우 짧은 지속기간들에서 키 프레임들을 정의할 필요가 있기 때문에 덜 실용적이다. 따라서, 재료들의 컴플라이언스 특성들 및 재료들의 다른 오디오, 시각, 및 햅틱 특성들을 시뮬레이션하기 위해 정적 트리거링된 효과들과 동적 효과들을 조합하는 것이 사용될 수 있다.
개시된 바와 같이, 실시예들은 입력 범위 및 동적 햅틱 효과들(예를 들어, 과립상 합성을 사용하여) 및 트리거링된 정적 햅틱 효과 둘 다를 포함하는 대응하는 햅틱 프로파일을 발생시킴으로써 실세계 요소들 또는 컴포넌트를 시뮬레이션하고 모방한다. 햅틱 효과들의 멀티모덜 조합은 예를 들어 압력 기반 입력에 응답하여 재료 컴플라이언스를 시뮬레이션하기 위한 향상된 느낌을 제공한다. 또한, 오디오 및/또는 시각 피드백이 동적 햅틱 효과 또는 정적 햅틱 효과와 함께 발생될 수 있다.
여러 실시예가 본 명세서에서 구체적으로 예시 및/또는 설명되어 있다. 그러나, 개시된 실시예들의 수정들 및 변동들은 본 발명의 사상 및 의도된 범위를 벗어나지 않고 상기 교시들에 의해 그리고 첨부된 청구항들의 범위 내에 커버되는 것이 인식될 것이다.
Claims (20)
- 사용자 입력에 응답하여 햅틱 효과들을 발생시키는 방법으로서,
사용자 입력에 대응하는 제1 입력 범위를 수신하는 단계;
상기 제1 입력 범위에 대응하는 햅틱 프로파일을 수신하는 단계;
상기 햅틱 프로파일의 제1 동적 부분 동안, 상기 제1 동적 부분 동안 상기 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 발생시키는 단계; 및
상기 햅틱 프로파일의 제1 트리거 위치에서, 트리거링된 햅틱 효과를 발생시키는 단계를 포함하는, 방법. - 제1항에 있어서,
상기 햅틱 프로파일의 제2 동적 부분 동안, 상기 제2 동적 부분 동안 상기 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 발생시키는 단계를 추가로 포함하는, 방법. - 제1항에 있어서, 상기 동적 햅틱 효과의 적어도 일부분은 과립상 합성을 이용하여 발생되는, 방법.
- 제1항에 있어서, 상기 동적 햅틱 효과의 적어도 일부분은 보간을 이용하여 발생되는, 방법.
- 제1항에 있어서, 상기 사용자 입력은 터치스크린에 인가되고, 상기 제1 입력 범위는 상기 사용자 입력에 의해 상기 터치스크린에 인가된 압력의 범위에 대응하는, 방법.
- 제1항에 있어서, 상기 사용자 입력은 터치스크린에 인가되고, 상기 제1 입력 범위는 상기 터치스크린 상의 터치 위치들에 대응하는, 방법.
- 제1항에 있어서, 상기 햅틱 프로파일은 시뮬레이션될 요소의 물리적 특성에 기초하는, 방법.
- 제7항에 있어서, 상기 요소는 버튼 또는 재료 중 하나인, 방법.
- 제1항에 있어서, 제2 입력 범위를 수신하는 단계를 추가로 포함하고, 상기 동적 햅틱 효과를 발생시키는 단계는 상기 제1 입력 범위가 상기 제2 입력 범위를 변조하는 단계를 포함하는, 방법.
- 제1항에 있어서, 상기 동적 햅틱 효과 또는 상기 트리거링된 햅틱 효과와 함께 오디오 및/또는 시각 피드백을 추가로 포함하는, 방법.
- 제1항에 있어서, 상기 사용자 입력은 압력 기반이고 상기 동적 햅틱 효과는 상기 사용자 입력이 증가하는 압력에 대응하는지 또는 감소하는 압력에 대응하는지에 기초하여 추가로 변화하는, 방법.
- 제1항에 있어서, 상기 사용자 입력은 슬라이드 제스처이고 상기 동적 햅틱 효과는 상기 슬라이드 제스처의 방향 및 속도에 기초하여 추가로 변화하는, 방법.
- 제1항에 있어서, 상기 사용자 입력은 압력 기반 입력과 슬라이드 제스처 둘 다를 포함하는, 방법.
- 프로세서에 의해 실행될 때, 상기 프로세서로 하여금 사용자 입력에 응답하여 햅틱 효과들을 발생시키게 하는 명령어들이 저장되어 있는 비일시적 컴퓨터 판독가능 매체로서, 상기 햅틱 효과들을 발생시키는 것은:
사용자 입력에 대응하는 제1 입력 범위를 수신하는 것;
상기 제1 입력 범위에 대응하는 햅틱 프로파일을 수신하는 것;
상기 햅틱 프로파일의 제1 동적 부분 동안, 상기 제1 동적 부분 동안 상기 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 발생시키는 것; 및
상기 햅틱 프로파일의 제1 트리거 위치에서, 트리거링된 햅틱 효과를 발생시키는 것을 포함하는, 비일시적 컴퓨터 판독가능 매체. - 제14항에 있어서,
상기 햅틱 프로파일의 제2 동적 부분 동안, 상기 제2 동적 부분 동안 상기 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 발생시키는 것을 추가로 포함하는, 비일시적 컴퓨터 판독가능 매체. - 제14항에 있어서, 상기 동적 햅틱 효과의 적어도 일부분은 과립상 합성을 이용하여 발생되는, 비일시적 컴퓨터 판독가능 매체.
- 제14항에 있어서, 상기 동적 햅틱 효과의 적어도 일부분은 보간을 이용하여 발생되는, 비일시적 컴퓨터 판독가능 매체.
- 제14항에 있어서, 상기 사용자 입력은 터치스크린에 인가되고, 상기 제1 입력 범위는 상기 사용자 입력에 의해 상기 터치스크린에 인가된 압력의 범위에 대응하는, 비일시적 컴퓨터 판독가능 매체.
- 제14항에 있어서, 상기 사용자 입력은 터치스크린에 인가되고, 상기 제1 입력 범위는 상기 터치스크린 상의 터치 위치들에 대응하는, 비일시적 컴퓨터 판독가능 매체.
- 햅틱 가능 시스템으로서,
프로세서;
상기 프로세서에 결합된 햅틱 출력 디바이스;
상기 프로세서에 결합된 사용자 인터페이스를 포함하고;
상기 프로세서는, 명령어들을 실행할 때:
상기 사용자 인터페이스 상의 사용자 입력에 대응하는 제1 입력 범위를 수신하고, 상기 제1 입력 범위에 대응하는 햅틱 프로파일을 수신하고;
상기 햅틱 프로파일의 제1 동적 부분 동안, 상기 제1 동적 부분 동안 상기 제1 입력 범위의 값들에 기초하여 변하는 동적 햅틱 효과를 상기 햅틱 출력 디바이스를 이용하여 발생시키고;
상기 햅틱 프로파일의 제1 트리거 위치에서, 트리거링된 햅틱 효과를 상기 햅틱 출력 디바이스를 이용하여 발생시키는, 햅틱 가능 시스템.
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662360036P | 2016-07-08 | 2016-07-08 | |
US62/360,036 | 2016-07-08 | ||
PCT/US2017/041089 WO2018009788A1 (en) | 2016-07-08 | 2017-07-07 | Multimodal haptic effects |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20190017010A true KR20190017010A (ko) | 2019-02-19 |
Family
ID=60910817
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020197000154A KR20190017010A (ko) | 2016-07-08 | 2017-07-07 | 멀티모덜 햅틱 효과 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20180011538A1 (ko) |
EP (1) | EP3455704A4 (ko) |
JP (1) | JP2019519856A (ko) |
KR (1) | KR20190017010A (ko) |
CN (1) | CN109478089A (ko) |
WO (1) | WO2018009788A1 (ko) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200134952A (ko) * | 2019-05-24 | 2020-12-02 | 한양대학교 산학협력단 | 임의 위치에서 발생하는 진동 피드백 구현 장치 및 방법 |
KR102504937B1 (ko) * | 2021-12-22 | 2023-03-02 | 현대건설기계 주식회사 | 건설장비의 원격조종 시스템 |
WO2023146063A1 (ko) * | 2022-01-28 | 2023-08-03 | 삼성전자 주식회사 | 햅틱 신호를 생성하는 전자 장치 및 그 방법 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10503261B2 (en) * | 2017-12-15 | 2019-12-10 | Google Llc | Multi-point feedback control for touchpads |
US10684689B2 (en) * | 2018-04-20 | 2020-06-16 | Immersion Corporation | Cross-platform dynamic haptic effect design tool for augmented or virtual reality environments |
US10572017B2 (en) * | 2018-04-20 | 2020-02-25 | Immersion Corporation | Systems and methods for providing dynamic haptic playback for an augmented or virtual reality environments |
WO2022075136A1 (ja) * | 2020-10-07 | 2022-04-14 | 株式会社村田製作所 | 信号生成装置、信号生成方法及び信号生成プログラム |
US11714491B2 (en) * | 2021-06-07 | 2023-08-01 | Huawei Technologies Co., Ltd. | Device and method for generating haptic feedback on a tactile surface |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4897596B2 (ja) * | 2007-07-12 | 2012-03-14 | ソニー株式会社 | 入力装置、記憶媒体、情報入力方法及び電子機器 |
US9857872B2 (en) * | 2007-12-31 | 2018-01-02 | Apple Inc. | Multi-touch display screen with localized tactile feedback |
US20110267294A1 (en) * | 2010-04-29 | 2011-11-03 | Nokia Corporation | Apparatus and method for providing tactile feedback for user |
US20110267181A1 (en) * | 2010-04-29 | 2011-11-03 | Nokia Corporation | Apparatus and method for providing tactile feedback for user |
US9448713B2 (en) * | 2011-04-22 | 2016-09-20 | Immersion Corporation | Electro-vibrotactile display |
JP6392747B2 (ja) * | 2012-05-31 | 2018-09-19 | ノキア テクノロジーズ オサケユイチア | ディスプレイ装置 |
US8860563B2 (en) * | 2012-06-14 | 2014-10-14 | Immersion Corporation | Haptic effect conversion system using granular synthesis |
US9030428B2 (en) * | 2012-07-11 | 2015-05-12 | Immersion Corporation | Generating haptic effects for dynamic events |
US9330544B2 (en) * | 2012-11-20 | 2016-05-03 | Immersion Corporation | System and method for simulated physical interactions with haptic effects |
US10037081B2 (en) * | 2013-08-12 | 2018-07-31 | Immersion Corporation | Systems and methods for haptic fiddling |
JP2015130168A (ja) * | 2013-12-31 | 2015-07-16 | イマージョン コーポレーションImmersion Corporation | 摩擦拡張制御、及び、タッチコントロールパネルのボタンを摩擦拡張制御部へと変換する方法 |
-
2017
- 2017-07-07 JP JP2018565883A patent/JP2019519856A/ja active Pending
- 2017-07-07 CN CN201780041758.1A patent/CN109478089A/zh active Pending
- 2017-07-07 KR KR1020197000154A patent/KR20190017010A/ko not_active Application Discontinuation
- 2017-07-07 EP EP17824972.8A patent/EP3455704A4/en not_active Withdrawn
- 2017-07-07 WO PCT/US2017/041089 patent/WO2018009788A1/en unknown
- 2017-07-07 US US15/643,802 patent/US20180011538A1/en not_active Abandoned
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200134952A (ko) * | 2019-05-24 | 2020-12-02 | 한양대학교 산학협력단 | 임의 위치에서 발생하는 진동 피드백 구현 장치 및 방법 |
KR102504937B1 (ko) * | 2021-12-22 | 2023-03-02 | 현대건설기계 주식회사 | 건설장비의 원격조종 시스템 |
US11775170B2 (en) | 2021-12-22 | 2023-10-03 | Hyundai Construction Equipment Co., Ltd. | Remote control system for construction equipment |
WO2023146063A1 (ko) * | 2022-01-28 | 2023-08-03 | 삼성전자 주식회사 | 햅틱 신호를 생성하는 전자 장치 및 그 방법 |
Also Published As
Publication number | Publication date |
---|---|
CN109478089A (zh) | 2019-03-15 |
US20180011538A1 (en) | 2018-01-11 |
EP3455704A1 (en) | 2019-03-20 |
EP3455704A4 (en) | 2019-11-13 |
WO2018009788A1 (en) | 2018-01-11 |
JP2019519856A (ja) | 2019-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10775895B2 (en) | Systems and methods for multi-pressure interaction on touch-sensitive surfaces | |
US10564730B2 (en) | Non-collocated haptic cues in immersive environments | |
KR20190017010A (ko) | 멀티모덜 햅틱 효과 | |
US10974138B2 (en) | Haptic surround functionality | |
US9983676B2 (en) | Simulation of tangible user interface interactions and gestures using array of haptic cells | |
JP6820652B2 (ja) | 摩擦効果及び振動触覚効果を生成するシステム及び方法 | |
JP5833601B2 (ja) | モバイルデバイス上での共有されたフィードバックのための双方向性モデル | |
KR20200000803A (ko) | 가상 현실 사용자를 위한 실세계 햅틱 상호작용 | |
KR20170069936A (ko) | 위치 기반 햅틱 효과를 위한 시스템 및 방법 | |
CN105005376A (zh) | 结合拉伸特性的触觉设备 | |
CN104714687A (zh) | 用于触觉显示参数的光学传输的系统和方法 | |
KR20150020067A (ko) | 햅틱 피들링 시스템 및 방법 | |
KR20150028734A (ko) | 햅틱 효과를 생성하는 스펙트로그램의 시각 처리 시스템 및 방법 | |
EP3598273A1 (en) | Adaptive haptic effect rendering based on dynamic system identification | |
US20160342208A1 (en) | Haptic effects based on predicted contact |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E601 | Decision to refuse application |