KR20180107296A - 경고를 관리하기 위한 축소된 크기의 인터페이스 - Google Patents

경고를 관리하기 위한 축소된 크기의 인터페이스 Download PDF

Info

Publication number
KR20180107296A
KR20180107296A KR1020187027006A KR20187027006A KR20180107296A KR 20180107296 A KR20180107296 A KR 20180107296A KR 1020187027006 A KR1020187027006 A KR 1020187027006A KR 20187027006 A KR20187027006 A KR 20187027006A KR 20180107296 A KR20180107296 A KR 20180107296A
Authority
KR
South Korea
Prior art keywords
alert
display
alerts
user
contact
Prior art date
Application number
KR1020187027006A
Other languages
English (en)
Other versions
KR102016160B1 (ko
Inventor
로렌스 와이. 양
스티븐 오. 르메이
앨런 씨. 다이
크리스토퍼 패트릭 포스
조나단 알. 다스콜라
임란 차우드리
게리 이안 부처
데이비드 챈스 그래이엄
조나단 피. 아이브
케빈 린치
나탈리아 마릭
Original Assignee
애플 인크.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 애플 인크. filed Critical 애플 인크.
Publication of KR20180107296A publication Critical patent/KR20180107296A/ko
Application granted granted Critical
Publication of KR102016160B1 publication Critical patent/KR102016160B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0362—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 1D translations or rotations of an operating part of the device, e.g. scroll wheels, sliders, knobs, rollers or belts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0414—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using force sensing means to determine a position
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0414—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using force sensing means to determine a position
    • G06F3/04142—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using force sensing means to determine a position the force sensing means being located peripherally, e.g. disposed at the corners or at the side of a touch sensing plate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416—Control or interface arrangements specially adapted for digitisers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485—Scrolling or panning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00—Animation
    • G06T13/80—2D [Two Dimensional] animation, e.g. using sprites
    • G—PHYSICS
    • G04—HOROLOGY
    • G04G—ELECTRONIC TIME-PIECES
    • G04G21/00—Input or output devices integrated in time-pieces
    • G04G21/08—Touch switches specially adapted for time-pieces
    • G—PHYSICS
    • G04—HOROLOGY
    • G04G—ELECTRONIC TIME-PIECES
    • G04G9/00—Visual time or date indication means
    • G04G9/0064—Visual time or date indication means in which functions not related to time can be displayed
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01—Indexing scheme relating to G06F3/01
    • G06F2203/014—Force feedback applied to GUI
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Abstract

디스플레이를 갖는 전자 디바이스는 정보를 포함하는 경고를 수신할 수 있고, 경고를 수신한 것에 응답하여, 인지적 출력을 발할 수 있다. 디바이스는 사용자 입력을 검출할 수 있고, 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 판정할 수 있다. 사용자 입력이 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디바이스는 디스플레이 상에 정보의 제1 부분을 포함하는 통지를 디스플레이할 수 있다. 디바이스가 제2 사전결정된 기간 후에 사용자 입력을 계속해서 검출하는 경우, 디바이스는 제1 부분과는 상이한 정보의 제2 부분을 디스플레이할 수 있다.

Description

경고를 관리하기 위한 축소된 크기의 인터페이스{REDUCED-SIZE INTERFACES FOR MANAGING ALERTS}
관련 출원에 대한 상호 참조
본 출원은 2014년 9월 2일자로 출원된 미국 가특허 출원 제62/044,894호 "Reduced-Size Interfaces For Managing Alerts" 및 2015년 3월 7일자로 출원된 미국 가출원 제62/129,818호 "Reduced-Size Interfaces For Managing Alerts"에 대한 우선권을 주장한다. 이들 출원들의 내용은 이로써 모든 목적들을 위해 참고로 포함된다.
본 출원은 2015년 3월 8일자로 출원되고 발명의 명칭이 "Reduced-Size Notification Interface"이며 공계류 중인 미국 가특허 출원 제62/129,924호; 2014년 9월 2일자로 출원되고 발명의 명칭이 "Reduced-Size Notification Interface"인 미국 가특허 출원 제62/044,953호; 2015년 3월 8일자로 출원되고 발명의 명칭이 "User Interface For Receiving User Input"인 미국 가특허 출원 제62/129,903호; 2015년 3월 3일자로 출원되고 발명의 명칭이 "User Interface For Receiving User Input"인 미국 가특허 출원 제62/127,800호; 2014년 9월 2일 화요일자로 출원되고 발명의 명칭이 "User Interface For Receiving User Input"인 미국 가특허 출원 제62/044,923호; 2014년 7월 18일자로 출원되고 발명의 명칭이 "Raise Gesture Detection in a Device"인 미국 가특허 출원 제62/026,532호; 2013년 5월 8일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Displaying User Interface Objects Corresponding to an Application"인 국제 특허 출원 PCT/US2013/040061호; 2013년 11월 11일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Transitioning Between Touch Input to Display Output Relationships"인 국제 특허 출원 PCT/US2013/069483호; 및 2014년 9월 2일자로 출원된 미국 가특허 출원 제62/044,894호에 관한 것이다. 이들 출원들의 내용은 이로써 그들 전체가 참고로 포함된다.
기술분야
개시된 예들은 일반적으로 전자 디바이스들의 사용자 인터페이스들에 관한 것이다.
사용자가 착용하도록 구성된 축소된 크기의 전자 디바이스들(예컨대, 전형적인 셀룰러폰들보다 더 작은 디바이스들)은 사용자가 텍스트 메시지들, 이메일들, 음성 메일들, 및 캘린더 경고와 같은 다양한 타입들의 경고를 보고 그에 대응하게 할 수 있다. 축소된 크기의 전자 디바이스가 경고를 보고 대응하는 데 효율적으로 사용될 수 있게 하는 사용자 인터페이스들이 바람직하다.
일부 실시예들에 따르면, 방법은 디스플레이를 갖는 전자 디바이스에서 수행된다. 방법은, 정보를 포함하는 경고를 수신하는 단계, 및 경고를 수신한 것에 응답하여, 인지적 출력을 발하는 단계를 포함한다. 방법은, 사용자 입력을 검출하는 단계, 및 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 판정하는 단계를 포함한다. 방법은, 사용자 입력이 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디스플레이 상에 정보의 제1 부분을 포함하는 통지를 디스플레이하는 단계를 포함한다.
일부 실시예들에 따르면, 방법은 디스플레이를 갖는 전자 디바이스에서 수행된다. 방법은 제1 경고 및 제2 경고를 수신하는 단계를 포함한다. 방법은, 제1 경고 및 제2 경고를 수신한 것에 응답하여, 제1 경고 및 제2 경고가 그룹화 기준을 충족시키는지 여부를 판정하는 단계를 포함한다. 방법은, 제1 경고 및 제2 경고가 그룹화 기준을 충족시킨다는 판정에 응답하여, 제1 경고 및 제2 경고를 표현하는 그룹화된 통지를 디스플레이하는 단계를 포함한다. 방법은, 제1 경고 및 제2 경고가 그룹화 기준을 충족시키지 않는다는 판정에 응답하여, 제1 경고를 표현하는 제1 통지를 디스플레이하는 단계, 및 제1 통지의 디스플레이를, 제2 경고를 표현하는 제2 통지의 디스플레이로 대체하는 단계를 포함한다.
일부 실시예들에 따르면, 방법은 콘텐츠를 능동적으로 디스플레이하고 있는 전자 디바이스에서 수행된다. 방법은, 정보를 포함하는 경고를 수신하는 단계를 포함한다. 방법은, 경고를 수신한 것에 응답하여, 디스플레이의 일부분을 가로질러서 통지 배너 - 통지 배너는 정보의 제1 부분을 포함하고, 적어도 콘텐츠의 일부분은 계속해서 디스플레이됨 - 를 디스플레이하는 단계를 포함한다. 방법은, 통지 배너에 대응하는 위치에 있는 디스플레이 상에의 접촉을 검출하는 단계, 및 접촉을 검출한 것에 응답하여, 제1 부분과는 상이한 정보의 제2 부분을 디스플레이하는 단계를 포함한다.
일부 실시예들에 따르면, 명령어들을 포함하는 하나 이상의 프로그램들을 저장하는 비일시적(non-transitory) 컴퓨터 판독가능 저장 매체가 개시된다. 명령어들은, 디스플레이를 갖는 전자 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 전자 디바이스로 하여금, 정보를 포함하는 경고를 수신하게 하고; 경고를 수신한 것에 응답하여, 인지적 출력을 발하게 하고; 사용자 입력을 검출하게 하고; 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 판정하게 하고; 사용자 입력이 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디스플레이 상에 정보의 제1 부분을 포함하는 통지를 디스플레이하게 한다.
일부 실시예들에 따르면, 명령어들을 포함하는 하나 이상의 프로그램들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체가 개시된다. 명령어들은, 디스플레이를 갖는 전자 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 전자 디바이스로 하여금, 복수의 경고들을 수신하게 하고; 복수의 경고들을 수신한 것에 응답하여, 복수의 경고들이 그룹화 기준을 충족시키는지 여부를 판정하게 하고; 복수의 경고들이 그룹화 기준을 충족시킨다는 판정에 따라, 복수의 경고들을 표현하는 그룹화된 통지를 디스플레이하게 하고; 복수의 경고들이 그룹화 기준을 충족시키지 않는다는 판정에 응답하여, 복수의 경고들을 표현하는 복수의 통지들을 디스플레이하게 한다.
일부 실시예들에 따르면, 명령어들을 포함하는 하나 이상의 프로그램들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체가 개시된다. 명령어들은, 터치 감응형 디스플레이를 갖는 전자 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 전자 디바이스로 하여금, 콘텐츠를 능동적으로 디스플레이하고 있는 동안, 정보를 포함하는 경고를 수신하게 하고; 경고를 수신한 것에 응답하여, 디스플레이의 일부분을 가로질러서 통지 배너 - 통지 배너는 정보의 제1 부분을 포함하고, 적어도 콘텐츠의 일부분은 계속해서 디스플레이됨 - 를 디스플레이하게 하고; 통지 배너에 대응하는 위치에 있는 터치 감응형 디스플레이 상에의 접촉을 검출하게 하고; 접촉을 검출한 것에 응답하여, 제1 부분과는 상이한 정보의 제2 부분을 디스플레이하게 한다.
일부 실시예들에 따르면, 명령어들을 포함하는 하나 이상의 프로그램들을 저장하는 일시적 컴퓨터 판독가능 저장 매체가 개시된다. 명령어들은, 디스플레이를 갖는 전자 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 전자 디바이스로 하여금, 정보를 포함하는 경고를 수신하게 하고; 경고를 수신한 것에 응답하여, 인지적 출력을 발하게 하고; 사용자 입력을 검출하게 하고; 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 판정하게 하고; 사용자 입력이 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디스플레이 상에 정보의 제1 부분을 포함하는 통지를 디스플레이하게 한다.
일부 실시예들에 따르면, 명령어들을 포함하는 하나 이상의 프로그램들을 저장하는 일시적 컴퓨터 판독가능 저장 매체가 개시된다. 명령어들은, 디스플레이를 갖는 전자 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 전자 디바이스로 하여금, 복수의 경고들을 수신하게 하고; 복수의 경고들을 수신한 것에 응답하여, 복수의 경고들이 그룹화 기준을 충족시키는지 여부를 판정하게 하고; 복수의 경고들이 그룹화 기준을 충족시킨다는 판정에 따라, 복수의 경고들을 표현하는 그룹화된 통지를 디스플레이하게 하고; 복수의 경고들이 그룹화 기준을 충족시키지 않는다는 판정에 응답하여, 복수의 경고들을 표현하는 복수의 통지들을 디스플레이하게 한다.
일부 실시예들에 따르면, 명령어들을 포함하는 하나 이상의 프로그램들을 저장하는 일시적 컴퓨터 판독가능 저장 매체가 개시된다. 명령어들은, 터치 감응형 디스플레이를 갖는 전자 디바이스의 하나 이상의 프로세서들에 의해 실행될 때, 전자 디바이스로 하여금, 콘텐츠를 능동적으로 디스플레이하고 있는 동안, 정보를 포함하는 경고를 수신하게 하고; 경고를 수신한 것에 응답하여, 디스플레이의 일부분을 가로질러서 통지 배너 - 통지 배너는 정보의 제1 부분을 포함하고, 적어도 콘텐츠의 일부분은 계속해서 디스플레이됨 - 를 디스플레이하게 하고; 통지 배너에 대응하는 위치에 있는 터치 감응형 디스플레이 상에의 접촉을 검출하게 하고; 접촉을 검출한 것에 응답하여, 제1 부분과는 상이한 정보의 제2 부분을 디스플레이하게 한다.
전자 디바이스는, 디스플레이; 하나 이상의 프로세서들; 메모리; 및 하나 이상의 프로그램들을 포함하며, 하나 이상의 프로그램들은 메모리에 저장되고 하나 이상의 프로세서들에 의해 실행되도록 구성되고, 하나 이상의 프로그램들은, 정보를 포함하는 경고를 수신하고, 경고를 수신한 것에 응답하여, 인지적 출력을 발하기 위한; 사용자 입력을 검출하고 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 판정하기 위한; 그리고 사용자 입력이 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디스플레이 상에 정보의 제1 부분을 포함하는 통지를 디스플레이하기 위한 명령어들을 포함한다.
전자 디바이스는, 디스플레이; 하나 이상의 프로세서들; 메모리; 및 하나 이상의 프로그램들을 포함하며, 하나 이상의 프로그램들은 메모리에 저장되고 하나 이상의 프로세서들에 의해 실행되도록 구성되고, 하나 이상의 프로그램들은, 제1 경고 및 제2 경고를 수신하고, 제1 경고 및 제2 경고를 수신한 것에 응답하여, 제1 경고 및 제2 경고가 그룹화 기준을 충족시키는지 여부를 판정하기 위한; 제1 경고 및 제2 경고가 그룹화 기준을 충족시킨다는 판정에 응답하여, 제1 경고 및 제2 경고를 표현하는 그룹화된 통지를 디스플레이하기 위한; 제1 경고 및 제2 경고가 그룹화 기준을 충족시키지 않는다는 판정에 응답하여, 제1 경고를 표현하는 제1 통지를 디스플레이하기 위한, 그리고 제1 통지의 디스플레이를, 제2 경고를 표현하는 제2 통지의 디스플레이로 대체하기 위한 명령어들을 포함한다.
전자 디바이스는, 터치 감응형 디스플레이; 하나 이상의 프로세서들; 메모리; 및 하나 이상의 프로그램들을 포함하며, 하나 이상의 프로그램들은 메모리에 저장되고 하나 이상의 프로세서들에 의해 실행되도록 구성되고, 하나 이상의 프로그램들은, 정보를 포함하는 경고를 수신하고, 경고를 수신한 것에 응답하여, 디스플레이의 일부분을 가로질러서 통지 배너 - 통지 배너는 정보의 제1 부분을 포함하고, 적어도 콘텐츠의 일부분은 계속해서 디스플레이됨 - 를 디스플레이하기 위한; 통지 배너에 대응하는 위치에 있는 디스플레이 상에의 접촉을 검출하고, 접촉을 검출한 것에 응답하여, 제1 부분과는 상이한 정보의 제2 부분을 디스플레이하기 위한 명령어들을 포함한다.
이들 기능들을 수행하기 위한 실행가능 명령어들은, 선택적으로, 하나 이상의 프로세서들에 의한 실행을 위해 구성된 비일시적 컴퓨터 판독가능 저장 매체 또는 기타 컴퓨터 프로그램 제품에 포함된다. 이들 기능들을 수행하기 위한 실행가능 명령어들은, 선택적으로, 하나 이상의 프로세서들에 의한 실행을 위해 구성된 일시적 컴퓨터 판독가능 저장 매체 또는 기타 컴퓨터 프로그램 제품에 포함된다.
기술된 다양한 실시예들의 보다 나은 이해를 위해, 유사한 도면 부호들이 도면 전체에 걸쳐서 대응하는 부분들을 나타내는 다음의 도면들과 관련하여 하기의 발명을 실시하기 위한 구체적인 내용이 참조되어야 한다.
도 1a는 일부 실시예들에 따른, 터치 감응형 디스플레이를 갖는 휴대용 다기능 디바이스를 도시한 블록 다이어그램이다.
도 1b는 일부 실시예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시한 블록 다이어그램이다.
도 2는 일부 실시예들에 따른, 터치 스크린을 갖는 휴대용 다기능 디바이스를 도시한다.
도 3은 일부 실시예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록 다이어그램이다.
도 4a는 일부 실시예들에 따른, 휴대용 다기능 디바이스 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다.
도 4b는 일부 실시예들에 따른, 디스플레이로부터 분리된 터치 감응형 표면을 갖는 다기능 디바이스에 대한 예시적인 사용자 인터페이스를 도시한다.
도 5a는 일부 실시예들에 따른, 개인 전자 디바이스를 도시한다.
도 5b는 일부 실시예들에 따른, 개인 전자 디바이스를 도시한 블록 다이어그램이다.
도 5c는 세기 센서들을 사용한 접촉들의 검출을 도시한다.
도 5d는 접촉들에 대한 총 세기의 할당을 도시한다.
도 5e 내지 도 5h는 접촉의 세기를 갖는 제스처의 검출을 도시한다.
도 6a 내지 도 6c는 예시적인 사용자 인터페이스들을 도시한다.
도 7은 예시적인 사용자 인터페이스를 도시한다.
도 8은 예시적인 사용자 인터페이스를 도시한다.
도 9는 예시적인 사용자 인터페이스를 도시한다.
도 10은 예시적인 사용자 인터페이스를 도시한다.
도 11은 예시적인 사용자 인터페이스를 도시한다.
도 12a 내지 도 12c는 예시적인 사용자 인터페이스를 도시한다.
도 13a 및 도 13b는 예시적인 사용자 인터페이스를 도시한다.
도 14는 예시적인 사용자 인터페이스를 도시한다.
도 15는 예시적인 사용자 인터페이스를 도시한다.
도 16은 예시적인 사용자 인터페이스를 도시한다.
도 17은 예시적인 사용자 인터페이스를 도시한다.
도 18은 예시적인 사용자 인터페이스를 도시한다.
도 19는 예시적인 사용자 인터페이스를 도시한다.
도 20은 예시적인 사용자 인터페이스를 도시한다.
도 21은 예시적인 사용자 인터페이스를 도시한다.
도 22는 예시적인 사용자 인터페이스를 도시한다.
도 23a 내지 도 23c는 예시적인 사용자 인터페이스들을 도시한다.
도 24는 예시적인 사용자 인터페이스를 도시한다.
도 25는 경고를 관리하기 위한 예시적인 프로세스를 도시한다.
도 26은 경고를 관리하기 위한 예시적인 프로세스를 도시한다.
도 27은 경고를 관리하기 위한 예시적인 프로세스를 도시한다.
도 28 내지 도 31은 일부 실시예들에 따른 전자 디바이스들의 예시적인 기능 블록 다이어그램들을 도시한다.
이하의 설명은 예시적인 방법들, 파라미터들 등을 기재하고 있다. 그렇지만, 이러한 설명이 본 개시 내용의 범주에 대한 제한으로서 의도되어 있지 않고 그 대신에 예시적인 실시예들의 설명으로서 제공된다는 것을 잘 알 것이다.
전술된 바와 같이, 사용자가 착용하도록 구성된 축소된 크기의 개인 전자 디바이스는 사용자가, 예를 들어, 사용자 인터페이스들을 통해, 텍스트 메시지들, 이메일들, 음성 메일들, 오디오 메시지들, 주식 경고들, 시계 알람들, 캘린더 경고들, 피트니스 경고들, 상점 쿠폰들 또는 로열티 프로그램 경고들과 같은 다양한 경고들을 보고 그에 대응할 수 있게 할 수 있다. 그러나, 축소된 크기의 디바이스 상의 경고를 보고 그에 대응하는 것과 연관되는 여러 과제들이 있다. 예를 들어, 보다 큰 스크린들을 위해 설계된 사용자 인터페이스 접근법들은 축소된 크기의 스크린들을 갖는 전자 디바이스들 상에서 제대로 작동하지 않을 수도 있다. 보다 작은 스크린 크기는, 예를 들어, 경고와 연관된 텍스트 콘텐츠를 판독하거나 정확한 입력들을 터치 스크린에 제공하는 것에 도전하게 만들 수 있다. 상세한 디바이스 사용 명령어들을 디스플레이하기에는 스크린 공간이 불충분할 수 있으므로, 사용자 인터페이스들은 학습하고 사용하는 데 직관적이어야 한다는 것이 중요할 수 있다. 제한된 스크린 크기는 다수의 타일형 스크린들을 디스플레이하는 것을 비실용적이 되게 할 수 있고; 이에 따라, 하나의 스크린을 다른 스크린으로 대체하는 것, 및 단일 스크린 상에 디스플레이되는 정보의 양을 제한하는 것은 보다 효과적인 사용자 인터페이스 전략일 수 있다.
상기의 사용가능성 문제들 외에도, 셀룰러폰들 또는 랩톱들과 같은 보다 큰 전자 디바이스들과 공통적인 바와 같이, 축소된 크기의 전자 디바이스가 주머니, 케이스, 또는 지갑에 소지된 것이 아니라 (예를 들어, 이를 셔츠, 벨트, 팔찌, 또는 목걸이에 부착시킴으로써) 사용자에 의해 외적으로 착용된 경우에는 프라이버시 문제들이 있을 수 있다. 사용자는 근처에 있는 다른 이들이 경고를 볼 수 있을 것이라는 것을 우려할 수 있고, 이 때문에 그러한 사용자 인터페이스들은 사용자가 언제 얼마나 많은 경고 콘텐츠가 디스플레이되는지 제어할 수 있게 하는 것이 바람직할 수 있다. 게다가, 디바이스가 사용자에 의해 착용되고, 그에 따라, 예를 들어 셀룰러폰보다 사용자와 더 가깝게 접촉하는 경우, 그러한 사용자 인터페이스들이 빈번한 인터럽션(interruption)으로 사용자를 귀찮게 하지 않는 것이 바람직할 수 있다. 이상적으로는, 사용자 인터페이스는 사용자가 축소된 크기의 개인 전자 디바이스 상에서의 경고를 신속하게, 용이하게, 그리고 직관적으로 보고 대응하게 해야 한다. 이러한 기법들은 경고를 이용하는 사용자에 대한 인지적 부담을 감소시킬 수 있고, 이로써 생산성을 향상시킬 수 있다. 게다가, 이러한 기법들은, 그렇지 않으면, 중복적인 사용자 입력들에 대해 낭비되는 프로세서 및 배터리 전력을 감소시킬 수 있다.
이하에서, 도 1a, 도 1b, 도 2, 도 3, 도 4a, 도 4b, 도 5a, 및 도 5b는 경고 통지들을 관리하기 위한 기법들을 수행하기 위한 예시적인 디바이스들의 설명을 제공한다. 도 6a 내지 도 24는 경고 통지들을 관리하기 위한 예시적인 사용자 인터페이스들을 도시한다. 이 도면들에서의 사용자 인터페이스들은, 또한, 도 25 내지 도 27에서의 프로세스들을 비롯한, 이하에 기술되는 프로세스들을 설명하는 데 사용된다.
이하의 설명이 다양한 요소들을 기술하기 위해 "제1", "제2" 등과 같은 용어들을 사용하지만, 이들 요소들이 그 용어들에 의해 제한되어서는 안 된다. 이들 용어들은 하나의 요소를 다른 요소와 구별하는 데에만 사용된다. 예를 들어, 기술된 다양한 실시예들의 범주로부터 벗어남이 없이, 제1 터치가 제2 터치로 지칭될 수 있을 것이고, 이와 유사하게, 제2 터치가 제1 터치로 지칭될 수 있을 것이다. 제1 터치 및 제2 터치는 양측 모두 터치이지만, 그들이 동일한 터치인 것은 아니다.
본 명세서에서 기술된 다양한 실시예들의 설명에 사용되는 용어는 특정 실시예들을 기술하는 목적만을 위한 것이고, 제한하려는 의도는 아니다. 기술된 다양한 실시예들의 설명 및 첨부된 청구범위에 사용되는 바와 같이, 단수의 형태("a", "an" 및 "the")는 문맥상 명백히 달리 나타나지 않는다면 복수의 형태도 마찬가지로 포함하려는 것으로 의도된다. 또한, 본 명세서에서 사용되는 바와 같은 "및/또는"이라는 용어는 열거되는 연관된 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합들을 나타내고 그들을 포괄하는 것임이 이해될 것이다. 용어들 "포함한다(include)", "포함하는(including)", "포함한다(comprise)", 및/또는 "포함하는(comprising)"은, 본 명세서에서 사용될 때, 언급된 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 명시하지만, 하나 이상의 다른 특징, 정수들, 단계들, 동작들, 요소들, 컴포넌트들, 및/또는 이들의 그룹들의 존재 또는 추가를 배제하지 않는다는 것이 추가로 이해될 것이다.
"~인 경우(if)"라는 용어는, 문맥에 따라 "~할 때(when)" 또는 "~ 시(upon)" 또는 "판정한 것에 응답하여(in response to determining)" 또는 "검출한 것에 응답하여(in response to detecting)"를 의미하는 것으로 해석될 수 있다. 유사하게, 구문 "판정된 경우" 또는 "[언급된 상태 또는 이벤트가] 검출된 경우"는, 문맥에 따라 "판정 시" 또는 "판정한 것에 응답하여" 또는 "[언급된 상태 또는 이벤트] 검출 시" 또는 "[언급된 상태 또는 이벤트를] 검출한 것에 응답하여"를 의미하는 것으로 해석될 수 있다.
전자 디바이스들, 이러한 디바이스들에 대한 사용자 인터페이스들, 및 이러한 디바이스들을 사용하기 위한 연관된 프로세스들의 실시예들이 기술된다. 일부 실시예들에서, 디바이스는 PDA 및/또는 음악 플레이어 기능들과 같은 다른 기능들을 또한 포함하는 휴대용 통신 디바이스, 예컨대 이동 전화기이다. 휴대용 다기능 디바이스들의 예시적인 실시예들은 미국 캘리포니아주 쿠퍼티노 소재의 애플 인크.(Apple Inc.)로부터의 iPhone®, iPod Touch®, 및 iPad® 디바이스들을 제한없이 포함한다. 터치 감응형 표면들(예컨대, 터치 스크린 디스플레이들 및/또는 터치 패드들)을 갖는 랩톱 또는 태블릿 컴퓨터들과 같은 다른 휴대용 전자 디바이스들이 선택적으로 사용된다. 일부 실시예들에서, 디바이스는 휴대용 통신 디바이스가 아니라 터치 감응형 표면(예컨대, 터치 스크린 디스플레이 및/또는 터치패드)을 갖는 데스크톱 컴퓨터임이 또한 이해되어야 한다.
이하의 논의에서, 디스플레이 및 터치 감응형 표면을 포함하는 전자 디바이스가 기술된다. 그러나, 전자 디바이스가 선택적으로 하나 이상의 다른 물리적 사용자 인터페이스 디바이스들, 예컨대 물리적 키보드, 마우스, 및/또는 조이스틱을 포함한다는 것이 이해되어야 한다.
디바이스는 다음 중 하나 이상과 같은 다양한 애플리케이션들을 지원할 수 있다: 그리기 애플리케이션, 프레젠테이션 애플리케이션, 워드 프로세싱 애플리케이션, 웹사이트 제작 애플리케이션, 디스크 저작 애플리케이션, 스프레드시트 애플리케이션, 게임 애플리케이션, 전화 애플리케이션, 화상 회의 애플리케이션, 이메일 애플리케이션, 인스턴트 메시징 애플리케이션, 운동 지원 애플리케이션, 사진 관리 애플리케이션, 디지털 카메라 애플리케이션, 디지털 비디오 카메라 애플리케이션, 웹 브라우징 애플리케이션, 디지털 음악 플레이어 애플리케이션, 및/또는 디지털 비디오 플레이어 애플리케이션.
디바이스 상에서 실행되는 다양한 애플리케이션들은, 선택적으로, 터치 감응형 표면과 같은 적어도 하나의 보편적인 물리적 사용자 인터페이스 디바이스를 사용한다. 터치 감응형 표면의 하나 이상의 기능들뿐만 아니라 디바이스 상에 디스플레이되는 대응하는 정보는, 선택적으로, 하나의 애플리케이션으로부터 다음 애플리케이션으로 그리고/또는 각각의 애플리케이션 내에서 조정되고/되거나 변화된다. 이러한 방식으로, 디바이스의 (터치 감응형 표면과 같은) 보편적인 물리적 아키텍처는, 선택적으로, 사용자에게 직관적이고 명료한 사용자 인터페이스들을 이용하여 다양한 애플리케이션들을 지원한다.
이제, 터치 감응형 디스플레이들을 갖는 휴대용 디바이스들의 실시예들에 주목한다. 도 1a는, 일부 실시예들에 따른, 터치 감응형 디스플레이 시스템(112)을 갖는 휴대용 다기능 디바이스(100)를 도시한 블록 다이어그램이다. 터치 감응형 디스플레이(112)는 때때로 편의상 "터치 스크린"으로 지칭되고, 때때로 "터치 감응형 디스플레이 시스템"으로 알려져 있거나 지칭된다. 디바이스(100)는 메모리(102)(선택적으로, 하나 이상의 컴퓨터 판독가능 저장 매체들을 포함함), 메모리 제어기(122), 하나 이상의 프로세싱 유닛(CPU)들(120), 주변기기 인터페이스(118), RF(radio frequency) 회로부(108), 오디오 회로부(110), 스피커(111), 마이크로폰(113), 입력/출력(I/O) 서브시스템(106), 기타 입력 제어 디바이스들(116) 및 외부 포트(124)를 포함한다. 디바이스(100)는 선택적으로 하나 이상의 광 센서들(164)을 포함한다. 디바이스(100)는, 선택적으로, 디바이스(100)(예컨대, 디바이스(100)의 터치 감응형 디스플레이 시스템(112)과 같은 터치 감응형 표면) 상에서의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서들(165)을 포함한다. 디바이스(100)는, 선택적으로, 디바이스(100) 상의 촉각적 출력들을 생성하기 위한 (예컨대, 디바이스(100)의 터치 감응형 디스플레이 시스템(112) 또는 디바이스(300)의 터치 패드(355)와 같은 터치 감응형 표면 상의 촉각적 출력들을 생성하기 위한) 하나 이상의 촉각적 출력 생성기들(167)을 포함한다. 이들 컴포넌트들은, 선택적으로, 하나 이상의 통신 버스들 또는 신호 라인들(103)을 통해 통신한다.
명세서 및 청구범위에서 사용되는 바와 같이, 터치 감응형 표면 상에의 접촉의 "세기"라는 용어는 터치 감응형 표면 상에의 접촉(예컨대, 손가락 접촉)의 힘 또는 압력(단위 면적 당 힘), 또는 터치 감응형 표면 상에의 접촉의 힘 또는 압력에 대한 대체물(대용물(proxy))을 지칭한다. 접촉의 세기는, 적어도 4개의 별개의 값들을 포함하고 더 전형적으로는 수백 개(예컨대, 적어도 256개)의 별개의 값들을 포함하는 소정 범위의 값들을 갖는다. 접촉의 세기는, 선택적으로, 다양한 접근법들 및 다양한 센서들 또는 센서들의 조합들을 이용하여 판정(또는 측정)된다. 예를 들어, 터치 감응형 표면 아래의 또는 그에 인접한 하나 이상의 힘 센서들이, 선택적으로, 터치 감응형 표면 상의 다양한 지점들에서 힘을 측정하는 데 사용된다. 일부 구현예들에서는, 다수의 힘 센서들로부터의 힘 측정치들이 접촉의 추정되는 힘을 판정하기 위해 조합(예컨대, 가중 평균)된다. 유사하게, 스타일러스의 압력 감응형 팁(tip)이, 선택적으로, 터치 감응형 표면 상에의 스타일러스의 압력을 판정하는 데 사용된다. 대안으로, 터치 감응형 표면 상에서 검출된 접촉 면적의 크기 및/또는 그에 대한 변화들, 접촉 부근의 터치 감응형 표면의 커패시턴스 및/또는 그에 대한 변화들, 및/또는 접촉 부근의 터치 감응형 표면의 저항 및/또는 그에 대한 변화들은, 선택적으로, 터치 감응형 표면 상에의 접촉의 힘 또는 압력에 대한 대체물로서 이용된다. 일부 구현예들에서, 접촉 힘 또는 압력에 대한 대체 측정치들은 세기 임계치가 초과되었는지 여부를 판정하는 데 직접 이용된다(예컨대, 세기 임계치는 대체 측정치들에 대응하는 단위로 기술된다). 일부 구현예들에서, 접촉 힘 또는 압력에 대한 대체 측정치들은 추정된 힘 또는 압력으로 변환되고, 추정된 힘 또는 압력은 세기 임계치가 초과되었는지 여부를 판정하는 데 이용된다(예컨대, 세기 임계치는 압력의 단위로 측정된 압력 임계치이다). 사용자 입력의 속성으로서 접촉의 세기를 이용하는 것은, 그렇지 않으면, 어포던스 (affordance)들을 (예컨대, 터치 감응형 디스플레이 상에) 디스플레이하기 위해 그리고/또는 사용자 입력을 (예컨대, 터치 감응형 디스플레이, 터치 감응형 표면, 또는 노브(knob) 또는 버튼과 같은 물리적/기계적 제어부를 통해) 수신하기 위해 제한적인 실면적을 갖는 축소된 크기의 디바이스 상에서 사용자에 의해 액세스가능하지 않을 수도 있는 추가적인 디바이스 기능에의 사용자 액세스를 허용한다.
명세서 및 청구범위에 사용되는 바와 같이, "촉각적 출력"이라는 용어는 디바이스의 이전 위치에 대한 디바이스의 물리적 변위, 디바이스의 다른 컴포넌트(예컨대, 하우징)에 대한 디바이스의 컴포넌트(예컨대, 터치 감응형 표면)의 물리적 변위, 또는 사용자의 촉각을 이용하여 사용자에 의해 검출될 디바이스의 질량 중심에 대한 컴포넌트의 변위를 지칭한다. 예를 들어, 디바이스 또는 디바이스의 컴포넌트가 터치에 민감한 사용자의 표면(예컨대, 사용자의 손의 손가락, 손바닥, 또는 다른 부위)과 접촉하는 상황에서, 물리적 변위에 의해 생성된 촉각적 출력은 사용자에 의해 디바이스 또는 디바이스의 컴포넌트의 물리적 특성들의 인지된 변화에 대응하는 촉감(tactile sensation)으로서 해석될 것이다. 예를 들어, 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 또는 트랙패드)의 이동은, 선택적으로, 사용자에 의해 물리적 액추에이터 버튼의 "다운 클릭(down click)" 또는 "업 클릭(up click)"으로서 해석된다. 일부 경우들에 있어서, 사용자는 사용자의 이동에 의해 물리적으로 눌리는(예컨대, 변위되는) 터치 감응형 표면과 연관된 물리적 액추에이터 버튼의 이동이 없는 경우에도 "다운 클릭" 또는 "업 클릭"과 같은 촉감을 느낄 것이다. 다른 예로서, 터치 감응형 표면의 이동은, 터치 감응형 표면의 평탄성의 변화가 없는 경우에도, 선택적으로, 사용자에 의해 터치 감응형 표면의 "거칠기(roughness)"로서 해석 또는 감지된다. 사용자에 의한 터치의 이러한 해석들이 사용자의 개별화된 감각 인지(sensory perception)에 영향을 받기 쉬울 것이지만, 대다수의 사용자들에게 보편적인 많은 터치 감각 인지가 있다. 따라서, 촉각적 출력이 사용자의 특정 감각 인지(예컨대, "업 클릭", "다운 클릭", "거칠기")에 대응하는 것으로서 기술될 때, 달리 언급되지 않는다면, 생성된 촉각적 출력은 전형적인(또는 평균적인) 사용자에 대한 기술된 감각 인지를 생성할 디바이스 또는 그의 컴포넌트의 물리적 변위에 대응한다.
디바이스(100)는 휴대용 다기능 디바이스의 일례일 뿐이고 디바이스(100)는, 선택적으로, 도시된 것보다 더 많거나 더 적은 컴포넌트들을 갖거나, 선택적으로, 2개 이상의 컴포넌트들을 조합하거나, 또는 선택적으로 컴포넌트들의 상이한 구성 또는 배열을 갖는다는 것이 이해되어야 한다. 도 1a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 프로세싱 회로 및/또는 ASIC(application-specific integrated circuit)들을 비롯한, 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어 양측 모두의 조합으로 구현된다.
메모리(102)는 하나 이상의 컴퓨터 판독가능 저장 매체들을 포함할 수 있다. 컴퓨터 판독가능 저장 매체들은 유형적(tangible)이고 비일시적일 수 있다. 메모리(102)는 고속 랜덤 액세스 메모리를 포함할 수 있고, 하나 이상의 자기 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 또는 다른 비휘발성 솔리드 스테이트 메모리 디바이스(non-volatile solid-state memory device)들과 같은 비휘발성 메모리를 또한 포함할 수 있다. 메모리 제어기(122)는 디바이스(100)의 다른 컴포넌트들에 의한 메모리(102)에의 액세스를 제어할 수 있다.
주변기기 인터페이스(118)는 디바이스의 입력 및 출력 주변기기들을 CPU(120) 및 메모리(102)에 커플링시키는 데 사용될 수 있다. 하나 이상의 프로세서들(120)은 디바이스(100)에 대한 다양한 기능들을 수행하기 위해 그리고 데이터를 프로세싱하기 위해 메모리(102)에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 세트들을 구동 또는 실행시킨다. 일부 실시예들에서, 주변기기 인터페이스(118), CPU(120) 및 메모리 제어기(122)는 칩(104)과 같은 단일 칩 상에서 구현될 수 있다. 일부 다른 실시예들에서, 이들은 별개의 칩들 상에서 구현될 수 있다.
RF 회로부(108)는 전자기 신호들이라고도 지칭되는 RF 신호들을 수신 및 전송한다. RF 회로부(108)는 전기 신호들을 전자기 신호들로/로부터 변환하고, 전자기 신호들을 통해 통신 네트워크들 및 다른 통신 디바이스들과 통신한다. RF 회로부(108)는, 선택적으로, 안테나 시스템, RF 송수신기, 하나 이상의 증폭기들, 튜너, 하나 이상의 발진기들, 디지털 신호 프로세서, CODEC 칩셋, SIM(subscriber identity module) 카드, 메모리 등을 제한 없이 포함하는, 이들 기능들을 수행하기 위한 주지의 회로부를 포함한다. RF 회로부(108)는, 선택적으로, 무선 통신에 의해 월드 와이드 웹(World Wide Web, WWW)으로도 지칭되는 인터넷, 인트라넷 및/또는 무선 네트워크, 예컨대 셀룰러 전화 네트워크, 무선 LAN(local area network) 및/또는 MAN(metropolitan area network)과 같은 네트워크들 및 다른 디바이스들과 통신한다. RF 회로부(108)는, 선택적으로, 예컨대 단거리 통신 라디오에 의해, 근거리 통신(near field communication, NFC) 필드들을 검출하기 위한 주지의 회로부를 포함한다. 무선 통신은, 선택적으로, GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), HSDPA(high-speed downlink packet access), HSUPA(high-speed uplink packet access), EV-DO(Evolution, Data-Only), HSPA, HSPA+, DC-HSPDA(Dual-Cell HSPA), LTE(long term evolution), NFC, W-CDMA(wideband code division multiple access), CDMA(code division multiple access), TDMA(time division multiple access), 블루투스(Bluetooth), BTLE(Bluetooth Low Energy), Wi-Fi(Wireless Fidelity)(예컨대, IEEE 802.11a, IEEE 802.11b, IEEE 802.11g, IEEE 802.11n, 및/또는 IEEE 802.11ac), VoIP(voice over Internet Protocol), Wi-MAX, 이메일용 프로토콜(예컨대, IMAP(Internet message access protocol) 및/또는 POP(post office protocol)), 인스턴트 메시징(예컨대, XMPP(extensible messaging and presence protocol), SIMPLE(Session Initiation Protocol for Instant Messaging and Presence Leveraging Extensions), IMPS(Instant Messaging and Presence Service)), 및/또는 SMS(Short Message Service), 또는 본 문헌의 출원일 현재 아직 개발되지 않은 통신 프로토콜을 포함한 임의의 다른 적합한 통신 프로토콜을 포함하지만 이들로 제한되지는 않는 복수의 통신 표준들, 프로토콜들 및 기술들 중 임의의 것을 이용한다.
오디오 회로부(110), 스피커(111) 및 마이크로폰(113)은 사용자와 디바이스(100) 사이에서 오디오 인터페이스를 제공한다. 오디오 회로부(110)는 주변기기 인터페이스(118)로부터 오디오 데이터를 수신하고, 그 오디오 데이터를 전기 신호로 변환하고, 그 전기 신호를 스피커(111)로 송신한다. 스피커(111)는 전기 신호를 사람이 들을 수 있는 음파로 변환한다. 오디오 회로부(110)는 또한 마이크로폰(113)에 의해 음파로부터 변환된 전기 신호를 수신한다. 오디오 회로부(110)는 전기 신호를 오디오 데이터로 변환하고, 프로세싱을 위해 오디오 데이터를 주변기기 인터페이스(118)로 송신한다. 오디오 데이터는 주변기기 인터페이스(118)에 의해 메모리(102) 및/또는 RF 회로부(108)로부터 검색되고/되거나 이로 송신될 수 있다. 일부 실시예들에서, 오디오 회로부(110)는 또한 헤드셋 잭(예컨대, 도 2의 212)을 포함한다. 헤드셋 잭은 출력 전용 헤드폰들, 또는 출력(예컨대, 한쪽 또는 양쪽 귀용 헤드폰) 및 입력(예컨대, 마이크로폰) 양측 모두를 갖는 헤드셋과 같은 분리가능한 오디오 입력/출력 주변기기들과 오디오 회로(110) 사이에서 인터페이스를 제공한다.
I/O 서브시스템(106)은 터치 스크린(112) 및 기타 입력 제어 디바이스들(116)과 같은, 디바이스(100) 상의 입력/출력 주변기기들을 주변기기 인터페이스(118)에 커플링시킨다. I/O 서브시스템(106)은, 선택적으로, 디스플레이 제어기(156), 광 센서 제어기(158), 세기 센서 제어기(159), 햅틱 피드백 제어기(161) 및 다른 입력 또는 제어 디바이스들을 위한 하나 이상의 입력 제어기들(160)을 포함한다. 하나 이상의 입력 제어기들(160)은 기타 입력 제어 디바이스들(116)로부터/로 전기 신호들을 수신/전송한다. 기타 입력 제어 디바이스들(116)은, 선택적으로, 물리적 버튼들(예컨대, 푸시 버튼들, 로커 버튼(rocker button)들 등), 다이얼들, 슬라이더 스위치들, 조이스틱들, 클릭 휠들 등을 포함한다. 일부 대안의 실시예들에서, 입력 제어기(들)(160)는, 선택적으로, 키보드, 적외선 포트, USB 포트, 및 마우스와 같은 포인터 디바이스 중 임의의 것에 커플링된다(또는 어떤 것에도 커플링되지 않는다). 하나 이상의 버튼들(예컨대, 도 2의 208)은, 선택적으로, 스피커(111) 및/또는 마이크로폰(113)의 음량 제어를 위한 업/다운 버튼을 포함한다. 하나 이상의 버튼들은, 선택적으로, 푸시 버튼(예컨대, 도 2의 206)을 포함한다.
푸시 버튼의 빠르게 누르기(quick press)는, 2005년 12월 23일자로 출원된 미국 특허 출원 제11/322,549호 "Unlocking a Device by Performing Gestures on an Unlock Image"(미국 특허 제7,657,849호)에 기재된 바와 같은, 터치 스크린(112)의 잠금을 해제할 수 있거나, 또는 터치 스크린 상에서의 제스처를 이용하여 디바이스를 잠금해제 하는 프로세스를 시작할 수 있으며, 이는 이로써 그 전체가 참고로 포함된다. 푸시 버튼(예컨대, 206)의 더 긴 누르기는 디바이스(100)의 전원을 켜거나 끌 수 있다. 사용자는 버튼들 중 하나 이상의 버튼들의 기능을 사용자 맞춤(customize)할 수 있다. 터치 스크린(112)은 가상 또는 소프트 버튼들 및 하나 이상의 소프트 키보드를 구현하는 데 사용된다.
터치 감응형 디스플레이(112)는 디바이스와 사용자 사이에서 입력 인터페이스 및 출력 인터페이스를 제공한다. 디스플레이 제어기(156)는 터치 스크린(112)으로부터/으로 전기 신호들을 수신하고/하거나 전송한다. 터치 스크린(112)은 사용자에게 시각적 출력을 디스플레이한다. 시각적 출력은 그래픽, 텍스트, 아이콘들, 비디오 및 이들의 임의의 조합(총칭하여 "그래픽"으로 지칭함)을 포함할 수 있다. 일부 실시예들에서, 시각적 출력의 일부 또는 전부가 사용자 인터페이스 객체들에 대응할 수 있다.
터치 스크린(112)은 햅틱 및/또는 촉각적 접촉에 기초한 사용자로부터의 입력을 수용하는 터치 감응형 표면, 센서, 또는 센서들의 세트를 갖는다. 터치 스크린(112) 및 디스플레이 제어기(156)는 (메모리(102) 내의 임의의 연관된 모듈들 및/또는 명령어들의 세트들과 함께) 터치 스크린(112) 상에의 접촉(및 접촉의 임의의 이동 또는 중단)을 검출하고, 검출된 접촉을 터치 스크린(112) 상에 디스플레이된 사용자 인터페이스 객체들(예컨대, 하나 이상의 소프트 키들, 아이콘들, 웹페이지들 또는 이미지들)과의 상호작용으로 변환한다. 예시적인 실시예에서, 터치 스크린(112)과 사용자 사이의 접촉 지점은 사용자의 손가락에 대응한다.
터치 스크린(112)은 LCD(liquid crystal display) 기술, LPD(light emitting polymer display) 기술, 또는 LED(light emitting diode) 기술을 이용할 수 있지만, 다른 실시예들에서는 다른 디스플레이 기술들이 이용될 수 있다. 터치 스크린(112) 및 디스플레이 제어기(156)는 터치 스크린(112)과의 하나 이상의 접촉 지점들을 판정하기 위한 용량, 저항, 적외선 및 표면 탄성파 기술들은 물론, 다른 근접 센서 어레이들 또는 다른 요소들을 포함하지만 이들로 제한되지 않는, 현재 공지되어 있거나 추후에 개발될 복수의 터치 감지 기술들 중 임의의 것을 이용하여, 접촉 및 그의 임의의 이동 또는 중단을 검출할 수 있다. 예시적인 실시예에서, 미국 캘리포니아주 쿠퍼티노 소재의 애플 인크.로부터의 iPhone® 및 iPod Touch®에서 발견되는 것과 같은 투영형 상호 용량성 감지 기술(projected mutual capacitance sensing technology)이 이용된다.
터치 스크린(112)의 일부 실시예들에서의 터치 감응형 디스플레이는 미국 특허 제6,323,846호(Westerman 외), 제6,570,557호(Westerman 외), 및/또는 제6,677,932호(Westerman), 및/또는 미국 특허 공개 제2002/0015024A1호에 기술된 멀티-터치 감응형 터치 패드들과 유사할 수 있으며, 이들 각각은 이로써 그 전체가 참고로 본 명세서에 포함된다. 그러나, 터치 스크린(112)은 디바이스(100)로부터의 시각적 출력을 디스플레이하는 반면, 터치 감응형 터치 패드들은 시각적 출력을 제공하지 않는다.
터치 스크린(112)의 일부 실시예들에서의 터치 감응형 디스플레이는 하기의 출원들에 기술된 바와 같을 수 있다: (1) 2006년 5월 2일자로 출원된 미국 특허 출원 제11/381,313호, "Multipoint Touch Surface Controller"; (2) 2004년 5월 6일자로 출원된 미국 특허 출원 제10/840,862호, "Multipoint Touchscreen"; (3) 2004년 7월 30일자로 출원된 미국 특허 출원 제10/903,964호, "Gestures For Touch Sensitive Input Devices"; (4) 2005년 1월 31일자로 출원된 미국 특허 출원 제11/048,264호, "Gestures For Touch Sensitive Input Devices"; (5) 2005년 1월 18일자로 출원된 미국 특허 출원 제11/038,590호, "Mode-Based Graphical User Interfaces For Touch Sensitive Input Devices"; (6) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,758호, "Virtual Input Device Placement On A Touch Screen User Interface"; (7) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,700호, "Operation Of A Computer With A Touch Screen Interface"; (8) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,737호, "Activating Virtual Keys Of A Touch-Screen Virtual Keyboard"; 및 (9) 2006년 3월 3일자로 출원된 미국 특허 출원 제11/367,749호, "Multi-Functional Hand-Held Device". 이 출원들 모두는 그 전체가 참고로 본 명세서에 포함된다.
터치 스크린(112)은 100 dpi를 초과하는 비디오 해상도를 가질 수 있다. 일부 실시예들에서, 터치 스크린은 대략 160 dpi의 비디오 해상도를 갖는다. 사용자는 스타일러스, 손가락 등과 같은 임의의 적합한 물체 또는 부속물을 사용하여 터치 스크린(112)과 접촉할 수 있다. 일부 실시예들에서, 사용자 인터페이스는 주로 손가락 기반 접촉들 및 제스처들을 이용하여 동작하도록 설계되는데, 이는 터치 스크린 상에서의 손가락의 더 넓은 접촉 면적으로 인해 스타일러스 기반 입력보다 덜 정밀할 수 있다. 일부 실시예들에서, 디바이스는 대략적인 손가락 기반 입력을 사용자가 원하는 동작들을 수행하기 위한 정밀한 포인터/커서 위치 또는 커맨드로 변환한다.
일부 실시예들에서, 터치 스크린 이외에, 디바이스(100)는 특정 기능들을 활성화하거나 비활성화하기 위한 터치 패드(도시되지 않음)를 포함할 수 있다. 일부 실시예들에서, 터치 패드는, 터치 스크린과는 달리, 시각적 출력을 디스플레이하지 않는 디바이스의 터치 감응형 영역이다. 터치 패드는 터치 스크린(112)과는 별개인 터치 감응형 표면 또는 터치 스크린에 의해 형성되는 터치 감응형 표면의 연장부일 수 있다.
디바이스(100)는 또한 다양한 컴포넌트들에 전력을 공급하기 위한 전력 시스템(162)을 포함한다. 전력 시스템(162)은 전력 관리 시스템, 하나 이상의 전원들(예컨대, 배터리, 교류 전류(AC)), 재충전 시스템, 전력 고장 검출 회로, 전력 변환기 또는 인버터, 전력 상태 표시자(예컨대, 발광 다이오드(LED)), 및 휴대용 디바이스들 내에서의 전력의 생성, 관리 및 분배와 연관된 임의의 다른 컴포넌트들을 포함할 수 있다.
디바이스(100)는 또한 하나 이상의 광 센서들(164)을 포함할 수 있다. 도 1a는 I/O 서브시스템(106) 내의 광 센서 제어기(158)에 커플링된 광 센서를 도시한다. 광 센서(164)는 CCD(charge-coupled device) 또는 CMOS(complementary metal-oxide semiconductor) 포토트랜지스터들을 포함할 수 있다. 광 센서(164)는 하나 이상의 렌즈들을 통해 투사되는, 주변환경으로부터의 광을 수광하고, 그 광을, 이미지를 표현하는 데이터로 변환한다. 이미징 모듈(143)(카메라 모듈로도 지칭됨)과 함께, 광 센서(164)는 정지 이미지들 또는 비디오를 캡처할 수 있다. 일부 실시예들에서, 광 센서는 디바이스 전면 상에 있는 터치 스크린 디스플레이(112)의 반대편인 디바이스(100)의 배면 상에 위치되어, 터치 스크린 디스플레이가 정지 및/또는 비디오 이미지 획득을 위한 뷰파인더로서 사용될 수 있게 한다. 일부 실시예들에서, 광 센서는 디바이스의 전면 상에 위치되어, 사용자가 터치 스크린 디스플레이 상에서 다른 화상 회의 참가자들을 보는 동안, 사용자의 이미지가 화상 회의를 위해 획득될 수 있게 한다. 일부 실시예들에서, 광 센서(164)의 위치는 사용자에 의해 변경되어(예컨대, 디바이스 하우징 내의 렌즈 및 센서를 회전시킴으로써), 단일 광 센서(164)가 터치 스크린 디스플레이와 함께 화상 회의와 정지 및/또는 비디오 이미지 획득 양측 모두에 사용되게 할 수 있다.
디바이스(100)는 또한, 선택적으로, 하나 이상의 접촉 세기 센서들(165)을 포함한다. 도 1a는 I/O 서브시스템(106) 내의 세기 센서 제어기(159)에 커플링된 접촉 세기 센서를 도시한다. 접촉 세기 센서(165)는, 선택적으로, 하나 이상의 압전 저항 변형 게이지, 용량성 힘 센서, 전기적 힘 센서, 압전 힘 센서, 광학적 힘 센서, 용량성 터치 감응형 표면, 또는 다른 세기 센서들(예컨대, 터치 감응형 표면 상에의 접촉의 힘(또는 압력)을 측정하는 데 사용되는 센서들)을 포함한다. 접촉 세기 센서(165)는 주변환경으로부터 접촉 세기 정보(예컨대, 압력 정보 또는 압력 정보에 대한 대용물)를 수신한다. 일부 실시예들에서, 적어도 하나의 접촉 세기 센서는 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 시스템(112))과 함께 위치되거나 그에 근접한다. 일부 실시예들에서, 적어도 하나의 접촉 세기 센서가 디바이스(100)의 전면 상에 위치된 터치 스크린 디스플레이(112)의 반대편인 디바이스(100)의 배면 상에 위치된다.
디바이스(100)는 또한 하나 이상의 근접 센서들(166)을 포함할 수 있다. 도 1a는 주변기기 인터페이스(118)에 커플링된 근접 센서(166)를 도시한다. 대안으로, 근접 센서(166)는 I/O 서브시스템(106) 내의 입력 제어기(160)에 커플링될 수 있다. 근접 센서(166)는, 미국 특허 출원 제11/241,839호, "Proximity Detector In Handheld Device"; 제11/240,788호, "Proximity Detector In Handheld Device"; 제11/620,702호, "Using Ambient Light Sensor To Augment Proximity Sensor Output"; 제11/586,862호, "Automated Response To And Sensing Of User Activity In Portable Devices"; 및 제11/638,251호, "Methods And Systems For Automatic Configuration Of Peripherals"에 기술된 바와 같이 작동할 수 있으며, 이들은 이로써 그 전체가 참고로 본 명세서에 포함된다. 일부 실시예들에서, 근접 센서는 다기능 디바이스가 사용자의 귀 근처에 위치될 때(예를 들면, 사용자가 전화 통화를 하고 있을 때), 터치 스크린(112)을 끄고 디스에이블시킨다.
디바이스(100)는 또한, 선택적으로, 하나 이상의 촉각적 출력 생성기들(167)을 포함한다. 도 1a는 I/O 서브시스템(106) 내의 햅틱 피드백 제어기(161)에 커플링된 촉각적 출력 생성기를 도시한다. 촉각적 출력 생성기(167)는, 선택적으로, 스피커들 또는 다른 오디오 컴포넌트들과 같은 하나 이상의 전자음향 디바이스들, 및/또는 모터, 솔레노이드, 전기활성 폴리머, 압전 액추에이터, 정전 액추에이터, 또는 다른 촉각적 출력 생성 컴포넌트(예컨대, 전기 신호들을 디바이스 상의 촉각적 출력들로 변환하는 컴포넌트)와 같이, 에너지를 선형 모션(linear motion)으로 변환하는 전자기계 디바이스들을 포함한다. 접촉 세기 센서(165)는 햅틱 피드백 모듈(133)로부터 촉각적 피드백 생성 명령어들을 수신하고, 디바이스(100)의 사용자에 의해 감지될 수 있는 디바이스(100) 상의 촉각적 출력들을 생성한다. 일부 실시예들에서, 적어도 하나의 촉각적 출력 생성기는 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 시스템(112))과 함께 위치되거나 그에 근접하며, 선택적으로, 터치 감응형 표면을 수직으로(예컨대, 디바이스(100)의 표면 내/외로) 또는 측방향으로(예컨대, 디바이스(100)의 표면과 동일한 평면에서 전후로) 이동시킴으로써 촉각적 출력을 생성한다. 일부 실시예들에서, 적어도 하나의 촉각적 출력 생성기 센서가 디바이스(100)의 전면 상에 위치된 터치 스크린 디스플레이(112)의 반대편인 디바이스(100)의 배면 상에 위치된다.
디바이스(100)는 또한 하나 이상의 가속도계들(168)을 포함할 수 있다. 도 1a는 주변기기 인터페이스(118)에 커플링된 가속도계(168)를 도시한다. 대안으로, 가속도계(168)는 I/O 서브시스템(106) 내의 입력 제어기(160)에 커플링될 수 있다. 가속도계(168)는 미국 특허 공개 제2005/0190059호, "Acceleration-based Theft Detection System for Portable Electronic Devices", 및 미국 특허 공개 제2006/0017692호, "Methods And Apparatuses For Operating A Portable Device Based On An Accelerometer"에 기술된 바와 같이 수행할 수 있으며, 이들 양측 모두는 그 전체가 참고로 본 명세서에 포함된다. 일부 실시예들에서, 하나 이상의 가속도계들로부터 수신된 데이터의 분석에 기초하여 터치 스크린 디스플레이 상에 세로보기(portrait view) 또는 가로보기(landscape view)로 정보가 디스플레이된다. 디바이스(100)는, 선택적으로, 가속도계(들)(168) 외에도, 자력계(도시되지 않음), 및 디바이스(100)의 위치 및 배향(예컨대, 세로 또는 가로)에 관한 정보를 획득하기 위한 GPS(Global Positioning System)(또는 GLONASS 또는 다른 글로벌 내비게이션 시스템) 수신기(도시되지 않음)를 포함한다.
일부 실시예들에서, 메모리(102)에 저장된 소프트웨어 컴포넌트들은 운영 체제(126), 통신 모듈(또는 명령어들의 세트)(128), 접촉/모션 모듈(또는 명령어들의 세트)(130), 그래픽 모듈(또는 명령어들의 세트)(132), 텍스트 입력 모듈(또는 명령어들의 세트)(134), GPS 모듈(또는 명령어들의 세트)(135), 및 애플리케이션들(또는 명령어들의 세트들)(136)을 포함한다. 게다가, 일부 실시예들에서, 메모리(도 1a의 102 또는 도 3의 370)는 도 1a 및 도 3에 도시된 바와 같이 디바이스/글로벌 내부 상태(157)를 저장한다. 디바이스/글로벌 내부 상태(157)는 애플리케이션들(있는 경우)이 현재 활성이라는 것을 나타내는 활성 애플리케이션 상태; 어떤 애플리케이션들, 뷰(view)들 또는 다른 정보가 터치 스크린 디스플레이(112)의 다양한 영역들을 점유하는지를 나타내는 디스플레이 상태; 디바이스의 다양한 센서들 및 입력 제어 디바이스들(116)로부터 획득된 정보를 포함하는 센서 상태; 및 디바이스의 위치 및/또는 자세에 관한 위치 정보 중 하나 이상을 포함한다.
운영 체제(126)(예컨대, Darwin, RTXC, LINUX, UNIX, OS X, iOS, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 작업들(예컨대, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어 및 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어와 소프트웨어 컴포넌트들 사이의 통신을 가능하게 한다.
통신 모듈(128)은 하나 이상의 외부 포트들(124)을 통한 다른 디바이스들과의 통신을 가능하게 하고, 또한 RF 회로부(108) 및/또는 외부 포트(124)에 의해 수신된 데이터를 처리하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다. 외부 포트(124)(예컨대, USB(Universal Serial Bus), FIREWIRE 등)는 다른 디바이스들에 직접적으로 또는 네트워크(예컨대, 인터넷, 무선 LAN 등)를 통해 간접적으로 커플링하도록 구성된다. 일부 실시예들에서, 외부 포트는 iPod ®(애플 인크.의 상표) 디바이스들에서 사용되는 30-핀 커넥터와 동일하거나 유사하고 그리고/또는 그와 호환 가능한 멀티-핀(예컨대, 30-핀) 커넥터이다.
접촉/모션 모듈(130)은, 선택적으로, (디스플레이 제어기(156)와 함께) 터치 스크린(112), 및 다른 터치 감응형 디바이스들(예컨대, 터치패드 또는 물리적 클릭 휠)과의 접촉을 검출한다. 접촉/모션 모듈(130)은 접촉이 발생했는지 여부를 판정하는 것(예컨대, 손가락-다운 이벤트(finger-down event)를 검출하는 것), 접촉의 세기(예컨대, 접촉의 힘 또는 압력, 또는 접촉의 힘 또는 압력에 대한 대체물)를 판정하는 것, 접촉의 이동이 있는지 여부를 판정하여 터치 감응형 표면을 가로지르는 이동을 추적하는 것(예컨대, 하나 이상의 손가락-드래깅 이벤트(finger-dragging event)들을 검출하는 것), 및 접촉이 중지되었는지 여부를 판정하는 것(예컨대, 손가락-업 이벤트(finger-up event) 또는 접촉 중단을 검출하는 것)과 같은, 접촉의 검출에 관련된 다양한 동작들을 수행하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다. 접촉/모션 모듈(130)은 터치 감응형 표면으로부터 접촉 데이터를 수신한다. 일련의 접촉 데이터에 의해 표현되는 접촉 지점의 이동을 판정하는 것은, 선택적으로, 접촉 지점의 속력(크기), 속도(크기 및 방향), 및/또는 가속도(크기 및/또는 방향의 변화)를 판정하는 것을 포함한다. 이들 동작들은, 선택적으로, 단일 접촉들(예컨대, 한 손가락 접촉들)에 또는 다수의 동시 접촉들(예컨대, "멀티터치"/다수의 손가락 접촉들)에 적용된다. 일부 실시예들에서, 접촉/모션 모듈(130) 및 디스플레이 제어기(156)는 터치 패드 상에의 접촉을 검출한다.
일부 실시예들에서, 접촉/모션 모듈(130)은 동작이 사용자에 의해 수행되었는지 여부를 판정하는 데(예컨대, 사용자가 아이콘 상에서 "클릭"했는지 여부를 판정하는 데) 하나 이상의 세기 임계치들의 세트를 이용한다. 일부 실시예들에서, 적어도 세기 임계치들의 서브세트가 소프트웨어 파라미터들에 따라 결정된다(예컨대, 세기 임계치들은 특정 물리적 액추에이터들의 활성화 임계치들에 의해 결정되지 않으며, 디바이스(100)의 물리적 하드웨어를 변경함이 없이 조정될 수 있다). 예를 들어, 트랙 패드 또는 터치 스크린 디스플레이의 마우스 "클릭" 임계치는 트랙 패드 또는 터치 스크린 디스플레이 하드웨어를 변경하지 않으면서 넓은 범위의 사전정의된 임계치 값들 중 임의의 것으로 설정될 수 있다. 추가로, 일부 구현예들에서, 디바이스의 사용자에게는 (예컨대, 개개의 세기 임계치들을 조정함으로써 그리고/또는 복수의 세기 임계치들을 시스템-레벨 클릭 "세기" 파라미터로 한 번에 조정함으로써) 세기 임계치들의 세트의 하나 이상의 세기 임계치들을 조정하기 위한 소프트웨어 설정들이 제공된다.
접촉/모션 모듈(130)은, 선택적으로, 사용자에 의해 입력된 제스처를 검출한다. 터치 감응형 표면 상에서의 상이한 제스처들은 상이한 접촉 패턴들(예컨대, 상이한 모션들, 타이밍들, 및/또는 검출된 접촉들의 세기들)을 갖는다. 따라서, 제스처는, 선택적으로, 특정 접촉 패턴을 검출함으로써 검출된다. 예를 들면, 손가락 탭핑 제스처(finger tap gesture)를 검출하는 것은 손가락-다운 이벤트를 검출한 다음에 손가락-다운 이벤트와 동일한 위치(또는 실질적으로 동일한 위치)(예컨대, 아이콘의 위치)에서 손가락-업(리프트오프(lift off)) 이벤트를 검출하는 것을 포함한다. 다른 예로서, 터치 감응형 표면 상에서 손가락 스와이프 제스처(finger swipe gesture)를 검출하는 것은 손가락-다운 이벤트를 검출한 다음에 하나 이상의 손가락-드래깅 이벤트를 검출하고, 그에 후속하여 손가락-업(리프트오프) 이벤트를 검출하는 것을 포함한다.
그래픽 모듈(132)은 디스플레이되는 그래픽의 시각적 효과(예컨대, 밝기, 투명도, 채도, 콘트라스트 또는 다른 시각적 속성)를 변경하기 위한 컴포넌트들을 포함하는, 터치 스크린(112) 또는 다른 디스플레이 상에서 그래픽을 렌더링 및 디스플레이하기 위한 다양한 공지된 소프트웨어 컴포넌트들을 포함한다. 본 명세서에서 사용되는 바와 같이, "그래픽"이라는 용어는 텍스트, 웹 페이지들, 아이콘들(예컨대, 소프트 키들을 포함하는 사용자 인터페이스 객체들), 디지털 이미지들, 비디오들, 애니메이션들 등을 제한없이 포함하는, 사용자에게 디스플레이될 수 있는 임의의 객체를 포함한다.
일부 실시예들에서, 그래픽 모듈(132)은 사용될 그래픽을 표현하는 데이터를 저장한다. 각각의 그래픽에는, 선택적으로, 대응하는 코드가 할당된다. 그래픽 모듈(132)은, 필요하다면, 좌표 데이터 및 다른 그래픽 속성 데이터와 함께, 디스플레이될 그래픽을 특정하는 하나 이상의 코드들을 애플리케이션들 등으로부터 수신하며, 이어서 스크린 이미지 데이터를 생성하여 디스플레이 제어기(156)로 출력한다.
햅틱 피드백 모듈(133)은 디바이스(100)와의 사용자 상호작용들에 응답하여 디바이스(100) 상의 하나 이상의 위치들에 촉각적 출력들을 생성하기 위해 촉각적 출력 생성기(들)(167)에 의해 이용되는 명령어들을 생성하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다.
그래픽 모듈(132)의 컴포넌트일 수 있는 텍스트 입력 모듈(134)은 다양한 애플리케이션들(예컨대, 연락처(137), 이메일(140), IM(141), 브라우저(147), 및 텍스트 입력을 필요로 하는 임의의 다른 애플리케이션)에서 텍스트를 입력하기 위한 소프트 키보드들을 제공한다.
GPS 모듈(135)은 디바이스의 위치를 결정하고, 이 정보를 다양한 애플리케이션들에서의 사용을 위해 (예컨대, 위치 기반 다이얼링에서 사용하기 위한 전화(138)에, 사진/비디오 메타데이터로서 카메라(143)에, 그리고 날씨 위젯들, 지역 옐로우 페이지 위젯들 및 지도/내비게이션 위젯들과 같은 위치 기반 서비스들을 제공하는 애플리케이션들에) 제공한다.
애플리케이션들(136)은 하기의 모듈들(또는 명령어들의 세트들), 또는 이들의 서브세트 또는 수퍼세트(superset)를 포함할 수 있다:
Figure pat00001
연락처 모듈(137)(때때로 주소록 또는 연락처 목록이라고 지칭됨);
Figure pat00002
전화 모듈(138);
Figure pat00003
화상 회의 모듈(139);
Figure pat00004
이메일 클라이언트 모듈(140);
Figure pat00005
인스턴트 메시징(IM) 모듈(141);
Figure pat00006
운동 지원 모듈(142);
Figure pat00007
정지 및/또는 비디오 이미지들을 위한 카메라 모듈(143);
Figure pat00008
이미지 관리 모듈(144);
Figure pat00009
비디오 플레이어 모듈;
Figure pat00010
음악 플레이어 모듈;
Figure pat00011
브라우저 모듈(147);
Figure pat00012
캘린더 모듈(148);
Figure pat00013
날씨 위젯(149-1), 주식 위젯(149-2), 계산기 위젯(149-3), 알람 시계 위젯(149-4), 사전 위젯(149-5), 및 사용자에 의해 획득되는 다른 위젯들뿐 아니라 사용자-생성 위젯들(149-6) 중 하나 이상을 포함할 수 있는 위젯 모듈들(149);
Figure pat00014
사용자-생성 위젯들(149-6)을 만들기 위한 위젯 생성기 모듈(150);
Figure pat00015
검색 모듈(151);
Figure pat00016
비디오 플레이어 모듈 및 음악 플레이어 모듈을 통합하는 비디오 및 음악 플레이어 모듈(152);
Figure pat00017
메모 모듈(153);
Figure pat00018
지도 모듈(154); 및/또는
Figure pat00019
온라인 비디오 모듈(155).
메모리(102)에 저장될 수 있는 다른 애플리케이션들(136)의 예들은 다른 워드 프로세싱 애플리케이션들, 다른 이미지 편집 애플리케이션들, 그리기 애플리케이션들, 프레젠테이션 애플리케이션들, JAVA 기반(JAVA-enabled) 애플리케이션들, 암호화, 디지털 저작권 관리, 음성 인식, 및 음성 복제를 포함한다.
터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 텍스트 입력 모듈(134)과 함께, 연락처 모듈(137)은, 주소록에 이름(들)을 추가하는 것; 주소록으로부터 이름(들)을 삭제하는 것; 전화번호(들), 이메일 주소(들), 물리적 주소(들) 또는 다른 정보를 이름과 연관시키는 것; 이미지를 이름과 연관시키는 것; 이름들을 분류 및 정렬하는 것; 전화(138), 화상 회의 모듈(139), 이메일(140) 또는 IM(141)에 의한 통신을 개시하고 그리고/또는 용이하게 하기 위해 전화번호들 또는 이메일 주소들을 제공하는 것 등을 비롯한, 주소록 또는 연락처 목록(예컨대, 메모리(102) 또는 메모리(370) 내의 연락처 모듈(137)의 애플리케이션 내부 상태(192)에 저장됨)을 관리하는 데 사용될 수 있다.
RF 회로부(108), 오디오 회로부(110), 스피커(111), 마이크로폰(113), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 및 텍스트 입력 모듈(134)과 함께, 전화 모듈(138)은, 전화번호에 대응하는 문자들의 시퀀스를 입력하고, 연락처 모듈(137) 내의 하나 이상의 전화번호에 액세스하며, 입력된 전화번호를 수정하고, 각자의 전화번호를 다이얼링하며, 대화를 하고, 대화가 완료된 때 접속해제하거나 끊는 데 사용될 수 있다. 전술한 바와 같이, 무선 통신은 복수의 통신 표준들, 프로토콜들 및 기술들 중 임의의 것을 이용할 수 있다.
RF 회로부(108), 오디오 회로부(110), 스피커(111), 마이크로폰(113), 터치 스크린(112), 디스플레이 제어기(156), 광 센서(164), 광 센서 제어기(158), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134), 연락처 모듈(137) 및 전화 모듈(138)과 함께, 화상 회의 모듈(139)은 사용자 지시들에 따라 사용자와 한 명 이상의 다른 참여자들 사이의 화상 회의를 개시, 시행 및 종료하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 텍스트 입력 모듈(134)과 함께, 이메일 클라이언트 모듈(140)은 사용자 지시들에 응답하여 이메일을 작성, 전송, 수신, 및 관리하도록 하는 실행가능한 명령어들을 포함한다. 이미지 관리 모듈(144)과 함께, 이메일 클라이언트 모듈(140)은 카메라 모듈(143)로 촬영된 정지 또는 비디오 이미지들을 갖는 이메일들을 작성 및 전송하는 것을 매우 용이하게 한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 텍스트 입력 모듈(134)과 함께, 인스턴트 메시징 모듈(141)은, 인스턴트 메시지에 대응하는 문자들의 시퀀스를 입력하고, 이전에 입력된 문자들을 수정하고, (예를 들어, 전화 기반 인스턴트 메시지들을 위한 단문자 메시지 서비스(SMS) 또는 멀티미디어 메시지 서비스(Multimedia Message Service; MMS) 프로토콜을 이용하거나, 인터넷 기반 인스턴트 메시지들을 위한 XMPP, SIMPLE 또는 IMPS를 이용하여) 각자의 인스턴트 메시지를 송신하고, 인스턴트 메시지들을 수신하고, 수신된 인스턴트 메시지들을 보도록 하는 실행가능한 명령어들을 포함한다. 일부 실시예들에서, 송신 및/또는 수신되는 인스턴트 메시지들은 그래픽, 사진들, 오디오 파일들, 비디오 파일들, 및/또는 MMS 및/또는 향상된 메시징 서비스(Enhanced Messaging Service, EMS)에서 지원되는 바와 같은 다른 첨부물들을 포함할 수 있다. 본 명세서에서 사용되는 바와 같이, "인스턴트 메시징"은 전화 기반 메시지들(예컨대, SMS 또는 MMS를 이용하여 전송되는 메시지들) 및 인터넷 기반 메시지들(예컨대, XMPP, SIMPLE 또는 IMPS를 이용하여 전송되는 메시지들) 양측 모두를 지칭한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134), GPS 모듈(135), 지도 모듈(154), 및 음악 플레이어 모듈과 함께, 운동 지원 모듈(142)은 (예컨대, 시간, 거리, 및/또는 열량 소비 목표와 함께) 운동들을 고안하고; 운동 센서들(스포츠 디바이스들)과 통신하고; 운동 센서 데이터를 수신하고; 운동을 모니터링하는 데 사용되는 센서들을 교정하고; 운동 동안 음악을 선택 및 재생하고; 운동 데이터를 디스플레이, 저장 및 송신하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(112), 디스플레이 제어기(156), 광 센서(들)(164), 광 센서 제어기(158), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 이미지 관리 모듈(144)과 함께, 카메라 모듈(143)은, 정지 이미지들 또는 비디오(비디오 스트림을 포함함)를 캡처하고 이들을 메모리(102) 내에 저장하거나, 정지 이미지 또는 비디오의 특성을 수정하거나, 메모리(102)로부터 정지 이미지 또는 비디오를 삭제하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134) 및 카메라 모듈(143)과 함께, 이미지 관리 모듈(144)은 정지 및/또는 비디오 이미지들을 배열하도록 하거나, 수정(예컨대, 편집)하도록 하거나, 또는 그렇지 않으면 조작하고 라벨링하고 삭제하고 (예컨대, 디지털 슬라이드 쇼 또는 앨범에) 제시하고 저장하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 텍스트 입력 모듈(134)과 함께, 브라우저 모듈(147)은, 웹 페이지들 또는 이들의 부분들뿐 아니라 웹 페이지들에 링크된 첨부물들 및 다른 파일들을 검색하는 것, 그들에 링크하는 것, 수신하는 것, 및 디스플레이하는 것을 비롯해서, 사용자 지시들에 따라 인터넷을 브라우징하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134), 이메일 클라이언트 모듈(140), 및 브라우저 모듈(147)과 함께, 캘린더 모듈(148)은 사용자 지시들에 따라 캘린더들 및 캘린더들과 연관된 데이터(예컨대, 캘린더 엔트리들, 할 일 목록들 등)를 생성하도록, 디스플레이하도록, 수정하도록, 그리고 저장하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134) 및 브라우저 모듈(147)과 함께, 위젯 모듈들(149)은 사용자에 의해 다운로드 및 사용될 수 있거나(예컨대, 날씨 위젯(149-1), 주식 위젯(149-2), 계산기 위젯(149-3), 알람 시계 위젯(149-4) 및 사전 위젯(149-5)), 또는 사용자에 의해 생성될 수 있는(예컨대, 사용자-생성 위젯(149-6)) 미니-애플리케이션들이다. 일부 실시예들에서, 위젯은 HTML(Hypertext Markup Language) 파일, CSS(Cascading Style Sheets) 파일 및 자바스크립트(JavaScript) 파일을 포함한다. 일부 실시예들에서, 위젯은 XML(Extensible Markup Language) 파일 및 자바스크립트 파일(예컨대, 야후!(Yahoo!) 위젯들)을 포함한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134) 및 브라우저 모듈(147)과 함께, 위젯 생성기 모듈(150)은 사용자에 의해 위젯들을 생성(예를 들어, 웹 페이지의 사용자-특정 부분을 위젯으로 변경)하는 데 사용될 수 있다.
터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 텍스트 입력 모듈(134)과 함께, 검색 모듈(151)은 사용자 지시들에 따라 하나 이상의 검색 기준들(예컨대, 하나 이상의 사용자-특정 검색어들)에 일치하는 메모리(102) 내의 텍스트, 음악, 사운드, 이미지, 비디오, 및/또는 다른 파일들을 검색하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 오디오 회로부(110), 스피커(111), RF 회로부(108) 및 브라우저 모듈(147)과 함께, 비디오 및 음악 플레이어 모듈(152)은, 사용자가 MP3 또는 AAC 파일들과 같은 하나 이상의 파일 포맷들로 저장된 기록된 음악 및 다른 사운드 파일들을 다운로드 및 재생할 수 있도록 하는 실행가능한 명령어들, 및 비디오들을 (예컨대, 터치 스크린(112) 상에서 또는 외부 포트(124)를 통해 외부의 접속된 디스플레이 상에서) 디스플레이하도록, 상영하도록, 또는 다른 방식으로 재생하도록 하는 실행가능한 명령어들을 포함한다. 일부 실시예들에서, 디바이스(100)는, 선택적으로, iPod(애플 인크.의 상표)과 같은 MP3 플레이어의 기능을 포함한다.
터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132) 및 텍스트 입력 모듈(134)과 함께, 메모 모듈(153)은 사용자 지시들에 따라 메모들, 할 일 목록들 등을 생성 및 관리하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(108), 터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 텍스트 입력 모듈(134), GPS 모듈(135), 및 브라우저 모듈(147)과 함께, 지도 모듈(154)은 사용자 지시들에 따라 지도들 및 지도들과 연관된 데이터(예컨대, 운전 방향; 특정 위치에서의 또는 그 인근의 상점들 및 다른 관심 지점들에 관한 데이터; 및 다른 위치-기반 데이터)를 수신, 디스플레이, 수정, 및 저장하는 데 사용될 수 있다.
터치 스크린(112), 디스플레이 제어기(156), 접촉/모션 모듈(130), 그래픽 모듈(132), 오디오 회로부(110), 스피커(111), RF 회로부(108), 텍스트 입력 모듈(134), 이메일 클라이언트 모듈(140) 및 브라우저 모듈(147)과 함께, 온라인 비디오 모듈(155)은 사용자가 H.264와 같은 하나 이상의 파일 포맷들의 온라인 비디오들에 액세스하고, 이들을 브라우징하고, (예컨대, 스트리밍 및/또는 다운로드에 의해) 수신하고, (예컨대, 터치 스크린 상에서 또는 외부 포트(124)를 통해 외부의 접속된 디스플레이 상에서) 재생하고, 특정 온라인 비디오에의 링크를 갖는 이메일을 전송하고, 다른 방식으로 관리할 수 있게 하는 명령어들을 포함한다. 일부 실시예들에서, 특정 온라인 비디오에의 링크를 전송하기 위해 이메일 클라이언트 모듈(140)보다는 인스턴트 메시징 모듈(141)이 사용된다. 온라인 비디오 애플리케이션에 대한 추가적 설명은, 2007년 6월 20일자로 출원된 미국 가특허 출원 제60/936,562호, "Portable Multifunction Device, Method, and Graphical User Interface for Playing Online Videos" 및 2007년 12월 31일자로 출원된 미국 특허 출원 제11/968,067호, "Portable Multifunction Device, Method, and Graphical User Interface for Playing Online Videos"에서 찾아볼 수 있으며, 이 출원들의 내용은 이로써 그 전체가 참고로 본 명세서에 포함된다.
상기 식별된 모듈들 및 애플리케이션들 각각은 전술된 하나 이상의 기능들 및 본 출원에서 설명되는 방법들(예컨대, 컴퓨터-구현 방법들 및 본 명세서에서 기술되는 다른 정보 프로세싱 방법들)을 수행하기 위한 실행가능한 명령어들의 세트에 대응한다. 이들 모듈들(예컨대, 명령어들의 세트들)은 별도의 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요는 없으며, 따라서 이들 모듈들의 다양한 서브세트들이 다양한 실시예들에서 조합되거나 다른 방식으로 재배열될 수 있다. 예를 들어, 비디오 플레이어 모듈은 음악 플레이어 모듈과 결합되어 단일 모듈(예컨대, 도 1a의 비디오 및 음악 플레이어 모듈(152))로 될 수 있다. 일부 실시예들에서, 메모리(102)는 상기 식별된 모듈들 및 데이터 구조들의 서브세트를 저장할 수 있다. 또한, 메모리(102)는 전술되지 않은 추가 모듈들 및 데이터 구조들을 저장할 수 있다.
일부 실시예들에서, 디바이스(100)는 디바이스 상의 사전정의된 세트의 기능들의 동작이 전적으로 터치 스크린 및/또는 터치 패드를 통해 수행되는 디바이스이다. 터치 스크린 및/또는 터치패드를 디바이스(100)의 동작을 위한 주 입력 제어 디바이스로서 사용함으로써, 디바이스(100) 상의 (푸시 버튼들, 다이얼들 등과 같은) 물리적 입력 제어 디바이스들의 개수가 감소될 수 있다.
전적으로 터치 스크린 및/또는 터치패드를 통해 수행되는 사전정의된 세트의 기능들은, 선택적으로, 사용자 인터페이스들 사이에서의 내비게이션을 포함한다. 일부 실시예들에서, 터치 패드는, 사용자에 의해 터치될 때, 디바이스(100)를 디바이스(100) 상에 디스플레이되는 임의의 사용자 인터페이스로부터 메인, 홈 또는 루트 메뉴로 내비게이팅(navigating)한다. 그러한 실시예들에서, 터치 패드를 사용하여 "메뉴 버튼"이 구현된다. 일부 다른 실시예들에서, 메뉴 버튼은 터치 패드 대신의 물리적 푸시 버튼 또는 다른 물리적 입력 제어 디바이스이다.
도 1b는, 일부 실시예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시한 블록 다이어그램이다. 일부 실시예들에서, 메모리(도 1a의 102 또는 도 3의 370)는 (예컨대, 운영 체제(126)에서의) 이벤트 분류기(170) 및 각자의 애플리케이션(136-1)(예컨대, 전술된 애플리케이션들(137 내지 151, 155, 380 내지 390) 중 임의의 것)을 포함한다.
이벤트 분류기(170)는 이벤트 정보를 수신하고, 이벤트 정보를 전달할 애플리케이션(136-1), 및 애플리케이션(136-1)의 애플리케이션 뷰(191)를 결정한다. 이벤트 분류기(170)는 이벤트 모니터(171) 및 이벤트 디스패처 모듈(event dispatcher module)(174)을 포함한다. 일부 실시예들에서, 애플리케이션(136-1)은 애플리케이션이 활성 상태이거나 실행 중일 때 터치 감응형 디스플레이(112) 상에 디스플레이되는 현재 애플리케이션 뷰(들)를 나타내는 애플리케이션 내부 상태(192)를 포함한다. 일부 실시예들에서, 디바이스/글로벌 내부 상태(157)는 이벤트 분류기(170)에 의해 어느 애플리케이션(들)이 현재 활성 상태인지 판정하는 데 이용되며, 애플리케이션 내부 상태(192)는 이벤트 분류기(170)에 의해 이벤트 정보를 전달할 애플리케이션 뷰들(191)을 결정하는 데 이용된다.
일부 실시예들에서, 애플리케이션 내부 상태(192)는 애플리케이션(136-1)이 실행을 재개할 때 이용될 재개 정보, 애플리케이션(136-1)에 의해 디스플레이되고 있거나 디스플레이될 준비가 된 정보를 나타내는 사용자 인터페이스 상태 정보, 사용자가 애플리케이션(136-1)의 이전 상태 또는 뷰로 되돌아갈 수 있게 하기 위한 상태 큐(queue), 및 사용자에 의해 취해진 이전 동작들의 재실행(redo)/실행취소(undo) 큐 중 하나 이상과 같은 추가 정보를 포함한다.
이벤트 모니터(171)는 주변기기 인터페이스(118)로부터 이벤트 정보를 수신한다. 이벤트 정보는 서브이벤트(예컨대, 멀티-터치 제스처의 일부로서 터치 감응형 디스플레이(112) 상의 사용자 터치)에 관한 정보를 포함한다. 주변기기 인터페이스(118)는 I/O 서브시스템(106) 또는 센서, 예컨대 근접 센서(166), 가속도계(들)(168), 및/또는 (오디오 회로부(110)를 통한) 마이크로폰(113)으로부터 수신하는 정보를 송신한다. 주변기기 인터페이스(118)가 I/O 서브시스템(106)으로부터 수신하는 정보는 터치 감응형 디스플레이(112) 또는 터치 감응형 표면으로부터의 정보를 포함한다.
일부 실시예들에서, 이벤트 모니터(171)는 요청들을 사전결정된 간격으로 주변기기 인터페이스(118)로 전송한다. 이에 응답하여, 주변기기 인터페이스(118)는 이벤트 정보를 송신한다. 다른 실시예들에서, 주변기기 인터페이스(118)는 중요한 이벤트(예컨대, 사전결정된 잡음 임계치 초과의 그리고/또는 사전결정된 지속기간 초과 동안의 입력을 수신하는 것)가 있을 때에만 이벤트 정보를 송신한다.
일부 실시예들에서, 이벤트 분류기(170)는 또한 히트 뷰(hit view) 판정 모듈(172) 및/또는 활성 이벤트 인식기 결정 모듈(173)을 포함한다.
히트 뷰 판정 모듈(172)은 터치 감응형 디스플레이(112)가 하나 초과의 뷰를 디스플레이할 때 하나 이상의 뷰들 내에서 서브이벤트가 발생한 곳을 판정하기 위한 소프트웨어 절차들을 제공한다. 뷰들은 사용자가 디스플레이 상에서 볼 수 있는 제어부들 및 다른 요소들로 구성된다.
애플리케이션과 연관된 사용자 인터페이스의 다른 양태는 본 명세서에서 때때로 애플리케이션 뷰들 또는 사용자 인터페이스 창(user interface window)들로 지칭되는 한 세트의 뷰들이며, 여기서 정보가 디스플레이되고 터치 기반 제스처가 발생한다. 터치가 검출되는 (각자의 애플리케이션의) 애플리케이션 뷰들은 애플리케이션의 프로그램 또는 뷰 계층구조 내의 프로그램 레벨들에 대응할 수 있다. 예를 들어, 터치가 검출되는 최하위 레벨의 뷰는 히트 뷰로 지칭될 수 있고, 적절한 입력들로서 인식되는 이벤트들의 세트는 터치 기반 제스처를 시작하는 초기 터치의 히트 뷰에 적어도 부분적으로 기초하여 결정될 수 있다.
히트 뷰 판정 모듈(172)은 터치 기반 제스처의 서브이벤트들에 관련된 정보를 수신한다. 애플리케이션이 계층구조에서 조직화된 다수의 뷰들을 갖는 경우, 히트 뷰 판정 모듈(172)은 히트 뷰를, 서브이벤트를 처리해야 하는 계층구조 내의 최하위 뷰로서 식별한다. 대부분의 상황들에서, 히트 뷰는 개시되는 서브이벤트(즉, 이벤트 또는 잠재적 이벤트를 형성하는 서브이벤트들의 시퀀스에서의 제1 서브이벤트)가 발생하는 최하위 레벨 뷰이다. 일단 히트 뷰가 히트 뷰 판정 모듈(172)에 의해 식별되면, 히트 뷰는 전형적으로 그것이 히트 뷰로서 식별되게 하는 것과 동일한 터치나 입력 소스에 관련된 모든 서브이벤트들을 수신한다.
활성 이벤트 인식기 결정 모듈(173)은 뷰 계층구조 내에서 어느 뷰 또는 뷰들이 서브이벤트들의 특정 시퀀스를 수신해야 하는지 결정한다. 일부 실시예들에서, 활성 이벤트 인식기 결정 모듈(173)은 히트 뷰만이 서브이벤트들의 특정 시퀀스를 수신해야 하는 것으로 결정한다. 다른 실시예들에서, 활성 이벤트 인식기 결정 모듈(173)은 서브이벤트의 물리적 위치를 포함하는 모든 뷰들이 적극 참여 뷰(actively involved view)들인 것으로 결정하고, 그에 따라 모든 적극 참여 뷰들이 서브이벤트들의 특정 시퀀스를 수신해야 하는 것으로 결정한다. 다른 실시예들에서, 터치 서브이벤트들이 전적으로 하나의 특정 뷰와 연관된 영역으로 한정되었더라도, 계층구조 내의 상위 뷰들은 여전히 적극 참여 뷰들로서 유지될 것이다.
이벤트 디스패처 모듈(174)은 이벤트 정보를 이벤트 인식기(예컨대, 이벤트 인식기(180))에 송달한다. 활성 이벤트 인식기 결정 모듈(173)을 포함하는 실시예들에서, 이벤트 디스패처 모듈(174)은 이벤트 정보를 활성 이벤트 인식기 결정 모듈(173)에 의해 결정된 이벤트 인식기에 전달한다. 일부 실시예들에서, 이벤트 디스패처 모듈(174)은 이벤트 큐 내에 이벤트 정보를 저장하는데, 이벤트 정보는 각자의 이벤트 수신기(182)에 의해 검색된다.
일부 실시예들에서, 운영 체제(126)는 이벤트 분류기(170)를 포함한다. 대안으로, 애플리케이션(136-1)은 이벤트 분류기(170)를 포함한다. 또 다른 실시예들에서, 이벤트 분류기(170)는 독립형 모듈이거나 접촉/모션 모듈(130)과 같이 메모리(102)에 저장되는 다른 모듈의 일부이다.
일부 실시예들에서, 애플리케이션(136-1)은 복수의 이벤트 핸들러들(190) 및 하나 이상의 애플리케이션 뷰들(191)을 포함하며, 이들 각각은 애플리케이션의 사용자 인터페이스의 각자의 뷰 내에서 발생하는 터치 이벤트들을 처리하기 위한 명령어들을 포함한다. 애플리케이션(136-1)의 각각의 애플리케이션 뷰(191)는 하나 이상의 이벤트 인식기들(180)을 포함한다. 전형적으로, 각자의 애플리케이션 뷰(191)는 복수의 이벤트 인식기들(180)을 포함한다. 다른 실시예들에서, 이벤트 인식기들(180) 중 하나 이상은 사용자 인터페이스 키트(도시되지 않음) 또는 애플리케이션(136-1)이 방법들 및 다른 속성들을 이어받게 되는 상위 레벨 객체와 같은 별개의 모듈의 일부이다. 일부 실시예들에서, 각자의 이벤트 핸들러(190)는 데이터 업데이터(176), 객체 업데이터(177), GUI 업데이터(178), 및/또는 이벤트 분류기(170)로부터 수신된 이벤트 데이터(179) 중 하나 이상을 포함한다. 이벤트 핸들러(190)는 데이터 업데이터(176), 객체 업데이터(177) 또는 GUI 업데이터(178)를 이용하거나 호출하여 애플리케이션 내부 상태(192)를 업데이트할 수 있다. 대안으로, 애플리케이션 뷰들(191) 중 하나 이상은 하나 이상의 각자의 이벤트 핸들러(190)를 포함한다. 또한, 일부 실시예들에서, 데이터 업데이터(176), 객체 업데이터(177), 및 GUI 업데이터(178) 중 하나 이상은 각자의 애플리케이션 뷰(191)에 포함된다.
각자의 이벤트 인식기(180)는 이벤트 분류기(170)로부터 이벤트 정보(예컨대, 이벤트 데이터(179))를 수신하고 그 이벤트 정보로부터 이벤트를 식별한다. 이벤트 인식기(180)는 이벤트 수신기(182) 및 이벤트 비교기(184)를 포함한다. 일부 실시예들에서, 이벤트 인식기(180)는 또한 적어도 메타데이터(183) 및 이벤트 전달 명령어들(188)(서브이벤트 전달 명령어들을 포함할 수 있음)의 서브세트를 포함한다.
이벤트 수신기(182)는 이벤트 분류기(170)로부터 이벤트 정보를 수신한다. 이벤트 정보는 서브이벤트, 예를 들어 터치 또는 터치 이동에 관한 정보를 포함한다. 서브이벤트에 따라, 이벤트 정보는 또한 서브이벤트의 위치와 같은 추가 정보를 포함한다. 서브이벤트가 터치의 모션에 관한 것일 때, 이벤트 정보는 또한 서브이벤트의 속력 및 방향을 포함할 수 있다. 일부 실시예들에서, 이벤트는 하나의 배향으로부터 다른 배향으로(예컨대, 세로 배향으로부터 가로 배향으로 또는 그 반대로)의 디바이스의 회전을 포함하며, 이벤트 정보는 디바이스의 현재 배향(디바이스 자세라고도 지칭됨)에 관한 대응하는 정보를 포함한다.
이벤트 비교기(184)는 이벤트 정보를 사전정의된 이벤트 또는 서브이벤트 정의들과 비교하고, 그 비교에 기초하여, 이벤트 또는 서브이벤트를 판정하거나 이벤트 또는 서브이벤트의 상태를 판정 또는 업데이트한다. 일부 실시예들에서, 이벤트 비교기(184)는 이벤트 정의들(186)을 포함한다. 이벤트 정의들(186)은 이벤트들(예컨대, 서브이벤트들의 사전정의된 시퀀스들), 예를 들어 이벤트 1(187-1), 이벤트 2(187-2) 등의 정의들을 포함한다. 일부 실시예들에서, 이벤트(187) 내의 서브이벤트들은, 예를 들어, 터치 시작, 터치 종료, 터치 이동, 터치 취소, 및 다중 터치를 포함한다. 일례에서, 이벤트 1(187-1)에 대한 정의는 디스플레이된 객체 상에의 더블 탭핑(double tap)이다. 더블 탭핑은, 예를 들어 사전결정된 페이즈(phase) 동안의 디스플레이된 객체 상에의 제1 터치(터치 시작), 사전결정된 페이즈 동안의 제1 리프트오프(터치 종료), 사전결정된 페이즈 동안의 디스플레이된 객체 상에의 제2 터치(터치 시작), 및 사전결정된 페이즈 동안의 제2 리프트오프(터치 종료)를 포함한다. 다른 예에서, 이벤트 2(187-2)에 대한 정의는 디스플레이된 객체에 대한 드래깅이다. 드래깅은, 예를 들어, 사전결정된 페이즈 동안의 디스플레이된 객체 상에의 터치(또는 접촉), 터치 감응형 디스플레이(112)를 가로지르는 터치의 이동, 및 터치의 리프트오프(터치 종료)를 포함한다. 일부 실시예들에서, 이벤트는 또한 하나 이상의 연관된 이벤트 핸들러들(190)에 대한 정보를 포함한다.
일부 실시예들에서, 이벤트 정의(187)는 각자의 사용자 인터페이스 객체에 대한 이벤트의 정의를 포함한다. 일부 실시예들에서, 이벤트 비교기(184)는 어느 사용자 인터페이스 객체가 서브이벤트와 연관되어 있는지 판정하도록 히트 테스트(hit test)를 수행한다. 예를 들어, 3개의 사용자 인터페이스 객체들이 터치 감응형 디스플레이(112) 상에 디스플레이된 애플리케이션 뷰에서, 터치가 터치 감응형 디스플레이(112) 상에서 검출되는 경우, 이벤트 비교기(184)는 3개의 사용자 인터페이스 객체들 중 어느 것이 터치(서브이벤트)와 연관되어 있는지 판정하도록 히트 테스트를 수행한다. 각각의 디스플레이된 객체가 각자의 이벤트 핸들러(190)와 연관되는 경우, 이벤트 비교기는 히트 테스트의 결과를 이용하여 어느 이벤트 핸들러(190)가 활성화되어야 하는지 판정한다. 예를 들어, 이벤트 비교기(184)는 히트 테스트를 트리거하는 객체 및 서브이벤트와 연관되는 이벤트 핸들러를 선택한다.
일부 실시예들에서, 각자의 이벤트(187)에 대한 정의는 또한 서브이벤트들의 시퀀스가 이벤트 인식기의 이벤트 타입에 대응하는지 아니면 대응하지 않는지 판정된 후까지 이벤트 정보의 전달을 지연시키는 지연된 동작들을 포함한다.
각자의 이벤트 인식기(180)가, 일련의 서브이벤트들이 이벤트 정의들(186)에서의 이벤트들 중 어느 것과도 매칭되지 않는 것으로 판정하는 경우, 각자의 이벤트 인식기(180)는 이벤트 불가능 상태, 이벤트 실패 상태, 또는 이벤트 종료 상태에 진입하는데, 그 후 각자의 이벤트 인식기는 터치 기반 제스처의 후속하는 서브이벤트들을 무시한다. 이러한 상황에서, 히트 뷰에 대해 활성 상태로 남아있는 다른 이벤트 인식기들은, 존재한다면, 진행 중인 터치 기반 제스처의 서브이벤트들을 계속해서 추적 및 프로세싱한다.
일부 실시예들에서, 각자의 이벤트 인식기(180)는 이벤트 전달 시스템이 어떻게 적극 참여 이벤트 인식기들에 대한 서브이벤트 전달을 수행해야 하는지를 나타내는 구성가능한 속성들, 플래그(flag)들, 및/또는 목록들을 갖는 메타데이터(183)를 포함한다. 일부 실시예들에서, 메타데이터(183)는 이벤트 인식기들이 어떻게 서로 상호작용할 수 있는지, 또는 상호작용하게 될 수 있는지를 나타내는 구성가능한 속성들, 플래그들, 및/또는 목록들을 포함한다. 일부 실시예들에서, 메타데이터(183)는, 서브이벤트들이 뷰 또는 프로그램 계층구조에서의 변화하는 레벨들로 전달되는지 여부를 나타내는 구성가능한 속성들, 플래그들, 및/또는 목록들을 포함한다.
일부 실시예들에서, 각자의 이벤트 인식기(180)는 이벤트의 하나 이상의 특정 서브이벤트들이 인식될 때 이벤트와 연관된 이벤트 핸들러(190)를 활성화시킨다. 일부 실시예들에서, 각자의 이벤트 인식기(180)는 이벤트와 연관된 이벤트 정보를 이벤트 핸들러(190)에 전달한다. 이벤트 핸들러(190)를 활성화시키는 것은 각자의 히트 뷰에 서브이벤트들을 전송(및 지연 전송)하는 것과는 별개이다. 일부 실시예들에서, 이벤트 인식기(180)는 인식된 이벤트와 연관된 플래그를 보내고, 플래그와 연관된 이벤트 핸들러(190)는 그 플래그를 캐치하고 사전정의된 프로세스를 수행한다.
일부 실시예들에서, 이벤트 전달 명령어들(188)은 이벤트 핸들러를 활성화시키지 않고서 서브이벤트에 관한 이벤트 정보를 전달하는 서브이벤트 전달 명령어들을 포함한다. 대신, 서브이벤트 전달 명령어들은 일련의 서브이벤트들과 연관된 이벤트 핸들러들에 또는 적극 참여 뷰들에 이벤트 정보를 전달한다. 일련의 서브이벤트들 또는 적극 참여 뷰들과 연관된 이벤트 핸들러들은 이벤트 정보를 수신하고 사전결정된 프로세스를 수행한다.
일부 실시예들에서, 데이터 업데이터(176)는 애플리케이션(136-1)에서 이용되는 데이터를 생성 및 업데이트한다. 예를 들어, 데이터 업데이터(176)는 연락처 모듈(137)에서 이용되는 전화번호를 업데이트하거나, 비디오 플레이어 모듈에서 이용되는 비디오 파일을 저장한다. 일부 실시예들에서, 객체 업데이터(177)는 애플리케이션(136-1)에서 이용되는 객체들을 생성 및 업데이트한다. 예를 들어, 객체 업데이터(177)는 새로운 사용자 인터페이스 객체를 생성하거나, 또는 사용자 인터페이스 객체의 위치를 업데이트한다. GUI 업데이터(178)는 GUI를 업데이트한다. 예를 들어, GUI 업데이터(178)는 디스플레이 정보를 준비하고 이를 터치 감응형 디스플레이 상에의 디스플레이를 위해 그래픽 모듈(132)로 전송한다.
일부 실시예들에서, 이벤트 핸들러(들)(190)는 데이터 업데이터(176), 객체 업데이터(177), 및 GUI 업데이터(178)를 포함하거나 이들에 액세스한다. 일부 실시예들에서, 데이터 업데이터(176), 객체 업데이터(177), 및 GUI 업데이터(178)는 각자의 애플리케이션(136-1) 또는 애플리케이션 뷰(191)의 단일 모듈 내에 포함된다. 다른 실시예들에서, 이들은 2개 이상의 소프트웨어 모듈들 내에 포함된다.
터치 감응형 디스플레이들 상의 사용자 터치들의 이벤트 처리에 관하여 전술한 논의는 또한 입력 디바이스들을 갖는 다기능 디바이스들(100)을 작동시키기 위한 다른 형태들의 사용자 입력들에도 적용되지만, 그 모두가 터치 스크린들 상에서 개시되는 것이 아니라는 것을 이해해야 한다. 예를 들어, 단일 또는 다수의 키보드 누르기 또는 유지와 선택적으로 조화된 마우스 이동 및 마우스 버튼 누르기; 터치패드 상에서의 탭핑, 드래깅, 스크롤링 등과 같은 접촉 이동들; 펜 스타일러스 입력들; 디바이스의 이동; 구두 명령어들; 검출된 눈 이동들; 생체 측정 입력들; 및/또는 이들의 임의의 조합이 인식될 이벤트를 정의하는 서브이벤트들에 대응하는 입력들로서 선택적으로 이용된다.
도 2는 일부 실시예들에 따른, 터치 스크린(112)을 갖는 휴대용 다기능 디바이스(100)를 도시한다. 터치 스크린은, 선택적으로, 사용자 인터페이스(UI)(200) 내에서 하나 이상의 그래픽을 디스플레이한다. 이러한 실시예는 물론 이하에서 기술되는 다른 실시예들에서, 사용자는, 예를 들어, 하나 이상의 손가락들(202)(도면에서 축척대로 도시되지 않음) 또는 하나 이상의 스타일러스들(203)(도면에서 축척대로 도시되지 않음)을 이용하여 그래픽 상에 제스처를 행함으로써 그래픽들 중 하나 이상을 선택할 수 있다. 일부 실시예들에서, 하나 이상의 그래픽의 선택은 사용자가 하나 이상의 그래픽과의 접촉을 중단할 때 발생한다. 일부 실시예들에서, 제스처는, 선택적으로, 디바이스(100)와 접촉한 손가락의 하나 이상의 탭핑들, (좌에서 우로, 우에서 좌로, 위로 및/또는 아래로의) 하나 이상의 스와이프들, 및/또는 (우에서 좌로, 좌에서 우로, 위로 및/또는 아래로의) 롤링을 포함한다. 일부 구현예들 또는 상황들에서, 그래픽과의 의도하지 않은 접촉은 그래픽을 선택하지 않는다. 예를 들어, 선택에 대응하는 제스처가 탭핑일 때, 애플리케이션 아이콘 위를 지나가는 스와이프 제스처는, 선택적으로, 대응하는 애플리케이션을 선택하지 않는다.
디바이스(100)는 또한 "홈" 또는 메뉴 버튼(204)과 같은 하나 이상의 물리적 버튼들을 포함할 수 있다. 전술된 바와 같이, 메뉴 버튼(204)은 디바이스(100) 상에서 실행될 수 있는 애플리케이션들의 세트 내의 임의의 애플리케이션(136)으로 내비게이팅하기 위해 사용될 수 있다. 대안으로, 일부 실시예들에서, 메뉴 버튼은 터치 스크린(112) 상에 디스플레이된 GUI에서 소프트 키로서 구현된다.
일 실시예에서, 디바이스(100)는 터치 스크린(112), 메뉴 버튼(204), 디바이스의 전원을 온/오프하고 디바이스를 잠그기 위한 푸시 버튼(206), 음량 조절 버튼(들)(208), 가입자 식별 모듈(SIM) 카드 슬롯(210), 헤드셋 잭(212), 및 도킹/충전 외부 포트(124)를 포함한다. 푸시 버튼(206)은, 선택적으로, 버튼을 누르고 버튼을 사전정의된 시간 간격 동안 누른 상태로 유지함으로써 디바이스에서 전원을 켜거나/끄고; 버튼을 누르고 사전정의된 시간 간격이 경과하기 전에 버튼 누르기를 해제함으로써 디바이스를 잠그고; 그리고/또는 디바이스를 잠금해제하거나 잠금해제 프로세스를 개시하는 데 사용된다. 대안의 실시예에서, 디바이스(100)는 또한 마이크로폰(113)을 통해 일부 기능들의 활성화 또는 비활성화를 위한 구두 입력을 받는다. 디바이스(100)는 또한, 선택적으로, 터치 스크린(112) 상에의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서들(165) 및/또는 디바이스(100)의 사용자를 위해 촉각적 출력들을 생성하기 위한 하나 이상의 촉각적 출력 생성기들(167)을 포함한다.
도 3은, 일부 실시예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록 다이어그램이다. 디바이스(300)가 휴대용일 필요는 없다. 일부 실시예들에서, 디바이스(300)는 랩톱 컴퓨터, 데스크톱 컴퓨터, 태블릿 컴퓨터, 멀티미디어 플레이어 디바이스, 내비게이션 디바이스, (아이들의 학습 장난감과 같은) 교육용 디바이스, 게임 시스템, 또는 제어 디바이스(예컨대, 가정용 또는 산업용 제어기)이다. 디바이스(300)는 전형적으로 하나 이상의 프로세싱 유닛(CPU)들(310), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(360), 메모리(370), 및 이들 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(320)을 포함한다. 통신 버스들(320)은, 선택적으로, 시스템 컴포넌트들을 상호접속시키고 이들 사이의 통신을 제어하는 회로부(때때로 칩셋으로 지칭됨)를 포함한다. 디바이스(300)는, 전형적으로 터치 스크린 디스플레이인 디스플레이(340)를 포함하는 입력/출력(I/O) 인터페이스(330)를 포함한다. I/O 인터페이스(330)는 또한, 선택적으로, 키보드 및/또는 마우스(또는 다른 포인팅 디바이스)(350) 및 터치 패드(355), 디바이스(300) 상에 촉각적 출력들을 생성하기 위한 촉각적 출력 생성기(357)(예컨대, 도 1a를 참조하여 전술된 촉각적 출력 생성기(들)(167)와 유사함), 및 센서들(359)(예컨대, 도 1a를 참조하여 전술된 접촉 세기 센서(들)(165)와 유사한 광, 가속도, 근접, 터치 감응형, 및/또는 접촉 세기 센서들)을 포함한다. 메모리(370)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은 고속 랜덤 액세스 메모리를 포함하며; 선택적으로, 하나 이상의 자기 디스크 저장 디바이스들, 광 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 또는 다른 비휘발성 솔리드 스테이트 저장 디바이스들과 같은 비휘발성 메모리를 포함한다. 메모리(370)는, 선택적으로, CPU(들)(310)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 포함한다. 일부 실시예들에서, 메모리(370)는 휴대용 다기능 디바이스(100)(도 1a)의 메모리(102)에 저장된 프로그램들, 모듈들, 및 데이터 구조들과 유사한 프로그램들, 모듈들, 및 데이터 구조들 또는 이들의 서브세트를 저장한다. 또한, 메모리(370)는, 선택적으로, 휴대용 다기능 디바이스(100)의 메모리(102) 내에 존재하지 않는 추가의 프로그램들, 모듈들 및 데이터 구조들을 저장한다. 예를 들어, 디바이스(300)의 메모리(370)는, 선택적으로, 그리기 모듈(380), 프레젠테이션 모듈(382), 워드 프로세싱 모듈(384), 웹사이트 제작 모듈(386), 디스크 저작 모듈(388), 및/또는 스프레드시트 모듈(390)을 저장하는 반면, 휴대용 다기능 디바이스(100)(도 1a)의 메모리(102)는, 선택적으로, 이러한 모듈들을 저장하지 않는다.
도 3에서의 상기의 식별된 요소들 각각은 이전에 언급된 메모리 디바이스들 중 하나 이상에 저장될 수 있다. 상기의 식별된 모듈들 각각은 전술된 기능을 수행하기 위한 소정 세트의 명령어들에 대응한다. 상기의 식별된 모듈들 또는 프로그램들(예컨대, 명령어들의 세트들)은 별개의 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요는 없으며, 따라서 이러한 모듈들의 다양한 서브세트들이 다양한 실시예들에서 조합되거나 다른 방식으로 재배열될 수 있다. 일부 실시예들에서, 메모리(370)는 상기의 식별된 모듈들 및 데이터 구조들의 서브세트를 저장할 수 있다. 또한, 메모리(370)는 전술되지 않은 추가의 모듈들 및 데이터 구조들을 저장할 수 있다.
이제, 예를 들어 휴대용 다기능 디바이스(100) 상에서 구현될 수 있는 사용자 인터페이스들의 실시예들을 살펴본다.
도 4a는, 일부 실시예들에 따른, 휴대용 다기능 디바이스(100) 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다. 유사한 사용자 인터페이스들이 디바이스(300) 상에 구현될 수 있다. 일부 실시예들에서, 사용자 인터페이스(400)는 하기의 요소들, 또는 그들의 서브세트나 수퍼세트를 포함한다:
Figure pat00020
셀룰러 및 Wi-Fi 신호들과 같은 무선 통신(들)에 대한 신호 강도 표시자(들)(402);
Figure pat00021
시간(404);
Figure pat00022
블루투스 표시자(405);
Figure pat00023
배터리 상태 표시자(406);
Figure pat00024
다음과 같은, 빈번하게 사용되는 애플리케이션용 아이콘들을 갖는 트레이(408):
Figure pat00025
부재 중 전화들 또는 음성 메일 메시지들의 개수의 표시자(414)를 선택적으로 포함하는 "전화"라고 라벨링된 전화 모듈(138)용 아이콘(416);
Figure pat00026
읽지 않은 이메일들의 개수의 표시자(410)를 선택적으로 포함하는, "메일"로 라벨링된 이메일 클라이언트 모듈(140)용 아이콘(418);
Figure pat00027
"브라우저"라고 라벨링된 브라우저 모듈(147)용 아이콘(420); 및
Figure pat00028
iPod(애플 인크.의 상표) 모듈(152)로도 지칭되고 "iPod"으로 라벨링된 비디오 및 음악 플레이어 모듈(152)용 아이콘(422); 및
Figure pat00029
다음과 같은, 다른 애플리케이션용 아이콘들:
Figure pat00030
"메시지"라고 라벨링된 IM 모듈(141)용 아이콘(424);
Figure pat00031
"캘린더"라고 라벨링된 캘린더 모듈(148)용 아이콘(426);
Figure pat00032
"사진"이라고 라벨링된 이미지 관리 모듈(144)용 아이콘(428);
Figure pat00033
"카메라"라고 라벨링된 카메라 모듈(143)용 아이콘(430);
Figure pat00034
"온라인 비디오"라고 라벨링된 온라인 비디오 모듈(155)용 아이콘(432);
Figure pat00035
"주식"이라고 라벨링된 주식 위젯(149-2)용 아이콘(434);
Figure pat00036
"지도"라고 라벨링된 지도 모듈(154)용 아이콘(436);
Figure pat00037
"날씨"라고 라벨링된 날씨 위젯(149-1)용 아이콘(438);
Figure pat00038
"시계"라고 라벨링된 알람 시계 위젯(149-4)용 아이콘(440);
Figure pat00039
"운동 지원"이라고 라벨링된 운동 지원 모듈(142)용 아이콘(442);
Figure pat00040
"메모"라고 라벨링된 메모 모듈(153)용 아이콘(444); 및
Figure pat00041
"설정"이라고 라벨링된, 디바이스(100) 및 그의 다양한 애플리케이션들(136)에 대한 설정에의 액세스를 제공하는 설정 애플리케이션 또는 모듈용 아이콘(446).
도 4a에 도시된 아이콘 라벨들은 단지 예시적인 것임에 주목하여야 한다. 예를 들어, 비디오 및 음악 플레이어 모듈(152)용 아이콘(422)은 선택적으로 "음악" 또는 "음악 플레이어"로 라벨링될 수 있다. 기타 라벨들이, 선택적으로, 다양한 애플리케이션 아이콘들에 대해 사용된다. 일부 실시예들에서, 각자의 애플리케이션 아이콘에 대한 라벨은 각자의 애플리케이션 아이콘에 대응하는 애플리케이션의 이름을 포함한다. 일부 실시예들에서, 특정 애플리케이션 아이콘에 대한 라벨은 특정 애플리케이션 아이콘에 대응하는 애플리케이션의 이름과는 별개이다.
도 4b는 디스플레이(450)(예컨대, 터치 스크린 디스플레이(112))와는 별개인 터치 감응형 표면(451)(예컨대, 도 3의 태블릿 또는 터치패드(355))을 갖는 디바이스(예컨대, 도 3의 디바이스(300)) 상의 예시적인 사용자 인터페이스를 도시한다. 디바이스(300)는 또한, 선택적으로, 터치 감응형 표면(451) 상에의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서들(예컨대, 센서들(357) 중 하나 이상) 및/또는 디바이스(300)의 사용자에 대한 촉각적 출력들을 생성하기 위한 하나 이상의 촉각적 출력 생성기들(359)을 포함한다.
후속하는 일부 예들이 (터치 감응형 표면과 디스플레이가 결합된) 터치 스크린 디스플레이(112) 상의 입력들을 참조하여 제공될 것이지만, 일부 실시예들에서, 디바이스는 도 4b에 도시된 바와 같이 디스플레이와는 별개인 터치 감응형 표면 상에서 입력들을 검출한다. 일부 실시예들에서, 터치 감응형 표면(예컨대, 도 4b의 451)은 디스플레이(예컨대, 450) 상의 주축(예컨대, 도 4b의 453)에 대응하는 주축(예컨대, 도 4b의 452)을 갖는다. 이 실시예들에 따르면, 디바이스는 디스플레이 상의 각자의 위치들에 대응하는 위치들(예컨대, 도 4b에서, 460은 468에 대응하고, 462는 470에 대응함)에서 터치 감응형 표면(451)과의 접촉들(예컨대, 도 4b의 460, 462)을 검출한다. 이러한 방식으로, 터치 감응형 표면(예컨대, 도 4b의 451) 상에서 디바이스에 의해 검출된 사용자 입력들(예컨대, 접촉들(460, 462) 및 그 이동들)은 터치 감응형 표면이 디스플레이와는 별개일 때 디바이스에 의해 다기능 디바이스의 디스플레이(예컨대, 도 4b의 450) 상의 사용자 인터페이스를 조작하는 데 사용된다. 유사한 방법들이, 선택적으로, 본 명세서에 기술된 다른 사용자 인터페이스들에 이용된다는 것이 이해되어야 한다.
추가로, 하기의 예들이 손가락 입력들(예컨대, 손가락 접촉들, 손가락 탭핑 제스처들, 손가락 스와이프 제스처들)을 주로 참조하여 주어지는 반면, 일부 실시예들에서, 손가락 입력들 중 하나 이상은 다른 입력 디바이스로부터의 입력(예컨대, 마우스 기반 입력 또는 스타일러스 입력)으로 대체된다는 것이 이해되어야 한다. 예를 들어, 스와이프 제스처가, 선택적으로, (예컨대, 접촉 대신에) 마우스 클릭 및 뒤이은 (예컨대, 접촉의 이동 대신에) 스와이프의 경로를 따른 커서의 이동으로 대체된다. 다른 예로서, (예컨대, 접촉의 검출 및 뒤이은 접촉을 검출하는 것을 중단하는 것 대신) 커서가 탭핑 제스처의 위치 위에 위치되는 동안에 탭핑 제스처가 선택적으로 마우스 클릭으로 대체된다. 유사하게, 다수의 사용자 입력들이 동시에 검출되는 경우, 다수의 컴퓨터 마우스들이 선택적으로 동시에 사용되거나, 또는 마우스와 손가락 접촉들이 선택적으로 동시에 사용된다는 것이 이해되어야 한다.
도 5a는 예시적인 개인 전자 디바이스(500)를 도시한 것이다. 디바이스(500)는 몸체(502)를 포함한다. 일부 실시예들에서, 디바이스(500)는 디바이스들(100, 300)(예컨대, 도 1a 내지 도 4b)에 대해 기술된 특징부들의 일부 또는 전부를 포함할 수 있다. 일부 실시예들에서, 디바이스(500)는 터치 감응형 디스플레이 스크린(504)(이하, 터치 스크린(504))을 갖는다. 터치 스크린(504)에 대한 대안으로 또는 추가로, 디바이스(500)는 디스플레이 및 터치 감응형 표면을 갖는다. 디바이스들(100, 300)에서와 같이, 일부 실시예들에서, 터치 스크린(504)(또는 터치 감응형 표면)은 가해지는 접촉들(예컨대, 터치들)의 세기를 검출하기 위한 하나 이상의 세기 센서들을 가질 수 있다. 터치 스크린(504)(또는 터치 감응형 표면)의 하나 이상의 세기 센서들은 터치들의 세기를 나타내는 출력 데이터를 제공할 수 있다. 디바이스(500)의 사용자 인터페이스는 터치들의 세기에 기초하여 터치들에 응답할 수 있고, 이는 상이한 세기들의 터치들이 디바이스(500) 상의 상이한 사용자 인터페이스 동작들을 호출할 수 있다는 것을 의미한다.
터치 세기를 검출하고 프로세싱하기 위한 기법들은, 예를 들어, 관련 출원들: 2013년 5월 8일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Displaying User Interface Objects Corresponding to an Application"인 국제 특허 출원 PCT/US2013/040061호, 및 2013년 11월 11일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Transitioning Between Touch Input to Display Output Relationships"인 국제 특허 출원 PCT/US2013/069483호에서 찾을 수 있으며, 이들 출원들 각각은 이로써 그 전체가 참고로 포함된다.
일부 실시예들에서, 디바이스(500)는 하나 이상의 입력 메커니즘들(506, 508)을 갖는다. 입력 메커니즘들(506, 508)(포함되어 있는 경우)은 물리적인 것일 수 있다. 물리적 입력 메커니즘들의 예들은 푸시 버튼들 및 회전가능한 메커니즘들을 포함한다. 일부 실시예들에서, 디바이스(500)는 하나 이상의 부착 메커니즘들을 갖는다. 이러한 부착 메커니즘들(포함되어 있는 경우)은 디바이스(500)가, 예를 들어, 모자, 안경, 귀걸이, 목걸이, 셔츠, 재킷, 팔찌, 시계줄, 쇠줄(chain), 바지, 벨트, 신발, 지갑, 배낭 등에 부착될 수 있게 한다. 이들 부착 메커니즘들은 디바이스(500)가 사용자에 의해 착용되게 할 수 있다.
도 5b는 예시적인 개인 전자 디바이스(500)를 도시한 것이다. 일부 실시예들에서, 디바이스(500)는 도 1a, 도 1b, 및 도 3에 대해 기술된 컴포넌트들의 일부 또는 전부를 포함할 수 있다. 디바이스(500)는 I/O 섹션들(514)을 하나 이상의 컴퓨터 프로세서들(516) 및 메모리(518)와 동작가능하게 커플링시키는 버스(512)를 갖는다. I/O 섹션(514)은 디스플레이(504)에 접속될 수 있고, 이는 터치 감응형 컴포넌트(522), 및 선택적으로, 세기 센서(524)(예컨대, 접촉 세기 센서)를 가질 수 있다. 또한, I/O 섹션(514)은 Wi-Fi, 블루투스, 근거리 통신(NFC), 셀룰러 및/또는 기타 무선 통신 기법들을 이용하여, 애플리케이션 및 운영 체제 데이터를 수신하기 위한 통신 유닛(530)과 접속될 수 있다. 디바이스(500)는 입력 메커니즘들(506 및/또는 508)을 포함할 수 있다. 입력 메커니즘(506)은, 예를 들어, 회전가능 입력 디바이스 또는 누름가능 및 회전가능 입력 디바이스일 수 있다. 입력 메커니즘(508)은, 일부 예들에서, 버튼일 수 있다.
입력 메커니즘(508)은, 일부 예들에서, 마이크로폰일 수 있다. 개인 전자 디바이스(500)는, GPS 센서(532), 가속도계(534), 방향 센서(540)(예컨대, 나침반), 자이로스코프(536), 모션 센서(538), 및/또는 이들의 조합과 같은, 다양한 센서들을 포함할 수 있고, 이들 모두는 I/O 섹션(514)에 동작가능하게 접속될 수 있다. 개인 전자 디바이스(500)는 또한 햅틱 메커니즘(542)을 포함할 수 있다. 햅틱 메커니즘(542)은 사용자에 의해 인지될 수 있는 진동 또는 다른 햅틱 출력을 발할 수 있다. 일부 실시예들에서, 햅틱 메커니즘(542)은 디바이스(100)의 촉각적 출력 생성기(167)에 대해 기술된 것과 유사한 방식으로 햅틱 출력들을 발할 수 있다.
개인 전자 디바이스(500)의 메모리(518)는, 예를 들어, 하나 이상의 컴퓨터 프로세서들(516)에 의해 실행될 때, 컴퓨터 프로세서들로 하여금, 전술된 기법들(도 25 내지 도 27의 프로세스들(2500 내지 2700)을 포함함)을 수행하게 할 수 있는 컴퓨터 실행가능 명령어들을 저장하기 위한 비일시적 컴퓨터 판독가능 저장 매체일 수 있다. 컴퓨터 실행가능 명령어들은, 또한, 명령어 실행 시스템, 장치 또는 디바이스(예컨대, 컴퓨터 기반 시스템, 프로세서 포함(processor-containing) 시스템, 또는 다른 시스템)로부터 명령어들을 페치(fetch)하여 명령어들을 실행할 수 있는 명령어 실행 시스템, 장치 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 임의의 비일시적 컴퓨터 판독가능 저장 매체 내에 저장 및/또는 전달될 수 있다. 본 문서의 목적상, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 컴퓨터 실행가능 명령어들을 유형적으로 포함하거나 저장할 수 있는 임의의 매체일 수 있다. 비일시적 컴퓨터 판독가능 저장 매체는 자기, 광, 및/또는 반도체 저장소들(이들로 제한되지 않음)을 포함할 수 있다. 이러한 저장소의 예들은 자기 디스크들, CD, DVD, 또는 블루레이 기술들에 기초한 광 디스크들은 물론, 플래시, 솔리드 스테이트 드라이브들 등과 같은 영속적 솔리드 스테이트 메모리를 포함한다. 개인 전자 디바이스(500)는 도 5b의 컴포넌트들 및 구성으로 제한되는 것이 아니라, 다른 또는 추가적인 컴포넌트들을 다수의 구성들로 포함할 수 있다.
본 명세서에서 사용되는 바와 같이, "어포던스"라는 용어는 디바이스들(100, 300, 및/또는 500)(도 1, 도 3, 및 도 5)의 디스플레이 스크린 상에 디스플레이될 수 있는 사용자 상호작용 그래픽 사용자 인터페이스 객체(user-interactive graphical user interface object)를 지칭한다. 예를 들어, 이미지(예컨대, 아이콘), 버튼, 및 텍스트(예컨대, 하이퍼링크)는 각각이 어포던스를 구성할 수 있다.
본 명세서에 사용되는 바와 같이, "포커스 선택자"라는 용어는 사용자와 상호작용하고 있는 사용자 인터페이스의 현재 부분을 나타내는 입력 요소를 지칭한다. 커서 또는 다른 위치 마커(location marker)를 포함하는 일부 구현예들에서, 커서가 특정 사용자 인터페이스 요소(예컨대, 버튼, 창, 슬라이더 또는 다른 사용자 인터페이스 요소) 위에 있는 동안 터치 감응형 표면(예컨대, 도 3의 터치 패드(355) 또는 도 4b의 터치 감응형 표면(451)) 상에서 입력(예컨대, 누르기 입력)이 검출될 때, 특정 사용자 인터페이스 요소가 검출된 입력에 따라 조정되도록, 커서가 "포커스 선택자"로서 기능한다. 터치 스크린 디스플레이 상의 사용자 인터페이스 요소들과의 직접적인 상호작용을 가능하게 하는 터치 스크린 디스플레이(예컨대, 도 1a의 터치 감응형 디스플레이 시스템(112) 또는 도 4a의 터치 스크린(112))를 포함하는 일부 구현예들에서, 입력(예컨대, 접촉에 의한 누르기 입력)이 특정 사용자 인터페이스 요소(예컨대, 버튼, 창, 슬라이더 또는 다른 사용자 인터페이스 요소)의 위치에 있는 터치 스크린 디스플레이 상에서 검출될 때, 특정 사용자 인터페이스 요소가 검출된 입력에 따라 조정되도록, 터치 스크린 상의 검출된 접촉이 "포커스 선택자"로서 기능한다. 일부 구현예들에서, (예컨대, 탭 키(tab key) 또는 화살표 키들을 사용하여 포커스를 하나의 버튼으로부터 다른 버튼으로 이동시키는 것에 의해) 터치 스크린 디스플레이 상에서의 대응하는 커서의 이동 또는 접촉의 이동 없이 포커스가 사용자 인터페이스의 하나의 영역으로부터 사용자 인터페이스의 다른 영역으로 이동되며; 이들 구현예들에서, 포커스 선택자는 사용자 인터페이스의 상이한 영역들 사이에서의 포커스의 이동에 따라 움직인다. 포커스 선택자가 가지는 특정 형태와 무관하게, 포커스 선택자는 대체로 (예컨대, 사용자가 상호작용하고자 하는 사용자 인터페이스의 요소를 디바이스에 나타냄으로써) 사용자 인터페이스와의 사용자의 의도된 상호작용을 전달하기 위해 사용자에 의해 제어되는 사용자 인터페이스 요소(또는 터치 스크린 디스플레이 상에의 접촉)이다. 예를 들어, 터치 감응형 표면(예컨대, 터치패드 또는 터치 스크린) 상에서 누르기 입력이 검출되는 동안 각자의 버튼 위의 포커스 선택자(예컨대, 커서, 접촉 또는 선택 상자)의 위치는 (디바이스의 디스플레이 상에 보여지는 다른 사용자 인터페이스 요소들과 달리) 사용자가 각자의 버튼을 활성화시키려고 하고 있다는 것을 나타낼 것이다.
명세서 및 청구범위에서 사용되는 바와 같이, 접촉의 "특성 세기(characteristic intensity)"라는 용어는 접촉의 하나 이상의 세기들에 기초한 접촉의 특성을 지칭한다. 일부 실시예들에서, 특성 세기는 다수의 세기 샘플들에 기초한다. 특성 세기는, 선택적으로, 사전정의된 수의 세기 샘플들, 또는 사전정의된 이벤트에 대해(예컨대, 접촉을 검출한 이후, 접촉의 리프트오프를 검출하기 이전, 접촉의 이동의 시작을 검출하기 이전 또는 이후, 접촉의 종료를 검출하기 이전, 접촉의 세기의 증가를 검출하기 이전 또는 이후, 및/또는 접촉의 세기의 감소를 검출하기 이전 또는 이후) 사전결정된 기간(예컨대, 0.05, 0.1, 0.2, 0.5, 1, 2, 5, 10 초) 동안 수집된 세기 샘플들의 세트에 기초한다. 접촉의 특성 세기는, 선택적으로, 접촉의 세기들의 최대 값, 접촉의 세기들의 중간 값(mean value), 접촉의 세기들의 평균값(average value), 접촉의 세기들의 상위 10 백분위 값(top 10 percentile value), 접촉의 세기들의 최대 값의 절반의 값, 접촉의 세기의 최대 값의 90 퍼센트의 값 등 중 하나 이상에 기초한다. 일부 실시예들에서, 접촉의 지속기간은 (예컨대, 특성 세기가 시간 경과에 따른 접촉의 세기의 평균일 때) 특성 세기를 결정하는 데 사용된다. 일부 실시예들에서, 동작이 사용자에 의해 수행되었는지 여부를 판정하기 위해, 특성 세기가 하나 이상의 세기 임계치들의 세트와 비교된다. 예를 들어, 하나 이상의 세기 임계치의 세트는 제1 세기 임계치 및 제2 세기 임계치를 포함할 수 있다. 이 예에서, 제1 임계치를 초과하지 않는 특성 세기를 갖는 접촉의 결과, 제1 동작이 행해지고, 제1 세기 임계치를 초과하지만 제2 세기 임계치를 초과하지 않는 특성 세기를 갖는 접촉의 결과, 제2 동작이 행해지며, 제2 임계치 초과의 특성 세기를 갖는 접촉의 결과, 제3 동작이 행해진다. 일부 실시예들에서, 제1 동작을 수행할 것인지 아니면 제2 동작을 수행할 것인지 결정하는 데 사용되기보다는 하나 이상의 동작들을 수행할 것인지 여부(예컨대, 각자의 동작을 수행할 것인지 아니면 각자의 동작을 수행할 것을 무시할 것인지)를 결정하는 데 특성 세기와 하나 이상의 임계치들 사이의 비교가 이용된다.
도 5c는 복수의 세기 센서들(524A 내지 524D)을 사용하여 터치 감응형 디스플레이 스크린(504) 상에서 복수의 접촉들(552A 내지 552E)을 검출하는 것을 도시한다. 도 5c는 세기 단위들에 대한 세기 센서들(524A 내지 524D)의 현재 세기 측정치들을 보여주는 세기 다이어그램들을 추가로 포함한다. 이러한 예에서, 세기 센서들(524A, 524D)의 세기 측정치들은 각각 9개의 세기 단위들이고, 세기 센서들(524B, 524C)의 세기 측정치들은 각각 7개의 세기 단위들이다. 일부 구현예들에서, 총 세기는 복수의 세기 센서들(524A 내지 524D)의 세기 측정치들의 합이고, 이는 이러한 예에서 32개의 세기 단위들이다. 일부 실시예들에서, 각각의 접촉에는 총 세기의 일부분인 각자의 세기가 할당된다. 도 5d는 힘의 중심(554)으로부터의 각자의 거리에 기초하여 접촉들(552A 내지 552E)에 총 세기를 할당하는 것을 도시한다. 이러한 예에서, 접촉들(552A, 552B, 552E)에는 각각 총 세기 중 8개의 세기 단위들의 접촉의 세기가 할당되고, 접촉들(552C, 552D)에는 각각 총 세기 중 4개의 세기 단위들의 접촉의 세기가 할당된다. 더 일반적으로, 일부 구현예들에서, 각각의 접촉(j)에는 사전정의된 수학 함수 Ij = A·(Dj/ΣDi)에 따라 총 세기(A)의 일부분인 각자의 세기(Ij)가 할당되고, 여기서 Dj는 힘의 중심까지의 각자의 접촉(j)의 거리이고, ΣDi는 힘의 중심까지의 모든 각자의 접촉들의 거리들의 합이다(예컨대, i=1 내지 마지막). 도 5c 및 도 5d를 참조하여 기술된 동작들이 디바이스(100, 300, 또는 500)와 유사 또는 동일한 전자 디바이스를 이용하여 수행될 수 있다. 일부 실시예들에서, 접촉의 특성 세기는 접촉의 하나 이상의 세기들에 기초한다. 일부 실시예들에서, 세기 센서들을 이용하여 단일 특성 세기(예컨대, 단일 접촉의 단일 특성 세기)를 결정한다. 세기 다이어그램들은 디스플레이되는 사용자 인터페이스의 일부분이 아니고, 독자를 돕기 위해 도 5c 및 도 5d에 포함된 것임을 주의해야 한다.
일부 실시예들에서, 특성 세기를 결정하기 위해 제스처의 일부분이 식별된다. 예를 들어, 터치 감응형 표면은 시작 위치로부터 전이하여 종료 위치(이 지점에서 접촉의 세기가 증가함)에 도달하는 연속적인 스와이프 접촉을 수신할 수 있다. 이 예에서, 종료 위치에서의 접촉의 특성 세기는 스와이프 접촉 전체가 아니라 연속적인 스와이프 접촉의 일부분에만(예컨대, 종료 위치에서의 스와이프 접촉의 부분에만) 기초할 수 있다. 일부 실시예들에서, 접촉의 특성 세기를 결정하기 전에 스와이프 접촉의 세기들에 평활화 알고리즘이 적용될 수 있다. 예를 들어, 평활화 알고리즘은, 선택적으로, 비가중 이동 평균(unweighted sliding-average) 평활화 알고리즘, 삼각(triangular) 평활화 알고리즘, 메디안 필터(median filter) 평활화 알고리즘, 및/또는 지수(exponential) 평활화 알고리즘 중 하나 이상을 포함한다. 일부 상황들에서, 이러한 평활화 알고리즘들은 특성 세기를 판정하기 위해 스와이프 접촉의 세기들에서의 좁은 급등(spike)들 또는 급감(dip)들을 제거한다.
터치 감응형 표면 상에서의 접촉의 세기가, 접촉 검출 세기 임계치, 가볍게 누르기 세기 임계치, 깊게 누르기 세기 임계치, 및/또는 하나 이상의 다른 세기 임계치와 같은, 하나 이상의 세기 임계치에 대해 특성화될 수 있다. 일부 실시예들에서, 가볍게 누르기 세기 임계치는, 디바이스가 물리적 마우스의 버튼 또는 트랙 패드를 클릭하는 것과 전형적으로 연관된 동작들을 수행하게 될 세기에 대응한다. 일부 실시예들에서, 깊게 누르기 세기 임계치는, 디바이스가 물리적 마우스의 버튼 또는 트랙패드를 클릭하는 것과 전형적으로 연관된 동작들과는 상이한 동작들을 수행하게 될 세기에 대응한다. 일부 실시예들에서, 접촉이 가볍게 누르기 세기 임계치 미만의(예컨대, 그리고 공칭 접촉 검출 세기 임계치(이 미만에서는 접촉이 더 이상 검출되지 않음) 초과의) 특성 세기로 검출될 때, 디바이스는 가볍게 누르기 세기 임계치 또는 깊게 누르기 세기 임계치와 연관된 동작을 수행함이 없이 터치 감응형 표면 상에의 접촉의 이동에 따라 포커스 선택자를 이동시킬 것이다. 일반적으로, 달리 언급되지 않는 한, 이 세기 임계치들은 사용자 인터페이스 도면들의 상이한 세트들 사이에서 일관성이 있다.
가볍게 누르기 세기 임계치 미만의 세기로부터 가볍게 누르기 세기 임계치와 깊게 누르기 세기 임계치 사이의 세기로의 접촉의 특성 세기의 증가는 때때로 "가볍게 누르기" 입력으로서 지칭된다. 깊게 누르기 세기 임계치 미만의 세기로부터 깊게 누르기 세기 임계치 초과의 세기로의 접촉의 특성 세기의 증가는 때때로 "깊게 누르기" 입력으로서 지칭된다. 접촉 검출 세기 임계치 미만의 세기로부터 접촉 검출 세기 임계치와 가볍게 누르기 세기 임계치 사이의 세기로의 접촉의 특성 세기의 증가는 때때로 터치 표면 상에의 접촉의 검출로서 지칭된다. 접촉 검출 세기 임계치 초과의 세기로부터 접촉 검출 세기 임계치 미만의 세기로의 접촉의 특성 세기의 감소는 때때로 터치 표면으로부터의 접촉의 리프트오프의 검출로서 지칭된다. 일부 실시예들에서, 접촉 검출 세기 임계치는 0(zero)이다. 일부 실시예들에서, 접촉 검출 세기 임계치는 0 초과이다.
본 명세서에 기술된 일부 실시예들에서, 하나 이상의 동작들은, 각자의 누르기 입력을 포함하는 제스처를 검출하는 것에 응답하여 또는 각자의 접촉(또는 복수의 접촉들)으로 수행되는 각자의 누르기 입력을 검출하는 것에 응답하여 수행되며, 여기서 각자의 누르기 입력은 누르기 입력 세기 임계치 초과의 접촉(또는 복수의 접촉들)의 세기의 증가를 검출하는 것에 적어도 부분적으로 기초하여 검출된다. 일부 실시예들에서, 각자의 동작은, 누르기 입력 세기 임계치 초과의 각자의 접촉의 세기의 증가(예컨대, 각자의 누르기 입력의 "다운 스트로크(down stroke)")를 검출하는 것에 응답하여 수행된다. 일부 실시예들에서, 누르기 입력은 누르기 입력 세기 임계치 초과의 각자의 접촉의 세기의 증가 및 누르기 입력 세기 임계치 미만의 접촉의 세기의 후속하는 감소를 포함하며, 각자의 동작은 누르기 입력 임계치 미만의 각자의 접촉의 세기의 후속하는 감소(예컨대, 각자의 누르기 입력의 "업 스트로크(up stroke)")를 검출하는 것에 응답하여 수행된다.
도 5e 내지 도 5h는 도 5e의 가볍게 누르기 세기 임계치(예컨대, "ITL") 미만의 세기로부터 도 5h의 깊게 누르기 세기 임계치(예컨대, "ITD") 초과의 세기까지의 접촉(562)의 세기의 증가에 대응하는 누르기 입력을 포함하는 제스처의 검출을 도시한다. 사전정의된 영역(574)에 디스플레이되는 애플리케이션 아이콘들(572A 내지 572D)을 포함하는 디스플레이되는 사용자 인터페이스(570) 상에서, 커서(576)가 App 2에 대응하는 애플리케이션 아이콘(572B) 위에 디스플레이되는 동안, 접촉(562)을 이용하여 수행된 제스처가 터치 감응형 표면(560) 상에서 검출된다. 일부 실시예들에서, 제스처는 터치 감응형 디스플레이(504) 상에서 검출된다. 세기 센서들은 터치 감응형 표면(560) 상에의 접촉들의 세기를 검출한다. 디바이스는 접촉(562)의 세기가 깊게 누르기 세기 임계치(예컨대, "ITD")를 초과하여 도달했음을 결정한다. 접촉(562)은 터치 감응형 표면(560) 상에서 유지된다. 제스처의 검출에 응답하여, 그리고 제스처 동안 깊게 누르기 세기 임계치(예컨대, "ITD")를 초과하는 세기를 갖는 접촉(562)에 따라, App 2에 대해 최근에 열어본 문서들의 축소 스케일 표현들(578A 내지 578C)(예컨대, 썸네일)이 디스플레이되는데, 이는 도 5f 내지 도 5h에 도시된 바와 같다. 일부 실시예들에서, 하나 이상의 세기 임계치들에 비교되는 세기는 접촉의 특성 세기이다. 접촉(562)에 대한 세기 다이어그램은 디스플레이되는 사용자 인터페이스의 일부분이 아니고, 독자를 돕기 위하여 도 5e 내지 도 5h에 포함된다는 것에 유의해야 한다.
일부 실시예들에서, 표현들(578A 내지 578C)의 디스플레이는 애니메이션을 포함한다. 예를 들어, 도 5f에 도시된 바와 같이, 표현(578A)은 초기에 애플리케이션 아이콘(572B)에 근접하게 디스플레이된다. 애니메이션이 진행됨에 따라, 도 5g에 도시된 바와 같이, 표현(578A)은 위로 이동하고 표현(578B)은 애플리케이션 아이콘(572B)에 근접하게 디스플레이된다. 이어서, 도 5h에 도시된 바와 같이, 표현(578A)은 위로 이동하고, 표현(578B)은 표현(578A)을 향해 위로 이동하고, 표현(578C)은 애플리케이션 아이콘(572B)에 근접하게 디스플레이된다. 표현들(578A 내지 578C)은 아이콘(572B) 위로 어레이를 형성한다. 일부 실시예들에서, 도 5f 내지 도 5g에 도시된 바와 같이, 애니메이션은 접촉(562)의 세기에 따라 진행되는데, 접촉(562)의 세기가 깊게 누르기 세기 임계치(예컨대, "ITD")를 향해 증가함에 따라 표현들(578A 내지 578C)이 나타나서 위로 이동한다. 일부 실시예들에서, 애니메이션의 진행상황이 기초하는 세기는 접촉의 특성 세기이다. 도 5e 내지 도 5h를 참조하여 기술된 동작들은 디바이스(100, 300, 또는 500)와 유사 또는 동일한 전자 디바이스를 사용하여 수행될 수 있다.
일부 실시예들에서, 디바이스는 때때로 "지터(jitter)"로 지칭되는 돌발적인 입력들을 회피하기 위해 세기 히스테리시스를 이용하며, 여기서 디바이스는 누르기 입력 세기 임계치에 대한 사전정의된 관계를 갖는 히스테리시스 세기 임계치(예컨대, 히스테리시스 세기 임계치는 누르기 입력 세기 임계치보다 더 낮은 X 세기 단위이거나, 히스테리시스 세기 임계치는 누르기 입력 세기 임계치의 75%, 90% 또는 어떤 적절한 비율임)를 정의하거나 선택한다. 이와 같이, 일부 실시예들에서, 누르기 입력은 누르기 입력 세기 임계치 초과의 각자의 접촉의 세기의 증가 및 누르기 입력 세기 임계치에 대응하는 히스테리시스 세기 임계치 미만의 접촉의 세기의 후속하는 감소를 포함하며, 각자의 동작은 히스테리시스 세기 임계치 미만의 각자의 접촉의 세기의 후속하는 감소(예컨대, 각자의 누르기 입력의 "업 스트로크")를 검출하는 것에 응답하여 수행된다. 유사하게, 일부 실시예들에서, 누르기 입력은 디바이스가 히스테리시스 세기 임계치 이하에서의 세기로부터 누르기 입력 임계치 이상에서의 세기로의 접촉 세기 증가, 및 선택적으로, 히스테리시스 세기 이하에서의 세기로의 후속 접촉 세기 감소를 검출하는 경우에만 검출되고, 각자의 동작은 누르기 입력(예컨대, 주변환경에 따른 접촉 세기 증가 또는 접촉 세기 감소)을 검출한 것에 응답하여 수행된다.
설명의 편의상, 누르기 입력 세기 임계치와 연관된 누르기 입력에 응답하여 또는 누르기 입력을 포함하는 제스처에 응답하여 수행되는 동작들의 설명은, 선택적으로, 누르기 입력 세기 임계치 초과의 접촉의 세기의 증가, 히스테리시스 세기 임계치 미만의 세기로부터 누르기 입력 세기 임계치 초과의 세기로의 접촉의 세기의 증가, 누르기 입력 세기 임계치 미만의 접촉의 세기의 감소, 및/또는 누르기 입력 세기 임계치에 대응하는 히스테리시스 세기 임계치 미만의 접촉의 세기의 감소 중 어느 하나를 검출한 것에 응답하여 트리거된다. 또한, 동작이 누르기 입력 세기 임계치 미만의 접촉의 세기의 감소를 검출한 것에 응답하여 수행되는 것으로서 기술되어 있는 예들에서, 동작은, 선택적으로, 누르기 입력 세기 임계치에 대응하고 그보다 더 낮은 히스테리시스 세기 임계치 미만의 접촉의 세기의 감소를 검출한 것에 응답하여 수행된다. 이제, 경고들을 관리하는 데 있어서의 사용자의 경험을 개선하기 위해, 디바이스들(100, 300, 및/또는 500)과 같은 터치 감응형 표면 및 디스플레이를 갖는 다기능 디바이스 상에서 구현될 수 있는 사용자 인터페이스들 및 연관 프로세스들의 실시예들에 대해 살펴본다.
1. 경고 관리용 사용자 인터페이스
하기에 기술되는 경고 관리용 사용자 인터페이스들은, 경고들을 수신하고 다양한 사용자 입력들을 검출한 것에 응답하여 디바이스(500)가 디스플레이할 수 있는 스크린들의 예시적인 시퀀스들에 의해 예시된다. 이들 시퀀스들에서, 화살표들은 스크린들이 디스플레이될 수 있는 순서를 나타낸다.
a. 통지들의 디스플레이
도 6a 및 도 6b는 경고를 수신한 후에 디바이스(500)가 디스플레이할 수 있는 예시적인 스크린들(604, 612)을 도시한다. 초기에, 터치 스크린(504)은 턴오프될 수 있거나 비활성 상태일 수 있다. 경고를 수신한 것에 응답하여, 디바이스(500)는 가청, 가시, 또는 햅틱 출력과 같이 사용자에 의해 인지될 수 있는 인지적 출력(602)을 발할 수 있다. 일부 실시예들에서, 디바이스(500)는 디바이스(500) 상의 햅틱 메커니즘이 햅틱 출력을 발하게 함으로써 인지적 출력을 발할 수 있다. 일부 실시예들에서, 디바이스(500)는 사용자가 들을 수 있는 사운드 또는 톤을 재생함으로써 인지적 출력을 발할 수 있다. 일부 실시예들에서, 디바이스(500)는 터치 스크린(504) 상에 플래시 광 또는 표시자와 같은 가시 출력을 디스플레이함으로써 인지적 출력을 발할 수 있다.
일부 실시예들에서, 햅틱 출력을 발하는 것은 제1 햅틱 출력을 발하는 것, 및 제1 햅틱 출력을 발한 후, 제2 햅틱 출력을 발하는 것을 포함하며, 여기서 제1 햅틱 출력은 제2 햅틱 출력과는 별개이다. 사용자가 햅틱 출력을 인지하게 하는 돌출도(saliency)를 증가시키기 위해, 사용자는 "사전경고" 햅틱 출력을 수신하기를 원할 수 있다. 제1 햅틱 출력은 제2 햅틱 출력을 수신하기 위해 사용자에게 "프라이밍(prime)"할 수 있는데, 이는 일부 실시예들에서, 하기에 기술되는 바와 같이, 특정 정보(예컨대, 경고의 소스)를 나타낼 수 있거나 또는 제2 인지적 출력(예컨대, 가청 또는 가시 출력)과 연관될 수 있다. 예를 들어, 사용자가 이동하거나 무엇인가에 주목하는 동안에 햅틱 출력을 인지하는 것이 어려울 수 있다. 따라서, 사용자에게 제2 햅틱 출력(및, 선택적으로, 연관된 제2 인지적 출력)을 인지하도록 "프라이밍"하는 제1 햅틱 출력이 유리할 수 있다.
사용자는 경고의 소스에 기초하여 햅틱 출력을 수신하기를 원할 수 있다. 예를 들어, 사용자는 음성 메일 경고에 대한 것과는 상이한 이메일 경고용 햅틱 출력을 수신하기를 원할 수 있다. 별개의 햅틱 출력들을 제공하기 위해, 디바이스는 별개의 가청 또는 가시 출력과 함께 햅틱 출력을 발할 수 있거나, 또는 디바이스는 별개의 품질, 예컨대 별개의 세기, 지속시간, 및/또는 패턴을 갖는 햅틱 출력을 발할 수 있다. 사용자가 경고의 소스를 구별하는 별개의 햅틱 출력들을 수신하게 하는 것은, 사용자가 디스플레이를 볼 필요 없이 경고의 타입을 인지할 수 있게 하여, 배터리 수명을 보존한다. 일부 실시예들에서, 제2 햅틱 출력은 경고의 소스에 기초한다. 일부 실시예들에서, 제2 햅틱 출력은 가청 또는 가시 출력과 함께 발해진다.
일부 실시예들에서, 제1 햅틱 출력은 제2 햅틱 출력에 비해 더 큰 세기 및/또는 지속시간을 갖는다. 이는, 예를 들어 사용자에게 더 강한 햅틱 신호를 제공하여, 제2 햅틱 신호에 대한 대비(예컨대, 경고의 소스에 기초한 별개의 태양을 갖거나, 또는 청각적 또는 시각적 출력과 연관됨)로 사용자의 주의를 디바이스(500)에 돌림으로써 유리해질 수 있다. 일부 실시예들에서, 디바이스(500)는 햅틱 출력을 발하는 것이 제1의 "프라이밍" 햅틱 출력을 발하는 것을 포함하는지 여부를 구성하기 위한 사용자 인터페이스(도시되지 않음)를 포함할 수 있다. 그러한 실시예들에서, 디바이스(500)가 "프라이밍" 햅틱 출력을 발하지 않도록 구성되는 경우, 햅틱 출력을 발하는 것은 하나의 햅틱 출력만을 발하는 것을 포함할 수 있다.
도 6a에 도시된 바와 같이, 인지적 출력(602) 후의 사전결정된 시간 간격 내에 후속의 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 수신된 경고를 나타내는 통지(606)를 갖는 스크린(604)을 디스플레이할 수 있다. 일부 실시예들에서, 사용자 입력은 스와이프 또는 탭핑과 같은, 터치 스크린(504) 상에의 접촉일 수 있다. 일부 실시예들에서, 디바이스(500)가 사용자의 손목에 착용되는 경우, 사용자 입력은 사용자가 그의 손목을 들어올리거나 회전시킴으로써 디바이스(500)를 뷰잉 위치(viewing position)로 이동시키는 것을 나타내는 신호일 수 있다. 본 명세서에서 사용되는 바와 같이, 뷰잉 위치는 사용자가 터치 스크린(504)을 볼 수 있는, 디바이스(500)의 위치이다. 일부 실시예들에서, 디바이스(500)는, 미국 가특허 출원 제62/026,532호 "Raise Gesture Detection in a Device"에 기재된 바와 같이, 사용자가 그의 손목을 들어올리거나 내리는 것을 나타내는 신호를 검출할 수 있으며, 이 출원은 이로써 그 전체가 참고로 포함된다.
수신된 경고는 정보를 포함한다. 그러한 정보는, 예를 들어, 텍스트, 이미지, 또는 오디오 콘텐츠와 함께, 경고의 소스, 경고와 연관된 애플리케이션, 및/또는 경고와 연관된 시간 및/또는 날짜를 포함할 수 있다. 일부 실시예들에서, 수신된 경고를 나타내는 통지는 경고 정보의 일부분을 포함한다. 예를 들어, 도 6a에 도시된 바와 같이, 통지(606)는 경고의 소스(610)(Jason Jones), 및 경고와 연관된 애플리케이션 - 이러한 예에서는, 텍스트 메시지 애플리케이션 - 을 나타내는 애플리케이션 어포던스(608)를 포함한다. (스크린(604) 상에 묘사된 점선으로 된 직사각형은 통지의 콘텐츠를 나타내지만, 점선으로 된 직사각형은 디스플레이되지 않을 수도 있다.) 일부 실시예들에서, 애플리케이션 어포던스(608)의 선택을 검출한 것에 응답하여, 디바이스(500)는 경고와 연관된 애플리케이션을 론칭시킬 수 있다. 일부 실시예들에서, 애플리케이션을 론칭시키는 것은 터치 스크린(504) 상에 애플리케이션을 디스플레이하는 것, 및 애플리케이션 내에서 보거나, 편집하거나, 또는 응답하기 위한 경고를 여는 것을 포함한다.
전술된 바와 같이, 디바이스(500)는 햅틱 출력 후의 사전결정된 시간 간격 내에 사용자 입력을 검출한 것에 응답하여 스크린(604)을 디스플레이할 수 있다. 일부 실시예들에서, 사전결정된 시간 간격은 0초 내지 3분의 범위일 수 있다. 다른 실시예들에서, 사전결정된 시간 간격은 0초 내지 1분의 범위일 수 있다. 또 다른 실시예들에서, 사전결정된 시간 간격은 사용자에 의해 설정될 수 있거나, 또는 사용자가 입력을 제공하기 전의 이전의 경과된 시간들의 평균과 같은 이전의 사용자 거동에 기초하여 디바이스(500)에 의해 결정될 수 있다.
도 6a에 도시된 시나리오는, 경고를 수신한 것에 응답하여 디바이스(500)에 의해 발해진 인지적 출력을 인지한 사용자가 수신된 경고를 나타내는 통지를 지체 없이 보기를 원하고 그에 따라 사전결정된 시간 간격 내에 (예컨대, 그의 손목을 들어올림으로써) 터치 스크린(504)을 보는 데 적합한 위치로 디바이스(500)를 이동시키는 경우에 대응할 수 있다.
도 6b에 도시된 바와 같이, 디바이스(500)가 사전결정된 시간 간격 후에 사용자 입력을 검출한 경우, 디바이스(500)는 대신에 시계 문자판(612)을 디스플레이함으로써 대응할 수 있다. 이러한 시나리오는 사용자가 통지를 지체 없이 보기를 원하지 않고, 인지적 출력(602) 후에 때때로 그의 손목을 들어올려서 터치 스크린(504)을 보는 경우에 대응할 수 있다. 일부 실시예들에서, 시계 문자판(612)은 현재 시간을 나타내는 사용자 인터페이스 객체(616)를 포함할 수 있다. 일부 실시예들에서, 시계 문자판(612)은 수신된 경고에 대응하는 판독되지 않은 경고의 표시(614)를 포함할 수 있는데, 그 이유는 경고 콘텐츠가 아직 디스플레이되지 않았기 때문이다. 도 6b에 도시된 바와 같이, 표시(614)는 점일 수 있다. 도 6c는 표시(614)가 V형 무늬(chevron)인 다른 실시예를 도시한다. 일부 실시예들에서, 디바이스(500)는 V형 무늬 대신에 화살표, 삼각형, 또는 방향 표시를 제공하는 다른 그래픽 객체를 디스플레이한다. 판독되지 않은 경고들의 표시들이 하기에 더 상세히 기술된다.
일부 실시예들에서, 디바이스(500)는 시계 문자판(612) 대신에 홈 스크린을 디스플레이할 수 있다. 예시적인 홈 스크린(706)이 도 7에 도시되어 있다. 홈 스크린은 복수의 애플리케이션들을 나타내는 복수의 어포던스들을 포함할 수 있고, 수신된 경고에 대응하는 판독되지 않은 경고의 표시를 포함할 수 있다.
디바이스(500)가 인지적 출력 후의 사전결정된 시간 간격 내에 사용자 입력을 검출하지 않은 경우, 디바이스(500)는 스크린(604)을 디스플레이하지 않으면서 그의 초기 다크(dark) 또는 비활성 상태로 유지될 수 있다. 이러한 시나리오는, 사용자가 통지를 지체 없이 보기를 원하지 않거나 근처에 있는 다른 이들이 통지를 보게 하는 것을 피하기를 원하고, 그에 따라 인지적 출력을 인지한 후에 터치 스크린(504)을 보기 위한 위치로 디바이스(500)를 이동시키지 않는 경우에 대응할 수 있다.
통지(606)가 디스플레이되는 동안, 디바이스(500)가 통지를 디스플레이한 후의 제2 사전결정된 시간 간격 내에 제2 사용자 입력을 검출한 경우, 디바이스(500)는 터치 스크린(504)을 그의 초기 다크 또는 비활성 상태로 복귀시킬 수 있다. 제2 사용자 입력은, 예를 들어, 사용자가 그의 손목을 내리고/내리거나 회전시킴으로써 디바이스(500)를 뷰잉 위치 밖으로 이동시키는 것을 나타내는 신호일 수 있다. 제2 사전결정된 시간 간격 내에 제2 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 디스플레이를 그의 초기 다크 또는 비활성 상태로 복귀시킬 수 있다. 이러한 시나리오는 통지를 본 사용자가 계속해서 디바이스(500)를 보거나 그와 상호작용하기를 원하지 않고, 그에 따라 그의 손목을 내리는 경우에 대응할 수 있다.
일부 실시예들에서, 통지(606)를 디스플레이하는 것은 터치 스크린(504) 상에 수직 방향으로 통지(606)를 슬라이딩하는 애니메이션을 디스플레이하는 것을 수반한다. 예를 들어, 디바이스(500)는 터치 스크린(504)의 저부로부터 터치 스크린(504) 상으로 통지(606)를 위로 슬라이딩하는 애니메이션을 디스플레이할 수 있다. 그러한 애니메이션은, (예를 들어) 통지가 스크린의 저부로부터 "올라오고(rise up)" 있으므로, 사용자에게 통지를 "밀어내리도록(push down)" 하는 애니메이션의 반대 방향으로의 터치 스크린(504)과의 접촉(예컨대, 하향 스와이프)을 통해 경고를 무시하는 것이 수행될 수 있다는 시각적 큐(cue)를 제공할 수 있다. 사용자는, 또한, 애니메이션과 동일한 방향으로의 터치 스크린(504)과의 접촉(예컨대, 상향 스와이프)이 텍스트 메시지의 본문 또는 캘린더 경고와 연관되는 추가적인 텍스트와 같은 추가적인 경고 정보를 "밀어올릴(pull up)"(예컨대, 디스플레이할) 수 있다는 것을 애니메이션으로부터 추론할 수 있다. 따라서, 디바이스(500)에 의해 디스플레이된 애니메이션들은 사용자가 디바이스(500)에 제공할 수 있는 잠재적 입력들에 관한 시각적 큐들을 사용자에게 제공할 수 있다. 당업자는, 통지에 대한 애니메이션 방향이 상향 방향일 필요가 없고; 예를 들어, 통지가 스크린의 상부로부터 터치 스크린 상으로 아래로 슬라이딩할 수 있고, 이 경우에 사용자가 통지를 무시하는 것이 상향 스와이프를 필요로 할 수 있음을 추론할 수 있다는 것을 인식할 것이다. 그러한 시각적 큐들은 축소된 크기의 스크린 상에 상세한 명령어들의 디스플레이를 필요로 하지 않으면서 사용자에게 적절한 입력들을 적용할 것을 가이드함으로써 인간-기계 인터페이스를 개선시킬 수 있다.
전술된 바와 같이, 일부 실시예들에서, 경고를 수신한 것에 응답하여, 디바이스(500)는, 예컨대 햅틱 메커니즘이 햅틱 출력을 발하게 함으로써, 인지적 출력을 발하여, 경고가 수신되었음을 사용자에게 통지할 수 있다. 그러나, 일부 실시예들에서, 디바이스(500)는, 사용자에게 더 편리할 가능성이 있는 시간에 인지적 출력을 전달하기 위해, 경고를 수신한 것에 응답하여 인지적 출력을 발하는 것을 지연시킬 수 있다. 예를 들어, 디바이스(500)는 사용자가 상대적으로 비활성 상태가 되고 그에 따라 인지적 출력을 인지할 가능성이 더 클 때까지 인지적 출력을 지연시킬 수 있거나, 또는 사용자가 활동에 능동적으로 참여하거나 수면 상태에 있는 동안 사용자를 인터럽트하는 것을 피하도록 인지적 출력을 지연시킬 수 있다. 일부 실시예들에서, 경고를 수신한 것에 응답하여, 디바이스(500)는 하나 이상의 모션 센서들, 가속도계들, 심박 모니터들, 및/또는 다른 타입의 센서들로부터 데이터를 획득하여, 현재 사용자 활동 레벨 - 예컨대, 사용자가 현재 운동하는 중인지, 타이핑하는 중인지, 아니면 자고 있는 중인지 - 을 판정할 수 있다. 디바이스(500)는 판정된 사용자 활동 레벨이 활동 기준을 충족시킬 때까지 인지적 출력을 지연시킬 수 있다. 일부 실시예들에서, 활동 기준은, 예를 들어 사용자가 (디바이스(500) 상의 센서들로부터의 출력들에 의해 판정된 바와 같이) 상대적으로 정지 상태이거나, 물리적 키보드 상에서 타이핑하는 것을 중지했거나, 말하기를 멈췄거나, 또는 잠든 상태가 아니라는 것을 포함할 수 있다. 이러한 방식으로, 디바이스(500)는 사용자에 의해 인지될 가능성이 크지만 사용자를 귀찮게 할 가능성이 적을 수 있는 시간에 새로운 경고가 수신되었음을 사용자에게 통지하도록 하는 인지적 출력을 발할 수 있다.
디바이스(500)가 통지를 디스플레이한 후, 사용자는, 다른 옵션들 중에서, 통지를 무시하거나 경고 콘텐츠(예를 들어, 텍스트 메시지의 본문, 또는 캘린더 경고와 연관된 텍스트)를 디스플레이할 것을 선택할 수 있다.
b. 통지들의 무시
도 7은 경고를 수신한 후에 디바이스(500)가 터치 스크린(504) 상에 디스플레이할 수 있는 스크린들의 다른 예시적인 시퀀스를 도시한다. 도 6a에 대해 논의된 바와 같이, 터치 스크린(504)은 초기에 다크 또는 비활성 상태일 수 있다. 경고를 수신한 것에 응답하여, 디바이스(500)는 인지적 출력을 발할 수 있다. 도 6a에 기술된 바와 같이, 인지적 출력 후의 제1 사전결정된 시간 간격 내에 사용자 입력을 수신한 것에 응답하여, 디바이스(500)는 수신된 경고를 나타내는 통지(606)를 포함하는 스크린(604)을 디스플레이한다. 이러한 예시적인 시퀀스에서, 스크린(604) 상에 통지(606)를 디스플레이하는 것은 터치 스크린(504)의 저부로부터 통지(606)를 상향으로 슬라이딩하는 애니메이션을 디스플레이하는 것을 수반한다.
통지(606)를 디스플레이하는 동안, 디바이스(500)가 무시 기준들을 충족시키는 터치 스크린(504) 상에의 접촉을 검출하는 경우, 디바이스(500)는 통지(606)를 무시할 수 있다. 일부 실시예들에서, 통지(606)를 무시하는 것은 디스플레이로부터 통지(606)를 제거하는 것, 및/또는 통지의 디스플레이를 (도 6b에서의 시계 문자판(612)과 같은) 시계 문자판 또는 홈 스크린(706)의 디스플레이로 대체하는 것을 수반한다.
일부 실시예들에서, 접촉은 그것이 터치 스크린(504) 상에서의 스와이프 또는 플릭(flick)인 경우에 무시 기준들을 충족시킨다. 일부 실시예들에서, 접촉은 그것이 터치 스크린(504) 상에서의 특정 방향으로의 스와이프 또는 플릭; 예컨대 애니메이션이 터치 스크린(504) 상에서 통지를 슬라이딩하는 방향에 반대되는 방향으로의 스와이프 또는 플릭인 경우에 무시 기준들을 충족시킨다. 예를 들어, 애니메이션이 통지를 터치 스크린(504) 상에서 저부로부터 상향으로 슬라이딩하는 경우, 접촉은 그것이 하향 방향으로의 터치 스크린(504) 상에서의 스와이프인 경우에 무시 기준들을 충족시킬 수 있다. 일부 실시예들에서, 접촉은 터치 스크린을 가로지르는 스와이프 또는 플릭의 거리가 임계 거리를 초과하는 경우에 무시 기준들을 충족시킬 수 있다. 일부 실시예들에서, 임계 거리는 터치 스크린(504)의 길이의 1/4, 1/2, 또는 ¾일 수 있다.
도 7로 되돌아가면, 일부 실시예들에서, 통지(606)를 디스플레이하는 동안에 터치 스크린(504) 상에의 접촉의 이동(예컨대, 스와이프)을 검출한 것에 응답하여, 디바이스(500)는 접촉의 이동 방향으로 터치 스크린 상에 통지(606)를 슬라이딩할 수 있고, 통지에 인접하게 무시 표시자(714)를 디스플레이할 수 있다. 도 7에 도시된 바와 같이, 일부 실시예들에서, 접촉의 이동 방향이 하향인 경우, 무시 표시자는 통지 위에 디스플레이될 수 있다. 무시 표시자(714)는 접촉의 이동이 동일한 방향으로 계속되는 경우에 통지가 무시될 것이라는 시각적 큐를 사용자에게 제공할 수 있다. 무시 표시자를 디스플레이한 후, 일부 실시예들에서, 접촉이 임계 기준들을 충족시키는 경우, 접촉의 해제를 검출한 것에 응답하여, 디바이스(500)는 통지(606)를 무시할 수 있고, 터치 스크린(504)으로부터 무시 표시자(714)를 제거할 수 있다. 접촉이 임계 기준들을 충족시키지 않는 경우(예를 들어, 접촉의 이동이 임계 거리를 초과하지 않는 경우), 디바이스(500)는 통지(606)를 디스플레이 상에서 그의 초기 위치로 도로 슬라이딩하는 애니메이션을 디스플레이할 수 있고, 디스플레이로부터 무시 표시자(714)를 제거할 수 있다. 따라서, 이러한 예에서, 사용자는 통지를 무시하기 위해 임계 거리를 초과할 정도로 충분히 멀리 통지를 "밀어내려야" 하고; 그렇지 않으면, 통지는 그의 오리지널 위치로 리바운드된다. 일부 실시예들에서, 도 7에 도시된 바와 같이, 통지(606)를 무시하는 것은 통지(606)를 터치 스크린(504)으로부터 슬라이딩하는 애니메이션을 디스플레이하는 것을 수반한다. 일부 실시예들에서, 애니메이션은 통지(606)를 스와이프 또는 플릭의 방향으로 터치 스크린(504)로부터 슬라이딩한다.
전술된 바와 같이, 사용자는, 또한, 통지가 디스플레이되는 동안, (디바이스(500)에 의해 검출된 바와 같이) 그의 손목을 내림으로써 통지를 무시할 수 있다. 일부 실시예들에서, 디바이스(500)는, 전술된 바와 같이, 그의 손목을 내리는 것을 나타내는 신호를 검출한 것에 응답하여 통지가 무시되는 경우와는 상이하게, (도 7에 대해 논의된 바와 같이) 무시 기준들을 충족시키는 접촉을 검출한 것에 응답하여 통지가 무시되는 경우에 응답할 수 있다. 예를 들어, 디바이스(500)가 사용자의 손목에 착용되고 디바이스(500)가 사용자가 그의 손목을 내리는 것을 나타내는 신호를 검출한 경우, 디바이스(500)는 사용자가 터치 스크린(504)을 더 이상 보고 있지 않음을 가정할 수 있고, 그에 따라, 통지를 무시한 후, 터치 스크린(504)을 턴오프할 수 있거나 또는 비활성화시킬 수 있다. 이와 대조적으로, 디바이스(500)가 통지를 디스플레이하고 있고 무시 기준들을 충족시키는 터치 스크린(504) 상에의 접촉(예컨대, 하향 스와이프)을 검출하는 경우, 디바이스(500)는 사용자가 여전히 능동적으로 터치 스크린(504)을 보고 있음을 가정할 수 있고, 디바이스(500)는 통지를 무시하고 나서 시계 문자판, 홈 스크린, 또는 일부 다른 스크린, 예컨대 경고를 수신하기 전에 디스플레이되고 있던 스크린을 디스플레이함으로써 접촉에 응답할 수 있다.
c. 경고 콘텐츠의 디스플레이
전술된 바와 같이, 수신된 경고는, 텍스트 메시지 또는 이메일의 본문, 음성 메일 메시지, 캘린더 리마인더에 관한 상세사항들, 또는 다른 타입들의 콘텐츠와 같은 (가능하게는) 경고 콘텐츠와 함께, 경고의 소스, 경고와 연관된 애플리케이션, 및 경고의 시간을 포함할 수 있는 정보를 포함한다. 수신된 경고를 나타내는 통지는 경고의 소스, 연관된 애플리케이션, 또는 수신된 시간과 같은 이러한 경고 정보의 제1 부분을 포함할 수 있다.
도 6a, 도 6b, 및 도 7에 대해 전술된 바와 같이, 경고를 수신한 후, 디바이스(500)는 인지적 출력을 발할 수 있고, 이어서 인지적 출력 후의 제1 시간 간격 내에 사용자 입력을 검출한 것에 응답하여 통지(606)를 디스플레이할 수 있다. 통지를 보기 위해 그의 손목을 들어올린 후, 이어서 사용자는 연관된 경고 콘텐츠를 보기를 원할 수 있다.
일부 실시예들에서, 디바이스(500)가, 사용자가 통지를 디스플레이한 후의 사전결정된 시간 간격 동안에 디바이스(500)를 뷰잉 위치에서 계속해서 유지하는 것으로 판정하는 경우, 디바이스(500)는 정보의 제2 부분으로 지칭될 수 있는 경고 콘텐츠 중 일부 또는 전부를 디스플레이할 수 있다. 즉, 일부 실시예들에서, 디바이스(500)는, 사용자가 디바이스(500)를 뷰잉 위치에서 보유하고 기다리는 경우, 통지를 디스플레이한 것으로부터 경고 콘텐츠를 디스플레이하는 것으로 자동으로 전이할 수 있다.
도 8은 디바이스(500)가 경고를 수신한 것에 응답하여 디스플레이할 수 있는 스크린들의 예시적인 시퀀스를 도시한다. 초기에, 터치 스크린(504)은 다크 또는 비활성 상태일 수 있다. 경고를 수신한 것에 응답하여, 디바이스(500)는 인지적 출력을 발할 수 있다. (도 6a에 대해 기술된 바와 같이) 인지적 출력 후의 사전결정된 기간 내에 사용자 입력을 수신한 것에 응답하여, 디바이스(500)는 통지(606)를 디스플레이할 수 있다. 사용자 입력이 통지(606)를 디스플레이한 후의 제2 사전결정된 기간 후에 계속해서 수신된다 - 그에 따라 디바이스가 뷰잉 위치에서 유지됨을 나타낸다 - 는 판정에 응답하여, 디바이스(500)는 스크린(802)을 디스플레이할 수 있는데, 이는 통지(606) 및 경고 콘텐츠(804)를 포함한다. 일부 실시예들에서, 디바이스(500)는 통지(606)를 디스플레이한 후의 제2 사전결정된 기간 내에 제2 사용자 입력의 결여를 검출한 것에 응답하여 스크린(802)을 디스플레이할 수 있다. 제2 사용자 입력은 예를 들어 사용자가 그의 손목을 내리는 것을 나타내는 신호일 수 있고, 그러한 입력의 결여는 디바이스(500)가 뷰잉 위치에서 유지됨을 나타낸다.
이러한 예에서, 경고 콘텐츠(804)는 통지(606)에 의해 나타나는 텍스트 메시지의 본문이다. 다른 예들에서, 경고 콘텐츠는, 예를 들어, 수신된 이메일 경고의 제목란, 및 그의 본문 중 일부 또는 전부를 포함할 수 있거나, 또는 캘린더 경고와 연관된 텍스트 콘텐츠의 일부 또는 전부, 또는 멀티미디어 메시지일 수 있다.
도 8에 나타내진 바와 같이, 일부 실시예들에서, 경고 콘텐츠(804)를 디스플레이하는 것은, 터치 스크린(504)의 저부로부터 경고 콘텐츠(804)를 위로 슬라이딩하여 디스플레이하면서 터치 스크린(504) 상에서 통지를 상향으로 슬라이딩하는 애니메이션을 디스플레이하여, 통지 및 경고 콘텐츠가 동일한 스크린 상에 디스플레이되도록 하는 것을 수반한다. 일부 실시예들에서, 디바이스(500)는 경고 콘텐츠를 디스플레이하기 위한 공간을 제공하도록 통지(606)를 터치 스크린(504)의 상부 코너로 슬라이딩시킬 수 있다. 일부 실시예들에서, 디바이스(500)는 경고 콘텐츠를 디스플레이하기 위한 공간을 제공하도록 통지(606)의 디스플레이 크기를 축소시킬 수 있다.
일부 실시예들에서, 경고 콘텐츠가 터치 스크린(504) 상에서 완전히 디스플레이되기에는 너무 긴 경우, 경고 콘텐츠는 스크롤될 수 있다. 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 경고 콘텐츠를 스크롤하여 사용자가 터치 스크린(504) 상의 추가적인 경고 콘텐츠를 보게 할 수 있다. 그러한 스크롤 입력들은, 예를 들어, 터치 스크린(504) 상의 (상향 또는 하향 스와이프 또는 플릭과 같은) 접촉을 포함할 수 있거나, 또는 존재한다면, 회전가능 입력 메커니즘의 회전을 포함할 수 있다. 일부 실시예들에서, 디바이스(500)는 사용자 입력에 따라 경고 콘텐츠를 스크롤할 수 있는데; 예를 들어, 터치 스크린(504) 상에의 상향 스와이프에 응답하여, 디바이스(500)는 터치 스크린(504) 상에서 경고 콘텐츠를 상향으로 이동시킬 수 있다
도 8에 도시된 바와 같이, 일부 실시예들에서, 디바이스(500)는, 도 7에 대해 전술된 바와 같이 무시 기준들을 충족시키는 접촉을 검출한 것에 응답하여, 통지 및 경고 콘텐츠를 무시할 수 있다. 일부 실시예들에서, 통지(606) 및 경고 콘텐츠(804)를 무시하는 것은 통지(606) 및 경고 콘텐츠(804)를 터치 스크린(504)으로부터 슬라이딩하는 것을 수반한다. 일부 실시예들에서, 디바이스(500)는, 전술된 바와 같이, 접촉의 이동이 임계 거리를 초과하지 않는 경우, 무시 표시자를 디스플레이할 수 있고 통지 및 경고 콘텐츠를 "리바운드"할 수 있다. 일부 실시예들에서, 디바이스(500)는 통지 및 경고 콘텐츠를 무시한 후에 시계 문자판(612)을 디스플레이할 수 있다. 일부 실시예들에서, 경고 콘텐츠가 무시된 후에 시계 문자판(612)이 디스플레이되는 경우, 시계 문자판은 판독되지 않은 경고의 표시 없이 디스플레이될 수 있는데, 이는 경고 콘텐츠가 디스플레이되어 왔기 때문이다.
전술된 바와 같이, 디바이스(500)는 통지를 디스플레이한 후에 디바이스가 뷰잉 위치에서 유지되어 왔음을 검출한 것에 응답하여 경고 콘텐츠를 디스플레이할 수 있다. 그러나, 일부 경우들에 있어서, 사용자는 사전결정된 시간 간격 동안 디바이스(500)를 뷰잉 위치에서 유지시킴으로써 경고 콘텐츠를 보기를 기다릴 것을 원하지 않을 수도 있다. 따라서, 일부 실시예들에서, 디바이스(500)는, 또한, 통지(606)가 디스플레이되는 동안, 터치 스크린(504)과의 접촉을 검출한 것에 응답하여 스크린(802)을 디스플레이할 수 있다. 일부 실시예들에서, 경고 콘텐츠(804)의 디스플레이를 호출하기 위한 접촉은 스와이프 또는 플릭과 같은, 터치 스크린(504) 상에의 접촉의 이동을 포함할 수 있다. 일부 실시예들에서, 터치 스크린(504) 상에서의 상향 스와이프와 같은 스와이프 또는 플릭은 터치 스크린(504) 상에서 통지(606)를 슬라이딩하는 애니메이션과 동일한 방향이어서, 그에 따라 통지 후에 더 많은 경고 정보를 개념적으로 "밀어올려야" 한다. 일부 실시예들에서, 접촉은 통지(606) 상의 또는 그 근처의 터치(예컨대, 손가락 탭핑)일 수 있다.
도 24에 도시된 바와 같이, 일부 실시예들에서, 터치 스크린(504)이 콘텐츠를 능동적으로 디스플레이하고 있는 동안에 경고를 수신한 것에 응답하여, 디바이스(500)는 스크린 콘텐츠의 적어도 일부분을 여전히 디스플레이하면서 터치 스크린(504)의 상부를 가로지르는 통지 배너(2402)를 디스플레이할 수 있다. 일부 실시예들에서, 터치 스크린(504)이 콘텐츠를 능동적으로 디스플레이하고 있는 동안에 경고를 수신한 것에 응답하여, 디바이스(500)는 또한 인지적 출력(702)을 발할 수 있다. 도 24에 도시된 예에서, 디스플레이된 콘텐츠는 홈 스크린(706)이다. 스와이프 또는 탭핑과 같은 통지 배너(2402) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 경고 콘텐츠(804)를 갖는 스크린(802)을 디스플레이할 수 있다.
일부 경고들은 임의의 경고 콘텐츠를 갖지 않을 수도 있다. 예를 들어, 시계 알람, 저배터리 경고, 또는 피트니스 경고가 어떠한 경고 콘텐츠도 갖지 않을 수도 있다. 따라서, 일부 실시예들에서, 디바이스(500)는 경고 콘텐츠를 디스플레이하는 것으로 전이하지 않으면서 통지를 계속해서 디스플레이할 수 있다.
d. 경고 콘텐츠의 자동 디스플레이의 억제
일부 경우들에 있어서, 사용자는 프라이버시 관심사로 인해 또는 다른 이유들로 디바이스(500)가 도 8에 대해 기술된 바와 같은 경고 콘텐츠를 자동으로 디스플레이할 것을 원하지 않을 수도 있다. 따라서, 일부 실시예들에서, 디바이스(500)는 디바이스(500) 상에 저장된 구성 데이터를 변경함으로써 사용자가 경고 콘텐츠의 그러한 자동 디스플레이를 억제하도록 하는 옵션을 제공할 수 있다. 일부 실시예들에서, 경고 콘텐츠의 디스플레이로 전이하기 전에, 디바이스(500)는 경고 콘텐츠가 디스플레이되어야 하는지 여부를 판정하기 위해 구성 데이터를 획득할 수 있다. 구성 데이터가, 경고 콘텐츠가 디스플레이되어야 한다는 것을 나타내는 경우, 디바이스(500)는 도 8에 대해 전술된 바와 같이 경고 콘텐츠를 디스플레이할 수 있다. 구성 데이터가, 경고 콘텐츠가 디스플레이되어서는 안 된다는 것을 나타내는 경우, 디바이스(500)는 경고 콘텐츠로의 전이 없이 통지를 계속해서 디스플레이할 수 있다.
일부 실시예들에서, 디바이스(500)가 경고 콘텐츠의 자동 디스플레이를 (구성 데이터를 통해) 억제하도록 구성되는 경우, 디바이스(100)는 디스플레이된 통지 상에서 탭핑 또는 스와이프와 같은 접촉을 검출한 것에 응답하여 경고 콘텐츠를 여전히 디스플레이할 수 있다.
e. 오디오 콘텐츠를 포함하는 경고들
일부 수신된 경고들은 오디오 콘텐츠를 포함할 수 있다. 그러한 경고들은 음성 메일, 오디오, 또는 "푸시 투 토크(push to talk)" 메시지들을 포함할 수 있다. 일부 실시예들에서, 도 9에 도시된 바와 같이, 디스플레이된 경고 콘텐츠는 오디오 콘텐츠를 재생하기 위한 재생 어포던스(902)를 포함할 수 있다. 재생 어포던스(902)의 선택을 검출한 것에 응답하여, 디바이스(500)는 오디오 콘텐츠를 재생할 수 있다. 일부 실시예들에서, 오디오 콘텐츠가 라이브 오디오 대화의 일부로서 수신되고(예컨대, 디바이스가 "푸시 투 토크" 모드에서 동작하고 있고) 그리고 사용자가 재생 어포던스를 선택하는 경우, 디바이스(500)는 어포던스의 선택에 응답하여 초기 오디오 메시지를 재생할 수 있고, 디바이스(500)는 어포던스의 후속 선택들을 필요로 하지 않은 상태로 후속의 오디오 메시지들이 수신됨에 따라 이들을 라이브로 재생할 수 있다.
f. 텍스트 메시지 경고들
일부 실시예들에서, 경고가 텍스트 메시지인 경우, 사용자는 경고와 연관된 텍스트 메시지 대화를 보기를 원할 수 있다. 도 10은 텍스트 메시지 경고를 수신한 후에 디바이스(500)가 디스플레이할 수 있는 스크린들의 시퀀스를 도시한다. 이러한 시퀀스는 도 8에 도시된 시퀀스와 유사하고, 발신자 Jason Jones로부터 수신된 텍스트 메시지에 대응하는 통지(606) 및 경고 콘텐츠(804)를 디스플레이하는 것을 도시한다. 그러나, 이러한 예에서, 스크린(802)을 디스플레이하는 동안, 디바이스(500)는 터치 스크린(504) 상에의 접촉을 검출한다. 접촉은, 예를 들어 애플리케이션 어포던스(608)에 대응하는 위치에서의 터치 스크린(504) 상에의 터치 또는 탭핑, 또는 터치 스크린(504) 상에의 수평 스와이프일 수 있다. 터치 스크린(504)과의 접촉을 검출한 것에 응답하여, 디바이스(500)는 스크린(1002)을 디스플레이할 수 있다.
스크린(1002)은 사용자와 텍스트 메시지 경고의 소스 사이의 텍스트 메시지 대화 중 일부 또는 전부를 포함한다. 이러한 예에서, 텍스트 메시지 대화는 Jason Jones에게 전송되고 그로부터 수신된 텍스트 메시지들을 포함한다. 일부 실시예들에서, 텍스트 메시지 대화 중의 텍스트 메시지들은 그들이 수신 또는 전송된 순서에 기초하여 연대순으로 배열된다.
g. 응답 옵션들
일부 경우들에 있어서, 통지 또는 경고 콘텐츠를 볼 때, 사용자는 경고에 대응하기를 원할 수 있다. 디바이스(500)가 상대적으로 작은 터치 스크린을 갖는 축소된 크기의 디바이스이기 때문에, 셀룰러폰들과 같은 더 큰 디바이스들 상에서의 경고들에 대응하기 위해 사용될 수 있는 사용자 인터페이스들은 터치 스크린(504) 상에서 비효율적일 수 있고/있거나 부자연스러울 수 있다. 사용자는 축소된 크기의 디바이스 상에서는 어렵거나 불만스러울 수 있는 상대적으로 정교한 터치 스크린 입력들의 시퀀스를 제공할 필요 없이 경고에 대응할 수 있기를 원할 수 있다. 따라서, 일부 실시예들에서, 디바이스(500)는 사용자가 축소된 크기의 스크린 상에서 더 신속하고 용이하게 경고들에 대응할 수 있게 하는 사용자 인터페이스들을 제공할 수 있다.
전술된 바와 같이, 디바이스(500)는 터치 스크린(504) 상에의 접촉을 검출한 것에 응답하여, 또는 일부 실시예들에서, 회전가능 입력 메커니즘의 회전에 응답하여 경고 콘텐츠를 스크롤할 수 있다. 일부 실시예들에서, 사용자가 경고 콘텐츠의 저부(콘텐츠의 말미)를 넘어서 스크롤하고자 시도하는 경우, 디바이스(500)는 경고와 연관된 애플리케이션에 의해 수행될 수 있는 동작들과 연관되어 있는 사용자 인터페이스 객체들을 디스플레이함으로써 응답할 수 있다.
예를 들어, 도 11은 경고를 수신한 것에 응답하여 디바이스(500)가 디스플레이할 수 있는 스크린들의 시퀀스를 도시한다. 이들 스크린들은 도 4에 대해 기술된 것들과 유사하다. 경고 콘텐츠(804)의 저부를 디스플레이하는 동안(이 경우, 경고 콘텐츠는 텍스트 메시지임), 디바이스(500)는 경고 콘텐츠의 저부를 넘어서 스크롤할 것을 요청하는 사용자 입력; 즉, 경고 콘텐츠를 상향으로 이동시켜서 더 많은 경고 콘텐츠를 디스플레이할 것을 요청하는 사용자 입력을 검출한다. 사용자 입력은, 예를 들어, 터치 스크린(504) 상에의 상향 스와이프, 또는 회전가능 입력 메커니즘의 회전일 수 있다. 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 통지(606) 및 경고 콘텐츠(804)를 상향으로 스크롤할 수 있고, 터치 스크린(504) 상에서 사용자 인터페이스 객체들(1112, 1114)을 경고 콘텐츠 아래로 스크롤할 수 있다. 이러한 예에서, 통지(606)는 터치 스크린(504)의 상부로부터 스크롤되고, 더 이상 디스플레이되지 않는다.
도 11의 예에서, 경고는 텍스트 메시지이다. 따라서, 이러한 실시예에서, 터치 스크린(504) 상에서 스크롤되는 사용자 인터페이스 객체들(1112, 1114)은 텍스트 메시지 애플리케이션에 대응하는 동작들과 연관된다. 구체적으로, 사용자 인터페이스 객체(1112)는 답신하기 동작과 연관되고, 사용자 인터페이스 객체(1114)는 무시하기 동작과 연관된다. 다른 타입들의 경고들의 경우, 터치 스크린(504) 상에서 스크롤되는 사용자 인터페이스 객체들은 상이할 수 있다. 예를 들어, 캘린더 초대의 경우, 동작들은 승낙하기 또는 거부하기를 포함할 수 있다. 음성 메일 경고의 경우, 동작들은 답신 전화 또는 전송 메시지를 포함할 수 있다. 일부 실시예들에서는, 2개 초과의 디스플레이되는 사용자 인터페이스 객체들이 있을 수 있다.
일부 실시예들에서, 무시하기 동작과 연관된 사용자 인터페이스 객체(1114)의 선택을 검출한 것에 응답하여, 도 8에 대해 전술된 바와 같이, 디바이스(500)는 경고를 무시할 수 있다.
일부 실시예들에서, 답신하기 동작과 연관된 사용자 인터페이스 객체(1112)의 선택을 검출한 것에 응답하여, 디바이스(500)는 스크린(1120)을 디스플레이할 수 있다. 스크린(1120)은 텍스트 메시지에 답신하기 위한 옵션들에 대응하는 여러 개의 사용자 인터페이스 객체들(1122, 1124, 1126, 1128)을 포함한다. 이러한 예에서, 답신하기 옵션들은 "Smart Reply"(스마트 리플라이), "Emoji"(이모지), "Dictate"(구술하기), 및 "KB"(키보드)를 포함한다. 그러한 답신하기 옵션들은 2014년 9월 2일자로 출원되고 발명자의 이름이 Nicholas Zambetti인 미국 가특허 출원 제62/044,923호 "Historical Buttons for Input Methods"; 2015년 3월 3일자로 출원되고 발명자의 이름이 Nicholas Zambetti인 미국 가특허 출원 제62/127,800호 "Historical Buttons for Input Methods"; 및 2015년 3월 8일자로 출원되고 발명자의 이름이 Nicholas Zambetti인 미국 가특허 출원 제62/129,903호 "Historical Buttons for Input Methods"에 기재된 바와 같은 기능을 포함할 수 있다. 이들 출원들은 그 전체가 참고로 포함된다.
"Smart Reply"에 대응하는 사용자 인터페이스 객체(1122)의 선택을 검출한 것에 응답하여, 디바이스(500)는 스마트 리플라이 스크린(1130)을 디스플레이할 수 있다. 스마트 리플라이 스크린(1130)은 사전정의된 응답 메시지(1132, 1134, 1136)를 선택하기 위한 사용자 인터페이스를 포함한다. 일부 실시예들에서, 사전정의된 응답 메시지들의 콘텐츠는 디바이스(500)에 의해 디폴트로서 제공될 수 있거나, 또는 사용자에 의해 맞춤화될 수 있다. 일부 실시예들에서, 사전정의된 응답 메시지들의 콘텐츠는 디바이스(500)에 의해 외부 디바이스로부터 수신될 수 있다.
사전정의된 응답 메시지(1132, 1134, 1136)의 선택을 검출한 것에 응답하여, 디바이스(500)는 사전정의된 응답 메시지를 경고 소스로 전송할 수 있고, 메시지 전송 확인 스크린(1140)을 디스플레이할 수 있다. 사전결정된 시간 간격 동안 메시지 전송 확인 스크린(1140)을 디스플레이한 후, 디바이스(500)는 시계 문자판(212) 또는 홈 스크린을 디스플레이할 수 있다. 이러한 예에서, 시계 문자판(212)은 수신된 경고에 대응하는 판독되지 않은 경고의 표시를 포함하지 않는데, 그 이유는 경고 콘텐츠가 디스플레이되었기 때문이다.
스크린(1120)으로 되돌아가면, 디바이스(500)가 1122 대신 사용자 인터페이스 객체(1124)의 선택을 검출하는 경우, 디바이스(500)는 대답으로서 경고 소스로 전송할 이모지(예컨대, 이디오그램(ideogram), 클립아트, 또는 애니메이션)를 선택하기 위한 사용자 인터페이스를 디스플레이할 수 있다. 이모지의 선택을 검출한 것에 응답하여, 디바이스(500)는 경고의 소스로 선택된 이모지를 전송할 수 있고, 메시지 전송 확인 스크린(1140)을 디스플레이할 수 있다.
일부 실시예들에서, 선택 직후에 사전정의된 응답 또는 이모지를 전송하는 대신, 디바이스(500)는 확인 어포던스를 디스플레이할 수 있다. 확인 어포던스의 선택을 검출한 것에 응답하여, 디바이스(500)는, 전술된 바와 같이, 사전정의된 응답 또는 이모지를 전송할 수 있다.
일부 실시예들에서, 사용자 인터페이스 객체(1126)의 선택을 검출한 것에 응답하여, 디바이스(500)는 디바이스(500) 상의 마이크로폰으로부터의 오디오 입력을 기록할 수 있고, 대답으로서 기록된 오디오에 대응하는 데이터를 소스로 전송할 수 있다. 일부 실시예들에서, 기록된 오디오는 오디오 메시지 데이터로서 전송될 수 있다. 다른 실시예들에서, 기록된 오디오는 디바이스(500)에 의해 전사(transcribe)될 수 있고, 전사 데이터로서 전송될 수 있다. 일부 실시예들에서, 오디오 기록을 표현하는 데이터를 소스로 지체 없이 전송하는 대신, 디바이스(500)는, 선택 시, 디바이스(100)가 오디오에 대응하는 데이터를 소스로 전송하게 하는 전송 어포던스와 함께, 터치 스크린(504) 상에 기록된 오디오의 표시를 디스플레이할 수 있다.
일부 실시예들에서, 사용자 인터페이스 객체(1128)의 선택을 검출한 것에 응답하여, 디바이스(500)는 사용자가 경고에 대한 응답을 타이핑할 수 있게 하는 가상 키보드를 디스플레이할 수 있다.
도 12a에 도시된 바와 같이, 일부 실시예들에서, 터치 스크린(504) 상에서 사용자 인터페이스 객체들(1112, 1114)을 스크롤업(scroll up)한 후, 사용자 인터페이스 객체(1114)의 저부를 지나쳐서 스크롤할 것을 요청하는 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 터치 스크린(504) 상에서 답신하기 옵션들을 표현하는 사용자 인터페이스 객체들(1202, 1204, 1206, 1208)을 사용자 인터페이스 객체들(1112, 1114) 아래로 스크롤할 수 있다. 이들 답신하기 옵션들은 도 11에 대해 전술된 2개의 사전정의된 응답 메시지들(1202, 1204), 및 구술하기(1208) 및 이모지(1206) 옵션들을 포함한다. 답신하기 옵션들(1202, 1204, 1206, 1208) 중 하나의 옵션의 선택을 검출한 것에 응답하여, 디바이스(500)는 도 11에 대해 기술된 바와 같이 응답할 수 있다.
도 12b에 도시된 바와 같이, 일부 실시예들에서, 사용자 인터페이스 객체들(1112, 1114)을 경고 콘텐츠의 저부 아래로 스크롤업하는 대신, 디바이스(500)는 스크린 상에서 사용자 인터페이스 객체들(1202, 1204, 1206, 1208)을 경고 콘텐츠의 저부 아래로 스크롤할 수 있다. 이러한 예에서, (상향 스와이프와 같은) 경고 콘텐츠(804)의 저부를 지나쳐서 스크롤할 것을 요청하는 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 터치 스크린(504) 상에서 이들 답신하기 옵션들을 경고 콘텐츠의 저부 아래로 스크롤한다.
도 12c는, 도 11 내지 도 12b를 참조하여 전술된 바와 같이, "Smart Reply"들을 사용하기 위한 인터페이스의 일부로서 디바이스(500)에 의해 디스플레이될 수 있는 예시적인 애니메이션을 도시한다. 스크린(1210) 상에서, 디바이스(500)는 답신하기 동작과 연관된 경고(예컨대, 텍스트 메시지(1212)) 및 사용자 인터페이스 객체(1214)를 디스플레이한다. 답신하기 동작과 연관된 사용자 입력(예컨대, 사용자 인터페이스 객체(1214)의 위치에서의 터치 스크린(504) 상에의 터치)을 수신한 것에 응답하여, 디바이스(500)는 복수의 사전정의된 응답 메시지들의 애니메이션화된 공개(reveal)를 디스플레이할 수 있다. 예를 들어, 도 12c에 도시된 바와 같이, 스크린(1220)은 먼저 사전정의된 응답 메시지들에 대응하는 사용자 인터페이스 객체들(1222, 1224)을 디스플레이한다. 사용자 인터페이스 객체들(1222, 1224)은, 화살표(1226)로 나타낸 바와 같이, 스크린(1220)의 저부에서 보이도록 애니메이션화되고, 상향 방향으로 스크린 상(on-screen)에서 병진한다. 애니메이션화된 공개의 과정에 걸쳐서, 사용자 인터페이스 객체들(1222, 1224)은, 사용자 인터페이스 객체들(1228, 1230, 1232)이 스크린(1220) 상에서 아래에 보임에 따라 스크린(504)의 상측으로 병진한다. 사용자 인터페이스 객체(1228)는 제3 사전정의된 응답 메시지를 나타내는 반면, 사용자 인터페이스 객체(1230)는 이모지 응답을 나타내고, 사용자 인터페이스 객체(1232)는 구슬 응답을 나타낸다.
사용자는 사전결정된 응답 메시지 또는 다른 응답 옵션(예컨대, 이모지 또는 구술)의 선택을 나타내는 사용자 입력을 제공할 수 있다. 예를 들어, 사용자는 사용자 인터페이스 객체(1228)의 위치에서 터치 스크린(504) 상에의 터치를 제공할 수 있다. 사전결정된 응답 메시지 또는 다른 응답 옵션의 선택을 나타내는 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 다른 사전결정된 응답 메시지 및 응답 옵션들(예컨대, 사용자에 의해 선택되지 않은 것들)의 디스플레이를 제거할 수 있다. 도 12c에 도시된 바와 같이, "Not sure"(확실하지 않습니다) 사전결정된 응답 메시지의 선택을 나타내는 사용자 입력(예컨대, 사용자 인터페이스 객체(1228))을 수신한 것에 응답하여, 디바이스(500)는 사용자 인터페이스 객체들(1222, 1224, 1230, 1232)의 디스플레이를 제거한다. 이어서, 디바이스(500)는, 화살표(1234)로 나타낸 바와 같이, 선택된 사전결정된 응답 메시지를 잠깐 일시정지하도록, 이어서 스크린(1220)으로부터 병진하여 사라지도록 애니메이션화할 수 있다. 디스플레이된 사전결정된 응답 메시지/다른 응답 옵션의 일시정지, 병진, 및 제거 후, 디바이스(500)는 시계 문자판(212) 또는 홈 스크린과 같은 제2 사용자 인터페이스 스크린(예컨대, 스크린(1240))을 디스플레이할 수 있다. 예를 들어, 사용자 인터페이스 객체(1224)가 스크린(1220)으로부터 병진한 후, 디바이스(500)는 페이드인(fading in)함으로써, 포커스 이탈(out-of-focus)로부터 포커스 맞춤(in-focus)으로 전이함으로써, 등등으로써 스크린(1240)을 공개할 수 있다. 디바이스(500)는, 또한, 선택된 사전결정된 응답 메시지를 경고 소스로 전송할 수 있다.
디바이스(500)는 사용자가 다른 타입들의 경고들에 응답할 수 있도록 하는 다른 응답 옵션들을 디스플레이할 수 있다. 예를 들어, 도 13a 및 도 13b는 디바이스(500)가 터치 스크린(504) 상에 디스플레이하여 사용자가 시계 알람 경고 또는 소셜 미디어 "Friend Request"(친구 요청) 경고에 응답할 수 있게 하는 스크린들의 예시적인 시퀀스들을 도시한다. 도 13a에 도시된 예에서, 디바이스(500)는 시계 알람 경고를 수신하고, 인지적 출력을 발한다. 인지적 출력 후의 사전결정된 시간 간격 내에 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 시계 알람 경고에 대응하는 통지(1304)를 포함하는 스크린(1302)을 디스플레이한다. 통지(1304) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 응답 스크린(1330)을 디스플레이한다. 접촉은 통지(1304)가 디스플레이되는 동안의 터치 스크린(504) 상에서의 상향 스와이프일 수 있다. 이러한 접촉에 응답하여, 디바이스(500)는 스크린(1330)을 디스플레이한다. 이러한 경우에 있어서, 응답 옵션들은 "Snooze"(스누즈)(1306) 및 "Dismiss"(무시하기)(1308)를 포함한다.
도 13b에 도시된 예에서, 디바이스(500)는 소셜 미디어 애플리케이션으로부터 "Friend Request" 경고를 수신하고, 인지적 출력을 발한다. 인지적 출력 후의 사전결정된 시간 간격 내에 사용자 입력을 검출한 것에 응답하여, 디바이스(500)는 친구 요청 경고에 대응하는 통지(1312)를 포함하는 스크린(1310)을 디스플레이한다. 스크린(1310)을 디스플레이하는 동안의 터치 스크린(504)과의 접촉을 검출한 것에 응답하여, 디바이스(500)는 응답 스크린(1340)을 디스플레이한다. 접촉은, 예를 들어, 터치 스크린(504) 상에서의 상향 스와이프일 수 있다. 이러한 접촉을 검출한 것에 응답하여, 디바이스(500)는 스크린(1340)을 디스플레이한다. 이러한 경우에 있어서, 경고 응답 옵션들은 사용자가 친구 요청을 승낙 또는 거부할 수 있도록 하는 "Accept"(승낙하기)(1314) 및 "Deny"(거부하기)(1316)를 포함한다.
당업자는 다른 타입들의 경고들에 대해 많은 다른 응답 옵션들이 가능하다는 것을 인식할 것이다.
도 8 내지 도 11에 도시된 이전의 예들에서, 통지를 디스플레이하는 동안에 터치 스크린(504) 상에서의 상향 스와이프에 응답하여, 디바이스(500)가 수신된 경고와 연관된 경고 콘텐츠를 디스플레이한다는 것에 유의해야 한다. 그러나, 도 13a 및 도 13b에 도시된 예들에서, 수신된 경고들은 연관된 경고 콘텐츠를 갖지 않는다. 일부 실시예들에서, 수신된 경고가 경고 콘텐츠를 갖지 않는 경우, 디바이스(500)는 경고 콘텐츠를 디스플레이하는 것에 의해서가 아니라 응답 옵션들을 디스플레이하는 것에 의해서 통지를 디스플레이하는 동안에 터치 스크린(504) 상에의 접촉(예컨대, 상향 스와이프 또는 탭핑)에 응답할 수 있다.
전술된 바와 같이, 일부 실시예들에서, 디바이스(500)는 터치 스크린(504) 상에의 접촉들의 세기를 (예컨대, 세기 센서(524)를 사용하여) 검출할 수 있다. 이어서, 디바이스(500)는 접촉의 세기에 기초하여 터치 스크린(504) 상에의 접촉들에 응답할 수 있다. 도 11로 잠시 되돌아가면, 일부 실시예들에서, 경고 콘텐츠(804)를 디스플레이하는 동안, 임계 세기 초과인 특성 세기를 갖는 터치 스크린(504)과의 접촉을 검출한 것에 응답하여, 디바이스(500)는 사용자 인터페이스 객체들(1122, 1124, 1126, 1128) 중 일부 또는 전부를 디스플레이할 수 있다.
일부 실시예들에서, 사용자는, 전술된 바와 같이 경고 콘텐츠의 저부를 넘어서 스크롤함으로써, 또는 임계 세기 초과인 특성 세기로 터치 스크린(504)을 터치(예컨대, 세기 센서(524)에 의해 검출된, 예컨대 터치 스크린(504) 상에의 강하게 누르기)함으로써, 사용자 인터페이스 객체들(1122, 1124, 1126, 및/또는 1128)에 액세스할 수 있다.
도 14는 디바이스(500)에 의해 디스플레이되어 사용자가 수신된 경고에 응답할 수 있게 할 수 있는 스크린들의 다른 시퀀스를 도시한다. 이러한 예에서, 경고 콘텐츠(804)를 디스플레이하는 동안, 디바이스(500)는 임계 세기 초과인 특성 세기를 갖는 터치 스크린(504)과의 접촉을 검출한다. 임계치 이상의 특성 세기를 갖는 접촉을 검출한 것에 응답하여, 디바이스(500)는 응답 스크린(1402)을 디스플레이할 수 있다.
응답 스크린(1402)은 4개의 응답 옵션들에 대응하는 4개의 사용자 인터페이스 객체들(1404, 1406, 1408, 1414)을 포함한다. 사용자 인터페이스 객체(1404)의 선택을 나타내는 입력을 검출한 것에 응답하여, 디바이스(500)는, 도 11에 대해 도시 및 기술된 바와 같이, 스크린(1120)을 디스플레이할 수 있다.
사용자 인터페이스 객체(1406)의 선택을 검출한 것에 응답하여, 디바이스(500)는 경고를 무시할 수 있고, 시계 문자판 또는 홈 스크린을 디스플레이할 수 있다.
사용자 인터페이스 객체(1408)의 선택을 검출한 것에 응답하여, 디바이스(500)는 (예컨대, 경고를 수신한 것에 응답하여 인지적 출력을 야기하지 않음으로써 그리고/또는 어떠한 새로운 통지들도 디스플레이하지 않음으로써) 후속 경고들을 무기한으로 또는 사전결정된 기간 동안 억제할 수 있다.
일부 실시예들에서, 사용자 인터페이스 객체(1410)의 선택을 검출한 것에 응답하여, 디바이스(500)는 수신된 경고와 연관된 애플리케이션을 론칭시킬 수 있고, 애플리케이션 내의 경고를 볼 수 있다. 애플리케이션을 론칭시키는 것은 디바이스(500)의 전경에 애플리케이션을 실행시키는 것 및/또는 터치 스크린(504) 상에 애플리케이션을 디스플레이하는 것에 대응할 수 있다. 이러한 예에서, 경고가 텍스트 메시지이므로, 디바이스(500)는 텍스트 메시지 애플리케이션을 론칭시킬 수 있다. 다른 예들에서, 수신된 경고에 따라서, 론칭된 애플리케이션은 이메일 애플리케이션, 캘린더 애플리케이션, 날씨 애플리케이션, 소셜 네트워크 애플리케이션, 또는 일부 다른 타입의 애플리케이션일 수 있다. 애플리케이션을 론칭시킨 후, 하드웨어 버튼의 누르기 또는 회전가능한 누름가능 메커니즘의 누르기를 검출한 것에 응답하여(어느 하나 또는 양측 모두가, 도 5a에 도시된 바와 같이, 디바이스(500) 상에 존재하는 경우), 디바이스는 애플리케이션을 종료할 수 있고, 홈 스크린을 디스플레이할 수 있다.
도 14에 도시된 예에서, 응답 스크린(1402)은 텍스트 메시지 또는 이메일 경고에 응답하는 데 적절한 사용자 인터페이스 객체들(1404, 1406, 1408, 1410)을 포함한다. 그러나, 도 12a 및 도 12b에 대해 전술된 바와 같이, 응답 스크린은 상이한 타입들의 경고들에 응답하는 데 적절한 상이한 사용자 인터페이스 객체들을 가질 수 있다. 예를 들어, 경고가 시계 알람인 경우, "Reply"(답신하기) 옵션(1404) 대신, 응답 스크린은 "Snooze" 옵션을 제공할 수 있다. 다른 예로서, 경고가 오디오 메시지인 경우, 응답 스크린은 사용자가 오디오 메시지를 재생할 수 있도록 하는 "재생" 옵션을 제공할 수 있다. 일부 실시예들에서, 응답 스크린은 "전화에서 열기(open in phone)" 옵션을 제공할 수 있다. "전화에서 열기" 옵션의 선택을 검출한 것에 응답하여, 디바이스(500)는 외부 전자 디바이스가 경고와 연관된 애플리케이션을 론칭시키게 하는 데이터를 셀룰러폰과 같이 디바이스(500)와 통신하는 외부 전자 디바이스로 전송할 수 있다.
도 13a, 도 13b, 및 도 14에 대해 기술된 응답 인터페이스들이 디바이스(500) 상에서 실행되고 있을 수 있거나 또는 실행되고 있지 않을 수도 있는 연관된 애플리케이션의 일부가 아니고; 대신, 응답 인터페이스들이 경고 사용자 인터페이스의 일부라는 것에 유의해야 한다. 일부 실시예들에서, 디바이스(500)와 통신하는 외부 전자 디바이스 상에서 실행하는 애플리케이션에 대한 응답 옵션들을 제3자가 공급할 수 있다.
2. 다수의 경고들의 관리
일부 실시예들에서, 디바이스(500)는 다수의 경고들을 수신할 수 있고, 다수의 연속적 통지들을 디스플레이할 수 있다.
도 15는 다수의 경고들을 수신한 것에 응답하여 디바이스(500)에 의해 디스플레이될 수 있는 스크린들의 시퀀스를 도시한다. 이전의 예들에서와 같이, 초기에, 터치 스크린(504)은 다크 또는 비활성 상태일 수 있다. 제1 경고를 수신한 것에 응답하여, 디바이스(500)는 제1 인지적 출력(602)을 발한다. 제1 인지적 출력(602) 후의 제1 시간 간격 내에 사용자 입력을 수신한 것에 응답하여, 디바이스(500)는, 도 6a에 대해 이전에 도시 및 기술된 바와 같이, 제1 통지(606)를 디스플레이한다.
제1 통지를 디스플레이하는 동안, 디바이스(500)는 제2 경고를 수신한다. 제2 경고를 수신한 것에 응답하여, 디바이스(500)는 스크린(604)을 스크린(1502)으로 대체한다. 일부 실시예들에서, 제2 경고를 수신한 것에 응답하여, 디바이스(500)는, 또한, 제2 인지적 출력(1506)을 발할 수 있다. 스크린(1502)은 제2 수신된 경고를 표현하는 제2 통지(1504)를 포함한다. 이러한 예에서, 제2 수신된 경고는 발신자 Julia Smith로부터의 이메일이다. 제2 통지는, 도 8에 대해 전술된 것과 유사한 방식으로, 스크린 상에서 애니메이션화될 수 있다.
디바이스(500)는, 도 8에 대해 전술된 바와 같이, 무시 기준을 충족시키는 사용자 입력을 검출한 것에 응답하여 제2 통지(1504)를 무시할 수 있다. 제2 통지를 무시한 후, 디바이스(500)는 홈 스크린(706) 또는 시계 문자판(612)을 디스플레이할 수 있다. 도 15에 도시된 바와 같이, 홈 스크린 또는 시계 문자판은 제1 및 제2 경고에 대응하는 2개의 판독되지 않은 경고들의 표시를 포함할 수 있다. 도 15에서 시계 문자판(612) 상에 도시된 판독되지 않은 경고들의 표시자(614)는 도 6b에서 시계 문자판(612) 상에 도시된 판독되지 않은 경고의 표시자보다 더 크다는 것에 유의한다. 하기에 더 상세히 논의되는 바와 같이, 일부 실시예들에서, 표시자의 크기는 판독되지 않은 경고들의 개수의 표시를 제공할 수 있다.
도 16은 다수의 경고들을 수신한 것에 응답하여 디바이스(500)에 의해 디스플레이될 수 있는 스크린들의 다른 예시적인 시퀀스를 도시한다. 이러한 예에서, 디바이스(500)는, 도 8에 대해 전술된 바와 같이, 제1 경고를 수신하고, 제1 인지적 출력(602)을 발하며, 다양한 사용자 입력들에 응답하여 제1 통지(606) 및 제1 경고 콘텐츠(804)를 디스플레이한다.
제1 경고 콘텐츠(804)를 디스플레이하는 동안, 디바이스(500)는 이어서 정보를 포함하는 제2 경고를 수신한다. 제2 경고를 수신한 것에 응답하여, 디바이스(500)는 도 15에 대해 기술된 바와 같이 제2 통지(1504)를 갖는 스크린(1502)을 디스플레이할 수 있다. 일부 실시예들에서, 제2 경고를 수신한 것에 응답하여, 디바이스(500)는 제2 인지적 출력(1506)을 발할 수 있다. 디바이스(500)는, 도 8에 대해 전술된 바와 같이, 무시 기준을 충족시키는 사용자 입력들에 응답하여 제2 통지(1504)를 무시할 수 있다. 제2 통지(1504)를 무시한 후, 디바이스(500)는, 도 15에 대해 전술된 바와 같이, 시계 문자판(612) 또는 홈 스크린(706)을 디스플레이할 수 있다. 일부 실시예들에서, 시계 문자판(612) 또는 홈 스크린(706)을 디스플레이하는 대신, 디바이스(500)는 제2 통지(1504)를 무시한 후에 제1 경고 콘텐츠(804)를 리디스플레이(re-display)할 수 있다.
도 17은 디바이스(500)가 디스플레이할 수 있는 스크린들의 다른 시퀀스를 도시한다. 이러한 시퀀스는 도 16에 도시된 시퀀스와 유사하지만, 제2 통지(1504)를 무시하는 대신, 사용자는 제2 경고 콘텐츠를 보기를 원할 수 있다. 디바이스(500)는, 도 8에 대해 전술된 바와 같이, 제2 통지(1504)를 디스플레이하는 동안에 사용자 입력을 검출한 것에 응답하여 제2 경고 콘텐츠(1712)를 디스플레이할 수 있다. 이러한 예에서, 제2 경고 콘텐츠(1712)는 이메일 경고에 대한 제목란(1712)을 포함한다. 사용자 입력은, 예를 들어, 제2 통지 상에의 상향 스와이프 또는 탭핑일 수 있다.
도 17에 도시된 예에서, 제2 경고 콘텐츠(1712)를 본 후, 사용자는 제2 경고와 연관된 애플리케이션을 호출하기를 원할 수 있다. 일부 실시예들에서, 제2 경고 콘텐츠 또는 제2 경고 통지에 대응하는 위치에서 터치 스크린(504) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 제2 경고와 연관된 애플리케이션을 론칭시킬 수 있고 스크린(1714)을 디스플레이할 수 있다. 일부 실시예들에서, 애플리케이션 어포던스(1708)의 선택을 검출한 것에 응답하여, 디바이스(500)는 제2 경고와 연관된 애플리케이션을 론칭시킬 수 있고 스크린(1714)을 디스플레이한다.
이러한 예에서, 제2 경고와 연관된 애플리케이션은 이메일 애플리케이션이다. 따라서, 애플리케이션 어포던스(1708)의 선택을 검출한 것에 응답하여, 디바이스(500)는 이메일 애플리케이션을 론칭시킬 수 있다. 일부 실시예들에서, 디바이스(500)가 이러한 방식으로 경고와 연관된 애플리케이션을 론칭시키는 경우, 경고는, 스크린(1714)에 도시된 바와 같이, 애플리케이션 내에서 열린다.
애플리케이션을 론칭시켜서 본 후, 사용자는 홈 스크린으로 복귀하기를 원할 수 있다. 누름가능 하드웨어 버튼 또는 누름가능한 회전가능 입력 메커니즘일 수 있는 입력 버트(506)의 누르기를 검출한 것에 응답하여, 디바이스(500)는 홈 스크린(706)을 디스플레이할 수 있다. 이러한 예에서, 홈 스크린(706)은 제1 경고 및 제2 경고에 대응하는 판독되지 않은 경고들의 표시 없이 디스플레이되는데, 그 이유는 제1 경고 콘텐츠(804) 및 제2 경고 콘텐츠(1712)가 양측 모두 디스플레이되었기 때문이다.
도 18 내지 도 20은 디바이스(500)가 전술된 바와 같이 다수의 경고들을 수신한 것 및 입력들을 검출한 것에 응답하여 디스플레이할 수 있는 추가적인 스크린 시퀀스들을 도시한다.
도 18에 도시된 시퀀스에서, 디바이스(500)는, 도 17에 도시 및 기술된 바와 같이, 제1 경고를 수신하고 제1 통지를 디스플레이한다. 디바이스(500)는 제1 통지를 디스플레이하는 동안에 제2 경고를 수신한다. 제2 경고를 수신한 것에 응답하여, 디바이스(500)는 제2 통지를 디스플레이한다. 이러한 예에서, 사용자는, 도 16에 대해 전술된 바와 같이, 제2 통지를 무시한다. 제2 통지를 무시한 후, 디바이스(500)는 제1 통지를 리디스플레이한다. 이어서, 사용자는 제1 통지를 무시하고, 디바이스(500)는 홈 스크린을 디스플레이한다. 이러한 예에서, 홈 스크린에는 제1 및 제2 경고에 대응하는 2개의 판독되지 않은 경고들의 표시가 디스플레이된다.
도 19는 도 18과 유사하다. 그러나, 이러한 예에서, 디바이스(500)가 제1 통지를 디스플레이한 후, 도 18에 대해 전술된 바와 같이, 사용자는 디바이스(500)를 뷰잉 위치에 보유하고, 디바이스(500)는 제1 경고 콘텐츠를 디스플레이함으로써 대응한다. 제1 경고 콘텐츠를 디스플레이하는 동안, 디바이스(500)는 제2 경고를 수신하고, 제2 통지를 디스플레이한다. 사용자는 제2 통지를 무시하고, 이어서, 디바이스(500)는 제1 경고 콘텐츠를 리디스플레이한다. 사용자는 제1 경고 콘텐츠를 무시하고, 디바이스(500)는 홈 스크린(706)을 디스플레이한다. 이러한 예에서, 홈 스크린에는 제2 경고에 대응하는 1개의 판독되지 않은 경고의 표시가 디스플레이된다.
도 20은 도 15와 유사하다. 그러나, 제2 통지를 무시하는 대신, 사용자는 애플리케이션 어포던스(2002)를 탭핑하여 제2 경고와 연관된 애플리케이션을 론칭시킨다. 애플리케이션 어포던스(2002)의 선택을 검출한 것에 응답하여, 디바이스(500)는 애플리케이션을 론칭시키고, 애플리케이션 내의 제2 경고 콘텐츠를 디스플레이한다. 이어서, 사용자는 애플리케이션을 종료하며, 하드웨어 버튼 또는 누름가능한 회전가능 입력 메커니즘(506)을 누름으로써 홈 스크린(706)으로 복귀한다.
디바이스(500)는 다수의 통지들 또는 경고들을 보기 위한 다른 사용자 인터페이스들을 디스플레이할 수 있다. 도 21에 도시된 바와 같이, 일부 실시예들에서, 제1 경고를 표현하는 통지(606) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 통지(606)와 연관된 경고 콘텐츠(2106)의 일부분을 갖는 제1 페인(pane)(2104), 및 다른 수신된 경고들에 대한 다른 경고 콘텐츠를 나타내는 하나 이상의 추가적인 페인들(2108)의 일부분을 포함하는 스크린(2102)을 디스플레이할 수 있다. 일부 실시예들에서, 스크린(2102)은 디스플레이될 수 있는 다른 페인들의 개수의 표시 및 현재 디스플레이되는 페인의 위치를 사용자에게 제공하는 페이징 도트들(2110)을 포함할 수 있다. 터치 스크린(504) 상에서의 플릭 또는 스와이프를 검출한 것에 응답하여, 디바이스(500)는 다른 수신된 경고들에 대한 경고 콘텐츠를 디스플레이하도록 페인들을 스크롤할 수 있다.
일부 실시예들에서, 페인(2104) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 통지(606)와 연관된 전체 경고 콘텐츠(2120)를 포함하는 스크린(2114)을 디스플레이할 수 있다. 일부 실시예들에서, 스크린(2114)은 텍스트 메시지 대화에서의 다른 메시지들과 같은, 디스플레이될 수 있는 다른 메시지들의 표시를 사용자에게 제공할 수 있는 페이징 도트들(2118)을 추가로 포함한다. 일부 실시예들에서, 스크린(2114) 상의 페이징 도트들(2118)의 색상은 메시지의 타입을 나타낼 수 있다. 예를 들어, 현재 경고 콘텐츠(2120)를 포함하는 페인(2116)과 연관된 페이징 도트는 하나의 색상일 수 있지만, 답신 메시지들과 같은 다른 메시지들은 상이한 색상들의 페이징 도트들로 나타내질 수 있다.
3. 통지들의 무음화
일부 경우들에 있어서, 소스로부터 경고를 수신한 후, 사용자는 동일한 소스로부터의 경고들에 대한 후속의 인지적 출력들을 억제하고/하거나 동일한 소스로부터의 경고들을 표현하는 통지들의 디스플레이를 억제하기를 원할 수 있다. 즉, 사용자는 후속의 경고들이 동일한 소스로부터 수신되는 경우에 인지적 출력에 의해 통지받기를 원하지 않을 수도 있고/있거나, 터치 스크린(504) 상에 디스플레이되는 연관된 통지를 갖기를 원하지 않을 수도 있다. 도 22에 도시된 바와 같이, 디바이스(500)는 소스로부터의 경고를 수신할 수 있고, 통지(606)를 디스플레이할 수 있다. 이러한 예에서, 통지를 디스플레이하는 동안, 디바이스(500)는 임계 세기 초과인 특성 세기를 갖는 터치 스크린(504)과의 접촉을 검출한다. 임계 세기 초과의 특성 세기를 갖는 접촉을 검출한 것에 응답하여, 디바이스(500)는 동일한 소스로부터 수신된 후속의 경고들, 또는 동일한 애플리케이션과 연관된 경고들을 무음으로 하기 위한 무음 어포던스(2204)를 디스플레이할 수 있다. 무음 어포던스(2204)의 선택을 검출한 것에 응답하여, 디바이스(500)는 동일한 소스 또는 애플리케이션로부터 수신된 경고들에 대한 인지적 출력들 및 통지들을 무기한으로 또는 사전결정된 기간 동안 억제할 수 있다.
4. 그룹화된 통지들
일부 경우들에 있어서, 디바이스(500)는 다수의 경고들을 동시에 또는 단기간 내에 수신할 수 있다. 이는, 예를 들어, 디바이스(500)가 소정 기간 동안 턴오프된 경우에 발생할 수 있다. 디바이스(500)가 후속으로 턴온되는 경우, 그것은, 그렇지 않으면, 디바이스(500)가 턴오프되지 않은 경우에 수신되었을 모든 경고들을 수신할 수 있다. 이러한 경우에 있어서, 사용자는 다수의 연속적 통지들을 보고 무시해야 함으로써 귀찮아질 수 있다.
따라서, 일부 실시예들에서, 다수의 경고들을 수신한 것에 응답하여, 디바이스(500)는 각각의 수신된 경고에 대한 단일 통지를 디스플레이하는 대신에 다수의 경고들을 표현하는 단일의 그룹화된 통지를 디스플레이할 수 있다. 디바이스(500)는 그룹화 기준들에 기초하여 다수의 경고들을 표현하는 그룹화된 통지를 디스플레이할 것인지 여부를 판정할 수 있다. 예를 들어, 디바이스(500)는, 경고들이 사전결정된 시간 간격 내에 수신되는지 여부, 경고들이 동일한 소스로부터 수신되는지 여부, 경고들이 동일한 애플리케이션과 연관되는지 여부, 또는 이들 기준들의 일부 조합에 기초하여 단일 통지에 의해 표현에 대한 경고들을 그룹화할 수 있다. 일부 실시예들에서, 디바이스(500)는 시간에 민감한 경고들을 그룹화된 통지들 내에 포함되는 것으로부터 배제시킬 수 있고, 대신, 각각의 시간에 민감한 경고에 대한 단일 통지를 디스플레이할 수 있다. 그러한 시간에 민감한 경고들은, 예를 들어, 시스템 경고들(예컨대, 배터리 경고들) 또는 긴급 캘린더 리마인더들을 포함할 수 있다.
도 23a 내지 도 23c는 다수의 경고들을 표현하는 그룹화된 통지들(2302, 2304, 2306)의 예들을 도시한다. 도 23a 내지 도 23c에 도시된 바와 같이, 일부 실시예들에서, 디바이스(500)는, 단일 경고를 표현하는 통지를 디스플레이하는 경우와는 상이하게, 그룹화된 통지를 디스플레이하는 경우에 사용자 입력들에 응답할 수 있다. 예를 들어, 도 8에 대해 전술된 바와 같이, 단일 경고를 표현하는 통지 상에의 접촉(예컨대, 상향 스와이프)을 검출한 것에 응답하여, 디바이스(500)는 경고 콘텐츠를 디스플레이할 수 있다. 대조적으로, 다수의 경고들을 표현하는 그룹 통지 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는, (경고들이 모두 단일 애플리케이션과 연관되고, 애플리케이션이 받은편지함(inbox)을 갖는 경우) 다수의 경고들과 연관된 애플리케이션에 대한 받은편지함을 디스플레이할 수 있거나, 또는 그룹화된 경고에 의해 표현되었던 수신된 경고들 각각에 대한 개별 통지들을 포함하는 통지들의 리스트를 디스플레이할 수 있다. 도 23a 내지 도 23c는 그룹화된 통지 스크린들 및 사용자 입력들에 대한 응답들의 예들을 도시한다.
도 23a에 도시된 예시적인 스크린 시퀀스에서, 디바이스(500)는 동일한 소스 Jason Jones로부터 3개의 텍스트 메시지들을 수신하고, 텍스트 메시지들을 표현하는 그룹화된 통지(2302)를 디스플레이한다. 그룹화된 통지 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 수신된 메시지들의 리스트와 함께 Jason Jones에 대한 텍스트 메시지 받은편지함(2308)을 디스플레이할 수 있다. 접촉은, 예를 들어, 탭핑 또는 스와이프일 수 있다. 리스트에서의 메시지들 중 하나의 메시지의 선택을 검출한 것에 응답하여, 디바이스(500)는 연관된 경고 콘텐츠를 디스플레이할 수 있다.
도 23b에 도시된 예시적인 스크린 시퀀스에서, 디바이스(500)는 2개의 상이한 소스들 Chris Black과 Jason Jones로부터 2개의 경고들을 수신한다. 경고들은 양측 모두가 동일한 애플리케이션과 연관된다. 이러한 예에서, 애플리케이션은 텍스트 메시지 애플리케이션이다. 2개의 경고들을 수신한 것에 응답하여, 디바이스(500)는 2개의 경고들을 표현하는 그룹화된 통지(2304)를 디스플레이할 수 있다. 그룹화된 통지(2304) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 2개의 메시지들을 리스팅하는 텍스트 메시지 받은편지함(2310)을 디스플레이할 수 있다. 리스트에서의 메시지들 중 하나의 메시지의 선택을 검출한 것에 응답하여, 디바이스(500)는 연관된 경고 콘텐츠를 디스플레이할 수 있다.
또 다른 예에서, 도 23c에 도시된 바와 같이, 디바이스(500)는 다수의 애플리케이션들과 연관된 다수의 경고들을 수신한다. 디바이스(500)는 다수의 경고들을 표현하는 그룹화된 통지(2306)를 디스플레이할 수 있다. 그룹화된 통지(2306) 상에의 접촉을 검출한 것에 응답하여, 디바이스(500)는 그룹화된 통지에 의해 표현되었던 각각의 수신된 경고들에 대한 개별 통지들을 포함하는 통지들(2312)의 리스트를 디스플레이할 수 있다. 통지들 중 하나의 통지의 선택을 검출한 것에 응답하여, 디바이스(500)는 연관된 경고 콘텐츠를 디스플레이할 수 있다.
일부 실시예들에서, 그룹화 기준들을 충족시키는 다수의 경고들을 수신한 것에 응답하여, 디바이스(500)는 다수의 인지적 출력들을 발할 수 있다. 일부 실시예들에서, 그룹화 기준들을 충족시키는 다수의 경고들을 수신한 것에 응답하여, 디바이스(500)는 각각의 경고에 대한 인지적 출력을 발하는 대신 단일의 인지적 출력을 발할 수 있다.
5. 판독되지 않은 경고들의 표시
도 6b, 도 7, 및 도 15에 대해 전술된 바와 같이, 일부 예들에서, 디스플레이된 시계 문자판 또는 홈 스크린은 판독되지 않은 경고들의 표시를 제공하는 사용자 인터페이스 객체를 포함할 수 있다. 판독되지 않은 경고들은, 수신되었지만 사용자가 보지 않은 경고들에 대응할 수 있거나, 또는 사용자에 의해 "unread"(판독하지 않은)로 마킹된 경고들에 대응할 수 있다. 디바이스(500)는, 예를 들어, 경고 콘텐츠 중 일부 또는 전부가 터치 스크린(504) 상에 디스플레이되었는지 여부, 경고 콘텐츠가 터치 스크린(504) 상에 얼마나 오래동안 디스플레이되었는지, 경고와 연관된 임의의 오디오 콘텐츠가 재생되었는지 여부, 및/또는 경고 콘텐츠가 (예컨대, 사용자가 그의 손목을 들어올림을 나타내는 신호에 응답하여) 자동으로 또는 터치 스크린(504)과의 접촉에 응답하여 디스플레이되었는지 여부에 기초하여 경고를 보았는지 여부를 판정할 수 있다. 일부 실시예들에서, 경고가 임의의 경고 콘텐츠(예컨대, 시계 알람)를 포함하지 않는 경우, 디바이스(500)는 경고를 표현하는 통지가 디스플레이된 경우에 경고를 판독된 것으로 간주할 수 있다.
일부 실시예들에서, 디바이스(500)는 일시적 통지를 생성하는 경고를 수신할 수 있다. 그러한 통지는 오로지 사용자에게 상대적인 단기간 동안에 유용할 수 있다. 예를 들어, 사용자가 운동하는 중이고 (운동 중반부와 같이) 피트니스 마일스톤을 달성하는 경우, 디바이스(500)는 사용자에게 마일스톤을 통지하는 그러한 일시적 경고를 수신할 수 있다. 이러한 경우에 있어서, 사용자가, 디바이스(500)가 일시적 경고에 대한 인지적 출력을 발한 후의 사전결정된 시간 간격 내에 그의 손목을 들어올리는 경우, 디바이스(500)는 경고를 표현하는 통지를 디스플레이할 수 있다. 그러나, 사용자가 잠시 후에 그의 손목을 들어올리는 경우, 디바이스(500)는 시계 문자판 또는 홈 스크린을 디스플레이할 수 있고, 시계 문자판 또는 홈 스크린은 경고에 대응하는 판독되지 않은 경고의 표시를 포함하지 않을 수도 있는데, 그 이유는 경고가 더 이상 사용자에게 관련되지 않을 수 있기 때문이다.
도 7로 되돌아가면, 예시적인 홈 스크린(706)에서, 사용자 인터페이스 객체(708)는 판독되지 않은 경고들의 개수를 디스플레이함으로써 판독되지 않은 경고들의 표시를 제공한다. 다른 예들에서, 사용자 인터페이스 객체는, 예컨대 색상이 판독되지 않은 경고들의 개수의 표시를 제공하는 유색 배너(예컨대, 더 어두운 배너가 판독되지 않은 경고들이 더 많음을 나타냄)를 디스플레이함으로써, 판독되지 않은 경고들의 표시를 상이한 방식으로 제공할 수 있다. 일부 실시예들에서, 사용자 인터페이스 객체는 판독되지 않은 경고들의 개수의 어떠한 표시도 제공하지 않으면서 판독되지 않은 경고들이 있다는 표시를 제공할 수 있다.
일부 실시예들에서, 도 6b, 도 6c, 및 도 15에 도시된 바와 같이, 디바이스(500)는 표시(614)와 같은, 점, V형 무늬, 또는 다른 형상을 디스플레이함으로써, 판독되지 않은 경고(들)의 표시를 제공할 수 있다. 일부 실시예들에서, 점, V형 무늬, 또는 다른 형상의 색상은 판독되지 않은 경고들의 존재를 나타낼 수 있는데; 예를 들어, 적색 형상은 판독되지 않은 경고들이 있음을 나타낼 수 있는 반면, 녹색 형상은 판독되지 않은 경고들이 없음을 나타낼 수 있다. 일부 실시예들에서, 형상은 판독되지 않은 경고들의 개수를 나타내는 빈도로 깜박일 수 있거나, 번쩍일 수 있거나, 또는 크기가 변동할 수 있다. 예를 들어, 더 높은 깜박임 빈도는 더 많은 판독되지 않은 경고들을 나타낼 수 있다. 일부 실시예들에서, 형상의 크기는 판독되지 않은 경고들의 개수의 표시를 제공할 수 있다. 예를 들어, 작은 형상은 (도 6b에서와 같이) 단일의 판독되지 않은 경고를 나타낼 수 있지만, 더 큰 형상은 (도 15에서와 같이) 더 많은 판독되지 않은 경고들을 나타낼 수 있다. 당업자는 판독되지 않은 경고들의 개수를 나타내는 것에 대한 이들 접근법들이 많은 상이한 방식들로 조합될 수 있다는 것을 이해할 것이다.
일부 실시예들에서, 형상의 디스플레이는 일정한 효과를 포함한다. 예를 들어, 형상은 터치 스크린(504) 상의 위치로 페이드인하거나 슬라이드할 수 있다(예컨대, 스크린의 상부 에지로부터 슬라이딩할 수 있다). 선택적으로, 효과는 애니메이션화된다. 일부 실시예들에서, 효과는 사용자 입력(예컨대, 사용자가 그의 또는 그녀의 손목을 들어올리는 것)에 응답하여 수행된다.
일부 실시예들에서, 형상의 디스플레이는 제거 기준들에 따라 제거된다. 예를 들어, 형상은 그것이 사전결정된 기간 동안에 또는 사용자 입력(예컨대, 사용자가 그의 또는 그녀의 손목을 내리는 것)에 응답하여 디스플레이된 후에 제거될 수 있다. 일부 실시예들에서, 형상의 제거는 일정한 효과를 포함한다. 예를 들어, 형상은 터치 스크린(504)으로부터 페이드아웃하거나 슬라이드할 수 있다(예컨대, 스크린의 상부 에지로부터 슬라이드할 수 있다). 선택적으로, 형상의 제거는 애니메이션화된다.
전술된 판독되지 않은 경고의 표시와 연관된 특징들 및/또는 효과들은 판독되지 않은 경고가 있음을 사용자에게 나타낼 수 있다. 예를 들어, 표시의 외양 또는 크기 변동의 애니메이션은 판독되지 않은 경고가 있다는 사실로 사용자의 주의를 돌릴 수 있다.
또한, 일부 형상들이 추가적인 기술적 효과들을 제공할 수 있다. 일부 실시예들에서, 화살표, 삼각형, V형 무늬(예컨대, 도 6c의 614), 또는 방향 표지를 제공하는 다른 그래픽 객체는 사용자에게 입력이 디바이스(500)로 하여금, 판독되지 않은 경고와 연관된 동작을 수행하게 할 것이라는 시각적 큐를 제공할 수 있다. 예를 들어, 도 6c에 도시된 V형 무늬(614)와 같은, 방향의 표시를 제공하는 그래픽 객체는, 객체가 나타내고 있는 방향(예컨대, 도 6c에서의 V형 무늬(614)의 경우에 하향)으로의 터치 스크린(504) 상에서의 스와이프, 드래깅, 또는 플릭이 디바이스(500)로 하여금, 판독되지 않은 경고와 연관된 동작을 수행하게 할 것이라는 것을 사용자에게 나타낼 수 있다. 일 실시예에서, 방향성 객체가 지적하고 있는 방향으로의 스와이프는 디바이스(500)로 하여금, 예를 들어 도 8에서의 스크린(802) 상의 경고 콘텐츠(804)와 같은 판독되지 않은 경고의 콘텐츠를 디스플레이하게 한다. 다른 실시예에서, 객체에 의해 나타내진 방향으로의 스와이프는 디바이스(500)로 하여금, 예를 들어 도 6a에서의 통지(606)와 같은 경고의 통지를 디스플레이하게 한다. 또 다른 실시예에서, 객체에 의해 나타내진 방향으로의 스와이프는 디바이스(500)로 하여금, 판독되지 않은 경고의 통지를 포함할 수 있는 하나 이상의 통지들의 리스트를 디스플레이하게 하거나, 또는 판독되지 않은 경고에 대응하는 애플리케이션을 론칭시키게 한다. 예를 들어, 디바이스(500)는, 2014년 9월 2일자로 출원된 공계류 중인 미국 가특허 출원 제62/044,953호 "Reduced-size Notification Interface"에 기재된 바와 같이 판독되지 않은 경고에 대응하는 애플리케이션을 론칭시킬 수 있거나 또는 다수의 통지들을 디스플레이할 수 있으며, 이 출원의 내용은 이로써 그 전체가 참고로 포함된다.
당업자는 판독되지 않은 경고를 나타내는 객체 또는 형상의 다양한 위치들 및 배향들이 가능하다는 것을 이해할 것이다. 예를 들어, 터치 스크린(504)의 저부에서의 표시는 상향 지시 화살표, 삼각형, V형 무늬, 또는 다른 그래픽 객체 - 다른 그래픽 객체는 판독되지 않은 경고가 있고 터치 스크린(504) 상에서의 상향 스와이프가 디바이스(500)로 하여금, 판독되지 않은 경고의 콘텐츠, 경고의 통지, 통지들의 리스트, 또는 경고들 및/또는 통지들과 연관된 다른 디스플레이를 디스플레이하게 할 것이라는 것을 나타내도록 하는 상향 방향 표시를 제공함 - 를 포함할 수 있다.
6. 이벤트의 리마인더와의 상호작용
일부 실시예들에서, 경고는 이벤트(예컨대, 파티, 미팅, 게임 등)와 연관된다. 경고 콘텐츠는 이벤트의 날짜, 시간, 및 위치와 같은, 이벤트와 연관된 정보를 포함할 수 있다. 일부 실시예들에서, 사용자가 이벤트에 도달하는 데 걸리는 시간의 양의 추정치에 기초하여 이벤트의 리마인더가 디스플레이된다. 시간의 추정량은 선택적으로 사용자의 위치 및 이벤트와 연관된 위치에 의존한다. 시간의 양은, 예를 들어, 지도 애플리케이션, 내비게이션 애플리케이션 등에 의해 생성되는 추정된 걷기, 바이킹, 대중 교통, 또는 주행 시간일 수 있다. 일부 실시예들에서, 리마인더는 사용자가 이벤트에 도달하는 데 걸릴 시간의 추정량만큼 이벤트의 시간 전에 디스플레이된다. 일부 실시예들에서, 리마인더는, 사용자가 이벤트에 도달하는 데 걸릴 시간의 추정량과, 제시간에 도착하기 위해 이벤트를 위해 떠날 준비를 하는 데 걸릴 시간을 사용자에게 부여하는 시간의 사전결정된 양의 합만큼 이벤트의 시간 전에 디스플레이된다.
일부 실시예들에서, 이벤트의 통지 또는 리마인더는 어포던스를 포함한다. 어포던스의 선택을 검출한 것에 응답하여, 디바이스(500)는 이벤트와 연관된 사람(예컨대, 이벤트의 구성자 또는 사용자를 이벤트에 초대한 사람)에게 어드레싱된 메시지를 준비하는 메시징 애플리케이션을 활성화시킬 수 있다. 이러한 방식으로, 사용자는 이벤트와 연관된 사람에게 사용자의 상태의 업데이트(예컨대, "나는 아직 떠나지 않았다. 나는 10분 내에 거기에 있을 것이다.")를 용이하게 제공할 수 있다. 일부 실시예들에서, 이벤트의 통지 또는 리마인더와 연관된 어포던스의 선택을 검출한 것에 응답하여, 디바이스(500)는 이벤트로 가는 길안내를 제공하거나 디스플레이하는 지도 애플리케이션, 내비게이션 애플리케이션 등을 활성화시킬 수 있다. 길안내는 사용자의 현재 위치로부터 이벤트와 연관된 위치로의 길안내를 포함할 수 있다.
7. 통지들 및 경고들을 관리하기 위한 프로세스들
도 25는 통지들 및 경고들을 관리하기 위한 프로세스(2500)를 예시한 흐름도이다. 프로세스(2500)는 디바이스(500)(도 5a)와 같은, 터치 감응형 디스플레이 스크린을 갖는 전자 디바이스에서 수행될 수 있다. 블록(2502)에서, 디바이스는 정보를 포함하는 경고를 수신한다. 블록(2504)에서, 경고를 수신한 것에 응답하여, 디바이스는 (예컨대, 햅틱 메커니즘(542)을 사용하여) 인지적 출력을 발한다. 블록(2506)에서, 디바이스는 사용자 입력을 검출한다. 블록(2508)에서, 사용자 입력을 검출한 것에 응답하여, 디바이스는 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 판정한다. 사용자 입력이 사전결정된 시간 간격 내에 수신되었다는 판정에 따라, 블록(2510)에서, 디바이스는 정보의 제1 부분을 포함하는 통지를 (예컨대, 상에) 디스플레이한다. 선택적으로, 디바이스는 사용자 입력이 통지를 디스플레이한 후의 제2 사전결정된 시간 간격 후에 계속해서 검출되는지 여부를 판정한다. 사용자 입력이 계속해서 검출된다는 판정에 따라, 디바이스는 제1 부분과는 상이한 정보의 제2 부분을 디스플레이한다.
프로세스(2500)(예컨대, 도 25 및 도 6a 내지 도 8)에 대해 전술된 프로세스들의 상세사항들은, 또한, 본 명세서에 기술된 다른 프로세스들에 유사한 방식으로 적용가능하다는 것에 유의한다. 예를 들어, 프로세스들(2600, 2700)은 프로세스(2500)를 참조하여 전술된 다양한 프로세스들의 특성들 중 하나 이상을 포함할 수 있다. 간결성을 위해, 이들 상세사항들은 다른 프로세스들의 설명에서 반복되지 않는다. 방법(2500)을 참조하여 전술된 다양한 방법들 및 기법들은, 선택적으로, 도 5b에 대해 기술된 것들과 같은 하나 이상의 하드웨어 유닛들로서 구현될 수 있다.
도 26은 통지들 및 경고들을 관리하기 위한 프로세스(2600)를 예시한 흐름도이다. 프로세스(2600)는 디바이스(500)(도 5a)와 같은, 터치 감응형 디스플레이 스크린을 갖는 전자 디바이스에서 수행될 수 있다. 블록(2602)에서, 디바이스는 복수의 경고들을 수신한다. 블록(2604)에서, 경고들을 수신한 것에 응답하여, 디바이스(500)는 복수의 경고들이 그룹화 기준을 충족시키는지 여부를 판정한다. 블록(2606)에서, 디바이스는 사용자 입력을 검출한다. 블록(2608)에서, 복수의 경고들이 그룹화 기준을 충족시킨다는 판정에 따라, 그리고 사용자 입력을 검출한 것에 응답하여, 디바이스는 복수의 경고들을 표현하는 그룹화된 통지를 디스플레이한다. 복수의 경고들이 그룹화 기준을 충족시키지 않는다는 판정에 따라, 그리고 사용자 입력을 검출한 것에 응답하여, 블록(2610)에서, 디바이스는 복수의 경고들을 표현하는 복수의 통지들을 디스플레이한다. 선택적으로, 그룹화 기준은 복수의 경고들이 동일한 소스로부터 수신되는지 여부; 복수의 경고들이 경고들의 수치 임계치를 초과하는지 여부; 복수의 경고들이 동일한 애플리케이션과 연관되는지 여부; 및/또는 복수의 경고들이 사전결정된 시간 간격 내에 수신되는지 여부에 기초한다.
프로세스(2600)(예컨대, 도 26 및 도 23)에 대해 전술된 프로세스들의 상세사항들은, 또한, 본 명세서에 기술된 다른 프로세스들에 유사한 방식으로 적용가능하다는 것에 유의한다. 예를 들어, 프로세스들(2500, 2700)은 프로세스(2600)를 참조하여 전술된 다양한 프로세스들의 특성들 중 하나 이상을 포함할 수 있다. 간결성을 위해, 이들 상세사항들은 다른 프로세스들의 설명에서 반복되지 않는다. 방법(2600)을 참조하여 전술된 다양한 방법들 및 기법들은, 선택적으로, 도 5b에 대해 기술된 것들과 같은 하나 이상의 하드웨어 유닛들로서 구현될 수 있다.
도 27은 통지들 및 경고들을 관리하기 위한 프로세스(2700)를 예시한 흐름도이다. 프로세스(2700)는 디바이스(500)(도 5a)와 같은, 터치 감응형 디스플레이 스크린을 갖는 전자 디바이스에서 수행될 수 있다. 블록(2702)에서, 콘텐츠를 디스플레이하는 동안, 디바이스는 정보를 포함하는 경고를 수신한다. 블록(2704)에서, 경고를 수신한 것에 응답하여, 디바이스(500)는 디스플레이를 가로질러서 통지 배너를 디스플레이한다. 배너는 정보의 일부분을 포함한다. 적어도 콘텐츠의 일부분은 디스플레이 상에 계속해서 디스플레이된다. 블록(2706)에서, 디바이스는 배너 상에의 접촉을 검출한다. 접촉을 검출한 것에 응답하여, 블록(2708)에서, 디바이스는 정보의 제2 부분을 디스플레이한다. 제2 부분은 제1 부분과는 상이하다.
프로세스(2700)(예컨대, 도 27 및 도 24)에 대해 전술된 프로세스들의 상세사항들은, 또한, 본 명세서에 기술된 다른 프로세스들에 유사한 방식으로 적용가능하다는 것에 유의한다. 예를 들어, 프로세스들(2500, 2600)은 프로세스(2700)를 참조하여 전술된 다양한 프로세스들의 특성들 중 하나 이상을 포함할 수 있다. 간결성을 위해, 이들 상세사항들은 다른 프로세스들의 설명에서 반복되지 않는다. 방법(2700)을 참조하여 전술된 다양한 방법들 및 기법들은, 선택적으로, 도 5b에 대해 기술된 것들과 같은 하나 이상의 하드웨어 유닛들로서 구현될 수 있다.
도 28의 유닛들은 도 25 내지 도 27에 대해 전술된 다양한 기법들 및 방법들을 구현하는 데 사용될 수 있다.
도 28에 도시된 바와 같이, 전자 디바이스(2800)는 사용자 인터페이스를 디스플레이하도록 구성된 디스플레이 유닛(2802), 및 선택적으로, 사용자 접촉들을 수신하도록 구성된 터치 감응형 표면 유닛(2804); 터치 감응형 표면 유닛과의 터치들의 세기를 검출하도록 구성된 하나 이상의 센서 유닛들(2806); 및 디스플레이 유닛(2802), 터치 감응형 표면 유닛(2804) 및 센서 유닛들(2806)에 커플링되는 프로세싱 유닛(2808)을 포함한다. 일부 실시예들에서, 프로세싱 유닛(2808)은 디스플레이 인에이블링 유닛(2810), 수신 유닛(2812), 및 판정 유닛(2814)을 포함한다.
일부 실시예들에서, 디스플레이 인에이블링 유닛(2810)은 디스플레이 유닛(2802)과 관련하여 통지, 경고 정보, 또는 사용자 인터페이스(또는 사용자 인터페이스의 부분들)의 디스플레이를 야기하도록 구성된다. 예를 들어, 디스플레이 인에이블링 유닛(2810)은, 통지를 디스플레이하고, 디스플레이 상에서 제1 통지를 제2 통지로 대체하고, 그리고 복수의 메시지 프로세싱 동작들 중 하나를 선택하기 위한 사용자 인터페이스를 디스플레이하는 데 사용될 수 있다.
일부 실시예들에서, 수신 유닛(2812)은 경고들, 데이터, 또는 정보를 수신하도록 구성된다. 예를 들어, 수신 유닛(2812)은 정보를 포함하는 경고를 수신하는 데 사용될 수 있다.
일부 실시예들에서, 판정 유닛(2814)은 판정을 내리도록 구성된다. 예를 들어, 판정 유닛(2814)은, 신호가 인지적 출력 후의 사전결정된 시간 간격 내에 수신되었는지 여부를 판정하고; 제2 접촉의 특성 세기가 임계 세기 초과인지 여부를 판정하는 데 사용될 수 있다.
도 29는 기술된 다양한 실시예들의 원리들에 따라 구성된 전자 디바이스(2900)의 기능 블록 다이어그램을 도시한다. 디바이스의 기능 블록들은, 선택적으로, 기술된 다양한 실시예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현된다. 기술된 다양한 실시예들의 원리들을 구현하기 위해 도 29에서 기술된 기능 블록들이, 선택적으로, 조합되거나 서브블록들로 분리된다는 것이 당업자에 의해 이해된다. 따라서, 본 명세서의 설명은, 선택적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능성있는 조합 또는 분리 또는 추가 정의를 지원한다.
도 29에 도시된 바와 같이, 전자 디바이스(2900)는 그래픽 사용자 인터페이스를 디스플레이하도록 구성된 디스플레이 유닛(2902), 햅틱 출력들을 발하도록 구성된 햅틱 메커니즘 유닛(2904), 및 디스플레이 유닛(2902) 및 햅틱 메커니즘 유닛(2904)에 커플링된 프로세싱 유닛(2908)을 포함한다. 일부 실시예들에서, 전자 디바이스는, 선택적으로, 터치 입력들을 수신하도록 구성되고 디스플레이 유닛(2902) 및 프로세싱 유닛(2908)에 커플링되는 터치 감응형 표면 유닛(2926)을 포함한다. 일부 실시예들에서, 전자 디바이스(2900)는, 선택적으로, 회전가능 및 누름가능 입력 유닛(2906), 마이크로폰 유닛(2926), 및 버튼 유닛(2928)을 포함한다. 일부 실시예들에서, 프로세싱 유닛(2908)은, 선택적으로, 수신 유닛(2910), 인지적 출력 인에이블링 유닛(2912), 검출 유닛(2914), 판정 유닛(2916), 디스플레이 인에이블링 유닛(2918), 론칭 유닛(2920), 전송 인에이블링 유닛(2922), 및 오디오 인에이블링 유닛(2924)을 포함한다.
프로세싱 유닛(2908)은 정보를 포함하는 경고를 (예컨대, 수신 유닛(2910)을 사용하여) 수신하도록, 그리고 경고를 수신한 것에 응답하여, 인지적 출력을 (예컨대, 인지적 출력 인에이블링 유닛(2912)을 사용하여) 인에이블시키도록 구성된다. 프로세싱 유닛(2908)은, 추가로, 사용자 입력을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 내에 검출되었는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록, 그리고, 사용자 입력이 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디스플레이 유닛(2902) 상에의 통지의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성되며, 여기서 통지는 정보의 제1 부분을 포함한다.
일부 실시예들에서, 인지적 출력을 인에이블시키는 것은 햅틱 메커니즘 유닛(2904)이 햅틱 출력을 발하게 하는 것을 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 후에 검출되었다는 판정에 따라, 시계 문자판의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성되며, 여기서 시계 문자판은 경고가 판독되지 않은 상태라는 표시를 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 사용자 입력이 인지적 출력 후의 사전결정된 시간 간격 후에 검출되었다는 판정에 따라, (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 디스플레이 유닛(2902) 상에의 홈 스크린의 디스플레이를 인에이블시키도록 구성되며, 여기서 홈 스크린은 복수의 애플리케이션들을 표현하는 복수의 사용자 인터페이스 객체들을 포함하고, 사용자 인터페이스 객체들은, 활성화 시, 대응하는 애플리케이션을 론칭시키고, 홈 스크린은 경고가 판독되지 않은 상태라는 표시를 포함한다.
일부 실시예들에서, 통지의 디스플레이를 인에이블시키는 것은 디스플레이 유닛(2902)을 비활성 상태로부터 활성화시키는 것을 포함한다. 일부 실시예들에서, 통지를 디스플레이하는 것은 홈 스크린의 디스플레이를 통지의 디스플레이로 대체하는 것을 포함한다. 일부 실시예들에서, 통지의 디스플레이를 인에이블시키는 것은 통지를 디스플레이 상에서 제1 방향으로 병진시키는 애니메이션의 디스플레이를 인에이블시키는 것을 포함한다.
일부 실시예들에서, 통지는 경고와 연관된 애플리케이션을 론칭시키기 위한 애플리케이션 어포던스를 포함하고, 프로세싱 유닛(2908)은, 추가로, 애플리케이션 어포던스의 선택을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 선택을 검출한 것에 응답하여, 경고와 연관된 애플리케이션을 (예컨대, 론칭 유닛(2920)을 사용하여) 론칭시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 경고를 수신한 것에 응답하여, 사용자 활동 레벨이 활동 기준을 충족시키는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록 구성되며, 여기서 인지적 출력을 발하는 것은 사용자 활동 레벨이 활동 기준을 충족시킬 때까지 지연된다.
일부 실시예들에서, 전자 디바이스는 터치 감응형 디스플레이 상에의(예컨대, 터치 감응형 표면 유닛(2926) 상에의) 접촉들의 세기를 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록 구성되고, 프로세싱 유닛(2908)은, 추가로, 통지가 디스플레이 유닛(2902) 상에 디스플레이되는 동안에 터치 감응형 디스플레이 상에의 접촉을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 접촉의 특성 세기가 임계 세기 초과인지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록 구성된다. 일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 접촉의 특성 세기가 임계 세기 초과라는 판정에 따라, 무음 기준을 충족시키는 하나 이상의 후속 경고들을 억제하기 위한 옵션의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 접촉의 특성 세기가 임계 세기 미만이라는 판정에 따라, 그리고 접촉이 애플리케이션 어포던스에 대응하는 터치 감응형 디스플레이 상의 위치에 있다는 판정에 따라, 경고와 연관된 애플리케이션을 (예컨대, 론칭 유닛(2920)을 사용하여) 론칭시키도록 구성된다. 일부 실시예들에서, 무음 기준은 경고의 소스에 기초한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 통지가 디스플레이되는 동안에 터치 감응형 디스플레이 상에의 제2 접촉을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 제2 접촉이 무시 기준을 충족시키는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록, 그리고 제2 접촉이 무시 기준을 충족시킨다는 판정에 따라, 디스플레이로부터 통지의 제거를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 제2 접촉은 제2 접촉이 스와이프를 포함하는 경우에 무시 기준을 충족시킨다. 일부 실시예들에서, 제2 접촉은 제2 접촉이 임계 거리를 초과하는 제2 접촉의 이동을 포함하는 경우에 무시 기준을 충족시킨다.
일부 실시예들에서, 통지의 디스플레이를 인에이블시키는 것은 통지를 디스플레이 유닛 상에서 제1 방향으로 병진시키는 애니메이션의 디스플레이를 인에이블시키는 것을 포함하고, 제2 접촉은 제2 접촉이 제1 방향의 반대인 제2 방향으로의 접촉의 이동을 포함하는 경우에 무시 기준을 충족시킨다.
일부 실시예들에서, 제2 접촉은 제2 접촉의 이동 및 제2 접촉의 해제를 포함하고, 프로세싱 유닛(2908)은, 추가로, 제2 접촉의 이동을 검출한 것에 응답하여, 제2 접촉의 이동에 따라 디스플레이 상에서의 통지의 슬라이딩을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록, 그리고 통지에 인접한 무시 표시자의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 선택적으로, 프로세싱 유닛(2908)은, 추가로, 제2 접촉이 무시 기준을 충족시킨다는 판정에 따라, 그리고 제2 접촉의 해제를 검출한 것에 응답하여, 디스플레이로부터의 무시 표시자 및 통지의 제거를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 선택적으로, 프로세싱 유닛(2908)은, 추가로, 제2 접촉이 무시 기준을 충족시키지 않는다는 판정에 따라, 그리고 제2 접촉의 해제를 검출한 것에 응답하여, 디스플레이 상의 그의 초기 위치로 통지를 도로 병진시키는 애니메이션의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록, 그리고 디스플레이로부터의 무시 표시자의 제거를 인에이블시키도록 구성된다.
일부 실시예들에서, 통지를 제거하는 것은 통지를 디스플레이로부터 제2 방향으로 병진시키는 애니메이션을 디스플레이하는 것을 포함한다. 일부 실시예들에서, 디스플레이로부터 통지를 제거하는 것은 디스플레이를 비활성화시키는 것을 포함한다. 일부 실시예들에서, 디스플레이로부터 통지를 제거하는 것은 통지의 디스플레이를 홈 스크린의 디스플레이로 대체하는 것을 포함하고, 홈 스크린은 경고가 판독되지 않은 상태라는 표시를 포함한다. 일부 실시예들에서, 디스플레이로부터 통지를 제거하는 것은 통지의 디스플레이를 시계 문자판의 디스플레이로 대체하는 것을 포함하고, 시계 문자판은 경고가 판독되지 않은 상태라는 표시를 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 사용자 입력이 통지를 디스플레이한 후의 제2 사전결정된 시간 간격 내에 검출되었는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록; 제2 사용자 입력이 제2 사전결정된 시간 간격 내에 검출되었다는 판정에 따라, 디스플레이로부터의 통지의 제거를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록; 그리고 제2 사용자 입력이 제2 사전결정된 시간 간격 내에 검출되지 않았다는 판정에 따라, 제1 부분과는 상이한 정보의 제2 부분의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 사용자 입력이 통지를 디스플레이한 후의 제2 사전결정된 시간 간격 후에 계속해서 검출되는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록; 사용자 입력이 제2 사전결정된 시간 간격 후에 계속해서 검출된다는 판정에 따라, 디스플레이 유닛 상에의 제1 부분과는 상이한 정보의 제2 부분의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록; 그리고, 사용자 입력이 제2 사전결정된 시간 간격 후에 계속해서 검출되지 않는다는 판정에 따라, 디스플레이 유닛으로부터의 통지의 제거를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 통지를 디스플레이하는 동안 터치 감응형 디스플레이 상에의(예컨대, 터치 감응형 표면 유닛(2926) 상에의) 제3 접촉을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 제3 접촉을 검출한 것에 응답하여, 제1 부분과는 상이한 정보의 제2 부분의 디스플레이 유닛(2902) 상에의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 제2 부분은 통지에 인접하게 디스플레이된다. 일부 실시예들에서, 제3 접촉은 제1 방향으로의 스와이프이고, 정보의 제2 부분의 디스플레이를 인에이블시키는 것은 정보의 제2 부분을 스크린 상에서 제1 방향으로 슬라이딩하는 것을 포함한다.
일부 실시예들에서, 정보의 제2 부분의 디스플레이를 인에이블시키는 것은, 추가로, 정보의 제2 부분을 디스플레이할 것인지 여부를 나타내는 구성 데이터를 (예컨대, 수신 유닛(2910)을 사용하여) 획득하는 것, 및 구성 데이터가, 정보의 제2 부분이 디스플레이되어야 함을 나타낸다는 판정에 응답하여, 정보의 제2 부분의 디스플레이를 인에이블시키는 것을 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 통지를 디스플레이하는 동안에 애플리케이션 어포던스의 선택을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 제4 접촉을 검출한 것에 응답하여, 경고와 연관된 애플리케이션을 (예컨대, 론칭 유닛(2920)을 사용하여) 론칭시키도록 구성된다.
일부 실시예들에서, 경고는 전자 메시지이고, 프로세싱 유닛은, 추가로, 정보의 제2 부분이 디스플레이되는 동안에 터치 감응형 디스플레이 상에의 제4 접촉을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고, 제4 접촉을 검출한 것에 응답하여, 디스플레이 유닛 상에의, 전자 메시지의 소스로 전송되고 그로부터 수신된 전자 메시지들을 포함하는 메시지 대화의 적어도 일부분의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 경고는 오디오 콘텐츠를 포함하고, 정보의 제2 부분을 디스플레이하는 것은, 오디오 콘텐츠를 재생하도록 하는 옵션을 디스플레이하는 것을 포함하고, 프로세싱 유닛(2908)은, 추가로, 오디오 콘텐츠를 재생하도록 하는 옵션의 선택을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고, 선택을 검출한 것에 응답하여, 오디오 콘텐츠의 재생을 (예컨대, 오디오 인에이블링 유닛(2924)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 오디오 콘텐츠는 제1 오디오 콘텐츠이고, 프로세싱 유닛(2908)은, 추가로, 제1 오디오 콘텐츠를 재생하도록 하는 옵션의 선택을 검출한 후에 제2 오디오 콘텐츠를 포함하는 제2 경고를 (예컨대, 수신 유닛(2910)을 사용하여) 수신하도록, 그리고 제2 경고를 수신한 것에 응답하여, 제2 오디오 콘텐츠의 재생을 (예컨대, 오디오 인에이블링 유닛(2924)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 정보의 제2 부분을 디스플레이하는 동안에 제3 사용자 입력을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고, 제3 사용자 입력을 검출한 것에 응답하여, 제3 사용자 입력에 따라 정보의 제2 부분의 스크롤링을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 제3 사용자 입력은 터치 감응형 디스플레이 상에서의 (예컨대, 터치 감응형 표면 유닛(29260 상에서의) 스와이프이다. 일부 실시예들에서, 제3 사용자 입력은 회전가능 및 누름가능 입력 유닛(2906)의 회전이다.
일부 실시예들에서, 제3 사용자 입력은 하향 방향과 연관되고, 프로세싱 유닛(2908)은, 추가로, 정보의 시작부가 디스플레이 유닛(2902) 상에 디스플레이되는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록, 그리고 정보의 시작부가 디스플레이된다는 판정에 따라, 그리고 제3 사용자 입력을 검출한 것에 응답하여, 디스플레이 유닛으로부터의 정보의 제2 부분의 제거를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 제3 사용자 입력은 상향 방향과 연관되고, 프로세싱 유닛(2908)은, 추가로, 정보의 말미가 디스플레이되는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록, 그리고 정보의 말미가 디스플레이 유닛(2902) 상에 디스플레이된다는 판정에 따라, 그리고 제3 사용자 입력을 검출한 것에 응답하여, 디스플레이 유닛 상에 제1 복수의 사용자 인터페이스 객체들의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 선택적으로, 사용자 인터페이스 객체들은 경고와 연관된 애플리케이션에 대응하는 동작들과 연관된다. 일부 실시예들에서, 제1 복수의 사용자 인터페이스 객체들은, 정보가 디스플레이 유닛 상에서 상향으로 스크롤됨에 따라, 디스플레이 상에서 상향으로 정보의 말미 아래에 스크롤된다.
일부 실시예들에서, 디스플레이 유닛으로부터의 정보의 제2 부분의 제거를 인에이블시키는 것은 디스플레이 유닛 상에의 통지의 제2 부분의 디스플레이를 디스플레이 유닛 상에의 시간의 표시를 포함하는 홈 스크린의 디스플레이로 대체하는 것을 인에이블시키는 것을 포함하고, 홈 스크린은 경고가 판독되지 않은 상태라는 표시 없이 디스플레이된다. 일부 실시예들에서, 정보의 제2 부분의 제거를 인에이블시키는 것은 정보의 제2 부분을 디스플레이 유닛으로부터 제2 방향으로 슬라이딩하는 것을 인에이블시키는 것을 포함한다.
일부 실시예들에서, 전자 디바이스는 터치 감응형 디스플레이 상에의(예컨대, 터치 감응형 표면 유닛(2926) 상에의) 접촉들의 세기를 검출하도록 구성되고, 프로세싱 유닛(2908)은, 추가로, 터치 감응형 디스플레이 상에의 제5 접촉을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제5 접촉의 특성 세기가 임계 세기 초과인지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록 구성된다. 일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제5 접촉의 특성 세기가 임계 세기 초과라는 판정에 따라, 디스플레이 유닛(2902) 상에의 제1 복수의 사용자 인터페이스 객체들의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 - 사용자 인터페이스 객체들은 경고와 연관된 애플리케이션에 대응하는 동작들과 연관됨 -; 그리고 제5 접촉의 특성 세기가 임계 세기 미만이라는 판정에 따라, 경고와 연관된 애플리케이션을 (예컨대, 론칭 유닛(2920)을 사용하여) 론칭시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제1 복수의 사용자 인터페이스 객체들 중 제1 사용자 인터페이스 객체의 선택을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고, 제1 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 외부 전자 디바이스가 경고와 연관된 애플리케이션을 (예컨대, 론칭 유닛(2920)을 사용하여) 론칭시키게 하는, 외부 전자 디바이스로의 데이터의 전송을 (예컨대, 전송 인에이블링 유닛(2922)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 사용자 입력이 정보의 제2 부분이 디스플레이되는 동안의 제3 사전결정된 시간 간격 내에 수신되었는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록, 그리고 어떠한 사용자 입력도 제3 사전결정된 시간 간격 내에 수신되지 않았다는 판정에 따라, 디스플레이 유닛(2902)을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 비활성화시키도록 구성된다.
일부 실시예들에서, 통지는 정보의 제2 부분에 인접하게 디스플레 유닛(2902) 상에 디스플레이되고, 통지는 애플리케이션 어포던스를 포함하고, 프로세싱 유닛(2908)은, 추가로, 정보의 제2 부분이 디스플레이되는 동안에 애플리케이션 어포던스의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 애플리케이션 어포던스의 선택을 검출한 것에 응답하여, 디스플레이 유닛 상에의 제2 복수의 사용자 인터페이스 객체들의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 복수의 사용자 인터페이스 객체들 중 제1 사용자 인터페이스 객체의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제1 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 디스플레이 유닛 상에의 제3 복수의 사용자 인터페이스 객체들의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 버튼 유닛(2928) 상에의 입력을 검출하도록, 그리고 버튼 유닛(2928) 상에의 입력을 검출한 것에 응답하여, 디스플레이 유닛 상에의 제3 복수의 사용자 인터페이스 객체들의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제3 복수의 사용자 인터페이스 객체들 중 제1 사용자 인터페이스 객체의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제3 복수의 사용자 인터페이스 객체들 중 제1 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 디스플레이 유닛 상에의 사전정의된 응답 메시지를 선택하기 위한 사용자 인터페이스의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제1 사전정의된 응답 메시지의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제1 사전정의된 응답 메시지의 선택을 검출한 것에 응답하여, 경고의 소스로의 제1 사전정의된 응답 메시지의 전송을 (예컨대, 전송 인에이블링 유닛(2922)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 경고의 소스로 제1 사전정의된 응답 메시지를 전송하는 것은 확인 어포던스를 디스플레이하는 것, 확인 어포던스의 선택을 검출하는 것, 및 확인 어포던스의 선택을 검출한 것에 응답하여, 경고의 소스로의 제1 사전정의된 응답 메시지의 전송을 인에이블시키는 것을 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 소스로의 제1 사전정의된 응답 메시지의 전송을 인에이블시킨 후, 디스플레이 유닛 상에의 메시지 전송 확인 스크린의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록, 그리고 메시지 전송 확인 스크린의 디스플레이를, 경고가 판독되지 않은 상태라는 표시 없이 홈 스크린이 디스플레이되는 디스플레이 유닛 상에의 홈 스크린의 디스플레이로 대체하는 것을 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제3 복수의 사용자 인터페이스 객체들 중 제2 사용자 인터페이스 객체의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제3 복수의 사용자 인터페이스 객체들 중 제2 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 디스플레이 유닛 상에의 이모지 아이콘을 선택하기 위한 사용자 인터페이스의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제1 이모지 아이콘의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제1 이모지 아이콘의 선택을 검출한 것에 응답하여, 경고의 소스로의 제1 이모지 아이콘의 전송을 (예컨대, 전송 인에이블링 유닛(2922)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 경고의 소스로의 이모지 아이콘의 전송을 인에이블시키는 것은 디스플레이 유닛(2902) 상에의 확인 어포던스의 디스플레이를 인에이블시키는 것, 확인 어포던스의 선택을 검출하는 것, 및 확인 어포던스의 선택을 검출한 것에 응답하여, 경고의 소스로의 이모지 아이콘의 전송을 인에이블시키는 것을 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 복수의 사용자 인터페이스 객체들 중 제2 사용자 인터페이스 객체의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제2 복수의 사용자 인터페이스 객체들 중 제2 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 정보의 제2 부분이 디스플레이 유닛(2902) 상에 디스플레이되었는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록; 정보의 제2 부분이 디스플레이되었다는 판정에 따라, 디스플레이 유닛 상에의 홈 스크린의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 - 홈 스크린은 경고가 판독되지 않은 상태라는 표시 없이 디스플레이됨 -; 그리고 정보의 제2 부분이 디스플레이되지 않았다는 판정에 따라, 홈 스크린의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 - 홈 스크린은 경고가 판독되지 않은 상태라는 표시를 포함함 - 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 복수의 사용자 인터페이스 객체들 중 제2 사용자 인터페이스 객체의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제2 복수의 사용자 인터페이스 객체들 중 제2 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 정보의 제2 부분이 디스플레이 유닛(2902) 상에 디스플레이되었는지 여부를 (예컨대, 판정 유닛(2916)을 사용하여) 판정하도록; 정보의 제2 부분이 디스플레이되었다는 판정에 따라, 시계 문자판의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 - 시계 문자판은 경고가 판독되지 않은 상태라는 표시 없이 디스플레이됨 -; 그리고 정보의 제2 부분이 디스플레이되지 않았다는 판정에 따라, 시계 문자판의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 - 시계 문자판은 경고가 판독되지 않은 상태라는 표시를 포함함 - 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 복수의 사용자 인터페이스 객체들 중 제3 사용자 인터페이스 객체의 선택을 (예컨대, 수신 유닛(2914)을 사용하여) 검출하도록, 그리고 제2 복수의 사용자 인터페이스 객체들 중 제3 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 디스플레이 상에의 가상 키보드의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 복수의 사용자 인터페이스 객체들 중 제4 사용자 인터페이스 객체의 선택을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 제2 복수의 사용자 인터페이스 객체들 중 제4 사용자 인터페이스 객체의 선택을 검출한 것에 응답하여, 마이크로폰 유닛으로부터의 오디오 입력의 기록을 (예컨대, 오디오 인에이블링 유닛(2924)을 사용하여) 인에이블시키도록, 그리고 경고의 소스로의 기록된 오디오 입력에 대응하는 데이터의 전송을 (예컨대, 전송 인에이블링 유닛(2922)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 기록된 오디오 입력에 대응하는 데이터의 전송을 인에이블시키는 것은, 디스플레이 유닛 상에의 기록된 오디오 입력의 표시 및 전송 어포던스의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키는 것, 전송 어포던스의 선택을 검출하는 것, 및 전송 어포던스의 선택을 검출한 것에 응답하여, 경고의 소스로의 기록된 오디오 입력에 대응하는 데이터의 전송을 인에이블시키는 것을 포함한다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 애플리케이션을 론칭시킨 후의 회전가능 및 누름가능 입력 유닛(2906)의 누르기를 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 누르기를 검출한 것에 응답하여, 디스플레이 유닛 상에의 홈 스크린의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 회전가능 및 누름가능 입력 유닛(2906)은 회전가능한 기계적 버튼이고, 누르기는 기계적 버튼 상에의 누르기를 표현한다. 일부 실시예들에서, 회전가능 및 누름가능 입력 유닛(2906)은 회전가능한 용량성 버튼이고, 누르기는 용량성 버튼 상에의 터치를 표현한다.
일부 실시예들에서, 통지는 제1 통지이고, 프로세싱 유닛(2908)은, 추가로, 제1 통지가 디스플레이 유닛(2902) 상에 디스플레이되는 동안에 제2 정보를 포함하는 제2 경고를 (예컨대, 수신 유닛(2910)을 사용하여) 수신하도록, 그리고 제2 경고를 수신한 것에 응답하여, 제1 통지의 디스플레이를 디스플레이 유닛 상에의 제2 통지 - 제2 통지는 제2 정보의 제1 부분을 포함함 - 의 디스플레이로 대체하는 것을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 경고를 수신한 것에 응답하여 제2 인지적 출력을 (예컨대, 인지적 출력 인에이블링 유닛(2912)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 통지를 무시하라는 요청을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 요청을 검출한 것에 응답하여, 제2 통지의 무시를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록, 그리고 디스플레이 유닛(2902) 상에의 제1 통지의 리디스플레이를 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 통지를 무시하라는 요청을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 요청을 검출한 것에 응답하여, 제2 통지의 무시를 인에이블시키도록 그리고 디스플레이 유닛 상에의 홈 스크린 - 홈 스크린은 제1 경고 및 제2 경고가 판독되지 않은 상태라는 표시를 포함함 - 의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 제2 통지를 무시하라는 요청을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 요청을 검출한 것에 응답하여, 제2 통지의 무시를 인에이블시키도록 그리고 디스플레이 유닛(2902) 상에의 시계 문자판 - 시계 문자판은 제1 경고 및 제2 경고가 판독되지 않은 상태라는 표시를 포함함 - 의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 정보의 제2 부분을 디스플레이하는 동안에 제2 정보를 포함하는 제2 경고를 (예컨대, 수신 유닛(2910)을 사용하여) 수신하도록, 그리고 제2 경고를 수신한 것에 응답하여, 정보의 제2 부분의 디스플레이를 디스플레이 유닛(2902) 상에의 제2 통지 - 제2 통지는 제2 정보의 제1 부분을 포함함 - 의 디스플레이로 대체하는 것을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 경고는 소스로부터 수신된 제1 경고이고, 프로세싱 유닛(2908)은, 추가로, 정보의 제2 부분을 디스플레이하는 동안에 소스로부터 제2 경고를 (예컨대, 수신 유닛(2910)을 사용하여) 수신하도록, 그리고 제2 경고를 수신한 것에 응답하여 제1 경고 및 제2 경고를 표현하는 그룹화된 통지의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 제1 경고 및 제2 경고는 동일한 애플리케이션과 연관된다.
일부 실시예들에서, 프로세싱 유닛(2908)은, 추가로, 그룹화된 통지 상에의 제6 접촉을 (예컨대, 검출 유닛(2914)을 사용하여) 검출하도록, 그리고 제6 접촉을 검출한 것에 응답하여, 디스플레이 유닛 상에의 소스로부터 수신된 경고들의 리스트 - 경고들의 리스트는 동일한 애플리케이션과 연관됨 - 의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 경고는 피트니스 경고이고, 프로세싱 유닛(2908)은, 추가로, 제2 사전결정된 시간 간격 후, 통지의 디스플레이 유닛(2902) 상에의 디스플레이를 피트니스 성취를 표현하는 사용자 인터페이스 객체의 디스플레이로 대체하는 것을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록, 그리고 제3 사전결정된 시간 간격 후, 사용자 인터페이스 객체의 디스플레이 유닛 상에의 디스플레이를 제1 부분과는 상이한 정보의 제2 부분의 디스플레이로 대체하는 것을 (예컨대, 디스플레이 인에이블링 유닛(2918)을 사용하여) 인에이블시키도록 구성된다.
도 25를 참조하여 전술된 동작들은, 선택적으로, 도 1a와 도 1b 또는 도 29에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 수신 동작(2502), 발하기 동작(2504), 검출 동작(2506), 판정 동작(2508), 및 디스플레이 동작(2510)은 선택적으로 이벤트 분류기(170), 이벤트 인식기(180), 및 이벤트 핸들러(190)에 의해 구현된다. 이벤트 분류기(170) 내의 이벤트 모니터(171)는 터치 감응형 디스플레이(112) 상에의 접촉을 검출하고, 이벤트 디스패처 모듈(174)은 이벤트 정보를 애플리케이션(136-1)에 전달한다. 애플리케이션(136-1)의 각자의 이벤트 인식기(180)는 이벤트 정보를 각자의 이벤트 정의들(186)과 비교하고, 터치 감응형 표면 상의 제1 위치에서의 제1 접촉(또는 디바이스의 회전 또는 다른 이동)이 사용자 인터페이스 상에서의 객체의 선택, 또는 하나의 배향으로부터 다른 배향으로의 디바이스의 회전과 같은 사전정의된 이벤트 또는 서브이벤트에 대응하는지 여부를 판정한다. 각자의 사전정의된 이벤트 또는 서브이벤트가 검출되는 경우, 이벤트 인식기(180)는 이벤트 또는 서브이벤트의 검출과 연관된 이벤트 핸들러(190)를 활성화시킨다. 이벤트 핸들러(190)는 선택적으로 데이터 업데이터(176) 또는 객체 업데이터(177)를 이용하거나 호출하여, 애플리케이션 내부 상태(192)를 업데이트한다. 일부 실시예들에서, 이벤트 핸들러(190)는 각자의 GUI 업데이터(178)에 액세스하여, 애플리케이션에 의해 디스플레이되는 것을 업데이트한다. 유사하게, 다른 프로세스들이 도 1a 및 도 1b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 당업자에게 자명할 것이다.
일부 실시예들에 따르면, 도 30은 기술된 다양한 실시예들의 원리들에 따라 구성된 전자 디바이스(3000)의 기능 블록 다이어그램을 도시한다. 디바이스의 기능 블록들은, 선택적으로, 기술된 다양한 실시예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현된다. 기술된 다양한 실시예들의 원리들을 구현하기 위해 도 30에서 기술된 기능 블록들이, 선택적으로, 조합되거나 서브블록들로 분리된다는 것이 당업자에 의해 이해된다. 따라서, 본 명세서의 설명은, 선택적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능성있는 조합 또는 분리 또는 추가 정의를 지원한다.
도 30에 도시된 바와 같이, 전자 디바이스(3000)는 그래픽 사용자 인터페이스를 디스플레이하도록 구성된 디스플레이 유닛(3002), 및 디스플레이 유닛(3002)에 커플링되는 프로세싱 유닛(3004)을 포함한다. 일부 실시예들에서, 전자 디바이스는, 선택적으로, 터치 입력들을 수신하도록 구성되고 디스플레이 유닛(3002) 및 프로세싱 유닛(3004)에 커플링되는 터치 감응형 표면 유닛(3016)을 포함한다. 일부 실시예들에서, 프로세싱 유닛(3004)은 선택적으로 수신 유닛(3006), 판정 유닛(3008), 디스플레이 인에이블링 유닛(3010), 검출 유닛(3012), 및 인지적 출력 인에이블링 유닛(3014)을 포함한다.
프로세싱 유닛(3004)은 복수의 경고들을 (예컨대, 수신 유닛(3006)을 사용하여) 수신하도록, 그리고 복수의 경고들을 수신한 것에 응답하여, 복수의 경고들이 그룹화 기준을 충족시키는지 여부를 (예컨대, 판정 유닛(3008)을 사용하여) 판정하도록 구성된다. 프로세싱 유닛(3004)은, 추가로, 복수의 경고들이 그룹화 기준을 충족시킨다는 판정에 따라, 디스플레이 유닛(3002) 상에의 복수의 경고들을 표현하는 그룹화된 통지의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3010)을 사용하여) 인에이블시키도록, 그리고 복수의 경고들이 그룹화 기준을 충족시키지 않는다는 판정에 응답하여, 디스플레이 유닛 상에의 복수의 경고들을 표현하는 복수의 통지들의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3010)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 그룹화 기준은 복수의 경고들이 동일한 소스로부터 수신되는지 여부; 복수의 경고들이 경고들의 수치 임계치를 초과하는지 여부; 복수의 경고들이 동일한 애플리케이션과 연관되는지 여부; 및 복수의 경고들이 사전결정된 기간 내에 수신되는지 여부로 이루어진 군으로부터 선택된 하나 이상의 기준들에 기초한다.
일부 실시예들에서, 복수의 경고들은, 동일한 소스로부터 수신되고 동일한 애플리케이션과 연관된 제1 경고 및 제2 경고를 포함하고, 제1 경고 및 제2 경고는 그룹화 기준을 충족시키고, 제1 경고는 제1 정보를 포함하고, 제2 경고는 제2 정보를 포함하고, 디스플레이 유닛은 터치 감응형 디스플레이 유닛이다. 일부 실시예들에서, 프로세싱 유닛(3004)은, 추가로, 그룹화된 통지에 대응하는 위치에서 터치 감응형 디스플레이 유닛 상에의(예컨대, 터치 감응형 표면 유닛(3016) 상에의) 제7 접촉을 (예컨대, 검출 유닛(3012)을 사용하여) 검출하도록, 그리고 제7 접촉을 검출한 것에 응답하여, 디스플레이 유닛(3002) 상에의 제1 정보 및 제2 정보의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3010)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 제1 경고 및 제2 경고는 상이한 소스들로부터 수신되고 동일한 애플리케이션과 연관되며, 프로세싱 유닛(3004)은, 추가로, 그룹화된 통지에 대응하는 위치에서 터치 감응형 디스플레이 유닛 상에의(예컨대, 터치 감응형 표면 유닛(3016) 상에의) 제8 접촉을 (예컨대, 검출 유닛(3012)을 사용하여) 검출하도록, 그리고 제8 접촉을 검출한 것에 응답하여, 디스플레이 유닛(3002) 상에의 애플리케이션과 연관된 경고들의 리스트 - 경고들의 리스트는 제1 경고 및 제2 경고를 포함함 - 의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3010)을 사용하여) 인에이블시키도록 구성된다.
일부 실시예들에서, 복수의 경고들은 복수의 애플리케이션들과 연관되고, 복수의 경고들은 그룹화 기준을 충족시키고, 디스플레이 유닛은 터치 감응형 디스플레이 유닛이며, 프로세싱 유닛(3004)은, 추가로, 복수의 경고들을 표현하는 그룹화된 통지의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3010)을 사용하여) 인에이블시키도록, 그룹화된 통지에 대응하는 위치에서 터치 감응형 디스플레이 상에의 제9 접촉을 (예컨대, 검출 유닛(3012)을 사용하여) 검출하도록, 그리고 제9 접촉을 검출한 것에 응답하여, 복수의 경고들을 표현하는 통지들의 리스트의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3010)을 사용하여) 인에이블시키도록 구성되며, 여기서 수신된 경고들은 제1 경고 및 제2 경고를 포함한다.
일부 실시예들에서, 프로세싱 유닛(3004)은, 추가로, 복수의 경고들을 수신한 것에 추가로 응답하여 인지적 출력을 (예컨대, 인지적 출력 인에이블링 유닛(3014)을 사용하여) 인에이블시키도록 구성된다. 일부 실시예들에서, 프로세싱 유닛(3004)은, 추가로, 또한 복수의 경고들이 그룹화 기준을 충족시킨다는 판정에 따라, 단일의 인지적 출력을 (예컨대, 인지적 출력 인에이블링 유닛(3014)을 사용하여) 인에이블시키도록, 그리고 또한 복수의 경고들이 그룹화 기준을 충족시키지 않는다는 판정에 따라, 복수의 경고들에 대응하는 복수의 인지적 출력들을 (예컨대, 인지적 출력 인에이블링 유닛(3014)을 사용하여) 인에이블시키도록 구성된다.
도 26을 참조하여 전술된 동작들은, 선택적으로, 도 1a와 도 1b 또는 도 30에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 수신 동작(2602), 판정 동작(2604), 검출 동작(2606), 및 디스플레이 동작들(2608, 2610)은 선택적으로 이벤트 분류기(170), 이벤트 인식기(180), 및 이벤트 핸들러(190)에 의해 구현된다. 이벤트 분류기(170) 내의 이벤트 모니터(171)는 터치 감응형 디스플레이(112) 상에의 접촉을 검출하고, 이벤트 디스패처 모듈(174)은 이벤트 정보를 애플리케이션(136-1)에 전달한다. 애플리케이션(136-1)의 각자의 이벤트 인식기(180)는 이벤트 정보를 각자의 이벤트 정의들(186)과 비교하고, 터치 감응형 표면 상의 제1 위치에서의 제1 접촉(또는 디바이스의 회전 또는 다른 이동)이 사용자 인터페이스 상에서의 객체의 선택, 또는 하나의 배향으로부터 다른 배향으로의 디바이스의 회전과 같은 사전정의된 이벤트 또는 서브이벤트에 대응하는지 여부를 판정한다. 각자의 사전정의된 이벤트 또는 서브이벤트가 검출되는 경우, 이벤트 인식기(180)는 이벤트 또는 서브이벤트의 검출과 연관된 이벤트 핸들러(190)를 활성화시킨다. 이벤트 핸들러(190)는 선택적으로 데이터 업데이터(176) 또는 객체 업데이터(177)를 이용하거나 호출하여, 애플리케이션 내부 상태(192)를 업데이트한다. 일부 실시예들에서, 이벤트 핸들러(190)는 각자의 GUI 업데이터(178)에 액세스하여, 애플리케이션에 의해 디스플레이되는 것을 업데이트한다. 유사하게, 다른 프로세스들이 도 1a 및 도 1b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 당업자에게 자명할 것이다.
일부 실시예들에 따르면, 도 31은 기술된 다양한 실시예들의 원리들에 따라 구성된 전자 디바이스(3100)의 기능 블록 다이어그램을 도시한다. 디바이스의 기능 블록들은, 선택적으로, 기술된 다양한 실시예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현된다. 기술된 다양한 실시예들의 원리들을 구현하기 위해 도 31에서 기술된 기능 블록들이, 선택적으로, 조합되거나 서브블록들로 분리된다는 것이 당업자에 의해 이해된다. 따라서, 본 명세서의 설명은, 선택적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능성있는 조합 또는 분리 또는 추가 정의를 지원한다.
도 31에 도시된 바와 같이, 전자 디바이스(3100)는, 접촉들을 수신하도록 그리고 그래픽 사용자 인터페이스를 디스플레이하도록 구성된 터치 감응형 디스플레이 유닛(3102), 및 디스플레이 유닛(3102)에 커플링되는 프로세싱 유닛(3104)을 포함한다. 일부 실시예들에서, 프로세싱 유닛(3104)은 선택적으로 수신 유닛(3106), 디스플레이 인에이블링 유닛(3108), 및 검출 유닛(3110)을 포함한다.
프로세싱 유닛(3104)은, 디스플레이 유닛이 콘텐츠를 능동적으로 디스플레이하고 있는 동안에 정보를 포함하는 경고를 (예컨대, 수신 유닛(3106)을 사용하여) 수신하도록, 그리고 경고를 수신한 것에 응답하여, 터치 감응형 디스플레이 유닛(3102)의 일부분을 가로지르는 통지 배너 - 통지 배너는 정보의 제1 부분을 포함하고, 적어도 콘텐츠의 일부분은 계속해서 디스플레이됨 - 의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3108)을 사용하여) 인에이블시키도록 구성된다. 프로세싱 유닛(3104)은, 추가로, 통지 배너에 대응하는 위치에서 터치 감응형 디스플레이 유닛 상에의 접촉을 (예컨대, 검출 유닛(3110)을 사용하여) 검출하도록, 그리고 접촉을 검출한 것에 응답하여, 디스플레이 유닛 상에의 제1 부분과는 상이한 정보의 제2 부분의 디스플레이를 (예컨대, 디스플레이 인에이블링 유닛(3108)을 사용하여) 인에이블시키도록 구성된다.
도 27을 참조하여 전술된 동작들은, 선택적으로, 도 1a와 도 1b 또는 도 31에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 수신 동작(2702), 디스플레이 동작들(2704, 2708), 및 검출 동작(2706)은 선택적으로 이벤트 분류기(170), 이벤트 인식기(180) 및 이벤트 핸들러(190)에 의해 구현된다. 이벤트 분류기(170) 내의 이벤트 모니터(171)는 터치 감응형 디스플레이(112) 상에의 접촉을 검출하고, 이벤트 디스패처 모듈(174)은 이벤트 정보를 애플리케이션(136-1)에 전달한다. 애플리케이션(136-1)의 각자의 이벤트 인식기(180)는 이벤트 정보를 각자의 이벤트 정의들(186)과 비교하고, 터치 감응형 표면 상의 제1 위치에서의 제1 접촉(또는 디바이스의 회전 또는 다른 이동)이 사용자 인터페이스 상에서의 객체의 선택, 또는 하나의 배향으로부터 다른 배향으로의 디바이스의 회전과 같은 사전정의된 이벤트 또는 서브이벤트에 대응하는지 여부를 판정한다. 각자의 사전정의된 이벤트 또는 서브이벤트가 검출되는 경우, 이벤트 인식기(180)는 이벤트 또는 서브이벤트의 검출과 연관된 이벤트 핸들러(190)를 활성화시킨다. 이벤트 핸들러(190)는 선택적으로 데이터 업데이터(176) 또는 객체 업데이터(177)를 이용하거나 호출하여, 애플리케이션 내부 상태(192)를 업데이트한다. 일부 실시예들에서, 이벤트 핸들러(190)는 각자의 GUI 업데이터(178)에 액세스하여, 애플리케이션에 의해 디스플레이되는 것을 업데이트한다. 유사하게, 다른 프로세스들이 도 1a 및 도 1b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 당업자에게 자명할 것이다.
전술한 설명은, 설명의 목적을 위해, 특정 실시예들을 참조하여 기술되었다. 그러나, 상기의 예시적인 논의들은 본 발명을 개시된 정확한 형태들로 규명하거나 제한하려는 의도는 아니다. 많은 수정들 및 변형들이 상기 교시 내용들의 관점에서 가능하다. 본 발명의 원리 및 그의 실제적인 응용을 가장 잘 설명하여 다른 당업자들이 본 발명 및 기술된 다양한 실시예를 고려되는 특정 용도에 적합한 바와 같은 다양한 변형과 함께 가장 잘 사용하는 것을 가능하게 하도록 실시예들이 선택 및 설명되었다.
부록
디바이스에서의 들어올림 제스처 검출{RAISE GESTURE DETECTION IN A DEVICE}
[배경기술]
본 발명은 일반적으로 전자 디바이스들에 관한 것이고, 구체적으로는, 전자 디바이스를 착용하거나 달리 동작하는 사용자에 의해 행해진 소정 카테고리들의 제스처들을 검출하는 것에 관한 것이다.
사용자들은 점점 더 모바일 기술에 의존한다. 예를 들어, 많은 사용자들이, 현재, 모바일 전화 기술을 고전력 컴퓨팅 디바이스와 통합시킨 "스마트폰"을 소지하고 있는데, 폼팩터는 그것이 동작 동안에 사용자의 손에 보유되게 할 정도로 충분히 작다. 그러한 디바이스들은 모바일 전화, 메시징(예컨대, SMS/MMS 메시징 또는 유사한 서비스들), 내장형 디지털 카메라를 사용하는 사진 촬영, 이메일, 월드와이드앱 액세스, 및 개인 정보 관리(예컨대, 캘린더, 주소록, 할일목록)로부터 위치 인식 내비게이션 및 맵의 범위에 이르는 기능을 갖는 특수 목적 응용 프로그램들의 외견상 무한 어레이 내지 게임들을 비롯한 다양한 기능들을 제공한다. 이러한 종류의 디바이스들은 사용자의 손가락 끝에 무수한 정보 및 엔터테인먼트를 놓을 수 있다.
그러나, 심지어 스마트폰조차 정보에의 용이한 액세스에 대한 사용자의 욕구를 만족시키기에는 명백히 불충분하다. 웨어러블 기술이 상당한 관심을 끌고 있다. 웨어러블 디바이스의 사용으로, 사용자가 편리성이 증가된 모바일 기술의 이점들을 즐길 수 있음이 예상된다.
[발명의 내용]
웨어러블 기술의 광범위한 채택에 대한 한 가지 장애는 대부분의 기존의 웨어러블 디바이스들이 스마트폰보다 사용하기에 더 편하지는 않다는 것이다. 예를 들어, 웨어러블 디바이스들은 작은 폼팩터를 갖는 경향이 있는데, 이는 디바이스 내에 포함될 수 있는 배터리의 크기를 제한한다. 이는 결국 이용가능한 동작 전력을 제한한다. 전력 낭비를 피하기 위해, 기존의 웨어러블 디바이스들은, 일반적으로, 사용자가 디바이스에 능동적으로 관여하지 않는 경우, 다양한 전력 소비 컴포넌트들(예컨대, 디스플레이)을 턴오프시키거나 전력다운시킨다.
디스플레이 및/또는 사용자 입력 컴포넌트들이 항상 온 상태인 것은 아니기 때문에, 기존의 웨어러블 디바이스들은, 일반적으로, 웨어러블 디바이스 상의 버튼을 터치하기와 같은 몇몇 종류의 사전 사용자 입력을 요구하여, 사용자가 디바이스에 관여하기 원함을 나타내고; 이러한 사전 입력은 웨어러블 디바이스를 트리거시켜서 그의 디스플레이 및/또는 다른 전력 소비 컴포넌트들을 활성화시킬 수 있다. 이러한 사전 상호작용은, 오래된 기술로 친숙한 더 자연스럽고 직관적인 상호작용과는 특히 대조적으로, 부자연스럽거나 불편한 디바이스 느낌을 활용할 수 있다. 예를 들어, 언제나 손목시계를 착용해 온 누군가는 시간을 체크하기 위해 손목을 들어올리고/들어올리거나 회전시키는 제스처와 친숙하다. 손목시계 착용자의 경우, 손목을 빠르게 들어올리는 것은 자연스럽고 자동적인 모션이 된다. 그러나, 이러한 자연스러운 모션은 종래의 손목시계에서만 작용하는데, 그 이유는 시계 앞면이 "상시 온 상태"여서, 사용자가 디스플레이된 정보(일반적으로, 시간)를 보기 위해서 해야 하는 전부는 시계 앞면을 시선 내에 가져오는 것이기 때문이다. 그러나, 웨어러블 컴퓨팅 디바이스와 같은 더 고급화된 전자 디바이스에서, 상시 온 디스플레이는 배터리 수명을 디바이스의 일상적인 온종일 착용에 지장을 주는 정도로 제한할 수 있다.
따라서, 손목 웨어러블 컴퓨팅 디바이스가, 사용자가 디바이스를 착용한 손목을 들어올리는 때를 검출하도록 하고, 이러한 모션에 응답하여 그의 디스플레이(및/또는 다른 컴포넌트들)를 자동으로 활성화시키도록 하는 것이 바람직할 수 있다. 이는 사용자가 종래의 손목시계로부터만큼이나 용이하고 직관적으로 손목 웨어러블 컴퓨팅 디바이스로부터 시각적 정보를 획득하게 할 수 있다.
본 발명의 소정 실시예들은 손목 들어올림 제스처들과 같은 들어올림 제스처들을 검출할 수 있는 컴퓨팅 디바이스들을 제공한다. 예를 들어, 디바이스는 가속도계 및/또는 자이로스코프와 같은 모션 센서들을 포함할 수 있는데, 이들은 디바이스의 이동을 실시간으로 검출할 수 있고, 또한, (예컨대, 디바이스 상에 작용하는 중력 가속도를 검출함으로써) 디바이스의 공간 배향에 관한 정보를 추론할 수 있다. 모션 센서들로부터의 신호들에 기초하여, 디바이스 상에서 실행되는 알고리즘들이 "들어올림 제스처"를 검출할 수 있는데, 이는 사용자가 이동하고 있거나 디바이스의 디스플레이를 그의 시선 내로 이동시켰음을 나타내는 모션 패턴으로서 정의될 수 있다. 그러한 제스처를 검출한 것에 응답하여, 디바이스는 그의 디스플레이 및/또는 다른 컴포넌트들(예컨대, 터치 스크린 오버레이, 스피치 프로세싱 서브시스템 등)을 활성화시킬 수 있다. 일부 실시예들에서, 들어올림 제스처의 검출은 단계적으로 발생할 수 있고, 상이한 컴포넌트들의 활성화는 상이한 단계들에서 발생할 수 있다.
다양한 기법들이 들어올림 제스처들을 검출하는 데 이용될 수 있다. 일부 실시예들에서, 검출 알고리즘들은 휴리스틱으로 개발될 수 있고, "포커스 포즈"(디바이스를 착용한 사용자가 그의 디스플레이를 보게 할 손목 착용형 컴퓨팅 디바이스의 배향일 수 있음) 및 특정 시작 포즈(포커스 포즈로 되기 전의 손목 착용형 컴퓨팅 디바이스의 배향일 수 있음) 양측 모두의 추정(assume) 특성들을 고려할 수 있다. 따라서, 예를 들어, 들어올림 제스처는 사용자가 팔이 아래로 있는 위치(arm-down position)(예컨대, 서 있거나 걷고 있을 때)로부터 시작하는지 아니면 팔이 옆으로 있는 위치(arm-lateral position)(예컨대, 타이핑할 때)로부터 시작하는지와는 무관하게 검출될 수 있다. 또한, 들어올림 제스처 검출 알고리즘들은 특정 사용자 활동들에 대해 최적화될 수 있다. 예를 들어, 사용자가 달리고 있는 경우, 사용자의 팔들의 자연스러운 모션은 저전력 모션 센서(예컨대, 가속도계)로부터 수집된 데이터에 들어올림 제스처를 검출하는 것에 지장을 줄 수 있는 잡음을 생성할 수 있다. 달리기에 대해 최적화된 알고리즘은 다른 센서들(예컨대, 자이로스코프 센서)로부터의 데이터를 포함하여, 사용자에게 상이한 무엇인가를 할 것을 요구함이 없이, 들어올림 제스처의 신뢰성있는 검출을 가능하게 할 수 있다.
일부 실시예들에서, 들어올림 제스처 검출 알고리즘들은 디바이스의 저전력 코프로세서(예컨대, 모션 코프로세서) 상에서 실행될 수 있다. 따라서, 디바이스가 능동적으로 사용되고 있지 않은 경우, 디바이스의 메인 또는 중앙 프로세서(본 명세서에서 애플리케이션 프로세서로도 지칭됨)는 저전력 상태 또는 슬립 상태에 놓여서, 디바이스의 전력 소비를 추가로 감소시킬 수 있다. 코프로세서 상에서 실행되는 알고리즘들에 의한 들어올림 제스처의 검출은 애플리케이션 프로세서를 웨이크(wake)시키는 데 이용될 수 있다. 일부 실시예들에서, 애플리케이션 프로세서를 웨이크시켜야 하는지 여부를 판정하기 위한 별도의 "프리히트(preheat)" 알고리즘이 제공될 수 있고, 이러한 알고리즘은 디스플레이 및/또는 다른 사용자 인터페이스 컴포넌트들을 활성화시켜야 하는지 여부를 판정하는 데 사용되는 들어올림 제스처 검출 알고리즘들과는 독립적으로 동작할 수 있다.
또한, 디바이스가 포커스 포즈에 진입한 후, 코프로세서는 디바이스가 포커스 포즈를 떠날 때를 판정하는 알고리즘들을 실행시켜서, 사용자가 디바이스를 보는 것을 중지했음을 나타낼 수 있다. (디바이스 상태가, 사용자가 디바이스를 보고 있는지 아니면 보고 있지 않은지의 실측 자료(ground truth)와 항상 매칭하는 것은 아닐 수도 있지만, 본 명세서에 기술되는 알고리즘들은 반드시 완벽한 것은 아니지만 높은 신뢰성을 갖는 그러한 매칭을 달성할 수 있음이 이해되어야 한다.) 디바이스가 포커스 포즈를 떠났음(본 명세서에서 포커스 소실(loss-of-focus) 이벤트로도 지칭됨)을 검출하는 것은 디스플레이 및/또는 다른 사용자 인터페이스 컴포넌트들을 비활성화시키는 것, 애플리케이션 프로세서가 슬립 상태로 복귀하게 하는 것 등과 같은 다양한 전력 절감 측정들을 트리거시킬 수 있다.
일부 실시예들에서, 코프로세서는 웨이크 제어 로직을 실행시켜서, 들어올림 제스처들, 포커스 소실, 및/또는 프리히트 이벤트들을 검출하기 위한 다양한 알고리즘들의 실행을 언제 시작 또는 종료할 것인지 판정할 수 있다. 웨이크 제어 로직은, 또한, 다양한 알고리즘들에 의해 검출된 이벤트들의 통지를 수신할 수 있고, 애플리케이션 프로세서 및/또는 사용자 인터페이스 컴포넌트들과 같은 디바이스의 다른 컴포넌트들로의 대응하는 통지를 조정할 수 있다. 예를 들어, 웨이크 제어 로직은 애플리케이션 프로세서에 들어올림 제스처가 검출될 때 통지할 수 있고, 애플리케이션 프로세서는 디스플레이 및/또는 다른 사용자 인터페이스 컴포넌트들을 활성화시킴으로써 응답할 수 있다.
첨부 도면들과 함께 하기의 상세한 설명은 본 발명의 본질 및 이점들에 대한 보다 양호한 이해를 제공할 것이다.
[도면의 간단한 설명]
도 1a 내지 도 1d는 본 발명의 일 실시예에 대한 전형적인 유스케이스(use case)들의 예들을 도시한다.
도 2a는 본 발명의 일 실시예에 따른 디바이스의 컴포넌트들을 도시한 블록 다이어그램이다.
도 2b는 본 발명의 일 실시예에 따른 디바이스의 컴포넌트들을 도시한 블록 다이어그램이다.
도 3은 손목 웨어러블 디바이스에 대한 디바이스 상대 좌표계의 예를 도시한다.
도 4는 본 발명의 일 실시예에 따른 들어올림 제스처 검출 프로세스에 대한 흐름도이다.
도 5는 본 발명의 일 실시예에 따른, 제스처 분류기를 사용하여 들어올림 제스처를 확인하기 위한 프로세스의 흐름도이다.
도 6은 본 발명의 일 실시예에 따른 들어올림 제스처 검출 알고리즘의 상태들을 나타낸 상태 다이어그램이다.
도 7은 본 발명의 일 실시예에 따른 자연스러운 들어올림 제스처 검출 모듈의 기능 블록 다이어그램이다.
도 8은 본 발명의 일 실시예에 따른 다른 들어올림 제스처 검출 프로세스의 흐름도이다.
도 9는 본 발명의 일 실시예에 따른 자연스러운 들어올림 제스처 검출 모듈의 기능 블록 다이어그램이다.
도 10a 및 도 10b는 본 발명의 일 실시예에 대한 유스케이스의 예를 도시한다.
도 11은 본 발명의 일 실시예에 따른, 고의적인 들어올림 제스처를 검출하기 위한 프로세스의 흐름도이다.
도 12는 본 발명의 일 실시예에 따른, 고의적인 들어올림 제스처 검출 모듈의 기능 블록 다이어그램이다.
도 13은 본 발명의 일 실시예에 따른, 포커스 소실 이벤트를 검출하기 위한 프로세스의 흐름도이다.
도 14는 본 발명의 일 실시예에 따른 포커스 소실 검출 모듈의 기능 블록 다이어그램이다.
도 15는 본 발명의 일 실시예에 따른, 애플리케이션 프로세서를 웨이크시켜야 하는지 여부를 판정하기 위한 프로세스의 흐름도이다.
도 16은 본 발명의 일 실시예에 따른 프리히트 검출 모듈의 기능 블록 다이어그램이다.
도 17은 본 발명의 일 실시예에 따른 웨이크 제어 로직의 상태들을 나타낸 상태 다이어그램이다.
도 18은 본 발명의 일 실시예에 따른, 웨이크 제어 로직에서 구현될 수 있는 프로세스의 흐름도이다.
[발명을 실시하기 위한 구체적인 내용]
본 발명의 소정 실시예들은 상시 온 상태가 아닌 디스플레이를 갖는 손목 웨어러블 디바이스와 같은 디바이스의 사용자들에게 자연스러운 상호작용을 제공할 수 있다. 예를 들어, 디바이스는 가속도계 및/또는 자이로스코프와 같은 모션 센서들을 포함할 수 있는데, 이들은 디바이스의 이동을 실시간으로 검출할 수 있고, 또한, (예컨대, 디바이스 상에 작용하는 중력 가속도를 검출함으로써) 디바이스의 공간 배향에 관한 정보를 추론할 수 있다. 모션 센서들로부터의 신호들에 기초하여, 웨어러블 컴퓨팅 디바이스 상에서 실행되는 알고리즘들은 "들어올림 제스처"를 검출할 수 있는데, 이는 사용자가 이동하고 있거나 디바이스의 디스플레이를 그의 시선 내로 이동시켰음을 나타내는 모션 패턴으로서 정의될 수 있다. (디바이스 상태가, 사용자가 디바이스를 보고 있는지 아니면 보고 있지 않은지의 실측 자료와 항상 매칭하는 것은 아닐 수도 있지만, 본 명세서에 기술되는 알고리즘들은 반드시 완벽한 것은 아니지만 높은 신뢰성을 갖는 그러한 매칭을 달성할 수 있음이 이해된다.) 그러한 제스처가 검출되는 경우, 웨어러블 컴퓨팅 디바이스는 그의 디스플레이를 활성화시킬 수 있다. 사용자 입력 컴포넌트들(예컨대, 터치 스크린 오버레이, 스피치 프로세싱 서브시스템 등)과 같은 다른 컴포넌트들이 또한 들어올림 제스처의 검출에 기초하여 활성화될 수 있다. 일부 실시예들에서, 들어올림 제스처의 검출은 단계적으로 발생할 수 있고, 상이한 컴포넌트들의 활성화는 상이한 단계들에서 발생할 수 있다.
본 명세서에서 사용되는 바와 같이, "손목 웨어러블 디바이스"(또는 "손목 웨어러블 컴퓨팅 디바이스")는, 일반적으로, 사용자의 손목에 착용하는 데 적합한 폼팩터를 갖고, 사용자의 손목에 착용되고 있는 동안에 사용자에게 정보를 제시하고 그로부터 정보를 수신할 수 있는 전자 디바이스를 지칭한다. 일부 실시예들에서, 손목 웨어러블 디바이스는, 정보를 시각적으로 제시하고 사용자의 손가락(또는 사용자에 의해 동작되는 다른 툴)에 의해 행해진 접촉 제스처들의 형태의 사용자 입력을 수신하는, 스크린 또는 스크린 상의 특정 영역들을 갖는 터치 스크린 디스플레이를 가질 수 있다. 다른 사용자 인터페이스 컴포넌트들은 터치 스크린 디스플레이에 더해서 또는 그 대신에 제공될 수 있다. 일부 실시예들에서, 손목 웨어러블 디바이스는 독립형 디바이스(예컨대, 다른 디바이스들과 통신하고 있지 않은 디바이스)로서, 또는 그것이 통신하게 되는 다른 전자 디바이스와의 동반자 디바이스로서 동작될 수 있다. 예를 들어, 손목 웨어러블 디바이스는 사용자의 모바일 전화기 또는 사용자의 다른 개인 전자 디바이스와 페어를 이룰 수 있고, 손목 웨어러블 디바이스는 사용자에게 인입 호들, 메시지들, 또는 다른 통신을 통지하는 것과 같이, 다른 디바이스의 기능을 레버리지 또는 향상시킬 수 있다.
손목 웨어러블 디바이스들은 사용자들에게 편리할 수 있다. 디바이스는 사용자의 일상적인 활동들에 최소로 지장을 줄 수 있거나 전혀 지장을 주지 않을 수 있고, 손목에 디바이스를 위치시키는 것은 그것이 용이하게 액세스가능하게 할 수 있다. 사용자는 손목을 단순히 들어올리고/들어올리거나 회전시켜서, 디바이스의 디스플레이를 사용자의 시선 내로 가져올 수 있다. 도 1a 및 도 1b는 전형적인 유스케이스를 도시하며, 여기서 사용자(100)는 디스플레이(104)를 갖는 손목 웨어러블 디바이스(102)를 착용하고 있다. 도 1a에서, 사용자의 팔(106)은 사용자의 측면에서 자연스러운 위치에 있고, 디스플레이(104)는 사용자의 시선 내에 있지 않다. 이러한 위치에서, 디스플레이(104)는 사용자 경험에 영향을 주지 않으면서 비활성 상태(예컨대, 전력차단 또는 저전력 상태여서 정보가 가시적이지 않은 상태)에 있을 수 있다. 도 1b에서, 사용자(100)는 팔(106)을 디스플레이(104)가 현재 사용자의 시선 내에 있게 되는 위치로 들어올리고 회전시켰다. 이러한 위치에서, 디스플레이(104)가 활성 상태인 것(예컨대, 사용자가 디스플레이된 정보를 볼 수 있도록 전력공급 및 조명되어 있는 것)이 바람직하다.
도 1c 및 도 1d는 다른 전형적인 유스케이스를 도시하며, 여기서 사용자(100)는 타이핑과 같은 활동에 관여하면서 손목 웨어러블 디바이스(102)를 착용하고 있다. 도 1c에서, 사용자의 팔(106)은 키보드(120) 상에서 타이핑하기 위해 위치되어 있는데, 팔뚝은 지면에 대략적으로 평행하고, 손목은 손가락들이 키(key)들에 도달하게 하도록 약간 내전(pronate)되어 있다. 이러한 위치에서, 도 1a에서와 같이, 디스플레이(104)는 사용자 경험에 영향을 주지 않으면서 비활성 상태일 수 있다. 도 1d에서, 사용자(100)는 팔(106)을 (손가락들을 키보드(120)와 접촉하지 않게 이동시킬 정도로 충분히) 약간만 들었고, 손목을 추가로 내전시켜서 시선 내로 디스플레이(104)를 가져왔다. 이러한 위치에서, 도 1b에서와 같이, 디스플레이(104)가 활성 상태인 것이 바람직하다.
한 가지 옵션은 디스플레이(104)가 항상 활성 상태이게 하는 것이다. 그러나, 디스플레이(104)가 비활성 상태인 경우보다 활성 상태인 경우에 더 많은 전력을 소비한다는 것을 가정하면, 디스플레이(104)가 사용 중이 아닌 경우에 활성 상태로 유지되게 하는 것은 디바이스(102)에 전력을 공급하는 배터리 상에 불필요한 드레인(drain)을 생성할 수 있다. 다른 옵션은 사용자 입력에만 응답하여 디스플레이(104)를 활성화시키는 것으로; 예를 들어, 사용자는 디바이스(102) 상의 버튼을 눌러서 디스플레이(104)를 웨이크시킬 수 있다. 그러나, 이는 디바이스(102)가 사용하기에 덜 편리하게 할 수 있다. 예를 들어, 도 1a 및 도 1b에 도시된 바와 같이, 사용자의 다른쪽 손은 가방(108)을 들고 있으며, 이는 손목 웨어러블 디바이스(102) 상의 버튼을 누르는 것을 불편하게 할 수 있다.
본 발명의 소정 실시예들에 따르면, 손목 웨어러블 디바이스(102)와 같은 디바이스는 사용자가 디바이스를 볼 준비를 하고 있을 때를 자동으로 검출할 수 있다. 그러한 검출에 기초하여, 디바이스는 그의 디스플레이 및/또는 다른 전력 소비 컴포넌트들을 활성화시킬 수 있다. 일부 실시예들에서, 사용자가 디바이스를 볼 준비를 하고 있다는 것의 검출은 디바이스 내의 저전력 코프로세서(예컨대, 모션 코프로세서) 상에서 실행되는 모션 분석 알고리즘들을 이용할 수 있다. 이는 디바이스의 메인 프로세서(예컨대, 애플리케이션 프로세서)가 적어도 일부의 시간에 슬립 상태로 되어, 전력을 추가로 절전하게 할 수 있다. 일부 실시예들에서, 모션 분석 알고리즘은 사용자가 디바이스를 볼 준비가 된 것, 예컨대 팔 및/또는 손목을 들어올리고/들어올리거나 회전시키는 것(예컨대, 도 1a와 도 1b 사이 또는 도 1c와 도 1d 사이의 팔 위치 차이)과 연관된 모션들(본 명세서에서 "들어올림 제스처들"로 지칭됨)의 카테고리를 검출할 수 있고, 들어올림 제스처 또는 관련 모션의 검출은 디스플레이를 활성화시키는 것과 같은 다양한 행동들을 트리거시킬 수 있다. 들어올림 제스처 검출 알고리즘들은 사용자의 "시작" 포즈에 감응할 수 있고, 특정 시작 포즈는 예상되는 들어올림 제스처에 영향을 주거나 그를 변경시킬 수 있다. 예를 들어, 예상되는 들어올림 제스처는 사용자의 팔이 초기에 아래로 늘어져 있는지(도 1a에 도시된 바와 같음) 아니면 팔꿈치가 구부러진 위치에 있는지(예컨대, 도 1b에 도시된 바와 같음)에 따라 상이할 수 있다. 알고리즘들은, 또한, 유용한 데이터의 타입, 시작 포즈, 및/또는 들어올림 제스처를 구성하는 모션의 본질에 영향을 줄 수 있는 고도로 동적인 환경에서, 예컨대 사용자가 달리고 있는 장소에서 동작하도록 수정될 수 있다.
들어올림 제스처가 디바이스를 보는 것과 연관되는 자연스러운 모션들에 기초하여 검출될 수 있는 경우들에 있어서, 사용자는 손목을 자연스럽게 들어올리고/들어올리거나 회전시켜서, 디바이스의 디스플레이를 시선 내에 가져올 수 있고(예컨대, 도 1b 또는 도 1d에 도시된 바와 같음), 디바이스에 신속한 입력을 제공하지 않은 상태로, 디스플레이되는 정보를 즉각적으로(또는 무시할 수 있을만한 지연 후에) 볼 수 있다. 그러나, 일부 상황들에 있어서, 그러한 "자연스러운" 들어올림 제스처를 검출하는 것은 실용적이지 않을 수 있다. 따라서, "고의적인" 들어올림 제스처가 정의될 수 있고, 고의적인 들어올림 제스처의 검출은 디스플레이 및/또는 다른 컴포넌트들을 활성화시키는 결과를 가져올 수 있다. 고의적인 들어올림 제스처는 사용자가 디바이스의 디스플레이를 활성화시킬 의도로 실행할 수 있는 특정 제스처로서 정의될 수 있고; 제스처는 사용자가 디스플레이를 활성화시키고자 의도하지 않는 경우에 실행될 가능성이 상대적으로 적다는 팔 또는 손목의 이동에 관한 가정에 기초하여 정의될 수 있다. 예를 들어, 하기에 기술되는 바와 같이, 고의적인 들어올림 제스처는 짧은 시간 간격 내에 손목의 이중 진동에 대응하는 것으로 정의될 수 있는데, 그 간격 후에 디바이스는 최종 포즈에서 안정화되고; 다른 정의들이 또한 이용될 수 있다.
일단 사용자가 ― 자연스러운 들어올림 제스처의 검출을 통해서든, 고의적인 들어올림 제스처의 검출을 통해서든, 또는 디바이스와의 일부 다른 사용자 상호작용의 검출을 통해서든 ― 디바이스를 보고 있는 것으로 판정되면, 디바이스의 사용자 인터페이스는 활성화되어, 사용자가 디바이스와 상호작용하게 할 수 있다. 예를 들어, 사용자는 디바이스 상에 디스플레이되는 정보를 볼 수 있고, 입력 제어부들을 동작시켜서 정보 및/또는 명령어들을 디바이스에 제공하게 할 수 있고, 등등을 할 수 있다. 사용자는 디바이스를 보고 그와 상호작용하면서 상대적으로 일정한 배향으로 디바이스를 보유할 개연성이 있다. 사용자가 상호작용을 행한 경우, 사용자의 팔은 그의 시작 위치로 또는 디바이스의 디스플레이가 더 이상 사용자의 시선을 향해 배향되지 않게 되는 다른 위치로 복귀할 개연성이 있다. 일부 실시예들에서, 사용자의 시선으로부터 디바이스를 제거할 모션은 "포커스 소실" 제스처로서 검출될 수 있고, 디스플레이 및/또는 다른 전력 소비 컴포넌트들을 비활성화시키는 것과 같은, 전력을 절전하기 위한 다양한 동작들을 트리거시킬 수 있다.
추가로 또는 대안으로, 일부 실시예들에서, 디바이스의 메인 프로세서("애플리케이션 프로세서"로도 지칭됨)는 디바이스가 능동 사용 중이 아닌 경우에 저전력 또는 "슬립" 상태에 진입하여, 전력 소비를 감소시킬 수 있다. 슬립 상태로부터 디바이스의 능동 사용에 적합한 "웨이크" 상태로의 전이를 완료하는 것(메인 프로세서를 "웨이크시키는 것"으로도 지칭됨)은 약간의 연관된 레이턴시(latency)를 가질 수 있다. 따라서, 사용자가 디스플레이 또는 다른 사용자 인터페이스 컴포넌트들을 또한 웨이크시키지 않으면서 실질적으로 디바이스를 보기 전에 메인 프로세서를 웨이크시키는 것을 시작하는 것은 바람직할 수 있다. 일부 실시예들은, 들어올림 제스처가 완료되기 전, 들어올림 제스처의 개연성있는 시작을 검출할 수 있고 메인 프로세서의 웨이크시키는 것을 개시할 수 있는 "프리히트" 검출 알고리즘을 제공한다. 이러한 동작은 사용자가 디바이스를 보는 경우에 더 빠른 응답 시간을 제공할 수 있다. 프리히트 검출 알고리즘은 들어올림 제스처 검출 알고리즘과 동시에 그리고 일반적으로 그와는 독립적으로 동작할 수 있고; 예를 들어, 알고리즘들은 동일한 수신된 모션 센서 데이터에 대해 상이한 분석들을 수행할 수 있다.
들어올림 제스처들(자연스러운 들어올림 제스처들 및/또는 고의적인 들어올림 제스처들을 포함함) 및 포커스 소실 제스처들의 검출은 다양한 전자 디바이스들에서 구현될 수 있다. 도 2a는 본 발명의 일 실시예에 따른 디바이스(200)의 컴포넌트들을 도시한 블록 다이어그램이다. 디바이스(200)는, 예컨대, 도 1a 내지 도 1d의 손목 웨어러블 디바이스(102)의 구현예일 수 있다. 디바이스(200)는 사용자 인터페이스(202), 애플리케이션 프로세서(204), 저장 서브시스템(206), 코프로세서(208), 가속도계(210), 및 자이로스코프(212)를 포함할 수 있다.
사용자 인터페이스(202)는 디바이스(200)와의 사용자 상호작용을 가능하게 하는 하드웨어 및 소프트웨어 컴포넌트들을 포함할 수 있다. 그러한 컴포넌트들은 일반적인 종래의 설계들 또는 다른 설계들의 것일 수 있다. 예를 들어, 일부 실시예들에서, 사용자 인터페이스(202)는 사용자의 손가락 및/또는 다른 객체들에 의한 접촉을 검출할 수 있는 터치 감응형 오버레이(예컨대, 용량성 또는 저항성)를 갖는 디스플레이(예컨대, LED 기반, LCD 기반 등)를 포함하는 터치 스크린 인터페이스를 포함할 수 있다. 스크린의 특정 영역들을 터치함으로써, 사용자는 취해질 행동들을 나타낼 수 있고, 디바이스로부터의 시각적 프롬프트들에 응답할 수 있고, 등등을 할 수 있다. 추가로 또는 대신에, 사용자 인터페이스(202)는 오디오 컴포넌트들(예컨대, 스피커들, 마이크로폰); 버튼들; 손잡이(knob)들; 다이얼들; 햅틱 입력 또는 출력 디바이스들; 등등을 포함할 수 있다.
일반적인 종래의 설계들 또는 다른 설계들의 하나 이상의 집적 회로들(예컨대, 하나 이상의 코어들을 갖는 프로그래밍가능 마이크로제어기 또는 마이크로프로세서)을 사용하여 구현될 수 있는 애플리케이션 프로세서(204)는 디바이스(200)의 일차 프로세싱 서브시스템일 수 있다. 저장 서브시스템(206)은 메모리 회로들(예컨대, DRAM, SRAM, ROM, 플래시 메모리 등) 또는 다른 컴퓨터 판독가능 저장 매체들을 사용하여 구현될 수 있고, 애플리케이션 프로세서(204)에 의한 실행을 위한 프로그램 명령어들뿐 아니라 그의 동작 과정 중에 디바이스(200)에 의해 생성되거나 그에 공급되는 데이터를 저장할 수 있다. 동작 시, 애플리케이션 프로세서(204)는 저장 서브시스템(206)에 의해 저장된 프로그램 명령어들을 실행시켜서 디바이스(200)의 동작을 제어할 수 있다. 예를 들어, 프로세서(204)는 운영 체제뿐 아니라 특정 태스크(task)들(예컨대, 시간을 디스플레이하는 것, 사용자에게 정보를 제시하는 것, 사용자로부터 정보를 획득하는 것, 페어링된 디바이스와 통신하는 것 등)에 특정적인 다양한 응용 프로그램들을 실행시킬 수 있다. 애플리케이션 프로세서(204)가 희망되는 임의의 프로세싱 태스크들을 실행시킬 수 있고, 본 발명의 실시예들은 임의의 특정 애플리케이션들과는 독립적으로 기능할 수 있다는 것이 이해될 것이다.
본 명세서에서 기술되는 실시예들에서, 애플리케이션 프로세서(204)는 애플리케이션 프로세서(204)에 의한 활동(및 전력 소비)이 감소 또는 최소화될 수 있게 되는 적어도 하나의 "슬립" 상태, 및 애플리케이션 프로세서(204)가 충분히 동작가능하게 되는 "웨이크" 상태를 가질 수 있다. 예를 들어, 애플리케이션 프로세서(204)는 애플리케이션 프로세서(204)가 슬립 상태에 있는 동안에 애플리케이션 프로그램들 및/또는 운영 체제 프로그램들의 실행을 유예시킬 수 있고, 웨이크 상태에 재진입할 시에 실행을 재개시킬 수 있다.
코프로세서(208)는, 애플리케이션 프로세서(204)와 같이, 일반적인 종래의 설계들 또는 다른 설계들의 하나 이상의 집적 회로들(예컨대, 마이크로프로세서 및/또는 마이크로제어기)을 사용하여 구현될 수 있다. 코프로세서(208)는, 애플리케이션 프로세서(204)가 슬립 상태에 있는지 아니면 웨이크 상태에 있는지와는 독립적으로, 코프로세서(208) 내에 펌웨어로서 저장된 또는 달리 그에 액세스가능한 프로그램 코드 명령어들을 실행시킬 수 있다. 일부 실시예들에서, 코프로세서(208)는 능동 동작 동안에 애플리케이션 프로세서(204)보다 상당히 더 낮은 전력 소비를 가질 수 있다. 본 명세서에서 기술되는 예들에서, 코프로세서(208)는 들어올림 제스처들 및/또는 포커스 소실 제스처들의 검출을 포함한, 모션 검출 및 분석에 관련된 동작들을 수행할 수 있다. 일부 실시예들에서, 코프로세서(208)는 또한 본 명세서에 기술되지 않은 다른 동작들을 수행할 수 있다.
코프로세서 (208)는 종래의 설계 또는 다른 설계의 통신 인터페이스(예컨대, 통신 버스)일 수 있는 애플리케이션 프로세서 인터페이스(214)를 통해 애플리케이션 프로세서(204)에 모션 분석에 기초한 통지를 통신할 수 있다. 일부 실시예들에서, 통지는 애플리케이션 프로세서(204)를 슬립 상태로부터 웨이크시키는 신호들 및/또는 사용자 인터페이스(202)를 활성화시키는 신호들을 포함할 수 있다. 일부 실시예들에서, 애플리케이션 프로세서 인터페이스(214)는, 또한, 프로세싱되지 않거나 부분적으로 프로세싱된 데이터를 가속도계(210) 및/또는 자이로스코프(212)로부터 애플리케이션 프로세서(204)로 전달할 수 있다.
모션 검출 및 분석을 가능하게 하기 위해, 코프로세서(208)는 가속도계(210) 및 자이로스코프 센서(자이로스코프로도 지칭됨)(212)와 같은, 디바이스(200)의 온-보드 모션 센서들로부터 입력을 수신할 수 있다. 가속도계(210)는 종래의 설계들 또는 다른 설계들을 이용하여 구현될 수 있고, 하나 이상의 축들을 따라서 디바이스(200)에 의해 경험되는 가속도(중력 가속도뿐 아니라 사용자 모션으로 인한 가속도를 포함함)에 감응할 수 있다. 일부 실시예들에서, 가속도계(210)는 3-축 저전력 MEMS 가속도계를 포함할 수 있고, 고정 샘플링 속도(예컨대, 100 ㎐)로 가속도 데이터를 제공할 수 있다. 자이로스코프(212)는, 또한, 종래의 설계들 또는 다른 설계들을 이용하여 구현될 수 있고, 하나 이상의 축들을 따라서 디바이스(200)의 배향에서의 변화들에 감응할 수 있다. 자이로스코프(212)는 또한 고정 샘플링 속도(예컨대, 100 ㎐)로 배향 데이터를 제공할 수 있다.
본 명세서에서 기술되는 예들에서, 가속도계(210) 및 자이로스코프(212)는 디바이스 상대 좌표계를 정의하도록 디바이스 내에 배향될 수 있다. 도 3은 손목 웨어러블 디바이스(300)(예컨대, 도 1a 및 도 1b의 손목 웨어러블 디바이스(102)일 수 있음)에 대한 디바이스 상대 좌표계의 예를 도시한다. 손목 웨어러블 디바이스(300)는 디스플레이(306)가 사용자에게 보일 수 있도록 스트랩 또는 밴드(304)에 의해 사용자의 손목(302)에 고정될 수 있다. 도시된 바와 같이, x 축은 사용자가 디바이스(300)를 착용하고 있는 경우에 사용자의 팔뚝(308)에 실질적으로 평행하게 정의될 수 있고, y 축은 디스플레이(306)의 평면 내에 그리고 x 축에 직교하게 정의될 수 있고, z 축은 디스플레이(306)의 평면에 직교하게(뷰어를 향하게) 정의될 수 있다. 일부 실시예들에서, 가속도계는 중력뿐 아니라 사용자에 의한 모션에 기인한 가속도를 검출할 수 있다. 예를 들어, 팔뚝(308)이 수평으로 유지되는 경우, 가속도계는 중력 방향에 대한 y 축의 각도가 변화함에 따라 시작 시간과 종료 시간 사이의 가속도의 y 성분의 변화로서 사용자의 손목의 회전(또는 x 축을 중심으로 하는 손목 웨어러블 디바이스(300)의 회전)을 검출할 수 있다. 손목 회전은 또한 x 축을 중심으로 한 회전으로서 자이로스코프를 사용하여 검출될 수 있다. 도 3에 도시된 좌표계는 본 명세서 전체에 걸쳐서 사용되고; 다른 좌표계들이 치환될 수 있다는 것이 이해될 것이다.
도 2a를 다시 참조하면, 일부 실시예들에서, 코프로세서(208)는 (예컨대, 소프트웨어 또는 펌웨어 프로그램 코드를 이용하여) 가속도계(210) 및/또는 자이로스코프(212)로부터의 신호들을 분석하도록 하는 동작들 및 알고리즘들을 구현하는 다양한 모듈들을 포함할 수 있다. 이들 모듈들("제스처 모듈들" 또는 "제스처 검출 모듈들"로 다양하게 지칭됨) 중 일부는 들어올림 제스처들 및/또는 포커스 소실 제스처들의 검출에 관한 동작들 및 알고리즘들을 구현할 수 있다. 예를 들어, 코프로세서(208)는 들어올림 제스처의 가능성있는 개시를 검출하도록 하는 "프리히트" 검출 모듈(220), "저-동적" 환경에서 자연스러운 들어올림 제스처를 검출하도록 하는 제 1 "메인" 검출 모듈(222), "고-동적" 환경에서 자연스러운 들어올림 제스처를 검출하도록 하는 제2 메인 검출 모듈(224), 고의적인 들어올림 제스처를 검출하도록 하는 "지글" 검출 모듈(226), 및 사용자가 가정된 시선 밖으로 디바이스를 이동시키는 때를 검출하도록 하는 포커스 소실 모듈(228)을 포함할 수 있다. 모듈들(220, 222, 224, 226, 228)에서 구현될 수 있는 알고리즘들의 예들이 하기에 기술된다.
웨이크 제어 로직(230)은 분석 모듈들(220 내지 228)의 동작을 제어할 수 있고, 모듈들(220 내지 228)에 의해 보고되는 제스처 상태 판정을 수신할 수 있다. 예를 들어, 웨이크 제어 로직은, 현재의 제스처 상태에 기초하여, 모듈들(220 내지 228) 중에서 임의의 주어진 시간에 인에이블되어야 하는 모듈을 결정할 수 있고, 다양한 알고리즘들을 선택적으로 인에이블 또는 디스에이블시킬 수 있다. 알고리즘을 선택적으로 디스에이블시키는 것은 코프로세서(208)에 의한 전력 소비를 감소시킬 수 있다. 또한, 제스처 상태 판정에 기초하여, 웨이크 제어 로직(230)은 애플리케이션 프로세서 인터페이스(214)를 통해 애플리케이션 프로세서(204) 및/또는 사용자 인터페이스(202)에 통지를 통신할 수 있다.
일부 실시예들에서, 웨이크 제어 로직(230) 및/또는 모션 분석 모듈들(220 내지 228)은 알고리즘들 또는 동작들을 선택적으로 또는 지속적으로 실행시킬 수 있는 추가적인 지지 모듈들을 활용할 수 있다. 예를 들어, 활동 분류기(232)는 가속도계(210) 및/또는 자이로스코프(212)(뿐만 아니라 생리학적 센서들과 같이 디바이스(200) 내에 존재할 수 있는 다른 센서들)로부터 데이터를 수신할 수 있고, 데이터를 분석하여, 사용자가 관여하게 되는 활동의 타입, 예컨대 걷기, 가만히 앉아 있거나 서 있기, 조깅하기, 달리기, 사이클링하기, 자동차 타기 등을 판정할 수 있다. 활동 분류기(232)는 다양한 타입들의 활동과 연관된 특징적 특징부들을 식별하는 기계 학습 알고리즘들을 구현할 수 있고, 알고리즘들은 활동 분류기(232)를 활용하기 전에 공지된 사용자 활동들 동안에 센서 데이터를 수집함으로써 트레이닝될 수 있다.
일부 실시예들에서, 웨이크 제어 로직(230)은 활동 분류기(232)의 출력을 이용하여, 디바이스(200)가, "저-동적" 환경(예컨대, 앉기, 걷기, 또는 다른 상대적으로 느린 이동)(이러한 경우에는 저-동적 메인 검출 모듈(222)이 사용될 수 있음)에 있는지 아니면 "고-동적" 환경(예컨대, 달리기)(이러한 경우에는 고-동적 메인 검출 모듈(224)이 대신 사용되어야 함)에 있는지 판정할 수 있다. 웨이크 제어 로직(230)은 활동 분류기(232)에 의해 나타내진 환경의 타입에 따라 모듈(222 또는 224)을 선택적으로 인에이블 또는 디스에이블시킬 수 있다.
일부 실시예들에서, 제스처 분류기(234)는 메인 검출 모듈(222 또는 224)에 의해 검출된 자연스러운 들어올림 제스처의 검출을 확인하는 데 사용될 수 있다. 하기에 기술되는 바와 같이, 메인 검출 모듈들(222, 224)은 시간의 함수에 따라 디바이스 위치를 분석하여, 전력 효율적인 방식으로 들어올림 제스처를 검출할 수 있다. 그러나, 이들 알고리즘들은, 때때로, 디바이스(200)를 시선 내로 들어올리는 것과 유사한 모션을 수반하지만 실질적으로 그 효과를 갖지는 않는 사용자 행동들의 결과로서 허위 포지티브(false positive)들을 생성할 수 있다. 예를 들어, 사용자가 문 손잡이를 비틀어 문을 열고 있거나 음료수 잔을 들어 음료수를 마시고 있을 수 있다. 제스처 분류기(234)는 다른 유사한 모션들로부터 들어올림 제스처를 신뢰성있게 구별하도록 트레이닝된 기계 학습 알고리즘들을 구현할 수 있다. 일부 실시예들에서, 제스처 분류기(234)는 수행되는 특정 행동이 가속도계 및/또는 자이로스코프 데이터와 함께 기록될 수 있는 환경에서 사용자가 특정 행동들(들어올림 제스처뿐 아니라 다른 유사한 행동들을 포함함)을 수행하는 동안에 가속도계 및/또는 자이로스코프 데이터를 수집함으로써 트레이닝될 수 있다. 이러한 정보는 들어올림 제스처와 다른 유사한 행동들 사이를 신뢰성있게 구별하는 출력을 생성하도록 알고리즘을 트레이닝하는 데 이용될 수 있다. 따라서, 메인 검출 모듈(222 또는 224)이 제스처를 검출하는 경우, 검출 알고리즘(또는 웨이크 제어 로직(230))은 추가 확인 또는 확인거절(disconfirmation)을 위해 관련 특징부 데이터를 제스처 분류기(234)에 제공할 수 있다. 제스처 분류기(234)의 사용의 예들은 메인 검출 모듈(222)의 실시예들과 관련하여 하기에 기술된다. 일부 실시예들에서, 제스처 분류기(234)는 애플리케이션 프로세서(204)가 그의 웨이크 상태에 있는 경우에 애플리케이션 프로세서(204) 상에서 실행될 수 있다.
도 2b는 본 발명의 일 실시예에 따른 디바이스(250)의 컴포넌트들을 도시한 블록 다이어그램이다. 디바이스(250)는, 예컨대, 도 1a 내지 도 1d의 손목 웨어러블 디바이스(102)의 구현예일 수 있다. 디바이스(250)는 사용자 인터페이스 컴포넌트(252), 애플리케이션 프로세싱 유닛(254), 모션 프로세싱 유닛(258), 및 모션 센서(260)를 포함할 수 있다. 사용자 인터페이스 컴포넌트(252)는 도 2a의 사용자 인터페이스(202)(또는 터치 스크린 디스플레이와 같은 그의 컴포넌트들)와 유사하거나 동일할 수 있다. 메인 프로세싱 유닛(254)은 도 2a의 애플리케이션 프로세서(204)와 유사하거나 동일할 수 있다. 모션 센서(260)는 도 2a의 가속도계(210) 및/또는 자이로스코프 센서(212)와 유사하거나 동일할 수 있는 하나 이상의 모션 센서들을 포함할 수 있다. 다른 사용자 인터페이스 컴포넌트들 및/또는 모션 센서들이 또한 사용될 수 있다.
모션 프로세싱 유닛(258)은 도 2a의 코프로세서(208)와 유사하거나 동일할 수 있다. 모션 프로세싱 유닛(258)은 다양한 제스처 검출 모듈들을 포함할 수 있다. 예를 들어, 프리히트 검출 모듈(270)은 도 2a의 프리히트 검출 모듈(220)과 유사하거나 동일할 수 있다. 자연스러운 검출 모듈(저-동적)(272) 및 자연스러운 검출 모듈(고-동적)(274)은 도 2a의 메인 검출 모듈(저-동적)(222) 및 메인 검출 모듈(고-동적)(224)과 유사하거나 동일할 수 있다. 고의적인 검출 모듈(276)은 도 2a의 지글 검출 모듈(226)과 유사하거나 동일할 수 있다. 포커스 소실 검출 모듈(278)은 도 2a의 포커스 소실 검출 모듈(228)과 유사하거나 동일할 수 있다. 활동 분류기 모듈(282)은 도 2a의 활동 분류기(232)와 유사하거나 동일할 수 있다. 제스처 분류기 모듈(284)은 도 2a의 제스처 분류기(234)와 유사하거나 동일할 수 있다. 추가적인 또는 상이한 모듈들이 포함될 수 있고, 일부 실시예들은 도시된 것들보다 더 많거나 더 적은 모듈들을 포함할 수 있다.
디바이스들(200, 250)은 예시적이고, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 디바이스들(200 또는 250)의 실시예들은 도시된 것들 외에도 또는 그들 대신에 다른 컴포넌트들을 포함할 수 있다. 예를 들어, 디바이스(200 또는 250)는 전원(예컨대, 배터리) 및 전력 배분 및/또는 전력 관리 컴포넌트들을 포함할 수 있다. 디바이스(200 또는 250)는 나침반, 온도계 또는 다른 외부 온도 센서, 절대 위치를 판정하도록 하는 GPS(Global Positioning System) 수신기 등, 이미지들을 캡처하도록 하는 카메라, 생리학적 센서들(예컨대, 맥박 센서, 혈압 센서, 피부 전도도 센서, 피부 온도 센서) 등과 같은 다른 센서들을 포함할 수 있다. 디바이스(200 또는 250)는 개인 디바이스들 및/또는 네트워크 액세스 디바이스들을 비롯한 다른 디바이스들과의 통신을 가능하게 하도록 하는 통신 컴포넌트들을 포함할 수 있다. 예를 들어, 디바이스(200 또는 250)는 하나 이상의 무선 통신 표준들(예컨대, 블루투스 표준들; IEEE 802.11계열 표준들; 3G, LTE 등과 같은 셀룰러 데이터 네트워크 표준들)을 구현하는 RF 송수신기 및 연관된 프로토콜 스택을 포함할 수 있다. 추가로 또는 대신에, 디바이스(200 또는 250)는 리셉터클 커넥터(예컨대, 지지 USB, UART, 이더넷, 또는 다른 유선 통신 프로토콜들)와 같은 유선 통신 인터페이스를 포함할 수 있다.
또한, 디바이스들(200, 250)이 특정 블록들을 참조하여 기술되지만, 이들 블록들이 설명의 편리함을 위해 정의되며 컴포넌트 부분들의 특정 물리적 배열을 의미하도록 의도되지 않는다는 것이 이해될 것이다. 또한, 블록들은 물리적으로 별개인 컴포넌트들에 대응할 필요가 없고, 동일한 물리적 컴포넌트들은 다수의 블록들의 태양들을 구현하는 데 사용될 수 있다. 블록들은, 예컨대 프로세서를 프로그래밍하거나 적절한 제어 회로를 제공함으로써 다양한 동작들을 수행하도록 구성될 수 있으며, 다양한 블록들은, 초기 구성이 획득되는 방법에 따라 재구성가능하거나 재구성가능하지 않을 수 있다. 본 발명의 실시예들은 회로 및 소프트웨어의 임의의 조합을 사용하여 구현된 전자 디바이스들을 포함한 다양한 장치들에서 실현될 수 있다. 또한, 디바이스들(200, 250)은 충분히 상호교환가능하고, 디바이스(200)(또는 그의 컴포넌트들)를 언급하는 임의의 설명이 또한 디바이스(250)에 적용될 수 있다는 것이 이해될 것이다.
동작 시, 코프로세서(208)는 (예컨대, 디바이스(200)가 착용되고 있을 때마다) "상시 온"일 수 있고, 웨이크 제어 로직(230)은, 예컨대 사용자가 디바이스를 보고 있는지 여부에 따라, 모듈들(220, 222, 224, 226, 228) 중 임의의 것 또는 모두를 선택적으로 활성화(또는 인에이블)시킬 수 있다. 이들 알고리즘들은 들어올림 제스처들, 프리히트 이벤트들, 포커스 소실 이벤트들 등을 포함한 다양한 제스처 상태 이벤트들을 검출 및 보고할 수 있다. 특정 예들이 하기에 기술된다. 알고리즘이 이벤트를 보고하는 경우, 웨이크 제어 로직(230)은 애플리케이션 프로세서 인터페이스(214)를 통해 애플리케이션 프로세서(204)에 이벤트를 통지할 수 있다. 이벤트에 따라, 애플리케이션 프로세서(204)는 슬립 상태로부터 웨이크 상태로의 전이 및/또는 활성 상태와 비활성 상태 사이에서의 사용자 인터페이스(202)의 컴포넌트들의 전이와 같은 다양한 동작들을 취할 수 있다.
제스처 관련 이벤트들을 검출하도록 하는 특정 알고리즘들의 예들이 이제 기술될 것이다. 본 명세서에서 사용되는 바와 같이, "제스처 관련 이벤트"는 일반적으로 모듈들(220, 222, 224, 226, 228)과 같은 모듈 또는 알고리즘에 의해 검출되는 임의의 제스처 관련 전이를 지칭한다. 그러한 이벤트들의 예들은 들어올림 제스처들(하기에 기술되는 바와 같은 "가능성있는", "검출된", 및/또는 "확인된" 들어올림 제스처들의 식별을 포함함), 프리히트 제스처들, 및/또는 포커스 소실 제스처들을 포함한다. 하기에 기술되는 종류의 알고리즘들은, 예컨대 적합한 프로그램 코드를 프로그래밍가능 프로세서(예컨대, 코프로세서(208))에 제공함으로써 그리고/또는 기술되는 동작들을 수행하도록 하는 전용 로직 회로를 제공함으로써 구현될 수 있다.
일부 실시예들에서, 들어올림 제스처 검출 알고리즘은 들어올림 제스처가 수행되었다는 신뢰도를 증가시키는 일련의 상태들을 통해 진행될 수 있다. 예를 들어, 들어올림 제스처 검출 알고리즘은 관심 시간 간격(예컨대, 사용자가 들어올림 제스처를 실행하게 할 개연성이 있는 시간의 양)에 대응하는 모션 센서 데이터 샘플들(가속도계 및/또는 자이로스코프 센서 데이터를 포함함)의 세트를 선택할 수 있다. 세트 내의 가장 오래된 샘플(들)을 고려함으로써, 알고리즘은 시간 간격의 시작에서 디바이스의 공간 배향을 반영할 수 있는 "시작 포즈"를 정의할 수 있다. 배향은 중력의 가정된 수직 축에 대해 정의될 수 있다. 시작 포즈에 기초하여, 알고리즘은 디바이스의 디스플레이를 사용자의 시선 내에 가져오도록(디바이스가 "포커스 포즈" 내에 가져오는 것으로도 지칭됨) 발생할 가능성이 있는 모션의 양 및/또는 방향(들)을 판정할 수 있다. 모션의 가능성있는 양 및/또는 방향(들)은 "가능성있는" 들어올림 제스처를 식별하기 위한 기준들로서 표현될 수 있고, 이들 기준들은, 세트 내의 모션 센서 데이터 샘플들 중 일부 또는 모두에 기초하여, 가능성있는 들어올림 제스처가 발생했는지 여부를 식별하는 데 이용될 수 있다. 가능성있는 들어올림 제스처는 포커스 포즈에 도달한 디바이스가 적어도 최소 기간 동안에 포커스 포즈에 체류하는지 여부를 판정함으로써 "검출된" 들어올림 제스처로서 추가로 식별될 수 있다. 추가 확인이, 원한다면, 제스처 분류기를 사용하여 수행될 수 있다. 들어올림 제스처 검출 알고리즘은 디바이스의 다른 컴포넌트들에 그것이 가능성있는, 검출된, 및/또는 확인된 들어올림 제스처를 식별할 때마다 통지할 수 있다.
들어올림 제스처 검출에 대한 단계적 접근법의 특정 예로서, 도 4는 본 발명의 일 실시예에 따른 들어올림 제스처 검출 프로세스(400)에 대한 흐름도이다. 프로세스(400)는, 예컨대 도 2a의 메인 검출(저-동적) 모듈(222)에서 실행될 수 있다. 들어올림 제스처 검출 프로세스(400)는 일련의 (가능성있는, 검출된, 확인된) 제스처 상태들을 통해 진행될 수 있고, 각각의 상태 전이를, 예컨대 도 2a의 웨이크 제어 로직(230)에 보고할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 제스처 상태 전이를 이용하여, 애플리케이션 프로세서(204)를 웨이크시킬 것인지의 여부 및 이를 웨이크시킬 때, 및/또는 애플리케이션 프로세서(204)에 사용자 인터페이스(202)를 활성화시킬 것을 명령할 것인지의 여부 및 이를 명령하는 때를 판정할 수 있다.
프로세스(400)는 사용자 인터페이스(202)가 비활성 상태일 때 시작될 수 있다(블록(402)). 이때, 애플리케이션 프로세서(204)는, 원하는 바에 따라, 슬립 상태 또는 웨이크 상태에 있을 수 있다. 가속도계(210)는 업데이트된 데이터를 일반 샘플링 속도(예컨대, 100 ㎐)로 제공하고 있을 수 있고, 데이터는 도 3에 도시된 바와 같은 디바이스 상대 좌표계를 이용하여 가속도의 벡터 성분들(ax, ay, az)을 나타낼 수 있다. 수신된 데이터는, 예컨대 원형 버퍼 또는 FIFO 등을 사용하여 버퍼링될 수 있다.
블록(404)에서, 프로세스(400)는 가속도계 데이터 버퍼로부터 데이터 샘플들을 판독할 수 있다. 데이터의 양은 샘플링 속도, 및 모션을 분석하기 위한 희망 시간 간격에 의존할 수 있다. 예를 들어, 프로세스(400)는 고정 시간 간격 또는 시간 윈도우, 예컨대 0.5초, 1초 등에 대응하는 데이터를 판독할 수 있다.
블록(406)에서, 프로세스(400)는, 예컨대 버퍼로부터 판독되는 가장 오래된 샘플들에 기초하여, 간격의 시작에 대응할 수 있는 디바이스에 대한 시작 포즈를 추정할 수 있다. 일부 실시예들에서, 가속도계 판독물은 중력 가속도(디바이스의 배향에 의존하는 방향에서 1 g)를 포함한다. 따라서, 다른 가속도가 상대적으로 작은 경우, 중력에 대한 디바이스의 배향은 가속도계 데이터에 기초하여 판정될 수 있다. 예를 들어, 도 1a의 늘어뜨린 팔 위치에서, 가속도계(210)는 대략 1 g의 ax, 및 대략 0의 ay 및 az를 검출할 수 있다. 도 1c의 타이핑 위치에서, 가속도계(210)는 대략 0의 ax, 0 내지 1 g의 ay, 및 0 내지 -1 g의 az를 검출할 수 있다. 따라서, 블록(406)은 가장 오래된 샘플들(예컨대, 5 내지 10개 샘플들에 대한 평균)을 특정 "표준(canonical)" 시작 포즈들과 연관된 샘플 패턴들과 비교하는 것을 포함할 수 있다. 표준 시작 포즈들은, 예를 들어 디바이스 착용자가 특정 포즈(예컨대, 도 1a 또는 도 1c의 포즈)에 있는 것으로 공지되게 되는 조건 하에 수집된 가속도계 측정치들에 기초하여, 디바이스의 활용 전에 정의될 수 있다. 일부 실시예들에서, 시작 포즈는 다수의 표준 시작 포즈들의 블렌드로서 정의될 수 있다. 예를 들어, 블렌드는 표준 시작 포즈들의 가중 평균으로서 정의될 수 있는데, 각각의 표준 시작 포즈에 대한 가중치는 표준 시작 포즈와 연관된 디바이스 배향에 대한 측정된 디바이스 배향의 친밀도의 측정치에 기초한다.
블록(408)에서, 추정된 시작 포즈에 기초하여, 프로세스(400)는 그 시작 포즈로부터 실행되는 "가능성있는" 들어올림 제스처를 식별하기 위한 기준들을 선택할 수 있다. 상이한 기준들은 상이한 시작 포즈들에 대해 정의될 수 있다. 예를 들어, 시작 포즈가 (예컨대, 도 1a에 도시된 바와 같이) 팔이 아래로 있는 경우, 들어올림 제스처는 팔뚝을 드는 것 및 손목을 회전시키는 것을 수반하는 것으로 예상될 것인데, 이들 양측 모두는 주로 ax 및 ay에서의 변화를 참조하여 검출될 수 있지만 az에 대한 일부 효과가 또한 예상될 수 있다. 시작 포즈가 (예컨대, 도 1c에 도시된 바와 같이) 타이핑 포즈인 경우, 팔뚝의 들림이 거의 또는 전혀 없을 수도 있지만(그리고 그 결과로 ax에서의 변화가 거의 없지만), ay에서의 변화로서 가장 신뢰성있게 검출가능할 수 있는 경사에서의 변화가 있을 가능성이 있을 것이다. (사용자가 경험할 수 있는 우발적인 충돌(jarring) 또는 다른 랜덤 이동과는 대조적으로, 의도적인 제스처가 평탄하게 실행될 것을 가정하면) 모션의 평탄화를 정량화하는 파라미터와 같은 버퍼 내의 가속도계 데이터로부터 도출가능한 다른 기준들이 또한 채용될 수 있다. 일부 실시예들에서, 시작 포즈가 주어지면, 가능성있는 들어올림 제스처를 식별하기 위한 기준들의 세트가 휴리스틱으로 확립될 수 있다. 예를 들어, 다수의 사용자들이 특정 시작 포즈로부터 들어올림 제스처들을 행할 것을 요청받을 수 있고, 생성된 가속도계 데이터가 시작 포즈로부터 들어올림 제스처의 완료까지의 이동 전체에 걸쳐서 수집될 수 있다. 통계 알고리즘들이, 그 특정 시작 포즈로부터 수행된 가능성있는 들어올림 제스처를 인식하기 위한 특정 기준들(예컨대, ay에서의 변화에 대한 임계치들, 모션의 평탄도 등)을 식별하기 위해 이러한 데이터를 분석하도록 적용될 수 있다. 이러한 단계에서의 기준들은 대략적이어서, 허위 네거티브들이 상대적으로 낮게 유지되는 동안에 일부 허위 포지티브들이 발생할 수 있다. 휴리스틱 운동이 임의의 수의 표준 시작 포즈들에 대해 포즈 의존적 임계치 기준들을 확립하도록 반복될 수 있다. 일부 실시예들에서, 분석의 결과들은 기준들의 테이블을 생성하는 데 이용될 수 있어서, 블록(406)에서 추정된 시작 포즈가 주어지면, 가능성있는 들어올림 제스처를 식별하기 위한 기준들의 대응하는 세트가 테이블 룩업을 통해 블록(408)에서 선택될 수 있다. 일부 실시예들에서, 시작 포즈는 다수의 표준 시작 포즈들의 블렌드로서 정의될 수 있고, 이것이 사실인 경우, 블록(408)은 다수의 표준 시작 포즈들에 대해 정의되는 선택 기준들을 블렌딩하는 것을 포함할 수 있다.
블록(410)에서, 프로세스(400)는 가능성있는 들어올림 제스처가 식별되는지 여부, 예컨대 블록(408)에서 선택된 기준들이 만족되는지 여부를 판정할 수 있다. 일부 실시예들에서, 판정은 특정 가속도계 데이터 샘플들 및/또는 가속도계 데이터 샘플들로부터 계산된 다른 파라미터들을 블록(408)에서 선택된 임계치 기준들과 비교하는 것을 포함할 수 있는데, 가능성있는 들어올림 제스처는 임계치 기준들이 만족되는 경우에 검출된다. 또한, 들어올림 제스처가 수행되고 있는 경우, 제스처의 완료 시, 디바이스는 사용자의 시선 내에 있는 그의 디스플레이와 일치하는 배향으로 놓이게 될 것으로 예상될 수 있다. 따라서, 블록(410)은, 예컨대 버퍼로부터 판독되는 가장 새로운 샘플들에 기초하여, 간격의 끝에 대응할 수 있는 디바이스에 대한 끝내기 포즈를 추정하는 것을 포함할 수 있다. 끝내기 포즈는 디스플레이가 사용자의 시선에 있는 것과 일치하는 포즈들의 범위(예컨대, 수평에 대한 y 및/또는 x 방향들에서의 경사각들의 범위)와 비교될 수 있는데, 가능성있는 들어올림 제스처는 끝내기 포즈가 이러한 범위 내에 있는 경우에 검출된다. "포커스 포즈"라는 용어는, 본 명세서에서, (예컨대, 경사각들에 기초하여) 디바이스가 사용자의 시선에 있는 것과 일치하는 것으로 간주되는 포즈들의 범위 내의 임의의 포즈를 일반적으로 지칭하는 데 사용된다.
가능성있는 들어올림 제스처가 검출되지 않는 경우, 프로세스(400)는 블록(404)으로 복귀하여, 추가적인 가속도계 데이터를 판독할 수 있다. 전술된 바와 같이, 블록(404)에서 판독된 데이터는 실시간의 고정 간격에 대응하는 고정 길이 윈도우일 수 있다. 블록(404)의 연속적인 반복 동안에 판독된 데이터의 연속적인 윈도우들이 오버랩될 수 있다. 예를 들어, 윈도우가 실시간의 1초에 대응하는 경우, 연속적인 반복은 매 0.1초 등마다 발생할 수 있다(또는, 더 빠른 속도에서는, 윈도우가 반복 중에 적어도 하나의 샘플만큼 시프트되는 한, 블록들(406, 408)의 연속적인 반복에서의 분석은 리던던트가 아닐 것이다). 이는 윈도우 효과들로 인해 허위 네거티브가 발생할 가능성을 더 적게 만들 수 있다.
블록(410)에서 가능성있는 들어올림 제스처가 검출된 경우, 블록(412)에서, 프로세스(400)는 웨이크 제어 로직(230)에 가능성있는 들어올림 제스처가 검출되었음을 통지할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204) 및/또는 사용자 인터페이스(202)에 통지하는 것과 같은 이러한 통지에 응답하여 동작을 취할 수 있다. 블록(414)에서, 프로세스(400)는 추가적인 가속도계 데이터 샘플들(예컨대, 오리지널 윈도우 외부의 새롭게 수신된 샘플들을 포함함)을 모니터링하여, 디바이스가 포커스 포즈에 체류하는지(예컨대, 대략적으로 일정한 위치에서 유지되는지) 아니면 계속해서 이동하는지 검출할 수 있다. 예를 들어, 전술된 바와 같이, 포커스 포즈는 사용자가 디바이스를 보고 있는 동안에 예상되는 경사각들의 특정 범위에 기초하여 정의될 수 있다. 경사각들은 가속도계 데이터로부터 추론될 수 있고, 경사각이 이러한 범위 내에 도달하여 유지되는 경우, 그 조건은 포커스 포즈에의 체류에 대응할 수 있다.
일부 실시예들에서, 포커스 포즈에 대응하는 가속도계 데이터 값들의 범위는 시작 포즈에 적어도 부분적으로 의존할 수 있다. 예를 들어, 시작 포즈로부터 포커즈 포즈로의 전이는 y 축을 따르는 소정 양의 경사(본 명세서에서는 "y-경사"로도 지칭됨)를 증가시키는 것을 수반할 수 있다. 예를 들어, 증가된 y-경사는 (사용자의 손목을 돌리는 동안의) 0 이상인 시작 ay 성분으로부터 (사용자의 눈을 향해 디스플레이를 배향시키도록 손목을 변화시킬 때) 0 미만인 끝내기 ay 성분으로의 순변화로서 측정될 수 있다. 블록(414)은 y-경사가 일정하게 유지되는지, 계속해서 증가되는지, 또는 방향을 반전시키는지 모니터링하는 것을 포함할 수 있고, 증가된 y-경사의 소실은 포커스 포즈로부터 이동하는 것을 나타낼 수 있다.
프로세스(400)는 체류 시간이 임계치(예컨대, 0.1초, 0.5초 등)에 도달하거나 그를 초과할 때까지, 또는 가속도계 데이터가 포커스 포즈가 소실되었음을 나타낼 때까지, 블록(414)에서 체류 시간을 모니터링할 수 있다. 블록(416)에서 체류 시간이 임계치에 도달하기 전에 포커스 포즈가 소실되는 경우, 프로세스(400)는 블록(404)으로 복귀하여, 새로운 시작 포즈를 결정하도록 그리고 다른 가능성있는 들어올림 제스처를 검출하고자 시도하도록 할 수 있다.
블록(416)에서 포커스 포즈에서의 체류 시간이 임계치를 초과하는 경우, 이전에 검출된 가능성있는 들어올림 제스처는 검출된 들어올림 제스처로서 재분류될 수 있다. 블록(418)에서, 프로세스(400)는 웨이크 제어 로직(230)에 검출된 들어올림 제스처가 발생했음을 통지할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은, 이러한 통지에 응답하여, 사용자 인터페이스(202)를 활성화시키는 것, 애플리케이션 프로세서(204)에 통지하는 것 등과 같은 동작을 취할 수 있다.
일부 실시예들에서, 허위 포지티브들을 감소시키기 위한 들어올림 제스처의 추가 확인이 요망될 수 있다. 따라서, 블록(420)에서 들어올림 제스처를 검출한 후, 프로세스(400)는 추가 분석 프로세스, 예컨대 도 2a의 제스처 분류기(234)를 호출할 수 있다. 전술된 바와 같이, 제스처 분류기(234)는 다른 유사한 제스처들로부터 들어올림 제스처를 구별하기 위해 이전에 트레이닝되었던 기계 학습 알고리즘일 수 있다. 제스처 분류기(234)는 블록(420)에서 프로세스(400)에 의해 제공된 데이터를 분석하여, 검출된 들어올림 제스처를 확인 또는 확인거절할 수 있다. 블록(422)에서 들어올림 제스처가 확인된 경우, 프로세스(400)는 블록(424)에서 웨이크 제어 로직(230)에 그렇게 통지할 수 있고, 그 후에 프로세스(400)가 종료될 수 있다(블록(426)). 블록(422)에서 들어올림 제스처가 확인되지 않는 경우, 프로세스(400)는 블록(428)에서 웨이크 제어 로직(230)에 그렇게 통지할 수 있고, 그 후에 프로세스(400)는 블록(404)으로 복귀하여, 다른 가능성있는 들어올림 제스처를 검출하고자 시도하도록 할 수 있다. 일부 실시예들에서, 블록(426)에서의 종료 후, 프로세스(400)는 (블록(402)에서) 임의의 시간, 예컨대 포커스의 소실이 (하기에 기술되는 바와 같이) 검출되는 경우 또는 사용자 인터페이스(202)가 임의의 이유로 비활성화 상태로 되는 경우에 재시작될 수 있다.
도 5는, 본 발명의 일 실시예에 따른, 제스처 분류기를 사용하여 제스처를 확인하기 위한 프로세스(500)의 흐름도이다. 프로세스(500)는 전술된 도 4의 프로세스(400)와 관련하여 이용될 수 있다. 프로세스(500)는, 예컨대 제스처 분류기(234)를 호출할 수 있는 메인 제스처 검출 모듈(222)에 의해 실행될 수 있다.
프로세스(500)는, 예컨대 프로세스(400)의 블록(416)에서 메인 제스처 검출 모듈(222)이 들어올림 제스처를 검출할 때, 블록(502)에서 시작될 수 있다. 블록(504)에서, 메인 제스처 검출 모듈(222)은 검출된 들어올림 제스처에 대한 신뢰 스코어를 할당할 수 있다. 일부 실시예들에서, 신뢰 스코어는 디바이스 포즈가 포커스 포즈의 예상 특징부들과 얼마나 잘 매칭하는지(예컨대, 디바이스 포즈가 포커스 포즈에 대해 예상되는 가속도계 데이터 값들 및/또는 경사 값들의 범위의 에지 또는 센터 근처에 있는지 여부)와 포커스 포즈에서의 체류 시간의 길이의 조합에 기초할 수 있다.
블록(506)에서, 프로세스(500)는 제스처 분류기에 대한 (시간적으로) 주요 시작 지점을 선택할 수 있다. 주요 시작 지점은 포커스 포즈에 앞서는 가속도계 데이터 샘플들의 트렌드에 기초하여 선택될 수 있다. 예를 들어, 프로세스(500)는 가속도계 데이터 샘플들이 들어올림 제스처를 나타내는 방식으로 변화하기 시작하게 되는 시점을 식별할 수 있다. 이는, 프로세스(500)가, 사용자가 상이한 속도들로 들어올림 제스처를 실행할 수 있다는 사실을 다루게 한다. 사용자가 빠르게 이동한 경우, 주요 시작 지점은 사용자가 느리게 이동한 경우보다 현재(즉, 가장 최근의 샘플)에 더 가까울 것이다. 따라서, 제스처 분류에 관한 데이터의 윈도우는 가변적일 수 있다.
블록(508)에서, 프로세스(500)는 주요 시작 지점으로부터 현재로 연장되는 데이터의 윈도우로부터 제스처 분류기에 대한 관심 특징부들을 추출할 수 있다. 들어올림 제스처에 대한 관심 특징부들은 제스처 분류기가 트레이닝된 방법에 의존할 수 있다. 제스처 분류기가 가속도계 데이터에 대해 동작하는 일부 실시예들에서, 관심 특징부들은, 실질적 가속도계 샘플들(ax, ay, az); 평탄도 파라미터(예컨대, 연속 가속도계 샘플들 사이의 변화들의 표준 편차에 기초함); 시간의 함수로서 증가된 경사(예컨대, y-경사); 및 시작 및 끝내기 디바이스 배향 또는 자세(예컨대, 시작 및 끝내기 경사 값들)를 포함할 수 있다. 제스처 분류기가 자이로스코프 데이터에 대해 동작하는 일부 실시예들에서, 관심 특징부들은, 실질적 자이로스코프 샘플들(rx, ry, rz); 수평면(즉, 중력 방향에 수직인 평면)을 횡단하는 아크 길이; 및 평탄도 파라미터(예컨대, 연속 자이로스코프 샘플들 사이의 변화들의 표준 편차에 기초함)를 포함할 수 있다.
블록(510)에서, 프로세스(500)는 제스처 분류기(234)를 호출하여, 추출된 특징부들을 프로세싱할 수 있다. 일부 실시예들에서, 제스처 분류기(234)는 선형 판별 분석을 수행하는 베이시안(Bayesian) 분류기일 수 있다. 전술된 바와 같이, 선형 판별 분석 알고리즘은 활용에 앞서서 트레이닝되어, 제스처 분류기(234)가 특징부들이 들어올림 제스처에 대응하는 확률을 빠르게 계산하게 할 수 있다. 블록(512)에서, 프로세스(500)는 제스처 분류기(234)로부터의 출력을 수신할 수 있다. 출력은, 예를 들어, 들어올림 제스처가 수행된 확률(0 내지 1)을 포함할 수 있다.
블록(514)에서, 프로세스(500)는 들어올림 제스처가 확인되는지 아닌지 여부를 판정할 수 있다. 일부 실시예들에서, 판정은 제스처 분류기(234)의 확률 출력에 대한 임계치에 기초할 수 있고, 임계치는, 예컨대 원하는 바에 따라 0.5, 0.75, 0.85 또는 일부 다른 임계치로 설정될 수 있다. 더 높은 임계치들은 일반적으로 더 적은 허위 포지티브들을 제공하지만 더 많은 허위 네거티브들을 제공하고, 최적의 임계치는 주어진 구현예에서 허위 포지티브들 및/또는 허위 네거티브들의 허용가능한 레벨들에 기초하여 선택될 수 있다. 일부 실시예들에서, 임계치는 블록(504)에서 할당된 신뢰 스코어의 함수로서 선택될 수 있다. 예를 들어, 블록(514)에서의 더 높은 신뢰 스코어는 제스처 분류기에 의해 할당된 확률에 대한 더 낮은 임계치를 가져올 수 있는 반면, 더 낮은 신뢰 스코어는 제스처 분류기에 의해 할당된 확률에 대한 더 높은 임계치를 가져올 수 있다.
블록(516)에서, 프로세스(500)는 결정을 내릴지 또는 더 많은 데이터를 기다릴지 판정할 수 있다. 예를 들어, 제스처가 확인되는 것이 아니라 제스처 분류기로부터의 확률 출력이 임계치에 가까운 경우, 추가적인 데이터를 기다리는 것이 바람직할 수 있다. 그러한 경우에 있어서, 프로세스(500)는 블록(518)에서 들어올림 제스처를 확인함 또는 확인거절함 중 어느 한쪽이 없이 종료될 수 있고, 제어가 전술된 프로세스(400)의 블록(414)으로 복귀될 수 있다. 대안으로, 프로세스(500)는 블록(520)에서 확인함 또는 확인거절함 중 어느 한쪽과 함께 종료될 수 있고, 제어는 전술된 프로세스(400)의 블록(422)으로 복귀될 수 있다.
프로세스(500)는 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 순차적인 것으로서 설명되는 단계들은 동시에 실행될 수 있고, 단계들의 순서가 변할 수 있으며, 단계들이 수정, 조합, 추가 또는 생략될 수 있다. 예를 들어, 다른 확인 알고리즘들이 이용될 수 있다. 일부 실시예들에서, 프로세스(500)는, 항상, 기다리라는 옵션 없이 확인 또는 확인거절하도록 하는 결정을 내릴 수 있다.
일부 실시예들에서, 제스처 분류기(234)에 의한 확인 또는 확인거절은 디바이스 거동을 변경할 수 있다. 예를 들어, 검출된 들어올림 제스처가 확인될 때까지 일부 또는 모든 사용자 인터페이스 컴포넌트들의 활성화가 연기될 수 있다. 다른 예로서, 사용자 인터페이스 컴포넌트가 검출된 들어올림 제스처에 응답하여 활성화되는 경우, 제스처 분류기(234)에 의한 후속 확인거절은 그 사용자 인터페이스 컴포넌트를 비활성화시키게 할 수 있다.
도 6은 본 발명의 일 실시예에 따른, 프로세스(400)를 실행하는 들어올림 제스처 검출 모듈(222)에 대한 제스처 상태들을 도시한 상태 다이어그램이다. 이들 상태들 사이에서의 전이는 웨이크 제어 로직(230)에 보고될 수 있거나, 또는 달리 디바이스(200)의 사용자 인터페이스(202) 및/또는 다른 컴포넌트들의 상태에 영향을 주는 데 이용될 수 있다.
상태(602)는 들어올림 제스처 검출 모듈(222)이 가능성있는 들어올림 제스처를 검출하지 않은 "널(null)" 상태일 수 있다. 이는, 예컨대 도 4의 프로세스(400)의 초기 상태일 수 있고, 모듈(222)은 가능성있는 들어올림 제스처가 (예컨대, 도 4의 블록(410)에서) 검출될 때까지 이러한 상태에서 유지될 수 있다. 상태(604)는 모듈(222)이 (예컨대, 도 4의 블록(410)에서) 가능성있는 들어올림 제스처를 검출한 "가능성있는 제스처" 상태일 수 있다. 가능성있는 들어올림 제스처가 후속하여 거부되는 경우, 모듈(222)은 널 상태(602)로 복귀할 수 있다. 가능성있는 들어올림 제스처가 (예컨대, 도 4의 블록(416)에서) 검출된 들어올림 제스처가 되는 경우, 모듈(222)은 "검출된 제스처" 상태(606)로 전이될 수 있다. 이는 들어올림 제스처가 발생했다는 신뢰도의 증가를 반영한다. 상태(606)에 있는 동안, (예컨대, 프로세스(400)의 블록들(420, 422)에서) 추가 분석이 수행되어, 검출된 들어올림 제스처를 확인하게 할 수 있다. 검출된 들어올림 제스처가 확인되지 않는 경우, 모듈(222)은 널 상태(602)로 복귀할 수 있다. 검출된 들어올림 제스처가 확인되는 경우, 모듈(222)은 확인된 제스처 상태(608)로 전이될 수 있다. 이 때, 들어올림 제스처 검출이 완료되고, 모듈(222)의 추가 실행이 중지될 수 있다. 전술된 바와 같이, 모듈(222)은 들어올림 제스처를 검출하는 것이 다시 유용하게 될 때(예컨대, 포커스 소실이 검출되거나 또는 사용자 인터페이스(202)가 달리 비활성 상태로 될 때) 재시작될 수 있다. 또한, 하기에 기술되는 바와 같이, 확인된 제스처 상태(608)에 도달되는 경우, 포커스 소실 검출 모듈(228)과 같은 다른 알고리즘들이 제스처 상태를 모니터링하기를 계속하도록 그리고 확인된 제스처 상태(608)로부터 널 상태(602)로의 전이를 검출하도록 하는 데 이용될 수 있다. 프로세스(400)는 도 6의 상태들 및 전이들을 제공하는 모듈(222)의 예를 제공하지만, 다른 알고리즘들이 치환될 수 있다는 것이 이해될 것이다.
도 7은 본 발명의 일 실시예에 따른 자연스러운 들어올림 제스처 검출 모듈(700)의 기능 블록 다이어그램이다. 도시된 바와 같이, 자연스러운 들어올림 제스처 검출 모듈(700)은 도 2b의 모션 프로세싱 유닛(258)에서, 예를 들어 자연스러운 들어올림 제스처 검출 모듈(272)로서 구현될 수 있다. 자연스러운 들어올림 제스처 검출 모듈(700)은 또한 도 2a의 메인(저-동적) 검출 모듈(222)로서 구현될 수 있다. 자연스러운 들어올림 제스처 검출 모듈(700)은 시작 포즈 추정 유닛(702), 기준 판정 유닛(704), 가능성있는 들어올림 제스처 판정 유닛(706), 검출된 들어올림 제스처 판정 유닛(708), 및 확인 유닛(710)을 포함할 수 있다. 각각의 유닛은, 예를 들어 프로세서 및/또는 전용 로직 회로들 상에서 실행가능한 프로그램 코드를 이용하여 구현될 수 있다.
시작 포즈 추정 유닛(702)은 모션 센서 데이터를 수신할 수 있고, 모션 센서 데이터에 기초하여 시작 포즈를 추정할 수 있다. 예를 들어, 시작 포즈 추정 유닛(702)은 전술된 프로세스(400)의 블록(406)을 구현할 수 있다. 시작 포즈 추정 유닛(702)은 기준 판정 유닛(704)에 추정된 시작 포즈를 제공할 수 있다.
기준 판정 유닛(704)은 시작 포즈 추정 유닛(702)에 의해 추정된 시작 포즈에 적어도 부분적으로 기초하여 가능성있는 들어올림 제스처를 검출하기 위한 기준들을 판정할 수 있다. 예를 들어, 기준 판정 유닛(704)은 전술된 프로세스(400)의 블록(408)을 구현할 수 있다. 기준 판정 유닛(704)은 가능성있는 들어올림 제스처 판정 유닛(706)에 가능성있는 들어올림 제스처를 검출하기 위한 기준들을 제공할 수 있다.
가능성있는 들어올림 제스처 판정 유닛(706)은 모션 센서 데이터를 수신할 수 있으며, 수신된 데이터가 기준 판정 유닛(704)에 의해 판정된 기준들을 만족시키는지 여부를 판정할 수 있다. 예를 들어, 가능성있는 들어올림 제스처 판정 유닛(706)은 전술된 프로세스(400)의 블록(410)을 구현할 수 있다. 기준들이 만족되는 경우, 가능성있는 들어올림 제스처 판정 유닛(706)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 가능성있는 들어올림 제스처 판정 유닛(706)은 전술된 프로세스(400)의 블록(412)을 구현할 수 있다. 가능성있는 들어올림 제스처 판정 유닛(706)은 또한 기준들이 만족되는 경우에 검출된 들어올림 제스처 판정 유닛(708)에 통지할 수 있다.
검출된 들어올림 제스처 판정 유닛(708)은 가능성있는 들어올림 제스처 판정 유닛(706)으로부터 가능성있는 들어올림 제스처의 통지를 수신할 수 있고, 추가적인 가속도계 데이터를 모니터링하여, 검출된 들어올림 제스처에 대해 최소 체류 시간이 발생하고/발생하거나 다른 조건들이 충족되는지 여부를 판정할 수 있다. 예를 들어, 검출된 들어올림 제스처 판정 유닛(708)은 전술된 프로세스(400)의 블록들(414, 416)을 구현할 수 있다. 검출된 들어올림 제스처에 대한 조건들이 만족되는 경우, 검출된 들어올림 제스처 판정 유닛(708)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 검출된 들어올림 제스처 판정 유닛(708)은 프로세스(400)의 블록(418)을 구현할 수 있다. 검출된 들어올림 제스처 판정 유닛(708)은 또한 확인 유닛(710)에 검출된 들어올림 제스처에 대한 조건이 충족되는 경우에 통지할 수 있다.
확인 유닛(710)은 검출된 들어올림 제스처와 연관된 모션 센서 데이터에 기초하여 제스처 확인을 수행할 수 있다. 예를 들어, 확인 유닛(710) 은 전술된 프로세스(400)의 블록들(420, 422) 및/또는 프로세스(500)의 블록들(504 내지 520)을 구현할 수 있다. 일부 실시예들에서, 확인 유닛(710)은 도 2a의 제스처 분류기(234) 또는 도 2b의 제스처 분류기 모듈(284)을 호출할 수 있다. 확인 유닛(710)은 검출된 들어올림 제스처가 확인되어 있는지 아니면 확인거절되어 있는지에 대해 다른 시스템 컴포넌트들(예컨데, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다.
자연스러운 들어올림 제스처 검출 모듈(700)이 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 예를 들어, 자연스러운 들어올림 제스처 검출 모듈(700)이 특정 블록들 또는 유닛들을 참조하여 설명되지만, 이들 블록들이 설명의 편리함을 위해 정의되고 컴포넌트 부분들의 특정 물리적 배열을 의미하도록 의도되지 않는다는 것이 이해될 것이다. 또한, 블록들은 물리적으로 별개인 컴포넌트들에 대응할 필요가 없고, 동일한 물리적 컴포넌트들은 다수의 블록들의 태양들을 구현하는 데 사용될 수 있다. 블록들은, 예컨대 프로세서를 프로그래밍하거나 적절한 제어 회로를 제공함으로써 다양한 동작들을 수행하도록 구성될 수 있으며, 다양한 블록들은, 초기 구성이 획득되는 방법에 따라 재구성가능하거나 재구성가능하지 않을 수 있다. 본 발명의 실시예들은 회로 및 소프트웨어의 임의의 조합을 사용하여 구현된 전자 디바이스들을 포함한 다양한 장치들에서 실현될 수 있다.
자연스러운 들어올림 제스처를 검출하기 위한 알고리즘의 다른 예는 사용자가 달리기와 같은 고-동적 활동에 관여할 때 자연스러운 들어올림 제스처들을 검출하기 위해 적응될 수 있는 도 2a의 고-동적 메인 검출 모듈(224)이다. 본 명세서에서 사용되는 바와 같은 "고-동적 활동"은 가속도계 데이터가 들어올림 제스처를 검출하는 데 신뢰할 수 없게 될 수 있도록 현저한 팔 또는 손목 모션을 고유하게 수반하는 임의의 활동을 지칭할 수 있다. 사용자가 고-동적 활동에 관여하는 경우, 고-동적 검출 모듈(224)은 가속도계 데이터를 자이로스코프 센서(212)와 같은 다른 센서들로부터의 데이터로 보완 또는 대체할 수 있다.
저-동적 검출 모듈(222)을 사용할 것인지 아니면 고-동적 검출 모듈(224)을 사용할 것인지가, 예컨대 웨이크 제어 로직(230)에 의해 판정될 수 있다. 예를 들어, 웨이크 제어 로직(230)은 활동 분류기(232)로부터 사용자가 현재 고-동적 활동(예컨대, 달리기) 또는 다른 활동(예컨대, 걷기)에 참여하고 있는지 아니면 어떠한 활동에도 관여하고 있지 않은지 나타내는 정보를 수신할 수 있다. 다른 예로서, 일부 실시예들에서, 사용자는 고-동적 활동이 막 시작되려고 한다는 직접적인 표시를 제공할 수 있다. 예를 들어, 사용자는 (예컨대, 디바이스 상의 운동 추적 응용 프로그램과 상호작용함으로써) 그가 막 달리기를 시작하려고 한다는 것을 나타낼 수 있고, 이로부터, 고-동적 검출 모듈(222)은 운동이 종료될 때까지 사용되어야 한다는 것이 추론될 수 있다. 활동 분류기(232)로부터의 입력들 및/또는 직접적인 사용자 입력을 포함하는 이용가능한 입력의 임의의 조합은 웨이크 제어 로직(230)에 의해 사용자가 고-동적 활동에 관여하고 있는지 여부를 추론하는 데 이용될 수 있다. 이러한 추론에 응답하여, 웨이크 제어 로직(230)은 저-동적 검출 모듈(222)(사용자가 고-동적 활동을 수행하고 있지 않은 경우) 또는 고-동적 검출 모듈(224) 중 어느 하나를 선택할 수 있다. 일부 실시예들에서, 상이한 타입들의 활동 동안에 사용하기 위해 상이한 알고리즘들이 제공될 수 있는데; 예를 들어, 다수의 고-동적 검출 알고리즘들(예컨대, 달리기 대 노젓기의 경우 등)이 있을 수 있다.
도 8은, 본 발명의 일 실시예에 따른 고-동적 활동(예컨대, 달리기) 동안에 자연스러운 들어올림 제스처를 검출하기 위한 프로세스(800)의 흐름도이다. 프로세스(800)는, 예컨대 도 2a의 디바이스(200) 내의 고-동적 검출 모듈(224)에서 구현될 수 있다. 이러한 예에서, 고-동적 검출 프로세스(800)는 일련의 제스처 상태들(도 6에 도시된 상태들과 유사하거나 동일할 수 있음)을 통해 진행될 수 있고, 각각의 상태 전이를, 예컨대 도 2a의 웨이크 제어 로직(230)에 보고할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 제스처 상태 전이를 이용하여, 애플리케이션 프로세서(204)를 웨이크시킬 것인지의 여부 및 이를 웨이크시킬 때, 및/또는 애플리케이션 프로세서(204)에 사용자 인터페이스(202)를 활성화시킬 것을 명령할 것인지의 여부 및 이를 명령하는 때를 판정할 수 있다. 이러한 예에서, 프로세스(800)는, 주로, (예컨대, 도 2a의 가속도계(210)로부터의) 필터링된 가속도계 데이터로 보완되는 (예컨대, 도 2a의 자이로스코프 센서(212)로부터의) 자이로스코프 데이터에 의존할 수 있다.
프로세스(400)와 같이, 프로세스(800)는 사용자 인터페이스(202)가 비활성 상태일 때 시작될 수 있다(블록(802)). 이때, 애플리케이션 프로세서(204)는, 원하는 바에 따라, 슬립 상태 또는 웨이크 상태에 있을 수 있다. 자이로스코프 센서(212)는 활성화될 수 있고, 업데이트된 데이터 샘플들("자이로스코프 데이터"로 지칭됨)을 일반 샘플링 속도(예컨대, 100 ㎐)로 제공할 수 있으며, 각각의 자이로스코프 데이터 샘플은 도 3에 도시된 바와 같은 디바이스 상대 좌표들을 이용하여 회전의 성분들(rx, ry, rz)을 나타낼 수 있는데, rx는 도 3의 x 축을 중심으로 하는 회전을 나타내고 등등이다. 수신된 자이로스코프 데이터는, 예컨대 원형 버퍼 또는 FIFO 등을 사용하여 버퍼링될 수 있다.
블록(804)에서, 프로세스(800)는 자이로스코프 데이터 버퍼로부터 데이터 샘플들을 판독할 수 있다. 데이터의 양은 샘플링 속도, 버퍼 크기, 및 모션을 분석하기 위한 희망 시간 간격에 의존할 수 있다. 예를 들어, 프로세스(800)는 실시간의 고정 간격, 예컨대 0.3초, 0.5초, 1초 등에 대응하는 데이터의 고정 길이 윈도우를 판독할 수 있다.
블록(806)에서, 프로세스(800)는 디바이스에 대한 시작 포즈를 추정할 수 있다. 예를 들어, 달리기의 상황에서, 사용자의 양팔은 자연스럽게 구부러지는 위치에서 유지될 것이고 손바닥은 (사용자의 신체를 향해) 안쪽으로 돌려져 있다는 것이 가정될 수 있다. 도 10a 및 도 10b는 달리고 있는 사용자가 손목 웨어러블 디바이스(102)를 착용하고 있는 예를 도시한다. 도 10a에 도시된 바와 같이, 공통의 자연스러운 달리기 위치에서, 디스플레이(104)는 (사용자의 신체로부터 멀어지게) 바깥쪽을 향한다. 정확한 각도는 사용자에 따라 다를 것이며, 사용자의 양팔의 자연스러운 스윙으로 인해 (도 3에 정의된 바와 같이) x 축을 중심으로 하는 작은 진동 회전이 있을 수 있다. 달리는 동안에 디바이스를 보기 위해, 사용자는 손목을 내전시킬 수 있고(손바닥을 아래로 회전시킬 수 있고), 아마도, 도 10b에 도시된 바와 같이, 팔을 들어올려서 디스플레이(104)를 시선 내에 가져올 수 있다. 그러한 제스처는 달리는 주자의 전형적인 팔의 스윙보다, x 축을 중심으로 하는 더 큰 회전을 수반한다. 따라서, x 축을 중심으로 하는 증가된 회전은 가능성있는 들어올림 제스처의 양호한 제1 표시자일 수 있고, 블록(808)에서, 프로세스(800)는 버퍼링된 자이로스코프 데이터를 분석하여, x 축을 중심으로 하는 증가된 회전을 판정할 수 있다.
블록(810)에서, 증가된 회전에 기초하여, 프로세스(800)는 가능성있는 들어올림 제스처가 검출되었는지 여부를 판정할 수 있다. 일부 실시예들에서, 이러한 판정은, 또한, 회전 모션이 상당히 느려졌거나 시간 간격의 말미에 중지했는지 판정하는 것을 포함할 수 있는데, 이는 사용자가 디바이스를 보기에 충분할 정도로 팔을 안정되게 유지하고 있음을 시사할 것이다. 가능성있는 들어올림 제스처가 검출되지 않는 경우, 프로세스(800)는 블록(804)으로 복귀하여, 추가적인 데이터를 판독하도록 할 수 있다. 전술된 바와 같이, 블록(804)에서 판독된 데이터는 고정 길이 윈도우일 수 있다. 블록(804)의 연속적인 반복 시에 판독된 데이터의 연속적인 윈도우들이 오버랩될 수 있다. 예를 들어, 윈도우가 실시간의 0.5초에 대응하는 경우, 연속적인 반복은 매 0.1초 등마다 발생할 수 있다(또는, 더 빠른 속도에서는, 윈도우가 반복 중에 적어도 하나의 샘플만큼 시프트되는 한, 블록들(806, 808)의 연속적인 반복에서의 분석은 리던던트가 아닐 것이다). 윈도우들을 오버랩하는 것은 윈도우 효과들로 인해 허위 네거티브가 발생할 가능성을 더 적게 만들 수 있다.
블록(810)에서 가능성있는 들어올림 제스처가 검출된 경우, 블록(812)에서, 프로세스(800)는 웨이크 제어 로직(230)에 가능성있는 들어올림 제스처가 검출되었음을 통지할 수 있다. 도 6의 상태 다이어그램에서, 이는 널 상태(602)로부터 가능성있는 제스처 상태(604)로의 전이에 대응할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)에 통지하는 것과 같은 이러한 통지에 응답하여 동작을 취할 수 있다. 블록(814)에서, 프로세스(800)는 필터링된 가속도계 데이터를 이용하여 끝내기 포즈 추정을 확인할 수 있다. 가속도계 데이터는 달리기와 연관된 팔 모션들의 아티팩트들을 제거하기 위해 강하게 필터링될 수 있으며, 포즈가, 디바이스의 디스플레이가 사용자에게 가시화될 가능성이 있는 포즈에 대응함을 확인하는 데 이용될 수 있다. 끝내기 포즈 추정에 기초하여, 블록(816)에서, 프로세스(800)는 가능성있는 들어올림 제스처를 검출된 들어올림 제스처로서 재분류할 것인지 여부를 판정할 수 있다. 그렇지 않은 경우, 프로세스(800)는 블록(804)으로 복귀하여, 다른 가능성있는 들어올림 제스처를 검출하고자 시도하도록 할 수 있다.
블록(816)에서 들어올림 제스처가 검출된 경우, 블록(818)에서, 프로세스(800)는 웨이크 제어 로직(230)에 검출된 들어올림 제스처가 발생했음을 통지할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)에 통지하는 것 및/또는 사용자 인터페이스(202)를 활성화시키는 것과 같은 이러한 통지에 응답하여 동작을 취할 수 있다. 프로세스(800)는 이러한 상태에서 종료될 수 있다(블록(820)). 대안으로(도 8에는 도시되지 않음), 제스처 분류기(234)는 검출된 들어올림 제스처를 확인하는 데 사용될 수 있다. 전술된 바와 같이, 제스처 분류기(234)는 사용자가 달리기를 하는 동안에 수행할 수 있는 다른 유사한 행동들(예컨대, 물병으로부터의 물을 마시는 것, 이마에서 땀을 닦아내는 것)로부터 자연스러운 들어올림 제스처들을 구별하도록 트레이닝될 수 있고, 결과들은 전술된 프로세스(400)의 확인 부분과 유사할 수 있다.
들어올림 제스처 검출 프로세스들(400, 800)은 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 순차적인 것으로서 설명되는 단계들은 동시에 실행될 수 있고, 단계들의 순서가 변할 수 있으며, 단계들이 수정, 조합, 추가 또는 생략될 수 있다. 상이한 임계치들, 기준들, 및 센서 입력들이 이용될 수 있고, 상태들의 상이한 세트들이 원하는 바에 따라 정의될 수 있다. 일부 실시예들에서, 프로세스들(400, 800)은 사용자가 무엇을 하고 있는지에 따라 대안적으로 호출될 수 있다. 예를 들어, 자이로스코프 센서는 가속도계보다 더 많은 전력을 소비할 수 있다. 따라서, 가속도계 데이터가, 프로세스(400)가 이용될 수 있을 정도로 충분히 신뢰성있는 상황, 예컨대 사용자가 앉아 있거나, 서 있거나, 또는 걷고 있는 상황에서 자이로스코프 센서를 전력다운시키고 프로세스(800)(입력으로서 자이로스코프 센서 데이터를 사용함)를 비활성화시키는 것이 바람직할 수 있다. 전술된 바와 같이, 웨이크 제어 로직(230)은 활동 분류기(232)로부터의 정보에 기초하여 주어진 시간에 어느 제스처 검출 알고리즘(들)이 활성 상태여야 하는지 판정할 수 있고, 희망 알고리즘(들)을 활성화(또는 인에이블)시킬 수 있다. 다른 활동 정보원이 또한 사용될 수 있다. 예를 들어, 일부 실시예들에서, 웨이크 제어 로직(230)은 수신된 가속도계 데이터에 대한 데이터 정성 분석을 수행하여, 프로세스(400)가 신뢰성있을 가능성이 있는지 여부를 판정할 수 있다. 프로세스(400)는 그것이 신뢰성있을 가능성이 있는 경우에 바람직할 수 있고, 프로세스(800)는 프로세스(400)가 신뢰성있을 가능성이 없는 경우에 이용될 수 있다.
도 9는 본 발명의 일 실시예에 따른 자연스러운 들어올림 제스처 검출 모듈(900)의 기능 블록 다이어그램이다. 도시된 바와 같이, 자연스러운 들어올림 제스처 검출 모듈(900)은 도 2b의 모션 프로세싱 유닛(258)에서, 예를 들어 자연스러운 들어올림 제스처 검출 모듈(274)로서 구현될 수 있다. 자연스러운 들어올림 제스처 검출 모듈(900)은 또한 도 2a의 메인(고-동적) 검출 모듈(224)로서 구현될 수 있다. 자연스러운 들어올림 제스처 검출 모듈(900)은 시작 포즈 추정 유닛(902), 가능성있는 들어올림 제스처 판정 유닛(906), 및 검출된 들어올림 제스처 판정 유닛(908)을 포함할 수 있다. 각각의 유닛은, 예를 들어 프로세서 및/또는 전용 로직 회로들 상에서 실행가능한 프로그램 코드를 이용하여 구현될 수 있다.
시작 포즈 추정 유닛(902)은 모션 센서 데이터를 수신할 수 있고, 모션 센서 데이터에 기초하여 시작 포즈를 추정할 수 있다. 예를 들어, 시작 포즈 추정 유닛(902)은 전술된 프로세스(800)의 블록(806)을 구현할 수 있다. 시작 포즈 추정 유닛(902)은 가능성있는 들어올림 제스처 판정 유닛(906)에 추정된 시작 포즈를 제공할 수 있다.
가능성있는 들어올림 제스처 판정 유닛(906)은 추정된 시작 포즈 및 모션 센서 데이터를 수신할 수 있고, 수신된 데이터가 가능성있는 들어올림 제스처에 대한 기준들을 만족시키는지 여부를 판정할 수 있다. 예를 들어, 가능성있는 들어올림 제스처 판정 유닛(906)은 전술된 프로세스(800)의 블록들(808, 810)을 구현할 수 있다. 기준들이 만족되는 경우, 가능성있는 들어올림 제스처 판정 유닛(906)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 가능성있는 들어올림 제스처 판정 유닛(906)은 전술된 프로세스(800)의 블록(812)을 구현할 수 있다. 가능성있는 들어올림 제스처 판정 유닛(906)은 또한 기준들이 만족되는 경우에 검출된 들어올림 제스처 판정 유닛(908)에 통지할 수 있다.
검출된 들어올림 제스처 판정 유닛(908)은 가능성있는 들어올림 제스처 판정 유닛(906)으로부터 가능성있는 들어올림 제스처의 통지를 수신할 수 있고, 추가적인 모션 데이터를 모니터링하여, 검출된 들어올림 제스처에 대해 조건들이 충족되는지 여부를 판정할 수 있다. 예를 들어, 검출된 들어올림 제스처 판정 유닛(908)은 전술된 프로세스(800)의 블록들(814, 816)을 구현할 수 있다. 검출된 들어올림 제스처에 대한 조건들이 만족되는 경우, 검출된 들어올림 제스처 판정 유닛(908)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 검출된 들어올림 제스처 판정 유닛(908)은 프로세스(800)의 블록(818)을 구현할 수 있다.
자연스러운 들어올림 제스처 검출 모듈(900)이 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 예를 들어, 자연스러운 들어올림 제스처 검출 모듈(900)이 특정 블록들 또는 유닛들을 참조하여 설명되지만, 이들 블록들이 설명의 편리함을 위해 정의되고 컴포넌트 부분들의 특정 물리적 배열을 의미하도록 의도되지 않는다는 것이 이해될 것이다. 또한, 블록들은 물리적으로 별개인 컴포넌트들에 대응할 필요가 없고, 동일한 물리적 컴포넌트들은 다수의 블록들의 태양들을 구현하는 데 사용될 수 있다. 블록들은, 예컨대 프로세서를 프로그래밍하거나 적절한 제어 회로를 제공함으로써 다양한 동작들을 수행하도록 구성될 수 있으며, 다양한 블록들은, 초기 구성이 획득되는 방법에 따라 재구성가능하거나 재구성가능하지 않을 수 있다. 본 발명의 실시예들은 회로 및 소프트웨어의 임의의 조합을 사용하여 구현된 전자 디바이스들을 포함한 다양한 장치들에서 실현될 수 있다. 추가적인 블록들(예컨대, 확인이 요망되는 경우에 확인 유닛(710)과 유사한 블록)이 추가될 수 있다.
개별적으로 또는 조합하여 사용되면, 프로세스들(400, 800)은 다양한 조건 하에서 자연스러운 들어올림 제스처들을 검출할 수 있다. 그러나, 사용자가 검출되지 않게 되는 들어올림 제스처를 실행하는 것이 여전히 가능할 수 있다. 예를 들어, 알고리즘들의 상세사항들에 따라, 자연스러운 들어올림 제스처 검출은 사용자가 누워있는 경우(디바이스를 사용자의 시선 내에 놓는, 중력에 대한 배향에 관한 가정을 위반할 수 있음), 사용자가 디스플레이가 손목 내측에 있도록 디바이스를 착용한 경우(디바이스를 사용자의 시선 내에 가져오는 데 필요한 회전의 양 및/또는 방향에 관한 가정을 위반할 수 있음), 사용자가 가속화된 환경(예컨대, 롤러코스터) 내에 있는 경우 등에 덜 신뢰성이 있을 수 있다.
따라서, 일부 실시예들은 고의적인 들어올림 제스처를 검출하기 위한 추가적인 알고리즘들을 제공할 수 있다. 이는, 사용자가 디스플레이를 활성화시키기를 원하는 경우를 제외하고는 수행할 가능성이 없는 사전정의된 제스처를 수행함으로써 사용자가 디스플레이를 활성화시키게 할 수 있다. 예를 들어, 고의적인 들어올림 제스처는 손목의 이중 진동으로서 정의될 수 있는데, 이는 (도 3에 정의된 바와 같이) x 축을 중심으로 디바이스를 앞뒤로 "돌린다". 사용자는, 예를 들어 오리지널 위치로부터 멀리 손목을 빠르게 회전시키고 나서 회전을 해제하여 손목이 오리지널 위치로 복귀하게 함으로써, 진동을 수행할 수 있다. 이중 진동은 회전; 해제; 회전; 해제의 순차를 따를 수 있다. 진동은 모션 센서 데이터(예컨대, 가속도계 또는 자이로스코프 데이터)에서 임펄스 피크들로서 검출될 수 있다. 각각의 진동 동안에 증가 및 소실되는 최소 양의 회전 및 진동 사이의 최대 시간을 필요로 함으로써, 고의적인 들어올림 제스처는 사용자가 일상적으로 수행할 수 있는 대부분의 다른 모션들(예컨대, 문을 여는 것 또는 스크류드라이버를 동작시키는 것)로부터 구별되어, 사용자가 디스플레이를 활성화시키도록 의도하지 않는 경우들에 있어서 고의적인 들어올림 제스처가 검출될 가능성을 없앨 수 있다. 다른 제스처들이 치환될 수 있다.
도 11은 본 발명의 일 실시예에 따른, 고의적인 들어올림 제스처를 검출하기 위한 프로세스(1100)의 흐름도이다. 이러한 예에서, 고의적인 들어올림 제스처는 사용자가 단기간 내에 손목의 이중 진동을 수행하는 "지글" 제스처(디바이스를 시선으로부터 떨어지게 회전시키고 나서 시선을 향해 회전시키는 것을 2번 행함)로서 정의된다. 프로세스(1100)는, 예컨대 도 2a의 지글 검출 모듈(226)에서 실행될 수 있다. 이러한 예에서, 지글 검출 프로세스(1100)는 개재하는 가능성있는 제스처 상태 없이 널 상태(검출되는 제스처가 없음)로부터 검출된 상태로 직접적으로 진행될 수 있다. 원하는 경우에 다른 상태들이 또한 정의될 수 있다. 프로세스(1100)는 상태 전이를, 예컨대 도 2a의 웨이크 제어 로직(230)에 보고할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 제스처 상태 전이를 이용하여, 애플리케이션 프로세서(204)를 웨이크시킬 것인지의 여부 및 이를 웨이크시킬 때, 및/또는 애플리케이션 프로세서(204)에 사용자 인터페이스(202)를 활성화시킬 것을 명령할 것인지의 여부 및 이를 명령하는 때를 판정할 수 있다.
프로세스(1100)는 사용자 인터페이스(202)가 비활성 상태일 때 시작될 수 있다(블록(1102)). 이때, 애플리케이션 프로세서(204)는, 원하는 바에 따라, 슬립 상태 또는 웨이크 상태에 있을 수 있다. 가속도계(210)는 업데이트된 데이터를 일반 샘플링 속도(예컨대, 100 ㎐)로 제공하고 있을 수 있고, 데이터는 도 3에 도시된 바와 같은 디바이스 상대 좌표계를 이용하여 가속도의 벡터 성분들(ax, ay, az)을 나타낼 수 있다. 수신된 데이터는, 예컨대 원형 버퍼 또는 FIFO 등을 사용하여 버퍼링될 수 있다.
블록(1104)에서, 프로세스(1100)는 가속도계 데이터 버퍼로부터 데이터 샘플들을 판독할 수 있다. 데이터의 양은 샘플링 속도, 버퍼 크기, 및 모션을 분석하기 위한 희망 기간에 의존할 수 있다. 예를 들어, 프로세스(1100)는 실시간의 고정 간격, 예컨대 0.1초, 0.5초, 1초 등에 대응하는 데이터의 고정 길이 윈도우를 판독할 수 있다.
블록(1106)에서, 프로세스(1100)는 가속도계 데이터로부터 팔 위치를 판정할 수 있다. 따라서, 블록(1106)은 팔 위치가 추론될 수 있게 되는 가속도계 데이터에 기초하여 (중력에 대한) 디바이스의 배향을 판정하는 것을 포함할 수 있다.
블록(1108)에서, 프로세스(1100)는 사용자의 팔이 지글 제스처를 수행하기 위해 "준비(prime)"되어 있는지 여부를 판정할 수 있다. 예를 들어, 디바이스가 시선 내에 이미 위치된 경우에 사용자가 고의적인 들어올림 제스처만을 실행한다는 것이 가정될 수 있다. 본 명세서에서 사용되는 바와 같이, 사용자의 팔은 디바이스가 단기간(예컨대, 0.2초, 0.5초, 1.0초) 동안에 상대적으로 여전히 보유되는 경우에 준비된 것으로 간주될 수 있어서, 사용자가 디바이스를 보려고 시도하고 있는 것일 수 있음을 시사한다. 사용자의 팔이 준비가 되어 있는지 여부를 판정하는 것은 버퍼 내의 데이터 샘플들 중 일부 또는 모두를 분석하는 것을 포함할 수 있다. 예를 들어, 가장 오래된 샘플들이 분석될 수 있다. 디바이스의 공간 배향에 기초한 기준들과 같은 추가적인 기준들이 또한 적용될 수 있다. 예를 들어, 중력 가속도가 (도 3에서 정의된 바와 같이) 주로 z 축을 따르고 x 축을 따라서 가속도가 거의 또는 전혀 없는 경우, 이는 사용자가 손목 웨어러블 디바이스(또는 많은 다른 디바이스들)을 체킹하기 위한 공통 위치인 지면에 디바이스 디스플레이가 대략적으로 평행하다는 것을 시사할 수 있다. 따라서, 추가적인 기준들이 중력 방향에 기초하여 정의될 수 있다. 준비 기준이 만족될 것을 요구하는 것은 손목의 부수적인 이동으로부터 기인할 수 있는 허위 포지티브들을 감소시켜서, 그에 의해 전력을 절감할 수 있다. 일부 실시예들에서, 준비 기준은 사용자의 머리가 정상적인 수직 배향(예컨대, 사용자가 누워 있는 경우)이 아닐 수도 있는 상황을 다루기 위해 완화될 수 있지만, 기준들을 완화시키는 것은 허위 포지티브들의 비율을 증가시킬 수 있다. 일부 실시예들에서, 사용자의 머리가 수직인지 아닌지의 여부(예컨대, 심박 모니터와 같은 생리학적 센서들을 통해 사용자가 누워 있는 것으로 판정하는 것이 가능할 수 있음)를 시사하기 위해 다른 정보가 이용가능할 수 있으며, 그러한 정보는 준비 기준 내에 포함될 수 있다.
블록(1108)에서 팔이 준비되어 있지 않은 경우, 프로세스(1100)는 블록(1104)으로 복귀하여, 추가적인 가속도계 데이터를 판독하도록 할 수 있다. 전술된 바와 같이, 블록(1104)에서 판독된 데이터는 고정 길이 윈도우일 수 있다. 블록(1104)의 연속적인 반복 동안에 판독된 데이터의 연속적인 윈도우들이 오버랩될 수 있다. 예를 들어, 윈도우가 실시간의 1초에 대응하는 경우, 연속적인 반복은 매 0.1초 등마다(또는 더 빠른 속도로) 발생할 수 있다(윈도우가 반복 중에 적어도 하나의 샘플만큼 시프트되는 한, 블록들(1106, 1108)의 연속적인 반복에서의 분석은 리던던트가 아닐 것이다). 이는 윈도우 효과들로 인해 허위 네거티브가 발생할 가능성을 더 적게 만들 수 있다.
블록(1108)에서 사용자의 팔이 준비되어 있는 경우, 프로세스(1100)는 지글 제스처를 검출하고자 시도할 수 있다. 이러한 예에서의 지글 제스처는 x 축을 중심으로 하는 2개의 진동을 요구한다. x 축을 중심으로 하는 회전 모션을 개시하는 것 또는 중지하는 것이 y 축(도 3 참조)을 따른 가속도를 수반하므로, 이러한 예에서의 관심 진동 모션은 가속도의 y 성분에서의 임펄스 피크들에 기초하여 검출될 수 있다. 따라서, 블록(1110)에서, 프로세스(1100)는 가속도계 데이터를 분석하여 그러한 피크를 검출할 수 있다. 일부 실시예들에서, 저크(jerk)(가속도의 시간 미분)의 y 성분에서의 피크 또는 스파이크가 진동을 검출하는데 이용될 수 있다. 검출될 제스처가 의도적인 경우, 피크는 발생하고 있는 것일 수 있는 랜덤 모션들로 인해(예컨대, 사용자 보행, 차량 주행, 조깅 등로 인해) 샘플간 편차의 임의의 배경에 대해 두드러질 것으로 예상된다. 따라서, 비틀기 또는 진동을 검출하기 위한 기준들은 거의 동시에 측정된 샘플간 편차의 배경에 대해 정의될 수 있다. 피크 검출에 대한 특정 기준들이, 예컨대 다수의 사용자들이 지글 제스처를 수행하게 하고 가속도계 데이터를 분석하여 가속도 및/또는 저크에 대한 특정 임계치들을 식별함으로써, 휴리스틱으로 정의될 수 있다. 임계치들은 배경 변화의 현재 레벨에 대한 값들 또는 절대값들에 기초하여 정의될 수 있다.
블록(1112)에서, 제1 피크가 검출되지 않는 경우, 프로세스(1100)는 블록(1104)으로 복귀하여, 가속도계 데이터를 계속해서 모니터링하도록 할 수 있다. 제1 피크가 검출되는 경우, 블록(1114)에서, 프로세스(1100)는 제2 피크를 검출하고자 시도할 수 있다. 이러한 예에서, 제2 피크는 제1 피크와 동일한 방향이어야 하는데, 이는 사용자가 진동 모션을 반복했음을 나타내며, 기준들은 블록(1112)에서 이용된 것들과 동일하거나 유사할 수 있다.
블록(1116)에서 제2 피크가 검출되지 않는 경우, 블록(1118)에서, 프로세스(1100)는 블록(1112)에서 제1 피크를 검출한 이래로 타임아웃 기간이 경과했는지 여부를 판정할 수 있다. 타임아웃 기간은 다른 손목 회전 모션들로부터 고의적인 지글 제스처를 구별하는 데 이용될 수 있고, 다양한 개인들이 이중 진동을 의도적으로 실행하는 데 필요한 시간의 측정치에 기초하여 선택될 수 있다. 예를 들어, 타임아웃 기간은 0.2초, 0.5초 등일 수 있다.
프로세스(1100)는 제2 피크가 검출되거나 또는 타임아웃 기간이 만료할 때까지 제2 피크를 계속해서 검색할 수 있다. 블록(1118)에서 타임아웃 기간이 만료하는 경우, 프로세스(1100)는 블록(1104)으로 복귀하여, 추가적인 가속도계 데이터를 수집하도록 그리고 2개의 피크들을 다시 검색하도록 할 수 있다.
블록(1116)에서 제2 피크가 검출되는 경우, 블록(1120)에서, 프로세스(1100)는 추가적인 가속도계 데이터를 분석하여, 디바이스의 위치가 안정화되었는지 여부를 판정하도록 할 수 있다. 블록(1122)에서 위치가 안정화되지 않은 경우, 이는 디바이스를 보는 것과 관련되지 않은 일부 다른 이유로 진동이 발생했음을 나타낼 수 있고, 프로세스(1100)는 블록(1104)으로 복귀하여, 추가적인 가속도계 데이터를 수집하도록 그리고 2개의 피크들을 다시 검색하도록 할 수 있다.
블록(1122)에서 위치가 안정화된 경우, 이는 지글 제스처를 검출한 것에 대응할 수 있고, 블록(1124)에서, 프로세스(1100)는 웨이크 제어 로직(230)에 지글 제스처가 검출되었음을 통지할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은, 이러한 통지에 응답하여, 사용자 인터페이스(202)를 활성화시키는 것 및/또는 애플리케이션 프로세서(204)를 웨이크시키는 것과 같은 동작을 취할 수 있다.
프로세스(1100)는 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 순차적인 것으로서 설명되는 단계들은 동시에 실행될 수 있고, 단계들의 순서가 변할 수 있으며, 단계들이 수정, 조합, 추가 또는 생략될 수 있다. 상이한 임계치들, 기준들, 및 센서 입력들이 이용될 수 있고, 상태들의 상이한 세트들이 원하는 바에 따라 정의될 수 있다. 일부 실시예들에서, 제1 피크의 검출은 가능성있는 들어올림 제스처로서 보고될 수 있거나, 또는 2개의 피크들의 검출은 디바이스 위치가 안정화되었는지 여부를 판정하기 전의 가능성있는 들어올림 제스처로서 보고될 수 있다. 다른 고의적인 들어올림 제스처들이 상이한 기준들(예컨대, 더 많은 또는 더 적은 임펄스 피크들, 상이한 방향들로의 가속도들 등)을 정의함으로써 검출될 수 있다. 일부 실시예들에서, 프로세스(1100)는 프로세스(400) 또는 프로세스(800) 중 어느 하나와 동시에 실행될 수 있어서, 사용자가 자연스러운 들어올림 제스처 또는 고의적인 들어올림 제스처 중 어느 한쪽을 수행함으로써 디스플레이가 비활성 상태일 때이면 언제든 디스플레이를 활성화시킬 수 있다.
도 12는 본 발명의 일 실시예에 따른, 고의적인 들어올림 제스처 검출 모듈(1200)의 기능 블록 다이어그램이다. 도시된 바와 같이, 고의적인 들어올림 제스처 검출 모듈(1200)은 도 2b의 모션 프로세싱 유닛(258)에서, 예를 들어 고의적인 들어올림 제스처 검출 모듈(276)로서 구현될 수 있다. 자연스러운 들어올림 제스처 검출 모듈(700)은 또한 도 2a의 지글 검출 모듈(226)로서 구현될 수 있다. 고의적인 들어올림 제스처 검출 모듈(1200)은 준비 검출 유닛(1202), 임펄스 피크 검출 유닛(1204), 및 안정성 검출 유닛(1206)을 포함할 수 있다. 각각의 유닛은, 예를 들어 프로세서 및/또는 전용 로직 회로들 상에서 실행가능한 프로그램 코드를 이용하여 구현될 수 있다.
준비 검출 유닛(1202)은 모션 센서 데이터를 수신할 수 있으며, 그 데이터로부터, 사용자의 팔이 고의적인 들어올림 제스처를 실행하도록 준비되어 있는지 여부를 판정할 수 있다. 예를 들어, 준비 검출 유닛(1202)은 전술된 프로세스(1100)의 블록들(1106, 1108)을 구현할 수 있다. 준비 검출 유닛(1202)이, 사용자의 팔이 준비된 것으로 판정하는 경우, 준비 검출 유닛(1202)은 통지를 임펄스 피크 검출 유닛(1204)에 제공할 수 있다.
임펄스 피크 검출 유닛(1204)은 추가적인 모션 센서 데이터를 수신할 수 있으며, 그 데이터에 기초하여, 목표 개수(예컨대, 1개, 2개, 또는 3개)의 임펄스 피크들의 존재를 검출할 수 있다. 예를 들어, 임펄스 피크 검출 유닛(1204)은 전술된 프로세스(1100)의 블록들(1110 내지 1118)을 구현할 수 있다. 들어올림 제스처를 나타내는 임펄스 피크들의 개수(예컨대, 상기의 예에서는 2개)가 검출된 경우, 임펄스 피크 검출 유닛(1204)은 통지를 안정성 검출 유닛(1206)에 제공할 수 있다.
안정성 검출 유닛(1206)은 추가적인 모션 센서 데이터를 수신할 수 있으며, 그 데이터가, 디바이스 위치가 검출된 임펄스 피크(들)를 추종하여 안정화되었음을 나타내는지 여부를 판정할 수 있다. 예를 들어, 안정성 검출 유닛(1206)은 전술된 프로세스(1100)의 블록들(1120, 1122)을 구현할 수 있다. 안정성이 검출되는 경우, 안정성 검출 유닛(1206)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 안정성 검출 유닛(1206)은 전술된 프로세스(1100)의 블록(1124)을 구현할 수 있다.
고의적인 들어올림 제스처 검출 모듈(1200)이 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 예를 들어, 고의적인 들어올림 제스처 검출 모듈(1200)이 특정 블록들 또는 유닛들을 참조하여 설명되지만, 이들 블록들이 설명의 편리함을 위해 정의되고 컴포넌트 부분들의 특정 물리적 배열을 의미하도록 의도되지 않는다는 것이 이해될 것이다. 또한, 블록들은 물리적으로 별개인 컴포넌트들에 대응할 필요가 없고, 동일한 물리적 컴포넌트들은 다수의 블록들의 태양들을 구현하는 데 사용될 수 있다. 블록들은, 예컨대 프로세서를 프로그래밍하거나 적절한 제어 회로를 제공함으로써 다양한 동작들을 수행하도록 구성될 수 있으며, 다양한 블록들은, 초기 구성이 획득되는 방법에 따라 재구성가능하거나 재구성가능하지 않을 수 있다. 본 발명의 실시예들은 회로 및 소프트웨어의 임의의 조합을 사용하여 구현된 전자 디바이스들을 포함한 다양한 장치들에서 실현될 수 있다.
일단 (자연스러운 또는 고의적인) 들어올림 제스처가 검출되었다면, 사용자는 디바이스에 현재 포커스를 두고 그와 상호작용하는 중일 수 있다는 것이 가정될 수 있다. 임의의 타입의 사용자 상호작용이 지원될 수 있으며, 상호작용의 지속시간은 사용자가 원하는만큼 길어질 수 있다. 어떤 지점에서 상호작용이 종료될 것으로 예상된다. 상호작용이 종료되는 경우, 전력을 절전시키기 위해 디스플레이를 그의 비활성 상태로 복귀시키는 것이 바람직할 수 있다.
일부 실시예들에서, 사용자는, 예컨대 디바이스 상의 버튼을 눌러서 디스플레이를 비활성화시킴으로써, 상호작용의 종료를 신속하게 나타낼 수 있다. 추가로 또는 대신에, 디바이스는 충분히 긴 기간에 걸친 사용자 입력의 결여에 기초하여 상호작용이 종료되었음을 추론할 수 있지만, 그러한 추론은 사용자가 제시된 정보를 여전히 보고 있는 경우에는 정확하지 않을 수도 있다. 따라서, 일부 실시예들에서, 디바이스는 모션 센서 데이터에 기초하여 사용자가 디바이스에 대해 포커스를 잃는 때를 자동으로 검출할 수 있다. 예를 들어, 사용자가 디바이스의 디스플레이를 시선 밖으로 이동시키는 경우, 이는 사용자가 포커스를 잃었음을 나타낼 수 있다. 그러한 모션은 본 명세서에서 "포커스 소실 제스처"로 지칭된다.
포커스 소실 제스처("포커스 소실 이벤트"로도 지칭됨)의 자동 검출은 모션 기반 알고리즘들을 이용하여 가능해질 수 있다. 도 13은 본 발명의 일 실시예에 따른, 포커스 소실 이벤트를 검출하기 위한 프로세스(1300)의 흐름도이다. 프로세스(1300)는, 예컨대 도 2a의 포커스 소실 검출 모듈(228)에서 실행될 수 있다. 이러한 예에서, 프로세스(1300)는 디바이스가 포커스 상태에 있는 동안(예컨대, 전술된 프로세스들(400, 800, 또는 1100) 중 임의의 것을 이용하여 들어올림 제스처를 검출 및/또는 확인한 후)에 수행될 수 있다. 포커스 소실은 디바이스의 경사각 또는 회전에서의 변화들, 특히 y-경사에서의 변화들에 기초하여 검출될 수 있다. 프로세스(1300)는 검출된 포커스 소실 이벤트를, 예컨대 도 2a의 웨이크 제어 로직(230)에 보고할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은 보고된 이벤트를 이용하여, 사용자 인터페이스(202)를 비활성화시킬 것인지 여부를 판정할 수 있다.
프로세스(1300)는 사용자 인터페이스(202)가 활성 상태일 때 시작될 수 있다(블록(1302)). 활성 상태는 전술된 제스처 검출 프로세스들 중 임의의 것의 결과로서, 다른 제스처 검출 프로세스들의 결과로서, 또는 사용자로부터의 수동 표시(예컨대, 디바이스(200) 상의 버튼을 터치하는 것)에 응답하여 달성될 수 있다. 이때, 애플리케이션 프로세서(200)는 또한 웨이크 상태에 있을 수 있다. 가속도계(210)는 업데이트된 데이터를 일반 샘플링 속도(예컨대, 100 ㎐)로 제공하고 있을 수 있고, 데이터는 도 3에 도시된 바와 같은 디바이스 상대 좌표계를 이용하여 가속도의 벡터 성분들(ax, ay, az)을 나타낼 수 있다. 수신된 데이터는, 예컨대 원형 버퍼 또는 FIFO 등을 사용하여 버퍼링될 수 있다.
블록(1304)에서, 프로세스(1300)는 가속도계 데이터 버퍼로부터 데이터 샘플들을 판독할 수 있다. 데이터의 양은 샘플링 속도, 버퍼 크기, 및 모션을 분석하기 위한 희망 기간에 의존할 수 있다. 예를 들어, 프로세스(400)는 실시간의 고정 간격, 예컨대 0.5초, 1초 등에 대응하는 데이터의 고정 길이 윈도우를 판독할 수 있다.
블록(1306)에서, 프로세스(1300)는, 예컨대 버퍼의 시작 근처에서 샘플들에 대한 가속도 또는 회전각들의 측정된 x 성분 및/또는 y 성분에 기초하여, 초기 경사를 판정할 수 있다. 사용자가 디바이스를 시선 내에 보유하고 있는 기간 동안, 경사(또는 적어도 y-경사)가 대략적으로 일정한 상태로 유지될 것으로 예상되며, 프로세스(1300)가 시작되는 경우에 기준 경사가 정의될 수 있다. 일부 실시예들에서, 들어올림 제스처를 자동으로 검출하는 것은 경사(예컨대, y-경사)의 증가를 검출하는 것을 포함할 수 있고, 초기 경사 또는 기준 경사는 블록(1306)에서 검출되었던 증가된 경사에 기초하여 정의될 수 있다.
블록(1308)에서, 프로세스(1300)는, 예컨대 초기 경사 또는 기준 경사에 대한 경사에서의 변화를 검출할 수 있다. 일부 실시예들에서, 변화는 디스플레이를 사용자의 시선으로부터 멀어지게 이동시킬 방향에서의 변화가 아닌 경우에는 무시될 수 있다. 예를 들어, 도 3의 디바이스(300)를 보고 있는 사용자는 디바이스(300)가 지면에 평행하거나 또는 기울어져서 중력 가속도가 y 축을 따르는 네거티브 가속도 성분을 전하게 하도록 그의 팔을 유지시키는 경향이 있을 수 있다. 0 또는 네거티브 ay로부터 포지티브 ay로의 변화는 사용자가 디바이스(300)를 시선 밖으로 회전시켰음을 시사할 수 있다. 일부 실시예들에서, 들어올림 제스처를 자동으로 검출하는 것은 (예컨대, 도 4를 참조하여 전술된 바와 같이) 경사의 증가를 검출하는 것을 포함할 수 있고, 블록(1308)은 증가된 경사(예컨대, y-경사)의 정반대(negation)를 검출하는 것을 포함할 수 있는데, 이는 사용자가 디바이스를 그의 올려지지 않은 위치로 복귀시키고 있음을 나타낸다.
블록(1310)에서 경사에서의 충분히 큰 변화가 검출된 경우, 블록(1312)에서, 프로세스(1300)는 웨이크 제어 로직(230)에 포커스 소실 이벤트가 검출되었음을 통지할 수 있다. 하기에 기술되는 바와 같이, 웨이크 제어 로직(230)은, 이러한 통지에 응답하여, 사용자 인터페이스(202)를 비활성화시키는 것 및/또는 애플리케이션 프로세서(204)에 통지하는 것과 같은 동작을 취할 수 있다.
블록(1310)에서 경사에서의 큰 변화가 검출되지 않은 경우, 블록(1314)에서, 프로세스(1300)는 가속도계 데이터에 기초하여 사용자에 대한 팔 위치를 추정할 수 있다. 예를 들어, 사용자가 손목을 회전시키지 않은 상태로 팔을 내릴 수 있는 것이 가능하다. 팔 위치는, 전술된 바와 같이, 가속도계 데이터, 및 사용자가 디바이스를 착용하고 있는 방식에 관한 가정에 기초하여 추정될 수 있다. 블록(1316)에서, 프로세스(1300)는 사용자의 팔이 내려졌는지 여부를 판정할 수 있다. 예를 들어, 도 3의 좌표계에서, 내려진 팔은 x 축과 대략적으로 정렬되는 중력 가속도에 기초하여 검출될 수 있다. 일부 실시예들에서, 블록(1316)은 시작 팔 위치와 끝내기 팔 위치를 비교하여, 사용자가 팔을 낮춰진 위치로 이동시키는 것을 나타내는 변화를 검출하는 것을 포함할 수 있다. 팔이 내려진 것이 검출되는 경우, 블록(1312)에서, 프로세스(1300)는 웨이크 제어 로직(230)에 포커스 소실 이벤트를 통지할 수 있다. 일단 포커스 소실 이벤트가 검출되면, 프로세스(1300)는 종료될 수 있다.
프로세스(1300)는 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 순차적인 것으로서 설명되는 단계들은 동시에 실행될 수 있고, 단계들의 순서가 변할 수 있으며, 단계들이 수정, 조합, 추가 또는 생략될 수 있다. 상이한 임계치들, 기준들, 및 센서 입력들이 이용될 수 있는데; 예를 들어, 자이로스코프 데이터가 가속도계 데이터에 더해 또는 그 대신에 이용될 수 있다. 일부 실시예들에서, 사용될 센서들(예컨대, 가속도계 및/또는 자이로스코프)은 활동 분류기(232)에 의해 보고된 바와 같은 사용자의 현재 활동에 기초하여 동적으로 선택될 수 있다. 예를 들어, 사용자가 달리고 있는 경우, 자이로스코프 데이터는 더 신뢰할 수 있는데; 사용자가 가만히 앉아 있는 경우, 가속도계 데이터를 이용하고 자이로스코프 센서(212)를 전력다운시키는 것이 더 전력 효율적일 수 있다. 또한, 포커스 소실을 검출하기 위한 기준들은 사용자의 현재 활동에 기초하여 변화될 수 있다. 예를 들어, 기준들은 사용자가 달리고 있는 동안에 포커스 소실이 검출될 가능성을 더 적게 만들도록 수정될 수 있는데, 이는 팔이 덜 안정적일 것으로 예상될 것이기 때문이다.
또한, 일부 실시예들에서, 일시적 모션들로 인한 허위 포커스 소실 검출을 회피시키는 것이 바람직할 수 있다. 따라서, 포커스 소실 검출은 히스테리시스를 포함할 수 있어서, 디바이스가 포커스 포즈 밖으로 나가서 약간의 최소 기간 동안 그 곳에서 유지될 때까지 포커스 소실이 검출되지 않게 할 수 있다. 시간이 만료되기 전에 디바이스가 포커스 포즈에 재진입하는 경우, 포커스 소실 검출 알고리즘은 리셋될 수 있다. 최소 기간은 디바이스가 포커스 포즈에 얼마나 오랫동안 있었는지에 의존할 수 있는데, 포커스 포즈에서의 더 긴 체류 시간은 포커스 소실 이벤트를 트리거시키기 위해 포커스를 벗어나는 데 요구되는 더 긴 시간과 상관된다. 사용자가 사실상 디스플레이를 가만히 보고 있는 경우에 포커스 소실 이벤트를 시기상조로 검출하는 것(및 디스플레이를 비활성화시키는 것)보다 포커스 소실 이벤트의 지연된 검출(및 디스플레이의 비활성화)이 사용자에게 지장을 덜 주는 것으로 예상된다는 것에 유의해야 한다. 따라서, 포커스 소실 알고리즘은 포커스 소실을 검출하기에는 느리다는 측면에서 잘못 조정될 수 있다.
도 14는 본 발명의 일 실시예에 따른 포커스 소실 검출 모듈(1400)의 기능 블록 다이어그램이다. 도시된 바와 같이, 포커스 소실 검출 모듈(1400)은 도 2b의 모션 프로세싱 유닛(258)에서, 예를 들어 포커스 소실 검출 모듈(278)로서 구현될 수 있다. 포커스 소실 검출 모듈(1400)은 또한 도 2a의 포커스 소실 검출 모듈(228)로서 구현될 수 있다. 포커스 소실 검출 모듈(1400)은 배향 판정 유닛(1402), 배향 변화 검출 유닛(1404), 팔 위치 추정 유닛(1406), 및 포커스 판정 유닛(1408)을 포함할 수 있다 각각의 유닛은, 예를 들어 프로세서 및/또는 전용 로직 회로들 상에서 실행가능한 프로그램 코드를 이용하여 구현될 수 있다.
배향 판정 유닛(1402)은 모션 센서 데이터를 수신할 수 있고, 그 데이터로부터 디바이스에 대한 배향을 판정할 수 있다. 예를 들어, 배향 판정 유닛(1402)은 전술된 프로세스(1300)의 블록(1306)을 구현할 수 있는데, 배향은 (가속도계 데이터, 자이로스코프 회전각들 등으로부터 판정될 수 있는) 경사에 의해 특징지어진다. 배향 판정 유닛(1402)은 판정된 배향을 배향 변화 검출 유닛(1404)에 제공할 수 있다.
배향 변화 검출 유닛(1404)은, 예컨대 배향 판정 유닛(1402)으로부터 시간의 경과에 따라 수신된 데이터에 기초하여, 배향에서의 변화가 발생했는지 여부를 판정할 수 있다. 예를 들어, 배향 변화 검출 유닛(1404)은 전술된 프로세스(1300)의 블록(1308)을 구현할 수 있다. 배향 변화 검출 유닛(1404)은 배향 변화 정보(예컨대, 변화의 정량적 측정치)를 포커스 판정 유닛(1408)에 제공할 수 있다.
팔 위치 추정 유닛(1406)은 모션 센서 데이터를 수신할 수 있으며, 그 데이터로부터 디바이스가 착용될 것으로 상정되는 팔의 추정된 팔 위치를 판정할 수 있다. 예를 들어, 팔 위치 추정 유닛(1406)은 전술된 프로세스(1300)의 블록(1314)을 구현할 수 있다. 팔 위치 추정 유닛(1406)은 팔 위치에 관한 정보(예컨대, 추정된 팔 위치 또는 팔 위치에서의 변화)를 포커스 판정 유닛(1408)에 제공할 수 있다.
포커스 판정 유닛(1408)은 배향 변화 검출 유닛(1404)으로부터의 배향 변화 정보 및 팔 위치 추정 유닛(1406)으로부터의 팔 위치 정보를 수신할 수 있다. 수신된 정보에 기초하여, 포커스 판정 유닛(1408)은 포커스 소실이 발생했는지 여부를 판정할 수 있다. 예를 들어, 포커스 판정 유닛(1408)은 전술된 프로세스(1300)의 블록들(1310 및/또는 1316)을 구현할 수 있다. 포커스 판정 유닛(1408)이, 포커스 소실이 발생한 것으로 판정하는 경우, 포커스 판정 유닛(1408)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 포커스 판정 유닛(1408)은 전술된 프로세스(1300)의 블록(1312)을 구현할 수 있다.
포커스 소실 검출 모듈(1400)이 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 예를 들어, 포커스 소실 검출 모듈(1400)이 특정 블록들 또는 유닛들을 참조하여 설명되지만, 이들 블록들이 설명의 편리함을 위해 정의되고 컴포넌트 부분들의 특정 물리적 배열을 의미하도록 의도되지 않는다는 것이 이해될 것이다. 또한, 블록들은 물리적으로 별개인 컴포넌트들에 대응할 필요가 없고, 동일한 물리적 컴포넌트들은 다수의 블록들의 태양들을 구현하는 데 사용될 수 있다. 블록들은, 예컨대 프로세서를 프로그래밍하거나 적절한 제어 회로를 제공함으로써 다양한 동작들을 수행하도록 구성될 수 있으며, 다양한 블록들은, 초기 구성이 획득되는 방법에 따라 재구성가능하거나 재구성가능하지 않을 수 있다. 본 발명의 실시예들은 회로 및 소프트웨어의 임의의 조합을 사용하여 구현된 전자 디바이스들을 포함한 다양한 장치들에서 실현될 수 있다.
전술된 것들과 같은 프로세스들 및 모듈들은, 함께 사용되는 경우, 디바이스가, 사용자가 언제 디바이스 보기를 시작하고 디바이스 보기를 중지하는지 검출하게 할 수 있다. 사용자 인터페이스는 사용자가 현재 보고 있는지 아닌지 여부에 따라 활성화 또는 비활성화될 수 있다. 일부 실시예들에서, 동일하거나 유사한 프로세스들이, 사용자 상호작용의 준비로, 애플리케이션 프로세서(204) 및/또는 디바이스의 다른 컴포넌트들을 저전력(슬립) 상태로부터 웨이크시키는 데 이용될 수 있다. 그러나, 구현예에 따라, 애플리케이션 프로세서(204)를 웨이크시키는 것은 사용자 인터페이스(202)를 활성화시키는 것보다 더 긴 레이턴시를 가질 수 있으며, 애플리케이션 프로세서(204)를 주어진 기간 동안 웨이크시키는 것은 사용자 인터페이스(202)를 활성 상태에 있게 하는 것보다 전력을 덜 소비할 수 있다. 따라서, 전술된 바와 같이 들어올림 제스처가 검출 또는 확인되기를 기다리기보다는 오히려 더 앞선 단계에서 (사용자 인터페이스(202)를 또한 활성화시키지 않으면서) 애플리케이션 프로세서(204)를 웨이크시키는 것을 시작하는 것이 바람직할 수 있다.
도 15는 본 발명의 일 실시예에 따른, 애플리케이션 프로세서(204)를 웨이크시켜야 하는지 여부를 판정하기 위한 프로세스(1500)의 흐름도이다. 프로세스(1500)는, 예컨대 도 2a의 프리히트 검출 모듈(220)에서 실행될 수 있다. 이러한 예에서, 프로세스(1500)는 조기 단계들의 자연스러운(또는 고의적인) 들어올림 제스처와 일치하는 일 시퀀스의 가속도계 샘플들을 검출할 수 있으며, 그러한 시퀀스가 검출되는 경우, 웨이크 제어 로직(230)에 통지할 수 있다. 프로세스(1500)는 다른 제스처 검출 알고리즘들(예컨대, 전술된 프로세스들(400, 800, 1100))과 동시에 그러나 그들과는 독립적으로 동작할 수 있다. 예를 들어, 프로세스(1500)는 애플리케이션 프로세서(204)를 웨이크할 것인지 여부를 판정하는 데 이용될 수 있는 한편, 상이한 알고리즘(예컨대, 프로세스(400) 또는 프로세스(800))은 사용자 인터페이스(202)를 활성화시킬 것인지 여부를 판정하는 데 이용된다.
프로세스(1500)는 애플리케이션 프로세서(204)가 그의 슬립 상태에 있는 경우에 시작될 수 있다(블록(1502)). 가속도계(210)는 업데이트된 데이터를 일반 샘플링 속도(예컨대, 100 ㎐)로 제공하고 있을 수 있고, 데이터는 도 3에 도시된 바와 같은 디바이스 상대 좌표계를 이용하여 가속도의 벡터 성분들(ax, ay, az)을 나타낼 수 있다. 수신된 데이터는, 예컨대 원형 버퍼 또는 FIFO 등을 사용하여 버퍼링될 수 있다.
블록(1504)에서, 프로세스(1500)는 가장 최근의 가속도계 샘플(또는 짧은 윈도우의 샘플들)을 평가하여 현재 포즈를 판정할 수 있다. 블록(1506)에서, 프로세스(1500)는 샘플들이 들어올림 제스처의 가능성있는 시작을 나타내는 조건을 만족시키는지 여부를 판정할 수 있다. 일부 실시예들에서, 판정은 연속 샘플들 사이에서 측정된 가속도에서의 변화에 의존할 수 있다. 예를 들어, 사용자가 디바이스를 시선 내에 가져오기 위해 손목을 회전시킴에 따라, ay 성분이 0 또는 포티지브(중력에 기인함) 시작 상태로부터 감소할 것으로 예상할 수 있다. 또한, 사용자의 팔이 초기에 아래로 있는 경우, ax 성분은 또한 사용자가 그의 팔을 들어올림에 따라 포지티브(중력에 기인함)로부터 0을 향해 변화할 수 있다. 따라서, 블록(1506)에서의 조건은 연속 샘플들 사이에서 ax에서의 변화와 ay에서의 변화의 가중 합에 의존할 수 있는데, ay 성분에는 더 큰 가중치가 주어진다. 일부 실시예들에서, 조건은 시작 포즈에 의존할 수 있다(예컨대, ax의 상대적 가중치는 팔이 수평으로 있는 시작 포즈에 대해서보다 팔이 아래로 있는 시작 포즈에 대해서 더 클 수 있다). 프로세스(1500)는 들어올림 제스처의 가능성있는 개시가 블록(1506)에서 검출될 때까지 가속도계 데이터를 계속해서 모니터링할 수 있다. 예를 들어, 각각의 새로운 가속도계 데이터 샘플에 대해, 그것이 수신됨에 따라, 블록들(1504, 1506)이 수행될 수 있다.
일단 들어올림 제스처의 가능성있는 개시가 블록(1506)에서 검출되면, 프로세스(1500)는 후속 샘플들을 모니터링하여, 들어올림 제스처가 계속해서 진행되는지 여부를 판정할 수 있다. 예를 들어, 블록(1508)에서, 프로세스(1500)는 NNO 및 NYES로 지칭되는 2개의 카운터들을 개시할 수 있다. 카운터들은, 예컨대 0으로 초기화될 수 있다. 블록(1510)에서, 프로세스(1500)는 다음 가속도계 샘플을 평가할 수 있고, 블록(1512)에서, 프로세스(1500)는 샘플이 진행 중인 들어올림 제스처와 일치하는지 아닌지 여부를 판정할 수 있다. 판정은 디바이스 위치(예컨대, 경사 및 팔의 각도)에서의 변화가 들어올림 제스처를 계속하는 것, (랜덤 모션이 들어올림 제스처만큼 평탄하지 않을 것이라는 가정 하의) 모션의 평탄도 등과 일치하는지 여부와 같은 다양한 기준들에 기초할 수 있다. 일부 실시예들에서, 기준들은 시작 포즈에 의존할 수 있다. 예를 들어, 팔이 아래에 있는 시작 포즈(예컨대, 도 1a에서와 같음)로부터, 팔뚝이 초기에 수평으로 있는 경우(예컨대, 도 1c에서와 같음)보다 ax에서의 더 큰 변화가 예상될 것이다. 따라서, 결정은 이전 샘플들로부터 추론되는 디바이스 궤적뿐 아니라 현재 가속도계 샘플을 포함할 수 있다.
블록(1512)에서 다음 샘플이 제스처와 일치하는 경우, 블록(1514)에서, 카운터 NYES가 증가될 수 있다. 블록(1516)에서, NYES는 임계치 "MinYes"(예컨대, 10개 샘플들, 11개 샘플들, 14개 샘플들 등)와 비교되어, 들어올림 제스처와 일치하는 충분한 샘플들이 검출되었는지 여부를 판정하게 할 수 있다. NYES가 임계치 MinYes에 도달한 경우, 블록(1518)에서, 프로세스(1500)는 웨이크 로직(230)에 프리히트 이벤트(본 명세서에서 "프리히트 제스처"로도 지칭됨)를 통지할 수 있다. 이에 응답하여, 웨이크 로직(230)은, 예를 들어 애플리케이션 프로세서(204)를 웨이크시킬 수 있다. 이러한 실시예에서, 프리히트 이벤트는 사용자 인터페이스(202)를 활성화시키지는 않으며, 사용자는 프리히트 이벤트들이 발생하는 때 또는 발생하는지 여부를 알 필요가 없다. 임계치가 블록(1516)에서 초과되지 않는 경우, 프로세스(1500)는 블록(1510)으로 복귀하여, 가속도계 데이터 샘플들을 계속해서 누적 및 평가할 수 있다.
블록(1512)에서 다음 가속도계 데이터 샘플이 들어올림 제스처와 일치하지 않는 경우, 블록(1520)에서, 카운터 NNo가 증가될 수 있다. 블록(1522)에서, NNo는 임계치 "MaxNo"(예컨대, 2개 샘플들, 4개 샘플들, 5개 샘플들 등)와 비교되어, 들어올림 제스처와 불일치하는 너무 많은 샘플들이 검출되었는지 여부를 판정하게 할 수 있다. Nno가 임계치 MaxNo에 도달하는 경우, 블록(1524)에서, 프로세스(1500)는 리셋되어, 블록(1504)으로 복귀하여, 들어올림 제스처의 새로운 가능성있는 시작을 찾을 수 있다.
이러한 방식으로, 프로세스(1500)가 프리히트 이벤트를 검출하는지 여부는 임계치 MaxNo에 도달하기 전에 임계치 MinYes에 도달하는지 여부에 의존할 수 있다. 예를 들어, 일 실시예에서, 임계치 MinYes는 11로 설정될 수 있고, 임계치 MaxNo는 5로 설정될 수 있다. 들어올림 제스처의 가능성있는 개시가 블록(1506)에서 검출된 후, 제스처와 불일치하는 5개 샘플들이 수신되기 전에 제스처와 일치하는 11개 샘플들이 수신되는 경우, 프로세스(1500)는 프리히트 이벤트를 생성할 것이다. 제스처와 불일치하는 5개 샘플들이 수신되기 전에 제스처와 일치하는 11개 샘플들이 수신되지 않는 경우, 프로세스(1500)는 프리히트 이벤트를 생성하지 않을 것이고, 그 대신, 블록(1504)으로 복귀하여, 사실상, 다시 시작할 것이다. 새로운 샘플들이 100 ㎐에서 수신되는 경우, 프로세스(1500)는 그의 시작 후 150ms 내에 들어올림 제스처의 개시를 검출할 수 있다.
프로세스(1500)는 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 순차적인 것으로서 설명되는 단계들은 동시에 실행될 수 있고, 단계들의 순서가 변할 수 있으며, 단계들이 수정, 조합, 추가 또는 생략될 수 있다. 예를 들어, 샘플링 속도 및 결정 기준들은 변화될 수 있다. 프리히트 검출의 민감도는 애플리케이션 프로세서가 슬립 상태로부터 웨이크 상태로 전이하는 데 얼마나 많은 시간이 필요한지에 따라 조정될 수 있다. 프리히트 이벤트는, 사용자가 들어올림 제스처를 완료할 때까지, 애플리케이션 프로세서가 웨이크 상태에 있어서 사용자 입력을 프로세싱할 준비가 될 정도로 충분히 조기에 검출될 수 있다. 일부 실시예들에서, 프리히트의 조기 검출 및 애플리케이션 프로세서를 웨이크시키는 것은 자연스러운 들어올림 제스처에 대한 디바이스의 응답으로 사용자 인지가능 지연을 감소 또는 제거하는 것을 도울 수 있다. 조기 검출은 더 많은 허위 포지티브들을 가져올 수 있고, 민감도는 애플리케이션 프로세서가 웨이크 상태로 전이하는 데 충분한 시간을 여전히 허용하면서 가능한 한 제스처에서 늦게 프리히트 이벤트가 검출되도록 조정될 수 있다.
일부 실시예들에서, 프리히트 소실을 검출하도록 하는 특정 알고리즘이 구현되지 않는다. 예를 들어, 애플리케이션 프로세서(204)는, 사용자 입력, 들어올림 제스처 검출, 또는 사용자가 디바이스(200)와 상호작용하고 있음을 나타내는 다른 활동이 웨이크시키기 후의 소정 시간 간격 내에 발생하지 않는 경우, 슬립 상태로 자동으로 복귀할 수 있다. 대안으로, 웨이크 제어 로직(230)은, 가능성있는 들어올림 제스처가 프리히트 이벤트 후의 소정 시간 간격 내에 수신되지 않는 경우, 애플리케이션 프로세서(204)에 통지할 수 있고, 애플리케이션 프로세서(204)는 이러한 정보를 이용하여, 슬립 상태로 복귀할 것인지 여부를 판정할 수 있다. 일부 실시예들은 프리히트 소실 알고리즘을 제공하여, 예컨대, 수신된 샘플들이 계속해서 들어올림 제스처와 일치하는지 여부를 검출하며, 수신된 샘플들이 계속해서 들어올림 제스처와 일치하지 않는 경우 또는 프리히트 이벤트에 이어서 특정 기간 내에 검출된 들어올림 제스처가 후속되지 않은 경우에 프리히트의 소실을 나타낼 수 있다.
도 16은 본 발명의 일 실시예에 따른 프리히트 검출 모듈(1600)의 기능 블록 다이어그램이다. 도시된 바와 같이, 프리히트 검출 모듈(1600)은 도 2b의 모션 프로세싱 유닛(258)에서, 예를 들어 프리히트 검출 모듈(270)로서 구현될 수 있다. 프리히트 검출 모듈(1600)은 또한 도 2a의 프리히트 검출 모듈(220)로서 구현될 수 있다. 프리히트 검출 모듈(1600)은 가능성있는 제스처 시작 판정 유닛(1602), 샘플 평가 유닛(1604), 카운터 유닛(1606), 및 프리히트 판정 유닛(1608)을 포함할 수 있다. 각각의 유닛은, 예를 들어 프로세서 및/또는 전용 로직 회로들 상에서 실행가능한 프로그램 코드를 이용하여 구현될 수 있다.
가능성있는 제스처 시작 판정 유닛(1602)은 모션 센서 데이터 샘플들을 수신할 수 있으며, 그 데이터 샘플들로부터, 가능성있는 제스처 시작이 발생했는지 여부를 판정할 수 있다. 예를 들어, 가능성있는 제스처 시작 판정 유닛(1602)은 전술된 프로세스(1500)의 블록(1504)을 구현할 수 있다. 가능성있는 제스처 시작이 발생한 것으로 판정되는 경우, 가능성있는 제스처 시작 판정 유닛은 샘플 평가 유닛(1604) 및 카운터 유닛(1606)에 통지할 수 있다.
샘플 평가 유닛(1604)은 모션 센서 데이터 샘플들을 수신할 수 있으며, 각각의 샘플이 수신됨에 따라 그것을 평가하여, 가능성있는 들어올림 제스처의 계속과 일치하는지 아니면 불일치하는지 여부를 판정할 수 있다. 예를 들어, 샘플 평가 유닛(1604)은 전술된 프로세스(1500)의 블록들(1510, 1512)을 구현할 수 있다. 샘플 평가 유닛(1604)은 샘플이 가능성있는 들어올림 제스처의 계속과 일치하는지 아니면 불일치하는지 여부를 나타내는 결정 출력을 카운터 유닛(1606)에 제공할 수 있다.
카운터 유닛(1606)은, 샘플 평가 유닛(1604)에 의해 가능성있는 들어올림 제스처의 계속과 일치하는 것으로 판정되는 샘플들을 카운트하는 제1 카운터, 및 샘플 평가 유닛(1604)에 의해 가능성있는 들어올림 제스처의 계속과 불일치하는 것으로 판정되는 샘플들을 카운트하는 제2 카운터를 유지할 수 있다. 이들 카운터들은 전술된 NYES 및 NNO 카운터들에 대응할 수 있다. 카운터 유닛(1606)은 가능성있는 제스처 시작 판정 유닛(1602)에 의해 가능성있는 제스처 시작을 통지받는 것에 응답하여 2개의 카운터들을 (예컨대 0으로) 초기화할 수 있다. 예를 들어, 카운터 유닛(1606)은 전술된 프로세스(1500)의 블록(1508)을 구현할 수 있다. 2개의 카운터들을 초기화한 후, 카운터 유닛(1606)은 샘플 평가 유닛(1604)으로부터 수신된 각각의 결정 출력에 응답하여 2개의 카운터들 중 하나를 증가시킬 수 있는데, 제1 카운터는 결정 출력이, 샘플이 가능성있는 들어올림 제스처의 계속과 일치함을 나타내는 경우에 증가되고, 제2 카운터는 결정 출력이, 샘플이 가능성있는 들어올림 제스처의 계속과 불일치함을 나타내는 경우에 증가된다. 예를 들어, 카운터 유닛(1606)은 전술된 프로세스(1500)의 블록들(1540, 1520)을 구현할 수 있다. 카운터 유닛(1606)은 제1 및 제2 카운터 값들을 프리히트 판정 유닛(1608)에 제공할 수 있다.
프리히트 판정 유닛(1608)은 카운터 유닛(1606)으로부터 제1 및 제2 카운터 값들을 수신할 수 있고, 프리히트 이벤트가 발생했는지 아니면 리셋 이벤트가 발생했는지 판정할 수 있다. 예를 들어, 프리히트 판정 유닛(1608)은 전술된 프로세스(1500)의 블록들(1516, 1522)을 구현할 수 있다. 프리히트 이벤트가 발생한 경우(예컨대, 전술된 바와 같이, 제1 카운터가 값 MinYes을 초과한 경우), 프리히트 판정 유닛(1608)은 다른 시스템 컴포넌트들(예컨대, 도 2a의 웨이크 제어 로직(230) 또는 도 2b의 웨이크 제어 로직 모듈(280))에 통지할 수 있다. 예를 들어, 프리히트 판정 유닛(1608)은 전술된 프로세스(1500)의 블록(1518)을 구현할 수 있다. 리셋 이벤트가 발생한 경우(예컨대, 전술된 바와 같이, 제2 카운터가 값 MaxNo을 초과한 경우), 프리히트 판정 유닛(1608)은 가능성있는 제스처 시작 판정 유닛(1602)에 통지할 수 있고, 가능성있는 제스처 시작 판정 유닛(1602)은 가능성있는 제스처 시작이 발생했는지 여부를 판정하기를 다시 시작할 수 있다. 게다가, 프리히트 판정 유닛(1608)은 또한 샘플 평가 유닛(1604) 및/또는 카운터 유닛(1606)에 프리히트 또는 리셋 이벤트를 통지할 수 있고, 이에 따라, 통지된 유닛들이 응답할 수 있는데; 예를 들어, 샘플 평가 유닛(1604)은 다음의 가능성있는 제스처 시작이 발생하는 그러한 시간 때까지 프리히트 이벤트 또는 리셋 이벤트 중 어느 하나의 이벤트 후에 샘플들을 평가하는 것을 중지할 수 있다. 샘플 평가 유닛(1604)에 의해 평가되는 모든 샘플이 프리히트 이벤트 또는 리셋 이벤트 중 어느 하나를 가져올 필요가 없다는 것이 이해되어야 하는데, 이는 하나 또는 다른 카운터가 관련 임계치에 도달하는 데 여러 개의 샘플들을 취할 수 있기 때문이다.
프리히트 검출 모듈(1600)이 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 예를 들어, 프리히트 검출 모듈(1600)이 특정 블록들 또는 유닛들을 참조하여 설명되지만, 이들 블록들이 설명의 편리함을 위해 정의되고 컴포넌트 부분들의 특정 물리적 배열을 의미하도록 의도되지 않는다는 것이 이해될 것이다. 또한, 블록들은 물리적으로 별개인 컴포넌트들에 대응할 필요가 없고, 동일한 물리적 컴포넌트들은 다수의 블록들의 태양들을 구현하는 데 사용될 수 있다. 블록들은, 예컨대 프로세서를 프로그래밍하거나 적절한 제어 회로를 제공함으로써 다양한 동작들을 수행하도록 구성될 수 있으며, 다양한 블록들은, 초기 구성이 획득되는 방법에 따라 재구성가능하거나 재구성가능하지 않을 수 있다. 본 발명의 실시예들은 회로 및 소프트웨어의 임의의 조합을 사용하여 구현된 전자 디바이스들을 포함한 다양한 장치들에서 실현될 수 있다.
전술된 다양한 제스처 검출 모듈들 및/또는 프로세스들을 이용하여, 도 2a의 웨이크 제어 로직(230)(또는 도 2b의 웨이크 제어 로직 모듈(280))은 본 발명의 일 실시예에 따른 웨이크 제어 로직(230)의 상태들을 도시한 상태 다이어그램인 도 17에 도시된 바와 같은 상태 기계 거동을 구현할 수 있다. 프리히트 검출 모듈(220)(예컨대, 프로세스(1500)를 실행함), 저-동적 메인 검출 모듈(222)(예컨대, 프로세스(400)를 실행함), 고-동적 메인 검출 모듈(224)(예컨대, 프로세스(800)를 실행함), 지글 검출 모듈(226)(예컨대, 프로세스(1100)를 실행함), 및 포커스 소실 검출 모듈(228)(예컨대, 프로세스(1300)를 실행함)로부터의 통지들에 응답하여 상태들 사이의 전이가 발생할 수 있다.
상태(1702)는 "널" 상태일 수 있으며, 여기서 디바이스(200)는 애플리케이션 프로세서(204)가 슬립 상태에 있고 사용자 인터페이스(202)가 비활성 상태인 휴지 상태(idle)이다. 일부 실시예들에서, 상태(1702)는 비활동, 포커스 소실, 및/또는 다른 기준들에 기초하여 진입될 수 있다.
상태(1704)는 (예컨대, 도 15의 블록(1518)에서) 프리히트 검출 모듈(220)에 의해 보고된 프리히트 이벤트에 응답하여 진입될 수 있는 "프리히트" 상태일 수 있다. 프리히트 상태(1704)에 진입 시, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)에 그의 슬립 상태로부터 웨이크시키는 것을 시작하도록 시그널링할 수 있다. 일부 실시예들에서, 애플리케이션 프로세서(204)를 웨이크시키는 것은 (아마도, 전력 소비 면에서의 증가 외의) 사용자 식별가능 효과들을 갖지 않는데; 사용자는 애플리케이션 프로세서(204)가 웨이크 상태인지 아니면 슬립 상태인지 통지받을 필요가 없다.
상태(1706)는 (예컨대, 도 4의 블록(412) 또는 도 8의 블록(812)에서) 가능성있는 들어올림 제스처의 통지에 응답하여 진입될 수 있는 "가능성있는 제스처" 상태일 수 있다. 상태(1706)는 프리히트 상태(1704)로부터 또는 직접적으로 널 상태(1702)로부터 진입될 수 있다. 가능성있는 제스처 상태(1706)에 진입 시, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)를 웨이크시킬 수 있고(이것이 프리히트 상태(1704)에서 이미 행해지지 않은 경우), 또한, 사용자 인터페이스(202)를 활성화시킬 수 있다.
상태(1708)는 (예컨대, 도 4의 블록(418), 도 8의 블록(818), 또는 도 11의 블록(1124)에서) 검출된 들어올림 제스처의 통지에 응답하여 진입될 수 있는 "검출된 제스처" 상태일 수 있다. 상태(1708)는 가능성있는 제스처 상태(1706)로부터 또는 직접적으로 널 상태(1702)로부터 또는 프리히트 상태(1704)로부터 진입될 수 있다. 예를 들어, 전술된 실시예에서, 고의적인 들어올림 제스처를 검출하기 위한 프로세스(1100)는 웨이크 제어 로직(230)에 검출된 들어올림 제스처만을 통지하는데, 이는 널 상태(1702) 또는 프리히트 상태(1704) 중 어느 하나로부터 발생할 수 있다. 이러한 경우에 있어서, 가능성있는 제스처 상태(1706)는 스킵될 수 있다. 다른 실시예들에서, 프로세스(1100)는 웨이크 제어 로직(230)에 가능성있는 웨이크 제스처(예컨대, 제1 또는 제2 피크를 검출할 시)를 통지할 수 있으며, 널 상태(1702) 또는 프리히트 상태(1704)로부터 검출된 제스처 상태(1708)로의 직접적인 전이가 발생하지 않을 수도 있다. 검출된 제스처 상태(1708)에 진입 시, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204) 및 사용자 인터페이스(202) 중 어느 하나 또는 양측 모두가 이전에 발생하지 않은 경우에 애플리케이션 프로세서(204)를 웨이크시킬 수 있고/있거나 사용자 인터페이스(202)를 활성화시킬 수 있다.
상태(1710)는 (예컨대, 도 4의 블록(424)에서) 확인된 들어올림 제스처의 통지에 응답하여 진입될 수 있는 "확인된 제스처" 상태일 수 있다. 일부 실시예들에서, 웨이크 제어 로직(230)은 확인된 들어올림 제스처 상태(1710)로의 전이에 응답하여 어느 것도 할 필요가 없다. 그러나, 웨이크 제어 로직(230)은, 원한다면, 확인의 통지를 애플리케이션 프로세서(204)로 전송하는 것과 같은 다양한 동작들을 취할 수 있으며, 애플리케이션 프로세서(204) 상에서 실행되는 다양한 애플리케이션들 또는 다른 프로세스들이, 원한다면, 검출된(그러나, 확인되지 않은) 들어올림 제스처와는 반대로 확인된 들어올림 제스처에 응답하여 상이하게 거동할 수 있다.
상태(1712)는 (예컨대, 도 13의 블록(1312)에서) 포커스 소실 이벤트의 통지에 응답하여 진입될 수 있는 "포커스 소실" 상태일 수 있다. 포커스 소실 상태(1712)에 진입 시, 웨이크 제어 로직(230)은 사용자 인터페이스(202)를 비활성화시킬 수 있고, 애플리케이션 프로세서(204)에 포커스 소실을 통지할 수 있다. 일부 실시예들에서, 애플리케이션 프로세서(204)는 포커스 소실에 응답하여 그의 슬립 상태에 즉각적으로 진입하지 않을 수도 있다. 예를 들어, 애플리케이션 프로세서(204)는 그 프로세스가 완료될 때까지 디바이스(200)가 포커스 상태(예컨대, 상태들(1706, 1708, 1710) 중 임의의 상태)에 있는 동안에 시작한 프로세스를 계속해서 실행시켜서, 슬립 상태에 진입할 수 있었다.
포커스 소실 상태(1712)로부터, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)가 후속으로 슬립 상태로 복귀하는 경우에 널 상태(1702)로 다시 전이할 수 있다. 일부 실시예들에서, 다른 포커스 관련 이벤트(예컨대, 프리히트, 가능성있는 들어올림 제스처, 검출된 들어올림 제스처)는 애플리케이션 프로세서(204)가 그의 슬립 상태로 복귀하기 전에 발생할 수 있는데, 이 경우에, 웨이크 제어 로직(230)은, 점선 화살표들로 나타내진 바와 같이, 먼저 널 상태로 재조정됨이 없이, 상태들(1704, 1706, 1708) 중 적절한 하나의 상태로 복귀할 수 있다.
도 17에 도시된 상태들은 예시적이며, 다른 실시예들은 더 많은, 더 적은, 또는 상이한 상태들을 정의할 수 있다는 것이 이해될 것이다.
일부 실시예들에서, 웨이크 제어 로직(230)은, 웨이크 제어 로직(230)의 현재 상태에 따라, 프리히트 검출 모듈(220)(예컨대, 프로세스(1500)를 구현함), 저-동적 메인 검출 모듈(222)(예컨대, 프로세스(400)를 구현함), 고-동적 메인 검출 모듈(224)(예컨대, 프로세스(800)를 구현함), 지글 검출 모듈(226)(예컨대, 프로세스(1100)를 구현함), 및 포커스 소실 검출 모듈(228)(예컨대, 프로세스(1300)를 구현함) 중 임의의 것 또는 모두를 포함하는 다양한 제스처 검출 알고리즘들 또는 모듈들을 선택적으로 인에이블 또는 디스에이블시킬 수 있다.
도 18은 본 발명의 일 실시예에 따른, 웨이크 제어 로직(230)에서 구현될 수 있는 프로세스(1800)의 흐름도이다. 프로세스(1800)는 도 17의 널 상태에서 시작할 수 있다(블록(1802)). 설명을 위해, 이 단계에서, 애플리케이션 프로세서(204)는 그의 슬립 상태에 있고 사용자 인터페이스(202)는 비활성 상태임이 가정된다.
블록(1804)에서, 웨이크 제어 로직(230)은 하나 이상의 제스처 검출 알고리즘들 또는 모듈들이 들어올림 제스처를 검출할 수 있게 할 수 있다. 예를 들어, 웨이크 제어 로직(230)은 프리히트 검출 모듈(220), 지글 검출 모듈(226), 및 저-동적 메인 검출 모듈(222) 또는 고-동적 메인 검출 모듈(224) 중 어느 하나를 인에이블시킬 수 있다. 일부 실시예들에서, 고-동적 메인 검출 모듈(224)은 사용자가 전술된 바와 같이 판정될 수 있는 고-동적 활동에 관여하는 경우에만 인에이블되고, 저-동적 메인 검출 모듈(222)은 사용자가 고-동적 활동에 관여하지 않는 경우에 인에이블된다. 사용자의 활동이 변화하는 경우, 알고리즘이 인에이블되는 웨이크 제어 로직(230)은 변화할 수 있다.
블록(1806)에서, 프로세스(1800)는 제스처 검출 알고리즘들 또는 모듈들 중 하나가 이벤트의 통지를 제공할 때까지 기다릴 수 있다. 예를 들어, 프리히트 검출 모듈(220)은 웨이크 제어 로직(230)에 프리히트 이벤트를 통지할 수 있거나, 또는 저-동적 메인 검출 모듈(222) 또는 고-동적 메인 검출 모듈(224)은 웨이크 제어 로직(230)에 가능성있는 들어올림 제스처를 통지할 수 있다. 그러한 통지가 수신되는 경우, 블록(1808)에서, 프로세스(1800)는 (이미 웨이크 상태이지는 않은 것을 가정하면) 애플리케이션 프로세서(204)를 웨이크시킬 수 있고, 프리히트 검출 모듈(220)을 디스에이블시킬 수 있다. 다른 들어올림 제스처 검출 알고리즘들 또는 모듈들이 계속해서 구동될 수 있다. 구현예에 따라, 애플리케이션 프로세서(204)는 사용자 인터페이스(202)를 활성화시킬 수 있거나 또는 활성화시키지 않을 수도 있다. 예를 들어, 일부 실시예들에서, 애플리케이션 프로세서(204)는 가능성있는 들어올림 제스처 이벤트에 응답하지만 프리히트 이벤트에는 응답하지 않고서 사용자 인터페이스(202)를 활성화시킨다.
블록(1810)에서, 웨이크 제어 로직(230)은 검출된 들어올림 제스처의 통지가 수신되었는지 여부를 판정할 수 있다. 그러한 통지는, 예컨대 저-동적 모션 검출 모듈(222) 또는 고-동적 모션 검출 모듈(224) 중 어느 하나 또는 지글 검출 모듈(226)로부터 수신될 수 있다. 일부 실시예들에서, 검출된 들어올림 제스처의 통지가 프리히트 또는 가능성있는 들어올림 제스처 이벤트 후의 타임아웃 기간 내에 수신되지 않은 경우, 웨이크 제어 로직(230)은 프리히트 또는 가능성있는 들어올림 제스처가 허위 포지티브였음을 추론할 수 있다. 따라서, 블록(1812)에서, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)에 허위 포지티브를 통지할 수 있고, 프리히트 검출 모듈(220)을 리인에이블시킬 수 있고, 블록(1804)으로 복귀할 수 있다. 일부 실시예들에서, 임계 개수의 허위 포지티브 프리히트 이벤트들이 단기간 내에 발생하는 경우, 프리히트 검출 모듈(220)은 "백오프(back-off)" 상태에 진입할 수 있는데, 여기서 그것은 허위 포지티브들의 빈도가 임계치 아래로 떨어질 때까지 프리히트 통지를 전송하기를 중단할 수 있다(또는 웨이크 제어 로직(230)은 프리히트 통지를 무시할 수 있다). 이는 애플리케이션 프로세서에 의한 불필요한 전력 소비를 감소시키는 것을 도울 수 있다.
블록(1810)에서 검출된 들어올림 제스처의 통지가 수신되는 경우, 블록(1814)에서, 프로세스(1800)는 제스처 분류기(234)가 검출된 들어올림 제스처를 확인할 수 있게 할 수 있고, 지글 검출 모듈(226)을 디스에이블시킬 수 있다. 일부 경우들에 있어서, 검출된 들어올림 제스처의 통지는 프리히트 또는 가능성있는 들어올림 제스처의 통지에 선행할 수 있다(예컨대, 여기서, 지글 검출 모듈(226)은 검출된 들어올림 제스처의 통지를 생성한다). 도 18에 구체적으로 도시되어 있지는 않지만, 이것이 발생하는 경우, 프로세스(1800)는 블록(1814)의 동작들과 함께 블록(1808)의 동작들을 수행할 수 있다는 것이 이해되어야 한다.
블록(1816)에서, 프로세스(1800)는 검출된 들어올림 제스처가 확인되었는지 여부를 판정할 수 있다. 일부 경우들에 있어서, (예컨대, 블록(1810)에서의 검출된 들어올림 제스처 통지가 지글 검출 모듈(226)로부터 수신된 경우) 블록(1816)에서의 확인이 추정될 수 있고, 들어올림 제스처를 확인하기 위한 제스처 분류기(234) 등의 사용은 요구되지 않는다. 다른 경우들에 있어서, 확인은 (예컨대, 블록(1810)에서의 검출된 들어올림 제스처 통지가 저-동적 메인 검출 모듈(222)로부터 수신된 경우) 적어도 일부 환경들에서 요구될 수 있다. 확인이 수신(및 추정)되지 않은 경우, 또는 확인거절이 수신된 경우, 블록(1818)에서, 웨이크 제어 로직(230)은 애플리케이션 프로세서(204)에 미확인된 또는 확인거절된 들어올림 제스처를 통지할 수 있고, 프리히트 검출 모듈(220) 및 지글 검출 모듈(226)을 리인에이블시킬 수 있고, 제스처 분류기(234)를 디스에이블시킬 수 있다. 프로세스(1800)는 블록(1804)으로 복귀하여, 확인된 들어올림 제스처를 계속해서 기다릴 수 있다.
블록(1816)에서 제스처가 확인된 경우, 블록(1820)에서, 프로세스(1800)는 애플리케이션 프로세서(204)에 사용자 인터페이스(202)를 활성화시킬 것(그것이 이미 활성 상태이지는 않은 경우), 포커스 소실 검출 모듈(228)을 인에이블시킬 것, 및 저-동적 메인 검출 모듈(222) 또는 고-동적 메인 검출 모듈(224)을 디스에이블시킬 것을 명령할 수 있다. 지글 검출 모듈(226) 또는 프리히트 모듈(220)이 여전히 인에이블되어 있는 경우, 이들 모듈들은 또한 블록(1820)에서 디스에이블될 수 있다.
프로세스(1800)는 포커스 소실 제스처의 통지가, 예컨대 포커스 소실 검출 모듈(228)로부터 수신될 때까지 블록(1822)에서 기다릴 수 있다. 이 시간 동안, 디바이스(200)는 포커스 내에 있는 것으로 간주될 수 있다. 애플리케이션 프로세서(204)는 그의 웨이크 상태에서 유지될 수 있고, 사용자 인터페이스(204)는 활성 상태를 유지할 수 있다.
일단 블록(1824)에서 포커스가 소실되면, 프로세스(1800)는 애플리케이션 프로세서(204)에 통지할 수 있고, 사용자 인터페이스(202)를 비활성화시킬 수 있고, 포커스 소실 검출 모듈(228)을 디스에이블시킬 수 있다. 프로세스(1800)는 블록(1804)으로 복귀하여, 다양한 들어올림 제스처 검출 모듈들(예컨대, 지글 검출 모듈(226), 및 저-동적 메인 검출 모듈(222) 및 고-동적 메인 검출 모듈(224) 중 어느 하나)을 리인에이블시킬 수 있다. 애플리케이션 프로세서(204)가 슬립 상태로 복귀하는 경우, 프로세스(1800)는 프리히트 검출 모듈(220)을 리인에이블시킬 수 있다.
프로세스(1800)는 예시적이며, 변형들 및 수정들이 가능하다는 것이 이해될 것이다. 순차적인 것으로서 설명되는 단계들은 동시에 실행될 수 있고, 단계들의 순서가 변할 수 있으며, 단계들이 수정, 조합, 추가 또는 생략될 수 있다. 사용자 인터페이스(204)의 활성화는, 원하는 바에 따라, 웨이크 제어 로직(230)에 의해 또는 애플리케이션 프로세서(204) 내에서의 프로세스에 의해 제어될 수 있다. 프리히트 검출 모듈(220)은 애플리케이션 프로세서(204)가 그의 슬립 상태에 있는 동안에 계속해서 구동될 수 있으며, 애플리케이션 프로세서(204)가 그의 웨이크 상태에 있을 때마다 디스에이블될 수 있다. 일부 실시예들에서, 포커스 소실은 애플리케이션 프로세서(204)가 슬립 상태로 즉각적으로 복귀하게 하지 않는다. 예를 들어, 애플리케이션 프로세서(204) 상에서 진행 중인 임의의 프로세싱 태스크들이 계속해서 실행될 수 있고, 애플리케이션 프로세서(204)는 (추가의 들어올림 제스처 또는 프리히트 이벤트가 발생하지 않았음을 가정하면) 그러한 태스크들이 완료되는 경우에 슬립 상태로 복귀할 수 있다. 애플리케이션 프로세서(204)는 그것이 웨이크 상태와 슬립 상태 사이에서 전이할 때마다 웨이크 제어 로직(230)에 통지할 수 있고, 웨이크 제어 로직(230)은 또한 사용자 인터페이스(202)에서의 상태 변화들(예컨대, 비활성 상태와 활성 상태 사이)을 통지받을 수 있다. 웨이크 제어 로직(230)은 제스처 검출 모듈들 또는 알고리즘들로부터 수신된 통지 외에도 애플리케이션 프로세서(204)로부터의 통지에 기초하여 제스처 검출 모듈들 또는 알고리즘들을 인에이블 또는 디스에이블시킬 수 있다.
도 18에 도시된 예에서, 사용자 인터페이스는 들어올림 제스처가 검출되어 확인될 때까지 활성화되지 않는다. 일부 실시예들에서, 더 빠른 단계에서(예컨대, 가능성있는 들어올림 제스처 또는 검출된 들어올림 제스처가 보고될 때) 사용자 인터페이스를 활성화시키는 것이 바람직할 수 있는데; 이는 더 많은 허위 포지티브들을 가져올 수 있지만, 더 적은 허위 네거티브들을 가져올 수 있고, 더 반응적이고 만족스러운 사용자 경험을 제공할 수 있다. 또한, 사용자 인터페이스와 활성화는 단계적으로 발생할 수 있다. 예를 들어, 인터페이스는 가능성있는 들어올림 제스처의 통지가 수신될 때 부분적으로 인에이블될 수 있고(예컨대, 감소된 해상도로 디스에이블 또는 인에이블된 온 상태이지만 디밍된 터치 오버레이를 디스플레이할 수 있음), 이어서 검출된 들어올림 제스처의 통지가 수신될 때 완전히 인에이블될 수 있다.
본 발명은 특정 실시예들에 대하여 설명되었지만, 당업자는 다수의 변경들이 가능하다는 것을 인식할 것이다. 예를 들어, 다양한 알고리즘들 또는 모듈들이 디바이스 상의 코프로세서에서 실행되는 것으로 전술되어 있지만, 당업자는, 메인 프로세서(예컨대, 애플리케이션 프로세서)가 또한 전술된 제스처 검출 알고리즘들 또는 모듈들 중 임의의 것 또는 모두를 실행시킬 수 있음을 인식할 것이다. 일례로서, 전술된 실시예들에서, 제스처 분류기는 애플리케이션 프로세서가 그의 웨이크 상태에 있을 때 선택적으로 호출될 수 있고, 제스처 분류기는 코프로세서보다는 애플리케이션 프로세서 상에서 실행될 수 있다. 다른 알고리즘들은, 또한, 애플리케이션 프로세서가 웨이크 상태에 있다면, 애플리케이션 프로세서 상에서 전적으로 또는 부분적으로 실행될 수 있다. 다른 실시예들에서, 애플리케이션 프로세서는 다수의 전력 상태들을 가질 수 있다. 예를 들어, 슬립 상태는, 프로세서의 일 섹션이 전술된 것들과 같은 제스처 검출 알고리즘들을 실행시킬 수 있는 반면 프로세서의 다른 섹션들이 비활성 상태여서 전력을 절전하게 되는 상태를 포함할 수 있다. (예를 들어, 멀티코어 애플리케이션 프로세서에서, 하나의 코어는 활성적일 수 있는 반면 다른 코어들은 비활성 상태이다.)
가능성있는 들어올림 제스처들 또는 실질적 들어올림 제스처들을 검출하도록, 검출된 들어올림 제스처들을 확인하도록, 그리고/또는 프리히트 이벤트들 또는 포커스 소실 이벤트들을 검출하도록 하는 데 이용되는 파라미터들에 대해 적응적 제어가 제공될 수 있다. 적응적 제어는 파라미터들이 보다 관대한 또는 보다 엄격한 검출 기준들에 대해 조정되게 할 수 있다. 보다 관대한 기준들은 더 빠른 응답 및 더 이른 트리거링을 제공할 수 있는 반면, 더 엄격한 기준들은 더 적은 허위 포지티브들(및 그에 따라 추가적인 전력 절감)을 제공할 수 있다. 조정될 수 있는 파라미터들은 필요한 양의 증가된 y-경사, 디바이스의 포커스 포즈 범위, 및 들어올림 제스처의 실행 동안의 디바이스 궤적에 대한 기준들을 포함한다. 일부 실시예들에서, 조정가능한 파라미터들은 구성 데이터 블록을 통해 수정될 수 있고, 새로운 구성 데이터는 시간별로 디바이스에 다운로드될 수 있다. 사용자 인터페이스가 또한 제공되어, (예컨대, 관대한 것으로부터 엄격한 것에 이르는 슬라이딩 스케일(sliding scale)에 대해) 조정가능한 파라미터들을 조절하게 할 수 있다.
다른 예로서, 전술된 들어올림 제스처 알고리즘은 디바이스가 제스처를 검출하기 전의 최소 체류 시간 동안 포커스 포즈에서 유지될 것을 요구할 수 있다. 일부 실시예들에서, 체류 시간은 포커스 포즈의 정확도에 대해 상충될 수 있다. 예를 들어, 디바이스가 포커스 포즈에 대해 정의된 범위(예컨대, 4개의 기준들 중 3개를 만족함)에 가깝지만 그 범위 내에 있지 않게 유지되며 그의 위치에서의 충분한 체류 시간을 증가시키는 경우, 이는 들어올림 제스처로서 검출될 수 있다. 예를 들어, 끝내기 포즈가 충분히 길게 유지되는 것을 가정하면, y-경사가 0 또는 네거티브라기보다 포지티브이더라도, 상당한 회전에 이어서 끝내기 포즈를 유지하는 것이 인식될 수 있다. 체류 시간이 이러한 방식으로 이용되어, 결함(failure)을 "오프셋"시켜서 모든 포커스 포즈 기준들을 완전히 충족시키는 경우, 보다 엄격한 포커스 포즈 기준들이 특정될 수 있다.
본 명세서에서 기술된 프로세스들은 디바이스에 대한 사용자 인터페이스를 언제 활성화시킬지 판정하는 데 이용될 수 있다. 일단 활성화되면, 사용자 인터페이스는 원하는 임의의 상태로 제시될 수 있다. 예를 들어, 사용자 인터페이스는, 디폴트 "홈" 상태에서, 그것이 비활성 상태로 되기 전이었던 마지막 상태에서, 사용자 인터페이스가 마지막으로 활성 상태였던 이래로 수신된 통지에 관한 정보 또는 가장 최근의 통지를 제시하는 상태에서, 또는 임의의 다른 상태에서 제시될 수 있다.
일부 실시예들에서, 사용자 인터페이스 또는 그의 컴포넌트는 단계적으로 활성화될 수 있다. 예를 들어, 가능성있는 들어올림 제스처가 (예컨대, 전술된 바와 같이) 검출된 경우, 사용자 인터페이스는 부분 활성화로 전이될 수 있다. 그러한 부분 활성화는 디스플레이를 활성화시키지만 그것을 단지 희미하게 조명하는 것(여기서, "희미하게 조명하는 것"은, 예컨대 주변광, 사용자 선호도 등에 의존할 수 있는, 디스플레이의 정상 동작 밝기보다 더 낮은 임의의 광 레벨을 포함할 수 있음), 또는 디스플레이를 활성화시키지만 터치 감응형 오버레이를 활성화시키지는 않는 것, 디스플레이를 활성화시키지만 음성 입력 회로를 활성화시키지는 않는 것 등을 포함할 수 있다. 가능성있는 들어올림 제스처가 검출된 들어올림 제스처가 되는 경우, 사용자 인터페이스는 전체 활성화로 전이될 수 있는데, 예컨대 표준 밝기에서 디스플레이를 온 상태로, 터치 감응형 오버레이를 활성 상태로, 음성 입력 회로를 활성화된 상태로 등등으로 전이될 수 있다. 다른 예로서, 사용자 인터페이스의 상이한 컴포넌트들은 들어올림 제스처 검출의 상이한 단계들에서 활성화될 수 있다. 예를 들어, 가능성있는 들어올림 제스처가 (예컨대, 전술된 바와 같이) 검출되는 경우, 하나 이상의 사용자 인터페이스 컴포넌트(예컨대, 마이크로폰 또는 디스플레이)가 활성화될 수 있는 반면 다른 사용자 인터페이스 컴포넌트들(예컨대, 디스플레이 상의 터치 감응형 오버레이, 스피커, 음성 인식 코프로세서 등)이 비활성 상태로 유지된다. 가능성있는 들어올림 제스처가 검출된 들어올림 제스처가 되는 경우, 하나 이상의 다른 사용자 인터페이스 컴포넌트들(예컨대, 터치 감응형 오버레이)이 활성화될 수 있다. 또한, 하나 이상의 다른 사용자 인터페이스 컴포넌트들(예컨대, 음성 인식 코프로세서)은 검출된 들어올림 제스처가 확인된 들어올림 제스처가 될 때까지 비활성 상태로 유지될 수 있다. 다른 활성화 시퀀스들이 또한 구현될 수 있는데, 상이한 사용자 인터페이스 컴포넌트들은 상이한 제스처 상태 전이에 응답하여 활성 상태로 전이한다.
일부 실시예들에서, 웨이크 제어 로직(230)은 디바이스(200)가 포커스 상태에 얼마나 오랫동안 있었는지 나타내는 정보(예컨대, 가장 최근에 검출 또는 확인된 들어올림 제스처 이벤트 이래로 경과한 시간)를 애플리케이션 프로세서(204)에 제공할 수 있다. 추가로 또는 대신에, 애플리케이션 프로세서(204)는 웨이크 제어 로직(230)이 (예컨대, 애플리케이션 프로세서(204)에 검출된 또는 확인된 들어올림 제스처를 통지함으로써) 포커스 상태로의 전이를 나타낸 이래로 경과된 시간, 및/또는 애플리케이션 프로세서(204)에 이용가능한 다른 정보에 기초하여 포커스 상태의 지속시간을 추론할 수 있다. 포커스 상태의 지속시간은 사용자 경험에 영향을 주는 데 이용될 수 있다. 예를 들어, 디바이스(200)가 통지(예컨대, "프레드(Fred)로부터의 새로운 텍스트 메시지")를 디스플레이하는 포커스 내에 오게 되는 것을 추정한다. 사용자가 통지를 얼마나 오랫동안 보고 있는지에 따라, 애플리케이션 프로세서(204)는 사용자가 제어부를 동작시킬 필요 없이 통지에 관한 추가적인 정보(예컨대, 다음 메시지의 콘텐츠)를 디스플레이할 것을 선택할 수 있다. 다른 예로서, 애플리케이션 프로세서(204)는 사용자가 규정된 기간보다 더 오랫동안 보는 경우에는 통지가 판독된 것으로 추론할 수 있고, 사용자가 제어부를 동작시킬 필요 없이 통지를 자동으로 은닉 또는 소거시킬 수 있다. 사용자가 포커스 포즈를 얼마나 오랫동안 계속해서 유지하는지에 기초한 다른 동작들, 예컨대 통지들 또는 다른 아이템들의 리스트를 통한 또는 메시지의 콘텐츠를 통한 스크롤링 또는 페이징(paging)이 구현될 수 있다.
포커스 소실 제스처를 검출하는 것은 다양한 결과들을 가질 수 있다. 예를 들어, 사용자 인터페이스는 전술된 바와 같이 비활성화될 수 있다. 게다가, 포커스 소실의 시간에 디스플레이되고 있던 임의의 통지는 소거될 수 있거나, 또는 통지의 판독/미판독 상태가 유지될 수 있다.
또한, 전술된 바와 같이, 애플리케이션 프로세서(204)에는 웨이크 제어 로직(230)에 의해 제스처 상태 전이들 또는 제스처 이벤트들(예컨대, 가능성있는 들어올림 제스처, 검출된 들어올림 제스처, 확인된 들어올림 제스처, 포커스 소실)이 통지될 수 있다. 일부 실시예들에서, 애플리케이션 프로세서(204)는 또한 그의 클라이언트들(예컨대, 애플리케이션 프로세서 상에서 실행되는 중일 수 있는 임의의 애플리케이션들 및/또는 운영 체체 프로세스들)에 이들 전이들을 통지할 수 있고, 클라이언트들은 원하는 바에 따라 반응성 동작을 취할 수 있다.
본 발명의 일부 실시예들은 본 명세서에 기술된 모든 제스처 검출 모듈들보다 더 적은 제스처 검출 모듈들을 사용할 수 있다는 것이 이해되어야 한다. 예를 들어, 일부 실시예들은 프리히트 검출 모듈만을 포함할 수도 있다. 일부 실시예들은 단일의 자연스러운 들어올림 제스처 검출 모듈(예컨대, 전술된 바와 같은 저-동적 검출 모듈 또는 고-동적 검출 모듈 중 어느 하나일 수 있음)만을, 또는 다른 모듈들이 없이 다수의 자연스러운 들어올림 제스처 검출 모듈들을 포함할 수 있다. 일부 실시예들은 고의적인 들어올림 제스처 검출 모듈(예컨대, 전술된 바와 같은 지글 검출 모듈)만을 포함할 수 있다. 일부 실시예들은 포커스 소실 검출 모듈만을 포함할 수 있다. 일부 실시예들은 프리히트 및 하나 이상의 자연스러운 들어올림 제스처 검출 모듈들을 포함할 수 있다. 일부 실시예들은 프리히트 및 고의적인 들어올림 제스처 검출 모듈들을 포함할 수 있다. 일부 실시예들은 프리히트 및 포커스 소실 검출 모듈들을 포함할 수 있다. 일부 실시예들은 프리히트 검출 모듈, 하나 이상의 자연스러운 들어올림 제스처 검출 모듈들, 및 고의적인 들어올림 제스처 검출 모듈을 포함할 수 있다. 일부 실시예들은 하나 이상의 자연스러운 들어올림 제스처 검출 모듈들, 및 고의적인 들어올림 제스처 검출 모듈을 포함할 수 있다. 일부 실시예들은 하나 이상의 자연스러운 들어올림 제스처 검출 모듈들, 고의적인 들어올림 제스처 검출 모듈, 및 포커스 소실 검출 모듈을 포함할 수 있다. 일부 실시예들은 고의적인 들어올림 제스처 검출 모듈 및 포커스 소실 검출 모듈을 포함할 수 있다. 또한, 일부 실시예들은 구체적으로 전술되지는 않은 추가적인 제스처 검출 모듈들을 포함할 수 있다.
또한, 전술된 바와 같은 들어올림 제스처 및/또는 포커스 소실 제스처의 자동 검출을 구현하는 디바이스가 또한 사용자 인터페이스를 활성화시키기 위해 그리고/또는 비활성화시키기 위해 사용될 수 있는 사용자 동작가능 수동 제어부(예컨대, 물리적 버튼, 터치 센서 등)를 제공할 수 있다는 것이 이해되어야 한다. 그러한 제어부가 제공되는 경우, 웨이크 제어 로직(230)은 수동 제어부의 사용자 동작으로부터 기인한 사용자 인터페이스의 상태에서의 변화의 통지를 수신할 수 있고, 이에 따라 그 자신의 상태를 조절할 수 있다(예컨대, 전술된 다양한 알고리즘들을 인에이블 또는 디스에이블할 수 있다). 따라서, 본 명세서에 기술된 자동화된 프로세스들이 사용자 상호작용을 가능하게 할 수 있지만, 디바이스(및 사용자)는 전적으로 그들에 의존할 필요는 없다.
본 명세서에 기술된 다양한 알고리즘들 및 파라미터들(예컨대, 가중치들, 임계치들, 다른 기준들)은, 예컨대 전술된 바와 같은 기계 학습 및/또는 다른 기법들을 이용하여, 휴리스틱으로 조절될 수 있다. 기계 학습의 트레이닝 단계가 디바이스 개발 중(예컨대, 광범위한 분배 전)에 수행될 수 있고, 트레이닝의 결과들이 디바이스 펌웨어 내에 포함될 수 있다는 것이 고려된다. 따라서, 사용자들이 디바이스 트레이닝을 수행하는 것은 필요하지 않다. 일부 실시예들에서, 디바이스는 정상 동작 동안에, 예컨대 사용자가 고의적인 들어올림 제스처를 실행시키거나 수동 제어부를 동작시키는 경우들에 있어서 자연스러운 들어올림 제스처 검출 알고리즘이 허위 네거티브를 생성했음을 나타낼 수 있는 모션 센서 데이터의 관련 간격들을 기록하는 동안에 피드백을 수집할 수 있다. 디바이스는 그러한 기록된 데이터에 기초하여 그 자신의 알고리즘들 및 파라미터들을 개선하기 위해 배경에서 트레이닝 알고리즘들을 실행시킬 수 있다. 일부 실시예들에서, 디바이스 제조자는 큰 디바이스 세트에 걸쳐서 그러한 데이터를 수집하고 그 정보를 이용하여, 제스처 검출 알고리즘들 및/또는 파라미터들을 업데이트시킬 수 있다. (사용자 프라이버시를 보호하기 위해, 수집은 익명으로 행해질 수 있으며, 데이터가 허위 네거티브에 대응할 수 있다는 표시 및 모션 센서 데이터로 제한될 수 있다.)
본 발명은 "대략적으로" 및 "실질적으로"와 같은 용어들을 이용하여, 포커스 포즈에서의 안정성과 같은 소정 측정치들을 한정한다. 당업자는, 대부분의 사용자들이 그들의 팔을 완벽하게 가만히 유지할 수 없고, 이들 용어들이 자연적인 사용자 불안정성의 영향뿐 아니라 다양한 모션 센서들의 고유 정확도에 대해 허용이 이루어질 수 있음을 나타내기 위해 사용된다는 것을 이해할 것이다. 수평, 수직, 및 평행과 같은 다른 용어들은 물리적 완전성이 불필요함을 나타내기 위해 유사하게 한정될 수 있다. 또한, 본 명세서에서 사용된 바와 같은 "시선 내에"와 같은 용어들은 일반적으로 디바이스에 대한 사용자의 머리의 배향에 관한 가정을 지칭하며, 그러한 가정은 사용자의 눈이 디바이스를 향해 있는지 아니면 향해 있지 않은지 여부의 실측 자료와 항상 매칭하지는 않을 수도 있다.
또한, 설명이 웨어러블 디바이스들 및 손목 웨어러블 디바이스들에 대해 구체적으로 언급하지만, 본 발명의 실시예들은 웨어러블 또는 손목 웨어러블 디바이스들로 제한되지 않는다. 예를 들어, 전술된 알고리즘들 및 모듈들은 사용자가 디바이스와의 상호작용 동안에 픽업하여 보유할 수 있는 다른 휴대용 디바이스들, 예컨대 모바일 전화기들, 태블릿들 등에서 구현될 수 있다. 전술된 바와 같은 알고리즘들 및/또는 모듈들은, 핸드헬드 디바이스에서 구현될 때, 픽업되어 사용자의 시선 내에서 유지되는 것과 일치하는 디바이스의 배향에서의 변화들(또는 반대로 내려 놓거나 떨어뜨려 놓는 것과 일치하는 변화들)을 검출할 수 있으며, 그러한 변화들의 검출은 디바이스 상태에서의 변화들(예컨대, 디스플레이 또는 다른 사용자 인터페이스 컴포넌트를 활성화시키기, 프로세서를 슬립 상태로부터 웨이크시키기 등)을 트리거시키는 데 이용될 수 있다.
본 발명의 실시예들은 전용 컴포넌트들 및/또는 프로그래밍 가능한 프로세서들 및/또는 다른 프로그래밍 가능한 디바이스들의 임의의 조합을 사용하여 실현될 수 있다. 본 명세서에 기술된 다양한 프로세스들은 동일한 프로세서 또는 임의의 조합의 상이한 프로세서들 상에서 구현될 수 있다. 컴포넌트들이 소정 동작들을 수행하도록 구성되어 있는 것으로 기술되어 있는 경우, 이러한 구성은, 예컨대, 전자 회로들을 그 동작을 수행하도록 설계하는 것에 의해, (마이크로프로세서들과 같은) 프로그래밍 가능한 전자 회로들을 그 동작을 수행하도록 프로그래밍하는 것에 의해, 또는 이들의 임의의 조합에 의해 달성될 수 있다. 또한, 전술된 실시예들은 특정 하드웨어 및 소프트웨어 컴포넌트들을 참조할 수 있지만, 당업자는 하드웨어 및/또는 소프트웨어 컴포넌트들의 상이한 조합들이 또한 사용될 수 있으며 하드웨어로 구현되는 것으로서 설명된 특정 동작들이 또한 소프트웨어로 구현될 수 있거나 그 역도 마찬가지임을 이해할 것이다.
본 발명의 다양한 특징들을 포함하는 컴퓨터 프로그램들이 다양한 컴퓨터 판독가능 저장 매체들 상에 인코딩되고 저장될 수 있으며; 적합한 매체들은 자기 디스크 또는 테이프, 콤팩트 디스크(CD) 또는 DVD(digital versatile disk)와 같은 광 저장 매체, 플래시 메모리, 및 다른 비일시적 매체를 포함한다. (데이터의 "저장"은 반송파와 같은 일시적 매체들을 사용한 데이터의 전달과는 별개라는 것이 이해된다.) 프로그램 코드로 인코딩된 컴퓨터 판독가능 매체는 호환가능한 전자 디바이스와 패키징될 수 있거나, 또는 프로그램 코드는 (예컨대, 인터넷 다운로드를 통해 또는 별도로 패키징된 컴퓨터 판독가능 저장 매체로서) 전자 디바이스들과는 별개로 제공될 수 있다.
따라서, 본 발명이 특정 실시예들에 대하여 기술되었지만, 본 발명은 하기의 청구범위의 범주 내의 모든 수정들 및 등가물들을 커버하도록 의도된다는 것이 이해될 것이다.
[도 1a]
Figure pat00042
[도 1b]
Figure pat00043
[도 1c]
Figure pat00044
[도 1d]
Figure pat00045
[도 2a]
Figure pat00046
[도 2b]
Figure pat00047
[도 3]
Figure pat00048
[도 4]
Figure pat00049
[도 5]
Figure pat00050
[도 6]
Figure pat00051
[도 7]
Figure pat00052
[도 8]
Figure pat00053
[도 9]
Figure pat00054
[도 10a]
Figure pat00055
[도 10b]
Figure pat00056
[도 11]
Figure pat00057
[도 12]
Figure pat00058
[도 13]
Figure pat00059
[도 14]
Figure pat00060
[도 15]
Figure pat00061
[도 16]
Figure pat00062
[도 17]
Figure pat00063
[도 18]
Figure pat00064

Claims (17)

  1. 방법으로서, 디스플레이를 갖는 전자 디바이스에서,
    복수의 경고를 수신하는 단계;
    상기 복수의 경고를 수신하는 것에 응답하여, 상기 복수의 경고가 그룹화 기준을 충족시키는지 여부를 판정하는 단계;
    상기 복수의 경고가 상기 그룹화 기준을 충족시킨다는 판정에 따라서, 상기 복수의 경고를 표현하는 그룹화된 통지를 디스플레이하는 단계; 및
    상기 복수의 경고가 상기 그룹화 기준을 충족시키지 않는다는 판정에 응답하여, 상기 복수의 경고를 표현하는 복수의 통지를 디스플레이하는 단계
    를 포함하고,
    상기 그룹화 기준은 상기 복수의 경고가 사전결정된 기간 내에서 수신되는 때에 충족되는 기준을 포함하는 것을 특징으로 하는, 방법.
  2. 제1항에 있어서,
    상기 그룹화 기준은 상기 복수의 경고가 동일한 소스로부터 수신되는 때에 충족되는 기준을 포함하는, 방법.
  3. 제1항 또는 제2항에 있어서,
    상기 그룹화 기준은 상기 복수의 경고가 경고의 숫자 임계치를 초과하는 때에 충족되는 기준을 포함하는, 방법.
  4. 제1항 또는 제2항에 있어서,
    상기 그룹화 기준은 상기 복수의 경고가 동일한 애플리케이션과 연관될 때에 충족되는 기준을 포함하는, 방법.
  5. 제1항 또는 제2항에 있어서,
    상기 복수의 경고는 동일한 소스로부터 수신되고 동일한 애플리케이션과 연관되는 제1 경고 및 제2 경고를 포함하고, 상기 제1 경고 및 상기 제2 경고는 상기 그룹화 기준을 충족하고, 상기 제1 경고는 제1 정보를 포함하고, 상기 제2 경고는 제2 정보를 포함하고, 상기 방법은,
    상기 그룹화된 통지에 대응하는 위치에서 상기 디스플레이 상에 제1 접촉을 검출하는 단계; 및
    상기 제1 접촉을 검출하는 것에 응답해서, 상기 디스플레이 상에 상기 제1 정보 및 상기 제2 정보를 디스플레이하는 단계
    를 더 포함하는, 방법.
  6. 제5항에 있어서,
    상기 디스플레이 상에 상기 제1 정보 및 상기 제2 정보 중 적어도 하나 상의 제2 접촉을 검출하는 단계; 및
    상기 제2 접촉을 검출하는 것에 응답해서, 상기 선택된 제1 또는 제2 정보와 연관된 경고 컨텐츠를 디스플레이하는 단계
    를 더 포함하는 방법.
  7. 제1항 또는 제2항에 있어서,
    상기 복수의 경고는 상이한 소스들로부터 수신되고 동일한 애플리케이션과 연관되는 제1 경고 및 제2 경고를 포함하고, 상기 제1 경고 및 상기 제2 경고는 상기 그룹화 기준을 충족하고, 상기 방법은,
    상기 그룹화된 통지에 대응하는 위치에서 상기 디스플레이 상에 제3 접촉을 검출하는 단계; 및
    상기 제3 접촉을 검출하는 것에 응답해서, 상기 애플리케이션과 연관된 경고들의 리스트를 디스플레이하는 단계 - 상기 경고들의 리스트는 상기 제1 경고 및 상기 제2 경고를 포함함 -
    를 더 포함하는, 방법.
  8. 제7항에 있어서,
    상기 경고들의 리스트에서의 상기 제1 경고 및 상기 제2 경고 중 적어도 하나 상의 제4 접촉을 검출하는 단계; 및
    상기 제4 접촉을 검출하는 것에 응답해서, 상기 선택된 제1 또는 제2 경고와 연관된 경고 컨텐츠를 디스플레이하는 단계
    를 더 포함하는 방법.
  9. 제1항 또는 제2항에 있어서,
    상기 복수의 경고는 복수의 애플리케이션과 연관되고, 상기 복수의 경고는 상기 그룹화 기준을 충족하고, 상기 방법은,
    상기 복수의 경고를 표현하는 그룹화된 통지를 디스플레이하는 단계;
    상기 그룹화된 통지에 대응하는 위치에서 상기 디스플레이 상에 제5 접촉을 검출하는 단계; 및
    상기 제5 접촉을 검출하는 것에 응답해서, 상기 복수의 경고를 표현하는 통지들의 리스트를 디스플레이하는 단계 - 상기 복수의 경고는 적어도 제1 경고 및 제2 경고를 포함함 -
    를 더 포함하는, 방법.
  10. 제9항에 있어서,
    상기 통지들의 리스트는 상기 그룹화된 통지에 의해 표현되는 상기 수신된 경고들 각각에 대한 별개의 통지들을 포함하고, 상기 방법은,
    상기 별개의 통지들 중 적어도 하나를 선택하는 제6 접촉을 검출하는 단계; 및
    상기 제6 접촉을 검출하는 것에 응답해서, 상기 선택된 별개의 통지와 연관된 경고 컨텐츠를 디스플레이하는 단계
    를 더 포함하는 방법.
  11. 제1항 또는 제2항에 있어서,
    상기 복수의 경고를 수신하는 것에 응답해서, 인지적 출력을 발하는 단계
    를 더 포함하는 방법.
  12. 제1항 또는 제2항에 있어서,
    상기 복수의 경고가 상기 그룹화 기준을 충족시킨다는 판정에 따라서, 하나의 인지적 출력을 발하는 단계; 및
    상기 복수의 경고가 그룹화 기준을 충족시키지 않는다는 판정에 따라서, 상기 복수의 경고에 대응하는 복수의 인지적 출력을 발하는 단계
    를 더 포함하는 방법.
  13. 제1항 또는 제2항에 있어서,
    제3 경고를 수신하는 단계 - 상기 제3 경고는 시간에 민감한(time-sensitive) 경고를 포함함 - ;
    상기 제3 경고를 수신하는 것에 응답하여, 상기 제3 경고가 상기 그룹화 기준을 충족하지 않는다고 판정하는 단계; 및
    상기 제3 경고가 상기 그룹화 기준을 충족하지 않는다는 판정에 따라서, 상기 제3 경고를 상기 복수의 경고를 표현하는 상기 그룹화된 통지에 포함되는 것으로부터 제외하는 단계
    를 더 포함하는 방법.
  14. 제13항에 있어서,
    상기 제3 경고가 상기 그룹화 기준을 충족하지 않는다는 판정에 따라서, 상기 제3 경고에 대한 하나의 통지를 디스플레이하는 단계
    를 더 포함하는 방법.
  15. 제13항에 있어서,
    상기 시간에 민감한 경고는 긴급 캘린더 리마인더 경고 및 시스템 경고 중 적어도 하나를 포함하는, 방법.
  16. 전자 디바이스로서,
    하나 이상의 프로세서;
    메모리; 및
    상기 메모리에 저장된 하나 이상의 프로그램을 포함하고, 상기 하나 이상의 프로그램은 제1항 또는 제2항의 방법을 수행하기 위한 명령어들을 포함하는, 전자 디바이스.
  17. 전자 디바이스의 하나 이상의 프로세서에 의해 실행되기 위한 하나 이상의 프로그램을 포함하는 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 하나 이상의 프로그램은 상기 하나 이상의 프로세서에 의해 실행 시 상기 전자 디바이스로 하여금 제1항 또는 제2항의 방법을 수행하도록 하는 명령어들을 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
KR1020187027006A 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스 KR102016160B1 (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201462044894P 2014-09-02 2014-09-02
US62/044,894 2014-09-02
US201562129818P 2015-03-07 2015-03-07
US62/129,818 2015-03-07
PCT/US2015/044083 WO2016036472A1 (en) 2014-09-02 2015-08-06 Reduced-size interfaces for managing alerts

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020177005628A Division KR101901796B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020197024901A Division KR102143308B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스

Publications (2)

Publication Number Publication Date
KR20180107296A true KR20180107296A (ko) 2018-10-01
KR102016160B1 KR102016160B1 (ko) 2019-08-29

Family

ID=54064567

Family Applications (3)

Application Number Title Priority Date Filing Date
KR1020197024901A KR102143308B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스
KR1020187027006A KR102016160B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스
KR1020177005628A KR101901796B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020197024901A KR102143308B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020177005628A KR101901796B1 (ko) 2014-09-02 2015-08-06 경고를 관리하기 위한 축소된 크기의 인터페이스

Country Status (12)

Country Link
US (5) US9575591B2 (ko)
EP (3) EP3373122B1 (ko)
JP (5) JP6349030B2 (ko)
KR (3) KR102143308B1 (ko)
CN (6) CN117519533A (ko)
AU (7) AU2015312369B2 (ko)
DE (1) DE202015006066U1 (ko)
DK (3) DK178964B1 (ko)
HK (1) HK1220525A1 (ko)
NL (2) NL2015354B1 (ko)
TW (1) TWI625646B (ko)
WO (1) WO2016036472A1 (ko)

Families Citing this family (148)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9190110B2 (en) 2009-05-12 2015-11-17 JBF Interlude 2009 LTD System and method for assembling a recorded composition
US11232458B2 (en) 2010-02-17 2022-01-25 JBF Interlude 2009 LTD System and method for data mining within interactive multimedia
US8893033B2 (en) * 2011-05-27 2014-11-18 Microsoft Corporation Application notifications
US9002322B2 (en) 2011-09-29 2015-04-07 Apple Inc. Authentication with secondary approver
US9459781B2 (en) 2012-05-09 2016-10-04 Apple Inc. Context-specific user interfaces for displaying animated sequences
US9009619B2 (en) 2012-09-19 2015-04-14 JBF Interlude 2009 Ltd—Israel Progress bar for branched videos
USD763860S1 (en) * 2013-03-04 2016-08-16 Tixtrack, Inc. Display panel or portion thereof with graphical user interface
US9257148B2 (en) 2013-03-15 2016-02-09 JBF Interlude 2009 LTD System and method for synchronization of selectably presentable media streams
KR101419764B1 (ko) * 2013-06-07 2014-07-17 정영민 휴대단말기의 음성 이모티콘 제어방법
US10448119B2 (en) 2013-08-30 2019-10-15 JBF Interlude 2009 LTD Methods and systems for unfolding video pre-roll
US9653115B2 (en) 2014-04-10 2017-05-16 JBF Interlude 2009 LTD Systems and methods for creating linear video from branched video
US9792026B2 (en) 2014-04-10 2017-10-17 JBF Interlude 2009 LTD Dynamic timeline for branched video
US11343335B2 (en) 2014-05-29 2022-05-24 Apple Inc. Message processing by subscriber app prior to message forwarding
EP3149501B1 (en) 2014-05-30 2018-11-14 Apple Inc. Battery usage tracking user interface
US9185062B1 (en) 2014-05-31 2015-11-10 Apple Inc. Message user interfaces for capture and transmittal of media and location content
US10382378B2 (en) 2014-05-31 2019-08-13 Apple Inc. Live location sharing
EP3195098A2 (en) 2014-07-21 2017-07-26 Apple Inc. Remote user interface
US10228751B2 (en) 2014-08-06 2019-03-12 Apple Inc. Low power mode
DE212015000194U1 (de) 2014-08-06 2017-05-31 Apple Inc. Verkleinerte Benutzeroberflächen für Batteriemanagement
US10452253B2 (en) 2014-08-15 2019-10-22 Apple Inc. Weather user interface
US9647489B2 (en) 2014-08-26 2017-05-09 Apple Inc. Brownout avoidance
CN115623117A (zh) 2014-09-02 2023-01-17 苹果公司 电话用户界面
CN106537397B (zh) 2014-09-02 2019-12-13 苹果公司 身体活动和健身监视器
US9547419B2 (en) 2014-09-02 2017-01-17 Apple Inc. Reduced size configuration interface
EP3373122B1 (en) 2014-09-02 2022-04-06 Apple Inc. Reduced-size interfaces for managing alerts
US9792957B2 (en) * 2014-10-08 2017-10-17 JBF Interlude 2009 LTD Systems and methods for dynamic video bookmarking
US11412276B2 (en) 2014-10-10 2022-08-09 JBF Interlude 2009 LTD Systems and methods for parallel track transitions
WO2016144385A1 (en) 2015-03-08 2016-09-15 Apple Inc. Sharing user-configurable graphical constructs
EP3276925B1 (en) * 2015-04-17 2019-11-06 Huawei Technologies Co. Ltd. Contact information adding method and user equipment
US10582265B2 (en) 2015-04-30 2020-03-03 JBF Interlude 2009 LTD Systems and methods for nonlinear video playback using linear real-time video players
TW201642110A (zh) * 2015-05-22 2016-12-01 富智康（香港）有限公司 通知介面控制系統及方法
US20160342327A1 (en) * 2015-05-22 2016-11-24 Lg Electronics Inc. Watch-type mobile terminal and method of controlling therefor
KR20160143338A (ko) * 2015-06-05 2016-12-14 엘지전자 주식회사 이동단말기 및 그 제어방법
US9916075B2 (en) 2015-06-05 2018-03-13 Apple Inc. Formatting content for a reduced-size user interface
JP6696737B2 (ja) * 2015-06-26 2020-05-20 シャープ株式会社 コンテンツ表示装置及びプログラム
KR20170007940A (ko) * 2015-07-13 2017-01-23 삼성전자주식회사 커버를 착용한 전자 장치 및 그의 표시 제어 방법
US10003938B2 (en) 2015-08-14 2018-06-19 Apple Inc. Easy location sharing
EP4321088A3 (en) 2015-08-20 2024-04-24 Apple Inc. Exercise-based watch face
US10460765B2 (en) 2015-08-26 2019-10-29 JBF Interlude 2009 LTD Systems and methods for adaptive and responsive video
US10353504B2 (en) * 2015-09-08 2019-07-16 Samsung Electronics Co., Ltd. User interface for computing devices equipped with pressure-sensitive displays
JP2017079042A (ja) * 2015-10-22 2017-04-27 富士通株式会社 注意喚起対処支援プログラム、注意喚起対処支援装置、及び注意喚起対処支援方法
DE102015016152A1 (de) 2015-12-12 2017-06-14 Daimler Ag Haptische Rückmeldung bei einer Nutzerschnittstelle
US11128853B2 (en) 2015-12-22 2021-09-21 JBF Interlude 2009 LTD Seamless transitions in large-scale video
US11164548B2 (en) 2015-12-22 2021-11-02 JBF Interlude 2009 LTD Intelligent buffering of large-scale video
US20170185275A1 (en) * 2015-12-28 2017-06-29 Sap Se Method and system for integrated application notifications
CN108431756B (zh) * 2015-12-31 2020-09-08 华为技术有限公司 响应作用在电子设备的触控屏上的手势的方法和电子设备
US10169560B2 (en) * 2016-02-04 2019-01-01 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Stimuli-based authentication
WO2017156112A1 (en) * 2016-03-10 2017-09-14 FlyInside, Inc. Contextual virtual reality interaction
US10983624B2 (en) 2016-03-15 2021-04-20 Huawei Technologies Co., Ltd. Man-machine interaction method, device, and graphical user interface for activating a default shortcut function according to pressure input
US10462202B2 (en) 2016-03-30 2019-10-29 JBF Interlude 2009 LTD Media stream rate synchronization
US11856271B2 (en) 2016-04-12 2023-12-26 JBF Interlude 2009 LTD Symbiotic interactive video
US20170329467A1 (en) * 2016-05-13 2017-11-16 Google Inc. Coalescing Notifications Associated with Interactive Digital Content
USD842336S1 (en) 2016-05-17 2019-03-05 Google Llc Display screen with animated graphical user interface
US10345986B1 (en) * 2016-05-17 2019-07-09 Google Llc Information cycling in graphical notifications
DK201770423A1 (en) 2016-06-11 2018-01-15 Apple Inc Activity and workout updates
DK201670622A1 (en) 2016-06-12 2018-02-12 Apple Inc User interfaces for transactions
US10218760B2 (en) 2016-06-22 2019-02-26 JBF Interlude 2009 LTD Dynamic summary generation for real-time switchable videos
US9736810B1 (en) * 2016-06-24 2017-08-15 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Systems and methods for managing user notifications based on user interaction with a computing device
JP6493329B2 (ja) * 2016-07-29 2019-04-03 京セラドキュメントソリューションズ株式会社 電子機器及び画像形成装置
US11831492B2 (en) * 2016-08-16 2023-11-28 Nicira, Inc. Group-based network event notification
CN106469041A (zh) * 2016-08-30 2017-03-01 北京小米移动软件有限公司 推送消息的方法及装置、终端设备
DK179802B1 (en) * 2016-09-06 2019-06-26 Apple Inc. Devices, methods and graphical user interfaces for generating tactile outputs
US10736543B2 (en) 2016-09-22 2020-08-11 Apple Inc. Workout monitor interface
EP3491639A4 (en) * 2016-09-23 2019-07-31 Apple Inc. THEATER MODE OF A CLOCK
EP3529705B1 (en) * 2016-10-24 2022-03-16 Hewlett-Packard Development Company, L.P. Configuring docks
US9788298B1 (en) * 2016-12-01 2017-10-10 Immersion Corporation Smart surfaces for visuo-haptics notifications
US10848483B2 (en) * 2016-12-08 2020-11-24 Ricoh Company, Ltd. Shared terminal, communication system, and display control method, and recording medium
US11050809B2 (en) 2016-12-30 2021-06-29 JBF Interlude 2009 LTD Systems and methods for dynamic weighting of branched video paths
US10496273B2 (en) 2017-03-27 2019-12-03 Google Llc Dismissing displayed elements
CN108737147B (zh) * 2017-04-25 2021-09-03 中国移动通信集团广东有限公司 一种网络告警事件处理方法及装置
US11402909B2 (en) 2017-04-26 2022-08-02 Cognixion Brain computer interface for augmented reality
US11237635B2 (en) 2017-04-26 2022-02-01 Cognixion Nonverbal multi-input and feedback devices for user intended computer control and communication of text, graphics and audio
US10169979B2 (en) * 2017-05-04 2019-01-01 General Electric Company Communicating alarm trigger status
WO2018209152A1 (en) * 2017-05-12 2018-11-15 Apple Inc. Context-specific user interfaces
DK179412B1 (en) 2017-05-12 2018-06-06 Apple Inc Context-Specific User Interfaces
US10845955B2 (en) * 2017-05-15 2020-11-24 Apple Inc. Displaying a scrollable list of affordances associated with physical activities
WO2018213506A2 (en) * 2017-05-16 2018-11-22 Apple Inc. Voice communication method
US20220279063A1 (en) 2017-05-16 2022-09-01 Apple Inc. Methods and interfaces for home media control
US10796294B2 (en) 2017-05-16 2020-10-06 Apple Inc. User interfaces for peer-to-peer transfers
US10466889B2 (en) 2017-05-16 2019-11-05 Apple Inc. Devices, methods, and graphical user interfaces for accessing notifications
CN111343060B (zh) 2017-05-16 2022-02-11 苹果公司 用于家庭媒体控制的方法和界面
US10511707B2 (en) 2017-05-16 2019-12-17 Apple Inc. Voice communication method
EP3610362A2 (en) 2017-05-16 2020-02-19 Apple Inc. Voice communication method
US11765114B2 (en) 2017-05-16 2023-09-19 Apple Inc. Voice communication method
DK179555B1 (en) 2017-05-16 2019-02-13 Apple Inc. USER INTERFACE FOR A FLASHLIGHT MODE ON AN ELECTRONIC DEVICE
US10951043B2 (en) 2017-06-04 2021-03-16 Apple Inc. Multi-device charging user interface
US10650567B2 (en) 2017-06-09 2020-05-12 FlyInside, Inc. Optimizing processing time of a simulation engine
US10347193B2 (en) * 2017-06-23 2019-07-09 Blackberry Limited Electronic device including display and method of applying privacy filter
US10395638B2 (en) 2017-07-08 2019-08-27 International Business Machines Corporation Natural language processing to merge related alert messages for accessibility
KR102349681B1 (ko) * 2017-07-28 2022-01-12 삼성전자주식회사 결여된 파라미터를 획득하고 기록하는 전자 장치
US10589960B2 (en) 2017-07-31 2020-03-17 Otis Elevator Company User device including secondary-touch elevator service request interface
US20190068771A1 (en) * 2017-08-24 2019-02-28 Microsoft Technology Licensing, Llc External device for communicating with conferencing client using notification api
US10599199B1 (en) 2017-12-20 2020-03-24 Apple Inc. Systems and methods for power management at device shutdown
US10817307B1 (en) 2017-12-20 2020-10-27 Apple Inc. API behavior modification based on power source health
US11363133B1 (en) 2017-12-20 2022-06-14 Apple Inc. Battery health-based power management
US10257578B1 (en) 2018-01-05 2019-04-09 JBF Interlude 2009 LTD Dynamic library display for interactive videos
DK180246B1 (en) 2018-03-12 2020-09-11 Apple Inc User interfaces for health monitoring
EP3743828A1 (en) * 2018-04-27 2020-12-02 Dropbox, Inc. Comment previews displayed in context within content item
US11249950B2 (en) 2018-04-27 2022-02-15 Dropbox, Inc. Aggregated details displayed within file browser interface
US11317833B2 (en) 2018-05-07 2022-05-03 Apple Inc. Displaying user interfaces associated with physical activities
US11327650B2 (en) 2018-05-07 2022-05-10 Apple Inc. User interfaces having a collection of complications
US11601721B2 (en) 2018-06-04 2023-03-07 JBF Interlude 2009 LTD Interactive video dynamic adaptation and user profiling
JP7173814B2 (ja) * 2018-09-28 2022-11-16 キヤノン株式会社 情報処理装置、制御方法およびプログラム
CN109739669B (zh) * 2019-01-15 2020-09-18 维沃移动通信有限公司 一种未读消息提示方法及移动终端
US11960701B2 (en) 2019-05-06 2024-04-16 Apple Inc. Using an illustration to show the passing of time
CN113795810A (zh) * 2019-05-06 2021-12-14 苹果公司 独立可穿戴设备配置和界面
WO2020227330A1 (en) 2019-05-06 2020-11-12 Apple Inc. Restricted operation of an electronic device
DK201970532A1 (en) 2019-05-06 2021-05-03 Apple Inc Activity trends and workouts
US11131967B2 (en) 2019-05-06 2021-09-28 Apple Inc. Clock faces for an electronic device
US11646591B2 (en) 2019-05-09 2023-05-09 Apple Inc. Indication for protective charging mode
KR102436985B1 (ko) 2019-05-31 2022-08-29 애플 인크. 오디오 미디어 제어를 위한 사용자 인터페이스
US11010121B2 (en) 2019-05-31 2021-05-18 Apple Inc. User interfaces for audio media control
DK201970533A1 (en) 2019-05-31 2021-02-15 Apple Inc Methods and user interfaces for sharing audio
JP7097515B2 (ja) * 2019-05-31 2022-07-07 アップル インコーポレイテッド オーディオを共有するための方法及びユーザインタフェース
US11481094B2 (en) 2019-06-01 2022-10-25 Apple Inc. User interfaces for location-related communications
JP7073592B1 (ja) * 2019-06-01 2022-05-23 アップル インコーポレイテッド オーディオ露出を管理するためのユーザインタフェース
US11477609B2 (en) 2019-06-01 2022-10-18 Apple Inc. User interfaces for location-related communications
US11144176B2 (en) * 2019-06-01 2021-10-12 Apple Inc. User interfaces for electronic voice communications
US11152100B2 (en) 2019-06-01 2021-10-19 Apple Inc. Health application user interfaces
DK180684B1 (en) 2019-09-09 2021-11-25 Apple Inc Techniques for managing display usage
US11490047B2 (en) 2019-10-02 2022-11-01 JBF Interlude 2009 LTD Systems and methods for dynamically adjusting video aspect ratios
CN113127613B (zh) * 2020-01-10 2024-01-09 北京搜狗科技发展有限公司 聊天信息处理方法及装置
DK202070612A1 (en) 2020-02-14 2021-10-26 Apple Inc User interfaces for workout content
US11245961B2 (en) 2020-02-18 2022-02-08 JBF Interlude 2009 LTD System and methods for detecting anomalous activities for interactive videos
US11455085B2 (en) 2020-03-10 2022-09-27 Apple Inc. Devices, methods, and graphical user interfaces for interacting with user interface objects corresponding to applications
JP2021152879A (ja) * 2020-03-19 2021-09-30 カシオ計算機株式会社 情報処理装置、情報処理方法およびプログラム
DK202070625A1 (en) 2020-05-11 2022-01-04 Apple Inc User interfaces related to time
US11372659B2 (en) 2020-05-11 2022-06-28 Apple Inc. User interfaces for managing user interface sharing
WO2021231345A1 (en) 2020-05-11 2021-11-18 Apple Inc. User interfaces for managing user interface sharing
US11340707B2 (en) * 2020-05-29 2022-05-24 Microsoft Technology Licensing, Llc Hand gesture-based emojis
DK181037B1 (en) 2020-06-02 2022-10-10 Apple Inc User interfaces for health applications
US11816194B2 (en) 2020-06-21 2023-11-14 Apple Inc. User interfaces for managing secure operations
US11698710B2 (en) 2020-08-31 2023-07-11 Apple Inc. User interfaces for logging user activities
US11392291B2 (en) 2020-09-25 2022-07-19 Apple Inc. Methods and interfaces for media control with dynamic feedback
US11694590B2 (en) 2020-12-21 2023-07-04 Apple Inc. Dynamic user interface with time indicator
CN112612626A (zh) * 2020-12-28 2021-04-06 北京小米移动软件有限公司 信息处理方法及装置、存储介质
US11720239B2 (en) 2021-01-07 2023-08-08 Apple Inc. Techniques for user interfaces related to an event
US11921992B2 (en) 2021-05-14 2024-03-05 Apple Inc. User interfaces related to time
EP4323992A1 (en) 2021-05-15 2024-02-21 Apple Inc. User interfaces for group workouts
US11882337B2 (en) 2021-05-28 2024-01-23 JBF Interlude 2009 LTD Automated platform for generating interactive videos
US11847378B2 (en) 2021-06-06 2023-12-19 Apple Inc. User interfaces for audio routing
US11893203B2 (en) 2021-08-31 2024-02-06 Apple Inc. Methods and interfaces for initiating communications
WO2023044044A1 (en) * 2021-09-20 2023-03-23 Apple Inc. Requests to add assets to an asset account
US11784956B2 (en) 2021-09-20 2023-10-10 Apple Inc. Requests to add assets to an asset account
US11934477B2 (en) 2021-09-24 2024-03-19 JBF Interlude 2009 LTD Video player integration within websites
EP4273678A1 (en) 2022-05-06 2023-11-08 Apple Inc. Devices, methods, and graphical user interfaces for updating a session region
US11842028B2 (en) 2022-05-06 2023-12-12 Apple Inc. Devices, methods, and graphical user interfaces for updating a session region
US11896871B2 (en) 2022-06-05 2024-02-13 Apple Inc. User interfaces for physical activity information

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080091166A1 (en) * 2003-03-18 2008-04-17 Catharos Medical Systems, Inc. Methods and devices for retrieval of a medical agent from a physiological efferent fluid collection site
US20110183650A1 (en) * 2010-01-22 2011-07-28 Sony Ericsson Mobile Communications Ab Regulating alerts generated by communication terminals responsive to sensed movement
US20130322634A1 (en) * 2012-06-05 2013-12-05 Apple Inc. Context-aware voice guidance

Family Cites Families (574)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US190059A (en) 1877-04-24 Improvement in screw-cutting dies
US17692A (en) 1857-06-30 Fence
US3859005A (en) 1973-08-13 1975-01-07 Albert L Huebner Erosion reduction in wet turbines
JPS5580084A (en) 1978-12-12 1980-06-16 Seiko Instr & Electronics Ltd Electronic wrist watch with computer
US4826405A (en) 1985-10-15 1989-05-02 Aeroquip Corporation Fan blade fabrication system
KR910007197B1 (ko) 1988-08-23 1991-09-19 삼성전자 주식회사 리모트 콘트롤회로
US5404295A (en) 1990-08-16 1995-04-04 Katz; Boris Method and apparatus for utilizing annotations to facilitate computer retrieval of database material
GB9220404D0 (en) 1992-08-20 1992-11-11 Nat Security Agency Method of identifying,retrieving and sorting documents
US5444823A (en) 1993-04-16 1995-08-22 Compaq Computer Corporation Intelligent search engine for associated on-line documentation having questionless case-based knowledge base
US5495604A (en) 1993-08-25 1996-02-27 Asymetrix Corporation Method and apparatus for the modeling and query of database structures using natural language-like constructs
US5479378A (en) * 1993-12-17 1995-12-26 Seiko Telecommunication Systems Inc. Analog wristwatch paging receiver
US6191807B1 (en) 1994-05-27 2001-02-20 Canon Kabushiki Kaisha Communication apparatus and method for performing a file transfer operation
US5655094A (en) 1995-09-29 1997-08-05 International Business Machines Corporation Pop up scroll bar
US5801700A (en) 1996-01-19 1998-09-01 Silicon Graphics Incorporated System and method for an iconic drag and drop interface for electronic file transfer
US6014429A (en) 1996-08-12 2000-01-11 Lucent Technologies, Inc. Two-way wireless messaging system with transaction server
US6002402A (en) 1997-04-09 1999-12-14 Symantec Corporation System and method for producing a drag-and-drop object from a popup menu item
JPH1145117A (ja) 1997-07-25 1999-02-16 Mitsubishi Electric Corp メッセージ表示システム
US6137864A (en) 1997-07-25 2000-10-24 Lucent Technologies Inc. Specifiable delete times for voice messaging
US6266098B1 (en) 1997-10-22 2001-07-24 Matsushita Electric Corporation Of America Function presentation and selection using a rotatable function menu
KR100595924B1 (ko) 1998-01-26 2006-07-05 웨인 웨스터만 수동 입력 통합 방법 및 장치
US7663607B2 (en) 2004-05-06 2010-02-16 Apple Inc. Multipoint touchscreen
US8479122B2 (en) 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US7844914B2 (en) 2004-07-30 2010-11-30 Apple Inc. Activating virtual keys of a touch-screen virtual keyboard
US20060033724A1 (en) 2004-07-30 2006-02-16 Apple Computer, Inc. Virtual input device placement on a touch screen user interface
US7614008B2 (en) 2004-07-30 2009-11-03 Apple Inc. Operation of a computer with touch screen interface
JP3511462B2 (ja) 1998-01-29 2004-03-29 インターナショナル・ビジネス・マシーンズ・コーポレーション 操作画像表示装置およびその方法
US6253075B1 (en) 1998-05-19 2001-06-26 Nokia Mobile Phones Ltd. Method and apparatus for incoming call rejection
US6484027B1 (en) * 1998-06-15 2002-11-19 Sbc Technology Resources, Inc. Enhanced wireless handset, including direct handset-to-handset communication mode
EA003432B1 (ru) 1998-09-15 2003-04-24 Ин Тач Текнолоджиз Лимитед Платформа расширенной связи и способ связи, использующий платформу
US20020126135A1 (en) 1998-10-19 2002-09-12 Keith Ball Image sharing for instant messaging
EP1052566A1 (en) 1999-05-14 2000-11-15 Alcatel Graphical user interface
GB2350523B (en) 1999-05-26 2003-11-26 Nokia Mobile Phones Ltd Communication device
US20030181201A1 (en) 1999-07-09 2003-09-25 Daniel S. Bomze Mobile communication device for electronic commerce
US7149893B1 (en) 1999-09-07 2006-12-12 Poofaway.Com, Inc. System and method for enabling the originator of an electronic mail message to preset an expiration time, date, and/or event, and to control processing or handling by a recipient
US20040169722A1 (en) 1999-10-16 2004-09-02 Pena Martin Rangel Method and system for computer-aided telecommunication and financial transactions
CA2321014C (en) 1999-10-20 2012-06-19 Paul M. Toupin Single action audio prompt interface utilising binary state time domain multiple selection protocol
US7020270B1 (en) 1999-10-27 2006-03-28 Firooz Ghassabian Integrated keypad system
US6941345B1 (en) 1999-12-03 2005-09-06 Nortel Networks Limited Real-time, text-based messaging between devices in plural communities
US7089292B1 (en) 1999-12-20 2006-08-08 Vulcan Patents, Llc Interface including non-visual display for use in browsing an indexed collection of electronic content
US6597378B1 (en) 2000-01-18 2003-07-22 Seiko Epson Corporation Display device, portable information processing apparatus, information storage medium, and electronic apparatus
US6661438B1 (en) 2000-01-18 2003-12-09 Seiko Epson Corporation Display apparatus and portable information processing apparatus
US6809724B1 (en) 2000-01-18 2004-10-26 Seiko Epson Corporation Display apparatus and portable information processing apparatus
US6587835B1 (en) 2000-02-09 2003-07-01 G. Victor Treyz Shopping assistance with handheld computing device
WO2001069387A2 (en) 2000-03-16 2001-09-20 Microsoft Corporation Notification platform architecture
US6694297B2 (en) 2000-03-30 2004-02-17 Fujitsu Limited Text information read-out device and music/voice reproduction device incorporating the same
DE60138519D1 (de) 2000-06-21 2009-06-10 Seiko Epson Corp Mobiltelefon und funkkommunikationsgerät zur gemeinsamen verarbeitung eines ankommenden anrufes
US20020057284A1 (en) 2000-06-29 2002-05-16 Dalby Richard Sean Methods and systems for delivering announcements to users of an information system
US7081905B1 (en) 2000-06-30 2006-07-25 International Business Machines Corporation Method and apparatus for dynamically controlling scroller speed employed for a user interface of a wearable appliance
US6662023B1 (en) 2000-07-06 2003-12-09 Nokia Mobile Phones Ltd. Method and apparatus for controlling and securing mobile phones that are lost, stolen or misused
US7430537B2 (en) 2000-07-10 2008-09-30 Paypal, Inc. System and method for verifying a financial instrument
US7302280B2 (en) 2000-07-17 2007-11-27 Microsoft Corporation Mobile phone operation based upon context sensing
US7450969B1 (en) 2000-08-28 2008-11-11 Wideray, Inc. Two radio interface for mobile communication device for electronic commerce
US20070037605A1 (en) 2000-08-29 2007-02-15 Logan James D Methods and apparatus for controlling cellular and portable phones
US7688306B2 (en) 2000-10-02 2010-03-30 Apple Inc. Methods and apparatuses for operating a portable device based on an accelerometer
US7218226B2 (en) 2004-03-01 2007-05-15 Apple Inc. Acceleration-based theft detection system for portable electronic devices
US6590303B1 (en) 2000-10-26 2003-07-08 Motorola, Inc. Single button MP3 player
US6677932B1 (en) 2001-01-28 2004-01-13 Finger Works, Inc. System and method for recognizing touch typing under limited tactile feedback conditions
US6570557B1 (en) 2001-02-10 2003-05-27 Finger Works, Inc. Multi-touch system and method for emulating modifier keys via fingertip chords
US7334267B2 (en) 2001-02-28 2008-02-19 Hall Aluminum Llc Email viewing security
JP4860057B2 (ja) * 2001-06-06 2012-01-25 京セラ株式会社 通信端末装置
US8050997B1 (en) 2001-08-23 2011-11-01 Paypal Inc. Instant availability of electronically transferred funds
JP4123757B2 (ja) 2001-10-30 2008-07-23 ソニー株式会社 ユーザ間の通信機能を備えた情報処理装置及びこれに用いるプログラム並びに情報処理方法
JP2003173226A (ja) 2001-11-27 2003-06-20 Internatl Business Mach Corp <Ibm> 情報処理装置、プログラム及び座標入力方法
US7095442B2 (en) 2002-01-31 2006-08-22 Hewlett-Packard Development Company, L.P. Method and apparatus for capturing an image
US20030158737A1 (en) 2002-02-15 2003-08-21 Csicsatka Tibor George Method and apparatus for incorporating additional audio information into audio data file identifying information
US7461378B2 (en) 2002-06-11 2008-12-02 Siemens Communications, Inc. Methods and apparatus for processing an instant message
US11275405B2 (en) 2005-03-04 2022-03-15 Apple Inc. Multi-functional hand-held device
US7822688B2 (en) 2002-08-08 2010-10-26 Fujitsu Limited Wireless wallet
US20040041841A1 (en) * 2002-08-27 2004-03-04 Lemogne Stephane Enhanced contact navigator with interactive tabs for managing network events in real time
KR100532273B1 (ko) 2002-10-11 2005-11-29 삼성전자주식회사 복합 단말기에서 동작 모드에 따른 배터리 가용 시간 알림방법
KR100403196B1 (en) 2002-12-11 2003-10-30 Hasung Data System Co Ltd Settling system using mobile communication terminal, method therefor, and recording medium storing program for the setting system
US7111253B2 (en) * 2002-12-16 2006-09-19 Palo Alto Research Center Incorporated Method and apparatus for displaying hierarchical information
EP1435620A1 (en) 2003-01-06 2004-07-07 Thomson Licensing S.A. Method for creating and accessing a menu for audio content without using a display
JP4812234B2 (ja) 2003-03-19 2011-11-09 ソニー株式会社 決済管理装置、携帯情報端末、並びにプログラム
US7457879B2 (en) * 2003-04-01 2008-11-25 Microsoft Corporation Notification platform architecture
KR100504828B1 (ko) 2003-04-11 2005-07-29 엘지전자 주식회사 휴대폰의 단문 메시지 관리 방법
US20050045373A1 (en) 2003-05-27 2005-03-03 Joseph Born Portable media device with audio prompt menu
US7593749B2 (en) 2003-05-28 2009-09-22 Nokia Corporation Method and radio terminal equipment arrangement of indicating incoming connection
US7130664B1 (en) 2003-06-12 2006-10-31 Williams Daniel P User-based signal indicator for telecommunications device and method of remotely notifying a user of an incoming communications signal incorporating the same
KR101100286B1 (ko) 2003-06-16 2011-12-28 유알유 테크놀로지 인코포레이티드 생체 계측적으로 이네이블된 다목적 크레덴셜 관리장치들을 생성 및 운영하기 위한 방법 및 시스템
US7707255B2 (en) * 2003-07-01 2010-04-27 Microsoft Corporation Automatic grouping of electronic mail
US7757173B2 (en) 2003-07-18 2010-07-13 Apple Inc. Voice menu system
US7353413B2 (en) 2003-08-18 2008-04-01 Intel Corporation Computer system power policy adjustment in response to an affirmative indication from a user
US8952895B2 (en) 2011-06-03 2015-02-10 Apple Inc. Motion-based device operations
US8078481B2 (en) 2003-12-05 2011-12-13 John Steinbarth Benefits administration system and methods of use and doing business
US7454716B2 (en) 2003-12-22 2008-11-18 Microsoft Corporation Clustering messages
US7904510B2 (en) 2004-02-23 2011-03-08 Microsoft Corporation Systems and methods for managing discussion threads based on ratings
US7645108B2 (en) 2004-02-26 2010-01-12 Benko John C Stack loading and unloading cart
US7365736B2 (en) 2004-03-23 2008-04-29 Fujitsu Limited Customizable gesture mappings for motion controlled handheld devices
US11475436B2 (en) 2010-01-08 2022-10-18 Blackhawk Network, Inc. System and method for providing a security code
US7697960B2 (en) * 2004-04-23 2010-04-13 Samsung Electronics Co., Ltd. Method for displaying status information on a mobile terminal
JP2007536634A (ja) * 2004-05-04 2007-12-13 フィッシャー−ローズマウント・システムズ・インコーポレーテッド プロセス制御システムのためのサービス指向型アーキテクチャ
WO2005109829A1 (en) 2004-05-06 2005-11-17 Koninklijke Philips Electronics N.V. Method device and program for seamlessly transferring the execution of a software application from a first to a second device
US7353466B2 (en) * 2004-05-28 2008-04-01 Microsoft Corporation System and method for generating message notification objects on dynamically scaled timeline
US7222307B2 (en) 2004-06-16 2007-05-22 Scenera Technologies, Llc Multipurpose navigation keys for an electronic imaging device
WO2005125114A1 (en) 2004-06-21 2005-12-29 Research In Motion Limited System and method for handling electronic messages
US20060021003A1 (en) 2004-06-23 2006-01-26 Janus Software, Inc Biometric authentication system
US20060026245A1 (en) * 2004-07-07 2006-02-02 Ivy Cunningham System and method for data organization and display in an instant-messaging interface
US20060019649A1 (en) 2004-07-21 2006-01-26 Feinleib David A System and method for remote telephone ringer
US8381135B2 (en) 2004-07-30 2013-02-19 Apple Inc. Proximity detector in handheld device
US7653883B2 (en) 2004-07-30 2010-01-26 Apple Inc. Proximity detector in handheld device
US7519670B2 (en) 2004-08-12 2009-04-14 International Business Machines Corporation Method for disappearing ink for text messaging
JP2006072489A (ja) 2004-08-31 2006-03-16 Toshiba Corp 情報処理装置および表示制御プログラム
JP2006079427A (ja) * 2004-09-10 2006-03-23 Toshiba Tec Corp 携帯情報機器
JP2006129429A (ja) * 2004-10-01 2006-05-18 Haatec:Kk 通信システムの端末機
US7778671B2 (en) 2004-10-08 2010-08-17 Nokia Corporation Mobile communications terminal having an improved user interface and method therefor
JP4127833B2 (ja) * 2004-10-12 2008-07-30 株式会社東芝 携帯端末
US20060092177A1 (en) * 2004-10-30 2006-05-04 Gabor Blasko Input method and apparatus using tactile guidance and bi-directional segmented stroke
US7735012B2 (en) 2004-11-04 2010-06-08 Apple Inc. Audio user interface for computing devices
JP2006135667A (ja) 2004-11-05 2006-05-25 Toshiba Corp データ送信機、データ送信方法、データ受信機、及びデータ受信処理方法
US7434230B2 (en) 2004-12-02 2008-10-07 International Business Machines Corporation Method and system for time bounding notification delivery in an event driven system
JP2006163960A (ja) 2004-12-09 2006-06-22 Sharp Corp 決済機能付き携帯通信端末、課金決済システム及び課金決済における認証方法
WO2006071053A1 (en) 2004-12-28 2006-07-06 Samsung Electronics Co., Ltd. Method and apparatus for managing multimedia messages
EP1844403A4 (en) 2005-01-16 2010-06-23 Zlango Ltd SIGNS COMMUNICATION
US8856223B2 (en) 2005-01-18 2014-10-07 International Business Machines Corporation Limiting access to instant messaging content on a display screen
US8700729B2 (en) 2005-01-21 2014-04-15 Robin Dua Method and apparatus for managing credentials through a wireless network
US20060179404A1 (en) 2005-02-08 2006-08-10 Microsoft Corporation Method for a browser auto form fill
US8107599B2 (en) 2005-02-15 2012-01-31 Fastvdo, Llc Methods and apparatus for the composition and communication of digital composition coded multisensory messages (DCC MSMS)
US7783065B2 (en) 2005-03-18 2010-08-24 Nyko Technologies, Inc. Wireless headphone kit for media players
JP4983005B2 (ja) 2005-04-12 2012-07-25 富士通株式会社 電子機器、優先接続装置、優先接続方法及び優先接続プログラム
CN100502415C (zh) * 2005-04-22 2009-06-17 英华达(上海)电子有限公司 手机中语音自动处理外来通信事件的方法
JP4507980B2 (ja) 2005-05-24 2010-07-21 株式会社リコー 画像形成装置および画像表示方法
NO324406B1 (no) 2005-06-20 2007-10-08 Telenor Asa SIM RFID-leser med WLAN-tilgang
JP2007006373A (ja) 2005-06-27 2007-01-11 Konica Minolta Business Technologies Inc 書類データ管理システム、画像形成装置、書類データ管理方法、およびコンピュータプログラム
US7831520B2 (en) 2005-06-28 2010-11-09 Ebay Inc. Mobile device communication system
US7831054B2 (en) 2005-06-28 2010-11-09 Microsoft Corporation Volume control
US20070004461A1 (en) 2005-06-30 2007-01-04 Bathina Sridhar N Terminal with messaging application
US9160658B1 (en) 2005-07-12 2015-10-13 Brixham Solutions Ltd. Proxies for pseudo-wire allocation and distribution
US7697926B2 (en) * 2005-07-29 2010-04-13 Research In Motion Limited Device and method for generating user notifications associated with tasks that are pending completion
US9629384B2 (en) 2005-09-14 2017-04-25 S & P Ingredient Development, Llc Low sodium salt composition
US20070073823A1 (en) 2005-09-29 2007-03-29 International Business Machines Corporation Method and apparatus to secure and retrieve instant messages
US7633076B2 (en) 2005-09-30 2009-12-15 Apple Inc. Automated response to and sensing of user activity in portable devices
US7728316B2 (en) 2005-09-30 2010-06-01 Apple Inc. Integrated proximity sensor and light sensor
US20070117549A1 (en) 2005-10-06 2007-05-24 Arnos Reed W Wireless handset and methods for use therewith
US7894580B2 (en) 2005-10-26 2011-02-22 Research In Motion Limited Methods and apparatus for reliable voicemail message deletion alerts at mobile communication devices
US20070135043A1 (en) 2005-12-12 2007-06-14 Motorola, Inc. Method and system for accessible contact information on a locked electronic device
US20070131759A1 (en) 2005-12-14 2007-06-14 Cox Mark A Smartcard and magnetic stripe emulator with biometric authentication
US7657849B2 (en) 2005-12-23 2010-02-02 Apple Inc. Unlocking a device by performing gestures on an unlock image
EP1801689A1 (en) 2005-12-23 2007-06-27 Sap Ag Methods, systems and software applications including tab panel elements
US7552399B2 (en) 2005-12-27 2009-06-23 International Business Machines Corporation Extensible icons with multiple drop zones
US8311566B2 (en) * 2005-12-27 2012-11-13 Kyocera Corporation Communication apparatus, server apparatus, and communication control method
US7684991B2 (en) 2006-01-05 2010-03-23 Alpine Electronics, Inc. Digital audio file search method and apparatus using text-to-speech processing
KR20080095886A (ko) 2006-01-20 2008-10-29 컨버세이셔널 컴퓨팅 코포레이션 웨어러블 디스플레이 인터페이스 클라이언트
US8175656B2 (en) * 2006-02-24 2012-05-08 Qualcomm Incorporated System and method of displaying incoming communication alerts at a wireless device
US10521022B2 (en) 2006-03-17 2019-12-31 Conversant Wireless Licensing S.a.r.l. Mobile communication terminal and method therefor
CN100462909C (zh) 2006-03-31 2009-02-18 腾讯科技（深圳）有限公司 一种控制窗口界面显示的方法及装置
US9395905B2 (en) 2006-04-05 2016-07-19 Synaptics Incorporated Graphical scroll wheel
KR20090005336A (ko) 2006-04-17 2009-01-13 베리텍 인코포레이티드 전자장치로 안전한 거래를 위한 방법 및 시스템
CA2545339C (en) * 2006-05-01 2014-07-08 Lms Medical Systems Ltd. Method and apparatus for displaying labour related information associated to an obstetrics patient
US8279180B2 (en) 2006-05-02 2012-10-02 Apple Inc. Multipoint touch surface controller
US8989778B2 (en) 2006-06-01 2015-03-24 Green Dot Corporation Secure and private location sharing for location-aware mobile communication devices
WO2008008729A2 (en) 2006-07-10 2008-01-17 Accenture Global Services Gmbh Mobile personal services platform for providing feedback
US7702282B2 (en) 2006-07-13 2010-04-20 Sony Ericsoon Mobile Communications Ab Conveying commands to a mobile terminal through body actions
US7789225B2 (en) 2006-07-27 2010-09-07 David Whiteis Jewelry box
KR100778367B1 (ko) 2006-08-02 2007-11-22 삼성전자주식회사 휴대 단말기 및 그의 이벤트 처리 방법
KR100764649B1 (ko) 2006-08-18 2007-10-08 삼성전자주식회사 휴대용 단말기에서 미디어 플레이어를 제어하기 위한 장치및 방법
US20080052181A1 (en) 2006-08-23 2008-02-28 Taram Devitt-Carolan Integrated system for providing user services
CN101529874A (zh) * 2006-09-06 2009-09-09 苹果公司 用于具有触摸屏显示器的便携式多功能设备的电话呼入管理
US8014760B2 (en) 2006-09-06 2011-09-06 Apple Inc. Missed telephone call management for a portable multifunction device
US7996792B2 (en) 2006-09-06 2011-08-09 Apple Inc. Voicemail manager for portable multifunction device
US8106856B2 (en) 2006-09-06 2012-01-31 Apple Inc. Portable electronic device for photo management
US8842074B2 (en) 2006-09-06 2014-09-23 Apple Inc. Portable electronic device performing similar operations for different gestures
US9304675B2 (en) 2006-09-06 2016-04-05 Apple Inc. Portable electronic device for instant messaging
US8564544B2 (en) 2006-09-06 2013-10-22 Apple Inc. Touch screen device, method, and graphical user interface for customizing display of content category icons
KR100774927B1 (ko) 2006-09-27 2007-11-09 엘지전자 주식회사 이동통신 단말기, 메뉴 및 아이템 선택방법
US7768415B2 (en) 2006-09-28 2010-08-03 Nike, Inc. Sensor device with persistent low power beacon
US20130212655A1 (en) 2006-10-02 2013-08-15 Hector T. Hoyos Efficient prevention fraud
JP2008104068A (ja) 2006-10-20 2008-05-01 Sky Kk 着信通知システムとこのシステムに用いられる携帯通信端末
US8090087B2 (en) 2006-10-26 2012-01-03 Apple Inc. Method, system, and graphical user interface for making conference calls
US7908219B2 (en) 2006-11-03 2011-03-15 Microsoft Corporation Inbox management
KR20080043472A (ko) * 2006-11-14 2008-05-19 삼성전자주식회사 휴대용 단말기의 메시지 관리 방법 및 장치
TW200823678A (en) 2006-11-22 2008-06-01 Acer Inc Method and electronic device for sharing data via instant message
US20080120707A1 (en) 2006-11-22 2008-05-22 Alexander Ramia Systems and methods for authenticating a device by a centralized data server
US8006002B2 (en) 2006-12-12 2011-08-23 Apple Inc. Methods and systems for automatic configuration of peripherals
US20080146289A1 (en) 2006-12-14 2008-06-19 Motorola, Inc. Automatic audio transducer adjustments based upon orientation of a mobile communication device
US8689132B2 (en) 2007-01-07 2014-04-01 Apple Inc. Portable electronic device, method, and graphical user interface for displaying electronic documents and lists
US7957762B2 (en) 2007-01-07 2011-06-07 Apple Inc. Using ambient light sensor to augment proximity sensor output
US8091045B2 (en) 2007-01-07 2012-01-03 Apple Inc. System and method for managing lists
EP1998543A1 (en) 2007-05-29 2008-12-03 Research In Motion Limited System and Method for Integrating Image Upload Objects with a Message List
US9933937B2 (en) * 2007-06-20 2018-04-03 Apple Inc. Portable multifunction device, method, and graphical user interface for playing online videos
US9954996B2 (en) 2007-06-28 2018-04-24 Apple Inc. Portable electronic device with conversation management for incoming instant messages
US8068925B2 (en) 2007-06-28 2011-11-29 Apple Inc. Dynamic routing of audio among multiple audio devices
US20090003552A1 (en) 2007-06-29 2009-01-01 Lucent Technologies Inc. Personal message expiration
EP2020648A3 (en) * 2007-07-25 2010-06-09 TTE Indianapolis Method and apparatus for configurable emergency alert system event notification
US7996473B2 (en) 2007-07-30 2011-08-09 International Business Machines Corporation Profile-based conversion and delivery of electronic messages
EP2183874B1 (en) 2007-07-31 2017-07-05 International Business Machines Corporation Biometric authentication device, system and method of biometric authentication
US8990400B2 (en) 2007-08-17 2015-03-24 The Invention Science Fund I, Llc Facilitating communications among message recipients
US9261979B2 (en) 2007-08-20 2016-02-16 Qualcomm Incorporated Gesture-based mobile interaction
JP2009053758A (ja) * 2007-08-23 2009-03-12 Toshiba Corp 通信端末装置
US8265665B2 (en) * 2007-09-21 2012-09-11 Research In Motion Limited Color differentiating a portion of a text message shown in a listing on a handheld communication device
CN104200145B (zh) 2007-09-24 2020-10-27 苹果公司 电子设备中的嵌入式验证系统
US20090098914A1 (en) 2007-10-15 2009-04-16 Research In Motion Limited Method and system for enabling or disabling features based on a battery level threshold
US8910073B2 (en) 2007-11-26 2014-12-09 Qualcomm Incorporated Enhancing visual continuity in scrolling operations
WO2009071112A1 (en) 2007-12-03 2009-06-11 Nokia Corporation Media embedded in mobile messaging
EP2240862A4 (en) 2007-12-18 2012-08-08 Lucent Technologies Inc METHODS AND SYSTEMS FOR MANAGING EXPIRATION IN ELECTRONIC MESSAGING SYSTEMS
US8112281B2 (en) 2007-12-19 2012-02-07 Enbiomedic Accelerometer-based control of wearable audio recorders
US8970633B2 (en) 2007-12-26 2015-03-03 Qualcomm Incorporated Touch wheel zoom and pan
US7802720B2 (en) 2008-01-04 2010-09-28 Intuit Inc. Method and system for performing a card-present transaction using image capture on a portable device
US8407603B2 (en) 2008-01-06 2013-03-26 Apple Inc. Portable electronic device for instant messaging multiple recipients
US7996046B2 (en) * 2008-01-10 2011-08-09 Microsoft Corporation Smart alert charms for wireless devices
US20090187842A1 (en) 2008-01-22 2009-07-23 3Dlabs Inc., Ltd. Drag and Drop User Interface for Portable Electronic Devices with Touch Sensitive Screens
JP2011516936A (ja) * 2008-01-30 2011-05-26 グーグル・インコーポレーテッド モバイル装置イベントの通知
US8677285B2 (en) 2008-02-01 2014-03-18 Wimm Labs, Inc. User interface of a small touch sensitive display for an electronic data and communication device
US8910299B2 (en) 2008-02-08 2014-12-09 Steven Charles Michalske Emergency information access on portable electronic devices
US8676224B2 (en) 2008-02-19 2014-03-18 Apple Inc. Speakerphone control for mobile device
EP2105330B1 (en) 2008-03-26 2011-04-27 Honda Motor Co., Ltd. Control device for a wheel suspension system
US8077157B2 (en) 2008-03-31 2011-12-13 Intel Corporation Device, system, and method of wireless transfer of files
US20090248751A1 (en) 2008-04-01 2009-10-01 Myman Darin M Destroyable Instant Message (IM)
US8312380B2 (en) 2008-04-04 2012-11-13 Yahoo! Inc. Local map chat
EP2109055A1 (en) 2008-04-11 2009-10-14 Universiteit Maastricht Portable psychological monitoring device
US20090265643A1 (en) 2008-04-18 2009-10-22 Alcatel Lucent Instant messaging reception indication
CN101276255A (zh) 2008-05-05 2008-10-01 中兴通讯股份有限公司 一种移动终端菜单的显示装置及显示方法
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US9516116B2 (en) 2008-06-06 2016-12-06 Apple Inc. Managing notification service connections
US20090307140A1 (en) 2008-06-06 2009-12-10 Upendra Mardikar Mobile device over-the-air (ota) registration and point-of-sale (pos) payment
US20140025520A1 (en) 2008-06-06 2014-01-23 Ebay Inc. Biometric authentication of mobile financial transactions by trusted service managers
US20090313582A1 (en) 2008-06-11 2009-12-17 Raul Rupsingh System, Method and Computer Program for User-Friendly Social Interaction
US9269010B2 (en) 2008-07-14 2016-02-23 Jumio Inc. Mobile phone payment system using integrated camera credit card reader
US8662401B2 (en) 2008-07-25 2014-03-04 First Data Corporation Mobile payment adoption by adding a dedicated payment button to mobile device form factors
JP4748257B2 (ja) 2008-08-04 2011-08-17 ソニー株式会社 生体認証装置
US20130310089A1 (en) 2008-08-05 2013-11-21 Vasileios John Gianoukos Voice texting over sms
US20130144653A1 (en) 2008-08-05 2013-06-06 Net.Orange, Inc. System and method for visualizing patient treatment history in a network environment
US10375223B2 (en) 2008-08-28 2019-08-06 Qualcomm Incorporated Notifying a user of events in a computing device
US8121586B2 (en) 2008-09-16 2012-02-21 Yellowpages.Com Llc Systems and methods for voice based search
US8620869B2 (en) 2008-09-25 2013-12-31 Microsoft Corporation Techniques to manage retention policy tags
US20100078472A1 (en) 2008-09-30 2010-04-01 Apple Inc. Group peer-to-peer financial transactions
US10380573B2 (en) 2008-09-30 2019-08-13 Apple Inc. Peer-to-peer financial transaction devices and methods
US20100078471A1 (en) 2008-09-30 2010-04-01 Apple Inc. System and method for processing peer-to-peer financial transactions
US20100082485A1 (en) 2008-09-30 2010-04-01 Apple Inc. Portable point of purchase devices and methods
KR101428429B1 (ko) 2008-09-30 2014-08-07 애플 인크. 피어 대 피어 금융 트랜잭션 장치들 및 방법들
KR102339297B1 (ko) 2008-11-10 2021-12-14 구글 엘엘씨 멀티센서 음성 검출
US20100124906A1 (en) 2008-11-14 2010-05-20 Nokia Corporation Method and Apparatus for Transmitting and Receiving Data
US8103250B2 (en) 2008-12-04 2012-01-24 At&T Mobility Ii Llc System and method for sharing location data in a wireless communication network
US20100162169A1 (en) 2008-12-23 2010-06-24 Nokia Corporation Method, Apparatus and Computer Program Product for Providing a Dynamic Slider Interface
US20100162138A1 (en) 2008-12-23 2010-06-24 At&T Mobility Ii Llc Conversation bubbles including visual cues for threaded messaging applications
CN101770299B (zh) 2008-12-26 2013-11-06 深圳富泰宏精密工业有限公司 导航键功能实现系统及方法
US8619083B2 (en) 2009-01-06 2013-12-31 Microsoft Corporation Multi-layer image composition with intermediate blending resolutions
US20110306393A1 (en) 2010-06-15 2011-12-15 Tomasz Goldman Headset base with display and communications base
US8543081B2 (en) 2009-01-28 2013-09-24 Blackberry Limited Method of integrating emergency information in a mobile device
US8572493B2 (en) 2009-01-29 2013-10-29 Rick Qureshi Mobile device messaging application
US8862252B2 (en) 2009-01-30 2014-10-14 Apple Inc. Audio user interface for displayless electronic device
MX2011008925A (es) 2009-02-25 2012-04-02 Miri Systems Llc Sistema y metodo de pago.
US8315606B2 (en) * 2009-02-27 2012-11-20 Research In Motion Limited System and method for intelligent call identification on a mobile communication device
US8606638B2 (en) 2009-03-02 2013-12-10 First Data Corporation Systems, methods and apparatus for facilitating transactions using a mobile device
US8255830B2 (en) 2009-03-16 2012-08-28 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US8131258B2 (en) 2009-04-20 2012-03-06 Boku, Inc. Systems and methods to process transaction requests
US20100281409A1 (en) 2009-04-30 2010-11-04 Nokia Corporation Apparatus and method for handling notifications within a communications device
US8200323B2 (en) 2009-05-18 2012-06-12 Adidas Ag Program products, methods, and systems for providing fitness monitoring services
US9734496B2 (en) 2009-05-29 2017-08-15 Paypal, Inc. Trusted remote attestation agent (TRAA)
CN101567109B (zh) 2009-06-03 2012-01-04 普天信息技术研究院有限公司 一种集成支付和收款功能的装置、系统和交易方法
US8930438B2 (en) 2009-06-17 2015-01-06 Apple Inc. Push-based location update
KR101590766B1 (ko) * 2009-06-26 2016-02-02 삼성전자주식회사 메시지를 그룹화하고 디스플레이하는 장치 및 방법
US8548523B2 (en) 2009-07-01 2013-10-01 At&T Intellectual Property I, L.P. Methods, apparatus, and computer program products for changing ring method based on type of connected device
US9519417B2 (en) 2009-08-31 2016-12-13 Twin Harbor Labs, LLC System and method for orientation-based object monitoring and device for the same
TWI554076B (zh) 2009-09-04 2016-10-11 普露諾洛股份有限公司 遠距離的電話管理器
US8675084B2 (en) 2009-09-04 2014-03-18 Apple Inc. Systems and methods for remote camera control
KR101651128B1 (ko) 2009-10-05 2016-08-25 엘지전자 주식회사 이동 단말기 이것의 애플리케이션 실행 제어 방법
US8924893B2 (en) 2009-10-14 2014-12-30 At&T Mobility Ii Llc Locking and unlocking of an electronic device using a sloped lock track
JP5419153B2 (ja) 2009-10-22 2014-02-19 Ｎｅｃカシオモバイルコミュニケーションズ株式会社 タッチ検出装置、電子機器、および、プログラム
CA2783988A1 (en) 2009-11-11 2011-05-19 Lifestream Corporation Wireless device emergency services connection and panic button, with crime and safety information system
JP2011107823A (ja) 2009-11-13 2011-06-02 Canon Inc 表示制御装置及び表示制御方法
EP2502430A4 (en) 2009-11-17 2013-05-15 Tip Solutions Inc COMMUNICATION MANAGEMENT FEATURES
GB0920084D0 (en) * 2009-11-23 2009-12-30 Mcalpine & Co Ltd Non-return device
JP5362848B2 (ja) 2009-12-11 2013-12-11 シャープ株式会社 光センサ回路、二次元座標検出装置、情報処理装置および光センサ素子のリフレッシュ駆動方法
US8922485B1 (en) 2009-12-18 2014-12-30 Google Inc. Behavioral recognition on mobile devices
KR101626621B1 (ko) 2009-12-30 2016-06-01 엘지전자 주식회사 원형 디스플레이부를 구비한 이동 통신 단말기의 데이터 제어 방법 및 이를 적용한 이동 통신 단말기
US8972892B2 (en) 2010-01-05 2015-03-03 Qualcomm Incorporated Notification in immersive applications
US8698845B2 (en) 2010-01-06 2014-04-15 Apple Inc. Device, method, and graphical user interface with interactive popup views
DE102010008622A1 (de) 2010-02-19 2011-08-25 Airbus Operations GmbH, 21129 Gehäuseloses Staufach
US8589815B2 (en) * 2010-03-10 2013-11-19 Microsoft Corporation Control of timing for animations in dynamic icons
JP6129560B2 (ja) 2010-03-11 2017-05-17 ウォル−マート・ストアーズ・インコーポレイテッドＷａｌ−Ｍａｒｔ Ｓｔｏｒｅｓ， Ｉｎｃ． 携帯機器を用いた取引払のためのシステム及び方法
EP2369820B1 (en) 2010-03-22 2016-04-06 BlackBerry Limited Management and display of grouped messages on a communication device
US9275376B2 (en) * 2010-03-25 2016-03-01 Nokia Technologies Oy Method and apparatus for providing soft reminders
CN102215374B (zh) 2010-04-07 2015-09-02 苹果公司 在多照相机移动设备的视频会议期间切换照相机
US8380177B2 (en) 2010-04-09 2013-02-19 Paydiant, Inc. Mobile phone payment processing methods and systems
US20110254684A1 (en) * 2010-04-20 2011-10-20 Vito Antoci Bag Attachment for Alert Notification and Device Retrieval
US8719730B2 (en) * 2010-04-23 2014-05-06 Ganz Radial user interface and system for a virtual world game
US20110276901A1 (en) 2010-05-04 2011-11-10 Qwest Communications International Inc. Family chat
US8587476B2 (en) 2010-05-11 2013-11-19 Blackberry Limited System and method for providing location information on mobile devices
CN101873386A (zh) 2010-06-13 2010-10-27 华为终端有限公司 一种移动终端及其来电提示方法
US9417665B2 (en) 2010-06-28 2016-08-16 Apple Inc. Providing an alternative human interface
US8549617B2 (en) * 2010-06-30 2013-10-01 Juniper Networks, Inc. Multi-service VPN network client for mobile device having integrated acceleration
CN101877745B (zh) 2010-06-30 2014-04-09 中兴通讯股份有限公司 移动终端节电的系统及方法
US8284748B2 (en) 2010-07-07 2012-10-09 Apple Inc. Ad hoc formation and tracking of location-sharing groups
US8285258B2 (en) 2010-07-07 2012-10-09 Research In Motion Limited Pushed content notification and display
WO2012018556A2 (en) 2010-07-26 2012-02-09 Ari Backholm Mobile application traffic optimization
WO2013015835A1 (en) 2011-07-22 2013-01-31 Seven Networks, Inc. Mobile application traffic optimization
US20120028609A1 (en) 2010-07-27 2012-02-02 John Hruska Secure financial transaction system using a registered mobile device
US20130268353A1 (en) 2010-08-23 2013-10-10 MobileBits Corporation System and methods for delivering targeted marketing content to mobile device users based on geolocation
KR20120019531A (ko) 2010-08-26 2012-03-07 삼성전자주식회사 휴대 단말기의 ｇｕｉ제공 방법 및 장치
US9740286B2 (en) 2010-08-26 2017-08-22 Kyocera Corporation Character string retrieval apparatus
US8768309B2 (en) 2010-09-29 2014-07-01 At&T Intellectual Property I, L.P. Reminders based on device presence
US20120124496A1 (en) 2010-10-20 2012-05-17 Mark Rose Geographic volume analytics apparatuses, methods and systems
US20120102437A1 (en) * 2010-10-22 2012-04-26 Microsoft Corporation Notification Group Touch Gesture Dismissal Techniques
US20120108215A1 (en) * 2010-10-29 2012-05-03 Nader Kameli Remote notification device
US9262002B2 (en) 2010-11-03 2016-02-16 Qualcomm Incorporated Force sensing touch screen
US8554170B2 (en) 2010-11-15 2013-10-08 Quid Fit Llc Automated alert generation in response to a predetermined communication on a telecommunication device
US10303357B2 (en) 2010-11-19 2019-05-28 TIVO SOLUTIONS lNC. Flick to send or display content
US8874665B2 (en) * 2010-12-13 2014-10-28 At&T Mobility Ii Llc Systems, apparatus and methods for facilitating display and management of information for communication devices
US8798648B2 (en) 2010-12-14 2014-08-05 Qualcomm Incorporated Methods and apparatus for managing messages
US20140156531A1 (en) 2010-12-14 2014-06-05 Salt Technology Inc. System and Method for Authenticating Transactions Through a Mobile Device
US9244606B2 (en) 2010-12-20 2016-01-26 Apple Inc. Device, method, and graphical user interface for navigation of concurrently open software applications
US8797350B2 (en) 2010-12-20 2014-08-05 Dr Systems, Inc. Dynamic customizable human-computer interaction behavior
US20120158511A1 (en) 2010-12-21 2012-06-21 Microsoft Corporation Provision of contextual advertising
US8369893B2 (en) * 2010-12-31 2013-02-05 Motorola Mobility Llc Method and system for adapting mobile device to accommodate external display
US9471145B2 (en) * 2011-01-06 2016-10-18 Blackberry Limited Electronic device and method of displaying information in response to a gesture
US8380637B2 (en) 2011-01-16 2013-02-19 Yerucham Levovitz Variable fractions of multiple biometrics with multi-layer authentication of mobile transactions
CN201928419U (zh) 2011-01-21 2011-08-10 青岛海信移动通信技术股份有限公司 一种耳机及配置有所述耳机的移动通信终端
US8666895B2 (en) 2011-01-31 2014-03-04 Bank Of America Corporation Single action mobile transaction device
US8972286B2 (en) 2011-01-31 2015-03-03 Bank Of America Corporation Transaction authorization system for a mobile commerce device
US8195576B1 (en) 2011-01-31 2012-06-05 Bank Of America Corporation Mobile transaction device security system
US10133388B2 (en) * 2011-02-10 2018-11-20 Kyocera Corporation Input device
AU2012217606A1 (en) 2011-02-16 2013-05-09 Visa International Service Association Snap mobile payment apparatuses, methods and systems
US9588669B2 (en) * 2011-02-17 2017-03-07 T-Mobile Usa, Inc. Sticky messages
US10146329B2 (en) 2011-02-25 2018-12-04 Nokia Technologies Oy Method and apparatus for providing different user interface effects for different motion gestures and motion properties
US20130063383A1 (en) 2011-02-28 2013-03-14 Research In Motion Limited Electronic device and method of displaying information in response to detecting a gesture
CN102111505B (zh) * 2011-03-04 2013-06-05 中山大学 一种移动终端短信息提示显示方法
US20120239949A1 (en) 2011-03-14 2012-09-20 Research In Motion Limited Electronic device and method for application and profile sensitive battery power management
JP6034551B2 (ja) 2011-03-16 2016-11-30 任天堂株式会社 情報処理システム、情報処理装置、情報処理プログラム、および画像表示方法
GB2503846A (en) * 2011-03-18 2014-01-08 Antony-Euclid C Villa-Real Global multi-purpose voice-controlled trans-lingual electronic talking and singing watch
JP5729759B2 (ja) * 2011-03-22 2015-06-03 埼玉日本電気株式会社 携帯電子機器、その制御方法及びプログラム
US8880625B2 (en) 2011-03-31 2014-11-04 Loment, Inc. Automatic expiration of messages communicated among end user communication devices
US9331972B2 (en) 2011-03-31 2016-05-03 Loment, Inc. Automatic expiration of messages communicated to an end user communication device
US10402898B2 (en) 2011-05-04 2019-09-03 Paypal, Inc. Image-based financial processing
US10949844B2 (en) 2011-05-09 2021-03-16 Intuit Inc. Processing electronic payment involving mobile communication device
WO2012154915A1 (en) 2011-05-10 2012-11-15 Dynamics Inc. Systems, devices, and methods for mobile payment acceptance, mobile authorizations, mobile wallets, and contactless communication mechanisms
KR101891803B1 (ko) 2011-05-23 2018-08-27 삼성전자주식회사 터치스크린을 구비한 휴대 단말기의 화면 편집 방법 및 장치
US8971924B2 (en) 2011-05-23 2015-03-03 Apple Inc. Identifying and locating users on a mobile network
US20120310760A1 (en) 2011-06-03 2012-12-06 Simon Phillips Mobile device automatic card account selection for a transaction
AU2012268312B2 (en) * 2011-06-05 2016-02-18 Apple Inc. Systems and methods for displaying notifications received from multiple applications
US20160270717A1 (en) 2011-06-10 2016-09-22 Aliphcom Monitoring and feedback of physiological and physical characteristics using wearable devices
KR101121441B1 (ko) 2011-06-16 2012-03-16 에이큐 주식회사 엔에프시 통신방식의 이동통신단말기 및 그 제어방법
KR101121440B1 (ko) 2011-06-16 2012-03-16 에이큐 주식회사 엔에프시 통신방식의 이동통신단말기 및 제어방법
JP5829982B2 (ja) 2011-06-28 2015-12-09 京セラ株式会社 電子機器、報知制御方法および制御プログラム
JP5762850B2 (ja) 2011-06-28 2015-08-12 京セラ株式会社 携帯端末装置
CN102395128B (zh) 2011-06-30 2015-12-09 北京邮电大学 一种移动智能终端的恶意信息发送防御方法及其系统
US9355393B2 (en) 2011-08-18 2016-05-31 Visa International Service Association Multi-directional wallet connector apparatuses, methods and systems
WO2013008649A1 (ja) 2011-07-11 2013-01-17 Kddi株式会社 指の接触による入力を複数のモードで実行可能なユーザインタフェース装置、入力操作判定方法及びプログラム
EP2551784A1 (en) 2011-07-28 2013-01-30 Roche Diagnostics GmbH Method of controlling the display of a dataset
US20150172393A1 (en) 2011-07-29 2015-06-18 Google Inc. Temporal Location Sharing
KR101780431B1 (ko) 2011-08-09 2017-09-21 카티바, 인크. 하향 인쇄 장치 및 방법
US9355394B2 (en) 2011-08-11 2016-05-31 Visa International Service Association Systems and methods of aggregating split payments using a settlement ecosystem
WO2013033735A1 (en) 2011-08-26 2013-03-07 Frederick Johannes Bruwer Intelligent capacitive swipe switch
JP2013048389A (ja) * 2011-08-29 2013-03-07 Fujitsu Mobile Communications Ltd 電子装置、そのカメラ制御プログラムおよびカメラ制御方法
KR101873415B1 (ko) 2011-09-08 2018-07-02 엘지전자 주식회사 이동 단말기 및 이의 제어방법
KR20130028598A (ko) 2011-09-09 2013-03-19 삼성전자주식회사 장치 및 장치의 이미지 파일의 ｓｎｓ 업로드방법
US8976128B2 (en) 2011-09-12 2015-03-10 Google Technology Holdings LLC Using pressure differences with a touch-sensitive display screen
TW201314979A (zh) 2011-09-19 2013-04-01 Chief Land Electronic Co Ltd 換能器與能量轉換模組
US20130078958A1 (en) 2011-09-23 2013-03-28 Research In Motion Limited System and method for managing transient notifications using sensors
US9576284B2 (en) 2011-09-29 2017-02-21 Paypal, Inc. Social proximity payments
WO2013048880A1 (en) 2011-09-30 2013-04-04 Apple Inc. Automatically adapting user interfaces for hands-free interaction
WO2013051048A1 (ja) 2011-10-03 2013-04-11 古野電気株式会社 タッチパネルを有する装置、表示制御プログラム、及び表示制御方法
US8880055B1 (en) 2011-10-06 2014-11-04 Marvell International Ltd. Method and apparatus for using near field communication (NFC) to perform transactions on a mobile device
US9031540B2 (en) 2011-10-07 2015-05-12 Newaer Inc. Automatication of a user transaction based upon scanned wireless signals
WO2013055756A1 (en) * 2011-10-10 2013-04-18 Talko Inc. Communication system
KR101789626B1 (ko) 2011-10-10 2017-10-25 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
US8848932B2 (en) 2011-10-13 2014-09-30 Blackberry Limited Proximity sensing for user detection and automatic volume regulation with sensor interruption override
EP2582120A1 (en) 2011-10-14 2013-04-17 Research In Motion Limited User interface methods and apparatus for use in communicating text and photo messages
US8819154B2 (en) 2011-10-14 2014-08-26 Blackberry Limited User interface methods and apparatus for use in communicating text and photo messages
US20130097566A1 (en) 2011-10-17 2013-04-18 Carl Fredrik Alexander BERGLUND System and method for displaying items on electronic devices
US20160180305A1 (en) 2011-10-24 2016-06-23 Bc Investments & Leasing, Inc. Payment Method Linked To A Mobile Number
US9305312B2 (en) 2011-10-25 2016-04-05 Theodosios Kountotsis Express easy-pass checkout at grocery stores and retail establishments for preferred members
US10510056B2 (en) 2011-11-02 2019-12-17 Mastercard International Incorporated Method and system for multiple payment applications
US20130120106A1 (en) 2011-11-16 2013-05-16 Motorola Mobility, Inc. Display device, corresponding systems, and methods therefor
US8594921B2 (en) 2011-11-30 2013-11-26 At&T Mobility Ii Llc Comparison of multi-dimensional datasets
US9154901B2 (en) 2011-12-03 2015-10-06 Location Labs, Inc. System and method for disabling and enabling mobile device functional components
WO2013093558A1 (en) * 2011-12-21 2013-06-27 Nokia Corporation Apparatus and method for collating application events with contacts of an electronic device.
US9467834B2 (en) 2011-12-23 2016-10-11 Microsoft Technology Licensing, Llc Mobile device emergency service
CN102404458A (zh) * 2011-12-27 2012-04-04 上海华勤通讯技术有限公司 移动终端和联系人信息排序方法
WO2013097895A1 (en) 2011-12-28 2013-07-04 Nokia Corporation Provision of an open instance of an application
EP2610701B1 (en) 2011-12-29 2015-04-01 Research in Motion Corporation Power supply management for portable electronic devices
KR20140121764A (ko) 2012-01-05 2014-10-16 비자 인터네셔널 서비스 어소시에이션 트랜잭션 영상 캡처 장치, 방법 및 시스템
EP2817863A1 (en) 2012-01-08 2014-12-31 Powermat Technologies Ltd. System and method for providing and controlling inductive power charging
US20130198112A1 (en) 2012-01-30 2013-08-01 Verizon Patent And Licensing Inc. Capacity Management Methods and Systems
US8995960B2 (en) 2012-02-10 2015-03-31 Dedo Interactive, Inc. Mobile device authentication
US10289660B2 (en) 2012-02-15 2019-05-14 Apple Inc. Device, method, and graphical user interface for sharing a content object in a document
KR101891536B1 (ko) 2012-02-24 2018-08-27 삼성전자주식회사 휴대단말기의 응급콜 발신 방법 및 장치
EP2631743B1 (en) * 2012-02-24 2018-05-02 BlackBerry Limited Handheld device with notification message viewing
KR101921203B1 (ko) 2012-03-02 2018-11-22 삼성전자 주식회사 녹음 기능이 연동된 메모 기능 운용 방법 및 장치
WO2013134299A1 (en) 2012-03-05 2013-09-12 Visa International Service Association Authentication using biometric technology through a consumer device
US9189062B2 (en) 2012-03-07 2015-11-17 Google Technology Holdings LLC Portable electronic device and method for controlling operation thereof based on user motion
US20150029149A1 (en) 2012-03-13 2015-01-29 Telefonaktiebolaget L M Ericsson (Publ) Apparatus and Method for Navigating on a Touch Sensitive Screen Thereof
US9247525B2 (en) * 2012-03-16 2016-01-26 Qualcomm Incorporated Systems and methods for providing notifications
CN103327159B (zh) 2012-03-19 2016-07-06 联想(北京)有限公司 一种低电提示方法及电子设备
KR20130107974A (ko) 2012-03-23 2013-10-02 삼성전자주식회사 플로팅 사용자 인터페이스 제공 장치 및 방법
US9934713B2 (en) 2012-03-28 2018-04-03 Qualcomm Incorporated Multifunction wristband
US20130275924A1 (en) 2012-04-16 2013-10-17 Nuance Communications, Inc. Low-attention gestural user interface
CN102663303A (zh) 2012-04-17 2012-09-12 李凯 移动设备行使权限的方法
JP2013222410A (ja) 2012-04-18 2013-10-28 Fujitsu Frontech Ltd 非接触ｉｃカード機能付携帯端末、そのプログラム
EP2654275A1 (en) 2012-04-21 2013-10-23 BlackBerry Limited System and method for transmitting application data between two communication devices
US20130282844A1 (en) 2012-04-23 2013-10-24 Contact Solutions LLC Apparatus and methods for multi-mode asynchronous communication
US20130297414A1 (en) 2012-05-07 2013-11-07 Flint Mobile, Inc. Method, apparatus, and computer-readable medium for managing mobile payment transactions
WO2013169865A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
WO2013169842A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for selecting object within a group of objects
WO2013169875A2 (en) * 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for displaying content associated with a corresponding affordance
EP2847659B1 (en) * 2012-05-09 2019-09-04 Apple Inc. Device, method, and graphical user interface for transitioning between display states in response to a gesture
US9953310B2 (en) 2012-05-10 2018-04-24 Mastercard International Incorporated Systems and method for providing multiple virtual secure elements in a single physical secure element of a mobile device
CN103425119B (zh) * 2012-05-23 2018-10-19 株式会社堀场制作所 测试系统、设备管理装置和车辆性能测试系统
US9191988B2 (en) 2012-05-26 2015-11-17 Qualcomm Incorporated Smart pairing using bluetooth technology
US8948821B2 (en) 2012-05-27 2015-02-03 Qualcomm Incorporated Notification based on user context
KR101395480B1 (ko) * 2012-06-01 2014-05-14 주식회사 팬택 필기 입력에 기초하여 어플리케이션을 실행하는 방법 및 그 단말
US9170667B2 (en) 2012-06-01 2015-10-27 Microsoft Technology Licensing, Llc Contextual user interface
US9800532B2 (en) 2012-06-04 2017-10-24 International Business Machines Corporation Intelligent presentation of multiple proximate audible alerts
KR102071692B1 (ko) 2012-06-11 2020-01-31 삼성전자주식회사 모바일 디바이스 및 그 제어 방법
US20130332358A1 (en) 2012-06-12 2013-12-12 Ebay, Inc. Fraud detection system
KR101941510B1 (ko) 2012-06-13 2019-01-23 삼성전자주식회사 전력 소모를 줄이기 위한 방법 및 그 전자 장치
CN102695302B (zh) 2012-06-15 2014-12-24 吴芳 用于扩展便携终端电子设备移动通信功能的系统和方法
US8949363B2 (en) * 2012-06-19 2015-02-03 Blackberry Limited Delayed or suspended alerts with multiple devices in proximity
US20130347018A1 (en) 2012-06-21 2013-12-26 Amazon Technologies, Inc. Providing supplemental content with active media
US20130346918A1 (en) 2012-06-26 2013-12-26 Google Inc. Presentation and management of notifications
US9461833B1 (en) * 2012-07-13 2016-10-04 Google Inc. Coalesced notifications for social groups
CN102799382A (zh) 2012-07-16 2012-11-28 华为终端有限公司 用户设备的系统栏的控制方法和用户设备
US8666361B2 (en) 2012-07-17 2014-03-04 Blackberry Limited System and method of providing information access on a portable device
EP2688283B1 (en) 2012-07-20 2020-03-18 BlackBerry Limited Dynamic region of interest adaptation and image capture device providing same
US9953584B2 (en) 2012-07-24 2018-04-24 Nook Digital, Llc Lighting techniques for display devices
US9560006B2 (en) 2012-07-26 2017-01-31 Google Inc. Method and apparatus for expiring messages in electronic communications
CN103581413A (zh) * 2012-08-01 2014-02-12 中兴通讯股份有限公司 一种会话管理方法及终端
US20140036099A1 (en) 2012-08-03 2014-02-06 Be Labs, Llc Automated Scanning
US9779396B2 (en) 2012-08-14 2017-10-03 Chijioke Chukwuemeka UZO Method of making mobile payments to a recipient lacking a wireless or contactless terminal
CN102843681A (zh) 2012-08-15 2012-12-26 腾讯科技（深圳）有限公司 信息交互方法和装置
CN103596126A (zh) 2012-08-15 2014-02-19 中兴通讯股份有限公司 一种个性化的增强服务方法及网络侧设备及移动用户设备
US20140058935A1 (en) 2012-08-21 2014-02-27 Noel Mijares Mobile contactless digital watch payment
CA2824165C (en) * 2012-08-22 2016-10-18 Scanavo North America Ltd. Virtual packaging and electronic gifting system and methodology
WO2014030875A1 (en) 2012-08-24 2014-02-27 Samsung Electronics Co., Ltd. Apparatus and method for providing interaction information by using image on device display
KR101901919B1 (ko) 2012-08-27 2018-09-27 삼성전자주식회사 휴대 단말기 및 메신저 영상 서비스 운용 방법
KR102020335B1 (ko) 2012-08-27 2019-09-10 삼성전자 주식회사 메시지 운용 방법 및 이를 지원하는 단말기
US8787888B2 (en) 2012-08-29 2014-07-22 Facebook, Inc. Sharing location information during a communication session
KR101399112B1 (ko) 2012-08-31 2014-05-30 주식회사 팬택 휴대용 전자 기기 및 이를 위한 배터리 관리 방법
US8826415B2 (en) 2012-09-04 2014-09-02 Apple Inc. Automated device access
US9131332B2 (en) 2012-09-10 2015-09-08 Qualcomm Incorporated Method of providing call control information from a mobile phone to a peripheral device
JP5884689B2 (ja) * 2012-09-11 2016-03-15 カシオ計算機株式会社 携帯機器及びその制御方法、並びに、携帯機器の制御プログラム
US8823507B1 (en) 2012-09-19 2014-09-02 Amazon Technologies, Inc. Variable notification alerts
US10042603B2 (en) 2012-09-20 2018-08-07 Samsung Electronics Co., Ltd. Context aware service provision method and apparatus of user device
KR102013443B1 (ko) 2012-09-25 2019-08-22 삼성전자주식회사 이미지를 전송하기 위한 방법 및 그 전자 장치
EP2717552A1 (en) 2012-10-04 2014-04-09 Nagravision S.A. A portable proximity wireless communication device
US9792035B2 (en) 2012-10-09 2017-10-17 Mastercard International Incorporated System and method for payment using a mobile device
US20140108558A1 (en) 2012-10-12 2014-04-17 Citrix Systems, Inc. Application Management Framework for Secure Data Sharing in an Orchestration Framework for Connected Devices
US10158391B2 (en) * 2012-10-15 2018-12-18 Qualcomm Incorporated Wireless area network enabled mobile device accessory
US8942420B2 (en) 2012-10-18 2015-01-27 Qualcomm Incorporated Detecting embossed characters on form factor
KR20140051640A (ko) 2012-10-23 2014-05-02 삼성전자주식회사 휴대 단말에서의 결제 수행 방법 및 장치와 그 방법에 대한 프로그램 소스를 저장한 기록 매체
WO2014065846A1 (en) 2012-10-25 2014-05-01 Blackberry Limited Electronic device and method of displaying information in response to detecting a gesture
US9152211B2 (en) 2012-10-30 2015-10-06 Google Technology Holdings LLC Electronic device with enhanced notifications
US20140129441A1 (en) 2012-11-02 2014-05-08 German Blanco Systems and methods for authorizing sensitive purchase transactions with a mobile device
US20140129007A1 (en) 2012-11-06 2014-05-08 Aliphcom General health and wellness management method and apparatus for a wellness application using data associated with a data-capable band
US9250660B2 (en) 2012-11-14 2016-02-02 Laserlock Technologies, Inc. “HOME” button with integrated user biometric sensing and verification system for mobile device
US9948589B2 (en) 2012-11-14 2018-04-17 invi Labs, Inc. System for and method of organizing contacts for chat sessions on an electronic device
US9628424B2 (en) * 2012-11-15 2017-04-18 Samsung Electronics Co., Ltd. Apparatus and method for sharing time-sensitive data between devices with intermittent connectivity
US10551928B2 (en) 2012-11-20 2020-02-04 Samsung Electronics Company, Ltd. GUI transitions on wearable electronic device
CN104737189B (zh) 2012-11-20 2021-05-04 电子湾有限公司 用于使能电子交易的环境和方法
US9756049B2 (en) 2012-11-22 2017-09-05 8303142 Canada Inc. System and method for managing several mobile devices simultaneously
US10095192B2 (en) * 2012-11-28 2018-10-09 Montres Rado S.A. Portable touch electronic object
US9549323B2 (en) 2012-12-03 2017-01-17 Samsung Electronics Co., Ltd. Method and mobile terminal for controlling screen lock
JP5796789B2 (ja) 2012-12-20 2015-10-21 カシオ計算機株式会社 情報処理システムにおける無線端末、無線端末による携帯情報端末の起動方法
JP6075055B2 (ja) * 2012-12-20 2017-02-08 カシオ計算機株式会社 表示端末装置、情報表示システム、情報表示制御方法、及び、プログラム
US9769106B2 (en) 2012-12-28 2017-09-19 Intel Corporation Displaying notifications on a mobile computing device
CN104903834B (zh) 2012-12-29 2019-07-05 苹果公司 用于在触摸输入到显示输出关系之间过渡的设备、方法和图形用户界面
US20140189533A1 (en) * 2012-12-30 2014-07-03 Avaya Inc. Dynamic notification system and method
US20140187856A1 (en) 2012-12-31 2014-07-03 Lee D. Holoien Control System For Modular Imaging Device
WO2014120948A1 (en) * 2013-01-30 2014-08-07 Whoozat Inc. Systems and methods for location-based group tracking and notifications
CN103199311B (zh) 2013-02-05 2015-08-12 北京奇虎科技有限公司 便携式电子产品的电池省电方法、设备及移动终端
KR102097495B1 (ko) 2013-02-06 2020-04-06 엘지전자 주식회사 디지털 디바이스 및 그 제어 방법
JP2014165663A (ja) 2013-02-25 2014-09-08 Kyocera Corp 携帯端末装置、プログラムおよび携帯端末装置の制御方法
US10122827B2 (en) 2013-02-25 2018-11-06 Microsoft Technology Licensing, Llc Interaction between devices displaying application status information
US20140279554A1 (en) 2013-03-12 2014-09-18 Seth Priebatsch Distributed authenticity verification for consumer payment transactions
FI20135248L (fi) 2013-03-14 2014-09-15 Op Palvelut Oy Mobiililaite transaktioinformaation kera
US9183371B2 (en) 2013-03-15 2015-11-10 Tyfone, Inc. Personal digital identity device with microphone
US20140279728A1 (en) * 2013-03-15 2014-09-18 Gary Skole System and Method for Caring for a Person Afflicted with Dementia
CN103207674B (zh) 2013-03-21 2016-06-22 苏州展科光电科技有限公司 基于体感技术的电子演示系统
JP6052004B2 (ja) 2013-03-27 2016-12-27 富士通株式会社 端末装置および端末制御プログラム
WO2014157893A1 (en) 2013-03-27 2014-10-02 Samsung Electronics Co., Ltd. Method and device for providing a private page
KR102171444B1 (ko) 2013-04-22 2020-10-29 엘지전자 주식회사 스마트 워치 및 제어 방법
CN103260059B (zh) 2013-04-26 2016-03-30 华为技术有限公司 控制机顶盒设备、位置信息确定和信息发布的方法和设备
US9075612B2 (en) 2013-05-10 2015-07-07 Jinrong Yang System and method for managing display power consumption
US10019710B2 (en) 2013-05-16 2018-07-10 Avant-Garde Ip Llc System, method and article of manufacture to facilitate a financial transaction without unlocking a mobile device
US9300617B2 (en) 2013-05-17 2016-03-29 Blackberry Limited Method and device for graphical indicator of electronic messages
US20140365944A1 (en) 2013-06-09 2014-12-11 Apple Inc. Location-Based Application Recommendations
CN105339959A (zh) * 2013-06-27 2016-02-17 惠普发展公司，有限责任合伙企业 用于显示从通信服务接收的电子通信的设备
US9338116B2 (en) * 2013-06-28 2016-05-10 Blackberry Limited Device and method for displaying and interacting with display objects
US20150012417A1 (en) 2013-07-08 2015-01-08 Raymond Anthony Joao Apparatus and method for providing transaction security and/or account security
US9254633B2 (en) 2013-07-09 2016-02-09 Apple Inc. Environmental seal maximizing sensor space beneath a button positioned in trim
KR101474467B1 (ko) * 2013-07-09 2014-12-19 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
CN103440247A (zh) 2013-07-19 2013-12-11 张佳佩 发送照片的方法及其设备
US9419935B2 (en) 2013-08-02 2016-08-16 Whatsapp Inc. Voice communications with real-time status notifications
KR102047703B1 (ko) 2013-08-09 2019-11-22 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
US9100944B2 (en) 2013-08-28 2015-08-04 Qualcomm Incorporated Wireless connecting mobile devices and wearable devices
KR102194795B1 (ko) 2013-08-29 2020-12-23 삼성전자주식회사 전력 제어를 위한 전자 장치 및 방법
KR101670808B1 (ko) 2013-09-03 2016-10-31 삼성전자주식회사 알림을 제공하는 방법 및 그 전자 장치
CN203520050U (zh) 2013-09-09 2014-04-02 李晓 具有超级电容的智能手表
US10143425B1 (en) 2013-09-09 2018-12-04 Scanadu Incorporated Methods of data acquisition quality and data fusion for personal portable wireless vital signs scanner
WO2015038684A1 (en) 2013-09-10 2015-03-19 Polyera Corporation Attachable article with signaling, split display and messaging features
KR102109617B1 (ko) 2013-09-16 2020-05-13 주식회사 팬택 지문 인식기를 구비한 단말 및 이 지문 인식기를 통한 사용자 입력의 처리 방법
US9959431B2 (en) * 2013-09-16 2018-05-01 Google Technology Holdings LLC Method and apparatus for displaying potentially private information
CN103500079A (zh) 2013-09-17 2014-01-08 小米科技有限责任公司 通知消息显示方法、装置及电子设备
CN103576902A (zh) 2013-09-18 2014-02-12 酷派软件技术（深圳）有限公司 控制终端设备的方法及系统
US9723354B2 (en) 2013-09-20 2017-08-01 Echostar Technologies L.L.C. Wireless tuner sharing
US9727752B2 (en) 2013-09-25 2017-08-08 Kairos Social Solutions, Inc. Device, system, and method of identifying a specific user from a profile image containing multiple people
US20150100537A1 (en) 2013-10-03 2015-04-09 Microsoft Corporation Emoji for Text Predictions
US9230486B2 (en) 2013-10-10 2016-01-05 Google Technology Holdings LLC Method and apparatus for displaying content on a display of an electronic device during different device operating modes
KR102125834B1 (ko) 2013-11-29 2020-06-23 삼성전자주식회사 모바일 단말기 및 그의 전력 관리 방법
CN103677520B (zh) 2013-12-04 2017-07-21 深圳市朗强科技有限公司 基于Android平台的应用程序评论方法及装置
KR102114616B1 (ko) 2013-12-06 2020-05-25 엘지전자 주식회사 스마트 와치 및 제어 방법
US9785794B2 (en) 2013-12-12 2017-10-10 Citrix Systems, Inc. Securing sensitive data on a mobile device
JP6644466B2 (ja) 2013-12-31 2020-02-12 イマージョン コーポレーションＩｍｍｅｒｓｉｏｎ Ｃｏｒｐｏｒａｔｉｏｎ 触覚通知を提供するシステム及び方法
US10033679B2 (en) 2013-12-31 2018-07-24 Google Llc Systems and methods for displaying unseen labels in a clustering in-box environment
US8811951B1 (en) 2014-01-07 2014-08-19 Google Inc. Managing display of private information
WO2015107681A1 (ja) 2014-01-17 2015-07-23 任天堂株式会社 情報処理システム、情報処理サーバ、情報処理プログラム、および情報提供方法
CN104811423B (zh) 2014-01-24 2019-03-01 腾讯科技（深圳）有限公司 位置信息的共享方法和装置
US10013601B2 (en) * 2014-02-05 2018-07-03 Facebook, Inc. Ideograms for captured expressions
US20160012465A1 (en) 2014-02-08 2016-01-14 Jeffrey A. Sharp System and method for distributing, receiving, and using funds or credits and apparatus thereof
US20150227245A1 (en) * 2014-02-10 2015-08-13 Polyera Corporation Attachable Device with Flexible Electronic Display Orientation Detection
CN103793075B (zh) 2014-02-14 2017-02-15 北京君正集成电路股份有限公司 一种应用在智能手表上的识别方法
US9483529B1 (en) 2014-02-14 2016-11-01 Twitter, Inc. Selection and presentation of unviewed messages
US9031812B2 (en) 2014-02-27 2015-05-12 Fitbit, Inc. Notifications on a user device based on activity detected by an activity monitoring device
US9772985B2 (en) * 2014-02-28 2017-09-26 Microsoft Technology Licensing, Llc Communications control for resource constrained devices
CN103838992B (zh) 2014-03-03 2017-07-14 宇龙计算机通信科技(深圳)有限公司 一种指纹识别方法及终端
US20150264303A1 (en) 2014-03-17 2015-09-17 Microsoft Corporation Stop Recording and Send Using a Single Action
CN104123333B (zh) 2014-03-17 2017-02-15 腾讯科技（深圳）有限公司 用于位置共享的数据处理方法和装置
EP3382443B1 (en) 2014-03-21 2023-07-26 Samsung Electronics Co., Ltd. Head-mounted display and method of operating the same
US9722962B2 (en) 2014-03-21 2017-08-01 Facebook, Inc. Providing message status notifications during electronic messaging
KR20160143752A (ko) * 2014-04-04 2016-12-14 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 확장가능한 애플리케이션 표시 및 태스크바
US20150286391A1 (en) * 2014-04-08 2015-10-08 Olio Devices, Inc. System and method for smart watch navigation
US20150301506A1 (en) 2014-04-22 2015-10-22 Fahad Koumaiha Transparent capacitive touchscreen device overlying a mechanical component
CN105005457B (zh) 2014-04-25 2019-04-09 腾讯科技（深圳）有限公司 地理位置展示方法及装置
US10845982B2 (en) 2014-04-28 2020-11-24 Facebook, Inc. Providing intelligent transcriptions of sound messages in a messaging application
KR102069629B1 (ko) 2014-05-08 2020-01-23 삼성전기주식회사 칩 전자부품 및 그 제조방법
CN103944811B (zh) * 2014-05-15 2018-09-21 广州博冠信息科技有限公司 一种邮件提示方法和设备
CN104023126B (zh) 2014-05-16 2017-01-25 北京金山安全软件有限公司 签到方法及其装置
US9614804B2 (en) 2014-05-16 2017-04-04 Dropbox, Inc. Managing messages based on expiration dates
CN104038256A (zh) 2014-05-28 2014-09-10 南京邮电大学 一种基于生物特征识别的nfc传输方法
CN204650596U (zh) 2014-05-29 2015-09-16 苹果公司 电子设备
US11343335B2 (en) 2014-05-29 2022-05-24 Apple Inc. Message processing by subscriber app prior to message forwarding
EP4053767A1 (en) 2014-05-30 2022-09-07 Apple Inc. Method for displaying and selecting data
WO2015183756A1 (en) 2014-05-31 2015-12-03 Apple Inc. Message user interfaces for capture and transmittal of media and location content
US9582642B2 (en) 2014-05-30 2017-02-28 Apple Inc. Managing user information—background processing
US10382378B2 (en) 2014-05-31 2019-08-13 Apple Inc. Live location sharing
US9185062B1 (en) * 2014-05-31 2015-11-10 Apple Inc. Message user interfaces for capture and transmittal of media and location content
CN116243841A (zh) 2014-06-27 2023-06-09 苹果公司 尺寸减小的用户界面
US20160036996A1 (en) 2014-08-02 2016-02-04 Sony Corporation Electronic device with static electric field sensor and related method
DE212015000194U1 (de) 2014-08-06 2017-05-31 Apple Inc. Verkleinerte Benutzeroberflächen für Batteriemanagement
CN106537397B (zh) 2014-09-02 2019-12-13 苹果公司 身体活动和健身监视器
CN115623117A (zh) 2014-09-02 2023-01-17 苹果公司 电话用户界面
EP3373122B1 (en) 2014-09-02 2022-04-06 Apple Inc. Reduced-size interfaces for managing alerts
WO2016036545A1 (en) * 2014-09-02 2016-03-10 Apple Inc. Reduced-size notification interface
US20160073223A1 (en) 2014-09-10 2016-03-10 Microsoft Corporation Real-time location sharing to facilitate a physical meet-up
US20160088146A1 (en) 2014-09-23 2016-03-24 Mcafee, Inc. Device lock while in motion
US20160098522A1 (en) 2014-10-07 2016-04-07 David Roey Weinstein Method and system for creating and managing permissions to send, receive and transmit patient created health data between patients and health care providers
US9648615B2 (en) 2014-12-02 2017-05-09 Cisco Technology, Inc. Location measurement optimized off-channel scanning and grouping of access points
KR102256642B1 (ko) 2014-12-04 2021-05-27 삼성전자주식회사 메시지 송수신 장치 및 메시지 송수신 방법
KR20160076264A (ko) 2014-12-22 2016-06-30 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
US9954991B2 (en) 2014-12-31 2018-04-24 Xiaomi Inc. Status notification method and device
US10007473B2 (en) 2015-01-21 2018-06-26 Dexcom, Inc. Continuous glucose monitor communication with multiple display devices
US20160224973A1 (en) 2015-02-01 2016-08-04 Apple Inc. User interface for payments
CN104567863A (zh) 2015-02-11 2015-04-29 英华达（上海）科技有限公司 智能进场导引系统与方法
US10254911B2 (en) 2015-03-08 2019-04-09 Apple Inc. Device configuration user interface
KR20160142527A (ko) 2015-06-03 2016-12-13 엘지전자 주식회사 디스플레이 장치 및 제어 방법
US9661117B2 (en) 2015-07-16 2017-05-23 Plantronics, Inc. Wearable devices for headset status and control
US10003938B2 (en) 2015-08-14 2018-06-19 Apple Inc. Easy location sharing
KR102469562B1 (ko) 2015-12-18 2022-11-22 삼성전자주식회사 개인의 전자 헬스 자료를 공유하기 위한 장치 및 방법
US10278012B2 (en) 2015-12-31 2019-04-30 Huawei Technologies Co., Ltd. Location-based reminding method, indication device, reminding device, and mobile terminal
US10549173B2 (en) 2016-03-28 2020-02-04 Apple Inc. Sharing updatable graphical user interface elements
JP6490023B2 (ja) 2016-03-30 2019-03-27 富士フイルム株式会社 生体情報通信装置、サーバ、生体情報通信方法及び生体情報通信プログラム
US9769610B1 (en) 2016-05-12 2017-09-19 Google Inc. Adaptive location sharing based on proximity
US20170364637A1 (en) 2016-05-24 2017-12-21 ICmed, LLC Mobile health management database, targeted educational assistance (tea) engine, selective health care data sharing, family tree graphical user interface, and health journal social network wall feed, computer-implemented system, method and computer program product
US10817488B2 (en) 2016-09-16 2020-10-27 Oracle International Corporation Historical data representation in cloud service
US11221749B2 (en) 2016-10-31 2022-01-11 Lenovo (Singapore) Pte. Ltd. Electronic device with touchpad display
US10903964B2 (en) 2017-03-24 2021-01-26 Apple Inc. Techniques to enable physical downlink control channel communications
GB201706543D0 (en) 2017-04-25 2017-06-07 Anitech Solutions Ltd Geo-location fences-based transient messages
US10845955B2 (en) 2017-05-15 2020-11-24 Apple Inc. Displaying a scrollable list of affordances associated with physical activities
US10481856B2 (en) 2017-05-15 2019-11-19 Microsoft Technology Licensing, Llc Volume adjustment on hinged multi-screen device
KR102390342B1 (ko) 2017-08-31 2022-04-26 삼성전자주식회사 사용자의 체중 관리를 위한 방법 및 그 전자 장치
CN110932673A (zh) 2018-09-19 2020-03-27 恩智浦美国有限公司 一种包含并联陷波滤波器的斩波稳定放大器
US11477609B2 (en) 2019-06-01 2022-10-18 Apple Inc. User interfaces for location-related communications
US11481094B2 (en) 2019-06-01 2022-10-25 Apple Inc. User interfaces for location-related communications
US11152100B2 (en) 2019-06-01 2021-10-19 Apple Inc. Health application user interfaces

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080091166A1 (en) * 2003-03-18 2008-04-17 Catharos Medical Systems, Inc. Methods and devices for retrieval of a medical agent from a physiological efferent fluid collection site
US20110183650A1 (en) * 2010-01-22 2011-07-28 Sony Ericsson Mobile Communications Ab Regulating alerts generated by communication terminals responsive to sensed movement
US20130322634A1 (en) * 2012-06-05 2013-12-05 Apple Inc. Context-aware voice guidance

Also Published As

Publication number Publication date
US20170153795A1 (en) 2017-06-01
US20170147197A1 (en) 2017-05-25
AU2016102002B4 (en) 2017-01-19
EP4027227A1 (en) 2022-07-13
DE202015006066U1 (de) 2015-12-14
JP6852952B2 (ja) 2021-03-31
DK201770126A1 (en) 2017-03-20
AU2017100198A4 (en) 2017-03-23
JP6349030B2 (ja) 2018-06-27
CN109062463B (zh) 2023-12-15
AU2015312369A1 (en) 2017-03-23
US10379714B2 (en) 2019-08-13
US11379071B2 (en) 2022-07-05
JP2017526073A (ja) 2017-09-07
JP2021108132A (ja) 2021-07-29
CN117519533A (zh) 2024-02-06
DK201570550A1 (en) 2016-03-14
JP2023051982A (ja) 2023-04-11
JP2018152085A (ja) 2018-09-27
JP6464299B2 (ja) 2019-02-06
EP3373122A1 (en) 2018-09-12
AU2017100198B4 (en) 2017-10-26
KR20170029014A (ko) 2017-03-14
KR20190101510A (ko) 2019-08-30
CN117519532A (zh) 2024-02-06
DK178964B1 (en) 2017-07-10
NL2015354B1 (en) 2017-11-16
EP3189409A1 (en) 2017-07-12
AU2016102002A4 (en) 2016-12-15
US9575591B2 (en) 2017-02-21
WO2016036472A8 (en) 2017-03-30
NL2019878A (en) 2017-12-20
AU2017100197A4 (en) 2017-03-23
AU2018204430C1 (en) 2020-01-30
AU2015101188B4 (en) 2016-10-20
AU2015312369B2 (en) 2018-04-05
CN205334368U (zh) 2016-06-22
AU2017100197B4 (en) 2017-10-26
AU2018204430B2 (en) 2019-07-11
EP3373122B1 (en) 2022-04-06
HK1220525A1 (zh) 2017-05-05
AU2018204430A1 (en) 2018-07-05
CN105388998B (zh) 2019-08-27
NL2019878B1 (en) 2018-08-31
CN206649467U (zh) 2017-11-17
DK179417B1 (en) 2018-06-18
US20160062540A1 (en) 2016-03-03
CN109062463A (zh) 2018-12-21
NL2015354A (en) 2016-08-18
KR102143308B1 (ko) 2020-08-10
EP3189409B1 (en) 2020-01-29
KR102016160B1 (ko) 2019-08-29
KR101901796B1 (ko) 2018-09-28
AU2019246830B1 (en) 2019-11-07
TWI625646B (zh) 2018-06-01
AU2015101188A4 (en) 2015-10-08
US9977579B2 (en) 2018-05-22
CN105388998A (zh) 2016-03-09
TW201633063A (zh) 2016-09-16
JP2019083036A (ja) 2019-05-30
WO2016036472A1 (en) 2016-03-10
DK201770125A1 (en) 2017-03-13
US20220300108A1 (en) 2022-09-22
JP7198849B2 (ja) 2023-01-04
US20190286301A1 (en) 2019-09-19

Similar Documents

Publication Publication Date Title
JP7198849B2 (ja) アラートを管理するための小型インターフェース
DK179555B1 (en) USER INTERFACE FOR A FLASHLIGHT MODE ON AN ELECTRONIC DEVICE
WO2016036546A2 (en) Reduced-size notification interface
WO2016014601A2 (en) Remote user interface
US11837067B2 (en) User interfaces for facilitating operations
US20240062640A1 (en) User interfaces for facilitating operations

Legal Events

Date Code Title Description
A107 Divisional application of patent
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right