CN115552366A - 设备背面部分上的触控板 - Google Patents

设备背面部分上的触控板 Download PDF

Info

Publication number
CN115552366A
CN115552366A CN202180034831.9A CN202180034831A CN115552366A CN 115552366 A CN115552366 A CN 115552366A CN 202180034831 A CN202180034831 A CN 202180034831A CN 115552366 A CN115552366 A CN 115552366A
Authority
CN
China
Prior art keywords
touch
client device
display screen
sensitive display
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180034831.9A
Other languages
English (en)
Inventor
什里·K·纳亚尔
肖昶
郑昌希
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Snap Inc
Original Assignee
Snap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Snap Inc filed Critical Snap Inc
Publication of CN115552366A publication Critical patent/CN115552366A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0443Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using a single layer of sensing electrodes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/169Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated pointing device, e.g. trackball in the palm rest area, mini-joystick integrated between keyboard keys, touch pads or touch stripes
    • G06F1/1692Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated pointing device, e.g. trackball in the palm rest area, mini-joystick integrated between keyboard keys, touch pads or touch stripes the I/O peripheral being a secondary touch screen used as control interface, e.g. virtual buttons or sliders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/0202Constructional details or processes of manufacture of the input device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/0202Constructional details or processes of manufacture of the input device
    • G06F3/0219Special purpose keyboards
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/0227Cooperation and interconnection of the input arrangement with other functional units of a computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233Character input methods
    • G06F3/0235Character input methods using chord techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/039Accessories therefor, e.g. mouse pads
    • G06F3/0393Accessories for touch pads or touch screens, e.g. mechanical guides added to touch screens for drawing straight lines, hard keys overlaying touch screens or touch pads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0446Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using a grid-like structure of electrodes in at least two directions, e.g. using row and column electrodes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026Details of the structure or mounting of specific components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/16Indexing scheme relating to G06F1/16 - G06F1/18
    • G06F2200/163Indexing scheme relating to constructional details of the computer
    • G06F2200/1636Sensing arrangement for detection of a tap gesture on the housing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/033Indexing scheme relating to G06F3/033
    • G06F2203/0339Touch strips, e.g. orthogonal touch strips to control cursor movement or scrolling; single touch strip to adjust parameter or to implement a row of soft keys
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/23Construction or mounting of dials or of equivalent devices; Means for facilitating the use thereof
    • H04M1/236Construction or mounting of dials or of equivalent devices; Means for facilitating the use thereof including keys on side or rear faces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72427User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting games or graphical animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72445User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting Internet browser applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/22Details of telephonic subscriber devices including a touch pad, a touch sensor or a touch detector

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本公开内容的各方面涉及一种用于执行操作的系统和方法,所述操作包括:检测对客户端设备的背面部分上的触敏部件的物理触摸,客户端设备在客户端设备的正面部分的触敏显示屏上显示图形用户界面;响应于检测到物理触摸,向客户端设备的正面部分的触敏显示屏发送表示对客户端设备的背面部分上的触敏部件的物理触摸的电信号;以及响应于触敏显示屏接收到表示对客户端设备的背面部分上的触敏部件的物理触摸的电信号,使得执行与图形用户界面相关联的操作。

Description

设备背面部分上的触控板
优先权要求
本申请要求于2020年5月14日提交的序列号为63/024,696的美国临时申请和于2021年5月12日提交的序列号为17/318,806的美国专利申请的优先权的权益,上述美国临时申请和美国专利申请中的每一个通过引用其整体并入本文中。
技术领域
本公开内容总体上涉及用户设备的触摸屏导航和操作。
背景技术
触摸屏是用户操作移动设备的主要方式。触摸屏允许用户直接触摸在其上呈现特定内容的屏幕的一部分以控制该内容并且与该内容交互。例如,可以在触摸屏上向用户呈现网页并且向上/向下滑动以滚动网页并且触摸不同部分以选择呈现在网页上的不同选项。触摸屏还提供具有虚拟键的键盘,用户可以点击虚拟键以编写消息并且向移动设备提供文本输入。使用触摸屏设备可以使用相同的部件来(经由显示器)输出内容并且接收来自用户的命令的物理输入。
附图说明
在不一定按比例绘制的附图中,相同的附图标记可以在不同的视图中描述相似的部件。为了容易地识别对任何特定元件或动作的讨论,附图标记中的一个或多个最高位数字指代该元件被首次引入时所在的图号。在附图的图中以示例而非限制的方式示出了一些实施方式,在附图中:
图1是根据一些示例的其中可以部署本公开内容的联网环境的图解表示。
图2是根据一些示例的具有客户端侧和服务器侧两者的功能的消息系统的图解表示。
图3是根据一些示例的在数据库中维护的数据结构的图解表示。
图4是根据一些示例的消息的图解表示。
图5是根据一些示例的与触摸屏的远程交互的图解表示。
图6至图9是根据一些示例的客户端设备的各种实施方式的图解表示,其中触控板在客户端设备的背面上。
图10是示出根据示例实施方式的客户端设备的示例操作的流程图,其中触控板在客户端设备的背面上。
图11是根据一些示例的计算机系统形式的机器的图解表示,在该机器中,可以执行一组指令以使机器执行本文中讨论的任何一个或更多个方法。
图12是示出可以在其中实现示例的软件架构的框图。
具体实施方式
以下描述包括体现本公开内容的说明性实施方式的系统、方法、技术、指令序列及计算机器程序产品。在下面的描述中,出于说明的目的,阐述了许多具体细节以提供对各种实施方式的理解。然而,对于本领域技术人员而言将明显的是,可以在没有这些具体细节的情况下实践实施方式。一般地,公知的指令实例、协议、结构和技术不一定详细地被示出。
许多典型的设备使用触摸屏来操作。这样的设备在触摸屏上呈现内容,并且允许用户通过物理地对触摸屏的不同部分进行触摸来输入命令并且与设备交互。这些触摸屏通常在设备的正面部分(设备面向用户的部分)。为了使用户使用触摸屏向设备输入命令,用户必须将手指放置在触摸屏上的期望位置处。这最终阻碍了在期望位置及其周围显示的内容的观看。几乎不可能在没有至少部分地阻碍对呈现在触摸屏上的内容的观看的情况下与触摸屏交互以输入命令。这可能干扰用户在屏幕上无缝且无中断地读取内容的能力。在屏幕上正在播放视频内容的情况下,当用户试图通过与触摸屏进行物理交互来操纵内容的回放时,用户可能错过正在显示的内容的重要部分。
而且,与触摸屏的交互通常使用用户的自由手来执行。例如,如果用户用右手握持设备,则用户可能使用左手来与触摸屏交互,因为伸出用户右手上的手指以到达触摸屏上的期望位置太麻烦且困难。用户用双手操作该设备使得用户难以进行多任务并且难以与其他对象进行物理交互。具体地,握持遥控器以与电视交互,与此同时在触摸屏设备上导航内容对用户而言可能是困难的。
一些典型的方法将诸如遥控器和触摸板的外围输入设备连接至在被控制的设备。这些外围设备允许用户在不使用触摸屏的情况下控制在被控制的设备或向在被控制的设备提供输入。然而,这样的外围设备通常占用额外的空间并且消耗在被控制的设备的其他资源。此外,这样的外围设备或者完全禁用在被控制的设备的触摸屏,或者可能引入与在被控制的设备的触摸屏的冲突,例如当在从外围设备接收到操作在被控制的设备的指令的同时触摸屏接收到输入时。而且,这样的外围设备需要连接至在被控制的设备的输入端口(例如,USB端口),使得输入端口不能用于其他目的(例如连接电源线以对在被控制的设备的电池充电)。虽然这些典型的方法通常很好地用于用外围输入设备来代替如何向触摸屏设备提供输入,但是添加这样的外围设备引入了各种复杂性并且无法容易地实现。这是因为这样的外围设备需要与在被控制的触摸屏设备电兼容,被编程或配置成与在被控制的触摸屏设备上运行的操作系统或软件正确地通信,并且具有在触摸屏设备上运行的专用应用,用于通信和解释来自外围设备的命令。
所公开的实施方式通过在触摸屏设备的背面添加触摸板部件来提高使用电子触摸屏设备的效率和简易性,触摸板部件远程地且电气地控制触摸屏设备的正面上的触摸屏部分。触摸板部件可以被放置在设备的背向用户的背面部分,例如放置在面向用户的触摸屏的相对侧。这样,用户可以在握持设备的同时用一只手操作触摸屏设备。例如,用户可以在观看设备的正面上的触摸屏上的内容的同时与设备的背面上的触摸板部件交互。这避免了阻碍正在观看的内容,同时允许用户向设备提供基于触摸的输入。作为示例,用户可以通过触摸屏观看设备的正面上的网页,并且可以在设备的背面上的触摸板上向上/向下滑动手指以使网页向上/向下滚动。而且,因为触摸板部件与设备的正面上的触摸屏电通信,所以不需要消耗诸如USB输入端口的输入资源。另外,因为到设备的输入最终仍然通过触摸屏发生,因此操作系统不需要对背面上的触摸板部件进行特殊处理,并且不需要考虑兼容性问题。
在一些实施方式中,触摸板部件激活设备的触摸屏上的输入的特定组合,例如同时激活触摸屏的顶部位置和触摸屏的底部位置。这些输入的组合对于从设备的背面上的触摸板部件接收的输入可以是唯一的,这使得触摸屏能够区分由用户物理地对触摸屏进行触摸而直接接收的输入和由用户物理地触摸设备的背面上的触摸板部件间接接收的输入。在某些情况下,可以通过切换或操纵模拟或机械开关来选择性地禁用/启用设备的背面上的触摸板部件。这样的开关可以被配置成逻辑地或以模拟方式断开从设备的背面上的触摸板部件到设备的正面上的触摸屏的电信号。以这种方式,当设备的背面上的触摸板被禁用时,当用户物理地触摸设备的背面上的触摸板部件时,用户不会不经意地或无意地使触摸屏被设备的背面上的触摸板部件控制。
联网计算环境
图1是示出用于通过网络来交换数据(例如消息和相关联的内容)的示例消息系统100的框图。消息系统100包括客户端设备102的多个实例,每个实例托管包括消息客户端104的多个应用。每个消息客户端104经由网络106(例如,因特网)通信上耦接至消息服务器系统108和消息客户端104的其他实例。
消息客户端104能够经由网络106与另一消息客户端104和消息服务器系统108通信并且交换数据。在消息客户端104之间以及消息客户端104与消息服务器系统108之间交换的数据包括功能(例如,激活功能的命令)以及有效载荷数据(例如,文本、音频、视频或其他多媒体数据)。
消息服务器系统108经由网络106向特定消息客户端104提供服务器侧功能。虽然消息系统100的某些功能在本文中被描述为由消息客户端104或由消息服务器系统108执行,但是某些功能在消息客户端104或消息服务器系统108内的定位可以是设计选择。例如,在技术上优选的是:可以最初将某些技术和功能部署在消息服务器系统108内,但是后面将该技术和功能迁移至客户端设备102具有足够处理能力的消息客户端104。
消息服务器系统108支持向消息客户端104提供的各种服务和操作。这样的操作包括向消息客户端104发送数据、从消息客户端104接收数据以及对由消息客户端104生成的数据进行处理。作为示例,该数据可以包括消息内容、客户端设备信息、地理位置信息、媒体增强和叠加、消息内容持久化条件、社交网络信息和实况事件信息。通过经由消息客户端104的用户接口(UI)可用的功能来激活和控制消息系统100内的数据交换
现在具体地转至消息服务器系统108,应用程序接口(API)服务器110耦接至应用服务器112并且向应用服务器112提供编程接口。应用服务器112通信地耦接至数据库服务器118,数据库服务器118利于访问数据库120,该数据库120存储与通过应用服务器112处理的消息相关联的数据。类似地,web服务器124耦接至应用服务器112,并且向应用服务器112提供基于web的接口。为此,web服务器124通过超文本传输协议(HTTP)和若干其他相关协议处理传入的网络请求。
应用程序接口(API)服务器110在客户端设备102与应用服务器112之间接收和发送消息数据(例如,命令和消息有效载荷)。具体地,应用程序接口(API)服务器110提供一组接口(例如,例程和协议),该组接口可以由消息客户端104调用或查询以激活应用服务器112的功能。应用程序接口(API)服务器110显露由应用服务器112支持的各种功能,包括:帐户注册;登录功能;经由应用服务器112将消息从特定消息客户端104发送至另一消息客户端104;将媒体文件(例如,图像或视频)从消息客户端104发送至消息服务器114并且用于另一消息客户端104的可能访问;设置媒体数据集合(例如,故事);检索客户端设备102的用户的朋友列表;检索这样的集合;检索消息和内容;在实体图(例如社交图)中添加和删除实体(例如朋友);在社交图中定位朋友;以及打开应用事件(例如,与消息客户端104有关)。
应用服务器112托管若干服务器应用和子系统,包括例如消息服务器114、图像处理服务器116以及社交网络服务器122。消息服务器114实现了若干消息处理技术和功能,特别是与从消息客户端104的多个实例接收到的消息中包括的内容(例如,文本和多媒体内容)的聚合和其他处理有关的消息处理技术和功能。如将进一步详细描述的,来自多个来源的文本和媒体内容可以被聚合成内容集合(例如,被称为故事或库)。然后,使这些集合对消息客户端104可用。鉴于对这样的处理的硬件要求,也可以由消息服务器114在服务器侧执行数据的其他处理器和存储器密集型处理。
应用服务器112还包括图像处理服务器116,该图像处理服务器116专用于执行各种图像处理操作,通常相对于在从消息服务器114发送或者在消息服务器114处接收的消息的有效载荷内的图像或视频,执行各种图像处理操作。
社交网络服务器122支持各种社交联网功能和服务并且使这些功能和服务可用于消息服务器114。为此,社交网络服务器122维护和访问数据库120内的实体图306(如图3所示)。由社交网络服务器122支持的功能和服务的示例包括识别特定用户与之有关系或“跟随”的消息系统100的其他用户,以及识别特定用户的兴趣和其他实体。
系统架构
图2是示出根据一些示例的关于消息系统100的进一步细节的框图。具体地,消息系统100被显示为包括消息客户端104和应用服务器112。消息系统100包含若干子系统,这些子系统在客户端侧由消息客户端104支持并且在服务器侧由应用服务器112支持。这些子系统包括例如短暂定时器系统202、集合管理系统204、增强系统206、地图系统208和游戏系统210。
短暂定时器系统202负责强制由消息客户端104和消息服务器114对内容进行临时或限时访问。短暂定时器系统202包含若干个定时器,这些定时器基于与消息或消息集合(例如,故事)相关联的持续时间和显示参数,选择性地实现经由消息客户端104访问(例如,用于呈现和显示)消息和相关联的内容。下面提供关于短暂定时器系统202的操作的另外的细节。
集合管理系统204负责管理媒体的组或集合(例如,文本、图像、视频和音频数据的集合)。可以将内容(例如,消息,包括图像、视频、文本和音频)的集合组织成“事件库”或“事件故事”。可以使这样的集合在指定的时间段内(例如,与内容相关的事件的持续时间)可用。例如,可以使与音乐会相关的内容在音乐会的持续时间内作为“故事”可用。集合管理系统204还可以负责向消息客户端104的用户接口发布提供特定集合存在的通知的图标。
此外,集合管理系统204还包括策展接口212,策展接口212使得集合管理者能够管理和策展特定内容集合。例如,策展接口212使得事件组织者能够策展与特定事件相关的内容集合(例如,删除不适当的内容或冗余消息)。此外,集合管理系统204采用机器视觉(或图像识别技术)和内容规则来自动地策展内容集合。在某些示例中,可以向用户支付补偿用于将用户生成的内容包括到集合中。在这样的情况下,集合管理系统204进行操作以自动地向这样的用户支付以使用他们的内容。
增强系统206提供使得用户能够增强(例如,注释或以其他方式修改或编辑)与消息相关联的媒体内容的各种功能。例如,增强系统206提供与生成和发布用于由消息系统100处理的消息的媒体叠加相关的功能。增强系统206基于客户端设备102的地理位置可操作地向消息客户端104提供媒体叠加或增强(例如,图像过滤器)。在另一示例中,增强系统206基于诸如客户端设备102的用户的社交网络信息的其他信息可操作地向消息客户端104供应媒体叠加。媒体叠加可以包括音频和视觉内容以及视觉效果。音频和视觉内容的示例包括图片、文本、标志、动画和声音效果。视觉效果的示例包括色彩叠加。音频和视觉内容或视觉效果可以应用于客户端设备102处的媒体内容项(例如,照片)。例如,媒体叠加可以包括可以叠加在由客户端设备102拍摄的照片之上的文本或图像。在另一示例中,媒体叠加包括位置标识叠加(例如,威尼斯海滩)、实时事件的名称或商家名称叠加(例如,海滩咖啡馆)。在另一示例中,增强系统206使用客户端设备102的地理位置来标识包括在客户端设备102的地理位置处的商家的名称的媒体叠加。媒体叠加可以包括与商家相关联的其他标记。媒体叠加可以存储在数据库120中并且通过数据库服务器118访问。
在一些示例中,增强系统206提供基于用户的发布平台,该基于用户的发布平台使得用户能够选择地图上的地理位置并且上传与所选择的地理位置相关联的内容。用户还可以指定应当向其他用户提供特定媒体叠加的情况。增强系统206生成包括所上传的内容并且将所上传的内容与所选择的地理位置相关联的媒体叠加。
在其他示例中,增强系统206提供基于商家的发布平台,该基于商家的发布平台使商家能够经由竞价过程选择与地理位置相关联的特定媒体叠加。例如,增强系统206将最高出价商家的媒体叠加与相应的地理位置相关联达预定义时间量。
地图系统208提供各种地理定位功能,并且支持由消息客户端104呈现基于地图的媒体内容和消息。例如,地图系统208能够在地图上显示(例如,存储在简档数据308中的)用户图标或化身,以指示用户的“朋友”的当前或过去定位,以及由这些朋友在地图的上下文内生成的媒体内容(例如,包括照片和视频的消息的集合)。例如,在消息客户端104的地图界面上,可以将用户从特定地理定位发布到消息系统100的消息在地图的该特定定位的上下文内显示给特定用户的“朋友”。用户还可以经由消息客户端104与消息系统100的其他用户(例如,使用适当的状况化身)共享他或她的定位和状况信息,其中该定位和状况信息在消息客户端104的地图界面的上下文内被显示给选定用户。
游戏系统210在消息客户端104的上下文内提供各种游戏功能。消息客户端104提供游戏界面,该游戏界面提供可用游戏的列表,该游戏可以由用户在消息客户端104的上下文中启动并且与消息系统100的其他用户一起玩。消息系统100还使特定用户能够通过从消息客户端104向这样的其他用户发出邀请来邀请其他用户参与玩特定游戏。消息客户端104还支持在玩游戏的上下文中的语音和文本通信(例如,聊天)两者,为游戏提供排行榜,并且还支持提供游戏内奖励(例如,钱币和物品)。
消息客户端104从客户端设备102的触摸屏接收输入。消息客户端104确定来自客户端设备102的触摸屏的输入是否对应于用户与设备102背面上的触摸板部件的交互。例如,当触摸屏的多个位置被同时激活并且这对应于同时激活的位置的特定组合时,消息客户端104确定触摸屏接收到来自客户端设备102的背面上的触摸板部件的输入,而不是通过对触摸屏的直接物理触摸。在一些实施方式中,用户可以切换由操作系统或消息客户端104显示的屏幕上选项,以指示操作系统或消息客户端104将触摸屏上的输入解释为是从与设备102的背面上的触摸板的交互接收的。
当消息客户端104或操作系统(通过直接用户指令或通过客户端设备102的触摸屏的位置的组合的唯一激活)检测到用户正在通过与客户端设备102的背面上的触摸板交互来间接地向触摸屏提供输入时,消息客户端104或操作系统解释触摸屏上的输入组合以生成控制客户端设备102的操作的命令。例如,消息客户端104确定由与客户端设备102的背面上的触摸板部件交互的用户激活的触摸屏上的输入的一个组合对应于向下滚动操作。在这种情况下,消息客户端104向下滚动正在触摸屏上显示的页面。作为另一示例,消息客户端104确定由与客户端设备102的背面上的触摸板部件交互的用户激活的触摸屏上的输入的第二组合对应于选择操作。在这种情况下,消息客户端104指示正在触摸屏上呈现内容的应用(例如游戏)执行选择操作。
数据架构
图3是示出根据某些示例的可以存储在消息服务器系统108的数据库120中的数据结构300的示意图。虽然数据库120的内容被示出为包括若干表,但是应当理解,数据可以存储在其他类型的数据结构(例如,作为面向对象数据库)中。
数据库120包括存储在消息表302内的消息数据。对于任何特定的一条消息,该消息数据包括至少消息发送者数据、消息接收方(或接收者)数据和有效载荷。下面参照图4描述关于可以被包括在消息中并且被包括在存储在消息表302中的消息数据中的信息的另外的细节。
实体表304存储实体数据,并且(例如,参考地)链接到实体图306和简档数据308。在实体表304内为其维持记录的实体可以包括个人、公司实体、组织、对象、地点、事件等。不管实体类型如何,消息服务器系统108存储关于其的数据的任何实体可以是识别的实体。为每个实体提供唯一的标识符以及实体类型标识符(未示出)。
实体图306存储关于实体之间的关系和关联的信息。仅作为示例,这样的关系可以是基于兴趣或基于活动的社交关系、专业关系(例如,在共同的公司或组织工作)。
简档数据308存储关于特定实体的多种类型的简档数据。基于由特定实体指定的隐私设置,简档数据308可以被选择性地使用并且呈现给消息系统100的其他用户。在实体是个人的情况下,简档数据308包括例如用户名、电话号码、地址、设置(例如,通知和隐私设置),以及用户选择的化身表示(或这种化身表示的集合)。然后,特定用户可以将这些化身表示中的一个或更多个选择性地包括在经由消息系统100传送的消息的内容中以及在由消息客户端104向其他用户显示的地图界面上。化身表示的集合可以包括“状态化身”,其呈现用户可以选择在特定时间进行通信的状态或活动的图解表示。
在实体是团体的情况下,除了团体名称、成员和相关团体的各种设置(例如,通知)之外,团体的简档数据308还可以类似地包括与团体相关联的一个或更多个化身表示。
数据库120还在增强表310中存储例如叠加或过滤器的增强数据。增强数据与视频(针对其数据被存储在视频表314中)和图像(针对其数据被存储在图像表316中)相关联并且应用于视频和图像。
在一个示例中,过滤器是在向接收方用户呈现期间被显示为叠加在图像或视频上的叠加。过滤器可以是各种类型的,包括当发送方用户正在编写消息时由消息客户端104呈现给发送方用户的一组过滤器中用户选择的过滤器。其他类型的过滤器包括地理位置过滤器(也称为地理过滤器),其可以基于地理定位被呈现给发送方用户。例如,可以基于由客户端设备102的全球定位系统(GPS)单元确定的地理位置信息,由消息客户端104在用户接口内呈现特定于附近或特定位置的地理位置过滤器
另一种类型的过滤器是数据过滤器,其可以由消息客户端104基于在消息创建过程期间由客户端设备102收集的其他输入或信息选择性地呈现给发送方用户。数据过滤器的示例包括特定位置处的当前温度、发送方用户行进的当前速度、客户端设备102的电池寿命或当前时间。
可以被存储在图像表316内的其他增强数据包括增强现实内容项(例如,对应于应用镜头或增强现实体验)。增强现实内容项可以是可以添加至图像或视频的实时特效和声音。
如上所述,增强数据包括增强现实内容项、叠加、图像变换、AR图像以及指代可以应用于图像数据(例如,视频或图像)的修改的类似项。这包括实时修改,其在使用客户端设备102的设备传感器(例如,一个或更多个摄像装置)捕获图像时对图像进行修改并且然后在客户端设备102的屏幕上显示修改的图像。这还包括对所存储的内容的修改,例如对可以被修改的库中的视频剪辑的修改。例如,在具有对多个增强现实内容项的访问权限的客户端设备102中,用户可以使用具有多个增强现实内容项的单个视频剪辑来查看不同的增强现实内容项将如何修改存储的剪辑。例如,通过为同一内容选择不同的增强现实内容项,可以将应用不同伪随机运动模型的多个增强现实内容项应用于该同一内容。类似地,实时视频捕获可以与示出的修改一起使用,以显示当前由客户端设备102的传感器捕获的视频图像将如何修改捕获的数据。这样的数据可以简单地显示在屏幕上而不存储在存储器中,或者由设备传感器捕获的内容可以在进行或不进行修改(或两者)的情况下被记录并且存储在存储器中。在某些系统中,预览功能可以显示不同的增强现实内容项将如何同时在显示器的不同窗口中显示。例如,这可以实现同时在显示器上查看具有不同伪随机动画的多个窗口。
因此,使用增强现实内容项的数据和各种系统或使用该数据修改内容的其他此类变换系统可以涉及视频帧中对象(例如,脸、手、身体、猫、狗、表面、物体等)的检测,在这些对象离开视场、进入视场以及在视场四处移动时跟踪这些对象,以及在跟踪这些对象时对其进行修改或变换。在各种实施方式中,可以使用用于实现这样的变化的不同方法。一些示例可以涉及生成一个或多个对象的三维网格模型,以及在视频内使用模型的变换和动画纹理来实现变换。在其他示例中,可以使用对象上的点的跟踪将图像或纹理(可以是二维或三维的)放置在所跟踪的位置处。在更进一步的示例中,可以使用视频帧的神经网络分析将图像、模型或纹理放置在内容(例如,图像或视频帧)中。因此,增强现实内容项既指用于在内容中创建变换的图像、模型和纹理,也指通过对象检测、跟踪和放置实现此类变换所需的附加建模和分析信息。
可以利用保存在任何类型的计算机化系统的存储器中的任何种类的视频数据(例如,视频流、视频文件等)来执行实时视频处理。例如,用户可以加载视频文件并且将其保存在设备的存储器中,或者可以使用设备的传感器生成视频流。此外,可以使用计算机动画模型来处理任何对象,例如人的面部和人身体的各部分、动物或非生物(例如椅子、汽车或其他对象)。
在一些示例中,当与要变换的内容一起选择特定修改时,待变换的元素由计算设备识别,然后如果它们存在于视频的帧中,则被检测和跟踪。根据修改请求修改对象的元素,从而变换视频流的帧。对于不同类型的变换,可以通过不同的方法执行对视频流的帧的变换。例如,对于主要是指对象的元素的变化形式的帧变换,计算对象的每个元素的特征点(例如,使用主动形状模型(ASM)或其他已知方法)。然后,针对对象的至少一个元素中的每一个生成基于特征点的网格。该网格用于跟踪视频流中对象的元素的后续阶段。在跟踪过程中,针对每个元素的提及的网格与每个元素的位置对准。然后,在网格上生成附加点。基于修改请求针对每个元素生成一组第一点,并且基于该组第一点和修改的请求针对每个元素生成一组第二点。然后,可以通过基于该组第一点和该组第二点以及网格修改对象的元素,对视频流的帧进行转换。在这种方法中,也可以通过跟踪和修改背景来改变或扭曲被修改对象的背景。
在一些示例中,使用对象的元素改变对象的一些区域的变换可以通过计算对象的每个元素的特征点并基于计算的特征点生成网格来执行。在网格上生成点,然后基于这些点生成各种区域。然后,通过将每个元素的区域与至少一个元素中的每一个的位置对准来跟踪对象的元素,并且可以基于修改的请求来修改区域的属性,从而转换视频流的帧。根据具体的修改请求,提到的区域的属性可以以不同的方式进行变换。这种修改可以涉及:改变区域的颜色;从视频流的帧中移除区域的至少某些部分;将一个或更多个新对象包括在基于修改请求的区域中;以及修改或扭曲区域或对象的元素。在各种实施方式中,可以使用这样的修改的任何组合或其他类似修改。对于要被动画化的某些模型,可以选择一些特征点作为控制点,以用于确定用于模型动画的选项的整个状态空间。
在使用面部检测来变换图像数据的计算机动画模型的一些示例中,使用特定面部检测算法(例如,Viola-Jones)在图像上检测面部。然后,将主动形状模型(ASM)算法应用于图像的面部区域以检测面部特征参考点。
在其他示例中,可以使用适合面部检测的其他方法和算法。例如,在一些实施方式中,使用界标来定位特征,该界标表示在所考虑的大多数图像中存在的可区分点。例如,对于面部界标,可以使用左眼瞳孔的定位。如果初始界标不可识别(例如,如果人有眼罩),则可以使用次级界标。这样的界标识别过程可以用于任何这样的对象。在一些示例中,一组界标形成形状。可以使用形状中的点的坐标将形状表示为矢量。一个形状利用相似变换(允许平移、缩放和旋转)与另一个形状对准,该相似变换使形状点之间的平均欧几里德距离最小化。平均形状是对准的训练形状的均值。
在一些示例中,从与由全局面部检测器确定的面部的位置和大小对准的平均形状开始搜索界标。然后,这样的搜索重复以下步骤:通过每个点周围的图像纹理的模板匹配来调整形状点的定位而建议暂定形状,并且然后使暂定形状符合全局形状模型,直至发生收敛。在一些系统中,个别的模板匹配是不可靠的,并且形状模型将弱模板匹配的结果进行池化,形成更强的整体分类器。整个搜索在从粗略分辨率到精细分辨率的图像金字塔的每个级别上重复。
变换系统可以在客户端设备(例如,客户端设备102)上捕获图像或视频流,并且在客户端设备102上本地执行复杂的图像操纵,同时保持适当的用户体验、计算时间和功耗。复杂的图像操纵可以包括大小和形状变化、情绪转换(例如,将面部从皱眉变为微笑)、状态转换(例如,使对象变老、减少表观年龄、改变性别)、风格转换、图形元素应用,以及由已经被配置成在客户端设备102上有效执行的卷积神经网络实现的任何其他合适的图像或视频操纵。
在一些示例中,用于变换图像数据的计算机动画模型可以由系统使用,在该系统中,用户可以使用具有神经网络的客户端设备102来捕获用户的图像或视频流(例如,自拍),该神经网络操作作为在客户端设备102上操作的消息客户端104的一部分。在消息客户端104内操作的变换系统确定图像或视频流中的面部的存在并且提供与计算机动画模型相关联的修改图标以变换图像数据,或者计算机动画模型可以被呈现为与本文中描述的接口相关联。修改图标包括以下变化,该变化可以是作为修改操作的一部分的在图像或视频流中修改用户面部的基础。一旦选择了修改图标,变换系统就发起转换用户的图像以反映所选择的修改图标(例如,在用户上生成笑脸)的过程。一旦图像或视频流被捕获并且指定的修改被选择,修改的图像或视频流就可以呈现在客户端设备102上显示的图形用户接口中。变换系统可以在图像或视频流的一部分上实现复杂的卷积神经网络,以生成和应用所选择的修改。也就是说,一旦选择了修改图标,用户就可以捕获图像或视频流并且实时或近乎实时地呈现修改结果。此外,当正在捕获视频流时,修改可以是持久的,并且所选择的修改图标保持被切换。机器学习的神经网络可以用于实现此类修改。
呈现由变换系统执行的修改的图形用户接口可以为用户提供附加的交互选项。这样的选项可以基于用于发起特定计算机动画模型的内容捕获和选择的接口(例如,从内容创建者用户接口发起)。在各种实施方式中,修改可以在对修改图标的初始选择之后持久化。用户可以通过轻击或以其他方式选择由变换系统修改的面部来打开或关闭修改,并将其存储以供以后查看或浏览到成像应用的其他区域。在由变换系统修改多个面部的情况下,用户可以通过轻击或选择在图形用户接口内修改和显示的单个面部来全局打开或关闭修改。在一些实施方式中,可以单独地修改一组多个面部之中的各个面部,或者可以通过轻击或选择图形用户接口内显示的单独的面部或一系列单独的面部来单独切换这样的修改。
故事表312存储关于消息和相关联的图像、视频或音频数据的集合的数据,所述消息和相关联的图像、视频或音频数据被汇编成集合(例如,故事或库)。特定集合的创建可以由特定用户(例如,其记录被维护在实体表304中的每个用户)发起。用户可以以已经由该用户创建和发送/广播的内容集合的形式创建“个人故事”。为此,消息客户端104的用户接口可以包括用户可选择的图标,以使得发送方用户能够将特定内容添加到他或她的个人故事。
集合还可以构成作为来自多个用户的内容集合的“现场故事”,该内容集合是手动地、自动地或者使用手动技术和自动技术的组合创建的。例如,“现场故事”可以构成来自各种位置和事件的用户提交内容的策划流。其客户端设备102启用了定位服务并且在特定时间处于共同定位事件处的用户可以例如经由消息客户端104的用户接口被呈现有选项,以将内容贡献给特定实况故事。可以由消息客户端104基于用户的定位向他或她标识实况故事。最终结果是从社区角度讲述的“实况故事”。
另外类型的内容集合被称为“位置故事”,其使得其客户端设备102位于特定地理位置(例如,在学院或大学校园)内的用户能够对特定集合做出贡献。在一些示例中,对位置故事的贡献可能需要二级认证来验证终端用户属于特定组织或其他实体(例如,是大学校园中的学生)。
如上面提到的,视频表314存储视频数据,在一个示例中,该视频数据与其记录存储在消息表302内的消息相关联。类似地,图像表316存储图像数据,该图像数据与其消息数据存储在实体表304中的消息相关联。实体表304可以使来自增强表310的各种增强与存储在图像表316和视频表314中的各种图像和视频相关联。
触控板转换表318将被激活的触摸屏的位置的不同组合映射到不同的操作。具体地,触控板转换表318将当用户物理地触摸客户端设备102的背面上的触摸板时激活的触摸屏的位置的组合映射到各种操作。例如,触摸屏的位置的第一组合(例如触摸屏顶部的第一位置与触摸屏底部的第一位置同时激活)对应于选择操作。例如,触摸屏的位置的第二组合(例如触摸屏顶部的第二位置与触摸屏底部的第二位置同时激活)对应于滚动操作。在本公开内容中,触控板和触摸板可互换使用,并且可以理解为具有相同的功能。
在一些实施方式中,触控板转换表318对于不同的应用可以不同。例如,当第一应用(例如游戏应用)的用户界面当前正呈现在客户端设备102的触摸屏上时,触控板转换表318将被激活的触摸屏的位置的第一组组合映射到相应的第一组操作。在这种情况下,触摸屏的位置的第一组合(例如,触摸屏顶部的第一位置与触摸屏底部的第一位置同时激活)对应于选择操作。作为另一示例,当第二应用(例如web浏览应用或消息客户端104)的用户界面当前正呈现在客户端设备102的触摸屏上时,触控板转换表318将被激活的触摸屏的位置的第二组组合映射到相应的第二组操作。在这种情况下,触摸屏的位置的第一组合(例如触摸屏顶部的第一位置与触摸屏底部的第一位置同时激活)对应于滚动操作。
数据通信架构
图4是示出根据一些示例的消息400的结构的示意图,消息400由消息客户端104生成,以用于传送至另外的消息客户端104或消息服务器114。特定消息400的内容用于填充存储在数据库120中的消息表302,该消息表302可由消息服务器114访问。类似地,消息400的内容被存储在存储器中作为客户端设备102或应用服务器112的“传输中”或“飞行中”的数据。消息400被示为包括以下示例组成部分:
·消息标识符402:识别消息400的唯一标识符。
·消息文本有效载荷404:要由用户经由客户端设备102的用户接口生成并且包括在消息400中的文本。
·消息图像有效载荷406:由客户端设备102的摄像装置部件捕获的或从客户端设备102的存储器部件检索到的、并且包括在消息400中的图像数据。用于发送或接收的消息400的图像数据可以被存储在图像表316中。
·消息视频有效载荷408:由摄像装置部件捕获的或从客户端设备102的存储器部件检索到的、并且包括在消息400中的视频数据。用于发送或接收的消息400的视频数据可以被存储在视频表314中。
·消息音频有效载荷410:由麦克风捕获的或从客户端设备102的存储器部件检索到的、并且包括在消息400中的音频数据。
·消息增强数据412:表示要应用于消息400的消息图像有效载荷406、消息视频有效载荷408或消息音频有效载荷410的增强的增强数据(例如,过滤器、贴纸或其他注解或增强)。用于发送或接收的消息400的增强数据可以被存储在增强表310中。
·消息持续时间参数414:参数值,其指示消息的内容(例如,消息图像有效载荷406、消息视频有效载荷408、消息音频有效载荷410)将经由消息客户端104被呈现给用户或使其对于用户可访问的以秒为单位的时间量。
·消息地理位置参数416:与消息的内容有效载荷相关联的地理位置数据(例如,纬度坐标和经度坐标)。在有效载荷中可以包括多个消息地理位置参数416值,这些参数值中的每一个都与包括在内容中的内容项(例如,消息图像有效载荷406内的特定图像,或消息视频有效载荷408中的特定视频)相关联。
·消息故事标识符418:标识一个或更多个内容集合(例如,在故事表312中标识的“故事”)的标识符值,通过其将消息400的消息图像有效载荷406中的特定内容项与一个或更多个内容集合相关联。例如,可以使用标识符值将消息图像有效载荷406内的多个图像各自与多个内容集合相关联。
·消息标签420:每个消息400可以用多个标签来标记,这些标签中的每个标签都指示消息有效载荷中包括的内容的主题。例如,在消息图像有效载荷406中包括的特定图像描绘动物(例如狮子)的情况下,标签值可以包括在指示相关动物的消息标签420中。标签值可以基于用户输入手动地生成,或可以使用例如图像识别自动地生成。
·消息发送者标识符422:指示在其上生成消息400并且从其发送消息400的客户端设备102的用户的标识符(例如,消息系统标识符、电子邮件地址或设备标识符)。
·消息接收者标识符424:指示消息400寻址到的客户端设备102的用户的标识符(例如,消息系统标识符、电子邮件地址或设备标识符)。
消息400的各个组成部分的内容(例如,值)可以是指向其内存储有内容数据值的表中的位置的指针。例如,消息图像有效载荷406中的图像值可以是指向图像表316内的位置(或位置的地址)的指针。类似地,消息视频有效载荷408内的值可以指向存储在视频表314内的数据,存储在消息增强数据412内的值可以指向存储在增强表310中的数据,存储在消息故事标识符418内的值可以指向存储在故事表312中的数据,以及存储在消息发送者标识符422和消息接收者标识符424内的值可以指向存储在实体表304内的用户记录。
图5是根据一些示例的与触摸屏的远程交互的图解表示500。如图示500所示,触摸屏设备510在屏幕上显示一组内容,例如在诸如客户端设备102的设备的正面上的小键盘。触摸屏设备510包括背面部分520,其面向与设备的正面上的触摸屏相反的方向。例如,触摸屏设备510的正面的表面法线从设备的正面沿第一方向延伸,并且触摸屏设备510的背面的表面法线从触摸屏设备510的背面沿与第一方向相反的第二方向延伸。用户握持触摸屏设备510,使得设备的正面对用户可见并且面向用户,而设备的背面背对用户。
触摸屏设备510的触摸屏包括放置在触摸屏的整个可见空间上的各个位置处的电容器的二维阵列或矩阵。触摸屏设备510以适当的方式轮询每个电容器,以检测一个或更多个电容器的电容的变化。作为示例,当用户与包括一个或更多个电容器的触摸屏设备510的特定区域进行物理接触时,由物理接触触摸的电容器的电容改变。触摸屏设备510检测用户物理触摸的这些电容器的电容的变化,并且作为响应,确定由这些电容器占据的区域被用户触摸。触摸屏设备510将该区域的x坐标和y坐标传送到软件应用,该软件应用然后执行特定操作或功能。例如,如果软件应用在触摸屏设备510检测到电容变化的区域处显示小键盘的数字6,则软件应用可以确定数字6被选择。软件应用执行诸如将数字6添加到文本串或计算器的功能或操作。
激活或改变触摸屏的电容器的电容值的另一种方式是远程地而不在用户的手指与包括电容器的触摸屏的指定区域之间进行物理接触。例如,导线或材料附接至包括目标电容器的指定区域512。导线514延伸特定长度(例如,20厘米)并且具有也导电的端部516。当用户用手指物理地触摸端部516时,来自用户手指的电荷放电或改变指定区域512中的电容器的电容。这致使在用户没有物理地接触指定区域512中的电容器的情况下,触摸屏检测到指定区域512中的电容器的触摸。以这种方式,用户可以远程地激活触摸屏设备510的触摸屏的不同区域,而无需实际地触摸各区域中的给定区域中的电容器。
根据所公开的实施方式,导电材料530作为层被放置在触摸屏设备510的触摸屏的一个或更多个区域的顶部上。该导电材料530电连接至触摸屏设备510的背面部分520上的触摸板的各个区域。当用户与背面部分520上的触摸板的给定区域进行物理接触时,电信号被传输至触摸屏的连接至该给定区域的区域。该电信号激活或改变与触摸屏的区域相关联的电容器的电容,并且致使执行软件应用的特定操作。
在一些实施方式中,导电材料530被放置在触摸屏设备510的整个部分或一个或更多个段上。导电材料530可以是包括氧化铟锡(ITO)的导电透明材料。导电材料可以是部分透明的。导电材料530可以在触摸屏设备510的正面部分上的触摸屏的每个电容器与触摸屏设备510的背面部分520上的触摸板的每个电容器或触摸传感器之间具有一对一的对应关系。在这种情况下,导电材料530覆盖触摸屏设备510正面的触摸屏上的电容器的二维阵列或网格。
在一些实施方式中,导电材料530被放置在触摸屏设备510的正面的左侧、右侧、顶部或底部上的小区域上。在这种情况下,导电材料530仅覆盖触摸屏设备510的正面部分上的触摸屏的电容器的一维阵列。即,导电材料530包括物理地定位在电容器的一维阵列上的导电元件的一维阵列。当用户物理地触摸客户端设备102背面上的触控板的相应触摸传感器时,导电元件向电容器的一维阵列的相应电容器递送电荷。在一些实现方式中,触摸屏设备510的背面部分520上的触控板也是一维的,并且经由放置在触摸屏的电容器的一维阵列上的导电材料530的导电元件与触摸屏设备510的正面上的触摸屏的电容器的一维阵列具有一对一的对应关系。
图6是根据一些示例的客户端设备102的实施方式的图解表示600,其中触控板在客户端设备的背面上。如图示600中所示,左侧是客户端设备102的正面部分,其包括至少部分地被导电材料643覆盖的触摸屏640,并且右侧是客户端设备102的背面部分,其包括触控板642。示出了在客户端设备102的正面上的触摸屏的电容器610的一维阵列经由导电材料643的导电元件与客户端设备102的背面上的触摸传感器620的一维阵列之间的一对一的对应关系。诸如使用金属或导线514的电连接630经由导电材料643的导电元件形成在客户端设备102的背面上的触摸板的每个触摸传感器与设备的正面上的电容器610的一维阵列中的相应电容器之间。在这种情况下,当用户物理地触摸客户端设备102的背面上的第一触摸传感器622时,电信号经由覆盖相应电容器的导电材料643的相应导电元件被发送至客户端设备102的正面上的触摸屏640的电耦接的相应电容器612。在客户端设备102上运行的在触摸屏上显示内容的应用可以执行与接收电容器612的触摸输入相关联的操作。在一个示例中,用户可以将手指沿客户端设备102的背面上的触摸传感器620的一维阵列中的传感器的列向下滑动,这相应地激活设备的正面上的触摸屏640上的相应电容器。该手势被解释为向下滑动操作,其可以使得在客户端设备102上运行的应用向下或向上滚动在触摸屏640上显示的内容。
在一些实现方式中,触摸屏设备510的背面部分520上的触控板642是二维的,并且与触摸屏设备510的正面上的触摸屏的电容器的一维阵列具有多对一的对应关系。在这种情况下,背面部分520上的触控板642上的第一组多个触摸传感器电连接至触摸屏设备510的正面部分上的第一电容器,并且背面部分520上的触控板642上的第二组多个触摸传感器电连接至触摸屏设备510的正面部分上的第二电容器。
图7是根据一些示例的客户端设备102的实施方式的图解表示700,其中触控板742在客户端设备的背面上。如图示700中所示,左侧是客户端设备102的正面部分,其包括至少部分地被导电材料643覆盖的触摸屏740,并且右侧是客户端设备102的背面部分520,其包括触控板742。示出了经由导电材料643的导电元件在客户端设备102的正面上的触摸屏的电容器710的一维阵列与客户端设备102的背面上的触摸传感器720的二维阵列或矩阵之间的多对一的对应关系。诸如使用一个或更多个金属或导线514的第一组电连接732经由导电材料643形成在客户端设备102的背面上的触摸板的第一组触摸传感器与设备的正面上的电容器710的一维阵列的第一部分712(例如,顶部部分)中的相应电容器612之间。诸如使用一个或更多个金属或导线514的第二组电连接734经由导电材料643形成在客户端设备102的背面上的触摸板的第二组触摸传感器与设备的正面上的电容器710的一维阵列的第二部分714(例如,底部部分)中的相应电容器612之间。
在这种情况下,当用户物理地触摸客户端设备102的背面上的传感器的第一集合722时,电信号通过或经由置于电容器718和716顶部上的导电材料643被发送到客户端设备102的正面上的触摸屏的电耦接的相应电容器718和716。例如,当用户触摸客户端设备102的背面上的触摸板上的四个传感器时,客户端设备102的正面上的电容器中的仅两个电容器(例如,比被触摸的传感器的数目少的电容器,一个电容器来自第一部分712,一个电容器来自第二部分714)被放电或激活或使它们的电荷改变。在客户端设备102上运行的在触摸屏740上显示内容的应用可以执行与接收电容器718和716的组合的触摸输入相关联的操作。
在一些实施方式中,在客户端设备102上设置开关740(例如机械的、数字的或模拟的开关)。可以在客户端设备102的正面部分、客户端设备102的背面部分、或沿着客户端设备102的边缘或侧面之一放置开关740。开关740可以是按压按钮(push button)或切换按钮(toggle button)。开关740可以操作地将客户端设备102的背面上的触控板与客户端设备102的正面上的导电层之间的电耦接断开。这允许用户选择性地激活或停用使用设备的背面上的触摸板来对客户端设备102正面上的客户端设备102的触摸屏740的控制。例如,当开关740处于接合或有效状态时,在客户端设备102的背面上的触控板742与客户端设备102的正面上的导电层643之间形成电连接。在这种情况下,当用户触摸设备的背面上的触控板742的给定的一个或更多个触摸传感器720时,客户端设备102的正面上的触摸屏740的相应的一个或更多个电容器被放电、激活或使它们的电荷改变。这是由于电信号引起的,该电信号被允许从被触摸的触摸传感器720传输至导电材料643的相应导电元件,然后使由导电元件覆盖的电容器612的电荷放电或改变。例如,当开关740处于脱离或无效状态时,客户端设备102的背面上的触控板742与客户端设备102的正面上的导电层643之间的电连接被移除或断开。在这种情况下,当用户触摸设备102的背面上的触控板742的给定的一个或更多个触摸传感器720时,客户端设备102的正面上的触摸屏740的相应的一个或更多个电容器不受影响或不放电。
在一些情况下,开关740包括A输入、B输出、电力输入和控制信号输入。A输入从客户端设备102的背面上的触摸板的触摸传感器720接收相应的信号,并且将相应的信号递送至相应的B输出以传递至客户端设备102的正面上的导电层643的相应导电元件。控制信号输入允许或禁止电信号从A输入递送至B输出。当开关740处于禁用状态时,控制信号阻止A输入将信号递送至B输出。当开关740处于使能状态时,A输入基于用户物理地触摸了客户端设备102的背面上的触控板742的哪些触摸传感器720来向B输出递送信号。
图8是根据一些示例的客户端设备102的实施方式的图解表示800,其中触控板在客户端设备的背面上。图示800示出了图6和图7所示的实施方式的组合。图8所示的图示800可以适用于游戏应用。客户端设备102的背面的触控板包括第一对控制器820和822,每个控制器包括相应的一组触摸传感器720。类似于图6所示的那样,这些触摸传感器720以一对一的对应关系直接电耦接至导电材料810和812的各个导电元件。导电元件激活相应位置处的相应触摸屏电容器。客户端设备102的背面的触控板包括触摸传感器720的二维网格830。这些传感器以多对一的布置(类似于图7中所示的布置)耦接,使得特定组的触摸传感器720直接电耦接至导电材料的一个特定导电元件。触摸传感器的二维网格830被配置成:当用户物理地触摸一组触摸传感器720时,同时激活不同位置(例如,在客户端设备102的顶部和底部)处的给定的一对触摸屏电容器。
图9是根据一些示例的客户端设备102的实施方式的图解表示900,其中触控板在客户端设备的背面上。图示900示出了图6所示实施方式的另一实现方式。图9所示的图示900可以适用于音乐应用。例如,客户端设备102的背面上的触摸板的触摸传感器720类似于乐器的键(例如,钢琴键)被布置的方式来布置。触摸板可以具有类似于乐器的键的物理外观。触摸板的第一部分920的每个触摸传感器可以以一对一的对应关系直接电耦接至客户端设备102的正面上的包含第一组导电元件的导电材料810的相应的第一部分910。第一组导电元件中的每个导电元件被配置成向特定位置处的相应触摸屏电容器612递送电信号。触摸板的第二部分922的每个触摸传感器可以以一对一的对应关系直接电耦接至客户端设备102的正面上的包含第二组导电元件的导电材料810的相应的第二部分912。第二组导电元件中的每个导电元件被配置成向特定位置处的相应的触摸屏电容器612递送电信号。虽然示出和描述了钢琴键,但是客户端设备102的背面上的触摸板可以类似地提供任何其他合适的乐器键(例如竖琴、小号等)和这样的键的布置。
如上所述,客户端设备102的背面上的触控板可以采取许多不同的图案。上面结合图6至图9讨论了各种图案。可以通过用户改变物理有形模块来手动地改变客户端设备102的背面上的特定触控板的图案,该物理有形模块包括覆盖设备的正面上的触摸屏的导电材料810并且包括客户端设备102的背面上的触控板。用户可以购买或利用各种模块,每个模块包含用于客户端设备102的背面上的触控板的不同图案,并且可以通过将客户端设备102插入到期望的套或盖形式的模块中来换出各模块。触摸板或触控板的触摸传感器720的图案可以包括正方形网格、圆形网格或多个单独的形状或不同的形状。
在一些实现方式中,覆盖在设备的正面上的触摸屏的导电材料810和在客户端设备102的背面上的触控板可以具有在设备的正面上的导电元件和在客户端设备102的背面上的触控板上的触摸传感器720的电子选择的图案。用户可以通过设置特定的物理开关740或通过向包含导电材料810和客户端设备102的背面的触控板的模块发送通信来选择特定的图案。例如,用户可以经由诸如蓝牙或wifi的无线通信与包含导电材料810和触控板的模块通信。在一些情况下,客户端设备102可以通过无线以电子方式将通信发送至包含导电材料810和触控板的模块,该通信具有关于导电元件和触控板上的触摸传感器的图案类型的指令。在一个实例中,导电材料810的导电元件和触控板可以采取图7所示的形式,并且响应于从诸如客户端设备102的外部设备接收到通信,该模块可以改变为采取诸如图8所示的形式的不同形式。
图10是示出根据示例实施方式的在执行处理1000时设备系统的背面上的触控板的示例操作的流程图。处理1000可以体现在用于由一个或更多个处理器执行的计算机可读指令中,使得处理1000的操作可以部分或全部地由客户端设备102的功能性部件来执行;因此,下面通过参照其的示例来描述处理1000。然而,在其他实施方式中,处理1000的操作中的至少一些操作可以部署在各种其他硬件配置上。处理1000中的操作可以以任何顺序执行、并行地执行,或者可以完全跳过和省略。
在操作1001处,在客户端设备的正面部分的触敏显示屏上显示图形用户界面的客户端设备102检测对客户端设备的背面部分520上的触敏部件的物理触摸。例如,如在图示700中所示,左侧是客户端设备102的正面部分,其包括至少部分地被导电材料810覆盖的触摸屏,并且右侧是客户端设备102的背面部分520,其包括触控板(例如,触敏部件)。触摸屏可以呈现例如特定应用(诸如浏览器应用)的网页的图形用户界面。客户端设备102的背面上的触控板包括检测用户的物理触摸的触摸传感器720的二维阵列或矩阵。例如,触摸传感器720包括电容器,并且当一个电容器或一组电容器改变电荷时,触控板确定与该组电容器相关联的位置被用户物理地触摸。
响应于检测到物理触摸,在操作1002处,客户端设备102将表示对客户端设备的背面部分520上的触敏部件的物理触摸的电信号发送至客户端设备的正面部分的触敏显示屏。例如,诸如使用一个或更多个金属或导线514的第一组电连接732经由导电材料810形成在客户端设备102背面上的触摸板的第一组触摸传感器与设备的正面上的电容器710的一维阵列的第一部分712(例如顶部部分)中的相应电容器612之间。当用户物理地触摸客户端设备102的背面上的传感器722的第一集合时,电信号通过或经由置于客户端设备102的正面上的触摸屏的电耦接的电容器718和716顶部上的导电材料810被发送至相应的电容器718和716。
在操作1003处,响应于触敏显示屏接收到表示对客户端设备102的背面部分520上的触敏部件的物理触摸的电信号,客户端设备102使得与图形用户界面相关联的操作被执行。例如,在客户端设备102上运行的在触摸屏上显示内容的应用可以执行与接收电容器718和716的组合的触摸输入相关联的操作,例如当触摸板检测到拖动手指或向上/向下滑动手指的触摸输入时使显示向上/向下滚动。
机器架构
图11是机器1100的图解表示,在机器1100中,可以执行用于使机器1100执行本文中讨论的任何一个或更多个方法的指令1108(例如,软件、程序、应用、小程序、app或其他可执行代码)。例如,指令1108可以使机器1100执行本文中描述的任何一个或更多个方法。指令1108将通用的非编程的机器1100转换成被编程成以所描述的方式执行所描述和所示出的功能的特定机器1100。机器1100可以作为独立设备操作,或者可以耦接(例如,联网)至其他机器。在联网部署中,机器1100可以在服务器客户端网络环境中以服务器机器或客户端机器的身份操作,或者在对等(或分布式)网络环境中作为对等机器操作。机器1100可以包括但不限于:服务器计算机、客户端计算机、个人计算机(PC)、平板计算机、膝上型计算机、上网本、机顶盒(STB)、个人数字助理(PDA)、娱乐媒体系统、蜂窝电话、智能电话、移动设备、可穿戴设备(例如,智能手表)、智能家居设备(例如,智能电器)、其他智能设备、web装置、网络路由器、网络交换机、网络桥接器或者能够顺序地或以其他方式执行指定要由机器1100采取的动作的指令1108的任何机器。此外,虽然仅示出了单个机器1100,但是术语“机器”还应当被视为包括单独地或联合地执行指令1108以执行本文中讨论的任何一种或更多种方法的机器的集合。例如,机器1100可以包括客户端设备102或者形成消息服务器系统108的一部分的若干个服务器设备中的任何一个。在一些示例中,机器1100还可以包括客户端和服务器系统二者,其中在服务器侧执行特定方法或算法的某些操作,并且在客户端侧执行特定方法或算法的某些操作。
机器1100可以包括可以被配置成经由总线1140彼此通信的处理器1102、存储器1104和输入/输出(I/O)部件1138。在示例中,处理器1102(例如,中央处理单元(CPU)、简化指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)、另一处理器或其任何合适的组合)可以包括例如执行指令1108的处理器1106和处理器1110。术语“处理器”旨在包括多核处理器1102,多核处理器1102可以包括可以同时执行指令1108的两个或更多个独立处理器1106、1110(有时称为“核”)。尽管图11示出了多处理器1102,但是机器1100可以包括具有单个核的单个处理器1106、具有多个核的单个处理器1106(例如,多核处理器)、具有单个核的多个处理器1102、具有多个核的多个处理器1102、或其任何组合。
存储器1104包括主存储器1112、静态存储器1114和存储单元1116,其均可由处理器1102经由总线1140访问。主存储器1112、静态存储器1114和存储单元1116存储体现本文中描述的方法或功能中的任何一种或更多种的指令1108。指令1108在其由机器1100执行期间还可以完全地或部分地驻留在主存储器1112内、在静态存储器1114内、在存储单元1116内的机器可读介质1118内、在处理器1102中的至少之一内(例如,在处理器的高速缓存存储器内)或者在其任何合适的组合内。
I/O部件1138可以包括用于接收输入、提供输出、产生输出、发送信息、交换信息、捕获测量结果等的各种部件。包括在特定机器中的具体I/O部件1138将取决于机器的类型。例如,诸如移动电话的便携式机器可以包括触摸输入设备或其他这样的输入机构,而无头服务器机器将不太可能包括这样的触摸输入设备。应当认识到的是,I/O部件1138可以包括图11中未示出的许多其他部件。在各种示例中,I/O部件1138可以包括用户输出部件1124和用户输入部件1126。用户输出部件1124可以包括视觉部件(例如,诸如等离子显示面板(PDP)、发光二极管(LED)显示器、液晶显示器(LCD)、投影仪或阴极射线管(CRT)的显示器)、听觉部件(例如,扬声器)、触觉部件(例如,振动马达、阻力机构)、其他信号发生器等。用户输入部件1126可以包括字母数字输入部件(例如,键盘、被配置成接收字母数字输入的触摸屏、光电键盘或其他字母数字输入部件)、基于点的输入部件(例如,鼠标、触摸板、轨迹球、操纵杆、运动传感器或另一指向仪器)、触觉输入部件(例如,物理按钮、提供触摸或触摸姿势的位置和力的触摸屏或其他触觉输入部件)、音频输入部件(例如,麦克风)等。
在另外的示例中,I/O部件1138可以包括生物计量部件1128、运动部件1130、环境部件1132或位置部件1134以及广泛的一系列其他部件。例如,生物计量部件1128包括用于检测表达(例如,手表达、面部表达、声音表达、身体姿势或眼睛跟踪)、测量生物信号(例如,血压、心率、体温、出汗或脑波)、识别人(例如,语音识别、视网膜识别、面部识别、指纹识别或基于脑电图的识别)等的部件。运动部件1130包括:加速度传感器部件(例如,加速度计)、重力传感器部件、旋转传感器部件(例如,陀螺仪)。
环境部件1132包括例如一个或更多个摄像装置(具有静止图像/照片和视频能力)、照明传感器部件(例如,光度计)、温度传感器部件(例如,检测周围温度的一个或更多个温度计)、湿度传感器部件、压力传感器部件(例如,气压计)、声学传感器部件(例如,检测背景噪声的一个或更多个麦克风)、接近传感器部件(例如,检测附近物体的红外传感器)、气体传感器(例如,为了安全而检测危险气体的浓度或者测量大气中的污染物的气体检测传感器)或者可以提供与周围物理环境对应的指示、测量或信号的其他部件。
关于摄像装置,客户端设备102可以具有摄像装置系统,该摄像装置系统包括例如客户端设备102的前表面上的前置摄像装置和客户端设备102的后表面上的后置摄像装置。前置摄像装置可以例如用于捕获客户端设备102的用户的静止图像和视频(例如,“自拍”),然后可以用上述增强数据(例如,过滤器)对该静止图像和视频进行增强。例如,后置摄像装置可以用于以更传统的摄像装置模式捕获静止图像和视频,这些图像类似地使用增强数据进行增强。除了前置和后置摄像装置之外,客户端设备102还可以包括用于捕获360°照片和视频的360°摄像装置。
此外,客户端设备102的摄像装置系统可以包括双后置摄像装置(例如,主摄像装置以及深度感应摄像装置),或者甚至在客户端设备102的前后侧上包括三重、四重或五重后置摄像装置配置。例如,这些多摄像装置系统可以包括广角摄像装置、超广角摄像装置、长焦摄像装置、微距摄像装置和深度传感器。
位置部件1134可以包括定位传感器部件(例如,GPS接收器部件)、海拔传感器部件(例如,检测气压的高度计或气压计,根据该气压可以得到海拔)、取向传感器部件(例如,磁力计)等。
可以使用各种各样的技术来实施通信。I/O部件1138还包括通信部件1136,通信部件1136可操作以经由相应的耦接或连接将机器1100耦接至网络1120或设备1122。例如,通信部件1136可以包括网络接口部件或另一合适的设备以与网络1120对接。在另外的示例中,通信部件1136可以包括有线通信部件、无线通信部件、蜂窝通信部件、近场通信(NFC)部件、
Figure BDA0003939354770000261
部件(例如,
Figure BDA0003939354770000262
低功耗)、
Figure BDA0003939354770000263
部件以及经由其他模态提供通信的其他通信部件。设备1122可以是另一机器或各种外围设备中的任何外围设备(例如,经由USB耦接的外围设备)。
此外,通信部件1136可以检测标识符或包括可操作以检测标识符的部件。例如,通信部件1136可以包括射频识别(RFID)标签阅读器部件、NFC智能标签检测部件、光学阅读器部件(例如,用于检测诸如通用产品代码(UPC)条形码的一维条形码、诸如快速响应(QR)代码的多维条形码、Aztec代码、数据矩阵、数据符号(Dataglyph)、最大码(MaxiCode)、PDF417、超码(Ultra Code)、UCC RSS-2D条形码和其他光代码的光学传感器)或声学检测部件(例如,用于识别标记的音频信号的麦克风)。此外,可以经由通信部件1136得到各种信息,如经由因特网协议(IP)地理定位的定位、经由
Figure BDA0003939354770000264
信号三角测量的定位、经由检测可以指示特定定位的NFC信标信号的定位等。
各种存储器(例如,主存储器1112、静态存储器1114以及处理器1102的存储器1104)以及存储单元1116可以存储由本文中描述的方法或功能中的任何一个或更多个实现或使用的一组或更多组指令1108和数据结构(例如,软件)。在由处理器1102执行的情况下,这些指令(例如,指令1108)使得各种操作实现所公开的示例。
可以经由网络接口设备(例如,通信部件1136中包括的网络接口部件),使用传输介质并且使用多个公知的传输协议中的任意一种传输协议(例如,超文本传输协议(HTTP)),通过网络1120来发送或接收指令1108。类似地,可以使用传输介质经由至设备1122的耦接(例如,对等耦接)来发送或接收指令1108。
软件架构
图12是示出软件架构1204的框图1200,该软件架构1204可以被安装在本文所描述的设备中的任何一个或更多个设备上。软件架构1204由诸如包括处理器1220、存储器1226和I/O部件1238的机器1202的硬件来支持。在该示例中,软件架构1204可以被概念化为层的堆栈,其中每个层提供特定的功能。软件架构1204包括诸如操作系统1212、库1210、框架1208和应用1206的层。在操作上,应用1206通过软件堆栈激活API调用1250并且接收响应于API调用1250的消息1252。
操作系统1212管理硬件资源并且提供公共服务。操作系统1212包括例如:内核1214、服务1216、以及驱动器1222。内核1214用作硬件与其他软件层之间的抽象层。例如,内核1214提供存储器管理、处理器管理(例如,调度)、部件管理、联网和安全设置等功能。服务1216可以为其他软件层提供其他公共服务。驱动器1222负责控制底层硬件或与底层硬件对接(interface)。例如,驱动器1222可以包括显示驱动器、摄像装置驱动器、
Figure BDA0003939354770000271
Figure BDA0003939354770000272
低功耗驱动器、闪存驱动器、串行通信驱动器(例如,USB驱动器)、
Figure BDA0003939354770000273
驱动器、音频驱动器、电力管理驱动器等。
库1210提供由应用1206使用的公共低级基础设施。库1210可以包括系统库1218(例如,C标准库),该系统库1218提供例如存储器分配函数、串操纵函数、数学函数等函数。另外,库1210可以包括API库1224,例如媒体库(例如,用于支持各种媒体格式的呈现和操纵的库,所述各种媒体格式例如是运动图像专家组-4(MPEG4)、高级视频编码(H.264或AVC)、运动图像专家组层-3(MP3)、高级音频编码(AAC)、自适应多速率(AMR)音频编解码器、联合图像专家组(JPEG或JPG)或便携式网络图形(PNG))、图形库(例如,用于在显示器上的图形内容中以二维(2D)和三维(3D)渲染的OpenGL框架)、数据库库(例如,用于提供各种关系数据库功能的SQLite)、web库(例如,用于提供web浏览功能的WebKit)等。库1210还可以包括各种其他库1228,以向应用1206提供许多其他API。
框架1208提供由应用1206使用的公共高级基础设施。例如,框架1208提供各种图形用户界面(GUI)功能、高级别资源管理和高级定位服务。框架1208可以提供可以由应用1206使用的广泛的其他API,所述其他API中的一些API可以特定于特定操作系统1212或平台。
在示例中,应用1206可以包括家庭应用1236、联系人应用1230、浏览器应用1232、书籍阅读器应用1234、定位应用1242、媒体应用1244、消息应用1246、游戏应用1248和诸如第三方应用1240的各种各样的其他应用。应用1206是执行程序中限定的功能的程序。可以采用各种编程语言来创建以各种方式构造的应用1206中的一个或更多个应用,所述编程语言例如是面向对象的编程语言(例如,Objective-C、Java或C++)或过程编程语言(例如,C语言或汇编语言)。在特定示例中,第三方应用1240(例如,由特定平台的供应商以外的实体使用ANDROIDTM或IOSTM软件开发工具包(SDK)开发的应用)可以是在诸如IOSTM、ANDROIDTM
Figure BDA0003939354770000281
Phone的移动操作系统或其他移动操作系统上运行的移动软件。在该示例中,第三方应用1240可以调用由操作系统1212提供的API调用1250以有助于本文中描述的功能。
术语表
“载波信号”是指能够存储、编码或携载由机器执行的指令的任何无形介质并且包括数字或模拟通信信号或其他无形介质以利于这些指令的通信。可以使用传输介质经由网络接口设备来通过网络发送或接收指令。
“客户端设备”是指与通信网络对接以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超级本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。
“通信网络”是指网络的一个或更多个部分,该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、
Figure BDA0003939354770000282
网络、其他类型的网络或者两个或更多个这样的网络的组合。例如,网络或网络的一部分可以包括无线网络或蜂窝网络,并且耦接可以是码分多址(CDMA)连接、全局移动通信系统(GSM)连接或其他类型的蜂窝或无线耦接。在该示例中,耦接可以实现各种类型的数据传输技术中的任何数据传输技术,例如单载波无线电传输技术(1xRTT)、演进数据优化(EVDO)技术、通用分组无线电服务(GPRS)技术、增强数据速率GSM演进(EDGE)技术、第三代合作伙伴计划(3GPP)(包括3G、第四代无线(4G)网络、通用移动电信系统(UMTS)、高速分组接入(HSPA)、全球微波接入互操作性(WiMAX)、长期演进(LTE)标准)、由各种标准设置组织定义的其他数据传输技术、其他长距离协议或其他数据传输技术。
“部件”是指具有以下边界的设备、物理实体或逻辑,该边界由功能或子例程调用、分支点、API或者对特定处理或控制功能提供分区或模块化的其他技术定义。部件可以经由其接口与其他部件组合以执行机器处理。部件可以是被设计用于与其他部件一起使用的经封装的功能硬件单元,并且可以是通常执行相关功能中的特定功能的程序的一部分。
部件可以构成软件部件(例如,体现在机器可读介质上的代码)或硬件部件。“硬件部件”是能够执行某些操作的有形单元,并且可以以某种物理方式来配置或布置。在各种示例实施方式中,可以通过软件(例如,应用或应用部分)将一个或更多个计算机系统(例如,独立计算机系统、客户端计算机系统或服务器计算机系统)或者计算机系统的一个或更多个硬件部件(例如,处理器或处理器组)配置为用于执行本文中描述的某些操作的硬件部件。
也可以机械地、电子地或以其任何合适的组合来实现硬件部件。例如,硬件部件可以包括被永久地配置成执行某些操作的专用电路系统或逻辑。硬件部件可以是例如现场可编程门阵列(FPGA)或专用集成电路(ASIC)的专用处理器。硬件部件还可以包括通过软件临时配置成执行某些操作的可编程逻辑或电路系统。例如,硬件部件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置,硬件部件就变成被独特地定制成执行所配置的功能的特定机器(或机器的特定组件),而不再是通用处理器。将理解的是,是在专用且永久配置的电路中机械地实现硬件部件还是在短暂配置(例如,通过软件配置)的电路中实现硬件部件的决策可以是出于成本和时间考虑来驱动的。相应地,短语“硬件部件”(或者“硬件实现的部件”)应当被理解成包含有形实体,即被物理构造、永久配置(例如,硬连线)或临时配置(例如,编程)成以某种方式操作或者执行本文中描述的某些操作的实体。
考虑硬件部件被临时配置(例如,被编程)的实施方式,无需在任一时刻对硬件部件中的每个硬件部件进行配置或实例化。例如,在硬件部件包括通过软件配置成变成专用处理器的通用处理器的情况下,该通用处理器可以在不同时间处分别被配置为不同的专用处理器(例如,包括不同的硬件部件)。软件相应地配置一个或多个特定处理器以例如在一个时刻处构成特定硬件部件,并且在不同的时刻处构成不同的硬件部件。
硬件部件可以向其他硬件部件提供信息以及从其他硬件部件接收信息。因此,所描述的硬件部件可以被认为通信地耦接。在同时存在多个硬件部件的情况下,可以通过在两个或更多个硬件部件之间或之中(例如,通过适当的电路和总线)的信号传输来实现通信。在其中多个硬件部件在不同时间处被配置或被实例化的实施方式中,可以例如通过将信息存储在多个硬件部件访问的存储器结构中并且在该存储器结构中检索信息来实现这样的硬件部件之间的通信。例如,一个硬件部件可以执行操作,并且将该操作的输出存储在其通信地耦接到的存储器设备中。然后,其他硬件部件可以在随后的时间访问存储器设备以检索所存储的输出并且对所存储的输出进行处理。硬件部件还可以发起与输入设备或输出设备的通信,并且可以对资源进行操作(例如,信息的收集)。
本文所述的示例方法的各种操作可以至少部分地由临时地被配置(例如,由软件)或永久地被配置成执行相关操作的一个或更多个处理器来执行。无论是临时地被配置还是永久地被配置,这样的处理器可以构成进行操作以执行本文中描述的一个或更多个操作或功能的处理器实现的部件。如本文中使用的,“处理器实现的部件”是指使用一个或更多个处理器实现的硬件部件。类似地,本文中描述的方法可以至少部分地由处理器实现,其中特定的一个或更多个处理器是硬件的示例。例如,方法的至少一些操作可以由一个或更多个处理器1102或处理器实现的部件来执行。此外,所述一个或更多个处理器还可以操作成支持“云计算”环境中的相关操作的执行或者操作为“软件即服务”(SaaS)。例如,操作中的至少一些操作可以由计算机组(作为包括处理器的机器的示例)执行,其中,这些操作能够经由网络(例如,因特网)并且经由一个或更多个适当的接口(例如,API)进行访问。某些操作的执行可以分布在处理器之间,不是仅驻留在单个机器内,而是跨多个机器被部署。在一些示例实施方式中,处理器或处理器实现的部件可以位于单个地理位置中(例如,在家庭环境、办公室环境或服务器群内)。在其他示例实施方式中,处理器或处理器实现的部件可以跨若干地理位置而分布。
“计算机可读存储介质”是指机器存储介质和传输介质两者。因此,这些术语包括存储设备/介质和载波/调制数据信号两者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物,并且可以在本公开内容中可互换地使用。
“短暂消息”是指在时间有限的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。短暂消息的访问时间可以由消息发送者设置。替选地,访问时间可以是默认设置或者由接收方指定的设置。无论设置技术如何,消息都是暂时的。
“机器存储介质”是指存储可执行指令、例程和数据的单个或多个存储设备和介质(例如,集中式或分布式数据库,以及相关联的高速缓存和服务器)。因此,该术语应被视为包括但不限于固态存储器以及光学和磁介质,包括处理器内部或外部的存储器。机器存储介质、计算机存储介质和设备存储介质的具体示例包括:非易失性存储器,非易失性存储器包括例如半导体存储器设备(例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪存设备);磁盘(例如内部硬盘和可移动磁盘);磁光盘;以及CD-ROM和DVD-ROM磁盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物,并且在本公开内容中可以互换使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、调制数据信号和其他这样的介质,所述载波、调制数据信号和其他这样的介质中的至少一些被涵盖在术语“信号介质”中。
“非暂态计算机可读存储介质”是指能够存储、编码或携载由机器执行的指令的有形介质。
“信号介质”是指能够存储、编码或携载由机器执行的指令的任何无形介质,并且包括数字或模拟通信信号或其他无形介质以有助于软件或数据的通信。术语“信号介质”应当被视为包括任何形式的调制数据信号、载波等。术语“调制数据信号”意指使其特性中的一个或更多个特性被设置或改变以将信息编码其中的信号。术语“传输介质”和“信号介质”指相同的事物并且可以在本公开内容中互换使用。
在不脱离本公开内容的范围的情况下,可以对所公开的实施方式进行改变和修改。这些及其他改变或修改旨在包括在所附权利要求书中所表达的本公开内容的范围内。

Claims (20)

1.一种方法,包括:
检测对客户端设备的背面部分上的触敏部件的物理触摸,所述客户端设备在所述客户端设备的正面部分的触敏显示屏上显示图形用户界面;
响应于检测到所述物理触摸,向所述客户端设备的正面部分的触敏显示屏发送表示对所述客户端设备的背面部分上的触敏部件的物理触摸的电信号;以及
响应于所述触敏显示屏接收到表示对所述客户端设备的背面部分上的触敏部件的物理触摸的所述电信号,使得执行与所述图形用户界面相关联的操作。
2.根据权利要求1所述的方法,其中,所述客户端设备的背面部分上的触敏部件电耦接至所述客户端设备的正面部分的触敏显示屏。
3.根据权利要求1至2中任一项所述的方法,其中,所述图形用户界面包括网页浏览器的显示,其中,所述物理触摸包括滑动手势,并且其中,所述操作包括在与所述滑动手势对应的方向上滚动所述网页浏览器的显示。
4.根据权利要求1至3中任一项所述的方法,其中,所述图形用户界面包括游戏应用的显示,其中,所述物理触摸包括滑动手势,并且其中,所述操作包括执行与所述滑动手势对应的游戏动作。
5.根据权利要求1至4中任一项所述的方法,其中,所述客户端设备的正面部分的触敏显示屏包括覆盖所述触敏显示屏的至少一部分的透明层,所述透明层包括触摸传感器的一维阵列或二维阵列。
6.根据权利要求5所述的方法,其中,所述透明层包括导电材料。
7.根据权利要求1至6中任一项所述的方法,其中,所述触敏部件包括多个触摸传感器,其中,与所述触敏部件的第一位置相关联的所述触摸传感器的第一子集耦接至所述透明层的触摸传感器的所述一维阵列或二维阵列的第一触摸传感器和第二触摸传感器,所述第一触摸传感器和所述第二触摸传感器对应于所述触敏显示屏的不同位置。
8.根据权利要求1至7中任一项所述的方法,其中,所述触敏显示屏的不同位置表示对所述客户端设备的背面部分的触敏部件唯一的触摸输入。
9.根据权利要求8所述的方法,其中,所述不同位置中的第一不同位置位于所述触敏显示屏的顶部部分,并且其中,所述不同位置中的第二不同位置位于所述触敏显示屏的底部部分。
10.根据权利要求1至9中任一项所述的方法,其中,所述多个触摸传感器被布置成包括以下中的至少一个的图案:方形网格;圆形网格;或者多个单独的形状。
11.根据权利要求10所述的方法,其中,所述多个单独的形状与游戏控制器或乐器的键的布置对应。
12.根据权利要求1至11中任一项所述的方法,还包括通过操纵模拟开关来激活和停用所述触敏部件。
13.根据权利要求12所述的方法,其中,所述模拟开关包括按压按钮或切换按钮。
14.根据权利要求1至13中任一项所述的方法,其中,所述触敏部件包括具有触摸传感器的第一布置的第一触敏部件,并且其中第二触敏部件被配置成替换所述第一触敏部件,所述第二触敏部件包括触摸传感器的第二布置。
15.根据权利要求1至14中任一项所述的方法,还包括:
将多个操作映射到由所述触敏显示屏接收的电信号触发的触摸事件的不同组合;
确定所述电信号触发所述触敏显示屏的触摸事件的第一组合;
识别所述多个操作中与所述触摸事件的第一组合相对应的第一操作;以及
选择所述第一操作作为与所述图形用户界面相关联的操作来执行。
16.根据权利要求1至15中任一项所述的方法,其中,所述客户端设备的正面部分的触敏显示屏包括覆盖所述触敏显示屏的至少一部分的透明层,所述透明层包括氧化铟锡(ITO)。
17.根据权利要求16所述的方法,其中:
所述触敏部件包括第一电容器,所述第一电容器耦接至覆盖所述触敏显示屏的至少一部分的所述透明层的导电元件,所述导电元件在所述触敏显示屏的位置处;
所述触敏显示屏在所述触敏显示屏的所述位置处包括第二电容器;
所述触敏部件响应于检测到对所述第一电容器的物理触摸而将所述电信号传输至覆盖所述触敏显示屏的至少一部分的所述透明层的所述导电元件;
与所述第二电容器相关联的电荷响应于所述导电元件接收到所述电信号而改变;以及
响应于检测到由于所述导电元件接收到所述电信号而引起的与所述第二电容器相关联的电荷变化,所述触敏显示屏检测到所述触敏显示屏的所述位置处的触摸输入。
18.根据权利要求1至17中任一项所述的方法,其中,所述触敏显示屏在不接收对在所述第二电容器的位置处的所述触敏显示屏的物理触摸的情况下,检测在所述触敏显示屏的所述位置处的所述触摸输入。
19.一种系统,包括:
处理器,被配置成执行操作,所述操作包括:
检测对客户端设备的背面部分上的触敏部件的物理触摸,所述客户端设备在所述客户端设备的正面部分的触敏显示屏上显示图形用户界面;
响应于检测到所述物理触摸,向所述客户端设备的正面部分的所述触敏显示屏发送表示对所述客户端设备的背面部分上的所述触敏部件的物理触摸的电信号;以及
响应于所述触敏显示屏接收到表示对所述客户端设备的背面部分上的所述触敏部件的物理触摸的所述电信号,使得执行与所述图形用户界面相关联的操作。
20.一种非暂态机器可读存储介质,所述非暂态机器可读存储介质包括指令,所述指令在由机器的一个或更多个处理器执行时使所述机器执行包括以下的操作:
检测对客户端设备的背面部分上的触敏部件的物理触摸,所述客户端设备在所述客户端设备的正面部分的触敏显示屏上显示图形用户界面;
响应于检测到所述物理触摸,向所述客户端设备的正面部分的所述触敏显示屏发送表示对所述客户端设备的背面部分上的所述触敏部件的物理触摸的电信号;以及
响应于所述触敏显示屏接收到表示对所述客户端设备的背面部分上的所述触敏部件的物理触摸的所述电信号,使得执行与所述图形用户界面相关联的操作。
CN202180034831.9A 2020-05-14 2021-05-13 设备背面部分上的触控板 Pending CN115552366A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063024696P 2020-05-14 2020-05-14
US63/024,696 2020-05-14
US17/318,806 US11550435B2 (en) 2020-05-14 2021-05-12 Trackpad on back portion of a device
US17/318,806 2021-05-12
PCT/US2021/032221 WO2021231708A1 (en) 2020-05-14 2021-05-13 Trackpad on back portion of a device

Publications (1)

Publication Number Publication Date
CN115552366A true CN115552366A (zh) 2022-12-30

Family

ID=78513418

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180034831.9A Pending CN115552366A (zh) 2020-05-14 2021-05-13 设备背面部分上的触控板

Country Status (5)

Country Link
US (2) US11550435B2 (zh)
EP (1) EP4150436A1 (zh)
KR (1) KR20230011349A (zh)
CN (1) CN115552366A (zh)
WO (1) WO2021231708A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11550435B2 (en) 2020-05-14 2023-01-10 Snap Inc. Trackpad on back portion of a device
US11360733B2 (en) 2020-09-10 2022-06-14 Snap Inc. Colocated shared augmented reality without shared backend
US11949527B2 (en) 2022-04-25 2024-04-02 Snap Inc. Shared augmented reality experience in video chat

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7663607B2 (en) * 2004-05-06 2010-02-16 Apple Inc. Multipoint touchscreen
US20100201647A1 (en) * 2009-02-11 2010-08-12 Tpo Displays Corp. Capacitive touch sensor
US9477874B2 (en) * 2010-04-23 2016-10-25 Handscape Inc. Method using a touchpad for controlling a computerized system with epidermal print information
US20120212445A1 (en) * 2011-02-23 2012-08-23 Nokia Corporation Display With Rear Side Capacitive Touch Sensing
US20150363007A1 (en) * 2013-01-17 2015-12-17 Octodon Llc Data input systems for handheld devices
KR20150124710A (ko) * 2014-04-29 2015-11-06 엘지전자 주식회사 폴리오 케이스 및 이동 단말기
KR101903685B1 (ko) 2014-09-03 2018-10-02 후아웨이 테크놀러지 컴퍼니 리미티드 단말, 터치 제어 유닛, 터치스크린, 스크린 프로텍터, 작동 검출 장치 및 방법
WO2016199712A1 (ja) 2015-06-09 2016-12-15 学校法人明治大学 ヘッドマウントディスプレイ、情報処理装置及び入力装置
US11550435B2 (en) 2020-05-14 2023-01-10 Snap Inc. Trackpad on back portion of a device

Also Published As

Publication number Publication date
WO2021231708A1 (en) 2021-11-18
KR20230011349A (ko) 2023-01-20
US11550435B2 (en) 2023-01-10
EP4150436A1 (en) 2023-03-22
US11886673B2 (en) 2024-01-30
US20210357075A1 (en) 2021-11-18
US20230103517A1 (en) 2023-04-06

Similar Documents

Publication Publication Date Title
US11809633B2 (en) Mirroring device with pointing based navigation
US11978041B2 (en) Third-party resource authorization
US20220197393A1 (en) Gesture control on an eyewear device
US11886673B2 (en) Trackpad on back portion of a device
US20220198603A1 (en) Recentering ar/vr content on an eyewear device
US11768587B2 (en) Electronic transaction activated augmented reality experiences
US20220317774A1 (en) Real-time communication interface with haptic and audio feedback response
WO2022140129A1 (en) Gesture control on an eyewear device
WO2022212175A1 (en) Interface with haptic and audio feedback response
US20240248546A1 (en) Controlling augmented reality effects through multi-modal human interaction
CN116724286A (zh) 眼镜设备上的姿势控制
US11948266B1 (en) Virtual object manipulation with gestures in a messaging system
US20230393715A1 (en) Electronic transaction activated augmented reality experiences
US20240087245A1 (en) Gestures to enable menus using augmented reality content in a messaging system
US20240087242A1 (en) 3d cursor functionality for augmented reality content in messaging systems
US20240087609A1 (en) Auto trimming for augmented reality content in messaging systems
US20240087244A1 (en) Cursor functionality for augmented reality content in messaging systems
US20240087239A1 (en) Sculpting augmented reality content using gestures in a messaging system
US20240087246A1 (en) Trigger gesture for selection of augmented reality content in messaging systems
WO2024054915A1 (en) Shooting interaction using augmented reality content in a messaging system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination