CN109906445A - 将所捕捉截屏与定义将图像数据贡献给所捕捉截屏的应用的会话状态的因应用而异的元数据相关联 - Google Patents
将所捕捉截屏与定义将图像数据贡献给所捕捉截屏的应用的会话状态的因应用而异的元数据相关联 Download PDFInfo
- Publication number
- CN109906445A CN109906445A CN201780068511.9A CN201780068511A CN109906445A CN 109906445 A CN109906445 A CN 109906445A CN 201780068511 A CN201780068511 A CN 201780068511A CN 109906445 A CN109906445 A CN 109906445A
- Authority
- CN
- China
- Prior art keywords
- application
- screenshotss
- different
- metadata
- display screen
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000004044 response Effects 0.000 claims abstract description 40
- 238000003860 storage Methods 0.000 claims abstract description 33
- 238000000034 method Methods 0.000 claims description 72
- 230000003287 optical effect Effects 0.000 claims description 5
- 230000000153 supplemental effect Effects 0.000 claims description 2
- 238000001514 detection method Methods 0.000 abstract description 12
- 230000006870 function Effects 0.000 description 46
- 238000004891 communication Methods 0.000 description 42
- 230000008569 process Effects 0.000 description 35
- 238000012545 processing Methods 0.000 description 34
- 239000000047 product Substances 0.000 description 12
- VYZAMTAEIAYCRO-UHFFFAOYSA-N Chromium Chemical compound [Cr] VYZAMTAEIAYCRO-UHFFFAOYSA-N 0.000 description 10
- 230000008859 change Effects 0.000 description 8
- 238000010276 construction Methods 0.000 description 8
- 230000003993 interaction Effects 0.000 description 7
- 238000005520 cutting process Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 230000006855 networking Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 230000000717 retained effect Effects 0.000 description 3
- 230000001052 transient effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 244000293323 Cosmos caudatus Species 0.000 description 1
- 235000005956 Cosmos caudatus Nutrition 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 240000005373 Panax quinquefolius Species 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 235000013334 alcoholic beverage Nutrition 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000000151 deposition Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 235000013569 fruit product Nutrition 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000006249 magnetic particle Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
- G06F16/164—File meta data generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/485—Task life-cycle, e.g. stopping, restarting, resuming execution
Abstract
在一实施例中,UE检测对捕捉正在显示屏上输出的图像数据的截屏的请求,获得因应用而异的元数据,该因应用而异的元数据被配置成促成重新创建应用的会话状态的特征,该应用在检测到该请求时贡献正在显示屏上输出的图像数据的至少一部分。该UE响应于该请求而选择性地捕捉正在显示屏上输出的图像数据的截屏,以及存储所获得的因应用而异的元数据。相同或不同的UE可以获得该因应用而异的元数据中的一些或所有(并且可任选地,在被捕捉的情况下可以获得截屏),以及使用相同或不同的应用来重新创建一些或所有特征。
Description
相关申请的交叉引用
本专利申请要求于2016年11月7日提交的题为“ASSOCIATING A CAPTUREDSCREENSHOT WITH APPLICATION-SPECIFIC METADATA THAT DEFINES A STATE OF ANAPPLICATION CONTRIBUTING IMAGE DATA TO THE CAPTURED SCREENSHOT(将所捕捉截屏与定义将图像数据贡献给所捕捉截屏的应用的会话状态的因应用而异的元数据相关联)”的美国临时申请No.62/418,501的权益,该临时申请由与本主题申请相同的发明人作出,被指派给本主题申请的受让人并由此通过援引整体明确纳入于此。
背景技术
1.公开领域
各实施例涉及将所捕捉截屏与因应用而异的元数据相关联,该因应用而异的元数据定义将图像数据贡献给所捕捉截屏的应用的会话状态。
2.相关技术描述
具有显示功能性的许多用户装备(UE)支持截屏捕捉功能。例如,运行Windows操作系统(OS)的计算机(例如,膝上型计算机、台式计算机)响应于用户同时按下ALT和PrintScreen(打印屏幕)键而将截屏图像(例如,取决于配置设置的整个显示屏区域或特定窗口区域截屏图像)复制到剪贴板存储器。在另一示例中,运行移动操作系统(诸如iOS)的UE(例如,iPhone、iPad、触摸式iPod(iPod Touch)等)响应于用户同时按下Home(主界面)按钮和电源按钮而将截屏图像复制到照片库。
用户可能出于各种各样的原因而期望捕捉截屏,包括但不限于从以下各项中存档期望的项目:购物网站、购买确认、文本聊天对话的特定部分、视频节目(例如,TV、YouTube等)的特定帧、地图或导航路线的特定部分、来自电子书或信息网站(例如,维基百科(Wikipedia)等)的特定文本、等等。
概述
一实施例涉及一种操作用户装备(UE)的方法,其包括:
检测对捕捉正在显示屏上输出的图像数据的截屏的请求,
获得因应用而异的元数据,该因应用而异的元数据被配置成促成重新创建应用的会话状态的一个或多个特征,该应用在检测到该请求时贡献正在显示屏上输出的图像数据的至少一部分,
响应于该请求而选择性地捕捉正在显示屏上输出的图像数据的截屏,以及
存储所获得的因应用而异的元数据。
另一实施例涉及一种操作UE的方法,其包括:
获得因应用而异的元数据,该元数据定义第一应用的在提出截屏捕捉请求时在显示帧内贡献图像数据的会话状态,
检测对加载由该因应用而异的元数据定义的该第一应用的会话状态的请求,以及
响应于该请求,由第二应用来处理该因应用而异的元数据,以重新创建由该因应用而异的元数据定义的会话状态的一个或多个特征。
另一实施例涉及一种UE,包括:至少一个处理器,其被配置成:
检测对捕捉正在显示屏上输出的图像数据的截屏的请求,
获得因应用而异的元数据,该因应用而异的元数据被配置成促成重新创建应用的会话状态的一个或多个特征,该应用在检测到该请求时贡献正在显示屏上输出的图像数据的至少一部分,
响应于该请求而选择性地捕捉正在显示屏上输出的该图像数据的截屏,以及
存储所获得的因应用而异的元数据。
另一实施例涉及一种UE,包括:至少一个处理器,其被配置成:
获得因应用而异的元数据,该元数据定义第一应用的在提出截屏捕捉请求时在显示帧内贡献图像数据的会话状态,
检测对加载由该因应用而异的元数据定义的该第一应用的会话状态的请求,以及
响应于该请求,由第二应用来处理该因应用而异的元数据,以重新创建由该因应用而异的元数据定义的会话状态的一个或多个特征。
附图简述
对本公开的各实施例的更完整领会将因其在参考结合附图考虑的以下详细描述时变得更好理解而易于获得,附图仅出于解说目的被给出而不对本公开构成任何限定,并且其中:
图1解说了根据本公开的一实施例的无线通信系统的高级系统架构。
图2解说了根据本公开的实施例的用户装备(UE)。
图3解说了根据本公开的一实施例的包括结构组件的通信设备。
图4解说了与UE操作环境中的截屏捕捉相关联的组件交互的示例。
图5解说了根据本公开的一实施例截屏捕捉规程。
图6解说了根据本公开的一实施例的与UE操作环境中的截屏捕捉相关联的组件交互的示例。
图7解说了根据本公开的一实施例的在截屏捕捉时重新创建应用会话状态的一个或多个特征的过程。
图8解说了根据本公开的一实施例的与UE操作环境中的应用会话状态的重新创建相关联的组件交互的示例。
图9解说了根据本公开的一实施例的图5和7的过程的示例实现。
图10解说了根据本公开的一实施例的基于对图9的过程的示例执行的应用会话状态重新创建。
图11解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建。
图12A解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建。
图12B解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建。
图13解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建。
图14解说了根据本公开的另一实施例的图5和7的过程的示例实现。
图15A解说了根据本公开的一实施例的基于对图14的过程的示例执行的截屏+(screenshot+)的因应用而异的元数据生成。
图15B解说了根据本公开的一实施例的基于对图14的过程的示例执行的在以上参照图15A描述的截屏+的应用会话状态重新创建规程。
图16A解说了根据本公开的一实施例的用于截屏+的因应用而异的元数据生成。
图16B解说了根据本公开的一实施例的在以上参照图16A描述的截屏+的应用会话状态重新创建规程。
详细描述
本公开的诸方面在以下针对本公开具体实施例的描述和有关附图中被公开。可以设计出替换实施例而不会脱离本公开的范围。另外,本公开中众所周知的元素将不被详细描述或将被省去以免湮没本公开的相关细节。
措辞“示例性”和/或“示例”在本文中用于意指“用作示例、实例或解说”。本文描述为“示例性”和/或“示例”的任何实施例不必被解释为优于或胜过其他实施例。类似地,术语“本公开的各实施例”不要求本公开的所有实施例都包括所讨论的特征、优点或操作模式。
此外,许多实施例是依据将由例如计算设备的元件执行的动作序列来描述的。将认识到,本文中所描述的各种动作能由专用电路(例如,专用集成电路(ASIC))、由正被一个或多个处理器执行的程序指令、或由这两者的组合来执行。另外,本文中描述的这些动作序列可被认为是完全实施在任何形式的计算机可读存储介质内,该计算机可读存储介质内存储有一经执行就将使得相关联的处理器执行本文中描述的功能性的对应计算机指令集。由此,本公开的各个方面可以数种不同形式实施,所有这些形式都已被构想为落在所要求保护的主题内容的范围内。另外,对于本文中所描述的每个实施例,任何此类实施例的对应形式可在本文中被描述为例如“配置成执行所描述的动作的逻辑”。
客户端设备(在本文中被称为用户装备(UE))可以是移动的或静止的,并且可以与有线接入网和/或无线电接入网(RAN)通信。如本文所使用的,术语“UE”可以互换地被称为“接入终端”或“AT”、“无线设备”、“订户设备”、“订户终端”、“订户站”、“用户终端”或UT、“移动设备”、“移动终端”、“移动站”及其变型。在一实施例中,UE可以经由RAN与核心网通信,并且通过核心网,UE能够与外部网络(诸如因特网)连接。当然,连接到核心网和/或因特网的其他机制对于UE而言也是可能的,诸如通过有线接入网、WiFi网络(例如,基于IEEE 802.11等)等。UE可以通过数种类型的设备中的任何设备来实现,包括但不限于蜂窝电话、个人数字助理(PDA)、寻呼机、膝上型计算机、台式计算机、PC卡、致密闪存设备、外置或内置调制解调器、无线或有线电话等。UE藉以向RAN发送信号的通信链路被称为上行链路信道(例如,反向话务信道、反向控制信道、接入信道等)。RAN藉以向UE发送信号的通信链路被称为下行链路或前向链路信道(例如,寻呼信道、控制信道、广播信道、前向话务信道等)。UE可以通过其向其他UE发送信号的通信链路被称为对等(P2P)或设备到设备(D2D)信道。
图1解说了根据本公开的一实施例的无线通信系统100的高级系统架构。无线通信系统100包含UE 1…N。例如,在图1中,UE 1…2被解说为蜂窝呼叫电话,UE 1…6被解说为蜂窝触摸屏电话或智能电话,而UE N被解说为台式计算机或PC。
参照图1,UE 1…N被配置成在物理通信接口或层(在图1中被示为空中接口104、106、108)和/或直接有线连接上与接入网(例如,RAN 120、接入点125等)通信。空中接口104和106可遵循给定的蜂窝通信协议(例如,CDMA、EVDO、eHRPD、GSM、EDGE、W-CDMA、4G LTE、5GLTE等),而空中接口108可遵循无线IP协议(例如,IEEE 802.11)。RAN 120可包括通过空中接口(诸如,空中接口104和106)服务UE的多个接入点。RAN 120中的接入点可被称为接入节点或AN、接入点或AP、基站或BS、B节点、演进型B节点等。这些接入点可以是陆地接入点(或地面站)或卫星接入点。RAN 120可被配置成连接到核心网140,核心网140可以执行各种各样的功能——包括在由RAN 120服务的UE与由RAN 120或由完全不同的RAN服务的其他UE之间桥接电路交换(CS)呼叫,并且还可仲裁与外部网络(诸如因特网175)的分组交换(PS)数据的交换。
在一些示例中,因特网175包括数个路由代理和处理代理(出于方便起见,未在图1中示出)。在图1中,UE N被示为直接连接到因特网175(即,与核心网140分开,诸如通过WiFi或基于802.11的网络的以太网连接)。因特网175可藉此作用于经由核心网140在UE 1…N之间桥接分组交换数据通信。图1还示出了与RAN 120分开的接入点125。接入点125可以独立于核心网140地(例如,经由诸如FiOS之类的光通信系统、线缆调制解调器等)连接到因特网175。空中接口108可通过局部无线连接(诸如在一示例中是IEEE 802.11)服务UE 5或UE 6。UE N被示为具有到因特网175的有线连接(诸如到调制解调器或路由器的直接连接)的台式计算机,在一示例中该调制解调器或路由器可对应于接入点125自身(例如,对于具有有线和无线连通性两者的WiFi路由器)。
参照图1,服务器170被示为连接到因特网175、核心网140、或这两者。服务器170可被实现为多个结构上分开的服务器,或者替换地可对应于单个服务器。服务器170可以对应于任何类型的服务器,诸如(举例而言,主存web页面的)web服务器、应用程序下载服务器或支持(诸)特定通信服务(诸如网际协议语音(VoIP)会话、即按即讲(PTT)会话、群组通信会话、社交联网服务等)的应用服务器。
参照图1,UE 1...3被描绘为D2D网络或D2D群185的一部分,其中UE 1和3经由空中接口104连接到RAN 120。在一实施例中,UE 2还可以经由UE1和/或3的中介来获得对RAN120的间接访问,由此数据“跳跃”去往/来自UE2以及(代表UE 2来与RAN 120通信的)一个(或多个)UE 1和3。
图2解说了根据本公开的实施例的UE 200。UE 200包括一个或多个处理器205(例如,一个或多个ASIC、一个或多个数字信号处理器(DSP)等)以及存储器210(例如,RAM、ROM、EEPROM、闪存卡、或计算机平台共用的任何存储器)。存储器210包括多个应用1...N,这些应用可由一个或多个处理器205经由相关联的操作系统执行。UE 200还包括一个或多个UI输入组件215(例如,键盘和鼠标、触摸屏、话筒、一个或多个按钮(诸如音量或电源按钮等))以及一个或多个UI输出组件220(例如,扬声器、显示屏、用于振动UE 200的振动设备等)。
UE 200进一步包括有线通信接口225和无线通信接口230。在一示例实施例中,有线通信接口225可用于支持到外围设备的有线本地连接(例如,USB连接、迷你USB、火线或闪电连接、话筒插孔、图形端口(诸如串行、VGA、HDMI、DVI或显示器端口、音频端口等)和/或到有线接入网的有线本地连接(例如,经由以太网线缆或者可用于桥接到有线接入网的另一种类型的线缆(诸如HDMI v1.4或更高版本等))。在另一示例实施例中,无线通信接口230包括用于根据本地无线通信协议(例如,WLAN或WiFi、WiFi直连、蓝牙、LTE-D、Miracast等)进行通信的一个或多个无线收发机。无线通信接口225还可包括用于与蜂窝RAN进行通信的一个或多个无线收发机(例如,经由CDMA、W-CDMA、时分多址(TDMA)、频分多址(FDMA)、正交频分复用(OFDM)、GSM、或可在无线通信网络或数据通信网络中使用的其他协议)。UE 200的各种组件205-230可经由总线235来彼此通信。
参照图2,UE 200可对应于任何类型的UE,包括但不限于智能电话、膝上型计算机、台式计算机、平板计算机、可穿戴设备(例如,计步器、智能手表等),等等。在图2中描绘了UE200的两个具体实现示例,这两个实现示例被解说为膝上型计算机240和触摸屏设备255(例如,智能电话、平板计算机等)。膝上型计算机240包括显示屏245和UI区域250(例如,键盘、触摸板、电源按钮等),并且虽然未被示出,但膝上型计算机240可包括各种端口以及有线和/或无线收发机(例如,以太网卡、WiFi卡、宽带卡、卫星定位系统(SPS)天线(诸如全球定位系统(GPS)天线)等)。
触摸屏设备255配置有触摸屏显示器260、外围按钮265、270、275和280(例如,电源按钮、音量或振动控制按钮、飞行模式切换按钮等)、以及至少一个前面板按钮285(例如,Home按钮等)及其他组件,如本领域中已知的。尽管未被显式地示为触摸屏设备255的一部分,但触摸屏设备255可包括一个或多个外部天线和/或被构建到触摸屏设备255的外壳中的一个或多个集成天线,包括但不限于Wi-Fi天线、蜂窝天线、SPS天线(例如,GPS天线),等等。
图3解说了根据本公开的一实施例的包括结构组件的通信设备300。通信设备300可以对应于任何以上提及的通信设备中的任一者,包括但不限于UE200。
参照图3,通信设备300包括配置成接收和/或传送信息的收发机电路系统305。在一示例中,如果通信设备300对应于无线通信设备(例如,UE 200),则配置成接收和/或传送信息的收发机电路系统305可包括无线通信接口(例如,蓝牙、WiFi、WiFi直连、LTE直连等),诸如无线收发机和相关联的硬件(例如,RF天线、调制解调器、调制器和/或解调器等)。在另一示例中,配置成接收和/或传送信息的收发机电路系统305可对应于有线通信接口(例如,串行连接、USB、火线或闪电连接、可藉以接入因特网175的以太网连接等)。在进一步示例中,配置成接收和/或传送信息的收发机电路系统305可包括传感或测量硬件(例如,加速计、温度传感器、光传感器、用于监视本地RF信号的天线等),通信设备300可藉由该传感或测量硬件来监视其本地环境。被配置成接收和/或传送信息的收发机电路系统305还可包括在被执行时允许被配置成接收和/或传送信息的收发机电路系统305的相关联硬件执行其(诸)接收和/或传送功能的软件。然而,配置成接收和/或传送信息的收发机电路系统305不单单对应于软件,并且配置成接收和/或传送信息的收发机电路系统305至少部分地依赖于结构硬件来达成其功能性。此外,配置成接收和/或传送信息的收发机电路系统305可牵涉除“接收”和“传送”以外的语言,只要底层功能对应于接收或传送功能即可举例而言,诸如获得、获取、检索、测量等功能可由配置成接收和/或传送信息的收发机电路系统305在某些上下文中作为特定类型的接收功能来执行。在另一示例中,诸如发送、递送、传达、转发等功能可由配置成接收和/或传送信息的收发机电路系统305在某些上下文中作为特定类型的传送功能来执行。对应于其他类型的接收和/或传送功能的其他功能也可由配置成接收和/或传送信息的收发机电路系统305来执行。
参照图3,通信设备300进一步包括配置成处理信息的至少一个处理器310。可由配置成处理信息的至少一个处理器310执行的处理类型的示例实现包括但不限于执行确定、建立连接、在不同信息选项之间作出选择、执行与数据有关的评价、与耦合至通信设备300的传感器交互以执行测量操作、将信息从一种格式转换为另一种格式(例如,在不同协议之间转换,诸如,.wmv到.avi等),等等。例如,被配置成处理信息的至少一个处理器310可包括被设计成执行本文所描述的功能的通用处理器、DSP、ASIC、现场可编程门阵列(FPGA)或其他可编程逻辑器件、分立的门或晶体管逻辑、分立的硬件组件、或其任何组合。通用处理器可以是微处理器,但在替换方案中,被配置成处理信息的至少一个处理器310可以是任何常规的处理器、控制器、微控制器、或状态机。处理器还可以被实现为计算设备的组合(例如DSP与微处理器的组合、多个微处理器、与DSP核协作的一个或多个微处理器、或任何其他此类配置)。配置成处理信息的至少一个处理器310还可包括软件,该软件在被执行时准许配置成处理信息的至少一个处理器310的相关联硬件执行其处理功能。然而,配置成处理信息的至少一个处理器310不单单对应于软件,并且配置成处理信息的至少一个处理器310至少部分地依赖于结构硬件来实现其功能性。此外,配置成处理信息的至少一个处理器310也可牵涉除“处理”以外的语言,只要底层功能对应于处理功能即可。举例而言,诸如评估、确定、计算、标识等功能可由配置成处理信息的至少一个处理器310在某些上下文中作为特定类型的处理功能来执行。对应于其他类型的处理功能的其他功能也可由配置成处理信息的至少一个处理器310来执行。
参照图3,通信设备300进一步包括配置成存储信息的存储器315。在一示例中,被配置成存储信息的存储器315可至少包括非瞬态存储器和相关联的硬件(例如,存储器控制器等)。例如,包括在被配置成存储信息的存储器315中的非瞬态存储器可对应于RAM、闪存存储器、ROM、可擦除式可编程ROM(EPROM)、EEPROM、寄存器、硬盘、可移动盘、CD-ROM、或本领域已知的任何其他形式的存储介质。配置成存储信息的存储器315还可包括软件,该软件在被执行时准许配置成存储信息的存储器315的相关联硬件执行其存储功能。然而,配置成存储信息的存储器315不单单对应于软件,并且配置成存储信息的存储器315至少部分地依赖于结构硬件来实现其功能性。此外,配置成存储信息的存储器315也可牵涉除“存储”以外的语言,只要底层功能对应于存储功能即可。例如,诸如高速缓存、维持等功能可由配置成存储信息的存储器315在某些上下文中作为特定类型的存储功能来执行。对应于其他类型的存储功能的其他功能也可由配置成存储信息的存储器315来执行。
参照图3,通信设备300进一步包括配置成呈现信息的用户接口输出电路系统320。在一示例中,被配置成呈现信息的用户接口输出电路系统320可至少包括输出设备和相关联的硬件。例如,输出设备可包括视频输出设备(例如,显示屏、能承载视频信息的端口,诸如USB、HDMI等)、音频输出设备(例如,扬声器、能承载音频信息的端口,诸如话筒插孔、USB、HDMI等)、振动设备和/或信息可藉以被格式化以供输出或实际上由通信设备300的用户或操作者输出的任何其它设备。例如,如果通信设备300对应于如图2中所示的UE 200,则配置成呈现信息的用户接口输出电路系统320可包括显示器245(诸如显示器245或触摸屏显示器260)。配置成呈现信息的用户接口输出电路系统320还可包括软件,该软件在被执行时准许配置成呈现信息的用户接口输出电路系统320的相关联硬件执行其呈现功能。然而,配置成呈现信息的用户接口输出电路系统320不单单对应于软件,并且配置成呈现信息的用户接口输出电路系统320至少部分地依赖于结构硬件来实现其功能性。此外,配置成呈现信息的用户接口输出电路系统320也可牵涉除“呈现”以外的语言,只要底层功能对应于呈现功能即可。举例而言,诸如显示、输出、提示、传达等功能可由配置成呈现信息的用户接口输出电路系统320在某些上下文中作为特定类型的呈现功能来执行。对应于其他类型的呈现功能的其他功能也可由配置成呈现信息的用户接口输出电路系统320来执行。
参照图3,通信设备300进一步包括配置成接收本地用户输入的用户接口输入电路系统325。在一示例中,被配置成接收本地用户输入的用户接口输入电路系统325可至少包括用户输入设备和相关联的硬件。例如,用户输入设备可包括按钮、触摸屏显示器、键盘、相机、音频输入设备(例如,话筒或可承载音频信息的端口,诸如话筒插孔等)、和/或可藉以从通信设备300的用户或操作者接收信息的任何其他设备。例如,如果通信设备300对应于如图2中所示的UE 200,则配置成接收本地输入的用户接口输入电路系统325可对应于UI区域250或触摸屏显示器260等。配置成接收本地用户输入的用户接口输入电路系统325还可包括软件,该软件在被执行时允许配置成接收本地用户输入的用户接口输入电路系统325的相关联硬件执行其输入接收功能。然而,配置成接收本地用户输入的用户接口输入电路系统325不单单对应于软件,并且配置成接收本地用户输入的用户接口输入电路系统325至少部分地依赖于结构硬件来实现其功能性。此外,配置成接收本地用户输入的用户接口输入电路系统325也可牵涉除“接收本地用户输入”以外的语言,只要底层功能对应于接收本地用户功能即可。举例而言,诸如获得、接收、收集等功能可由配置成接收本地用户输入的用户接口输入电路系统325在某些上下文中作为特定类型的接收本地用户功能来执行。对应于其他类型的接收本地用户输入功能的其他功能也可由配置成接收本地用户输入的用户接口输入电路系统325来执行。
参照图3,尽管所配置的结构组件305到325在图3中被示为经由相关联的通信总线(未明确示出)彼此隐式耦合的分开或相异的块,但将领会,相应各个所配置的结构组件305到325藉以执行其各自相应的功能性的硬件和/或软件可部分交迭。例如,用于促成所配置的结构组件305到325的功能性的任何软件可被存储在与配置成存储信息的存储器315相关联的非瞬态存储器中,从而所配置的结构组件305到325各自部分地基于由配置成存储信息的存储器315所存储的软件的操作来执行其各自相应的功能性(即,在这一情形中为软件执行)。类似地,直接与所配置的结构组件305到325之一相关联的硬件可不时地被其它所配置的结构组件305到325借用或使用。例如,配置成处理信息的至少一个处理器310可在数据由配置成接收和/或传送信息的收发机电路系统305传送之前将此数据格式化成恰适的格式,从而配置成接收和/或传送信息的收发机电路系统305部分地基于与配置成处理信息的至少一个处理器310相关联的结构硬件的操作来执行其功能性(即,在这一情形中为数据传输)。
具有显示功能性的许多UE支持截屏捕捉功能。例如,运行Windows操作系统(OS)的计算机(例如,膝上型计算机、台式计算机)响应于用户同时按下ALT(替换)和PrintScreen(打印屏幕)键而将截屏图像(例如,取决于配置设置的整个显示器区域或特定窗口区域的截屏图像)复制到剪贴板存储器。在另一示例中,运行移动操作系统(诸如iOS)的UE(例如,iPhone、iPad、触摸式iPod等)响应于用户同时按下Home按钮和电源按钮而将截屏图像复制到照片库。
用户可能出于各种各样的原因而期望捕捉截屏,包括但不限于从以下各项中存档期望的项目:购物网站、购买确认、文本聊天对话的特定部分、视频节目(例如,TV、YouTube等)的特定帧、地图或导航路线的特定部分、来自电子书或信息网站(例如,维基百科(Wikipedia)等)的特定文本等等。
图4解说了与UE操作环境400中的截屏捕捉相关联的组件交互的示例。UE操作环境400包括OS 405、显示引擎410(例如,一个或多个图形设备驱动器、图形卡、专用图形内核等)、UE可执行应用1...N(例如,存储在UE处的相关联存储器中,其中N大于或等于2)、以及截屏生成模块420。UE操作环境400进一步包括(诸)UI输入组件425(例如,对应于图2的215、图3的325等)、显示屏430(例如,对应于图2的220、图3的320等)、以及存储器435(例如,对应于图2的210、图3的315等)。
参照图4,经由列举为1到7的操作来描绘功能流。操作1到7的特定顺序可以通过实现而变化(例如,操作3和4可以按任何顺序发生等等)。在操作1,OS 405经由(诸)UI输入组件425来检测截屏请求。例如,操作1可以对应于检测用户在Windows OS环境中经由键盘的按键同时按下ALT和PrintScreen、检测用户在iOS环境中同时按下Home和电源按钮,等等。在操作2,OS 405向显示引擎410发送截屏请求。在操作3,应用1向显示器引擎410提供要在显示帧内渲染的因应用而异的图像数据,以供由显示屏430输出。在操作4,应用2…N还可以可任选地提供要在显示帧内渲染的因应用而异的图像数据,以供由显示屏430输出。操作4是可任选的,因为UE有可能在关于应用1的全屏模式中操作,在这种情形中仅应用1的图像数据成为显示帧的一部分。在操作5,显示引擎410基于来自应用1(以及可任选地应用2...N)的因应用而异的图像数据来将所渲染的屏幕数据发送到显示屏430。
响应于来自OS 405截屏请求,在操作6,显示引擎410还将所渲染的屏幕数据发送到截屏生成模块420。截屏生成模块420基于所渲染的屏幕数据并且还基于某个因文件而异的(或应用通用的)元数据(例如,屏幕捕捉的时间、文件名、文件大小等)来生成截屏。在操作7,截屏生成模块420将所生成的(或所捕捉的)截屏发送到存储器435,其中该截屏被存储在一组所存储截屏1...N之中。
虽然截屏对于在特定时间点处存储显示屏上所描绘的原始图像数据非常有效,但是截屏在引导用户(例如,采用初始截屏的用户或与其共享截屏的不同用户)回到截屏中所描述的应用会话的状态(或会话状态)时可能不是特别有效。例如,与截屏相关联地存储的常规元数据将典型地仅包括因文件而异的元数据(例如,屏幕捕捉的时间、文件名、文件大小等),这对于想要绘制到截屏上地图之上所描绘的地址的导航路线的用户、或者想要基于针对所购买项目的购买确认的截屏来检查所购买项目的运送状态的用户等而言不是特别有帮助。
由此,本公开的各实施例涉及将所捕捉截屏与因应用而异的元数据相关联,该因应用而异的元数据定义将图像数据贡献给所捕捉截屏的应用的会话状态。如将在以下所描述的,与仅显示所捕捉截屏的原始图像内容相反,因应用而异的元数据可以准许UE重新创建由因应用而异的元数据定义的会话状态的一个或多个特征。
图5解说了根据本公开的一实施例截屏捕捉规程。在UE处执行图5的截屏捕捉规程,并且捕捉正在一些或所有显示屏上输出的图像数据。显示屏可以对应于UE自身的显示屏,在这种情形中,截屏捕捉类似于以上参照图4描述的示例(例如,截屏的自我捕捉)。然而,显示屏可以完全替换另一设备的显示屏,在这种情形中,所捕捉截屏是该另一设备的显示屏的快照(例如,UE的用户将UE置于相机模式中并取得另一显示屏的快照)。参照图5描述的显示屏可以对应于图2中的UE 200的UI输出组件220、或者配置成呈现图3的信息320的用户接口输出电路系统中的一者。
参照图5,在框500,UE检测对捕捉正在显示屏上输出的图像数据的截屏的请求。例如,框500可以对应于检测用户在Windows OS环境中经由键盘的按键同时按下ALT和PrintScreen、检测用户在iOS环境中同时按下Home和电源按钮,等等。在另一示例中,如以上所提及的,框500可以对应于检测用户将UE置于相机模式(或取景器模式)中并取得外部显示屏的快照。在框505,UE获得因应用而异的元数据,该元数据定义了应用的会话状态(或其被配置成促成重新创建应用的会话状态的一个或多个特征),该应用在检测到该请求时贡献正在显示屏上输出的图像数据的至少一部分。
如本文中所使用的,因应用而异的元数据可以部分地基于用特定应用初始化会话的信息(例如,URL(由web浏览器用来发起web会话,其中在该URL处可访问web站点)、应用ID(可被用于标识应用以开始一应用会话)等等)来定义会话状态。然而,因应用而异的元数据进一步表征在经历屏幕捕捉的图像数据中反映的瞬时(或当前)会话状态,而不仅仅是初始化会话状态。例如,会话状态可以包括与辅助信息耦合的URL,该辅助信息以不能从URL本身推导出的方式来表征URL会话,诸如缩放级别、相关联的网页上用户已经滚动到的特定焦点对象、在图像数据中描绘从URL流送出的视频帧的时间点,等等。在一示例中,可被添加到因应用而异的元数据的URL不仅包括顶层(top-level)网页URL,还可以包括图像URL和图像替换(alt)文本(例如,在不能轻易获得图像的情况下代替图像显示的文本)。在一示例中,在顶层网页URL不再可用和/或加载缓慢的情况下,图像URL和/或图像替换文本可被用作回退机制。
如将在以下更详细地描述的,如果一个或多个附加应用也贡献正在显示屏上输出的图像数据,则UE还可以获得因应用而异的元数据,该因应用而异的元数据还定义一个或多个附加应用的一个或多个会话状态(或被配置成促成重新创建一个或多个附加应用的一个或多个会话状态的一个或多个特征)。
参照图5的框505,可以按各种各样的方式来获得因应用而异的元数据,包括以下各项的任何组合:
·可以直接从应用检索因应用而异的元数据的一些部分(例如,应用本身提供可被用于重新创建截屏中所描绘的一些或全部应用会话状态特征的因应用而异的元数据);
·因应用而异的元数据的一部分可以由UE的操作系统来贡献;
·可以从经由计算机视觉能力从正在显示屏上输出的图像数据推导出或提取因应用而异的元数据的一些部分(例如,光学字符识别(OCR)被应用于正在显示屏上输出的图像数据中包含的、并添加到因应用而异的元数据中的文本);
·可以从在UE外部的另一设备接收因应用而异的元数据的一些部分。在以上提及的快照示例中,第一UE可以连接到第二UE。第一UE取得第二UE的显示屏的快照。第一UE针对因应用而异的元数据发送查询(例如,在D2D连接上),该因应用而异的元数据表征在捕捉快照时将正向第二UE处的显示屏输出贡献图像数据的一个或多个应用的会话状态。第二UE提供所请求的因应用而异的元数据(例如,在D2D连接上)。
·可以从任何以上提及的来源中的任一者接收因应用而异的元数据的一些部分,并且随后将其后处理成不同的形式。例如,web浏览器可以提供正在截屏中显示的当前URL,并且可以对该URL进行分析或后处理以获得辅助信息来重新创建当前URL的特定会话状态(例如,在截屏中捕捉Google Maps(谷歌地图)的URL,并且后处理提取该截屏中所描绘的且标识Google Maps的地址或地理区域,而不是因应用而异的元数据中的特定URL。后处理可以由任何合适的实体(诸如专用应用或软件模块、OS或应用本身)执行。
参照图5,在框510,UE响应于请求而选择性地捕捉正在显示屏上输出的图像数据的截屏。在示例中,可以始终执行框510的截屏捕捉。然而,在其他实施例中,框510的截屏捕捉可以基于各种标准,诸如存储空间因子或因应用而异的元数据可靠性因子。例如,如果非常可靠的因应用而异的元数据可用于重新创建正在显示屏上输出的图像数据(例如,至显示帧中正被全屏显示的图像文件的深度链接URL),则抹去显示帧以捕捉截屏的特定像素可以被省略。在另一示例中,如果UE上的可用存储空间非常有限,则可以省略框510的截屏捕捉(例如,以节省存储空间)。相应地,在相对于“所捕捉”截屏作出参考时,暗示实际发生框510的截屏捕捉,这些参考是作为示例的,因为其他实施例可以在不实际捕捉(和存储)截屏的情况下在框505获得因应用而异的元数据。
仍然参照图5的框510,将领会,框510不一定发生在框505之后,因为框505-510中描绘的相应操作可以以任何次序发生或甚至同时发生。此外,框510的截屏捕捉可对应于全屏捕捉(例如,捕捉由显示屏正在输出的整个显示帧的截屏)或部分屏幕捕捉(例如,捕捉显示帧中的特定窗口或显示屏的特定部分(其可以是经用户定义的))。在一示例中,在部分屏幕捕捉的情形中,在框505获得的因应用而异的元数据可以限于在框510捕捉的相关屏幕区域内贡献图像数据的应用,并且可以省略仅在框510捕捉的相关屏幕区域之外贡献图像数据的(诸)应用的因应用而异的元数据。此外,框510的屏幕捕捉有可能涉及由由多个显示屏输出的显示帧,在这种情形中,该截屏可以涵盖跨多个显示屏的图像数据或仅涵盖一个指定显示屏的图像数据。如上所提及的,框510的捕捉操作可以对应于捕捉由UE自身的显示屏正在输出的图像数据,或者替换地对应于由UE的相机取得的外部设备的显示屏的快照。
参照图5,一旦被捕捉,UE就在框515存储所获得的因应用而异的元数据。框515可以按各种各样的方式完成。在一示例中,所捕捉截屏也可以在框515与所获得的因应用而异的元数据相关联地存储,尽管这不是严格必需的(例如,在获得因应用而异的元数据之后有可能丢弃所捕捉截屏,以举例而言节省内存)。如果在框515存储所捕捉截屏和因应用而异的元数据两者,则在一示例中,该因应用而异的元数据可被附加到截屏文件的报头或开销部分(例如,类似于如何存储其他因文件而异的元数据,诸如文件名、屏幕捕捉时间等),该报头或开销部分与存储捕捉图像数据的介质部分分开。在其在框515存储所捕捉截屏和因应用而异的元数据两者的另一示例中,可以将因应用而异的元数据加水印到介质部分自身的图像数据中。在框515存储所捕捉截屏和因应用而异的元数据两者的另一个示例中,因应用而异的元数据可以与截屏文件分开存储,其中某一类型的指针或其他虚拟链接在框515形成以上提及的关联。
参照图5,在框520处,UE可任选地更新所捕捉截屏和/或所存储的因应用而异的元数据。现在将提供如何可更新所捕捉截屏和/或所存储的因应用而异的元数据的各种示例。
在图5的框520的第一示例中,用户可以通过裁剪所捕捉截屏来编辑或修改所捕捉截屏。在一个实施例中,对捕捉截屏进行裁剪可以提示UE确定任何因应用而异的元数据是否仅与所捕捉截屏的裁剪部分相关。若为是,则可以移除与裁剪部分相关的因应用而异的元数据(例如,用户裁剪所捕捉截屏以使得不再显示特定图像,并且针对该特定图像的图像URL和/或图像替换文本可以从因应用而异的元数据中移除。在另一实施例中,用户可以裁剪所捕捉截屏,以使得仅单个图像在经裁剪的所捕捉截屏内保留在视线中。在这种情形中,可以比与裁剪部分相关的其他因应用而异的元数据优先考虑针对其余图像的图像URL。
在图5的框520的第二示例中,用户可以编辑或修改所捕捉截屏以添加补充信息,诸如在所捕捉截屏中标记一个或多个项目(例如,人物、产品、位置等)。可以在框520更新因应用而异的元数据以包括对(诸)经标记项目的引用(例如,所捕捉截屏示出特定电影的电影票证,用户标记该特定电影,并且因应用而异的元数据被更新以包括可以购买该电影的网站的URL)。
在图5的框520的第三示例中,假定框510捕捉截屏并在框515将所捕捉截屏与因应用而异的元数据相关联地存储,在此之后用户删除所捕捉截屏。在一示例中,这可能使得相关联的因应用而异的元数据也被删除。在替换示例中,即使所捕捉截屏被删除,也可以保留因应用而异的元数据。
在图5的框520的第四示例中,图像数据可以包括一个或多个信息对象(例如,地图、公交时刻表等)。在这种情形中,可以在因应用而异的元数据中标识(诸)信息对象。UE可以检查(诸)信息对象(例如,在周期性的基础上(诸如在WiFi连接可用时每月一次)、或者在事件触发的基础上(诸如每当要求UE重新创建应用的会话状态时),以确定是否有任何更新可用(例如,经更新的地图、经修改的公交时刻表等)。在一示例中,OCR匹配或基于计算机视觉的相似性匹配算法可被用于标识(诸)信息对象。在另一示例中,机器学习图像分类可被用于检测可对其执行更新的信息对象(例如,对公交时刻表执行更新检查,但不对模因(meme)执行更新检查)。在另一示例中,信息对象可包括针对在截屏中可视地描绘或以其他方式引用的所标识产品的产品定价。在这种情形中,更新检查可以包括(例如,从一组特定零售商,诸如Amazon.com等)获取产品的实时定价。例如,用户可以取得显示一双跑鞋的截屏,并且更新检查可以监视该双跑鞋的实时定价且在价格改变的情况下通知该用户。
图6解说了根据本公开的一实施例的与UE操作环境600中的截屏捕捉相关联的组件交互的示例。图6中描绘的示例特定于在框505从(诸)图像贡献应用中获得因应用而异的元数据的实现,以及在框510UE正在捕捉其自己的显示屏的截屏的实现。然而,这旨在作为非限制性示例,因为可以从一个或多个其他替换源获得因应用而异的元数据,并且UE可以替换地捕捉外部显示屏的截屏,如上所提及的。
在组件方面,UE操作环境600类似于图4的UE操作环境400。相应地,UE操作环境600包括OS 605、显示引擎610(例如,一个或多个图形设备驱动器、图形卡、专用图形内核等)、UE可执行应用1...N(例如,存储在UE处的相关联存储器中,其中N大于或等于2)、以及截屏生成模块620。UE操作环境600进一步包括(诸)UI输入组件625(例如,对应于图2的215、图3的325等)、显示屏630(例如,对应于图2的220、图3的320等)、以及存储器635(例如,对应于图2的210、图3的315等)。
参照图6,经由列举为1到10的操作来描绘图5的过程的示例实现。操作1到10的特定顺序可以通过实现而变化(例如,操作4和5可以按任何顺序发生等等)。在操作1处,OS605经由(诸)UI输入组件425来检测截屏请求。例如,操作1可以对应于检测用户在WindowsOS环境中经由键盘的按键同时按下ALT和PrintScreen、检测用户在iOS环境中同时按下Home和电源按钮,等等。在操作2,OS 605向显示引擎610发送截屏请求。图6中的操作1-2类似于以上参照图4所描述的操作1-2。
参照图6,在操作3,OS 605向应用1以及可任选地向应用2...N发送会话状态请求。在一示例中,如果应用2...N当前没有正在执行或者当前没有正在截屏的目标区域内贡献图像数据,则OS 605不需要向应用2...N发送会话状态请求。
参照图6,在操作4,应用1向显示器引擎610提供要在显示帧内渲染的因应用而异的图像数据,以供由显示屏630输出。在操作5,应用2…N还可以可任选地提供要在显示帧内渲染的因应用而异的图像数据,以供由显示屏630输出。操作5是可任选的,因为UE有可能在关于应用1的全屏模式中操作,在这种情形中,仅应用1的图像数据成为显示帧的一部分。在操作6,显示引擎610基于来自应用1(以及可任选地应用2...N)的因应用而异的图像数据来将所渲染的屏幕数据发送到显示屏幕630。响应于来自OS 405截屏请求,在操作7,显示引擎610还将所渲染的屏幕数据发送到截屏生成模块620。图6中的操作4-7类似于以上参照图4所描述的操作3-6。
响应于在操作3来自OS 605的会话状态请求,在操作8,应用1发送因应用而异的元数据,该元数据被配置成促成将应用1的当前会话状态的一个或多个特征重新创建到截屏生成模块620。由应用1在操作8发送的因应用而异的元数据内所包含的特定数据或参数可以(i)由来自OS 605的会话状态请求指定,(ii)由应用1指定,或(iii)其任何组合。换言之,操作处的会话状态请求可以要求特定类型的信息,或者可以简单地在根据要包括什么特定数据来遵循(诸)目标应用时要求(诸)目标应用提供因应用而异的元数据,或其组合。如将在以下更详细描述的,当应用1的因应用而异的图像数据被发送到显示引擎610(如在操作4中)或提供给显示屏以供输出(如在操作6中)时,可以使用从应用1请求的因应用而异的元数据来重新创建应用1的会话状态的一个或多个特征。在操作9,应用2...N还可以可任选地发送因应用而异的元数据,该元数据被配置成促成将应用2...N的当前会话状态的一个或多个特征重新创建到截屏生成模块620。操作9是可任选的,因为应用2...N可能没有正在贡献图像数据(因为操作5是可任选的),或者可能正在将图像数据贡献至要在截屏中要捕捉的相关屏幕区域之外的区域(例如,显示屏630包括第一和第二显示屏,其中应用2...N仅将图像数据贡献至未指定用于截屏的显示屏,显示屏630包括第一和第二窗口,其中应用2...N仅将图像数据贡献至未指定用于截屏的窗口,等等)。
参照图6,截屏生成模块620基于所渲染的屏幕数据并且还基于从应用1...N接收到的任何因应用而异的元数据来生成截屏。截屏还可以基于某个因文件而异的(或应用通用的)元数据(例如,屏幕捕捉的时间、文件名、文件大小等)来生成。截屏和因应用而异的元数据的组合在图6中被表示为“截屏+”。在操作10,截屏生成模块620将所生成的(或所捕捉的)截屏+发送到存储器635,其中该截屏+被存储在一组所存储截屏+1...N之中。如以上参照图5的框515所提及的,每个截屏+可以对应于单个截屏文件,其包括作为介质水印的因应用而异的元数据或经由补充报头信息嵌入的因应用而异的元数据,或者替换地对应于在存储器中彼此链接或相关联的两个分开的文件。而且,在其他实施例中,截屏+可以包括因应用而异的元数据而无需相关联的所捕捉的图像数据(例如,以节省存储器等)。
图7解说了根据本公开的一实施例的在截屏捕捉时重新创建应用会话状态的一个或多个特征的过程。图7的过程可以在捕捉截屏的相同UE处实现,或者替换地可以在不同的UE处实现。例如,执行图5的过程的UE可以与社交联网服务共享具有因应用而异的元数据(或截屏+)的所捕捉截屏,该社交联网服务随后可以与随后执行图7的过程的第三方UE一起传播所捕捉截屏和因应用而异的元数据。在另一示例中,执行图5的过程的UE可以按某种其他方式(例如,P2P或D2D文件交换、经由电子邮件或短信服务等)来与另一UE共享具有因应用而异的元数据(或截屏+)的所捕捉截屏,该另一UE随后可执行图7的过程。在又一示例中,捕捉截屏的UE有可能共享因应用而异的元数据,而无需实际共享携带所捕捉的图像数据的相关联截屏。在这种情形中,与其共享因应用而异的元数据的目标UE仍然可以使用因应用而异的元数据来重新创建应用会话状态中的一些或全部。在又一示例中,有可能在框515存储因应用而异的元数据,而无需实际捕捉和存储截屏,如以上参照框510所提及的,在这种情形中,接收到框500的捕捉截屏的请求(但是选择不这样做)的UE仍然可以共享因应用而异的元数据。相应地,对以下截屏+的引用至少包括因应用而异的元数据中的一些或所有,但可能不一定包括实际所捕捉截屏。
参照图7,在框700,UE获得因应用而异的元数据,该因应用而异的元数据定义第一应用的会话状态,该第一应用在截屏捕捉请求被提出时(例如,在图像数据的所捕捉截屏中)贡献显示帧内的图像数据。相对于何时执行框700而言,因应用而异的元数据定义第一应用的历史会话状态,其不一定表示第一应用的当前会话状态。在一示例中,如果图7的UE对应于执行图5的过程的相同UE,则框700可以对应于UE从存储器加载因应用而异的数据。在另一示例中,如果图7的UE对应于与执行图5的过程的UE不同的UE,则框700可以对应于UE从外部源接收因应用而异的数据(例如,执行图5的过程的UE、或者执行作为社交联网服务的一部分的社交媒体共享功能的一些中间实体(诸如中间UE或服务器170))。
参照图7,在框703,UE可任选地更新所捕捉截屏(若可用)和/或因应用而异的元数据。如果执行框703,则经更新的所捕捉截屏和/或因应用而异的元数据可被用于截屏+的后续处理。可以与图5的框520类似地执行框703,并且为了简洁起见,将不再进一步描述。
参照图7,在框705,UE检测对加载由因应用而异的元数据定义的第一应用的会话状态的请求。在其中结合关于所捕捉截屏的图像数据在框700获得因应用而异的元数据的一个示例中,在图7的框705的检测对应于用户点击表示截屏的图标(或缩略图),这导致处理因应用而异的元数据而不是在捕捉截屏中显示原始图像数据(或除了在捕捉截屏中显示原始图像数据之外,还处理因应用而异的元数据)。在其中在框700获得因应用而异的元数据而无需所捕捉截屏的替换示例中,在图7的框705的检测可以按各种各样的方式发生,诸如列出可被加载的用户可选择的应用会话状态的下拉菜单,等等
参照图7,在框710,UE响应于在框705检测到的请求,由第二应用来处理因应用而异的元数据,以重新创建由因应用而异的元数据定义的会话状态的一个或多个特征。在一示例中,在框710处理因应用而异的元数据的第二应用可以对应于与图5的框505的第一应用相同的应用(例如,相同的平台或OS、相同的版本号等),虽然这不是严格必需的。例如,相应的应用可以具有不同的版本(例如,Pandora iOS版本6对Pandora iOS版本8)、可以在不同的平台上操作(例如,iOS设备上的移动Safari浏览器对Mac计算机上的桌面Safari浏览器、或者可能是系统应用类别中的不同应用(例如,桌面Chrome浏览器对桌面Firefox浏览器)。在一示例中,因应用而异的元数据可以包括版本表格,该版本表格列出了基于正在尝试重新创建第一个应用的会话状态的应用的版本(例如,移动和桌面版本、针对特定OS的应用的特定版本等)来重新创建第一应用的会话状态所采取的特定动作。例如,对于GoogleMaps应用会话状态,因应用而异的元数据可以包括作为版本表格的一部分的供由移动Google Maps应用进行会话状态重新创建的第一指令、供由移动或桌面web浏览器应用(其导航到Google Maps网站以进行会话状态重新创建)进行会话状态重新创建的第二指令、供由不同的地图应用(例如,在Google Maps不可用的情况下iOS上的Apple Maps(苹果地图)等)进行会话状态重新创建的第三指令,等等。无论第一和第二应用是否不同(例如,在诸如Pandora对Spotify之类的应用类型方面、在诸如iOS对Windows XP对Android之类的OS方面、在诸如web浏览器或专用地图应用之类的应用方面、在诸如iOS 7兼容的Pandora对iOS10兼容的Pandora之类的因应用而异的版本号方面,等等),第二个应用被假定为能够以在捕捉截屏时重新创建第一应用的会话状态的至少一些特征的方式来解读该因应用而异的元数据。
仍然参照图7,第二应用有可能无法解读供重新创建会话状态的一个或多个特征的因应用而异的元数据(例如,第一应用可能未被识别、任何URL或URI可能是无效的等等)。在这种情形中,可以评估所捕捉截屏(如果是与在框700的因应用而异的元数据一起获得的),以尝试导出可以通过其重新创建会话状态的一个或多个特征的信息。例如,可以使用蛮力方案,由此OCR分析和/或计算机视觉图像相似性匹配可被用来找到与在一个或多个应用中所捕捉截屏最接近的匹配(例如,一组应用的各种屏幕选项可以与所捕捉截屏进行比较,以找到最接近的匹配)。在另一示例中,假定所捕捉的图像包括描绘视频的特定视频帧的图像数据,并且因应用而异的元数据不包括标识该视频的特定视频帧的深度链接URI。类似于以上提及的办法,可以使用蛮力方案,由此可以将与视频相关的图像数据与视频的视频帧进行比较,以标识正确的视频帧(例如,使用计算机视觉相似性匹配)。
图8解说了根据本公开的一实施例的与UE操作环境800中的应用会话状态的重新创建相关联的组件交互的示例。在组件方面,UE操作环境800类似于图6的UE操作环境600,尽管因为屏幕捕捉生成与图8中描绘的功能性无关而省略了屏幕生成模块620。如上所提及的,执行图5和图7的过程的UE可以相同,在这种情形中,UE操作环境600和800对应于相同UE的不同功能表示。替换地,执行图5和7的过程的UE可以不同,在这种情形中,相应的组件可以相同或不同(例如,图6的OS 605可以是iOS,而图8的OS 805可以是Windows OS或Android等)。
参照图8,UE操作环境800包括OS 805、显示引擎810(例如,一个或多个图形设备驱动器、图形卡、专用图形内核等)、以及UE可执行应用1...N(例如,存储在UE处的相关联存储器中,其中N大于或等于2)。UE操作环境800进一步包括(诸)UI输入组件825(例如,对应于图2的215、图3的325等)、显示屏830(例如,对应于图2的220、图3的320等)、以及存储器835(例如,对应于图2的210、图3的315等)。在图8描绘的示例中,存储器835包括一组截屏+1...N。在一示例中,保留在存储器835中的每个截屏+可以包括用于特定截屏+的因应用而异的元数据以及来自所捕捉截屏的原始图像数据,或者替换地,可以保留因应用而异的数据而无需关于至少一个截屏+的相关联的原始图像数据。
参照图8,经由列举为1到8的操作来描绘图7的过程的示例实现。执行操作1到8的特定顺序可以通过实现而变化(例如,操作2和3可以按任何顺序发生等等)。在操作1,由OS805经由(诸)UI输入组件425来检测截屏+应用会话状态请求。例如,操作1可以对应于用户点击表示特定截屏+的图标(例如,用户滚动遍历他们手机上的照片库,并且随后选择截屏+,该截屏+是由截屏+的图像数据部分的缩略图在视觉上表示的。在操作2,OS 805将对关于指定截屏+的因应用而异的元数据的请求发送到存储器835。在操作3,存储器835将关于指定截屏+的因应用而异的元数据的返回至OS 805。
参照图8,在操作4,将所获得的因应用而异的元数据中的至少一些发送到应用1。如上所提及的,在图6的操作8提供因应用而异的元数据的应用1不需要与在图8的操作4接收因应用而异的元数据的应用1相同,尽管这确实是可能的。相反,来自图6和图8的相应的应用1可能在版本号、OS类型方面变化,或者可以对应于相同类别中的不同应用(例如,不同类型的web浏览器或文字处理应用等)。可任选地,可以针对与相同截屏+相关联的多个应用获得因应用而异的元数据,如以上参照图6中的操作9和应用2...N所描绘的。同样,在可选操作5,可以将因应用而异的元数据中的至少一些发送到应用2...N。在一示例中,被可任选地发送到图8中的应用2...N的因应用而异的元数据可以对应于针对图6中的应用2...N可任选地获得的因应用而异的元数据。在一替换示例中,即使针对图6中的应用2...N获得了因应用而异的元数据,这一因应用而异的元数据也不需要被发送到图8中的应用2...N(例如,用户可能不希望重新创建这些特定应用的(诸)会话状态、来自这些特定应用的因应用而异的元数据可能已经根据信息隐私保护方案被剥离或移除等等)。而且,如以上参照图6中的应用1所提及的,与图8相比较,应用2...N可以对应于相同的应用或者可以是不同的(例如,在版本号、OS类型等方面)。
参照图8,应用1处理在操作4处接收到的因应用而异的元数据,并且应用2...N还可任选地处理在操作5处接收到的因应用而异的元数据。以下更详细地提供了可以如何处理因应用而异的元数据的示例。因应用而异的元数据的处理结果在操作6处由应用1传达到显示引擎810,并且(可任选地)在操作7处由应用2...N传达到显示引擎810,作为要在显示帧内渲染的因应用而异图像数据以供由显示屏830输出。尽管未在图8中显式地示出,将领会,也可以基于因应用而异的元数据的处理(例如,音频和/或振动输出等)来提供其他类型的输出。在操作8,显示引擎810基于来自应用1(以及可任选地应用2...N)的因应用而异的图像数据来将所渲染的屏幕数据发送到显示屏幕830。
图9解说了根据本公开的一实施例的图5和7的过程的示例实现。具体而言,图9演示了其中基于源UE(或即UE 1)与特定目标设备具有的信任度来共享不同量或不同类型的因应用而异的元数据的示例。图9还演示了其中单个应用贡献与截屏相关的显示帧的一部分中的全部相关图像数据的示例。在一示例中,这可以在单个应用正在全屏模式中操作时发生,或者在截屏的边界取向在其中单个应用是贡献图像数据的唯一应用的显示帧的一部分上的情况下发生。为方便起见,以下参照单个应用(或应用1)描述以下图9的过程,尽管在截屏区域之外有可能存在其中其他应用(或相同应用的不同实例)正在贡献图像数据的显示帧的区域。图9还表示其中UE 1自身捕捉截屏+的示例,与如上所述的UE可以取得另一UE的显示屏的快照以生成截屏+的情况相反。
参照图9,在框900,由应用1贡献的图像数据正在UE 1的显示屏上的显示帧中输出。在框905,检测到截屏捕捉请求(例如,如在图5的框500)。在框910,捕捉到截屏+,其中截屏+包含关于应用1的截屏加上因应用而异的元数据(例如,如在图5的框505-515)。
参照图9,在框915,UE 1接收到对将截屏+发送到服务器(举例而言,诸如服务器170,其可以对应于示例中的社交联网服务器)的请求。在图9的实施例中,假定UE 1在服务器中具有低信任级别(例如,服务器的信任分数低于第一信任阈值)。在框920,响应于UE 1在服务器中的低信任级别而将关于截屏+的原始图像数据发送到服务器。在一示例中,可以在UE 1处执行过滤操作以从包含原始图像数据的截屏文件中移除任何潜在敏感的因应用而异的元数据,以产生要在框920发送到服务器的截屏+的版本。在替换示例中,如果关于包含原始图像数据的截屏+的截屏文件与包含关于应用1的因应用而异的元数据的文件是分开存储的,则关于截屏+的截屏文件可以在框920上传到服务器而无需进行修改(但是在不附加包含因应用而异的元数据的分开文件的情况下)。在框925,服务器与UE 3共享关于截屏+的图像数据。在框930,UE 3通过简单地显示图像数据(例如,类似于任何其他图像文件),以常规方式来访问关于截屏+的图像数据,而无需启动应用1(或与应用1相当的应用)。虽然框915-930描述了其中服务器重新分布关于截屏+的图像数据的场景,但是将领会,这一场景中的服务器表示任何中间设备。在其他实施例中,UE 1可以在另一UE中具有低信任,并且仅将关于截屏+的图像数据发送到低可信的UE。低可信的UE随后可以将关于截屏+的图像数据重新分发给一个或多个其他设备,类似于框925-930处的服务器。
参照图9,在框935,UE 1接收对向UE 2和4发送截屏+的请求。在图9的实施例中,假定UE 1在UE 2中具有中间信任级别(例如,针对UE 2的信任分数高于第一信任阈值且低于第二信任阈值),并且该UE 1在UE 4(例如,针对UE 4的信任分数高于第一和第二信任阈值)中具有高信任级别。在一示例中,UE 1相对于各种实体的信任级别可以是用户指定的(例如,UE 1将某些实体标记为家人或朋友等),或者是根据UE 1与相应的实体之间的交互的分析来确定的。相应的信任阈值也可以是用户指定的或预定义为OS设置。
参照图9,在框940,响应于UE 1在UE 4中的高信任度,将关于截屏+的图像数据连同未经过滤版本的因应用而异的元数据一起发送到UE 4。在框945,响应于UE 1在UE 2中的中间信任度,将关于截屏+的图像数据连同经过滤版本的因应用而异的元数据一起发送到UE 2。在一示例中,可以在UE 1处执行过滤操作以从截屏文件中移除特定因应用而异的元数据,以产生要在框945发送到服务器的截屏+的版本,而对于发送到UE 4的截屏+的版本不执行这一过滤操作。
参照图9,在框950,假定应用1终止在UE 1上。在框955,UE 1接收对基于关于截屏+的因应用而异的元数据来加载应用1会话状态的请求(例如,如在图7的框705)。取代简单地将关于截屏+的图像数据加载为图片文件,UE 1在框960启动应用1,并且随后应用1处理关于应用1的因应用而异的元数据,以在框965重新创建应用1会话状态的一个或多个特征(例如,如在图7的框710)。
参照图9,在框970,在从UE 1接收到经过滤截屏+之后的某个时刻,UE2接收对基于关于截屏+的经过滤的因应用而异的元数据来从截屏+加载应用1会话状态的请求(例如,如在图7的框705)。取代简单地将关于截屏+的图像数据加载为图片文件,UE 2评估适合于处理关于截屏+的因应用而异的元数据的应用是否在该UE 2上可用。例如,关于截屏+的因应用而异的元数据可以指定所要求的应用类别(例如,通用web浏览器,以使得可以接受任何类型的Web浏览器)、特定要求的应用(例如,Chrome浏览器)、所要求的版本号(例如,ChromeiOS浏览器版本6或更高版本、Safari iOS浏览器版本8或更高版本等)、或其组合(例如,与iOS版本10或更高版本兼容的任何web浏览器)。在另一示例中,关于截屏+的因应用而异的元数据可以包括版本表格,该版本表格指定要针对正尝试重构应用会话状态的不同版本应用的会话状态重新创建来执行的不同指令,如上所述。如果UE 2确定需要安装新应用或者需要更新现有应用以处理因应用而异的元数据,则UE 2在框974安装或更新应用。在框978,启动应用(例如,应用1或者与应用1相当的应用,这取决于如上所提及的在因应用而异的元数据中阐述的应用要求),并且在框982,应用处理经过滤的因应用而异的元数据以从截屏+重新创建应用1会话状态的一些或全部特征。以下更详细地描述了可以在框982发生的处理类型的示例。
参照图9,在框986,在从UE 1接收到未经过滤截屏+之后的某个时刻,UE 4接收对基于关于截屏+的未经过滤的因应用而异的元数据来从截屏+加载应用1会话状态的请求(例如,如在图7的框705)。取代简单地将关于截屏+的图像数据加载为图片文件,UE 4评估适合于处理关于截屏+的因应用而异的元数据的应用是否在该UE 4上可用,如以上在框974参照UE 2所描述的。如果UE 4确定需要安装新应用或者需要更新现有应用以处理因应用而异的元数据,则UE 4在框990安装或更新应用。在框994,启动应用(例如,应用1或者与应用1相当的应用,取决于如上所提及的在因应用而异的元数据中阐述的应用要求),并且在框998,应用处理未经过滤的因应用而异的元数据以从截屏+重新创建应用1会话状态的一些或全部特征。以下更详细地描述了可以在框998发生的处理类型的示例。
图10解说了根据本公开的一实施例的基于对图9的过程的示例执行的应用会话状态重新创建1000。在图10中,来自图9的UE 1被解说为智能手机1005,UE 4被解说为智能手机1015,并且应用1对应于移动YouTube应用。显示屏1010表示当移动YouTube应用执行题为“Cat Video Compilation–2016(猫视频编辑-2016)”的视频时取得的、具体地在总长度为14:10(14分10秒)的视频的时间点4:07(4分7秒)处取得的截屏+的图像数据。如显示屏1010中所描绘的,视频当前具有113,555个总视图,正在向智能手机1005的用户建议相关视频1,并且正在向智能手机1005的用户推送广告赞助视频1。
在截屏+中表征移动YouTube应用的会话状态的因应用而异的元数据1020(或应用会话状态元数据)的示例如下:
应用ID:YouTube(版本6或更高版本)
统一资源定位符(URL):https://youtu.be/abcdefg
视频时间:4:07
基于因应用而异的元数据1020,智能手机1015(若需要)安装或更新移动YouTube应用,导航到URL“https://youtu.be/abcdefg”并直接前进到所指定的4:07时间点。在显示屏1025中描绘了智能手机1015处的移动YouTube应用的结果会话状态。将领会,如在智能手机1015处的显示屏1025中描绘的移动YouTube应用的结果会话状态与如在智能手机1005的显示屏1010中描绘的移动YouTube应用的初始会话状态不同,因为各种参数被改变了(例如,视图的数目不同、以及建议/推送了不同的相关/广告赞助视频)。相应地,移动YouTube应用的初始会话状态的每个特征不需要被重新创建为智能手机1015处的会话状态重新创建的一部分(尽管这可能在某些场景中发生)。
图11解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建1100。在图11中,来自图9的UE 1被解说为计算机1105(例如,台式计算机或膝上型计算机),UE 4替换地被解说为智能电话1115和计算机1125(例如,台式计算机或膝上型计算机),并且应用1对应于web浏览器。显示屏1110表示在web浏览器显示特定网页(例如,以https://www.amazon.com/tennisrackets/...开始,出于描述目的这是部分URL)时取得的截屏+的图像数据。更具体地,用户已在网页内向下滚动,以使得特定的网球拍被列出为正以99.99美元出售。
在截屏+中表征web浏览器的会话状态的因应用而异的元数据1135(或应用会话状态元数据)的示例如下:
应用ID:专用亚马逊应用(若可用)或默认Web浏览器
URL:https://www.amazon.com/tennisrackets/...
基于因应用而异的元数据1135,智能手机1115检查专用亚马逊应用是否已经安装在智能手机1115上。若为是,则使用该专用亚马逊应用来加载对应于所指定URL的产品页面。若为否,则智能电话1115上的默认web浏览器(例如,移动web浏览器)导航到所指定的URL,如在显示屏1120内所示。如在显示屏1120中描绘的智能电话1115处的移动web浏览器的结果会话状态与如在智能手机1105处的显示屏1110中描绘的web浏览器的初始会话状态不同,因为各种参数被改变了(例如,智能手机1115被重定向到URL的移动版本等)。
如上所提及的,计算机1125是除了智能手机1115之外还接收截屏+的另一目标设备。基于因应用而异的元数据1135,计算机1125检查专用亚马逊应用是否已经安装在计算机1125上。若为是,则使用该专用亚马逊应用来加载对应于所指定的URL的产品页面。若否,则计算机1125上的默认web浏览器(例如,完整功能的web浏览器或非移动web浏览器)导航到所指定的URL,如在显示屏1130内所示。在一示例中,显示屏1110上web站点正被查看的滚动位置也可以被记录为因应用而异的元数据1135的一部分,以使得计算机1125处的web浏览器可以加载所指定的URL并且还将滚动条向下移动到因应用而异的元数据1135中所记录的相同点,以更接近地重新创建由截屏+定义的会话状态。
图12A解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建1200A。在图12A中,来自图9的UE 1被解说为智能手机1205A,UE 4被解说为智能手机1215A,并且应用1对应于移动Google Maps(谷歌地图)应用。显示屏1210A表示当移动Google Maps应用居中在特定目标地址(例如,美国华盛顿特区宾夕法尼亚大道1600(1600Pennsylvania Avenue,Washington,DC),这是白宫(White House)的地址)上时所取得的屏幕截屏+的图像数据。
在截屏+中表征移动Google Maps应用的会话状态的因应用而异的元数据1225A(或应用会话状态元数据)的示例如下:
应用ID:Google Maps
地址:美国华盛顿特区宾夕法尼亚大道1600
基于因应用而异的元数据1225A,智能手机1215A检查智能手机1215A上是否已经安装了Google Maps应用(例如,移动Google Maps应用,这是因为智能手机1215A是移动设备)。在一示例中,若为否,则提示用户下载并安装移动Google Maps应用,或者替换地自动下载并安装移动Google Maps应用。移动Google Maps应用随后处理因应用而异的元数据1225A,键入华盛顿特区宾夕法尼亚大道1600作为目标地址,从而导致显示屏1220A围绕白宫居中。在一示例中,还可以将显示屏1210A上正以其来查看白宫的缩放信息(例如,特定地理边界、缩放比例等)记录为因应用而异的元数据1225A的一部分,以使得智能手机1215A处的移动Google Maps应用可以按与显示屏1210A中的目标地址的描绘相当的目标缩放级别来加载目标地址。
图12B解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建1200B。在图12B中,来自图9的UE 1被解说为智能手机1205B,UE 2被解说为计算机1215B(例如,台式或膝上型计算机),并且应用1对应于移动Google Maps应用。显示屏1210B表示当移动Google Maps应用居中在特定目标地址(例如,美国华盛顿特区宾夕法尼亚大道1600,这是白宫的地址)上时所取得的屏幕截屏+的图像数据。
在截屏+中表征移动Google Maps应用的会话状态的经过滤的因应用而异的元数据1225B(或应用会话状态元数据)的示例如下:
应用ID:Google Maps
地址:美国华盛顿特区市中心(Downtown Washington,DC)
因应用而异的元数据1225B被表征为经过滤的,这是因为更具体的地址(美国华盛顿特区宾夕法尼亚大道1600)从因应用而异的元数据1225B变得模糊并且以较通用的“市中心(Downtown)”指定来替代,类似于参照图9中的UE 2的框935和945。例如,美国华盛顿特区宾夕法尼亚大道1600可以对应于智能手机1205B的当前或未来位置,智能手机1205B的用户可能不一定想要与计算机1215B共享该当前或未来位置(例如,精确位置可能不希望在社交网络上或与中间信任级别的朋友共享,等等)。
基于经过滤的因应用而异的元数据1225B,计算机1215B检查与Google Maps兼容的应用是否已经安装在计算机1215B上。在这种情形中,假定计算机1215B确定导航到Google Maps网站的默认web浏览器有资格作为合适的Google Maps应用。相应地,默认web浏览器(例如,描绘为Chrome浏览器)通过键入美国华盛顿特区市中心作为目标地址(或目标区域)来处理因应用而异的元数据1225B,从而导致显示屏1220B围绕华盛顿特区市中心居中。借助于以上提及的元数据过滤,相对于在显示屏1210B中的移动Google Maps应用的会话状态中更具体定义的地址的描绘,显示屏1220B中的华盛顿特区的视角更加缩小。
图13解说了根据本公开的另一实施例的基于对图9的过程的示例执行的应用会话状态重新创建1300。在图13中,来自图9的UE 1被解说为智能手机1305,UE 4被解说为智能手机1315,并且应用1对应于移动WeChat(微信)应用(例如,群消息收发应用)。显示屏1310表示关于截屏+的图像数据,而移动WeChat应用解说了特定聊天群“同学”之间的聊天对话的特定部分。
在截屏+中表征移动WeChat应用的会话状态的因应用而异的元数据1325(或应用会话状态元数据)的示例如下:
应用ID:WeChat
统一资源标识符(URI):到“同学”群聊中的深度链接
基于因应用而异的元数据1325,智能手机1320(假定其由名为“Joe”的用户来操作)检查智能手机1315上是否已经安装了WeChat应用(例如,移动WeChat应用,这是因为智能手机1315是移动设备)。假定安装了移动WeChat应用,则移动WeChat应用通过加载相关聊天历史来处理在因应用而异的元数据1325的URI中所指定的深度链接,并直接导航到在截屏+中描绘的聊天历史部分,如在显示屏1320内所示。如在显示屏1320中描绘的智能电话1315处的移动WeChat应用的结果会话状态与如在智能手机1305处的显示屏1310中描绘的移动WeChat应用的初始会话状态不同,因为各种参数被改变了(例如,智能手机1320被注册到用户“Joe”,所以移动WeChat应用在显示屏1320中将来自Joe的任何聊天贡献指定为“Me(我)”,而不是将此类贡献指定为来自“Joe”)。
虽然图9-13涉及图5和7的过程的示例实现,其中与特定截屏+相关联的因应用而异的元数据涉及单个应用,还有可能图5和7的过程涉及截屏+,该截屏+包括关于将图像数据贡献给截屏+的图像数据部分的多个应用的因应用而异的元数据,现在将参照图14-16B来描述。
图14解说了根据本公开的另一实施例的图5和7的过程的示例实现。具体而言,图14演示了其中多个应用正将图像数据贡献给与截屏相关的显示帧的一部分的示例,其中关于截屏+的与这些多个应用中的两个或更多个应用相关联的因应用而异的元数据用于与外部目标设备进行共享。在一示例中,这可以当多个应用正在分开的窗口内操作时发生,这些分开的窗口各自在显示屏中正在输出的显示帧的截屏区域中可视。还有可能在截屏区域之外存在其中其他应用(或相同应用的不同实例)正在贡献图像数据的显示帧区域。图14还表示其中UE 1自身捕捉截屏+的示例,与如上所述的UE可以取得另一UE的显示屏的快照以生成截屏+的情况相反。
参照图14,在框1400,由应用1、2、3贡献的图像数据正在UE 1的显示屏上的显示帧中输出。在框1405,检测到截屏捕捉请求(例如,如在图5的框500)。在框1410,UE 1确定不能获得定义应用3的当前会话状态的因应用而异的元数据。在一示例中,关于应用3的因应用而异的元数据可能基于应用3被配置为受保护应用(例如,经由UE 1的OS处的安全设置、或经由构建到应用3自身中的安全设置)而不可用,作为安全性预防措施(例如,其可以是默认安全性设置或用户配置的设置),该受保护应用不准许共享因应用而异的元数据。在另一示例中,关于应用3的因应用而异的元数据可能不可用,这是因为应用3是不支持共享因应用而异的元数据的旧式应用(例如,应用3不知道如何共享将帮助重新创建应用3的当前会话状态的特征的信息)。在框1415,捕捉到截屏+,其中截屏+包含关于应用1和2的截屏加上因应用而异的元数据(例如,如在图5的框505-515)。
参照图14,在框1420,UE 1接收对向UE 2、3和4发送截屏+的请求。在图14的实施例中,为了便于解释,假定不执行元数据过滤(例如,因为信任等级不用于选择性元数据过滤、或者UE 1具有的针对UE 2、3和4的信任等级高于最高信任阈值或在其之上)。然而,将领会,在其他实施例中,可以针对UE 2、3和4中的一个或多个UE执行元数据过滤,如以上参照图9的过程中的服务器和UE 2所描述的。在框1425,将关于截屏+的图像数据连同关于应用1和2的因应用而异的元数据一起发送到UE 2、3和4。
参照图14,在框1430,在从UE 1接收到截屏+之后的某个时刻,UE 2接收对基于关于截屏+的因应用而异的元数据来从截屏+加载应用1会话状态和应用2会话状态的请求(例如,如在图7的框705)。在一示例中,虽然框1430描绘了对构建两个应用会话状态的请求,但是截屏+可以被构建成准许使用因应用而异的元数据的选择性应用会话状态加载(例如,仅加载应用1会话状态、仅加载应用2会话状态等),如以下将参照框1450-1485所描述的。
取代简单地将关于截屏+的图像数据加载为图片文件,UE 2评估适合于处理关于如在截屏+中描绘的应用1会话状态和应用2会话状态的因应用而异的元数据的应用是否在该UE 2上可用。如果UE 2确定需要安装一个或多个新应用或者需要更新一个或多个现有应用来处理因应用而异的元数据,以供重新创建应用1会话状态或应用2会话状态,则UE 2在框1435安装或更新(诸)应用。在框1440,启动各应用(例如,应用1和2、与应用1和2相当的应用、或其组合,这取决于如上所提及的在因应用而异的元数据中阐述的应用要求),并且在框1445,应用处理因应用而异的元数据的相应的应用1部分和应用2部分,以分别从截屏+重新创建应用1会话状态和应用2会话状态的一些或全部特征。以下更详细地描述了可以在框1445发生的处理类型的示例。
参照图14的框1445,在一示例中,在UE 2处描绘来自应用1会话状态和应用2会话状态的重新创建的任何图像数据的屏幕部分可以被分配给与在UE 1处所捕捉截屏中所描绘的类似的屏幕部分(例如,如果截屏描绘了在显示帧左侧的应用1窗口和在显示帧右侧的应用2窗口,则可以在UE 2上的结果应用会话状态重新创建中维持这些相同的相对位置)。在一示例中,相对屏幕位置数据可以作为因应用而异的元数据的一部分来传达,尽管还有可能在不参考相应应用的相对屏幕位置数据的情况下配置因应用而异的元数据。
参照图14,在框1450,在从UE 1接收到截屏+之后的某个时刻,UE 3接收对基于关于截屏+的因应用而异的元数据来从截屏+加载应用1会话状态的请求(例如,如在图7的框705)。换言之,UE 3对重新创建应用2会话状态不感兴趣。取代简单地将关于截屏+的图像数据加载为图片文件,UE 3评估适合于处理关于如在截屏+中描绘的应用1会话状态的因应用而异的元数据的应用是否在该UE 3上可用。如果UE 3确定需要安装新应用或者需要更新现有应用,以处理关于应用1会话状态的重新创建的因应用而异的元数据,则UE 3在框1455安装或更新(诸)应用。在框1460,启动应用(例如,应用1、或者与应用1相当的应用,这取决于如上所提及的在因应用而异的元数据中阐述的应用要求),并且在框1465,应用处理因应用而异的元数据的相应的应用1部分,以从截屏+重新创建应用1会话状态的一些或全部特征。以下更详细地描述了可以在框1465发生的处理类型的示例。
参照图14,在框1470,在从UE 1接收到截屏+之后的某个时刻,UE 4接收对基于关于截屏+的因应用而异的元数据来从截屏+加载应用2会话状态的请求(例如,如在图7的框705)。换言之,UE 4对重新创建应用1会话状态不感兴趣(与UE 3形成直接对比,如在框1450-1465中所示)。取代简单地将关于截屏+的图像数据加载为图片文件,UE 4评估适合于处理关于如在截屏+中描绘的应用2会话状态的因应用而异的元数据的应用是否在该UE 4上可用。如果UE 4确定需要安装新应用或者需要更新现有应用,以处理关于应用2会话状态的重新创建的因应用而异的元数据,则UE 4在框1475安装或更新(诸)应用。在框1480,启动应用(例如,应用1、或者与应用1相当的应用,这取决于如上所提及的在因应用而异的元数据中阐述的应用要求),并且在框1485,应用处理因应用而异的元数据的相应的应用2部分,以从截屏+重新创建应用2会话状态的一些或全部特征。以下更详细地描述了可以在框1485发生的处理类型的示例。
图15A解说了根据本公开的一实施例的基于对图14的过程的示例执行的截屏+的因应用而异的元数据生成。在图15A中,来自图14的UE 1被解说为具有显示屏1510A的计算机1505A,应用1对应于在围绕美国华盛顿特区宾夕法尼亚大道1600居中的Google MapsURL处的Chrome web浏览器,如在显示屏1510A的窗口1515A中描绘的,而应用2对应于导航到关于“白宫”的谷歌图像搜索URL的Chrome web浏览器的不同实例,如在显示屏1510A的窗口1520A中所描绘的。例如,操作计算机1505A的用户可能正在研究旅行以观看华盛顿特区中的白宫。
窗口1520A居中在来自图像搜索结果的一个特定缩略图上,因此这一缩略图可以被标识(或标记)为关于应用2因应用而异的元数据中的焦点对象。相应地,显示屏1510A表示关于截屏+的图像数据,其中表征移动Google Maps应用的会话状态的因应用而异的元数据1530A(或应用会话状态元数据)的示例如下:
应用ID1:Google Maps
地址:美国华盛顿特区宾夕法尼亚大道1600
应用ID2:默认Web浏览器
URI:关于“白宫图片”的Google图像搜索(Google Image Search for“WhiteHouse Pictures”)
焦点对象:经标记的缩略图中的白宫图片(White House Pictures)
如上所示,可以将对象焦点字段添加到关于截屏+中的应用2会话状态的因应用而异的元数据,其可以被配置成使得通过首先导航到关于白宫图片的图像搜索结果来将应用2会话状态重新创建为在应用2会话状态的URI中所指定的白宫图片,并且随后将结果得到的网页(例如,通过自动向下滚动或放大)居中在来自如在截屏+中描绘的在应用2会话状态中的经标记的缩略图的特定白宫图片上。在这一示例中,白宫是因位置而异的感兴趣点(POI)信息的示例,其可以作为因应用而异的元数据的一部分被包括。
图15B解说了根据本公开的一实施例的基于对图14的过程的示例执行的在以上参照图15A描述的截屏+的应用会话状态重新创建规程。在图15B中,来自图14的UE 3被解说为具有显示屏1505B的智能手机1500B,来自图14的UE 2被解说为具有显示屏1515B的计算机1510B(例如,膝上型计算机或台式计算机等),其中应用1和2如以上参照图15A所描述的来配置。
参照图15B,智能手机1500B接收如上参照图15A所描述的因应用而异的元数据1525A。假定智能手机1500B仅接收对加载应用1会话状态的请求(例如,如在图14的框1450)。相应地,基于因应用而异的元数据1525A,智能手机1500B检查智能手机1500B上是否已经安装了Google Maps应用(例如,移动Google Maps应用,这是因为智能手机1500B是移动设备)。若否,则下载并安装移动Google Maps应用。移动Google Maps应用随后通过键入美国华盛顿特区宾夕法尼亚大道1600作为目标地址来处理因应用而异的元数据1525A的应用1部分,从而导致显示屏1505B围绕白宫居中。在一示例中,还可以将显示屏1505B上正以其来查看白宫的缩放信息(例如,特定地理边界、缩放比例等)记录为因应用而异的元数据1525A的一部分,以使得智能手机1500B处的移动Google Maps应用可以按与图15A的窗口1515A中的目标地址的描绘相当的目标缩放级别来加载目标地址。
参照图15B,计算机1510B接收如上参照图15A所描述的因应用而异的元数据1525A。假定计算机1510B接收对加载应用1会话状态和应用2会话状态两者的请求(例如,如在图14的框1430)。相应地,基于因应用而异的元数据1525A,计算机1510B检查是否已经在计算机1510B上安装了与Google Maps兼容的应用以供重新创建应用1会话状态,并且还检查是否已经在该接收机1510B上安装了web浏览器以供重新创建应用2会话状态。在这种情形中,假定计算机1510B确定导航到Google Maps网站的默认web浏览器有资格作为用于重新创建应用1会话状态的合适的Google Maps应用,其中这一相同web浏览器已经足以重新创建应用2会话。
相应地,默认web浏览器(例如,描绘为Chrome浏览器)处理因应用而异的元数据1525A,以在窗口1520B中重新创建应用1会话状态以及在窗口1525B中重新创建应用2会话状态。具体而言,窗口1525B可以处理因应用而异的元数据1525A,不仅加载具有相关白宫图像结果的适当网页,而且还使网页围绕焦点对象(即,来自如在图15A中描绘的截屏+的应用2窗口的经标记的缩略图)居中。在一示例中,尽管未在图15B中描绘,但是因应用而异的元数据1525A可以被进一步配置成包括用于相应的窗口的相对屏幕位置数据,以使得窗口1520B-1525B的位置布置与相应的显示屏内的图15B的对应窗口1515A和1520A对齐。
图16A解说了根据本公开的一实施例的用于截屏+的因应用而异的元数据生成。类似于图15A,描绘了具有显示屏1610A的计算机1605A。显示屏1610A包括窗口1615A(其描绘了在围绕美国华盛顿特区宾夕法尼亚大道1600居中的Google Maps URL处的Chrome web浏览器)和窗口1620A(其描绘了导航到关于“白宫”的Google图像搜索URL的Chrome web浏览器的不同实例)。例如,操作计算机1605A的用户可能正在研究旅行以观看华盛顿特区中的白宫。
与图15A不同,如在框1625A中所示,用户将显示屏1610A内的截屏+限制为仅在窗口1615A中所包含的图像数据,其中任何外部图像数据(包括窗口1620A)被排除在截屏+之外。因此,图16A在由单个应用(例如,生成窗口1615A的Chrome web浏览器)贡献的图像数据被捕捉在截屏+中的意义上演示了图9的示例实现。在因Windows OS而异的示例中,用户可以通过用鼠标左键单击在窗口1615A上并且随后在键盘上同时按ALT和Printscreen键来发起因窗口而异的截屏。替换地,在其中显示屏1610A在正捕捉截屏的UE外部的快照示例中,用户可以使UE较靠近于显示屏1610A,或者可以放大窗口1615A以捕捉截屏+中的窗口1615A,而无需捕捉窗口1620A。
相应地,窗口1615A表示关于截屏+的图像数据,其中表征截屏+中的web浏览器的会话状态的因应用而异的元数据1653A(或应用会话状态元数据)的示例如下:
应用ID:Google Maps
地址:美国华盛顿特区宾夕法尼亚大道1600
图16B解说了根据本公开的一实施例的在以上参照图16A描述的截屏+的应用会话状态重新创建规程。类似于图15B,描绘了具有显示屏1605A的智能手机1600B,以及包括显示屏1615B的计算机1610B。
参照16B,智能手机1600B接收如上参照图16A所描述的因应用而异的元数据1630A。假定智能手机1600B接收对加载应用1会话状态的请求(例如,如在图9的框970或框986中)。相应地,基于因应用而异的元数据1630A,智能手机1600B检查智能手机1600B上是否已经安装了Google Maps应用(例如,移动Google Maps应用,这是因为智能手机1600B是移动设备)。若为否,则下载并安装移动Google Maps应用。移动Google Maps应用随后通过键入美国华盛顿特区宾夕法尼亚大道1600作为目标地址来处理因应用而异的元数据1630A,从而导致显示屏1605B围绕白宫居中。在一示例中,还可以将显示屏1605B上正以其来查看白宫的缩放信息(例如,特定地理边界、缩放比例等)记录为因应用而异的元数据1630A的一部分,以使得智能手机1600B处的移动Google Maps应用可以按与图15A的窗口1615A中的目标地址的描绘相当的目标缩放级别来加载目标地址。
参照图16B,计算机1610B接收如上参照图16A所描述的因应用而异的元数据1630A。假定计算机1610B接收对加载应用1会话状态的请求(例如,如在图9的框970或框986)。相应地,基于因应用而异的元数据1630A,计算机1610B检查与Google Maps兼容的应用是否已经安装在计算机1610B上以供重新创建应用1会话状态。在这种情形中,假定计算机1610B确定导航到Google Maps网站的默认web浏览器有资格作为合适的Google Maps应用以供重新创建应用1会话状态。相应地,默认web浏览器(例如,描绘为Chrome浏览器)处理因应用而异的元数据1630A,以在窗口1620B中重新创建应用1会话状态。
可以与截屏捕捉相关联地获得并且被用于重新创建应用会话状态的一些或全部特征的因应用而异的元数据的各示例在以上参照图10-13和15A-16B描述,这些实施例仅旨在出于解说性目的而并不旨在进行限制。可被用于重新创建应用会话状态的因应用而异的元数据的一些附加的示例如下:
表1-基于因应用而异的元数据的应用会话状态重新创建示例
虽然表1描绘了应用会话状态元数据列中的数据的各种组合,但是将领会,每个数据元素可以按任何组合来(一起或分开地)部署。例如,表1的示例#6中的URI列出了各种与产品相关的URI参数。这些相同的URI参数可以在其他上下文中用于定位具有URL的产品(或其他类型的网页),该URL已经通过一般地通过web浏览器(例如,Google搜索等)来进行搜索或者运行因站点而异的搜索(例如,Amazon.com等)来改变。例如,如果在表6的示例#1或#2中的视频通话中示出了一产品,则可以将与该产品相关联的产品相关URI参数添加到因应用而异的元数据中。在另一示例中,如果产品与表1的示例#5中的歌词相关联(例如,JimmyBuffet’s“Margaritaville”(吉米·巴菲特的玛格丽特酒镇)与各种热带酒精饮料相关联),则可以将与该产品相关联的产品相关URI参数添加到因应用而异的元数据,等等。
本领域技术人员将领会,信息和信号可使用各种不同技术和技艺中的任何一种来表示。例如,贯穿上面说明始终可能被述及的数据、指令、命令、信息、信号、比特、码元和码片可由电压、电流、电磁波、磁场或磁粒子、光场或光粒子、或其任何组合来表示。
此外,本领域技术人员将领会,结合本文所公开的各实施例描述的各种解说性逻辑框、模块、电路和算法步骤可被实现为电子硬件、计算机软件、或两者的组合。为清楚地解说硬件与软件的这一可互换性,各种解说性组件、块、模块、电路、以及步骤在上面是以其功能性的形式作一般化描述的。此类功能性是被实现为硬件还是软件取决于具体应用和施加于整体系统的设计约束。技术人员可针对每种特定应用以不同方式来实现所描述的功能性,但此类实现决策不应被解读为致使脱离本发明的范围。
结合本文所公开的各实施例描述的各种说明性逻辑框、模块和电路可以用被设计成执行本文所描述的功能的通用处理器、DSP、ASIC、FPGA、或其他可编程逻辑器件、分立的门或晶体管逻辑、分立的硬件组件、或其任何组合来实现。通用处理器可以是微处理器,但在替换方案中,该处理器可以是任何常规的处理器、控制器、微控制器、或状态机。处理器还可以被实现为计算设备的组合,例如,DSP与微处理器的组合、多个微处理器、与DSP核心协同的一个或多个微处理器、或任何其他此类配置。
结合本文中所公开的各实施例描述的方法、序列和/或算法可直接在硬件中、在由处理器执行的软件模块中、或在这两者的组合中体现。软件模块可驻留在RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM或者本领域中所知的任何其他形式的存储介质中。示例性存储介质耦合到处理器以使得该处理器能从/向该存储介质读写信息。替换地,存储介质可被整合到处理器。处理器和存储介质可驻留在ASIC中。ASIC可驻留在用户终端(例如,UE)中。在替换方案中,处理器和存储介质可作为分立组件驻留在用户终端中。
在一个或多个示例性实施例中,所描述的功能可在硬件、软件、固件或其任何组合中实现。如果在软件中实现,则各功能可以作为一条或多条指令或代码存储在计算机可读介质上或藉其进行传送。计算机可读介质包括计算机存储介质和通信介质两者,包括促成计算机程序从一地向另一地转移的任何介质。存储介质可以是能被计算机访问的任何可用介质。作为示例而非限定,这样的计算机可读介质可包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、或能用于携带或存储指令或数据结构形式的期望程序代码且能被计算机访问的任何其它介质。任何连接也被正当地称为计算机可读介质。例如,如果软件是使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)、或诸如红外、无线电、以及微波之类的无线技术从网站、服务器、或其他远程源传送的,则该同轴电缆、光纤电缆、双绞线、DSL、或诸如红外、无线电、以及微波之类的无线技术就被包括在介质的定义之中。如本文所使用的盘(disk)和碟(disc)包括压缩碟(CD)、激光碟、光碟、数字多功能碟(DVD)、软盘和蓝光碟,其中盘(disk)通常以磁的方式再现数据,而碟(disc)用激光以光学方式再现数据。以上组合应当也被包括在计算机可读介质的范围内。
尽管前面的公开示出了本公开的解说性实施例,但是应当注意,在其中可作出各种变更和修改而不会脱离如所附权利要求定义的本公开的范围。根据本文中所描述的本公开实施例的方法权利要求的功能、步骤和/或动作不必按任何特定次序来执行。此外,尽管本公开的要素可能是以单数来描述或主张权利的,但是复数也是已料想了的,除非显式地声明了限定于单数。
Claims (30)
1.一种操作用户装备(UE)的方法,包括:
检测对捕捉正在显示屏上输出的图像数据的截屏的请求;
获得因应用而异的元数据,所述因应用而异的元数据被配置成促成重新创建应用的会话状态的一个或多个特征,所述应用在检测到所述请求时贡献正在所述显示屏上输出的所述图像数据的至少一部分;
响应于所述请求而选择性地捕捉正在所述显示屏上输出的所述图像数据的所述截屏;以及
存储所获得的因数据而异的元数据。
2.如权利要求1所述的方法,其特征在于,所述获得从以下各项获得所述因应用而异的元数据:
(i)所述应用,
(ii)所述UE的操作系统,
(iii)正在所述显示屏上输出的所述图像数据,
(iv)外部设备,或者
(v)其任何组合。
3.如权利要求1所述的方法,其特征在于,
所述显示屏是所述UE的一部分,或者
其中所述显示屏是另一UE的一部分,其中所述选择性捕捉将所述截屏捕捉为由所述UE的相机捕捉的所述另一UE的显示屏的快照。
4.如权利要求1所述的方法,其特征在所捕捉于,
所述选择性捕捉捕捉所述截屏,并且
其中,所述存储进一步将所捕捉截屏与所获得的因应用而异的元数据相关联地存储。
5.如权利要求1所述的方法,其特征在于,进一步包括:
在所述存储之后,更新所述因应用而异的元数据和/或响应于所述请求而捕捉的所捕捉截屏。
6.如权利要求1所述的方法,其特征在于,所述更新包括:
移除与所捕捉截屏的经裁剪部分相关联的所述因应用而异的元数据中的一些,或
响应于用户提供的补充信息而添加新的因应用而异的元数据,或
删除所捕捉截屏而同时保留所存储的因应用而异的数据,或
添加与在所述图像数据中标识的一个或多个信息对象相关联的新的因应用而异的元数据。
7.如权利要求1所述的方法,其特征在于,所述选择性捕捉捕捉所述截屏,并且:
其中所捕捉截屏是全屏截屏,所述全屏截屏包括正在所述显示屏上输出的所述图像数据的全部,或
其中所捕捉截屏是部分截屏,所述部分截屏包括比正在所述显示屏上输出的所述图像数据的全部少的图像数据。
8.如权利要求1所述的方法,其特征在于,所述应用是多个应用之一,所述多个应用贡献正在所述显示屏上输出的所述图像数据的一些部分。
9.如权利要求8所述的方法,其特征在于,进一步包括:
获得附加的因应用而异的元数据,所述因应用而异的元数据定义至少一个附加应用的至少一个附加会话状态,所述至少一个附加应用在检测到所述请求时贡献正在所述显示屏上输出的所述图像数据的至少一个其他部分,
其中所述存储存储关于所述应用的所获得的因应用而异的元数据和关于所述至少一个附加应用的所获得的因应用而异的元数据两者。
10.如权利要求8所述的方法,其特征在于,
至少一个附加应用正在位于所述显示屏上在目标截屏区域之外的部分中贡献所述图像数据的至少一个其他部分,并且
其中不存储关于所述至少一个附加应用的因应用而异的元数据。
11.如权利要求8所述的方法,其特征在于,
至少一个附加应用正在位于所述显示屏上在目标截屏区域之内的部分中贡献所述图像数据的至少一个其他部分,
其中所述至少一个附加应用不准许共享因应用而异的元数据,并且
其中不存储关于所述至少一个附加应用的因应用而异的元数据。
12.如权利要求1所述的方法,其特征在于,所述因应用而异的元数据包括统一资源定位符(URL)以及指示应当处理所述URL的方式的辅助信息。
13.如权利要求12所述的方法,其特征在于,所述辅助信息包括:
开始重新播放与所述URL相关联的视频的时间点,
用于加载所述URL的一个或多个应用的一个或多个应用标识符,
与所述URL相关联的网站内的一个或多个焦点对象,或
其任何组合。
14.如权利要求1所述的方法,其特征在于,
所述应用是地图应用,并且
其中所述因应用而异的元数据包括:地址、地理坐标、因位置而异的感兴趣点(POI)信息、缩放程度、或其任何组合。
15.如权利要求1所述的方法,其特征在于,
所述应用是聊天应用,并且
其中所述因应用而异的元数据包括:
标识聊天会话的特定部分的深度链接统一资源标识符(URI),
所述聊天应用的标识,
聊天群标识符或联系人标识符,
存储在所述UE上的关于与所述联系人标识符相关联的联系人的联系人信息,
由所述聊天应用在聊天会话期间交换的文本,
从所述UE的操作系统(OS)的复制功能推导出的文本,
所述显示屏上输出的所述图像数据内的由光学字符识别(OCR)推导出的文本,或
其任何组合。
16.如权利要求1所述的方法,其特征在于,
所述应用是视频呼叫应用,并且
其中所述因应用而异的元数据包括:
标识视频通话中的一个或多个参与者的信息,
一个或多个应用标识符,
与所述视频通话相关联的一个或多个面部的面部标识信息,或
其任何组合。
17.如权利要求1所述的方法,其特征在于,
所述应用是音乐应用,并且
其中所述因应用而异的元数据包括:
歌词、艺术家、专辑和/或音轨信息,
指示重新播放歌曲当前时间点的跟踪时间,或
其任何组合。
18.如权利要求1所述的方法,其特征在于,
所述应用是购物应用,并且
其中所述因应用而异的元数据包括:
订单确认页面,
订单标识符,
产品标识符,
产品名称,
产品统一资源定位符(URL),
图像URL,
图像替换文本,或
其任何组合。
19.如权利要求1所述的方法,其特征在于,所述因应用而异的元数据包括版本表格,所述版本表格被配置成提供不同的指令集,以用于基于正在尝试重新创建所述应用的所述会话状态的所述一个或多个特征的目标应用的版本来重新创建所述应用的所述会话状态的所述一个或多个特征。
20.一种操作用户装备(UE)的方法,包括:
获得因应用而异的元数据,所述因应用而异的元数据定义第一应用的在提出截屏捕捉请求时在显示帧内贡献图像数据的会话状态;
检测对加载由所述因应用而异的元数据定义的所述第一应用的所述会话状态的请求;以及
响应于所述请求,由第二应用来处理所述因应用而异的元数据,以重新创建由所述因应用而异的元数据定义的所述会话状态的一个或多个特征。
21.如权利要求20所述的方法,其特征在于,进一步包括:
检测在所述因应用而异的元数据中指定的应用要求;以及
响应于所述应用要求而在所述UE处安装新应用或更新现有应用以获得所述第二应用。
22.如权利要求20所述的方法,其特征在于,所述因应用而异的元数据进一步定义至少一个附加应用的至少一个附加会话状态,所述至少一个附加应用在提出所述截屏捕捉请求时在所述显示帧内贡献图像数据。
23.如权利要求20所述的方法,其特征在于,进一步包括:
获得响应于所述截屏捕捉请求而在给定UE处捕捉的所捕捉截屏,
其中所捕捉截屏是全屏截屏或部分截屏。
24.如权利要求20所述的方法,其特征在于,进一步包括:
获得响应于所述截屏捕捉请求而在给定UE处捕捉的所捕捉截屏,
其中所述UE与捕捉所捕捉截屏的所述给定UE不同,或
其中所述UE对应于捕捉所捕捉截屏的所述给定UE。
25.如权利要求20所述的方法,其特征在于,进一步包括:
在所述获得之后,更新所述因应用而异的元数据和/或与所捕捉的所述因应用而异的元数据相关联地接收到的所捕捉截屏。
26.如权利要求20所述的方法,其特征在于,所述因应用而异的元数据包括版本表格,所述版本表格被配置成提供因版本而异的指令,以用于基于所述第二应用的版本来重新创建所述第一应用的所述会话状态的所述一个或多个特征。
27.如权利要求20所述的方法,其特征在于,所述因应用而异的元数据包括统一资源定位符(URL)以及指示应当由所述第二应用来处理所述URL的方式的辅助信息。
28.如权利要求27所述的方法,其特征在于,所述辅助信息包括:
开始重新播放与所述URL相关联的视频的时间点,
用于加载所述URL的一个或多个应用的一个或多个应用标识符,
与所述URL相关联的网站内的一个或多个焦点对象,或
其任何组合。
29.一种用户装备(UE),包括:
至少一个处理器,其被配置成:
检测对捕捉正在显示屏上输出的图像数据的截屏的请求;
获得因应用而异的元数据,所述因应用而异的元数据被配置成促成重新创建应用的会话状态的一个或多个特征,所述应用在检测到所述请求时贡献正在所述显示屏上输出的所述图像数据的至少一部分;
响应于所述请求而选择性地捕捉正在所述显示屏上输出的所述图像数据的所述截屏;以及
存储所获得的因数据而异的元数据。
30.一种用户装备(UE),包括:
至少一个处理器,其被配置成:
获得因应用而异的元数据,所述元数据定义了第一应用的在提出截屏捕捉请求时正在显示帧内贡献图像数据的会话状态;
检测对加载由所述因应用而异的元数据定义的所述第一应用的所述会话状态的请求;以及
响应于所述请求,由第二应用来处理所述因应用而异的元数据,以重新创建由所述因应用而异的元数据定义的所述会话状态的一个或多个特征。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662418501P | 2016-11-07 | 2016-11-07 | |
US62/418,501 | 2016-11-07 | ||
US15/607,414 | 2017-05-26 | ||
US15/607,414 US10824594B2 (en) | 2016-11-07 | 2017-05-26 | Associating a captured screenshot with application-specific metadata that defines a session state of an application contributing image data to the captured screenshot |
PCT/US2017/047728 WO2018084911A1 (en) | 2016-11-07 | 2017-08-21 | Associating a captured screenshot with application-specific metadata that defines a session state of an application contributing image data to the captured screenshot |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109906445A true CN109906445A (zh) | 2019-06-18 |
Family
ID=62063983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780068511.9A Pending CN109906445A (zh) | 2016-11-07 | 2017-08-21 | 将所捕捉截屏与定义将图像数据贡献给所捕捉截屏的应用的会话状态的因应用而异的元数据相关联 |
Country Status (8)
Country | Link |
---|---|
US (2) | US10824594B2 (zh) |
EP (1) | EP3535654A1 (zh) |
JP (1) | JP2020504855A (zh) |
KR (1) | KR20190072558A (zh) |
CN (1) | CN109906445A (zh) |
BR (1) | BR112019009079A2 (zh) |
CA (1) | CA3042637A1 (zh) |
WO (1) | WO2018084911A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111343512A (zh) * | 2020-02-04 | 2020-06-26 | 聚好看科技股份有限公司 | 信息获取方法、显示设备及服务器 |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10120542B2 (en) | 2014-10-08 | 2018-11-06 | International Business Machines Corporation | Reproducing state of source environment when image was screen captured on a different computing device using resource location, resource navigation and positional metadata embedded in image |
WO2016168983A1 (en) * | 2015-04-21 | 2016-10-27 | Guangzhou Ucweb Computer Technology Co., Ltd. | Method and electronic device for displaying web page |
US11036345B2 (en) * | 2017-03-22 | 2021-06-15 | Yuval PRAG | System and method for on-screen graphical user interface encapsulation and reproduction |
US10783320B2 (en) * | 2017-05-16 | 2020-09-22 | Apple Inc. | Device, method, and graphical user interface for editing screenshot images |
CN107241644B (zh) * | 2017-05-31 | 2018-09-07 | 腾讯科技(深圳)有限公司 | 一种视频直播过程中的图像处理方法和装置 |
US20190065032A1 (en) * | 2017-08-23 | 2019-02-28 | Lanjia Lin | Method and system for capturing, storing, and recreating current state of an application |
US10635748B2 (en) * | 2017-12-14 | 2020-04-28 | International Business Machines Corporation | Cognitive auto-fill content recommendation |
KR20190102587A (ko) * | 2018-02-26 | 2019-09-04 | 엘지전자 주식회사 | 이동 단말기 및 그 동작방법 |
US10819789B2 (en) * | 2018-06-15 | 2020-10-27 | At&T Intellectual Property I, L.P. | Method for identifying and serving similar web content |
US20200004522A1 (en) * | 2018-06-27 | 2020-01-02 | Hewlett Packard Enterprise Development Lp | Selective download of a portion of a firmware bundle |
KR102629139B1 (ko) * | 2018-09-21 | 2024-01-26 | 삼성전자주식회사 | 멀티미디어 콘텐트를 캡쳐하는 전자 장치 및 방법 |
US10880433B2 (en) * | 2018-09-26 | 2020-12-29 | Rovi Guides, Inc. | Systems and methods for curation and delivery of content for use in electronic calls |
US10739935B2 (en) * | 2018-11-16 | 2020-08-11 | International Business Machines Corporation | Review of previously displayed content |
CN110121144B (zh) * | 2019-04-02 | 2021-10-08 | 西安极蜂天下信息科技有限公司 | 地理位置信息的分享方法及装置 |
US11039173B2 (en) * | 2019-04-22 | 2021-06-15 | Arlo Technologies, Inc. | Method of communicating video from a first electronic device to a second electronic device via a network, and a system having a camera and a mobile electronic device for performing the method |
CN110460722B (zh) * | 2019-07-31 | 2021-11-30 | 维沃移动通信有限公司 | 一种屏幕显示方法及移动终端 |
KR102141860B1 (ko) * | 2019-08-05 | 2020-08-06 | (주)동양시스컴 | Mns 장치 및 그 장치의 구동방법 |
US11165726B2 (en) * | 2019-10-23 | 2021-11-02 | Sap Se | Contextual sharing for screen share |
JP2023500905A (ja) * | 2019-10-29 | 2023-01-11 | ワーグ インコーポレイテッド | スマート・トリガ開始型コラボレーション・プラットフォーム |
CN111090489B (zh) * | 2019-12-26 | 2023-10-20 | 维沃移动通信有限公司 | 一种信息控制方法及电子设备 |
KR20210087788A (ko) * | 2020-01-03 | 2021-07-13 | 엘지전자 주식회사 | 이미지 콘텍스트 처리 |
CN111221455B (zh) | 2020-01-06 | 2022-03-04 | 北京字节跳动网络技术有限公司 | 素材展示方法、装置、终端及存储介质 |
WO2021171771A1 (ja) * | 2020-02-28 | 2021-09-02 | ソニーグループ株式会社 | 情報処理装置、ネットワーク機器、情報処理方法、プログラム |
CN111415266B (zh) * | 2020-03-17 | 2023-07-18 | 百度在线网络技术(北京)有限公司 | 应用程序的分享方法及装置、电子设备、可读介质 |
US11341205B1 (en) * | 2020-05-20 | 2022-05-24 | Pager Technologies, Inc. | Generating interactive screenshot based on a static screenshot |
CN111796787B (zh) * | 2020-06-30 | 2022-07-26 | 联想(北京)有限公司 | 一种显示方法及显示装置 |
US11750572B2 (en) * | 2020-08-12 | 2023-09-05 | Capital One Services, Llc | System, method, and computer-accessible medium for hiding messages sent to third parties |
EP4060511A1 (en) * | 2021-03-18 | 2022-09-21 | Vestel Elektronik Sanayi ve Ticaret A.S. | Screenshot management system, electronic device, method |
US11803695B1 (en) * | 2021-03-29 | 2023-10-31 | Plus Docs Inc. | Dynamic sharable web clippings |
CN115220609A (zh) * | 2021-03-29 | 2022-10-21 | 北京小米移动软件有限公司 | 信息处理方法及装置、终端设备及存储介质 |
CN113938631B (zh) * | 2021-11-29 | 2023-11-03 | 青岛信芯微电子科技股份有限公司 | 一种基准监视器、图像帧截取方法及系统 |
KR20240026591A (ko) * | 2022-08-22 | 2024-02-29 | 삼성전자주식회사 | 디스플레이 장치, 전자 장치 및 그 동작 방법 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003337794A (ja) * | 2002-04-10 | 2003-11-28 | Docomo Communications Laboratories Usa Inc | 異なる装置上の異なるブラウザ間におけるセッションの保存および移動 |
US20080307347A1 (en) * | 2007-06-08 | 2008-12-11 | Apple Inc. | Application-Based Backup-Restore of Electronic Information |
US20110264709A1 (en) * | 2006-04-20 | 2011-10-27 | International Business Machines Corporation | Capturing Image Data |
US20110320626A1 (en) * | 2010-06-28 | 2011-12-29 | Hulu Llc. | Method and apparatus for synchronizing paused playback across platforms |
US20150324067A1 (en) * | 2014-05-07 | 2015-11-12 | Honda Motor Co., Ltd. | Vehicle infotainment gateway - multi-application interface |
US20150331711A1 (en) * | 2014-05-19 | 2015-11-19 | Qualcomm Incorporated | Systems and methods for context-aware application control |
US20160099984A1 (en) * | 2014-10-03 | 2016-04-07 | Across Lab, Inc. | Method and apparatus for remote, multi-media collaboration, including archive and search capability |
US20160184712A1 (en) * | 2014-12-31 | 2016-06-30 | Sony Computer Entertainment America Llc | Game State Save, Transfer and Resume for Cloud Gaming |
WO2016157128A1 (en) * | 2015-03-31 | 2016-10-06 | Calgary Scientific Inc. | Method for capturing layered screen content |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8826116B2 (en) | 2004-09-24 | 2014-09-02 | International Business Machines Corporation | Creating annotations of transient computer objects |
JP4906072B2 (ja) | 2006-05-01 | 2012-03-28 | キヤノン株式会社 | 情報処理装置ならびに情報処理方法 |
KR101502013B1 (ko) * | 2008-12-24 | 2015-03-12 | 엘지전자 주식회사 | 이동 단말기 및 이동 단말기의 위치기반서비스 제공방법 |
US20110202854A1 (en) | 2010-02-17 | 2011-08-18 | International Business Machines Corporation | Metadata Capture for Screen Sharing |
JP2012058856A (ja) * | 2010-09-06 | 2012-03-22 | Sony Corp | 情報処理装置、情報処理方法及び情報処理プログラム |
US8473577B2 (en) | 2010-10-13 | 2013-06-25 | Google Inc. | Continuous application execution between multiple devices |
US8589423B2 (en) | 2011-01-18 | 2013-11-19 | Red 5 Studios, Inc. | Systems and methods for generating enhanced screenshots |
EP2487871A1 (en) | 2011-02-11 | 2012-08-15 | Telefónica, S.A. | Method and system for transmission of application status between different devices |
US8938683B2 (en) | 2012-09-11 | 2015-01-20 | Ebay Inc. | Visual state comparator |
US20150367238A1 (en) | 2013-02-06 | 2015-12-24 | Square Enix Holdings Co., Ltd. | Game system, game apparatus, a method of controlling the same, a program, and a storage medium |
US9165207B2 (en) | 2013-02-25 | 2015-10-20 | Google Inc. | Screenshot orientation detection |
US20140301645A1 (en) * | 2013-04-03 | 2014-10-09 | Nokia Corporation | Method and apparatus for mapping a point of interest based on user-captured images |
US9830167B2 (en) * | 2014-08-12 | 2017-11-28 | Linkedin Corporation | Enhancing a multitasking user interface of an operating system |
RU2595557C2 (ru) | 2014-09-17 | 2016-08-27 | Общество с ограниченной ответственностью "Аби Девелопмент" | Выявление снимков экрана на изображениях документов |
US9497312B1 (en) * | 2015-02-17 | 2016-11-15 | Amazon Technologies, Inc. | Dynamic unlock mechanisms for mobile devices |
-
2017
- 2017-05-26 US US15/607,414 patent/US10824594B2/en active Active
- 2017-08-21 EP EP17764694.0A patent/EP3535654A1/en active Pending
- 2017-08-21 BR BR112019009079A patent/BR112019009079A2/pt unknown
- 2017-08-21 CN CN201780068511.9A patent/CN109906445A/zh active Pending
- 2017-08-21 CA CA3042637A patent/CA3042637A1/en not_active Abandoned
- 2017-08-21 KR KR1020197012952A patent/KR20190072558A/ko not_active Application Discontinuation
- 2017-08-21 WO PCT/US2017/047728 patent/WO2018084911A1/en unknown
- 2017-08-21 JP JP2019522232A patent/JP2020504855A/ja active Pending
-
2020
- 2020-07-30 US US16/943,985 patent/US20200356530A1/en not_active Abandoned
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003337794A (ja) * | 2002-04-10 | 2003-11-28 | Docomo Communications Laboratories Usa Inc | 異なる装置上の異なるブラウザ間におけるセッションの保存および移動 |
US20110264709A1 (en) * | 2006-04-20 | 2011-10-27 | International Business Machines Corporation | Capturing Image Data |
US20080307347A1 (en) * | 2007-06-08 | 2008-12-11 | Apple Inc. | Application-Based Backup-Restore of Electronic Information |
US20110320626A1 (en) * | 2010-06-28 | 2011-12-29 | Hulu Llc. | Method and apparatus for synchronizing paused playback across platforms |
US20150324067A1 (en) * | 2014-05-07 | 2015-11-12 | Honda Motor Co., Ltd. | Vehicle infotainment gateway - multi-application interface |
US20150331711A1 (en) * | 2014-05-19 | 2015-11-19 | Qualcomm Incorporated | Systems and methods for context-aware application control |
US20160099984A1 (en) * | 2014-10-03 | 2016-04-07 | Across Lab, Inc. | Method and apparatus for remote, multi-media collaboration, including archive and search capability |
US20160184712A1 (en) * | 2014-12-31 | 2016-06-30 | Sony Computer Entertainment America Llc | Game State Save, Transfer and Resume for Cloud Gaming |
WO2016157128A1 (en) * | 2015-03-31 | 2016-10-06 | Calgary Scientific Inc. | Method for capturing layered screen content |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111343512A (zh) * | 2020-02-04 | 2020-06-26 | 聚好看科技股份有限公司 | 信息获取方法、显示设备及服务器 |
CN111343512B (zh) * | 2020-02-04 | 2023-01-10 | 聚好看科技股份有限公司 | 信息获取方法、显示设备及服务器 |
Also Published As
Publication number | Publication date |
---|---|
WO2018084911A1 (en) | 2018-05-11 |
US20200356530A1 (en) | 2020-11-12 |
JP2020504855A (ja) | 2020-02-13 |
CA3042637A1 (en) | 2018-05-11 |
US20180129657A1 (en) | 2018-05-10 |
US10824594B2 (en) | 2020-11-03 |
KR20190072558A (ko) | 2019-06-25 |
BR112019009079A2 (pt) | 2019-07-16 |
EP3535654A1 (en) | 2019-09-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109906445A (zh) | 将所捕捉截屏与定义将图像数据贡献给所捕捉截屏的应用的会话状态的因应用而异的元数据相关联 | |
KR102196486B1 (ko) | 콘텐츠 모음 네비게이션 및 오토포워딩 | |
CN107943439B (zh) | 界面移动方法、装置、智能终端、服务器和操作系统 | |
US9449154B2 (en) | Method and apparatus for granting rights for content on a network service | |
JP5620517B2 (ja) | モバイルユーザーによるマルチメディアタグ付けのためのシステム | |
CN107491325B (zh) | 在设备上管理应用程序的系统,方法及装置 | |
US8868105B2 (en) | Method and apparatus for generating location stamps | |
US10382438B2 (en) | Method and apparatus for expanded content tag sharing | |
US20090158206A1 (en) | Method, Apparatus and Computer Program Product for Displaying Virtual Media Items in a Visual Media | |
US20110209201A1 (en) | Method and apparatus for accessing media content based on location | |
US20140019867A1 (en) | Method and apparatus for sharing and recommending content | |
US20130226926A1 (en) | Method and apparatus for acquiring event information on demand | |
US20170110093A1 (en) | Computerized system and method for automatically creating and applying a filter to alter the display of rendered media | |
US20160006773A1 (en) | Method and apparatus for sharing media upon request via social networks | |
TW201212671A (en) | Location and contextual-based mobile application promotion and delivery | |
CN105980975B (zh) | 信息处理设备、信息处理方法及程序 | |
US20160078582A1 (en) | Sharing Media | |
KR102467015B1 (ko) | 옵트아웃 인터스티셜을 이용한 미디어 컬렉션 탐색 | |
WO2019183593A1 (en) | Design and generation of augmented reality experiences for structured distribution of content based on location-based triggers | |
KR101693738B1 (ko) | 모바일 sns를 이용한 위치기반의 민원 공유 서비스 시스템 및 방법 | |
KR102078858B1 (ko) | 웹툰 제공 장치 및 휴대 단말의 동작 방법 | |
US20160007162A1 (en) | Mobile terminal, content panel display method, and mobile terminal program | |
CN105653658A (zh) | 信息展示方法及装置 | |
KR101922070B1 (ko) | 단말 장치, 검색 서버 및 이에 의한 검색 결과 제공 방법 | |
Wang et al. | Research and implementation of location-based camera system on Samsung Bada smart phone platform |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190618 |