CN112463086A - 一种显示控制方法及电子设备 - Google Patents

一种显示控制方法及电子设备 Download PDF

Info

Publication number
CN112463086A
CN112463086A CN201910842830.1A CN201910842830A CN112463086A CN 112463086 A CN112463086 A CN 112463086A CN 201910842830 A CN201910842830 A CN 201910842830A CN 112463086 A CN112463086 A CN 112463086A
Authority
CN
China
Prior art keywords
cursor
display
information
control information
format
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910842830.1A
Other languages
English (en)
Inventor
洪筱筱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201910842830.1A priority Critical patent/CN112463086A/zh
Publication of CN112463086A publication Critical patent/CN112463086A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

本申请实施例公开了一种显示控制方法及电子设备,涉及电子设备领域,能够实现接收端显示屏上光标的快速显示,提高光标的响应速度。具体方案为:传送端接收来自接收端的控制信息,该控制信息包括光标在接收端的显示屏上的坐标信息和用户通过接收端输入的操作。传送端从控制信息中获取坐标信息,并发送给接收端,用于指示接收端在坐标信息指示的坐标处显示光标。传送端根据控制信息在传送端的显示屏上显示光标。传送端进行录屏获取录屏信息。传送端向接收端发送录屏信息。

Description

一种显示控制方法及电子设备
技术领域
本申请实施例涉及电子设备领域,尤其涉及一种显示控制方法及电子设备。
背景技术
随着投屏技术的广泛使用,用户在显示投屏信息的接收端(也可称为sink端,如电脑)直接控制传送端(也可称为source端,如手机)执行对应操作并在接收端显示响应操作后的界面,已经成为一种常见的需求。
为了实现上述需求sink端可以采用反向控制协议,如用户输入反向信道(UserInterface Back Channel,UIBC)协议将用户输入的操作对应的控制信息发送给source端,以便source端根据该控制信息执行对应的操作。source端在执行操作的过程中还需录屏,并将录屏获得的录屏信息发回给sink端,以便sink端显示。另外,在投屏场景下,sink端需要source端的指示才可以在显示屏上显示相关信息。如,sink端在从source端接收到在某个位置显示光标的指示后,才能够在sink端的显示屏上显示光标。
示例性的,以source端为手机,sink端为电脑,用户在sink端通过鼠标输入操作为例进行说明。如图1所示,用户在通过电脑鼠标输入操作后,电脑可接收用户输入的操作,确定光标在电脑显示屏上的坐标,并将该光标的坐标以及用户输入的操作携带在控制信息中发送给手机。手机在收到该控制信息后需进行以下操作:首先,手机需要对该控制信息进行解析,以便将该控制信息的数据格式转换成能够被手机的操作系统(如Android系统)处理的数据格式。例如,电脑在通过UIBC协议发送控制信息时,该控制信息的数据格式是hidc格式,这种数据格式的数据Android系统是无法识别的。手机可将接收到的控制信息的数据格式由hidc格式转换为uhid格式,以便Android系统能够对控制信息进行下一步处理。接着,手机的操作系统根据控制信息可绘制出光标图层并在手机界面上显示光标,还可执行用户输入的操作所对应的事件。并且,在手机界面上显示光标,并执行用户输入的操作所对应的事件的过程中,手机还需进行录屏,以获取包括鼠标图层数据(如包括上述光标图层和对应的光标显示位置)和桌面录屏数据的录屏信息。然后手机的操作系统可以将该录屏信息发回给电脑,以便电脑根据该录屏信息显示对应界面。
可以看到,鼠标图层数据会与录屏的其他数据(如桌面录屏数据)一同发回给sink端进行显示。也就是说,用于sink端显示光标的数据需要通过source端的解析、绘制、录屏以及发送录屏信息等一系列过程才能被sink端接收并显示。其中录屏和发送录屏信息的过程耗时尤为明显。因此,用户在sink端输入操作(如移动鼠标)后需要经过较长时间才能在sink端的显示屏上看到光标移动,这导致用户能感觉到明显的时延,sink端显示光标的响应速度不佳。
发明内容
本申请实施例提供一种显示控制方法及电子设备,能够实现sink端显示屏上光标的快速显示,提高光标的响应速度。
为达到上述目的,本申请实施例提供如下技术方案:
第一方面,本申请实施例提供一种显示控制方法,该方法可以包括:传送端接收来自接收端的控制信息,该控制信息包括光标在接收端的显示屏上的坐标信息和用户通过接收端输入的操作。传送端从控制信息中获取坐标信息,并发送给接收端,用于指示接收端在坐标信息指示的坐标处显示光标。传送端根据控制信息在传送端的显示屏上显示光标。传送端进行录屏获取录屏信息。传送端向接收端发送录屏信息。
这样,传送端从控制信息中获取光标的坐标信息,并将该坐标信息发送给接收端,以便接收端根据该坐标信息显示光标。由于坐标信息并未包括在录屏信息中一起发送给接收端,因此接收端可以不需等待录屏并发送录屏信息的时间就能够获取光标的坐标并显示。也就能提高光标在接收端显示屏上的显示速度,提高光标的响应速度。
在一种可能的设计中,控制信息的数据格式为第一格式。传送端从控制信息中获取坐标信息,包括:传送端从数据格式为第一格式的控制信息中获取坐标信息。传送端根据控制信息在传送端的显示屏上显示光标,包括:传送端将控制信息的数据格式由第一格式转换为第二格式,第二格式为传送端能够识别的格式。传送端根据数据格式为第二格式的控制信息,在传送端的显示屏上显示光标。这样,传送端就在接收到控制信息之后,就可以快速地获取坐标信息。
在一种可能的设计中,控制信息的数据格式为第一格式。传送端从控制信息中获取坐标信息,包括:传送端将控制信息的数据格式由第一格式转换为第二格式,第二格式为传送端能够识别的格式。传送端从数据格式为第二格式的控制信息中获取坐标信息。传送端根据控制信息在传送端的显示屏上显示光标,包括:传送端根据数据格式为第二格式的控制信息,在传送端的显示屏上显示光标。这样,传送端就可以根据传送端的操作系统能够识别和处理的第二格式的控制信息,确定光标的坐标。
在一种可能的设计中,该方法还包括:传送端根据数据格式为第二格式的控制信息确定在传送端的显示屏上显示的光标的光标图层发生变化。传送端根据用户通过接收端输入的操作,绘制光标图层。传送端向接收端发送光标图层,用于指示接收端在坐标信息指示的坐标处显示具有光标图层的光标。这样,传送端就可以快速的将光标的光标图层更新给接收端,以便接收端能够在显示屏上显示与用户输入的操作对应的光标。
在一种可能的设计中,传送端进行录屏获取录屏信息,包括:传送端对去除光标图层的图层进行录屏,获取录屏信息。这样,传送端就可以获取不包括光标图层的录屏信息。
在一种可能的设计中,传送端接收来自接收端的控制信息,包括:传送端接收来自接收端采用UIBC协议发送的控制信息。这样,就实现了控制信息在接收端与传送端之间的传递。
在一种可能的设计中,传送端向接收端发送坐标信息,包括:传送端采用MS-WDHCE向接收端发送坐标信息。这样,传送端就能够快速地将坐标信息发送给接收端。
在一种可能的设计中,传送端向接收端发送光标图层,包括:传送端采用MS-WDHCE协议向接收端发送光标图层。这样,传送端就能够快速地将光标图层发送给接收端。
第二方面,本申请实施例提供一种电子设备,该电子设备可以包括通信单元,获取单元,和显示单元。其中,通信单元用于接收来自接收端的控制信息,该控制信息包括光标在接收端的显示屏上的坐标信息和用户通过接收端输入的操作。示例性的,通信单元可以用于接收来自接收端采用UIBC协议发送的控制信息。获取单元用于从控制信息中获取坐标信息。通信单元还用于将坐标信息发送给接收端,用于指示接收端在坐标信息指示的坐标处显示光标。示例性的,通信单元可以用于采用MS-WDHCE向接收端发送坐标信息。显示单元用于根据控制信息显示光标。获取单元还用于录屏并获取录屏信息。通信单元还用于向接收端发送录屏信息。
在一种可能的设计中,该电子设备还包括转换单元。转换单元用于将控制信息的数据格式由第一格式转换为第二格式,第二格式为传送端能够识别的格式。控制信息的数据格式为第一格式。显示单元用于根据数据格式为第二格式的控制信息显示光标。
在一些实施例中,获取单元用于从数据格式为第一格式的控制信息中获取坐标信息。
在另一些实施例中,获取单元用于从数据格式为第二格式的控制信息中获取坐标信息。
在一种可能的设计中,电子设备还包括确定单元和绘制单元。确定单元用于根据数据格式为第二格式的控制信息确定在显示单元上显示的光标的光标图层发生变化。绘制单元用于根据用户通过接收端输入的操作,绘制光标图层。通信单元,还用于向接收端发送光标图层,用于指示接收端在坐标信息指示的坐标处显示具有光标图层的光标。示例性的,通信单元还用于采用MS-WDHCE协议向接收端发送光标图层。
在一种可能的设计中,获取单元还用于对去除光标图层的图层进行录屏,获取录屏信息。
第三方面,本申请实施例还提供一种电子设备,该电子设备包括:显示器,处理器和存储器。显示器和处理器与存储器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当计算机指令被电子设备执行时,使得电子设备执行第一方面以及第一方面的各种可能的设计中的显示控制方法。
第四方面,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质可以存储计算机软件指令。当计算机软件指令在电子设备中运行时,使得电子设备执行第一方面以及第一方面的各种可能的设计中的显示控制方法。
第五方面,本申请实施例提供一种计算机程序产品,当计算机程序产品在计算机上运行时,使得计算机执行第一方面以及第一方面的各种可能的设计中的显示控制方法。
第六方面,本申请实施例提供一种芯片系统,该芯片系统应用于电子设备。芯片系统包括一个或多个接口电路和一个或多个处理器。接口电路和处理器通过线路互联。接口电路用于从电子设备的存储器接收信号,并向处理器发送信号,该信号包括存储器中存储的计算机指令。当处理器执行计算机指令时,电子设备执行第一方面以及第一方面的各种可能的设计中的显示控制方法。
可以理解地,上述提供的第二方面提供的电子设备及第二方面各种可能的设计、第三方面的电子设备、第四方面的计算机可读存储介质、第五方面的计算机程序产品以及第六方面的芯片系统均可以用于执行第一方面以及第一方面各种可能的设计所提供的显示控制方法,因此,其所能达到的有益效果可参考第一方面以及第一方面各种可能的设计所提供的方法中的有益效果,此处不再赘述。
第七方面,本申请实施例还提供一种显示控制方法,该方法可以包括:接收端接收用户输入的操作。接收端根据操作确定光标在接收端的显示屏上的坐标信息。接收端向传送端发送控制信息,控制信息包括坐标信息和操作。接收端接收来自传送端的坐标信息。接收端在显示屏上坐标信息指示的坐标处显示光标。接收端接收来自传送端的录屏信息。接收端根据录屏信息显示对应界面。
这样,接收端就能够在向传送端发送控制信息后,根据接收到的坐标信息快速的在显示屏上坐标信息指示的位置显示光标。接收端还可以根据接收到的录屏信息在显示屏上显示对应的界面。在实现向用户展示传送端响应于用户的操作的界面变化的同时,实现了光标在接收端显示屏上的快速显示,提高了光标的响应速度。
在一种可能的设计中,该方法还包括:接收端接收来自传送端的光标图层。接收端在显示屏上坐标信息指示的坐标处显示光标,包括:接收端在显示屏上坐标信息指示的坐标处显示具有光标图层的光标。这样,接收端就能够根据接收到的光标图层,在显示屏上显示与用户的操作对应的光标。
在一种可能的设计中,录屏信息不包括光标图层。这样,接收端就可以在快速显示光标之后,显示不包括光标的录屏信息,也就避免了用户在接收端显示屏上看到多个鼠标的问题出现。
在一种可能的设计中,接收端向传送端发送控制信息,包括:接收端采用UIBC协议向传送端发送控制信息。这样,接收端就可以实现将控制信息发送给发传送端。
第八方面,本申请实施例提供一种电子设备,该电子设备可以包括:输入单元,确定单元,通信单元和显示单元。输入单元用于接收用户输入的操作。确定单元用于根据操作确定光标在接收端的显示屏上的坐标信息。通信单元用于向传送端发送控制信息,控制信息包括坐标信息和操作。示例性的,通信单元可以用于采用UIBC协议向传送端发送控制信息。通信单元还用于接收来自传送端的坐标信息。显示单元用于在显示屏上坐标信息指示的坐标处显示光标。通信单元还用于接收来自传送端的录屏信息。显示单元还用于根据录屏信息显示对应界面。
在一种可能的设计中,通信单元还用于接收来自传送端的光标图层。显示单元用于在坐标信息指示的坐标处显示具有该光标图层的光标。
在一种可能的设计中,录屏信息不包括光标图层。
第九方面,本申请实施例还提供一种电子设备,该电子设备包括:输入设备,显示器,处理器,和存储器。输入设备,显示器和处理器与存储器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令。当计算机指令被电子设备执行时,使得电子设备执行第七方面以及第七方面的各种可能的设计中的显示控制方法。
第十方面,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质可以存储计算机软件指令。当计算机软件指令在电子设备中运行时,使得电子设备执行第七方面以及第七方面的各种可能的设计中的显示控制方法。
第十一方面,本申请实施例提供一种计算机程序产品,当计算机程序产品在计算机上运行时,使得电子设备执行第七方面以及第七方面的各种可能的设计中的显示控制方法。
第十二方面,本申请实施例提供一种芯片系统,该芯片系统应用于电子设备。芯片系统包括一个或多个接口电路和一个或多个处理器。接口电路和处理器通过线路互联。接口电路用于从电子设备的存储器接收信号,并向处理器发送信号,该信号包括存储器中存储的计算机指令。当处理器执行计算机指令时,使得电子设备执行第七方面以及第七方面的各种可能的设计中的显示控制方法。
可以理解地,上述提供的第八方面提供的电子设备及第八方面各种可能的设计、第九方面的电子设备、第十方面的计算机可读存储介质、第十一方面的计算机程序产品以及第十二方面的芯片系统均可以用于执行第七方面以及第七方面各种可能的设计所提供的显示控制方法,因此,其所能达到的有益效果可参考第七方面以及第七方面各种可能的设计所提供的方法中的有益效果,此处不再赘述。
第十三方面,本申请实施例提供一种显示控制系统,该系统可以包括传送端和接收端。该系统可以用于显示控制。示例性的,传送端可以用于执行上述第一方面以及第一方面的各种可能的设计提供的显示控制方法,接收端可以用于执行上述第七方面以及第七方面的各种可能的设计提供的显示控制方法。
附图说明
图1为现有技术提供的一种显示控制方法的流程示意图;
图2为本申请实施例提供的一种显示控制系统的组成示意图;
图3为本申请实施例提供的一种电子设备的结构示意图;
图4为本申请实施例提供的一种电子设备的逻辑组成示意图;
图5为本申请实施例提供的一种显示控制方法的流程示意图;
图6为本申请实施例提供的又一种显示控制方法的流程示意图;
图7为本申请实施例提供的又一种电子设备的逻辑组成示意图;
图8为本申请实施例提供的又一种电子设备的逻辑组成示意图;
图9为本申请实施例提供的又一种电子设备的逻辑组成示意图;
图10为本申请实施例提供的又一种电子设备的逻辑组成示意图;
图11为本申请实施例提供的一种芯片系统的逻辑组成示意图。
具体实施方式
在投屏场景下,用户可以通过在sink端输入操作来控制source端执行对应的操作,并source端可将执行该操作过程中显示的对应界面进行录屏后发送给sink端,用于sink端显示对应界面。为了能够清楚地反映用户在sink端输入的操作所操作的source端的位置以及操作的类型,sink端可将用户输入的操作在sink端显示屏的坐标及输入的操作发送给source端。source端可根据接收到的信息在source端显示屏显示光标,并可将用于显示光标数据发送给sink端,便于sink端同步显示光标。在现有技术中,用于显示光标的数据,如称为鼠标图层数据是包括在source端发送的录屏信息中的。也就是说,鼠标图层数据会与录屏的其他数据一同发回sink端,用于sink端同步显示对应内容。而录屏信息需要经较长时间才能够被sink端接收并显示,导致用户在sink端输入操作(如移动鼠标)后,需要经过较长时间才能在sink端的显示屏上看到光标移动。也就是说用户能感觉到光标移动的明显时延,sink端显示光标的响应速度不佳。
本申请实施例提供了一种显示控制方法、装置及系统,能够有效的缩短从用户在sink端输入操作到sink端显示光标的时延,提高了sink端光标显示的响应速度。
以下结合附图对本申请实施例进行详细说明。
请参考图2,为本申请实施例提供的一种显示控制系统的组成示意图。如图2所示,该显示控制系统可以包括接收端210(即sink端)和传送端220(即source端)。
其中,接收端210可以用于接收用户输入的操作,并用于确定用户想要操作的位置在显示屏上的坐标。之后接收端210可以将该坐标以及用户输入的操作发送出去。接收端210还可以用于接收坐标信息,光标图层和/或录屏信息,并根据坐标信息在对应的位置显示光标。接收端210还可用于根据光标图层显示对应的光标,根据录屏信息显示录屏的界面等。
传送端220可以用于接收控制信息,该控制信息包括用户输入的操作以及该操作在传送端210的显示屏上的坐标。传送端220还可以用于根据控制信息确定坐标信息,并将该坐标信息发送出去。传送端220还可以用于根据控制信息确定光标图层,并将该光标图层发送出去。传送端220还可以用于根据控制信息执行相应的操作,并在显示屏上显示对应的界面。在此过程中,传送端220还需要录屏,以获取至少包括执行操作过程中显示屏显示的界面的录屏信息,并将该录屏信息发送出去。
示例性的,在本申请实施例中,接收端210(即sink端)和传送端220(即source端)可以为手机、平板电脑、桌面型、膝上型、手持计算机、笔记本电脑、台式电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本,以及蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmented reality,AR)\虚拟现实(virtual reality,VR)设备、电视机等包括显示屏的电子设备。本申请实施例对传送端210和接收端220的具体形态不作特殊限制。另外,在一些实施例中,上述接收端210和传送端220可以为相同类型的电子设备,如接收端210和传送端220均为手机。在其他一些实施例中,上述接收端210和传送端220可以为不同类型的电子设备,如传送端220为手机,接收端210为笔记本电脑。
请参考图3,为本申请实施例提供的一种电子设备的结构示意图。其中,上述传送端220和/或接收端210的结构可以如图3所示。
如图3所示,电子设备可以包括处理器310,外部存储器接口320,内部存储器321,通用串行总线(universal serial bus,USB)接口330,充电管理模块340,电源管理模块341,电池342,天线1,天线2,移动通信模块350,无线通信模块360,音频模块370,扬声器370A,受话器370B,麦克风370C,耳机接口370D,传感器模块380,按键390,马达391,指示器392,摄像头393,显示屏394,以及用户标识模块(subscriber identification module,SIM)卡接口395等。其中,传感器模块380可以包括压力传感器,陀螺仪传感器,气压传感器,红外传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
可以理解的是,本实施例示意的结构并不构成对电子设备的具体限定。在另一些实施例中,电子设备可以包括比图3示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图3示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器310可以包括一个或多个处理单元,例如:处理器310可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器310中。
控制器可以是电子设备的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器310中还可以设置存储器,用于存储指令和参数。在一些实施例中,处理器310中的存储器为高速缓冲存储器。该存储器可以保存处理器310刚用过或循环使用的指令或参数。如果处理器310需要再次使用该指令或参数,可从所述存储器中直接调用。避免了重复存取,减少了处理器310的等待时间,因而提高了系统的效率。
在一些实施例中,处理器310可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,IC)接口,集成电路内置音频(inter-integrated circuitsound,IS)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
充电管理模块340用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块340可以通过USB接口330接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块340可以通过电子设备的无线充电线圈接收无线充电输入。充电管理模块340为电池342充电的同时,还可以通过电源管理模块341为电子设备供电。
电源管理模块341用于连接电池342,充电管理模块340与处理器310。电源管理模块341接收电池342和/或充电管理模块340的输入,为处理器310,内部存储器331,外部存储器,显示屏394,摄像头393,和无线通信模块360等供电。电源管理模块341还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块341也可以设置于处理器310中。在另一些实施例中,电源管理模块341和充电管理模块340也可以设置于同一个器件中。
电子设备的无线通信功能可以通过天线1,天线2,移动通信模块350,无线通信模块360,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块350可以提供应用在电子设备上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块350可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块350可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块350还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块350的至少部分功能模块可以被设置于处理器310中。在一些实施例中,移动通信模块350的至少部分功能模块可以与处理器310的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器310处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器370A,受话器370B等)输出声音信号,或通过显示屏394显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器310,与移动通信模块350或其他功能模块设置在同一个器件中。
无线通信模块360可以提供应用在电子设备上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。示例性的,无线通信模块360可以支持电子设备与其他设备之间基于无线视频显示(WiFi display)的互联通信,例如投屏显示等。在一些实施例中,无线通信模块360可以根据处理器310的指令,采用UIBC协议和/或微软无线视频显示中的硬件光标扩展协议(Microsof WifiDisplay Hard Cursor Extension,MS-WDHCE)与其他电子设备进行数据交互。无线通信模块360可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块360经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器310。无线通信模块360还可以从处理器310接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备的天线1和移动通信模块350耦合,天线2和无线通信模块360耦合,使得电子设备可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code divisionmultiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(globalnavigation satellite system,GLONASS),北斗卫星导航系统(beidou navigationsatellite system,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备通过GPU,显示屏394,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏394和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器310可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏394用于显示图像,视频等。显示屏394包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。
在本申请实施例提供的电子设备中,陀螺仪传感器可以用于确定电子设备的运动姿态。在一些实施例中,可以通过陀螺仪传感器确定电子设备围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器检测电子设备抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备的抖动,实现防抖。陀螺仪传感器还可以用于导航,体感游戏场景。
磁传感器包括霍尔传感器。电子设备可以利用磁传感器检测翻盖皮套的开合。在一些实施例中,当电子设备是翻盖机时,电子设备可以根据磁传感器检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器可检测电子设备在各个方向上(一般为三轴)加速度的大小。当电子设备静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
压力传感器用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器可以设置于显示屏。压力传感器的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器,电极之间的电容改变。电子设备根据电容的变化确定压力的强度。当有触摸操作作用于显示屏,电子设备根据压力传感器检测触摸操作强度。电子设备也可以根据压力传感器的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
气压传感器用于测量气压。在一些实施例中,电子设备通过气压传感器测得的气压值计算海拔高度,辅助定位和导航。
距离传感器,用于测量距离。电子设备可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备可以利用距离传感器测距以实现快速对焦。
接近光传感器可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备通过发光二极管向外发射红外光。电子设备使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备附近有物体。当检测到不充分的反射光时,电子设备可以确定电子设备附近没有物体。电子设备可以利用接近光传感器检测用户手持电子设备贴近耳朵通话,以便自动熄灭折叠屏达到省电的目的。接近光传感器也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器用于感知环境光亮度。电子设备可以根据感知的环境光亮度自适应调节显示屏亮度。环境光传感器也可用于拍照时自动调节白平衡。环境光传感器还可以与接近光传感器配合,检测电子设备是否在口袋里,以防误触。
指纹传感器用于采集指纹。电子设备可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器用于检测温度。在一些实施例中,电子设备利用温度传感器检测的温度,执行温度处理策略。例如,当温度传感器上报的温度超过阈值,电子设备执行降低位于温度传感器附近的处理器310的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备对电池342加热,以避免低温导致电子设备异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备对电池342的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器,也称“触控面板”。触摸传感器可以设置于显示屏394,由触摸传感器与显示屏组成触摸屏,也称“触控屏”。触摸传感器用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器也可以设置于电子设备的表面,与显示屏所处的位置不同。
骨传导传感器可以获取振动信号。在一些实施例中,骨传导传感器可以获取人体声部振动骨块的振动信号。骨传导传感器也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器也可以设置于耳机中,结合成骨传导耳机。音频模块370可以基于骨传导传感器获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于骨传导传感器获取的血压跳动信号解析心率信息,实现心率检测功能。
电子设备可以通过ISP,摄像头393,视频编解码器,GPU,显示屏394以及应用处理器等实现拍摄功能。
ISP用于处理摄像头393反馈的参数。例如,拍照时,打开快门,光线通过镜头被传递到摄像头393感光元件上,光信号转换为电信号,摄像头393感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头393中。
摄像头393用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备可以包括个或N个摄像头393,N为大于的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备可以支持一种或多种视频编解码器。这样,电子设备可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG),MPEG,MPEG,MPEG等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口330可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备的存储能力。外部存储卡通过外部存储器接口320与处理器310通信,实现参数存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器321可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器310通过运行存储在内部存储器321的指令,从而执行电子设备的各种功能应用以及参数处理。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储参数区可存储电子设备使用过程中所创建的参数(比如音频参数,电话本等)等。此外,内部存储器321可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universalflash storage,UFS)等。
电子设备可以通过音频模块370,扬声器370A,受话器370B,麦克风370C,耳机接口370D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块370用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块370还可以用于对音频信号编码和解码。在一些实施例中,音频模块370可以设置于处理器310中,或将音频模块370的部分功能模块设置于处理器310中。扬声器370A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备可以通过扬声器370A收听音乐,或收听免提通话。受话器370B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备接听电话或语音信息时,可以通过将受话器370B靠近人耳接听语音。麦克风370C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息或需要通过语音助手触发电子设备执行某些功能时,用户可以通过人嘴靠近麦克风370C发声,将声音信号输入到麦克风370C。电子设备可以设置至少一个麦克风370C。在另一些实施例中,电子设备可以设置两个麦克风370C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备还可以设置三个,四个或更多麦克风370C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口370D用于连接有线耳机。耳机接口370D可以是USB接口,也可以是.mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
按键390包括开机键,音量键等。按键390可以是机械按键。也可以是触摸式按键。电子设备可以接收按键输入,产生与电子设备的用户设置以及功能控制有关的键信号输入。
马达391可以产生振动提示。马达391可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏394不同区域的触摸操作,马达391也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器392可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口395用于连接SIM卡。SIM卡可以通过插入SIM卡接口395,或从SIM卡接口395拔出,实现和电子设备的接触和分离。电子设备可以支持个或N个SIM卡接口395,N为大于的正整数。SIM卡接口395可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口395可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口395也可以兼容不同类型的SIM卡。SIM卡接口395也可以兼容外部存储卡。电子设备通过SIM卡和网络交互,实现通话以及参数通信等功能。
请参考图4,为本申请实施例提供的一种电子设备的逻辑组成示意图。如图4所示,电子设备400可以包括驱动层410,输入(input)系统420以及其他层430。示例性的,驱动层410可以用于对接收到的控制信息进行解析。例如,驱动层410可以将控制信息的数据格式由hidc格式转换为Android系统能够识别处理的格式。Input系统420可以对接收到的信息进行分发处理。例如,input系统420可以用于绘制光标图层。又如,input系统420还可以用于监听光标位置是否变化。电子设备中400还可以包括其它层430,可以用于执行用户操作对应的事件,并对操作过程进行录屏。
以下实施例中的方法均可以在如图2所示的显示控制系统,及具有上述硬件结构和软件架构的电子设备中实现。
为了有效地缩短从用户在sink端输入操作到sink端显示光标的时延,提高sink端光标显示的响应速度,本申请实施例提供一种显示控制方法。该方法可以包括,sink端将用户输入的操作以控制信息的形式发送给source端,控制信息中还包括光标在sink端显示屏上的坐标信息。根据控制信息,source端可以确定光标的坐标信息,并发回给sink端,以便sink端显示屏能够快速的在该坐标信息对应的位置显示光标。根据控制信息,source端还可以确定光标的光标图层,并发回给sink端,以便sink端显示屏能够快速的显示与该光标图层对应的光标。根据控制信息,source端还可以执行用户输入的操作,显示对应的界面,并在该过程中进行录屏获取录屏信息,然后将该录屏信息发送给sink端,以便sink端能够根据录屏信息显示对应的界面。其中,用户在sink端可以通过sink端的输入设备或与sink端连接的输入设备来输入操作。该输入设备可以是鼠标,也可以其他具有触摸功能的显示屏(或称为触摸屏)等。
为了更加清楚的说明本申请实施例提供的方案,以下说明中,以用户通过sink端的鼠标输入的操作为例进行示例性说明。请参考图5,该方法可以包括S501-S512。
S501、sink端接收用户输入的操作。
其中,用户可以通过sink端包括的鼠标或者与sink端通过接口连接的鼠标输入操作。示例性的,该操作可以包括移动操作、左键单击操作、左键双击操作、右键单击操作、右键双击操作、滚轮滚动操作等。
例如,移动操作是用户移动鼠标,但未对鼠标的按键(如左键,右键,滚轮)进行如敲击或者滚动滚轮的操作。又如,左键单击操作是用户对鼠标的左键敲击一次的操作。又如,滚轮滚动操作是用户对鼠标的滚轮进行了滚动的操作。
S502、sink端根据用户的操作确定光标在sink端的显示屏上的坐标信息。
在sink端接收用户通过鼠标输入操作的过程中的每一个时刻,sink端都可以确定出光标在sink端的显示屏上一个具体的坐标。也就是说,sink端能够根据用户输入的操作,确定出每个时刻光标在sink端的显示屏上的坐标信息,该坐标信息可以用于指示光标在显示屏上的坐标。
S503、sink端向source端发送控制信息,该控制信息包括坐标信息和用户输入的操作。
示例性的,sink端可以采用反向控制协议向source端发送控制信息。例如,该反向控制协议可以是UIBC协议。
S504、source端接收来自sink端的控制信息,该控制信息的数据格式为第一格式。
需要说明的是,该控制信息的数据格式(如第一格式)符合对应的传输协议的要求。示例性的,当sink端采用UIBC协议发送控制信息时,source端接收到的控制信息的数据格式可以为hidc格式,即第一格式为hidc格式。而第一格式不能直接被source端的操作系统所识别和处理。
S505、source端从数据格式为第一格式的控制信息中获取坐标信息。
虽然第一格式的控制信息不能直接被source端的操作系统所识别和处理,但是坐标信息在第一格式的控制信息中的位置是source端已知的,因此,source端可以从第一格式的控制信息中的对应位置提取出坐标信息。示例性的,source端可以在接收到第一格式的控制信息后,读取该第一格式的控制信息中,预设字符段的信息。该预设字符段的字符用于指示光标的坐标信息。这样,source端就从第一格式的控制信息中读取到坐标信息。
在一些实施例中,source端可以缓存读取到的光标信息。source端可以将当前时刻读取到的坐标信息与缓存中存储的上一时刻读取到的坐标信息进行对比,如果当前时刻的坐标信息与上一时刻的坐标信息不同,则继续执行S506。如果当前时刻的坐标信息与上一时刻的坐标信息相同,则source端可以不向sink端发送信息,转向执行S508。
S506、source端将坐标信息发送给sink端。
由于source端发送给sink端的数据只包括光标的坐标信息,因此,source端可以通过光标信息传输的相关协议发送该坐标信息。例如,source端可以采用MS-WDHCE协议将坐标信息发送给sink端。
S507、sink端接收来自source端的坐标信息,并根据该坐标信息在sink端的显示屏上显示光标。
其中,由于坐标信息是从sink端发送给source端的控制信息中提取出的,而控制信息中的坐标信息是用于指示sink端显示屏上的光标的坐标的,因此,sink端可以直接根据来自source端的坐标信息,在显示屏上该坐标信息对应的坐标位置显示光标。
如果sink端在某一时刻没有接收到source端发送的坐标信息,则sink端可以继续在上一时刻光标显示的位置显示光标。
示例性的,结合图4,source端在收到sink端发送过来的控制信息后,将该控制信息传入驱动层,同时根据该信息确定光标的坐标,并通过MS-WDHCE协议将该坐标发往sink端。可以看到,该流程中在控制信息传入驱动层之前就能够确定出光标的坐标,无需经过驱动层、AndroidInput系统处理,减少了以上两个步骤的时延,进而能够加快光标在sink端的显示速度。
S508、source端将控制信息的数据格式由第一格式转换为第二格式。
其中,第一格式可以是符合UIBC协议要求的数据格式,如hidc格式。第二格式可以是能够被source端的操作系统识别并处理的数据格式,如uhid格式。
一般而言,source端的操作系统,如Android系统,无法直接对采用UIBC协议传输的hidc格式的数据进行识别和处理。因此,source端在接收到hidc格式的数据之后,就需要对该hidc数据进行解析,将数据格式转换为能够被source端的操作系统识别和处理的第二格式。
需要说明的是,本申请实施例中,对source端执行S505和S508的先后顺序不做具体限制。例如,在一些实施例中,S505和S508可同时执行,在其他一些实施例中,S505和S508也可以以不同的先后顺序执行。
S509、source端根据数据格式为第二格式的控制信息确定在source端的显示屏上显示的光标的光标图层发生变化,则绘制该光标图层,并将该光标图层发送给sink端。
在一些实施例中,响应于用户输入的操作,在source端的显示屏上显示的光标的光标图层可能会发生对应的变化。source端可以根据第二格式的控制信息,确定光标图层是否会发生变化。如果source端确定光标图层发生变化,则source端可以根据用户输入的操作绘制对应的光标图层,并将该光标图层发送给sink端。
类似于S506中的示例,由于source端发送给sink端的数据只包括光标的光标图层,因此,source端可以通过光标信息传输的相关协议发送该坐标信息。例如,source端可以采用MS-WDHCE协议将光标图层发送给sink端。
在另一些实施例中,如果source端确定光标图层没有发生变化,则不需要重新绘制光标图层,也不需要向sink端发送光标图层。
S510、sink端接收来自source端的光标图层,并在显示屏上显示该光标图层对应的光标。
在一些实施例中,sink端接收到来自source端的光标图层,就代表光标的光标图层发生了变化,则sink端就可以更新显示屏上的光标,在当前光标显示的位置显示接收到的光标图层对应的光标。
在另一些实施例中,在某一时刻sink端没有接收到来自source端的光标图层,就代表光标的光标图层没有发生变化,则sink端就可以在显示屏上继续显示上一时刻显示的光标。
S511、source端进行录屏以获取录屏信息,并将该录屏信息发送给sink端。
source端可以根据控制信息中包括的坐标信息以及用户输入的操作,在source端对应的位置执行与用户的操作对应的事件。在执行事件的过程中,source端还需要对显示屏上界面的变化进行录屏,获取录屏信息,该录屏信息可以为包括source端上显示屏界面变化的音频/视频流数据。在获取录屏信息后,source端可以将该录屏信息发送给sink端。
在一些实施例中,source端可以对去除光标图层的图层进行录屏,获取包括桌面录屏数据,不包括光标图层的录屏信息。示例性的,source端操作系统,如Android系统,可以设置光标图层不在sink端显示,则source端录屏时,就会对去除光标图层的图层行录屏,获取包括桌面录屏数据的录屏信息。
S512、sink端接收录屏信息,并根据该录屏信息在显示屏上显示对应的界面。
sink端接收到录屏信息之后,就可以在显示屏上显示该录屏信息包括的桌面录屏数据,以便向用户展示source端响应于用户的操作,执行对应事件的界面变化情况。
这样,source端从控制信息直接获取并向sink端反馈光标的位置信息,使得sink端能够快速的获取光标显示的坐标并在该坐标位置显示光标,以实现了sink端显示屏上光标的快速显示,提高了光标的响应速度。进一步的,source端根据控制信息绘制并向sink端反馈光标的光标图层,使得sink端能够更新在sink端显示屏上的光标图层。此外,source端还通过在录屏时去除光标图层,并将该去除光标图层的录屏信息发往sink端,避免了sink端显示屏上同时出现两个光标的情况发生。
请参考图6,为本申请实施例提供的又一种显示控制方法的流程示意图。如图6所示,该方法可以包括S601-S612。
其中,该方法中的S601-S604与图5所示方法的S501-S504的步骤一一相同。该方法中的S609-S612与图5所示方法的S509-S512的步骤一一相同,本申请实施例在此不再赘述。以下对两种方法中有差异的步骤(即S605-S608)进行详细说明。
S605、source端将控制信息的数据格式由第一格式转换为第二格式。
示例性的,source端可以对控制信息进行解析,将控制信息由hidc格式转换为uhid格式,以便source端的操作系统(如Android系统)能够对该控制信息进行识别并处理。
S606、source端从数据格式为第二格式的控制信息中获取坐标信息。
可以理解的是,第二格式(如uhid格式)的控制信息能够直接被source端的操作系统(如Android系统)识别和处理,因此,source端的操作系统就能够直接从第二格式的控制信息中获取光标的坐标信息。
S607、source端将坐标信息发送给sink端。
在一些实施例中,source端可以在获取坐标信息之后直接将该坐标信息发送给sink端。
在另一些实施例中,source端可以在将坐标信息发送给sink端之前,将当前时刻读取到的光标的坐标信息与缓存中存储的根据上一时刻的光标的坐标信息进行对比,如果当前时刻的坐标信息与上一时刻的坐标信息不同,则将当前时刻的坐标信息发送给sink端。如果当前时刻的坐标信息与上一时刻的坐标信息相同,则source端可以不向sink端发送信息,以节省source端与sink端之间的交互次数,减小对显示控制系统的压力。
示例性的,source端中可以预先设置监听器,该监听器可以用于监听控制信息中的坐标信息。例如,该监听器可以是基于窗口管理服务WindowManager Service的监听器。则source端就可以根据该监听器确定坐标信息是否发生变化,进而确定是否向sink端发送该坐标信息。
如上述S506中的说明,source端可以采用MS-WDHCE协议将坐标信息发送给sink端。
在source端将该坐标信息发送给sink端之前,需要保证该坐标信息能够直接被sink端所使用。示例性的,在一些实施例中,source端在对第一格式的控制信息进行解析以获取第二格式的控制信息后,会对控制信息中的坐标信息进行坐标转换,将基于sink端显示屏的坐标转换为基于source端显示屏的坐标,以便于source端能够直接使用该坐标进行光标的显示。那么,source端在将坐标信息发送给sink端之前,需要对该基于source端显示屏的坐标进行坐标转换,以获取基于sink端显示屏的坐标,然后将该基于sink端显示屏的坐标发送给sink端。
在另一些实施例中,source端在对控制信息的解析的过程中,不会对控制信息中的坐标信息进行坐标转换,source端从第二格式的控制信息中获取的坐标信息为基于sink端显示屏的坐标,则source端就可以直接将该坐标信息发送给sink端。
S608、sink端接收坐标信息,并根据该坐标信息在sink端的显示屏上对应位置显示光标。
可以理解的是,由于sink端接收到的坐标信息中包括的坐标,是基于sink端显示屏的坐标,因此,sink端在接收到该坐标信息之后,可以直接根据该坐标信息指示的坐标位置在显示屏上显示光标。
这样,source端可以直接根据第二格式的控制信息确定并向sink端反馈光标的位置信息,使得sink端能够快速的获取光标显示的坐标并在该坐标位置显示光标,以实现了sink端显示屏上光标的快速显示,提高了光标的响应速度。进一步的,source端根据控制信息确定并向sink端反馈光标的光标图层,使得sink端能够更新在sink端显示屏上的光标图层。此外,source端还通过在录屏时去除光标图层,并将该去除光标图层的录屏信息发往sink端,避免了sink端显示屏上同时出现两个光标的情况发生。
上述主要从电子设备(如sink端、source端)的角度对本申请实施例提供的方案进行了介绍。可以理解的是,电子设备为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例可以根据上述方法示例对电子设备进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
在采用对应各个功能划分各个功能模块的情况下,图7示出了上述实施例中涉及的电子设备的一种可能的逻辑组成示意图,如图7所示,该电子设备可以包括:通信单元701,获取单元702及显示单元703。该电子设备可以用于实现上述方法实施例中source端所执行的功能。
其中,通信单元701用于接收来自接收端的控制信息,该控制信息包括光标在接收端的显示屏上的坐标信息和用户通过接收端输入的操作。示例性的,通信单元701可以用于执行如图5所示的S504。通信单元701还可以用于执行如图6所示的S604。在一些实施例中,通信单元701可以用于接收来自接收端采用UIBC协议发送的控制信息。
获取单元702用于从控制信息中获取坐标信息。示例性的,获取单元702可以用于执行如图5所示的S505。获取单元702还可以用于执行如图6所示的S606。
通信单元701还用于将坐标信息发送给接收端,用于指示接收端在坐标信息指示的坐标处显示光标。示例性的,通信单元701还可以用于执行如图5所示的S506。通信单元701还可以用于执行如图6所示的S607。在一些实施例中,通信单元701可以用于采用MS-WDHCE向接收端发送坐标信息。
显示单元703用于根据控制信息显示光标。
获取单元702还用于录屏并获取录屏信息。通信单元701还用于向接收端发送录屏信息。示例性的,获取单元702以及通信单元701还可以用于执行如图5所示的S511。获取单元702还可以用于执行如图6所示的S611。在一些实施例中,获取单元702可以用于对去除光标图层的图层进行录屏,获取录屏信息。
在一种可能的设计中,控制信息的数据格式为第一格式。该电子设备还包括转换单元704。转换单元704用于将控制信息的数据格式由第一格式转换为第二格式,第二格式为传送端能够识别的格式。示例性的,转换单元704可以用于执行如图5所示的S508。转换单元704还可以用于执行如图6所示的S609。显示单元703用于根据数据格式为第二格式的控制信息显示光标。
在一些实施例中,获取单元702用于从数据格式为第一格式的控制信息中获取坐标信息。示例性的,获取单元702还可以用于执行如图5所示的S505。
在另一些实施例中,获取单元702用于从数据格式为第二格式的控制信息中获取坐标信息。示例性的,获取单元702还可以用于执行如图6所示的S606。
在一种可能的设计中,电子设备还包括确定单元705和绘制单元706。确定单元705用于根据数据格式为第二格式的控制信息确定在显示单元703上显示的光标的光标图层发生变化。绘制单元706用于根据用户通过接收端输入的操作,绘制光标图层。通信单元701,还用于向接收端发送光标图层,用于指示接收端在坐标信息指示的坐标处显示具有光标图层的光标。示例性的,确定单元705、绘制单元706以及通信单元701可以用于执行如图5所示的S509。确定单元705、绘制单元706以及通信单元701还可以用于执行如图6所示的S609。在一些实施例中,通信单元701可以用于采用MS-WDHCE协议向接收端发送光标图层。
本申请实施例还提供的一种电子设备,如图8所示,该电子设备可以包括:显示器801,处理器802和存储器803。其中,显示器801和处理器802与存储器803耦合。存储器803可以用于存储计算机程序代码,计算机程序代码包括计算机指令。当计算机指令被电子设备执行时,使得电子设备执行如图5所示的source端所执行功能,以实现图5所示的显示控制方法。或者,当计算机指令被电子设备执行时,使得电子设备执行如图6所示的source端所执行功能,以实现图6所示的显示控制方法。
需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。本申请实施例提供的电子设备,用于执行上述方法中传送端的功能,因此可以达到与上述显示控制方法相同的效果。
本申请实施例还提供的一种电子设备,如图9所示,该电子设备可以包括:输入单元901,确定单元902,通信单元903以及显示单元904。该电子设备可以用于实现上述方法实施例中sink端所执行的功能。
其中,输入单元901用于接收用户输入的操作。示例性的,输入单元901可以用于执行如图5所示S501。输入单元901还可以用于执行如图6所示S601。
确定单元902用于根据操作确定光标在接收端的显示屏上的坐标信息。示例性的,确定单元902可以用于执行如图5所示S502。确定单元902还可以用于执行如图6所示S602。
通信单元903用于向传送端发送控制信息,该控制信息包括坐标信息和操作。示例性的,通信单元903可以用于执行如图5所示S503。通信单元903还可以用于执行如图6所示S603。在一些实施例中,通信单元903可以用于采用UIBC协议向传送端发送控制信息。
通信单元903还用于接收来自传送端的坐标信息。示例性的,通信单元903可以用于执行如图5所示S507。通信单元903还可以用于执行如图6所示S608。
显示单元904用于在显示屏上坐标信息指示的坐标处显示光标。
通信单元903还用于接收来自传送端的录屏信息。显示单元904还用于根据录屏信息显示对应界面。示例性的,通信单元903以及显示单元904可以用于执行如图5所示S512。通信单元903还可以用于执行如图6所示S612。在一些实施例中,录屏信息中可以不包括光标图层。
在一种可能的设计中,通信单元903还用于接收来自传送端的光标图层。显示单元904还用于在坐标信息指示的坐标处显示具有该光标图层的光标。示例性的,通信单元903以及显示单元904可以用于执行如图5所示S510。通信单元903还可以用于执行如图6所示S610。
本申请实施例还提供的一种电子设备,如图10所示,该电子设备可以包括:输入设备1001,显示器1002,处理器1003和存储器1004。其中,输入设备1001,显示器1002和处理器1003与存储器1004耦合。存储器1004可以用于存储计算机程序代码,计算机程序代码包括计算机指令。当计算机指令被电子设备执行时,使得电子设备执行如图5所示的sink端所执行功能,以实现图5所示的显示控制方法。或者,当计算机指令被电子设备执行时,使得电子设备执行如图6所示的sink端所执行功能,以实现图6所示的显示控制方法。
需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。本申请实施例提供的电子设备,用于执行上述方法中传送端的功能,因此可以达到与上述显示控制方法相同的效果。
本申请实施例还提供一种芯片系统,芯片系统应用于电子设备。如图11所示,该芯片系统包括至少一个处理器1101和至少一个接口电路1102。处理器1101和接口电路1102可通过线路互联。例如,接口电路1102可用于从其它装置(例如电子设备的存储器)接收信号。又例如,接口电路1102可用于向其它装置(例如处理器1101或者电子设备的显示屏)发送信号。示例性的,接口电路1102可读取存储器中存储的指令,并将该指令发送给处理器1101。当所述指令被处理器1101执行时,可使得电子设备执行上述实施例中的各个步骤。当然,该芯片系统还可以包含其他分立器件,本申请实施例对此不作具体限定。
在上述实施例中的功能或动作或操作或步骤等,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件程序实现时,可以全部或部分地以计算机程序产品的形式来实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line,DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包括一个或多个可以用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如,软盘、硬盘、磁带),光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
尽管结合具体特征及其实施例对本申请进行了描述,显而易见的,在不脱离本申请的精神和范围的情况下,可对其进行各种修改和组合。相应地,本说明书和附图仅仅是所附权利要求所界定的本申请的示例性说明,且视为已覆盖本申请范围内的任意和所有修改、变化、组合或等同物。显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包括这些改动和变型在内。

Claims (16)

1.一种显示控制方法,其特征在于,所述方法包括:
传送端接收来自接收端的控制信息,所述控制信息包括光标在所述接收端的显示屏上的坐标信息和用户通过所述接收端输入的操作;
所述传送端从所述控制信息中获取所述坐标信息,并发送给所述接收端,用于指示所述接收端在所述坐标信息指示的坐标处显示光标;
所述传送端根据所述控制信息在所述传送端的显示屏上显示光标;
所述传送端进行录屏获取录屏信息;
所述传送端向所述接收端发送所述录屏信息。
2.根据权利要求1所述的方法,其特征在于,所述控制信息的数据格式为第一格式;
所述传送端从所述控制信息中获取所述坐标信息,包括:
所述传送端从数据格式为所述第一格式的所述控制信息中获取所述坐标信息;
所述传送端根据所述控制信息在所述传送端的显示屏上显示光标,包括:
所述传送端将所述控制信息的数据格式由所述第一格式转换为第二格式,所述第二格式为所述传送端能够识别的格式;
所述传送端根据数据格式为所述第二格式的所述控制信息,在所述传送端的显示屏上显示光标。
3.根据权利要求1所述的方法,其特征在于,所述控制信息的数据格式为第一格式;
所述传送端从所述控制信息中获取所述坐标信息,包括:
所述传送端将所述控制信息的数据格式由所述第一格式转换为第二格式,所述第二格式为所述传送端能够识别的格式;
所述传送端从数据格式为所述第二格式的所述控制信息中获取所述坐标信息;
所述传送端根据所述控制信息在所述传送端的显示屏上显示光标,包括:
所述传送端根据数据格式为所述第二格式的所述控制信息,在所述传送端的显示屏上显示光标。
4.根据权利要求2或3所述的方法,其特征在于,所述方法还包括:
所述传送端根据数据格式为所述第二格式的所述控制信息确定在所述传送端的显示屏上显示的光标的光标图层发生变化;
所述传送端根据所述用户通过所述接收端输入的操作,绘制所述光标图层;
所述传送端向所述接收端发送所述光标图层,用于指示所述接收端在所述坐标信息指示的坐标处显示具有所述光标图层的光标。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述传送端进行录屏获取录屏信息,包括:
所述传送端对去除光标图层的图层进行录屏,获取所述录屏信息。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述传送端接收来自接收端的控制信息,包括:
所述传送端接收来自所述接收端采用用户输入反向信道UIBC协议发送的控制信息。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述传送端向所述接收端发送所述坐标信息,包括:
所述传送端采用微软无线视频显示中的硬件光标扩展协议MS-WDHCE向所述接收端发送所述坐标信息。
8.根据权利要求4所述的方法,其特征在于,所述传送端向所述接收端发送所述光标图层,包括:
所述传送端采用MS-WDHCE协议向所述接收端发送所述光标图层。
9.一种显示控制方法,其特征在于,所述方法包括:
接收端接收用户输入的操作;
所述接收端根据所述操作确定光标在所述接收端的显示屏上的坐标信息;
所述接收端向传送端发送控制信息,所述控制信息包括所述坐标信息和所述操作;
所述接收端接收来自所述传送端的所述坐标信息;
所述接收端在所述显示屏上所述坐标信息指示的坐标处显示光标;
所述接收端接收来自所述传送端的录屏信息;
所述接收端根据所述录屏信息显示对应界面。
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:
所述接收端接收来自所述传送端的光标图层;
所述接收端在所述显示屏上所述坐标信息指示的坐标处显示光标,包括:
所述接收端在所述显示屏上所述坐标信息指示的坐标处显示具有所述光标图层的光标。
11.根据权利要求9或10所述的方法,其特征在于,所述录屏信息不包括光标图层。
12.根据权利要求9-11任一项所述的方法,其特征在于,所述接收端向传送端发送控制信息,包括:
所述接收端采用UIBC协议向传送端发送所述控制信息。
13.一种电子设备,其特征在于,所述电子设备包括:显示器,处理器和存储器;所述显示器和所述处理器与所述存储器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,当所述计算机指令被所述电子设备执行时,使得所述电子设备执行如权利要求1至8中任一项所述的显示控制方法。
14.一种电子设备,其特征在于,所述电子设备包括:输入设备,显示器,处理器和存储器;所述输入设备,所述显示器和所述处理器与所述存储器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,当所述计算机指令被所述电子设备执行时,使得所述电子设备执行如权利要求9至12中任一项所述的显示控制方法。
15.一种计算机可读存储介质,其特征在于,包括:计算机软件指令;
当所述计算机软件指令在电子设备中运行时,使得所述电子设备执行如权利要求1至8中任一项或权利要求9至12中任一项所述的显示控制方法。
16.一种计算机程序产品,其特征在于,当所述计算机程序产品在计算机上运行时,使得所述计算机执行如权利要求1至8中任一项或权利要求9至12中任一项所述的显示控制方法。
CN201910842830.1A 2019-09-06 2019-09-06 一种显示控制方法及电子设备 Pending CN112463086A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910842830.1A CN112463086A (zh) 2019-09-06 2019-09-06 一种显示控制方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910842830.1A CN112463086A (zh) 2019-09-06 2019-09-06 一种显示控制方法及电子设备

Publications (1)

Publication Number Publication Date
CN112463086A true CN112463086A (zh) 2021-03-09

Family

ID=74807785

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910842830.1A Pending CN112463086A (zh) 2019-09-06 2019-09-06 一种显示控制方法及电子设备

Country Status (1)

Country Link
CN (1) CN112463086A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114371878A (zh) * 2022-01-10 2022-04-19 深圳中微电科技有限公司 一种基于无光标图层的display IP模块硬件鼠标实现方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103984512A (zh) * 2014-04-01 2014-08-13 广州视睿电子科技有限公司 远程批注方法及系统
US20150046962A1 (en) * 2013-08-12 2015-02-12 SmartQ Technologies Inc. Method of controlling physically separated network computers in one monitor and security system using the same.
CN104836936A (zh) * 2015-05-19 2015-08-12 深圳市飞图视讯有限公司 一种数据传输方法
CN105117015A (zh) * 2015-08-28 2015-12-02 江南大学 一种显示屏中不规则多边形区域的切换方法和系统
US20160018943A1 (en) * 2013-03-13 2016-01-21 Clarion Co., Ltd. Display Device
CN107168674A (zh) * 2017-06-19 2017-09-15 浙江工商大学 投屏批注方法和系统
CN108563391A (zh) * 2018-04-04 2018-09-21 广州视源电子科技股份有限公司 无线传屏触摸回传方法及系统
CN109032546A (zh) * 2018-06-12 2018-12-18 广州视源电子科技股份有限公司 多屏互动系统及方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160018943A1 (en) * 2013-03-13 2016-01-21 Clarion Co., Ltd. Display Device
US20150046962A1 (en) * 2013-08-12 2015-02-12 SmartQ Technologies Inc. Method of controlling physically separated network computers in one monitor and security system using the same.
CN103984512A (zh) * 2014-04-01 2014-08-13 广州视睿电子科技有限公司 远程批注方法及系统
CN104836936A (zh) * 2015-05-19 2015-08-12 深圳市飞图视讯有限公司 一种数据传输方法
CN105117015A (zh) * 2015-08-28 2015-12-02 江南大学 一种显示屏中不规则多边形区域的切换方法和系统
CN107168674A (zh) * 2017-06-19 2017-09-15 浙江工商大学 投屏批注方法和系统
CN108563391A (zh) * 2018-04-04 2018-09-21 广州视源电子科技股份有限公司 无线传屏触摸回传方法及系统
CN109032546A (zh) * 2018-06-12 2018-12-18 广州视源电子科技股份有限公司 多屏互动系统及方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114371878A (zh) * 2022-01-10 2022-04-19 深圳中微电科技有限公司 一种基于无光标图层的display IP模块硬件鼠标实现方法
CN114371878B (zh) * 2022-01-10 2024-05-14 深圳中微电科技有限公司 一种基于无光标图层的display IP模块硬件鼠标实现方法

Similar Documents

Publication Publication Date Title
CN110244893B (zh) 一种分屏显示的操作方法及电子设备
US11703960B2 (en) Air mouse mode implementation method and related device
WO2021052214A1 (zh) 一种手势交互方法、装置及终端设备
US11848016B2 (en) Voice control command generation method and terminal
US20210377642A1 (en) Method and Apparatus for Implementing Automatic Translation by Using a Plurality of TWS Headsets Connected in Forwarding Mode
CN114489533A (zh) 投屏方法、装置、电子设备及计算机可读存储介质
CN112312366A (zh) 一种通过nfc标签实现功能的方法、电子设备及系统
CN113934330A (zh) 一种截屏方法及电子设备
CN113728295A (zh) 控屏方法、装置、设备及存储介质
WO2020221062A1 (zh) 一种导航操作方法及电子设备
CN114880251A (zh) 存储单元的访问方法、访问装置和终端设备
CN111492678B (zh) 一种文件传输方法及电子设备
CN112099741B (zh) 显示屏位置识别方法、电子设备及计算机可读存储介质
CN109285563B (zh) 在线翻译过程中的语音数据处理方法及装置
CN114185503A (zh) 多屏交互的系统、方法、装置和介质
EP4307168A1 (en) Target user determination method, electronic device and computer-readable storage medium
CN112463086A (zh) 一种显示控制方法及电子设备
CN112527220B (zh) 一种电子设备显示方法及电子设备
CN115730091A (zh) 批注展示方法、装置、终端设备及可读存储介质
CN115459643A (zh) 线性马达的振动波形调整方法及装置
CN115393676A (zh) 手势控制优化方法、装置、终端和存储介质
CN115185441A (zh) 控制方法、装置、电子设备及可读存储介质
CN114079809A (zh) 终端及其输入方法与装置
US20240045586A1 (en) Method for Enabling Function in Application and Apparatus
CN114691066A (zh) 一种应用的显示方法及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210309

RJ01 Rejection of invention patent application after publication