CN118259861A - 一种投屏显示方法及电子设备 - Google Patents

一种投屏显示方法及电子设备 Download PDF

Info

Publication number
CN118259861A
CN118259861A CN202410454532.6A CN202410454532A CN118259861A CN 118259861 A CN118259861 A CN 118259861A CN 202410454532 A CN202410454532 A CN 202410454532A CN 118259861 A CN118259861 A CN 118259861A
Authority
CN
China
Prior art keywords
display
window
display interface
source
interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202410454532.6A
Other languages
English (en)
Inventor
何书杰
潘辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Publication of CN118259861A publication Critical patent/CN118259861A/zh
Pending legal-status Critical Current

Links

Abstract

本申请公开了一种投屏显示方法及电子设备,在投屏场景进行通话时,可在保护用户隐私的同时,不影响用户在目标设备上正常使用其他投屏应用。该方法包括:源端设备可将第一应用的第一显示界面投射至目标设备的第一窗口中显示,源端设备同步显示第一窗口中的显示内容;源端设备将第二应用的第二显示界面投射至目标设备的第二窗口中显示,源端设备可继续同步显示第一窗口中的显示内容;在这种场景下,如果源端设备检测到通话事件,则可检测是否有物体靠近源端设备;若有物体靠近源端设备,则源端设备自身可停止显示与本次通话事件对应的通话界面,并触发目标设备在第一窗口中显示预设的遮挡图片,该遮挡图片用于遮挡通话界面的部分或全部。

Description

一种投屏显示方法及电子设备
技术领域
本申请涉及终端技术领域,尤其涉及一种投屏显示方法及电子设备。
背景技术
目前,手机等电子设备在通话场景中可开启防误触功能防止人耳贴近屏幕后发生误触。例如,手机检测到用户与联系人通话后,可使用接近光传感器检测手机听筒附近是否有物体。如果检测到手机听筒附近有物体,则手机可自动息屏(或称为熄屏),防止人耳贴近屏幕后发生误触,同时也可以避免通话界面中用户的隐私被泄露。
在一些投屏场景下,手机等源端设备(或称为source端)可以将多个应用以多窗口的形式投射至PC等目标设备(或称为sink端)中显示。例如,如图1所示,手机可以将通话APP的显示界面投射至PC的窗口101中显示,并且,手机可以将视频APP的显示界面投射至PC的窗口102中显示。此时,手机的显示内容可与窗口101中的显示内容同步,即手机显示的也是通话APP的显示界面。
那么,如果用户使用手机与联系人A通话,则手机会触发上述防误触功能检测手机听筒附近是否有物体。如果检测到手机听筒附近有物体,则如图2所示,手机可停止绘制手机屏幕上的显示界面,进入息屏状态。由于手机停止绘制手机屏幕中的显示界面,导致手机无法向PC发送各个应用的显示界面,此时,PC中的窗口101和窗口102无法正常显示相关应用的显示界面,导致用户不能正常使用窗口101和窗口102中的相关功能,降低投屏场景下用户的使用体验。
发明内容
本申请提供一种投屏显示方法及电子设备,在投屏场景进行通话时,可在保护用户隐私的同时,不影响用户在目标设备上正常使用其他投屏应用,提高用户的使用体验。
第一方面,本申请提供一种投屏显示方法,包括:源端设备可将第一应用的第一显示界面投射至目标设备的第一窗口中显示,源端设备同步显示第一窗口中的显示内容;后续,源端设备可将第二应用的第二显示界面投射至目标设备的第二窗口中显示,此时,源端设备可继续同步显示第一窗口中的显示内容;在这种场景下,如果源端设备检测到通话事件,则可检测是否有物体靠近源端设备;若有物体靠近源端设备,则源端设备自身可停止显示与本次通话事件对应的通话界面,并触发目标设备在第一窗口中显示预设的遮挡图片,该遮挡图片用于遮挡通话界面的部分或全部。
也就是说,在源端设备将多个应用以多窗口的形式投射至目标设备显示的场景中,由于源端设备的显示内容与目标设备中某一窗口(例如第一窗口)的显示内容是同步的,因此,当源端设备在通话场景下检测到有物体靠近源端设备时,不仅源端设备可以停止显示通话界面,目标设备也可以通过显示遮挡图片的方式遮挡第一窗口中的通话界面。这样,目标设备不会在通话场景下泄露通话界面中与用户相关的隐私,与通话事件无关的应用可以正常显示在目标设备中向用户提供相关功能,提高用户的使用体验。
其中,上述通话界面可以是拨号时的通话应用显示的界面,也可以是通话过程中通话应用显示的界面。
在一些实施例中,在上述场景中,源端设备可以通过进入息屏状态的方式停止显示与本次通话事件对应的通话界面。
在另一些实施例中,源端设备检测到有物体靠近源端设备时,源端设备与目标设备的第一窗口同步显示的可能不是通话界面。例如,通话应用可以被用户切换至后台运行,在通话过程中,源端设备与目标设备的第一窗口可以同步显示第三应用的界面,此时,源端设备可停止显示第三应用的界面(例如息屏),并触发目标设备在第一窗口中使用遮挡图片遮挡第三应用的界面。
在一种可能的实现方式中,源端设备触发目标设备在第一窗口中显示预设的遮挡图片,包括:源端设备向目标设备发送通知事件,该通知事件中包括第一窗口的标识。这样,目标设备接收到通知事件后,可根据通知事件中第一窗口的标识在第一窗口中绘制上述遮挡图片,遮挡图片位于正在显示的通话界面的上层。
或者,源端设备也可以停止向目标设备发送与第一窗口对应的显示内容,使得目标设备停止在第一窗口中显示当前的通话界面。
在一种可能的实现方式中,若有物体靠近源端设备,则上述方法还包括:源端设备可继续向目标设备发送第二显示界面,触发目标设备继续在第二窗口中显示第二显示界面。这样一来,在多应用的投屏场景下,当源端设备检测到通话事件后,源端设备可在自身以及目标设备中与通话事件相关的窗口中停止显示通话界面,避免通话时的误触和隐私泄露。但源端设备可继续在目标设备中正常显示与通话事件无关的窗口,使得本次通话事件不会干扰用户在目标设备中使用其他已投屏的应用,从而提高投屏场景以及通话场景下用户的使用体验。
在一种可能的实现方式中,源端设备将第一应用的第一显示界面投射至目标设备的第一窗口中显示,包括:源端设备在第一虚拟屏中绘制第一应用的第一显示界面;进而,源端设备将第一虚拟屏中的第一显示界面输出至目标设备和源端设备的显示器;其中,源端设备将第二应用的第二显示界面投射至目标设备的第二窗口中显示,包括:源端设备在第二虚拟屏中绘制第二应用的第二显示界面;进而,源端设备将第二虚拟屏中的第二显示界面输出至目标设备。
在一种可能的实现方式中,源端设备将第一应用的第一显示界面投射至目标设备的第一窗口中显示,包括:源端设备在第一虚拟屏的第一区域内绘制第一应用的第一显示界面;进而,源端设备将第一区域中的第一显示界面输出至目标设备和源端设备的显示器;其中,源端设备将第二应用的第二显示界面投射至目标设备的第二窗口中显示,包括:源端设备在第一虚拟屏的第二区域内绘制第二应用的第二显示界面;进而,源端设备将第二区域中的第二显示界面输出至目标设备。
在一种可能的实现方式中,上述遮挡图片中可以包括提示信息,提示信息用于提示用户正在通话。例如,该提示信息可以是文字、图片、动画等。另外,遮挡图片在第一窗口中的大小、位置或透明度等参数可由本领域技术人员按照实际经验进行设置。
在一种可能的实现方式中,在源端设备触发目标设备在第一窗口中显示预设的遮挡图片之后,还包括:响应于用户向第二窗口输入的操作,源端设备接收目标设备发送的操作信息;源端设备根据操作信息将第二显示界面更新为第三显示界面;并且,源端设备可将第三显示界面发送至目标设备,触发目标设备在第二窗口中显示第三显示界面。也就是说,目标设备在第一窗口中使用遮挡图片遮挡通话界面的同时,可正常在第二窗口中向用户提供相关的应用功能,第二应用在第二窗口中的投屏过程不会受到影响。
在一种可能的实现方式中,在源端设备触发目标设备在第一窗口中显示预设的遮挡图片之后,还包括:当源端设备检测到通话事件结束或没有物体靠近源端设备后,源端设备与目标设备的第一窗口同步显示第四显示界面,第四显示界面与第一显示界面相同或不同。例如,当通话事件结束后,源端设备可返回至接收到通话事件之前的第一显示界面,此时,目标设备的第一窗口也同步显示第一显示界面。又例如,在通话过程中如果检测到没有物体靠近源端设备,则源端设备可显示当前的通话界面,此时,目标设备的第一窗口也同步显示该通话界面。
在一种可能的实现方式中,当源端设备检测到通话事件后,检测是否有物体靠近源端设备,包括:当源端设备检测到通话事件后,源端设备可使用接近光传感器检测障碍物与源端设备之间的距离;当障碍物与源端设备之间的距离小于预设值时,源端设备可确定有物体靠近源端设备;当障碍物与源端设备之间的距离大于或等于预设值时,源端设备可确定没有物体靠近源端设备。
在一种可能的实现方式中,上述通话事件包括:接听联系人电话的事件,或者,拨打联系人电话的事件。
第二方面,本申请提供一种投屏显示方法,包括:源端设备显示第一应用的第一显示界面,并向目标设备发送第一显示界面;目标设备接收第一显示界面,并在第一窗口中显示第一显示界面;源端设备在显示第一显示界面时,还可以向目标设备发送第二应用的第二显示界面;目标设备接收第二显示界面后,可在第二窗口中显示第二显示界面;此时,源端设备将多个应用分别投射至目标设备的多个窗口中显示;后续,当源端设备检测到通话事件后,可检测是否有物体靠近源端设备;若有物体靠近源端设备,则源端设备停止显示与通话事件对应的通话界面(例如,进入息屏状态),并且,源端设备可向目标设备发送通知事件,该通知事件包括与源端设备同步显示的第一窗口的标识;那么,响应于上述通知事件,目标设备可在第一窗口中显示预设的遮挡图片,该遮挡图片用于遮挡通话界面的部分或全部,避免通话时的用户隐私被泄露。但目标设备中与通话事件无关的窗口可正常显示,使得本次通话事件不会干扰用户在目标设备中使用其他已投屏的应用,从而提高投屏场景以及通话场景下用户的使用体验。
在一种可能的实现方式中,在目标设备接收第二显示界面,并在第二窗口中显示第二显示界面之后,还包括:目标设备接收用户向第二窗口输入的第一操作;目标设备将与第一操作对应的第一操作信息发送至源端设备,使得源端设备根据第一操作信息将第二显示界面更新为第三显示界面,并将第三显示界面发送至目标设备;进而,目标设备在第二窗口中显示第三显示界面。也就是说,目标设备在第一窗口中使用遮挡图片遮挡通话界面的同时,可正常在第二窗口中向用户提供相关的应用功能,第二应用在第二窗口中的投屏过程不会受到影响。
在一种可能的实现方式中,在目标设备接收第一显示界面,并在第一窗口中显示第一显示界面之后,还包括:目标设备接收用户向第一窗口输入的第二操作,例如打开第二应用的操作;进而,目标设备可将与第二操作对应的第二操作信息发送至源端设备;此时,源端设备在显示第一显示界面时,向目标设备发送第二应用的第二显示界面,包括:源端设备在显示第一显示界面时,可根据第二操作信息在后台运行第二应用;进而,源端设备将第二应用运行时的第二显示界面发送至目标设备。
在一种可能的实现方式中,在目标设备在第一窗口中显示预设的遮挡图片之后,还包括:当源端设备检测到通话事件结束或没有物体靠近源端设备后,源端设备显示第四显示界面;源端设备将第四显示界面以及恢复事件发送至目标设备,恢复事件中包括第一窗口的标识;响应于恢复事件,目标设备在第一窗口中停止显示遮挡图片,并显示第四显示界面。
在一种可能的实现方式中,源端设备停止显示与通话事件对应的通话界面时,源端设备可进入息屏状态。
第三方面,本申请提供一种电子设备,所述电子设备为源端设备,该源端设备包括:存储器、显示屏和一个或多个处理器;存储器、显示屏与处理器耦合。其中,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令;当电子设备运行时,该处理器用于执行该存储器存储的一个或多个计算机指令,以使电子设备执行如上述第一方面或第二方面中任一项所述的投屏显示方法。
第四方面,本申请提供一种电子设备,所述电子设备为目的设备,该目的设备包括:存储器、显示屏和一个或多个处理器;存储器、显示屏与处理器耦合。其中,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令;当电子设备运行时,该处理器用于执行该存储器存储的一个或多个计算机指令,以使电子设备执行如上述第一方面或第二方面中任一项所述的投屏显示方法。
第五方面,本申请提供一种投屏显示系统,包括上述源端设备和目的设备,源端设备和目的设备通过交互可执行如上述第一方面或第二方面中任一项所述的投屏显示方法。
第六方面,本申请提供一种计算机可读存储介质,该计算机可读存储介质包括计算机指令。当计算机指令在电子设备上运行时,使得该电子设备执行如上述第一方面或第二方面中任一项所述的投屏显示方法。
第七方面,本申请提供一种计算机程序产品,当所述计算机程序产品在电子设备上运行时,使得电子设备执行如上述第一方面或第二方面中任一项所述的投屏显示方法。
可以理解地,上述各个方面所提供的电子设备、计算机可读存储介质以及计算机程序产品均应用于上文所提供的对应方法,因此,其所能达到的有益效果可参考上文所提供的对应方法中的有益效果,此处不再赘述。
附图说明
图1为现有技术中投屏显示方法的应用场景图一;
图2为现有技术中投屏显示方法的应用场景图二;
图3为本申请实施例提供一种投屏显示方法的应用场景图一;
图4为本申请实施例提供一种投屏显示方法的应用场景图二;
图5为现有技术中投屏显示方法的应用场景图三;
图6为本申请实施例提供一种电子设备的结构示意图一;
图7为本申请实施例提供一种电子设备中操作系统的架构示意图;
图8为本申请实施例提供一种投屏显示方法的原理示意图一;
图9为本申请实施例提供一种投屏显示方法的原理示意图二;
图10为本申请实施例提供一种投屏显示方法的原理示意图三;
图11为本申请实施例提供一种投屏显示方法的原理示意图四;
图12为本申请实施例提供一种投屏显示方法的原理示意图五;
图13为本申请实施例提供一种投屏显示方法的交互流程图;
图14为本申请实施例提供一种投屏显示方法的应用场景图三;
图15为本申请实施例提供一种投屏显示方法的应用场景图四;
图16为本申请实施例提供一种投屏显示方法的应用场景图五;
图17为本申请实施例提供一种投屏显示方法的应用场景图六;
图18为本申请实施例提供一种投屏显示方法的应用场景图七;
图19为本申请实施例提供一种投屏显示方法的应用场景图八;
图20为本申请实施例提供一种电子设备的结构示意图二;
图21为本申请实施例提供一种电子设备的结构示意图三。
具体实施方式
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
目前,多设备协同使用已是较为常见的办公和娱乐方式。在多设备协同使用时,源端设备(或称为source端)可与目标设备(或称为sink端)建立连接。例如,源端设备可与目标设备建立Wi-Fi连接、蓝牙连接或P2P(peer to peer,点对点)连接等。进而,源端设备可通过MiraCast协议或DLNA(DIGITAL LIVING NETWORK ALLIANCE,数字生活网络联盟)协议将源端设备中的图像、文档、音频、视频或应用投射至目标设备中显示或播放,使得用户可以在目标设备中使用源端设备提供的相关功能。
示例性的,以手机为源端设备、PC为目标设备举例,如图3所示,PC上可以设置电子标签201,电子标签201也可称为NFC(near field communication,近场通信)标签或NFC贴片等。电子标签201中一般设置有线圈,在PC出厂时可预先向电子标签201的线圈中写入该PC的设备信息。例如,该设备信息可包括PC的名称、蓝牙MAC(media access control,媒体访问控制)地址或IP地址等一项或多项。
当用户需要将手机中的应用、文档等数据投射至PC中显示时,可开启手机的NFC功能,将手机靠近或接触PC上的电子标签201。这样,手机在与电子标签201彼此靠近的情况下,可通过发射近场信号从电子标签201中读取PC的设备信息。进而,手机可根据PC的设备信息与PC建立无线通信连接。例如,该无线通信连接具体可以为蓝牙连接、Wi-Fi连接或Wi-Fi P2P连接等,本申请实施例对此不做任何限制。
当然,除了可以通过上述“碰一碰”的方式触发手机与PC建立连接外,手机也可以通过搜索附近的设备,或者通过拖拽等手势触发手机与PC建立连接,或者,手机也可以通过UWB(Ultra Wide Band,超宽带)等其他通信技术与PC建立连接,本申请实施例对此不做任何限制。
手机与PC建立无线通信连接后,仍如图3所示,手机可实时的将当前的显示界面202通过已建立的无线通信连接发送给PC。例如,手机可以以视频流的形式将当前的显示界面202实时传输至PC。PC可通过窗口203显示显示界面202,窗口203中可以包括控制栏204,控制栏204可以包括最大化、最小化以及关闭等按钮。以显示界面202为手机的桌面举例,PC在窗口203中显示出手机的桌面后,用户可以在窗口203中使用手机提供的各项功能。
例如,用户可以使用PC的键盘或者鼠标在窗口203中输入打开视频APP的操作,进而,PC可将用户输入的操作发送给手机,触发手机响应该操作将视频APP投射至PC中。例如,手机可在后台运行视频APP,如图4所示,手机可将运行视频APP时产生的显示数据(即视频APP的显示界面205)以视频流的形式发送给PC。PC可创建新的窗口206,并在窗口206中显示视频APP的显示界面205。此时,PC不仅可以通过窗口203显示手机正在前台运行的桌面应用,还可以通过窗口206显示手机正在后台运行的视频APP。这样,手机(即源端设备)可将多个应用以多窗口的形式投射至PC(即目标设备)中显示。
仍如图4所示,PC中窗口203的显示内容与手机中的显示内容是同步的。那么,如图5所示,如果用户使用手机的通话APP拨打联系人Sam的电话,则手机可显示通话界面401。同时,手机可将通话界面401发送至PC,由PC将通话界面401更新在窗口203中显示。并且,手机检测到用户拨打联系人Sam的电话,或者,用户接通与联系人Sam的电话后,还可以使用接近光传感器检测是否手机听筒附近是否有物体。如果检测到手机听筒附近有物体,则手机停止绘制上述通话界面401,使手机进入息屏状态。此时,手机还会停止向PC发送显示数据,使得PC无法在窗口203和窗口206中显示相关应用的显示界面,用户也无法在PC上正常使用窗口203和窗口206中的相关功能。
或者,手机停止绘制上述通话界面401后,还可以指示PC在窗口203和窗口206中显示预设的蒙层、动画、文字或图片,提示用户手机正在通话中。同样,此时用户也无法在PC上正常使用窗口203和窗口206中的相关功能。
对此,本申请实施例提供一种投屏显示方法,仍以手机为源端设备举例,当手机检测到手机中有通话事件后,如果手机正在目标设备中投射多个应用的窗口,则手机检测到手机听筒附近有物体时,手机可以控制目标设备继续正常显示除通话界面之外其他窗口中的显示界面。例如,在图5所示的场景下,手机可以在息屏时控制PC停止显示窗口203中的显示界面,但继续在窗口206中显示视频APP的显示界面。这样,当目标设备上投射有手机的多个应用时,与当前通话事件无关的应用可以正常显示在目标设备中向用户提供相关功能,不影响用户在目标设备上使用与当前通话事件无关的应用,从而提高投屏和通话场景下用户的使用体验。
仍以手机为上述投屏场景中的源端设备举例,图6示出了手机的结构示意图。
如图1所示,手机可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180等。
可以理解的是,本发明实施例示意的结构并不构成对手机的具体限定。在本申请另一些实施例中,手机可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
手机的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。手机中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在手机上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(lownoise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
无线通信模块160可以提供应用在手机上的包括无线局域网(wireless localarea networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequencymodulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,手机的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得手机可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code divisionmultiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(globalnavigation satellite system,GLONASS),北斗卫星导航系统(beidou navigationsatellite system,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
手机通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,手机可以包括1个或N个显示屏194,N为大于1的正整数。
以OLED显示屏举例,一块OLED显示屏中可以包含阵列排布的多个OLED像素单元。如图2所示,每个OLED像素单元中包含阴极201,阳极202,以及位于阴极201和阳极202之间的电子传输层203、空穴传输层204以及发光层205。其中,阴极201可以为金属电极,阳极202可以为ITO(indium tin oxide,氧化铟锡)透明电极。
向阴极201和阳极202输入驱动电压V后,在驱动电压V的作用下,电子从阴极201传输到电子传输层203,空穴从阳极202注入到空穴传输层204,二者在发光层205相遇后产生激子,使得发光层205中的发光分子激发,经过辐射后产生光源。当驱动电压V不同时,可激发对应的OLED像素单元呈现不同的颜色和亮度。这样,OLED显示屏中的各个OLED像素单元可在不同的驱动电压下显示出对应的画面。
其中,电子传输层203、空穴传输层204以及发光层205中的有机材料在使用过程中会逐渐老化。而OLED显示屏中出现的残影现象,其实就是某个固定位置的OLED像素单元长时间总显示相同且静止的图像,导致这部分像素单元中的有机材料比其他位置更加耗损,发光效率衰减得更快,从而在OLED显示屏上留下了残影。
手机可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,手机可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当手机在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。手机可以支持一种或多种视频编解码器。这样,手机可以播放或录制多种编码格式的视频,例如:动态图像专家组(movingpicture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展手机的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行手机的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储手机使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
手机可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。手机可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当手机接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。手机可以设置至少一个麦克风170C。在另一些实施例中,手机可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,手机还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
传感器模块180中可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
当然,手机还可以包括充电管理模块、电源管理模块、电池、按键、指示器以及1个或多个SIM卡接口等,本申请实施例对此不做任何限制。
上述手机的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的系统为例,示例性说明手机的软件结构。
图7是本申请实施例的手机的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,以及内核层。
1、应用程序层
应用程序层可以包括一系列应用程序包。
如图7所示,应用程序层中可以安装通话,备忘录,浏览器,联系人,相机,图库,日历,地图,蓝牙,音乐,视频,短信息等APP(应用,application)。
2、应用程序框架层
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
在本申请实施例中,如图7所示,应用程序框架层中可以包括活动管理服务(ActivityManagerService,AMS)和窗口管理服务(WindowManagerService,WMS)。
其中,AMS可用于管理应用运行时的生命周期。应用通常以Activity的形式运行在操作系统中。对于每一个Activity,在活动管理器中都会有一个与之对应的应用记录(ActivityRecord),这个ActivityRecord记录了该应用的Activity的状态。活动管理器可以利用这个ActivityRecord作为标识,调度应用的Activity进程。
WMS可用于管理在手机屏幕上使用的图形用户界面(graphical user interface,GUI)资源,具体可包括:窗口的创建和销毁、窗口的显示与隐藏、窗口的布局、焦点的管理以及输入法和壁纸管理等。
在本申请实施例中,以手机运行桌面(也可称为桌面应用、launcher等)举例,手机开始运行桌面后,如图8所示,AMS可为桌面创建对应的应用栈(stack),例如stack 1。Stack1中可以包括桌面需要执行的一个或多个Activity。在执行stack 1中的Activity时,WMS可在手机默认的display模块(例如display 0)中实时绘制对应的显示界面。进而,WMS可将display 0中绘制的显示界面输出至手机的显示器中显示,从而向用户在手机屏幕上呈现出桌面。其中,display模块也可称为虚拟屏或虚拟display等。手机可将display模块作为占用一定存储空间的画布使用。例如,display 0可占用存储空间1,display 0中的区域1对应于存储空间1中的一段存储地址,display 0中的区域2对应于存储空间1中的另一段存储地址,即display模块可具有位置属性。
如果手机开启投屏功能与目标设备(例如PC)建立了连接,仍如图8所示,则WMS还可将display 0中绘制的显示界面输出至PC,使得PC可创建对应的窗口用于呈现手机桌面,从而实现多设备协同场景下的投屏功能。
在这种投屏场景下,如果检测到用户操作PC打开手机桌面中的某一应用(例如视频APP),则PC可向手机发送对应的投屏指令,指示手机将视频APP投射至PC显示。此时,如图9所示,AMS可为视频APP创建对应的stack 2。Stack 2中可以包括视频APP需要执行的一个或多个Activity。此时,由于用户并没有在手机中打开视频APP,手机的AMS可将视频APP运行在手机后台,不显示视频APP的显示界面。
仍如图9所示,AMS创建stack 2后,需要并行执行stack 2和stack 1中的Activity。此时,WMS可在手机默认的display模块(例如display 0)中实时绘制视频APP的显示界面以及桌面的显示界面。此时,display 0的区域1中包括桌面的显示界面,display0的区域2中包括视频APP的显示界面。WMS将display 0中的显示数据发送至PC后,PC可将区域1中桌面的显示界面显示在窗口1中,并将区域2中视频APP的显示界面显示在窗口2中。这样,手机中的多个应用可以以多窗口的形式投射至PC中显示。
或者,如图10所示,AMS创建stack 2后,WMS还可以为stack 2创建对应的display模块(例如display 1)。进而,WMS可在display 1中实时绘制视频APP的显示界面。同时,WMS可继续在display 0中实时绘制桌面的显示界面。进而,WMS可将display 0和display 1中的显示数据发送至PC,PC可将display 0中桌面的显示界面显示在窗口1中,并将display1中视频APP的显示界面显示在窗口2中,从而实现将手机中的多个应用投射至PC中显示。
无论使用哪种方式将手机中的多个应用投射至PC中显示,PC中某一窗口内的显示界面与手机的显示界面是同步的。后续,手机可能会检测到通话APP上报的通话事件,该通话事件可以包括接听联系人电话或者拨打联系人电话的事件。此时,如图11所示,手机的AMS除了为通话APP创建对应的stack 3之外,还可以调用WMS在display 0中原本绘制桌面的区域1内绘制通话APP的显示界面,并将通话APP的显示界面实时输出至手机和PC中显示。
并且,检测到通话APP上报的通话事件后,手机还可以使用设置在手机听筒附近的接近光传感器检测是否有物体靠近手机听筒。如果检测到有物体靠近手机听筒,说明很可能有人耳贴近手机听筒在接听电话,则手机可查询display模块中用于绘制通话APP的显示界面的区域。
例如,每个应用运行时创建的stack对应一个标识,例如task ID。手机可从AMS获取到与当前通话APP对应的stack 3,进而,手机可根据stack 3的task ID在WMS中查询到通话APP的显示界面绘制在display 0的区域1内。进而,如图12所示,手机可指示WMS可停止在区域1内绘制相关显示界面,使区域1处于黑屏状态。与此同时,WMS可继续在display 0(或display 1)中绘制正在运行的视频APP的显示界面,即非通话APP的显示界面可以正常渲染。这样,display 0的区域1中没有内容输出至手机和PC,使得手机和PC可以停止显示通话时的通话界面,避免用户接听电话时误触手机屏幕,也避免通话界面中的用户隐私通过手机和PC泄露出去。而display 0(或display 1)中视频APP的显示界面可以正常输出至PC,使得与当前通话事件无关的应用可以正常显示以向用户提供相关功能,从而提高投屏和通话场景下用户的使用体验。
其中,手机(源端设备)与PC(目标设备)在多应用投屏时的具体显示过程将在后续实施例中详细阐述,故此处不予赘述。
另外,应用程序框架层还可以包括电源管理服务,内容提供服务,视图系统,资源管理服务,通知管理服务等,本申请实施例对此不做任何限制。
3、Android runtime和系统库
Android runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
其中,表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。2D图形引擎是2D绘图的绘图引擎。
4、内核层
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动等,本申请实施例对此不做任何限制。
以下,仍以投屏场景下手机为源端设备、PC为目标设备举例,结合附图详细阐述本申请实施例提供的一种投屏显示方法。
如图13所示,本申请实施例提供的一种投屏显示方法可包括下述步骤S1201-S1209:
S1201、手机与PC建立连接。
在一些实施例中,手机与PC可以采用有线的方式建立连接。例如,手机与PC可通过数据线建立有线连接。
在另一些实施例中,手机与PC可以采用无线的方式建立连接。
例如,用户可使用手机触碰PC上设置的电子标签,手机读取该电子标签中保存的设备信息,如设备信息中可包括PC的IP地址、蓝牙MAC地址等。之后,手机可根据PC的设备信息采用NFC协议与PC建立连接。
又例如,手机与PC均打开了蓝牙功能和Wi-Fi功能。PC可广播蓝牙信号,以发现周围的终端,如PC可显示发现的设备列表,该发现设备列表中可包括PC发现的手机的标识。另外,在PC进行设备发现的过程中也可与发现的设备互相交换连接信息,如IP地址。之后,在PC接收到用户在显示的设备列表中选择该手机的标识的操作后,PC根据手机的IP地址,可采用Wi-Fi协议与该手机建立连接。
再例如,手机和PC均接入了蜂窝网,手机与PC登录了同一账号(例如华为账号)。此时,手机与PC可根据该华为账号基于蜂窝网建立连接。
在手机与PC成功建立连接后,两者便可协同使用。为了提高协同使用的效率,用户可使用一套输入设备,如PC的鼠标实现对PC和手机两者的控制。当然,用户也可以使用PC的鼠标实现对PC的控制,并且,用户可使用触控的方式实现对手机的控制,本申请实施例对此不做任何限制。
S1202、手机将第一应用的第一显示界面投射至PC的第一窗口中显示,手机同步显示第一窗口中的第一显示界面。
手机与PC建立连接后,在一些实施例中,手机可以自动将正在显示的第一应用的显示界面(即第一显示界面)投射至PC中显示。例如,如图14所示,手机与PC建立连接后,手机正在运行桌面。此时,手机的WMS可在默认的display 0中实时绘制桌面的显示界面1301。手机的WMS可将display 0中的显示内容实时输出至手机的显示器,使得手机通过显示器显示出显示界面1301。
同时,手机与PC建立连接后,手机的WMS还可将display 0中的显示内容实时输出至PC。例如,手机的WMS可以视频流的形式对display 0中的显示内容进行编码,进而将编码后的显示内容发送至PC。PC接收到该显示内容后,可对该显示内容进行解码,得到解码后display 0中的显示内容。进而,PC可创建第一窗口1302,并将display 0中的显示内容(即显示界面1301)显示在第一窗口1302中。其中,第一窗口1302中除了包括显示界面1301外,还可以包括控制栏、状态栏或工具栏等组件。也就是说,PC可以以窗口的形式显示手机投屏来的应用的显示界面。
需要说明的是,手机中的显示界面1301与PC在第一窗口1302中显示的显示界面1301的具体内容可以相同,但二者的形状、大小、位置、排布、分辨率或DPI(Dots Per Inch,每英寸点数)等显示参数可以不同,本申请实施例对此不做任何限制。
手机将正在运行的桌面的显示界面1301投射至PC的第一窗口1302中显示后,手机与PC上第一窗口1302中的显示内容是同步的。如果手机检测到用户向显示界面1301中输入某一操作(例如点击应用图标、打开控制中心等),则手机可响应该操作按照上述方法更新display0中的显示内容,从而同步更新手机和PC上第一窗口1302中的显示内容。
S1203、手机将第二应用的第二显示界面投射至PC的第二窗口中显示,手机继续同步显示第一窗口中的第一显示界面。
在一些实施例中,手机可以将手机中的多个应用以多窗口的形式投射至PC中显示,使得用户可以在PC中同时享受手机中多个应用提供的服务。
仍以手机将桌面的显示界面1301投射至PC的第一窗口1302中显示举例,如果用户希望在PC中打开手机中的视频APP,则用户可以向PC的第一窗口1302输入打开视频APP的操作。例如,如图15所示,如果检测到用户使用PC的鼠标双击第一窗口1302中视频APP的图标1400,则PC可将对应的操作信息携带在投屏指令1中发送给手机,该投屏指令1用于指示手机将视频APP投射至PC中显示。例如,上述操作信息可以包括视频APP的标识,或者,上述操作信息可以包括鼠标双击时的位置坐标等。手机接收到该投屏指令1后,可根据投屏指令1中视频APP的标识或者鼠标双击时的位置坐标确定需要将视频APP的显示界面发送给PC显示。
进而,仍如图15所示,手机可在后台开始运行视频APP。此时,手机的WMS既需要实时绘制在前台运行的桌面的显示界面1301,还需要实时绘制在后台运行的视频APP的显示界面1401。示例性的,手机的WMS可以在display 0中划分不同的区域,不同区域与不同应用的应用栈对应,即不同区域与不同应用的task ID对应。例如,手机的WMS可以在display 0的区域1中绘制桌面的显示界面1301,并且,在display 0的区域2中绘制视频APP的显示界面1401,其中,桌面的task ID可以为第一task ID,视频APP的task ID可以为第二task ID。进而,手机的WMS将display 0中的显示内容实时输出至PC后,如果PC提取到区域1和区域2中的两个显示界面,则PC可将区域1中的显示界面1301显示在第一窗口1302中,并且,PC可为区域2中的显示内容(即视频APP的显示界面1401)创建第二窗口1402,将区域2中的显示界面1401显示在第二窗口1402中。这样,手机中的桌面和视频APP可通过两个窗口投射至PC中显示。
在上述实现方式中,手机的WMS记录有不同的应用、display 0中的不同区域以及PC中不同窗口之间的对应关系。例如,上述桌面的第一task ID、display 0中的区域1以及PC上的第一窗口1302之间具有对应关系。又例如,上述视频APP的第二task ID、display 0中的区域2以及PC上的第二窗口1402之间具有对应关系。
在另一些实施例中,手机确定需要将视频APP的显示界面发送给PC显示后,手机的WMS可以创建新的display模块,例如display 1。进而,手机的WMS可以在display 0中继续绘制桌面的显示界面1301,并且,手机的WMS可以在display 1中绘制视频APP的显示界面1401。后续,手机的WMS可将display 0和display 1中的显示内容实时输出至PC。PC接收到display 0中的显示内容(即显示界面1301)后,可将display 0中的显示内容更新在第一窗口1302中。PC接收到display 1中的显示内容(即显示界面1401)后,可创建与display 1对应的第二窗口1402,将display 1中的显示内容更新在第二窗口1402中。这样,仍如图15所示,手机中的桌面和视频APP也可通过两个窗口投射至PC中显示。
在上述实现方式中,手机的WMS记录有不同的应用、不同display模块以及PC中不同窗口之间的对应关系。例如,上述桌面的第一task ID、display 0以及PC上的第一窗口1302之间具有对应关系。又例如,上述视频APP的第二task ID、display 1以及PC上的第二窗口1402之间具有对应关系。
后续,如果PC检测到用户向第二窗口1402中的显示界面1401输入某一操作(例如返回操作、暂停操作等),则PC可将第二窗口1402的标识以及对应的操作信息携带在投屏指令2中发送给手机。手机接收到投屏指令2后,可根据上述对应关系,响应用户输入的操作更新与第二窗口1402对应的display 1(或display 0中区域2)内的显示内容,从而同步更新PC上第二窗口1402中的显示内容。
在另一些实施例中,用户除了通过操作PC中的第一窗口1302触发PC通过多窗口显示手机中多个应用外,用户还可以在手机中输入预设的手势触发手机将多个应用以多窗口的形式投射至PC中显示。例如,仍以手机显示桌面的显示界面1301举例,如果检测到用户将微信APP的图标拖拽至显示界面1301的预设区域,或者,将微信APP的图标拖拽出显示界面1301的边界,则手机可按照上述方法在后台运行微信APP,并将绘制的微信APP的显示界面发送至PC,由PC创建对应的窗口用于显示微信APP的显示界面。
另外,上述实施例中是以PC使用两个窗口分别显示手机中两个应用的显示界面举例说明的,可以理解的是,如果用户希望将手机中更多的应用(例如3个应用或4个应用等)投射至PC显示,则手机与PC可继续按照上述方法以多窗口的形式在PC中投射手机内的多个应用,本申请实施例对此不做任何限制。
S1204、手机检测到通话APP上报的通话事件。
当手机将多个应用以多窗口的形式投射至PC中显示时,手机中的显示界面与PC中一个窗口内的显示界面可以保持同步。仍如图15所示,PC上第一窗口1302中的显示内容与手机上的显示内容保持同步,例如,第一窗口1302和手机中均显示的是桌面的显示界面1301。
在这种场景下,手机有可能检测到通话APP上报的通话事件。例如,该通话事件可以是用户接听联系人电话的事件。又例如,该通话事件可以是用户拨打联系人电话的事件。手机的通话APP检测到上述通话事件后,可将该通话事件上报给手机的电话管理器(PhoneManager)。此时,手机的电话管理器一方面可向手机的WMS传递该通话事件,触发手机继续执行下述步骤S1205,另一方面,手机的电话管理器可调用接近光传感器执行下述步骤S1206。
S1205、响应于上述通话事件,在PC的第一窗口和手机中显示通话APP的第三显示界面。
以手机检测到的通话事件为用户接听联系人电话的事件举例,如图16所示,如果手机在显示桌面的显示界面1301时接收到联系人Sam的来电,则手机可将在前台运行的应用从桌面切换为通话APP。此时,手机的WMS可在display 0中原本绘制显示界面1301的区域(例如区域1)绘制通话APP的显示界面1501。并且,手机的WMS可继续按照步骤S1503的相关方法在相关的display模块中绘制视频APP的显示界面1401。
进而,如图16所示,手机的显示器从display 0中获取到通话APP的显示界面1501后,可显示出显示界面1501。PC从display 0中获取到通话APP的显示界面1501后,可在原本显示显示界面1301的第一窗口1302中显示通话APP的显示界面1501。即此时第一窗口1302与通话APP的显示界面1501对应。同时,PC可从相关display模块中获取视频APP的显示界面1401,并将显示界面1401继续显示在第二窗口1402中。
也就是说,PC的第一窗口1302中可以动态显示手机中的显示界面,PC的第二窗口1402可继续显示已投屏的应用的显示界面。
后续,如果检测到用户点击手机中显示界面1501上的接听按钮1502,则通话APP可生成本次通话事件,并将该通话事件通过电话管理器上报给手机的WMS。此时,手机的WMS可继续按照上述方法将手机实时显示的显示界面投射至PC的第一窗口1302中,并将已投屏的视频APP的显示界面投射至PC的第二窗口1402中。
S1206、手机检测手机听筒附近是否有物体靠近。
在步骤S1206中,如果检测到用户点击手机中上述显示界面1501上的接听按钮1502,则通话APP将本次通话事件上报给电话管理器后,电话管理器还可以调用手机听筒附近设置的接近光传感器检测手机听筒附近是否有物体靠近。当然,手机在检测到上述通话事件之前也可以调用接近光传感器检测手机听筒附近是否有物体靠近,本申请实施例对此不做任何限制。
例如,上述接近光传感器具体可以为霍尔传感器、光电传感器等能够检测距离的传感器。可以将接近光传感器设置在手机的听筒附近。手机可以通过调用Sensor.TYPE_PROXIMITY这一接口,调用接近光传感器检测手机与障碍物之间的距离。当检测到手机与障碍物之间的距离小于预设值(例如5cm)时,说明用户已经靠近手机听筒,正在使用手机听筒接听本次通话。此时,手机可继续执行下述步骤S1207,使得PC可以在停止显示通话事件所在的显示界面时,正常显示投屏场景下与当前通话事件无关的应用的显示界面。
相应的,如果到手机与障碍物之间的距离大于或等于上述预设值,说明用户目前没有使用手机听筒接听本次通话,此时,手机可继续显示通话APP的显示界面。并且,手机可按照上述方法继续将通话APP的显示界面投射至PC的第一窗口1302中显示。
S1207、若检测到手机听筒附近有物体靠近,则手机进入息屏状态,并指示PC停止在第一窗口中显示通话APP的显示界面。
在步骤S1207中,手机检测到手机听筒附近有物体靠近后,为了避免用户接听电话时发生误触,同时避免通话时显示界面中用户的隐私发生泄漏,手机的WMS可以停止在display 0的区域1中继续绘制通话APP的显示界面。
例如,手机的WMS可以先查询与当前通话APP对应的具体display模块或display模块中的具体区域。例如,由于WMS中建立有通话APP、display 0中的区域1以及PC中的第一窗口1302之间的对应关系,因此,手机的WMS获取到本次通话事件后,可根据该对应关系确定display 0的区域1内正在绘制通话APP的显示界面。进而,手机的WMS可调用stop render()函数停止在display 0的区域1中进行绘制。例如,如果手机在display 0的区域1内绘制通话APP的通话界面时检测到手机听筒附近有物体靠近,则手机可停止绘制该通话界面。又例如,手机在通话时可能显示的是其他应用的显示界面,即手机在display 0的区域1内绘制的是其他应用的显示界面,此时,如果检测到手机听筒附近有物体靠近,则手机也可停止绘制区域1内的显示界面。
进而,如图17所示,手机的显示器从display 0的区域1中获取不到显示内容后,可进入息屏(或黑屏)状态。并且,手机可向PC发送通知事件,以通知PC停止显示第一窗口1302中的显示界面。PC接收到上述通知事件后,由于PC从display 0的区域1中也获取不到显示内容,因此PC可在第一窗口1302中与手机同步进入黑屏状态。这样,PC在第一窗口1302中不会显示出通话时显示界面的相关信息,避免用户的隐私发生泄漏。其中,PC可以正常显示第一窗口1302中的控制栏,也可停止显示第一窗口1302中的控制栏,本申请实施例对此不做任何限制。
同时,仍如图17所示,手机的WMS可继续在display 0的区域2(或者display 1)中绘制视频APP的显示界面1401。进而,PC从display 0的区域2(或者display 1)中获取到视频APP的显示界面1401后,可继续在对应的第二窗口1402中显示视频APP的显示界面1401。
这样一来,在多应用的投屏场景下,当手机(即源端设备)检测到通话事件后,手机可在手机自身以及PC(即目标设备)中与通话事件相关的窗口(例如上述第一窗口1302)中不做显示,避免通话时的误触和隐私泄露。但手机可继续在PC中正常显示与通话事件无关的窗口,使得本次通话事件不会干扰用户在PC中使用其他已投屏的应用,从而提高投屏场景以及通话场景下用户的使用体验。
在另一些实施例中,当检测到手机听筒附近有物体靠近后,手机的WMS可继续将display0的区域1和区域2中的显示界面实时发送给PC。同时,手机可向PC发送通知事件,该通知事件可以包括第一窗口1302的标识,以通知PC停止显示第一窗口1302中的显示界面。PC接收到上述通知事件后,如图18所示,可根据通知事件中第一窗口1302的标识,在第一窗口1302中显示预设的遮挡图片1701,遮挡图片1701可用于遮挡第一窗口1302中正在显示的界面的全部或部分。其中,第一窗口1302的标识可以为正在第一窗口1302中运行的通话APP的task ID。
例如,PC从display 0的区域1中实时获取到相应的显示内容(例如通话界面)后,可将该通话界面显示在第一窗口1302中。当PC获取到上述通知事件后,可根据通知事件中第一窗口1302的标识在通话界面的上层绘制遮挡图片1701。这样,遮挡图片1701不仅可以遮挡下层通话APP的显示界面,避免通话时的误触和隐私泄露,并且,遮挡图片1701中还可以包括文字、图片或动画等提示信息,用于提示用户当前正在进行通话。此时,手机仍然可按照上述方法继续在display 0的区域2(或者display 1)中绘制视频APP的显示界面1401,并将视频APP的显示界面1401投射至PC的第二窗口1402中显示。
S1208、响应于用户向第二窗口输入的操作,PC更新第二窗口中的显示界面。
如图17或图18所示,当手机检测到通话事件后,手机虽然无法在PC的第一窗口1302中显示通话APP的相关界面供用户操作,但手机原本在PC的第二窗口1401中投射的视频APP不会受到影响。
在这种场景下,用户可以正常在PC的第二窗口1401中对视频APP的显示界面1401进行相关操作。例如,如果PC检测到用户向第二窗口1402中的显示界面1401输入某一操作(例如返回操作、暂停操作等),则PC可将第二窗口1402的标识以及接收到的具体操作信息携带在投屏指令3中发送给手机。手机接收到投屏指令3后,可响应用户输入的操作更新与第二窗口1402对应的display 1(或display 0中区域2)内的显示内容,从而同步更新PC上第二窗口1402中的显示内容。
S1209、当上述通话事件结束,或检测到手机听筒附近没有物体时,手机与PC的第一窗口同步显示第四显示界面。
在上述步骤S1206中,手机在获取到通话事件后可持续检测手机听筒附近是否有物体靠近。如果在通话过程中检测到手机听筒附近的物体靠近一段时间后又远离手机听筒,说明用户在通话过程中已经离开手机听筒,后续可能有操作手机屏幕的需求。或者,如果在检测到通话APP上报通话事件一段时间后又检测到通话APP上报的通话结束事件,说明用户已经结束本次通话,后续也可能有操作手机屏幕的需求。
那么,在步骤S1209中,如果检测到本次通话事件结束,或检测到手机听筒附近没有物体,则手机可恢复本次通话事件之前显示的显示界面,同时,PC的第一窗口1302也可与手机同步恢复本次通话事件之前显示的显示界面(即第四显示界面,第四显示界面与第一显示界面可以相同或不同)。
例如,当本次通话事件结束后,手机的AMS可重新在前台运行桌面,进而,手机的WMS可重新在display 0的区域1中绘制桌面的显示界面1301。这样,如图15所示,手机的显示器获取到display 0的区域1中的显示内容后,可再次在手机屏幕中显示桌面的显示界面1301。PC获取到display 0的区域1中的显示内容后,可再次在第一窗口1302中显示桌面的显示界面1301。
又例如,当通话过程中检测到手机听筒附近没有物体后,手机的AMS可继续在前台运行通话APP,进而,手机的WMS可重新在display 0的区域1中绘制通话APP的通话界面1801。这样,如图19所示,手机的显示器获取到display 0的区域1中的显示内容后,可在手机屏幕中显示通话APP的通话界面1801。PC获取到display 0的区域1中的显示内容后,可在第一窗口1302中显示通话APP的通话界面1801。
又例如,当本次通话事件结束,或检测到手机听筒附近没有物体时,手机还可以向PC发送恢复事件,与上述通知事件类似的,该恢复事件中可以包括第一窗口1302的标识。进而,PC可响应该恢复事件,移除在第一窗口1302中显示的遮挡图片1701,从而在第一窗口1302中恢复本次通话事件之前显示的显示界面。
手机的WMS在display 0的区域1中绘制上述显示界面1301(或上述通话界面)的同时,还可以继续在display 0的区域2(或display 1)中绘制视频APP的显示界面1401。进而,PC获取到display 0的区域2(或display 1)中的显示内容后,可在第二窗口1402中显示桌面的显示界面1401。
这样,在多应用的投屏场景下,当本次通话事件结束,或检测到手机听筒附近没有物体后,手机(即源端设备)可恢复手机自身和PC(即目标设备)上与上述通话事件相关的窗口内的显示内容,使得用户可继续在PC上使用手机投射至PC的多个应用。
另外,上述实施例中是以手机为投屏场景中的源端设备、以PC为投屏场景中的目标设备举例说明的,可以理解的是,在投屏场景中应用本申请实施例的源端设备还可以是平板电脑、手表等具有通话功能的电子设备,目标设备还可以是电视或平板电脑等具有显示功能的电子设备,本申请实施例对此不做任何限制。
需要说明的是,上述实施例中是以Android系统为例阐述的各个功能模块之间实现分布式拍摄功能的具体方法,可以理解的是,也可以在其他操作系统(例如鸿蒙系统等)中设置相应的功能模块实现上述方法。只要各个设备和功能模块实现的功能和本申请的实施例类似,即属于本申请权利要求及其等同技术的范围之内。
如图20所示,本申请实施例公开了一种电子设备,该电子设备可以为上述源端设备(例如手机)。该电子设备具体可以包括:触摸屏2001,所述触摸屏2001包括触摸传感器2006和显示屏2007;一个或多个处理器2002;存储器2003;通信模块2008;一个或多个应用程序(未示出);以及一个或多个计算机程序2004,上述各器件可以通过一个或多个通信总线2005连接。其中,上述一个或多个计算机程序2004被存储在上述存储器2003中并被配置为被该一个或多个处理器2002执行,该一个或多个计算机程序2004包括指令,该指令可以用于执行上述实施例中源端设备执行的相关步骤。
如图21所示,本申请实施例公开了一种电子设备,该电子设备可以为上述目标设备(例如PC)。该电子设备具体可以包括:显示屏2101;一个或多个处理器2102;存储器2103;通信模块2108;一个或多个应用程序(未示出);以及一个或多个计算机程序2104,上述各器件可以通过一个或多个通信总线2105连接。其中,上述一个或多个计算机程序2104被存储在上述存储器2103中并被配置为被该一个或多个处理器2102执行,该一个或多个计算机程序2104包括指令,该指令可以用于执行上述实施例中目标设备执行的相关步骤。
通过以上实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (20)

1.一种投屏显示方法,应用于源端设备,其特征在于,包括:
所述源端设备将第一应用的第一显示界面投射至目标设备的第一窗口中显示,所述源端设备同步显示所述第一窗口中的显示内容;
所述源端设备将第二应用的第二显示界面投射至所述目标设备的第二窗口中显示,所述源端设备继续同步显示所述第一窗口中的显示内容;
当所述源端设备检测到通话事件后,检测是否有物体靠近所述源端设备;
若有物体靠近所述源端设备,则所述源端设备停止显示与所述通话事件对应的通话界面,并触发所述目标设备在所述第一窗口中显示预设的遮挡图片,所述遮挡图片用于遮挡所述通话界面的部分或全部。
2.根据权利要求1所述的方法,其特征在于,所述源端设备触发所述目标设备在所述第一窗口中显示预设的遮挡图片,包括:
所述源端设备向所述目标设备发送通知事件,所述通知事件中包括所述第一窗口的标识,触发所述目标设备响应所述通知事件在所述第一窗口中位于所述通话界面的上层绘制所述遮挡图片。
3.根据权利要求1所述的方法,其特征在于,若有物体靠近所述源端设备,则所述方法还包括:
所述源端设备继续向所述目标设备发送所述第二显示界面,触发所述目标设备继续在所述第二窗口中显示所述第二显示界面。
4.根据权利要求1所述的方法,其特征在于,源端设备将第一应用的第一显示界面投射至目标设备的第一窗口中显示,包括:
所述源端设备在第一虚拟屏中绘制所述第一应用的第一显示界面;
所述源端设备将所述第一虚拟屏中的所述第一显示界面输出至所述目标设备和所述源端设备的显示器;
其中,所述源端设备将第二应用的第二显示界面投射至所述目标设备的第二窗口中显示,包括:
所述源端设备在第二虚拟屏中绘制所述第二应用的第二显示界面;
所述源端设备将所述第二虚拟屏中的所述第二显示界面输出至所述目标设备。
5.根据权利要求1所述的方法,其特征在于,源端设备将第一应用的第一显示界面投射至目标设备的第一窗口中显示,包括:
所述源端设备在第一虚拟屏的第一区域内绘制所述第一应用的第一显示界面;
所述源端设备将所述第一区域中的所述第一显示界面输出至所述目标设备和所述源端设备的显示器;
其中,所述源端设备将第二应用的第二显示界面投射至所述目标设备的第二窗口中显示,包括:
所述源端设备在所述第一虚拟屏的第二区域内绘制所述第二应用的第二显示界面;
所述源端设备将所述第二区域中的所述第二显示界面输出至所述目标设备。
6.根据权利要求1-5中任一项所述的方法,其特征在于,所述遮挡图片中包括提示信息,所述提示信息用于提示用户正在通话。
7.根据权利要求1-6中任一项所述的方法,其特征在于,在所述源端设备触发所述目标设备在所述第一窗口中显示预设的遮挡图片之后,还包括:
响应于用户向所述第二窗口输入的操作,所述源端设备接收所述目标设备发送的操作信息;
所述源端设备根据所述操作信息将所述第二显示界面更新为第三显示界面;
所述源端设备将所述第三显示界面发送至所述目标设备,触发所述目标设备在所述第二窗口中显示所述第三显示界面。
8.根据权利要求1-7中任一项所述的方法,其特征在于,在所述源端设备触发所述目标设备在所述第一窗口中显示预设的遮挡图片之后,还包括:
当所述源端设备检测到所述通话事件结束或没有物体靠近所述源端设备后,所述源端设备与所述目标设备的所述第一窗口同步显示第四显示界面,所述第四显示界面与所述第一显示界面相同或不同。
9.根据权利要求1-8中任一项所述的方法,其特征在于,当所述源端设备检测到通话事件后,检测是否有物体靠近所述源端设备,包括:
当所述源端设备检测到通话事件后,所述源端设备使用接近光传感器检测障碍物与所述源端设备之间的距离;
当所述障碍物与所述源端设备之间的距离小于预设值时,所述源端设备确定有物体靠近所述源端设备;
当所述障碍物与所述源端设备之间的距离大于或等于预设值时,所述源端设备确定没有物体靠近所述源端设备。
10.根据权利要求1-9中任一项所述的方法,其特征在于,所述通话事件包括:接听联系人电话的事件,或者,拨打联系人电话的事件。
11.一种投屏显示方法,其特征在于,包括:
源端设备显示第一应用的第一显示界面,并向目标设备发送所述第一显示界面;
所述目标设备接收所述第一显示界面,并在第一窗口中显示所述第一显示界面;
所述源端设备在显示所述第一显示界面时,向所述目标设备发送第二应用的第二显示界面;
所述目标设备接收所述第二显示界面,并在第二窗口中显示所述第二显示界面;
当所述源端设备检测到通话事件后,检测是否有物体靠近所述源端设备;
若有物体靠近所述源端设备,则所述源端设备停止显示与所述通话事件对应的通话界面,并且,所述源端设备向所述目标设备发送通知事件,所述通知事件包括所述第一窗口的标识;
响应于所述通知事件,所述目标设备在所述第一窗口中显示预设的遮挡图片,所述遮挡图片用于遮挡所述通话界面的部分或全部。
12.根据权利要求11所述的方法,其特征在于,在所述目标设备接收所述第二显示界面,并在第二窗口中显示所述第二显示界面之后,还包括:
所述目标设备接收用户向所述第二窗口输入的第一操作;
所述目标设备将与所述第一操作对应的第一操作信息发送至所述源端设备;
所述源端设备根据所述第一操作信息将所述第二显示界面更新为第三显示界面,并将所述第三显示界面发送至所述目标设备;
所述目标设备在所述第二窗口中显示所述第三显示界面。
13.根据权利要求11或12所述的方法,其特征在于,在所述目标设备接收所述第一显示界面,并在第一窗口中显示所述第一显示界面之后,还包括:
所述目标设备接收用户向所述第一窗口输入的第二操作;
所述目标设备将与所述第二操作对应的第二操作信息发送至所述源端设备;
其中,所述源端设备在显示所述第一显示界面时,向所述目标设备发送第二应用的第二显示界面,包括:
所述源端设备在显示所述第一显示界面时,根据所述第二操作信息在后台运行第二应用;
所述源端设备将所述第二应用运行时的第二显示界面发送至所述目标设备。
14.根据权利要求11-13中任一项所述的方法,其特征在于,在所述目标设备在所述第一窗口中显示预设的遮挡图片之后,还包括:
当所述源端设备检测到所述通话事件结束或没有物体靠近所述源端设备后,所述源端设备显示第四显示界面;
所述源端设备将所述第四显示界面以及恢复事件发送至所述目标设备,所述恢复事件中包括所述第一窗口的标识;
响应于所述恢复事件,所述目标设备在所述第一窗口中停止显示所述遮挡图片,并显示所述第四显示界面。
15.根据权利要求11-14中任一项所述的方法,其特征在于,所述源端设备停止显示与所述通话事件对应的通话界面时,所述源端设备进入息屏状态。
16.一种电子设备,其特征在于,所述电子设备为源端设备,所述源端设备包括:
显示屏;
一个或多个处理器;
存储器;
通信模块;
其中,所述存储器中存储有一个或多个计算机程序,所述一个或多个计算机程序包括指令,当所述指令被所述源端设备执行时,使得所述源端设备执行如权利要求1-10中任一项所述源端设备执行的投屏显示方法。
17.一种电子设备,其特征在于,所述电子设备为目标设备,所述目标设备包括:
显示屏;
一个或多个处理器;
存储器;
通信模块;
其中,所述存储器中存储有一个或多个计算机程序,所述一个或多个计算机程序包括指令,当所述指令被所述目标设备执行时,使得所述目标设备执行如权利要求11-15中任一项所述目标设备执行的投屏显示方法。
18.一种投屏显示系统,其特征在于,所述系统包括如权利要求16所述的电子设备,以及如权利要求17所述的电子设备。
19.一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,其特征在于,当所述指令在电子设备上运行时,使得所述电子设备执行如权利要求1-10或11-15中任一项所述的投屏显示方法。
20.一种包含指令的计算机程序产品,其特征在于,当所述计算机程序产品在电子设备上运行时,使得所述电子设备执行如权利要求1-10或11-15中任一项所述的投屏显示方法。
CN202410454532.6A 2021-02-26 一种投屏显示方法及电子设备 Pending CN118259861A (zh)

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN202110221257.XA Division CN115048067A (zh) 2021-02-26 2021-02-26 一种投屏显示方法及电子设备

Publications (1)

Publication Number Publication Date
CN118259861A true CN118259861A (zh) 2024-06-28

Family

ID=

Similar Documents

Publication Publication Date Title
US11669242B2 (en) Screenshot method and electronic device
US11722449B2 (en) Notification message preview method and electronic device
CN109766066B (zh) 一种消息处理的方法、相关装置及系统
EP4293497A1 (en) Screen projection display method and electronic device
US20230419570A1 (en) Image Processing Method and Electronic Device
CN114040242B (zh) 投屏方法、电子设备和存储介质
EP4060475A1 (en) Multi-screen cooperation method and system, and electronic device
CN114554000B (zh) 摄像头调用方法、系统、电子设备及存储介质
CN112584251B (zh) 一种显示方法及电子设备
CN116360725B (zh) 显示交互系统、显示方法及设备
EP4120074A1 (en) Full-screen display method and apparatus, and electronic device
CN114185503B (zh) 多屏交互的系统、方法、装置和介质
WO2023045712A1 (zh) 投屏异常处理方法及电子设备
CN114363678A (zh) 一种投屏方法及设备
CN115242994B (zh) 视频通话系统、方法和装置
WO2023020012A1 (zh) 设备之间的数据通信方法、设备、存储介质及程序产品
US20240231742A9 (en) Projection display method and electronic device
CN118259861A (zh) 一种投屏显示方法及电子设备
CN115686403A (zh) 显示参数的调整方法、电子设备、芯片及可读存储介质
WO2023273460A1 (zh) 一种投屏显示方法及电子设备
CN115633219B (zh) 一种界面识别方法、设备及计算机可读存储介质
CN116301541A (zh) 共享文件的方法、电子设备及计算机可读存储介质
CN117666819A (zh) 鼠标操作方法、电子设备、鼠标和计算机可读存储介质
CN117501233A (zh) 一种投屏图像的处理方法和装置
CN117998514A (zh) 多网协同切换方法、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication