CN101447998B - 桌面共享方法及系统 - Google Patents
桌面共享方法及系统 Download PDFInfo
- Publication number
- CN101447998B CN101447998B CN2008102204239A CN200810220423A CN101447998B CN 101447998 B CN101447998 B CN 101447998B CN 2008102204239 A CN2008102204239 A CN 2008102204239A CN 200810220423 A CN200810220423 A CN 200810220423A CN 101447998 B CN101447998 B CN 101447998B
- Authority
- CN
- China
- Prior art keywords
- mouse
- desktop
- terminal
- shared
- incident
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明为桌面共享方法及系统,本系统包括用于采集桌面图像、鼠标的位置和状态信息并进行编码压缩后发送出去,以及接收来自控制终端的操作事件并进行处理后回放显示的共享终端;用于桌面图像和操作事件转发的多媒体多点控制单元;用于接收来自共享终端的桌面图像、鼠标的位置和状态信息并经过解码解压后回放显示的观看终端;用于接收来自共享终端的桌面图像并经过解码解压后回放显示,同时还对共享终端传来的桌面图像进行操作并将操作事件经MCU发送到共享终端的控制终端。本发明桌面共享系统中的观看终端可浏览流畅的远程的桌面图像,还可通过远程的控制终端对共享终端进行操作,将操作事件真实地反映为对共享终端的操作,具有良好的互动效果。
Description
技术领域
本发明涉及桌面共享领域,具体涉及桌面共享方法及系统。
背景技术
随着信息技术的快速发展,网络已经成为信息传播的重要途径。远程控制和互动作为一种新的交互方式,不需要处于同一个环境便可以完成身临其境的互动,可以实现异地的观看与操作。
桌面共享是数据共享中的一种重要应用,在网络视频会议中经常被用于文档展示、操作演示、问题协同解决等,是音视频、文本消息等交互方式重要且有效的补充。
VNC是比较成熟的桌面共享系统的实现,由一个服务端(共享端),多个客户端(观看端)组成。VNC在服务端采集时,只采集变化的区域的图像,在客户端也只更新变化的区域。这种方式一定程度上节省了系统资源,加快了采集速度,但是图像性能不稳定,当服务端的桌面图像高速变化时,客户端观看到的图像容易失真且不连贯,比如在服务端播放电影时,客户端观看的效果非常差,而且不能采集到DirectX加速显示的画面。同时,在远程控制方面,VNC在触摸屏等设备上的双击效果差。
发明内容
本发明的目的在于克服现有技术的上述缺点和不足,提供一种桌面共享方法,本发明实现了桌面共享系统中的观看终端可以浏览流畅的远程的桌面图像,同时远程的控制终端可以对共享终端进行操作,并将操作事件真实地反映为对共享终端的操作,共享终端可以顺利采集到DirectX加速显示的画面,同时在远程控制方面,本发明中针对触摸屏等设备作了专门处理,避免了VNC在触摸屏等设备上的双击效果差等问题,具有良好的互动效果。
本发明的目的还在于提供实现上述桌面共享方法的系统。
本发明目的通过下述技术方案实现:本桌面共享方法,包括以下步骤:
(1)本地的共享终端采集本地鼠标的位置和状态信息(该状态信息包括鼠标点击信息、移动信息),作为协议参数填充在自定义的协议头中;同时本地的共享终端采集本地桌面图像,接着对采集到的单位帧桌面图像源进行编码压缩成便于网络传输的单位帧桌面图像数据,然后对每帧桌面图像数据进行分块,将每块数据加上自定义的协议头(这个协议头包含了采集这帧桌面图像时采集到的当前的鼠标的位置和状态信息、该帧图像的参数信息,比如图像分辨率大小、颜色位值、帧号、包号等)打包成一个适合于在当前网络传输的网络数据包;接着采用RTP/RTCP协议将每帧的网络数据包经MCU分别转发到远程的观看终端、远程的控制终端,其中的RTCP协议使每帧的网络数据包按顺序传输;
(2)控制终端接收来自共享终端有序的网络数据包,当接收到一个完整的数据帧后便将该帧的所有网络数据包去掉自定义的协议头,从而得到一个完整的单位帧桌面图像数据,然后对该单位帧桌面图像数据进行解码解压出一副桌面图像,并用GID函数在控制终端桌面共享的窗口中绘画出来;然后控制终端直接将其本地的鼠标显示在显示有共享终端桌面图像的桌面共享窗口中;
控制终端对桌面共享窗口绘画出来的桌面图像进行鼠标操作事件、键盘操作事件中的任意一种或两种操作事件;对于鼠标操作事件,控制终端采集该鼠标操作事件并根据控制终端的桌面共享窗口与共享终端屏幕的比例关系对该鼠标操作事件进行处理,然后控制终端将操作事件封装成自定义的操作事件网络数据包采用TCP协议经MCU转发到共享终端;对于键盘操作事件,控制终端采集该键盘操作事件;然后控制终端将操作事件封装成自定义的操作事件网络数据包采用TCP协议经MCU转发到共享终端;
(3)共享终端首先使用单独的接收线程接收控制终端传来的操作事件;对于鼠标操作事件,首先根据共享终端的系统处理能力申请分配固定大小的内存空间作为自定义的指针循环链表,接收线程将鼠标操作事件存储在自定义的指针循环链表中,然后使用独立的处理线程从自定义的指针循环链表中取出鼠标操作事件数据并进行解析,然后对鼠标操作事件进行模拟处理,最后显示在共享终端的桌面共享窗口中,当处理线程从指针循环链表中取出了一个鼠标操作事件并处理完后,则将此鼠标操作事件对应的内存设置为可用,这样接收线程就能重复使用这块内存;对于键盘操作事件,接收线程将接收到的键盘操作事件直接使用独立的处理线程对键盘操作事件进行模拟处理,最后显示在共享终端的桌面共享窗口中;
根据上述步骤(1)所述,共享终端采集的本地鼠标的位置、状态信息以及本地桌面图像是打包在一起传送的,即当前桌面的图像和当前的鼠标信息是绑定的,所以在观看终端还原时可以保证看到的图像和看到的鼠标是同步正确的。
为了更好的实现本发明,本地鼠标的位置和状态信息经MCU转发到远程的观看终端、网络数据包经MCU分别转发到远程的观看终端后,观看终端接收来自共享终端有序的网络数据包,当接收到一个完整的数据帧后便将该帧的所有网络数据包去掉自定义的协议头,从而得到一个完整的单位帧桌面图像数据,然后对该单位帧桌面图像数据进行解码解压出一副桌面图像,并用GID函数在观看终端桌面共享的窗口中绘画出来;同时从自定义的协议头中得到来自共享终端的鼠标的位置和状态信息,并根据该鼠标的位置和状态信息计算出观看终端的桌面共享窗口与接收到的桌面图像的比例将鼠标图像在桌面共享的窗口中绘画出来,该观看终端的桌面共享窗口与共享终端传来的桌面图像的比例包括观看终端桌面共享窗口和共享终端传来的桌面图像沿X轴、Y轴的比例。
上述方法中,步骤(1)所述本地的共享终端采集本地桌面图像,是采用镜像驱动(Mirror driver)采集为缺省采集方法、GDI函数采集为备份采集方法的混合采集方法,该混合采集方法的具体操作如下:
系统启动后,图像采集线程首先运行作为共享终端缺省的采集方法Mirrordriver,同时暂时将鼠标隐藏,以使Mirror driver采集到的桌面图像不包括鼠标指针图像,然后Mirror driver开始采集桌面图像;同时,WH_CBT系统全局钩子检测系统进程中是否有使用了Ddraw.dll等DirectX相关动态库的进程,当WH_CBT系统全局钩子检测到有Ddraw.dll等DirectX相关动态库的进程的窗口正常显示或者最大化显示时,便将该Ddraw.dll等DirectX相关动态库的进程记录在列表中,同时WH_CBT系统全局钩子通知监控线程缓存一幅采集到的桌面图像,对桌面图像中的每个像素的颜色值进行分析,如果发现该进程的窗口区域有连续的大范围像素点都呈现白色时,监测线程则认定当前采集的窗口使用了DirectX来显示绘画图像、Mirror driver不能正确采集当前的桌面图像,这是因为Mirror driver不支持DirectX硬件加速,所以采集不到DirectX显示的图像,所以在当前采集到的桌面图像的相应区域呈现出一片空白,监测线程将通知图像采集线程切换到GDI函数进行采集;
在GDI函数进行采集桌面图像的同时,WH_CBT系统全局钩子枚举系统进程名称,当检测到常见的播放器软件运行且播放器窗口正常显示或者最大化显示时,WH_CBT系统全局钩子通知监测线程对采集到的桌面图像进行检测,如果发现该播放器窗口区域有连续的大范围像素点都呈现黑色时,监测线程则认定GDI函数不能正确采集到桌面图像,将通知图像采集线程切换到Mirror driver进行采集;
若监测线程监测到Mirror driver、GDI函数均不能正确采集当前的桌面图像时,图像采集线程将运行GDI采集方法,通知WH_CBT系统全局钩子检测当前的播放器窗口是否为全屏;若当前的播放器窗口全屏,且不是Windows Media Player(因为Windows Media Player进程中不能枚举到Ddraw.dll),将在钩子中枚举该播放器进程的动态库,若该播放器进程使用了Ddraw.dll,则钩住此动态库,分析其函数地址表,找到ID3DXSprite接口中的Draw函数的地址,用自定义的Draw函数地址替代调用的函数地址表中的ID3DXSprite接口中的Draw函数的地址,使对Draw函数的调用转移到调用自定义的函数中来,Draw函数中的第一个参数pTexture是LPDIRECT3DTEXTURE9类型,其中保存了当前的纹理,也就是当前要显示的图像,拷贝一份当前的纹理,便取得了桌面图像,然后再调用Ddraw.dll中的Draw函数,让所述取得的桌面图像在播放器中绘画出来。如果当前的播放器窗口不是全屏或者在全屏的播放器进程中不能枚举到Ddraw.dll,此时通过修改系统的属性来满足采集到正确的桌面图像,因为系统硬件加速导致GDI采集方式不能采集到正确的桌面图像,此时,通过修改显示设备的注册表信息,并重新加载系统的显示属性强制使系统硬件加速停止来采集桌面图像。
所述通过修改显示设备的注册表信息,并重新加载系统的显示属性强制使系统硬件加速停止来采集桌面图像,其具体操作如下:
首先,在注册表中HKEY_LOCAL_MACHINE的主键下查找到HARDWARE\DEVICEMAP\VIDEO子键中\Device\Video0键名对应的值,这个值保存了当前的显示设备的硬件加速状态在注册表中表示的路径,在这个路径对应的注册表子键下,添加Acceleration.Level的键名,并设置值为4,调用ChangeDisplaySettings函数重新加载系统的显示属性,便取消了系统硬件加速。
所述混合采集方法的具体操作中的暂时将鼠标隐藏,以使Mirror driver采集到的桌面图像不包括鼠标指针图像,该隐藏鼠标的具体操作如下:
当共享终端的操作系统采用自定义的鼠标指针在驱动程序层通过Mirror driver中调用Windows DDK中的DrvMovePointer函数来移动鼠标指针,使GDI 绘图不干涉到镜像中的图像,从而使在采集到的桌面图像中不包含自定义鼠标指针图像即隐藏了鼠标指针;
当共享终端的操作系统采用系统默认的鼠标指针时,在采集每幅桌面图像之前,在应用程序层使用自定义的空白透明鼠标指针代替系统默认的鼠标指针,从而使在采集到的桌面图像中不包含系统默认的鼠标指针图像,即隐藏了鼠标指针;
因此,通过上述隐藏鼠标指针,使Mirror driver采集到的桌面图像不包括鼠标指针图像。
上述方法中,步骤(2)所述鼠标操作事件包括鼠标位置事件和鼠标点击事件。
上述方法中,所述控制终端还安装有WH_MOUSE_LL系统全局钩子,在系统初始化时,WH_MOUSE_LL系统全局钩子捕获控制终端的鼠标操作事件并判断该鼠标操作事件的类型,然后判断控制终端所运行在的设备类型;若判断出该鼠标操作事件是LLMHF_INJECTED类型,则是注入类型,则该鼠标操作事件是触摸屏等设备模拟产生的,则控制终端运行在触摸屏设备作为显示设备的设备中;若判断出该鼠标操作事件不是LLMHF_INJECTED类型,则该鼠标操作事件是PC等设备产生的,则控制终端运行在PC等设备中;控制终端记录上述控制终端所运行在的设备类型;然后对鼠标操作事件具体进行以下A、B中任一种操作:
A、当控制终端运行在PC设备上时,步骤(2)所述控制终端对鼠标操作事件的具体操作如下:
控制终端通过在窗口过程函数(WindowProc)中采集所有在桌面共享窗口中产生的鼠标事件并将采集到的所有位置点存储在队列中;
控制终端根据共享终端的系统处理能力和速度,在控制终端设定一个处理操作事件的单位时间,每过一个单位时间便对队列存储的鼠标位置事件取出来,用比较丢弃算法取出最有价值的鼠标位置事件,然后根据控制终端的桌面共享窗口与共享终端屏幕的比例关系将取出的鼠标位置事件转换为共享终端屏幕中的鼠标位置事件,然后通过定义枚举类型来对应鼠标操作事件、定义结构体来封装鼠标事件,将转换后的鼠标位置事件与窗口过程函数(WindowProc)采集的鼠标点击事件等鼠标操作事件封装成操作事件网络数据包,再采用TCP协议经MCU转发到共享终端;
上述用比较丢弃算法取出最有价值的鼠标位置事件的具体操作为:如果当前鼠标移动平缓,单位时间内只存储单个的鼠标移动位置点,将其取出;如果存储有多个鼠标移动位置点,则根据前一次发送的鼠标移动位置点和当前存储的鼠标移动轨迹,选择取出几个最能反应鼠标移动轨迹的鼠标移动位置点;如果当前鼠标移动非常快且连续,单位时间内将累积存储非常多的鼠标移动位置点,则直接取出队列中居中的鼠标移动位置点。
B、当控制终端运行在以触摸屏作为显示设备的设备上时,步骤(2)所述控制终端对鼠标操作事件的具体操作如下:触摸屏捕获到屏幕上的点击或移动位置,通过触摸屏驱动程序通知系统模拟产生相应的鼠标操作事件;控制终端在窗口过程函数(WindowProc)中采集鼠标操作事件,和运行在PC上的采集方式相同,鼠标单击和移动事件的处理也和运行在PC上的处理方式相同,但是对于双击事件的处理方式不同,在触摸屏上,控制终端将采集到的鼠标双击事件中的第一次鼠标单击事件包装成自定义的鼠标双击事件类型传输至共享终端,而控制终端将采集到的鼠标双击事件中的第二次鼠标单击事件丢弃不作处理,当共享终端接收到自定义的鼠标双击事件类型的消息,将连续模拟两次单击事件来还原双击事件。
上述桌面共享方法中,步骤(1)所述共享终端对采集到的单位帧桌面图像源进行编码压缩,具体是采用H.264算法进行编码压缩。
上述桌面共享方法中,步骤(2)所述控制终端对接收到的单位帧桌面图像数据进行解码解压,具体是采用H.264算法来进行解码解压。
上述桌面共享方法中,所述观看终端对接收到的单位帧桌面图像数据进行解码解压,具体是采用H.264算法来进行解码解压。
实现上述桌面共享方法的桌面共享系统包括:
用于采集桌面图像、鼠标的位置和状态信息并进行编码压缩后发送出去,以及接收来自控制终端的操作事件并进行处理后回放显示的共享终端;
用于桌面图像和操作事件转发的多媒体多点控制单元(MCU);
用于接收来自共享终端的桌面图像、鼠标的位置和状态信息并经过解码解压后回放显示的观看终端;
用于接收来自共享终端的桌面图像并经过解码解压后回放显示,同时还对共享终端传来的桌面图像进行操作并将操作事件经MCU发送到共享终端的控制终端。
所述共享终端设置有对采集到的桌面图像进行编码的编码器,该编码器为H.264编码器。
所述观看终端和控制终端都设置有对接收到的桌面图像数据进行解码的解码器,该解码器为H.264解码器。
所述共享终端安装有镜像驱动(Mirror driver)、GDI函数、WH_CBT系统全局钩子。
所述控制终端安装有WH_MOUSE_LL系统全局钩子。
本发明相对于现有技术具有以下优点:
1、本发明中的共享终端采用镜像驱动(Mirror driver)采集为缺省采集方法、GDI函数采集为备份采集方法的混合采集方法采集本地桌面图像,在共享终端能采集到变化速度快的图像,而共享终端采集的本地鼠标的位置、状态信息以及本地桌面图像是打包在一起传送的,即当前桌面的图像和当前的鼠标信息是绑定的,所以在观看终端还原时可以保证看到的图像和看到的鼠标是同步正确的,能在观看终端能观看到流畅的图像;
2、本发明通过在共享终端采集全屏图像并发送到观看终端,能够以图像帧的播放方式在观看终端还原;
3、本发明中共享终端采用镜像驱动(Mirror driver)采集为缺省采集方法、GDI函数采集为备份采集方法的混合采集方法采集本地桌面图像,获取DirectX的图像缓冲区或调整系统的硬件加速属性,在共享终端能采集到包括透明图像、硬件加速显示的图像等所有类型的图像;
4、本发明的共享终端对采集到的单位帧桌面图像源进行编码压缩采用H.264高效的编码压缩算法进行编码压缩,最大性能上压缩图像数据,减少了图像数据的传输数据量;
5、本发明采用RTP和RTCP协议进行图像数据的传输,同时利用图像数据的网络数据包中的自定义的协议头检测数据包,减少图像帧的丢失,避免图像的不连贯;
6、本发明采用TCP传输鼠标、键盘的控制事件,确保在控制终端产生的所有控制事件都能发送到共享终端,确保远程控制的事件的准确性;
7、本发明方法中,当在控制终端的鼠标操作事件异常频繁时,在共享终端将采取丢弃的优化处理,合理丢弃某些中间步骤地操作,最大程度还原连贯的操作,同时也避免了事件过多,处理不过来导致的延迟,确保远程控制的事件 的连贯性;
8、本发明方法中,当控制终端运行在触摸屏设备上时,控制终端对双击的鼠标事件作了特殊处理,确保了控制终端运行在触摸屏设备上不会丢弃鼠标操作事件;
9、本发明在控制终端控制远程的共享终端时,看到和使用的是本地的鼠标,所以远程操作时可以获得操作本地同样的流畅性。
附图说明
图1为本发明桌面共享系统的结构示意图;
图2为本发明桌面共享方法的流程图。
具体实施方式
下面结合实施例及附图,对本发明作进一步地详细说明,但本发明的实施方式不限于此。
实施例
如图1所示,本发明桌面共享系统包括:
用于采集桌面图像、鼠标的位置和状态信息并进行编码压缩后发送出去,以及接收来自控制终端的操作事件并进行处理后回放显示的共享终端;
用于桌面图像和操作事件转发的多媒体多点控制单元(MCU);
用于接收来自共享终端的桌面图像、鼠标的位置和状态信息并经过解码解压后回放显示的观看终端;
用于接收来自共享终端的桌面图像并经过解码解压后回放显示,同时还对共享终端传来的桌面图像进行操作并将操作事件经MCU发送到共享终端的控制终端。
为了更好地实现本发明,本实施例的桌面共享系统中包括1个控制终端、1个共享终端和2个观看终端。
同时,共享终端设置有对采集到的桌面图像进行编码的编码器,该编码器为H.264编码器,观看终端和控制终端都设置有对接收到的桌面图像数据进行解码的解码器,该解码器为H.264解码器,同时,共享终端该安装有镜像驱动(Mirror driver)、GDI函数、WH_CBT系统全局钩子;控制终端安装有WH_MOUSE_LL系统全局钩子。
如图2所示,通过本桌面共享终端系统进行桌面共享的方法,包括以下步骤:
(1)本地的共享终端采集本地鼠标的位置和状态信息(该状态信息包括鼠标点击信息、移动信息),作为协议参数填充在自定义的协议头中;同时本地的共享终端采集本地桌面图像,接着对采集到的单位帧桌面图像源进行编码压缩成便于网络传输的单位帧桌面图像数据,然后对每帧桌面图像数据进行分块,将每块数据加上自定义的协议头(这个协议头包含了采集这帧桌面图像时采集到的当前的鼠标的位置和状态信息,该帧图像的参数信息,比如图像分辨率大小、颜色位值、帧号、包号等)打包成一个适合于在当前网络传输的网络数据包;接着采用RTP/RTCP协议将每帧的网络数据包经MCU分别转发到远程的观看终端、远程的控制终端,其中的RTCP协议使每帧的网络数据包按顺序传输;
(2)控制终端接收来自共享终端有序的网络数据包,当接收到一个完整的数据帧后便将该帧的所有网络数据包去掉自定义的协议头,从而得到一个完整的单位帧桌面图像数据,然后对该单位帧桌面图像数据进行解码解压出一副桌面图像,并用GID函数在控制终端桌面共享的窗口中绘画出来;然后控制终端直接将其本地的鼠标显示在显示有共享终端桌面图像的桌面共享窗口中;
控制终端对桌面共享窗口绘画出来的桌面图像进行鼠标操作事件、键盘操作事件中的任意一种或两种操作事件;对于鼠标操作事件,控制终端采集该鼠标操作事件并根据控制终端的桌面共享窗口与共享终端屏幕的比例关系对该鼠标操作事件进行处理,然后控制终端将操作事件封装成自定义的操作事件网络数据包采用TCP协议经MCU转发到共享终端;对于键盘操作事件,控制终端采集该键盘操作事件;然后控制终端将操作事件封装成自定义的操作事件网络数据包采用TCP协议经MCU转发到共享终端;
(3)共享终端首先使用单独的接收线程接收控制终端传来的操作事件;对于鼠标操作事件,首先根据共享终端的系统处理能力申请分配固定大小的内存空间作为自定义的指针循环链表,该链链表中的元素可以循环使用,这样避免过多的内存分配和释放操作,也减少了内存碎片,当存储的鼠标操作事件过多使得链表空间不够时,再申请新的内存空间;
接收线程将鼠标操作事件存储在自定义的指针循环链表中,然后使用独立的处理线程从自定义的指针循环链表中取出鼠标操作事件数据并进行解析,然后调用mouse event函数或SendInput函数对鼠标操作事件进行模拟处理;最后显示在共享终端的桌面共享窗口中,当处理线程从指针循环链表中取出了一个鼠标操作事件并处理完后,则将此鼠标操作事件对应的内存设置为可用,这样接收线程就能重复使用这块内存;对于键盘操作事件,通过控制终端桌面共享窗口的PreTranslateMessage函数中捕获后转发到共享终端,共享终端接收线程将接收到的键盘操作事件不进行存储,这是因为键盘操作事件不像鼠标操作事件那样快速频繁而导致系统处理不过来,然后将键盘操作事件直接使用独立的处理线程对键盘操作事件进行模拟处理,具体为通过处理程序解析出键盘操作事件并使用keybd_event模拟出一次键盘操作;
根据上述步骤(1)所述,共享终端采集的本地鼠标的位置、状态信息以及本地桌面图像是打包在一起传送的,即当前桌面的图像和当前的鼠标信息是绑定的,所以在观看终端还原时可以保证看到的图像和看到的鼠标是同步正确的。
为了更好的实现本发明,本地鼠标的位置和状态信息经MCU转发到远程的观看终端、网络数据包经MCU分别转发到远程的观看终端后,观看终端接收来自共享终端有序的网络数据包,当接收到一个完整的数据帧后便将该帧的所有网络数据包去掉自定义的协议头,从而得到一个完整的单位帧桌面图像数据,然后对该单位帧桌面图像数据进行解码解压出一副桌面图像,并用GID函数在观看终端桌面共享的窗口中绘画出来;同时从自定义的协议头中得到来自共享终端的鼠标的位置和状态信息,并根据该鼠标的位置和状态信息计算出观看终端的桌面共享窗口与接收到的桌面图像的比例将鼠标图像在桌面共享的窗口中绘画出来,该观看终端的桌面共享窗口与共享终端传来的桌面图像的比例包括观看终端桌面共享窗口和共享终端传来的桌面图像沿X轴、Y轴的比例,并保留在处理远程控制时使用。
上述方法中,步骤(1)所述本地的共享终端采集本地桌面图像,是采用镜像驱动(Mirror driver)采集为缺省采集方法、GDI函数采集为备份采集方法的混合采集方法。
Mirror driver是Windows NT下的一种镜像驱动,系统发往物理显卡的所有命令也同样发送给Mirror driver,可以在Mirror driver中模拟出当前系统的显示内容,因此称之为mirror。利用这个特性,就能很方便的捕获到系统当前屏幕的内容以及系统要绘制的区域(变化部分),是一种速度很快的截屏方法。不过Mirror driver也有缺陷,不支持DirectX硬件加速,所以采集不到DirectX显示的图像,本发明中使用Mirror driver采集方法式作为共享终端缺省的也是主要的 采集方法。
而GDI函数采集方法,则是利用GDI函数,视桌面为窗口,将桌面窗口的DC拷贝到内存DC,绘画到内存BitMap中,并从中取出保存有桌面图像数据的BMP结构的内存数据。GDI函数采集方法的效率比Mirror driver的采集方法低,而且在硬件加速的系统中,采集不到播放器中的图像,本发明中使用GDI函数采集方法作为共享终端备份的也是辅助的采集方法。
共享终端在图像采集线程中完成所有桌面图像的采集工作,并在镜像驱动(Mirror driver)采集方法、GDI函数采集法之间切换。
上述该混合采集方法的具体操作如下:
系统启动后,图像采集线程首先运行作为共享终端缺省的采集方法Mirror driver,同时暂时将鼠标隐藏,以使Mirror driver采集到的桌面图像不包括鼠标指针图像,然后Mirror driver开始采集桌面图像;同时,WH_CBT系统全局钩子检测系统进程中是否有使用了Ddraw.dll等DirectX相关动态库的进程,当WH_CBT系统全局钩子检测到有Ddraw.dll等DirectX相关动态库的进程的窗口正常显示或者最大化显示时,便将该Ddraw.dll等DirectX相关动态库的进程记录在列表中,同时WH_CBT系统全局钩子通知监控线程缓存一幅采集到的桌面图像,对桌面图像中的每个像素的颜色值进行分析,如果发现该进程的窗口区域有连续的大范围像素点都呈现白色时,监测线程则认定当前采集的窗口使用了DirectX来显示绘画图像、Mirror driver不能正确采集当前的桌面图像,这是因为Mirror driver不支持DirectX硬件加速,所以采集不到DirectX显示的图像,所以在当前采集到的桌面图像的相应区域呈现出一片空白,监测线程将通知图像采集线程切换到GDI函数进行采集;
在GDI函数进行采集桌面图像的同时,WH_CBT系统全局钩子枚举系统进程名称,当检测到常见的播放器软件运行且播放器窗口正常显示或者最大化显示时,WH_CBT系统全局钩子通知监测线程对采集到的桌面图像进行检测,如果发现该播放器窗口区域有连续的大范围像素点都呈现黑色时,监测线程则认定GDI函数不能正确采集到桌面图像,将通知图像采集线程切换到Mirror driver进行采集;
若监测线程监测到Mirror driver、GDI函数均不能正确采集当前的桌面图像时,图像采集线程将运行GDI采集方法,通知WH_CBT系统全局钩子检测当前的播放器窗口是否为全屏;若当前的播放器窗口全屏,且不是Windows Media Player(因为Windows Media Player进程中不能枚举到Ddraw.dll),将在钩子中枚举该播放器进程的动态库,若该播放器进程使用了Ddraw.dll,则钩住此动态库,分析其函数地址表,找到ID3DXSprite接口中的Draw函数的地址,用自定义的Draw函数地址替代调用的函数地址表中的ID3DXSprite接口中的Draw函数的地址,使对Draw函数的调用转移到调用自定义的函数中来,Draw函数中的第一个参数pTexture是LPDIRECT3DTEXTURE9类型,其中保存了当前的纹理,也就是当前要显示的图像,拷贝一份当前的纹理,便取得了桌面图像,然后再调用Ddraw.dll中的Draw函数,让所述取得的桌面图像在播放器中绘画出来。如果当前的播放器窗口不是全屏或者在全屏的播放器进程中不能枚举到Ddraw.dll,此时通过修改系统的属性来满足采集到正确的桌面图像,因为系统硬件加速导致GDI采集方式不能采集到正确的桌面图像,此时,通过修改显示设备的注册表信息,并重新加载系统的显示属性强制使系统硬件加速停止来采集桌面图像。
所述通过修改显示设备的注册表信息,并重新加载系统的显示属性强制使系统硬件加速停止来采集桌面图像,其具体操作如下:
首先,在注册表中HKEY_LOCAL_MACHINE的主键下查找到HARDWARE\DEVICEMAP/VIDEO子键中\Device\Video0键名对应的值,这个值保存了当前的显示设备的硬件加速状态在注册表中表示的路径,在这个路径对应的注册表子键下,添加Acceleration.Level的键名,并设置值为4,调用ChangeDisplaySettings函数重新加载系统的显示属性,便取消了系统硬件加速。
所述混合采集方法的具体操作中的暂时将鼠标隐藏,以使Mirror driver采集到的桌面图像不包括鼠标指针图像,该隐藏鼠标的具体操作如下:
当共享终端的操作系统采用自定义的鼠标指针在驱动程序层通过Mirrordriver中调用WindowsDDK中的DrvMovePointer函数来移动鼠标指针,使GDI绘图不干涉到镜像中的图像,从而使在采集到的桌面图像中不包含自定义鼠标指针图像即隐藏了鼠标指针;
当共享终端的操作系统采用系统默认的鼠标指针时,在采集每幅桌面图像之前,在应用程序层使用自定义的空白透明鼠标指针代替系统默认的鼠标指针,从而使在采集到的桌面图像中不包含系统默认的鼠标指针图像即隐藏了鼠标指针;
因此,通过上述隐藏鼠标指针,使Mirror driver采集到的桌面图像不包括鼠 标指针图像。
上述方法中,步骤(2)所述鼠标操作事件包括鼠标位置事件和鼠标点击事件。
上述方法中,由于控制终端在桌面共享窗口进行快速鼠标移动等高频率的鼠标操作时,经过采集-网络发送-模拟处理这个复杂的过程,在共享终端将会有明显的延迟,甚至在共享终端出现事件处理不过来的情况,给用户的感觉就是远程操作的延时,甚至不连贯,影响远程互动的效果。所以,本发明打破传统的方式,采用比较丢弃算法,在处理高频率的鼠标操作时,不是将所有的操作都作处理,而是根据鼠标的运动规律和轨迹找到最有价值的鼠标位置时间发送给共享终端进行模拟处理,从而可以在基本保持事件连续性的基础上,避免延迟的产生。
上述方法中,所述控制终端还安装有WH_MOUSE_LL系统全局钩子,在系统初始化时,WH_MOUSE_LL系统全局钩子捕获控制终端的鼠标操作事件并判断该鼠标操作事件的类型,然后判断控制终端所运行在的设备类型;若判断出该鼠标操作事件是LLMHF_INJECTED类型,则是注入类型,则该鼠标操作事件是触摸屏等设备模拟产生的,则控制终端运行在触摸屏设备作为显示设备的设备中;若判断出该鼠标操作事件不是LLMHF_INJECTED类型,则该鼠标操作事件是PC等设备产生的,则控制终端运行在PC等设备设备中;控制终端记录上述控制终端所运行在的设备类型;然后对鼠标操作事件具体进行以下A、B中任一种操作:
A、当控制终端运行在PC设备上时,步骤(2)所述控制终端对鼠标操作事件的具体操作如下:
控制终端通过在窗口过程函数(WindowProc)中采集所有在桌面共享窗口中产生的鼠标事件并将采集到的所有位置点存储在队列中;
控制终端根据共享终端的系统处理能力和速度,在控制终端设定一个处理操作事件的单位时间,每过一个单位时间便对队列存储的鼠标位置事件取出来,用比较丢弃算法取出最有价值的鼠标位置事件,然后根据控制终端的桌面共享窗口与共享终端屏幕的比例关系将取出的鼠标位置事件转换为共享终端屏幕中的鼠标位置事件,然后通过定义枚举类型来对应鼠标操作事件、定义结构体来封装鼠标事件,将转换后的鼠标位置事件与窗口过程函数(WindowProc)采集的鼠标点击事件等鼠标操作事件封装成操作事件网络数据包,再采用TCP协议 经MCU转发到共享终端。所述用比较丢弃算法取出最有价值的鼠标位置事件的具体操作为:如果当前鼠标移动平缓,单位时间内只存储单个的鼠标移动位置点,将其取出;如果存储有多个鼠标移动位置点,则根据前一次发送的鼠标移动位置点和当前存储的鼠标移动轨迹,选择取出几个最能反应鼠标移动轨迹的鼠标移动位置点;如果当前鼠标移动非常快且连续,单位时间内将累积存储非常多的鼠标移动位置点,则直接取出队列中居中的鼠标移动位置点。
其中,本发明定义枚举类型MouseMsgType对应系统鼠标操作事件的类型;定义结构体MOUSECOMMANDPACKAGE来封装鼠标操作事件,以便于通过自定义的协议在网络上传输并被解析。
控制终端从窗口过程函数(WindowProc)中捕获鼠标操作事件消息时,WindowProc函数的参数message标示事件的类型,wParam是附加信息,标示虚拟键是否按下等额外信息,lParam标志鼠标坐标位置信息,其中低字节标示鼠标在控制终端的桌面共享窗口中X轴的位置,高字节标示鼠标在控制终端的桌面共享窗口中Y轴的位置。因为窗口坐标和屏幕坐标不同,所以需要将控制窗口坐标中的鼠标位置转换为共享终端的屏幕坐标中的位置。远程控制时,鼠标只在桌面共享窗口中移动有效,转换后共享终端的的鼠标屏幕坐标应减去应用程序共享窗口在整个窗口的偏移量。然后转换桌面共享窗口和图像对应的比例,其转换的计算公式为:
鼠标点在共享终端沿X轴的位置=(鼠标点的屏幕坐标沿X轴的位置+桌面共享窗口的滚动条位置沿X轴的位置-桌面共享窗口在系统屏幕中的偏移位置的沿X轴的位置)/窗口宽度和图像宽度的比例;
鼠标点在共享终端沿Y轴的位置=(鼠标点的屏幕坐标沿Y轴的位置+桌面共享窗口的滚动条位置沿Y轴的位置-桌面共享窗口在系统屏幕中的偏移位置的沿Y轴的位置)/窗口高度和图像高度的比例;
当计算出来的远程坐标位置的X轴位置小于0或Y轴位置小于0时,将其置为0,如果X轴位置和Y轴位置同时小于0,将其这个远程坐标位置认为是错误的,不传输到远程的共享终端。
B、当控制终端运行在以触摸屏作为显示设备的设备上时,触摸屏捕获到屏幕上的点击或移动位置,通过触摸屏驱动程序通知系统模拟产生相应的鼠标操作事件;控制终端在窗口过程函数(WindowProc)中采集鼠标操作事件,和运行在PC上的采集方式相同,鼠标单击和移动事件的处理也和运行在PC上的处 理方式相同,但是对于双击事件的处理方式不同,这是因为触摸屏设备的鼠标事件产生不是由鼠标这个硬件设备来产生系统事件,而是通过触摸屏捕获到鼠标的点击或移动位置,通知系统模拟产生鼠标操作事件,这样将降低鼠标事件的处理速度,当在触摸屏上产生一个鼠标双击事件,首先需要触摸屏驱动程序捕获并解析,通知系统模拟一个鼠标双击事件,这时应用程序共享系统的控制终端才能捕获到系统发出的鼠标双击事件,因为鼠标双击事件实际上是两次连续的鼠标单击事件,所以控制终端采集到的两次鼠标单击事件将有过多的隔阂事件,将这两次鼠标单击事件传输至共享终端,再由共享终端处理时,将可能认为这是两次鼠标单击事件。所以,本发明对以触摸屏作为显示设备的设备作特殊的处理。系统对鼠标双击的反应事件是由用户设定,本发明不建议改变终端的系统设置。所以,在本发明中,控制终端将采集到的鼠标双击事件中的第一次鼠标单击事件包装成自定义的鼠标双击事件传输至共享终端,而控制终端将采集到的鼠标双击事件中的第二次鼠标单击事件丢弃不作处理,当共享终端接收到自定义的鼠标双击事件类型的消息,将连续模拟两次单击事件来还原双击事件。因此,对于鼠标双击事件,在PC上和触摸屏系统中将有不同的处理。
上述桌面共享方法中,步骤(1)所述共享终端对采集到的单位帧桌面图像源进行编码压缩,具体是采用H.264算法进行编码压缩。
上述桌面共享方法中,步骤(2)所述控制终端对接收到的单位帧桌面图像数据进行解码解压,具体是采用H.264算法来进行解码解压。
上述桌面共享方法中,所述观看终端对接收到的单位帧桌面图像数据进行解码解压,具体是采用H.264算法来进行解码解压。
步骤(3)所述共享终端调用mouse_event函数或SendInput函数对鼠标操作事件进行模拟处理;其具体操作如下:
首先通过计算映射鼠标在共享终端屏幕上对应的像素点位置,利用GetSystemMetrics(SM_CXSCREEN)函数得到共享终端屏幕的水平尺寸大小,利用GetSystemMetrics(SM_CYSCREEN)函数获取共享终端屏幕的垂直尺寸大小。使用如下公式计算出鼠标位置相对于屏幕像素位置的比例:
沿X轴的相对比例=65535.0/(屏幕的水平尺寸大小-1);
沿Y轴的相对比例=65535.0/(屏幕的垂直尺寸大小-1);
屏幕的水平尺寸大小和屏幕的垂直尺寸大小构成了屏幕的区域大小,当鼠标操作事件中的鼠标位置点处于屏幕区域中时,通过比例转换得到鼠标点在屏 幕中的像素位置,计算公式如下:
鼠标点在屏幕中沿X轴的像素位置=鼠标沿X轴位置点*沿X轴的相对比例;
鼠标点在屏幕中沿Y轴的像素位置=鼠标沿Y轴位置点*沿Y轴的相对比例;
使用mouse_event函数便可模拟处理经过位置转换的鼠标操作事件。
如果鼠标事件中的鼠标位置点不在屏幕区域中时,在Win2K以上的系统中,将使用SendInput函数来模拟处理经过位置转换的鼠标操作事件。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (10)
1.桌面共享方法,其特征在于,包括以下步骤:
(1)本地的共享终端采集本地鼠标的位置和状态信息,作为协议参数填充在自定义的协议头中;同时本地的共享终端采集本地桌面图像,接着对采集到的单位帧桌面图像源进行编码压缩成便于网络传输的单位帧桌面图像数据,然后对每帧桌面图像数据进行分块,将每块数据加上自定义的协议头打包成一个适合于在当前网络传输的网络数据包;接着采用RTP/RTCP协议将每帧的网络数据包经MCU分别转发到远程的观看终端、远程的控制终端,其中的RTCP协议使每帧的网络数据包按顺序传输;
(2)控制终端接收来自共享终端有序的网络数据包,当接收到一个完整的数据帧后便将该帧的所有网络数据包去掉自定义的协议头,从而得到一个完整的单位帧桌面图像数据,然后对该单位帧桌面图像数据进行解码解压出一副桌面图像,并用GID函数在控制终端桌面共享的窗口中绘画出来;然后控制终端直接将其本地的鼠标显示在显示有共享终端桌面图像的桌面共享窗口中;
控制终端对桌面共享窗口绘画出来的桌面图像进行鼠标操作事件、键盘操作事件中的任意一种或两种操作事件;对于鼠标操作事件,控制终端采集该鼠标操作事件并根据控制终端的桌面共享窗口与共享终端屏幕的比例关系对该鼠标操作事件进行处理,然后控制终端将操作事件封装成自定义的操作事件网络数据包采用TCP协议经MCU转发到共享终端;对于键盘操作事件,控制终端采集该键盘操作事件;然后控制终端将操作事件封装成自定义的操作事件网络数据包采用TCP协议经MCU转发到共享终端;
(3)共享终端首先使用单独的接收线程接收控制终端传来的操作事件;对于鼠标操作事件,首先根据共享终端的系统处理能力申请分配固定大小的内存空间作为自定义的指针循环链表,接收线程将鼠标操作事件存储在自定义的指针循环链表中,然后使用独立的处理线程从自定义的指针循环链表中取出鼠标操作事件数据并进行解析,然后对鼠标操作事件进行模拟处理,最后显示在共享终端的桌面共享窗口中,当处理线程从指针循环链表中取出了一个鼠标操作事件并处理完后,则将此鼠标操作事件对应的内存设置为可用,这样接收线程就能重复使用这块内存;对于键盘操作事件,接收线程将接收到的键盘操作事件直接使用独立的处理线程对键盘操作事件进行模拟处理,最后显示在共享终端的桌面共享窗口中;
步骤(1)中,当本地鼠标的位置和状态信息经MCU转发到远程的观看终端、网络数据包经MCU分别转发到远程的观看终端后,观看终端接收来自共享终端有序的网络数据包,当接收到一个完整的数据帧后便将该帧的所有网络数据包去掉自定义的协议头,从而得到一个完整的单位帧桌面图像数据,然后对该单位帧桌面图像数据进行解码解压出一副桌面图像,并用GID函数在观看终端桌面共享的窗口中绘画出来;同时从自定义的协议头中得到来自共享终端的鼠标的位置和状态信息,并根据该鼠标的位置和状态信息计算出观看终端的桌面共享窗口与接收到的桌面图像的比例将鼠标图像在桌面共享的窗口中绘画出来,该观看终端的桌面共享窗口与共享终端传来的桌面图像的比例包括观看终端桌面共享窗口和共享终端传来的桌面图像沿X轴、Y轴的比例。
2.根据权利要求1所述的桌面共享方法,其特征在于:步骤(1)所述本地的共享终端采集本地桌面图像,是采用Mirror driver采集为缺省采集方法、GDI函数采集为备份采集方法的混合采集方法,该混合采集方法的具体操作如下:
系统启动后,图像采集线程首先运行作为共享终端缺省的采集方法Mirrordriver,同时暂时将鼠标隐藏,以使Mirror driver采集到的桌面图像不包括鼠标指针图像,然后Mirror driver开始采集桌面图像;同时,WH_CBT系统全局钩子检测系统进程中是否有使用了DirectX相关动态库的进程,当WH_CBT系统全局钩子检测到有DirectX相关动态库的进程的窗口正常显示或者最大化显示时,便将包括Ddraw.dll的DirectX相关动态库的进程记录在列表中,同时WH_CBT系统全局钩子通知监控线程缓存一幅采集到的桌面图像,对桌面图像中的每个像素的颜色值进行分析,如果发现该进程的窗口区域有连续的大范围像素点都呈现白色时,监测线程则认定当前采集的窗口使用了DirectX来显示绘画图像,监测线程将通知图像采集线程切换到GDI函数进行采集;
在GDI函数进行采集桌面图像的同时,WH_CBT系统全局钩子枚举系统进程名称,当检测到常见的播放器软件运行且播放器窗口正常显示或者最大化显示时,WH_CBT系统全局钩子通知监测线程对采集到的桌面图像进行检测,如果发现该播放器窗口区域有连续的大范围像素点都呈现黑色时,监测线程则认定GDI函数不能正确采集到桌面图像,将通知图像采集线程切换到Mirror driver进行采集;
若监测线程监测到Mirror driver、GDI函数均不能正确采集当前的桌面图像时,图像采集线程将运行GDI采集方法,通知WH_CBT系统全局钩子检测当前的播放器窗口是否为全屏;若当前的播放器窗口全屏,且不是Windows MediaPlayer,将在钩子中枚举该播放器进程的动态库,若该播放器进程使用了Ddraw.dll,则钩住此动态库,分析其函数地址表,找到ID3DXSprite接口中的Draw函数的地址,用自定义的Draw函数地址替代调用的函数地址表中的ID3DXSprite接口中的Draw函数的地址,使对Draw函数的调用转移到调用自定义的函数中来,Draw函数中的第一个参数pTexture是LPDIRECT3DTEXTURE9类型,其中保存了当前的纹理,也就是当前要显示的图像,拷贝一份当前的纹理,便取得了桌面图像,然后再调用Ddraw.dll中的Draw函数,让所述取得的桌面图像在播放器中绘画出来;如果当前的播放器窗口不是全屏或者在全屏的播放器进程中不能枚举到Ddraw.dll,此时通过修改系统的属性来满足采集到正确的桌面图像,具体是通过修改显示设备的注册表信息,并重新加载系统的显示属性强制使系统硬件加速停止来采集桌面图像。
3.根据权利要求2所述的桌面共享方法,其特征在于:所述暂时将鼠标隐藏的具体操作如下:
当共享终端的操作系统采用自定义的鼠标指针在驱动程序层通过Mirrordriver中调用WindowsDDK中的DrvMovePointer函数来移动鼠标指针,使GDI绘图不干涉到镜像中的图像,从而使在采集到的桌面图像中不包含自定义鼠标指针图像即隐藏了鼠标指针;
当共享终端的操作系统采用系统默认的鼠标指针时,在采集每幅桌面图像之前,在应用程序层使用自定义的空白透明鼠标指针代替系统默认的鼠标指针,从而使在采集到的桌面图像中不包含系统默认的鼠标指针图像,即隐藏了鼠标指针。
4.根据权利要求1所述的桌面共享方法,其特征在于:所述控制终端还安装有用于判断控制终端所运行在的设备类型的WH_MOUSE_LL系统全局钩子,控制终端记录上述WH_MOUSE_LL系统全局钩子判断出的控制终端所运行在的设备类型;然后对鼠标操作事件具体进行以下a、b中的任一种操作:
a、当控制终端运行在PC设备上时,步骤(2)所述控制终端对鼠标操作事件的具体操作如下:
控制终端通过在WindowProc中采集所有在桌面共享窗口中产生的鼠标事件并将采集到的所有位置点存储在队列中;
控制终端根据共享终端的系统处理能力和速度,在控制终端设定一个处理操作事件的单位时间,每过一个单位时间便对队列存储的鼠标位置事件取出来,用比较丢弃算法取出最有价值的鼠标位置事件,然后根据控制终端的桌面共享窗口与共享终端屏幕的比例关系将取出的鼠标位置事件转换为共享终端屏幕中的鼠标位置事件,然后通过定义枚举类型来对应鼠标操作事件、定义结构体来封装鼠标事件,将转换后的鼠标位置事件与WindowProc采集的鼠标点击事件封装成操作事件网络数据包,再采用TCP协议经MCU转发到共享终端;
所述用比较丢弃算法取出最有价值的鼠标位置事件的具体操作为:如果当前鼠标移动平缓,单位时间内只存储单个的鼠标移动位置点,将其取出;如果存储有多个鼠标移动位置点,则根据前一次发送的鼠标移动位置点和当前存储的鼠标移动轨迹,选择取出几个最能反应鼠标移动轨迹的鼠标移动位置点;如果当前鼠标移动非常快且连续,单位时间内将累积存储非常多的鼠标移动位置点,则直接取出队列中居中的鼠标移动位置点;
b、当控制终端运行在以触摸屏作为显示设备的设备上时,控制终端通过触摸屏捕获到鼠标的点击或移动位置,通知系统模拟产生鼠标操作事件,其中控制终端将采集到的鼠标双击事件中的第一次鼠标单击事件包装成自定义的鼠标双击事件传输至共享终端,而控制终端将采集到的鼠标双击事件中的第二次鼠标单击事件丢弃不作处理。
5.根据权利要求1所述的桌面共享方法,其特征在于:步骤(1)所述共享终端对采集到的单位帧桌面图像源进行编码压缩,具体是采用H.264算法进行编码压缩。
6.根据权利要求1所述的桌面共享方法,其特征在于:步骤(2)所述控制终端对接收到的单位帧桌面图像数据进行解码解压,具体是采用H.264算法来进行解码解压。
7.根据权利要求1所述的桌面共享方法,其特征在于:所述观看终端对接收到的单位帧桌面图像数据进行解码解压,具体是采用H.264算法来进行解码解压。
8.实现权利要求1至7任一项所述桌面共享方法的桌面共享系统,其特征在于包括:用于采集桌面图像、鼠标的位置和状态信息并进行编码压缩后发送出去,以及接收来自控制终端的操作事件并进行处理后回放显示的共享终端;用于桌面图像和操作事件转发的多媒体多点控制单元;用于接收来自共享终端的桌面图像、鼠标的位置和状态信息并经过解码解压后回放显示的观看终端;用于接收来自共享终端的桌面图像并经过解码解压后回放显示,同时还对共享终端传来的桌面图像进行操作并将操作事件经MCU发送到共享终端的控制终端。
9.根据权利要求8所述的桌面共享系统,其特征在于:所述共享终端安装有Mirror driver、GDI函数、WH_CBT系统全局钩子。
10.根据权利要求8所述的桌面共享系统,其特征在于:所述控制终端安装有WH_MOUSE_LL系统全局钩子。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2008102204239A CN101447998B (zh) | 2008-12-25 | 2008-12-25 | 桌面共享方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2008102204239A CN101447998B (zh) | 2008-12-25 | 2008-12-25 | 桌面共享方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101447998A CN101447998A (zh) | 2009-06-03 |
CN101447998B true CN101447998B (zh) | 2012-07-11 |
Family
ID=40743395
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008102204239A Expired - Fee Related CN101447998B (zh) | 2008-12-25 | 2008-12-25 | 桌面共享方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101447998B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104679494A (zh) * | 2013-11-29 | 2015-06-03 | 华为技术有限公司 | 用于实现远程虚拟桌面和应用程序的方法以及设备 |
Families Citing this family (71)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011097793A1 (zh) * | 2010-02-10 | 2011-08-18 | 北京视博数字电视科技有限公司 | 一种远程访问方法、装置和系统 |
CN105227965B (zh) * | 2010-04-02 | 2018-11-06 | 上海科斗电子科技有限公司 | 一种音、视频传输优化方法 |
CN101888378B (zh) * | 2010-06-23 | 2013-07-03 | 福建星网锐捷通讯股份有限公司 | 基于电话网、广电网和互联网的多屏幕融合系统及其方法 |
KR20120015931A (ko) * | 2010-08-13 | 2012-02-22 | 삼성전자주식회사 | 휴대용 전자 장치 및 그것의 디스플레이 미러링 방법 |
CN102624754B (zh) * | 2011-01-27 | 2015-04-08 | 腾讯科技(深圳)有限公司 | 终端桌面处理系统、终端及服务器和方法 |
CN103957235B (zh) * | 2011-02-21 | 2018-10-23 | 北京奇虎科技有限公司 | 一种拖动图像的传输显示方法和系统 |
CN102685079B (zh) * | 2011-03-17 | 2015-08-05 | 鸿富锦精密工业(深圳)有限公司 | 资源共享方法 |
CN103150204B (zh) * | 2011-12-23 | 2016-06-29 | 腾讯科技(深圳)有限公司 | 操作系统桌面管理方法和装置 |
CN102577327B (zh) * | 2011-12-26 | 2014-05-07 | 华为技术有限公司 | 一种实现远程桌面环境下网页浏览的方法、装置和系统 |
US10248278B2 (en) * | 2011-12-30 | 2019-04-02 | Nokia Technologies Oy | Method and apparatus for intuitive multitasking |
CN102664910B (zh) * | 2012-03-07 | 2015-09-09 | 深圳市深信服电子科技有限公司 | 修正远程应用用户操作的方法、客户端和服务端 |
CN102663862B (zh) * | 2012-04-24 | 2014-12-10 | 交通银行股份有限公司 | 一种进行银行业务协助的方法、自助设备 |
WO2013180687A1 (en) | 2012-05-29 | 2013-12-05 | Hewlett-Packard Development Company, L.P. | Translation of touch input into local input based on a translation profile for an application |
CN102929415A (zh) * | 2012-09-17 | 2013-02-13 | 浪潮(北京)电子信息产业有限公司 | 一种本地监控器及其与远程虚拟机鼠标显示同步的方法 |
CN102883135B (zh) * | 2012-11-01 | 2015-08-26 | 成都飞视美视频技术有限公司 | 屏幕共享及控制方法 |
CN102883134B (zh) * | 2012-11-01 | 2015-04-22 | 成都飞视美视频技术有限公司 | 用于视频会议系统的屏幕共享及控制方法 |
CN102970152A (zh) * | 2012-11-23 | 2013-03-13 | 上海斐讯数据通信技术有限公司 | 静态实现IGMP Snooping的方法 |
CN103036981B (zh) * | 2012-12-13 | 2015-10-14 | 北京奇虎科技有限公司 | 一种远程数据传输设备及方法 |
EP2760177B1 (en) * | 2013-01-29 | 2019-03-13 | BlackBerry Limited | Method, Apparatus and Computer storage media for Suspending Screen Sharing During Confidential Data Entry |
WO2014134794A1 (en) * | 2013-03-06 | 2014-09-12 | Empire Technology Development Llc | Content-based desktop sharing |
CN103248890A (zh) * | 2013-03-27 | 2013-08-14 | 陈日清 | 一种用于无线投影的信源数据采集及压缩方法 |
CN104281356B (zh) * | 2013-07-01 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 屏幕分享方法及装置 |
CN103501310B (zh) * | 2013-07-11 | 2016-09-14 | 广东工业大学 | 一种基于可视电话的电脑桌面共享的控制方法 |
CN104679759B (zh) * | 2013-11-27 | 2018-08-10 | 联想(北京)有限公司 | 一种信息共享的方法、第一电子设备和第二电子设备 |
CN103607632B (zh) * | 2013-11-27 | 2017-09-12 | 广州三人行壹佰教育科技有限公司 | 基于桌面直播的预览方法及装置 |
CN103648017B (zh) * | 2013-12-23 | 2016-07-27 | 佛山市兴知源数字技术有限公司 | 多平台一体化设备间的数据传输互联方法及装置 |
CN104753971B (zh) * | 2013-12-25 | 2018-07-20 | 北京新媒传信科技有限公司 | 基于远程会议的客户端及媒体源传输方法 |
CN103763610B (zh) * | 2013-12-27 | 2018-10-30 | 华为技术有限公司 | 一种远程桌面的重定向方法及装置 |
CN104834554A (zh) * | 2014-04-02 | 2015-08-12 | 腾讯科技(北京)有限公司 | 信息交互的方法和装置 |
CN103997673B (zh) * | 2014-05-15 | 2018-11-20 | Tcl集团股份有限公司 | 一种事件处理方法和装置 |
CN104202597A (zh) * | 2014-09-16 | 2014-12-10 | 福建星网锐捷安防科技有限公司 | 一种将vga模拟信号显示于电视墙的方法及系统 |
CN104267876B (zh) * | 2014-09-29 | 2018-05-15 | 宇龙计算机通信科技(深圳)有限公司 | 信息交互显示方法、信息交互显示装置和终端 |
CN104410670A (zh) * | 2014-11-05 | 2015-03-11 | 刘帅 | 一种能够在实时互动沟通平台中共享自身屏幕概况和鼠标位置的辅助交流方法 |
CN105677308B (zh) * | 2014-11-18 | 2019-02-22 | 大唐电信科技股份有限公司 | 一种应用界面的集成系统和方法 |
CN104333769B (zh) * | 2014-11-20 | 2019-06-25 | 广州华多网络科技有限公司 | 一种视频直播的方法以及装置 |
EP3190774B1 (en) * | 2014-11-25 | 2019-09-11 | Huawei Technologies Co., Ltd. | Interface sharing method and terminal device |
CN104683449B (zh) * | 2015-02-05 | 2017-12-12 | 深圳市云舒网络技术有限公司 | 一种基于窗口结构的远程桌面控制方法 |
CN104853157A (zh) * | 2015-05-06 | 2015-08-19 | 金三立视频科技(深圳)有限公司 | Nvr远程控屏方法、控屏装置以及控屏系统 |
CN106325666B (zh) * | 2015-07-08 | 2019-11-19 | 腾讯科技(深圳)有限公司 | 一种屏幕分享方法、装置及服务器 |
CN105183830B (zh) * | 2015-08-28 | 2017-09-08 | 努比亚技术有限公司 | 图片浏览方法及装置 |
CN106020756A (zh) * | 2016-05-13 | 2016-10-12 | 江苏云途腾科技有限责任公司 | 一种更新虚拟桌面的方法和装置 |
CN106293583B (zh) * | 2016-08-03 | 2019-10-11 | 广东威创视讯科技股份有限公司 | 桌面窗口共享方法和系统 |
CN106330926A (zh) * | 2016-08-29 | 2017-01-11 | 广州视睿电子科技有限公司 | 屏幕界面共享方法和系统 |
CN106791855B (zh) * | 2016-12-12 | 2020-04-03 | 广东威创视讯科技股份有限公司 | 一种降低坐席管理系统成本的方法及系统 |
CN106598295A (zh) * | 2016-12-12 | 2017-04-26 | 广东威创视讯科技股份有限公司 | 一种改善kvm鼠标操作延时感的方法及系统 |
CN109218731B (zh) * | 2017-06-30 | 2021-06-01 | 腾讯科技(深圳)有限公司 | 移动设备的投屏方法、装置及系统 |
CN107507475B (zh) * | 2017-07-27 | 2020-06-16 | 北京华文众合科技有限公司 | 中控系统、交互教学系统及方法 |
CN107396034A (zh) * | 2017-08-11 | 2017-11-24 | 苏睿 | 图像传输方法及系统 |
CN108011951B (zh) * | 2017-11-30 | 2021-08-27 | 北京奇艺世纪科技有限公司 | 远程协助方法、装置、系统及电子设备 |
CN108304239B (zh) * | 2018-01-26 | 2021-09-07 | 杨立群 | 用于远程操作的快速界面交互方法及装置 |
CN108418887A (zh) * | 2018-03-13 | 2018-08-17 | 山东超越数控电子股份有限公司 | 一种基于桌面同步实现多级热备的方法 |
CN108462878B (zh) * | 2018-04-09 | 2020-10-09 | 公安海警学院 | 基于关键帧和指示符运动模型的教学视频压缩算法 |
CN109298806B (zh) * | 2018-09-21 | 2022-01-11 | 杨立群 | 一种基于对象识别的远程快速界面交互方法及装置 |
CN109388457B (zh) * | 2018-09-21 | 2022-02-25 | 杨立群 | 一种多场景的远程快速界面交互方法及装置 |
CN109922130A (zh) * | 2019-01-11 | 2019-06-21 | 视联动力信息技术股份有限公司 | 一种远程控制方法和装置 |
CN110515580B (zh) * | 2019-09-02 | 2022-08-19 | 联想(北京)有限公司 | 一种显示控制方法、装置及终端 |
CN110727364A (zh) * | 2019-09-24 | 2020-01-24 | 西安万像电子科技有限公司 | 数据处理方法及装置 |
CN113329201B (zh) * | 2020-02-28 | 2022-09-02 | 华为技术有限公司 | 一种增强的视频通话方法和系统、电子设备 |
CN111679881B (zh) * | 2020-06-09 | 2022-03-15 | 腾讯科技(深圳)有限公司 | 一种文件处理方法、装置、计算机设备以及存储介质 |
CN111694442B (zh) * | 2020-06-16 | 2023-10-20 | 深圳市创凯智能股份有限公司 | 一种降低分布式kvm系统鼠标延时的方法 |
CN112269886B (zh) * | 2020-11-11 | 2021-05-25 | 游密科技(深圳)有限公司 | 共享图像采集方法、窗口共享方法和共享图像采集装置 |
CN112558904A (zh) * | 2020-12-09 | 2021-03-26 | 深圳前海贾维斯数据咨询有限公司 | 基于三维建筑模型的Web协同办公方法及系统 |
CN112565667B (zh) * | 2020-12-25 | 2021-12-14 | 创想空间信息技术(苏州)有限公司 | 一种回看应用程序历史内容的方法、装置及电子设备 |
CN112964259A (zh) * | 2021-01-21 | 2021-06-15 | 深圳市麦积电子科技有限公司 | 一种交通工具的仪表导航方法及其系统 |
CN113068153B (zh) * | 2021-03-15 | 2023-08-25 | 深圳乐播科技有限公司 | 车载中控的遥控方法、装置、设备及存储介质 |
CN113810639B (zh) * | 2021-09-28 | 2023-09-29 | 深圳万兴软件有限公司 | 一种录制鼠标信息可再编辑的方法、装置及相关介质 |
CN114327338B (zh) * | 2021-12-28 | 2024-02-09 | 威创集团股份有限公司 | 一种超高分图像显示系统及图像显示方法 |
WO2023216176A1 (en) * | 2022-05-12 | 2023-11-16 | Citrix Systems, Inc. | Application protection for screen sharing |
CN115910261A (zh) * | 2023-01-05 | 2023-04-04 | 四川智康科技有限责任公司 | 一种安全的电子病历远程调阅和操作方法 |
CN115865909B (zh) * | 2023-01-13 | 2023-06-02 | 中科方德软件有限公司 | 一种基于spice协议的数据传输方法、装置和可读存储介质 |
CN116974680B (zh) * | 2023-08-02 | 2024-06-18 | 纽扣数字智能科技(深圳)集团有限公司 | 一种基于外设鼠键的电脑桌面远程控制方法、装置及设备 |
-
2008
- 2008-12-25 CN CN2008102204239A patent/CN101447998B/zh not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104679494A (zh) * | 2013-11-29 | 2015-06-03 | 华为技术有限公司 | 用于实现远程虚拟桌面和应用程序的方法以及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN101447998A (zh) | 2009-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101447998B (zh) | 桌面共享方法及系统 | |
CN105637886B (zh) | 用于向客户端提供图形用户界面的服务器,以及客户端 | |
US8630512B2 (en) | Dynamic client-server video tiling streaming | |
CN101067774A (zh) | 大型拼墙互动触摸方法及其装置 | |
US6573915B1 (en) | Efficient capture of computer screens | |
CN101420610B (zh) | 显示远程桌面内容的方法及其装置 | |
CN109388329A (zh) | 远程批注同步的方法与系统 | |
CN102668495A (zh) | 低延时传输协议的方法和系统 | |
CN1455372A (zh) | 基于ip网络的屏幕共享和同步录制方法 | |
TW200415516A (en) | Real-time screen recording system | |
CN102184723A (zh) | 多屏拼接处理系统回显装置和回显方法 | |
CN103607578B (zh) | 基于视频编码的全视角图片浏览系统 | |
CN110891084A (zh) | 一种基于自主hvdp协议的瘦客户端远程桌面控制系统 | |
CN108260011B (zh) | 在显示设备上实现写画的方法和系统 | |
CN1794796A (zh) | 显示设备及其控制方法 | |
CN1949844A (zh) | 能够动态显示的电视功能界面的方法 | |
CN106412617B (zh) | 远程调试控制方法及装置 | |
CN102770827A (zh) | 用于在终端的屏幕上显示多媒体内容的方法 | |
CN100337190C (zh) | 在远端计算机上将本地计算机显示内容显示回放的方法 | |
CN112202825A (zh) | 一种远程移动云桌面传输系统及方法 | |
CN116527976A (zh) | 一种多媒体展厅多屏同屏互动数据传输系统 | |
CN1303518C (zh) | 远程服务器主机画面监控系统及其方法 | |
Kimball et al. | Low bandwidth desktop and video streaming for collaborative tiled display environments | |
CN103782603B (zh) | 用户界面显示的系统和方法 | |
CN115052043A (zh) | 一种云桌面的视频传输方法、电子设备、装置及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: 510670 Guangdong Province, Guangzhou high tech Industrial Development Zone Kezhu Road No. 233 Patentee after: Wei Chong group Limited by Share Ltd Address before: 510663 Guangzhou province high tech Industrial Development Zone, Guangdong, Cai road, No. 6, No. Patentee before: Guangdong Weichuangshixun Science and Technology Co., Ltd. |
|
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20120711 Termination date: 20171225 |
|
CF01 | Termination of patent right due to non-payment of annual fee |