CN115474073B - 一种智能切换画面布局的方法和装置 - Google Patents

一种智能切换画面布局的方法和装置 Download PDF

Info

Publication number
CN115474073B
CN115474073B CN202110656122.6A CN202110656122A CN115474073B CN 115474073 B CN115474073 B CN 115474073B CN 202110656122 A CN202110656122 A CN 202110656122A CN 115474073 B CN115474073 B CN 115474073B
Authority
CN
China
Prior art keywords
code stream
content
picture
display content
screen display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110656122.6A
Other languages
English (en)
Other versions
CN115474073A (zh
Inventor
杜桂瑜
白刚
范圣冲
赵兴国
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Sailian Information Technology Co ltd
Original Assignee
Shanghai Sailian Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Sailian Information Technology Co ltd filed Critical Shanghai Sailian Information Technology Co ltd
Priority to CN202110656122.6A priority Critical patent/CN115474073B/zh
Publication of CN115474073A publication Critical patent/CN115474073A/zh
Application granted granted Critical
Publication of CN115474073B publication Critical patent/CN115474073B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream

Abstract

本发明的实施方式提供了一种智能切换画面布局的方法。该方法包括:抓取屏幕显示内容;基于所述显示内容进行智能分析;基于所述智能分析生成智能分析结果;基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流;发送所述智能分析结果以及所述第一压缩码流和第二压缩码流。使得观看端看到的画面在无需人工干预的情况下就可以实现智能切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。此外,本发明的实施方式提供了一种个性化设置企业云会议室的装置。

Description

一种智能切换画面布局的方法和装置
技术领域
本发明的实施方式涉及视频通信技术领域,更具体地,本发明的实施方式涉及一种智能切换画面布局的方法和装置。
背景技术
本部分旨在为权利要求书中陈述的本发明的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。
随着互联网的视频通信技术得到了广泛的应用,尤其是远程会议、远程教学培训等场景中,经常需要抓取电脑桌面做内容的分享。这种情况下,当观看端只有单屏幕的情况下,画面布局有几种选择:
a、一半屏幕看主讲人、一半屏幕看分享的内容,这种问题在于内容画幅较小,可能导致字体看不清,且效果不佳。
b、分享内容大画面,主讲人小画面或无主讲人画面,这种情况下削弱了培训中主讲人的表情及肢体语言的发挥空间,影响观看效果。
c、主讲人大画面,分享内容小画面,这种情况下,由于分享内容的画幅太小,细节看不清楚效果也不好。
本发明设计了一种智能切换画面布局的方法的装置,使得观看端看到的画面在无需人工干预的情况下实现自动切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
发明内容
本发明的目的在于通过自动切换画面布局实现既能清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
由于现有的技术实现方案往往需要后台有专门的导播人员或者会议控制人员进行人工的画面控制,以引导观看人员观看分享的内容或者是主讲人的画面。这会使得人力成本较高,观看人员与演讲者之间需要紧密配合才能完成较好的观看体验。因此为解决现有技术存在的问题,非常需要一种改进的智能切换画面布局的技术方案。
在本上下文中,本发明的实施方式期望提供一种智能切换画面布局的方法和装置。
在本发明实施方式的第一方面中,提供了一种智能切换画面布局的方法,包括:抓取屏幕显示内容;基于所述显示内容进行智能分析;基于所述智能分析生成智能分析结果;基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流;发送所述智能分析结果以及所述第一压缩码流和第二压缩码流。
在本发明的一个实施例中,所述基于所述显示内容进行智能分析包括:判断预定间隔时间内所述显示内容是否发生变化;若所述显示内容发生变化则判断变化的内容是否为核心内容;和/或评估所述显示内容中展现的文字图片需要的阅读时间。
在本发明的另一个实施例中,所述核心内容为显示内容中包含的文字内容和图片内容中的一项或其组合。
在本发明的又一个实施例中,所述智能分析结果包括:所述显示内容发生变化或未发生变化;所述显示内容发生变化的内容是核心内容或非核心内容;和/或所述显示内容中展现的文字图片需要的阅读时间。
在本发明的再一个实施例中,所述基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流包括:对所述智能分析后的屏幕显示内容进行压缩生成所述第一压缩码流;对所述主讲人画面进行压缩生成所述第二压缩码流。
在本发明的再一个实施例中,所述发送所述智能分析结果以及所述第一压缩码流和第二压缩码流包括:将所述压缩码流和所述智能分析结果通过通信分发网络发送到其他接收终端以及云录制直播服务器,以便于云录制直播服务器基于所述智能分析结果自动切换所述第一压缩码流和第二压缩码流的视频画面的布局。
在本发明的再一个实施例中,一种智能切换画面布局的方法包括:接收第一压缩码流、第二压缩码流和智能分析结果;基于所述第一压缩码流和第二压缩码流得到第一和第二解码码流;基于所述智能分析结果以及所述第一解码码流和第二解码码流切换屏幕显示内容和/或主讲人画面的布局。
在本发明的再一个实施例中,所述接收第一压缩码流和第二压缩码流和智能分析结果包括:通过通信分发网络接收所述第一和第二压缩码流和智能分析结果。
在本发明的再一个实施例中,所述基于所述第一压缩码流和第二压缩码流得到第一和第二解码码流包括:对所述第一和第二压缩码流进行解码得到第一和第二解码码流。
在本发明的再一个实施例中,所述基于所述智能分析结果以及所述第一解码码流和第二解码码流切换屏幕显示内容和/或主讲人画面的布局包括:基于所述智能分析结果获取屏幕显示内容展示时间;根据所述屏幕显示内容展示时间以及第一和第二解码码流切换所述屏幕显示内容和/或主讲人画面的布局。
在本发明的再一个实施例中,所述根据所述屏幕显示内容展示时间以及第一和第二解码码流切换所述屏幕显示内容和/或主讲人画面的布局包括:将所述展示时间设为初始值开始倒计时;倒计时未结束时以第一展示布局展示所述屏幕显示内容和/或主讲人画面;倒计时结束时以第二展示布局展示所述屏幕显示内容和/或主讲人画面。
在本发明的再一个实施例中,所述根据所述屏幕显示内容展示时间以及第一和第二解码码流切换所述屏幕显示内容和/或主讲人画面的布局还包括:当倒计时结束后,若所述显示内容发生了核心内容的变化则自动切换为第一展示布局展示所述屏幕显示内容和/或主讲人画面;当倒计时结束前,若所述显示内容发生了核心内容的变化则重新获取展示时间,并且以第一展示布局展示所述屏幕显示内容和/或主讲人画面。
在本发明的再一个实施例中,所述第一展示布局为放大所述屏幕显示内容,并且缩小主讲人画面或不展示主讲人画面的布局;所述第二展示布局为缩小所述屏幕显示内容或不展示所述屏幕显示内容,并且放大主讲人画面。
在本发明实施方式的第二方面中,提供了一种智能切换画面布局的装置,所述装置包括:抓取模块,用于抓取屏幕显示内容;分析模块,用于基于所述显示内容进行智能分析;生成智能分析结果模块,用于基于所述智能分析生成智能分析结果;生成压缩码流模块,用于基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流;发送模块,用于发送所述智能分析结果以及所述第一压缩码流和第二压缩码流。
在本申请的一个实施例中,所述分析模块包括:用于判断预定间隔时间内所述显示内容是否发生变化的模块;用于若所述显示内容发生变化则判断变化的内容是否为核心内容的模块;和/或用于评估所述显示内容中展现的文字图片需要的阅读时间的模块。
在本申请的另一个实施例中,所述智能分析结果包括:所述显示内容发生变化或未发生变化;所述显示内容发生变化的内容是核心内容或非核心内容;和/或所述显示内容中展现的文字图片需要的阅读时间。在本申请的又一个实施例中,所述生成压缩码流模块包括:用于对所述智能分析后的屏幕显示内容进行压缩生成所述第一压缩码流的模块;用于对所述主讲人画面进行压缩生成所述第二压缩码流的模块。
在本申请的再一个实施例中,所述发送模块包括:用于将所述压缩码流和所述智能分析结果通过通信分发网络发送到其他接收终端以及云录制直播服务器,以便于云录制直播服务器基于所述智能分析结果自动切换所述第一压缩码流和第二压缩码流的视频画面的布局的模块。
在本申请的再一个实施例中,所述装置包括:接收模块,用于接收第一压缩码流、第二压缩码流和智能分析结果;解码模块,用于基于所述第一压缩码流和第二压缩码流得到第一和第二解码码流;展示模块,用于基于所述智能分析结果以及所述第一解码码流和所述第二解码码流展示屏幕显示内容和/或主讲人画面的布局。在本申请的再一个实施例中,所述接收模块包括:用于通过通信分发网络接收所述第一和第二压缩码流和智能分析结果的模块。
在本申请的再一个实施例中,所述解码模块包括:用于对所述第一和第二压缩码流进行解码得到所述第一和第二解码码流的模块。
在本申请的再一个实施例中,所述展示模块包括:用于基于所述智能分析结果获取屏幕显示内容展示时间的模块;用于根据所述屏幕显示内容展示时间以及第一个第二解码码流展示所述屏幕显示内容和/或主讲人画面的布局的模块。
在本申请的再一个实施例中,所述用于根据所述展示时间以及解码码流展示所述屏幕显示内容的模块包括:用于将所述展示时间设为初始值开始倒计时的模块;用于倒计时未结束时以第一展示布局展示所述屏幕显示内容和/或主讲人画面的模块;用于倒计时结束时以第二展示布局展示所述屏幕显示内容和/或主讲人画面的模块。
在本申请的再一个实施例中,所述用于根据所述展示时间以及解码码流展示所述屏幕显示内容的模块还包括:用于当倒计时结束后,若所述显示内容发生了核心内容的变化则自动切换为第一展示布局展示所述屏幕显示内容和/或主讲人画面的模块;用于当倒计时结束前,若所述显示内容发生了核心内容的变化则重新获取展示时间,并且以第一展示布局展示所述屏幕显示内容和/或主讲人画面的模块。
在本发明的再一个实施例中,所述第一展示布局为放大所述屏幕显示内容,并且缩小主讲人画面或不展示主讲人画面的布局;所述第二展示布局为缩小所述屏幕显示内容或不展示所述屏幕显示内容,并且放大主讲人画面。
根据本发明实施方式的一种智能切换画面布局的方法和装置,通过对抓取的屏幕显示内容进行智能分析与压缩,并将智能分析结果和压缩码流发送到接收端,接收端根据对压缩码流进行解码以及对接收到的智能分析结果自动切换相对应的画面布局。这样通过自动切换画面布局的方式可以使得观看端看到的画面在无需人工干预的情况下就可以实现自动切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
附图说明
通过参考附图阅读下文的详细描述,本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本发明的若干实施方式,其中:
图1示意性地示出了根据本发明实施方式的用于实现智能切换画面布局的系统图;
图2示意性地示出了根据本发明实施方式的用于实现智能切换画面布局的方法流程图;
图3示意性地示出了根据本发明另一实施例的用于实现智能切换画面布局的方法流程图;
图4示意性地示出了根据本发明又一实施例的用于实现智能切换画面布局的完整流程图;
图5-6示意性地示出了根据本发明再一实施例的画面布局示意图;
图7-8示意性地示出了根据本发明实施方式的用于智能切换画面布局的装置示意图。
在附图中,相同或对应的标号表示相同或对应的部分。
具体实施方式
下面将参考若干示例性实施方式来描述本发明的原理和精神。应当理解,给出这些实施方式仅仅是为了使本领域技术人员能够更好地理解进而实现本发明,而并非以任何方式限制本发明的范围。相反,提供这些实施方式是为了使本公开更加透彻和完整,并且能够将本公开的范围完整地传达给本领域的技术人员。
本领域技术人员知道,本发明的实施方式可以实现为一种方法和装置。因此,本公开可以具体实现为以下形式,即:完全的硬件、完全的软件(包括固件、驻留软件、微代码等),或者硬件和软件结合的形式。
根据本发明的实施方式,提出了一种智能切换画面布局的方法和装置。
下面参考本发明的若干代表性实施方式,详细阐释本发明的原理和精神。
发明概述
本发明人发现,现有的屏幕内容显示技术存在以下缺陷:往往需要后台有专门的导播人员或者会议控制人员进行人工的画面控制,以引导观看人员观看分享的内容或者是主讲人的画面,这样使得人力成本较高,观看人员与演讲者之间需要紧密配合才能完成较好的观看体验。
为了克服现有技术存在的问题,本发明提供了一种智能切换画面布局的方法和装置,该方法包括以下步骤:抓取屏幕显示内容;基于所述显示内容进行智能分析;基于所述智能分析生成智能分析结果;基于所述屏幕显示内容生成压缩码流;发送所述智能分析结果以及压缩码流。
在介绍了本发明的基本原理之后,下面具体介绍本发明的各种非限制性实施方式。
应用场景总览
本发明实施例可以应用于远程会议、远程教学或培训等场景,然而,本领域技术人员完全可以理解,本发明实施方式的适用场景不受到该框架任何方面的限制。
示例性方法
下面结合应用场景,参考图1-6来描述根据本发明示例性实施方式的用于实现个性化设置企业云会议室的方法。需要注意的是,上述应用场景仅是为了便于理解本发明的精神和原理而示出,本发明的实施方式在此方面不受任何限制。相反,本发明的实施方式可以应用于适用的任何场景。
参考图1,示意性地示出了本发明一个实施例的用于智能切换画面布局的系统图。
该系统包括发送终端和接收终端。发送终端用于对视频进行编码以及进行智能分析,并将编码后的视频以及智能分析结果发送给接收终端,接收终端用于接收编码后的视频码流以及智能分析结果,并基于编码后的视频码流以及智能分析结果对视频码流进行解码以及对画面布局进行自动切换。这样通过自动切换画面布局的方式可以使得观看端看到的画面在无需人工干预的情况下就可以实现自动切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
参考图2,示意性的示出了根据本发明一个实施例的在发送侧终端用于智能切换画面布局的方法流程图。该方法包括以下步骤:
S200、抓取屏幕显示内容。
作为示例,抓取屏幕显示内容包括文字和/或图片,发送终端可以1s的间隔连续抓取屏幕显示内容。
S210、基于所述显示内容进行智能分析。
作为示例,对所显示内容进行智能分析包括判断预定间隔时间内所述显示内容是否发生变化,若所述显示内容发生变化则判断变化的内容是否为核心内容,和/或评估所述显示内容中展现的文字图片需要的阅读时间。其中,由于抓取到的屏幕显示内容可能包含有文字、图片等内容,并且通常情况下,在进行远程视频会议或视频教学时,用户最关心的是显示在屏幕上的文字或图片内容,如显示在屏幕上的是一个PPT文档,则用户最需要关注的内容即为PPT文档内的文字和图片内容,因此核心内容为显示内容中包含的文字内容和图片内容中的一项或其组合。
S220、基于所述智能分析生成智能分析结果。
作为示例,所述智能分析结果包括:所述显示内容发生变化或未发生变化;所述显示内容发生变化的内容是核心内容或非核心内容;和/或所述显示内容中展现的文字图片需要的阅读时间。具体地方式,通过对比获取到的不同画面的显示内容即可确定所述显示内容是否发生变化,显示内容的变化包括核心内容变化(如显示内容中的文字和图片内容发生了变化)和非核心内容变化(如显示内容的背景发生了变化,此时可能主讲人正通过肢体语言对该内容进行讲解);通过对比发生变化的内容部分是否为文字或图片内容即可以确定出核心内容是否发生变化;由于一般人的平均阅读速度在每分钟300-500字,即可以确定出阅读显示内容中展现的文字图片所需要的时间。
S230、基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流。
作为示例,由于主讲人画面和屏幕显示的内容是通过两个码流进行传输的,因此对所述智能分析后的屏幕显示内容和主讲人画面进行压缩生成第一压缩码流和第二压缩码流。并且通过将抓取的屏幕显示内容压缩后进行传输可以有效的节约带宽,减少服务器的负担。
S240、发送所述智能分析结果以及所述第一压缩码流和第二压缩码流。
作为示例,发送所述智能分析结果以及第一压缩码流和第二压缩码流具体方式为,将所述第一压缩码流、第二压缩码流和所述智能分析结果通过通信分发网络发送到其他接收终端以及云录制直播服务器。
参考图3,示意性的示出了根据本发明一个实施例的在接收侧终端用于智能切换画面布局的方法流程图。该方法包括以下步骤:
S300、接收第一压缩码流、第二压缩码流和智能分析结果。
作为示例,所述接收第一压缩码流、第二压缩码流和智能分析结果包括,通过通信分发网络接收所述第一压缩码流、第二压缩码流和智能分析结果。如通过无线传输或有线传输。
S310、基于所述第一压缩码流和第二压缩码流得到第一和第二解码码流。
作为示例,所述基于所述第一压缩码流和第二压缩码流得到第一和第二解码码流包括,对所述第一压缩码流和第二压缩码流进行解码得到第一解码码流和第二解码码流。具体地解码方式可参考现有视频图像压缩编解码技术,具体解码方式在此处不做限制。
S320、基于所述智能分析结果以及所述第一解码码流和第二解码码流切换屏幕显示内容和/或主讲人画面的布局。
作为示例,所述基于所述智能分析结果以及所述第一解码码流和第二解码码流切换屏幕显示内容和/或主讲人画面的布局包括:基于所述智能分析结果获取展示时间;根据所述展示时间以及解码码流展示屏幕显示内容。其中所述根据所述展示时间以及解码码流展示屏幕显示内容包括:将所述展示时间设为初始值开始倒计时;倒计时未结束时以第一展示布局展示所述屏幕显示内容;倒计时结束时以第二展示布局展示所述屏幕显示内容。所述根据所述展示时间以及解码码流展示屏幕显示内容还包括:当倒计时结束后,若所述显示内容发生了核心内容的变化则自动切换为第一展示布局展示所述屏幕显示内容;当倒计时结束前,若所述显示内容发生了核心内容的变化则重新获取展示时间,上述第一展示布局为接收端布局将在大画面显示分享的内容,在小画面显示主讲人画面,第二展示布局为接收端布局自动切换成大画面显示主讲人,小画面显示分享的内容。
通常情况下,在远程视频教学的过程中会有主讲人和显示的内容(即主讲内容),当接收端为一个显示屏时,会将主讲内容和主讲人分屏或不分屏显示在同一个显示屏上。而不分屏显示的话由于屏幕大小的受限,可能会导致分享的内容清楚时主讲人则会不清楚,即放大显示分享内容而显示部分或不显示主讲人;当主讲人清楚时可能会导致分享内容不清楚。因此,本申请通过根据抓取的不同的屏幕显示内容自动切换显示布局,这样可以使得观看端看到的画面在无需人工干预的情况下实现自动切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
如图4所示,展示了本发明的完整的流程图。
具体地例子,以远程教学为例,若当前指导教师正在讲解氢氧化钙完全变质的实验探究,其中如图5所示,发送端抓取的屏幕显示的核心内容为,一、实验目的:通过实验探究证明氢氧化钙已完全变质;二、实验用品:药匙、试管(Φ20*200mm)2支......酚酞溶液;三、实验步骤:1.检查仪器、药品。2.取少量氢氧化钙固体样品分别放入两支试管中。......6.清洗仪器,整理复位。非核心内容为主讲人画面。则通过智能分析,也即根据显示内容的数字可以解析展示时间为2分钟,并开始以展示时间2分钟为初始值开始倒计时。如图5所示,以该画面布局显示2分钟,即接收端布局将在大画面显示分享的内容,即核心内容,在小画面显示主讲人画面。如图6所示,倒计时结束,即2分钟时,开始将接收端布局自动切换成大画面显示主讲人,小画面显示分享的内容,以该画面布局显示直至核心内容发生变化为止。通过对图5和图6的对比可知,虽然主讲人的显示画面发生了变化,但核心内容(即文字部分)并未发生变化。这样通过在不同的时间对画面布局进行自动切换可以使得当用户了解了实验过程以及实验用具后,通过将主讲人画面自动切换到大画面可以使得用户能够清楚的观察到主讲人的实验操作流程以及最终的实验所产生的现象。这样可以避免若一直以图5的画面布局进行实验则可能会使得用户不能够观察到最终实验所产生的现象,也不能够了解各实验用具的使用方法这种情况。
如果在2分钟后,当展示内容发生了核心内容变化(即文字内容发生了变化),由于文字内容发生了变化,则证明可能该实验已经完成,需要讲解下一个内容,因此需要对画面布局做出切换,则接收端布局自动切回到“接收端布局将在大画面显示分享的内容,在小画面显示主讲人画面或不显示”的状态。如果还没有到2分钟,且发送端画面做了核心内容更新,则展示时间重新计算,且使用新的展示时间作为倒计时初始值,重新开始倒计时,这一过程中布局始终保持“大画面显示分享的内容,在小画面显示主讲人画面”状态。
本申请通过对抓取的屏幕显示内容进行智能分析与压缩,并将智能分析结果和压缩码流发送到接收端,接收端根据对压缩码流进行解码以及对接收到的智能分析结果自动切换相对应的画面布局。这样通过自动切换画面布局的方式可以使得观看端看到的画面在无需人工干预的情况下就可以实现自动切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
示例性装置
在介绍了本发明示例性实施方式的方法之后,接下来,参考图7-8对本发明示例性实施方式的用于实现文档清晰化处理的装置示意图,该装置包括以下模块:
抓取模块700,用于抓取屏幕显示内容。
作为示例,抓取屏幕显示内容包括文字和/或图片以及背景等内容,其中背景可以包括主讲人画面,发送终端可以1s的间隔连续抓取屏幕显示内容。
分析模块710,用于基于所述显示内容进行智能分析。
作为示例,对所显示内容进行智能分析包括判断预定间隔时间内所述显示内容是否发生变化,若所述显示内容发生变化则判断变化的内容是否为核心内容,和/或评估所述显示内容中展现的文字图片需要的阅读时间。其中,由于抓取到的屏幕显示内容可能包含有文字、图片以及背景等内容,并且通常情况下,在进行远程视频会议或视频教学时,用户最关心的是显示在屏幕上的文字或图片内容,而不是主讲人画面,如显示在屏幕上的是一个PPT文档,则用户最需要关注的内容即为PPT文档内的文字和图片内容,因此核心内容为显示内容中包含的文字内容和图片内容中的一项或其组合。
生成智能分析结果模块720,用于基于所述智能分析生成智能分析结果。
作为示例,所述智能分析结果包括:所述显示内容发生变化或未发生变化;所述显示内容发生变化的内容是核心内容或非核心内容;和/或所述显示内容中展现的文字图片需要的阅读时间。具体地方式,通过对比获取到的不同画面的显示内容即可确定所述显示内容是否发生变化,显示内容的变化包括核心内容变化(如显示内容中的文字和图片内容发生了变化)和非核心内容变化(如显示内容的背景发生了变化,此时可能主讲人正通过肢体语言对该内容进行讲解);通过对比发生变化的内容部分是否为文字或图片内容即可以确定出核心内容是否发生变化;由于一般人的平均阅读速度在每分钟300-500字,即可以确定出阅读显示内容中展现的文字图片所需要的时间。
生成压缩码流模块730,用于基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流。
作为示例,对所述智能分析后的屏幕显示内容进行压缩生成压缩码流。并且通过将抓取的屏幕显示内容压缩后进行传输可以有效的节约带宽,减少服务器的负担。发送模块740,用于发送所述智能分析结果以及所述第一压缩码流和第二压缩码流。
作为示例,发送所述智能分析结果以及压缩码流具体方式为,将所述压缩码流和所述智能分析结果通过通信分发网络发送到其他接收终端以及云录制直播服务器。
参考图8,示意性的示出了根据本发明一个实施例的在接收侧终端用于自动切换画面布局的装置示意图。该装置包括以下模块:
接收模块800,用于接收压缩码流和智能分析结果。
作为示例,所述接收压缩码流和智能分析结果包括,通过通信分发网络接收所述压缩码流和智能分析结果。如通过无线传输或有线传输。
解码模块810,用于基于压缩码流得到解码码流。
作为示例,所述基于压缩码流得到解码码流包括,对所述压缩码流进行解码得到解码码流。具体地解码方式可参考现有视频图像压缩编解码技术,具体解码方式在此处不做限制。
展示模块820,用于基于所述智能分析结果以及所述解码码流展示屏幕显示内容。
作为示例,所述基于所述智能分析结果以及所述解码码流展示屏幕显示内容包括:基于所述智能分析结果获取展示时间;根据所述展示时间以及解码码流展示屏幕显示内容。其中所述根据所述展示时间以及解码码流展示屏幕显示内容包括:将所述展示时间设为初始值开始倒计时;倒计时未结束时以第一展示布局展示所述屏幕显示内容;倒计时结束时以第二展示布局展示所述屏幕显示内容。所述根据所述展示时间以及解码码流展示屏幕显示内容还包括:当倒计时结束后,若所述显示内容发生了核心内容的变化则自动切换为第一展示布局展示所述屏幕显示内容;当倒计时结束前,若所述显示内容发生了核心内容的变化则重新获取展示时间,上述第一展示布局为接收端布局将在大画面显示分享的内容,在小画面显示主讲人画面,第二展示布局为接收端布局自动切换成大画面显示主讲人,小画面显示分享的内容。。
通常情况下,在远程视频教学的过程中会有主讲人和显示的内容(即主讲内容),当接收端为一个显示屏时,会将主讲内容和主讲人分屏或不分屏显示在同一个显示屏上。而不分屏显示的话由于屏幕大小的受限,可能会导致分享的内容清楚时主讲人则会不清楚,即放大显示分享内容而显示部分或不显示主讲人;当主讲人清楚时可能会导致分享内容不清楚。因此,本申请通过根据抓取的不同的屏幕显示内容自动切换显示布局,这样可以使得观看端看到的画面在无需人工干预的情况下实现自动切换,即能实现清晰的了解分享的内容,又能通过大画面领略主讲人的讲解过程,达到极佳的观看体验。
如图4所示,展示了本发明的完整的流程图。
具体地例子,以远程教学为例,若当前指导教师正在讲解氢氧化钙完全变质的实验探究,其中如图5所示,发送端抓取的屏幕显示的核心内容为,一、实验目的:通过实验探究证明氢氧化钙已完全变质;二、实验用品:药匙、试管(Φ20*200mm)2支......酚酞溶液;三、实验步骤:1.检查仪器、药品。2.取少量氢氧化钙固体样品分别放入两支试管中。......6.清洗仪器,整理复位。非核心内容为主讲人画面。则通过智能分析,也即根据显示内容的数字可以解析展示时间为2分钟,并开始以展示时间2分钟为初始值开始倒计时。如图5所示,以该画面布局显示2分钟,即接收端布局将在大画面显示分享的内容,即核心内容,在小画面显示主讲人画面。如图6所示,倒计时结束,即2分钟时,开始将接收端布局自动切换成大画面显示主讲人,小画面显示分享的内容,以该画面布局显示直至核心内容发生变化为止。通过对图5和图6的对比可知,虽然主讲人的显示画面发生了变化,但核心内容(即文字部分)并未发生变化。这样通过在不同的时间对画面布局进行自动切换可以使得当用户了解了实验过程以及实验用具后,通过将主讲人画面自动切换到大画面可以使得用户能够清楚的观察到主讲人的实验操作流程以及最终的实验所产生的现象。这样可以避免若一直以图5的画面布局进行实验则可能会使得用户不能够观察到最终实验所产生的现象,也不能够了解各实验用具的使用方法这种情况。
如果在2分钟后,当展示内容发生了核心内容变化(即文字内容发生了变化),由于文字内容发生了变化,则证明可能该实验已经完成,需要讲解下一个内容,因此需要对画面布局做出切换,则接收端布局自动切回到“接收端布局将在大画面显示分享的内容,在小画面显示主讲人画面或不显示”的状态。如果还没有到2分钟,且发送端画面做了核心内容更新,则展示时间重新计算,且使用新的展示时间作为倒计时初始值,重新开始倒计时,这一过程中布局始终保持“大画面显示分享的内容,在小画面显示主讲人画面”状态。
应当注意,尽管在上文详细描述中提及了一种文档清晰化处理装置的若干单元/模块或子单元/模块,但是这种划分仅仅是示例性的并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多单元/模块的特征和功能可以在一个单元/模块中具体化。反之,上文描述的一个单元/模块的特征和功能可以进一步划分为由多个单元/模块来具体化。
此外,尽管在附图中以特定顺序描述了本发明方法的操作,但是,这并非要求或者暗示必须按照该特定顺序来执行这些操作,或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地,可以省略某些步骤,将多个步骤合并为一个步骤执行,和/或将一个步骤分解为多个步骤执行。
虽然已经参考若干具体实施方式描述了本发明的精神和原理,但是应该理解,本发明并不限于所公开的具体实施方式,对各方面的划分也不意味着这些方面中的特征不能组合以进行受益,这种划分仅是为了表述的方便。本发明旨在涵盖所附权利要求的精神和范围内所包括的各种修改和等同布置。

Claims (8)

1.一种智能切换画面布局的方法,其特征在于,所述方法包括:
抓取屏幕显示内容;
基于所抓取的显示内容判断预定间隔时间内所述显示内容是否发生变化;
若所述显示内容发生变化则判断变化的内容是否为核心内容,所述核心内容为显示内容中包含的文字内容和图片内容中的一项或其组合;
若是所述核心内容发生变化则评估所述显示内容中展现的文字图片需要的阅读时间;
将所述判断和评估生成智能分析结果;
基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流;
将所述第一压缩码流、第二压缩码流和所述智能分析结果通过通信分发网络发送到其他接收终端以及云录制直播服务器,以便于云录制直播服务器基于所述智能分析结果自动切换所述第一压缩码流和第二压缩码流的视频画面的布局。
2.根据权利要求1所述的智能切换画面布局的方法,其特征在于,所述基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流包括:
对所述智能分析后的屏幕显示内容压缩生成所述第一压缩码流;
对所述主讲人画面进行压缩生成所述第二压缩码流。
3.一种智能切换画面布局的方法,其特征在于,所述方法包括:
接收第一压缩码流、第二压缩码流和智能分析结果;
基于所述第一压缩码流和第二压缩码流进行解码得到第一和第二解码码流,所述第一解码码流是屏幕显示内容,所述第二解码码流是主讲人画面;
基于接收的智能分析结果获取所述屏幕显示内容是否发生变化的判断结果、核心内容是否发生变化的判断结果和所述屏幕显示内容展示时间;
若所述屏幕显示内容中的核心内容发生变化,则清除当前的倒计时的状态,将本次接收所获取的所述屏幕显示内容展示时间重新设置为倒计时的初始值,并重新开始倒计时,以第一展示布局展示所述屏幕显示内容和/或主讲人画面;
若所述屏幕显示内容中的核心内容未发生变化,则判断对于当前核心内容的所述屏幕显示内容展示时间的倒计时是否结束,如果倒计时未结束保持当前的布局展示所述屏幕显示内容和/或主讲人画面;
倒计时结束时,以第二展示布局展示所述屏幕显示内容和/或主讲人画面。
4.根据权利要求3所述的智能切换画面布局的方法,其中:
所述第一展示布局为放大所述屏幕显示内容,并且缩小主讲人画面或不展示主讲人画面的布局;
所述第二展示布局为缩小所述屏幕显示内容或不展示所述屏幕显示内容,并且放大主讲人画面。
5.一种智能切换画面布局的装置,其特征在于,所述装置包括:
抓取模块,用于抓取屏幕显示内容;
分析模块,用于基于所抓取的显示内容判断预定间隔时间内所述显示内容是否发生变化,若所述显示内容发生变化则判断变化的内容是否为核心内容,所述核心内容为显示内容中包含的文字内容和图片内容中的一项或其组合;若是所述核心内容发生变化则评估所述显示内容中展现的文字图片需要的阅读时间;
生成智能分析结果模块,用于将所述判断和评估生成智能分析结果;
生成压缩码流模块,用于基于所述屏幕显示内容以及主讲人画面分别生成第一压缩码流和第二压缩码流;
发送模块,用于将所述第一压缩码流、第二压缩码流和所述智能分析结果通过通信分发网络发送到其他接收终端以及云录制直播服务器,以便于云录制直播服务器基于所述智能分析结果自动切换所述第一压缩码流和第二压缩码流的视频画面的布局。
6.根据权利要求5所述的智能切换画面布局的装置,其特征在于,所述生成压缩码流模块包括:
用于对所述智能分析后的屏幕显示内容进行压缩生成所述第一压缩码流的模块;
用于对所述主讲人画面进行压缩生成所述第二压缩码流的模块。
7.一种智能切换画面布局的装置,其特征在于,所述装置包括:
接收模块,用于接收第一压缩码流、第二压缩码流和智能分析结果;
解码模块,用于基于所述第一压缩码流和第二压缩码流得到第一和第二解码码流,所述第一解码码流是屏幕显示内容,所述第二解码码流是主讲人画面;
展示模块,用于基于接收的智能分析结果获取所述屏幕显示内容是否发生变化的判断结果、核心内容是否发生变化的判断结果和所述屏幕显示内容展示时间;若所述屏幕显示内容中的核心内容发生变化,则清除当前的倒计时的状态,将本次接收所获取的所述屏幕显示内容展示时间重新设置为倒计时的初始值,并重新开始倒计时,以第一展示布局展示所述屏幕显示内容和/或主讲人画面;若所述屏幕显示内容中的核心内容未发生变化,则判断对于当前核心内容的所述屏幕显示内容展示时间的倒计时是否结束,如果倒计时未结束保持当前的布局展示所述屏幕显示内容和/或主讲人画面;倒计时结束时,以第二展示布局展示所述屏幕显示内容和/或主讲人画面。
8.根据权利要求7所述的智能切换画面布局的装置,其中:
所述第一展示布局为放大所述屏幕显示内容,并且缩小主讲人画面或不展示主讲人画面的布局;
所述第二展示布局为缩小所述屏幕显示内容或不展示所述屏幕显示内容,并且放大主讲人画面。
CN202110656122.6A 2021-06-11 2021-06-11 一种智能切换画面布局的方法和装置 Active CN115474073B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110656122.6A CN115474073B (zh) 2021-06-11 2021-06-11 一种智能切换画面布局的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110656122.6A CN115474073B (zh) 2021-06-11 2021-06-11 一种智能切换画面布局的方法和装置

Publications (2)

Publication Number Publication Date
CN115474073A CN115474073A (zh) 2022-12-13
CN115474073B true CN115474073B (zh) 2023-12-12

Family

ID=84364607

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110656122.6A Active CN115474073B (zh) 2021-06-11 2021-06-11 一种智能切换画面布局的方法和装置

Country Status (1)

Country Link
CN (1) CN115474073B (zh)

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101367195B1 (ko) * 2012-09-20 2014-03-13 숭실대학교산학협력단 강의 동영상 내의 유의미한 재생시점의 선정 방법과 이를 이용한 강의 동영상 서비스 제공 장치 및 방법
CN104410834A (zh) * 2014-12-04 2015-03-11 重庆晋才富熙科技有限公司 一种教学视频的智能切换方法
CN104469303A (zh) * 2014-12-04 2015-03-25 重庆晋才富熙科技有限公司 教学视频的智能切换方法
CN104822038A (zh) * 2015-04-30 2015-08-05 广州瀚唐电子科技有限公司 录播系统及其画面切换方法
WO2017219347A1 (zh) * 2016-06-24 2017-12-28 北京小米移动软件有限公司 直播显示方法、装置及系统
CN108494997A (zh) * 2018-06-27 2018-09-04 北京竞业达数码科技股份有限公司 一种导播系统和直播录播系统
CN208257968U (zh) * 2018-05-10 2018-12-18 潍坊核变文化传播有限公司 一种精品课程智能录播系统
CN109951673A (zh) * 2019-03-11 2019-06-28 南京信奥弢电子科技有限公司 一种视频会议的内容交互系统和方法
WO2019242774A1 (zh) * 2018-06-22 2019-12-26 中兴通讯股份有限公司 一种视频会议中画面切换方法、终端及mcu
CN110636353A (zh) * 2019-06-10 2019-12-31 青岛海信电器股份有限公司 一种显示设备
CN110933331A (zh) * 2019-12-06 2020-03-27 浙江蓝鸽科技有限公司 教学视频的合成方法及系统
CN111385591A (zh) * 2018-12-28 2020-07-07 阿里巴巴集团控股有限公司 网络直播方法、直播处理方法、装置、直播服务器及终端设备
CN111526382A (zh) * 2020-04-20 2020-08-11 广东小天才科技有限公司 一种直播视频文本生成方法、装置、设备及存储介质
CN111654715A (zh) * 2020-06-08 2020-09-11 腾讯科技(深圳)有限公司 直播的视频处理方法、装置、电子设备及存储介质
CN112351291A (zh) * 2020-09-30 2021-02-09 深圳点猫科技有限公司 一种基于ai人像分割的教学互动方法、装置及设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9118425B2 (en) * 2012-05-31 2015-08-25 Magnum Semiconductor, Inc. Transport stream multiplexers and methods for providing packets on a transport stream
US9114849B2 (en) * 2013-04-29 2015-08-25 Gulshan Prem Choppla Student, teacher, administrative and research coordinating helper
CN105100677A (zh) * 2014-05-21 2015-11-25 华为技术有限公司 用于视频会议呈现的方法、装置和系统

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101367195B1 (ko) * 2012-09-20 2014-03-13 숭실대학교산학협력단 강의 동영상 내의 유의미한 재생시점의 선정 방법과 이를 이용한 강의 동영상 서비스 제공 장치 및 방법
CN104410834A (zh) * 2014-12-04 2015-03-11 重庆晋才富熙科技有限公司 一种教学视频的智能切换方法
CN104469303A (zh) * 2014-12-04 2015-03-25 重庆晋才富熙科技有限公司 教学视频的智能切换方法
CN104822038A (zh) * 2015-04-30 2015-08-05 广州瀚唐电子科技有限公司 录播系统及其画面切换方法
WO2017219347A1 (zh) * 2016-06-24 2017-12-28 北京小米移动软件有限公司 直播显示方法、装置及系统
CN208257968U (zh) * 2018-05-10 2018-12-18 潍坊核变文化传播有限公司 一种精品课程智能录播系统
WO2019242774A1 (zh) * 2018-06-22 2019-12-26 中兴通讯股份有限公司 一种视频会议中画面切换方法、终端及mcu
CN110636242A (zh) * 2018-06-22 2019-12-31 中兴通讯股份有限公司 一种视频会议中画面切换方法、终端及mcu
CN108494997A (zh) * 2018-06-27 2018-09-04 北京竞业达数码科技股份有限公司 一种导播系统和直播录播系统
CN111385591A (zh) * 2018-12-28 2020-07-07 阿里巴巴集团控股有限公司 网络直播方法、直播处理方法、装置、直播服务器及终端设备
CN109951673A (zh) * 2019-03-11 2019-06-28 南京信奥弢电子科技有限公司 一种视频会议的内容交互系统和方法
CN110636353A (zh) * 2019-06-10 2019-12-31 青岛海信电器股份有限公司 一种显示设备
CN110933331A (zh) * 2019-12-06 2020-03-27 浙江蓝鸽科技有限公司 教学视频的合成方法及系统
CN111526382A (zh) * 2020-04-20 2020-08-11 广东小天才科技有限公司 一种直播视频文本生成方法、装置、设备及存储介质
CN111654715A (zh) * 2020-06-08 2020-09-11 腾讯科技(深圳)有限公司 直播的视频处理方法、装置、电子设备及存储介质
CN112351291A (zh) * 2020-09-30 2021-02-09 深圳点猫科技有限公司 一种基于ai人像分割的教学互动方法、装置及设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
网络直播模式对教学效果的影响――以"职业规划课程"为例;程雪姣;皮忠玲;洪建中;翟成蹊;;现代教育技术(02);全文 *
论提高教师远程培训视频课程有效性;李莹;高国元;徐恩芹;;中国教育信息化(02);全文 *

Also Published As

Publication number Publication date
CN115474073A (zh) 2022-12-13

Similar Documents

Publication Publication Date Title
US9769423B2 (en) System and method for point to point integration of personal computers with videoconferencing systems
CN109089064B (zh) 一种用于处理媒体信号的装置和方法
EP2134092A1 (en) Information processing apparatus and method, and program
CN109309831B (zh) 视频会议中视频延时的测试方法及装置
CN104918137A (zh) 一种拼接屏系统播放视频的方法
CN108881956B (zh) 一种直播流传输方法、装置及相关设备
JP2016174282A (ja) テレビ会議用通信装置
CN106227492A (zh) 拼接墙与移动智能终端互联方法和装置
CN106303634A (zh) 一种tv设备弹幕发送系统及方法
CN104080006A (zh) 一种视频处理装置及方法
WO2023279793A1 (zh) 视频的播放方法及装置
CN112468763B (zh) 会议电视的视频传输和显示方法、装置、设备及存储介质
CN110913165A (zh) 基于级联框架的视频会议系统的视频流轮播方法和装置
CN106791903A (zh) 直播处理系统、设备、装置及方法
CN115474073B (zh) 一种智能切换画面布局的方法和装置
WO2016147538A1 (ja) テレビ会議用通信装置
CN103686149B (zh) 浏览器故障信息的获取方法及系统
KR100746463B1 (ko) 영상회의 시스템에서의 영상 전송 장치 및 그 방법
US20220210486A1 (en) System for playing specific streaming selected from combined streamings and method therefore
TWI508536B (zh) 一種影音訊號調整裝置及其方法
CN114025204A (zh) 一种视频直播切换方法、装置、设备及存储介质
KR20160011158A (ko) 화면 공유 시스템 및 방법
CN113923530B (zh) 一种互动信息展示方法、装置、电子设备及存储介质
CN111246155B (zh) 一种电视墙服务器的rtp报文转发方法以及装置
CN107507475B (zh) 中控系统、交互教学系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant