CN112261349A - 图像处理方法、装置和电子设备 - Google Patents

图像处理方法、装置和电子设备 Download PDF

Info

Publication number
CN112261349A
CN112261349A CN202011151866.4A CN202011151866A CN112261349A CN 112261349 A CN112261349 A CN 112261349A CN 202011151866 A CN202011151866 A CN 202011151866A CN 112261349 A CN112261349 A CN 112261349A
Authority
CN
China
Prior art keywords
video
original video
gray
color
receiving end
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011151866.4A
Other languages
English (en)
Other versions
CN112261349B (zh
Inventor
张文亮
李军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202011151866.4A priority Critical patent/CN112261349B/zh
Publication of CN112261349A publication Critical patent/CN112261349A/zh
Application granted granted Critical
Publication of CN112261349B publication Critical patent/CN112261349B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/647Control signaling between network components and server or clients; Network processes for video distribution between server and clients, e.g. controlling the quality of the video stream, by dropping packets, protecting content from unauthorised alteration within the network, monitoring of network load, bridging between two different networks, e.g. between IP and wireless
    • H04N21/64723Monitoring of network processes or resources, e.g. monitoring of network load
    • H04N21/64738Monitoring network characteristics, e.g. bandwidth, congestion level

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本公开实施例公开了的图像处理方法、装置和电子设备,在发送端与接收端建立网络连接后,会根据当前的网络连接状态,判断是否对原始视频进行灰度处理;发送端响应于确定对原始视频进行灰度处理时,可以将原始视频处理为目标灰度视频,从而可以减少传输视频过程中所需要的带宽。而接收端在接收到目标灰度视频后,可以基于预建的第一色彩填充模型对目标灰度视频进行填色,从而获得原始视频。也即,在网络连接状态较差的情况下,通过将原始视频转换为目标灰度视频进行传输,可以减少视频过程中所需要的带宽,从而也就保证了视频连续传输过程中的流畅性。

Description

图像处理方法、装置和电子设备
技术领域
本公开涉及互联网技术领域,尤其涉及一种图像处理方法、装置和电子设备。
背景技术
随着科学技术的发展,人们的沟通也变得越来越便利,比如,通过远程会议系统,可以让不同地方的人们一起参加视频会议。
而会议系统,主办方通常是将彩色图像实时上传,而各参与者也可以利用终端设备展示主办方实时上传的彩色图像,以使各参与者能够获知当前会议进度;而通过这种模式,即可实现一个完整的会议系统,从而实现主办方与各参与者之间的互动。
发明内容
提供该公开内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该公开内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开实施例提供了一种图像处理方法、装置和电子设备,可以保证远程会议系统的流畅性,使得会议沟通更加顺畅。
第一方面,本公开实施例提供了一种图像处理方法,包括:应用于图像传输系统,所述图像传输系统包括发送端和接收端,所述方法包括:所述发送端响应于确定与所述接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理,其中,所述原始视频为彩色视频;所述发送端响应于确定对所述原始视频进行灰度处理,将所述原始视频转换为目标灰度视频,以及将所述目标灰度视频发送至接收端;所述接收端响应于接收到所述目标灰度视频,基于预建的第一色彩填充模型,将所述目标灰度视频进行色彩填充处理获得所述原始视频。
第二方面,本公开实施例提供了一种图像处理装置,包括:发送单元和接收单元,所述发送单元与所述接收单元连接;所述发送单元,用于响应于确定与所述接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理,其中,所述原始视频为彩色视频;所述发送单元,还用于响应于确定对所述原始视频进行灰度处理,将所述原始视频转换为目标灰度视频,以及将所述目标灰度视频发送至接收端;所述接收单元,用于响应于接收到所述目标灰度视频,基于预建的第一色彩填充模型,将所述目标灰度视频进行色彩填充处理获得所述原始视频。
第三方面,本公开实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行,使得上述一个或多个处理器实现如第一方面上述的图像处理方法,或者,当上述一个或多个程序被上述一个或多个处理器执行,使得上述一个或多个处理器实现如第二方面上述的图像处理方法。
第四方面,本公开实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面或第二方面上述的图像处理方法的步骤。
本公开实施例提供的图像处理方法、装置和电子设备,在发送端与接收端建立网络连接后,会根据当前的网络连接状态,判断是否对原始视频进行灰度处理;发送端响应于确定对原始视频进行灰度处理时,可以将原始视频处理为目标灰度视频,从而可以减少传输视频过程中所需要的带宽。而接收端在接收到目标灰度视频后,可以基于预建的第一色彩填充模型对目标灰度视频进行填色,从而获得原始视频。也即,在网络条件较差的情况下,通过将原始视频转换为目标灰度视频进行传输,可以减少视频过程中所需要的带宽,从而也就保证了视频连续传输过程中的流畅性。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是根据本公开的图像处理方法的一个实施例的流程图;
图2是根据本公开的图像处理方法的一个实施例的交互示意图;
图3是根据本公开的图像处理装置的一个实施例的结构示意图;
图4是本公开的一个实施例的图像处理方法可以应用于其中的示例性系统架构;
图5是根据本公开实施例提供的电子设备的基本结构的示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
请参考图1,其示出了根据本公开的图像处理方法的一个实施例的流程。该图像处理方法可以应用于图像传输系统,图像传输系统可以包括发送端和接收端。如图1所示该图像处理方法,包括以下步骤:
步骤101,发送端响应于确定与接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理。
在这里,原始视频为彩色视频。
在这里,发送端与接收端建立网络连接,可以表征发送端需要向接收端发送视频。因此,发送端可以指代具备录像功能的终端设备,而接收端可以知道具备显示功能的终端设备。作为示例,图像传输系统可以为远程会议系统,会议的发起端的可以有一个负责视频采集和传输的终端设备,则这个终端设备可以理解为发送端,会议的参与端可以有一个用于播放视频的设备,而接收端可以包括该设备。
在这里,网络连接状态可以理解为网络传输速率、网络连接时长等。
在这里,灰度处理可以理解为将彩色视频转换为灰度视频所进行的处理,作为示例,可以将组成彩色视频的彩色视频帧图像转换为灰度视频帧图像。
步骤102,发送端响应于确定对原始视频进行灰度处理,将原始视频处理为目标灰度视频,以及将目标灰度视频发送至接收端。
在这里,目标灰度视频可以理解为该目标灰度图像的视频帧图像中只有一个采样颜色,也即,可以理解为该目标灰度图像的视频帧图像中的RGB(red、green、blue,红、绿、蓝)值中的R值、G值、B值相同。因此,而灰度视频相较于彩色视频,可以占用更小的内存。
步骤103,接收端响应于接收到目标灰度视频,基于预建的第一色彩填充模型,将目标灰度视频进行色彩填充处理获得原始图像。
在本实施例中,接收端可以包括终端设备和/或服务器。作为示例,接收端可以包括终端设备和服务器,终端设备可以用于直接接收发送端发送的目标灰度视频,服务器可以用于色彩填充。当然,也可以是服务器直接接收发送端发送的目标灰度视频,并将目标灰度视频进行色彩填充,而终端设备仅是展示进行色彩填充之后的原始视频。
在步骤101-步骤103中,在检测到待传输的原始视频后,会根据当前的网络连接状态,确定是否对目标灰度视频进行灰度处理,而进行灰度处理之后获得的目标灰度视频,具有更少的数据,因此,在对目标灰度视频进行传输的过程中,需要的带宽相较于原始视频更少,进而使得发送端与接收端之间可以较为流畅的传输视频,从而可以缓解接收端在播放传视频过程中而发生的卡顿现象。
在一些实施例中,网络连接状态可以根据具体应用场景进行设定,如,当应用场景为会议系统场景,会议的发起端(发送端)则可能需要传输会议视频给会议参与端(会议的参与端可以看作接收端),此时,网络传输条件可以为:网络传输速率、网络连接时长等。
由于在会议的开启阶段,参会人员可能较少,进而,会议系统的发起端在发送会议开启阶段的视频时,需要的带宽可能较少,进而可以直接将视频进行发送。而当随着会议的进行,参会人员可能会变多,则使得传输此时的会议视频则可能需要更多的带宽,因此,为了使会议能够流畅进行,可以将会议视频进行灰度处理,也即,将彩色视频转换为目标灰度视频。
在一些实施例中,当网络连接状态较好时(网络速率较快、会议才开始阶段等),可以直接将原始彩色视频发送至接收端,而接收端在接收到原始彩色视频时,即可直接将原始彩色视频进行展示。
在一些实施例中,当网络连接状态较差时,则可以直接将原始视频进行灰度处理,获得目标灰度视频,而由于传输目标灰度视频所需要的带宽小于传输相应的彩色视频所需要的带宽,因此,将原始视频进行灰度处理,可以减少在视频传输过程中需要的带宽,也就使得视频传输过程更加快捷,避免了接收端在播放视频的过程中出现的卡顿现象。
在一些实施例中,对原始视频进行的灰度处理具体可以包括:去除原始视频的视频帧图像中的UV数据(图像的色度数据),仅保留原始视频的视频帧图像中的Y数据(图像的明亮度,也可以理解为灰阶值)。
在一些实施例中,可以先对原始视频的视频帧图像中YUV数据中的Y分量、U分量和V分量实现分离,然后,在去除U分量和V分量,使得图像仅有Y分量,从而也就使得视频的视频帧图像从彩色图像变成了灰度图像。而由于去除了U分量和V分量,因此,灰度图像在传输过程中需要的更少的带宽,通常仅需要传输相应彩色图像的1/3带宽。也即,传输目标灰度视频仅需要传输相应彩色视频的1/3带宽。
需要说明的是,去除原始视频的视频帧图像中UV数据的方式还有很多,此处仅是举例说明一种可实施的方式,并不对去除原始视频的视频帧图像中UV数据的方式进行限定,仅需根据实际情况进行合理设定即可。
在一些实施例中,当应用场景为远程会议系统场景时,接收端可以理解为参会者所对应的终端设备和相应的服务器。如,参会者所对应的终端设备可以为参会者的手机、电脑、平板等,而参会者所对应的终端设备可以用于展示原始视频,而服务器则是用于接收发送端发送的视频,当接收到目标灰度视频时,将目标灰度视频进行色彩填充获得原始视频,并将原始视频发送至参会者所对应的终端设备。当然,当参会者共用一个目标终端设备时,也可以是目标终端设备接收视频,仅是在目标终端设备接收到目标灰度视频时,将目标灰度视频传输至服务器进行色彩填充,以获得原始视频。
在一些实施例中,当网络传输条件包括网络传输速率时,可以根据当前网络传输速率与原始视频的大小,确定是否对原始视频进行灰度处理。
例如,可以确定当前出网络传输速率可传输的视频的大小,并将确定出的可传输的视频大小与原始视频的大小进行对比(在这里,视频大小可以理解为存储视频所需的内存大小,如,视频越大,存储该视频所需的内存则越大,相应的,传输该视频则需要较高的带宽);若原始视频大于当前网络传输速率可以传输的视频,则可以确定需要将原始彩色图像进行灰度处理,反之,若原始视频不大于当前网络传输速率可以传输的视频,则可以直接将原始视频进行传输。
为了便于理解,结合图2示例性的说明本申请所提供的思想。图2为本申请一个实施例中的应用场景示意图,在图2中,终端设备A可以理解为本地终端设备,而接收端B可以包括终端设备b和服务端b,而终端设备b和终端设备A可以建立通信连接,而服务端b可以理解为终端设备b对应的服务器。作为示例,当终端设备A需要向终端设备b传输原始视频时,终端设备A会先根据当前的网络条件,判断此时是否能够快速传输原始视频,若不能够快速传输原始视频,则需要将原始视频进行灰度处理,也即,将原始视频转换为目标灰度视频,并将目标灰度视频传输至终端设备b。终端设备b在接收到原始视频时,可以将直接将原始视频进行展示,而终端设备b在接收到目标灰度视频时,可以先将目标灰度视频传输至服务端b,而服务端b中存储有预建第一色彩填充模型,因此,服务端b可以对目标灰度视频进行填色,并可以将目标灰度视频转换为原始视频之后传输给终端设备b进行展示。
而由于终端设备A与终端设备b在网络情况较差的情况下,传输的是目标灰度视频,相较于传输原始视频,需要的带宽较少,因此,可以保证终端设备A与终端设备b之间传输图像过程中的流畅性。
可以看出,在本公开实施例中,在发送端与接收端建立网络连接后,会根据当前的网络连接状态,判断是否对原始视频进行灰度处理;发送端响应于确定对原始视频进行灰度处理时,可以将原始视频处理为目标灰度视频,从而可以减少传输视频过程中所需要的带宽。而接收端在接收到目标灰度视频后,可以基于预建的第一色彩填充模型对目标灰度视频进行填色,从而获得原始视频。也即,在网络连接状态较差的情况下,通过将原始视频转换为目标灰度视频进行传输,可以减少视频过程中所需要的带宽,从而也就保证了视频连续传输过程中的流畅性。
在一些实施例中,第一色彩填充模型,通过以下方式建立:
基于训练样本集,对预先建立的初始神经网络进行训练,得到第一色彩填充模型。
在这里,训练样本集包括彩色图像样本和与彩色图像样本对应的灰度图像。
在一些实施例中,第一色彩填充模型的训练过程可以在接收端的终端设备,也可以是接收端的服务器。作为示例,当接收端包括终端设备和服务器时,第一色彩填充模型的训练过程可以在服务器中进行完成。
当然,在具体一些应用场景中,例如两方交互传递视频的过程中,发送端在接收视频的过程中,此时发送端也可以看作‘接收端’。
在一些实施例中,接收端中的服务器可以利用第一色彩填充模型对目标灰度视频进行色彩填充,而为了使第一色彩填充模型可以准确的对目标灰度视频进行填色,可以利用训练样本集对预先建立的初始神经网络进行训练。
而针对不同的应用场景,可以采用不同的训练样本集,例如:传输的视频为风景视频,则训练样本集中可以包括大量的风景图像;若传输的视频为汽车视频,则训练样本集中可以包括大量的汽车图像。而通过这种方式,可以使得训练完成的第一色彩填充模型可以较为准确的对目标灰度视频进行填色。
在一些实施例中,当接收端接收到原始视频时,可以将原始视频的至少一帧图像确定为彩色图像样本。
在一些实施例中,为了适应不同的应用场景,可以根据不同应用场景下的原始视频的视频帧图像对第一色彩填充模型进行修正,从而可以提升第一色彩填充模型在色彩填充过程中的准确性。
在一些实施例中,接收端响应于接收到的原始视频为目标会议的会议视频,将组成原始视频的至少一帧图像确定为训练图像。
在这里,当原始视频为目标会议的会议视频时,可以表征应用场景为会议场景,而由于会议通常是在一个固定的空间中进行的,因此,空间中的景象相对较为固定,也即,若利用该空间内的图像对初始神经网络进行训练,则会使得训练出的第一色彩填充模型可以准确的对该空间的灰度视频进行填色。因此,将原始视频至少一帧图像作为彩色图像样本,可以提升基于第一色彩填充模型填充目标灰度视频的色彩过程中的准确性。从而,可以使得在接收端的终端设备上播放的视频与原始采集的视频差异较小。
也即,发送端向接收端发送视频的过程中,若接收端接收到原始视频,会根据接收到的原始视频的组成图像,继续训练修正第一色彩填充模型,从而可以使通过第一色彩填充模型进行目标灰度视频色彩填充的过程更加准确。
在一些实施例中,接收端响应于接收到目标会议的原始视频,也可以为目标会议训练一个第二色彩填充模型,而第二色彩填充模型用于对目标会议的灰度会议视频进行色彩填充。
在这里,第二色彩填充模型可以基于目标会议的在前彩色会议视频的至少一帧图像训练得到。
在这里,目标会议的在前彩色会议视频可以理解为:在当前时刻之前,接收端所接收到的目标会议的会议视频。
作为示例,第二色彩填充模型与第一色彩填充模型可以不同,第一色彩填充模型是预先训练完成的,第一色彩填充模型的部分训练样本集可以为预先设定的,例如,预先选取了部分适合训练色彩填充模型的彩色图像。也即,第一色彩填充模型可以对多种应用场景中的目标灰度视频进行填色。而第二色彩填充模型的训练样本集可以是根据目标会议的会议图像进行训练的,也即,第二色彩填充模型对目标会议的目标灰度视频具有较高的色彩填充准确度。
也即,可以理解为第一色彩填充模型是可以对不同场景下的灰度视频进行填色,而第二色彩填充模型则是对一个场景下的灰度视频进行填色,而通过第二色彩填充模型在填充色彩时,具备更高的色彩填充准确度。通过第一色彩填充模型和第二色彩填充模型的相互配合,可以在保证传输流畅性的同时,使接收端展示的图像具备较高的还原度。
举例说明,如场景为会议场景时,在目标会议开启阶段,若网络传输条件较差,则可能会传输目标会议的灰度视频至接收端,而此时接收端可以利用第一色彩填充模型对灰度会议视频进行色彩填充。而当网络传输条件较好时,则可能会传输目标会议的彩色会议视频至接收端,而接收端在接收到彩色会议视频之后,可以利用组成彩色会议视频的部分或者全部图像对第二色彩填充模型进行训练。当第二色彩模型训练完成之后,接收端再次接收到目标会议的灰度会议视频时,则可以利用第二色彩填充模型对灰度会议视频进行填充,从而可以确保色彩填充的准确性。
在一些实施例中,原始彩色图像为目标会议的会议图像,也即,当应用场景为会议场景时,响应于检测到目标会议的开启时间与当前时间的时间间隔大于预设时长阈值,确定对原始视频进行灰度处理。
在一些实施例中,预设时长阈值可以根据实际情况进行设定,例如,预设时长阈值可以为10分钟、15分钟等。在此并不对预设时长阈值的具体值进行限定,仅需根据实际情况进行合理设定即可。
在一些实施例中,在向接收端传输预设时长的原始视频之后,可以确定对原始视频进行灰度处理。也即,在向接收端传输预设时长的原始视频之后,可以确定接收端中的第一色彩填充模型已经训练完成(或者已经修正完成了);因此,为了节约传输视频所需要的带宽,可以将原始视频转换为目标灰度视频进行传输。
在一些实施例中,当应用场景为会议场景时,由于目标会议通常在开启一段时间之后,人员会相对固定,也即,不同时刻的原始视频差异较小,也即,原始视频为一个相对静态的视频。因此,为了使传输更加流畅,可以在目标会议开启一段时间之后,会议的发起端都传输的原始视频至接收端,而接收端则是可以将一段时间内接收到的原始视频确定为训练样本集,用于接收端的服务器训练第一色彩填充模型。而在一段时间之后,接收端则可以对接收到的目标灰度图像进行色彩填充,获得原始视频。
举例说明:如一个2小时的会议,在会议的前10分钟,可能会有一些参会人员陆续进场,会议发起端的终端设备所采集的原始视频则可能为一个较为动态的视频;而在10分钟之后,可能参会人员都已入座在会议室的相应位置,因此,会议发起端的终端设备所采集的原始视频则可能为一个相对静态的视频。因此,为了节约传输流量,可以将15分钟(预设时长阈值)之后的原始视频转换为目标灰度视频之后,在传输至接收端。而接收端则可以利用15分钟之前接收到的彩色视频,训练和/或修正第一色彩填充模型。
也即,可以理解为:在会议开启阶段,若网络连接状态较好,会预先传输预设时长的彩色会议视频至接收端,而接收端则可以将接收到的组成彩色会议视频的部分或全部图像确定为训练彩色视频,当将第一色彩填充模型训练完成之后,可以对发送的原始视频均进行灰度处理,从而仅发送目标灰度视频至接收端,从而可以节约传输过程中所需的流量。
在一些实施例中,网络连接状态可以包括网络传输速率时,发送端在响应于检测到当前网络传输速率小于第一预设速率阈值,确定对原始视频进行灰度处理。
在一些实施例中,第一预设网络传输速率阈值可以根据实际情况进行设定,在此,并不对第一预设网络传输速率阈值进行限定。
在一些实施例中,当前网络传输速率小于第一预设速率阈值时,若此时传输原始视频,则可能使得传输时间较长,从而使得接收端需要较长的时间才能接收到传输的原始视频,也即,使得接收端的终端设备可能在播放原始视频的过程中卡顿的现象。而将原始视频转换为目标灰度视频,而目标灰度视频相较于原始视频,在传输的过程中,需要的带宽较少,因此,可以避免接收端在播放原始视频时出现卡顿的现象。
在一些实施例中,在网络连接状态包括网络传输速率时,发送端在响应于检测到当前网络传输速率小于第二预设速率阈值,确定对原始视频图像进行色彩转换处理,获得目标灰度视频,并对获得的目标灰度视频进行压缩处理。
在这里,第二预设速率阈值小于第一预设速率阈值。
在一些实施例中,当检测到当前网络传输速率小于第二预设速率阈值时,可以表征此时当前网络传输速率传输目标灰度视频可能也会消耗较长的时间,因此,为了进一步确定视频传输过程中的稳定性,可以将目标灰度视频进行压缩,以进一步减少传输过程中所需要的带宽,从而保证传输的稳定性。
在一些实施例中,压缩的方式有很多,在此并不对具体压缩方式进行限定,仅需根据实际情况进行合理设定即可。例如,可以使用H.264(数字视频压缩格式)的方式,对目标灰度视频进行压缩。
在一些实施例中,为了节约传输视频过程中所需要的流量,可以对传输的视频均进行压缩,从而可以减少视频传输过程中所需要的带宽,提升了传输的效率,同时,由于传输效率较高,也可避免接收端的终端设备在播放原始视频时出现卡顿现象。
进一步参考图3,作为对上述图1所示方法的实现,本公开提供了一种图像处理装置的一个实施例,该装置实施例与图1所示的图像处理方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图3所示,本实施例的图像处理装置包括:发送单元301和接收单元302,所述发送单元301与所述接收单元302连接;
所述发送单元301,用于响应于确定与所述接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理,其中,所述原始视频为彩色视频;
所述发送单元301,还用于响应于确定对所述原始视频进行灰度处理,将所述原始视频转换为目标灰度视频,以及将所述目标灰度视频发送至接收端;
所述接收单元302,用于响应于接收到所述目标灰度视频,基于预建的第一色彩填充模型,将所述目标灰度视频进行色彩填充处理获得所述原始视频。。
在一些实施例中,上述第一色彩填充模型,通过以下方式建立:
基于训练样本集,对预先建立的初始神经网络进行训练,得到所述第一色彩填充模型,其中,所述训练样本集包括彩色图像样本和与彩色图像样本对应的灰度图像。
在一些实施例中,所述发送单元301还用于响应于确定不对所述原始视频进行所述灰度处理,将所述原始视频传输至所述接收端。
在一些实施例中,所述接收单元302还用于接收到所述原始视频,将组成所述原始视频的至少一帧图像确定为所述彩色图像样本。
在一些实施例中,所述接收单元302还用于响应于接收到的所述原始视频为目标会议的会议视频,将组成所述原始视频的至少一帧图像确定为所述彩色图像样本。
在一些实施例中,所述发送单元301还用于响应于检测到所述目标会议的开启时间与当前时间的时间间隔大于预设时长阈值,确定对所述原始视频进行灰度处理。
在一些实施例中,所述网络连接状态包括网络传输速率,所述发送单元301还用于响应于检测到当前网络传输速率小于第一预设速率阈值,确定对所述原始视频进行灰度处理。
请参考图4,图4示出了本公开的一个实施例的图像处理方法可以应用于其中的示例性系统架构。
如图4所示,系统架构可以包括终端设备401、402、403,网络404,服务器405。网络404可以用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
终端设备401、402、403可以通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种客户端应用,例如网页浏览器应用、搜索类应用、新闻资讯类应用。终端设备401、402、403中的客户端应用可以接收用户的指令,并根据用户的指令完成相应的功能,例如根据用户的指令在信息中添加相应信息。
终端设备401、402、403可以是硬件,也可以是软件。当终端设备401、402、403为硬件时,可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。当终端设备401、402、403为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器404可以是提供各种服务的服务器,例如接收终端设备401、402、403发送的信息获取请求,根据信息获取请求通过各种方式获取信息获取请求对应的展示信息。并展示信息的相关数据发送给终端设备401、402、403。
需要说明的是,本公开实施例所提供的信息处理方法可以由终端设备执行,相应地,图像处理装置可以设置在终端设备401、402、403中。此外,本公开实施例所提供的信息处理方法还可以由服务器405执行,相应地,信息处理装置可以设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图5,其示出了适于用来实现本公开实施例的电子设备(例如图4中的终端设备或服务器)的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM502以及RAM503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备作为发送端时,响应于确定与所述接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理,其中,所述原始视频为彩色视频;响应于确定对所述原始视频进行灰度处理,将所述原始视频转换为目标灰度视频,以及将所述目标灰度视频发送至接收端;该电子设备作为接收端时,响应于接收到所述目标灰度视频,基于预建的第一色彩填充模型,将所述目标灰度视频进行色彩填充处理获得所述原始视频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,发送单元301还可以被描述为“发送视频的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (10)

1.一种图像处理方法,其特征在于,应用于图像传输系统,所述图像传输系统包括发送端和接收端,所述方法包括:
所述发送端响应于确定与所述接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理,其中,所述原始视频为彩色视频;
所述发送端响应于确定对所述原始视频进行灰度处理,将所述原始视频转换为目标灰度视频,以及将所述目标灰度视频发送至接收端;
所述接收端响应于接收到所述目标灰度视频,基于预建的第一色彩填充模型,将所述目标灰度视频进行色彩填充处理获得所述原始视频。
2.根据权利要求1所述的方法,其特征在于,通过以下方式建立所述第一色彩填充模型:
基于训练样本集,对预先建立的初始神经网络进行训练,得到所述第一色彩填充模型,其中,所述训练样本集包括彩色图像样本和与彩色图像样本对应的灰度图像。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
所述发送端响应于确定不对所述原始视频进行所述灰度处理,将所述原始视频传输至所述接收端。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述接收端接收到所述原始视频,将所述原始视频的至少一帧图像确定为所述彩色图像样本。
5.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述接收端响应于接收到的所述原始视频为目标会议的会议视频,将所述原始视频的至少一帧图像确定为所述彩色图像样本。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
所述发送端响应于检测到所述目标会议的开启时间与当前时间的时间间隔大于预设时长阈值,确定对所述原始视频进行灰度处理。
7.根据权利要求1所述的方法,其特征在于,所述网络连接状态包括网络传输速率;
以及,所述根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理还包括:
所述发送端响应于检测到当前网络传输速率小于预设第一速率阈值,确定对所述原始视频进行灰度处理。
8.一种图像处理装置,其特征在于,所述装置包括:发送单元和接收单元,所述发送单元与所述接收单元连接;
所述发送单元,用于响应于确定与所述接收端建立网络连接,根据当前的网络连接状态,确定是否对待传输的原始视频进行灰度处理,其中,所述原始视频为彩色视频;
所述发送单元,还用于响应于确定对所述原始视频进行灰度处理,将所述原始视频转换为目标灰度视频,以及将所述目标灰度视频发送至接收端;
所述接收单元,用于响应于接收到所述目标灰度视频,基于预建的第一色彩填充模型,将所述目标灰度视频进行色彩填充处理获得所述原始视频。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN202011151866.4A 2020-10-23 2020-10-23 图像处理方法、装置和电子设备 Active CN112261349B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011151866.4A CN112261349B (zh) 2020-10-23 2020-10-23 图像处理方法、装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011151866.4A CN112261349B (zh) 2020-10-23 2020-10-23 图像处理方法、装置和电子设备

Publications (2)

Publication Number Publication Date
CN112261349A true CN112261349A (zh) 2021-01-22
CN112261349B CN112261349B (zh) 2023-02-21

Family

ID=74262926

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011151866.4A Active CN112261349B (zh) 2020-10-23 2020-10-23 图像处理方法、装置和电子设备

Country Status (1)

Country Link
CN (1) CN112261349B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112887293A (zh) * 2021-01-21 2021-06-01 维沃移动通信有限公司 流媒体的处理方法、装置及电子设备
CN113993104A (zh) * 2021-10-26 2022-01-28 中汽创智科技有限公司 一种数据传输方法、装置、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140078246A1 (en) * 2012-09-17 2014-03-20 Thor Carpenter Bandwidth reduction system and method
CN109756692A (zh) * 2019-01-08 2019-05-14 Oppo广东移动通信有限公司 视频数据处理方法、装置、移动设备、计算机可读存储介质
CN111476863A (zh) * 2020-04-02 2020-07-31 北京奇艺世纪科技有限公司 一种黑白漫画上色的方法、装置、电子设备及存储介质
CN111654721A (zh) * 2020-04-17 2020-09-11 北京奇艺世纪科技有限公司 视频处理方法、系统、电子设备及存储介质
CN111757100A (zh) * 2020-07-14 2020-10-09 北京字节跳动网络技术有限公司 相机运动变化量的确定方法、装置、电子设备和介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140078246A1 (en) * 2012-09-17 2014-03-20 Thor Carpenter Bandwidth reduction system and method
CN109756692A (zh) * 2019-01-08 2019-05-14 Oppo广东移动通信有限公司 视频数据处理方法、装置、移动设备、计算机可读存储介质
CN111476863A (zh) * 2020-04-02 2020-07-31 北京奇艺世纪科技有限公司 一种黑白漫画上色的方法、装置、电子设备及存储介质
CN111654721A (zh) * 2020-04-17 2020-09-11 北京奇艺世纪科技有限公司 视频处理方法、系统、电子设备及存储介质
CN111757100A (zh) * 2020-07-14 2020-10-09 北京字节跳动网络技术有限公司 相机运动变化量的确定方法、装置、电子设备和介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112887293A (zh) * 2021-01-21 2021-06-01 维沃移动通信有限公司 流媒体的处理方法、装置及电子设备
CN113993104A (zh) * 2021-10-26 2022-01-28 中汽创智科技有限公司 一种数据传输方法、装置、设备及存储介质
CN113993104B (zh) * 2021-10-26 2023-12-26 中汽创智科技有限公司 一种数据传输方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN112261349B (zh) 2023-02-21

Similar Documents

Publication Publication Date Title
CN112261349B (zh) 图像处理方法、装置和电子设备
CN113395477B (zh) 基于视频会议的共享方法、装置、电子设备和计算机介质
CN111899192A (zh) 交互方法、装置、电子设备及计算机可读存储介质
CN112291502B (zh) 信息交互方法、装置、系统和电子设备
CN110290398B (zh) 视频下发方法、装置、存储介质及电子设备
CN110719516A (zh) 视频同步的方法及装置、终端和存储介质
CN113473035A (zh) 环境亮度确定方法、装置和电子设备
CN112202803A (zh) 音频处理的方法、装置、终端及存储介质
CN111935442A (zh) 信息显示方法、装置和电子设备
US11893770B2 (en) Method for converting a picture into a video, device, and storage medium
CN113521728A (zh) 云应用的实现方法、装置、电子设备和存储介质
CN112218034A (zh) 视频处理方法、系统、终端和存储介质
CN113038176B (zh) 视频抽帧方法、装置和电子设备
CN114095671A (zh) 云会议直播系统、方法、装置、设备及介质
CN112929240A (zh) 获取通信延迟时间的方法、装置、终端和非暂时性存储介质
CN111478916B (zh) 基于视频流的数据传输方法、设备和存储介质
CN110809166B (zh) 视频数据处理方法、装置和电子设备
CN112804469B (zh) 视频通话处理方法、装置、设备及存储介质
CN113891057A (zh) 视频的处理方法、装置、电子设备和存储介质
CN114170341A (zh) 一种图像处理方法、装置、设备及介质
CN112312200A (zh) 视频封面生成方法、装置和电子设备
CN112203039A (zh) 在线会议的处理方法、装置、电子设备及计算机存储介质
CN112040328A (zh) 数据交互方法、装置和电子设备
CN112312224A (zh) 信息显示方法、装置和电子设备
CN115134641B (zh) 投屏方法、装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant