CN115422986A - 处理方法、处理设备及存储介质 - Google Patents
处理方法、处理设备及存储介质 Download PDFInfo
- Publication number
- CN115422986A CN115422986A CN202211382700.2A CN202211382700A CN115422986A CN 115422986 A CN115422986 A CN 115422986A CN 202211382700 A CN202211382700 A CN 202211382700A CN 115422986 A CN115422986 A CN 115422986A
- Authority
- CN
- China
- Prior art keywords
- color component
- component block
- neural network
- information
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本申请提出了一种处理方法、处理设备及存储介质,处理方法包括以下步骤:获取或确定第二颜色分量信息;根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。本申请技术方案可以提高颜色分量信号预测的精准度。
Description
技术领域
本申请涉及信号数据处理技术领域,具体涉及一种处理方法、处理设备及存储介质。
背景技术
一些实现中,在利用luma(亮度)和chroma(色度)中的一个或两个对chroma信号进行预测时,是通过人为设计构建带参数的数学预测模型,并计算数学预测模型最优化参数。
在构思及实现本申请过程中,发明人发现至少存在如下问题:H.266/VVC中设计的数学预测模型基本上是线性预测模型,其线性特性限制了预测模型的表达能力及预测精准度;和/或,在通过神经网络预测模型预测chroma信号时,若采用单个神经网络预测模型进行预测,会存在预测颜色分量信号精准度低的问题。
前面的叙述在于提供一般的背景信息,并不一定构成现有技术。
发明内容
针对上述技术问题,本申请提供一种处理方法、处理设备及存储介质,旨在解决如何提高颜色分量信号预测的精准度的技术问题。
本申请提供一种处理方法,可应用于处理设备(如智能终端或服务器),包括步骤:
S1:获取或确定第二颜色分量信息;
S2:根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
可选地,所述步骤S1之前,包括以下至少一项:
获取或确定与待预测第一颜色分量块对应的第二颜色分量块中的第二颜色分量信息;
获取所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
可选地,所述获取所有的数据子集之前,还包括:
获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
以所述第一颜色分量块为标签,将所述第一颜色分量块对应的第二颜色分量信息、所述第一颜色分量块对应的邻居信息和编码参数中的至少一个作为数据元素;
根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集。
可选地,在所述根据目标神经网络,预测或者得到对应的第一颜色分量块之前,还包括:
步骤S22:将待预测第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一个输入至模式选择模块,以使所述模式选择模块确定所述第一颜色分量块对应的目标神经网络。
可选地,所述步骤S22之前,还包括:
步骤S21:若与所述第一颜色分量块相邻的第一颜色分量块中不存在第一颜色分量信息,则根据预设的第一颜色分量填充规则对与所述第一颜色分量块相邻的第一颜色分量块进行第一颜色分量信息填充,以得到所述第一颜色分量块对应的邻居信息。
可选地,所述根据目标神经网络,预测或者得到对应的第一颜色分量块包括至少以下一项:
根据所述目标神经网络进行预测,得到第三颜色分量信号,根据所述第三颜色分量信号预测第一颜色分量信号,根据所述第一颜色分量信号确定第一颜色分量块;
根据第一颜色分量信号对应的目标神经网络进行预测,得到第一颜色分量信号,并根据所述第一颜色分量信号确定预测后的第一颜色分量块;
将第二颜色分量信息和邻居信息输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
将所述第二颜色分量信息、邻居信息和编码参数输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
若只存在一个所述目标神经网络,则将所述目标神经网络进行预测的预测结果作为预测后的第一颜色分量块;
若存在至少一个所述目标神经网络,则获取或确定每个所述目标神经网络进行预测的预测结果,并包括以下至少一项:
对所有所述预测结果进行汇总,得到或者预测对应的第一颜色分量块;
选取所有所述预测结果中的一种预测结果作为第一颜色分量块;
根据所有所述预测结果的一种函数确定第一颜色分量块。
可选地,所述方法还包括:
步骤S4:获取或确定第一颜色分量块对应的第一颜色分量信息;
步骤S5:根据第一颜色分量信息和目标神经网络进行预测,或者根据第一颜色分量信息进行预测,得到或者预测对应的第一颜色分量块。
本申请还提供一种处理方法,可应用于处理设备(如智能终端或服务器),包括以下步骤:
S10:获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
S20:以第一颜色分量块为标签,将第二颜色分量信息、邻居信息和编码参数中的至少一个作为数据元素;
S30:根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集,以用于训练进行颜色分量信号预测的目标神经网络。
可选地,所述步骤S30,包括以下至少一项:
将数据元素输入至模式选择模块,以使模式选择模块利用数据元素对应的第二颜色分量信息、邻居信息和编码参数中的至少一个,确定数据元素对应的数据子集;
利用预设的数据规则,将数据元素进行数据分类,以将数据元素分类至所述对应的数据子集。
可选地,所述步骤S30之后,还包括:
步骤S40:获取或确定所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
可选地,所述方法还包括:
获取或确定第二颜色分量信息;
基于模式选择模块确定第一颜色分量块对应的目标神经网络;
根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
本申请还提供一种处理装置,包括:
获取模块,用于获取或确定第二颜色分量信息;
预测模块,用于根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
本申请还提供一种处理装置,包括:
确定模块,用于获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
数据元素模块,用于以第一颜色分量块为标签,将第二颜色分量信息、邻居信息和编码参数中的至少一个作为数据元素;
训练模块,用于根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集,以用于训练进行颜色分量信号预测的目标神经网络。
本申请还提供一种处理设备,包括:存储器、处理器,其中,所述存储器上存储有计算机程序,所述计算机程序被所述处理器执行时实现如上任一所述处理方法的步骤。
本申请还提供一种存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上任一所述处理方法的步骤。
如上所述,本申请的处理方法,可应用于处理设备,通过获取或确定待预测第二颜色分量信息,从而根据第二颜色分量信息和/或目标神经网络进行预测,得到预测后的第一颜色分量块。通过上述技术方案,能够基于待预测第一颜色分量块对应的第二颜色分量信息和/或目标神经网络准确预测第一颜色分量块,从而可以实现获取到第一颜色分量块中的颜色分量信号,提高了颜色分量信号预测的精准度,降低了颜色分量信号预测的复杂度。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为实现本申请各个实施例的一种移动终端的硬件结构示意图;
图2为本申请实施例提供的一种通信网络系统架构图;
图3是根据第一实施例示出的处理方法的流程示意图;
图4是本申请处理方法中YUV图像的图像示意图;
图5是本申请处理方法中luma分量的图像示意图;
图6是本申请处理方法中chroma blue分量的图像示意图;
图7是本申请处理方法中chroma red分量的图像示意图;
图8是本申请处理方法中luma分量分割后的图像示意图;
图9是本申请处理方法中chroma blue分量分割后的图像示意图;
图10是本申请处理方法中基于图8的luma分量块的像素数据示意图;
图11是本申请处理方法中待预测第一颜色分量块的像素数据示意图;
图12是本申请处理方法中待预测第一颜色分量块的邻居信息示意图;
图13是根据第二实施例示出的处理方法的流程示意图;
图14是本申请处理方法中模式选择模块的工作流程示意图;
图15是本申请处理方法中chroma分量预测的工作流程示意图;
图16是本申请处理方法中chroma分量预测时选择神经网络1进行预测的流程示意图;
图17是本申请处理方法中chroma分量预测时选择神经网络3进行预测的流程示意图;
图18是根据第四实施例示出的处理方法的流程示意图;
图19是根据第五实施例示出的处理方法的流程示意图;
图20是根据第三实施例示出的处理方法的流程示意图;
图21是本申请实施例提供的一种处理装置的功能模块示意图;
图22是本申请实施例提供的另一种处理装置的功能模块示意图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素,此外,本申请不同实施例中具有同样命名的部件、特征、要素可能具有相同含义,也可能具有不同含义,其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。
应当理解,尽管在本文可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本文范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。本申请使用的术语“或”、“和/或”、“包括以下至少一个”等可被解释为包括性的,或意味着任一个或任何组合。例如,“包括以下至少一个:A、B、C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A和B和C”,再如,“A、B或C”或者“A、B和/或C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A和B和C”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。
应该理解的是,虽然本申请实施例中的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
需要说明的是,在本文中,采用了诸如S10、S20等步骤代号,其目的是为了更清楚简要地表述相应内容,不构成顺序上的实质性限制,本领域技术人员在具体实施时,可能会先执行S20后执行S10等,但这些均应在本申请的保护范围之内。
应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本申请的说明,其本身没有特定的意义。因此,“模块”、“部件”或者“单元”可以混合地使用。
本申请中的处理设备可以是智能终端,也可以是服务器等,具体所指,需要结合上下文明确,智能终端可以以各种形式来实施,例如,可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等处理设备,以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本申请的实施方式的构造也能够应用于固定类型的终端。
请参阅图1,其为实现本申请各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括: RF(Radio Frequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍:
射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM (Global System of Mobile communication,全球移动通讯系统)、GPRS(General Packet Radio Service,通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000,码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access, 宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access,时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing- Long Term Evolution,频分双工长期演进)、TDD-LTE (Time DivisionDuplexing- Long Term Evolution,分时双工长期演进)和5G等。
WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。可选地,光传感器包括环境光传感器及接近传感器,可选地,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode, OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。可选地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。可选地,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。可选地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。
可选地,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,可选地,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,可选地,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。
为了便于理解本申请实施例,下面对本申请的移动终端所基于的通信网络系统进行描述。
请参阅图2,图2为本申请实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(User Equipment,用户设备)201, E-UTRAN(Evolved UMTS Terrestrial Radio Access Network,演进式UMTS陆地无线接入网)202,EPC(Evolved Packet Core,演进式分组核心网)203和运营商的IP业务204。
可选地,UE201可以是上述终端100,此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。可选地,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity,移动性管理实体)2031, HSS(Home Subscriber Server,归属用户服务器)2032,其它MME2033, SGW(Serving GateWay,服务网关)2034, PGW(PDN Gate Way,分组数据网络网关)2035和PCRF(Policy andCharging Rules Function,政策和资费功能实体)2036等。可选地,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE 201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem,IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本申请不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA、5G以及未来新的网络系统(如6G)等,此处不做限定。
基于上述移动终端硬件结构以及通信网络系统,提出本申请各个实施例。
第一实施例
请参照图3,图3为本申请处理方法第一实施例的流程示意图。在本实施例中,本申请处理方法可以应用于处理设备(如智能终端或服务器),包括:
步骤S1:获取或确定第二颜色分量信息;
在本实施例中,处理设备先确定待进行预测的一帧图像,并获取或确定一帧图像中待预测的第一颜色分量块,以及与第一颜色分量块对应的第二颜色分量信息。可选地,处理设备可以是智能终端,如手机、电脑等,也可以是服务器,还可以是云服务器。
可选地,处理设备可以提前存储各个图像和视频,并可以在各个图像中选择一个待进行预测的图像作为一帧图像。或者在视频的视频序列中抽取一帧图像。或者,处理设备接收用户输入的图像或视频,并在图像或视频中抽取一帧图像进行预测。或者,处理设备接收由其它网络设备发送的图像或视频,并在图像或视频中抽取一帧图像进行预测,此时处理设备预先与所处移动通信系统网络侧中的网络设备建立通信连接,从而,网络设备即可通过该通信连接向该终端设备下发图像或视频,该终端设备即接收得到图像或视频。
可选地,一帧图像可以是YUV格式,YUV图像中存在Y分量图像、U分量图像和V分量图像,即存在一个亮度分量图像和两个色度分量图像。可选地,Y分量图像为luma分量图像。U分量图像为chroma blue分量图像。V分量图像为chroma red分量图像。并且Y分量图像、U分量图像和V分量图像三者之间的分量块比例可以为4:2:0,也可以是其他比例模式,在此不做限制。然后对YUV图像进行分割,得到至少一个分量块,即至少一个Y分量块、至少一个U分量块和至少一个V分量块。
可选地,在待预测第一颜色分量块为色度分量块时,如为U分量块时,第二颜色分量信息为亮度信息;如为V分量块时,第二颜色分量信息为亮度信息。可选地,需要确定在亮度分量图像中与待预测第一颜色分量块对应位置的亮度分量块,然后再获取该亮度分量块的亮度信息。可选地,第一颜色分量块可以为待预测第一颜色分量块。
例如,当待预测第一颜色分量块为U分量块时,如图4所示,存在一帧图像I,且图像I是YUV格式,则图像I的Y分量图像如图5所示,U分量图像如图6所示,V分量图像如图7所示。当图像I的分辨率为832*480时,可以设定n=m=16,如图8所示,将图像I的Y分量图像分割为52*30个块,如图9所示,将图像I的U分量图像平均分为52*30个8*8的块,再图10所示,以第二行第二列的块为例,则Y分量数据如图10所示,U分量数据如图11所示。此外,当待预测第一颜色分量块为V分量块时,其操作方式和前述U分量块的方式相同。
可选地,在待预测第一颜色分量块为亮度块时,如为Y分量块时,第二颜色分量信息可以为色度信息,如V分量块对应的色度信息,或者U分量块对应的色度信息。可选地,第二颜色分量信息可以是在U分量图像中与待预测第一颜色分量块对应位置的U分量块,并获取U分量块中的色度信息。可选地,第二颜色分量信息可以是在V分量图像中与待预测第一颜色分量块对应位置的V分量块,并获取V分量块中的色度信息。
可选地,在步骤S1之前,本申请处理方法,还可以包括以下至少一项:
方式一:获取或确定与第一颜色分量块对应的第二颜色分量块中的第二颜色分量信息;
在本实施例中,可以先确定原始的YUV图像,然后再获取或确定YUV图像中待预测的第一颜色分量块,再确定第二颜色分量块,可选地,第一颜色分量块和第二颜色分量块在不同的分量图像上,且第一颜色分量块在原始的YUV图像中对应的位置和第二颜色分量块对应的位置一致。
可选地,当第一颜色分量块为色度分量块时,如U分量块和/或V分量块,则第二颜色分量块可以为与该色度分量块对应的亮度分量块,如Y分量块,并将该对应的亮度分量块中的亮度信息作为第二颜色分量信息。
可选地,当第一颜色分量块为亮度分量块时,如Y分量块,则第二颜色分量块可以为与该亮度分量块对应的色度分量块,如U分量块和/或V分量块,并将该对应的色度分量块中的色度信息作为第二颜色分量信息。
方式二:获取所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
在本实施例中,还可以先训练好目标神经网络,然后再根据目标神经网络来进行后续的预测。而在训练目标神经网络之前,需要先构建好每个神经网络对应的数据子集,然后再根据每个数据子集对其对应的神经网络进行训练,得到目标神经网络。
可选地,可以先在网络设备或自身存储区域中获取待进行神经网络训练的训练图像,或者获取视频序列,将视频序列中的每一帧图像作为训练图像。并且针对训练图像,可以将待预测chroma(色度)信号对应的luma(亮度)信息、待预测chroma信号的邻居信息和编码参数作为一条数据,并以待预测chroma块为该条数据的目标标签,组成数据集中的一条数据元素。然后模式选择模块将数据集中的每一组数据元素划分到最优的数据网络对应的数据子集中,可选地,可以将每一组数据元素划分到多个数据子集中,也可以划分到一个数据子集中,在此不做限制。例如将量化参数较小的高细节数据元素划分到感受野较大的神经网络对应的数据子集中。当获取到每个神经网络对应的数据子集后,就可以进行每个神经网络的训练,以得到目标神经网络。可选地,本实施例中的目标神经网络的数量至少为一个。在训练时,将数据子集中的数据元素输入到神经网络中进行训练,直至训练后的神经网络收敛、或达到预期效果。训练神经网络的方式可以按照梯度下降法的方式进行训练,例如,用均方误差或者交叉熵作为损失函数,每次梯度下降法训练为了极小化损失,多次训练之后达到理想的精度,训练结束。还可以采用其他方式进行训练,在此不做限制。
可选地,可以通过模式选择模块在各个目标神经网络中筛选出与第一颜色分量块对应的目标神经网络。可选地,在对各个目标神经网络进行筛选时,可以按照提前设置的筛选模式进行筛选,以得到与第一颜色分量块对应的目标神经网络,例如,选择某一项指标参数最小的目标神经网络作为与第一颜色分量块对应的目标神经网络。指标参数可以是rate-distortion(率失真)等。
步骤S2:根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
在本实施例中,当获取到第二颜色分量信息后,就可以直接根据第二颜色分量信息进行预测,得到预测后的第一颜色分量块。可选地,在第二颜色分量信息为亮度信息,待预测第一颜色分量块为色度分量块(如U分量块或者V分量块)时,可以通过将第二颜色分量信息输入到提前设置的模型中进行训练,得到预测后的第一颜色分量块,然后再获取第一颜色分量块中的颜色分量信号(如颜色信息)。还可以是提前设置一个对照表,对照表中设置有至少一个颜色分量信息和与之对应的颜色分量块,根据第二颜色分量信息在对照表中查询得到第一颜色分量块,并将查询得到的第一颜色分量块作为预测后的第一颜色分量块。
可选地,当获取到第一颜色分量块对应的目标神经网络后,可以直接根据目标神经网络进行预测,得到预测后的第一颜色分量块。可选地,在直接根据目标神经网络进行预测时,可以获取用户或其它终端输入的预测参数,并将预测参数和/或第二颜色分量信息输入到目标神经网络中进行模型训练,输出得到预测后的第一颜色分量块。可选地,预测参数可以包括与待预测第一颜色分量块相关的参数信息,如与待预测第一颜色分量块相邻的第一颜色分量块,可选地,相邻包括左侧相邻、上侧相邻、左上侧相邻、左下侧相邻和右上侧相邻中的至少一种。可选地,目标神经网络可以是一种非线性算法或模块,如矩阵加权帧内预测技术(Matrix Weighted Intra Prediction,MIP),且目标神经网络可以包括以下神经网络中的至少一种,如:卷积神经网络(Convolutional Neural Network, CNN),残差网络(Residual neural network,ResNet),长短期记忆人工神经网络(Long Short-TermMemory,LSTM),循环神经网络(Recurrent Neural Network, RNN),三维卷积神经网络(3D-CNN),全连接神经网络(Fully Connected Neural Network,FCNN)等。
可选地,当获取到第二颜色分量信息和训练好的目标神经网络后,可以先通过模式选择模块在至少一个目标神经网络中确定与待预测第一颜色分量块对应的目标神经网络,然后将第二颜色分量信息输入到该目标神经网络中进行预测,得到预测后的第一颜色分量块。例如,当第二颜色分量信息为亮度分量信息时,将亮度分量信息输入到训练好的目标神经网络中进行预测,输出得到颜色分量信息,并将其作为预测后的第一颜色分量块的颜色分量信号。例如,当第二颜色分量信息为色度分量信息时,将色度分量信息输入到训练好的目标神经网络中进行预测,输出得到颜色分量信息,并将其作为预测后的第一颜色分量块的颜色分量信号。
可选地,获取所有的数据子集之前,本申请处理方法,还可以包括:
获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;以所述第一颜色分量块为标签,将所述第一颜色分量块对应的第二颜色分量信息、所述第一颜色分量块对应的邻居信息和编码参数中的至少一个作为数据元素;根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集。
在本实施例中,在根据目标神经网络进行预测第一颜色分量块之前,还需要构建数据子集,以便根据数据子集对预设的神经网络进行模型训练,得到训练好的目标神经网络。在构建数据子集时,可以先获取至少一个训练图像,对每个训练图像,获取或确定第一颜色分量块对应的第二颜色分量信息,如chroma信号对应的luma信息;邻居信息,如chroma信号的邻居信息;和编码参数中的至少一个,以第一颜色分量块为标签,将第一颜色分量块对应的第二颜色分量信息、第一颜色分量块对应的邻居信息和编码参数中的至少一个作为数据元素,并将数据元素输入到模式选择模块中,以便根据模式选择模块中在预设的多个数据子集中选择出数据元素对应的数据子集,将数据元素存储至数据元素对应的数据子集中。
例如,在确定数据元素时,可以先通过intra-prediction(帧内预测)模块完成对luma分量的重构,以得到所有采用的视频序列的luma分量,并根据luma分量来构建数据子集。过程如下,对任一luma分量L,将其均分成N个n*m大小的luma块,记第i个luma块为,则有:;可选地,类似luma分量的处理,将luma分量L对应的chroma分量均分为N个大小的chroma块,记第i个chroma块为,其中,(1≤i≤N)。当待预测第一颜色分量块为时,且待预测第一颜色分量块的邻居信息为时,此时对应的数据元素可以包括和中的至少一个。可选地,还可以获取输入的编码参数,如码率和量化参数等,并将编码参数也作为数据元素中的一种。
可选地,在构建数据子集时,对于,以为数据元素,作为数据标签,可以生成N个数据对。或者以和编码参数为数据元素,作为数据标签,可以生成N个数据对,然后再将数据对汇总到数据集中,再通过模式选择模块将数据集中的每个数据元素划分到各自对应的数据子集中。
在本实施例中,通过获取或确定第一颜色分量块的第二颜色分量信息,基于模式选择模块确定目标神经网络,然后再根据第二颜色分量信息和/或目标神经网络进行预测,得到预测后的第一颜色分量块,从而可以实现获取到第一颜色分量块中的颜色分量信号,提高了颜色分量信号预测的精准度,降低了颜色分量信号预测的复杂度。
第二实施例
请参照图13,图13为本申请处理方法第一实施例中步骤S2之前的具体流程示意图。在本实施例中,上述本申请处理方法的步骤S2中的一实施例,可以包括:
根据目标神经网络进行预测,得到或者预测对应的第一颜色分量块。
处理设备获取到训练好的目标神经网络后,可以先通过模式选择模块在各个目标神经网络中筛选出与第一颜色分量块对应的目标神经网络,然后再根据目标神经网络进行预测,以得到预测后的第一颜色分量块。
可选地,目标神经网络可以是一种非线性算法或模块,如矩阵加权帧内预测技术,且目标神经网络可以包括以下神经网络中的至少一种,如:卷积神经网络,残差网络,长短期记忆人工神经网络,循环神经网络,三维卷积神经网络,全连接神经网络等。
可选地,当通过模式选择模块筛选出的目标神经网络的数量为至少一个时,可以通过至少一个目标神经网络进行预测,并对预测的结果进行加权平均计算或其他计算方式进行计算,以得到进行预测后的第一颜色分量块。
可选地,第一颜色分量块可以为亮度分量块,如Y分量块;也可以为色度分量块,如U分量块或者V分量块。
可选地,在根据目标神经网络,预测或者得到对应的第一颜色分量块之前,还可以包括:
步骤S22:将第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一个输入至模式选择模块,以使所述模式选择模块确定所述第一颜色分量块对应的目标神经网络。
在本实施例中,在确定目标神经网络之前,需要先在已重构好的YUV分量块中,获取待预测的第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一种,然后再将待预测的第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一种输入到模式选择模块中,以使模式选择模块在训练好的至少一个神经网络中根据第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一种来确定第一颜色分量块对应的目标神经网络。可选地,本实施例中的目标神经网络可以进行数据分类处理,将接收的第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数分类到对应的目标神经网络中,以便通过目标神经网络进行预测,得到预测后的第一颜色分量块。
例如,如图14所示,包括luma分量L、chroma分量C,当待预测第一颜色分量块为chroma分量块时,确定chroma分量C中与待预测第一颜色分量块相邻的邻居信息,并输入至模式选择模块中。在luma分量L中获取与待预测第一颜色分量块对应的luma分量块,并将其输入到模式选择模块中,将编码参数如QP=35输入至模式选择模块中,模式选择模块对接收到的编码参数、邻居信息和luma分量块进行决策,以输出信号类别,根据信号类别确定目标神经网络,再根据目标神经网络进行预测,得到预测后的第一颜色分量块。
可选地,邻居信息包括:与所述待预测第一颜色分量块相邻的第一颜色分量块中的第一颜色分量信息,可选地,与所述待预测第一颜色分量块相邻的第一颜色分量块包括与所述待预测第一颜色分量块上侧相邻的第一颜色分量块、与所述待预测第一颜色分量块左侧相邻的第一颜色分量块和位于所述待预测第一颜色分量块左上侧的第一颜色分量块中的至少一种。例如,当待预测第一颜色分量块为待预测的U分量块时,则其邻居信息可以为与待预测的U分量块相邻的已知U分量块,若相邻的已知U分量块不存在色度信息,则可以进行填充处理。
可选地,编码参数包括量化参数,并将所述量化参数对应的神经网络作为所述目标神经网络。
可选地,第二颜色分量信息的获取方式可以按照第一实施例中所记载的获取方式进行。
可选地,模式选择模块可以是一种选择器,而选择器可以是一种传统算法,也可以是一个具体的神经网络模型,在此不做限制。例如,选择器从已编码视频数据流中读取到信息数据,该数据指示目标神经网络。又例如,当选择器利用均方差作为选择器判决条件时,假设输入的luma块的像素值均方差很小(即像素值很接近),则可以认为需要预测的chroma块的均方差也比较小,因此可以在训练好的至少一个神经网络中选择擅长此类预测的神经网络作为目标神经网络进行预测。
可选地,当模式选择模块选择出至少一个神经网络时,可以通过至少一个神经网络进行预测,并对预测的结果进行相关计算,以得到最终的预测后的第一颜色分量块。
可选地,本实施例中的模式选择模块可以设置至少一个,每个模式选择模块可以运行,以达到并行运行,提高预测的效率。
例如,如图15所示,包括luma分量L的luma块,chroma分量C,以及在chroma分量C中的待预测区块和待预测区块的邻居信息。先在luma分量L中选择出与待预测区块对应的luma块,chroma分量C中与待预测区块相邻的邻居信息,并将选择出的luma块和邻居信息,以及编码参数中的至少一种输入到模式选择模块中,当训练好的神经网络包括神经网络1、神经网络j、神经网络k,且假设神经网络1为,神经网络j为,神经网络k为,则所有的神经网络。此时,模式选择模块可以根据输入的luma块和邻居信息,以及编码参数中的至少一种在各个神经网络中选择出目标神经网络,如:;再通过目标神经网络来预测得到预测后的第一颜色分量块,即 。
可选地,模式选择模块在进行筛选目标神经网络时,可以按照提前设置的筛选规则进行,如针对量化参数较小的高细节chroma预测,选择深度较深,感受野较大的神经网络结构作为目标神经网络。
可选地,在步骤S22之前,还可以包括:
步骤S21:若与所述第一颜色分量块相邻的第一颜色分量块中不存在第一颜色分量信息,则根据预设的第一颜色分量填充规则对与所述第一颜色分量块相邻的第一颜色分量块进行第一颜色分量信息填充,以得到所述第一颜色分量块对应的邻居信息。
在本实施例中,在获取第一颜色分量块的邻居信息时,由于邻居信息包括与所述第一颜色分量块相邻的第一颜色分量块中的第一颜色分量信息,可选地,与所述第一颜色分量块相邻的第一颜色分量块包括与所述第一颜色分量块上侧相邻的第一颜色分量块、与所述第一颜色分量块左侧相邻的第一颜色分量块和位于所述第一颜色分量块左上侧的第一颜色分量块中的至少一种。
可选地,判断与第一颜色分量块上侧相邻的第一颜色分量块是否存在第一颜色分量信息,若与第一颜色分量块上侧相邻的第一颜色分量块中不存在颜色分量信息,则可以根据提取设置的第一颜色分量填充规则对与第一颜色分量块上侧相邻的第一颜色分量块进行第一颜色分量信息填充,以得到第一颜色分量块对应的邻居信息。可选地,第一颜色分量填充规则可以是按照提前设置的固定值进行填充,如值128。也可以是基于已有的第一颜色分量信息进行平均计算,并将平均计算结果进行填充。可选地,第一颜色分量规则还可以是在第一颜色分量信息为像素时,若所有参考像素都不可以使用时,将所有参数像素都以像素最大值的一半进行填充。可以是若所有参考像素都可以使用时,则复制可以使用的参考像素进行填充。可以是在参考像素部分可用,且左下方参考像素可用时,则从左下方参考像素开始向上向右填充最邻近的可用的参考像素。可以是在参考像素部分可用,且左下方参考像素不可用时,从左下方参考像素开始像素向右进行查找,直至找到第一个可用参考像素,并以该可用参考像素的值填充之前的像素,再遍历之后的像素,填充最邻近的可用像素。具体方式在此不做限制。
可选地,判断与第一颜色分量块左侧相邻的第一颜色分量块是否存在第一颜色分量信息,若与第一颜色分量块左侧相邻的第一颜色分量块中不存在颜色分量信息,则可以根据提取设置的第一颜色分量填充规则对与第一颜色分量块左侧相邻的第一颜色分量块进行第一颜色分量信息填充,以得到第一颜色分量块对应的邻居信息。
可选地,判断与第一颜色分量块左上侧相邻的第一颜色分量块是否存在第一颜色分量信息,若与第一颜色分量块左上侧相邻的第一颜色分量块中不存在颜色分量信息,则可以根据提取设置的第一颜色分量填充规则对与第一颜色分量块左上侧相邻的第一颜色分量块进行第一颜色分量信息填充,以得到第一颜色分量块对应的邻居信息。
可选地,本申请处理方法中的根据目标神经网络,预测或者得到对应的第一颜色分量块可以包括至少以下一项:
方式一:根据所述目标神经网络进行预测,得到第三颜色分量信号,根据所述第三颜色分量信号预测第一颜色分量信号,根据所述第一颜色分量信号确定预测后的第一颜色分量块;
在本实施例中,在确定目标神经网络后,可以将第二颜色分量信息、邻居信息和编码参数中的至少一种输入到目标神经网络中进行预测,并将预测结果作为第三颜色分量信号。例如当第二颜色分量信号为Y分量块对应的亮度信号时,若通过目标神经网络预测得到的第三颜色分量信号为U分量块对应的色度信号时,此时可以继续通过U分量块对应的色度信号来预测V分量块对应的色度信号,并将预测得到的V分量块对应的色度信号作为预测得到的第一颜色分量信号,并在检测到具有第一颜色分量信号的第一颜色分量块,且该第一颜色分量块的位置与第二颜色分量信号对应的第二颜色分量块的位置对应时,就可以将此具有第一颜色分量信号的第一颜色分量块作为预测后的第一颜色分量块。可选地,还可以通过目标神经网络预测U分量块对应的色度信号,并将预测的U分量块对应的色度信号作为第三颜色分量信号,然后再根据U分量块对应的色度信号预测V分量块对应的色度信号,并将预测得到的V分量块对应的色度信号作为预测后的第一颜色分量块。可选地,还可以通过目标神经网络预测Y分量对应的亮度信号,并将其作为第三颜色分量信号,再根据Y分量对应的亮度信号预测U分量块和/或V分量块对应的色度信号,并将预测得到的U分量块和/或V分量块对应的色度信号作为第一颜色分量信号。
可选地,在根据第三颜色分量信号预测第一颜色分量信号时,可以通过提前设置第三颜色分量信号与第一颜色分量信号之间的映射表,再根据映射表进行预测,也可以通过神经网络模型进行预测,在此不做限制。
方式二:根据第一颜色分量信号对应的目标神经网络进行预测,得到第一颜色分量信号,并根据所述第一颜色分量信号确定第一颜色分量块;
在本实施例中,当通过模式选择模块筛选出第一颜色分量信号对应的目标神经网络后,就可以直接根据第一颜色分量信号对应的目标神经网络进行预测,得到第一颜色分量信号,然后再根据第一颜色分量信号确定预测后的第一颜色分量块,此时预测后的第一颜色分量块具有第一颜色分量信号。
方式三:将第二颜色分量信息和邻居信息输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
在本实施例中,在确定目标神经网络后,就可以将提前获取的待预测第一颜色分量块对应的第二颜色分量信息和邻居信息输入到目标神经网络中进行训练预测,并根据输出结果来确定得到预测后的第一颜色分量块。可选地,目标神经网络进行训练预测时可以采用提前设置的损失函数进行训练预测。例如,在进行chroma分量块预测,且第二颜色分量信息为luma块时,将chroma分量块的邻居信息和luma块输入到目标神经网络中进行预测,输出得到,此时由luma分量预测到的chroma分量可表示为:
方式四:将所述第二颜色分量信息、所述邻居信息和所述编码参数输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
在本实施例中,在确定目标神经网络后,就可以将提前获取的待预测第一颜色分量块对应的第二颜色分量信息和邻居信息,以及编码参数(如码率)输入到目标神经网络中进行训练预测,并根据输出结果来确定得到预测后的第一颜色分量块。可选地,目标神经网络进行训练预测时可以采用提前设置的损失函数进行训练预测。例如,在进行chroma分量块预测,且第二颜色分量信息为luma块时,将chroma分量块的邻居信息和luma块,以及编码参数p输入到目标神经网络中进行预测,输出得到,此时由luma分量预测到的chroma分量可表示为:
例如,如图16所示,包括luma分量L和chroma分量C,当在chroma分量C中确定待预测区块后,可以将luma分量L中与待预测区块对应的luma分量块和chroma分量块C中与待预测区块相邻的邻居信息,以及编码参数一起输入到模式选择模块中。可选地,编码参数可以包括QP=32和码率=1.5Mbps。模式选择模块可以根据接收到的所有信息进行决策,以输出信号类别,即选定神经网络,若在神经网络1到神经网络j到神经网络k中选定神经网络1,则根据神经网络1的函数进行预测,得到预测后的chroma分量,并输出预测结果,如110,110,108,108。
方式五:若只存在一个所述目标神经网络,则将所述目标神经网络进行预测的预测结果作为第一颜色分量块;
在本实施例中,当通过模式选择模块有且仅筛选到一个目标神经网络时,则可以直接根据目标神经网络进行预测,如将待预测第一颜色分量块对应的邻居信息和第二颜色分量信息输入到目标神经网络中进行预测,或者将待预测第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数输入到目标神经网络中进行预测,并根据预测的结果直接确定预测后的第一颜色分量块。
例如,如图17所示,包括luma分量L和chroma分量C,当在chroma分量C中确定待预测区块后,可以将luma分量L中与待预测区块对应的luma分量块和chroma分量块C中与待预测区块相邻的邻居信息,以及编码参数一起输入到模式选择模块中。可选地,编码参数可以包括QP=32。可选地,QP为量化参数,为量化步长的序号。模式选择模块可以根据接收到的所有信息进行决策,以输出信号类别,即选定神经网络,若在神经网络1到神经网络j到神经网络k中选定神经网络3,则根据神经网络3的函数进行预测,得到预测后的chroma分量,并输出预测结果,如110,109,109,109,108,108,108,110等8个像素。
方式六:若存在至少一个所述目标神经网络,则获取或确定每个所述目标神经网络进行预测的预测结果,并包括以下至少一项:
一:对所有所述预测结果进行汇总,得到或者预测对应的第一颜色分量块;
在本实施例中,当通过模式选择模块进行筛选发现存在至少一个目标神经网络时,可以通过所有的目标神经网络进行预测,以得到每个目标神经网络进行预测的预测结果。例如,将待预测第一颜色分量块对应的邻居信息和第二颜色分量信息输入到每个目标神经网络中进行预测,得到相应的预测结果。或者,将待预测第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数输入到每个目标神经网络中进行预测,得到相应的预测结果。然后再将所有的预测结果进行汇总,得到预测后的第一颜色分量块。可选地,在对所有预测结果进行汇总后,还可以进行相应的数学运算,例如进行加权平均计算,以得到预测后的第一颜色分量块。
二:选取所有所述预测结果中的一种预测结果作为预测后的第一颜色分量块;
在本实施例中,可以在获取到每个目标神经网络进行预测的预测结果之后,直接在所有的预测结果中选择最优的预测结果作为预测后的第一颜色分量块。可选地,当最优的预测结果存在至少一个时,可以随机在各个最优的预测结果中选择一个作为预测后的第一颜色分量块,也可以按照一定的函数计算方式对各个最优的预测结果进行计算,以得到预测后的第一颜色分量块。
三:根据所有所述预测结果的一种函数确定第一颜色分量块。
在本实施例中,可以在获取到每个目标神经网络进行预测的预测结果之后,通过提前设置的一种函数来进行计算,以确定预测后的第一颜色分量块。其中一种函数可以是神经网络模型,也可以是传统的数学算法。
在本实施例中,通过将获取的待预测第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一个输入到模式选择模块中,以确定目标神经网络,然后再根据目标神经网络进行预测,得到预测后的第一颜色分量块,并且目标神经网络可以采用多种方式进行预测,从而可以提高预测第一颜色分量块的效率和提高颜色分量信号预测的精准度。
第三实施例
请参照图20,图20为本申请处理方法第三实施例的流程示意图。基于上述实施例,在本实施例中,本申请处理方法可应用于处理设备(如服务器或智能终端),包括以下步骤:
步骤S4:获取或确定第一颜色分量块对应的第一颜色分量信息;
步骤S5:根据第一颜色分量信息和目标神经网络进行预测,或者根据第一颜色分量信息进行预测,得到或者预测对应的第一颜色分量块。
处理设备先确定待进行预测的一帧图像,并获取或确定一帧图像中待预测的第一颜色分量块,以及与第一颜色分量块对应的第一颜色分量信息。可选地,第一颜色分量块可以为待预测第一颜色分量块。在第一颜色分量块为色度分量块时,第一颜色分量信息为色度信息。在第一颜色分量块为亮度分量块时,第一颜色分量信息为亮度信息。
可选地,通过模式选择模块在各个目标神经网络中筛选出与第一颜色分量块对应的目标神经网络。
当获取到第一颜色分量信息后,就可以直接根据第一颜色分量信息进行预测,得到预测后的第一颜色分量块。可选地,在第一颜色分量信息为色度信息,待预测的第一颜色分量块为色度分量块(如U分量块或者V分量块)时,可以通过将第一颜色分量信息输入到提前设置的模型中进行训练,得到预测后的第一颜色分量块,然后再获取第一颜色分量块中的颜色分量信号(如颜色信息)。还可以是提前设置一个对照表,对照表中设置有至少一个颜色分量信息和与之对应的颜色分量块,根据第二颜色分量信息在对照表中查询得到第一颜色分量块,并将查询得到的第一颜色分量块作为预测后的第一颜色分量块。
可选地,当获取到第一颜色分量信息和训练好的目标神经网络后,可以先通过模式选择模块在至少一个目标神经网络中确定与待预测第一颜色分量块对应的目标神经网络,然后将第一颜色分量信息输入到该目标神经网络中进行预测,得到预测后的第一颜色分量块。
在本实施例中,通过获取或确定第一颜色分量块的第一颜色分量信息,然后再根据第一颜色分量信息和/或目标神经网络进行预测,得到预测后的第一颜色分量块,从而可以实现获取到第一颜色分量块中的颜色分量信号,提高了颜色分量信号预测的精准度,降低了颜色分量信号预测的复杂度。
第四实施例
请参照图18,图18为本申请处理方法第四实施例的流程示意图。在本实施例中,本申请处理方法可应用于处理设备(如服务器或智能终端),包括以下步骤:
S10:获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
在本实施例中,处理设备先确定视频序列中的一帧图像,并获取或确定一帧图像中的第一颜色分量块,以及与第一分量块对应的第二颜色分量信息,与第一分量块对应的邻居信息和与第一分量块对应的编码参数中的至少一个,以便进行后续的模型训练。可选地,一帧图像可以作为训练图像,训练图像包括多帧图像。
可选地,处理设备可以提前存储各个图像和视频,并可以在各个图像中选择一帧图像。或者在视频的视频序列中抽取一帧图像。或者,处理设备接收用户输入的图像或视频,并在图像或视频中抽取一帧图像。或者,处理设备接收由其它网络设备发送的图像或视频,并在图像或视频中抽取一帧图像,此时处理设备预先与所处移动通信系统网络侧中的网络设备建立通信连接,从而,网络设备即可通过该通信连接向该终端设备下发图像或视频,该终端设备即接收得到图像或视频。
可选地,一帧图像至少包括YUV图像,YUV图像中存在Y分量图像、U分量图像和V分量图像,即存在一个亮度分量图像和两个色度分量图像。可选地,Y分量图像为luma分量图像。U分量图像为chroma blue分量图像。V分量图像为chroma red分量图像。并且Y分量图像、U分量图像和V分量图像三者之间的分量块比例可以为4:2:0,也可以是其他比例模式,在此不做限制。然后对YUV图像进行分割,得到至少一个分量块,即至少一个Y分量块、至少一个U分量块和至少一个V分量块。
可选地,在第一颜色分量块为色度分量块时,如为U分量块时,第二颜色分量信息为亮度信息;如为V分量块时,第二颜色分量信息为亮度信息。可选地,需要确定在亮度分量图像中与第一颜色分量块对应位置的亮度分量块,然后再获取该亮度分量块的亮度信息。
可选地,在第一颜色分量块为亮度块时,如为Y分量块时,第二颜色分量信息可以为色度信息,如V分量块对应的色度信息,或者U分量块对应的色度信息。可选地,第二颜色分量信息可以是在U分量图像中与第一颜色分量块对应位置的U分量块,并获取U分量块中的色度信息。可选地,第二颜色分量信息可以是在V分量图像中与第一颜色分量块对应位置的V分量块,并获取V分量块中的色度信息。
可选地,邻居信息包括:与第一颜色分量块相邻的第一颜色分量块中的第一颜色分量信息,可选地,与第一颜色分量块相邻的第一颜色分量块包括与第一颜色分量块上侧相邻的第一颜色分量块、与第一颜色分量块左侧相邻的第一颜色分量块和位于第一颜色分量块左上侧的第一颜色分量块中的至少一种。例如,当第一颜色分量块为U分量块时,则其邻居信息可以为与U分量块相邻的已知U分量块,若相邻的已知U分量块不存在色度信息,则可以进行填充处理。
可选地,判断与待预测第一颜色分量块上侧相邻的第一颜色分量块是否存在第一颜色分量信息,若与待预测第一颜色分量块上侧相邻的第一颜色分量块中不存在颜色分量信息,则可以根据提取设置的第一颜色分量填充规则对与待预测第一颜色分量块上侧相邻的第一颜色分量块进行第一颜色分量信息填充,以得到待预测第一颜色分量块对应的邻居信息。可选地,第一颜色分量填充规则可以是按照提前设置的固定值进行填充,如值128。也可以是基于已有的第一颜色分量信息进行平均计算,并将平均计算结果进行填充。具体方式在此不做限制。
可选地,判断与待预测第一颜色分量块左侧相邻的第一颜色分量块是否存在第一颜色分量信息,若与待预测第一颜色分量块左侧相邻的第一颜色分量块中不存在颜色分量信息,则可以根据提取设置的第一颜色分量填充规则对与待预测第一颜色分量块左侧相邻的第一颜色分量块进行第一颜色分量信息填充,以得到待预测第一颜色分量块对应的邻居信息。
可选地,判断与待预测第一颜色分量块左上侧相邻的第一颜色分量块是否存在第一颜色分量信息,若与待预测第一颜色分量块左上侧相邻的第一颜色分量块中不存在颜色分量信息,则可以根据提取设置的第一颜色分量填充规则对与待预测第一颜色分量块左上侧相邻的第一颜色分量块进行第一颜色分量信息填充,以得到待预测第一颜色分量块对应的邻居信息。
可选地,编码参数包括量化参数,码率等。
S20:以第一颜色分量块为标签,将第二颜色分量信息、邻居信息和编码参数中的至少一个作为数据元素;
在本实施例中,当处理设备获取到第二颜色分量信息、邻居信息和编码参数中的至少一个时,就可以以第一颜色分量块为标签,将第一颜色分量块对应的第二颜色分量信息、第一颜色分量块对应的邻居信息和编码参数中的至少一个作为数据元素。
S30:根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集,以用于训练进行颜色分量信号预测的目标神经网络。
在本实施例中,当确定数据元素后,可以将数据元素输入至模式选择模块中,再通过模式选择模块根据数据元素中的标签在各个数据子集中选择与之对应的数据子集,并将其添加至其对应的数据子集中,以便后续根据数据子集,对数据子集关联的神经网络进行训练,也就是在本实施例中,数据子集用于训练进行颜色分量信号预测的目标神经网络,并在目标神经网络训练完成后,就可以根据目标神经网络对待预测第一颜色分量块进行预测,得到预测后的第一颜色分量块。
可选地,数据子集的数量可以为多个,也可以为一个,可选地,每个目标神经网络至少对应一个数据子集,以便根据数据子集进行训练,得到训练好的目标神经网络。
例如,在确定数据元素时,可以先通过intra-prediction(帧内预测)模块完成对luma分量的重构,以得到所有采用的视频序列的luma分量,并根据luma分量来构建数据子集。过程如下,对任一luma分量L,将其均分成N个n*m大小的luma块,记第i个luma块为,则有:;可选地,类似luma分量的处理,将luma分量L对应的chroma分量均分为N个大小的chroma块,记第i个chroma块为,其中,(1≤i≤N)。当待预测第一颜色分量块为时,且待预测第一颜色分量块的邻居信息为时,此时对应的数据元素可以包括和中的至少一个。可选,还可以获取输入的编码参数,如码率和量化参数等,并将编码参数也作为数据元素中的一种。
可选地,在构建数据子集时,对于,以为数据元素,作为数据标签,可以生成N个数据对。或者以和编码参数为数据元素,作为数据标签,可以生成N个数据对,然后再将数据对汇总到数据集中,再通过模式选择模块将数据集中的每个数据元素划分到各自对应的数据子集中。
可选地,本申请处理方法中的步骤S30可以包括至少以下一项:
方式一,将数据元素输入至模式选择模块,以使模式选择模块利用数据元素对应的第二颜色分量信息、邻居信息和编码参数中的至少一个,确定数据元素对应的数据子集;
在本实施例中,在确定数据子集之前,需要先在已重构好的YUV分量块中,获取第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一种作为数据元素,然后再将数据元素中的第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一种输入到模式选择模块中,以使模式选择模块在至少一个数据子集中根据第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一种来确定数据元素对应的数据子集。
可选地,模式选择模块可以是一种选择器,而选择器可以是一种传统算法,也可以是一个具体的神经网络模型,在此不做限制。例如,当选择器利用均方差作为选择器判决条件时,假设输入的luma块的像素值均方差很小(即像素值很接近),则可以认为需要预测的chroma块的均方差也比较小,因此可以在至少一个神经网络中选择擅长此类预测的神经网络以及与之对应的数据子集,并将其作为数据元素对应的数据子集。可选地,在对各个数据子集进行筛选时,可以按照提前设置的筛选模式进行筛选,以得到与数据元素对应的数据子集,例如,选择某一项指标参数最小的目标神经网络对应的数据子集。指标参数可以是rate-distortion(率失真)等。
可选地,获取或确定预设的视频序列中每一帧图像的第一颜色分量块、及其对应的第二颜色分量信息和邻居信息中的至少一个,然后针对每个第一颜色分量块,均以其第一颜色分量块,其对应的第二颜色分量信息和邻居信息中的至少一个来创建数据子集。或者获取相应的编码参数,将编码参数也作为创建数据子集中的一员。
方式二,利用预设的数据规则,将数据元素进行数据分类,以将数据元素分类至所述对应的数据子集。
在本实施中,当处理设备获取到数据元素后,还可以根据提前设置的数据规则对数据元素进行数据分类,并将其存储至对应的数据子集中,可选地,每个数据子集至少与一个待进行颜色分量信号预测的目标神经网络关联。例如,量化参数较小的高细节数据元素划分到感受野较大的神经网络所对应的数据子集。可选地,数据规则可以是用户提前设置的规则,如按照数据子集对应的目标神经网络预测精确度最高的原则进行设置数据规则。
例如,当第一颜色分量块为U分量块时,如图4所示,存在一帧图像I,且图像I是YUV格式,则图像I的Y分量图像如图5所示,U分量图像如图6所示,V分量图像如图7所示。当图像I的分辨率为832*480时,可以设定n=m=16,如图8所示,将图像I的Y分量图像分割为52*30个块,如图9所示,将图像I的U分量图像平均分为52*30个8*8的块,再图10所示,以第二行第二列的块为例,则Y分量数据如图10所示,U分量数据如图11所示。此外,当待预测第一颜色分量块为V分量块时,其操作方式和前述U分量块的方式相同。在本实施例中可以以图10中的U分量块作为第一颜色分量块,并当第一颜色分量块的左上侧相邻的第一颜色分量块中不存在信号时,可以按照预设的填充规则对其进行填充,例如,如图12所示为填充后的左上侧邻居信息。然后再以第一颜色分量块为标签,将其对应的邻居信息和其对应的Y分量块作为数据元素存储至数据子集中。
可选地,本申请处理方法中的步骤S30之后,还包括:
步骤S40:获取或确定所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
在本实施例中,当处理设备构建完成各个神经网络对应的数据子集,且每个数据子集中至少存在一个数据元素后,就可以根据每个数据子集中的数据元素对其对应的神经网络进行训练,以得到用于进行颜色分量信号预测的目标神经网络。
在本实施例中,通过以获取或确定的第一颜色分量块的第二颜色分量信息、邻居信息和编码参数中的至少一个作为数据元素,再根据数据元素对应的数据子集训练进行颜色分量信号预测的目标神经网络,从而可以使得经过目标神经网络预测的颜色分量信号的精准度更高。
第五实施例
请参照图19,图19为本申请处理方法第五实施例的流程示意图。在本实施例中,基于上述第四实施例,本申请处理方法还可以包括:
S100:获取或确定第一颜色分量块对应的第二颜色分量信息;
S200:根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
在本实施例中,处理设备先确定待进行预测的一帧图像,并获取或确定一帧图像中待预测的第一颜色分量块,以及与待预测的第一颜色分量块对应的第二颜色分量信息。可选地,本实施例中的第一颜色分量块可以为待预测第一颜色分量块。
可选地,处理设备可以提前存储各个图像和视频,并可以在各个图像中选择一个待进行预测的图像作为一帧图像。或者在视频的视频序列中抽取一帧图像。或者,处理设备接收用户输入的图像或视频,并在图像或视频中抽取一帧图像进行预测。或者,处理设备接收由其它网络设备发送的图像或视频,并在图像或视频中抽取一帧图像进行预测,此时处理设备预先与所处移动通信系统网络侧中的网络设备建立通信连接,从而,网络设备即可通过该通信连接向该终端设备下发图像或视频,该终端设备即接收得到图像或视频。
可选地,一帧图像至少包括YUV图像,YUV图像中存在Y分量图像、U分量图像和V分量图像,即存在一个亮度分量图像和两个色度分量图像。可选地,Y分量图像为luma分量图像。U分量图像为chroma blue分量图像。V分量图像为chroma red分量图像。并且Y分量图像、U分量图像和V分量图像三者之间的分量块比例可以为4:2:0,也可以是其他比例模式,在此不做限制。然后对YUV图像进行分割,得到至少一个分量块,即至少一个Y分量块、至少一个U分量块和至少一个V分量块。
可选地,在待预测第一颜色分量块为色度分量块时,如为U分量块时,第二颜色分量信息为亮度信息;如为V分量块时,第二颜色分量信息为亮度信息。可选地,需要确定在亮度分量图像中与待预测第一颜色分量块对应位置的亮度分量块,然后再获取该亮度分量块的亮度信息。
例如,当待预测第一颜色分量块为U分量块时,如图4所示,存在一帧图像I,且图像I是YUV格式,则图像I的Y分量图像如图5所示,U分量图像如图6所示,V分量图像如图7所示。当图像I的分辨率为832*480时,可以设定n=m=16,如图8所示,将图像I的Y分量图像分割为52*30个块,如图9所示,将图像I的U分量图像平均分为52*30个8*8的块,再图10所示,以第二行第二列的块为例,则Y分量数据如图10所示,U分量数据如图11所示。此外,当待预测第一颜色分量块为V分量块时,其操作方式和前述U分量块的方式相同。
可选地,在待预测第一颜色分量块为亮度块时,如为Y分量块时,第二颜色分量信息可以为色度信息,如V分量块对应的色度信息,或者U分量块对应的色度信息。可选地,第二颜色分量信息可以是在U分量图像中与待预测第一颜色分量块对应位置的U分量块,并获取U分量块中的色度信息。可选地,第二颜色分量信息可以是在V分量图像中与待预测第一颜色分量块对应位置的V分量块,并获取V分量块中的色度信息。
可选地,获取或确定与待预测第一颜色分量块对应的第二颜色分量块中的第二颜色分量信息;
在本实施例中,可以先确定原始的YUV图像,然后再获取或确定YUV图像中的待预测第一颜色分量块,再确定第二颜色分量块,可选地,待预测第一颜色分量块和第二颜色分量块在不同的分量图像上,且待预测第一颜色分量块在原始的YUV图像中对应的位置和第二颜色分量块对应的位置一致。
可选地,当待预测第一颜色分量块为色度分量块时,如U分量块和/或V分量块,则第二颜色分量块可以为与该色度分量块对应的亮度分量块,如Y分量块,并将该对应的亮度分量块中的亮度信息作为第二颜色分量信息。
可选地,当待预测第一颜色分量块为亮度分量块时,如Y分量块,则第二颜色分量块可以为与该亮度分量块对应的色度分量块,如U分量块和/或V分量块,并将该对应的色度分量块中的色度信息作为第二颜色分量信息。
可选地,获取所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
在本实施例中,还可以先训练好目标神经网络,然后再根据目标神经网络来进行后续的预测。而在训练目标神经网络之前,需要先构建好每个神经网络对应的数据子集,然后再根据每个数据子集对其对应的神经网络进行训练,得到目标神经网络。
可选地,可以先在网络设备或自身存储区域中获取待进行神经网络训练的训练图像,或者获取视频序列,将视频序列中的每一帧图像作为训练图像。并且针对训练图像,可以将待预测chroma(色度)信号对应的luma(亮度)信息、待预测chroma信号的邻居信息和编码参数作为一条数据,并以待预测chroma块为该条数据的目标标签,组成数据集中的一条数据元素。然后模式选择模块将数据集中的每一组数据元素划分到最优的数据网络对应的数据子集中。例如将量化参数较小的高细节数据元素划分到感受野较大的神经网络对应的数据子集中。当获取到每个神经网络对应的数据子集后,就可以进行每个神经网络的训练,以得到目标神经网络。可选地,本实施例中的目标神经网络的数量至少为一个。在训练时,将数据子集中的数据元素输入到神经网络中进行训练,直至训练后的神经网络收敛、或达到预期效果。训练神经网络的方式可以按照梯度下降法的方式进行训练,例如,用均方误差或者交叉熵作为损失函数,每次梯度下降法训练为了极小化损失,多次训练之后达到理想的精度,训练结束。还可以采用其他方式进行训练,在此不做限制。
可选地,可以通过模式选择模块在各个目标神经网络中筛选出与第一颜色分量块对应的目标神经网络。可选地,在对各个目标神经网络进行筛选时,可以按照提前设置的筛选模式进行筛选,以得到与第一颜色分量块对应的目标神经网络,例如,选择某一项指标参数最小的目标神经网络作为与第一颜色分量块对应的目标神经网络。指标参数可以是rate-distortion(率失真)等。可选地,当获取到第二颜色分量信息后,就可以直接根据第二颜色分量信息进行预测,得到预测后的第一颜色分量块。可选地,在第二颜色分量信息为亮度信息,待预测第一颜色分量块为色度分量块(如U分量块或者V分量块)时,可以通过将第二颜色分量信息输入到提前设置的模型中进行训练,得到预测后的第一颜色分量块,然后再获取第一颜色分量块中的颜色分量信号(如颜色信息)。还可以是提前设置一个对照表,对照表中设置有至少一个颜色分量信息和与之对应的颜色分量块,根据第二颜色分量信息在对照表中查询得到第一颜色分量块,并将查询得到的第一颜色分量块作为预测后的第一颜色分量块。
可选地,当获取到第一颜色分量块对应的目标神经网络后,就可以直接根据目标神经网络进行预测,得到预测后的第一颜色分量块。可选地,在直接根据目标神经网络进行预测时,可以获取用户或其它终端输入的预测参数,并将预测参数和/或第二颜色分量信息输入到目标神经网络中进行模型训练,输出得到预测后的第一颜色分量块。可选地,预测参数可以包括与待预测第一颜色分量块相关的参数信息,如与待预测第一颜色分量块相邻的第一颜色分量块,可选地,相邻包括左侧相邻、上侧相邻、左上侧相邻、左下侧相邻和右上侧相邻中的至少一种。可选地,目标神经网络可以是一种非线性算法或模块,如矩阵加权帧内预测技术,且目标神经网络可以包括以下神经网络中的至少一种,如:卷积神经网络,残差网络,长短期记忆人工神经网络,循环神经网络,三维卷积神经网络,全连接神经网络等。
可选地,当获取到第二颜色分量信息和训练好的目标神经网络后,可以先在至少一个目标神经网络中确定与待预测第一颜色分量块对应的目标神经网络,然后将第二颜色分量信息输入到该目标神经网络中进行预测,得到预测后的第一颜色分量块。例如,当第二颜色分量信息为亮度分量信息时,将亮度分量信息输入到训练好的目标神经网络中进行预测,输出得到颜色分量信息,并将其作为预测后的第一颜色分量块的颜色分量信号。例如,当第二颜色分量信息为色度分量信息时,将色度分量信息输入到训练好的目标神经网络中进行预测,输出得到颜色分量信息,并将其作为预测后的第一颜色分量块的颜色分量信号。
在本实施例中,通过获取或确定待预测第一颜色分量块的第二颜色分量信息,然后再根据第二颜色分量信息和/或目标神经网络进行预测,得到预测后的第一颜色分量块,从而可以实现获取到第一颜色分量块中的颜色分量信号,提高了颜色分量信号预测的精准度,降低了颜色分量信号预测的复杂度。
本申请实施例还提供一种处理装置,请参照图21,图21为本申请处理装置的功能模块示意图,本申请处理装置应用于处理设备,本申请处理装置包括:
获取模块,用于获取或确定第二颜色分量信息;
预测模块,用于根据第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
可选地,处理装置还包括以下至少一项:
第一确定模块,用于获取或确定与待预测第一颜色分量块对应的第二颜色分量块中的第二颜色分量信息;
数据网络训练模块,用于获取所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
可选地,处理装置还包括:
第二确定模块,用于获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
构建模块,用于以所述第一颜色分量块为标签,将所述第一颜色分量块对应的第二颜色分量信息、所述第一颜色分量块对应的邻居信息和编码参数中的至少一个作为数据元素;
第三确定模块,用于根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集。
可选地,预测模块,包括:
预测单元,用于根据目标神经网络,预测或者得到对应的第一颜色分量块。
可选地,在预测单元之前,还包括:
输入单元,用于将待预测第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一个输入至模式选择模块,以使所述模式选择模块确定所述第一颜色分量块对应的目标神经网络。
可选地,在输入单元之前,还包括:
填充单元,用于若与所述第一颜色分量块相邻的第一颜色分量块中不存在第一颜色分量信息,则根据预设的第一颜色分量填充规则对与所述第一颜色分量块相邻的第一颜色分量块进行第一颜色分量信息填充,以得到所述第一颜色分量块对应的邻居信息。
可选地,预测单元用于执行以下至少一项:
根据所述目标神经网络进行预测,得到第三颜色分量信号,根据所述第三颜色分量信号预测第一颜色分量信号,根据所述第一颜色分量信号确定第一颜色分量块;
根据第一颜色分量信号对应的目标神经网络进行预测,得到第一颜色分量信号,并根据所述第一颜色分量信号确定第一颜色分量块;
将第二颜色分量信息和邻居信息输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
将所述第二颜色分量信息、所述邻居信息和所述编码参数输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
若只存在一个所述目标神经网络,则将所述目标神经网络进行预测的预测结果作为预测后的第一颜色分量块;
若存在多个所述目标神经网络,则获取或确定每个所述目标神经网络进行预测的预测结果,并包括以下至少一项:
对所有所述预测结果进行汇总,得到或者预测对应的第一颜色分量块;
选取所有所述预测结果中的一种预测结果作为第一颜色分量块;
根据所有所述预测结果的一种函数确定第一颜色分量块。
可选地,所述处理装置还用于执行:
获取或确定第一颜色分量块对应的第一颜色分量信息;
根据第一颜色分量信息和目标神经网络进行预测,或者根据第一颜色分量信息进行预测,得到或者预测对应的第一颜色分量块。
可选地,上述处理装置中各个模块的功能实现,与上述处理方法实施例中各步骤相对应,其功能和实现过程在此处不再一一赘述。
本申请实施例还提供一种处理装置,请参照图22,图22为本申请处理装置的功能模块示意图,本申请处理装置应用于处理设备,本申请处理装置包括:
确定模块,用于获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
数据元素模块,用于以第一颜色分量块为标签,将第二颜色分量信息、邻居信息和编码参数中的至少一个作为数据元素;
训练模块,用于根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集,以用于训练进行颜色分量信号预测的目标神经网络。
可选地,训练模块用于执行以下至少一项:
将数据元素输入至模式选择模块,以使模式选择模块利用数据元素对应的第二颜色分量信息、邻居信息和编码参数中的至少一个,确定数据元素对应的数据子集;
利用预设的数据规则,将数据元素进行数据分类,以将数据元素分类至所述对应的数据子集。
可选地,在训练模块之后,还包括:
数据子集训练模块,用于获取或确定所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
可选地,处理装置还包括:
颜色分量预测模块,用于获取或确定第二颜色分量信息;根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
可选地,上述处理装置中各个模块的功能实现,与上述处理方法实施例中各步骤相对应,其功能和实现过程在此处不再一一赘述。
本申请实施例还提供一种处理设备,处理设备包括存储器、处理器,存储器上存储有处理程序,处理程序被处理器执行时实现上述任一实施例中的处理方法的步骤。
本申请实施例还提供一种存储介质,存储介质上存储有处理程序,处理程序被处理器执行时实现上述任一实施例中的处理方法的步骤。
在本申请提供的处理设备和存储介质的实施例中,可以包含任一上述处理方法实施例的全部技术特征,说明书拓展和解释内容与上述方法的各实施例基本相同,在此不再做赘述。
本申请实施例还提供一种计算机程序产品,计算机程序产品包括计算机程序代码,当计算机程序代码在计算机上运行时,使得计算机执行如上各种可能的实施方式中的方法。
本申请实施例还提供一种芯片,包括存储器和处理器,存储器用于存储计算机程序,处理器用于从存储器中调用并运行计算机程序,使得安装有芯片的设备执行如上各种可能的实施方式中的方法。
可以理解,上述场景仅是作为示例,并不构成对于本申请实施例提供的技术方案的应用场景的限定,本申请的技术方案还可应用于其他场景。例如,本领域普通技术人员可知,随着系统架构的演变和新业务场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
本申请实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。
本申请实施例设备中的单元可以根据实际需要进行合并、划分和删减。
在本申请中,对于相同或相似的术语概念、技术方案和/或应用场景描述,一般只在第一次出现时进行详细描述,后面再重复出现时,为了简洁,一般未再重复阐述,在理解本申请技术方案等内容时,对于在后未详细描述的相同或相似的术语概念、技术方案和/或应用场景描述等,可以参考其之前的相关详细描述。在本申请中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。本申请技术方案的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本申请记载的范围。通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,被控终端,或者网络设备等)执行本申请每个实施例的方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络,或者其他可编程装置。计算机指令可以存储在存储介质中,或者从一个存储介质向另一个存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、存储盘、磁带)、光介质(例如,DVD),或者半导体介质(例如固态存储盘Solid State Disk (SSD))等。以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (13)
1.一种处理方法,其特征在于,包括以下步骤:
S1:获取或确定第二颜色分量信息;
S2:根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
2.如权利要求1所述的方法,其特征在于,所述步骤S1之前,包括以下至少一项:
获取或确定与第一颜色分量块对应的第二颜色分量块中的第二颜色分量信息;
获取所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
3.如权利要求2所述的方法,其特征在于,所述获取所有的数据子集之前,还包括:
获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
以所述第一颜色分量块为标签,将所述第一颜色分量块对应的第二颜色分量信息、所述第一颜色分量块对应的邻居信息和编码参数中的至少一个作为数据元素;
根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集。
4.如权利要求1至3中任一项所述的方法,其特征在于,在所述根据目标神经网络,预测或者得到对应的第一颜色分量块之前,还包括:
步骤S22:将第一颜色分量块对应的邻居信息、第二颜色分量信息和编码参数中的至少一个输入至模式选择模块,以使所述模式选择模块确定所述第一颜色分量块对应的目标神经网络。
5.如权利要求4所述的方法,其特征在于,所述步骤S22之前,还包括:
步骤S21:若与所述第一颜色分量块相邻的第一颜色分量块中不存在第一颜色分量信息,则根据预设的第一颜色分量填充规则对与所述第一颜色分量块相邻的第一颜色分量块进行第一颜色分量信息填充,以得到所述第一颜色分量块对应的邻居信息。
6.如权利要求1至3中任一项所述的方法,其特征在于,所述根据目标神经网络,预测或者得到对应的第一颜色分量块包括至少以下一项:
根据所述目标神经网络进行预测,得到第三颜色分量信号,根据所述第三颜色分量信号预测第一颜色分量信号,根据所述第一颜色分量信号确定第一颜色分量块;
根据第一颜色分量信号对应的目标神经网络进行预测,得到第一颜色分量信号,并根据所述第一颜色分量信号确定第一颜色分量块;
将第二颜色分量信息和邻居信息输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
将所述第二颜色分量信息、邻居信息和编码参数输入到所述目标神经网络,得到或者预测对应的第一颜色分量块;
若只存在一个所述目标神经网络,则将所述目标神经网络进行预测的预测结果作为第一颜色分量块;
若存在至少一个所述目标神经网络,则获取或确定每个所述目标神经网络进行预测的预测结果,并包括以下至少一项:
对所有所述预测结果进行汇总,得到或者预测对应的第一颜色分量块;
选取所有所述预测结果中的一种预测结果作为第一颜色分量块;
根据所有所述预测结果的一种函数确定第一颜色分量块。
7.如权利要求1至3中任一项所述的方法,其特征在于,所述方法还包括:
步骤S4:获取或确定第一颜色分量块对应的第一颜色分量信息;
步骤S5:根据第一颜色分量信息和目标神经网络进行预测,或者根据第一颜色分量信息进行预测,得到或者预测对应的第一颜色分量块。
8.一种处理方法,其特征在于,包括以下步骤:
S10:获取或确定第一颜色分量块对应的第二颜色分量信息、邻居信息和编码参数中的至少一个;
S20:以第一颜色分量块为标签,将第二颜色分量信息、邻居信息和编码参数中的至少一个作为数据元素;
S30: 根据模式选择模块和所述数据元素确定所述数据元素对应的数据子集,以用于训练进行颜色分量信号预测的目标神经网络。
9.如权利要求8所述的方法,其特征在于,所述步骤S30,包括以下至少一项:
将数据元素输入至模式选择模块,以使模式选择模块利用数据元素对应的第二颜色分量信息、邻居信息和编码参数中的至少一个,确定数据元素对应的数据子集;
利用预设的数据规则,将数据元素进行数据分类,以将数据元素分类至所述对应的数据子集。
10.如权利要求8所述的方法,其特征在于,所述步骤S30之后,还包括:
步骤S40:获取或确定所有的数据子集,根据每个所述数据子集对其对应的神经网络进行训练,得到目标神经网络。
11.如权利要求8至10中任一项所述的方法,其特征在于,所述方法还包括:
获取或确定第二颜色分量信息;
根据所述第二颜色分量信息和/或目标神经网络,预测或者得到对应的第一颜色分量块。
12.一种处理设备,其特征在于,包括:存储器、处理器,其中,所述存储器上存储有计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至11中任一项所述处理方法的步骤。
13.一种存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至11中任一项所述处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211382700.2A CN115422986B (zh) | 2022-11-07 | 2022-11-07 | 处理方法、处理设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211382700.2A CN115422986B (zh) | 2022-11-07 | 2022-11-07 | 处理方法、处理设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115422986A true CN115422986A (zh) | 2022-12-02 |
CN115422986B CN115422986B (zh) | 2023-08-22 |
Family
ID=84208102
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211382700.2A Active CN115422986B (zh) | 2022-11-07 | 2022-11-07 | 处理方法、处理设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115422986B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109842799A (zh) * | 2017-11-29 | 2019-06-04 | 杭州海康威视数字技术股份有限公司 | 颜色分量的帧内预测方法及装置 |
US20200098304A1 (en) * | 2018-09-21 | 2020-03-26 | Dell Products, Lp | Method and apparatus for dynamically optimizing gamma correction for a high dynamic ratio image |
WO2020078027A1 (zh) * | 2018-10-15 | 2020-04-23 | 华为技术有限公司 | 一种图像处理方法、装置与设备 |
US20200252654A1 (en) * | 2017-10-12 | 2020-08-06 | Mediatek Inc. | Method and Apparatus of Neural Network for Video Coding |
US20210150812A1 (en) * | 2018-04-09 | 2021-05-20 | Dolby Laboratories Licensing Corporation | Hdr image representations using neural network mappings |
US20220038699A1 (en) * | 2018-08-09 | 2022-02-03 | Dongguan Oppomo Biletele Communications Corp.,Ltd. | Video colour component prediction method and apparatus, and computer storage medium |
CN115190312A (zh) * | 2021-04-02 | 2022-10-14 | 西安电子科技大学 | 一种基于神经网络的跨分量色度预测方法及装置 |
-
2022
- 2022-11-07 CN CN202211382700.2A patent/CN115422986B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200252654A1 (en) * | 2017-10-12 | 2020-08-06 | Mediatek Inc. | Method and Apparatus of Neural Network for Video Coding |
CN109842799A (zh) * | 2017-11-29 | 2019-06-04 | 杭州海康威视数字技术股份有限公司 | 颜色分量的帧内预测方法及装置 |
WO2019105179A1 (zh) * | 2017-11-29 | 2019-06-06 | 杭州海康威视数字技术股份有限公司 | 颜色分量的帧内预测方法及装置 |
US20210150812A1 (en) * | 2018-04-09 | 2021-05-20 | Dolby Laboratories Licensing Corporation | Hdr image representations using neural network mappings |
US20220038699A1 (en) * | 2018-08-09 | 2022-02-03 | Dongguan Oppomo Biletele Communications Corp.,Ltd. | Video colour component prediction method and apparatus, and computer storage medium |
US20200098304A1 (en) * | 2018-09-21 | 2020-03-26 | Dell Products, Lp | Method and apparatus for dynamically optimizing gamma correction for a high dynamic ratio image |
WO2020078027A1 (zh) * | 2018-10-15 | 2020-04-23 | 华为技术有限公司 | 一种图像处理方法、装置与设备 |
CN115190312A (zh) * | 2021-04-02 | 2022-10-14 | 西安电子科技大学 | 一种基于神经网络的跨分量色度预测方法及装置 |
Non-Patent Citations (4)
Title |
---|
NAL KALCHBRENNER ET AL.: "Video Pixel Networks", 《ARXIV》 * |
NAL KALCHBRENNER ET AL.: "Video Pixel Networks", 《ARXIV》, 30 October 2016 (2016-10-30), pages 1 - 6 * |
赵锋: "基于颜色特征和改进Adaboost算法的麦穗识别的研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
赵锋: "基于颜色特征和改进Adaboost算法的麦穗识别的研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》, 15 March 2015 (2015-03-15), pages 138 - 2389 * |
Also Published As
Publication number | Publication date |
---|---|
CN115422986B (zh) | 2023-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115834897B (zh) | 处理方法、处理设备及存储介质 | |
CN110675342A (zh) | 视频帧优化方法、移动终端及计算机可读存储介质 | |
CN107102803B (zh) | 一种图片显示方法、设备和计算机可读存储介质 | |
CN115988206B (zh) | 图像处理方法、处理设备及存储介质 | |
CN107145855B (zh) | 一种参考质量模糊图像预测方法、终端及存储介质 | |
CN107241504B (zh) | 一种图像处理方法、移动终端和计算机可读存储介质 | |
CN110086993B (zh) | 图像处理方法、装置、移动终端及计算机可读存储介质 | |
CN116668704B (zh) | 处理方法、处理设备及存储介质 | |
CN108320265B (zh) | 一种图像处理方法、终端及计算机可读存储介质 | |
CN108282608B (zh) | 多区域对焦方法、移动终端及计算机可读存储介质 | |
CN111614902A (zh) | 一种视频拍摄方法、设备及计算机可读存储介质 | |
WO2023108444A1 (zh) | 图像处理方法、智能终端及存储介质 | |
CN115422986B (zh) | 处理方法、处理设备及存储介质 | |
CN115665551A (zh) | 处理方法、智能终端及存储介质 | |
CN114333001A (zh) | 图像处理方法、智能终端及存储介质 | |
CN114723645A (zh) | 图像处理方法、智能终端及存储介质 | |
CN114092366A (zh) | 图像处理方法、移动终端及存储介质 | |
CN113902918A (zh) | 游戏图像二值化处理方法、设备及计算机可读存储介质 | |
CN113590069A (zh) | 切换方法、移动终端及存储介质 | |
CN116847088B (zh) | 图像处理方法、处理设备及存储介质 | |
CN117176959B (zh) | 处理方法、处理设备及存储介质 | |
CN107808361B (zh) | 图像处理方法、移动终端及计算机可读存储介质 | |
CN114820382A (zh) | 图像处理方法、智能终端及存储介质 | |
CN117979010A (zh) | 图像处理方法、处理设备及存储介质 | |
CN116485637A (zh) | 图像管理方法、移动终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |