CN116012248B - 图像处理方法、装置、计算机设备及计算机存储介质 - Google Patents

图像处理方法、装置、计算机设备及计算机存储介质 Download PDF

Info

Publication number
CN116012248B
CN116012248B CN202211743685.XA CN202211743685A CN116012248B CN 116012248 B CN116012248 B CN 116012248B CN 202211743685 A CN202211743685 A CN 202211743685A CN 116012248 B CN116012248 B CN 116012248B
Authority
CN
China
Prior art keywords
scratch
image
target
detection
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211743685.XA
Other languages
English (en)
Other versions
CN116012248A (zh
Inventor
刘恩雨
夏珍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202211743685.XA priority Critical patent/CN116012248B/zh
Publication of CN116012248A publication Critical patent/CN116012248A/zh
Application granted granted Critical
Publication of CN116012248B publication Critical patent/CN116012248B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

本申请公开了一种图像处理方法、装置、计算机设备及计算机存储介质,方法包括:调用划痕检测模型对目标图像进行特征提取,得到目标图像的图像划痕特征,划痕检测模型是基于深度神经网络构建的;根据图像划痕特征所指示的特征信息,确定用于对目标图像进行划痕检测的划痕检测参数;划痕检测参数是采用样本图像对划痕检测模型中的参考检测参数进行优化得到的;根据确定出的划痕检测参数及图像划痕特征对目标图像进行划痕检测,得到目标图像的划痕评价参数,划痕评价参数用于指示目标图像中是否存在划痕,且在目标图像中存在划痕时,划痕评价参数还用于指示目标图像中划痕的划痕强度,使得本申请中的划痕评价参数适用于图像修复场景。

Description

图像处理方法、装置、计算机设备及计算机存储介质
技术领域
本申请涉及数字图像处理技术领域,尤其涉及一种图像处理方法、装置、计算机设备及计算机存储介质。
背景技术
层出不穷的计算机产品使得世界各地的影视文化得以被多途径的传播,又由于数字图像处理技术的不断更迭,基于不同时期的数字图像处理技术而产生的影视作品,通常呈现出不同的清晰度及色彩明亮度等。通常情况下,早期的影视作在拍摄过程或存储过程会不可避免地出现画质损坏的问题,进而导致对这类影视作品进行播放时,计算机设备所显示的影视画面中存在大量的划痕,也就严重影响了观众的观影体验。
为了解决这一问题,各视频播放平台相继提出了诸多用于划痕检测的图像处理方法,以采用该图像处理方法对部分特定形态的划痕及划痕位置进行检测,从而基于检测结果进行图像修复。然而,当前的图像处理方法得到的检测结果在用于图像修复时,并不能使得图像修复的效果达到预期效果,因而如何得到适用于图像修复的划痕检测结果成了当下亟待解决的问题。
发明内容
本申请实施例提供了一种数据处理方法、相关设备、存储介质及程序产品,可得到适用于图像修复的划痕评价参数。
一方面,本申请实施例提供了一种图像处理方法,包括:
调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,所述划痕检测模型是基于深度神经网络构建的;
根据所述图像划痕特征所指示的特征信息,确定用于对所述目标图像进行划痕检测的划痕检测参数;所述划痕检测参数是采用样本图像对所述划痕检测模型中的参考检测参数进行优化得到的;
根据确定出的划痕检测参数及所述图像划痕特征,对所述目标图像进行划痕检测,得到所述目标图像的划痕评价参数,所述划痕评价参数用于指示所述目标图像中是否存在划痕,且在所述目标图像中存在划痕时,所述划痕评价参数还用于指示所述目标图像中划痕的划痕强度。
再一方面,本申请实施例提供了一种图像处理装置,包括:
特征提取单元,用于调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,所述划痕检测模型是基于深度神经网络构建的;
确定单元,用于根据所述图像划痕特征所指示的特征信息,确定用于对所述目标图像进行划痕检测的划痕检测参数;所述划痕检测参数是采用样本图像对所述划痕检测模型中的参考检测参数进行优化得到的;
划痕检测单元,用于根据确定出的划痕检测参数及所述图像划痕特征,对所述目标图像进行划痕检测,得到所述目标图像的划痕评价参数,所述划痕评价参数用于指示所述目标图像中是否存在划痕,且在所述目标图像中存在划痕时,所述划痕评价参数还用于指示所述目标图像中划痕的划痕强度。
再一方面,本申请实施例还提供了一种计算机设备,包括:
处理器,适于实现一条或多条计算机程序;
计算机存储介质,所述计算机存储介质存储有一条或多条计算机程序,所述一条或多条计算机程序适于由所述处理器加载并执行如第一方面的图像处理方法。
再一方面,本申请实施例还提供了一种计算机存储介质,该计算机存储介质存储有一条或多条计算机程序,所述一条或多条计算机程序适于由处理器加载并执行如第一方面的图像处理方法。
再一方面,本申请提供了一种计算机程序产品或计算机程序,该计算机程序产品包括计算机程序,该计算机程序存储在计算机存储介质中。计算机设备的处理器从计算机存储介质中读取该计算机程序,处理器执行该计算机程序,使得计算机设备执行上述第一方面提出的图像处理方法。
在本申请实施例中,对目标图像的划痕检测是采用划痕检测模型进行的,而该划痕检测模型是基于深度神经网络构建的,使得该划痕检测模型可以被通过样本数据进行不断地优化,从而得到适用于对目标图像进行划痕检测的划痕检测参数,那么,可以理解,采用本申请实施例进行划痕检测时,得到的划痕检测结果将具有较高的准确度。此外,划痕检测结果至少包括划痕评价参数,而目标图像的划痕评价参数用于指示目标图像中是否存在划痕,并且在目标图像存在划痕的情况下,划痕评价参数还可以用于指示目标图像中划痕的划痕强度,使得图像修复设备可以参考目标图像的划痕强度来对其进行图像修复处理。而图像修复处理时的修复精细程度可以与相应图像的划痕强度相关,且示例性地,划痕强度越高,该图像对应的修复精细程度越高,在此情况下,纵然图像存在较强的划痕也可以得以较为完整地修复,使得修复处理后的图像具备更高的观赏价值。可见,采用本申请实施例提出的图像处理方法不仅可以有效检测出图像中的划痕,还可以得到适用于图像修复场景的划痕检测结果。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种不存在划痕的图像及存在划痕的图像的示意图;
图2是本申请实施例提供的一种图像处理方法的示意流程图;
图3是本申请实施例提供的一种划痕检测模型的结构示意图;
图4是本申请实施例提供的又一种图像处理方法的示意流程图;
图5是本申请实施例提供的一种从目标视频中获取一个或多个视频帧的方式的示意图;
图6是本申请实施例提供的一种图像处理装置的结构示意图;
图7是本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
本申请实施例提出了一种可以应用于数字图像处理领域的图像处理方法,采用该图像处理方法可以对图像进行划痕检测,得到适用于图像修复场景的划痕检测结果。具体来说,该方法指出:在需要对目标图像进行划痕检测时,采用基于深度神经网络构建的划痕检测模型对目标图像进行特征提取,以得到目标图像的图像划痕特征,而图像划痕特征指示的特征信息,将被用于确定划痕检测模型中对目标图像进行划痕检测的划痕检测参数。其中,划痕检测参数是采用样本图像对划痕检测模型中的参考检测参数进行优化得到的,参考检测参数是指用于实现划痕检测的模型参数,使得计算机设备根据划痕检测参数及目标图像的图像划痕特征对目标图像进行划痕检测,可以针对目标图像得到准确度较高的划痕检测结果。在本申请实施例中,划痕检测结果至少包括划痕评价参数,而目标图像的划痕评价参数用于指示目标图像中是否存在划痕,并且在目标图像存在划痕的情况下,划痕评价参数还可以用于指示目标图像中划痕的划痕强度,使得图像修复设备可以参考目标图像的划痕强度来对其进行图像修复处理,丰富了图像修复场景下的参考信息,有益于图像修复处理得到视觉效果更佳的修复结果。其中,图像修复处理是指对图像进行分析、加工和处理,使其满足视觉、心理和/或其他要求的过程。在本申请中,图像修复处理时的修复精细程度可以与相应图像的划痕强度相关,且示例性地,划痕强度越高,该图像对应的修复精细程度越高,使得该图像存在较强的划痕时也可以得以较为完整地修复,进而使得修复处理后的图像具备更高的观赏价值。那么,基于上述描述可见,采用本申请实施例提出的图像处理方法不仅可以有效检测出图像中的划痕,还可以得到适用于图像修复场景的划痕检测结果。
其中,图像中的划痕泛指图像中存在的、破坏图像原有色彩或画面的痕迹。实际应用中,图像的划痕可以是由于存储手段或存储环境等原因而造成的,且不同的原因可以造成的划痕类型各种各样。如,对于线条类型的划痕而言,可以是对纸质图像进行折叠后而产生的折痕;再如,对于局部范围污损类型的划痕而言,可以是相关电子设备对数字图像进行图像存储时,由于图像压缩而导致的局部模糊或局部像素缺失。值得一提的是,当目标图像中存在划痕时,该目标图像可以包括一种或多种划痕类型的划痕,且每种划痕的数量可以为一个或多个。以图1为例,图1中由10标记的图像为不存在划痕的图像,而图1中由11标记的图像为存在划痕的图像,且由111标记的划痕为局部范围污损类型的划痕,由112标记的划痕为线条类型的划痕。
此外,在一个实施例中,图像修复设备以及用于执行上述图像处理方法的计算机设备可以是同一设备,也可以是不同设备。针对图像修复设备以及计算机设备中的任意设备,该设备可以是终端设备,也可以是服务器。当图像修复设备或计算机设备为终端设备时,终端设备内可以运行用于触发执行对目标图像的划痕检测的客户端,该客户端可以包括但不限于图像处理客户端、视频处理客户端以及图像拍摄客户端等等。此外,该终端设备内还可以运行其他各式各样的客户端,且可选地,各个客户端之间可以实现数据传输,使得终端设备可以对各个客户端中的图像进行划痕检测,或向各个客户端进行划痕检测结果的分享等,但需要特别说明的是,在从其他客户端获取目标图像或将目标图像的划痕检测结果进行分享时,需要获取相应客户端的使用对象的许可,且获取的目标图像以及分享的划痕检测结果需要符合相关法律法规。当图像修复设备或计算机设备为服务器时,该服务器可以用于为触发执行对目标图像的划痕检测的客户端提供后台服务,该后台服务可以至少包括针对目标图像的划痕检测服务,当然,还可以包括针对目标图像的图像识别服务,以及针对目标图像的存储或编辑服务等。具体地,服务器可以具体包括但不限于:独立的物理服务器,多个物理服务器构成的服务器集群或者分布式系统,以及提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(ContentDelivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器等。
请参见图2,图2是本申请实施例提出的一种图像处理方法的示意性流程图。该方法可以由上述提及的计算机设备来执行,且如图2所示,该方法可以包括步骤S201-S203:
S201、调用划痕检测模型对目标图像进行特征提取,得到目标图像的图像划痕特征,划痕检测模型是基于深度神经网络构建的。
在一个实施例中,图像是对客观对象的一种描述或写真,具体是指具有视觉效果的画面。具体来说,图像可以包括但不限于纸质媒介上呈现的画面、通过摄影技术拍摄得到的胶片照片,以及电子设备(如手机、电脑、车载终端、智能家电等)的显示屏幕上呈现的画面(包括照片、绘画等),而采用电子设备显示的图像可以被称为数字图像,数字图像是指以二维数组形式表示的图像,组成该二维数组的元素是数字图像中各个像素点的像素值。本申请实施例提出的图像处理方法主要是应用于对数字图像进行划痕检测,也就是说,在本申请实施例中,目标图像是指数字图像。其中,目标图像可以是从已存在的至少一张图像中选取的,也可以是按照某种预设的特征信息生成的,或者随机生成的,本申请实施例对此不作限制。
此外,可选地,目标图像的数量可以为一张或多张,每张目标图像均可以用于传达相应的信息,而针对计算机设备而言,目标图像所传达的信息可以通过对该目标图像进行特征提取来获取,特征提取可以包括但不限于通过图像识别提取图像语义信息,以及通过图像卷积处理来提取图像像素分布的特征信息等。针对任意两张目标图像,若计算机设备从这两张目标图像中获取到的信息相似,则可以认为这两张目标图像互为相似图像,如:当计算机设备获取到的图像信息指示图像1和图像2中存在较多相同的画面时,计算机设备可以确定图像1和图像2互为相似图像。同理地,若计算机设备从两张目标图像获取到的信息具备一定的关联性,则可以认为这两张目标图像为相关的两张图像,如:视频文件中在播放时间上连续的两个视频帧,通常为相关的两张图像。在本申请实施例中,当目标图像为多张时,这多张目标图像中具体可以包括但不限于互不相关的图像、相关的图像、相似的图像,以及不相似的图像中的一种或多种,本申请实施例对此并不做具体限制。
在一个实施例中,计算机设备可以采用划痕检测模型来对目标图像进行特征提取,以得到目标图像所表达的信息。在实际应用中,针对图像的特征提取可以是通过对图像进行图像卷积来实现的,且图像卷积可以采用卷积神经网络实现,使得本申请实施例中划痕检测模型可以是基于卷积神经网络构建的。其中,卷积神经网络(Convolutional NeuralNetworks,CNN)是具有深度结构的前馈神经网络,具有表征学习的能力,是深度神经网络中的一种。可选地,适用于本申请实施例的卷积神经网络包括但不限于:VGG-Net(2014年提出的一种卷积神经网络,以研究组的名字VisualGeometryGroup命名)、Alex-Net(2012年提出的一种深度卷积神经网络,以第一作者Alex的名字命名)、残差网络(Residual Network,ResNet)等。此外,值得一提的是,为了使得目标图像的图像划痕特征可以更加全面和准确的表征目标图像的相关特征信息,本申请实施例中采用的卷积神经网络可以是三维卷积神经网络(3 Dimensionality Convolutional Neural Networks,3D-CNN)。
在3D CNN中,卷积核沿3个方向移动,使得3D-CNN的输出数据是4维的,因而采用3D-CNN对目标图像进行图像卷积处理,可以提取出表征的特征信息更加全面的图像划痕特征。基于此,那么,示例性地,划痕检测模型的一种示意性结构可以参见图3所示。如图3可见,划痕检测模型可以包括输入模块、图像卷积模块、预测模块以及输出模块。其中,输入模块可以用于获取目标图像,图像卷积模块则用于对目标图像进行特征提取处理,以得到目标图像的图像划痕特征,而图像卷积模块具体可以是基于3D-CNN构建得到的3D卷积编码器。此外,预测模块用于基于图像划痕特征及相应的划痕检测参数对目标图像执行划痕检测,输出模块则用于对划痕检测过程得到的划痕检测结果进行输出,使得计算机设备可以通过对划痕检测结果进行解读,来确定出目标图像中是否存在划痕,以及目标图像存在划痕时相应划痕的强度。需要说明的是,在其他实施例中,划痕检测模型中的各个模块可以合并为一个模块,或者拆分为更小的多个模块,本申请实施例对划痕检测模型的结构并不做限制,具备完成对目标图像的划痕检测的能力即可。
在一个实施例中,需要特别提出的是,本申请实施例中用到的深度神经网络,是人工智能技术和深度学习技术的产物之一。其中,人工智能(Artificial Intelligence,AI)技术是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,基于人工智能可以使机器具有感知、推理与决策的功能。具体来说,人工智能技术可以利用数字计算机或者利用数字计算机控制的机器来模拟、延伸和扩展人的智能,使得数字计算机或相关机器能够感知环境、获取知识。那么,也就是说,基于人工智能可以实现利用数字计算机或相关机器使用其学习到的知识来获得最佳结果的理论、方法、技术及应用系统。在实际应用中,人工智能技术涉及的领域广泛,其既包括硬件层面的技术也包括软件层面的技术。具体地,人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术一般包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习技术等技术。本申请实施例主要利用了人工智能技术中的计算机视觉技术以及机器学习技术。
为了便于清楚地了解本申请实施例的实现方式,以下对计算机视觉技术以及机器学习/深度学习技术进行简要介绍。
计算机视觉技术(Computer Vision,CV)是一门研究如何使机器具备“看”的能力的科学。更具体的说,采用计算机视觉技术可以实现:用电子设备(如:摄影机、电脑等)代替人眼对图像中的目标进行识别和测量等,以及进一步对图像做图像处理,使处理后的图像处理成为更适合人眼观察或传送给仪器检测的图像。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、OCR(Optical Character Recognition,光学字符识别)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D(3Dimensions,3维)技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
机器学习(Machine Learning,ML)技术及深度学习技术则是一门多领域交叉学科,其具体可以涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习技术是一门专门研究采用计算机模拟或实现人类的学习行为的技术。基于机器学习技术,计算机可以不断获取新的知识或技能,并可以重新组织已有的知识结构使计算机可以不断改善自身的性能,从而达到更好的智能处理效果(如:图像识别效果、文本翻译效果、语音生成效果等)。基于上述描述不难看出,机器学习技术可谓是人工智能技术的核心,是使计算机具有智能的根本途径。因此,机器学习技术的应用遍及人工智能的各个领域。在实际应用中,机器学习技术和深度学习技术通常包括:人工神经网络(包括深度神经网络)、置信网络、强化学习、迁移学习、归纳学习、式教学习、特征学习等技术。
S202、根据图像划痕特征指示的特征信息,确定用于对目标图像进行划痕检测的划痕检测参数,划痕检测参数是采用样本图像对划痕检测模型中的参考检测参数进行优化得到的。
在一个实施例中,图像划痕特征指示的特征信息可以包括但不限于以下一种或多种信息:划痕的分布信息、划痕的形状信息、划痕的色彩/色度信息以及划痕的数量信息等。可以理解,不同图像划痕特征用于指示不同的特征信息,而不同的特征信息表明相应的图像中具备不同的划痕,为了使得计算机设备可以对相应划痕进行准确识别,可以采用不同的划痕检测参数,基于指示不同特征信息的图像划痕特征,实现对相应图像的划痕检测。而什么样的特征信息适用于什么样的划痕检测参数,则是划痕检测模型在计算机设备采用样本图像对其进行模型训练的过程中学习得到的。模型训练的本质是对模型中的模型参数进行优化调整,以使得应用该模型参数时可以得到更加优异的处理结果,如本申请实施例中,划痕检测参数可以是计算机设备采用样本图像对划痕检测模型中的参考检测参数进行优化得到的,而参考检测参数可以是随机生成的,也可以是从相关预训练模型中获取的,本申请实施例对此不作限制。
不难理解,采用样本图像对参考检测参数进行优化的过程,是指根据从样本图像中学习到的划痕检测知识,将参考检测参数调整为更加适用于划痕检测的模型参数(即划痕检测参数)的过程。其中,划痕检测知识是指划痕检测模型对图像实现划痕检测时所采用的客观规律的总结。可选地,划痕检测知识可以包括但不限于划痕特征提取知识以及划痕识别知识等中的一种或多种,而在将划痕检测知识应用于划痕检测模型的场景中,划痕检测知识可以用模型参数来表示,使得划痕检测模型中的模型参数可以具体包括但不限于划痕检测参数以及特征提取参数等。
S203、根据确定出的划痕检测参数及图像划痕特征,对目标图像进行划痕检测,得到目标图像的划痕评价参数,划痕评价参数用于指示目标图像中是否存在划痕,且在目标图像中存在划痕时,划痕评价参数还用于指示目标图像中划痕的划痕强度。
在一个实施例中,划痕可以用强度来衡量,使得划痕评价参数可以是划痕强度,而划痕评价参数对应的参数信息则可以是强度等级信息。可选地,强度等级信息可以指示强划痕、弱划痕和无划痕中的任一个。当划痕评价参数的参数信息指示强划痕或弱划痕时,表明该目标图像中存在划痕,且针对强划痕和弱划痕而言,强划痕指示目标图像中的划痕对该目标图像造成的破坏较严重,该划痕对该目标图像的视觉显示效果的影响较大。对应地,弱划痕则指示目标图像中的划痕对该目标图像造成的破坏较轻微,该划痕对该目标图像的视觉显示效果的影响较小。此外,当划痕评价参数的参数信息指示划痕评价参数指示的无划痕时,表明该目标图像中不存在划痕。
其中,示例性地,图像中存在强划痕的情况可以包括以下一种或多种:(1)划痕粗且细密;(2)划痕面积大于某一阈值(如1平方厘米);(3)存在多条划痕,且至少两条划痕连续,造成了图像画面内容的较多缺失。图像中存在弱划痕的情况可以包括以下一种或多种:(1)划痕分散且划痕较细小;(2)多条划痕不连续,对图像画面内容造成的影响较小。当然在其他实施例中,划痕强度也可以按照其他规则进行等级划分,如分为第一强度等级、第二强度等级,...,第m强度等级等,而各个强度等级之间的强弱具备一定的顺序,且示例性地,m可以为整数,需要说明的是,本申请实施例对划痕强度的划分并不作限制。不难看出的是,划痕强度越高,表明该划痕对相应图像造成的破坏越严重,因而图像修复设备对该图像进行图像修复时的工作量越大,难度越高。可见,划痕强度这一信息在图像修复场景下有着重要作用,那么,生成可以用于指示划痕强度的划痕检测结果是必要且意义非凡的,也就使得本申请实施例在图像修复场景下具有较高应用价值。
在本申请实施例中,对目标图像的划痕检测是采用划痕检测模型进行的,而该划痕检测模型是基于深度神经网络构建的,使得该划痕检测模型可以被通过样本数据进行不断地优化,从而得到适用于对目标图像进行划痕检测的划痕检测参数,那么,可以理解,采用本申请实施例进行划痕检测时,得到的划痕检测结果将具有较高的准确度。此外,划痕检测结果至少包括划痕评价参数,而目标图像的划痕评价参数用于指示目标图像中是否存在划痕,并且在目标图像存在划痕的情况下,划痕评价参数还可以用于指示目标图像中划痕的划痕强度,使得图像修复设备可以参考目标图像的划痕强度来对其进行图像修复处理。而图像修复处理时的修复精细程度可以与相应图像的划痕强度相关,且示例性地,划痕强度越高,该图像对应的修复精细程度越高,在此情况下,纵然图像存在较强的划痕也可以得以较为完整地修复,使得修复处理后的图像具备更高的观赏价值。可见,采用本申请实施例提出的图像处理方法不仅可以有效检测出图像中的划痕,还可以得到适用于图像修复场景的划痕检测结果。
基于上述图2所示的图像处理方法,本申请实施例还提出了又一种图像处理方法,该图像处理方法的示意性流程图可以参见图4所示。其中,图4所示的方法仍然可以由上述提及的计算机设备来执行,且如图4所示,该方法可以包括步骤S401-S404:
S401、调用划痕检测模型,对目标图像进行多个参考卷积维度下的图像卷积处理,得到目标图像对应每个参考卷积维度的参考卷积特征。
在一个实施例中,参考卷积维度可以包括计算机设备对目标图像进行图像卷积处理时,卷积核的移动方向,以及卷积处理时采用的通道。也就是说,在本申请实施例中,可以采用3D卷积的方式实现对目标图像的图像卷积处理,其中,3D卷积是指卷积核在输入图像的三维空间进行滑窗操作的卷积方式,可选地,三维空间可以对应多个参考卷积维度。示例性地,多个参考卷积维度可以包括水平维度,垂直维度,以及图像对应的颜色通道维度中的任意两种或多种,而颜色通道维度可以包括但不限于R、G、B三个通道维度中的一个或多个。那么,也就是说,对目标图像进行多个参考卷积维度下的图像卷积处理,可以示例性地包括如下一种或多种:沿着目标图像的长边对目标图像进行水平方向上的卷积,对目标图像进行垂直方向上的卷积,以及针对目标图像在各个颜色通道下的像素值进行卷积。
在一个实施例中,在对目标图像进行图像卷积处理之前,计算机设备可以对目标图像进行图像预处理,图像预处理可以包括但不限于图像标准化处理(或称正常白化处理)以及图像归一化处理中的一种或两种。其中,图像标准化处理是指将数据通过去均值的方式实现中心化的处理,通过对目标图像进行图像标准化处理,可以使得目标图像中各个像素点的像素值分布更加均匀,而像素值的分布越均匀,目标图像中的特征就会变得更加明显,进而也就有利于计算机设备调用划痕检测模型提取到有效的特征。示例性地,图像标准化处理可以如RGB三通道标准化,其中,RGB中的R是指Red,即红色通道;G是指Green,即绿色通道,而B是指Blue,即蓝色通道。在一种实现方式中,计算机设备可以采用如式1所示的方式对目标图像在每个通道下进行标准化,进而实现对目标图像的RGB三通道标准化处理。
以将式1应用在红色通道下的标准化为例,式1中的I_standard是指对红色通道下的目标图像进行标准化处理后得到的图像,I_standard具体可以包括各个像素点的值;I是指红色通道下的目标图像;μ是指图像I中像素点的像素值的均值,σ为图像I中像素点的像素值的标准方差,N为图像I的宽*高,需要说明的是,图像的宽和高,可以用构成相应边的像素点的数量表示,如:图像的宽为100px,可以表示用于组成图像的宽边的像素点有100个。可以理解,对于其他通道(即绿色通道和蓝色通道)下的标准化处理,也可以参见上述关于红色通道下的公式理解,本申请实施例对此不做赘述。
此外,图像预处理中的图像归一化处理是指通过某种计算方式,将图像中的各个像素值映射为某一像素值范围内的像素值的过程。简单来说,图像归一化处理是一种简化计算的方式,通过对图像进行图像归一化处理,使得计算机设备能够找出该图像中的不变量(如像素值不变的像素点),而对这类不变量进行完善地保存可以使得图像具备抵抗几何变换攻击的能力。值得一提的是,在深度学习技术的应用中,由于深度神经网络是以样本图像在事件中的统计分别几率,来实现对相关模型的训练的,而对样本图像进行图像归一化处理,使得该模型可以更快地归纳统一样本的统计分布性,进而使得对该模型进行训练时可以具备更高的效率。示例性地,计算机设备可以采用如式2所示的方式,实现对目标图像的图像归一化处理。
式2中,I_img是指目标图像,其包括多个像素点的像素值;x是指目标图像中各像素点的像素值,min(I_img)是指目标图像中各像素点的最小像素值,max(I_img)则是指目标图像中各像素点的最大像素值,而I_norm是指对目标图像进行归一化处理后得到的图像,其同样包括多个像素点的像素值,且各个像素值的取值处于[0,1]这一范围内。此外值得一提的是,在实际应用中,I_img也可以是对目标图像进行图像标准化处理之后的图像。
S402、将多个参考卷积维度的参考卷积特征映射到至少一个目标卷积维度,得到参考卷积特征的降维卷积特征,并将降维卷积特征作为目标图像的图像划痕特征;其中,目标卷积维度的数量小于参考卷积维度的数量。
在一个实施例中,由于目标卷积维度的数量小于参考卷积维度的数量,因此计算机设备将多个参考卷积维度的参考卷积特征,映射到至少一个目标卷积维度中,本质上是特征降维处理,而特征降维处理可以实现特征筛选,使得划特征表征能力更强的特征被保留,而用于指示冗余信息的特征将被剔除,也就是使得计算机设备可以提取到更少的特征量,从而减轻了计算机设备的计算量,也就可以在一定程度上提升计算机设备的处理效率。其中,需要说明的是,在实际应用中,至少一个目标卷积维度可以包含于多个参考卷积维度中,例如:若参考卷积维度包括水平维度、垂直维度以及RGB三个颜色通道维度,那么,目标卷积维度可以包括水平维度、垂直维度以及G颜色通道维度。此外,在其他实现方式中,计算机设备也可以通过减少用于进行卷积处理的像素点的数量的方式,来实现针对相应的参考卷积维度的映射,在此情况下,参考卷积维度的数量可以和目标卷积维度的数量相同,但用于图像卷积处理时的像素点的数量并不相同,在目标卷积维度下进行图像卷积处理时的像素点的数量,少于在参考卷积维度下进行图像卷积所采用的像素点的数量。
S403、根据图像划痕特征指示的特征信息,确定用于对目标图像进行划痕检测的划痕检测参数,划痕检测参数是采用样本图像对划痕检测模型中的参考检测参数进行优化得到的。
在一个实施例中,划痕检测模型可以是模型训练设备对参考模型进行模型优化处理后得到的,模型优化的具体方式可以是对该模型包括的各个模型参数进行调整。其中,模型训练设备和计算机设备可以是同一类型的设备,如均为终端设备或均为服务器,甚至模型训练设备和计算机设备可以是同一设备,当然也可以是不同设备,本申请实施例对此不做限制。以下以计算机设备与模型训练设备为同一设备为例,对划痕检测模型的获取过程进行阐述,该过程可以示例性的包括如下步骤(1)-(5)。
(1)获取样本图像及样本图像的参考划痕评价参数。其中,样本图像的数量可以为一个或多个,且获取的样本图像可以包含多个图像类型的图像,如人物类型、风景类型以及动物类型等等。样本图像的参考划痕评价参数用于指示该样本图像是否存在划痕,并在该样本图像中存在划痕时,指示该划痕的划痕强度。示例性地,参考划痕评价参数可以是人为根据样本图像的划痕情况进行标注的,也可以是相关设备根据样本图像的划痕情况进行标注的。
(2)采用参考模型对样本图像进行特征提取,得到样本图像的图像划痕特征。其中,参考模型是基于深度神经网络构建的,且该参考模型具备对样本图像进行划痕检测的能力。或者说,参考模型可以用于对任一图像进行划痕检测,但划痕检测结果的准确度并不作保证。
(3)采用参考模型根据样本图像的图像划痕特征所指示的特征信息,从参考模型中确定用于对该样本图像进行划痕检测的参考检测参数。其中,针对样本图像确定出的参考检测参数可以是在构建参考模型时随机指定的,也可以是参考其他同类型的神经网络模型的模型参数进行设置的,本申请实施例对此不做限制。
(4)根据参考检测参数及样本图像的图像划痕特征,对该样本图像进行划痕检测,以得到该样本图像的预测划痕评价参数。具体地,可以是计算机设备采用参考检测参数对样本图像的图像划痕特征进行识别处理,从而实现对样本图像的划痕检测处理,得到样本图像的预测划痕评价参数。可以理解,预测划痕评价参数的准确度可以基于其与参考划痕评价参数之间的差异来衡量,预测划痕评价参数越准确,说明该参考模型用于对样本图像进行划痕检测时的效果越好。
(5)根据参考划痕评价参数与预测划痕评价参数之间的差异,对参考检测参数进行优化处理,以得到划痕检测参数及包含划痕检测参数的划痕检测模型。由于参考划痕评价参数与预测划痕评价参数之间的差异,可以用于衡量参考模型的划痕检测效果,而划痕检测效果与采用的参考检测参数息息相关,因此,当划痕检测效果未满足预期效果(如:参考划痕评价参数与预测划痕评价参数之间的差异未小于或等于预设的差异)时,计算机设备可以向着减小参考划痕评价参数与预测划痕评价参数之间的差异的方向,对参考检测参数进行优化处理,以使得再次采用该参考检测参数对相应样本图像进行划痕检测时,可以得到更加准确的预测划痕评价参数。在具体应用中,当采用参考检测参数对样本图像进行划痕检测得到的预测划痕评价参数符合预期效果时,可以将该参考检测参数作为划痕检测参数,该划痕检测参数在用于对样本图像的相似图像进行划痕检测时也具备较高的准确度,因而包含该划痕检测参数的模型,可以被作为本申请实施例中的划痕检测模型。
在一个实施例中,当计算机设备优化得到适用于对样本对象进行划痕检测的划痕检测参数时,可以将该样本图像的图像划痕特征指示的特征信息作为预设特征信息,并将该预设特征信息与相应的划痕检测参数进行关联存储,使得计算机设备在根据目标图像的图像划痕特征所指示的特征信息,确定用于对该目标图像进行划痕检测的划痕检测参数时,可以通过确定目标图像的图像划痕特征指示的特征信息与预设特征信息之间的匹配度来实现。具体地,计算机设备可以在确定出的匹配度大于或等于匹配度阈值时,将预设特征信息关联的划痕检测参数,作为用于对目标图像进行划痕检测的划痕检测参数。也就是说,目标图像对应的划痕检测参数,可以是计算机设备采用目标图像的相似图像,对参考模型中的相应参考检测参数进行参数优化后得到的。此外,需要说明的是,由于样本图像的数量可以为一个或多个,因此,预设特征信息也可以为一个或多个,且一个预设特征信息可以是基于一个或多个相似的样本图像对应的特征信息确定的,具体地,预设特征信息可以通过对一个或多个相似的样本图像的特征信息进行信息融合处理之后得到,本申请实施例对此不做详述。而当预设特征信息为至少一个时,计算机设备可以分别将目标图像的图像划痕特征指示的特征信息,与各个预设特征信息进行匹配,直至确定出匹配度大于或等于匹配度阈值的预设特征信息后,将该预设特征信息关联的划痕检测参数作为目标图像对应的划痕检测参数。
S404、根据确定出的划痕检测参数及图像划痕特征,对目标图像进行划痕检测,得到目标图像的划痕评价参数,划痕评价参数用于指示目标图像中是否存在划痕,且在目标图像中存在划痕时,划痕评价参数还用于指示目标图像中划痕的划痕强度。
在一个实施例中,由于目标图像可以是从视频中确定出的视频帧,因此上述针对目标图像进行划痕检测的方式,也可以应用于对目标视频的划痕检测中。具体来说,计算机设备可以从目标视频中确定出一个或多个视频帧,进而分别将各个视频帧作为目标图像,并针对每个目标图像进行上述划痕检测,以得到每个目标图像的划痕评价参数,也即上述一个或多个视频帧中各视频帧的划痕评价参数。其中,该一个或多个视频帧可以通过如图5所示的方式实现获取,如图5所示,计算机设备在获取一个或多个视频帧时,可以先获取目标视频的视频时长,及确定视频时长关联的视频片段的目标数量,以将目标视频进行视频切分处理,得到目标数量个视频片段,进而分别从每个视频片段中选取至少一个视频帧,以得到上述一个或多个视频帧。其中,视频时长关联的目标数量可以是预先设置的,也可以是按照计算公式计算得到的,该计算公式可以示例性的如式3所示。式3中,t是指目标视频的视频时长,i是指视频片段的预设切分时长,示例性地,i=20秒。
目标数量=t/i式3
针对任一视频片段,计算机设备在其中选取视频帧时,可以先确定该视频片段的片段时长及帧率信息,进而根据片段时长和帧率信息,按照如式4所示的方式,确定该视频片段的视频帧提取间隔,从而使得计算机设备可以按照视频帧提取间隔,从该视频片段包含的视频帧中提取得到至少一个视频帧。在式4中,S表示片段时长,单位可以为秒,P表示帧率信息,具体为帧率,而n是预设参数,示例性地,n=8。
帧提取间隔=(S*P)/n式4
在计算机设备从各个视频片段中提取得到相应的至少一个视频帧后,计算机设备可以基于提取得到的一个或多个视频帧所对应的划痕评价参数,确定目标视频的划痕评价参数,其中,目标视频的划痕评价参数可以用于指示该目标视频中视频帧是否存在划痕,以及存在划痕时,相应划痕的划痕强度,使得目标视频的划痕评价参数可以用于确定对目标视频进行修复处理所采用的修复策略。可见,计算机设备可以通过目标视频包含的部分视频帧,实现对目标视频的划痕检测,有效降低了计算机设备在对目标视频进行划痕检测时的工作量,进而可以提升计算机设备基于目标视频的划痕评价参数确定目标视频的修复策略时的效率。此外,计算机设备在基于该一个或多个视频帧对应的划痕评价参数,确定目标视频的划痕评价参数时,可以先确定每个视频帧的划痕评价参数所指示的划痕强度的优先级,并将确定出的优先级作为相应视频帧对应的划痕评价参数的优先级,进而从一个或多个视频帧对应的划痕评价参数中,确定出优先级最高的划痕评价参数,作为目标视频的划痕评价参数。举例来说,假设划痕强度被分为强划痕和弱划痕,而强划痕的优先级高于弱划痕,则在此情况下,假设从目标视频中确定出的一个或多个视频帧为视频帧1、视频帧2和视频帧3,那么,当视频帧1的划痕评价参数指示的划痕强度为强划痕,而视频帧2和视频帧3指示的划痕强度为弱划痕时,由于强划痕的优先级高于弱划痕,因而目标视频的划痕评价参数所指示的划痕强度是强划痕。
在本申请实施例中,对目标图像的划痕检测是采用划痕检测模型进行的,而该划痕检测模型是对基于深度神经网络构建的参考模型进行优化得到的,使得该划痕检测模型可以学习到适用于对目标图像进行划痕检测的划痕检测参数,因而采用该划痕检测模型进行划痕检测所得到的划痕检测结果,将具有较高的准确度。此外,划痕检测结果至少包括划痕评价参数,而目标图像的划痕评价参数用于指示目标图像中是否存在划痕,并且在目标图像存在划痕的情况下,划痕评价参数还可以用于指示目标图像中划痕的划痕强度,使得图像修复设备可以参考目标图像的划痕强度来对其进行图像修复处理。并且,目标图像可以是从目标视频中确定出来的,使得本申请实施例还可以应用于对视频文件的划痕检测,以及基于划痕检测结果对视频文件进行修复处理,而修复处理时的修复精细程度可以与相应划痕评价参数指示的划痕强度相关,且示例性地,划痕强度越高,对应所需的修复精细程度越高,使得存在较强的划痕的视频文件或目标图像也可以得以较为完整地修复。可见,采用本申请实施例提出的图像处理方法不仅可以有效检测出图像中的划痕,还可以得到适用于修复场景的划痕检测结果。
基于上述图像处理方法的相关描述,本申请实施例还提出了一种图像处理装置,该图像处理装置可以是关于上述所提及的计算机设备中的一个计算机程序(包括程序代码)。该图像里装置可以执行如图2以及图4所示的图像处理方法中的相关步骤。请参见图6,图6是该图像处理装置的结构示意图,该图像处理装置至少可以包括:特征提取单元601、确定单元602以及划痕检测单元603。
其中:
特征提取单元601,用于调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,所述划痕检测模型是基于深度神经网络构建的;
确定单元602,用于根据所述图像划痕特征所指示的特征信息,确定用于对所述目标图像进行划痕检测的划痕检测参数;所述划痕检测参数是采用样本图像对所述划痕检测模型中的参考检测参数进行优化得到的;
划痕检测单元603,用于根据确定出的划痕检测参数及所述图像划痕特征,对所述目标图像进行划痕检测,得到所述目标图像的划痕评价参数,所述划痕评价参数用于指示所述目标图像中是否存在划痕,且在所述目标图像中存在划痕时,所述划痕评价参数还用于指示所述目标图像中划痕的划痕强度。
在一种实施方式中,所述特征提取单元601可以具体用于执行:
调用所述划痕检测模型,对所述目标图像进行多个参考卷积维度下的图像卷积处理,得到所述目标图像对应每个参考卷积维度的参考卷积特征;
将所述多个参考卷积维度的参考卷积特征映射到至少一个目标卷积维度,得到所述参考卷积特征的降维卷积特征,并将所述降维卷积特征作为所述目标图像的图像划痕特征;其中,所述目标卷积维度的数量小于所述参考卷积维度的数量。
在又一种实施方式中,所述图像处理装置还包括模型优化单元604,该模型优化单元604可以用于执行:
获取样本图像及所述样本图像的参考划痕评价参数;
采用参考模型对所述样本图像进行特征提取,得到所述样本图像的图像划痕特征;所述参考模型是指:基于深度神经网络构建的,具备对所述样本图像进行划痕检测的能力的网络模型;
根据所述样本图像的图像划痕特征指示的特征信息,从所述参考模型中确定用于对所述样本图像进行划痕检测的参考检测参数;
采用所述参考检测参数及所述样本图像的图像划痕特征,对所述样本图像进行划痕检测,得到所述样本图像的预测划痕评价参数;
根据所述参考划痕评价参数与所述预测划痕评价参数之间的差异,对所述参考检测参数进行优化处理,以得到所述划痕检测参数及包含所述划痕检测参数的划痕检测模型。
在又一种实施方式中,该模型优化单元604还可以用于执行:
将所述样本图像的图像划痕特征指示的特征信息作为预设特征信息;
将所述预设特征信息,以及对所述参考检测参数进行优化处理得到的划痕检测参数,进行关联存储;
所述根据所述图像划痕特征所指示的特征信息,确定用于对所述目标图像进行划痕检测的划痕检测参数,包括:
确定所述图像划痕特征指示的特征信息与所述预设特征信息之间的匹配度;
在确定出的匹配度大于或等于匹配度阈值时,将所述预设特征信息关联的划痕检测参数,作为用于对所述目标图像进行划痕检测的划痕检测参数。
在又一种实施方式中,划痕检测单元603还可以用于执行:
获取目标视频,所述目标图像为所述目标视频中的视频帧;
从所述目标视频中选取一个或多个视频帧,并分别将各个视频帧作为所述目标图像,以确定各个视频帧的划痕评价参数;
根据针对所述一个或多个视频帧确定出的划痕评价参数,确定所述目标视频的划痕评价参数;其中,所述目标视频的划痕评价参数用于确定对所述目标视频进行修复处理所采用的修复策略。
在又一种实施方式中,划痕检测单元603在用于从所述目标视频中选取一个或多个视频帧时,可以具体用于执行:
获取所述目标视频的视频时长;
确定所述视频时长关联的视频片段的目标数量,并将所述目标视频进行视频切分处理,得到所述目标数量个视频片段;
分别从每个视频片段中选取至少一个视频帧,以得到所述一个或多个视频帧。
在又一种实施方式中,划痕检测单元603在根据针对所述一个或多个视频帧确定出的划痕评价参数,确定所述目标视频的划痕评价参数时,还可以具体用于执行:
确定每个视频帧的划痕评价参数所指示的划痕强度的优先级,并将确定出的优先级作为相应视频帧对应的划痕评价参数的优先级;
从所述一个或多个视频帧对应的划痕评价参数中,确定出优先级最高的划痕评价参数,作为所述目标视频的划痕评价参数。
在又一种实施方式中,划痕检测单元603在用于从任一视频片段中选取至少一个视频帧时,可以具体用于执行:
获取所述任一视频片段的片段时长,及所述任一视频片段的帧率信息;
根据所述片段时长及所述帧率信息,确定所述任一视频片段的视频帧提取间隔;
按照所述视频帧提取间隔从所述任一视频片段中提取视频帧,以得到所述至少一个视频帧。
根据本申请的一个实施例,图6所示的图像处理装置中的各个单元均是基于逻辑功能划分的,上述各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。在本申请的其它实施例中,上述基于图像处理装置也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。
根据本申请的另一个实施例,可以通过在包括中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的例如计算机的通用计算设备上运行能够执行如图2及图4所示的方法中所涉及的各步骤的计算机程序(包括程序代码),来构造如图6中所示的图像处理装置,以及来实现本申请实施例的图像处理方法。所述计算机程序可以记载于例如计算机存储介质上,并通过计算机存储介质装载于上述计算设备中,并在其中运行。
在本申请实施例中,对目标图像的划痕检测是采用划痕检测模型进行的,而该划痕检测模型是基于深度神经网络构建的,使得该划痕检测模型可以被通过样本数据进行不断地优化,从而得到适用于对目标图像进行划痕检测的划痕检测参数,那么,可以理解,采用本申请实施例进行划痕检测时,得到的划痕检测结果将具有较高的准确度。此外,划痕检测结果至少包括划痕评价参数,而目标图像的划痕评价参数用于指示目标图像中是否存在划痕,并且在目标图像存在划痕的情况下,划痕评价参数还可以用于指示目标图像中划痕的划痕强度,使得图像修复设备可以参考目标图像的划痕强度来对其进行图像修复处理。而图像修复处理时的修复精细程度可以与相应图像的划痕强度相关,且示例性地,划痕强度越高,该图像对应的修复精细程度越高,在此情况下,纵然图像存在较强的划痕也可以得以较为完整地修复,使得修复处理后的图像具备更高的观赏价值。可见,采用本申请实施例不仅可以有效检测出图像中的划痕,还可以得到适用于图像修复场景的划痕检测结果。
基于上述方法实施例以及装置实施例的相关描述,本申请实施例还提供了一种计算机设备。请参见图7,该计算机设备至少包括处理器701以及计算机存储介质702,且计算机设备的处理器701和计算机存储介质702可以通过总线或其他方式连接。
其中,上述提及的计算机存储介质702是计算机设备中的记忆设备,用于存放计算机程序和数据。可以理解的是,此处的计算机存储介质702既可以包括计算机设备中的内置存储介质,当然也可以包括计算机设备所支持的扩展存储介质。计算机存储介质702提供存储空间,该存储空间存储了计算机设备的操作系统。并且,在该存储空间中还存放了适于被处理器701加载并执行的一条或多条的计算机程序,这些计算机程序可以是一个或一个以上的程序代码。需要说明的是,此处的计算机存储介质可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器;可选的还可以是至少一个位于远离前述处理器的存储介质。处理器701(或称CPU(Central Processing Unit,中央处理器))是计算机设备的计算核心以及控制核心,其适于实现一条或多条计算机程序,具体适于加载并执行一条或多条计算机程序从而实现相应方法流程或相应功能。
在一个实施例中,可以由处理器701加载并执行计算机存储介质702中存放的一条或多条计算机程序,以实现上述有关图2以及图4所示的方法实施例中的相应步骤。在具体实现中,计算机存储介质702中的一条或多条计算机程序可以由处理器701加载并执行如下步骤:
调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,所述划痕检测模型是基于深度神经网络构建的;
根据所述图像划痕特征所指示的特征信息,确定用于对所述目标图像进行划痕检测的划痕检测参数;所述划痕检测参数是采用样本图像对所述划痕检测模型中的参考检测参数进行优化得到的;
根据确定出的划痕检测参数及所述图像划痕特征,对所述目标图像进行划痕检测,得到所述目标图像的划痕评价参数,所述划痕评价参数用于指示所述目标图像中是否存在划痕,且在所述目标图像中存在划痕时,所述划痕评价参数还用于指示所述目标图像中划痕的划痕强度。
在一种实施方式中,上述处理器701可以具体用于加载并执行:
调用所述划痕检测模型,对所述目标图像进行多个参考卷积维度下的图像卷积处理,得到所述目标图像对应每个参考卷积维度的参考卷积特征;
将所述多个参考卷积维度的参考卷积特征映射到至少一个目标卷积维度,得到所述参考卷积特征的降维卷积特征,并将所述降维卷积特征作为所述目标图像的图像划痕特征;其中,所述目标卷积维度的数量小于所述参考卷积维度的数量。
在又一种实施方式中,上述处理器701还可以具体用于加载并执行:
获取样本图像及所述样本图像的参考划痕评价参数;
采用参考模型对所述样本图像进行特征提取,得到所述样本图像的图像划痕特征;所述参考模型是指:基于深度神经网络构建的,具备对所述样本图像进行划痕检测的能力的网络模型;
根据所述样本图像的图像划痕特征指示的特征信息,从所述参考模型中确定用于对所述样本图像进行划痕检测的参考检测参数;
采用所述参考检测参数及所述样本图像的图像划痕特征,对所述样本图像进行划痕检测,得到所述样本图像的预测划痕评价参数;
根据所述参考划痕评价参数与所述预测划痕评价参数之间的差异,对所述参考检测参数进行优化处理,以得到所述划痕检测参数及包含所述划痕检测参数的划痕检测模型。
在又一种实施方式中,上述处理器701还可以具体用于加载并执行:
将所述样本图像的图像划痕特征指示的特征信息作为预设特征信息;
将所述预设特征信息,以及对所述参考检测参数进行优化处理得到的划痕检测参数,进行关联存储;
所述根据所述图像划痕特征所指示的特征信息,确定用于对所述目标图像进行划痕检测的划痕检测参数,包括:
确定所述图像划痕特征指示的特征信息与所述预设特征信息之间的匹配度;
在确定出的匹配度大于或等于匹配度阈值时,将所述预设特征信息关联的划痕检测参数,作为用于对所述目标图像进行划痕检测的划痕检测参数。
在又一种实施方式中,上述处理器701还可以具体用于加载并执行:
获取目标视频,所述目标图像为所述目标视频中的视频帧;
从所述目标视频中选取一个或多个视频帧,并分别将各个视频帧作为所述目标图像,以确定各个视频帧的划痕评价参数;
根据针对所述一个或多个视频帧确定出的划痕评价参数,确定所述目标视频的划痕评价参数;其中,所述目标视频的划痕评价参数用于确定对所述目标视频进行修复处理所采用的修复策略。
在又一种实施方式中,上述处理器701还可以具体用于加载并执行:
获取所述目标视频的视频时长;
确定所述视频时长关联的视频片段的目标数量,并将所述目标视频进行视频切分处理,得到所述目标数量个视频片段;
分别从每个视频片段中选取至少一个视频帧,以得到所述一个或多个视频帧。
在又一种实施方式中,上述处理器701还可以具体用于加载并执行:
确定每个视频帧的划痕评价参数所指示的划痕强度的优先级,并将确定出的优先级作为相应视频帧对应的划痕评价参数的优先级;
从所述一个或多个视频帧对应的划痕评价参数中,确定出优先级最高的划痕评价参数,作为所述目标视频的划痕评价参数。
在又一种实施方式中,上述处理器701还可以具体用于加载并执行:
获取所述任一视频片段的片段时长,及所述任一视频片段的帧率信息;
根据所述片段时长及所述帧率信息,确定所述任一视频片段的视频帧提取间隔;
按照所述视频帧提取间隔从所述任一视频片段中提取视频帧,以得到所述至少一个视频帧。
在本申请实施例中,对目标图像的划痕检测是采用划痕检测模型进行的,而该划痕检测模型是基于深度神经网络构建的,使得该划痕检测模型可以被通过样本数据进行不断地优化,从而得到适用于对目标图像进行划痕检测的划痕检测参数,那么,可以理解,采用本申请实施例进行划痕检测时,得到的划痕检测结果将具有较高的准确度。此外,划痕检测结果至少包括划痕评价参数,而目标图像的划痕评价参数用于指示目标图像中是否存在划痕,并且在目标图像存在划痕的情况下,划痕评价参数还可以用于指示目标图像中划痕的划痕强度,使得图像修复设备可以参考目标图像的划痕强度来对其进行图像修复处理。而图像修复处理时的修复精细程度可以与相应图像的划痕强度相关,且示例性地,划痕强度越高,该图像对应的修复精细程度越高,在此情况下,纵然图像存在较强的划痕也可以得以较为完整地修复,使得修复处理后的图像具备更高的观赏价值。可见,采用本申请实施例不仅可以有效检测出图像中的划痕,还可以得到适用于图像修复场景的划痕检测结果。
在一个实施例中,本申请还提供了一种计算机存储介质,该计算机存储介质中存储了上述图像处理方法对应的一条或多条计算机程序,当处理器加载并执行该一条或多条计算机程序,可以实现实施例中对图像处理方法的描述,在此不再赘述。对采用相同方法的有益效果的描述,在此不再赘述。此外,需要特别说明的是,计算机程序可以被部署在一个或多个能够相互通信的设备上执行。
需要说明的是,根据本申请实施例的一个方面,还提供了一种计算机程序产品,该计算机程序产品包括计算机程序,该计算机程序存储在计算机存储介质中。计算机设备中的处理器从计算机存储介质读取该计算机程序,然后执行该计算机程序,进而使得该计算机设备能够执行上述图2以及图4所示的图像处理方法实施例中相关方面的各种可选方式中提供的方法。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于计算机存储介质中,该计算机程序在执行时,可包括如上述视频处理方法的实施例的流程。其中,计算机存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(RandomAccess Memory,RAM)等。
可以理解的是,以上所揭露的仅为本申请的局部实施例而已,当然不能以此来限定本申请之权利范围,本领域普通技术人员可以理解实现上述实施例的全部或局部流程,并依本申请权利要求所作的等同变化,仍属于本申请所涵盖的范围。

Claims (9)

1.一种图像处理方法,其特征在于,包括:
调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,所述划痕检测模型是基于深度神经网络构建的,其中,所述划痕检测模型的获取方式包括:获取样本图像及所述样本图像的参考划痕评价参数;采用参考模型对所述样本图像进行特征提取,得到所述样本图像的图像划痕特征;所述参考模型是指:基于深度神经网络构建的,具备对所述样本图像进行划痕检测的能力的网络模型;根据所述样本图像的图像划痕特征指示的特征信息,从所述参考模型中确定用于对所述样本图像进行划痕检测的参考检测参数;采用所述参考检测参数及所述样本图像的图像划痕特征,对所述样本图像进行划痕检测,得到所述样本图像的预测划痕评价参数;根据所述参考划痕评价参数与所述预测划痕评价参数之间的差异,对所述参考检测参数进行优化处理,以得到所述划痕检测参数及包含所述划痕检测参数的划痕检测模型,将所述样本图像的图像划痕特征指示的特征信息作为预设特征信息;将所述预设特征信息,以及对所述参考检测参数进行优化处理得到的划痕检测参数,进行关联存储;
确定所述目标图像的图像划痕特征指示的特征信息与所述预设特征信息之间的匹配度;
在确定出的匹配度大于或等于匹配度阈值时,将所述预设特征信息关联的划痕检测参数,作为用于对所述目标图像进行划痕检测的划痕检测参数;
根据确定出的划痕检测参数及所述图像划痕特征,对所述目标图像进行划痕检测,得到所述目标图像的划痕评价参数,所述划痕评价参数用于指示所述目标图像中是否存在划痕,且在所述目标图像中存在划痕时,所述划痕评价参数还用于指示所述目标图像中划痕的划痕强度。
2.根据权利要求1所述的方法,其特征在于,所述调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,包括:
调用所述划痕检测模型,对所述目标图像进行多个参考卷积维度下的图像卷积处理,得到所述目标图像对应每个参考卷积维度的参考卷积特征;
将所述多个参考卷积维度的参考卷积特征映射到至少一个目标卷积维度,得到所述参考卷积特征的降维卷积特征,并将所述降维卷积特征作为所述目标图像的图像划痕特征;其中,所述目标卷积维度的数量小于所述参考卷积维度的数量。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取目标视频,所述目标图像为所述目标视频中的视频帧;
从所述目标视频中选取一个或多个视频帧,并分别将各个视频帧作为所述目标图像,以确定各个视频帧的划痕评价参数;
根据针对所述一个或多个视频帧确定出的划痕评价参数,确定所述目标视频的划痕评价参数;其中,所述目标视频的划痕评价参数用于确定对所述目标视频进行修复处理所采用的修复策略。
4.根据权利要求3所述的方法,其特征在于,所述从所述目标视频中选取一个或多个视频帧,包括:
获取所述目标视频的视频时长;
确定所述视频时长关联的视频片段的目标数量,并将所述目标视频进行视频切分处理,得到所述目标数量个视频片段;
分别从每个视频片段中选取至少一个视频帧,以得到所述一个或多个视频帧。
5.根据权利要求3或4所述的方法,其特征在于,所述根据针对所述一个或多个视频帧确定出的划痕评价参数,确定所述目标视频的划痕评价参数,包括:
确定每个视频帧的划痕评价参数所指示的划痕强度的优先级,并将确定出的优先级作为相应视频帧对应的划痕评价参数的优先级;
从所述一个或多个视频帧对应的划痕评价参数中,确定出优先级最高的划痕评价参数,作为所述目标视频的划痕评价参数。
6.根据权利要求4所述的方法,其特征在于,从任一视频片段中选取至少一个视频帧的方式包括:
获取所述任一视频片段的片段时长,及所述任一视频片段的帧率信息;
根据所述片段时长及所述帧率信息,确定所述任一视频片段的视频帧提取间隔;
按照所述视频帧提取间隔从所述任一视频片段中提取视频帧,以得到所述至少一个视频帧。
7.一种图像处理装置,其特征在于,包括:
特征提取单元,用于调用划痕检测模型对目标图像进行特征提取,得到所述目标图像的图像划痕特征,所述划痕检测模型是基于深度神经网络构建的,其中,所述划痕检测模型的获取方式包括:获取样本图像及所述样本图像的参考划痕评价参数;采用参考模型对所述样本图像进行特征提取,得到所述样本图像的图像划痕特征;所述参考模型是指:基于深度神经网络构建的,具备对所述样本图像进行划痕检测的能力的网络模型;根据所述样本图像的图像划痕特征指示的特征信息,从所述参考模型中确定用于对所述样本图像进行划痕检测的参考检测参数;采用所述参考检测参数及所述样本图像的图像划痕特征,对所述样本图像进行划痕检测,得到所述样本图像的预测划痕评价参数;根据所述参考划痕评价参数与所述预测划痕评价参数之间的差异,对所述参考检测参数进行优化处理,以得到所述划痕检测参数及包含所述划痕检测参数的划痕检测模型,将所述样本图像的图像划痕特征指示的特征信息作为预设特征信息;将所述预设特征信息,以及对所述参考检测参数进行优化处理得到的划痕检测参数,进行关联存储;
确定单元,用于确定所述目标图像的图像划痕特征指示的特征信息与所述预设特征信息之间的匹配度;在确定出的匹配度大于或等于匹配度阈值时,将所述预设特征信息关联的划痕检测参数,作为用于对所述目标图像进行划痕检测的划痕检测参数;
划痕检测单元,用于根据确定出的划痕检测参数及所述图像划痕特征,对所述目标图像进行划痕检测,得到所述目标图像的划痕评价参数,所述划痕评价参数用于指示所述目标图像中是否存在划痕,且在所述目标图像中存在划痕时,所述划痕评价参数还用于指示所述目标图像中划痕的划痕强度。
8.一种计算机设备,其特征在于,包括:
处理器,适于实现一条或多条计算机程序;
计算机存储介质,所述计算机存储介质存储有一条或多条计算机程序,所述一条或多条计算机程序适于由所述处理器加载并执行如权利要求1-6中任一项所述的图像处理方法。
9.一种计算机存储介质,其特征在于,所述计算机存储介质存储有一条或多条计算机程序,所述一条或多条计算机程序适于由处理器加载并执行如权利要求1-6中任一项所述的图像处理方法。
CN202211743685.XA 2022-12-30 2022-12-30 图像处理方法、装置、计算机设备及计算机存储介质 Active CN116012248B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211743685.XA CN116012248B (zh) 2022-12-30 2022-12-30 图像处理方法、装置、计算机设备及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211743685.XA CN116012248B (zh) 2022-12-30 2022-12-30 图像处理方法、装置、计算机设备及计算机存储介质

Publications (2)

Publication Number Publication Date
CN116012248A CN116012248A (zh) 2023-04-25
CN116012248B true CN116012248B (zh) 2024-03-26

Family

ID=86028162

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211743685.XA Active CN116012248B (zh) 2022-12-30 2022-12-30 图像处理方法、装置、计算机设备及计算机存储介质

Country Status (1)

Country Link
CN (1) CN116012248B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111582116A (zh) * 2020-04-29 2020-08-25 腾讯科技(深圳)有限公司 一种视频抹除痕迹检测方法、装置、设备和存储介质
CN112102212A (zh) * 2020-11-19 2020-12-18 腾讯科技(深圳)有限公司 一种视频修复方法、装置、设备及存储介质
CN114283050A (zh) * 2021-09-23 2022-04-05 腾讯科技(深圳)有限公司 图像处理方法、装置、设备及存储介质
CN114331985A (zh) * 2021-12-21 2022-04-12 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) 电子元器件划痕缺陷检测方法、装置和计算机设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111582116A (zh) * 2020-04-29 2020-08-25 腾讯科技(深圳)有限公司 一种视频抹除痕迹检测方法、装置、设备和存储介质
CN112102212A (zh) * 2020-11-19 2020-12-18 腾讯科技(深圳)有限公司 一种视频修复方法、装置、设备及存储介质
CN114283050A (zh) * 2021-09-23 2022-04-05 腾讯科技(深圳)有限公司 图像处理方法、装置、设备及存储介质
CN114331985A (zh) * 2021-12-21 2022-04-12 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) 电子元器件划痕缺陷检测方法、装置和计算机设备

Also Published As

Publication number Publication date
CN116012248A (zh) 2023-04-25

Similar Documents

Publication Publication Date Title
US11830230B2 (en) Living body detection method based on facial recognition, and electronic device and storage medium
US10943145B2 (en) Image processing methods and apparatus, and electronic devices
Zhang et al. The application of visual saliency models in objective image quality assessment: A statistical evaluation
CN109117755B (zh) 一种人脸活体检测方法、系统和设备
CN112308095A (zh) 图片预处理及模型训练方法、装置、服务器及存储介质
CN109948566B (zh) 一种基于权重融合与特征选择的双流人脸反欺诈检测方法
CN109815797B (zh) 活体检测方法和装置
CN114067444A (zh) 基于元伪标签和光照不变特征的人脸欺骗检测方法和系统
CN110827312A (zh) 一种基于协同视觉注意力神经网络的学习方法
CN112329851A (zh) 一种图标检测方法、装置及计算机可读存储介质
WO2023165616A1 (zh) 图像模型隐蔽后门的检测方法及系统、存储介质、终端
CN117557784B (zh) 目标检测方法、装置、电子设备及存储介质
CN115880765A (zh) 区域入侵异常行为检测方法、装置及计算机设备
CN113570615A (zh) 一种基于深度学习的图像处理方法、电子设备及存储介质
CN115294162B (zh) 目标识别方法、装置、设备及存储介质
CN112749696A (zh) 一种文本检测方法及装置
CN116798041A (zh) 图像识别方法、装置和电子设备
JP3962517B2 (ja) 顔面検出方法及びその装置、コンピュータ可読媒体
CN116012248B (zh) 图像处理方法、装置、计算机设备及计算机存储介质
CN116229528A (zh) 一种活体掌静脉检测方法、装置、设备及存储介质
CN113723310B (zh) 基于神经网络的图像识别方法及相关装置
CN113468954B (zh) 基于多通道下局部区域特征的人脸伪造检测方法
CN116415019A (zh) 虚拟现实vr图像识别方法及装置、电子设备、存储介质
CN113610071A (zh) 人脸活体检测方法、装置、电子设备及存储介质
CN113706636A (zh) 一种用于篡改图像识别的方法与装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40084278

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant