CN115409696A - 图像处理方法、装置、电子设备及存储介质 - Google Patents

图像处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115409696A
CN115409696A CN202110590685.XA CN202110590685A CN115409696A CN 115409696 A CN115409696 A CN 115409696A CN 202110590685 A CN202110590685 A CN 202110590685A CN 115409696 A CN115409696 A CN 115409696A
Authority
CN
China
Prior art keywords
image
reference image
pixel points
determining
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110590685.XA
Other languages
English (en)
Inventor
陈秋伯
陈铭津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zitiao Network Technology Co Ltd
Original Assignee
Beijing Zitiao Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zitiao Network Technology Co Ltd filed Critical Beijing Zitiao Network Technology Co Ltd
Priority to CN202110590685.XA priority Critical patent/CN115409696A/zh
Priority to PCT/CN2022/092072 priority patent/WO2022247630A1/zh
Publication of CN115409696A publication Critical patent/CN115409696A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/02—Affine transformations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4023—Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本公开实施例提供一种图像处理方法、装置、电子设备及存储介质，通过获取多帧初始图像，其中，多帧初始图像是针对同一场景拍摄的多帧不同图像，多帧初始图像中包括基准图像和非基准图像；计算从非基准图像到基准图像的光流；基于从非基准图像到基准图像中的光流，确定非基准图像中与基准图像中基准像素点相对应的参考像素点；通过将非基准图像中的参考像素点与基准图像中的基准像素点进行插值计算，对非基准图像与基准图像进行像素融合，生成目标图像，由于在生成目标图像的过程中，充分利用了待处理多帧图像中，各帧图像的原始像素信息，避免了部分图像信息丢失，提高了最终生成的目标图像的成像效果和图像细节。

Description

图像处理方法、装置、电子设备及存储介质
技术领域
本公开实施例涉及图像处理技术领域，尤其涉及一种图像处理方法、装置、电子设备及存储介质。
背景技术
随着电子影像和图像处理技术的发展，基于智能终端的拍照功能越来越强大，但同时，用户对拍摄照片的质量要求也越来越高，受限于感光元件尺寸、镜头及模组等硬件单元在性能、成本、部署空间等方面的限制，智能手机通过原生相机系统拍摄的照片质量较差，导致拍摄的照片细节辨识度差、信噪比低。
目前，现有技术中的方案，是在得到原生相机拍摄的目标照片后，通过多张照片对目标照片进行优化，生成高分辨率图像，以提高图片质量。然而，现有技术中的方案，仍存在由于图像信息丢失而导致的图像成像效果差，细节辨识度低的问题。
发明内容
本公开实施例提供一种图像处理方法、装置、电子设备及存储介质，以克服在生成高分辨率图像时成像效果差，图像细节辨识度低的问题。
第一方面，本公开实施例提供一种图像处理方法，包括：
获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；计算从所述非基准图像到所述基准图像的光流；基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像。
第二方面，本公开实施例提供一种图像处理装置，包括：
获取单元，用于获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；
第一确定单元，用于计算从所述非基准图像到所述基准图像的光流；
第二确定单元，根据基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；
生成单元，用于通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像。
第三方面，本公开实施例提供一种电子设备，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第四方面，本公开实施例提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第五方面，本公开实施例提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
本实施例提供的图像处理方法、装置、电子设备及存储介质，通过获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；计算从所述非基准图像到所述基准图像的光流；基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像，由于在生成目标图像的过程中，目标图像中的每一插值像素点，均是利用基准图像中对应的基准像素点和非基准图像中对应的参考像素点进行像素融合而得到的，因此，充分利用了待处理多帧图像中，各帧图像的原始像素信息，避免了部分图像信息丢失和引入误差的问题，提高了最终生成的目标图像的成像效果和图像细节。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的一种应用场景图；
图2为现有技术中一种生成高分辨率图像的方法示意图；
图3为本公开实施例提供的图像处理方法流程示意图一；
图4为本公开实施例提供的一种对基准图像进行插值计算的示意图；
图5为本公开实施例提供的一种确定参考像素点的示意图；
图6为本公开实施例提供的图像处理方法流程示意图二；
图7为确定与第一插值像素点对应的参考点坐标的过程的流程图；
图8为本公开实施例提供的一种第一插值像素点和与其对应的边缘像素点的示意图；
图9为本公开实施例提供的一种第一预设范围的示意图；
图10为本公开实施例提供的一种第二预设范围的示意图；
图11为本公开实施例提供的图像处理装置的结构框图；
图12为本公开实施例提供的一种电子设备的结构示意图；
图13为本公开实施例提供的电子设备的硬件结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
图1为本公开实施例提供的一种应用场景图，本公开实施例提供的图像处理方法可以应用于智能终端，例如智能手机，参考图1，在通过智能手机进行拍摄的应用场景中，用户使用智能手机，通过一次拍摄操作，生成多帧低分辨率的图像，此过程中，智能手机通过显示“正在改善分辨率，请勿移动”的提示信息，提示用户不要移动手机，以便于采集多帧同一场景下连续变化的图像。之后，智能手机通过内置的程序或软件，对该低分辨率图像进行处理，生成一帧高分辨率的图像，并进行显示，使用户能够得到图像更清晰、图像细节更好的照片。
图2为现有技术中一种生成高分辨率图像的方法示意图，如图2所示，现有技术中，在对多帧低分辨率图像进行处理，生成高分辨率图像的过程中，通常采用的方法是，将多帧图像中的一帧图像作为参考帧，计算参考帧至非参考帧的光流，再根据光流计算结果，将其他非参考帧的图像通过仿设变换(warp)对齐至参考帧并进行插值融合，生成插值图像。然而在将其他帧图像对齐至参考帧的过程中，由于仿设变换的算法本身会引入一定误差，因此，在各其他帧图像对齐之后，各其他帧图像已经不是原始图像，因此存在原始的亚像素信息损失的问题，导致之后利用对齐后的多帧图片进行插值融合，生成的高分辨率的插值图像，存在成像效果差，图像细节辨识度低的问题。
图3为本公开实施例提供的图像处理方法流程示意图一。本实施例的方法可以应用在智能终端中，该图像处理方法包括：
步骤S101，获取多帧初始图像，其中，多帧初始图像是针对同一场景拍摄的多帧不同图像，多帧初始图像中包括基准图像和非基准图像。
示例性地，智能终端例如为智能手机，待智能手机上设置有一个或多个摄像头。获取多帧初始图像，可以是通过智能手机的一个或多个摄像头，拍摄的在同一个场景下的连续变化的多帧图片。多帧图片之间具有连续变化的偏移。更具体地，通过智能手机拍摄多帧图片的动作，可以是通过用户的一次拍摄操作所触发的，例如，用户按下“拍照”按键，智能手机在短时间内(例如0.5秒内)拍摄10张照片，并进行保存，生成多帧初始图像。由于用户手持手机会产生晃动，因此智能手机拍摄的各图片之间存在一定程度的连续变化的偏移。当然，通过智能手机拍摄多帧图片的动作，也可以是通过用户短时间内的多次拍摄操作所触发的，生成多帧初始图像的过程类似，此处不再进行赘述。
进一步地，在多帧初始图像中，包括基准图像和非基准图像，其中，示例性地，基准图像可以是多帧初始图像中，成像效果较好的图像，或者清晰度较高的图像，基准图像和非基准图像可以通过预设的算法对多帧初始图像进行处理后确定，例如评估各初始图像的清晰度，将清晰度最高的待处理图片，确定为基准图像，将初始图像中的其他图像，确定为非基准图像。当然，多帧初始图像中的基准图像和非基准图像，也可以是根据预设的规则确定的，例如将多帧初始图像中的第一帧图像，或者最后一帧图像，确定为基准图像，此处不再对该过程进行赘述。
步骤S102，计算从非基准图像到基准图像的光流。
光流(Optical Flow)是物体在三维空间中是物体在三维空间中的运动在二维像平面上的投影。它是由物体和相机的相对速度产生的，反映了物体在极小时间内对应的图像像素的运动方向和速度。在本实施例中，计算从非基准图像到基准图像的光流，即通过预设的光流算法，计算非基准图像中每一像素到基准图像的位置映射，也即，对于非基准图像中的每一像素点，在基准图像中和此非基准图像中的像素点最相似的像素点的位置，而得到的光流，即为表征该位置映射的信息。其中，光流算法为本领域技术人员知晓的现有技术，此次不对光流算法的具体类型进行限制，也不再一一赘述。
步骤S103，基于从非基准图像到基准图像中的光流，确定非基准图像中与基准图像中基准像素点相对应的参考像素点。
示例性地，在确定非基准图像到基准图像中的光流后，根据基准图像中基准像素点的位置，分别在其他的非基准图像中，确定与该基准像素点有关的像素点，即参考像素点。其中，参考像素点包含了该基准像素点对应的，由于非基准图像之间的连续变化的偏移而产生的亚像素信息，因此，根据参考像素点确定的插值像素点，能够更好的表现图像细节，使插值后的高分辨率图像的视觉表现更加真实。
示例性地，图4为本公开实施例提供的一种确定参考像素点的示意图，如图4所示，确定与基准像素点对应的参考像素点的方法，可以通过对基准图像进行光流计算，得到非基准图像到基准图像的光流，在根据光流计算结果，将基准像素点映射到非基准图像中，确定在非基准图像中，与该基准像素点在该非基准图像的映射点相距预设距离内的像素点，并将上述相距预设距离内的像素点，作为参考像素点。其中，光流计算的方法为本领域技术人员所知晓的现有技术，此处不再赘述。
步骤S104，通过将非基准图像中的参考像素点与基准图像中的基准像素点进行插值计算，对非基准图像与基准图像进行像素融合，生成目标图像。
具体地，为生成高分辨率的目标图像，需要对基准图像插值所生成的高分辨率的目标图像中每一插值像素点，进行像素信息填充，其中，每一插值像素点对应的参考像素点，是原本在其他非基准图像中的一个或多个原始像素点，插值像素点对应的将基准像素点和对应的参考像素点进行像素融合，所生成的像素点，即为插值像素点。插值像素点包含了不同非基准图像中的原始的亚像素信息，因此由插值像素点构成的高分辨率目标图像，相比现有技术中对非基准图像通过仿设变换进行对齐后，再进行像素融合得到目标图像的方案，本实施例提供的方法生成的插值图像，更好的利用了初始图像中的图像信息，使插值图像的图像细节更好。
其中，对多个像素点进行像素融合的方法，可以通过各像素点的像素值进行加权平均的方式实现，此处不再对该过程进行赘述。
在本实施例中，通过获取多帧初始图像，其中，多帧初始图像是针对同一场景拍摄的多帧不同图像，多帧初始图像中包括基准图像和非基准图像；计算从非基准图像到基准图像的光流；基于从非基准图像到基准图像中的光流，确定非基准图像中与基准图像中基准像素点相对应的参考像素点；通过将非基准图像中的参考像素点与基准图像中的基准像素点进行插值计算，对非基准图像与基准图像进行像素融合，生成目标图像，由于在生成目标图像的过程中，目标图像中的每一插值像素点，均是利用基准图像中对应的基准像素点和非基准图像中对应的参考像素点进行像素融合而得到的，因此，充分利用了待处理多帧图像中，各帧图像的原始像素信息，避免了部分图像信息丢失和引入误差的问题，提高了最终生成的目标图像的成像效果和图像细节。
图5为本公开实施例提供的图像处理方法流程示意图二。本实施例中对步骤S102-S103进行细化，该图像处理方法包括：
步骤S201，获取连续变化的多帧初始图像，其中，多帧初始图像包括基准图像和非基准图像。
步骤S202，获取预设的分辨率信息，并根据分辨率信息和基准图像的尺寸信息，确定基准图像中的基准像素点，基准像素点是对基准图像中的原始像素点插值得到的，基准像素点的数量大于原始像素点的数量。
示例性地，在基准图像的基础上，对基准图像进行插值计算，能够生成一帧高分辨率图像，根据高分辨率图像确定基准图像中的基准像素点。图6为本公开实施例提供的一种对基准图像进行插值计算的示意图，如图6所示，示例性地，基准图像为包含4个像素点，分辨率为2X2的图像，对基准图像进行插值计算后，确定的高分辨率图像为包含16个像素点，分辨率为4X4的图像，高分辨率图像中的各像素点，即为基准像素点。之后，对该高分辨率图像中的各像素点进行像素信息填充后，即可生成目标图像，对基准图像进行插值计算后，可以确定基准图像中各基准像素点在基准图像中的位置，该基准像素点在基准图像中的位置记录在插值图像信息。更具体地，插值图像信息中包括插值图像中各基准像素点的坐标值。
其中，对基准图像进行插值计算，可根据预设的分辨率信息确定，也可根据初始图像的帧数动态确定，此处不进行限制，根据分辨率信息和基准图像的尺寸信息，确定基准图像中的基准像素点后，基准像素点的数量大于原始像素点的数量，相当于对基准图像进行插值计算后，所对应的高分辨率图像的分辨率大于初始的基准图像的分辨率，图像插值计算的具体步骤为本领域人员所知晓的现有技术，此处不再赘述。
步骤S203，计算从非基准图像到基准图像的光流。
步骤S204，基于从非基准图像到基准图像中的光流，确定非基准图像中，与基准像素点所在图像位置对应的参考点坐标。
其中，基准图像中包括多个基准像素点，示例性地，可以采用循环依次处理或并行处理的方式，对每一基准像素点进行光流计算，下面以对其中一个基准像素点进行光流计算，确定与该基准像素点所在图像位置对应的参考点坐标的过程进行详细介绍。
图7为确定与基准像素点所在图像位置对应的参考点坐标的过程的流程图，如图7所示，该过程包括：
S2041，获取基准像素点的坐标。
S2042，在基准图像中，确定与基准像素点的坐标对应的边缘像素点，其中，边缘像素点用于表征与基准像素点临近的至少一个像素点。
示例性地，基准像素点的坐标可以通过分辨率信息和基准图像的尺寸信息获得，通过分辨率信息和基准图像的尺寸信息，可以生成插值图像信息，插值图像信息中包括基准图像中各基准像素点的坐标，插值图像信息的实现方式已在前述实施例中进行了详细介绍，此处不再赘述。进一步地，在基准图像中，根据基准像素点的坐标，确定距离该坐标最近的若干原始像素点，即边缘像素点。图8为本公开实施例提供的一种基准像素点和与其对应的边缘像素点的示意图，如图8所示，根据基准像素点O的坐标，分别计算距离其最近的四个原始像素点，即A、B、C、D，从而将A、B、C、D四个基准图像中的原始像素点确定为边缘像素点。当然，根据第一基准像素点O位置的变化，与其相邻的像素点也可能少于4个，此处不再一一举例赘述。
更具体地，A、B、C、D的具体计算方式可以如式(1)所示：
Figure BDA0003089391310000081
其中，a、b为第一基准像素点O的坐标(a,b)的坐标值，floor()为向下取整函数。
S2043，基于从非基准图像到基准图像中的光流，确定边缘像素点在非基准图像中的偏移矢量。
示例性地，确定边缘像素点在非基准图像中的偏移矢量的一种实现方式例如为：通过光流算法，计算基准图像至非基准图像之间的矢量信息，其中，矢量信息用于表征基准图像中的像素点，在非基准图像中的对应位置的像素点之间的偏移矢量；根据运动矢量信息，确定边缘像素点在非基准图像中的偏移矢量。其中，光流算法通过光流函数OF()实现，光流计算的一般表达式如式(2)所示：
Ft(x,y)＝Fr((x,y)+OF(x,y)),t∈[1,N] (2)
其中，(x,y)为基准图像中像素点的坐标，r为基准帧的索引，t为非基准帧的索引，N为非参考图像的帧数。OF()为光流函数，OF(x,y)为像素点的光流计算结果，当该光流计算结果包含小数时，其小数部分表示映射到的亚像素位置。通过式(2)可以实现基准图像中的像素点向非基准图像的映射。
进一步地，分别对边缘像素点进行光流计算，确定各边缘像素点的光流计算结果，并进行加权平均计算，可以得到一个平均偏移量，即偏移矢量，示例性地，该偏移矢量的计算方法如式(3)所示：
offset＝medium(OF(A),OF(B),OF(C),OF(D)) (3)
其中，offset为偏移矢量，medium()为加权平均计算，OF(A)、OF(B)、OF(C)、OF(D)分别为边缘像素点A、B、C、D的光流计算结果。
S2044，根据基准像素点的坐标与偏移矢量，确定参考点坐标。
进一步地，根据偏移矢量对第一基准像素点的坐标做偏移处理，即可确定在非基准图像中的参考坐标点，示例性地，实现方法如式(4)所示：
center1＝round((a,b)-offset) (4)
其中，a、b为第一基准像素点O的坐标(a,b)的坐标值，round()为四舍五入取整函数，参考坐标点为center1。
步骤S205，将非基准图像中，位于参考点坐标的第一预设范围内的所有像素点，确定为参考像素点。
图9为本公开实施例提供的一种第一预设范围的示意图，参考图9，进一步地，在根据基准像素点91在非基准图像的映射以及偏移矢量，确定每一位于非基准图像中参考点坐标92后，根据参考点坐标92，分别确定每一非基准图像中，位于参考点坐标92第一预设范围内的像素点，并将该一个或多个像素点，确定为参考像素点93。其中，示例性地，第一预设范围是根据边缘像素点在非基准图像中的偏移矢量的方差，以及预设的权重系数确定的。
示例性地，确定非基准图像中，位于参考点坐标第一预设范围内的像素点的实现方法，可以通过加窗的方式实现，其中，通过加窗半径的大小，确定第一预设范围。更具体地，确定加窗半径的方法，如式(5)和式(6)所示：
r1＝(1-weight)*r1_th1+(weight)*r1_th2 (5)
weight＝min(variance(OF(A),OF(B),OF(C),OF(D)),weight_max)/weight_max(6)
其中，r1为加窗半径，weight为加窗权重系数，variance()是方差函数，min()是最小值函数，r1_th1、r1_th2和weight_max为预设阈值，且r1_th2>r1_th1>1，weight_max>0，r1_th1、r1_th2和weight_max由初始图像的图像尺寸、图像内容、纹理信息等因素确定，可以通过实验而获得，此处不对其确定方法进行赘述。
本实施例中，在通过光流计算确定参考点坐标后，通过确定第一预设范围，而获得第一预设范围内的参考像素点，由于第一预设范围的确定过程，通过参数的设置，考虑了图像尺寸、图像内容、纹理信息等因素的影响，以此确定的第一预设范围，能够更好的确定出与基准像素点相关性更好的参考像素点，进而提高参考像素点的有效性，提高后续合成的目标图像的图像细节和图像表现力。
可选地，在步骤S205之后，为了进一步地的提高参考像素点与基准像素点的相关性，提高后续对非基准图像与基准图像进行像素融合的准确性，还包括：
S206，确定参考像素点在基准图像中的映射坐标。
S207，将映射坐标中落入基准像素点的第二预设范围内的参考像素点，确定为有效参考像素点。
图10为本公开实施例提供的一种第二预设范围的示意图，参考图10，示例性地，在确定以参考点坐标为中心点的第一预设范围后，该范围内的所有原始像素点，可以作为参考像素点，进行后续的像素融合，从而确定对应的插值像素点的像素值，其中，目标图像是由插值像素点构成的，基准像素点与插值像素点的位置重合。然而，在第一预设范围内的参考像素点93向基准图像映射后，会生成对应的映射坐标94，该映射坐标94所对应的基准像素点91有的较近，而有的较远，对于较远的映射坐标94所对应的参考像素点93，由于偏离插值像素点较远，因此其所表征的图像信息，与基准像素点91所对应位置的真实的图像信息，也有较大差异，使用此类参考像素点进行像素点融合，会导致最终生成的插值像素点的失真，影响像素融合准确性，进而影响目标图像的图像细节和图像效果。
因此，为了进一步地的提高参考像素点与基准像素点的相关性，提高后续计算插值像素点的准确性，将参考像素点中与基准像素点相关性较高的，确定为有效参考像素点，并利用有效参考像素点，进行后续的像素融合。
其中，示例性地，确定有效参考像素点的方式，可以将映射坐标落入基准像素点的第二预设范围的参考像素点，确定为有效参考像素点，其中，确认第二预设范围的方法包括：
获取基准像素点对应的图像纹理信息，和/或噪声信息，其中，图像纹理信息用于表征基准像素点附近的图像纹理结构，噪声信息用于表征初始图像的噪声水平；根据基准像素点对应的图像纹理信息，和/或噪声信息，确定第二预设范围。
具体地，确定第二预设范围的方法可以通过式(7)、式(8)和式(9)实现：
r2＝(1-weight)*r2_th1+(weight)*r2_th2 (7)
Figure BDA0003089391310000111
Vari＝variance(F(A),F(B),F(C),F(D)) (9)
其中，r2_th1、r2_th2、scale是预设的阈值，weight为权重系数，r2_th2>r2_th1>＝1，scale>1，具体值由实验调试而确定，variance()是方差函数，F(A)、F(B)、F(C)、F(D)分别是基准图像中边缘像素点A、B、C、D的坐标，noise是噪声程度，是系统输入值，Vari为第二预设范围。
本实施例中，通过基准像素点对应的图像纹理信息，和/或噪声信息，确定第二预设范围，并在第二预设范围内确定出用于后续融合计算的有效参考信息，进一步地提高生成的目标图像的图像细节和图像效果。
步骤S208，对基准像素点对应的参考像素点中的有效参考像素点的像素值进行加权计算，确定插值像素点的像素值，并基于各插值像素点的像素值，构成目标图像。
示例性地，在确定有效参考像素点的像素值后，对有效参考像素点的像素值进行加权计算，即可确定对应的基准像素点对应的插值像素点的像素值。示例性地，确定插值像素点的像素值的方法，可以通过式(10)实现：
Figure BDA0003089391310000112
其中，Oi表示目标图像中第i个插值像素点，Pm为第m个有效参考像素点的像素值，Wm为第m个有效参考像素点的权重，n为有效参考像素点的个数，当然，可以理解的是，若不执行步骤S205，即通过参考像素点直接进行融合计算，确定基准像素点对应的插值像素点的方案中，在此处Pm和Wm分别表示参考像素点的像素值和参考像素点的权重，n为参考像素点的个数。
通过并行处理或者轮询依次处理的方式，确定目标图像中每一插值像素点的像素值，即可生成目标图像。
本实施例中，步骤S201、S203的实现方式与本申请图3所示实施例中的步骤S101、S102的实现方式相同，在此不再一一赘述。
对应于上文实施例的图像处理方法，图11为本公开实施例提供的图像处理装置的结构框图。为了便于说明，仅示出了与本公开实施例相关的部分。参照图11，图像处理装置3，包括：
获取单元31，用于获取多帧初始图像，其中，多帧初始图像是针对同一场景拍摄的多帧不同图像，多帧初始图像中包括基准图像和非基准图像；
第一确定单元32，用于计算从非基准图像到基准图像的光流；
第二确定单元33，根据基于从非基准图像到基准图像中的光流，确定非基准图像中与基准图像中基准像素点相对应的参考像素点；
生成单元34，用于通过将非基准图像中的参考像素点与基准图像中的基准像素点进行插值计算，对非基准图像与基准图像进行像素融合，生成目标图像。
在本公开的一个实施例中，第二确定单元33，具体用于：基于从非基准图像到基准图像中的光流，确定非基准图像中，与基准像素点所在图像位置对应的参考点坐标；将非基准图像中，位于参考点坐标的第一预设范围内的所有像素点，确定为参考像素点。
在本公开的一个实施例中，第二确定单元33在基于从非基准图像到基准图像中的光流，确定非基准图像中，与基准像素点所在图像位置对应的参考点坐标时，具体用于：获取基准像素点的坐标；在基准图像中，确定与基准像素点的坐标对应的边缘像素点，其中，边缘像素点用于表征与基准像素点临近的至少一个像素点；基于从非基准图像到基准图像中的光流，确定边缘像素点在非基准图像中的偏移矢量；根据基准像素点的坐标与偏移矢量，确定参考点坐标。
在本公开的一个实施例中，第二确定单元33还用于：根据边缘像素点在非基准图像中的偏移矢量的方差，以及预设的权重系数，确定参考点坐标的第一预设范围。
在本公开的一个实施例中，第二确定单元33在基于从非基准图像到基准图像中的光流，确定边缘像素点在非基准图像中的偏移矢量时，具体用于：通过光流算法，计算基准图像至非基准图像之间的矢量信息，其中，矢量信息用于表征基准图像中的像素点，在非基准图像中的对应位置的像素点之间的偏移矢量；根据运动矢量信息，确定边缘像素点在非基准图像中的偏移矢量。
在本公开的一个实施例中，第二确定单元33还用于：确定参考像素点在基准图像中的映射坐标；将映射坐标中落入基准像素点的第二预设范围内的参考像素点，确定为有效参考像素点；生成单元34在对非基准图像与基准图像进行像素融合，生成目标图像时，具体用于：对基准像素点对应的参考像素点中的有效参考像素点的像素值进行加权计算，确定基准像素点的对应的插值像素点的像素值；根据插值像素点的像素值，构成图标图像。
在本公开的一个实施例中，获取单元31，还用于：获取基准像素点对应的图像纹理信息，和/或噪声信息，其中，图像纹理信息用于表征基准像素点附近的图像纹理结构，噪声信息用于表征初始图像的噪声水平；第二确定单元33，还用于：根据基准像素点对应的图像纹理信息，和/或噪声信息，确定第二预设范围。
在本公开的一个实施例中，获取单元31，还用于：获取预设的分辨率信息；根据分辨率信息和基准图像的尺寸信息，确定基准图像中的基准像素点，基准像素点是对基准图像中的原始像素点插值得到的，基准像素点的数量大于原始像素点的数量。
本实施例提供的装置，可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，本实施例此处不再赘述。
图12为本公开实施例提供的一种电子设备的结构示意图，如图12所示，该电子设备4包括至少一个处理器401和存储器402；
存储器402存储计算机执行指令；
至少一个处理器401执行存储器402存储的计算机执行指令，使得至少一个处理器401执行如图3-图10所示实施例中的屏幕共享方法。
其中，处理器401和存储器402通过总线403连接。
相关说明可以对应参见图3-图10所对应的实施例中的步骤所对应的相关描述和效果进行理解，此处不做过多赘述。
参考图13，其示出了适于用来实现本公开实施例的电子设备900的结构示意图，该电子设备900可以为终端设备或服务器。其中，终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant，简称PDA)、平板电脑(Portable Android Device，简称PAD)、便携式多媒体播放器(Portable MediaPlayer，简称PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图13示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图13所示，电子设备900可以包括处理装置(例如中央处理器、图形处理器等)901，其可以根据存储在只读存储器(Read Only Memory，简称ROM)902中的程序或者从存储装置908加载到随机访问存储器(Random Access Memory，简称RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有电子设备900操作所需的各种程序和数据。处理装置901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
通常，以下装置可以连接至I/O接口905：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置906；包括例如液晶显示器(Liquid CrystalDisplay，简称LCD)、扬声器、振动器等的输出装置907；包括例如磁带、硬盘等的存储装置908；以及通信装置909。通信装置909可以允许电子设备900与其他设备进行无线或有线通信以交换数据。虽然图13示出了具有各种装置的电子设备900，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置909从网络上被下载和安装，或者从存储装置908被安装，或者从ROM902被安装。在该计算机程序被处理装置901执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行上述实施例所示的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network，简称LAN)或广域网(Wide Area Network，简称WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
第一方面，根据本公开的一个或多个实施例，提供了一种图像处理方法，包括：
获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；计算从所述非基准图像到所述基准图像的光流；基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像。
根据本公开的一个或多个实施例，基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点，包括：基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中，与所述基准像素点所在图像位置对应的参考点坐标；将所述非基准图像中，位于所述参考点坐标的第一预设范围内的所有像素点，确定为参考像素点。
根据本公开的一个或多个实施例，基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中，与所述基准像素点所在图像位置对应的参考点坐标，包括：获取基准像素点的坐标；在所述基准图像中，确定与所述基准像素点的坐标对应的边缘像素点，其中，所述边缘像素点用于表征与所述基准像素点临近的至少一个像素点；基于从所述非基准图像到所述基准图像中的光流，确定所述边缘像素点在所述非基准图像中的偏移矢量；根据所述基准像素点的坐标与所述偏移矢量，确定参考点坐标。
根据本公开的一个或多个实施例，所述方法还包括：根据所述边缘像素点在所述非基准图像中的偏移矢量的方差，以及预设的权重系数，确定所述参考点坐标的第一预设范围。
根据本公开的一个或多个实施例，基于从所述非基准图像到所述基准图像中的光流，确定所述边缘像素点在所述非基准图像中的偏移矢量，包括：通过光流算法，计算基准图像至非基准图像之间的矢量信息，其中，所述矢量信息用于表征基准图像中的像素点，在所述非基准图像中的对应位置的像素点之间的偏移矢量；根据所述矢量信息，确定所述边缘像素点在所述非基准图像中的偏移矢量。
根据本公开的一个或多个实施例，所述方法还包括：确定所述参考像素点在所述基准图像中的映射坐标；将映射坐标中落入所述基准像素点的第二预设范围内的参考像素点，确定为有效参考像素点；对所述非基准图像与所述基准图像进行像素融合，生成目标图像，包括：对所述基准像素点对应的参考像素点中的有效参考像素点的像素值进行加权计算，确定所述基准像素点的对应的插值像素点的像素值；根据所述插值像素点的像素值，构成图标图像。
根据本公开的一个或多个实施例，所述方法还包括：获取所述基准像素点对应的图像纹理信息，和/或噪声信息，其中，所述图像纹理信息用于表征所述基准像素点附近的图像纹理结构，所述噪声信息用于表征待处理图像的噪声水平；根据所述基准像素点对应的图像纹理信息，和/或噪声信息，确定所述第二预设范围。
根据本公开的一个或多个实施例，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点之前，还包括：获取预设的分辨率信息；根据所述分辨率信息和所述基准图像的尺寸信息，确定所述基准图像中的基准像素点，所述基准像素点是对所述基准图像中的原始像素点插值得到的，所述基准像素点的数量大于所述原始像素点的数量。
第二方面，根据本公开的一个或多个实施例，提供了一种图像处理装置，包括：
获取单元，用于获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；
第一确定单元，用于计算从所述非基准图像到所述基准图像的光流；
第二确定单元，根据基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；
生成单元，用于通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像。
根据本公开的一个或多个实施例，第二确定单元，具体用于：基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中，与所述基准像素点所在图像位置对应的参考点坐标；将所述非基准图像中，位于所述参考点坐标的第一预设范围内的所有像素点，确定为参考像素点。
根据本公开的一个或多个实施例，第二确定单元在基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中，与所述基准像素点所在图像位置对应的参考点坐标时，具体用于：获取基准像素点的坐标；在所述基准图像中，确定与所述基准像素点的坐标对应的边缘像素点，其中，所述边缘像素点用于表征与所述基准像素点临近的至少一个像素点；基于从所述非基准图像到所述基准图像中的光流，确定所述边缘像素点在所述非基准图像中的偏移矢量；根据所述基准像素点的坐标与所述偏移矢量，确定参考点坐标。
根据本公开的一个或多个实施例，第二确定单元还用于：根据边缘像素点在非基准图像中的偏移矢量的方差，以及预设的权重系数，确定参考点坐标的第一预设范围。
根据本公开的一个或多个实施例，第二确定单元在基于从所述非基准图像到所述基准图像中的光流，确定所述边缘像素点在所述非基准图像中的偏移矢量时，具体用于：通过光流算法，计算基准图像至非基准图像之间的矢量信息，其中，矢量信息用于表征基准图像中的像素点，在非基准图像中的对应位置的像素点之间的偏移矢量；根据运动矢量信息，确定边缘像素点在非基准图像中的偏移矢量。
根据本公开的一个或多个实施例，第二确定单元还用于：确定参考像素点在基准图像中的映射坐标；将映射坐标中落入基准像素点的第二预设范围内的参考像素点，确定为有效参考像素点；生成单元在对所述非基准图像与所述基准图像进行像素融合，生成目标图像时，具体用于：对所述基准像素点对应的参考像素点中的有效参考像素点的像素值进行加权计算，确定所述基准像素点的对应的插值像素点的像素值；根据所述插值像素点的像素值，构成图标图像。
根据本公开的一个或多个实施例，获取单元，还用于：获取基准像素点对应的图像纹理信息，和/或噪声信息，其中，图像纹理信息用于表征基准像素点附近的图像纹理结构，噪声信息用于表征初始图像的噪声水平；第二确定单元，还用于：根据基准像素点对应的图像纹理信息，和/或噪声信息，确定第二预设范围。
根据本公开的一个或多个实施例，获取单元，还用于：获取预设的分辨率信息；根据所述分辨率信息和所述基准图像的尺寸信息，确定所述基准图像中的基准像素点，所述基准像素点是对所述基准图像中的原始像素点插值得到的，所述基准像素点的数量大于所述原始像素点的数量。
第三方面，根据本公开的一个或多个实施例，提供了一种电子设备，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第四方面，根据本公开的一个或多个实施例，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第五方面，本公开实施例提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (12)

1.一种图像处理方法，其特征在于，包括：
获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；
计算从所述非基准图像到所述基准图像的光流；
基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；
通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像。
2.根据权利要求1所述的方法，其特征在于，基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点，包括：
基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中，与所述基准像素点所在图像位置对应的参考点坐标；
将所述非基准图像中，位于所述参考点坐标的第一预设范围内的所有像素点，确定为参考像素点。
3.根据权利要求2所述的方法，其特征在于，基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中，与所述基准像素点所在图像位置对应的参考点坐标，包括：
获取基准像素点的坐标；
在所述基准图像中，确定与所述基准像素点的坐标对应的边缘像素点，其中，所述边缘像素点用于表征与所述基准像素点临近的至少一个像素点；
基于从所述非基准图像到所述基准图像中的光流，确定所述边缘像素点在所述非基准图像中的偏移矢量；
根据所述基准像素点的坐标与所述偏移矢量，确定参考点坐标。
4.根据权利要求3所述的方法，其特征在于，所述方法还包括：
根据所述边缘像素点在所述非基准图像中的偏移矢量的方差，以及预设的权重系数，确定所述参考点坐标的第一预设范围。
5.根据权利要求3所述的方法，其特征在于，基于从所述非基准图像到所述基准图像中的光流，确定所述边缘像素点在所述非基准图像中的偏移矢量，包括：
通过光流算法，计算基准图像至非基准图像之间的矢量信息，其中，所述矢量信息用于表征基准图像中的像素点，在所述非基准图像中的对应位置的像素点之间的偏移矢量；
根据所述矢量信息，确定所述边缘像素点在所述非基准图像中的偏移矢量。
6.根据权利要求2所述的方法，其特征在于，所述方法还包括：
确定所述参考像素点在所述基准图像中的映射坐标；
将映射坐标中落入所述基准像素点的第二预设范围内的参考像素点，确定为有效参考像素点；
对所述非基准图像与所述基准图像进行像素融合，生成目标图像，包括：
对所述基准像素点对应的参考像素点中的有效参考像素点的像素值进行加权计算，确定所述基准像素点的对应的插值像素点的像素值；
根据所述插值像素点的像素值，构成图标图像。
7.根据权利要求6所述的方法，其特征在于，所述方法还包括：
获取所述基准像素点对应的图像纹理信息，和/或噪声信息，其中，所述图像纹理信息用于表征所述基准像素点附近的图像纹理结构，所述噪声信息用于表征待处理图像的噪声水平；
根据所述基准像素点对应的图像纹理信息，和/或噪声信息，确定所述第二预设范围。
8.根据权利要求1-7任一项所述的方法，其特征在于，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点之前，还包括：
获取预设的分辨率信息；
根据所述分辨率信息和所述基准图像的尺寸信息，确定所述基准图像中的基准像素点，所述基准像素点是对所述基准图像中的原始像素点插值得到的，所述基准像素点的数量大于所述原始像素点的数量。
9.一种图像处理装置，其特征在于，包括：
获取单元，用于获取多帧初始图像，其中，所述多帧初始图像是针对同一场景拍摄的多帧不同图像，所述多帧初始图像中包括基准图像和非基准图像；
第一确定单元，用于计算从所述非基准图像到所述基准图像的光流；
第二确定单元，根据基于从所述非基准图像到所述基准图像中的光流，确定所述非基准图像中与所述基准图像中基准像素点相对应的参考像素点；
生成单元，用于通过将所述非基准图像中的所述参考像素点与所述基准图像中的基准像素点进行插值计算，对所述非基准图像与所述基准图像进行像素融合，生成目标图像。
10.一种电子设备，其特征在于，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如权利要求1至8任一项所述的图像处理方法。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如权利要求1至8任一项所述的图像处理方法。
12.一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现权利要求1至8中任一项所述的方法。
CN202110590685.XA 2021-05-28 2021-05-28 图像处理方法、装置、电子设备及存储介质 Pending CN115409696A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110590685.XA CN115409696A (zh) 2021-05-28 2021-05-28 图像处理方法、装置、电子设备及存储介质
PCT/CN2022/092072 WO2022247630A1 (zh) 2021-05-28 2022-05-10 图像处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110590685.XA CN115409696A (zh) 2021-05-28 2021-05-28 图像处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN115409696A true CN115409696A (zh) 2022-11-29

Family

ID=84155102

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110590685.XA Pending CN115409696A (zh) 2021-05-28 2021-05-28 图像处理方法、装置、电子设备及存储介质

Country Status (2)

Country Link
CN (1) CN115409696A (zh)
WO (1) WO2022247630A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116228834B (zh) * 2022-12-20 2023-11-03 阿波罗智联(北京)科技有限公司 图像深度获取方法、装置、电子设备及存储介质
CN116630220B (zh) * 2023-07-25 2023-11-21 江苏美克医学技术有限公司 一种荧光图像景深融合成像方法、装置及存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104463786B (zh) * 2014-12-03 2017-06-16 中国科学院自动化研究所 一种移动机器人图像拼接方法及装置
CN106952226A (zh) * 2017-03-06 2017-07-14 武汉大学 一种f‑msa超分辨率重建方法
EP3640951A1 (en) * 2018-10-15 2020-04-22 Siemens Healthcare GmbH Evaluating a condition of a person

Also Published As

Publication number Publication date
WO2022247630A1 (zh) 2022-12-01

Similar Documents

Publication Publication Date Title
CN111242881B (zh) 显示特效的方法、装置、存储介质及电子设备
CN110728622B (zh) 鱼眼图像处理方法、装置、电子设备及计算机可读介质
WO2022247630A1 (zh) 图像处理方法、装置、电子设备及存储介质
CN110062157B (zh) 渲染图像的方法、装置、电子设备和计算机可读存储介质
CN112801907B (zh) 深度图像的处理方法、装置、设备和存储介质
CN116310036A (zh) 场景渲染方法、装置、设备、计算机可读存储介质及产品
CN114125411B (zh) 投影设备校正方法、装置、存储介质以及投影设备
CN114782659A (zh) 图像处理方法、装置、设备及存储介质
CN111833459B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN110399802B (zh) 处理面部图像眼睛亮度的方法、装置、介质和电子设备
WO2023193613A1 (zh) 高光渲染方法、装置、介质及电子设备
CN113963000B (zh) 图像分割方法、装置、电子设备及程序产品
CN115086541B (zh) 一种拍摄位置确定方法、装置、设备及介质
CN115914497A (zh) 视频处理方法、装置、设备、介质及程序产品
CN111915532B (zh) 图像追踪方法、装置、电子设备及计算机可读介质
CN109842738B (zh) 用于拍摄图像的方法和装置
CN111223105B (zh) 图像处理方法和装置
CN111862342A (zh) 增强现实的纹理处理方法、装置、电子设备及存储介质
CN112037280A (zh) 物体距离测量方法及装置
CN112308809A (zh) 一种图像合成方法、装置、计算机设备及存储介质
CN111353929A (zh) 图像处理方法、装置和电子设备
CN111489428B (zh) 图像生成方法、装置、电子设备及计算机可读存储介质
KR102534449B1 (ko) 이미지 처리 방법, 장치, 전자 장치 및 컴퓨터 판독 가능 저장 매체
CN112668474B (zh) 平面生成方法和装置、存储介质和电子设备
CN112214187B (zh) 水波纹图像实现方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination