CN115423930B - 一种图像采集方法及电子设备 - Google Patents
一种图像采集方法及电子设备 Download PDFInfo
- Publication number
- CN115423930B CN115423930B CN202210900222.3A CN202210900222A CN115423930B CN 115423930 B CN115423930 B CN 115423930B CN 202210900222 A CN202210900222 A CN 202210900222A CN 115423930 B CN115423930 B CN 115423930B
- Authority
- CN
- China
- Prior art keywords
- frame image
- determining
- current frame
- current
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请提供的图像采集方法及电子设备,在图像采集过程中,可以基于IMU数据流、图像数据流、TOF数据流、SLAM算法等,识别电子设备的运动状态、运动速度,以及,图像中纹理质量和物体深度中的一种或几种,以确定图像采集过程中是否出现原地旋转、距离过近、纹理较差、运动模糊等不利于三维重建的情形。如果识别出存在原地旋转、距离过近、纹理较差、运动模糊等不利于三维重建的情形,本申请可以进一步生成并显示对应的引导信息,以引导用户采集更高质量的图像。
Description
技术领域
本申请属于图像采集技术领域,尤其涉及一种图像采集方法及电子设备。
背景技术
三维重建技术是在计算机中建立表达客观世界的虚拟现实的关键技术。三维重建技术的实质就是利用图像采集设备采集的、对显示三维场景或者物体离散的二维图像作为基础数据,经过处理得到场景或者物体的三维数据信息,从而生成真实的场景或者物体,然后通过合适的空间模型把全景图像组织为虚拟的实景空间,用户在这个空间中可以前进、后退、环视、近看、远看等操作,实现用户全方位观察三维场景的效果。
由此可知,三维重建技术的基础是要采集到高质量的图像。其中,用于三维重建的高质量图像是指图像中要尽可能包括更多的信息,和/或图像要足够清晰。目前,为采集用于三维重建的图像,一般使用全景相机、激光雷达或采集箱等大型标准化设备。虽然这些大型标准化设备的图像采集质量较高,但是,这些大型标准化设备图像采集流程复杂,不利于普通用户的图像采集需求。
对于普通用户来说,利用如手机这种终端设备进行图像采集,可以大幅度降低用户的使用门槛。但是,利用手机进行图像采集时,容易出现原地旋转、距离过近、纹理较差、运动模糊等不利于三维重建的现象,导致三维重建失败率较高。
发明内容
为解决现有技术中,利用手机进行图像采集时,容易出现原地旋转、距离过近、纹理较差、运动模糊等不利于三维重建的现象,导致三维重建失败率较高的问题,本申请提供一种图像采集方法及电子设备。
第一方面,本申请提供一种图像采集方法,包括:获取电子设备当前时刻的位姿信息;确定所述电子设备当前时刻与上一保存帧时刻的相对位姿,所述相对位姿包括角度变化和相对位移;确定所述角度变化是否大于预设角度阈值;如果所述角度变化大于预设角度阈值,则确定所述电子设备的当前运动状态为旋转;确定所述相对位移是否大于第一预设位移阈值;如果所述相对位移小于等于所述第一预设位移阈值,则确定所述电子设备的当前运动状态为原地旋转;生成第一引导信息,所述第一引导信息用于引导用户改变所述电子设备处于原地旋转的运动状态;显示所述第一引导信息。
这样,如果电子设备的当前运动状态为旋转,则可以进一步利用相对位姿中的相对位移,确定电子设备的当前运动状态是否为原地旋转。如果为原地旋转,则可以通过第一引导信息,提示用户当前的运动状态为原地旋转,以引导用户改变电子设备处于原地旋转的运动状态,从而避免电子设备处于原地旋转的运动状态。
在一种可实现方式中,如果所述角度变化小于等于所述预设角度阈值,则确定所述电子设备的当前运动状态为平移;确定所述相对位移是否大于第二预设位移阈值;如果所述相对位移小于等于所述第二预设位移阈值,则确定所述电子设备的当前运动状态为静止;生成第二引导信息,所述第二引导信息用于引导用户改变所述电子设备处于静止的运动状态;显示所述第二引导信息。
这样,如果电子设备的当前运动状态为平移,则可以进一步利用相对位姿中的相对位移,确定电子设备的当前运动状态是否为静止。如果为静止,则可以通过第二引导信息,指示电子设备的当前运动状态为静止,以引导用户移动较大距离后采集图像,避免移动距离不足。
在一种可实现方式中,还包括:确定所述电子设备的当前运动状态为旋转后,生成第三引导信息,所述第三引导信息用于指示所述电子设备的当前运动状态为旋转;显示所述第三引导信息。
这样,用户可以根据第三引导信息,得知自己当前所处的运动状态为旋转。
在一种可实现方式中还包括:确定所述电子设备的当前运动状态为平移后,生成第四引导信息,所述第四引导信息用于指示所述电子设备的当前运动状态为平移;显示所述第四引导信息。
这样,用户可以根据第三引导信息,得知自己当前所处的运动状态为平移。
在一种可实现方式中,所述获取电子设备当前时刻的位姿信息,包括:从所述电子设备中的IMU传感器,获取当前时刻的加速度和角速度;分别对所述当前时刻的加速度和角速度积分运算处理,得到所述电子设备当前时刻的旋转角度和位移;确定所述电子设备当前时刻的旋转角度和位移为所述电子设备当前时刻的位姿信息。
这样,可以利用电子设备的硬件,获得电子设备当前时刻的位姿信息。
在一种可实现方式中,所述获取电子设备当前时刻的位姿信息,包括:利用SLAM算法,获取电子设备当前时刻的旋转角度和位移;确定所述电子设备当前时刻的旋转角度和位移为所述电子设备当前时刻的位姿信息。
这样,可以通过软件算法,获得电子设备当前时刻的位姿信息。
在一种可实现方式中,如果所述相对位移大于所述第一预设位移阈值,则保存当前帧图像,或者,确定所述电子设备的当前运动速度,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
这样,可以保证当前帧图像中所采集的信息与上一保存帧图像中的信息不同,这样更有利于三维重建。
在一种可实现方式中,如果所述相对位移大于所述第二预设位移阈值,则保存当前帧图像,或者,确定所述电子设备的当前运动速度,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
这样,可以保证当前帧图像中所采集的信息与上一保存帧图像中的信息不同,这样更有利于三维重建。
在一种可实现方式中,所述确定所述电子设备的当前运动速度,包括:如果所述电子设备的当前运动状态为旋转,则计算所述电子设备的当前旋转速度;确定所述电子设备的当前旋转速度是否小于预设旋转速度阈值;如果所述电子设备的当前旋转速度大于等于所述预设旋转速度阈值,则确定所述电子设备的当前旋转速度为快速旋转;生成第五引导信息,所述第五引导信息用于引导用户放慢旋转速度;显示所述第五引导信息。
这样,用户可以根据显示的第五引导信息,放慢绕目标物旋转的移动速度,直至使电子设备的当前旋转速度小于预设旋转速度阈值,以采集到清楚的图像。
在一种可实现方式中,所述确定所述电子设备的当前运动速度,包括:如果所述电子设备的当前运动状态为平移,则计算所述电子设备的当前平移速度;确定所述电子设备的当前平移速度是否小于预设平移速度阈值;如果所述电子设备的当前平移速度大于等于所述预设平移速度阈值,则确定所述电子设备的当前平移速度为快速平移;生成第六引导信息,所述第六引导信息用于引导用户放慢平移速度;显示所述第六引导信息。
这样,用户可以根据显示的第六引导信息,放慢平移电子设备的速度,直至平移电子设备的速度小于预设平移速度阈值,以采集到清楚的图像。
在一种可实现方式中,如果所述电子设备的当前旋转速度小于所述预设旋转速度阈值,则保存当前帧图像,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
这样,可以保证当前帧图像没有出现运动模糊,这样更有利于三维重建。
在一种可实现方式中,如果所述电子设备的当前平移速度小于所述预设平移速度阈值,则保存当前帧图像,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
这样,可以保证当前帧图像没有出现运动模糊,这样更有利于三维重建。
在一种可实现方式中,所述确定当前帧图像的纹理质量,包括:获取当前帧图像;确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
这样,在确定当前帧图像的纹理质量不合格后,可以在电子设备上显示对应的引导信息,如“向纹理丰富区域移动”。对应的,用户可以根据电子设备上显示的引导信息,调整图像采集的位置,直至采集到纹理质量合格的图像,用于三维重建。
在一种可实现方式中,所述确定所述当前帧图像中弱纹理区域和丰富纹理区域,包括:将所述当前帧图像划分为至少两个第一子块;确定每个第一子块的第一分数值、第二分数值和第三分数值,其中,所述第一分数值用于表征所述第一子块内3D点的数量,所述第二分数值用于表征所述第一子块内FAST特征点的数量,所述第三分数值用于表征所述第一子块的信息熵;利用所述第一分数值、第二分数值和第三分数值加权计算,得到每个第一子块的纹理质量分数;确定所述纹理质量分数小于预设纹理质量分数阈值的第一子块为弱纹理区域,确定纹理质量分数大于等于预设纹理质量分数阈值的第一子块为丰富纹理区域。
这样,可以通过3D点、FAST特征点和信息熵的加权,计算得到的纹理质量分数更加准确。
在一种可实现方式中,所述确定每个第一子块的第一分数值、第二分数值和第三分数值,包括:获取所述当前帧图像对应的3D点数据流;根据所述当前帧图像对应的3D点数据流,计算每个所述第一子块内3D点的数量;按照第一预设换算规则,将每个第一子块内3D点的数量,换算为第一分数值;提取所述当前帧图像的FAST特征;根据所述当前帧图像的FAST特征,计算每个所述第一子块内FAST特征点的数量;按照第二预设换算规则,将每个第一子块内FAST特征点的数量,换算为第二分数值;生成所述当前帧图像的灰度直方图;根据所述当前帧图像的灰度直方图,计算每个所述第一子块的信息熵;按照第三预设换算规则,将每个第一子块信息熵,换算为第三分数值。
在一种可实现方式中,如果所述当前帧图像的纹理质量不合格,则以所述纹理质量分数为权重,计算所述当前帧图像中所述丰富纹理区域的加权质心;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域的所述加权质心方向移动。
这样,能够向用户提供更精确的引导方向。
在一种可实现方式中,如果弱纹理区域的占比小于等于预设弱纹理区域占比阈值,则保存当前帧图像,或者,确定所述当前帧图像的物体深度。
这样,可以保证当前帧图像纹理质量合格,这样更有利于三维重建。
在一种可实现方式中,所述确定所述当前帧图像的物体深度,包括:得到当前帧图像的深度图;确定所述深度图中的近距离区域和远距离区域;如果近距离区域的占比大于预设近距离区域占比阈值,则确定所述电子设备与所述当前帧图像中目标物的距离过近;生成第八引导信息,所述第八引导信息用于引导用户向远距离方向移动;显示所述第八引导信息。
这样,用户可以根据显示的第八引导信息,向远距离方向移动,直至移动到距离合适的位置,采集到高质量图像。
在一种可实现方式中,所述得到当前帧图像的深度图,包括:利用所述电子设备中的TOF传感器,得到当前帧图像的深度图。
这样,可以利用电子设备的硬件,得到当前帧图像的深度图。
在一种可实现方式中,所述得到当前帧图像的深度图,包括:获取当前帧图像;将所述当前帧图像输入单目深度估计网络,所述单目深度估计网络用于估计所述当前帧图像的深度;利用所述单目深度估计网络,输出所述当前帧图像的深度图。
这样,可以利用软件算法和神经网络,得到当前帧图像的深度图。
在一种可实现方式中,所述得到当前帧图像的深度图,包括:获取当前帧图像,以及,所述当前帧图像对应的3D点数据流;将所述当前帧图像,以及,所述当前帧图像对应的3D点数据流,输入单目深度估计网络,其中,所述当前帧图像对应的3D点数据流作为深度种子点,所述单目深度估计网络用于估计所述当前帧图像的深度;输出所述当前帧图像的深度图。
这样,以当前帧图像对应的3D点数据流作为深度种子,引入单目深度估计网络,能够得到更精准的深度图。
在一种可实现方式中,所述确定所述深度图中的近距离区域和远距离区域,包括:将所述深度图划分为至少两个第二子块;计算每个所述第二子块的平均深度;确定所述平均深度小于预设深度阈值的第二子块为近距离区域,确定平均深度大于等于预深度阈值的第二子块为远距离区域。
在一种可实现方式中,还包括:如果所述电子设备与所述当前帧图像的目标物距离过近,则以所述平均深度为权重,计算所述当前帧图像中所述远距离区域的加权质心;生成第八引导信息,所述第八引导信息用于引导用户向所述远距离区域的加权质心方向移动。
这样,能够为用户提供更精准的远距离区域方向。
在一种可实现方式中,如果近距离区域的占比小于等于预设近距离区域占比阈值,则保存所述当前帧图像。
这样,可以保证当前帧图像包括足够多的信息,这样更有利于三维重建。
第二方面,本申请提供一种图像采集方法,包括:确定所述电子设备的当前运动状态;如果所述电子设备的当前运动状态为旋转,则计算所述电子设备的当前旋转速度;确定所述电子设备的当前旋转速度是否小于预设旋转速度阈值;如果所述电子设备的当前旋转速度大于等于所述预设旋转速度阈值,则确定所述电子设备的当前旋转速度为快速旋转;生成第五引导信息,所述第五引导信息用于引导用户放慢旋转速度;显示所述第五引导信息。
这样,用户可以根据显示的第五引导信息,放慢绕目标物旋转的移动速度,直至使电子设备的当前旋转速度小于预设旋转速度阈值,以采集到清楚的图像。
在一种可实现方式中,如果所述电子设备的当前运动状态为平移,则计算所述电子设备的当前平移速度;确定所述电子设备的当前平移速度是否小于预设平移速度阈值;如果所述电子设备的当前平移速度大于等于所述预设平移速度阈值,则确定所述电子设备的当前平移速度为快速平移;生成第六引导信息,所述第六引导信息用于引导用户放慢平移速度;显示所述第六引导信息。
这样,用户可以根据显示的第六引导信息,放慢平移电子设备的速度,直至平移电子设备的速度小于预设平移速度阈值,以采集到清楚的图像。
在一种可实现方式中,如果所述电子设备的当前旋转速度小于所述预设旋转速度阈值,则保存当前帧图像,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
这样,可以保证当前帧图像没有出现运动模糊,这样更有利于三维重建。
在一种可实现方式中,如果所述电子设备的当前平移速度小于所述预设平移速度阈值,则保存当前帧图像,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
这样,可以保证当前帧图像没有出现运动模糊,这样更有利于三维重建。
第三方面,本申请提供一种图像采集方法,包括:获取当前帧图像;确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
这样,在确定当前帧图像的纹理质量不合格后,可以在电子设备上显示对应的引导信息,如“向纹理丰富区域移动”。对应的,用户可以根据电子设备上显示的引导信息,调整图像采集的位置,直至采集到纹理质量合格的图像,用于三维重建。
在一种可实现方式中,所述确定所述当前帧图像中弱纹理区域和丰富纹理区域,包括:将所述当前帧图像划分为至少两个第一子块;确定每个第一子块的第一分数值、第二分数值和第三分数值,其中,所述第一分数值用于表征所述第一子块内3D点的数量,所述第二分数值用于表征所述第一子块内FAST特征点的数量,所述第三分数值用于表征所述第一子块的信息熵;利用所述第一分数值、第二分数值和第三分数值加权计算,得到每个第一子块的纹理质量分数;确定所述纹理质量分数小于预设纹理质量分数阈值的第一子块为弱纹理区域,确定纹理质量分数大于等于预设纹理质量分数阈值的第一子块为丰富纹理区域。
在一种可实现方式,所述确定每个第一子块的第一分数值、第二分数值和第三分数值,包括:获取所述当前帧图像对应的3D点数据流;根据所述当前帧图像对应的3D点数据流,计算每个所述第一子块内3D点的数量;按照第一预设换算规则,将每个第一子块内3D点的数量,换算为第一分数值;提取所述当前帧图像的FAST特征;根据所述当前帧图像的FAST特征,计算每个所述第一子块内FAST特征点的数量;按照第二预设换算规则,将每个第一子块内FAST特征点的数量,换算为第二分数值;生成所述当前帧图像的灰度直方图;根据所述当前帧图像的灰度直方图,计算每个所述第一子块的信息熵;按照第三预设换算规则,将每个第一子块信息熵,换算为第三分数值。
在一种可实现方式中,如果所述当前帧图像的纹理质量不合格,则以所述纹理质量分数为权重,计算所述当前帧图像中所述丰富纹理区域的加权质心;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域的所述加权质心方向移动。
在一种可实现方式中,如果弱纹理区域的占比比例小于等于预设弱纹理区域占比阈值,则保存当前帧图像,或者,确定所述电子设备的当前运动速度,或者,确定所述电子设备的当前运动状态,或者,确定当前帧图像的物体深度。
第四方面,本申请提供一种图像采集方法一种图像采集方法,包括:得到当前帧图像的深度图;确定所述深度图中的近距离区域和远距离区域;如果近距离区域的占比大于预设近距离区域占比阈值,则确定所述电子设备与所述当前帧图像中目标物的距离过近;生成第八引导信息,所述第八引导信息用于引导用户向远距离方向移动;显示所述第八引导信息。
这样,用户可以根据显示的第八引导信息,向远距离方向移动,直至移动到距离合适的位置,采集到高质量图像。
在一种可实现方式,所述确定所述深度图中的近距离区域和远距离区域,包括:将所述深度图为至少两个第二子块;计算每个所述第二子块的平均深度;确定所述平均深度小于预设深度阈值的第二子块为近距离区域,确定平均深度大于等于预深度阈值的第二子块为远距离区域。
在一种可实现方式中,如果所述电子设备与所述当前帧图像的目标物距离过近,则以所述平均深度为权重,计算所述当前帧图像中所述远距离区域的加权质心;生成第八引导信息,所述第八引导信息用于引导用户向所述远距离区域的加权质心方向移动。
在一种可实现方式中,如果近距离区域的占比小于等于预设近距离区域占比阈值,则保存所述当前帧图像,或者,确定所述电子设备的当前运动速度,或者,确定所述电子设备的当前运动状态,或者,确定当前帧图像的纹理质量。
第五方面,本申请提供一种图像采集装置,所述装置包括:收发器和处理器;所述收发器,用于获取电子设备当前时刻的位姿信息;所述处理器,用于确定所述电子设备当前时刻与上一保存帧时刻的相对位姿,所述相对位姿包括角度变化和相对位移;确定所述角度变化是否大于预设角度阈值;如果所述角度变化大于预设角度阈值,则确定所述电子设备的当前运动状态为旋转;确定所述相对位移是否大于第一预设位移阈值;如果所述相对位移小于等于所述第一预设位移阈值,则确定所述电子设备的当前运动状态为原地旋转;生成第一引导信息,所述第一引导信息用于引导用户改变所述电子设备处于原地旋转的运动状态;显示所述第一引导信息。
在一种可实现方式中,所述处理器,还用于如果所述角度变化小于等于所述预设角度阈值,则确定所述电子设备的当前运动状态为平移;确定所述相对位移是否大于第二预设位移阈值;如果所述相对位移小于等于所述第二预设位移阈值,则确定所述电子设备的当前运动状态为静止;生成第二引导信息,所述第二引导信息用于引导用户改变所述电子设备处于静止的运动状态;显示所述第二引导信息。
第六方面,本申请提供一种图像采集装置,所述装置包处理器;所述处理器,用于确定所述电子设备的当前运动状态;如果所述电子设备的当前运动状态为旋转,则计算所述电子设备的当前旋转速度;确定所述电子设备的当前旋转速度是否小于预设旋转速度阈值;如果所述电子设备的当前旋转速度大于等于所述预设旋转速度阈值,则确定所述电子设备的当前旋转速度为快速旋转;生成第五引导信息,所述第五引导信息用于引导用户放慢旋转速度;显示所述第五引导信息。
在一种可实现方式中,所述处理器,还用于如果所述电子设备的当前运动状态为平移,则计算所述电子设备的当前平移速度;确定所述电子设备的当前平移速度是否小于预设平移速度阈值;如果所述电子设备的当前平移速度大于等于所述预设平移速度阈值,则确定所述电子设备的当前平移速度为快速平移;生成第六引导信息,所述第六引导信息用于引导用户放慢平移速度;显示所述第六引导信息。
第七方面,本申请提供一种图像采集装置,所述装置包括:收发器和处理器;所述收发器,用于获取当前帧图像;所述处理器,用于确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
第八方面,本申请提供一种图像采集装置,所述装置包括:收发器和处理器;所述收发器,用于得到当前帧图像的深度图;所述处理器,用于确定所述深度图中的近距离区域和远距离区域;如果近距离区域的占比大于预设近距离区域占比阈值,则确定所述电子设备与所述当前帧图像中目标物的距离过近;生成第八引导信息,所述第八引导信息用于引导用户向远距离方向移动;显示所述第八引导信息。
第九方面,本申请提供一种电子设备,所述电子设备包括如第五方面、第六方面、第七方面和第八方面任一项所述的图像采集装置
第十方面,本申请提供一种计算机存储介质,其特征在于,所述计算机存储介质中存储有计算机程序或指令,当所述计算机程序或指令被执行时,如第一方面、第二方面、第三方面和第四方面中任一项所述的方法被执行。
第十一方面,本申请提供一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序或指令,当所述计算机程序或指令在计算机上运行时,使得计算机执行如第一方面、第二方面、第三方面和第四方面中任一项所述的方法。
综上,本申请提供的图像采集方法及电子设备,可以通过计算电子设备的运动状态(如旋转和平移),确定图像采集过程中是否出现原地旋转这种不利于三维重建的情形。本申请还可以通过计算电子设备的运动速度,确定图像采集过程中是否出现由于运动速度过快,导致运动模糊这种不利于三维重建的情形。本申请还可以通过计算当前帧图像中各区域的纹理质量,确定当前帧图像是否存在纹理较差这种不利于三维重建的情形。本申请还可以通过计算当前帧图像中各区域的深度,确定当前帧图像是否存在距离过近这种不利于三维重建的情形。如果确定存在原地旋转、距离过近、纹理较差、运动模糊等采集质量差的情形,可以生成并显示对应的引导信息,以引导用户采集更高质量的图像。
附图说明
图1为本申请实施例提供的一种图像采集方法的算法示意图;
图2A为本申请实施例提供的一种图像采集方法的流程图;
图2B为本申请实施例提供的一种用户手持手机进行图像采集的示意图;
图2C为本申请实施例提供的又一种用户手持手机进行图像采集的示意图;
图3为本申请实施例提供的又一种图像采集方法的流程图;
图4A为本申请实施例提供的又用户手持手机进行图像采集的示意图;
图4B为本申请实施例提供的又用户手持手机进行图像采集的示意图;
图5为本申请实施例提供的又一种图像采集方法的流程图;
图6为本申请实施例提供的一种确定当前帧图像中弱纹理区域和丰富纹理区域的方法的流程图;
图7为本申请实施例提供的又用户手持手机进行图像采集的示意图;
图8为本申请实施例提供的又一种图像采集方法的流程图;
图9为本申请实施例提供的一种确定深度图中的近距离区域和远距离区域的方法的流程图;
图10为本申请实施例提供的又用户手持手机进行图像采集的示意图;
图11为本申请实施例提供的一种图像采集装置的结构框图;
图12为本申请实施例提供的一种芯片的结构框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
三维重建技术是在计算机中建立表达客观世界的虚拟现实的关键技术。三维重建技术的实质就是利用照像设备或者录像设备采集的、对显示三维场景或者物体离散的二维图像作为基础数据,经过处理得到场景或者物体的三维数据信息,从而生成真实的场景或者物体,然后通过合适的空间模型把全景图像组织为虚拟的实景空间,用户在这个空间中可以前进、后退、环视、近看、远看等操作,实现用户全方位观察三维场景的效果。
由此可知,三维重建技术的基础是要采集到高质量的图像。其中,用于三维重建的高质量图像是指图像中要尽可能包括更多的信息,和/或图像要足够清晰。目前,为采集用于三维重建的图像,一般使用全景相机、激光雷达或采集箱等大型标准化设备。虽然这些大型标准化设备的图像采集质量较高,但是,这些大型标准化设备图像采集流程复杂,不利于普通用户的图像采集需求。
对于普通用户来说,利用如手机这种终端设备进行图像采集,可以大幅度降低用户的使用门槛。但是,利用手机进行图像采集时,容易出现原地旋转、距离过近、纹理较差、运动模糊等不利于三维重建的现象,导致三维重建失败率较高。
为解决上述利用如手机这种终端设备进行图像采集时,导致三维重建失败率较高的问题,本申请实施例提供一种图像采集方法,该方法能够识别如原地旋转、距离过近、纹理较差、运动模糊等采集质量差的情形,并针对性的引导用户采集质量更高的图像,从而避免相应的可能导致三维重建失效的情况,提升三维重建的成功率和图像采集的效率。
如图1所示,本申请实施例可以基于IMU数据流、SLAM算法等,计算用于采集图像的电子设备的运动状态(如旋转和平移),以确定图像采集过程中是否出现原地旋转这种不利于三维重建的情形。本申请实施例还可以基于IMU数据流、SLAM算法等,计算用于采集图像的电子设备的运动速度,以确定图像采集过程中是否出现由于运动速度过快,导致运动模糊这种不利于三维重建的情形。本申请实施例还可以基于图像数据流、SLAM算法等,计算当前帧图像中各区域的纹理质量,以确定当前帧图像是否存在纹理较差这种不利于三维重建的情形。本申请实施例还可以基于图像数据流、TOF数据流、SLAM算法等,计算当前帧图像中各区域的深度,以确定当前帧图像是否存在距离过近这种不利于三维重建的情形。其中,IMU数据流是指利用电子设备的IMU传感器获得数据,如角速度、加速度等数据,图像数据流是指利用电子设备的图像采集器获得的帧图像,TOF数据流是指利用电子设备的TOF传感器获得的数据,如深度图等。
进一步的,如图1所示,本申请实施例中,如果确定存在原地旋转、距离过近、纹理较差、运动模糊等采集质量差的情形,可以生成并显示对应的引导信息,以引导用户采集更高质量的图像。
需要说明的是,本申请实施例提供的图像采集方法,可以在图像采集过程中,通过识别电子设备的运动状态、运动速度,以及,图像中纹理质量和物体深度中的一种或几种,并基于识别结果,进行针对性的引导,使用户采集质量更高的图像。也就是说,本申请实施例提供的图像采集方法,可以在图像采集过程中,只识别电子设备的运动状态、运动速度,以及,图像中纹理质量和物体深度中的一种。本申请实施例提供的图像采集方法,也可以在图像采集过程中,识别电子设备的运动状态、运动速度,以及,图像中纹理质量和物体深度中的两种、三种或四种,本申请对此不进行限定。
下面首先以通过识别电子设备的运动状态,引导用户采集质量更高的图像的方法进行说明。
图2A为本申请实施例提供的一种图像采集方法的流程图。如图2A所示,该方法包括以下步骤:
步骤S101,获取电子设备当前时刻的位姿信息。
本申请实施例中电子设备是指用户使用的用于图像采集的设备。其中,电子设备可以是任何具有图像采集功能的终端设备,例如,电子设备可以是手机、IPAD、可穿戴设备等。
在一种可实现方式中,确定电子设备当前时刻的位姿信息的方法,可以按照下述方式实现:从电子设备中的IMU传感器,获得当前时刻的加速度和角速度;然后,分别对当前时刻的加速度和角速度积分运算处理,得到电子设备当前时刻的旋转角度R和位移T,确定电子设备当前时刻的旋转角度R和位移T为电子设备当前时刻的位姿信息。
其中,IMU传感器为电子设备的惯性测量单元,包括陀螺仪和加速度计。利用陀螺仪,可以获得当前时刻的角速度。利用加速度计,可以获得当前时刻的加速度。
其中,对加速度一次积分运算处理,可以得到速度,对加速度二次积分运算处理,可以得到位移T。对角速度一次积分可得到旋转角度R。
在一种可实现方式中,确定电子设备的位姿信息的方法,还可以按照下述方式实现:利用SLAM(simultaneous localization and mapping,即时定位与地图构建)算法,获取电子设备当前时刻的旋转角度R和位移T,然后,确定电子设备当前时刻的旋转角度R和位移T为电子设备当前时刻的位姿信息。
需要说明的是,在获取电子设备当前时刻的位姿信息之前,可以先确定SLAM算法是否处于正常工作状态,如果SLAM算法处于正常工作状态,则可以采用上述两种可实现方式中任一种可实现方式,获取电子设备当前时刻的位姿信息。如果SLAM算法处于非正常工作状态,则可以采用上述两种可实现方式中第一种可实现方式,获取电子设备当前时刻的位姿信息。
步骤S102,确定电子设备当前时刻与上一保存帧时刻的相位位姿,相对位姿包括角度变化dR和相对位移dT。
利用电子设备当前时刻的位姿信息与上一保存帧时刻的位姿信息,计算电子设备的相对位姿。
示例性的,电子设备当前时刻的位姿信息中旋转角度为R1,位移为T1。电子设备上一保存帧时刻的位姿信息中旋转角度为R2,位移为T2。这样,电子设备的相对位姿中角度变化dR=R1-R2,相对位移dT=T1-T2。
需要说明的是,上一保存帧时刻是指距离当前时刻最近的上一次保存的帧图像的时刻,上一保存帧图像也是用于三维重建的图像。应理解,为了实现更好的三维重建效果,当前采集的图像最好与上一保存帧图像包括不同的信息。也就是说,要从不同的空间位置采集目标物,以得到包括目标物不同信息的图像。
步骤S103,确定角度变化是否大于预设角度阈值。
本申请实施例中利用相对位姿中的角度变化,确定电子设备的当前运动状态为旋转还平移。
其中,预设角度阈值可以根据实际应用场景自定义,本申请对此不进行限定。例如,预设角度阈值为5°、10°、20°或30°。
步骤S104,如果角度变化大于预设角度阈值,则确定电子设备的当前运动状态为旋转。
步骤S105,确定相对位移是否大于第一预设位移阈值。
步骤S106,如果相对位移小于等于所述第一预设位移阈值,则确定电子设备的当前运动状态为原地旋转。
步骤S107,生成第一引导信息,第一引导信息用于引导用户改变电子设备处于原地旋转的运动状态。
步骤S108,显示第一引导信息。
这样,如果电子设备的当前运动状态为旋转,则可以进一步利用相对位姿中的相对位移,确定电子设备的当前运动状态是否为原地旋转。如果为原地旋转,则可以通过第一引导信息,提示用户当前的运动状态为原地旋转,以引导用户改变电子设备处于原地旋转的运动状态,从而避免电子设备处于原地旋转的运动状态。
需要说明的是,本申请实施例中原地旋转是指相对于上一保存帧时刻,当前时刻图像采集,以电子设备的中心为旋转中心旋转。由于本申请实施例中采集的图像用于三维重建,因此,要从不同的空间位置采集目标物,以采集到目标物不同的信息。也就是说,采集的不同帧图像中最好包括不同的信息,以避免产生冗余的数据。而随着电子设备的原地旋转,目标物可能已经不在当前帧图像中了,或者,随着电子设备的原地旋转,采集到的图像很可能与上一保存帧图像是相同的,这样采集的图像对目标物的三维重建没有任何意义。因此,如果确定电子设备的当前运动状态为原地旋转,则需要引导用户改变原地旋转的状态,以采集到更高质量的图像。
示例性的,图2B为本实施实施例提供的用户手持手机进行图像采集的示意图,如图2B所示,要采集的目标物包括一个棱台结构和一个正方体结构。图2B中(a)为采集上一保存帧图像,电子设备对应的位姿;图2B中(b)为采集当前帧图像,电子设备对应的位姿。根据图2B中(a)中电子设备的位姿信息和图2B中(b)中电子设备的位姿信息,可以确定图2B中(b)中电子设备的当前时刻的运动状态为原地旋转。通过对比2B中(a)和(b)手机中采集的图像可知,当前帧图像与上一保存帧图像相同,因此,如果保存当前帧图像,则形成了冗余数据,不利于三维重建。
请继续参见图2B中(b),如果确定电子设备的当前时刻的运动状态为原地旋转,则会在电子设备的图像采集界面上显示第一引导信息,如图2B中显示的“原地旋转”。这样,用户可以根据显示的第一引导信息,改变原地旋转状态。例如,用户可以手持手机,以目标物为旋转中心旋转,采集图像。
需要说明的是,本申请实施例仅以第一引导信息为“原地旋转”这种文字的形式进行示例性说明,并不表示对第一引导信息的具体形式的限定。例如,第一引导信息还可以是“请避免原地旋转”。再例如,第一引导信息还可以是图标的形式,如在电子设备的图像采集界面上可以显示表示原地旋转的图标。又例如,第一引导信息还可以是图标和文字的组合形式,如在电子设备的图像采集界面上可以显示“原地旋转”以及表示原地旋转的图标。
步骤S109,如果角度变化小于等于预设角度阈值,则确定电子设备的当前运动状态为平移。
步骤S110,确定相对位移是否大于第二预设位移阈值。
需要说明的是,本申请实施例中第一预设位移阈值与第二预设位移阈值可以相同,也可以不同,本申请对此不进行限定。一般的,如果电子设备处于旋转状态,改变很小的位移,可能就能够采集到目标物不同角度的信息。而如果电子设备处于平移状态,改变很小的位移,可能采集到目标物的信息没有什么变化。因此,更加精准的确定电子设备的运动状态,可以设置第二预设位移阈值大于第一预设位移阈值。
步骤S111,如果相对位移小于等于所述第二预设位移阈值,则确定电子设备的当前运动状态为静止。
也就是说,本申请实施例中,如果当前时刻相对于上一保存帧时刻的移动距离不足,即相对位移小于等于所述第二预设位移阈值,则将电子设备的当前运动状态识别为静止。
步骤S112,生成第二引导信息,所述第二引导信息用于引导用户改变电子设备处于静止的运动状态。
步骤S113,显示第二引导信息。
这样,如果电子设备的当前运动状态为平移,则可以进一步利用相对位姿中的相对位移,确定电子设备的当前运动状态是否为静止。如果为静止,则可以通过第二引导信息,指示电子设备的当前运动状态为静止,以引导用户移动较大距离后采集图像,避免移动距离不足。
需要说明的是,本申请实施例中采集的图像用于三维重建,因此,要从不同的空间位置采集目标物,以采集到目标物不同的信息。也就是说,采集的不同帧图像中最好包括不同的信息,以避免产生冗余的数据。这样,如果确定电子设备的当前运动状态为静止,则说明上一保存帧图像中已经包括当前帧图像中的信息。因此,如果确定电子设备的当前运动状态为静止,则需要引导用户改变静止的状态,以采集到更高质量的图像。
示例性的,图2C为本实施例提供的用户手持手机进行图像采集的示意图,图2C中(a)为采集上一保存帧图像,电子设备对应的位姿;图2C中(b)为采集当前帧图像,电子设备对应的位姿。根据图2C中(a)中电子设备的位姿信息和图2C中(b)中电子设备的位姿信息,可以确定图2C中(b)中电子设备的当前时刻的运动状态为静止。通过对比2C中(a)和(b)手机中采集的图像可知,当前帧图像与上一保存帧图像相同,因此,如果保存当前帧图像,则形成了冗余数据,不利于三维重建。
请继续参见图2C,如果确定电子设备的当前时刻的运动状态为静止,则会在电子设备的图像采集界面上显示第二引导信息,如图2C中显示的“静止”。这样,用户可以根据显示的第二引导信息,改变静止状态,例如,用户可以手持手机,平移较大距离后,采集图像。
需要说明的是,本申请实施例仅以第二引导信息为“静止”这种文字的形式进行示例性说明,并不表示对第二引导信息的具体形式的限定。例如,第二引导信息还可以是“请避免静止”。再例如,第二引导信息还可以是图标的形式,如在电子设备的图像采集界面上可以显示表示静止的图标。又例如,第二引导信息还可以是图标和文字的组合形式,如在电子设备的图像采集界面上可以显示“静止”以及表示静止的图标。
还需要说明的是,在步骤S104确定电子设备的当前运动状态为旋转后,还可以生成第三引导信息,第三引导信息用于指示所述电子设备的当前运动状态为旋转;然后,显示第三引导信息。同样的,在步骤S109确定电子设备的当前运动状态为平移后,还可以生成第四引导信息,第四引导信息用于指示所述电子设备的当前运动状态为平移;显示第四引导信息。
还需要说明的是,图像采集时,电子设备的图像采集界面上还可以显示当前的图像采集时间、图像分辨率、已采集的图像张数等,本申请对此不进行限定。
综上,本申请实施例提供的图像采集方法,在确定电子设备的当前运动状态后,在电子设备上显示电子设备的当前运动状态,如旋转、平移、原地旋转或静止。对应的,用户可以根据电子设备上显示的运动状态提示,调整图像采集的位姿。例如,当电子设备上显示的当前运动状态为原地旋转时,用户可以调整为以目标物为旋转中心旋转,采集图像,以避免原地旋转。又例如,当电子设备上显示的当前运动状态为静止时,用户可以平移较大距离后采集图像,以避免由于移动距离不足,采集到的当前帧图像与上一保存帧图像相同。
需要说明的是,本申请实施例中,如果相对位姿中相对位移dT大于第一预设位移阈值,或者,相对位姿中相对位移dT大于第二预设位移阈值,则可以在电子设备的图像采集界面上显示用于表示当前运动状态正常的信息,也可以显示用于表示当前运动状态正常的信息,本申请对此不进行限定。
还需要说明的是,本申请实施例中,如果相对位姿中相对位移dT大于第一预设位移阈值,或者,相对位姿中相对位移dT大于第二预设位移阈值,那么说明当前图像采集时,没有出现原地旋转或静止的现象。在一种可实现方式,可以保存当前帧图像,用于三维重建,这样,由于保存的当前帧图像没有出现原地旋转或静止的现象,因此有利于三维重建。在另一种可实现方式中,也可以先不保存当前帧图像,而是进入下一个确定当前帧图像的采集状态的流程,例如,确定运动速度的流程,或者,确定当前帧图像的纹理质量的流程,或者,确定当前帧图像的物体深度的流程。
下面以通过识别电子设备的运动速度,引导用户采集质量更高的图像的方法进行说明。
图3为本申请实施例提供的一种图像采集方法的流程图。如图3所示,该方法可以包括以下步骤:
步骤S201,确定电子设备的当前运动状态为旋转还是平移。
确定电子设备的当前运动状态的方法,可以参见上述对图1提供的图像采集方法中的描述,此处不再赘述。
步骤S202,如果电子设备的当前运动状态为旋转,则计算电子设备的当前旋转速度ρ。
当前旋转速度ρ可以通过角度变化dR,以及,当前时刻与上一保存帧时刻的时间差dt计算得到。具体的,ρ=dR/dt。
步骤S203,确定电子设备的当前旋转速度ρ是否小于预设旋转速度阈值。
步骤S204,如果电子设备的当前旋转速度ρ大于等于预设旋转速度阈值,则确定电子设备的当前旋转速度ρ为快速旋转。
步骤S205,生成第五引导信息,第五引导信息用于引导用户放慢旋转速度。
步骤S206,显示第五引导信息。
示例性的,图4A为本申请实施例提供的用户手持手机进行图像采集的示意图,图4A中(a)为采集上一保存帧图像,电子设备对应的位姿;图4A中(b)为采集当前帧图像,电子设备对应的位姿。根据图4A中(a)中电子设备的位姿信息和图4A中(b)中电子设备的位姿信息,可以确定图4A中(b)中电子设备的当前时刻的运动状态为旋转;并进一步确定电子设备的当前旋转速度为快速旋转。这样,如图4A中(b)所示,由于电子设备旋转速度过快,手机中采集的图像已经出现了运动模糊,这种图像是不利于三维重建的。因此,如果确定电子设备的当前旋转速度为快速旋转,本申请会在在电子设备的图像采集界面上显示第五引导信息,如图4A中显示的“放慢速度”。这样,用户可以根据显示的第五引导信息,放慢绕目标物旋转的移动速度,直至使电子设备的当前旋转速度小于预设旋转速度阈值,以采集到清楚的图像。
需要说明的是,本申请实施例仅以第五引导信息为“放慢速度”这种文字的形式进行示例性说明,并不表示对第五引导信息的具体形式的限定。例如,第五引导信息还可以是“放慢旋转速度”。再例如,第五引导信息还可以是图标的形式,如在电子设备的图像采集界面上可以显示表示放慢旋转速度的图标。又例如,第五引导信息还可以是图标和文字的组合形式,如在电子设备的图像采集界面上可以显示“放慢旋转速度”以及表示放慢旋转速度的图标。
步骤S207,如果电子设备的当前运动状态为平移,则计算电子设备的当前平移速度v。
当当前平移速度v可以通过相对位移dT,以及,当前时刻与上一保存帧时刻的时间差dt计算得到。具体的,v=dT/dt。
步骤S208,确定电子设备的当前平移速度是否小于预设平移速度阈值。
步骤S209,如果电子设备的当前平移速度大于等于预设平移速度阈值,则确定电子设备的当前平移速度为快速平移。
步骤S210,生成第六引导信息,第六引导信息用于引导用户放慢平移速度。
步骤S211,显示第六引导信息。
示例性的,图4B为本申请实施例提供的用户手持手机进行图像采集的示意图,图4B中(a)为采集上一保存帧图像,电子设备对应的位姿;图4B中(b)为采集当前帧图像,电子设备对应的位姿。根据图4B中(a)中电子设备的位姿信息和图4B中(b)中电子设备的位姿信息,可以确定图4B中(b)中电子设备的当前时刻的运动状态为平移;并进一步确定电子设备的当前平移速度为快速平移。这样,如图4B中(b)所示,由于电子设备平移速度过快,手机中采集的图像已经出现了运动模糊,这种图像是不利于三维重建的。因此,如果确定电子设备的当前平移速度为快速平移,本申请会在在电子设备的图像采集界面上显示第六引导信息,如图4B中显示的“放慢速度”。这样,用户可以根据显示的第六引导信息,放慢平移电子设备的速度,直至平移电子设备的速度小于预设平移速度阈值,以采集到清楚的图像。
需要说明的是,本申请实施例仅以第六引导信息也为“放慢速度”这种文字的形式进行示例性说明,并不表示对第六引导信息的具体形式的限定。例如,第六引导信息还可以是“放慢平移速度”。再例如,第六引导信息还可以是图标的形式,如在电子设备的图像采集界面上可以显示表示放慢平移速度的图标。又例如,第六引导信息还可以是图标和文字的组合形式,如在电子设备的图像采集界面上可以显示“放慢平移速度”以及表示放慢平移速度的图标。
综上,本申请实施例提供的图像采集方法,在确定电子设备的当前运动速度过快后,便可以在电子设备上显示对应的引导信息,如“放慢旋转速度”或“放慢平移速度”。对应的,用户可以根据电子设备上显示的引导信息,调整图像采集的运动速度。例如,当识别出电子设备的当前运动速度为快速平移时,会在电子设备的图像采集界面显示“放慢平移速度”,这样,用户可以根据显示的引导信息,放慢平移电子设备的速度,以避免平移速度过快,出现运动模糊。又例如,当识别出电子设备的当前运动速度为快速旋转时,会在电子设备的图像采集界面显示“放慢旋转速度”,这样,用户可以放慢旋转电子设备的速度,以避免旋转速度过快,出现运动模糊。
需要说明的是,图3所提供图像采集方法,可以在相对位姿中相对位移dT大于第一预设位移阈值,或者,相对位姿中相对位移dT大于第二预设位移阈值后执行。
还需要说明的是,本申请实施例中,如果电子设备的当前旋转速度小于预设旋转速度阈值,或者,电子设备的当前平移速度小于预设平移速度阈值,那么说明当前帧图像采集时,没有出现运动速度过快的现象。在一种可实现方式,可以保存当前帧图像,用于三维重建,这样,由于保存的当前帧图像没有出现运动速度过快的现象,也就没有运动模糊的问题,因此有利于三维重建。在另一种可实现方式中,也可以先不保存当前帧图像,而是进入下一个确定当前帧图像的采集状态的流程,例如,确定当前帧图像的纹理质量的流程,或者,确定当前帧图像的物体深度的流程。
下面以通过识别图像中纹理质量,引导用户采集质量更高的图像的方法进行说明。
图5为本申请实施例提供的一种图像采集方法的流程图。如图5所示,该方法可以包括以下步骤:
步骤S301,获取当前帧图像。
步骤S302,确定当前帧图像中弱纹理区域和丰富纹理区域。
在一种可实现方式中,如图6所示,确定当前帧图像中弱纹理区域和丰富纹理区域的方法,可以采用以下步骤S3021至步骤S3024实现:
步骤S3021,将当前帧图像划分为至少两个第一子块。
本申请实施例对划分的第一子块的数量,以及,每个第一子块的形状不进行限定。例如,可以将当前帧图像划分为7*7的方阵,方阵中每个方格对应一个第一子块。
步骤S3022,确定每个第一子块的第一分数值、第二分数值和第三分数值。
其中,第一分数值用于表征第一子块内3D点的数量,第二分数值用于表征第一子块内FAST特征点的数量,第三分数值用于表征第一子块的信息熵。
其中,3D点数据流包括当前帧图像中特征点的空间坐标信息。3D点数据流是SLAM算法在运行过程中,对于采集图像中持续追踪的3D点的空间坐标,如果第一子块内3D点的数量越多,表示SLAM算法对采集图像中3D点的追踪程度越高,也就说明第一子块的纹理质量丰富。反之,如果采集图像中纹理较弱,就缺少可以用来跟踪的3D点,对应的,第一子块内3D点的数量就越少。FAST特征点是指从图像中提取的角点,角点的数量越多,表示纹理越丰富。信息熵用来表示图像携带的信息量,如果图像灰度越单一,信息熵的值越小。
具体的,确定每个第一子块的第一分数值,可以先计算每个第一子块内3D点的数量,然后,按照第一预设换算规则,将每个第一子块内3D点的数量,换算为第一分数值。
类似的,确定每个第一子块的第二分数值,可以先计算每个第一子块内FAST特征点的数量,然后,按照第二预设换算规则,将每个第一子块内FAST特征点的数量,换算为第二分数值。
类似的,确定每个第一子块的第三分数值,可以先计算每个第一子块的信息熵,然后,按照第三预设换算规则,将每个第一子块信息熵,换算为第三分数值。
一种可实现方式中,计算每个第一子块内3D点的数量,可以采用以下方式实现:先利用SLAM算法,获取当前帧图像对应的3D点数据流。然后,统计落在每个第一子块内3D点的数量。
一种可实现方式中,计算每个第一子块内FAST特征点的数量,可以采用以下方式实现:先提取当前帧图像的FAST特征;然后,统计落在每个第一子块内FAST特征点的数量。
一种可实现方式中,计算每个第一子块内FAST特征点的数量,还可以采用以下方式实现:直接提取每个第一子块内FAST特征点,然后,统计每个第一子块内FAST特征点的数量。
一种可实现方式中,计算每个第一子块的信息熵,可以采用以下方式实现:先生成当前帧图像的灰度直方图;然后,根据当前帧图像的灰度直方图,计算每个第一子块的信息熵。
一种可实现方式中,计算每个第一子块的信息熵,还可以采用以下方式实现:先生成当前帧图像中每个第一子块的灰度直方图;然后,根据每个第一子块的灰度直方图,计算各自第一子块的信息熵。
步骤S3023,利用第一分数值、第二分数值和第三分数值加权计算,得到每个第一子块的纹理质量分数。
其中,3D点、FAST特征点和信息熵可以起到互补的效果,因此,本申请实施例中,通过加权计算上述三种数据(3D点的数量、FAST特征点的数量和信息熵)对应的分数值,确定的每个第一子块的纹理质量分数,能够准确的表征每个第一子块的纹理质量。
示例性的,每个第一子块的纹理质量分数可以按照以下公式(1)计算得到。
S=k1S3D+k2SFAST+k3SH (1)
上述公式(1)中,S表示第一子块的纹理质量分数,S3D表示第一子块的第一分数,SFAST表示第一子块的第二分数,SH表示第一子块的第三分数,k1、k2和k3均为权重系数,其中,k1+k2+k3=1,k1、k2和k3均为正数。
步骤S3024,确定纹理质量分数小于预设纹理质量分数阈值的第一子块为弱纹理区域,确定纹理质量分数大于等于预设纹理质量分数阈值的第一子块为丰富纹理区域。
将步骤S3023计算得到的每个第一子块的纹理质量分数与预设纹理质量分数阈值比较。然后,将纹理质量分数小于预设纹理质量分数阈值的第一子块确定为弱纹理区域,将纹理质量分数大于等于预设纹理质量分数阈值的第一子块确定为丰富纹理区域。
步骤S303,如果当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定当前帧图像的纹理质量不合格。
其中,弱纹理区域的占比是指当前帧图像中所有弱纹理区域占整个当前帧图像区域的比例。
示例性的,当前帧图像划分为7*7的方阵,共包括49个第一子块,其中,35个第一子块确定为弱纹理区域,24个第一子块确定为丰富纹理区域,这样,当前帧图像中所有弱纹理区域的占比为35/49。这样,假如预设弱纹理区域占比阈值为50%,则当前帧图像中的弱纹理区域的占比大于50%,那么就可以确定当前帧图像的纹理质量不合格。
对应的,如果当前帧图像中弱纹理区域的占比小于等于预设弱纹理区域占比阈值,则确定当前帧图像的纹理质量合格。
步骤S304,生成第七引导信息,所述第七引导信息用于引导用户向丰富纹理区域方向移动。
为了向用户提供更精确的引导方向,在一种可实现方式中,可以以纹理质量分数为权重,计算当前帧图像中丰富纹理区域的加权质心。
一种可实现方式中,计算当前帧图像中丰富纹理区域的加权质心的方法,可以按照下述方式实现:先获取当前帧图像中丰富纹理区域中每个像素点对应的坐标,以及,丰富纹理区域中每个像素点对应的纹理质量分数,其中,同一个第一子块内的所有像素点的纹理质量分数均以各自的第一子块的纹理质量分数计,例如,第一子块A的纹理质量分数90,第一子块A中包括20个像素点,那么这20个像素点对应的纹理质量分数均为90。然后,利用丰富纹理区域中像素点对应的坐标、丰富纹理区域中像素点对应的纹理质量分数,以及质心计算公式,计算得到当前帧图像中丰富纹理区域的加权质心的坐标。
其中,丰富纹理区域的质心计算公式可以采用如下计算公式(2.1)和公式(2.2):
上述公式中,X表示当前帧图像中丰富纹理区域的加权质心的横坐标,Si表示丰富纹理区域的像素点i对应的纹理质量分数,Xi表示像素点i对应的横坐标,Y表示当前帧图像中丰富纹理区域的加权质心的纵坐标,Yi表示像素点i对应的纵坐标,n表示丰富纹理区域像素点的总数量。
步骤S305,显示第七引导信息。
示例性的,图7为用户手持手机进行图像采集的示意图。图7中(a)为当前帧图像的图像采集的示意图,图7中(b)为根据第七引导信息,引导后的图像采集的示意图。如图7所示,要采集的目标物包括一个正方体结构,图7中还展示了背景区域和地面区域。如图7中(a)所示,当前帧图像中包括弱纹理区域(背景区域)和丰富纹理区域(目标物)。如果图像中弱纹理区域的占比较大,则不利于三维重建。因此,本申请进一步可以计算出弱纹理区域的占比,例如,计算出弱纹理区域的占比为60%,则可以在当前帧图像上显示第七引导信息,以引导用户向丰富纹理区域方向移动,直至采集到纹理质量合格的图像。例如,如图7所示,第七引导信息可以包括“向纹理丰富区域移动”的文字以及指向纹理丰富区域的图标。又例如,还可以进一步计算出丰富纹理区域的加权质心的坐标,这样,第七引导信息可以包括“向纹理丰富区域移动”的文字以及指向加权质心的坐标的图标,这样能够为用户提供更加精确的指引方向。
需要说明的是,本申请实施例仅以第七引导信息为“向纹理丰富区域移动”以及用于表示指向纹理丰富区域的图标进行示例性说明,并不表示对第七引导信息的具体形式的限定。例如,第七引导信息还可以仅通过“向纹理丰富区域移动”表示,其中,“向纹理丰富区域移动”可以在图像中纹理丰富区域展示,这样,可以通过第七引导信息在图像中的位置,展示纹理丰富区域的位置,以引导用户向展示“向纹理丰富区域移动”的方向移动。再例如,第七引导信息还可以是图标的形式,如在电子设备的图像采集界面上可以显示表示向纹理丰富区域移动的图标。
还需要说明的是,如果当前帧图像的纹理质量合格,可以显示用于指示当前帧图像的纹理质量合格的指示信息,也可以不显示任何指示信息,本申请对此不作限定。
综上,本申请实施例提供的图像采集方法,在确定当前帧图像的纹理质量不合格后,可以在电子设备上显示对应的引导信息,如“向纹理丰富区域移动”。对应的,用户可以根据电子设备上显示的引导信息,调整图像采集的位置,直至采集到纹理质量合格的图像,用于三维重建。
还需要说明的是,本申请实施例中,在一种可实现方式,可以保存当前帧图像,用于三维重建。在另一种可实现方式中,如果当前帧图像的纹理质量合格,也可以先不保存当前帧图像,而是进入下一个确定当前帧图像的采集状态的流程,例如,确定电子设备的运动状态的流程,或者,确定电子设备的运动速度的流程,或者,确定当前帧图像的物体深度的流程。
下面以通过识别当前帧图像的物体深度,引导用户采集质量更高的图像的方法进行说明。
图8为本申请实施例提供的一种图像采集方法的流程图。如图8所示,该方法,可以包括以下步骤:
步骤S401,得到当前帧图像的深度图。
在一种可实现方式中,得到当前帧图像的深度图的方法,可以按照下述方式实现:利用电子设备中的TOF传感器,得到当前帧图像的深度图。其中,TOF传感器可以通过计算光线发射和反射时间差或相位差,来换算被拍摄目标物的距离,得到当前帧图像对应的深度信息,进一步的,可以基于当前帧图像对应的深度信息,生成对应的深度图。深度图是指将从电子设备到目标物上各点的距离(深度)作为像素值的图像。
在一种可实现方式中,得到当前帧图像的深度图的方法,还可以按照下述方式实现:先获取当前帧图像;然后,将当前帧图像输入单目深度估计网络,其中,单目深度估计网络用于估计当前帧图像的深度;最后,利用单目深度估计网络,输出当前帧图像的深度图。
其中,单目深度估计网络可以是一种训练收敛的的神经网络,以当前帧图像作为输入,利用单目深度估计网络,可以估计出与输入的当前帧图像对应的深度图。
在一种可实现方式中,得到当前帧图像的深度图的方法,还可以按照下述方式实现:先获取当前帧图像,以及,利用SLAM算法,获得当前帧图像对应的3D点数据流;然后,将当前帧图像,以及,当前帧图像对应的3D点数据流,输入单目深度估计网络,其中,当前帧图像对应的3D点数据流作为深度种子点;最后,利用单目深度估计网络,输出当前帧图像的深度图。这样,引入当前帧图像对应的3D点数据流作为深度种子点,可以得到更准确的深度图。
在一种可实现方式中,得到当前帧图像的深度图的方法,还可以按照下述方式实现:分别利用电子设备中的TOF传感器,以及,单目深度估计网络,得到当前帧图像的深度图。然后,将上述得到的两个当前帧图像的深度图进行深度对齐后,得到的当前帧深度图作为最终的深度图。
需要说明的是,在利用SLAM算法,获得当前帧图像对应的3D点数据流之前,可以先确定SLAM算法是否处于正常工作状态,如果SLAM算法处于正常工作状态,则可以采用上述包括“以当前帧图像,以及,当前帧图像对应的3D点数据流,作为单目深度估计网络的输入”的实现方式,得到当前帧图像的深度图。如果SLAM算法处于非正常工作状态,则可以采用上述“以当前帧图像作为单目深度估计网络的输入”的实现方式,得到当前帧图像的深度图。
步骤S402,确定深度图中的近距离区域和远距离区域。
在一种可实现方式中,如图9所示,确定深度图中的近距离区域和远距离区域的方法,可以采用以下步骤S4021至步骤S4023实现:
步骤S4021,将深度图划分为至少两个第二子块。
本申请实施例对划分的第二子块的数量,以及,每个第二子块的形状不进行限定。例如,可以将深度图划分为7*7的方阵,方阵中每个方格对应一个第二子块。
步骤S4022,计算每个第二子块的平均深度。
其中,深度图中每个像素对应有深度值,即电子设备距离目标物的实际距离。以计算一个第二子块的平均深度为例,可以先计算出该第二子块中所有像素点对应的深度值之和,然后,再将深度值之和平均到该第二子块的每个像素点上,这样就得到该第二子块的平均深度。
按照上述计算方法,可以得到每个第二子块的平均深度。
步骤S4023,确定平均深度小于预设深度阈值的第二子块为近距离区域,确定平均深度大于等于预深度阈值的第二子块为远距离区域。
将步骤S4022计算得到的每个第二子块的平均深度与预设深度阈值比较。然后,将平均深度小于预设深度阈值的第二子块确定为近距离区域,将平均深度大于等于预深度阈值的第二子块确定为远距离区域。
步骤S403,如果近距离区域占比大于预设近距离区域占比阈值,则确定电子设备与当前帧图像中目标物的距离过近。
其中,近距离区域占比是指深度图中所有近距离区域占整个深度图区域的比例。
示例性的,深度图划分为7*7的方阵,共包括49个第二子块,其中,35个第二子块确定为近距离区域,24个第二子块确定为远距离区域,这样,深度图中所有近距离区域的占比为35/49。这样,假如预设近距离区域占比阈值为50%,则灰度图中的近距离区域的占比大于50%,那么就可以确定电子设备与当前帧图像中目标物的距离过近。
对应的,如果近距离区域占比小于等于预设近距离区域占比阈值,则确定电子设备与当前帧图像中目标物的距离为合适距离。
步骤S404,生成第八引导信息,第八引导信息用于引导用户向远距离方向移动。
为了向用户提供更精确的引导方向,在一种可实现方式中,可以以平均深度为权重,计算深度图中远距离区域的加权质心。
一种可实现方式中,计算深度图中远距离区域的加权质心的方法,可以按照下述方式实现:先获取深度图中远距离区域中每个像素点对应的坐标,以及,远距离区域中每个像素点对应的平均深度,其中,同一个第一子块内的所有像素点的平均深度均以各自的第二子块的平均深度计,例如,第二子块B的平均深度为2m,第二子块B中包括20个像素点,那么这20个像素点对应的平均深度均为2m。然后,利用远距离区域中像素点对应的坐标、远距离区域中像素点对应的平均深度,以及质心计算公式,计算得到深度图中远距离区域的加权质心的坐标。
其中,远距离区域的质心计算公式可以采用如下计算公式(3.1)和公式(3.2):
上述公式中,X表示深度图中远距离区域的加权质心的横坐标,Di表示远距离区域中像素点i对应的平均深度,Xi表示像素点i对应的横坐标,Y表示深度图中远距离区域的加权质心的纵坐标,Yi表示远距离区域中像素点i对应的纵坐标,n表示远距离区域像素点的总数量。
步骤S405,显示第八引导信息。
当采集图像的电子设备与目标物的距离过近时,采集的图像可能会不清晰,或者,采集的信息量较少,这样的图像不利于三维重建。因此,为了保证用户采集到高质量的图像,在确定电子设备与当前帧图像中目标物的距离过近时,本申请会生成用于引导用户向远距离方向移动的第八引导信息。这样,用户可以根据显示的第八引导信息,向远距离方向移动,直至移动到距离合适的位置,采集到高质量图像。
示例性的,图10为用户手持手机进行图像采集的示意图。图10中(a)为当前帧图像的图像采集的示意图,图10中(b)为根据第八引导信息,引导后的图像采集的示意图。如图10所示,要采集的目标物包括一个正方体结构和一个棱台结构,图10中还展示了背景区域和地面区域。为便于说明,以下将目标物中正方体结构称为目标物1,将目标物中棱台结构称为目标物2,其中,目标物2位于目标物1前方,目标物1位于背景区域前方。如图10中(a)所示,由于电子设备与目标物1和目标物2的距离过近,导致图像中只采集到部分目标物1。因此,本申请在确定电子设备与目标物的距离过近时,在电子设备的图像采集界面上显示第八引导信息,如图10中的“移远一点”。这样,用户可以根据显示的指引信息“移远一点”,向后移动电子设备,直至使电子设备与目标物的距离为合适距离。
图10中(b)为向后移动后,用户手持手机进行图像采集的示意图。如图10所示,当用户根据显示的指引信息“移远一点”,向后移动电子设备后,能够采集到更完整的目标物。
需要说明的是,如果电子设备与当前帧图像中目标物的距离为合适距离,可以显示用于指示电子设备与当前帧图像中目标物的距离为合适距离的指示信息,也可以不显示任何指示信息,本申请对此不作限定。
还需要说明的是,本申请实施例中,如果电子设备与当前帧图像中目标物的距离为合适距离。在一种可实现方式,可以保存当前帧图像,用于三维重建,这样,由于保存的当前帧图像能够采集到足够多的信息,因此有利于三维重建。在另一种可实现方式中,也可以先不保存当前帧图像,而是进入下一个确定当前帧图像的采集状态的流程,例如,确定电子设备的运动状态的流程,或者,确定电子设备的运动速度的流程,或者,确定当前帧图像的纹理质量的流程。
还需要说明的是,本申请实施例对显示引导信息(如第一引导信息、第二引导信息、第三引导信息、第四引导信息、第五引导信息、第六引导信息、第七引导信息、第八引导信息)的具体显示方式不进行限定。例如,引导信息可以以AR形式渲染在电子设备的图像采集界面上。
综上,本申请实施例提供的图像采集方法,可以基于当前帧图像的位姿信息、深度图和图像,确定是否存在如原地旋转、距离过近、纹理较差、运动模糊等采集质量差的情形,并针对性的引导用户采集质量更高的图像,从而避免相应的可能导致三维重建失效的情况,提升三维重建的成功率和图像采集的效率。本申请实施例提供的图像采集方法,可以应用于具有单目相机的电子设备。
本文中描述的各个方法实施例可以为独立的方案,也可以根据内在逻辑进行组合,这些方案都落入本申请的保护范围中。
可以理解的是,上述各个方法实施例中,由电子设备实现的方法和操作,也可以由可用于电子设备的部件(例如芯片或者电路)实现。
上述实施例对本申请提供的图像采集方法进行了介绍。可以理解的是,电子设备为了实现上述功能,其包含了执行每一个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例可以根据上述方法示例对电子设备进行功能模块的划分,例如,可以对应每一个功能划分每一个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
以上,结合附图详细说明了本申请实施例提供的方法。以下,结合附图详细说明本申请实施例提供的装置。应理解,装置实施例的描述与方法实施例的描述相互对应,因此,未详细描述的内容可以参见上文方法实施例,为了简洁,这里不再赘述。
参见图11,图11为本申请提供的图像采集装置的一种实施方式的结构框图。如图11所示,该装置1000可以包括:收发器1001和处理器1002。该装置1000可以执行上述图2A、图3、图5、图6、图8和图9所示方法实施例中执行的操作。
例如,在本申请一种可选的实施例中,所述收发器1001,可以用于获取电子设备当前时刻的位姿信息。所述处理器1002,可以用于确定所述电子设备当前时刻与上一保存帧时刻的相对位姿,所述相对位姿包括角度变化和相对位移;确定所述角度变化是否大于预设角度阈值;如果所述角度变化大于预设角度阈值,则确定所述电子设备的当前运动状态为旋转;确定所述相对位移是否大于第一预设位移阈值;如果所述相对位移小于等于所述第一预设位移阈值,则确定所述电子设备的当前运动状态为原地旋转;生成第一引导信息,所述第一引导信息用于引导用户改变所述电子设备处于原地旋转的运动状态;显示所述第一引导信息。
一种可能的实现方式中,所述处理器1002,还可以用于如果所述角度变化小于等于所述预设角度阈值,则确定所述电子设备的当前运动状态为平移;确定所述相对位移是否大于第二预设位移阈值;如果所述相对位移小于等于所述第二预设位移阈值,则确定所述电子设备的当前运动状态为静止;生成第二引导信息,所述第二引导信息用于引导用户改变所述电子设备处于静止的运动状态;显示所述第二引导信息。
一种可能的实现方式中,所述处理器1002,还可以用于确定所述电子设备的当前运动状态为旋转后,生成第三引导信息,所述第三引导信息用于指示所述电子设备的当前运动状态为旋转;显示所述第三引导信息。
一种可能的实现方式中,所述处理器1002,还可以用于确定所述电子设备的当前运动状态为平移后,生成第四引导信息,所述第四引导信息用于指示所述电子设备的当前运动状态为平移;显示所述第四引导信息。
一种可能的实现方式中,所述收发器1001,具体可以用于从所述电子设备中的IMU传感器,获取当前时刻的加速度和角速度;所述处理器1002,具体可以用于分别对所述当前时刻的加速度和角速度积分运算处理,得到所述电子设备当前时刻的旋转角度和位移;确定所述电子设备当前时刻的旋转角度和位移为所述电子设备当前时刻的位姿信息。
一种可能的实现方式中,所述处理器1002,具体可以用于利用SLAM算法,获取电子设备当前时刻的旋转角度和位移;确定所述电子设备当前时刻的旋转角度和位移为所述电子设备当前时刻的位姿信息。
一种可能的实现方式中,所述处理器1002,还可以用于如果所述相对位移大于所述第一预设位移阈值或者所述相对位移大于所述第二预设位移阈值,则保存当前帧图像,或者,确定所述电子设备的当前运动速度,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
一种可能的实现方式中,处理器1002,还可以用于如果所述电子设备的当前运动状态为旋转,则计算所述电子设备的当前旋转速度;确定所述电子设备的当前旋转速度是否小于预设旋转速度阈值;如果所述电子设备的当前旋转速度大于等于所述预设旋转速度阈值,则确定所述电子设备的当前旋转速度为快速旋转;生成第五引导信息,所述第五引导信息用于引导用户放慢旋转速度;显示所述第五引导信息。
一种可能的实现方式中,处理器1002,还可以用于如果所述电子设备的当前运动状态为平移,则计算所述电子设备的当前平移速度;确定所述电子设备的当前平移速度是否小于预设平移速度阈值;如果所述电子设备的当前平移速度大于等于所述预设平移速度阈值,则确定所述电子设备的当前平移速度为快速平移;生成第六引导信息,所述第六引导信息用于引导用户放慢平移速度;显示所述第六引导信息。
一种可能的实现方式中,处理器1002,还可以用于如果所述电子设备的当前旋转速度小于所述预设旋转速度阈值,或者,如果所述电子设备的当前平移速度小于所述预设平移速度阈值,则保存当前帧图像,或者,确定当前帧图像的纹理质量,或者,确定当前帧图像的物体深度。
一种可能的实现方式中,收发器1001,还可以用于获取当前帧图像。处理器1002,还可以用于确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
一种可能的实现方式中,处理器1002,还可以具体用于将所述当前帧图像划分为至少两个第一子块;确定每个第一子块的第一分数值、第二分数值和第三分数值,其中,所述第一分数值用于表征所述第一子块内3D点的数量,所述第二分数值用于表征所述第一子块内FAST特征点的数量,所述第三分数值用于表征所述第一子块的信息熵;利用所述第一分数值、第二分数值和第三分数值加权计算,得到每个第一子块的纹理质量分数;确定所述纹理质量分数小于预设纹理质量分数阈值的第一子块为弱纹理区域,确定纹理质量分数大于等于预设纹理质量分数阈值的第一子块为丰富纹理区域。
一种可能的实现方式中,收发器1001,还可以具体用于获取所述当前帧图像对应的3D点数据流;处理器1002,还可以具体用于根据所述当前帧图像对应的3D点数据流,计算每个所述第一子块内3D点的数量;按照第一预设换算规则,将每个第一子块内3D点的数量,换算为第一分数值;提取所述当前帧图像的FAST特征;根据所述当前帧图像的FAST特征,计算每个所述第一子块内FAST特征点的数量;按照第二预设换算规则,将每个第一子块内FAST特征点的数量,换算为第二分数值;生成所述当前帧图像的灰度直方图;根据所述当前帧图像的灰度直方图,计算每个所述第一子块的信息熵;按照第三预设换算规则,将每个第一子块信息熵,换算为第三分数值。
一种可能的实现方式中,处理器1002,还可以具体用于如果所述当前帧图像的纹理质量不合格,则以所述纹理质量分数为权重,计算所述当前帧图像中所述丰富纹理区域的加权质心;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域的所述加权质心方向移动。
一种可能的实现方式中,处理器1002,还可以用于如果弱纹理区域的占比小于等于预设弱纹理区域占比阈值,则保存当前帧图像,或者,确定所述当前帧图像的物体深度。
一种可能的实现方式中,收发器1001,可以用于得到当前帧图像的深度图;处理器1002,可以用于确定所述深度图中的近距离区域和远距离区域;如果近距离区域的占比大于预设近距离区域占比阈值,则确定所述电子设备与所述当前帧图像中目标物的距离过近;生成第八引导信息,所述第八引导信息用于引导用户向远距离方向移动;显示所述第八引导信息。
一种可能的实现方式中,收发器1001,可以用于利用所述电子设备中的TOF传感器,得到当前帧图像的深度图。
一种可能的实现方式中,收发器1001,可以用于获取当前帧图像;处理器1002,可以用于将所述当前帧图像输入单目深度估计网络,所述单目深度估计网络用于估计所述当前帧图像的深度;利用所述单目深度估计网络,输出所述当前帧图像的深度图。
一种可能的实现方式中,收发器1001,可以用于获取当前帧图像以及,所述当前帧图像对应的3D点数据流;处理器1002,可以用于将所述当前帧图像,以及,所述当前帧图像对应的3D点数据流,输入单目深度估计网络,其中,所述当前帧图像对应的3D点数据流作为深度种子点,所述单目深度估计网络用于估计所述当前帧图像的深度;输出所述当前帧图像的深度图。
一种可能的实现方式中,处理器1002,可以用于将所述深度图划分为至少两个第二子块;计算每个所述第二子块的平均深度;确定所述平均深度小于预设深度阈值的第二子块为近距离区域,确定平均深度大于等于预深度阈值的第二子块为远距离区域。
一种可能的实现方式中,处理器1002,可以用于如果所述电子设备与所述当前帧图像的目标物距离过近,则以所述平均深度为权重,计算所述当前帧图像中所述远距离区域的加权质心;生成第八引导信息,所述第八引导信息用于引导用户向所述远距离区域的加权质心方向移动。
一种可能的实现方式中,处理器1002,可以用于如果近距离区域的占比小于等于预设近距离区域占比阈值,则保存所述当前帧图像。
也就是说,该装置1000可以实现对应于图2A、图3、图5、图6、图8和图9所示图像采集方法实施例中所执行的步骤或者流程,该装置1000可以包括用于执行图2A、图3、图5、图6、图8和图9所示图像采集方法实施例中执行的方法的模块。应理解,各模块执行上述相应步骤的具体过程在上述图像采集方法实施例中已经详细说明,为了简洁,在此不再赘述。
本申请实施例还提供了一种处理装置,该处理装置包括至少一个处理器和通信接口。所述通信接口用于为所述至少一个处理器提供信息输入和/或输出,所述至少一个处理器用于执行上述方法实施例中的方法。
应理解,上述处理装置可以是一个芯片。例如,参见图12,图12为本申请提供的芯片的一种实施方式的结构框图。图12所示的芯片可以为通用处理器,也可以为专用处理器。该芯片1100可以包括至少一个处理器1101。其中,所述至少一个处理器1101可以用于支持图11所示的装置执行图2A、图3、图5、图6、图8和图9所示的技术方案。
可选的,该芯片1100还可以包括收发器1102,收发器1102用于接受处理器1101的控制,用于支持图11所示的装置执行图2A、图3、图5、图6、图8和图9所示的方法的技术方案。可选的,图12所示的芯片1100还可以包括存储介质1103。具体的,所述收发器1102可以替换为通信接口,所述通信接口为所述至少一个处理器1101提供信息输入和/或输出。
需要说明的是,图12所示的芯片1100可以使用下述电路或者器件来实现:一个或多个现场可编程门阵列(fieldprogrammable gate array,FPGA)、可编程逻辑器件(programmable logic device,PLD)、专用集成芯片(application specific integratedcircuit,ASIC)、系统芯片(system on chip,SoC)、中央处理器(central processor unit,CPU)、网络处理器(network processor,NP)、数字信号处理电路(digital signalprocessor,DSP)、微控制器(micro controller unit,MCU),控制器、状态机、门逻辑、分立硬件部件、任何其他适合的电路、或者能够执行本申请通篇所描述的各种功能的电路的任意组合。
在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。为避免重复,这里不再详细描述。
应注意,本申请实施例中的处理器可以是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法实施例的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
可以理解,本申请实施例中的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rateSDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(directrambus RAM,DR RAM)。应注意,本文描述的系统和方法的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
根据本申请实施例提供的方法,本申请实施例还提供一种计算机程序产品,该计算机程序产品包括:计算机程序或指令,当该计算机程序或指令在计算机上运行时,使得该计算机执行图2A、图3、图5、图6、图8和图9所示实施例中任意一个实施例的方法。
根据本申请实施例提供的方法,本申请实施例还提供一种计算机存储介质,该计算机存储介质存储有计算机程序或指令,当该计算机程序或指令在计算机上运行时,使得该计算机执行图2A、图3、图5、图6、图8和图9所示实施例中任意一个实施例的方法。
根据本申请实施例提供的方法,本申请实施例还提供一种电子设备,所述电子设备为智能设备,包含智能手机、平板电脑或个人数字助理等,该智能设备包含上述图像采集装置。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各种说明性逻辑块(illustrative logical block)和步骤(step),能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
上述本申请实施例提供的图像采集装置、芯片、计算机存储介质、计算机程序产品、电子设备均用于执行上文所提供的方法,因此,其所能达到的有益效果可参考上文所提供的方法对应的有益效果,在此不再赘述。
应理解,在本申请的各个实施例中,各步骤的执行顺序应以其功能和内在逻辑确定,各步骤序号的大小并不意味着执行顺序的先后,不对实施例的实施过程构成限定。
本说明书的各个部分均采用递进的方式进行描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点介绍的都是与其他实施例不同之处。尤其,对于图像采集装置、芯片、计算机存储介质、计算机程序产品、电子设备的实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例中的说明即可。
尽管已描述了本申请的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。
以上所述的本申请实施方式并不构成对本申请保护范围的限定。
Claims (23)
1.一种图像采集方法,其特征在于,包括:
获取电子设备当前时刻的位姿信息;
确定所述电子设备当前时刻与上一保存帧时刻的相对位姿,所述相对位姿包括角度变化和相对位移;
确定所述角度变化是否大于预设角度阈值;
如果所述角度变化大于预设角度阈值,则确定所述电子设备的当前运动状态为旋转;
确定所述相对位移是否大于第一预设位移阈值;
如果所述相对位移小于等于所述第一预设位移阈值,则确定所述电子设备的当前运动状态为原地旋转;
生成第一引导信息,所述第一引导信息用于引导用户改变所述电子设备处于原地旋转的运动状态;
显示所述第一引导信息;
确定当前帧图像的纹理质量,包括:获取所述当前帧图像;确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
2.根据权利要求1所述的方法,其特征在于,还包括:
如果所述角度变化小于等于所述预设角度阈值,则确定所述电子设备的当前运动状态为平移;
确定所述相对位移是否大于第二预设位移阈值;
如果所述相对位移小于等于所述第二预设位移阈值,则确定所述电子设备的当前运动状态为静止;
生成第二引导信息,所述第二引导信息用于引导用户改变所述电子设备处于静止的运动状态;
显示所述第二引导信息。
3.根据权利要求1所述的方法,其特征在于,如果所述相对位移大于所述第一预设位移阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定所述电子设备的当前运动速度,或者,确定当前帧图像的物体深度。
4.根据权利要求2所述的方法,其特征在于,如果所述相对位移大于所述第二预设位移阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定所述电子设备的当前运动速度,或者,确定当前帧图像的物体深度。
5.根据权利要求3所述的方法,其特征在于,所述确定所述电子设备的当前运动速度,包括:
如果所述电子设备的当前运动状态为旋转,则计算所述电子设备的当前旋转速度;
确定所述电子设备的当前旋转速度是否小于预设旋转速度阈值;
如果所述电子设备的当前旋转速度大于等于所述预设旋转速度阈值,则确定所述电子设备的当前旋转速度为快速旋转;
生成第五引导信息,所述第五引导信息用于引导用户放慢旋转速度;
显示所述第五引导信息。
6.根据权利要求4所述的方法,其特征在于,所述确定所述电子设备的当前运动速度,包括:
如果所述电子设备的当前运动状态为平移,则计算所述电子设备的当前平移速度;
确定所述电子设备的当前平移速度是否小于预设平移速度阈值;
如果所述电子设备的当前平移速度大于等于所述预设平移速度阈值,则确定所述电子设备的当前平移速度为快速平移;
生成第六引导信息,所述第六引导信息用于引导用户放慢平移速度;
显示所述第六引导信息。
7.根据权利要求5所述的方法,其特征在于,如果所述电子设备的当前旋转速度小于所述预设旋转速度阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定当前帧图像的物体深度。
8.根据权利要求6所述的方法,其特征在于,如果所述电子设备的当前平移速度小于所述预设平移速度阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定当前帧图像的物体深度。
9.根据权利要求1所述方法,其特征在于,所述确定所述当前帧图像中弱纹理区域和丰富纹理区域,包括:
将所述当前帧图像划分为至少两个第一子块;
确定每个第一子块的第一分数值、第二分数值和第三分数值,其中,所述第一分数值用于表征所述第一子块内3D点的数量,所述第二分数值用于表征所述第一子块内FAST特征点的数量,所述第三分数值用于表征所述第一子块的信息熵;
利用所述第一分数值、第二分数值和第三分数值加权计算,得到每个第一子块的纹理质量分数;
确定所述纹理质量分数小于预设纹理质量分数阈值的第一子块为弱纹理区域,确定纹理质量分数大于等于预设纹理质量分数阈值的第一子块为丰富纹理区域。
10.根据权利要求9所述方法,其特征在于,所述确定每个第一子块的第一分数值、第二分数值和第三分数值,包括:
获取所述当前帧图像对应的3D点数据流;
根据所述当前帧图像对应的3D点数据流,计算每个所述第一子块内3D点的数量;
按照第一预设换算规则,将每个第一子块内3D点的数量,换算为第一分数值;
提取所述当前帧图像的FAST特征;
根据所述当前帧图像的FAST特征,计算每个所述第一子块内FAST特征点的数量;
按照第二预设换算规则,将每个第一子块内FAST特征点的数量,换算为第二分数值;
生成所述当前帧图像的灰度直方图;
根据所述当前帧图像的灰度直方图,计算每个所述第一子块的信息熵;
按照第三预设换算规则,将每个第一子块信息熵,换算为第三分数值。
11.根据权利要求1所述方法,其特征在于,
如果所述当前帧图像的纹理质量不合格,则获取当前帧图像中所述丰富纹理区域中每个像素点对应的坐标,以及,所述丰富纹理区域中每个像素点对应的纹理质量分数;
基于所述丰富纹理区域中像素点对应的坐标、所述丰富纹理区域中像素点对应的纹理质量分数,以及质心计算公式,计算得到当前帧图像中所述丰富纹理区域的加权质心的坐标;所述质心计算公式包括:和/>其中,X表示当前帧图像中丰富纹理区域的加权质心的横坐标,Si表示丰富纹理区域的像素点i对应的纹理质量分数,Xi表示像素点i对应的横坐标,Y表示当前帧图像中丰富纹理区域的加权质心的纵坐标,Yi表示像素点i对应的纵坐标,n表示丰富纹理区域像素点的总数量;
生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域的所述加权质心的坐标方向移动。
12.根据权利要求1所述方法,其特征在于,如果弱纹理区域的占比小于等于预设弱纹理区域占比阈值,则保存当前帧图像,或者,确定所述当前帧图像的物体深度。
13.根据权利要求3、4、7、8、12任一项所述方法,其特征在于,所述确定所述当前帧图像的物体深度,包括:
得到当前帧图像的深度图;
确定所述深度图中的近距离区域和远距离区域;
如果近距离区域的占比大于预设近距离区域占比阈值,则确定所述电子设备与所述当前帧图像中目标物的距离过近;
生成第八引导信息,所述第八引导信息用于引导用户向远距离方向移动;
显示所述第八引导信息。
14.根据权利要求13所述方法,其特征在于,所述确定所述深度图中的近距离区域和远距离区域,包括:
将所述深度图划分为至少两个第二子块;
计算每个所述第二子块的平均深度;
确定所述平均深度小于预设深度阈值的第二子块为近距离区域,确定平均深度大于等于预深度阈值的第二子块为远距离区域。
15.一种图像采集方法,其特征在于,包括:
确定电子设备的当前运动状态;
如果所述电子设备的当前运动状态为旋转,则计算所述电子设备的当前旋转速度;
确定所述电子设备的当前旋转速度是否小于预设旋转速度阈值;
如果所述电子设备的当前旋转速度大于等于所述预设旋转速度阈值,则确定所述电子设备的当前旋转速度为快速旋转;
生成第五引导信息,所述第五引导信息用于引导用户放慢旋转速度;
显示所述第五引导信息;
确定当前帧图像的纹理质量,包括:获取所述当前帧图像;确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
16.根据权利要求15所述的方法,其特征在于,
如果所述电子设备的当前运动状态为平移,则计算所述电子设备的当前平移速度;
确定所述电子设备的当前平移速度是否小于预设平移速度阈值;
如果所述电子设备的当前平移速度大于等于所述预设平移速度阈值,则确定所述电子设备的当前平移速度为快速平移;
生成第六引导信息,所述第六引导信息用于引导用户放慢平移速度;
显示所述第六引导信息。
17.根据权利要求15所述的方法,其特征在于,如果所述电子设备的当前旋转速度小于所述预设旋转速度阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定当前帧图像的物体深度。
18.根据权利要求16所述的方法,其特征在于,如果所述电子设备的当前平移速度小于所述预设平移速度阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定当前帧图像的物体深度。
19.一种图像采集方法,其特征在于,包括:
获取当前帧图像;
确定所述当前帧图像中弱纹理区域和丰富纹理区域;
如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;
生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;
显示所述第七引导信息。
20.根据权利要求19所述方法,其特征在于,如果弱纹理区域的占比比例小于等于预设弱纹理区域占比阈值,则保存当前帧图像,或者,确定电子设备的当前运动速度,或者,确定所述电子设备的当前运动状态,或者,确定当前帧图像的物体深度。
21.一种图像采集方法,其特征在于,包括:
得到当前帧图像的深度图;
确定所述深度图中的近距离区域和远距离区域;
如果近距离区域的占比大于预设近距离区域占比阈值,则确定电子设备与所述当前帧图像中目标物的距离过近;
生成第八引导信息,所述第八引导信息用于引导用户向远距离方向移动;
显示所述第八引导信息;
确定当前帧图像的纹理质量,包括:获取所述当前帧图像;确定所述当前帧图像中弱纹理区域和丰富纹理区域;如果所述当前帧图像中弱纹理区域的占比大于预设弱纹理区域占比阈值,则确定所述当前帧图像的纹理质量不合格;生成第七引导信息,所述第七引导信息用于引导用户向所述丰富纹理区域方向移动;显示所述第七引导信息。
22.根据权利要求21所述方法,其特征在于,如果近距离区域的占比小于等于预设近距离区域占比阈值,则在所述确定当前帧图像的纹理质量之前或者之后,确定所述电子设备的当前运动速度,或者,确定所述电子设备的当前运动状态。
23.一种电子设备,其特征在于,所述电子设备包括图像采集装置,所述图像采集装置用于执行如权利要求1-22任一项所述的图像采集方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210900222.3A CN115423930B (zh) | 2022-07-28 | 2022-07-28 | 一种图像采集方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210900222.3A CN115423930B (zh) | 2022-07-28 | 2022-07-28 | 一种图像采集方法及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115423930A CN115423930A (zh) | 2022-12-02 |
CN115423930B true CN115423930B (zh) | 2023-09-26 |
Family
ID=84196980
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210900222.3A Active CN115423930B (zh) | 2022-07-28 | 2022-07-28 | 一种图像采集方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115423930B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017067526A1 (zh) * | 2015-10-23 | 2017-04-27 | 努比亚技术有限公司 | 图像增强方法及移动终端 |
CN111416935A (zh) * | 2020-03-17 | 2020-07-14 | 维沃移动通信有限公司 | 一种拍摄方法及电子设备 |
CN111917991A (zh) * | 2019-05-09 | 2020-11-10 | 北京京东乾石科技有限公司 | 图像的质量控制方法、装置、设备及存储介质 |
CN112733579A (zh) * | 2019-10-28 | 2021-04-30 | 华为技术有限公司 | 对象重建的方法、装置、设备及存储介质 |
CN112866675A (zh) * | 2019-11-12 | 2021-05-28 | Oppo广东移动通信有限公司 | 深度图生成方法和装置、电子设备、计算机可读存储介质 |
CN113029160A (zh) * | 2021-05-30 | 2021-06-25 | 浙江华睿科技有限公司 | 导航方法、导航终端及计算机可读存储介质 |
CN113077413A (zh) * | 2020-01-06 | 2021-07-06 | 苏州宝时得电动工具有限公司 | 自移动设备及其控制方法 |
CN114511622A (zh) * | 2021-12-30 | 2022-05-17 | 北京城市网邻信息技术有限公司 | 全景图像采集方法、装置、电子终端及介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9390344B2 (en) * | 2014-01-09 | 2016-07-12 | Qualcomm Incorporated | Sensor-based camera motion detection for unconstrained slam |
US20180241927A1 (en) * | 2017-02-23 | 2018-08-23 | Motorola Mobility Llc | Exposure Metering Based On Depth Map |
-
2022
- 2022-07-28 CN CN202210900222.3A patent/CN115423930B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017067526A1 (zh) * | 2015-10-23 | 2017-04-27 | 努比亚技术有限公司 | 图像增强方法及移动终端 |
CN111917991A (zh) * | 2019-05-09 | 2020-11-10 | 北京京东乾石科技有限公司 | 图像的质量控制方法、装置、设备及存储介质 |
CN112733579A (zh) * | 2019-10-28 | 2021-04-30 | 华为技术有限公司 | 对象重建的方法、装置、设备及存储介质 |
CN112866675A (zh) * | 2019-11-12 | 2021-05-28 | Oppo广东移动通信有限公司 | 深度图生成方法和装置、电子设备、计算机可读存储介质 |
CN113077413A (zh) * | 2020-01-06 | 2021-07-06 | 苏州宝时得电动工具有限公司 | 自移动设备及其控制方法 |
CN111416935A (zh) * | 2020-03-17 | 2020-07-14 | 维沃移动通信有限公司 | 一种拍摄方法及电子设备 |
CN113029160A (zh) * | 2021-05-30 | 2021-06-25 | 浙江华睿科技有限公司 | 导航方法、导航终端及计算机可读存储介质 |
CN114511622A (zh) * | 2021-12-30 | 2022-05-17 | 北京城市网邻信息技术有限公司 | 全景图像采集方法、装置、电子终端及介质 |
Non-Patent Citations (3)
Title |
---|
基于高光谱成像的地物三维模型重构关键技术研究;汪俊锋;《中国优秀博硕士学位论文全文数据库》(第01期);正文第4.3节,第50-58页 * |
张占平等.改进SIFT的倾斜无人机影像匹配方法.《地理空间信息》.2021,第19卷(第08期),正文第1-3节,第106-109页. * |
王小虎.基于序列图像的地形地貌三维重建关键技术研究.《中国优秀硕士学位论文全文数据库-基础科学辑》.2019,(第05期),正文第3.2.1节,第20-23页. * |
Also Published As
Publication number | Publication date |
---|---|
CN115423930A (zh) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11748906B2 (en) | Gaze point calculation method, apparatus and device | |
WO2018119889A1 (zh) | 三维场景定位方法和装置 | |
CN108765498A (zh) | 单目视觉跟踪方法、装置及存储介质 | |
EP4365841A1 (en) | Object pose detection method and apparatus, computer device, and storage medium | |
CN113361365B (zh) | 定位方法和装置、设备及存储介质 | |
CN110361005A (zh) | 定位方法、定位装置、可读存储介质及电子设备 | |
CN108028904B (zh) | 移动设备上光场增强现实/虚拟现实的方法和系统 | |
US20220375164A1 (en) | Method and apparatus for three dimensional reconstruction, electronic device and storage medium | |
CN110096993A (zh) | 双目立体视觉的目标检测设备及方法 | |
CN112509036A (zh) | 位姿估计网络训练及定位方法、装置、设备、存储介质 | |
CN112907573A (zh) | 一种基于3d卷积的深度补全方法 | |
CN114882106A (zh) | 位姿确定方法和装置、设备、介质 | |
CN114926316A (zh) | 距离测量方法、装置、电子设备及存储介质 | |
CN110651475B (zh) | 用于致密光学流的阶层式数据组织 | |
CN115423930B (zh) | 一种图像采集方法及电子设备 | |
CN116824077A (zh) | 一种高精度地图图像生成方法、装置及设备 | |
CN112051921A (zh) | Ar导航地图生成方法、装置、计算机设备和可读存储介质 | |
CN116450002A (zh) | Vr图像处理方法、装置、电子设备及可读存储介质 | |
Price et al. | Augmenting crowd-sourced 3d reconstructions using semantic detections | |
CN116342677A (zh) | 一种深度估计方法、装置、车辆及计算机程序产品 | |
CN112785494B (zh) | 一种三维模型构建方法、装置、电子设备和存储介质 | |
CN109961503A (zh) | 一种图像处理方法及装置、终端及计算机可读存储介质 | |
CN115115708B (zh) | 一种图像位姿的计算方法及系统 | |
WO2022193104A1 (zh) | 一种光场预测模型的生成方法及相关装置 | |
CN112270702B (zh) | 体积测量方法及装置、计算机可读介质和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |