CN112509135B - 元素标注方法、装置、设备、存储介质及计算机程序产品 - Google Patents

元素标注方法、装置、设备、存储介质及计算机程序产品 Download PDF

Info

Publication number
CN112509135B
CN112509135B CN202011529706.9A CN202011529706A CN112509135B CN 112509135 B CN112509135 B CN 112509135B CN 202011529706 A CN202011529706 A CN 202011529706A CN 112509135 B CN112509135 B CN 112509135B
Authority
CN
China
Prior art keywords
panorama
marked
labeling
planar
labeled
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011529706.9A
Other languages
English (en)
Other versions
CN112509135A (zh
Inventor
赵涛涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202011529706.9A priority Critical patent/CN112509135B/zh
Publication of CN112509135A publication Critical patent/CN112509135A/zh
Application granted granted Critical
Publication of CN112509135B publication Critical patent/CN112509135B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]

Abstract

本申请公开了元素标注方法、装置、设备、存储介质及计算机程序产品,涉及人工智能领域,尤其涉及计算机视觉和电子地图领域。具体实现方案为:根据已标注球面全景图上的标注元素,确定所述标注元素关联的标注区域图像;从待标注平面全景图中识别所述标注区域图像的相似区域,并确定所述相似区域的视角信息;根据所述相似区域的视角信息,在所述待标注平面全景图关联的待标注球面全景图中添加所述标注元素。提高了球面全景图的元素标注的准确性,为球面全景图中添加元素标注提供了一种新思路。

Description

元素标注方法、装置、设备、存储介质及计算机程序产品
技术领域
本申请涉及图像处理技术领域,尤其涉及人工智能、计算机视觉和电子地图技术领域。具体涉及一种元素标注方法、装置、设备、存储介质及计算机程序产品。
背景技术
随着图像处理技术的发展,电子地图的全景图展示效果越来越丰富,可实现将二维的平面全景图转换到三维球模型上进行展示,即展示三维的球面全景图。同时,还可支持在该球面全景图中添加标注元素,如添加兴趣点的位置标注和评论标注等。
目前,现有技术通常是基于标注元素的地理位置坐标在球面全景图中添加标注元素。但是,由于平面全景图转换为球面全景图后,球面全景图中的某些区域会存在地理位置失准的问题,所以现有的元素标注方法会导致同一标注元素在不同球面全景图中标注的位置误差较大,亟需改进。
发明内容
本申请提供了一种元素标注方法、装置、设备、存储介质及计算机程序产品。
根据本申请的第一方面,提供了一种元素标注方法,包括:
根据已标注球面全景图上的标注元素,确定所述标注元素关联的标注区域图像;
从待标注平面全景图中识别所述标注区域图像的相似区域,并确定所述相似区域的视角信息;
根据所述相似区域的视角信息,在所述待标注平面全景图关联的待标注球面全景图中添加所述标注元素。
根据本申请的第二方面,提供了一种元素标注装置,包括:
区域图像确定模块,用于根据已标注球面全景图上的标注元素,确定所述标注元素关联的标注区域图像;
图像识别模块,用于从待标注平面全景图中识别所述标注区域图像的相似区域;
视角信息确定模块,用于确定所述相似区域的视角信息;
元素标注模块,用于根据所述相似区域的视角信息,在所述待标注平面全景图关联的待标注球面全景图中添加所述标注元素。
根据本申请的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本申请任一实施例的元素标注方法。
根据本申请的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质。计算机指令用于使计算机执行本申请任一实施例的元素标注方法。
根据本申请的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本申请任一实施例的元素标注方法。
根据本申请的技术解决了现有技术在不同球面全景图中标注同一标注元素时,位置误差较大的问题,为球面全景图中添加元素标注提供了一种新思路。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请实施例提供的一种元素标注方法的流程图;
图2A是根据本申请实施例提供的另一种元素标注方法的流程图;
图2B-2C是根据本申请实施例提供的相邻位置采集的两张平面全景图的效果图;
图3是根据本申请实施例提供的另一种元素标注方法的流程图;
图4A是根据本申请实施例提供的另一种元素标注方法的流程图;
图4B是根据本申请实施例提供的待标注平面全景图的基准方向视角信息的示意图;
图5是根据本申请实施例提供的一种元素标注装置的结构示意图;
图6是用来实现本申请实施例的元素标注方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在介绍本申请实施例之前,先对本申请实施例的使用场景进行简单的介绍。本申请的方案主要针对的是对球面全景图添加标注元素的场景。具体的,随着电子地图的全景图展示功能的扩展,现有的电子地图通常可实现将二维的平面全景图转换到三维球模型上进行展示,即展示三维的球面全景图,同时,还可支持在该球面全景图中添加标注元素,如添加兴趣点的位置标注和评论标注等。但是由于平面全景图转换为球面全景图时,球面全景图中的某些区域会存在地理位置失准的问题,即对于同一个物体,其转换到不同视角下的球面全景图中,对应的地理位置坐标之间存在很大的误差。例如,第一张球面全景图中记录的某建筑物房顶的地理坐标位置,对应到第二张球面全景图中,可能就变成了该建筑物窗户位置。由于球面全景图存在该缺陷,所以导致现有技术基于标注元素的地理位置坐标在球面全景图中添加标注元素时,存在同一标注元素在不同球面全景图中标注的位置误差较大的问题。例如,假设用户在第一张球面全景图中某建筑物房顶处添加了一个评论标注,电子地图采用现有技术在第二张球面全景图中添加该评论标注时,可能该评论标注就被添加到了该建筑物窗户的位置,很显然该评论标注的位置与用户原始的标注位置误差较大。现有技术为了避免该问题,通常采用的方式是只在用户标注的球面全景图中展示用户标注元素,其他球面全景图即使包含该标注元素对应的区域或对象,为了防止标注位置不准确,也不进行标注。本申请实施例的方案在上述场景下,能够很好的解决同一标注元素在不同球面全景图中标注的位置误差较大的问题,具体的实现过程参见下述实施例的介绍。
图1是根据本申请实施例提供的一种元素标注方法的流程图;本实施例适用于为球面全景图添加元素标注的情况,尤其适用于根据已标注球面全景图中的标注元素,将该标注元素添加到待标注球面全景图的情况。该实施例可以由电子设备中配置的元素标注装置来执行,该装置可以采用软件和/或硬件来实现。如图1所示,该方法包括:
S101,根据已标注球面全景图上的标注元素,确定标注元素关联的标注区域图像。
其中,本申请实施例中的球面全景图是将二维的平面全景图的纹理位置坐标转换成三维球模型的三维坐标后,得到的三维全景图。也就是说,与平面全景图相比,球面全景图中添加了深度信息,该深度信息通常是设定的固定值,所以准确性较低,即本申请实施例中的球面全景图中的某些区域的地理位置坐标与该区域的真实地理位置坐标相比,可能存在较大的误差。所谓平面全景图可以是通过对专业相机捕捉整个场景得到的图像,或使用建模软件对多张图像渲染后生成全场景图像,该全景图像的方位角(即水平视角)从0°到360°,俯仰角(即垂直视角)从0°到180°,长宽比通常为2:1。由于球面全景图的展示效果更贴近真实场景,所以现有的地图软件在向用户展示街景全景图时,通常展示的是球面全景图。用户在全景图中添加标注元素,或者通过全景图向用户展示标注元素时,通常也是在球面全景图中进行标注和展示。在本申请实施例中,将添加有标注元素的球面全景图称之为已标注球面全景图。例如,若用户查看地图中A位置的球面全景图1时,在该球面全景图1中添加了标注元素1,此时,针对标注元素1,该球面全景图即为已标注球面全景图。
可选的,本申请实施例中的标注元素可以是对球面全景图进行标注所采用的标注工具,例如,可以包括但不限于:点、线、框或气泡等。标注元素在球面全景图中的位置对应的是标注对象,可选的,标注对象可以是全景图中的兴趣点(Point of Information,POI),还可以是评论内容等。标注元素关联的标注区域图像可以是标注元素在已标注球面全景图中对应的区域,例如若标注元素为方框,则该标注区域图像可以是该方框在已标注球面全景图中框选的区域图像。该标注区域图像还可以是标注元素在已标注球面全景图中对应的标注对象的图像。例如,若标注元素为位置气泡,该位置气泡标注的是火车站A,则该标注元素关联的标注区域图像可以是包含火车站A的任意图像。对此本实施例不进行限定。
可选的,在本申请实施例中,可以根据已标注球面全景图上的标注元素,确定该标注元素在该已标注球面全景图上对应的标注对象,然后获取包含该标注对象的图像作为该标注元素关联的标注区域图像。具体的,可以是先获取标注元素在该已标注球面全景图的位置信息(如可以是地理位置坐标,还可以是视角坐标),然后将所述位置信息从球面全景坐标系转换到平面全景坐标系下,基于转换后的位置信息,来确定标注元素对应的标注对象,进而从地图数据库中获取包含该标注对象的区域图像作为该标注元素关联的标注区域图像。在本申请实施例中,还可以根据已标注球面全景图上的标注元素,确定标注元素在该已标注球面全景图上对应的视角信息,然后将该视角信息映射到该已标注球面全景图关联的已标注平面全景图中,从该已标注平面全景图中截取该视角信息对应区域的图像,作为该标注元素关联的标注区域图像。该可实施方式的具体实现方式将在后续实施例进行详细介绍。
S102,从待标注平面全景图中识别标注区域图像的相似区域,并确定相似区域的视角信息。
其中,待标注平面全景图可以是指没有标注S101中所说的标注元素的平面全景图,其与已标注平面全景图相对应。该待标注平面全景图的数量可以为一个或多个,具体的选取方式可以是:将平面全景图集中除S101中的已标注平面全景图之外的其他平面全景图作为本步骤的待标注全景图;或者,将平面全景图集中与S101中的已标注平面全景图的地理位置间距在预设距离范围内的平面全景图作为本步骤的待标注全景图。例如,以已标注平面全景图的地理位置为中心,将地理位置属于该中心周边一公里内的平面全景图作为待标注平面全景图。本申请实施例这样设置的好处是,可以根据实际需求来设置待标注平面全景图的选取方式,灵活性更强。
可选的,本申请实施例中,从待标注平面全景图中识别标注区域图像的相似区域时,可以是针对每个待标注平面全景图,遍历该待标注平面全景图的各个区域与S101确定出的标注区域图像进行图像相似度匹配,若待标注平面全景图中存在与该标注区域图像相似度较高的区域,则将该区域作为标注区域图像的相似区域。若待标注平面全景图中的各区域与标注区域图像的相似度都不高,则说明没有识别到标注区域图像的相似区域,即该待标注平面全景图中并不包含标注元素对应的标注区域,此时可以不在对该待标注平面全景图执行后续的确定相似区域的视角信息和添加标注元素的操作。
可选的,由于待标注平面全景图的尺寸通常远大于标注区域图像,所以为了提高相似度匹配效率,本申请实施例可以是先从相似区域中提取一些关键点特征,先基于该关键点特征在待标注平面全景图中进行快速搜索,确定出初步的相似区域后,再基于完整的标注区域图像,对初步的相似区域进行精准相似度计算,确定精准的相似区域。
可选的,由于不同的平面全景图其对应的拍摄位置不同,所以同一对象在不同平面全景图中对应的角度和/或大小也不一定相同,所以本申请实施例在将标注区域图像与待标注平面全景图的每个区域进行相似度匹配时,可以先对标注区域图像进行旋转和/或缩放处理后,再与待标注平面全景图的每个区域进行相似度匹配,以提高确定的相似区域的准确性。
可选的,在本申请实施例中,采集待标注平面全景图时,可以针对该待标注平面全景图中的每个像素点,记录该像素点对应的地理位置信息(如经纬度信息)和视角信息(即俯仰角和方位角),此时本步骤可以直接获取相似区域在该待标注平面全景图中对应的像素位置点的视角信息,作为该相似区域的视角信息。还可以是根据预先在待标注平面全景图中设置的基准方位的视角信息,推算相似区域的视角信息等。具体的,相似区域的视角信息可以是相似区域的角点位置对应的视角信息;也可以是相似区域的中心点位置对应的视角信息等。可选的,本申请实施例中的视角信息可以包括方位角和俯仰角两个方位的角度信息。
S103,根据相似区域的视角信息,在待标注平面全景图关联的待标注球面全景图中添加标注元素。
其中,待标注球面全景图可以是将待标注平面全景图的纹理位置坐标转换成三维球模型的三维坐标后,得到的三维全景图。
可选的,本申请实施例可以是将相似区域的视角信息(即方位角和俯仰角)映射到三维球模型中确定该标注元素在待标注球面全景图中的映射位置,然后在待标注球面全景图中的该映射位置处添加与已标注球面全景图一样的标注元素,从而实现在待标注球面全景图中添加标注元素的位置与已标注平面全景图中添加该标注元素的位置相同。例如,若已标注球面全景图在火车站A屋顶添加了评论框标注,且待标注平面全景图中也包含火车站A,则执行本步骤的操作后可以实现在待标注平面全景图的火车站A的屋顶添加同样的评论框标注。
可选的,本申请实施例的上述元素标注方法,可以是由一个电子设备执行,例如,可以是由用户的移动端设备在检测到用户在某一球面全景图中添加了元素标注后执行的;还可以是由后端服务器执行后将添加了标注元素的待标注球面全景图发送至移动端,供移动端进行球面全景图更新后再展示给用户;还可以是由移动端和服务器端交互执行,具体的,可以是由移动端在用户为某张球面全景图添加了标注元素后,由移动端执行S101的操作,确定用户本次标注元素关联的标注区域图像后,将该标注区域图像发送至服务器,由服务器执行S102的操作,确定待标注平面全景图对应的相似视角信息反馈给移动端,最终由移动端执行S103在待标注平面全景图中添加该标注元素的操作并展示标注后的球面全景图。
本申请实施例的技术方案,根据已标注球面全景图中的标注元素关联的标注区域图像,在待标注平面全景图中找到该标注区域图像的相似区域,并确定相似区域的视角信息,进而基于该相似区域的视角信息在该待标注平面全景图关联的待标注球面全景图中添加标注元素。本申请实施例的方案结合平面全景图转换到球面全景图的过程中视角信息相对准确的优势,基于视角信息在球面全景图中添加标注元素,很好的解决了现有技术在不同球面全景图中标注同一标注元素时,位置误差较大的问题,此外,本申请实施例基于标注区域图像在待标注平面全景图像中识别相似区域进行标注,进一步提高了待标注平面全景图像中添加的标注元素位置的精准性,从而实现在各球面全景图中为同一对象添加的标注元素位置完全吻合。为球面全景图中添加元素标注提供了一种新思路。
可选的,在本申请实施例中,从待标注平面全景图中识别所述标注区域图像的相似区域时,可以是从待标注平面全景图中识别出与标注区域图像匹配度最高的目标区域;若目标区域的匹配度大于预设匹配阈值,则将目标区域作为标注区域图像的相似区域。具体的,遍历待标注平面全景图的各个区域与标注区域图像进行区域匹配时,可以选择匹配度最高的区域作为目标区域,然后再将该目标区域的匹配度与预先设置的预设匹配阈值(如85%)进行比较,只有在该目标区域的匹配度达到该预设匹配阈值,才可将该目标区域作为标注区域图像的相似区域,本申请实施例这样设置的好处是通过多次筛选,提高了标注区域图像的相似区域确定的精准性。避免了对相似区域误识别导致后续为球面全景图添加错误的标注元素。
图2A是根据本申请实施例提供的另一种元素标注方法的流程图;图2B-2C是根据本申请实施例提供的相邻位置采集的两张平面全景图的效果图。本实施例在上述实施例的基础上,给出了根据已标注球面全景图上的标注元素,确定标注元素关联的标注区域图像的具体情况介绍,如图2A-2C所示,该方法包括:
S201,根据已标注球面全景图上的标注元素,确定标注元素在已标注球面全景图上的视角信息。
可选的,在本申请实施例中,根据已标注球面全景图确定标注元素在已标注球面全景图上的视角信息的方式有很多,对此本实施例不进行限定。例如,可以是先大致确定标注元素在已标注球面全景图上的位置,然后再基于三维球模型,确定该位置在三维球模型上对应的视角信息,作为该标注元素在已标注球面上的视角信息。还可以是基于标注元素在已标注球面全景图上的元素地理位置和该已标注球面全景图的图像地理位置,按照一定的公式计算标注元素在已标注球面全景图上的视角信息,该方式的具体实现方式将在后续实施例进行详细介绍。
S202,根据标注元素在已标注球面全景图上的视角信息,在已标注球面全景图关联的已标注平面全景图中截取标注元素关联的标注区域图像。
可选的,由于球面全景图相对于平面全景图不便于进行区域的截取,且平面全景图转换到球面全景图的过程中视角信息误差较小,所以本申请实施例在确定出标注元素在已标注球面全景图上的视角信息后,可以在已标注球面全景图投影到三维球模型之前的已标注平面全景图中,按照标注元素在已标注球面全景图上的视角信息,进行标注元素关联的标注区域图像的截取。具体的,在本申请实施例中,采集待标注平面全景图时,可以针对该待标注平面全景图中的每个像素点,记录该像素点对应的视角信息,例如,像素点的x坐标代表方位角,y坐标代表俯仰角,此时若标注元素在已标注球面全景图上的视角信息为一个区域的视角信息,例如,为矩形区域的四个顶点的方位角和俯仰角,则本步骤可以是在在已标注平面全景图上找到该视角信息对应的区域,然后截取已标注平面全景图中该区域对应的图像作为标注元素关联的标注区域图像。若标注元素在已标注球面全景图上的视角信息为一个位置点的视角信息,例如,为矩形区域的中心点的方位角和俯仰角,则本步骤可以是在已标注平面全景图上找到该视角信息对应的位置点,然后在已标注平面全景图中以该位置点为中心,截取预设尺寸大小的区域对应的图像作为标注元素关联的标注区域图像。示例性的,图2B对应的平面全景图为已标注平面全景图,其中的方框21对应的图像为标注元素关联的标注区域图。
S203,从待标注平面全景图中识别标注区域图像的相似区域,并确定相似区域的视角信息。
示例性的,图2C是图2B相邻位置采集的平面全景图,若图2C为本步骤的待标注平面全景图,则图2C中的方框22对应的图像为标注区域图像21的相似区域。
S204,根据相似区域的视角信息,在待标注平面全景图关联的待标注球面全景图中添加标注元素。
本申请实施例的技术方案,通过确定标注元素在已标注球面全景图上的视角信息,在已标注球面全景图的已标注平面全景图中截取该视角信息对应的区域作为标注元素关联的标注区域图像,进而在待标注平面全景图中找到该标注区域图像的相似区域,确定其视角信息,并基于该相似区域的视角信息在该待标注平面全景图关联的待标注球面全景图中添加标注元素。本申请实施例的方案选择在已标注平面全景图中截取标注元素关联的标注区域图像来识别相似区域,由于相邻位置的球面全景图中包含的图像内容相似度较高,本申请实施例的方案极大的提高了相似区域确定的准确性。另外本申请实施例在截取标注元素关联的标注区域图像时,依据的是标注元素在已标注球面全景图上的视角信息,很好的利用了平面全景图转换到球面全景图的过程中视角信息相对准确的优势,保证了标注元素关联的标注区域图像的准确性。进而提高了最终在待标注球面全景图中添加标注元素的位置的准确性。
图3是根据本申请实施例提供的另一种元素标注方法的流程图。本实施例在上述实施例的基础上,给出了根据已标注球面全景图上的标注元素,确定标注元素在已标注球面全景图上的视角信息的具体情况介绍,如图3所示,该方法包括:
S301,根据已标注球面全景图上的标注元素,确定标注元素在已标注球面全景图上的元素地理位置。
其中,元素地理位置可是指标注元素在大地坐标系下的经纬度位置信息。
可选的,本申请实施例确定标注元素在已标注球面全景图上的元素地理位置时,可以是在已标注球面全景图上大致定位标注元素的位置,然后获取该位置在已标注球面全景图上对应的地理位置信息。为了提高元素地理位置确定的准确性,本申请实施例还可以是用户在球面全景图中触发添加标注元素时,电子设备记录用户点击电子设备屏幕的屏幕坐标位置,然后将该触发位置从电子设备的屏幕坐标系转换到三维球模型的坐标系下,得到标注元素在已标注球面全景图上的元素地理位置。
S302,根据元素地理位置和已标注球面全景图的图像地理位置,确定标注元素在已标注球面全景图上的方位角。
其中,已标注球面全景图的图像地理位置可以是指采集该已标注球面全景图关联的平面全景图时的实际采集位置的经纬度坐标信息。
可选的,申请实施例可以是根据元素地理位置和已标注球面全景图的图像地理位置,按照如下公式(1),计算标注元素在已标注球面全景图上的方位角。
h=Radians_To_Degrees(atan2(qy-py,qx-px))+90° (1)
其中,h为标注元素在已标注球面全景图上的方位角;Radians_To_Degrees为弧度值转换为角度值的转换函数;(qx,qy)为已标注球面全景图的图像地理位置;(px,py)为S301确定的标注元素在已标注球面全景图上的元素地理位置。
需要说明的是,虽然标注元素在球面全景图中对应的元素地理位置可能不准确,但是本步骤基于该元素地理位置和已标注球面全景图的图像地理位置计算得到的标注元素在已标注球面全景图上的方位角是准确的。
S303,将已标注球面全景图的俯仰角作为标注元素在已标注球面全景图上的俯仰角。
可选的,在本申请实施例中,用户上下或左右滑动,浏览球面全景图时,电子设备会实时记录用户每次操作后展示的球面全景图的俯仰角,本步骤可以是将用户标注该标注元素时,已标注球面全景图展示的俯仰角作为标注元素在已标注球面全景图上的俯仰角。
可选的,本申请实施例还可以采用其他方式确定注元素在已标注球面全景图上的俯仰角,例如,根据元素地理位置和已标注球面全景图的图像地理位置,采用俯仰角计算公式来确定。对此本实施例不进行限定。
S304,根据标注元素在已标注球面全景图上的俯仰角和方位角,在已标注球面全景图关联的已标注平面全景图中截取标注元素关联的标注区域图像。
S305,从待标注平面全景图中识别标注区域图像的相似区域,并确定相似区域的视角信息。
S306,根据相似区域的视角信息,在待标注平面全景图关联的待标注球面全景图中添加标注元素。
本申请实施例的技术方案,通过标注元素在已标注球面全景图上的元素地理位置和已标注球面全景图的图像地理位置和俯仰角,来确定标注元素在已标注球面全景图上的视角信息,在已标注球面全景图的已标注平面全景图中截取该视角信息对应的区域作为标注元素关联的标注区域图像,进而在待标注平面全景图中找到该标注区域图像的相似区域,确定其视角信息,并基于该相似区域的视角信息在该待标注平面全景图关联的待标注球面全景图中添加标注元素。本申请实施例的方案采用用户添加该标注元素时的地理位置信息以及球面全景图的地理位置和俯仰角来确定标注元素在已标注球面全景图上的视角信息,极大的提高了视角信息确定的准确性。进而提高了最终在待标注球面全景图中添加标注元素的位置的准确性。
图4A是根据本申请实施例提供的另一种元素标注方法的流程图。图4B是根据本申请实施例提供的待标注平面全景图的基准方向视角信息的示意图。本实施例在上述实施例的基础上,给出了确定相似区域的视角信息的具体情况介绍,如图4A-4B所示,该方法包括:
S401,根据已标注球面全景图上的标注元素,确定标注元素关联的标注区域图像。
S402,从待标注平面全景图中识别标注区域图像的相似区域。
S403,根据待标注平面全景图中基准方位的视角信息,确定相似区域的视角信息。
其中,本申请实施例中,待标注平面全景图中的基准方位可以是预先设置的,例如,如图4B所示,可以是将待标注平面全景图中的水平中心线和水平下边缘线设置为俯仰角的基准方位;将待标注平面全景图中的垂直中心线、垂直方向的左边缘线设置为方位角的基准方位。
可选的,本申请实施例可以是根据预先为待标注平面全景图设置基准方位的俯仰角和方位角,使用线性算法估算相似区域的视角信息。例如,图4B所示的基准方位的视角信息:水平中心线对应的俯仰角z为0°;水平下边缘线的俯仰角为-90°;垂直中心线对应的方位角为0°;垂直方向的左边缘线对应的方位角为-180°。若相似区域的中心点(或某一顶点)位于图中的位置C,则基于线性算法,可以估算出该相似区域的中心点(或某一顶点)的方位信息为(方位角-90°,俯仰角45°)。
S404,根据相似区域的视角信息,在待标注平面全景图关联的待标注球面全景图中添加标注元素。
本申请实施例的技术方案,根据已标注球面全景图中的标注元素关联的标注区域图像,在待标注平面全景图中找到该标注区域图像的相似区域,基于待标注平面全景图中基准方位的视角信息确定相似区域的视角信息,进而基于该相似区域的视角信息在该待标注平面全景图关联的待标注球面全景图中添加标注元素。本申请实施例的方案基于待标注平面全景图中基准方位的视角信息,来确定相似区域的视角信息,无需预先记录待标注平面全景图中各个像素点对应的视角信息,在降低前期采集平面全景图操作过程的复杂性的同时,也可以保证确定相似区域的视角信息的准确性。为视角信息的确定提供了一种新思路。
图5是根据本申请实施例提供的一种元素标注装置的结构示意图。本实施例适用于为球面全景图添加元素标注的情况,尤其适用于根据已标注球面全景图中的标注元素,将该标注元素添加到待标注球面全景图的情况,该装置可实现本申请任意实施例所述的元素标注方法。该装置500具体包括如下:
区域图像确定模块501,用于根据已标注球面全景图上的标注元素,确定所述标注元素关联的标注区域图像;
图像识别模块502,用于从待标注平面全景图中识别所述标注区域图像的相似区域;
视角信息确定模块503,用于确定所述相似区域的视角信息;
元素标注模块504,用于根据所述相似区域的视角信息,在所述待标注平面全景图关联的待标注球面全景图中添加所述标注元素。
本申请实施例的技术方案,根据已标注球面全景图中的标注元素关联的标注区域图像,在待标注平面全景图中找到该标注区域图像的相似区域,并确定相似区域的视角信息,进而基于该相似区域的视角信息在该待标注平面全景图关联的待标注球面全景图中添加标注元素。本申请实施例的方案结合平面全景图转换到球面全景图的过程中视角信息相对准确的优势,基于视角信息在球面全景图中添加标注元素,很好的解决了现有技术在不同球面全景图中标注同一标注元素时,位置误差较大的问题,此外,本申请实施例基于标注区域图像在待标注平面全景图像中识别相似区域进行标注,进一步提高了待标注平面全景图像中添加的标注元素位置的精准性,从而实现在各球面全景图中为同一对象添加的标注元素位置完全吻合。为球面全景图中添加元素标注提供了一种新思路。
可选的,所述区域图像确定模块501包括:
视角信息确定单元,用于根据已标注球面全景图上的标注元素,确定所述标注元素在所述已标注球面全景图上的视角信息;
区域图像截取单元,用于根据所述标注元素在所述已标注球面全景图上的视角信息,在所述已标注球面全景图关联的已标注平面全景图中截取所述标注元素关联的标注区域图像。
可选的,所述视角信息确定单元具体用于:
根据已标注球面全景图上的标注元素,确定所述标注元素在所述已标注球面全景图上的元素地理位置;
根据所述元素地理位置和所述已标注球面全景图的图像地理位置,确定所述标注元素在所述已标注球面全景图上的方位角;
将所述已标注球面全景图的俯仰角作为所述标注元素在所述已标注球面全景图上的俯仰角。
可选的,所述图像识别模块502具体用于:
从待标注平面全景图中识别出与所述标注区域图像匹配度最高的目标区域;
若所述目标区域的匹配度大于预设匹配阈值,则将所述目标区域作为所述标注区域图像的相似区域。
可选的,所述视角信息确定模块503具体用于:
根据待标注平面全景图中基准方位的视角信息,确定所述相似区域的视角信息。
可选的,所述待标注平面全景图为平面全景图集中除所述已标注平面全景图之外的其他平面全景图;或者,所述待标注平面全景图为所述平面全景图集中与所述已标注平面全景图的地理位置间距在预设距离范围内的平面全景图。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本申请的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,电子设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储电子设备600操作所需的各种程序和数据。计算单元801、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
电子设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许电子设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如,元素标注方法。例如,在一些实施例中,元素标注方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到电子设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的元素标注方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行元素标注方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本申请的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (10)

1.一种元素标注方法,包括:
根据已标注球面全景图上的标注元素,确定所述标注元素在所述已标注球面全景图上的元素地理位置;
根据所述元素地理位置和所述已标注球面全景图的图像地理位置,确定所述标注元素在所述已标注球面全景图上的方位角;
将所述已标注球面全景图的俯仰角作为所述标注元素在所述已标注球面全景图上的俯仰角;
根据所述标注元素在所述已标注球面全景图上的视角信息,在所述已标注球面全景图关联的已标注平面全景图中截取所述标注元素关联的标注区域图像;
从待标注平面全景图中识别所述标注区域图像的相似区域,并确定所述相似区域的视角信息;
根据所述相似区域的视角信息,在所述待标注平面全景图关联的待标注球面全景图中添加所述标注元素。
2.根据权利要求1所述的方法,其中,所述从待标注平面全景图中识别所述标注区域图像的相似区域,包括:
从待标注平面全景图中识别出与所述标注区域图像匹配度最高的目标区域;
若所述目标区域的匹配度大于预设匹配阈值,则将所述目标区域作为所述标注区域图像的相似区域。
3.根据权利要求1所述的方法,其中,所述确定所述相似区域的视角信息,包括:
根据所述待标注平面全景图中基准方位的视角信息,确定所述相似区域的视角信息。
4.根据权利要求1-3中任一项所述的方法,其中,所述待标注平面全景图为平面全景图集中除所述已标注平面全景图之外的其他平面全景图;或者,所述待标注平面全景图为所述平面全景图集中与所述已标注平面全景图的地理位置间距在预设距离范围内的平面全景图。
5.一种元素标注装置,包括:
区域图像确定模块,包括:
视角信息确定单元,用于根据已标注球面全景图上的标注元素,确定所述标注元素在所述已标注球面全景图上的元素地理位置;根据所述元素地理位置和所述已标注球面全景图的图像地理位置,确定所述标注元素在所述已标注球面全景图上的方位角;将所述已标注球面全景图的俯仰角作为所述标注元素在所述已标注球面全景图上的俯仰角;
区域图像截取单元,用于根据所述标注元素在所述已标注球面全景图上的视角信息,在所述已标注球面全景图关联的已标注平面全景图中截取所述标注元素关联的标注区域图像;
图像识别模块,用于从待标注平面全景图中识别所述标注区域图像的相似区域;
视角信息确定模块,用于确定所述相似区域的视角信息;
元素标注模块,用于根据所述相似区域的视角信息,在所述待标注平面全景图关联的待标注球面全景图中添加所述标注元素。
6.根据权利要求5所述的装置,其中,所述图像识别模块具体用于:
从待标注平面全景图中识别出与所述标注区域图像匹配度最高的目标区域;
若所述目标区域的匹配度大于预设匹配阈值,则将所述目标区域作为所述标注区域图像的相似区域。
7.根据权利要求5所述的装置,其中,所述视角信息确定模块具体用于:
根据所述待标注平面全景图中基准方位的视角信息,确定所述相似区域的视角信息。
8.根据权利要求5-7中任一项所述的装置,其中,所述待标注平面全景图为平面全景图集中除所述已标注平面全景图之外的其他平面全景图;或者,所述待标注平面全景图为所述平面全景图集中与所述已标注平面全景图的地理位置间距在预设距离范围内的平面全景图。
9. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述的元素标注方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行根据权利要求1-4中任一项所述的元素标注方法。
CN202011529706.9A 2020-12-22 2020-12-22 元素标注方法、装置、设备、存储介质及计算机程序产品 Active CN112509135B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011529706.9A CN112509135B (zh) 2020-12-22 2020-12-22 元素标注方法、装置、设备、存储介质及计算机程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011529706.9A CN112509135B (zh) 2020-12-22 2020-12-22 元素标注方法、装置、设备、存储介质及计算机程序产品

Publications (2)

Publication Number Publication Date
CN112509135A CN112509135A (zh) 2021-03-16
CN112509135B true CN112509135B (zh) 2023-09-29

Family

ID=74921876

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011529706.9A Active CN112509135B (zh) 2020-12-22 2020-12-22 元素标注方法、装置、设备、存储介质及计算机程序产品

Country Status (1)

Country Link
CN (1) CN112509135B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113421260A (zh) * 2021-08-23 2021-09-21 旻投电力发展有限公司 一种基于红外图像诊断光伏组件缺陷的检测方法
CN114332648B (zh) * 2022-03-07 2022-08-12 荣耀终端有限公司 一种位置标识方法及电子设备

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016224015A (ja) * 2015-06-04 2016-12-28 株式会社大林組 三次元位置計測方法、測量方法、三次元位置計測装置及び三次元位置計測プログラム
CN106412594A (zh) * 2016-10-21 2017-02-15 乐视控股(北京)有限公司 全景图像编码方法和装置
US9589350B1 (en) * 2013-05-30 2017-03-07 360 Lab Llc. Utilizing three overlapping images for exposure correction during panoramic image stitching
CN106990932A (zh) * 2017-03-31 2017-07-28 奇酷互联网络科技(深圳)有限公司 图片显示方法和装置
CN107864370A (zh) * 2017-11-14 2018-03-30 暴风集团股份有限公司 一种球面全景图处理方法、装置、服务器及系统
CN108509621A (zh) * 2018-04-03 2018-09-07 百度在线网络技术(北京)有限公司 景区全景图的景点识别方法、装置、服务器和存储介质
CN108537721A (zh) * 2017-03-02 2018-09-14 株式会社理光 全景图像的处理方法、装置及电子设备
CN108734120A (zh) * 2018-05-15 2018-11-02 百度在线网络技术(北京)有限公司 标注图像的方法、装置、设备和计算机可读存储介质
CN111429518A (zh) * 2020-03-24 2020-07-17 浙江大华技术股份有限公司 一种标注方法、装置、计算设备及存储介质
CN111429529A (zh) * 2020-04-10 2020-07-17 浙江大华技术股份有限公司 一种坐标转换的标定方法、电子设备以及计算机存储介质
CN112055256A (zh) * 2020-09-16 2020-12-08 聚好看科技股份有限公司 一种全景图像的图像处理方法及显示设备

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9589350B1 (en) * 2013-05-30 2017-03-07 360 Lab Llc. Utilizing three overlapping images for exposure correction during panoramic image stitching
JP2016224015A (ja) * 2015-06-04 2016-12-28 株式会社大林組 三次元位置計測方法、測量方法、三次元位置計測装置及び三次元位置計測プログラム
CN106412594A (zh) * 2016-10-21 2017-02-15 乐视控股(北京)有限公司 全景图像编码方法和装置
CN108537721A (zh) * 2017-03-02 2018-09-14 株式会社理光 全景图像的处理方法、装置及电子设备
CN106990932A (zh) * 2017-03-31 2017-07-28 奇酷互联网络科技(深圳)有限公司 图片显示方法和装置
CN107864370A (zh) * 2017-11-14 2018-03-30 暴风集团股份有限公司 一种球面全景图处理方法、装置、服务器及系统
CN108509621A (zh) * 2018-04-03 2018-09-07 百度在线网络技术(北京)有限公司 景区全景图的景点识别方法、装置、服务器和存储介质
CN108734120A (zh) * 2018-05-15 2018-11-02 百度在线网络技术(北京)有限公司 标注图像的方法、装置、设备和计算机可读存储介质
CN111429518A (zh) * 2020-03-24 2020-07-17 浙江大华技术股份有限公司 一种标注方法、装置、计算设备及存储介质
CN111429529A (zh) * 2020-04-10 2020-07-17 浙江大华技术股份有限公司 一种坐标转换的标定方法、电子设备以及计算机存储介质
CN112055256A (zh) * 2020-09-16 2020-12-08 聚好看科技股份有限公司 一种全景图像的图像处理方法及显示设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王志旋 ; 钟若飞 ; 谢东海 ; .球面全景影像自动测量路灯坐标的方法.中国图象图形学报.2018,(第09期),全文. *

Also Published As

Publication number Publication date
CN112509135A (zh) 2021-03-16

Similar Documents

Publication Publication Date Title
EP3910543A2 (en) Method for training object detection model, object detection method and related apparatus
JP2019133646A (ja) 点群データ同士のマッチング関係を確定するための方法及び装置
CN112509135B (zh) 元素标注方法、装置、设备、存储介质及计算机程序产品
CN110914870B (zh) 图像网络的注释生成
CN113077548B (zh) 针对物体的碰撞检测方法、装置、设备和存储介质
CN113010793A (zh) 地图数据处理的方法、装置、设备、存储介质及程序产品
US11694405B2 (en) Method for displaying annotation information, electronic device and storage medium
CN112529097B (zh) 样本图像生成方法、装置以及电子设备
CN114332232B (zh) 基于空间点线面特征混合建模的智能手机室内定位方法
CN112634366B (zh) 位置信息的生成方法、相关装置及计算机程序产品
CN116858215B (zh) 一种ar导航地图生成方法及装置
CN113932796A (zh) 高精地图车道线生成方法、装置和电子设备
CN110853098A (zh) 机器人定位方法、装置、设备及存储介质
CN112651393B (zh) 兴趣点数据处理方法、装置、设备及存储介质
EP4102466A1 (en) Collision detection method and apparatus for objects, and device and storage medium
CN115527028A (zh) 地图数据处理方法及装置
CN113536025B (zh) 兴趣点的招牌朝向确定方法、装置、电子设备和存储介质
CN114490909B (zh) 对象关联方法、装置和电子设备
CN113483771B (zh) 实景地图的生成方法、装置及系统
CN112465692A (zh) 图像处理方法、装置、设备及存储介质
CN115439331B (zh) 角点的校正方法和元宇宙中三维模型的生成方法、装置
US20220207991A1 (en) Method and device for determining boundary points of bottom surface of vehicle, roadside device and cloud control platform
CN116758269B (zh) 一种位置校验方法
CN115937494A (zh) 全景图中的位置标注方法、装置、电子设备和存储介质
CN114065334A (zh) 一种虚拟靠尺的测量位置的确定方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant