CN111177167A - 增强现实的地图更新方法、装置、系统、存储与设备 - Google Patents
增强现实的地图更新方法、装置、系统、存储与设备 Download PDFInfo
- Publication number
- CN111177167A CN111177167A CN201911357798.4A CN201911357798A CN111177167A CN 111177167 A CN111177167 A CN 111177167A CN 201911357798 A CN201911357798 A CN 201911357798A CN 111177167 A CN111177167 A CN 111177167A
- Authority
- CN
- China
- Prior art keywords
- image
- matched
- map data
- terminal
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 67
- 230000003190 augmentative effect Effects 0.000 title claims abstract description 36
- 238000005457 optimization Methods 0.000 claims description 4
- 238000001514 detection method Methods 0.000 claims description 3
- 238000004590 computer program Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 description 17
- 238000010586 diagram Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Remote Sensing (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供增强现实的地图更新方法、装置、系统、存储介质与电子设备,涉及虚拟现实与增强现实技术领域。其中,一种增强现实的地图更新方法应用于多人AR中的服务器,包括:获取由第一终端扫描目标场景而创建的地图数据;将所述地图数据发送至其他终端;接收所述其他终端中的第二终端发送的第一待匹配图像,以及所述其他终端中的第三终端发送的第二待匹配图像;当对所述第一待匹配图像和所述第二待匹配图像匹配成功时,根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。本公开可以提高地图的准确度与质量,并进一步提高多人AR中的重定位效率与成功率。
Description
技术领域
本公开涉及虚拟现实与增强现实技术领域,尤其涉及增强现实的地图更新方法、增强现实的地图更新装置、多人增强现实系统、计算机可读存储介质与电子设备。
背景技术
多人AR(Augmented Reality,增强现实)是当前AR应用的热门场景。在多人AR中,不同用户通过各自的设备观看到相同的虚拟影像,其中任一用户与虚拟影像的交互结果可以同步显示给其他用户,因而具有较高的互动性与趣味性。
相关技术中,多人AR所需的地图数据通常是基于一个用户对场景进行扫描而建立的。例如,用户A创建一个AR房间,并扫描场景进行建图;用户B、用户C加入该AR房间后,扫描场景,并基于用户A建立的地图数据进行重定位;重定位成功后方可共享虚拟影像。然而,在用户A建图的过程中,可能存在关键特征点稀疏,扫描的视角单一,地图中的点数量较稀少等问题,导致地图的准确度或质量较低。准确度较低是指地图可能在尺寸、角度等方面偏离实际场景,或者存在局部的畸变,质量较低是指地图存在局部点云稀疏、或者清晰度较低等情况。由此进一步导致其他用户进行重定位的时间增加、成功率降低,从而影响多人AR的正常进行。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开提供了增强现实的地图更新方法、增强现实的地图更新装置、多人增强现实系统、计算机可读存储介质与电子设备,进而至少在一定程度上克服相关技术中地图的准确度或质量较低的问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的第一方面,提供一种增强现实的地图更新方法,应用于多人增强现实AR中的服务器,所述方法包括:获取由第一终端扫描目标场景而创建的地图数据;将所述地图数据发送至其他终端;接收所述其他终端中的第二终端发送的第一待匹配图像,以及所述其他终端中的第三终端发送的第二待匹配图像;所述第一待匹配图像为所述第二终端进行重定位时,与所述地图数据中的目标关键帧匹配不成功的所述目标场景的图像;所述第二待匹配图像为所述第三终端进行重定位时,与所述地图数据中的所述目标关键帧匹配不成功的所述目标场景的图像;当对所述第一待匹配图像和所述第二待匹配图像匹配成功时,根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。
根据本公开的第二方面,提供一种增强现实的地图更新方法,应用于多人AR中的第二终端,所述方法包括:获取服务器发送的地图数据,所述地图数据由第一终端扫描目标场景而创建、并发送至所述服务器;将采集到的所述目标场景的图像,与所述地图数据进行匹配;当与所述地图数据中的目标关键帧匹配不成功时,将所述目标场景的图像中与所述目标关键帧对应的第一待匹配图像发送至所述服务器,使所述服务器根据所述第一待匹配图像、以及由第三终端发送的与所述目标关键帧匹配不成功的第二待匹配图像更新所述地图数据。
根据本公开的第三方面,提供一种增强现实的地图更新装置,配置于多人增强现实AR中的服务器,所述装置包括:地图数据获取模块,用于获取由第一终端扫描目标场景而创建的地图数据;地图数据发送模块,用于将所述地图数据发送至其他终端;待匹配图像接收模块,用于接收所述其他终端中的第二终端发送的第一待匹配图像,以及所述其他终端中的第三终端发送的第二待匹配图像;所述第一待匹配图像为所述第二终端进行重定位时,与所述地图数据中的目标关键帧匹配不成功的所述目标场景的图像;所述第二待匹配图像为所述第三终端进行重定位时,与所述地图数据中的所述目标关键帧匹配不成功的所述目标场景的图像;地图数据更新模块,用于当对所述第一待匹配图像和所述第二待匹配图像匹配成功时,根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。
根据本公开的第四方面,提供一种增强现实的地图更新装置,配置于多人AR中的第二终端,所述装置包括:地图数据获取模块,用于获取服务器发送的地图数据,所述地图数据由第一终端扫描目标场景而创建、并发送至所述服务器;地图数据匹配模块,用于将采集到的所述目标场景的图像,与所述地图数据进行匹配;待匹配图像发送模块,用于当与所述地图数据中的目标关键帧匹配不成功时,将所述目标场景的图像中与所述目标关键帧对应的第一待匹配图像发送至所述服务器,使所述服务器根据所述第一待匹配图像、以及由第三终端发送的与所述目标关键帧匹配不成功的第二待匹配图像更新所述地图数据。
根据本公开的第五方面,提供一种多人增强现实系统,包括第一终端、第二终端、第三终端和服务器。其中,所述第一终端,用于扫描目标场景而创建地图数据,并将所述地图数据发送至所述服务器;所述服务器,用于将所述地图数据发送至所述第二终端和所述第三终端;所述第二终端,用于当与所述地图数据中的目标关键帧匹配不成功时,将采集到的所述目标场景的图像中,与所述目标关键帧对应的第一待匹配图像发送至所述服务器;所述第三终端,用于当与所述地图数据中的目标关键帧匹配不成功时,将采集到的所述目标场景的图像中,与所述目标关键帧对应的第二待匹配图像发送至所述服务器;所述服务器,还用于根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。
根据本公开的第六方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面或第二方面的地图更新方法。
根据本公开的第七方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述第一方面或第二方面的地图更新方法。
本公开的技术方案具有以下有益效果:
根据上述增强现实的地图更新方法、增强现实的地图更新装置、多人增强现实系统、计算机可读存储介质与电子设备,由第一终端扫描目标场景而创建地图数据,通过服务器发送至第二终端和第三终端;第二终端和第三终端在重定位时,若与地图数据中的目标关键帧匹配不成功,分别将对应的第一待匹配图像和第二待匹配图像发送至服务器;服务器对两图像进行匹配,并更新地图数据。一方面,将第二终端和第三终端加入地图更新的过程,使地图数据不依赖于第一终端的建图质量,从而克服了第一终端在建图过程中,可能存在的关键特征点稀疏、扫描的视角单一、点云数量稀少等问题,提高地图的准确度与质量;进一步的,有利于提高重定位的效率与成功率,提高多人AR的使用体验。另一方面,需要第二终端与第三终端同时对目标关键帧匹配不成功时,才确定原地图数据存在不准确的情况,进而进行更新,可以减小单一终端的异常对地图产生的不良影响,进一步提高地图的质量。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出本示例性实施方式一种多人AR系统的架构示意图;
图2示出本示例性实施方式一种增强现实的地图更新方法的流程图;
图3示出本示例性实施方式另一种增强现实的地图更新方法的流程图;
图4示出本示例性实施方式地图更新的交互流程图;
图5示出本示例性实施方式一种地图更新装置的结构框图;
图6示出本示例性实施方式另一种地图更新装置的结构框图;
图7示出本示例性实施方式用于实现上述方法的计算机可读存储介质的示意图;
图8示出本示例性实施方式用于实现上述方法的电子设备的示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了适于实现本公开示例性实施方式的多人AR系统的架构示意图。
如图1所示,多人AR系统100可以包括:第一终端110、第二终端120、第三终端130和服务器140。其中,第一终端110、第二终端120、第三终端130分别由参与多人AR的每个用户使用,可以是具有显示功能的各种电子设备,包括但不限于智能手机、平板电脑、便携式计算机、智能可穿戴设备(如AR眼镜)等。第一终端110、第二终端120、第三终端130均可以运行多人AR的客户端程序,通过网络与服务器140连接,进行AR的数据交互。
应当理解的是,图1中的终端设备、服务器的数量仅仅是示意性的,根据实现需要,可以具有任意数目的终端设备和服务器。比如服务器140可以是多个服务器组成的服务器集群,还可以设置第四终端、第五终端等等。
本公开示例性实施方式提出基于上述多人AR系统100的增强现实的地图更新方法,下面分别从服务器140和第二终端120两个方面,对该方法进行具体说明。
图2示出了由服务器140执行的地图更新方法的流程,可以包括以下步骤S210至S240:
步骤S210,获取由第一终端扫描目标场景而创建的地图数据。
其中,目标场景是用户所处的真实世界环境,地图数据是反映该真实世界环境特征的三维点云模型,包括地形、纹理、障碍物等信息。第一终端创建地图数据可以采用SLAM(Simultaneous Localization And Mapping,同时定位与建图)方法。具体来说,第一终端启动摄像头,用户A手持(或佩戴)第一终端,在目标场景内移动;第一终端采集场景图像,并同时记录位姿信息;在获得一定帧数的图像后,可以初始化场景的地图数据,通常只包括场景的一小部分,或者与实际场景有差别;此后,每采集一帧的图像,都可以根据该图像对地图数据进行更新优化,增加地图中没有的地图点,或者修正已有地图点的位置等;直到遍历整个场景,得到完整的地图数据。在SLAM采集场景图像时,通常从连续帧图像中选取一定数量的关键帧,这是为了减少建模过程中的信息冗余而选取的具有代表性的帧,通常可以每间隔一定的帧数选取一帧为关键帧,或者在图像内容变化较多时提取关键帧。在创建地图数据时,通常将关键帧集合打包到地图数据中,以便于后续重定位时使用。
在多人AR中,用户需要进入同一AR房间(本文中,AR房间是虚拟的概念,指多人在同一虚拟房间中进行联机,如可以是AR游戏房间),一般由创建房间的用户负责创建地图,例如上述用户A为房主,由A创建地图,然后将地图数据发送至服务器。
步骤S220,将地图数据发送至其他终端。
其他用户加入用户A创建的AR房间后,需要根据地图数据进行重定位。假设用户B控制第二终端,用户C控制第三终端,两人加入用户A的房间后,服务器向第二终端和第三终端发送地图数据。
一般的,在服务器端,一个AR房间对应于一个队列、一个进程或一个线程。以线程为例,当用户A创建AR房间时,服务器后台生成对应的线程,当用户B和C加入该AR房间时,服务器将用户B和C的相关信息,如用户账号、终端标识与地址等加入该线程中,然后通过该线程向第二终端和第三终端发送地图数据。
步骤S230,接收上述其他终端中的第二终端发送的第一待匹配图像,以及上述其他终端中的第三终端发送的第二待匹配图像。
其中,第一待匹配图像为第二终端进行重定位时,与地图数据中的目标关键帧匹配不成功的目标场景的图像;第二待匹配图像为第三终端进行重定位时,与地图数据中的目标关键帧匹配不成功的目标场景的图像。
以第二终端为例,其在进行重定位时,启动摄像头,用户B手持(或佩戴)第二终端,在目标场景内移动;第二终端采集目标场景的图像,同时记录位姿信息,并实时与地图数据进行匹配,具体而言是将场景图像与地图数据的关键帧进行匹配。在此过程中,若存在匹配不成功的关键帧,则将该关键帧提取出来,作为目标关键帧,从第二终端所采集的目标场景的图像中,找出与目标关键帧对应的帧图像,作为第一待匹配图像。
第三终端确定第二待匹配图像的过程,与第二终端确定第一待匹配图像的过程相同,因而不再赘述。
步骤S240,当对第一待匹配图像和第二待匹配图像匹配成功时,根据第一待匹配图像和/或第二待匹配图像更新地图数据。
第二终端和第三终端分别将第一待匹配图像和第二待匹配图像发送至服务器,服务器对两图像进行匹配。在一种可选的实施方式中,可以通过以下方式进行匹配:
计算第一待匹配图像和第二待匹配图像的相似度;
当相似度大于预设阈值时,确定第一待匹配图像和第二待匹配图像匹配成功;
当相似度小于预设阈值时,确定第一待匹配图像和第二待匹配图像匹配不成功。
其中,两图像的相似度可以通过SSIM(Structural Similarity Index,结构相似性)、余弦相似度、直方图相似度等指标进行度量,或者在第一待匹配图像和第二待匹配图像中分别选取若干对象,通过特征算子的对比来表征两图像的相似度,或者预先训练双图像通道输入的卷积神经网络,以相似度为输出,则通过该卷积神经网络对第一待匹配图像和第二待匹配图像进行处理,可以得到两图像的相似度,等等,本公开对于具体方式不做限定。
进一步的,考虑到第一待匹配图像和第二待匹配图像可能是第二终端和第三终端在不同视角下采集的图像,在计算相似度前,可以对两图像进行配准,以统一到相同的视角,这样计算相似度更加准确。
预设阈值用于衡量两图像是否达到了相似标准,可以根据经验或实际需求设定其值,需要说明的是,针对不同的相似度指标,预设阈值一般也不同。
第二终端和第三终端同时对目标关键帧匹配不成功,说明目标关键帧与实际场景存在偏差,或者产生了局部畸变等。并且,第一待匹配图像和第二待匹配图像匹配成功,说明两图像都较为准确地反映了实际场景。因此可以利用第一待匹配图像和/或第二待匹配图像对地图数据中目标关键帧所在的部分进行更新,以提高地图的准确度。在一种可选的实施方式中,根据第一待匹配图像和/或第二待匹配图像更新地图数据,可以具体通过以下方式实现:
在第一待匹配图像和第二待匹配图像中选取至少一帧图像;
利用至少一帧图像替换目标关键帧,以更新地图数据的关键帧集合;
根据更新后的关键帧集合更新地图数据。
其中,第一待匹配图像和第二待匹配图像可以分别是一组图像,包括多帧图像。可以从中选取一帧或多帧,加入到地图数据的关键帧集合中,以替换掉目标关键帧。然后利用新的关键帧集合更新地图数据。
进一步的,在更新地图数据时,可以针对上述至少一帧图像进行回环检测,以对地图进行全局优化。具体来说,将上述至少一帧图像加入关键帧集合后,针对该新的关键帧,将其特征点转换为词典描述;然后计算该关键帧与其他关键帧的词典相似性,若相似性达到一定的阈值,则认为该关键帧为候选回环帧;针对候选回环帧进一步做几何验证,即匹配点之间应该满足对应的几何关系,如果通过几何验证则认为是回环帧,进行地图的全局优化。
在一种可选的实施方式中,在更新地图数据后,可以将地图数据发送至其他终端,使其他终端通过地图数据进行重定位。由于更新后的地图数据准确度较高,有利于实现更高校的重定位。此外,也可以将更新后的地图数据发送至第一终端,使第一终端的地图数据得到同步。
图3示出了由第二终端120执行的地图更新方法的流程,可以包括以下步骤S310至S330:
步骤S310,获取服务器发送的地图数据,该地图数据由第一终端扫描目标场景而创建、并发送至服务器;
步骤S320,将采集到的目标场景的图像,与地图数据进行匹配;
步骤S330,当与地图数据中的目标关键帧匹配不成功时,将目标场景的图像中与目标关键帧对应的第一待匹配图像发送至服务器,使服务器根据第一待匹配图像、以及由第三终端发送的与目标关键帧匹配不成功的第二待匹配图像更新地图数据。
其中,第一终端、第二终端和第三终端的用户可以处于同一AR房间,一般是第一终端的用户所创建的房间。第一终端扫描目标场景而创建地图数据,其中包括地图数据中关键帧的集合。第一终端将地图数据发送至服务器,服务器再发送至第二终端和第三终端。第二终端和第三终端分别对地图数据的关键帧进行匹配,以进行重定位,在此过程中,可能出现与关键帧匹配不成功的情况。若第二终端和第三终端同时对某一个或多个关键帧匹配不成功,将其作为目标关键帧,说明目标关键帧与实际场景存在偏差,或者产生了局部畸变等,因而由服务器对地图数据进行更新。
在一种可选的实施方式中,服务器可以将更新后的地图数据发送至第二终端和第三终端。第二终端接收服务器发送的更新后的地图数据,通过该地图数据进行重定位。
图4示出了地图更新方法的交互流程。如图4所示,第一终端110执行步骤S411,创建AR房间并创建地图数据,然后执行步骤S412,将地图数据发送至服务器140。服务器140在接收到地图数据后,执行步骤S421,将地图数据发送至第二终端120和第三终端130。第二终端120执行步骤S431,匹配地图数据,然后执行步骤S432,确定对地图数据的目标关键帧匹配不成功,然后执行步骤S433,确定目标关键帧对应的场景图像,即第一待匹配图像,再执行步骤S434,将第一待匹配图像发送至服务器140。第三终端130通过相同的方法,确定第二待匹配图像并发送至服务器140。服务器140在接收到第一待匹配图像和第二待匹配图像后,执行步骤S422,对第一待匹配图像和第二待匹配图像进行匹配,若匹配成功,则继续执行步骤S423,根据第一待匹配图像和/或第二待匹配图像更新地图数据,最后执行步骤S424,将更新后的地图数据发送至第一终端110、第二终端120和第三终端130。第二终端120在接收到更新后的地图数据时,执行步骤S435,进行重定位;第三终端130同样利用更新后的地图数据进行重定位。若第二终端120和第三终端130重定位不成功,则继续查找目标关键帧,重复上述更新过程;若若第二终端120和第三终端130重定位成功,整个流程结束。
综上所述,本示例性实施方式中,由第一终端扫描目标场景而创建地图数据,通过服务器发送至第二终端和第三终端;第二终端和第三终端在重定位时,若与地图数据中的目标关键帧匹配不成功,分别将对应的第一待匹配图像和第二待匹配图像发送至服务器;服务器对两图像进行匹配,并更新地图数据。一方面,将第二终端和第三终端加入地图更新的过程,使地图数据不依赖于第一终端的建图质量,从而克服了第一终端在建图过程中,可能存在的关键特征点稀疏、扫描的视角单一、点云数量稀少等问题,提高地图的准确度与质量;进一步的,有利于提高重定位的效率与成功率,提高多人AR的使用体验。另一方面,需要第二终端与第三终端同时对目标关键帧匹配不成功时,才确定原地图数据存在不准确的情况,进而进行更新,可以减小单一终端的异常对地图产生的不良影响,进一步提高地图的质量。
本公开示例性实施方式还提供一种增强现实的地图更新装置,可以配置于多人增强现实AR中的服务器,如图1中的服务器140。参考图5所示,该地图更新装置500可以包括:
地图数据获取模块510,用于获取由第一终端扫描目标场景而创建的地图数据;
地图数据发送模块520,用于将地图数据发送至其他终端;
待匹配图像接收模块530,用于接收上述其他终端中的第二终端发送的第一待匹配图像,以及上述其他终端中的第三终端发送的第二待匹配图像;
地图数据更新模块540,用于当对第一待匹配图像和第二待匹配图像匹配成功时,根据第一待匹配图像和/或第二待匹配图像更新地图数据。
其中,第一待匹配图像为第二终端进行重定位时,与地图数据中的目标关键帧匹配不成功的目标场景的图像;第二待匹配图像为第三终端进行重定位时,与地图数据中的目标关键帧匹配不成功的目标场景的图像;
在一种可选的实施方式中,地图数据更新模块540,可以通过执行以下方法,以对第一待匹配图像和第二待匹配图像进行匹配:
计算第一待匹配图像和第二待匹配图像的相似度;
当相似度大于预设阈值时,确定第一待匹配图像和第二待匹配图像匹配成功;
当相似度小于预设阈值时,确定第一待匹配图像和第二待匹配图像匹配不成功。
在一种可选的实施方式中,地图数据更新模块540,可以通过执行以下方法,以更新地图数据:
在第一待匹配图像和第二待匹配图像中选取至少一帧图像;
利用至少一帧图像替换目标关键帧,以更新地图数据的关键帧集合;
根据更新后的关键帧集合更新地图数据。
在一种可选的实施方式中,地图数据更新模块540,还用于在更新地图数据时,针对至少一帧图像进行回环检测,以对地图数据进行全局优化。
在一种可选的实施方式中,地图数据发送模块520,还用于将更新后的地图数据发送至其他终端,使其他终端通过地图数据进行重定位。
本公开示例性实施方式还提供另一种增强现实的地图更新装置,可以配置于多人AR中的第二终端,如图1中的第二终端120。参考图6所示,该地图更新装置600可以包括:
地图数据获取模块610,用于获取服务器发送的地图数据,地图数据由第一终端扫描目标场景而创建、并发送至服务器;
地图数据匹配模块620,用于将采集到的目标场景的图像,与地图数据进行匹配;
待匹配图像发送模块630,用于当与地图数据中的目标关键帧匹配不成功时,将目标场景的图像中与目标关键帧对应的第一待匹配图像发送至服务器,使服务器根据第一待匹配图像、以及由第三终端发送的与目标关键帧匹配不成功的第二待匹配图像更新地图数据。
在一种可选的实施方式中,地图数据获取模块610,还用于接收服务器发送的更新后的地图数据。地图数据匹配模块,还用于通过更新后的地图数据进行重定位。
上述地图更新装置500和地图更新装置600中各模块的具体细节在方法部分实施方式中已经详细说明,未披露的细节内容可以参见方法部分的实施方式内容,因而不再赘述。
本公开示例性实施方式还提供一种多人增强现实系统,可以参考图1的多人AR系统100所示,包括第一终端110、第二终端120、第三终端130和服务器140。其中:
第一终端110,用于扫描目标场景而创建地图数据,并将地图数据发送至服务器140;
服务器140,用于将地图数据发送至第二终端120和第三终端130;
第二终端120,用于当与地图数据中的目标关键帧匹配不成功时,将采集到的目标场景的图像中,与目标关键帧对应的第一待匹配图像发送至服务器140;
第三终端130,用于当与地图数据中的目标关键帧匹配不成功时,将采集到的目标场景的图像中,与目标关键帧对应的第二待匹配图像发送至服务器140;
服务器140,还用于根据第一待匹配图像和/或第二待匹配图像更新地图数据。
此外,上述系统中各部分的具体细节在方法与装置部分实施方式中已经详细说明,未披露的细节内容可以参见上述两部分的实施方式内容,因而不再赘述。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
本公开的示例性实施方式还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
参考图7所示,描述了根据本公开的示例性实施方式的用于实现上述方法的程序产品700,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本公开的示例性实施方式还提供了一种能够实现上述方法的电子设备,例如可以是图1中的第一终端110、第二终端120、第三终端130或服务器140。下面参照图8来描述根据本公开的这种示例性实施方式的电子设备800。图8显示的电子设备800仅仅是一个示例,不应对本公开实施方式的功能和使用范围带来任何限制。
如图8所示,电子设备800可以以通用计算设备的形式表现。电子设备800的组件可以包括但不限于:至少一个处理单元810、至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830和显示单元840。
存储单元820存储有程序代码,程序代码可以被处理单元810执行,使得处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,处理单元810可以执行图2或图3所示的方法步骤等。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)821和/或高速缓存存储单元822,还可以进一步包括只读存储单元(ROM)823。
存储单元820还可以包括具有一组(至少一个)程序模块825的程序/实用工具824,这样的程序模块825包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备800也可以与一个或多个外部设备900(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器860通过总线830与电子设备800的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备800使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开示例性实施方式的方法。
此外,上述附图仅是根据本公开示例性实施方式的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的示例性实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施方式。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。
Claims (12)
1.一种增强现实的地图更新方法,应用于多人增强现实AR中的服务器,其特征在于,所述方法包括:
获取由第一终端扫描目标场景而创建的地图数据;
将所述地图数据发送至其他终端;
接收所述其他终端中的第二终端发送的第一待匹配图像,以及所述其他终端中的第三终端发送的第二待匹配图像;所述第一待匹配图像为所述第二终端进行重定位时,与所述地图数据中的目标关键帧匹配不成功的所述目标场景的图像;所述第二待匹配图像为所述第三终端进行重定位时,与所述地图数据中的所述目标关键帧匹配不成功的所述目标场景的图像;
当对所述第一待匹配图像和所述第二待匹配图像匹配成功时,根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。
2.根据权利要求1所述的方法,其特征在于,所述第一待匹配图像和所述第二待匹配图像通过以下方式进行匹配:
计算所述第一待匹配图像和所述第二待匹配图像的相似度;
当所述相似度大于预设阈值时,确定所述第一待匹配图像和所述第二待匹配图像匹配成功;
当所述相似度小于所述预设阈值时,确定所述第一待匹配图像和所述第二待匹配图像匹配不成功。
3.根据权利要求1所述的方法,其特征在于,所述根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据,包括:
在所述第一待匹配图像和所述第二待匹配图像中选取至少一帧图像;
利用所述至少一帧图像替换所述目标关键帧,以更新所述地图数据的关键帧集合;
根据更新后的所述关键帧集合更新所述地图数据。
4.根据权利要求3所述的方法,其特征在于,在更新所述地图数据时,所述方法还包括:
针对所述至少一帧图像进行回环检测,以对所述地图数据进行全局优化。
5.根据权利要求1至4任一项所述的方法,其特征在于,在更新所述地图数据后,所述方法还包括:
将所述地图数据发送至所述其他终端,使所述其他终端通过所述地图数据进行重定位。
6.一种增强现实的地图更新方法,应用于多人AR中的第二终端,其特征在于,所述方法包括:
获取服务器发送的地图数据,所述地图数据由第一终端扫描目标场景而创建、并发送至所述服务器;
将采集到的所述目标场景的图像,与所述地图数据进行匹配;
当与所述地图数据中的目标关键帧匹配不成功时,将所述目标场景的图像中与所述目标关键帧对应的第一待匹配图像发送至所述服务器,使所述服务器根据所述第一待匹配图像、以及由第三终端发送的与所述目标关键帧匹配不成功的第二待匹配图像更新所述地图数据。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
接收所述服务器发送的更新后的所述地图数据,通过所述地图数据进行重定位。
8.一种增强现实的地图更新装置,配置于多人AR中的服务器,其特征在于,所述装置包括:
地图数据获取模块,用于获取由第一终端扫描目标场景而创建的地图数据;
地图数据发送模块,用于将所述地图数据发送至其他终端;
待匹配图像接收模块,用于接收所述其他终端中的第二终端发送的第一待匹配图像,以及所述其他终端中的第三终端发送的第二待匹配图像;所述第一待匹配图像为所述第二终端进行重定位时,与所述地图数据中的目标关键帧匹配不成功的所述目标场景的图像;所述第二待匹配图像为所述第三终端进行重定位时,与所述地图数据中的所述目标关键帧匹配不成功的所述目标场景的图像;
地图数据更新模块,用于当对所述第一待匹配图像和所述第二待匹配图像匹配成功时,根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。
9.一种增强现实的地图更新装置,配置于多人AR中的第二终端,其特征在于,所述装置包括:
地图数据获取模块,用于获取服务器发送的地图数据,所述地图数据由第一终端扫描目标场景而创建、并发送至所述服务器;
地图数据匹配模块,用于将采集到的所述目标场景的图像,与所述地图数据进行匹配;
待匹配图像发送模块,用于当与所述地图数据中的目标关键帧匹配不成功时,将所述目标场景的图像中与所述目标关键帧对应的第一待匹配图像发送至所述服务器,使所述服务器根据所述第一待匹配图像、以及由第三终端发送的与所述目标关键帧匹配不成功的第二待匹配图像更新所述地图数据。
10.一种多人增强现实系统,包括第一终端、第二终端、第三终端和服务器,其特征在于,
所述第一终端,用于扫描目标场景而创建地图数据,并将所述地图数据发送至所述服务器;
所述服务器,用于将所述地图数据发送至所述第二终端和所述第三终端;
所述第二终端,用于当与所述地图数据中的目标关键帧匹配不成功时,将采集到的所述目标场景的图像中,与所述目标关键帧对应的第一待匹配图像发送至所述服务器;
所述第三终端,用于当与所述地图数据中的目标关键帧匹配不成功时,将采集到的所述目标场景的图像中,与所述目标关键帧对应的第二待匹配图像发送至所述服务器;
所述服务器,还用于根据所述第一待匹配图像和/或所述第二待匹配图像更新所述地图数据。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7任一项所述的方法。
12.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911357798.4A CN111177167B (zh) | 2019-12-25 | 2019-12-25 | 增强现实的地图更新方法、装置、系统、存储与设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911357798.4A CN111177167B (zh) | 2019-12-25 | 2019-12-25 | 增强现实的地图更新方法、装置、系统、存储与设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111177167A true CN111177167A (zh) | 2020-05-19 |
CN111177167B CN111177167B (zh) | 2024-01-19 |
Family
ID=70655728
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911357798.4A Active CN111177167B (zh) | 2019-12-25 | 2019-12-25 | 增强现实的地图更新方法、装置、系统、存储与设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111177167B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112541970A (zh) * | 2020-11-30 | 2021-03-23 | 北京华捷艾米科技有限公司 | 一种集中式协同SlAM中的重定位方法及装置 |
WO2021088497A1 (zh) * | 2019-11-08 | 2021-05-14 | 华为技术有限公司 | 虚拟物体显示方法、全局地图更新方法以及设备 |
CN112904365A (zh) * | 2021-02-10 | 2021-06-04 | 广州视源电子科技股份有限公司 | 地图的更新方法及装置 |
CN117870650A (zh) * | 2024-01-16 | 2024-04-12 | 北京悉见科技有限公司 | 一种ar定位地图更新的方法和装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015050288A1 (ko) * | 2013-10-01 | 2015-04-09 | 목포대학교산학협력단 | 소셜 증강현실 서비스 시스템 및 방법 |
US20160371884A1 (en) * | 2015-06-17 | 2016-12-22 | Microsoft Technology Licensing, Llc | Complementary augmented reality |
WO2017128934A1 (zh) * | 2016-01-29 | 2017-08-03 | 成都理想境界科技有限公司 | 一种实现增强现实的方法、服务器、终端及系统 |
CN108596976A (zh) * | 2018-04-27 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 相机姿态追踪过程的重定位方法、装置、设备及存储介质 |
CN109920055A (zh) * | 2019-03-08 | 2019-06-21 | 视辰信息科技(上海)有限公司 | 三维视觉地图的构建方法、装置与电子设备 |
CN110335315A (zh) * | 2019-06-27 | 2019-10-15 | Oppo广东移动通信有限公司 | 一种图像处理方法及装置、计算机可读存储介质 |
CN110457414A (zh) * | 2019-07-30 | 2019-11-15 | Oppo广东移动通信有限公司 | 离线地图处理、虚拟对象显示方法、装置、介质和设备 |
-
2019
- 2019-12-25 CN CN201911357798.4A patent/CN111177167B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015050288A1 (ko) * | 2013-10-01 | 2015-04-09 | 목포대학교산학협력단 | 소셜 증강현실 서비스 시스템 및 방법 |
US20160371884A1 (en) * | 2015-06-17 | 2016-12-22 | Microsoft Technology Licensing, Llc | Complementary augmented reality |
WO2017128934A1 (zh) * | 2016-01-29 | 2017-08-03 | 成都理想境界科技有限公司 | 一种实现增强现实的方法、服务器、终端及系统 |
CN108596976A (zh) * | 2018-04-27 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 相机姿态追踪过程的重定位方法、装置、设备及存储介质 |
CN109920055A (zh) * | 2019-03-08 | 2019-06-21 | 视辰信息科技(上海)有限公司 | 三维视觉地图的构建方法、装置与电子设备 |
CN110335315A (zh) * | 2019-06-27 | 2019-10-15 | Oppo广东移动通信有限公司 | 一种图像处理方法及装置、计算机可读存储介质 |
CN110457414A (zh) * | 2019-07-30 | 2019-11-15 | Oppo广东移动通信有限公司 | 离线地图处理、虚拟对象显示方法、装置、介质和设备 |
Non-Patent Citations (1)
Title |
---|
张剑华;王燕燕;王曾媛;陈胜勇;管秋;: "单目同时定位与建图中的地图恢复融合技术", 中国图象图形学报, no. 03, pages 74 - 85 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021088497A1 (zh) * | 2019-11-08 | 2021-05-14 | 华为技术有限公司 | 虚拟物体显示方法、全局地图更新方法以及设备 |
CN112541970A (zh) * | 2020-11-30 | 2021-03-23 | 北京华捷艾米科技有限公司 | 一种集中式协同SlAM中的重定位方法及装置 |
CN112904365A (zh) * | 2021-02-10 | 2021-06-04 | 广州视源电子科技股份有限公司 | 地图的更新方法及装置 |
CN112904365B (zh) * | 2021-02-10 | 2024-05-10 | 广州视源电子科技股份有限公司 | 地图的更新方法及装置 |
CN117870650A (zh) * | 2024-01-16 | 2024-04-12 | 北京悉见科技有限公司 | 一种ar定位地图更新的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111177167B (zh) | 2024-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111177167B (zh) | 增强现实的地图更新方法、装置、系统、存储与设备 | |
CN110310326B (zh) | 一种视觉定位数据处理方法、装置、终端及计算机可读存储介质 | |
CN112927363B (zh) | 体素地图构建方法及装置、计算机可读介质和电子设备 | |
US10789474B2 (en) | System, method and apparatus for displaying information | |
CN111784776B (zh) | 视觉定位方法及装置、计算机可读介质和电子设备 | |
US11777787B2 (en) | Video-based maintenance method, maintenance terminal, server, system and storage medium | |
CN113420719A (zh) | 生成动作捕捉数据的方法、装置、电子设备以及存储介质 | |
CN113591580B (zh) | 图像标注方法、装置、电子设备和存储介质 | |
WO2023005253A1 (zh) | 文本识别模型框架的训练方法、装置及系统 | |
CN113934297B (zh) | 一种基于增强现实的交互方法、装置、电子设备及介质 | |
US20230215203A1 (en) | Character recognition model training method and apparatus, character recognition method and apparatus, device and storage medium | |
CN112580666A (zh) | 图像特征的提取方法、训练方法、装置、电子设备及介质 | |
CN115205925A (zh) | 表情系数确定方法、装置、电子设备及存储介质 | |
CN113840177B (zh) | 直播互动方法、装置、存储介质与电子设备 | |
EP4156124A1 (en) | Dynamic gesture recognition method and apparatus, and device and storage medium | |
CN117036574B (zh) | 渲染方法、装置、电子设备以及存储介质 | |
CN112925942A (zh) | 一种数据搜索方法、装置、设备及存储介质 | |
CN113360683A (zh) | 训练跨模态检索模型的方法以及跨模态检索方法和装置 | |
CN112085842B (zh) | 深度值确定方法及装置、电子设备和存储介质 | |
EP4152180A2 (en) | Method of detecting action, electronic device, and storage medium | |
CN114092608B (zh) | 表情的处理方法及装置、计算机可读存储介质、电子设备 | |
CN115775300A (zh) | 人体模型的重建方法、人体重建模型的训练方法及装置 | |
CN111652831B (zh) | 对象融合方法、装置、计算机可读存储介质及电子设备 | |
CN113903071A (zh) | 人脸识别方法、装置、电子设备和存储介质 | |
CN113709584A (zh) | 视频划分方法、装置、服务器、终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |