CN107464290A - 三维信息展示方法、装置和移动终端 - Google Patents
三维信息展示方法、装置和移动终端 Download PDFInfo
- Publication number
- CN107464290A CN107464290A CN201710668444.6A CN201710668444A CN107464290A CN 107464290 A CN107464290 A CN 107464290A CN 201710668444 A CN201710668444 A CN 201710668444A CN 107464290 A CN107464290 A CN 107464290A
- Authority
- CN
- China
- Prior art keywords
- mtd
- mrow
- mtr
- msub
- information display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明提供了一种三维信息展示方法、装置和移动终端;其中,该方法包括:通过终端采集信息展示载体的图像数据;采用预设的检测模型,检测图像数据中,信息展示载体的特征点;其中,预设的检测模型通过对信息展示载体的多个图像数据进行机器学习后获得;根据预先获取的信息展示载体的理想模型,以及信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息;根据位置信息和终端的摄像参数,确定三维信息的展示位置;根据展示位置,将三维信息叠加显示在图像数据中。本发明通过终端虚拟地将三维信息贴合至信息展示载体上进行显示,可以多维度地展示三维信息,提高了信息展示的灵活性和多样性。
Description
技术领域
本发明涉及信息展示技术领域,尤其是涉及一种三维信息展示方法、装置和移动终端。
背景技术
增强现实(Augmented Reality,简称AR),是通过计算机系统提供的信息增加用户对现实世界感知的技术,将虚拟的信息应用到真实世界,并将计算机生成的虚拟物体、场景或系统提示信息叠加到真实场景中,从而实现对现实的增强。
应用AR技术扫描二维码等标识,可以获得相关的图像、视频或网页等,这种信息展示方式,以二维平面的文字、图像、视屏等形式实现,信息展示方式功能单一,缺乏新意。
针对现有的信息展示方式功能单一,缺乏新意的问题,尚未提出有效的解决方案。
发明内容
有鉴于此,本发明的目的在于提供一种三维信息展示方法、装置和移动终端,以提高信息展示的灵活性和多样性。
第一方面,本发明实施例提供了一种三维信息展示方法,包括:通过终端采集信息展示载体的图像数据;采用预设的检测模型,检测图像数据中,信息展示载体的特征点;其中,预设的检测模型通过对信息展示载体的多个图像数据进行机器学习后获得;根据预先获取的信息展示载体的理想模型,以及信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息;根据位置信息和终端的摄像参数,确定三维信息的展示位置;根据展示位置,将三维信息叠加显示在图像数据中。
在本发明较佳的实施例中,上述预设的检测模型,具体通过下述方式获得:获取图像数据集合;其中,图像数据集合包括多个信息展示载体的图像数据;每个信息展示载体对应多个图像数据;采用多层神经网络技术训练图像数据集合,生成图像区域检测器;采用语义识别技术训练图像数据集合,生成特征点识别器。
在本发明较佳的实施例中,上述采用预设的检测模型,检测图像数据中,信息展示载体的特征点的步骤,包括:通过图像区域检测器,检测图像数据中,信息展示载体的分布区域;通过特征点识别器,识别分布区域中,信息展示载体的特征点。
在本发明较佳的实施例中,上述信息展示载体的理想模型,通过下述方式获得:通过预先生成的分类器,识别图像数据中,信息展示载体的标识;从预先建立的模型库中,查找标识对应的信息展示载体的理想模型;其中,模型库中包含信息展示载体的二维模型或三维模型;信息展示载体的二维模型或三维模型中包含信息展示载体的相应维度的特征点。
在本发明较佳的实施例中,上述根据预先获取的信息展示载体的理想模型,以及信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息的步骤,包括:通过公式:
计算获得理想模型中的特征点与图像数据中的特征点的转换矩阵R和转换矩阵T;其中,Pm=[pm1 pm2 pm3 1]′为理想模型中的特征点对应的坐标矩阵;Pc=[pc1 pc2 1]′为图像数据中的特征点对应的坐标矩阵;s为尺度因子;K为终端中摄像机的参数矩阵;fx为摄像机焦距与物理像素点宽度的比值;fy为摄像机焦距与物理像素点高度的比值;λ为摄像机物理像素点的错切系数;dx和dy为图像坐标系中心转换系数;
通过公式:
获得特征点在终端的摄像机坐标系下的位置信息;其中,摄像机坐标系下的位置信息对应的矩阵坐标为Pce=[pce1 pce2 pce3 1]′;k为比例因子。
在本发明较佳的实施例中,上述根据位置信息和终端的摄像参数,确定三维信息的展示位置的步骤,包括:通过公式:
计算获得透视成像矩阵Per;其中,w和h分别为终端屏幕分辨率的宽度和高度;f为透视视锥体距透视成像中心的最远距离;n为透视视锥体距透视成像中心的最近距离;通过透视成像矩阵Per和位置信息,计算获得三维信息的展示位置。
第二方面,本发明实施例提供了一种三维信息展示装置,包括:采集模块,用于通过终端采集信息展示载体的图像数据;检测模块,用于采用预设的检测模型,检测图像数据中,信息展示载体的特征点;其中,预设的检测模型通过对信息展示载体的多个图像数据进行机器学习后获得;第一确定模块,用于根据预先获取的信息展示载体的理想模型,以及信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息;第二确定模块,用于根据位置信息和终端的摄像参数,确定三维信息的展示位置;显示模块,用于根据展示位置,将三维信息叠加显示在图像数据中。
在本发明较佳的实施例中,上述检测模块中,预设的检测模型,具体通过下述方式获得:获取图像数据集合;其中,图像数据集合包括多个信息展示载体的图像数据;每个信息展示载体对应多个图像数据;采用多层神经网络技术训练图像数据集合,生成图像区域检测器;采用语义识别技术训练图像数据集合,生成特征点识别器。
第三方面,本发明实施例提供了一种移动终端,包括处理器和存储器,存储器用于存储支持处理器执行上述方法的程序,处理器被配置为用于执行存储器中存储的程序。
第四方面,本发明实施例提供了一种计算机存储介质,用于储存上述装置所用的计算机软件指令。
本发明实施例带来了以下有益效果:
本发明实施例提供的一种三维信息展示方法、装置和移动终端,当终端采集信息展示载体的图像数据后,采用预设的检测模型,检测图像数据中信息展示载体的特征点;再根据信息展示载体的理想模型和该特征点,确定特征点在终端的摄像机坐标系下的位置信息;进而根据位置信息和终端的摄像参数,确定三维信息的展示位置,最终将三维信息叠加显示在图像数据中。该方式中,通过终端虚拟地将三维信息贴合至信息展示载体上进行显示,可以多维度地展示三维信息,提高了信息展示的灵活性和多样性。
本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的第一种三维信息展示方法的流程图;
图2为本发明实施例提供的第二种三维信息展示方法的流程图;
图3为本发明实施例提供的第三种三维信息展示方法的流程图;
图4为本发明实施例提供的一种三维信息展示方法的展示效果示意图;
图5为本发明实施例提供的一种三维信息展示装置的结构示意图;
图6为本发明实施例提供的一种移动终端的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
考虑到现有的信息展示方式功能单一的问题,本发明实施例提供了一种三维信息展示方法、装置和移动终端;该技术可以应用于社交、留言、信息广播、广告投放等相关场景中;尤其可以应用于朋友圈等私人社交平台中;该技术可以采用相关的软件或硬件实现,下面通过实施例进行描述。
实施例一:
参见图1所示的第一种三维信息展示方法的流程图;该方法包括如下步骤:
步骤S102,通过终端采集信息展示载体的图像数据;其中,该终端可以为手机等移动终端,也可以为AR(Augmented Reality,增强现实)设备。该信息展示载体可以为楼宇、桥梁等建筑物,也可以为山、河流、海等自然物。
步骤S104,采用预设的检测模型,检测图像数据中,信息展示载体的特征点;其中,该预设的检测模型通过对信息展示载体的多个图像数据进行机器学习后获得;
步骤S106,根据预先获取的信息展示载体的理想模型,以及信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息;
步骤S108,根据位置信息和终端的摄像参数,确定三维信息的展示位置;其中,该三维信息可以为用户提前输入,且与特定的信息展示载体的标识信息绑定保存;该三维信息可以为文字、图片或动态图等;
步骤S110,根据展示位置,将三维信息叠加显示在图像数据中。
例如,用户A对一栋楼宇绑定了一个三维信息,并指定用户B接收该三维信息;当用户B通过终端采集信息展示载体的图像数据时,通过上述步骤,可以将三维信息叠加显示在图像数据中;该方式通常用于一对一的私密信息交流过程中;
可以理解,用户A也可以指定多个用户接收该三维信息,例如,用于朋友之间的局部信息交流过程中;或者还设置所有通过终端采集信息展示载体的图像数据的用户均可以接收该三维信息,例如,商家投放广告的过程中。
本发明实施例提供的一种三维信息展示方法,当终端采集信息展示载体的图像数据后,采用预设的检测模型,检测图像数据中信息展示载体的特征点;再根据信息展示载体的理想模型和该特征点,确定特征点在终端的摄像机坐标系下的位置信息;进而根据位置信息和终端的摄像参数,确定三维信息的展示位置,最终将三维信息叠加显示在图像数据中。该方式中,通过终端虚拟地将三维信息贴合至信息展示载体上进行显示,可以多维度地展示三维信息,提高了信息展示的灵活性和多样性。
实施例二:
参见图2所示的第二种三维信息展示方法的流程图;该方法在实施例一中提供的三维信息展示方法基础上实现;该方法包括如下步骤:
步骤S202,通过终端采集信息展示载体的图像数据;
步骤S204,采用预设的检测模型,检测图像数据中,信息展示载体的特征点;
上述预设的检测模型,具体通过下述方式获得:
(1)获取图像数据集合;其中,该图像数据集合包括多个信息展示载体的图像数据;每个信息展示载体对应多个图像数据;
(2)采用多层神经网络技术训练图像数据集合,生成图像区域检测器;
神经网络是一种具有学习、联想、记忆和模式识别等智能信息处理功能的人工系统;神经网络的一个重要特性是能够从环境中学习,并把学习的结果分布存储于网络的突触连接中。神经网络的学习是一个过程,在其所处环境的激励下,相继给网络输入一些样本,该样本从上述图像数据集合中获取,并按照一定的规则或学习算法调整网络各层的权值矩阵,待网络各层权值都收敛到一定值,学习过程结束,生成上述图像区域检测器。
(3)采用语义识别技术训练图像数据集合,生成特征点识别器。
上述图像区域检测器和特征点识别器组合而成检测模型。采用该预设的检测模型,检测图像数据中,信息展示载体的特征点的步骤,具体可以通过下述步骤实现:
步骤S206,通过图像区域检测器,检测图像数据中,信息展示载体的分布区域;例如,该信息展示载体为一栋楼宇,该图像区域检测器可以从图像数据中检测出该楼宇所处的位置,以及该楼宇在图像数据中占用的区域;具体地,可以通过对楼宇进行边缘检测,获取该楼宇的分布区域。
步骤S208,通过特征点识别器,识别分布区域中,信息展示载体的特征点。该特征点可以包括该信息展示载体的颜色特征、结构特征、纹理特征等;可以理解,该特征点从信息展示载体的分布区域内提取,该特征点可以反映该信息展示载体的典型特征,因而该特征点可以在一定程度上成为该信息展示载体的标识信息。
步骤S210,根据预先获取的信息展示载体的理想模型,以及上述信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息;
该步骤S210中,信息展示载体的理想模型,可以通过下述方式获得:
(1)通过预先生成的分类器,识别图像数据中,信息展示载体的标识;
该分类器也可以通过机器学习训练获得;具体地,首先获取图像数据集合;其中,该图像数据集合包括多个信息展示载体的图像数据;每个信息展示载体对应多个图像数据;采用神经网络、遗传算法等方式对图像数据集合进行分类学习,并配置相应的标识,该分类器生成;在使用时,将特定的信息展示载体的图像数据输入至分类器中,识别后,输出该信息展示载体对应的标识。
(2)从预先建立的模型库中,查找标识对应的信息展示载体的理想模型;其中,模型库中包含信息展示载体的二维模型或三维模型;信息展示载体的二维模型或三维模型中包含信息展示载体的相应维度的特征点。
进一步地,当使用上述模型库中,信息展示载体的三维模型时,上述步骤S210,可以通过下述公式的形式实现:
(1)根据摄影成像原理,通过公式:
计算获得理想模型中的特征点与图像数据中的特征点的转换矩阵R和转换矩阵T;其中,Pm=[pm1 pm2 pm3 1]′为理想模型中的特征点对应的坐标矩阵;Pc=[pc1 pc2 1]′为图像数据中的特征点对应的坐标矩阵;s为尺度因子;K为终端中摄像机的参数矩阵;fx为摄像机焦距与物理像素点宽度的比值;fy为摄像机焦距与物理像素点高度的比值;λ为摄像机物理像素点的错切系数;dx和dy为图像坐标系中心转换系数;
上述理想模型中的特征点对应的坐标矩阵也可以表示为Pm=[pm1 pm2 pm3]′;上述图像数据中的特征点对应的坐标矩阵也可以表示为Pc=[pc1 pc2]′;上述转换矩阵R可以表示为上述转换矩阵T可以表示为
由上述可知,求解转换矩阵R和转换矩阵T,总共需要求解12个未知量,即r11、r12、r13、r21、r22、r23、r31、r32、r33、t1、t2、t3;因此,需要使用六对Pm和Pc,也即六个特征点,可以算出上述12个未知量。
(2)通过公式:
获得特征点在终端的摄像机坐标系下的位置信息;其中,摄像机坐标系下的位置信息对应的矩阵坐标为Pce=[pce1 pce2 pce3 1]′;k为比例因子。
可以理解,当使用上述模型库中,信息展示载体的二维模型时,使用信息展示载体的二维特征点,与通过图像数据获取的上述信息展示载体的特征点,采用上述相似的步骤,可以确定特征点在终端的摄像机坐标系下的位置信息。
步骤S212,根据位置信息和终端的摄像参数,确定三维信息的展示位置;
该步骤S212,可以通过下述公式的形式实现:
(1)根据透视成像原理,通过公式:
计算获得透视成像矩阵Per;其中,w和h分别为终端屏幕分辨率的宽度和高度;f为透视视锥体距透视成像中心的最远距离;n为透视视锥体距透视成像中心的最近距离;
(2)通过透视成像矩阵Per和上述特征点在终端的摄像机坐标系下的位置信息,计算获得三维信息的展示位置。
步骤S214,根据该展示位置,将三维信息叠加显示在图像数据中。
上述三维信息的展示位置为出与建筑物等信息展示载体具有相同透视成像变换的虚拟场景在图像数据上的位置;根据透视成像规则,就可以实时的叠加虚拟信息在建筑物等信息展示载体之上。
本发明实施例提供的一种三维信息展示方法,当终端采集信息展示载体的图像数据后,采用图像区域检测器和特征点识别器,检测信息展示载体的分布区域和识别特征点;再根据信息展示载体的理想模型和该特征点,采用相应的公式计算获得特征点在终端的摄像机坐标系下的位置信息;进而根据位置信息和透视成像原理,采用相应的公式计算获得三维信息的展示位置,最终将三维信息叠加显示在图像数据中。该方式中,通过终端虚拟地将三维信息贴合至信息展示载体上进行显示,可以多维度地展示三维信息,提高了信息展示的灵活性和多样性。
实施例三:
参见图3所示的第三种三维信息展示方法的流程图;该方法在实施例一或实施例二中提供的三维信息展示方法基础上实现;该方法中,以信息展示载体为建筑物为例,进行说明;该方法包括如下步骤:
步骤S302,检测开始时,摄像头采集第一帧图像;利用预先构建的分类器对采集图像进行识别,获取建筑物的名称和其在建筑物模型数据库中的代号。
步骤S304,根据以上识别过程获取的建筑物代号,在建筑物模型库中检索三维或者二维模型加载进检测程序之中。
上述步骤S302和步骤S304,该本实施例的方法流程中,仅执行一次。
步骤S306,在线检测开始,对摄像头采集的每幅图像执行识别获取建筑物所在的图像区域。该识别过程中,使用的分类器可以由多层神经网络训练而得。
步骤S308,对获取的图形区域执行特征点检测获得区域中特征点的图像坐标。该检测过程中,使用的检测器由语义识别训练获得。
步骤S310,基于预先加载的建筑物的三维或二维模型(该模型中包括建筑物特征点的二维或三维坐标)与上述步骤中实时获取的特征点的图像坐标,根据计算机视觉原理,计算出建筑物特征点在摄像机坐标系下的位置。该步骤S310相当于上述步骤S210,采用的相关公式参见上述实施例二中步骤S210实现时采用的公式。
步骤S312,根据透视成像原理,以及摄像机内参数矩阵可以计算出透视成像矩阵;该步骤S312相当于上述步骤S212,采用的相关公式参见上述实施例二中步骤S212实现时采用的公式。
基于以上透视关系和特征点在摄像机坐标系下的位置,就可以推测出与建筑物具有相同透视成像变换的虚拟场景在摄像机图像上的位置。根据透视成像规则,就可以实时的叠加虚拟信息在建筑物场景之上。
参见图4所示的一种三维信息展示方法的展示效果示意图;
例如,用户A对该楼宇绑定了一个三维信息,该三维信息为“AM”字样,并指定用户B接收该三维信息;当用户B通过移动终端采集该楼宇的图像数据时,通过上述步骤,可以将三维信息“AM”叠加显示在图像数据中;且,三维信息“AM”虚拟地贴合在了楼宇的楼身上。
本发明实施例提供的一种三维信息展示方法,通过智能手机摄像头或AR设备扫描特定建筑物后,进行建筑物物体识别和图像识别;识别后,叠加虚拟场景,并贴合到建筑物上,提供了一种三维信息展示的方式;该方式中,通过移动终端,将三维信息虚拟地显示在建筑物上,相对于显示在实际建筑物上,大大减少了成本;进一步地,方法可以显示定制化的三维信息,包括商户广告信息,私人告白信息、留言等;还可以设置信息的显示范围,例如,指定用户,指定范围内的用户(例如,朋友圈)等,增加了广告投放方法,节约了广告投放成本,同时也拓展了社交新方法。
实施例四:
对应于上述方法实施例,参见图5所示的一种三维信息展示装置的结构示意图;该装置包括如下部分:
采集模块50,用于通过终端采集信息展示载体的图像数据;
检测模块51,用于采用预设的检测模型,检测图像数据中,信息展示载体的特征点;其中,预设的检测模型通过对信息展示载体的多个图像数据进行机器学习后获得;
第一确定模块52,用于根据预先获取的信息展示载体的理想模型,以及信息展示载体的特征点,确定特征点在终端的摄像机坐标系下的位置信息;
第二确定模块53,用于根据位置信息和终端的摄像参数,确定三维信息的展示位置;
显示模块54,用于根据展示位置,将三维信息叠加显示在图像数据中。
进一步地,上述检测模块中,预设的检测模型,具体通过下述方式获得:获取图像数据集合;其中,图像数据集合包括多个信息展示载体的图像数据;每个信息展示载体对应多个图像数据;采用多层神经网络技术训练图像数据集合,生成图像区域检测器;采用语义识别技术训练图像数据集合,生成特征点识别器。
本发明实施例提供的一种三维信息展示装置,当终端采集信息展示载体的图像数据后,采用预设的检测模型,检测图像数据中信息展示载体的特征点;再根据信息展示载体的理想模型和该特征点,确定特征点在终端的摄像机坐标系下的位置信息;进而根据位置信息和终端的摄像参数,确定三维信息的展示位置,最终将三维信息叠加显示在图像数据中。该方式中,通过终端虚拟地将三维信息贴合至信息展示载体上进行显示,可以多维度地展示三维信息,提高了信息展示的灵活性和多样性。
本发明实施例还提供了一种移动终端,如图6所示,为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例方法部分。该移动终端可以为包括移动终端、平板电脑、POS(Point of Sales,销售终端)、车载电脑、智能穿戴设备等任意移动终端。
图6示出了一种本发明实施例提供的移动终端的结构框图。如图6所示,该移动终端100包括:射频(Radio Frequency,RF)电路110、存储器120、输入单元130、显示单元140、传感器150、音频电路160、无线保真(wireless fidelity,WiFi)模块170、处理器180、以及电源190等部件。本领域技术人员可以理解,图6中示出的移动终端100结构并不构成对移动终端100的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图6对移动终端100的各个构成部件进行具体的介绍:
RF电路110可用于收发信息或通话过程中,信号的接收和发送,特别地,将基站的下行信息接收后,给处理器180处理;另外,将设计上行的数据发送给基站。通常,RF电路110包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(Low NoiseAmplifier,LNA)、双工器等。此外,RF电路110还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于全球移动通讯系统(GlobalSystem of Mobile communication,GSM)、通用分组无线服务(General Packet RadioService,GPRS)、码分多址(Code Division Multiple Access,CDMA)、宽带码分多址(Wideband Code Division Multiple Access,WCDMA)、长期演进(Long Term Evolution,LTE)、电子邮件、短消息服务(Short Messaging Service,SMS)等。
存储器120可用于存储软件程序以及模块,如本发明实施例中的控制数据接收模式的方法和装置对应的程序指令/模块,处理器180通过运行存储在存储器120的软件程序以及模块,从而执行移动终端100的各种功能应用以及数据处理,如本发明实施例提供的控制数据接收模式的方法。存储器120可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据移动终端100的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元130可用于接收输入的数字或字符信息,以及产生与移动终端100的用户设置以及功能控制有关的键信号输入。具体地,输入单元130可包括触控面板131以及其他输入设备132。触控面板131,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板131上或在触控面板131附近的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板131可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器180,并能接收处理器180发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板131。除了触控面板131,输入单元130还可以包括其他输入设备132。具体地,其他输入设备132可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元140可用于显示由用户输入的信息或提供给用户的信息以及移动终端100的各种菜单。显示单元140可包括显示面板141,可选的,可以采用液晶显示器(LiquidCrystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板141。进一步的,触控面板131可覆盖显示面板141,当触控面板131检测到在其上或附近的触摸操作后,传送给处理器180以确定触摸事件的类型,随后处理器180根据触摸事件的类型做处理。虽然在图6中,触控面板131与显示面板141是作为两个独立的部件来实现移动终端100的输入和输入功能,但是在某些实施例中,可以将触控面板131与显示面板141集成而实现移动终端100的输入和输出功能。
移动终端100还可包括至少一种传感器150,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板141的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板141和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别移动终端100姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于移动终端100还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
音频电路160、扬声器161,传声器162可提供用户与移动终端100之间的音频接口。音频电路160可将接收到的音频数据转换后的电信号,传输到扬声器161,由扬声器161转换为声音信号输出;另一方面,传声器162将收集的声音信号转换为电信号,由音频电路160接收后转换为音频数据,再将音频数据输出处理器180处理后,经RF电路110以发送给比如另一移动终端100,或者将音频数据输出至存储器120以便进一步处理。
WiFi属于短距离无线传输技术,移动终端100通过WiFi模块170可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图6示出了WiFi模块170,但是可以理解的是,其并不属于移动终端100的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
处理器180是移动终端100的控制中心,利用各种接口和线路连接整个移动终端100的各个部分,通过运行或执行存储在存储器120内的软件程序和/或模块,以及调用存储在存储器120内的数据,执行移动终端100的各种功能和处理数据,从而对移动终端100进行整体监控。可选的,处理器180可包括一个或多个处理单元;优选的,处理器180可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器180中。
移动终端100还包括给各个部件供电的电源190(比如电池),优选的,电源可以通过电源管理系统与处理器180逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
可以理解,图6所示的结构仅为示意,移动终端100还可包括比图6中所示更多或者更少的组件,或者具有与图6所示不同的配置。图6中所示的各组件可以采用硬件、软件或其组合实现。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
Claims (10)
1.一种三维信息展示方法,其特征在于,包括:
通过终端采集信息展示载体的图像数据;
采用预设的检测模型,检测所述图像数据中,所述信息展示载体的特征点;其中,所述预设的检测模型通过对所述信息展示载体的多个图像数据进行机器学习后获得;
根据预先获取的所述信息展示载体的理想模型,以及所述信息展示载体的特征点,确定所述特征点在所述终端的摄像机坐标系下的位置信息;
根据所述位置信息和所述终端的摄像参数,确定三维信息的展示位置;
根据所述展示位置,将所述三维信息叠加显示在所述图像数据中。
2.根据权利要求1所述的方法,其特征在于,所述预设的检测模型,具体通过下述方式获得:
获取图像数据集合;其中,所述图像数据集合包括多个信息展示载体的图像数据;每个所述信息展示载体对应多个图像数据;
采用多层神经网络技术训练所述图像数据集合,生成图像区域检测器;
采用语义识别技术训练所述图像数据集合,生成特征点识别器。
3.根据权利要求2所述的方法,其特征在于,所述采用预设的检测模型,检测所述图像数据中,所述信息展示载体的特征点的步骤,包括:
通过所述图像区域检测器,检测所述图像数据中,所述信息展示载体的分布区域;
通过所述特征点识别器,识别所述分布区域中,所述信息展示载体的特征点。
4.根据权利要求1所述的方法,其特征在于,所述信息展示载体的理想模型,通过下述方式获得:
通过预先生成的分类器,识别所述图像数据中,所述信息展示载体的标识;
从预先建立的模型库中,查找所述标识对应的所述信息展示载体的理想模型;其中,所述模型库中包含所述信息展示载体的二维模型或三维模型;所述信息展示载体的二维模型或三维模型中包含所述信息展示载体的相应维度的特征点。
5.根据权利要求4所述的方法,其特征在于,所述根据预先获取的所述信息展示载体的理想模型,以及所述信息展示载体的特征点,确定所述特征点在所述终端的摄像机坐标系下的位置信息的步骤,包括:
通过公式:
<mrow>
<mi>s</mi>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>c</mi>
<mn>1</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>c</mi>
<mn>2</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>1</mn>
</mtd>
</mtr>
</mtable>
</mfenced>
<mo>=</mo>
<mi>K</mi>
<mo>&lsqb;</mo>
<mi>R</mi>
<mo>|</mo>
<mi>T</mi>
<mo>&rsqb;</mo>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>m</mi>
<mn>1</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>m</mi>
<mn>2</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>m</mi>
<mn>3</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>1</mn>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
计算获得所述理想模型中的特征点与所述图像数据中的特征点的转换矩阵R和转换矩阵T;其中,Pm=[pm1 pm2 pm3 1]′为所述理想模型中的特征点对应的坐标矩阵;Pc=[pc1 pc21]′为所述图像数据中的特征点对应的坐标矩阵;s为尺度因子;K为所述终端中摄像机的参数矩阵;fx为摄像机焦距与物理像素点宽度的比值;fy为摄像机焦距与物理像素点高度的比值;λ为摄像机物理像素点的错切系数;dx和dy为图像坐标系中心转换系数;
通过公式:
<mrow>
<mi>k</mi>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>c</mi>
<mi>e</mi>
<mn>1</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>c</mi>
<mi>e</mi>
<mn>2</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>c</mi>
<mi>e</mi>
<mn>3</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>1</mn>
</mtd>
</mtr>
</mtable>
</mfenced>
<mo>=</mo>
<mo>&lsqb;</mo>
<mi>R</mi>
<mo>|</mo>
<mi>T</mi>
<mo>&rsqb;</mo>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>m</mi>
<mn>1</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>m</mi>
<mn>2</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<msub>
<mi>p</mi>
<mrow>
<mi>m</mi>
<mn>3</mn>
</mrow>
</msub>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>1</mn>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
获得所述特征点在所述终端的摄像机坐标系下的位置信息;其中,所述摄像机坐标系下的位置信息对应的矩阵坐标为Pce=[pce1 pce2 pce3 1]′;k为比例因子。
6.根据权利要求5所述的方法,其特征在于,所述根据所述位置信息和所述终端的摄像参数,确定三维信息的展示位置的步骤,包括:
通过公式:
<mrow>
<mi>P</mi>
<mi>e</mi>
<mi>r</mi>
<mo>=</mo>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<mfrac>
<mrow>
<mn>2</mn>
<msub>
<mi>f</mi>
<mi>x</mi>
</msub>
</mrow>
<mi>w</mi>
</mfrac>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mrow>
<mn>1</mn>
<mo>-</mo>
<mfrac>
<mrow>
<mn>2</mn>
<msub>
<mi>d</mi>
<mi>x</mi>
</msub>
</mrow>
<mi>w</mi>
</mfrac>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mfrac>
<mrow>
<mn>2</mn>
<msub>
<mi>f</mi>
<mi>y</mi>
</msub>
</mrow>
<mi>h</mi>
</mfrac>
</mtd>
<mtd>
<mrow>
<mfrac>
<mrow>
<mn>2</mn>
<msub>
<mi>d</mi>
<mi>y</mi>
</msub>
</mrow>
<mi>h</mi>
</mfrac>
<mo>-</mo>
<mn>1</mn>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mrow>
<mo>-</mo>
<mfrac>
<mrow>
<mi>f</mi>
<mo>+</mo>
<mi>n</mi>
</mrow>
<mrow>
<mi>f</mi>
<mo>-</mo>
<mi>n</mi>
</mrow>
</mfrac>
</mrow>
</mtd>
<mtd>
<mrow>
<mo>-</mo>
<mfrac>
<mrow>
<mn>2</mn>
<mi>f</mi>
<mi>n</mi>
</mrow>
<mrow>
<mi>f</mi>
<mo>-</mo>
<mi>n</mi>
</mrow>
</mfrac>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
计算获得透视成像矩阵Per;其中,w和h分别为终端屏幕分辨率的宽度和高度;f为透视视锥体距透视成像中心的最远距离;n为透视视锥体距透视成像中心的最近距离;
通过所述透视成像矩阵Per和所述位置信息,计算获得三维信息的展示位置。
7.一种三维信息展示装置,其特征在于,包括:
采集模块,用于通过终端采集信息展示载体的图像数据;
检测模块,用于采用预设的检测模型,检测所述图像数据中,所述信息展示载体的特征点;其中,所述预设的检测模型通过对所述信息展示载体的多个图像数据进行机器学习后获得;
第一确定模块,用于根据预先获取的所述信息展示载体的理想模型,以及所述信息展示载体的特征点,确定所述特征点在所述终端的摄像机坐标系下的位置信息;
第二确定模块,用于根据所述位置信息和所述终端的摄像参数,确定三维信息的展示位置;
显示模块,用于根据所述展示位置,将所述三维信息叠加显示在所述图像数据中。
8.根据权利要求7所述的装置,其特征在于,所述检测模块中,所述预设的检测模型,具体通过下述方式获得:
获取图像数据集合;其中,所述图像数据集合包括多个信息展示载体的图像数据;每个所述信息展示载体对应多个图像数据;
采用多层神经网络技术训练所述图像数据集合,生成图像区域检测器;
采用语义识别技术训练所述图像数据集合,生成特征点识别器。
9.一种移动终端,其特征在于,包括处理器和存储器,所述存储器用于存储支持处理器执行权利要求1至6任意一项所述方法的程序,所述处理器被配置为用于执行所述存储器中存储的程序。
10.一种计算机存储介质,其特征在于,用于储存为权利要求7至8任意一项所述的装置所用的计算机软件指令。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710668444.6A CN107464290A (zh) | 2017-08-07 | 2017-08-07 | 三维信息展示方法、装置和移动终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710668444.6A CN107464290A (zh) | 2017-08-07 | 2017-08-07 | 三维信息展示方法、装置和移动终端 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107464290A true CN107464290A (zh) | 2017-12-12 |
Family
ID=60548506
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710668444.6A Pending CN107464290A (zh) | 2017-08-07 | 2017-08-07 | 三维信息展示方法、装置和移动终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107464290A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108198044A (zh) * | 2018-01-30 | 2018-06-22 | 北京京东金融科技控股有限公司 | 商品信息的展示方法、装置、介质及电子设备 |
CN108711188A (zh) * | 2018-02-24 | 2018-10-26 | 石化盈科信息技术有限责任公司 | 一种基于ar的工厂实时数据展示方法及系统 |
CN108765575A (zh) * | 2018-02-24 | 2018-11-06 | 石化盈科信息技术有限责任公司 | 一种基于ar的工业设备图鉴展示方法和系统 |
CN109164909A (zh) * | 2018-07-03 | 2019-01-08 | 南京冉耀雨庆信息科技有限公司 | 基于虚拟现实技术的数据处理装置、系统和方法 |
CN109885783A (zh) * | 2019-01-17 | 2019-06-14 | 广州城投发展研究院有限公司 | 一种三维建筑模型的加载方法及其装置 |
CN109961502A (zh) * | 2017-12-25 | 2019-07-02 | 国民技术股份有限公司 | 路况显示方法、设备、驱动装置及计算机可读存储介质 |
CN110021062A (zh) * | 2018-01-08 | 2019-07-16 | 佛山市顺德区美的电热电器制造有限公司 | 一种产品特征的获取方法及终端、存储介质 |
CN111127669A (zh) * | 2019-12-30 | 2020-05-08 | 北京恒华伟业科技股份有限公司 | 一种信息处理方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102646275A (zh) * | 2012-02-22 | 2012-08-22 | 西安华旅电子科技有限公司 | 通过跟踪和定位算法实现虚拟三维叠加的方法 |
CN102831401A (zh) * | 2012-08-03 | 2012-12-19 | 樊晓东 | 对无特定标记目标物体跟踪、三维叠加及交互的方法及系统 |
CN104966318A (zh) * | 2015-06-18 | 2015-10-07 | 清华大学 | 具有图像叠加和图像特效功能的增强现实方法 |
CN105488541A (zh) * | 2015-12-17 | 2016-04-13 | 上海电机学院 | 增强现实系统中基于机器学习的自然特征点识别方法 |
CN106251405A (zh) * | 2016-07-26 | 2016-12-21 | 北京奇虎科技有限公司 | 增强现实的方法和终端 |
-
2017
- 2017-08-07 CN CN201710668444.6A patent/CN107464290A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102646275A (zh) * | 2012-02-22 | 2012-08-22 | 西安华旅电子科技有限公司 | 通过跟踪和定位算法实现虚拟三维叠加的方法 |
CN102831401A (zh) * | 2012-08-03 | 2012-12-19 | 樊晓东 | 对无特定标记目标物体跟踪、三维叠加及交互的方法及系统 |
CN104966318A (zh) * | 2015-06-18 | 2015-10-07 | 清华大学 | 具有图像叠加和图像特效功能的增强现实方法 |
CN105488541A (zh) * | 2015-12-17 | 2016-04-13 | 上海电机学院 | 增强现实系统中基于机器学习的自然特征点识别方法 |
CN106251405A (zh) * | 2016-07-26 | 2016-12-21 | 北京奇虎科技有限公司 | 增强现实的方法和终端 |
Non-Patent Citations (4)
Title |
---|
吴帆 等: "增强现实技术发展及应用综述", 《电脑知识与技术》 * |
杜媛媛: "基于增强现实的虚拟旅游平台设计与开发", 《中国优秀硕士学位论文全文数据库信息科技辑(月刊)》 * |
杨旺功 等: "基于增强现实技术的移动广告应用设计与实现", 《北京印刷学院学报》 * |
温洪念 等: "移动增强现实关键技术综述", 《石家庄铁路职业技术学院学报》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109961502A (zh) * | 2017-12-25 | 2019-07-02 | 国民技术股份有限公司 | 路况显示方法、设备、驱动装置及计算机可读存储介质 |
CN110021062A (zh) * | 2018-01-08 | 2019-07-16 | 佛山市顺德区美的电热电器制造有限公司 | 一种产品特征的获取方法及终端、存储介质 |
CN110021062B (zh) * | 2018-01-08 | 2024-05-10 | 佛山市顺德区美的电热电器制造有限公司 | 一种产品特征的获取方法及终端、存储介质 |
CN108198044A (zh) * | 2018-01-30 | 2018-06-22 | 北京京东金融科技控股有限公司 | 商品信息的展示方法、装置、介质及电子设备 |
CN108711188A (zh) * | 2018-02-24 | 2018-10-26 | 石化盈科信息技术有限责任公司 | 一种基于ar的工厂实时数据展示方法及系统 |
CN108765575A (zh) * | 2018-02-24 | 2018-11-06 | 石化盈科信息技术有限责任公司 | 一种基于ar的工业设备图鉴展示方法和系统 |
CN109164909A (zh) * | 2018-07-03 | 2019-01-08 | 南京冉耀雨庆信息科技有限公司 | 基于虚拟现实技术的数据处理装置、系统和方法 |
CN109164909B (zh) * | 2018-07-03 | 2022-03-08 | 南京冉耀雨庆信息科技有限公司 | 基于虚拟现实技术的数据处理装置、系统和方法 |
CN109885783A (zh) * | 2019-01-17 | 2019-06-14 | 广州城投发展研究院有限公司 | 一种三维建筑模型的加载方法及其装置 |
CN111127669A (zh) * | 2019-12-30 | 2020-05-08 | 北京恒华伟业科技股份有限公司 | 一种信息处理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107464290A (zh) | 三维信息展示方法、装置和移动终端 | |
CN108537889A (zh) | 增强现实模型的调整方法、装置、存储介质和电子设备 | |
CN109213728A (zh) | 基于增强现实的文物展示方法及系统 | |
CN107835367A (zh) | 一种图像处理方法、装置及移动终端 | |
CN110472145A (zh) | 一种内容推荐方法和电子设备 | |
CN108647957A (zh) | 一种支付方法、装置及移动终端 | |
CN111582116B (zh) | 一种视频抹除痕迹检测方法、装置、设备和存储介质 | |
CN106713840B (zh) | 虚拟信息显示方法及装置 | |
CN107871011A (zh) | 图像处理方法、装置、移动终端及计算机可读存储介质 | |
CN107590463A (zh) | 人脸识别方法及相关产品 | |
CN108628985B (zh) | 一种相册的处理方法及移动终端 | |
CN107817939A (zh) | 一种图像处理方法及移动终端 | |
CN106648118A (zh) | 一种基于增强现实的虚拟教学方法与终端设备 | |
CN108132752A (zh) | 一种文本编辑方法及移动终端 | |
CN107831989A (zh) | 一种应用程序参数调整方法及移动终端 | |
CN107734260A (zh) | 一种图像处理方法及移动终端 | |
CN108229574A (zh) | 一种图片筛选的方法、装置和移动终端 | |
CN108170817A (zh) | 照片主体的演变视频获取方法、装置及可读存储介质 | |
CN107911812A (zh) | 优选公共陆地移动网络pplmn列表调整方法及移动终端 | |
CN108596095A (zh) | 一种信息处理方法及移动终端 | |
CN108462826A (zh) | 一种辅助拍照的方法及移动终端 | |
CN107864336A (zh) | 一种图像处理方法、移动终端 | |
CN104915625B (zh) | 一种人脸识别的方法及装置 | |
CN108460817A (zh) | 一种拼图方法及移动终端 | |
CN107734172A (zh) | 一种信息显示方法及移动终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171212 |
|
RJ01 | Rejection of invention patent application after publication |