CN107886387A - 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置 - Google Patents

采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置 Download PDF

Info

Publication number
CN107886387A
CN107886387A CN201610872093.6A CN201610872093A CN107886387A CN 107886387 A CN107886387 A CN 107886387A CN 201610872093 A CN201610872093 A CN 201610872093A CN 107886387 A CN107886387 A CN 107886387A
Authority
CN
China
Prior art keywords
palm
image
virtual image
finger
ornament
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610872093.6A
Other languages
English (en)
Inventor
谭建国
张洁
闫晓亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201610872093.6A priority Critical patent/CN107886387A/zh
Priority to PCT/CN2017/102044 priority patent/WO2018059258A1/zh
Publication of CN107886387A publication Critical patent/CN107886387A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种采用增强现实技术提供手掌装饰虚拟图像的实现方法,以及一种采用增强现实技术提供手掌装饰虚拟图像的实现装置。所述采用增强现实技术提供手掌装饰虚拟图像的实现方法包括:获取手掌图像;根据所述手掌图像确定该图像中手掌的手掌特征位置;根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;通过显示设备将所述手掌装饰虚拟图像显示出来。采用上述方法,解决现有技术下真实的手掌和虚拟的手掌装饰物不能实时地叠加到同一个画面的问题。

Description

采用增强现实技术提供手掌装饰虚拟图像的实现方法及其 装置
技术领域
本发明涉及模拟仿真技术领域,具体涉及一种采用增强现实技术提供手掌装饰虚拟图像的实现方法及装置。
背景技术
随着互联网的飞速发展,网络购物已经渗透到人们的生活,淘宝、天猫等网络购物平台已经家喻户晓。通过网络购买手镯、戒指等手掌装饰物的用户也日益增多,但是用户并不知道自己戴上某个手掌装饰物后的效果。因此需要一种将现实中的手掌、手指、手腕与屏幕中的手掌装饰物结合起来展示试戴效果的技术。
AR(Augmented Reality)增强现实技术,它是一种将真实世界信息和虚拟世界信息“无缝”集成的新技术,是把原本在现实世界的一定时间空间范围内很难体验到的实体信息(视觉信息、声音、味道、触觉等),通过电脑等科学技术,模拟仿真后再叠加,将虚拟的信息应用到真实世界,被人类感官所感知,从而达到超越现实的感官体验。真实的环境和虚拟的物体实时地叠加到了同一个画面或空间同时存在。
利用增强现实技术为潜在买家的提供手掌装饰物佩戴在其真实手掌上的展示效果,成为一个解决网络购物中手掌装饰物试戴的可能方案;然而,在该具体场景下,如何结合手掌的特点实现手掌和手掌装饰物在画面上的实时叠加,现有技术并未提供可行的方案。
发明内容
本发明提供一种采用增强现实技术提供手掌装饰虚拟图像的实现方法及装置,以解决现有技术下,真实的手掌和虚拟的手掌装饰物不能实时地叠加到同一个画面的问题。
本申请实施例提供了一种采用增强现实技术提供手掌装饰虚拟图像的实现方法,所述方法包括:
获取手掌图像;
根据所述手掌图像确定该图像中手掌的手掌特征位置;
根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;
通过显示设备将所述手掌装饰虚拟图像显示出来。
可选的,在所述获取手掌图像的步骤之前,包括:
获取图像;
判断所述图像中是否有手掌;若是,将所述图像中的手掌图像从图像中分离出来;若否,返回获取图像的步骤。
可选的,所述获取图像,包括:
通过移动终端的摄像头采集获取。
可选的,所述判断所述图像中是否有手掌,采用如下方法实现:
通过采用机器学习方法训练获得的分类器对所述图像是否有手掌进行判断。
可选的,所述机器学习方法,包括以下方法的至少一种:
Hog-svm学习、Haaris角点学习、Haar LBP级联分类器学习以及神经网络学习。
可选的,所述将所述图像中的手掌图像从图像中分离出来的方法,包括以下方法的至少一种:
最大类间方差法、肤色检测法。
可选的,所述手掌的特征位置,包括:
所述手掌的掌心位置,所述手掌中的手腕位置和手指位置。
可选的,确定所述手掌的掌心位置,包括:
采用几何重心的方法或采用手指角点特征点的方法。
可选的,所述手指的位置,包括:
所述手掌中五个手指的位置。
可选的,确定所述手指的位置,包括:
确定手指的方向线和手指线。
可选的,所述手指的位置,包括:
所述手指的指尖的位置、所述手指根部的位置、手指的中心点。
可选的,确定所述手指的指尖的位置,包括:
所述手指与所述掌心位置距离最远的肤色点。
可选的,确定所述手指根部的位置,包括:
以掌心为中心从小到大画同心圆,肤色角小于五度的部分为所述手指根部。
可选的,确定所述手指的中心点,采用如下方式确定:
以所述掌心为中心画同心圆,外接同心圆和内接同心圆在所述手指方向上同肤色交点的中心位置。
可选的,确定所述手掌中的手腕位置,包括:
以掌心为中心画同心圆,当同心圆同所述手掌的肤色夹角大于10度,同时小于40度,同心圆同所述手掌该部分接触的区域是所述手掌中的手腕,所述手腕的方向是从所述手掌中心指向相交弧的中点的方向。
可选的,所述手掌中的手腕位置,包括:
所述手腕的中心点。
可选的,确定所述手腕的中心点,采用如下方法:
以所述掌心为中心画同心圆,外接同心圆和内接同心圆在手腕方向上同肤色交点的中心位置。
可选的,所述手掌图像上与该手掌装饰物相匹配的位置,包括:
所述手掌的手指的中心点或手腕的中心点或手指的指甲的中心点。
可选的,所述预定的手掌装饰物的虚拟图像,包括:
从网络中获得。
可选的,在所述根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤之前,还包括:
判断所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置是否相符;若是,则进入根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤;若否,则重新获得手掌装饰物的虚拟图像。
可选的,在所述根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤之后,还包括:
将所述手掌装饰虚拟图像进行存储。
本申请实施例还提供了一种采用增强现实技术提供手掌装饰虚拟图像的实现装置,所述装置包括:
获取单元,用于获取手掌图像;
确定单元,用于根据获取单元获取的所述手掌图像确定该图像中手掌的手掌特征位置;
叠加单元,用于根据确定单元所确定的所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;
显示单元,用于通过显示设备将通过叠加单元获得的所述手掌装饰虚拟图像显示出来。
与现有技术相比,本发明具有以下优点:
目前,现有技术中没有采用增强现实的技术,在真实的环境下完成虚拟的手掌装饰物佩戴。
本发明提供一种采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,包括:获取手掌图像;根据所述手掌图像确定该图像中手掌的手掌特征位置;根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;通过显示设备将所述手掌装饰虚拟图像显示出来。
本发明提供的采用增强现实技术提供手掌装饰虚拟图像的实现方法,首先确定所述手掌图像中手掌的手掌特征位置,然后根据所述手掌特征位置,将所述手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上。本技术方案,将虚拟的手掌妆饰物采用增强现实的方法虚拟地佩戴在了与用户的手掌相匹配的位置上,实现了在真实的环境下完成虚拟的手掌装饰物佩戴;此外,通过显示设备将所述手掌装饰虚拟图像显示出来,用户就可以非常直观地看到现实的手掌佩戴虚拟的手掌装饰物的效果,达到试戴试玩的效果。
附图说明
图1是本申请第一实施例提供的一种采用增强现实技术提供手掌装饰虚拟图像的实现方法的流程图。
图2是本申请第二实施例提供的一种采用增强现实技术提供手掌装饰虚拟图像的实现装置的示意图。
具体实施方式
为了能够更清楚地理解本申请的上述目的、特征和优点,下面结合附图和具体实施方式对本申请进行进一步的详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是,本申请能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此,本申请不受下面公开的具体实施的限制。
本申请第一实施例提供了一种采用增强现实技术提供手掌装饰虚拟图像的实现方法。请参考图1,其示出了根据本申请的实施例提供的采用增强现实技术提供手掌装饰虚拟图像的实现方法的流程图。以下结合图1进行详细说明。
步骤S101,获取手掌图像。
本步骤的目的是为了后续步骤中根据所述手掌图像确定该图像中手掌的手掌特征位置提供前提条件。
所述手掌图像,是从实际包含手掌的图像中分离出来的只包含手掌的图像;该手掌图像在所述手掌装饰虚拟图像中使用,是增强现实图像中的现实图像。
如前所述,所述手掌图像是从包含手掌的图像中分离出来的;所述图像包含任意一种可能被提供的图像。对于任意图像,需要做出如下处理。
首先,需要分辨图像中是否包含手掌图像,这是进行分离处理的前提;其次,需要将所述手掌图像从原始图像中分离出来。以下分别说明。
分辨图像中是否包含手掌图像的步骤在所述获取手掌图像的步骤之前执行,具体步骤包括:获取图像;判断所述图像中是否有手掌;若是,将所述图像中的手掌图像从图像中分离出来;若否,返回获取图像的步骤。
本步骤目的是实现在获取手掌图像之前,需要先获取包含手掌的图像,然后将手掌从背景图像中分离出来。只有通过判断所述图像中是否包含手掌,才能确定所述手掌是否存在。只有所述获取图像中包含所述手掌,才能进行后续步骤,如果所述手掌不存在,则需重新去获取图像。
所述获取图像的方式很多,结合具体的使用场景,即买家将自己的手掌作为增强现实方法中的手掌,则可以采取如下获取图像的方式,即:通过移动终端的摄像头采集获取。
所述移动终端,包括:手机或平板电脑。
由于现在的手机或平板电脑都带有摄像头,而且能够上网浏览购物网站,所以手机或平板电脑作为移动终端获取包含手掌的图像非常合适。
本实施例中,所述包含手掌的图像,可以是通过手机摄像头采集的一帧带有手掌的图像,采集之后将所述图像显示设备上显示出来,用户就可以非常直观地看到手掌的样子,并进一步可以看到试戴手掌妆饰物的效果。
所述判断所述图像中是否有手掌,采用如下方法实现:通过采用机器学习方法训练获得的分类器对所述图像是否有手掌进行判断。
所述机器学习方法,包括以下方法的至少一种:Hog-svm学习、Haaris角点学习、Haar LBP级联分类器学习以及神经网络学习。
采用机器学习方法训练获得分类器的过程简要说明如下。
采集各种肤色,各种手型手掌的正样本,同时采集各种场景不包括手掌的负样本,将这些材料作为训练材料,提供给采用上述Hog-svm学习,Haaris角点学习,Haar LBP级联分类器学习,以及神经网络学习等方式构造的分类器初始模型进行学习,学习之后的结果形成一个训练后的分类器,该训练后的分类器即可用于区分一张图片中是否存在手掌。训练后的分类器的准确度是可以随着训练材料的增加而不断改进的;可以使用的分类器必须是经过验证准确度达到要求的阈值的分类器。
上述分辨图像中是否包含手掌图像的步骤完成后,对于被选出的包含手掌图像的图像,还需要进一步执行所述将所述手掌图像从原始图像中分离出来的步骤。所述将所述图像中的手掌图像从图像中分离出来的方法,包括以下方法的至少一种:最大类间方差法、肤色检测法。
最大类间方差法是由日本学者大津(Nobuyuki Otsu)于1979年提出的,是一种自适应的阈值确定的方法,又叫大津法,简称OTSU。它是按图像的灰度特性,将图像分成背景和目标两部分。背景和目标之间的类间方差越大,说明构成图像的两部分的差别越大,当部分目标错分为背景或部分背景错分为目标都会导致两部分差别变小。因此,使类间方差最大的分割意味着错分概率最小。采用这种方法,可以将作为完整图像的手掌与图像中的背景区别开来。
肤色检测法是指:人的皮肤分布在颜色空间中的一个范围内,皮肤颜色不同反映了颜色的强度,在一定光照条件下肤色经过归一化后满足高斯分布,因此可利用这一特性将图像分割为皮肤区域和非皮肤区域。通过肤色检测法可以将具有皮肤的目标对象与背景分离开。
使用肤色检测法将手掌图像从背景对象中提取出来的过程:首先将图像的色彩空间从RGB转换到HSV,H代表的是色调,S代表是饱和度,V代表是明度。在HSV颜色空间中可以减少光线强弱对于结果的影响。设定肤色色调H对应值的范围RH,饱和度S对应值的范围RS,图片ROI区域中满足色调在RH范围且饱和度在RS范围内的像素,认为是皮肤;然后利用形态学膨胀和腐蚀图像处理方法去除虚点和噪点。肤色的部分,灰度置为白色,非肤色部分,灰度置为黑色,即可把手掌提取出来。
例如,当用户通过手机浏览淘宝网页上的戒指时,看到了喜欢的一款,想进行试戴,就需要通过手机的摄像头实时进行图像采集,采用机器学习方法训练获得的分类器对所述图像是否有手掌进行判断,如果用户采集到的所述图像中有手掌,则进行分离手掌图像的步骤;如果用户采集到的所述图像中没有手掌,则需重新采集,直到获取包含手掌的图像为止。
步骤S102,根据所述手掌图像确定该图像中手掌的手掌特征位置。
本步骤目的是确定所述手掌图像中手掌的手掌特征位置,因为手掌妆饰物要虚拟地佩戴在手掌的某一位置上,所以需要根据所述手掌图像确定该图像中手掌的手掌特征位置。只有确定了所述手掌的手掌特征位置,才能确定所述手掌图像上与该手掌装饰物相匹配的位置。
所述手掌的特征位置可以根据不同的要求,采用各种可能的位置;所述特征位置的具体程度,也可以根据需求确定。例如可以包括:所述手掌的掌心位置,所述手掌中的手腕位置和手指位置。当然,所述特征位置也可以具体到手指中的第一关节点、第二关节点或者手指根部等这样的位置。总之,只要这些位置能够方便的确定佩戴手掌装饰物的具体位置即可。以下以手掌的掌心位置、手腕位置和手指位置作为手掌特征位置的情况,说明具体确定手掌的特征位置的方法。所述手掌的掌心位置,采用的确定方法,包括:采用几何重心的方法或采用手指角点特征点的方法。
采用几何重心的方法具体为:采用图像几何形状的0阶矩和1阶矩来计算出手掌的重心,以手掌的重心作为手掌的掌心。
在此简要说明采用0阶矩和1阶矩来计算出手掌的重心的方式。
0阶矩m00是图像灰度的总和,在二值图像中0阶矩表示对象物的面积;1阶矩m10水平方向一阶矩,m01竖直方向一阶矩,通过0阶矩来规格化1阶矩,就可以得到中心坐标(xG,yG)。
m00=∑∑f(i,j);m10=∑∑i*f(i,j);m01=∑∑j*f(i,j)
xG=m10/m00;yG=m01/m00。
上述公式中,(i,j)为像素点所在的坐标,f(i,j)为坐标点(i,j)的像素值。
采用手指角点特征点的方法特征点的计算:通过harris角点提取算法,提取食指同中指,中指同无名指,以及无名指同小拇指之间的3个特征点。利用三个特征点可以确定一个圆,圆的圆心作为手掌的掌心。
所述手指的位置,包括:所述手掌中五个手指的位置;确定所述手指的位置,包括:确定手指的方向线和手指线。
所述确定手指的方向线,采用如下方式。确定了手掌的掌心后,以掌心为中心画同心圆,从大到小,同一个手指只有一个点接触的同心圆为该手指的最大外接圆;沿掌心同外接圆的同手指的接触点画一条线,这条线就是手指的方向线。
所述手指线采用如下方式确定。以掌心为中心从小到大画同心圆,肤色角小于5度的为手指根部,同心圆同手指根部的相交弧的中点就是即为手指根部中点,连接手指根部中点和指尖的一条线,就可以得到手指线。
每个手指都有一条手指的方向线和手指线。可以根据手指方向线的相对位置来确定五个手指的位置,手指方向线居中的为中指,如果手掌图像为左手的手背,则从中指向左依次为无名指、小指,从中指向右依次为食指、拇指;如果手掌图像为左手的手心,则从中指向右依次为无名指、小指,从中指向左依次为食指、拇指;如果手掌图像为右手的手背,则从中指向右依次为无名指、小指,从中指向左依次为食指、拇指;如果手掌图像为右手的手心,则从中指向左依次为无名指、小指,左侧依次为食指、拇指;然后根据每个手指的手指线确定每个手指的具体位置。
分别确定出手掌中五个手指的位置,用户就可以指定将戒指等手掌妆饰物佩戴在哪个手指上。
确定所述手指的位置后,可以进一步确定每个手指内部的更具体的位置;包括:所述手指的指尖的位置、所述手指的根部位置、所述手指的中心点。
除了确定每个手指的位置,还需要更精确的特征位置,例如通过确定手指的指尖的位置、手指根部的位置以及手指的中心点,可以更准确地确定戒指等手掌妆饰物佩戴的位置;通过确定手指的指尖的位置,可以确定手指贴等手掌妆饰物叠加的位置。只有将手掌妆饰物的虚拟图像佩戴在最合适的位置上,才能更好的展现佩戴的效果,因此需要确定更精确的特征位置。
确定所述手指的指尖的位置,包括:所述手指与所述掌心位置距离最远的肤色点。
确定所述手指根部的位置,包括:以掌心为中心从小到大画同心圆,肤色角小于5度的部分为所述手指根部。肤色角的含义如下:在二值灰度图片中,肤色部分是灰度是255,非肤色部分灰度是0;从零跳变到255是非肤色同肤色的边界,该边界对应的角度是A;从255跳变到0是肤色同非肤色的边界,该边界对应的角度是B;沿着同心圆,从非肤色跳变到肤色,然后从肤色跳变到非肤色的夹角(B-A),即角度B减去角度A,该差值即为肤色角。上述肤色角小于5度的部分为手指根部的判断方法中,5度这个数值是经验数值,可以准确判断大多数情况,当然,可以根据实际情况进行调整。
确定所述手指的中心点,采用如下方式确定:以所述掌心为中心画同心圆,外接同心圆和内接同心圆在所述手指方向上同肤色交点的中心位置。
所述外接同心圆,指以手掌的掌心为中心,同手指指尖只有一个交点的圆。
所述内接同心圆,指以手掌的掌心为中心,半径小于外接同心圆的半径,同时同手指有交点的最内侧的圆。
所述确定所述手掌中的手腕位置,包括:以掌心为中心画同心圆,当同心圆上出现了4个肤色角时,其中,所述手掌的肤色角大于10度,同时小于40度的同心圆同所述手掌该部分接触的区域是所述手掌中的手腕,所述手腕的方向是从所述手掌中心指向相交弧的中点的方向。上述方法所述的4个肤色角,包括该同心圆和无名指、中指、食指以及和手腕形成的肤色角。通过同心圆和无名指、中指、食指相交,二不与大拇指、小拇指相交,可以确定该同心圆具有比较合适的直径,确保该同心圆与手腕具有交线。上述大于10度,小于40度的范围,是根据经验获得的数据,具体数值也可以根据情况进行适当调整。
根据需要,可以进一步确定所述手腕的中心点。
所述确定手腕的中心点,采用如下方法:以所述掌心为中心画同心圆,外接同心圆和内接同心圆在手腕方向上同肤色交点的中心位置。
获得手腕的中心点的特征位置,可以决定手腕上需要佩戴的手镯等手掌装饰物的位置。
步骤S103,根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像。
本步骤目的是根据所述手掌特征位置,确定所述手掌图像上与该手掌装饰物相匹配的位置,并将所述预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像。通过获得所述手掌装饰虚拟图像,实现了增强现实的效果,增强了用户的现实体验。
所述手掌图像上与该手掌装饰物相匹配的位置,包括:所述手掌的手指的中心点或手腕的中心点或手指的指甲的中心点。
当然,还可以包括其他适合佩戴手掌装饰物的位置。
所述手指的指甲的中点,为指向手指线方向相反的方向,距离所述手指的外接同心圆与指尖相接触的点5mm处的位置。
需要说明的是,所述手掌图像上与该手掌装饰物相匹配的位置的不同,基于所佩戴的手饰的种类不同。如果佩戴戒指之类的手掌装饰物,就叠加到手指的中心点;如果佩戴手镯、手环之类的手掌装饰物,就叠加到手腕的中心点;如果贴指甲贴之类的手掌装饰物,就叠加到指甲的中点。
具体的,所述预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上可以自动实现,也可以辅之以通过将所述手掌装饰物的虚拟图像进行平移、旋转后将其叠加到所述与该手掌装饰物相匹配的位置上。叠加之后,实现了增强现实的效果,用户可以看到试戴的效果。
所述预定的手掌装饰物的虚拟图像,可以是二维图像或三维图像,其中预定的手掌装饰物包括可以佩戴在手指上的装饰物、佩戴在手腕上的装饰物以及贴在指甲上的装饰物。
所述预定的手掌装饰物的虚拟图像,可以从网络中获得,也可以从移动终端的存储器中获得。
所述预定的手掌装饰物的虚拟图像从网络中获得,是指通过应用软件从网络的服务器的数据库下载所述手掌装饰物的虚拟图像到移动终端。
所述虚拟图像也可以是存储在移动终端的存储器的图像,是指用户在移动终端的存储空间内存有要试戴的所述预定的手掌装饰物的虚拟图像。
在所述根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤之前,还包括:判断所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置是否相符;若是,则进入根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤;若否,则重新获得手掌装饰物的虚拟图像。
本步骤目的通过判断所述虚拟图像的尺寸与要叠加虚拟图像的手指或手腕的尺寸是否相符,决定能不能将所述虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上。所述手指或手腕的尺寸,可以在通过摄像头拍摄包含手掌的图像时,在手掌边上放置标准尺寸的物体作为参照物而获得;也可以通过参数输入的方式直接输入手掌与佩戴饰物相关部位的尺寸获得。所述手掌装饰物的尺寸则可以从存储手掌装饰物图像的数据库中获得。
具体的,如果所述虚拟图像为佩戴在手指上的戒指等手掌装饰物,则比较所述虚拟图像的直径和叠加虚拟对象的位置处手指的直径,如果所述虚拟图像的直径小于叠加所述手掌图像上与该手掌装饰物相匹配的位置处手指的直径,则判断为所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置不相符;如果所述虚拟图像的直径大于或等于叠加所述手掌图像上与该手掌装饰物相匹配的位置处手指的直径,则判断为所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置相符;如果所述虚拟图像为佩戴在手腕上的手镯等手掌装饰物,则比较所述虚拟图像的直径和叠加虚拟对象的位置处手腕的宽度,如果所述虚拟图像的直径小于或等于叠加所述手掌图像上与该手掌装饰物相匹配的位置处手腕的宽度,则判断为所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置不相符;如果所述虚拟图像的直径大于叠加所述手掌图像上与该手掌装饰物相匹配的位置处手腕的宽度,则判断为所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置相符。
步骤S104,通过显示设备将所述手掌装饰虚拟图像显示出来。
本步骤目的是通过显示设备将所述手掌装饰虚拟图像显示出来,用户可以非常直观地看出佩戴的效果。
例如,当用户在将一枚戒指的虚拟图像戴在无名指时,通过将戴好戒指的虚拟图像通过显示设备显示在显示屏幕上,用户就可以非常直观地观察戒指的试戴效果。
在所述根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤之后,还包括:将所述手掌装饰虚拟图像进行存储。
本步骤目的是通过将所述手掌装饰虚拟图像进行存储,以供用户观看不同手掌装饰物的虚拟图像的佩戴效果。用户可以将多张所述手掌装饰虚拟图像进行比较,去选择佩戴效果最好的手掌装饰物。
所述将所述手掌装饰虚拟图像进行存储,指用户将比较满意的所述手掌装饰虚拟图像存储到移动终端的存储空间里。
例如,当用户通过手机浏览淘宝网页上的戒指时,看中了五款戒指,不知道哪款最合适,想通过观看试戴效果决定购买哪款,则可以通过软件程序从网络的服务器中将看中的戒指下载到本地,然后用户选择好要试戴的手指,将戒指依次戴在选定的手指上,将每张戴着戒指的虚拟图像存储到手机的存储空间里,再将五张手掌装饰虚拟图像同时显示到手机的显示屏幕上,用户就可以很方便地观看试戴效果,用户可以通过观看试戴效果选出最满意的戒指。
与上述采用增强现实技术提供手掌装饰虚拟图像的实现方法相对应的,本申请还提供了一种采用增强现实技术提供手掌装饰虚拟图像的实现装置。由于所述装置的实施例基本相似于方法的实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。所述采用增强现实技术提供手掌装饰虚拟图像的实现装置实施例如下:
请参考图2,其示出了本申请的第二实施例提供的采用增强现实技术提供手掌装饰虚拟图像的实现装置的示意图。
所述采用增强现实技术提供手掌装饰虚拟图像的实现装置,包括:请获取单元201、确定单元202、叠加单元203、显示单元204。
获取单元201,用于获取手掌图像;
确定单元202,用于根据获取单元获取的所述手掌图像确定该图像中手掌的手掌特征位置;
叠加单元203,用于根据确定单元所确定的所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;
显示单元204,用于通过显示设备将通过叠加单元获得的所述手掌装饰虚拟图像显示出来。
可选的,所述装置还包括:
获取图像单元,用于在获取单元工作之前获取图像;
分离单元,用于判断获取图像单元中的所述图像中是否有手掌;若是,将所述图像中的手掌图像从图像中分离出来;若否,返回获取图像的步骤。
可选的,所述获取图像单元,包括:
采集子单元,用于通过移动终端的摄像头采集获取图像。
可选的,所述分离单元中的判断所述图像中是否有手掌,采用如下方法实现:
通过采用机器学习方法训练获得的分类器对所述图像是否有手掌进行判断。
可选的,所述机器学习方法,包括以下方法的至少一种:
Hog-svm学习、Haaris角点学习、Haar LBP级联分类器学习以及神经网络学习。
可选的,所述分离单元中将所述图像中的手掌图像从图像中分离出来的方法,包括以下方法的至少一种:
最大类间方差法、肤色检测法。
可选的,所述确定单元中手掌的特征位置,包括:
所述手掌的掌心位置,所述手掌中的手腕位置和手指位置。
可选的,确定所述手掌的掌心位置,包括:
采用几何重心的方法或采用手指角点特征点的方法。
可选的,所述手指的位置,包括:
所述手掌中五个手指的位置。
可选的,确定所述手指的位置,包括:
确定手指的方向线和手指线。
可选的,所述手指的位置,包括:
所述手指的指尖的位置、所述手指根部的位置、手指的中心点。
可选的,确定所述手指的指尖的位置,包括:
所述手指与所述掌心位置距离最远的肤色点。
可选的,确定所述手指根部的位置,包括:
以掌心为中心从小到大画同心圆,肤色角小于五度的部分为所述手指根部。
可选的,确定所述手指的中心点,采用如下方式确定:
以所述掌心为中心画同心圆,外接同心圆和内接同心圆在所述手指方向上同肤色交点的中心位置。
可选的,确定所述手掌中的手腕位置,包括:
以掌心为中心画同心圆,当同心圆同所述手掌的肤色夹角大于10度,同时小于40度,同心圆同所述手掌该部分接触的区域是所述手掌中的手腕,所述手腕的方向是从所述手掌中心指向相交弧的中点的方向。
可选的,所述手掌中的手腕位置,包括:
所述手腕的中心点。
可选的,确定所述手腕的中心点,采用如下方法:
以所述掌心为中心画同心圆,外接同心圆和内接同心圆在手腕方向上同肤色交点的中心位置。
可选的,所述叠加单元中的所述手掌图像上与该手掌装饰物相匹配的位置,包括:
所述手掌的手指的中心点或手腕的中心点或手指的指甲的中心点。
可选的,所述叠加单元中的预定的手掌装饰物的虚拟图像,包括:
从网络中获得。
可选的,所述装置,还包括:
判断是否匹配子单元,用于在叠加单元工作之前,判断所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置是否相符;若是,则进入根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤;若否,则重新获得手掌装饰物的虚拟图像。
可选的,所述装置,还包括:
存储单元,用于在叠加单元工作之后将所述手掌装饰虚拟图像进行存储。
本发明虽然以较佳实施例公开如上,但其并不是用来限定本发明,任何本领域技术人员在不脱离本发明的精神和范围内,都可以做出可能的变动和修改,因此本发明的保护范围应当以本发明权利要求所界定的范围为准。

Claims (22)

1.一种采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,包括:
获取手掌图像;
根据所述手掌图像确定该图像中手掌的手掌特征位置;
根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;
通过显示设备将所述手掌装饰虚拟图像显示出来。
2.根据权利要求1所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,在所述获取手掌图像的步骤之前,包括:
获取图像;
判断所述图像中是否有手掌;若是,将所述图像中的手掌图像从图像中分离出来;若否,返回获取图像的步骤。
3.根据权利要求2所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述获取图像,包括:
通过移动终端的摄像头采集获取。
4.根据权利要求2所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述判断所述图像中是否有手掌,采用如下方法实现:
通过采用机器学习方法训练获得的分类器对所述图像是否有手掌进行判断。
5.根据权利要求4所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述机器学习方法,包括以下方法的至少一种:
Hog-svm学习、Haaris角点学习、Haar LBP级联分类器学习以及神经网络学习。
6.根据权利要求2所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,所述将所述图像中的手掌图像从图像中分离出来的方法,包括以下方法的至少一种:
最大类间方差法、肤色检测法。
7.根据权利要求1所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述手掌的特征位置,包括:
所述手掌的掌心位置,所述手掌中的手腕位置和手指位置。
8.根据权利要求7所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手掌的掌心位置,包括:
采用几何重心的方法或采用手指角点特征点的方法。
9.根据权利要求7所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述手指的位置,包括:
所述手掌中五个手指的位置。
10.根据权利要求9所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手指的位置,包括:
确定手指的方向线和手指线。
11.根据权利要求7所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述手指的位置,包括:
所述手指的指尖的位置、所述手指根部的位置、手指的中心点。
12.根据权利要求11所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手指的指尖的位置,包括:
所述手指与所述掌心位置距离最远的肤色点。
13.根据权利要求11所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手指根部的位置,包括:
以掌心为中心从小到大画同心圆,肤色角小于五度的部分为所述手指根部。
14.根据权利要求11所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手指的中心点,采用如下方式确定:
以所述掌心为中心画同心圆,外接同心圆和内接同心圆在所述手指方向上同肤色交点的中心位置。
15.根据权利要求7所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手掌中的手腕位置,包括:
以掌心为中心画同心圆,当同心圆同所述手掌的肤色夹角大于10度,同时小于40度,同心圆同所述手掌该部分接触的区域是所述手掌中的手腕,所述手腕的方向是从所述手掌中心指向相交弧的中点的方向。
16.根据权利要求7所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述手掌中的手腕位置,包括:
所述手腕的中心点。
17.根据权利要求16所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,确定所述手腕的中心点,采用如下方法:
以所述掌心为中心画同心圆,外接同心圆和内接同心圆在手腕方向上同肤色交点的中心位置。
18.根据权利要求1所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述手掌图像上与该手掌装饰物相匹配的位置,包括:
所述手掌的手指的中心点或手腕的中心点或手指的指甲的中心点。
19.根据权利要求1所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,所述预定的手掌装饰物的虚拟图像,包括:
从网络中获得。
20.根据权利要求1所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,在所述根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤之前,还包括:
判断所述预定的手掌装饰物的虚拟图像的尺寸与所述手掌图像上与该手掌装饰物相匹配的位置是否相符;若是,则进入根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤;若否,则重新获得手掌装饰物的虚拟图像。
21.根据权利要求1所述的采用增强现实技术提供手掌装饰虚拟图像的实现方法,其特征在于,在所述根据所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像的步骤之后,还包括:
将所述手掌装饰虚拟图像进行存储。
22.一种采用增强现实技术提供手掌装饰虚拟图像的实现装置,其特征在于,包括:
获取单元,用于获取手掌图像;
确定单元,用于根据获取单元获取的所述手掌图像确定该图像中手掌的手掌特征位置;
叠加单元,用于根据确定单元所确定的所述手掌特征位置,将预定的手掌装饰物的虚拟图像叠加到所述手掌图像上与该手掌装饰物相匹配的位置上,获得所述手掌装饰虚拟图像;
显示单元,用于通过显示设备将通过叠加单元获得的所述手掌装饰虚拟图像显示出来。
CN201610872093.6A 2016-09-30 2016-09-30 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置 Pending CN107886387A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201610872093.6A CN107886387A (zh) 2016-09-30 2016-09-30 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置
PCT/CN2017/102044 WO2018059258A1 (zh) 2016-09-30 2017-09-18 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610872093.6A CN107886387A (zh) 2016-09-30 2016-09-30 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置

Publications (1)

Publication Number Publication Date
CN107886387A true CN107886387A (zh) 2018-04-06

Family

ID=61763694

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610872093.6A Pending CN107886387A (zh) 2016-09-30 2016-09-30 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置

Country Status (2)

Country Link
CN (1) CN107886387A (zh)
WO (1) WO2018059258A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109799905A (zh) * 2018-12-28 2019-05-24 深圳云天励飞技术有限公司 一种手部跟踪方法和广告机
CN110072046A (zh) * 2018-08-24 2019-07-30 北京微播视界科技有限公司 图像合成方法和装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3764305A1 (en) * 2019-07-08 2021-01-13 Richemont International SA Closed loop object fitting to user member

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102270348A (zh) * 2011-08-23 2011-12-07 中国科学院自动化研究所 基于视频流的对变形手势进行跟踪的方法
CN102298746A (zh) * 2010-06-25 2011-12-28 上海九钻电子商务有限公司 基于图像处理及图形学技术的戒指在线试戴系统实现方法
CN102402680A (zh) * 2010-09-13 2012-04-04 株式会社理光 人机交互系统中手部、指示点定位方法和手势确定方法
CN104102347A (zh) * 2014-07-09 2014-10-15 东莞万士达液晶显示器有限公司 指尖定位方法及指尖定位终端
CN105046199A (zh) * 2015-06-17 2015-11-11 吉林纪元时空动漫游戏科技股份有限公司 基于像素分类器和椭圆拟合的指尖点提取方法
CN105334963A (zh) * 2015-10-29 2016-02-17 广州华多网络科技有限公司 一种虚拟物品展示方法及系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102298746A (zh) * 2010-06-25 2011-12-28 上海九钻电子商务有限公司 基于图像处理及图形学技术的戒指在线试戴系统实现方法
CN102402680A (zh) * 2010-09-13 2012-04-04 株式会社理光 人机交互系统中手部、指示点定位方法和手势确定方法
CN102270348A (zh) * 2011-08-23 2011-12-07 中国科学院自动化研究所 基于视频流的对变形手势进行跟踪的方法
CN104102347A (zh) * 2014-07-09 2014-10-15 东莞万士达液晶显示器有限公司 指尖定位方法及指尖定位终端
CN105046199A (zh) * 2015-06-17 2015-11-11 吉林纪元时空动漫游戏科技股份有限公司 基于像素分类器和椭圆拟合的指尖点提取方法
CN105334963A (zh) * 2015-10-29 2016-02-17 广州华多网络科技有限公司 一种虚拟物品展示方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
周杉: ""基于Hu矩和结构特征的静态手势识别研究"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
屈燕琴等: ""基于表观特征分析的手势识别及其应用"", 《计算机工程与科学》 *
甘志杰: ""基于Hu矩和支持向量机的静态手势识别及应用"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110072046A (zh) * 2018-08-24 2019-07-30 北京微播视界科技有限公司 图像合成方法和装置
US11308655B2 (en) 2018-08-24 2022-04-19 Beijing Microlive Vision Technology Co., Ltd Image synthesis method and apparatus
CN109799905A (zh) * 2018-12-28 2019-05-24 深圳云天励飞技术有限公司 一种手部跟踪方法和广告机
CN109799905B (zh) * 2018-12-28 2022-05-17 深圳云天励飞技术有限公司 一种手部跟踪方法和广告机

Also Published As

Publication number Publication date
WO2018059258A1 (zh) 2018-04-05

Similar Documents

Publication Publication Date Title
US11688120B2 (en) System and method for creating avatars or animated sequences using human body features extracted from a still image
US10964078B2 (en) System, device, and method of virtual dressing utilizing image processing, machine learning, and computer vision
CN106575450B (zh) 通过反照率模型、系统和方法的增强现实内容渲染
AU2014204252B2 (en) Extramissive spatial imaging digital eye glass for virtual or augmediated vision
CN111460872A (zh) 图像处理方法及装置、图像设备及存储介质
CN109784281A (zh) 基于人脸特征的产品推荐方法、装置及计算机设备
CN110363867A (zh) 虚拟装扮系统、方法、设备及介质
US20220044311A1 (en) Method for enhancing a user's image while e-commerce shopping for the purpose of enhancing the item that is for sale
CN108920490A (zh) 辅助化妆的实现方法、装置、电子设备以及存储介质
CN108460398A (zh) 图像处理方法、装置、云处理设备和计算机程序产品
US20200065559A1 (en) Generating a video using a video and user image or video
CN107886387A (zh) 采用增强现实技术提供手掌装饰虚拟图像的实现方法及其装置
WO2017137952A1 (en) Intelligent chatting on digital communication network
WO2020104990A1 (en) Virtually trying cloths & accessories on body model
WO2020147791A1 (zh) 图像处理方法及装置、图像设备及存储介质
WO2017141223A1 (en) Generating a video using a video and user image or video
CN109978795A (zh) 一种面部跟踪分屏试妆方法及系统
CN107728981A (zh) 显示的方法及装置
WO2020147794A1 (zh) 图像处理方法及装置、图像设备及存储介质
CN106485206A (zh) 基于化妆的视频图片结合的教学方法及装置
CN111627118A (zh) 景物画像的展示方法、展示装置、电子设备及存储介质
Souza “Free to Fly”: Development and evaluation of a novel exergame with a low-cost 3D tracking method for post-stroke rehabilitation
CN109965493A (zh) 一种分屏交互展示方法及装置
CN107495761A (zh) 一种智能镜子
KR20220066564A (ko) 가상 피팅 서비스를 제공하는 방법 및 이를 위한 시스템

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1253257

Country of ref document: HK

RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20180406