CN113012303B - 一种可保持服装纹理特征的多种类变尺度虚拟试衣方法 - Google Patents
一种可保持服装纹理特征的多种类变尺度虚拟试衣方法 Download PDFInfo
- Publication number
- CN113012303B CN113012303B CN202110259680.9A CN202110259680A CN113012303B CN 113012303 B CN113012303 B CN 113012303B CN 202110259680 A CN202110259680 A CN 202110259680A CN 113012303 B CN113012303 B CN 113012303B
- Authority
- CN
- China
- Prior art keywords
- human body
- clothing
- mask
- clothes
- body part
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0641—Shopping interfaces
- G06Q30/0643—Graphical representation of items or shoppers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/16—Cloth
Abstract
本发明公开了一种可保持服装纹理特征的多种类变尺度虚拟试衣方法,该方法以人体图像和多种服装图像为输入,输出同时穿着多件服装的着装图像。将人体三维模型姿势重置为试穿服装姿势;定位二维关节点,以掩膜像素的方位和宽度为约束,生成服装适应人体部位掩膜;根据人体部位和服装掩膜构建不同尺度网格移动矢量场,在多个尺度上变形服装图像。在着装图像合成中,根据着装次序对变形服装和三维人体渲染图进行融合运算,生成输出。本发明适用于面向多种类复杂服装图像的变尺度个性化虚拟试衣,着重于构建服装适应的人体部位掩膜和变尺度扭曲服装图像,对服装图像进行个性化变形的同时保留整体性特征和局部纹理,有助于在线购物的虚拟试衣推广。
Description
技术领域
本发明属于二维虚拟试衣领域,尤其涉及一种可保持服装纹理特征的多种类变尺度虚拟试衣方法。
背景技术
线上购物的繁荣促进了虚拟试衣技术的发展,虚拟试衣技术帮助用户以自身视角观察服装,向用户展示服装个性化的穿着效果,替代传统的模特试穿展示,提升用户的购物体验,降低线上购物的退货率和商家经营成本。虚拟试衣技术两个主要的研究方向为三维服装重建和二维着装图像合成。
三维服装重建的研究面向于特定模型,仅针对特定类型对象,缺少服装统计模型,着重于服装的几何形状重建,纹理图案表征相对欠缺,模型呈现非真实感。基于点云的三维服装重建需要对服装多次扫描,预处理和仿真计算成本昂贵,且需要专业人员复杂的后处理,难以应对类型和形状日益繁多的服装市场。基于图像和视频的三维服装重建依靠模型数据库的检索或者参数化驱动建模,数据库的样本容量限制了表征服装能力。面向不同人体形状的三维服装变形以及服装模型的物理属性仿真具有昂贵计算成本,难以实现快速实时的虚拟试衣、大规模应用和快速轻量化推广。
二维着装图像合成的鲁棒性依赖于平铺-真实着装服装图像对的样本容量和多样性,在表征复杂形状纹理时表现欠佳,难以保证在试穿新服装时的稳定性和难以保持原有服装图像中的复杂纹理和局部图案。着装图像的合成容易受到真实人体图像的着装情况、自遮挡和复杂姿势影响。
综上,现有虚拟试衣技术难以基于人体形状对服装图像进行个性化变形的同时保留整体性特征和局部纹理。
发明内容
本发明的目的在于针对现有技术的不足,提供一种可保持服装纹理特征的多种类变尺度虚拟试衣方法。本发明面向多种类具有复杂形状纹理服装图像,通过用户真实人体照片和选定服装图像,基于服装适应人体掩膜构建方法和服装图像个性化变尺度扭曲方法,保留服装整体性特征和局部细节,根据人体形状对服装图像个性化变形,生成使用于在线虚拟试衣的虚拟人体着装图像,可实现同时试穿多件服装的虚拟试衣。
本发明的目的是通过以下技术方案来实现的:一种可保持服装纹理特征的多种类变尺度虚拟试衣方法,面向多种类、具有复杂形状纹理、无分辨率限制的服装图像,能够同时试穿多件服装,保留服装图像的整体性特征和局部细节纹理。该方案步骤如下:
1)利用真实人体形状重建三维人体模型,将模型的姿势调整成服装姿势。通过三维人体模型的正交投影,生成人体掩膜并细分为14个身体部位。基于服装的整体性比例特征,进一步精准地调整人体部位,形成服装适应的人体部位掩膜。在服装适应过程中,利用关节点移动实现人体部位掩膜长度调整,利用膨胀运算实现着装宽松度调整。
2)根据人体部位和服装掩膜,构建具有不同稀疏程度的网格移动矢量场,并使用SG-滤波器对移动矢量进行平滑。在网格移动矢量场作用下,利用薄板样条变换在整体和局部尺度上扭曲变形服装图像,将多种类变形服装图像融合覆盖于渲染三维人体图像,生成同时穿着多件服装的虚拟人体着装图像。
进一步地,所述步骤1)具体为:
1.1)服装姿势适应的三维人体模型构建
利用真实人体图像重建三维人体模型,将人体模型姿势调整成服装姿势。将服装的先验姿势特征迁移至三维人体模型可避免在服装变形中非自然变形的出现。
针对服装图像,将服装统计分为13个种类:长袖T恤、短袖T恤、长袖外套、短袖外套、长裤、短裤、长袖裙、短袖裙、背心、吊带、短裙、背心裙和吊带裙,其中前8种服装存在与人体躯干有关的关节姿势特征,后5种服装不受人体躯干姿势影响。对于平铺服装图像,获取服装的边界界标,提取服装的姿势特征。
1.2)精准人体部位掩膜划分
根据投影的二维关节点界标,以掩膜像素的方向和宽度为约束,将人体掩膜细分为不同的身体部位。将手臂划分为两部分:前臂和后臂,以适应短袖和长袖类服装;将腿部划分为:大腿和小腿。胸腹部分Rc为人体掩膜与其它部分的差值。
方向约束分为两种情况:(1)点在两个关节的异侧,(2)点在一个关节的一侧。方向约束通过限制角度实现,不同身体部位具有不同的方向约束参数。
通过方向和宽度的综合约束,将人体掩膜细分为14个身体部位。
1.3)基于服装整体性特征人体部位掩膜的适应调整。
在制衣过程中形成的整体性服装特征,如肩宽与袖长比,腰围与裤长比,着装宽松度等,能够从根本上反映服装的特性,也是人们在购买服装时关注的重要指标。在虚拟试衣时,应尽量保留整体性的服装特征,构建适应于服装整体性特征的人体部位掩膜,为服装变形提供精确的变形引导。
上下半身的基准分别为肩宽wu和腰宽wl。服装的整体性特征以比例形式体现,上半身特征包括袖长与肩宽比ls/wu,衣长与肩宽比hu/wu。下半身特征包括裤长与腰宽比hl/wl。对于裙子类服装,定义特征裙长与腰宽比hd/wl和裙摆底端宽度与腰宽比wd/wl。
利用服装的整体性特征,对细分的人体部位掩膜进行适应性调整对于袖长特征ls和裤长特征hl,适应性调整通过对应关节的插值移动实现。对于衣长特征hu,由于Rc为所有人体部位掩膜与非胸腹部位的差值,根据大腿部位关节点的调整实现Rc的适应性调整;对于裙底宽度wd和裙长hd,定义对应的人体部位掩膜R’dr,近似裙部形状为梯形,梯形的上底与腰线平齐。将适应性调整后的人体部位掩膜进行根据13种服装组合,最终获得保留服装整体性特征的精确人体部位掩膜,共有13种服装适应人体部位掩膜ix=1~13。
进一步地,所述步骤2)具体为:
2.1)网格移动矢量场构建
由于服装和人体部位掩膜的界标稀疏性和缺乏配对关系,难以通过对齐特定控制点和径向插值实现对二维图像的非刚性薄板样条变形。因此,将服装和人体部位掩膜划分成等间隔的网格,将网格点中的像素块下采样为一个控制点,获得网格控制点矩阵每个控制点包含位置和分割信息
将人体部位和服装的掩膜对齐并保持分辨率一致,两者的控制点矩阵形成双射对应,求解人体和服装控制点矩阵mask(C)属性的差值矩阵D(C)。对于位于区间的每个控制点在D(C)中取3×3视窗,确定服装网格控制点的网格移动矢量形成服装掩膜的网格移动矢量场。基于Savitzky-Golay卷积平滑算法在x和y轴方向上分别对控制点移动向量的x值和y值进行平滑,取平滑后的均值,生成控制点新的移动向量
2.2)服装图像的多尺度扭曲变形。
选取尺度序列为的网格移动矢量场,1×的网格间隔最大,能够捕捉到服装掩膜与人体部位掩膜间的整体性差异;的网格最密集,能够捕捉服装掩膜与人体部位掩膜间局部细节的差异,但网格的间隔过小也造成了非连续性和局部非自然的变形。综合不同尺度网格的变形优势,将经过不同尺度网格移动矢量场变形后的服装掩膜进行融合。
2.3)多件服装的着装图像合成。
在试穿nx件服装时,根据不同服装的整体性特征生成nx个不同的服装适应人体部位掩膜记录边界框在人体掩膜中的左上位置在适应性人体部位掩膜的引导下,不同种类的服装经过变尺度扭曲后形成变形服装图像和服装掩膜。在着装图像合成过程中,为保证变形服装图像完全覆盖对应的身体部位,消除服装适应的人体部位,根据着装优先级对齐相加变形服装以生成试穿多件服装的着装图像Id。
本发明的有益效果是:本发明以服装适应人体部位掩膜分割方法和服装图像变尺度扭曲算法为主。根据服装的先验姿势,调整重建的三维人体模型的姿势。将三维人体模型投影形成人体掩膜,根据服装的整体性特征,细分调整形成适应性人体部位掩膜。在服装和人体部位掩膜的引导下,构建具有不同尺度的网格移动矢量场,并以此对服装图像进行变尺度扭曲,在服装和人体掩膜引导下,融合变形服装图像形成试穿多件服装的着装图像。本发明为具有复杂纹理形状的多种类服装提供了低成本个性化虚拟试衣方法,变形服装图像趋于目标人体形状,保留服装图像原有的整体性特征和局部纹理,促进了虚拟试衣的进一步推广。
附图说明
下面结合附图对本发明具体实施方式进行详细说明:
图1是本发明的流程图;
图2是14个身体部位人体掩膜的示意图;
图3是人体二维关节点的示意图;
图4是像素点在两个关节点的之间的示意图;
图5是像素点在某个关节点一侧的示意图;
图6是裙部位置对应的人体部位掩膜的示意图;
图7是变尺度薄板样条扭曲迭代过程图;
图8是不同形状人体试穿不同种类服装图像的实例图。
具体实施方式
为了更清楚地说明本发明,下面结合附图与实施例对本发明作进一步说明。本领域技术人员应该了解,下面所具体描述的内容是说明性而非限制性的,不应该限制本发明的保护范围。
如图1所示,本发明提出了一种可保持服装纹理特征的多种类变尺度虚拟试衣方法,通过输入用户的真实人体图像和多种类服装图像,输出虚拟人体着装图像;包括三维人体重建与处理I、服装图像处理II和图像变形和合成III。其中,部分Ⅱ通过关键点检测或者手动标注,获取服装图像二维界标并提取服装姿势,并构建服装掩膜。部分I利用统计人体模型三维重建获取对应真实人体图像形状的三维人体模型;将根据人体形状重建的三维人体模型姿势调整成服装姿势,将三维人体模型投影成渲染图像和对应的掩膜;在人体二维关节点界标的定位下,利用掩膜像素角度约束、宽度约束和服装整体性特征,投影人体模型生成服装适应人体部位掩膜;服装适应包括根据服装的衣长、袖长、裤长和着装宽松度的人体部位调整。部分Ⅲ基于生成的服装适应人体部位掩膜和服装掩膜,生成控制点矩阵,构建具有不同稀疏度的网格移动矢量场,并以此为引导;在变尺度网格移动矢量场的综合影响下,对服装图像和服装掩膜进行非刚性变尺度(薄板样条)TPS扭曲,在多次迭代后,服装图像产生了贴近人体形状曲线的变形,实现个性化试穿的目的;在着装图像合成中,根据着装的优先级、变形服装图像和掩膜的引导,将多件变换后的服装图像融合在渲染三维人体图像上,产生虚拟人体同时穿着不同种类服装的着装图像。
本发明具体包括以下步骤:
1)利用真实人体形状重建三维人体模型,将模型的姿势调整成服装姿势。如图2所示,通过三维人体模型的正交投影,生成人体掩膜并细分为14个身体部位(头部、颈部、胸腹部位、左大臂、左小臂、左手、右大臂、右小臂、右手、大腿、右小腿、左小腿、左脚、右脚)。基于服装的整体性比例特征,进一步精准地调整人体部位,形成服装适应的人体部位掩膜。在服装适应过程中,利用关节点移动实现人体部位掩膜长度调整,利用膨胀运算实现着装宽松度调整。具体包括以下子步骤:
1.1)服装姿势适应的三维人体模型构建
利用真实人体图像重建三维人体模型,将人体模型姿势调整成服装姿势。将服装的先验姿势特征迁移至三维人体模型可避免在服装变形中非自然变形的出现。
对于三维人体模型,SMPL统计人体模型具有72个姿势参数,包括23个关节在3个自由度方向上的旋转向量。在虚拟试衣时,选择模型正面着装投影作为试衣效果的展示。影响着装投影的主要躯干旋转向量简化为其分别为左大臂、左小臂、右大臂、右小臂、左大腿和右大腿绕z轴的旋转角;由于人体的小腿关节相对于大腿关节在z轴方向上的自由度为0,所以设置小腿的相对旋转角度为0。
针对服装图像,将服装统计分为13个种类:长袖T恤、短袖T恤、长袖外套、短袖外套、长裤、短裤、长袖裙、短袖裙、背心、吊带、短裙、背心裙和吊带裙,其中前8种服装存在与人体躯干有关的关节姿势特征,后5种服装不受人体躯干姿势影响。对于平铺服装图像,通过关键点检测或者人工标注获取服装的边界界标,提取服装的姿势特征,并将其迁移至三维人体模型。
1.2)人体掩膜生成
j=S×T0×P0×J
式中,J=[x y z 1]T、j=[x y 1]T分别为三维和二维关节点的齐次坐标;S为缩放矩阵,其中sx、sy和sz分别代表x、y、z的缩放;T0为位移矩阵,dx、dy和dz为在x,y,z轴上的位移,调节使人体位于掩膜的中心;P0为正交投影矩阵,w、h为观察体的宽度和高度,zf、zn分别为投影的远平面和近平面。
1.3)精准人体部位掩膜划分
根据投影的二维关节点,以掩膜像素方向和宽度为限制,将人体掩膜细分为不同的身体部位将手臂划分为两部分:大臂和小臂,以适应短袖和长袖类的服装;将腿部划分为:大腿和小腿,其中左右大腿在高度上通常保持一致,为了方便划分,将两者进行合并。胸腹部分Rc划分如下:
1.4)人体部位掩膜像素的方向约束
式中,i2=1,2表示某个人体部位的两个关节点;是关节点界标,为像素点与关节点构成的夹角,||||表示向量的模,为到P的向量,基线为由另一个关节点指向关节点的向量,决定边界线朝向。对于情况(1),j1、j2为两端的边界关节点;对于情况(2),靠近P的关节点为一端的边界关节点,远离P的关节点为运动树上的依赖父关节点,关节点辅助计算基线。
1.5)人体部位掩膜像素的宽度约束
宽度约束Bl的完整形式如下:
式中,α为宽度调节系数。
在方向约束和宽度约束的作用下,基于二维关节点,细分人体部位如下:
1.6)基于服装整体性特征的人体部位掩膜适应性调整。
在制衣过程中形成的整体性服装特征,如肩宽与袖长比、腰围与裤长比等,能够从根本上反映服装的特性,也是人们在购买服装时关注的重要指标,在虚拟试衣时,应尽量保留服装图像的整体性特征。通过构建适应于服装整体性特征的人体部位掩膜,在服装变形中提供精确的变形引导,同时保留原有服装图像的整体性比例特征。
上下半身的基准分别为肩宽wu和腰宽wl。对于人体部位掩膜,基准为二维关节点构成的距离;对于服装图像,基准为相应界标构成的距离。服装的整体性特征以比例形式体现,上半身特征包括袖长与肩宽比ls/wu,衣长与肩宽比hu/wu。下半身特征包括裤长与腰宽比hl/wl。对于裙子类服装,定义特征裙长与腰宽比hd/wl和裙摆底端宽度与腰宽比wd/wl。
1.6.2)基于步骤1.6.1)调整后新的人体部位掩膜,对于衣长特征hu,由于Rc为所有人体部位掩膜与非胸腹部位的差值,根据大腿部位关节点的调整实现Rc的适应性调整。
1.6.3)对于裙底宽度wd和裙长特征hd,将裙部形状近似为梯形,梯形的上底与腰线平齐,定义裙部位置对应的人体部位掩膜为R’dr,为新增的人体部位掩膜,如图6所示。
1.6.4)将1.6.1)~1.6.3)适应性调整后的所有人体部位掩膜,根据13种服装进行组合,获得保留服装整体性特征的精确人体部位掩膜,共有13种服装适应人体部位掩膜ix=1~13;例如短袖对应的服装适应人体部位掩膜由胸腹部位和左右大臂组合。
1.7)基于着装宽松度的人体部位掩膜膨胀运算。
2)根据步骤1.7)膨胀后的服装适应人体部位掩膜和服装掩膜,构建具有不同稀疏程度的网格移动矢量场,并使用SG滤波器对移动矢量进行平滑。在网格移动矢量场作用下,利用薄板样条TPS变换在整体和局部尺度上扭曲变形服装图像,将多种类变形服装图像融合覆盖于渲染三维人体图像,生成同时穿着多件服装的虚拟人体着装图像。具体包括以下子步骤:
2.1)网格移动矢量场构建。
薄板样条变换通过对齐控制点,径向插值的方式实现对二维图像的非刚性变形,约束变形的损失函数如下:
ε=εΦ+λεd
式中,ε为总的损失函数,εΦ、εd和λ分别为控制点距离项、扭曲项和非刚性变形系数。
由于服装和人体部位掩膜的界标稀疏性和缺乏配对关系,难以通过对齐特定控制点实现对二维图像的非刚性变形。因此,将服装和人体的掩膜划分成等间隔的网格,将位于每个网格点中的像素块下采样为一个控制点,并获得网格控制点矩阵矩阵中的每个控制点包含位置和分割信息i3=1~mn。
D(C)=abs(mask(Ch)-mask(Cc))
式中,<>表示向量,分别表示网格在x,y轴方向上的移动矢量;Δx、Δy分别表示在x,y轴方向上的移动步长,则表示服装网格控制点的移动权重系数。每个服装网格控制点受邻近点影响,D(C)视窗中非零的邻近点拖拽网格移动变形趋于该邻近点,综合具有不同影响权重的邻近点,获得服装网格控制点的网格移动向量
2.2)网格移动矢量场平滑。
在获取每个服装网格控制点的移动向量后,服装掩膜的网格移动矢量场构建完成。基于Savitzky-Golay卷积平滑算法在x和y轴方向上分别对控制点移动向量的x值和y值进行平滑,取在两个方向平滑后的均值,获得服装网格控制点新的移动向量
网格移动矢量场的平滑使服装网格产生移动涟漪,防止产生局部移动突变和非自然的畸变,侧面扩大D(C)的视窗大小,使更多的邻近点参与服装网格控制点的移动矢量形成。在多次迭代变换后,不使用SG滤波器平滑的网格移动矢量场存在某点移动矢量远大于周围邻点、局部过度拉伸或压缩、纹理模糊或扭曲和视觉噪点等现象。在同等条件下,SG滤波器可以有效降低突变点的峰值,使周围邻点的移动矢量均值化,形成协调的整体变形。
平滑视窗大小Ws和拟合的平滑级数Po如下:
式中,mod2表示与2进行取模运算,Ws与网格的宽度n和高度m呈正比例关系且为奇数;ζ为比例系数,ζ值越小,平滑效果越明显;平滑级数Po比Ws小且阈值为3,即拟合曲线的阶数不大于3。
2.3)服装图像的单一尺度扭曲变形。
式中,为原始服装网格的位置矩阵;为服装网格移动后的位置矩阵,即原始服装网格位置矩阵L(Cc)与服装网格移动矢量场M’(Cc)之和;为控制点关联矩阵,其通过径向基函数计算各控制点间的影响关系,j3=1~mn。将薄板样条变化参数应用于服装掩膜如下:
Ym=[λ1,λ2,…λmn+3]TWm
2.4)服装图像的多尺度扭曲变形。
如图7所示,为变尺度薄板样条扭曲迭代过程,选取尺度序列为的网格移动矢量场;其中,1×的网格间隔最大,网格划分较为稀疏,代表的控制点矩阵中的每个点的感受野范围较大,能够捕捉到服装掩膜与人体部位掩膜间整体性的差异,在牛仔裤的裤筒和长袖外套的袖部造成较大曲率的曲线变形;而相反,网格最密集,能够捕捉服装掩膜与人体掩膜间局部细节的差异,在袖部和裤筒边界处造成细小的曲线扰动,但过小的间隔也会造成非连续性和局部非自然变形。
2.4.2)根据步骤2.4.1)对服装掩膜和服装图像多次迭代进行服装图像变尺度扭曲,直到达到指定的迭代次数j4;每一次迭代都基于上一次迭代得到的服装掩膜和变形服装图像进行。在前j4-1次迭代中,不同尺度网格移动矢量场变形后的服装掩膜融合得到该次迭代的服装掩膜,将尺度的薄板样条变换应用于服装图像,生成变形服装图像;在最后一次迭代中,变尺度扭曲仅由尺度为2k×的薄板样条变换构成服装掩膜和变形服装图像其目的为保持变形后服装掩膜与服装图像拓扑结构的一致性,为着装图像的合成提供精准的语义分割蒙版。
2.5)多件服装的着装图像合成。
在试穿nx件服装时,根据不同服装的整体性比例生成nx个不同的服装适应人体部位掩膜并记录边界框在人体掩膜中的左上位置在适应性人体部位掩膜的引导下,不同种类的服装经过j4次迭代变尺度扭曲后形成变形服装图像和服装掩膜将三维人体图像渲染成二维的图像Ih,对渲染三维人体图像Ih,根据掩膜进行消除和相加运算如下:
式中,I是单位矩阵,⊙为元素相乘符。为了保证变形后服装图像I’cj完全覆盖对应部位的人体,消除服装适应的人体部位,根据着装优先级对齐Sj,相加变形服装以生成试穿多件服装的着装图像Id。
实施例
本发明实施例对于真实的人体二维照片,三维重建获取形状对应的三维人体模型。对于二维多种类服装图像,通过图像关键点定位或者手动标注,获取服装图像的二维关键点并提取其服装姿势,调整重建的人体模型姿势,使其与服装姿势相同。将形状趋近于人体、姿势趋近于服装的三维人体模型渲染投影成二维图像并生成对应的蒙版。在人体二维关节点的定位下,根据服装的整体性特征,生成服装适应性人体部位蒙版,适应性包括根据服装的衣长、袖长、裤长和宽松度的人体部位调整。在服装适应性人体部位和服装蒙版的引导下,生成控制点矩阵,构建网格移动的矢量场。在变尺度网格移动矢量场的综合影响下,对服装图像和服装蒙版进行多尺度薄板样条变换。在迭代多次后,服装图像产生了贴近人体形状曲线的变化,实现个性化试穿的目的。变尺度薄板样条扭曲迭代过程中,以网格尺度序列{1×,2×,4×}为例,用1×和4×尺度网格生成变形服装图像的缺点非常明显,1×的尺度网格容易造成畸变且缺乏细节变形描述,4×尺度网格的整体变形程度欠缺。因此以融合系数σ=[0.2,0.3,0.5]比例融合三个尺度:1×、2×、4×,进行变尺度薄板样条扭曲,变形后的服装有明显整体性的肩部隆起和袖口收紧,同时仍具有精确贴近人体手臂和腿部的曲线变形。在服装合成模块,根据着装的优先级,基于蒙版引导进行图像的加和运算,产生虚拟人体同时穿着不同种类服装的效果。
本发明实施例利用服装图像数据集,在不同网格稀疏度下,选取平均值、标准差、最大移动值和MA(m′)作为评估因子,定量对比SG滤波器在网格移动过程中的作用。MA(m′)为网格移动矢量场M’(Cc)中最大m′个网格移动数值的平均值如下:
表1:网格移动对比
在网格划分较为稀疏时,服装与人体部位控制点矩阵的属性差异较小,SG滤波器的数据平滑效果并不显著。在网格划分较为密集时,SG滤波器能够降低M’(Cc)的平均值18%左右、标准差35%左右。这表明SG滤波器能够增大差值场感受野大小,使更大邻域范围内的移动矢量趋于平均。同时SG滤波器能够降低M’(Cc)的最大峰值25%左右、MA(m′)31%左右。这表明SG滤波器能够有效地抑制局部的突变点,并控制噪点的产生。
如图8所示,上部为具有不同形状人体试穿同一套服装的效果,本发明实施例选取宽松的长袖上衣和紧身的牛仔裤作为试穿服装,上衣由于较为宽松,不同人体的试穿差异主要体现在服装整体尺度缩放和肩部支撑变形,服装袖部和腰部变形的差异较小。不同形状人体试穿紧身牛仔裤的效果差异巨大,服装变形贴近于人体腿部的曲线。由此证明,本发明可实现根据人体形状的服装个性化试穿。
中部为具有平均人体形状的女性模型对于不同种类服装的试衣效果,下部为具有平均人体形状男性模型对于不同种类服装的试衣效果。本发明实施例选取长袖、短袖、背心、长裤和短裤等不同种类服装。对于上身服装,相较于平铺服装图像,变形服装图像在产生袖部,腰部和肩部变形同时能够保留服装图像的条纹、细节图案和整体性的形状特征。变尺度图像扭曲使平铺服装图像的直筒袖产生趋近人体手臂的曲线,使服装的腰部直线凹陷,使服装的肩部隆起。对于由于平铺而产生“遛肩现象”的服装图像,变形产生的肩部支撑效果更为明显。对于下身服装,裤筒的变形效果与人体模型的腿部形状密切相关。由此证明,本发明可实现对具有复杂形状纹理多种类服装的个性化试穿。
Claims (2)
1.一种可保持服装纹理特征的多种类变尺度虚拟试衣方法,其特征在于,面向多种类、具有复杂形状纹理、无分辨率限制的服装图像,能够同时试穿多件服装,保留服装图像的整体性特征和局部细节纹理;该方案步骤如下:
1)利用真实人体形状重建三维人体模型,将模型的姿势调整成服装姿势;通过三维人体模型的正交投影,生成人体掩膜并细分为14个身体部位;基于服装的整体性比例特征,进一步精准地调整人体部位,形成服装适应的人体部位掩膜;在服装适应过程中,利用关节点移动实现人体部位掩膜长度调整,利用膨胀运算实现着装宽松度调整;
2)根据人体部位和服装掩膜,构建具有不同稀疏程度的网格移动矢量场,并使用SG-滤波器对移动矢量进行平滑;在网格移动矢量场作用下,利用薄板样条变换在整体和局部尺度上扭曲变形服装图像,将多种类变形服装图像融合覆盖于渲染三维人体图像,生成同时穿着多件服装的虚拟人体着装图像;具体为:
2.1)网格移动矢量场构建
由于服装和人体部位掩膜的界标稀疏性和缺乏配对关系,难以通过对齐特定控制点和径向插值实现对二维图像的非刚性薄板样条变形;因此,将服装和人体部位掩膜划分成等间隔的网格,将网格点中的像素块下采样为一个控制点,获得网格控制点矩阵每个控制点包含位置和分割信息
将人体部位和服装的掩膜对齐并保持分辨率一致,两者的控制点矩阵形成双射对应,求解人体和服装控制点矩阵mask(C)属性的差值矩阵D(C);对于位于区间的每个控制点在D(C)中取3×3视窗,确定服装网格控制点的网格移动矢量形成服装掩膜的网格移动矢量场;基于Savitzky-Golay卷积平滑算法在x和y轴方向上分别对控制点移动向量的x值和y值进行平滑,取平滑后的均值,生成控制点新的移动向量
2.2)服装图像的多尺度扭曲变形;
选取尺度序列为的网格移动矢量场,1×的网格间隔最大,能够捕捉到服装掩膜与人体部位掩膜间的整体性差异;的网格最密集,能够捕捉服装掩膜与人体部位掩膜间局部细节的差异,但网格的间隔过小也造成了非连续性和局部非自然的变形;综合不同尺度网格的变形优势,将经过不同尺度网格移动矢量场变形后的服装掩膜进行融合;
2.3)多件服装的着装图像合成;
2.根据权利要求1所述可保持服装纹理特征的多种类变尺度虚拟试衣方法,其特征在于,所述步骤1)具体为:
1.1)服装姿势适应的三维人体模型构建
利用真实人体图像重建三维人体模型,将人体模型姿势调整成服装姿势;将服装的先验姿势特征迁移至三维人体模型可避免在服装变形中非自然变形的出现;
针对服装图像,将服装统计分为13个种类:长袖T恤、短袖T恤、长袖外套、短袖外套、长裤、短裤、长袖裙、短袖裙、背心、吊带、短裙、背心裙和吊带裙,其中前8种服装存在与人体躯干有关的关节姿势特征,后5种服装不受人体躯干姿势影响;对于平铺服装图像,获取服装的边界界标,提取服装的姿势特征;
1.2)精准人体部位掩膜划分
根据投影的二维关节点界标,以掩膜像素的方向和宽度为约束,将人体掩膜细分为不同的身体部位;将手臂划分为两部分:前臂和后臂,以适应短袖和长袖类服装;将腿部划分为:大腿和小腿;胸腹部分Rc为人体掩膜与其它部分的差值;
方向约束分为两种情况:(1)点在两个关节的异侧,(2)点在一个关节的一侧;方向约束通过限制角度实现,不同身体部位具有不同的方向约束参数;
通过方向和宽度的综合约束,将人体掩膜细分为14个身体部位;
1.3)基于服装整体性特征人体部位掩膜的适应调整;
在制衣过程中形成的整体性服装特征,包括肩宽与袖长比、腰围与裤长比、着装宽松度,能够从根本上反映服装的特性,也是人们在购买服装时关注的重要指标;在虚拟试衣时,应尽量保留整体性的服装特征,构建适应于服装整体性特征的人体部位掩膜,为服装变形提供精确的变形引导;
上下半身的基准分别为肩宽wu和腰宽wl;服装的整体性特征以比例形式体现,上半身特征包括袖长与肩宽比ls/wu,衣长与肩宽比hu/wu;下半身特征包括裤长与腰宽比hl/wl;对于裙子类服装,定义特征裙长与腰宽比hd/wl和裙摆底端宽度与腰宽比wd/wl;
利用服装的整体性特征,对细分的人体部位掩膜进行适应性调整对于袖长特征ls和裤长特征hl,适应性调整通过对应关节的插值移动实现;对于衣长特征hu,由于Rc为所有人体部位掩膜与非胸腹部位的差值,根据大腿部位关节点的调整实现Rc的适应性调整;对于裙底宽度wd和裙长hd,定义对应的人体部位掩膜R'dr,近似裙部形状为梯形,梯形的上底与腰线平齐;将适应性调整后的人体部位掩膜进行根据13种服装组合,最终获得保留服装整体性特征的精确人体部位掩膜,共有13种服装适应人体部位掩膜
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110259680.9A CN113012303B (zh) | 2021-03-10 | 2021-03-10 | 一种可保持服装纹理特征的多种类变尺度虚拟试衣方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110259680.9A CN113012303B (zh) | 2021-03-10 | 2021-03-10 | 一种可保持服装纹理特征的多种类变尺度虚拟试衣方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113012303A CN113012303A (zh) | 2021-06-22 |
CN113012303B true CN113012303B (zh) | 2022-04-08 |
Family
ID=76403967
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110259680.9A Active CN113012303B (zh) | 2021-03-10 | 2021-03-10 | 一种可保持服装纹理特征的多种类变尺度虚拟试衣方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113012303B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113822175B (zh) * | 2021-09-03 | 2023-09-01 | 西安工程大学 | 一种基于关键点聚类驱动匹配的虚拟试衣图像生成方法 |
CN114972622B (zh) * | 2021-12-30 | 2023-03-24 | 昆明理工大学 | 一种针对民族服装图像的高精度三维重建方法 |
CN114663552B (zh) * | 2022-05-25 | 2022-08-16 | 武汉纺织大学 | 一种基于2d图像的虚拟试衣方法 |
CN116883599B (zh) * | 2023-07-21 | 2024-02-06 | 深圳市十二篮服饰有限公司 | 一种基于三维建模技术的服装试穿系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102214355A (zh) * | 2011-05-20 | 2011-10-12 | 西安工程大学 | 一种服装展示素材的抠图方法 |
CN104091269A (zh) * | 2014-06-30 | 2014-10-08 | 京东方科技集团股份有限公司 | 一种虚拟试衣方法及虚拟试衣系统 |
CN108648053A (zh) * | 2018-05-10 | 2018-10-12 | 南京衣谷互联网科技有限公司 | 一种用于虚拟试衣的成像方法 |
CN111742350A (zh) * | 2018-02-21 | 2020-10-02 | 株式会社东芝 | 虚拟试穿系统、虚拟试穿方法、虚拟试穿程序、信息处理装置、以及学习数据 |
CN112232914A (zh) * | 2020-10-19 | 2021-01-15 | 武汉纺织大学 | 基于2d图像的四阶段虚拟试衣方法及装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10546433B2 (en) * | 2017-08-03 | 2020-01-28 | The University Of North Carolina At Chapel Hill | Methods, systems, and computer readable media for modeling garments using single view images |
-
2021
- 2021-03-10 CN CN202110259680.9A patent/CN113012303B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102214355A (zh) * | 2011-05-20 | 2011-10-12 | 西安工程大学 | 一种服装展示素材的抠图方法 |
CN104091269A (zh) * | 2014-06-30 | 2014-10-08 | 京东方科技集团股份有限公司 | 一种虚拟试衣方法及虚拟试衣系统 |
CN111742350A (zh) * | 2018-02-21 | 2020-10-02 | 株式会社东芝 | 虚拟试穿系统、虚拟试穿方法、虚拟试穿程序、信息处理装置、以及学习数据 |
CN108648053A (zh) * | 2018-05-10 | 2018-10-12 | 南京衣谷互联网科技有限公司 | 一种用于虚拟试衣的成像方法 |
CN112232914A (zh) * | 2020-10-19 | 2021-01-15 | 武汉纺织大学 | 基于2d图像的四阶段虚拟试衣方法及装置 |
Non-Patent Citations (2)
Title |
---|
A surface modeling method for product virtual assembly based on the root mean square of the regional residuals;Heng Li;《J Engineering Manufacture》;20201231;第234卷(第1-2期);第229–242页 * |
基于款式变换和局部渲染相结合的虚拟试衣研究;徐俊;《太原理工大学学报》;20210115;第52卷(第1期);第98-104页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113012303A (zh) | 2021-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113012303B (zh) | 一种可保持服装纹理特征的多种类变尺度虚拟试衣方法 | |
Peng et al. | Animatable neural radiance fields for modeling dynamic human bodies | |
US10546433B2 (en) | Methods, systems, and computer readable media for modeling garments using single view images | |
Jiang et al. | Bcnet: Learning body and cloth shape from a single image | |
Yang et al. | Physics-inspired garment recovery from a single-view image | |
Jiang et al. | Selfrecon: Self reconstruction your digital avatar from monocular video | |
CN109427007B (zh) | 基于多视角的虚拟试衣方法 | |
US10134181B2 (en) | System and method for simulating realistic clothing | |
Feng et al. | Avatar reshaping and automatic rigging using a deformable model | |
Balan et al. | Detailed human shape and pose from images | |
Yang et al. | Detailed garment recovery from a single-view image | |
Robson et al. | Context-aware garment modeling from sketches | |
Zhu et al. | An efficient human model customization method based on orthogonal-view monocular photos | |
WO2002057964A2 (en) | Production and visualisation of garments | |
Li et al. | In-home application (App) for 3D virtual garment fitting dressing room | |
CN114972622B (zh) | 一种针对民族服装图像的高精度三维重建方法 | |
KR20190114676A (ko) | 아바타에 착장된 의상의 전이 패턴 생성 방법 | |
Bang et al. | Estimating garment patterns from static scan data | |
CN109655011A (zh) | 一种人体建模维度测量的方法及系统 | |
CN108230431B (zh) | 一种二维虚拟形象的人体动作动画生成方法及系统 | |
Youwang et al. | Paint-it: Text-to-Texture Synthesis via Deep Convolutional Texture Map Optimization and Physically-Based Rendering | |
Hu et al. | Scanning and animating characters dressed in multiple-layer garments | |
CN116580148A (zh) | 一种基于人体点云与测量参数的参数化人体模型拟合方法 | |
Oliveira et al. | Animating scanned human models | |
Li et al. | DiffAvatar: Simulation-Ready Garment Optimization with Differentiable Simulation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |