KR102348137B1 - 아바타에 착장된 의상의 전이 패턴 생성 방법 - Google Patents

아바타에 착장된 의상의 전이 패턴 생성 방법 Download PDF

Info

Publication number
KR102348137B1
KR102348137B1 KR1020180037753A KR20180037753A KR102348137B1 KR 102348137 B1 KR102348137 B1 KR 102348137B1 KR 1020180037753 A KR1020180037753 A KR 1020180037753A KR 20180037753 A KR20180037753 A KR 20180037753A KR 102348137 B1 KR102348137 B1 KR 102348137B1
Authority
KR
South Korea
Prior art keywords
avatar
mesh
target
pattern
deformation
Prior art date
Application number
KR1020180037753A
Other languages
English (en)
Other versions
KR20190114676A (ko
Inventor
오승우
Original Assignee
(주)클로버추얼패션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)클로버추얼패션 filed Critical (주)클로버추얼패션
Priority to KR1020180037753A priority Critical patent/KR102348137B1/ko
Priority to US16/368,897 priority patent/US10789774B2/en
Publication of KR20190114676A publication Critical patent/KR20190114676A/ko
Priority to US17/034,842 priority patent/US11348312B2/en
Application granted granted Critical
Publication of KR102348137B1 publication Critical patent/KR102348137B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • G06T13/403D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • G06T17/205Re-meshing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering

Abstract

원본 아바타에 착장된 의상의 원본 패턴을 새로운 타겟 아바타에 착장할 수 있는 타겟 패턴으로 효율적으로 변환하는 방법이 제안된다. 타겟 패턴은 타겟 의상의 모델링을 평활화하는 대신, 원본 패턴의 변형으로부터 직접 생성된다. 일 양상에 따르면, 아바타 변형 변환값으로부터 의상 패턴의 2차원 메쉬와 타겟 의상의 대응하는 3차원 메쉬간의 변형을 나타내는 타겟 변형 텐서(strain tensor)가 결정되고, 타겟 변형 텐서와 원본 변형 텐서(source strain tensor) 기반 패턴 변형 텐서에 따라 결정되는 2차원 메쉬를 포함하는 타겟 패턴이 생성된다.

Description

아바타에 착장된 의상의 전이 패턴 생성 방법{a computer aided method for generating transferred patterns for garment draped on an avatar}
컴퓨터 그래픽 기술, 특히 컴퓨터 그래픽에 의해 의상을 아바타에 착장하는 기술이 개시된다.
Robert W. Sumner, Jovan Popovic, “Deformation Transfer for Triangle Meshes”, ACM Transactions on Graphics. 23, 3. August2004 에는 삼각형 메쉬로 모델링된 그래픽 객체간의 변형 전이(deformation transfer)에 대한 기본적인 개념을 개시하고 있다. 이 기술은 쏘오스 변형에 의해 발현되는 형태 상의 변화를 타겟에 전이하는 것을 목적으로 한다(The goal of deformation transfer is to transfer the change in shape exhibited by the source deformation onto the target). 여기서 쏘오스 객체의 각 메쉬의 변형의 정도는 의사변환 행렬(affine transformation matrix) 로 표현된다. 이 의사 변환 행렬은 삼각형 메쉬의 방향, 크기, 그리고 변형에 의해 초래된 비틀어짐의 변화량을 인코딩한다(encodes the change in orientation, scale, and skew induced by the deformation on the triangle). 이후에 쏘오스의 각 메쉬에 대응하는 타겟의 메쉬들을 정하여 대응 맵(correspondence map)이 산출된다. 이 대응 맵은 일반적으로 m : n 이다. 이후에 타겟의 각 메쉬에 대응되는 의사변환 행렬을 적용한다. 타겟의 각 메쉬에 대응되는 의사변환 행렬은 그 메쉬에 대응하는 쏘오스의 메쉬에 대해 산출된 것이다. 이후에, 인접한 메쉬간의 균일성(consistency)을 유지하기 위해, 타겟 메쉬들이 연결을 유지하면서 변형에 따른 에너지의 총합이 최소가 되도록 최적화되는 변위(displacement)가 각 타겟 메쉬에 대해 산출된다. 산출된 변위를 각 타겟 메쉬에 적용함으로써, 쏘오스의 변형이 타겟에 전이된 3D 모델이 구해진다.
여기서 대응 맵(correspondence map)은 사용자가 선택한 마커 점들(userselected marker points)의 도움을 받아 쏘오스 삼각형 메쉬에 가장 근접한 무게중심을 가진 삼각형 메쉬를 찾아서 결정한다. 이는 타겟 변형의 도출에 사람이 개입필요하다는 제한을 초래한다.
본 출원인에 의해 출원되어 2014.09.11.자 공개된 공개특허공보 제2014-0108451호는 의상 자동 전이 착장 방법을 개시하고 있다. 이 방법에 따르면, 의상을 아바타의 스킨처럼 만들고 의상의 각 점들로부터 아바타 표면 상에서 가장 가까운 위치를 계산함으로써 의상의 모든 점과 아바타 표면의 점 사이에 연결 관계를 형성한다. 이후에 특징점에 기초하여 아바타간 피팅을 통해 아바타의 크기와 포즈(pose)를 일치시킨다. 이후에 피팅된 아바타에 착장된 의상을 그대로 타겟 아바타로 옮긴 후 발생한 교차(collision)를 제거한다. 이러한 방법은 두 아바타의 형태(shape)가 많이 다른 경우에는 교차(collision)가 많이 발생하기 때문에 전이 착장이 어렵다. 또 두 아바타간 대응하는 특징점들을 매핑시키는 것을 자동화하는 것에 관해 설명하고 있지 않다.
R
Figure 112018032182560-pat00001
mi Brouet, Alla Sheer, Laurence Boissieux, Marie-Paule Cani, “Design Preserving Garment Transfer”, ACM Transactions on Graphics, Association for Computing Machinery, 2012, 31 (4), Article No. 36. 은 서로 다른 신체 형상을 가진 케릭터간에 디자인을 유지하면서 의상을 전이하는 완전히 자동화된 방법을 제시한다(present a fullyautomaticmethod for design-preserving transfer of garments between characters with different body shapes). 이는 의상 디자인에서 흔히 패턴 그레이딩(pattern grading)이라고 불리는 작업의 자동화를 의미한다. 이 논문에 따르면, 그레이딩은 먼저 쏘오스 의상을 비례적으로 스케일링하여 꼭 끼는 초기 의상 모델을 생성한다(generates a skinning-like initial model of a proportionally scaled reference garment). 이후에, 전역적인 설계 보존 최적화를 실시한다(a global design preserving optimization). 이 설계 보존 최적화는 쏘오스 의상의 형태를 효율적으로 보존하기 위해, 각각의 삼각형 메쉬의 법선벡터를 최대한 유지하도록 제약을 걸고 민감한 타이트한 부분과 그렇지 않은 부분을 구별하여 피팅을 보존하는 과정을 포함한다. 추가적으로, 생성된 3D 의상 모델링으로부터 2D 패턴을 추출한다.
그러나, 이 기술은 전이 변형을 통해 생성된 3차원 타겟 의상을 평활화(flattening) 하는 방법으로 전이 변형된 타겟 패턴을 생성하기 때문에 최적화의 정확도가 떨어져 외곽선이 불규칙하며 현실의 의상 디자인에 바로 사용할 수 없다.
추가로 전이된 3D 모델링 결과로부터 생성된 2D 패턴은 3D 모델링 자체가 중력의 영향을 포함하고 있으므로 중력의 영향이 반영된다. 이 생성된 2D 패턴으로부터 다시 3D 모델링을 생성할 경우 중력이 2중으로 적용되어 원래의 전이된 3D 모델링과 다른 형태를 보일 수 있다.
제안된 발명은 원본 아바타에 착장된 의상의 원본 패턴을 새로운 타겟 아바타에 착장할 수 있는 타겟 패턴으로 효율적으로 변환하는 방법을 제공하는 것을 목적으로 한다.
나아가 제안된 발명은 타겟 패턴의 생성 시 보다 현실적으로 사용할 수 있는 완성도를 달성하는 것을 목적으로 한다.
나아가 제안된 발명은 타겟 패턴의 생성시 3D 모델링에 포함되어 있는 중력의 영향을 배제하는 것을 목적으로 한다.
나아가 제안된 발명은 원본 아바타와 타겟 아바타의 형태가 많이 다른 경우에도 원본 아바타에 착장된 의상의 패턴으로부터 효과적으로 타겟 아바타에 착장시킬 수 있는 의상의 패턴을 생성하는 것을 또다른 목적으로 한다.
삭제
삭제
삭제
일 양상에 따르면, 타겟 아바타에 착장될 수 있는 타겟 의상의 타겟 패턴은 타겟 의상의 모델링을 평활화하는 대신, 원본 패턴의 변형으로부터 직접 생성된다.
일 양상에 따르면, 원본 아바타에 착장된 원본 의상의 3차원 메쉬에, 원본 아바타 표면의 대응하는 3차원 메쉬의 아바타 변형 변환을 적용하여 타겟 아바타에 착장될 타겟 의상의 3차원 메쉬를 결정한다. 이로부터 의상 패턴의 2차원 메쉬와 타겟 의상의 대응하는 3차원 메쉬간의 변형을 나타내는 타겟 변형(target deformation)을 구한다. 타겟 변형, 원본 변형으로부터 패턴 변형이 구해지고, 패턴 변형이 따라 결정되는 2차원 메쉬를 포함하는 타겟 패턴이 생성된다.
일 양상에 따르면, 타겟 패턴을 생성함에 있어서, 패턴 변형들의 분포를 스무딩(smoothing) 하는 단계가 추가로 포함될 수 있다.
일 양상에 따르면, 산출된 패턴 변형과, 최종 패턴 변형의 차이에 관한 목적 함수가 미리 정해진 최적화 조건을 만족하도록 최종 패턴 변형을 결정하는 단계가 추가로 포함될 수 있다.
부가적인 양상에 따르면, 최적화 시 직선 상에 있는 메쉬의 점들은 직선 상으로 유지되도록 제한(constraint)을 부가할 수 있다. 또, 부가적인 양상에 따르면, 최적화 시 곡선 상에 있는 메쉬의 점들은 원래 곡선의 곡률을 유지하도록 제한(constraint)을 부가할 수 있다. 또, 부가적인 양상에 따르면, 최적화 시 패턴들 중 재봉선으로 연결될 두 세그먼트 상의 길이가 동일하도록 제한(constraint)을 부가할 수 있다. 또, 부가적인 양상에 따르면, 최적화 시 원본 의상의 압력 분포가 최대한 유지되도록 제한(constraint)을 부가할 수 있다.
일 양상에 따르면, 아바타의 대응 맵은 복수의 꼭지점(vertex)들이 서로 연결된 메쉬(mesh)로 모델링되며, 신체 표면에 밀착되도록 디자인된 가상 기준 의상을 이용하여 산출된다. 아바타의 대응 맵은 3D 모델링된 아바타(avatar)에 착장(draping)된 가상 기준 의상의 메쉬들을 아바타의 메쉬로 취급하여 산출할 수 있다.
일 양상에 따르면, 아바타 변형 변환은 3D 모델링된 아바타(avatar)에 착장(draping)된 가상 기준 의상의 메쉬들을 아바타의 메쉬로 취급하여 산출할 수 있다.
삭제
삭제
삭제
삭제
삭제
삭제
제안된 발명은 원본 아바타의 메쉬들과 타겟 아바타의 메쉬들이 동일한 수의 꼭지점을 가지지 않는 경우에도 적용될 수 있다. 또 원본 아바타와 타겟 아바타가 동일한 수의 메쉬를 포함하지 않거나 메쉬 간의 연결관계(connectivity)가 상이한 경우에도 적용될 수 있다.
제안된 발명은 원본 아바타에 착장된 의상으로부터 타겟 아바타에 착장될 의상의 패턴을 실제로 사용할 수 있을 정도의 완성도로 제공할 수 있다.
삭제
도 1은 제안된 발명의 일 실시예에 따른 아바타에 착장된 의상의 전이 패턴 생성 방법의 구성을 도시한 흐름도이다.
도 2는 대응 맵과 아바타 변형 변환을 구하는 또다른 실시예의 구성을 도시한 흐름도이다.
도 3은 패턴 변형 텐서에 대한 후처리의 일 실시예의 구성을 도시한 흐름도이다.
도 4는 패턴 변형 텐서의 산출 과정을 설명하는 도면이다.
도 5는 가상 기준 의상을 원본 아바타 및 타겟 아바타에 착장한 모습을 도시한다.
도 6은 원본 의상과 산출된 타겟 의상이 각 아바타에 착장된 모습을 예시한다.
전술한, 그리고 추가적인 양상들은 첨부된 도면을 참조하여 설명하는 실시예들을 통해 구체화된다. 각 실시예들의 구성 요소들은 다른 언급이나 상호간에 모순이 없는 한 실시예 내에서 다양한 조합이 가능한 것으로 이해된다.
제안된 발명은 컴퓨팅 장치에서 실행되는 그래픽 프로그램에 의해 구현된다. 컴퓨팅 장치는 마이크로프로세서와, 마이크로프로세서에 의해 실행되는 프로그램과 데이터가 저장되는 메모리를 포함한다. 본 명세서에서 '명령어 세트'는 컴퓨터 프로그램에서 하나의 프로그램 모듈에 포함된 명령어들이거나, 또는 컴퓨터 프로그램에서 연속된 명령어들이거나, 또는 컴퓨터 프로그램에서 몇 군데 불연속적으로 존재하나 하나의 통일된 기능을 수행하는 명령어들일 수 있다. 컴퓨터 프로그램으로 구현된 방법을 구성하는 단계들은 하나 혹은 복수의 명령어 세트로 구현될 수 있다.

도 1은 제안된 발명의 일 실시예에 따른 아바타에 착장된 의상의 전이 패턴 생성 방법의 구성을 도시한 흐름도이다. 도시된 바와 같이, 일 실시예에 따른 전이 패턴 생성 방법은 아바타 변형 산출 단계(S100)와, 의상 형태 변환 단계(S200)와, 원본 변형 산출 단계(S300)와, 타겟 변형 산출 단계(S400)와, 패턴 변형 산출 단계(S500)와, 타겟 패턴 생성 단계(S600)와, 출력 단계(S700)를 포함한다.
아바타 변형 산출 단계(S100)는 원본 아바타 표면의 메쉬와 타겟 아바타 표면의 대응하는 메쉬의 변형 변환(deformation transformation)을 산출한다. 이후에 이 변형 변환을 원본 의상에 적용하여 타겟 의상의 형태를 계산한다(S200). 즉, 원본 아바타에 착장된 원본 의상의 메쉬에, 원본 아바타 표면의 대응하는 메쉬의 아바타 변형 변환을 적용하여 타겟 아바타에 착장될 타겟 의상의 메쉬 형태를 계산한다.
원본 아바타와 타겟 아바타의 표면이 메쉬로 모델링된 경우 아바타 메쉬간의 변형 변환은 대응 맵(correspondence map)을 이용하여 산출될 수 있다. 대응 맵은 예를 들면 아바타의 머리끝, 발끝, 팔끝 등 특징점을 기준으로 비율적으로 산출될 수 있다. 원본 의상의 메쉬에 대응하는 원본 아바타 표면의 메쉬는, 예를 들면 의상의 메쉬 의꼭지점들에 가장 근접한 아바타 메쉬의 꼭지점들을 찾아서 결정할 수 있다.
도 2는 대응 맵과 아바타 변형 변환을 구하는 또다른 실시예의 구성을 도시한 흐름도이다. 일 양상에 따르면, 먼저 복수의 꼭지점(vertex)들이 서로 스프링으로 연결된 메쉬(mesh)로 모델링되며, 신체 표면에 밀착되도록 디자인된 가상 기준 의상이 준비된다. 일 실시예에서 메쉬는 삼각형이다. 일반적으로 가상 의상은 꼭지점(vertex)들이 서로 스프링으로 연결되고, 각각이 질량을 가지는 메쉬로 모델링되지만, 가상 기준 의상의 경우 다양한 형태를 가진 여러 아바타의 표면을 일반적으로 모델링하기 위한 것이므로, 질량을 가질 필요는 없다. 그러나 배제할 필요도 없다.
의상을 아바타에 착장하는 과정은 사용자가 2D 패턴을 아바타에 적절히 배치하고 재봉선에 재봉을 지시하면 시뮬레이션을 통해 2D 패턴이 3D 의상 객체로 변환된다. 제안된 발명의 일 실시예에 따르면, 사용자가 가상 기준 의상의 2D 패턴을 원본 아바타(source avatar)에 적절히 배치하고 재봉선에 재봉을 지시하여 3D 의상 객체로 변환한 후, 생성된 결과물, 즉 원본 아바타에 착장(draping)된 가상 기준 의상이 산출된다. 추가로, 사용자가 동일한 가상 기준 의상의 2D 패턴을 타겟 아바타(target avatar)에 적절히 배치하고 재봉선에 재봉을 지시하여 3D 의상 객체로 변환한 후, 생성된 결과물, 즉 타겟 아바타에 착장(draping)된 가상 기준 의상이 산출된다(단계 S110). 대응 맵 산출 단계(S130)는 이 두 가상 기준 의상, 즉 원본 아바타(source avatar)에 착장(draping)된 가상 기준 의상과, 타겟 아바타(target avatar)에 착장된 가상 기준 의상으로부터 대응 맵(correspondence map)을 산출한다. 대응 맵은 원본 아바타에 착장된 가상 기준 의상의 메쉬와, 타겟 아바타에 착장된 가상 기준 의상의 대응하는 메쉬의 위치 정보의 쌍들을 포함하여 구성된다. 이 대응 맵은 메모리에 저장된다. 일 예로, 메쉬의 위치 정보는 메쉬의 꼭지점의 위치 정보일 수 있다. 또다른 예로, 메쉬의 위치 정보는 메쉬의 무게 중심의 위치 정보일 수 있다. 이에 의해 아바타 표면이 메쉬로 모델링되지 않은 경우, 예를 들어 아바타가 폴리곤(polygon)에 의해 모델링된 경우에도 전이 착장이 용이하게 처리될 수 있다.

또다른 양상에 따르면, 가상 기준 의상의 착장 과정을 포함하는 대응 맵 산출 과정이 자동으로 수행된다. 도 2를 참조하여 이 실시예를 설명한다. 이 실시예에서, 대응 맵 산출을 위해 먼저 가상 기준 의상(virtual reference garment)이 원본 아바타에 착장된다. 사용자가 원본 아바타를 선택하면, 제안된 발명에 따른 프로그램은 3D 객체 인식을 통해 원본 아바타의 특징점, 예를 들면 머리, 어깨선, 팔, 다리를 인식하여 가상 기준 의상의 2D 패턴을 적절히 배치한다. 가상 기준 의상의 2D 패턴에는 재봉선 정보가 미리 입력되어 있으며, 배치된 2D 패턴들이 이 재봉선에 의해 연결된 후 착장된다. 가상 기준 의상이 착장되어 가상 기준 의상의 메쉬들이 원본 아바타 표면에 밀착됨에 의해, 원본 아바타 표면이 모델링된다.
동일한 가상 기준 의상은 타겟 아바타에도 착장된다. 두 아바타의 착장은 동시에 처리될 수도 있고, 순서에 무관하게 순차적으로 처리될 수도 있다. 사용자가 타겟 아바타를 선택하면, 제안된 발명에 따른 프로그램은 3D 객체 인식을 통해 타겟 아바타의 특징점, 예를 들면 머리, 어깨선, 팔, 다리를 인식하여 가상 기준 의상의 2D 패턴을 적절히 배치한다. 가상 기준 의상의 2D 패턴에는 재봉선 정보가 미리 입력되어 있으며, 배치된 2D 패턴들이 이 재봉선에 의해 연결된 후 착장된다. 가상 기준 의상이 착장되어 가상 기준 의상의 메쉬들이 타겟 아바타 표면에 밀착됨에 의해, 타겟 아바타 표면이 모델링된다(S110).
이에 의해 아바타 표면이 메쉬로 모델링되지 않은 경우, 예를 들어 아바타가 폴리곤(polygon)에 의해 모델링된 경우에도 전이 착장이 용이하게 처리될 수 있다.
이후에 원본 아바타에 착장된 가상 기준 의상의 메쉬와, 타겟 아바타에 착장된 가상 기준 의상의 대응하는 메쉬의 위치 정보의 쌍들이 아바타간의 대응 맵(correspondence map)으로 산출된다(단계 S130). 동일한 가상 기준 의상이 착장되었기 때문에, 대응하는 메쉬들이 직접적으로 식별될 수 있다.
일 예로, 메쉬의 위치 정보는 메쉬의 꼭지점의 위치 정보일 수 있다. 또다른 예로, 메쉬의 위치 정보는 메쉬의 무게 중심의 위치 정보일 수 있다.

도 5는 이 가상 기준 의상이 원본 아바타 및 타겟 아바타에 착장된 모습을 도시한다. 동일한 가상 기준 의상이 착장되었으므로, 두 아바타에 있어서 볼륨이나 형태는 달라졌지만 메쉬의 연결 관계나 개수는 동일하다. 메쉬는 설명의 목적으로 도시된 것이며, 일반적으로 실제 시뮬레이션 결과에서는 보이지 않는다.
일반적으로 가상 의상의 메쉬의 싸이즈는 시뮬레이션될 때 움직임의 섬세함 정도에 따라 부위별로 달리 모델링되는 것이 계산을 줄이는 측면에서 유리하다. 그러나 여기서 메쉬는 단지 아바타 표면을 모델링하기 위한 것이므로, 메쉬의 싸이즈가 모두 동일하더라도 무방하다. 이 가상 기준 의상은 원본 아바타(source avatar)와 타겟 아바타(target avatar) 표면에 밀착되어, 시각화하여 화면에 출력하면 마치 아바타가 내복을 입은 것처럼 보인다.
이 가상 기준 의상은 아바타의 표면을 모델링하기 위해 임시로 사용되며, 다양한 디자인의 의상이 착장될 수 있는 아바타 표면을 모두 커버한다. 즉, 치마, 반바지, 바지, 티셔츠, 원피스 등 모든 종류의 옷이 커버할 가능성이 있는 아바타 표면의 모든 영역을 커버해야 한다.

이러한 가상 기준 의상을 이용한 아바타간 대응 맵의 산출은 인체 뿐 아니라 동물에도 폭 넓게 적용할 수 있다. 대응 맵은 의상 객체의 전이 착장 뿐 아니라 배경 기술란에서 언급한 바와 같이 일반적으로 변형 전이(deformation transfer)에 적용될 수 있다.

다음으로, 아바타 변형(avatar deformation)이 산출된다(S150). 아바타 변형(avatar deformation)은 원본 아바타 표면의 메쉬와, 대응 맵에 따라 타겟 아바타 표면의 대응하는 메쉬간의 변형 변환(deformation transformation)으로 정의된다. 이 변형 변환은 흔히 의사 변환 행렬(affine transformation matrix)과 변위 행렬(displacement matrix)의 합으로 표현된다. 또다른 예에서, 무게중심 좌표계(barycentric coordinate)를 적절히 설정하고 변환함에 따라, 변형 변환은 의사 변환 행렬만으로 표시될 수 있다. ). 의사 변환은 메쉬의 변형에 의해 야기된 방향(orientation), 크기(scale), 틀어짐(skew)의 변화분을 인코딩한다. 아바타의 표면이 메쉬로 모델링된 경우, 대응 맵을 이용하여 원본 아바타와 타겟 아바타 표면의 메쉬들을 매핑시킬 수 있다.

또다른 양상에 따르면, 아바타 변형은 원본 아바타에 착장된 가상 기준 의상의 메쉬와, 타겟 아바타에 착장된 가상 기준 의상의 대응하는 메쉬간의 변형 변환(deformation transformation)으로 구해질 수 있다. 여기서 아바타 표면에 밀착된 가상 기준 의상의 메쉬들이 아바타 자체의 표면을 모델링한 것으로 취급된다.

다시 도 1로 돌아가면, 아바타 변형이 산출된 이후에 전이 의상의 형태가 결정된다(S200). 원본 아바타에 착장된 원본 의상의 메쉬에, 원본 아바타 표면의 대응하는 메쉬의 아바타 변형 변환을 적용하여 타겟 아바타에 착장될 타겟 의상의 메쉬 형태를 계산한다. 변형 변환(deformation transformation)은 의사변환 행렬로, 메쉬의 위치를 나타내는 좌표 행렬에 곱하여 적용될 수 있다.

이때 산출된 타겟 의상의 메쉬들은 대응 맵에 따라 대응하는 위치에 배열만 된상태로, 서로 연결되지 않아 시각화할 경우 타겟 의상의 표면은 너덜너덜하게 보인다. 변위(displacement)와 추가적인 최적화 과정을 거쳐야?? 타겟 의상은 아바타 표면에서 매끈한 질감을 드러낼 수 있다. 대응 맵이 주어지고, 변형 변환이 주어질 때 그래픽 객체간의 변형 전이(deformation transfer)에 관한 기술은 배경기술에 언급된 기술을 비롯하여 다양한 기술이 알려져 있다.

도 6은 좌측에 원본 의상이 원본 아바타에 착장된 모습을, 우측에 이러한 과정을 통해 산출된 타겟 의상이 타겟 아바타에 착장된 모습을 예시한다. 제안된 발명은 아바타의 형태가 크게 다르거나 팔 다리나 상반신, 하반신의 비율이 크게 다른 경우에도 적용될 수 있다.

도 4는 패턴 변형 텐서의 산출 과정을 설명하는 도면이다. 도시된 바와 같이, 원본 아바타의 메쉬, 원본 의상의 메쉬, 원본 패턴의 메쉬, 타겟 아바타의 메쉬, 타겟 의상의 메쉬, 타겟 패턴의 메쉬를 각각 As, Cs, Ps, At, Ct, Pt라 하고, 아바타 변형 현환을 T, 원본 변형 텐서를 Ds, 타겟 변형 텐서를 Dt라하면,
At = T As
Ct = T Cs
이고,
Cs = Ds Ps
Ct = Dt Ps
여기서,
Ct = Dt Ps = T Cs = T Ds Ps 이므로,
Dt = T Ds
T = Dt Ds-1
이 성립한다.

즉, 수학적으로는 아바타 변형 변환을 원본 패턴에 적용하여 타겟 패턴을 산출하는 것이나, 원본 변형 텐서와, 타겟 변형 텐서를 산출하는 과정에서 2D 패턴의 특징이 반영되고, 산출된 패턴 변형 텐서를 2D 패턴 영역에서 추가로 처리함으로써 직접 아바타 변형 변환을 적용하는 것에 비해 개선된 효과를 가질 수 있다.

다시 도 1로 돌아가서, 의상 형태 변환 단계(S200)이후에 원본 변형(source deformation)이 산출된다(S300). 일 실시예에서, 원본 변형은 원본 변형 텐서(source strain tensor)이다. 원본 변형 텐서(source strain tensor)는 도 4에서 원본 패턴의 메쉬 Ps 와, 원본 아바타에 착장된 원본 의상의 대응하는 메쉬 Cs 간의 변형을 나타내는 행렬이다.
이후에, 타겟 변형(target deformation)이 산출된다(S400). 일 실시예에서, 타겟 변형은 타겟 변형 텐서(target strain tensor)이다. 타겟 변형 텐서는 원본 패턴의 메쉬 Ps 와, 의상 형태 변환 단계에서 산출된 타겟의상의 대응하는 메쉬 Ct 간의 변형을 나타내는 행렬이다. 자명하게, 원본 변형 텐서를 구하는 단계와 타겟 변형 텐서를 구하는 단계는 순서를 바꾸거나 동시에 처리되어도 무방하다.
이후에, 원본 변형과, 타겟 변형으로부터 패턴 변형을 생성한다(S500). 일 실시예에서, 패턴 변형은 패턴 변형 텐서(pattern strain tensor)이다. 일 실시예에서, 패턴 변형 텐서는 원본 변형 텐서의 역행렬 Ds-1에 타겟 변형 텐서 Dt 를 곱하여 생성된다.
이후에, 원본 패턴의 메쉬와 패턴 변형으로부터 타겟 패턴을 생성한다(S600). 일 실시예에서 타겟 패턴은 원본 패턴의 메쉬에 패턴 변형 텐서를 곱하여 생성된다. 모든 타겟 패턴이 생성되면, 생성된 타겟 패턴을 출력한다(S700).

일 양상에 따르면, 패턴 변형을 생성하는 단계 이후에 패턴 변형에 대한 후처리가 포함될 수 있다. 도 3은 패턴 변형 텐서에 대한 후처리의 일 실시예의 구성을 도시한 흐름도이다. 도시된 바와 같이, 전이 패턴 생성 방법은 패턴 변형을 생성한 후 패턴 변형의 분포를 스무딩(smoothing) 하는 단계(S510)를 더 포함할 수 있다. 이는 타겟 패턴의 메쉬의 패턴 변형 텐서가 주변 메쉬들의 패턴 변형 텐서들과 유사하여 패턴 변형 텐서들의 분포가 스무드해지도록 처리하는 것으로, 일 실시예에서 패턴 변형 텐서들의 분포에 가동 평균(moving average)을 적용하거나 또다른 예로 저역필터링을 적용할 수 있다. 아바타와 의상의 매핑이 순조롭지 않은 경우, 예를 들어 의상의 한 메쉬가 아바타 몸통에 매핑되었는데 바로 그 옆 메쉬가 팔에 매핑되어 버리는 경우 최종 출력 패턴의 외곽선이 급격히 왜곡되는 현상이 초래되는데, 이와 같은 현상을 패턴 변형 텐서의 스무딩 처리를 통해 회피할 수 있다.
이후에, 패턴 변형의 최적화 과정이 수행된다(S530). 일 실시예에서, 이 과정은 산출된 패턴 변형 텐서와 최종 패턴 변형 텐서의 차이에 관한 목적 함수가 최소화되도록 최적화된 최종 패턴 변형 텐서의 변형을 산출하는 과정이다. 이는 원본 변형 텐서와 타겟 변형 텐서로부터 구해진 패턴 변형 텐서나 그 이후 스무딩처리된 패턴 변형 텐서들을 추가로 변형시켜 최적화하는 과정이다. 추가로 변형된 패턴 변형 텐서의 최종값인 최종 패턴 변형 텐서와, 입력되는 패턴 변형 텐서들의 잔차를 모든 패턴의 메쉬들에 대해 누적한 형태의 목적 함수가 산출된다. 이러한 목적 함수는 예를 들어 L2 Norm이 될 수 있으나, 다양한 예로 구현 가능하다. 일 실시예에서 이 목적함수의 그래디언트(gradient)를 0으로 하는 패턴 변형 텐서들의 추가 변형들이 모두 구해진다. 이를 통해 최종적인 패턴 변형 텐서의 분포가 산출되어 저장된다. 이와 같은 최적화 과정은 전이 변형(deformation transfer)에 있어서 알려져 있으므로 자세한 설명은 생략한다.

부가적인 양상에 따르면, 최적화 시 직선 상에 있는 메쉬의 점들은7 직선 상으로 유지되도록 제한(constraint)을 부가할 수 있다. 원본 패턴에서 직선 상으로 배치된 메쉬에 관련된 패턴 변형 텐서들은 메쉬의 관련된 꼭지점들이 텐서들과의 곱셈 후 직선을 유지하도록 패턴 변형 텐서들의 변형이 제한된다.
또, 부가적인 양상에 따르면, 최적화 시 곡선 상에 있는 메쉬의 점들은 원래 곡선의 곡률을 유지하도록 제한(constraint)을 부가할 수 있다. 원본 패턴에서 곡선 상으로 배치된 메쉬에 관련된 패턴 변형 텐서들은 메쉬의 관련된 꼭지점들이 텐서들과의 곱셈 후 동일한 곡률을 유지하도록 패턴 변형 텐서들의 변형이 제한된다.
또, 부가적인 양상에 따르면, 최적화 시 패턴들 중 재봉선의 연결될 두 세그먼트 상의 길이가 동일하도록 제한(constraint)을 부가할 수 있다. 원본 패턴들에서 재봉선으로 연결될 패턴들의 두 세그먼트들이 검출된다. 두 패턴에서 그 세그먼트의 재봉선 선분에 대응하는 패턴 변형 텐서들은 메쉬의 관련된 꼭지점들이 텐서들과의 곱셈 후, 변환된 길이가 두 패턴 간에 동일하도록 패턴 변형 텐서들의 변형이 제한된다. 만약 두 패턴의 재봉될 세그먼트 길이가 달라진다면 재봉을 통한 착장시 옷이 뒤틀리게 된다.
또, 부가적인 양상에 따르면, 최적화 시 원본 의상의 압력 분포가 최대한 유지되도록 제한(constraint)을 부가할 수 있다. 일 실시예에서, 먼저 원본 의상의 메쉬들의 원본 아바타 표면에 대한 압력 분포가 산출되어 저장된다. 이후에, 대응 맵을 이용하여 원본 의상의 압력 분포를 타겟 의상의 압력 분포로 변환한다. 아바타의 볼륨이 늘어난 부분은 더 높은 압력으로 변환되고, 줄어든 부분은 더 낮은 압력으로 변환된다. 이후에, 변환을 통해 산출된 타겟 의상의 압력 분포를 제한조건으로 하여, 산출된 패턴 변형 텐서와 최종 패턴 변형 텐서의 차이에 관한 목적 함수가 최소화되도록 최적화된 최종 패턴 변형 텐서를 산출한다.

이상에서 본 발명을 첨부된 도면을 참조하는 실시예들을 통해 설명하였지만 이에 한정되는 것은 아니며, 이들로부터 당업자라면 자명하게 도출할 수 있는 다양한 변형예들을 포괄하도록 해석되어야 한다. 특허청구범위는 이러한 변형예들을 포괄하도록 의도되었다.
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
S100 : 아바타 변형 산출 단계 S110 : 아바타 의상 착장 단계
S130 : 대응 맵 산출 단계 S150 : 아바타 변형 변환 단계
S200 : 의상 형태 변환 단계 S300 : 원본 변형 산출 단계
S400 : 타겟 변형 산출 단계 S500 : 패턴 변형 산출
S510 : 패턴 변형 스무딩 단계 S400 : 패턴 변형 최적화

Claims (15)

  1. 마이크로프로세서와, 마이크로프로세서에 의해 실행되는 프로그램과 데이터가 저장되는 메모리를 포함하는 컴퓨팅 장치에서 실행되는 그래픽 프로그램에 의해 구현되는, 아바타에 착장된 의상의 전이 패턴 생성 방법에 있어서,
    원본 아바타 표면의 3차원 메쉬와 타겟 아바타 표면의 대응하는 3차원 메쉬의 변형 변환(deformation transformation)을 획득하는 단계;
    원본 아바타에 착장된 원본 의상의 3차원 메쉬에, 원본 아바타 표면의 대응하는 3차원 메쉬의 아바타 변형 변환을 적용하여 타겟 아바타에 착장될 타겟 의상의 3차원 메쉬를 결정하는 단계;
    의상 패턴의 2차원 메쉬와 원본 의상의 대응하는 3차원 메쉬간의 변형을 나타내는 원본 변형(source deformation)을 결정하는 단계;
    상기 2차원 메쉬와, 타겟 의상의 대응하는 3차원 메쉬간의 변형을 나타내는 타겟 변형(target deformation)을 결정하는 단계; 및
    상기 의상 패턴 및 패턴 변형-상기 패턴 변형은 상기 원본 변형 및 상기 타겟 변형에 기초하여 결정됨-에 기초하여 결정되는 2차원 메쉬를 포함하는 타겟 패턴을 출력하는 단계;
    를 포함하는 전이 패턴 생성 방법.
  2. 청구항 1에 있어서,
    상기 변형 변환을 획득하는 단계는
    원본 아바타와 타겟 아바타에 착장된 가상 기준 의상들의 대응하는 메쉬의 위치 정보의 쌍들에 기초하여, 아바타간의 대응 맵(correspondence map)을 결정하는 단계; 및
    원본 아바타 표면의 메쉬와, 상기 대응 맵에 따라 타겟 아바타 표면의 대응하는 메쉬간의 변형 변환(deformation transformation)을 결정하는 단계
    를 포함하는 전이 패턴 생성 방법.
  3. 청구항 2에 있어서,
    상기 대응 맵을 결정하는 단계는
    복수의 꼭지점(vertex)들이 서로 연결된 메쉬(mesh)로 모델링되며, 신체 표면에 밀착되도록 디자인된 가상 기준 의상을 3D 모델링된 원본 아바타(avatar)에 착장(draping)하는 단계;
    상기 가상 기준 의상을 3D 모델링된 타겟 아바타(avatar)에 착장(draping)하는 단계; 및
    원본 아바타에 착장된 가상 기준 의상의 메쉬와, 타겟 아바타에 착장된 가상 기준 의상의 대응하는 메쉬의 위치 정보의 쌍들을 아바타간의 대응 맵(correspondence)으로 결정하는 단계
    를 포함하는 전이 패턴 생성 방법.
  4. 청구항 1에 있어서,
    원본 아바타와 타겟 아바타 사이의 아바타 변형은
    원본 아바타에 착장된 가상 기준 의상의 메쉬와, 타겟 아바타에 착장된 가상 기준 의상의 대응하는 메쉬간의 변형 변환(deformation transformation)으로 결정되는 전이 패턴 생성 방법.
  5. 청구항 2에 있어서, 대응 맵은 원본 아바타에 착장된 가상 기준 의상의 메쉬의 기준점 좌표와, 타겟 아바타에 착장된 가상 기준 의상의 대응하는 메쉬의 기준점 좌표의 쌍들을 포함하는 전이 패턴 생성 방법.
  6. 청구항 5에 있어서, 기준점은 메쉬의 꼭지점들을 포함하는 전이 패턴 생성 방법.
  7. 청구항 5에 있어서, 기준점은 메쉬의 무게중심을 포함하는 전이 패턴 생성 방법.
  8. 청구항 1에 있어서,
    상기 패턴 변형의 분포를 스무딩(smoothing) 하는 단계
    를 더 포함하는 전이 패턴 생성 방법.
  9. 삭제
  10. 청구항 1에 있어서, 상기 패턴 변형은 직선 상에 있는 메쉬의 점들은 직선 상으로 유지되도록 하는 제한(constraint)에 기초하여 결정되는 전이 패턴 생성 방법.
  11. 청구항 1에 있어서, 상기 패턴 변형은 곡선 상에 있는 메쉬의 점들은 원래 곡선의 곡률을 유지하도록 하는 제한(constraint)에 기초하여 결정되는 전이 패턴 생성 방법.
  12. 청구항 1에 있어서, 상기 패턴 변형은 패턴들 중 재봉선으로 연결될 복수의 세그먼트들의 길이가 매칭되도록 하는 제한(constraint)에 기초하여 결정되는 전이 패턴 생성 방법.
  13. 청구항 1에 있어서,
    대응 맵을 이용하여 원본 의상의 3차원 메쉬들의 원본 아바타 표면에 대한 압력 분포를 타겟 의상의 3차원 메쉬들의 타겟 아바타 표면에 대한 압력 분포로 변환하는 단계; 및
    상기 압력 분포가 최대한 유지되도록 하는 제한(constraint)에 기초하여 상기 패턴 변형을 결정하는 단계
    를 더 포함하는 전이 패턴 생성 방법.
  14. 청구항 1에 있어서,
    타겟 패턴의 2차원 메쉬에 포함된 점들의 위치를 바탕으로 외곽선을 추출하는 단계
    를 더 포함하는 전이 패턴 생성 방법.
  15. 하드웨어와 결합되어 제1항 내지 제8항 및 제10항 내지 제14항 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.
KR1020180037753A 2018-03-30 2018-03-30 아바타에 착장된 의상의 전이 패턴 생성 방법 KR102348137B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020180037753A KR102348137B1 (ko) 2018-03-30 2018-03-30 아바타에 착장된 의상의 전이 패턴 생성 방법
US16/368,897 US10789774B2 (en) 2018-03-30 2019-03-29 Method of generating transferred pattern of garment draped on avatar
US17/034,842 US11348312B2 (en) 2018-03-30 2020-09-28 Method of generating transferred pattern of garment draped on avatar

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180037753A KR102348137B1 (ko) 2018-03-30 2018-03-30 아바타에 착장된 의상의 전이 패턴 생성 방법

Publications (2)

Publication Number Publication Date
KR20190114676A KR20190114676A (ko) 2019-10-10
KR102348137B1 true KR102348137B1 (ko) 2022-01-07

Family

ID=68055354

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180037753A KR102348137B1 (ko) 2018-03-30 2018-03-30 아바타에 착장된 의상의 전이 패턴 생성 방법

Country Status (2)

Country Link
US (2) US10789774B2 (ko)
KR (1) KR102348137B1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DK3504994T3 (da) * 2017-12-29 2020-11-23 Polygonal Bvba Snitmønsteroptimeringssystem og fremgangsmåde
US10861233B1 (en) * 2019-07-17 2020-12-08 Pixar Mesh wrap based on affine-invariant coordinates
EP3772040A1 (en) * 2019-07-30 2021-02-03 Reactive Reality AG Method and computer program product for producing 3-dimensional model data of a garment
US11151786B2 (en) * 2019-08-19 2021-10-19 Clo Virtual Fashion Inc. Grading garment that includes supplemental material
KR102543605B1 (ko) * 2020-11-16 2023-06-20 (주)클로버추얼패션 온라인 피팅 방법 및 장치
WO2023225556A1 (en) * 2022-05-19 2023-11-23 Spree3D Corporation Digital garment grading

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101702069B1 (ko) 2015-10-06 2017-02-02 (주)클로버추얼패션 3d 의상 착장 시뮬레이션 방법 및 장치

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100860375B1 (ko) * 2006-12-05 2008-09-25 한국전자통신연구원 캐릭터 애니메이션과 메쉬 변형을 이용한 카툰 애니메이션제작 방법 및 시스템
KR100947439B1 (ko) * 2008-06-12 2010-03-12 주식회사 넥슨 체형 변화에 따라 아이템을 실시간으로 모핑하는 시스템 및방법
KR101106104B1 (ko) * 2010-04-27 2012-01-18 (주)클로버추얼패션 3차원 의상 자동 전이 착장 방법 및 그 장치와, 그 방법을 실행시키기 위한 프로그램을 기록한 컴퓨터 판독가능 기록매체
KR20140108451A (ko) * 2013-02-28 2014-09-11 (주)클로버추얼패션 아바타 3차원 의상 자동 전이 착장 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101702069B1 (ko) 2015-10-06 2017-02-02 (주)클로버추얼패션 3d 의상 착장 시뮬레이션 방법 및 장치

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Sumner and Popovic. Deformation transfer for triangle meshes. ACM Transactions on graphics, 2004년, pp. 399-405. 1부.*

Also Published As

Publication number Publication date
US20210012569A1 (en) 2021-01-14
US20190304182A1 (en) 2019-10-03
US11348312B2 (en) 2022-05-31
KR20190114676A (ko) 2019-10-10
US10789774B2 (en) 2020-09-29

Similar Documents

Publication Publication Date Title
KR102348137B1 (ko) 아바타에 착장된 의상의 전이 패턴 생성 방법
US10529127B2 (en) System and method for simulating realistic clothing
US10546433B2 (en) Methods, systems, and computer readable media for modeling garments using single view images
CN105354876B (zh) 一种基于移动终端的实时立体试衣方法
US10970939B2 (en) Apparatus and method for transferring garment draping between avatars
Li et al. Modeling 3D garments by examples
CN110503681B (zh) 人体模型自动创建方法及三维试衣系统
CN103678769B (zh) 基于人体骨架与二维形变的真实感服装创建方法
US11308707B2 (en) Automated grading of clothing patterns of garment
CN113012303B (zh) 一种可保持服装纹理特征的多种类变尺度虚拟试衣方法
US11151786B2 (en) Grading garment that includes supplemental material
US20210056754A1 (en) Generating clothing patterns of garment using bounding volumes of body parts
Lee et al. Heuristic misfit reduction: a programmable approach for 3D garment fit customization
CN114375463A (zh) 从身体的隐藏扫描中估计裸露体形的方法
JP5161229B2 (ja) 着装シミュレーション装置とシミュレーション方法、シミュレーションプログラム
KR102332069B1 (ko) 부자재 요소를 포함하는 의상의 그레이딩 방법 및 장치
Zhu et al. Dual adaptive adjustment for customized garment pattern
KR102273317B1 (ko) 의상 패턴들의 오토 그레이딩 방법 및 장치
KIM et al. Direct 3D modeling of upper garments from images
Li et al. 3D fashion fast modeling from photographs
RU2669688C2 (ru) Способ проектирования конструкций одежды на основе совмещения виртуальных образов типовой и индивидуальной фигур
Xu et al. Predicting ready-made garment dressing fit for individuals based on highly reliable examples
Zhu et al. Fit evaluation during repetition interaction in garment pattern design
CN113240818A (zh) 一种模拟和显示假人模型服装的方法
CN114764516A (zh) 虚拟现实服装设计的3d稿转2d制版的转化方法

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant