KR20160144699A - 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법 - Google Patents

2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법 Download PDF

Info

Publication number
KR20160144699A
KR20160144699A KR1020150081147A KR20150081147A KR20160144699A KR 20160144699 A KR20160144699 A KR 20160144699A KR 1020150081147 A KR1020150081147 A KR 1020150081147A KR 20150081147 A KR20150081147 A KR 20150081147A KR 20160144699 A KR20160144699 A KR 20160144699A
Authority
KR
South Korea
Prior art keywords
image
face
vertex
model
dimensional
Prior art date
Application number
KR1020150081147A
Other languages
English (en)
Other versions
KR101759188B1 (ko
Inventor
오인환
이희만
최태준
박선희
Original Assignee
오인환
최태준
박선희
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 오인환, 최태준, 박선희 filed Critical 오인환
Priority to KR1020150081147A priority Critical patent/KR101759188B1/ko
Publication of KR20160144699A publication Critical patent/KR20160144699A/ko
Application granted granted Critical
Publication of KR101759188B1 publication Critical patent/KR101759188B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00—Animation
    • G06T13/20—3D [Three Dimensional] animation
    • G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G06T2207/30201—Face

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 2D 이미지로부터 3D 모델을 생성하는 방법에 관한 것으로, 더욱 구체적으로는 일반인들도 쉽게 3D모델을 생성할 수 있는 기술로 한 장의 2차원 정면 얼굴 사진으로부터 3D 모델링 자동 생성하는 방법에 관한 것이다.
본 발명은 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법에 있어서,
컬러 영상을 그레이 이미지로 변환하는 단계(102), 상기 단계로부터 변환된 그레이 이미지로부터 얼굴을 검출하는 단계(103), 상기 검출한 얼굴에서 눈코입을 검출하는 단계(104), 그레이 이미지에 대하여 저역통과 필터를 실행하는 단계(105), 그레이 이미지에서 에지를 검출하는 단계(106), 상기 단계에서 검출한 에지 정보로부터 전경과 배경을 분리하는 단계(110), 분리된 전경이미지에 전경 버텍스를 분배하는 단계(111), 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107), 후방 부분 면을 생성하는 단계(108), 상기 단계(107 단계)에서 계산한 전방 버텍스를 상기 단계(103,104,105 단계)에서 추출한 정보를 이용하여 전방 부분 버텍스를 재설정하는 단계(109)와, 상기 단계(109 단계)에서 계산한 버텍스 정보를 이용하여 전방 부분 면을 생성하는 단계(113)와 상기 모든 단계를 통하여 생성된 정보를 이용하여 최종 3D 모델을 만드는 단계(112)를 포함하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
또한 본 발명은 상기 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107)는,
가상의 수평라인 각각에서 영상의 중심 좌표(centerX, centerY)를 산출하고 이미지 공간상의 좌표(x,y)에 대응되는 3차원 모델의 버텍스 좌표 V(Vx , Vy, Vz)를 연산하는 것으로 수행하는 것을 특징으로 하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
또한 본 발명은 상기 전방 부분 버텍스를 재설정하는 단계(109)는,
Vz = Vz + βI(x,y)/Gmax 의 수식으로 연산하여 재설정하는 것을 특징으로 하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.

Description

2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법{the automatic 3D modeliing method using 2D facial image}
본 발명은 2D 이미지로부터 3D 모델을 생성하는 방법에 관한 것으로, 더욱 구체적으로는 일반인들도 쉽게 3D모델을 생성할 수 있는 기술로 한 장의 2차원 정면 얼굴 사진으로부터 3D 모델링 자동 생성하는 방법에 관한 것이다.
얼굴에 대한 3D 모델은 컴퓨터 게임이나 애니메이션 제작 등 다양한 분야에서 수요가 있으며 최근 3D 프린터의 보급에 따라 더욱 많은 수요가 필요하게 되었다.
얼굴에 대한 3D 모델은 숙련된 전문가와 전문 소프트웨어 툴을 이용하여 작성하거나 스캐너를 이용하여 제작하였다.
최근 일반인도 쉽게 3D 모델을 생성할 수 있는 연구가 활발히 진행되고 있다.
일반인의 얼굴을 3차원으로 모델링하는 방법에는 여러 가지가 있다.
그 중 하나는 직접 특정인의 얼굴을 3차원으로 스캔하여 스캔된 데이터로 3차원 얼굴을 모델링하는 방법이 있고, 다른 하나는 특정인의 얼굴을 여러 각도에서 촬영하고 촬영된 결과를 이용하여 미리 만들어진 3차원 형상의 일반 얼굴모델을 변형하여 특정인의 3차원 얼굴을 모델링하는 방법이 있다.
전자의 경우, 3차원 스캐너와 같은 전문 장비를 사용하여 특정인의 얼굴의 굴곡과 실제 피부색깔에 관한 정보를 직접 얻을 수 있기 때문에 특정인의 얼굴에 대해 상당히 정확한 3차원 얼굴 모델링을 할 수 있다. 그러나 이런 방법은 값비싼
장비를 사용하여야 하고, 3차원 얼굴 모델링의 당사자도 3차원 스캐너가 있는 특정한 장소까지 가서 스캔을 받아야 3차원 얼굴 모델링을 할 수 있으므로 불편한 점이 없지 않았다.
상기한 문제점을 해결하기 위하여 등록특허 10-0372811호(2차원 얼굴 정면 이미지를 이용한 3차원 얼굴 모델 생성방법, 이하 선행기술)는 "특정인 얼굴의 2차원 정면사진 이미지를 입력받는 단계와, 입력받은 2차원 이미지에 제어점을 설정해주는 단계와, 이를 이용하여 미리 만들어져 있는 3차원 기본 모델을 2차원 이미지에 일치하도록 변형시키는 단계와, 3차원 변형모델에 상기 2차원 이미지의 텍스쳐(texture)를 매핑하는 단계를 포함하는 2차원 얼굴 정면 이미지를 이용한 3차원 얼굴 모델 생성방법"을 제공한 바 있다.
상기한 선행기술을 포함한 사진 또는 다른 이미지로부터 3차원 모델을 생성할 수 있는 자동 3차원 모델링 및 시스템에 관한 특허는 최근 들어 출원 건수가 증기되고 있다.
상기한 기존의 3차원 얼굴을 생성하는 기술은 얼굴에 대응하는 모든 3D포인트(point)로 구성된 포인트 클라우드(point)와 포인트 클라우드에 대응하는 텍스쳐 정보를 이용하여 3차원 얼굴을 생성하고 있다.
즉, 3차원 얼굴을 생성하기 위하여 필요한 3D 포인트의 개수가 많으므로 3차원 얼굴을 생성하는 과정에서 시간이 지연되고 있는바, 즉, 3차원 얼굴을 생성하기 위하여 필요한 3D 포인트 개수가 많으므로 얼굴을 생성하는 과정에서 시간이 지연되고 있는데, 본 발명은 이러한 시간의 지연을 현저히 줄이는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공하고자 한다.
또한 종래의 기술은 하나의 영상은 한 면의 얼굴만을 포함할 수 있으므로, 3차원 얼굴을 생성하기 위해서는 다양한 시점에서 촬영한 복수의 영상이 필요한 문제점이 있었는바, 본 발명은 3차원 얼굴을 빠르게 생성할 수 있으며, 하나의 영상으로 다양한 시점에 대응하는 3차원 얼굴을 생성하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공하고자 한다.
본 발명은 상기한 문제점 및 요구를 해결하기 위하여,
2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법에 있어서,
컬러 영상을 그레이 이미지로 변환하는 단계(102), 상기 단계로부터 변환된 그레이 이미지로부터 얼굴을 검출하는 단계(103), 상기 검출한 얼굴에서 눈코입을 검출하는 단계(104), 그레이 이미지에 대하여 저역통과 필터를 실행하는 단계(105), 그레이 이미지에서 에지를 검출하는 단계(106), 상기 단계에서 검출한 에지 정보로부터 전경과 배경을 분리하는 단계(110), 분리된 전경이미지에 전경 버텍스를 분배하는 단계(111), 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107), 후방 부분 면을 생성하는 단계(108), 상기 단계(107 단계)에서 계산한 전방 버텍스를 상기 단계(103,104,105 단계)에서 추출한 정보를 이용하여 전방 부분 버텍스를 재설정하는 단계(109)와, 상기 단계(109 단계)에서 계산한 버텍스 정보를 이용하여 전방 부분 면을 생성하는 단계(113)와 상기 모든 단계를 통하여 생성된 정보를 이용하여 최종 3D 모델을 만드는 단계(112)를 포함하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
또한 본 발명은 상기 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107)는,
가상의 수평라인 각각에서 영상의 중심 좌표(centerX, centerY)를 산출하고 이미지 공간상의 좌표(x,y)에 대응되는 3차원 모델의 버텍스 좌표 V(Vx , Vy, Vz)를 연산하는 것으로 수행하는 것을 특징으로 하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
또한 본 발명은 상기 전방 부분 버텍스를 재설정하는 단계(109)는,
Vz = Vz + βI(x,y)/Gmax 의 수식으로 연산하여 재설정하는 것을 특징으로 하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
본 발명에 따른 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법은 비전문가인 어린이 및 일반인들도 쉽게 3D 모델링을 할 수 있도록 하는 효과가 창출된다.
[도 1]은 본 발명의 실시 예에 따른 블럭 다이어그램.
[도 2a]는 본 발명의 실시 예에 따른 컬러로 입력된 영상을 그레이 이미지로 변환한 영상 처리 결과.
[도 2b]는 본 발명의 실시 예에 따른 에지 검출 영상처리 결과 .
[도 2c]는 본 발명의 실시 예에 따른 전경이미지에서 얼굴을 검출하고 눈, 코, 입을 검출한 영상처리 결과.
[도 2d]는 전방 부분의 버텍스를 재설정하는 단계에서 눈썹과 코부분은 수식 (13)부터 수식 (16)을 이용하여 보완 수정한 것을 보여주는 영상 처리 결과.
[도 3a]는 눈썹 및 코 영역을 처리하지 않은 경우의 결과.
[도 3b]는 눈썹과 코부분을 좀 더 자연스럽게 처리한 결과.
[도 4]는 Haar-like feature를 보여 주는 도면.
[도 5]는 영상에서의 얼굴의 크기는 카메라와 피사체의 거리 및 줌에 따라 크기가 달라짐으로 영상에서 검출한 두 눈의 중심 사이 거리 IPD(interpupillary distance)를 얼굴 파라미터로 활용하는 것을 보여주는 도면.
[도 6]은 전경으로 분리된 이미지 위에 일정한 간격으로 버텍스를 배열하고 버텍스를 이용하여 면을 생성하는 원리를 설명하는 도면.
이하 본 발명을 도면을 참고하여 상세히 설명하고자 한다.
본 발명은 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법에 있어서,
컬러 영상을 그레이 이미지로 변환하는 단계(102), 상기 단계로부터 변환된 그레이 이미지로부터 얼굴을 검출하는 단계(103), 상기 검출한 얼굴에서 눈코입을 검출하는 단계(104), 그레이 이미지에 대하여 저역통과 필터를 실행하는 단계(105), 그레이 이미지에서 에지를 검출하는 단계(106), 상기 단계에서 검출한 에지 정보로부터 전경과 배경을 분리하는 단계(110), 분리된 전경이미지에 전경 버텍스를 분배하는 단계(111), 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107), 후방 부분 면을 생성하는 단계(108), 상기 단계(107 단계)에서 계산한 전방 버텍스를 상기 단계(103,104,105 단계)에서 추출한 정보를 이용하여 전방 부분 버텍스를 재설정하는 단계(109)와, 상기 단계(109 단계)에서 계산한 버텍스 정보를 이용하여 전방 부분 면을 생성하는 단계(113)와 상기 모든 단계를 통하여 생성된 정보를 이용하여 최종 3D 모델을 만드는 단계(112)를 포함하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
본 발명의 실시 예에 따른 블럭 다이어그램은 [도 1]과 같다.
본 발명은 입력된 영상으로부터 3D 모델의 변환은 [도 2a]와 같이 컬러로 입력된 영상을 그레이 이미지로 변환하는 것부터 시작한다.
본 발명의 상기한 입력된 영상은 2D로 입력된 영상이며, 얼굴의 이미지로 입력되어 있다.
본 발명은 상기한 칼라 영상을 그레이 이미지로 변환하는 단계(102)를 수행한다.
상기의 변경된 그레이(gray) 이미지는 저역 필터로 처리하거나 눈코입을 검출하거나 또는 에지 검출 용도로 활용하게 된다.
본 발명은 상기 단계로부터 변환된 그레이 이미지로부터 얼굴을 검출하는 단계(103)를 수행하게 된다.
본 발명의 상기한 얼굴을 검출하는 방법으로는 Haar-like feature를 이용하여 AdaBoost 학습 알고리즘 사용하는 얼굴패턴 인식 알고리즘을 사용한다.
[도 4]는 Haar-like feature를 보여 주는 도면이다.
Haar-like feature는 탐색영역 윈도우 안의 이웃하는 직사각형의 영역을 설정하여 영역 안의 이미지 휘도의 합을 구하여 값의 차이를 구하는 방식이다.
이 차이는 이미지 영역을 구분하는 데 사용되는데 예를 들어 사람의 눈의 영역이 통상적으로 볼의 영역보다 더 어두운 패턴을 가지고 있으므로 이런 특징을 이용하여 얼굴을 검출한다.
Boosting 알고리즘은 약-학습기의 결합으로 강-학습기를 만들어 내는 교사학습 머신러닝 기법이다. 검출한 얼굴 영역 안에서 눈과 코의 위치를 같은 기법으로 이용하여 찾아낸다. 검색된 얼굴 영역 내에서만 검출을 시도함으로 연산 속도가 비교적 빠르다.
본 발명은 상기 단계에서 검출한 얼굴에서 눈, 코, 입을 검출하는 단계(104)를 수행하게 된다.
상기에서 눈, 코, 입을 검출하는 단계는 아래와 같이 수행할 수 있다.
[도 5]에서 보는 것처럼 영상에서의 얼굴의 크기는 카메라와 피사체의 거리 및 줌에 따라 영상에서 검출한 두 눈의 중심 사이 거리 IPD(interpupillary distance)를 얼굴 파라미터로 활용된다.
이 길이를 기준으로 눈썹의 위치를 찾아낸다.
눈썹의 위치는 눈 위 부분에 관심영역(ROI)를 설정하고 주변보다 어두운 영역을 검출한다.
눈썹 ROI 영역에 히스토그램을 계산하고 히스토그램으로부터 이진화 임계값을 산출하여 눈썹 영역을 세그멘테이션한다.
검출한 얼굴 영역 안에서 눈과 코와 입의 위치를 같은 기법으로 계산하게 된다.
본 발명은 상기한 그레이 이미지에 대하여 저역통과 필터를 실행하는 단계(105)를 수행하게 된다.
상기한 원본의 그레이 영상은 많은 노이즈를 가지고 있으므로 저역통과 필터를 사용한 그레이 이미지를 사용한다. 저역통과 필터는 가우시안 필터를 사용한다.
따라서 본 발명은 상기한 저역통과 필터 단계를 수행하여 노이즈가 많이 제거된 그레이 이미지가 추출된다.
본 발명은 상기한 그레이 이미지로부터 얼굴을 검출하는 단계(103)를 거친 후 그레이 이미지에서 에지를 검출하는 단계(106)를 수행하게 된다.
[도 2b]에서 보는 것처럼 본 발명의 에지를 검출하는 단계는 상기한 그레이 이미지에서 윤곽이 분명한 명암의 라인을 통하여 에지를 검출하게 된다.
본 발명은 상기한 에지를 검출하는 단계(106)를 수행한 후 상기 단계에서 검출한 에지 정보로부터 전경과 배경을 분리하는 단계(110)를 수행하게 된다.
본 발명에서 3차원 모델을 생성하기 위해서 모델 공간의 버텍스의 위치를 설정한다.
[도 6]은 전경으로 분리된 이미지 위에 일정한 간격으로 버텍스를 배열하고 버텍스를 이용하여 면을 생성하는 원리를 설명하는 것을 보여준다.
상기 버텍스의 위치는 이미지 좌표의 x축과 y축을 모델공간의 x축과 y축으로 사용하고 z축은 x축과 y축의 상대적 위치에 따라 계산을 한다.
본 발명은 상기한 바처럼 필요한 얼굴 부분만을 검출하기 위하여 영상의 세그멘테이션 작업이 필요하고 또한 버텍스의 위치를 설정하는 작업이 필요하다.
본 발명의 상기 에지 검출에서 전경과 배경을 분리하는 과정은 얼굴 이미지에 가상의 수평라인을 가정하면 즉, 한쪽 가장자리에서 시작한 라인이 다른 가장자리까지 이어지는 라인에서 에지가 처음 검출된 위치와 마지막에 검출된 위치 사이를 전경 부분으로 간주하여 수행할 수 있다.
본 발명에서는 증명사진과 같이 이미지의 배경부분이 단순한 이미지를 사용하다는 가정으로 [도 2b]와 같이 에지 검출을 하여 전경과 배경을 분리하였다.
본 발명은 상기한 전경과 배경을 분리하는 단계(110)를 수행한 후 상기 세그멘테이션을 한 전경이미지 영역에 일정한 개수의 버텍스를 분배하는 단계(111)를 수행한다.
상기 이미지 영역 버텍스 분배하는 단계는 전경 이미지 영역에 일정한 간격으로 가상의 수평 라인을 설정하고 할당된 수평 라인마다 일정한 개수의 버텍스 포인트를 설정하는 과정으로 수행한다. 상기 버텍스 포인트의 개수에 의해 3D 모델의 해상도가 결정된다.
본 발명은 상기한 버택스를 분배하는 단계(111) 후에 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107)를 수행한다.
상기한 각각의 수평 라인 3차원 버텍스 위치 계산은 다음과 같이 연산하여 계산한다.
먼저 가상의 수평라인 각각에서 영상의 중심 좌표(centerX, centerY)를 산출한다. 이미지 공간상의 좌표(x,y)에 대응되는 3차원 모델의 버텍스 좌표 V(Vx , Vy, Vz)는 다음과 같이 산출한다.
Vx=Sx(xy-centerX) (식1)
Vy=Sy(centerY -y) (식2)
Vz=Szr(y)cosθx (식3)
θx = α'θ2 t (식4)
θt = π(centerX -x)/2r(y) (식5)
상기 수식에서 θx 는 [-π, π] 영역으로 상하제한을 한다.
또한 Sx, Sy, Sz는 스케링 인수이고 r(y)는 이미지 평면 전경 수평축 이미지의 길이 1/2이다.
모델의 전방 부분의 버텍스 좌표는 V(Vx , Vy, Vz)이며 후방 부분의 버텍스 좌표는 V(Vx , Vy, -Vz)로 설정한다.
더불어, 이미지 평면에 부여한 버텍스 이외에 추가로 최상단과 최하단에 기준이 되는 버텍스 2개 Vn =(Vnx , Vny, Vnz) 와 Vs =(Vsx , Vsy, Vsz)를 각각 다음과 같이 산출한다.
Figure pat00001
상기한 ymax 는 y좌표의 최대점을 나타내고, ymin 는 y좌표의 최소점을 의미한다.
본 발명은 전방과 후방의 3차원 버텍스를 계산하는 단계(107)를 수행한 후 버텍스좌표 계산을 완료하면 앞과 뒤 방향의 면을 생성하는 단계를 수행할 수 있다.
본 발명은 먼저 뒤 방향(후방)의 면을 생성하는 단계(108)를 수행한다.
상기한 앞과 뒤 방향의 면의 생성은 이웃한 버텍스를 이용하여 일정한 규칙으로 생성한다. 앞 면과 됫 면의 노멀벡터는 서로 반대 방향이 된다.
지금까지의 단계를 완성하면 앞 방향과 뒤 방향이 대칭인 구조의 모델이 생성된다.
본 발명은 상기한 뒤 방향의 면을 생성하는 단계(108)를 수행한 후 다음 단계는 앞 방향과 뒷 방향이 서로 다르게 하도록 버텍스를 재설정하는 단계(109)를 수행한다.
즉, 생성된 모델의 눈코입 및 형상을 완성하기 위하여 전방 부분의 버텍스를 재설정하는 단계를 수행하는 것이다.
본 발명의 버텍스 재설정의 기본 원리는 전경 이미지를 하이트맵(hight map)으로 사용하는 것이다. 전방 부분의 버텍스의 Vz 성분을 다음과 같이 재설정한다.
Vz = Vz + βI(x,y)/Gmax (식 12)
상기 수식에서 β는 스켈링 인자이며 I(x,y)는 이미지 평면상의 계조 값이고, Gmax 는 계조값의 최대 값이다.
상기한 β는 스켈링 인자와 이미지 평면상의 계조 값 I(x,y) 및 Gmax 는 계조값의 최대 값으로서 기설정된 값으로 입력이 될 수 있다.
즉 이미지의 계조 값에 따라 버텍스의 상하 위치를 수정하여 전면과 후면을 다르게 설정하는 것이다.
상기한 원본의 그레이 영상은 많은 노이즈를 가지고 있으므로 저역통과 필터를 사용한 그레이 이미지를 사용한다.
본 발명은 앞서 설명한 바처럼 상기한 그레이 이미지에 대하여 저역통과 필터를 실행하는 단계(105)를 통하여 수득한 저역통과 필터를 사용한 그레이 이미지를 사용하게 된다.
앞서 설명한 바처럼 저역통과 필터는 가우시안 필터를 사용하는 것이 좋다.
본 발명에서 상기한 전방 버텍스 재설정 단계에서 완성한 모델은 이미지의 계조 값을 하이트맵으로 활용하였기 때문에 많은 문제점이 있다.
특히 눈썹 영역이 함몰되어 있고 코 부분의 모양이 실제와 많은 차이를 보인다.
따라서 전경이미지에서 얼굴을 검출하고 눈, 코, 입을 검출하여 이를 기준으로 부분적 수정을 한다.
[도 2c]와 같이 본 발명에서는 전경이미지에서 얼굴을 검출하고 눈, 코, 입을 검출하는 방법은 앞서 설명한 바와 같다.
즉, 앞에서 설명한 바처럼 본 발명의 상기한 얼굴을 검출하는 방법으로는 Haar-like feature를 이용하여 AdaBoost 학습 알고리즘 사용하는 얼굴패턴 인식 알고리즘을 사용한다.
Haar-like feature는 탐색영역 윈도우 안의 이웃하는 직사각형의 영역을 설정하여 영역 안의 이미지 휘도의 합을 구하여 값의 차이를 구하는 방식이다.
이 차이는 이미지 영역을 구분하는 데 사용되는데 예를 들어 사람의 눈의 영역이 통상적으로 볼의 영역보다 더 어두운 패턴을 가지고 있으므로 이런 특징을 이용하여 얼굴을 검출한다.
Boosting 알고리즘은 약-학습기의 결합으로 강-학습기를 만들어 내는 교사학습 머신러닝 기법이다. 검출한 얼굴 영역 안에서 눈과 코의 위치를 같은 기법으로 이용하여 찾아낸다. 검색된 얼굴 영역 내에서만 검출을 시도함으로 연산 속도가 비교적 빠르다.
상기에서 검출한 두 눈의 중심사이 거리 IPD(interpupillary distance)를 얼굴 파라미터로 활용된다.
이 길이를 기준으로 눈썹의 위치를 찾아낸다.
눈썹의 위치는 눈 위 부분에 관심영역(ROI)를 설정하고 주변보다 어두운 영역을 검출한다.
눈썹 ROI 영역에 히스토그램을 계산하고 히스토그램으로부터 이진화 임계값을 산출하여 눈썹 영역을 세그멘테이션한다.
눈썹 영역은 계조값이 낮음으로 3D모델에서 함몰되었는데 이 부분을 다음과 같이 수정한다.
Vz = Vz + γre(x)cos(θ) (식 13)
θy = π(centerY-y)/2r(x) (식 14)
re(x)는 눈썹영역에서의 x 위치에서의 y 축 방향의 눈썹 세그먼트 영역 길이의 1/2를 의미하며 γ는 스켈링 계수이다.
centerY는 눈썹 세그먼트 영역의 y축 중심 위치를 의미한다. 함몰된 눈썹을 자연스럽게 복원하기 위하여 버텍스를 수정한 것이다.
코의 영역도 계조 값으로만 버텍스를 계산하면 자연스럽지 못하여 수정 위치를 검출한 후 임의적인 재설정 과정을 수행한다. 왼쪽과 오른쪽 눈 사이의 중심을 계산하고 코의 위치를 알아내어 두 지점 사이를 수정위치로 선정한다.
Vz = Vz + γSn(x)n(x)cos(θn) (식 15)
θn = π(centerX-x)/2n(x) (식 16)
상기한 n(x)는 x에서의 사전 설정한 코의 저변 길이이며 Sn(x)는 스켈링 계수이고 centerX는 코의 중심 값이다. n(x)와 Sn(x)는 인종과 성별 연령에 따라 통계적인 최적의 값을 사용하여야 한다.
[도 2]는 본 발명의 실시 예에 따른 결과를 보인 것이다.
즉, [도 2a]는 인물의 정면 사진을 흑백(그레이) 영상으로 변환하고,
[도 2b]는 흑백(그레이) 영상으로부터 에지 영상을 추출하며,
[도 2c]는 (c)와 같이 눈, 눈썹, 코, IPD 중심을 영상처리를 통하여 찾아내며,
[도 2d]는 눈썹과 코부분은 수식 (13)부터 수식 (16)을 이용하여 보완 수정한 것을 보여주는 도면이다.
[도 3a]는 눈썹 및 코 영역을 처리하지 않은 경우로 눈썹 및 코 부위가 함몰되어 매우 어색한 모델이 생성되었음을 알 수 있다.
[도 3b]는 눈썹과 코부분을 좀 더 자연스럽게 처리한 결과를 보여 준다.
[도 3b]의 (a) V236, (b) V5018, (c) V46958, (d)v226094 는 버텍스 수를 나타내며, 3D모델의 생성 결과를 보여 준다.
따라서 버텍스 수가 많을 수록 더욱 정교한 3D모델의 생성 결과를 보여 준다.
본 발명은 상기한 버텍스를 재설정하는 단계(109)를 수행한 후, 버텍스를 재설정하는 단계(109)에서 계산된 버텍스 정보를 이용하여 전방 부분 면을 생성하는 단계(113)를 수행한다.
본 발명은 상기한 모든 단계를 통하여 생성된 정보를 이용하여 최종 3D 모델을 만드는 단계(112)를 수행하게 된다.
본 발명은 상기한 구조와 기능으로 이루어진 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법을 제공한다.
본 발명은 3차원으로 모델링하는 소프트웨어 또는 하드웨어를 생산, 제조, 유통하는 산업에 매우 유용한 발명이다.
특히 본 발명은 일반인 특히 어린 학생들을 위한 3차원으로 모델링 산업 및 향 후 3D 프린터가 가정 집에도 널리 보급화됨에 따라 이러한 보편적 모델링 산업에 특히 유용한 발명이다.

Claims (3)

  1. 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법에 있어서,
    컬러 영상을 그레이 이미지로 변환하는 단계(102), 상기 단계로부터 변환된 그레이 이미지로부터 얼굴을 검출하는 단계(103), 상기 검출한 얼굴에서 눈코입을 검출하는 단계(104), 그레이 이미지에 대하여 저역통과 필터를 실행하는 단계(105), 그레이 이미지에서 에지를 검출하는 단계(106), 상기 단계에서 검출한 에지 정보로부터 전경과 배경을 분리하는 단계(110), 분리된 전경이미지에 전경 버텍스를 분배하는 단계(111), 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107), 후방 부분 면을 생성하는 단계(108), 상기 단계(107 단계)에서 계산한 전방 버텍스를 상기 단계(103,104,105 단계)에서 추출한 정보를 이용하여 전방 부분 버텍스를 재설정하는 단계(109)와, 상기 단계(109 단계)에서 계산한 버텍스 정보를 이용하여 전방 부분 면을 생성하는 단계(113)와 상기 모든 단계를 통하여 생성된 정보를 이용하여 최종 3D 모델을 만드는 단계(112)를 포함하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법.
  2. 제1항에 있어서,
    상기 분배한 버텍스로부터 전방과 후방의 3차원 버텍스를 계산하는 단계(107)는,
    가상의 수평라인 각각에서 영상의 중심 좌표(centerX, centerY)를 산출하고 이미지 공간상의 좌표(x,y)에 대응되는 3차원 모델의 버텍스 좌표 V(Vx , Vy, Vz)를 연산하는 것으로 수행하는 것을 특징으로 하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법.
  3. 제1항 내지 제2항에 있어서,
    상기 전방 부분 버텍스를 재설정하는 단계(109)는,
    Vz = Vz + βI(x,y)/Gmax 의 수식으로 연산하여 재설정하는 것을 특징으로 하는 2D 얼굴 이미지로부터 3D 모델을 자동 생성하는 방법.

KR1020150081147A 2015-06-09 2015-06-09 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법 KR101759188B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150081147A KR101759188B1 (ko) 2015-06-09 2015-06-09 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150081147A KR101759188B1 (ko) 2015-06-09 2015-06-09 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법

Publications (2)

Publication Number Publication Date
KR20160144699A true KR20160144699A (ko) 2016-12-19
KR101759188B1 KR101759188B1 (ko) 2017-07-31

Family

ID=57735397

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150081147A KR101759188B1 (ko) 2015-06-09 2015-06-09 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법

Country Status (1)

Country Link
KR (1) KR101759188B1 (ko)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109847360A (zh) * 2019-03-14 2019-06-07 网易（杭州）网络有限公司 游戏道具的3d效果处理方法、装置、电子设备及介质
KR20190071341A (ko) * 2017-12-14 2019-06-24 주식회사 아이미마인 신체 모델 생성 장치 및 방법
CN110675413A (zh) * 2019-09-27 2020-01-10 腾讯科技（深圳）有限公司 三维人脸模型构建方法、装置、计算机设备及存储介质
KR20200082934A (ko) * 2018-12-31 2020-07-08 경북대학교 산학협력단 3차원 모델 생성 장치 및 3차원 모델 생성 방법
KR20210147647A (ko) * 2020-05-29 2021-12-07 연세대학교 산학협력단 얼굴 이미지 색상 합성 장치 및 방법
KR102402170B1 (ko) 2021-10-22 2022-05-26 주식회사 제이어스 이미지 분석을 이용한 메타버스 생성 장치 및 방법
KR102516894B1 (ko) * 2021-11-01 2023-03-30 김영민 추모용 인물 부조 제조방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11893681B2 (en) 2018-12-10 2024-02-06 Samsung Electronics Co., Ltd. Method for processing two-dimensional image and device for executing method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190071341A (ko) * 2017-12-14 2019-06-24 주식회사 아이미마인 신체 모델 생성 장치 및 방법
KR20200082934A (ko) * 2018-12-31 2020-07-08 경북대학교 산학협력단 3차원 모델 생성 장치 및 3차원 모델 생성 방법
CN109847360A (zh) * 2019-03-14 2019-06-07 网易（杭州）网络有限公司 游戏道具的3d效果处理方法、装置、电子设备及介质
CN110675413A (zh) * 2019-09-27 2020-01-10 腾讯科技（深圳）有限公司 三维人脸模型构建方法、装置、计算机设备及存储介质
CN110675413B (zh) * 2019-09-27 2020-11-13 腾讯科技（深圳）有限公司 三维人脸模型构建方法、装置、计算机设备及存储介质
KR20210147647A (ko) * 2020-05-29 2021-12-07 연세대학교 산학협력단 얼굴 이미지 색상 합성 장치 및 방법
KR102402170B1 (ko) 2021-10-22 2022-05-26 주식회사 제이어스 이미지 분석을 이용한 메타버스 생성 장치 및 방법
KR102516894B1 (ko) * 2021-11-01 2023-03-30 김영민 추모용 인물 부조 제조방법

Also Published As

Publication number Publication date
KR101759188B1 (ko) 2017-07-31

Similar Documents

Publication Publication Date Title
KR101759188B1 (ko) 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법
US11423556B2 (en) Methods and systems to modify two dimensional facial images in a video to generate, in real-time, facial images that appear three dimensional
CN111710036B (zh) 三维人脸模型的构建方法、装置、设备及存储介质
JP4950787B2 (ja) 画像処理装置及びその方法
JP4653606B2 (ja) 画像認識装置、方法およびプログラム
WO2022095721A1 (zh) 参数估算模型的训练方法、装置、设备和存储介质
KR101829733B1 (ko) 2차원 이미지를 3차원 그래픽 모델로 변환하는 방법
WO2009091029A1 (ja) 顔姿勢推定装置、顔姿勢推定方法、及び、顔姿勢推定プログラム
CN111243093A (zh) 三维人脸网格的生成方法、装置、设备及存储介质
CN110096925A (zh) 人脸表情图像的增强方法、获取方法和装置
JP2008535116A (ja) ３次元レンダリング用の方法及び装置
JPWO2006049147A1 (ja) 三次元形状推定システム及び画像生成システム
CN113628327A (zh) 一种头部三维重建方法及设备
CN111243051A (zh) 基于肖像照片的简笔画生成方法、系统及存储介质
Anbarjafari et al. 3D face reconstruction with region based best fit blending using mobile phone for virtual reality based social media
Widanagamaachchi et al. 3D face reconstruction from 2D images
CN109448093B (zh) 一种风格图像生成方法及装置
KR100815209B1 (ko) 3차원 영상의 생성을 위한 2차원 영상의 특징 추출 장치및 그 방법과 그를 이용한 3차원 영상의 생성 장치 및 그방법
JP5419773B2 (ja) 顔画像合成装置
JP5419777B2 (ja) 顔画像合成装置
CN111462294A (zh) 一种图像处理方法、电子设备及计算机可读存储介质
JP4623320B2 (ja) 三次元形状推定システム及び画像生成システム
JP2003216978A (ja) 顔特徴を表す三角パッチの生成装置および生成方法ならびに顔特徴を表す三角パッチの生成処理プログラムを記録したコンピュータ読み取り可能な記録媒体
CN117115358B (zh) 数字人自动建模方法及装置
JP2018200175A (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A201 Request for examination
N231 Notification of change of applicant
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
R401 Registration of restoration