KR20090064154A - 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치 - Google Patents

다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치 Download PDF

Info

Publication number
KR20090064154A
KR20090064154A KR1020070131730A KR20070131730A KR20090064154A KR 20090064154 A KR20090064154 A KR 20090064154A KR 1020070131730 A KR1020070131730 A KR 1020070131730A KR 20070131730 A KR20070131730 A KR 20070131730A KR 20090064154 A KR20090064154 A KR 20090064154A
Authority
KR
South Korea
Prior art keywords
color
information
polygon
silhouette
view image
Prior art date
Application number
KR1020070131730A
Other languages
English (en)
Other versions
KR100914845B1 (ko
Inventor
김호원
추창우
구본기
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020070131730A priority Critical patent/KR100914845B1/ko
Priority to US12/314,678 priority patent/US8270704B2/en
Publication of KR20090064154A publication Critical patent/KR20090064154A/ko
Application granted granted Critical
Publication of KR100914845B1 publication Critical patent/KR100914845B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects

Abstract

본 발명은 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 기술에 관한 것으로, 물체를 포함하는 삼차원 공간상에 일정 크기를 지닌 복셀로 구성된 복셀공간에서 물체를 다양한 시점에서 촬영한 다시점 영상을 입력받아 실루엣 정보와 칼라 정보를 추출하고, 실루엣 정보를 이용한 실루엣 교차(silhouette Intersection)를 통해 비쥬얼 헐(visual hull)을 구성하며, 비쥬얼 헐의 단면을 따라 이동하며 상기 단면의 폴리곤을 상기 칼라정보를 이용하여 물체 고유의 기하학적 외형에 근사화 시키고, 근사화된 폴리곤을 메쉬 구조로 연결하여 물체의 삼차원 기하학적 외형을 표현하며, 각 메쉬 구조를 다시점 영상에 투영하여 물체 표면의 칼라 텍스쳐를 추출하고, 메쉬 구조와 메쉬 구조에 대응되는 칼라 텍스쳐로 구성된 물체의 고유 외형 정보와 표면 칼라 정보를 모델링하여 삼차원 외형 모델을 형성하는 것을 특징으로 한다. 본 발명에 의하면, 삼차원 물체의 외형정보를 복원함에 있어 동적개체의 외형복원에 주로 사용되고 있는 실루엣 교차 방식의 복원시간 범주 내에서 레이저 스캐너 수준의 복원정밀도를 기대할 수 있다. 또한 본 발명은 다시점 영상의 실루엣 제약조건을 보장하며, 복원된 결과를 렌더링하여 사실적 영상을 얻을 수 있으므로 실시간을 요구하는 동적물체의 삼차원 형상복원에서 뛰어난 복원품질을 나타낼 수 있다.
다시점 영상정보, 실루엣, 칼라정보, 삼차원 형상 복원

Description

다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법 및 장치{METHOD AND APPARATUS FOR 3D RECONSTRUCTING OF OBJECT BY USING MULTI-VIEW IMAGE INFORMATION}
본 발명은 삼차원 형상복원 기술에 관한 것으로서, 특히 다시점 카메라를 이용하여 캡쳐된 다시점 영상의 실루엣과 칼라정보를 이용하여 물체의 삼차원 형상 복원을 수행하는데 적합한 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법 및 장치 관한 것이다.
물체의 외형을 캡쳐하는 종래의 기술은 크게 2가지로 분류해 볼 수 있다. 먼저 레이저나 패턴광과 같은 액티브 센서를 이용하여 물체의 외형정보를 스캐닝하고 물체를 촬영한 칼라영상에서 스캐닝 된 메쉬의 텍스쳐를 추출하는 방법이 있다. 이러한 방법은 주로 정적 물체에 한정하여 고품질의 모델을 생성하기 위해 사용된다.
또 다른 기술군은 패시브 카메라를 이용하여 다양한 시점에서 물체의 외형정보를 촬영하여 얻어진 영상정보로부터 물체의 외형정보와 표면칼라 정보를 복원하는 방법이다. 이러한 방법은 또 다시 스테레오 영상의 대응점을 이용한 삼각측량에 기초하여 삼차원 위치정보를 복원하는 스테레오 방식과 삼차원 공간상에 복셀
Figure 112007090297918-PAT00001
로 이루어진 복셀공간을 미리 정의하고 각 복셀을 각 영상으로 투영했을 때 투영영역간의 칼라 일치성으로 복셀의 존재 유무를 판별하여 복원하는 volumetric 방식으로 나눌 수 있다.
최근의 연구결과들은 고품질의 삼차원 복원 결과를 위해 다시점 영상을 기반으로 삼차원 복원을 수행하며, 정적 물체의 복원은 계산시간이 너무 많이 걸린다는 단점이 있지만, 레이저 스캐너의 복원품질에 근접한 결과를 보여 주고 있다. 반면 동적물체의 삼차원 복원은 주로 다시점 영상의 실루엣 정보에 의존하는 경우가 많으며, 이 경우 실시간 복원이 가능하지만 복원품질은 정적물체의 복원에 비해 상당히 떨어지는 단점이 있다.
결국 동적물체에 대해 고품질의 삼차원 복원을 하기 위해서는 현재 동적물체를 촬영한 다시점 동영상에서 매 프레임별로 정적 물체라는 가정하에 정적물체를 위한 삼차원 복원을 수행하고 이를 프레임별로 누적하여 동적물체의 삼차원 복원을 표현하고 있어 엄청난 계산시간을 필요로 한다. 또한 현재의 state-of-the-art 기술로 통하는 graph-cut을 이용하는 삼차원 복원방식은 레이저 스캐너 수준의 복원품질을 보여 주지만, 다시점 영상의 실루엣 제약조건을 정확하게 만족시키기 어렵다는 단점이 있어 복원된 결과물을 다시점 영상에 투영했을 때 동일한 영상의 재현에 대한 보장이 어려운 한계성을 가지고 있다.
상기한 바와 같이 동작하는 종래 기술에 의한 물체의 외형을 캡쳐하는 기술에 있어서는, 정적 물체를 복원하는 데에 계산 시간이 너무 많이 걸리며, 동적 물체에 대한 복원 시 동일한 영상으로의 삼차원 복원이 어렵다는 문제점이 있었다.
이에 본 발명은, 다시점 카메라를 이용하여 캡쳐된 다시점 영상의 실루엣과 칼라정보를 이용하여 물체의 삼차원 형상 복원을 수행할 수 있는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법 및 장치를 제공한다.
또한 본 발명은, 다시점 영상의 실루엣 정보와 칼라정보를 이용하여 물체의 삼차원 기하학적 외형과 물체의 고유 표면칼라 텍스쳐 정보를 포함한 물체의 삼차원 형상 모델을 복원할 수 있는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법 및 장치를 제공한다.
본 발명의 일 실시예 방법은, 물체를 포함하는 삼차원 공간상에 일정 크기를 지닌 복셀로 구성된 복셀공간에서 물체를 다양한 시점에서 촬영한 다시점 영상을 입력받아 실루엣 정보와 칼라 정보를 추출하는 과정과, 상기 실루엣 정보를 이용한 실루엣 교차(silhouette Intersection)를 통해 비쥬얼 헐(visual hull)을 구성하는 과정과, 상기 비쥬얼 헐의 단면을 따라 이동하며, 상기 단면의 폴리곤을 상기 칼라정보를 이용하여 상기 물체 고유의 기하학적 외형에 근사화시키는 폴리곤 근사화 과정과, 상기 근사화된 폴리곤을 메쉬 구조로 연결하여 상기 물체의 삼차원 기하학 적 외형을 표현하는 과정과, 각 메쉬 구조를 다시점 영상에 투영하여 물체 표면의 칼라 텍스쳐를 추출하는 과정과, 상기 메쉬 구조와 상기 메쉬 구조에 대응되는 상기 칼라 텍스쳐로 구성된 물체의 고유 외형 정보와 표면 칼라 정보를 모델링하여 삼차원 외형 모델을 형성하는 과정을 포함한다.
본 발명의 일 실시예 장치는, 물체를 포함하는 삼차원 공간상에 일정 크기를 지닌 복셀로 구성된 복셀공간에서 물체를 다양한 시점에서 촬영한 다시점 영상을 입력받아 실루엣 정보와 칼라 정보를 추출하는 실루엣 및 칼라 추출부와, 상기 실루엣 정보를 이용한 실루엣 교차(silhouette Intersection)를 통해 비쥬얼 헐(visual hull)을 구성하는 비쥬얼 헐 복원부와, 상기 비쥬얼 헐의 단면을 따라 이동하며, 상기 단면의 폴리곤을 상기 칼라정보를 이용하여 상기 물체 고유의 기하학적 외형에 근사화시키는 폴리곤 근사화 부와, 상기 근사화된 폴리곤을 메쉬 구조로 연결하여 상기 물체의 삼차원 기하학적 외형을 표현하는 메쉬구조 생성부와, 각 메쉬 구조를 다시점 영상에 투영하여 물체 표면의 칼라 텍스쳐를 추출하는 칼라텍스쳐 맵 생성부와, 상기 메쉬 구조와 상기 메쉬 구조에 대응되는 상기 칼라 텍스쳐로 구성된 물체의 고유 외형 정보와 표면 칼라 정보를 모델링하여 삼차원 외형 모델을 형성하는 삼차원 외형모델 형성부를 포함한다.
본 발명에 있어서, 개시되는 발명 중 대표적인 것에 의하여 얻어지는 효과를 간단히 설명하면 다음과 같다.
본 발명은, 삼차원 물체의 외형정보를 복원함에 있어 동적개체의 외형복원에 주로 사용되고 있는 실루엣 교차(silhouette intersection)방식의 복원시간 범주 내에서 레이저 스캐너 수준의 복원정밀도를 가지는 Graph-cut 방식의 복원 품질을 기대할 수 있다. 또한 Graph-cut 방식으로 복원된 결과가 다시점 영상의 실루엣 제약조건을 보장하지 못하는 반면, 본 발명은 다시점 영상의 실루엣 제약조건을 보장하며, 복원된 결과를 렌더링하여 사실적 영상을 얻을 수 있으므로 실시간을 요구하는 동적물체의 삼차원 형상복원에서 뛰어난 복원품질을 나타낼 수 있는 효과가 있다.
이하 첨부된 도면을 참조하여 본 발명의 동작 원리를 상세히 설명한다. 하기에서 본 발명을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
본 발명은 다시점 영상의 실루엣 정보와 칼라정보를 이용하여 물체의 삼차원 기하학적 외형과 물체의 고유 표면칼라 텍스쳐 정보를 포함한 물체의 삼차원 형상 모델을 복원하는 것이다.
삼차원 형상 모델 복원은 물체를 포함하는 삼차원 공간에서 이루어지며, 각 다시점 영상은 복셀 공간의 월드좌표계에 대해 미리 켈리브레이션(Calibration) 되어 있고, 각 영상은 물체를 포함하는 전경과 배경으로 분리되어 있다. 삼차원 복원 은 물체의 각 영상 전경내의 칼라 정보를 이용하여 이루어지며, 복원된 삼차원 결과물은 다시점 영상의 전경 내 각 픽셀의 칼라정보를 모두 재현할 수 있다.
하기 실시 예에서는 다시점 영상을 이용하여 물체를 삼차원 형상으로 복원하는 방안에 대해 설명하기로 한다.
도 1은 본 발명의 바람직한 실시 예에 따른 다시점 영상을 이용한 물체의 삼차원 형상 복원 시스템의 구조를 도시한 블록도이다.
도 1을 참조하면, 삼차원 형상 복원 시스템(100)은, 입력된 다시점 영상을 이용하여 물체를 삼차원 형상으로 복원시키는 것으로서, 영상 입력부(102), 실루엣 추출부(104), 비쥬얼 헐 복원부(106), 폴리곤(polygon) 근사화부(108), 메쉬구조 생성부(110), 칼라 텍스쳐 맵 생성부(112), 삼차원 외형 모델 형성부(114)를 포함한다.
영상 입력부(102)는 물체를 둘러싼 복수의 다시점 카메라에서 촬영된 다시점 영상을 입력받고, 입력받은 영상을 실루엣 및 칼라 추출부(104)로 전달한다. 실루엣 및 칼라 추출부(104)에서는 다시점 영상에서 복원하고자 하는 물체의 투영영역을 나타내는 실루엣 맵과 칼라 맵을 추출한다. 비쥬얼 헐 복원부(106)에서는 실루엣 및 칼라 추출부(104)에서 추출된 실루엣 맵을 이용한 실루엣 교차(silhoutte intersection)를 통해 복셀 공간의 비쥬얼 헐(Visual hull)을 복원한다.
이후, 폴리곤 근사화부(108)에서는 비쥬얼 헐 단면의 폴리곤으로부터 다시점 영상의 칼라 대응점 추출을 통해 물체의 기하학적 외형 정보를 폴리곤으로 근사화 하게 된다. 이러한 폴리곤 근사화과정은 더 이상의 새로운 폴리곤 근사화가 없는 경우까지 폴리곤 근사화 과정을 수행한 후, 메쉬 구조 생성부(110)에서 각 단면별 폴리곤을 연결하여 전체적인 메쉬 구조를 생성한다.
칼라 텍스쳐 맵 생성부(112)에서는 메쉬 구조로 표현된 물체의 외형정보를 다시점 영상에 투영하여 메쉬 구조의 칼라 텍스쳐 맵을 생성하고, 삼차원 외형 모델 형성부(114)에서는 메쉬 구조와 메쉬 구조에 대응되는 칼라텍스쳐 맵으로 구성된 물체의 고유 외형 정보와 표면 칼라 정보를 모델링하여 삼차원 외형 모델을 형성하게 되는 것이다.
이후 설명에서는 위와 같은 블록들로 이루어진 삼차원 형상 복원 시스템(100)을 이용하여 삼차원 외형 모델을 형성하는 절차를 설명하도록 한다.
도 2는 본 발명의 바람직한 실시예에 따른 다시점 영상을 이용한 물체의 삼차원 형상 복원 절차를 도시한 흐름도이고, 도 3은 본 발명의 바람직한 실시예에 따른 물체의 삼차원 형상복원을 위한 다시점 카메라의 배치와 삼차원 복셀 공간의 설정을 도시한 도면이다. 또한, 도 4는 본 발명의 바람직한 실시예에 따른 다시점 카메라의 각 입력영상의 예시와 입력영상의 실루엣 맵과 실루엣 맵의 픽셀 칼라값을 나타내는 칼라맵의 예시를 도시한 도면이고, 도 5는 본 발명의 바람직한 실시예에 따른 실루엣 정보를 이용한 비쥬얼 헐 복원 방식을 도시한 도면이며, 도 6은 본 발명의 바람직한 실시예에 따른 비쥬얼 헐로부터 폴리곤 근사화 과정을 통해 물체의 기하학적 외형을 근사화하는 과정을 도시한 도면이다.
도 2 내지 도 6을 참조하여 설명하면, 도 2의 200단계에서 영상 입력부(102) 는 도 3과 같이 물체를 둘러싼 다시점 카메라에서 촬영된 다시점 영상을 입력받고, 202단계에서 실루엣 및 칼라 추출부(104)는 도 4와 같이 다시점 영상(400)으로부터 물체 영역이 투영된 픽셀들의 집합인 실루엣 맵(402)과 실루엣 맵의 칼라값을 저장한 칼라맵(304)을 추출한다.
이후, 삼차원 형상 복원 시스템(100)은 다시점 영상(400)에서 실루엣 영역의 픽셀과 해당 픽셀의 칼라값만을 이용하여 물체의 삼차원복원을 수행하게 된다. 이러한 물체의 복원을 수행하기 위해 비쥬얼 헐 복원부(106)에서는 먼저 도 3과 같이 물체를 포함하는 삼차원 공간상에 일정한 크기를 지닌 복셀(voxel)의 조합으로 구성된 복셀 공간을 정의한다. 이후 204단계에서 복셀공간의 각 복셀을 다시점 영상에 투영하여 투영영역이 모두 실루엣 맵(402)의 전경영역 내부에 포함될 경우 해당 복셀은 채워지며, 그렇지 않을 경우 복셀은 복셀 공간에서 사라지게 된다. 이러한 과정을 실루엣 교차라 하며, 이 과정에서 얻어지는 삼차원 형상을 도 5와 같이 비쥬얼 헐(500)이라고 한다.
비쥬얼 헐(500)은 실루엣 정보만을 이용해 얻어지며, 물체의 실제 외형을 포함한다. 하지만 도 5와 같이 실제 물체의 표면보다 항상 크거나 같은 외형을 복원하기 때문에 이 상태에서 텍스쳐를 추출하게 되면 사실감이 떨어지게 된다. 따라서 비쥬얼 헐을 기반으로 복원된 삼차원 외형이 물체의 외형정보를 잘 근사화 하도록 폴리곤 근사화부(108)에서는 다시점 영상의 칼라정보를 이용하여 206 단계에서 폴리곤 근사화 과정을 수행하게 된다.
비쥬얼 헐(500)의 단면을 잘라보면 도 5와 같이 채워진 영역의 외곽선이 연 속된 선형의 폴리곤으로 구성됨을 알 수 있다. 이러한 폴리곤 내에 실제 물체의 외형이 포함되어 있으며, 각 폴리곤 선분을 다시점 영상에 투영해서 얻은 폴리곤 라인을 따라 칼라 대응점을 찾아내게 되면 도 6과 같이 대응점(600, 602, 604)을 구할 수 있게 된다. 이러한 대응점은 모든 폴리곤 선분마다 한 개 이상 존재한다.
해당 폴리곤이 다시점 영상에 투영되었을 때 다수의 칼라 에지와 교차하게 되면, 교차점에 새로운 대응점을 생성시키고, 인접 대응점끼리 연결하여 새로운 폴리곤을 생성한다. 이러한 폴리곤 근사화 과정은 208단계에서 각 폴리곤 선분을 다시점 영상에 투영했을 때 더 이상 칼라 에지와 교차점을 가지는 폴리곤이 없을 때까지 비쥬얼 헐의 단면을 이동하며 계속하게 된다.
즉, 폴리곤 근사화는 근사화 된 폴리곤을 계속적으로 반복하여 가시성을 가지는 다시점 영상에 투영했을 때, 더 이상의 폴리곤 근사화 과정이 발생하지 않을 때까지 수행하여, 더 이상의 새로운 폴리곤 근사화가 없을 경우, 210단계로 진행하여 메쉬구조 생성부(100)에서 각 단면별로 구성된 폴리곤을 연결하여 전체적인 메쉬구조를 생성하며, 생성된 메쉬구조는, 물체 고유의 기하학적 외형정보를 잘 근사화하게 된다.
이와 같이 폴리곤 근사화 과정을 거쳐 메쉬구조로 표현된 삼차원 형상은 이를 다시점 영상에 투영했을 때 물체의 실루엣 영역에 해당하는 모든 픽셀로 투영되는 특성을 지니며, 메쉬구조의 인접 메쉬간의 에지는 물체 표면의 칼라에지성분을 따라 전개되는 특성을 지니게 된다. 즉, 도 6과 같이 물체의 외형을 잘 표현하면서 각 영상의 실루엣 맵을 모두 만족시키게 된다.
이후 212단계에서 칼라 텍스쳐 맵 생성부(112)는 생성된 메쉬구조의 각 메쉬들을 다시점 영상에 투영하여 각 메쉬의 칼라 텍스쳐를 생성하게 된다. 각 메쉬들은 전체 메쉬구조의 가시성 정보를 바탕으로 다시점 영상에 투영되고, 투영영역의 픽셀 점유도가 가장 높은 카메라의 해당 투영영역의 칼라값, 즉, 각 메쉬를 다시점 영상에 투영했을 때 최대 투영면적을 지니는 영상의 픽셀 칼라값을 메쉬의 텍스쳐로 채택하여 전체 메쉬 구조의 칼라 텍스쳐 맵을 생성한다. 여기서, 메쉬의 텍스쳐는 단일 칼라성분이나 칼라텍스쳐로 구성되어 물체의 텍스쳐맵의 압축성을 극대화하는 특성을 가진다.
이를 통해 214단계에서 삼차원 외형 모델 형성부(114)는 물체의 삼차원 기하학적 외형과 표면의 고유칼라를 그대로 재현할 수 있는 삼차원 형상복원 결과를 얻을 수 있다.
이상 설명한 바와 같이, 본 발명은 다시점 영상의 실루엣 정보와 칼라정보를 이용하여 물체의 삼차원 기하학적 외형과 물체의 고유 표면칼라 텍스쳐 정보를 포함한 물체의 삼차원 형상 모델을 복원한다.
한편 본 발명의 상세한 설명에서는 구체적인 실시예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시예에 국한되지 않으며, 후술되는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.
도 1은 본 발명의 바람직한 실시예에 따른 다시점 영상을 이용한 물체의 삼차원 형상 복원 시스템의 구조를 도시한 블록도,
도 2는 본 발명의 바람직한 실시예에 따른 다시점 영상을 이용한 물체의 삼차원 형상 복원 절차를 도시한 흐름도,
도 3은 본 발명의 바람직한 실시예에 따른 물체의 삼차원 형상복원을 위한 다시점 카메라의 배치와 삼차원 복셀공간의 설정을 도시한 도면,
도 4는 본 발명의 바람직한 실시예에 따른 다시점 카메라의 각 입력영상의 예시와 입력영상의 실루엣 맵과 실루엣 맵의 픽셀 칼라값을 나타내는 칼라맵의 예시를 도시한 도면,
도 5는 본 발명의 바람직한 실시예에 따른 실루엣 정보를 이용한 비쥬얼 헐 복원의 방식을 도시한 도면,
도 6은 본 발명의 바람직한 실시예에 따른 비쥬얼 헐로부터 폴리곤 근사화 과정을 통해 물체의 기하학적 외형을 근사화하는 과정을 도시한 도면.
< 도면의 주요 부분에 대한 부호 설명 >
100 : 삼차원 형상복원 시스템 102 : 영상 입력부
104 : 실루엣 및 칼라 추출부 106 : 비쥬얼 헐 복원부
108 : 폴리곤 근사화부 110 : 메쉬 구조 생성부
112 : 칼라 텍스쳐 맵 생성부 114 : 삼차원 외형 모델 형성부

Claims (10)

  1. 물체를 포함하는 삼차원 공간상에 일정 크기를 지닌 복셀로 구성된 복셀공간에서 물체를 다양한 시점에서 촬영한 다시점 영상을 입력받아 실루엣 정보와 칼라 정보를 추출하는 과정과,
    상기 실루엣 정보를 이용한 실루엣 교차(silhouette Intersection)를 통해 비쥬얼 헐(visual hull)을 구성하는 과정과,
    상기 비쥬얼 헐의 단면을 따라 이동하며, 상기 단면의 폴리곤을 상기 칼라정보를 이용하여 상기 물체 고유의 기하학적 외형에 근사화시키는 폴리곤 근사화 과정과,
    상기 근사화된 폴리곤을 메쉬 구조로 연결하여 상기 물체의 삼차원 기하학적 외형을 표현하는 과정과,
    각 메쉬 구조를 다시점 영상에 투영하여 물체 표면의 칼라 텍스쳐를 추출하는 과정과,
    상기 메쉬 구조와 상기 메쉬 구조에 대응되는 상기 칼라 텍스쳐로 구성된 물체의 고유 외형 정보와 표면 칼라 정보를 모델링하여 삼차원 외형 모델을 형성하는 과정
    을 포함하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법.
  2. 제 1항에 있어서,
    상기 실루엣 교차는,
    상기 복셀공간의 각 복셀을 다시점 영상에 투영하여 투영영역을 상기 실루엣 정보를 통해 형성된 실루엣 맵에 투영하여 해당 복셀이 채워짐으로써, 비쥬얼 헐을 얻는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법.
  3. 제 1항에 있어서,
    상기 폴리곤 근사화 과정은,
    상기 비쥬얼 헐을 토대로 영역의 외곽선이 연속된 선형의 폴리곤으로 구성되는 과정과,
    각 폴리곤 선분을 상기 다시점 영상에 투영해서 얻은 폴리곤 라인을 따라 칼라 대응점을 찾는 과정과,
    상기 폴리곤을 상기 다시점 영상에 투영하여 다수의 칼라 에지와 교차하여 교차점에 새로운 대응점을 생성시키고, 인접 대응점끼리 연결하여 새로운 폴리곤을 생성하는 과정
    을 포함하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법.
  4. 제 3항에 있어서,
    상기 폴리곤 근사화 과정은,
    근사화 된 폴리곤을 계속적으로 반복하여 가시성을 가지는 다시점 영상에 투 영했을 때, 더 이상 폴리곤이 발생하지 않을 때까지 수행하는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법.
  5. 제 1항에 있어서,
    상기 칼라 텍스쳐를 추출하는 과정은,
    각 메쉬를 다시점 영상에 투영했을 때 최대 투영면적을 지니는 영상의 픽셀칼라값을 메쉬의 텍스쳐로 추출하여 전체 메쉬 구조의 칼라 텍스쳐 맵을 추출하는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법.
  6. 물체를 포함하는 삼차원 공간상에 일정 크기를 지닌 복셀로 구성된 복셀공간에서 물체를 다양한 시점에서 촬영한 다시점 영상을 입력받아 실루엣 정보와 칼라 정보를 추출하는 실루엣 및 칼라 추출부와,
    상기 실루엣 정보를 이용한 실루엣 교차(silhouette Intersection)를 통해 비쥬얼 헐(visual hull)을 구성하는 비쥬얼 헐 복원부와,
    상기 비쥬얼 헐의 단면을 따라 이동하며, 상기 단면의 폴리곤을 상기 칼라정보를 이용하여 상기 물체 고유의 기하학적 외형에 근사화시키는 폴리곤 근사화 부와,
    상기 근사화된 폴리곤을 메쉬 구조로 연결하여 상기 물체의 삼차원 기하학적 외형을 표현하는 메쉬구조 생성부와,
    각 메쉬 구조를 다시점 영상에 투영하여 물체 표면의 칼라 텍스쳐를 추출하 는 칼라텍스쳐 맵 생성부와,
    상기 메쉬 구조와 상기 메쉬 구조에 대응되는 상기 칼라 텍스쳐로 구성된 물체의 고유 외형 정보와 표면 칼라 정보를 모델링하여 삼차원 외형 모델을 형성하는 삼차원 외형모델 형성부
    를 포함하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 장치.
  7. 제 6항에 있어서,
    상기 실루엣 교차는,
    상기 복셀공간의 각 복셀을 다시점 영상에 투영하여 투영영역을 상기 실루엣 정보를 통해 형성된 실루엣 맵에 투영하여 해당 복셀이 채워짐으로써, 비쥬얼 헐을 얻는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 장치.
  8. 제 6항에 있어서,
    상기 폴리곤 근사화부는,
    상기 비쥬얼 헐을 토대로 영역의 외곽선이 연속된 선형의 폴리곤으로 구성되며, 각 폴리곤 선분을 상기 다시점 영상에 투영해서 얻은 폴리곤 라인을 따라 칼라 대응점을 찾고, 상기 폴리곤을 상기 다시점 영상에 투영하여 다수의 칼라 에지와 교차하여 교차점에 새로운 대응점을 생성시키고, 인접 대응점끼리 연결하여 새로운 폴리곤을 생성하는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 장치.
  9. 제 6항에 있어서,
    상기 폴리곤 근사화부는,
    근사화 된 폴리곤을 계속적으로 반복하여 가시성을 가지는 다시점 영상에 투영했을 때, 더 이상 폴리곤이 발생하지 않을 때까지 수행하는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 장치.
  10. 제 6항에 있어서,
    상기 칼라텍스쳐 맵 생성부는,
    각 메쉬를 다시점 영상에 투영했을 때 최대 투영면적을 지니는 영상의 픽셀칼라값을 메쉬의 텍스쳐로 추출하여 전체 메쉬 구조를 칼라 텍스쳐 맵을 추출하는 것을 특징으로 하는 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 장치.
KR1020070131730A 2007-12-15 2007-12-15 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치 KR100914845B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020070131730A KR100914845B1 (ko) 2007-12-15 2007-12-15 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치
US12/314,678 US8270704B2 (en) 2007-12-15 2008-12-15 Method and apparatus for reconstructing 3D shape model of object by using multi-view image information

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020070131730A KR100914845B1 (ko) 2007-12-15 2007-12-15 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치

Publications (2)

Publication Number Publication Date
KR20090064154A true KR20090064154A (ko) 2009-06-18
KR100914845B1 KR100914845B1 (ko) 2009-09-02

Family

ID=40753355

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070131730A KR100914845B1 (ko) 2007-12-15 2007-12-15 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치

Country Status (2)

Country Link
US (1) US8270704B2 (ko)
KR (1) KR100914845B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200022802A (ko) * 2018-08-23 2020-03-04 전자부품연구원 실루엣 기반 3d 영상 복원 장치 및 방법
KR20200102114A (ko) * 2019-02-21 2020-08-31 한국전자통신연구원 학습기반 3d 모델 생성 장치 및 방법

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101640039B1 (ko) * 2009-09-22 2016-07-18 삼성전자주식회사 영상 처리 장치 및 방법
FR2951563A1 (fr) * 2009-10-16 2011-04-22 Logiparts Sa Procede et installation d'analyse de parametres geometriques d'un objet
KR101566459B1 (ko) 2009-12-07 2015-11-05 페킹 유니버시티 이미지 기반의 비주얼 헐에서의 오목 표면 모델링
FR2955409B1 (fr) * 2010-01-18 2015-07-03 Fittingbox Procede d'integration d'un objet virtuel dans des photographies ou video en temps reel
US8570343B2 (en) 2010-04-20 2013-10-29 Dassault Systemes Automatic generation of 3D models from packaged goods product images
US9053562B1 (en) 2010-06-24 2015-06-09 Gregory S. Rabin Two dimensional to three dimensional moving image converter
US8711143B2 (en) * 2010-08-25 2014-04-29 Adobe Systems Incorporated System and method for interactive image-based modeling of curved surfaces using single-view and multi-view feature curves
KR101181199B1 (ko) * 2011-01-03 2012-09-18 한국과학기술원 배경 지형 장면의 입체 이미지 생성 방법, 시스템 및 이를 위한 기록매체
US9236024B2 (en) 2011-12-06 2016-01-12 Glasses.Com Inc. Systems and methods for obtaining a pupillary distance measurement using a mobile computing device
US8941750B2 (en) * 2011-12-27 2015-01-27 Casio Computer Co., Ltd. Image processing device for generating reconstruction image, image generating method, and storage medium
KR101849373B1 (ko) * 2012-01-31 2018-04-17 한국전자통신연구원 인체의 관절구조를 추정하기 위한 장치 및 방법
US9311746B2 (en) * 2012-05-23 2016-04-12 Glasses.Com Inc. Systems and methods for generating a 3-D model of a virtual try-on product
US20130335416A1 (en) * 2012-05-23 2013-12-19 1-800 Contacts, Inc. Systems and methods for generating a 3-d model of a virtual try-on product
US9483853B2 (en) 2012-05-23 2016-11-01 Glasses.Com Inc. Systems and methods to display rendered images
US9286715B2 (en) 2012-05-23 2016-03-15 Glasses.Com Inc. Systems and methods for adjusting a virtual try-on
US9836483B1 (en) * 2012-08-29 2017-12-05 Google Llc Using a mobile device for coarse shape matching against cloud-based 3D model database
CN103049929A (zh) * 2012-11-20 2013-04-17 浙江大学 基于联合优化的多摄像机动态场景3d重建方法
US9992021B1 (en) 2013-03-14 2018-06-05 GoTenna, Inc. System and method for private and point-to-point communication between computing devices
US9294757B1 (en) 2013-03-15 2016-03-22 Google Inc. 3-dimensional videos of objects
US10033992B1 (en) 2014-09-09 2018-07-24 Google Llc Generating a 3D video of an event using crowd sourced data
RU2586566C1 (ru) * 2015-03-25 2016-06-10 Общество с ограниченной ответственностью "Лаборатория 24" Способ отображения объекта
CN104851129B (zh) * 2015-05-21 2018-01-23 成都绿野起点科技有限公司 一种基于多视点的3d重建方法
RU2642167C2 (ru) * 2015-08-14 2018-01-24 Самсунг Электроникс Ко., Лтд. Устройство, способ и система для реконструкции 3d-модели объекта
US10360718B2 (en) 2015-08-14 2019-07-23 Samsung Electronics Co., Ltd. Method and apparatus for constructing three dimensional model of object
KR101801749B1 (ko) 2016-08-24 2017-11-28 한국과학기술연구원 3차원 복원을 위한 다중시점 영상 디블러링 방법, 이를 수행하기 위한 기록 매체 및 장치
JP6838912B2 (ja) * 2016-09-29 2021-03-03 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US10692232B2 (en) * 2016-12-30 2020-06-23 Canon Kabushiki Kaisha Shape reconstruction of specular and/or diffuse objects using multiple layers of movable sheets
FR3063172A1 (fr) * 2017-02-21 2018-08-24 Yann Viellard Dispositif et procede pour la numerisation 3d sans contact d'un objet.
WO2020208976A1 (ja) * 2019-04-08 2020-10-15 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
CN112990063B (zh) * 2021-03-30 2023-06-30 北京林业大学 一种基于形状与颜色信息的香蕉成熟度分级方法
US11900544B2 (en) * 2022-05-05 2024-02-13 Tencent America LLC Low-poly mesh generation for three-dimensional models
US20230386135A1 (en) * 2022-05-25 2023-11-30 Verizon Patent And Licensing Inc. Methods and systems for deforming a 3d body model based on a 2d image of an adorned subject
CN116437063A (zh) * 2023-06-15 2023-07-14 广州科伊斯数字技术有限公司 一种三维图像显示系统及方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3734097A1 (de) * 1987-10-09 1989-04-27 Du Pont Deutschland Verfahren und vorrichtung zum behandeln eines photographischen aufzeichnungsmaterials
JPH01320016A (ja) * 1988-06-21 1989-12-26 Tamehiko Ikeda マイクロ波利用調理器具
US7065242B2 (en) * 2000-03-28 2006-06-20 Viewpoint Corporation System and method of three-dimensional image capture and modeling
JP4035978B2 (ja) * 2001-10-05 2008-01-23 コニカミノルタホールディングス株式会社 3次元形状モデルの評価方法および生成方法並びに装置
US6975756B1 (en) * 2002-03-12 2005-12-13 Hewlett-Packard Development Company, L.P. Image-based photo hulls
US7142726B2 (en) * 2003-03-19 2006-11-28 Mitsubishi Electric Research Labs, Inc. Three-dimensional scene reconstruction from labeled two-dimensional images
US7212664B2 (en) * 2003-08-07 2007-05-01 Mitsubishi Electric Research Laboratories, Inc. Constructing heads from 3D models and 2D silhouettes
JP4125685B2 (ja) * 2004-03-05 2008-07-30 株式会社東芝 描画方法およびその装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200022802A (ko) * 2018-08-23 2020-03-04 전자부품연구원 실루엣 기반 3d 영상 복원 장치 및 방법
KR20200102114A (ko) * 2019-02-21 2020-08-31 한국전자통신연구원 학습기반 3d 모델 생성 장치 및 방법
KR20210118005A (ko) * 2019-02-21 2021-09-29 한국전자통신연구원 학습기반 3d 모델 생성 장치 및 방법
US11232632B2 (en) 2019-02-21 2022-01-25 Electronics And Telecommunications Research Institute Learning-based 3D model creation apparatus and method
KR20220150853A (ko) * 2019-02-21 2022-11-11 한국전자통신연구원 학습기반 3d 모델 생성 장치 및 방법

Also Published As

Publication number Publication date
KR100914845B1 (ko) 2009-09-02
US8270704B2 (en) 2012-09-18
US20090154794A1 (en) 2009-06-18

Similar Documents

Publication Publication Date Title
KR100914845B1 (ko) 다시점 영상 정보를 이용한 물체의 삼차원 형상복원 방법및 장치
US8217931B2 (en) System and method for processing video images
KR101697184B1 (ko) 메쉬 생성 장치 및 그 방법, 그리고, 영상 처리 장치 및 그 방법
EP2087466B1 (en) Generation of depth map for an image
US9082224B2 (en) Systems and methods 2-D to 3-D conversion using depth access segiments to define an object
JP7003994B2 (ja) 画像処理装置および方法
KR100748719B1 (ko) 다중 스테레오 카메라를 이용한 3차원 모델링 장치 및 그방법
US20080259073A1 (en) System and method for processing video images
US20150178988A1 (en) Method and a system for generating a realistic 3d reconstruction model for an object or being
JP2015045920A (ja) 仮想視点映像生成装置、仮想視点映像生成方法、及び仮想視点映像生成プログラム
Jantet et al. Object-based layered depth images for improved virtual view synthesis in rate-constrained context
KR20190040746A (ko) 3차원 관심영역 복원 시스템 및 방법
JP7344988B2 (ja) ボリュメトリック映像の符号化および復号化のための方法、装置、およびコンピュータプログラム製品
KR101575284B1 (ko) 2차원 영상의 해상도 레벨에 따른 3차원 복원 물체의 텍스처 생성 장치 및 그 방법
JP2018032938A (ja) 画像処理装置、画像処理の方法およびプログラム
Kim et al. Depth video enhancement for haptic interaction using a smooth surface reconstruction
Wang et al. Disparity manipulation for stereo images and video
CN106412562B (zh) 三维场景中显示立体内容的方法及其系统
KR101619486B1 (ko) 좌표변환 매트릭스를 이용한 3차원 큐브 파노라마 장치
CN111243062A (zh) 一种将平面壁画转化为立体高清数字壁画的制作方法
KR101566459B1 (ko) 이미지 기반의 비주얼 헐에서의 오목 표면 모델링
CN115063303A (zh) 一种基于图像修复的图像3d化方法
Bharathi et al. 2D-to-3D Conversion of Images Using Edge Information
EP2933778A1 (en) Capturing an environment with objects
KR20060021566A (ko) 전경체 사영영상과 가상외피에 기반한 가상시점 3차원 장면 재구성 방법 및 시스템

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20120730

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20130729

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140728

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150728

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20160726

Year of fee payment: 8

LAPS Lapse due to unpaid annual fee