KR102398580B1 - 휴대 단말을 이용한 실감 오브젝트 생성 시스템 - Google Patents

휴대 단말을 이용한 실감 오브젝트 생성 시스템 Download PDF

Info

Publication number
KR102398580B1
KR102398580B1 KR1020210080208A KR20210080208A KR102398580B1 KR 102398580 B1 KR102398580 B1 KR 102398580B1 KR 1020210080208 A KR1020210080208 A KR 1020210080208A KR 20210080208 A KR20210080208 A KR 20210080208A KR 102398580 B1 KR102398580 B1 KR 102398580B1
Authority
KR
South Korea
Prior art keywords
image
photographing
data
image data
sensory
Prior art date
Application number
KR1020210080208A
Other languages
English (en)
Inventor
서인호
Original Assignee
주식회사 호인스컴퍼니
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 호인스컴퍼니 filed Critical 주식회사 호인스컴퍼니
Priority to KR1020210080208A priority Critical patent/KR102398580B1/ko
Application granted granted Critical
Publication of KR102398580B1 publication Critical patent/KR102398580B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/52Details of telephonic subscriber devices including functional features of a camera

Abstract

사용자들이 자연스럽게 자신의 휴대 단말을 이용하여 해당 촬영 대상을 촬영하는 도중, 촬영 대상에 대한 6면도 및 사시도 등에 대응되는 이미지를 일괄적으로 매우 정확하게 추출하고, 이를 통해서 3차원 이미지 등 실감형 오브젝트를 생성할 수 있도록 하는 기술을 제공하여, 쇼핑몰 및 가상 전시 공간 등에서 실감형 오브젝트를 매우 편리하게 생성하고 필요시되는 정보를 효과적으로 제공할 수 있도록 한다. 이를 위해서, 본 발명의 일 실시예에 따른 휴대 단말을 이용한 실감 오브젝트 생성 시스템은, 하나 이상의 프로세서 및 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 휴대 단말을 이용한 실감 오브젝트 생성 시스템에 관한 것으로, 휴대 단말에 탑재된 영상 촬영 장치를 통한 촬영 대상에 대한 다방향에서의 촬영이 수행되는 경우, 촬영 영상 프레임에 대응되는 각 영상 이미지 획득 시의 휴대 단말에 탑재된 자이로 센서의 센싱값에 따른 촬영각 데이터 및 영상 촬영 장치의 뎁스 비전(Depth Vision) 기능에 따라서 획득된 각 영상 이미지 데이터 상에서의 촬영 대상에 대한 뎁스 값을 매칭한 결합 영상 데이터를 생성하는 영상 데이터 생성부; 영상 데이터 생성부에 의하여 생성된 결합 영상 데이터의 상대 촬영각 데이터를 이용하여, 자동으로 촬영 대상에 대한 이미지들 중, 6면도 및 사시도에 대응되는 영상 이미지에 대한 결합 영상 데이터를 선택하여 정합 대상 데이터로 저장하는 6면도 선택부; 및 6면도 선택부에 의하여 저장된 정합 대상 데이터에 포함된 영상 이미지를 이용하여, 촬영 대상에 대한 3차원 이미지 데이터인 실감 오브젝트 및 상기 6면도 및 사시도 이미지를 포함하는 도면 데이터를 포함하는 오브젝트 데이터를 생성하는 오브젝트 생성부;를 포함하는 것을 특징으로 한다.

Description

휴대 단말을 이용한 실감 오브젝트 생성 시스템{SENSORY OBJECT CREATION SYSTEM USING A MOBILE TERMINAL}
본 발명은 휴대 단말을 이용한 3차원 가상 모델링을 통한 실감형 오브젝트의 생성 기술에 관한 것으로, 구체적으로 사용자가 촬영 대상을 연속적으로 촬영한 결과로부터, 자동으로 대상의 6면도를 추출하고, 추출된 6면도를 서로 정합하여 3차원 이미지를 생성함으로써, 사용자들이 고가의 장비 또는 전문적인 모델링 지식이 없이도, 편리하게 촬영 대상에 대한 입체 이미지를 생성할 수 있고, 동시에 이를 관리하기 위한 6면도 및 사시도를 제공받아 이용할 수 있도록 하기 위한 기술에 관한 것이다.
최근 가상 공간을 이용한 다양한 서비스가 상용화되고 있다. 특히 코로나 등에 의하여 비대면 서비스가 증가되면서, 사용자들은 쇼핑, 전시 등의 서비스를 자신의 단말을 이용하여 가상 공간에서 물품이나 전시물을 확인할 수 있고, 이에 대한 구매 및 관람을 원격으로 진행할 수 있게 되었다.
특히, 단말의 그래픽 처리 기능 및 입체 이미지 생성에 대한 다양한 기술들이 보편화되면서, 가상의 쇼룸 등을 이용하여, 다양한 객체에 대한 3차원 이미지의 생성 및 이에 대한 유저 단말의 출력을 통해서, 사용자들은 3차원의 객체를 확인할 수 있으며, 이를 바탕으로 더욱 사실적인 쇼핑 및 전시를 위한 가상 공간의 이용이 가능해지고 있다.
이러한 객체들에 대한 3차원 이미지 생성을 위해서는 기존에는 3차원 스캐너 등 고가의 장비를 이용해야 했기 때문에, 대기업 등과 같은 자본력을 보유한 주체들 이외에는, 3차원 이미지를 통한 쇼핑 및 전시 서비스를 제공하기 힘든 것이 사실이었다.
그러나 최근에는 예를 들어, 한국등록특허 제10-2200866호 등에서는, 다수의 2차원 이미지를 촬영 시, 해당 2차원 이미지를 3축 좌표 상에서 기울어진 이미지로 보정하고, 이를 통해서 피사체 표면에 대응되는 다수의 포인트가 3차원 공간에 표현된 3차원 포인트 클라우드를 생성한 뒤, 이를 바탕으로 3차원 모델링을 구현하는 기술을 제공하고 있다.
이러한 기존의 기술은, 2차원 이미지를 이용하여 3차원 이미지를 생성할 수 있다는 점에서, 스마트폰 등을 이용하여 이용자들이 3차원 이미지를 편리하게 생성할 수 있는 효과가 있다.
그러나, 쇼핑몰이나 전시물 등에 대한 3차원 모델링을 위해서는, 노이즈의 제거 및 일괄적인 각도에서의 촬영 이미지가 그 품질 및 이용의 편의성을 위해서 필요한데, 해당 기술은 일정한 각도에서 촬영된 도면 등을 추출하는 것이 거의 불가능하고, 서로 다른 각도에서 촬영된 이미지를 일정한 각도로 보정해야 하는 프로세스의 추가적인 실행이 불가피하여, 그 시스템의 로드가 클 수 밖에 없고, 노이즈의 제거가 완벽하게 구현되지 않는 단점이 있다.
이에 본 발명은, 2차원 이미지의 촬영 시 이를 통한 3차원 이미지의 생성에 대한 기술에 있어서 기존 기술들의 문제점을 해결하기 위하여 도출된 것으로서, 구체적으로는, 사용자들이 자연스럽게 자신의 휴대 단말을 이용하여 해당 촬영 대상을 촬영하는 도중, 촬영 대상에 대한 6면도 및 사시도 등에 대응되는 이미지를 일괄적으로 매우 정확하게 추출하고, 이를 통해서 3차원 이미지 등 실감형 오브젝트를 생성할 수 있도록 하는 기술을 제공하는 데 그 목적이 있다.
상기 목적을 달성하기 위해서, 본 발명의 일 실시예에 따른 휴대 단말을 이용한 실감 오브젝트 생성 시스템은, 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 휴대 단말을 이용한 실감 오브젝트 생성 시스템에 관한 것으로, 상기 휴대 단말에 탑재된 영상 촬영 장치를 통한 촬영 대상에 대한 다방향에서의 촬영이 수행되는 경우, 촬영 영상 프레임에 대응되는 각 영상 이미지 획득 시의 상기 휴대 단말에 탑재된 자이로 센서의 센싱값에 따른 촬영각 데이터 및 상기 영상 촬영 장치의 뎁스 비전(Depth Vision) 기능에 따라서 획득된 각 영상 이미지 데이터 상에서의 촬영 대상에 대한 뎁스 값을 매칭한 결합 영상 데이터를 생성하는 영상 데이터 생성부; 상기 영상 데이터 생성부에 의하여 생성된 결합 영상 데이터의 상대 촬영각 데이터를 이용하여, 자동으로 촬영 대상에 대한 이미지들 중, 6면도 및 사시도에 대응되는 영상 이미지에 대한 결합 영상 데이터를 선택하여 정합 대상 데이터로 저장하는 6면도 선택부; 및 상기 6면도 선택부에 의하여 저장된 정합 대상 데이터에 포함된 영상 이미지를 이용하여, 촬영 대상에 대한 3차원 이미지 데이터인 실감 오브젝트 및 상기 6면도 및 사시도 이미지를 포함하는 도면 데이터를 포함하는 오브젝트 데이터를 생성하는 오브젝트 생성부;를 포함하는 것을 특징으로 한다.
상기 오브젝트 생성부는, 상기 정합 대상 데이터에 포함된 영상 이미지들의 뎁스값들을 이용하여 2차원 영상 이미지들로부터 부분 3차원 이미지를 생성하고, 각 부분 3차원 이미지에 포함된 픽셀들의 뎁스값들을 비교하여, 각 부분 3차원 이미지에 있어서 촬영 대상의 동일한 포인트를 지시하는 픽셀의 뎁스가 동일해지도록 각 부분 3차원 이미지의 크기를 보정한 뒤 모든 방향에서 부분 3차원 이미지를 정합하여 상하좌우의 3차원 이미지로 구현되는 상기 실감 오브젝트를 생성하는 것이 가능하다.
상기 영상 데이터 생성부는, 상기 촬영 대상에 대한 뎁스 값으로서, 각 영상 이미지에 포함된 촬영 대상에 대한 이미지 경계선 내에 포함된 픽셀들 중, 인접 픽셀 사이의 뎁스 값의 변경값이 기설정된 임계값을 초과하는 픽셀들에 대한 뎁스 값들을 각 결합 영상 데이터에 매칭하는 것이 가능하다.
상기 오브젝트 생성부는, 상기 촬영 대상에 대한 픽셀 분석을 통해, 정합 대상 데이터에 포함된 영상 이미지 중 촬영 대상의 동일한 포인트를 지시하는 픽셀끼리 중첩되도록 서로 인접한 영상 이미지의 상대 위치를 제어한 뒤, 각 영상 이미지를 정합하여 상기 실감 오브젝트를 생성하는 것이 가능하다.
기 설정된 촬영 각도에 대한 오프셋과, 상기 휴대 단말의 자이로 센서의 센싱값에 따라서, 상기 오프셋에 촬영 각도가 일치되도록 상기 휴대 단말의 유저 인터페이스 상에 가이드를 제공하는 가이드 제공부;를 더 포함하는 것이 가능하다.
상기 가이드 제공부에 의하여 제공된 가이드에 따라서 오프셋에 촬영 각도가 일치되는 경우부터 다방향에서의 촬영을 시작하도록 상기 영상 촬영 장치의 촬영 동작을 제어하는 촬영 제어부;를 더 포함하는 것이 가능하다.
상기 6면도 선택부는, 상기 촬영 제어부에 의하여 촬영이 진행됨으로써 획득된 영상 이미지를 이용하여 상기 영상 데이터 생성부에 의하여 결합 영상 데이터가 생성된 경우, 상기 오프셋에 촬영 각도가 일치된 시점에서의 촬영각 데이터를 기준으로 6면도 및 사시도에 대응하는 촬영각 데이터를 갖는 결합 영상 데이터를 선택하는 것이 가능하다.
상기 오프셋은 지면과 평행한 각도를 갖는 촬영각인 것이 가능하다.
상기 6면도 선택부는. 상기 오프셋에 촬영 각도가 일치된 시점에서의 촬영각 데이터를 갖는 결합 영상 데이터의 영상 이미지를 평면도로 하고, 평면도를 기준으로 6면도 및 사시도에 대응하는 촬영각 데이터를 갖는 결합 영상 데이터를 각각 선택하는 것이 가능하다.
상기 정합 대상 데이터의 정보, 상기 영상 데이터 생성부에 의하여 저장된 결합 영상 데이터의 정보 및 상기 오브젝트 생성부에 의하여 생성된 실감 오브젝트의 정보를 확인할 수 있고, 6면도 및 사시도에 포함될 영상 이미지의 선택 및 영상 이미지의 크기 및 각도의 편집, 및 상기 실감 오브젝트에 대한 크기, 색상 및 형태 변환을 통한 실감 오브젝트의 편집이 가능한 유저 인터페이스를 제공하는 인터페이스 제공부;를 더 포함하는 것이 바람직하다.
본 발명에 의하면, 유저들은 별도의 정확한 각도를 설정할 필요가 없이, 촬영 대상에 대해서 자연스럽게 동영상을 촬영하는 방식과 동일하게 촬영을 하면 되며, 이때 휴대 단말의 자이로 센서 및 뎁스 비전 등을 이용하여, 촬영 대상에 대한 촬영 영상 프레임들 중, 각 6면도 및 사시도에 해당하는 이미지를 자동으로 촬영각에 따라서 자동으로 선택하게 된다.
이후, 해당 이미지에 대해서 바람직하게는 2차원 이미지들의 뎁스를 기반으로 3차원 이미지를 생성한 후, 각 면의 3차원 이미지를 정합하여 상하좌우로 회전 출력이 가능한 3차원 이미지와, 이에 대한 각 6면도 및 사시도를 포함하는 실감 오브젝트를 자동으로 생성하게 된다.
이에 의하면, 유저들이 휴대 단말을 이용하여 촬영한 2차원 이미지를 통해 3차원 이미지를 생성하는 데 있어서, 별도의 정확한 각도 측정 없이도, 각 촬영 대상에 대해서 매우 일괄적이고 정확한 6면도 및 사시도를 추출할 수 있고, 이를 통해서 단순 입체 영상이 아닌 상하좌우 회전 출력이 가능한 실감형 오브젝트를 생성할 수 있기 때문에, 3차원 이미지의 품질 향상 및 생성 과정의 편의성이 보장되는 효과가 있다.
특히, 3차원 이미지의 상하좌우 회전 출력 및 이에 대한 각 6면도 및 사시도가 필요시되는 쇼핑몰이나 가상 전시관 등에 등록되어야 하는 촬영 대상에 대해서, 매우 효율적이고 정확한 자료 제공이 가능하게 되어, 유저들이 매우 편리하게 서비스를 이용할 수 있는 효과가 있다.
도 1은 본 발명의 일 실시예에 따른 휴대 단말을 이용한 실감 오브젝트 생성 시스템의 구성 블록도.
도 2는 본 발명의 일 실시예의 구현에 따라서 실감 오브젝트가 생성되는 구체적인 흐름에 대한 예.
도 3은 본 발명의 일 실시예의 구현에 따라서 결합 영상 데이터가 생성되는 흐름에 대한 예.
도 4는 본 발명의 일 실시예의 구현에 따라서 영상 이미지의 크기가 보정되는 예를 설명하기 위한 도면.
도 5 내지 7은 본 발명의 일 실시예의 구현에 따라서 유저 단말의 스크린에 출력되는 유저 인터페이스의 화면의 예.
도 8은 본 발명의 일 실시 예에 따른 컴퓨팅 장치의 내부 구성의 일 예.
이하에서는, 다양한 실시 예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.
본 명세서에서 사용되는 "실시 예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다.
또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다.
또한, 제 1, 제 2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
또한, 본 발명의 실시 예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시 예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
도 1은 본 발명의 일 실시예에 따른 휴대 단말을 이용한 실감 오브젝트 생성 시스템의 구성 블록도, 도 2는 본 발명의 일 실시예의 구현에 따라서 실감 오브젝트가 생성되는 구체적인 흐름에 대한 예, 도 3은 본 발명의 일 실시예의 구현에 따라서 결합 영상 데이터가 생성되는 흐름에 대한 예, 도 4는 본 발명의 일 실시예의 구현에 따라서 영상 이미지의 크기가 보정되는 예를 설명하기 위한 도면, 도 5 내지 7은 본 발명의 일 실시예의 구현에 따라서 유저 단말의 스크린에 출력되는 유저 인터페이스의 화면의 예이다. 이하의 설명에 있어서 본 발명의 각 실시예 및 각 구성에 대한 설명을 위해서 하나 이상의 도면이 동시에 참조되어 설명될 것이다.
상기의 도면들을 함께 참조하면, 본 발명의 일 실시예에 다른 휴대 단말을 이용한 실감 오브젝트 생성 시스템(10, 이하 '본 발명의 시스템'이라 함)은, 영상 데이터 생성부(11), 6면도 선택부(12) 및 오브젝트 생성부(13)를 포함하는 것을 특징으로 하며, 본 발명의 다른 실시예 및 부가적인 기능에 따라서, 가이드 제공부(14), 촬영 제어부(15) 및 인터페이스 제공부(16)를 포함하는 것을 특징으로 한다.
도 1에 도시된 바와 같이, 본 발명의 시스템(10)은 유저의 휴대 단말(미도시)에 포함되도록 구현될 수 있다. 즉, 휴대 단말의 프로세서 및 메모리를 통해 구현되는 소프트웨어의 기능적인 측면에서 시스템(10)이 구현될 수 있고, 시스템(10)에 해당하는 프로그램이 유저 단말에서 구동됨에 따라서 본 발명의 각 기능을 수행하는 것이다.
본 발명에서 유저 단말은, 영상 촬영 장치(30), 자이로 센서(40), 본 발명의 시스템(10) 등이 구현되는 프로세서 및 메모리와 함께 출력 및 입력 수단으로서 예를 들어 터치 스크린(20) 등을 포함하도록 구현될 수 있고, 이는 후술하는 도 8에 대한 설명에서 언급되는 컴퓨팅 장치와 동일한 개념으로 이해될 수 있다.
영상 데이터 생성부(11)는 휴대 단말에 탑재된 영상 촬영 장치(30)를 통한 촬영 대상에 대한 다방향에서의 촬영이 수행되는 경우, 촬영 영상 프레임에 대응되는 각 영상 이미지 획득 시의 휴대 단말에 탑재된 자이로 센서(40)의 센싱값에 따른 촬영각 데이터 및 영상 촬영 장치(30)의 뎁스 비전(Depth Vision) 기능에 따라서 획득된 각 영상 이미지 데이터 상에서의 촬영 대상(100)에 대한 뎁스 값을 매칭한 결합 영상 데이터를 생성하는 기능을 수행하는 구성이다.
본 발명에서 영상 촬영 장치(30)는 적어도 뎁스 비전 기능이 포함되어, 정지 이미지 또는 영상을 촬영하는 장치를 의미한다. 일반적인 최근의 스마트폰에 탑재된 카메라가 본 발명에서의 영상 촬영 장치(30)를 지칭할 수 있다. 뎁스 비전이란, 비행시간거리측정(ToF) 카메라로 분류된다. 사물을 향해 쏜 빛이 튕겨져 돌아오는 시간으로 거리를 계산한다. 사물의 입체감과 공간 정보, 움직임을 정확하게 인식할 수 있다. 해당 거리값이 본 발명에서의 뎁스 값으로 측정되며, 각 픽셀, 즉 영상 프레임을 이루는 픽셀들 중 촬영 대상(100)의 경계값 내의 픽셀들에 대한 뎁스 값을 측정한다.
촬영 대상(100)을 식별하는 데에는, 경계값 식별, 그레이 변환 식별 등 각 영상 프레임을 이루는 이미지들로부터 촬영 대상(100)을 식별하는 다양한 공지의 기술들이 사용될 수 있다.
한편 자이로 센서(40)는, X, Y, Z 3축에 대한 회전 속도를 측정하며, 이를 통해서 스마트폰의 기울임 정도나 회전 등을 측정할 수 있다. 본 발명에서 자이로 센서(40)는 예를 들어 가속도 센서로서, 가속도를 측정하여 동작 인식 및 감지에 활용되는 센서로 대체될 수 있다. 이를 통해서, 스마트폰 등의 휴대 단말을 들고 유저가 회전하거나 이동하면서 촬영 대상(100)을 촬영 시, 각 프레임별로 측정값을 타임 스탬프에 따라서 매칭 시, 각 프레임을 이루는 영상 이미지에 촬영 시의 휴대 단말의 기울임 등을 이용하여 촬영각 데이터를 생성하고, 이를 매칭시킬 수 있다.
본 발명에서 촬영각 데이터는 상술한 바와 같이 자이로 센서의 센싱값을 기준으로 도출된 값으로서, 촬영 대상을 원점으로 한 X, Y, Z 축 좌표값에 따라서 도출되는 3차원 각도 데이터를 의미한다.
본 발명에서 결합 영상 데이터는, 유저가 휴대 단말을 이용하여 영상을 촬영 시, 촬영 시간 동안 획득된 영상의 프레임을 이루는 각 영상 이미지마다, 상술한 뎁스 값 및 촬영각 데이터를 결합한 일종의 미디어 및 메타 데이터의 결합체를 의미한다.
상술한 바와 같이 본 발명에서 활용되는 뎁스 값은, 촬영 대상의 3차원 이미지 생성을 위하여 사용되는 영상 이미지 내의 촬영 대상을 이루는 픽셀들에 대해서 측정된 뎁스 값을 의미한다. 이에 따라서 영상 데이터 생성부(11)는 결합 영상 데이터에 뎁스 값을 매칭 시, 각 영상 이미지에 포함된 촬영 대상에 대한 이미지 경계선 내에 포함된 픽셀들에 대한 복수의 뎁스 값들을 매칭하여 저장할 수 있다. 즉, 본 발명에서 결합 영상 데이터에 매칭되는 뎁스 값은 뎁스 값들의 그룹 데이터로서, 픽셀의 식별 정보 및 각 픽셀의 뎁스 값이 이루는 데이터들의 그룹으로 이루어질 수 있다.
한편, 본 발명에서 모든 픽셀에 대한 뎁스 값을 상기와 같이 결합 영상 데이터에 저장할 수 있으나, 3차원 이미지를 생성하기 위한 최소의 픽셀들을 선택하고, 이에 대한 뎁스 값들을 함께 결합 영상 데이터로 저장하여 처리 데이터의 경량화를 유도할 수 있다. 이를 위해서, 본 발명에서 영상 데이터 생성부(11)는 영상 이미지 내의 촬영 대상을 이루는 픽셀들 중, 인접 픽셀 사이의 뎁스 값의 변경값이 기설정된 임계값을 초과하는 픽셀들에 대한 식별 정보 및 해당 픽셀들에 대한 뎁스 값들을 각 결합 영상 데이터에 매칭하는 것도 가능하다.
이러한 결합 영상 데이터에 대한 예가 도 3에 도시되어 있다. 예를 들어 도 3과 같이 장난감 자동차로서의 촬영 대상에 대응되는 이미지(101)가 각 영상 이미지로부터 추출되면, 이를 이루는 픽셀(101)마다의 뎁스 값(Dn)이 도출된다. 또한 이에 대한 픽셀 정보(Pn) 및 상술한 촬영각 데이터(An)이 매칭되면, 하나의 픽셀마다의 뎁스와 촬영각을 포함하는 부분 결합 영상 데이터(102)가 정해진다. 이때 촬영각은 하나의 영상 이미지에서 모두 동일하게 할당될 수 있음은 당연할 것이다. 이들 부분 결합 영상 데이터(102)가 모든 픽셀들에 대해서 생성되어 영상 이미지별로 결합되면, 상술한 결합 영상 데이터(103)가 생성되는 것이다.
한편 6면도 선택부(12)는 영상 데이터 생성부에 의하여 생성된 결합 영상 데이터의 상대 촬영각 데이터를 이용하여, 자동으로 촬영 대상에 대한 이미지들 중, 6면도 및 사시도에 대응되는 영상 이미지에 대한 결합 영상 데이터를 선택하여 정합 대상 데이터로 저장하는 기능을 수행한다. 즉, 6면도 선택부(12)는 6면도뿐 아니라, 추가적으로 사시도를 추출하여 정합 대상 데이터로 저장하게 된다.
본 발명에서 상대 촬영각 데이터는 상술한 바와 같이 각 영상 이미지에 있어서 획득된 촬영각 끼리의 상대적인 비교에 따라서 생성되는 상대 각도를 의미한다. 이때, 일정한 촬영각을 갖는 이미지를 오프셋으로 설정하면, 해당 이미지에 대한 상대 촬영각 데이터를 이용하여 6면도 및 사시도를 언제나 정확하게 추출할 수 있다.
본 발명에서 6면도 및 사시도는, 일정한 객체를 도시하기 위한 표준 도면 정보로서, 특정 대상에 대한 정면도, 배면도, 평면도, 저면도, 우측면도, 좌측면도 및 사시도를 의미한다. 본 발명에서 6면도 각각 및 사시도는 매우 특정한 절대 촬영각 데이터에 대한 지시가 아니라, 촬영 시점 또는 오프셋과의 매칭 에서 촬영된 영상 이미지를 6면도 및 사시도 중 어느 하나로 지정하고, 이로부터의 상대적인 촬영각 데이터를 기준으로 다른 나머지 도면이 지정되는 것으로 이해될 수 있다.
본 발명에서 정합 대상 데이터는, 상술한 바와 같이 6면도 및 사시도에 대응되는 영상 이미지에 대한 결합 영상 데이터를 지칭한다. 즉 예를 들어 6면도 및 사시도의 7개의 결합 영상 데이터들이 하나의 정합 영상 데이터를 이룰 수 있다.
본 발명에서는 상기와 같이 모든 촬영 대상에 대한 3차원 이미지의 생성, 즉 모델링 시, 항상 일정하게 6면도 및 사시도에 해당하는 이미지를 정합 대상 데이터로 선택하여 활용함으로써, 촬영 상황 및 유저의 촬영에 영향을 받지 않고 일정한 3차원 모델링의 품질을 확보할 수 있고, 전문적인 지식 없이도 자연스럽게 촬영 대상을 중심으로 주변을 움직이면서 동영상을 촬영하게 되면 자동으로 일정한 도면을 선택하여 3차원 모델링을 수행하여, 그 편의성이 크게 향상될 수 있다.
본 발명에서 영상 데이터 생성부(11)에 의하여 생성되는 결합 영상 데이터는 영구 저장되지 않고, 6면도 선택부(12)의 기능 수행 및 상술한 인터페이스 제공부(16)의 기능 수행이 완료되면 모두 삭제되고, 실감 오브젝트의 생성 결과 생성되는 3차원 이미지 및 6면도, 사시도만이 해당 촬영 대상에 대한 프로세스의 결과값으로 저장 가능하게 구성될 수 있다. 이를 통해서 3차원 실감형 오브젝트 생성 시 관리 대상이 되는 데이터의 양 역시 최소화하여, 휴대 단말 등에서도 편리하게 해당 기능을 이용할 수 있도록 할 수 있다.
오브젝트 생성부(13)는 6면도 선택부(12)에 의하여 저장된 정합 대상 데이터에 포함된 영상 이미지를 이용하여, 촬영 대상에 대한 3차원 이미지 데이터인 실감 오브젝트 및 상술한 6면도 및 사시도 이미지를 포함하는 도면 데이터를 포함하는 오브젝트 데이터를 생성하는 기능을 수행한다.
즉 도 2에 도시된 바와 같이, 본 발명에서 촬영 대상(100)에 대해서 유저가 휴대 단말을 이용하여 촬영 대상을 다양한 방향에서 바라보는 식으로 이동하면서 동영상 촬영을 수행하게 되면, 해당 동영상을 이루는 다수의 촬영 영상 프레임(200)에 대응되는 각 영상 이미지(I1, I2, I3 ~ In-1, In)들 중, 상술한 기능 수행에 의하여 6면도에 해당하는 영상 이미지(201, I2, I4, I6, I11, In-1, In)이 도출되고, 이에 추가하여 사시도에 해당하는 영상 이미지(미도시)가 선택될 수 있다. 이들 영상을 정합하여 상술한 실감 오브젝트(300)가 생성된다.
본 발명에서 영상 이미지를 이용하여 3차원 이미지 데이터를 생성함은, 공지의 2차원 이미지를 통한 3차원 이미지 생성 기술을 의미할 수 있으며, 이때 상술한 각 영상 이미지에 포함된 픽셀들의 뎁스 값들 중, 촬영 대상을 이루는 픽셀 및 그 픽셀들의 뎁스 값을 이용하여 실감 오브젝트의 생성에 이용될 수 있다.
구체적인 예로서, 오브젝트 생성부(13)는 정합 대상 데이터에 포함된 영상 이미지들의 뎁스값들을 이용하여 2차원 영상 이미지들로부터 각 면의 부분 3차원 이미지를 생성하고, 각 면의 각 부분 3차원 이미지에 포함된 픽셀들의 뎁스값 및 픽셀들을 비교하여, 각 부분 3차원 이미지에 있어서 촬영 대상의 동일한 포인트를 지시하는 픽셀의 뎁스가 동일해지도록 각 부분 3차원 이미지의 크기를 보정한 뒤 모든 방향에서 부분 3차원 이미지를 정합하여 상하좌우의 3차원 이미지로 구현되는 실감 오브젝트를 생성하는 것이 가능하다.
즉 예를 들어 도 4에 도시된 바와 같이 어느 한 이미지(I1)에서의 특정 픽셀의 뎁스 값(D1)이 다른 이미지(I2)에서의 동일한 픽셀, 즉 촬영 대상에 대한 동일한 포인트를 지시하는 픽셀의 뎁스 값(D2)과 다른 경우 해당 이미지의 정합 시 이미지가 깨질 수 있거나 부정확하고 부드럽지 않은 영상이 생성된다. 이에 따라서 D1과 D2의 뎁스값이 일치하도록, 해당 이미지(I2)의 크기를 보정한 이미지(I2-1)를 생성하고, 모든 방향에서 이미지들의 크기를 보정한 결과 생성된 부분 3차원 이미지를 정합하여 실감 오브젝트를 생성하는 것이다.
본 발명에서 부분 3차원 이미지는, 각 면에 해당하는 2차원의 영상 이미지를 이용하여 생성한 3차원 이미지로서, 그 면을 제외한 영역에 대해서는 3차원 이미지를 구현할 수 없다. 이에 따라서 완전히 상하좌우의 회전이 가능하도록 출력될 수 있는 이미지는, 상술한 6면도 및 사시도에 해당하는 이미지에 대한 3차원 이미지들을 생성하고 상술한 기능의 구현에 따라서 그 부분적인 3차원 이미지들을 정합함을 통해서, 완전히 일체의 3차원 이미지인 실감 오브젝트를 생성해야 하는 것이다.
한편 크기의 보정은 상술한 바와 같으나, 그 영상 이미지에서 촬영 대상의 위치 역시 촬영에 따라서 달라질 수 있다. 본 발명에서 상술한 모든 기능, 즉 결합 영상 데이터의 생성, 6면도의 선택 등에서 사용되는 영상 이미지는, 촬영 영상 프레임을 이루는 각 영상 이미지에서 촬영 대상의 이미지만을 도출한 이미지로서 이해되어야 할 것이다. 그러나 이러한 이미지 역시 특정 영상 이미지의 프레임 내에 위치되므로, 그 프레임 내에서의 상대적인 위치는 가변적일 수 있다.
이에 따라서 영상 이미지의 정합에 의한 실감 오브젝트의 생성 시, 프레임 내에서의 상대 위치가 다른 경우 정합 시 역시 각 위치의 부정합에 의하여 3차원 이미지가 깨질 수 있다. 이러한 현상을 방지하기 위해서, 오브젝트 생성부(13)는, 촬영 대상에 대한 픽셀 분석을 통해, 정합 대상 데이터에 포함된 영상 이미지 중 촬영 대상의 동일한 포인트를 지시하는 픽셀끼리 중첩되도록 서로 인접한 영상 이미지의 상대 위치를 제어한 뒤, 각 영상 이미지를 정합하여 실감 오브젝트를 생성할 수 있다. 이때 각 영상 이미지의 상대 위치를 제어함은 상술한 예에서는 부분 3차원 이미지의 상대 위치를 제어하는 것으로 이해되어 구현될 수 있다.
한편 상술한 바와 같이, 본 발명에 있어서 6면도 및 사시도의 선택을 위해서는 상대 촬영각 데이터가 사용되어야 하며, 이를 위해서는 최초 특정 도면에 대한 절대 촬영각이 지시되어야 한다.
이러한 촬영에 대한 가이드를 유저에게 제공하여 유저가 편리하게 촬영을 수행할 수 있도록 하기 위해서, 가이드 제공부(14) 및 촬영 제어부(15)가 본 발명의 시스템(10)의 추가적인 구성으로 포함될 수 있다.
먼저 가이드 제공부(14)는 예를 들어, 기 설정된 촬영 각도에 대한 오프셋과, 휴대 단말의 자이로 센서의 센싱값에 따라서, 오프셋에 촬영 각도가 일치되도록 휴대 단말의 유저 인터페이스 상에 가이드를 제공하는 기능을 수행한다.
한편, 촬영 제어부(15)는 가이드 제공부에 의하여 제공된 가이드에 따라서 오프셋에 촬영 각도가 일치되는 경우부터 다방향에서의 촬영을 시작하도록 상기 영상 촬영 장치의 촬영 동작을 제어하는 기능을 수행한다.
즉 가이드 제공부(14)는 사용자가 촬영 시 어떤 도면을 촬영하기 위해서 촬영 대상을 중심으로 어떻게 움직이면서 촬영 대상의 각 방향을 촬영해야 하는지 여부에 대한 가이드를 제공하는 기능을 수행하며, 촬영 제어부(15)는 이때 유저가 오프셋에 해당하는 촬영각에 일치되도록 휴대 단말을 이동시킨 경우, 그때부터 자동으로 촬영이 시작되도록 한다.
한편 6면도 선택부(12)는 상술한 가이드 제공부(14) 및 촬영 제어부(15)의 기능 수행과 유기적으로 결합됨에 따라서, 모든 영상 프레임의 결합 영상 데이터를 생성하는 것이 아니라, 오프셋으로부터 6면도 및 사시도를 이루는 촬영각에 대한 감지가 이루어질 때 마다, 영상 데이터 생성부(11)에서 촬영에 따라서 실시간으로 생성되는 결합 영상 데이터 중 각 6면도 및 사시도에 대응되는 영상 이미지를 갖는 결합 영상 데이터를 실시간 선택하도록 기능할 수 있다.
즉, 6면도 선택부(12)는, 촬영 제어부(15)에 의하여 촬영이 진행됨으로써 획득된 영상 이미지를 이용하여 영상 데이터 생성부(11)에 의하여 결합 영상 데이터가 생성된 경우, 오프셋에 촬영 각도가 일치된 시점에서의 촬영각 데이터를 기준으로 6면도 및 사시도에 대응하는 촬영각 데이터를 갖는 결합 영상 데이터를 선택하는 것이 가능하다.
이때 오프셋은 예를 들어 지면과 평행한 각도를 갖는 촬영각, 즉 자이로 센서의 센싱값을 갖는 촬영각임이 바람직하며, 이에 따라서, 6면도 선택부(12)는. 오프셋에 촬영 각도가 일치된 시점에서의 촬영각 데이터를 갖는 결합 영상 데이터의 영상 이미지를 평면도로 하고, 평면도를 기준으로 6면도 및 사시도에 대응하는 촬영각 데이터를 갖는 결합 영상 데이터를 각각 선택할 수 있다.
예를 들어 도 5에 도시된 바와 같이 가이드 제공부(14)는 유저 인터페이스의 일 화면(400) 상에, 오프셋에 촬영각을 맞추도록 실시간 화면(401)과 유저에 대한 안내를 터치 스크린(20)을 통해 구현하여, 유저들이 해당 화면(400)을 확인하면서 오프셋에 대응되는 촬영각을 갖도록 휴대 단말을 이동시키도록 할 수 있다.
한편 6면도 선택부(12)의 기능이 수행되고 있음을 도 6의 화면(410)에서 유저들이 실시간으로 확인할 수 있도록 하여, 유저들이 더욱 편리하고 효과적으로 6면도 및 사시도에 대응되는 이미지를 촬영하기 위해서 휴대 단말을 이동시키도록 가이드할 수 있다.
해당 유저 인터페이스의 일 화면(410)에서는, 실시간 화면(413)과 함께, 촬영 여부를 제어하는 버튼(412)을 이용하여 촬영의 게시 및 중단과 실시간으로 촬영 대상이 촬영되는 화면을 확인할 수 있다. 이에 더하여 상술한 바와 같이 현재 어느 도면들이 획득되거나 미획득된 상태인지 여부를 확인할 수 있는 실시간 도면 획득 파악 화면(411)이 함께 출력될 수 있다. 이를 통해서, 유저들이 더욱 편리하고 효과적으로 6면도 및 사시도에 대응되는 이미지를 촬영하기 위해서 휴대 단말을 이동시키도록 가이드할 수 있다.
이러한 유저 인터페이스는 도 1에 도시된 인터페이스 제공부(16)에 의하여 휴대 단말의 터치 스크린(20) 등의 입출력 수단에 구현될 수 있다. 인터페이스 제공부(16)는 상술한 가이드 화면 및 실시간 도면 획득 정보 등의 확인이 가능한 인터페이스뿐 아니라, 정합 대상 데이터의 정보, 영상 데이터 생성부(11)에 의하여 저장된 결합 영상 데이터의 정보 및 오브젝트 생성부(13)에 의하여 생성된 실감 오브젝트의 정보를 확인할 수 있고, 6면도 및 사시도에 포함될 영상 이미지의 선택 및 영상 이미지의 크기 및 각도의 편집을 통한 실감 오브젝트의 편집이 가능한 유저 인터페이스를 제공하는 기능을 수행할 수 있다.
또한 상기의 부분적인 영상 이미지의 편집뿐 아니라, 이미 생성된 실감 오브젝트의 크기, 색상 및 형태 등의 변환이 가능한 인터페이스가 유저 인터페이스로서 제공될 수 있다. 이때 편집 가능한 크기, 색상 및 형태는, 실감 오브젝트 전체, 각 일부 영역 또는 픽셀별로 그 편집 가능한 요소의 단위가 다양하게 결정될 수 있다.
즉 도 7의 인터페이스 화면(420)을 참조하면, 해당 유저 인터페이스 상에서 유저들은 먼저 영상 촬영 경과 획득된 모든 촬영 영상 프레임에 대응되는 영상 이미지(Fn)들 각각을 확인하는 프레임 선택 메뉴(421)를 이용할 수 있다.
이때 특정 도면(425)을 선택하고, 해당 도면에 대응되는 현재 이미지(426)를 확인한 뒤, 자신이 선택한 이미지로 해당 이미지(426)를 교체 메뉴(427)를 통해 교체할 수 있으며, 이를 저장 메뉴(428)를 통해 저장하여 6면도의 선택을 제어할 수 있다.
또한, 영상 이미지 편집 화면(422) 내에서는 현재 선택한 이미지(Fn)에 대해서 크기 변경 메뉴(423) 및 각도 회전 메뉴(424)를 통해서 이미지의 편집이 가능하고, 이에 대한 오브젝트 생성하기 메뉴(429)를 통해서 현재 선택 및 편집된 상태에서의 영상 이미지들을 이용하여 상술한 바와 같이 정합을 통해서 실감 오브젝트를 생성할 수 있다.
이를 통해서, 별도의 정확한 각도 측정 없이도, 각 촬영 대상에 대해서 매우 일괄적이고 정확한 6면도 및 사시도를 추출할 수 있고, 이를 통해서 단순 입체 영상이 아닌 상하좌우 회전 출력이 가능한 실감형 오브젝트를 생성할 수 있기 때문에, 3차원 이미지의 품질 향상 및 생성 과정의 편의성이 보장되는 효과가 있다.
특히, 3차원 이미지의 상하좌우 회전 출력 및 이에 대한 각 6면도 및 사시도가 필요시되는 쇼핑몰이나 가상 전시관 등에 등록되어야 하는 촬영 대상에 대해서, 매우 효율적이고 정확한 자료 제공이 가능하게 되어, 유저들이 매우 편리하게 서비스를 이용할 수 있는 효과가 있다.
도 8은 본 발명의 일 실시 예에 따른 컴퓨팅 장치의 내부 구성의 일 예를 도시하였으며, 이하의 설명에 있어서, 상술한 도 1 내지 4에 대한 설명과 중복되는 불필요한 실시 예에 대한 설명은 생략하기로 한다.
도 8에 도시한 바와 같이, 컴퓨팅 장치(10000)은 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/O subsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅 장치(10000)은 촉각 인터페이스 장치에 연결된 유저 단말이기(A) 혹은 전술한 컴퓨팅 장치(B)에 해당될 수 있다.
메모리(11200)는, 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅 장치(10000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 그밖에 다양한 데이터를 포함할 수 있다.
이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.
주변장치 인터페이스(11300)는 컴퓨팅 장치(10000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리 (11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅 장치(10000)을 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.
입/출력 서브시스템(11400)은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템(11400)은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서 등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템(11400)을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.
전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.
통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅 장치와 통신을 가능하게 할 수 있다.
또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅 장치와 통신을 가능하게 할 수도 있다.
이러한 도 8의 실시 예는, 컴퓨팅 장치(10000)의 일례일 뿐이고, 컴퓨팅 장치(11000)은 도 8에 도시된 일부 컴포넌트가 생략되거나, 도 8에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅 장치는 도 8에도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(1160)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅 장치(10000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 어플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.
본 발명의 실시 예에 따른 방법들은 다양한 컴퓨팅 장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시 예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 어플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 이용자 단말에 설치될 수 있다. 일 예로, 파일 배포 시스템은 이용자 단말이기의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시 예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술 분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅 장치상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시 예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시 예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광 기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시 예들이 비록 한정된 실시 예와 도면에 의해 설명되었으나, 해당 기술 분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다. 그러므로, 다른 구현들, 다른 실시 예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (10)

  1. 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 휴대 단말을 이용한 실감 오브젝트 생성 시스템에 관한 것으로,
    상기 휴대 단말에 탑재된 영상 촬영 장치를 통한 촬영 대상에 대한 다방향에서의 촬영이 수행되는 경우, 촬영 영상 프레임에 대응되는 각 영상 이미지 획득 시의 상기 휴대 단말에 탑재된 자이로 센서의 센싱값에 따른 촬영각 데이터 및 상기 영상 촬영 장치의 뎁스 비전(Depth Vision) 기능에 따라서 획득된 각 영상 이미지 데이터 상에서의 촬영 대상에 대한 뎁스 값을 매칭한 결합 영상 데이터를 생성하는 영상 데이터 생성부;
    상기 영상 데이터 생성부에 의하여 생성된 결합 영상 데이터의 상대 촬영각 데이터를 이용하여, 자동으로 촬영 대상에 대한 이미지들 중, 6면도 및 사시도에 대응되는 영상 이미지에 대한 결합 영상 데이터를 선택하여 정합 대상 데이터로 저장하는 6면도 선택부; 및
    상기 6면도 선택부에 의하여 저장된 정합 대상 데이터에 포함된 영상 이미지를 이용하여, 촬영 대상에 대한 3차원 이미지 데이터인 실감 오브젝트 및 상기 6면도 및 사시도 이미지를 포함하는 도면 데이터를 포함하는 오브젝트 데이터를 생성하는 오브젝트 생성부;를 포함하고,
    상기 오브젝트 생성부는,
    상기 정합 대상 데이터에 포함된 영상 이미지들의 뎁스값들을 이용하여 2차원 영상 이미지들로부터 부분 3차원 이미지를 생성하고, 각 부분 3차원 이미지에 포함된 픽셀들의 뎁스값들을 비교하여, 각 부분 3차원 이미지에 있어서 촬영 대상의 동일한 포인트를 지시하는 픽셀의 뎁스가 동일해지도록 각 부분 3차원 이미지의 크기를 보정한 뒤 모든 방향에서 부분 3차원 이미지를 정합하여 상하좌우의 3차원 이미지로 구현되는 상기 실감 오브젝트를 생성하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  2. 삭제
  3. 제1항에 있어서,
    상기 영상 데이터 생성부는,
    상기 촬영 대상에 대한 뎁스 값으로서, 각 영상 이미지에 포함된 촬영 대상에 대한 이미지 경계선 내에 포함된 픽셀들 중, 인접 픽셀 사이의 뎁스 값의 변경값이 기설정된 임계값을 초과하는 픽셀들에 대한 뎁스 값들을 각 결합 영상 데이터에 매칭하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  4. 제1항에 있어서,
    상기 오브젝트 생성부는,
    상기 촬영 대상에 대한 픽셀 분석을 통해, 정합 대상 데이터에 포함된 영상 이미지 중 촬영 대상의 동일한 포인트를 지시하는 픽셀끼리 중첩되도록 서로 인접한 영상 이미지의 상대 위치를 제어한 뒤, 각 영상 이미지를 정합하여 상기 실감 오브젝트를 생성하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  5. 제1항에 있어서,
    기 설정된 촬영 각도에 대한 오프셋과, 상기 휴대 단말의 자이로 센서의 센싱값에 따라서, 상기 오프셋에 촬영 각도가 일치되도록 상기 휴대 단말의 유저 인터페이스 상에 가이드를 제공하는 가이드 제공부;를 더 포함하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  6. 제5항에 있어서,
    상기 가이드 제공부에 의하여 제공된 가이드에 따라서 오프셋에 촬영 각도가 일치되는 경우부터 다방향에서의 촬영을 시작하도록 상기 영상 촬영 장치의 촬영 동작을 제어하는 촬영 제어부;를 더 포함하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  7. 제6항에 있어서,
    상기 6면도 선택부는,
    상기 촬영 제어부에 의하여 촬영이 진행됨으로써 획득된 영상 이미지를 이용하여 상기 영상 데이터 생성부에 의하여 결합 영상 데이터가 생성된 경우, 상기 오프셋에 촬영 각도가 일치된 시점에서의 촬영각 데이터를 기준으로 6면도 및 사시도에 대응하는 촬영각 데이터를 갖는 결합 영상 데이터를 선택하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  8. 제7항에 있어서,
    상기 오프셋은 지면과 평행한 각도를 갖는 촬영각인 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  9. 제8항에 있어서,
    상기 6면도 선택부는.
    상기 오프셋에 촬영 각도가 일치된 시점에서의 촬영각 데이터를 갖는 결합 영상 데이터의 영상 이미지를 평면도로 하고, 평면도를 기준으로 6면도 및 사시도에 대응하는 촬영각 데이터를 갖는 결합 영상 데이터를 각각 선택하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
  10. 제1항에 있어서,
    상기 정합 대상 데이터의 정보, 상기 영상 데이터 생성부에 의하여 저장된 결합 영상 데이터의 정보 및 상기 오브젝트 생성부에 의하여 생성된 실감 오브젝트의 정보를 확인할 수 있고, 6면도 및 사시도에 포함될 영상 이미지의 선택 및 영상 이미지의 크기 및 각도의 편집, 및 상기 실감 오브젝트에 대한 크기, 색상 및 형태 변환을 통한 실감 오브젝트의 편집이 가능한 유저 인터페이스를 제공하는 인터페이스 제공부;를 더 포함하는 것을 특징으로 하는 휴대 단말을 이용한 실감 오브젝트 생성 시스템.
KR1020210080208A 2021-06-21 2021-06-21 휴대 단말을 이용한 실감 오브젝트 생성 시스템 KR102398580B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210080208A KR102398580B1 (ko) 2021-06-21 2021-06-21 휴대 단말을 이용한 실감 오브젝트 생성 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210080208A KR102398580B1 (ko) 2021-06-21 2021-06-21 휴대 단말을 이용한 실감 오브젝트 생성 시스템

Publications (1)

Publication Number Publication Date
KR102398580B1 true KR102398580B1 (ko) 2022-05-17

Family

ID=81800160

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210080208A KR102398580B1 (ko) 2021-06-21 2021-06-21 휴대 단말을 이용한 실감 오브젝트 생성 시스템

Country Status (1)

Country Link
KR (1) KR102398580B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102567379B1 (ko) * 2022-07-18 2023-08-17 주식회사 호인스컴퍼니 3d 모델링 자동 보정을 통한 실감 오브젝트 생성 시스템

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020052719A (ja) * 2018-09-27 2020-04-02 富士通株式会社 データ生成方法、装置およびプログラム
KR20200103374A (ko) * 2019-02-25 2020-09-02 주식회사 레이젠 2차원 이미지를 이용한 3차원 모델링 방법
CN111766606A (zh) * 2020-06-19 2020-10-13 Oppo广东移动通信有限公司 Tof深度图像的图像处理方法、装置、设备及存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020052719A (ja) * 2018-09-27 2020-04-02 富士通株式会社 データ生成方法、装置およびプログラム
KR20200103374A (ko) * 2019-02-25 2020-09-02 주식회사 레이젠 2차원 이미지를 이용한 3차원 모델링 방법
CN111766606A (zh) * 2020-06-19 2020-10-13 Oppo广东移动通信有限公司 Tof深度图像的图像处理方法、装置、设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102567379B1 (ko) * 2022-07-18 2023-08-17 주식회사 호인스컴퍼니 3d 모델링 자동 보정을 통한 실감 오브젝트 생성 시스템

Similar Documents

Publication Publication Date Title
US20210166495A1 (en) Capturing and aligning three-dimensional scenes
EP3422955B1 (en) System and method for assisted 3d scanning
CN109816703B (zh) 一种基于相机标定和icp算法的点云配准方法
CN107851178B (zh) 基于多个表面模型的混合三维场景重构
US9524021B2 (en) Imaging surround system for touch-free display control
CN102938844B (zh) 利用立体成像生成自由视点视频
CN109074660A (zh) 单目相机实时三维捕获和即时反馈的方法和系统
CN102982530A (zh) 生成深度图
CN103503030A (zh) 通过进行图像处理来决定位于现实空间中的对象物的进深的图像处理装置、立体视觉装置、集成电路、程序
CN110648363A (zh) 相机姿态确定方法、装置、存储介质及电子设备
US11373329B2 (en) Method of generating 3-dimensional model data
CN110232707A (zh) 一种测距方法及装置
KR102398580B1 (ko) 휴대 단말을 이용한 실감 오브젝트 생성 시스템
WO2018006481A1 (zh) 一种移动终端的体感操作方法及装置
KR20200049958A (ko) 3차원 깊이 측정 장치 및 방법
KR102209907B1 (ko) 시점 변환을 이용하는 360도 영상 저장 방법 및 렌더링 방법
Kumara et al. Real-time 3D human objects rendering based on multiple camera details
KR102068251B1 (ko) 3차원 볼륨 데이터 생성 방법
Langguth et al. Guided Capturing of Multi-view Stereo Datasets.
KR102567379B1 (ko) 3d 모델링 자동 보정을 통한 실감 오브젝트 생성 시스템
KR102611481B1 (ko) 이미지 내의 좌표들 간의 실제 거리를 계산하는 방법 및 장치
Li et al. An Improved Patch-Based Multi-View Stereo Algorithm for Large Image Sets
Gava et al. A Unifying Structure from Motion Framework for Central Projection Cameras

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant