KR20170030325A - 입방체 복원 장치 및 방법 - Google Patents

입방체 복원 장치 및 방법 Download PDF

Info

Publication number
KR20170030325A
KR20170030325A KR1020150127773A KR20150127773A KR20170030325A KR 20170030325 A KR20170030325 A KR 20170030325A KR 1020150127773 A KR1020150127773 A KR 1020150127773A KR 20150127773 A KR20150127773 A KR 20150127773A KR 20170030325 A KR20170030325 A KR 20170030325A
Authority
KR
South Korea
Prior art keywords
cube
depth
rectangle
calculating
center
Prior art date
Application number
KR1020150127773A
Other languages
English (en)
Other versions
KR102449438B1 (ko
Inventor
이주행
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020150127773A priority Critical patent/KR102449438B1/ko
Priority to US15/260,587 priority patent/US10043286B2/en
Publication of KR20170030325A publication Critical patent/KR20170030325A/ko
Application granted granted Critical
Publication of KR102449438B1 publication Critical patent/KR102449438B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G06T7/593—Depth or shape recovery from multiple images from stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/536—Depth or shape recovery from perspective effects, e.g. by using vanishing points
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G06T2207/10021—Stereoscopic video; Stereoscopic image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Geometry (AREA)

Abstract

입방체 복원 장치는 영상에 상응하는 소실점을 산출하는 소실점 산출부, 영상 내 입방체의 영상 깊이를 산출하는 영상 깊이 산출부, 영상의 대표 사각형 및 소실점을 참조하여 중심 사각형을 산출하는 중심 사각형 산출부, 선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출하는 복원 사각형 산출부, 중심 사각형, 복원 사각형 및 투사 중심점에 따른 복원 입방체 깊이를 산출하는 입방체 깊이 산출부 및 복원 사각형을 일 면으로 포함하고 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원하는 입방체 복원부를 포함한다.

Description

입방체 복원 장치 및 방법{APPARATUS AND METHOD FOR RESTORING CUBE}
본 발명은 입방체의 복원 기술에 관한 것으로, 보다 상세하게는 단일 영상에 포함된 입방체를 복원하는 기술에 관한 것이다.
입방체는 실내외 장면에서 가장 흔하게 접할 수 있는 기하학적인 형태이다. 예를 들어, 사람이 주로 주거하는 건물이나 가구의 외형은 대부분 입방체 형태를 뛰고 있다.
입방체인 환경/물체의 기하학적 정보의 중요성은 스마트폰, 증강현실, 가상현실, 로봇 네비게이션 등의 등장으로 인해 부각되고 있다.
영상에서 입체를 복원하는 방법은 사전에 캘리브레이션된 카메라나, 입방체 복원을 위해 특화된 카메라 또는 레이저 기반의 측정 장치가 필요하다. 예를 들어, 대용량의 이미지를 통해 지도를 자동으로 구성하는 장치에서는 비싼 측정 장치를 사용하고 있다.
또한, 공지된 기하학적인 입방체 복원 방법에서는 카메라 캘리브레이션을 우선적으로 수행하여야 한다. 즉, 기존 입방체 복원 방법은 미리 계산된 카메라 내부인수를 활용하여 이미지로부터 기하학적인 정보를 추출한다. 카메라의 내부인수를 알 수 없는 경우, 입방체 복원을 위해서는 PhotoSynth 기술과 같이 다량의 영상에서 특징을 획득하는 과정이 필요하다. 상술한 입방체 복원 기술들은 기하학적인 제약 조건(예를 들어, 입방체의 각 면이 직사각형이고, 각 면 간의 각도가 수직)을 고려하지 않기 때문에 입방체의 복원을 정상적으로 수행하지 못할 가능성이 있다.
본 발명이 해결하고자 하는 과제는 별도의 카메라 캘리브레이션을 수행하지 않고 계산 복잡도가 낮은 연산을 통해 단일 영상에 포함된 입방체를 복원하는 입방체 복원 장치 및 방법을 제공하는 것이다.
본 발명의 일 측면에 따르면, 영상에 상응하는 소실점을 산출하는 소실점 산출부; 영상 내 입방체의 영상 깊이를 산출하는 영상 깊이 산출부; 상기 영상의 대표 사각형 및 상기 소실점을 참조하여 중심 사각형을 산출하는 중심 사각형 산출부; 선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출하는 복원 사각형 산출부; 상기 중심 사각형, 상기 복원 사각형 및 상기 투사 중심점에 따른 복원 입방체 깊이를 산출하는 입방체 깊이 산출부; 및 상기 복원 사각형을 일 면으로 포함하고 상기 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원하는 입방체 복원부;를 포함하는 입방체 복원 장치가 제공된다.
상기 소실점 산출부는, 상기 대표 사각형의 마주보는 변들의 연장선이 교차하는 두 지점을 제1 소실점으로 산출하고, 상기 영상의 중심점을 지나고 상기 제1 소실점 간을 이은 선분과 수직인 제1 선분을 산출하고, 상기 제1 소실점 중 어느 하나와 상기 중심점을 지나는 선분과 수직이고 상기 제1 소실점 중 다른 하나를 지나는 제2 선분을 산출하고, 상기 제1 선분 및 상기 제2 선분의 교점을 제2 소실점으로 산출할 수 있다.
상기 영상 깊이 산출부는, 상기 중심 사각형을 포함하는 입방체에서 중심 사각형과 마주보는 사각형인 중심 이동 사각형의 중심점을 산출하고, 상기 대표 사각형 및 상기 중심 사각형의 중심점 및 상기 제1 소실점 간을 이은 선분의 교점인 중심 소실점을 산출하고, 상기 중심 소실점과 상기 대표 사각형을 마주보는 사각형인 대응 사각형의 중심점을 지나는 직선과 상기 제2 소실점 간의 교점을 상기 중심 이동 사각형의 중심점으로 산출하고, 상기 중심 사각형의 중심점과 상기 중심 이동 사각형의 중심점을 이은 선분에 상응하는 벡터를 상기 영상 깊이로 산출할 수 있다.
상기 입방체 깊이 산출부는, 상기 영상 깊이를 상기 중심 사각형의 두 대각선 방향의 벡터로 분해하고, 상기 두 대각선 방향의 벡터를 복원 사각형의 두 대각선 방향에 따른 벡터로 변환하고, 복원 사각형의 두 대각선 방향에 따른 벡터를 합한 벡터인 복원 사각형 깊이를 산출하고, 상기 복원 사각형 깊이, 상기 투사 중심점에 따라 상기 복원 입방체 깊이를 산출할 수 있다.
상기 입방체 깊이 산출부는, 하기의 수학식에 따라 상기 복원 입방체 깊이의 스칼라값을 산출하고, 상기 복원 사각형에 수직한 방향과 상기 스칼라값을 포함하는 상기 복원 입방체 깊이를 생성하되,
Figure pat00001
상기 dz는 복원 입방체 깊이의 스칼라값이고, 상기 gz는 복원 입방체 깊이이고, d 상기 t는 복원 사각형 깊이의 스칼라값이고, 상기 dh는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수평 좌표 상 거리이고, 상기 dv는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수직 좌표 상 거리일 수 있다.
본 발명의 다른 측면에 따르면, 입방체 복원 장치가 입방체를 복원하는 방법에 있어서, 영상에 상응하는 소실점을 산출하는 단계; 영상 내 입방체의 영상 깊이를 산출하는 단계; 상기 영상의 대표 사각형 및 상기 소실점을 참조하여 중심 사각형을 산출하는 단계; 선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출하는 단계; 상기 중심 사각형, 상기 복원 사각형 및 상기 투사 중심점에 따른 복원 입방체 깊이를 산출하는 단계; 및 상기 복원 사각형을 일 면으로 포함하고 상기 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원하는 단계;를 포함하는 입방체 복원 방법이 제공된다.
상기 영상에 상응하는 소실점을 산출하는 단계는, 상기 대표 사각형의 마주보는 변들의 연장선이 교차하는 두 지점을 제1 소실점으로 산출하는 단계; 상기 영상의 중심점을 지나고 상기 제1 소실점 간을 이은 선분과 수직인 제1 선분을 산출하는 단계; 상기 제1 소실점 중 어느 하나와 상기 중심점을 지나는 선분과 수직이고 상기 제1 소실점 중 다른 하나를 지나는 제2 선분을 산출하는 단계; 및 상기 제1 선분 및 상기 제2 선분의 교점을 제2 소실점으로 산출하는 단계를 포함할 수 있다.
상기 영상 내 입방체의 영상 깊이를 산출하는 단계는, 상기 중심 사각형을 포함하는 입방체에서 중심 사각형과 마주보는 사각형인 중심 이동 사각형의 중심점을 산출하는 단계; 상기 대표 사각형 및 상기 중심 사각형의 중심점 및 상기 제1 소실점 간을 이은 선분의 교점인 중심 소실점을 산출하는 단계; 상기 중심 소실점과 상기 대표 사각형을 마주보는 사각형인 대응 사각형의 중심점을 지나는 직선과 상기 제2 소실점 간의 교점을 상기 중심 이동 사각형의 중심점으로 산출하는 단계; 및 상기 중심 사각형의 중심점과 상기 중심 이동 사각형의 중심점을 이은 선분에 상응하는 벡터를 상기 영상 깊이로 산출하는 단계를 포함할 수 있다.
상기 중심 사각형, 상기 복원 사각형 및 상기 투사 중심점에 따른 복원 입방체 깊이를 산출하는 단계는, 상기 영상 깊이를 상기 중심 사각형의 두 대각선 방향의 벡터로 분해하는 단계; 상기 두 대각선 방향의 벡터를 복원 사각형의 두 대각선 방향에 따른 벡터로 변환하는 단계; 복원 사각형의 두 대각선 방향에 따른 벡터를 합한 벡터인 복원 사각형 깊이를 산출하는 단계; 및 상기 복원 사각형 깊이, 상기 투사 중심점에 따라 상기 복원 입방체 깊이를 산출하는 단계를 포함할 수 있다.
상기 복원 사각형 깊이, 상기 투사 중심점에 따라 상기 복원 입방체 깊이를 산출하는 단계는, 하기의 수학식에 따라 상기 복원 입방체 깊이의 스칼라값을 산출하고, 상기 복원 사각형에 수직한 방향과 상기 스칼라값을 포함하는 상기 복원 입방체 깊이를 생성하되,
Figure pat00002
상기 dz는 복원 입방체 깊이의 스칼라값이고, 상기 gz는 복원 입방체 깊이이고, d 상기 t는 복원 사각형 깊이의 스칼라값이고, 상기 dh는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수평 좌표 상 거리이고, 상기 dv는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수직 좌표 상 거리일 수 있다.
상술한 바와 같이 본 발명의 일 실시예에 따르면, 캘리브레이션이 되지 않은 카메라의 단일 영상에 포함된 입방체를 복원할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 선분 카메라 쌍을 활용함으로써 입방체 복원에 요구되는 계산 복잡도가 낮은 연산을 통해 입방체를 복원할 수 있다.
도 1은 본 발명의 일 실시예에 따른 입방체 복원 장치를 예시한 도면.
도 2는 본 발명의 일 실시예에 따른 입방체 복원 장치가 입방체를 복원하는 과정을 예시한 도면.
도 3은 본 발명의 일 실시예에 따른 입방체 복원 장치가 선정한 입방체의 대표 사각형을 예시한 도면.
도 4는 본 발명의 일 실시예에 따른 입방체 복원 장치가 2개의 소실점을 산출하는 과정을 예시한 도면.
도 5는 본 발명의 일 실시예에 따른 입방체 복원 장치가 2개의 소실점을 통해 3번째 소실점을 산출하는 과정을 예시한 도면.
도 6은 본 발명의 일 실시예에 따른 입방체 복원 장치가 산출하는 영상 깊이를 예시한 도면.
도 7은 본 발명의 일 실시예에 따른 입방체 복원 장치가 영상 깊이를 분해하는 과정을 설명하기 위한 도면.
도 8는 본 발명의 일 실시예에 따른 입방체 복원 장치가 복원 사각형 깊이를 산출하는 과정을 설명하기 위한 도면.
도 9은 본 발명의 일 실시예에 따른 입방체 복원 장치가 복원 입방체 깊이를 산출하는 과정을 설명하기 위한 도면.
도 10은 본 발명의 일 실시에에 따른 입방체 복원 장치가 영상 깊이를 산출하는 과정을 예시한 순서도.
도 11은 본 발명의 일 실시에에 따른 입방체 복원 장치가 중심 이동 사각형의 중심점을 산출하는 과정을 예시한 도면.
도 12는 본 발명의 일 실시예에 따른 입방체 복원 장치가 중심 사각형을 산출하는 과정을 예시한 도면.
도 13는 본 발명의 일 실시예에 따른 입방체 복원 장치가 구현된 컴퓨터 시스템을 예시한 도면
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 이를 상세한 설명을 통해 상세히 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
또한, 본 명세서에서, 일 구성요소가 다른 구성요소로 신호를 “전송한다”로 언급된 때에는, 상기 일 구성요소가 상기 다른 구성요소와 직접 연결되어 신호를 전송할 수 있지만, 특별히 반대되는 기재가 존재하지 않는 이상, 중간에 또 다른 구성요소를 매개하여 신호를 전송할 수도 있다고 이해되어야 할 것이다.
도 1은 본 발명의 일 실시예에 따른 입방체 복원 장치를 예시한 도면이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 입방체 복원 장치는 수신부(110), 소실점 산출부(120), 영상 깊이 산출부(130), 중심 사각형 산출부(140), 복원 사각형 산출부(150), 입방체 깊이 산출부(160) 및 입방체 복원부(170)를 포함한다.
수신부(110)는 미리 지정된 프로토콜을 통해 외부 디바이스(단말, 카메라, 저장 매체 등)로부터 영상을 수신한다. 수신부(110)는 영상을 소실점 산출부(120)로 전송한다.
소실점 산출부(120)는 입방체 복원 장치는 영상 내 입방체의 면 중 가시성이 가장 좋은 면을 대표 사각형으로 선정하고, 영상 내 입방체에 상응하는 소실점을 산출한다. 소실점 산출부(120)는 소실점, 대표 사각형 및 영상을 영상 깊이 산출부(130)로 전송한다. 소실점 산출부(120)가 소실점을 산출하는 과정은 추후 도 2 및 도 4를 참조하여 상세히 설명하도록 한다.
영상 깊이 산출부(130)는 입방체의 영상 깊이를 산출한다. 이 때, 영상 깊이는 대표 사각형과 마주보는 입방체의 면에 해당하는 사각형인 대응 사각형의 일 꼭지점과 대표 사각형의 일 꼭지점을 잇는 모서리의 영상 상 길이 및 방향을 포함하는 벡터를 의미한다. 추후, 도 10 및 도 11을 참조하여 영상 깊이 산출부(130)가 영상 깊이를 산출하는 과정을 상세히 설명하도록 한다.
중심 사각형 산출부(140)는 대표 사각형에 상응하는 중심 사각형을 산출한다. 이 때, 중심 사각형은 사각형의 중심점이 영상의 중심점에 위치하도록 대표 사각형을 변형한 사각형이다. 추후 도 12를 참조하여 중심 사각형 산출부(140)가 중심 사각형을 산출하는 과정을 상세히 설명하도록 한다.
복원 사각형 산출부(150)는 선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출한다. 이 때, 복원 사각형은 복원된 입방체의 일 면인 직사각형을 의미하고, 투사 중심점은 복원 사각형을 촬영하였을 때 중심 사각형과 같은 영상을 획득할 수 있는 카메라의 위치를 의미한다.
입방체 깊이 산출부(160)는 중심 사각형, 복원 사각형 및 투사 중심점에 따른 복원된 입방체의 깊이를 산출한다. 예를 들어, 입방체 깊이 산출부(160)는 영상 깊이를 중심 사각형의 두 대각선 방향의 벡터로 분해하고, 중심 사각형의 두 대각선 방향에 따른 벡터를 선분 카메라의 성질을 이용하여 복원 사각형의 두 대각선 방향에 따른 벡터로 변환하고, 변환된 두 벡터를 합한 벡터인 복원 사각형 깊이를 산출하고, 복원 사각형 깊이, 영상 깊이, 투사 중심점의 기하학적인 관계에 따라 복원된 입방체의 깊이(이하, 복원 입방체 깊이라 지칭)를 산출할 수 있다.
입방체 복원부(170)는 복원 사각형을 일 면으로 포함하고 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원한다.
도 2는 본 발명의 일 실시예에 따른 입방체 복원 장치가 입방체를 복원하는 과정을 예시한 도면이고, 도 3은 본 발명의 일 실시예에 따른 입방체 복원 장치가 선정한 입방체의 대표 사각형을 예시한 도면이고, 도 4는 본 발명의 일 실시예에 따른 입방체 복원 장치가 2개의 소실점을 산출하는 과정을 예시한 도면이고, 도 5는 본 발명의 일 실시예에 따른 입방체 복원 장치가 2개의 소실점을 통해 3번째 소실점을 산출하는 과정을 예시한 도면이고, 도 6은 본 발명의 일 실시예에 따른 입방체 복원 장치가 산출하는 영상 깊이를 예시한 도면이고, 도 7은 본 발명의 일 실시예에 따른 입방체 복원 장치가 영상 깊이를 분해하는 과정을 설명하기 위한 도면이고, 도 8은 본 발명의 일 실시예에 따른 입방체 복원 장치가 복원 사각형 깊이를 산출하는 과정을 설명하기 위한 도면이고, 도 9는 본 발명의 일 실시예에 따른 입방체 복원 장치가 복원 입방체 깊이를 산출하는 과정을 설명하기 위한 도면이다.
후술하는 각 단계는 입방체 복원 장치를 구성하는 각 기능부에 의해 수행되는 과정이나 발명의 간결하고 명확한 설명을 위해 각 단계의 주체를 입방체 복원 장치로 통칭하도록 한다.
도 2를 참조하면, 단계 210에서 입방체 복원 장치는 영상을 외부 디바이스(카메라, 저장 매체, 단말 등)으로부터 수신한다.
단계 220에서 입방체 복원 장치는 영상 내 입방체의 면 중 가시성이 가장 좋은 면을 대표 사각형으로 선정한다. 이 때, 입방체 복원 장치는 영상 내 입방체의 면 중 각 변 간의 각도가 미리 지정된 이상으로 형성되어 네 꼭지점의 위치가 명확히 구별 가능하고, 해당 면의 법선 벡터의 방향이 영상을 촬영한 카메라의 촬영 방향과 미리 지정된 각도 이내인 면을 가시성이 가장 좋은 면으로 선정할 수 있다. 또는, 입방체 복원 장치는 사용자로부터 영상 내 대표 사각형의 네 꼭지점을 선정하는 입력을 받고, 해당 꼭지점을 이루는 사각형을 대표 사각형으로 선정할 수 있다. 또는 입방체 복원 장치는 영상 내 입방체의 선분을 추출하고, 각 선분의 교점을 꼭지점으로 추출할 수 있다. 이하, 도 3과 같이 대표 사각형의 네 개의 꼭지점을 q1g1, q1g2, q1g3 및 q1g4라고 지칭하도록 한다. 또한, 대응 사각형의 네 개의 꼭지점을 q2g1, q2g2, q2g3 및 q2g4라고 지칭하도록 한다.
단계 230에서 입방체 복원 장치는 입방체에 상응하는 소실점을 산출한다. 도 4와 같이 입방체 복원 장치는 대표 사각형의 마주보는 변들의 연장선이 교차하는 지점을 소실점(V1, V2)으로 산출할 수 있다. 또한, 입방체 복원 장치는 영상의 중심점을 지나고 먼저 산출한 두 소실점(V1, V2)를 이은 선분과 수직인 선분(f3)을 산출한다. 즉, 도 5와 같이 입방체 복원 장치는 먼저 산출한 일 소실점(V2)과 중심점을 지나는 선분(f2)과 수직이고 타 소실점(V1)을 지나는 선분과 선분(f3)의 교점을 소실점(V3)로 산출할 수 있다. 입방체 복원 장치는 대표 사각형의 마주보는 선분들의 연장선이 교차하는 지점을 소실점(V1, V2)으로 산출하고, 두 소실점(V1, V2)을 꼭지점으로 하는 삼각형 중 영상의 중심점을 수심(orthocenter)으로 가지는 삼각형의 꼭지점 중 두 소실점(V1, V2) 이외 나머지 꼭지점을 소실점(V3)로 산출할 수 있다.
단계 240에서 입방체 복원 장치는 입방체의 영상 깊이를 산출한다. 즉, 입방체 복원 장치는 도 6의 q1g1과 q2g1를 이은 선분에 상응하는 벡터를 영상 깊이로 산출할 수 있다. 예를 들어, 입방체 복원 장치는 대표 사각형의 일 꼭지점으로부터 소실점(V3)를 이은 가이드라인(610)을 표시하고, 사용자로부터 q2g1를 선택하는 입력을 받을 수 있다. 또는 입방체 복원 장치는 미리 지정된 과정에 따라 영상 깊이를 자동으로 산출할 수 있다. 추후, 도 10 및 도 11을 참조하여 입방체 복원 장치가 영상 깊이를 자동으로 산출하는 과정을 상세히 설명하도록 한다.
단계 250에서 입방체 복원 장치는 대표 사각형에 상응하는 중심 사각형을 산출한다. 추후 도 12를 참조하여 입방체 복원 장치가 중심 사각형을 산출하는 과정을 상세히 설명하도록 한다.
단계 260에서 입방체 복원 장치는 선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출한다. 이 때, 중심 사각형에 상응하는 복원 사각형은 복원할 입방체의 대표 사각형을 정면으로 바라보았을 때(노멀 벡터 방향으로 바라보았을 때), 대표 사각형의 형상을 나타낸다. 즉, 복원 사각형의 대표 사각형을 정면으로 바라보았을 경우에 나타나는 직사각형의 형태를 나타낼 수 있다. 투사 중심점은 영상을 촬영한 카메라의 위치를 의미한다.
단계 270에서 입방체 복원 장치는 영상 깊이를 중심 사각형의 두 대각선 방향의 벡터로 분해한다. 예를 들어, 도 7과 같이 벡터 q0 및 q1의 방향에 상응하는 두 개의 벡터(s0q0, s1q1)로 영상 깊이(qz)를 분해할 수 있다. 이 때, s0 및 s1은 실수이다. 즉, 영상 깊이(qz)는 하기의 수학식 1과 같이 표현될 수 있다.
[수학식 1]
Figure pat00003
단계 280에서 입방체 복원 장치는 중심 사각형의 두 대각선 방향에 따른 벡터를 선분 카메라의 성질을 이용하여 복원 사각형의 두 대각선 방향에 따른 벡터로 변환하고, 변환된 두 벡터를 합한 값인 복원 사각형 깊이를 산출한다. 이 때, 선분 카메라를 통해 중심 사각형의 대각선 방향에 따른 벡터를 복원 사각형의 대각선 방향에 따른 벡터로 변환하는 과정은 공지된 사항이므로 그 상세한 설명은 생략하기로 한다.
예를 들어, 입방체 복원 장치는 선분 카메라의 성질을 이용하여 도 7의 벡터 q0, q1의 방향에 상응하는 두 개의 벡터를 도 8과 같이 벡터 g0, g1의 방향에 상응하는 두 개의 벡터(t0g0, t1g1)로 변환하고, 두 벡터를 합하여 복원 사각형 깊이(gt)를 산출할 수 있다. 이 때, t0, t1은 실수이다. 즉, 복원 사각형의 깊이(gt)는 하기의 수학식 2와 같이 표현될 수 있다.
[수학식 2]
Figure pat00004
단계 290에서 입방체 복원 장치는 복원 사각형 깊이, 영상 깊이, 투사 중심점의 기하학적인 관계에 따라 복원 입방체 깊이를 산출한다. 예를 들어, 입방체 복원 장치는 도 9와 같이 투사 중심점(Pc)의 위치, 복원 사각형 깊이 및 영상 깊이의 기하학적 관계에 따라 하기의 수학식 3과 같이 복원된 입방체의 깊이의 스칼라값(dz)을 산출할 수 있다. 입방체 복원 장치는 복원 사각형에 수직한 방향과 스칼라값(dz)를 갖는 벡터를 복원 입방체 깊이로 산출할 수 있다.
[수학식 3]
Figure pat00005
이 때, dz는 복원 입방체 깊이의 스칼라값이고, gz는 복원 입방체 깊이이고, dt는 복원 사각형 깊이의 스칼라값이고, dh는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수평 좌표 상 거리이고, dv는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수직 좌표 상 거리이다.
단계 295에서 입방체 복원 장치는 복원 사각형을 일 면으로 포함하고 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원한다.
도 10은 본 발명의 일 실시에에 따른 입방체 복원 장치가 영상 깊이를 산출하는 과정을 예시한 순서도이고, 도 11은 본 발명의 일 실시에에 따른 입방체 복원 장치가 중심 이동 사각형의 중심점을 산출하는 과정을 예시한 도면이다. 도 10의 과정은 도 2에서 상술한 단계 240에 해당할 수 있다.
단계 1010에서 입방체 복원 장치는 대응 사각형의 꼭지점 및 중심점을 산출한다. 입방체 복원 장치는 대표 사각형과 대응 사각형이 3개의 소실점을 공유하는 관계에 따라 대응 사각형의 각 꼭지점의 좌표를 산출한다. 소실점 3개를 통해 대응 사각형의 꼭지점을 산출하는 과정은 자명한 사항이니 그 상세한 설명은 생략하기로 한다.
단계 1020에서 입방체 복원 장치는 대표 사각형이 변환된 중심 사각형을 포함하는 입방체에서 중심 사각형과 마주보는 사각형(이하, 중심 이동 사각형이라 지칭)의 중심점을 산출한다. 도 8과 같이 입방체 복원 장치는 대표 사각형의 중심점(mQ1g)과 중심 사각형의 중심점(mQ1 , 영상의 중심점)을 지나는 직선과 두 소실점(V1, V2) 간을 이은 선분의 교점을 소실점(Vt, 이하 중심 소실점이라 지칭)으로 설정할 수 있다. 입방체 복원 장치는 중심 소실점(Vt)과 대응 사각형의 중심점(mQ2g)을 지나는 직선과 소실점(V3) 간의 교점을 중심 이동 사각형의 중심점(mQ2)으로 산출할 수 있다.
단계 1030에서 입방체 복원 장치는 중심 사각형의 중심점과 중심 이동 사각형의 중심점을 이은 선분에 상응하는 벡터를 영상 깊이로 산출한다.
도 12는 본 발명의 일 실시예에 따른 입방체 복원 장치가 중심 사각형을 산출하는 과정을 예시한 도면이다.
도 12를 참조하면, 입방체 복원 장치는 대표 사각형(1210)의 각 변의 연장선과 두 소실점(V1, V2)을 연결한 선분의 교점인 제1 연장 교점(도 12의 W1 ,0, W1 ,1)을 산출할 수 있다. 입방체 복원 장치는 각 소실점과 영상의 중심점(Om)을 지나는 직선(이하, 중심 소실선이라 지칭)과 대표 사각형(1210)의 일측 변(도 12의 U0, U1이 연결된 변)을 연장한 직선의 교점(도 12의 Us,0, Us,1)인 제2 연장 교점을 산출할 수 있다. 입방체 복원 장치는 제1 연장 교점과 제2 연장 교점을 연결한 직선과 중심 소실선의 교점(도 12의 Us,2, Us,3)인 제3 연장 교점을 산출할 수 있다. 입방체 복원 장치는 제2 연장 교점과 제3 연장 교점을 꼭지점으로 하는 사각형을 중심 사각형(1220)으로 산출할 수 있다.
상술한 본 발명의 일 실시예에 따른 입방체 복원 장치는 컴퓨터 시스템으로 구현될 수 있다.
도 13는 본 발명의 일 실시예에 따른 입방체 복원 장치가 구현된 컴퓨터 시스템을 예시한 도면이다.
도 13을 참조하면, 본 발명에 따른 실시예는 컴퓨터 시스템내에, 예를 들어, 컴퓨터 판독가능 기록매체로 구현될 수 있다. 도 13에 도시된 바와 같이, 컴퓨터 시스템(1300)은 하나 이상의 프로세서(1310), 메모리(1320), 저장부(1330), 사용자 인터페이스 입력부(1340) 및 사용자 인터페이스 출력부(1350) 중 적어도 하나 이상의 요소를 포함할 수 있으며, 이들은 버스(1360)를 통해 서로 통신할 수 있다. 또한, 컴퓨터 시스템(1300)은 네트워크에 접속하기 위한 네트워크 인터페이스(1370)를 또한 포함할 수 있다. 프로세서(1310)는 메모리(1320) 및/또는 저장소(1330)에 저장된 처리 명령어를 실행시키는 CPU 또는 반도체 소자일 수 있다. 메모리(1320) 및 저장부(1330)는 다양한 유형의 휘발성/비휘발성 기억 매체를 포함할 수 있다. 예를 들어, 메모리는 ROM(1324) 및 RAM(1325)를 포함할 수 있다.
이제까지 본 발명에 대하여 그 실시 예를 중심으로 살펴보았다. 전술한 실시 예 외의 많은 실시 예들이 본 발명의 특허청구범위 내에 존재한다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시 예는 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

Claims (10)

  1. 영상에 상응하는 소실점을 산출하는 소실점 산출부;
    영상 내 입방체의 영상 깊이를 산출하는 영상 깊이 산출부;
    상기 영상의 대표 사각형 및 상기 소실점을 참조하여 중심 사각형을 산출하는 중심 사각형 산출부;
    선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출하는 복원 사각형 산출부;
    상기 중심 사각형, 상기 복원 사각형 및 상기 투사 중심점에 따른 복원 입방체 깊이를 산출하는 입방체 깊이 산출부; 및
    상기 복원 사각형을 일 면으로 포함하고 상기 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원하는 입방체 복원부;
    를 포함하는 입방체 복원 장치.
  2. 제1 항에 있어서,
    상기 소실점 산출부는,
    상기 대표 사각형의 마주보는 변들의 연장선이 교차하는 두 지점을 제1 소실점으로 산출하고,
    상기 영상의 중심점을 지나고 상기 제1 소실점 간을 이은 선분과 수직인 제1 선분을 산출하고,
    상기 제1 소실점 중 어느 하나와 상기 중심점을 지나는 선분과 수직이고 상기 제1 소실점 중 다른 하나를 지나는 제2 선분을 산출하고,
    상기 제1 선분 및 상기 제2 선분의 교점을 제2 소실점으로 산출하는 것을 특징으로 하는 입방체 복원 장치.
  3. 제2 항에 있어서,
    상기 영상 깊이 산출부는,
    상기 중심 사각형을 포함하는 입방체에서 중심 사각형과 마주보는 사각형인 중심 이동 사각형의 중심점을 산출하고,
    상기 대표 사각형 및 상기 중심 사각형의 중심점 및 상기 제1 소실점 간을 이은 선분의 교점인 중심 소실점을 산출하고,
    상기 중심 소실점과 상기 대표 사각형을 마주보는 사각형인 대응 사각형의 중심점을 지나는 직선과 상기 제2 소실점 간의 교점을 상기 중심 이동 사각형의 중심점으로 산출하고,
    상기 중심 사각형의 중심점과 상기 중심 이동 사각형의 중심점을 이은 선분에 상응하는 벡터를 상기 영상 깊이로 산출하는 것을 특징으로 하는 입방체 복원 장치.
  4. 제1 항에 있어서,
    상기 입방체 깊이 산출부는,
    상기 영상 깊이를 상기 중심 사각형의 두 대각선 방향의 벡터로 분해하고,
    상기 두 대각선 방향의 벡터를 복원 사각형의 두 대각선 방향에 따른 벡터로 변환하고,
    복원 사각형의 두 대각선 방향에 따른 벡터를 합한 벡터인 복원 사각형 깊이를 산출하고,
    상기 복원 사각형 깊이, 상기 투사 중심점에 따라 상기 복원 입방체 깊이를 산출하는 것을 특징으로 하는 입방체 복원 장치.
  5. 제4 항에 있어서,
    상기 입방체 깊이 산출부는, 하기의 수학식에 따라 상기 복원 입방체 깊이의 스칼라값을 산출하고, 상기 복원 사각형에 수직한 방향과 상기 스칼라값을 포함하는 상기 복원 입방체 깊이를 생성하되,
    Figure pat00006

    상기 dz는 복원 입방체 깊이의 스칼라값이고, 상기 gz는 복원 입방체 깊이이고, d 상기 t는 복원 사각형 깊이의 스칼라값이고, 상기 dh는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수평 좌표 상 거리이고, 상기 dv는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수직 좌표 상 거리인 것을 특징으로 하는 입방체 복원 장치.
  6. 입방체 복원 장치가 입방체를 복원하는 방법에 있어서,
    영상에 상응하는 소실점을 산출하는 단계;
    영상 내 입방체의 영상 깊이를 산출하는 단계;
    상기 영상의 대표 사각형 및 상기 소실점을 참조하여 중심 사각형을 산출하는 단계;
    선분 카메라 쌍(CLC, coupled line camera) 방법을 이용하여 중심 사각형에 상응하는 복원 사각형 및 투사 중심점을 산출하는 단계;
    상기 중심 사각형, 상기 복원 사각형 및 상기 투사 중심점에 따른 복원 입방체 깊이를 산출하는 단계; 및
    상기 복원 사각형을 일 면으로 포함하고 상기 복원 입방체 깊이만큼의 깊이를 가지는 입방체를 복원하는 단계;
    를 포함하는 입방체 복원 방법.
  7. 제6 항에 있어서,
    상기 영상에 상응하는 소실점을 산출하는 단계는,
    상기 대표 사각형의 마주보는 변들의 연장선이 교차하는 두 지점을 제1 소실점으로 산출하는 단계;
    상기 영상의 중심점을 지나고 상기 제1 소실점 간을 이은 선분과 수직인 제1 선분을 산출하는 단계;
    상기 제1 소실점 중 어느 하나와 상기 중심점을 지나는 선분과 수직이고 상기 제1 소실점 중 다른 하나를 지나는 제2 선분을 산출하는 단계; 및
    상기 제1 선분 및 상기 제2 선분의 교점을 제2 소실점으로 산출하는 단계
    를 포함하는 것을 특징으로 하는 입방체 복원 방법.
  8. 제7 항에 있어서,
    상기 영상 내 입방체의 영상 깊이를 산출하는 단계는,
    상기 중심 사각형을 포함하는 입방체에서 중심 사각형과 마주보는 사각형인 중심 이동 사각형의 중심점을 산출하는 단계;
    상기 대표 사각형 및 상기 중심 사각형의 중심점 및 상기 제1 소실점 간을 이은 선분의 교점인 중심 소실점을 산출하는 단계;
    상기 중심 소실점과 상기 대표 사각형을 마주보는 사각형인 대응 사각형의 중심점을 지나는 직선과 상기 제2 소실점 간의 교점을 상기 중심 이동 사각형의 중심점으로 산출하는 단계; 및
    상기 중심 사각형의 중심점과 상기 중심 이동 사각형의 중심점을 이은 선분에 상응하는 벡터를 상기 영상 깊이로 산출하는 단계
    를 포함하는 것을 특징으로 하는 입방체 복원 방법.
  9. 제6 항에 있어서,
    상기 중심 사각형, 상기 복원 사각형 및 상기 투사 중심점에 따른 복원 입방체 깊이를 산출하는 단계는,
    상기 영상 깊이를 상기 중심 사각형의 두 대각선 방향의 벡터로 분해하는 단계;
    상기 두 대각선 방향의 벡터를 복원 사각형의 두 대각선 방향에 따른 벡터로 변환하는 단계;
    복원 사각형의 두 대각선 방향에 따른 벡터를 합한 벡터인 복원 사각형 깊이를 산출하는 단계; 및
    상기 복원 사각형 깊이, 상기 투사 중심점에 따라 상기 복원 입방체 깊이를 산출하는 단계
    를 포함하는 것을 특징으로 하는 입방체 복원 방법.
  10. 제9 항에 있어서,
    상기 복원 사각형 깊이, 상기 투사 중심점에 따라 상기 복원 입방체 깊이를 산출하는 단계는,
    하기의 수학식에 따라 상기 복원 입방체 깊이의 스칼라값을 산출하고, 상기 복원 사각형에 수직한 방향과 상기 스칼라값을 포함하는 상기 복원 입방체 깊이를 생성하되,
    Figure pat00007

    상기 dz는 복원 입방체 깊이의 스칼라값이고, 상기 gz는 복원 입방체 깊이이고, d 상기 t는 복원 사각형 깊이의 스칼라값이고, 상기 dh는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수평 좌표 상 거리이고, 상기 dv는 복원 사각형의 일 꼭지점과 투사 중심점 간의 수직 좌표 상 거리인 것을 특징으로 하는 입방체 복원 방법.
KR1020150127773A 2015-09-09 2015-09-09 입방체 복원 장치 및 방법 KR102449438B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020150127773A KR102449438B1 (ko) 2015-09-09 2015-09-09 입방체 복원 장치 및 방법
US15/260,587 US10043286B2 (en) 2015-09-09 2016-09-09 Apparatus and method for restoring cubical object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150127773A KR102449438B1 (ko) 2015-09-09 2015-09-09 입방체 복원 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20170030325A true KR20170030325A (ko) 2017-03-17
KR102449438B1 KR102449438B1 (ko) 2022-09-30

Family

ID=58190150

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150127773A KR102449438B1 (ko) 2015-09-09 2015-09-09 입방체 복원 장치 및 방법

Country Status (2)

Country Link
US (1) US10043286B2 (ko)
KR (1) KR102449438B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190051523A (ko) * 2017-11-07 2019-05-15 서울여자대학교 산학협력단 발광 다이오드가 설치된 직육면체를 이용한 카메라의 캘리브레이션 장치 및 방법

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11024065B1 (en) * 2013-03-15 2021-06-01 William S. Baron Process for creating an augmented image
US9922437B1 (en) 2013-03-15 2018-03-20 William S. Baron Process for creating an augmented image
JP2018041201A (ja) * 2016-09-06 2018-03-15 富士通株式会社 表示制御プログラム、表示制御方法および情報処理装置
CN110322513B (zh) * 2018-03-30 2022-03-04 杭州海康威视数字技术股份有限公司 一种相机外参标定方法、装置及电子设备
EP4143732A1 (en) 2020-05-01 2023-03-08 Monday.com Ltd. Digital processing systems and methods for enhanced collaborative workflow and networking systems, methods, and devices
CN113255468A (zh) * 2021-05-06 2021-08-13 东风汽车集团股份有限公司 车载全景影像标定块识别优化方法、系统及可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6963824B1 (en) * 1999-02-19 2005-11-08 Davidson Joseph K Method and apparatus for geometric variations to integrate parametric computer aided design with tolerance analyses and optimization
KR20100072843A (ko) * 2008-12-22 2010-07-01 한국전자통신연구원 평행사변형 기반의 무한 호모그래피 산출 방법과 이를 이용한 건물 구조 복원 방법
US8644549B2 (en) * 2011-02-01 2014-02-04 L-3 Communications Security And Detection Systems, Inc. Reconstruction method using direct and iterative techniques
KR20140033868A (ko) * 2012-09-11 2014-03-19 한국과학기술원 증강현실 응용을 위한 환경 모델링 방법 및 장치

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9122843D0 (en) * 1991-10-28 1991-12-11 Imperial College Method and apparatus for image processing
KR980004174U (ko) 1996-06-25 1998-03-30 로터리 히터의 전도 안전장치
US7840059B2 (en) * 2006-09-21 2010-11-23 Microsoft Corporation Object recognition using textons and shape filters
US20110149039A1 (en) 2009-12-18 2011-06-23 Electronics And Telecommunications Research Institute Device and method for producing new 3-d video representation from 2-d video
KR20110070678A (ko) 2009-12-18 2011-06-24 한국전자통신연구원 2ｄ 동영상으로부터 새로운 3ｄ 입체 동영상 제작을 위한 장치 및 방법
KR20130114420A (ko) 2012-04-09 2013-10-18 한국전자통신연구원 2차원 동영상의 3차원 동영상으로의 변환 방법 및 장치
US9922437B1 (en) * 2013-03-15 2018-03-20 William S. Baron Process for creating an augmented image

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6963824B1 (en) * 1999-02-19 2005-11-08 Davidson Joseph K Method and apparatus for geometric variations to integrate parametric computer aided design with tolerance analyses and optimization
KR20100072843A (ko) * 2008-12-22 2010-07-01 한국전자통신연구원 평행사변형 기반의 무한 호모그래피 산출 방법과 이를 이용한 건물 구조 복원 방법
US8644549B2 (en) * 2011-02-01 2014-02-04 L-3 Communications Security And Detection Systems, Inc. Reconstruction method using direct and iterative techniques
KR20140033868A (ko) * 2012-09-11 2014-03-19 한국과학기술원 증강현실 응용을 위한 환경 모델링 방법 및 장치

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Daewon Kim et al., Object transformation of 2D image using vanishing point, Journal of the Information Science Society, Vol. 30, No. 11. (2003.12.) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190051523A (ko) * 2017-11-07 2019-05-15 서울여자대학교 산학협력단 발광 다이오드가 설치된 직육면체를 이용한 카메라의 캘리브레이션 장치 및 방법

Also Published As

Publication number Publication date
KR102449438B1 (ko) 2022-09-30
US10043286B2 (en) 2018-08-07
US20170069095A1 (en) 2017-03-09

Similar Documents

Publication Publication Date Title
KR102449438B1 (ko) 입방체 복원 장치 및 방법
US11393173B2 (en) Mobile augmented reality system
US11270460B2 (en) Method and apparatus for determining pose of image capturing device, and storage medium
US10701332B2 (en) Image processing apparatus, image processing method, image processing system, and storage medium
US9928656B2 (en) Markerless multi-user, multi-object augmented reality on mobile devices
US10026218B1 (en) Modeling indoor scenes based on digital images
WO2017092307A1 (zh) 模型渲染方法及装置
KR20190042187A (ko) 깊이 값을 추정하는 방법 및 장치
US20120001901A1 (en) Apparatus and method for providing 3d augmented reality
CN112686877B (zh) 基于双目相机的三维房屋损伤模型构建测量方法及系统
US11830148B2 (en) Reconstruction of essential visual cues in mixed reality applications
CN111161336A (zh) 三维重建方法、三维重建装置和计算机可读存储介质
KR20160095560A (ko) 카메라 캘리브레이션 장치 및 방법
JP2020008802A (ja) 三次元マップ生成装置および三次元マップ生成方法
Angladon et al. The toulouse vanishing points dataset
KR102475790B1 (ko) 지도제작플랫폼장치 및 이를 이용한 지도제작방법
WO2019155903A1 (ja) 情報処理装置および方法
JP6306996B2 (ja) 映像データ処理方法、映像データ処理装置及び映像データ処理プログラム
KR20100072843A (ko) 평행사변형 기반의 무한 호모그래피 산출 방법과 이를 이용한 건물 구조 복원 방법
KR20150119770A (ko) 카메라를 사용한 3차원 좌표 측정 장치 및 방법
CN113706692A (zh) 三维图像重构方法、装置、电子设备以及存储介质
JP2017085297A (ja) 画像処理装置、画像処理方法およびプログラム
Peng et al. Projective reconstruction with occlusions
Bartoli The geometry of dynamic scenes—On coplanar and convergent linear motions embedded in 3D static scenes
KR20200056791A (ko) 다중 이미지 마커 기반 증강 영상 생성 장치 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant