KR101439733B1 - 마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법 - Google Patents

마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법 Download PDF

Info

Publication number
KR101439733B1
KR101439733B1 KR1020130007053A KR20130007053A KR101439733B1 KR 101439733 B1 KR101439733 B1 KR 101439733B1 KR 1020130007053 A KR1020130007053 A KR 1020130007053A KR 20130007053 A KR20130007053 A KR 20130007053A KR 101439733 B1 KR101439733 B1 KR 101439733B1
Authority
KR
South Korea
Prior art keywords
mark
object pose
estimating
image information
map
Prior art date
Application number
KR1020130007053A
Other languages
English (en)
Other versions
KR20140094339A (ko
Inventor
문성태
한상혁
문상만
김인규
강상욱
Original Assignee
한국항공우주연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국항공우주연구원 filed Critical 한국항공우주연구원
Priority to KR1020130007053A priority Critical patent/KR101439733B1/ko
Publication of KR20140094339A publication Critical patent/KR20140094339A/ko
Application granted granted Critical
Publication of KR101439733B1 publication Critical patent/KR101439733B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/003—Navigation within 3D models or images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/38—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/381—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using identifiers, e.g. barcodes, RFIDs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/22—Character recognition characterised by the type of writing
    • G06V30/224—Character recognition characterised by the type of writing of printed characters having additional code marks or containing code marks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00—Indexing scheme for image generation or computer graphics
    • G06T2210/04—Architectural design, interior design

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Remote Sensing (AREA)
  • Library & Information Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

3차원 지도를 생성하는 지도 생성 장치 및 방법이 제공된다. 상기 지도 생성 장치는 실내 공간의 영상 정보를 수신하는 수신부, 상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 제1 추정부 및 상기 영상 정보에 상기 마크가 포함되지 않은 경우 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 제2 추정부를 포함한다. 또한, 상기 지도 생성 장치는 상기 추정된 객체 포즈에 기초하여 상기 3차원 지도를 생성하는 계산부를 더 포함한다.

Description

마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법{METHOD AND APPARATUS FOR GENERATING 3-DIMENSIONAL MAP MIXING MARK AND MARKLESS}
3차원 지도를 생성하는 장치 및 방법에 연관되며, 보다 특정하게는 실내에서 마크 및 마크리스를 이용하는 하이브리드 3차원 지도 생성 장치 및 방법에 연관된다.
종래의 이미지 특징점 기반 마크리스 3차원 지도 구축은 어두운 환경 또는 특징점이 많이 존재하지 않는 실내 환경에서 지도를 생성하는 경우 잘못된 지도를 구축하는 문제가 발생한다.
또한, 실내에서의 3차원 지도 생성에 사용되는 상기 이미지 특징점 기반 방식은 어둡거나 또는 특징점이 존재하지 않은 실내 장소에서 구축된 지도를 이용하는 경우, GPS 정보 또한 수신되지 않기 때문에 현재 위치 인식에 어려움을 겪을 수 있다.
따라서, 상기 GPS 정보가 없고 특징점이 적은 실내 환경에서 이를 테면, 무인 비행기와 같은 비행 장치가 자율 비행 시 상기 무인 비행기의 현재 위치 인식을 위한 3차원 지도가 요구된다.
일측에 따르면, 3차원 지도를 생성하는 지도 생성 장치가 제공된다.
일실시예에 따르면, 상기 지도 생성 장치는 실내 공간의 영상 정보를 수신하는 수신부, 상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 제1 추정부 및 상기 영상 정보에 상기 마크가 포함되지 않은 경우 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 제2 추정부를 포함할 수 있다.
일실시예에 따르면, 상기 지도 생성 장치의 상기 제1 추정부는 상기 영상 정보로부터 상기 마크를 추출하는 추출부 및 추출된 상기 마크의 그룹 정보를 식별하여 상기 마크에 연관된 영역을 그룹핑하는 그룹핑부를 포함할 수 있다.
일실시예에 따르면, 상기 마크는 이진 정보를 포함하는 복수 개의 블록이 포함된 2차원 코드로 구성되고, 상기 복수 개의 블록 중 적어도 하나는 상기 마크에 연관된 영역이 상기 실내 공간 내에서 어느 그룹에 대응하는 지의 정보를 포함할 수 있다.
일실시예에 따르면, 상기 지도 생성 장치의 상기 제1 추정부는 상기 복수 개의 블록에 포함되는 네 개의 꼭지 점 블록 중 다른 세 개의 꼭지 점 블록 과 상이한 이진 정보를 포함하는 꼭지 점 블록의 위치를 식별하여 상기 마크에 연관된 영역이 상기 실내 공간 내에서 어느 그룹에 대응하는 지의 정보를 추정할 수 있다.
일실시예에 따르면, 상기 지도 생성 장치의 상기 제1 추정부는 상기 네 개의 꼭지 점 블록에 포함되는 깊이 정보에 기초하여 평면 기술자를 확보하여 상기 객체 포즈의 깊이를 예측할 수 있다.
일실시예에 따르면, 상기 지도 생성 장치는 상기 추정된 객체 포즈에 기초하여 상기 3차원 지도를 생성하는 계산부를 더 포함할 수 있다.
일실시예에 다르면, 상기 마크와 상기 마크리스 방식을 혼합하여 사용하는 경우, 상기 마크를 이용하여 상기 제1 추정부에 의해 추정된 상기 객체 포즈에 기초하여 상기 마크리스 방식을 통해 추정된 상기 객체 포즈를 선별하여 추정할 수 있다.
일실시예에 따르면, 상기 마크는 상기 실내 공간의 특징점에 따라 배치될 수 있다.
다른 일측에 따르면, 3차원 지도를 생성하는 방법이 제공된다.
일실시예에 따르면, 상기 지도 생성 방법은 실내 공간의 영상 정보를 수신하는 단계, 상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 단계, 상기 영상 정보에 상기 마크가 포함되지 않은 경우 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 단계 및 상기 추정된 객체 포즈에 기초하여 상기 3차원 지도를 생성하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 상기 단계는 상기 영상 정보로부터 상기 마크를 추출하는 단계 및 추출된 상기 마크의 그룹 정보를 식별하여 상기 마크에 연관된 영역을 그룹핑하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 마크를 이용하여 객체 포즈를 추정하는 단계와 상기 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 단계가 혼합되어 이용되는 경우, 상기 마크를 이용하여 추정된 상기 객체 포즈에 기초하여 상기 마크리스 방식을 통해 추정된 상기 객체 포즈를 선별하여 추정할 수 있다.
도 1은 일실시예에 따른, 지도 생성 장치의 블록도이다.
도 2는 일실시예에 따른, 지도 생성 장치에 포함되는 제1 추정부의 블록도이다.
도 3은 일실시예에 따른, 마크가 배치되어 있는 실내 공간을 도시하는 도면이다.
도 4는 일실시예에 따른, 마크의 도면이다.
도 5는 일실시예에 따른, 마크가 사선으로 측정된 경우의 도면이다.
도 6은 일실시예에 따른, 마크가 평면상에 존재하는 경우의 도면이다.
도 7은 일실시예에 따른, 지도 생성 방법의 흐름도이다.
이하에서, 일부 실시예들을, 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
아래 설명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례, 새로운 기술의 출현 등에 따라 달라질 수 있다.
또한 특정한 경우는 이해를 돕거나 및/또는 설명의 편의를 위해 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 설명 부분에서 상세한 그 의미를 기재할 것이다. 따라서 아래 설명에서 사용되는 용어는 단순한 용어의 명칭이 아닌 그 용어가 가지는 의미와 명세서 전반에 걸친 내용을 토대로 이해되어야 한다.
도 1은 일실시예에 따른, 지도 생성 장치(100)의 블록도이다. 상기 지도 생성 장지는 GPS 정보가 없는 실내 공간에서 이를 테면, 무인 비행 장치를 이용하여 자율 비행시 현재 위치를 확인할 수 있는 3차원 지도를 생성할 수 있다.
일실시예에 따르면, 상기 지도 생성 장치는 이를 테면, 상기 무인 비행 장치에 장착될 수 있는 카메라와 같은 수신부(110)를 포함할 수 있다. 상기 수신부를 통해 상기 실내 공간의 영상 정보를 수신할 수 있다. 또한, 상기 영상 정보에 마크가 포함되는 경우, 상기 마크를 이용하여 상기 실내 공간의 상기 객체 포즈를 추정하는 제1 추정부(120)를 포함할 수 있으며, 상기 지도 생성 장치는 상기 영상 정보에 상기 마크가 포함되지 않은 경우 마크리스 방식으로 영상 처리를 수행하여 상기 실내 공간의 상기 객체 포즈를 추정하는 제2 추정부(130)를 포함할 수 있다.
일실시예에 따르면, 상기 지도 생성 장치는 상기 제1 추정부 또는 상기 제2 추정부에 의해 추정된 상기 객체 포즈에 기초하여 상기 3차원 지도를 생성하는 계산부(140)를 포함할 수 있다.
일실시예에 따르면, 상기 마크는 상기 GPS 정보가 없는 상기 실내 공간에 배치될 수 있다. 상기 지도 생성 장치는 상기 실내 공간에 배치되어 고정된 마크를 이용하여, 마크 기반 특징점의 우선 순위를 높게 두고 상기 실내 공간의 객체 포즈를 계산하여 상기 3차원 지도를 생성할 수 있다.
또한, 상기 지도 생성 장치는 상기 실내 공간 내에 상기 마크와 같은 별도의 마크가 없는 경우에는 마크리스 방식으로 전환하여 상기 3차원 지도를 생성할 수 있다. 상기 마크에 대한 내용은 아래에서 더 상세히 기술된다.
일실시예에 따르면, 상기 지도 생성 장치는 상기 제1 추정부 및 상기 제2 추정부에서 추정된 상기 실내 공간의 상기 객체 포즈를 루프 클로저를 수행함으로써, 상기 마크에 포함되는 상기 실내 공간의 특징점을 기준으로 상기 마크리스 방식을 이용하는 상기 제2 추정부에 의해 추정되는 상기 객체 포즈의 오차를 제거할 수 있다.
도 2는 일실시예에 따른, 상기 지도 생성 장치에 포함되는 제1 추정부(120)의 블록도이다. 상기 제1 추정부는 상기 실내 공간에 고정되어 있는 상기 마크를 이용하여 상기 3차원 지도를 생성하기 위한 객체 포즈 정보를 추정할 수 있다.
일실시예에 따르면, 상기 제1 추정부는 이를 테면, 카메라일 수 있는 상기 수신부에 의해 획득되는 상기 영상 정보에서 상기 마크의 영상을 추출하는 추출부(210)를 포함할 수 있다.
일실시예에 따르면, 상기 제1 추정부는 상기 추출부에 의해 추출된 마크 에 기초하여 상기 마크의 그룹 정보를 식별하고 상기 마크에 연관된 영역(이를 테면, 상기 마크가 배치되어 있는 영역)을 그룹핑하는 그룹핑부(220)를 포함할 수 있다. 이와 같이 상기 그룹핑부에 의해 상기 마크를 식별하여 그룹핑함으로써 상기 실내 공간의 바닥면, 천장 및 벽면을 구분할 수 있으며 상기 객체의 높이 및 연속성 등을 결정할 수 있다.
도 3은 일실시예에 따른, 마크가 배치되어 있는 실내 공간을 도시하는 도면이다. 위에서 기술된 바와 같이 비행 장치가 도 3에 도시된 실내 공간을 자율 비행 시 GPS 정보가 없기 때문에 상기 비행 장치의 현재 위치를 인식하기 어려울 수 있다.
따라서, 도 1을 설명하기 위해 앞에서 언급한 바와 같은 상기 지도 생성 장치를 이용함으로써 상기 GPS 정보가 없는 상기 실내 공간의 상기 3차원 지도를 생성할 수 있다.
상기 지도 생성 장치의 상기 수신부는 이를 테면, RGBD 카메라와 같은 카메라일 수 있다. 여기서, 상기 카메라는 RGBD 카메라에 제한되지 않으며, 카메라와 같이 영상 정보를 수집하여 수신할 수 있는 장치일 수 있다.
도 3의 상기 실내 공간에는 상기 마크(310, 320, 330, 340 및 350)가 배치될 수 있다. 상기 마크는 상기 제1 추정부에서 마크 방식을 이용하여 상기 3차원 지도를 생성하기 위한 상기 객체 포즈를 추출하는데 도움을 줄 수 있다.
일실시예에 따르면, 상기 제1 추정부는 상기 실내 공간의 고정된 마크를 이용하여 객체 포즈를 추정하기 위해, 상기 수신부에 의해 수신되는 영상 정보에서 상기 마크를 추출하는 상기 추출부를 포함할 수 있다.
또한, 상기 제1 추정부는 상기 영상 정보로부터 추출된 상기 마크를 식별하여 상기 마크에 대응하는 영역을 구분하여 그룹핑을 수행하는 상기 그룹핑부를 포함할 수 있다.
이를 테면, 도 3에 도시된 바와 같이 상기 실내 공간에 존재하는 상기 마크는 벽면에 부착되어 있는 상기 마크(330, 340, 350)와 천장에 부착되어 있는 상기 마크(310) 및 바닥에 부착되어 있는 상기 마크(320)로 구분할 수 있다.
일실시예에 따른 상기 지도 생성 장치의 상기 제1 추정부에 포함되는 상기 그룹핑부는 벽면, 천장 및 바닥에 부착되어 있는 상기 마크를 식별할 수 있으며, 식별된 결과에 기초하여 상기 마크 별로 그룹핑을 수행할 수 있다.
여기서, 상기 마크는 상기 실내 공간의 상기 벽면, 천장 및 바닥과 같은 특징점에 대한 정보 포함할 수 있다. 상기 제1 추정부의 상기 추출부는 상기 수신부로부터 수신된 영상 정보 내에서 상기 마크에 대한 영상 정보를 추출할 수 있다. 상기 마크의 구성에 대한 내용은 아래에서 더 상세히 기술된다.
도 4는 일실시예에 따른, 마크의 도면이다. 상기 마크는 도 3에 도시된 상기 실내 공간 상에 배치될 수 있으며 상기 실내 공간의 특징점에 따른 정보를 포함할 수 있다.
일실시예에 따르면, 상기 3차원 지도를 생성할 수 있는 상기 지도 생성 장치는 상기 수신부에 의해 수신된 상기 영상 정보에 상기 마크 포함되는 경우 이를 테면, 상기 마크가 상기 실내 공간에 존재할 경우 상기 마크 방식을 이용하여 상기 3차원 지도를 생성할 수 있다.
반대로, 상기 지도 생성 장치는 상기 수신부에 의해 수신된 상기 영상 정보에 상기 마크가 포함되지 않는 경우 이를 테면, 상기 마크가 상기 실내 공간에 존재하지 않을 경우 상기 마크리스 방식으로 전환하여 상기 3차원 지도를 생성할 수 있다.
일실시예에 따르면, 도 4에 도시된 바와 같이 상기 마크는 사각형 형식의 마크일 수 있다. 상기 사각형 형식의 마크에 포함되는 상기 실내 공간의 상기 특징점에 따른 정보는 네 개의 꼭지점의 위치를 사용할 수 있다.
각각의 상기 꼭지점의 순서는 한 모퉁이가 들어간 부분을 기준으로 시계 방향으로 결정되며, 상기 마크 내의 분할된 사각형은 상기 지도 생성 장치를 사용하는 사용자에 의해 미리 결정될 수 있는 상기 실내 공간의 특징점에 대응하는 정보를 나타낼 수 있다. 이를 테면, 상기 마크 내에 포함되는 정보는 상기 분할된 사각형에 따라 상기 실내 공간의 상기 특징점인 벽면, 천장 및 바닥면으로 구분되어 표현될 수 있다.
이를 테면, 상기 사각형 형식의 마크에서 획득되는 정보는 상기 네 개의 꼭지점의 위치, 그룹 아이디, 그룹 내 번호 및 평면 기술자일 수 있다.
일실시예에 따른 상기 마크는 N×N 블록으로 구분될 수 있으며, 도 4에 도시된 바와 같이 검정색과 흰색으로 구분될 수 있다.
상기 마크의 상기 네 개의 꼭지점을 나타내는 블록 네 개 중에 하나의 블록을 제외한 나머지 세 개의 블록은 모두 흰색일 수 있다. 검정색인 상기 꼭지점의 블록을 기준으로 이를 테면, 시계 방향으로 순서를 정해 꼭지점을 구분할 수 있다.
일실시예에 따른 상기 마크의 상기 꼭지점의 정보(이를 테면, 깊이 정보)에 기초하여 평면 기술자를 확보 할 수 있다. 상기 평면 기술자는 아래의 수학식 1과 같은 형식으로 나타낼 수 있다.
Figure 112013006264657-pat00001
여기서, A, B, C 및 D의 값은 상기 실내 공간의 상기 깊이 정보를 예측할 수 있는 값일 수 있다.
일실시예에 따른 상기 마크의 상기 그룹 아이디는 상기 네 개의 꼭지점 블록을 제외한 나머지 블록들에 번호를 지정할 수 있으며, 이와 같은 번호는 순번을 정함으로써 2n*n - 4만큼 생성할 수 있다.
일실시예에 따른 상기 마크의 상기 그룹은 상기 아이디를 이용하여 그룹을 정함으로써 지정될 수 있다. 상기 그룹은 상기 실내 공간의 평면을 기준으로 정의될 수 있으며 주로 바닥면, 천장 및 벽면으로 구분될 수 있다. 상기 실내 공간의 면은 평면상에 존재되어야 한다.
도 5는 일실시예에 따른, 마크가 사선으로 측정된 경우의 도면이고, 도 6은 일실시예에 따른, 마크가 평면상에 존재하는 경우의 도면이다.
일실시예에 따르면, 상기 지도 생성 장치는 위에서 언급한 바와 같이 상기 실내 공간의 영상 정보를 수신하는 수신부를 포함할 수 있다. 또한, 상기 장치는 상기 영상 정보에 상기 마크가 포함되는 경우 상기 마크 방식으로 상기 실내 공간의 객체 포즈를 추정하는 제1 추정부 및 상기 영상 정보에 상기 마크가 포함되지 않는 경우 상기 마크리스 방식을 이용하여 상기 실내 공간의 상기 객체 포즈를 추정하는 제2 추정부를 포함할 수 있다.
일실시예에 따른 상기 지도 생성 장치는 상기 제1 추정부 및 상기 제2 추정부에 의해 추정된 상기 객체 포즈에 기초하여 상기 3차원 지도를 계산하여 생성할 수 있는 상기 계산부를 더 포함할 수 있다.
일실시예에 따르면, 상기 수신부는 상기 RGBD 카메라일 수 있다. 상기 RGBD 카메라로 상기 마크의 깊이를 측정한 결과는 여러 가지의 영향에 의해 오류가 발생할 수 있다. 그 결과로 도 5 및 도 6과 같이 상기 깊이 정보가 위치마다 다르게 나타날 수 있다.
따라서, 상기 마크의 상기 꼭지점의 위치를 재계산해야 함으로써 정확한 측정을 수행할 수 있다.
일실시예에 따르면, 상기 꼭지점의 위치를 재계산하기 위해 깊이 데이터 분포도를 계산할 수 있으며, 이와 같은 계산으로 인해 5와 같이 사선으로 측정되었는지 또는 도 6과 같이 평면상에 존재하여 분포되어 있는지를 확인 할 수 있다.
일실시예에 따른 도 5와 같이 사선으로 측정되어 있는 경우, 이동 최소 자승법(Moving Least Square)을 이용하여 평면식을 유도할 수 있다. 또한 도 5와 같이 수평면 상으로 측정되어 있는 경우 깊이 분포가 어느 한 깊이에 치우쳐 있는 지를 확인 할 수 있으며 가장 많은 깊이 값이 존재하는 부분을 깊이로 판단하여 측정할 수 있다.
일실시예에 따르면, 사선 혹은 수평면 상으로 측정되어 재계산을 통해 획득된 평면식을 이용하여 상기 꼭지점의 위치를 다음의 수학식 2, 수학식 3 및 수학식 4와 같이 재계산할 수 있다.
Figure 112013006264657-pat00002
Figure 112013006264657-pat00003
Figure 112013006264657-pat00004
여기서, x축은 상기 깊이를 나타내고, z 축은 수평면 방향, y 축은 수직 방향을 나타낸다.
상기 지도 생성 장치에서 상기 제1 추정부의 상기 마크 방식과 상기 제2 추정부의 상기 마크리스 방식이 혼합되어 있기 때문에, 상기 마크 기반의 상기 실내 공간의 상기 특징점에 기초하여 상기 마크리스 방식으로 추정되는 상기 특징점을 선별하여 상기 객체 포즈를 계산할 수 있다.
일실시예에 따르면, 상기 실내 공간에 상기 마크가 존재하는 경우에는 상기 제1 추정부에 의해 상기 마크 방식을 이용하여 상기 실내 공간 상의 상기 객체 포즈를 추정할 수 있으며, 상기 실내 공간에 상기 마크가 존재하지 않는 경우 상기 제2 추정부에 의해 상기 지도 생성 장치는 상기 마크리스 방식으로 전환되어 상기 객체 포즈를 추정할 수 있다.
일실시예에 따른 상기 지도 생성 장치의 상기 제1 추정부 및 상기 제2 추정부에 의해 상기 객체 포즈를 추정한 후 상기 마크 방식을 이용하여 루프 클로즈(Loop Close) 문제를 해결할 수 있다(루프 클로저(Loop Closure)가 수행될 수 있음).
일실시예에 따르면, 상기 루프 클로저 수행 시 상기 마크의 특징점에 기초하여 상기 마크리스 방식을 이용하여 추정된 상기 객체 포즈의 오차를 제거할 수 있으며, 이와 같은 방식으로 정확도를 높일 수 있다.
도 7은 일실시예에 따른, 지도 생성 방법(700)의 흐름도이다. 상기 GPS 정보가 없는 실내에서 이를 테면, 무인 비행기의 자율 비행 시 현재 위치에 대한 인식을 위해 상기 3차원 지도를 생성할 필요가 있다.
일실시예에 따르면, 상기 3차원 지도를 생성하는 지도 생성 방법(700)은 이를 테면, 상기 무인 비행기에 구비될 수 있는 카메라를 이용하여 상기 실내 공간의 영상 정보를 수신하는 단계(710)를 포함할 수 있다.
일실시예에 따르면, 상기 지도 생성 방법은 수신된 상기 영상 정보에 마크가 포함되는 지의 유무에 따라 마크 및 마크리스 방식으로 상기 실내 영상으로 상기 객체 정보를 추정할 수 있다(720).
만약 수신된 상기 영상 정보에 마크가 포함되는 경우 상기 마크를 이용하여 상기 실내 공간의 상기 객체 포즈를 추정(730)할 수 있으며 반대로, 상기 영상 정보에 상기 마크가 포함되지 않은 경우 상기 마크리스 방식으로 상기 영상을 처리하여 상기 객체 포즈를 추정할 수 있다(740).
일실시예에 따른 상기 마크 및 마크리스 방식을 이용하여 추정된 상기 객체 포즈에 기초하여 상기 계산부에 의해 상기 3차원 지도를 생성할 수 있다(750).
일실시예에 따르면, 앞서 언급한 상기 실내 공간의 상기 영상 정보에 상기 마크가 포함되는 경우, 수신된 상기 영상 정보로부터 상기 마크를 추출하고, 추출된 상기 마크의 그룹 정보를 식별함으로써 상기 마크에 연관된 영역을 그룹핑할 수 있다. 상기 그룹핑을 수행함으로써 상기 영상 내의 바닥면 및 벽면 등을 구분할 수 있으며, 높이 및 연속성 등을 결정할 수 있다.
일실시예에 따르면, 상기 마크 및 마크리스 방식은 하이브리드 형태로 동작이 가능할 수 있다. 이와 같은 경우에는 상기 마크를 이용하여 추정된 상기 객체 포즈에 기초하여 상기 마크리스 방식을 통해 추정된 상기 객체 포즈를 선별하여 추정할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (12)

  1. 3차원 지도를 생성하는 지도 생성 장치에 있어서,
    실내 공간의 영상 정보를 수신하는 수신부;
    상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 제1 추정부; 및
    상기 영상 정보에 상기 마크가 포함되지 않은 경우 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 제2 추정부
    를 포함하고,
    상기 지도 생성 장치는, 상기 제1 추정부 및 상기 제2 추정부를 사용하는 경우, 상기 제1 추정부에 의해 추정된 상기 객체 포즈에 기초하여 상기 제2 추정부에 의해 추정된 객체 포즈를 선별하여 추정하는, 지도 생성 장치.
  2. 제1항에 있어서,
    상기 제1 추정부는,
    상기 영상 정보로부터 상기 마크를 추출하는 추출부; 및
    추출된 상기 마크의 그룹 정보를 식별하여 상기 마크에 연관된 영역을 그룹핑하는 그룹핑부
    를 포함하는 지도 생성 장치.
  3. 제2항에 있어서,
    상기 마크는 이진 정보를 포함하는 복수 개의 블록이 포함된 2차원 코드로 구성되고, 상기 복수 개의 블록 중 적어도 하나는 상기 마크에 연관된 영역이 상기 실내 공간 내에서 어느 그룹에 대응하는 지의 정보를 포함하는 지도 생성 장치.
  4. 제3항에 있어서,
    상기 제1 추정부는, 상기 복수 개의 블록에 포함되는 네 개의 꼭지 점 블록 중 다른 세 개의 꼭지 점 블록 과 상이한 이진 정보를 포함하는 꼭지 점 블록의 위치를 식별하여 상기 마크에 연관된 영역이 상기 실내 공간 내에서 어느 그룹에 대응하는 지의 정보를 추정하는 지도 생성 장치.
  5. 제4항에 있어서,
    상기 제1 추정부는, 상기 네 개의 꼭지 점 블록에 포함되는 깊이 정보에 기초하여 평면 기술자를 확보하여 상기 객체 포즈의 깊이를 예측하는 지도 생성 장치.
  6. 제1항에 있어서,
    상기 추정된 객체 포즈에 기초하여 상기 3차원 지도를 생성하는 계산부
    를 더 포함하는 지도 생성 장치.
  7. 삭제
  8. 제1항에 있어서,
    상기 마크는 상기 실내 공간의 특징점에 따라 배치되는, 지도 생성 장치.
  9. 3차원 지도를 생성하는 방법에 있어서,
    실내 공간의 영상 정보를 수신하는 단계;
    상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 단계;
    상기 영상 정보에 상기 마크가 포함되지 않은 경우 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 단계;
    상기 추정된 객체 포즈에 기초하여 상기 3차원 지도를 생성하는 단계; 및
    상기 마크를 이용하여 객체 포즈를 추정하는 단계와 상기 마크리스 방식의 영상 처리를 수행하여 상기 객체 포즈를 추정하는 단계가 이용되는 경우, 상기 마크를 이용하여 추정된 상기 객체 포즈에 기초하여 상기 마크리스 방식을 통해 추정된 상기 객체 포즈를 선별하여 추정하는 단계
    를 포함하는 지도 생성 방법.
  10. 제9항에 있어서,
    상기 영상 정보에 마크가 포함된 경우 상기 마크를 이용하여 객체 포즈를 추정하는 단계는,
    상기 영상 정보로부터 상기 마크를 추출하는 단계; 및
    추출된 상기 마크의 그룹 정보를 식별하여 상기 마크에 연관된 영역을 그룹핑하는 단계
    를 포함하는 지도 생성 방법.
  11. 삭제
  12. 제9항 내지 제10항 중 어느 한 항의 지도 생성 방법을 수행하는 프로그램을 수록한 컴퓨터 판독 가능 기록 매체.
KR1020130007053A 2013-01-22 2013-01-22 마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법 KR101439733B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020130007053A KR101439733B1 (ko) 2013-01-22 2013-01-22 마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130007053A KR101439733B1 (ko) 2013-01-22 2013-01-22 마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20140094339A KR20140094339A (ko) 2014-07-30
KR101439733B1 true KR101439733B1 (ko) 2014-09-12

Family

ID=51740125

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130007053A KR101439733B1 (ko) 2013-01-22 2013-01-22 마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법

Country Status (1)

Country Link
KR (1) KR101439733B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102434406B1 (ko) 2016-01-05 2022-08-22 한국전자통신연구원 공간 구조 인식을 통한 증강 현실 장치 및 그 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120005879A (ko) * 2010-07-09 2012-01-17 주식회사 팬택 가상 마커 생성을 이용한 증강 현실 제공 장치 및 방법
KR20120038616A (ko) * 2010-10-14 2012-04-24 한국전자통신연구원 마커리스 실감형 증강현실 제공 방법 및 시스템
KR20130005498A (ko) * 2011-07-06 2013-01-16 주식회사 엠피아이 증강현실이 적용된 디스플레이의 실내 휠체어의 위치 이동 표시 시스템

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120005879A (ko) * 2010-07-09 2012-01-17 주식회사 팬택 가상 마커 생성을 이용한 증강 현실 제공 장치 및 방법
KR20120038616A (ko) * 2010-10-14 2012-04-24 한국전자통신연구원 마커리스 실감형 증강현실 제공 방법 및 시스템
KR20130005498A (ko) * 2011-07-06 2013-01-16 주식회사 엠피아이 증강현실이 적용된 디스플레이의 실내 휠체어의 위치 이동 표시 시스템

Also Published As

Publication number Publication date
KR20140094339A (ko) 2014-07-30

Similar Documents

Publication Publication Date Title
CN110807350B (zh) 用于面向扫描匹配的视觉slam的系统和方法
KR102209008B1 (ko) 카메라 포즈 추정 장치 및 카메라 포즈 추정 방법
KR20180050823A (ko) 3차원의 도로 모델을 생성하는 방법 및 장치
KR102003187B1 (ko) 무인 비행체에 의해 촬영된 이미지들을 사용하여 측량 대상지의 위치 정보를 포함하는 GCP (Ground Control Point)들의 각각이 매칭된 결과 이미지를 모델링하는 방법 및 장치
EP2738517B1 (en) System and methods for feature selection and matching
KR20200040374A (ko) 거리 추정 방법 및 장치
KR102396929B1 (ko) 지오아크를 이용한 2차원 운송수단 국소화
US10451403B2 (en) Structure-based camera pose estimation system
KR102387679B1 (ko) 지오아크를 이용한 3차원 운송수단 국소화
KR101527212B1 (ko) 자기장을 이용하여 사용자 단말의 위치를 측정하는 방법 및 장치
JP2016149090A (ja) 自律移動装置、自律移動システム、自律移動方法、およびプログラム
KR101527211B1 (ko) 자기장 맵을 구축하는 방법 및 시스템
US20180357777A1 (en) Method for Producing a Depth Map
KR101756650B1 (ko) 물품의 설치공간 탐색방법 및 이를 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록매체
CN112154303A (zh) 高精度地图定位方法、系统、平台及计算机可读存储介质
WO2016157802A1 (ja) 情報処理装置、情報処理システム、情報処理方法、及び、記録媒体
JP2015141580A (ja) 移動装置
KR101439733B1 (ko) 마크 및 마크리스를 혼합한 3차원 지도 생성 장치 및 방법
JP2009276073A (ja) 平面推定方法、曲面推定方法、および平面推定装置
CN112154355A (zh) 高精度地图定位方法、系统、平台及计算机可读存储介质
JP2013092888A (ja) データ処理装置
KR101283189B1 (ko) 위성항법 가시성 계산 장치 및 방법
KR101436695B1 (ko) 깊이 영상을 이용한 손 검출 장치 및 방법
KR102339472B1 (ko) 3차원 공간 모델 생성 방법 및 장치
KR20150068633A (ko) 이동 기기의 위치를 예측하는 방법, 및 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20180620

Year of fee payment: 5