KR102389295B1 - 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치 - Google Patents

인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치 Download PDF

Info

Publication number
KR102389295B1
KR102389295B1 KR1020200073561A KR20200073561A KR102389295B1 KR 102389295 B1 KR102389295 B1 KR 102389295B1 KR 1020200073561 A KR1020200073561 A KR 1020200073561A KR 20200073561 A KR20200073561 A KR 20200073561A KR 102389295 B1 KR102389295 B1 KR 102389295B1
Authority
KR
South Korea
Prior art keywords
vanishing point
mask
size
image
points
Prior art date
Application number
KR1020200073561A
Other languages
English (en)
Other versions
KR20210155974A (ko
Inventor
서효원
서동주
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020200073561A priority Critical patent/KR102389295B1/ko
Publication of KR20210155974A publication Critical patent/KR20210155974A/ko
Application granted granted Critical
Publication of KR102389295B1 publication Critical patent/KR102389295B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/60—Analysis of geometric attributes
    • G06T5/002—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/20—Image enhancement or restoration using local operators
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/13—Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/536—Depth or shape recovery from perspective effects, e.g. by using vanishing points
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)

Abstract

인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치가 제시된다. 본 발명에서 제안하는 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법은 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행하는 단계, 전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계, 전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계, 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하는 단계 및 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 단계를 포함한다.

Description

인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치{Method and Apparatus for Instance Segmentation Based Object Size Estimation from Single Indoor Image}
본 발명은 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치에 관한 것이다.
3차원 복원(3D Reconstruction) 기술은 가상 현실(VR) 및 증강 현실(AR)과 밀접한 관련이 있어 학계와 산업계의 관심이 증대되고 있는 분야이다.
특히 3차원 복원 분야에서도, 2차원 영상으로부터 물체의 크기를 추정하는 문제는 핵심적인 연구 주제이다.
해당 분야에서, '스테레오 비전(Stereo Vision)' 기법이 대표적으로 연구되고 있지만, 이는 시차가 존재하는 복수의 영상으로부터 거리 정보를 복원하는 방법이므로, 현실 상황에는 부적합하다.
단일 영상 기반의 크기 추정에는 한 장의 영상에서 소실점과 소실선을 추정하고, 실제 크기 정보를 알고 있는 참조 물체를 바탕으로 비례적으로 크기를 추정하는 방식인 '싱글 뷰 메트롤로지' 기법이 제시되고 있으나, 사용자가 직접 참조 물체의 영역을 영상에 표시해야 하며, 소실점과 소실선 또한 수동으로 획득해야 한다는 단점이 존재한다.
따라서, 단일 영상으로부터 사용자의 별도 사전 작업을 최소화하고 크기 정보를 자동으로 획득할 수 있는 방법을 필요로 한다.
본 발명이 이루고자 하는 기술적 과제는 참조 물체가 점유하는 영역을 사용자의 개입 없이 획득하기 위해 신경심층망(Deep Neural Network)이용하고, 마스크 R-CNN모델을 적용하여 마스크를 획득하며, 획득한 마스크를 활용하여 싱글 뷰 메트롤로지 및 교차율을 이용한 방법으로 대상 물체의 크기를 획득함으로써 종래의 자동 소실점 획득 알고리즘을 개선한 방법 및 장치를 제공하는데 있다.
일 측면에 있어서, 본 발명에서 제안하는 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법은 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행하는 단계, 전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계, 전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계, 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하는 단계 및 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 단계를 포함한다.
전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계는 전처리된 영상으로부터 캐니 에지 검출을 이용하여 에지를 검출하는 단계, 검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하는 단계 및 소실점 후보들로부터 소실점을 추정하여 출력하는 단계를 포함한다.
검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하는 단계는 검출된 에지들을 연장하여 그 교점들을 소실점 후보들로 결정한다.
소실점 후보들로부터 소실점을 추정하여 추정된 최종 소실점을 출력하는 단계는 소실점 후보들이 영상 중심과 이루는 각도를 계산하고, 가장 많은 교점이 나타나는 각도의 범위를 획득하며, 소실점 후보들의 분포 히스토그램에 기초하여 상위 세 개의 각도의 범위를 소실점 후보 영역으로 간주하고, 영상을 정사각형 격자로 분할하여 각도 영역 내에서 가장 많은 교점들이 포함되는 격자를 검색하고, 각도 영역에서 선정된 세 개의 격자의 중심을 각 방향의 소실점으로 최종 결정한다.
전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계는 마스크 R-CNN 모델을 통해 전처리된 영상에 대한 학습을 수행하는 단계, 마스크 R-CNN으로 영상 내의 참조 물체를 분할하는 단계 및 분할된 참조 물체의 참조점들을 마크하여 참조 물체의 마스크를 출력하는 단계를 포함하고, 마스크 R-CNN을 통해 마스크의 볼록껍질을 찾음으로써 마킹된 참조점들로부터 최외각 점들을 결정하고, 마스크를 보정하는 후처리(Post-Processing)를 수행한다.
또 다른 일 측면에 있어서, 본 발명에서 제안하는 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 장치는 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행하는 전처리부, 전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 소실점 검출부, 전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할부 및 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하고, 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 계산부를 포함한다.
본 발명의 실시예들에 따르면 참조 물체가 점유하는 영역을 사용자의 개입 없이 획득하기 위해 신경심층망(Deep Neural Network)이용하고, 마스크 R-CNN모델을 적용하여 마스크를 획득하며, 획득한 마스크를 활용하여 싱글 뷰 메트롤로지 및 교차율을 이용한 방법으로 대상 물체의 크기를 획득함으로써 단일 영상으로부터 사용자의 별도 사전 작업을 최소화하고 크기 정보를 자동으로 획득할 수 있다.
도 1은 본 발명의 일 실시예에 따른 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법을 설명하기 위한 흐름도이다.
도 2는 본 발명의 일 실시예에 따른 전처리 단계를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 소실점 후보를 선정하기 위한 교점을 나타내는 도면이다.
도 4는 본 발명의 일 실시예에 따른 소실점 후보를 선정하기 위한 히스토그램을 나타내는 도면이다.
도 5는 본 발명의 일 실시예에 따른 소실점 추정 알고리즘을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 마스킹의 예시를 나타내는 도면이다.
도 7은 본 발명의 일 실시예에 따른 볼록 껍질 적용의 예시를 나타내는 도면이다.
도 8은 본 발명의 일 실시예에 따른 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 장치의 구성을 나타내는 도면이다.
도 9는 본 발명의 일 실시예에 따른 추정된 소실점의 결과를 나타내는 도면이다.
도 10은 본 발명의 일 실시예에 따른 인스턴스 분할 및 볼록 껍질 획득 결과를 나타내는 도면이다.
도 11은 본 발명의 일 실시예에 따른 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 과정을 설명하기 위한 도면이다.
본 발명은 기존의 싱글 뷰 메트롤로지 기반 방법을 개선하기 위하여, 참조 물체가 점유하는 영역을 사용자의 개입 없이 획득하기 위해 신경심층망(Deep Neural Network)을 이용하고, 마스크(Mask) R-CNN모델을 적용하여 마스크를 획득한다. 획득된 마스크를 활용하여 싱글 뷰 메트롤로지 및 교차율을 이용한 방법으로 타겟 물체의 크기를 획득한다.
이와 같이, 기존의 자동 소실점 획득 알고리즘을 개선하기 위한 방법을 제안한다. 기존의 싱글 뷰 메트롤로지 방법 기반 물체 추정 방식의 큰 흐름은 따르되, 이러한 한계점을 해결하기 위해 두 가지 아이디어를 제안한다. 1) 영상 내의 소실점 획득 과정 자동화, 2) 사용자가 참조 물체를 영상에 표시하는 과정을 생략하기 위한 마스크 R-CNN을 통한 인스턴스 분할 접목. 이하, 본 발명의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법을 설명하기 위한 흐름도이다.
제안하는 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법은 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행하는 단계(110), 전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계(120), 전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계(130), 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하는 단계(140) 및 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 단계(150)를 포함한다.
단계(110)에서, 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행한다.
본 발명의 실시예에 따르면, 먼저 원본 영상(111)에 대한 전처리를 수행하여 전처리된 영상(112)을 출력한다. 기존의 소실점 추정 알고리즘의 경우, 입력 영상의 해상도에 따라 정확도가 크게 변동하며, 에지(Edge) 검출 과정에서 임계(Threshold)값 설정에 명확한 기준이 없어 영상의 평균적인 에지 수에 따라 검출 성능이 큰 차이가 난다는 문제점이 존재한다.
도 2는 본 발명의 일 실시예에 따른 전처리 단계를 설명하기 위한 도면이다.
실내 영상의 경우, 같은 톤으로 구성되는 경우가 많아, RGB나 HSI채널의 필요성이 낮으므로, 흑백 처리 후 가우시안 필터(Gaussian Filter)(210)를 적용하여 노이즈를 제거한다. 이후, 경사도 찾기(220), NMS(Non-Maximum Suppression)(230), 더블 임계값 설정(240) 및 히스테리시스 에지 추정(250)의 과정을 거쳐 전처리를 수행한다.
도 3은 본 발명의 일 실시예에 따른 소실점 후보를 선정하기 위한 교점을 나타내는 도면이다.
도 4는 본 발명의 일 실시예에 따른 소실점 후보를 선정하기 위한 히스토그램을 나타내는 도면이다.
단계(120)에서, 전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출한다.
전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계(120)는 전처리된 영상으로부터 캐니 에지 검출(Canny Edge Detection)을 이용하여 에지를 검출하는 단계(121), 검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하는 단계(122) 및 소실점 후보들로부터 소실점을 추정(123)하여 추정된 최종 소실점(124)을 출력하는 단계를 포함한다.
단계(121)에서, 전처리된 영상으로부터 캐니 에지 검출(Canny Edge Detection)을 이용하여 에지를 검출한다. 기존의 소벨 에지 검출(Sobel Edge Detection) 방법에 비해 더 가늘고 많은 수의 에지를 찾아낼 수 있어 충분한 수의 소실점 후보를 생성할 수 있다. 또한, 실내 영상의 특성을 고려하여 최적의 임계값을 도출할 수 있다.
단계(122)에서, 검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득한다. 길이가 미리 정해진 기준 이하인 선분들을 노이즈로 간주하여 제거한다. 예를 들어, 영상의 대각선 길이의 8%미만으로 지정할 수 있다.
단계(123)에서, 소실점 후보들로부터 소실점을 추정한다. 단계(122)에서 찾은 선분들을 연장하여 그 교점들을 소실점의 첫 번째 소실점 후보들로 결정한다.
이후, 소실점 후보들과 각도에 따른 소실점 후보 분포 분석한다. 앞서 찾은 교점들이 영상 중심과 이루는 각도를 계산하고, 가장 많은 교점이 나타나는 각도의 범위를 획득한다. 소실점 후보 분포 히스토그램에 기초하여 상위 세 개의 각도의 범위를 소실점 후보 영역으로 간주한다.
도 5는 본 발명의 일 실시예에 따른 소실점 추정 알고리즘을 설명하기 위한 도면이다.
최종 소실점을 결정하기 위해 영상을 정사각형 격자로 분할하여 앞서 찾은 각도 영역 내에서 가장 많은 교점들이 포함되는 격자를 검색한다. 각 각도 영역에서 선정된 세 개의 격자의 중심을 각 방향의 소실점(510)으로 최종 결정한다.
단계(130)에서, 전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할을 수행한다.
전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계(130)는 마스크 R-CNN 모델을 통해 전처리된 영상에 대한 학습을 수행하는 단계(131), 마스크 R-CNN으로 영상 내의 참조 물체를 분할하는 단계(132) 및 분할된 참조 물체의 참조점들을 마크(133)하여 참조 물체의 마스크(134)를 출력하는 단계를 포함한다.
마스크 R-CNN을 통해 참조 물체의 영역을 자동으로 획득하고, 거리를 알고 있는 특징점들을 바르게 획득할 수 있으며, 참조 물체에 속한 점들을 영상에 직접 표시하는 작업을 생략할 수 있다. 따라서 본 발명의 실시예에 따르면, 마스크 R-CNN을 통해 물체를 탐지하고 그 점유 영역을 출력하는 인스턴스 분할 방법을 수행한다.
도 6은 본 발명의 일 실시예에 따른 마스킹의 예시를 나타내는 도면이다.
마스크 R-CNN의 참조 물체는, 예를 들어 창문 및 에어컨 실내기(실내 영상에서 어렵지 않게 발견할 수 있고, 모델에 따른 모양과 크기 편차가 거의 없으며, 실제 측정에도 유리한 육면체 모양)일 수 있다.
본 발명의 실시예에 따르면, 효율성을 위하여 COCO 데이터셋(Dataset)으로 훈련시킨 모델을 기존 모델로 하여 전이학습을 진행하였으며, 창문과 에어컨 실내기의 두 종류의 참조 물체를 검출하는 분류 계층(Classifier layer) 학습을 추가적으로 진행하였다. 모델 하이퍼파라미터 최적화(Model Hyperparameter optimization)를 통해 여러 하이퍼파라미터를 변경해보며 최적의 모델 하이퍼파라미터를 검출할 수 있다. 또한, 재현율(Recall)과 영역교차율(Intersection Over Union; IOU)을 바탕으로 모델 성능 평가를 수행한다.
본 발명의 실시예에 따르면, 볼록껍질(Convex Hull) 알고리즘을 이용한다. 물체의 크기 측정을 수행하기 위해서는, 실제 길이에 해당하는 영역을 올바르게 복원할 필요가 있다. 도 6에서 높이 h가 알고 있는 정보 이기 때문에, 참조점인 p1, p2의 좌표를 획득해야 하지만, 물체의 모양과 주어진 정보에 따라 얻어야 할 참조점의 좌표가 항상 상이하기 때문에 일반화된 방법을 찾기는 어렵다. 따라서, 볼록껍질(Convex Hull) 알고리즘을 적용한다.
도 7은 본 발명의 일 실시예에 따른 볼록 껍질 적용의 예시를 나타내는 도면이다.
도 7(a)는 볼록 껍질 알고리즘의 적용 전을 나타내는 도면이고, 도 7(b)는 볼록 껍질 알고리즘의 적용 후를 나타내는 도면이다.
마스크 R-CNN을 통해 마스크의 볼록껍질을 찾는다면, 참조점의 특징을 만족시키는 최외각 점들을 결정할 수 있을 뿐 아니라, 볼록 껍질을 얻는 것은 부정확한 마스크를 보정하는 후처리(Post-Processing) 측면의 효과 또한 기대할 수 있다.
단계(140)에서, 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택한다. 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하여 타겟 물체(141)를 출력한다.
단계(150)에서, 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산한다. 이후, 계산된 타겟 물체의 사이즈(151)를 출력한다.
도 8은 본 발명의 일 실시예에 따른 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 장치의 구성을 나타내는 도면이다.
인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 장치(800)는 전처리부(810), 소실점 검출부(820), 인스턴스 분할부(830) 및 계산부(840)를 포함한다.
전처리부(810)는 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행한다.
본 발명의 실시예에 따르면, 먼저 원본 영상에 대한 전처리를 수행하여 전처리된 영상을 출력한다. 기존의 소실점 추정 알고리즘의 경우, 입력 영상의 해상도에 따라 정확도가 크게 변동하며, 에지(Edge) 검출 과정에서 임계(Threshold)값 설정에 명확한 기준이 없어 영상의 평균적인 에지 수에 따라 검출 성능이 큰 차이가 난다는 문제점이 존재한다.
실내 영상의 경우, 같은 톤으로 구성되는 경우가 많아, RGB나 HSI채널의 필요성이 낮으므로, 흑백 처리 후 가우시안 필터(Gaussian Filter)를 적용하여 노이즈를 제거한다. 이후, 경사도 찾기, NMS(Non-Maximum Suppression), 더블 임계값 설정 및 히스테리시스 에지 추정의 과정을 거쳐 전처리를 수행한다.
소실점 검출부(820)는 전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출한다.
소실점 검출부(820)는 전처리된 영상으로부터 캐니 에지 검출(Canny Edge Detection)을 이용하여 에지를 검출하고, 검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하며, 소실점 후보들로부터 소실점을 추정하여 추정된 최종 소실점을 출력한다.
소실점 검출부(820)는 전처리된 영상으로부터 캐니 에지 검출(Canny Edge Detection)을 이용하여 에지를 검출한다. 기존의 소벨 에지 검출(Sobel Edge Detection) 방법에 비해 더 가늘고 많은 수의 에지를 찾아낼 수 있어 충분한 수의 소실점 후보를 생성할 수 있다. 또한, 실내 영상의 특성을 고려하여 최적의 임계값을 도출할 수 있다. 이후, 검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득한다. 길이가 미리 정해진 기준 이하인 선분들을 노이즈로 간주하여 제거한다. 예를 들어, 영상의 대각선 길이의 8%미만으로 지정할 수 있다. 그리고, 소실점 후보들로부터 소실점을 추정한다. 찾은 선분들을 연장하여 그 교점들을 소실점의 첫 번째 소실점 후보들로 결정한다. 이후, 소실점 후보들과 각도에 따른 소실점 후보 분포 분석한다. 앞서 찾은 교점들이 영상 중심과 이루는 각도를 계산하고, 가장 많은 교점이 나타나는 각도의 범위를 획득한다. 소실점 후보 분포 히스토그램에 기초하여 상위 세 개의 각도의 범위를 소실점 후보 영역으로 간주한다.
소실점 검출부(820)는 최종 소실점을 결정하기 위해 영상을 정사각형 격자로 분할하여 앞서 찾은 각도 영역 내에서 가장 많은 교점들이 포함되는 격자를 검색한다. 각 각도 영역에서 선정된 세 개의 격자의 중심을 각 방향의 소실점으로 최종 결정한다.
인스턴스 분할부(830)는 전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할을 수행한다.
인스턴스 분할부(830)는 마스크 R-CNN 모델을 통해 전처리된 영상에 대한 학습을 수행하고, 마스크 R-CNN으로 영상 내의 참조 물체를 분할하며, 분할된 참조 물체의 참조점들을 마크하여 참조 물체의 마스크를 출력한다.
마스크 R-CNN을 통해 참조 물체의 영역을 자동으로 획득하고, 거리를 알고 있는 특징점들을 바르게 획득할 수 있으며, 참조 물체에 속한 점들을 영상에 직접 표시하는 작업을 생략할 수 있다. 따라서 본 발명의 실시예에 따르면, 마스크 R-CNN을 통해 물체를 탐지하고 그 점유 영역을 출력하는 인스턴스 분할 방법을 수행한다.
마스크 R-CNN의 참조 물체는, 예를 들어 창문 및 에어컨 실내기(실내 영상에서 어렵지 않게 발견할 수 있고, 모델에 따른 모양과 크기 편차가 거의 없으며, 실제 측정에도 유리한 육면체 모양)일 수 있다.
본 발명의 실시예에 따르면, 효율성을 위하여 COCO 데이터셋(Dataset)으로 훈련시킨 모델을 기존 모델로 하여 전이학습을 진행하였으며, 창문과 에어컨 실내기의 두 종류의 참조 물체를 검출하는 분류 계층(Classifier layer) 학습을 추가적으로 진행하였다. 모델 하이퍼파라미터 최적화(Model Hyperparameter optimization)를 통해 여러 하이퍼파라미터를 변경해보며 최적의 모델 하이퍼파라미터를 검출할 수 있다. 또한, 재현율(Recall)과 영역교차율(Intersection Over Union; IOU)을 바탕으로 모델 성능 평가를 수행한다.
본 발명의 실시예에 따르면, 볼록껍질(Convex Hull) 알고리즘을 이용한다. 물체의 크기 측정을 수행하기 위해서는, 실제 길이에 해당하는 영역을 올바르게 복원할 필요가 있다. 도 6에서 높이 h가 알고 있는 정보 이기 때문에, 참조점인 p1, p2의 좌표를 획득해야 하지만, 물체의 모양과 주어진 정보에 따라 얻어야 할 참조점의 좌표가 항상 상이하기 때문에 일반화된 방법을 찾기는 어렵다. 따라서, 볼록껍질(Convex Hull) 알고리즘을 적용한다.
마스크 R-CNN을 통해 마스크의 볼록껍질을 찾는다면, 참조점의 특징을 만족시키는 최외각 점들을 결정할 수 있을 뿐 아니라, 볼록 껍질을 얻는 것은 부정확한 마스크를 보정하는 후처리(Post-Processing) 측면의 효과 또한 기대할 수 있다.
계산부(840)는 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택한다. 사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하여 타겟 물체를 출력한다.
계산부(840)는 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산한다. 이후, 계산된 타겟 물체의 사이즈를 출력한다.
표 1은 본 발명의 실시예에 따른 소실점 추정 알고리즘 적용 결과를 나타낸 표이다.
<표 1>
Figure 112020062251833-pat00001
소실점 추정에 완전히 실패하는 경우가 발생하지 않았으며, 측정한 픽셀 불일치율 또한 특징적인 이상값이 나타난 바가 없음을 알 수 있다.
본 발명의 실시예에 따른 인스턴스 분할을 위한 마스크 R-CNN 모델 학습과 적용에 있어서, 에어컨 실내기와 창문을 획득하는 모델을 훈련을 수행했다(가로 해상도 1200px이상의 사진은 리사이징을 진행, 훈련 데이터셋 210장, 테스트 데이터셋 42장으로 진행).
표 2는 마스크 R-CNN 실험에서 제어한 하이퍼 파라미터를 나타내는 표이다.
<표 2>
Figure 112020062251833-pat00002
표 3은 조건에 따른 마스크 R-CNN 실험 결과를 나타내는 표이다.
Figure 112020062251833-pat00003
도 9는 본 발명의 일 실시예에 따른 추정된 소실점의 결과를 나타내는 도면이다.
도 10은 본 발명의 일 실시예에 따른 인스턴스 분할 및 볼록 껍질 획득 결과를 나타내는 도면이다.
본 발명의 실시예에 따르면, 도 9와 같이 실제 에어컨 실내기의 마스크를 참조 물체로 하여 모니터의 크기를 획득하는 작업을 수행하였다. 도 9에 추정한 소실점과 실제 소실점을 나타내었다.
표 4는 추정한 소실점의 픽셀 불일치율을 나타내는 표이다.
<표 4>
Figure 112020062251833-pat00004
표 5는 최종 물체 추정 결과를 나타내는 표이다.
<표 5>
Figure 112020062251833-pat00005
도 11은 본 발명의 일 실시예에 따른 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 과정을 설명하기 위한 도면이다.
도 11(a)를 참조하면, 교차율(Cross ratio)은 동일 선형(collinear)한 네 점이 이루는 길이의 비이고, 아래와 같이 나타낼 수 있다:
Figure 112020062251833-pat00006
어떠한 라인 세그먼트(line segment)를 분할하냐에 따라 다른 점들에 대해서도 성립한다(예를 들어, AB를 C, D가 분할한 경우). 즉 다음 값들도 성립한다:
Figure 112020062251833-pat00007
교차율(Cross ratio)은 사영 변환(projective transformation)을 진행하여도 보존된다. 다시 말해, 선형변환으로 분해할 수 있는 모든 종류의 변환에 대해서 성립한다. 이러한 특성 때문에 사진상의 점들과 실제 점들의 경우에도 적용 가능하다.
도 11(b)를 참조하면, 만약 한 점이 무한히 먼 경우(예를 들어, D), 아래와 같이 나타낼 수 있다:
Figure 112020062251833-pat00008
도 11(c)를 참조하면, 사진의 경우 실제 점 D는 무한히 멀지만 사진 상의 점들은 그렇지 않으므로 소실점(Vanishing point) D' 로 나타낼 수 있고, 다음이 성립한다:
Figure 112020062251833-pat00009
이와 같이, 사진 상의 길이의 비를 통해 실제 길이의 비를 계산할 수 있다.
도 11(d)를 참조하면, 문제상황의 경우 사진의 위쪽(도 9의 에어컨)의 직선과 아래쪽(도 9의 모니터)의 직선 또한 수직방향의 소실점에서 교차하므로 교차율이 보존된다. 즉, 이들간의 교차율로 계산하면 다음이 성립한다:
Figure 112020062251833-pat00010
도 11(e)를 참조하면, 사진 상의 길이의 비와 실제 길이의 비를 다음과 같이 나타낼 수 있다:
Figure 112020062251833-pat00011
본 발명의 실시예들에 따르면, 컴퓨터 비전 알고리즘 및 딥러닝 기법을 이용해 단일 실내 영상으로부터 물체의 크기를 추정하는 방법을 자동화하는 접근법을 제안한다. 소실점 추정 자동화 알고리즘의 경우, 실내 영상으로부터 소실점을 탐색하는 실험을 진행한 결과, 감안할 수 있는 오차 내에서 자동으로 소실점의 추정이 가능함을 확인하였다. 물체의 표시 과정 자동화에는 마스크 R-CNN이 사용되었으며, 여러가지 제약 조건이 있었지만, 측정 대상 물체의 표시 이외에는 성공적으로 물체의 크기 추정에 성공하였다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다.　 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다.　 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다.　 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다.　 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다.　 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다.　 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다.　 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.　 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.　 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다.　 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.　
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다.　 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (14)

  1. 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행하는 단계;
    전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계;
    전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계;
    사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하는 단계; 및
    선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 단계
    를 포함하는 물체 크기 추정 방법.
  2. 제1항에 있어서,
    전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 단계는,
    전처리된 영상으로부터 캐니 에지 검출을 이용하여 에지를 검출하는 단계;
    검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하는 단계; 및
    소실점 후보들로부터 소실점을 추정하여 추정된 최종 소실점을 출력하는 단계
    를 포함하는 물체 크기 추정 방법.
  3. 제2항에 있어서,
    검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하는 단계는,
    검출된 에지들을 연장하여 그 교점들을 소실점 후보들로 결정 하는
    물체 크기 추정 방법.
  4. 제2항에 있어서,
    소실점 후보들로부터 소실점을 추정하여 추정된 최종 소실점을 출력하는 단계는,
    소실점 후보들이 영상 중심과 이루는 각도를 계산하고, 가장 많은 교점이 나타나는 각도의 범위를 획득하며, 소실점 후보들의 분포 히스토그램에 기초하여 상위 세 개의 각도의 범위를 소실점 후보 영역으로 간주하는
    물체 크기 추정 방법.
  5. 제4항에 있어서,
    영상을 정사각형 격자로 분할하여 각도 영역 내에서 가장 많은 교점들이 포함되는 격자를 검색하고, 각도 영역에서 선정된 세 개의 격자의 중심을 각 방향의 소실점으로 최종 결정하는
    물체 크기 추정 방법.
  6. 제1항에 있어서,
    전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할 단계는,
    마스크 R-CNN 모델을 통해 전처리된 영상에 대한 학습을 수행하는 단계;
    마스크 R-CNN으로 영상 내의 참조 물체를 분할하는 단계; 및
    분할된 참조 물체의 참조점들을 마크하여 참조 물체의 마스크를 출력하는 단계
    를 포함하는 물체 크기 추정 방법.
  7. 제6항에 있어서,
    마스크 R-CNN을 통해 마스크의 볼록껍질을 찾음으로써 마킹된 참조점들로부터 최외각 점들을 결정하고, 마스크를 보정하는 후처리(Post-Processing)를 수행하는
    를 포함하는 물체 크기 추정 방법.
  8. 원본 영상에 대하여 가우시안 필터링 및 노이즈 제거를 포함하는 전처리를 수행하는 전처리부;
    전처리된 영상에 대한 캐니 에지 검출 및 허프 변환을 통해 소실점 후보들을 찾고, 소실점 후보들에 대한 그리드 서치를 통해 소실점을 검출하는 소실점 검출부;
    전처리된 영상에 대한 마스크 R-CNN 모델 학습을 통해 참조 물체의 마스크를 찾는 인스턴스 분할부; 및
    사이즈를 측정하고자 하는 타겟 물체로부터 사이즈 측정을 위한 점들을 선택하고, 선택된 타겟 물체의 사이즈 측정을 위한 점들, 참조 물체의 마스크 및 소실점에 대한 교차율을 이용하여 타겟 물체의 사이즈를 계산하는 계산부
    를 포함하는 물체 크기 추정 장치.
  9. 제8항에 있어서,
    소실점 검출부는,
    전처리된 영상으로부터 캐니 에지 검출을 이용하여 에지를 검출하고, 검출된 에지에 대해 허프 변환을 이용하여 소실점 후보들을 획득하여, 소실점 후보들로부터 소실점을 추정하여 추정된 최종 소실점을 출력하는
    물체 크기 추정 장치.
  10. 제9항에 있어서,
    소실점 검출부는,
    검출된 에지들을 연장하여 그 교점들을 소실점 후보들로 결정 하는
    물체 크기 추정 장치.
  11. 제9항에 있어서,
    소실점 검출부는,
    소실점 후보들이 영상 중심과 이루는 각도를 계산하고, 가장 많은 교점이 나타나는 각도의 범위를 획득하며, 소실점 후보들의 분포 히스토그램에 기초하여 상위 세 개의 각도의 범위를 소실점 후보 영역으로 간주하는
    물체 크기 추정 장치.
  12. 제11항에 있어서,
    소실점 검출부는,
    영상을 정사각형 격자로 분할하여 각도 영역 내에서 가장 많은 교점들이 포함되는 격자를 검색하고, 각도 영역에서 선정된 세 개의 격자의 중심을 각 방향의 소실점으로 최종 결정하는
    물체 크기 추정 장치.
  13. 제8항에 있어서,
    인스턴스 분할부는,
    마스크 R-CNN 모델을 통해 전처리된 영상에 대한 학습을 수행하고, 마스크 R-CNN으로 영상 내의 참조 물체를 분할하며, 분할된 참조 물체의 참조점들을 마크하여 참조 물체의 마스크를 출력하는
    물체 크기 추정 장치.
  14. 제13항에 있어서,
    인스턴스 분할부는,
    마스크 R-CNN을 통해 마스크의 볼록껍질을 찾음으로써 마킹된 참조점들로부터 최외각 점들을 결정하고, 마스크를 보정하는 후처리(Post-Processing)를 수행하는
    물체 크기 추정 장치.
KR1020200073561A 2020-06-17 2020-06-17 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치 KR102389295B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200073561A KR102389295B1 (ko) 2020-06-17 2020-06-17 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200073561A KR102389295B1 (ko) 2020-06-17 2020-06-17 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20210155974A KR20210155974A (ko) 2021-12-24
KR102389295B1 true KR102389295B1 (ko) 2022-04-22

Family

ID=79176417

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200073561A KR102389295B1 (ko) 2020-06-17 2020-06-17 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102389295B1 (ko)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004212142A (ja) 2002-12-27 2004-07-29 System House Fukuchiyama:Kk 画像寸法の測定方法
KR100746351B1 (ko) 2006-06-12 2007-08-03 강남대학교 산학협력단 기하학 정보를 이용한 실시간 높이 측정 방법
JP2007233908A (ja) 2006-03-03 2007-09-13 Matsushita Electric Ind Co Ltd オブジェクトサイズ算出装置、それを用いたオブジェクト検索装置およびオブジェクト分類装置ならびにオブジェクトサイズ算出方法
JP2008032551A (ja) 2006-07-28 2008-02-14 Okamura Printing Industries Co Ltd ゲージ板による屋根面積の算出方法
JP2018005337A (ja) 2016-06-28 2018-01-11 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2018146543A (ja) 2017-03-09 2018-09-20 株式会社 豊田設計 寸法算出装置及び寸法算出方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004212142A (ja) 2002-12-27 2004-07-29 System House Fukuchiyama:Kk 画像寸法の測定方法
JP2007233908A (ja) 2006-03-03 2007-09-13 Matsushita Electric Ind Co Ltd オブジェクトサイズ算出装置、それを用いたオブジェクト検索装置およびオブジェクト分類装置ならびにオブジェクトサイズ算出方法
KR100746351B1 (ko) 2006-06-12 2007-08-03 강남대학교 산학협력단 기하학 정보를 이용한 실시간 높이 측정 방법
JP2008032551A (ja) 2006-07-28 2008-02-14 Okamura Printing Industries Co Ltd ゲージ板による屋根面積の算出方法
JP2018005337A (ja) 2016-06-28 2018-01-11 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2018146543A (ja) 2017-03-09 2018-09-20 株式会社 豊田設計 寸法算出装置及び寸法算出方法

Also Published As

Publication number Publication date
KR20210155974A (ko) 2021-12-24

Similar Documents

Publication Publication Date Title
US10373380B2 (en) 3-dimensional scene analysis for augmented reality operations
TWI485650B (zh) 用於多相機校準之方法及配置
KR102137264B1 (ko) 카메라 포즈 추정 장치 및 방법
US11049270B2 (en) Method and apparatus for calculating depth map based on reliability
US20150279021A1 (en) Video object tracking in traffic monitoring
US20120121166A1 (en) Method and apparatus for three dimensional parallel object segmentation
US10853960B2 (en) Stereo matching method and apparatus
US20040223640A1 (en) Stereo matching using segmentation of image columns
US10255673B2 (en) Apparatus and method for detecting object in image, and apparatus and method for computer-aided diagnosis
US20150123969A1 (en) Method and apparatus for detecting point of interest (poi) in three-dimensional (3d) point clouds
JP5538868B2 (ja) 画像処理装置、その画像処理方法及びプログラム
EP3889833A1 (en) Method and apparatus for extracting a satellite image-based building footprint
KR20140110586A (ko) 이미지 매칭 장치, 이미지 매칭 시스템 및 이미지 매칭 방법
TWI701608B (zh) 用於圖片匹配定位的神經網路系統、方法及裝置
EP3376468B1 (en) Object detection device and object detection method
EP2916288A1 (en) Camera calibration method and apparatus using a color-coded structure
US11189053B2 (en) Information processing apparatus, method of controlling information processing apparatus, and non-transitory computer-readable storage medium
KR20120138642A (ko) 화상 처리 방법 및 화상 처리 장치
KR102389295B1 (ko) 인스턴스 분할 기반 단일 실내 영상으로부터의 물체 크기 추정 방법 및 장치
CN107480710B (zh) 特征点匹配结果处理方法和装置
KR101373397B1 (ko) 증강현실의 호모그래피 정확도 향상을 위한 ｃｓｐ 기반의 ｒａｎｓａｃ 샘플링 방법
JP6055307B2 (ja) 対応点探索装置およびカメラ姿勢推定装置ならびにこれらのプログラム
Zheng Feature based monocular visual odometry for autonomous driving and hyperparameter tuning to improve trajectory estimation
US9721151B2 (en) Method and apparatus for detecting interfacing region in depth image
JP7276978B2 (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant