KR102405428B1 - 이미지 스티칭 방법 및 장치 - Google Patents

이미지 스티칭 방법 및 장치 Download PDF

Info

Publication number
KR102405428B1
KR102405428B1 KR1020200186308A KR20200186308A KR102405428B1 KR 102405428 B1 KR102405428 B1 KR 102405428B1 KR 1020200186308 A KR1020200186308 A KR 1020200186308A KR 20200186308 A KR20200186308 A KR 20200186308A KR 102405428 B1 KR102405428 B1 KR 102405428B1
Authority
KR
South Korea
Prior art keywords
energy map
images
energy
image
map
Prior art date
Application number
KR1020200186308A
Other languages
English (en)
Inventor
이의진
강병근
양성엽
김태하
Original Assignee
서울과학기술대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 서울과학기술대학교 산학협력단 filed Critical 서울과학기술대학교 산학협력단
Priority to KR1020200186308A priority Critical patent/KR102405428B1/ko
Priority to US17/558,969 priority patent/US11875490B2/en
Application granted granted Critical
Publication of KR102405428B1 publication Critical patent/KR102405428B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/24—Aligning, centring, orientation detection or correction of the image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/803—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of input or preprocessed data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Image Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)

Abstract

이미지 스티칭 방법 및 장치가 개시된다. 일 실시예에 따른 이미지 스티칭 장치는 적어도 하나의 프로세서 및 메모리를 포함한다. 프로세서는 서로 다른 시점(view point)의 복수의 이미지를 획득할 수 있다. 프로세서는 복수의 이미지의 호모그래피를 추정할 수 있다. 프로세서는 복수의 이미지 각각의 호모그래피를 기초로 복수의 이미지를 정렬하여 정렬된 이미지를 생성할 수 있다. 프로세서는 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득할 수 있다. 프로세서는 결합 에너지 맵을 기초로 정렬된 이미지의 시접선을 추정할 수 있다. 프로세서는 시접선을 기초로 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성할 수 있다.

Description

이미지 스티칭 방법 및 장치{METHOD AND APPARATUS FOR STITCHING IMAGES}
아래의 설명은 이미지 스티칭 기술에 관한 것으로, 뉴럴 네트워크를 이용하여 에너지 맵을 추정하는 기술에 관한 것이다.
이미지 스티칭 과정에서, 장면의 시차(parallax), 조도 차이, 거리 차이에 따라 스티칭된 영상의 중첩 영역에서 합성에 의한 왜곡이 발생할 수 있다. 연속적인 이미지로 구성된 동영상의 스티칭은 장면의 움직임, 객체 출현 등에 의해 영역별로 시차가 달라져 중첩된 영역의 객체가 겹쳐 보이거나, 일그러지거나, 잘려 나가는 등의 왜곡이 발생할 수 있다.
일 실시예에 따른 이미지 스티칭 방법은, 서로 다른 시점(view point)의 복수의 이미지를 획득하는 단계; 상기 복수의 이미지의 호모그래피를 추정하는 단계; 상기 복수의 이미지 각각의 호모그래피를 기초로 상기 복수의 이미지를 정렬하여 정렬된 이미지를 생성하는 단계; 상기 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득하는 단계; 상기 결합 에너지 맵을 기초로 상기 정렬된 이미지의 시접선을 추정하는 단계; 및 상기 시접선을 기초로 상기 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성하는 단계를 포함할 수 있다.
상기 결합 에너지 맵을 획득하는 단계는, 상기 정렬된 이미지로부터 특징 정보를 추출하는 단계; 및 상기 특징 정보를 기초로 상기 정렬된 이미지의 픽셀 별 에너지를 계산하는 단계를 포함할 수 있다.
상기 뉴럴 네트워크는 서로 다른 시점의 학습 이미지로부터 추정 에너지 맵을 추정하고, 상기 추정 에너지 맵과 정답 에너지 맵 간의 손실값이 최소가 되도록 학습될 수 있다.
상기 추정 에너지 맵 및 상기 정답 에너지 맵은 서로 다른 시점의 학습 이미지의 그레디언트를 이용한 에너지 맵, 프레임 간의 객체의 움직임을 활용한 에너지 맵 또는 객체 세그멘테이션을 이용한 에너지 맵을 포함할 수 있다.
일 실시예에 따른 이미지 스티칭 장치는, 적어도 하나의 프로세서; 및 메모리를 포함하고, 상기 프로세서는, 서로 다른 시점(view point)의 복수의 이미지를 획득하고, 상기 복수의 이미지의 호모그래피를 추정하고, 상기 복수의 이미지 각각의 호모그래피를 기초로 상기 복수의 이미지를 정렬하여 정렬된 이미지를 생성하고, 상기 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득하고, 상기 결합 에너지 맵을 기초로 상기 정렬된 이미지의 시접선을 추정하고, 상기 시접선을 기초로 상기 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성할 수 있다.
도 1은 일 실시예에 따른 이미지 스티칭 방법의 전체 동작을 도시한 순서도이다.
도 2는 일 실시예에 따른 이미지 스티칭 장치에 입력되는 서로 다른 시점의 복수의 이미지의 일례이다.
도 3은 일 실시예에 따른 다양한 종류의 에너지 맵의 예시이다.
도 4는 일 실시예에 따른 이미지 스티칭 방법에 의해 추정된 시접선의 예시를 도시한 도면이다.
도 5는 일 실시예에 따른 뉴럴 네트워크 기반의 결합 에너지 맵을 추정하는 과정을 도시한 도면이다.
도 6은 일 실시예에 따른 뉴럴 네트워크의 학습 과정을 도시한 흐름도이다.
도 7은 일 실시예에 따른 뉴럴 네트워크의 테스트 과정을 도시한 흐름도이다.
도 8은 일 실시예에 따른 이미지 스티칭 장치의 구성을 도시한 도면이다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안 된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 1은 일 실시예에 따른 이미지 스티칭 방법의 전체 동작을 도시한 순서도이다.
일 실시예에 따르면, 이미지 스티칭 장치는 360도 이미지를 만들기 위해 복수의 입력 이미지에 대하여 미리 학습된 뉴럴 네트워크를 이용하여 에너지 맵을 추정할 수 있다. 이미지 스티칭 장치는 뉴럴 네트워크를 이용하여 엔드 투 엔드(end-to-end)로 에너지 맵을 추정할 수 있다. 이미지 스티칭 장치는 추정된 에너지 맵을 이용하여 시접선을 추정하고 스티칭 이미지를 생성할 수 있다. 이미지 스티칭 장치는
스티칭 과정 중의 왜곡 문제를 해결하기 위해, 종래에는 이미지 스티칭을 위하여 별도의 알고리즘을 통해 정렬된 이미지의 에너지 맵을 추정해 왔다. 하지만, 별도의 알고리즘을 이용할 경우 다양한 종류의 에너지 맵에 대하여 높은 수준의 정확도를 유지하기 위해 많은 비용이 요구된다.
이에 반해, 이미지 스티칭 장치는 뉴럴 네트워크를 이용하여 에너지 맵을 추정함으로써 많은 비용을 줄일 수 있다. 뉴럴 네트워크는 다량의 학습 데이터를 통하여 미리 학습될 수 있고, 각각의 알고리즘을 고안하는 것보다 더 낮은 비용으로 더 높은 정확도를 달성할 수 있다.
인공지능 기술이 발전하면서 인공지능의 구현을 위한 하드웨어도 함께 발전하게 되었다. 이로 인해 딥러닝 기반의 알고리즘의 성능이 더욱 향상되었으며 높은 수준의 정확도를 달성할 수 있다. 딥러닝 기반의 뉴럴 네트워크를 이용하면 신뢰할 수 있는 에너지 맵을 추정할 수 있고, 이를 이미지 스티칭에 활용하면 스티칭 과정에서 발생하는 왜곡을 줄일 수 있다.
영상 센서 기술의 발달로 초고해상도 영상 획득이 가능해지고 5G 통신이 가능해짐에 따라, 초고해상도, 초고용량의 데이터 처리에 대한 요구가 높아지고 있다. 이에, 고품질 고해상도의 VR 콘텐츠 생성 분야에 이미지 스티칭 장치가 적용될 수 있다.
이하에서는, 도 1을 참조하여 이미지 스티칭 장치에 의한 이미지 스티칭 방법의 각 동작을 자세하게 설명한다.
일 실시예에 따르면, 단계(101)에서, 이미지 스티칭 장치는 서로 다른 시점(view point)의 복수의 이미지를 획득할 수 있다.
일 실시예에 따르면, 단계(103)에서, 이미지 스티칭 장치는 복수의 이미지의 호모그래피를 추정할 수 있다.
일 실시예에 따르면, 단계(105)에서, 이미지 스티칭 장치는 복수의 이미지 각각의 호모그래피를 기초로 복수의 이미지를 정렬하여 정렬된 이미지를 생성할 수 있다.
일 실시예에 따르면, 단계(107)에서, 이미지 스티칭 장치는 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득할 수 있다. 이미지 스티칭 장치는 정렬된 이미지로부터 특징 정보를 추출할 수 있다. 이미지 스티칭 장치는 특징 정보를 기초로 정렬된 이미지의 픽셀 별 에너지를 계산할 수 있다.
여기서, 뉴럴 네트워크는 서로 다른 시점의 학습 이미지로부터 추정 에너지 맵을 추정하고, 추정 에너지 맵과 정답 에너지 맵 간의 손실값이 최소가 되도록 학습될 수 있다.
추정 에너지 맵 및 정답 에너지 맵은 서로 다른 시점의 학습 이미지의 그레디언트를 이용한 에너지 맵, 프레임 간의 객체의 움직임을 활용한 에너지 맵, 객체 세그멘테이션을 이용한 에너지 맵 또는 객체 세그멘테이션을 거리 변환한 맵 등을 포함할 수 있다.
일 실시예에 따르면, 단계(109)에서, 이미지 스티칭 장치는 결합 에너지 맵을 기초로 정렬된 이미지의 시접선을 추정할 수 있다.
일 실시예에 따르면, 단계(111)에서, 이미지 스티칭 장치는 시접선을 기초로 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성할 수 있다.
이미지 스티칭 장치는 기존의 에너지 맵을 구성하는 요소(gradient, motion 등)들을 분리하여 계산하고 최종 에너지 맵 추정하는 방식 대신, 인공신경망을 활용하여 최종 에너지 맵을 end-to-end로 생성하고, 해당 결과를 활용하여 시접선을 추정할 수 있다.
인공지능 기반의 객체 세그멘테이션, 객체 탐지 등의 결과를 에너지 맵에 활용하면 보다 양질의 스티칭 결과를 획득할 수 있고, 이미지 스티칭 장치는 뉴럴 네트워크를 이용하여 기존의 에너지 맵과 결합한 형태의 에너지 맵도 추정할 수 있다. 이미지 스티칭 장치는 에너지 맵 구성 요소의 어떠한 조합도 최종적인 에너지 맵으로 활용하여 인공신경회로망의 출력으로 생성할 수 있다.
이미지 스티칭 장치는 다양한 종류의 에너지 맵 구성 요소를 개별적으로 계산하는 경우보다, 한 번에 에너지 맵을 추정하므로 계산 시간을 단축할 수 있다.
도 2는 일 실시예에 따른 이미지 스티칭 장치에 입력되는 서로 다른 시점의 복수의 이미지의 일례이다.
이미지 스티칭 장치는 서로 다른 시점의 입력 이미지를 결합하여 스티칭 이미지를 생성할 수 있다. 서로 다른 시점의 입력 이미지는 360도 카메라를 통해 촬영된 이미지일 수 있다. 서로 다른 시점의 입력 이미지는 서로 중첩된 영역을 가질 수 있다. 이미지 스티칭 장치는 중첩된 영역을 기준으로 복수의 입력 이미지를 정렬할 수 있다.
도 2를 참조하면, 이미지 스티칭 장치는 복수의 입력 이미지(201, 202, 203)을 입력 받을 수 있다. 이미지 스티칭 장치는 복수의 입력 이미지(201, 202, 203)의 중첩 영역을 기준으로 복수의 입력 이미지(201, 202, 203)를 정렬할 수 있다. 이미지 스티칭 장치는 정렬된 이미지를 생성할 수 있다.
도 3은 일 실시예에 따른 다양한 종류의 에너지 맵의 예시이다.
일례로, 입력 이미지(301)에 대한 그래디언트(Gradient) 에너지 맵(302), 세그멘테이션 에너지 맵(304), 뎁스 맵(310), 거리 변환 에너지 맵(313)이 도시된다. 이들 에너지 맵을 결합한 결합 에너지 맵(305)이 도시된다.
이밖에 다양한 종류의 에너지 맵 또는 이들의 조합에 의한 결합 에너지 맵이 사용될 수 있다. 예를 들어, 에너지 맵은 그래디언트를 활용한 에너지 맵, 모션을 활용한 에너지 맵, 객체 세그멘테이션을 활용한 에너지 맵, 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵, 세일리언시(saliency) 맵을 활용한 에너지 맵, 그래디언트 및 모션을 활용한 에너지 맵, 그래디언트 및 객체 세그멘테이션을 활용한 에너지 맵, 그래디언트 및 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵, 그래디언트 및 세일리언시 맵을 활용한 에너지 맵, 그래디언트, 모션 및 객체 세그멘테이션을 활용한 에너지 맵, 그래디언트, 모션 및 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵, 그래디언트, 모션 및 세일리언스 맵을 활용한 에너지 맵, 그래디언트, 모션, 세그멘테이션 및 기하학적인 특징을 활용한 에너지 맵, 그래디언트, 모션, 객체 세그멘테이션의 거리 변환 및 기하학적인 특징을 활용한 에너지 맵, 그래디언트, 모션, 세일리언스 맵, 기하학적인 특징을 활용한 에너지 맵을 포함할 수 있다.
도 4는 일 실시예에 따른 이미지 스티칭 방법에 의해 추정된 시접선의 예시를 도시한 도면이다.
이미지 스티칭 장치는 결합 에너지 맵을 기초로 정렬된 이미지의 시접선(401, 402)을 추정할 수 있다. 예를 들어, 이미지 스티칭 장치는 그래디언트, 모션, 세그멘테이션 에너지를 활용하여 시접선을 추정하는 경우에는 에너지가 최소인 경로를 시접선으로 추정할 수 있다. 예를 들어, 이미지 스티칭 장치는 거리 변환 에너지를 활용하여 시접선을 추정하는 경우에는 에너지가 최대인 경로를 시접선으로 추정할 수 있다.
도 5는 일 실시예에 따른 뉴럴 네트워크 기반의 결합 에너지 맵을 추정하는 과정을 도시한 도면이다.
이미지 스티칭 장치는 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득할 수 있다. 먼저, 이미지 스티칭 장치는 정렬된 학습 영상(501)을 회귀 학습을 위한 컨벌루션 뉴럴 네트워크(convolutional neural network, CNN)(502)에 입력하여 학습된 모델(503)을 획득할 수 있다.
이미지 스티칭 장치는 시험 영상(504)를 실행을 위한 컨벌루션 뉴럴 네트워크(505)에 입력하여 최종 에너지 맵(506)을 획득할 수 있다. 여기서, 실행을 위한 컨벌루션 뉴럴 네트워크(505)는 학습된 모델(503)을 의미할 수 있다.
도 6은 일 실시예에 따른 뉴럴 네트워크의 학습 과정을 도시한 흐름도이다.
일 실시예에 따르면, 단계(601)에서, 학습 장치는 복수의 학습 영상을 결합하여 정렬된 학습 영상을 생성할 수 있다. 학습 장치는 중첩된 영역을 기준으로 복수의 입력 이미지를 정렬할 수 있다.
단계(602)에서, 학습 장치는 컨볼루션 뉴럴 네트워크(Convolutional layers)를 이용하여 정렬된 학습 영상으로부터 특징 정보를 추출할 수 있다.
단계(603)에서, 학습 장치는 컨볼루션 뉴럴 네트워크(Convolutional layers)를 이용하여 특징 정보를 이용하여 픽셀 별 에너지 계산을 수행할 수 있다.
단계(604)에서, 학습 장치는 픽셀 별 에너지 계산 결과를 기초로 최종 에너지 맵(604)을 생성할 수 있다.
학습 장치는 최종 에너지 맵(604)을 그라운드트루스(ground truth) 에너지 맵과 비교하여 뉴럴 네트워크를 학습시킬 수 있다. 학습 장치는 최종 에너지 맵(604)과 그라운드트루스(ground truth) 에너지 맵에 대한 손실 함수의 손실값을 계산하고, 손실값을 기초로 뉴럴 네트워크를 학습시킬 수 있다. 학습 장치는 추정된 에너지 맵과 그라운드트루스(ground truth) 에너지 맵 간의 차이가 최소가 되도록 뉴럴 네트워크를 학습시킬 수 있다.
예를 들어, 학습 장치는 수학식 1의 손실 함수를 이용하여 뉴럴 네트워크를 학습시킬 수 있다.
[수학식 1]
Figure 112020142778184-pat00001
여기서, m은 이미지 내의 픽셀 개수를 의미하고, n은 학습하고자 하는 파라미터의 개수를 의미하고,
Figure 112020142778184-pat00002
는 학습하고자 하는 파라미터를 의미하고, I는 추정한 에너지 맵을 의미하고, T는 학습하고자 하는 에너지 맵을 의미하고, p는 영상 내 픽셀을 의미한다.
목적 함수는
Figure 112020142778184-pat00003
또는
Figure 112020142778184-pat00004
일 수 있다.
Figure 112020142778184-pat00005
는 과적합(overfitting) 방지를 위한 정규화에 해당하는 항일 수 있다.
도 7은 일 실시예에 따른 뉴럴 네트워크의 테스트 과정을 도시한 흐름도이다.
일 실시예에 따르면, 단계(601)에서, 이미지 스티칭 장치는 복수의 학습 영상을 결합하여 정렬된 학습 영상을 생성할 수 있다. 이미지 스티칭 장치는 중첩된 영역을 기준으로 복수의 입력 이미지를 정렬할 수 있다.
단계(602)에서, 이미지 스티칭 장치는 컨볼루션 뉴럴 네트워크(Convolutional layers)를 이용하여 정렬된 학습 영상으로부터 특징 정보를 추출할 수 있다.
단계(603)에서, 이미지 스티칭 장치는 컨볼루션 뉴럴 네트워크(Convolutional layers)를 이용하여 특징 정보를 이용하여 픽셀 별 에너지 계산을 수행할 수 있다.
단계(604)에서, 이미지 스티칭 장치는 픽셀 별 에너지 계산 결과를 기초로 최종 에너지 맵(604)을 생성할 수 있다.
이미지 스티칭 장치는 최종 에너지 맵을 기초로 정렬된 이미지의 시접선을 추정할 수 있다. 이미지 스티칭 장치는 시접선을 기초로 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성할 수 있다.
도 8은 일 실시예에 따른 이미지 스티칭 장치의 구성을 도시한 도면이다.
일 실시예에 따른 이미지 스티칭 장치는 적어도 하나의 프로세서(801) 및 메모리(803)를 포함한다. 프로세서(801)는 서로 다른 시점(view point)의 복수의 이미지를 획득할 수 있다. 프로세서(801)는 복수의 이미지의 호모그래피를 추정할 수 있다. 프로세서(801)는 복수의 이미지 각각의 호모그래피를 기초로 복수의 이미지를 정렬하여 정렬된 이미지를 생성할 수 있다. 프로세서(801)는 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득할 수 있다. 프로세서(801)는 결합 에너지 맵을 기초로 정렬된 이미지의 시접선을 추정할 수 있다. 프로세서(801)는 시접선을 기초로 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (5)

  1. 서로 다른 시점(view point)의 복수의 이미지를 획득하는 단계;
    상기 복수의 이미지의 호모그래피를 추정하는 단계;
    상기 복수의 이미지 각각의 호모그래피를 기초로 상기 복수의 이미지를 정렬하여 정렬된 이미지를 생성하는 단계;
    상기 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득하는 단계;
    상기 결합 에너지 맵을 기초로 상기 정렬된 이미지의 시접선을 추정하는 단계; 및
    상기 시접선을 기초로 상기 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성하는 단계
    를 포함하고,
    상기 결합 에너지 맵은 그레디언트를 활용한 에너지 맵, 모션을 활용한 에너지 맵, 객체 세그멘테이션을 활용한 에너지 맵, 및 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵을 결합한 것이고,
    상기 추정하는 단계는,
    상기 결합 에너지 맵에서 그레디언트를 활용한 에너지 맵, 모션을 활용한 에너지 맵, 및 객체 세그멘테이션을 활용한 에너지 맵을 활용하여 시접선을 추정하는 경우 에너지가 최소인 경로를 상기 시접선으로 추정하는 단계; 및
    상기 결합 에너지 맵에서 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵을 활용하여 시접선을 추정하는 경우 에너지가 최대인 경로를 시접선으로 추정하는 단계
    를 포함하는, 이미지 스티칭 방법.
  2. 제1항에 있어서,
    상기 결합 에너지 맵을 획득하는 단계는,
    상기 정렬된 이미지로부터 특징 정보를 추출하는 단계; 및
    상기 특징 정보를 기초로 상기 정렬된 이미지의 픽셀 별 에너지를 계산하는 단계를 포함하는,
    이미지 스티칭 방법.
  3. 제1항에 있어서,
    상기 뉴럴 네트워크는 서로 다른 시점의 학습 이미지로부터 추정 에너지 맵을 추정하고, 상기 추정 에너지 맵과 정답 에너지 맵 간의 손실값이 최소가 되도록 학습되는,
    이미지 스티칭 방법.
  4. 제3항에 있어서,
    상기 추정 에너지 맵 및 상기 정답 에너지 맵은 서로 다른 시점의 학습 이미지의 그레디언트를 이용한 에너지 맵, 프레임 간의 객체의 움직임을 활용한 에너지 맵 또는 객체 세그멘테이션을 이용한 에너지 맵을 포함하는,
    이미지 스티칭 방법.
  5. 적어도 하나의 프로세서; 및
    메모리를 포함하고,
    상기 프로세서는,
    서로 다른 시점(view point)의 복수의 이미지를 획득하고,
    상기 복수의 이미지의 호모그래피를 추정하고,
    상기 복수의 이미지 각각의 호모그래피를 기초로 상기 복수의 이미지를 정렬하여 정렬된 이미지를 생성하고,
    상기 정렬된 이미지를 뉴럴 네트워크에 입력하여 결합 에너지 맵을 획득하고,
    상기 결합 에너지 맵을 기초로 상기 정렬된 이미지의 시접선을 추정하고,
    상기 시접선을 기초로 상기 정렬된 이미지를 블렌딩하여 스티칭 이미지를 생성하고,
    상기 결합 에너지 맵은,
    그레디언트를 활용한 에너지 맵, 모션을 활용한 에너지 맵, 객체 세그멘테이션을 활용한 에너지 맵, 및 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵을 결합한 것이고,
    상기 프로세서는,
    상기 결합 에너지 맵에서 그레디언트를 활용한 에너지 맵, 모션을 활용한 에너지 맵, 및 객체 세그멘테이션을 활용한 에너지 맵을 활용하여 시접선을 추정하는 경우 에너지가 최소인 경로를 상기 시접선으로 추정하고, 상기 결합 에너지 맵에서 객체 세그멘테이션의 거리 변환을 활용한 에너지 맵을 활용하여 시접선을 추정하는 경우 에너지가 최대인 경로를 시접선으로 추정하는
    이미지 스티칭 장치.
KR1020200186308A 2020-12-29 2020-12-29 이미지 스티칭 방법 및 장치 KR102405428B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200186308A KR102405428B1 (ko) 2020-12-29 2020-12-29 이미지 스티칭 방법 및 장치
US17/558,969 US11875490B2 (en) 2020-12-29 2021-12-22 Method and apparatus for stitching images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200186308A KR102405428B1 (ko) 2020-12-29 2020-12-29 이미지 스티칭 방법 및 장치

Publications (1)

Publication Number Publication Date
KR102405428B1 true KR102405428B1 (ko) 2022-06-03

Family

ID=81983822

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200186308A KR102405428B1 (ko) 2020-12-29 2020-12-29 이미지 스티칭 방법 및 장치

Country Status (2)

Country Link
US (1) US11875490B2 (ko)
KR (1) KR102405428B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102667946B1 (ko) 2023-02-23 2024-05-22 경희대학교 산학협력단 깊이 정보 기반 경계선 생성 행렬을 활용한 영상 스티칭 장치 및 방법

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115187461A (zh) * 2022-07-28 2022-10-14 中国华能集团清洁能源技术研究院有限公司 基于单应性和重建网络的风机叶片图像拼接方法及设备
WO2024071700A1 (ko) * 2022-09-29 2024-04-04 삼성전자 주식회사 전자 장치 및 그 동작 방법

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9185284B2 (en) * 2013-09-06 2015-11-10 Qualcomm Incorporated Interactive image composition
US9563953B2 (en) * 2014-08-28 2017-02-07 Qualcomm Incorporated Systems and methods for determining a seam
US10194097B2 (en) * 2017-01-13 2019-01-29 Gopro, Inc. Apparatus and methods for the storage of overlapping regions of imaging data for the generation of optimized stitched images
US11049218B2 (en) * 2017-08-11 2021-06-29 Samsung Electronics Company, Ltd. Seamless image stitching
WO2021097126A1 (en) * 2019-11-12 2021-05-20 Geomagical Labs, Inc. Method and system for scene image modification

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Eungyeol Song, Minkyu Lee, Sangyoun Lee, "CarvingNet: Content-Guided Seam Carving Using Deep Convolution Neural Network", IEEE Access, Volume: 7, 6 Dec. 2018(2018.12.06.) 1부.* *
Hadi Hejazifar, Hassan Khotanlou, "Fast and robust seam estimation to seamless image stitching", Signal, Image and Video Processing volume 12, pages 885-893, 2018(2018.01.10.) 1부.* *
곽문성 외 4명, "이동 객체를 보존하는 시접선 추정 기술", 방송공학회논문지 24(6), 2019.11, pages 992-1001(2019.11.30.) 1부.* *
김태하 외 5명, "실시간 고해상도 동영상 스티칭을 위한 고속 콘텐츠 보존 시접선 추정 방법", 방송공학회논문지 25(6), 2020.11. pages 1004-1012(2020.11.30.) 1부.* *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102667946B1 (ko) 2023-02-23 2024-05-22 경희대학교 산학협력단 깊이 정보 기반 경계선 생성 행렬을 활용한 영상 스티칭 장치 및 방법

Also Published As

Publication number Publication date
US11875490B2 (en) 2024-01-16
US20220207679A1 (en) 2022-06-30

Similar Documents

Publication Publication Date Title
Zhan et al. Unsupervised learning of monocular depth estimation and visual odometry with deep feature reconstruction
EP2570993B1 (en) Egomotion estimation system and method
US20150091900A1 (en) Systems and Methods for Depth-Assisted Perspective Distortion Correction
KR102405428B1 (ko) 이미지 스티칭 방법 및 장치
KR20190087258A (ko) 객체 자세 추정 방법 및 장치
KR102380862B1 (ko) 영상 처리 방법 및 장치
KR101671391B1 (ko) 레이어 블러 모델에 기반한 비디오 디블러링 방법, 이를 수행하기 위한 기록 매체 및 장치
KR102225753B1 (ko) 딥러닝 기반 파노라마 영상의 품질 평가 방법 및 그 장치
CN110930310B (zh) 全景图像拼接方法
JP7333520B2 (ja) 学習プログラム、学習方法、及び情報処理装置
Alletto et al. Self-supervised optical flow estimation by projective bootstrap
Al Ismaeil et al. Real-time non-rigid multi-frame depth video super-resolution
EP3731143A1 (en) Method and device for economizing computing resources to be used during a process of verification of convolutional parameters using test pattern
CN104104911A (zh) 全景图像生成过程中的时间戳消除和重置方法及系统
CN107330856A (zh) 一种基于投影变换和薄板样条的全景成像方法
CN116109484A (zh) 前景信息保留的图像拼接方法、装置、设备及存储介质
KR102236473B1 (ko) 영상 처리 방법 및 그 장치
CN110298229B (zh) 视频图像处理方法及装置
Zhao et al. 3dfill: Reference-guided image inpainting by self-supervised 3d image alignment
Hou et al. Multi-branch network with ensemble learning for text removal in the wild
Ito et al. Deep homography-based video stabilization
US20240062501A1 (en) Image stitching method using image masking
CN117726656B (zh) 基于超分辨率图像的目标跟踪方法、装置、系统和介质
KR102640653B1 (ko) 영상 처리 장치 및 방법
KR102654017B1 (ko) 생성형 순환 신경망 모델을 이용한 영상 개선과 학습데이터 생성을 통합하는 방법 및 그 장치

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant