KR102606785B1

KR102606785B1 - 동시 로컬화 및 매핑을 위한 시스템 및 방법

Info

Publication number: KR102606785B1
Application number: KR1020227023663A
Authority: KR
Inventors: 데이비드 벤 에즈라; 에얄 자크; 오지 에그리
Original assignee: 스냅 인코포레이티드
Priority date: 2016-08-30
Filing date: 2017-08-30
Publication date: 2023-11-29
Also published as: US12002232B2; US20180061072A1; EP4184438A1; KR20210076185A; US20230281851A1; US11816853B2; CN116051640A; EP3800618A1; US10984547B2; KR20220104269A; EP3507772B1; US10410367B2; WO2018045076A1; CN109804411B; KR20190134589A; KR102420857B1; US20200175705A1; EP3800618B1; EP3507772A1; US20210201520A1

Abstract

다양한 실시예들은 물리적 환경 내의 카메라의 2개 정도의 상이한 포즈로부터의 이미지들을 이용하여 동시 로컬화 및 매핑(SLAM) 프로세스를 초기화하는 것을 수반하는 SLAM을 수행하기 위한 시스템들, 방법들, 디바이스들, 및 명령어들을 제공한다. 일부 실시예들은 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 캡처된 이미지 프레임들에 도시된 대응하는 피처들을 매칭함에 있어서의 에러들을 무시함으로써, 그리고 최소화 프로세스가 국지적 최소값에 속하는 것이 아니라 전역적 최소값으로 수렴하게 하는 방식으로 SLAM 프로세스를 업데이트함으로써, 이것을 달성할 수 있다.

Description

동시 로컬화 및 매핑을 위한 시스템 및 방법{SYSTEMS AND METHODS FOR SIMULTANEOUS LOCALIZATION AND MAPPING}

관련 출원에 대한 교차 참조

본 출원은 2016년 8월 30일자로 출원된 미국 가특허 출원 번호 제62/381,036호의 우선권 및 이익을 주장하며, 이 미국 가출원은 참고로 본 명세서에 포함된다.

기술분야

본 명세서에 설명되는 실시예들은 물리적 환경 내에서의 센서의 로컬화 및 매핑에 관한 것으로, 더욱 구체적으로는, 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM)을 수행하기 위한 시스템들, 방법들, 디바이스들, 및 명령어들에 관한 것이다.

모바일 컴퓨팅 디바이스를 둘러싸는 물리적 환경의 구조를 매핑하고 그 매핑 환경 내의 모바일 컴퓨팅 디바이스의 상대적 포지션(position)을 로컬화(localize)하기 위해 모바일 컴퓨팅 디바이스(예를 들어, 모바일폰, 태블릿, 웨어러블 증강 현실(augmented reality)(AR) 디바이스, 웨어러블, 자율 공중 또는 지상 차량, 또는 로봇)에 의해 SLAM(Simultaneous Localization and Mapping) 프로세스(예를 들어, 알고리즘)가 사용될 수 있다. 모바일 컴퓨팅 디바이스가 그의 물리적 환경 내에서 이동함에 따라 실시간으로 SLAM 프로세스가 보통 매핑 및 로컬화할 수 있다.

비록 배타적으로 이미지 기반이 아니지만, 일부 SLAM 프로세스들은 모바일폰의 내장 카메라와 같은 모바일 컴퓨팅 디바이스와 연관된 이미지 센서에 의해 제공된 물리적 환경의 이미지들을 이용함으로써 매핑 및 로컬화를 달성한다. 캡처된 이미지들로부터, 이러한 SLAM 프로세스들은 모바일 컴퓨팅 디바이스 포지션을 복구하고, 어느 것도 초기에 알지 못하고 이미지 센서의 포즈와 맵의 구조 양쪽 모두를 복구함으로써 모바일 컴퓨팅 디바이스를 둘러싸는 물리적 환경의 맵을 구성할 수 있다.

캡처된 이미지들을 사용하는 SLAM 프로세스들은 보통 상이한 포즈들에서 (예를 들어, 모바일 컴퓨팅 디바이스의) 이미지 센서에 의해 캡처되는 물리적 환경에서의 대응하는 물리적 피처들(이하, 피처들)의 몇몇 이미지들을 요구한다. 상이한 카메라 위치들로부터 캡처된 이미지들은 이러한 SLAM 프로세스들이 그들의 로컬화 및 매핑 프로세스들을 수렴하고 시작하는 것을 허용한다. 불행하게도, 이미지 기반 SLAM 프로세스에서의 로컬화 문제는 보통 캡처된 이미지들 사이에서 대응하는 피처들을 매칭함에 있어서의 에러들로 인해 해결하는 것이 어렵다 - 이러한 에러들은 SLAM 프로세스의 최소화 문제의 국지적 결과를 특정 위치를 제공하는 전역적 최소값보다는 국지적 최소값으로 이동시키는 경향이 있다.

첨부된 도면들의 다양한 것들은 본 개시내용의 일부 실시예들을 단지 예시하고, 그 범위를 제한하는 것으로서 고려되지 않아야 한다. 도면들은 반드시 비례에 맞게 그려진 것은 아니다. 임의의 특정 요소 또는 행위의 논의를 용이하게 식별하기 위해, 참조 번호에서 최상위 숫자 또는 숫자들은 그 요소가 먼저 소개되는 도면 번호를 지칭하고, 유사한 번호들은 상이한 도면들에서 유사한 컴포넌트들을 기술할 수 있다.
도 1은 일부 실시예에 따른, 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM) 시스템을 포함하는 예시적인 고레벨 클라이언트-서버 기반 네트워크 아키텍처를 예시하는 블록도이다.
도 2는 일부 실시예에 따른, SLAM 시스템을 포함하는 예시적인 컴퓨팅 디바이스를 예시하는 블록도이다.
도 3 내지 도 7은 다양한 실시예들에 따른, SLAM 처리를 위한 예시적인 방법들을 예시하는 흐름도들이다.
도 8은 실시예를 구현하기 위해 본 명세서에서 설명되는 다양한 하드웨어 아키텍처들과 관련하여 사용될 수 있는 대표적인 소프트웨어 아키텍처를 예시하는 블록도이다.
도 9는 머신 판독가능 매체(예를 들어, 머신 판독가능 저장 매체)로부터 명령어들을 판독하여 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행할 수 있는, 일부 실시예에 따른, 머신의 컴포넌트들을 예시하는 블록도이다.

다양한 실시예들은 물리적 환경 내의 카메라의 2개 정도의(as few as two) 상이한 포즈(예를 들어, 물리적 위치)로부터의 이미지들(이하, 이미지 프레임들)을 이용하여 동시 로컬화 및 매핑(SLAM) 프로세스를 초기화하는 것을 수반하는 SLAM을 수행하기 위한 시스템들, 방법들, 디바이스들, 및 명령어들을 제공한다. 일부 실시예들은, 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 캡처되는 (물리적 환경의) 이미지 프레임들에 묘사된 대응하는 피처들을 매칭함에 있어서의 에러들(이하, 피처 에러들)을 무시함으로써, 그리고 최소화 프로세스가 국지적 최소값에 속하는 것이 아니라 전역적 최소값으로 수렴하게 하는 방식으로 SLAM 프로세스를 업데이트함으로써, 이것을 달성할 수 있다. 전역적 최소값은 이미지 센서의 물리적 위치를 제공할 수 있다.

일부 실시예들에 따르면, SLAM 프로세스는 2개의 물리적 위치 사이에서, 물리적 환경 내에서, 모바일 컴퓨팅 디바이스의 움직임을 검출함으로써 초기화하고, 여기서 움직임은 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 구별가능하고 캡처되는 2개의 이미지 프레임들(이하, 이미지들)에 의해 경계 지어진다. 모바일 컴퓨팅 디바이스는 이미지 센서를 통해 검출된 이미지 블러(image blur)를, 모바일 컴퓨팅 디바이스(예를 들어, 관성 측정 유닛(IMU) 또는 가속도계)의 움직임 센서를 통해 검출된 움직임의 쇼크 또는 임펄스와 상관시키는 모바일 컴퓨팅 디바이스에 의해 2개의 구별가능한 이미지를 식별할 수 있다. 모바일 컴퓨팅 디바이스에 의해 검출되는 움직임은 모바일 컴퓨팅 디바이스가 처음에 움직임을 시작할 때 검출되는 쇼크 또는 임펄스를 포함할 수 있고, 모바일 컴퓨팅 디바이스가 최종적으로 움직임을 중단할 때 검출되는 쇼크 또는 임펄스를 또한 포함할 수 있다. 이러한 방식으로, 다양한 실시예들은 모바일 컴퓨팅 디바이스의 하나 이상의 센서로부터의 데이터를 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 캡처되는 특정 이미지들에 결속시킬 수 있고, 이것은 결국 SLAM 프로세스의 동작을 초기화할 수 있다. 추가적으로, 다양한 실시예들은 실시예의 SLAM 프로세스가 이전의 이미지 프레임에 기초하여 각각의 키 이미지 프레임을 초기화하고 IMU를 이용하여 초기 거리를 결정하는 것을 허용할 수 있다.

일부 실시예들에서, 움직임은 모바일 컴퓨팅 디바이스를 홀드하고 있는 인간 개인에 의해 수행되는 사이드스텝(sidestep)을 포함하고, 이는 양호한 SLAM 초기화를 위해 충분한 시차를 제공할 수 있다. 특히, 실시예는 인간 개인의 움직임을 분석하고, 사이드스텝의 시작과 종료(예를 들어, 전형적인 인간의 사이드스텝에 기초함)에서 생성된 임펄스를 이용하여 움직임의 관련 부분들을 추출할 수 있다. 이어서, 실시예는 제1 및 제2 키 이미지 프레임들을 식별하고 제1 및 제2 키 이미지 프레임들에 기초하여 SLAM 프로세스를 초기화하기 위해 그 관련 부분들을 이용할 수 있다.

일부 실시예들은, SLAM 프로세스가 열악한 정확성(예를 들어, 잡음이 많은 IMU)을 제공하는 움직임 센서를 사용하면서, 모바일 컴퓨팅 디바이스의 로컬화를 결정하고 모바일 컴퓨팅 디바이스의 물리적 환경을 (예를 들어, 사용 가능한 또는 수용 가능한 정확도의 레벨로) 매핑할 수 있게 한다. 일부 실시예들은 SLAM 프로세스가 제한된 양의 이미지 데이터를 이용하면서 로컬화를 결정하고 물리적 환경을 매핑할 수 있게 한다. 일부 실시예는 SLAM 프로세스가 제한된 컴퓨팅 자원(예를 들어, 저전력 프로세서)을 사용하면서 실시간으로 로컬화를 결정하고 물리적 환경을 매핑할 수 있게 한다. 추가적으로, 일부 실시예는 SLAM 프로세스가 깊이 데이터를 이용하지 않고 로컬화를 결정하고 물리적 환경을 매핑할 수 있게 한다.

일부 실시예들의 SLAM 기술은 (예를 들어, 비디오 스트림의) 2차원(2D) 이미지 프레임들에서 키 포인트들(추적 포인트들)을 추적하고; 2D 이미지 프레임들에서의 3차원(3D) 피처들(예를 들어, 물리적 환경에서의 물리적 객체들)은 물론, 3D 피처들로의 카메라의 상대적 물리적 포즈(예를 들어, 위치)도 식별하는 데 이용될 수 있다.

예를 들어, 실시예의 SLAM 기술은 증강 현실(AR) 이미지 처리 및 이미지 프레임 추적과 함께 사용될 수 있다. 특히, AR 시스템을 위해 캡처된 이미지 프레임은 SLAM 기술을 이용하여 추적될 수 있고, 그 후 가상 객체는 스마트 안경, 스마트폰, 태블릿, 또는 다른 모바일 컴퓨팅 디바이스와 같은 디바이스의 AR 디스플레이의 일부로서 캡처된 이미지 프레임 내에 또는 그에 대해 배치될 수 있다. 본 명세서에서 이용되는 바와 같이, 증강 현실(AR)은 이미지 프레임들을 캡처할 수 있고, 그 이미지 프레임들을 추가 정보에 의해 강화(enhance)하고, 그리고 나서 강화된 정보를 디스플레이 상에 제시(present)할 수 있는 시스템들, 방법들, 디바이스들, 및 명령어들을 지칭한다. 이것은, 예를 들어, 사용자가 장면의 비디오 스트림을 캡처하기 위해 모바일 컴퓨팅 디바이스(예를 들어, 스마트폰 또는 태블릿)를 유지할 수 있게 하고, 모바일 컴퓨팅 디바이스의 출력 디스플레이가 추가 정보와 함께 사용자에게 보이는 장면을 제시할 수 있게 할 수 있다. 이 추가 정보는 가상 객체들이 장면에 존재하는 것처럼 가상 객체들이 제시되도록 장면 내에 가상 객체들을 배치하는 것을 포함할 수 있다. 이러한 가상 객체들의 양태들은, 물리적 환경을 캡처하는 이미지 센서의 관점에서 볼 때 다른 실제 또는 가상 객체가 그 가상 객체의 앞을 지나가면 그 가상 객체가 가려지도록 처리된다. 이러한 가상 객체들은 또한, 실제 객체와 가상 객체 양쪽 모두가 시간이 지남에 따라 이동할 때, 및 환경을 캡처하는 이미지 센서의 관점이 변화할 때, 실제 객체들과의 관계를 유지하도록 처리된다.

일부 실시예들은 전체 SLAM 프로세스의 사이클들을 수행하는 단계, 부분 SLAM 프로세스의 사이클들을 수행하는 단계, 및 부분 SLAM 프로세스 사이클들이 전체 SLAM 프로세스 사이클들보다 더 빈번하게 수행되도록 부분 SLAM 프로세스 사이클들 및 전체 SLAM 프로세스 사이클들을 수행하는 단계를 포함하는 방법을 제공한다. 다양한 실시예들에 따르면, 전체 SLAM 프로세스 사이클은 전체 SLAM 프로세스를 수행하고, 부분 SLAM 프로세스 사이클은 전체 SLAM 프로세스를 수행하는 것보다 수행하기 위해 컴퓨팅 자원(예를 들어, 처리, 메모리 자원들, 또는 둘 다)을 더 적게 요구하는 부분 SLAM 프로세스를 수행한다. 추가적으로, 부분 SLAM 프로세스는 전체 SLAM 프로세스 사이클보다 빠르게 수행될 수 있다.

일부 실시예들에서, 부분 SLAM 프로세스는 SLAM 프로세스의 로컬화 부분만을 수행한다. 대안적인 실시예들에서, 부분 SLAM 프로세스는 SLAM 프로세스의 매핑 부분만을 수행한다. SLAM 프로세스의 일부만을 수행함으로써, 부분 SLAM 프로세스는 전체 SLAM 프로세스보다 적은 컴퓨팅 자원을 이용하여 수행할 수 있고, 전체 SLAM 프로세스보다 빠르게 수행할 수 있다. 또한, 부분 SLAM 프로세스 사이클들보다 덜 빈번하게 전체 SLAM 프로세스 사이클들을 수행함으로써, 다양한 실시예들은 그 결과들을 달성하는 데 필요한 컴퓨터 자원들을 제한하면서 SLAM 결과들(예를 들어, 유용하고 정확한 SLAM 결과들)을 달성한다. 따라서, 다양한 실시예들은 그렇지 않으면 제한된 처리 능력을 갖는 스마트폰 또는 스마트 안경과 같은 전통적인 SLAM 기술들을 수행하기 위한 제한된 컴퓨팅 자원들을 갖는 디바이스 상의 SLAM 프로세스의 수행에 적합하다.

일부 실시예들에서, 이미지 프레임들은 모바일폰의 카메라와 같은 디바이스의 이미지 센서에 의해 캡처된다(예를 들어, 특정 샘플 레이트로 연속적으로 캡처된다). 일부 실시예들은 새로운 키 이미지 프레임들(key image frames)로서 식별되는(예를 들어, 생성되는) 캡처된 이미지 프레임들에 대해 전체 SLAM 프로세스 사이클들을 수행하고, 키 이미지 프레임들로서 식별되지 않은 캡처된 이미지 프레임들에 대해 부분 SLAM 프로세스 사이클들을 수행한다. 일부 실시예들에서, 하나 이상의 키 이미지 프레임 조건이 충족될 때 캡처된 이미지 프레임이 새로운 키 이미지 프레임으로서 식별된다(예를 들어, 생성된다). 다양한 실시예들은 캡처된 이미지 프레임들로부터 식별된 새로운 키 이미지 프레임들이 각각의 전체 SLAM 프로세스 사이클이 의도된 바와 같이 또는 예상된 바와 같이 수행되는 것을 보증하기에 충분히 고유한 것을 보장하기 위해 키 이미지 프레임 조건들을 사용한다.

예를 들어, 캡처된 이미지 프레임이 미리 결정된 품질보다 양호하지 않은 경우 적어도 미리 결정된 품질로 되어 있을 때(예를 들어, 공정 이미지 동등성(fair image equality)) 새로운 키 이미지 프레임이 생성될 수 있다. 이러한 방식으로, 실시예는 이미지 센서의 움직임에 의해 유발되는 이미지 블러를 캡처했을 가능성이 있는 이미지 센서의 움직임 동안 캡처된 이미지 프레임들을 새로운 이미지 프레임들로서 지정하는 것을 회피할 수 있다. 캡처된 이미지 프레임의 이미지 품질은 미리 결정된 수의 사전 캡처된 이미지 프레임들의 품질에 기초하여 현재 이미지 프레임의 품질을 결정할 수 있는 기울기 히스토그램 방법(gradient histogram method)에 의해 결정될 수 있다. 다른 예에서, 마지막 새로운 키 이미지 프레임의 식별(예를 들어, 생성) 사이에 특정 양의 시간 또는 특정 수의 사이클(예를 들어, 부분 SLAM 프로세스 사이클들)이 지난 후에만 새로운 키 이미지 프레임이 생성될 수 있다. 이러한 방식으로, 실시예는, 본 명세서에서 설명되는 바와 같이, 제한된 컴퓨팅 자원들을 갖는 디바이스에서 연속적인 수행을 행하기 위해 프로세서-집약적이거나 메모리-집약적일 수 있고 그에 적합하지 않을 수 있는, 모든 캡처된 이미지 프레임이 키 이미지 프레임으로서 취급되어 전체 SLAM 사이클에 의해 처리되는 것을 회피할 수 있다. 다른 예에서, 현재 캡처된 이미지 프레임과 이전 이미지 프레임 사이에서 특정 양의 변환(예를 들어, X, Y, 또는 Z 좌표들에 대한 물리적 환경에서의 이미지 센서 포지션 변화에 의해 야기됨)이 검출된 후에만 새로운 키 이미지 프레임이 생성될 수 있다. 이러한 방식으로, 실시예는 3차원(3D) 매핑 목적들을 위해 도움이 되지 않는, 새로운 키 이미지 프레임들로서 지정되는, 물리적 환경에서 동일한 포인트를 캡처하는, 너무 많은 이미지 프레임들을 회피할 수 있다.

일부 실시예들에서, 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들은 병렬로 수행될 수 있고, 그에 의해 전체 SLAM 프로세스 사이클들은 새로운 키 이미지 프레임들로서 식별되는 캡처된 이미지 프레임들에 대해서만 수행되고, 부분 SLAM 프로세스 사이클들은 비-키 이미지 프레임들(non-key image frames) 사이에 캡처되는 모든 다른 이미지 프레임들에 대해 수행된다. 추가적으로, 일부 실시예들에서, 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들은 본 명세서에서 설명된 바와 같이 SLAM 초기화가 수행된 후에 수행되기 시작한다. 예를 들어, 실시예의 SLAM 초기화 프로세스는 처음 2개의 키 이미지 프레임(예를 들어, 인간 개인에 의한 사이드스텝에 기초함)을 생성하고, 초기 로컬화 데이터(예를 들어, 제2 키 이미지 프레임에 대한 6 자유도(6DOF)를 포함함)를 제공하고, 초기 매핑 데이터(예를 들어, 처음 2개의 키 이미지 프레임 사이에 매칭되는 피처들의 3D 포지션들을 포함함)를 제공할 수 있다. 후속하여, 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들은 SLAM 초기화 프로세스에 의해 제공되는 초기 로컬화 및 매핑 데이터에 기초하여 수행되기 시작할 수 있다.

다양한 실시예들이 IMU의 사용에 관하여 본 명세서에 설명되지만, 일부 실시예들은 가속도계 또는 자이로스코프와 같은 IMU에 추가하여 또는 IMU를 대신하여 하나 이상의 다른 센서를 이용할 수 있다는 것을 이해할 것이다. 본 명세서에서 이용되는 바와 같이, 자유도(DOF)(예를 들어, IMU, 가속도계, 또는 자이로스코프에 의해 측정됨)는 변위(예를 들어, X, Y, 및 Z 좌표들에 따라 측정됨) 및 배향(예를 들어, 프사이(psi), 세타(theta) 및 파이(phi)에 따라 측정됨)을 포함할 수 있다. 따라서, 6 자유도(6DOF) 파라미터들은 x축, y축, 및 z축을 따르는 거리를 나타내는 값들, 및 오일러 각도들(Euler angles) 프사이, 세타, 및 파이에 따른 회전들을 나타내는 값들을 포함할 수 있다. 4 자유도(4DOF) 파라미터들은 x축, y축, 및 z축을 따르는 거리를 나타내는 값들, 및 오일러 각도(예를 들어, 파이)에 따른 회전을 나타내는 값을 포함할 수 있다.

뒤따르는 설명은 본 개시내용의 예시적인 실시예들을 구체화하는 시스템들, 방법들, 기법들, 명령어 시퀀스들, 및 컴퓨팅 머신 프로그램 제품들을 포함한다. 다음의 설명에서는, 설명의 목적들을 위하여, 수많은 특정 세부사항들이 발명 요지의 다양한 실시예들에 대한 이해를 제공하기 위하여 기재되어 있다. 그러나, 발명 요지의 실시예들은 이 특정 세부사항들없이 실시될 수도 있다는 것이 본 기술분야의 통상의 기술자들에게 분명할 것이다. 일반적으로, 널리-공지된 명령어 인스턴스들, 프로토콜들, 구조들, 및 기법들은 반드시 상세하게 도시되지는 않는다.

이제, 본 개시내용의 실시예들이 상세히 참조될 것이며, 그 예들은 첨부 도면들에 예시된다. 그렇지만, 본 개시내용은 많은 상이한 형태들로 구현될 수 있고, 본 명세서에 기재된 실시예들로 제한되는 것으로서 해석되어서는 안된다.

도 1은 일부 실시예들에 따른, 동시 로컬화 및 매핑(SLAM) 시스템(126)을 포함하는 예시적인 고레벨 클라이언트-서버 기반 네트워크 아키텍처(100)를 예시하는 블록도이다. 도시된 바와 같이, 네트워크 아키텍처(100)는 클라이언트 디바이스(102A) 및 클라이언트 디바이스(102B)(이하, 집합적으로 클라이언트 디바이스들(102)이라고 함) - SLAM 시스템(126)은 클라이언트 디바이스(102B)에 포함됨 - ; 메시징 서버 시스템(108); 및 클라이언트 디바이스들(102)과 메시징 서버 시스템(108) 사이의 데이터 통신을 용이하게 하는 네트워크(106)(예를 들어, 인터넷 또는 WAN(wide area network))를 포함한다. 네트워크 아키텍처(100)에서, 메시징 서버 시스템(108)은 네트워크(106)를 통해 클라이언트 디바이스들(102)에 서버측 기능을 제공할 수 있다. 일부 실시예들에서, 사용자(이제 도시됨)가 클라이언트 디바이스들(102) 중 하나 또는 클라이언트 디바이스들(102) 중 하나를 이용하여 메시징 서버 시스템(108)과 상호작용한다.

클라이언트 디바이스들(102)은 적어도 디스플레이, 및 네트워크(106)를 통해 메시징 서버 시스템(108)과의 통신들을 제공하는 통신 능력들을 포함하는 컴퓨팅 디바이스를 포함할 수 있다. 클라이언트 디바이스들(102) 각각은 원격 디바이스, 워크 스테이션, 컴퓨터, 범용 컴퓨터, 인터넷 어플라이언스, 핸드헬드 디바이스, 무선 디바이스, 휴대용 디바이스, 웨어러블 컴퓨터, 셀룰러 또는 모바일폰, 개인 휴대 정보 단말기(PDA), 스마트폰, 태블릿, 울트라북, 넷북, 랩톱, 데스크톱, 멀티-프로세서 시스템, 마이크로프로세서 기반 또는 프로그램가능 소비자 전자기기, 게임 콘솔, 셋톱 박스, 네트워크 개인용 컴퓨터(PC), 미니 컴퓨터 등을 포함할 수 있고, 이에 한정되는 것은 아니다. 실시예에 따라, 클라이언트 디바이스들(102) 중 적어도 하나는 터치 스크린, 관성 측정 유닛(IMU), 가속도계, 자이로스코프, 바이오메트릭 센서, 카메라, 마이크로폰, GPS(Global Positioning System) 디바이스, 및 이와 유사한 것 중 하나 이상을 포함할 수 있다.

일부 실시예들에서, 클라이언트 디바이스(102B)는 이미지 센서를 포함하는 모바일폰, 태블릿, 또는 웨어러블 디바이스(예를 들어, 스마트 안경, 스마트 바이저(smart visor) 또는 스마트 워치)와 같은 모바일 컴퓨팅 디바이스를 나타낸다. 도시된 바와 같이, 클라이언트 디바이스(102B)는 클라이언트 디바이스(102B)의 이미지 센서(예를 들어, 카메라), 및 관성 측정 유닛(IMU), 가속도계 또는 자이로스코프와 같은 다른 센서들을 포함할 수 있는 센서들(128)을 포함한다. 다양한 실시예들에서, 센서들(128)은 클라이언트 디바이스(102B)에서의 SLAM 시스템(126)의 동작을 용이하게 한다.

SLAM 시스템(126)은 클라이언트 디바이스(102B)에 대해 실시예의 SLAM 기술을 수행하고, 이는 클라이언트 디바이스(102B)가 그 물리적 환경을 매핑하는 동시에 그 물리적 환경 내에서 그 위치를 결정하는 것을 허용할 수 있다. 추가적으로, 일부 실시예들에서, SLAM 시스템(126)은 전통적인 SLAM 기술들이 의도된 바와 같이 클라이언트 디바이스(102B)에서 동작하는 것을 방지할 수 있는, 제한된 컴퓨팅 자원들(예를 들어, 처리 또는 메모리 자원들)을 갖는 클라이언트 디바이스(102B)에도 불구하고 클라이언트 디바이스(102B)에서의 SLAM 기술의 수행을 허용한다. SLAM 시스템(126)에 의해 수행되는 SLAM 기술은 클라이언트 디바이스(102B)의 증강 현실 시스템(124)에 대한 이미지 프레임 추적을 지원할 수 있다.

도시된 바와 같이, 클라이언트 디바이스(102B)는 클라이언트 디바이스(102B)에서 동작하는 증강 현실 애플리케이션을 나타낼 수 있는 증강 현실 시스템(124)을 포함한다. 증강 현실 시스템(124)은 클라이언트 디바이스(102B)의 디스플레이(예를 들어, AR 디스플레이) 상에 디스플레이하기 위한 증강 현실 이미지들을 생성하는 기능을 제공할 수 있다. 네트워크 아키텍처(100)는 클라이언트 디바이스(102B)에 의해 포함되는 증강 현실 시스템(124)에 의해 클라이언트 디바이스(102B) 상에 디스플레이될 가상 객체들에 대한 정보를 통신하거나, 증강 현실 시스템(124)에 의해 사용되는 모델들을 생성하는 데 사용되는 데이터(예를 들어, 거리 뷰 데이터)를 제공하는 데 사용될 수 있다. 증강 현실 시스템(124)에 대해 캡처된 이미지 프레임은 SLAM 시스템(126)을 이용하여 추적될 수 있고, 그 후 가상 객체는 클라이언트 디바이스(102B)의 AR 디스플레이의 일부로서 캡처된 이미지 프레임 내에 또는 그에 대해 배치될 수 있다.

클라이언트 디바이스들(102) 각각은 단기적 메시지 애플리케이션(ephemeral message application)과 같은 메시징 클라이언트 애플리케이션(104)을 포함하는 다수의 애플리케이션을 호스팅할 수 있다. 각각의 메시징 클라이언트 애플리케이션(104)은 네트워크(106)(예를 들어, 인터넷)를 통해 메시징 클라이언트 애플리케이션(104) 및 메시징 서버 시스템(108)의 다른 인스턴스들에 통신가능하게 결합될 수 있다. 따라서, 각각의 메시징 클라이언트 애플리케이션(104)은 네트워크(106)를 통해 다른 메시징 클라이언트 애플리케이션(104)과 그리고 메시징 서버 시스템(108)과 데이터를 통신 및 교환이 가능할 수 있다. 메시징 클라이언트 애플리케이션들(104) 사이에, 그리고 메시징 클라이언트 애플리케이션(104)과 메시징 서버 시스템(108) 사이에 교환되는 데이터는, 기능들(예를 들어, 기능들을 호출하는 커맨드들)뿐만 아니라, 페이로드 데이터(예를 들어, 텍스트, 오디오, 비디오 또는 다른 멀티미디어 데이터)를 포함할 수 있다.

메시징 서버 시스템(108)은 네트워크(106)를 통해 특정 메시징 클라이언트 애플리케이션(104)에 서버측 기능을 제공한다. 네트워크 아키텍처(100)의 특정 기능들이 메시징 클라이언트 애플리케이션(104)에 의해 또는 메시징 서버 시스템(108)에 의해 수행되는 것으로서 본 명세서에서 설명되지만, 메시징 클라이언트 애플리케이션(104) 또는 메시징 서버 시스템(108) 내의 특정 기능의 위치가 설계 선택이라는 것을 알 것이다. 예를 들어, 처음에 메시징 서버 시스템(108) 내에 특정 기술 및 기능을 배치하지만, 나중에 클라이언트 디바이스(102)가 충분한 처리 용량을 갖는 메시징 클라이언트 애플리케이션(104)으로 이 기술 및 기능을 이동시키는 것이 기술적으로 바람직할 수 있다.

메시징 서버 시스템(108)은 메시징 클라이언트 애플리케이션(104) 또는 증강 현실 시스템(124)에 제공되는 다양한 서비스들 및 동작들을 지원한다. 이러한 동작들은 메시징 클라이언트 애플리케이션(104) 또는 증강 현실 시스템(124)에 데이터를 전송하고, 그로부터 데이터를 수신하고, 그에 의해 생성되는 데이터를 처리하는 것을 포함한다. 이 데이터는, 예로서, 메시지 콘텐츠, 클라이언트 디바이스 정보, 지오로케이션(geolocation) 정보, 미디어 주석 및 오버레이들(media annotation and overlays), 메시지 콘텐츠 지속 조건들(message content persistence conditions), 소셜 네트워크 정보, 증강 현실(AR) 콘텐츠, 및 라이브 이벤트 정보를 포함할 수 있다. 네트워크 아키텍처(100) 내에서의 데이터 교환들은 메시징 클라이언트 애플리케이션(104) 또는 증강 현실 시스템(124)의 사용자 인터페이스들(UI들)을 통해 이용가능한 기능들을 통해 호출되고 제어된다.

이제 메시징 서버 시스템(108)을 구체적으로 참조하면, 애플리케이션 프로그램 인터페이스(Application Program Interface)(API) 서버(110)가 애플리케이션 서버(112)에 결합되어 있고, 애플리케이션 서버(112)에 프로그램적 인터페이스를 제공한다. 애플리케이션 서버(112)는 데이터베이스 서버(118)에 통신가능하게 결합되고, 이는 애플리케이션 서버(112)에 의해 처리되는 메시지들 또는 증강 현실 관련 데이터와 연관된 데이터가 저장되는 데이터베이스(120)에 대한 액세스를 용이하게 한다.

애플리케이션 프로그램 인터페이스(API) 서버(110)를 구체적으로 다루면, 이 서버(110)는 클라이언트 디바이스들(102)과 애플리케이션 서버(112) 사이에 메시지 데이터(예를 들어, 커맨드들 및 메시지 페이로드들)를 수신 및 전송한다. 구체적으로, API 서버(110)는 애플리케이션 서버(112)의 기능을 호출하기 위해 메시징 클라이언트 애플리케이션(104)에 의해 호출되거나 질의될 수 있는 인터페이스들(예를 들어, 루틴들 및 프로토콜들)의 세트를 제공한다. API 서버(110)는 애플리케이션 서버(112)에 의해 지원되는 다양한 기능들을 노출시키는데, 다양한 기능들은, 계정 등록; 로그인 기능; 메시지들을 애플리케이션 서버(112)를 통해 특정 메시징 클라이언트 애플리케이션(104)으로부터 다른 메시징 클라이언트 애플리케이션(104)으로 전송; 메시징 클라이언트 애플리케이션(104)으로부터 메시징 서버 애플리케이션(114)으로의 미디어 파일들(예를 들어, 이미지들 또는 비디오)의 전송, 및 다른 메시징 클라이언트 애플리케이션(104)에 의한 가능한 액세스를 위해, 미디어 데이터의 컬렉션(예를 들어, 스토리)의 설정; 클라이언트 디바이스(102)의 사용자의 친구들의 리스트의 검색; 이러한 컬렉션들의 검색; 메시지들 및 콘텐츠의 검색; 소셜 그래프에 대한 친구들의 추가 및 삭제; 소셜 그래프 내의 친구들의 위치; 애플리케이션 이벤트(예를 들어, 메시징 클라이언트 애플리케이션(104)에 관한 것) 열기를 포함한다.

애플리케이션 서버(112)는 메시징 서버 애플리케이션(114), 이미지 처리 시스템(116) 및 소셜 네트워크 시스템(122)을 포함하는 다수의 애플리케이션들 및 서브시스템들을 호스팅한다. 메시징 서버 애플리케이션(114)은 메시징 클라이언트 애플리케이션(104)의 다수의 인스턴스들로부터 수신된 메시지들에 포함된 콘텐츠(예를 들어, 텍스트 및 멀티미디어 콘텐츠)의 집성(aggregation) 및 다른 처리에 특히 관련된 다수의 메시지 처리 기술들 및 기능들을 구현한다. 다수의 소스들로부터의 텍스트 및 미디어 콘텐츠는 콘텐츠의 컬렉션들(예를 들어, 스토리들 또는 갤러리들이라고 함)로 집성될 수 있다. 이러한 컬렉션들은 그 다음에 메시징 서버 애플리케이션(114)에 의해 메시징 클라이언트 애플리케이션(104)에 이용 가능하게 된다. 데이터의 다른 프로세서 및 메모리 집약적 처리가 또한 이러한 처리를 위한 하드웨어 요건들을 고려하여 메시징 서버 애플리케이션(114)에 의해 서버측에서 수행될 수 있다.

애플리케이션 서버(112)는 또한 통상적으로 메시징 서버 애플리케이션(114)에서 메시지의 페이로드 내에서 수신된 이미지들 또는 비디오에 관하여 다양한 이미지 처리 동작들을 수행하는 것에 전용인 이미지 처리 시스템(116)을 포함한다.

소셜 네트워크 시스템(122)은 다양한 소셜 네트워킹 기능 서비스를 지원하고, 이들 기능 및 서비스를 메시징 서버 애플리케이션(114)에 이용가능하게 한다. 이를 위해, 소셜 네트워크 시스템(122)은 데이터베이스(120) 내의 엔티티 그래프를 유지하고 액세스한다. 소셜 네트워크 시스템(122)에 의해 지원되는 기능들 및 서비스들의 예들은, 특정 사용자가 관계를 가지거나 "팔로우하는" 메시징 시스템(108)의 다른 사용자들의 식별, 및 또한 특정 사용자의 다른 엔티티들 및 관심사들의 식별을 포함한다.

애플리케이션 서버(112)는 데이터베이스 서버(118)에 통신가능하게 결합되고, 이는 애플리케이션 서버(112)에 의해 처리되는 메시지들 또는 증강 현실 콘텐츠와 연관된 데이터가 저장되는 데이터베이스(120)에 대한 액세스를 용이하게 한다.

도 2는 일부 실시예에 따른, SLAM 시스템(240)을 포함하는 예시적인 컴퓨팅 디바이스(200)를 예시하는 블록도이다. 컴퓨팅 디바이스(200)는 인간 개인이 물리적 환경 내에서 쉽게 이동할 수 있는, 모바일폰, 태블릿, 랩톱, 웨어러블 디바이스 등과 같은 모바일 컴퓨팅 디바이스를 나타낼 수 있다. 도시된 바와 같이, 컴퓨팅 디바이스(200)는 프로세서(210), 이미지 센서(220), 관성 측정 유닛(IMU)(230), 및 SLAM 시스템(240)을 포함한다. SLAM 시스템(240)은 이미지 프레임 캡처 모듈(241), IMU 데이터 캡처 모듈(242), 키 이미지 프레임 모듈(243), 전체 SLAM 사이클 모듈(244), 및 부분 SLAM 사이클 모듈(245)을 포함한다. 실시예에 따라, SLAM 시스템(240)은 SLAM 초기화 모듈(246)을 포함하거나 포함하지 않을 수 있다.

SLAM 시스템(240)의 기능 컴포넌트들(예를 들어, 모듈들) 중 임의의 하나 이상은 하드웨어(예를 들어, 컴퓨팅 디바이스(200)의 프로세서(210)) 또는 하드웨어와 소프트웨어의 조합을 이용하여 구현될 수 있다. 예를 들어, 본 명세서에서 설명되는 컴포넌트들 중 임의의 하나는 그 컴포넌트에 대해 본 명세서에서 설명되는 동작들을 수행하도록 프로세서(210)를 구성할 수 있다. 더욱이, 이 컴포넌트들 중 임의의 2개 이상의 컴포넌트가 단일 컴포넌트로 결합될 수 있고, 단일 컴포넌트에 대해 본 명세서에서 설명되는 기능들이 다수의 컴포넌트들 간에 세분될 수 있다. 또한, 다양한 예시적인 실시예들에 따르면, 도 2에 예시된 기능 컴포넌트들 중 임의의 것은 단일 머신, 데이터베이스, 또는 디바이스 내에서 함께 또는 개별적으로 구현될 수 있거나, 또는 다수의 머신들, 데이터베이스들, 또는 디바이스들에 걸쳐 분산될 수 있다.

프로세서(210)는 중앙 처리 유닛(CPU)을 포함할 수 있고, 이미지 센서(220)는 컴퓨팅 디바이스(200)에 내장되는 카메라 또는 컴퓨팅 디바이스(200)에 외부적으로 결합되는 카메라를 포함할 수 있고, IMU(230)는 컴퓨팅 디바이스(200)가 아닌 경우에도 적어도 이미지 센서(220)에 대해 자유도(예를 들어, 6DOF)를 측정할 수 있는 센서를 포함할 수 있다. 도시되지는 않았지만, 컴퓨팅 디바이스(200)는 가속도계 또는 자이로스코프와 같은 SLAM 시스템(240)의 동작을 용이하게 하는 다른 센서들을 포함할 수 있다.

이미지 프레임 캡처 모듈(241)은 이미지 센서(220)에 의해 컴퓨팅 디바이스(200)의 물리적 환경의 새로운 이미지 프레임들의 연속적 캡처를 호출, 야기, 또는 수행할 수 있다. 연속적 캡처는 초당 25 또는 30 프레임과 같은 미리 결정된 샘플링 레이트에 따라 수행될 수 있다. 이미지 프레임 캡처 모듈(241)은 이미지 센서(220)에 의해 연속적으로 캡처된 새로운 이미지 프레임들을 캡처된 이미지 프레임들의 세트에 추가할 수 있으며, 이는 SLAM 시스템(240)에 의해 더 처리될 수 있다.

IMU 데이터 캡처 모듈(242)은 이미지 프레임 캡처 모듈(241)에 의해 캡처된 이미지 프레임들에 대응하여 IMU(230)로부터의 IMU 데이터의 연속적 캡처를 호출, 야기, 또는 수행할 수 있다. 예를 들어, IMU 데이터 캡처 모듈(242)은 캡처된 각각의 이미지 프레임에 대한 IMU 데이터를 캡처할 수 있다. 주어진 캡처된 이미지 프레임에 대해, 캡처된 IMU 데이터는 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 이미지 센서의 자유도(DOF) 파라미터들을 포함할 수 있다. DOF 파라미터들은, 예를 들어, 이미지 센서(220)에 대해 측정된 4 자유도(4DOF) 또는 6 자유도(6DOF)를 포함할 수 있다. IMU(230), 이미지 센서(220), 및 컴퓨팅 디바이스(200)가 단일 유닛으로서 물리적으로 통합되는 경우, IMU 데이터는 이미지 센서(220) 및 컴퓨팅 디바이스(200)의 DOF 파라미터들을 반영할 수 있다.

(예를 들어, 이미지 프레임 캡처 모듈(241)에 의해) 캡처된 이미지 프레임들의 세트에 추가된 각각의 특정 새로운 이미지 프레임에 대해, 키 이미지 프레임 모듈(243)은 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는지를 결정할 수 있다. 키 이미지 프레임 모듈(243)은 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는 것에 응답하여 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별할 수 있다. 이러한 방식으로, 키 이미지 프레임 모듈(243)은 키 이미지 프레임 조건들의 세트에 따라 새로운 키 이미지 프레임들을 생성할 수 있다. 본 명세서에 설명된 바와 같이, 키 이미지 프레임 조건들의 세트는 새로운 키 이미지 프레임들이 전체 SLAM 프로세스 사이클에 의한 처리를 위해 충분히 고유하다는 것을 보장할 수 있다. 예시적인 키 이미지 프레임 조건은 새로운 이미지 프레임이 특정 이미지 품질을 만족하는지 또는 초과하는지, 전체 SLAM 프로세스 사이클이 마지막으로 수행된 이후에 최소 시간이 경과되었는지, 또는 이전 이미지 프레임과 새로운 이미지 프레임 사이의 변환이 최소 변환 임계치를 만족하는지 또는 초과하는지에 관련될 수 있다.

전체 SLAM 사이클 모듈(244)은 키 이미지 프레임 모듈(243)에 의해 식별된 각각의 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행할 수 있다. 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임과 연관하여 컴퓨팅 디바이스의 이미지 센서의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임에서 매칭되는 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 것을 포함할 수 있다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 6과 관련하여 설명된다.

부분 SLAM 사이클 모듈(245)은 키 이미지 프레임 모듈(243)에 의해 식별되지 않은 각각의 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행할 수 있다. 일부 실시예들에서, 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 로컬화 부분만을 수행한다. 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 이미지 프레임과 연관하여 컴퓨팅 디바이스(200)의 이미지 센서(220)의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 이미지 센서(220)의 6DOF에 기초하여 특정 새로운 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 것을 포함할 수 있다. 대안적으로, 일부 실시예들에서, 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 매핑 부분만을 수행한다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 7과 관련하여 설명된다.

SLAM 초기화 모듈(246)은, IMU 데이터 캡처 모듈(242)로부터의 캡처된 IMU 데이터에 기초하여, 물리적 환경에서의 제1 포즈(예를 들어, 이미지 센서(220)의 배향 또는 위치)로부터 물리적 환경에서의 제2 포즈로의 이미지 센서(220)의 움직임을 검출할 수 있다. SLAM 초기화 모듈(246)은 움직임에 기초하여 제1 키 이미지 프레임 및 제2 키 이미지 프레임을 식별할 수 있다. 특히, 제1 및 제2 키 이미지 프레임들은 제1 키 이미지 프레임이 움직임의 시작 임펄스에 대응하고, 제2 키 이미지가 움직임의 종료 임펄스(finish impulse)에 대응하도록 식별될 수 있다. 예를 들어, 인간 개인이 컴퓨팅 디바이스(200)를 홀드하고 있는 경우, 움직임의 시작 임펄스는 인간 개인에 의해 수행되는 사이드스텝의 시작일 수 있고, 움직임의 종료 임펄스는 사이드스텝의 종료일 수 있다. 시작 또는 종료 임펄스는 컴퓨팅 디바이스(200)의 쇼크 기능을 이용하여 검출될 수 있다.

도 3 내지 도 7은 다양한 실시예들에 따른, SLAM 처리를 위한 예시적인 방법들을 예시하는 흐름도들이다. 본 명세서에서 설명되는 예시적인 방법들은 일부 실시예들에 따라 컴퓨팅 디바이스(예를 들어, 컴퓨팅 디바이스(200))와 같은 디바이스에 의해 수행될 수 있다는 것을 이해할 것이다. 추가적으로, 본 명세서에서 설명되는 예시적인 방법들은 컴퓨터 판독가능 매체 상에 저장된 실행가능 명령어들의 형태로 또는 전자 회로의 형태로 구현될 수 있다. 예를 들어, 도 3의 방법(300)의 하나 이상의 동작은, 컴퓨팅 디바이스의 프로세서에 의해 실행될 때, 컴퓨팅 디바이스로 하여금 방법(300)을 수행하게 하는 실행가능 명령어들에 의해 표현될 수 있다. 실시예에 따라, 본 명세서에서 설명되는 예시적인 방법의 동작은 상이한 방식들로 반복되거나 도시되지 않은 개재 동작들을 수반할 수 있다. 예시적인 방법들의 동작들이 특정 순서로 도시되고 설명될 수 있지만, 동작들이 수행되는 순서는 특정 동작들을 병렬로 수행하는 것을 포함하여, 실시예들 사이에서 변경될 수 있다.

도 3은 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(300)을 예시하는 흐름도이다. 특히, 방법(300)은 실시예가 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들을 수행할 수 있는 방법을 예시한다. 도시된 바와 같이, 방법(300)은 컴퓨팅 디바이스의 이미지 센서에 의해 컴퓨팅 디바이스의 물리적 환경의 새로운 이미지 프레임들의 연속적 캡처를 호출, 야기, 또는 수행하는 동작(302)으로 시작한다. 동작(302)은 새로운 이미지 프레임들을 캡처된 이미지 프레임들의 세트에 추가하고, 이는 방법(300)에 의해 추가로 처리될 수 있다. 방법(300)은, 동작(302)에 의해 캡처된 이미지 프레임들에 대응하여, 컴퓨팅 디바이스의 관성 측정 유닛(IMU)으로부터의 IMU 데이터의 연속적 캡처를 호출, 야기, 또는 수행하는 동작(304)으로 계속된다. 본 명세서에 설명된 바와 같이, 특정 이미지 프레임의 IMU 데이터는, 이미지 프레임이 동작(302)에 의해 캡처된 시간에, IMU에 의해 측정되는 바와 같은, 이미지 센서의 자유도(DOF)를 포함할 수 있다.

방법(300)은, 동작(302)에 의해 캡처된 이미지 프레임들의 세트에 캡처되고 추가된 각각의 특정 새로운 이미지 프레임에 대해 동작들(320 내지 326)을 수행하는 동작(306)으로 계속된다. 동작(306)은, 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는지를 결정하는 동작(320)으로 시작된다. 동작(306)은, 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족된다고 결정하는 동작(320)에 응답하여, 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별하는 동작(322)으로 계속된다.

동작(306)은 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 동작(324)으로 계속된다. 미래의 처리 목적을 위해, 일부 실시예들은 키 이미지 프레임들로서 식별된 이미지 프레임들을 추적한다. 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임과 연관하여 컴퓨팅 디바이스의 이미지 센서의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임에서 매칭되는 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 것을 포함할 수 있다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 6과 관련하여 설명된다.

동작(306)은, 키 이미지 프레임 조건들의 세트가 특정 새로운 이미지 프레임(예를 들어, 비-키 새로운 이미지 프레임들)에 대해 충족되지 않는다고 결정하는 동작(320)에 응답하여 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 동작(326)으로 계속된다. 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 이미지 프레임과 연관하여 컴퓨팅 디바이스의 이미지 센서의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 이미지 센서의 6DOF에 기초하여 특정 새로운 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 것을 포함할 수 있다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 7과 관련하여 설명된다.

도 4는 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(400)을 예시하는 흐름도이다. 특히, 방법(400)은 실시예가 SLAM 프로세스를 초기화하고, 전체 SLAM 프로세스 사이클들을 수행하고, 부분 SLAM 프로세스 사이클들을 수행하는 방법을 예시한다. 도시된 바와 같이, 방법(400)은, 일부 실시예들에 따르면, 도 3과 관련하여 전술한 방법(300)의 동작들(302 및 304)과 각각 유사한 동작들(402 및 404)로 시작한다.

방법(400)은, 캡처된 IMU 데이터에 기초하여, 물리적 환경에서의 제1 포즈(예를 들어, 이미지 센서의 배향 또는 위치)로부터 물리적 환경에서의 제2 포즈로의 이미지 센서의 움직임을 검출하는 동작(406)으로 계속된다. 방법(400)은, 동작(406)에 의해 검출된 움직임에 기초하여 제1 키 이미지 프레임 및 제2 키 이미지 프레임을 식별하는 동작(408)으로 계속된다. 일부 실시예들에서, 제1 키 이미지 프레임은 움직임의 시작 임펄스에 대응하고, 제2 키 이미지 프레임은 움직임의 종료 임펄스에 대응한다. 동작들(406 및 408)에 의해, 일부 실시예들은 동작(410)에 의한 전체 및 부분 SLAM 프로세스 사이클들의 수행을 위한 방법(400)을 초기화할 수 있다. 본 명세서에서 설명되는 바와 같이, 움직임은 방법(400)을 수행하고 이미지 센서를 포함하는 컴퓨팅 디바이스를 홀드하면서 사이드스텝을 수행하는 인간 개인에 의해 야기될 수 있다.

방법(400)은, 동작(402)에 의해 캡처된 이미지 프레임들의 세트에 캡처되고 추가된 각각의 특정 새로운 이미지 프레임에 대해 동작들(420 내지 426)을 수행하는 동작(410)으로 계속된다. 일부 실시예들에 따르면, 동작들(420 내지 426)은 도 3과 관련하여 전술한 방법(300)의 동작들(320 내지 326)과 각각 유사하다.

도 5는 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(500)을 예시하는 흐름도이다. 특히, 방법(500)은 실시예가 SLAM 프로세스를 초기화할 수 있는 방법을 예시한다. 도시된 바와 같이, 방법(500)은, 일부 실시예들에 따르면, 도 3과 관련하여 전술한 방법(300)의 동작들(302 및 304)과 각각 유사한 동작들(502 및 504)로 시작한다.

방법(500)은 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 동작(506)으로 계속된다. 식별된 제1 키 이미지 프레임은 특정 이미지 품질(예를 들어, 공정 품질)을 포함할 수 있고, IMU(예를 들어, IMU(230))가 이미지 센서가 안정적이라는 것을 나타낼 때 이미지 센서(예를 들어, 이미지 센서(220))에 의해 캡처되는 것일 수 있다. 따라서, 동작(506)은 이미지 센서가 안정적인 동안 이미지 프레임이 캡처되고 캡처된 이미지 프레임이 특정 이미지 품질을 만족할 때까지 제1 키 이미지 프레임을 식별하지 않을 수 있다.

방법(500)은 동작(504)에 의해 캡처된 IMU 데이터로부터 제1 키 이미지 프레임과 연관된 제1 IMU 데이터를 식별하는 동작(508)으로 계속된다. 일부 실시예들에서, 제1 IMU 데이터는 4DOF 파라미터들(예를 들어, x, y, z, 및 파이)을 포함한다. 제1 IMU 데이터는 제1 키 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 캡처된 IMU 데이터를 나타낼 수 있다.

방법(500)은, IMU에 의해, 물리적 환경에서의 제1 포즈(예를 들어, 배향 또는 위치)로부터 물리적 환경에서의 제2 포즈로의 이미지 센서의 움직임을 검출하는 동작(510)으로 계속된다. 본 명세서에서 설명되는 바와 같이, 움직임은 방법(500)을 수행하고 이미지 센서 및 IMU를 포함하는 컴퓨팅 디바이스를 홀드하면서 사이드스텝을 수행하는 인간 개인에 의해 야기될 수 있다.

방법(500)은, 동작(510)에 의해 움직임을 검출하는 것에 응답하여 동작들(520 내지 528)을 수행하는 동작(512)으로 계속된다. 동작(512)은 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 동작(520)으로 시작한다. 제1 키 이미지 프레임은 제1 키 이미지 프레임이 동작(510)에 의해 검출된 움직임의 시작에 대응하도록 동작(506)에 의해 식별될 수 있지만, 제2 키 이미지 프레임은 제2 키 이미지 프레임이 동작(510)에 의해 검출된 움직임의 종료에 대응하도록 동작(520)에 의해 식별될 수 있다.

동작(512)은, 동작(504)에 의해 캡처된 IMU 데이터로부터, 제2 키 이미지 프레임과 연관된 제2 IMU 데이터를 식별하는 동작(522)으로 계속된다. 일부 실시예들에서, 제2 IMU 데이터는 4DOF 파라미터들(예를 들어, x, y, z, 및 파이)을 포함한다. 제2 IMU 데이터는 제2 키 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 캡처된 IMU 데이터를 나타낼 수 있다.

동작(512)은, 적어도 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭(feature matching)을 수행하여 물리적 환경에서의 매칭 3D 피처들의 세트를 식별하는 동작(524)으로 계속된다. 일부 실시예들에서, 동작(524)은 이미지 프레임들에 걸쳐 피처들을 매칭함으로써 이미지 프레임들의 세트로부터 3D 피처들을 추출하는 KAZE 또는 A-KAZE에 기초한 피처 매칭기(feature matcher)를 사용한다. 동작(512)은 에러 기준들의 세트에 기초하여, 동작(524)에 의해 생성된 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작(526)으로 계속된다. 예를 들어, 에러 기준들의 세트는 에피폴라 축(epipolar axis), 투영된 에러, 또는 공간 에러에 관한 에러 기준을 포함할 수 있다. 피처 에러들이 발견되는 경우, 방법(500)은 동작(524)으로 되돌아가서 피처 매칭을 다시 수행할 수 있다. 동작(512)은 제2 키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 세트 및 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 동작(528)으로 계속된다. 이 결정을 용이하게 하기 위해, 동작(512)은 동작(506)에 의해 식별된 제1 IMU 데이터, 동작(522)에 의해 식별된 제2 IMU 데이터, 및 동작(526)에 의해 추출된 매칭 3D 피처들의 필터링된 세트에 기초하여 제2 키 이미지 프레임에 대해 (전체) SLAM 프로세스를 수행한다.

도 6은 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(600)을 예시하는 흐름도이다. 특히, 방법(600)은 실시예가 전체 SLAM 프로세스 사이클을 수행할 수 있는 방법을 예시한다. 일부 실시예들에서, 방법(600)은 SLAM 초기화 프로세스(예를 들어, 방법(500))에 의해 적어도 2개의 키 이미지 프레임이 생성될 때까지 수행되지 않는다. 도시된 바와 같이, 방법(600)은 캡처된 IMU 데이터로부터, 새로운 키 이미지 프레임과 연관되는 특정 IMU 데이터를 식별하는 동작(602)으로 시작한다. IMU 데이터는 새로운 키 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 캡처된 IMU 데이터를 나타낼 수 있다.

방법(600)은 새로운 키 이미지 프레임 및 적어도 하나의 이전 이미지 프레임(예를 들어, 마지막 2개의 캡처된 이미지 프레임)에 대해 피처 매칭을 수행하여 물리적 환경에서의 매칭 3D 피처들의 세트를 식별하는 동작(604)으로 계속된다. 일부 실시예들에서, 동작(604)은 이미지 프레임들에 걸쳐 피처들을 매칭함으로써 이미지 프레임들의 세트로부터 3D 피처들을 추출하는 KAZE 또는 A-KAZE에 기초한 피처 매칭기를 사용한다. 방법(600)은 동작(604)에 의해 추출된 매칭 3D 피처들의 세트 및 동작(602)에 의해 식별된 특정 IMU 데이터에 기초하여 새로운 키 이미지 프레임에 대해 (전체) SLAM 프로세스를 수행함으로써 새로운 키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 제1 세트를 결정하는 동작(606)으로 계속된다.

방법(600)은 동작(606)에 의해 결정된 6DOF 파라미터들의 제1 세트 및 에러 기준들의 세트에 기초하여, 동작(604)에 의해 추출된 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작(608)으로 계속된다. 본 명세서에서 설명되는 바와 같이, 에러 기준들의 세트는 에피폴라 축, 투영된 에러, 또는 공간 에러에 관한 에러 기준을 포함할 수 있다. 예를 들어, 에러 기준은 최악의 투영 에러들의 최상위 3%를 나타내는 피처들을 필터링하는 것을 특정할 수 있다.

방법(600)은 동작(608)에 의해 생성된 매칭 3D 피처들의 제2 필터링된 세트 및 동작(602)에 의해 식별된 특정 IMU 데이터에 기초하여 모든 키 이미지 프레임들에 대해 (전체) SLAM 프로세스를 수행함으로써 새로운 키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 제2 세트 및 물리적 환경에서의 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 동작(610)으로 계속된다.

도 7은 일부 실시예에 따른, SLAM 처리를 위한 예시적인 방법(700)을 예시하는 흐름도이다. 특히, 방법(700)은 실시예가 부분 SLAM 프로세스 사이클을 수행할 수 있는 방법을 예시한다. 도시된 바와 같이, 방법(700)은 전체 SLAM 프로세스 사이클(예를 들어, 방법(600))의 마지막 수행에 의해 제공된 새로운 3D 피처들의 3D 포지션들의 세트 및 전체 SLAM 프로세스 사이클에 의해(예를 들어, 방법(600)에 의해) 가장 최근에 처리된 새로운 이미지 프레임에 기초하여, 비-키 이미지 프레임에 대해 피처 추적(feature tracking)을 수행하는 동작(702)으로 시작한다. 일부 실시예들에서, 동작(702)은 마지막으로 수행된 전체 SLAM 프로세스 사이클에 의해 처리되는 새로운 키 이미지 프레임으로부터 2D 피처들을 추출하는 KLT(Kanade-Lucas-Tomasi) 방법에 기초한 2D 추적기를 사용한다. 방법(700)은 동작(702)으로부터의 2D 피처들의 세트에 기초하여 SLAM 프로세스의 로컬화 부분만을 수행함으로써 비-키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 세트를 결정하는 동작(704)으로 계속된다. 방법(700)은, 동작(704)에 의해 결정된 6DOF 파라미터들의 세트 및 에러 기준들의 세트에 기초하여, 동작(702)에 의해 식별된 2D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 2D 피처들의 필터링된 세트를 생성하는 동작(706)으로 계속된다. 에러 기준들의 세트는, 예를 들어, 에피폴라 축, 투영된 에러, 또는 공간 에러에 관한 에러 기준을 포함할 수 있다. 방법(700)은, 동작(706)에 의해 생성된 2D 피처들의 필터링된 세트 및 동작(704)에 의해 결정된 6DOF 파라미터들의 세트에 기초하여 비-키 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 동작(708)으로 계속된다. 일부 실시예들에서, 추적 포인트들의 세트는 비-키 이미지 프레임에 대한 2D 가상 추적을 허용하며, 이는 증강 현실과 같은 애플리케이션들에서 유용할 수 있다.

소프트웨어 아키텍처

도 8은 실시예를 구현하기 위해 본 명세서에서 설명되는 다양한 하드웨어 아키텍처들과 관련하여 사용될 수 있는 예시적인 소프트웨어 아키텍처(806)를 예시하는 블록도이다. 도 8은 소프트웨어 아키텍처의 비제한적인 예이며, 본 명세서에 설명된 기능을 용이하게 하기 위해 많은 다른 아키텍처가 구현될 수 있다는 것이 인식될 것이다. 소프트웨어 아키텍처(806)는, 특히, 프로세서들(904), 메모리(914), 및 I/O 컴포넌트들(918)을 포함하는 도 9의 머신(900)과 같은 하드웨어 상에서 실행될 수 있다. 대표적인 하드웨어 계층(852)이 예시되고, 예를 들어, 도 9의 머신(900)을 나타낼 수 있다. 대표적인 하드웨어 계층(852)은 연관된 실행가능 명령어들(804)을 갖는 프로세서 유닛(854)을 포함한다. 실행가능 명령어들(804)은 본 명세서에서 설명되는 방법들, 컴포넌트들 등의 구현을 포함하는 소프트웨어 아키텍처(806)의 실행가능 명령어들을 나타낸다. 하드웨어 계층(852)은 실행가능 명령어들(804)을 또한 갖는 메모리 및/또는 스토리지 모듈들인 메모리/스토리지(856)를 또한 포함한다. 하드웨어 계층(852)은 다른 하드웨어(858)를 또한 포함할 수 있다.

도 8의 예시적인 아키텍처에서, 소프트웨어 아키텍처(806)는, 각각의 계층이 특정 기능을 제공하는 계층들의 스택으로서 개념화될 수 있다. 예를 들어, 소프트웨어 아키텍처(806)는 오퍼레이팅 시스템(802), 라이브러리들(820), 프레임워크들/미들웨어(818), 애플리케이션들(816), 및 프레젠테이션(presentation) 계층(814)과 같은 계층들을 포함할 수 있다. 동작적으로, 계층들 내의 애플리케이션들(816) 및/또는 다른 컴포넌트들은 소프트웨어 스택을 통해 애플리케이션 프로그래밍 인터페이스(application programming interface)(API) 호출들(808)을 불러오고 메시지들(812)로서 응답을 수신할 수 있다. 예시된 계층들은 본질적으로 대표적인 것이며, 모든 소프트웨어 아키텍처가 모든 계층을 갖는 것은 아니다. 예를 들어, 일부 모바일 또는 특수 목적 오퍼레이팅 시스템들은 프레임워크들/미들웨어(818)를 제공하지 않을 수 있고, 다른 것들은 이러한 계층을 제공할 수 있다. 다른 소프트웨어 아키텍처들은 부가의 또는 상이한 계층들을 포함할 수 있다.

오퍼레이팅 시스템(802)은 하드웨어 자원들을 관리하고 공통 서비스들을 제공할 수 있다. 오퍼레이팅 시스템(802)은, 예를 들어, 커널(822), 서비스들(824) 및 드라이버들(826)을 포함할 수 있다. 커널(822)은 하드웨어와 다른 소프트웨어 계층들 사이에서 추상화 계층(abstraction layer)으로서 작용할 수 있다. 예를 들어, 커널(822)은 메모리 관리, 프로세서 관리(예를 들어, 스케줄링), 컴포넌트 관리, 네트워킹, 보안 설정들 등을 담당할 수 있다. 서비스들(824)은 다른 소프트웨어 계층들을 위한 다른 공통 서비스들을 제공할 수 있다. 드라이버들(826)은 밑에 있는 하드웨어를 제어하거나 그와 인터페이싱하는 것을 담당한다. 예를 들어, 드라이버들(826)은 하드웨어 구성에 따라 디스플레이 드라이버들, 카메라 드라이버들, 블루투스® 드라이버들, 플래시 메모리 드라이버들, 직렬 통신 드라이버들(예를 들어, USB(Universal Serial Bus) 드라이버들), Wi-Fi® 드라이버들, 오디오 드라이버들, 전력 관리 드라이버들 등을 포함한다.

라이브러리들(820)은 애플리케이션들(816) 및/또는 다른 컴포넌트들 및/또는 계층들에 의해 사용되는 공통 인프라스트럭처를 제공한다. 라이브러리들(820)은 다른 소프트웨어 컴포넌트들이 밑에 있는 오퍼레이팅 시스템(underlying operating system)(802) 기능(예를 들어, 커널(822), 서비스들(824) 및/또는 드라이버들(826))과 직접 인터페이싱하는 것보다 더 용이한 방식으로 작업들을 수행할 수 있게 하는 기능을 제공한다. 라이브러리들(820)은 메모리 할당 기능들, 문자열 조작 기능들, 수학 기능들 등과 같은 기능들을 제공할 수 있는 시스템 라이브러리들(844)(예를 들어, C 표준 라이브러리)을 포함할 수 있다. 게다가, 라이브러리들(820)은 미디어 라이브러리들(예를 들어, MPEG4, H.264, MP3, AAC, AMR, JPG, PNG와 같은 다양한 미디어 포맷의 제시 및 조작을 지원하는 라이브러리들), 그래픽 라이브러리들(예를 들어, 디스플레이 상의 그래픽 콘텐츠에서 2D 및 3D를 렌더링하는 데 이용될 수 있는 OpenGL 프레임워크), 데이터베이스 라이브러리들(예를 들어, 다양한 관계 데이터베이스 기능들을 제공할 수 있는 SQLite), 웹 라이브러리들(예를 들어, 웹 브라우징 기능을 제공할 수 있는 WebKit) 등과 같은 API 라이브러리들(846)을 포함할 수 있다. 라이브러리들(820)은 많은 다른 API를 애플리케이션들(816) 및 다른 소프트웨어 컴포넌트들/모듈들에 제공하는 다양한 다른 라이브러리들(848)을 또한 포함할 수 있다.

프레임워크들/미들웨어(818)(때때로 미들웨어로도 지칭됨)는 애플리케이션들(816) 및/또는 다른 소프트웨어 컴포넌트들/모듈들에 의해 이용될 수 있는 더 높은 레벨의 공통 인프라스트럭처를 제공한다. 예를 들어, 프레임워크들/미들웨어(818)는 다양한 그래픽 사용자 인터페이스(graphic user interface)(GUI) 기능들, 고레벨 자원 관리, 고레벨 위치 서비스들 등을 제공할 수 있다. 프레임워크들/미들웨어(818)는 애플리케이션들(816) 및/또는 다른 소프트웨어 컴포넌트들/모듈들에 의해 이용될 수 있는 광범위한 다른 API들을 제공할 수 있으며, 그 중 일부는 특정 오퍼레이팅 시스템(802) 또는 플랫폼에 특정적일 수 있다.

애플리케이션들(816)은 내장 애플리케이션들(built-in applications)(838) 및/또는 제3자 애플리케이션들(third-party applications)(840)을 포함한다. 대표적인 내장 애플리케이션들(838)의 예들은, 연락처 애플리케이션, 브라우저 애플리케이션, 북 리더 애플리케이션, 위치 애플리케이션, 미디어 애플리케이션, 메시징 애플리케이션, 및/또는 게임 애플리케이션을 포함할 수 있고, 이것으로 제한되지는 않는다. 제3자 애플리케이션들(840)은 특정 플랫폼의 벤더 이외의 엔티티에 의해 ANDROID™ 또는 IOS™ 소프트웨어 개발 키트(software development kit)(SDK)를 사용하여 개발되는 애플리케이션을 포함할 수 있으며, IOS™, ANDROID™, WINDOWS® Phone 또는 다른 모바일 오퍼레이팅 시스템들과 같은 모바일 오퍼레이팅 시스템에서 실행되는 모바일 소프트웨어일 수 있다. 제3자 애플리케이션들(840)은 본 명세서에서 설명된 기능을 용이하게 하기 위해 모바일 오퍼레이팅 시스템(예를 들어, 오퍼레이팅 시스템(802))에 의해 제공되는 API 호출들(808)을 불러올 수 있다.

애플리케이션들(816)은 내장 오퍼레이팅 시스템 기능들(예를 들어, 커널(822), 서비스들(824) 및/또는 드라이버들(826)), 라이브러리들(820) 및 프레임워크들/미들웨어(818)를 이용하여 시스템의 사용자들과 상호작용하는 사용자 인터페이스들을 생성할 수 있다. 대안적으로, 또는 추가적으로, 일부 시스템들에서, 사용자와의 상호작용들은 프레젠테이션 계층(814)과 같은 프레젠테이션 계층을 통해 발생할 수 있다. 이 시스템들에서, 애플리케이션/컴포넌트 "로직"은 사용자와 상호작용하는 애플리케이션/컴포넌트의 양태들과 분리될 수 있다.

도 9는, 머신 판독가능 매체(예를 들어, 머신 판독가능 저장 매체)로부터 명령어들(804)을 판독하여 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행할 수 있는, 일부 실시예에 따른, 머신(900)의 컴포넌트들을 예시하는 블록도이다. 구체적으로는, 도 9는, 그 안에서 머신(900)으로 하여금 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행하게 하기 위한 명령어들(910)(예를 들어, 소프트웨어, 프로그램, 애플리케이션, 애플릿, 앱, 또는 다른 실행가능 코드)이 실행될 수 있는, 컴퓨터 시스템의 예시적인 형태의 머신(900)의 도식적 표현을 도시한다. 이와 같이, 명령어들(910)은 본 명세서에 설명된 모듈들 또는 컴포넌트들을 구현하는 데 사용될 수 있다. 명령어들(910)은, 일반적인 비프로그래밍된 머신(900)을, 설명되고 예시된 기능들을 설명된 방식으로 수행하도록 프로그래밍된 특정 머신(900)으로 변환한다. 대안적인 실시예들에서, 머신(900)은 독립형 디바이스로서 동작하거나 또는 다른 머신들에 결합(예를 들어, 네트워킹)될 수 있다. 네트워킹된 배치에서, 머신(900)은 서버-클라이언트 네트워크 환경에서 서버 머신 또는 클라이언트 머신으로서 동작하거나, 피어-투-피어(또는 분산형) 네트워크 환경에서 피어 머신으로서 동작할 수 있다. 머신(900)은, 서버 컴퓨터, 클라이언트 컴퓨터, 개인용 컴퓨터(PC), 태블릿 컴퓨터, 랩톱 컴퓨터, 넷북, 셋톱 박스(STB), 개인 휴대 정보 단말기(PDA), 엔터테인먼트 미디어 시스템, 셀룰러 전화기, 스마트폰, 모바일 컴퓨팅 디바이스, 웨어러블 디바이스(예를 들어, 스마트 워치), 스마트 홈 디바이스(예를 들어, 스마트 어플라이언스), 다른 스마트 디바이스들, 웹 어플라이언스, 네트워크 라우터, 네트워크 스위치, 네트워크 브리지, 또는 머신(900)에 의해 취해질 액션들을 특정하는 명령어들(910)을 순차적으로 또는 다른 방식으로 실행할 수 있는 임의의 머신을 포함할 수 있고, 이들로 제한되지 않는다. 또한, 오직 단일 머신(900)이 예시되어 있지만, 용어 "머신"은 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행하기 위해 명령어들(910)을 개별적으로 또는 공동으로 실행하는 머신들의 컬렉션을 포함하는 것으로 또한 간주되어야 한다.

머신(900)은, 예컨대 버스(902)를 통해 서로 통신하도록 구성될 수 있는, 프로세서들(904), 메모리/스토리지(906), 및 I/O 컴포넌트들(918)을 포함할 수 있다. 메모리/스토리지(906)는 메인 메모리, 또는 다른 메모리 스토리지와 같은 메모리(914), 및 스토리지 유닛(916)을 포함할 수 있으며, 둘 다 예컨대 버스(902)를 통해 프로세서들(904)에 액세스 가능하다. 스토리지 유닛(916) 및 메모리(914)는 본 명세서에 설명된 방법론들 또는 기능들 중 임의의 하나 이상을 구현하는 명령어들(910)을 저장한다. 명령어들(910)은 또한 머신(900)에 의한 실행 동안, 완전히 또는 부분적으로, 메모리(914) 내에, 스토리지 유닛(916) 내에, 프로세서들(904) 중 적어도 하나 내에(예를 들어, 프로세서의 캐시 메모리 내에), 또는 이들의 임의의 적합한 조합으로 존재할 수 있다. 따라서, 메모리(914), 스토리지 유닛(916), 및 프로세서들(904)의 메모리는 머신 판독가능 매체의 예들이다.

I/O 컴포넌트들(918)은 입력을 수신하고, 출력을 제공하고, 출력을 생성하고, 정보를 전송하고, 정보를 교환하고, 측정들을 캡처하는 것 등을 위해 매우 다양한 컴포넌트를 포함할 수 있다. 특정 머신(900)에 포함되는 특정 I/O 컴포넌트들(918)은 머신의 타입에 의존할 것이다. 예를 들어, 모바일폰과 같은 휴대용 머신들은 아마 터치 입력 디바이스 또는 다른 그러한 입력 메커니즘들을 포함할 것인 반면, 헤드리스 서버 머신(headless server machine)은 아마 그러한 터치 입력 디바이스를 포함하지 않을 것이다. I/O 컴포넌트들(918)은 도 9에 도시되지 않은 많은 다른 컴포넌트들을 포함할 수 있다는 것이 인식될 것이다. I/O 컴포넌트들(918)은 단지 다음의 논의를 간략화하기 위해 기능에 따라 그룹화되고, 그룹화는 결코 제한적인 것이 아니다. 다양한 예시적인 실시예들에서, I/O 컴포넌트들(918)은 출력 컴포넌트들(926) 및 입력 컴포넌트들(928)을 포함할 수 있다. 출력 컴포넌트들(926)은 시각 컴포넌트들(예를 들어, 플라즈마 디스플레이 패널(PDP), 발광 다이오드(LED) 디스플레이, 액정 디스플레이(LCD), 프로젝터, 또는 음극선관(CRT)과 같은 디스플레이), 청각 컴포넌트들(예를 들어, 스피커들), 햅틱 컴포넌트들(예를 들어, 진동 모터, 저항 메커니즘들), 다른 신호 생성기들 등을 포함할 수 있다. 입력 컴포넌트들(928)은, 영숫자 입력 컴포넌트들(예를 들어, 키보드, 영숫자 입력을 수신하도록 구성되는 터치 스크린, 포토-광학 키보드(photo-optical keyboard), 또는 다른 영숫자 입력 컴포넌트들), 포인트 기반 입력 컴포넌트들(예를 들어, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서, 또는 다른 포인팅 기구), 촉각 입력 컴포넌트들(예를 들어, 물리적 버튼, 터치들 또는 터치 제스처들의 위치 및/또는 힘을 제공하는 터치 스크린, 또는 다른 촉각 입력 컴포넌트들), 오디오 입력 컴포넌트들(예를 들어, 마이크로폰) 등을 포함할 수 있다.

추가의 예시적인 실시예들에서, I/O 컴포넌트들(918)은 광범위한 다른 컴포넌트들 중에서 바이오메트릭 컴포넌트들(930), 모션 컴포넌트들(934), 환경 컴포넌트들(936), 또는 포지션 컴포넌트들(938)을 포함할 수 있다. 예를 들어, 바이오메트릭 컴포넌트들(930)은, 표현들(예를 들어, 손 표현, 얼굴 표정, 음성 표현, 신체 제스처, 또는 시선 추적(eye tracking))을 검출하고, 생체신호들(예를 들어, 혈압, 심박수, 체온, 땀 또는 뇌파)을 측정하고, 사람을 식별(예를 들어, 음성 식별, 망막 식별, 얼굴 식별, 지문 식별, 또는 뇌파 기반 식별(electroencephalogram based identification))하는 것 등을 위한 컴포넌트들을 포함할 수 있다. 모션 컴포넌트들(934)은 가속도 센서 컴포넌트들(예를 들어, 가속도계), 중력 센서 컴포넌트들, 회전 센서 컴포넌트들(예를 들어, 자이로스코프) 등을 포함할 수 있다. 환경 컴포넌트들(936)은, 예를 들어, 조명 센서 컴포넌트들(예를 들어, 광도계), 온도 센서 컴포넌트들(예를 들어, 주위 온도를 검출하는 하나 이상의 온도계), 습도 센서 컴포넌트들, 압력 센서 컴포넌트들(예를 들어, 기압계), 음향 센서 컴포넌트들(예를 들어, 배경 노이즈를 검출하는 하나 이상의 마이크로폰), 근접 센서 컴포넌트들(예를 들어, 인근 객체들을 검출하는 적외선 센서들), 가스 센서들(예를 들어, 안전을 위해 유해성 가스들의 농도들을 검출하거나 대기 내의 오염물질들을 측정하기 위한 가스 검출 센서들), 또는 주변 물리적 환경에 대응하는 표시들, 측정들, 또는 신호들을 제공할 수 있는 다른 컴포넌트들을 포함할 수 있다. 포지션 컴포넌트들(938)은, 위치 센서 컴포넌트들(예를 들어, GPS(Global Position System) 수신기 컴포넌트), 고도 센서 컴포넌트들(예를 들어, 고도계 또는 고도가 도출될 수 있는 기압을 검출하는 기압계), 배향 센서 컴포넌트들(예를 들어, 자력계) 등을 포함할 수 있다.

통신은 매우 다양한 기술을 사용하여 구현될 수 있다. I/O 컴포넌트들(918)은 결합(924) 및 결합(922)을 통해 각각 네트워크(932) 또는 디바이스들(920)에 머신(900)을 결합하도록 동작가능한 통신 컴포넌트들(940)을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(940)은 네트워크(932)와 인터페이싱하기 위한 네트워크 인터페이스 컴포넌트 또는 다른 적절한 디바이스를 포함할 수 있다. 추가 예들에서, 통신 컴포넌트들(940)은 유선 통신 컴포넌트들, 무선 통신 컴포넌트들, 셀룰러 통신 컴포넌트들, 근접장 통신(Near Field Communication)(NFC) 컴포넌트들, 블루투스® 컴포넌트들(예를 들어, 블루투스® 로우 에너지), Wi-Fi® 컴포넌트들, 및 다른 양상들(modalities)을 통해 통신을 제공하는 다른 통신 컴포넌트들을 포함할 수 있다. 디바이스들(920)은 다른 머신 또는 매우 다양한 주변 디바이스들 중 임의의 것(예를 들어, 범용 직렬 버스(USB)를 통해 결합된 주변 디바이스)일 수 있다.

더욱이, 통신 컴포넌트들(940)은 식별자들을 검출할 수 있거나 식별자들을 검출하도록 동작가능한 컴포넌트들을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(940)은 RFID(Radio Frequency Identification) 태그 판독기 컴포넌트들, NFC 스마트 태그 검출 컴포넌트들, 광학 판독기 컴포넌트들(예를 들어, UPC(Universal Product Code) 바코드와 같은 1차원 바코드들, QR(Quick Response) 코드와 같은 다차원 바코드들, Aztec 코드, 데이터 매트릭스(Data Matrix), Dataglyph, MaxiCode, PDF417, 울트라 코드(Ultra Code), UCC RSS-2D 바코드, 및 다른 광학 코드들을 검출하는 광학 센서), 또는 음향 검출 컴포넌트들(예를 들어, 태깅된 오디오 신호들을 식별하는 마이크로폰들)을 포함할 수 있다. 게다가, 인터넷 프로토콜(IP) 지오-로케이션을 통한 위치, Wi-Fi® 신호 삼각측량을 통한 위치, 특정 위치를 표시할 수 있는 NFC 비컨 신호 검출을 통한 위치 등과 같은, 다양한 정보가 통신 컴포넌트들(940)을 통해 도출될 수 있다.

본 명세서에서 이용되는 바와 같이, "단기적 메시지(ephemeral message)"는 시간-제한된 지속기간(time-limited duration)(예를 들어, 최대 10초) 동안 액세스가능한 메시지를 지칭할 수 있다. 단기적 메시지는 텍스트 콘텐츠, 이미지 콘텐츠, 오디오 콘텐츠, 비디오 콘텐츠 등을 포함할 수 있다. 단기적 메시지에 대한 액세스 시간은 메시지 송신기에 의해 설정될 수 있거나, 대안적으로, 액세스 시간은 디폴트 설정 또는 수신자에 의해 특정된 설정일 수 있다. 설정 기법에 관계없이, 단기적 메시지는 일시적이다. 단기적 메시지와 연관된 메시지 지속기간 파라미터는 단기적 메시지가 단기적 메시지의 수신 사용자에 의해 디스플레이되거나 액세스될 수 있는 시간의 양을 결정하는 값을 제공할 수 있다. 단기적 메시지는 단기적 메시징 애플리케이션과 같은 단기적 메시지의 콘텐츠를 수신 및 디스플레이할 수 있는 메시징 클라이언트 소프트웨어 애플리케이션을 이용하여 액세스되거나 디스플레이될 수 있다.

또한 본 명세서에서 이용되는 바와 같이, "단기적 메시지 스토리(ephemeral message story)"는 단기적 메시지와 유사한, 시간-제한된 지속기간 동안 액세스가능한 단기적 메시지 콘텐츠의 컬렉션을 지칭할 수 있다. 단기적 메시지 스토리는 한 사용자로부터 다른 사용자로 전송될 수 있고, 단기적 메시징 애플리케이션과 같은 단기적 콘텐츠의 컬렉션을 수신 및 디스플레이할 수 있는 메시징 클라이언트 소프트웨어 애플리케이션을 이용하여 액세스되거나 디스플레이될 수 있다.

본 명세서의 전반에 걸쳐, 복수의 사례들은 단일 사례로서 설명된 컴포넌트들, 동작들, 또는 구조들을 구현할 수 있다. 하나 이상의 방법의 개별적인 동작들은 별도의 동작들로서 예시되고 설명되지만, 개별적인 동작들 중 하나 이상은 동시에 수행될 수 있고, 어떤 것도 동작들이 예시된 순서로 수행될 것을 요구하지는 않는다. 예시적인 구성들에서 별도의 컴포넌트들로서 제시된 구조들 및 기능은 조합된 구조 또는 컴포넌트로서 구현될 수 있다. 유사하게, 단일 컴포넌트로서 제시된 구조들 및 기능은 별도의 컴포넌트들로서 구현될 수 있다. 이러한 그리고 다른 변형들, 수정들, 추가들, 및 개선들은 본 명세서에서의 요지의 범위 내에 속한다.

발명 요지의 개요는 특정 예시적인 실시예들을 참조하여 설명되었지만, 본 개시내용의 실시예들의 더 넓은 범위로부터 벗어나지 않고 이 실시예들에 대해 다양한 수정들 및 변경들이 행해질 수 있다.

본 명세서에서 예시된 실시예들은 본 기술분야의 통상의 기술자들이 개시된 교시사항들을 실시하는 것을 가능하게 할 정도로 충분히 상세하게 설명된다. 다른 실시예들이 이용될 수 있고 그로부터 도출될 수 있어서, 본 개시내용의 범위로부터 벗어나지 않고 구조적 및 논리적 치환들 및 변경들이 행해질 수 있다. 그러므로, 상세한 설명은 제한적인 의미로 취해진 것이 아니고, 다양한 실시예들의 범위는 이러한 청구항들에 부여되는 등가물들의 전체 범위와 함께, 오직 첨부된 청구항들에 의해 정의된다.

본 명세서에서 이용되는 바와 같이, 모듈들은 소프트웨어 모듈들(예를 들어, 머신 판독가능 매체에 또는 송신 매체에 저장되거나 다른 방식으로 구현되는 코드), 하드웨어 모듈들, 또는 이들의 임의의 적절한 조합을 구성할 수 있다. "하드웨어 모듈"은 특정 동작들을 수행할 수 있는 유형의(tangible)(예를 들어, 비일시적) 물리적 컴포넌트(예를 들어, 하나 이상의 프로세서의 세트)이며, 특정 물리적 방식으로 구성되거나 배열될 수 있다. 다양한 실시예들에서, 하나 이상의 컴퓨터 시스템 또는 그것의 하나 이상의 하드웨어 모듈은 그 모듈에 대한 본 명세서에서 설명되는 동작들을 수행하도록 동작하는 하드웨어 모듈로서 소프트웨어(예를 들어, 애플리케이션 또는 그의 부분)에 의해 구성될 수 있다.

일부 실시예들에서, 하드웨어 모듈은 전자적으로 구현될 수 있다. 예를 들어, 하드웨어 모듈은 특정 동작들을 수행하도록 영구적으로 구성되는 전용 회로부 또는 로직을 포함할 수 있다. 하드웨어 모듈은 FPGA(field programmable gate array) 또는 ASIC와 같은 특수 목적 프로세서일 수 있거나 이를 포함할 수 있다. 하드웨어 모듈은 특정 동작들을 수행하도록 소프트웨어에 의해 일시적으로 구성되는 프로그램가능한 로직 또는 회로부를 또한 포함할 수 있다. 예로서, 하드웨어 모듈은 CPU 또는 다른 프로그램가능한 프로세서 내에 포함된 소프트웨어를 포함할 수 있다.

하드웨어 모듈들이 일시적으로 구성되는(예를 들어, 프로그래밍되는) 실시예들을 고려하면, 하드웨어 컴포넌트들 각각이 임의의 하나의 시간 인스턴스에서 구성 또는 인스턴스화될 필요는 없다. 예를 들어, 하드웨어 모듈이 특수 목적 프로세서가 되도록 소프트웨어에 의해 구성되는 CPU를 포함하는 경우, CPU는 상이한 시간들에서 각각 상이한 특수 목적 프로세서들(예를 들어, 각각 상이한 하드웨어 모듈에 포함됨)로서 구성될 수 있다. 따라서 소프트웨어(예를 들어, 소프트웨어 모듈)는, 예를 들어, 하나의 시간 인스턴스에서는 특정 하드웨어 모듈이 되거나 다른 방식으로 그것을 구성하고 상이한 시간 인스턴스에서는 상이한 하드웨어 모듈이 되거나 다른 방식으로 그것을 구성하도록 하나 이상의 프로세서를 구성할 수 있다.

하드웨어 모듈들은 다른 하드웨어 모듈들에 정보를 제공하고, 다른 하드웨어 모듈들로부터 정보를 수신할 수 있다. 따라서, 설명된 하드웨어 모듈들은 통신가능하게 결합되는 것으로서 간주될 수 있다. 다수의 하드웨어 모듈들이 동시에 존재하는 경우, 하드웨어 모듈들 중 2개 이상 사이에서의 또는 그 중에서의 (예를 들어, 적절한 회로들 및 버스들을 통한) 신호 송신을 통해 통신들이 달성될 수 있다. 다수의 하드웨어 모듈들이 상이한 시간들에서 구성되거나 인스턴스화되는 실시예들에서, 이러한 하드웨어 모듈들 사이의 통신들은 예를 들어, 다수의 하드웨어 모듈들이 액세스하는 메모리 구조들에서의 정보의 저장 및 검색을 통해 달성될 수 있다. 예를 들어, 하나의 하드웨어 모듈이 동작을 수행할 수 있고 그에 통신가능하게 결합되는 메모리(예를 들어, 메모리 디바이스)에 그 동작의 출력을 저장할 수 있다. 그 후, 추가의 하드웨어 모듈이, 나중에, 저장된 출력을 검색 및 처리하기 위해 메모리에 액세스할 수 있다. 하드웨어 모듈들은 또한, 입력 또는 출력 디바이스들과의 통신들을 개시할 수 있고, 자원(예를 들어, 컴퓨팅 자원으로부터의 정보의 컬렉션) 상에서 동작할 수 있다.

본 명세서에서 설명되는 예시적인 방법들의 다양한 동작들은, 관련 동작들을 수행하도록 (예를 들어, 소프트웨어에 의해) 일시적으로 구성되거나 또는 영구적으로 구성되는 하나 이상의 프로세서에 의해 적어도 부분적으로 수행될 수 있다. 일시적으로 구성되든 영구적으로 구성되든 간에, 그러한 프로세서들은 본 명세서에 설명된 하나 이상의 동작 또는 기능을 수행하도록 동작하는 프로세서-구현되는 모듈들(processor-implemented modules)을 구성할 수 있다. 본 명세서에서 이용되는 바와 같이, "프로세서-구현되는 모듈"은 하드웨어가 하나 이상의 프로세서를 포함하는 하드웨어 모듈을 지칭한다. 따라서, 본 명세서에서 설명되는 동작들은 적어도 부분적으로 프로세서-구현, 하드웨어-구현, 또는 둘 다일 수 있는데, 그 이유는 프로세서가 하드웨어의 예이고, 본 명세서에서 논의되는 방법들 중 임의의 하나 이상의 방법 내의 적어도 일부 동작들이 하나 이상의 프로세서-구현되는 모듈들, 하드웨어-구현되는 모듈들, 또는 이들의 임의의 적절한 조합에 의해 수행될 수 있기 때문이다.

본 명세서에서 이용되는 바와 같이, 용어 "또는"은 포괄적 또는 배타적 의미의 어느 하나로 해석될 수 있다. 단수 용어("a" 또는 "an")는 "적어도 하나", "하나 이상" 등을 의미하는 것으로 해석되어야 한다. "하나 이상", "적어도", "그러나 이에 제한되지 않는" 또는 다른 유사한 문구들과 같은 단어들 및 문구들의 사용은 그러한 광범위한 문구들이 존재하지 않을 수 있는 사례들에서 더 좁은 경우가 의도되거나 요구된다는 것을 의미하는 것으로 해석되지 않아야 할 것이다.

다양한 자원들, 동작들, 모듈들, 엔진들, 및 데이터 저장소들 사이의 경계들은 다소 임의적이고, 특정 동작들은 특정 예시적인 구성들의 맥락에서 예시된다. 기능의 다른 할당들이 구상되고, 본 개시내용의 다양한 실시예들의 범위 내에 속할 수 있다. 일반적으로, 예시적인 구성들에서 별도의 자원들로서 제시된 구조들 및 기능은 조합된 구조 또는 자원으로서 구현될 수 있다. 유사하게, 단일 자원으로서 제시된 구조들 및 기능은 별도의 자원들로서 구현될 수 있다. 이러한 그리고 다른 변형들, 수정들, 추가들, 및 개선들은 첨부된 청구항들에 의해 나타나는 바와 같이 본 개시내용의 실시예들의 범위 내에 속한다. 따라서, 명세서 및 도면들은 한정적인 의미보다는 예시적으로 간주되어야 한다.

위의 설명은 본 개시내용의 예시적인 실시예들을 구현하는 시스템들, 방법들, 디바이스들, 명령어들, 및 컴퓨터 매체(예를 들어, 컴퓨팅 머신 프로그램 제품들)를 포함한다. 설명에서는, 설명의 목적들을 위하여, 수많은 특정 세부사항들이 발명 요지의 다양한 실시예들의 이해를 제공하기 위해 기재되어 있다. 그러나, 발명 요지의 실시예들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 본 기술분야의 통상의 기술자들에게 분명할 것이다. 일반적으로, 널리-공지된 명령어 인스턴스들, 프로토콜들, 구조들, 및 기법들은 반드시 상세하게 도시되지는 않는다.

Claims

방법으로서,
하나 이상의 하드웨어 프로세서에 의해, 이미지 센서에 의해 캡처되는 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 단계;
물리적 환경에서의 제1 포즈(pose)로부터 상기 물리적 환경에서의 제2 포즈로의 상기 이미지 센서의 움직임(movement) 이후에:
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 적어도 상기 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭(feature matching)을 수행하여, 상기 물리적 환경에서의 매칭 3차원(3D) 피처들의 세트(a set of matching three-dimensional (3D) features)를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 에러 기준들의 세트(a set of error criteria)에 기초하여, 상기 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처(erroneous feature)를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 단계; 및
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 제2 키 이미지 프레임에 대한 상기 이미지 센서의 6 자유도(6DOF) 파라미터들의 제1 세트 및 상기 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 단계
를 포함하고,
상기 결정하는 단계는 관성 측정 유닛(inertial measurement unit)(IMU)에 의해 캡처된 제1 IMU 데이터, 상기 IMU에 의해 캡처된 제2 IMU 데이터, 및 상기 매칭 3D 피처들의 필터링된 세트에 기초하여 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM) 프로세스를 수행하는 단계를 포함하는 방법.
제1항에 있어서, 상기 제1 IMU 데이터는 상기 이미지 센서의 4 자유도(4DOF) 파라미터들의 세트를 포함하고, 상기 제2 IMU 데이터는 상기 이미지의 4DOF 파라미터들의 세트를 포함하는 방법.
제1항에 있어서, 상기 이미지 센서는 디바이스에 포함되는 방법.
제3항에 있어서, 상기 이미지 센서의 움직임은 사이드스텝(sidestep)을 수행하는 상기 디바이스를 홀드(hold)하고 있는 인간 개인에 의해 야기되는 방법.
제4항에 있어서, 상기 제1 키 이미지 프레임을 식별하는 단계는 상기 사이드스텝의 시작 임펄스(start impulse)를 검출하는 단계를 포함하고, 상기 제1 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 시작 임펄스에 대응하는 특정 이미지 프레임인 방법.
제4항에 있어서, 상기 제2 키 이미지 프레임을 식별하는 단계는 상기 사이드스텝의 종료 임펄스(finish impulse)를 검출하는 단계를 포함하고, 상기 제2 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 종료 임펄스에 대응하는 특정 이미지 프레임인 방법.
제1항에 있어서,
상기 캡처된 이미지 프레임들의 세트에 추가된 각각의 특정 새로운 이미지 프레임에 대해:
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트(a set of key image frame conditions)가 충족되는지를 결정하는 단계;
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되는 것에 응답하여, 상기 하나 이상의 하드웨어 프로세서에 의해, 상기 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별하고, 상기 하나 이상의 하드웨어 프로세서에 의해, 상기 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클(full SLAM process cycle)을 수행하는 단계; 및
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되지 않는 것에 응답하여, 상기 하나 이상의 하드웨어 프로세서에 의해, 비-키 이미지 프레임(non-key image frame)으로서 상기 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 단계 - 상기 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 로컬화 부분만을 포함함 -
를 추가로 포함하는 방법.
제7항에 있어서, 상기 키 이미지 프레임 조건들의 세트는 상기 새로운 이미지 프레임이 특정 이미지 품질과 동일한지 또는 특정 이미지 품질을 초과하는지, 상기 전체 SLAM 프로세스 사이클이 마지막으로 수행된 이후에 최소 시간이 경과되었는지, 및 이전 이미지 프레임과 상기 새로운 이미지 프레임 사이의 변환(translation)이 최소 변환 임계치와 동일한지 또는 최소 변환 임계치를 초과하는지 중 적어도 하나를 포함하는 방법.
제7항에 있어서, 상기 새로운 키 이미지 프레임에 대해 상기 전체 SLAM 프로세스 사이클을 수행하는 단계는,
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 IMU에 의해 캡처된, 상기 새로운 키 이미지 프레임과 연관되는 제3 IMU 데이터를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 새로운 키 이미지 프레임 및 적어도 하나의 이전 이미지 프레임에 대해 피처 매칭을 수행하여 물리적 환경에서의 매칭 3D 피처들의 제2 세트를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 매칭 3D 피처들의 제2 세트 및 상기 제3 IMU 데이터에 기초하여 상기 새로운 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제2 세트를 결정하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 에러 기준들의 제2 세트 및 상기 6DOF 파라미터들의 제2 세트에 기초하여, 상기 매칭 3D 피처들의 제2 세트로부터 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 제2 필터링된 세트를 생성하는 단계; 및
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 매칭 3D 피처들의 제2 필터링된 세트 및 상기 제3 IMU 데이터에 기초하여 모든 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제3 세트 및 상기 물리적 환경에서의 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 단계
를 포함하는 방법.
제7항에 있어서, 상기 비-키 이미지 프레임에 대해 상기 부분 SLAM 프로세스 사이클을 수행하는 단계는,
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 전체 SLAM 프로세스 사이클을 수행하는 것으로부터의 새로운 3D 피처들의 3D 포지션들의 세트 및 가장 최근에 식별된 새로운 키 이미지 프레임에 기초하여, 상기 비-키 이미지 프레임에 대해 2차원(2D) 피처 추적을 수행하여, 2D 피처들의 세트를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 2D 피처들의 세트에 기초하여 상기 SLAM 프로세스의 상기 로컬화 부분만을 수행함으로써 상기 비-키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제4 세트를 결정하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 에러 기준들의 제3 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여, 상기 2D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 2D 피처들의 필터링된 세트를 생성하는 단계; 및
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 2D 피처들의 필터링된 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여 상기 비-키 이미지 프레임 상에 추적 포인트들의 세트를 투영(projecting)하는 단계
를 포함하는 방법.
시스템으로서,
이미지 센서;
명령어들을 저장한 머신 판독가능 매체; 및
상기 명령어들에 의해 동작들을 수행하도록 구성되는 하드웨어 프로세서
를 포함하고, 상기 동작들은:
상기 이미지 센서에 의해 캡처되는 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 동작;
물리적 환경에서의 제1 포즈로부터 상기 물리적 환경에서의 제2 포즈로의 상기 이미지 센서의 움직임 이후에:
상기 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 동작;
적어도 상기 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭을 수행하여, 상기 물리적 환경에서의 매칭 3차원(3D) 피처들의 세트를 식별하는 동작;
에러 기준들의 세트에 기초하여, 상기 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작; 및
상기 제2 키 이미지 프레임에 대한 상기 이미지 센서의 6 자유도(6DOF) 파라미터들의 제1 세트 및 상기 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 동작
을 포함하고,
상기 결정하는 동작은 관성 측정 유닛(IMU)에 의해 캡처된 제1 IMU 데이터, 상기 IMU에 의해 캡처된 제2 IMU 데이터, 및 상기 매칭 3D 피처들의 필터링된 세트에 기초하여 동시 로컬화 및 매핑(SLAM) 프로세스를 수행하는 동작을 포함하는 시스템.
제11항에 있어서, 상기 제1 IMU 데이터는 상기 이미지 센서의 4 자유도(4DOF) 파라미터들의 세트를 포함하고, 상기 제2 IMU 데이터는 상기 이미지의 4DOF 파라미터들의 세트를 포함하는 시스템.
제12항에 있어서, 상기 이미지 센서의 움직임은 사이드스텝을 수행하는 상기 시스템을 홀드하고 있는 인간 개인에 의해 야기되는 시스템.
제13항에 있어서, 상기 제1 키 이미지 프레임을 식별하는 동작은 상기 사이드스텝의 시작 임펄스를 검출하는 동작을 포함하고, 상기 제1 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 시작 임펄스에 대응하는 특정 이미지 프레임인 시스템.
제13항에 있어서, 상기 제2 키 이미지 프레임을 식별하는 동작은 상기 사이드스텝의 종료 임펄스를 검출하는 동작을 포함하고, 상기 제2 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 종료 임펄스에 대응하는 특정 이미지 프레임인 시스템.
제11항에 있어서, 상기 동작들은,
상기 캡처된 이미지 프레임들의 세트에 추가된 각각의 특정 새로운 이미지 프레임에 대해:
상기 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는지를 결정하는 동작;
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되는 것에 응답하여, 상기 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별하고, 상기 하나 이상의 하드웨어 프로세서에 의해, 상기 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 동작; 및
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되지 않는 것에 응답하여, 비-키 이미지 프레임으로서 상기 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 동작 - 상기 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 로컬화 부분만을 포함함 -
를 추가로 포함하는 시스템.
제16항에 있어서, 상기 키 이미지 프레임 조건들의 세트는 상기 새로운 이미지 프레임이 특정 이미지 품질과 동일한지 또는 특정 이미지 품질을 초과하는지, 상기 전체 SLAM 프로세스 사이클이 마지막으로 수행된 이후에 최소 시간이 경과되었는지, 및 이전 이미지 프레임과 상기 새로운 이미지 프레임 사이의 변환이 최소 변환 임계치와 동일한지 또는 최소 변환 임계치를 초과하는지 중 적어도 하나를 포함하는 시스템.
제16항에 있어서, 상기 새로운 키 이미지 프레임에 대해 상기 전체 SLAM 프로세스 사이클을 수행하는 동작은,
상기 IMU에 의해 캡처된, 상기 새로운 키 이미지 프레임과 연관되는 제3 IMU 데이터를 식별하는 동작;
상기 새로운 키 이미지 프레임 및 적어도 하나의 이전 이미지 프레임에 대해 피처 매칭을 수행하여 물리적 환경에서의 매칭 3D 피처들의 제2 세트를 식별하는 동작;
상기 매칭 3D 피처들의 제2 세트 및 상기 제3 IMU 데이터에 기초하여 상기 새로운 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제2 세트를 결정하는 동작;
에러 기준들의 제2 세트 및 상기 6DOF 파라미터들의 제2 세트에 기초하여, 상기 매칭 3D 피처들의 제2 세트로부터 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 제2 필터링된 세트를 생성하는 동작; 및
상기 매칭 3D 피처들의 제2 필터링된 세트 및 상기 제3 IMU 데이터에 기초하여 모든 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제3 세트 및 상기 물리적 환경에서의 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 동작
을 포함하는 시스템.
제16항에 있어서, 상기 비-키 이미지 프레임에 대해 상기 부분 SLAM 프로세스 사이클을 수행하는 동작은,
상기 전체 SLAM 프로세스 사이클을 수행하는 것으로부터의 새로운 3D 피처들의 3D 포지션들의 세트 및 가장 최근에 식별된 새로운 키 이미지 프레임에 기초하여, 상기 비-키 이미지 프레임에 대해 2차원(2D) 피처 추적을 수행하여, 2D 피처들의 세트를 식별하는 동작;
상기 2D 피처들의 세트에 기초하여 상기 SLAM 프로세스의 상기 로컬화 부분만을 수행함으로써 상기 비-키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제4 세트를 결정하는 동작;
에러 기준들의 제3 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여, 상기 2D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 2D 피처들의 필터링된 세트를 생성하는 동작; 및
상기 2D 피처들의 필터링된 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여 상기 비-키 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 동작
을 포함하는 시스템.
명령어들을 저장하도록 구성된 비일시적 컴퓨터 판독가능 매체로서,
상기 명령어들은 동작들을 수행하기 위해 하드웨어 프로세서에 의해 실행가능하고, 상기 동작들은:
이미지 센서에 의해 캡처되는 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 동작;
물리적 환경에서의 제1 포즈로부터 상기 물리적 환경에서의 제2 포즈로의 상기 이미지 센서의 움직임 이후에:
상기 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 동작;
적어도 상기 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭을 수행하여, 상기 물리적 환경에서의 매칭 3차원(3D) 피처들의 세트를 식별하는 동작;
에러 기준들의 세트에 기초하여, 상기 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작; 및
상기 제2 키 이미지 프레임에 대한 상기 이미지 센서의 6 자유도(6DOF) 파라미터들의 제1 세트 및 상기 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 동작
을 포함하고,
상기 결정하는 동작은 관성 측정 유닛(IMU)에 의해 캡처된 제1 IMU 데이터, 상기 IMU에 의해 캡처된 제2 IMU 데이터, 및 상기 매칭 3D 피처들의 필터링된 세트에 기초하여 동시 로컬화 및 매핑(SLAM) 프로세스를 수행하는 동작을 포함하는 비일시적 컴퓨터 판독가능 매체.