KR102606785B1 - 동시 로컬화 및 매핑을 위한 시스템 및 방법 - Google Patents
동시 로컬화 및 매핑을 위한 시스템 및 방법 Download PDFInfo
- Publication number
- KR102606785B1 KR102606785B1 KR1020227023663A KR20227023663A KR102606785B1 KR 102606785 B1 KR102606785 B1 KR 102606785B1 KR 1020227023663 A KR1020227023663 A KR 1020227023663A KR 20227023663 A KR20227023663 A KR 20227023663A KR 102606785 B1 KR102606785 B1 KR 102606785B1
- Authority
- KR
- South Korea
- Prior art keywords
- image frame
- key image
- features
- new
- matching
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 225
- 230000004807 localization Effects 0.000 title claims abstract description 24
- 238000013507 mapping Methods 0.000 title claims abstract description 19
- 230000008569 process Effects 0.000 claims abstract description 130
- 230000033001 locomotion Effects 0.000 claims description 37
- 230000004044 response Effects 0.000 claims description 11
- 238000001914 filtration Methods 0.000 claims description 10
- 238000005259 measurement Methods 0.000 claims description 10
- 230000009471 action Effects 0.000 claims description 4
- 238000013519 translation Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims 2
- 230000006870 function Effects 0.000 description 26
- 238000012545 processing Methods 0.000 description 23
- 230000003190 augmentative effect Effects 0.000 description 18
- 238000004891 communication Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 15
- 238000005516 engineering process Methods 0.000 description 9
- 230000006855 networking Effects 0.000 description 5
- 238000013481 data capture Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000035939 shock Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 239000007789 gas Substances 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000004984 smart glass Substances 0.000 description 3
- 239000008186 active pharmaceutical agent Substances 0.000 description 2
- 238000007792 addition Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000003344 environmental pollutant Substances 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 231100001261 hazardous Toxicity 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 231100000719 pollutant Toxicity 0.000 description 1
- 230000008261 resistance mechanism Effects 0.000 description 1
- 230000002207 retinal effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- -1 smartphones Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 210000004243 sweat Anatomy 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
Abstract
다양한 실시예들은 물리적 환경 내의 카메라의 2개 정도의 상이한 포즈로부터의 이미지들을 이용하여 동시 로컬화 및 매핑(SLAM) 프로세스를 초기화하는 것을 수반하는 SLAM을 수행하기 위한 시스템들, 방법들, 디바이스들, 및 명령어들을 제공한다. 일부 실시예들은 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 캡처된 이미지 프레임들에 도시된 대응하는 피처들을 매칭함에 있어서의 에러들을 무시함으로써, 그리고 최소화 프로세스가 국지적 최소값에 속하는 것이 아니라 전역적 최소값으로 수렴하게 하는 방식으로 SLAM 프로세스를 업데이트함으로써, 이것을 달성할 수 있다.
Description
관련 출원에 대한 교차 참조
본 출원은 2016년 8월 30일자로 출원된 미국 가특허 출원 번호 제62/381,036호의 우선권 및 이익을 주장하며, 이 미국 가출원은 참고로 본 명세서에 포함된다.
기술분야
본 명세서에 설명되는 실시예들은 물리적 환경 내에서의 센서의 로컬화 및 매핑에 관한 것으로, 더욱 구체적으로는, 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM)을 수행하기 위한 시스템들, 방법들, 디바이스들, 및 명령어들에 관한 것이다.
모바일 컴퓨팅 디바이스를 둘러싸는 물리적 환경의 구조를 매핑하고 그 매핑 환경 내의 모바일 컴퓨팅 디바이스의 상대적 포지션(position)을 로컬화(localize)하기 위해 모바일 컴퓨팅 디바이스(예를 들어, 모바일폰, 태블릿, 웨어러블 증강 현실(augmented reality)(AR) 디바이스, 웨어러블, 자율 공중 또는 지상 차량, 또는 로봇)에 의해 SLAM(Simultaneous Localization and Mapping) 프로세스(예를 들어, 알고리즘)가 사용될 수 있다. 모바일 컴퓨팅 디바이스가 그의 물리적 환경 내에서 이동함에 따라 실시간으로 SLAM 프로세스가 보통 매핑 및 로컬화할 수 있다.
비록 배타적으로 이미지 기반이 아니지만, 일부 SLAM 프로세스들은 모바일폰의 내장 카메라와 같은 모바일 컴퓨팅 디바이스와 연관된 이미지 센서에 의해 제공된 물리적 환경의 이미지들을 이용함으로써 매핑 및 로컬화를 달성한다. 캡처된 이미지들로부터, 이러한 SLAM 프로세스들은 모바일 컴퓨팅 디바이스 포지션을 복구하고, 어느 것도 초기에 알지 못하고 이미지 센서의 포즈와 맵의 구조 양쪽 모두를 복구함으로써 모바일 컴퓨팅 디바이스를 둘러싸는 물리적 환경의 맵을 구성할 수 있다.
캡처된 이미지들을 사용하는 SLAM 프로세스들은 보통 상이한 포즈들에서 (예를 들어, 모바일 컴퓨팅 디바이스의) 이미지 센서에 의해 캡처되는 물리적 환경에서의 대응하는 물리적 피처들(이하, 피처들)의 몇몇 이미지들을 요구한다. 상이한 카메라 위치들로부터 캡처된 이미지들은 이러한 SLAM 프로세스들이 그들의 로컬화 및 매핑 프로세스들을 수렴하고 시작하는 것을 허용한다. 불행하게도, 이미지 기반 SLAM 프로세스에서의 로컬화 문제는 보통 캡처된 이미지들 사이에서 대응하는 피처들을 매칭함에 있어서의 에러들로 인해 해결하는 것이 어렵다 - 이러한 에러들은 SLAM 프로세스의 최소화 문제의 국지적 결과를 특정 위치를 제공하는 전역적 최소값보다는 국지적 최소값으로 이동시키는 경향이 있다.
첨부된 도면들의 다양한 것들은 본 개시내용의 일부 실시예들을 단지 예시하고, 그 범위를 제한하는 것으로서 고려되지 않아야 한다. 도면들은 반드시 비례에 맞게 그려진 것은 아니다. 임의의 특정 요소 또는 행위의 논의를 용이하게 식별하기 위해, 참조 번호에서 최상위 숫자 또는 숫자들은 그 요소가 먼저 소개되는 도면 번호를 지칭하고, 유사한 번호들은 상이한 도면들에서 유사한 컴포넌트들을 기술할 수 있다.
도 1은 일부 실시예에 따른, 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM) 시스템을 포함하는 예시적인 고레벨 클라이언트-서버 기반 네트워크 아키텍처를 예시하는 블록도이다.
도 2는 일부 실시예에 따른, SLAM 시스템을 포함하는 예시적인 컴퓨팅 디바이스를 예시하는 블록도이다.
도 3 내지 도 7은 다양한 실시예들에 따른, SLAM 처리를 위한 예시적인 방법들을 예시하는 흐름도들이다.
도 8은 실시예를 구현하기 위해 본 명세서에서 설명되는 다양한 하드웨어 아키텍처들과 관련하여 사용될 수 있는 대표적인 소프트웨어 아키텍처를 예시하는 블록도이다.
도 9는 머신 판독가능 매체(예를 들어, 머신 판독가능 저장 매체)로부터 명령어들을 판독하여 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행할 수 있는, 일부 실시예에 따른, 머신의 컴포넌트들을 예시하는 블록도이다.
도 1은 일부 실시예에 따른, 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM) 시스템을 포함하는 예시적인 고레벨 클라이언트-서버 기반 네트워크 아키텍처를 예시하는 블록도이다.
도 2는 일부 실시예에 따른, SLAM 시스템을 포함하는 예시적인 컴퓨팅 디바이스를 예시하는 블록도이다.
도 3 내지 도 7은 다양한 실시예들에 따른, SLAM 처리를 위한 예시적인 방법들을 예시하는 흐름도들이다.
도 8은 실시예를 구현하기 위해 본 명세서에서 설명되는 다양한 하드웨어 아키텍처들과 관련하여 사용될 수 있는 대표적인 소프트웨어 아키텍처를 예시하는 블록도이다.
도 9는 머신 판독가능 매체(예를 들어, 머신 판독가능 저장 매체)로부터 명령어들을 판독하여 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행할 수 있는, 일부 실시예에 따른, 머신의 컴포넌트들을 예시하는 블록도이다.
다양한 실시예들은 물리적 환경 내의 카메라의 2개 정도의(as few as two) 상이한 포즈(예를 들어, 물리적 위치)로부터의 이미지들(이하, 이미지 프레임들)을 이용하여 동시 로컬화 및 매핑(SLAM) 프로세스를 초기화하는 것을 수반하는 SLAM을 수행하기 위한 시스템들, 방법들, 디바이스들, 및 명령어들을 제공한다. 일부 실시예들은, 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 캡처되는 (물리적 환경의) 이미지 프레임들에 묘사된 대응하는 피처들을 매칭함에 있어서의 에러들(이하, 피처 에러들)을 무시함으로써, 그리고 최소화 프로세스가 국지적 최소값에 속하는 것이 아니라 전역적 최소값으로 수렴하게 하는 방식으로 SLAM 프로세스를 업데이트함으로써, 이것을 달성할 수 있다. 전역적 최소값은 이미지 센서의 물리적 위치를 제공할 수 있다.
일부 실시예들에 따르면, SLAM 프로세스는 2개의 물리적 위치 사이에서, 물리적 환경 내에서, 모바일 컴퓨팅 디바이스의 움직임을 검출함으로써 초기화하고, 여기서 움직임은 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 구별가능하고 캡처되는 2개의 이미지 프레임들(이하, 이미지들)에 의해 경계 지어진다. 모바일 컴퓨팅 디바이스는 이미지 센서를 통해 검출된 이미지 블러(image blur)를, 모바일 컴퓨팅 디바이스(예를 들어, 관성 측정 유닛(IMU) 또는 가속도계)의 움직임 센서를 통해 검출된 움직임의 쇼크 또는 임펄스와 상관시키는 모바일 컴퓨팅 디바이스에 의해 2개의 구별가능한 이미지를 식별할 수 있다. 모바일 컴퓨팅 디바이스에 의해 검출되는 움직임은 모바일 컴퓨팅 디바이스가 처음에 움직임을 시작할 때 검출되는 쇼크 또는 임펄스를 포함할 수 있고, 모바일 컴퓨팅 디바이스가 최종적으로 움직임을 중단할 때 검출되는 쇼크 또는 임펄스를 또한 포함할 수 있다. 이러한 방식으로, 다양한 실시예들은 모바일 컴퓨팅 디바이스의 하나 이상의 센서로부터의 데이터를 모바일 컴퓨팅 디바이스의 이미지 센서에 의해 캡처되는 특정 이미지들에 결속시킬 수 있고, 이것은 결국 SLAM 프로세스의 동작을 초기화할 수 있다. 추가적으로, 다양한 실시예들은 실시예의 SLAM 프로세스가 이전의 이미지 프레임에 기초하여 각각의 키 이미지 프레임을 초기화하고 IMU를 이용하여 초기 거리를 결정하는 것을 허용할 수 있다.
일부 실시예들에서, 움직임은 모바일 컴퓨팅 디바이스를 홀드하고 있는 인간 개인에 의해 수행되는 사이드스텝(sidestep)을 포함하고, 이는 양호한 SLAM 초기화를 위해 충분한 시차를 제공할 수 있다. 특히, 실시예는 인간 개인의 움직임을 분석하고, 사이드스텝의 시작과 종료(예를 들어, 전형적인 인간의 사이드스텝에 기초함)에서 생성된 임펄스를 이용하여 움직임의 관련 부분들을 추출할 수 있다. 이어서, 실시예는 제1 및 제2 키 이미지 프레임들을 식별하고 제1 및 제2 키 이미지 프레임들에 기초하여 SLAM 프로세스를 초기화하기 위해 그 관련 부분들을 이용할 수 있다.
일부 실시예들은, SLAM 프로세스가 열악한 정확성(예를 들어, 잡음이 많은 IMU)을 제공하는 움직임 센서를 사용하면서, 모바일 컴퓨팅 디바이스의 로컬화를 결정하고 모바일 컴퓨팅 디바이스의 물리적 환경을 (예를 들어, 사용 가능한 또는 수용 가능한 정확도의 레벨로) 매핑할 수 있게 한다. 일부 실시예들은 SLAM 프로세스가 제한된 양의 이미지 데이터를 이용하면서 로컬화를 결정하고 물리적 환경을 매핑할 수 있게 한다. 일부 실시예는 SLAM 프로세스가 제한된 컴퓨팅 자원(예를 들어, 저전력 프로세서)을 사용하면서 실시간으로 로컬화를 결정하고 물리적 환경을 매핑할 수 있게 한다. 추가적으로, 일부 실시예는 SLAM 프로세스가 깊이 데이터를 이용하지 않고 로컬화를 결정하고 물리적 환경을 매핑할 수 있게 한다.
일부 실시예들의 SLAM 기술은 (예를 들어, 비디오 스트림의) 2차원(2D) 이미지 프레임들에서 키 포인트들(추적 포인트들)을 추적하고; 2D 이미지 프레임들에서의 3차원(3D) 피처들(예를 들어, 물리적 환경에서의 물리적 객체들)은 물론, 3D 피처들로의 카메라의 상대적 물리적 포즈(예를 들어, 위치)도 식별하는 데 이용될 수 있다.
예를 들어, 실시예의 SLAM 기술은 증강 현실(AR) 이미지 처리 및 이미지 프레임 추적과 함께 사용될 수 있다. 특히, AR 시스템을 위해 캡처된 이미지 프레임은 SLAM 기술을 이용하여 추적될 수 있고, 그 후 가상 객체는 스마트 안경, 스마트폰, 태블릿, 또는 다른 모바일 컴퓨팅 디바이스와 같은 디바이스의 AR 디스플레이의 일부로서 캡처된 이미지 프레임 내에 또는 그에 대해 배치될 수 있다. 본 명세서에서 이용되는 바와 같이, 증강 현실(AR)은 이미지 프레임들을 캡처할 수 있고, 그 이미지 프레임들을 추가 정보에 의해 강화(enhance)하고, 그리고 나서 강화된 정보를 디스플레이 상에 제시(present)할 수 있는 시스템들, 방법들, 디바이스들, 및 명령어들을 지칭한다. 이것은, 예를 들어, 사용자가 장면의 비디오 스트림을 캡처하기 위해 모바일 컴퓨팅 디바이스(예를 들어, 스마트폰 또는 태블릿)를 유지할 수 있게 하고, 모바일 컴퓨팅 디바이스의 출력 디스플레이가 추가 정보와 함께 사용자에게 보이는 장면을 제시할 수 있게 할 수 있다. 이 추가 정보는 가상 객체들이 장면에 존재하는 것처럼 가상 객체들이 제시되도록 장면 내에 가상 객체들을 배치하는 것을 포함할 수 있다. 이러한 가상 객체들의 양태들은, 물리적 환경을 캡처하는 이미지 센서의 관점에서 볼 때 다른 실제 또는 가상 객체가 그 가상 객체의 앞을 지나가면 그 가상 객체가 가려지도록 처리된다. 이러한 가상 객체들은 또한, 실제 객체와 가상 객체 양쪽 모두가 시간이 지남에 따라 이동할 때, 및 환경을 캡처하는 이미지 센서의 관점이 변화할 때, 실제 객체들과의 관계를 유지하도록 처리된다.
일부 실시예들은 전체 SLAM 프로세스의 사이클들을 수행하는 단계, 부분 SLAM 프로세스의 사이클들을 수행하는 단계, 및 부분 SLAM 프로세스 사이클들이 전체 SLAM 프로세스 사이클들보다 더 빈번하게 수행되도록 부분 SLAM 프로세스 사이클들 및 전체 SLAM 프로세스 사이클들을 수행하는 단계를 포함하는 방법을 제공한다. 다양한 실시예들에 따르면, 전체 SLAM 프로세스 사이클은 전체 SLAM 프로세스를 수행하고, 부분 SLAM 프로세스 사이클은 전체 SLAM 프로세스를 수행하는 것보다 수행하기 위해 컴퓨팅 자원(예를 들어, 처리, 메모리 자원들, 또는 둘 다)을 더 적게 요구하는 부분 SLAM 프로세스를 수행한다. 추가적으로, 부분 SLAM 프로세스는 전체 SLAM 프로세스 사이클보다 빠르게 수행될 수 있다.
일부 실시예들에서, 부분 SLAM 프로세스는 SLAM 프로세스의 로컬화 부분만을 수행한다. 대안적인 실시예들에서, 부분 SLAM 프로세스는 SLAM 프로세스의 매핑 부분만을 수행한다. SLAM 프로세스의 일부만을 수행함으로써, 부분 SLAM 프로세스는 전체 SLAM 프로세스보다 적은 컴퓨팅 자원을 이용하여 수행할 수 있고, 전체 SLAM 프로세스보다 빠르게 수행할 수 있다. 또한, 부분 SLAM 프로세스 사이클들보다 덜 빈번하게 전체 SLAM 프로세스 사이클들을 수행함으로써, 다양한 실시예들은 그 결과들을 달성하는 데 필요한 컴퓨터 자원들을 제한하면서 SLAM 결과들(예를 들어, 유용하고 정확한 SLAM 결과들)을 달성한다. 따라서, 다양한 실시예들은 그렇지 않으면 제한된 처리 능력을 갖는 스마트폰 또는 스마트 안경과 같은 전통적인 SLAM 기술들을 수행하기 위한 제한된 컴퓨팅 자원들을 갖는 디바이스 상의 SLAM 프로세스의 수행에 적합하다.
일부 실시예들에서, 이미지 프레임들은 모바일폰의 카메라와 같은 디바이스의 이미지 센서에 의해 캡처된다(예를 들어, 특정 샘플 레이트로 연속적으로 캡처된다). 일부 실시예들은 새로운 키 이미지 프레임들(key image frames)로서 식별되는(예를 들어, 생성되는) 캡처된 이미지 프레임들에 대해 전체 SLAM 프로세스 사이클들을 수행하고, 키 이미지 프레임들로서 식별되지 않은 캡처된 이미지 프레임들에 대해 부분 SLAM 프로세스 사이클들을 수행한다. 일부 실시예들에서, 하나 이상의 키 이미지 프레임 조건이 충족될 때 캡처된 이미지 프레임이 새로운 키 이미지 프레임으로서 식별된다(예를 들어, 생성된다). 다양한 실시예들은 캡처된 이미지 프레임들로부터 식별된 새로운 키 이미지 프레임들이 각각의 전체 SLAM 프로세스 사이클이 의도된 바와 같이 또는 예상된 바와 같이 수행되는 것을 보증하기에 충분히 고유한 것을 보장하기 위해 키 이미지 프레임 조건들을 사용한다.
예를 들어, 캡처된 이미지 프레임이 미리 결정된 품질보다 양호하지 않은 경우 적어도 미리 결정된 품질로 되어 있을 때(예를 들어, 공정 이미지 동등성(fair image equality)) 새로운 키 이미지 프레임이 생성될 수 있다. 이러한 방식으로, 실시예는 이미지 센서의 움직임에 의해 유발되는 이미지 블러를 캡처했을 가능성이 있는 이미지 센서의 움직임 동안 캡처된 이미지 프레임들을 새로운 이미지 프레임들로서 지정하는 것을 회피할 수 있다. 캡처된 이미지 프레임의 이미지 품질은 미리 결정된 수의 사전 캡처된 이미지 프레임들의 품질에 기초하여 현재 이미지 프레임의 품질을 결정할 수 있는 기울기 히스토그램 방법(gradient histogram method)에 의해 결정될 수 있다. 다른 예에서, 마지막 새로운 키 이미지 프레임의 식별(예를 들어, 생성) 사이에 특정 양의 시간 또는 특정 수의 사이클(예를 들어, 부분 SLAM 프로세스 사이클들)이 지난 후에만 새로운 키 이미지 프레임이 생성될 수 있다. 이러한 방식으로, 실시예는, 본 명세서에서 설명되는 바와 같이, 제한된 컴퓨팅 자원들을 갖는 디바이스에서 연속적인 수행을 행하기 위해 프로세서-집약적이거나 메모리-집약적일 수 있고 그에 적합하지 않을 수 있는, 모든 캡처된 이미지 프레임이 키 이미지 프레임으로서 취급되어 전체 SLAM 사이클에 의해 처리되는 것을 회피할 수 있다. 다른 예에서, 현재 캡처된 이미지 프레임과 이전 이미지 프레임 사이에서 특정 양의 변환(예를 들어, X, Y, 또는 Z 좌표들에 대한 물리적 환경에서의 이미지 센서 포지션 변화에 의해 야기됨)이 검출된 후에만 새로운 키 이미지 프레임이 생성될 수 있다. 이러한 방식으로, 실시예는 3차원(3D) 매핑 목적들을 위해 도움이 되지 않는, 새로운 키 이미지 프레임들로서 지정되는, 물리적 환경에서 동일한 포인트를 캡처하는, 너무 많은 이미지 프레임들을 회피할 수 있다.
일부 실시예들에서, 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들은 병렬로 수행될 수 있고, 그에 의해 전체 SLAM 프로세스 사이클들은 새로운 키 이미지 프레임들로서 식별되는 캡처된 이미지 프레임들에 대해서만 수행되고, 부분 SLAM 프로세스 사이클들은 비-키 이미지 프레임들(non-key image frames) 사이에 캡처되는 모든 다른 이미지 프레임들에 대해 수행된다. 추가적으로, 일부 실시예들에서, 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들은 본 명세서에서 설명된 바와 같이 SLAM 초기화가 수행된 후에 수행되기 시작한다. 예를 들어, 실시예의 SLAM 초기화 프로세스는 처음 2개의 키 이미지 프레임(예를 들어, 인간 개인에 의한 사이드스텝에 기초함)을 생성하고, 초기 로컬화 데이터(예를 들어, 제2 키 이미지 프레임에 대한 6 자유도(6DOF)를 포함함)를 제공하고, 초기 매핑 데이터(예를 들어, 처음 2개의 키 이미지 프레임 사이에 매칭되는 피처들의 3D 포지션들을 포함함)를 제공할 수 있다. 후속하여, 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들은 SLAM 초기화 프로세스에 의해 제공되는 초기 로컬화 및 매핑 데이터에 기초하여 수행되기 시작할 수 있다.
다양한 실시예들이 IMU의 사용에 관하여 본 명세서에 설명되지만, 일부 실시예들은 가속도계 또는 자이로스코프와 같은 IMU에 추가하여 또는 IMU를 대신하여 하나 이상의 다른 센서를 이용할 수 있다는 것을 이해할 것이다. 본 명세서에서 이용되는 바와 같이, 자유도(DOF)(예를 들어, IMU, 가속도계, 또는 자이로스코프에 의해 측정됨)는 변위(예를 들어, X, Y, 및 Z 좌표들에 따라 측정됨) 및 배향(예를 들어, 프사이(psi), 세타(theta) 및 파이(phi)에 따라 측정됨)을 포함할 수 있다. 따라서, 6 자유도(6DOF) 파라미터들은 x축, y축, 및 z축을 따르는 거리를 나타내는 값들, 및 오일러 각도들(Euler angles) 프사이, 세타, 및 파이에 따른 회전들을 나타내는 값들을 포함할 수 있다. 4 자유도(4DOF) 파라미터들은 x축, y축, 및 z축을 따르는 거리를 나타내는 값들, 및 오일러 각도(예를 들어, 파이)에 따른 회전을 나타내는 값을 포함할 수 있다.
뒤따르는 설명은 본 개시내용의 예시적인 실시예들을 구체화하는 시스템들, 방법들, 기법들, 명령어 시퀀스들, 및 컴퓨팅 머신 프로그램 제품들을 포함한다. 다음의 설명에서는, 설명의 목적들을 위하여, 수많은 특정 세부사항들이 발명 요지의 다양한 실시예들에 대한 이해를 제공하기 위하여 기재되어 있다. 그러나, 발명 요지의 실시예들은 이 특정 세부사항들없이 실시될 수도 있다는 것이 본 기술분야의 통상의 기술자들에게 분명할 것이다. 일반적으로, 널리-공지된 명령어 인스턴스들, 프로토콜들, 구조들, 및 기법들은 반드시 상세하게 도시되지는 않는다.
이제, 본 개시내용의 실시예들이 상세히 참조될 것이며, 그 예들은 첨부 도면들에 예시된다. 그렇지만, 본 개시내용은 많은 상이한 형태들로 구현될 수 있고, 본 명세서에 기재된 실시예들로 제한되는 것으로서 해석되어서는 안된다.
도 1은 일부 실시예들에 따른, 동시 로컬화 및 매핑(SLAM) 시스템(126)을 포함하는 예시적인 고레벨 클라이언트-서버 기반 네트워크 아키텍처(100)를 예시하는 블록도이다. 도시된 바와 같이, 네트워크 아키텍처(100)는 클라이언트 디바이스(102A) 및 클라이언트 디바이스(102B)(이하, 집합적으로 클라이언트 디바이스들(102)이라고 함) - SLAM 시스템(126)은 클라이언트 디바이스(102B)에 포함됨 - ; 메시징 서버 시스템(108); 및 클라이언트 디바이스들(102)과 메시징 서버 시스템(108) 사이의 데이터 통신을 용이하게 하는 네트워크(106)(예를 들어, 인터넷 또는 WAN(wide area network))를 포함한다. 네트워크 아키텍처(100)에서, 메시징 서버 시스템(108)은 네트워크(106)를 통해 클라이언트 디바이스들(102)에 서버측 기능을 제공할 수 있다. 일부 실시예들에서, 사용자(이제 도시됨)가 클라이언트 디바이스들(102) 중 하나 또는 클라이언트 디바이스들(102) 중 하나를 이용하여 메시징 서버 시스템(108)과 상호작용한다.
클라이언트 디바이스들(102)은 적어도 디스플레이, 및 네트워크(106)를 통해 메시징 서버 시스템(108)과의 통신들을 제공하는 통신 능력들을 포함하는 컴퓨팅 디바이스를 포함할 수 있다. 클라이언트 디바이스들(102) 각각은 원격 디바이스, 워크 스테이션, 컴퓨터, 범용 컴퓨터, 인터넷 어플라이언스, 핸드헬드 디바이스, 무선 디바이스, 휴대용 디바이스, 웨어러블 컴퓨터, 셀룰러 또는 모바일폰, 개인 휴대 정보 단말기(PDA), 스마트폰, 태블릿, 울트라북, 넷북, 랩톱, 데스크톱, 멀티-프로세서 시스템, 마이크로프로세서 기반 또는 프로그램가능 소비자 전자기기, 게임 콘솔, 셋톱 박스, 네트워크 개인용 컴퓨터(PC), 미니 컴퓨터 등을 포함할 수 있고, 이에 한정되는 것은 아니다. 실시예에 따라, 클라이언트 디바이스들(102) 중 적어도 하나는 터치 스크린, 관성 측정 유닛(IMU), 가속도계, 자이로스코프, 바이오메트릭 센서, 카메라, 마이크로폰, GPS(Global Positioning System) 디바이스, 및 이와 유사한 것 중 하나 이상을 포함할 수 있다.
일부 실시예들에서, 클라이언트 디바이스(102B)는 이미지 센서를 포함하는 모바일폰, 태블릿, 또는 웨어러블 디바이스(예를 들어, 스마트 안경, 스마트 바이저(smart visor) 또는 스마트 워치)와 같은 모바일 컴퓨팅 디바이스를 나타낸다. 도시된 바와 같이, 클라이언트 디바이스(102B)는 클라이언트 디바이스(102B)의 이미지 센서(예를 들어, 카메라), 및 관성 측정 유닛(IMU), 가속도계 또는 자이로스코프와 같은 다른 센서들을 포함할 수 있는 센서들(128)을 포함한다. 다양한 실시예들에서, 센서들(128)은 클라이언트 디바이스(102B)에서의 SLAM 시스템(126)의 동작을 용이하게 한다.
SLAM 시스템(126)은 클라이언트 디바이스(102B)에 대해 실시예의 SLAM 기술을 수행하고, 이는 클라이언트 디바이스(102B)가 그 물리적 환경을 매핑하는 동시에 그 물리적 환경 내에서 그 위치를 결정하는 것을 허용할 수 있다. 추가적으로, 일부 실시예들에서, SLAM 시스템(126)은 전통적인 SLAM 기술들이 의도된 바와 같이 클라이언트 디바이스(102B)에서 동작하는 것을 방지할 수 있는, 제한된 컴퓨팅 자원들(예를 들어, 처리 또는 메모리 자원들)을 갖는 클라이언트 디바이스(102B)에도 불구하고 클라이언트 디바이스(102B)에서의 SLAM 기술의 수행을 허용한다. SLAM 시스템(126)에 의해 수행되는 SLAM 기술은 클라이언트 디바이스(102B)의 증강 현실 시스템(124)에 대한 이미지 프레임 추적을 지원할 수 있다.
도시된 바와 같이, 클라이언트 디바이스(102B)는 클라이언트 디바이스(102B)에서 동작하는 증강 현실 애플리케이션을 나타낼 수 있는 증강 현실 시스템(124)을 포함한다. 증강 현실 시스템(124)은 클라이언트 디바이스(102B)의 디스플레이(예를 들어, AR 디스플레이) 상에 디스플레이하기 위한 증강 현실 이미지들을 생성하는 기능을 제공할 수 있다. 네트워크 아키텍처(100)는 클라이언트 디바이스(102B)에 의해 포함되는 증강 현실 시스템(124)에 의해 클라이언트 디바이스(102B) 상에 디스플레이될 가상 객체들에 대한 정보를 통신하거나, 증강 현실 시스템(124)에 의해 사용되는 모델들을 생성하는 데 사용되는 데이터(예를 들어, 거리 뷰 데이터)를 제공하는 데 사용될 수 있다. 증강 현실 시스템(124)에 대해 캡처된 이미지 프레임은 SLAM 시스템(126)을 이용하여 추적될 수 있고, 그 후 가상 객체는 클라이언트 디바이스(102B)의 AR 디스플레이의 일부로서 캡처된 이미지 프레임 내에 또는 그에 대해 배치될 수 있다.
클라이언트 디바이스들(102) 각각은 단기적 메시지 애플리케이션(ephemeral message application)과 같은 메시징 클라이언트 애플리케이션(104)을 포함하는 다수의 애플리케이션을 호스팅할 수 있다. 각각의 메시징 클라이언트 애플리케이션(104)은 네트워크(106)(예를 들어, 인터넷)를 통해 메시징 클라이언트 애플리케이션(104) 및 메시징 서버 시스템(108)의 다른 인스턴스들에 통신가능하게 결합될 수 있다. 따라서, 각각의 메시징 클라이언트 애플리케이션(104)은 네트워크(106)를 통해 다른 메시징 클라이언트 애플리케이션(104)과 그리고 메시징 서버 시스템(108)과 데이터를 통신 및 교환이 가능할 수 있다. 메시징 클라이언트 애플리케이션들(104) 사이에, 그리고 메시징 클라이언트 애플리케이션(104)과 메시징 서버 시스템(108) 사이에 교환되는 데이터는, 기능들(예를 들어, 기능들을 호출하는 커맨드들)뿐만 아니라, 페이로드 데이터(예를 들어, 텍스트, 오디오, 비디오 또는 다른 멀티미디어 데이터)를 포함할 수 있다.
메시징 서버 시스템(108)은 네트워크(106)를 통해 특정 메시징 클라이언트 애플리케이션(104)에 서버측 기능을 제공한다. 네트워크 아키텍처(100)의 특정 기능들이 메시징 클라이언트 애플리케이션(104)에 의해 또는 메시징 서버 시스템(108)에 의해 수행되는 것으로서 본 명세서에서 설명되지만, 메시징 클라이언트 애플리케이션(104) 또는 메시징 서버 시스템(108) 내의 특정 기능의 위치가 설계 선택이라는 것을 알 것이다. 예를 들어, 처음에 메시징 서버 시스템(108) 내에 특정 기술 및 기능을 배치하지만, 나중에 클라이언트 디바이스(102)가 충분한 처리 용량을 갖는 메시징 클라이언트 애플리케이션(104)으로 이 기술 및 기능을 이동시키는 것이 기술적으로 바람직할 수 있다.
메시징 서버 시스템(108)은 메시징 클라이언트 애플리케이션(104) 또는 증강 현실 시스템(124)에 제공되는 다양한 서비스들 및 동작들을 지원한다. 이러한 동작들은 메시징 클라이언트 애플리케이션(104) 또는 증강 현실 시스템(124)에 데이터를 전송하고, 그로부터 데이터를 수신하고, 그에 의해 생성되는 데이터를 처리하는 것을 포함한다. 이 데이터는, 예로서, 메시지 콘텐츠, 클라이언트 디바이스 정보, 지오로케이션(geolocation) 정보, 미디어 주석 및 오버레이들(media annotation and overlays), 메시지 콘텐츠 지속 조건들(message content persistence conditions), 소셜 네트워크 정보, 증강 현실(AR) 콘텐츠, 및 라이브 이벤트 정보를 포함할 수 있다. 네트워크 아키텍처(100) 내에서의 데이터 교환들은 메시징 클라이언트 애플리케이션(104) 또는 증강 현실 시스템(124)의 사용자 인터페이스들(UI들)을 통해 이용가능한 기능들을 통해 호출되고 제어된다.
이제 메시징 서버 시스템(108)을 구체적으로 참조하면, 애플리케이션 프로그램 인터페이스(Application Program Interface)(API) 서버(110)가 애플리케이션 서버(112)에 결합되어 있고, 애플리케이션 서버(112)에 프로그램적 인터페이스를 제공한다. 애플리케이션 서버(112)는 데이터베이스 서버(118)에 통신가능하게 결합되고, 이는 애플리케이션 서버(112)에 의해 처리되는 메시지들 또는 증강 현실 관련 데이터와 연관된 데이터가 저장되는 데이터베이스(120)에 대한 액세스를 용이하게 한다.
애플리케이션 프로그램 인터페이스(API) 서버(110)를 구체적으로 다루면, 이 서버(110)는 클라이언트 디바이스들(102)과 애플리케이션 서버(112) 사이에 메시지 데이터(예를 들어, 커맨드들 및 메시지 페이로드들)를 수신 및 전송한다. 구체적으로, API 서버(110)는 애플리케이션 서버(112)의 기능을 호출하기 위해 메시징 클라이언트 애플리케이션(104)에 의해 호출되거나 질의될 수 있는 인터페이스들(예를 들어, 루틴들 및 프로토콜들)의 세트를 제공한다. API 서버(110)는 애플리케이션 서버(112)에 의해 지원되는 다양한 기능들을 노출시키는데, 다양한 기능들은, 계정 등록; 로그인 기능; 메시지들을 애플리케이션 서버(112)를 통해 특정 메시징 클라이언트 애플리케이션(104)으로부터 다른 메시징 클라이언트 애플리케이션(104)으로 전송; 메시징 클라이언트 애플리케이션(104)으로부터 메시징 서버 애플리케이션(114)으로의 미디어 파일들(예를 들어, 이미지들 또는 비디오)의 전송, 및 다른 메시징 클라이언트 애플리케이션(104)에 의한 가능한 액세스를 위해, 미디어 데이터의 컬렉션(예를 들어, 스토리)의 설정; 클라이언트 디바이스(102)의 사용자의 친구들의 리스트의 검색; 이러한 컬렉션들의 검색; 메시지들 및 콘텐츠의 검색; 소셜 그래프에 대한 친구들의 추가 및 삭제; 소셜 그래프 내의 친구들의 위치; 애플리케이션 이벤트(예를 들어, 메시징 클라이언트 애플리케이션(104)에 관한 것) 열기를 포함한다.
애플리케이션 서버(112)는 메시징 서버 애플리케이션(114), 이미지 처리 시스템(116) 및 소셜 네트워크 시스템(122)을 포함하는 다수의 애플리케이션들 및 서브시스템들을 호스팅한다. 메시징 서버 애플리케이션(114)은 메시징 클라이언트 애플리케이션(104)의 다수의 인스턴스들로부터 수신된 메시지들에 포함된 콘텐츠(예를 들어, 텍스트 및 멀티미디어 콘텐츠)의 집성(aggregation) 및 다른 처리에 특히 관련된 다수의 메시지 처리 기술들 및 기능들을 구현한다. 다수의 소스들로부터의 텍스트 및 미디어 콘텐츠는 콘텐츠의 컬렉션들(예를 들어, 스토리들 또는 갤러리들이라고 함)로 집성될 수 있다. 이러한 컬렉션들은 그 다음에 메시징 서버 애플리케이션(114)에 의해 메시징 클라이언트 애플리케이션(104)에 이용 가능하게 된다. 데이터의 다른 프로세서 및 메모리 집약적 처리가 또한 이러한 처리를 위한 하드웨어 요건들을 고려하여 메시징 서버 애플리케이션(114)에 의해 서버측에서 수행될 수 있다.
애플리케이션 서버(112)는 또한 통상적으로 메시징 서버 애플리케이션(114)에서 메시지의 페이로드 내에서 수신된 이미지들 또는 비디오에 관하여 다양한 이미지 처리 동작들을 수행하는 것에 전용인 이미지 처리 시스템(116)을 포함한다.
소셜 네트워크 시스템(122)은 다양한 소셜 네트워킹 기능 서비스를 지원하고, 이들 기능 및 서비스를 메시징 서버 애플리케이션(114)에 이용가능하게 한다. 이를 위해, 소셜 네트워크 시스템(122)은 데이터베이스(120) 내의 엔티티 그래프를 유지하고 액세스한다. 소셜 네트워크 시스템(122)에 의해 지원되는 기능들 및 서비스들의 예들은, 특정 사용자가 관계를 가지거나 "팔로우하는" 메시징 시스템(108)의 다른 사용자들의 식별, 및 또한 특정 사용자의 다른 엔티티들 및 관심사들의 식별을 포함한다.
애플리케이션 서버(112)는 데이터베이스 서버(118)에 통신가능하게 결합되고, 이는 애플리케이션 서버(112)에 의해 처리되는 메시지들 또는 증강 현실 콘텐츠와 연관된 데이터가 저장되는 데이터베이스(120)에 대한 액세스를 용이하게 한다.
도 2는 일부 실시예에 따른, SLAM 시스템(240)을 포함하는 예시적인 컴퓨팅 디바이스(200)를 예시하는 블록도이다. 컴퓨팅 디바이스(200)는 인간 개인이 물리적 환경 내에서 쉽게 이동할 수 있는, 모바일폰, 태블릿, 랩톱, 웨어러블 디바이스 등과 같은 모바일 컴퓨팅 디바이스를 나타낼 수 있다. 도시된 바와 같이, 컴퓨팅 디바이스(200)는 프로세서(210), 이미지 센서(220), 관성 측정 유닛(IMU)(230), 및 SLAM 시스템(240)을 포함한다. SLAM 시스템(240)은 이미지 프레임 캡처 모듈(241), IMU 데이터 캡처 모듈(242), 키 이미지 프레임 모듈(243), 전체 SLAM 사이클 모듈(244), 및 부분 SLAM 사이클 모듈(245)을 포함한다. 실시예에 따라, SLAM 시스템(240)은 SLAM 초기화 모듈(246)을 포함하거나 포함하지 않을 수 있다.
SLAM 시스템(240)의 기능 컴포넌트들(예를 들어, 모듈들) 중 임의의 하나 이상은 하드웨어(예를 들어, 컴퓨팅 디바이스(200)의 프로세서(210)) 또는 하드웨어와 소프트웨어의 조합을 이용하여 구현될 수 있다. 예를 들어, 본 명세서에서 설명되는 컴포넌트들 중 임의의 하나는 그 컴포넌트에 대해 본 명세서에서 설명되는 동작들을 수행하도록 프로세서(210)를 구성할 수 있다. 더욱이, 이 컴포넌트들 중 임의의 2개 이상의 컴포넌트가 단일 컴포넌트로 결합될 수 있고, 단일 컴포넌트에 대해 본 명세서에서 설명되는 기능들이 다수의 컴포넌트들 간에 세분될 수 있다. 또한, 다양한 예시적인 실시예들에 따르면, 도 2에 예시된 기능 컴포넌트들 중 임의의 것은 단일 머신, 데이터베이스, 또는 디바이스 내에서 함께 또는 개별적으로 구현될 수 있거나, 또는 다수의 머신들, 데이터베이스들, 또는 디바이스들에 걸쳐 분산될 수 있다.
프로세서(210)는 중앙 처리 유닛(CPU)을 포함할 수 있고, 이미지 센서(220)는 컴퓨팅 디바이스(200)에 내장되는 카메라 또는 컴퓨팅 디바이스(200)에 외부적으로 결합되는 카메라를 포함할 수 있고, IMU(230)는 컴퓨팅 디바이스(200)가 아닌 경우에도 적어도 이미지 센서(220)에 대해 자유도(예를 들어, 6DOF)를 측정할 수 있는 센서를 포함할 수 있다. 도시되지는 않았지만, 컴퓨팅 디바이스(200)는 가속도계 또는 자이로스코프와 같은 SLAM 시스템(240)의 동작을 용이하게 하는 다른 센서들을 포함할 수 있다.
이미지 프레임 캡처 모듈(241)은 이미지 센서(220)에 의해 컴퓨팅 디바이스(200)의 물리적 환경의 새로운 이미지 프레임들의 연속적 캡처를 호출, 야기, 또는 수행할 수 있다. 연속적 캡처는 초당 25 또는 30 프레임과 같은 미리 결정된 샘플링 레이트에 따라 수행될 수 있다. 이미지 프레임 캡처 모듈(241)은 이미지 센서(220)에 의해 연속적으로 캡처된 새로운 이미지 프레임들을 캡처된 이미지 프레임들의 세트에 추가할 수 있으며, 이는 SLAM 시스템(240)에 의해 더 처리될 수 있다.
IMU 데이터 캡처 모듈(242)은 이미지 프레임 캡처 모듈(241)에 의해 캡처된 이미지 프레임들에 대응하여 IMU(230)로부터의 IMU 데이터의 연속적 캡처를 호출, 야기, 또는 수행할 수 있다. 예를 들어, IMU 데이터 캡처 모듈(242)은 캡처된 각각의 이미지 프레임에 대한 IMU 데이터를 캡처할 수 있다. 주어진 캡처된 이미지 프레임에 대해, 캡처된 IMU 데이터는 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 이미지 센서의 자유도(DOF) 파라미터들을 포함할 수 있다. DOF 파라미터들은, 예를 들어, 이미지 센서(220)에 대해 측정된 4 자유도(4DOF) 또는 6 자유도(6DOF)를 포함할 수 있다. IMU(230), 이미지 센서(220), 및 컴퓨팅 디바이스(200)가 단일 유닛으로서 물리적으로 통합되는 경우, IMU 데이터는 이미지 센서(220) 및 컴퓨팅 디바이스(200)의 DOF 파라미터들을 반영할 수 있다.
(예를 들어, 이미지 프레임 캡처 모듈(241)에 의해) 캡처된 이미지 프레임들의 세트에 추가된 각각의 특정 새로운 이미지 프레임에 대해, 키 이미지 프레임 모듈(243)은 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는지를 결정할 수 있다. 키 이미지 프레임 모듈(243)은 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는 것에 응답하여 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별할 수 있다. 이러한 방식으로, 키 이미지 프레임 모듈(243)은 키 이미지 프레임 조건들의 세트에 따라 새로운 키 이미지 프레임들을 생성할 수 있다. 본 명세서에 설명된 바와 같이, 키 이미지 프레임 조건들의 세트는 새로운 키 이미지 프레임들이 전체 SLAM 프로세스 사이클에 의한 처리를 위해 충분히 고유하다는 것을 보장할 수 있다. 예시적인 키 이미지 프레임 조건은 새로운 이미지 프레임이 특정 이미지 품질을 만족하는지 또는 초과하는지, 전체 SLAM 프로세스 사이클이 마지막으로 수행된 이후에 최소 시간이 경과되었는지, 또는 이전 이미지 프레임과 새로운 이미지 프레임 사이의 변환이 최소 변환 임계치를 만족하는지 또는 초과하는지에 관련될 수 있다.
전체 SLAM 사이클 모듈(244)은 키 이미지 프레임 모듈(243)에 의해 식별된 각각의 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행할 수 있다. 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임과 연관하여 컴퓨팅 디바이스의 이미지 센서의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임에서 매칭되는 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 것을 포함할 수 있다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 6과 관련하여 설명된다.
부분 SLAM 사이클 모듈(245)은 키 이미지 프레임 모듈(243)에 의해 식별되지 않은 각각의 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행할 수 있다. 일부 실시예들에서, 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 로컬화 부분만을 수행한다. 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 이미지 프레임과 연관하여 컴퓨팅 디바이스(200)의 이미지 센서(220)의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 이미지 센서(220)의 6DOF에 기초하여 특정 새로운 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 것을 포함할 수 있다. 대안적으로, 일부 실시예들에서, 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 매핑 부분만을 수행한다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 7과 관련하여 설명된다.
SLAM 초기화 모듈(246)은, IMU 데이터 캡처 모듈(242)로부터의 캡처된 IMU 데이터에 기초하여, 물리적 환경에서의 제1 포즈(예를 들어, 이미지 센서(220)의 배향 또는 위치)로부터 물리적 환경에서의 제2 포즈로의 이미지 센서(220)의 움직임을 검출할 수 있다. SLAM 초기화 모듈(246)은 움직임에 기초하여 제1 키 이미지 프레임 및 제2 키 이미지 프레임을 식별할 수 있다. 특히, 제1 및 제2 키 이미지 프레임들은 제1 키 이미지 프레임이 움직임의 시작 임펄스에 대응하고, 제2 키 이미지가 움직임의 종료 임펄스(finish impulse)에 대응하도록 식별될 수 있다. 예를 들어, 인간 개인이 컴퓨팅 디바이스(200)를 홀드하고 있는 경우, 움직임의 시작 임펄스는 인간 개인에 의해 수행되는 사이드스텝의 시작일 수 있고, 움직임의 종료 임펄스는 사이드스텝의 종료일 수 있다. 시작 또는 종료 임펄스는 컴퓨팅 디바이스(200)의 쇼크 기능을 이용하여 검출될 수 있다.
도 3 내지 도 7은 다양한 실시예들에 따른, SLAM 처리를 위한 예시적인 방법들을 예시하는 흐름도들이다. 본 명세서에서 설명되는 예시적인 방법들은 일부 실시예들에 따라 컴퓨팅 디바이스(예를 들어, 컴퓨팅 디바이스(200))와 같은 디바이스에 의해 수행될 수 있다는 것을 이해할 것이다. 추가적으로, 본 명세서에서 설명되는 예시적인 방법들은 컴퓨터 판독가능 매체 상에 저장된 실행가능 명령어들의 형태로 또는 전자 회로의 형태로 구현될 수 있다. 예를 들어, 도 3의 방법(300)의 하나 이상의 동작은, 컴퓨팅 디바이스의 프로세서에 의해 실행될 때, 컴퓨팅 디바이스로 하여금 방법(300)을 수행하게 하는 실행가능 명령어들에 의해 표현될 수 있다. 실시예에 따라, 본 명세서에서 설명되는 예시적인 방법의 동작은 상이한 방식들로 반복되거나 도시되지 않은 개재 동작들을 수반할 수 있다. 예시적인 방법들의 동작들이 특정 순서로 도시되고 설명될 수 있지만, 동작들이 수행되는 순서는 특정 동작들을 병렬로 수행하는 것을 포함하여, 실시예들 사이에서 변경될 수 있다.
도 3은 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(300)을 예시하는 흐름도이다. 특히, 방법(300)은 실시예가 전체 SLAM 프로세스 사이클들 및 부분 SLAM 프로세스 사이클들을 수행할 수 있는 방법을 예시한다. 도시된 바와 같이, 방법(300)은 컴퓨팅 디바이스의 이미지 센서에 의해 컴퓨팅 디바이스의 물리적 환경의 새로운 이미지 프레임들의 연속적 캡처를 호출, 야기, 또는 수행하는 동작(302)으로 시작한다. 동작(302)은 새로운 이미지 프레임들을 캡처된 이미지 프레임들의 세트에 추가하고, 이는 방법(300)에 의해 추가로 처리될 수 있다. 방법(300)은, 동작(302)에 의해 캡처된 이미지 프레임들에 대응하여, 컴퓨팅 디바이스의 관성 측정 유닛(IMU)으로부터의 IMU 데이터의 연속적 캡처를 호출, 야기, 또는 수행하는 동작(304)으로 계속된다. 본 명세서에 설명된 바와 같이, 특정 이미지 프레임의 IMU 데이터는, 이미지 프레임이 동작(302)에 의해 캡처된 시간에, IMU에 의해 측정되는 바와 같은, 이미지 센서의 자유도(DOF)를 포함할 수 있다.
방법(300)은, 동작(302)에 의해 캡처된 이미지 프레임들의 세트에 캡처되고 추가된 각각의 특정 새로운 이미지 프레임에 대해 동작들(320 내지 326)을 수행하는 동작(306)으로 계속된다. 동작(306)은, 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는지를 결정하는 동작(320)으로 시작된다. 동작(306)은, 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족된다고 결정하는 동작(320)에 응답하여, 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별하는 동작(322)으로 계속된다.
동작(306)은 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 동작(324)으로 계속된다. 미래의 처리 목적을 위해, 일부 실시예들은 키 이미지 프레임들로서 식별된 이미지 프레임들을 추적한다. 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임과 연관하여 컴퓨팅 디바이스의 이미지 센서의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 키 이미지 프레임에서 매칭되는 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 것을 포함할 수 있다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 6과 관련하여 설명된다.
동작(306)은, 키 이미지 프레임 조건들의 세트가 특정 새로운 이미지 프레임(예를 들어, 비-키 새로운 이미지 프레임들)에 대해 충족되지 않는다고 결정하는 동작(320)에 응답하여 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 동작(326)으로 계속된다. 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 특정 새로운 이미지 프레임과 연관하여 컴퓨팅 디바이스의 이미지 센서의 6DOF를 결정하는 것을 포함할 수 있다. 추가적으로, 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 것은 이미지 센서의 6DOF에 기초하여 특정 새로운 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 것을 포함할 수 있다. 부분 SLAM 프로세스 사이클들에 관한 더 많은 것이 도 7과 관련하여 설명된다.
도 4는 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(400)을 예시하는 흐름도이다. 특히, 방법(400)은 실시예가 SLAM 프로세스를 초기화하고, 전체 SLAM 프로세스 사이클들을 수행하고, 부분 SLAM 프로세스 사이클들을 수행하는 방법을 예시한다. 도시된 바와 같이, 방법(400)은, 일부 실시예들에 따르면, 도 3과 관련하여 전술한 방법(300)의 동작들(302 및 304)과 각각 유사한 동작들(402 및 404)로 시작한다.
방법(400)은, 캡처된 IMU 데이터에 기초하여, 물리적 환경에서의 제1 포즈(예를 들어, 이미지 센서의 배향 또는 위치)로부터 물리적 환경에서의 제2 포즈로의 이미지 센서의 움직임을 검출하는 동작(406)으로 계속된다. 방법(400)은, 동작(406)에 의해 검출된 움직임에 기초하여 제1 키 이미지 프레임 및 제2 키 이미지 프레임을 식별하는 동작(408)으로 계속된다. 일부 실시예들에서, 제1 키 이미지 프레임은 움직임의 시작 임펄스에 대응하고, 제2 키 이미지 프레임은 움직임의 종료 임펄스에 대응한다. 동작들(406 및 408)에 의해, 일부 실시예들은 동작(410)에 의한 전체 및 부분 SLAM 프로세스 사이클들의 수행을 위한 방법(400)을 초기화할 수 있다. 본 명세서에서 설명되는 바와 같이, 움직임은 방법(400)을 수행하고 이미지 센서를 포함하는 컴퓨팅 디바이스를 홀드하면서 사이드스텝을 수행하는 인간 개인에 의해 야기될 수 있다.
방법(400)은, 동작(402)에 의해 캡처된 이미지 프레임들의 세트에 캡처되고 추가된 각각의 특정 새로운 이미지 프레임에 대해 동작들(420 내지 426)을 수행하는 동작(410)으로 계속된다. 일부 실시예들에 따르면, 동작들(420 내지 426)은 도 3과 관련하여 전술한 방법(300)의 동작들(320 내지 326)과 각각 유사하다.
도 5는 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(500)을 예시하는 흐름도이다. 특히, 방법(500)은 실시예가 SLAM 프로세스를 초기화할 수 있는 방법을 예시한다. 도시된 바와 같이, 방법(500)은, 일부 실시예들에 따르면, 도 3과 관련하여 전술한 방법(300)의 동작들(302 및 304)과 각각 유사한 동작들(502 및 504)로 시작한다.
방법(500)은 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 동작(506)으로 계속된다. 식별된 제1 키 이미지 프레임은 특정 이미지 품질(예를 들어, 공정 품질)을 포함할 수 있고, IMU(예를 들어, IMU(230))가 이미지 센서가 안정적이라는 것을 나타낼 때 이미지 센서(예를 들어, 이미지 센서(220))에 의해 캡처되는 것일 수 있다. 따라서, 동작(506)은 이미지 센서가 안정적인 동안 이미지 프레임이 캡처되고 캡처된 이미지 프레임이 특정 이미지 품질을 만족할 때까지 제1 키 이미지 프레임을 식별하지 않을 수 있다.
방법(500)은 동작(504)에 의해 캡처된 IMU 데이터로부터 제1 키 이미지 프레임과 연관된 제1 IMU 데이터를 식별하는 동작(508)으로 계속된다. 일부 실시예들에서, 제1 IMU 데이터는 4DOF 파라미터들(예를 들어, x, y, z, 및 파이)을 포함한다. 제1 IMU 데이터는 제1 키 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 캡처된 IMU 데이터를 나타낼 수 있다.
방법(500)은, IMU에 의해, 물리적 환경에서의 제1 포즈(예를 들어, 배향 또는 위치)로부터 물리적 환경에서의 제2 포즈로의 이미지 센서의 움직임을 검출하는 동작(510)으로 계속된다. 본 명세서에서 설명되는 바와 같이, 움직임은 방법(500)을 수행하고 이미지 센서 및 IMU를 포함하는 컴퓨팅 디바이스를 홀드하면서 사이드스텝을 수행하는 인간 개인에 의해 야기될 수 있다.
방법(500)은, 동작(510)에 의해 움직임을 검출하는 것에 응답하여 동작들(520 내지 528)을 수행하는 동작(512)으로 계속된다. 동작(512)은 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 동작(520)으로 시작한다. 제1 키 이미지 프레임은 제1 키 이미지 프레임이 동작(510)에 의해 검출된 움직임의 시작에 대응하도록 동작(506)에 의해 식별될 수 있지만, 제2 키 이미지 프레임은 제2 키 이미지 프레임이 동작(510)에 의해 검출된 움직임의 종료에 대응하도록 동작(520)에 의해 식별될 수 있다.
동작(512)은, 동작(504)에 의해 캡처된 IMU 데이터로부터, 제2 키 이미지 프레임과 연관된 제2 IMU 데이터를 식별하는 동작(522)으로 계속된다. 일부 실시예들에서, 제2 IMU 데이터는 4DOF 파라미터들(예를 들어, x, y, z, 및 파이)을 포함한다. 제2 IMU 데이터는 제2 키 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 캡처된 IMU 데이터를 나타낼 수 있다.
동작(512)은, 적어도 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭(feature matching)을 수행하여 물리적 환경에서의 매칭 3D 피처들의 세트를 식별하는 동작(524)으로 계속된다. 일부 실시예들에서, 동작(524)은 이미지 프레임들에 걸쳐 피처들을 매칭함으로써 이미지 프레임들의 세트로부터 3D 피처들을 추출하는 KAZE 또는 A-KAZE에 기초한 피처 매칭기(feature matcher)를 사용한다. 동작(512)은 에러 기준들의 세트에 기초하여, 동작(524)에 의해 생성된 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작(526)으로 계속된다. 예를 들어, 에러 기준들의 세트는 에피폴라 축(epipolar axis), 투영된 에러, 또는 공간 에러에 관한 에러 기준을 포함할 수 있다. 피처 에러들이 발견되는 경우, 방법(500)은 동작(524)으로 되돌아가서 피처 매칭을 다시 수행할 수 있다. 동작(512)은 제2 키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 세트 및 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 동작(528)으로 계속된다. 이 결정을 용이하게 하기 위해, 동작(512)은 동작(506)에 의해 식별된 제1 IMU 데이터, 동작(522)에 의해 식별된 제2 IMU 데이터, 및 동작(526)에 의해 추출된 매칭 3D 피처들의 필터링된 세트에 기초하여 제2 키 이미지 프레임에 대해 (전체) SLAM 프로세스를 수행한다.
도 6은 일부 실시예들에 따른, SLAM 처리를 위한 예시적인 방법(600)을 예시하는 흐름도이다. 특히, 방법(600)은 실시예가 전체 SLAM 프로세스 사이클을 수행할 수 있는 방법을 예시한다. 일부 실시예들에서, 방법(600)은 SLAM 초기화 프로세스(예를 들어, 방법(500))에 의해 적어도 2개의 키 이미지 프레임이 생성될 때까지 수행되지 않는다. 도시된 바와 같이, 방법(600)은 캡처된 IMU 데이터로부터, 새로운 키 이미지 프레임과 연관되는 특정 IMU 데이터를 식별하는 동작(602)으로 시작한다. IMU 데이터는 새로운 키 이미지 프레임이 이미지 센서에 의해 캡처된 시간에 캡처된 IMU 데이터를 나타낼 수 있다.
방법(600)은 새로운 키 이미지 프레임 및 적어도 하나의 이전 이미지 프레임(예를 들어, 마지막 2개의 캡처된 이미지 프레임)에 대해 피처 매칭을 수행하여 물리적 환경에서의 매칭 3D 피처들의 세트를 식별하는 동작(604)으로 계속된다. 일부 실시예들에서, 동작(604)은 이미지 프레임들에 걸쳐 피처들을 매칭함으로써 이미지 프레임들의 세트로부터 3D 피처들을 추출하는 KAZE 또는 A-KAZE에 기초한 피처 매칭기를 사용한다. 방법(600)은 동작(604)에 의해 추출된 매칭 3D 피처들의 세트 및 동작(602)에 의해 식별된 특정 IMU 데이터에 기초하여 새로운 키 이미지 프레임에 대해 (전체) SLAM 프로세스를 수행함으로써 새로운 키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 제1 세트를 결정하는 동작(606)으로 계속된다.
방법(600)은 동작(606)에 의해 결정된 6DOF 파라미터들의 제1 세트 및 에러 기준들의 세트에 기초하여, 동작(604)에 의해 추출된 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작(608)으로 계속된다. 본 명세서에서 설명되는 바와 같이, 에러 기준들의 세트는 에피폴라 축, 투영된 에러, 또는 공간 에러에 관한 에러 기준을 포함할 수 있다. 예를 들어, 에러 기준은 최악의 투영 에러들의 최상위 3%를 나타내는 피처들을 필터링하는 것을 특정할 수 있다.
방법(600)은 동작(608)에 의해 생성된 매칭 3D 피처들의 제2 필터링된 세트 및 동작(602)에 의해 식별된 특정 IMU 데이터에 기초하여 모든 키 이미지 프레임들에 대해 (전체) SLAM 프로세스를 수행함으로써 새로운 키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 제2 세트 및 물리적 환경에서의 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 동작(610)으로 계속된다.
도 7은 일부 실시예에 따른, SLAM 처리를 위한 예시적인 방법(700)을 예시하는 흐름도이다. 특히, 방법(700)은 실시예가 부분 SLAM 프로세스 사이클을 수행할 수 있는 방법을 예시한다. 도시된 바와 같이, 방법(700)은 전체 SLAM 프로세스 사이클(예를 들어, 방법(600))의 마지막 수행에 의해 제공된 새로운 3D 피처들의 3D 포지션들의 세트 및 전체 SLAM 프로세스 사이클에 의해(예를 들어, 방법(600)에 의해) 가장 최근에 처리된 새로운 이미지 프레임에 기초하여, 비-키 이미지 프레임에 대해 피처 추적(feature tracking)을 수행하는 동작(702)으로 시작한다. 일부 실시예들에서, 동작(702)은 마지막으로 수행된 전체 SLAM 프로세스 사이클에 의해 처리되는 새로운 키 이미지 프레임으로부터 2D 피처들을 추출하는 KLT(Kanade-Lucas-Tomasi) 방법에 기초한 2D 추적기를 사용한다. 방법(700)은 동작(702)으로부터의 2D 피처들의 세트에 기초하여 SLAM 프로세스의 로컬화 부분만을 수행함으로써 비-키 이미지 프레임에 대한 이미지 센서의 6DOF 파라미터들의 세트를 결정하는 동작(704)으로 계속된다. 방법(700)은, 동작(704)에 의해 결정된 6DOF 파라미터들의 세트 및 에러 기준들의 세트에 기초하여, 동작(702)에 의해 식별된 2D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 2D 피처들의 필터링된 세트를 생성하는 동작(706)으로 계속된다. 에러 기준들의 세트는, 예를 들어, 에피폴라 축, 투영된 에러, 또는 공간 에러에 관한 에러 기준을 포함할 수 있다. 방법(700)은, 동작(706)에 의해 생성된 2D 피처들의 필터링된 세트 및 동작(704)에 의해 결정된 6DOF 파라미터들의 세트에 기초하여 비-키 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 동작(708)으로 계속된다. 일부 실시예들에서, 추적 포인트들의 세트는 비-키 이미지 프레임에 대한 2D 가상 추적을 허용하며, 이는 증강 현실과 같은 애플리케이션들에서 유용할 수 있다.
소프트웨어 아키텍처
도 8은 실시예를 구현하기 위해 본 명세서에서 설명되는 다양한 하드웨어 아키텍처들과 관련하여 사용될 수 있는 예시적인 소프트웨어 아키텍처(806)를 예시하는 블록도이다. 도 8은 소프트웨어 아키텍처의 비제한적인 예이며, 본 명세서에 설명된 기능을 용이하게 하기 위해 많은 다른 아키텍처가 구현될 수 있다는 것이 인식될 것이다. 소프트웨어 아키텍처(806)는, 특히, 프로세서들(904), 메모리(914), 및 I/O 컴포넌트들(918)을 포함하는 도 9의 머신(900)과 같은 하드웨어 상에서 실행될 수 있다. 대표적인 하드웨어 계층(852)이 예시되고, 예를 들어, 도 9의 머신(900)을 나타낼 수 있다. 대표적인 하드웨어 계층(852)은 연관된 실행가능 명령어들(804)을 갖는 프로세서 유닛(854)을 포함한다. 실행가능 명령어들(804)은 본 명세서에서 설명되는 방법들, 컴포넌트들 등의 구현을 포함하는 소프트웨어 아키텍처(806)의 실행가능 명령어들을 나타낸다. 하드웨어 계층(852)은 실행가능 명령어들(804)을 또한 갖는 메모리 및/또는 스토리지 모듈들인 메모리/스토리지(856)를 또한 포함한다. 하드웨어 계층(852)은 다른 하드웨어(858)를 또한 포함할 수 있다.
도 8의 예시적인 아키텍처에서, 소프트웨어 아키텍처(806)는, 각각의 계층이 특정 기능을 제공하는 계층들의 스택으로서 개념화될 수 있다. 예를 들어, 소프트웨어 아키텍처(806)는 오퍼레이팅 시스템(802), 라이브러리들(820), 프레임워크들/미들웨어(818), 애플리케이션들(816), 및 프레젠테이션(presentation) 계층(814)과 같은 계층들을 포함할 수 있다. 동작적으로, 계층들 내의 애플리케이션들(816) 및/또는 다른 컴포넌트들은 소프트웨어 스택을 통해 애플리케이션 프로그래밍 인터페이스(application programming interface)(API) 호출들(808)을 불러오고 메시지들(812)로서 응답을 수신할 수 있다. 예시된 계층들은 본질적으로 대표적인 것이며, 모든 소프트웨어 아키텍처가 모든 계층을 갖는 것은 아니다. 예를 들어, 일부 모바일 또는 특수 목적 오퍼레이팅 시스템들은 프레임워크들/미들웨어(818)를 제공하지 않을 수 있고, 다른 것들은 이러한 계층을 제공할 수 있다. 다른 소프트웨어 아키텍처들은 부가의 또는 상이한 계층들을 포함할 수 있다.
오퍼레이팅 시스템(802)은 하드웨어 자원들을 관리하고 공통 서비스들을 제공할 수 있다. 오퍼레이팅 시스템(802)은, 예를 들어, 커널(822), 서비스들(824) 및 드라이버들(826)을 포함할 수 있다. 커널(822)은 하드웨어와 다른 소프트웨어 계층들 사이에서 추상화 계층(abstraction layer)으로서 작용할 수 있다. 예를 들어, 커널(822)은 메모리 관리, 프로세서 관리(예를 들어, 스케줄링), 컴포넌트 관리, 네트워킹, 보안 설정들 등을 담당할 수 있다. 서비스들(824)은 다른 소프트웨어 계층들을 위한 다른 공통 서비스들을 제공할 수 있다. 드라이버들(826)은 밑에 있는 하드웨어를 제어하거나 그와 인터페이싱하는 것을 담당한다. 예를 들어, 드라이버들(826)은 하드웨어 구성에 따라 디스플레이 드라이버들, 카메라 드라이버들, 블루투스® 드라이버들, 플래시 메모리 드라이버들, 직렬 통신 드라이버들(예를 들어, USB(Universal Serial Bus) 드라이버들), Wi-Fi® 드라이버들, 오디오 드라이버들, 전력 관리 드라이버들 등을 포함한다.
라이브러리들(820)은 애플리케이션들(816) 및/또는 다른 컴포넌트들 및/또는 계층들에 의해 사용되는 공통 인프라스트럭처를 제공한다. 라이브러리들(820)은 다른 소프트웨어 컴포넌트들이 밑에 있는 오퍼레이팅 시스템(underlying operating system)(802) 기능(예를 들어, 커널(822), 서비스들(824) 및/또는 드라이버들(826))과 직접 인터페이싱하는 것보다 더 용이한 방식으로 작업들을 수행할 수 있게 하는 기능을 제공한다. 라이브러리들(820)은 메모리 할당 기능들, 문자열 조작 기능들, 수학 기능들 등과 같은 기능들을 제공할 수 있는 시스템 라이브러리들(844)(예를 들어, C 표준 라이브러리)을 포함할 수 있다. 게다가, 라이브러리들(820)은 미디어 라이브러리들(예를 들어, MPEG4, H.264, MP3, AAC, AMR, JPG, PNG와 같은 다양한 미디어 포맷의 제시 및 조작을 지원하는 라이브러리들), 그래픽 라이브러리들(예를 들어, 디스플레이 상의 그래픽 콘텐츠에서 2D 및 3D를 렌더링하는 데 이용될 수 있는 OpenGL 프레임워크), 데이터베이스 라이브러리들(예를 들어, 다양한 관계 데이터베이스 기능들을 제공할 수 있는 SQLite), 웹 라이브러리들(예를 들어, 웹 브라우징 기능을 제공할 수 있는 WebKit) 등과 같은 API 라이브러리들(846)을 포함할 수 있다. 라이브러리들(820)은 많은 다른 API를 애플리케이션들(816) 및 다른 소프트웨어 컴포넌트들/모듈들에 제공하는 다양한 다른 라이브러리들(848)을 또한 포함할 수 있다.
프레임워크들/미들웨어(818)(때때로 미들웨어로도 지칭됨)는 애플리케이션들(816) 및/또는 다른 소프트웨어 컴포넌트들/모듈들에 의해 이용될 수 있는 더 높은 레벨의 공통 인프라스트럭처를 제공한다. 예를 들어, 프레임워크들/미들웨어(818)는 다양한 그래픽 사용자 인터페이스(graphic user interface)(GUI) 기능들, 고레벨 자원 관리, 고레벨 위치 서비스들 등을 제공할 수 있다. 프레임워크들/미들웨어(818)는 애플리케이션들(816) 및/또는 다른 소프트웨어 컴포넌트들/모듈들에 의해 이용될 수 있는 광범위한 다른 API들을 제공할 수 있으며, 그 중 일부는 특정 오퍼레이팅 시스템(802) 또는 플랫폼에 특정적일 수 있다.
애플리케이션들(816)은 내장 애플리케이션들(built-in applications)(838) 및/또는 제3자 애플리케이션들(third-party applications)(840)을 포함한다. 대표적인 내장 애플리케이션들(838)의 예들은, 연락처 애플리케이션, 브라우저 애플리케이션, 북 리더 애플리케이션, 위치 애플리케이션, 미디어 애플리케이션, 메시징 애플리케이션, 및/또는 게임 애플리케이션을 포함할 수 있고, 이것으로 제한되지는 않는다. 제3자 애플리케이션들(840)은 특정 플랫폼의 벤더 이외의 엔티티에 의해 ANDROID™ 또는 IOS™ 소프트웨어 개발 키트(software development kit)(SDK)를 사용하여 개발되는 애플리케이션을 포함할 수 있으며, IOS™, ANDROID™, WINDOWS® Phone 또는 다른 모바일 오퍼레이팅 시스템들과 같은 모바일 오퍼레이팅 시스템에서 실행되는 모바일 소프트웨어일 수 있다. 제3자 애플리케이션들(840)은 본 명세서에서 설명된 기능을 용이하게 하기 위해 모바일 오퍼레이팅 시스템(예를 들어, 오퍼레이팅 시스템(802))에 의해 제공되는 API 호출들(808)을 불러올 수 있다.
애플리케이션들(816)은 내장 오퍼레이팅 시스템 기능들(예를 들어, 커널(822), 서비스들(824) 및/또는 드라이버들(826)), 라이브러리들(820) 및 프레임워크들/미들웨어(818)를 이용하여 시스템의 사용자들과 상호작용하는 사용자 인터페이스들을 생성할 수 있다. 대안적으로, 또는 추가적으로, 일부 시스템들에서, 사용자와의 상호작용들은 프레젠테이션 계층(814)과 같은 프레젠테이션 계층을 통해 발생할 수 있다. 이 시스템들에서, 애플리케이션/컴포넌트 "로직"은 사용자와 상호작용하는 애플리케이션/컴포넌트의 양태들과 분리될 수 있다.
도 9는, 머신 판독가능 매체(예를 들어, 머신 판독가능 저장 매체)로부터 명령어들(804)을 판독하여 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행할 수 있는, 일부 실시예에 따른, 머신(900)의 컴포넌트들을 예시하는 블록도이다. 구체적으로는, 도 9는, 그 안에서 머신(900)으로 하여금 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행하게 하기 위한 명령어들(910)(예를 들어, 소프트웨어, 프로그램, 애플리케이션, 애플릿, 앱, 또는 다른 실행가능 코드)이 실행될 수 있는, 컴퓨터 시스템의 예시적인 형태의 머신(900)의 도식적 표현을 도시한다. 이와 같이, 명령어들(910)은 본 명세서에 설명된 모듈들 또는 컴포넌트들을 구현하는 데 사용될 수 있다. 명령어들(910)은, 일반적인 비프로그래밍된 머신(900)을, 설명되고 예시된 기능들을 설명된 방식으로 수행하도록 프로그래밍된 특정 머신(900)으로 변환한다. 대안적인 실시예들에서, 머신(900)은 독립형 디바이스로서 동작하거나 또는 다른 머신들에 결합(예를 들어, 네트워킹)될 수 있다. 네트워킹된 배치에서, 머신(900)은 서버-클라이언트 네트워크 환경에서 서버 머신 또는 클라이언트 머신으로서 동작하거나, 피어-투-피어(또는 분산형) 네트워크 환경에서 피어 머신으로서 동작할 수 있다. 머신(900)은, 서버 컴퓨터, 클라이언트 컴퓨터, 개인용 컴퓨터(PC), 태블릿 컴퓨터, 랩톱 컴퓨터, 넷북, 셋톱 박스(STB), 개인 휴대 정보 단말기(PDA), 엔터테인먼트 미디어 시스템, 셀룰러 전화기, 스마트폰, 모바일 컴퓨팅 디바이스, 웨어러블 디바이스(예를 들어, 스마트 워치), 스마트 홈 디바이스(예를 들어, 스마트 어플라이언스), 다른 스마트 디바이스들, 웹 어플라이언스, 네트워크 라우터, 네트워크 스위치, 네트워크 브리지, 또는 머신(900)에 의해 취해질 액션들을 특정하는 명령어들(910)을 순차적으로 또는 다른 방식으로 실행할 수 있는 임의의 머신을 포함할 수 있고, 이들로 제한되지 않는다. 또한, 오직 단일 머신(900)이 예시되어 있지만, 용어 "머신"은 본 명세서에서 논의되는 방법론들 중 임의의 하나 이상을 수행하기 위해 명령어들(910)을 개별적으로 또는 공동으로 실행하는 머신들의 컬렉션을 포함하는 것으로 또한 간주되어야 한다.
머신(900)은, 예컨대 버스(902)를 통해 서로 통신하도록 구성될 수 있는, 프로세서들(904), 메모리/스토리지(906), 및 I/O 컴포넌트들(918)을 포함할 수 있다. 메모리/스토리지(906)는 메인 메모리, 또는 다른 메모리 스토리지와 같은 메모리(914), 및 스토리지 유닛(916)을 포함할 수 있으며, 둘 다 예컨대 버스(902)를 통해 프로세서들(904)에 액세스 가능하다. 스토리지 유닛(916) 및 메모리(914)는 본 명세서에 설명된 방법론들 또는 기능들 중 임의의 하나 이상을 구현하는 명령어들(910)을 저장한다. 명령어들(910)은 또한 머신(900)에 의한 실행 동안, 완전히 또는 부분적으로, 메모리(914) 내에, 스토리지 유닛(916) 내에, 프로세서들(904) 중 적어도 하나 내에(예를 들어, 프로세서의 캐시 메모리 내에), 또는 이들의 임의의 적합한 조합으로 존재할 수 있다. 따라서, 메모리(914), 스토리지 유닛(916), 및 프로세서들(904)의 메모리는 머신 판독가능 매체의 예들이다.
I/O 컴포넌트들(918)은 입력을 수신하고, 출력을 제공하고, 출력을 생성하고, 정보를 전송하고, 정보를 교환하고, 측정들을 캡처하는 것 등을 위해 매우 다양한 컴포넌트를 포함할 수 있다. 특정 머신(900)에 포함되는 특정 I/O 컴포넌트들(918)은 머신의 타입에 의존할 것이다. 예를 들어, 모바일폰과 같은 휴대용 머신들은 아마 터치 입력 디바이스 또는 다른 그러한 입력 메커니즘들을 포함할 것인 반면, 헤드리스 서버 머신(headless server machine)은 아마 그러한 터치 입력 디바이스를 포함하지 않을 것이다. I/O 컴포넌트들(918)은 도 9에 도시되지 않은 많은 다른 컴포넌트들을 포함할 수 있다는 것이 인식될 것이다. I/O 컴포넌트들(918)은 단지 다음의 논의를 간략화하기 위해 기능에 따라 그룹화되고, 그룹화는 결코 제한적인 것이 아니다. 다양한 예시적인 실시예들에서, I/O 컴포넌트들(918)은 출력 컴포넌트들(926) 및 입력 컴포넌트들(928)을 포함할 수 있다. 출력 컴포넌트들(926)은 시각 컴포넌트들(예를 들어, 플라즈마 디스플레이 패널(PDP), 발광 다이오드(LED) 디스플레이, 액정 디스플레이(LCD), 프로젝터, 또는 음극선관(CRT)과 같은 디스플레이), 청각 컴포넌트들(예를 들어, 스피커들), 햅틱 컴포넌트들(예를 들어, 진동 모터, 저항 메커니즘들), 다른 신호 생성기들 등을 포함할 수 있다. 입력 컴포넌트들(928)은, 영숫자 입력 컴포넌트들(예를 들어, 키보드, 영숫자 입력을 수신하도록 구성되는 터치 스크린, 포토-광학 키보드(photo-optical keyboard), 또는 다른 영숫자 입력 컴포넌트들), 포인트 기반 입력 컴포넌트들(예를 들어, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서, 또는 다른 포인팅 기구), 촉각 입력 컴포넌트들(예를 들어, 물리적 버튼, 터치들 또는 터치 제스처들의 위치 및/또는 힘을 제공하는 터치 스크린, 또는 다른 촉각 입력 컴포넌트들), 오디오 입력 컴포넌트들(예를 들어, 마이크로폰) 등을 포함할 수 있다.
추가의 예시적인 실시예들에서, I/O 컴포넌트들(918)은 광범위한 다른 컴포넌트들 중에서 바이오메트릭 컴포넌트들(930), 모션 컴포넌트들(934), 환경 컴포넌트들(936), 또는 포지션 컴포넌트들(938)을 포함할 수 있다. 예를 들어, 바이오메트릭 컴포넌트들(930)은, 표현들(예를 들어, 손 표현, 얼굴 표정, 음성 표현, 신체 제스처, 또는 시선 추적(eye tracking))을 검출하고, 생체신호들(예를 들어, 혈압, 심박수, 체온, 땀 또는 뇌파)을 측정하고, 사람을 식별(예를 들어, 음성 식별, 망막 식별, 얼굴 식별, 지문 식별, 또는 뇌파 기반 식별(electroencephalogram based identification))하는 것 등을 위한 컴포넌트들을 포함할 수 있다. 모션 컴포넌트들(934)은 가속도 센서 컴포넌트들(예를 들어, 가속도계), 중력 센서 컴포넌트들, 회전 센서 컴포넌트들(예를 들어, 자이로스코프) 등을 포함할 수 있다. 환경 컴포넌트들(936)은, 예를 들어, 조명 센서 컴포넌트들(예를 들어, 광도계), 온도 센서 컴포넌트들(예를 들어, 주위 온도를 검출하는 하나 이상의 온도계), 습도 센서 컴포넌트들, 압력 센서 컴포넌트들(예를 들어, 기압계), 음향 센서 컴포넌트들(예를 들어, 배경 노이즈를 검출하는 하나 이상의 마이크로폰), 근접 센서 컴포넌트들(예를 들어, 인근 객체들을 검출하는 적외선 센서들), 가스 센서들(예를 들어, 안전을 위해 유해성 가스들의 농도들을 검출하거나 대기 내의 오염물질들을 측정하기 위한 가스 검출 센서들), 또는 주변 물리적 환경에 대응하는 표시들, 측정들, 또는 신호들을 제공할 수 있는 다른 컴포넌트들을 포함할 수 있다. 포지션 컴포넌트들(938)은, 위치 센서 컴포넌트들(예를 들어, GPS(Global Position System) 수신기 컴포넌트), 고도 센서 컴포넌트들(예를 들어, 고도계 또는 고도가 도출될 수 있는 기압을 검출하는 기압계), 배향 센서 컴포넌트들(예를 들어, 자력계) 등을 포함할 수 있다.
통신은 매우 다양한 기술을 사용하여 구현될 수 있다. I/O 컴포넌트들(918)은 결합(924) 및 결합(922)을 통해 각각 네트워크(932) 또는 디바이스들(920)에 머신(900)을 결합하도록 동작가능한 통신 컴포넌트들(940)을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(940)은 네트워크(932)와 인터페이싱하기 위한 네트워크 인터페이스 컴포넌트 또는 다른 적절한 디바이스를 포함할 수 있다. 추가 예들에서, 통신 컴포넌트들(940)은 유선 통신 컴포넌트들, 무선 통신 컴포넌트들, 셀룰러 통신 컴포넌트들, 근접장 통신(Near Field Communication)(NFC) 컴포넌트들, 블루투스® 컴포넌트들(예를 들어, 블루투스® 로우 에너지), Wi-Fi® 컴포넌트들, 및 다른 양상들(modalities)을 통해 통신을 제공하는 다른 통신 컴포넌트들을 포함할 수 있다. 디바이스들(920)은 다른 머신 또는 매우 다양한 주변 디바이스들 중 임의의 것(예를 들어, 범용 직렬 버스(USB)를 통해 결합된 주변 디바이스)일 수 있다.
더욱이, 통신 컴포넌트들(940)은 식별자들을 검출할 수 있거나 식별자들을 검출하도록 동작가능한 컴포넌트들을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(940)은 RFID(Radio Frequency Identification) 태그 판독기 컴포넌트들, NFC 스마트 태그 검출 컴포넌트들, 광학 판독기 컴포넌트들(예를 들어, UPC(Universal Product Code) 바코드와 같은 1차원 바코드들, QR(Quick Response) 코드와 같은 다차원 바코드들, Aztec 코드, 데이터 매트릭스(Data Matrix), Dataglyph, MaxiCode, PDF417, 울트라 코드(Ultra Code), UCC RSS-2D 바코드, 및 다른 광학 코드들을 검출하는 광학 센서), 또는 음향 검출 컴포넌트들(예를 들어, 태깅된 오디오 신호들을 식별하는 마이크로폰들)을 포함할 수 있다. 게다가, 인터넷 프로토콜(IP) 지오-로케이션을 통한 위치, Wi-Fi® 신호 삼각측량을 통한 위치, 특정 위치를 표시할 수 있는 NFC 비컨 신호 검출을 통한 위치 등과 같은, 다양한 정보가 통신 컴포넌트들(940)을 통해 도출될 수 있다.
본 명세서에서 이용되는 바와 같이, "단기적 메시지(ephemeral message)"는 시간-제한된 지속기간(time-limited duration)(예를 들어, 최대 10초) 동안 액세스가능한 메시지를 지칭할 수 있다. 단기적 메시지는 텍스트 콘텐츠, 이미지 콘텐츠, 오디오 콘텐츠, 비디오 콘텐츠 등을 포함할 수 있다. 단기적 메시지에 대한 액세스 시간은 메시지 송신기에 의해 설정될 수 있거나, 대안적으로, 액세스 시간은 디폴트 설정 또는 수신자에 의해 특정된 설정일 수 있다. 설정 기법에 관계없이, 단기적 메시지는 일시적이다. 단기적 메시지와 연관된 메시지 지속기간 파라미터는 단기적 메시지가 단기적 메시지의 수신 사용자에 의해 디스플레이되거나 액세스될 수 있는 시간의 양을 결정하는 값을 제공할 수 있다. 단기적 메시지는 단기적 메시징 애플리케이션과 같은 단기적 메시지의 콘텐츠를 수신 및 디스플레이할 수 있는 메시징 클라이언트 소프트웨어 애플리케이션을 이용하여 액세스되거나 디스플레이될 수 있다.
또한 본 명세서에서 이용되는 바와 같이, "단기적 메시지 스토리(ephemeral message story)"는 단기적 메시지와 유사한, 시간-제한된 지속기간 동안 액세스가능한 단기적 메시지 콘텐츠의 컬렉션을 지칭할 수 있다. 단기적 메시지 스토리는 한 사용자로부터 다른 사용자로 전송될 수 있고, 단기적 메시징 애플리케이션과 같은 단기적 콘텐츠의 컬렉션을 수신 및 디스플레이할 수 있는 메시징 클라이언트 소프트웨어 애플리케이션을 이용하여 액세스되거나 디스플레이될 수 있다.
본 명세서의 전반에 걸쳐, 복수의 사례들은 단일 사례로서 설명된 컴포넌트들, 동작들, 또는 구조들을 구현할 수 있다. 하나 이상의 방법의 개별적인 동작들은 별도의 동작들로서 예시되고 설명되지만, 개별적인 동작들 중 하나 이상은 동시에 수행될 수 있고, 어떤 것도 동작들이 예시된 순서로 수행될 것을 요구하지는 않는다. 예시적인 구성들에서 별도의 컴포넌트들로서 제시된 구조들 및 기능은 조합된 구조 또는 컴포넌트로서 구현될 수 있다. 유사하게, 단일 컴포넌트로서 제시된 구조들 및 기능은 별도의 컴포넌트들로서 구현될 수 있다. 이러한 그리고 다른 변형들, 수정들, 추가들, 및 개선들은 본 명세서에서의 요지의 범위 내에 속한다.
발명 요지의 개요는 특정 예시적인 실시예들을 참조하여 설명되었지만, 본 개시내용의 실시예들의 더 넓은 범위로부터 벗어나지 않고 이 실시예들에 대해 다양한 수정들 및 변경들이 행해질 수 있다.
본 명세서에서 예시된 실시예들은 본 기술분야의 통상의 기술자들이 개시된 교시사항들을 실시하는 것을 가능하게 할 정도로 충분히 상세하게 설명된다. 다른 실시예들이 이용될 수 있고 그로부터 도출될 수 있어서, 본 개시내용의 범위로부터 벗어나지 않고 구조적 및 논리적 치환들 및 변경들이 행해질 수 있다. 그러므로, 상세한 설명은 제한적인 의미로 취해진 것이 아니고, 다양한 실시예들의 범위는 이러한 청구항들에 부여되는 등가물들의 전체 범위와 함께, 오직 첨부된 청구항들에 의해 정의된다.
본 명세서에서 이용되는 바와 같이, 모듈들은 소프트웨어 모듈들(예를 들어, 머신 판독가능 매체에 또는 송신 매체에 저장되거나 다른 방식으로 구현되는 코드), 하드웨어 모듈들, 또는 이들의 임의의 적절한 조합을 구성할 수 있다. "하드웨어 모듈"은 특정 동작들을 수행할 수 있는 유형의(tangible)(예를 들어, 비일시적) 물리적 컴포넌트(예를 들어, 하나 이상의 프로세서의 세트)이며, 특정 물리적 방식으로 구성되거나 배열될 수 있다. 다양한 실시예들에서, 하나 이상의 컴퓨터 시스템 또는 그것의 하나 이상의 하드웨어 모듈은 그 모듈에 대한 본 명세서에서 설명되는 동작들을 수행하도록 동작하는 하드웨어 모듈로서 소프트웨어(예를 들어, 애플리케이션 또는 그의 부분)에 의해 구성될 수 있다.
일부 실시예들에서, 하드웨어 모듈은 전자적으로 구현될 수 있다. 예를 들어, 하드웨어 모듈은 특정 동작들을 수행하도록 영구적으로 구성되는 전용 회로부 또는 로직을 포함할 수 있다. 하드웨어 모듈은 FPGA(field programmable gate array) 또는 ASIC와 같은 특수 목적 프로세서일 수 있거나 이를 포함할 수 있다. 하드웨어 모듈은 특정 동작들을 수행하도록 소프트웨어에 의해 일시적으로 구성되는 프로그램가능한 로직 또는 회로부를 또한 포함할 수 있다. 예로서, 하드웨어 모듈은 CPU 또는 다른 프로그램가능한 프로세서 내에 포함된 소프트웨어를 포함할 수 있다.
하드웨어 모듈들이 일시적으로 구성되는(예를 들어, 프로그래밍되는) 실시예들을 고려하면, 하드웨어 컴포넌트들 각각이 임의의 하나의 시간 인스턴스에서 구성 또는 인스턴스화될 필요는 없다. 예를 들어, 하드웨어 모듈이 특수 목적 프로세서가 되도록 소프트웨어에 의해 구성되는 CPU를 포함하는 경우, CPU는 상이한 시간들에서 각각 상이한 특수 목적 프로세서들(예를 들어, 각각 상이한 하드웨어 모듈에 포함됨)로서 구성될 수 있다. 따라서 소프트웨어(예를 들어, 소프트웨어 모듈)는, 예를 들어, 하나의 시간 인스턴스에서는 특정 하드웨어 모듈이 되거나 다른 방식으로 그것을 구성하고 상이한 시간 인스턴스에서는 상이한 하드웨어 모듈이 되거나 다른 방식으로 그것을 구성하도록 하나 이상의 프로세서를 구성할 수 있다.
하드웨어 모듈들은 다른 하드웨어 모듈들에 정보를 제공하고, 다른 하드웨어 모듈들로부터 정보를 수신할 수 있다. 따라서, 설명된 하드웨어 모듈들은 통신가능하게 결합되는 것으로서 간주될 수 있다. 다수의 하드웨어 모듈들이 동시에 존재하는 경우, 하드웨어 모듈들 중 2개 이상 사이에서의 또는 그 중에서의 (예를 들어, 적절한 회로들 및 버스들을 통한) 신호 송신을 통해 통신들이 달성될 수 있다. 다수의 하드웨어 모듈들이 상이한 시간들에서 구성되거나 인스턴스화되는 실시예들에서, 이러한 하드웨어 모듈들 사이의 통신들은 예를 들어, 다수의 하드웨어 모듈들이 액세스하는 메모리 구조들에서의 정보의 저장 및 검색을 통해 달성될 수 있다. 예를 들어, 하나의 하드웨어 모듈이 동작을 수행할 수 있고 그에 통신가능하게 결합되는 메모리(예를 들어, 메모리 디바이스)에 그 동작의 출력을 저장할 수 있다. 그 후, 추가의 하드웨어 모듈이, 나중에, 저장된 출력을 검색 및 처리하기 위해 메모리에 액세스할 수 있다. 하드웨어 모듈들은 또한, 입력 또는 출력 디바이스들과의 통신들을 개시할 수 있고, 자원(예를 들어, 컴퓨팅 자원으로부터의 정보의 컬렉션) 상에서 동작할 수 있다.
본 명세서에서 설명되는 예시적인 방법들의 다양한 동작들은, 관련 동작들을 수행하도록 (예를 들어, 소프트웨어에 의해) 일시적으로 구성되거나 또는 영구적으로 구성되는 하나 이상의 프로세서에 의해 적어도 부분적으로 수행될 수 있다. 일시적으로 구성되든 영구적으로 구성되든 간에, 그러한 프로세서들은 본 명세서에 설명된 하나 이상의 동작 또는 기능을 수행하도록 동작하는 프로세서-구현되는 모듈들(processor-implemented modules)을 구성할 수 있다. 본 명세서에서 이용되는 바와 같이, "프로세서-구현되는 모듈"은 하드웨어가 하나 이상의 프로세서를 포함하는 하드웨어 모듈을 지칭한다. 따라서, 본 명세서에서 설명되는 동작들은 적어도 부분적으로 프로세서-구현, 하드웨어-구현, 또는 둘 다일 수 있는데, 그 이유는 프로세서가 하드웨어의 예이고, 본 명세서에서 논의되는 방법들 중 임의의 하나 이상의 방법 내의 적어도 일부 동작들이 하나 이상의 프로세서-구현되는 모듈들, 하드웨어-구현되는 모듈들, 또는 이들의 임의의 적절한 조합에 의해 수행될 수 있기 때문이다.
본 명세서에서 이용되는 바와 같이, 용어 "또는"은 포괄적 또는 배타적 의미의 어느 하나로 해석될 수 있다. 단수 용어("a" 또는 "an")는 "적어도 하나", "하나 이상" 등을 의미하는 것으로 해석되어야 한다. "하나 이상", "적어도", "그러나 이에 제한되지 않는" 또는 다른 유사한 문구들과 같은 단어들 및 문구들의 사용은 그러한 광범위한 문구들이 존재하지 않을 수 있는 사례들에서 더 좁은 경우가 의도되거나 요구된다는 것을 의미하는 것으로 해석되지 않아야 할 것이다.
다양한 자원들, 동작들, 모듈들, 엔진들, 및 데이터 저장소들 사이의 경계들은 다소 임의적이고, 특정 동작들은 특정 예시적인 구성들의 맥락에서 예시된다. 기능의 다른 할당들이 구상되고, 본 개시내용의 다양한 실시예들의 범위 내에 속할 수 있다. 일반적으로, 예시적인 구성들에서 별도의 자원들로서 제시된 구조들 및 기능은 조합된 구조 또는 자원으로서 구현될 수 있다. 유사하게, 단일 자원으로서 제시된 구조들 및 기능은 별도의 자원들로서 구현될 수 있다. 이러한 그리고 다른 변형들, 수정들, 추가들, 및 개선들은 첨부된 청구항들에 의해 나타나는 바와 같이 본 개시내용의 실시예들의 범위 내에 속한다. 따라서, 명세서 및 도면들은 한정적인 의미보다는 예시적으로 간주되어야 한다.
위의 설명은 본 개시내용의 예시적인 실시예들을 구현하는 시스템들, 방법들, 디바이스들, 명령어들, 및 컴퓨터 매체(예를 들어, 컴퓨팅 머신 프로그램 제품들)를 포함한다. 설명에서는, 설명의 목적들을 위하여, 수많은 특정 세부사항들이 발명 요지의 다양한 실시예들의 이해를 제공하기 위해 기재되어 있다. 그러나, 발명 요지의 실시예들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 본 기술분야의 통상의 기술자들에게 분명할 것이다. 일반적으로, 널리-공지된 명령어 인스턴스들, 프로토콜들, 구조들, 및 기법들은 반드시 상세하게 도시되지는 않는다.
Claims (20)
- 방법으로서,
하나 이상의 하드웨어 프로세서에 의해, 이미지 센서에 의해 캡처되는 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 단계;
물리적 환경에서의 제1 포즈(pose)로부터 상기 물리적 환경에서의 제2 포즈로의 상기 이미지 센서의 움직임(movement) 이후에:
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 적어도 상기 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭(feature matching)을 수행하여, 상기 물리적 환경에서의 매칭 3차원(3D) 피처들의 세트(a set of matching three-dimensional (3D) features)를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 에러 기준들의 세트(a set of error criteria)에 기초하여, 상기 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처(erroneous feature)를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 단계; 및
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 제2 키 이미지 프레임에 대한 상기 이미지 센서의 6 자유도(6DOF) 파라미터들의 제1 세트 및 상기 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 단계
를 포함하고,
상기 결정하는 단계는 관성 측정 유닛(inertial measurement unit)(IMU)에 의해 캡처된 제1 IMU 데이터, 상기 IMU에 의해 캡처된 제2 IMU 데이터, 및 상기 매칭 3D 피처들의 필터링된 세트에 기초하여 동시 로컬화 및 매핑(simultaneous localization and mapping)(SLAM) 프로세스를 수행하는 단계를 포함하는 방법. - 제1항에 있어서, 상기 제1 IMU 데이터는 상기 이미지 센서의 4 자유도(4DOF) 파라미터들의 세트를 포함하고, 상기 제2 IMU 데이터는 상기 이미지의 4DOF 파라미터들의 세트를 포함하는 방법.
- 제1항에 있어서, 상기 이미지 센서는 디바이스에 포함되는 방법.
- 제3항에 있어서, 상기 이미지 센서의 움직임은 사이드스텝(sidestep)을 수행하는 상기 디바이스를 홀드(hold)하고 있는 인간 개인에 의해 야기되는 방법.
- 제4항에 있어서, 상기 제1 키 이미지 프레임을 식별하는 단계는 상기 사이드스텝의 시작 임펄스(start impulse)를 검출하는 단계를 포함하고, 상기 제1 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 시작 임펄스에 대응하는 특정 이미지 프레임인 방법.
- 제4항에 있어서, 상기 제2 키 이미지 프레임을 식별하는 단계는 상기 사이드스텝의 종료 임펄스(finish impulse)를 검출하는 단계를 포함하고, 상기 제2 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 종료 임펄스에 대응하는 특정 이미지 프레임인 방법.
- 제1항에 있어서,
상기 캡처된 이미지 프레임들의 세트에 추가된 각각의 특정 새로운 이미지 프레임에 대해:
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트(a set of key image frame conditions)가 충족되는지를 결정하는 단계;
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되는 것에 응답하여, 상기 하나 이상의 하드웨어 프로세서에 의해, 상기 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별하고, 상기 하나 이상의 하드웨어 프로세서에 의해, 상기 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클(full SLAM process cycle)을 수행하는 단계; 및
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되지 않는 것에 응답하여, 상기 하나 이상의 하드웨어 프로세서에 의해, 비-키 이미지 프레임(non-key image frame)으로서 상기 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 단계 - 상기 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 로컬화 부분만을 포함함 -
를 추가로 포함하는 방법. - 제7항에 있어서, 상기 키 이미지 프레임 조건들의 세트는 상기 새로운 이미지 프레임이 특정 이미지 품질과 동일한지 또는 특정 이미지 품질을 초과하는지, 상기 전체 SLAM 프로세스 사이클이 마지막으로 수행된 이후에 최소 시간이 경과되었는지, 및 이전 이미지 프레임과 상기 새로운 이미지 프레임 사이의 변환(translation)이 최소 변환 임계치와 동일한지 또는 최소 변환 임계치를 초과하는지 중 적어도 하나를 포함하는 방법.
- 제7항에 있어서, 상기 새로운 키 이미지 프레임에 대해 상기 전체 SLAM 프로세스 사이클을 수행하는 단계는,
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 IMU에 의해 캡처된, 상기 새로운 키 이미지 프레임과 연관되는 제3 IMU 데이터를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 새로운 키 이미지 프레임 및 적어도 하나의 이전 이미지 프레임에 대해 피처 매칭을 수행하여 물리적 환경에서의 매칭 3D 피처들의 제2 세트를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 매칭 3D 피처들의 제2 세트 및 상기 제3 IMU 데이터에 기초하여 상기 새로운 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제2 세트를 결정하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 에러 기준들의 제2 세트 및 상기 6DOF 파라미터들의 제2 세트에 기초하여, 상기 매칭 3D 피처들의 제2 세트로부터 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 제2 필터링된 세트를 생성하는 단계; 및
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 매칭 3D 피처들의 제2 필터링된 세트 및 상기 제3 IMU 데이터에 기초하여 모든 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제3 세트 및 상기 물리적 환경에서의 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 단계
를 포함하는 방법. - 제7항에 있어서, 상기 비-키 이미지 프레임에 대해 상기 부분 SLAM 프로세스 사이클을 수행하는 단계는,
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 전체 SLAM 프로세스 사이클을 수행하는 것으로부터의 새로운 3D 피처들의 3D 포지션들의 세트 및 가장 최근에 식별된 새로운 키 이미지 프레임에 기초하여, 상기 비-키 이미지 프레임에 대해 2차원(2D) 피처 추적을 수행하여, 2D 피처들의 세트를 식별하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 2D 피처들의 세트에 기초하여 상기 SLAM 프로세스의 상기 로컬화 부분만을 수행함으로써 상기 비-키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제4 세트를 결정하는 단계;
상기 하나 이상의 하드웨어 프로세서에 의해, 에러 기준들의 제3 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여, 상기 2D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 2D 피처들의 필터링된 세트를 생성하는 단계; 및
상기 하나 이상의 하드웨어 프로세서에 의해, 상기 2D 피처들의 필터링된 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여 상기 비-키 이미지 프레임 상에 추적 포인트들의 세트를 투영(projecting)하는 단계
를 포함하는 방법. - 시스템으로서,
이미지 센서;
명령어들을 저장한 머신 판독가능 매체; 및
상기 명령어들에 의해 동작들을 수행하도록 구성되는 하드웨어 프로세서
를 포함하고, 상기 동작들은:
상기 이미지 센서에 의해 캡처되는 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 동작;
물리적 환경에서의 제1 포즈로부터 상기 물리적 환경에서의 제2 포즈로의 상기 이미지 센서의 움직임 이후에:
상기 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 동작;
적어도 상기 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭을 수행하여, 상기 물리적 환경에서의 매칭 3차원(3D) 피처들의 세트를 식별하는 동작;
에러 기준들의 세트에 기초하여, 상기 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작; 및
상기 제2 키 이미지 프레임에 대한 상기 이미지 센서의 6 자유도(6DOF) 파라미터들의 제1 세트 및 상기 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 동작
을 포함하고,
상기 결정하는 동작은 관성 측정 유닛(IMU)에 의해 캡처된 제1 IMU 데이터, 상기 IMU에 의해 캡처된 제2 IMU 데이터, 및 상기 매칭 3D 피처들의 필터링된 세트에 기초하여 동시 로컬화 및 매핑(SLAM) 프로세스를 수행하는 동작을 포함하는 시스템. - 제11항에 있어서, 상기 제1 IMU 데이터는 상기 이미지 센서의 4 자유도(4DOF) 파라미터들의 세트를 포함하고, 상기 제2 IMU 데이터는 상기 이미지의 4DOF 파라미터들의 세트를 포함하는 시스템.
- 제12항에 있어서, 상기 이미지 센서의 움직임은 사이드스텝을 수행하는 상기 시스템을 홀드하고 있는 인간 개인에 의해 야기되는 시스템.
- 제13항에 있어서, 상기 제1 키 이미지 프레임을 식별하는 동작은 상기 사이드스텝의 시작 임펄스를 검출하는 동작을 포함하고, 상기 제1 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 시작 임펄스에 대응하는 특정 이미지 프레임인 시스템.
- 제13항에 있어서, 상기 제2 키 이미지 프레임을 식별하는 동작은 상기 사이드스텝의 종료 임펄스를 검출하는 동작을 포함하고, 상기 제2 키 이미지 프레임은 상기 캡처된 이미지 프레임들의 세트 내의, 상기 검출된 종료 임펄스에 대응하는 특정 이미지 프레임인 시스템.
- 제11항에 있어서, 상기 동작들은,
상기 캡처된 이미지 프레임들의 세트에 추가된 각각의 특정 새로운 이미지 프레임에 대해:
상기 특정 새로운 이미지 프레임에 대해 키 이미지 프레임 조건들의 세트가 충족되는지를 결정하는 동작;
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되는 것에 응답하여, 상기 특정 새로운 이미지 프레임을 새로운 키 이미지 프레임으로서 식별하고, 상기 하나 이상의 하드웨어 프로세서에 의해, 상기 새로운 키 이미지 프레임에 대해 전체 SLAM 프로세스 사이클을 수행하는 동작; 및
상기 특정 새로운 이미지 프레임에 대해 상기 키 이미지 프레임 조건들의 세트가 충족되지 않는 것에 응답하여, 비-키 이미지 프레임으로서 상기 특정 새로운 이미지 프레임에 대해 부분 SLAM 프로세스 사이클을 수행하는 동작 - 상기 부분 SLAM 프로세스 사이클은 SLAM 프로세스의 로컬화 부분만을 포함함 -
를 추가로 포함하는 시스템. - 제16항에 있어서, 상기 키 이미지 프레임 조건들의 세트는 상기 새로운 이미지 프레임이 특정 이미지 품질과 동일한지 또는 특정 이미지 품질을 초과하는지, 상기 전체 SLAM 프로세스 사이클이 마지막으로 수행된 이후에 최소 시간이 경과되었는지, 및 이전 이미지 프레임과 상기 새로운 이미지 프레임 사이의 변환이 최소 변환 임계치와 동일한지 또는 최소 변환 임계치를 초과하는지 중 적어도 하나를 포함하는 시스템.
- 제16항에 있어서, 상기 새로운 키 이미지 프레임에 대해 상기 전체 SLAM 프로세스 사이클을 수행하는 동작은,
상기 IMU에 의해 캡처된, 상기 새로운 키 이미지 프레임과 연관되는 제3 IMU 데이터를 식별하는 동작;
상기 새로운 키 이미지 프레임 및 적어도 하나의 이전 이미지 프레임에 대해 피처 매칭을 수행하여 물리적 환경에서의 매칭 3D 피처들의 제2 세트를 식별하는 동작;
상기 매칭 3D 피처들의 제2 세트 및 상기 제3 IMU 데이터에 기초하여 상기 새로운 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제2 세트를 결정하는 동작;
에러 기준들의 제2 세트 및 상기 6DOF 파라미터들의 제2 세트에 기초하여, 상기 매칭 3D 피처들의 제2 세트로부터 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 제2 필터링된 세트를 생성하는 동작; 및
상기 매칭 3D 피처들의 제2 필터링된 세트 및 상기 제3 IMU 데이터에 기초하여 모든 키 이미지 프레임에 대해 상기 SLAM 프로세스를 수행함으로써 상기 새로운 키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제3 세트 및 상기 물리적 환경에서의 새로운 3D 피처들의 3D 포지션들의 세트를 결정하는 동작
을 포함하는 시스템. - 제16항에 있어서, 상기 비-키 이미지 프레임에 대해 상기 부분 SLAM 프로세스 사이클을 수행하는 동작은,
상기 전체 SLAM 프로세스 사이클을 수행하는 것으로부터의 새로운 3D 피처들의 3D 포지션들의 세트 및 가장 최근에 식별된 새로운 키 이미지 프레임에 기초하여, 상기 비-키 이미지 프레임에 대해 2차원(2D) 피처 추적을 수행하여, 2D 피처들의 세트를 식별하는 동작;
상기 2D 피처들의 세트에 기초하여 상기 SLAM 프로세스의 상기 로컬화 부분만을 수행함으로써 상기 비-키 이미지 프레임에 대한 상기 이미지 센서의 6DOF 파라미터들의 제4 세트를 결정하는 동작;
에러 기준들의 제3 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여, 상기 2D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 2D 피처들의 필터링된 세트를 생성하는 동작; 및
상기 2D 피처들의 필터링된 세트 및 상기 6DOF 파라미터들의 제4 세트에 기초하여 상기 비-키 이미지 프레임 상에 추적 포인트들의 세트를 투영하는 동작
을 포함하는 시스템. - 명령어들을 저장하도록 구성된 비일시적 컴퓨터 판독가능 매체로서,
상기 명령어들은 동작들을 수행하기 위해 하드웨어 프로세서에 의해 실행가능하고, 상기 동작들은:
이미지 센서에 의해 캡처되는 캡처된 이미지 프레임들의 세트로부터 제1 키 이미지 프레임을 식별하는 동작;
물리적 환경에서의 제1 포즈로부터 상기 물리적 환경에서의 제2 포즈로의 상기 이미지 센서의 움직임 이후에:
상기 캡처된 이미지 프레임들의 세트로부터 제2 키 이미지 프레임을 식별하는 동작;
적어도 상기 제1 및 제2 키 이미지 프레임들에 대해 피처 매칭을 수행하여, 상기 물리적 환경에서의 매칭 3차원(3D) 피처들의 세트를 식별하는 동작;
에러 기준들의 세트에 기초하여, 상기 매칭 3D 피처들의 세트로부터, 적어도 하나의 에러 있는 피처를 필터링함으로써 매칭 3D 피처들의 필터링된 세트를 생성하는 동작; 및
상기 제2 키 이미지 프레임에 대한 상기 이미지 센서의 6 자유도(6DOF) 파라미터들의 제1 세트 및 상기 매칭 3D 피처들의 세트에 대한 3D 포지션들의 세트를 결정하는 동작
을 포함하고,
상기 결정하는 동작은 관성 측정 유닛(IMU)에 의해 캡처된 제1 IMU 데이터, 상기 IMU에 의해 캡처된 제2 IMU 데이터, 및 상기 매칭 3D 피처들의 필터링된 세트에 기초하여 동시 로컬화 및 매핑(SLAM) 프로세스를 수행하는 동작을 포함하는 비일시적 컴퓨터 판독가능 매체.
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662381036P | 2016-08-30 | 2016-08-30 | |
US62/381,036 | 2016-08-30 | ||
PCT/US2017/049449 WO2018045076A1 (en) | 2016-08-30 | 2017-08-30 | Systems and methods for simultaneous localization and mapping |
KR1020217018426A KR102420857B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217018426A Division KR102420857B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20220104269A KR20220104269A (ko) | 2022-07-26 |
KR102606785B1 true KR102606785B1 (ko) | 2023-11-29 |
Family
ID=59887381
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020227023663A KR102606785B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
KR1020217018426A KR102420857B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
KR1020197009181A KR102267482B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217018426A KR102420857B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
KR1020197009181A KR102267482B1 (ko) | 2016-08-30 | 2017-08-30 | 동시 로컬화 및 매핑을 위한 시스템 및 방법 |
Country Status (5)
Country | Link |
---|---|
US (4) | US10410367B2 (ko) |
EP (3) | EP4184438A1 (ko) |
KR (3) | KR102606785B1 (ko) |
CN (2) | CN116051640A (ko) |
WO (1) | WO2018045076A1 (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12002232B2 (en) | 2016-08-30 | 2024-06-04 | Snap Inc. | Systems and methods for simultaneous localization and mapping |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10593116B2 (en) | 2016-10-24 | 2020-03-17 | Snap Inc. | Augmented reality object manipulation |
US10242503B2 (en) | 2017-01-09 | 2019-03-26 | Snap Inc. | Surface aware lens |
GB2567172A (en) * | 2017-10-04 | 2019-04-10 | Nokia Technologies Oy | Grouping and transport of audio objects |
US11057667B2 (en) | 2017-11-17 | 2021-07-06 | Gfycat, Inc. | Selection of a prerecorded media file for superimposing into a video |
US11057601B2 (en) | 2017-11-17 | 2021-07-06 | Gfycat, Inc. | Superimposing a prerecorded media file into a video |
CN110555883B (zh) * | 2018-04-27 | 2022-07-22 | 腾讯科技(深圳)有限公司 | 相机姿态追踪过程的重定位方法、装置及存储介质 |
CN109035291B (zh) * | 2018-08-03 | 2020-11-20 | 重庆电子工程职业学院 | 机器人定位方法及装置 |
US11030813B2 (en) | 2018-08-30 | 2021-06-08 | Snap Inc. | Video clip object tracking |
US10945042B2 (en) | 2018-11-19 | 2021-03-09 | Gfycat, Inc. | Generating an interactive digital video content item |
US11176737B2 (en) | 2018-11-27 | 2021-11-16 | Snap Inc. | Textured mesh building |
CN113196139B (zh) | 2018-12-20 | 2023-08-11 | 美国斯耐普公司 | 用于生成立体图像的具有双摄像头的柔性眼戴设备 |
US11501499B2 (en) | 2018-12-20 | 2022-11-15 | Snap Inc. | Virtual surface modification |
CN109887003B (zh) * | 2019-01-23 | 2021-11-19 | 亮风台(上海)信息科技有限公司 | 一种用于进行三维跟踪初始化的方法与设备 |
US10984575B2 (en) | 2019-02-06 | 2021-04-20 | Snap Inc. | Body pose estimation |
EP3956633A1 (en) * | 2019-04-18 | 2022-02-23 | Telefonaktiebolaget LM Ericsson (PUBL) | Method of controlling a portable device and a portable device |
CN110082781B (zh) * | 2019-05-20 | 2021-12-17 | 东北大学秦皇岛分校 | 基于slam技术与图像识别的火源定位方法及系统 |
US11189098B2 (en) | 2019-06-28 | 2021-11-30 | Snap Inc. | 3D object camera customization system |
US11232646B2 (en) | 2019-09-06 | 2022-01-25 | Snap Inc. | Context-based virtual object rendering |
US10965931B1 (en) * | 2019-12-06 | 2021-03-30 | Snap Inc. | Sensor misalignment compensation |
US11227442B1 (en) | 2019-12-19 | 2022-01-18 | Snap Inc. | 3D captions with semantic graphical elements |
US11263817B1 (en) | 2019-12-19 | 2022-03-01 | Snap Inc. | 3D captions with face tracking |
CN115088016B (zh) * | 2020-02-05 | 2024-08-23 | Oppo广东移动通信有限公司 | 用于实现vSLAM系统的动态输入分辨率的方法和系统 |
US11748954B2 (en) | 2020-06-01 | 2023-09-05 | Snap Inc. | Tracking an augmented reality device |
US11276201B1 (en) | 2020-06-01 | 2022-03-15 | Snap Inc. | Localizing an augmented reality device |
US11615592B2 (en) | 2020-10-27 | 2023-03-28 | Snap Inc. | Side-by-side character animation from realtime 3D body motion capture |
US11660022B2 (en) | 2020-10-27 | 2023-05-30 | Snap Inc. | Adaptive skeletal joint smoothing |
US11450051B2 (en) | 2020-11-18 | 2022-09-20 | Snap Inc. | Personalized avatar real-time motion capture |
US11734894B2 (en) | 2020-11-18 | 2023-08-22 | Snap Inc. | Real-time motion transfer for prosthetic limbs |
US11748931B2 (en) | 2020-11-18 | 2023-09-05 | Snap Inc. | Body animation sharing and remixing |
CN112749665B (zh) * | 2021-01-15 | 2024-03-19 | 东南大学 | 一种基于图像边缘特征的视觉惯性slam方法 |
US11880947B2 (en) | 2021-12-21 | 2024-01-23 | Snap Inc. | Real-time upper-body garment exchange |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016514384A (ja) | 2013-01-30 | 2016-05-19 | クアルコム,インコーポレイテッド | 電力効率の良い深度センサーの使用によるリアルタイム3d再構成 |
US20160167226A1 (en) | 2014-12-16 | 2016-06-16 | Irobot Corporation | Systems and Methods for Capturing Images and Annotating the Captured Images with Information |
Family Cites Families (552)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US666223A (en) | 1896-12-01 | 1901-01-15 | Alfred Shedlock | Refrigerating apparatus. |
US4581634A (en) | 1982-11-18 | 1986-04-08 | Williams Jarvis L | Security apparatus for controlling access to a predetermined area |
US5072412A (en) | 1987-03-25 | 1991-12-10 | Xerox Corporation | User interface with multiple workspaces for sharing display system objects |
US4975690A (en) | 1988-11-07 | 1990-12-04 | Ibm Corporation | Method for concurrent data entry and manipulation in multiple applications |
JPH0644339A (ja) | 1992-03-06 | 1994-02-18 | Hewlett Packard Co <Hp> | 図形オブジェクト操作システム及び方法 |
US5493692A (en) | 1993-12-03 | 1996-02-20 | Xerox Corporation | Selective delivery of electronic messages in a multiple computer system based on context and environment of a user |
FI98694C (fi) | 1994-08-23 | 1997-07-25 | Nokia Telecommunications Oy | Sijainninpäivitys matkaviestinjärjestelmässä |
US5758257A (en) | 1994-11-29 | 1998-05-26 | Herz; Frederick | System and method for scheduling broadcast of and access to video programs and other data using customer profiles |
US8799461B2 (en) | 1994-11-29 | 2014-08-05 | Apple Inc. | System for collecting, analyzing, and transmitting information relevant to transportation networks |
AU4902096A (en) | 1995-02-01 | 1996-08-21 | Freemark Communications, Inc. | System and method for providing end-user free email |
US5978773A (en) | 1995-06-20 | 1999-11-02 | Neomedia Technologies, Inc. | System and method for using an ordinary article of commerce to access a remote computer |
US5913040A (en) | 1995-08-22 | 1999-06-15 | Backweb Ltd. | Method and apparatus for transmitting and displaying information between a remote network and a local computer |
US6049711A (en) | 1995-08-23 | 2000-04-11 | Teletrac, Inc. | Method and apparatus for providing location-based information services |
US5794210A (en) | 1995-12-11 | 1998-08-11 | Cybergold, Inc. | Attention brokerage |
DE59708043D1 (de) | 1996-06-17 | 2002-10-02 | Siemens Ag | Kommunikationssystem und Verfahren zur Aufnahme und Verwaltung digitaler Bilder |
US20030164856A1 (en) | 1996-06-28 | 2003-09-04 | Randy Prager | Desktop, stream-based, information management system |
US6216141B1 (en) | 1996-12-06 | 2001-04-10 | Microsoft Corporation | System and method for integrating a document into a desktop window on a client computer |
US6456852B2 (en) | 1997-01-08 | 2002-09-24 | Trafficmaster Usa, Inc. | Internet distributed real-time wireless location database |
US6285987B1 (en) | 1997-01-22 | 2001-09-04 | Engage, Inc. | Internet advertising system |
JP3610718B2 (ja) | 1997-01-31 | 2005-01-19 | 富士通株式会社 | 電子会議システム |
JPH10268959A (ja) | 1997-03-24 | 1998-10-09 | Canon Inc | 情報処理装置及びその方法 |
CA2202106C (en) | 1997-04-08 | 2002-09-17 | Mgi Software Corp. | A non-timeline, non-linear digital multimedia composition method and system |
JP3783331B2 (ja) | 1997-05-14 | 2006-06-07 | ブラザー工業株式会社 | メール送信システム、メール受信システムおよび記録媒体 |
IL128576A (en) | 1997-06-17 | 2004-03-28 | Purdue Pharma Lp | A self-destructing document and an e-mail system |
US6029141A (en) | 1997-06-27 | 2000-02-22 | Amazon.Com, Inc. | Internet-based customer referral system |
US6622174B1 (en) | 1997-08-15 | 2003-09-16 | Sony Corporation | System for sending, converting, and adding advertisements to electronic messages sent across a network |
FI973945A (fi) | 1997-10-13 | 1999-04-14 | Nokia Telecommunications Oy | Lyhytsanomia välittävä tiedonsiirtojärjestelmä |
JPH11120487A (ja) | 1997-10-21 | 1999-04-30 | Toyota Motor Corp | 移動体端末装置、情報提供装置、情報提供システム、情報提供方法及び移動体端末装置のためのプログラムを記録した媒体 |
JPH11154240A (ja) | 1997-11-20 | 1999-06-08 | Nintendo Co Ltd | 取込み画像を用いて画像を作成するための画像作成装置 |
US6014090A (en) | 1997-12-22 | 2000-01-11 | At&T Corp. | Method and apparatus for delivering local information to travelers |
US5999932A (en) | 1998-01-13 | 1999-12-07 | Bright Light Technologies, Inc. | System and method for filtering unsolicited electronic mail messages using data matching and heuristic processing |
US6012098A (en) | 1998-02-23 | 2000-01-04 | International Business Machines Corp. | Servlet pairing for isolation of the retrieval and rendering of data |
US6484196B1 (en) | 1998-03-20 | 2002-11-19 | Advanced Web Solutions | Internet messaging system and method for use in computer networks |
US20020106199A1 (en) | 1998-05-27 | 2002-08-08 | Osamu Ikeda | Image signal recording/reproduction apparatus, method employed therein, and image signal recording apparatus |
US7173651B1 (en) | 1998-06-02 | 2007-02-06 | Knowles Andrew T | Apparatus and system for prompt digital photo delivery and archival |
WO1999063453A1 (en) | 1998-06-05 | 1999-12-09 | Creative Internet Concepts Llc | System for inserting background advertising into web page presentation or e-mail messages |
US6205432B1 (en) | 1998-06-05 | 2001-03-20 | Creative Internet Concepts, Llc | Background advertising system |
US6698020B1 (en) | 1998-06-15 | 2004-02-24 | Webtv Networks, Inc. | Techniques for intelligent video ad insertion |
EP1116214B1 (en) | 1998-09-04 | 2002-07-24 | Lego A/S | Method and system for composing electronic music and generating graphical information |
US6757713B1 (en) | 1998-09-23 | 2004-06-29 | John W. L. Ogilvie | Method for including a self-removing indicator in a self-removing message |
US6643684B1 (en) | 1998-10-08 | 2003-11-04 | International Business Machines Corporation | Sender- specified delivery customization |
US6167435A (en) | 1998-10-30 | 2000-12-26 | Netcreations, Inc. | Double opt-in™ method and system for verifying subscriptions to information distribution services |
US6334149B1 (en) | 1998-12-22 | 2001-12-25 | International Business Machines Corporation | Generic operating system usage in a remote initial program load environment |
KR19990073076A (ko) | 1999-03-30 | 1999-10-05 | 주진용 | 인터넷전자우편및채팅을이용한광고방법 |
US6832222B1 (en) | 1999-06-24 | 2004-12-14 | International Business Machines Corporation | Technique for ensuring authorized access to the content of dynamic web pages stored in a system cache |
US7240199B2 (en) | 2000-12-06 | 2007-07-03 | Rpost International Limited | System and method for verifying delivery and integrity of electronic messages |
US6449657B2 (en) | 1999-08-06 | 2002-09-10 | Namezero.Com, Inc. | Internet hosting system |
US6549768B1 (en) | 1999-08-24 | 2003-04-15 | Nokia Corp | Mobile communications matching system |
US6490443B1 (en) | 1999-09-02 | 2002-12-03 | Automated Business Companies | Communication and proximity authorization systems |
US7149893B1 (en) | 1999-09-07 | 2006-12-12 | Poofaway.Com, Inc. | System and method for enabling the originator of an electronic mail message to preset an expiration time, date, and/or event, and to control processing or handling by a recipient |
US6487601B1 (en) | 1999-09-30 | 2002-11-26 | International Business Machines Corporation | Dynamic mac allocation and configuration |
US6684257B1 (en) | 1999-10-15 | 2004-01-27 | International Business Machines Corporation | Systems, methods and computer program products for validating web content tailored for display within pervasive computing devices |
AU7807300A (en) | 1999-10-18 | 2001-04-30 | British Telecommunications Public Limited Company | Personal mobile communication device |
US6724403B1 (en) | 1999-10-29 | 2004-04-20 | Surfcast, Inc. | System and method for simultaneous display of multiple information sources |
US6631463B1 (en) | 1999-11-08 | 2003-10-07 | International Business Machines Corporation | Method and apparatus for patching problematic instructions in a microprocessor using software interrupts |
US6836792B1 (en) | 1999-12-03 | 2004-12-28 | Trend Micro Incorporated | Techniques for providing add-on services for an email system |
US6981040B1 (en) | 1999-12-28 | 2005-12-27 | Utopy, Inc. | Automatic, personalized online information and product services |
TW482987B (en) | 2000-01-03 | 2002-04-11 | Amova Company | Automatic media editing system |
US7237002B1 (en) | 2000-01-04 | 2007-06-26 | International Business Machines Corporation | System and method for dynamic browser management of web site |
AU3218101A (en) | 2000-01-06 | 2001-07-16 | Anthony R. Rothschild | System and method for adding an advertisement to a personal communication |
US8527345B2 (en) | 2000-01-06 | 2013-09-03 | Anthony Richard Rothschild | System and method for adding an advertisement to a personal communication |
US6636247B1 (en) | 2000-01-31 | 2003-10-21 | International Business Machines Corporation | Modality advertisement viewing system and method |
US6523008B1 (en) | 2000-02-18 | 2003-02-18 | Adam Avrunin | Method and system for truth-enabling internet communications via computer voice stress analysis |
NO314530B1 (no) | 2000-02-25 | 2003-03-31 | Ericsson Telefon Ab L M | Trådlös reservering, innsjekking, tilgangskontroll, utsjekking og betaling |
US6684250B2 (en) | 2000-04-03 | 2004-01-27 | Quova, Inc. | Method and apparatus for estimating a geographic location of a networked entity |
WO2001076120A2 (en) | 2000-04-04 | 2001-10-11 | Stick Networks, Inc. | Personal communication device for scheduling presentation of digital content |
US7124164B1 (en) | 2001-04-17 | 2006-10-17 | Chemtob Helen J | Method and apparatus for providing group interaction via communications networks |
US6684238B1 (en) | 2000-04-21 | 2004-01-27 | International Business Machines Corporation | Method, system, and program for warning an email message sender that the intended recipient's mailbox is unattended |
US7663652B1 (en) | 2000-05-03 | 2010-02-16 | Morris Reese | Enhanced electronic mail delivery system |
US6542749B2 (en) | 2000-06-10 | 2003-04-01 | Telcontar | Method and system for connecting proximately located mobile users based on compatible attributes |
US6720860B1 (en) | 2000-06-30 | 2004-04-13 | International Business Machines Corporation | Password protection using spatial and temporal variation in a high-resolution touch sensitive display |
US6505123B1 (en) | 2000-07-24 | 2003-01-07 | Weatherbank, Inc. | Interactive weather advisory system |
US6968179B1 (en) | 2000-07-27 | 2005-11-22 | Microsoft Corporation | Place specific buddy list services |
US6618593B1 (en) | 2000-09-08 | 2003-09-09 | Rovingradar, Inc. | Location dependent user matching system |
US6700506B1 (en) | 2000-09-14 | 2004-03-02 | Everyday Wireless, Inc. | Bus arrival notification system and methods related thereto |
US6959324B1 (en) | 2000-09-28 | 2005-10-25 | International Business Machines Corporation | Method and apparatus for adding data attributes to e-mail messages to enhance the analysis of delivery failures |
US8707185B2 (en) | 2000-10-10 | 2014-04-22 | Addnclick, Inc. | Dynamic information management system and method for content delivery and sharing in content-, metadata- and viewer-based, live social networking among users concurrently engaged in the same and/or similar content |
US6904408B1 (en) | 2000-10-19 | 2005-06-07 | Mccarthy John | Bionet method, system and personalized web content manager responsive to browser viewers' psychological preferences, behavioral responses and physiological stress indicators |
JP2002132647A (ja) | 2000-10-19 | 2002-05-10 | Kizna Corp | 電子掲示板及び電子掲示板システム |
US6970907B1 (en) | 2000-11-16 | 2005-11-29 | International Business Machines Corporation | Method and system for e-mail chain group discussions |
US6774919B2 (en) | 2000-12-06 | 2004-08-10 | Microsoft Corporation | Interface and related methods for reducing source accesses in a development system |
GB0029880D0 (en) | 2000-12-07 | 2001-01-24 | Sony Uk Ltd | Video and audio information processing |
US7870592B2 (en) | 2000-12-14 | 2011-01-11 | Intertainer, Inc. | Method for interactive video content programming |
US6668173B2 (en) | 2000-12-15 | 2003-12-23 | Motorola, Inc. | Instant message user location tracking system |
US20020087631A1 (en) | 2001-01-03 | 2002-07-04 | Vikrant Sharma | Email-based advertising system |
GB2371948B (en) | 2001-02-02 | 2005-09-14 | Nokia Mobile Phones Ltd | Mobile telecommunications device |
US7299416B2 (en) | 2001-02-15 | 2007-11-20 | Denny Jaeger | Metro for creating and using linear time line and play rectangle |
US6529136B2 (en) | 2001-02-28 | 2003-03-04 | International Business Machines Corporation | Group notification system and method for implementing and indicating the proximity of individuals or groups to other individuals or groups |
US6446004B1 (en) | 2001-02-28 | 2002-09-03 | International Business Machines Corporation | System and method for implementing proximity or location driven activities |
US7042470B2 (en) | 2001-03-05 | 2006-05-09 | Digimarc Corporation | Using embedded steganographic identifiers in segmented areas of geographic images and characteristics corresponding to imagery data derived from aerial platforms |
US6636855B2 (en) | 2001-03-09 | 2003-10-21 | International Business Machines Corporation | Method, system, and program for accessing stored procedures in a message broker |
JP2002351782A (ja) | 2001-05-23 | 2002-12-06 | Nec Corp | 伝言板システム及びそれに用いる伝言情報蓄積・検索方法 |
US7280658B2 (en) | 2001-06-01 | 2007-10-09 | International Business Machines Corporation | Systems, methods, and computer program products for accelerated dynamic protection of data |
US8195745B2 (en) | 2001-06-07 | 2012-06-05 | International Business Machines Corporation | Automatic download of web content in response to an embedded link in an electronic mail message |
JP3672245B2 (ja) | 2001-06-15 | 2005-07-20 | インターナショナル・ビジネス・マシーンズ・コーポレーション | メール発信システム、メールサーバ、メール転送システム、メール転送方法、メール発信方法、メール配信方法、プログラム |
US20050064926A1 (en) | 2001-06-21 | 2005-03-24 | Walker Jay S. | Methods and systems for replaying a player's experience in a casino environment |
JP3994692B2 (ja) | 2001-07-04 | 2007-10-24 | ヤマハ株式会社 | 音楽情報提供システム及び方法 |
US7188143B2 (en) | 2001-07-06 | 2007-03-06 | Yahoo! Inc. | Messenger-controlled applications in an instant messaging environment |
US7133900B1 (en) | 2001-07-06 | 2006-11-07 | Yahoo! Inc. | Sharing and implementing instant messaging environments |
US7380279B2 (en) | 2001-07-16 | 2008-05-27 | Lenel Systems International, Inc. | System for integrating security and access for facilities and information systems |
US6965785B2 (en) | 2001-07-17 | 2005-11-15 | Wildseed Ltd. | Cooperative wireless luminescent imagery |
US7765490B2 (en) | 2001-07-18 | 2010-07-27 | International Business Machines Corporation | Method and system for software applications using a tiled user interface |
JP4440503B2 (ja) | 2001-09-20 | 2010-03-24 | 富士通株式会社 | 情報一覧作成装置及びそのプログラム |
US7363258B2 (en) | 2001-10-01 | 2008-04-22 | Qurio Holdings, Inc. | Method and system for distributing affiliate images in a peer-to-peer (P2P) photosharing network through affiliate branding |
US7068309B2 (en) | 2001-10-09 | 2006-06-27 | Microsoft Corp. | Image exchange with image annotation |
KR100924177B1 (ko) | 2001-10-17 | 2009-10-28 | 노키아 코포레이션 | 위치 정보의 제공을 위한 방법 |
US20030110503A1 (en) | 2001-10-25 | 2003-06-12 | Perkes Ronald M. | System, method and computer program product for presenting media to a user in a media on demand framework |
US7203380B2 (en) | 2001-11-16 | 2007-04-10 | Fuji Xerox Co., Ltd. | Video production and compaction with collage picture frame user interface |
US7610358B2 (en) | 2001-11-26 | 2009-10-27 | Time Warner Cable | System and method for effectively presenting multimedia information materials |
US7240089B2 (en) | 2001-12-10 | 2007-07-03 | International Business Machines Corporation | Message queuing method, system, and program product with reusable pooling component |
US20100098702A1 (en) | 2008-09-16 | 2010-04-22 | Longgui Wang | Method of treating androgen independent prostate cancer |
US7426534B2 (en) | 2001-12-19 | 2008-09-16 | International Business Machines Corporation | Method and system for caching message fragments using an expansion attribute in a fragment link tag |
AU2002366902A1 (en) | 2001-12-21 | 2003-07-09 | Nokia Corporation | Location-based novelty index value and recommendation system and method |
US7356564B2 (en) | 2002-01-09 | 2008-04-08 | At&T Delaware Intellectual Property, Inc. | Method, system, and apparatus for providing self-destructing electronic mail messages |
US7020494B2 (en) | 2002-02-07 | 2006-03-28 | Sap Aktiengesellschaft | Integrating contextual information into mobile enterprise applications |
US7027124B2 (en) | 2002-02-28 | 2006-04-11 | Fuji Xerox Co., Ltd. | Method for automatically producing music videos |
US7227937B1 (en) | 2002-03-19 | 2007-06-05 | Nortel Networks Limited | Monitoring natural interaction for presence detection |
US6658095B1 (en) | 2002-03-19 | 2003-12-02 | Nortel Networks Limited | Customized presence information delivery |
US7305436B2 (en) | 2002-05-17 | 2007-12-04 | Sap Aktiengesellschaft | User collaboration through discussion forums |
US7120622B2 (en) | 2002-06-10 | 2006-10-10 | Xerox Corporation | Authoring tools, including content-driven treetables, for fluid text |
US20060026067A1 (en) | 2002-06-14 | 2006-02-02 | Nicholas Frank C | Method and system for providing network based target advertising and encapsulation |
US7349921B2 (en) | 2002-09-27 | 2008-03-25 | Walgreen Co. | Information distribution system |
US6970088B2 (en) | 2002-10-17 | 2005-11-29 | Compex, Inc. | Method for tracking and processing passengers and their transported articles |
US8423042B2 (en) | 2004-02-24 | 2013-04-16 | Invisitrack, Inc. | Method and system for positional finding using RF, continuous and/or combined movement |
US7787886B2 (en) | 2003-02-24 | 2010-08-31 | Invisitrack, Inc. | System and method for locating a target using RFID |
US7411493B2 (en) | 2003-03-01 | 2008-08-12 | User-Centric Ip, L.P. | User-centric event reporting |
US6978147B2 (en) | 2003-03-19 | 2005-12-20 | Motorola, Inc. | Wireless messaging device with selectable scroll display and message pre-fetch |
GB2399928A (en) | 2003-03-24 | 2004-09-29 | Nec Technologies | Baby or child monitor incorporating mobile telephone |
US7458081B2 (en) | 2003-03-27 | 2008-11-25 | Microsoft Corporation | Configurable event handling for an interactive design environment |
US6825764B2 (en) | 2003-03-28 | 2004-11-30 | Sony Corporation | User programmable portable proximity detector |
US20040243531A1 (en) | 2003-04-28 | 2004-12-02 | Dean Michael Anthony | Methods and systems for representing, using and displaying time-varying information on the Semantic Web |
US20040243688A1 (en) | 2003-05-30 | 2004-12-02 | Wugofski Theodore D. | Inbox caching of messages on a mobile terminal |
US7315832B2 (en) | 2003-06-18 | 2008-01-01 | Copart, Inc. | Online bidding system |
US7085571B2 (en) | 2003-08-26 | 2006-08-01 | Kyocera Wireless Corp. | System and method for using geographical location to determine when to exit an existing wireless communications coverage network |
KR100754704B1 (ko) | 2003-08-29 | 2007-09-03 | 삼성전자주식회사 | 위치에 따라 설정 변경이 가능한 이동통신 단말기 및 방법 |
JP2005115896A (ja) | 2003-10-10 | 2005-04-28 | Nec Corp | 通信装置及び通信方法 |
US7191221B2 (en) | 2003-10-30 | 2007-03-13 | International Business Machines Corporation | Method for managing electronic mail receipts using audio-visual notification enhancements |
KR20060120053A (ko) | 2003-10-30 | 2006-11-24 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 입력 예측 방법 |
US7797529B2 (en) | 2003-11-10 | 2010-09-14 | Yahoo! Inc. | Upload security scheme |
US20050104976A1 (en) | 2003-11-17 | 2005-05-19 | Kevin Currans | System and method for applying inference information to digital camera metadata to identify digital picture content |
US7451190B2 (en) | 2003-11-26 | 2008-11-11 | Yahoo! Inc. | Associating multiple visibility profiles with a user of a real-time communication system |
US20050119936A1 (en) | 2003-12-02 | 2005-06-02 | Robert Buchanan | Sponsored media content |
US7394345B1 (en) | 2003-12-08 | 2008-07-01 | At&T Corp. | Arrangement for indicating presence of individual |
US20050122405A1 (en) | 2003-12-09 | 2005-06-09 | Voss James S. | Digital cameras and methods using GPS/time-based and/or location data to provide scene selection, and dynamic illumination and exposure adjustment |
US7535890B2 (en) | 2003-12-18 | 2009-05-19 | Ayalogic, Inc. | System and method for instant VoIP messaging |
WO2005062217A1 (ja) | 2003-12-19 | 2005-07-07 | Fujitsu Limited | プレゼンス情報管理方法、及び、サーバ |
US8418067B2 (en) | 2004-01-15 | 2013-04-09 | Microsoft Corporation | Rich profile communication with notifications |
US7904510B2 (en) | 2004-02-23 | 2011-03-08 | Microsoft Corporation | Systems and methods for managing discussion threads based on ratings |
US8739071B2 (en) | 2004-02-27 | 2014-05-27 | Blackberry Limited | System and method for message display and management |
US20050193340A1 (en) | 2004-03-01 | 2005-09-01 | Amburgey James T. | Apparatus and method regarding dynamic icons on a graphical user interface |
US7206568B2 (en) | 2004-03-15 | 2007-04-17 | Loc-Aid Technologies, Inc. | System and method for exchange of geographic location and user profiles over a wireless network |
US7546554B2 (en) | 2004-03-31 | 2009-06-09 | Fuji Xerox Co., Ltd. | Systems and methods for browsing multimedia content on small mobile devices |
US7912904B2 (en) | 2004-03-31 | 2011-03-22 | Google Inc. | Email system with conversation-centric user interface |
US7607096B2 (en) | 2004-05-01 | 2009-10-20 | Microsoft Corporation | System and method for a user interface directed to discovering and publishing presence information on a network |
US8041701B2 (en) | 2004-05-04 | 2011-10-18 | DG FastChannel, Inc | Enhanced graphical interfaces for displaying visual data |
US7593740B2 (en) | 2004-05-12 | 2009-09-22 | Google, Inc. | Location-based social software for mobile devices |
US8238947B2 (en) | 2004-05-27 | 2012-08-07 | France Telecom | Method and installation for transmitting a message with predetermined duration of validity addressed to a subscriber terminal |
US8287380B2 (en) | 2006-09-01 | 2012-10-16 | Igt | Intelligent wireless mobile device for use with casino gaming table systems |
US7519670B2 (en) | 2004-08-12 | 2009-04-14 | International Business Machines Corporation | Method for disappearing ink for text messaging |
US7929796B2 (en) | 2004-09-07 | 2011-04-19 | Nec Corporation | Image processing system and method, and terminal and server used for the same |
US20060058953A1 (en) | 2004-09-07 | 2006-03-16 | Cooper Clive W | System and method of wireless downloads of map and geographic based data to portable computing devices |
US8745132B2 (en) | 2004-09-10 | 2014-06-03 | Silver State Intellectual Technologies, Inc. | System and method for audio and video portable publishing system |
CN101065750A (zh) | 2004-11-24 | 2007-10-31 | 皇家飞利浦电子股份有限公司 | 基于音频选择的视频剪辑记录和重放 |
US7456872B2 (en) | 2004-11-29 | 2008-11-25 | Rothschild Trust Holdings, Llc | Device and method for embedding and retrieving information in digital images |
US7522548B2 (en) | 2004-12-08 | 2009-04-21 | Motorola, Inc. | Providing presence information in a communication network |
US8301159B2 (en) | 2004-12-31 | 2012-10-30 | Nokia Corporation | Displaying network objects in mobile devices based on geolocation |
JP4333599B2 (ja) | 2005-02-15 | 2009-09-16 | ソニー株式会社 | 情報処理装置、情報処理方法 |
US7801954B2 (en) | 2005-02-25 | 2010-09-21 | Microsoft Corporation | Method and system for providing expanded presence information when a user is offline |
US7424267B2 (en) | 2005-03-07 | 2008-09-09 | Broadcom Corporation | Automatic resource availability using Bluetooth |
US7423580B2 (en) | 2005-03-14 | 2008-09-09 | Invisitrack, Inc. | Method and system of three-dimensional positional finding |
US7349768B2 (en) | 2005-04-25 | 2008-03-25 | The Boeing Company | Evacuation route planning tool |
US7650231B2 (en) | 2005-04-25 | 2010-01-19 | The Boeing Company | AGTM airborne surveillance |
US7454442B2 (en) | 2005-04-25 | 2008-11-18 | The Boeing Company | Data fusion for advanced ground transportation system |
US8204052B2 (en) | 2005-05-02 | 2012-06-19 | Tekelec, Inc. | Methods, systems, and computer program products for dynamically coordinating collection and distribution of presence information |
US20060252438A1 (en) | 2005-05-04 | 2006-11-09 | Ansamaa Jarkko H | Determining user equipment time zones for time-based service fulfillment |
US7848765B2 (en) | 2005-05-27 | 2010-12-07 | Where, Inc. | Location-based services |
US20060287878A1 (en) | 2005-06-20 | 2006-12-21 | Engage Corporation | System and Method for Facilitating the Introduction of Compatible Individuals |
US8396456B2 (en) | 2005-06-28 | 2013-03-12 | Avaya Integrated Cabinet Solutions Inc. | Visual voicemail management |
US20070004426A1 (en) | 2005-06-30 | 2007-01-04 | Pfleging Gerald W | Location information display for cellular device |
US8963926B2 (en) | 2006-07-11 | 2015-02-24 | Pandoodle Corporation | User customized animated video and method for making the same |
US8275397B2 (en) | 2005-07-14 | 2012-09-25 | Huston Charles D | GPS based friend location and identification system and method |
US8266219B2 (en) | 2005-07-20 | 2012-09-11 | Research In Motion Limited | Method and system for instant messaging conversation security |
US8600410B2 (en) | 2005-07-28 | 2013-12-03 | Unwired Planet, Llc | Wireless network with adaptive autonomous location push |
US7610345B2 (en) | 2005-07-28 | 2009-10-27 | Vaporstream Incorporated | Reduced traceability electronic message system and method |
CN1794708A (zh) | 2005-07-29 | 2006-06-28 | 华为技术有限公司 | 呈现业务系统及发布呈现信息的方法 |
JP4492481B2 (ja) | 2005-08-16 | 2010-06-30 | 株式会社ニコン | カメラハウジング |
US8332475B2 (en) | 2005-08-22 | 2012-12-11 | Triplay Communications Ltd. | Messaging system and method |
CA2617893C (en) | 2005-09-06 | 2011-05-03 | Nippon Telegraph And Telephone Corporation | Video communication quality estimation device, method, and program |
US7933632B2 (en) | 2005-09-16 | 2011-04-26 | Microsoft Corporation | Tile space user interface for mobile devices |
US20070073823A1 (en) | 2005-09-29 | 2007-03-29 | International Business Machines Corporation | Method and apparatus to secure and retrieve instant messages |
CN1863172B (zh) | 2005-09-30 | 2010-08-25 | 华为技术有限公司 | 一种发布呈现信息的方法和系统 |
US8284663B2 (en) | 2005-10-14 | 2012-10-09 | Turbine, Inc. | Selectively ordered protocol for unreliable channels |
CN1859320A (zh) | 2005-10-26 | 2006-11-08 | 华为技术有限公司 | 一种提供呈现信息的方法及装置 |
US20070243887A1 (en) | 2005-11-01 | 2007-10-18 | Fonemine, Inc. | Platform for telephone-optimized data and voice services |
US20070214180A1 (en) | 2005-11-14 | 2007-09-13 | Crawford C S L | Social network application for processing image or video data from wireless devices of users and methods of operation |
US7639943B1 (en) | 2005-11-15 | 2009-12-29 | Kalajan Kevin E | Computer-implemented system and method for automated image uploading and sharing from camera-enabled mobile devices |
US20070208751A1 (en) | 2005-11-22 | 2007-09-06 | David Cowan | Personalized content control |
ITMI20052290A1 (it) | 2005-11-30 | 2007-06-01 | Pasqua Roberto Della | Servizio di messaggistica istantanea con interfaccia utente minimizzata |
US8732186B2 (en) | 2005-12-01 | 2014-05-20 | Peter Warren | Computer-implemented method and system for enabling communication between networked users based on common characteristics |
US20070136228A1 (en) | 2005-12-13 | 2007-06-14 | Petersen Lars H | Systems and methods for check-in processing |
US7747598B2 (en) | 2006-01-27 | 2010-06-29 | Google Inc. | Geographic coding for location search queries |
WO2007090133A2 (en) | 2006-01-30 | 2007-08-09 | Kramer Jame F | System for providing a service to venues where people aggregate |
US20070210936A1 (en) | 2006-01-31 | 2007-09-13 | Hilton Nicholson | System and method for arrival alerts |
US8254537B2 (en) | 2006-02-03 | 2012-08-28 | Motorola Mobility Llc | Method and apparatus for updating a presence attribute |
BRPI0708030A2 (pt) | 2006-02-10 | 2011-05-17 | Strands Inc | sistemas e métodos para priorizar arquivos de reprodutor de mìdia móvel |
WO2007093061A1 (en) | 2006-02-16 | 2007-08-23 | Shoplogix, Inc. | System and method for managing manufacturing information |
US20070198921A1 (en) | 2006-02-17 | 2007-08-23 | Derek Collison | Facilitating manual user selection of one or more ads for insertion into a document to be made available to another user or users |
US8862572B2 (en) | 2006-02-17 | 2014-10-14 | Google Inc. | Sharing user distributed search results |
CN1863175B (zh) | 2006-02-25 | 2010-08-25 | 华为技术有限公司 | 一种呈现业务接入装置,呈现业务系统及发布和获取呈现信息的方法 |
US8112478B2 (en) | 2006-03-13 | 2012-02-07 | Oracle International Corporation | Email and discussion forum system |
US20070233556A1 (en) | 2006-03-31 | 2007-10-04 | Ross Koningstein | Controlling the serving, with a primary document, of ads from a first source, subject to a first compensation scheme, and ads from a second source, subject to a second compensation scheme |
US8255473B2 (en) | 2006-04-04 | 2012-08-28 | International Business Machines Corporation | Caching message fragments during real-time messaging conversations |
GB0606977D0 (en) | 2006-04-06 | 2006-05-17 | Freemantle Media Ltd | Interactive video medium |
US10803468B2 (en) | 2006-04-18 | 2020-10-13 | At&T Intellectual Property I, L.P. | Method and apparatus for selecting advertising |
US8571580B2 (en) | 2006-06-01 | 2013-10-29 | Loopt Llc. | Displaying the location of individuals on an interactive map display on a mobile communication device |
US20070281690A1 (en) | 2006-06-01 | 2007-12-06 | Flipt, Inc | Displaying and tagging places of interest on location-aware mobile communication devices in a local area network |
US7779444B2 (en) | 2006-07-23 | 2010-08-17 | William Glad | System and method for video on request |
US20080032703A1 (en) | 2006-08-07 | 2008-02-07 | Microsoft Corporation | Location based notification services |
US20080049704A1 (en) | 2006-08-25 | 2008-02-28 | Skyclix, Inc. | Phone-based broadcast audio identification |
US7814160B2 (en) | 2006-08-31 | 2010-10-12 | Microsoft Corporation | Unified communication escalation |
US8564543B2 (en) | 2006-09-11 | 2013-10-22 | Apple Inc. | Media player with imaged based browsing |
TW200820067A (en) | 2006-10-19 | 2008-05-01 | Benq Corp | Method for controlling power and display parameters of a monitor and monitor for the same |
US8077263B2 (en) | 2006-10-23 | 2011-12-13 | Sony Corporation | Decoding multiple remote control code sets |
US20080104503A1 (en) | 2006-10-27 | 2008-05-01 | Qlikkit, Inc. | System and Method for Creating and Transmitting Multimedia Compilation Data |
US7917154B2 (en) | 2006-11-01 | 2011-03-29 | Yahoo! Inc. | Determining mobile content for a social network based on location and time |
US20080109844A1 (en) | 2006-11-02 | 2008-05-08 | Adbrite, Inc. | Playing video content with advertisement |
KR100874109B1 (ko) | 2006-11-14 | 2008-12-15 | 팅크웨어(주) | 친구 위치 정보 제공 시스템 및 방법 |
US8140566B2 (en) | 2006-12-12 | 2012-03-20 | Yahoo! Inc. | Open framework for integrating, associating, and interacting with content objects including automatic feed creation |
US8032839B2 (en) | 2006-12-18 | 2011-10-04 | Sap Ag | User interface experience system |
US20080147730A1 (en) | 2006-12-18 | 2008-06-19 | Motorola, Inc. | Method and system for providing location-specific image information |
FR2910143B1 (fr) | 2006-12-19 | 2009-04-03 | Eastman Kodak Co | Procede pour predire automatiquement des mots dans un texte associe a un message multimedia |
US7770137B2 (en) | 2006-12-20 | 2010-08-03 | Sony Ericsson Mobile Communications Ab | Methods, systems and computer program products for enhancing presence services |
US20080158230A1 (en) | 2006-12-29 | 2008-07-03 | Pictureal Corp. | Automatic facial animation using an image of a user |
US20080168033A1 (en) | 2007-01-05 | 2008-07-10 | Yahoo! Inc. | Employing mobile location to refine searches |
US20080222545A1 (en) | 2007-01-07 | 2008-09-11 | Lemay Stephen O | Portable Electronic Device with a Global Setting User Interface |
US8572642B2 (en) | 2007-01-10 | 2013-10-29 | Steven Schraga | Customized program insertion system |
JP2008206138A (ja) | 2007-01-26 | 2008-09-04 | Matsushita Electric Ind Co Ltd | 撮像装置および画像処理装置 |
US8136028B1 (en) | 2007-02-02 | 2012-03-13 | Loeb Enterprises Llc | System and method for providing viewers of a digital image information about identifiable objects and scenes within the image |
US20080189177A1 (en) | 2007-02-02 | 2008-08-07 | Anderton Jared M | Systems and methods for providing advertisements |
US20080208692A1 (en) | 2007-02-26 | 2008-08-28 | Cadence Media, Inc. | Sponsored content creation and distribution |
US8473386B2 (en) | 2007-04-10 | 2013-06-25 | Ingenio Llc | Systems and methods to facilitate real time communications between members of a social network |
JP2008262371A (ja) | 2007-04-11 | 2008-10-30 | Sony Ericsson Mobilecommunications Japan Inc | 表示制御装置、表示制御方法、表示制御プログラム、及び携帯端末装置 |
JP4564512B2 (ja) | 2007-04-16 | 2010-10-20 | 富士通株式会社 | 表示装置、表示プログラム、および表示方法 |
WO2008129542A2 (en) | 2007-04-23 | 2008-10-30 | Ramot At Tel-Aviv University Ltd | System, method and a computer readible medium for providing an output image |
US20080270938A1 (en) | 2007-04-29 | 2008-10-30 | Elizabeth Marie Carlson | System for self-registering visitor information with geographic specificity and searchable fields |
US7958188B2 (en) | 2007-05-04 | 2011-06-07 | International Business Machines Corporation | Transaction-initiated batch processing |
US8694379B2 (en) | 2007-05-14 | 2014-04-08 | Microsoft Corporation | One-click posting |
US7778973B2 (en) | 2007-05-18 | 2010-08-17 | Tat Kuen Choi | System, method, and program for sharing photos via the internet |
US8463253B2 (en) | 2007-06-21 | 2013-06-11 | Verizon Patent And Licensing Inc. | Flexible lifestyle portable communications device |
US8065628B2 (en) | 2007-06-25 | 2011-11-22 | Microsoft Corporation | Dynamic user interface for previewing live content |
US8661464B2 (en) | 2007-06-27 | 2014-02-25 | Google Inc. | Targeting in-video advertising |
US8312086B2 (en) | 2007-06-29 | 2012-11-13 | Verizon Patent And Licensing Inc. | Method and apparatus for message customization |
KR101373333B1 (ko) | 2007-07-11 | 2014-03-10 | 엘지전자 주식회사 | 터치인식을 통한 영상촬영 기능을 구비한 휴대 단말기 및그 촬영방법 |
JP5184832B2 (ja) | 2007-07-17 | 2013-04-17 | キヤノン株式会社 | 情報処理装置及びその制御方法、コンピュータプログラム |
US20090030999A1 (en) | 2007-07-27 | 2009-01-29 | Gatzke Alan D | Contact Proximity Notification |
JP2009044602A (ja) | 2007-08-10 | 2009-02-26 | Olympus Imaging Corp | 撮像装置、撮像システム及び撮像方法 |
US7970418B2 (en) | 2007-08-31 | 2011-06-28 | Verizon Patent And Licensing Inc. | Method and system of providing event content sharing by mobile communication devices |
US7956848B2 (en) | 2007-09-04 | 2011-06-07 | Apple Inc. | Video chapter access and license renewal |
CN101399998B (zh) | 2007-09-24 | 2011-06-08 | 鸿富锦精密工业(深圳)有限公司 | 白平衡调整系统及方法 |
US20100299615A1 (en) | 2007-09-28 | 2010-11-25 | The Trustees Of Dartmouth College | System And Method For Injecting Sensed Presence Into Social Networking Applications |
US8862690B2 (en) | 2007-09-28 | 2014-10-14 | Ebay Inc. | System and method for creating topic neighborhood visualizations in a networked system |
US8004529B2 (en) | 2007-10-01 | 2011-08-23 | Apple Inc. | Processing an animation file to provide an animated icon |
US9367295B2 (en) | 2007-10-04 | 2016-06-14 | Zos Communications, Llc | Methods for virally distributing location-based applications |
EP2051480B1 (en) | 2007-10-19 | 2009-12-16 | Research In Motion Limited | Mechanism for publishing presence information within a presence service and user interface for configuring same |
US8472935B1 (en) | 2007-10-29 | 2013-06-25 | Iwao Fujisaki | Communication device |
TWI363993B (en) | 2007-10-31 | 2012-05-11 | Ibm | Method for auto-deploying an application from a mobile device to a host in a pervasive computing environment and the mobile device implementing the method |
US8385950B1 (en) | 2007-11-09 | 2013-02-26 | Google Inc. | Capturing and automatically uploading media content |
WO2009063441A2 (en) | 2007-11-14 | 2009-05-22 | France Telecom | A system and method for managing widges |
US20090291672A1 (en) | 2007-11-14 | 2009-11-26 | Ron Treves | System And Method For Providing Personalized Automated And Autonomously Initiated Information Delivery And Chaperone Service |
US20090132341A1 (en) | 2007-11-20 | 2009-05-21 | Theresa Klinger | Method and System for Monetizing User-Generated Content |
US20090132665A1 (en) | 2007-11-20 | 2009-05-21 | Evite Llc | Method and system for communicating invitations and responses to an event with a mobile device |
KR101387527B1 (ko) | 2007-12-06 | 2014-04-23 | 엘지전자 주식회사 | 단말기 및 그 메뉴 아이콘 디스플레이 방법 |
US20090148045A1 (en) | 2007-12-07 | 2009-06-11 | Microsoft Corporation | Applying image-based contextual advertisements to images |
US8212784B2 (en) | 2007-12-13 | 2012-07-03 | Microsoft Corporation | Selection and display of media associated with a geographic area based on gesture input |
US8655718B2 (en) | 2007-12-18 | 2014-02-18 | Yahoo! Inc. | Methods for augmenting user-generated content using a monetizable feature |
US8412579B2 (en) | 2007-12-18 | 2013-04-02 | Carlos Gonzalez | Recipes management system |
US20090160970A1 (en) | 2007-12-20 | 2009-06-25 | Fredlund John R | Remote determination of image-acquisition settings and opportunities |
US8515397B2 (en) | 2007-12-24 | 2013-08-20 | Qualcomm Incorporation | Time and location based theme of mobile telephones |
US8276092B1 (en) | 2008-01-31 | 2012-09-25 | Intuit Inc. | Method and system for displaying financial reports |
US20090199242A1 (en) | 2008-02-05 | 2009-08-06 | Johnson Bradley G | System and Method for Distributing Video Content via a Packet Based Network |
US20090215469A1 (en) | 2008-02-27 | 2009-08-27 | Amit Fisher | Device, System, and Method of Generating Location-Based Social Networks |
US8214443B2 (en) | 2008-03-05 | 2012-07-03 | Aol Inc. | Electronic mail forwarding service |
US8098881B2 (en) | 2008-03-11 | 2012-01-17 | Sony Ericsson Mobile Communications Ab | Advertisement insertion systems and methods for digital cameras based on object recognition |
US20090239552A1 (en) | 2008-03-24 | 2009-09-24 | Yahoo! Inc. | Location-based opportunistic recommendations |
US20090249222A1 (en) | 2008-03-25 | 2009-10-01 | Square Products Corporation | System and method for simultaneous media presentation |
MY163154A (en) | 2008-03-28 | 2017-08-15 | Celltrust Corp | Systems and methods for secure short messaging service and multimedia messaging service |
US8098904B2 (en) | 2008-03-31 | 2012-01-17 | Google Inc. | Automatic face detection and identity masking in images, and applications thereof |
US8645867B2 (en) | 2008-04-22 | 2014-02-04 | Apple Inc. | Modifying time associated with digital media items |
JP2009267526A (ja) | 2008-04-22 | 2009-11-12 | Sharp Corp | 大量のコンテンツの一覧表示方法及び一覧表示装置 |
US20090288022A1 (en) | 2008-05-15 | 2009-11-19 | Sony Corporation | Dynamically changing a user interface based on device location and/or date/time |
US20090292608A1 (en) | 2008-05-22 | 2009-11-26 | Ruth Polachek | Method and system for user interaction with advertisements sharing, rating of and interacting with online advertisements |
US8359356B2 (en) | 2008-06-20 | 2013-01-22 | At&T Intellectual Property I, Lp | Presenting calendar events with presence information |
US20090327073A1 (en) | 2008-06-27 | 2009-12-31 | Microsoft Corporation | Intelligent advertising display |
US9305230B2 (en) | 2008-07-14 | 2016-04-05 | Jumio Inc. | Internet payment system using credit card imaging |
US10375244B2 (en) | 2008-08-06 | 2019-08-06 | Avaya Inc. | Premises enabled mobile kiosk, using customers' mobile communication device |
US20100082693A1 (en) | 2008-09-25 | 2010-04-01 | Ethan Hugg | Organization of a contact list based on social network context |
US20100082427A1 (en) | 2008-09-30 | 2010-04-01 | Yahoo! Inc. | System and Method for Context Enhanced Ad Creation |
US8295855B2 (en) | 2008-11-04 | 2012-10-23 | International Business Machines Corporation | GPS driven architecture for delivery of location based multimedia and method of use |
US8082255B1 (en) | 2008-11-21 | 2011-12-20 | eMinor Incorporated | Branding digital content |
US8494560B2 (en) | 2008-11-25 | 2013-07-23 | Lansing Arthur Parker | System, method and program product for location based services, asset management and tracking |
US8527877B2 (en) | 2008-11-25 | 2013-09-03 | At&T Intellectual Property I, L.P. | Systems and methods to select media content |
US20100153144A1 (en) | 2008-12-09 | 2010-06-17 | Continental Airlines, Inc. | Automated Check-in for Reserved Service |
KR101516850B1 (ko) | 2008-12-10 | 2015-05-04 | 뮤비 테크놀로지스 피티이 엘티디. | 여러 개 비디오 클립을 인터커팅하여 새로운 비디오 제작 생성기 |
US9336178B2 (en) | 2008-12-19 | 2016-05-10 | Velocee Ltd. | Optimizing content and communication in multiaccess mobile device exhibiting communication functionalities responsive of tempo spatial parameters |
US8428626B2 (en) | 2008-12-23 | 2013-04-23 | At&T Mobility Ii Llc | Selective caching of real time messaging threads |
US20100162149A1 (en) | 2008-12-24 | 2010-06-24 | At&T Intellectual Property I, L.P. | Systems and Methods to Provide Location Information |
US20100185552A1 (en) | 2009-01-16 | 2010-07-22 | International Business Machines Corporation | Providing gps-based location and time information |
US8719238B2 (en) | 2009-01-22 | 2014-05-06 | Sunstein Kann Murphy & Timbers LLP | Office-based notification messaging system |
US20100191631A1 (en) | 2009-01-29 | 2010-07-29 | Adrian Weidmann | Quantitative media valuation method, system and computer program |
US20100198694A1 (en) | 2009-01-30 | 2010-08-05 | Google Inc. | Advertisement Slot Configuration |
US8725560B2 (en) | 2009-02-02 | 2014-05-13 | Modiface Inc. | Method and system for simulated product evaluation via personalizing advertisements based on portrait images |
US8825074B2 (en) | 2009-02-02 | 2014-09-02 | Waldeck Technology, Llc | Modifying a user'S contribution to an aggregate profile based on time between location updates and external events |
US8791790B2 (en) | 2009-02-10 | 2014-07-29 | Yikes Llc | System and method for accessing a structure using a mobile device |
US20100201536A1 (en) | 2009-02-10 | 2010-08-12 | William Benjamin Robertson | System and method for accessing a structure using a mobile device |
KR101595254B1 (ko) | 2009-02-20 | 2016-02-18 | 삼성전자주식회사 | 화이트 밸런스 조정 방법, 상기 방법을 기록한 기록 매체, 화이트 밸런스 조정 장치 |
US20100223343A1 (en) | 2009-02-27 | 2010-09-02 | Sorel Bosan | System and Method for Communicating from an Electronic Device |
US8860865B2 (en) | 2009-03-02 | 2014-10-14 | Burning Moon, Llc | Assisted video creation utilizing a camera |
US9020745B2 (en) | 2009-03-30 | 2015-04-28 | Microsoft Technology Licensing, Llc | Business data display and position correction in street-side imagery |
US8264352B2 (en) | 2009-04-09 | 2012-09-11 | International Business Machines Corporation | System and methods for locating mobile devices using location and presence information |
US8428620B2 (en) | 2009-04-22 | 2013-04-23 | Centurylink Intellectual Property Llc | Mass transportation service delivery platform |
JP5132629B2 (ja) | 2009-05-11 | 2013-01-30 | ソニーモバイルコミュニケーションズ, エービー | 情報端末、情報端末の情報提示方法及び情報提示プログラム |
US8645164B2 (en) | 2009-05-28 | 2014-02-04 | Indiana University Research And Technology Corporation | Medical information visualization assistant system and method |
US8214446B1 (en) | 2009-06-04 | 2012-07-03 | Imdb.Com, Inc. | Segmenting access to electronic message boards |
WO2011040821A1 (en) | 2009-06-23 | 2011-04-07 | Verdict Communications | Smart phone crowd enhancement |
US20110010205A1 (en) | 2009-07-08 | 2011-01-13 | American Express Travel Related Services Company, Inc. | Travel fare determination and display in social networks |
US8479080B1 (en) | 2009-07-12 | 2013-07-02 | Apple Inc. | Adaptive over-provisioning in memory systems |
US10282481B2 (en) | 2009-07-31 | 2019-05-07 | Oath Inc. | Providing link to portion of media object in real time in social networking update |
US9544379B2 (en) | 2009-08-03 | 2017-01-10 | Wolfram K. Gauglitz | Systems and methods for event networking and media sharing |
WO2011017286A2 (en) | 2009-08-03 | 2011-02-10 | Unomobi, Inc. | System and method for adding advertisements to a location-based advertising system |
US8379130B2 (en) | 2009-08-07 | 2013-02-19 | Qualcomm Incorporated | Apparatus and method of processing images based on an adjusted value of an image processing parameter |
US8775472B2 (en) | 2009-08-14 | 2014-07-08 | Apple Inc. | Dynamic presentation framework |
JP5402409B2 (ja) | 2009-08-31 | 2014-01-29 | ソニー株式会社 | 撮影条件設定装置、撮影条件設定方法及び撮影条件設定プログラム |
US8228413B2 (en) | 2009-09-01 | 2012-07-24 | Geovector Corp. | Photographer's guidance systems |
US8090351B2 (en) | 2009-09-01 | 2012-01-03 | Elliot Klein | Geographical location authentication method |
EP2476066A1 (en) | 2009-09-07 | 2012-07-18 | Nokia Corp. | An apparatus |
US8510383B2 (en) | 2009-09-14 | 2013-08-13 | Clixtr, Inc. | Method for providing event based media streams |
US8660793B2 (en) | 2009-09-18 | 2014-02-25 | Blackberry Limited | Expediting reverse geocoding with a bounding region |
US8306922B1 (en) | 2009-10-01 | 2012-11-06 | Google Inc. | Detecting content on a social network using links |
US9119027B2 (en) | 2009-10-06 | 2015-08-25 | Facebook, Inc. | Sharing of location-based content item in social networking service |
US9183544B2 (en) | 2009-10-14 | 2015-11-10 | Yahoo! Inc. | Generating a relationship history |
US20110102630A1 (en) | 2009-10-30 | 2011-05-05 | Jason Rukes | Image capturing devices using device location information to adjust image data during image signal processing |
US8161417B1 (en) | 2009-11-04 | 2012-04-17 | Sprint Communications Company L.P. | Enhancing usability of a moving touch screen |
US8396888B2 (en) | 2009-12-04 | 2013-03-12 | Google Inc. | Location-based searching using a search area that corresponds to a geographical location of a computing device |
CN102118419B (zh) | 2009-12-30 | 2014-07-16 | 华为技术有限公司 | 一种图片信息的传输方法、装置和通信系统 |
US8400548B2 (en) | 2010-01-05 | 2013-03-19 | Apple Inc. | Synchronized, interactive augmented reality displays for multifunction devices |
US8856349B2 (en) | 2010-02-05 | 2014-10-07 | Sling Media Inc. | Connection priority services for data communication between two devices |
WO2011101784A1 (en) | 2010-02-16 | 2011-08-25 | Tigertext Inc. | A messaging system apparatuses circuits and methods of operation thereof |
US9672332B2 (en) | 2010-02-18 | 2017-06-06 | Nokia Technologies Oy | Method and apparatus for preventing unauthorized use of media items |
US20110238763A1 (en) | 2010-02-26 | 2011-09-29 | Momo Networks, Inc. | Social Help Network |
US20110213845A1 (en) | 2010-02-26 | 2011-09-01 | Research In Motion Limited | Automatic deletion of electronic messages |
US8310394B2 (en) | 2010-03-08 | 2012-11-13 | Deutsche Telekom Ag | Apparatus, method, manufacture, and system for sensing substitution for location-based applications |
US10074094B2 (en) | 2010-03-09 | 2018-09-11 | Excalibur Ip, Llc | Generating a user profile based on self disclosed public status information |
US20110238476A1 (en) | 2010-03-23 | 2011-09-29 | Michael Carr | Location-based Coupons and Mobile Devices |
US20110255736A1 (en) | 2010-04-15 | 2011-10-20 | Pongr, Inc. | Networked image recognition methods and systems |
US8359361B2 (en) | 2010-05-06 | 2013-01-22 | Microsoft Corporation | Techniques to share media files through messaging |
KR101643869B1 (ko) | 2010-05-06 | 2016-07-29 | 엘지전자 주식회사 | 휴대 단말기 및 그 동작 방법 |
US8990732B2 (en) | 2010-05-14 | 2015-03-24 | Sap Se | Value interval selection on multi-touch devices |
US8438226B2 (en) | 2010-06-22 | 2013-05-07 | International Business Machines Corporation | Dynamic adjustment of user-received communications for a real-time multimedia communications event |
US20110314419A1 (en) | 2010-06-22 | 2011-12-22 | Microsoft Corporation | Customizing a search experience using images |
US20110320373A1 (en) | 2010-06-25 | 2011-12-29 | Microsoft Corporation | Product conversations among social groups |
CA2745536A1 (en) | 2010-07-06 | 2012-01-06 | Omar M. Sheikh | Improving the relevancy of advertising material through user-defined preference filters, location and permission information |
US8233887B2 (en) | 2010-07-28 | 2012-07-31 | Sprint Communications Company L.P. | Covert message redaction and recovery in a wireless communication device |
US8744523B2 (en) | 2010-08-02 | 2014-06-03 | At&T Intellectual Property I, L.P. | Method and system for interactive home monitoring |
US8301196B2 (en) | 2010-08-03 | 2012-10-30 | Honeywell International Inc. | Reconfigurable wireless modem adapter including diversity/MIMO modems |
KR20120020070A (ko) | 2010-08-27 | 2012-03-07 | 교세라 가부시키가이샤 | 휴대 단말, 록 상태 제어 프로그램이 기록된 컴퓨터 판독 가능한 저장 매체 및 록 상태 제어 방법 |
US8326327B2 (en) | 2010-08-27 | 2012-12-04 | Research In Motion Limited | System and method for determining action spot locations relative to the location of a mobile device |
US8381246B2 (en) | 2010-08-27 | 2013-02-19 | Telefonaktiebolaget L M Ericsson (Publ) | Methods and apparatus for providing electronic program guides |
US8423409B2 (en) | 2010-09-02 | 2013-04-16 | Yahoo! Inc. | System and method for monetizing user-generated web content |
US9588992B2 (en) | 2010-09-30 | 2017-03-07 | Microsoft Technology Licensing, Llc | Displaying images interesting to a user |
US8732855B2 (en) | 2010-09-30 | 2014-05-20 | Google Inc. | Launching a cached web application based on authentication status |
US20140047016A1 (en) | 2010-10-21 | 2014-02-13 | Bindu Rama Rao | Server infrastructure, mobile client device and app for mobile blogging and sharing |
US8660369B2 (en) | 2010-10-25 | 2014-02-25 | Disney Enterprises, Inc. | Systems and methods using mobile devices for augmented reality |
US10102208B2 (en) | 2010-10-29 | 2018-10-16 | Microsoft Technology Licensing, Llc | Automatic multimedia slideshows for social media-enabled mobile devices |
US20120109836A1 (en) | 2010-11-01 | 2012-05-03 | Google Inc. | Content sharing interface for sharing content in social networks |
US8195194B1 (en) | 2010-11-02 | 2012-06-05 | Google Inc. | Alarm for mobile communication device |
JP5733952B2 (ja) | 2010-11-04 | 2015-06-10 | キヤノン株式会社 | 撮像装置、撮像システム、及び撮像装置の制御方法 |
US9275499B2 (en) | 2010-11-08 | 2016-03-01 | Sony Corporation | Augmented reality interface for video |
US9886727B2 (en) | 2010-11-11 | 2018-02-06 | Ikorongo Technology, LLC | Automatic check-ins and status updates |
US8554627B2 (en) | 2010-11-11 | 2013-10-08 | Teaneck Enterprises, Llc | User generated photo ads used as status updates |
JP5212448B2 (ja) | 2010-11-15 | 2013-06-19 | コニカミノルタビジネステクノロジーズ株式会社 | 画像処理システム、画像処理装置の制御方法、携帯端末、および制御プログラム |
US20120124126A1 (en) | 2010-11-17 | 2012-05-17 | Microsoft Corporation | Contextual and task focused computing |
US20120124458A1 (en) | 2010-11-17 | 2012-05-17 | Nazareno Brier Cruzada | Social networking website & web-based system for collecting & presenting real-time user generated information on parties & events. |
JP5706137B2 (ja) | 2010-11-22 | 2015-04-22 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 複数の投稿(データのグループ)を複数の軸に沿ってリアルタイムにコンピュータ画面に表示する方法およびコンピュータ・プログラム |
US20120131507A1 (en) | 2010-11-24 | 2012-05-24 | General Electric Company | Patient information timeline viewer |
US20120165100A1 (en) | 2010-12-23 | 2012-06-28 | Alcatel-Lucent Canada Inc. | Crowd mobile synchronization |
US20120166971A1 (en) | 2010-12-28 | 2012-06-28 | Thomas Sachson | Social Networking Timeline System And Method |
US20120169855A1 (en) | 2010-12-30 | 2012-07-05 | Electronics And Telecommunications Research Institute | System and method for real-sense acquisition |
US8683349B2 (en) | 2010-12-31 | 2014-03-25 | Verizon Patent And Licensing Inc. | Media content user interface systems and methods |
US8717381B2 (en) | 2011-01-11 | 2014-05-06 | Apple Inc. | Gesture mapping for image filter input parameters |
US8457668B2 (en) | 2011-01-18 | 2013-06-04 | Claremont Speede | Mobile sender initiated SMS message deletion method and system |
US8711206B2 (en) * | 2011-01-31 | 2014-04-29 | Microsoft Corporation | Mobile camera localization using depth maps |
US20120197724A1 (en) | 2011-02-01 | 2012-08-02 | Timothy Kendall | Ad-Based Location Ranking for Geo-Social Networking System |
US8488011B2 (en) | 2011-02-08 | 2013-07-16 | Longsand Limited | System to augment a visual data stream based on a combination of geographical and visual information |
US20120210244A1 (en) | 2011-02-10 | 2012-08-16 | Alcatel-Lucent Usa Inc. | Cross-Domain Privacy Management Service For Social Networking Sites |
US8594680B2 (en) | 2011-02-16 | 2013-11-26 | Nokia Corporation | Methods, apparatuses and computer program products for providing a private and efficient geolocation system |
US8660358B1 (en) | 2011-02-18 | 2014-02-25 | Google Inc. | Rank-based image piling |
US8954503B2 (en) | 2011-03-03 | 2015-02-10 | Facebook, Inc. | Identify experts and influencers in a social network |
EP2684145A4 (en) | 2011-03-07 | 2014-09-03 | Kba2 Inc | SYSTEMS AND METHOD FOR ANALYTICAL DATA ACQUISITION OF IMAGE PROVIDERS ON THE BASIS OF AN EVENT OR GEOGRAPHICAL LOCATION |
US8849931B2 (en) | 2011-03-15 | 2014-09-30 | Idt Messaging, Llc | Linking context-based information to text messages |
JP5136669B2 (ja) | 2011-03-18 | 2013-02-06 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
US9131343B2 (en) | 2011-03-31 | 2015-09-08 | Teaneck Enterprises, Llc | System and method for automated proximity-based social check-ins |
US9331972B2 (en) | 2011-03-31 | 2016-05-03 | Loment, Inc. | Automatic expiration of messages communicated to an end user communication device |
US8744143B2 (en) | 2011-04-01 | 2014-06-03 | Yahoo! Inc. | Adding privacy protection to photo uploading/ tagging in social networks |
US8918463B2 (en) | 2011-04-29 | 2014-12-23 | Facebook, Inc. | Automated event tagging |
US20120290637A1 (en) | 2011-05-12 | 2012-11-15 | Microsoft Corporation | Personalized news feed based on peer and personal activity |
US9420240B2 (en) * | 2011-05-15 | 2016-08-16 | Lighting Science Group Corporation | Intelligent security light and associated methods |
US20120304052A1 (en) | 2011-05-27 | 2012-11-29 | Wesley Tanaka | Systems And Methods For Displaying An Image In A Plurality Of Designs |
US9383959B2 (en) | 2011-05-27 | 2016-07-05 | Kyocera Corporation | Rotatable mobile electronic device and soft key input method |
JP5806512B2 (ja) | 2011-05-31 | 2015-11-10 | オリンパス株式会社 | 撮像装置、撮像方法および撮像プログラム |
US8854491B2 (en) | 2011-06-05 | 2014-10-07 | Apple Inc. | Metadata-assisted image filters |
KR101217469B1 (ko) | 2011-06-16 | 2013-01-02 | 주식회사 네오펄스 | 다중대역 특성을 갖는 mimo 안테나 |
US20120324018A1 (en) | 2011-06-16 | 2012-12-20 | Yahoo! Inc. | Systems and methods for location based social network |
US20120323933A1 (en) | 2011-06-20 | 2012-12-20 | Microsoft Corporation | Displaying notifications based on importance to the user |
US20130006759A1 (en) | 2011-07-01 | 2013-01-03 | Yahoo! Inc. | Monetizing user generated content with embedded advertisements |
EP2732383B1 (en) | 2011-07-12 | 2018-04-04 | Snap Inc. | Methods and systems of providing visual content editing functions |
US20130185131A1 (en) | 2011-07-18 | 2013-07-18 | Pradeep Sinha | System and method for integrating social and loyalty platforms |
US9396167B2 (en) | 2011-07-21 | 2016-07-19 | Flipboard, Inc. | Template-based page layout for hosted social magazines |
US8849819B2 (en) | 2011-08-05 | 2014-09-30 | Deacon Johnson | System and method for controlling and organizing metadata associated with on-line content |
WO2013028388A1 (en) | 2011-08-19 | 2013-02-28 | 30 Second Software | Geo-fence entry and exit notification system |
US8965974B2 (en) | 2011-08-19 | 2015-02-24 | Board Of Regents, The University Of Texas System | Systems and methods for determining user attribute values by mining user network data and information |
US20130055082A1 (en) | 2011-08-26 | 2013-02-28 | Jorge Fino | Device, Method, and Graphical User Interface for Navigating and Previewing Content Items |
WO2013032955A1 (en) | 2011-08-26 | 2013-03-07 | Reincloud Corporation | Equipment, systems and methods for navigating through multiple reality models |
US20130057587A1 (en) | 2011-09-01 | 2013-03-07 | Microsoft Corporation | Arranging tiles |
US8515870B2 (en) | 2011-09-06 | 2013-08-20 | Rawllin International Inc. | Electronic payment systems and supporting methods and devices |
KR20130028598A (ko) | 2011-09-09 | 2013-03-19 | 삼성전자주식회사 | 장치 및 장치의 이미지 파일의 sns 업로드방법 |
US20130063369A1 (en) | 2011-09-14 | 2013-03-14 | Verizon Patent And Licensing Inc. | Method and apparatus for media rendering services using gesture and/or voice control |
US9710821B2 (en) | 2011-09-15 | 2017-07-18 | Stephan HEATH | Systems and methods for mobile and online payment systems for purchases related to mobile and online promotions or offers provided using impressions tracking and analysis, location information, 2D and 3D mapping, mobile mapping, social media, and user behavior and |
US20130071093A1 (en) | 2011-09-16 | 2013-03-21 | William Turner Hanks | Maintaining viewer activity information of a recorded program for program deletion decisions |
US20130111514A1 (en) | 2011-09-16 | 2013-05-02 | Umami Co. | Second screen interactive platform |
WO2013043867A2 (en) | 2011-09-21 | 2013-03-28 | Jeff Thramann | Electric vehicle charging station with connectivity to mobile devices to provide local information |
US8797415B2 (en) | 2011-09-26 | 2014-08-05 | Google Inc. | Device, system and method for image capture device using weather information |
WO2013045753A1 (en) | 2011-09-28 | 2013-04-04 | Nokia Corporation | Method and apparatus for enabling experience based route selection |
US20130085790A1 (en) | 2011-09-29 | 2013-04-04 | Ebay Inc. | Organization of Group Attended Ticketed Event |
US20130086072A1 (en) | 2011-10-03 | 2013-04-04 | Xerox Corporation | Method and system for extracting and classifying geolocation information utilizing electronic social media |
US20130090171A1 (en) | 2011-10-07 | 2013-04-11 | Gregory W. HOLTON | Initiating and conducting a competitive social game using a server connected to a plurality of user terminals via a computer network |
US8725168B2 (en) | 2011-10-17 | 2014-05-13 | Facebook, Inc. | Content surfacing based on geo-social factors |
US20130110885A1 (en) | 2011-10-31 | 2013-05-02 | Vox Media, Inc. | Story-based data structures |
US9635128B2 (en) | 2011-11-02 | 2017-04-25 | Photopon, Inc. | System and method for experience-sharing within a computer network |
US9183604B2 (en) | 2011-11-08 | 2015-11-10 | Vidinoti Sa | Image annotation method and system |
US9098720B2 (en) | 2011-11-21 | 2015-08-04 | Facebook, Inc. | Location aware shared spaces |
US20130128059A1 (en) | 2011-11-22 | 2013-05-23 | Sony Mobile Communications Ab | Method for supporting a user taking a photo with a mobile device |
TWI557630B (zh) | 2011-12-06 | 2016-11-11 | 宏碁股份有限公司 | 電子裝置、社群互動磚資料顯示方法及動態圖示磚連結方法 |
US8352546B1 (en) | 2011-12-08 | 2013-01-08 | Google Inc. | Contextual and location awareness for device interaction |
US20130159110A1 (en) | 2011-12-14 | 2013-06-20 | Giridhar Rajaram | Targeting users of a social networking system based on interest intensity |
US8234350B1 (en) | 2011-12-19 | 2012-07-31 | Seachange International, Inc. | Systems and methods for generating targeted manifest files |
US20130159919A1 (en) | 2011-12-19 | 2013-06-20 | Gabriel Leydon | Systems and Methods for Identifying and Suggesting Emoticons |
US10354750B2 (en) | 2011-12-23 | 2019-07-16 | Iconic Data Inc. | System, client device, server and method for providing a cross-facility patient data management and reporting platform |
US9286678B2 (en) | 2011-12-28 | 2016-03-15 | Pelco, Inc. | Camera calibration using feature identification |
US9253134B2 (en) | 2011-12-30 | 2016-02-02 | Google Inc. | Creating real-time conversations |
US20130267253A1 (en) | 2012-01-12 | 2013-10-10 | Environmental Systems Research Institute, Inc. | Trigger zones and dwell time analytics |
JP5890692B2 (ja) | 2012-01-13 | 2016-03-22 | キヤノン株式会社 | 撮像装置、制御方法及びプログラム |
US20130191198A1 (en) | 2012-01-20 | 2013-07-25 | Visa International Service Association | Systems and methods to redeem offers based on a predetermined geographic region |
US9258459B2 (en) | 2012-01-24 | 2016-02-09 | Radical Switchcam Llc | System and method for compiling and playing a multi-channel video |
KR101303166B1 (ko) | 2012-01-26 | 2013-09-09 | 엘지전자 주식회사 | 이동 단말기 및 그의 사진 검색방법 |
US20130194301A1 (en) | 2012-01-30 | 2013-08-01 | Burn Note, Inc. | System and method for securely transmiting sensitive information |
US8788680B1 (en) | 2012-01-30 | 2014-07-22 | Google Inc. | Virtual collaboration session access |
US20130227476A1 (en) | 2012-02-24 | 2013-08-29 | Nokia Corporation | Method, apparatus and computer program product for management of information on a graphic user interface |
US9778706B2 (en) | 2012-02-24 | 2017-10-03 | Blackberry Limited | Peekable user interface on a portable electronic device |
US8768876B2 (en) | 2012-02-24 | 2014-07-01 | Placed, Inc. | Inference pipeline system and method |
US8972357B2 (en) | 2012-02-24 | 2015-03-03 | Placed, Inc. | System and method for data collection to validate location data |
US20130232194A1 (en) | 2012-03-05 | 2013-09-05 | Myspace Llc | Event application |
US9407860B2 (en) | 2012-04-06 | 2016-08-02 | Melvin Lee Barnes, JR. | System, method and computer program product for processing image data |
US20150088622A1 (en) | 2012-04-06 | 2015-03-26 | LiveOne, Inc. | Social media application for a media content providing platform |
US20140019264A1 (en) | 2012-05-07 | 2014-01-16 | Ditto Labs, Inc. | Framework for product promotion and advertising using social networking services |
US20130304646A1 (en) | 2012-05-14 | 2013-11-14 | Izettle Hardware Ab | Method and system for identity and know your customer verification through credit card transactions in combination with internet based social data |
US20130311255A1 (en) | 2012-05-17 | 2013-11-21 | Mastercard International Incorporated | Method and system for displaying and updating limited redemption coupons on a mobile device |
JP6261848B2 (ja) | 2012-05-17 | 2018-01-17 | 任天堂株式会社 | プログラム、サーバ装置、携帯端末、情報処理方法、通信システム及び通信方法 |
CN104322050B (zh) | 2012-05-22 | 2020-04-28 | 株式会社尼康 | 电子相机、图像显示装置和记录介质 |
US9319470B2 (en) | 2012-05-30 | 2016-04-19 | Henry Berberat | Location-based social networking system |
US9374396B2 (en) | 2012-06-24 | 2016-06-21 | Google Inc. | Recommended content for an endorsement user interface |
US8954092B2 (en) | 2012-06-25 | 2015-02-10 | Google Inc. | Pre-caching data related to a travel destination |
KR101667168B1 (ko) | 2012-06-26 | 2016-10-17 | 구글 인코포레이티드 | 슬라이드쇼를 생성하는 시스템 및 방법 |
US9439041B2 (en) | 2012-06-29 | 2016-09-06 | Lighthouse Signal Systems, Llc | Systems and methods for calibration based indoor geolocation |
TW201415027A (zh) | 2012-07-05 | 2014-04-16 | Brita Professional Gmbh & Co Kg | 利用流體處理裝置決定可由流體移除之成分濃度量測値 |
US9560006B2 (en) | 2012-07-26 | 2017-01-31 | Google Inc. | Method and apparatus for expiring messages in electronic communications |
US8613089B1 (en) | 2012-08-07 | 2013-12-17 | Cloudflare, Inc. | Identifying a denial-of-service attack in a cloud-based proxy service |
US9165288B2 (en) | 2012-08-09 | 2015-10-20 | Polaris Wirelesss, Inc. | Inferring relationships based on geo-temporal data other than telecommunications |
US9083414B2 (en) | 2012-08-09 | 2015-07-14 | GM Global Technology Operations LLC | LTE MIMO-capable multi-functional vehicle antenna |
US10198152B2 (en) | 2012-08-10 | 2019-02-05 | Oath Inc. | Systems and methods for providing and updating live-streaming online content in an interactive web platform |
US9047382B2 (en) | 2012-08-13 | 2015-06-02 | Facebook, Inc. | Customized presentation of event guest lists in a social networking system |
US20140052485A1 (en) | 2012-08-13 | 2014-02-20 | Rundavoo, Inc. | System and method for on-line event promotion and group planning |
US20140052633A1 (en) | 2012-08-15 | 2014-02-20 | Ebay Inc. | Payment in a chat session |
KR101977703B1 (ko) | 2012-08-17 | 2019-05-13 | 삼성전자 주식회사 | 단말의 촬영 제어 방법 및 그 단말 |
US9767850B2 (en) | 2012-09-08 | 2017-09-19 | Michael Brough | Method for editing multiple video files and matching them to audio files |
US9661361B2 (en) | 2012-09-19 | 2017-05-23 | Google Inc. | Systems and methods for live media content matching |
US20140096026A1 (en) | 2012-09-28 | 2014-04-03 | Interactive Memories, Inc. | Methods for Establishing Simulated Force Dynamics Between Two or More Digital Assets Displayed in an Electronic Interface |
US9746990B2 (en) | 2012-09-28 | 2017-08-29 | Intel Corporation | Selectively augmenting communications transmitted by a communication device |
CN103777852B (zh) | 2012-10-18 | 2018-10-02 | 腾讯科技(深圳)有限公司 | 一种获取图像的方法、装置 |
US20140114565A1 (en) | 2012-10-22 | 2014-04-24 | Adnan Aziz | Navigation of a vehicle along a path |
US9032050B2 (en) | 2012-10-31 | 2015-05-12 | Vmware, Inc. | Systems and methods for accelerating remote data retrieval via peer nodes |
US20150286371A1 (en) | 2012-10-31 | 2015-10-08 | Aniways Advertising Solutions Ltd. | Custom emoticon generation |
US8775972B2 (en) | 2012-11-08 | 2014-07-08 | Snapchat, Inc. | Apparatus and method for single action control of social network profile access |
US20140143143A1 (en) | 2012-11-16 | 2014-05-22 | Jonathan David Fasoli | Using card image to extract bank account information |
US20140149519A1 (en) | 2012-11-28 | 2014-05-29 | Linkedln Corporation | Meeting room status based on attendee position information |
US9459752B2 (en) | 2012-12-14 | 2016-10-04 | Microsoft Technology Licensing, Llc | Browsing electronic messages displayed as tiles |
US9658742B2 (en) | 2012-12-28 | 2017-05-23 | Intel Corporation | Generating and displaying supplemental information and user interactions on interface tiles of a user interface |
KR20140094801A (ko) | 2013-01-23 | 2014-07-31 | 주식회사 케이티 | 인스턴트 메신저가 탑재된 이동단말 및 이를 이용한 마일리지 거래 방법 |
JP6435276B2 (ja) | 2013-01-28 | 2018-12-05 | サンダーリング・マネージメント・リミテッドSanderling Management Limited | 動的なプロモーションレイアウトの管理および配布ルール |
US20140214471A1 (en) | 2013-01-31 | 2014-07-31 | Donald Raymond Schreiner, III | System for Tracking Preparation Time and Attendance at a Meeting |
US20140222564A1 (en) | 2013-02-07 | 2014-08-07 | KBR IP Holdings, LLC | Geo-located social connectivity relating to events and commerce |
DE112013006621T5 (de) | 2013-02-08 | 2015-11-05 | Motorola Solutions, Inc. | Verfahren und Vorrichtung zur Handhabung von Anwenderschnittstellenelementen in einer Touchscreen-Vorrichtung |
US20140258405A1 (en) | 2013-03-05 | 2014-09-11 | Sean Perkin | Interactive Digital Content Sharing Among Users |
US9450907B2 (en) | 2013-03-14 | 2016-09-20 | Facebook, Inc. | Bundled event memories |
US9264463B2 (en) | 2013-03-15 | 2016-02-16 | Facebook, Inc. | Method and system of managing ephemeral post in a social networking system |
US20170185715A9 (en) | 2013-03-15 | 2017-06-29 | Douglas K. Smith | Federated Collaborative Medical Records System Utilizing Cloud Computing Network and Methods |
US9024753B2 (en) | 2013-03-15 | 2015-05-05 | Codex Corporation | Automating offender documentation with RFID |
US9528296B1 (en) | 2013-03-15 | 2016-12-27 | August Home, Inc. | Off center drive mechanism for thumb turning lock system for intelligent door system |
EP2973295A4 (en) | 2013-03-15 | 2016-11-16 | Proximity Concepts Llc | SYSTEMS AND METHODS FOR PROXIMITY FUNCTIONS, MAPPING, INDEXING, MOBILITY, ADVERTISING AND / OR OTHER |
US20140279540A1 (en) | 2013-03-15 | 2014-09-18 | Fulcrum Ip Corporation | Systems and methods for a private sector monetary authority |
US20140279061A1 (en) | 2013-03-15 | 2014-09-18 | Rapp Worldwide Inc. | Social Media Branding |
US9536232B2 (en) | 2013-03-15 | 2017-01-03 | Square, Inc. | Transferring money using email |
US10270748B2 (en) | 2013-03-22 | 2019-04-23 | Nok Nok Labs, Inc. | Advanced authentication techniques and applications |
US20140287779A1 (en) | 2013-03-22 | 2014-09-25 | aDesignedPath for UsabilitySolutions, LLC | System, method and device for providing personalized mobile experiences at multiple locations |
US10296933B2 (en) | 2013-04-12 | 2019-05-21 | Facebook, Inc. | Identifying content in electronic images |
US9736218B2 (en) | 2013-04-24 | 2017-08-15 | Blackberry Limited | Device, system and method for processing character data |
US20140323148A1 (en) * | 2013-04-30 | 2014-10-30 | Qualcomm Incorporated | Wide area localization from slam maps |
US9742713B2 (en) | 2013-05-30 | 2017-08-22 | Snap Inc. | Apparatus and method for maintaining a message thread with opt-in permanence for entries |
US9152477B1 (en) | 2013-06-05 | 2015-10-06 | Jpmorgan Chase Bank, N.A. | System and method for communication among mobile applications |
US8755824B1 (en) | 2013-06-28 | 2014-06-17 | Google Inc. | Clustering geofence-based alerts for mobile devices |
US20150020086A1 (en) | 2013-07-11 | 2015-01-15 | Samsung Electronics Co., Ltd. | Systems and methods for obtaining user feedback to media content |
US20150024721A1 (en) * | 2013-07-22 | 2015-01-22 | Nvidia Corporation | Automatically connecting/disconnecting an incoming phone call to a data processing device based on determining intent of a user thereof to respond to the incoming phone call |
US10679304B2 (en) | 2013-08-07 | 2020-06-09 | Microsoft Technology Licensing, Llc | System and method for positioning sponsored content in a social network interface |
US8825881B2 (en) | 2013-09-12 | 2014-09-02 | Bandwidth.Com, Inc. | Predictive caching of IP data |
US20150087263A1 (en) | 2013-09-24 | 2015-03-26 | Bennett Hill Branscomb | Methods and Apparatus for Promotions and Large Scale Games in Geo-Fenced Venues |
US20150096042A1 (en) | 2013-10-02 | 2015-04-02 | Innovative Venture, S.A. a Panama Corporation | Method and apparatus for improved private messaging |
US20150116529A1 (en) | 2013-10-28 | 2015-04-30 | Htc Corporation | Automatic effect method for photography and electronic apparatus |
US20150178260A1 (en) | 2013-12-20 | 2015-06-25 | Avaya, Inc. | Multi-layered presentation and mechanisms for collaborating with the same |
CA2863124A1 (en) | 2014-01-03 | 2015-07-03 | Investel Capital Corporation | User content sharing system and method with automated external content integration |
US9628950B1 (en) | 2014-01-12 | 2017-04-18 | Investment Asset Holdings Llc | Location-based messaging |
US8909725B1 (en) | 2014-03-07 | 2014-12-09 | Snapchat, Inc. | Content delivery network for ephemeral objects |
US10845982B2 (en) | 2014-04-28 | 2020-11-24 | Facebook, Inc. | Providing intelligent transcriptions of sound messages in a messaging application |
US9537811B2 (en) | 2014-10-02 | 2017-01-03 | Snap Inc. | Ephemeral gallery of ephemeral messages |
US9396354B1 (en) | 2014-05-28 | 2016-07-19 | Snapchat, Inc. | Apparatus and method for automated privacy protection in distributed images |
US10558338B2 (en) | 2014-05-28 | 2020-02-11 | Facebook, Inc. | Systems and methods for providing responses to and drawings for media content |
WO2016065131A1 (en) | 2014-10-24 | 2016-04-28 | Snapchat, Inc. | Prioritization of messages |
US9113301B1 (en) | 2014-06-13 | 2015-08-18 | Snapchat, Inc. | Geo-location based event gallery |
US9225897B1 (en) | 2014-07-07 | 2015-12-29 | Snapchat, Inc. | Apparatus and method for supplying content aware photo filters |
US10630625B2 (en) | 2014-07-13 | 2020-04-21 | Snap Inc. | Media object distribution |
US10824654B2 (en) | 2014-09-18 | 2020-11-03 | Snap Inc. | Geolocation-based pictographs |
US11216869B2 (en) | 2014-09-23 | 2022-01-04 | Snap Inc. | User interface to augment an image using geolocation |
US9015285B1 (en) | 2014-11-12 | 2015-04-21 | Snapchat, Inc. | User interface for accessing media at a geographic location |
US10311916B2 (en) | 2014-12-19 | 2019-06-04 | Snap Inc. | Gallery of videos set to an audio time line |
US9854219B2 (en) | 2014-12-19 | 2017-12-26 | Snap Inc. | Gallery of videos set to an audio time line |
US9385983B1 (en) | 2014-12-19 | 2016-07-05 | Snapchat, Inc. | Gallery of messages from individuals with a shared interest |
KR102035405B1 (ko) | 2015-03-18 | 2019-10-22 | 스냅 인코포레이티드 | 지오-펜스 인가 프로비저닝 |
US9881094B2 (en) | 2015-05-05 | 2018-01-30 | Snap Inc. | Systems and methods for automated local story generation and curation |
US9954945B2 (en) | 2015-06-30 | 2018-04-24 | International Business Machines Corporation | Associating contextual information with electronic communications |
US10318884B2 (en) | 2015-08-25 | 2019-06-11 | Fuji Xerox Co., Ltd. | Venue link detection for social media messages |
CN105760106B (zh) * | 2016-03-08 | 2019-01-15 | 网易(杭州)网络有限公司 | 一种智能家居设备交互方法和装置 |
CN105783913A (zh) * | 2016-03-08 | 2016-07-20 | 中山大学 | 一种融合车载多传感器的slam装置及其控制方法 |
US11900418B2 (en) | 2016-04-04 | 2024-02-13 | Snap Inc. | Mutable geo-fencing system |
WO2018045076A1 (en) | 2016-08-30 | 2018-03-08 | C3D Augmented Reality Solutions Ltd | Systems and methods for simultaneous localization and mapping |
-
2017
- 2017-08-30 WO PCT/US2017/049449 patent/WO2018045076A1/en unknown
- 2017-08-30 EP EP22207621.8A patent/EP4184438A1/en active Pending
- 2017-08-30 EP EP20210578.9A patent/EP3800618B1/en active Active
- 2017-08-30 KR KR1020227023663A patent/KR102606785B1/ko active IP Right Grant
- 2017-08-30 EP EP17768296.0A patent/EP3507772B1/en active Active
- 2017-08-30 CN CN202310044797.4A patent/CN116051640A/zh active Pending
- 2017-08-30 CN CN201780052981.6A patent/CN109804411B/zh active Active
- 2017-08-30 KR KR1020217018426A patent/KR102420857B1/ko active IP Right Grant
- 2017-08-30 US US15/691,439 patent/US10410367B2/en active Active
- 2017-08-30 KR KR1020197009181A patent/KR102267482B1/ko active IP Right Grant
-
2019
- 2019-08-05 US US16/532,131 patent/US10984547B2/en active Active
-
2021
- 2021-03-12 US US17/249,789 patent/US11816853B2/en active Active
-
2023
- 2023-05-12 US US18/196,940 patent/US12002232B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016514384A (ja) | 2013-01-30 | 2016-05-19 | クアルコム,インコーポレイテッド | 電力効率の良い深度センサーの使用によるリアルタイム3d再構成 |
US20160167226A1 (en) | 2014-12-16 | 2016-06-16 | Irobot Corporation | Systems and Methods for Capturing Images and Annotating the Captured Images with Information |
Non-Patent Citations (2)
Title |
---|
Live metric 3D reconstruction on mobile phones, IEEE, 2013. |
Parallel tracking and mapping for small AR workspace, IEEE, 2007. |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12002232B2 (en) | 2016-08-30 | 2024-06-04 | Snap Inc. | Systems and methods for simultaneous localization and mapping |
Also Published As
Publication number | Publication date |
---|---|
US12002232B2 (en) | 2024-06-04 |
US20180061072A1 (en) | 2018-03-01 |
EP4184438A1 (en) | 2023-05-24 |
KR20210076185A (ko) | 2021-06-23 |
US20230281851A1 (en) | 2023-09-07 |
US11816853B2 (en) | 2023-11-14 |
CN116051640A (zh) | 2023-05-02 |
EP3800618A1 (en) | 2021-04-07 |
US10984547B2 (en) | 2021-04-20 |
KR20220104269A (ko) | 2022-07-26 |
EP3507772B1 (en) | 2020-12-09 |
US10410367B2 (en) | 2019-09-10 |
WO2018045076A1 (en) | 2018-03-08 |
CN109804411B (zh) | 2023-02-17 |
KR20190134589A (ko) | 2019-12-04 |
KR102420857B1 (ko) | 2022-07-15 |
US20200175705A1 (en) | 2020-06-04 |
EP3800618B1 (en) | 2022-12-07 |
EP3507772A1 (en) | 2019-07-10 |
US20210201520A1 (en) | 2021-07-01 |
KR102267482B1 (ko) | 2021-06-22 |
CN109804411A (zh) | 2019-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102606785B1 (ko) | 동시 로컬화 및 매핑을 위한 시스템 및 방법 | |
US11810316B2 (en) | 3D reconstruction using wide-angle imaging devices | |
US20120306850A1 (en) | Distributed asynchronous localization and mapping for augmented reality | |
US11276201B1 (en) | Localizing an augmented reality device | |
CN115699096B (zh) | 跟踪增强现实设备 | |
KR20220114081A (ko) | 마커 기반 공유된 증강 현실 세션 생성 | |
US20180262713A1 (en) | Dynamically modeling an object in an environment from different perspectives | |
EP4028864A1 (en) | Occlusion detection system | |
KR20240008370A (ko) | 움직이는 객체들의 레이턴시를 최소화하기 위한 늦은 워핑 | |
KR20240005953A (ko) | 증강 현실 경험의 시동 시간 감소 | |
KR20240006669A (ko) | 늦은-워핑에서의 동적 오버-렌더링 | |
US20230410461A1 (en) | Efficient multi-scale orb without image resizing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A107 | Divisional application of patent | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |