KR20240065182A - 개인 이동성 시스템의 ar 기반 성능 변조 - Google Patents

개인 이동성 시스템의 ar 기반 성능 변조 Download PDF

Info

Publication number
KR20240065182A
KR20240065182A KR1020247014336A KR20247014336A KR20240065182A KR 20240065182 A KR20240065182 A KR 20240065182A KR 1020247014336 A KR1020247014336 A KR 1020247014336A KR 20247014336 A KR20247014336 A KR 20247014336A KR 20240065182 A KR20240065182 A KR 20240065182A
Authority
KR
South Korea
Prior art keywords
personal mobility
mobility system
user
virtual object
glasses
Prior art date
Application number
KR1020247014336A
Other languages
English (en)
Inventor
에드문드 그레이브스 브라운
벤자민 루카스
조나단 엠. 로드리게즈
리차드 주앙
Original Assignee
스냅 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 스냅 인코포레이티드 filed Critical 스냅 인코포레이티드
Publication of KR20240065182A publication Critical patent/KR20240065182A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62J—CYCLE SADDLES OR SEATS; AUXILIARY DEVICES OR ACCESSORIES SPECIALLY ADAPTED TO CYCLES AND NOT OTHERWISE PROVIDED FOR, e.g. ARTICLE CARRIERS OR CYCLE PROTECTORS
    • B62J45/00—Electrical equipment arrangements specially adapted for use as accessories on cycles, not otherwise provided for
    • B62J45/20—Cycle computers as cycle accessories
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62J—CYCLE SADDLES OR SEATS; AUXILIARY DEVICES OR ACCESSORIES SPECIALLY ADAPTED TO CYCLES AND NOT OTHERWISE PROVIDED FOR, e.g. ARTICLE CARRIERS OR CYCLE PROTECTORS
    • B62J50/00—Arrangements specially adapted for use on cycles not provided for in main groups B62J1/00 - B62J45/00
    • B62J50/20—Information-providing devices
    • B62J50/21—Information-providing devices intended to provide information to rider or passenger
    • B62J50/22—Information-providing devices intended to provide information to rider or passenger electronic, e.g. displays
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62K—CYCLES; CYCLE FRAMES; CYCLE STEERING DEVICES; RIDER-OPERATED TERMINAL CONTROLS SPECIALLY ADAPTED FOR CYCLES; CYCLE AXLE SUSPENSIONS; CYCLE SIDE-CARS, FORECARS, OR THE LIKE
    • B62K11/00—Motorcycles, engine-assisted cycles or motor scooters with one or two wheels
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62K—CYCLES; CYCLE FRAMES; CYCLE STEERING DEVICES; RIDER-OPERATED TERMINAL CONTROLS SPECIALLY ADAPTED FOR CYCLES; CYCLE AXLE SUSPENSIONS; CYCLE SIDE-CARS, FORECARS, OR THE LIKE
    • B62K3/00—Bicycles
    • B62K3/002—Bicycles without a seat, i.e. the rider operating the vehicle in a standing position, e.g. non-motorized scooters; non-motorized scooters with skis or runners
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20—Instruments for performing navigational calculations
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/365—Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0172—Head mounted characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/163—Wearable computers, e.g. on a belt
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/02—Reservations, e.g. for tickets, services or events
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62K—CYCLES; CYCLE FRAMES; CYCLE STEERING DEVICES; RIDER-OPERATED TERMINAL CONTROLS SPECIALLY ADAPTED FOR CYCLES; CYCLE AXLE SUSPENSIONS; CYCLE SIDE-CARS, FORECARS, OR THE LIKE
    • B62K2202/00—Motorised scooters
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B2027/0178—Eyeglass type
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Mechanical Engineering (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Automation & Control Theory (AREA)
  • Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Tourism & Hospitality (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

개인 이동성 시스템을 제어하는 방법은 증강 현실 웨어러블 디바이스 상에 가상 객체를 디스플레이하는 단계를 포함하며, 가상 객체는 현실 세계에서의 포지션에 대응하는 증강 현실 디바이스의 시야에서의 포지션에 위치된다. 현실 세계에서의 포지션과 개인 이동성 시스템 또는 개인 이동성 시스템의 사용자의 근접성이 검출된다. 근접성의 검출에 응답하여, 개인 이동성 시스템의 성능 특성이 수정된다.

Description

개인 이동성 시스템의 AR 기반 성능 변조
우선권 주장
본 출원은 2021년 9월 30일자로 출원된 미국 특허 출원 제17/490,915호에 대한 우선권의 이익을 주장하며, 이 출원은 그 전체가 본 명세서에 참고로 포함된다.
기술분야
본 개시내용은 일반적으로 개인 이동성(personal mobility) 시스템들("PM 시스템") 및 증강 또는 가상 현실을 위한 디스플레이들을 갖는 웨어러블 디바이스들("AR 웨어러블 디바이스")에 관한 것이다. 더 구체적으로, 본 개시내용은 개인 이동성 디바이스와 머리 착용형 증강 현실 디바이스(head-worn augmented reality device) 사이의 상호작용들에 관한 것이다.
승차 공유 플랫폼들(ride sharing platforms) 외에도, 대안적인 교통 수단 개발에 대한 관심이 높아지면서, 개인 이동성 시스템들의 다양성과 가용성이 폭발적으로 증가하였다. PM 시스템은 사용자(및 때로는 승객)를 한 장소로부터 다른 장소로 운송할 수 있는 모든 동력 개인 교통 수단들(modes of powered personal transportation)을 포함한다. 동력 개인 교통 수단은 동력 스쿠터들, 자전거들, 스케이트보드들, 유니사이클들, 카약들, 패들보드들, 및 서핑보드들을 포함하지만, 이에 제한되지 않는다. 전기 동력 자전거들 및 스쿠터들은 때때로 각각 전기 자전거들(e-bikes) 및 전기 스쿠터들(e-scooters)로 지칭된다. 동력 개인 교통 수단은 또한 승용차들, 트럭들, 모터사이클들, 및 보트들을 포함할 수 있다. 조작에 필요한 신체적 민첩성 및 순발력 외에도, 전기 스쿠터들, 전기 바이크들, 및 셀프-밸런싱 전기 스쿠터들(예를 들어, Segway® Ninebot)은 안전하게 조작하기 위해 더 높은 레벨의 사용자 집중 및 능력을 요구하는 조작상의 과제들 및 안전 위험들을 제시한다. 사용자 트레이닝이 전반적으로 부족하며 매우 어수선하고 역동적인 동작 환경과 결합된 도시 환경들에서의 PM 시스템들의 밀도가 급격히 증가함에 따라 사고와 입원이 급격히 증가했다.
전통적으로, PM 시스템들은 제어부(controls)가 거의 없고, 성능 피드백 표시자들이 거의 없거나 그러한 능력들(예를 들어, LED 또는 LCD 배터리 또는 속도 표시자들)이 극도로 제한되어 있고, 장애물 검출 또는 회피 시스템들이 없이 설계되어 있다. PM 시스템들의 기본 골격(bare-bones) 본질 때문에, 추가적인 제어부들 또는 성능 표시자들을 통합하는 것이 실현가능하지 않거나 안전하지 않을 수 있다.
한편, AR 웨어러블 디바이스들은 사용자가 주변 환경을 볼 수 있는 투명 또는 반투명 디스플레이들로 구현될 수 있다. 이러한 디바이스들은 사용자가 투명 또는 반투명 디스플레이를 통해 주변 물리적 환경을 볼 수 있게 하고, 또한 물리적 환경의 일부로서 및/또는 그 위에 오버레이되어 나타나도록 디스플레이를 위해 생성된 객체들(예를 들어, 3D 렌더링들, 이미지들, 비디오, 텍스트 등과 같은 가상 객체들)을 볼 수 있게 한다. 이는 전형적으로 "증강 현실(augmented reality)"이라고 지칭된다.
AR 웨어러블 디바이스들은 사용자의 시야(visual field)를 완전히 가리고 사용자가 이동하거나 이동될 수 있는 가상 환경을 디스플레이할 수 있다. 이는 전형적으로 "가상 현실(virtual reality)"이라고 지칭된다. 본 명세서에서 사용되는 바와 같이, "증강 현실" 또는 "AR"이라는 용어는, 문맥이 달리 나타내지 않는 한, 전통적으로 이해되는 바와 같이 증강 현실과 가상 현실 둘 다를 지칭한다.
반드시 일정 비율로 그려진 것은 아닌 도면들에서, 동일한 참조 번호들이 상이한 뷰들에서 유사한 컴포넌트들을 설명할 수 있다. 임의의 특정 요소 또는 동작의 논의를 용이하게 식별하기 위해, 참조 번호의 최상위 숫자 또는 숫자들은 그 요소가 처음 소개되는 도면 번호를 가리킨다. 일부 비제한적인 예들이 첨부 도면들의 도면들에 예시되어 있다:
도 1은 일부 예들에 따른, 웨어러블 디바이스의 사시도이다.
도 2는 일부 예들에 따른, 사용자의 관점에서 도 1의 증강 현실 웨어러블 디바이스의 추가의 도면을 예시한다.
도 3은 일부 예들에 따른 개인 이동성 시스템의 측면도이다.
도 4는 일부 예들에 따른 AR 웨어러블 디바이스 및 개인 이동성 시스템을 동작시키기에 적합한 네트워크 환경을 예시한다.
도 5는 일 예에 따른 도 1의 안경의 디스플레이들 상에 디스플레이되는 AR 요소들로 강화된(enhanced) 실외 환경의 도면이다.
도 6은 일 예에 따른 스쿠터가 AR 요소들로 강화된, 실외 환경에서의 스쿠터의 핸들바(handlebar)의 도면이다.
도 7은 일 예에 따른 도 1의 안경의 디스플레이들 상에 디스플레이되는 AR 요소들로 강화된 실외 환경의 도면이다.
도 8은 다른 예에 따른 도 1의 안경의 디스플레이들 상에 디스플레이되는 AR 요소들로 강화된 실외 환경의 도면이다.
도 9는 일 예에 따른, 네트워크 환경(400)의 동작을 도시하는 흐름도(900)이다.
도 10은 일부 예들에 따른, 안경(100) 및 스쿠터(300)의 상세들을 포함하는 네트워킹된 디바이스(1002)를 예시하는 블록도이다.
도 11은 일부 예들에 따른, 본 개시내용이 구현될 수 있는 소프트웨어 아키텍처를 도시하는 블록도이다.
도 12는 일부 예들에 따른, 머신으로 하여금, 논의되는 방법론들 중 임의의 하나 이상을 수행하게 하기 위해 명령어들의 세트가 실행될 수 있는 컴퓨터 시스템 형태의 머신의 도식적 표현이다.
이하의 설명은, 본 주제의 예들을 예시하는 시스템들, 방법들, 기법들, 명령어 시퀀스들, 및 컴퓨팅 머신 프로그램 제품들을 설명한다. 이하의 설명에서는, 설명의 목적들을 위해, 다수의 특정 상세들이 본 주제의 다양한 예들의 이해를 제공하기 위해 제시된다. 그러나, 본 주제의 예들은 이러한 특정 상세들 중 일부 또는 다른 것 없이 실시될 수 있다는 점이 본 기술분야의 통상의 기술자들에게 명백할 것이다. 예들은 단지 가능한 변형들을 대표할 뿐이다. 명시적으로 달리 언급되지 않는 한, 구조들(예를 들어, 모듈들과 같은 구조적 컴포넌트들)은 선택적이고, 조합되거나 세분될 수 있으며, (예를 들어, 절차, 알고리즘, 또는 다른 기능에서의) 동작들은 순서가 변하거나 조합되거나 세분될 수 있다.
AR 웨어러블 디바이스들과 PM 시스템들의 통합은 사용자 경험을 개선할 수 있고, 사용자에 가해지는 인지 부담을 줄임으로써 안전 위험들을 완화시킬 수 있다. AR 웨어러블 디바이스들은 원격측정 데이터 및 내비게이션 정보를 사용자의 시야에 집중시키고 디스플레이할 수 있을 뿐만 아니라, 물리적 장애물들을 검출하거나 가상 객체들과 상호작용하여 PM 시스템의 성능을 변조할 수 있다. AR 웨어러블 디바이스는 장애물들, 교통 제어 디바이스들, 및 위험 요소들을 검출하고 강조표시하여 사용자에게 그 존재를 경고할 수 있다. AR 웨어러블 디바이스는 또한 PM 시스템 내에 포함된 센서들을 사용하여, 사용자에 의해 인지되는 정보 및 PM 시스템의 성능 특성들을 추가로 통지 또는 수정할 수 있다.
동력 스쿠터들 및 전기 자전거들과 같은 PM 시스템들은 전형적으로 전원(예컨대, 배터리), 추진원(예컨대, 모터 또는 엔진), 사용자 제어부들(user controls), 독립 제동 시스템, 및 관리 시스템을 포함한다. 일부 PM 시스템들은 또한 무선 통신 시스템들(예컨대, 셀룰러, Wi-Fi®, 및 Bluetooth® 트랜스폰더들) 및 위치 시스템들(예를 들어, GPS)을 포함할 수 있다. 본 명세서에 설명된 PM 시스템들은 카메라들, 소나 센서들(sonar sensors), 레이더 센서들(radar sensors), 레이저 센서들, 라이다 센서들(lidar sensors), 가청률 센서들(hear rate sensors), 및 관성 측정 유닛들(inertial measurement units)("IMU들", 예컨대 가속도계들, 자이로스코프들, 및 자력계들)과 같은 감지 기술들을 추가로 포함할 수 있다.
일부 PM 시스템들은 관리 시스템에 연결될 수 있는 제동 시스템을 포함하고, 정상 동작 중 제동 외에도, 비상 시 PM 시스템을 안전하게 정지시키도록 의도된다. 제동 시스템은 또한 추진원, 관리 시스템, 및 전원을 수반하는 회생 제동 시스템(regenerative braking system)의 일부일 수 있다.
PM 시스템의 전형적인 동작은 사용자가 사용자 제어부들에 대해 행한 입력들을 관리 시스템에 송신하는 것을 수반한다. 그 후 관리 시스템은 사용자에 의한 원하는 액션을 달성하기 위해 전원으로부터 추진원으로의 전력의 전달을 제어할 것이다.
한편, AR 안경(AR spectacles 또는 AR glasses)과 같은 AR 웨어러블 디바이스들은 사용자가 투명 또는 반투명 디스플레이를 통해 주변 환경을 볼 수 있게 하는 투명 또는 반투명 디스플레이를 포함한다. 추가적인 정보 또는 객체들(예를 들어, 3D 렌더링들, 이미지들, 비디오, 텍스트 등과 같은 가상 객체들)이 디스플레이 상에 표시되고 주변 환경의 일부로서 및/또는 주변 환경 상에 오버레이되어 나타나 사용자에게 증강 현실 경험을 제공한다. 디스플레이는 예를 들어 프로젝터로부터 광 빔을 수신하는 도파관을 포함할 수 있지만, 증강 또는 가상 콘텐츠를 착용자에게 제시하기 위한 임의의 적절한 디스플레이가 사용될 수 있다. PM 시스템들과 같이, AR 웨어러블 디바이스들은 또한 무선 통신 시스템들(예컨대, 셀룰러, Wi-Fi®, 및 Bluetooth® 트랜스폰더들) 및 위치 시스템들(예를 들어, GPS), 카메라, 및 IMU 센서들을 포함할 수 있다.
본 명세서에서 언급되는 바와 같이, "증강 현실 경험(augmented reality experience)"이라는 문구는, 본 명세서에서 추가로 설명되는 바와 같이, 이미지 수정, 필터, 미디어 오버레이(media overlay), 변환 등에 대응하는 다양한 이미지 처리 동작들을 포함하거나 지칭한다. 일부 예들에서, 이러한 이미지 처리 동작들은 현실 세계 환경의 상호작용 경험을 제공하며, 여기서 현실 세계에서의 객체들, 표면들, 배경들, 조명 등이 컴퓨터-생성 지각 정보에 의해 강화된다. 이러한 맥락에서, "증강 현실 효과"는 선택된 증강 현실 경험을 이미지 또는 비디오 피드에 적용하는 데 필요한 데이터, 파라미터들, 및 다른 자산들의 컬렉션을 포함한다. 일부 예들에서, 증강 현실 효과들은 등록 상표 LENSES 하에 Snap, Inc.에 의해 제공된다.
AR 웨어러블 머리 착용형 디바이스 시스템들에 의한 가상 객체들의 렌더링은 (AR 웨어러블 디바이스 외부의) 고정된 참조 프레임에 대한 또는 물리적 객체에 대한 AR 웨어러블 디바이스의 포지션에 기초할 수 있어서 가상 객체가 디스플레이에 정확하게 나타나도록 한다. 예로서, AR 웨어러블 디바이스는, 가상 객체가 물리적 객체와 정렬된 것처럼 보이는 것으로서 사용자에 의해 인지될 수 있도록, 물리적 객체와 연관된 가상 객체를 렌더링할 수 있다. 다른 예에서, 그래픽(예를 들어, 정보, 지침, 및 가이드를 포함하는 그래픽 요소)이 관심 있는 물리적 객체에 부착되거나 오버레이되는 것처럼 보인다. 이를 달성하기 위해, AR 웨어러블 디바이스는 물리적 객체를 검출하고 물리적 객체의 포지션에 대한 AR 웨어러블 디바이스의 자세를 추적한다. 자세는 참조 프레임에 대한 또는 또 다른 객체에 대한 AR 웨어러블 디바이스의 포지션과 배향을 식별한다.
AR 웨어러블 디바이스와의 사용자 상호작용은 일부 경우들에서 음성 커맨드들에 의해, 스마트폰과 같은 연관된 디바이스에 대한 입력에 의해, AR 웨어러블 디바이스의 카메라들에 의해 검출된 제스처들에 의해, 또는 AR 웨어러블 디바이스 상에 제공된 터치패드에 의해 제공될 수 있으며, 이는 AR 웨어러블 디바이스에 x-y 터치 및 탭 입력(x-y touch and tap input)을 제공하는 데 사용될 수 있다.
PM 시스템과 AR 웨어러블 디바이스 통합에서, PM 시스템과 AR 웨어러블 디바이스는 서로 통신한다. 각각, 개별적으로, 또는 서로를 통해, PM 시스템과 AR 웨어러블 디바이스는 또한 다른 디바이스들(예컨대, 모바일폰들)과 또는 다른 디바이스들(예컨대, 서버들)을 포함하는 네트워크들과 통신할 수 있다. PM 시스템은 속도, 가속도, 제어부들의 포지션, 사용자 포지션 및 포즈, 및 배터리 레벨과 같은 원격측정 정보를 AR 웨어러블 디바이스에 제공할 수 있다. PM 시스템은 또한 카메라 및 다른 센서들로부터의 정보를 제공할 수 있다. AR 웨어러블 디바이스는, 차례로, 성능 관련 커맨드들(예를 들어, 최상위(top) 속도, 가속도, 제동 전력을 제한 또는 변조하는 것) 또는 비-성능 관련 커맨드들(예를 들어, 조명을 켜고 끄는 것 또는 경적을 울리는 것)을 제공할 수 있다. AR 웨어러블 디바이스는 또한 AR 웨어러블 디바이스에 의해서만 수집된 원격측정(예를 들어, GPS에 의해 계산된 속도, 사용자의 포지션 및 포즈)을 PM 시스템에 제공할 수 있다. 유사하게, AR 웨어러블 디바이스는 PM 시스템으로부터 원격측정 및 센서 데이터를 수신할 수 있다.
일부 예들에서, 증강 현실 효과는 어떤 방식으로든 AR 웨어러블 디바이스의 그래픽 사용자 인터페이스(graphic user interface)("GUI") 내에 제시된 이미지 데이터를 수정 또는 변환하도록 구성된 증강 현실 콘텐츠를 포함한다. 예를 들어, AR 웨어러블 디바이스의 시야에서 환경의 외관에 대한 복잡한 추가들 또는 변환들은 AR 효과 데이터를 사용하여 수행될 수 있다: 교통 제어 신호들, 도로들, 건물들, 및 차량들을 강조표시, 애니메이션, 또는 변환하는 것; AR 웨어러블 디바이스 상에 보여지고 있는 장면 내의 랜드마크들에 강화들(enhancements)을 추가하는 것; 또는 수많은 다른 이러한 변환들. 이것은 이미지가 AR 웨어러블 디바이스와 연관된 카메라 또는 AR 웨어러블 디바이스와 통신하는 일부 다른 디바이스(예를 들어, PM 시스템)를 사용하여 캡처될 때 이미지를 수정하는 실시간 수정들- 그 후 AR 효과 수정들과 함께 AR 웨어러블 디바이스에 의해 디스플레이됨 -뿐만 아니라, AR 효과들을 사용하여 수정될 수 있는 갤러리 내의 비디오 클립들과 같은 저장된 콘텐츠에 대한 수정들도 둘 다 포함한다. 유사하게, 실시간 비디오 캡처는 AR 웨어러블 디바이스의 사용자에게 디바이스의 센서들에 의해 현재 캡처되고 있는 비디오 이미지들이 캡처된 데이터를 어떻게 수정할지를 보여주기 위해 AR 효과와 함께 사용될 수 있다. 이러한 데이터는 단순히 스크린 상에 디스플레이되고 메모리에 저장되지 않을 수 있거나, 디바이스 센서들에 의해 캡처된 콘텐츠는 AR 효과 수정들과 함께 또는 AR 효과 수정들 없이(또는 둘 다로) 메모리에 기록되고 저장될 수 있거나, 또는 디바이스 센서들에 의해 캡처된 콘텐츠는 AR 효과 수정과 함께 네트워크를 통해 서버 또는 다른 디바이스에 송신될 수 있다.
따라서 AR 효과들 및 AR 효과들을 사용하여 콘텐츠를 수정하기 위한 연관된 시스템들 및 모듈들은 객체들(예를 들어, 얼굴들, 손들, 신체들, 고양이들, 개들, 표면들, 객체들 등)의 검출, 이러한 객체들이 비디오 프레임들에서 시야를 벗어나고, 그에 들어가고, 그 주위를 이동할 때 이러한 객체들의 추적, 및 이러한 객체들이 추적될 때 이러한 객체들의 수정 또는 변환을 수반할 수 있다. 다양한 예들에서, 이러한 변환들을 달성하기 위한 상이한 방법들이 사용될 수 있다. 일부 예들은 객체 또는 객체들의 3D 메시 모델을 발생하는 것, 및 변환을 달성하기 위해 비디오 내에서의 모델의 변환들 및 애니메이션화된 텍스처들을 사용하는 것을 수반할 수 있다. 다른 예들에서, 객체 상의 포인트들의 추적은 추적된 포지션에, 2차원 또는 3차원일 수 있는, 이미지 또는 텍스처를 배치하는 데 사용될 수 있다. 또 다른 예들에서, 비디오 프레임들의 신경망 분석은 콘텐츠(예를 들어, 이미지 또는 비디오 프레임)에 이미지들, 모델들, 또는 텍스처들을 배치하는 데 사용될 수 있다. 따라서, AR 효과 데이터는 콘텐츠에서의 변환들을 생성하는 데 사용되는 이미지들, 모델들, 및 텍스처들뿐만 아니라, 객체 검출, 추적, 및 배치를 통해 이러한 변환들을 달성하는 데 필요한 추가적인 모델링 및 분석 정보를 양자 모두 포함할 수 있다.
AR 웨어러블 디바이스의 사용자에게 디스플레이되는 가상 객체들은 PM 시스템의 성능 특성들에 영향을 줄 수 있다. 일 예에서, 개인 이동성 시스템을 제어하는 방법이 제공되며, 이 방법은, 증강 현실 웨어러블 디바이스 상에 가상 객체를 디스플레이하는 단계- 가상 객체는 현실 세계에서의 포지션에 대응하는 증강 현실 디바이스의 시야에서의 포지션에 위치됨 -, 현실 세계에서의 포지션과 개인 이동성 시스템 또는 개인 이동성 시스템의 사용자의 근접성을 검출하는 단계, 및 근접성의 검출에 응답하여, 개인 이동성 시스템의 성능 특성을 수정하는 단계를 포함한다.
성능 특성의 수정은 개인 이동성 시스템의 최대 속도 또는 최대 전력의 변경을 포함할 수 있다. 성능 특성의 수정은 가상 객체의 파라미터들에 기초하여 미리 결정된 시간 동안 발생할 수 있다.
현실 세계에서의 포지션은 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치, 또는 개인 이동성 시스템이 위치하는 환경 내의 참조 프레임 내의 위치일 수 있다.
일 예에서, 방법은, 현실 세계에서의 포지션과 개인 이동성 시스템 또는 개인 이동성 시스템의 사용자의 근접성의 검출에 응답하여 현실 세계에서의 포지션에 대응하는 증강 현실 디바이스의 시야에서의 포지션으로부터 증강 현실 웨어러블 디바이스의 디스플레이로부터 가상 객체를 제거하는 단계를 추가로 포함할 수 있다.
방법은 또한, 근접성의 검출에 응답하여, 환경 내의 참조 프레임 내의 위치로부터 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치로 가상 객체를 이송(transferring)하는 단계, 및 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치와 개인 이동성 시스템의 사용자의 교차점(intersection)이 검출될 때까지 개인 이동성 시스템의 성능 특성의 수정을 지연시키는 단계를 추가로 포함할 수 있다.
다른 예에서, 비일시적 컴퓨터 판독가능 저장 매체가 제공되며, 컴퓨터 판독가능 저장 매체는, 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금, 위에서 설명된 방법들을 포함하지만 이에 제한되지 않는 개인 이동성 시스템을 제어하기 위한 동작들을 수행하게 하는 명령어들을 포함한다. 추가 예에서, 컴퓨팅 시스템이 제공되며, 컴퓨팅 시스템은 프로세서, 및 프로세서에 의해 실행될 때, 위에서 설명된 방법들을 포함하지만 이에 제한되지 않는 개인 이동성 시스템을 제어하기 위한 동작들을 수행하도록 컴퓨팅 시스템을 구성하는 명령어들을 저장한 메모리를 포함한다.
예를 들어, 동작들은 증강 현실 웨어러블 디바이스 상에 가상 객체를 디스플레이하는 동작- 가상 객체는 현실 세계에서의 포지션에 대응하는 증강 현실 디바이스의 시야에서의 포지션에 위치됨 -, 현실 세계에서의 포지션과 개인 이동성 시스템 또는 개인 이동성 시스템의 사용자의 근접성을 검출하는 동작, 및 및 근접성의 검출에 응답하여, 개인 이동성 시스템의 성능 특성을 수정하는 동작을 포함할 수 있다.
다른 기술적 특징들은 다음의 도면들, 설명들, 및 청구항들로부터 본 기술분야의 통상의 기술자에게 쉽게 명백할 수 있다.
도 1은 일부 예들에 따른, AR 웨어러블 디바이스(예를 들어, 안경(100))의 사시도이다. 안경(100)은, 임의의 적절한 형상 기억 합금(shape memory alloy)을 포함한, 플라스틱 또는 금속과 같은 임의의 적절한 재료로 만들어진 프레임(102)을 포함할 수 있다. 하나 이상의 예에서, 프레임(102)은 브리지(110)에 의해 연결된 제1 또는 좌측 광학 요소 홀더(114)(예를 들어, 디스플레이 또는 렌즈 홀더) 및 제2 또는 우측 광학 요소 홀더(120)를 포함하는 전면 피스(front piece)(104)를 포함한다. 전면 피스(104)는 좌측 단부(left end portion)(112) 및 우측 단부(right end portion)(118)를 추가로 포함한다. 제1 또는 좌측 광학 요소(116) 및 제2 또는 우측 광학 요소(122)는 각자의 좌측 광학 요소 홀더(114) 및 우측 광학 요소 홀더(120) 내에 제공될 수 있다. 좌측 광학 요소(116) 및 우측 광학 요소(122) 각각은 렌즈, 디스플레이, 디스플레이 어셈블리, 또는 이들의 조합일 수 있다. 본 명세서에 개시된 디스플레이 어셈블리들 중 임의의 것이 안경(100)에 제공될 수 있다.
프레임(102)은, 전면 피스(104)에 결합시키거나, 전면 피스(104)와 일체가 되도록 전면 피스(104)에 견고하게 또는 고정식으로 고정시키기 위해, 힌지(도시되지 않음)와 같은 임의의 적절한 수단에 의해 전면 피스(104)의 각자의 좌측 단부(112) 및 우측 단부(118)에 결합된 좌측 템플 피스(left temple piece)(106)(즉, 좌측 아암) 및 우측 템플 피스(right temple piece)(108)(즉, 우측 아암)를 추가로 포함한다. 하나 이상의 구현에서, 좌측 템플 피스(106)와 우측 템플 피스(108) 각각은 전면 피스(104)의 각자의 좌측 단부(112) 및 우측 단부(118)에 결합되는 제1 아암 부분(124) 및 사용자의 귀에 결합하기 위한 임의의 적합한 제2 아암 부분(126)을 포함한다. 일 예에서, 전면 피스(104)는 단일 또는 일체형 구조를 갖도록 단일 재료 피스(a single piece of material)로 형성될 수 있다. 도 1에 예시된 바와 같은 일 예에서, 전체 프레임(102)은 단일 또는 일체형 구조를 갖도록 단일 재료 피스로 형성될 수 있다.
안경(100)은, 프레임(102)에 장착되도록 하는 임의의 적절한 타입으로 될 수 있고, 하나 이상의 예에서, 좌측 템플 피스(106)와 우측 템플 피스(108) 중 하나에 적어도 부분적으로 배치되게 하는 적절한 크기 및 형상으로 될 수 있는, 컴퓨터(128)와 같은 컴퓨팅 디바이스를 포함할 수 있다. 하나 이상의 예에서, 도 1에 예시된 바와 같이, 컴퓨터(128)는 우측 템플 피스(108)(또는 좌측 템플 피스(106))의 크기 및 형상과 유사한 크기 및 형상을 갖고, 그에 따라, 이러한 우측 템플 피스(108)의 구조 및 경계들 내에 완전히는 아니더라도 거의 완전히 배치된다. 하나 이상의 예에서, 컴퓨터(128)는 우측 템플 피스(108)와 좌측 템플 피스(106) 둘 다에 배치된다. 컴퓨터(128)는 메모리, 무선 통신 회로, 센서들 및 연관된 회로, 및 전원을 갖는 하나 이상의 프로세서를 포함할 수 있다. 아래 논의되는 바와 같이, 컴퓨터(128)는 저전력 회로, 고속 회로, 및 디스플레이 프로세서를 포함한다. 다양한 다른 예는 이 요소들을 상이한 구성들로 포함하거나 상이한 방식들로 함께 통합할 수 있다. 컴퓨터(128)의 양태들의 추가적인 상세들은 아래에 논의되는 안경(100)에 의해 예시된 바와 같이 구현될 수 있다.
컴퓨터(128)는 배터리(130) 또는 다른 적절한 휴대형 전원을 추가로 포함한다. 일 예에서, 배터리(130)가 좌측 템플 피스들(106)과 우측 템플 피스(108) 중 하나에 배치되거나, 또는 다수의 배터리들(130)이 각각의 템플 피스에 위치된다. 도 1에 도시된 안경(100)에서, 배터리(130)는 좌측 템플 피스(106)에 배치되고, 전면 피스(104) 내에 배치된 전기 전도체들을 통해 컴퓨터(128)에 전기적으로 결합되는 것으로서 도시되어 있다. 안경(100)은 프레임(102)의 외부로부터 액세스가능한 배터리(130)를 충전하기에 적합한 커넥터 또는 포트(도시되지 않음)를 포함할 수 있다. 안경(100)은 전면 피스(104), 좌측 템플 피스(106), 및 우측 템플 피스(108) 내에 배치된 무선 수신기, 송신기, 또는 송수신기(도시되지 않음) 또는 이러한 디바이스들의 조합, 관성 측정 센서들, 및 다른 센서들을 추가로 포함할 수 있다.
하나 이상의 구현에서, 안경(100)은 하나 이상의 카메라(132)를 포함한다. 2개의 카메라가 묘사되어 있지만, 다른 예들은 단일의 또는 추가적인(즉, 2개보다 많은) 카메라(132)의 사용을 고려한다. 하나 이상의 예에서, 안경(100)은 카메라(132) 외에도 임의의 수의 센서들 또는 주변 디바이스들을 포함한다. 예를 들어, 안경(100)은 소나 센서들, 레이더 센서들, 레이저 센서들, 라이다 센서들, 및 관성 측정 유닛들(예컨대 가속도계들, 자이로스코프들, 및 자력계들)을 포함할 수 있다.
전면 피스(104)에는, 안경(100)이 사용자의 얼굴에 장착될 때 사용자로부터 전방 또는 외측을 향하는 외측 방향(outward facing), 전방 방향(forward-facing) 전면 또는 외측 표면(134), 및 안경(100)이 사용자의 얼굴에 장착될 때 사용자의 얼굴을 향하는 반대쪽 내측 방향(inward-facing), 후방 방향(rearward-facing) 또는 후면 또는 내측 표면(136)이 제공된다. 이러한 센서들은, 전면 피스(104)의 내측 표면(136) 또는 사용자를 향하는 프레임(102) 상의 다른 곳에 장착되거나 제공될 수 있는 것과 같은 내측 방향의 비디오 센서들 또는 디지털 이미징 모듈들, 및 전면 피스(104)의 외측 표면(134) 또는 사용자로부터 멀어지는 방향으로 향하는 프레임(102) 상의 다른 곳에 장착되거나 제공될 수 있는 카메라(132)와 같은 외측 방향의 비디오 센서들 또는 디지털 이미징 모듈들을 포함할 수 있다. 이러한 센서들, 주변 디바이스들(peripheral devices) 또는 주변장치들(peripherals)은 바이오메트릭 센서들, 위치 센서들(예를 들어, GPS), 또는 임의의 다른 이러한 센서들을 추가로 포함할 수 있다.
하나 이상의 구현에서, 안경(100)은 터치패드들 또는 버튼들(도시되지 않음)과 같은 입력 센서들을 포함한다. 터치패드들은 좌측 템플 피스(106)와 우측 템플 피스(108) 중 하나 또는 둘 다에 장착되거나 통합될 수 있다. 터치패드들은 일 예에서 사용자의 관자놀이(temple)에 대략 평행하게 일반적으로 수직으로 배열된다. 본 명세서에서 사용되는 바와 같이, 일반적으로 수직으로 정렬된다는 것은 터치패드가 적어도 수평보다 더 수직임을 의미하지만, 바람직하게는 그보다 더 수직임을 의미한다. 추가적인 사용자 입력은 하나 이상의 버튼에 의해 제공될 수 있다. 하나 이상의 터치패드 및 버튼은, 안경(100)이 안경(100)의 사용자로부터 입력을 수신할 수 있는 수단을 제공한다. 안경(100)은 사용자로부터 구두 커맨드들(verbal commands)을 수신하고 다른 소리들을 모니터링하기 위한 마이크로폰들을 포함할 수 있다. 유사하게, 안경(100)은 사용자에게 청각적 피드백을 제공하거나 사용자가 음악을 재생하는 것을 허용하기 위한 스피커들을 포함할 수 있다.
도 2는 착용자의 관점에서 안경(100)을 예시한다. 명료성을 위해, 도 1에 도시된 다수의 요소들이 생략되었다. 도 1에 설명된 바와 같이, 도 2에 도시된 안경(100)은 좌측 광학 요소 홀더(114)와 우측 광학 요소 홀더(120) 각각 내에 고정된 좌측 광학 요소(116)와 우측 광학 요소(122)를 각각 포함한다.
안경(100)은 우측 프로젝터(204)와 우측 근안 디스플레이(206)를 포함하는 우측 전방 광학 어셈블리(202), 및 좌측 프로젝터(210)와 좌측 근안 디스플레이(212)를 포함하는 좌측 전방 광학 어셈블리(208)를 포함한다.
일 예에서, 근안 디스플레이들은 도파관들이다. 도파관들은 반사 또는 회절 구조물들(예를 들어, 격자들 및/또는 미러들, 렌즈들, 또는 프리즘들과 같은 광학 요소들)을 포함한다. 우측 프로젝터(204)에 의해 방출된 우측 투영 광(214)은, 사용자가 보는 현실 세계의 뷰를 오버레이하는 우측 광학 요소(122) 상에 또는 내에 이미지를 제공하기 위해 사용자의 우측 눈을 향해 광을 지향시키는 우측 근안 디스플레이(206)의 도파관의 회절 구조물들과 마주친다. 유사하게, 좌측 프로젝터(210)에 의해 방출된 좌측 투영 광(216)은, 사용자가 보는 현실 세계의 뷰를 오버레이하는 좌측 광학 요소(116) 상에 또는 내에 이미지를 제공하기 위해 사용자의 좌측 눈을 향해 광을 지향시키는 좌측 근안 디스플레이(212)의 도파관의 회절 구조물들과 마주친다.
그러나, 전방 시야에서 사용자에게 이미지를 디스플레이할 수 있는 다른 디스플레이 기술들 또는 구성들이 제공될 수 있다는 것이 이해될 것이다. 예를 들어, 우측 프로젝터(204) 또는 좌측 프로젝터(210) 및 도파관 대신에, LCD, LED 또는 다른 디스플레이 패널 또는 표면이 대신 제공될 수 있다.
사용 시에, 안경(100)의 착용자에게는 근안 디스플레이들 상에 정보, 콘텐츠, AR 효과들, 가상 객체들 및 다양한 사용자 인터페이스들이 제시될 것이다. 아래에 더 상세히 설명되는 바와 같이, 사용자는 그 후 터치패드 및/또는 버튼들(도시되지 않음)을 사용하여, 카메라들의 시야 내의 제스처들에 의해, 뿐만 아니라, 연관된 디바이스, 예를 들어, 도 10에 예시된 클라이언트 디바이스(404) 상에서 음성 입력들 또는 터치 입력들을 제공하는 것에 의해, 안경(100)과 상호작용할 수 있다.
도 3은 일부 예들에 따른 개인 이동성 시스템의 측면도이다. 도 3에서는, 스쿠터(300)가 예시적인 개인 이동성 시스템으로서 사용된다. 다른 개인 이동성 시스템들이 본 명세서에 설명된 예들에서 사용될 수 있다는 점이 이해되어야 한다. 스쿠터(300)는 본체(302)를 포함하며, 적어도 2개의 휠(즉, 전면 휠(306)과 후면 휠(308))이 본체(302)에 장착된다. 본체(302)는 적어도 단일 사용자가 서 있을 수 있는(또는 본체(302)에 고정된 좌석에 앉을 수 있는) 플랫폼을 제공한다. 스쿠터(300)는, 휠들 중 적어도 하나(예를 들어, 전면 휠(306))에 결합되는 스티어링 컬럼(steering column)(304)을 추가로 포함한다. 일부 예들에서, 전면 휠(306)과 후면 휠(308) 각각은 휠 허브(wheel hub), 스포크들(spokes), 휠 림(wheel rim) 및 타이어를 포함한다. 스티어링 컬럼(304)은 전면 휠(306)의 스티어링을 허용하기 위해 본체(302)에 회전가능하게 결합된다.
스티어링 컬럼(304)은 스티어링 컬럼(304)으로부터 실질적으로 수직인 배향으로 연장되는 핸들바(310)를 추가로 포함하고, 핸들바(310)는 사용자가 타고 있는 동안 스쿠터(300)를 스티어링하기 위한 높이에 설정된다. 핸들바(310)는 좌측 핸들(312) 및 우측 핸들(314)을 포함할 수 있다. 좌측 핸들(312)은 전면 휠(306)과 후면 휠(308) 중 적어도 하나의 브레이크에 동작가능하게 연결된 가속 제어부(acceleration control)(316) 및 브레이크 제어부(brake control)(318)를 포함한다. 아래에 더 상세하게 논의되는 바와 같이, 가속 제어부(316)와 브레이크 제어부(318) 각각은 관리 시스템(324)에 동작가능하게 연결된다.
스쿠터(300)는 또한, 전원(320), 추진원(322), 관리 시스템(324), 및 전방-주시 센서들(forward-looking sensors)(326)을 포함한다.
전원(320)과 추진원(322)은 각각 독립적으로 관리 시스템(324)에 동작가능하게 연결된다. 가속 제어부(316)와 브레이크 제어부(318)는 또한 각각 독립적으로 관리 시스템(324)에 동작가능하게 연결되지만, 일부 경우들에서는 브레이크 제어부(318)가 수동 브레이크 시스템에만 물리적으로 결합될 수 있다. 동작 시에, 사용자는 스쿠터(300)의 이동을 시작, 유지, 변경 및 중지하기 위해 가속 제어부(316) 및 브레이크 제어부(318)를 통해 관리 시스템(324)에 입력들을 제공한다. 추가적으로, 회생 제동이 가속 제어부(316)를 통해 제공될 수 있다. 아래에 더 논의되는 바와 같이, 사용자는 또한 안경(100)과 클라이언트 디바이스(404) 중 적어도 하나를 통해 입력들을 제공할 수 있다. 관리 시스템(324)은 전원(320)으로부터 추진원(322)으로 에너지의 흐름을 지향시킨다.
추진원(322)은 모터, 관리 시스템(324)에 대한 동력 연결부(power linkage), 및 추진원(322)이 휠들 중 적어도 하나를 구동할 수 있도록 전면 휠(306)과 후면 휠(308) 중 적어도 하나에 대한 기계적 연결부를 추가로 포함한다. 명료성을 위해, 모터는 휠들을 직접 구동하거나 체인/스프로켓/구동 샤프트/변속기/또는 다른 간접 구동 수단을 통해 휠들을 간접적으로 구동할 수 있다. 일부 구현들에서, 브레이크 및 추진원은 전면 휠(306)과 후면 휠(308) 중 적어도 하나의 허브 내에 배치될 수 있다. 도 3에 예시된 구현에서, 추진원(322)은 전면 휠(306)에 위치된다. 브레이크는 브레이크 제어부(318)에 동작가능하게 연결된 전면 및 후면 드럼 또는 디스크 브레이크들을 포함할 수 있다. 캔틸레버 및 V-브레이크와 같은 다른 타입들의 브레이크들도 사용될 수 있다.
전원(320)은 본체(302) 내에 배치될 수 있고, 관리 시스템(324)에 의해 충전될 수 있으며, 관리 시스템은 차례로 커넥터(328)를 통해 외부 전원으로부터 전력을 수신한다. 일부 구현들에서, 전원(320)은 착탈식이며, 사용자가 전원들(320)을 교체(swap)하고 각각의 전원(320)을 스쿠터(300)로부터 떨어져 충전할 수 있게 한다.
추가적으로, 관리 시스템(324)은 전방-주시 센서들(326) 및 시각적 피드백 요소(332)에 동작가능하게 연결된다. 전방-주시 센서들(326)은 센서 하우징(330) 내에 배치되고 스티어링 컬럼(304)에 장착되어 전방-주시 센서들(326)이 스쿠터(300)의 진행 방향으로 방해받지 않는 시야를 갖게 된다. 전방-주시 센서들(326)은 카메라들, 소나 센서들, 레이더 센서들, 레이저 센서들, 및 라이다 센서들과 같은 감지 기술들; 뿐만 아니라 조명 또는 경적과 같은 안전 컴포넌트들을 포함할 수 있다. 시각적 피드백 요소(332)는 사용자를 마주보고, 사용자에게 정보(예를 들어, 전원 상태, 속도, 위치, 및 관리 시스템(324)으로부터 수신된 다른 데이터)를 제공한다. 시각적 피드백 요소(332)는 또한 관리 시스템(324)에 동작가능하게 연결된 통신 모듈(예컨대, 블루투스 트랜스듀서, 안테나들)을 포함할 수 있다. 스쿠터(300)의 추가적인 요소들은 네트워킹된 디바이스들(1002)과 관련하여 아래에서 더 상세히 논의될 것이다. 일부 구현들에서, 관리 시스템(324)의 요소들은 네트워킹된 디바이스(1002)에 통합된다.
도 4는 일부 예들에 따른, AR 웨어러블 디바이스(예컨대, 안경(100)) 및 개인 이동성 시스템(예컨대, 스쿠터(300))을 동작시키기에 적합한 네트워크 환경(400)을 예시하는 네트워크 다이어그램이다. 네트워크 환경(400)은 서로 직접 또는 네트워크(408)를 통해 통신가능하게 결합된 안경(100), 스쿠터(300), 클라이언트 디바이스(404), 및 서버(410)를 포함한다. 안경(100), 스쿠터(300), 클라이언트 디바이스(404), 및 서버(410)는 각각, 도 12에 대해 이하에 설명된 바와 같이, 전체적으로 또는 부분적으로, 컴퓨터 시스템에서 구현될 수 있다. 서버(410)는 네트워크 기반 시스템의 일부일 수 있다. 예를 들어, 네트워크 기반 시스템은 지리적 위치 정보 또는 가상 콘텐츠(예를 들어, 가상 객체들의 3차원 모델들)와 같은 추가적인 정보를 안경(100), 스쿠터(300), 및 클라이언트 디바이스(404)에 제공하는 클라우드 기반 서버 시스템일 수 있거나 이를 포함할 수 있다.
클라이언트 디바이스(404)는 스마트폰, 태블릿, 패블릿, 랩톱 컴퓨터, 액세스 포인트, 또는 저전력 무선 연결과 고속 무선 연결 둘 다를 사용하여 안경(100) 및 스쿠터(300)와 연결할 수 있는 임의의 다른 그러한 디바이스일 수 있다. 클라이언트 디바이스(404)는 서버(410) 및 네트워크(408)에 연결된다. 네트워크(408)는 유선 및 무선 연결들의 임의의 조합을 포함할 수 있다. 서버(410)는 서비스 또는 네트워크 컴퓨팅 시스템의 일부로서의 하나 이상의 컴퓨팅 디바이스일 수 있다. 클라이언트 디바이스(404) 및 서버(410)와 네트워크(408)의 임의의 요소들은 도 11 및 도 12에 설명된 소프트웨어 아키텍처(1102) 또는 머신(1200)의 상세들을 사용하여 구현될 수 있다.
사용자(402)가 안경(100) 및 스쿠터(300)를 조작한다. 사용자(402)는 인간 사용자(예를 들어, 인간), 머신 사용자(예를 들어, 안경(100) 및 스쿠터(300)와 상호작용하도록 소프트웨어 프로그램에 의해 구성된 컴퓨터), 또는 이들의 임의의 적절한 조합(예를 들어, 머신에 의해 보조되는 인간 또는 인간에 의해 감독되는 머신)일 수 있다. 사용자(402)는 네트워크 환경(400)의 일부가 아니지만, 안경(100), 스쿠터(300), 및 클라이언트 디바이스(404)와 연관된다.
도 4의 AR 웨어러블 디바이스가 안경(100)으로서 표현되지만, AR 웨어러블 디바이스는 스마트폰, 태블릿 컴퓨터, 또는 다른 웨어러블 컴퓨팅 디바이스와 같은 디스플레이를 갖는 컴퓨팅 디바이스일 수 있다. 컴퓨팅 디바이스는 핸드헬드일 수 있거나, 사용자(402)의 머리에 착탈식으로 장착될 수 있다. 일 예에서, 디스플레이는 컴퓨팅 디바이스의 카메라로 캡처된 것을 디스플레이하는 스크린이다. 다른 예에서, 안경(100)의 좌측 광학 요소(116)와 우측 광학 요소(122) 중 하나 또는 둘 다와 같이, 디바이스의 디스플레이는 투명할 수 있다.
사용자(402)는 안경(100) 또는 클라이언트 디바이스(404) 또는 이들의 조합 상에서 실행되는 애플리케이션과 상호작용한다. 애플리케이션은 2차원 물리적 객체(예를 들어, 사진), 3차원 물리적 객체(예를 들어, 조각상, 자동차, 사람), 특정 위치(예를 들어, 랜드마크), 또는 현실 세계 물리적 환경(412)에서의 임의의 기준들(예를 들어, 벽 또는 가구의 인지된 코너들)과 같은 물리적 객체(406)와 연관된 경험을 사용자(402)에게 제공하도록 구성되는 AR 애플리케이션을 포함할 수 있다.
AR 애플리케이션은 또한, 스쿠터(300)에 의해 제공되는 정보를 제시하는 것 이외에, 스쿠터(300)의 동작과 연관된 경험을 사용자(402)에게 제공할 수 있다. 예를 들어, 사용자(402)는 물리적 객체(406)(예를 들어, 정지 신호, 교통 신호등, 포트홀)의 이미지 또는 비디오 피드를 캡처하는 안경(100)의 카메라(132)를 포인팅할 수 있다. 이미지 또는 비디오 피드의 콘텐츠들은 안경(100)의 AR 애플리케이션의 로컬 컨텍스트 인식 데이터세트 모듈을 사용하여 안경(100)에서 추적되고 인식된다. 로컬 컨텍스트 인식 데이터세트 모듈은 현실 세계 물리적 객체들 또는 기준들과 연관된 가상 객체들 또는 머신 학습 모델들의 라이브러리를 포함할 수 있다. 그 후에, AR 애플리케이션은 이미지 또는 비디오 피드에 관련된 추가적인 정보(예를 들어, 3차원 모델, 시각적 효과, 텍스트 또는 기호 정보의 오버레이)를 생성하고, 이미지 또는 비디오 피드에서 특징들을 식별하는 것에 응답하여 안경(100)의 디스플레이에 이 추가적인 정보를 제시한다. 비디오 피드 또는 이미지의 콘텐츠가 안경(100)에서 로컬로 인식되지 않는 경우, 안경(100)은 네트워크(408)를 통해 서버(410)의 데이터베이스로부터 추가적인 정보(예를 들어, 3차원 또는 머신 학습 모델)를 다운로드할 수 있거나, 또는 처리를 위해 이미지 또는 비디오 피드를 연관된 디바이스(예를 들어, 클라이언트 디바이스(404) 또는 서버 시스템(1008))에 제공할 수 있다.
일 예에서, 서버(410)는 안경(100) 또는 스쿠터(300)로부터의 센서 데이터(예를 들어, 이미지 및 깊이 데이터, 위치)에 기초하여 물리적 객체(406)를 검출 및 식별하고, 그 센서 데이터에 기초하여 안경(100), 스쿠터(300), 및 물리적 객체(406) 중 적어도 하나의 포지션 또는 포즈를 결정하는 데 사용될 수 있다. 서버(410)는 또한 안경(100), 스쿠터(300), 물리적 객체(406), 및 일부 구현들에서는 클라이언트 디바이스(404)의 포즈 및 포지션에 기초하여 가상 객체(414)를 검색 또는 생성할 수 있다. 서버(410) 또는 클라이언트 디바이스(404)는 가상 객체들(414)을 안경(100)에 통신하고, 그 후, 안경은 적절한 시간에 사용자(402)에게 가상 객체들(414)을 디스플레이할 수 있다. 대안적으로, 가상 객체들을 포함하는 데이터는 클라이언트 디바이스(404), 안경(100)의 로컬 메모리에 저장될 수 있다. 객체 인식, 추적, 가상 객체 생성 및 AR 렌더링은 안경(100), 스쿠터(300), 클라이언트 디바이스(404), 서버(410), 또는 이들의 조합에 대해 수행될 수 있다.
도 4에 도시된 머신들, 데이터베이스들, 또는 디바이스들 중 임의의 것은 그 머신, 데이터베이스, 또는 디바이스에 대해 본 명세서에 설명된 기능들 중 하나 이상을 수행하기 위해 특수 목적 컴퓨터가 되도록 소프트웨어에 의해 수정된(예를 들어, 구성된 또는 프로그래밍된) 범용 컴퓨터에서 구현될 수 있다. 예를 들어, 본 명세서에 설명된 방법론들 중 임의의 하나 이상을 구현할 수 있는 컴퓨터 시스템이 도 11 및 도 12와 관련하여 아래에서 논의된다. 본 명세서에서 사용되는 바와 같이, "데이터베이스"는 데이터 저장 리소스이고, 텍스트 파일, 테이블, 스프레드시트, 관계형 데이터베이스(예를 들어, 객체 관계형 데이터베이스), 트리플 스토어(triple store), 계층적 데이터 스토어, 또는 이들의 임의의 적합한 조합으로서 구조화된 데이터를 저장할 수 있다. 게다가, 도 4에 예시된 머신들, 데이터베이스들, 또는 디바이스들 중 임의의 2개 이상은 단일 머신으로 조합될 수 있고, 임의의 단일 머신, 데이터베이스, 또는 디바이스에 대해 본 명세서에 설명된 기능들은 다수의 머신, 데이터베이스, 또는 디바이스 중에서 세분될 수 있다.
네트워크(408)는 머신들(예를 들어, 서버(410)), 데이터베이스들, 및 디바이스들(예를 들어, 안경(100)) 사이에서 또는 이들 중에서 통신을 가능하게 하는 임의의 네트워크일 수 있다. 따라서, 네트워크(408)는 유선 네트워크, 무선 네트워크(예를 들어, 모바일 또는 셀룰러 네트워크), 또는 이들의 임의의 적절한 조합일 수 있다. 네트워크(408)는 사설 네트워크, 공중 네트워크(예를 들어, 인터넷), 또는 이들의 임의의 적절한 조합을 구성하는 하나 이상의 부분을 포함할 수 있다.
도 5는 일 예에 따른 안경(100)의 디스플레이들(1016) 상에 디스플레이되는 AR 요소들로 강화된 실외 환경(502)의 도면이다. 이 예에서, 사용자가 건물들(506), 나무들(508), 사람들(510) 등을 포함하는 환경(502)의 스트리트(street) 또는 경로(pathway)(504)를 따라 스쿠터(300)를 타고 가고 있다. 환경(502)에 대한 안경(100)의 포즈가 결정되었고, 예를 들어, SLAM(Simultaneous Localization and Mapping)과 같은 시각적 처리 기법에 의한 것을 포함하여, 알려진 AR 위치추정 및 추적 기법들을 사용하여 계속적으로 업데이트된다. 안경(100)의 포즈는 리파인(refine)될 수 있고, 환경의 특정 아이덴티티 및 특성들은 SLAM 데이터를 서버(410)에 저장되거나 안경(100), 클라이언트 디바이스(404) 또는 스쿠터(300)에 다운로드된, 환경(502)에 대한 기존의 포인트 클라우드 모델들과 비교함으로써 추가로 결정될 수 있다. 추가적으로, 안경(100), 스쿠터(300) 또는 클라이언트 디바이스(404)의 위치는 GPS 좌표들로부터 결정되거나, 또는 이들 디바이스들이 서로 위치 정보를 공유함으로써 결정될 수 있다.
안경(100)의 포즈는 환경의 참조 프레임에서 가상 객체들이 사용자에게 디스플레이되는 것을 허용한다. 즉, 파워 업(power up)(512)(버섯으로 예시됨) 및 파워 다운(power down)(514)(바나나로 예시됨)과 같은 가상 객체가 경로(504) 상의 고정된 포지션에서 안경(100)에 의해 디스플레이될 수 있다. 사용자가 머리를 돌리거나 가상 객체들 중 하나에 접근할 때, 경로(504) 상의 그의 겉보기 포지션은 사용자가 가상 객체에 접근하거나 그로부터 멀어질 때 적절한 스케일링으로 유지된다. 가상 객체들(414)의 포지션들은 (예를 들어, 인기 있는 트레일을 따라) 특정 위치에 대해 미리 정의될 수 있거나 AR 애플리케이션에 의해 간헐적으로 포지셔닝될 수 있다. 일 예에서, 가상 객체들(414)의 포지션들 및 아이덴티티들은 클라이언트 디바이스(404) 상에 또는 서버(410) 상에 저장되고 안경(100)의 포즈 및 위치에 기초하여 AR 애플리케이션에 의해 액세스되거나 액세스된 환경의 맵에서 정의된다. 유사하게, 외관 및 성능 변경 특성들을 포함하는 개별 가상 객체들(414)을 정의하는 데이터가 클라이언트 디바이스(404) 상에 로컬로 또는 서버(410) 상에 호스팅된 데이터베이스에 저장된다.
환경(502)에서의 사용자의 포지션이 알려져 있고(스쿠터(300), 안경(100) 또는 클라이언트 디바이스(404)의 포지션임), 환경(502)에서의 가상 객체들(414)의 포지션들이 알려져 있으므로, 사용자는 사용자에 의해 인지되는 바와 같이 가상 객체들을 통해 또는 가상 객체들 위에 탑승함으로써 가상 객체들과 상호작용할 수 있다. 이러한 상호작용의 효과는 가상 객체의 본질에 의존할 것이다. 예를 들어, 스쿠터(300)가 파워 업(512)(의 위치)을 넘어가는 것이 검출될 때, 전형적으로 특정 가상 객체와 연관된 특정 미리 결정된 시간량 동안, 사용을 위해 이용가능한 스쿠터(300)의 최대 전력이 증가될 수 있거나, 스쿠터의 최대 속도가 증가될 수 있다. 유사하게, 스쿠터(300)가 파워 다운(514)을 넘어가는 것이 검출될 때, 전형적으로 특정 미리 결정된 시간량 동안, 사용을 위해 이용가능한 스쿠터(300)의 최대 전력이 감소될 수 있거나, 스쿠터의 최대 속도가 감소될 수 있거나, 다시 특정 가상 객체와 연관된 특정 미리 결정된 시간량 동안, 완전히 중지될 수 있다.
가상 객체(414)의 위치에서의 사용자의 검출에 응답한 스쿠터의 특성들의 조정은 전형적으로, (스쿠터(300), 안경(100) 또는 클라이언트 디바이스(404)의 포지션에 의해 표현되는 바와 같은) 사용자의 포지션이 가상 객체의 포지션과 대응함을 검출한 안경(100) 또는 클라이언트 디바이스에 의해 트리거되는, 안경(100) 또는 클라이언트 디바이스(404)로부터 스쿠터(300)로의 대응하는 명령의 송신에 의해 수행된다. 이러한 방식으로, 가상 객체와의 상호작용은 스쿠터(300)와 같은 실제 디바이스들의 거동 또는 특성들에 영향을 미칠 수 있다. 물론, 스쿠터(300) 자체가 실제로 가상 객체(414) 위로 타는 것이 아니라, 오히려 가상 객체(414)의 인지된 위치에서의 스쿠터(300)의 포지션이 안경(100), 클라이언트 디바이스(404) 또는 스쿠터(300)에 의해 검출된다는 것을 알 것이다.
다른 예에서, 도 5에 도시된 바와 같은 파워 업(512)과 같은 가상 객체와의 상호작용은 가상 객체(414)가 나중에 사용하기 위해 사용자에 의해 획득되게 할 수 있으며, 이 경우, 가상 객체는 도 6을 참조하여 아래에 더 상세히 설명되는 바와 같이 안경(100) 또는 스쿠터(300)의 참조 프레임으로 이송되어 그에 포지셔닝될 수 있다. 이러한 경우, 위에서 논의한 바와 같이 스쿠터(300)의 거동 또는 특성의 변화를 트리거하기 위해 사용자에 의한 가상 객체와의 추가 상호작용이 요구된다. 따라서, 사용자는 파워 업(512) 또는 다른 가상 객체를 획득하고, 그것을 자신이 선택한 시간에 사용하기로 선택할 수 있다.
도 6은 일 예에 따른 스쿠터(300)가 AR 요소들로 강화된, 실외 환경(502)에서의 스쿠터(300)의 핸들바(310)의 도면이다. 이 경우, 파워 업(602), 에코 모드(604) 및 스포츠 모드(606)와 같은 가상 객체들이, 스쿠터(300)의 참조 프레임에서, 안경(100)에 의해, 사용자(402)에게 디스플레이된다. 이 예에서, 가상 객체들은 스쿠터(300)의 핸들바(310) 바로 위에 떠 있는 것으로 도시되어 있다. 사용자(402)가 머리를 돌리거나 가상 객체들 중 하나에 더 가까워지거나 그로부터 더 멀어질 때, 핸들바(310) 상의 그의 포지션은 사용자가 가상 객체에 접근하거나 그로부터 멀어질 때 적절한 스케일링으로 유지된다.
도 6에 예시된 가상 객체들은 스쿠터(300)의 참조 프레임 내에서 지속될 수 있는데, 예를 들어, 에코 모드(604) 및 스포츠 모드(606) 가상 객체들은 스쿠터(300)의 동작 동안 항상 이용가능한 스쿠터의 동작에 대한 특징들 또는 조정들을 나타낼 수 있다. 이러한 방식으로, 스쿠터의 이용가능한 제어 특징들은 스쿠터 상의 물리적 제어부들을 사용하여 이용가능한 것들을 넘어 확장될 수 있다.
도 6에 예시된 가상 객체들(414)은 또한 스쿠터의 동작 동안 나타나고 사라질 수 있는데, 예를 들어, 이들은 사용을 위해 이용가능해질 때 나타날 수 있고, 그 후 사용 후에 사라질 수 있다. 하나의 경우에, 도 5에 도시된 바와 같이 스쿠터가 파워 업(512) 위로 타고 갈 때, 그것은 경로(504)로부터 사라지고, 도 6에 도시된 바와 같이 스쿠터(300)의 참조 프레임 내에 파워 업(602)으로서 나타날 것이다. 이것은, 스쿠터(300)가 파워 업(512)의 위치에 대응하는 현실 세계에서의 포지션에 도착할 때 파워 업(512)의 성능 수정 효과가 즉시 발생하지 않고 오히려 아래에 논의되는 바와 같이 그것을 활성화하도록 사용자가 결정하는 시간까지 지연되는 경우 발생할 수 있다. 파워 업(512)은 스쿠터(300)의 통과에 의해 활성화되기보다는 효과적으로 획득되었다.
도 6에서의 가상 객체들(414)의 포지셔닝을 용이하게 하기 위해, 핸들바(310)는 카메라들(132)로부터의 비디오 피드에 적용되는 객체 검출 기법들을 사용하여 안경(100)의 카메라들(132)의 시야 내에서 안경(100) 또는 클라이언트 디바이스(404)에 의해 검출된다. 3D 재구성 기법들을 사용하여, 안경(100)과 핸들바(310) 사이의 상대적 포지션 및 배향이 안경(100) 또는 클라이언트 디바이스(404)에 의해 결정될 수 있어, 사용자 또는 핸들바 이동으로 인해 핸들바(310)와 안경(100) 사이의 상대적 포지션이 변화할 때 핸들바(310) 위의 가상 객체들의 정확한 배치를 허용한다.
다른 예에서, 스쿠터(300)와 안경(100)의 상대적 포지션 및 배향은 공통의 국부적 또는 전역적 참조 프레임에서 그들의 개별 포즈들을 비교함으로써 결정될 수 있다. 이러한 경우, 스쿠터(300)는, 사용자의 시야에서 가상 객체들을 핸들바(310)에 고정하기 위해 핸들바가 회전되는 각도에 관한 데이터를 제공할 필요가 있을 것이다. 대안적으로, 가상 객체들은 핸들바(310)의 배향에 관계없이 핸들바(310) 또는 (개인 이동성 시스템의 다른 부분) 위에 고정된 배향으로 떠 있도록, 본체(302) 또는 스티어링 컬럼(304)에 대해 고정될 수 있다.
도 6에 도시된 예의 사용에서, 가상 객체들(파워 업(512), 에코 모드(604), 스포츠 모드(606)) 중 하나와 사용자의 손 또는 손가락(들)의 교차점은 제스처 검출 또는 다른 시각적 객체 교차 기법들을 사용하여 카메라들(132) 중 하나 또는 둘 다로부터의 비디오 피드에서 검출된다. 이러한 검출에 응답하여, 사용자가 상호작용한 특정 가상 객체에 기초하여 스쿠터(300)의 거동을 적절하게 수정하라는 명령이 안경(100) 또는 클라이언트 디바이스(404)에 의해 제공된다.
도 7은 일 예에 따른 안경(100)의 디스플레이들(1016) 상에 디스플레이되는 AR 요소들로 강화된 실외 환경(702)의 도면이다. 이전과 마찬가지로, 사용자는 실외 환경(702)을 통해 스쿠터(300)를 타고 있다. 환경(702)에 대한 안경(100)의 포즈가 결정되었고, 예를 들어, SLAM(Simultaneous Localization and Mapping)과 같은 시각적 처리 기법에 의한 것을 포함하여, 알려진 AR 위치추정 및 추적 기법들을 사용하여 계속적으로 업데이트된다. 안경(100)의 포즈는 리파인(refine)될 수 있고, 환경의 특정 아이덴티티 및 특성들은 SLAM 데이터를 서버(410)에 저장되거나 안경(100), 클라이언트 디바이스(404) 또는 스쿠터(300)에 다운로드된, 환경(702)에 대한 기존의 포인트 클라우드 모델들과 비교함으로써 추가로 결정될 수 있다. 추가적으로, 안경(100), 스쿠터(300) 또는 클라이언트 디바이스(404)의 위치는 GPS 좌표들로부터 결정되거나, 또는 이들 디바이스들이 서로 위치 정보를 공유함으로써 결정될 수 있다.
이 예에서, 환경(702)은 보행 경로(704), 자전거 경로(706), 스트리트(710) 및 자전거 경로(706)에서의 위험 요소를 표시하기 위해 자전거 경로(706) 상에 위치된 트래픽 콘(traffic cone)(712)을 포함한다. 이 예에서 개인 이동성 시스템들은 보행 경로(704) 상에서 허용되지 않고 자전거 경로(706) 상에서만 허용된다. 사용자가 환경을 내비게이팅하는 것을 돕기 위해, 하나 이상의 가상 객체(414)가 안경(100)에 의해 디스플레이되는 바와 같이 사용자의 시야에 배치된다. 이 예에서, 컬러화된 AR 오버레이(708)가 자전거 경로(706) 위에 포지셔닝되어 사용자가 취할 수 있도록 허용된 경로를 강조표시함으로써, 올바른 라이딩 에티켓을 용이하게 한다. 대안적으로, 금지된 영역들(예컨대, 보행 경로(704)) 또는 더 위험한 영역들(예컨대, 자동차들이 있는 스트리트(710))에는 자전거 경로(706) 상의 AR 오버레이(708) 대신에 또는 그에 부가하여 오버레이가 제공될 수 있다. 스쿠터(300)가 횡단할 수 있는 올바른 경로 또는 영역을 금지된 또는 위험한 영역들로부터 구별하기 위해, 상이한 컬러들 또는 효과들이 사용될 수 있다.
위에서 논의된 예들과 같이, AR 오버레이(708)의 환경 내의 위치에 대한 스쿠터(300)의 근접성에 의한 AR 오버레이(708)와의 상호작용은 스쿠터의 거동 및 특성에 영향을 미칠 수 있다. AR 오버레이(708)의 경우, 자전거 경로(706) 상의(즉 사용자에 의해 인지되는 바와 같은 AR 오버레이(708) 상의) 스쿠터의 포지셔닝은 스쿠터(300)의 전체 능력에서의 동작을 가능하게 할 수 있는 한편, 자전거 경로(706)로부터(또는 사용자에 의해 인지되는 바와 같은 AR 오버레이(708)로부터) 벗어나는 것은 스쿠터(300)의 기능 감소를 초래할 수 있다. 예를 들어, 스쿠터가 자전거 경로(706)를 떠날 때 안경(100)에 의해 디스플레이되는 바와 같은 AR 오버레이(708)의 컬러 또는 다른 효과들(예를 들어, 점멸형 또는 펄스형)을 변경함으로써, 사용자에게 올바른 경로를 사용할 것을 촉구하기 위해 추가적인 효과들이 또한 제공될 수 있다. 대안적으로, 오버레이들 또는 다른 가상 객체들(414)이 보행 경로(704) 또는 스트리트(710) 상에 제공되는 경우, 스쿠터(300)가 오버레이 상에 포지셔닝하거나 가상 객체와 교차하는 것은 스쿠터(300)의 감소된 기능을 트리거할 수 있고, 이는 스쿠터(300)가 자전거 경로(706) 상에 포지셔닝될 때 변경되지 않는다.
안경(100) 또는 클라이언트 디바이스(404) 상에서 실행되는 AR 애플리케이션은 또한 알려진 객체 검출 및 인식 기법들을 사용하여 환경(702)에서 관련된 물리적 객체들 또는 특징들을 스캐닝할 수 있다. 예를 들어, 도 7에서, 위험 요소가 자전거 경로(706)에 존재할 수 있다는 표시자인 트래픽 콘(712)이 안경(100) 또는 클라이언트 디바이스(404)에 의해 검출될 수 있다. 그 후 트래픽 콘을 강조표시하기 위해 안경(100)에 의해 가상 객체(414)가 디스플레이될 수 있다. 예를 들어, 안경(100)을 통해 사용자에 의해 보이는 바와 같이 장면 내의 트래픽 콘(712) 상에 또는 그 주위에 펄스형 또는 점멸형 고대비 AR 오버레이가 배치될 수 있다.
횡단보도, 간판, 주의 테이프 등을 포함하는, 위험 요소이거나, 위험 요소를 식별하거나, 개인 이동성 시스템의 라이더에게 다른 관련 정보를 제공하는 임의의 물리적 객체(406)가 이러한 방식으로 강조표시될 수 있다.
물리적 객체를 강조하는 것 외에도, 개인 이동성 시스템의 거동은 위험 요소와의 근접성에 응답하여 변경될 수 있다. 예를 들어, 사용자(402)가 위험 요소에 접근함에 따라 이전과 같이 브레이크들이 적용될 수 있거나 최대 속도 또는 최대 전력이 감소될 수 있다.
도 8은 다른 예에 따른 안경(100)의 디스플레이들(1016) 상에 디스플레이되는 AR 요소들로 강화된 실외 환경(802)의 도면이다. 이전과 마찬가지로, 사용자는 실외 환경(802)을 통해 스쿠터(300)를 타고 있다. 또한 이전과 마찬가지로, 환경(802)은 보행 경로(704), 자전거 경로(706) 및 스트리트(710)를 포함한다. 도 7을 참조하여 논의된 환경(702)에 관하여, 자전거 경로(706)를 강조표시하기 위해 AR 오버레이(708)가 제공될 수 있지만, 이러한 특징은 명확성을 위해 도 8에서는 생략되어 있다.
이 예에서는, 안경(100) 또는 클라이언트 디바이스(404) 상에서 실행되는 AR 애플리케이션이 알려진 객체 검출 및 인식 기법들을 사용하여 환경(702)에서 달리 마킹되지 않은 위험 요소(포트홀(804))를 검출하였다. 일 예에서, 객체 검출 및 인식은, 안경(100) 또는 클라이언트 디바이스(404)의 메모리에 로딩되는 잠재적 장애물들 또는 객체들에 대한 컨텍스트 또는 위치 특정 ML 모델을 사용하여 수행된다. 이것은 데이터 처리 부담을 감소시키는데, 그 이유는 안경(100) 또는 클라이언트 디바이스(404)가 그 컨텍스트에서 또는 그 위치에 존재할 수 있는 잠재적인 장애물들 또는 경고 표지판들만을 탐색할 필요가 있기 때문이다. 예를 들어, 사용자(402)가 산악 자전거 트레일을 타고 있는 경우, 컨텍스트 특정 ML 모델은 도로 표지판들을 포함하지 않을 것이다.
도 7의 예에서, 포트홀(804)을 검출하는 것에 응답하여, 안경(100)의 시야 내의 포트홀(804)의 인지된 위치에서 가상 트래픽 콘(806)이 안경(100)에 의해 디스플레이된다. 다양한 효과들이 적용될 수 있다. 예를 들어, 안경(100)을 통해 사용자에 의해 보이는 바와 같이 장면 내의 가상 트래픽 콘(806) 상에 또는 그 주위에 펄스형 또는 점멸형 고대비 AR 오버레이가 배치될 수 있다.
횡단보도, 간판, 포트홀, 싱크홀, 트렌치, 디치 등을 포함하는, 위험 요소이거나, 위험 요소를 식별하거나, 개인 이동성 시스템의 라이더에게 다른 관련 정보를 제공하는 임의의 물리적 객체(406)가 이러한 방식으로 강조표시될 수 있다. 가상 트래픽 콘(806)에 부가하여 또는 그를 대신하여, 안경(100)의 시야 내의 포트홀(804)과 같은 물리적 위험 요소 위에 또는 그 앞에 "DANGER AHEAD"를 갖는 표지판과 같은 다른 가상 간판이 배치될 수 있다.
물리적 객체를 강조하는 것 외에도, 개인 이동성 시스템의 거동은 가상 트래픽 콘(806)과의 근접성에 응답하여 변경될 수 있다. 예를 들어, 이전과 같이 브레이크들이 적용될 수 있거나 최대 속도 또는 최대 전력이 감소될 수 있다.
도 9는 일 예에 따른, 네트워크 환경(400)의 동작을 도시하는 흐름도(900)이다. 도 9에 예시된 동작들은 전형적으로 클라이언트 디바이스(404)와 안경(100)의 조합 상에서 실행될 것이지만, 동작들은 안경(100)에서 또는 안경(100)과 클라이언트 디바이스(404), 스쿠터(300) 및 서버(410) 중 하나 또는 전부의 조합에서 배타적으로 실행될 수 있다. 다양한 구현들이 물론 가능하다. 일 예에서, 동작들은 안경(100) 사이에서 공동으로 수행되고, 안경은 자신의 카메라들(132) 중 적어도 하나로부터의 처리를 위한 비디오 피드, 및 자신의 IMU 및 GPS 수신기로부터의 위치 정보를 클라이언트 디바이스(404) 상에서 실행되는 AR 애플리케이션에 제공하고, AR 애플리케이션은 비디오 피드를 처리하고, 임의의 요구되는 3D 재구성 및 추적을 수행하고, 가상 객체들(414)을 포함한 AR 효과들을 생성하여 사용자(402)에게 디스플레이하기 위해 안경(100)에 송신한다. 명료성을 위해, 흐름도(900)가 본 명세서에서 이러한 예를 참조하여 논의된다.
흐름도(900)의 시작 이전에, 안경(100)의 위치추정(localization) 및 추적이 시작되어 진행 중이다. 따라서, 환경(502)에서의 안경의 포즈 및 그 위치는 안경(100) 및 클라이언트 디바이스(404) 상에서 실행되는 AR 애플리케이션에 알려진다. 추가적으로, 필요한 경우, 스쿠터(300) 또는 클라이언트 디바이스(404)와 같은 관련 디바이스들의 위치들 및 포즈들이 결정되어, 필요에 따라 안경(100), 스쿠터(300) 및 클라이언트 디바이스(404) 사이에서 통신된다.
도 5에서와 같이, 존재 및 포지션이 알려져 있는 가상 객체들(414)의 경우, 가상 객체들(414)의 위치를 포함한 환경의 맵이 서버(410)로부터 클라이언트 디바이스(404)에 다운로드되었거나 다운로드를 위해 이용가능하다. 도 7 또는 도 8에서와 같이, 위험 요소들(위험 요소들의 식별자들을 포함함)의 검출의 경우에, 클라이언트 디바이스(404)는 안경(100)의 시야 내에서 위험 요소들을 식별하고 찾기 위해 객체 검출 및 인식 기법들을 수행하였고 계속 수행한다. 일단 위험 요소가 식별되었다면, 대응하는 가상 객체(414)가 환경의 맵에 또는 안경(100)의 참조 프레임 내의 대응하는 위치에 배치된다.
방법은 동작(902)에서 안경(100)의 위치 및 시야와 임의의 인근 가상 객체들(414)의 위치들 사이의 비교로 시작한다. 이 비교의 목적은 두 가지이다. 첫째, 적절한 참조 프레임(예를 들어, 도 7에 도시된 바와 같은 전역적 현실 세계 참조 프레임 또는 도 6에 도시된 바와 같은 스쿠터(300)와 같은 국부적 참조 프레임)에 고정된, 안경(100)의 디스플레이들에 임의의 가시적 가상 객체들(414)을 디스플레이하는 것이고, 둘째, 파워 다운(514) 또는 파워 업(512)과 같이, 현실 세계 참조 프레임에 고정된 가상 객체(414)와 사용자의 임의의 교차점 또는 그 사이의 근접성을 결정하는 것이다. 디바이스들(안경(100), 스쿠터(300) 또는 클라이언트 디바이스(404)) 중 임의의 디바이스의 위치는, 이들이 본질적으로 방법의 목적들을 위해 사용자(402)와 동위치될 것이기 때문에, 후자의 목적을 위해 사용자의 위치에 대한 프록시로서 사용될 수 있다.
블록(904)에서, 임의의 가시적 가상 객체들(414)이 종래의 AR 기법들을 사용하여 안경(100)에 의해 렌더링된다. 일부 경우들에서, 안경(100)의 시선에 있는 인근 가상 객체들은, 예를 들어, 카메라들(132)로부터의 비디오 피드에 대해 안경(100) 또는 클라이언트 디바이스(404)에 의해 수행되는 영역의 기존의 3D 포인트 클라우드 모델 또는 3D 재구성 기법들에 기초하여, 환경의 3D 모델에 의해 결정된 바와 같은 개재하는 가상 객체 또는 물리적 객체로 인해 보이지 않을 수 있다. 블록(904)으로부터, 방법은 동작(902)으로 복귀하고, 이 루프는 반복적으로 계속되어, (안경(100), 스쿠터(300) 및 클라이언트 디바이스(404) 중 하나 이상의 이동에 의해 반영된 바와 같은) 사용자에 의한 임의의 이동 및 사용자(402)의 시야 내의 새로운 또는 현재의 가상 객체들(414)의 외관들이 안경(100)에 의해 사용자(402)에게 정확하게 디스플레이되는 것을 보장한다.
동작(902)으로부터, 방법은 또한 판정 블록(906)으로 진행하며, 여기서 사용자(402)(또는 사용자(402)의 일부)의 위치가 가상 객체(414)에 근접한지 여부가 결정된다. 이것은 안경(100), 스쿠터(300) 또는 클라이언트 디바이스(404)가 가상 객체(414)의 현실 세계에서의 위치에 도착하는 것의 결과로서 또는 사용자(402)의 손 또는 다른 신체 부분과 가상 객체(414)의 교차점을 시각적으로 검출하는 것에 의한 것일 수 있다. 사용자가 객체에 근접해 있다고 결론을 내리기 위해 사용자(402)와 가상 객체(414)가 얼마나 가까워야 하는지는 특정 가상 객체 및 연관된 구현에 의존할 것이다. 파워 업(512) 또는 파워 다운(514)에 대해, 근접성은 사용자(402)와 가상 객체(414)가 본질적으로 동위치되게 할 정도로 충분히 가까울 것이다. 가상 트래픽 콘, 또는 AR 오버레이(708)에 대한 도착 또는 출발(departure)과 같은 성능 특성들의 변화 또는 경고를 트리거할 가상 객체의 경우, 근접성은 스쿠터가 실제로 위험 요소에 도착하거나 인가된 경로로부터 벗어나기 전에 충분한 경고를 제공하기 위해 적절하게 더 클 수 있다. 사용자(402)와 가상 객체(414) 사이의 교차점은 모든 경우들에서 시각적 교차점일 필요는 없으며, 특정 가상 객체에 대한 테스트를 만족시키기에 충분한 근접성이 그 특정 가상 객체에 대한 교차점인 것으로 간주될 수 있다.
판정 블록(906)에서 교차점이 검출되지 않는 경우, 방법은 동작(902)으로 복귀하여 거기서부터 계속된다. 판정 블록(906)에서 교차점이 검출되는 경우, 블록(908)에서 적절한 경우 가상 객체(414)가 업데이트된다. 예를 들어, 파워 업(512) 또는 파워다운(514)은 그 위치로부터 사라질 수 있고, 따라서 사용자(402) 또는 다른 라이더들에 의한 재사용을 위해 이용가능하지 않을 수 있다. 사라짐은 일시적이거나 코스가 재시작될 때까지일 수 있다. 한편, 가상 트래픽 콘 또는 AR 오버레이(708)와 같은 객체는 지속적일 가능성이 있다.
그 후, 방법은 블록(910)으로 진행하며, 여기서 가상 객체(414)와 연관된 파라미터들이 처리되어 안경(100) 또는 클라이언트 디바이스(404)에 의해 취해질 적절한 액션들을 결정한다. 가상 객체(414)와의 교차점에 응답하여 취해지는 액션들은 가상 객체(414)의 특정 특성들에 의존할 것이다. 가상 객체와 연관된 파라미터들은 가상 객체(414)와의 교차점과 연관된 임의의 소리들 또는 시각들이 존재하는지 여부, 스쿠터(300)(또는 다른 개인 이동성 시스템)의 이용가능한 또는 현재의 성능 특성들에서의 연관된 변화의 본질 및 정도, 성능 특성들에서의 변화의 지속기간(영구적으로, 특정 시간량 동안, 스쿠터(300)가 가상 객체(414)의 위치에 충분히 근접하는 동안 등), 및 변화의 타이밍(즉각적, 지연, 사용자(402)에 의해 활성화될 때까지 지연, 다른 조건이 충족될 때까지 지연 등)을 정의할 것이다.
즉각적인 성능 변화와 연관된 가상 객체들(414)의 경우, 방법은 블록(912)으로 진행하며, 여기서 가상 객체(414)의 특성들에 따라 스쿠터(300)의 성능 특성들을 변경하기 위해 클라이언트 디바이스(404) 또는 안경(100)으로부터 스쿠터(300)로 명령 또는 신호가 송신된다. 그 다음, 방법은 동작(902)으로 복귀하고 거기서부터 진행한다.
지연된 성능 변화와 연관된 가상 객체들(414)의 경우, 방법은 블록(914)으로 진행하며, 여기서 가상 객체는, 전형적으로 안경(100) 또는 스쿠터(300)의 로컬 참조 프레임 내의 새로운 위치로 이송되고, 여기서 사용자의 선택 시에 가상 객체(414)에 대응하는 성능 변경 특성들을 활성화시키기 위해 사용자(402)로부터 입력이 수신될 수 있다. 따라서, 사용자는 가상 객체(414)를 효과적으로 획득하였다.
(예를 들어, 도 6을 참조하여 위에서 논의한 바와 같이) 블록(916)에서 가상 객체의 선택을 수신하면, 블록(918)에서 가상 객체(414)의 특성들에 따라 스쿠터(300)의 성능 특성들을 변경하기 위해 클라이언트 디바이스(404) 또는 안경(100)으로부터 스쿠터(300)로 명령 또는 신호가 송신된다. 성능 특성들의 변경의 본질, 양 및 지속기간과 같은 관련 파라미터들을 포함하는 명령 또는 신호가 스쿠터(300)의 관리 시스템(324)에 의해 수신되고 처리됨으로써, 특정 성능 특성 변경들을 구현한다. 그 다음, 방법은 동작(902)으로 복귀하고 거기서부터 진행한다.
도 10은 일부 예들에 따른, 안경(100) 및 스쿠터(300)의 상세들을 포함하는 네트워킹된 디바이스(1002)를 예시하는 블록도(1000)이다.
네트워킹된 디바이스(1002)(예를 들어, 안경(100), 스쿠터(300), 클라이언트 디바이스(404))는 적어도 하나의 제2 네트워킹된 디바이스(1004) 및 서버 시스템(1008)에 통신가능하게 결합된다. 네트워킹된 디바이스(1002)와 제2 네트워킹된 디바이스(1004) 사이의 구별은 2개의 별개의 디바이스를 구별하기 위한 목적으로만 이루어진다. 네트워킹된 디바이스(1002)와 관련하여 본 명세서에서 이루어진 설명은 제2 네트워킹된 디바이스(1004)를 동일한 척도로(in equal measure) 설명한다는 것을 이해해야 한다.
네트워킹된 디바이스(1002)는 저전력 무선 연결(1010)과 고속 무선 연결(1012) 둘 다를 사용하여 제2 네트워킹된 디바이스(1004)와 통신가능하게 결합할 수 있다. 제2 네트워킹된 디바이스(1004)는 네트워크(1006)를 통해 서버 시스템(1008)에 연결된다. 네트워크(1006)는 유선 및 무선 연결들의 임의의 조합을 포함할 수 있다. 서버 시스템(1008)은 서비스 또는 네트워크 컴퓨팅 시스템의 일부로서의 하나 이상의 컴퓨팅 디바이스일 수 있다. 제2 네트워킹된 디바이스(1004) 및 서버 시스템(1008)과 네트워크(1006)의 임의의 요소들은 도 11 및 도 12에서 설명된 소프트웨어 아키텍처(1102) 또는 머신(1200)의 상세들을 사용하여 구현될 수 있다.
네트워킹된 디바이스(1002)는 데이터 프로세서(1014), 디스플레이들(1016), 하나 이상의 카메라(1018), 입력/출력 요소들(1020), 및 추가적인 센서들(1022)을 포함할 수 있다. 입력/출력 요소들(1020)은 마이크로폰들, 오디오 스피커들, 바이오메트릭 센서들, 추가적인 센서들, 또는 데이터 프로세서(1014)와 통합된 추가적인 디스플레이 요소들(예를 들어, 시각적 피드백 요소(332))을 포함할 수 있다. 일부 구현들에서, 스피커들, 경적들, 촉각 생성기들, 디스플레이들 및 헤드 라이트들/신호/텔테일 라이트들과 같은 입력/출력 요소들(1020)은 모두 네트워킹된 디바이스(1002)의 사용자에게 안전 문제들에 대한 신호를 보내고, 안전 문제의 통지를 시각적으로, 청각적으로, 또는 촉각적으로 라이더에게 경고하는 데 사용된다. 입력/출력 요소들(1020)의 예들은 도 11 및 도 12와 관련하여 더 논의된다. 예를 들어, 입력/출력 요소들(1020)은 출력 컴포넌트들(1204), 모션 컴포넌트들(1206) 등을 포함하는 I/O 컴포넌트들(1202) 중 임의의 것을 포함할 수 있다. 디스플레이들(1016)의 예들은 도 1 및 도 2에서 논의된다. 본 명세서에 설명된 특정 예들에서, 디스플레이들(1016)은 사용자의 좌안 및 우안 각각에 대한 디스플레이를 포함한다.
센서들(1022)은 광학 센서들(예를 들어, 포토레지스터들(photoresistors), 라이다, 적외선), 무선 주파수 센서들(예를 들어, 레이더), 기계파 센서들(예를 들어, 소나, 압력), 및 관성 센서들(예를 들어, 가속도계들, 자이로스코프들, 자력계들)을 포함할 수 있다. 네트워킹된 디바이스(1002)는 물리적 객체들을 검출하거나 네트워킹된 디바이스(1002)의 포지션 또는 포즈를 결정하기 위해 전술한 것들 중 일부 또는 전부를 사용할 수 있다. 예를 들어, 관성 센서들은 네트워킹된 디바이스(1002)의 롤, 요, 및 피치에 대한 정보를 제공할 수 있다. 네트워킹된 디바이스(1002)는 이 정보를 사용하여, 사고들 또는 다른 충격들을 검출하고 사용자에게 통지하거나, 오르막 진행을 검출하여 추진원(예를 들어, 추진원(322))에 대한 전력을 증가시키거나, 내리막 진행을 검출하여 네트워킹된 디바이스(1002)(또는 제2 네트워킹된 디바이스(1004))가 안전한 속도들 및 가속도들을 초과하지 않도록 시스템 제동 또는 전력 복구를 확립(establish)할 수 있다. 가속도계/속도계 데이터와의 통합은 또한 네트워킹된 디바이스(1002)가 추진(예를 들어, 관리 시스템(324)에 의해 추진원(322)으로) 및 제동 성능을 구동하기 위한 명령들을 검출하고, 필요하다면 개입하고, 송신하기 위한 중요한 데이터를 제공한다.
데이터 프로세서(1014)는 이미지 프로세서(1024)(예를 들어, 비디오 프로세서), GPU 및 디스플레이 드라이버(1026), 추적 모듈(1028), 저전력 회로(1030), 및 고속 회로(1032)를 포함한다. 데이터 프로세서(1014)의 컴포넌트들은 버스(1034)에 의해 상호연결된다.
데이터 프로세서(1014)는 인터페이스(1036)를 또한 포함한다. 인터페이스(1036)는 데이터 프로세서(1014)에 제공되는 사용자 커맨드의 임의의 소스를 지칭한다. 하나 이상의 예에서, 인터페이스(1036)는, 눌러질 때, 인터페이스(1036)로부터 저전력 프로세서(1038)로 사용자 입력 신호를 전송하는 물리적 버튼이다. 이러한 버튼을 누른 다음에 즉시 해제하는 것은 단일 이미지를 캡처하라는 요청으로서 저전력 프로세서(1038)에 의해 처리될 수 있거나, 또는 그 반대일 수 있다. 이러한 버튼을 제1 시간 기간 동안 누르는 것은, 버튼이 눌러지는 동안 비디오 데이터를 캡처하고, 버튼이 해제될 때 비디오 캡처를 중지하라는 요청으로서 저전력 프로세서(1038)에 의해 처리될 수 있으며, 버튼이 눌러진 동안에 캡처된 비디오는 단일 비디오 파일로서 저장된다. 대안적으로, 버튼을 연장된 시간 기간 동안 누르는 것은 정지 이미지를 캡처할 수 있다. 다른 예들에서, 인터페이스(1036)는 카메라들(1018)로부터의 데이터에 대한 요청과 연관된 사용자 입력들을 수락할 수 있는 임의의 기계적 스위치 또는 물리적 인터페이스일 수 있다. 다른 예들에서, 인터페이스(1036)는 소프트웨어 컴포넌트를 가질 수 있거나, 클라이언트 디바이스(404)와 같은 다른 소스로부터 무선으로 수신된 커맨드와 연관될 수 있다.
이미지 프로세서(1024)는 카메라들(1018)로부터 신호들을 수신하고 카메라들(1018)로부터의 신호들을 메모리(1044)에 저장하거나 클라이언트 디바이스(404)에 송신하기에 적합한 포맷으로 처리하는 회로를 포함한다. 하나 이상의 예에서, 이미지 프로세서(1024)(예를 들어, 비디오 프로세서)는, 동작시 마이크로프로세서에 의해 사용되는 휘발성 메모리와 함께, 카메라들(1018)로부터의 센서 데이터를 처리하기 위해 맞춤화된 마이크로프로세서 집적 회로(IC)를 포함한다.
저전력 회로(1030)는 저전력 프로세서(1038) 및 저전력 무선 회로(1040)를 포함한다. 저전력 회로(1030)의 이러한 요소들은 별개의 요소들로서 구현될 수 있거나 단일 칩 상의 시스템의 일부로서 단일 IC 상에 구현될 수 있다. 저전력 프로세서(1038)는 네트워킹된 디바이스(1002)의 다른 요소들을 관리하기 위한 로직을 포함한다. 위에서 설명한 바와 같이, 예를 들어, 저전력 프로세서(1038)는 인터페이스(1036)로부터 사용자 입력 신호들을 수락할 수 있다. 저전력 프로세서(1038)는 또한 저전력 무선 연결(1010)을 통해 클라이언트 디바이스(404)로부터 입력 신호들 또는 명령 통신들을 수신하도록 구성될 수 있다. 저전력 무선 회로(1040)는 저전력 무선 통신 시스템을 구현하기 위한 회로 요소들을 포함한다. Bluetooth™ low energy라고도 알려진 Bluetooth™ Smart는 저전력 무선 회로(1040)를 구현하는 데 사용될 수 있는 저전력 무선 통신 시스템의 한 표준 구현이다. 다른 예들에서, 다른 저전력 통신 시스템들이 사용될 수 있다.
고속 회로(1032)는 고속 프로세서(1042), 메모리(1044), 및 고속 무선 회로(1046)를 포함한다. 고속 프로세서(1042)는 데이터 프로세서(1014)에 필요한 임의의 일반 컴퓨팅 시스템의 고속 통신 및 동작을 관리할 수 있는 임의의 프로세서일 수 있다. 고속 프로세서(1042)는 고속 무선 회로(1046)를 사용하여 고속 무선 연결(1012) 상의 고속 데이터 전송들을 관리하는 데 필요한 처리 리소스들을 포함한다. 특정 예들에서, 고속 프로세서(1042)는 LINUX 운영 체제와 같은 운영 체제 또는 도 11의 운영 체제(1104)와 같은 다른 그러한 운영 체제를 실행한다. 임의의 다른 책임들에 더하여, 데이터 프로세서(1014)에 대한 소프트웨어 아키텍처를 실행하는 고속 프로세서(1042)는 고속 무선 회로(1046)와의 데이터 전송들을 관리하기 위해 사용된다. 특정 예들에서, 고속 무선 회로(1046)는, 여기서는 Wi-Fi라고도 지칭되는, IEEE(Institute of Electrical and Electronic Engineers) 802.11 통신 표준을 구현하도록 구성된다. 다른 예들에서, 다른 고속 통신 표준들이 고속 무선 회로(1046)에 의해 구현될 수 있다.
메모리(1044)는 카메라들(1018) 및 이미지 프로세서(1024)에 의해 생성된 카메라 데이터를 저장할 수 있는 임의의 저장 디바이스를 포함한다. 메모리(1044)가 고속 회로(1032)와 통합된 것으로 도시되어 있지만, 다른 예들에서, 메모리(1044)는 데이터 프로세서(1014)의 독립적인 독립형 요소일 수 있다. 이러한 특정 예들에서, 전기 라우팅 라인들은 고속 프로세서(1042)를 포함하는 칩을 통해 이미지 프로세서(1024) 또는 저전력 프로세서(1038)로부터 메모리(1044)로의 연결을 제공할 수 있다. 다른 예들에서, 고속 프로세서(1042)는 저전력 프로세서(1038)가 메모리(1044)를 수반하는 판독 또는 기입 동작이 필요한 임의의 시간에 고속 프로세서(1042)를 부팅하도록 메모리(1044)의 어드레싱을 관리할 수 있다.
추적 모듈(1028)은 네트워킹된 디바이스(1002)의 포즈를 추정한다. 예를 들어, 추적 모듈(1028)은 GPS 데이터뿐만 아니라 카메라들(1018) 및 포지션 컴포넌트들(1208)로부터의 이미지 데이터 및 대응하는 관성 데이터를 사용하여, 참조 프레임(예를 들어, 현실 세계 환경)에 대한 네트워킹된 디바이스(1002)의 위치를 추적하고 포즈를 결정한다. 추적 모듈(1028)은 현실 세계 환경에서의 물리적 객체들에 대한 상대적 포지션 및 배향의 변화들을 나타내는 네트워킹된 디바이스(1002)의 업데이트된 3차원 포즈들을 결정하기 위해 네트워킹된 디바이스(1002)의 움직임들을 기술하는 업데이트된 센서 데이터를 계속적으로 수집하고 사용한다.
네트워킹된 디바이스(1002)의 안경(100) 구현에서, 추적 모듈(1028)은 디스플레이들(1016)을 통해 사용자의 시야 내에서 네트워킹된 디바이스(1002)에 의한 물리적 객체들에 대한 가상 객체들의 시각적 배치를 허용한다. GPU 및 디스플레이 드라이버(1026)는 네트워킹된 디바이스(1002)가 전통적인 증강 현실 모드로 기능하고 있을 때 디스플레이들(1016) 상에 제시될 가상 콘텐츠 또는 다른 콘텐츠의 프레임들을 생성하기 위해 네트워킹된 디바이스(1002) 또는 제2 네트워킹된 디바이스(1004)의 포즈를 사용할 수 있다. 이 모드에서, GPU 및 디스플레이 드라이버(1026)는, 사용자의 현실 세계 환경에서의 물리적 객체들과 관련하여 사용자의 포지션 및 배향의 변화들을 반영하는, 네트워킹된 디바이스(1002) 및/또는 제2 네트워킹된 디바이스(1004)의 업데이트된 3차원 포즈들에 기초하여 가상 콘텐츠의 업데이트된 프레임들을 생성한다.
본 명세서에 설명된 하나 이상의 기능 또는 동작은 또한 네트워킹된 디바이스(1002) 상에, 제2 네트워킹된 디바이스(1004) 상에, 또는 서버 시스템(1008) 상에 상주하는 애플리케이션에서 수행될 수 있다. 예를 들어, 본 명세서에 설명된 하나 이상의 기능 또는 동작은 메시징 애플리케이션(1108)과 같은 애플리케이션들(1106) 중 하나에 의해 수행될 수 있다.
도 11은 본 명세서에 설명된 디바이스들 중 임의의 하나 이상에 설치될 수 있는 소프트웨어 아키텍처(1102)를 예시하는 블록도(1100)이다. 소프트웨어 아키텍처(1102)는 프로세서들(1112), 메모리(1114), 및 I/O 컴포넌트들(1116)을 포함하는 머신(1110)과 같은 하드웨어에 의해 지원된다. 이 예에서, 소프트웨어 아키텍처(1102)는 각각의 계층이 특정 기능을 제공하는 계층들의 스택으로서 개념화될 수 있다. 소프트웨어 아키텍처(1102)는 운영 체제(1104), 라이브러리들(1118), 프레임워크들(1120), 및 애플리케이션들(1106)과 같은 계층들을 포함한다. 동작적으로, 애플리케이션들(1106)은 소프트웨어 스택을 통해 API 호출들(1122)을 인보크하고, API 호출들(1122)에 응답하여 메시지들(1124)을 수신한다.
운영 체제(1104)는 하드웨어 리소스들을 관리하고 공통 서비스들을 제공한다. 운영 체제(1104)는, 예를 들어, 커널(1126), 서비스들(1128), 및 드라이버들(1130)을 포함한다. 커널(1126)은 하드웨어와 다른 소프트웨어 계층들 사이에서 추상화 계층(abstraction layer)으로서 작용한다. 예를 들어, 커널(1126)은 다른 기능성들 중에서도, 메모리 관리, 프로세서 관리(예를 들어, 스케줄링), 컴포넌트 관리, 네트워킹, 및 보안 설정들을 제공한다. 서비스들(1128)은 다른 소프트웨어 계층들에 대한 다른 공통 서비스들을 제공할 수 있다. 드라이버들(1130)은 기저 하드웨어(underlying hardware)를 제어하거나 그와 인터페이싱하는 것을 담당한다. 예를 들어, 드라이버들(1130)은 디스플레이 드라이버들, 카메라 드라이버들, BLUETOOTH® 또는 BLUETOOTH® Low Energy 드라이버들, 플래시 메모리 드라이버들, 직렬 통신 드라이버들(예를 들어, USB(Universal Serial Bus) 드라이버들), WI-FI® 드라이버들, 오디오 드라이버들, 전력 관리 드라이버들 등을 포함할 수 있다.
라이브러리들(1118)은 애플리케이션들(1106)에 의해 사용되는 저레벨 공통 인프라스트럭처를 제공한다. 라이브러리들(1118)은, 메모리 할당 기능, 문자열 조작 기능, 수학 기능 등과 같은 기능을 제공하는 시스템 라이브러리들(1132)(예를 들어, C 표준 라이브러리)을 포함할 수 있다. 또한, 라이브러리들(1118)은 미디어 라이브러리들(예를 들어, MPEG4(Moving Picture Experts Group-4), 진보된 비디오 코딩(Advanced Video Coding)(H.264 또는 AVC), MP3(Moving Picture Experts Group Layer-3), AAC(Advanced Audio Coding), AMR(Adaptive Multi-Rate) 오디오 코덱, 공동 영상 전문가 그룹(Joint Photographic Experts Group)(JPEG 또는 JPG), 또는 PNG(Portable Network Graphics)와 같은 다양한 미디어 포맷들의 제시 및 조작을 지원하는 라이브러리들), 그래픽 라이브러리들(예를 들어, 디스플레이 상의 그래픽 콘텐츠에서 2차원(2D) 및 3차원(3D)으로 렌더링하기 위해 사용되는 OpenGL 프레임워크), 데이터베이스 라이브러리들(예를 들어, 다양한 관계형 데이터베이스 기능들을 제공하는 SQLite), 웹 라이브러리들(예를 들어, 웹 브라우징 기능성을 제공하는 WebKit) 등과 같은 API 라이브러리들(1134)을 포함할 수 있다. 라이브러리들(1118)은 또한, 많은 다른 API를 애플리케이션들(1106)에 제공하는 매우 다양한 기타 라이브러리들(1136)을 포함할 수 있다.
프레임워크들(1120)은 애플리케이션들(1106)에 의해 사용되는 고레벨 공통 인프라스트럭처를 제공한다. 예를 들어, 프레임워크들(1120)은 다양한 그래픽 사용자 인터페이스(GUI) 기능, 고레벨 리소스 관리, 및 고레벨 위치 서비스를 제공한다. 프레임워크들(1120)은 애플리케이션들(1106)에 의해 사용될 수 있는 광범위한 다른 API들을 제공할 수 있으며, 그 중 일부는 특정 운영 체제 또는 플랫폼에 특정적일 수 있다.
일 예에서, 애플리케이션들(1106)은 홈 애플리케이션(1138), 연락처 애플리케이션(1140), 브라우저 애플리케이션(1142), 북 리더 애플리케이션(1144), 위치 애플리케이션(1146), 미디어 애플리케이션(1148), 메시징 애플리케이션(1108), 게임 애플리케이션(1150), 및 제3자 애플리케이션들(1152)과 같은 광범위한 다른 애플리케이션들을 포함할 수 있다. 애플리케이션들(1106)은 프로그램들에 정의된 함수들을 실행하는 프로그램들이다. 객체 지향 프로그래밍 언어(예를 들어, Objective-C, Java, 또는 C++) 또는 절차적 프로그래밍 언어(procedural programming language)(예를 들어, C 또는 어셈블리 언어)와 같은, 다양한 방식으로 구조화된, 애플리케이션들(1106) 중 하나 이상을 생성하기 위해 다양한 프로그래밍 언어들이 이용될 수 있다. 구체적인 예에서, 제3자 애플리케이션들(1152)(예를 들어, 특정 플랫폼의 벤더 이외의 엔티티에 의해 ANDROID™ 또는 IOS™ 소프트웨어 개발 키트(SDK)를 사용하여 개발된 애플리케이션들)은 IOS™, ANDROID™, WINDOWS® Phone, 또는 다른 모바일 운영 체제와 같은 모바일 운영 체제 상에서 실행되는 모바일 소프트웨어일 수 있다. 이 예에서, 제3자 애플리케이션들(1152)은 본 명세서에 설명된 기능을 용이하게 하기 위해 운영 체제(1104)에 의해 제공되는 API 호출들(1122)을 인보크할 수 있다.
도 12는 머신(1200)으로 하여금 본 명세서에서 논의된 방법론들 중 임의의 하나 이상을 수행하게 하기 위한 명령어들(1210)(예를 들어, 소프트웨어, 프로그램, 애플리케이션, 애플릿, 앱, 또는 다른 실행가능 코드)이 실행될 수 있는 머신(1200)의 도식적 표현이다. 예를 들어, 명령어들(1210)은 머신(1200)으로 하여금 본 명세서에 설명된 방법들 중 임의의 하나 이상을 실행하게 할 수 있다. 명령어들(1210)은, 일반적인 비-프로그래밍된 머신(1200)을, 설명되고 예시된 기능들을 설명된 방식으로 수행하도록 프로그래밍된 특정한 머신(1200)으로 변환한다. 머신(1200)은 독립형 디바이스로서 동작할 수 있거나 다른 머신들에 결합(예를 들어, 네트워킹)될 수 있다. 네트워킹된 배치에서, 머신(1200)은 서버-클라이언트 네트워크 환경에서의 서버 머신 또는 클라이언트 머신으로서, 또는 피어-투-피어(peer-to-peer)(또는 분산형) 네트워크 환경에서의 피어 머신으로서 동작할 수 있다. 머신(1200)은 서버 컴퓨터, 클라이언트 컴퓨터, 개인용 컴퓨터(PC), 태블릿 컴퓨터, 랩톱 컴퓨터, 넷북, 셋톱박스(STB), PDA, 엔터테인먼트 미디어 시스템, 셀룰러 전화, 스마트폰, 모바일 디바이스, AR 웨어러블 디바이스(예를 들어, 스마트 시계), 스마트 홈 디바이스(예를 들어, 스마트 어플라이언스), 다른 스마트 디바이스들, 웹 어플라이언스, 네트워크 라우터, 네트워크 스위치, 네트워크 브리지, 또는 머신(1200)에 의해 취해질 액션들을 특정하는 명령어들(1210)을 순차적으로 또는 다른 방식으로 실행할 수 있는 임의의 머신을 포함할 수 있고, 이에 제한되지 않는다. 게다가, 단일 머신(1200)만이 예시되어 있지만, "머신"이라는 용어는 또한 본 명세서에서 논의된 방법론들 중 임의의 하나 이상을 수행하기 위해 명령어들(1210)을 개별적으로 또는 공동으로 실행하는 머신들의 컬렉션을 포함하는 것으로 간주되어야 한다.
머신(1200)은, 버스(1216)를 통해 서로 통신하도록 구성될 수 있는, 프로세서들(1212), 메모리(1214), 및 I/O 컴포넌트들(1202)을 포함할 수 있다. 일 예에서, 프로세서들(1212)(예를 들어, CPU(Central Processing Unit), RISC(Reduced Instruction Set Computing) 프로세서, CISC(Complex Instruction Set Computing) 프로세서, GPU(Graphics Processing Unit), DSP(Digital Signal Processor), ASIC, RFIC(Radio-Frequency Integrated Circuit), 다른 프로세서, 또는 이들의 임의의 적절한 조합)은, 예를 들어, 명령어들(1210)을 실행하는 프로세서(1218) 및 프로세서(1220)를 포함할 수 있다. 용어 "프로세서"는, 명령어들을 동시에 실행할 수 있는 2개 이상의 독립 프로세서(때때로 "코어"라고 함)를 포함할 수 있는 멀티-코어 프로세서들을 포함하는 것으로 의도된다. 도 12는 다수의 프로세서들(1212)을 도시하지만, 머신(1200)은 단일 코어를 갖는 단일 프로세서, 다수의 코어들을 갖는 단일 프로세서(예를 들어, 멀티-코어 프로세서), 단일 코어를 갖는 다수의 프로세서들, 다수의 코어들을 갖는 다수의 프로세서들, 또는 이들의 임의의 조합을 포함할 수 있다.
메모리(1214)는 메인 메모리(1222), 정적 메모리(1224), 및 스토리지 유닛(1226)을 포함하며, 버스(1216)를 통해 프로세서들(1212)에 양자 모두 액세스가능하다. 메인 메모리(1214), 정적 메모리(1224), 및 스토리지 유닛(1226)은 본 명세서에 설명된 방법론들 또는 기능들 중 임의의 하나 이상을 구현하는 명령어들(1210)을 저장한다. 명령어들(1210)은 또한, 네트워킹된 디바이스(1002)에 의한 그의 실행 동안, 완전히 또는 부분적으로, 메인 메모리(1222) 내에, 정적 메모리(1224) 내에, 스토리지 유닛(1226) 내의 머신 판독가능 매체(1228) 내에, 프로세서들(1212) 중 적어도 하나 내에(예를 들어, 프로세서의 캐시 메모리 내에), 또는 이들의 임의의 적합한 조합으로 존재할 수 있다.
I/O 컴포넌트들(1202)은, 입력을 수신하고, 출력을 제공하고, 출력을 생성하고, 정보를 송신하고, 정보를 교환하고, 측정들을 캡처하는 등을 수행하기 위한 매우 다양한 컴포넌트들을 포함할 수 있다. 특정 머신에 포함되는 구체적인 I/O 컴포넌트들(1202)은 머신의 타입에 의존할 것이다. 예를 들어, 모바일 폰들과 같은 휴대용 머신들은 터치 입력 디바이스 또는 다른 이러한 입력 메커니즘들을 포함할 수 있고, 헤드리스 서버 머신(headless server machine)은 이러한 터치 입력 디바이스를 포함하지 않을 가능성이 높다. I/O 컴포넌트들(1202)은 도 12에 도시되지 않은 많은 다른 컴포넌트를 포함할 수 있다는 것이 인정될 것이다. 다양한 예들에서, I/O 컴포넌트들(1202)은 출력 컴포넌트들(1204) 및 입력 컴포넌트들(1230)을 포함할 수 있다. 출력 컴포넌트들(1204)은, 시각적 컴포넌트들(예를 들어, 플라즈마 디스플레이 패널(PDP), 발광 다이오드(LED) 디스플레이, 액정 디스플레이(LCD), 프로젝터, 또는 음극선관(CRT)과 같은 디스플레이), 음향 컴포넌트들(예를 들어, 스피커), 햅틱 컴포넌트들(예를 들어, 진동 모터, 저항 메커니즘), 다른 신호 생성기 등을 포함할 수 있다. 입력 컴포넌트들(1230)은, 영숫자 입력 컴포넌트들(예를 들어, 키보드, 영숫자 입력을 수신하도록 구성된 터치 스크린, 포토-광학 키보드, 또는 다른 영숫자 입력 컴포넌트), 포인트 기반 입력 컴포넌트들(예를 들어, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서, 또는 다른 포인팅 기기), 촉각 입력 컴포넌트들(예를 들어, 물리적 버튼, 터치 또는 터치 제스처의 위치 및/또는 힘을 제공하는 터치 스크린, 또는 다른 촉각 입력 컴포넌트), 오디오 입력 컴포넌트들(예를 들어, 마이크로폰) 등을 포함할 수 있다.
추가의 예들에서, I/O 컴포넌트들(1202)은, 다양한 다른 컴포넌트들 중에서, 바이오메트릭 컴포넌트들(1232), 모션 컴포넌트들(1206), 환경 컴포넌트들(1234), 또는 포지션 컴포넌트들(position components)(1208)을 포함할 수 있다. 예를 들어, 바이오메트릭 컴포넌트들(1232)은 표현들(예를 들어, 손 표현들, 얼굴 표정들, 음성 표현들, 신체 제스처들, 또는 눈 추적)을 검출하고, 생체신호들(예를 들어, 혈압, 심박수, 체온, 땀, 또는 뇌파들)을 측정하고, 사람(예를 들어, 음성 식별, 망막 식별, 얼굴 식별, 지문 식별, 또는 뇌전도 기반 식별)을 식별하고, 이와 유사한 것을 하기 위한 컴포넌트들을 포함한다. 모션 컴포넌트들(1206)은 가속도 센서 컴포넌트들(예를 들어, 가속도계), 중력 센서 컴포넌트들, 회전 센서 컴포넌트들(예를 들어, 자이로스코프) 등을 포함한다. 환경 컴포넌트들(1234)은, 예를 들어, 조명 센서 컴포넌트들(예를 들어, 광도계), 온도 센서 컴포넌트들(예를 들어, 주위 온도를 검출하는 하나 이상의 온도계), 습도 센서 컴포넌트들, 압력 센서 컴포넌트들(예를 들어, 기압계), 음향 센서 컴포넌트들(예를 들어, 배경 잡음을 검출하는 하나 이상의 마이크로폰), 근접 센서 컴포넌트들(예를 들어, 인근 객체들을 검출하는 적외선 센서들), 가스 센서들(예를 들어, 안전을 위해 유해 가스들의 농도들을 검출하거나 대기 중 오염물질들을 측정하는 가스 검출 센서들), 또는 주변 물리적 환경에 대응하는 표시들, 측정들, 또는 신호들을 제공할 수 있는 다른 컴포넌트들을 포함할 수 있다. 포지션 컴포넌트들(1208)은 위치 센서 컴포넌트들(예를 들어, GPS 수신기 컴포넌트), 고도 센서 컴포넌트들(예를 들어, 고도가 도출될 수 있는 기압을 검출하는 고도계들 또는 기압계들), 배향 센서 컴포넌트들(예를 들어, 자력계들), 및 이와 유사한 것을 포함한다.
통신은 매우 다양한 기술을 사용하여 구현될 수 있다. I/O 컴포넌트들(1202)은 각각 결합(1242) 및 결합(1244)을 통해 네트워킹된 디바이스(1002)를 네트워크(1238) 또는 디바이스들(1240)에 결합하도록 동작가능한 통신 컴포넌트들(1236)을 추가로 포함한다. 예를 들어, 통신 컴포넌트들(1236)은, 네트워크 인터페이스 컴포넌트, 또는 네트워크(1238)와 인터페이스하기 위한 다른 적합한 디바이스를 포함할 수 있다. 추가 예들에서, 통신 컴포넌트들(1236)은 유선 통신 컴포넌트들, 무선 통신 컴포넌트들, 셀룰러 통신 컴포넌트들, 근접장 통신(NFC) 컴포넌트들, Bluetooth® 컴포넌트들(예를 들어, Bluetooth® Low Energy), Wi-Fi® 컴포넌트들, 및 다른 양상들을 통해 통신을 제공하는 다른 통신 컴포넌트들을 포함할 수 있다. 디바이스들(1240)은, 다른 머신 또는 임의의 다양한 주변 디바이스(예를 들어, USB를 통해 결합된 주변 디바이스)일 수 있다.
더욱이, 통신 컴포넌트들(1236)은 식별자들을 검출할 수 있거나 식별자들을 검출하도록 동작가능한 컴포넌트들을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(1236)은 RFID(Radio Frequency Identification) 태그 판독기 컴포넌트들, NFC 스마트 태그 검출 컴포넌트들, 광학 판독기 컴포넌트들(예를 들어, UPC(Universal Product Code) 바코드와 같은 1차원 바코드들, QR(Quick Response) 코드와 같은 다차원 바코드들, Aztec 코드, 데이터 매트릭스(Data Matrix), Dataglyph, MaxiCode, PDF417, 울트라 코드(Ultra Code), UCC RSS-2D 바코드, 및 다른 광학 코드들을 검출하는 광학 센서), 또는 음향 검출 컴포넌트들(예를 들어, 태깅된 오디오 신호들을 식별하는 마이크로폰들)을 포함할 수 있다. 게다가, 인터넷 프로토콜(IP) 지리위치를 통한 위치, Wi-Fi® 신호 삼각측량을 통한 위치, 특정 위치를 나타낼 수 있는 NFC 비컨 신호의 검출을 통한 위치 등과 같은, 다양한 정보가 통신 컴포넌트들(1236)을 통해 도출될 수 있다.
다양한 메모리들(예를 들어, 메모리(1214), 메인 메모리(1222), 정적 메모리(1224), 및/또는 프로세서들(1212)의 메모리) 및/또는 스토리지 유닛(1226)은 본 명세서에 설명된 방법론들 또는 기능들 중 임의의 하나 이상을 구현하거나 그에 의해 사용되는 명령어들 및 데이터 구조들(예를 들어, 소프트웨어)의 하나 이상의 세트를 저장할 수 있다. 이러한 명령어들(예를 들어, 명령어들(1210))은, 프로세서들(1212)에 의해 실행될 때, 다양한 동작들이 개시된 예들을 구현하게 한다.
명령어들(1210)은 네트워크 인터페이스 디바이스(예를 들어, 통신 컴포넌트들(1236)에 포함된 네트워크 인터페이스 컴포넌트)를 통해, 송신 매체를 사용하여, 그리고 다수의 잘 알려진 전송 프로토콜(예를 들어, HTTP(hypertext transfer protocol)) 중 어느 하나를 사용하여, 네트워크(1238)를 통해 송신되거나 수신될 수 있다. 유사하게, 명령어들(1210)은 디바이스들(1240)에 대한 결합(1244)(예를 들어, 피어-투-피어 결합)을 통해 송신 매체를 사용하여 송신되거나 수신될 수 있다.
"캐리어 신호"는 머신에 의한 실행을 위한 명령어들을 저장, 인코딩, 또는 운반할 수 있는 임의의 무형 매체를 지칭하고, 이러한 명령어들의 통신을 용이하게 하기 위한 디지털 또는 아날로그 통신 신호들 또는 다른 무형 매체를 포함한다. 명령어들은 네트워크 인터페이스 디바이스를 통해 송신 매체를 사용하여 네트워크를 통해 송신 또는 수신될 수 있다.
"클라이언트 디바이스"는 하나 이상의 서버 시스템 또는 다른 클라이언트 디바이스들로부터 리소스들을 획득하기 위해 통신 네트워크에 인터페이스하는 임의의 머신을 지칭한다. 클라이언트 디바이스는, 모바일폰, 데스크톱 컴퓨터, 랩톱, PDA(portable digital assistant)들, 스마트폰들, 태블릿들, 울트라북들, 넷북들, 랩톱들, 멀티-프로세서 시스템들, 마이크로프로세서-기반 또는 프로그램가능 가전 제품들, 게임 콘솔들, 셋톱박스들, 또는 사용자가 네트워크에 액세스하기 위해 사용할 수 있는 임의의 다른 통신 디바이스일 수 있고, 이에 제한되지 않는다.
"통신 네트워크"는 애드 혹 네트워크, 인트라넷, 엑스트라넷, VPN(virtual private network), LAN(local area network), 무선 LAN(WLAN), WAN(wide area network), 무선 WAN(WWAN), MAN(metropolitan area network), 인터넷, 인터넷의 일부, PSTN(Public Switched Telephone Network)의 일부, POTS(plain old telephone service) 네트워크, 셀룰러 전화 네트워크, 무선 네트워크, Wi-Fi® 네트워크, 다른 타입의 네트워크, 또는 2개 이상의 이러한 네트워크의 조합일 수 있는, 네트워크의 하나 이상의 부분을 지칭한다. 예를 들어, 네트워크 또는 네트워크의 일부는 무선 또는 셀룰러 네트워크를 포함할 수 있고, 결합(coupling)은 CDMA(Code Division Multiple Access) 연결, GSM(Global System for Mobile communications) 연결, 또는 다른 타입들의 셀룰러 또는 무선 결합일 수 있다. 이 예에서, 결합은 1xRTT(Single Carrier Radio Transmission Technology), EVDO(Evolution-Data Optimized) 기술, GPRS(General Packet Radio Service) 기술, EDGE(Enhanced Data rates for GSM Evolution) 기술, 3G를 포함한 3GPP(third Generation Partnership Project), 4세대 무선(4G) 네트워크, UMTS(Universal Mobile Telecommunications System), HSPA(High Speed Packet Access), WiMAX(Worldwide Interoperability for Microwave Access), LTE(Long Term Evolution) 표준, 다양한 표준 설정 기구에 의해 정의된 다른 것들, 다른 장거리 프로토콜들, 또는 다른 데이터 전송 기술과 같은, 다양한 타입의 데이터 전송 기술들 중 임의의 것을 구현할 수 있다.
"컴포넌트"는 함수 또는 서브루틴 호출들, 분기 포인트들, API들, 또는 특정한 처리 또는 제어 기능들의 분할 또는 모듈화를 제공하는 다른 기술들에 의해 정의된 경계들을 갖는 디바이스, 물리적 엔티티 또는 로직을 지칭한다. 컴포넌트들은 그들의 인터페이스들을 통해 다른 컴포넌트들과 조합되어 머신 프로세스를 수행할 수 있다. 컴포넌트는, 다른 컴포넌트들 및 보통은 관련된 기능들 중 특정 기능을 수행하는 프로그램의 일부와 함께 사용하도록 설계되는 패키징된 기능적 하드웨어 유닛일 수 있다. 컴포넌트들은 소프트웨어 컴포넌트들(예를 들어, 머신 판독가능 매체 상에 구체화되는 코드) 또는 하드웨어 컴포넌트들을 구성할 수 있다. "하드웨어 컴포넌트"는 특정 동작들을 수행할 수 있는 유형 유닛(tangible unit)이고, 특정 물리적 방식으로 구성되거나 배열될 수 있다. 다양한 예들에서, 하나 이상의 컴퓨터 시스템(예를 들어, 독립형 컴퓨터 시스템, 클라이언트 컴퓨터 시스템, 또는 서버 컴퓨터 시스템) 또는 컴퓨터 시스템의 하나 이상의 하드웨어 컴포넌트(예를 들어, 프로세서 또는 프로세서들의 그룹)는 본 명세서에서 설명되는 바와 같이 특정 동작들을 수행하도록 동작하는 하드웨어 컴포넌트로서 소프트웨어(예를 들어, 애플리케이션 또는 애플리케이션 부분)에 의해 구성될 수 있다. 하드웨어 컴포넌트는 또한, 기계적으로, 전자적으로, 또는 이들의 임의의 적합한 조합으로 구현될 수 있다. 예를 들어, 하드웨어 컴포넌트는 특정 동작들을 수행하도록 영구적으로 구성되는 전용 회로 또는 로직을 포함할 수 있다. 하드웨어 컴포넌트는, FPGA(field-programmable gate array) 또는 ASIC(application specific integrated circuit)와 같은 특수 목적 프로세서일 수 있다. 하드웨어 컴포넌트는 또한, 특정 동작들을 수행하도록 소프트웨어에 의해 일시적으로 구성되는 프로그램가능 로직 또는 회로를 포함할 수 있다. 예를 들어, 하드웨어 컴포넌트는 범용 프로세서 또는 다른 프로그램가능 프로세서에 의해 실행되는 소프트웨어를 포함할 수 있다. 일단 그러한 소프트웨어에 의해 구성되면, 하드웨어 컴포넌트들은 구성된 기능들을 수행하도록 고유하게 맞춤화된 특정 머신들(또는 머신의 특정 컴포넌트들)이 되고 더 이상 범용 프로세서들이 아니다. 하드웨어 컴포넌트를 기계적으로, 전용의 영구적으로 구성된 회로에, 또는 일시적으로 구성된 회로(예를 들어, 소프트웨어에 의해 구성됨)에 구현하기로 하는 결정은 비용 및 시간 고려사항들에 의해 주도될 수 있다는 것을 인식할 것이다. 따라서, "하드웨어 컴포넌트"(또는 "하드웨어 구현된 컴포넌트")라는 문구는, 특정 방식으로 동작하도록 또는 본 명세서에서 설명된 특정 동작들을 수행하도록 물리적으로 구성되거나, 영구적으로 구성되거나(예를 들어, 하드와이어드), 또는 일시적으로 구성된(예를 들어, 프로그래밍된) 엔티티이기만 하다면, 유형 엔티티(tangible entity)를 포괄하는 것으로 이해되어야 한다. 하드웨어 컴포넌트들이 일시적으로 구성되는(예를 들어, 프로그래밍되는) 예들을 고려할 때, 하드웨어 컴포넌트들 각각이 임의의 하나의 시간 인스턴스에서 구성 또는 인스턴스화될 필요는 없다. 예를 들어, 하드웨어 컴포넌트가 특수 목적 프로세서가 되도록 소프트웨어에 의해 구성된 범용 프로세서를 포함하는 경우에, 범용 프로세서는 상이한 시간들에서 (예를 들어, 상이한 하드웨어 컴포넌트들을 포함하는) 각각 상이한 특수 목적 프로세서들로서 구성될 수 있다. 따라서 소프트웨어는 예를 들어, 하나의 시간 인스턴스에서는 특정한 하드웨어 컴포넌트를 구성하고 상이한 시간 인스턴스에서는 상이한 하드웨어 컴포넌트를 구성하도록 특정한 프로세서 또는 프로세서들을 구성한다. 하드웨어 컴포넌트는 다른 하드웨어 컴포넌트들에 정보를 제공하고 그로부터 정보를 수신할 수 있다. 따라서, 설명된 하드웨어 컴포넌트들은 통신가능하게 결합되는 것으로서 간주될 수 있다. 다수의 하드웨어 컴포넌트가 동시에 존재하는 경우에, 하드웨어 컴포넌트들 중 2개 이상 간의 또는 2개 이상 사이의(예를 들어, 적절한 회로들 및 버스들을 통한) 신호 송신을 통해 통신이 달성될 수 있다. 다수의 하드웨어 컴포넌트들이 상이한 시간들에서 구성되거나 인스턴스화되는 예들에서, 그러한 하드웨어 컴포넌트들 사이의 통신은, 예를 들어, 다수의 하드웨어 컴포넌트들이 액세스할 수 있는 메모리 구조들 내의 정보의 스토리지 및 검색을 통해 달성될 수 있다. 예를 들어, 하나의 하드웨어 컴포넌트는 동작을 수행하고 그 동작의 출력을 이것이 통신가능하게 결합된 메모리 디바이스에 저장할 수 있다. 그 후 추가의 하드웨어 컴포넌트는, 나중에, 저장된 출력을 검색 및 처리하기 위해 메모리 디바이스에 액세스할 수 있다. 하드웨어 컴포넌트들은 또한 입력 또는 출력 디바이스들과 통신을 개시할 수 있고, 리소스(예를 들어, 정보의 컬렉션)에 대해 동작할 수 있다. 본 명세서에 설명된 예시적인 방법들의 다양한 동작은 관련 동작들을 수행하도록 일시적으로 구성되거나(예를 들어, 소프트웨어에 의해) 영구적으로 구성되는 하나 이상의 프로세서에 의해 적어도 부분적으로 수행될 수 있다. 일시적으로 구성되든 영구적으로 구성되든 간에, 그러한 프로세서들은 본 명세서에 설명된 하나 이상의 동작 또는 기능을 수행하도록 동작하는 프로세서에 의해 구현되는 컴포넌트들(processor-implemented components)을 구성할 수 있다. 본 명세서에 사용된 바와 같이, "프로세서에 의해 구현되는 컴포넌트(processor-implemented component)"는 하나 이상의 프로세서를 사용하여 구현되는 하드웨어 컴포넌트를 지칭한다. 유사하게, 본 명세서에 설명된 방법들은 적어도 부분적으로 프로세서에 의해 구현될 수 있고, 특정한 프로세서 또는 프로세서들은 하드웨어의 예이다. 예를 들어, 방법의 동작들 중 적어도 일부가 하나 이상의 프로세서 또는 프로세서에 의해 구현되는 컴포넌트에 의해 수행될 수 있다. 더욱이, 하나 이상의 프로세서는 또한 "클라우드 컴퓨팅" 환경에서 또는 "서비스로서의 소프트웨어(software as a service)"(SaaS)로서 관련 동작들의 수행을 지원하도록 동작할 수 있다. 예를 들어, 동작들 중 적어도 일부는 (프로세서들을 포함하는 머신들의 예들로서) 컴퓨터들의 그룹에 의해 수행될 수 있고, 이러한 동작들은 네트워크(예를 들어, 인터넷)를 통해 그리고 하나 이상의 적절한 인터페이스(예를 들어, API)를 통해 액세스가능하다. 동작들 중 특정한 것의 수행은 단일 머신 내에 존재할 뿐만 아니라, 다수의 머신에 걸쳐 배치되는, 프로세서들 사이에 분산될 수 있다. 일부 예들에서, 프로세서들 또는 프로세서에 의해 구현되는 컴포넌트들은 단일의 지리적 위치에(예를 들어, 가정 환경, 사무실 환경, 또는 서버 팜(server farm) 내에) 위치할 수 있다. 다른 예들에서, 프로세서들 또는 프로세서에 의해 구현되는 컴포넌트들은 다수의 지리적 위치에 걸쳐 분산될 수 있다.
"컴퓨터 판독가능 매체"는 머신 저장 매체와 송신 매체 양자 모두를 지칭한다. 따라서, 용어들은 저장 디바이스들/매체들과 반송파들/변조된 데이터 신호들 양자 모두를 포함한다. "머신 판독가능 매체", "컴퓨터 판독가능 매체" 및 "디바이스 판독가능 매체"라는 용어들은 동일한 것을 의미하며, 본 개시내용에서 상호교환가능하게 사용될 수 있다.
단기적 메시지(ephemeral message)는 시간 제한된 지속기간(time-limited duration) 동안 액세스가능한 메시지를 지칭한다. 단기적 메시지는, 텍스트, 이미지, 비디오, 및 그와 유사한 것일 수 있다. 단기적 메시지에 대한 액세스 시간은 메시지 전송자에 의해 설정될 수 있다. 대안적으로, 액세스 시간은 디폴트 설정, 또는 수신인에 의해 지정된 설정일 수 있다. 설정 기법에 관계없이, 메시지는 일시적(transitory)이다.
"머신 저장 매체"는 실행가능 명령어들, 루틴들 및/또는 데이터를 저장한 단일의 또는 다수의 저장 디바이스들 및/또는 매체들(예를 들어, 중앙집중형 또는 분산형 데이터베이스, 및/또는 연관된 캐시들 및 서버들)을 지칭한다. 따라서, 용어는 프로세서들 내부 또는 외부의 메모리를 포함하는 고체 상태 메모리들, 및 광학 및 자기 매체들을 포함하지만 이에 제한되지 않는 것으로 간주되어야 한다. 머신 저장 매체, 컴퓨터 저장 매체 및/또는 디바이스 저장 매체의 특정 예들은 예로서 반도체 메모리 디바이스들, 예를 들어, EPROM(erasable programmable read-only memory), EEPROM(electrically erasable programmable read-only memory), FPGA, 및 플래시 메모리 디바이스들을 포함하는 비휘발성 메모리; 내부 하드 디스크들 및 이동식 디스크들과 같은 자기 디스크들; 광자기 디스크들; 및 CD-ROM 및 DVD-ROM 디스크들을 포함한다. "머신 저장 매체", "디바이스 저장 매체", "컴퓨터 저장 매체"라는 용어들은 동일한 것을 의미하며, 본 개시내용에서 상호교환가능하게 사용될 수 있다. "머신 저장 매체", "컴퓨터 저장 매체", 및 "디바이스 저장 매체"라는 용어들은 구체적으로 반송파들, 변조된 데이터 신호들, 및 다른 이러한 매체들을 제외하고, 이들 중 적어도 일부는 "신호 매체"라는 용어 하에 포함된다.
"프로세서"는 제어 신호들(예를 들어, "커맨드들", "op 코드들", "머신 코드" 등)에 따라 데이터 값들을 조작하고 머신을 동작시키기 위해 적용되는 대응하는 출력 신호들을 생성하는 임의의 회로 또는 가상 회로(실제 프로세서 상에서 실행되는 로직에 의해 에뮬레이트되는 물리 회로)를 지칭한다. 프로세서는, 예를 들어, CPU(Central Processing Unit), RISC(Reduced Instruction Set Computing) 프로세서, CISC(Complex Instruction Set Computing) 프로세서, GPU(Graphics Processing Unit), DSP(Digital Signal Processor), ASIC(Application Specific Integrated Circuit), RFIC(Radio-Frequency Integrated Circuit), 또는 이들의 임의의 조합일 수 있다. 프로세서는 또한, 명령어들을 동시에 실행할 수 있는 둘 이상의 독립 프로세서(때때로 "코어"라고도 함)를 갖는 멀티-코어 프로세서일 수 있다.
"신호 매체"는 머신에 의한 실행을 위한 명령어들을 저장, 인코딩, 또는 운반할 수 있는 임의의 무형 매체를 지칭하고, 소프트웨어 또는 데이터의 통신을 용이하게 하기 위한 디지털 또는 아날로그 통신 신호들 또는 다른 무형 매체를 포함한다. 용어 "신호 매체"는 임의의 형태의 변조된 데이터 신호, 반송파 등을 포함하는 것으로 간주되어야 한다. 용어 "변조된 데이터 신호"는 신호 내의 정보를 인코딩하는 것과 같은 문제에서 그의 특성 중 하나 이상이 설정 또는 변경된 신호를 의미한다. "송신 매체" 및 "신호 매체"라는 용어들은 동일한 것을 의미하며, 본 개시내용에서 상호교환가능하게 사용될 수 있다.
본 개시내용의 범위를 벗어나지 않고 개시된 예들에 대한 변경들 및 수정들이 이루어질 수 있다. 이들 및 다른 변경들 또는 수정들은 다음의 청구항들에서 표현된 바와 같은, 본 개시내용의 범위 내에 포함되는 것으로 의도된다.

Claims (20)

  1. 개인 이동성 시스템(personal mobility system)을 제어하는 방법으로서,
    증강 현실 웨어러블 디바이스 상에 가상 객체를 디스플레이하는 단계- 상기 가상 객체는 상기 현실 세계에서의 포지션에 대응하는 상기 증강 현실 디바이스의 시야에서의 포지션에 위치됨 -;
    상기 현실 세계에서의 포지션과 상기 개인 이동성 시스템 또는 상기 개인 이동성 시스템의 사용자의 근접성을 검출하는 단계; 및
    상기 근접성의 검출에 응답하여, 상기 개인 이동성 시스템의 성능 특성을 수정하는 단계
    를 포함하는, 방법.
  2. 제1항에 있어서, 상기 성능 특성의 수정은 상기 개인 이동성 시스템의 최대 속도 또는 최대 전력의 변경을 포함하는, 방법.
  3. 제1항에 있어서, 상기 성능 특성의 수정은 상기 가상 객체의 파라미터들에 기초하여 미리 결정된 시간 동안 발생하는, 방법.
  4. 제1항에 있어서, 상기 현실 세계에서의 포지션은 상기 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치인, 방법.
  5. 제1항에 있어서, 상기 현실 세계에서의 포지션은 상기 개인 이동성 시스템이 위치하는 환경 내의 참조 프레임 내의 위치에 있는, 방법.
  6. 제5항에 있어서,
    상기 근접성의 검출에 응답하여, 상기 환경 내의 상기 참조 프레임 내의 위치로부터 상기 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치로 상기 가상 객체를 이송(transferring)하는 단계; 및
    상기 개인 이동성 시스템의 적어도 일부에 고정된 상기 참조 프레임 내의 위치와 상기 개인 이동성 시스템의 사용자의 교차점(intersection)이 검출될 때까지 상기 개인 이동성 시스템의 성능 특성의 수정을 지연시키는 단계를 추가로 포함하는, 방법.
  7. 제1항에 있어서,
    상기 현실 세계에서의 포지션과 상기 개인 이동성 시스템 또는 상기 개인 이동성 시스템의 사용자의 근접성의 검출에 응답하여 상기 현실 세계에서의 포지션에 대응하는 상기 증강 현실 디바이스의 시야에서의 포지션으로부터 상기 증강 현실 웨어러블 디바이스의 디스플레이로부터 상기 가상 객체를 제거하는 단계를 추가로 포함하는, 방법.
  8. 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 컴퓨터 판독가능 저장 매체는, 컴퓨터에 의해 실행될 때, 상기 컴퓨터로 하여금, 개인 이동성 시스템을 제어하기 위한 동작들을 수행하게 하는 명령어들을 포함하고, 상기 동작들은:
    증강 현실 웨어러블 디바이스 상에 가상 객체를 디스플레이하는 것- 상기 가상 객체는 상기 현실 세계에서의 포지션에 대응하는 상기 증강 현실 디바이스의 시야에서의 포지션에 위치됨 -;
    상기 현실 세계에서의 포지션과 상기 개인 이동성 시스템 또는 상기 개인 이동성 시스템의 사용자의 근접성을 검출하는 것; 및
    상기 근접성의 검출에 응답하여, 상기 개인 이동성 시스템의 성능 특성을 수정하는 것을 포함하는, 컴퓨터 판독가능 저장 매체.
  9. 제8항에 있어서, 상기 성능 특성의 수정은 상기 개인 이동성 시스템의 최대 속도 또는 최대 전력의 변경을 포함하는, 컴퓨터 판독가능 저장 매체.
  10. 제8항에 있어서, 상기 성능 특성의 수정은 상기 가상 객체의 파라미터들에 기초하여 미리 결정된 시간 동안 발생하는, 컴퓨터 판독가능 저장 매체.
  11. 제8항에 있어서, 상기 현실 세계에서의 포지션은 상기 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치인, 컴퓨터 판독가능 저장 매체.
  12. 제8항에 있어서, 상기 현실 세계에서의 포지션은 상기 개인 이동성 시스템이 위치하는 환경 내의 참조 프레임 내의 위치에 있는, 컴퓨터 판독가능 저장 매체.
  13. 제12항에 있어서, 상기 명령어들은:
    상기 근접성의 검출에 응답하여, 상기 환경 내의 상기 참조 프레임 내의 위치로부터 상기 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치로 상기 가상 객체를 이송하고;
    상기 개인 이동성 시스템의 적어도 일부에 고정된 상기 참조 프레임 내의 위치와 상기 개인 이동성 시스템의 사용자의 교차점이 검출될 때까지 상기 개인 이동성 시스템의 성능 특성의 수정을 지연시키도록 상기 컴퓨터를 추가로 구성하는, 컴퓨터 판독가능 저장 매체.
  14. 컴퓨팅 시스템으로서,
    프로세서; 및
    상기 프로세서에 의해 실행될 때, 개인 이동성 시스템을 제어하기 위한 동작들을 수행하도록 상기 컴퓨팅 시스템을 구성하는 명령어들을 저장한 메모리
    를 포함하고, 상기 동작들은:
    증강 현실 웨어러블 디바이스 상에 가상 객체를 디스플레이하는 것- 상기 가상 객체는 상기 현실 세계에서의 포지션에 대응하는 상기 증강 현실 디바이스의 시야에서의 포지션에 위치됨 -;
    상기 현실 세계에서의 포지션과 상기 개인 이동성 시스템 또는 상기 개인 이동성 시스템의 사용자의 근접성을 검출하는 것; 및
    상기 근접성의 검출에 응답하여, 상기 개인 이동성 시스템의 성능 특성을 수정하는 것을 포함하는, 컴퓨팅 시스템.
  15. 제14항에 있어서, 상기 성능 특성의 수정은 상기 개인 이동성 시스템의 최대 속도 또는 최대 전력의 변경을 포함하는, 컴퓨팅 시스템.
  16. 제14항에 있어서, 상기 성능 특성의 수정은 상기 가상 객체의 파라미터들에 기초하여 미리 결정된 시간 동안 발생하는, 컴퓨팅 시스템.
  17. 제14항에 있어서, 상기 현실 세계에서의 포지션은 상기 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치인, 컴퓨팅 시스템.
  18. 제14항에 있어서, 상기 현실 세계에서의 포지션은 상기 개인 이동성 시스템이 위치하는 환경 내의 참조 프레임 내의 위치에 있는, 컴퓨팅 시스템.
  19. 제18항에 있어서, 상기 명령어들은:
    상기 근접성의 검출에 응답하여, 상기 환경 내의 상기 참조 프레임 내의 위치로부터 상기 개인 이동성 시스템의 적어도 일부에 고정된 참조 프레임 내의 위치로 상기 가상 객체를 이송하고;
    상기 개인 이동성 시스템의 적어도 일부에 고정된 상기 참조 프레임 내의 위치와 상기 개인 이동성 시스템의 사용자의 교차점이 검출될 때까지 상기 개인 이동성 시스템의 성능 특성의 수정을 지연시키도록 상기 컴퓨팅 시스템을 추가로 구성하는, 컴퓨팅 시스템.
  20. 제14항에 있어서, 상기 명령어들은:
    상기 현실 세계에서의 포지션과 상기 개인 이동성 시스템 또는 상기 개인 이동성 시스템의 사용자의 근접성의 검출에 응답하여 상기 현실 세계에서의 포지션에 대응하는 상기 증강 현실 디바이스의 시야에서의 포지션으로부터 상기 증강 현실 웨어러블 디바이스의 디스플레이로부터 상기 가상 객체를 제거하도록 상기 컴퓨팅 시스템을 추가로 구성하는, 컴퓨팅 시스템.
KR1020247014336A 2021-09-30 2022-09-28 개인 이동성 시스템의 ar 기반 성능 변조 KR20240065182A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US17/490,915 US12030577B2 (en) 2021-09-30 2021-09-30 AR based performance modulation of a personal mobility system
US17/490,915 2021-09-30
PCT/US2022/045043 WO2023055803A1 (en) 2021-09-30 2022-09-28 Ar based performance modulation of a personal mobility system

Publications (1)

Publication Number Publication Date
KR20240065182A true KR20240065182A (ko) 2024-05-14

Family

ID=84245683

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020247014336A KR20240065182A (ko) 2021-09-30 2022-09-28 개인 이동성 시스템의 ar 기반 성능 변조

Country Status (5)

Country Link
US (2) US12030577B2 (ko)
EP (1) EP4409384A1 (ko)
KR (1) KR20240065182A (ko)
CN (1) CN118020052A (ko)
WO (1) WO2023055803A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11900550B2 (en) 2021-09-30 2024-02-13 Snap Inc. AR odometry using sensor data from a personal vehicle
US12030577B2 (en) 2021-09-30 2024-07-09 Snap Inc. AR based performance modulation of a personal mobility system
US11813528B2 (en) * 2021-11-01 2023-11-14 Snap Inc. AR enhanced gameplay with a personal mobility system
US11983922B2 (en) * 2022-01-27 2024-05-14 Rovi Guides, Inc. Smart home management system for generating augmented reality scene of potentially hazardous condition
US12106580B2 (en) * 2022-06-14 2024-10-01 Snap Inc. AR assisted safe cycling

Family Cites Families (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5659691A (en) 1993-09-23 1997-08-19 Virtual Universe Corporation Virtual reality network with selective distribution and updating of data to reduce bandwidth requirements
JP3890781B2 (ja) 1997-10-30 2007-03-07 株式会社セガ コンピュータ読み取り可能な記憶媒体、ゲーム装置、及びゲームの画像表示方法
US20060223637A1 (en) 2005-03-31 2006-10-05 Outland Research, Llc Video game system combining gaming simulation with remote robot control and remote robot feedback
US7972245B2 (en) 2009-02-27 2011-07-05 T-Mobile Usa, Inc. Presenting information to users during an activity, such as information from a previous or concurrent outdoor, physical activity
AU2012306059A1 (en) 2011-09-08 2014-03-27 Paofit Holdings Pte Ltd System and method for visualizing synthetic objects withinreal-world video clip
CN104272660A (zh) 2011-10-11 2015-01-07 时间游戏公司 用于交互式体验的系统和方法和用于其的控制器
US9292085B2 (en) 2012-06-29 2016-03-22 Microsoft Technology Licensing, Llc Configuring an interaction zone within an augmented reality environment
DE102013217558A1 (de) 2013-09-03 2015-03-05 Continental Automotive Gmbh Verfahren zum Steuern einer Informationsanzeigeeinrichtung sowie Vorrichtung mit einer Informationsanzeigeeinrichtung
US9792817B2 (en) 2013-12-24 2017-10-17 Intel Corporation Road hazard communication
US9626802B2 (en) 2014-05-01 2017-04-18 Microsoft Technology Licensing, Llc Determining coordinate frames in a dynamic environment
DE102014006732B4 (de) 2014-05-08 2016-12-15 Audi Ag Bildüberlagerung von virtuellen Objekten in ein Kamerabild
US10613627B2 (en) 2014-05-12 2020-04-07 Immersion Corporation Systems and methods for providing haptic feedback for remote interactions
US9959675B2 (en) 2014-06-09 2018-05-01 Microsoft Technology Licensing, Llc Layout design using locally satisfiable proposals
US10391361B2 (en) 2015-02-27 2019-08-27 Icon Health & Fitness, Inc. Simulating real-world terrain on an exercise device
US9933901B2 (en) 2015-08-24 2018-04-03 Apple Inc. Reduction of media application response time through prediction of remote controller input data
US10019070B2 (en) 2015-11-03 2018-07-10 GM Global Technology Operations LLC Vehicle-wearable device interface and methods for using the same
WO2017095790A1 (en) 2015-12-02 2017-06-08 Osterhout Group, Inc. Improved safety for a vehicle operator with an hmd
KR101916993B1 (ko) 2015-12-24 2018-11-08 엘지전자 주식회사 차량용 디스플레이 장치 및 그 제어방법
US20170287217A1 (en) 2016-03-30 2017-10-05 Kahyun Kim Preceding traffic alert system and method
KR101899981B1 (ko) 2016-12-02 2018-09-19 엘지전자 주식회사 차량용 헤드 업 디스플레이
US11138436B2 (en) 2016-12-29 2021-10-05 Magic Leap, Inc. Automatic control of wearable display device based on external conditions
US10082869B2 (en) 2017-02-03 2018-09-25 Qualcomm Incorporated Maintaining occupant awareness in vehicles
US10360437B2 (en) 2017-03-22 2019-07-23 T-Mobile Usa, Inc. Collision avoidance system for augmented reality environments
US10825350B2 (en) 2017-03-28 2020-11-03 Wichita State University Virtual reality driver training and assessment system
US10282911B2 (en) 2017-05-03 2019-05-07 International Business Machines Corporation Augmented reality geolocation optimization
KR102060662B1 (ko) 2017-05-16 2019-12-30 삼성전자주식회사 차량의 주행 이벤트를 검출하는 전자 장치 및 방법
CN110892233B (zh) 2017-05-22 2024-06-21 Drnc控股公司 用于传感器范围和视场的车载增强可视化的方法和装置
US10639557B2 (en) 2017-06-22 2020-05-05 Jntvr Llc Synchronized motion simulation for virtual reality
US10496104B1 (en) 2017-07-05 2019-12-03 Perceptin Shenzhen Limited Positional awareness with quadocular sensor in autonomous platforms
WO2019033025A1 (en) 2017-08-10 2019-02-14 Patroness, LLC SYSTEMS AND METHODS FOR IMPROVED AUTONOMOUS OPERATIONS OF A MOTORIZED MOBILE SYSTEM
DE102017216100A1 (de) 2017-09-12 2019-03-14 Volkswagen Aktiengesellschaft Verfahren, Vorrichtung und computerlesbares Speichermedium mit Instruktionen zur Steuerung einer Anzeige einer Augmented-Reality-Display-Vorrichtung für ein Kraftfahrzeug
US20190105572A1 (en) 2017-10-11 2019-04-11 Actev Motors Drivable vehicle augmented reality game
FR3079389B1 (fr) 2018-03-30 2020-10-02 Sodikart Casque de protection pour pilote de kart a moyens de realite augmentee, procede, systeme et produits programme d'ordinateur correspondants.
JP6854972B2 (ja) 2018-05-02 2021-04-07 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
JP2019193742A (ja) 2018-05-02 2019-11-07 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
JP6935361B2 (ja) 2018-05-02 2021-09-15 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
US11740630B2 (en) 2018-06-12 2023-08-29 Skydio, Inc. Fitness and sports applications for an autonomous unmanned aerial vehicle
US10942030B2 (en) 2018-08-17 2021-03-09 Lyft, Inc. Road segment similarity determination
US11029837B2 (en) 2018-08-30 2021-06-08 Rovi Guides, Inc. System and method to alter a user interface of a self-driving vehicle in cases of perceived emergency based on accelerations of a wearable user device
US11210517B2 (en) * 2018-09-18 2021-12-28 TransRobotics, Inc. Technologies for acting based on object detection
US20220005358A1 (en) 2018-10-04 2022-01-06 Postmates Inc. Hailing self driving personal mobility devices
US11294467B2 (en) 2018-12-18 2022-04-05 Immersion Corporation Systems and methods for integrating environmental haptics in virtual reality
US10767997B1 (en) 2019-02-25 2020-09-08 Qualcomm Incorporated Systems and methods for providing immersive extended reality experiences on moving platforms
DE102019202576A1 (de) 2019-02-26 2020-08-27 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Fahrerinformationssystems in einem Ego-Fahrzeug und Fahrerinformationssystem
US10872584B2 (en) 2019-03-14 2020-12-22 Curious Company, LLC Providing positional information using beacon devices
WO2020212808A1 (en) 2019-04-19 2020-10-22 3M Innovative Properties Company Dynamically controlling electrically powered scooters based on sensed infrastructure data
US11769423B2 (en) 2019-05-08 2023-09-26 Fox Factory, Inc. Incorporating real world physical activity into a virtual world environment
US11604069B2 (en) * 2019-05-14 2023-03-14 Lyft, Inc. Localizing transportation requests utilizing an image based transportation request interface
US11017231B2 (en) 2019-07-10 2021-05-25 Microsoft Technology Licensing, Llc Semantically tagged virtual and physical objects
DE102019210383A1 (de) 2019-07-15 2021-01-21 Audi Ag Verfahren zum Betreiben eines mobilen Endgeräts mittels einer Gestenerkennungs- und Steuereinrichtung, Gestenerkennungs- und Steuereinrichtung, Kraftfahrzeug, und am Kopf tragbare Ausgabevorrichtung
KR102622882B1 (ko) 2019-08-26 2024-01-09 엘지전자 주식회사 Xr 컨텐츠 제공 방법 및 xr 디바이스
US11307647B2 (en) 2019-09-11 2022-04-19 Facebook Technologies, Llc Artificial reality triggered by physical object
GB2591745B (en) 2020-01-31 2024-10-02 Mclaren Automotive Ltd Augmented reality system
US20220109812A1 (en) 2020-10-05 2022-04-07 Hypergiant Industries, Inc. Overlay video display for vehicle
US11461986B2 (en) 2021-01-27 2022-10-04 Qualcomm Incorporated Context-aware extended reality systems
US20220241688A1 (en) 2021-01-29 2022-08-04 Andrea Joy Brucculeri Method, Apparatus, GUIs and APIs For A User Experience Design Related To Hands-Free Gaming Accessibility
US11278810B1 (en) 2021-04-01 2022-03-22 Sony Interactive Entertainment Inc. Menu placement dictated by user ability and modes of feedback
WO2023009580A2 (en) 2021-07-28 2023-02-02 Multinarity Ltd Using an extended reality appliance for productivity
US11867514B2 (en) * 2021-09-24 2024-01-09 Telenav, Inc. Navigation system with independent positioning mechanism and method of operation thereof
US12030577B2 (en) 2021-09-30 2024-07-09 Snap Inc. AR based performance modulation of a personal mobility system
US11900550B2 (en) 2021-09-30 2024-02-13 Snap Inc. AR odometry using sensor data from a personal vehicle
US20230106673A1 (en) 2021-10-06 2023-04-06 Qualcomm Incorporated Vehicle and mobile device interface for vehicle occupant assistance
US11813528B2 (en) 2021-11-01 2023-11-14 Snap Inc. AR enhanced gameplay with a personal mobility system
CN118451387A (zh) 2021-12-23 2024-08-06 斯纳普公司 使用来自个人交通工具的传感器数据的里程计
US20230306690A1 (en) 2022-03-22 2023-09-28 Snap Inc. Situational-risk-based ar display

Also Published As

Publication number Publication date
EP4409384A1 (en) 2024-08-07
WO2023055803A1 (en) 2023-04-06
US12030577B2 (en) 2024-07-09
US20240308613A1 (en) 2024-09-19
US20230098451A1 (en) 2023-03-30
CN118020052A (zh) 2024-05-10

Similar Documents

Publication Publication Date Title
US12030577B2 (en) AR based performance modulation of a personal mobility system
US20170287217A1 (en) Preceding traffic alert system and method
US10453260B2 (en) System and method for dynamic in-vehicle virtual reality
US11127373B2 (en) Augmented reality wearable system for vehicle occupants
JP6461318B2 (ja) 道路ユーザを認知したことを示すことを制御する装置、方法、およびコンピュータ・プログラム
US20190166351A1 (en) System and method for dynamic in-vehicle virtual reality
US20230306690A1 (en) Situational-risk-based ar display
US20240112429A1 (en) Personal vehicle linear sensor data for ar odometry sensor fusion
US11813528B2 (en) AR enhanced gameplay with a personal mobility system
US20240346784A1 (en) Augmented reality display of available personal mobility devices
KR20180072523A (ko) 전자 장치 및 그 동작 방법
KR20190077482A (ko) 차량이 턴을 하고 있을 때 가상 카메라의 방위를 조정하기 위한 방법 및 시스템
US10642033B2 (en) Image display device and image display method
KR20240124386A (ko) 개인 차량으로부터의 센서 데이터를 이용한 주행거리 측정
WO2023129812A1 (en) Augmented reality (ar) - enhanced detection and localization of a personal mobility device
WO2023244924A1 (en) Ar assisted safe cycling
CN116923438A (zh) 运动状态提示方法、装置、电子设备及存储介质