KR20210106786A - 지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치 - Google Patents

지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치 Download PDF

Info

Publication number
KR20210106786A
KR20210106786A KR1020200021732A KR20200021732A KR20210106786A KR 20210106786 A KR20210106786 A KR 20210106786A KR 1020200021732 A KR1020200021732 A KR 1020200021732A KR 20200021732 A KR20200021732 A KR 20200021732A KR 20210106786 A KR20210106786 A KR 20210106786A
Authority
KR
South Korea
Prior art keywords
information
unit
display device
map information
user
Prior art date
Application number
KR1020200021732A
Other languages
English (en)
Other versions
KR102324129B1 (ko
Inventor
최치원
배영헌
정희재
이원석
Original Assignee
주식회사 피앤씨솔루션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 피앤씨솔루션 filed Critical 주식회사 피앤씨솔루션
Priority to KR1020200021732A priority Critical patent/KR102324129B1/ko
Publication of KR20210106786A publication Critical patent/KR20210106786A/ko
Application granted granted Critical
Publication of KR102324129B1 publication Critical patent/KR102324129B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20—Instruments for performing navigational calculations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Automation & Control Theory (AREA)
  • Navigation (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 발명은 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에 관한 것으로서, 보다 구체적으로는 머리 착용형 디스플레이 장치로서, 사용자가 머리에 착용할 수 있는 HMD 프레임; 상기 HMD 프레임을 착용한 사용자의 양안의 전방에 배치되며, 사용자의 시야를 통한 실제 세계(real world)가 투과되어 보일 수 있도록 하는 광학계; 상기 광학계를 통해 투과되어 보이는 실제 세계와 함께 내비게이션 영상 정보가 사용자에게 최적화된 화면으로 제공될 수 있도록 영상 광을 출력하는 디스플레이; 상기 HMD 프레임의 일 측에 설치되며 IMU 센서로 구성되는 센서부; 지도 정보를 저장하는 저장부; 상기 센서부에 의해 수집되는 정보에 기초하여, 상기 HMD 프레임을 착용한 사용자의 보폭 및 이동 방향을 포함하는 보행 정보를 연산하는 연산부; GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 상기 지도 정보 및 보행 정보를 이용해 목적지까지의 경로를 생성하는 경로 생성부; 및 상기 경로 생성부가 생성한 경로를 증강현실 기반으로 안내하는 내비게이션 영상 정보를 생성하여 상기 디스플레이로 전송 제어하는 제어부를 포함하는 것을 그 구성상의 특징으로 한다.
본 발명에서 제안하고 있는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에 따르면, 머리 착용형 디스플레이 장치에 구비되는 IMU 센서를 이용해 사용자의 보행 정보를 연산하고, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 저장부에 저장된 지도 정보와 연산된 보행 정보를 이용해 목적지까지의 경로를 생성하여 증강현실 기반으로 안내하는 내비게이션 영상 정보를 출력함으로써, GPS 신호를 이용한 위치 추적이 어려운 환경에서도 내비게이션 기능을 사용해 경로 안내를 받을 수 있다.
또한, 본 발명에서 제안하고 있는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에 따르면, 사전 훈련된 모델을 기초로 전이 학습을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 보행 예측 모델을 생성하고, 보행 예측 모델을 이용해 보행 정보를 연산 또는 보정함으로써, 각각의 사용자의 보행 패턴에 따라 정확하게 보행 정보 및 경로를 생성할 수 있으므로, GPS를 이용하지 않고도 정확도 높은 내비게이션 기능을 제공할 수 있다.

Description

지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치{A HEAD MOUNTED DISPLAY APPARATUS HAVING A NAVIGATING FUNCTION WITH MAP INFORMATION AND IMU SENSOR}
본 발명은 머리 착용형 디스플레이 장치에 관한 것으로서, 보다 구체적으로는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에 관한 것이다.
디지털 디바이스의 경량화 및 소형화 추세에 따라 다양한 웨어러블 디바이스(wearable device)들이 개발되고 있다. 이러한 웨어러블 디바이스의 일종인 헤드 마운티드 디스플레이(Head Mounted Display)는 사용자가 머리에 착용하여 멀티미디어 컨텐츠 등을 제공받을 수 있는 각종 디바이스를 의미한다. 여기서 헤드 마운티드 디스플레이(HMD)는 사용자의 신체에 착용 되어 사용자가 이동함에 따라서 다양한 환경에서 사용자에게 영상을 제공하게 된다. 이러한 헤드 마운티드 디스플레이(HMD)는 투과(see-through)형과 밀폐(see-closed)형으로 구분되고 있으며, 투과형은 주로 증강현실(Augmented Reality, AR)용으로 사용되고, 밀폐형은 주로 가상현실(Virtual Reality, VR)용으로 사용되고 있다.
도 1은 일반적인 안경 형태의 헤드 마운티드 디스플레이(HMD)의 개략적인 구성을 도시한 도면이고, 도 2는 일반적인 밴드 형태의 헤드 마운티드 디스플레이(HMD)의 개략적인 구성을 도시한 도면이다. 도 1 및 도 2에 각각 도시된 바와 같이, 일반적인 안경 형태 또는 밴드 형태의 헤드 마운티드 디스플레이는 사용자의 안면 또는 두부에 착용되어 투과되는 렌즈를 통해 실제 세계에 증강현실(AR)의 영상 정보를 투영하여 사용자에게 제공하게 된다.
이와 같은 헤드 마운티드 디스플레이 장치에 있어서, 사용자와의 효과적인 상호작용을 위해 각종 센서를 부착하기도 한다. 그 중에서 위치 정보는 헤드 마운티드 디스플레이 장치를 착용한 사용자의 위치를 파악하고, 이에 따라 다양한 기능을 제공하기 위해 활용되는 정보로서, GPS 위성에서 보내는 신호를 수신해 사용자의 현재 위치를 계산하는 위성항법시스템(Global Positioning System, GPS)이 주로 사용된다. 그러나 GPS 위치 정보는 실내나 지하 등 GPS 위성 신호의 수신이 제한되는 상황에서는 사용할 수 없는 한계가 있다.
스마트폰 등 이동통신망을 사용하는 휴대 단말기에서는 GPS 사용이 어려울 때 이동통신사 기지국을 사용하기도 하지만, 오차 범위가 커서 사용에 제한이 많을 뿐 아니라, 헤드 마운티드 디스플레이 장치가 이동통신망을 사용하지 않을 때는 적용하기 어려운 한계가 있다.
특히, 헤드 마운티드 디스플레이 장치는, 화재, 산업시설의 유지보수 등 각종 위험 상황에도 활용될 수 있기 때문에, 헤드 마운티드 디스플레이 장치의 정확한 위치 확인 및 경로 안내 등 내비게이션 기능이 중요하다. 따라서, GPS 사용이 어려운 환경에서도 내비게이션 기능을 사용할 수 있는 헤드 마운티드 디스플레이 장치의 개발이 필요한 실정이다.
한편, 본 발명과 관련된 선행기술로서, 등록특허 제10-2073723호(발명의 명칭: 지자계 오차 보정이 가능한 관성측정장치가 부착된 머리 착용형 디스플레이 장치, 등록일자: 2020년 01월 30일) 등이 개시된 바 있다.
본 발명은 기존에 제안된 방법들의 상기와 같은 문제점들을 해결하기 위해 제안된 것으로서, 머리 착용형 디스플레이 장치에 구비되는 IMU 센서를 이용해 사용자의 보행 정보를 연산하고, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 저장부에 저장된 지도 정보와 연산된 보행 정보를 이용해 목적지까지의 경로를 생성하여 증강현실 기반으로 안내하는 내비게이션 영상 정보를 출력함으로써, GPS 신호를 이용한 위치 추적이 어려운 환경에서도 내비게이션 기능을 사용해 경로 안내를 받을 수 있는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치를 제공하는 것을 그 목적으로 한다.
또한, 본 발명은, 사전 훈련된 모델을 기초로 전이 학습을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 보행 예측 모델을 생성하고, 보행 예측 모델을 이용해 보행 정보를 연산 또는 보정함으로써, 각각의 사용자의 보행 패턴에 따라 정확하게 보행 정보 및 경로를 생성할 수 있으므로, GPS를 이용하지 않고도 정확도 높은 내비게이션 기능을 제공할 수 있는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치를 제공하는 것을 또 다른 목적으로 한다.
상기한 목적을 달성하기 위한 본 발명의 특징에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치는,
머리 착용형 디스플레이 장치로서,
사용자가 머리에 착용할 수 있는 HMD 프레임;
상기 HMD 프레임을 착용한 사용자의 양안의 전방에 배치되며, 사용자의 시야를 통한 실제 세계(real world)가 투과되어 보일 수 있도록 하는 광학계;
상기 광학계를 통해 투과되어 보이는 실제 세계와 함께 내비게이션 영상 정보가 사용자에게 최적화된 화면으로 제공될 수 있도록 영상 광을 출력하는 디스플레이;
상기 HMD 프레임의 일 측에 설치되며 IMU 센서로 구성되는 센서부;
지도 정보를 저장하는 저장부;
상기 센서부에 의해 수집되는 정보에 기초하여, 상기 HMD 프레임을 착용한 사용자의 보폭 및 이동 방향을 포함하는 보행 정보를 연산하는 연산부;
GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 상기 지도 정보 및 보행 정보를 이용해 목적지까지의 경로를 생성하는 경로 생성부; 및
상기 경로 생성부가 생성한 경로를 증강현실 기반으로 안내하는 내비게이션 영상 정보를 생성하여 상기 디스플레이로 전송 제어하는 제어부를 포함하는 것을 그 구성상의 특징으로 한다.
바람직하게는, 상기 경로 생성부는,
GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, GPS 모듈에서 제공된 최종 위치, 상기 지도 정보 및 상기 보행 정보를 이용해 현재 위치를 추정하는 현재 위치 추정부; 및
상기 추정된 현재 위치 및 상기 지도 정보를 이용해 목적지까지의 경로를 산출하는 경로 산출부를 포함할 수 있다.
더욱 바람직하게는, 상기 현재 위치 추정부는,
상기 GPS 모듈에서 최종 위치가 제공된 시점으로부터의 걸음 수를 더 이용해 상기 현재 위치를 추정할 수 있다.
더더욱 바람직하게는, 상기 머리 착용형 디스플레이 장치는,
상기 HMD 프레임에 장착되어 사용자의 시선 방향의 영상을 촬영하기 위한 카메라를 더 포함하며,
상기 현재 위치 추정부는,
상기 카메라에서 촬영된 사용자의 시선 방향의 영상을 이용해 상기 추정된 현재 위치를 보정할 수 있다.
더욱 바람직하게는, 상기 경로 산출부는,
상기 HMD 프레임을 착용한 사용자의 이동에 따라 상기 연산부가 연산하는 보행 정보를 이용해, 상기 경로를 실시간으로 업데이트할 수 있다.
바람직하게는,
인공지능 기술을 이용해 보행 패턴을 학습하여, 센서부에 의해 수집되는 정보로부터 보행 정보를 예측하는 보행 예측 모델을 생성하는 인공지능 학습부를 더 포함하며,
상기 연산부는,
상기 보행 예측 모델을 이용해, 상기 보행 정보를 연산하거나, 연산된 보행 정보를 보정할 수 있다.
더욱 바람직하게는, 상기 인공지능 학습부는,
사전 훈련된 모델을 기초로, 전이 학습(Transfer learning)을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 상기 보행 예측 모델을 생성할 수 있다.
바람직하게는, 상기 머리 착용형 디스플레이 장치는,
상기 HMD 프레임에 장착되어 위치 정보를 제공하기 위한 GPS 모듈;
상기 머리 착용형 디스플레이 장치의 구동을 위한 전원을 공급하기 위한 전원 공급부;
상기 전원 공급부의 온/오프를 위한 스위치부; 및
상기 제어부의 제어 하에 인접하는 다른 머리 착용형 디스플레이 장치 및/또는 서버와 데이터 통신을 수행하는 통신부를 더 포함하여 구성할 수 있다.
본 발명에서 제안하고 있는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에 따르면, 머리 착용형 디스플레이 장치에 구비되는 IMU 센서를 이용해 사용자의 보행 정보를 연산하고, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 저장부에 저장된 지도 정보와 연산된 보행 정보를 이용해 목적지까지의 경로를 생성하여 증강현실 기반으로 안내하는 내비게이션 영상 정보를 출력함으로써, GPS 신호를 이용한 위치 추적이 어려운 환경에서도 내비게이션 기능을 사용해 경로 안내를 받을 수 있다.
또한, 본 발명에서 제안하고 있는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에 따르면, 사전 훈련된 모델을 기초로 전이 학습을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 보행 예측 모델을 생성하고, 보행 예측 모델을 이용해 보행 정보를 연산 또는 보정함으로써, 각각의 사용자의 보행 패턴에 따라 정확하게 보행 정보 및 경로를 생성할 수 있으므로, GPS를 이용하지 않고도 정확도 높은 내비게이션 기능을 제공할 수 있다.
도 1은 일반적인 안경 형태의 헤드 마운티드 디스플레이(HMD)의 개략적인 구성을 도시한 도면.
도 2는 일반적인 밴드형태의 헤드 마운티드 디스플레이(HMD)의 개략적인 구성을 도시한 도면.
도 3은 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치의 구성을 기능블록으로 도시한 도면.
도 4는 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에서, 경로 생성부의 세부적인 구성을 기능블록으로 도시한 도면.
도 5는 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치의 경로 생성부가 경로를 생성하는 구체적인 흐름을 도시한 도면.
도 6은 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에서, 내비게이션 영상이 표시된 사용자의 뷰 필드를 예를 들어 도시한 도면.
도 7은 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치에서, 전이 학습을 통해 보행 예측 모델을 생성하는 과정을 도시한 도면.
이하, 첨부된 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 바람직한 실시예를 상세히 설명한다. 다만, 본 발명의 바람직한 실시예를 상세하게 설명함에 있어, 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. 또한, 유사한 기능 및 작용을 하는 부분에 대해서는 도면 전체에 걸쳐 동일한 부호를 사용한다.
덧붙여, 명세서 전체에서, 어떤 부분이 다른 부분과 ‘연결’ 되어 있다고 할 때, 이는 ‘직접적으로 연결’ 되어 있는 경우뿐만 아니라, 그 중간에 다른 소자를 사이에 두고 ‘간접적으로 연결’ 되어 있는 경우도 포함한다. 또한, 어떤 구성요소를 ‘포함’ 한다는 것은, 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다.
도 3은 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)의 구성을 기능블록으로 도시한 도면이다. 도 3에 도시된 바와 같이, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)는, HMD 프레임(110), 광학계(120), 디스플레이(130), 센서부(140), 저장부(150), 연산부(160), 경로 생성부(170) 및 제어부(180)를 포함하여 구성될 수 있으며, 카메라(190), 인공지능 학습부(200)를 더 포함하여 구성될 수 있다.
HMD 프레임(110)은, 사용자가 머리에 착용할 수 있는 머리 착용형 디스플레이 장치(100)의 프레임 구성이다. 이러한 HMD 프레임(110)은, 사용자가 머리에 착용한 상태에서 빛이 들어올 수 있는 프레임 구조를 갖는 헬멧(helmet) 형태 또는 고글(goggles) 형태로 구성될 수 있다. 여기서, HMD 프레임(110)이 헬멧 형태로 이루어지는 경우, 사용자의 머리에 착용되는 헬멧(미도시)과 헬멧의 전방에 배치되는 디스플레이(130) 프레임(미도시) 구조로 구성될 수 있다. 또한, HMD 프레임(110)이 고글 형태로 구성되는 경우, 사용자의 머리에 착용될 수 있는 밴드 프레임(미도시)과, 밴드 프레임에 체결 고정되는 고글 프레임(미도시) 구조로 구성될 수 있다.
광학계(120)는, HMD 프레임(110)을 착용한 사용자의 양안의 전방에 배치되며, 사용자의 시야를 통한 실제 세계(real world)가 투과되어 보일 수 있도록 하는 구성이다. 이러한 광학계(120)는 사용자의 시야를 통한 실제 세계가 투과되어 보일 수 있는 글라스 형태로서 투명한 렌즈로 구성될 수 있다.
디스플레이(130)는, 광학계(120)를 통해 투과되어 보이는 실제 세계와 함께 내비게이션 영상 정보가 사용자에게 최적화된 화면으로 제공될 수 있도록 영상 광을 출력할 수 있다. 이러한 디스플레이(130)는 후술하게 될 제어부(180)의 제어 하에, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 사용자에게 목적지까지의 경로를 증강현실 기반으로 안내하는 내비게이션 영상 정보를 출력할 수 있다.
센서부(140)는, HMD 프레임(110)의 일 측에 설치되며 IMU 센서로 구성될 수 있다. 센서부(140)는, 도 1 및 도 2에 도시된 바와 같은 머리 착용형 디스플레이 장치(100)의 HMD 프레임(110)에 부착될 수 있으며, 부착 위치는 머리 착용형 디스플레이 장치(100)의 자세를 가장 정확하게 측정할 수 있는 위치로서, 사용자의 양안이 위치하는 부분 사이의 중앙에 부착될 수 있고, 좌측이나 우측 측면에 부착될 수도 있다. 또한, 센서부(140)는, HMD 프레임(110)에 탈부착이 가능한 형태로 적용될 수 있다.
특히, 본 발명의 센서부(140)는 IMU 센서로 구성될 수 있는데, IMU 센서는 3축 가속도계, 3축 자이로계 및 3축 지자계를 포함하는 9축 센서로서, 머리 착용형 디스플레이 장치(100)의 정확한 자세 파악이 가능할 수 있다. 보다 구체적으로, IMU 센서는 MPU9250 센서로 구현될 수 있다.
또한, 센서부(140)는 IMU 센서 이외에, 사용자의 위치 파악을 위한 센서를 더 포함하여 구성될 수 있고, 환경 유해 가스나 온습도 등을 검출할 수 있는 센서를 포함할 수도 있다. 실시예에 따라서는, 정확한 실내 측위를 위해, 센서부(140)는, HMD 프레임(110)에 설치되는 IMU 센서 이외에, 사용자의 신발 등에 설치되는 IMU 센서, MEMS 압력 센서 등을 포함할 수도 있다.
저장부(150)는, 지도 정보를 저장할 수 있다. 즉, 머리 착용형 디스플레이 장치(100)의 저장부(150)에 사용자의 작업 공간, 방문 공간 등의 지도 정보를 미리 저장하여, 내비게이션 기능이 필요할 때 사용할 수 있다. 이때, 지도 정보가 필요할 때 추후 상세히 설명할 통신부(240)가 서버 등과 통신하여 지도 정보를 수신하고 저장부(150)에 저장할 수 있으며, 저장된 지도 정보는 디지털 지도, 모바일 지도 등의 형태일 수 있다.
연산부(160)는, 센서부(140)에 의해 수집되는 정보에 기초하여, HMD 프레임(110)을 착용한 사용자의 보폭 및 이동 방향을 포함하는 보행 정보를 연산할 수 있다. 즉, 연산부(160)는, IMU 센서에서 수집되는 사용자의 자세 정보에 기초하여, 사용자의 한 걸음의 거리인 보폭과 이동 방향을 추정할 수 있다. 실시예에 따라서는, 연산부(160)는 수평적인 이동 방향뿐 아니라 수직적 이동 방향도 분석 및 연산하여, 복수의 층으로 이루어진 실내 공간에서 몇 층에 있는지 등 구체적인 위치를 추적할 수 있다. 또한, 연산부(160)가 연산하는 보행 정보는, 보폭 및 이동 방향 이외에도, 보행 종류(걷기, 달리기 등), 보행 속도, 걸음 수 등을 더 포함할 수도 있다.
경로 생성부(170)는, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 지도 정보 및 보행 정보를 이용해 목적지까지의 경로를 생성할 수 있다. 이때, GPS 신호를 이용한 위치 추적 불가 이벤트는, GPS 모듈(210) 오류, GPS 신호의 수신 불가, GPS 신호 수신 강도가 임계값 미만 등을 포함할 수 있다. 경로 생성부(170)는, 연산부(160)에서 연산된 보행 정보와 저장부(150)에 저장되어 있는 지도 정보를 이용해서, GPS를 이용하지 않고도 목적지까지의 경로를 생성할 수 있다.
예를 들어, 내비게이션 기능 이용 중, 머리 착용형 디스플레이 장치(100)를 착용한 사용자가 실내나 지하 등에 진입하여 GPS 이용이 불가능해진 경우, 미리 정해진 시간 동안 GPS 신호 수신 강도가 임계값 미만이 되어 GPS 신호를 이용한 위치 추적 불가 이벤트가 발생하게 되면, 경로 생성부(170)는 지도 정보 및 보행 정보를 이용해 목적지까지의 경로를 업데이트하여 내비게이션 영상 정보가 제공되도록 할 수 있다. 또는, GPS 이용이 불가능한 상황에서 사용자가 내비게이션 기능을 활성화하면, 경로 생성부(170)가 지도 정보 및 보행 정보를 이용해 목적지까지의 경로를 생성할 수 있다. 이를 위해, 연산부(160)는 GPS 신호를 이용한 위치 추적 여부에 상관없이, 센서부(140)에서 수집된 정보에 기초해 보행 정보를 지속적으로 연산해 저장부(150)에 저장할 수 있다.
이하에서는, 도 4를 참조하여 경로 생성부(170)의 세부적인 구성에 대해 상세히 설명하도록 한다.
도 4는 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)에서, 경로 생성부(170)의 세부적인 구성을 기능블록으로 도시한 도면이다. 도 4에 도시된 바와 같이, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)의 경로 생성부(170)는, 현재 위치 추정부(171) 및 경로 산출부(172)를 포함하여 구성될 수 있다.
현재 위치 추정부(171)는, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, GPS 모듈(210)에서 제공된 최종 위치, 지도 정보 및 보행 정보를 이용해 현재 위치를 추정할 수 있다. 즉, 목적지까지의 경로 생성을 위해, 먼저 머리 착용형 디스플레이 장치(100)를 착용한 사용자의 현재 위치를 추정할 수 있다. 현재 위치 추정부(171)는, GPS 모듈(210)에서 제공된 최종 위치로부터, 사용자의 보폭 및 이동 방향을 이용해 현재 위치를 추정할 수 있고, 지도 정보를 함께 이용하기 때문에 지도상에서 어디에 위치하는지를 정확하게 판단할 수 있다.
여기서, 현재 위치 추정부(171)는, GPS 모듈(210)에서 최종 위치가 제공된 시점으로부터의 걸음 수를 더 이용해 현재 위치를 추정할 수 있다. 즉, GPS 신호에는 위치 정보 및 시간 정보가 포함되므로, GPS 신호가 마지막으로 수신된 최종 위치 및 시점과, 그 최종 위치 및 시점으로부터 보폭, 이동 방향, 걸음 수 등의 보행 정보를 이용해 현재 위치를 추정할 수 있다.
한편, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)는, HMD 프레임(110)에 장착되어 사용자의 시선 방향의 영상을 촬영하기 위한 카메라(190)를 더 포함할 수 있는데, 현재 위치 추정부(171)는, 카메라(190)에서 촬영된 사용자의 시선 방향의 영상을 이용해 추정된 현재 위치를 보정할 수 있다. 즉, 현재 위치 추정부(171)에서 추정된 현재 위치와 지도 정보를 카메라(190)에서 촬영된 영상과 비교하여, 촬영된 영상과 매칭되도록 추정된 현재 위치를 보정함으로써, 정확도를 향상시킬 수 있다.
경로 산출부(172)는, 추정된 현재 위치 및 지도 정보를 이용해 목적지까지의 경로를 산출할 수 있다. 즉, 경로 산출부(172)는, 지도 정보를 이용해 현재 위치 추정부(171)가 추정한 현재 위치로부터 목적지까지의 경로를 산출해, 내비게이션 기능이 구현되도록 할 수 있다. 또한, 경로 산출부(172)는, HMD 프레임(110)을 착용한 사용자의 이동에 따라 연산부(160)가 연산하는 보행 정보를 이용해, 경로를 실시간으로 업데이트할 수 있다.
도 5는 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)의 경로 생성부(170)가 경로를 생성하는 구체적인 흐름을 도시한 도면이다. 도 5에 도시된 바와 같이, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)의 경로 생성부(170)는, 현재 위치 추정부(171)가 GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, GPS 모듈(210)에서 제공된 최종 위치, 지도 정보 및 보행 정보를 이용해 현재 위치를 추정하는 현재 위치 추정 단계(S110), 경로 산출부(172)가 추정된 현재 위치 및 지도 정보를 이용해 목적지까지의 경로를 산출하는 경로 산출 단계(S120), 및 경로 산출부(172)가 HMD 프레임(110)을 착용한 사용자의 이동에 따라 연산부(160)가 연산하는 보행 정보를 이용해, 경로를 실시간으로 업데이트하는 경로 업데이트 단계(S130)를 순차적으로 처리함으로써, 경로를 생성하여 사용자에게 내비게이션 기능을 제공할 수 있다.
제어부(180)는, 경로 생성부(170)가 생성한 경로를 증강현실 기반으로 안내하는 내비게이션 영상 정보를 생성하여 디스플레이(130)로 전송 제어할 수 있다. 이때, 제어부(180)는, 센서부(140)에 의해 수집되는 정보 및 HMD 프레임(110)에 장착되어 사용자의 시선 방향의 영상을 촬영하기 위한 카메라(190)에서 촬영된 영상 등에 기초하여 사용자의 위치, 자세, 방향, 각도 등에 따라 경로를 안내하는 화살표, 목적지까지의 경로, 경로상의 현재 위치 정보 등을 포함하는 내비게이션 영상 정보를 생성할 수 있다.
도 6은 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)에서, 내비게이션 영상이 표시된 사용자의 뷰 필드(10)를 예를 들어 도시한 도면이다. 도 6에 도시된 바와 같이, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)의 제어부(180)는, 사용자의 위치, 자세, 방향 등에 최적화된 내비게이션 영상 정보(20)를 생성하고, 생성된 내비게이션 영상 정보(20)를 디스플레이(130)로 전송하여, 디스플레이(130)에서 광학계(120)를 통해 투과되어 보이는 실제 세계 위에 목적지까지의 경로를 안내하는 화살표, 지도상의 경로 표시 등의 내비게이션 영상 정보(20)가 최적화되어 제공될 수 있다. 따라서 사용자는, GPS 이용이 불가능한 상황에서도, 내비게이션 영상 정보(20)를 이용해 목적지까지의 경로를 파악하고 신속하게 이동할 수 있다.
인공지능 학습부(200)는, 인공지능 기술을 이용해 보행 패턴을 학습하여, 센서부(140)에 의해 수집되는 정보로부터 보행 정보를 예측하는 보행 예측 모델을 생성할 수 있다. 연산부(160)는, 보행 예측 모델을 이용해, 보행 정보를 연산하거나, 연산된 보행 정보를 보정할 수 있다.
여기서, 인공지능 기술은, CNN(Convolutional neural network), RNN(Recurrent Neural Network) 등의 인공신경망 기반의 딥러닝 기술일 수 있으며, CNN과 LSTM(Long short-term memory) RNN을 결합한 앙상블 딥러닝 등을 사용할 수도 있다. 또한, 랜덤 포레스트(Random Forest), 가중 랜덤 포레스트 분류기(WRFR), 캐스케이드 회귀 포레스트(Cascade Regression Forest) 등을 사용할 수도 있다.
또한, 인공지능 학습부(200)가 학습하는 보행 패턴은, 센서부(140)에서 수집된 정보와 보폭, 이동 방향 등의 보행 정보 사이의 연관성에 대한 데이터일 수 있으며, 사용자의 보폭, 이동 방향, 걸음 수, 보행 종류 등 다양한 각 사용자의 특징적인 패턴을 분석할 것일 수 있다.
한편, 인공지능 학습부(200)는, 사전 훈련된 모델을 기초로, 전이 학습(Transfer learning)을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 보행 예측 모델을 생성할 수 있다. 전이 학습은 새로운 문제에 대해 사전 훈련된 모델을 재사용하는 것이다. 이미 훈련된 모델을 사용하므로, 상대적으로 적은 데이터로 깊은 신경망을 훈련시킬 수 있는 장점이 있다. 또한, 대부분의 실제 문제들은 일반적으로 복잡한 모델을 훈련시키기 위해 수백만 개의 라벨이 붙은 데이터를 가지고 있지 않기 때문에 유용하게 사용될 수 있다.
도 7은 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)에서, 전이 학습을 통해 보행 예측 모델을 생성하는 과정을 도시한 도면이다. 도 7에 도시된 바와 같이, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)는, 서버가 다양한 사용자들로부터 수집된 다수의 보행 패턴 데이터(빅데이터)를 이용해 학습하여 구성한 모델을 전달받아 사용할 수 있다. 각각의 머리 착용형 디스플레이 장치(100)에는 착용한 사용자의 센서 수집 정보와 보행 정보 등을 포함하는 보행 패턴이 저장될 수 있는데, 인공지능 학습부(200)가 저장되어 있는 개별 사용자의 보행 패턴을 이용해 서버로부터 전달받은 사전 학습된 모델을 훈련시켜서, 개별 사용자에 최적화된 보행 예측 모델을 생성할 수 있다. 이와 같이, 전이 학습을 이용함으로써, 개별 사용자에 대해 수집된 보행 패턴 데이터가 상대적으로 적은 양이더라도, 효율적이고 신속하게 정확도 높은 보행 예측 모델을 생성할 수 있다.
한편, 본 발명의 일실시예에 따른 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)는 HMD 프레임(110)에 장착되어 위치 정보를 제공하기 위한 GPS 모듈(210), 머리 착용형 디스플레이 장치(100)의 구동을 위한 전원을 공급하기 위한 전원 공급부(220), 전원 공급부(220)의 온/오프를 위한 스위치부(230), 및 제어부(180)의 제어 하에 인접하는 다른 머리 착용형 디스플레이 장치(100) 및/또는 서버와 데이터 통신을 수행하는 통신부(240)를 더 포함하여 구성될 수 있다.
이때, 머리 착용형 디스플레이 장치(100)가 GPS 모듈(210)을 포함하여 구성되더라도, GPS 모듈(210)의 사용이 제한되거나 오류가 있을 때, 지도 정보 및 IMU 센서를 이용해 내비게이션 기능을 제공할 수 있게 된다. 또한, 스위치부(230)는 전원 공급부(220)의 온/오프를 위한 스위치를 HMD 프레임(110)의 일 측에 설치하거나, 또는 HMD 프레임(110)과 유선으로 연결되는 별도의 디바이스에 형성될 수 있다. 또한, 통신부(240)는 서버와 통신하여 사전 훈련된 모델을 전달받아 보행 정보 예측을 위해 사용할 수 있으며, 실시예에 따라서는, 인접하는 다른 머리 착용형 디스플레이 장치(100)의 통신부(240)와 연동하여 연결 접속되고, 목적지까지의 경로가 서로 공유될 수 있도록 데이터 통신을 수행할 수 있다. 여기서, 통신부(240)는 인터넷 접속이 가능한 3G/4G/5G 및 LTE를 포함하는 다양한 무선 통신 방식이 적용되는 것으로 이해될 수 있다.
또한, 머리 착용형 디스플레이 장치(100)는 디스플레이(130)를 통해 제공되는 내비게이션 영상 정보(20)에 대응하는 청각적 정보를 더 출력할 수도 있다. 예를 들어, 도 6에 도시된 바와 같은 내비게이션 영상 정보(20)와 대응하여 “전방 5m 앞에서 우회전”과 같은 음향 정보를 제공할 수 있다. 이를 위해, 머리 착용형 디스플레이 장치(100)는 HMD 프레임(110)에 음성 통신이 가능한 마이크, 스피커 등을 더 포함할 수 있다.
본 발명에서 제안하고 있는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)에 따르면, 머리 착용형 디스플레이 장치(100)에 구비되는 IMU 센서를 이용해 사용자의 보행 정보를 연산하고, GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 저장부(150)에 저장된 지도 정보와 연산된 보행 정보를 이용해 목적지까지의 경로를 생성하여 증강현실 기반으로 안내하는 내비게이션 영상 정보(20)를 출력함으로써, GPS 신호를 이용한 위치 추적이 어려운 환경에서도 내비게이션 기능을 사용해 경로 안내를 받을 수 있다.
또한, 본 발명에서 제안하고 있는 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100)에 따르면, 사전 훈련된 모델을 기초로 전이 학습을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 보행 예측 모델을 생성하고, 보행 예측 모델을 이용해 보행 정보를 연산 또는 보정함으로써, 각각의 사용자의 보행 패턴에 따라 정확하게 보행 정보 및 경로를 생성할 수 있으므로, GPS를 이용하지 않고도 정확도 높은 내비게이션 기능을 제공할 수 있다.
이상 설명한 본 발명은 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에 의하여 다양한 변형이나 응용이 가능하며, 본 발명에 따른 기술적 사상의 범위는 아래의 특허청구범위에 의하여 정해져야 할 것이다.
10: 뷰 필드
20: 내비게이션 영상 정보
100: 본 발명에 따른 머리 착용형 디스플레이 장치
110: HMD 프레임
120: 광학계
130: 디스플레이
140: 센서부
150: 저장부
160: 연산부
170: 경로 생성부
171: 현재 위치 추정부
172: 경로 산출부
180: 제어부
190: 카메라
200: 인공지능 학습부
210: GPS 모듈
220: 전원 공급부
230: 스위치부
240: 통신부
S110: 현재 위치 추정 단계
S120: 경로 산출 단계
S130: 경로 업데이트 단계

Claims (8)

  1. 머리 착용형 디스플레이 장치(100)로서,
    사용자가 머리에 착용할 수 있는 HMD 프레임(110);
    상기 HMD 프레임(110)을 착용한 사용자의 양안의 전방에 배치되며, 사용자의 시야를 통한 실제 세계(real world)가 투과되어 보일 수 있도록 하는 광학계(120);
    상기 광학계(120)를 통해 투과되어 보이는 실제 세계와 함께 내비게이션 영상 정보(20)가 사용자에게 최적화된 화면으로 제공될 수 있도록 영상 광을 출력하는 디스플레이(130);
    상기 HMD 프레임(110)의 일 측에 설치되며 IMU 센서로 구성되는 센서부(140);
    지도 정보를 저장하는 저장부(150);
    상기 센서부(140)에 의해 수집되는 정보에 기초하여, 상기 HMD 프레임(110)을 착용한 사용자의 보폭 및 이동 방향을 포함하는 보행 정보를 연산하는 연산부(160);
    GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, 상기 지도 정보 및 보행 정보를 이용해 목적지까지의 경로를 생성하는 경로 생성부(170); 및
    상기 경로 생성부(170)가 생성한 경로를 증강현실 기반으로 안내하는 내비게이션 영상 정보(20)를 생성하여 상기 디스플레이(130)로 전송 제어하는 제어부(180)를 포함하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  2. 제1항에 있어서, 상기 경로 생성부(170)는,
    GPS 신호를 이용한 위치 추적 불가 이벤트 발생 시, GPS 모듈(210)에서 제공된 최종 위치, 상기 지도 정보 및 상기 보행 정보를 이용해 현재 위치를 추정하는 현재 위치 추정부(171); 및
    상기 추정된 현재 위치 및 상기 지도 정보를 이용해 목적지까지의 경로를 산출하는 경로 산출부(172)를 포함하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  3. 제2항에 있어서, 상기 현재 위치 추정부(171)는,
    상기 GPS 모듈(210)에서 최종 위치가 제공된 시점으로부터의 걸음 수를 더 이용해 상기 현재 위치를 추정하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  4. 제3항에 있어서, 상기 머리 착용형 디스플레이 장치(100)는,
    상기 HMD 프레임(110)에 장착되어 사용자의 시선 방향의 영상을 촬영하기 위한 카메라(190)를 더 포함하며,
    상기 현재 위치 추정부(171)는,
    상기 카메라(190)에서 촬영된 사용자의 시선 방향의 영상을 이용해 상기 추정된 현재 위치를 보정하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  5. 제2항에 있어서, 상기 경로 산출부(172)는,
    상기 HMD 프레임(110)을 착용한 사용자의 이동에 따라 상기 연산부(160)가 연산하는 보행 정보를 이용해, 상기 경로를 실시간으로 업데이트하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  6. 제1항에 있어서,
    인공지능 기술을 이용해 보행 패턴을 학습하여, 센서부(140)에 의해 수집되는 정보로부터 보행 정보를 예측하는 보행 예측 모델을 생성하는 인공지능 학습부(200)를 더 포함하며,
    상기 연산부(160)는,
    상기 보행 예측 모델을 이용해, 상기 보행 정보를 연산하거나, 연산된 보행 정보를 보정하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  7. 제6항에 있어서, 상기 인공지능 학습부(200)는,
    사전 훈련된 모델을 기초로, 전이 학습(Transfer learning)을 통해 개별 사용자의 보행 패턴을 학습하여 개별 사용자에 최적화된 상기 보행 예측 모델을 생성하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
  8. 제1항 내지 제7항 중 어느 한 항에 있어서, 상기 머리 착용형 디스플레이 장치(100)는,
    상기 HMD 프레임(110)에 장착되어 위치 정보를 제공하기 위한 GPS 모듈(210);
    상기 머리 착용형 디스플레이 장치(100)의 구동을 위한 전원을 공급하기 위한 전원 공급부(220);
    상기 전원 공급부(220)의 온/오프를 위한 스위치부(230); 및
    상기 제어부(180)의 제어 하에 인접하는 다른 머리 착용형 디스플레이 장치(100) 및/또는 서버와 데이터 통신을 수행하는 통신부(240)를 더 포함하여 구성하는 것을 특징으로 하는, 지도 정보와 IMU 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치(100).
KR1020200021732A 2020-02-21 2020-02-21 지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치 KR102324129B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200021732A KR102324129B1 (ko) 2020-02-21 2020-02-21 지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200021732A KR102324129B1 (ko) 2020-02-21 2020-02-21 지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치

Publications (2)

Publication Number Publication Date
KR20210106786A true KR20210106786A (ko) 2021-08-31
KR102324129B1 KR102324129B1 (ko) 2021-11-11

Family

ID=77489497

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200021732A KR102324129B1 (ko) 2020-02-21 2020-02-21 지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치

Country Status (1)

Country Link
KR (1) KR102324129B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023058892A1 (ko) * 2021-10-09 2023-04-13 삼성전자 주식회사 위치 기반 서비스를 제공하기 위한 전자 장치 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150042544A (ko) * 2013-10-11 2015-04-21 에스케이플래닛 주식회사 위치정보를 제공하는 단말기, 위치정보 측정 방법 및 시스템
KR20150121252A (ko) * 2013-03-14 2015-10-28 퀄컴 인코포레이티드 두부 장착형 디스플레이용 사용자 인터페이스
KR20160003553A (ko) * 2014-07-01 2016-01-11 삼성전자주식회사 지도 정보를 제공하기 위한 전자 장치
KR20180013354A (ko) * 2016-07-29 2018-02-07 선문대학교 산학협력단 재난대응을 위한 스마트 웨어러블장치 및 이를 이용한 재난대응 시스템
KR20190104945A (ko) * 2019-08-23 2019-09-11 엘지전자 주식회사 Xr 디바이스 및 그 제어 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150121252A (ko) * 2013-03-14 2015-10-28 퀄컴 인코포레이티드 두부 장착형 디스플레이용 사용자 인터페이스
KR20150042544A (ko) * 2013-10-11 2015-04-21 에스케이플래닛 주식회사 위치정보를 제공하는 단말기, 위치정보 측정 방법 및 시스템
KR20160003553A (ko) * 2014-07-01 2016-01-11 삼성전자주식회사 지도 정보를 제공하기 위한 전자 장치
KR20180013354A (ko) * 2016-07-29 2018-02-07 선문대학교 산학협력단 재난대응을 위한 스마트 웨어러블장치 및 이를 이용한 재난대응 시스템
KR20190104945A (ko) * 2019-08-23 2019-09-11 엘지전자 주식회사 Xr 디바이스 및 그 제어 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023058892A1 (ko) * 2021-10-09 2023-04-13 삼성전자 주식회사 위치 기반 서비스를 제공하기 위한 전자 장치 및 방법

Also Published As

Publication number Publication date
KR102324129B1 (ko) 2021-11-11

Similar Documents

Publication Publication Date Title
EP3797316B1 (en) Dynamic structured light for depth sensing systems
CA3107374C (en) Systems and methods for autonomous machine tracking and localization of mobile objects
JP6565465B2 (ja) 画像表示装置、コンピュータープログラム、および画像表示システム
CN106682572B (zh) 目标跟踪方法、系统和第一电子设备
CN108022302B (zh) 一种Inside-Out空间定位的AR立体显示装置
US9600067B2 (en) System and method for generating a mixed reality environment
KR20170086707A (ko) 가상 현실 시스템의 캘리브레이션
KR20190098003A (ko) 장치의 자세 추정 방법 및 그 장치
US11587360B2 (en) Augmented reality (AR) device and method of predicting pose therein
CN110494792B (zh) 外围设备的视觉跟踪
CN105393284A (zh) 基于人类身体数据的空间雕刻
US11914762B2 (en) Controller position tracking using inertial measurement units and machine learning
US20130024117A1 (en) User Navigation Guidance and Network System
CN103246543A (zh) 显示控制设备，显示控制方法和程序
US10254123B2 (en) Navigation system with vision augmentation mechanism and method of operation thereof
KR102284464B1 (ko) Uwb와 imu 센서를 이용한 위치 추적 기능을 갖는 착용형 증강현실 장치
US20200320720A1 (en) Dynamic object tracking
JP2017058945A (ja) 情報処理システム、携帯端末、サーバ装置、情報処理方法及びプログラム
KR102324129B1 (ko) 지도 정보와 imu 센서를 이용한 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치
JP2021060627A (ja) 情報処理装置、情報処理方法、およびプログラム
KR20210011665A (ko) Imu 센서를 이용한 위급상황 내비게이션 기능을 갖는 머리 착용형 디스플레이 장치
KR102081193B1 (ko) 시각장애인 보행 보조기구 및 이를 구비한 보행시스템
US11376514B2 (en) Experience system, experience providing method, and computer readable recording medium
KR102578119B1 (ko) 모바일 디바이스와 연동하는 스마트 안경 작동 방법
US20230384114A1 (en) Personal protective equipment for navigation and map generation within a visually obscured environment

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right