KR20230117979A - 전자 장치에서 실내 측위 방법 및 장치 - Google Patents

전자 장치에서 실내 측위 방법 및 장치 Download PDF

Info

Publication number
KR20230117979A
KR20230117979A KR1020220014409A KR20220014409A KR20230117979A KR 20230117979 A KR20230117979 A KR 20230117979A KR 1020220014409 A KR1020220014409 A KR 1020220014409A KR 20220014409 A KR20220014409 A KR 20220014409A KR 20230117979 A KR20230117979 A KR 20230117979A
Authority
KR
South Korea
Prior art keywords
polynomial
processor
electronic device
region
interest
Prior art date
Application number
KR1020220014409A
Other languages
English (en)
Inventor
이형건
이영포
김태윤
임채만
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020220014409A priority Critical patent/KR20230117979A/ko
Priority to PCT/KR2023/000646 priority patent/WO2023149679A1/ko
Publication of KR20230117979A publication Critical patent/KR20230117979A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/04—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by terrestrial means
    • G01C21/08—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by terrestrial means involving use of the magnetic field of the earth
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C17/00—Compasses; Devices for ascertaining true or magnetic north for navigation or surveying purposes
    • G01C17/02—Magnetic compasses
    • G01C17/28—Electromagnetic compasses
    • G01C17/30—Earth-inductor compasses
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20—Instruments for performing navigational calculations
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20—Instruments for performing navigational calculations
    • G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Geology (AREA)
  • Automation & Control Theory (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Electromagnetism (AREA)
  • Optics & Photonics (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Telephone Function (AREA)

Abstract

본 개시의 다양한 실시예들은 전자 장치에서 실내 측위에 따른 연산량을 감소할 수 있는 실내 측위 방법 및 장치를 제공한다. 본 개시의 실시예에 따른 전자 장치는, 디스플레이 모듈, 메모리, 지자기 센서, 카메라 모듈, 및 프로세서를 포함할 수 있다. 일 실시예에 따르면, 상기 프로세서는, 관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하도록 동작할 수 있다. 상기 프로세서는, 상기 관심 영역에서 경로 별 다항식을 설정하고, 상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하도록 동작할 수 있다. 상기 프로세서는, 상기 다항식에 기반하여 메이저 피처(major feature)를 선택하고, 상기 선택된 메이저 피처의 피처 정보를 생성할 수 있다. 상기 프로세서는, 상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스를 생성하도록 동작할 수 있다. 다양한 실시예들이 가능하다.

Description

전자 장치에서 실내 측위 방법 및 장치{APPARATUS AND METHOD FOR INDOOR POSITIONING IN ELECTRONIC DEVICE}
본 개시의 다양한 실시예들은 전자 장치에서 실내 측위에 따른 연산량을 감소할 수 있는 실내 측위 방법 및 장치에 관한 것이다.
디지털 기술의 발달과 함께 이동통신 단말기, PDA(personal digital assistant), 전자수첩, 스마트 폰(smart phone), 태블릿(tablet) PC(personal computer), 웨어러블 디바이스(wearable device) 및/또는 랩탑(laptop) PC와 같은 다양한 유형의 전자 장치가 널리 사용되고 있다. 이러한, 전자 장치는 기능 지지 및 증대를 위해, 전자 장치의 하드웨어적인 부분 및/또는 소프트웨어적인 부분이 지속적으로 개발되고 있다.
최근 전자 장치의 기술 발전과 무선 네트워크의 성능 향상에 따른 다양한 서비스가 제공되고 있는 추세이다. 예를 들어, 최근에는 전자 장치를 이용한 실내 측위 서비스에 많은 관심이 높아지고 있다. 실내 측위 서비스는 건물 또는 구조물 내부에서 사용자의 위치를 확인하고, 그 위치에 기반하여 다양한 서비스를 제공하는 것을 총칭할 수 있다. 예를 들어, 기존의 실내 측위 서비스로는 전자 장치의 위치 추적을 통한 사용자의 위치를 추적하는 위치 추적 서비스, 및 특정 관심 지점(POI, point-of-interest)의 진출입 여부를 판단하는 지오펜싱(geofencing) 서비스를 포함할 수 있다. 예를 들어, 전자 장치는 GPS(global positioning system)의 신호가 미치지 못하는 건물의 실내 환경에 적합한 실내 측위 서비스를 제공할 수 있다.
전자 장치는 실외 환경에서는 GPS를 이용하여 측위하는 서비스를 제공하고, 실내 환경에서는 인프라 기반의 측위 기술을 이용하여 측위하는 서비스를 제공하고 있다. 인프라 기반의 측위 기술은 커버리지 및 적용 기술에 따라 WLAN(wireless local area network), UWB(ultra wideband), RFID(radio frequency identification), 또는 IR(Infrared)과 같은 무선 통신 네트워크 인프라를 기반으로, ToA(time of arrival), TDoA(time difference of arrival), AoA(angle of arrival), 또는 Fingerprinting 방식을 이용하는 다양한 기술을 포함할 수 있다. 이러한 인프라 기반의 측위 기술은 측위 정확도가 높은 반면에, 인프라 구성을 위한 초기 환경 구축 비용이 많이 소요되며, 인프라 기반의 전용 AP(access point)의 위치 변경에 따른 데이터베이스(DB, database) 재구성 및 수신 신호 세기(RSS, received signal strength)의 재측정으로 인해 시스템 운영상의 효율성이 많이 떨어질 수 있다.
예를 들어, 최근에는 WLAN을 사용하는 방법이 대두되고 있으나, 전파의 특성상 간섭 요인에 의한 빈번한 변화와 계속적인 데이터베이스의 구축에 대한 비용 문제로 위치 측위에 대한 문제점이 나타나고 있다. WLAN의 경우 전자 장치가 수신하는 RF(radio frequency) 신호 강도를 기반으로 하는 Fingerprint 기법을 사용하고 있으나, 기존 전파를 기반으로 실내 측위를 수행하는 기법들은 실내 환경에서 전파의 특성뿐만 아니라 전파 송수신 기기의 변화 및 건물 내부 구조의 변경 시 위치 측위 데이터베이스를 재구성해야 한다는 문제를 해결하지 못하는 문제점 때문에 위치 측위의 항시성과 고유성을 확보할 수 있는 다른 자원에 대한 위치 측위 기법이 필요할 수 있다.
기존의 인프라 기반 또는 전파에 의존한 실내 측위 서비스의 한계점 발생으로 실내 환경에서 정확도 향상을 위한 새로운 방법의 필요성이 대두되고 있다. 이에, 실내 환경에서 측위 정확도의 요구가 높아지고 있는 시점에서 인프라 기반 측위 시스템이 가진 문제점을 해결하기 위해 지구 고유의 자원인 지구자기장을 기반으로 실내 환경에 강인한 실내 측위 서비스에 관한 기술이 연구 및 개발되고 있다.
본 개시의 다양한 실시예들에서는, 전자 장치에서 지자기(geomagnetism)를 이용한 실내 측위 시에 사용될 수 있는 데이터베이스를 생성하고, 이를 이용하여 실내 측위를 수행하는 방법 및 장치를 제공한다.
본 개시의 다양한 실시예들에서는, 전자 장치에서 실내 측위에 따른 검출 동작에서 연산에 사용될 데이터를 사전에 필터링 하여 제공하여, 전자 장치가 실내 측위를 위한 검출 동작 시에 연산량을 줄일 수 있는 방법 및 장치를 제공한다.
본 개시의 다양한 실시예들에서는, 지자기 패턴을 이용하여 실내 측위를 수행하기 위한 데이터베이스를 생성할 때, MSE 측면에서 대표되는 피팅 결과와 노이즈 내성(noise-tolerant) 측면에서 대표되는 메이저 피처를 도출할 수 있는 방법 및 장치를 제공한다.
본 개시의 다양한 실시예들에서는, 실내 측위 시에 매 샘플(sample)마다 복잡한 처리(processing) 과정을 거쳐야 하는 실질적 검출(또는 메인 검출(main detection)) 동작 이전에, 콜스 검출(coarse detection) 동작을 수행하고, 콜스 검출 동작을 통과하는 경우에 실질적 검출 동작을 수행하여, 실질적 검출 동작 시의 전자 장치의 연산량을 감소할 수 있는 방법 및 장치를 제공한다.
본 개시의 실시예에 따른 전자 장치는, 디스플레이 모듈, 메모리, 지자기 센서, 카메라 모듈, 및 상기 디스플레이 모듈, 상기 메모리, 상기 지자기 센서, 및 상기 카메라 모듈과 작동적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하고, 상기 관심 영역에서 경로 별 다항식을 설정하고, 상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하고, 상기 다항식에 기반하여 메이저 피처(major feature)를 선택하고, 상기 선택된 메이저 피처의 피처 정보를 생성하고, 및 상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스를 생성하도록 동작할 수 있다.
본 개시의 실시예에 따른 전자 장치의 동작 방법은, 관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하는 동작, 상기 관심 영역에서 경로 별 다항식을 설정하는 동작, 상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하는 동작, 상기 다항식에 기반하여 메이저 피처(major feature)를 선택하는 동작, 상기 선택된 메이저 피처의 피처 정보를 생성하는 동작, 및 상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스를 생성하는 동작을 포함할 수 있다.
상기와 같은 과제를 해결하기 위하여 본 개시의 다양한 실시예들에서는, 상기 방법을 프로세서에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
본 개시의 적용 가능성의 추가적인 범위는 이하의 상세한 설명으로부터 명백해질 것이다. 그러나 본 개시의 사상 및 범위 내에서 다양한 변경 및 수정은 당업자에게 명확하게 이해될 수 있으므로, 상세한 설명 및 본 개시의 바람직한 실시예와 같은 특정 실시예는 단지 예시로 주어진 것으로 이해되어야 한다.
본 개시의 다양한 실시예들에 따른 전자 장치 및 그의 동작 방법에 따르면, 전자 장치에서 실내 측위를 위한 검출 동작(detection process)에서 전자 장치의 연산량을 줄일 수 있다. 본 개시의 다양한 실시예들에 따르면, 사용자의 전자 장치에서 증강 현실을 활용하여 실내 측위를 위한 데이터베이스를 간편하게 생성할 수 있다. 본 개시의 다양한 실시예들에 따르면, 실내 측위를 위한 데이터베이스를 생성 시에 검출 동작에서 연산량을 줄일 수 있도록, 검출 동작의 연산에 사용될 데이터를 사전에 필터링 하여 제공할 수 있다. 본 개시의 다양한 실시예들에 따르면, 관심 영역에 대해 사전에 설정되는 데이터베이스를 통해 실내 측위를 위한 추가 인프라 없이도 높은 정확도 및 낮은 연산량으로 관심 영역에 대한 실내 측위를 제공할 수 있다.
본 개시의 다양한 실시예들에 따르면, 지자기 값을 이용한 실내 측위 시 메이저 피처(major feature)를 이용하여 메인 검출(main detection)의 진행 여부를 결정하여, 실내 측위에 따른 계산량을 줄일 수 있다. 예를 들어, 홈 시나리오(home scenario)와 같이 특정 좁은 지역(예: 관심 영역)에서 사용자가 계속해서 머무르는 것과 같이, 실시간으로 계속 동작해야 하는 상황에서, 검출 동작에 대한 사전 필터링을 통해, 실시간으로 검출 동작 이 수행되지 않도록 할 수 있다. 이를 통해, 전자 장치의 실내 측위를 위한 연산량 감소에 의해 성능 측면을 크게 향상할 수 있다. 또한, 본 개시의 다양한 실시예들에 따르면, 노이즈 내성(noise-tolerant) 측면에서의 베스트 피처(best feature)를 추출하고, 베스트 피처의 유효성을 판단한 후에 해당 피처(feature)를 사용하기 때문에, 예측 불가한 다양한 노이즈(noise)가 혼재된 상황(또는 환경)에서도 실내 측위의 정확도를 향상할 수 있다. 본 개시의 다양한 실시예들에 따르면, 메이저 피처를 다양한 상황에 따라 콜스 검출(coarse detection) 용이 아닌, 메인 검출(main detection)에서 추가 피처로써도 사용 가능하다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도면 설명과 관련하여, 동일 또는 유사한 구성 요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예들에 따른 전자 장치의 구성을 개략적으로 도시하는 도면이다.
도 3은 다양한 실시예들에 따른 전자 장치에서 실내 측위 방법을 도시하는 흐름도이다.
도 4는 다양한 실시예들에 따른 전자 장치에서 데이터베이스를 생성하는 방법을 도시하는 흐름도이다.
도 5는 다양한 실시예들에 따른 전자 장치에서 디스플레이 모듈에 표시되는 증강 현실과 포인트를 설명하기 위한 도면이다.
도 6은 다양한 실시예들에 따른 가이드 영역을 설명하기 위한 도면이다.
도 7은 다양한 실시예들에 따른 전자 장치에서 가이드 영역에 대한 지자기 데이터 및 위치 정보를 수집하는 방법을 설명하기 위한 도면이다.
도 8은 다양한 실시예들에 따른 커브 피팅에 대한 예를 설명하기 위한 도면이다.
도 9는 다양한 실시예들에 따른 메이저 피처 선택에 대한 예를 설명하기 위한 도면이다.
도 10은 다양한 실시예들에 따른 전자 장치에서 검출 동작을 수행하는 방법을 도시하는 흐름도이다.
도 1은 다양한 실시예들에 따른 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치(CPU, central processing unit) 또는 어플리케이션 프로세서(AP, application processor)) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치(GPU, graphic processing unit), 신경망 처리 장치(NPU, neural processing unit), 이미지 시그널 프로세서(ISP, image signal processor), 센서 허브 프로세서(sensor hub processor), 또는 커뮤니케이션 프로세서(CP, communication processor))를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(inactive)(예: 슬립(sleep)) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(OS, operating system)(142), 미들 웨어(middleware)(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD(secure digital) 카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN(wide area network))와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB, enhanced mobile broadband), 단말 전력 최소화와 다수 단말의 접속(mMTC, massive machine type communications), 또는 고신뢰도와 저지연(URLLC, ultra-reliable and low-latency communications)을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO, full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예들에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC, mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱(heuristic)하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는 다양한 실시예들에 따른 전자 장치의 구성을 개략적으로 도시하는 도면이다.
도 2를 참조하면, 본 개시의 다양한 실시예들에 따른 전자 장치(101)는 디스플레이 모듈(160), 메모리(130), 센서 모듈(176), 카메라 모듈(180), 및 프로세서(120)를 포함할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 하나 이상의 다른 구성 요소(예: 도 1의 통신 모듈(190))가 추가될 수 있다. 예를 들어, 전자 장치(101)는 도 1을 참조한 설명 부분에서 설명한 바와 같은 전자 장치(101)의 구성 요소의 전부 또는 적어도 일부를 포함할 수 있다.
디스플레이 모듈(160)(예: 도 1의 디스플레이 모듈(160))은 전자 장치(101)의 외부(예: 사용자)로 다양한 정보를 시각적으로 제공할 수 있다. 일 실시예에 따라, 디스플레이 모듈(160)은 터치 감지 회로(또는 터치 센서)(미도시), 터치의 세기를 측정할 수 있는 압력 센서 및/또는 자기장 방식의 스타일러스 펜을 검출하는 터치 패널(예: 디지타이저)을 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치 감지 회로, 압력 센서 및/또는 터치 패널에 기반하여 디스플레이 모듈(160)의 특정 위치에 대한 신호(예: 전압, 광량, 저항, 전자기 신호 및/또는 전하량)의 변화를 측정함으로써 터치 입력 및/또는 호버링 입력(또는 근접 입력)을 감지할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 액정 표시 장치(LCD, liquid crystal display), OLED(organic light emitted diode), AMOLED(active matrix organic light emitted diode)로 구성될 수 있다. 어떤 실시예에 따르면, 디스플레이 모듈(160)은 플렉서블 디스플레이(flexible display)로 구성될 수 있다.
일 실시예에 따르면, 디스플레이 모듈(160)은 프로세서(120)의 제어 하에, 영상(예: 정적인 이미지 및/또는 동적인 이미지) 및/또는 영상을 포함하는 컨텐츠를 시각적으로 제공할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 표시된 적어도 하나의 영상에 대응하는 영상 처리(image processing)와 관련된 다양한 정보(예: 사용자 인터페이스)를 제공할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 프로세서(120)에서 생성된 증강 현실(AR, augmented reality) 영상을 출력할 수 있다. 예를 들어, 디스플레이 모듈(160)은 사용자에게 증강 현실 서비스와 관련된 영상을 제공할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 증강 현실 서비스에 관련된 어플리케이션을 통해, 카메라 모듈(180)을 통해 획득하는 현실 세계의 영상(예: 프리뷰 이미지(preview image)) 상에, 프로세서(120)에서 생성하는 다양한 디지털 컨텐츠(digital contents)(예: 가상 마커(VM, virtual marker), 가상 이미지(virtual image))를 겹쳐서(또는 오버레이(overlay) 하여), 디스플레이 모듈(160)을 통해 하나의 영상으로 제공할 수 있다.
카메라 모듈(180)(예: 도 1의 카메라 모듈(180))은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 프로세서(120)의 제어 하에, 어플리케이션(예: 실내 측위 어플리케이션 또는 증강 현실 어플리케이션)을 실행하는 동안, 전자 장치(101)의 전면(예: 사용자가 바라보는 전면)의 피사체를 촬영하고, 촬영 데이터를 디스플레이 모듈(160)에 제공할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 사용자의 시야각(FoV, field of view)에 대응되는 영상을 촬영하거나 및/또는 객체와의 거리를 측정할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 카메라 모듈(180)을 통해 획득한 실제 현실 공간과 관련된 영상 정보에 기반하여 실내 측위 서비스와 관련된 가상 객체(또는 가상 정보)를 디스플레이 모듈(160) 상에 함께 표시할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 복수 개의 카메라(예: 제1 카메라, 제2 카메라 및 제3 카메라)를 포함할 수 있다.
메모리(130)는 전자 장치(101)에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 어플리케이션(예: 도 1의 프로그램(140)), 및 어플리케이션과 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 일 실시예에 따라, 메모리(130)는 실행 시에, 프로세서(120)가 동작하도록 하는 인스트럭션들(instructions)을 저장할 수 있다. 예를 들어, 어플리케이션은 메모리(130) 상에 소프트웨어(예: 도 1의 프로그램(140))로서 저장될 수 있고, 프로세서(120)에 의해 실행 가능할 수 있다. 일 실시예에 따라, 어플리케이션은 전자 장치(101)에서 다양한 서비스(예: 증강 현실 서비스, 실내 측위 서비스)를 제공할 수 있는 다양한 어플리케이션일 수 있다.
일 실시예에 따르면, 메모리(130)는 전자 장치(101)의 실내 측위 서비스를 제공(예: 전자 장치(101) 또는 지정된 객체의 위치 검출)하는 것과 관련된 다양한 데이터를 저장 및 제공하는 데이터베이스(210)를 포함할 수 있다. 일 실시예에서, 다양한 데이터는 관심 영역(POI, point-of-interest), 지자기 데이터, 다항식, 다항식의 차수, 다항식에 관련된 피처, 다항식에 관련된 메이저 피처(major feature), 및/또는 피팅 결과(fitting result)에 관련된 다양한 정보를 포함할 수 있다. 예를 들어, 데이터베이스(210)는 관심 영역에 대응하는 영역 정보, 지자기 데이터, 전자 장치(101)의 위치 정보, 피처 정보, 및 검출 동작에서 기준 패턴으로 사용될 패턴 정보(또는 지자기 패턴)(예: 피팅 결과)를 포함하여 생성될 수 있다.
센서 모듈(176)은 도 1을 참조한 설명 부분에서 설명한 바와 같은 센서 모듈(176)에 대응하는 구성을 포함할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은 지자기(또는 자기장) 센서(terrestrial magnetism sensor)(220)를 포함할 수 있다. 지자기(또는 자기장) 센서(220)는 지자기(예: 지구의 자력)를 검출하는 센서를 나타낼 수 있다. 예를 들어, 지자기 센서(220)는 지자기를 검출하여 방위 정보를 획득할 수 있다. 어떤 실시예에 따르면, 센서 모듈(176)은 가속도 센서, 기압 센서, 자이로 센서, 및/또는 생체 센서(예: PPG 센서)와 같은 다양한 다른 센서를 포함할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 센서 모듈(176)의 지자기 센서(220)를 이용한 센싱 데이터(예: 지자기 데이터)에 기반하여 실내 측위를 수행할 수 있다.
프로세서(120)는 전자 장치(101)에서 실내 측위 시에 그 연산량을 감소하기 위한 관련된 동작을 제어할 수 있다. 일 실시예에 따르면, 프로세서(120)는 실내 측위의 기준을 위한 데이터베이스(210)를 생성 및 저장하는 것과 관련된 동작을 제어할 수 있다. 일 실시예에 따르면, 프로세서(120)는 실내 측위를 위한 트리거를 감지하는 것에 기반하여, 지자기 센서(220)를 이용하여 지자기 데이터를 수집하고, 수집된 지자기 데이터에 기반하여 메이저 피처(major feature)를 추출하고, 데이터베이스(210)의 메이저 피처에 기반하여 추출된 메이저 피처를 검증하고, 및 메이저 피처에 대한 검증 결과에 기반하여 실내 측위를 위한 검출 동작을 수행하도록 하는 것과 관련된 동작을 제어할 수 있다.
일 실시예에 따르면, 프로세서(120)는 실내 측위 시에 이용될 수 있는 데이터베이스(210)를 생성하는 것과 관련된 동작을 제어할 수 있다. 일 실시예에 따르면, 프로세서(120)는 디스플레이 모듈(160)을 통해 적어도 하나의 이미지를 포함하는 화면(예: 증강 현실)을 표시하도록 디스플레이 모듈(160)을 제어할 수 있다. 일 실시예에 따르면, 프로세서(120)는 관심 영역에서 지자기 데이터와 관심 영역 내에서 전자 장치(101)의 상대적인 위치 정보를 수집하고, 관심 영역에서 경로 별 다항식을 설정하고, 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하고, 다항식 차수에 기반하여 메이저 피처(major feature) 선택 및 선택된 메이저 피처의 계수를 식별하고, 선택된 메이저 피처의 피처 정보와 식별된 계수의 계수 정보를 생성하고, 관심 영역에 대응하는 영역 정보, 위치 정보, 패턴 정보, 피처 정보 및 계수 정보를 포함하는 데이터베이스(210)를 생성하도록 동작할 수 있다. 일 실시예에서, 다항식 설정은, 가이드 영역의 해당 경로의 길이에 대응하는 다항식의 차수를 결정하고, 결정된 다항식의 차수에 대응하여 다항식을 설정하는 것을 포함할 수 있다.
일 실시예에 따르면, 프로세서(120)는 선택된 메이저 피처의 유효성을 검증하고, 유효성 검증에 기반하여 검출 동작에서 해당 관심 영역에서 사용될(비교 기준이 되는) 메이저 피처를 결정할 수 있다. 일 실시예에 따르면, 유효성 검증은, 선택된 메이저 피처에 대해서 상대적으로 비교 가능한 매트릭(metric)을 이용하여 선택된 메이저 피처가 충분한 설명력을 가지는지 판단하는 것을 포함할 수 있다. 일 실시예에 따르면, 프로세서(120)는 유효성 검증에 기반하여 검출 동작에서 사용될(비교 기준이 되는) 메이저 피처를 결정하고, 메이저 피처 결정은, 지정된 임계 값 이하의 메이저 피처는 콜스 검출(coarse detection)에서 제외하고, 지정된 임계 값 보다 높은 메이저 피처는 검출 동작에서 사용하도록 설정할 수 있다.
일 실시예에 따르면, 프로세서(120)는 관심 영역에 대한 데이터베이스(210)를 생성하는 트리거 감지에 기반하여 디스플레이 모듈(160)을 통해 증강 현실을 표시하도록 동작할 수 있다. 일 실시예에 따르면, 프로세서(120)는 증강 현실 상에서 사용자 입력에 대응하는 측정 영역에 가로와 세로로 일정 길이를 갖는 가이드 영역을 제공하도록 동작할 수 있다. 일 실시예에 따르면, 프로세서(120)는 데이터베이스(210) 생성 시 다항식을 생성할 수 있고, 다항식에 기반하여 커브 피팅을 진행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 가이드 영역의 경로 별 길에 따라 커브 피팅 진행 시에 사용하는 다항식의 차수를 다르게 결정할 수 있다. 일 실시예에 따르면, 다항식의 각 항이 피처(feature)가 될 수 있으며, 피처들 중 가장 높은 설명력을 가지는 항(예: 다항식의 여러 항 중 Lasso와 같은 알고리즘을 통해 선택된 대표 항(예: 메이저 피처))을 메이저 피처로 정의할 수 있다.
일 실시예에 따르면, 프로세서(120)는 해당 축의 메이저 피처가 지정된 임계 값을 초과하는 경우 유효성을 가지는 것으로 판단하고, 해당 축의 메이저 피처 및 그 값(예: 계수의 값)을 해당 관심 영역에 매핑하여 데이터베이스(210)로 구성할 수 있다. 일 실시예에 따르면, 프로세서(120)는 가이드 영역 내에서 복수의 이동 경로를 설정하고, 수집된 지자기 데이터를 기반으로 커브 피팅(curve fitting)에 적용될 다항식(예: 다항식의 차수)를 설정하도록 동작하고, 다항식의 차수는 가이드 영역의 가로와 세로의 길이 또는 가이드 영역 내 이동 경로의 길이에 의해 결정하도록 동작할 수 있다.
일 실시예에 따르면, 프로세서(120)는 관심 영역의 복수의 지점에서 다양한 정보를 포함하는 데이터베이스(210)를 생성할 수 있다. 일 실시예에서, 다양한 정보를 포함하는 데이터베이스(210)는 실내 측위에 활용될 수 있다. 일 실시예에 따르면, 도시하지 않았으나, 프로세서(120)는 생성된 데이터베이스(210)를 통신 모듈(예: 도 1의 통신 모듈(190))을 통해 서버(예: 도 1의 서버(108)) 또는 다른 전자 장치(예: 도 1의 전자 장치(102))로 전송할 수 있다. 예를 들어, 데이터베이스(120)는 다른 전자 장치와 공유될 수 있다. 일 실시예에 따르면, 프로세서(120)는 다른 전자 장치에서 생성되거나 서버에 저장된 데이터베이스를 통신 모듈을 통해 수신하여, 전자 장치(101)의 메모리(130)에 저장할 수도 있다.
일 실시예에 따르면, 프로세서(120)는 메모리(130)에 저장된 데이터베이스(210)를 이용하여 지정된 장소(예: 관심 영역)에서 실내 측위를 제공할 수 있다.
일 실시예에 따르면, 프로세서(120)는 지정된 관심 영역의 진입을 감지할 수 있다. 예를 들어, 프로세서(120)는 무선 신호 세기에 기반하여 전자 장치(101)가 관심 영역과 인접한 상태인지 여부를 확인할 수 있다. 일 실시예에 따르면, 프로세서(120)는 데이터베이스(210)에 관심 영역과 관련하여 저장된 무선 신호 세기와 현재 전자 장치(101)의 무선 신호 세기를 비교하여 설정된 범위 이내인 경우에, 전자 장치(101)가 관심 영역에 진입한 것으로 판단할 수 있다.
일 실시예에 따르면, 프로세서(120)는 지정된 관심 영역에서 지자기 데이터를 수집 및 전처리(preprocessing)를 수행하고, 관심 영역에 대응하는 메이저 피처 및 계수를 추출하고, 추출된 메이저 피처의 유효성을 검증하고, 데이터베이스(210)에서 지정된 관심 영역에 대응하는 메이저 피처(예: 기준 피처)와 추출된 메이저 피처(예: 비교 대상 피처)를 비교하고(예: 콜스 검출(coarse detection) 수행), 비교 결과 지정된 조건을 만족(예: 콜스 검출 통과)하는 경우 데이터베이스(210)의 다양한 정보에 기반하여 메인 검출(main detection)을 수행하도록 동작할 수 있다. 일 실시예에서, 메이저 피처의 비교(예: 콜스 검출)는 실내 측위를 위한 메인 검출을 진행할 지 여부를 결정하기 위한 필터링 동작일 수 있다.
일 실시예에 따르면, 프로세서(120)는 데이터베이스(210) 생성 시의 임계 값과 다른 임계 값을 사용하여, 메이저 피처에 대한 유효성 검증을 수행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 관심 영역 내에서 수집된 지자기 데이터를 기반으로 커브 피팅(curve fitting)에 적용될 다항식을 설정하고, 설정된 다항식에서 정규화 피팅(예: Lasso regression)을 통해 메이저 피처를 선택할 수 있다.
다양한 실시예들에 따르면, 프로세서(120)에서 수행하는 동작들은, 기록 매체로 구현될 수 있다. 예를 들어, 기록 매체는 실내 측위의 기준을 위한 데이터베이스(210)를 생성 및 저장하는 동작, 실내 측위를 위한 트리거를 감지하는 동작, 지자기 센서(220)를 이용하여 지자기 데이터를 수집하는 동작, 수집된 지자기 데이터에 기반하여 메이저 피처를 추출하는 동작, 데이터베이스(210)의 메이저 피처에 기반하여 추출된 메이저 피처를 검증하는 동작, 및 메이저 피처에 대한 검증 결과에 기반하여 실내 측위를 수행하는 동작을 을 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
본 개시의 다양한 실시예들에 따른 전자 장치(101)는, 디스플레이 모듈(예: 도 1 또는 도 2의 디스플레이 모듈(160)), 메모리(예: 도 1 또는 도 2의 메모리(130)), 지자기 센서(예: 도 2의 지자기 센서(220)), 카메라 모듈(예: 도 1 또는 도 2의 카메라 모듈(180)), 및 상기 디스플레이 모듈, 상기 메모리, 상기 지자기 센서, 및 상기 카메라 모듈과 작동적으로 연결된 프로세서(예: 도 1 또는 도 2의 프로세서(120))를 포함하고, 상기 프로세서는, 관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하고, 상기 관심 영역에서 경로 별 다항식을 설정하고, 상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하고, 상기 다항식에 기반하여 메이저 피처(major feature)를 선택하고, 상기 선택된 메이저 피처의 피처 정보를 생성하고, 및 상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스(예: 도 2의 데이터베이스(210))를 생성하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 관심 영역에서 실내 측위에 사용될 데이터베이스를 생성하기 위한 트리거를 감지하고, 상기 트리거를 감지하는 것에 기반하여, 상기 카메라 모듈을 통해 획득되는 영상을 이용하여 상기 디스플레이 모듈에 증강 현실을 표시하고, 상기 디스플레이 모듈을 통해 표시되는 증강 현실 상의 특정 지점을 지정하는 사용자 입력을 감지하고, 상기 사용자 입력에 기반하여 지정된 특정 지점을 기준으로 상기 관심 영역을 설정하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 관심 영역 설정에 대응하여, 상기 특정 지점을 포함하는 가이드 영역을 상기 증강 현실 상에 표시하도록 상기 디스플레이 모듈을 제어하도록 동작할 수 있다.
일 실시예에 따르면, 상기 가이드 영역은, 가로와 세로로 일정 길이를 갖는 가상의 영역을 포함할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 가이드 영역에 따른 지정된 범위 내의 지자기 센서의 3축 방향에 대응하는 지자기 데이터를 수집하고, 상기 지자기 데이터 수집과 함께, 상기 관심 영역 내에서의 상기 전자 장치의 상대적인 위치 정보를 수집하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 관심 영역 내에서 복수의 이동 경로를 설정하고,
상기 가이드 영역의 길이에 기반하여 상기 커브 피팅에 적용될 상기 다항식의 차수(degree)를 결정하고, 결정된 상기 다항식의 차수에 기반하여 상기 이동 경로 별 상기 다항식을 설정하도록 동작할 수 있다.
일 실시예에 따르면, 상기 다항식은, 각 이동 경로에서의 상기 지자기 센서의 각 축 별로 서로 다른 다항식으로 생성될 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 증강 현실 상에 표시된 가이드 영역 내의 지자기 패턴을 나타낼 수 있는 상기 커브 피팅에 상기 다항식을 적용하여 상기 패턴 정보를 생성하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 해당 이동 경로에서 상기 지자기 센서의 각 축에 각각 대응하는 다항식 별로 상기 커브 피팅을 진행하고,
상기 커브 피팅 결과에 기반하여 상기 검출 동작에서 기준 패턴으로 사용될 지자기 패턴을 포함하는 상기 패턴 정보를 생성하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 다항식의 각 항 중 대표 항에 기반하여 후보 메이저 피처를 선택하도록 동작할 수 있다.
일 실시예에 따르면, 상기 다항식의 각 항이 피처(feature)를 나타낼 수 있다. 일 실시예에 따르면, 상기 프로세서는, 각 항에 대응하는 피처들 중 가장 높은 설명력을 가지는 항을 상기 후보 메이저 피처로 결정하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 후보 메이저 피처의 유효성을 검증하고, 상기 유효성 검증 결과에 기반하여 상기 후보 메이저 피처 중 유효성 값이 지정된 임계 값 이상의 후보 메이저 피처를 해당 이동 경로의 해당 축에 대한 메이저 피처로 결정하도록 동작할 수 있다.
일 실시예에 따르면, 상기 유효성 검증은, 상기 선택된 메이저 피처에 대해서 상대적으로 비교 가능한 매트릭(metric)을 이용하여, 상기 선택된 메이저 피처가 충분한 설명력을 가지는지 판단하는 것을 포함할 수 있다.
일 실시예에 따르면, 상기 피처 정보는 해당 이동 경로에서 해당 축에 대한 다항식, 다항식의 차수, 다항식에서 메이저 피처로 선택된 피처, 및/또는 선택된 피처의 계수에 대한 정보를 포함할 수 있다.
본 개시의 다양한 실시예들에 따르면, 상기 프로세서가, 상기 검출 동작 진행 시에, 상기 관심 영역의 진입을 감지하고, 상기 관심 영역에서 지자기 데이터를 수집 및 전처리(preprocessing)를 수행하고, 상기 관심 영역에 대응하는 메이저 피처를 추출하고, 상기 데이터베이스에 기반하여 상기 추출된 메이저 피처의 유효성을 검증하고, 상기 데이터베이스에서 상기 관심 영역에 대응하는 메이저 피처와 상기 추출된 메이저 피처의 비교하고, 상기 비교 결과 지정된 조건을 만족하는 경우 상기 관심 영역에서의 메인 검출(main detection)을 수행하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 상기 데이터베이스 생성 시의 임계 값과 다른 임계 값을 이용하여 상기 추출된 메이저 피처의 유효성을 검증하도록 동작할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 메이저 피처 추출은, 관심 영역 내에서 수집된 지자기 데이터를 기반으로 커브 피팅(curve fitting)에 적용될 다항식 차수를 설정하고, 설정된 다항식 차수에서 정규화 피팅을 통해 상기 메이저 피처를 선택하도록 동작할 수 있다.
일 실시예에 따르면, 상기 메이저 피처의 비교는, 상기 메인 검출의 진행 여부를 결정하기 위한 콜스 검출(coarse detection)을 포함할 수 있다.
일 실시예에 따르면, 상기 프로세서는, 콜스 검출(coarse detection) 통과 시에 상기 메인 검출을 수행하도록 동작할 수 있다.
이하에서는 다양한 실시예들의 전자 장치(101)의 동작 방법에 대해서 상세하게 설명한다. 다양한 실시예들에 따른 전자 장치(101)에서 수행하는 동작들은, 전자 장치(101)의 다양한 프로세싱 회로(various processing circuitry) 및/또는 실행 가능한 프로그램 요소(executable program elements)를 포함하는 프로세서(120)에 의해 실행될 수 있다. 일 실시예에 따라, 전자 장치(101)에서 수행하는 동작들은, 메모리(130)에 저장되고, 실행 시에, 프로세서(120)가 동작하도록 하는 인스트럭션들에 의해 실행될 수 있다.
도 3은 다양한 실시예들에 따른 전자 장치에서 실내 측위 방법을 도시하는 흐름도이다.
다양한 실시예들에 따르면, 본 문서에 개시된 실내 측위 방법은, 예를 들어, 도 3에 도시된 흐름도에 따라 수행될 수 있다. 도 3에 도시된 흐름도는 실내 측위 방법의 일 실시예에 따른 흐름도에 불과하며, 적어도 일부 동작의 순서는 변경되거나 동시에 수행되거나, 또는 독립적인 동작으로 수행될 수 있다. 다양한 실시예들에 따르면, 동작 301 내지 동작 311은 전자 장치(101)의 프로세서(120)에서 수행될 수 있다.
도 3을 참조하면, 일 실시예에 따른 실내 측위 방법은, 실내 측위의 기준을 위한 데이터베이스(210)를 생성 및 저장하는 동작(301), 실내 측위를 위한 트리거를 감지하는 동작(303), 지자기 센서(220)를 이용하여 지자기 데이터를 수집하는 동작(305), 수집된 지자기 데이터에 기반하여 메이저 피처(major feature)를 추출하는 동작(307), 데이터베이스(210)의 메이저 피처에 기반하여 추출된 메이저 피처를 검증하는 동작(309), 및 메이저 피처에 대한 검증 결과에 기반하여 실내 측위를 수행하는 동작(311)을 포함할 수 있다.
이하에서는, 도면을 참조하여 도 3에 예시된 각 동작의 실시예들에 대한 세부적인 내용을 설명하도록 한다.
이하에서, 설명하는 본 개시의 다양한 실시예들은 실내 환경에서 위치 기반 서비스(예: 실내 측위 서비스)를 제공하는데 필요한 실내 측위 제공 방법을 제공한다. 예를 들어, 본 개시의 다양한 실시예들은 검출(detection) 동작 시에 전자 장치(101)(예: 프로세서(120))의 연산량을 감소하기 위한 데이터베이스(210)를 생성하는 방법과 실내 측위 시에 데이터베이스(210)를 참조하여 검출 동작을 수행하는 방법을 제공한다. 예를 들어, 본 개시의 다양한 실시예들에서는, 전자 장치(101)에서 실내 측위에 따른 검출 동작에서 연산에 사용될 데이터를 사전에 필터링 하여 제공하여, 전자 장치(101)가 실내 측위를 위한 검출 동작 시에 연산량을 줄일 수 있는 방법을 제공한다. 본 개시의 실시예에 따르면, 전자 장치(101)는 실내 환경에서 지정된 영역(예: 관심 영역)에서의 지자기 신호를 기반으로 하여 위치를 측위할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 실내 측위를 수행하기 위해 지자기 센서(220)의 x, y, z 3개 축을 이용할 수 있으며, 각 축의 측정 값을 도출 및 활용하기 위해 매 샘플(sample)(예: 약 10ms ~ 20ms) 마다 3개 축의 기준 방향을 일정하게 정렬하여야 하는 동작이 추가될 수 있다. 따라서, 기존 실내 측위 방법에서는 기준 방향을 일정하게 정렬할 때 발생하는 방향 보정 오류(orientation compensation error)가 지자기 센서(220)의 각 축 별로 발생할 수 있고, 기본적으로 지자기 센서(220)에 발생하는 화이트 노이즈(white noise) 및/또는 캘리브레이션 노이즈(calibration noise)와 같은 노이즈가 더해져 정확한 분석이 어려울 수 있다. 또한, 방향 보정 오류는 사용자가 전자 장치(101)를 들고 다니는 다양한 액티비티(activity)에 따른 액티비티 노이즈(activity noise)에 의해 보다 크게 증가할 수 있다.
전자 장치(101)의 실내 측위에서 전술한 바와 같은 노이즈의 증가는 실내 측위를 위한 검출 동작(detection process)의 복잡성을 크게 증가할 수 있다. 더욱이, 실내 측위를 수행하기 위해 지자기 센서(220)의 x, y, z 3개 축의 측정 값을 도출 및 활용하기 위해, 실시간으로 매 샘플(예: 약 10ms ~ 20ms) 마다 검출 동작을 수행해야 하기 때문에, 전자 장치(101)의 연산량 증가에 따른, 성능 열화, 발열, 및 전력 소모 증가를 초래할 수 있다. .
본 개시의 다양한 실시예들에서는, 실내 측위를 위해 특정 지점(예: 관심 영역)의 지자기 데이터, 예를 들어, 관심 영역에서의 가상 마커(VM, virtual marker)(예: 지자기 핑거프린트(fingerprint))를 검출할 때 전자 장치(101)의 연산량 감소를 위한 방법을 제공한다. 일 실시예에 따르면, 전술한 바와 같은 다양한 노이즈들(예: 화이트 노이즈, 캘리브레이션 노이즈, 액티비티 노이즈)이 더해져 검출 동작의 복잡성이 증가하는 상황에서, 실질적 검출(또는 메인 검출(main detection)) 동작에 적용되는 MSE(mean squared error) 측면에서 가장 대표되는(또는 베트스(best)인) 트루(true) 지자기 패턴(또는 가장 대표되는 지자기 패턴)(예: 다항식 차수에서 가장 높은 설명력을 가지는 피처(feature))뿐 아니라, 메인 검출 동작의 진행 여부를 판단(또는 결정)하기 위한 콜스 검출(coarse detection)을 위한 노이즈 내성(noise-tolerant)(예: 노이즈가 매우 큰 상황에서도 잘 살아남는지) 측면에서 베스트인 피처(예: 메이저 피처(major feature))를 추가로 추출하여 적용하는 방법을 제안한다.
일 실시예에서, 콜스 검출은, 매 샘플(sample)(예: 약 10ms ~ 20ms) 마다 복잡한 처리(processing) 과정 수행에 따라 전자 장치(101)의 성능에 큰 부담을 주는 메인 검출 동작을 필터링(filtering)하기 위한 사전 검출 동작으로, 피처(예: 메이저 피처) 비교에 기반하여 메인 검출 동작의 진행 여부를 결정하기 위한 검출 동작일 수 있다. 예를 들어, 전자 장치(101)는 콜스 검출이 통과한 경우에 메인 검출 동작을 진행하여, 전자 장치(101)의 부담(예: 연산량)을 줄일 수 있도록 한다.
일 실시예에 따르면, 데이터베이스 생성 동작 시에는 지자기에 의한 화이트 노이즈(white noise)와 보정 오류(compensation error)가 발생할 수 있지만, 전자 장치(101)의 방향(orientation)의 변화가 크지 않고, 검출 동작 수행 시 보다 속도 변화도 크지 않기 때문에 비교적 안정적인 지자기 데이터를 수집할 수 있다. 하지만, 검출 동작에서는 사용자가 전자 장치(101)를 어떻게 들고 다니는지, 전자 장치(101)의 캘리브레이션(calibration) 상태, 및 사용자가 움직이는 속도와 방향에 따라 예측 불가한 노이즈들이 추가되기 때문에, 실제 그 지역(예: 관심 영역)의 패턴(예: 지자기 패턴)을 정확히 판별하기 어려울 수 있다. 이로 인해, 콜스 검출을 위해 선택되는 피처의 노이즈 내성(noise-tolerant) 정도가 더욱 중요해 질 수 있다. 따라서, 해당 패턴에 대한 설명력이 충분하면서 노이즈 내성 측면에서 베스트인 메이저 피처(major feature)가 필요할 수 있다.
본 개시의 실시예에 따르면, 메이저 피처는 데이터베이스를 생성할 때 수집된 지자기 데이터를 기반으로, 지자기 센서(220)의 각 축(예: x축, y축 및 z축) 별로 적어도 하나씩 추출할 수 있다. 일 실시예에 따르면, 추출된 메이저 피처의 유효성 판단을 위해 회귀 분석(예: “R-Square”)과 같이 상대적 비교가 가능한 매트릭(metric)을 계산하여, 계산된 값이 지정된 임계 값 이상인 해당 축에 대하여 콜스 검출에 적용할 수 있다. 일 실시예에 따르면, 노이즈 내성을 가지면서 유효성을 가지는(예: 가장 높은 설명력을 가지는) 메이저 피처(예: 다항식의 여러 항 중 정규화 알고리즘을 통해 선택된 대표 항)를 추출하는 방법으로, 예를 들어, Lasso(least absolute shrinkage and selection operator) regression와 같은 정규화 알고리즘을 사용하여 단일 피처를 선택할 수도 있고, 또는 각각의 피처들을 개별로 피팅(fitting)을 진행하여 찾는 방법을 통해 메이저 피처를 결정할 수도 있다. 예를 들어, 메이저 피처를 추출하는 방법은 유효성 검증이 가능한 다양한 방법이 이용될 수 있다.
본 개시의 실시예에 따르면, 유효성 검증은, 예를 들어, 단일 피처로 해당 축의 지자기 값을 얼마나 설명 가능한지 검증하여 콜스 검출에 적합한지를 판단하기 위한 동작을 포함할 수 있다. 일 실시예에 따르면, Lasso 알고리즘의 경우 R-Square 값을 통해 설명력을 판단할 수 있다. 예를 들어, R-Square 값은 0 ~ 1의 값을 가질 수 있으며, 해당 피처로 나온 커브가 실제 커브를 얼마나 잘 설명하고 있는지에 따라 유효성을 검증할 수 있고, R-Square 값이 1에 가까울수록 해당 커브와 비슷한 것으로 볼 수 있다.
본 개시의 실시예에 따르면, 콜스 검출 동작 시에는, 데이터베이스를 생성할 때 메이저 피처 추출에 사용한 방법과 동일한 방법을 사용하여 수집된 지자기 데이터로부터 메이저 피처를 추출하거나, 또는 데이터베이스 생성시 선택된 메이저 피처를 피팅에 단일 적용하여 사용할 수 있다. 일 실시예에 따르면, 메이저 피처 추출은 각각의 경로에 대응하여 지자기 센서(220)의 각 축 별로 진행할 수 있으며, 각 축 별로 지정된 임계 값 이상의 값을 가지는 메이저 피처를 추출하고, 지정된 임계 값 이상의 값을 가지는 메이저 피처가 있는 경우만 해당 메이저 피처를 콜스 검출에 적용할 수 있다.
예를 들어, 검출 동작에서 추출된 제1 메이저 피처(예: 비교 대상 메이저 피처)가 데이터베이스 생성 시 저장된 제2 메이저 피처(예: 기준 메이저 피처)와 동일한 피처이고, 피처의 값이 정해진 범위 내의 값이라면 콜스 검출을 통과하고, 메인 검출을 수행하도록 할 수 있다. 예를 들어, 메인 검출 동작은 콜스 검출 동작을 통과한 경우에만 수행하도록 할 수 있다. 일 실시예에 따르면, 메이저 피처를 가지는 축 중 어느 한 축이라도 콜스 검출을 통과하지 못하는 경우에는 메인 검출을 수행하지 않을 수 있다.
본 개시의 다양한 실시예들에서의 피처는, 관심 영역 내에서 위치에 따른 지자기 값을 나타내기 위한 커브 피팅(curve fitting)을 진행하기 위한 다항식의 항을 나타낼 수 있으나, 이에 한정되지 않으며, 다른 피처들의 조합에도 동일한 방법으로 적용 가능하다. 예를 들어, 다른 피처들의 조합은 Dtw(dynamic time wraping), corellation, 및/또는 peck 특성과 같은 다양한 신호 특성들이 이용될 수 있다.
이하에서는, 도면을 참조하여 메인 검출 진행 여부를 결정할 수 있는 콜스 검출 동작을 위한 데이터베이스를 생성하는 실시예를 설명하도록 한다.
도 4는 다양한 실시예들에 따른 전자 장치에서 데이터베이스를 생성하는 방법을 도시하는 흐름도이다.
도 4를 참조하면, 동작 401에서, 전자 장치(101)의 프로세서(120)는 실내 측위에 사용될 데이터베이스(210)를 생성하기 위한 트리거를 감지할 수 있다. 예를 들어, 본 개시의 실시예에서는, 실내 측위를 위한 검출 동작에서 프로세서(120)의 연산량을 줄일 수 있도록, 측위에 관련된 데이터를 사전에 정의할 수 있다. 예를 들어, 본 개시의 실시예에서는, 검출 동작에서 프로세서(120)의 연산량을 줄일 수 있도록, 연산에 사용될 데이터를 사전에 필터링 하여 데이터베이스(210)로 제공할 수 있다. 이를 위해, 사용자는 사용자의 관심 영역에 대한 데이터베이스(210)를 사전에 구축하여 전자 장치(101)의 메모리(130)에 저장할 수 있다. 일 실시예에서, 트리거는 실내 측위에 관련된 어플리케이션을 실행하고, 실행하는 어플리케이션에 기반하여 데이터베이스 생성 항목을 선택하는 입력을 포함할 수 있다.
동작 403에서, 프로세서(120)는 증강 현실을 표시할 수 있다. 일 실시예에 따르면, 프로세서(120)는 트리거를 감지하는 것에 기반하여, 카메라 모듈(180)을 통해 획득(예: 촬영)되는 영상을 이용하여 디스플레이 모듈(160)에 증강 현실을 표시할 수 있다. 일 실시예에서, 증강 현실은 실제 환경에 가상의 객체(예: 사물이나 정보)를 합성하여 가상의 객체가 실제 환경에 존재하는 것처럼 표시하는 컴퓨터 그래픽 기법을 나타낼 수 있다. 일 실시예에 따른 증강 현실 표시에 대한 자세한 설명은 도 5를 참조하여 후술하기로 한다.
동작 405에서, 프로세서(120)는 사용자 입력에 기반하여 관심 영역을 설정할 수 있다. 일 실시예에 따르면, 프로세서(120)는 디스플레이 모듈(160)을 통해 표시되는 증강 현실 상의 특정 지점을 지정하는 사용자 입력을 감지하고, 사용자 입력에 따라 지정된 특정 지점을 기준으로 관심 영역을 설정할 수 있다. 일 실시예에서, 관심 영역은 사용자 입력에 기반하여 제공되는 것으로, 예를 들어, 사용자가 증강 현실 상에서 선택한 지점에 대응할 수 있다.
일 실시예에 따르면, 프로세서(120)는 관심 영역 설정에 대응하여 가이드 영역을 표시할 수 있다. 일 실시예에서, 프로세서(120)는 디스플레이 모듈(160)을 통해 표시된 증강 현실 상에서 특정 지점을 선택하는 사용자 입력에 응답하여 특정 지점을 포함하는 가이드 영역을 증강 현실 상에 표시하도록 디스플레이 모듈(160)을 제어할 수 있다. 일 실시예에 따르면, 가이드 영역은, 예를 들어, 가로와 세로로 일정 길이를 갖는 가상의 영역(예: 가상 마커)을 나타낼 수 있다. 일 실시예에 따른 가이드 영역에 대한 자세한 설명은 도 5 및 도 6을 참조하여 후술하기로 한다.
동작 407에서, 프로세서(120)는 관심 영역에 관련된 지자기 데이터 및 위치 정보를 수집할 수 있다. 일 실시예에 따르면, 프로세서(120)는 증강 현실 상에 표시된 관심 영역에 대응하는 가이드 영역에 따른 지정된 범위 내의 지자기 센서(220) 값(예: 지자기 데이터)을 수집할 수 있다. 일 실시예에 따르면, 프로세서(120)는 지자기 센서(220)의 x, y 및 z축의 3축 방향에 대응하는 지자기 데이터를 수집할 수 있다.
일 실시예에 따르면, 프로세서(120)는 지자기 데이터 수집과 함께, 관심 영역 내에서의 전자 장치(101)의 상대적인 위치 정보(예: 전자 장치(101)가 위치된 지점의 좌표 정보)를 수집할 수 있다. 전자 장치(101)의 상대적인 위치 정보는 전자 장치(101)의 지정된 구성 요소의 센싱 데이터(예: 가속도 센서 및/또는 자이로 센서에 의한 센서 데이터 및/또는 통신 모듈(192)을 이용한 무선 신호 세기 정보)에 기반하여 수집될 수 있다.
동작 409에서, 프로세서(120)는 관심 영역 내에서 복수의 이동 경로를 설정할 수 있다. 일 실시예에 따르면, 지자기 센서(220)는 지자기 센서(220)의 x, y 및 z축의 값이 별도로 저장될 수 있으며, 정해진 기준 방향으로 정렬된 값을 가질 수 있다. 기준 방향은 검출 동작 시에, 전자 장치(101)가 실제 이동하는 경로(예: 이동 경로)에 대응할 수 있다. 예를 들어, 가이드 영역이 2차원(2D)일 경우 가이드 영역 내에서 다양한 경로가 생성될 수 있고, 각각의 경로 별로 정렬하는 기준 방향은 변경될 수 있으며 그 길이 또한 다를 수 있다. 이동 경로 설정에 대한 자세한 설명은 도 5 및 도 6을 참조하여 후술하기로 한다.
동작 411에서, 프로세서(120)는 다항식(polynomial)을 설정할 수 있다. 일 실시예에 따르면, 프로세서(120)는 수집된 지자기 데이터를 기반으로 다항식(예: 다항식의 차수(degree))를 결정할 수 있다. 일 실시예에 따르면, 프로세서(120)는 가이드 영역의 길이(예: 가로와 세로의 일정 길이)에 대응하는 트루 패턴(true pattern)을 찾기 위한 다항식 차수를 결정하고, 결정된 다항식 차수에 따른 다항식을 상기 이동 경로 별로 설정할 수 있다.
예를 들어, 프로세서(120)는 수집된 지자기 데이터를 기반으로 관심 영역(예: 증강 현실 상에 표시된 가이드 영역) 내의 지자기 패턴을 나타낼 수 있도록 커브 피팅(curve fitting)을 2차원(2D) 또는 1차원(1D)으로 진행할 수 있으며, 커브 피팅에 적용되는 다항식의 차수를 결정할 수 있다. 일 실시예에서, 커브 피팅은, 예를 들어, 자료점(data points)의 집합과 설계 기준에 가장 정확하게 일치하는 곡선, 면, 또는 선을 계산하는 기법을 나타낼 수 있다. 일 실시예에 따르면, 프로세서(120)는 증강 현실 상의 가이드 영역의 가로와 세로 길이 또는 가이드 영역 내 경로의 길이(예: 기준 방향에 따른 직선 길이)에 의해 다항식(예: 다항식 차수)을 결정할 수 있다.
일 실시예에 따르면, 프로세서(120)는 데이터베이스(210) 생성 시 다항식을 생성할 수 있고, 다항식에 기반하여 커브 피팅을 진행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 가이드 영역의 이동 경로 별 길이에 따라 커브 피팅 진행 시에 사용하는 다항식의 차수를 다르게 결정할 수 있다.
일 실시예에 따르면, 다항식의 각 항이 피처(feature)가 될 수 있으며, 각 항에 대응하는 피처들 중 가장 높은 설명력을 가지는 항(예: 다항식의 여러 항 중 Lasso와 같은 알고리즘을 통해 선택된 대표 항(예: 메이저 피처))을 메이저 피처로 정의할 수 있다. 일 실시예에 따르면, 프로세서(120)는 해당 축의 메이저 피처가 지정된 임계 값을 초과하는 경우 유효성을 가지는 것으로 판단하고, 해당 축의 메이저 피처 및 그 값(예: 계수의 값)을 해당 관심 영역에 매핑하여 데이터베이스(210)로 구성할 수 있다.
예를 들어, 가이드 영역에서 경로가 약 1m 길이의 경로인 경우, 다항식은 최대 3차 함수 이상의 굴곡은 나타나지 않을 수 있으며, 따라서, 프로세서(120)는 3차 다항식을 생성할 수 있다. 본 개시의 다양한 실시예들에서, 다항식의 차수가 3차 항인 것을 예로 하면, 다항식의 1차항, 2차항 및 3차항 각각이 피처(feature)가 될 수 있다. 일 실시예에 따르면, 프로세서(120)는 해당 경로에서의 지자기 센서(220)의 각 축(예: x, y 및 z축) 별로 서로 다른 다항식을 생성할 수 있다. 일 실시예에서, 각 축에 대응하는 다항식 그룹은 각 경로 별로 다르게 생성할 수 있다. 예를 들어, 경로가 2개인 경우, 2개의 경로 별로 3축 방향에 대응하는 다항식(예: 경로1의 3축 방향에 대한 다항식 3개와 경로2의 3축 방향에 대한 다항식 3개에 대응하는 총 6개의 다항식)이 생성될 수 있다.
동작 421에서, 프로세서(120)는 설정된 다항식에서 커브 피팅을 진행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 관심 영역의 트루 패턴을 가장 잘 나타내는 패턴을 생성하도록 커브 피팅을 진행할 수 있다. 일 실시예에서, 커브 피팅은 자료점(data points)의 집합과 설계 기준에 가장 정확하게 일치하는 곡선, 면 또는 선을 계산하는 기법을 의미할 수 있다. 일 실시예에 따르면, 프로세서(120)는 해당 경로에서 지자기 센서(220)의 각 축(예: x, y 및 z축)에 각각 대응하는 다항식 별로 커브 피팅을 진행할 수 있다. 예를 들어, 프로세서(120)는 예를 들어, 증강 현실 상의 가이드 영역에서 경로가 약 1m 길이의 경로인 것을 가정하면, 프로세서(120)는 3차 다항식에 기반하여 커브 피팅을 진행할 수 있다. 일 실시예에 따른 커브 피팅에 대한 자세한 설명은 도 8을 참조하여 후술하기로 한다.
동작 423에서, 프로세서(120)는 커브 피팅 결과에 따른 패턴 정보를 생성할 수 있다. 일 실시예에서, 패턴 정보는 이후 검출 동작에서 기준 패턴으로 사용될 지자기 패턴을 나타낼 수 있다.
동작 431에서, 프로세서(120)는 다항식에서 후보 메이저 피처를 선택할 수 있다. 일 실시예에 따르면, 프로세서(120)는 관심 영역의 경로 별 노이즈 내성(noise-tolerant) 측면에서 베스트인 후보 메이저 피처를 선택하고, 선택된 메이저 피처의 값(예: 계수)을 도출할 수 있다. 일 실시예에 따르면, 프로세서(120)는 각 축(예: 각 경로에 대응하는 3개의 축) 별 전자 장치(101)의 위치에 따른 지자기 센서(220)의 x, y 및 z축 값(예: 지자기 데이터)과 동작 411에서 설정된 다항식을 이용하여 Lasso regression과 같은 정규화 피팅(fitting)을 진행하여 다항식의 여러 항 중 대표 항을 후보 메이저 피처로 선택할 수 있다.
예를 들어, 프로세서(120)는 해당 정규화 알고리즘을 통해 각 위치에서의 해당 축의 지자기 값을 가장 잘 나타내는 주요 항을 후보 메이저 피처로 선택할 수 있다. 일 실시예에서, 후보 메이저 피처는 각 축 별로 하나씩 선택될 수 있다. 예를 들어, 후보 메이저 피처는 x, y 및 z축에 대해 총 3개의 다항식에 대한 총 3개의 후보 메이저 피처가 선택될 수 있다.
일 실시예에 따르면, 후보 메이저 피처 선택은, 정규화 알고리즘을 사용하여 선택할 수도 있고, 다항식의 여러 항 중 한 개의 항과 상수 항 2개만을 가지는 식을 각 항 별로 생성한 후 피팅을 진행하여 가장 설명력이 높은 항을 선택할 수도 있다. 예를 들어, 3차 항에 대해 각 축 별로, 예를 들어, ‘αx3 + δ’, ‘βx2 + δ’ 및 ‘γx + δ’의 예시와 같이, 3개의 항을 생성하고, x,y 및 z축에 대응하여 총 9개의 항을 생성하고, 9개의 항 중 가장 설명력이 높은 항을 선택할 수 있다. 설명력은 실제 데이터와 얼마나 유사한지에 따라 판단될 수 있다.
일 실시예에 따르면, 선택되는 후보 메이저 피처는 여러 피처의 조합을 사용하는 경우보다 노이즈 내성(noise-tolerant)이 강한, 즉, 해당 경로에서 해당 축의 지자기 값을 가장 잘 나타내는 대표 항을 찾는 다양한 방법이 이용될 수 있다. 예를 들어, 노이즈가 섞인 데이터에서 실제 데이터를 찾을 때 MSE 측면에서의 베스트가 아닌 노이즈 내성 측면에서 베스트인 피처를 후보 메이저 피처로 선택할 수 있다.
동작 433에서, 프로세서(120)는 후보 메이저 피처의 유효성을 검증할 수 있다. 일 실시예에 따르면, 프로세서(120)는 후보 메이저 피처에 대해서 상대적으로 비교 가능한 매트릭(metric)을 이용하여, 해당 후보 메이저 피처가 충분한 설명력을 가지는지 여부에 기반하여 후보 메이저 피처의 유효성을 검증할 수 있다.
일 실시예에 따르면, 프로세서(120)는 각 경로 별로 각 축에 대응하는 후보 메이저 피처가 선택되는 경우, 해당 후보 메이저 피처가 검출 동작에서 사용하기 충분한지를 판단하기 위해 유효성을 검증할 수 있다. 예를 들어, 가이드 영역 내에 2개 또는 그 이상의 이동 경로가 있는 경우, 2개의 이동 경로 또는 그 이상의 이동 경로 별 3개의 축에 대응하는 복수의 후보 메이저 피처가 선택될 수 있고, 프로세서(120)는 복수의 후보 메이저 피처에 대해 유효성을 검증할 수 있다.
일 실시예에 따르면, 동일한 단위 길이의 경로라도 지자기 값(예: 지자기 데이터)의 변화량은 어떤 지역에서는 1보다 작을 수도 있고 어떤 지역에서는 10보다 클 수도 있다. 그리고 동일한 지역 동일한 경로라도 지자기 센서(220)의 각 축 별로 변화량의 범위가 크게 차이날수 있다. 이에, 본 개시의 다양한 실시예들에서는 유효성을 검증하기 위해, MSE와 같은 에러(error)의 크기를 보고 판단하는 방법이 아닌, 해당 메이저 피처가 지자기 값을 얼마나 잘 설명하고 있는지를 상대적인 값으로 나타낼 수 있는 R-Square와 같은 매트릭(metric)을 이용하여 검증할 수 있다.
동작 435에서, 프로세서(120)는 유효성 검증 결과에 기반하여 메이저 피처를 결정할 수 있다. 일 실시예에 따르면, 프로세서(120)는 후보 메이저 피처 중 유효성 값이 지정된 임계 값 이상의 적어도 하나의 후보 메이저 피처를 해당 경로의 해당 축에 대한 메이저 피처로 최종 결정할 수 있다.
일 실시예에 따르면, 프로세서(120)는 특정 축의 후보 메이저 피처의 유효성 값이 지정된 임계 값보다 낮을 경우 해당 후보 메이저 피처는 대표 경향을 나타내기 어렵다고 판단하고, 콜스 검출 시에 사용될 메이저 피처에서 제외할 수 있다. 일 실시예에 따라, 만약, 3개 축의 후보 메이저 피처가 모두 유효성 검증에 탈락할 경우, 프로세서(120)는 해당 메이저 피처에 의한 콜스 검출 동작은 진행하지 않을 수 있다.
어떤 실시예에 따르면, 3개 축의 후보 메이저 피처의 유효성 검증에 탈락하더라도, 해당 다항식의 상수항이 유효한 상황이라면, 해당 다항식의 상수항만으로 콜스 검출을 진행하는 것도 가능하다. 일 실시예에 따른 메이저 피처 선택에 대한 자세한 설명은 도 9를 참조하여 후술하기로 한다.
동작 437에서, 프로세서(120)는 메이저 피처의 피처 정보를 생성할 수 있다. 일 실시예에서, 피처 정보는 해당 경로에서 해당 축에 대한 다항식, 다항식의 차수, 다항식에서 메이저 피처로 선택된 피처, 및/또는 선택된 피처의 계수에 대한 정보를 포함할 수 있다.
동작 441에서, 프로세서(120)는 데이터베이스를 생성할 수 있다. 일 실시예에 따르면, 프로세서(120)는 동작 421 내지 동작 423 진행에 따라 생성된 패턴 정보와 동작 431 내지 동작 437 진행에 따라 생성된 피처 정보에 기반하여 데이터베이스(210)를 생성할 수 있다.
일 실시예에 따르면, 프로세서(120)는 데이터베이스(210) 생성 시에, 동작 405 내지 동작 409 진행에 따라 수집된 데이터(예: 관심 영역에 대한 정보, 관심 영역에 관련된 지자기 데이터, 관심 영역에서 위치 정보 및 이동 경로 정보)를 함께 구성할 수 있다. 예를 들어, 데이터베이스(210)는 관심 영역에 대응하는 영역 정보, 지자기 데이터, 전자 장치(101)의 위치 정보, 피처 정보, 및 검출 동작에서 기준 패턴으로 사용될 패턴 정보를 포함하고, 전자 장치(101)의 메모리(130)에 저장될 수 있다.
도 5는 다양한 실시예들에 따른 전자 장치에서 디스플레이 모듈에 표시되는 증강 현실과 포인트를 설명하기 위한 도면이다.
다양한 실시예들에 따르면, 전자 장치(101)의 프로세서(120)는 전자 장치(101)의 카메라 모듈(180)을 통해 촬영되는 영상을 이용하여 디스플레이 모듈(160)에 증강 현실을 표시할 수 있다. 일 실시예에서, 증강 현실은 실제 환경에 가상의 객체(예: 사물이나 정보)를 합성하여 가상의 객체가 실제 환경에 존재하는 것처럼 표시하는 컴퓨터 그래픽 기법을 의미할 수 있다.
다양한 실시예들에 따르면, 프로세서(120)는 디스플레이 모듈(160)에 표시된 증강 현실 상에 포인트(510)를 표시할 수 있다. 포인트(510)는 전자 장치(101)의 움직임에 연동되어 증강 현실 상에서 움직일 수 있다. 포인트(510)는 전자 장치(101)의 특정 지점(예: 전자 장치(101)의 중앙부 또는 전자 장치(101)의 카메라 모듈(180)이 배치된 부분)에서 측정 영역(530)에 내린 수선의 발(예: 측정 지점(510-1))과 대응되는 증강 현실 상의 특정 지점으로 정의될 수 있다. 여기서, 측정 영역(530)은 증강 현실 상에 표시되는 가이드 영역(530-2)에 대응되는 현실 공간 상의 영역으로 이해될 수 있다. 가이드 영역(530-2)에 대한 자세한 설명은 후술하기로 한다.
예를 들어, 전자 장치(101)가 도 5의 예시 (a)에서 현실 공간 상의 A 지점에 위치한 경우, 포인트(510)는 도 5의 예시 (b)와 같이 전자 장치(101)의 디스플레이 모듈(160)에 표시될 수 있다. 다른 예를 들어, 전자 장치(101)가 도 5의 예시 (a)에서 B 지점에 위치한 경우, 포인트(510)는 도 5의 예시 (c)와 같이 전자 장치(101)의 디스플레이 모듈(160)에 표시될 수 있다. 포인트(510)는 점과 같은 형상으로 표시될 수 있다. 포인트(510)의 모양과 색상은 포인트(510) 주변에 표시되는 객체에 따라 변경될 수 있다.
도 6은 다양한 실시예들에 따른 가이드 영역을 설명하기 위한 도면이다.
다양한 실시예들에 따르면, 전자 장치(101)의 프로세서(120)는 증강 현실 상에 가이드 영역(610)을 표시할 수 있다. 가이드 영역(610)은 증강 현실 상에 표시되는 영역을 의미할 수 있다. 예를 들어, 가이드 영역(610)은 실내 측위를 위한 가상 마커가 생성될 현실의 영역(예: 도 5의 측정 영역(530))에 대응되는 증강 현실 상의 영역일 수 있다.
가이드 영역(610)은 다양한 형태로 표시될 수 있다. 예를 들어, 도 6의 예시 (a)에 도시한 바와 같이, 가이드 영역(610)은 직사각형 영역으로 표시될 수 있다. 예를 들어, 도 6의 예시 (b)에 도시한 바와 같이, 가이드 영역(610)은 사각형 영역으로 표시될 수 있다. 예를 들어, 도 6의 예시 (c)와 같이, 가이드 영역(610)은 육면체 영역으로 표시될 수 있다.
다양한 실시예들에 따르면, 가이드 영역(610)은 주변 객체와 구분될 수 있도록 그 경계가 표시될 수 있다. 예를 들어, 가이드 영역(610)은 도 6에 예시된 바와 같이 경계가 선으로 표시될 수 있다. 이 밖에도 가이드 영역(610)은 증강 현실 상에서 다른 객체와 구분될 수 있는 다양한 형상으로 표시될 수 있다. 예를 들어, 가이드 영역(610)의 크기와 색상은 가이드 영역(610) 주변에 표시되는 객체에 따라 변경될 수 있다.
다양한 실시예들에 따르면, 가이드 영역(610)은 사용자의 입력에 기반하여 제공될 수 있다. 예를 들어, 전자 장치(101)의 프로세서(120)는 사용자가 증강 현실 상에서 선택한 지점(620)을 인식할 수 있다. 예를 들어, 사용자는 전자 장치(101)의 디스플레이 모듈(160)을 통해 증강 현실 상의 특정 지점(620)을 선택할 수 있다. 일 실시예에 따르면, 사용자는 디스플레이 모듈(160)을 통해 표시된 증강 현실 상에서 특정 지점(620)을 일점 터치하는 방식으로 증강 현실 상의 특정 지점(620)을 선택할 수 있다.
일 실시예에 따라, 사용자가 특정 지점(620)을 선택하면, 프로세서(120)는 특정 지점(620)을 포함하는 가이드 영역(610)을 증강 현실 상에 표시하도록 디스플레이 모듈(160)을 제어할 수 있다. 예를 들어, 프로세서(120)는 사용자의 선택 지점(620)을 가이드 영역(610)의 중심으로 설정하고, 미리 설정된 가이드 영역(610)의 크기에 따라 가이드 영역(610)을 표시할 수 있다.
사용자는 증강 현실 상의 특정 지점(620)을 드래그 방식으로 지정할 수 있다. 이러한 경우, 가이드 영역(610)은 사용자가 드래그 한 선택 지점을 포함할 수 있다. 예를 들어, 프로세서(120)는 사용자가 드래그 한 선택 지점을 가이드 영역(610)으로 그대로 제공할 수 있고, 사용자가 드래그 한 선택 지점을 포함하는 영역을 가이드 영역(610)으로 제공할 수도 있다.
이와 같이 가이드 영역(610)이 지정되면, 프로세서(120)는 증강 현실 상의 가이드 영역(610)이 표시된 부분을 증강 현실의 좌표로 인식할 수 있다. 예를 들어, 프로세서(120)는 사용자의 선택 지점을 기준으로 가이드 영역(610)을 증강 현실의 좌표로 인식할 수 있다. 프로세서(120)는 증강 현실 내의 객체의 위치를 상대적으로 인식할 수 있다. 따라서, 프로세서(120)는, 특정 지점(620)을 기준으로 증강 현실 내에 표시된 객체의 증강 현실 좌표를 인식할 수 있다.
도 7은 다양한 실시예들에 따른 전자 장치에서 가이드 영역에 대한 지자기 데이터 및 위치 정보를 수집하는 방법을 설명하기 위한 도면이다.
다양한 실시예들에 따르면, 프로세서(120)는 관심 영역에서 디스플레이 모듈(160)을 통해 증강 현실(700) 상에 표시되는 가이드 영역(710)을 증강 현실의 좌표로 인식할 수 있다.
다양한 실시예들에 따르면, 사용자는 포인트(720)가 가이드 영역(710) 내에서 움직이도록 전자 장치(101)를 파지한 상태에서 움직일 수 있다. 일 실시예에서, 도 7에서는 전자 장치(101)가 가이드 영역(710)과 대응되는 현실의 공간에서 움직이는 것을 설명하기 위하여 가이드 영역(710) 위에 전자 장치(101)를 별도로 도시하였으나, 가이드 영역(710)과 포인트(720)는 전자 장치(101)의 디스플레이 모듈(160)에 표시되는 증강 현실 상에 표시될 수 있다.
디스플레이 모듈(160)에 증강 현실에 표시되는 가이드 영역(710)과 포인트(720)는 사용자가 포인트(720)를 가이드 영역(710) 내에서 움직이도록 유도할 수 있다. 사용자는 가이드 영역(710) 내의 포인트(720)의 위치를 확인함으로써, 포인트(720)가 가이드 영역(710)을 벗어나지 않도록 전자 장치(101)를 움직일 수 있다. 다양한 실시예들에 따르면, 전자 장치(101)는 포인트(720)가 움직인 경로(예: 이동 경로)를 선(730)으로 표시하여 가이드 영역(710) 내에서 포인트(720)가 움직이도록 유도할 수 있다.
다양한 실시예들에 따르면, 프로세서(120)는 가이드 영역(710)에 대한 포인트(720)의 위치를 확인하여 포인트(720)가 움직일 방향(예: 전진, 회전)을 디스플레이 모듈(160)에 화살표와 같은 사용자 인터페이스(UI, user interface) 또는 텍스트로 표시하거나, 또는 음성으로 포인트(720)가 움직일 방향을 지시할 수 있다. 다양한 실시예들에 따르면, 프로세서(120)는 전자 장치(101)에 포함된 센서(예: 가속도 센서, 자이로 센서)를 통해 전자 장치(101)의 자세를 실시간으로 확인할 수 있다. 프로세서(120)는 가이드 영역(710)과 전자 장치(101)가 평행을 이룬 상태로 유지되도록 가이드 영역(710)에 대한 전자 장치(101)의 방향을 디스플레이 모듈(160)에 화살표와 같은 사용자 인터페이스 또는 텍스트로 표시하거나, 또는 음성으로 전자 장치(101)의 자세를 지시할 수 있다.
다양한 실시예들에 따르면, 포인트(720)가 가이드 영역(710)에서 움직이는 동안 프로세서(120)는 데이터베이스(210)를 생성하고, 전자 장치(101)의 메모리(예: 도 1 또는 도 2의 메모리(130))에 저장할 수 있다. 데이터베이스(210)은 가이드 영역(710)에 대응하는 다양한 정보들을 포함할 수 있다. 예를 들어, 데이터베이스(210)는 관심 영역에 대응하는 영역 정보, 전자 장치(101)의 위치 정보(예: 포인트(720)의 좌표 정보), 지자기 센서(220)에서 측정된 지자기 데이터(또는 지자계 값(value of magnetometer)), 설정되는 다항식 정보, 및 다항식으로부터 계산된 피처 정보, 및 검출 동작에서 기준 패턴으로 사용될 패턴 정보(또는 지자기 패턴)(예: 피팅 결과 정보)를 포함할 수 있다.
일 실시예에 따르면, 프로세서(120)는 포인트(720)가 움직이는 동안 측정되는 지자기 데이터를 저장할 수 있다. 지자기 데이터는 전자 장치(101)의 지자기 센서(220)로부터 측정되는 측정 값일 수 있다. 예를 들어, 지자기 센서(220)는 자북에 대한 전자 장치(101)의 x, y 및 z 축의 지자기 값을 세기로 출력하는 센서일 수 있다. 일 실시예에 따르면, 프로세서(120)는 포인트(720)가 가이드 영역(710) 내에서 움직이는 동안 가이드 영역(710) 전체의 지자기 데이터를 수집(예: 측정)할 수 있다. 프로세서(120)는 수집된 지자기 데이터를 해당 가이드 영역(710) 내의 지자기 데이터로 저장할 수 있다.
일 실시예에 따르면, 프로세서(120)는 도 7에 예시한 바와 같이, 가로와 세로의 길이가 지정된 범위(예: 가이드 영역(710)) 내의 지자기 데이터를 수집할 수 있다. 일 실시예에서, 프로세서(120)는 3축 방향에 대응하는 지자기 데이터와, 지자기 데이터 각각에 대응하는 가이드 영역(710) 내에서의 전자 장치(101)의 상대적인 위치 정보(예: 포인트(720)의 좌표 정보)를 함께 수집할 수 있다.
예를 들어, 프로세서(120)는 가이드 영역(710)의 기준점(예: 포인트(740)의 좌표(예: (0,0))) 대비 지자기 데이터 수집 시의 전자 장치(101)의 위치 정보(예: 포인트(720)의 좌표(예: Xi, Yi))를 수집할 수 있다. 일 실시예에 따르면, 지자기 센서(220)는 지자기 센서(220)의 x, y 및 z축의 값이 별도로 저장될 수 있으며, 정해진 기준 방향으로 정렬된 값을 가질 수 있다. 기준 방향은 검출 동작 시에, 전자 장치(101)가 실제 이동하는 경로가 될 수 있다.
예를 들어, 가이드 영역(710)이 도 7에 예시된 바와 같이 2차원(2D)일 경우 가이드 영역(710) 내에서 다양한 경로가 생성될 수 있고, 각각의 경로 별로 정렬하는 기준 방향은 변경될 수 있으며 그 길이 또한 다를 수 있다. 일 실시예에 따르면, 기준 방향은 가이드 영역(710)과 전자 장치(101)가 수평인 상태에서 지자기 센서(220)가 향하는 방향(예: 직선 이동 경로의 방향)을 의미할 수 있다.
도 8은 다양한 실시예들에 따른 커브 피팅에 대한 예를 설명하기 위한 도면이다.
일 실시예에 따라, 도 8은 설명의 편의를 위해, 2차원(2D) 가이드 영역(예: 도 7의 가이드 영역(710))에서 약 1m 길이의 경로에서, 지자기 센서(220)의 x, y 및 z축 각각의 지자기 값(예: MX, MY, MZ)을 표시하여 나타낸 그래프일 수 있다.
예를 들어, 도 8의 예시 (a)는 가이드 영역(710) 내의 이동 경로에서 지자기 센서(220)의 x축 방향의 지자기 값 및 피팅 결과를 표시한 그래프일 수 있고, 도 8의 예시 (b)는 가이드 영역(710) 내의 이동 경로에서 지자기 센서(220)의 y축 방향의 지자기 값 및 피팅 결과를 표시한 그래프일 수 있고, 도 8의 예시 (c)는 가이드 영역(710) 내의 이동 경로에서 지자기 센서(220)의 z축 방향의 지자기 값 및 피팅 결과를 표시한 그래프일 수 있다.
일 실시예에 따라, 도 8의 예시에서는, 설명의 편의를 위해, 가이드 영역(710)에서 약 1m 길이의 경로에 대해 아래 <수학식 1> 및 <표 1>과 같이 설정된 3차 다항식에 기반하여 1차원(1D)으로 커브 피팅을 진행한 결과의 예를 나타낼 수 있다.
Figure pat00001
<수학식 1>에서, ‘y’는 가이드 영역의 다항식 피팅 값을 나타낼 수 있고, ‘αx3’, ‘βx2’, ‘γr’ 및 ‘δ’ 각각은 항(term)을 나타낼 수 있고, 각 항에서 1차수 이상의 항 ‘αx3’, ‘βx2’ 및 ‘γr’는 피처(feature)를 나타낼 수 있고, 1차수 이상의 항에서 ‘α’, ‘β’ 및 ‘γ’는 계수(coefficient)를 나타낼 수 있고, ‘δ’는 상수항(constant term)을 나타낼 수 있다.
α β γ δ
MX -15.77 18.622 -1.44 -22.06
MY -11.77 16.36 -6.65 35.4
MZ 0.34 0 -4.87 -26.32
<표 1>은 <수학식 1>의 예시와 같은 3차 다항식에서, 각 축(예: MX, MY, MZ) 별 각 피처(예: α, β, γ, δ)의 예를 나타낼 수 있다.
일 실시예에서, 커브 피팅은 로우 데이터(raw data)가 있을 때 어떠한 함수(예: 3차원 다항식)로 근사화하여 나타내는 것을 의미할 수 있다. 예를 들어, 커브 피팅은 현실적으로 획득할 수 있는 데이터(예: 지자기 값)를 이용하여 그 데이터들을 표현할 수 있는 가장 이상적인 수학적인 직선, 또는 곡선을 얻어내는 기술을 의미할 수 있다.
도 8의 예시에서, 그래프의 x축은 이동 경로(또는 단위 길이)를 나타낼 수 있고, 그래프의 y축은 이동 경로에 대응하는 지자기 값을 나타낼 수 있다. 도 8에 예시한 바와 같이, <수학식 1> 및 <표 1>의 예시와 같은 3차 다항식을 사용하는 경우, 약 1m 길이의 지자기 패턴(예: 피팅된 데이터(fitted data))이 알맞게 피팅된 것을 알 수 있다. 예를 들어, 수집된 지자기 데이터는 각 그래프의 로우 데이터와 같이 노이지(noisy)한 상태일 수 있고, 해당 길이에 맞는 다항식의 차수 선택 및 커피 피팅 진행으로 노이즈(noise)를 제거하고 최대한 해당 지역의 실제 패턴(true pattern)에 가까운 곡선(curve)을 나타낼 수 있다. 이와 같이 정제된 가이드 영역(710)의 각 축 별 패턴 정보는 이후, 검출 동작(예: 메인 검출(main detection))에서 기준 패턴으로 이용될 수 있다.
도 9는 다양한 실시예들에 따른 메이저 피처 선택에 대한 예를 설명하기 위한 도면이다.
일 실시예에 따라, 도 9는 설명의 편의를 위해, 2차원(2D) 가이드 영역(예: 도 7의 가이드 영역(710))에서 약 1m 길이의 경로에서, 지자기 센서(220)의 x, y 및 z축 각각의 지자기 값(예: MX, MY, MZ)을 표시하여 나타낸 그래프일 수 있다.
예를 들어, 도 9의 예시 (a)는 가이드 영역(710) 내의 이동 경로에서 지자기 센서(220)의 x축 방향의 지자기 값 및 피팅 결과를 표시한 그래프일 수 있고, 도 9의 예시 (b)는 가이드 영역(710) 내의 이동 경로에서 지자기 센서(220)의 y축 방향의 지자기 값 및 피팅 결과를 표시한 그래프일 수 있고, 도 8의 예시 (c)는 가이드 영역(710) 내의 이동 경로에서 지자기 센서(220)의 z축 방향의 지자기 값 및 피팅 결과를 표시한 그래프일 수 있다.
α β γ δ R-Square
MX 0 0 2.34 -22.84 0.45
MY -0.79 0 0 34.77 0.1
MZ 0 0 -4.52 -26.39 0.79
<표 2>는 <수학식 1> 및 도 8에 예시한 바와 같은 3차 다항식에서, 각 축(예: MX, MY, MZ) 별 각 피처(예: α, β, γ, δ)와 각 축에 대한 유효성 검증을 진행한 결과(예: R-Square)의 예를 나타낼 수 있다. 예를 들면, <표 2>는 3차 다항식을 가지는 가이드 영역(710) 내 이동 경로에서 정규화 알고리즘(예: Lasso)을 이용하여 메이저 피처(예: 후보 메이저 피처)를 선택하고, 선택된 메이저 피처에 대해 유효성 검증을 진행한 결과의 예를 나타낼 수 있다.
일 실시예에 따르면, 각 축 별 정규화 알고리즘을 통해 하나의 항(예: 메이저 피처)이 선택될 수 있고, R-Square 값을 통해 유효성을 검증할 수 있다. 예를 들어, 지정된 임계 값 기준을 “R-Square > 0.3”으로 정의하는 경우, <표 2>의 예시에서, x축과 z축이 유효성이 통과되고, y축은 유효성을 통과하지 못하는 경우일 수 있다. 일 실시예에 따르면, 유효성 검증을 통과한 x축(예: MX)과 z축(예: MZ)의 경우, 이후 검출 동작 중에 콜스 검출에 이용될 수 있다.
예를 들어, 도 9의 예시에서, 해당 메이저 피처들을 수집된 데이터(예: 지자기 값)와 같이 피팅한 결과, 예시 (a)와 같이 지자기 센서(220)의 x축은 기울기 약 2 정도로 증가하고, 예시 (b)와 같이 y축은 기울기 약 -4 정도로 감소하는 경향을 가진 결과를 나타낼 수 있다. 하지만, y축의 경우 단순히 어떤 경향을 나타낸다고 보기 어려우며, 그에 따라 R-Square 값이 지정된 임계 값 보다 작게 나와 유효성 검증에서 탈락(예: 유효성이 없는 것으로 판단)되는 경우를 나타낼 수 있다. 예를 들어, 단위 길이 내에서 뚜렷한 변화가 없는 경우는 노이즈의 크기가 상대적으로 더 큰 영향력을 가지게 되어 믿을 수 있는 패턴을 찾기가 어려울 수 있다.
도 10은 다양한 실시예들에 따른 전자 장치에서 검출 동작을 수행하 방법을 도시하는 흐름도이다.
도 10을 참조하면, 동작 1101에서, 전자 장치(101)의 프로세서(120)는 실내 측위를 위한 트리거를 감지할 수 있다. 일 실시예에서, 트리거는 지정된 관심 영역의 진입을 감지하는 것을 포함할 수 있다. 일 실시예에 따르면, 프로세서(120)는, 예를 들어, 무선 신호 세기에 기반하여 전자 장치(101)가 관심 영역에 인접한 상태인지 여부를 확인할 수 있다. 예를 들어, 데이터베이스(210)에 저장된 관심 영역에 대한 무선 신호 세기와 현재 전자 장치(101)의 무선 신호 세기를 비교하여 설정된 범위 이내인 경우에, 프로세서(120)는 해당 관심 영역에 전자 장치(101)가 진입한 것으로 판단할 수 있다. 일 실시예에서, 트리거는 실내 측위에 관련된 어플리케이션을 실행하고, 실행하는 어플리케이션에 기반하여 실내 측위를 실행하는 입력을 포함할 수 있다.
동작 1103에서, 프로세서(120)는 측정 영역(예: 지정된 관심 영역)에 대응하는 지자기 데이터 수집(예: 실시간 수집) 및 전처리(preprocessing)를 수행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 전자 장치(101)가 관심 영역에 진입하는 것을 감지하는 것에 기반하여, 지자기 센서(220)를 이용하여 전자 장치(101)의 움직임에 따른 지자기 데이터(예: 지자기 값)를 수집할 수 있다.
일 실시예에 따르면, 사용자가 전자 장치(101)를 휴대한 상태에서 관심 영역의 실내(예: 측정 영역)를 이동할 때, 프로세서(120)는 지자기 센서(220)를 이용하여 실시간으로 지자기 데이터를 수집하고, 수집된 지자기 데이터에 대해 전처리를 진행하여 정제된 지자기 데이터를 생성할 수 있다.
일 실시예에 따르면, 프로세서(120)는 지자기 데이터 수집과 함께, 전자 장치(101)의 이동 방향과 중력을 기준으로 지자기 센서(220)의 3개의 축(예: x, y 및 z축)을 정렬하고, 및/또는 노이즈를 제거하는 것과 같은 전처리를 수행할 수 있다. 예를 들어, 전처리가 수행된 데이터는 측정 영역(예: 도 7의 가이드 영역(710))의 크기에 대응하는 단위 길이로 구별될 수 있고, 데이터베이스(210)의 데이터와 비교 가능한 데이터로 준비될 수 있다.
동작 1005에서, 프로세서(120)는 관심 영역에 대응하는 메이저 피처를 추출할 수 있다. 일 실시예에 따르면, 프로세서(120)는 검출하고자 하는 관심 영역에 대응하는 가이드 영역(710) 또는 가이드 영역(710) 내의 경로의 길이에 맞게 정제된 지자기 데이터를 자르고, 해당 지자기 데이터로부터 메이저 피처를 추출할 수 있다.
일 실시예에 따르면, 프로세서(120)는 도 4의 동작 431을 참조한 설명 부분에서 설명한 바와 같은 메이저 피처 추출 동작에 대응하는 동작으로 관심 영역에 대응하는 다항식 및 다항식의 메이저 피처를 추출할 수 있다. 예를 들어, 검출 동작 시에 메이저 피처 추출은 도 4의 동작 431에서 진행한 방식과 동일한 방식이 적용될 수 있다.
동작 1007에서, 프로세서(120)는 메이저 피처의 유효성을 검증할 수 있다. 일 실시예에 따르면, 프로세서(120)는 도 4의 동작 433을 참조한 설명 부분에서 설명한 바와 같은 유효성 검증 동작에 대응하는 동작으로 추출된 메이저 피처의 유효성을 검증할 수 있다. 예를 들어, 검출 동작 시에 유효성 검증은 도 4의 동작 433에서 사용되는 매트릭(예: R-Square)과 동일한 매트릭이 사용될 수 있다. 일 실시예에 따라, 검출 동작에서 유효성 검증(예: 도 10의 동작 1007)에 사용되는 임계 값은, 도 4의 데이터베이스(210) 생성 동작에서 유효성 검증(예: 도 4의 동작 433)에 사용되는 임계 값과 다른 임계 값이 사용될 수 있다.
일 실시예에 따르면, 검출 동작에서 메이저 피처에 대한 유효성 검증 시에는, 데이터베이스(210) 생성 시와 동일한 임계 값(예: 제1 임계 값)을 사용하지 않고 다른 임계 값(예: 제2 임계 값)을 사용할 수 있다. 예를 들어, 검출 동작에서 발생하는 노이즈가 데이터베이스(210) 생성 동작에서 발생하는 노이즈 보다 클 수 있기 때문에, 검출 동작에서는 보다 러프(rough)한 임계 값을 사용할 수 있다. 예를 들어, 제1 임계 값과 제2 임계 값은 다른 값을 이용할 수 있고, 제2 임계 값이 제1 임계 값 보다 큰 값으로 설정될 수 있다.
일 실시예에 따르면, 프로세서(120)는 지자기 센서(220)의 x, y 및 z축에서, 데이터베이스(210) 생성 시 유효성 검증에서 제외된 축에 대해서는 유효성 검증을 수행하지 않을 수 있다. 예를 들어, 프로세서(120)는 검출 동작 시에는 지자기 센서(220)의 3개의 축, x, y 및 z축 중 데이터베이스(210) 생성 시 유효성 검증이 통과한 해당 축에 대해서만 유효성 검증을 진행할 수 있다. 예를 들어, 데이터베이스(210) 생성 시에, y축에서의 메이저 피처가 지정된 임계 값 이하인 것에 따라 제외된 경우, 검출 동작에서는 y축에 대해서는 유효성 검증의 대상에서 제외될 수 있다.
일 실시예에 따르면, 프로세서(120)는 데이터베이스(210) 생성 시에, 지정된 관심 영역에서 3개의 축이 모두 유효성 검증이 탈락한 경우에는, 콜스 검출 없이, 바로 메인 검출을 진행하거나, 또는 다항식의 상수항만을 이용하여 콜스 검출을 수행하도록 동작할 수 있다.
동작 1009에서, 프로세서(120)는 콜스 검출을 수행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 추출된 메이저 피처가 유효성 검증을 통과하는 경우, 데이터베이스(210)에서 지정된 관심 영역에 대응하는 메이저 피처(예: 기준 피처)와 추출된 메이저 피처(예: 비교 대상 피처)를 비교할 수 있다. 일 실시예에 따르면, 프로세서(120)는 유효성 검증에 통과한 메이저 피처를 가지는 축(예: 유효 축)에 대해 콜스 검출을 수행할 수 있다.
일 실시예에서, 콜스 검출은, 추출된 메이저 피처에 대하여 데이터베이스(210) 생성 시 저장된 메이저 피처 및 계수와 비교하여 메인 검출을 진행할 지 여부를 판단하는 동작일 수 있다. 일 실시예에 따르면, 동작 1007과 동작 1009는 하나의 동작으로 통합될 수 있다. 예를 들어, 동작 1007의 유효성 검증 동작은 동작 1009의 콜스 검출 동작에 포함될 수 있다.
동작 1011에서, 프로세서(120)는 콜스 검출에 대한 통과 여부를 판단할 수 있다. 예를 들어, 프로세서(120)는 유효 축에 대응하는 메이저 피처의 콜스 검출 통과 여부를 판단할 수 있다. 일 실시예에 따르면, 프로세서(120)는 동작 1009에서 데이터베이스(210)에 기반한 메이저 피처와 추출된 메이저 피처의 비교 결과, 지정된 조건을 만족하는 경우 콜스 검출을 통과한 것으로 판단할 수 있다. 예를 들어, 프로세서(120)는 추출된 메이저 피처가, 데이터베이스(210) 생성 시 저장된 메이저 피처와 동일하며, 그 값이 일정 범위 내로 유사할 경우, 콜스 검출을 통과한 것으로 판단할 수 있다.
일 실시예에 따르면, 프로세서(120)는 추출된 메이저 피처에 대하여 데이터베이스(210)에 메이저 피처와 동일한 피처가 메이저 피처로 추출되었는지, 해당 피처의 값(예: 계수)가 일정 범위 안에서 유사한지를 판단할 수 있다. 일 실시예에 따르면, 프로세서(120)는 데이터베이스(210) 생성 시의 메이저 피처에 관련된 다항식의 차수와 추출된 메이저 피처에 관련된 다항식의 차수가 같은 경우, 해당 메이저 피처들이 동일한 것으로 판단할 수 있다.
예를 들어, 데이터베이스(210) 생성 시에 3차 다항식이 선택되고, 검출 동작에서도 3차 다항식이 선택되는 경우, 해당 메이저 피처들을 동일한 것으로 나타낼 수 있다. 일 실시예에 따르면, 프로세서(120)는 선택된 다항식의 차수가 동일한 경우, 선택된 다항식에서 메이저 피처의 계수의 값이 일정 범위 내에서 유사한지를 판단할 수 있다.
일 실시예에 따르면, 프로세서(120)는 추출된 제1 메이저 피처(예: 비교 대상 피처)가 데이터베이스(210) 생성 시 저장된 제2 메이저 피처(예: 기준 피처)와 동일한 피처이고, 제1 메이저 피처의 값(예: 계수의 값)이 정해진 범위 내의 값인 경우, 콜스 검출을 통과한 것으로 판단할 수 있다.
동작 1011에서, 메이저 피처가 콜스 검출에 통과하지 못하는 경우, 프로세서(120)는 메인 검출을 수행하지 않을 수 있다. 예를 들어, 프로세서(120)는 메이저 피처를 가지는 축 중 어느 한 축이라도 콜스 검출을 통과하지 못하는 경우에는 메인 검출을 수행하지 않을 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 검출을 수행하지 않는 경우에, 관심 영역에 대한 재측정이 필요함을 다양한 방법으로 사용자에게 제공할 수 있다. 예를 들어, 프로세서(120)는 디스플레이 모듈(160)에 재측정이 필요하다는 지정된 사용자 인터페이스(예: 텍스트, 이미지, 영상)를 표시하거나, 진동 또는 소리를 이용하여 사용자에게 재측정이 필요한 것을 알릴 수 있다.
동작 1011에서, 메이저 피처가 콜스 검출에 통과하는 경우, 동작 1013에서, 프로세서(120)는 상기 관심 영역에서의 메인 검출을 수행할 수 있다. 일 실시예에 따르면, 프로세서(120)는 데이터베이스(210)의 패턴 정보에 기반하여 검출 동작을 수행할 수 있다.
예를 들어, 프로세서(120)는 추출된 제1 메이저 피처(예: 비교 대상 피처)가 데이터베이스(210) 생성 시 저장된 제2 메이저 피처(예: 기준 피처)와 동일한 피처이고, 피처의 값이 정해진 범위 내의 값인 경우, 메인 검출을 수행하도록 동작할 수 있다. 예를 들어, 메인 검출은 콜스 검출을 통과한 경우에만 수행하도록 할 수 있다. 일 실시예에 따르면, 프로세서(120)는 콜스 검출이 통과할 경우, 데이터베이스(210) 생성 시에 저장된 패턴 정보(예: 트루 지자기 패턴)를 가장 잘 나타내는 커브 피팅 결과를 기준으로 검출 동작을 진행할 수 있다.
본 개시의 실시예에 따른 전자 장치(101)에서 수행하는 동작 방법은, 관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하는 동작, 상기 관심 영역에서 경로 별 다항식을 설정하는 동작, 상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하는 동작, 상기 다항식에 기반하여 메이저 피처(major feature)를 선택하는 동작, 상기 선택된 메이저 피처의 피처 정보를 생성하는 동작, 및 상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스(예: 도 1 또는 도 2의 데이터베이스(210))를 생성하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)에서 수행하는 동작 방법은, 상기 관심 영역에서 실내 측위에 사용될 데이터베이스를 생성하기 위한 트리거를 감지하는 동작, 상기 트리거를 감지하는 것에 기반하여, 카메라 모듈(예: 도 1 또는 도 2의 카메라 모듈(180))을 통해 획득되는 영상을 이용하여 디스플레이 모듈(예: 도 1 또는 도 2의 디스플레이 모듈(160))에 증강 현실을 표시하는 동작, 상기 디스플레이 모듈을 통해 표시되는 증강 현실 상의 특정 지점을 지정하는 사용자 입력에 기반하여, 지정된 특정 지점을 기준으로 상기 관심 영역을 설정하는 동작, 상기 관심 영역 설정에 대응하여, 상기 특정 지점을 포함하는 가이드 영역을 상기 증강 현실 상에 표시하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 가이드 영역은, 가로와 세로로 일정 길이를 갖는 가상의 영역을 포함할 수 있다.
일 실시예에 따르면, 상기 다항식을 설정하는 동작은, 상기 관심 영역 내에서 복수의 이동 경로를 설정하는 동작, 상기 가이드 영역의 길이에 기반하여 상기 커브 피팅에 적용될 상기 다항식의 차수(degree)를 결정하는 동작, 결정된 상기 다항식의 차수에 기반하여 상기 이동 경로 별 상기 다항식을 설정하는 동작, 상기 증강 현실 상에 표시된 가이드 영역 내의 지자기 패턴을 나타낼 수 있는 상기 커브 피팅에 상기 다항식을 적용하여 상기 패턴 정보를 생성하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 다항식은, 각 이동 경로에서의 상기 지자기 센서의 각 축 별로 서로 다른 다항식으로 생성될 수 있다.
일 실시예에 따르면, 상기 메이저 피처를 선택하는 동작은, 상기 다항식의 각 항에 대응하는 피처들 중 가장 높은 설명력을 가지는 대표 항을 후보 메이저 피처로 선택하는 동작, 상기 후보 메이저 피처의 유효성을 검증하는 동작, 상기 유효성 검증 결과에 기반하여 상기 후보 메이저 피처 중 유효성 값이 지정된 임계 값 이상의 후보 메이저 피처를 해당 이동 경로의 해당 축에 대한 메이저 피처로 결정하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 유효성 검증은, 상기 선택된 메이저 피처에 대해서 상대적으로 비교 가능한 매트릭(metric)을 이용하여, 상기 선택된 메이저 피처가 충분한 설명력을 가지는지 판단하는 것을 포함할 수 있다.
본 명세서와 도면에 개시된 본 개시의 다양한 실시예들은 본 개시의 기술 내용을 쉽게 설명하고 본 개시의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 개시의 범위를 한정하고자 하는 것은 아니다. 따라서 본 개시의 범위는 여기에 개시된 실시예들 이외에도 본 개시의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 개시의 범위에 포함되는 것으로 해석되어야 한다.
101: 전자 장치
120: 프로세서
130: 메모리
160: 디스플레이 모듈
176: 센서 모듈
180: 카메라 모듈
210: 데이터베이스
220: 지자기 센서
530, 610, 710: 가이드 영역

Claims (20)

  1. 전자 장치에 있어서,
    디스플레이 모듈;
    메모리;
    지자기 센서;
    카메라 모듈; 및
    상기 디스플레이 모듈, 상기 메모리, 상기 지자기 센서, 및 상기 카메라 모듈과 작동적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하고,
    상기 관심 영역에서 경로 별 다항식을 설정하고,
    상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하고,
    상기 다항식에 기반하여 메이저 피처(major feature)를 선택하고,
    상기 선택된 메이저 피처의 피처 정보를 생성하고, 및
    상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스를 생성하도록 설정된 전자 장치.
  2. 제1항에 있어서, 상기 프로세서는,
    상기 관심 영역에서 실내 측위에 사용될 데이터베이스를 생성하기 위한 트리거를 감지하고,
    상기 트리거를 감지하는 것에 기반하여, 상기 카메라 모듈을 통해 획득되는 영상을 이용하여 상기 디스플레이 모듈에 증강 현실을 표시하고,
    상기 디스플레이 모듈을 통해 표시되는 증강 현실 상의 특정 지점을 지정하는 사용자 입력을 감지하고,
    상기 사용자 입력에 기반하여 지정된 특정 지점을 기준으로 상기 관심 영역을 설정하도록 설정된 전자 장치.
  3. 제2항에 있어서, 상기 프로세서는,
    상기 관심 영역 설정에 대응하여, 상기 특정 지점을 포함하는 가이드 영역을 상기 증강 현실 상에 표시하도록 상기 디스플레이 모듈을 제어하도록 설정되고,
    상기 가이드 영역은, 가로와 세로로 일정 길이를 갖는 가상의 영역을 포함하는 전자 장치.
  4. 제3항에 있어서, 상기 프로세서는,
    상기 가이드 영역에 따른 지정된 범위 내의 지자기 센서의 3축 방향에 대응하는 지자기 데이터를 수집하고,
    상기 지자기 데이터 수집과 함께, 상기 관심 영역 내에서의 상기 전자 장치의 상대적인 위치 정보를 수집하도록 설정된 전자 장치.
  5. 제3항에 있어서, 상기 프로세서는,
    상기 관심 영역 내에서 복수의 이동 경로를 설정하고,
    상기 가이드 영역의 길이에 기반하여 상기 커브 피팅에 적용될 상기 다항식의 차수(degree)를 결정하고,
    결정된 상기 다항식의 차수에 기반하여 상기 이동 경로 별 상기 다항식을 설정하도록 설정되고,
    상기 다항식은, 각 이동 경로에서의 상기 지자기 센서의 각 축 별로 서로 다른 다항식으로 생성되는 것을 특징으로 하는 전자 장치.
  6. 제5항에 있어서, 상기 프로세서는,
    상기 증강 현실 상에 표시된 가이드 영역 내의 지자기 패턴을 나타낼 수 있는 상기 커브 피팅에 상기 다항식을 적용하여 상기 패턴 정보를 생성하도록 설정된 전자 장치.
  7. 제6항에 있어서, 상기 프로세서는,
    해당 이동 경로에서 상기 지자기 센서의 각 축에 각각 대응하는 다항식 별로 상기 커브 피팅을 진행하고,
    상기 커브 피팅 결과에 기반하여 상기 검출 동작에서 기준 패턴으로 사용될 지자기 패턴을 포함하는 상기 패턴 정보를 생성하도록 설정된 전자 장치.
  8. 제1항에 있어서, 상기 프로세서는,
    상기 다항식의 각 항 중 대표 항에 기반하여 후보 메이저 피처를 선택하도록 설정된 전자 장치.
  9. 제8항에 있어서,
    상기 다항식의 각 항이 피처(feature)를 나타내며,
    상기 프로세서는, 각 항에 대응하는 피처들 중 가장 높은 설명력을 가지는 항을 상기 후보 메이저 피처로 결정하도록 설정된 전자 장치.
  10. 제1항에 있어서, 상기 프로세서는,
    상기 후보 메이저 피처의 유효성을 검증하고,
    상기 유효성 검증 결과에 기반하여 상기 후보 메이저 피처 중 유효성 값이 지정된 임계 값 이상의 후보 메이저 피처를 해당 이동 경로의 해당 축에 대한 메이저 피처로 결정하도록 설정된 전자 장치.
  11. 제10항에 있어서,
    상기 유효성 검증은, 상기 선택된 메이저 피처에 대해서 상대적으로 비교 가능한 매트릭(metric)을 이용하여, 상기 선택된 메이저 피처가 충분한 설명력을 가지는지 판단하는 것을 포함하는 전자 장치.
  12. 제1항에 있어서,
    상기 피처 정보는 해당 이동 경로에서 해당 축에 대한 다항식, 다항식의 차수, 다항식에서 메이저 피처로 선택된 피처, 및/또는 선택된 피처의 계수에 대한 정보를 포함하는 전자 장치.
  13. 제1항에 있어서, 상기 프로세서가, 상기 검출 동작 진행 시에,
    상기 관심 영역의 진입을 감지하고,
    상기 관심 영역에서 지자기 데이터를 수집 및 전처리(preprocessing)를 수행하고,
    상기 관심 영역에 대응하는 메이저 피처를 추출하고,
    상기 데이터베이스에 기반하여 상기 추출된 메이저 피처의 유효성을 검증하고,
    상기 데이터베이스에서 상기 관심 영역에 대응하는 메이저 피처와 상기 추출된 메이저 피처의 비교하고,
    상기 비교 결과 지정된 조건을 만족하는 경우 상기 관심 영역에서의 메인 검출(main detection)을 수행하도록 설정된 전자 장치.
  14. 제13항에 있어서, 상기 프로세서는,
    상기 데이터베이스 생성 시의 임계 값과 다른 임계 값을 이용하여 상기 추출된 메이저 피처의 유효성을 검증하도록 설정된 전자 장치.
  15. 제13항에 있어서, 상기 프로세서는,
    메이저 피처 추출은, 관심 영역 내에서 수집된 지자기 데이터를 기반으로 커브 피팅(curve fitting)에 적용될 다항식 차수를 설정하고, 설정된 다항식 차수에서 정규화 피팅을 통해 상기 메이저 피처를 선택하도록 설정된 전자 장치.
  16. 제13항에 있어서,
    상기 메이저 피처의 비교는, 상기 메인 검출의 진행 여부를 결정하기 위한 콜스 검출(coarse detection)을 포함하고,
    상기 프로세서는, 콜스 검출(coarse detection) 통과 시에 상기 메인 검출을 수행하도록 설정된 전자 장치.
  17. 전자 장치의 동작 방법에 있어서,
    관심 영역에서 지자기 데이터와 상기 관심 영역 내에서 전자 장치의 위치 정보를 수집하는 동작;
    상기 관심 영역에서 경로 별 다항식을 설정하는 동작;
    상기 다항식에 기반하여 커브 피팅(curve fitting)을 통해 피팅 결과에 따른 패턴 정보를 생성하는 동작;
    상기 다항식에 기반하여 메이저 피처(major feature)를 선택하는 동작;
    상기 선택된 메이저 피처의 피처 정보를 생성하는 동작; 및
    상기 관심 영역에 대응하는 영역 정보, 상기 위치 정보, 상기 패턴 정보, 및 상기 피처 정보에 기반하여 실내 측위의 검출 동작에 사용될 데이터베이스를 생성하는 동작을 포함하는 방법.
  18. 제17항에 있어서,
    상기 관심 영역에서 실내 측위에 사용될 데이터베이스를 생성하기 위한 트리거를 감지하는 동작,
    상기 트리거를 감지하는 것에 기반하여, 카메라 모듈을 통해 획득되는 영상을 이용하여 디스플레이 모듈에 증강 현실을 표시하는 동작,
    상기 디스플레이 모듈을 통해 표시되는 증강 현실 상의 특정 지점을 지정하는 사용자 입력에 기반하여, 지정된 특정 지점을 기준으로 상기 관심 영역을 설정하는 동작,
    상기 관심 영역 설정에 대응하여, 상기 특정 지점을 포함하는 가이드 영역을 상기 증강 현실 상에 표시하는 동작을 포함하고,
    상기 가이드 영역은, 가로와 세로로 일정 길이를 갖는 가상의 영역을 포함하는 방법.
  19. 제18항에 있어서, 상기 다항식을 설정하는 동작은,
    상기 관심 영역 내에서 복수의 이동 경로를 설정하는 동작,
    상기 가이드 영역의 길이에 기반하여 상기 커브 피팅에 적용될 상기 다항식의 차수(degree)를 결정하는 동작,
    결정된 상기 다항식의 차수에 기반하여 상기 이동 경로 별 상기 다항식을 설정하는 동작,
    상기 증강 현실 상에 표시된 가이드 영역 내의 지자기 패턴을 나타낼 수 있는 상기 커브 피팅에 상기 다항식을 적용하여 상기 패턴 정보를 생성하는 동작을 포함하고,
    상기 다항식은, 각 이동 경로에서의 상기 지자기 센서의 각 축 별로 서로 다른 다항식으로 생성되는 것을 특징으로 하는 방법.
  20. 제17항에 있어서, 상기 메이저 피처를 선택하는 동작은,
    상기 다항식의 각 항에 대응하는 피처들 중 가장 높은 설명력을 가지는 대표 항을 후보 메이저 피처로 선택하는 동작,
    상기 후보 메이저 피처의 유효성을 검증하는 동작,
    상기 유효성 검증 결과에 기반하여 상기 후보 메이저 피처 중 유효성 값이 지정된 임계 값 이상의 후보 메이저 피처를 해당 이동 경로의 해당 축에 대한 메이저 피처로 결정하는 동작을 포함하고,
    상기 유효성 검증은, 상기 선택된 메이저 피처에 대해서 상대적으로 비교 가능한 매트릭(metric)을 이용하여, 상기 선택된 메이저 피처가 충분한 설명력을 가지는지 판단하는 것을 포함하는 방법.
KR1020220014409A 2022-02-03 2022-02-03 전자 장치에서 실내 측위 방법 및 장치 KR20230117979A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020220014409A KR20230117979A (ko) 2022-02-03 2022-02-03 전자 장치에서 실내 측위 방법 및 장치
PCT/KR2023/000646 WO2023149679A1 (ko) 2022-02-03 2023-01-13 전자 장치에서 실내 측위 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220014409A KR20230117979A (ko) 2022-02-03 2022-02-03 전자 장치에서 실내 측위 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20230117979A true KR20230117979A (ko) 2023-08-10

Family

ID=87552566

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220014409A KR20230117979A (ko) 2022-02-03 2022-02-03 전자 장치에서 실내 측위 방법 및 장치

Country Status (2)

Country Link
KR (1) KR20230117979A (ko)
WO (1) WO2023149679A1 (ko)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160084659A1 (en) * 2014-09-24 2016-03-24 Xue Yang Magnetic field mapping and indoor location sensing
US10511392B2 (en) * 2016-10-14 2019-12-17 Board Of Regents, The University Of Texas System Systems, methods, and computer programs for wireless local area network localization
KR20210081576A (ko) * 2019-12-24 2021-07-02 삼성전자주식회사 실내 측위를 제공하는 전자 장치 및 그 방법
CN113709668A (zh) * 2021-09-06 2021-11-26 南京邮电大学 一种基于vire的改进室内定位方法

Also Published As

Publication number Publication date
WO2023149679A1 (ko) 2023-08-10

Similar Documents

Publication Publication Date Title
US20120254809A1 (en) Method and apparatus for motion gesture recognition
US10931880B2 (en) Electronic device and method for providing information thereof
US12056825B2 (en) Electronic device for providing indoor positioning and method therefor
US11778419B2 (en) Electronic device detecting location and method thereof
CN112150560B (zh) 确定消失点的方法、装置及计算机存储介质
US20230230318A1 (en) Method for updating 3-dimensional map using image, and electronic device for supporting same
US11907607B2 (en) Electronic apparatus and method for outputting image thereof
US11934622B2 (en) Split screen layout controlling method and device
US20230147478A1 (en) Method for calibrating geomagnetic sensor of electronic device and electronic device thereof
US11669201B2 (en) Electronic device and method for input coordinate prediction
US20240118763A1 (en) Foldable electronic device which acquires three-dimensional coordinate information and control method thereof
EP4369022A1 (en) Electronic device for determining angle-of-arrival of signal, and method for operating electronic device
US12118678B2 (en) Method and apparatus for displaying augmented reality object
KR20230117979A (ko) 전자 장치에서 실내 측위 방법 및 장치
KR102084161B1 (ko) 이미지를 보정하는 전자 장치 및 그 제어 방법
US20230260437A1 (en) Electronic device with flexible display
US20240240954A1 (en) Electronic device and method for providing location-based service
KR20220037128A (ko) 사용자의 위치 관련 정보를 결정하는 전자 장치 및 서버
KR20220107404A (ko) 안테나 설치 가이드를 제공하는 전자 장치 및 전자 장치의 동작 방법
US20230360245A1 (en) Measurement method using ar, and electronic device
US20240271960A1 (en) Electronic device and method for providing three-dimensional map
US20240303949A1 (en) Method for providing user interface and wearable electronic device for supporting the same
US20230315159A1 (en) Electronic device comprising antenna
EP4443278A1 (en) Electronic device and control method for configuring touch coordinates on edge area
KR20230051410A (ko) 위치 기반 서비스를 제공하기 위한 전자 장치 및 방법