KR20190117414A

KR20190117414A - Ar 장치 및 그 제어 방법

Info

Publication number: KR20190117414A
Application number: KR1020190118674A
Authority: KR
Inventors: 민동옥; 박대명
Original assignee: 엘지전자 주식회사
Priority date: 2019-08-30
Filing date: 2019-09-26
Publication date: 2019-10-16
Also published as: KR102638960B1; US11164383B2; US20210209853A1; WO2021040107A1

Abstract

AR 장치 및 그 제어 방법이 개시된다. 본 발명의 일 실시예에 따른 AR 장치의 제어 방법은, AR 장치와 유무선 통신으로 연결된 촬영수단과 AR 장치 간 거리를 연산하고, 촬영수단의 각도를 수신하고, AR 장치의 각도를 연산한다. 촬영수단에 의해 촬영된 실제객체와의 거리 관련 정보를 결정하하고, 실제객체에 대응되는 가상객체의 증강위치를 연산하여 표시수단을 통해 증강위치에 가상객체를 표시한다. 본 발명의 AR 장치는 인공 지능(Artificial Intelligence) 모듈, 로봇, 가상현실(virtual reality, VR) 장치, 5G 서비스와 관련된 장치 등과 연계될 수 있다.

Description

AR 장치 및 그 제어 방법 {AR Device and Method For Controlling The Same}

본 발명은 AR 장치 및 그 제어 방법에 관한 것으로서, 보다 상세하게, VR(Virtual Reality), AR(Augmented Reality), MR(Mixed Reality) 등에 사용되는 전자기기 및 그 제어 방법에 관한 것이다.

가상현실(Virtual Reality, VR)은 컴퓨터 등을 사용한 인공적인 기술로 만들어낸 실제와 유사하지만 실제가 아닌 어떤 특정한 환경이나 상황 혹은 그 기술 자체를 말한다.

증강현실(Augmented Reality, AR)은 실제 환경에 가상 사물이나 정보를 합성하여 원래의 환경에 존재하는 사물처럼 보이도록 하는 기술을 말한다.

혼합현실 (Mixed Reality, MR) 혹은 혼성현실 (Hybrid reality)은 가상 세계와 현실 세계를 합쳐서 새로운 환경이나 새로운 정보를 만들어 내는 것을 말한다. 특히, 실시간으로 현실과 가상에 존재하는 것 사이에서 실시간으로 상호작용할 수 있는 것을 말할 때 혼합현실이라 한다.

이 때, 만들어진 가상의 환경이나 상황 등은 사용자의 오감을 자극하며 실제와 유사한 공간적, 시간적 체험을 하게 함으로써 현실과 상상의 경계를 자유롭게 드나들게 한다. 또한 사용자는 이러한 환경에 단순히 몰입할 뿐만 아니라 실재하는 디바이스를 이용해 조작이나 명령을 가하는 등 이러한 환경 속에 구현된 것들과 상호작용이 가능하다.

최근, 이러한 기술분야에 사용되는 장비(gear)에 대한 연구가 활발히 이루어지고 있다.

한편, 종래에는 가전이나 자동차 수리 등을 진행할 때 보이지 않는 부분(내부 부분)은 해당 부분을 별도의 카메라(예: 내시경)를 사용하여 확인하였다.

하지만, 이와 같은 방법은 카메라가 보여주는 부분을 확인할 수 있으나, 정확하게 어떤 위치에 있는 부분이 보여지는 알 수 없을 뿐만 아니라, 현실감과 입체감이 떨어지는 단점이 있다.

본 발명은 전술한 문제점을 해결하는 것을 목적으로 한다.

본 발명은 객체의 실제 위치에 증강하여 높은 현실감과 입체감을 갖는 증강현실을 구현하기 위한 것이다.

또한, 본 발명은 사용자가 바라보는 방향에 맞게 객체를 증강하여 높은 현실감과 입체감을 갖는 증강현실을 구현하기 위한 것이다.

본 발명의 일 실시예에 따른 사용자의 헤드부에 착용되며, 표시수단을 갖는 전자기기의 증강방법은, 상기 전자기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산하는 단계와, 상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산하는 단계와, 상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하는 단계와, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하는 단계와, 상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하는 단계를 포함한다.

또한, 본 발명의 상기 방법에 있어서, 상기 가상객체는, 상기 촬영수단의 각도에서 상기 전자기기의 각도 방향으로 변환되어 표시될 수 있다..

또한, 본 발명의 상기 방법에 있어서, 상기 가상객체는, 상기 증강위치에 입체적으로 표시될 수 있다.

또한, 본 발명의 상기 방법에 있어서, 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계는, 상기 촬영수단과 상기 전자기기의 위치에 기반하여 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계를 포함할 수 있다.

또한, 본 발명의 상기 방법에 있어서, 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계는, 상기 촬영수단과 상기 전자기기의 위치를 초기화하는 단계와, 상기 초기화된 위치들에 상기 촬영수단과 상기 전자기기의 움직임을 반영하여 위치들을 연산하는 단계를 포함할 수 있다.

또한, 본 발명의 상기 방법에 있어서, 상기 거리 관련 정보는, 상기 실제객체와 상기 전자기기 간 거리, 상기 실제객체와 상기 촬영수단 간 거리, 또는 기설정된 값일 수 있다.

또한, 본 발명의 상기 방법에 있어서, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하는 단계는, 상기 촬영수단과 상기 전자기기 간 거리, 상기 촬영수단의 각도, 상기 전자기기의 각도, 및 상기 거리 관련 정보에 기반하여 상기 증강위치를 연산하는 단계를 포함할 수 있다.

또한, 본 발명의 상기 방법에 있어서, 상기 가상객체의 수신을 스케줄링하기 위해 사용되는 DCI(Downlink Control Information)을 네트워크로부터 수신하는 단계를 더 포함하고, 상기 가상객체의 이미지는, 상기 DCI에 기반하여 상기 네트워크로부터 수신될 수 있다.

또한, 본 발명의 상기 방법에 있어서, SSB(Synchronization signal block)에 기반하여 상기 네트워크와 초기 접속 절차를 수행하는 단계를 더 포함하고, 상기 가상객체의 이미지는 PUSCH를 통해 상기 네트워크로부터 수신되며, 상기 SSB와 상기 PUSCH의 DM-RS는 QCL type D에 대해 QCL되어 있을 수 있다.

또한, 본 발명의 다른 일 실시예에 따른 사용자의 헤드부에 착용되며, 표시수단을 갖는 전자기기는, 무선 신호를 송수신하기 위한 송수신부와, 상기 송수신부와 기능적으로 연결되어 있는 프로세서를 포함하고, 상기 프로세서는, 상기 전자기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산하고, 상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산하며, 상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하고, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하며, 상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하도록 제어한다.

본 발명은 객체의 실제 위치에 증강하여 높은 현실감과 입체감을 갖는 증강현실을 구현할 수 있다.

또한, 본 발명은 사용자가 바라보는 방향에 맞게 객체를 증강하여 높은 현실감과 입체감을 갖는 증강현실을 구현할 수 있다.

도 1은 AI 장치의 일 실시예를 나타내는 개념도이다.
도 2는 본 발명의 일 실시예에 따른 확장현실 전자 디바이스의 구성을 나타내는 블럭도이다.
도 3은 본 발명의 일 실시예에 따른 가상현실 전자 디바이스의 사시도이다.
도 4는 도 3의 가상현실 전자 디바이스를 사용하는 모습을 나타내는 도면이다.
도 5는 본 발명의 일 실시예에 따른 증강현실 전자 디바이스의 사시도이다.
도 6 내지 도 7은 본 발명의 일 실시예에 따른 디스플레이부에 적용 가능한 다양한 디스플레이 방식을 설명하기 위한 개념도이다.
도 8은 본 발명의 일 실시예에 따른 전자기기 및 촬영수단의 사용예를 나타내는 도면이다.
도 9는 본 발명의 증강 시스템 구조의 일예를 나타내는 도면이다.
도 10은 본 발명의 가상객체의 위치를 연산하는 방법의 일례를 간략히 나타내는 흐름도이다.
도 11은 실제객체와의 거리 연산의 구체적인 일례를 설명하기 위한 흐름도이다.
도 12 내지 도 19는 본 발명의 증강방법을 설명하기 위한 도면이다.
도 20은 본 발명의 일 실시예에 따른 전자기기의 증강방법을 설명하기 위한 흐름도이다.
도 21은 본 발명의 다른 일 실시예에 따른 전자기기의 블록도이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.

본 명세서에 개시된 실시예를 설명함에 있어서 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.

또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

[5G 시나리오]

5G의 세 가지 주요 요구 사항 영역은 (1) 개선된 모바일 광대역 (Enhanced Mobile Broadband, eMBB) 영역, (2) 다량의 머신 타입 통신 (massive Machine Type Communication, mMTC) 영역 및 (3) 초-신뢰 및 저 지연 통신 (Ultra-reliable and Low Latency Communications, URLLC) 영역을 포함한다.

일부 사용 예(Use Case)는 최적화를 위해 다수의 영역들이 요구될 수 있고, 다른 사용 예는 단지 하나의 핵심 성능 지표 (Key Performance Indicator, KPI)에만 포커싱될 수 있다. 5G는 이러한 다양한 사용 예들을 유연하고 신뢰할 수 있는 방법으로 지원하는 것이다.

eMBB는 기본적인 모바일 인터넷 액세스를 훨씬 능가하게 하며, 풍부한 양방향 작업, 클라우드 또는 증강현실에서 미디어 및 엔터테인먼트 애플리케이션을 커버한다. 데이터는 5G의 핵심 동력 중 하나이며, 5G 시대에서 처음으로 전용 음성 서비스를 볼 수 없을 수 있다. 5G에서, 음성은 단순히 통신 시스템에 의해 제공되는 데이터 연결을 사용하여 응용 프로그램으로서 처리될 것이 기대된다. 증가된 트래픽 양(volume)을 위한 주요 원인들은 콘텐츠 크기의 증가 및 높은 데이터 전송률을 요구하는 애플리케이션 수의 증가이다. 스트리밍 서비스 (오디오 및 비디오), 대화형 비디오 및 모바일 인터넷 연결은 더 많은 장치가 인터넷에 연결될수록 더 널리 사용될 것이다. 이러한 많은 응용 프로그램들은 사용자에게 실시간 정보 및 알림을 푸쉬하기 위해 항상 켜져 있는 연결성이 필요하다. 클라우드 스토리지 및 애플리케이션은 모바일 통신 플랫폼에서 급속히 증가하고 있으며, 이것은 업무 및 엔터테인먼트 모두에 적용될 수 있다. 그리고, 클라우드 스토리지는 상향링크 데이터 전송률의 성장을 견인하는 특별한 사용 예이다. 5G는 또한 클라우드의 원격 업무에도 사용되며, 촉각 인터페이스가 사용될 때 우수한 사용자 경험을 유지하도록 훨씬 더 낮은 단-대-단(end-to-end) 지연을 요구한다. 엔터테인먼트 예를 들어, 클라우드 게임 및 비디오 스트리밍은 모바일 광대역 능력에 대한 요구를 증가시키는 또 다른 핵심 요소이다. 엔터테인먼트는 기차, 차 및 비행기와 같은 높은 이동성 환경을 포함하는 어떤 곳에서든지 스마트폰 및 태블릿에서 필수적이다. 또 다른 사용 예는 엔터테인먼트를 위한 증강현실 및 정보 검색이다. 여기서, 증강현실은 매우 낮은 지연과 순간적인 데이터 양을 필요로 한다.

또한, 가장 많이 예상되는 5G 사용 예 중 하나는 모든 분야에서 임베디드 센서를 원활하게 연결할 수 있는 기능 즉, mMTC에 관한 것이다. 2020년까지 잠재적인 IoT 장치들은 204 억 개에 이를 것으로 예측된다. 산업 IoT는 5G가 스마트 도시, 자산 추적(asset tracking), 스마트 유틸리티, 농업 및 보안 인프라를 가능하게 하는 주요 역할을 수행하는 영역 중 하나이다.

URLLC는 주요 인프라의 원격 제어 및 자체-구동 차량(self-driving vehicle)과 같은 초 신뢰 / 이용 가능한 지연이 적은 링크를 통해 산업을 변화시킬 새로운 서비스를 포함한다. 신뢰성과 지연의 수준은 스마트 그리드 제어, 산업 자동화, 로봇 공학, 드론 제어 및 조정에 필수적이다.

다음으로, 다수의 사용 예들에 대해 보다 구체적으로 살펴본다.

5G는 초당 수백 메가 비트에서 초당 기가 비트로 평가되는 스트림을 제공하는 수단으로 FTTH (fiber-to-the-home) 및 케이블 기반 광대역 (또는 DOCSIS)을 보완할 수 있다. 이러한 빠른 속도는 가상현실과 증강현실뿐 아니라 4K 이상(6K, 8K 및 그 이상)의 해상도로 TV를 전달하는데 요구된다. VR(Virtual Reality) 및 AR(Augmented Reality) 애플리케이션들은 거의 몰입형(immersive) 스포츠 경기를 포함한다. 특정 응용 프로그램은 특별한 네트워크 설정이 요구될 수 있다. 예를 들어, VR 게임의 경우, 게임 회사들이 지연을 최소화하기 위해 코어 서버를 네트워크 오퍼레이터의 에지 네트워크 서버와 통합해야 할 수 있다.

자동차(Automotive)는 차량에 대한 이동 통신을 위한 많은 사용 예들과 함께 5G에 있어 중요한 새로운 동력이 될 것으로 예상된다. 예를 들어, 승객을 위한 엔터테인먼트는 동시의 높은 용량과 높은 이동성 모바일 광대역을 요구한다. 그 이유는 미래의 사용자는 그들의 위치 및 속도와 관계없이 고품질의 연결을 계속해서 기대하기 때문이다. 자동차 분야의 다른 활용 예는 증강현실 대시보드이다. 이는 운전자가 앞면 창을 통해 보고 있는 것 위에 어둠 속에서 물체를 식별하고, 물체의 거리와 움직임에 대해 운전자에게 말해주는 정보를 겹쳐서 디스플레이 한다. 미래에, 무선 모듈은 차량들 간의 통신, 차량과 지원하는 인프라구조 사이에서 정보 교환 및 자동차와 다른 연결된 디바이스들(예를 들어, 보행자에 의해 수반되는 디바이스들) 사이에서 정보 교환을 가능하게 한다. 안전 시스템은 운전자가 보다 안전한 운전을 할 수 있도록 행동의 대체 코스들을 안내하여 사고의 위험을 낮출 수 있게 한다. 다음 단계는 원격 조종되거나 자체 운전 차량(self-driven vehicle)이 될 것이다. 이는 서로 다른 자체 운전 차량들 사이 및 자동차와 인프라 사이에서 매우 신뢰성이 있고, 매우 빠른 통신을 요구한다. 미래에, 자체 운전 차량이 모든 운전 활동을 수행하고, 운전자는 차량 자체가 식별할 수 없는 교통 이상에만 집중하도록 할 것이다. 자체 운전 차량의 기술적 요구 사항은 트래픽 안전을 사람이 달성할 수 없을 정도의 수준까지 증가하도록 초 저 지연과 초고속 신뢰성을 요구한다.

스마트 사회(smart society)로서 언급되는 스마트 도시와 스마트 홈은 고밀도 무선 센서 네트워크로 임베디드될 것이다. 지능형 센서의 분산 네트워크는 도시 또는 집의 비용 및 에너지-효율적인 유지에 대한 조건을 식별할 것이다. 유사한 설정이 각 가정을 위해 수행될 수 있다. 온도 센서, 창 및 난방 컨트롤러, 도난 경보기 및 가전 제품들은 모두 무선으로 연결된다. 이러한 센서들 중 많은 것들이 전형적으로 낮은 데이터 전송 속도, 저전력 및 저비용이다. 하지만, 예를 들어, 실시간 HD 비디오는 감시를 위해 특정 타입의 장치에서 요구될 수 있다.

열 또는 가스를 포함한 에너지의 소비 및 분배는 고도로 분산화되고 있어, 분산 센서 네트워크의 자동화된 제어가 요구된다. 스마트 그리드는 정보를 수집하고 이에 따라 행동하도록 디지털 정보 및 통신 기술을 사용하여 이런 센서들을 상호 연결한다. 이 정보는 공급 업체와 소비자의 행동을 포함할 수 있으므로, 스마트 그리드가 효율성, 신뢰성, 경제성, 생산의 지속 가능성 및 자동화된 방식으로 전기와 같은 연료들의 분배를 개선하도록 할 수 있다. 스마트 그리드는 지연이 적은 다른 센서 네트워크로 볼 수도 있다.

건강 부문은 이동 통신의 혜택을 누릴 수 있는 많은 응용 프로그램을 보유하고 있다. 통신 시스템은 멀리 떨어진 곳에서 임상 진료를 제공하는 원격 진료를 지원할 수 있다. 이는 거리에 대한 장벽을 줄이는데 도움을 주고, 거리가 먼 농촌에서 지속적으로 이용하지 못하는 의료 서비스들로의 접근을 개선시킬 수 있다. 이는 또한 중요한 진료 및 응급 상황에서 생명을 구하기 위해 사용된다. 이동 통신 기반의 무선 센서 네트워크는 심박수 및 혈압과 같은 파라미터들에 대한 원격 모니터링 및 센서들을 제공할 수 있다.

무선 및 모바일 통신은 산업 응용 분야에서 점차 중요해지고 있다. 배선은 설치 및 유지 비용이 높다. 따라서, 케이블을 재구성할 수 있는 무선 링크들로의 교체 가능성은 많은 산업 분야에서 매력적인 기회이다. 그러나, 이를 달성하는 것은 무선 연결이 케이블과 비슷한 지연, 신뢰성 및 용량으로 동작하는 것과, 그 관리가 단순화될 것이 요구된다. 낮은 지연과 매우 낮은 오류 확률은 5G로 연결될 필요가 있는 새로운 요구 사항이다.

물류(logistics) 및 화물 추적(freight tracking)은 위치 기반 정보 시스템을 사용하여 어디에서든지 인벤토리(inventory) 및 패키지의 추적을 가능하게 하는 이동 통신에 대한 중요한 사용 예이다. 물류 및 화물 추적의 사용 예는 전형적으로 낮은 데이터 속도를 요구하지만 넓은 범위와 신뢰성 있는 위치 정보가 필요하다.

본 명세서에서 후술할 본 발명은 전술한 5G의 요구 사항을 만족하도록 각 실시예를 조합하거나 변경하여 구현될 수 있다.

도 1은 AI 장치의 일 실시예를 나타내는 개념도이다.

도 1을 참조하면, AI 시스템은 AI 서버(16), 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 중에서 적어도 하나 이상이 클라우드 네트워크(10)와 연결된다. 여기서, AI 기술이 적용된 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 등을 AI 장치(11 내지 15)라 칭할 수 있다.

클라우드 네트워크(10)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(10)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.

즉, AI 시스템을 구성하는 각 장치들(11 내지 16)은 클라우드 네트워크(10)를 통해 서로 연결될 수 있다. 특히, 각 장치들(11 내지 16)은 기지국을 통해서 서로 통신할 수도 있지만, 기지국을 통하지 않고 직접 서로 통신할 수도 있다.

AI 서버(16)는 AI 프로세싱을 수행하는 서버와 빅 데이터에 대한 연산을 수행하는 서버를 포함할 수 있다.

AI 서버(16)는 AI 시스템을 구성하는 AI 장치들인 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 중에서 적어도 하나 이상과 클라우드 네트워크(10)을 통하여 연결되고, 연결된 AI 장치들(11 내지 15)의 AI 프로세싱을 적어도 일부를 도울 수 있다.

이 때, AI 서버(16)는 AI 장치(11 내지 15)를 대신하여 머신 러닝 알고리즘에 따라 인공 신경망을 학습시킬 수 있고, 학습 모델을 직접 저장하거나 AI 장치(11 내지 15)에 전송할 수 있다.

이 때, AI 서버(16)는 AI 장치(11 내지 15)로부터 입력 데이터를 수신하고, 학습 모델을 이용하여 수신한 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성하여 AI 장치(11 내지 15)로 전송할 수 있다.

또는, AI 장치(11 내지 15)는 직접 학습 모델을 이용하여 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수도 있다.

<AI+로봇>

로봇(11)은 AI 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.

로봇(11)은 동작을 제어하기 위한 로봇 제어 모듈을 포함할 수 있고, 로봇 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다.

로봇(11)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 로봇(11)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 사용자 상호작용에 대한 응답을 결정하거나, 동작을 결정할 수 있다.

여기서, 로봇(11)은 이동 경로 및 주행 계획을 결정하기 위하여, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.

로봇(11)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 로봇(11)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 동작을 결정할 수 있다. 여기서, 학습 모델은 로봇(11)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.

이 때, 로봇(11)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.

로봇(11)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 로봇(11)을 주행시킬 수 있다.

맵 데이터에는 로봇(11)이 이동하는 공간에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 벽, 문 등의 고정 객체들과 화분, 책상 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.

또한, 로봇(11)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이 때, 로봇(11)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.

<AI+자율주행>

자율주행 차량(12)은 AI 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.

자율주행 차량(12)은 자율주행 기능을 제어하기 위한 자율주행 제어 모듈을 포함할 수 있고, 자율주행 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다. 자율주행 제어 모듈은 자율주행 차량(12)의 구성으로써 내부에 포함될 수도 있지만, 자율주행 차량(12)의 외부에 별도의 하드웨어로 구성되어 연결될 수도 있다.

자율주행 차량(12)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 자율주행 차량(12)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 동작을 결정할 수 있다.

여기서, 자율주행 차량(12)은 이동 경로 및 주행 계획을 결정하기 위하여, 로봇(11)과와 마찬가지로, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.

특히, 자율주행 차량(12)은 시야가 가려지는 영역이나 일정 거리 이상의 영역에 대한 환경이나 객체는 외부 장치들로부터 센서 정보를 수신하여 인식하거나, 외부 장치들로부터 직접 인식된 정보를 수신할 수 있다.

자율주행 차량(12)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 자율주행 차량(12)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 주행 동선을 결정할 수 있다. 여기서, 학습 모델은 자율주행 차량(12)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.

이 때, 자율주행 차량(12)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.

자율주행 차량(12)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 자율주행 차량(12)을 주행시킬 수 있다.

맵 데이터에는 자율주행 차량(12)이 주행하는 공간(예컨대, 도로)에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 가로등, 바위, 건물 등의 고정 객체들과 차량, 보행자 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.

또한, 자율주행 차량(12)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이 때, 자율주행 차량(12)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.

<AI+XR>

XR 장치(13)는 AI 기술이 적용되어, HMD(Head-Mount Display), 차량에 구비된 HUD(Head-Up Display), 텔레비전, 휴대폰, 스마트 폰, 컴퓨터, 웨어러블 디바이스, 가전 기기, 디지털 사이니지, 차량, 고정형 로봇이나 이동형 로봇 등으로 구현될 수 있다.

XR 장치(13)는 다양한 센서들을 통해 또는 외부 장치로부터 획득한 3차원 포인트 클라우드 데이터 또는 이미지 데이터를 분석하여 3차원 포인트들에 대한 위치 데이터 및 속성 데이터를 생성함으로써 주변 공간 또는 현실 객체에 대한 정보를 획득하고, 출력할 XR 객체를 렌더링하여 출력할 수 있다. 예컨대, XR 장치(13)는 인식된 물체에 대한 추가 정보를 포함하는 XR 객체를 해당 인식된 물체에 대응시켜 출력할 수 있다.

XR 장치(13)는 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, XR 장치(13)는 학습 모델을 이용하여 3차원 포인트 클라우드 데이터 또는 이미지 데이터에서 현실 객체를 인식할 수 있고, 인식한 현실 객체에 상응하는 정보를 제공할 수 있다. 여기서, 학습 모델은 XR 장치(13)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.

이 때, XR 장치(13)는 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.

<AI+로봇+자율주행>

로봇(11)은 AI 기술 및 자율주행 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.

AI 기술과 자율주행 기술이 적용된 로봇(11)은 자율주행 기능을 가진 로봇 자체나, 자율주행 차량(12)과 상호작용하는 로봇(11) 등을 의미할 수 있다.

자율주행 기능을 가진 로봇(11)은 사용자의 제어 없이도 주어진 동선에 따라 스스로 움직이거나, 동선을 스스로 결정하여 움직이는 장치들을 통칭할 수 있다.

자율주행 기능을 가진 로봇(11) 및 자율주행 차량(12)은 이동 경로 또는 주행 계획 중 하나 이상을 결정하기 위해 공통적인 센싱 방법을 사용할 수 있다. 예를 들어, 자율주행 기능을 가진 로봇(11) 및 자율주행 차량(12)은 라이다, 레이더, 카메라를 통해 센싱된 정보를 이용하여, 이동 경로 또는 주행 계획 중 하나 이상을 결정할 수 있다.

자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)과 별개로 존재하면서, 자율주행 차량(12)의 내부 또는 외부에서 자율주행 기능에 연계되거나, 자율주행 차량(12)에 탑승한 사용자와 연계된 동작을 수행할 수 있다.

이 때, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)을 대신하여 센서 정보를 획득하여 자율주행 차량(12)에 제공하거나, 센서 정보를 획득하고 주변 환경 정보 또는 객체 정보를 생성하여 자율주행 차량(12)에 제공함으로써, 자율주행 차량(12)의 자율주행 기능을 제어하거나 보조할 수 있다.

또는, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)에 탑승한 사용자를 모니터링하거나 사용자와의 상호작용을 통해 자율주행 차량(12)의 기능을 제어할 수 있다. 예컨대, 로봇(11)은 운전자가 졸음 상태인 경우로 판단되는 경우, 자율주행 차량(12)의 자율주행 기능을 활성화하거나 자율주행 차량(12)의 구동부의 제어를 보조할 수 있다. 여기서, 로봇(11)이 제어하는 자율주행 차량(12)의 기능에는 단순히 자율주행 기능뿐만 아니라, 자율주행 차량(12)의 내부에 구비된 네비게이션 시스템이나 오디오 시스템에서 제공하는 기능도 포함될 수 있다.

또는, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)의 외부에서 자율주행 차량(12)에 정보를 제공하거나 기능을 보조할 수 있다. 예컨대, 로봇(11)은 스마트 신호등과 같이 자율주행 차량(12)에 신호 정보 등을 포함하는 교통 정보를 제공할 수도 있고, 전기 차량의 자동 전기 충전기와 같이 자율주행 차량(12)과 상호작용하여 충전구에 전기 충전기를 자동으로 연결할 수도 있다.

<AI+로봇+XR>

로봇(11)은 AI 기술 및 XR 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇, 드론 등으로 구현될 수 있다.

XR 기술이 적용된 로봇(11)은 XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇을 의미할 수 있다. 이 경우, 로봇(11)은 XR 장치(13)와 구분되며 서로 연동될 수 있다.

XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇(11)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 로봇(11) 또는 XR 장치(13)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(13)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 로봇(11)은 XR 장치(13)를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.

예컨대, 사용자는 XR 장치(13) 등의 외부 장치를 통해 원격으로 연동된 로봇(11)의 시점에 상응하는 XR 영상을 확인할 수 있고, 상호작용을 통하여 로봇(11)의 자율주행 경로를 조정하거나, 동작 또는 주행을 제어하거나, 주변 객체의 정보를 확인할 수 있다.

<AI+자율주행+XR>

자율주행 차량(12)은 AI 기술 및 XR 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.

XR 기술이 적용된 자율주행 차량(12)은 XR 영상을 제공하는 수단을 구비한 자율주행 차량이나, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량 등을 의미할 수 있다. 특히, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량(12)은 XR 장치(13)와 구분되며 서로 연동될 수 있다.

XR 영상을 제공하는 수단을 구비한 자율주행 차량(12)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하고, 획득한 센서 정보에 기초하여 생성된 XR 영상을 출력할 수 있다. 예컨대, 자율주행 차량(12)은 HUD를 구비하여 XR 영상을 출력함으로써, 탑승자에게 현실 객체 또는 화면 속의 객체에 대응되는 XR 객체를 제공할 수 있다.

이 때, XR 객체가 HUD에 출력되는 경우에는 XR 객체의 적어도 일부가 탑승자의 시선이 향하는 실제 객체에 오버랩되도록 출력될 수 있다. 반면, XR 객체가 자율주행 차량(12)의 내부에 구비되는 디스플레이에 출력되는 경우에는 XR 객체의 적어도 일부가 화면 속의 객체에 오버랩되도록 출력될 수 있다. 예컨대, 자율주행 차량(12)은 차로, 타 차량, 신호등, 교통 표지판, 이륜차, 보행자, 건물 등과 같은 객체와 대응되는 XR 객체들을 출력할 수 있다.

XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량(12)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 자율주행 차량(12) 또는 XR 장치(13)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(13)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 자율주행 차량(12)은 XR 장치(13) 등의 외부 장치를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.

[확장현실 기술]

확장현실(XR: eXtended Reality)은 가상현실(VR: Virtual Reality), 증강현실(AR: Augmented Reality), 혼합현실(MR: Mixed Reality)을 총칭한다. VR 기술은 현실 세계의 객체나 배경 등을 CG 영상으로만 제공하고, AR 기술은 실제 사물 영상 위에 가상으로 만들어진 CG 영상을 함께 제공하며, MR 기술은 현실 세계에 가상 객체들을 섞고 결합시켜서 제공하는 컴퓨터 그래픽 기술이다.

MR 기술은 현실 객체와 가상 객체를 함께 보여준다는 점에서 AR 기술과 유사하다. 그러나, AR 기술에서는 가상 객체가 현실 객체를 보완하는 형태로 사용되는 반면, MR 기술에서는 가상 객체와 현실 객체가 동등한 성격으로 사용된다는 점에서 차이점이 있다.

XR 기술은 HMD(Head-Mount Display), HUD(Head-Up Display), 휴대폰, 태블릿 PC, 랩탑, 데스크탑, TV, 디지털 사이니지 등에 적용될 수 있고, XR 기술이 적용된 장치를 XR 장치(XR Device)라 칭할 수 있다.

이하에서는 본 발명의 실시예에 따른 확장현실을 제공하는 전자 디바이스에 대해 설명하기로 한다.

도 2는 본 발명의 일 실시예에 따른 확장현실 전자 디바이스(20)의 구성을 나타내는 블럭도이다.

도 2를 참조하면, 확장현실 전자 디바이스(20)는 무선 통신부(21), 입력부(22), 센싱부(23), 출력부(24), 인터페이스부(25), 메모리(26), 제어부(27) 및 전원 공급부(28) 등을 포함할 수 있다. 도 2에 도시된 구성요소들은 전자 디바이스(20)를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 전자 디바이스(20)는 위에서 열거된 구성요소들 보다 많거나, 적은 구성요소들을 가질 수 있다.

보다 구체적으로, 위 구성요소들 중 무선 통신부(21)는, 전자 디바이스(20)와 무선 통신 시스템 사이, 전자 디바이스(20)와 다른 전자 디바이스 사이, 또는 전자 디바이스(20)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(21)는, 전자 디바이스(20)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.

이러한 무선 통신부(21)는, 방송 수신 모듈, 이동통신 모듈, 무선 인터넷 모듈, 근거리 통신 모듈, 위치정보 모듈 중 적어도 하나를 포함할 수 있다.

입력부(22)는, 영상 신호 입력을 위한 카메라 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(22)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.

센싱부(23)는 전자 디바이스(20) 내 정보, 전자 디바이스(20)를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다.

예를 들어, 센싱부(23)는 근접센서(proximity sensor), 조도 센서(illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 촬영수단), 마이크로폰(microphone), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 전자 디바이스(20)는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.

출력부(24)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부, 음향 출력부, 햅틱 모듈, 광 출력부 중 적어도 하나를 포함할 수 있다. 디스플레이부는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 증강현실 전자 디바이스(20)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력수단으로써 기능함과 동시에, 증강현실 전자 디바이스(20)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.

인터페이스부(25)는 전자 디바이스(20)에 연결되는 다양한 종류의 외부장치와의 통로 역할을 수행한다. 인터페이스부(25)를 통해 전자 디바이스(20)는 외부장치로부터 가상현실 또는 증강현실 컨텐츠를 제공받을 수 있고, 다양한 입력 신호, 센싱 신호, 데이터를 주고받음으로써, 상호 인터랙션을 수행할 수 있다.

예를 들어, 인터페이스부(25)는 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다.

또한, 메모리(26)는 전자 디바이스(20)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(26)는 전자 디바이스(20)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 전자 디바이스(20)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 전자 디바이스(20)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 전자 디바이스(20)상에 존재할 수 있다.

제어부(27)는 응용 프로그램과 관련된 동작 외에도, 통상적으로 전자 디바이스(20)의 전반적인 동작을 제어한다. 제어부(27)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리할 수 있다.

또한, 제어부(27)는 메모리(26)에 저장된 응용 프로그램을 구동함으로써 구성요소들 중 적어도 일부를 제어하여 사여 사용자에게 적절한 정보를 제공하거나 기능을 처리할 수 있다. 나아가, 제어부(27)는 응용 프로그램의 구동을 위하여 전자 디바이스(20)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.

또한, 제어부(27)는 센싱부(23)에 포함된 자이로스코프 센서, 중력 센서, 모션 센서 등을 이용하여 전자 디바이스(20)나 사용자의 움직임을 감지할 수 있다. 또는 제어부(27)는 센싱부(23)에 포함된 근접센서, 조도센서, 자기센서, 적외선 센서, 초음파 센서, 광 센서 등을 이용하여 전자 디바이스(20)나 사용자 주변으로 다가오는 대상체를 감지할 수도 있다. 그 밖에도, 제어부(27)는 전자 디바이스(20)와 연동하여 동작하는 컨트롤러에 구비된 센서들을 통해서도 사용자의 움직임을 감지할 수 있다.

또한, 제어부(27)는 메모리(26)에 저장된 응용 프로그램을 이용하여 전자 디바이스(20)의 동작(또는 기능)을 수행할 수 있다.

전원 공급부(28)는 제어부(27)의 제어 하에서, 외부의 전원 또는 내부의 전원을 인가받아 전자 디바이스(20)에 포함된 각 구성요소들에 전원을 공급한다. 전원 공급부(28)는 배터리를 포함하며, 배터리는 내장형 또는 교체가능한 형태로 마련될 수 있다.

위 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 전자 디바이스의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 전자 디바이스의 동작, 제어, 또는 제어방법은 메모리(26)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 전자 디바이스 상에서 구현될 수 있다.

이하, 본 발명의 일 예로서 설명되는 전자 디바이스는 HMD(Head Mounted Display)에 적용되는 실시예를 기준으로 설명한다. 그러나 본 발명에 따른 전자 디바이스의 실시예에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 및 웨어러블 디바이스(wearable device) 등이 포함될 수 있다. 웨어러블 디바이스에는 HMD 이외에도 워치형 단말기(smart watch)와 컨택트 렌즈(Contact lens) 등이 포함될 수 있다.

도 3은 본 발명의 일 실시예에 따른 가상현실 전자 디바이스의 사시도이고, 도 4는 도 3의 가상현실 전자 디바이스를 사용하는 모습을 나타낸다.

도면을 참조하면, 가상현실 전자 디바이스는 사용자의 머리에 장착되는 박스 타입의 전자 디바이스(30)와, 사용자가 파지하여 조작할 수 있는 컨트롤러(40: 40a, 40b)를 포함할 수 있다.

전자 디바이스(30)는 인체의 두부에 착용되어 지지되는 헤드유닛(31)과, 헤드유닛(31)에 결합되어 사용자의 눈 앞에 가상의 이미지 또는 영상을 표시하는 디스플레이유닛(32)을 포함한다. 도면에는 헤드유닛(31)과 디스플레이유닛(32)이 별개의 유닛으로 구성되어 서로 결합되는 것으로 도시되지만, 이와 달리 디스플레이유닛(32)은 헤드유닛(31)에 일체로 구성될 수도 있다.

헤드유닛(31)은 중량감이 있는 디스플레이유닛(32)의 무게를 분산시킬 수 있도록 사용자의 머리를 감싸는 구조를 채택할 수 있다. 그리고 각기 다른 사용자의 두상 크기에 맞출 수 있도록 길이 가변되는 밴드 등이 구비될 수 있다.

디스플레이유닛(32)은 헤드유닛(31)에 결합되는 커버부(32a)와 디스플레이 패널을 내측에 수용하는 디스플레이부(32b)를 구성한다.

커버부(32a)는 고글 프레임이라고도 불리며, 전체적으로 터브 형상(tub shape)일 수 있다. 커버부(32a)는 내부에 공간이 형성되고 전면에 사용자의 안구의 위치에 대응되는 개구가 형성된다.

디스플레이부(32b)는 커버부(32a)의 전면 프레임에 장착되고, 사용자의 양 안에 대응되는 위치에 마련되어 화면정보(영상 또는 이미지 등)를 출력한다. 디스플레이부(32b)에서 출력되는 화면정보는 가상현실 컨텐츠뿐만 아니라, 카메라 등 촬영수단을 통해 수집되는 외부 이미지를 포함한다.

그리고 디스플레이부(32b)에 출력되는 가상현실 컨텐츠는 전자 디바이스(30) 자체에 저장된 것이거나 또는 외부장치(60)에 저장된 것일 수 있다. 예를 들어, 화면정보가 전자 디바이스(30)에 저장된 가상 공간 영상인 경우, 전자 디바이스(30)는 상기 가상 공간의 영상을 처리하기 위한 이미지 프로세싱 및 렌더링 처리를 수행하고, 이미지 프로세싱 및 렌더링 처리 결과 생성된 화상 정보를 디스플레이부(32b)를 통해 출력할 수 있다. 반면, 외부장치(60)에 저장된 가상 공간 영상인 경우, 외부장치(60)가 이미지 프로세싱 및 렌더링 처리를 수행하고, 그 결과 생성된 화상 정보를 전자 디바이스(30)에 전송해줄 수 있다. 그러면 전자 디바이스(30)는 외부장치(60)로부터 수신된 3D 화상 정보를 디스플레이부(32b)를 통해 출력할 수 있다.

디스플레이부(32b)는 커버부(32a)의 개구 전방에 마련되는 디스플레이 패널을 포함하고, 디스플레이 패널은 LCD 또는 OLED 패널일 수 있다. 또는 디스플레이부(32b)는 스마트폰의 디스플레이부일 수 있다. 즉, 커버부(32a)의 전방에 스마트폰이 탈착될 수 있는 구조를 채택할 수 있다.

그리고 디스플레이유닛(32)의 전방에는 촬영수단과 각종 센서류가 설치될 수 있다.

촬영수단(예를 들어, 카메라)는 전방의 영상을 촬영(수신, 입력)하도록 형성되고, 특히 사용자가 바라보는 현실 세계를 영상으로 획득할 수 있다. 촬영수단은 디스플레이부(32b)의 중앙 위치에 한 개 마련되거나, 서로 대칭되는 위치에 두 개 이상 마련될 수 있다. 복수의 촬영수단을 구비하는 경우 입체 영상을 획득할 수도 있다. 촬영수단으로부터 획득되는 외부 이미지에 가상 이미지를 결합한 이미지가 디스플레이부(32b)를 통해 표시될 수 있다.

센서류는 자이로스코프 센서, 모션 센서 또는 IR 센서 등을 포함할 수 있다. 이에 대해서는 뒤에서 자세히 설명하기로 한다.

그리고 디스플레이유닛(32)의 후방에는 안면패드(facial pad, 33)가 설치될 수 있다. 안면패드(33)는 사용자의 안구 주위에 밀착되고, 쿠션감이 있는 소재로 마련되어 사용자의 얼굴에 편안한 착용감을 제공한다. 그리고 안면패드(33)는 사람의 얼굴 전면 윤곽에 대응하는 형상을 지니면서도 플렉서블한 소재로 마련되어 각기 다른 사용자의 얼굴 형상에도 안면에 밀착될 수 있어 외부 빛이 눈으로 침입하는 것을 차단할 수 있다.

그 밖에도 전자 디바이스(30)는 제어명령을 입력 받기 위하여 조작되는 사용자 입력부, 그리고 음향 출력부와 제어부가 구비될 수 있다. 이에 대한 설명은 전과 동일하므로 생략한다.

또한, 가상현실 전자 디바이스는 박스 타입의 전자 디바이스(30)를 통해 표시되는 가상 공간 영상과 관련된 동작을 제어하기 위한 컨트롤러(40: 40a, 40b)가 주변장치로 구비될 수 있다.

컨트롤러(40)는 사용자가 양손에 쉽게 그립(grip)할 수 있는 형태로 마련되고, 외측면에는 사용자 입력을 수신하기 위한 터치패드(또는 트랙패드), 버튼 등이 구비될 수 있다.

컨트롤러(40)는 전자 디바이스(30)와 연동하여 디스플레이부(32b)에 출력되는 화면을 제어하는데 사용될 수 있다. 컨트롤러(40)는 사용자가 쥐는(grip) 그립부와, 그립부로부터 연장되며 다양한 센서들과 마이크로 프로세서가 내장된 헤드부를 포함하여 구성될 수 있다. 그립부는 사용자가 쉽게 쥘 수 있도록 세로로 긴 바 형태로 이루어지고 헤드부는 링 형태로 이루어질 수 있다.

그리고 컨트롤러(40)는 IR 센서, 모션 추적 센서, 마이크로 프로세서, 및 입력부를 포함할 수 있다. 예를 들어, IR 센서는 후술하는 위치추적장치(50)로부터 방사되는 빛을 수신하여서, 사용자 동작을 추적하는데 사용된다. 모션 추적 센서는 3축의 가속도 센서와, 3축의 자이로스코프, 디지털 모션 프로세서를 하나의 집합체로 포함하여 구성될 수 있다.

그리고 컨트롤러(40)의 그립부에는 사용자 입력부가 마련될 수 있다. 사용자 입력부는 예를 들어, 그립부의 내측에 배치된 키들과, 그립부의 외측에 구비된 터치패드(트랙 패드), 트리거 버튼 등을 포함할 수 있다.

한편, 컨트롤러(40)는 전자 디바이스(30)의 제어부(27)로부터 수신되는 신호에 대응하는 피드백을 수행할 수 있다. 예를 들어, 컨트롤러(40)는 진동, 소리, 또는 광 등을 통해 사용자에게 피드백 신호를 전달할 수 있다.

또한, 사용자는 컨트롤러(40) 조작을 통해 전자 디바이스(30)에 구비된 카메라를 통해 확인되는 외부 환경 이미지에 접근할 수 있다. 즉, 사용자는 가상 공간 체험 중에도 전자 디바이스(30)를 벗지 않고 컨트롤러(40)의 조작을 통해 외부 환경을 즉시 확인할 수 있다.

또한, 가상현실 전자 디바이스는 위치추적장치(50)를 더 포함할 수 있다. 위치추적장치(50)는 라이트하우스(lighthouse) 시스템라는 위치추적(positional tracking) 기술을 적용하여 전자 디바이스(30) 또는 컨트롤러(40)의 위치를 검출하고, 이를 이용하여 사용자의 360도 모션을 추적하는데 도움을 준다.

위치추적시스템은 닫힌 특정 공간내에 하나 이상의 위치추적장치(50: 50a, 50b)를 설치함으로써 구현될 수 있다. 복수의 위치추적장치(50)는 인식 가능한 공간 범위가 극대화될 수 있는 위치, 예를 들어 대각선 방향으로 서로 마주보는 위치에 설치될 수 있다.

전자 디바이스(30) 또는 컨트롤러(40)는 복수의 위치추적장치(50)에 포함된 LED 또는 레이저 방출기들로부터 방사되는 빛을 수신하고, 해당 빛이 수신된 위치와 시간 간의 상관관계에 기초하여, 닫힌 특정 공간 내에서의 사용자의 위치를 정확하게 판단할 수 있다. 이를 위해, 위치추적장치(50)에는 IR 램프와 2축의 모터가 각각 포함될 수 있으며, 이를 통해 전자 디바이스(30) 또는 컨트롤러(40)와 신호를 주고받는다.

또한, 전자 디바이스(30)는 외부장치(60)(예를 들어, PC, 스마트폰, 또는 태블릿 등)와 유/무선 통신을 수행할 수 있다. 전자 디바이스(30)는 연결된 외부장치(60)에 저장된 가상 공간 영상을 수신하여 사용자에게 표시할 수 있다.

한편, 이상 설명한 컨트롤러(40)와 위치추적장치(50)는 필수 구성은 아니므로, 본 발명의 실시예에서는 생략될 수 있다. 예를 들어, 전자 디바이스(30)에 설치된 입력장치가 컨트롤러(40)를 대신할 수 있고, 전자 디바이스(30)에 설치된 센서류로부터 자체적으로 위치 정보를 판단할 수 있다.

도 5는 본 발명의 일 실시예에 따른 증강현실 전자 디바이스의 사시도이다.

도 5에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전자 디바이스는 프레임(100), 제어부(200) 및 디스플레이부(300)를 포함할 수 있다.

전자 디바이스는 글라스 타입(smart glass)으로 마련될 수 있다. 글라스 타입의 전자 디바이스는 인체의 두부에 착용 가능하도록 구성되며, 이를 위한 프레임(케이스, 하우징 등)(100)을 구비할 수 있다. 프레임(100)은 착용이 용이하도록 플렉서블 재질로 형성될 수 있다.

프레임(100)은 두부에 지지되며, 각종 부품들이 장착되는 공간을 마련한다. 도시된 바와 같이, 프레임(100)에는 제어부(200), 사용자 입력부(130) 또는 음향 출력부(140) 등과 같은 전자부품이 장착될 수 있다. 또한, 프레임(100)에는 좌안 및 우안 중 적어도 하나를 덮는 렌즈가 착탈 가능하게 장착될 수 있다.

프레임(100)은 도면에 도시된 바와 같이, 사용자의 신체 중 안면에 착용되는 안경 형태를 가질 수 있으나, 이에 반드시 한정되는 것은 아니고, 사용자의 안면에 밀착되어 착용되는 고글 등의 형태를 가질 수도 있다.

이와 같은 프레임(100)은 적어도 하나의 개구부를 구비하는 전면 프레임(110)과 전면 프레임(110)과 교차하는 제1 방향(y)으로 연장되어 서로 나란한 한 쌍의 측면 프레임(120)을 포함할 수 있다.

제어부(200)는 전자 디바이스에 구비되는 각종 전자부품을 제어하도록 마련된다.

제어부(200)는 사용자에게 보여지는 이미지 또는 이미지가 연속되는 영상을 생성할 수 있다. 제어부(200)는 이미지를 발생시키는 이미지 소스 패널과 이미지 소스 패널에서 발생된 빛을 확산 및 수렴하는 복수의 렌즈 등을 포함할 수 있다.

제어부(200)는 두 측면 프레임(120) 중 어느 하나의 측면 프레임(120)에 고정될 수 있다. 예를 들어, 제어부(200)는 어느 하나의 측면 프레임(120) 내측 또는 외측에 고정되거나, 어느 하나의 측면 프레임(120)의 내부에 내장되어 일체로 형성될 수 있다. 또는 제어부(200)가 전면 프레임(110)에 고정되거나 전자 디바이스와 별도로 마련될 수도 있다.

디스플레이부(300)는 헤드 마운티드 디스플레이(Head Mounted Display, HMD) 형태로 구현될 수 있다. HMD 형태란, 두부에 장착되어, 사용자의 눈 앞에 직접 영상을 보여주는 디스플레이 방식을 말한다. 사용자가 전자 디바이스를 착용하였을 때, 사용자의 눈 앞에 직접 영상을 제공할 수 있도록, 디스플레이부(300)는 좌안 및 우안 중 적어도 하나에 대응되게 배치될 수 있다. 본 도면에서는, 사용자의 우안을 향하여 영상을 출력할 수 있도록, 디스플레이부(300)가 우안에 대응되는 부분에 위치한 것을 예시하고 있다.

디스플레이부(300)는 사용자가 외부 환경을 시각적으로 인지하면서, 동시에 제어부(200)에서 생성된 이미지가 사용자에게 보이도록 할 수 있다. 예를 들어, 디스플레이부(300)는 프리즘을 이용하여 디스플레이 영역에 이미지를 투사할 수 있다.

그리고 디스플레이부(300)는 투사된 이미지와 전방의 일반 시야(사용자가 눈을 통하여 바라보는 범위)가 동시에 보이도록 하기 위해 투광성으로 형성될 수 있다. 예를 들어, 디스플레이부(300)는 반투명일 수 있으며, 글라스(glass)를 포함하는 광학 소자로 형성될 수 있다.

그리고 디스플레이부(300)는 전면 프레임(110)에 포함된 개구부에 삽입되어 고정되거나, 개부구의 배면, 즉 개구부와 사용자 사이]에 위치하여, 전면 프레임(110)에 고정될 수 있다. 도면에는 디스플레이부(300)가 개구부의 배면에 위치하여, 전면 프레임(110)에 고정된 경우를 일 예로 도시하였지만, 이와 달리 디스플레이부(300)는 프레임(100)의 다양한 위치에 배치 및 고정될 수 있다.

전자 디바이스는 도 5에 도시된 바와 같이, 제어부(200)에서 이미지에 대한 이미지 광을 디스플레이부(300)의 일측으로 입사시키면, 이미지광이 디스플레이부(300)를 통하여 타측으로 출사되어, 제어부(200)에서 생성된 이미지를 사용자에게 보이도록 할 수 있다.

이에 따라, 사용자는 프레임(100)의 개구부를 통하여 외부 환경을 보면서 동시에 제어부(200)에서 생성된 이미지를 함께 볼 수 있게 된다. 즉, 디스플레이부(300)를 통하여 출력되는 영상은 일반 시야와 오버랩(overlap)되어 보일 수 있다. 전자 디바이스는 이러한 디스플레이 특성을 이용하여 현실의 이미지나 배경에 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 증강현실(Augmented Reality, AR)을 제공할 수 있다.

도 6에 도시된 바와 같은 마이크로 엘이디(Micro LED)를 이용하는 디스플레이부(300-5)와, 도7에 도시된 바와 같은 컨택트 렌즈(Contact lens)를 이용하는 디스플레이부(300-6)도 가능하다.

도 6을 참조하면, 디스플레이부(300-5)의 광학 소자는 예를 들어, LCoS(liquid crystal on silicon) 소자, LCD(liquid crystal display) 소자, OLED(organic light emitting diode) 디스플레이 소자, DMD(digital micromirror device)를 포함할 수 있고, 또한, Micro LED, QD(quantum dot) LED 등의 차세대 디스플레이 소자를 포함할 수 있다.

제어부(200)에서 증강현실 화상에 대응하도록 생성된 이미지 데이터는 전도성 입력라인(316)을 따라 디스플레이부(300-5)로 전달되고, 디스플레이부(300-5)는 복수의 광학 소자(314)(예를 들어, 마이크로LED)들을 통해 영상신호를 광으로 변환하여 사용자의 눈에 조사한다.

복수의 광학 소자(314)들은 격자 구조(예를 들어, 100*100)로 배치되어 디스플레이 영역(314a)을 형성할 수 있다. 사용자는 디스플레이부(300-5) 내 디스플레이 영역(314a)을 통해 증강현실을 바라볼 수 있다. 그리고 복수의 광학 소자(314)들은 투명한 기판 상에 배치될 수 있다.

제어부(200)에서 생성된 이미지 신호는 전도성 입력라인(316)을 통해 디스플레이부(300-5)의 일 측에 마련되는 영상분할회로(315)로 전달되고, 영상분할회로(315)에서 복수의 분기로 분할되어 각 분기별로 배치되는 광학 소자(314)에 전달된다. 이 때, 영상분할회로(315)는 사용자의 시각 범위 밖에 위치하여 시선 간섭을 최소화할 수 있다.

도 7을 참조하면, 디스플레이부(300-5)는 컨택트 렌즈(Contact Lens)로 마련될 수 있다. 증강현실이 표시될 수 있는 컨택트 렌즈(300-5)는 스마트 컨택트 렌즈(Smart Contact lens)라고도 불린다. 스마트 컨택트 렌즈(300-5)는 복수의 광학 소자(317)가 중앙부에 격자구조로 배치될 수 있다.

스마트 컨택트 렌즈(300-5)는 광학 소자(317) 외에도 태양광 전지(318a), 배터리(318b), 제어부(200), 안테나(318c) 및 센서(318d) 등을 포함할 수 있다. 예를 들어, 센서(318d)는 눈물에서 혈당 수준을 확인할 수 있고, 제어부(200)는 센서(318d)의 신호를 처리하여 광학 소자(317)를 토해 혈당 정도를 증강현실로 표시하여 사용자가 실시간 확인할 수 있다.

위에서 살펴본 바와 같이, 본 발명의 일 실시예에 따른 디스플레이부(300)에는 프리즘 방식의 광학 소자, 웨이브 가이드 방식의 광학 소자, 광 가이드 광학 소자(LOE), 핀 미러 방식의 광학 소자 또는 표면 반사 방식의 광학 소자 중에서 선택되어 이용될 수 있다. 그 밖에도, 본 발명의 일 실시예에 따른 디스플레이부(300)에 적용 가능한 광학 소자는 망막 스캔 방식 등을 포함한다.

도 8은 본 발명의 일 실시예에 따른 전자기기 및 촬영수단의 사용예를 나타는 도면이다.

도 8을 참조하면, 사용자는 유무선 통신으로 연결된 전자기기(810)와 촬영수단(820)을 이용하여 객체의 외관 상 보이지 않는 부분(또는, 내부 구성) (830)을 입체감있게 확인하면서 수리를 진행할 수 있다. 예를 들면, 촬영수단(820)은 사용자가 수리하고자하는 냉장고의 특정 부분을 촬영하여 기저장된 해당 부분의 내부 구성(830)에 대한 도면 또는 설계 정보를 무선통신으로 연결된 전자기기(810)에 전송할 수 있다. 전자기기(810)는 사용자의 머리에 글래스 형태로 장착될 수 있으며, 전자기기(810)의 디스플레이부는 특정 부분의 내부 구성 이미지를 전자기기(810)의 각도로 맞게 실제 내부 구성의 위치에 증강하여 표시될 수 있다. 사용자는 해당 내부 구성(830)을 확인하고, 보다 빠르고 정확하게 수리를 진행할 수 있다.

다시 말해, 본 발명은 자동차, 벽 타공, 전자제품, 가구 등의 설치 또는 수리 등, 보이지 않는 부분에 대한 확인 등에 사용되어 보다 쉽고 정확하게 문제점을 해결할 수 있다.

도 9는 본 발명의 증강 시스템 구조의 일예를 나타내는 도면이다.

도 9를 참조하면, 본 발명의 증강 시스템은 전자기기(910)와 촬영수단(920)을 포함할 수 있다.

전자기기(910)는 디스플레이부(911), 센서부(912), 및 카메라부(913)를 포함할 수 있다. 그리고/또는, 전자기기(910)는 위치연산부(914)를 더 포함할 수도 있다. 전자기기(910)는 사용자의 머리에 착용되어 이를 통해 특정 객체를 볼 수 있는 형태일 수 있다. 예를 들면, 글라스 형태일 수 있다.

디스플레이부(911)는 증강용 디스플레이 장치일 수 있다. 이를 통해, 사용자는 입체감과 현실감있는 가상객체를 확인할 수 있다.

센서부(912)는 본 발명을 구현하기 위해 필요한 다양한 센서 장치들을 포함할 수 있다.

카메라부(913)은 카메라 장치일 수 있다.

위치연산부(914)는 해당 전자기기(910)의 움직임을 감지하고 초기화된 좌표에 움직임을 반영하여 전자기기(910)의 위치(또는, 좌표)를 연산할 수 있다.

전자기기(910)는 촬영수단(920)과 유무선통신으로 연결되며, 촬영수단(920)으로부터 가상객제를 제공받을 수 있다.

촬영수단(920)은 특정 객체를 촬영할 수 있는 장치일 수 있다. 예를 들면, 카메라, 스마트폰, 마이크로 카메라 등일 수 있다.

촬영수단(920)은 특정 객체를 촬영하고 특정 객체에 대한 이미지 또는 영상을 전자기기(910)에 제공할 수 있다.

촬영수단(920)은 센서부(921), 카메라부(922), 및 거리측정센서부(923)를 포함할 수 있다. 그리고/또는 촬영수단(920)은 위치연산부(924)를 더 포함할 수 있다.

센서부(921)는 본 발명을 구현하기 위해 필요한 다양한 센서들을 포함할 수 있다.

카메라부(922)는 예를 들면, 카메라 장치 또는 카메라 모듈일 수 있다.

거리측정센서부(923)는 촬영수단과 특정 객체의 거리를 측정할 수 있는 센서일 수 있다. 예를 들면, 거리측정센서부(923)는 ToF(Time of Flight) 카메라 또는 뎁스 카메라일 수 있다.

위치연산부(924)는 해당 전자기기의 움직임을 감지하고 초기화된 좌표에 움직임을 반영하여 촬영수단(920)의 위치(또는, 좌표)를 연산할 수 있다.

도 9에서 거리측정센서부(923)은 촬영수단(920)에 포함되나, 전자기기(910)에 포함될 수도 있고, 전자기기(910) 및 촬영수단(920) 각각에 포함될 수도 있으며, 양쪽 모두 구비하지 않을 수도 있다. 도 9에 도시된 증강 시스템은 일 예시이며, 가상객체의 거리(또는 위치) 및 전자기기(910)의 방향에 맞게 가상객체를 현실감 및 입체감있게 증강시키기 위해 다양한 방식으로 구현될 수 있다.

도 10은 본 발명의 가상객체의 위치를 연산하는 방법의 일례를 간략히 나타내는 흐름도이다.

도 10을 참조하면, 본 발명은 가상객체의 위치를 연산하기 위해 전자기기와 촬영수단의 거리(또는, 전자기기와 촬영수단 각각의 위치), 전자기기와 촬영수단 각각의 각도, 실제객체와의 거리가 필요할 수 있다. 다시 말해, 본 발명은 가상객체의 위치를 연산하기 위해, 전자기기와 촬영수단의 거리(또는, 전자기기와 촬영수단 각각의 위치)를 연산(S1001)하고, 전자기기와 촬영수단의 각도(또는 방향)를 연산(S1002)하며, 실제객체와의 거리를 연산(S1003)하고, 해당 연산 결과에 기반하여 실제객체에 대응되는 가상객체의 위치를 연산할 수 있다. 도 13을 참조하여 예를 들면, 전자기기는 전자기기와 촬영수단(또는, 핸드폰)의 거리(1301), 촬영수단과 실제객체와의 거리(1302) 및, 전자기기의 각도(1304) 및/또는 촬영수단의 각도(1303)에 기반하여 가상객체의 위치를 연산하고, 촬영수단의 각도에 의해 촬영된 이미지 또는 영상을 전자기기의 각도(1304)로 변환하여 가상객체(1305)를 표시할 수 있다.

이때, 전자기기와 촬영수단 각각의 각도(또는 방향)은 자이로센서(Gyro sensor) 또는 방향센서에 의해 감지되고 연산될 수 있다.

이와 같은 연산은 촬영수단에서 모두 수행된 후 결과 값만 전자기기에 전송되는 형태로 구현될 수도 있고, 촬영수단에서는 가상객체의 이미지 또는 영상만을 전자기기에 전송하고, 전자기기에서 상술한 연산을 수행하여 가상객체를 연산된 위치에 증강하여 표시할 수도 있다. 또는, S1001 및 S10001 단계는 전자기기 및 촬영수단에서 각각 수행되고, S1003 단계는 촬영수단에서 수행되며, S1004는 전자기기에서 수행될 수 있다. 다시 말해, S1001 내지 S1004 단계는 전자기기 및/또는 촬영수단에 의해 다양한 방법으로 구현될 수 있다.

이때, 연산을 위해 필요한 정보 또는 값들은 유무선 통신을 통해 전자기기와 촬영수단 간 송수신될 수 있다.

또 다른 예로, 촬영수단으로 전자기기로 감지하여 인비저블(Invisible) 증강 모드는 트리거된다. 이때 전자기기의 카메라부에서 보이는 촬영수단의 크기로 촬영수단과 전자기기의 떨어진 거리를 연산한다. 또한 전자기기와 촬영수단의 논리적 센서 기준점을 초기화 한다. 촬영수단이 움직이거나 전자기기가 움직일 때 마다 공간 좌표계에서 촬영수단과 전자기기의 위치를 연산한다. 연산 방식은 IMU와 자이로센서를 이용하여 적분하여 연산될 수 있다. 촬영수단이 비추는 각도와 객체의 거리를 연산하여 전자기기에서 바라보는 위치에 촬영수단이 보여주고 있는 내용을 증강시킨다. 증강되는 위치는 카메라의 Depth 혹은 ToF 센서가 있는 경우 사물의 위치에 증강된다. 또는, 전자기기에 Depth 혹은 ToF 센서가 있는 경우 가려진 객체의 위치에 증강된다. 또는, 모두 없는 경우는 정해진 상수 거리에 위치에 증강된다. 촬영수단에서 보여지는 영상은 다양한 방식(2D, 3D, 관련 정보 등)으로 증강 시켜 보여질 수 있다.

도 10의 S1001 단계는 크게 전자기기와 촬영수단 각각의 좌표(또는 위치)를 초기화하는 단계와, 전자기기와 촬영수단 각각의 움직임을 고려하여 좌표를 연산하는 단계로 구분할 수 있다. 그리고/또는 S1001 단계는 전자기기와 촬영수단 각각의 좌표를 이용하여 전자기기와 촬영수단의 거기를 연산하는 단계를 더 포함할 수 있다.

또한, 초기화에 앞서, 전자기기는 촬영수단을 감지하여 인비저블(Invisible) 증강 모드를 트리거될 수 있다. 전자기기의 카메라부에서 감지된 촬영수단의 크기로 촬영수단과 전자기기의 거리를 연산하고, 전자기기와 촬영수단의 논리적 센서 기준점을 초기화할 수 있다.

예를 들면, 전자기기와 촬영수단의 좌표는 전자기기의 카메라부에 의해 촬영수단을 인식함으로써 초기화될 수 있다. 이하 본명세서에서, "카메라부"는 "카메라"와 혼용하여 사용될 수 있다. 구체적으로, 먼저, 전자기기의 카메라는 촬영수단을 인식할 수 있다. 다음, 전자기기는 인식된 촬영수단의 이미지 또는 영상과 실제 촬영수단의 크기를 비교할 수 있다. 다음, 전자기기는 비교결과에 기반하여 전자기기와 촬영수단 간 거리를 연산할 수 있다. 다음, 전자기기는 촬영수단과의 거리에 기반하여 촬영수단의 상대적 좌표를 연산하고 해당 좌표로 초기화할 수 있다. 다시 말해, 이 시점을 안보이는 부분에 대한 증강 기능이 실행되는 시점으로 연산하여 논리적 좌표계는 초기화될 수 있다. 예를 들면, 전자기기의 좌표는 (0,0,0)으로, 촬영수단의 좌표는 (0,0,20)로 초기화될 수 있다.

또 다른 예로, 전자기기와 촬영수단의 좌표는 전자기기와 촬영수단을 같은 위치(또는 가까운 위치)에 두어 초기화될 수 있다. 구체적으로, 먼저, 사용자는 전자기기와 촬영수단을 같은 위치에 둘 수 있다. 다음, 사용자는 전자기기 또는 촬영수단의 버튼 누름에 의해 전자기기와 촬영수단의 좌표는 (0,0,0)으로 초기화될 수 있다. 다시 말해, 이시점을 보이지 않는 부분에 대한 증강 기능이 실행되는 시점으로 연산하여 논리적 좌표계를 초기화할 수 있다.

본 발명은 전자기기와 촬영수단 각각의 움직임을 고려하여 좌표를 연산할 수 있다. 예를 드면, 먼저, 전자기기와 촬영수단 각각은 움직임 센터 등에 의해 움직임을 감지할 수 있다. 다음, 전자기기와 촬영수단 각각은 이동 거리 및/또는 방향을 연산할 수 있다. 다음, 도 12의 1201와 같이 전자기기(또는, 글래스)와 촬영수단(또는 핸드폰) 각각은 초기화되고, 도 12의 1202와 같이 초기화된 좌표에 이동 거리 및/또는 방향을 반영하여 현재 좌표(또는, 위치)를 연산할 수 있다. 예를 들면, 전자기기와 촬영수단은 관성측정장치(Inertial Measurement Unit, IMU)와 자이로센서(Gyro sensor)에 의해 가속도를 적분하여 현재 좌표를 연산할 수 있다.

그리고/또는, 본 발명은 전자기기와 촬영수단 각각의 현재 좌표를 이용해 전자기기와 촬영수단 간 거리를 연산할 수 있다.

도 11은 실제객체와의 거리 연산의 구체적인 일례를 설명하기 위한 흐름도이다.

도 11을 참조하면, 도 10의 S1003 단계는 다음과 같이 수행될 수 있다.

먼저, 전자기기는 촬영수단에 거리측정센서를 구비하는 지 확인할 수 있다(S1101). 본 명세서에서 용어"거리측정센서"는 용어"거리측정센서부"와 혼용하여 사용될 수 있다.

다음, 전자기기는 촬영수단이 거리측정센서를 구비한 것을 확인한 경우, 촬영수단이 실제객체와 거리를 측정하도록 요청하고, 촬영수단은 거리측정센서에 의해 촬영수단과 실제객체의 거리를 측정할 수 있다(S1102). 도 14와 같이, 촬영수단과 실제객체와의 거리(d)에 기반하여 가상객체의 위치를 연산하는 경우, 가상객체의 위치는 실제객체의 위치와 동일할 수 있다.

다음, 전자기기가 촬영수단이 거리측정센서를 구비하지 않는 것을 확인한 경우, 해당 전자기기가 거리측정센서를 구비하는 지 확인할 수 있다(S1103). 다음 전자기기는 거리측정센서가 갖는 경우, 거리측정센서에 의해 전자기기와 실제객체의 거리를 측정할 수 있다(S1104). 도 15와 같이, 전자기기와 실제객체와의 거리(d)에 기반하여 가상객체의 위치를 연산하는 경우, 가상객체의 위치는 실제객체의 표면일 수 있다. 다시 말해, 전자기기는 가상객체를 실제객체와 근접한 위치에 증강시킬 수 있다.

다음, 전자기기가 거리측정센서를 구비하지 않는 경우, 전자기기는 기설정된 값, 기본 값 또는 상수를 촬영수단과 실제객체와의 거리(d)로 보고(S1105), 이후 가상객체의 위치를 연산할 수 있다. 예를 들면, 도 16과 같이, 전자기기는 기설정된 값, 또는 기본 값, 또는 상수(k)의 위치에 가상객체를 증강시킬 수 있다.

상술한 동작은 전자기기를 중심으로 기술했으나, 거리측정센서의 구비여부 판단은 촬영수단에 의해 수행될 수도 있고, 해당 판단 없이 기 설정된 방식에 따라 전자기기 또는 촬영수단에 의해 실제객체와의 거리를 측정하거나 기설정된 값을 이용할 수도 있다.

다음, 전자기기는 도 10 내지 도 11의 동작을 수행하여 연산된, 전자기기와 촬영수단의 거리, 전자기기와 촬영수단 각각의 각도, 실제객체와의 거리에 기반하여 가상객체의 위치를 연산할 수 있다.

다음, 도 17(a)에 도시된 바와 같이, 전자자기는 가상객체의 이미지 또는 영상을 전자기기의 각도 또는 방향으로 변환되어 표시될 수 있다. 구체적으로, 전자기기는 도 17(b)에 도시된 바와 같이, 촬영수단의 각도(또는, 방향, v2)의 가상객체의 이미지 또는 영상을 로테이션 메트릭스(Rotation Matrix)에 의해 전자기기의 각도(또는, 방향, v1)로 변환하여 상기 연산된 위치에 가상객체를 증강시킬 수 있다. 다시 말해, 촬영수단에서 송신된 이미지 또는 영상에 로테이션 매트릭스를 적용하여 사용자가 보는 관점으로 이미지 또는 영상이 변환될 수 있다.

그리고/또는 전자기기는 도 18에 도시된 바와 같이, 전자기기 또는 촬영수단에 구비된 뎁스 카메라에 의해 가상객체의 이미지 또는 영상을 3차원 이미지 또는 영상(1801)으로 모델링하여 연산된 위치에 증강시킬 수 있다.

구체적으로, 도 19(a)와 같이, 뎁스카메라를 통해 입력된 객체 정보(또는 객체)를 모델링하여 보여준다. 그리고/또는 도 19(b)와 같이, 보여지고 있는 정보를 기 매핑된 정보 또는 매칭에 의하여 모델링된 객체를 보여준다. 이때, 2차원(2D)와 마찬가지로 보여지는 객체 정보의 방향을 사용자가 보는 방향에 맞게 수정하여 보여질 수 있다. 또한, 도 19(b)와 같이, 카메라로 받아온 정보를 서버 장치(또는 소프트웨어 등)와 같은 시스템에 전송하고, 시스템에서 해당 이미지 또는 영상을 분석하여 보여지고 있는 이미지 또는 영상의 객체 정보를 전송할 수 있다.

이를 통해, 본 발명은 연산된 가상객체의 위치에 기반하여 현실감있고 입체감있는 증강현실을 구현할 수 있다.

도 20은 본 발명의 일 실시예에 따른 전자기기의 증강방법을 설명하기 위한 흐름도이다.

도 20을 참조하면, 먼저, 전자기기는, 상기 전자기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산한다(S2001).

다음, 전자기기는, 상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산한다(S2002).

다음, 전자기기는, 상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정한다(S2003).

다음, 전자기기는, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산한다(S2004).

다음, 전자기기는, 상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시한다(S2005). 표시수단은 이미지 또는 영상을 표시할 수 있는 장치를 의미할 수 있다. 예를 들면, 표시수단은 디스플레이 장치일 수 있다.

상기 가상객체는, 상기 촬영수단의 각도에서 상기 전자기기의 각도 방향으로 변환되어 표시될 수 있다.

상기 가상객체는, 상기 증강위치에 입체적으로 표시될 수 있다.

상기 S2001 단계는, 상기 촬영수단과 상기 전자기기의 위치에 기반하여 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계를 포함할 수 있다.

상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계는, 상기 촬영수단과 상기 전자기기의 위치를 초기화하는 단계와, 상기 초기화된 위치들에 상기 촬영수단과 상기 전자기기의 움직임을 반영하여 위치들을 연산하는 단계를 포함할 수 있다.

상기 거리 관련 정보는, 상기 실제객체와 상기 전자기기 간 거리, 상기 실제객체와 상기 촬영수단 간 거리, 또는 기설정된 값일 수 있다.

상기 S2004 단계는, 상기 촬영수단과 상기 전자기기 간 거리, 상기 촬영수단의 각도, 상기 전자기기의 각도, 및 상기 거리 관련 정보에 기반하여 상기 증강위치를 연산하는 단계를 포함할 수 있다.

그리고/또는, 상기 증강방법은, 상기 가상객체의 수신을 스케줄링하기 위해 사용되는 DCI(Downlink Control Information)을 네트워크로부터 수신하는 단계를 더 포함하고, 상기 가상객체의 이미지는, 상기 DCI에 기반하여 상기 네트워크로부터 수신될 수 있다.

그리고/또는, 상기 증강방법은 SSB(Synchronization signal block)에 기반하여 상기 네트워크와 초기 접속 절차를 수행하는 단계를 더 포함하고, 상기 가상객체의 이미지는 PUSCH를 통해 상기 네트워크로부터 수신되며, 상기 SSB와 상기 PUSCH의 DM-RS는 QCL type D에 대해 QCL되어 있을 수 있다.

도 20을 참조하여 설명한 전자기기의 증강방법은 도 1 내지 도 19를 참조하여 설명한 전자기기의 동작방법과 동일하므로 이외 상세한 설명은 생략한다.

도 21은 본 발명의 다른 일 실시예에 따른 전자기기의 블록도이다.

도 21을 참조하면, 전자기기(2100)는, 무선 신호를 송수신하기 위한 송수신부(2110)와, 상기 송수신부와 기능적으로 연결되어 있는 프로세서(2120)를 포함한다. 상기 프로세서는, 상기 전자기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산하고, 상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산하며, 상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하고, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하며, 상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하도록 제어한다.

도 21을 참조하여 설명한 전자기기의 동작은 도 1 내지 도 20을 참조하여 설명한 전자기기의 동작과 동일하므로 이외 상세한 설명은 생략한다.

실시예 1: 사용자의 헤드부에 착용되며, 표시수단을 갖는 전자기기의 증강방법에 있어서, 상기 전자기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산하는 단계와, 상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산하는 단계와, 상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하는 단계와, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하는 단계와, 상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하는 단계를 포함한다.

실시예 2: 실시예 1에 있어서, 상기 가상객체는, 상기 촬영수단의 각도에서 상기 전자기기의 각도 방향으로 변환되어 표시될 수 있다.

실시예 3: 실시예 2에 있어서, 상기 가상객체는, 상기 증강위치에 입체적으로 표시될 수 있다.

실시예 4: 실시예 1에 있어서, 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계는, 상기 촬영수단과 상기 전자기기의 위치에 기반하여 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계를 포함할 수 있다.

실시예 5: 실시예 4에 있어서, 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 단계는, 상기 촬영수단과 상기 전자기기의 위치를 초기화하는 단계와, 상기 초기화된 위치들에 상기 촬영수단과 상기 전자기기의 움직임을 반영하여 위치들을 연산하는 단계를 포함할 수 있다.

실시예 6: 실시예 1에 있어서, 상기 거리 관련 정보는, 상기 실제객체와 상기 전자기기 간 거리, 상기 실제객체와 상기 촬영수단 간 거리, 또는 기설정된 값일 수 있다.

실시예 7: 실시예 1에 있어서, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하는 단계는, 상기 촬영수단과 상기 전자기기 간 거리, 상기 촬영수단의 각도, 상기 전자기기의 각도, 및 상기 거리 관련 정보에 기반하여 상기 증강위치를 연산하는 단계를 포함할 수 있다.

실시예 8: 실시예 1에 있어서, 상기 가상객체의 수신을 스케줄링하기 위해 사용되는 DCI(Downlink Control Information)을 네트워크로부터 수신하는 단계를 더 포함하고, 상기 가상객체의 이미지는, 상기 DCI에 기반하여 상기 네트워크로부터 수신될 수 있다.

실시예 9: 실시예 8에 있어서, SSB(Synchronization signal block)에 기반하여 상기 네트워크와 초기 접속 절차를 수행하는 단계를 더 포함하고, 상기 가상객체의 이미지는 PUSCH를 통해 상기 네트워크로부터 수신되며, 상기 SSB와 상기 PUSCH의 DM-RS는 QCL type D에 대해 QCL되어 있다.

실시예 10: 사용자의 헤드부에 착용되며, 표시수단을 갖는 전자기기는, 무선 신호를 송수신하기 위한 송수신부와, 상기 송수신부와 기능적으로 연결되어 있는 프로세서를 포함하고, 상기 프로세서는, 상기 전자기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산하고, 상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산하며, 상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하고, 상기 실제객체에 대응되는 가상객체의 증강위치를 연산하며, 상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하도록 제어한다.

실시예 11: 실시예 10에 있어서, 상기 가상객체는, 상기 촬영수단의 각도에서 상기 전자기기의 각도 방향으로 변환되어 표시될 수 있다.

실시예 12: 실시예 11에 있어서, 상기 가상객체는, 상기 증강위치에 입체적으로 표시될 수 있다.

실시예 13: 실시예 10에 있어서, 상기 프로세서는, 상기 촬영수단과 상기 전자기기의 위치에 기반하여 상기 촬영수단과 상기 전자기기 간 거리를 연산할 수 있다.

실시예 14: 실시예 10에 있어서, 상기 프로세서는, 상기 촬영수단과 상기 전자기기의 위치를 초기화하고, 상기 초기화된 위치들에 상기 촬영수단과 상기 전자기기의 움직임을 반영하여 위치들을 연산할 수 있다.

실시예 15: 실시예 10에 있어서, 상기 거리 관련 정보는, 상기 실제객체와 상기 전자기기 간 거리, 상기 실제객체와 상기 촬영수단 간 거리, 또는 기설정된 값일 수 있다.

실시예 16: 실시예 10에 있어서, 상기 프로세서는, 상기 촬영수단과 상기 전자기기 간 거리, 상기 촬영수단의 각도, 상기 전자기기의 각도, 및 상기 거리 관련 정보에 기반하여 상기 증강위치를 연산할 수 있다.

실시예 17: 실시예 10에 있어서, 상기 프로세서는, 상기 가상객체의 수신을 스케줄링하기 위해 사용되는 DCI(Downlink Control Information)을 네트워크로부터 수신하도록 제어하고, 상기 가상객체의 이미지는, 상기 DCI에 기반하여 상기 네트워크로부터 수신될 수 있다.

실시예 18: 실시예 17에 있어서, 상기 프로세서는, SSB(Synchronization signal block)에 기반하여 상기 네트워크와 초기 접속 절차를 수행하도록 제어하고, 상기 가상객체의 이미지는 PUSCH를 통해 상기 네트워크로부터 수신되며, 상기 SSB와 상기 PUSCH의 DM-RS는 QCL type D에 대해 QCL되어 있다.

앞에서 설명된 본 발명의 어떤 실시예들 또는 다른 실시예들은 서로 배타적이거나 구별되는 것은 아니다. 앞서 설명된 본 발명의 어떤 실시예들 또는 다른 실시예들은 각각의 구성 또는 기능이 병용되거나 조합될 수 있다.

예를 들어 특정 실시예 및/또는 도면에 설명된 A 구성과 다른 실시예 및/또는 도면에 설명된 B 구성이 결합될 수 있음을 의미한다. 즉, 구성 간의 결합에 대해 직접적으로 설명하지 않은 경우라고 하더라도 결합이 불가능하다고 설명한 경우를 제외하고는 결합이 가능함을 의미한다.

상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims

사용자의 헤드부에 착용되며, 표시수단을 갖는 AR 장치의 제어 방법에 있어서,
상기 AR 장치와 유무선 통신으로 연결된 촬영수단과 상기 AR 장치간 거리를 연산하는 단계;
상기 촬영수단의 각도를 수신하고, 상기 AR 장치의 각도를 연산하는 단계;
상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하는 단계;
상기 실제객체에 대응되는 가상객체의 증강위치를 연산하는 단계; 및
상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하는 단계를 포함하는 AR 장치의 제어 방법.
제 1 항에 있어서,
상기 가상객체는, 상기 촬영수단의 각도에서 상기 AR 장치의 각도 방향으로 변환되어 표시되는 것을 특징으로 하는 AR 장치의 제어 방법.
제 2 항에 있어서,
상기 가상객체는, 상기 증강위치에 입체적으로 표시되는 것을 특징으로 하는 AR 장치의 제어 방법.
제 1 항에 있어서,
상기 촬영수단과 상기 AR 장치 간 거리를 연산하는 단계는,
상기 촬영수단과 상기 AR 장치의 위치에 기반하여 상기 촬영수단과 상기 AR 장치 간 거리를 연산하는 단계를 포함하는 것을 특징으로 하는 AR 장치의 제어 방법.
제 4 항에 있어서,
상기 촬영수단과 상기 AR 장치 간 거리를 연산하는 단계는,
상기 촬영수단과 상기 AR 장치의 위치를 초기화하는 단계; 및
상기 초기화된 위치들에 상기 촬영수단과 상기 AR 장치의 움직임을 반영하여 위치들을 연산하는 단계를 포함하는 것을 특징으로 하는 AR 장치의 제어 방법.
제 1 항에 있어서,
상기 거리 관련 정보는,
상기 실제객체와 상기 AR 장치 간 거리, 상기 실제객체와 상기 촬영수단 간 거리 또는 기설정된 값 중 적어도 하나를 포함하는 것을 특징으로 하는 AR 장치의 제어 방법.
제 1 항에 있어서,
상기 실제객체에 대응되는 가상객체의 증강위치를 연산하는 단계는,
상기 촬영수단과 상기 AR 장치 간 거리, 상기 촬영수단의 각도, 상기 AR 장치의 각도, 및 상기 거리 관련 정보에 기반하여 상기 증강위치를 연산하는 단계를 포함하는 것을 특징으로 하는 AR 장치의 제어 방법.
제 1 항에 있어서,
상기 가상객체의 수신을 스케줄링하기 위해 사용되는 DCI(Downlink Control Information)을 네트워크로부터 수신하는 단계를 더 포함하고,
상기 가상객체의 이미지는, 상기 DCI에 기반하여 상기 네트워크로부터 수신되는 것을 특징으로 하는 AR 장치의 제어 방법.
제 8 항에 있어서,
SSB(Synchronization signal block)에 기반하여 상기 네트워크와 초기 접속 절차를 수행하는 단계를 더 포함하고,
상기 가상객체의 이미지는 PUSCH를 통해 상기 네트워크로부터 수신되며,
상기 SSB와 상기 PUSCH의 DM-RS는 QCL type D에 대해 QCL되어 있는 것을 특징으로 하는 AR 장치의 제어 방법.
사용자의 헤드부에 착용되며, 표시수단을 갖는 전자기기에 있어서,
무선 신호를 송수신하기 위한 송수신부와,
상기 송수신부와 기능적으로 연결되어 있는 프로세서를 포함하고,
상기 프로세서는,
상기 전자 기기와 유무선 통신으로 연결된 촬영수단과 상기 전자기기 간 거리를 연산하고,
상기 촬영수단의 각도를 수신하고, 상기 전자기기의 각도를 연산하며,
상기 촬영수단에 의해 촬영되는 실제객체와의 거리 관련 정보를 결정하고,
상기 실제객체에 대응되는 가상객체의 증강위치를 연산하며,
상기 표시수단을 통해, 상기 증강위치에 상기 가상객체를 표시하도록 제어하는 것을 특징으로 하는 전자기기.
제 10 항에 있어서,
상기 가상객체는, 상기 촬영수단의 각도에서 상기 전자기기의 각도 방향으로 변환되어 표시되는 전자기기.
제 11 항에 있어서,
상기 가상객체는, 상기 증강위치에 입체적으로 표시되는 전자기기.
제 10 항에 있어서,
상기 프로세서는,
상기 촬영수단과 상기 전자기기의 위치에 기반하여 상기 촬영수단과 상기 전자기기 간 거리를 연산하는 전자기기.
제 10 항에 있어서,
상기 프로세서는,
상기 촬영수단과 상기 전자기기의 위치를 초기화하고,
상기 초기화된 위치들에 상기 촬영수단과 상기 전자기기의 움직임을 반영하여 위치들을 연산하는 전자기기.
제 10 항에 있어서,
상기 거리 관련 정보는,
상기 실제객체와 상기 전자기기 간 거리, 상기 실제객체와 상기 촬영수단 간 거리, 또는 기설정된 값인 전자기기.
제 10 항에 있어서,
상기 프로세서는,
상기 촬영수단과 상기 전자기기 간 거리, 상기 촬영수단의 각도, 상기 전자기기의 각도, 및 상기 거리 관련 정보에 기반하여 상기 증강위치를 연산하는 전자기기.
제 10 항에 있어서,
상기 프로세서는,
상기 가상객체의 수신을 스케줄링하기 위해 사용되는 DCI(Downlink Control Information)을 네트워크로부터 수신하도록 제어하고,
상기 가상객체의 이미지는, 상기 DCI에 기반하여 상기 네트워크로부터 수신되는 전자기기.
제 17 항에 있어서,
상기 프로세서는,
SSB(Synchronization signal block)에 기반하여 상기 네트워크와 초기 접속 절차를 수행하도록 제어하고,
상기 가상객체의 이미지는 PUSCH를 통해 상기 네트워크로부터 수신되며,
상기 SSB와 상기 PUSCH의 DM-RS는 QCL type D에 대해 QCL되어 있는 전자기기.