KR20190079008A - 사용자의 응시정보에 따른 증강영상의 동적 표현기술이 적용된 증강현실 시스템 - Google Patents

Abstract

사용자의 응시정보에 따른 증강영상의 동적 표현기술이 적용된 증강현실 시스템은, 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 투명 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 사용자의 시야범위 내에 표시하는 증강현실안경과, 상기 증강현실안경으로부터 전송되는 상기 현재위치정보와 상기 실제영상정보에 대응되는 상기 3차원 가상영상을 상기 증강현실안경에 실시간으로 제공하는 서버를 포함하고, 상기 실제영상정보의 실제객체에 각각 할당되어 표시되는 상기 3차원 가상영상의 가상객체의 정보량은, 상기 사용자가 상기 실제객체 또는 상기 가상객체를 응시한 시간에 따라 동적으로 조절되어 상기 증강현실안경에 표시되는 것을 특징으로 한다.

Description

사용자의 응시정보에 따른 증강영상의 동적 표현기술이 적용된 증강현실 시스템{An augmented reality system to which a dynamic expression technique of an augmented image according to a user's gaze information is applied}

본 발명은 증강현실 시스템에 관한 것으로서, 더 상세하게는 대상물의 응시시간에 따라 가상객체의 정보량이 조절되는 증강현실 시스템에 관한 것이다.

최근 카메라 모듈을 이용한 촬영 시 현실의 공간에 다양한 정보를 덧씌워 보여 주는 증강 현실(augmented reality) 기법을 이용한 컨텐츠 제공이 활발히 연구되고 있다.

증강현실(Augmented Reality, AR)이란 가상현실(Virtual Reality, VR)의 한 분야에 속하는 기술이며, 사용자가 감각으로 느끼는 실제환경에 가상환경을 합성하여 원래의 실제환경에 가상환경이 존재하는 것처럼 느끼게 하는 컴퓨터 기법이다.

이러한 증강 현실은 가상의 공간과 사물만을 대상으로 하는 기존의 가상현실과 달리 현실 세계의 기반에 가상사물을 합성하여 현실 세계만으로는 얻기 어려운 부가적인 정보들을 보강해 제공할 수 있는 장점이 있다.

즉, 사용자가 보고 있는 실사 영상에 컴퓨터 그래픽으로 만들어진 가상환경, 예를 들면, 3차원 가상환경을 정합함으로써 구현된 현실을 증강현실이라고 할 수 있다. 여기서, 3차원 가상환경은 사용자가 바라보는 실사 영상에서 필요한 정보를 제공해주고, 3차원 가상영상은 실사영상과 정합되어 사용자의 몰입도를 높일 수 있다.

이러한 증강현실은 단순 가상현실 기술에 비하여 3차원 가상환경에 실사영상도 같이 제공하여 현실환경과 가상환경과의 구분이 모호해지게 함으로써, 보다 나은 현실감을 제공할 수 있다.

이와 같은 증강현실 시스템의 장점에 기인하여, 최근 세계적으로 증강현실을 접목한 기술에 대해 활발한 연구/개발이 진행되고 있다. 예를 들어, 증강 현실 기술은 방송, 광고, 전시, 게임, 테마 파크, 군용, 교육 및 프로모션 등의 분야에서 실용화가 진행 중인 상태이다.

이동 단말기는 최근 휴대폰, PDA(personal digital assistants), UMPC(ultra mobile personalcomputer) 등 모바일 기기의 컴퓨팅 능력 향상 및 무선 네트워크 장치의 발달로 핸드헬드(handheld) 증강현실시스템이 가능해 졌다.

이러한 시스템이 가능해지면서 모바일 기기를 사용한 증강현실 어플리케이션이 다수 개발되었다. 그리고 모바일 기기의 보급이 매우 빠르게 보편화되어 증강현실 어플리케이션을 접할 수 있는 환경이 조성되고 있는 상황이다.

더불어, 단말기의 증강현실을 이용한 다양한 부가서비스에 대한 사용자 요구가 증대하고 있으며, 이를 이용하여 단말기 사용자에게 다양한 증강현실 컨텐츠를 적용하려는 시도가 증가하고 있다.

한국특허 공개번호 제10-2016-0092292호는 "광고물에 대한 증강현실 서비스 제공 시스템 및 방법"에 관한 것으로서, 광고물에 증강현실을 적용하여 광고 대상에 관련된 정보들을 피광고자가 손쉽게 취득할 수 있고 흥미롭게 몰입하여 습득할 수 있도록 하는 등 효과적으로 전달할 수 있는 시스템을 제안하고 있다.

한편, 사용자의 몸에 착용할 수 있는 다양한 웨어러블 디바이스 제품이 출시되고 있다. 특히 모바일 기술과 투명 디스플레이 기술을 안경에 적용하여 사용자가 안경을 통해 다양한 정보를 확인할 수 있는 시스템이 개발되고 있다.

도 1은 종래의 증강현실 시스템에서 표시되는 가상객체를 도시한 도면이다.

도 1을 참조하면, 종래의 증강현실 시스템은 안경의 투명 디스플레이에 너무 많은 가상객체를 표시하므로 사용자의 시선을 가리게 되며 이러한 이유로 인해 사용자가 필요한 정보를 인지하기 어려운 문제가 발생한다.

KR 10-2016-0092292 A

본 발명은 상기와 같은 기술적 과제를 해결하기 위해 제안된 것으로, 사용자가 객체를 응시하는 시간에 따라 가상객체의 정보량이 동적으로 자동 조절되는 증강현실 시스템을 제공한다.

상기 문제점을 해결하기 위한 본 발명의 일 실시예에 따르면, 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 투명 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 사용자의 시야범위 내에 표시하는 증강현실안경과, 상기 증강현실안경으로부터 전송되는 상기 현재위치정보와 상기 실제영상정보에 대응되는 상기 3차원 가상영상을 상기 증강현실안경에 실시간으로 제공하는 서버;를 포함하고, 상기 실제영상정보의 실제객체에 각각 할당되어 표시되는 상기 3차원 가상영상의 가상객체의 정보량은, 상기 사용자가 상기 실제객체 또는 상기 가상객체를 응시한 시간에 따라 동적으로 조절되어 상기 증강현실안경에 표시되는 것을 특징으로 하는 증강현실 시스템이 제공된다.

또한, 본 발명의 증강현실 시스템은 상기 사용자가 상기 실제객체 또는 상기 가상객체를 소정의 시간 이상 응시할 때부터 상기 실제객체에 할당된 상기 가상객체가 표시되기 시작하되, 상기 사용자가 응시한 시간이 길어질수록 좀 더 세부적인 정보의 상기 가상객체가 표시되는 것을 특징으로 한다.

또한, 본 발명에 포함되는 상기 증강현실안경은, 사용자가 확인하고 싶은 상기 가상객체를 응시한 상태에서 진동이 발생했을 경우, 진동의 변화율에 대응하는 이동거리를 산출한 후 응시방향과 산출된 이동거리를 토대로 상기 가상객체의 정보량을 재설정하여 표시하는 것을 특징으로 한다.

또한, 본 발명에 포함되는 상기 증강현실안경은, 위성위치정보를 상기 현재위치정보로써 상기 서버에 제공하는 것을 특징으로 한다.

또한, 본 발명에 포함되는 상기 증강현실안경은, 위성위치정보를 상기 현재위치정보로써 상기 서버에 제공하되, 검색된 적어도 하나 이상의 와이파이(Wi-Fi) 중계기의 신호세기를 추가로 파악하여 상기 서버로 전달하는 것을 특징으로 한다.

또한, 본 발명의 상기 증강현실 시스템은, 와이파이 통신모듈이 내장되며 실내의 공간에 일정한 간격으로 배치되는 복수의 센싱부를 더 포함하고, 상기 복수의 센싱부는 상기 증강현실안경에서 주기적으로 출력되는 와이파이 핫스팟(WIFI HOTSPOT) 신호를 감지할 때마다 그 감지정보를 상기 서버로 전송하는 것을 특징으로 한다.

본 발명의 실시예 따른 증강현실 시스템은, 사용자가 객체를 응시하는 시간에 따라 가상객체의 정보량이 동적으로 자동 조절되므로, 사용자가 편리하게 원하는 가상객체의 정보를 확인할 수 있다.

따라서 증강현실광고의 형태로 가상객체가 표시될 경우 사용자가 해당 가상객체를 집중력 있게 인지하는 시간이 길어지게 되어 광고효과가 상승할 수 있다.

도 1은 종래의 증강현실 시스템에서 표시되는 가상객체를 도시한 도면
도 2는 본 발명의 실시예에 따른 증강현실 시스템(1)의 구성도
도 3 및 도 4는 증강현실 시스템(1)의 동작원리를 나타낸 도면
도 5는 증강현실 시스템(1)의 증강현실안경(100)의 구성도
도 5a는 증강현실안경(100)의 예시도
도 6은 증강현실 시스템(1)의 안전모드가 동작하는 상태도
도 7은 증강현실 시스템(1)의 오버헤드 뷰 모드(Overhead View Mode)가 동작하는 상태도

이하, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 정도로 상세히 설명하기 위하여, 본 발명의 실시예를 첨부한 도면을 참조하여 설명하기로 한다.

도 2는 본 발명의 실시예에 따른 증강현실 시스템(1)의 구성도이고, 도 3 및 도 4는 증강현실 시스템(1)의 동작원리를 나타낸 도면이다.

본 실시예에 따른 증강현실 시스템(1)은 제안하고자 하는 기술적인 사상을 명확하게 설명하기 위한 간략한 구성만을 포함하고 있다.

도 2 내지 도 4를 참조하면, 증강현실 시스템(1)은 증강현실안경(100)과, 서버(200)와, 복수의 센싱부(300)를 포함하여 구성된다. 여기에서 복수의 센싱부(300)는 실시예에 따라 증강현실 시스템(1)에 선택적으로 구비될 수 있는 구성이다.

증강현실안경(100)은 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 투명 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 실제영상정보에 대응하는 3차원 가상영상을 사용자의 시야범위 내에 표시한다.

서버(200)는 증강현실안경(100)으로부터 전송되는 현재위치정보와 실제영상정보에 대응되는 3차원 가상영상을 증강현실안경(100)에 실시간으로 제공한다.

증강현실안경(100)은 기본적으로 위성위치정보를 현재위치정보로써 서버(200)에 제공하도록 구성된다. 증강현실안경(100)에 통신모듈이 포함되어 있을 경우, 위성위치정보 뿐만 아니라 주변의 와이파이(Wi-Fi) 중계기의 위치, 기지국 위치 등이 현재위치정보로써 서버(200)에 추가로 제공될 수 있다.

예를 들어 특히 실내에서는 위성위치정보를 수신할 수 없는 경우가 많으므로, 증강현실안경(100)은, 검색된 적어도 하나 이상의 와이파이(Wi-Fi) 중계기의 신호세기를 추가로 파악하여 서버(200)로 전달할 수 있다. 즉 실내에 위치한 와이파이(Wi-Fi) 중계기의 절대위치는 미리 서버(200)에 저장되어 있으므로, 증강현실안경(100)이 검색된 와이파이(Wi-Fi) 중계기의 고유번호와 신호세기를 추가로 제공할 경우, 서버(200)에서는 증강현실안경(100)의 상대적인 이동경로를 파악할 수 있다.

즉, 증강현실안경(100)과 와이파이(Wi-Fi) 중계기 사이의 상대적인 거리를 신호세기로써 확인할 수 있으며 이웃하는 와이파이(Wi-Fi) 중계기와의 신호세기 변화를 토대로 이동방향을 산출할 수 있다. 실내에서 현재위치정보를 획득하는 추가적인 방식에 대해서는 후술하기로 한다.

따라서 서버(200)는 증강현실안경(100)을 착용한 사용자의 현재위치정보와, 증강현실안경(100)의 영상 카메라에서 촬영된 실제영상정보를 통해 각각의 실제객체에 할당된 가상객체를 파악하고, 이에 대한 정보를 증강현실안경(100)으로 실시간으로 전송한다.

한편, 실제영상정보의 실제객체에 각각 할당되어 표시되는 3차원 가상영상의 가상객체의 정보량은, 사용자가 실제객체 또는 가상객체를 응시한 시간에 따라 동적으로 자동 조절되어 증강현실안경(100)에 표시된다.

따라서 사용자가 객체를 응시하는 시간이 길수록 가상객체가 좀 더 세부적인 정보를 표시하므로, 사용자가 편리하게 원하는 가상객체의 정보를 확인할 수 있다. 즉, 사용자가 해당 가상객체를 집중력 있게 인지하는 시간이 길어지게 되어 정보전달 효과가 상승할 수 있다.

일반적으로 사용자는 관심있는 객체에 대한 정보를 더 오랫동안 보려하는 경향이 있으므로, 사용자가 관심 객체를 짧은 시간동안 응시하였을 때는 추상적으로 정보를 표시하고, 사용자가 관심 객체를 상대적으로 긴 시간동안 응시하였을 때는 좀 더 상세한 정보를 표시하도록 동작한다.

상기와 같이 구성되는 증강현실 시스템(1)의 세부구성과 주요동작을 좀 더 상세히 살펴보면 다음과 같다.

도 3 및 도 4는 증강현실 시스템(1)의 동작원리를 나타낸 도면이다.

도 3 및 도 4를 참조하면,

사용자가 실제객체 또는 가상객체를 소정의 시간(t1) 이상 응시할 때부터 실제객체에 할당된 가상객체가 표시되기 시작하며, 사용자가 응시한 시간이 길어질수록 좀 더 세부적인 정보의 가상객체가 표시된다.

즉, 하나의 실제객체에 할당된 가상객체의 정보는 계층화되어 있다. 도 4에 도시된 바와 같이,

가장 추상적인 가상객체(A)는 사용자가 소정의 시간(t1)동안 응시할 때 표시되고, 사용자가 실제객체 또는 가상객체를 좀 더 오랫동안(t2) 응시할 경우 좀 더 구체적인 정보를 갖는 가상객체(A1, A2)가 표시된다. 또한, 사용자가 실제객체 또는 가상객체에 가장 오랫동안(t3) 응시할 경우 가장 구체적인 정보를 갖는 가상객체(A1-1, A1-2, A2-1, A2-2)가 표시된다.

예를 들어 사용자의 전방에 실제객체로써 자동 판매기가 배치되어 있다고 가정하면,

사용자가 소정의 시간(t1)동안 자동 판매기를 응시할 때, 자동 판매기에 할당된 가상객체가 표시된다. 여기에서 가상객체는 자동 판매기의 아이콘으로 가정한다.

다음으로 사용자가 자동 판매기를 좀 더 오랫동안(t2) 응시할 경우, 자판기에서 판매되고 있는 음료수 제품들의 아이콘이 더 상세한 정보의 가상객체로써 표시될 수 있다.

마지막으로 사용자가 자동 판매기에 가장 오랫동안(t3) 응시할 경우, 각 음료수 제품의 칼로리, 성분 등이 더 상세한 정보의 가상객체로써 표시될 수 있다.

다른 예를 들면, 사용자의 전방에 실제객체로써 자동차 판매점이 있다고 가정하면,

사용자가 소정의 시간동안(t1) 자동차 판매점을 응시할 때, 자동차 판매점에 할당된 가상객체가 표시된다. 여기에서 가상객체는 판매되는 자동차 브랜드 아이콘으로 가정한다.

다음으로 사용자가 자동차 판매점에 좀 더 오랫동안(t2) 응시할 경우, 판매되고 있는 다양한 종류의 자동차 아이콘이 더 상세한 정보의 가상객체로써 표시될 수 있다. 이때, 현재 전시되어 있는 자동차, 즉 실제객체가 있을 경우 그 실제객체 주변에 가상객체가 표시될 수 있으며, 전시되어 있지 않는 자동차, 즉 실제객체가 없을 경우에도 주변영역에 가상객체가 표시될 수 있다.

마지막으로 사용자가 자동차 판매점에 가장 오랫동안 응시(t3)할 경우, 판매되고 있는 자동차의 제원, 가격, 예상 출고일 등이 좀 더 상세한 정보의 가상객체로써 표시될 수 있다.

한편, 증강현실안경(100)은 사용자가 확인하고 싶은 가상객체 또는 실제객체를 응시한 상태에서 진동이 발생했을 경우, 진동의 변화율에 대응하는 이동거리를 산출한 후 응시방향과 산출된 이동거리를 토대로 가상객체의 정보량을 재설정하여 표시할 수 있다. 즉, 객체와의 거리가 가까울수록 가상객체의 정보량을 증가시킬 수도 있을 것이다.

즉, 사용자가 직접 이동하지 않고 진동을 통해 가상으로 이동했다고 가정하거나, 진동으로 이동거리에 가중치를 부여하고, 그 가상 이동거리에 따라 가상객체의 정보량을 재설정하여 표시할 수 있다.

즉, 진동의 변화율이 크다는 것은 사용자가 달리거나 빠르게 움직이는 것이며, 진동의 변화율이 작다는 것은 사용자가 천천히 움직이는 것에 해당하는 것이므로, 이를 토대로 이동거리를 산출할 수 있다. 따라서 사용자가 실제 움직이지 않고 고개 등을 위 아래로 흔들면서 진동을 부여하여 가상의 이동거리를 반영할 수도 있을 것이다.

사용자가 확인하고 싶은 방향을 응시한 상태, 예를 들어 사용자가 오른쪽으로 고개를 돌리고 오른쪽을 바라보는 동시에 진동이 계속해서 발생할 경우, 증강현실안경(100)은 사용자의 응시방향과 진동을 토대로 이동방향 및 이동거리를 산출한다.

즉, 증강현실안경(100)은 내장된 센서를 통해 사용자의 머리 회전을 감지하고, 진동을 감지한 후 가상의 현재위치를 산출하는데, 걷거나 뛰는 행동을 진동의 변화율을 통해 그 이동거리를 파악한다.

증강현실안경(100)은 사용자가 응시한 방향을 감지할 때, 머리의 회전방향을 토대로 응시방향을 감지하도록 구성될 수 있고, 눈동자의 이동방향을 감지하여 응시방향을 감지하도록 구성될 수 있을 것이다.

또한, 머리의 회전방향 및 눈동자의 이동방향을 동시에 감지하고, 두 감지결과에 우선비중을 달리하여 응시방향을 보다 정밀하게 산출할 수 있다. 즉, 머리의 회전으로 인한 회전각도 감지에 50% 내지 100%의 비중을 부여하고, 눈동자의 이동방향에 0% 내지 60%의 비중을 부여하여 응시방향을 산출하도록 구성될 수 있을 것이다.

또한, 증강현실안경(100)에서 이동거리확장 설정모드를 선택하고 실행하여, 산출된 가상 이동거리의 2배 내지 100배의 거리 가중치가 반영되도록 사용자가 설정할 수도 있다.

또한, 증강현실안경(100)은 진동의 변화율에 대응하는 이동거리를 산출함에 있어서, 노이즈 값을 제외하기 위해, 진동 크기의 상위값 10%와 하위값 20%를 제외하고, 나머지 진동값의 변화율을 토대로 이동거리를 산출할 수 있다.

결과적으로 사용자는 실제로 실제객체 또는 가상객체로 접근하지 않거나, 아주 조금 접근하더라도 실제객체 또는 가상객체 바로 앞에 접근한 것과 같은 정보량을 갖는 가상객체를 확인할 수 있다.

도 5는 증강현실 시스템(1)의 증강현실안경(100)의 구성도이고, 도 5a는 증강현실안경(100)의 예시도이다.

도 5 및 도 5a를 참조하면, 증강현실안경(100)은 투명 디스플레이(110)와, 좌측 전방 카메라(121)와, 우측 전방 카메라(122)와, 좌측 3D센서(131)와, 우측 3D센서(132)와, 위성모듈(141)과, 통신모듈(142)과, 9축 센서(143)와, 배터리(144)와, 인식 카메라(145)와, 제어부(150)를 포함하여 구성된다.

투명 디스플레이(110)는 투명한 재질의 디스플레이로써 증강현실안경(100)의 렌즈를 구성한다. 따라서 사용자가 전방을 주시한 상태에서 실제객체와 가상객체를 동시에 확인할 수 있다. 이때 투명 디스플레이(110)는 렌즈 전체 또는 렌즈 일부에 탑재될 수 있다.

좌측 전방 카메라(121)는 안경의 좌측에 탑재되어 전방의 실제영상정보를 획득한다. 또한, 우측 전방 카메라(122)는 안경의 우측에 탑재되어 전방의 실제영상정보를 획득한다.

좌측 3D센서(131) 및 우측 3D센서(132)는 좌측 전방 카메라(121) 및 우측 전방 카메라(122)와 연동되어 전방의 3D영상을 촬영할 수 있도록 동작한다. 즉 촬영된 3D 영상은 내장된 메모리에 저장되거나 서버(200)로 전송될 수 있다. 참고적으로 실시예에 따라 전방 카메라 및 3D센서가 하나씩 배치되어 실제영상정보를 획득하도록 구성될 수도 있을 것이다. 전방 카메라는 적외선 영역 및 가시광선 영역을 모두 촬영할 수 있도록 구성되는 것이 바람직하다.

위성모듈(141)은 위성위치정보를 획득하기 위해 구비되고, 통신모듈(142)은 와이파이(Wi-Fi) 통신모듈, 블루투스 통신모듈, 광대역(3G, 4G, LTE) 통신모듈이 탑재될 수 있다.

9축 센서(143)는 가속도 3축, 관성 3축, 지자기 3축으로 총 9축의 값이 측정되기 때문에 9축 센서라고 지칭되며, 온도값에 대한 보정을 위해 온도센서가 추가로 구비될 수 있다. 9축 센서(143)는 증강현실안경(100)의 3차원적인 움직임을 감지하여 사용자의 응시방향, 이동방향, 기울기 등을 감지할 수 있다.

배터리(144)는 증강현실안경(100)에 구동전원을 공급할 수 있도록 구성되며 충전 가능한 리튬이온 배터리나, 의사 캐패시터로 구성될 수 있다.

참고적으로, 배터리(144)는 복수의 의사 캐패시터(Pseudo Capacitor)로 구성될 수 있는데, 의사 캐패시터(Pseudo Capacitor)는 전극에서의 이차원적인 산화-환원 반응을 이용하므로 일반적인 캐패시터보다 우수한 축전용량을 가지며 수명이 상대적으로 긴 장점이 있다.

인식 카메라(145)는 사용자의 눈동자의 움직임과, 눈동자의 응시방향, 눈의 크기변화를 감지한다. 인식 카메라(145)는 좌측 및 우측에 각각 배치되는 것이 가장 바람직하며 어느 한 방향에만 배치될 수도 있다.

기본적으로 인식 카메라(145)는 사용자의 눈이 위치한 방향으로 촬영되고 있으나, 투명 디스플레이(110)에서 반사되는 눈의 영상을 촬영하여 눈동자의 움직임, 응시방향, 크기변화 등을 감지하도록 구성될 수도 있을 것이다.

제어부(150)는 투명 디스플레이(110), 좌측 전방 카메라(121), 우측 전방 카메라(122), 좌측 3D센서(131), 우측 3D센서(132), 위성모듈(141), 통신모듈(142), 9축 센서(143), 배터리(144), 인식 카메라(145)의 동작을 제어한다.

한편, 제어부(150)는 충전전력의 크기에 따라 복수의 의사 캐패시터 중 적어도 어느 하나를 선택적으로 충전하도록 구성될 수 있다. 그 충전방식에 대해서 상세히 설명하면 다음과 같다.

복수의 의사 캐패시터가 3개 배치될 경우, 즉 제1 의사 캐패시터, 제2 의사 캐패시터 및 제3 의사 캐패시터가 배치된다고 가정한다. 이때 제1 의사 캐패시터의 충전용량이 가장 크고, 제2 의사 캐패시터의 충전용량은 제1 의사 캐패시터보다 작고, 제3 의사 캐패시터의 충전용량은 제2 의사 캐패시터보다 더 작다고 가정한다.

제어부(150)는 제1 의사 캐패시터, 제2 의사 캐패시터 및 제3 의사 캐패시터의 충전량을 감지한 후, 충전량이 가장 높은 순서대로 구동전력을 공급한다.

예를 들면, 제1 의사 캐패시터의 충전량이 60%이고, 제2 의사 캐패시터의 충전량이 70%이고, 제3 의사 캐패시터의 충전량이 80%일 경우,

제3 의사 캐패시터의 전력을 우선으로 공급하다가, 충전량이 40%에 도달하면 제3 의사 캐패시터의 전력공급을 차단하고 제2 의사 캐패시터의 전력을 공급한다. 또한, 제2 의사 캐패시터의 충전량이 40%에 도달하면 제2 의사 캐패시터의 전력공급을 차단하고 제1 의사 캐패시터의 전력을 공급한다.

또한, 제1 내지 제3 의사 캐패시터의 충전량이 모두 40% 이하 일 경우, 제어부(150)는 제1 내지 제3 의사 캐패시터를 병렬로 연결하여 구동전력을 공급한다.

도 6은 증강현실 시스템(1)의 안전모드가 동작하는 상태도이다.

증강현실 시스템(1)은 사용자의 안전을 위해 안전모드가 설정될 수 있다.

안전모드가 설정될 경우, 증강현실안경(100)은 전방 카메라(121, 123)를 통해 사용자에게 접근하는 실제객체를 감지한다. 즉, 자동차, 자전거 등과 같이 사용자에게 위험이 될 수 있는 실제객체가 사용자 방향으로 빠르게 접근하는 것을 감지하여 위험상황을 투명 디스플레이(110)에 표시할 수 있다.

도 6을 참조하면, 사용자가 전방을 주시하고 있는 상태의 화면이 도시되어 있는데, 중앙에 점선으로 표시된 사각영역은 시선집중구역으로 정의되며 점선의 테두리로 그 영역이 정의되어 있다. 이때, 전방 카메라(121, 122)에서 자동차, 자전거 등과 같이 사용자에게 위험이 될 수 있는 실제객체가 사용자 방향으로 빠르게(소정의 속도 이상) 접근하는 것을 감지할 경우,

시선집중구역의 크기가 자동으로 확장되고, 화면에 표시되고 있는 가상객체는 시선집중구역의 외곽방향으로 자동이동하거나, 그 투명도가 더욱 강화되어 사용자가 접근하는 실제객체를 용이하게 인지할 수 있도록 동작한다.

사용자에게 접근하는 실체객체의 속도에 비례(정비례 또는 제곱에 비례)하여 시선집중구역의 크기, 가상객체의 투명도, 외곽방향으로 이동하는 가상객체의 이동속도가 자동 결정될 수 있다.

또한, 인식 카메라(145)가 사용자의 눈동자의 방향을 감지할 경우, 시선집중구역은 눈동자의 방향에 따라 자동 이동하도록 동작한다. 즉, 사용자의 눈이 오른쪽을 응시하고 있을 경우 시선집중구역은 오른쪽 방향으로 이동한 상태이다. 이때, 전방 카메라(121, 123)에서 자동차, 자전거 등과 같이 사용자에게 위험이 될 수 있는 실제객체가 사용자 방향으로 접근 - 정면에서 접근 - 하는 것을 감지할 경우, 시선집중구역은 상술한 바와 같은 안전동작을 진행하되, 사용자의 정면방향으로 시선집중구역이 자동이동한다.

즉, 시선집중구역은 사용자에게 빠르게 접근하는 실제객체의 방향으로 자동이동하도록 설정될 수도 있을 것이다.

참고적으로 인식 카메라(145)는 사용자의 눈동자의 움직임과, 눈동자의 응시방향, 눈의 크기변화를 감지할 수 있으므로, 이러한 눈동자의 크기변화를 토대로 동작명령을 지시할 수 있다.

예를 들면 사용자가 눈을 소정의 시간동안 크게 뜰 때마다 점차적으로 하위 정보에 해당하는 가상정보를 표시하고, 눈을 소정의 시간동안 작게 뜰 때마다 점차적으로 상위 정보에 해당하는 가상정보를 표시하도록 지시될 수 있다. 또한, 인식 카메라(145)의 명령 인식률을 향상시키기 위해 사용자의 눈썹에 지시용 눈썹을 부착할 수도 있다. 지시용 눈썹은 소정의 적외선 파장을 반사하는 반사도료가 코팅되어 있으며, 인식 카메라(145)는 그 적외선 파장을 인식할 수 있도록 구성되어 명령 인식율을 향상시킬 수도 있을 것이다.

도 7은 증강현실 시스템(1)의 오버헤드 뷰 모드(Overhead View Mode)가 동작하는 상태도이다.

도 7을 참조하면, 증강현실 시스템(1)은 오버헤드 뷰 모드(Overhead View Mode)가 설정될 수 있다.

오버헤드 뷰 모드(Overhead View Mode)는 사용자의 머리 위에서 촬영되어 합성된 영상이 투명 디스플레이(110)에 표시되는 모드를 의미한다.

즉, 도면에 미도시되었으나 증강현실안경(100)에는 적외선 영역 및 가시광선 영역을 촬영할 수 있는 복수의 뷰 카메라가 안경 프레임을 따라 추가적으로 배열될 수 있다. 따라서 복수의 뷰 카메라에서 촬영된 영상을 합성하여 사용자의 시야에 제공할 수 있는데, 주간 뿐만 아니라 특히 야간에는 사용자가 안전하게 이동할 수 있는 발바닥 궤적을 표시할 수 있다. 이때, 발바닥 궤적은 소정의 이전 위치를 기준으로한 지면의 높이가 표시되어 사용자가 보다 안전하게 이동하는데 도움을 줄 수 있다.

또한, 증강현실 시스템(1)은 와이파이 통신모듈이 내장되며 실내의 공간에 일정한 간격으로 배치되는 복수의 센싱부(300)를 더 포함하여 구성될 수 있다.

복수의 센싱부(300)는 실내에서 증강현실안경(100)의 위치를 감지할 수 있도록 선택적으로 배치될 수 있으며,

복수의 센싱부(300)는 증강현실안경(100)에서 주기적으로 출력되는 와이파이 핫스팟(WIFI HOTSPOT) 신호를 감지할 때마다 그 감지정보를 서버(200)로 전송하여, 서버(200)에서 복수의 센싱부(300)의 절대위치를 기준으로 증강현실안경(100)의 상대적 위치를 파악할 수 있을 것이다.

상술한 바와 같이 제안한 시스템에서는 실외에서는 위성위치정보를 바탕으로 현재위치정보를 획득하고, 실내에서는 와이파이 신호를 이용하여 현재위치정보를 획득하는 방식을 설명하였다.

한편, 실내 및 실외에서 현재위치정보를 획득할 수 있는 추가적인 방식에 대해 설명하면 다음과 같다.

와이파이 신호를 이용하는 방식은 기본적으로 삼각측량 및 핑거 프린팅 방식으로 구분할 수 있다.

우선, 삼각측량은 3개 이상의 AP(Access Point)로부터 신호강도(Received Signal Strength, RSS)를 측정하고 신호강도를 거리로 환산한 후 방정식을 통해 위치를 계산하는 방식이다.

다음으로, 핑거 프린팅 방식은 실내 공간을 작은 셀(cell)로 나누고 각 셀에서 직접 신호강도 값을 수집하고 데이터베이스화하여 라디오맵(Radio Map)을 구축한 후, 사용자 위치에서 수신된 신호강도 값을 데이터베이스와 비교하여 가장 유사한 신호 패턴을 보이는 셀을 사용자의 위치로 추정하는 방식이다.

다음으로, 주변에 스마트폰을 가진 다수의 사용자로부터 직간접적으로 와이파이 신호를 교환하면서 각 스마트폰의 위치 데이터를 수집하는 방식을 사용할 수도 있다.

또한, 증강현실안경(100)의 통신모듈(142)은 블루투스 통신모듈을 포함하고 있으므로, 블루투스 통신을 이용하여 현재위치정보를 파악할 수 있다.

우선, 실내공간에 복수의 비콘을 배치시킨 후 어느 하나의 비콘과 통신을 진행할 때 그 비콘 주변에 사용자가 위치하고 있다고 추정하는 방식이 있다.

다음으로, 반구의 형태의 표면에 다수의 지향성 안테나가 배열된 수신기를 실내공간에 배치한 후, 증강현실안경(100)에서 발신한 신호를 수신하는 특정 지향성 안테나의 식별을 통해 사용자의 위치를 추정하는 방식이 있다. 이때, 2개 이상의 수신기를 배치할 경우 사용자의 위치를 삼차원형태로 식별할 수도 있다.

또한, 위성위치정보를 토대로 사용자의 현재위치정보를 파악하고 있다가, 위성위치정보의 음영지역에 진입할 경우, 9축 센서(143)의 정보를 이용하여 속도 및 이동방향을 추정하는 방식이다. 즉, 걸음 수 측정(Step counting), 보폭 추정(Stride length estimation), 방향 추정(Heading estimation)을 통해 실내에서 사용자의 위치를 추정할 수 있다. 이때, 추정정보의 정확성을 높이기 위해 사용자의 신체조건(키, 몸무게, 보폭) 등의 정보를 입력받아 위치추정 연산에 사용할 수도 있다. 9축 센서(143)의 정보를 이용할 때, 상술한 와이파이 통신을 이용한 위치추정기법을 결합하여 추정정보의 정확성을 향상시킬 수 있다.

즉, 와이파이 기법으로 다소 정확도가 낮더라도 전역적으로(globally) 절대적인 좌표(absolute position)를 계산하고, 9축 센서(143)의 정보를 통해 지역적으로(locally) 높은 정확도의 상대 측위(relative position)를 결합하여 정확도를 향상 시킬 수 있다. 또한, 추가적으로 블루투스 통신방식을 적용하여 위치추정정보의 정확성을 보다 향상시킬 수도 있을 것이다.

또한, 실내공간에는 위치를 구분할 수 있는 고유의 자기장 정보가 형성되어 있으므로, 각 공간의 자기장맵을 구축한 후, 와이파이를 이용한 핑거 프린팅 방식과 유사하게 현재위치를 추정하는 방법이 적용될 수 있다. 이때, 사용자가 이동하면서 발생하는 자기장의 변화추세를 추가적인 정보로 이용할 수도 있다.

또한, 실내공간에 설치된 조명을 활용하는 방법이 있다. 즉, LED 조명을 사람이 식별할 수 없을 정도의 빠르기로 점멸하면서, 특정 위치 식별자를 출력하고 증강현실안경(100)의 카메라가 특정 위치 식별자를 인식하여 위치를 추정하는 방식이 사용될 수 있다.

또한, 실내공간의 여러 위치와 다양한 각도에서 찍은 이미지들을 데이터베이스화 한 다음 사용자 위치에서 찍은 사진을 매칭하는 기법이 있으며, 실내 공간의 다양한 랜드마크(간판, 상표, 방 번호, 표지판 등)를 추가 식별함으로써 위치를 교정하는 방식이 사용될 수 있다.

참고적으로 실내공간에서 현재위치정보를 획득하는 방식은 상술한 방식을 적어도 하나 이상 조합하여 정확도를 향상시키는 것이 가장 바람직하다.

또한, 증강현실안경(100)의 연산능력과, 저장 공간이 충분한 경우, 증강현실 시스템(1)은 서버(200)의 구성없이 증강현실안경(100) 자체에서 서버(200)의 역할을 수행하도록 구성될 수도 있을 것이다.

본 발명의 실시예 따른 증강현실 시스템은, 사용자가 객체를 응시하는 시간에 따라 가상객체의 정보량이 동적으로 자동 조절되므로, 사용자가 편리하게 원하는 가상객체의 정보를 확인할 수 있다.

따라서 증강현실광고의 형태로 가상객체가 표시될 경우 사용자가 해당 가상객체를 집중력 있게 인지하는 시간이 길어지게 되어 광고효과가 상승할 수 있다.

이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

100 : 증강현실안경
200 : 서버
300 : 센싱부
110 : 투명 디스플레이
121 : 좌측 전방 카메라
122 : 우측 전방 카메라
131 : 좌측 3D센서
132 : 우측 3D센서
141 : 위성모듈
142 : 통신모듈
143 : 9축 센서
144 : 배터리
145 : 인식 카메라
150 : 제어부

Claims (6)

1. 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 투명 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 사용자의 시야범위 내에 표시하는 증강현실안경; 및
   상기 증강현실안경으로부터 전송되는 상기 현재위치정보와 상기 실제영상정보에 대응되는 상기 3차원 가상영상을 상기 증강현실안경에 실시간으로 제공하는 서버;를 포함하고,
   상기 실제영상정보의 실제객체에 각각 할당되어 표시되는 상기 3차원 가상영상의 가상객체의 정보량은, 상기 사용자가 상기 실제객체 또는 상기 가상객체를 응시한 시간에 따라 동적으로 조절되어 상기 증강현실안경에 표시되는 것을 특징으로 하는 증강현실 시스템.
   
2. 제1항에 있어서,
   상기 사용자가 상기 실제객체 또는 상기 가상객체를 소정의 시간 이상 응시할 때부터 상기 실제객체에 할당된 상기 가상객체가 표시되기 시작하되, 상기 사용자가 응시한 시간이 길어질수록 좀 더 세부적인 정보의 상기 가상객체가 표시되는 것을 특징으로 하는 증강현실 시스템.
   
3. 제1항에 있어서,
   상기 증강현실안경은,
   사용자가 확인하고 싶은 상기 가상객체를 응시한 상태에서 진동이 발생했을 경우, 진동의 변화율에 대응하는 이동거리를 산출한 후 응시방향과 산출된 이동거리를 토대로 상기 가상객체의 정보량을 재설정하여 표시하는 것을 특징으로 하는 증강현실 시스템.
   
4. 제1항에 있어서,
   상기 증강현실안경은,
   위성위치정보를 상기 현재위치정보로써 상기 서버에 제공하는 것을 특징으로 하는 증강현실 시스템.
   
5. 제1항에 있어서,
   상기 증강현실안경은,
   위성위치정보를 상기 현재위치정보로써 상기 서버에 제공하되, 검색된 적어도 하나 이상의 와이파이(Wi-Fi) 중계기의 신호세기를 추가로 파악하여 상기 서버로 전달하는 것을 특징으로 하는 증강현실 시스템.
   
6. 제1항에 있어서,
   상기 증강현실 시스템은,
   와이파이 통신모듈이 내장되며 실내의 공간에 일정한 간격으로 배치되는 복수의 센싱부;를 더 포함하고,
   상기 복수의 센싱부는 상기 증강현실안경에서 주기적으로 출력되는 와이파이 핫스팟(WIFI HOTSPOT) 신호를 감지할 때마다 그 감지정보를 상기 서버로 전송하는 것을 특징으로 하는 증강현실 시스템.

Images