KR102012835B1 - 문자의 필기를 인식하고 증강현실 객체의 조작이 가능한 증강현실 시스템 - Google Patents

Abstract

문자의 필기를 인식하고 증강현실 객체의 조작이 가능한 증강현실 시스템은, 디스플레이에 3차원 가상영상을 표시함에 있어서, 상기 디스플레이에 표시되는 문자의 테두리에 점선 가이드가 표시되며 점선 가이드를 따라 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시하는 모바일 단말기를 포함하고, 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 가상객체의 움직임이 재생되는 것을 특징으로 한다.

Description

문자의 필기를 인식하고 증강현실 객체의 조작이 가능한 증강현실 시스템{An augmented reality system capable of manipulating an augmented reality object using three-dimensional attitude information and recognizes handwriting of character}

본 발명은 증강현실 시스템에 관한 것으로서, 더 상세하게는 문자의 필기를 인식하고 증강현실 객체의 조작이 가능한 증강현실 시스템에 관한 것이다.

최근 카메라 모듈을 이용한 촬영 시 현실의 공간에 다양한 정보를 덧씌워 보여 주는 증강 현실(augmented reality) 기법을 이용한 컨텐츠 제공이 활발히 연구되고 있다.

증강현실(Augmented Reality, AR)이란 가상현실(Virtual Reality, VR)의 한 분야에 속하는 기술이며, 사용자가 감각으로 느끼는 실제환경에 가상환경을 합성하여 원래의 실제환경에 가상환경이 존재하는 것처럼 느끼게 하는 컴퓨터 기법이다.

이러한 증강 현실은 가상의 공간과 사물만을 대상으로 하는 기존의 가상현실과 달리 현실 세계의 기반에 가상사물을 합성하여 현실 세계만으로는 얻기 어려운 부가적인 정보들을 보강해 제공할 수 있는 장점이 있다.

즉, 사용자가 보고 있는 실사 영상에 컴퓨터 그래픽으로 만들어진 가상환경, 예를 들면, 3차원 가상환경을 정합함으로써 구현된 현실을 증강현실이라고 할 수 있다. 여기서, 3차원 가상환경은 사용자가 바라보는 실사 영상에서 필요한 정보를 제공해주고, 3차원 가상영상은 실사영상과 정합되어 사용자의 몰입도를 높일 수 있다.

이러한 증강현실은 단순 가상현실 기술에 비하여 3차원 가상환경에 실사영상도 같이 제공하여 현실환경과 가상환경과의 구분이 모호해지게 함으로써, 보다 나은 현실감을 제공할 수 있다.

이와 같은 증강현실 시스템의 장점에 기인하여, 최근 세계적으로 증강현실을 접목한 기술에 대해 활발한 연구/개발이 진행되고 있다. 예를 들어, 증강 현실 기술은 방송, 광고, 전시, 게임, 테마 파크, 군용, 교육 및 프로모션 등의 분야에서 실용화가 진행 중인 상태이다.

이동 단말기는 최근 휴대폰, PDA(personal digital assistants), UMPC(ultra mobile personalcomputer) 등 모바일 기기의 컴퓨팅 능력 향상 및 무선 네트워크 장치의 발달로 핸드헬드(handheld) 증강현실시스템이 가능해 졌다.

이러한 시스템이 가능해지면서 모바일 기기를 사용한 증강현실 어플리케이션이 다수 개발되었다. 그리고 모바일 기기의 보급이 매우 빠르게 보편화되어 증강현실 어플리케이션을 접할 수 있는 환경이 조성되고 있는 상황이다.

더불어, 단말기의 증강현실을 이용한 다양한 부가서비스에 대한 사용자 요구가 증대하고 있으며, 이를 이용하여 단말기 사용자에게 다양한 증강현실 컨텐츠를 적용하려는 시도가 증가하고 있다.

한국특허 공개번호 제10-2016-0092292호는 "광고물에 대한 증강현실 서비스 제공 시스템 및 방법"에 관한 것으로서, 광고물에 증강현실을 적용하여 광고 대상에 관련된 정보들을 피광고자가 손쉽게 취득할 수 있고 흥미롭게 몰입하여 습득할 수 있도록 하는 등 효과적으로 전달할 수 있는 시스템을 제안하고 있다.

한편, 사용자의 몸에 착용할 수 있는 다양한 웨어러블 디바이스 제품이 출시되고 있다. 특히 모바일 기술과 투명 디스플레이 기술을 안경에 적용하여 사용자가 안경을 통해 다양한 정보를 확인할 수 있는 시스템이 개발되고 있다.

도 1은 종래의 증강현실 시스템에서 표시되는 가상객체를 도시한 도면이다.

도 1을 참조하면, 종래의 증강현실 시스템은 안경의 투명 디스플레이에 너무 많은 가상객체를 표시하므로 사용자의 시선을 가리게 되며 이러한 이유로 인해 사용자가 필요한 정보를 인지하기 어려운 문제가 발생한다.

또한, 외형이 비슷한 실제객체가 다수 존재할 경우 중복 인식되거나, 할당되지 않은 가상객체가 표시되어 혼동을 유발할 수 있으므로 유사객체를 식별하여 중복 인식을 방지할 수 있는 기술이 요구되고 있다.

또한, 모바일 단말기로 증강현실을 구동하여 가상객체를 이동/회전 조작을 하고자 하는 경우, 손가락으로 스마트폰의 터치스크린을 터치하여 가상객체를 조작해야 한다.

터치 스크린(디스플레이)은 손가락 접촉 지점의 2차원 좌표만을 제공하기 때문에 가상객체를 2차원 평면상으로 수평 또는 수직으로 이동할 수 있다. 회전 조작의 경우에도 손가락 제스처를 통해 1차원 축을 기준으로 가상객체를 회전 할 수 있다.

따라서 종래에는 제한된 1차원 또는 2차원의 조작만 가능하기 때문에 가상객체를 효율적으로 3차원 조작하는 것이 어려웠다. 가상객체를 다양한 자세로 변경하기 위해서는 이동 또는 회전 모드를 수시로 변경하여 여러 번 조작이 필요하므로 시간이 많이 걸리고 손가락을 많이 움직여야하는 단점이 있다.

한편, 문자를 인식하는 기술에는 사용자가 필기하는 동안 문자를 인식하는 방식인 온라인 문자 인식과, 이미 작성된 필기체 문자를 인식하는 방식인 오프라인 문자 인식이 있다.

온라인 문자 인식은 필기의 시간적, 공간적인 동적 정보를 얻을 수 있으므로 획수, 획순, 필기 방향등의 정보를 알 수 있다. 이와 달리 오프라인 문자 인식은 동적 정보를 얻을 수 없고 이진화, 윤곽선 추출 후 형태 분석이나 템플릿 매칭 등의 과정을 통해 글자를 인식한다.

문자 인식을 기반으로 하는 증강 기술에서는 오프라인 문자 인식 방식을 주로 사용한다. 하지만, 오프라인 문자 인식 특성상, 필기된 문자가 학습 문자 모양과 다르면 인식률이 현저하게 떨어지는 문제가 있다. 특히 아동의 경우 표준적인 필기방식과 많이 다르므로 문자 인식률이 매우 낮아 대부분의 문자 학습 증강현실 애플리케이션은 글자 카드를 사용하는 것에 머물고 있다.

KR 10-2016-0092292 A

본 발명은 상기와 같은 기술적 과제를 해결하기 위해 제안된 것으로, 디스플레이에 표시되는 문자의 테두리에 점선 가이드가 표시되며 점선 가이드를 따라 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시하는 증강현실 시스템을 제공한다.

상기 문제점을 해결하기 위한 본 발명의 일 실시예에 따르면, 디스플레이에 3차원 가상영상을 표시함에 있어서, 상기 디스플레이에 표시되는 문자의 테두리에 점선 가이드가 표시되며 상기 점선 가이드를 따라 필기가 감지될 경우, 상기 문자를 인식한 후 상기 문자 내용에 해당하는 가상객체를 표시하는 모바일 단말기를 포함하고, 상기 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 상기 가상객체의 움직임이 재생되는 것을 특징으로 하는 증강현실 시스템이 제공된다.

또한 본 발명에 포함되는 상기 모바일 단말기는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득하고, 상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 자세는 상기 3차원 자세정보에 동기되어 변경되는 것을 특징으로 한다.

또한, 본 발명의 다른 실시예에 따르면, 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 상기 디스플레이에 표시하는 모바일 단말기를 포함하고, 상기 모바일 단말기는, 상기 3차원 가상영상의 명칭에 해당하는 문자를 상기 디스플레이에 표시하되, 상기 문자의 테두리에 점선 가이드가 표시되며 상기 점선 가이드를 따라 필기가 감지될 경우, 상기 문자를 인식한 후 상기 문자 내용에 해당하는 가상객체를 표시하고, 상기 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 상기 가상객체의 움직임이 재생되는 것을 특징으로 하는 증강현실 시스템이 제공된다.

본 발명에 포함되는 모바일 단말기는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득하고, 상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 자세는 상기 3차원 자세정보에 동기되어 변경되는 것을 특징으로 한다.

또한, 본 발명의 또 다른 실시예에 따르면, 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 상기 디스플레이에 표시하는 모바일 단말기; 및 상기 모바일 단말기로부터 전송되는 상기 현재위치정보와 상기 실제영상정보에 대응되는 상기 3차원 가상영상을 상기 모바일 단말기에 실시간으로 제공하는 서버;를 포함하고, 상기 서버는 상기 실제영상정보의 실제객체를 식별하고 식별된 실제객체에 각각 할당된 상기 3차원 가상영상의 가상객체를 상기 모바일 단말기에 제공함에 있어서, 상기 모바일 단말기는, 상기 3차원 가상영상의 명칭에 해당하는 문자를 상기 디스플레이에 표시하되, 상기 문자의 테두리에 점선 가이드가 표시되며 상기 점선 가이드를 따라 필기가 감지될 경우, 상기 문자를 인식한 후 상기 문자 내용에 해당하는 가상객체를 표시하고, 상기 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 상기 가상객체의 움직임이 재생되고, 상기 모바일 단말기는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득하고, 상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 자세는 상기 3차원 자세정보에 동기되어 변경되는 것을 특징으로 한다.

또한, 본 발명에 포함되는 상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 좌표는, 상기 실제영상정보에 대한 공간 좌표계에서 상기 모바일 단말기의 모바일 좌표계로 변경되고, 선택 해제된 가상객체의 좌표는 상기 모바일 단말기의 모바일 좌표계에서 상기 실제영상정보에 대한 공간 좌표계로 변경되는 것을 특징으로 한다.

본 발명의 실시예에 따른 증강현실 시스템은, 디스플레이에 표시되는 문자의 테두리에 점선 가이드가 표시되며 점선 가이드를 따라 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시할 수 있다.

즉, 사용자에게 점선 가이드를 제공하여 필기 연습을 할 수 있으며 점선 가이드의 문자 폰트는 정형화 되어 있기 때문에 문자 인식률이 높다. 특히 0 ~ 5세까지의 아이들은 성인들과 다르게 문자를 문자로 인식하지 않고, 객체 즉 그림 혹은 덩어리로 인식하는 관계로 특정한 문자체에 상관없이 학습할 수 있다. 글자를 쓰는 행위는 그리는 행위 혹은 색칠을 하는 행위로 연계되어 학습을 할 수 있다. 또한, 3차원 방식의 다감각적 정보를 활용하여 학습할 수 있다. 아이들은 보고, 듣고, 느끼는 방식으로 감각을 표현하며 발달시키는데, 본 발명에서는 다감각에 의존한 표현 방식을 통해 지각력을 높여 정보에 대한 감각적 몰두를 할 수 있게 한다.

여기에서 감각적 몰두는 사용자의 주의가 눈앞에 펼쳐지는 가상 세계의 정보에 얼마만큼 빠져 들어가 있는가를 말하는 것이며, 예를 들어 증강현실에서 사물이 증강 될 때 아이들은 집중하게 되고, 사물의 완전한 모습을 관찰하기 위해 손가락으로 화면을 터치하거나 카메라를 움직이는 행위를 하게 된다. 아이들이 구체적인 그리기(글자 쓰기 활동)활동을 통해 가상객체를 조작하는 실물형 인터페이스를 제공함으로써 학습상황에서의 자연스러운 행위 유발성을 가져와 학습 자체에 몰입할 수 있다.

또한, 본 발명의 실시예에 따른 증강현실 시스템은 선택된 적어도 하나 이상의 가상객체의 자세가 모바일 단말기의 3차원 자세정보에 동기되어 변경되므로, 최소한의 액션으로 가상객체의 자세를 다양하게 변경할 수 있다.

또한, 모바일 단말기의 3차원 이동/회전 정보를 이용하여, 선택된 가상객체를 3차원적으로 이동/회전 시킬 수 있다. 즉, 이동, 회전 조작 모드를 상호 변환하지 않고 터치 스크린(디스플레이)을 여러 번 접촉하지 않아도 모바일 단말기의 자세변경을 통해 쉽게 가상객체를 이동/회전 시킬 수 있다.

또한, 가상객체의 움직임을 기록하여 저장하고 재생할 수 있도록 하여 증강현실 애니메이션 구현 등과 같은 활용도를 높일 수 있다.

도 1은 종래의 증강현실 시스템에서 표시되는 가상객체를 도시한 도면
도 2는 본 발명의 실시예에 따른 증강현실 시스템(1)의 구성도이고, 도 2a는 증강현실 시스템(1)의 동작 과정을 나타낸 순서도
도 3은 문자의 테두리에 점선 가이드가 표시된 예시도
도 4 및 도 5는 문자를 인식한 후 문자 내용에 해당하는 가상객체가 표시되는 예시도
도 6 및 도 6a는 증강현실 시스템(1)에서 가상객체를 움직이는 예시를 나타낸 도면
도 7은 증강현실 시스템(1)에서 가상객체를 움직이는 다른 예시를 나타낸 도면
도 8은 증강현실 시스템(1)에서 가상객체를 선택하는 조건을 나타낸 도면
도 9는 증강현실 시스템(1)에서 유사객체를 식별하기 위한 학습과정을 나타낸 순서도
도 9a는 증강현실 시스템(1)에서 유사객체를 식별하기 위한 추가인식영역을 선정하는 과정을 도시한 구성도
도 10은 증강현실 시스템(1)에서 유사객체를 식별하는 과정을 나타낸 순서도
도 11은 증강현실 시스템(1)에서 유사객체를 식별하는 상태를 나타낸 제1 예시도
도 12는 증강현실 시스템(1)에서 유사객체를 식별하는 상태를 나타낸 제2 예시도
도 13은 증강현실 시스템(1)의 다른 동작원리를 나타낸 도면
도 14 및 도 14a는 증강현실 시스템(1)의 또 다른 동작원리를 나타낸 도면
도 15는 증강현실 시스템(1)의 모바일 단말기(100)의 구성도

이하, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 정도로 상세히 설명하기 위하여, 본 발명의 실시예를 첨부한 도면을 참조하여 설명하기로 한다.

도 2는 본 발명의 실시예에 따른 증강현실 시스템(1)의 구성도이고, 도 2a는 증강현실 시스템(1)의 동작 과정을 나타낸 순서도이다.

본 실시예에 따른 증강현실 시스템(1)은 제안하고자 하는 기술적인 사상을 명확하게 설명하기 위한 간략한 구성만을 포함하고 있다.

도 2 및 도 2a를 참조하면, 증강현실 시스템(1)은 모바일 단말기(100)와, 서버(200)와, 복수의 센싱부(300)를 포함하여 구성된다. 여기에서 서버(200) 및 복수의 센싱부(300)는 실시예에 따라 증강현실 시스템(1)에 선택적으로 구비될 수 있는 구성이다.

본 발명의 실시예에 따른 증강현실 시스템(1)은 문자의 필기를 인식하고 증강현실 객체의 조작이 가능하도록 동작할 수 있다.

즉, 모바일 단말기(100)는 디스플레이에 3차원 가상영상을 표시함에 있어서, 디스플레이에 표시되는 문자의 테두리에 점선 가이드가 표시되며 점선 가이드를 따라 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시한다.

이때, 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 가상객체의 움직임이 재생될 수 있다. 또한, 모바일 단말기(100)는 9축 센서를 구비하므로 자신의 3차원 자세정보를 획득하고, 모바일 단말기(100)에서 선택된 적어도 하나 이상의 가상객체의 자세는 3차원 자세정보에 동기되어 변경될 수 있다.

즉, 점선 가이드를 따라 사용자가 필기를 하면 문자를 인식하여 해당되는 콘텐츠를 증강되어 가상객체로 표시된다. 증강되는 콘텐츠는 이미지, 동영상, 애니메이션 3D 모델, 음성 등이 포함될 수 있는데, 반응형 콘텐츠일 경우 사용자가 만지는 등의 행동을 할 경우 콘텐츠가 애니메이션, 음성, 소리 등을 표현하도록 동작한다.

한편, 모바일 단말기(100)는 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 실제영상정보에 대응하는 3차원 가상영상을 디스플레이에 표시한다.

서버(200)는 모바일 단말기(100)로부터 전송되는 현재위치정보와 실제영상정보에 대응되는 3차원 가상영상을 모바일 단말기(100)에 실시간으로 제공한다.

이때, 모바일 단말기(100)는 서버(200)로부터 제공받은 3차원 가상영상을 바로 표시하지 않고, 3차원 가상영상의 명칭에 해당하는 문자를 디스플레이에 표시할 수 있다.

이때, 문자의 테두리에 점선 가이드가 표시되며 점선 가이드를 따라 사용자의 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시한다. 이때, 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 가상객체의 움직임이 재생될 수 있다.

모바일 단말기(100)는 기본적으로 위성위치정보를 현재위치정보로써 서버(200)에 제공하도록 구성된다. 모바일 단말기(100)에 통신모듈이 포함되어 있을 경우, 위성위치정보 뿐만 아니라 주변의 와이파이(Wi-Fi) 중계기의 위치, 기지국 위치 등이 현재위치정보로써 서버(200)에 추가로 제공될 수 있다.

예를 들어 특히 실내에서는 위성위치정보를 수신할 수 없는 경우가 많으므로, 모바일 단말기(100)는, 검색된 적어도 하나 이상의 와이파이(Wi-Fi) 중계기의 신호세기를 추가로 파악하여 서버(200)로 전달할 수 있다. 즉 실내에 위치한 와이파이(Wi-Fi) 중계기의 절대위치는 미리 서버(200)에 저장되어 있으므로, 모바일 단말기(100)가 검색된 와이파이(Wi-Fi) 중계기의 고유번호와 신호세기를 추가로 제공할 경우, 서버(200)에서는 모바일 단말기(100)의 상대적인 이동경로를 파악할 수 있다.

즉, 모바일 단말기(100)와 와이파이(Wi-Fi) 중계기 사이의 상대적인 거리를 신호세기로써 확인할 수 있으며 이웃하는 와이파이(Wi-Fi) 중계기와의 신호세기 변화를 토대로 이동방향을 산출할 수 있다. 실내에서 현재위치정보를 획득하는 추가적인 방식에 대해서는 후술하기로 한다.

따라서 서버(200)는 모바일 단말기(100)를 소지한 사용자의 현재위치정보와, 모바일 단말기(100)의 영상 카메라에서 촬영된 실제영상정보를 통해 각각의 실제객체에 할당된 가상객체를 파악하고, 이에 대한 정보를 모바일 단말기(100)로 실시간으로 전송한다.

서버(200)는 실제영상정보의 실제객체를 식별하고 식별된 실제객체에 각각 할당된 3차원 가상영상의 가상객체를 모바일 단말기(100)에 제공하는데, 이때 모바일 단말기(100)는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득하고, 모바일 단말기(100)에서 선택된 적어도 하나 이상의 가상객체의 자세는 3차원 자세정보에 동기되어 변경될 수 있다.

이때, 모바일 단말기(100)에서 선택된 적어도 하나 이상의 가상객체의 좌표는, 실제영상정보에 대한 공간 좌표계에서 모바일 단말기(100)의 모바일 좌표계로 변경되고, 선택 해제된 가상객체의 좌표는 모바일 단말기(100)의 모바일 좌표계에서 실제영상정보에 대한 공간 좌표계로 변경된다. 이에 대한 상세한 설명은 후술하기로 한다.

참고적으로 모바일 단말기(100)의 연산능력과, 저장 공간이 충분한 경우, 증강현실 시스템(1)은 서버(200)의 구성없이 모바일 단말기(100) 자체에서 서버(200)의 역할을 수행하도록 구성될 수도 있을 것이다. 즉, 모바일 단말기(100)는 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 실제영상정보에 대응하는 3차원 가상영상을 디스플레이에 표시한다. 이때, 모바일 단말기(100)는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득할 수 있다. 따라서 모바일 단말기(100)에서 선택된 적어도 하나 이상의 가상객체의 자세는 3차원 자세정보에 동기되어 변경된다.

사용자가 모바일 단말기(100)를 3차원적으로 움직일 경우, 선택된 가상객체는 그 3차원적인 움직임에 동기되어 자세가 자동 변경된다. 참고적으로 9축 센서는 가속도 3축, 관성 3축, 지자기 3축으로 총 9축의 값이 측정되기 때문에 9축 센서라고 지칭되며, 온도값에 대한 보정을 위해 온도센서가 추가로 구비될 수 있다. 9축 센서는 모바일 단말기의 3차원적인 움직임을 감지할 뿐만 아니라 사용자의 응시방향, 이동방향, 기울기 등을 감지할 수 있다.

도 3은 문자의 테두리에 점선 가이드가 표시된 예시도이다.

도 3을 참조하면, 모바일 단말기(100)의 디스플레이에"elephant", "pig", "wolf", "eagle"이 영문으로 표시되며 각 문자의 테두리에 점선 가이드가 표시된다.

따라서 사용자가 점선 가이드를 따라 터치를 하거나 펜으로 그리는 등의 행위를 할 경우, 즉 점선 가이드를 따라 필기가 감지될 경우, 모바일 단말기(100)는 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시한다.

이때, 언어의 종류는 다양하게 선택할 수 있도록 표시될 수 있다. 본 실시예에서는 영어, 한국어가 선택표시되고, 그에 해당하는 언어로 문자가 표시되는 예시를 보였으나, 실시예에 따라 영어 및 한국어를 포함한 다양한 언어를 선택할 수 있도록 구성될 수 있을 것이다.

도 4 및 도 5는 문자를 인식한 후 문자 내용에 해당하는 가상객체가 표시되는 예시도이다.

도 4 및 도 5를 참조하면, 얼룩말(zebra) 및 늑대(wolf)에 대한 문자의 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체, 즉 얼룩말 또는 늑대가 가상객체로써 표시된다.

이때, 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 가상객체의 움직임이 재생될 수 있다. 예를 들면 얼룩말의 엉덩이를 터치할 경우, 얼룩말이 널뛰는 액션이 재생될 수 있고 얼룩말의 머리를 쓰다듬을 경우 머리를 위아래로 흔드는 액션이 재생될 수 있다.

또한, 얼룩말이 가상객체로 표시된 상태에서 "사랑" 라는 문자를 추가 필기할 경우, "사랑"이라는 의미가 얼룩말의 행동에 부여되어 미리 설정된 얼룩말의 "사랑"에 대한 액션이 재생될 수 있다. 이때, "사랑"이라는 문자의 테두리에도 점선 가이드가 표시된다.

또한, 얼룩말이 가상객체로 표시된 상태에서 얼룩말의 엉덩이를 터치할 경우, 얼룩말이 널뛰는 액션이 재생되면서 "싫다", 또는 "놀람" 이라는 문자가 디스플레이에 표시될 수 있다.

한편, 모바일 단말기(100)에는 디스플레이 방향으로 사용자의 얼굴을 촬영할 수 있는 추가 카메라가 구비될 수 있다. 이 카메라는 3차원 영상을 촬영할 수 있어 사용자의 신체, 특히 얼굴의 3차원 영상(깊이 영상)을 파악할 수 있다.

따라서 신체연동모드가 설정될 경우, 사용자의 얼굴표정이 감지될 수 있는데, 얼룩말이 가상객체로 표시된 상태에서 사용자의 웃는 표정이 감지된 경우, 미리 설정된 얼룩말의 "기쁨"에 대한 액션이 재생될 수 있다. 사용자의 우는 표정이 감지된 경우, 미리 설정된 얼룩말의 "슬픔"에 대한 액션이 재생될 수 있다. 사용자의 화난 표정이 감지된 경우, 미리 설정된 얼룩말의 "분노"에 대한 액션이 재생될 수 있을 것이다.

이와 같은 문자의 필기를 인식하고 증강현실 객체의 조작이 가능한 증강현실 시스템(1)은, 3차원 방식의 다감각적 정보를 활용하여 학습할 수 있다. 아이들은 보고, 듣고, 느끼는 방식으로 감각을 표현하며 발달시키는데, 본 발명에서는 다감각에 의존한 표현 방식을 통해 지각력을 높여 정보에 대한 감각적 몰두를 할 수 있게 한다.

도 6 및 도 6a는 증강현실 시스템(1)에서 가상객체를 움직이는 예시를 나타낸 도면이다.

도 6 및 도 6a를 참조하면, 제1 단계(STEP 1)에서 공간 좌표계를 기준으로 공간상에 가상객체들이 증강되어 모바일 단말기(100)의 디스플레이에 표시된다.

제2 단계(STEP 2)에서 사용자가 모바일 단말기(100)로 가상객체를 선택하는데, 사용자가 모바일 단말기(100)의 디스플레이(터치 스크린)에 표시된 어느 하나 이상의 가상객체를 터치하면, 선택된 가상객체가 모바일 단말기(100)와 연결된다. 여기에서 연결의 의미는 가상객체의 기준 좌표계를 공간 좌표계에서 모바일 단말기(100)의 좌표계로 변경하였다는 것을 의미한다.

제3 단계(STEP 3)에서 가상객체를 터치한 상태로 모바일 단말기(100)를 이동/회전하면, 모바일 단말기(100)에 연결된 가상객체의 이동/회전 정보가 모바일 단말기(100)의 3차원 움직임에 동기에 3차원적으로 변경된다.

제4 단계(STEP 4)에서 가상객체를 터치입력을 하지 않으면 가상객체가 모바일 단말기(100)에서 분리된다. 여기에서 분리는 가상객체의 기준 좌표계가 모바일 단말기(100)의 좌표계에서 공간 좌표계로 변경되었다는 것을 의미한다.

제5 단계(STEP 5)에서 모바일 단말기(100)의 3차원 자세정보에 동기되어 변경되는 가상객체의 자세변화영상은 저장되어 추후 재생 가능하다. 즉, 가상객체의 자세변화영상이 저장이 되었다면 추후에 재생 버튼을 눌러서 기록된 정보를 불러와 재생할 수 있다.

상술한 예시의 제2 단계(STEP 2) 내지 제4 단계(STEP 4)에서 가상객체가 터치된 상태를 유지하는 동안에만, 그 터치된 가상객체의 기준 좌표계가 공간 좌표계에서 모바일 단말기(100)의 좌표계로 변경되어 모바일 단말기(100)의 3차원 동작과 연동되는 예시를 설명하였으나,

실시예에 따라 가상객체를 소정의 시간이상 터치하면 가상객체가 선택되고, 다시 소정의 시간이상 터치하면 가상객체의 선택이 해제되는 방식이 적용될 수 있을 것이다.

도 7은 증강현실 시스템(1)에서 가상객체를 움직이는 다른 예시를 나타낸 도면이다.

도 7을 참조하면, 모바일 단말기(100)에서 증강 콘텐츠가 로딩되어 가상객체가 표시되면, 사용자가 가상객체를 선택하여 해당 가상객체의 좌표계를 모바일 좌표계로 변경한다. 이후 모바일 단말기(100)의 3차원 움직임에 연동되어 선택된 가상객체가 움직이게 된다.

도 8은 증강현실 시스템(1)에서 가상객체를 선택하는 조건을 나타낸 도면이다.

도 8을 참조하면, 모바일 단말기(100)의 디스플레이에 표시된 가상객체를 선택할 때, 가상객체를 소정의 시간(t0)이상 터치하면 가상객체가 선택되고, 다시 소정의 시간(t0)이상 터치하면 가상객체의 선택이 해제되는 방식이 적용될 수 있을 것이다.

이때, 디스플레이가 소정의 압력(k1)이상으로 터치되는 경우에만, 가상객체의 터치 유효구간으로 인정되도록 구성되는 것이 바람직하다.

즉, 가상객체를 소정의 시간(t0)이상 터치하면 가상객체가 선택되어 그 터치된 가상객체의 기준 좌표계가 공간 좌표계에서 모바일 단말기(100)의 좌표계로 변경되어 모바일 단말기(100)의 3차원 동작과 연동된다.

이때, 소정의 시간(t0)이상 터치된 이후의 지속시간에 따라 가상객체의 자세변화영상이 저장되는 시간이 자동 설정될 수 있다.

도 8에 도시된 바와 같이, 가상객체를 소정의 시간(t0)이상 터치한 이후에도 제1 시간(t1) 동안 터치를 지속하면 소정의 시간(t0)에서 제1 시간(t1)까지의 구간(P1)동안 저장시간이 자동 설정된다. 따라서 가상객체의 터치시간이 길어질수록 저장시간이 더욱 길어지며 터치시간의 배수형태로 저장시간이 설정된다. 이때, 저장시간은 가상객체의 최초 이동시점부터 카운트 된다.

이때 자동 설정된 저장시간은 디스플레이에 시간바 형태로 표시되며 그 소요시간이 실시간으로 표시된다. 이때 사용자가 시간바를 드레그 하여 좌우로 이동할 경우 소요시간이 길어지거나 짧아지게 동작한다. 즉, 사용자의 드레그 동작에 의해 자동 설정된 저장시간이 늘어나거나 줄어들 수 있다.

한편, 모바일 단말기(100)에는 디스플레이 방향으로 사용자의 얼굴을 촬영할 수 있는 추가 카메라가 구비될 수 있다. 이 카메라는 3차원 영상을 촬영할 수 있어 사용자의 신체, 특히 얼굴의 3차원 영상(깊이 영상)을 파악할 수 있다.

따라서 신체연동모드가 설정될 경우, 사용자의 머리 움직임이나, 손가락 움직임, 동공의 움직임 중 적어도 어느 하나 이상을 카메라가 3차원적으로 파악하여, 이러한 움직임에 동기되어 가상객체가 움직이도록 설정될 수 있다. 이때, 머리 움직임, 손가락 움직임, 동공의 움직임은 개별적으로 선택될 수 있고, 복수 개가 선택되어 움직임을 파악하도록 설정될 수 있을 것이다.

한편, 본 발명의 실시예에 따른 증강현실 시스템(1)은 추가인식영역을 선정하고, 추가인식영역의 영상 차이점을 토대로 고유 식별자를 실제객체에 각각 부여하여 유사객체를 식별할 수 있다.

또한, 증강현실 시스템(1)은 추가인식영역의 영상 차이점을 토대로 각각의 실제객체에 부여된 고유 식별자와, 각 실제객체의 현재위치정보를 모두 고려하여 각각의 실제객체를 식별할 수 있다.

따라서 유사성이 높은 실제객체가 배열되더라도 이를 식별하여 각각의 실제객체에 할당된 가상객체를 표시하여 사용자에게 혼동 없는 정보를 전달할 수 있다.

객체의 시각인지기술은 네 가지 단계로 구분할 수 있다. - DCRI (Detection, Classification, Recognition, and Identification) -

우선, 발견(Detection)은 객체가 있는지 없는지만 알 수 있는 단계이다.

다음으로, 분류(Classification)는 객체가 어떤 분류인지 알 수 있는 단계이다. - 예를 들면 사람인지 동물인지 분류할 수 있음 -

다음으로, 인식(Recognition)은 객체의 개략적인 특성을 알 수 있는 단계이다. - 예를 들면 사람이 입고 있는 옷의 간략한 정보를 알 수 있음 -

마지막으로, 식별(Identification)은 객체의 세밀한 특성을 알 수 있는 단계이다. - 예를 들면 어떤 사람의 얼굴을 구분할 수 있고, 자동차 번호판의 숫자를 알 수 있음 -

본원발명의 증강현실 시스템(1)은 식별(Identification)단계가 구현되어 유사한 실제객체의 세부 특성을 구분할 수 있도록 동작한다.

예를 들면 증강현실 시스템(1)은 유사한 모양을 갖는 설비(실제객체)에 부착된 문자를 인식하고 고유식별번호를 부여하거나, 차이가 있는 부분을 식별한 후 그 부분을 추가인식영역을 선정하고, 추가인식영역의 2D/3D 특징정보 차이와, 위성위치정보 및 와이파이 신호 등으로 계측된 현재위치정보를 모두 이용하여 유사도 값이 높은 실제객체를 각각 구분할 수 있도록 구성된다.

도 9는 증강현실 시스템(1)에서 유사객체를 식별하기 위한 학습과정을 나타낸 순서도이고, 도 9a는 증강현실 시스템(1)에서 유사객체를 식별하기 위한 추가인식영역을 선정하는 과정을 도시한 구성도이다.

도 9 및 도 9a를 참조하면, 서버(200)는 실제영상정보의 실제객체를 식별하고 식별된 실제객체에 각각 할당된 3차원 가상영상의 가상객체를 모바일 단말기(100)에 제공하도록 동작한다.

즉, 서버(200)는 실제영상정보에 존재하는 복수의 실제객체 중에서 소정의 영상 유사도 값(d) 이상을 갖는 실제객체들은 각각의 실제영상정보를 차분하여 추가인식영역을 선정하고, 추가인식영역의 영상 차이점을 토대로 고유 식별자를 실제객체에 각각 부여한다.

예를 들면 추가인식영역이 서로 다른 문자나, 숫자가 표시되어 있을 경우 서버(200)는 추가인식영역의 차이점을 토대로 각각의 실제객체에 고유 식별자를 부여한 후 이를 데이터베이스화하여 저장하고, 고유 식별자에 할당된 가상객체를 추가 모바일 단말기(100)로 전송할 수 있다.

즉, 복수의 실제객체가 소정의 영상 유사도 값(d) 이상을 가질 경우, 영상을 추상화하고 영상을 차분화하여 추가인식영역(추가 학습영역)을 설정한 후, 추가인식영역의 차이점을 식별하여 각각의 고유 식별자를 부여하는 것이다.

도 10은 증강현실 시스템(1)에서 유사객체를 식별하는 과정을 나타낸 순서도이고, 도 11은 증강현실 시스템(1)에서 유사객체를 식별하는 상태를 나타낸 제1 예시도이다.

도 10 및 도 11을 참조하면, 모바일 단말기(100)로부터 실제영상정보가 전달되면, 서버(200)는 실제영상정보의 실제객체를 구분한 후, 유사 이미지가 존재하지 않을 경우(유사한 모양의 실제객체가 존재하지 않을 경우)에는 식별된 이미지에 해당하는 가상객체를 각각 할당한다.

이때, 서버(200)는 유사 이미지가 존재할 경우(유사한 모양의 실제객체가 존재할 경우) 추가인식영역의 정보를 비교하여 고유 식별자를 식별한 후, 고유 식별자에 해당하는 가상객체를 할당한다.

즉, 도 11에 도시된 바와 같이, 유사한 모양의 설비(실제객체)가 이웃한 위치에 배치될 경우, 서버(200)는 모바일 단말기(100)로부터 전송된 실제영상정보에서 복수의 실제객체를 인식한 후, 각 실제객체의 추가인식영역의 정보를 비교하여 고유 식별자를 식별하고 고유 식별자에 해당하는 가상객체를 할당한다.

한편, 각 설비의 추가인식영역에 서로 다른 식별마커가 인쇄되어 있을 경우, 그 식별마커의 형태는 다음과 같이 구성될 수 있다.

식별마커는 제1 식별마커 영역과, 제2 식별마커 영역과, 제3 식별마커 영역과, 제4 식별마커 영역을 포함하여 구성될 수 있다.

즉, 식별마커는 제1 식별마커 영역, 제2 식별마커 영역, 제3 식별마커 영역 및 제4 식별마커 영역을 하나의 식별자로써 인식한다. 즉, 모바일 단말기(100)는 기본적으로 제1 내지 제4 식별마커를 모두 촬영하여 서버(200)로 전송하고 서버(200)는 인식된 식별마커를 하나의 고유 식별자로써 인식한다.

이때, 제1 식별마커 영역은 가시광선 영역의 파장을 반사하도록 구성된다. 즉, 제1 식별마커 영역은 일반적인 도료로 인쇄되며 사람이 시각적으로 구분할 수 있도록 인쇄된다.

또한, 제2 식별마커 영역은 제1 적외선 파장을 반사하는데, 제1 적외선 파장을 반사하는 도료로 인쇄되며 사람이 시각적으로 구분할 수 없다.

또한, 제3 식별마커 영역은 제1 적외선 파장 보다 긴 파장의 제2 적외선 파장을 반사하는데, 제2 적외선 파장을 반사하는 도료로 인쇄되며 사람이 시각적으로 구분할 수 없다.

또한, 제4 식별마커 영역은 제1 적외선 파장 및 제2 적외선 파장을 동시에 반사하는데, 제1 및 제2 적외선 파장을 반사하는 도료로 인쇄되며 사람이 시각적으로 구분할 수 없다.

이때, 식별마커를 영상 촬영하는 모바일 단말기(100)의 카메라는 적외선 투과파장을 조절하는 분광필터가 장착되어 적외선 파장 영역을 촬영하여 인식할 수 있도록 구성된다.

따라서 설비에 인쇄된 식별마커 중 제1 식별마커 영역만이 사람이 시각적으로 확인할 수 있으며, 제2 식별마커 영역, 제3 식별마커 영역 및 제4 식별마커 영역은 사람이 시각적으로 확인할 수 없고 모바일 단말기(100)의 카메라를 통해 촬영될 수 있다.

제1 식별마커 영역, 제2 식별마커 영역, 제3 식별마커 영역 및 제4 식별마커 영역의 상대적인 인쇄위치(좌우상하)도 하나의 구분자로써 이용될 수 있다. 식별마커 영역에는 숫자, 기호, 부호 등과 같이 다양한 문자들이 인쇄될 수도 있다. 또한, 식별마커는 QR 코드, 바코드 형태로 인쇄될 수도 있을 것이다.

도 12는 증강현실 시스템(1)에서 유사객체를 식별하는 상태를 나타낸 제2 예시도이다.

도 12를 참조하면, 서버(200)는 추가인식영역의 영상 차이점을 토대로 각각의 실제객체에 부여된 고유 식별자와, 각 실제객체의 현재위치정보를 모두 고려하여 각각의 실제객체를 식별할 수 있다. 즉, 사용자(모바일 단말기(100))의 현재위치정보를 추가적으로 고려하여 실제객체를 식별할 수 있다.

예를 들면 복수의 실제객체가 소정의 이격거리를 유지할 경우, 유사도 값이 높은 실제객체라 할지라도 사용자의 현재위치정보를 이용하여 이를 식별할 수 있다. 여기에서 현재위치정보는 사용자의 절대적인 위치정보, 상대적인 위치정보, 이동방향, 가속도 및 시선의 방향 등을 모두 포함한다고 가정한다.

이때, 서버(200)는 현재위치정보로도 식별되지 않는 실제객체들을 추가적으로 식별하기 위해 추가인식영역을 선정하고 이 영역을 인식하여 실제객체들의 차이를 식별할 수도 있을 것이다.

또한, 서버(200)는 각 실제객체의 현재위치정보를 토대로 추가인식영역의 후보위치를 결정할 수 있다.

즉, 도 12를 참조하면, 사용자가 제1 위치(P1)에 위치하고 정면에 위치한 실제객체를 응시할 경우,

서버(200)는 실제영상정보를 토대로 해당 실제객체와 사용자와의 이격거리를 판단한 후, 그 실제객체의 공간상의 좌표(x1,y1,z1)를 검출한다.

공간상의 좌표(x1,y1,z1)에 위치하는 실제객체에는 복수의 추가인식영역이 미리 설정되어 있으므로, 서버(200)는 실제객체의 공간상의 좌표(x1,y1,z1), 즉 실제객체의 현재위치정보를 토대로 추가인식영역의 후보위치를 결정할 수 있다.

서버(200)는 공간상의 좌표(x1,y1,z1)에 미리 어떤 실제객체가 존재하는지와, 그 실제객체의 어떤 부분이 추가인식영역으로 지정되어 있는지를 미리 파악하고 있으므로, 단순히 추가인식영역의 후보위치만을 식별하여 객체를 식별할 수 있는 것이다. 이와 같은 방식은 추가인식영역을 식별하기 위한 연산량이 감소할 수 있는 장점이 있다.

참고적으로, 실내공간이라고 가정하고 조명의 방향이 모두 일정하다고 가정하면, 유사한 실제객체라 할지라도 그 조명에 의한 그림자의 위치 및 크기는 서로 달라질 수 있다. 따라서 서버(200)는 사용자의 현재위치를 기준으로 각각의 실제객체의 그림자 위치 및 크기의 차이점을 추가정보로 이용하여 각각의 실제객체를 식별할 수도 있을 것이다.

한편, 실제영상정보의 실제객체에 각각 할당되어 표시되는 3차원 가상영상의 가상객체의 위치는, 실제객체와 소정의 이격거리를 유지하도록 자동 조절되어 모바일 단말기(100)에 표시된다.

또한, 각각의 가상객체 사이의 위치도 소정의 이격거리를 유지하도록 자동 조절되어 모바일 단말기(100)에 표시된다.

따라서 실제객체 및 가상객체간의 상호 위치관계를 고려하여 객체들이 서로 중첩되지 않도록 위치가 자동 조절되므로 사용자가 편리하게 원하는 가상객체의 정보를 확인할 수 있다. 즉, 가상객체를 집중력 있게 인지하는 시간이 길어지게 되어 광고효과가 상승할 수 있다.

도 13은 증강현실 시스템(1)의 다른 동작원리를 나타낸 도면이다.

도 13을 참조하여 증강현실 시스템(1)의 동작원리를 좀 더 상세히 설명하면 다음과 같다.

제1 가상객체(Virtual Object 1)와 실제객체(Physical Object) 사이의 이격거리(D2)는,

제1 가상객체(Virtual Object 1)의 중심점과 제1 가상객체(Virtual Object 1)의 최외곽영역 사이의 거리(R1)와, 실제객체(Physical Object)의 중심점과 실제객체(Physical Object)의 최외곽영역 사이의 거리(R3)의 합보다 더 긴 거리를 갖도록 자동 설정된다.

또한, 제2 가상객체(Virtual Object 2)와 실제객체(Physical Object) 사이의 이격거리(D1)는, 제2 가상객체(Virtual Object 2)의 중심점과 제2 가상객체(Virtual Object 2)의 최외곽영역 사이의 거리(R2)와, 실제객체(Physical Object)의 중심점과 실제객체(Physical Object)의 최외곽영역 사이의 거리(R3)의 합보다 더 긴 거리를 갖도록 자동 설정된다.

또한, 제1 가상객체(Virtual Object 1)와 제2 가상객체(Virtual Object 2) 사이의 이격거리(D1)는, 제1 가상객체(Virtual Object 1)의 중심점과 제1 가상객체(Virtual Object 1)의 최외곽영역 사이의 거리(R1)와, 제2 가상객체(Virtual Object 2)의 중심점과 제2 가상객체(Virtual Object 2)의 최외곽영역 사이의 거리(R2)의 합보다 더 긴 거리를 갖도록 자동 설정된다.

제1 가상객체(Virtual Object 1) 및 제2 가상객체(Virtual Object 2)는 수평방향 및 수직방향으로 이동하며, 다른 객체와 중복되어 사용자의 시야에서 벗어나지 않도록 3차원 공간상에서 위치가 자동 조절 - x , y , z 축을 기준으로 위치가 조절됨 - 된다.

한편, 실제객체(Physical Object) 및 제1 가상객체(Virtual Object 1) 사이와, 실제객체(Physical Object) 및 제2 가상객체(Virtual Object 2) 사이에는 각각의 가상선(L1, L2)이 동적으로 생성되어 표시된다.

가상선(L1, L2)은 많은 수의 가상객체가 화면상에 존재할 때, 실제객체(Physical Object)와의 연관성을 지시하기 위해 표시되며 가상선(L1, L2)의 굵기, 투명도, 색상은 사용자의 시선에 따라 자동으로 변경될 수 있다.

예를 들면 사용자가 제1 가상객체(Virtual Object 1)를 소정의 시간 이상 응시할 경우 모바일 단말기(100)이 제1 가상객체(Virtual Object 1)의 응시여부를 감지한 후, 실제객체(Physical Object)와 제1 가상객체(Virtual Object 1) 사이의 가상선(L1)의 굵기를 다른 가상선(L2)보다 더 굵게 변경하고, 투명도도 더 낮게 변경하고, 색상도 붉은색 등과 같이 강조될 수 있는 색상으로 자동 변경하도록 동작할 수도 있다.

이때, 실제객체(Physical Object)에 제1 가상객체(Virtual Object 1) 및 제2 가상객체(Virtual Object 2)가 모두 할당된다고 가정하면, 실제객체(Physical Object)에 할당된 복수의 가상객체의 거리는 상술한 바와 같이 소정의 이격거리(D2, D3)를 각각 유지하되, 더 세부적인 정보를 갖는 가상객체가 실제객체(Physical Object)에 상대적으로 더 가까이에 배치된다.

예를 들어 제1 가상객체(Virtual Object 1)의 정보가 더 세부적인 정보이고, 제2 가상객체(Virtual Object 2)의 정보는 상대적으로 개념적인 정보라고 가정하면,

제1 가상객체(Virtual Object 1)와 실제객체(Physical Object) 사이의 이격거리(D2)보다 제2 가상객체(Virtual Object 2)와 실제객체(Physical Object) 사이의 이격거리(D3)가 더 길게 자동 설정되어, 사용자가 세부적인 정보를 빠르게 인지할 수 있다.

또한, 실제객체(Physical Object)에 복수의 가상객체가 할당되어 있을 경우, 연관성이 높을수록 가상객체 사이의 거리가 더 가까이 배치되고, 연관성이 낮을수록 가상객체 사이의 거리가 더 멀리 자동 배치될 수 있다.

도 14 및 도 14a는 증강현실 시스템(1)의 또 다른 동작원리를 나타낸 도면이다.

도 14 및 도 14a를 참조하면, 실제영상정보의 실제객체에 각각 할당되어 표시되는 3차원 가상영상의 가상객체의 정보량은, 실제객체와 사용자와의 거리에 따라 동적으로 자동 조절되어 모바일 단말기(100)에 표시될 수 있다.

따라서 사용자가 객체에 가까이 접근하였을 때 가상객체가 좀 더 세부적인 정보를 표시하므로, 사용자가 편리하게 원하는 가상객체의 정보를 확인할 수 있다. 즉, 사용자가 해당 가상객체를 집중력 있게 인지하는 시간이 길어지게 되어 정보전달 효과가 상승할 수 있다.

일반적으로 사용자는 관심있는 객체에 대한 정보를 좀 더 가까이에서 보려하는 경향이 있으므로, 사용자가 관심 객체와 멀리 떨어져 있을 때는 추상적으로 정보를 표시하고, 사용자가 관심 객체에 근접할 경우 좀 더 상세한 정보를 표시하도록 동작한다.

사용자와 실제객체 또는 가상객체 사이의 거리가 소정의 이격거리(D1) 내에 도달할 때부터 실제객체에 할당된 가상객체가 표시되기 시작하며, 사용자와 실제객체 또는 가상객체 사이의 거리가 가까워질수록 좀 더 세부적인 정보의 가상객체가 표시된다.

즉, 하나의 실제객체에 할당된 가상객체의 정보는 계층화되어 있다. 도 4a에 도시된 바와 같이,

가장 추상적인 가상객체(A)는 사용자가 소정의 이격거리(D1)에 진입할 때 표시되고, 사용자가 실제객체 또는 가상객체에 좀 더 접근(D2)할 경우 좀 더 구체적인 정보를 갖는 가상객체(A1, A2)가 표시된다. 또한, 사용자가 실제객체 또는 가상객체에 가장 가까이 접근(D3)할 경우 가장 구체적인 정보를 갖는 가상객체(A1-1, A1-2, A2-1, A2-2)가 표시된다.

예를 들어 사용자의 전방에 실제객체로써 자동 판매기가 배치되어 있다고 가정하면,

사용자가 소정의 이격거리(D1)내로 진입할 때, 자동 판매기에 할당된 가상객체가 표시된다. 여기에서 가상객체는 자동 판매기의 아이콘으로 가정한다.

다음으로 사용자가 자동 판매기에 좀 더 접근(D2)할 경우, 자판기에서 판매되고 있는 음료수 제품들의 아이콘이 더 상세한 정보의 가상객체로써 표시될 수 있다.

마지막으로 사용자가 자동 판매기에 가장 가까이 접근(D3)할 경우, 각 음료수 제품의 칼로리, 성분 등이 더 상세한 정보의 가상객체로써 표시될 수 있다.

다른 예를 들면, 사용자의 전방에 실제객체로써 자동차 판매점이 있다고 가정하면,

사용자가 소정의 이격거리(D1)내로 진입할 때, 자동차 판매점에 할당된 가상객체가 표시된다. 여기에서 가상객체는 판매되는 자동차 브랜드 아이콘으로 가정한다.

다음으로 사용자가 자동차 판매점에 좀 더 접근(D2)할 경우, 판매되고 있는 다양한 종류의 자동차 아이콘이 더 상세한 정보의 가상객체로써 표시될 수 있다. 이때, 현재 전시되어 있는 자동차, 즉 실제객체가 있을 경우 그 실제객체 주변에 가상객체가 표시될 수 있으며, 전시되어 있지 않는 자동차, 즉 실제객체가 없을 경우에도 주변영역에 가상객체가 표시될 수 있다.

마지막으로 사용자가 자동차 판매점에 가장 가까이 접근(D3)할 경우, 판매되고 있는 자동차의 제원, 가격, 예상 출고일 등이 좀 더 상세한 정보의 가상객체로써 표시될 수 있다.

한편, 모바일 단말기(100)는 사용자가 확인하고 싶은 가상객체 또는 실제객체를 응시한 상태에서 진동이 발생했을 경우, 진동의 변화율에 대응하는 이동거리를 산출한 후 응시방향과 산출된 이동거리를 토대로 가상객체의 정보량을 재설정하여 표시할 수 있다.

즉, 사용자가 직접 이동하지 않고 진동을 통해 가상으로 이동했다고 가정하거나, 진동으로 이동거리에 가중치를 부여하고, 그 가상 이동거리에 따라 가상객체의 정보량을 재설정하여 표시할 수 있다.

즉, 진동의 변화율이 크다는 것은 사용자가 달리거나 빠르게 움직이는 것이며, 진동의 변화율이 작다는 것은 사용자가 천천히 움직이는 것에 해당하는 것이므로, 이를 토대로 이동거리를 산출할 수 있다. 따라서 사용자가 실제 움직이지 않고 고개 등을 위 아래로 흔들면서 진동을 부여하여 가상의 이동거리를 반영할 수도 있을 것이다.

사용자가 확인하고 싶은 방향을 응시한 상태, 예를 들어 사용자가 오른쪽으로 고개를 돌리고 오른쪽을 바라보는 동시에 진동이 계속해서 발생할 경우, 모바일 단말기(100)는 사용자의 응시방향과 진동을 토대로 이동방향 및 이동거리를 산출한다.

즉, 모바일 단말기(100)는 내장된 센서를 통해 사용자의 머리 회전을 감지하고, 진동을 감지한 후 가상의 현재위치를 산출하는데, 걷거나 뛰는 행동을 진동의 변화율을 통해 그 이동거리를 파악한다.

모바일 단말기(100)는 사용자가 응시한 방향을 감지할 때, 머리의 회전방향을 토대로 응시방향을 감지하도록 구성될 수 있고, 눈동자의 이동방향을 감지하여 응시방향을 감지하도록 구성될 수 있을 것이다.

또한, 머리의 회전방향 및 눈동자의 이동방향을 동시에 감지하고, 두 감지결과에 우선비중을 달리하여 응시방향을 보다 정밀하게 산출할 수 있다. 즉, 머리의 회전으로 인한 회전각도 감지에 50% 내지 100%의 비중을 부여하고, 눈동자의 이동방향에 0% 내지 60%의 비중을 부여하여 응시방향을 산출하도록 구성될 수 있을 것이다.

또한, 모바일 단말기(100)에서 이동거리확장 설정모드를 선택하고 실행하여, 산출된 가상 이동거리의 2배 내지 100배의 거리 가중치가 반영되도록 사용자가 설정할 수도 있다.

또한, 모바일 단말기(100)는 진동의 변화율에 대응하는 이동거리를 산출함에 있어서, 노이즈 값을 제외하기 위해, 진동 크기의 상위값 10%와 하위값 20%를 제외하고, 나머지 진동값의 변화율을 토대로 이동거리를 산출할 수 있다.

결과적으로 사용자는 실제로 실제객체 또는 가상객체로 접근하지 않거나, 아주 조금 접근하더라도 실제객체 또는 가상객체 바로 앞에 접근한 것과 같은 정보량을 갖는 가상객체를 확인할 수 있다.

도 15는 증강현실 시스템(1)의 모바일 단말기(100)의 구성도이다.

도 15를 참조하면, 모바일 단말기(100)는 디스플레이(110)와, 좌측 전방 카메라(121)와, 우측 전방 카메라(122)와, 좌측 3D센서(131)와, 우측 3D센서(132)와, 위성모듈(141)과, 통신모듈(142)과, 9축 센서(143)와, 배터리(144)와, 인식 카메라(145)와, 제어부(150)를 포함하여 구성된다.

디스플레이(110)는 투명한 재질의 디스플레이로써 모바일 단말기(100)의 표시영역을 구성한다.

좌측 전방 카메라(121)는 단말기의 좌측에 탑재되어 전방의 실제영상정보를 획득한다. 또한, 우측 전방 카메라(122)는 단말기의 우측에 탑재되어 전방의 실제영상정보를 획득한다.

좌측 3D센서(131) 및 우측 3D센서(132)는 좌측 전방 카메라(121) 및 우측 전방 카메라(122)와 연동되어 전방의 3D영상을 촬영할 수 있도록 동작한다. 즉 촬영된 3D 영상은 내장된 메모리에 저장되거나 서버(200)로 전송될 수 있다. 참고적으로 실시예에 따라 전방 카메라 및 3D센서가 하나씩 배치되어 실제영상정보를 획득하도록 구성될 수도 있을 것이다. 전방 카메라는 적외선 영역 및 가시광선 영역을 모두 촬영할 수 있도록 구성되는 것이 바람직하다.

위성모듈(141)은 위성위치정보를 획득하기 위해 구비되고, 통신모듈(142)은 와이파이(Wi-Fi) 통신모듈, 블루투스 통신모듈, 광대역(3G, 4G, LTE) 통신모듈이 탑재될 수 있다.

9축 센서(143)는 가속도 3축, 관성 3축, 지자기 3축으로 총 9축의 값이 측정되기 때문에 9축 센서라고 지칭되며, 온도값에 대한 보정을 위해 온도센서가 추가로 구비될 수 있다. 9축 센서(143)는 모바일 단말기(100)의 3차원적인 움직임을 감지할 뿐만 아니라 사용자의 응시방향, 이동방향, 기울기 등을 감지할 수 있다.

배터리(144)는 모바일 단말기(100)에 구동전원을 공급할 수 있도록 구성되며 충전 가능한 리튬이온 배터리나, 의사 캐패시터로 구성될 수 있다.

참고적으로, 배터리(144)는 복수의 의사 캐패시터(Pseudo Capacitor)로 구성될 수 있는데, 의사 캐패시터(Pseudo Capacitor)는 전극에서의 이차원적인 산화-환원 반응을 이용하므로 일반적인 캐패시터보다 우수한 축전용량을 가지며 수명이 상대적으로 긴 장점이 있다.

인식 카메라(145)는 사용자의 눈동자의 움직임과, 눈동자의 응시방향, 눈의 크기변화를 감지한다. 인식 카메라(145)는 좌측 및 우측에 각각 배치되는 것이 가장 바람직하며 어느 한 방향에만 배치될 수도 있다. 기본적으로 인식 카메라(145)는 사용자의 눈이 위치한 방향을 촬영한다.

제어부(150)는 디스플레이(110), 좌측 전방 카메라(121), 우측 전방 카메라(122), 좌측 3D센서(131), 우측 3D센서(132), 위성모듈(141), 통신모듈(142), 9축 센서(143), 배터리(144), 인식 카메라(145)의 동작을 제어한다.

한편, 제어부(150)는 충전전력의 크기에 따라 복수의 의사 캐패시터 중 적어도 어느 하나를 선택적으로 충전하도록 구성될 수 있다. 그 충전방식에 대해서 상세히 설명하면 다음과 같다.

복수의 의사 캐패시터가 3개 배치될 경우, 즉 제1 의사 캐패시터, 제2 의사 캐패시터 및 제3 의사 캐패시터가 배치된다고 가정한다. 이때 제1 의사 캐패시터의 충전용량이 가장 크고, 제2 의사 캐패시터의 충전용량은 제1 의사 캐패시터보다 작고, 제3 의사 캐패시터의 충전용량은 제2 의사 캐패시터보다 더 작다고 가정한다.

제어부(150)는 제1 의사 캐패시터, 제2 의사 캐패시터 및 제3 의사 캐패시터의 충전량을 감지한 후, 충전량이 가장 높은 순서대로 구동전력을 공급한다.

예를 들면, 제1 의사 캐패시터의 충전량이 60%이고, 제2 의사 캐패시터의 충전량이 70%이고, 제3 의사 캐패시터의 충전량이 80%일 경우,

제3 의사 캐패시터의 전력을 우선으로 공급하다가, 충전량이 40%에 도달하면 제3 의사 캐패시터의 전력공급을 차단하고 제2 의사 캐패시터의 전력을 공급한다. 또한, 제2 의사 캐패시터의 충전량이 40%에 도달하면 제2 의사 캐패시터의 전력공급을 차단하고 제1 의사 캐패시터의 전력을 공급한다.

또한, 제1 내지 제3 의사 캐패시터의 충전량이 모두 40% 이하 일 경우, 제어부(150)는 제1 내지 제3 의사 캐패시터를 병렬로 연결하여 구동전력을 공급한다.

또한, 증강현실 시스템(1)은 와이파이 통신모듈이 내장되며 실내의 공간에 일정한 간격으로 배치되는 복수의 센싱부(300)를 더 포함하여 구성될 수 있다.

복수의 센싱부(300)는 실내에서 모바일 단말기(100)의 위치를 감지할 수 있도록 선택적으로 배치될 수 있으며,

복수의 센싱부(300)는 모바일 단말기(100)에서 주기적으로 출력되는 와이파이 핫스팟(WIFI HOTSPOT) 신호를 감지할 때마다 그 감지정보를 서버(200)로 전송하여, 서버(200)에서 복수의 센싱부(300)의 절대위치를 기준으로 모바일 단말기(100)의 상대적 위치를 파악할 수 있을 것이다.

상술한 바와 같이 제안한 시스템에서는 실외에서는 위성위치정보를 바탕으로 현재위치정보를 획득하고, 실내에서는 와이파이 신호를 이용하여 현재위치정보를 획득하는 방식을 설명하였다.

한편, 실내 및 실외에서 현재위치정보를 획득할 수 있는 추가적인 방식에 대해 설명하면 다음과 같다.

와이파이 신호를 이용하는 방식은 기본적으로 삼각측량 및 핑거 프린팅 방식으로 구분할 수 있다.

우선, 삼각측량은 3개 이상의 AP(Access Point)로부터 신호강도(Received Signal Strength, RSS)를 측정하고 신호강도를 거리로 환산한 후 방정식을 통해 위치를 계산하는 방식이다.

다음으로, 핑거 프린팅 방식은 실내 공간을 작은 셀(cell)로 나누고 각 셀에서 직접 신호강도 값을 수집하고 데이터베이스화하여 라디오맵(Radio Map)을 구축한 후, 사용자 위치에서 수신된 신호강도 값을 데이터베이스와 비교하여 가장 유사한 신호 패턴을 보이는 셀을 사용자의 위치로 추정하는 방식이다.

다음으로, 주변에 스마트폰을 가진 다수의 사용자로부터 직간접적으로 와이파이 신호를 교환하면서 각 스마트폰의 위치 데이터를 수집하는 방식을 사용할 수도 있다.

또한, 모바일 단말기(100)의 통신모듈(142)은 블루투스 통신모듈을 포함하고 있으므로, 블루투스 통신을 이용하여 현재위치정보를 파악할 수 있다.

우선, 실내공간에 복수의 비콘을 배치시킨 후 어느 하나의 비콘과 통신을 진행할 때 그 비콘 주변에 사용자가 위치하고 있다고 추정하는 방식이 있다.

다음으로, 반구의 형태의 표면에 다수의 지향성 안테나가 배열된 수신기를 실내공간에 배치한 후, 모바일 단말기(100)에서 발신한 신호를 수신하는 특정 지향성 안테나의 식별을 통해 사용자의 위치를 추정하는 방식이 있다. 이때, 2개 이상의 수신기를 배치할 경우 사용자의 위치를 삼차원형태로 식별할 수도 있다.

또한, 위성위치정보를 토대로 사용자의 현재위치정보를 파악하고 있다가, 위성위치정보의 음영지역에 진입할 경우, 9축 센서(143)의 정보를 이용하여 속도 및 이동방향을 추정하는 방식이다. 즉, 걸음 수 측정(Step counting), 보폭 추정(Stride length estimation), 방향 추정(Heading estimation)을 통해 실내에서 사용자의 위치를 추정할 수 있다. 이때, 추정정보의 정확성을 높이기 위해 사용자의 신체조건(키, 몸무게, 보폭) 등의 정보를 입력받아 위치추정 연산에 사용할 수도 있다. 9축 센서(143)의 정보를 이용할 때, 상술한 와이파이 통신을 이용한 위치추정기법을 결합하여 추정정보의 정확성을 향상시킬 수 있다.

즉, 와이파이 기법으로 다소 정확도가 낮더라도 전역적으로(globally) 절대적인 좌표(absolute position)를 계산하고, 9축 센서(143)의 정보를 통해 지역적으로(locally) 높은 정확도의 상대 측위(relative position)를 결합하여 정확도를 향상 시킬 수 있다. 또한, 추가적으로 블루투스 통신방식을 적용하여 위치추정정보의 정확성을 보다 향상시킬 수도 있을 것이다.

또한, 실내공간에는 위치를 구분할 수 있는 고유의 자기장 정보가 형성되어 있으므로, 각 공간의 자기장맵을 구축한 후, 와이파이를 이용한 핑거 프린팅 방식과 유사하게 현재위치를 추정하는 방법이 적용될 수 있다. 이때, 사용자가 이동하면서 발생하는 자기장의 변화추세를 추가적인 정보로 이용할 수도 있다.

또한, 실내공간에 설치된 조명을 활용하는 방법이 있다. 즉, LED 조명을 사람이 식별할 수 없을 정도의 빠르기로 점멸하면서, 특정 위치 식별자를 출력하고 모바일 단말기(100)의 카메라가 특정 위치 식별자를 인식하여 위치를 추정하는 방식이 사용될 수 있다.

또한, 실내공간의 여러 위치와 다양한 각도에서 찍은 이미지들을 데이터베이스화 한 다음 사용자 위치에서 찍은 사진을 매칭하는 기법이 있으며, 실내 공간의 다양한 랜드마크(간판, 상표, 방 번호, 표지판 등)를 추가 식별함으로써 위치를 교정하는 방식이 사용될 수 있다.

참고적으로 실내공간에서 현재위치정보를 획득하는 방식은 상술한 방식을 적어도 하나 이상 조합하여 정확도를 향상시키는 것이 가장 바람직하다.

본 발명의 실시예에 따른 증강현실 시스템은, 디스플레이에 표시되는 문자의 테두리에 점선 가이드가 표시되며 점선 가이드를 따라 필기가 감지될 경우, 문자를 인식한 후 문자 내용에 해당하는 가상객체를 표시할 수 있다.

즉, 사용자에게 점선 가이드를 제공하여 필기 연습을 할 수 있으며 점선 가이드의 문자 폰트는 정형화 되어 있기 때문에 문자 인식률이 높다.

특히 0 ~ 5세까지의 아이들은 성인들과 다르게 문자를 문자로 인식하지 않고, 객체 즉 그림 혹은 덩어리로 인식하는 관계로 특정한 문자체에 상관없이 학습할 수 있다. 글자를 쓰는 행위는 그리는 행위 혹은 색칠을 하는 행위로 연계되어 학습을 할 수 있다. 또한, 3차원 방식의 다감각적 정보를 활용하여 학습할 수 있다. 아이들은 보고, 듣고, 느끼는 방식으로 감각을 표현하며 발달시키는데, 본 발명에서는 다감각에 의존한 표현 방식을 통해 지각력을 높여 정보에 대한 감각적 몰두를 할 수 있게 한다.

여기에서 감각적 몰두는 사용자의 주의가 눈앞에 펼쳐지는 가상 세계의 정보에 얼마만큼 빠져 들어가 있는가를 말하는 것이며, 예를 들어 증강현실에서 사물이 증강 될 때 아이들은 집중하게 되고, 사물의 완전한 모습을 관찰하기 위해 손가락으로 화면을 터치하거나 카메라를 움직이는 행위를 하게 된다. 아이들이 구체적인 그리기(글자 쓰기 활동)활동을 통해 가상객체를 조작하는 실물형 인터페이스를 제공함으로써 학습상황에서의 자연스러운 행위 유발성을 가져와 학습 자체에 몰입할 수 있다.

또한, 본 발명의 실시예에 따른 증강현실 시스템은 선택된 적어도 하나 이상의 가상객체의 자세가 모바일 단말기의 3차원 자세정보에 동기되어 변경되므로, 최소한의 액션으로 가상객체의 자세를 다양하게 변경할 수 있다.

또한, 모바일 단말기의 3차원 이동/회전 정보를 이용하여, 선택된 가상객체를 3차원적으로 이동/회전 시킬 수 있다. 즉, 이동, 회전 조작 모드를 상호 변환하지 않고 터치 스크린(디스플레이)을 여러 번 접촉하지 않아도 모바일 단말기의 자세변경을 통해 쉽게 가상객체를 이동/회전 시킬 수 있다.

또한, 가상객체의 움직임을 기록하여 저장하고 재생할 수 있도록 하여 증강현실 애니메이션 구현 등과 같은 활용도를 높일 수 있다.

이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

100 : 모바일 단말기
200 : 서버
300 : 센싱부
110 : 디스플레이
121 : 좌측 전방 카메라
122 : 우측 전방 카메라
131 : 좌측 3D센서
132 : 우측 3D센서
141 : 위성모듈
142 : 통신모듈
143 : 9축 센서
144 : 배터리
145 : 인식 카메라
150 : 제어부

Claims (6)

1. 삭제
2. 삭제
3. 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 상기 디스플레이에 표시하는 모바일 단말기를 포함하고,
   상기 모바일 단말기는, 상기 3차원 가상영상의 명칭에 해당하는 문자를 상기 디스플레이에 표시하되, 상기 문자의 테두리에 점선 가이드가 표시되며 상기 점선 가이드를 따라 필기가 감지될 경우, 상기 문자를 인식한 후 상기 문자 내용에 해당하는 가상객체를 표시하고, 상기 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 상기 가상객체의 움직임이 재생되며,
   상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 좌표는, 상기 실제영상정보에 대한 공간 좌표계에서 상기 모바일 단말기의 모바일 좌표계로 변경되고, 선택 해제된 가상객체의 좌표는 상기 모바일 단말기의 모바일 좌표계에서 상기 실제영상정보에 대한 공간 좌표계로 변경되는 것을 특징으로 하는 증강현실 시스템.
   
4. 제3항에 있어서,
   상기 모바일 단말기는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득하고, 상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 자세는 상기 3차원 자세정보에 동기되어 변경되는 것을 특징으로 하는 증강현실 시스템.
   
5. 사용자 주위의 영상을 촬영하여 실제영상정보를 획득하는 영상 카메라가 내장되며 디스플레이에 3차원 가상영상을 표시함에 있어서, 현재위치정보와 상기 실제영상정보에 대응하는 상기 3차원 가상영상을 상기 디스플레이에 표시하는 모바일 단말기; 및
   상기 모바일 단말기로부터 전송되는 상기 현재위치정보와 상기 실제영상정보에 대응되는 상기 3차원 가상영상을 상기 모바일 단말기에 실시간으로 제공하는 서버;를 포함하고,
   상기 서버는 상기 실제영상정보의 실제객체를 식별하고 식별된 실제객체에 각각 할당된 상기 3차원 가상영상의 가상객체를 상기 모바일 단말기에 제공함에 있어서, 상기 모바일 단말기는, 상기 3차원 가상영상의 명칭에 해당하는 문자를 상기 디스플레이에 표시하되, 상기 문자의 테두리에 점선 가이드가 표시되며 상기 점선 가이드를 따라 필기가 감지될 경우, 상기 문자를 인식한 후 상기 문자 내용에 해당하는 가상객체를 표시하고, 상기 가상객체가 터치될 경우 터치된 부위에 해당하는 미리 설정된 상기 가상객체의 움직임이 재생되고, 상기 모바일 단말기는 9축 센서를 구비하여 자신의 3차원 자세정보를 획득하고, 상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 자세는 상기 3차원 자세정보에 동기되어 변경되며,
   상기 모바일 단말기에서 선택된 적어도 하나 이상의 가상객체의 좌표는, 상기 실제영상정보에 대한 공간 좌표계에서 상기 모바일 단말기의 모바일 좌표계로 변경되고, 선택 해제된 가상객체의 좌표는 상기 모바일 단말기의 모바일 좌표계에서 상기 실제영상정보에 대한 공간 좌표계로 변경되는 것을 특징으로 하는 증강현실 시스템.
6. 삭제

Images