KR20190117415A - Ar 장치 및 그 제어 방법 - Google Patents

Ar 장치 및 그 제어 방법 Download PDF

Info

Publication number
KR20190117415A
KR20190117415A KR1020190118770A KR20190118770A KR20190117415A KR 20190117415 A KR20190117415 A KR 20190117415A KR 1020190118770 A KR1020190118770 A KR 1020190118770A KR 20190118770 A KR20190118770 A KR 20190118770A KR 20190117415 A KR20190117415 A KR 20190117415A
Authority
KR
South Korea
Prior art keywords
marker
augmented reality
information
unit
display unit
Prior art date
Application number
KR1020190118770A
Other languages
English (en)
Inventor
박대명
민동옥
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20190117415A publication Critical patent/KR20190117415A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0172—Head mounted characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0081—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. enlarging, the entrance or exit pupil
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0176—Head mounted characterised by mechanical features
    • G—PHYSICS
    • G02—OPTICS
    • G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C11/00—Non-optical adjuncts; Attachment thereof
    • G02C11/10—Electronic devices other than hearing aids
    • G—PHYSICS
    • G02—OPTICS
    • G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C7/00—Optical parts
    • G02C7/02—Lenses; Lens systems ; Methods of designing lenses
    • G02C7/04—Contact lenses for the eyes
    • G—PHYSICS
    • G02—OPTICS
    • G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C7/00—Optical parts
    • G02C7/02—Lenses; Lens systems ; Methods of designing lenses
    • G02C7/08—Auxiliary lenses; Arrangements for varying focal length
    • G02C7/086—Auxiliary lenses located directly on a main spectacle lens or in the immediate vicinity of main spectacles
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B2027/0178—Eyeglass type
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ophthalmology & Optometry (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Business, Economics & Management (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Tourism & Hospitality (AREA)
  • Data Mining & Analysis (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Otolaryngology (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

AR 장치 및 그 제어 방법이 개시된다. 본 발명에 따른 AR 장치는는 사용자의 머리부에 지지되는 프레임과, 증강현실 이미지를 제공하는 제어부와, 프레임에 연결되고 제어부로부터 전달받은 증강현실 이미지를 현실세계에 중첩하여 표시하는 디스플레이부와, 증강현실 객체에 대응하는 마커를 생성하는 마커 생성부와, 마커 생성부에서 생성된 마커를 표시하는 마커 표시부를 포함한다. 본 발명의 전자 디바이스는 인공 지능(Artificial Intelligence) 모듈, 로봇, 증강현실(Augmented Reality, AR) 장치, 가상현실(virtual reality, VR) 장치, 5G 서비스와 관련된 장치 등과 연계될 수 있다.

Description

AR 장치 및 그 제어 방법{AR Device and Method For Controlling The Same}
본 발명은 AR 장치 및 그 제어 방법에 관한 것이다. 보다 상세하게, VR(Virtual Reality), AR(Augmented Reality), MR(Mixed Reality) 등에 사용되는 전자 디바이스 및 이를 구비하는 증강현실 공유 시스템에 관한 것이다.
가상현실(Virtual Reality, VR)은 컴퓨터 등을 사용한 인공적인 기술로 만들어낸 실제와 유사하지만 실제가 아닌 어떤 특정한 환경이나 상황 혹은 그 기술 자체를 말한다.
증강현실(Augmented Reality, AR)은 실제 환경에 가상 사물이나 정보를 합성하여 원래의 환경에 존재하는 사물처럼 보이도록 하는 기술을 말한다.
혼합현실 (Mixed Reality, MR) 혹은 혼성현실 (Hybrid reality)은 가상 세계와 현실세계를 합쳐서 새로운 환경이나 새로운 정보를 만들어 내는 것을 말한다. 특히, 실시간으로 현실과 가상에 존재하는 것 사이에서 실시간으로 상호작용할 수 있는 것을 말할 때 혼합현실이라 한다.
이 때, 만들어진 가상의 환경이나 상황 등은 사용자의 오감을 자극하며 실제와 유사한 공간적, 시간적 체험을 하게 함으로써 현실과 상상의 경계를 자유롭게 드나들게 한다. 또한 사용자는 이러한 환경에 단순히 몰입할 뿐만 아니라 실재하는 디바이스를 이용해 조작이나 명령을 가하는 등 이러한 환경 속에 구현된 것들과 상호작용이 가능하다.
최근, 이러한 기술분야에 사용되는 장비(gear)에 대한 연구가 활발히 이루어지고 있다. 특히, 여러 사용자들 사이에 증강현실 정보를 공유하고자 하는 노력이 계속되고 있다.
그러나 종래 증강현실 정보의 공유 시스템은 P2P(peer to peer) 방식으로 이루어져 여러 문제들이 야기될 수 있다.
증강현실을 제공하고자 하는 디바이스에서 수신 디바이스로 정보를 공유하기 위해서는 객체 데이터뿐만 아니라, 현실세계에 대응하는 증강현실의 맵(map) 데이터와 앵커(anchor) 데이터 등도 함께 전송해야 현실세계의 동일한 위치에서 동일한 객체를 바라볼 수 있게 된다. 또한 맵 데이터가 업데이트 될 때마다 맵 데이터 정보를 다시 전달해야 한다.
이처럼 대량의 데이터를 공유해야 하기 때문에 공유 시간이 오래 걸리고, 두 사용자가 동시에 증강현실 데이터를 사용하는 경우에는 연결이 불안정해진다는 문제가 있다. 이러한 문제는 공유 디바이스가 많아질수록 심각해질 수 있다.
또한, 기존 P2P 방식을 사용하는 경우에는 제공 디바이스와 수신 디바이스가 동일한 소프트웨어를 이용하는 기기를 사용하고 있어야 전송이 가능하다는 한계가 있다. 예를 들어, 공유 디바이스들은 모두 Google ARCore를 사용하거나, 모두 Apple ARKit을 사용하고 있어야 한다는 제한이 발생한다.
또한, 기존 P2P 방식을 사용하는 경우에는 공유 디바이스들을 연결하는 과정이 복잡하다는 문제도 가지고 있다.
본 발명은 VR(Virtual Reality), AR(Augmented Reality), MR(Mixed Reality) 등에 사용되는 전자 디바이스를 사용함에 있어, 증강현실 객체를 다른 사람과 공유함에 있어, 현실세계에 대응하는 맵 데이터 없이도 동일 위치에 동일한 증강현실 객체를 공유할 수 있는 전자 디바이스 및 이를 구비하는 증강현실 공유 시스템을 제공하는데, 그 목적이 있다.
또한, 증강현실 객체를 다른 사람과 공유함에 있어, 공유 데이터 크기를 최소화하여 공유 시간을 단축시킬 수 있는 전자 디바이스 및 이를 구비하는 증강현실 공유 시스템을 제공하는데, 그 목적이 있다.
또한, 증강현실 객체를 다른 사람과 공유함에 있어, 두 전자 디바이스가 실질적으로 동일한 맵 정보를 가지는 증강현실 프로그램을 사용하고 있지 않는 경우에도 증강현실 객체의 공유가 용이한 전자 디바이스 및 이를 구비하는 증강현실 공유 시스템을 제공하는데, 그 목적이 있다.
본 발명의 일 실시예에 따른 전자 디바이스는 사용자의 머리부에 지지되는 프레임; 증강현실 이미지를 제공하는 제어부; 상기 프레임에 연결되고 상기 제어부로부터 전달받은 증강현실 이미지를 현실세계에 중첩하여 표시하는 디스플레이부; 증강현실 객체에 대응하는 마커를 생성하는 마커 생성부; 및 상기 마커 생성부에서 생성된 마커를 표시하는 마커 표시부를 포함한다.
또한, 상기 마커 표시부는 현실세계에 마커 이미지를 투영(projection)시킬 수 있다.
여기서, 상기 프레임은 전방 프레임과, 상기 전방 프레임의 양 측부에서 후방으로 연결되는 한 쌍의 측방 프레임을 포함하고, 상기 디스플레이부는 상기 전방 프레임의 일 측에 배치되는 좌안 디스플레이부와 상기 전방 프레임의 타 측에 배치되는 우안 디스플레이부를 포함하고, 상기 마커 표시부는 상기 좌안 디스플레이부와 상기 우안 디스플레이부의 사이에 마련될 수 있다.
또한, 상기 마커 표시부는 상기 프레임과 분리되는 별도의 디바이스로 마련되고, 상기 마커 생성부와 유선 또는 무선으로 연결되어 생성된 마커를 표시할 수 있다.
또한, 상기 생성된 마커의 식별정보와 상기 생성된 마커에 대응하는 증강현실 객체 정보를 호스트에 전달하는 통신부를 더 포함할 수 있다.
또한, 현실세계를 촬영하는 카메라와, 상기 카메라의 이미지에서 마커를 식별하는 마커 식별부를 더 포함하고, 상기 제어부는 식별된 마커에 대응하는 증강현실 객체 정보를 상기 디스플레이부에 제공할 수 있다.
이 때, 상기 생성된 마커의 식별정보와 상기 생성된 마커에 대응하는 증강현실 객체 정보를 호스트에 전달하는 통신부를 더 포함하고, 상기 통신부는 상기 식별된 마커의 식별정보를 상기 호스트에 전달하고, 상기 호스트로부터 상기 식별된 마커의 식별정보에 대응하는 증강현실 객체 정보를 획득하고, 상기 제어부는 상기 식별된 마커에 대응하는 증강현실 객체 정보를 상기 디스플레이부에 제공할 수 있다.
또한, 상기 마커 표시부는 일 축 이상의 방향으로 회전 가능하게 마련될 수 있다.
여기서, 상기 디스플레이부의 움직임을 감지하는 동작 센서부를 더 포함하고, 상기 제어부는 상기 동작 센서부의 정보에 따라 상기 마커 표시부를 회전시켜 상기 마커 표시부에 의해 표시되는 마커가 현실세계의 동일 지점에 투영되도록 할 수 있다.
또는, 상기 마커가 투영되는 현실세계 대상체의 깊이를 감지하는 심도 센서부를 더 포함하고, 상기 제어부는 상기 심도 센서부의 정보에 따라 상기 마커의 초점거리를 변경할 수 있다.
또는, 상기 마커가 투영되는 현실세계 대상체의 색상을 감지하는 색상 감지부를 더 포함하고, 상기 마커 생성부는 상기 색상 감지부의 정보에 따라 상기 마커의 색상을 변경할 수 있다.
또한, 사용자의 눈동자를 감지하는 아이 센서부를 더 포함하고, 상기 제어부는, 상기 아이 센서부의 정보를 통해 사용자가 마커를 표시하고자 하는 현실세계 대상체의 위치 및/또는 깊이 정보를 판단하고, 사용자가 마커를 표시하고자 하는 현실세계 대상체에 마커가 표시되도록 상기 마커 표시부에 명령을 전달할 수 있다.
이 때, 상기 마커 표시부는 일 축 이상의 방향으로 회전 가능하게 마련되고, 상기 제어부는, 상기 아이 센서부의 정보를 통해 사용자가 마커를 표시하고자 하는 현실세계 대상체의 위치 정보를 판단하고, 상기 아이 센서부의 정보에 따라 상기 마커 표시부를 회전시켜 사용자가 마커를 표시하고자 하는 현실세계 대상체에 마커가 표시되도록 할 수 있다.
또는, 상기 마커 표시부는 가변 초점 렌즈를 구비하고, 상기 제어부는, 상기 아이 센서부의 정보를 통해 사용자가 마커를 표시하고자 하는 현실세계 대상체의 깊이 정보를 판단하고, 상기 아이 센서부의 깊이 정보에 따라 상기 마커의 초점거리를 변경할 수 있다.
또한, 상기 마커 생성부는 하나의 마커에 복수의 증강현실 객체를 대응시키고, 상기 복수의 증강현실 객체는 상기 생성된 마커에 대해 서로 다른 옵셋 정보를 가질 수 있다.
또는, 상기 마커 생성부는 연속된 프레임의 복수의 마커들을 생성하고, 상기 복수의 마커들은 하나의 증강현실 객체의 연속적인 이미지에 대응되거나, 서로 다른 증강현실 객체들에 대응될 수 있다.
본 발명의 다른 실시예에 따르면, 공유대상 증강현실 객체에 대응하는 마커를 생성하는 마커 생성부; 카메라 이미지로부터 마커를 인식하는 마커 인식부; 및 호스트 장치와 데이터를 송수신하는 통신부를 포함하고, 상기 통신부는, 상기 마커 생성부에서 생성된 마커의 식별 정보와 상기 마커에 대응된 증강현실 객체의 정보를 상기 호스트 장치에 보내고, 상기 마커 인식부에서 인식된 마커의 식별 정보를 상기 호스트 장치에 전달하여 상기 마커에 대응된 증강현실 객체의 정보를 받는 전자 디바이스가 제공될 수 있다.
본 발명의 또 다른 실시예에 따르면, 공유대상 증강현실 객체에 대응하는 마커를 생성하는 마커 생성부와, 상기 생성된 마커의 식별 정보와 마커에 대응된 증강현실 객체 정보를 호스트에 전달하는 제1 통신부를 구비하는 제1 전자 디바이스; 및 카메라 이미지로부터 마커를 인식하는 마커 인식부와, 상기 인식된 마커의 식별 정보를 상기 호스트에 전달하고 상기 호스트로부터 상기 인식된 마커의 식별 정보에 대응하는 증강현실 객체 정보를 전달받는 제2 통신부를 구비하는 제2 전자 디바이스를 포함하는 증강현실 공유 시스템이 제공될 수 있다.
또한, 상기 호스트는 클라우드 스토리지(Cloud storage)이고, 상기 제1 전자 디바이스는 상기 생성된 마커를 현실세계에 투영(projection)시키는 마커 표시부를 더 구비하고, 상기 제2 전자 디바이스의 상기 마커 인식부는 상기 투영된 마커를 인식할 수 있다.
또는, 상기 호스트는 스마트 디바이스(Smart device)이고, 상기 스마트 디바이스는 상기 생성된 마커를 화면에 표시하고, 상기 제2 전자 디바이스의 상기 마커 인식부는 상기 스마트 디바이스에 표시된 마커를 인식할 수 있다.
본 발명에 따른 전자 디바이스 및 이를 구비하는 증강현실 공유 시스템은 공유하고자 하는 증강현실 객체에 대응하는 현실세계 객체에 직접 마커를 표시함으로써 종래와 같이 현실세계에 대응하는 맵 데이터 상에 위치하는 증강현실 객체 정보를 모두 공유하지 않고도, 공유하고자 하는 증강현실 객체 정보와 마커 식별정보만을 공유함으로써 공유 대상 전자 디바이스가 동일한 증강현실 객체를 볼 수 있다. 이로써 전송 데이터량이 감소하고 전송 시간도 단축된다.
또한, 종래 방식에 따르면, 공유하고자 하는 증강현실 객체 정보가 맵 정보에 연동되어 있기 때문에, 맵 데이터가 업데이트될 때마다 새로이 맵 데이터를 공유해야 했지만, 본 발명에 따른 전자 디바이스는 별도의 맵 데이터 필요 없이도 증강현실 객체 정보를 공유할 수 있기 때문에 공유자가 움직이는 등의 이유로 증강현실 세계에 변화가 발생하는 때에도 공유 정보를 업데이트할 필요가 없어 전송 데이터량이 감소하고 전송 시간도 단축된다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 공유 대상이 되는 증강현실 객체 정보를 클라우드 등의 호스트를 통해 공유 대상 전자 디바이스에 전달하므로 데이터 전송 효율이 증가하여 전송 시간이 단축될 수 있다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 공유 전자 디바이스들이 동일한 호스트에 접속함으로써 연결이 완료되므로, 상호간의 연결 과정이 단순해진다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 공유대상 증강현실 객체에 대응하는 마커를 생성하고 이를 현실세계에 표시함으로써, 다양한 상황에서 신속하게 증강현실 객체의 공유가 가능하다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 프로젝션 방식을 이용하여 마커를 표시함으로써 생성된 마커를 신속하게 표시할 수 있다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 마커 표시부를 회전 가능하게 마련함으로써, 사용자가 바라보는 위치에 마커를 표시할 수 있고, 사용자가 움직이는 경우에도 설정 위치에 마커를 고정시킬 수 있다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 마커 표시부의 초점 거리, 색상, 크기, 밝기, 선명도 등을 조절함으로써 마커가 표시되는 위치에 따라 최적의 가시성을 확보할 수 있다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 하나의 마커에 복수의 증강현실 객체들을 대응시키는 것이 가능하다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 시간에 따라 변하는 마커들에 동일한 증강현실 객체의 연속적인 이미지를 대응시키거나, 서로 다른 증강현실 객체를 대응시킬 수도 있다.
도 1은 AI 장치의 일 실시예를 나타내는 개념도이다.
도 2는 본 발명의 일 실시예에 따른 확장현실 전자 디바이스의 구성을 나타내는 블럭도이다.
도 3은 본 발명의 일 실시예에 따른 가상현실 전자 디바이스의 사시도이다.
도 4는 도 3의 가상현실 전자 디바이스를 사용하는 모습을 나타내는 도면이다.
도 5는 본 발명의 일 실시예에 따른 증강현실 전자 디바이스의 사시도이다.
도 6은 본 발명의 일 실시예에 따른 제어부를 설명하기 위한 분해사시도이다.
도 7 내지 도13은 본 발명의 일 실시예에 따른 디스플레이부에 적용 가능한 다양한 디스플레이 방식을 설명하기 위한 개념도이다.
도 14는 본 발명의 실시예에 따른 전자 디바이스를 도시하는 사시도이다.
도 15는 제1 사용자가 증강현실 이미지를 바라보는 모습을 나타내는 도면이다.
도 16은 제1 사용자가 공유대상 증강현실 객체에 마커를 투영하여 설정하는 모습을 나타내는 도면이다.
도 17은 제2 사용자가 마커를 바라보는 모습을 나타내는 도면이다.
도 18은 제2 사용자가 마커에 설정된 증강현실 객체를 바라보는 모습을 나타내는 도면이다.
도 19는 제1 사용자가 공유대상 증강현실 객체에 모바일 디바이스를 이용하여 마커를 표시하여 설정하는 모습을 나타내는 도면이다.
도 20은 제2 사용자가 마커를 바라보는 모습을 나타내는 도면이다.
도 21은 제2 사용자가 마커에 설정된 증강현실 객체를 바라보는 모습을 나타내는 도면이다.
도 22는 마커를 투영하여 증강현실 객체를 공유하는 본 발명의 제1 실시예를 설명하는 개념도이다.
도 23은 모바일 디바이스를 이용하여 마커를 표시하는 본 발명의 제2 실시예를 설명하는 개념도이다.
도 24는 스마트 디바이스를 이용하여 마커를 표시하는 본 발명의 제3 실시예를 설명하는 개념도이다.
도 25는 전자 디바이스 사이에 직접 가상현실 정보를 공유하는 본 발명의 제4 실시예를 설명하는 개념도이다.
도 26은 하나의 마커에 다중 객체 정보가 설정되는 실시예를 나타내는 도면이다.
도 27은 다중 마커를 이용하여 하나의 객체 정보를 설정하는 실시예를 나타내는 도면이다.
도 28은 다중 마커를 이용하여 다중 객체 정보를 설정하는 실시예를 나타내는 도면이다.
도 29는 전자 디바이스가 제1 위치에서 마커를 투영하는 모습을 나타내는 도면이다.
도 30은 도 29에서 전자 디바이스가 움직였을 때 투영되는 마커의 위치를 나타내는 도면이다.
도 31은 도 30에서 전자 디바이스가 마커 표시부의 허용 범위를 넘어 움직였을 때 투영되는 마커의 변화를 나타내는 도면이다.
도 32는 줌 렌즈의 원리를 설명하기 위한 그림이다.
도 33은 본 발명의 실시예에 따른 전자 디바이스의 구성을 나타내는 블럭도이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
본 명세서에 개시된 실시예를 설명함에 있어서 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
[5G 시나리오]
5G의 세 가지 주요 요구 사항 영역은 (1) 개선된 모바일 광대역 (Enhanced Mobile Broadband, eMBB) 영역, (2) 다량의 머신 타입 통신 (massive Machine Type Communication, mMTC) 영역 및 (3) 초-신뢰 및 저 지연 통신 (Ultra-reliable and Low Latency Communications, URLLC) 영역을 포함한다.
일부 사용 예(Use Case)는 최적화를 위해 다수의 영역들이 요구될 수 있고, 다른 사용 예는 단지 하나의 핵심 성능 지표 (Key Performance Indicator, KPI)에만 포커싱될 수 있다. 5G는 이러한 다양한 사용 예들을 유연하고 신뢰할 수 있는 방법으로 지원하는 것이다.
eMBB는 기본적인 모바일 인터넷 액세스를 훨씬 능가하게 하며, 풍부한 양방향 작업, 클라우드 또는 증강현실에서 미디어 및 엔터테인먼트 애플리케이션을 커버한다. 데이터는 5G의 핵심 동력 중 하나이며, 5G 시대에서 처음으로 전용 음성 서비스를 볼 수 없을 수 있다. 5G에서, 음성은 단순히 통신 시스템에 의해 제공되는 데이터 연결을 사용하여 응용 프로그램으로서 처리될 것이 기대된다. 증가된 트래픽 양(volume)을 위한 주요 원인들은 콘텐츠 크기의 증가 및 높은 데이터 전송률을 요구하는 애플리케이션 수의 증가이다. 스트리밍 서비스 (오디오 및 비디오), 대화형 비디오 및 모바일 인터넷 연결은 더 많은 장치가 인터넷에 연결될수록 더 널리 사용될 것이다. 이러한 많은 응용 프로그램들은 사용자에게 실시간 정보 및 알림을 푸쉬하기 위해 항상 켜져 있는 연결성이 필요하다. 클라우드 스토리지 및 애플리케이션은 모바일 통신 플랫폼에서 급속히 증가하고 있으며, 이것은 업무 및 엔터테인먼트 모두에 적용될 수 있다. 그리고, 클라우드 스토리지는 상향링크 데이터 전송률의 성장을 견인하는 특별한 사용 예이다. 5G는 또한 클라우드의 원격 업무에도 사용되며, 촉각 인터페이스가 사용될 때 우수한 사용자 경험을 유지하도록 훨씬 더 낮은 단-대-단(end-to-end) 지연을 요구한다. 엔터테인먼트 예를 들어, 클라우드 게임 및 비디오 스트리밍은 모바일 광대역 능력에 대한 요구를 증가시키는 또 다른 핵심 요소이다. 엔터테인먼트는 기차, 차 및 비행기와 같은 높은 이동성 환경을 포함하는 어떤 곳에서든지 스마트폰 및 태블릿에서 필수적이다. 또 다른 사용 예는 엔터테인먼트를 위한 증강현실 및 정보 검색이다. 여기서, 증강현실은 매우 낮은 지연과 순간적인 데이터 양을 필요로 한다.
또한, 가장 많이 예상되는 5G 사용 예 중 하나는 모든 분야에서 임베디드 센서를 원활하게 연결할 수 있는 기능 즉, mMTC에 관한 것이다. 2020년까지 잠재적인 IoT 장치들은 204 억 개에 이를 것으로 예측된다. 산업 IoT는 5G가 스마트 도시, 자산 추적(asset tracking), 스마트 유틸리티, 농업 및 보안 인프라를 가능하게 하는 주요 역할을 수행하는 영역 중 하나이다.
URLLC는 주요 인프라의 원격 제어 및 자체-구동 차량(self-driving vehicle)과 같은 초 신뢰 / 이용 가능한 지연이 적은 링크를 통해 산업을 변화시킬 새로운 서비스를 포함한다. 신뢰성과 지연의 수준은 스마트 그리드 제어, 산업 자동화, 로봇 공학, 드론 제어 및 조정에 필수적이다.
다음으로, 다수의 사용 예들에 대해 보다 구체적으로 살펴본다.
5G는 초당 수백 메가 비트에서 초당 기가 비트로 평가되는 스트림을 제공하는 수단으로 FTTH (fiber-to-the-home) 및 케이블 기반 광대역 (또는 DOCSIS)을 보완할 수 있다. 이러한 빠른 속도는 가상현실과 증강현실뿐 아니라 4K 이상(6K, 8K 및 그 이상)의 해상도로 TV를 전달하는데 요구된다. VR(Virtual Reality) 및 AR(Augmented Reality) 애플리케이션들은 거의 몰입형(immersive) 스포츠 경기를 포함한다. 특정 응용 프로그램은 특별한 네트워크 설정이 요구될 수 있다. 예를 들어, VR 게임의 경우, 게임 회사들이 지연을 최소화하기 위해 코어 서버를 네트워크 오퍼레이터의 에지 네트워크 서버와 통합해야 할 수 있다.
자동차(Automotive)는 차량에 대한 이동 통신을 위한 많은 사용 예들과 함께 5G에 있어 중요한 새로운 동력이 될 것으로 예상된다. 예를 들어, 승객을 위한 엔터테인먼트는 동시의 높은 용량과 높은 이동성 모바일 광대역을 요구한다. 그 이유는 미래의 사용자는 그들의 위치 및 속도와 관계없이 고품질의 연결을 계속해서 기대하기 때문이다. 자동차 분야의 다른 활용 예는 증강현실 대시보드이다. 이는 운전자가 앞면 창을 통해 보고 있는 것 위에 어둠 속에서 물체를 식별하고, 물체의 거리와 움직임에 대해 운전자에게 말해주는 정보를 겹쳐서 디스플레이 한다. 미래에, 무선 모듈은 차량들 간의 통신, 차량과 지원하는 인프라구조 사이에서 정보 교환 및 자동차와 다른 연결된 디바이스들(예를 들어, 보행자에 의해 수반되는 디바이스들) 사이에서 정보 교환을 가능하게 한다. 안전 시스템은 운전자가 보다 안전한 운전을 할 수 있도록 행동의 대체 코스들을 안내하여 사고의 위험을 낮출 수 있게 한다. 다음 단계는 원격 조종되거나 자체 운전 차량(self-driven vehicle)이 될 것이다. 이는 서로 다른 자체 운전 차량들 사이 및 자동차와 인프라 사이에서 매우 신뢰성이 있고, 매우 빠른 통신을 요구한다. 미래에, 자체 운전 차량이 모든 운전 활동을 수행하고, 운전자는 차량 자체가 식별할 수 없는 교통 이상에만 집중하도록 할 것이다. 자체 운전 차량의 기술적 요구 사항은 트래픽 안전을 사람이 달성할 수 없을 정도의 수준까지 증가하도록 초 저 지연과 초고속 신뢰성을 요구한다.
스마트 사회(smart society)로서 언급되는 스마트 도시와 스마트 홈은 고밀도 무선 센서 네트워크로 임베디드될 것이다. 지능형 센서의 분산 네트워크는 도시 또는 집의 비용 및 에너지-효율적인 유지에 대한 조건을 식별할 것이다. 유사한 설정이 각 가정을 위해 수행될 수 있다. 온도 센서, 창 및 난방 컨트롤러, 도난 경보기 및 가전 제품들은 모두 무선으로 연결된다. 이러한 센서들 중 많은 것들이 전형적으로 낮은 데이터 전송 속도, 저전력 및 저비용이다. 하지만, 예를 들어, 실시간 HD 비디오는 감시를 위해 특정 타입의 장치에서 요구될 수 있다.
열 또는 가스를 포함한 에너지의 소비 및 분배는 고도로 분산화되고 있어, 분산 센서 네트워크의 자동화된 제어가 요구된다. 스마트 그리드는 정보를 수집하고 이에 따라 행동하도록 디지털 정보 및 통신 기술을 사용하여 이런 센서들을 상호 연결한다. 이 정보는 공급 업체와 소비자의 행동을 포함할 수 있으므로, 스마트 그리드가 효율성, 신뢰성, 경제성, 생산의 지속 가능성 및 자동화된 방식으로 전기와 같은 연료들의 분배를 개선하도록 할 수 있다. 스마트 그리드는 지연이 적은 다른 센서 네트워크로 볼 수도 있다.
건강 부문은 이동 통신의 혜택을 누릴 수 있는 많은 응용 프로그램을 보유하고 있다. 통신 시스템은 멀리 떨어진 곳에서 임상 진료를 제공하는 원격 진료를 지원할 수 있다. 이는 거리에 대한 장벽을 줄이는데 도움을 주고, 거리가 먼 농촌에서 지속적으로 이용하지 못하는 의료 서비스들로의 접근을 개선시킬 수 있다. 이는 또한 중요한 진료 및 응급 상황에서 생명을 구하기 위해 사용된다. 이동 통신 기반의 무선 센서 네트워크는 심박수 및 혈압과 같은 파라미터들에 대한 원격 모니터링 및 센서들을 제공할 수 있다.
무선 및 모바일 통신은 산업 응용 분야에서 점차 중요해지고 있다. 배선은 설치 및 유지 비용이 높다. 따라서, 케이블을 재구성할 수 있는 무선 링크들로의 교체 가능성은 많은 산업 분야에서 매력적인 기회이다. 그러나, 이를 달성하는 것은 무선 연결이 케이블과 비슷한 지연, 신뢰성 및 용량으로 동작하는 것과, 그 관리가 단순화될 것이 요구된다. 낮은 지연과 매우 낮은 오류 확률은 5G로 연결될 필요가 있는 새로운 요구 사항이다.
물류(logistics) 및 화물 추적(freight tracking)은 위치 기반 정보 시스템을 사용하여 어디에서든지 인벤토리(inventory) 및 패키지의 추적을 가능하게 하는 이동 통신에 대한 중요한 사용 예이다. 물류 및 화물 추적의 사용 예는 전형적으로 낮은 데이터 속도를 요구하지만 넓은 범위와 신뢰성 있는 위치 정보가 필요하다.
본 명세서에서 후술할 본 발명은 전술한 5G의 요구 사항을 만족하도록 각 실시예를 조합하거나 변경하여 구현될 수 있다.
도 1은 AI 장치의 일 실시예를 나타내는 개념도이다.
도 1을 참조하면, AI 시스템은 AI 서버(16), 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 중에서 적어도 하나 이상이 클라우드 네트워크(10)와 연결된다. 여기서, AI 기술이 적용된 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 등을 AI 장치(11 내지 15)라 칭할 수 있다.
클라우드 네트워크(10)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(10)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.
즉, AI 시스템을 구성하는 각 장치들(11 내지 16)은 클라우드 네트워크(10)를 통해 서로 연결될 수 있다. 특히, 각 장치들(11 내지 16)은 기지국을 통해서 서로 통신할 수도 있지만, 기지국을 통하지 않고 직접 서로 통신할 수도 있다.
AI 서버(16)는 AI 프로세싱을 수행하는 서버와 빅 데이터에 대한 연산을 수행하는 서버를 포함할 수 있다.
AI 서버(16)는 AI 시스템을 구성하는 AI 장치들인 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 중에서 적어도 하나 이상과 클라우드 네트워크(10)을 통하여 연결되고, 연결된 AI 장치들(11 내지 15)의 AI 프로세싱을 적어도 일부를 도울 수 있다.
이 때, AI 서버(16)는 AI 장치(11 내지 15)를 대신하여 머신 러닝 알고리즘에 따라 인공 신경망을 학습시킬 수 있고, 학습 모델을 직접 저장하거나 AI 장치(11 내지 15)에 전송할 수 있다.
이 때, AI 서버(16)는 AI 장치(11 내지 15)로부터 입력 데이터를 수신하고, 학습 모델을 이용하여 수신한 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성하여 AI 장치(11 내지 15)로 전송할 수 있다.
또는, AI 장치(11 내지 15)는 직접 학습 모델을 이용하여 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수도 있다.
<AI+로봇>
로봇(11)은 AI 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.
로봇(11)은 동작을 제어하기 위한 로봇 제어 모듈을 포함할 수 있고, 로봇 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다.
로봇(11)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 로봇(11)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 사용자 상호작용에 대한 응답을 결정하거나, 동작을 결정할 수 있다.
여기서, 로봇(11)은 이동 경로 및 주행 계획을 결정하기 위하여, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
로봇(11)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 로봇(11)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 동작을 결정할 수 있다. 여기서, 학습 모델은 로봇(11)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.
이 때, 로봇(11)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
로봇(11)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 로봇(11)을 주행시킬 수 있다.
맵 데이터에는 로봇(11)이 이동하는 공간에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 벽, 문 등의 고정 객체들과 화분, 책상 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 로봇(11)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이 때, 로봇(11)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
<AI+자율주행>
자율주행 차량(12)은 AI 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
자율주행 차량(12)은 자율주행 기능을 제어하기 위한 자율주행 제어 모듈을 포함할 수 있고, 자율주행 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다. 자율주행 제어 모듈은 자율주행 차량(12)의 구성으로써 내부에 포함될 수도 있지만, 자율주행 차량(12)의 외부에 별도의 하드웨어로 구성되어 연결될 수도 있다.
자율주행 차량(12)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 자율주행 차량(12)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 동작을 결정할 수 있다.
여기서, 자율주행 차량(12)은 이동 경로 및 주행 계획을 결정하기 위하여, 로봇(11)과와 마찬가지로, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
특히, 자율주행 차량(12)은 시야가 가려지는 영역이나 일정 거리 이상의 영역에 대한 환경이나 객체는 외부 장치들로부터 센서 정보를 수신하여 인식하거나, 외부 장치들로부터 직접 인식된 정보를 수신할 수 있다.
자율주행 차량(12)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 자율주행 차량(12)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 주행 동선을 결정할 수 있다. 여기서, 학습 모델은 자율주행 차량(12)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.
이 때, 자율주행 차량(12)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
자율주행 차량(12)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 자율주행 차량(12)을 주행시킬 수 있다.
맵 데이터에는 자율주행 차량(12)이 주행하는 공간(예컨대, 도로)에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 가로등, 바위, 건물 등의 고정 객체들과 차량, 보행자 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 자율주행 차량(12)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이 때, 자율주행 차량(12)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
<AI+XR>
XR 장치(13)는 AI 기술이 적용되어, HMD(Head-Mount Display), 차량에 구비된 HUD(Head-Up Display), 텔레비전, 휴대폰, 스마트 폰, 컴퓨터, 웨어러블 디바이스, 가전 기기, 디지털 사이니지, 차량, 고정형 로봇이나 이동형 로봇 등으로 구현될 수 있다.
XR 장치(13)는 다양한 센서들을 통해 또는 외부 장치로부터 획득한 3차원 포인트 클라우드 데이터 또는 이미지 데이터를 분석하여 3차원 포인트들에 대한 위치 데이터 및 속성 데이터를 생성함으로써 주변 공간 또는 현실 객체에 대한 정보를 획득하고, 출력할 XR 객체를 렌더링하여 출력할 수 있다. 예컨대, XR 장치(13)는 인식된 물체에 대한 추가 정보를 포함하는 XR 객체를 해당 인식된 물체에 대응시켜 출력할 수 있다.
XR 장치(13)는 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, XR 장치(13)는 학습 모델을 이용하여 3차원 포인트 클라우드 데이터 또는 이미지 데이터에서 현실 객체를 인식할 수 있고, 인식한 현실 객체에 상응하는 정보를 제공할 수 있다. 여기서, 학습 모델은 XR 장치(13)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.
이 때, XR 장치(13)는 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
<AI+로봇+자율주행>
로봇(11)은 AI 기술 및 자율주행 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.
AI 기술과 자율주행 기술이 적용된 로봇(11)은 자율주행 기능을 가진 로봇 자체나, 자율주행 차량(12)과 상호작용하는 로봇(11) 등을 의미할 수 있다.
자율주행 기능을 가진 로봇(11)은 사용자의 제어 없이도 주어진 동선에 따라 스스로 움직이거나, 동선을 스스로 결정하여 움직이는 장치들을 통칭할 수 있다.
자율주행 기능을 가진 로봇(11) 및 자율주행 차량(12)은 이동 경로 또는 주행 계획 중 하나 이상을 결정하기 위해 공통적인 센싱 방법을 사용할 수 있다. 예를 들어, 자율주행 기능을 가진 로봇(11) 및 자율주행 차량(12)은 라이다, 레이더, 카메라를 통해 센싱된 정보를 이용하여, 이동 경로 또는 주행 계획 중 하나 이상을 결정할 수 있다.
자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)과 별개로 존재하면서, 자율주행 차량(12)의 내부 또는 외부에서 자율주행 기능에 연계되거나, 자율주행 차량(12)에 탑승한 사용자와 연계된 동작을 수행할 수 있다.
이 때, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)을 대신하여 센서 정보를 획득하여 자율주행 차량(12)에 제공하거나, 센서 정보를 획득하고 주변 환경 정보 또는 객체 정보를 생성하여 자율주행 차량(12)에 제공함으로써, 자율주행 차량(12)의 자율주행 기능을 제어하거나 보조할 수 있다.
또는, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)에 탑승한 사용자를 모니터링하거나 사용자와의 상호작용을 통해 자율주행 차량(12)의 기능을 제어할 수 있다. 예컨대, 로봇(11)은 운전자가 졸음 상태인 경우로 판단되는 경우, 자율주행 차량(12)의 자율주행 기능을 활성화하거나 자율주행 차량(12)의 구동부의 제어를 보조할 수 있다. 여기서, 로봇(11)이 제어하는 자율주행 차량(12)의 기능에는 단순히 자율주행 기능뿐만 아니라, 자율주행 차량(12)의 내부에 구비된 네비게이션 시스템이나 오디오 시스템에서 제공하는 기능도 포함될 수 있다.
또는, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)의 외부에서 자율주행 차량(12)에 정보를 제공하거나 기능을 보조할 수 있다. 예컨대, 로봇(11)은 스마트 신호등과 같이 자율주행 차량(12)에 신호 정보 등을 포함하는 교통 정보를 제공할 수도 있고, 전기 차량의 자동 전기 충전기와 같이 자율주행 차량(12)과 상호작용하여 충전구에 전기 충전기를 자동으로 연결할 수도 있다.
<AI+로봇+XR>
로봇(11)은 AI 기술 및 XR 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇, 드론 등으로 구현될 수 있다.
XR 기술이 적용된 로봇(11)은 XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇을 의미할 수 있다. 이 경우, 로봇(11)은 XR 장치(13)와 구분되며 서로 연동될 수 있다.
XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇(11)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 로봇(11) 또는 XR 장치(13)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(13)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 로봇(11)은 XR 장치(13)를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.
예컨대, 사용자는 XR 장치(13) 등의 외부 장치를 통해 원격으로 연동된 로봇(11)의 시점에 상응하는 XR 영상을 확인할 수 있고, 상호작용을 통하여 로봇(11)의 자율주행 경로를 조정하거나, 동작 또는 주행을 제어하거나, 주변 객체의 정보를 확인할 수 있다.
<AI+자율주행+XR>
자율주행 차량(12)은 AI 기술 및 XR 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
XR 기술이 적용된 자율주행 차량(12)은 XR 영상을 제공하는 수단을 구비한 자율주행 차량이나, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량 등을 의미할 수 있다. 특히, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량(12)은 XR 장치(13)와 구분되며 서로 연동될 수 있다.
XR 영상을 제공하는 수단을 구비한 자율주행 차량(12)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하고, 획득한 센서 정보에 기초하여 생성된 XR 영상을 출력할 수 있다. 예컨대, 자율주행 차량(12)은 HUD를 구비하여 XR 영상을 출력함으로써, 탑승자에게 현실 객체 또는 화면 속의 객체에 대응되는 XR 객체를 제공할 수 있다.
이 때, XR 객체가 HUD에 출력되는 경우에는 XR 객체의 적어도 일부가 탑승자의 시선이 향하는 실제 객체에 오버랩되도록 출력될 수 있다. 반면, XR 객체가 자율주행 차량(12)의 내부에 구비되는 디스플레이에 출력되는 경우에는 XR 객체의 적어도 일부가 화면 속의 객체에 오버랩되도록 출력될 수 있다. 예컨대, 자율주행 차량(12)은 차로, 타 차량, 신호등, 교통 표지판, 이륜차, 보행자, 건물 등과 같은 객체와 대응되는 XR 객체들을 출력할 수 있다.
XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량(12)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 자율주행 차량(12) 또는 XR 장치(13)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(13)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 자율주행 차량(12)은 XR 장치(13) 등의 외부 장치를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.
[확장현실 기술]
확장현실(XR: eXtended Reality)은 가상현실(VR: Virtual Reality), 증강현실(AR: Augmented Reality), 혼합현실(MR: Mixed Reality)을 총칭한다. VR 기술은 현실세계의 객체나 배경 등을 CG 영상으로만 제공하고, AR 기술은 실제 사물 영상 위에 가상으로 만들어진 CG 영상을 함께 제공하며, MR 기술은 현실세계에 가상 객체들을 섞고 결합시켜서 제공하는 컴퓨터 그래픽 기술이다.
MR 기술은 현실 객체와 가상 객체를 함께 보여준다는 점에서 AR 기술과 유사하다. 그러나, AR 기술에서는 가상 객체가 현실 객체를 보완하는 형태로 사용되는 반면, MR 기술에서는 가상 객체와 현실 객체가 동등한 성격으로 사용된다는 점에서 차이점이 있다.
XR 기술은 HMD(Head-Mount Display), HUD(Head-Up Display), 휴대폰, 태블릿 PC, 랩탑, 데스크탑, TV, 디지털 사이니지 등에 적용될 수 있고, XR 기술이 적용된 장치를 XR 장치(XR Device)라 칭할 수 있다.
이하에서는 본 발명의 실시예에 따른 확장현실을 제공하는 전자 디바이스에 대해 설명하기로 한다.
도 2는 본 발명의 일 실시예에 따른 확장현실 전자 디바이스(20)의 구성을 나타내는 블럭도이다.
도 2를 참조하면, 확장현실 전자 디바이스(20)는 무선 통신부(21), 입력부(22), 센싱부(23), 출력부(24), 인터페이스부(25), 메모리(26), 제어부(27) 및 전원 공급부(28) 등을 포함할 수 있다. 도 2에 도시된 구성요소들은 전자 디바이스(20)를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 전자 디바이스(20)는 위에서 열거된 구성요소들 보다 많거나, 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 위 구성요소들 중 무선 통신부(21)는, 전자 디바이스(20)와 무선 통신 시스템 사이, 전자 디바이스(20)와 다른 전자 디바이스 사이, 또는 전자 디바이스(20)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(21)는, 전자 디바이스(20)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(21)는, 방송 수신 모듈, 이동통신 모듈, 무선 인터넷 모듈, 근거리 통신 모듈, 위치정보 모듈 중 적어도 하나를 포함할 수 있다.
입력부(22)는, 영상 신호 입력을 위한 카메라 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(22)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(23)는 전자 디바이스(20) 내 정보, 전자 디바이스(20)를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다.
예를 들어, 센싱부(23)는 근접센서(proximity sensor), 조도 센서(illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 촬영수단), 마이크로폰(microphone), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 전자 디바이스(20)는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(24)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부, 음향 출력부, 햅틱 모듈, 광 출력부 중 적어도 하나를 포함할 수 있다. 디스플레이부는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 증강현실 전자 디바이스(20)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력수단으로써 기능함과 동시에, 증강현실 전자 디바이스(20)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(25)는 전자 디바이스(20)에 연결되는 다양한 종류의 외부장치와의 통로 역할을 수행한다. 인터페이스부(25)를 통해 전자 디바이스(20)는 외부장치로부터 가상현실 또는 증강현실 컨텐츠를 제공받을 수 있고, 다양한 입력 신호, 센싱 신호, 데이터를 주고받음으로써, 상호 인터랙션을 수행할 수 있다.
예를 들어, 인터페이스부(25)는 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다.
또한, 메모리(26)는 전자 디바이스(20)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(26)는 전자 디바이스(20)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 전자 디바이스(20)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 전자 디바이스(20)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 전자 디바이스(20)상에 존재할 수 있다.
제어부(27)는 응용 프로그램과 관련된 동작 외에도, 통상적으로 전자 디바이스(20)의 전반적인 동작을 제어한다. 제어부(27)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리할 수 있다.
또한, 제어부(27)는 메모리(26)에 저장된 응용 프로그램을 구동함으로써 구성요소들 중 적어도 일부를 제어하여 사여 사용자에게 적절한 정보를 제공하거나 기능을 처리할 수 있다. 나아가, 제어부(27)는 응용 프로그램의 구동을 위하여 전자 디바이스(20)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
또한, 제어부(27)는 센싱부(23)에 포함된 자이로스코프 센서, 중력 센서, 모션 센서 등을 이용하여 전자 디바이스(20)나 사용자의 움직임을 감지할 수 있다. 또는 제어부(27)는 센싱부(23)에 포함된 근접센서, 조도센서, 자기센서, 적외선 센서, 초음파 센서, 광 센서 등을 이용하여 전자 디바이스(20)나 사용자 주변으로 다가오는 대상체를 감지할 수도 있다. 그 밖에도, 제어부(27)는 전자 디바이스(20)와 연동하여 동작하는 컨트롤러에 구비된 센서들을 통해서도 사용자의 움직임을 감지할 수 있다.
또한, 제어부(27)는 메모리(26)에 저장된 응용 프로그램을 이용하여 전자 디바이스(20)의 동작(또는 기능)을 수행할 수 있다.
전원 공급부(28)는 제어부(27)의 제어 하에서, 외부의 전원 또는 내부의 전원을 인가받아 전자 디바이스(20)에 포함된 각 구성요소들에 전원을 공급한다. 전원 공급부(28)는 배터리를 포함하며, 배터리는 내장형 또는 교체가능한 형태로 마련될 수 있다.
위 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 전자 디바이스의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 전자 디바이스의 동작, 제어, 또는 제어방법은 메모리(26)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 전자 디바이스 상에서 구현될 수 있다.
이하, 본 발명의 일 예로서 설명되는 전자 디바이스는 HMD(Head Mounted Display)에 적용되는 실시예를 기준으로 설명한다. 그러나 본 발명에 따른 전자 디바이스의 실시예에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 및 웨어러블 디바이스(wearable device) 등이 포함될 수 있다. 웨어러블 디바이스에는 HMD 이외에도 워치형 단말기(smart watch)와 컨택트 렌즈(Contact lens) 등이 포함될 수 있다.
도 3은 본 발명의 일 실시예에 따른 가상현실 전자 디바이스의 사시도이고, 도 4는 도 3의 가상현실 전자 디바이스를 사용하는 모습을 나타낸다.
도면을 참조하면, 가상현실 전자 디바이스는 사용자의 머리에 장착되는 박스 타입의 전자 디바이스(30)와, 사용자가 파지하여 조작할 수 있는 컨트롤러(40: 40a, 40b)를 포함할 수 있다.
전자 디바이스(30)는 인체의 두부에 착용되어 지지되는 헤드유닛(31)과, 헤드유닛(31)에 결합되어 사용자의 눈 앞에 가상의 이미지 또는 영상을 표시하는 디스플레이유닛(32)을 포함한다. 도면에는 헤드유닛(31)과 디스플레이유닛(32)이 별개의 유닛으로 구성되어 서로 결합되는 것으로 도시되지만, 이와 달리 디스플레이유닛(32)은 헤드유닛(31)에 일체로 구성될 수도 있다.
헤드유닛(31)은 중량감이 있는 디스플레이유닛(32)의 무게를 분산시킬 수 있도록 사용자의 머리를 감싸는 구조를 채택할 수 있다. 그리고 각기 다른 사용자의 두상 크기에 맞출 수 있도록 길이 가변되는 밴드 등이 구비될 수 있다.
디스플레이유닛(32)은 헤드유닛(31)에 결합되는 커버부(32a)와 디스플레이 패널을 내측에 수용하는 디스플레이부(32b)를 구성한다.
커버부(32a)는 고글 프레임이라고도 불리며, 전체적으로 터브 형상(tub shape)일 수 있다. 커버부(32a)는 내부에 공간이 형성되고 전면에 사용자의 안구의 위치에 대응되는 개구가 형성된다.
디스플레이부(32b)는 커버부(32a)의 전면 프레임에 장착되고, 사용자의 양 안에 대응되는 위치에 마련되어 화면정보(영상 또는 이미지 등)를 출력한다. 디스플레이부(32b)에서 출력되는 화면정보는 가상현실 컨텐츠뿐만 아니라, 카메라 등 촬영수단을 통해 수집되는 외부 이미지를 포함한다.
그리고 디스플레이부(32b)에 출력되는 가상현실 컨텐츠는 전자 디바이스(30) 자체에 저장된 것이거나 또는 외부장치(60)에 저장된 것일 수 있다. 예를 들어, 화면정보가 전자 디바이스(30)에 저장된 가상 공간 영상인 경우, 전자 디바이스(30)는 상기 가상 공간의 영상을 처리하기 위한 이미지 프로세싱 및 렌더링 처리를 수행하고, 이미지 프로세싱 및 렌더링 처리 결과 생성된 화상 정보를 디스플레이부(32b)를 통해 출력할 수 있다. 반면, 외부장치(60)에 저장된 가상 공간 영상인 경우, 외부장치(60)가 이미지 프로세싱 및 렌더링 처리를 수행하고, 그 결과 생성된 화상 정보를 전자 디바이스(30)에 전송해줄 수 있다. 그러면 전자 디바이스(30)는 외부장치(60)로부터 수신된 3D 화상 정보를 디스플레이부(32b)를 통해 출력할 수 있다.
디스플레이부(32b)는 커버부(32a)의 개구 전방에 마련되는 디스플레이 패널을 포함하고, 디스플레이 패널은 LCD 또는 OLED 패널일 수 있다. 또는 디스플레이부(32b)는 스마트폰의 디스플레이부일 수 있다. 즉, 커버부(32a)의 전방에 스마트폰이 탈착될 수 있는 구조를 채택할 수 있다.
그리고 디스플레이유닛(32)의 전방에는 촬영수단과 각종 센서류가 설치될 수 있다.
촬영수단(예를 들어, 카메라)는 전방의 영상을 촬영(수신, 입력)하도록 형성되고, 특히 사용자가 바라보는 현실세계를 영상으로 획득할 수 있다. 촬영수단은 디스플레이부(32b)의 중앙 위치에 한 개 마련되거나, 서로 대칭되는 위치에 두 개 이상 마련될 수 있다. 복수의 촬영수단을 구비하는 경우 입체 영상을 획득할 수도 있다. 촬영수단으로부터 획득되는 외부 이미지에 가상 이미지를 결합한 이미지가 디스플레이부(32b)를 통해 표시될 수 있다.
센서류는 자이로스코프 센서, 모션 센서 또는 IR 센서 등을 포함할 수 있다. 이에 대해서는 뒤에서 자세히 설명하기로 한다.
그리고 디스플레이유닛(32)의 후방에는 안면패드(facial pad, 33)가 설치될 수 있다. 안면패드(33)는 사용자의 안구 주위에 밀착되고, 쿠션감이 있는 소재로 마련되어 사용자의 얼굴에 편안한 착용감을 제공한다. 그리고 안면패드(33)는 사람의 얼굴 전면 윤곽에 대응하는 형상을 지니면서도 플렉서블한 소재로 마련되어 각기 다른 사용자의 얼굴 형상에도 안면에 밀착될 수 있어 외부 빛이 눈으로 침입하는 것을 차단할 수 있다.
그 밖에도 전자 디바이스(30)는 제어명령을 입력 받기 위하여 조작되는 사용자 입력부, 그리고 음향 출력부와 제어부가 구비될 수 있다. 이에 대한 설명은 전과 동일하므로 생략한다.
또한, 가상현실 전자 디바이스는 박스 타입의 전자 디바이스(30)를 통해 표시되는 가상 공간 영상과 관련된 동작을 제어하기 위한 컨트롤러(40: 40a, 40b)가 주변장치로 구비될 수 있다.
컨트롤러(40)는 사용자가 양손에 쉽게 그립(grip)할 수 있는 형태로 마련되고, 외측면에는 사용자 입력을 수신하기 위한 터치패드(또는 트랙패드), 버튼 등이 구비될 수 있다.
컨트롤러(40)는 전자 디바이스(30)와 연동하여 디스플레이부(32b)에 출력되는 화면을 제어하는데 사용될 수 있다. 컨트롤러(40)는 사용자가 쥐는(grip) 그립부와, 그립부로부터 연장되며 다양한 센서들과 마이크로 프로세서가 내장된 헤드부를 포함하여 구성될 수 있다. 그립부는 사용자가 쉽게 쥘 수 있도록 세로로 긴 바 형태로 이루어지고 헤드부는 링 형태로 이루어질 수 있다.
그리고 컨트롤러(40)는 IR 센서, 모션 추적 센서, 마이크로 프로세서, 및 입력부를 포함할 수 있다. 예를 들어, IR 센서는 후술하는 위치추적장치(50)로부터 방사되는 빛을 수신하여서, 사용자 동작을 추적하는데 사용된다. 모션 추적 센서는 3축의 가속도 센서와, 3축의 자이로스코프, 디지털 모션 프로세서를 하나의 집합체로 포함하여 구성될 수 있다.
그리고 컨트롤러(40)의 그립부에는 사용자 입력부가 마련될 수 있다. 사용자 입력부는 예를 들어, 그립부의 내측에 배치된 키들과, 그립부의 외측에 구비된 터치패드(트랙 패드), 트리거 버튼 등을 포함할 수 있다.
한편, 컨트롤러(40)는 전자 디바이스(30)의 제어부(27)로부터 수신되는 신호에 대응하는 피드백을 수행할 수 있다. 예를 들어, 컨트롤러(40)는 진동, 소리, 또는 광 등을 통해 사용자에게 피드백 신호를 전달할 수 있다.
또한, 사용자는 컨트롤러(40) 조작을 통해 전자 디바이스(30)에 구비된 카메라를 통해 확인되는 외부 환경 이미지에 접근할 수 있다. 즉, 사용자는 가상 공간 체험 중에도 전자 디바이스(30)를 벗지 않고 컨트롤러(40)의 조작을 통해 외부 환경을 즉시 확인할 수 있다.
또한, 가상현실 전자 디바이스는 위치추적장치(50)를 더 포함할 수 있다. 위치추적장치(50)는 라이트하우스(lighthouse) 시스템라는 위치추적(positional tracking) 기술을 적용하여 전자 디바이스(30) 또는 컨트롤러(40)의 위치를 검출하고, 이를 이용하여 사용자의 360도 모션을 추적하는데 도움을 준다.
위치추적시스템은 닫힌 특정 공간내에 하나 이상의 위치추적장치(50: 50a, 50b)를 설치함으로써 구현될 수 있다. 복수의 위치추적장치(50)는 인식 가능한 공간 범위가 극대화될 수 있는 위치, 예를 들어 대각선 방향으로 서로 마주보는 위치에 설치될 수 있다.
전자 디바이스(30) 또는 컨트롤러(40)는 복수의 위치추적장치(50)에 포함된 LED 또는 레이저 방출기들로부터 방사되는 빛을 수신하고, 해당 빛이 수신된 위치와 시간 간의 상관관계에 기초하여, 닫힌 특정 공간 내에서의 사용자의 위치를 정확하게 판단할 수 있다. 이를 위해, 위치추적장치(50)에는 IR 램프와 2축의 모터가 각각 포함될 수 있으며, 이를 통해 전자 디바이스(30) 또는 컨트롤러(40)와 신호를 주고받는다.
또한, 전자 디바이스(30)는 외부장치(60)(예를 들어, PC, 스마트폰, 또는 태블릿 등)와 유/무선 통신을 수행할 수 있다. 전자 디바이스(30)는 연결된 외부장치(60)에 저장된 가상 공간 영상을 수신하여 사용자에게 표시할 수 있다.
한편, 이상 설명한 컨트롤러(40)와 위치추적장치(50)는 필수 구성은 아니므로, 본 발명의 실시예에서는 생략될 수 있다. 예를 들어, 전자 디바이스(30)에 설치된 입력장치가 컨트롤러(40)를 대신할 수 있고, 전자 디바이스(30)에 설치된 센서류로부터 자체적으로 위치 정보를 판단할 수 있다.
도 5는 본 발명의 일 실시예에 따른 증강현실 전자 디바이스의 사시도이다.
도 5에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전자 디바이스는 프레임(100), 제어부(200) 및 디스플레이부(300)를 포함할 수 있다.
전자 디바이스는 글라스 타입(smart glass)으로 마련될 수 있다. 글라스 타입의 전자 디바이스는 인체의 두부에 착용 가능하도록 구성되며, 이를 위한 프레임(케이스, 하우징 등)(100)을 구비할 수 있다. 프레임(100)은 착용이 용이하도록 플렉서블 재질로 형성될 수 있다.
프레임(100)은 두부에 지지되며, 각종 부품들이 장착되는 공간을 마련한다. 도시된 바와 같이, 프레임(100)에는 제어부(200), 사용자 입력부(130) 또는 음향 출력부(140) 등과 같은 전자부품이 장착될 수 있다. 또한, 프레임(100)에는 좌안 및 우안 중 적어도 하나를 덮는 렌즈가 착탈 가능하게 장착될 수 있다.
프레임(100)은 도면에 도시된 바와 같이, 사용자의 신체 중 안면에 착용되는 안경 형태를 가질 수 있으나, 이에 반드시 한정되는 것은 아니고, 사용자의 안면에 밀착되어 착용되는 고글 등의 형태를 가질 수도 있다.
이와 같은 프레임(100)은 적어도 하나의 개구부를 구비하는 전면 프레임(110)과 전면 프레임(110)과 교차하는 제1 방향(y)으로 연장되어 서로 나란한 한 쌍의 측면 프레임(120)을 포함할 수 있다.
제어부(200)는 전자 디바이스에 구비되는 각종 전자부품을 제어하도록 마련된다.
제어부(200)는 사용자에게 보여지는 이미지 또는 이미지가 연속되는 영상을 생성할 수 있다. 제어부(200)는 이미지를 발생시키는 이미지 소스 패널과 이미지 소스 패널에서 발생된 빛을 확산 및 수렴하는 복수의 렌즈 등을 포함할 수 있다.
제어부(200)는 두 측면 프레임(120) 중 어느 하나의 측면 프레임(120)에 고정될 수 있다. 예를 들어, 제어부(200)는 어느 하나의 측면 프레임(120) 내측 또는 외측에 고정되거나, 어느 하나의 측면 프레임(120)의 내부에 내장되어 일체로 형성될 수 있다. 또는 제어부(200)가 전면 프레임(110)에 고정되거나 전자 디바이스와 별도로 마련될 수도 있다.
디스플레이부(300)는 헤드 마운티드 디스플레이(Head Mounted Display, HMD) 형태로 구현될 수 있다. HMD 형태란, 두부에 장착되어, 사용자의 눈 앞에 직접 영상을 보여주는 디스플레이 방식을 말한다. 사용자가 전자 디바이스를 착용하였을 때, 사용자의 눈 앞에 직접 영상을 제공할 수 있도록, 디스플레이부(300)는 좌안 및 우안 중 적어도 하나에 대응되게 배치될 수 있다. 본 도면에서는, 사용자의 우안을 향하여 영상을 출력할 수 있도록, 디스플레이부(300)가 우안에 대응되는 부분에 위치한 것을 예시하고 있다.
디스플레이부(300)는 사용자가 외부 환경을 시각적으로 인지하면서, 동시에 제어부(200)에서 생성된 이미지가 사용자에게 보이도록 할 수 있다. 예를 들어, 디스플레이부(300)는 프리즘을 이용하여 디스플레이 영역에 이미지를 투사할 수 있다.
그리고 디스플레이부(300)는 투사된 이미지와 전방의 일반 시야(사용자가 눈을 통하여 바라보는 범위)가 동시에 보이도록 하기 위해 투광성으로 형성될 수 있다. 예를 들어, 디스플레이부(300)는 반투명일 수 있으며, 글라스(glass)를 포함하는 광학 소자로 형성될 수 있다.
그리고 디스플레이부(300)는 전면 프레임(110)에 포함된 개구부에 삽입되어 고정되거나, 개부구의 배면[즉 개구부와 사용자 사이]에 위치하여, 전면 프레임(110)에 고정될 수 있다. 도면에는 디스플레이부(300)가 개구부의 배면에 위치하여, 전면 프레임(110)에 고정된 경우를 일 예로 도시하였지만, 이와 달리 디스플레이부(300)는 프레임(100)의 다양한 위치에 배치 및 고정될 수 있다.
전자 디바이스는 도 5에 도시된 바와 같이, 제어부(200)에서 이미지에 대한 이미지 광을 디스플레이부(300)의 일측으로 입사시키면, 이미지광이 디스플레이부(300)를 통하여 타측으로 출사되어, 제어부(200)에서 생성된 이미지를 사용자에게 보이도록 할 수 있다.
이에 따라, 사용자는 프레임(100)의 개구부를 통하여 외부 환경을 보면서 동시에 제어부(200)에서 생성된 이미지를 함께 볼 수 있게 된다. 즉, 디스플레이부(300)를 통하여 출력되는 영상은 일반 시야와 오버랩(overlap)되어 보일 수 있다. 전자 디바이스는 이러한 디스플레이 특성을 이용하여 현실의 이미지나 배경에 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 증강현실(Augmented Reality, AR)을 제공할 수 있다.
도 6은 본 발명의 일 실시예에 따른 제어부를 설명하기 위한 분해사시도이다.
도면을 참조하면, 제어부(200)는 내부의 구성 소자를 보호하고, 제어부(200)의 외형을 형성하는 제1 커버(207)와 제2 커버(225)를 구비하고, 제1 커버(207)와 제2 커버(225)의 내부에는 구동부(201), 이미지 소스 패널(203), 편광빔 스플리터 필터(Polarization Beam Splitter Filter, PBSF, 211), 미러(209), 복수의 렌즈(213, 215, 217, 221), 플라이아이 렌즈(Fly Eye Lens, FEL, 219), 다이크로익 필터(Dichroic filter, 227) 및 프리즘 프로젝션 렌즈(Freeform prism Projection Lens, FPL, 223)를 구비할 수 있다.
제1 커버(207)와 제2 커버(225)는 구동부(201), 이미지 소스 패널(203), 편광빔 스플리터 필터(211), 미러(209), 복수의 렌즈(213, 215, 217, 221), 플라이아이 렌즈(219) 및 프리즘 프로젝션 렌즈(223)가 내장될 수 있는 공간을 구비하고, 이들을 패키징하여, 양 측면 프레임(120) 중 어느 하나에 고정될 수 있다.
구동부(201)는 이미지 소스 패널(203)에서 디스플레이되는 영상 또는 이미지를 제어하는 구동 신호를 공급할 수 있으며, 제어부(200) 내부 또는 제어부(200) 외부에 구비되는 별도의 모듈 구동칩에 연동될 수 있다. 이와 같은 구동부(201)는 일 예로, 연성 인쇄회로기판(Flexible Printed Circuits Board, FPCB) 형태로 구비될 수 있고, 연성 인쇄회로기판에는 구동 중 발생하는 열을 외부로 방출시키는 방열판(heatsink)이 구비될 수 있다.
이미지 소스 패널(203)은 구동부(201)에서 제공되는 구동 신호에 따라 이미지를 생성하여 발광할 수 있다. 이를 위해 이미지 소스 패널(203)은 LCD(liquid crystal display) 패널이 이용되거나 OLED(Organic Light Emitting Diode) 패널이 이용될 수 있다.
편광빔 스플리터 필터(211)는 이미지 소스 패널(203)에서 생성된 이미지에 대한 이미지 광을 회전 각도에 따라 분리하거나 일부를 차단하고 일부는 통과시킬 수 있다. 따라서, 예를 들어, 이미지 소스 패널(203)에서 발광되는 이미지 광이 수평광인 P파와 수직광인 S파를 구비한 경우, 편광빔 스플리터 필터(211)는 P파와 S파를 서로 다른 경로로 분리하거나, 어느 하나의 이미지 광은 통과시키고 나머지 하나의 이미지 광은 차단할 수 있다. 이와 같은 편광빔 스플리터 필터(211)는 일 실시예로, 큐브(cube) 타입 또는 플레이트(plate) 타입으로 구비될 수 있다.
큐브(cube) 타입으로 구비되는 편광빔 스플리터 필터(211)는 P파와 S파로 형성되는 이미지 광을 필터링하여 서로 다른 경로로 분리할 수 있으며, 플레이트(plate) 타입으로 구비되는 편광빔 스플리터 필터(211)는 P파와 S파 중 어느 하나의 이미지 광을 통과시키고 다른 하나의 이미지 광을 차단할 수 있다.
미러(Mirror, 209)는 편광빔 스플리터 필터(211)에서 편광되어 분리된 이미지 광을 반사하여 다시 모아 복수의 렌즈(213, 215, 217, 221)로 입사시킬 수 있다.
복수의 렌즈(213, 215, 217, 221)는 볼록 렌즈와 오목 렌즈 등을 포함할 수 있으며, 일 예로, I타입의 렌즈와 C 타입의 렌즈를 포함할 수 있다. 이와 같은 복수의 렌즈(213, 215, 217, 221)는 입사되는 이미지 광을 확산 및 수렴을 반복하도록 하여, 이미지 광의 직진성을 향상시킬 수 있다.
플라이아이 렌즈(219)는 복수의 렌즈(213, 215, 217, 221)를 통과한 이미지 광을 입사받아 입사광의 조도 균일성(uniformity)이 보다 향상되도록 이미지 광을 출사할 수 있으며, 이미지 광이 균일한 조도를 갖는 영역을 확장시킬 수 있다.
다이크로익 필터(227)는 복수의 필름층 또는 렌즈층을 포함할 수 있으며, 플라이아이 렌즈(219)로부터 입사되는 이미지 광 중 특정 파장 대역의 빛은 투과시키고, 나머지 특정 파장 대역의 빛은 반사시켜, 이미지 광의 색감을 보정할 수 있다. 이와 같은 다이크로익 필터(227)를 투과한 이미지 광은 프리즘 프로젝션 렌즈(223)를 통하여 디스플레이부(300)로 출사될 수 있다.
디스플레이부(300)는 제어부(200)에서 출사되는 이미지 광을 입사받아, 사용자가 눈으로 볼 수 있도록 사용자의 눈이 위치한 방향으로 입사된 이미지 광을 출사할 수 있다.
한편, 앞에서 설명한 구성 외에도 전자 디바이스는 하나 이상의 촬영수단(미도시)을 포함할 수 있다. 촬영수단은 좌안 및 우안 중 적어도 하나에 인접하게 배치되어, 전방의 영상을 촬영할 수 있다. 또는 측방/후방 영상을 촬영할 수 있도록 배치될 수도 있다.
촬영수단이 눈에 인접하여 위치하므로, 촬영수단은 사용자가 바라보는 현실세계를 영상으로 획득할 수 있다. 촬영수단은 상기 프레임(100)에 설치될 수도 있으며, 복수 개로 구비되어 입체 영상을 획득하도록 이루어질 수도 있다.
전자 디바이스는 제어명령을 입력 받기 위하여 조작되는 사용자 입력부(130)를 구비할 수 있다. 사용자 입력부(130)는 터치, 푸시 등 사용자가 촉각으로 느끼면서 조작하게 되는 방식(tactile manner), 직접 터치하지 않은 상태에서 사용자의 손의 움직임을 인식하는 제스처 방식(gesture manner), 또는 음성 명령을 인식하는 방식을 포함하여 다양한 방식이 채용될 수 있다. 본 도면에서는, 프레임(100)에 사용자 입력부(130)가 구비된 것을 예시하고 있다.
또한, 전자 디바이스는 사운드를 입력 받아 전기적인 음성 데이터로 처리하는 마이크로폰 및 음향을 출력하는 음향 출력부(140)를 구비할 수 있다. 음향 출력부(140)는 일반적인 음향 출력 방식 또는 골전도 방식으로 음향을 전달하도록 이루어질 수 있다. 음향 출력부(140)가 골전도 방식으로 구현되는 경우, 사용자가 전자 디바이스를 착용시, 음향 출력부(140)는 두부에 밀착되며, 두개골을 진동시켜 음향을 전달하게 된다.
이하에서는 디스플레이부(300)의 다양한 형태와 입사된 이미지 광이 출사되는 다양한 방식에 대해 설명한다.
도 7 내지 도13은 본 발명의 일 실시예에 따른 디스플레이부(300)에 적용 가능한 다양한 방식의 광학 소자를 설명하기 위한 개념도이다.
구체적으로, 도 7은 프리즘 방식의 광학 소자의 일 실시예를 설명하기 위한 도면이고, 도 8은 웨이브 가이드(waveguide, 또는 도파관) 방식의 광학 소자의 일 실시예를 설명하기 위한 도면이고, 도 9와 10은 핀 미러(Pin Mirror) 방식의 광학 소자의 일 실시예를 설명하기 위한 도면이고, 도11는 표면 반사 방식의 광학 소자의 일 실시예를 설명하기 위한 도면이다. 그리고 도 12는 마이크로 엘이디 방식의 광학 소자의 일 실시예를 설명하기 위한 도면이고, 도 13은 컨택트 렌즈에 활용되는 디스플레이부의 일 실시예를 설명하기 위한 도면이다.
도 7에 도시된 바와 같이, 본 발명의 일 실시예에 따른 디스플레이부(300-1)에는 프리즘 방식의 광학 소자가 이용될 수 있다.
일 실시예로, 프리즘 방식의 광학 소자는 도 7의 (a)에 도시된 바와 같이, 이미지 광이 입사되는 표면과 출사되는 표면(300a)이 평면인 플랫(flat) 타입의 글라스 광학 소자가 이용되거나, 도 7의 (b)에 도시된 바와 같이, 이미지 광이 출사되는 표면(300b)이 일정한 곡률 반경이 없는 곡면으로 형성되는 프리폼(freeform) 글라스 광학 소자가 이용될 수 있다.
플랫(flat) 타입의 글라스 광학 소자는 제어부(200)에서 생성된 이미지 광을 평평한 측면으로 입사 받아 내부에 구비된 전반사 미러(300a)에 의해 반사되어, 사용자 쪽으로 출사할 수 있다. 여기서, 플랫(flat) 타입의 글라스 광학 소자 내부에 구비되는 전반사 미러(300a)는 레이저에 의해 플랫(flat) 타입의 글라스 광학 소자 내부에 형성될 수 있다.
프리폼(freeform) 글라스 광학 소자는 입사되는 표면으로부터 멀어질수록 두께가 얇아지도록 구성되어, 제어부(200)에서 생성된 이미지 광을 곡면을 가지는 측면으로 입사받아, 내부에서 전반사하여 사용자 쪽으로 출사할 수 있다.
도 8에 도시된 바와 같이, 본 발명의 다른 실시예에 따른 디스플레이부(300-2)에는 웨이브 가이드(waveguide, 또는 도파관) 방식의 광학 소자 또는 광 가이드 광학 소자(light guide optical element, LOE)가 이용될 수 있다.
이와 같은 웨이브 가이드(waveguide, 또는 도파관) 또는 광 가이드(light guide) 방식의 광학 소자는 일 실시예로, 도 8의 (a)에 도시된 바와 같은 부분 반사 미러(Segmented Beam splitter) 방식의 글라스 광학 소자, 도 8의 (b)에 도시된 바와 같은 톱니 프리즘 방식의 글라스 광학 소자, 도 8의 (c)에 도시된 바와 같은 회절 광학 소자(Diffractive optical element, DOE)를 갖는 글라스 광학 소자, 도 8의 (d)에 도시된 바와 같은 홀로그램 광학 소자(hologram optical element, HOE)를 갖는 글라스 광학 소자, 도 8의 (e)에 도시된 바와 같은 수동 격자(Passive grating)를 갖는 글라스 광학 소자, 도 8의 (f)에 도시된 바와 같은 능동 격자(Active grating)를 갖는 글라스 광학 소자가 있을 수 있다.
도 8의 (a)에 도시된 바와 같은 부분 반사 미러(Segmented Beam splitter) 방식의 글라스 광학 소자는 도시된 바와 같이, 글라스 광학 소자 내부에서 광 이미지가 입사되는 쪽에 전반사 미러(301a)와 광 이미지가 출사되는 쪽에 부분 반사 미러(Segmented Beam splitter, 301b)가 구비될 수 있다.
이에 따라, 제어부(200)에서 생성된 광 이미지는 글라스 광학 소자 내부의 전반사 미러(301a)에 전반사되고, 전반사된 광 이미지는 글라스의 길이 방향을 따라 도광하면서, 부분 반사 미러(301b)에 의해 부분적으로 분리 및 출사되어, 사용자의 시각에 인식될 수 있다.
도 8의 (b)에 도시된 바와 같은 톱니 프리즘 방식의 글라스 광학 소자는 글라스의 측면에 사선 방향으로 제어부(200)의 이미지 광이 입사되어 글라스 내부로 전반사되면서 광 이미지가 출사되는 쪽에 구비된 톱니 형태의 요철(302)에 의해 글라스 외부로 출사되어 사용자의 시각에 인식될 수 있다.
도 8의 (c)에 도시된 바와 같은 회절 광학 소자(Diffractive optical element, DOE)를 갖는 글라스 광학 소자는 광 이미지가 입사되는 쪽의 표면에 제1 회절부(303a)와 광 이미지가 출사되는 쪽의 표면에 제2 회절부(303b)가 구비될 수 있다. 이와 같은 제1, 2 회절부(303a, 303b)는 글라스의 표면에 특정 패턴이 패터닝되거나 별도의 회절 필름이 부착되는 형태로 구비될 수 있다.
이에 따라, 제어부(200)에서 생성된 광 이미지는 제1 회절부(303a)를 통하여 입사되면서 회절하고, 전반사되면서 글라스의 길이 방향을 따라 도광하고, 제2 회절부(303b)를 통하여 출사되어, 사용자의 시각에 인식될 수 있다.
도 8의 (d)에 도시된 바와 같은 홀로그램 광학 소자(hologram optical element, HOE)를 갖는 글라스 광학 소자는 광 이미지가 출사되는 쪽의 글라스 내부에 아웃-커플러(out-coupler, 304)가 구비될 수 있다. 이에 따라, 글라스의 측면을 통해 사선 방향으로 제어부(200)로부터 광 이미지가 입사되어 전반사되면서 글라스의 길이 방향을 따라 도광하고, 아웃 커플러(304)에 의해 출사되어, 사용자의 시각에 인식될 수 있다. 이와 같은 홀로그램 광학 소자는 구조가 조금씩 변경되어 수동 격자를 갖는 구조와 능동 격자를 갖는 구조로 보다 세분될 수 있다.
도 8의 (e)에 도시된 바와 같은 수동 격자(Passive grating)를 갖는 글라스 광학 소자는 광 이미지가 입사되는 쪽 글라스 표면의 반대쪽 표면에 인-커플러(in-coupler, 305a), 광 이미지가 출사되는 쪽 글라스 표면의 반대쪽 표면에 아웃-커플러(out-coupler, 305b)가 구비될 수 있다. 여기서, 인-커플러(305a)와 아웃-커플러(305b)는 수동 격자를 갖는 필름 형태로 구비될 수 있다.
이에 따라, 글라스의 입사되는 쪽 글라스 표면으로 입사되는 광 이미지는 반대쪽 표면에 구비된 인-커플러(305a)에 의해 전반사되면서 글라스의 길이 방향을 따라 도광하고, 아웃-커플러(305b)에 의해 글라스의 반대쪽 표면을 통하여 출사되어, 사용자의 시각에 인식될 수 있다.
도 8의 (f)에 도시된 바와 같은 능동 격자(Active grating)를 갖는 글라스 광학 소자는 광 이미지가 입사되는 쪽 글라스 내부에 능동 격자로 형성되는 인-커플러(in-coupler, 306a), 광 이미지가 출사되는 쪽 글라스 내부에 능동 격자로 형성되는 아웃-커플러(out-coupler, 306b)가 구비될 수 있다.
이에 따라, 글라스로 입사되는 광 이미지는 인-커플러(306a)에 의해 전반사되면서 글라스의 길이 방향을 따라 도광하고, 아웃-커플러(306b)에 의해 글라스의 밖으로 출사되어, 사용자의 시각에 인식될 수 있다.
본 발명의 또 다른 실시예에 따른 디스플레이부(300-3)에는 핀 미러(Pin Mirror) 방식의 광학 소자가 이용될 수 있다.
핀 홀 효과(pin-hole effect)는 물체를 바라보는 구멍이 핀으로 뚫은 구멍 같다고 하여 핀 홀이라고 불리고 있으며, 작은 구멍으로 빛을 투과시켜 더 뚜렷하게 보는 효과를 말한다. 이는 빛의 굴절을 이용한 빛의 성질에 기인한 것으로 핀 홀을 통과한 빛은 심도(Depth of Field, DOF)가 깊어져 망막에 맺히는 상이 분명해질 수 있다.
이하, 도 9와 도 10을 참고하여 핀 미러 방식의 광학 소자를 이용하는 실시예에 대해 설명하기로 한다.
도 9의 (a)를 참조하면, 핀 홀 미러(310a)는 디스플레이부(300-3) 내에 조사되는 광 경로 상에 구비되고, 조사되는 광을 사용자의 눈을 향해 반사시킬 수 있다. 보다 상세하게는 핀 홀 미러(310a)는 디스플레이부(300-3)의 전면(외부면)과 배면(내부면)의 중간에 개재될 수 있으며. 이의 제작 방법에 대해서는 뒤에서 다시 설명하기로 한다.
핀 홀 미러(310a)는 동공 보다 작은 면적으로 형성되어 깊은 심도를 제공할 수 있다. 따라서 사용자는 디스플레이부(300-3)를 통해 현실세계를 바라보는 초점 거리가 가변 되더라도 제어부(200)에서 제공하는 증강현실 영상을 현실세계에 선명하게 겹쳐 볼 수 있게 된다.
그리고 디스플레이부(300-3)는 조사되는 광을 내부 전반사를 통해 핀 홀 미러(310a)로 유도하는 경로를 제공할 수 있다.
도 9의 (b)를 참조하면, 디스플레이부(300-3)에서 광이 전반사되는 면(300c)에 핀 홀 미러(310b)가 마련될 수 있다. 여기서 핀 홀 미러(310b)는 사용자의 눈에 맞게 외부 광의 경로를 변경하는 프리즘 특성을 구비할 수 있다. 예를 들어, 핀 홀 미러(310b)는 필름형으로 제작되어 디스플레이부(300-3)에 부착될 수 있고, 이 경우 제작이 용이한 이점이 있다.
디스플레이부(300-3)는 제어부(200)에서 조사되는 광을 내부 전반사를 통해 가이드하고, 전반사되어 입사되는 광은 외부 광이 입사되는 면(300c)에 구비된 핀 홀 미러(310b)에 반사되어 디스플레이부(300-3)를 통과하여 사용자의 눈에 도달할 수 있다.
도 9의 (c)를 참조하면, 제어부(200)에서 조사된 광이 디스플레이부(300-3)의 내부 전반사 없이 직접 핀 홀 미러(310c)에 반사되어 사용자의 눈에 도달할 수 있다. 디스플레이부(300-3)에서 외부 광이 통과하는 면의 형상과 상관없이 증강 현실을 제공할 수 있다는 점에서 제작이 용이할 수 있다.
도 9의 (d)를 참조하면, 제어부(200)에서 조사된 광은 디스플레이부(300-3)에서 외부 광이 출사되는 면(300d)에 구비되는 핀 홀 미러(310d)에 반사되어 사용자의 눈에 도달할 수 있다. 제어부(200)는 디스플레이부(300-3)의 표면에서 배면 방향으로 이격된 위치에서 광을 조사할 수 있도록 마련되고, 디스플레이부(300-3)에서 외부 광이 출사되는 면(300d)을 향해 광을 조사할 수 있다. 본 실시예는 디스플레이부(300-3)의 두께가 제어부(200)에서 조사하는 광을 수용하기에 충분하지 않은 경우 용이하게 적용될 수 있다. 또한, 디스플레이부(300-3)의 면 형상에 무관하며, 핀 홀 미러(310d)가 필름 형상으로 제작될 수 있다는 점에서 제작 용이성에도 유리할 수 있다.
한편, 핀 홀 미러(310)는 복수 개가 어레이 패턴으로 구비될 수 있다.
도 10은 본 발명의 일 실시예에 따라 핀 홀 미러의 형상 및 어레이 패턴 구조를 설명하기 위한 도면이다.
도면을 참조하면, 핀 홀 미러(310)는 사각형 또는 직사각형을 포함하는 다각형 구조로 제작될 수 있다. 여기서 핀 홀 미러(310)의 장축 길이(대각 길이)는 초점 거리 및 디스플레이부(300-3)에서 조사하는 광 파장의 곱의 양의 제곱근을 가질 수 있다.
복수의 핀 홀 미러(310)는 서로 이격되어 나란하게 배치되어 어레이 패턴을 형성할 수 있다. 어레이 패턴은 라인 패턴 또는 격자 패턴을 형성할 수 있다.
도10의 (a)와 (b)는 Flat Pin Mirror 방식을, 도 10의 (c)와 (d)은 freeform Pin Mirror 방식을 도시한다.
디스플레이부(300-3)의 내부에 핀 홀 미러(310)가 구비되는 경우, 디스플레이부(300-3)는 제1 글라스(300e)와 제2 글라스(300f)가 동공 방향으로 경사지게 배치되는 경사면(300g)을 사이로 결합하여 형성되며, 경사면(300g)에는 복수의 핀 홀 미러(310e)가 어레이 패턴을 형성하며 배치된다.
도 10의 (a)와 (b)를 참조하면, 복수의 핀 홀 미러(310e)는 경사면(300g)에 나란하게 일 방향으로 나란하게 구비되어 사용자가 동공을 움직임에도, 디스플레이부(300-3)를 투과하여 보이는 현실세계에 제어부(200)에서 제공하는 증강현실을 지속적으로 구현할 수 있게 된다.
그리고 도 10의 (c)와 (d)를 참조하면, 복수의 핀 홀 미러(310f)는 곡면으로 마련되는 경사면(300g)에 나란하게 방사형 어레이를 형성할 수 있다.
복수의 핀 홀 미러(300f)가 방사형 어레이를 따라 배치되고, 도면상 가장자리의 핀 홀 미러(310f)가 경사면(300g)에서 가장 높은 위치에, 가운데의 핀 홀 미러(310f)가 가장 낮은 위치에 배치됨으로써 제어부(200)에서 조사되는 빔 경로를 일치시킬 수 있다.
이와 같이, 복수의 핀 홀 미러(310f)를 방사형 어레이를 따라 배치함으로써 광의 경로 차로 인해 제어부(200)에서 제공하는 증강현실이 이중상을 형성하는 문제를 해결할 수 있다.
또는, 디스플레이부(300-3)의 배면에 렌즈를 부착하여 나란하게 일 열로 배치되는 복수의 핀 홀 미러(310e)에서 반사되는 광의 경로차를 상쇄시킬 수 있다.
본 발명의 또 다른 실시예에 따른 디스플레이부(300-4)에 적용 가능한 표면 반사 방식의 광학 소자는 도11의 (a)에 도시된 바와 같은 freeform combiner 방식, 도11의 (b)에 도시된 바와 같은 Flat HOE 방식, 도11의 (c)에 도시된 바와 같은 freeform HOE 방식이 사용될 수 있다.
도11의 (a)에 도시된 바와 같은 freeform combiner 방식의 표면 반사 방식의 광학 소자는 결합기로서의 역할을 수행하기 위해 광 이미지의 입사각이 서로 다른 복수의 플랫한 면이 하나의 글라스(300)로 형성되어, 전체적으로 곡면을 가지도록 형성된 freeform combiner글라스(300)가 이용될 수 있다. 이와 같은 freeform combiner글라스(300)는 광 이미지 입사각이 영역별로 다르게 입사되어 사용자에게 출사될 수 있다.
도11의 (b)에 도시된 바와 같은 Flat HOE 방식의 표면 반사 방식의 광학 소자는 플랫(flat)한 글라스의 표면에 홀로그램 광학 소자(HOE, 311)가 코팅되거나 패터닝되어 구비될 수 있으며, 제어부(200)에서 입사된 광 이미지가 홀로그램 광학 소자(311)를 통과하여 글라스의 표면에서 반사되어 다시 홀로그램 광학 소자(311)를 통과하여 사용자 쪽으로 출사될 수 있다.
도11의 (c)에 도시된 바와 같은 freeform HOE 방식의 표면 반사 방식의 광학 소자는 freeform 형태의 글라스의 표면에 홀로그램 광학 소자(HOE, 313)가 코팅되거나 패터닝되어 구비될 수 있으며, 동작 원리는 도 11의 (b)에서 설명한 바와 동일할 수 있다.
그 밖에, 도 12에 도시된 바와 같은 마이크로 엘이디(Micro LED)를 이용하는 디스플레이부(300-5)와, 도 13에 도시된 바와 같은 컨택트 렌즈(Contact lens)를 이용하는 디스플레이부(300-6)도 가능하다.
도 12를 참조하면, 디스플레이부(300-5)의 광학 소자는 예를 들어, LCoS(liquid crystal on silicon) 소자, LCD(liquid crystal display) 소자, OLED(organic light emitting diode) 디스플레이 소자, DMD(digital micromirror device)를 포함할 수 있고, 또한, Micro LED, QD(quantum dot) LED 등의 차세대 디스플레이 소자를 포함할 수 있다.
제어부(200)에서 증강현실 화상에 대응하도록 생성된 이미지 데이터는 전도성 입력라인(316)을 따라 디스플레이부(300-5)로 전달되고, 디스플레이부(300-5)는 복수의 광학 소자(314)(예를 들어, 마이크로LED)들을 통해 영상신호를 광으로 변환하여 사용자의 눈에 조사한다.
복수의 광학 소자(314)들은 격자 구조(예를 들어, 100*100)로 배치되어 디스플레이 영역(314a)을 형성할 수 있다. 사용자는 디스플레이부(300-5) 내 디스플레이 영역(314a)을 통해 증강현실을 바라볼 수 있다. 그리고 복수의 광학 소자(314)들은 투명한 기판 상에 배치될 수 있다.
제어부(200)에서 생성된 이미지 신호는 전도성 입력라인(316)을 통해 디스플레이부(300-5)의 일 측에 마련되는 영상분할회로(315)로 전달되고, 영상분할회로(315)에서 복수의 분기로 분할되어 각 분기별로 배치되는 광학 소자(314)에 전달된다. 이 때, 영상분할회로(315)는 사용자의 시각 범위 밖에 위치하여 시선 간섭을 최소화할 수 있다.
도 13을 참조하면, 디스플레이부(300-5)는 컨택트 렌즈(Contact Lens)로 마련될 수 있다. 증강현실이 표시될 수 있는 컨택트 렌즈(300-5)는 스마트 컨택트 렌즈(Smart Contact lens)라고도 불린다. 스마트 컨택트 렌즈(300-5)는 복수의 광학 소자(317)가 중앙부에 격자구조로 배치될 수 있다.
스마트 컨택트 렌즈(300-5)는 광학 소자(317) 외에도 태양광 전지(318a), 배터리(318b), 제어부(200), 안테나(318c) 및 센서(318d) 등을 포함할 수 있다. 예를 들어, 센서(318d)는 눈물에서 혈당 수준을 확인할 수 있고, 제어부(200)는 센서(318d)의 신호를 처리하여 광학 소자(317)를 토해 혈당 정도를 증강현실로 표시하여 사용자가 실시간 확인할 수 있다.
위에서 살펴본 바와 같이, 본 발명의 일 실시예에 따른 디스플레이부(300)에는 프리즘 방식의 광학 소자, 웨이브 가이드 방식의 광학 소자, 광 가이드 광학 소자(LOE), 핀 미러 방식의 광학 소자 또는 표면 반사 방식의 광학 소자 중에서 선택되어 이용될 수 있다. 그 밖에도, 본 발명의 일 실시예에 따른 디스플레이부(300)에 적용 가능한 광학 소자는 망막 스캔 방식 등을 포함한다.
도 14는 본 발명의 실시예에 따른 전자 디바이스(500)를 도시하는 사시도이다.
*도 14를 참조하면, 본 발명의 실시예에 따른 전자 디바이스(500)는 프레임(510)과, 프레임(510)의 전면에 장착되고 증강현실 이미지를 표시하는 디스플레이부(520)와, 프레임(510)에 장착되고 현실세계를 촬영하는 외부 카메라(540)와 마커 이미지를 전방으로 투영시키는 마커 표시부(550)를 포함한다.
프레임(510)은 사용자의 두부 전방에 배치되는 전방 프레임(511)과, 전방 프레임(511)의 양 측부에서 후방으로 연장되며, 사용자의 귀에 걸쳐 전자 디바이스(500)를 지지하는 한 쌍의 측방 프레임(512)을 포함한다.
디스플레이부(520)는 전방 프레임(511)에 지지되고, 사용자의 좌안과 우안에 대응되는 글라스(521)와, 제어부(530)로부터 이미지 신호를 전달받아 글라스(521)에 표시하는 광학유닛(522)을 포함한다.
글라스(521)는 좌안과 우안에 대응하는 부분이 일체로 형성되는 고글 타입으로 마련되거나, 각각 분리되는 안경 타입으로 마련될 수도 있다. 좌안 글라스와 우안 글라스가 분리되어 마련되는 경우에는 각각의 글라스(521)는 브릿지로 연결될 수 있다. 그리고 글라스(521)는 일 측이 전방 프레임(511)의 전방 또는 하방에 지지될 수 있고, 전방 프레임(511)이 글라스(521)를 둘러싸도록 마련되어 지지될 수 있다.
광학유닛(522)은 일 측이 제어부(530)와 연결되고, 타 측이 글라스(521)에 마련될 수 있다. 제어부(530)에서 전달되는 이미지 신호는 광학유닛(522)에서 광 신호로 변환되어 사용자의 안구를 향해 조사될 수 있다. 사용자는 투명한 글라스(521)를 통해 현실세계를 바라보는 동시에 안구 전방에 위치하는 광학유닛(522)에서 조사되는 증강현실 이미지를 볼 수 있다. 따라서 사용자는 증강현실 이미지를 현실세계에 겹쳐서 바라봄으로써 현실세계의 일부인 것처럼 인식할 수 있다.
외부 카메라(540)는 현실세계를 촬영하여 이미지로 변경할 수 있다. 그리고 제어부(530)는 외부 카메라(540)로부터 전달되는 이미지를 분석하여 현실세계의 대상체를 인식할 수 있다. 예를 들어, 이미지로부터 사람, 자동차, 건물, 도로, TV 또는 모바일 디바이스 등을 인식할 수 있다. 그리고 제어부(530)는 현실세계 대상체의 영역을 설정할 수 있다. 예를 들어, 건물 앞에 서 있는 자동차와, 자동차를 일부 가리며 서 있는 가로등이 있는 경우, 제어부(530)는 건물과 가로등을 제외한 자동차의 영역만을 추출하여 객체 영역으로 설정할 수 있다. 나아가 제어부(530)는 자동차에 대한 사전 데이터를 불러내어 가로등에 가려진 자동차의 부분까지도 예상하여 객체 영역으로 포함시킬 수 있다.
또한, 외부 카메라(540)는 제어부(530)가 현실세계를 입체로 인식할 수 있도록 다양하게 마련될 수 있다. 예를 들어, 외부 카메라(540)는 이미지 카메라 외에도 심도(depth of field) 카메라와 명암 카메라 등을 포함할 수 있다. 제어부(530)는 이미지 정보, 깊이 정보와 명암 정보를 통해 현실세계를 입체 데이터로 재구성할 수 있다. 또는 외부 카메라(540)는 좌/우에 한 쌍으로 마련되어 보다 정확한 입체 영상을 제작할 수도 있다.
제어부(530)는 외부 카메라(540)를 통해 인식된 현실세계의 대상체에 대응하는 증강현실 이미지를 생성하여 디스플레이부(520)에 전달할 수 있다. 사용자에게 표시되는 증강현실 이미지는 현실세계 대상체의 위치, 크기 및 깊이에 대응하도록 제공될 수 있다. 따라서 사용자는 렌즈를 통해 보이는 현실세계와 이에 대응하는 증강현실 이미지를 융합하여 실제 같은 증강현실을 볼 수 있다.
마커 표시부(550)는 현실세계에 마커 이미지를 표시하기 위한 것으로, 예를 들어 마커 이미지를 현실세계에 투영(projection)시켜 표시하는 프로젝터(projector)일 수 있다. 프로젝터는 CRT, LCD, DLP 또는 레이저 프로젝터일 수 있다. 프로젝터는 제어부(530)에서 전달하는 마커 이미지를 투영시키고, 사용자는 마커를 표시하고자 하는 현실세계 객체에 마커를 표시할 수 있다.
또는, 마커 표시부(550)는 전자 디바이스(500)와 별도로 마련되는 마커 표시유닛일 수 있다. 마커 표시부(550)는 표시창을 구비하고, 제어부(530)에서 전달하는 마커를 표시창에 나타낼 수 있다. 사용자는 마커를 표시하고자 하는 현실세계 객체에 별도의 마커 표시유닛을 가져다 놓고 마커 이미지를 표시할 수 있다.
또는, 마커 표시부(550)는 모바일 디바이스(예를 들어, 스마트폰)일 수 있다. 그리고 모바일 디바이스의 제어유닛은 전자 디바이스(500)의 제어부(530)와 연동될 수 있다. 마커 표시부(550)는 제어유닛에서 전달하는 마커 이미지를 화면에 나타낼 수 있다. 사용자는 마커를 표시하고자 하는 현실세계 객체에 모바일 디바이스를 가져다 놓고 마커 이미지를 표시할 수 있다.
또는, 마커 표시부(550)는 마커 이미지를 홀로그램으로 표시할 수 있다. 홀로그램(hologram)이란, 두 개의 레이저광이 서로 만나 일으키는 빛의 간섭 현상을 이용하여 입체 정보를 기록하고 재생하는 기술인 홀로그래피(holography) 기술로 촬영된 것을 의미한다. 마커를 이미지로 표시하는 것과 달리, 홀로그램으로 표시하는 경우 사용자가 마커를 입체적으로 인식할 수 있다.
또한, 마커 표시부(550)는 증강현실 객체를 공유하고자 할 때 식별표시로써 마커를 제공하는 데 사용될 수 있다. 제1 사용자가 증강현실 전자 디바이스(500)를 사용하여 현실세계와 함께 증강현실 객체를 보고 있고, 이 중 일부 증강현실 객체를 다른 사용자에게 공유하고 싶은 경우 마커를 활용할 수 있다.
예를 들어, 제1 사용자는 공유하고자 하는 증강현실 객체의 범위를 설정하고, 증강현실 객체를 식별할 수 있는 마커를 생성한다. 그리고 생성된 마커를 증강현실 객체 근방의 현실세계 객체에 표시한다. 이 때, 마커를 표시하는 방법은 앞에서 설명한 바와 같이 프로젝터를 이용하거나 모바일 디바이스 등을 이용할 수 있다. 예를 들어, 테이블 위에 모델하우스 증강현실 객체가 생성되어 있는 경우, 모델하우스 이미지에 대응하는 마커를 생성하고, 마커 표시부(550)를 통해 테이블 위에 마커를 표시할 수 있다.
제어부(530)는 마커의 식별정보를 기억하고, 호스트를 통해 또는 직접 다른 전자 디바이스(500)에 전달할 수 있다. 마커의 식별정보에는 증강현실 객체에 대한 마커의 상대적인 위치가 포함될 수 있다. 사용자는 증강현실 객체와 겹치도록 마커를 표시할 수도 있고, 증강현실 객체의 일 측에 마커를 표시하여 두 이미지가 서로 겹치지 않게 할 수도 있다. 또는, 사용자는 증강현실 객체가 현실세계 객체의 위에 표시되는 경우, 증강현실 객체의 아래에 마커를 표시할 수도 있다. 따라서 마커와 증강현실 객체와의 상대적인 위치 정보가 공유되어야 다른 사람도 현실세계의 동일한 위치에서 증강현실 객체를 볼 수 있게 된다.
또한, 제어부(530)는 외부 카메라(540)의 이미지로부터 마커를 식별할 수 있는 마커 식별부를 구비할 수 있다. 그리고 제어부(530)는 식별된 마커 이미지를 판단하여 마커의 식별정보를 획득할 수 있다.
한편, 본 발명의 실시예에 따른 전자 디바이스(500)는 사용자의 눈동자를 감지하고 추적하는 아이 센서부(561)를 더 포함할 수 있다. 아이 센서부(561)는 눈동자를 추적하기 위한 촬영 장치와 조명 장치를 포함할 수 있다. 제어부(530)는 아이 센서부(561)의 정보를 통해 사용자가 바라보고 있는 증강현실 객체뿐만 아니라, 증강현실 객체가 표시되고 있는 현실세계 객체의 위치를 판단할 수 있다. 예를 들어, 눈동자의 위치를 통해 방향을 판단하고, 수정체의 두께를 통해 원근을 판단할 수 있다.
제어부(530)는 아이 센서부(561)의 정보를 통해 사용자가 마커로 식별하고자 하는 증강현실 데이터를 구분할 수 있다. 그리고 제어부(530)는 아이 센서부(561)의 정보를 통해 마커의 위치를 조정할 수 있다. 예를 들어, 아이 센서부(561)의 위치 정보와 원근 정보를 통해 사용자가 바라보고 있는 위치를 추정하고, 추정되는 위치에 프로젝터로 마련되는 마커 표시부(550)를 통해 마커를 투영시킬 수 있다.
또한, 본 발명의 실시예에 따른 전자 디바이스(500)는 사용자의 머리 위치를 추척할 수 있는 센서부(562)를 더 포함할 수 있다. 예를 들어, 센서부(562)는 9축 센서(9-axis secsor)일 수 있으며, 자이로센서(Gyroscope), 가속도계(Accelerometer) 및 자력계(Magnetometer)를 포함할 수 있다. 여기서 9축은 가속도3축, 자이로 2축, 지자기(지구자기장) 3축 그리고 온도1축으로 정의될 수 있다.
또한, 마커 표시부(550)는 일 축 방향 이상으로 회전 가능하도록 마련될 수 있다. 예를 들어, 마커 표시부(550)는 수평 방향과 수직 방향으로 회전 가능하도록 마련될 수 있다. 마커 표시부(550)가 수평 방향으로 회전 가능한 허용각도와 수직 방향으로 회전 가능한 허용각도에 따라 마커를 표시할 수 있는 범위가 정해질 수 있다.
일 실시예로, 마커 표시부(550)는 사용자의 눈동자의 움직임에 따라 이동할 수 있다. 즉, 마커 표시부(550)가 마커를 투영하고 있는 상태에서 사용자가 안구를 오른쪽으로 움직이면, 아이 센서부(561)가 이를 인식하여 제어부(530)에 전달하고, 제어부(530)는 사용자가 움직인 방향으로 이에 대응하는 각도만큼 마커 표시부(550)를 회전시킬 수 있다.
그리고 마커 표시부(550)는 사용자가 바라보는 원근에 따라 마커의 크기 및 초점거리를 조절할 수 있다. 즉, 마커 표시부(550)가 마커를 투영하고 있는 상태에서 사용자가 먼 곳을 바라보면, 아이 센서부(561)가 이를 인식하여 제어부(530)에 전달하고, 제어부(530)는 마커의 초점거리를 다르게 조절하고, 경우에 따라서 마커의 크기를 다르게 할 수 있다.
다른 실시예로, 마커 표시부(550)는 마커가 투영되는 위치를 고정시킬 수 있다. 만일, 마커 표시부(550)가 마커의 위치를 고정시키지 못하고 사용자의 움직임에 따라 마커가 투영되는 위치가 달라진다면, 제1 사용자가 증강현실 객체에 대응되는 마커를 투영한 후에 제2 사용자가 마커를 인식하기 전까지 움직이지 못하는 문제가 발생한다. 그러나 마커 표시부(550)가 사용자가 움직이는 방향의 반대 방향으로 회전하여 마커를 표시하는 경우 이러한 문제를 해결할 수 있다.
예를 들어, 마커 표시부(550)가 마커를 투영하고 있는 상태에서 사용자가 고개를 오른쪽으로 움직이면, 센서부(562)가 사용자의 움직임을 인식하여 제어부(530)에 전달하고, 제어부(530)는 사용자가 움직인 방향과 반대 방향으로 이에 대응하는 각도만큼 마커 표시부(550)를 회전시킬 수 있다.
한편, 본 발명의 실시예에 따른 전자 디바이스(500)는 통신부(570)를 포함할 수 있다. 통신부(570)를 통해 증강현실 객체 정보와 마커 정보 등을 호스트 또는 외부 전자 디바이스와 상호 전달할 수 있다. 통신부(570)는 다양한 데이터 전송 규약을 사용할 수 있으며, 예를 들어 와이파이(Wi-Fi)를 사용하여 데이터를 주고받을 수 있다.
그 밖에도, 본 발명의 실시예에 따른 전자 디바이스(500)는 명령을 내릴 수 있는 조작부와 대화를 주고받거나 음성 명령을 내리기 위한 마이크(583)와 음향 정보를 듣기 위한 스피커(584) 등을 포함할 수 있다. 조작부는 물리적인 신호를 전달하는 버튼부(581)와 전자적인 신호를 전달하는 터치부(582)를 포함할 수 있다.
이하에서는 도 15 내지 도 21을 참조하여 증강현실 정보를 공유하는 방법에 대하여 설명하기로 한다.
도 15 내지 도 18은 프로젝터로 마련되는 마커 표시부(550)를 활용하여 증강현실 정보를 공유하는 방법을 도시한다.
도 15는 제1 사용자(A)가 증강현실 이미지를 바라보는 모습을 나타내는 도면이고, 도 16은 제1 사용자(A)가 공유대상 증강현실 객체(O)에 마커(M)를 투영하여 설정하는 모습을 나타내는 도면이다. 그리고 도 17은 제2 사용자(B)가 마커(M)를 바라보는 모습을 나타내는 도면이고, 도 18은 제2 사용자(B)가 마커(M)에 설정된 증강현실 객체(O)를 바라보는 모습을 나타내는 도면이다.
도 15를 참조하면, 제1 사용자(A)는 제1 전자 디바이스(500-1)를 착용한 상태에서 테이블(R) 상에 모델하우스가 증강현실 객체(O)로 표시되고 있는 것을 바라본다. 이 때, 제1 사용자(A)는 바라보고 있는 모델하우스 증강현실 객체(O)를 세션에 참여하고 있는 다른 사용자에게 공유하고자 한다.
한편, 도면과 달리 공유 대상인 증강현실 객체(O)는 증강현실 영상일 수도 있다. 즉, 일정 시간 안에서 연속된 증강현실 이미지들의 흐름을 공유할 수도 있다.
도 16을 참조하면, 제1 사용자(A)는 모델하우스(O)를 공유 대상으로 설정하고, 제1 전자 디바이스(500-1)의 제어부는 모델하우스(O)의 식별 표지가 되는 마커(M)를 생성한다. 이 때, 마커(M)는 모델하우스(O)에 할당된 고유 마커(M)일 수도 있고, 임의적으로 만들어진 마커(M)일 수도 있다. 제1 사용자(A)는 조작부를 조작하여 마커 표시부(550)를 동작시키고, 마커 표시부(550)는 사용자가 바라보고 있는 현실세계 객체인 테이블(R) 상에 마커(M)를 투영시킨다.
그리고 제1 전자 디바이스(500-1)의 통신부는 모델하우스 정보와 마커(M)의 식별정보를 호스트에 전달한다. 이 때, 마커 식별정보는 마커(M)의 형상 정보와 마커(M)에 대응하는 증강현실 객체 정보와 마커(M)와 증강현실 객체(O) 사이의 상대적인 위치 정보를 포함한다.
도 17을 참조하면, 제1 사용자(A)와 동일 세션에 참여하고 있는 제2 사용자(B)는 제2 전자 디바이스(500-2)를 착용한 상태에서 테이블(R) 상에 표시되고 있는 마커(M)를 바라본다. 제2 전자 디바이스(500-2)의 외부 카메라(540)가 마커(M)를 인식하면, 통신부가 마커 식별정보를 호스트에 전달한다. 보다 상세하게는, 제2 전자 디바이스(500-2)의 제어부는 외부 카메라(540)에서 인식하는 현실세계 이미지에서 마커(M) 이미지만을 추출하고, 이를 식별하여 호스트에 전달할 수 있다. 그리고 호스트는 제2 전자 디바이스(500-2)에서 제공한 마커 식별정보에 대응하는 증강현실 객체 정보를 추출하고, 추출된 증강현실 객체 정보를 제2 전자 디바이스(500-2)의 통신부로 전달한다.
도 18을 참조하면, 제2 전자 디바이스(500-2)의 제어부는 호스트로부터 전달받은 증강현실 객체(O)가 제2 사용자(B)에게 보여 질 수 있도록 디스플레이부에 이미지 신호를 전달한다. 이 때, 모델하우스(O)는 마커(M)에 대응되는 위치에 표시될 수 있다.
따라서 제1 사용자(A)와 제2 사용자(B)는 현실세계 객체(R)의 동일한 위치에서 동일한 증강현실 객체(O)를 볼 수 있다.
도 19 내지 도 21은 모바일 디바이스(D)를 마커 표시부로 활용하여 증강현실 정보를 공유하는 방법을 도시한다.
도 19는 제1 사용자(A)가 공유대상 증강현실 객체(O)에 모바일 디바이스(D)를 이용하여 마커(M)를 표시하여 설정하는 모습을 나타내는 도면이다. 그리고 도 20은 제2 사용자(B)가 마커(M)를 바라보는 모습을 나타내는 도면이고, 도 21은 제2 사용자(B)가 마커(M)에 설정된 증강현실 객체(O)를 바라보는 모습을 나타내는 도면이다.
도 19를 참조하면, 제1 사용자(A)는 모델하우스(O)를 공유 대상으로 설정하고, 제1 전자 디바이스(500-1)의 제어부는 모델하우스(O)의 식별 표지가 되는 마커(M)를 생성한다. 이 때, 마커(M)는 모델하우스(O)에 할당된 고유 마커(M)일 수도 있고, 임의적으로 만들어진 마커(M)일 수도 있다.
제1 전자 디바이스(500-1)의 통신부는 마커 식별정보를 모바일 디바이스(D)에 전달한다. 그리고 제1 사용자(A)는 모바일 디바이스(D)의 표시부에 마커(M)를 표시한 상태로 공유 대상 증강현실 객체(O)가 표시되는 현실세계 객체인 테이블(R) 상에 위치시킨다.
또한, 제1 전자 디바이스(500-1)의 통신부는 모델하우스 정보와 마커(M)의 식별정보를 호스트에 전달한다. 이 때, 마커 식별정보는 마커(M)의 형상 정보와 마커(M)에 대응하는 증강현실 객체 정보와 마커(M)와 증강현실 객체(O) 사이의 상대적인 위치 정보를 포함한다.
도 20을 참조하면, 제1 사용자(A)와 동일 세션에 참여하고 있는 제2 사용자(B)는 제2 전자 디바이스(500-2)를 착용한 상태에서 테이블(R) 상에 표시되고 있는 마커(M)를 바라본다. 제2 전자 디바이스(500-2)의 외부 카메라(540)가 마커(M)를 인식하면, 통신부가 마커 식별정보를 호스트에 전달한다. 호스트는 제2 전자 디바이스(500-2)에서 제공한 마커 식별정보에 대응하는 증강현실 객체 정보를 추출하고, 추출된 증강현실 객체 정보를 제2 전자 디바이스(500-2)의 통신부로 전달한다.
도 21을 참조하면, 제2 전자 디바이스(500-2)의 제어부는 호스트로부터 전달받은 증강현실 객체(O)가 제2 사용자(B)에게 보여 질 수 있도록 디스플레이부에 이미지 신호를 전달한다. 이 때, 모델하우스(O)는 마커(M)에 대응되는 위치에 표시될 수 있다.
따라서 제1 사용자(A)와 제2 사용자(B)는 현실세계 객체(R)의 동일한 위치에서 동일한 증강현실 객체(O)를 볼 수 있다.
도 22는 마커(M)를 투영하여 증강현실 객체(O)를 공유하는 본 발명의 제1 실시예를 설명하는 개념도이다.
도 22를 참조하면, 증강현실 객체(O)를 공유하고자 하는 제1 전자 디바이스(500-1)와 증강현실 객체(O)를 공유받고자 하는 제2 전자 디바이스(500-2)는 각각 통신부를 통해 호스트(C)에 연결되고, 호스트(C)와 상호 증강현실 객체 정보 및 마커 식별정보를 주고받을 수 있다. 증강현실 객체(O)는 전자 디바이스(500)에 저장되어 있을 수도 있고, 전자 디바이스(500)의 통신부가 호스트(C)로부터 전달받을 수도 있다.
여기서 호스트(C)는 공유서버일 수 있으며, 예를 들어, 클라우드 스토리지(cloud storage)일 수 있다. 클라우드 스토리지는 인터넷 상의 어딘가에 위치하는 저장 공간에 내 정보를 보관해 두고, 이것을 내가 필요할 때 내가 가지고 있는 각종 단말기를 통해서 불러올 수 있는 기술이다. 그리고 클라우드 스토리지는 데이터를 공유하고자 하는 때에도 사용될 수 있다. 공유자가 데이터의 접근 주소를 공유하고자 하는 상대방에게 전달하면, 상대방이 그 주소를 통해 동일한 데이터에 접근할 수 있게 된다.
여기서 공유 대상인 증강현실 객체(O)는 증강현실 이미지뿐만 아니라 증강현실 영상을 포함한다.
제1 전자 디바이스(500-1)는 디스플레이부(520)에 증강현실 객체(O)를 표시한다. 이 때, 제1 전자 디바이스(500-1)는 현실세계 객체에 대응하는 위치에 표시된다. 그리고 제1 전자 디바이스(500-1)는 사용자의 명령에 따라 증강현실 객체(O)에 대응하는 마커(M)를 생성한다. 이 때, 마커(M)는 증강현실 객체(O)에 할당된 고유 마커(M)일 수도 있고, 임의적으로 만들어진 마커(M)일 수도 있다.
그리고 제1 전자 디바이스(500-1)는 마커 표시부(550)를 통해 증강현실 객체(O)에 대응하는 위치에 마커(M) 이미지를 투영시킬 수 있다. 마커 표시부(550)는 증강현실 객체(O)에 대응하는 현실세계 객체에 마커(M)를 표시할 수 있으며, 증강현실 객체(O)의 아래에 마커(M)를 표시할 수 있다.
그리고 제1 전자 디바이스(500-1)는 통신부를 통해 마커(M)의 식별정보와 증강현실 객체(O)의 정보를 호스트(C)에 전달할 수 있다. 마커 식별정보는 마커(M)의 형상 정보와 마커(M)에 대응하는 증강현실 객체 정보와 마커(M)와 증강현실 객체(O) 사이의 상대적인 위치 정보를 포함한다.
그리고 통신부는 호스트(C)에 증강현실 객체(O)가 저장된 경우에는 증강현실 객체(O)의 식별정보만을 전달하면 되고, 그렇지 않은 경우에는 증강현실 객체(O)의 정보를 모두 전달할 수 있다.
마커(M)가 표시된 후에는, 제2 전자 디바이스(500-2)가 외부 카메라(540)를 통해 마커(M)를 인식할 수 있다. 그리고 제2 전자 디바이스(500-2)는 통신부를 통해 호스트(C)에 마커(M)의 식별정보를 전달한다. 통신부는 마커(M)에 대응하는 증강현실 객체 정보를 호스트(C)로부터 전달받는다. 그리고 통신부는 제2 전자 디바이스(500-2)에 증강현실 객체(O)가 저장된 경우에는 증강현실 객체(O)의 식별정보만을 전달받으면 되고, 그렇지 않은 경우에는 증강현실 객체(O)의 정보를 모두 전달받을 수 있다.
마지막으로, 제2 전자 디바이스(500-2)는 마커(M)에 대응하는 위치에 증강현실 객체(O)를 표시한다. 이로써 제1 전자 디바이스(500-1)에서 보이는 모습이 제2 전자 디바이스(500-2)에서도 동일하게 보일 수 있다.
한편, 제1 전자 디바이스(500-1)에 표시되는 증강현실 객체(O)는 현실세계 객체에 대응하는 위치에 표시되고, 마커(M)는 현실세계 객체에 투영될 수 있다. 그리고 제2 전자 디바이스(500-2)에 표시되는 증강현실 객체(O)는 마커(M)의 식별 정보를 기반으로 하여 동일한 현실세계 객체에 대응하는 위치에 표시될 수 있다.
도 23은 모바일 디바이스(D)를 이용하여 마커(M)를 표시하는 본 발명의 제2 실시예를 설명하는 개념도이다.
도 23을 참조하면, 제1 사용자(A)의 제1 전자 디바이스(500-1)는 호스트(C)와 마커 식별정보 및 증강현실 객체 정보를 주고받을 수 있다. 그리고 모바일 디바이스(D)는 호스트(C)로부터 마커(M)의 형상에 대한 정보를 획득할 수 있다. 또는, 모바일 디바이스(D)가 직접 제1 전자 디바이스(500-1)로부터 마커(M)의 형상에 대한 정보를 획득할 수도 있다.
모바일 디바이스(D)의 표시부에 마커(M)를 표시한 상태로 증강현실 객체(O) 근방의 현실세계 객체에 모바일 디바이스(D)를 놓는다. 이 때, 모바일 디바이스(D)는 홀로그램을 표시하는 장치일 수도 있다.
마커(M)가 표시된 후에는, 제2 전자 디바이스(500-2)가 외부 카메라(540)를 통해 마커(M)를 인식할 수 있다. 그리고 제2 전자 디바이스(500-2)는 통신부를 통해 호스트(C)에 마커(M)의 식별정보를 전달한다. 통신부는 마커(M)에 대응하는 증강현실 객체 정보를 호스트(C)로부터 전달받는다. 그리고 통신부는 제2 전자 디바이스(500-2)에 증강현실 객체(O)가 저장된 경우에는 증강현실 객체(O)의 식별정보만을 전달받으면 되고, 그렇지 않은 경우에는 증강현실 객체(O)의 정보를 모두 전달받을 수 있다.
마지막으로, 제2 전자 디바이스(500-2)는 마커(M)에 대응하는 위치에 증강현실 객체(O)를 표시한다. 이로써 제1 전자 디바이스(500-1)에서 보이는 모습이 제2 전자 디바이스(500-2)에서도 동일하게 보일 수 있다.
도 24는 스마트 디바이스(S)를 이용하여 마커(M)를 표시하는 본 발명의 제3 실시예를 설명하는 개념도이다.
도 24를 참조하면, 제1 사용자(A)의 제1 전자 디바이스(500-1)는 스마트 디바이스(S)와 마커 식별정보 및 증강현실 객체 정보를 주고받을 수 있다. 여기서 스마트 디바이스(S)는 단순히 마커(M)에 대한 정보를 획득하여 표시하는 모바일 디바이스(D) 이상으로, 증강현실 객체 정보를 획득하고 전달할 수 있는 장치를 의미할 수 있다.
스마트 디바이스(S)의 표시부에 마커(M)를 표시한 상태로 증강현실 객체(O) 근방의 현실세계 객체에 스마트 디바이스(S)를 놓는다.
마커(M)가 표시된 후에는, 제2 전자 디바이스(500-2)가 외부 카메라(540)를 통해 마커(M)를 인식할 수 있다. 그리고 제2 전자 디바이스(500-2)는 통신부를 통해 스마트 디바이스(S)에 마커(M)의 식별정보를 전달한다. 통신부는 마커(M)에 대응하는 증강현실 객체 정보를 스마트 디바이스(S)로부터 전달받는다. 그리고 통신부는 제2 전자 디바이스(500-2)에 증강현실 객체(O)가 저장된 경우에는 증강현실 객체(O)의 식별정보만을 전달받으면 되고, 그렇지 않은 경우에는 증강현실 객체(O)의 정보를 모두 전달받을 수 있다.
마지막으로, 제2 전자 디바이스(500-2)는 마커(M)에 대응하는 위치에 증강현실 객체(O)를 표시한다. 이로써 제1 전자 디바이스(500-1)에서 보이는 모습이 제2 전자 디바이스(500-2)에서도 동일하게 보일 수 있다.
도 25는 전자 디바이스(500) 사이에 직접 가상현실 정보를 공유하는 본 발명의 제4 실시예를 설명하는 개념도이다.
도 25를 참조하면, 제1 전자 디바이스(500-1)와 제2 전자 디바이스(500-2)는 서로 통신부를 통해 직접 마커 식별정보 및 증강현실 객체 정보를 주고받을 수 있다. 증강현실 객체(O)는 제1 및 제2 전자 디바이스(500-1, 500-2)에 모두 저장되어 있을 수도 있고, 제2 전자 디바이스(500-2)의 통신부가 제1 전자 디바이스(500-1)로부터 전달받을 수도 있다.
제1 전자 디바이스(500-1)는 디스플레이부(520)에 증강현실 객체(O)를 표시한다. 이 때, 제1 전자 디바이스(500-1)는 현실세계 객체에 대응하는 위치에 표시된다. 그리고 제1 전자 디바이스(500-1)는 사용자의 명령에 따라 증강현실 객체(O)에 대응하는 마커(M)를 생성한다. 이 때, 마커(M)는 증강현실 객체(O)에 할당된 고유 마커(M)일 수도 있고, 임의적으로 만들어진 마커(M)일 수도 있다.
그리고 제1 전자 디바이스(500-1)는 마커 표시부(550)를 통해 증강현실 객체(O)에 대응하는 위치에 마커(M) 이미지를 투영시킬 수 있다. 마커 표시부(550)는 증강현실 객체(O)에 대응하는 현실세계 객체에 마커(M)를 표시할 수 있으며, 증강현실 객체(O)의 아래에 마커(M)를 표시할 수 있다.
마커(M)가 표시된 후에는, 제2 전자 디바이스(500-2)가 외부 카메라(540)를 통해 마커(M)를 인식할 수 있다. 그리고 제2 전자 디바이스(500-2)는 통신부를 통해 제1 전자 디바이스(500-1)에 마커(M)의 식별정보를 전달한다. 통신부는 마커(M)에 대응하는 증강현실 객체 정보를 제1 전자 디바이스(500-1)로부터 전달받는다. 그리고 통신부는 제2 전자 디바이스(500-2)에 증강현실 객체(O)가 저장된 경우에는 증강현실 객체(O)의 식별정보만을 전달받으면 되고, 그렇지 않은 경우에는 증강현실 객체(O)의 정보를 모두 전달받을 수 있다.
다시 말하면, 제1 전자 디바이스(500-1)는 통신부를 통해 마커(M)의 식별정보와 증강현실 객체(O)의 정보를 제2 전자 디바이스(500-2)에 전달할 수 있다. 마커(M)의 식별정보에는 마커(M)의 형상, 마커(M)에 대응되는 증강현실 객체(O)의 정보, 마커(M)의 위치 또는 방향에 대한 정보가 포함된다.
마지막으로, 제2 전자 디바이스(500-2)는 마커(M)에 대응하는 위치에 증강현실 객체(O)를 표시한다. 이로써 제1 전자 디바이스(500-1)에서 보이는 모습이 제2 전자 디바이스(500-2)에서도 동일하게 보일 수 있다.
한편, 마커(M)를 표시하는 방법은 도면과 달리 마커(M)를 표시하는 모바일 디바이스(D) 또는 스마트 디바이스(S)를 이용할 수도 있다.
도 26은 하나의 마커(M)에 다중 객체 정보가 설정되는 실시예를 나타내는 도면이다.
앞에서는 하나의 마커(M)에 하나의 증강현실 객체(O)가 대응되는 것을 설명하였지만, 이와 달리 하나의 마커(M)에 복수의 증강현실 객체(O1 내지 O5)가 대응되는 것이 가능하다. 이 때, 복수의 증강현실 객체(O1 내지 O5)는 서로 중첩되지 않는 위치에 배치될 수 있다. 그리고 증강현실 객체들(O1 내지 O5)의 위치는 마커(M)를 중심으로 xyz 공간 내에 배치될 수 있다.
마커(M)는 대응하는 복수의 증강현실 객체들(O1 내지 O5)의 정보를 식별 정보로 포함할 수 있다. 이 때, 식별 정보에는 마커(M)의 중심을 기준으로 x, y, z 방향으로의 옵셋(offset) 정보가 포함될 수 있다.
도 26을 참조하면, 마커(M)의 z 방향 위로는 증강현실 동영상(마리오)(O1)이 표시될 수 있다. 증강현실 동영상(O1)은 자동으로 재생될 수도 있고, 사용자의 명령을 기다려 재생될 수도 있다. 마커(M)의 x축 방향 위로는 증강현실 이미지(버섯) (O2)가 표시될 수 있다. 그 외에도 서로 중첩되는 않는 각기 다른 방향에서 웹 브라우저(O3), 모바일 미러링 화면(O4) 및 바로가기 아이콘(O5) 등이 표시될 수 있다. 웹 브라우저(O3), 모바일 미러링 화면(O4) 또는 바로가기 아이콘(O5)은 사용자의 명령에 따라 실행이 가능할 수 있다. 특히 바로가기 아이콘(05)을 통해 메신저, SNS 또는 전화 등의 기능을 수행할 수 있다.
도 27은 다중 마커(M)를 이용하여 하나의 객체 정보를 설정하는 실시예를 나타내는 도면이고, 도 28은 다중 마커(M)를 이용하여 다중 객체 정보를 설정하는 실시예를 나타내는 도면이다.
증강현실 객체(O)를 식별하는데 사용되는 마커(M)는 시간의 흐름에 따라 달라지는 서로 다른 마커들(M1, M2, M3)의 조합으로 마련될 수 있다. 즉, 서로 다른 마커들(M1, M2, M3)이 동일한 포인트에서 프레임(P1, P2, P3)에 따라 연속적으로 표시될 수 있다. 그리고 서로 다른 마커들(M1, M2, M3)은 서로 다른 증강현실 이미지(O1, O2, O3)를 식별한다.
도 27을 참조하면, 각각의 마커(M)는 연속된 동작을 나타내는 증강현실 객체(O)에 대응될 수 있다. 예를 들어, 현재 프레임(P2)에서 표시되는 마커(M2)에 대응되는 증강현실 객체(O2)는 과거 프레임(P1)에서 표시되었던 마커(M1)에 대응되는 증강현실 객체(O1)의 다음 모습을 나타낼 수 있고, 미래 프레임(P3)에서 표시되는 마커(M3)에 대응되는 증강현실 객체(O3)는 현재 프레임(P2)에서와 또 달라질 수 있다. 즉, 증강현실 객체들(O1 내지 O3)은 연속된 동작을 표시할 수 있다.
도 28을 참조하면, 각각의 마커(M)는 서로 다른 증강현실 객체(O)에 대응될 수 있다. 예를 들어, 현재 프레임(P2)에서 표시되는 마커(M2)는 가수를 표시하는 증강현실 객체(O2)에 대응되고, 과거 프레임(P1)에서 표시되었던 마커(M1)는 바이올리니스트를 표시하는 증강현실 객체(O1)에 대응되고, 미래 프레임(P3)에서 표시되는 마커(M3)는 드러머를 표시하는 증강현실 객체(O3)에 대응될 수 있다.
다음으로, 도 29 내지 도 31을 참조하여 마커(M)가 현실세계에서 일정한 지점에 표시되는 방법을 설명한다.
도 29는 전자 디바이스(500)가 제1 위치에서 마커(M)를 투영하는 모습을 나타내는 도면이다.
도 29를 참고하면, 전자 디바이스(500)는 마커 표시부(550)를 통해 증강현실 객체(O)에 대응하는 위치에 마커(M)를 투영시킬 수 있다. 도면에서 xy 좌표는 현실세계에서 마커(M)가 표시되는 위치를 나타낸다.
도 30은 도 29에서 전자 디바이스(500)가 움직였을 때 투영되는 마커(M)의 위치를 나타내는 도면이다.
전자 디바이스(500)가 마커(M)를 표시하고 있는 상태에서 사용자가 고개를 돌리는 경우 마커 표시부(550)가 회전하지 않는 경우 마커(M)가 사용자의 움직임과 함께 이동하게 된다. 이를 방지하기 위해, 마커 표시부(550)는 사용자가 고개를 돌리는 방향에 반대 방향으로 회전하여 마커(M)가 표시된 위치를 유지할 수 있다.
예를 들어, 전자 디바이스(500)는 센서부를 통해 사용자의 움직임을 감지할 수 있다. 자세하게는 센서부를 통해 움직이는 방향, 움직인 거리 및 각도, 움직이는 가속도 등 움직임에 대한 상세한 정보를 알 수 있다. 제어부는 센서부의 정보를 활용하여 마커(M)가 사용자의 움직임에도 불구하고 동일 위치를 유지할 수 있도록 마커 표시부(550)를 제어할 수 있다.
도 31은 도 30에서 전자 디바이스(500)가 마커 표시부(550)의 허용 범위를 넘어 움직였을 때 투영되는 마커(M)의 변화를 나타내는 도면이다.
마커 표시부(550)의 최대 회전 각도는 미리 정해져 있다. 만일, 사용자가 이 범위를 벗어나 움직이는 경우 마커 표시부(550)는 더 이상 마커(M)를 동일 위치에 표시할 수 없게 된다.
예를 들어, 마커 표시부(550)가 최대로 회전한 상태에서 투영되는 마커(M)의 위치가 마커(M)에 대응되는 증강현실 객체(O)의 설정 위치로부터 x축 방향으로 1m 이동한 위치인 경우에, 마커(M)의 좌측에 원래 마커(M)가 표시되어야 하는 위치를 나타내는 방향 표시와 함께 이동해야 하는 거리를 나타낼 수 있다. 도 31에서는 좌측 방향으로 1m 이동한 위치가 원래 마커(M)가 표시되어야 하는 위치임을 나타내고 있다.
한편, 전자 디바이스(500)는 마커(M)의 인식률을 향상시킬 수 있다. 마커(M)의 인식률은 색상, 크기, 밝기 및 선명도 등에 의해 향상될 수 있다.
제어부(530)는 외부 카메라(540)의 이미지로부터 마커(M) 주위의 현실세계 객체의 색상 또는 배경의 색상을 인식할 수 있고, 인식된 색상의 색 반전 또는 색 보정을 통해 마커(M)를 생성할 수 있다. 예를 들어, 흰색 배경에 마커(M)를 표시해야 하는 경우에 검은색 마커(M)를 생성할 수 있고, 반대로 검은색 배경에 마커(M)를 표시해야 하는 경우에 흰색 마커(M)를 생성할 수 있다.
또한, 제어부(530)는 마커(M)가 투영되는 거리에 따라 마커 표시부(550)의 화각을 조절하여 최적의 크기, 밝기 및 선명도로 마커(M)를 투영할 수 있다. 예를 들어, 마커 표시부(550)는 줌 렌즈 또는 가변 초점 렌즈를 이용하여 화각을 조절할 수 있다.
도 32는 줌 렌즈의 원리를 설명하기 위한 그림이다.
도 32의 (a)를 참조하면, 줌 렌즈는 광이 전달되는 방향으로 볼록렌즈(L1)와 오목렌즈(L2)와 볼록렌즈(L3)가 나란하게 배치될 수 있다. 이 때, 세 번째 볼록렌즈(L3)는 고정되어 있고, 두 번째 오목렌즈(L2)는 두 볼록렌즈(L1, L3) 사이에서 광 축 방향으로 움직일 수 있도록 마련된다. 이 때, 첫 번째 볼록렌즈(L1)와 세 번째 볼록렌즈(L2) 사이에서 두 번째 오목렌즈(L2)의 위치를 변화시키면, 그 위치에 비례하여 초점 거리가 연속적으로 변하게 된다.
도 32의 (b)를 참조하면, 첫 번째 볼록렌즈(L1)와 두 번째 오목렌즈(L2)를 근접시키고 상대적으로 세번째 볼록렌즈(L3)의 간격을 멀게 하면 광학계의 초점 거리가 짧아져 광각으로 이미지를 투영시킬 수 있다.
도 32의 (c)를 참조하면, 상대적으로 첫 번째 볼록렌즈(L1)와 두 번째 오목렌즈(L2)의 간격을 멀게 하고 두 번째 오목렌즈(L2)와 세번째 볼록렌즈(L3)를 근접시키면 광학계의 초점 거리가 길어져 먼 곳에 이미지를 투영시킬 수 있다.
도 33은 본 발명의 실시예에 따른 전자 디바이스(500)의 구성을 나타내는 블럭도이다.
본 발명의 실시예에 따른 전자 디바이스(500)는 증강현실 객체를 생성하는 증강현실 객체 생성부(531)와, 이에 대응하는 마커를 생성하는 마커 생성부(532)와, 생성된 마커를 표시하는 마커 표시부(550)와, 증강현실 객체 정보와 마커 식별정보를 호스트 또는 다른 전자 디바이스와 주고받는 통신부(570)를 포함할 수 있다. 여기서 증강현실 객체 생성부(531)와 마커 생성부(532)는 제어부(530)에 구비될 수 있다.
그리고 마커 식별부(540)는 넓은 의미로는 외부 카메라(540)일 수 있고, 좁은 의미로는 외부 카메라(540)의 이미지로부터 마커 이미지를 식별하는 수단을 의미할 수도 있다.
그리고 마커 표시부(550)는 전자 디바이스(500)에 제공되는 프로젝터일 수 있고, 또는 전자 디바이스(500)와 별도로 제공되는 모바일 디바이스일 수 있다.
그리고 통신부(570)는 Wi-Fi를 사용하여 데이터를 주고받을 수 있다.
그리고 마커 생성부(532)는 마커의 식별정보를 생성하고, 통신부(570)는 마커 식별정보를 호스트 또는 다른 전자 디바이스에 공유한다. 마커 식별정보에는 마커 형상과, 현실세계에 투영되는 마커의 위치와, 증강현실 객체와 마커의 위치 편차에 대한 옵셋 정보가 포함될 수 있다.
앞에서 설명된 본 발명의 어떤 실시예들 또는 다른 실시예들은 서로 배타적이거나 구별되는 것은 아니다. 앞서 설명된 본 발명의 어떤 실시예들 또는 다른 실시예들은 각각의 구성 또는 기능이 병용되거나 조합될 수 있다.
예를 들어 특정 실시예 및/또는 도면에 설명된 A 구성과 다른 실시예 및/또는 도면에 설명된 B 구성이 결합될 수 있음을 의미한다. 즉, 구성 간의 결합에 대해 직접적으로 설명하지 않은 경우라고 하더라도 결합이 불가능하다고 설명한 경우를 제외하고는 결합이 가능함을 의미한다.
상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
30: 가상현실 전자 디바이스, 31: 헤드유닛,
32: 디스플레이유닛, 32a: 커버부,
32b: 디스플레이부, 33: 안면패드,
40: 컨트롤러, 50: 위치추적장치,
60: 외부장치,
100: 증강현실 전자 디바이스, 110, 120: 프레임부,
130: 사용자 입력부, 140: 음향 출력부,
200: 제어부, 300: 디스플레이부,
500: 전자 디바이스, 510: 프레임,
511: 전방 프레임, 512: 측방 프레임,
520: 디스플레이부, 521: 글라스,
522: 광학유닛, 530: 제어부,
540: 외부 카메라, 550: 마커 표시부,
561: 아이 센서부, 562: 센서부,
570: 통신부, 581: 버튼부,
582: 터치부, 583: 마이크,
584: 스피커

Claims (20)

  1. 사용자의 머리부에 지지되는 프레임;
    증강현실 이미지를 제공하는 제어부;
    상기 프레임에 연결되고 상기 제어부로부터 전달받은 증강현실 이미지를 현실세계에 중첩하여 표시하는 디스플레이부;
    증강현실 객체에 대응하는 마커를 생성하는 마커 생성부; 및
    상기 마커 생성부에서 생성된 마커를 표시하는 마커 표시부를 포함하는 AR 장치.
  2. 제1 항에 있어서,
    상기 마커 표시부는 현실세계에 마커 이미지를 투영(projection)시키는 AR 장치.
  3. 제2 항에 있어서,
    상기 프레임은 전방 프레임과, 상기 전방 프레임의 양 측부에서 후방으로 연결되는 한 쌍의 측방 프레임을 포함하고,
    상기 디스플레이부는 상기 전방 프레임의 일 측에 배치되는 좌안 디스플레이부와 상기 전방 프레임의 타 측에 배치되는 우안 디스플레이부를 포함하고,
    상기 마커 표시부는 상기 좌안 디스플레이부와 상기 우안 디스플레이부의 사이에 마련되는 AR 장치.
  4. 제1 항에 있어서,
    상기 마커 표시부는 상기 프레임과 분리되는 별도의 디바이스로 마련되고, 상기 마커 생성부와 유선 또는 무선으로 연결되어 생성된 마커를 표시하는 AR 장치.
  5. 제1 항에 있어서,
    상기 생성된 마커의 식별정보와 상기 생성된 마커에 대응하는 증강현실 객체 정보를 호스트에 전달하는 통신부를 더 포함하는 AR 장치.
  6. 제1 항 내지 제4 항 중 어느 한 항에 있어서,
    현실세계를 촬영하는 카메라와,
    상기 카메라의 이미지에서 마커를 식별하는 마커 식별부를 더 포함하고,
    상기 제어부는 식별된 마커에 대응하는 증강현실 객체 정보를 상기 디스플레이부에 제공하는 AR 장치.
  7. 제6 항에 있어서,
    상기 생성된 마커의 식별정보와 상기 생성된 마커에 대응하는 증강현실 객체 정보를 호스트에 전달하는 통신부를 더 포함하고,
    상기 통신부는 상기 식별된 마커의 식별정보를 상기 호스트에 전달하고, 상기 호스트로부터 상기 식별된 마커의 식별정보에 대응하는 증강현실 객체 정보를 획득하고,
    상기 제어부는 상기 식별된 마커에 대응하는 증강현실 객체 정보를 상기 디스플레이부에 제공하는 AR 장치.
  8. 제2 항 또는 제3 항에 있어서,
    상기 마커 표시부는 일 축 이상의 방향으로 회전 가능하게 마련되는 AR 장치.
  9. 제8 항에 있어서,
    상기 디스플레이부의 움직임을 감지하는 동작 센서부를 더 포함하고,
    상기 제어부는 상기 동작 센서부의 정보에 따라 상기 마커 표시부를 회전시켜 상기 마커 표시부에 의해 표시되는 마커가 현실세계의 동일 지점에 투영되도록 하는 AR 장치.
  10. 제8 항에 있어서,
    상기 마커가 투영되는 현실세계 대상체의 깊이를 감지하는 심도 센서부를 더 포함하고,
    상기 제어부는 상기 심도 센서부의 정보에 따라 상기 마커의 초점거리를 변경하는 AR 장치.
  11. 제8 항에 있어서,
    상기 마커가 투영되는 현실세계 대상체의 색상을 감지하는 색상 감지부를 더 포함하고,
    상기 마커 생성부는 상기 색상 감지부의 정보에 따라 상기 마커의 색상을 변경하는 AR 장치.
  12. 제1 항에 있어서,
    사용자의 눈동자를 감지하는 아이 센서부를 더 포함하고,
    상기 제어부는,
    상기 아이 센서부의 정보를 통해 사용자가 마커를 표시하고자 하는 현실세계 대상체의 위치 및/또는 깊이 정보를 판단하고,
    사용자가 마커를 표시하고자 하는 현실세계 대상체에 마커가 표시되도록 상기 마커 표시부에 명령을 전달하는 AR 장치.
  13. 제12 항에 있어서,
    상기 마커 표시부는 일 축 이상의 방향으로 회전 가능하게 마련되고,
    상기 제어부는,
    상기 아이 센서부의 정보를 통해 사용자가 마커를 표시하고자 하는 현실세계 대상체의 위치 정보를 판단하고,
    상기 아이 센서부의 정보에 따라 상기 마커 표시부를 회전시켜 사용자가 마커를 표시하고자 하는 현실세계 대상체에 마커가 표시되도록 하는 AR 장치.
  14. 제12 항에 있어서,
    상기 마커 표시부는 가변 초점 렌즈를 구비하고,
    상기 제어부는,
    상기 아이 센서부의 정보를 통해 사용자가 마커를 표시하고자 하는 현실세계 대상체의 깊이 정보를 판단하고,
    상기 아이 센서부의 깊이 정보에 따라 상기 마커의 초점거리를 변경하는 AR 장치.
  15. 제1 항에 있어서,
    상기 마커 생성부는 하나의 마커에 복수의 증강현실 객체를 대응시키고,
    상기 복수의 증강현실 객체는 상기 생성된 마커에 대해 서로 다른 옵셋 정보를 가지는 AR 장치.
  16. 제1 항에 있어서,
    상기 마커 생성부는 연속된 프레임의 복수의 마커들을 생성하고,
    상기 복수의 마커들은 하나의 증강현실 객체의 연속적인 이미지에 대응되거나, 서로 다른 증강현실 객체들에 대응되는 AR 장치.
  17. 공유대상 증강현실 객체에 대응하는 마커를 생성하는 마커 생성부;
    카메라 이미지로부터 마커를 인식하는 마커 인식부; 및
    호스트 장치와 데이터를 송수신하는 통신부를 포함하고,
    상기 통신부는,
    상기 마커 생성부에서 생성된 마커의 식별 정보와 상기 마커에 대응된 증강현실 객체의 정보를 상기 호스트 장치에 보내고,
    상기 마커 인식부에서 인식된 마커의 식별 정보를 상기 호스트 장치에 전달하여 상기 마커에 대응된 증강현실 객체의 정보를 받는 AR 장치.
  18. 공유대상 증강현실 객체에 대응하는 마커를 생성하는 마커 생성부와, 상기 생성된 마커의 식별 정보와 마커에 대응된 증강현실 객체 정보를 호스트에 전달하는 제1 통신부를 구비하는 제1 전자 디바이스; 및
    카메라 이미지로부터 마커를 인식하는 마커 인식부와, 상기 인식된 마커의 식별 정보를 상기 호스트에 전달하고 상기 호스트로부터 상기 인식된 마커의 식별 정보에 대응하는 증강현실 객체 정보를 전달받는 제2 통신부를 구비하는 제2 전자 디바이스를 포함하는 증강현실 공유 시스템.
  19. 제18 항에 있어서,
    상기 호스트는 클라우드 스토리지(Cloud storage)이고,
    상기 제1 전자 디바이스는 상기 생성된 마커를 현실세계에 투영(projection)시키는 마커 표시부를 더 구비하고,
    상기 제2 전자 디바이스의 상기 마커 인식부는 상기 투영된 마커를 인식하는 증강현실 공유 시스템.
  20. 제18 항에 있어서,
    상기 호스트는 스마트 디바이스(Smart device)이고,
    상기 스마트 디바이스는 상기 생성된 마커를 화면에 표시하고,
    상기 제2 전자 디바이스의 상기 마커 인식부는 상기 스마트 디바이스에 표시된 마커를 인식하는 증강현실 공유 시스템.
KR1020190118770A 2019-08-30 2019-09-26 Ar 장치 및 그 제어 방법 KR20190117415A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
PCT/KR2019/011218 WO2021040106A1 (ko) 2019-08-30 2019-08-30 Ar 장치 및 그 제어 방법
KRPCT/KR2019/011218 2019-08-30

Publications (1)

Publication Number Publication Date
KR20190117415A true KR20190117415A (ko) 2019-10-16

Family

ID=68421291

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190118770A KR20190117415A (ko) 2019-08-30 2019-09-26 Ar 장치 및 그 제어 방법

Country Status (3)

Country Link
US (1) US11270114B2 (ko)
KR (1) KR20190117415A (ko)
WO (1) WO2021040106A1 (ko)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021060735A1 (ko) 2019-09-24 2021-04-01 주식회사 엘지화학 배터리 모듈 및 이러한 배터리 모듈을 포함하는 배터리 랙 및 전력 저장 장치
KR102253269B1 (ko) * 2020-12-09 2021-05-17 이호연 자율주행차량을 위한 모델하우스 정보 제공 시스템
WO2021118237A1 (ko) * 2019-12-10 2021-06-17 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR20210072900A (ko) * 2019-12-10 2021-06-18 주식회사 피앤씨솔루션 증강현실 내에서 훈련에 따른 피드백을 공유하는 전술 훈련 시스템
KR20210081300A (ko) * 2019-12-23 2021-07-01 주식회사 후본 멀티모달 인터페이스 기반의 햅틱 장치
WO2021141420A1 (ko) * 2020-01-08 2021-07-15 주식회사 레티널 전반사를 이용한 증강 현실용 광학 장치
KR102299346B1 (ko) * 2020-07-29 2021-09-08 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치의 시야를 공유하는 전술 훈련 시스템
KR102358875B1 (ko) * 2021-07-14 2022-02-08 (주)투락 복수 마커를 통한 효율적인 ar 컨텐츠 제공 방법 및 장치
US11316960B2 (en) 2019-12-31 2022-04-26 Lg Dislay Co., Ltd. Electronic apparatus comprising display panel including at least one hole
KR20220074519A (ko) * 2020-11-27 2022-06-03 한국전자기술연구원 개선된 ToF 센서 장치
WO2022234947A1 (ko) * 2021-05-06 2022-11-10 삼성전자주식회사 웨어러블 전자 장치 및 3d 이미지 출력 방법
WO2023003126A1 (ko) * 2021-07-19 2023-01-26 삼성전자 주식회사 증강현실 가이드를 제공하는 글래스 타입 웨어러블 디바이스 및 그 제어 방법
WO2023027208A1 (ko) * 2021-08-25 2023-03-02 삼성전자 주식회사 복수의 디바이스를 그룹핑 하는 방법 및 시스템
WO2023090846A1 (ko) * 2021-11-17 2023-05-25 삼성전자 주식회사 증강 현실 객체의 앵커링을 위한 전자 장치 및 방법
KR20230075147A (ko) * 2021-11-22 2023-05-31 한국전자통신연구원 다자 참여 증강현실 콘텐츠의 공유 공간 생성 방법 및 장치
US12003697B2 (en) 2021-05-06 2024-06-04 Samsung Electronics Co., Ltd. Wearable electronic device and method of outputting three-dimensional image

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8810598B2 (en) * 2011-04-08 2014-08-19 Nant Holdings Ip, Llc Interference based augmented reality hosting platforms
CN107861247B (zh) * 2017-12-22 2020-08-25 联想(北京)有限公司 光学部件及增强现实设备
US20230138204A1 (en) * 2021-11-02 2023-05-04 International Business Machines Corporation Augmented reality object interaction and notification
US20230176377A1 (en) 2021-12-06 2023-06-08 Facebook Technologies, Llc Directional illuminator and display apparatus with switchable diffuser
CN116413911A (zh) * 2021-12-31 2023-07-11 北京耐德佳显示技术有限公司 一种超薄型镜片、使用其的虚像成像装置和近眼显示器
CN114510149B (zh) * 2022-02-15 2022-09-09 深圳市恒必达电子科技有限公司 一种带力量感应的vr及ar体感装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101152919B1 (ko) 2008-02-13 2012-06-05 세종대학교산학협력단 증강 현실을 구현하는 방법 및 이를 이용하는 장치
KR101325757B1 (ko) * 2010-07-09 2013-11-08 주식회사 팬택 가상 마커 생성을 이용한 증강 현실 제공 장치 및 방법
KR101338700B1 (ko) * 2011-01-27 2013-12-06 주식회사 팬택 마커를 분할해서 공유하는 증강 현실 시스템 및 그 방법
US8872852B2 (en) * 2011-06-30 2014-10-28 International Business Machines Corporation Positional context determination with multi marker confidence ranking
US8228315B1 (en) * 2011-07-12 2012-07-24 Google Inc. Methods and systems for a virtual input device
JP5912059B2 (ja) * 2012-04-06 2016-04-27 ソニー株式会社 情報処理装置、情報処理方法及び情報処理システム
KR102161510B1 (ko) * 2013-09-02 2020-10-05 엘지전자 주식회사 포터블 디바이스 및 그 제어 방법
US10404975B2 (en) * 2015-03-20 2019-09-03 Tilt Five, Inc Retroreflective light field display
JP6824279B2 (ja) * 2016-02-18 2021-02-03 アップル インコーポレイテッドＡｐｐｌｅ Ｉｎｃ． インサイドアウト方式のポジション、ユーザボディ、及び環境トラッキングを伴うバーチャルリアリティ及びミックスドリアリティ用ヘッドマウントディスプレイ
JP6706323B2 (ja) * 2016-07-12 2020-06-03 富士フイルム株式会社 画像表示システム、並びにヘッドマウントディスプレイの制御装置とその作動方法および作動プログラム
EP3555865A4 (en) * 2016-12-13 2020-07-08 Magic Leap, Inc. RENDERING OF 3D OBJECTS BY DETECTING CHARACTERISTICS

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021060735A1 (ko) 2019-09-24 2021-04-01 주식회사 엘지화학 배터리 모듈 및 이러한 배터리 모듈을 포함하는 배터리 랙 및 전력 저장 장치
WO2021118237A1 (ko) * 2019-12-10 2021-06-17 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR20210072902A (ko) * 2019-12-10 2021-06-18 주식회사 피앤씨솔루션 복수의 사용자에게 최적화된 증강현실 시계 공유 전술 훈련 시스템
KR20210072900A (ko) * 2019-12-10 2021-06-18 주식회사 피앤씨솔루션 증강현실 내에서 훈련에 따른 피드백을 공유하는 전술 훈련 시스템
KR20210081300A (ko) * 2019-12-23 2021-07-01 주식회사 후본 멀티모달 인터페이스 기반의 햅틱 장치
US11316960B2 (en) 2019-12-31 2022-04-26 Lg Dislay Co., Ltd. Electronic apparatus comprising display panel including at least one hole
WO2021141420A1 (ko) * 2020-01-08 2021-07-15 주식회사 레티널 전반사를 이용한 증강 현실용 광학 장치
KR102299346B1 (ko) * 2020-07-29 2021-09-08 주식회사 피앤씨솔루션 머리 착용형 디스플레이 장치의 시야를 공유하는 전술 훈련 시스템
KR20220074519A (ko) * 2020-11-27 2022-06-03 한국전자기술연구원 개선된 ToF 센서 장치
KR102253269B1 (ko) * 2020-12-09 2021-05-17 이호연 자율주행차량을 위한 모델하우스 정보 제공 시스템
US12003697B2 (en) 2021-05-06 2024-06-04 Samsung Electronics Co., Ltd. Wearable electronic device and method of outputting three-dimensional image
WO2022234947A1 (ko) * 2021-05-06 2022-11-10 삼성전자주식회사 웨어러블 전자 장치 및 3d 이미지 출력 방법
KR102358875B1 (ko) * 2021-07-14 2022-02-08 (주)투락 복수 마커를 통한 효율적인 ar 컨텐츠 제공 방법 및 장치
WO2023003126A1 (ko) * 2021-07-19 2023-01-26 삼성전자 주식회사 증강현실 가이드를 제공하는 글래스 타입 웨어러블 디바이스 및 그 제어 방법
WO2023027208A1 (ko) * 2021-08-25 2023-03-02 삼성전자 주식회사 복수의 디바이스를 그룹핑 하는 방법 및 시스템
WO2023090846A1 (ko) * 2021-11-17 2023-05-25 삼성전자 주식회사 증강 현실 객체의 앵커링을 위한 전자 장치 및 방법
KR20230075147A (ko) * 2021-11-22 2023-05-31 한국전자통신연구원 다자 참여 증강현실 콘텐츠의 공유 공간 생성 방법 및 장치
US11876865B2 (en) 2021-11-22 2024-01-16 Electronics And Telecommunications Research Institute Method of and apparatus for generating space for sharing augmented reality content among multiple participants

Also Published As

Publication number Publication date
US20210209364A1 (en) 2021-07-08
WO2021040106A1 (ko) 2021-03-04
US11270114B2 (en) 2022-03-08

Similar Documents

Publication Publication Date Title
KR20190117415A (ko) Ar 장치 및 그 제어 방법
KR20190106886A (ko) 전자 디바이스
KR20190106879A (ko) 전자 디바이스
KR20190106859A (ko) 전자 디바이스
KR20190106878A (ko) 전자 디바이스
KR20190101324A (ko) 전자 디바이스
US11509883B2 (en) Electronic device
US11885964B2 (en) Electronic device
KR20190100105A (ko) 전자 디바이스
KR20190116191A (ko) 전자 디바이스
KR20210026581A (ko) 전자 디바이스
KR20190106926A (ko) 전자 기기
KR20190106947A (ko) 전자 디바이스
KR20190100113A (ko) 전자 기기
KR20190106931A (ko) 전자 디바이스
KR102638960B1 (ko) Ar 장치 및 그 제어 방법
KR20190110492A (ko) 머리에 착용할 수 있는 전자 디바이스
KR20190106858A (ko) 전자 디바이스
KR20210025937A (ko) 전자 디바이스
KR20190110494A (ko) 머리에 착용할 수 있는 전자 디바이스
US11668934B2 (en) Electronic device
KR20190106900A (ko) 전자 디바이스
KR20210031240A (ko) 전자 디바이스
KR20190106856A (ko) 전자 디바이스
KR20210085286A (ko) 전자 디바이스

Legal Events

Date Code Title Description
A201 Request for examination