KR101895281B1 - 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법 - Google Patents

증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법 Download PDF

Info

Publication number
KR101895281B1
KR101895281B1 KR1020160010738A KR20160010738A KR101895281B1 KR 101895281 B1 KR101895281 B1 KR 101895281B1 KR 1020160010738 A KR1020160010738 A KR 1020160010738A KR 20160010738 A KR20160010738 A KR 20160010738A KR 101895281 B1 KR101895281 B1 KR 101895281B1
Authority
KR
South Korea
Prior art keywords
dimensional
image
camera
model
control computer
Prior art date
Application number
KR1020160010738A
Other languages
English (en)
Other versions
KR20170090186A (ko
Inventor
허상훈
Original Assignee
허상훈
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 허상훈 filed Critical 허상훈
Priority to KR1020160010738A priority Critical patent/KR101895281B1/ko
Publication of KR20170090186A publication Critical patent/KR20170090186A/ko
Application granted granted Critical
Publication of KR101895281B1 publication Critical patent/KR101895281B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)

Abstract

개시된 내용은 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법에 관한 것으로서, 3차원 모형과, 3차원 모형이 수납되는 테이블과, 테이블에 수납된 3차원 모형에 수직으로 고정되며 적외선 신호를 방출하는 막대형 물체와, 테이블에 수납된 3차원 모형을 촬영하는 3차원 카메라와, 3차원 모형에 고정되는 막대형 물체에서 방출되는 적외선 신호를 캡처하는 적외선 카메라와, 3차원 모형에 사전에 설정되어 있는 영상을 투사하는 프로젝터, 그리고 장치 구동시 3차원 카메라 및 적외선 카메라를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL(Open Graphics Library)을 초기화하여 프로젝터와 동기화하고, 3차원 카메라로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스(vertex) 데이터를 생성한 후 3차원 버텍스 데이터와 3차원 카메라와의 거리를 토대로 렌더링될 색상 및 밝기를 결정하고, 렌더링될 색상 및 밝기의 결정에 따라 기저장되어 있는 영상 컨텐츠를 렌더링하여 프로젝터를 통해 3차원 모형에 투사하도록 제어하고, 영상 컨텐츠를 3차원 모형에 투사하는 과정에서 적외선 카메라로부터 막대형 물체를 캡처한 데이터가 입력되면 막대형 물체의 위치를 확인하며, 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어하는 제어 컴퓨터로 구성된다.
따라서, 본 발명은 증강현실로 구현되는 영상과 사용자 행동의 상호 작용을 토대로 영상의 스토리 진행에 따른 재생을 제어하거나 다른 영상의 중복 재생을 수행하기 때문에 사용자의 관심 및 집중도를 크게 높일 수 있다.

Description

증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법{Apparatus for capturing stick-type object in augmented reality environment and method thereof}
본 발명은 사용자에 의해 3차원 모형에 고정되는 막대형 물체를 캡처하고, 이를 토대로 증강현실로 구현되는 영상 컨텐츠의 재생 제어를 수행하도록 하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법에 관한 것이다.
최근 들어 영상산업의 비약적 발전으로 인해 3차원 영상을 이용한 기술의 개발이 활발하게 이루어지고 있다. 즉 텔레비전이나 스크린을 통한 2차원 평면이 아닌 3차원으로 영상을 확인할 수 있게 된 것이다.
3차원 영상을 위한 장치로는 홀로그래피, 3차원 디스플레이 장치(예를 들어, 3D 안경), 증강현실(Augmented Reality) 등이 대표적이다.
홀로그래피는 위상이 갖추어진 레이저 광선을 이용하여 렌즈 없이 한 장의 사진으로 입체상을 촬영, 재생하는 방법 또는 이것을 응용한 광학 기술이고, 3차원 디스플레이 장치는 인간의 양안 시차를 이용하여 3차원 영상을 감상하도록 하는 장치이며, 증강 현실은 실제환경과 가상의 객체가 혼합되어 사용자가 눈으로 보는 현실세계에 가상 물체를 겹쳐 보여주는 기술로서 가상현실 기술에 비하여 보다 나은 현실감과 부가 정보를 제공한다.
이 중에서 홀로그래피나 3차원 디스플레이 장치는 영상이 표시되는 영역의 깊이, 모양 등의 지형정보를 참조하여 영상을 입체적으로 표시하는 기술이 아니기 때문에 사용자가 자유롭게 영상이 표시되는 3차원 영역을 생성하고, 이렇게 생성된 3차원 영역에 원하는 영상을 투사하여 표시하는 형태의 3차원 영상 구현방식을 얻을 수 없었다.
또한, 실제환경과 가상의 객체가 혼합된 증강현실 기술은 사용자가 실제환경을 볼 수 있게 하여 홀로그래피나 3차원 디스플레이 장치에서 얻을 수 없는 현실감을 제공할 수 있지만, 증강현실로 구현되는 영상을 사용자의 동작과 연계시켜 재생시키는데 한계가 있었다.
즉 증강현실로 영상이 재생될 때, 영상의 계속적 진행을 위해서 사용자에 의한 행동이 요구될 경우, 종래의 방식으로는 사용자의 행동을 포착하여 영상의 진행을 처리할 수 있는 기술이 적용되어 있지 않기 때문이다.
대한민국 등록특허공보 제10-1299191호 대한민국 공개특허공보 제10-1998-0050467호
본 발명은, 3차원 모형에 증강현실로 구현되는 영상과 사용자 행동의 상호 작용을 통해 영상 재생을 수행하도록 하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법을 제공한다.
본 발명은, 증강현실로 구현되고 있는 영상을 확인하는 사용자의 행동에 의해 3차원 모형에 고정되는 막대형 물체를 캡처하고, 캡처 정보를 토대로 영상 컨텐츠의 스토리 진행에 따른 재생을 제어하거나 다른 영상 컨텐츠의 중복 재생을 수행하도록 하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법을 제공한다.
본 발명의 일 실시예에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치는, 3차원 모형과, 3차원 모형이 수납되는 테이블과, 테이블에 수납된 3차원 모형에 수직으로 고정되며 적외선 신호를 방출하는 막대형 물체와, 테이블에 수납된 3차원 모형을 촬영하는 3차원 카메라와, 3차원 모형에 고정되는 막대형 물체에서 방출되는 적외선 신호를 캡처하는 적외선 카메라와, 3차원 모형에 사전에 설정되어 있는 영상을 투사하는 프로젝터, 그리고 장치 구동시 3차원 카메라 및 적외선 카메라를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL(Open Graphics Library)을 초기화하여 프로젝터와 동기화하고, 3차원 카메라로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스(vertex) 데이터를 생성한 후 3차원 버텍스 데이터와 3차원 카메라와의 거리를 토대로 렌더링될 색상 및 밝기를 결정하고, 렌더링될 색상 및 밝기의 결정에 따라 기저장되어 있는 영상 컨텐츠를 렌더링하여 프로젝터를 통해 3차원 모형에 투사하도록 제어하고, 영상 컨텐츠를 3차원 모형에 투사하는 과정에서 적외선 카메라로부터 막대형 물체를 캡처한 데이터가 입력되면 막대형 물체의 위치를 확인하며, 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어하는 제어 컴퓨터를 포함할 수 있다.
이때 상술한 제어 컴퓨터는, 3차원 카메라, 적외선 카메라 및 OpenGL 초기화를 처리하고, 3차원 카메라로부터 입력되는 촬영 데이터와 3차원 카메라의 시야각, 왜곡계수를 포함한 내부 파라미터를 기반으로 3차원 버텍스 데이터를 생성하고, 생성된 3차원 버텍스 데이터와 3차원 카메라로부터의 거리정보를 토대로 렌더링될 색상 및 밝기를 결정하며, 렌더링될 색상 및 밝기정보를 토대로 3차원 모형에 투사될 영상을 렌더링하여 프로젝터로 출력하는 영상 처리부와, 테이블에 수납되는 3차원 모형에 대한 정보, 프로젝터를 통해 3차원 모형에 투사되는 다수 개의 영상 컨텐츠를 저장하고 있는 데이터베이스와, 적외선 카메라로부터 막대형 물체의 캡처 데이터가 입력되면 캡처 데이터를 토대로 막대형 물체의 위치를 확인하며, 위치가 확인된 막대형 물체 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 재생되도록 하거나 또는 데이터베이스에 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 하는 적외선 캡처 및 분석부, 그리고 영상 처리부에서의 3차원 카메라, 적외선 카메라 및 OpenGL 초기화 처리, 3차원 카메라로 촬영한 촬영 데이터를 토대로 한 3차원 버텍스 데이터 생성, 3차원 버텍스 데이터를 토대로 한 렌더링될 색상 및 밝기의 결정, 3차원 모형에 투사될 영상의 렌더링을 제어하며, 적외선 캡처 및 분석부에서의 막대형 물체의 위치 확인, 위치가 확인된 막대형 물체 지역으로의 현재 재생중인 영상 컨텐츠의 스토리 진행에 따른 재생 또는 기 설정된 다른 영상 컨텐츠의 중복 재생을 제어하는 제어부를 포함할 수 있다.
그리고 3차원 모형은, 모래를 포함한 입상물로서 실시간 이동이나 변경 조작이 가능하며, 실시간 이동이나 변경에 따라 프로젝터를 통해 변화되는 영상이 투사되는 것이 바람직하다.
그리고 막대형 물체는, 본체, 그리고 본체의 상단부에 구비되며 상부로 적외선 신호를 방출하는 적외선 LED를 포함할 수 있다.
그리고 제어 컴퓨터에서 수행하는 OpenGL 초기화는, 시야각(field of view), 광축의 위치를 포함한 내부 파라미터, 및 3차원 카메라로부터의 상대적 위치, 회전을 포함한 외부 파라미터의 초기화를 토대로 한 프로젝터와의 동기화이다.
또한, 본 발명의 일 실시예에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법은, (1) 제어 컴퓨터는, 장치의 구동이 이루어지면 3차원 모형을 촬영하는 3차원 카메라와 적외선 신호를 캡처하는 적외선 카메라를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL(Open Graphics Library)을 초기화하여 3차원 모형에 영상을 투사하는 프로젝터를 동기화하는 단계와, (2) 제어 컴퓨터는, 3차원 카메라로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스 데이터를 생성하고, 3차원 버텍스 데이터와 3차원 카메라와의 거리를 토대로 렌더링될 색상 및 밝기를 결정하는 단계와, (3) 제어 컴퓨터는, (2) 단계에서 결정된 렌더링될 색상 및 밝기의 결정에 따라 기저장되어 있는 영상 컨텐츠를 렌더링하여 프로젝터를 통해 3차원 모형에 투사하는 단계와, (4) 제어 컴퓨터는, 프로젝터를 통해 3차원 모형에 영상 컨텐츠를 투사하는 과정에서 적외선 카메라로부터 3차원 모형에 수직으로 고정되어 적외선 신호를 방출하는 막대형 물체를 캡처한 데이터가 입력되는지를 판단하는 단계와, (5) (4) 단계의 판단결과 적외선 카메라로부터 막대형 물체를 캡처한 데이터가 입력되면, 제어 컴퓨터는 적외선 카메라로부터 입력되는 캡처 데이터를 토대로 막대형 물체의 위치를 확인하며, 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어하는 단계, 그리고 (6) 제어 컴퓨터는, 3차원 모형에 투사중인 영상 컨텐츠가 종료될 때까지 (2) 단계 이후를 반복 처리하는 단계를 포함할 수 있다.
그리고 (1) 단계는, (1-1) 장치가 구동되면, 제어 컴퓨터는 3차원 모형을 촬영하는 3차원 카메라를 초기화하는 단계와, (1-2) 제어 컴퓨터는, 막대형 물체에서 방출하는 적외선 신호를 캡처하는 적외선 카메라를 초기화하는 단계와, (1-3) 제어 컴퓨터는, 3차원 엔진 구동용 프로그램인 OpenGL을 초기화하는 단계와, (1-4) 제어 컴퓨터는, 시야각, 광축의 위치를 포함한 OpenGL의 내부 파라미터를 초기화하는 단계, 그리고 (1-5) 제어 컴퓨터는, 3차원 카메라로부터의 상대적 위치, 회전을 포함한 OpenGL의 외부 파라미터를 초기화하는 단계를 포함할 수 있다.
그리고 (2) 단계는, (2-1) 제어 컴퓨터는, 3차원 카메라로부터 3차원 모형을 촬영한 촬영 데이터를 수신하는 단계와, (2-2) 제어 컴퓨터는, (2-1) 단계를 통해 수신한 3차원 카메라의 촬영 데이터와 3차원 카메라의 시야각, 왜곡계수를 포함한 내부 파라미터를 기반으로 3차원 버텍스 데이터를 생성하는 단계, 그리고 (2-3) 제어 컴퓨터는, (2-2) 단계에서 생성된 3차원 버텍스 데이터와 3차원 카메라로부터의 거리정보를 토대로 렌더링될 색상 및 밝기를 결정하는 단계를 포함할 수 있다.
그리고 (5) 단계는, (5-1) (4) 단계의 판단결과 적외선 카메라로부터 막대형 물체를 캡처한 데이터가 입력되면, 제어 컴퓨터는 캡처 데이터를 토대로 막대형 물체의 위치를 확인하는 단계와, (5-2) 제어 컴퓨터는, 막대형 물체의 캡처가 이루어지면 기설정되어 있는 3차원 모형에 투사중인 영상 컨텐츠의 재생 규칙을 확인하여 영상 컨텐츠를 변경할 필요가 있는지를 판단하는 단계와, (5-3) (5-2) 단계의 판단결과 영상 컨텐츠의 변경이 필요하지 않으면, 제어 컴퓨터는 (5-1) 단계에서 확인된 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 하는 단계, 그리고 (5-4) (5-2) 단계의 판단결과 영상 컨텐츠의 변경이 필요하면, 제어 컴퓨터는 (5-1) 단계에서 확인된 막대형 물체가 위치한 지역에 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 하는 단계를 포함할 수 있다.
이상에서와 같이 본 발명의 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법에 따르면, 3차원 모형에 증강현실로 구현되는 영상과 사용자 행동의 상호 작용을 통해 영상의 스토리 진행 또는 다른 영상의 중복 재생을 수행할 수 있기 때문에 증강현실을 이용하는 사용자의 재미와 흥미를 고취시켜 영상 컨텐츠의 집중도를 크게 높일 수 있다.
또한, 3차원 영상에 증강현실로 구현되는 영상의 종류나 기획의도에 따라 교육, 게임 등 다양하게 활용할 수 있다.
도 1은 본 발명의 일 실시예에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치의 구성을 개략적으로 나타낸 도면이다.
도 2는 도 1의 제어 컴퓨터의 구성을 상세하게 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법의 동작과정을 나타낸 순서도이다.
도 4 내지 도 6은 도 3의 각 서브루틴의 동작과정을 상세하게 나타낸 순서도이다.
이하, 첨부된 도면을 참조하여 본 발명의 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법을 상세하게 설명한다. 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며, 여기에서 설명하는 실시예에 한정되지 않는다. 명세서 전체를 통하여 유사한 부분에 대해서는 동일한 도면 부호를 붙였다.
도 1은 본 발명의 일 실시예에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치의 구성을 개략적으로 나타낸 도면이다.
도시된 바와 같이 본 발명의 장치는, 3차원 모형(100), 테이블(200), 막대형 물체(300), 3차원 카메라(400), 적외선 카메라(500), 프로젝터(600), 제어 컴퓨터(700) 등으로 구성된다.
3차원 모형(100)은 모래를 포함한 입상물로서, 사용자의 조작에 따라 실시간 이동이나 변경 조작이 가능하며, 실시간 이동이나 변경에 따라 프로젝터(600)를 통해 변화되는 영상이 투사된다.
테이블(200)은 상부가 개방되어 있고, 내부 공간에 3차원 모형(100)이 수납된다.
막대형 물체(300)는 사용자의 조작을 토대로 테이블(200)에 수납된 3차원 모형(100)에 수직으로 고정되며, 적외선 신호를 방출한다.
이때 막대형 물체(300)는 사용자가 손으로 파지할 수 있는 부분으로서 내부에 적외선 LED(320) 구동을 위한 인쇄회로기판, 배터리 등이 구비되는 본체(310)와, 본체(310)의 상단부에 구비되며, 적외선 카메라(500)가 위치하고 있는 상부로 적외선 신호를 방출하는 적외선 LED(320)로 구성된다.
3차원 카메라(400)는 테이블(200)에 수납된 3차원 모형(100)을 촬영하고, 촬영 데이터를 제어 컴퓨터(700)로 출력한다.
적외선 카메라(500)는 3차원 모형(100)에 고정되는 막대형 물체(300)에서 방출되는 적외선 신호를 캡처하며, 캡처 데이터를 제어 컴퓨터(700)로 출력한다.
프로젝터(600)는 제어 컴퓨터(700)의 제어를 토대로 3차원 모형(100)에 사전에 설정되어 있는 영상을 투사한다.
제어 컴퓨터(700)는 장치 구동시 3차원 카메라(400) 및 적외선 카메라(500)를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL을 초기화하여 프로젝터(600)와 동기화한다. 그리고 3차원 카메라(400)로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스 데이터를 생성한 후 3차원 버텍스 데이터와 3차원 카메라(400)와의 거리를 토대로 렌더링될 색상 및 밝기를 결정(예를 들어, 촬영 데이터를 각 픽셀별로 사전에 정해진 영상 데이터에 따라 깊이, 모양, 색상 등으로 치환하는 작업)하며, 렌더링될 색상 및 밝기의 결정에 따라 기저장되어 있는 영상 컨텐츠를 렌더링하여 프로젝터(600)를 통해 3차원 모형(100)에 투사하도록 제어한다.
그리고 제어 컴퓨터(700)는 영상 컨텐츠를 3차원 모형(100)에 투사하는 과정에서 적외선 카메라(500)로부터 막대형 물체(300)를 캡처한 데이터가 입력되면, 이를 토대로 막대형 물체(300)의 위치를 확인하며, 막대형 물체(300)가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어한다.
예를 들어, 사용자가 막대형 물체(300)를 모래 등으로 된 3차원 모형(100)의 특정 위치에 꽂는 행위를 수행하면, 제어 컴퓨터(700)에서 이를 확인하여 사용자의 행동에 맞는 인터랙션(interaction)을 구현할 수 있도록 하는 것이다. 이러한 인터랙션은 향후 게임 등에 활용하여 이용할 수 있다.
이때 제어 컴퓨터(700)에서 수행하는 OpenGL 초기화는, 시야각, 광축의 위치를 포함한 내부 파라미터, 및 3차원 카메라로부터의 상대적 위치, 회전을 포함한 외부 파라미터의 초기화를 토대로 한 프로젝터(600)와의 동기화이다. 이와 같이 OpenGL 초기화를 수행하는 이유는 프로젝터(600)의 광축이 3차원 카메라(400)의 광축에 대비하여 뒤틀려 있기 때문이다. 즉 프로젝터(600)는 수평방향의 광축을 기준으로 할 때 상부 방향으로 치우쳐 영상을 투사하는 반면, 3차원 카메라(400)는 수평방향의 광축을 기준으로 상하 일정한 폭으로 영상을 촬영하기 때문에 광축의 차이가 발생되어 이를 조정하기 위함이다.
도 2는 상술한 도 1의 제어 컴퓨터(700)의 구성을 보다 상세하게 나타낸 도면이다.
도시된 바와 같이 본 발명의 제어 컴퓨터(700)는, 영상 처리부(710), 적외선 캡처 및 분석부(720), 데이터베이스(730), 제어부(740) 등으로 구성된다.
영상 처리부(710)는 3차원 카메라(400), 적외선 카메라(500) 및 OpenGL 초기화를 처리하고, 3차원 카메라(400)로부터 입력되는 촬영 데이터와 3차원 카메라(400)의 시야각, 왜곡계수를 포함한 내부 파라미터를 기반으로 3차원 버텍스 데이터를 생성하고, 생성된 3차원 버텍스 데이터와 3차원 카메라로부터의 거리정보를 토대로 렌더링될 색상 및 밝기를 결정하며, 렌더링될 색상 및 밝기정보를 토대로 3차원 모형(100)에 투사될 영상을 렌더링하여 프로젝터(600)로 출력한다.
적외선 캡처 및 분석부(720)는 적외선 카메라(500)로부터 막대형 물체(300)의 캡처 데이터가 입력되면, 해당 캡처 데이터를 토대로 막대형 물체(300)가 위치하는 지역을 확인하며, 위치가 확인된 막대형 물체(300) 부근에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 재생되도록 하거나 또는 데이터베이스(730)에 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 처리한다.
데이터베이스(730)는 테이블(200)에 수납되는 3차원 모형(100)에 대한 정보, 프로젝터(600)를 통해 3차원 모형(100)에 투사되는 다수 개의 영상 컨텐츠를 저장하고 있다.
제어부(740)는 영상 처리부(710)에서의 3차원 카메라(400), 적외선 카메라(500) 및 OpenGL 초기화 처리, 3차원 카메라(400)로 촬영한 촬영 데이터를 토대로 한 3차원 버텍스 데이터 생성, 3차원 버텍스 데이터를 토대로 한 렌더링될 색상 및 밝기의 결정, 3차원 모형(100)에 투사될 영상의 렌더링을 제어한다. 그리고 적외선 캡처 및 분석부(720)에서의 막대형 물체(300)의 위치 확인, 위치가 확인된 막대형 물체(300) 지역으로의 현재 재생중인 영상 컨텐츠의 스토리 진행에 따른 재생 또는 기 설정된 다른 영상 컨텐츠의 중복 재생을 제어한다.
다음에는, 이와 같이 구성된 본 발명에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법의 일 실시예를 도 3 내지 도 6을 참조하여 상세하게 설명한다. 이때 본 발명의 방법에 따른 각 단계는 사용 환경이나 당업자에 의해 순서가 변경될 수 있다.
도 3 내지 도 6은 본 발명의 일 실시예에 따른 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법의 동작과정을 상세하게 나타낸 순서도이다.
우선, 제어 컴퓨터(700)는 장치의 구동이 이루어지면 3차원 모형(100)을 촬영하는 3차원 카메라(400)와 적외선 신호를 캡처하는 적외선 카메라(500)를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL을 초기화하여 3차원 모형(100)에 영상을 투사하는 프로젝터(600)를 동기화한다(S100).
이를 도 4를 참조하여 구체적으로 설명하면, 전원공급 등을 토대로 장치가 구동을 시작하면 제어 컴퓨터(700)는 3차원 모형(100)을 촬영하는 3차원 카메라(400)를 초기화한다(S110).
그리고 제어 컴퓨터(700)는 막대형 물체(300)에서 방출하는 적외선 신호를 캡처하는 적외선 카메라(500)를 초기화한다(S120).
그리고 제어 컴퓨터(700)는 3차원 엔진 구동용 프로그램인 OpenGL을 초기화한다(S130).
OpenGL을 초기화할 때 제어 컴퓨터(700)는 시야각, 광축의 위치를 포함한 OpenGL의 내부 파라미터를 초기화한 후(S140), 3차원 카메라(400)로부터의 상대적 위치, 회전을 포함한 OpenGL의 외부 파라미터를 초기화한다(S150).
S100 단계를 통해 3차원 카메라(400), 적외선 카메라(500) 및 OpenGL을 초기화한 이후, 제어 컴퓨터(700)는 3차원 카메라(400)로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스 데이터를 생성하고, 3차원 버텍스 데이터와 3차원 카메라(400)와의 거리를 토대로 렌더링될 색상 및 밝기를 결정한다(S200).
이를 도 5를 참조하여 구체적으로 설명하면, 제어 컴퓨터(700)는 3차원 카메라(400)로부터 3차원 모형(100)을 촬영한 촬영 데이터를 수신하고(S210), S210 단계를 통해 수신한 3차원 카메라(400)의 촬영 데이터와 3차원 카메라(400)의 시야각, 왜곡계수를 포함한 내부 파라미터를 기반으로 3차원 버텍스 데이터를 생성한다(S220).
이후 제어 컴퓨터(700)는 S220 단계에서 생성된 3차원 버텍스 데이터와 3차원 카메라(400)로부터의 거리정보를 토대로 렌더링될 색상 및 밝기를 결정한다(S230).
S200 단계를 통해 3차원 버텍스 데이터의 생성 및 렌더링될 색상/밝기를 결정한 이후, 제어 컴퓨터(700)는 기저장되어 있는 영상 컨텐츠를 렌더링하여 프로젝터(600)를 통해 3차원 모형(100)에 투사한다(S300).
한편, 제어 컴퓨터(700)는 프로젝터(600)를 통해 3차원 모형(100)에 영상 컨텐츠를 투사하는 과정에서 적외선 카메라(500)로부터 3차원 모형(100)에 수직으로 고정되어 적외선 신호를 방출하는 막대형 물체(300)를 캡처한 데이터가 입력되는지를 판단한다(S400).
S400 단계의 판단결과 적외선 카메라(500)로부터 막대형 물체(300)를 캡처한 데이터가 입력되면, 제어 컴퓨터(700)는 적외선 카메라(500)로부터 입력되는 캡처 데이터를 토대로 막대형 물체(300)의 위치를 확인하며, 막대형 물체(300)가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어한다(S500).
이를 도 6을 참조하여 구체적으로 설명하면, S400 단계의 판단결과 적외선 카메라(500)로부터 막대형 물체(300)를 캡처한 데이터가 입력되면, 제어 컴퓨터(700)는 캡처 데이터를 토대로 막대형 물체(300)의 위치를 확인한다(S510).
이후 제어 컴퓨터(700)는 막대형 물체(300)의 캡처가 이루어지면 기설정되어 있는 3차원 모형(100)에 투사중인 영상 컨텐츠의 재생 규칙을 확인하여 영상 컨텐츠를 변경할 필요가 있는지를 판단한다(S520).
S520 단계의 판단결과 영상 컨텐츠의 변경이 필요하지 않으면, 제어 컴퓨터(700)는 S510 단계에서 확인된 막대형 물체(300)가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 한다(S530).
그러나 S520 단계의 판단결과 영상 컨텐츠의 변경이 필요하면, 제어 컴퓨터(700)는 S510 단계에서 확인된 막대형 물체(300)가 위치한 지역에 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 한다(S540).
마지막으로, 제어 컴퓨터(700)는 3차원 모형(100)에 투사중인 영상 컨텐츠가 종료될 때까지 S200 단계 이후를 반복 처리한다(S700).
이처럼, 본 발명은 사용자에 의해 3차원 모형에 고정되는 막대형 물체의 캡처를 토대로 증강현실로 구현되는 영상 컨텐츠의 스토리 진행에 대한 재생을 제어하거나 다른 영상의 중복 재생을 제어하기 때문에 사용자의 관심 및 집중도를 크게 높일 수 있다.
또한, 본 발명은 3차원 영상에 증강현실로 구현되는 영상의 종류나 기획의도에 따라 교육, 게임 등 다양하게 활용할 수 있다.
여기에서, 상술한 본 발명에서는 바람직한 실시예를 참조하여 설명하였지만, 해당 기술분야의 숙련된 당업자는 하기의 특허청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경할 수 있음을 이해할 수 있을 것이다.
100 : 3차원 모형
200 : 테이블
300 : 막대형 물체
310 : 본체
320 : 적외선 LED
400 : 3차원 카메라
500 : 적외선 카메라
600 : 프로젝터
700 : 제어 컴퓨터
710 : 영상 처리부
720 : 적외선 캡처 및 분석부
730 : 데이터베이스
740 : 제어부

Claims (9)

  1. 3차원 모형,
    상기 3차원 모형이 수납되는 테이블,
    상기 테이블에 수납된 상기 3차원 모형에 수직으로 고정되며, 적외선 신호를 방출하는 막대형 물체,
    상기 테이블에 수납된 상기 3차원 모형을 촬영하는 3차원 카메라,
    상기 3차원 모형에 고정되는 상기 막대형 물체에서 방출되는 적외선 신호를 캡처하는 적외선 카메라,
    상기 3차원 모형에 사전에 설정되어 있는 영상을 투사하는 프로젝터, 그리고
    장치 구동시 상기 3차원 카메라 및 상기 적외선 카메라를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL(Open Graphics Library)을 초기화하여 상기 프로젝터와 동기화하고, 상기 3차원 카메라로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스(vertex) 데이터를 생성한 후 상기 3차원 버텍스 데이터와 상기 3차원 카메라와의 거리를 토대로 렌더링될 색상 및 밝기를 결정하고, 렌더링될 색상 및 밝기의 결정에 따라 기저장되어 있는 영상 컨텐츠를 렌더링하여 상기 프로젝터를 통해 상기 3차원 모형에 투사하도록 제어하고, 상기 영상 컨텐츠를 상기 3차원 모형에 투사하는 과정에서 상기 적외선 카메라로부터 상기 막대형 물체를 캡처한 데이터가 입력되면 상기 막대형 물체의 위치를 확인하며, 상기 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어하는 제어 컴퓨터를 포함하되,
    상기 제어 컴퓨터에서 수행하는 OpenGL 초기화는,
    시야각(field of view), 광축의 위치를 포함한 내부 파라미터, 및 3차원 카메라로부터의 상대적 위치, 회전을 포함한 외부 파라미터의 초기화를 토대로 상기 프로젝터와 동기화하는 것임을 특징으로 하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치.
  2. 제 1 항에 있어서,
    상기 제어 컴퓨터는,
    상기 3차원 카메라, 상기 적외선 카메라 및 OpenGL 초기화를 처리하고, 상기 3차원 카메라로부터 입력되는 촬영 데이터와 상기 3차원 카메라의 시야각, 왜곡계수를 포함한 내부 파라미터를 기반으로 3차원 버텍스 데이터를 생성하고, 생성된 상기 3차원 버텍스 데이터와 상기 3차원 카메라로부터의 거리정보를 토대로 렌더링될 색상 및 밝기를 결정하며, 렌더링될 색상 및 밝기정보를 토대로 상기 3차원 모형에 투사될 영상을 렌더링하여 상기 프로젝터로 출력하는 영상 처리부,
    상기 테이블에 수납되는 상기 3차원 모형에 대한 정보, 상기 프로젝터를 통해 상기 3차원 모형에 투사되는 다수 개의 영상 컨텐츠를 저장하고 있는 데이터베이스,
    상기 적외선 카메라로부터 상기 막대형 물체의 캡처 데이터가 입력되면 상기 캡처 데이터를 토대로 상기 막대형 물체의 위치를 확인하며, 위치가 확인된 상기 막대형 물체 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 재생되도록 하거나 또는 상기 데이터베이스에 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 하는 적외선 캡처 및 분석부, 그리고
    상기 영상 처리부에서의 상기 3차원 카메라, 상기 적외선 카메라 및 OpenGL 초기화 처리, 상기 3차원 카메라로 촬영한 촬영 데이터를 토대로 한 3차원 버텍스 데이터 생성, 3차원 버텍스 데이터를 토대로 한 렌더링될 색상 및 밝기의 결정, 상기 3차원 모형에 투사될 영상의 렌더링을 제어하며, 상기 적외선 캡처 및 분석부에서의 상기 막대형 물체의 위치 확인, 위치가 확인된 상기 막대형 물체 지역으로의 현재 재생중인 영상 컨텐츠의 스토리 진행에 따른 재생 또는 기 설정된 다른 영상 컨텐츠의 중복 재생을 제어하는 제어부
    를 포함하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치.
  3. 제 1 항에 있어서,
    상기 3차원 모형은,
    모래를 포함한 입상물로서 실시간 이동이나 변경 조작이 가능하며, 실시간 이동이나 변경에 따라 상기 프로젝터를 통해 변화되는 영상이 투사되는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치.
  4. 제 1 항에 있어서,
    상기 막대형 물체는,
    본체, 그리고
    상기 본체의 상단부에 구비되며 상부로 적외선 신호를 방출하는 적외선 LED
    를 포함하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치.
  5. 삭제
  6. (1) 제어 컴퓨터는, 장치의 구동이 이루어지면 3차원 모형을 촬영하는 3차원 카메라와 적외선 신호를 캡처하는 적외선 카메라를 초기화하고, 기 저장된 3차원 엔진 구동용 프로그램인 OpenGL(Open Graphics Library)을 초기화하여 상기 3차원 모형에 영상을 투사하는 프로젝터를 동기화하는 단계,
    (2) 상기 제어 컴퓨터는, 상기 3차원 카메라로부터 입력되는 촬영 데이터를 토대로 3차원 버텍스 데이터를 생성하고, 상기 3차원 버텍스 데이터와 상기 3차원 카메라와의 거리를 토대로 렌더링될 색상 및 밝기를 결정하는 단계,
    (3) 상기 제어 컴퓨터는, 상기 (2) 단계에서 결정된 렌더링될 색상 및 밝기의 결정에 따라 기저장되어 있는 영상 컨텐츠를 렌더링하여 상기 프로젝터를 통해 상기 3차원 모형에 투사하는 단계,
    (4) 상기 제어 컴퓨터는, 상기 프로젝터를 통해 상기 3차원 모형에 영상 컨텐츠를 투사하는 과정에서 적외선 카메라로부터 상기 3차원 모형에 수직으로 고정되어 적외선 신호를 방출하는 막대형 물체를 캡처한 데이터가 입력되는지를 판단하는 단계,
    (5) 상기 (4) 단계의 판단결과 상기 적외선 카메라로부터 상기 막대형 물체를 캡처한 데이터가 입력되면, 상기 제어 컴퓨터는 상기 적외선 카메라로부터 입력되는 캡처 데이터를 토대로 상기 막대형 물체의 위치를 확인하며, 상기 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 제어하거나 또는 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 제어하는 단계, 그리고
    (6) 상기 제어 컴퓨터는, 상기 3차원 모형에 투사중인 영상 컨텐츠가 종료될 때까지 상기 (2) 단계 이후를 반복 처리하는 단계를 포함하되,
    상기 (1) 단계는,
    (1-1) 장치가 구동되면, 상기 제어 컴퓨터는 상기 3차원 모형을 촬영하는 상기 3차원 카메라를 초기화하는 단계,
    (1-2) 상기 제어 컴퓨터는, 상기 막대형 물체에서 방출하는 적외선 신호를 캡처하는 적외선 카메라를 초기화하는 단계,
    (1-3) 상기 제어 컴퓨터는, 3차원 엔진 구동용 프로그램인 OpenGL을 초기화하는 단계,
    (1-4) 상기 제어 컴퓨터는, 시야각(field of view), 광축의 위치를 포함한 OpenGL의 내부 파라미터를 초기화하는 단계, 그리고
    (1-5) 상기 제어 컴퓨터는, 상기 3차원 카메라로부터의 상대적 위치, 회전을 포함한 OpenGL의 외부 파라미터를 초기화하는 단계
    를 포함하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법.
  7. 삭제
  8. 제 6 항에 있어서,
    상기 (2) 단계는,
    (2-1) 상기 제어 컴퓨터는, 상기 3차원 카메라로부터 상기 3차원 모형을 촬영한 촬영 데이터를 수신하는 단계,
    (2-2) 상기 제어 컴퓨터는, 상기 (2-1) 단계를 통해 수신한 상기 3차원 카메라의 촬영 데이터와 상기 3차원 카메라의 시야각, 왜곡계수를 포함한 내부 파라미터를 기반으로 3차원 버텍스 데이터를 생성하는 단계, 그리고
    (2-3) 상기 제어 컴퓨터는, 상기 (2-2) 단계에서 생성된 상기 3차원 버텍스 데이터와 상기 3차원 카메라로부터의 거리정보를 토대로 렌더링될 색상 및 밝기를 결정하는 단계
    를 포함하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법.
  9. 제 6 항에 있어서,
    상기 (5) 단계는,
    (5-1) 상기 (4) 단계의 판단결과 상기 적외선 카메라로부터 상기 막대형 물체를 캡처한 데이터가 입력되면, 상기 제어 컴퓨터는 상기 캡처 데이터를 토대로 상기 막대형 물체의 위치를 확인하는 단계,
    (5-2) 상기 제어 컴퓨터는, 상기 막대형 물체의 캡처가 이루어지면 기설정되어 있는 상기 3차원 모형에 투사중인 영상 컨텐츠의 재생 규칙을 확인하여 영상 컨텐츠를 변경할 필요가 있는지를 판단하는 단계,
    (5-3) 상기 (5-2) 단계의 판단결과 영상 컨텐츠의 변경이 필요하지 않으면, 상기 제어 컴퓨터는 상기 (5-1) 단계에서 확인된 상기 막대형 물체가 위치한 지역에 현재 재생중인 영상 컨텐츠를 스토리 진행에 따라 계속 재생되도록 하는 단계, 그리고
    (5-4) 상기 (5-2) 단계의 판단결과 영상 컨텐츠의 변경이 필요하면, 상기 제어 컴퓨터는 상기 (5-1) 단계에서 확인된 상기 막대형 물체가 위치한 지역에 기 설정되어 있는 다른 영상 컨텐츠가 중복 재생되도록 하는 단계
    를 포함하는 증강현실 환경에서의 막대형 물체를 캡처하기 위한 방법.
KR1020160010738A 2016-01-28 2016-01-28 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법 KR101895281B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160010738A KR101895281B1 (ko) 2016-01-28 2016-01-28 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160010738A KR101895281B1 (ko) 2016-01-28 2016-01-28 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20170090186A KR20170090186A (ko) 2017-08-07
KR101895281B1 true KR101895281B1 (ko) 2018-09-05

Family

ID=59653746

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160010738A KR101895281B1 (ko) 2016-01-28 2016-01-28 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법

Country Status (1)

Country Link
KR (1) KR101895281B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108107992A (zh) * 2017-12-29 2018-06-01 广州增强信息科技有限公司 一种增强现实互动桌

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100393185B1 (ko) 1996-12-20 2004-01-24 삼성전자주식회사 삼차원구조 데이터와 그래픽스 오브젝트의 합성장치 및 그 방법
KR101299191B1 (ko) * 2011-12-20 2013-08-21 최완섭 3차원 모형에 영상을 투사하는 장치 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Tutorials for modern OpenGL (3.3+), [online] 2015.03.15, [2017.06.25. 검색], [URL:http://web.archive.org/web/20150315023853/http://www.opengl-tutorial.org/beginners-tutorials/tutorial-8-basic-shading/]*

Also Published As

Publication number Publication date
KR20170090186A (ko) 2017-08-07

Similar Documents

Publication Publication Date Title
US11863845B2 (en) Geometry matching in virtual reality and augmented reality
US10652522B2 (en) Varying display content based on viewpoint
US9710972B2 (en) Immersion photography with dynamic matte screen
US10692288B1 (en) Compositing images for augmented reality
US10963140B2 (en) Augmented reality experience creation via tapping virtual surfaces in augmented reality
US7796134B2 (en) Multi-plane horizontal perspective display
KR101793192B1 (ko) 다수의 프로젝터를 이용한 증강현실 구현장치 및 그 방법
US20050219695A1 (en) Horizontal perspective display
US20210038975A1 (en) Calibration to be used in an augmented reality method and system
KR101713875B1 (ko) 프로젝터 투사 환경하에서의 사용자 시점을 고려한 가상공간 구현 방법 및 시스템
US20060250390A1 (en) Horizontal perspective display
KR101757627B1 (ko) 3차원 모형을 이용한 증강현실 환경의 프로젝션 영역에서의 마커 트래킹 장치 및 그 방법
Marner et al. Exploring interactivity and augmented reality in theater: A case study of Half Real
US20210407174A1 (en) Rendering images for non-standard display devices
KR101895281B1 (ko) 증강현실 환경에서의 막대형 물체를 캡처하기 위한 장치 및 그 방법
US11287658B2 (en) Picture processing device, picture distribution system, and picture processing method
KR101779390B1 (ko) 고정된 조형물과 유동형 3차원 모형을 이용한 증강현실 구현장치 및 그 방법
KR101800612B1 (ko) 3차원 모형을 이용한 증강현실 환경에서의 진동발생장치 및 그 방법
KR20170090600A (ko) 증강현실 구현을 위한 입체형상 구축장치 및 그 방법
US11682175B2 (en) Previsualization devices and systems for the film industry
WO2015156128A1 (ja) 表示制御装置、表示制御方法、及び、プログラム
GB2586831A (en) Three-Dimensional Content Generation using real-time video compositing
WO2020149146A1 (ja) 画像処理装置、画像処理方法、及び、プログラム
WO2023049870A1 (en) Selfie volumetric video
Hough Towards achieving convincing live interaction in a mixed reality environment for television studios

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant