KR101923322B1 - 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법 - Google Patents

이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법 Download PDF

Info

Publication number
KR101923322B1
KR101923322B1 KR1020170152049A KR20170152049A KR101923322B1 KR 101923322 B1 KR101923322 B1 KR 101923322B1 KR 1020170152049 A KR1020170152049 A KR 1020170152049A KR 20170152049 A KR20170152049 A KR 20170152049A KR 101923322 B1 KR101923322 B1 KR 101923322B1
Authority
KR
South Korea
Prior art keywords
high
user
image data
wide
user interface
Prior art date
Application number
KR1020170152049A
Other languages
English (en)
Inventor
우운택
김기홍
전준기
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020170152049A priority Critical patent/KR101923322B1/ko
Application granted granted Critical
Publication of KR101923322B1 publication Critical patent/KR101923322B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS, OR APPARATUS
    • G02B27/00Other optical systems; Other optical apparatus
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video

Abstract

본 발명은 이동형 디바이스에 포함된 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠에 대한 사용자의 시선을 유도하는 시스템 및 그 방법에 관한 것으로, 이동형 디바이스의 움직임과 사용자 시선의 움직임의 불일치로 인하여 발생되는 문제점을 해결하기 위해, 사용자에게 적절한 사용자 인터페이스와 가상현실 콘텐츠를 동시에 제공할 수 있다.

Description

이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법{SYSTEM FOR LEADING OF USER GAZE USING A MOBILE DEVICE AND THE METHOD THEREOF}

본 발명은 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법에 관한 것으로, 보다 상세하게는 이동형 디바이스에 포함된 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠에 대한 사용자의 시선을 유도하는 기술에 관한 것이다.

실내 공간에 증강현실 기술을 적용한 가상현실 콘텐츠(Contents)에 대한 기술이 증가하고 있다. 이 때, 실내 공간을 이해하는 기술들을 증강현실에서 효과적으로 이용하기 위해서는 실내 공간에 대한 공간정보를 유지하고, 사용자가 소지하는 헤드 마운트 디스플레이(Head Mounted Display; HMD)의 위치 및 자세를 공간정보를 통해 실시간으로 정확하게 추정해야 한다.

다만, 증강현실 기술을 적용한 실내 공간에서, 고화질의 가상현실 콘텐츠를 촬영하기 위해서는 값비싼 장비가 필요하다.

최근에는 고화질 카메라 외에, 광각 카메라가 추가로 부착된 이동형 디바이스가 보편화되고 있다. 상기 두 종류의 카메라를 상보적으로 활용한다면, 누구나 특별한 장비 없이 가상현실 콘텐츠를 촬영할 수 있으며, 그에 따른 가상현실 콘텐츠에 관련된 기술을 이용할 수 있다. 또한, 상기 고화질 카메라는 주요 관심 영역을 촬영하고, 상기 광각 카메라는 주변 영역을 촬영하므로, 주요 관심 영역은 고가의 장비로 촬영한 것과 같은 고화질 제작이 가능하다.

그러나, 이동형 디바이스를 이용하여 제작된 가상현실 콘텐츠를 사용자에게 제공하는 경우, 디바이스의 움직임에 따라 촬영된 영상이 함께 이동해야 한다. 따라서, 사용자 시선의 움직임과 이동형 디바이스의 움직임이 맞지 않을 경우, 사용자의 시선이 고화질 카메라로 촬영된 주요 관심 영역을 벗어나게 되므로, 광각 카메라로 촬영된 주변 부분에 머물게 된다는 문제점이 존재하였다.

한국공개특허 제10­2017­0044319호(2017.04.25. 공개), "헤드 마운트 디스플레이의 시야 확장 방법"

본 발명의 목적은 이동형 디바이스에 장착된 고화질 카메라 및 광각 카메라를 상보적으로 이용하여 가상현실 콘텐츠를 사용자에게 제공하고자 한다.

또한, 본 발명의 목적은 이동형 디바이스의 움직임과 사용자 시선의 움직임의 불일치로 인하여 발생되는 문제점을 해결하기 위해, 사용자에게 적절한 사용자 인터페이스와 가상현실 콘텐츠를 동시에 제공하고자 한다.

본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템은 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스, 상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터, 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 합성한 합성 데이터를 생성하고, 상기 이동형 디바이스의 움직임을 추적하는 획득부 및 상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 사용자 인터페이스 제공부를 포함한다.

상기 이동형 디바이스는 상기 가상현실 콘텐츠를 포함하여 주변 환경을 촬영하는 상기 광각 카메라 및 중요 영역을 집중적으로 촬영하는 상기 고화질 카메라를 포함할 수 있다.

상기 이동형 디바이스는 사용자의 움직임에 따른 상기 고화질 카메라 및 상기 광각 카메라로부터 촬영된 상기 고화질 영상 데이터, 및 상기 광각 영상 데이터와, 상기 가상현실 콘텐츠(Virtual reality contents)를 포함하는 영상을 획득할 수 있다.

상기 획득부는 상기 고화질 카메라 및 상기 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용하여 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 합성할 수 있다.

상기 획득부는 상기 가상현실 콘텐츠를 기반으로, 상기 이동형 디바이스로부터 수신되는 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 통해 상기 이동형 디바이스의 움직임을 추적할 수 있다.

상기 사용자 인터페이스 제공부는 상기 합성 데이터 및 상기 움직임 추적 결과에 따라, 사용자의 시선이 상기 고화질 카메라로부터 촬영된 상기 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 상기 사용자 인터페이스를 제공할 수 있다.

상기 사용자 인터페이스 제공부는 상기 고화질 영상 데이터의 움직임에 따라 사용자의 시선이 이동하도록 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 제공하여 사용자의 시선이 상기 고화질 영상 데이터의 영역에 머물도록 유도할 수 있다.

상기 사용자 인터페이스 제공부는 상기 가상현실 콘텐츠에서, 시간의 흐름에 따른 상기 고화질 영상 데이터의 궤적을 제공하기 위해 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 포함하는 상기 사용자 인터페이스를 제공할 수 있다.

본 발명의 실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템은 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스, 상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터, 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 합성한 합성 데이터를 생성하고, 상기 이동형 디바이스의 움직임을 추적하는 획득부, 상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 사용자 인터페이스 제공부 및 상기 가상현실 콘텐츠 상에 상기 사용자 인터페이스를 디스플레이하는 디스플레이부를 포함한다.

상기 디스플레이부는 상기 가상현실 콘텐츠를 제공하는 공간에 위치하는 디스플레이 기기로 상기 가상현실 콘텐츠 및 상기 사용자 인터페이스를 디스플레이할 수 있다.

상기 디스플레이 기기는 HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 디지털 디스플레이, 액정 디스플레이 및 모니터 중 적어도 어느 하나 이상일 수 있다.

본 발명이 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템의 동작 방법에 있어서, 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스로부터, 상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 수신하여 합성 데이터를 합성하고, 상기 이동형 디바이스의 움직임을 추적하는 단계 및 상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 단계를 포함한다.

상기 합성 데이터를 합성하고, 이동형 디바이스의 움직임을 추적하는 단계는 상기 고화질 카메라 및 상기 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용하여 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 합성할 수 있다.

상기 합성 데이터를 합성하고, 이동형 디바이스의 움직임을 추적하는 단계는 상기 가상현실 콘텐츠를 기반으로, 상기 이동형 디바이스로부터 수신되는 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 통해 상기 이동형 디바이스의 움직임을 추적할 수 있다.

상기 사용자 인터페이스를 제공하는 단계는 상기 합성 데이터 및 상기 움직임 추적 결과에 따라, 사용자의 시선이 상기 고화질 카메라로부터 촬영된 상기 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 상기 사용자 인터페이스를 제공할 수 있다.

상기 사용자 인터페이스를 제공하는 단계는 상기 고화질 영상 데이터의 움직임에 따라 사용자의 시선이 이동하도록 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 제공하여 사용자의 시선이 상기 고화질 영상 데이터의 영역에 머물도록 유도할 수 있다.

상기 사용자 인터페이스를 제공하는 단계는 상기 가상현실 콘텐츠에서, 시간의 흐름에 따른 상기 고화질 영상 데이터의 궤적을 제공하기 위해 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 포함하는 상기 사용자 인터페이스를 제공할 수 있다.

본 발명의 실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템의 동작 방법에 있어서, 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스로부터, 상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 수신하여 합성 데이터를 합성하고, 상기 이동형 디바이스의 움직임을 추적하는 단계, 상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 단계 및 상기 가상현실 콘텐츠 상에 상기 사용자 인터페이스를 디스플레이하는 단계를 포함한다.

상기 사용자 인터페이스를 디스플레이하는 단계는 상기 가상현실 콘텐츠를 제공하는 공간 내 HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 디지털 디스플레이, 액정 디스플레이 및 모니터 중 적어도 어느 하나 이상의 디스플레이 기기로 상기 가상현실 콘텐츠 및 상기 사용자 인터페이스를 디스플레이할 수 있다.

본 발명의 실시예에 따르면, 이동형 디바이스에 장착된 고화질 카메라 및 광각 카메라를 상보적으로 이용하여 가상현실 콘텐츠를 사용자에게 제공할 수 있다.

또한, 본 발명의 실시예에 따르면, 이동형 디바이스의 움직임과 사용자 시선의 움직임의 불일치로 인하여 발생되는 문제점을 해결하기 위해, 사용자에게 적절한 사용자 인터페이스와 가상현실 콘텐츠를 동시에 제공할 수 있다.

도 1은 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템의 세부 구성에 대한 블록도를 도시한 것이다.
도 2는 본 발명의 일실시예에 따른 사용자 시선 유도 시스템을 이용하여 사용자의 시선을 유도하기 위한 사용자 인터페이스를 제공하는 과정 예를 도시한 것이다.
도 3은 본 발명의 일실시예에 따른 광각 영상 데이터 및 고화질 영상 데이터의 촬영 예를 도시한 것이다.
도 4는 본 발명의 일실시예에 따른 광각 영상 데이터 및 고화질 영상 데이터의 합성 예를 도시한 것이다.
도 5는 본 발명의 일실시예에 따른 가상현실 콘텐츠 및 사용자 인터페이스의 디스플레이 예를 도시한 것이다.
도 6은 사용자의 시선에 따른 사용자 인터페이스를 제공하는 예를 도시한 것이다.
도 7은 본 발명의 일실시예에 따른 360도 가상현실 콘텐츠를 제공하는 사용자 시선 유도 시스템의 예를 도시한 것이다.
도 8은 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 방법에 대한 흐름도를 도시한 것이다.

이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.

또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 시청자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.

본 발명은 이동형 디바이스에 장착된 고화질 카메라 및 광각 카메라를 상보적으로 이용하여 제작한 가상현실 콘텐츠를 사용자에게 보다 효과적으로 제공하기 위한 기술에 관한 것으로, 사용자에게 적절한 사용자 인터페이스(User Interface; UI)를 가상현실 콘텐츠와 함께 제공함으로써, 이동형 디바이스의 움직임과 사용자 시선의 움직임 간의 불일치로 인하여 사용자의 시선이 고화질 카메라로 촬영된 관심 영역(이하에서는 '고화질 영상 데이터'라 칭함) 바깥으로 벗어나는 문제를 해결하는 것을 그 요지로 한다.

이하에서는, 본 발명의 일실시예에 따른 이동형 디바이스, 획득부 및 사용자 인터페이스 제공부를 포함하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법과, 본 발명의 실시예에 따른 이동형 디바이스, 획득부, 사용자 인터페이스 제공부 및 디스플레이부를 포함하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법에 대해, 도 1 내지 도 8을 참조하여 보다 상세히 설명하고자 한다.

도 1은 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템의 세부 구성에 대한 블록도를 도시한 것이다.

도 1을 참조하면, 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템은 이동형 디바이스에 포함된 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠에 대한 사용자의 시선을 유도한다.

이를 위해, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템(100)은 이동형 디바이스(110), 획득부(120) 및 사용자 인터페이스 제공부(130)를 포함한다.

이동형 디바이스(110)는 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득한다.

본 발명에서 사용되는 이동형 디바이스(110)는 사용자가 소지하는 PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet), 웨어러블 컴퓨터(wearable computer) 중 적어도 어느 하나일 수 있으며, 가상현실 콘텐츠를 포함하여 주변 환경을 촬영하는 광각 카메라 및 가상현실 콘텐츠 중 중요 영역을 집중적으로 촬영하는 고화질 카메라를 포함하는 기기인 것을 특징으로 한다.

예를 들면, 공간 내 사용자는 이동형 디바이스(110)를 소지하여 이동에 따른 영상 가상현실 콘텐츠를 획득할 수 있다. 이 때, 이동형 디바이스(110)는 사용자의 움직임에 따른 고화질 카메라 및 광각 카메라로부터 촬영된 고화질 영상 데이터 및 광각 영상 데이터와, 가상현실 콘텐츠(Virtual reality contents)를 포함하는 영상을 획득할 수 있다. 이 때, 고화질 영상 데이터는 고화질 카메라를 이용하여 가상현실 콘텐츠 중 중요 영역을 집중적으로 촬영한 영상 데이터를 의미하며, 광각 영상 데이터는 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 주변 환경을 촬영한 영상 데이터를 의미한다.

실시예에 따라서, 사용자는 가상현실 콘텐츠를 제공하는 공간 내 디스플레이 화면에서 자체적으로 혹은 이동형 디바이스(110)를 통해 콘텐츠가 표시되는 영역을 시청하는 것으로, 해당 영역은 이동형 디바이스(110)를 통해 시각적으로 사용자에게 서비스되는 모든 화면 디스플레이 서비스와, 인터넷을 통한 멀티미디어 서비스 및 사용자가 광각 카메라 및 고화질 카메라를 통해 현재 시각적으로 관찰되는 예컨대, 이동형 디바이스(110)로부터 디스플레이되는 혹은 사용자의 시선 이동에 따라 입력되는 영상 정보가 디스플레이될 수 있다.

획득부(120)는 고화질 카메라에 의해 촬영된 고화질 영상 데이터, 및 광각 카메라에 의해 촬영된 광각 영상 데이터를 합성한 합성 데이터를 생성하고, 이동형 디바이스(110)의 움직임을 추적한다.

예를 들면, 사용자가 이동형 디바이스(110)를 이용하여 가상현실 콘텐츠를 촬영하는 경우, 이동형 디바이스(110)에 포함된 고화질 카메라는 가상현실 콘텐츠 중 중요 영역을 집중적으로 촬영하고, 광각 카메라는 중요 영역을 포함하는 주변 환경을 촬영한다. 이에, 고화질 카메라 및 광각 카메라 각각에서 촬영된 고화질 영상 데이터 및 광각 영상 데이터 간의 카메라 보정(Camera Calibration)이 필요하므로, 획득부(120)는 고화질 카메라 및 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용하여 고화질 영상 데이터 및 광각 영상 데이터를 합성할 수 있다.

실시예에 따라서, 상기 캘리브레이션 정보는 다중 뷰 위치(multi view position)에서 적어도 2개의 카메라들(광각 카메라 및 고화질 카메라)에 대한 교정 데이터를 나타내며, 광각 영상 데이터 및 고화질 영상 데이터에 대해 각각의 기하학적 구조 분석과 호모그래픽 변환(homographic transformation) 및 특징 검출 과정을 통해 획득될 수 있다. 다만, 전술한 캘리브레이션 정보 및 카메라 보정은 기존의 영상 간 보정 및 결합에 관련된 기술을 사용하므로, 한정하지 않는다.

획득부(120)는 가상현실 콘텐츠를 기반으로, 이동형 디바이스(110)로부터 수신되는 고화질 영상 데이터 및 광각 영상 데이터를 통해 이동형 디바이스(110)의 움직임을 추적할 수 있다. 예를 들면, 획득부(120)는 가상현실 콘텐츠를 제공하는 공간에서, 이동형 디바이스(110)로부터 촬영되는 고화질 영상 데이터 및 광각 영상 데이터를 통해 이동형 디바이스(110)의 움직임과, 현재 위치를 추적할 수 있으며, 사용자가 주시하는 시점을 획득할 수도 있다.

사용자 인터페이스 제공부(130)는 합성 데이터 및 움직임 추적 결과를 기반으로, 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공한다.

보다 구체적으로, 사용자 인터페이스 제공부(130)는 획득부(120)로부터 수신되는 합성 데이터 및 움직임 추적 결과에 따라, 사용자의 시선이 고화질 카메라로부터 촬영된 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 사용자 인터페이스를 제공할 수 있다. 예를 들면, 사용자 인터페이스 제공부(130)는 고화질 영상 데이터의 움직임에 따라 사용자의 시선이 이동하도록 도식, 효과, 강조 등의 시각적 정보 및 효과음, 음악 등의 청각적 정보 중 적어도 어느 하나 이상을 제공하여 사용자의 시선이 고화질 영상 데이터의 영역에 머물도록 유도할 수 있다.

또 다른 예로, 사용자 인터페이스 제공부(130)는 가상현실 콘텐츠에서, 시간의 흐름에 따른 고화질 영상 데이터의 궤적을 제공하기 위해 도식, 효과, 강조 등의 시각적 정보 및 효과음, 음악 등의 청각적 정보 중 적어도 어느 하나 이상을 포함하는 사용자 인터페이스를 제공할 수 있다. 실시예에 따라서, 가상현실 콘텐츠는 시간의 흐름에 따른 영상을 제공할 수 있으며, 시간의 흐름에 따라서 영상 내 강조되거나 사용자의 시선이 집중되어야 하는 중요 영역(고화질 영상 데이터)이 존재할 수 있다. 이에, 사용자 인터페이스 제공부(130)는 시간의 흐름에 따른 고화질 영상 데이터의 궤적을 제공하기 위해 시각적 정보를 디스플레이하거나, 청각적 정보를 출력 모듈을 통해 출력할 수도 있다.

실시예에 따라서, 사용자 인터페이스 제공부(130)는 사용자의 시선이 고화질 영상 데이터의 영역에 머물도록, 화살표, 강조, 효과음, 진동 등의 시각적 정보 및 청각적 정보를 포함한 사용자 인터페이스를 가상현실 콘텐츠 상에 제공할 수 있다. 이 때, 상기 가상현실 콘텐츠는 2D 이미지, 3D 이미지, 사운드 콘텐츠, 동영상 콘텐츠, 가상 콘텐츠 및 자원 위치 지정자(uniform resource locator, URL) 정보 중 적어도 어느 하나를 포함할 수 있다.

도 1을 참조하면, 본 발명의 실시예에 따른 사용자 시선 유도 시스템(100)은 디스플레이부(140)를 더 포함한다.

디스플레이부(140)는 가상현실 콘텐츠 상에 사용자 인터페이스를 디스플레이할 수 있다. 예를 들면, 디스플레이부(140)는 가상현실 콘텐츠를 제공하는 공간에 위치하는 HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 디지털 디스플레이, 액정 디스플레이(LCD), 발광 다이오드 디스플레이(LED), 유기 발광 다이오드 디스플레이(OLED), 전자 종이(electronic paper) 디스플레이 및 모니터 중 적어도 어느 하나 이상의 디스플레이 기기로 가상현실 콘텐츠 및 사용자 인터페이스를 디스플레이할 수 있다. 실시예에 따라서는 HMD 및 디스플레이 기기 중 적어도 어느 하나 이상에 디스플레이할 수도 있다.

도 2는 본 발명의 일실시예에 따른 사용자 시선 유도 시스템을 이용하여 사용자의 시선을 유도하기 위한 사용자 인터페이스를 제공하는 과정 예를 도시한 것이다.

보다 구체적으로, 도 2는 본 발명의 일실시예에 따른 사용자 시선 유도 시스템에서, 이동형 디바이스를 통해 고화질 영상 데이터 및 광각 영상 데이터를 획득하는 예, 합성 데이터를 합성하는 예, 및 사용자의 시선을 유도하기 위한 사용자 인터페이스를 제공하는 예 각각을 도시한 것이다.

도 2를 참조하면, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템에서, 제1 과정(200)은 이동형 디바이스를 이용하여 가상현실 콘텐츠를 촬영한다. 이동형 디바이스는 광각 렌즈의 광각 카메라 및 고화질 렌즈의 고화질 카메라를 각각 포함하며, 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 주변 환경을 촬영하고, 고화질 카메라를 이용하여 가상현실 콘텐츠 중 중요 영역을 집중적으로 촬영할 수 있다.

이후, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템에서, 제2 과정(300)은 이동형 디바이스에서 촬영된 고화질 영상 데이터 및 광각 영상 데이터를 합성(a)할 수 있다. 예를 들면, 고화질 카메라 및 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용함으로써, 가상현실 콘텐츠를 포함하여 비교적 넓은 주변 환경을 촬영한 광각 영상 데이터(WIDE) 안에 중요 영역을 집중적으로 촬영한 고화질 영상 데이터(HD)를 합성한 합성 데이터를 생성할 수 있다.

이후, 본 발명의 실시예에 따른 사용자 시선 유도 시스템에서, 제3 과정(400)은 합성 데이터 및 이동형 디바이스의 움직임 추적 결과를 기반으로, 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공(b)하여 가상현실 콘텐츠와 동시에 디스플레이할 수 있다.

이하에서는 도 3 내지 도 5를 참조하여 본 발명의 일실시예에 따른 사용자 시선 유도 시스템의 각 과정에 대해 보다 상세히 설명하고자 한다.

도 3은 본 발명의 일실시예에 따른 광각 영상 데이터 및 고화질 영상 데이터의 촬영 예를 도시한 것이다.

도 3을 참조하면, 이동형 디바이스(210)는 광각 렌즈의 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 주변 환경을 촬영하여 광각 영상 데이터(220, WIDE)를 획득하고, 고화질 렌즈의 고화질 카메라를 이용하여 가상현실 콘텐츠 중 중요 영역(예를 들면, 특정 건물)을 집중적으로 촬영하여 고화질 영상 데이터(230. HD)를 획득할 수 있다.

예를 들면, 사용자는 이동형 디바이스(210)를 소지하여 이동하며, 이동형 디바이스(210)를 통해 가상현실 콘텐츠를 촬영할 수 있다. 도 3을 참조하면, 이동형 디바이스(210) 내 고화질 렌즈의 고화질 카메라는 가상현실 콘텐츠 중 중요 영역을 집중적으로 촬영하여 고화질의 영상 데이터를 획득할 수 있다. 또한, 광각 렌즈의 광각 카메라는 중요 영역을 포함한 주변 환경을 전반적으로 넓게 촬영하여 광각 영상 데이터를 획득할 수 있다. 이 때, 사용자의 움직임 및 이동에 따라 집중적으로 촬영하는 중요 영역 및 주변 환경을 포함하는 상기 고화질 영상 데이터 및 상기 광각 영상 데이터는 실시간으로 변동될 수 있다.

도 3에 도시된, 이동형 디바이스(210)에 포함된 광각 카메라 및 고화질 카메라의 세트(set)는 단일 개로 도시되어 있으나, 실시예에 따라서는 복수 개일 수도 있다. 아울러, 상기 광각 카메라 및 상기 고화질 카메라의 종류는 한정하지 않는다.

즉, 광각 카메라는 기존의 통상적인 가상현실 콘텐츠 및 영상과 같이 주변 환경을 촬영하고, 고화질 카메라는 사용자에게 제공하고자 하는 중요 영역을 집중 촬영함으로써, 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템은 두 카메라를 상보적으로 활용할 수 있다.

도 4는 본 발명의 일실시예에 따른 광각 영상 데이터 및 고화질 영상 데이터의 합성 예를 도시한 것이다.

도 4를 참조하면, 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템은 광각 카메라로부터 촬영된 광각 영상 데이터(310) 및 고화질 카메라로부터 촬영된 고화질 영상 데이터(320)를 합성한 합성 데이터(330)를 생성한다.

예를 들면, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 광각 카메라 및 고화질 카메라 간의 캘리브레이션 정보(Calibration Data)를 활용하여 여러 가지 영상 처리 기법을 통해 가상현실 콘텐츠를 포함하여 비교적 넓은 주변 환경을 촬영한 광각 영상 데이터(310, WIDE) 및 중요 영역을 집중적으로 촬영한 고화질 영상 데이터(320, HD)를 합성할 수 있다. 여기서, 상기 영상 처리 기법은 관련 기술에서 통상적으로 사용되는 기법을 이용하므로, 한정하지 않는다.

실시예에 따라서, 상기 캘리브레이션 정보는 다중 뷰 위치(multi view position)에서 적어도 2개의 카메라들(광각 카메라 및 고화질 카메라)에 대한 교정 데이터를 나타내며, 광각 영상 데이터 및 고화질 영상 데이터에 대해 각각의 기하학적 구조 분석과 호모그래픽 변환(homographic transformation) 및 특징 검출 과정을 통해 획득될 수 있다. 다만, 전술한 캘리브레이션 정보 및 카메라 보정은 기존의 영상 간 보정 및 결합에 관련된 기술을 사용하므로, 한정하지 않는다.

도 5는 본 발명의 일실시예에 따른 가상현실 콘텐츠 및 사용자 인터페이스의 디스플레이 예를 도시한 것이다.

도 5를 참조하면, 사용자는 가상현실 콘텐츠 내에 제1 고화질 영상 데이터의 영역(410)을 바라보고 있으나, 사용자의 움직임에 따라 이동형 디바이스 또한 움직임(420)이 발생할 수 있다. 이에, 집중되는 중요 영역(또는 고화질 영상 데이터)이 변경될 수 있다. 즉, 이동형 디바이스의 움직임(420)에 따라, 새로운 제2 고화질 영상 데이터의 영역(430)이 생성될 수 있으나, 이동형 디바이스의 움직임에 의해 사용자가 바라보는 시점이 제2 고화질 영상 데이터의 영역(430)에서 벗어나는 문제가 발생하게 된다.

따라서, 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템은 도 4에서 생성된 합성 데이터(330) 및 이동형 디바이스의 움직임 추적 결과를 기반으로, 사용자의 시선이 제2 고화질 영상 데이터의 영역(430)에 머물도록 시각적 정보 및 청각적 정보 중 적어도 어느 하나 이상을 포함하는 사용자 인터페이스를 제공할 수 있다. 이 때, 상기 이동형 디바이스의 움직임 추적 결과는 사용자에게 제공되는 가상현실 콘텐츠를 기반으로, 고화질 영상 데이터 및 광각 영상 데이터를 통해 획득될 수 있다.

이에 따라서, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 사용자의 시선을 유도하기 위한 사용자 인터페이스 및 가상현실 콘텐츠를 공간 내 사용자가 착용하는 HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 공간 내 디지털 디스플레이, 액정 디스플레이(LCD), 발광 다이오드 디스플레이(LED), 유기 발광 다이오드 디스플레이(OLED), 전자 종이(electronic paper) 디스플레이 및 모니터 중 적어도 어느 하나 이상의 디스플레이 기기로 디스플레이할 수 있다. 실시예에 따라서는 HMD 및 디스플레이 기기 중 적어도 어느 하나 이상에 디스플레이할 수도 있다.

예를 들어, 도 5를 참조하면, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 중요 영역인 제2 고화질 영상 데이터의 영역(430)에 사용자의 시선이 머물도록 하기 위해, 제2 고화질 영상 데이터의 영역(430)의 가장자리를 노란색으로 강조하고, 제1 고화질 영상 데이터의 영역(410)에서 제2 고화질 영상 데이터의 영역으로 화살표 등의 도식을 제공할 수 있다. 실시예에 따라서는 효과음 또는 음악 등의 청각적 정보를 더 제공할 수도 있다.

이에 따라서, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 시각적 정보 및 청각적 정보 중 적어도 어느 하나 이상의 사용자 인터페이스와 가상현실 콘텐츠를 동시에 디스플레이하여 사용자에게 제공할 수 있다.

실시예에 따라서, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 사용자의 시선이 제2 고화질 영상 데이터의 영역(430)에서 일정 이상 벗어나는 경우, 간단한 도식(예를 들면, 화살표 등) 외에, 음성 신호, 혹은 그 밖의 사용자 인터페이스(UI)를 통해 사용자의 시선이 제2 고화질 영상 데이터의 영역(430)에 머물도록 유도할 수 있다.

도 6은 사용자의 시선에 따른 사용자 인터페이스를 제공하는 예를 도시한 것이다.

도 6을 참조하면, 일반적인 360도 영상 가상현실 콘텐츠(Virtual reality contents, 610)를 제공하는 공간 내 사용자(601)가 위치하는 것을 가정한 경우, 사용자(601)는 360도 영상 가상현실 콘텐츠(610) 중 시야가 집중되는 중요 영역(또는 고화질 영상 데이터(HD), 620)을 집중할 수 있으며, 시야가 확장되어 중요 영역(620)을 포함하는 광각 영역(또는 광각 영상 데이터(WIDE), 630)을 인지할 수 있다.

이에, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 360도 영상 가상현실 콘텐츠(610) 중 움직이는 이동형 디바이스 및 사용자의 움직임에 따른 중요 영역(또는 고화질 영상 데이터(HD), 620)으로 사용자(601)의 시선을 유도하기 위해 사용자 인터페이스 기반의 중요 영역(640)을 제공할 수 있다.

일 실시 예로, 공간 내 단순한 360도 영상 가상현실 콘텐츠(610) 재생의 경우, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 중요 영역(620)의 움직임을 사용자가 따라갈 수 있도록 화살표 등의 도식, 효과, 강조 등의 시각적 정보 및 효과음, 음악 등의 청각적 정보를 포함하는 사용자 인터페이스를 이용하여 사용자 인터페이스 기반의 중요 영역(640)을 가상현실 콘텐츠(Virtual reality contents)와 함께 디스플레이할 수 있다.

실시 예로, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 시간의 흐름에 따른 중요 영역(620)의 궤적을 사용자 인터페이스로 표현함으로써, 사용자(601)가 원하는 영상 프레임으로 이동하고자 할 때 어느 곳을 응시해야 하는지를 안내할 수 있다.

다른 실시 예로, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 그 밖의 상호작용이 결합된 360도 영상 가상현실 콘텐츠(610)의 경우, 해당 상호작용 및 콘텐츠 내용에 맞는 적절한 사용자 인터페이스를 제공할 수도 있다.

도 7은 본 발명의 일실시예에 따른 360도 가상현실 콘텐츠를 제공하는 사용자 시선 유도 시스템의 예를 도시한 것이다.

도 7을 참조하면, 360도 공간 내 포함된 디지털 디스플레이, 액정 디스플레이(LCD), 발광 다이오드 디스플레이(LED), 유기 발광 다이오드 디스플레이(OLED), 전자 종이(electronic paper) 디스플레이 및 모니터 중 적어도 어느 하나 이상의 디스플레이 기기를 통해 가상현실 콘텐츠를 제공하는 본 발명의 일실시예에 따른 사용자 시선 유도 시스템에서, 사용자는 이동형 디바이스를 소지하여 가상현실 콘텐츠를 촬영하며 이동할 수 있다.

예를 들어, 사용자는 이동형 디바이스를 이용하여 360도 공간 내 가상현실 콘텐츠를 촬영할 수 있으며, 이동형 디바이스를 통해 360도 가상현실 콘텐츠에 대한 광각 영상 데이터 및 고화질 영상 데이터를 획득할 수 있다. 다만, 사용자는 360도 공간에서 이동형 디바이스를 소지하여 이동(710)하므로, 중요 영역인 고화질 영상 데이터(720) 또한 변경될 수 있다.

이에, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 사용자의 움직임(710)에 따른 사용자의 시선을 고화질 영상 데이터(720)로 유도하기 위한 사용자 인터페이스를 제공할 수 있다. 예를 들면, 본 발명의 일실시예에 따른 사용자 시선 유도 시스템은 도식, 효과, 강조 등의 시각적 정보 및 효과음, 음악 등의 청각적 정보 중 적어도 어느 하나 이상을 포함하는 사용자 인터페이스를 360도 가상현실 콘텐츠에 적용하여 사용자에게 제공할 수 있으며, 이에 따라 사용자의 시선을 고화질 영상 데이터(720)에 머물도록 유도하여 360도 가상현실 콘텐츠의 체험을 제공할 수 있다.

이 때, 가상현실 콘텐츠는 2D 이미지, 3D 이미지, 사운드 콘텐츠, 동영상 콘텐츠, 가상 콘텐츠 및 자원 위치 지정자(uniform resource locator, URL) 정보 중 적어도 어느 하나를 포함할 수 있다.

도 8은 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 방법에 대한 흐름도를 도시한 것이다.

도 8에 도시된 동작 방법은 도 1에 도시된 본 발명의 일실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 시스템에 의해 수행된다.

단계 810에서, 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스로부터, 고화질 카메라에 의해 촬영된 고화질 영상 데이터 및 광각 카메라에 의해 촬영된 광각 영상 데이터를 수신하여 합성 데이터를 합성하고, 이동형 디바이스의 움직임을 추적한다.

예를 들면, 사용자가 이동형 디바이스를 이용하여 가상현실 콘텐츠를 촬영하는 경우, 이동형 디바이스에 포함된 고화질 카메라는 가상현실 콘텐츠 중 중요 영역을 집중적으로 촬영하고, 광각 카메라는 중요 영역을 포함하는 주변 환경을 촬영한다. 이에, 고화질 카메라 및 광각 카메라 각각에서 촬영된 고화질 영상 데이터 및 광각 영상 데이터 간의 카메라 보정(Camera Calibration)이 필요하므로, 단계 810은 고화질 카메라 및 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용하여 고화질 영상 데이터 및 광각 영상 데이터를 합성하는 단계일 수 있다.

또한, 단계 810은 가상현실 콘텐츠를 기반으로, 이동형 디바이스로부터 수신되는 고화질 영상 데이터 및 광각 영상 데이터를 통해 이동형 디바이스의 움직임을 추적할 수 있다. 예를 들면, 단계 810은 가상현실 콘텐츠를 제공하는 공간에서, 이동형 디바이스로부터 촬영되는 고화질 영상 데이터 및 광각 영상 데이터를 통해 이동형 디바이스의 움직임과, 현재 위치를 추적할 수 있으며, 사용자가 주시하는 시점을 획득할 수도 있다.

단계 820에서, 합성 데이터 및 움직임 추적 결과를 기반으로 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공한다.

보다 구체적으로, 단계 820은 단계 810에서 획득된 합성 데이터 및 움직임 추적 결과에 따라, 사용자의 시선이 고화질 카메라로부터 촬영된 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 사용자 인터페이스를 제공하는 단계일 수 있다. 예를 들면, 단계 820은 고화질 영상 데이터의 움직임에 따라 사용자의 시선이 이동하도록 도식, 효과, 강조 등의 시각적 정보 및 효과음, 음악 등의 청각적 정보 중 적어도 어느 하나 이상을 제공하여 사용자의 시선이 고화질 영상 데이터의 영역에 머물도록 유도하는 단계일 수 있다.

또 다른 예로, 820은 가상현실 콘텐츠에서, 시간의 흐름에 따른 고화질 영상 데이터의 궤적을 제공하기 위해 도식, 효과, 강조 등의 시각적 정보 및 효과음, 음악 등의 청각적 정보 중 적어도 어느 하나 이상을 포함하는 사용자 인터페이스를 제공하는 단계일 수 있다.

도 8을 참조하면, 본 발명의 실시예에 따른 이동형 디바이스를 이용한 사용자 시선 유도 방법은 단계 830을 더 포함한다.

단계 830에서, 가상현실 콘텐츠 상에 사용자 인터페이스를 디스플레이한다.

예를 들면, 단계 830은 가상현실 콘텐츠를 제공하는 공간 내 HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 디지털 디스플레이, 액정 디스플레이 및 모니터 중 적어도 어느 하나 이상의 디스플레이 기기로 가상현실 콘텐츠 및 사용자 인터페이스를 디스플레이하는 단계일 수 있다. 실시예에 따라서는 HMD 및 디스플레이 기기 중 적어도 어느 하나 이상에 디스플레이할 수도 있다.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD­ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기­광 매체(magneto­optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

100: 이동형 디바이스를 이용한 사용자 시선 유도 시스템
200: 제1 과정
210: 이동형 디바이스
220, 310, 630: 광각 영상 데이터
230, 320, 620, 720: 고화질 영상 데이터
300: 제2 과정
330: 합성 데이터
400: 제3 과정
410: 제1 고화질 영상 데이터의 영역
420, 710: 이동형 디바이스의 움직임
430: 제2 고화질 영상 데이터의 영역
601: 사용자
610: 360도 영상 가상현실 콘텐츠
640: 사용자 인터페이스 기반의 중요 영역

Claims (20)

  1. 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스;
    상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터, 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 합성한 합성 데이터를 생성하고, 상기 이동형 디바이스의 움직임을 추적하는 획득부; 및
    상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 사용자 인터페이스 제공부를 포함하되,
    상기 사용자 인터페이스 제공부는
    상기 합성 데이터 및 상기 움직임 추적 결과에 따라, 사용자의 시선이 상기 고화질 카메라로부터 촬영된 상기 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 상기 사용자 인터페이스를 제공하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  2. 제1항에 있어서,
    상기 이동형 디바이스는
    상기 가상현실 콘텐츠를 포함하여 주변 환경을 촬영하는 상기 광각 카메라 및 중요 영역을 집중적으로 촬영하는 상기 고화질 카메라를 포함하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  3. 제2항에 있어서,
    상기 이동형 디바이스는
    사용자의 움직임에 따른 상기 고화질 카메라 및 상기 광각 카메라로부터 촬영된 상기 고화질 영상 데이터, 및 상기 광각 영상 데이터와, 상기 가상현실 콘텐츠(Virtual reality contents)를 포함하는 영상을 획득하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  4. 제1항에 있어서,
    상기 획득부는
    상기 고화질 카메라 및 상기 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용하여 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 합성하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  5. 제4항에 있어서,
    상기 획득부는
    상기 가상현실 콘텐츠를 기반으로, 상기 이동형 디바이스로부터 수신되는 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 통해 상기 이동형 디바이스의 움직임을 추적하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  6. 삭제
  7. 제1항에 있어서,
    상기 사용자 인터페이스 제공부는
    상기 고화질 영상 데이터의 움직임에 따라 사용자의 시선이 이동하도록 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 제공하여 사용자의 시선이 상기 고화질 영상 데이터의 영역에 머물도록 유도하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  8. 제7항에 있어서,
    상기 사용자 인터페이스 제공부는
    상기 가상현실 콘텐츠에서, 시간의 흐름에 따른 상기 고화질 영상 데이터의 궤적을 제공하기 위해 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 포함하는 상기 사용자 인터페이스를 제공하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  9. 고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스;
    상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터, 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 합성한 합성 데이터를 생성하고, 상기 이동형 디바이스의 움직임을 추적하는 획득부;
    상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 사용자 인터페이스 제공부; 및
    상기 가상현실 콘텐츠 상에 상기 사용자 인터페이스를 디스플레이하는 디스플레이부를 포함하되,
    상기 사용자 인터페이스 제공부는
    상기 합성 데이터 및 상기 움직임 추적 결과에 따라, 사용자의 시선이 상기 고화질 카메라로부터 촬영된 상기 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 상기 사용자 인터페이스를 제공하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  10. 제9항에 있어서,
    상기 디스플레이부는
    상기 가상현실 콘텐츠를 제공하는 공간에 위치하는 디스플레이 기기로 상기 가상현실 콘텐츠 및 상기 사용자 인터페이스를 디스플레이하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  11. 제10항에 있어서,
    상기 디스플레이 기기는
    HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 디지털 디스플레이, 액정 디스플레이 및 모니터 중 적어도 어느 하나 이상인 것을 특징으로 하는 이동형 디바이스를 이용한 사용자 시선 유도 시스템.
  12. 이동형 디바이스를 이용한 사용자 시선 유도 시스템의 동작 방법에 있어서,
    고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스로부터, 상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 수신하여 합성 데이터를 합성하고, 상기 이동형 디바이스의 움직임을 추적하는 단계; 및
    상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 단계를 포함하되,
    상기 사용자 인터페이스를 제공하는 단계는
    상기 합성 데이터 및 상기 움직임 추적 결과에 따라, 사용자의 시선이 상기 고화질 카메라로부터 촬영된 상기 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 상기 사용자 인터페이스를 제공하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  13. 제12항에 있어서,
    상기 합성 데이터를 합성하고, 이동형 디바이스의 움직임을 추적하는 단계는
    상기 고화질 카메라 및 상기 광각 카메라 간의 캘리브레이션 정보(Calibration Data)를 이용하여 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 합성하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  14. 제13항에 있어서,
    상기 합성 데이터를 합성하고, 이동형 디바이스의 움직임을 추적하는 단계는
    상기 가상현실 콘텐츠를 기반으로, 상기 이동형 디바이스로부터 수신되는 상기 고화질 영상 데이터 및 상기 광각 영상 데이터를 통해 상기 이동형 디바이스의 움직임을 추적하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  15. 삭제
  16. 제12항에 있어서,
    상기 사용자 인터페이스를 제공하는 단계는
    상기 고화질 영상 데이터의 움직임에 따라 사용자의 시선이 이동하도록 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 제공하여 사용자의 시선이 상기 고화질 영상 데이터의 영역에 머물도록 유도하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  17. 제16항에 있어서,
    상기 사용자 인터페이스를 제공하는 단계는
    상기 가상현실 콘텐츠에서, 시간의 흐름에 따른 상기 고화질 영상 데이터의 궤적을 제공하기 위해 도식, 효과, 강조 등의 상기 시각적 정보 및 효과음, 음악 등의 상기 청각적 정보 중 적어도 어느 하나 이상을 포함하는 상기 사용자 인터페이스를 제공하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  18. 이동형 디바이스를 이용한 사용자 시선 유도 시스템의 동작 방법에 있어서,
    고화질 카메라 및 광각 카메라를 이용하여 가상현실 콘텐츠를 포함하는 영상을 획득하는 이동형 디바이스로부터, 상기 고화질 카메라에 의해 촬영된 고화질 영상 데이터 및 상기 광각 카메라에 의해 촬영된 광각 영상 데이터를 수신하여 합성 데이터를 합성하고, 상기 이동형 디바이스의 움직임을 추적하는 단계;
    상기 합성 데이터 및 상기 움직임 추적 결과를 기반으로, 상기 고화질 영상 데이터의 영역으로 사용자의 시선을 유도하기 위한 사용자 인터페이스(User Interface; UI)를 제공하는 단계; 및
    상기 가상현실 콘텐츠 상에 상기 사용자 인터페이스를 디스플레이하는 단계를 포함하되,
    상기 사용자 인터페이스를 제공하는 단계는
    상기 합성 데이터 및 상기 움직임 추적 결과에 따라, 사용자의 시선이 상기 고화질 카메라로부터 촬영된 상기 고화질 영상 데이터의 영역에서 일정 이상 벗어나는 경우, 시각적 정보 및 청각적 정보를 포함하는 상기 사용자 인터페이스를 제공하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  19. 제18항에 있어서,
    상기 사용자 인터페이스를 디스플레이하는 단계는
    상기 가상현실 콘텐츠를 제공하는 공간 내 HMD(Head Mounted Display, 헤드 마운트 디스플레이), 또는 디지털 디스플레이, 액정 디스플레이 및 모니터 중 적어도 어느 하나 이상의 디스플레이 기기로 상기 가상현실 콘텐츠 및 상기 사용자 인터페이스를 디스플레이하는 이동형 디바이스를 이용한 사용자 시선 유도 방법.
  20. 제12항 내지 제14항, 제16항 내지 제19항 중 어느 한 항의 방법을 수행하기 위하여 컴퓨터로 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램.
KR1020170152049A 2017-11-15 2017-11-15 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법 KR101923322B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170152049A KR101923322B1 (ko) 2017-11-15 2017-11-15 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170152049A KR101923322B1 (ko) 2017-11-15 2017-11-15 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법
PCT/KR2017/014852 WO2019098450A1 (ko) 2017-11-15 2017-12-15 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법

Publications (1)

Publication Number Publication Date
KR101923322B1 true KR101923322B1 (ko) 2018-11-28

Family

ID=64561282

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170152049A KR101923322B1 (ko) 2017-11-15 2017-11-15 이동형 디바이스를 이용한 사용자 시선 유도 시스템 및 그 방법

Country Status (2)

Country Link
KR (1) KR101923322B1 (ko)
WO (1) WO2019098450A1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001519066A (ja) * 1997-04-07 2001-10-16 インタラクティブ・ピクチャーズ・コーポレイション リアルな没入体験を生成するために低い解像度の対話型イメージ中に高解像度のイメージを挿入する方法および装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10424103B2 (en) * 2014-04-29 2019-09-24 Microsoft Technology Licensing, Llc Display device viewer gaze attraction
US10416760B2 (en) * 2014-07-25 2019-09-17 Microsoft Technology Licensing, Llc Gaze-based object placement within a virtual reality environment
KR20170020069A (ko) * 2015-08-13 2017-02-22 엘지전자 주식회사 이동 단말기 및 그의 영상촬영 방법
KR20170023491A (ko) * 2015-08-24 2017-03-06 엘지전자 주식회사 카메라 및 이를 포함하는 가상 현실 시스템
KR101748401B1 (ko) * 2016-08-22 2017-06-16 강두환 가상현실 어트랙션 제어 방법 및 시스템

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001519066A (ja) * 1997-04-07 2001-10-16 インタラクティブ・ピクチャーズ・コーポレイション リアルな没入体験を生成するために低い解像度の対話型イメージ中に高解像度のイメージを挿入する方法および装置

Also Published As

Publication number Publication date
WO2019098450A1 (ko) 2019-05-23

Similar Documents

Publication Publication Date Title
US10009603B2 (en) Method and system for adaptive viewport for a mobile device based on viewing angle
CN106797460B (zh) 三维视频的重建
US10410680B2 (en) Automatic generation of video and directional audio from spherical content
US8970704B2 (en) Network synchronized camera settings
EP2966863A1 (en) Hmd calibration with direct geometric modeling
US9905147B2 (en) Display device
US20130321396A1 (en) Multi-input free viewpoint video processing pipeline
KR20130107840A (ko) 실감 파노라마 영상 생성을 위한 3d 데이터 포맷 생성/소비 장치 및 방법
US8867886B2 (en) Surround video playback
JP2011004388A (ja) 多視点映像表示装置および方法
US9838668B2 (en) Systems and methods for transferring a clip of video data to a user facility
JP2017513434A (ja) 広角画像に関連する情報を記録、共有、及び処理することによるシステム挙動又はユーザエクスペリエンスの自動定義
US9007430B2 (en) System and method for creating a navigable, three-dimensional virtual reality environment having ultra-wide field of view
KR20130129458A (ko) 동적 템플릿 트래킹
US20100328432A1 (en) Image reproducing apparatus, image capturing apparatus, and control method therefor
US9699438B2 (en) 3D graphic insertion for live action stereoscopic video
US20160210785A1 (en) Augmented reality system and method for positioning and mapping
US20100013738A1 (en) Image capture and display configuration
WO2016101892A1 (en) Computational multi-camera adjustment for smooth view switching and zooming
CN104798370B (zh) 用于产生3‑d全光视频图像的系统和方法
WO2012081210A1 (ja) 映像処理装置、カメラ装置、映像処理方法およびプログラム
KR20150068299A (ko) 다면 영상 생성 방법 및 시스템
US9858643B2 (en) Image generating device, image generating method, and program
JP5934363B2 (ja) インタラクティブな画面閲覧
US20130089301A1 (en) Method and apparatus for processing video frames image with image registration information involved therein

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant