KR20170107719A - 헤드 마운티드 디스플레이 및 그 제어 방법 - Google Patents

헤드 마운티드 디스플레이 및 그 제어 방법 Download PDF

Info

Publication number
KR20170107719A
KR20170107719A KR1020160031403A KR20160031403A KR20170107719A KR 20170107719 A KR20170107719 A KR 20170107719A KR 1020160031403 A KR1020160031403 A KR 1020160031403A KR 20160031403 A KR20160031403 A KR 20160031403A KR 20170107719 A KR20170107719 A KR 20170107719A
Authority
KR
South Korea
Prior art keywords
degree video
user
head
mounted display
controller
Prior art date
Application number
KR1020160031403A
Other languages
English (en)
Other versions
KR102606116B1 (ko
Inventor
박용학
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020160031403A priority Critical patent/KR102606116B1/ko
Publication of KR20170107719A publication Critical patent/KR20170107719A/ko
Application granted granted Critical
Publication of KR102606116B1 publication Critical patent/KR102606116B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02—Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • G02B7/14—Mountings, adjusting means, or light-tight connections, for optical elements for lenses adapted to interchange lenses
    • G02B7/16—Rotatable turrets
    • H04N13/0235—
    • H04N13/044—

Abstract

본 발명은 헤드 마운티드 디스플레이 및 그 제어 방법으로, 특정 메타 데이터를 포함하는 360도 비디오를 외부 디바이스로부터 수신하고, 사용자의 시선 방향을 감지하고, 특정 메타 데이터에 대응하는 시점에서, 감지된 사용자의 시선 방향에 맞추어 360도 비디오의 재생 위치를 조정하고, 조정된 360도 비디오를 디스플레이하는 것을 그 요지로 한다.

Description

헤드 마운티드 디스플레이 및 그 제어 방법 {Head mounted display and, the controlling method thereof}
본 발명은 헤드 마운티드 디스플레이 및 그 제어 방법에 관한 것으로서, 메타 데이터를 이용하여 360도 비디오의 장면 전환을 확인하고, 360도 비디오 재생 방향의 반대 방향과 사용자의 시선 방향이 일치되도록 제어하는 헤드 마운티드 디스플레이 및 그 제어 방법에 관한 것이다.
최근 IT 기술의 발달로 헤드 마운티드 디스플레이(Head mounted display, HMD)는 일상 생활에서 큰 이슈로 떠오르고 있다. 특히, 헤드 마운티드 디스플레이는 다양한 프로그램, 애플리케이션과 연계해서, 일상 생활에서 필수적인 기능을 수행하는 소통하는 도구로서 활용되고 있다.
가상현실(Virtual Reality, VR)은 컴퓨터를 이용하여 구축한 가상의 공간과 인간 감각계와의 상호작용을 통해 마치 현실과 같은 경험을 제공하는 기술에 대한 것으로, 컴퓨터를 이용하여 만들어낸 가공의 상황이나 환경을 말한다. 이때 만들어진 가상 환경이나 상황은 사용자의 감각을 자극하고 실제와 비슷한 공간적, 시간적 체험을 하게 함으로써 마치 현실에서 실제로 일어나는 것처럼 보이게 만든다.
가상현실 기기(VR devices)를 이용하면 사용자가 이러한 가상 현실을 보다 실감나게 느낄 수 있고 실제와 가상 공간을 보다 쉽게 넘나들면서 가상현실 세계에 몰입할 수 있다. 또한, 가상현실 기기는 이러한 가상현실 세계에서 사용자의 움직임과 경험을 컨트롤하는 수단으로서 작용하는데 가상현실 세계에서의 대상들과의 상호 작용도 가능하기 때문에 사용자마다 서로 다른 경험을 할 수 있다는 점이 특징이다.
최근 스마트폰, 태블릿 등의 발달로 인해 일반 대중이 가상현실 또는 증강현실을 보다 쉽게 체험할 수 있게 되고 거부감도 적어지면서 가상현실 기기에 대한 관심은 점점 높아지고 있다. 가상 현실 영상은 360도 비디오이다. 따라서, 사용자는 360도 비디오를 동서남북 방향으로 볼 수 있다.
그런데, 종래 기술에서, 360도 비디오에서 장면 전환이 생기면, 사용자는 360도 비디오의 특정 위치에서 특정 화면을 보는 것을 원할 수 있다. 예를 들어, 강사 화면을 포함하는 360도 비디오에서, 장면 전환이 생길 때, 사용자가 강사 화면과 다른 방향을 보고 있는 경우, 사용자가 강사 화면을 보기 위하여 몸을 돌려야만 해서, 사용자가 불편함을 느끼는 문제점이 있었다.
본 발명의 일 실시 예는, 특정 화면을 포함하는 360도 비디오에서 장면 전환이 생길 때, 사용자가 특정 화면과 다른 방향을 보고 있는 경우, 특정 화면이 사용자 앞에서 디스플레이되는 헤드 마운티드 디스플레이 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명의 다른 일 실시 예는, 사용자의 몸통 방향을 감지하고, 감지된 사용자의 몸통 방향에 맞추어 360도 비디오의 재생 위치를 조정하는 헤드 마운티드 디스플레이 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명의 또 다른 일 실시 예는, 360도 비디오의 장르가 스포츠이고 360도 비디오의 재생 중 특정 프레임이 점수 내용을 포함하면, 특정 프레임으로 360도 비디오의 재생 위치를 조정하는 헤드 마운티드 디스플레이 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명의 또 다른 일 실시 예는, 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 인디케이터를 화면에 디스플레이하여 사용자가 머리를 편한 방향으로 돌릴 수 있는 헤드 마운티드 디스플레이 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명의 일 실시 예에 따른, 헤드 마운티드 디스플레이는, 외부 디바이스와 데이터를 송수신하는 통신 모듈; 사용자의 시선 방향을 감지하는 센서 모듈; 특정 메타 데이터를 포함하는 360도 비디오를 상기 외부 디바이스로부터 상기 통신 모듈을 수신하고, 사용자의 시선 방향을 상기 센서 모듈을 통하여 감지하고, 수신된 상기 특정 메타 데이터에 대응하는 시점에서, 감지된 상기 사용자의 시선 방향에 맞추어 상기 360도 비디오의 재생 위치를 조정하고, 조정된 상기 360도 비디오를 디스플레이하는 컨트롤러; 및 상기 컨트롤러로부터의 제어 명령에 따라 상기 360 비디오를 디스플레이하는 디스플레이 모듈을 포함한다.
본 발명의 다른 실시 예에 따른, 헤드 마운티드 디스플레이의 제어 방법은, 특정 메타 데이터를 포함하는 360도 비디오를 외부 디바이스로부터 수신하는 단계; 사용자의 시선 방향을 감지하는 단계; 수신된 상기 특정 메타 데이터에 대응하는 시점에서, 감지된 상기 사용자의 시선 방향에 맞추어 상기 360도 비디오의 재생 위치를 조정하는 단계; 및 조정된 상기 360도 비디오를 디스플레이하는 단계를 포함한다.
본 발명의 일 실시 예에 따르면, 특정 화면을 포함하는 360도 비디오에서 장면 전환이 생길 때, 사용자가 특정 화면과 다른 방향을 보고 있는 경우, 특정 화면이 사용자 앞에서 디스플레이되어 사용자 편의성이 향상된다.
본 발명의 다른 일 실시 예에 따르면, 사용자의 몸통 방향을 감지하고, 감지된 사용자의 몸통 방향에 맞추어 360도 비디오의 재생 위치를 조정할 수 있어 사용자 편의성이 향상된다.
본 발명의 또 다른 일 실시 예에 따르면, 360도 비디오의 장르가 스포츠이고 360도 비디오의 재생 중 특정 프레임이 점수 내용을 포함하면, 특정 프레임으로 360도 비디오의 재생 위치를 조정할 수 있어 사용자 편의성이 향상된다.
본 발명의 또 다른 일 실시 예에 따르면, 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 인디케이터를 화면에 디스플레이하여, 사용자가 머리를 편한 방향으로 돌릴 수 있어 사용자 편의성이 향상된다.
도 1은 본 발명의 일 실시 예에 따른 헤드 마운티드 디스플레이의 구성도이다.
도 2는 본 발명의 일 실시 예에 따른 헤드 마운티드 디스플레이 제어 방법의 순서도이다.
도 3은 본 발명의 일 실시 예에 따른 종래 기술의 문제점을 설명한 도면이다.
도 4는 본 발명의 일 실시 예에 따라, 메타 데이터에서 표시된 시점에서 사용자의 시선 방향에 맞추어 360도 비디오의 재생 위치를 조정하는 것을 도시한 도면이다.
도 5는 본 발명의 일 실시 예에 따라, 사용자의 고개 방향을 사용한 경우와 사용자의 몸통 방향을 사용한 경우를 도시한 도면이다.
도 6은 본 발명의 일 실시 예에 따라, 360도 비디오 이외에 추가 정보가 특정 위치에서 디스플레이되는 경우, 360도 비디오의 재생 위치를 조정하는 것을 도시한 도면이다.
도 7은 본 발명의 일 실시 예에 따라, 메타 데이터에서 표시하는 시점 이전에 사용자에게 큐를 주어 사용자가 머리를 편한 방향으로 돌릴 수 있게 하는 것을 도시한 도면이다.
도 8은 본 발명의 일 실시 예에 따라, 360도 비디오의 디스플레이되는 방향의 반대 방향과 감지된 사용자의 시선 방향이 이루는 각도가 소정 범위 이내이면, 일시 정지된 360도 비디오를 다시 재생하는 것을 도시한 도면이다.
도 9는 본 발명의 일 실시 예에 따라, 몸, 허리의 방향을 감지하는 센서를 도시한 도면이다.
도 10은 본 발명의 일 실시 예에 따라, 센서 모듈을 이용하여 몸이 향하는 방향을 감지하는 것을 도시한 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제 1, 제 2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
도 1은 본 발명의 일 실시 예에 따른 헤드 마운티드 디스플레이의 구성도이다.
도 1을 참조하면, 헤드 마운티드 디스플레이(100)는 통신 모듈(110), 센서 모듈(120), 컨트롤러(130), 디스플레이 모듈(140), 메모리(150), 스피커 모듈(160)을 포함한다.
통신 모듈(110)은 외부 디바이스(200)와 데이터를 송수신한다.
센서 모듈(120)은 사용자의 시선 방향을 감지한다. 센서 모듈(120)은 사용자의 몸통 방향을 감지한다.
센서 모듈(120)은 헤드 마운티드 디스플레이(100)의 모션을 센싱한다.
센서 모듈(120)은 모션, 포지션, 오리엔테이션 데이터를 생성하는 센서들을 포함한다. 센서 모듈(120)은 자이로스코프, 가속도 센서, 자기 센서, 적어도 하나의 비디오 카메라, 칼라 센서들을 포함하고, 모션 센서, 포지션 센서, 오리엔테이션 센서들을 포함한다. 센서 모듈(120)은 IMU 센서 모듈을 포함한다.
센서 모듈(120)은 높은 비율에서 센서 데이터를 제공하기 위하여 상대적으로 높은 주파수 대역에서 작동할 수 있다.
예를 들면, 센서 데이터는 1,000 Hz의 비율로 생성될 수 있다. 또는 센서 모듈(120)은 매 백만분의 1초마다 센싱할 수 있다. 이러한 방법으로 1초당 수천 개의 센서 데이터가 생성될 수 있다.
컨트롤러(130)는 특정 메타 데이터를 포함하는 360도 비디오를 외부 디바이스(200)로부터 통신 모듈(110)을 수신하고, 사용자의 시선 방향을 센서 모듈(120)을 통하여 감지하고, 수신된 특정 메타 데이터에 대응하는 시점에서, 감지된 사용자의 시선 방향에 맞추어 360도 비디오의 재생 위치를 조정하고, 조정된 360도 비디오를 디스플레이한다.
디스플레이 모듈(140)는 컨트롤러(130)로부터의 제어 명령에 따라 360 비디오를 디스플레이한다.
메모리(150)는 360도 비디오, 특정 메타 데이터, 360도 비디오의 재생 위치를 저장한다.
스피커 모듈(160)은 컨트롤러(130)로부터의 제어 명령에 따라 음향을 출력한다.
도 2는 본 발명의 일 실시 예에 따른 헤드 마운티드 디스플레이 제어 방법의 순서도이다. 본 발명은 컨트롤러(130)에 의하여 수행된다.
도 2를 참조하면, 먼저, 특정 메타 데이터를 포함하는 360도 비디오를 외부 디바이스로부터 수신한다(S210). 구체적으로, 컨트롤러(130)는 360도 비디오를 외부 디바이스(300)로부터 통신 모듈(110)을 통하여 수신한다.
다음으로, 사용자의 시선 방향을 감지한다(S220).
구체적으로, 컨트롤러(130)는 사용자의 시선 방향을 센서 모듈(120)을 통하여 감지한다.
특정 메타 데이터에 대응하는 시점에서, 감지된 사용자의 시선 방향에 맞추어 360도 비디오의 재생 위치를 조정한다(S230).
조정된 360도 비디오를 디스플레이한다(S240).
구체적으로, 컨트롤러(130)는 360도 비디오를 디스플레이 모듈(140)에 디스플레이한다.
도 3은 본 발명의 일 실시 예에 따른 종래 기술의 문제점을 도시한 도면이다.
360도 비디오(300)는 특정 프레임(310)을 포함한다.
실시 예(410)를 참조하면, 360도 비디오(300)가 재생되고, 헤드 마운티드 디스플레이(100)를 착용한 사용자는 360도 비디오(300) 중 특정 프레임(310)을 본다.
소정 시간이 경과한 후, 실시 예(420)를 참조하면, 헤드 마운티드 디스플레이(100)를 착용한 사용자는 고개를 돌려 360도 비디오(300) 중 특정 프레임(310)을 계속해서 보게 된다.
소정 시간 경과 후, 장면 전환이 생긴다. 여기서, 장면 전환은 360도 비디오(300)의 현재 프레임과 이전 프레임의 차이가 기준값 이상인 경우를 의미한다.
실시 예(430)를 참조하면, 헤드 마운티드 디스플레이(100)를 착용한 사용자의 시선 방향(10)과 특정 프레임(310)이 디스플레이되는 방향(20)이 다르게 된다.
따라서, 종래의 기술에서는 사용자는 특정 프레임(310)을 보기 위하여 몸을 움직이거나, 고개를 돌려야만 해서 사용자가 불편함을 느끼는 문제점이 있었다.
도 4는 본 발명의 일 실시 예에 따라, 메타 데이터에서 표시된 시점에서 사용자의 시선 방향에 맞추어 360도 비디오의 재생 위치를 조정하는 것을 도시한 도면이다.
도 4를 참조하면, 센서 모듈(120)은 사용자의 몸통 방향을 감지하고, 컨트롤러(130)는 감지된 사용자의 몸통 방향에 맞추어 360도 비디오(300)의 재생 위치를 조정한다. 360도 비디오(300)는 특정 메타 데이터를 포함한다. 여기서, 특정 메타 데이터는 장면 전환 시점을 알려주는 메타 데이터이다. 특정 메타 데이터는 360도 비디오(300)를 제작할 때 삽입될 수 있다.
또한, 본 발명은 360도 비디오(300)뿐만 아니라, 360도 이미지 슬라이드 쇼에도 적용할 수 있다.
실시 예(410)를 참조하면, 360도 비디오(300)가 재생되고, 헤드 마운티드 디스플레이(100)를 착용한 사용자는 360도 비디오(300) 중 특정 프레임(310)을 본다.
소정 시간이 경과한 후, 실시 예(420)를 참조하면, 헤드 마운티드 디스플레이(100)를 착용한 사용자는 고개를 돌려 360도 비디오(300) 중 특정 프레임(310)을 계속해서 보게 된다.
소정 시간 경과 후, 장면 전환이 생긴다. 컨트롤러(130)는 특정 메타 데이터를 이용하여 장면 전환을 확인한다.
실시 예(430)를 참조하면, 헤드 마운티드 디스플레이(100)를 착용한 사용자의 시선 방향(10)과 특정 프레임(310)이 디스플레이되는 방향의 반대 방향(20)이 일치하게 된다.
또는 시선 방향(10)과 특정 프레임(310)이 디스플레이되는 방향의 반대 방향(20)이 이루는 각도가 소정 범위의 각도가 되면, 컨트롤러(130)는 이를 정상 상태로 판단하고, 360도 비디오(300)의 재생 위치를 고정한다.
구체적으로, 센서 모듈(120)은 사용자의 몸통 방향을 감지하고, 컨트롤러(130)는 감지된 사용자의 몸통 방향에 맞추어 360도 비디오(300)의 재생 위치를 조정한다.
또한, 센서 모듈(120)은 사용자의 몸통 방향 및 머리 방향을 감지하고, 컨트롤러(130)는 감지된 사용자의 몸통 방향 및 머리 방향을 기초로 360도 비디오(300)의 재생 위치를 조절한다.
따라서, 헤드 마운티드 디스플레이(100)를 착용한 사용자 눈 앞에 특정 프레임(310)이 디스플레이된다.
본 발명의 일 실시 예에 따르면, 컨트롤러(130)는 특정 프레임(310)이 사용자의 시선 방향에 맞게 360도 비디오(300)를 적어도 하나의 축을 중심으로 회전하여 디스플레이한다.
본 발명에 따르면, 사용자 눈 앞에 특정 프레임이 디스플레이되므로, 사용자가 장면 전환이 될 때마다 몸을 다시 돌리거나 특정 방향을 찾을 필요가 없으므로, 사용자 편의성이 향상된다.
본 발명의 일 실시 예에 따르면, 360도 비디오에 특정 메타 데이터를 추가할 수 있다.
구체적으로, 컨트롤러(130)는 360도 비디오(300)를 인식할 때, 360도 비디오(300) 중 페이드 인(fade-in) 부분, 페이드 아웃(fade-out) 부분, 화면 커트 되는 부분과 같은 특정 부분을 자동으로 인식한다.
컨트롤러(130)는 인식된 360도 비디오(300)의 특정 부분에 특정 메타 데이터를 삽입한다.
본 발명에 따르면, 360도 비디오에 특정 메타 데이터가 처음부터 삽입된 경우 뿐만 아니라, 360도 비디오를 인식할 때, 자동으로 특정 메타 데이터를 삽입하여 360도 비디오의 재생 위치를 조절할 수 있으므로 사용자 편의성이 향상된다.
도 5는 본 발명의 일 실시 예에 따라, 사용자의 고개 방향을 사용한 경우와 사용자의 몸통 방향을 사용한 경우를 도시한 도면이다.
실시 예(510, 520)에 대한 설명은 도 4의 설명과 동일하므로 이에 대한 자세한 설명은 생략한다.
실시 예(530)를 참조하면, 사용자의 고개 방향을 사용한 경우 특정 프레임(310-1)이 디스플레이되는 방향의 반대 방향(30)과 사용자의 시선 방향(10)은 일치하지 않아서 오류가 생긴다.
사용자의 몸통 방향을 사용한 경우, 특정 프레임(310)이 디스플레이되는 방향의 반대 방향(20)과 사용자의 시선 방향(10)은 일치하게 된다.
또는 시선 방향(10)과 특정 프레임(310)이 디스플레이되는 방향의 반대 방향(20)이 이루는 각도가 소정 범위의 각도가 되면, 컨트롤러(130)는 이를 정상 상태로 판단하고, 360도 비디오(300)의 재생 위치를 고정한다.
사용자의 고개 방향을 사용한 경우의 단점은 사용자가 고개를 돌린 상태에서 장면 전환이 발생하면, 특정 프레임(310)이 고개를 돌린 방향으로 이동하기 때문에, 사용자는 몸을 다시 돌려야 하는 불편함이 있다.
본 발명에 따르면, 사용자의 몸통 방향을 기초로 360도 비디오의 재생 위치를 조정한다. 따라서, 헤드 마운티드 디스플레이(100)를 착용한 사용자 눈 앞에 특정 프레임(310)이 디스플레이되어 사용자 편의성이 향상된다.
도 6은 본 발명의 일 실시 예에 따라, 360도 비디오 이외에 추가 정보가 특정 위치에서 디스플레이되는 경우, 360도 비디오의 재생 위치를 조정하는 것을 도시한 도면이다.
실시 예(610, 620)에 대한 설명은 도 4의 설명과 동일하므로 이에 대한 자세한 설명은 생략한다.
도 6을 참조하면, 360도 비디오(300)는 EPG 정보를 더 포함한다.
컨트롤러(130)는, EPG 정보를 기초로 360도 비디오의 장르를 결정한다.
여기서, 장르는 스포츠, 다큐멘터리, 드라마, 뉴스, 광고 등을 포함한다.
실시 예(630)를 참조하면, 360도 비디오(300)의 장르가 스포츠이고 360도 비디오의 재생 중 특정 프레임(310)이 점수 내용을 포함하면, 컨트롤러(130)는 특정 프레임(310)을 사용자의 시선 방향(10)으로 이동하고, 360도 비디오(300)의 재생 위치를 이동된 특정 프레임(310)을 기초로 조정한다.
헤드 마운티드 디스플레이(100)를 착용한 사용자의 시선 방향(10)과 특정 프레임(310)을 디스플레이하는 방향의 반대 방향(20)이 이루는 각도가 소정 범위 이내이면, 컨트롤러(130)는 이를 정상 상태로 판단하고, 360도 비디오(300)의 재생 위치를 고정한다.
본 발명에 따르면, 360도 비디오의 장르가 스포츠이고 스포츠 경기의 점수가 특정 프레임(310)에 있으면, 특정 프레임(310)을 사용자의 시선 방향으로(10)의 이동하여, 360도 비디오(300)의 재생 위치를 프레임(310)을 기초로 조정한다.
따라서, 사용자가 눈 앞에서 바로 점수를 확인할 수 있으므로, 사용자 편의성이 향상된다.
또한, 360도 비디오(300)의 장르가 광고이고 360도 비디오의 재생 중 특정 프레임이 광고 내용을 포함하면, 컨트롤러(130)는 특정 프레임(310)을 사용자의 시선 방향(10)으로 이동하고, 360도 비디오(300)의 재생 위치를 이동된 특정 프레임(10)을 기초로 조정한다.
본 발명에 따르면, 360도 비디오의 장르가 광고이고 광고 내용이 특정 프레임(310)에 있으면, 특정 프레임(310)을 사용자의 시선 방향으로(10)의 이동하여, 360도 비디오(300)의 재생 위치를 프레임(310)을 기초로 조정한다.
따라서, 사용자가 눈 앞에서 바로 광고 내용을 확인할 수 있으므로, 사용자 편의성이 향상된다.
도 7은 본 발명의 일 실시 예에 따라, 메타 데이터에서 표시하는 시점 이전에 사용자에게 큐를 주어 사용자가 머리를 편한 방향으로 돌릴 수 있게 하는 것을 도시한 도면이다.
도 7을 참조하면, 360도 비디오(300)는 a0 프레임(310), a1 프레임(320), a2 프레임(330), a3 프레임(340), a4 프레임(350), a5 프레임(360)을 포함한다.
헤드 마운티드 디스플레이(100)를 착용한 사용자는 현재 a1 프레임(310)을 응시하고 있고, 특정 메타 데이터에서 표시하는 시점에 대응하는 프레임은 a3 프레임(340)이다.
도 7을 참조하면, 컨트롤러(130)는 추가된 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 인디케이터(710)를 화면에 디스플레이한다.
본 발명에 따르면, 메타 데이터에서 표시하는 시점 이전에 사용자에게 큐를 주어 사용자가 머리를 편한 방향으로 돌릴 수 있어 사용자 편의성이 향상된다.
도 7을 참조하면, 컨트롤러(130)는 추가된 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 안내 방송(720)을 스피커 모듈(160)을 통하여 출력한다.
본 발명에 따르면, 메타 데이터에서 표시하는 시점 이전에 사용자에게 안내 방송을 주어 사용자가 머리를 편한 방향으로 돌릴 수 있어, 사용자 편의성이 향상된다.
도 7을 참조하면, 컨트롤러(130)는 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 360도 비디오(300)의 재생을 일지 정지한다.
본 발명에 따르면, 사용자가 머리 방향을 재설정할 수 있도록 비디오를 잠시 일시 정지할 수 있어 사용자 편의성이 향상된다.
도 8은 본 발명의 일 실시 예에 따라, 360도 비디오의 디스플레이되는 방향의 반대 방향과 감지된 사용자의 시선 방향이 이루는 각도가 소정 범위 이내이면, 일시 정지된 360도 비디오를 다시 재생하는 것을 도시한 도면이다.
실시 예(810)를 참조하면, 360도 비디오(300)의 특정 프레임(310) 디스플레이되는 방향의 반대 방향(20)과 감지된 사용자의 시선 방향(10)이 이루는 각도가 소정 범위 이내이면, 컨트롤러(130)는 일시 정지된 360도 비디오(300)를 다시 재생한다.
본 발명에 따르면, 일시 정지 후, 360도 비디오(300)의 특정 프레임(310) 디스플레이되는 방향의 반대 방향(20)과 감지된 사용자의 시선 방향(10)이 이루는 각도가 소정 범위 이내이면, 일시 정지된 360도 비디오를 자동으로 재생하여, 사용자는 360도 비디오를 재생하기 위하여 별도의 행동을 하지 않아도 되므로 사용자 편의성이 향상된다.
도 9는 본 발명의 일 실시 예에 따라, 몸, 허리의 방향을 감지하는 센서를 도시한 도면이다.
실시 예(910)를 참조하면, 센서 모듈(120)은 몸, 허리의 방향을 감지할 수 있다. 센서 모듈(120)은 사용자의 허리에 장착될 수 있다. 센서 모듈(120)은 외부 디바이스(200)과 연결되어 방향을 감지할 수 있다.
실시 예(920)를 참조하면, 센서 모듈(120)은 사용자의 목에 장착될 수 있다. 센서 모듈(120)은 외부 디바이스(200)과 연결되어 방향을 감지할 수 있다.
본 발명에 따르면, 센서 모듈(120)이 사용자 몸의 방향을 감지하여 가상 현실 시스템에서 사용자의 움직임이 자연스러울 수 있다.
즉, 사용자가 보는 방향이 움직임의 기본 방향에 영향을 미치지 않는다. 예를 들어, 사용자가 몸이 향하는 방향으로 전진한다. 종래 기술에서는 앞으로 잘 가다가 사용자가 고개를 돌려 옆을 쳐다보면, 사용자가 보는 방향이 움직임의 기본 방향에 영향을 미쳐 360도 비디오가 디스플레이되는 방향이 바뀐다.
본 발명에 따르면, 사용자가 고개를 돌려도 몸을 돌리지 않으면, 이전과 같은 방향으로 가는 것으로 인식하기 때문에 360도 비디오가 디스플레이되는 방향이 바뀌지 않는다.
도 10은 본 발명의 일 실시 예에 따라, 센서 모듈을 이용하여 몸이 향하는 방향을 감지하는 것을 도시한 도면이다.
도 10을 참조하면, 컨트롤러(130)는 사용자의 몸이 향하는 방향을 센서 모듈(120)을 통하여 감지하고, 감지된 몸이 향하는 방향(10)을 기본 방향으로 설정한다.
컨트롤러(130)는 센서 모듈(120)을 기준으로 적어도 하나의 외부 센서(50)의 상대 위치를 파악하고, 파악된 상대 위치를 기초로 몸이 향하는 방향(10)과 사용자가 보는 방향(20)을 분리한다.
여기서, 외부 센서(50)는 헤드 트래킹 센서, 컨트롤러 센서 등을 포함한다.
본 발명에 따르면, 사용자 조작이 용이하고, 외부 센서(50)의 상대 위치를 파악하므로 외부 센서(50)의 절대 위치를 파악할 필요가 없어 설정이 간편하다.
센서 모듈(120)은 몸이 향하는 방향(10)과 몸의 회전 정도를 6축 센서를 이용하여 파악한다.
또한, 센서 모듈(120)은 외부 센서(50)의 상대 위치와 방향을 파악하여 VR 시스템에서 트래킹을 한다.
센서 모듈(120)은 외부 센서(50)의 상대 위치를 파악할 때, 여러 방법을 이용한다.
예를 들어, 의자에 센서와 전자기장 발생기를 설치하여 의자에 장착된 센서로부터 외부 센서(50)의 상대 위치를 파악할 수 있다.
또한, 헤드 마운티드 디스플레이(100)에 카메라(미도시)를 장착하여 의자에 장착된 센서와 외부 센서(50)의 상대 위치를 파악할 수 있다.
본 발명의 일 실시 예에 따르면, 특정 화면을 포함하는 360도 비디오에서 장면 전환이 생길 때, 사용자가 특정 화면과 다른 방향을 보고 있는 경우, 특정 화면이 사용자 앞에서 디스플레이되어 사용자 편의성이 향상된다.
본 발명의 다른 일 실시 예에 따르면, 사용자의 몸통 방향을 감지하고, 감지된 사용자의 몸통 방향에 맞추어 360도 비디오의 재생 위치를 조정할 수 있어 사용자 편의성이 향상된다.
본 발명의 또 다른 일 실시 예에 따르면, 360도 비디오의 장르가 스포츠인 경우, 360도 비디오의 재생 중 특정 프레임이 점수 내용을 포함하면, 특정 프레임으로 360도 비디오의 재생 위치를 조정할 수 있어 사용자 편의성이 향상된다.
본 발명의 또 다른 일 실시 예에 따르면, 추가된 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 인디케이터를 화면에 디스플레이하여, 사용자가 머리를 편한 방향으로 돌릴 수 있어 사용자 편의성이 향상된다.
이상의 설명은 본 발명의 기술적 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면, 본 발명의 본질적 특성을 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능하다. 따라서, 본 발명에 표현된 실시 예들은 본 발명의 기술적 사상을 한정하는 것이 아니라, 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 권리범위가 한정되는 것은 아니다. 본 발명의 보호범위는 아래의 특허청구범위에 의하여 해석되어야 하고, 그와 동등하거나, 균등한 범위 내에 있는 모든 기술적 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

100: 헤드 마운티드 디스플레이
110: 통신 모듈 120: 센서 모듈
130: 컨트롤러 140: 디스플레이 모듈
150: 메모리 160 : 스피커 모듈

Claims (11)

  1. 헤드 마운티드 디스플레이에 있어서,
    외부 디바이스와 데이터를 송수신하는 통신 모듈;
    사용자의 시선 방향을 감지하는 센서 모듈;
    특정 메타 데이터를 포함하는 360도 비디오를 상기 외부 디바이스로부터 상기 통신 모듈을 수신하고, 사용자의 시선 방향을 상기 센서 모듈을 통하여 감지하고, 수신된 상기 특정 메타 데이터에 대응하는 시점에서, 감지된 상기 사용자의 시선 방향에 맞추어 상기 360도 비디오의 재생 위치를 조정하고, 조정된 상기 360도 비디오를 디스플레이하는 컨트롤러; 및
    상기 컨트롤러로부터의 제어 명령에 따라 상기 360 비디오를 디스플레이 하는 디스플레이 모듈
    을 포함하는 헤드 마운티드 디스플레이.
  2. 제 1 항에 있어서,
    상기 센서 모듈은 상기 사용자의 몸통 방향을 감지하고,
    상기 컨트롤러는 감지된 상기 사용자의 몸통 방향에 맞추어 상기 360도 비디오의 재생 위치를 조정하는 것
    인 헤드 마운티드 디스플레이.
  3. 제 1 항에 있어서, 상기 컨트롤러는,
    360도 비디오의 특정 부분을 자동으로 인식한고, 인식된 상기 360도 비디오의 특정 부분에 특정 메타 데이터를 삽입하는 것
    인 헤드 마운티드 디스플레이.
  4. 제 1 항에 있어서,
    상기 360도 비디오는 EPG 정보를 더 포함하고,
    상기 컨트롤러는,
    상기 EPG 정보를 기초로 상기 360도 비디오의 장르를 결정하고,
    상기 360도 비디오의 장르가 스포츠이고 상기 360도 비디오의 재생 중 특정 프레임이 점수 내용을 포함하면, 상기 특정 프레임을 상기 사용자의 시선 방향으로 이동하고, 상기 360도 비디오의 재생 위치를 이동된 상기 특정 프레임을 기초로 조정하는 것
    인 헤드 마운티드 디스플레이.
  5. 제 3 항에 있어서, 상기 컨트롤러는
    상기 360도 비디오의 장르가 광고이고 상기 360도 비디오의 재생 중 특정 프레임이 광고 내용을 포함하면, 상기 특정 프레임을 상기 사용자의 시선 방향으로 이동하고, 상기 360도 비디오의 재생 위치를 이동된 상기 특정 프레임을 기초로 조정하는 것
    인 헤드 마운티드 디스플레이.
  6. 제 1 항에 있어서, 상기 컨트롤러는
    추가된 상기 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 인디케이터를 화면에 디스플레이하는 것
    인 헤드 마운티드 디스플레이.
  7. 제 1 항에 있어서,
    음성을 출력하는 스피커 모듈을 더 포함하고,
    상기 컨트롤러는
    추가된 상기 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 안내 방송을 상기 스피커 모듈을 통하여 출력하는 것
    인 헤드 마운티드 디스플레이.
  8. 제 1 항에 있어서, 상기 컨트롤러는
    상기 특정 메타 데이터에 대응하는 시점보다 소정 시간 이전에 상기 360도 비디오의 재생을 일지 정지하는 것
    인 헤드 마운티드 디스플레이.
  9. 제 8 항에 있어서, 상기 컨트롤러는
    상기 360도 비디오의 디스플레이되는 방향의 반대 방향과 감지된 상기 사용자의 시선 방향이 이루는 각도가 소정 범위 이내 이면, 상기 360도 비디오를 다시 재생하는 것
    인 헤드 마운티드 디스플레이.
  10. 제 1 항에 있어서, 상기 컨트롤러는
    사용자의 몸이 향하는 방향을 상기 센서 모듈을 통하여 감지하고, 감지된 상기 몸이 향하는 방향을 기본 방향으로 설정하고, 상기 센서 모듈을 기준으로 적어도 하나의 외부 센서의 상대 위치를 파악하고, 파악된 상기 상대 위치를 기초로 몸이 향하는 방향과 사용자가 보는 방향을 분리하는 것
    인 헤드 마운티드 디스플레이.
  11. 헤드 마운티드 디스플레이의 제어 방법에 있어서,
    특정 메타 데이터를 포함하는 360도 비디오를 외부 디바이스로부터 수신하는 단계;
    사용자의 시선 방향을 감지하는 단계;
    상기 특정 메타 데이터에 대응하는 시점에서, 감지된 상기 사용자의 시선 방향에 맞추어 상기 360도 비디오의 재생 위치를 조정하는 단계; 및
    조정된 상기 360도 비디오를 디스플레이하는 단계
    를 포함하는 헤드 마운티드 디스플레이의 제어 방법.
KR1020160031403A 2016-03-16 2016-03-16 헤드 마운티드 디스플레이 및 그 제어 방법 KR102606116B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160031403A KR102606116B1 (ko) 2016-03-16 2016-03-16 헤드 마운티드 디스플레이 및 그 제어 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160031403A KR102606116B1 (ko) 2016-03-16 2016-03-16 헤드 마운티드 디스플레이 및 그 제어 방법

Publications (2)

Publication Number Publication Date
KR20170107719A true KR20170107719A (ko) 2017-09-26
KR102606116B1 KR102606116B1 (ko) 2023-11-24

Family

ID=60036943

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160031403A KR102606116B1 (ko) 2016-03-16 2016-03-16 헤드 마운티드 디스플레이 및 그 제어 방법

Country Status (1)

Country Link
KR (1) KR102606116B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019194529A1 (ko) * 2018-04-05 2019-10-10 삼성전자 주식회사 복수의 뷰포인트들을 포함하는 3차원 컨텐트에 대한 정보를 전송하기 위한 방법 및 장치
KR20200032230A (ko) * 2017-09-28 2020-03-25 엘지전자 주식회사 스티칭 및 리프로젝션 관련 메타데이터를 이용한 6dof 비디오를 송수신하는 방법 및 그 장치
EP3827594A4 (en) * 2018-07-26 2021-06-09 Telefonaktiebolaget Lm Ericsson (Publ) SYSTEM AND METHOD FOR CAPTURING BOOKMARKS IN AN IMMERSIVE 360 DEGREE VIDEO BASED ON EYE VECTOR INFORMATION

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080089803A (ko) * 2007-04-02 2008-10-08 이성수 영상데이터 처리방법 및 두부 장착형 디스플레이어
JP2011049630A (ja) * 2009-08-25 2011-03-10 Canon Inc ３ｄ映像処理装置及びその制御方法
KR20110080915A (ko) * 2010-01-07 2011-07-13 엘지전자 주식회사 영상 서비스 제공 방법, 그리고 이를 수행하는 영상 시스템 및 이동 단말기
KR101557152B1 (ko) * 2014-04-02 2015-10-05 서울시립대학교 산학협력단 광고노출 측정 장치, 방법 및 기록매체
US20150379772A1 (en) * 2014-06-30 2015-12-31 Samsung Display Co., Ltd. Tracking accelerator for virtual and augmented reality displays

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080089803A (ko) * 2007-04-02 2008-10-08 이성수 영상데이터 처리방법 및 두부 장착형 디스플레이어
JP2011049630A (ja) * 2009-08-25 2011-03-10 Canon Inc ３ｄ映像処理装置及びその制御方法
KR20110080915A (ko) * 2010-01-07 2011-07-13 엘지전자 주식회사 영상 서비스 제공 방법, 그리고 이를 수행하는 영상 시스템 및 이동 단말기
KR101557152B1 (ko) * 2014-04-02 2015-10-05 서울시립대학교 산학협력단 광고노출 측정 장치, 방법 및 기록매체
US20150379772A1 (en) * 2014-06-30 2015-12-31 Samsung Display Co., Ltd. Tracking accelerator for virtual and augmented reality displays

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200032230A (ko) * 2017-09-28 2020-03-25 엘지전자 주식회사 스티칭 및 리프로젝션 관련 메타데이터를 이용한 6dof 비디오를 송수신하는 방법 및 그 장치
US11856181B2 (en) 2017-09-28 2023-12-26 Lg Electronics Inc. Method and device for transmitting or receiving 6DoF video using stitching and re-projection related metadata
WO2019194529A1 (ko) * 2018-04-05 2019-10-10 삼성전자 주식회사 복수의 뷰포인트들을 포함하는 3차원 컨텐트에 대한 정보를 전송하기 위한 방법 및 장치
US11516454B2 (en) 2018-04-05 2022-11-29 Samsung Electronics Co., Ltd. Method and device for transmitting information on three-dimensional content including multiple view points
EP3827594A4 (en) * 2018-07-26 2021-06-09 Telefonaktiebolaget Lm Ericsson (Publ) SYSTEM AND METHOD FOR CAPTURING BOOKMARKS IN AN IMMERSIVE 360 DEGREE VIDEO BASED ON EYE VECTOR INFORMATION

Also Published As

Publication number Publication date
KR102606116B1 (ko) 2023-11-24

Similar Documents

Publication Publication Date Title
CN108605166B (zh) 一种增强现实中呈现替换图像的方法及设备
EP3479202B1 (en) Augmenting virtual reality content with real world content
US10539797B2 (en) Method of providing virtual space, program therefor, and recording medium
US8269822B2 (en) Display viewing system and methods for optimizing display view based on active tracking
US9866924B2 (en) Systems and methods for enhanced television interaction
KR102349716B1 (ko) 영상 공유 방법 및 이를 수행하는 전자 장치
US20170142486A1 (en) Information processing device, display device, information processing method, program, and information processing system
US20170153866A1 (en) Audiovisual Surround Augmented Reality (ASAR)
WO2019026765A1 (ja) レンダリング装置、ヘッドマウントディスプレイ、画像伝送方法、および画像補正方法
EP3008548B1 (en) Head-mountable apparatus and systems
US20120207308A1 (en) Interactive sound playback device
WO2019067445A1 (en) BINAURAL AUDIO RENDER FOLLOWING PREDICTIVE HEAD
JP6845111B2 (ja) 情報処理装置および画像表示方法
WO2005122128A1 (ja) 装着型情報提示装置
WO2018186031A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7416048B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20190287313A1 (en) Head-mountable apparatus and methods
KR20170107719A (ko) 헤드 마운티드 디스플레이 및 그 제어 방법
EP3346375B1 (en) Program, recording medium, content provision device, and control method
US20210058611A1 (en) Multiviewing virtual reality user interface
WO2018216402A1 (ja) 情報処理装置、情報処理方法、及びプログラム
CN115623149A (zh) 视频记录及回放系统和方法
KR20170134147A (ko) 디스플레이 컨트롤러, 전자 기기, 및 가상 현실 장치
CN108600797B (zh) 一种信息处理法方法和电子设备
US20230214006A1 (en) Peripheral Tracking System and Method

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant