KR20200114922A

KR20200114922A - 컨트롤러 입력에 따른 회전 구동 제어 방법 및 이를 이용한 헤드 마운티드 디스플레이 시스템

Info

Publication number: KR20200114922A
Application number: KR1020190049493A
Authority: KR
Inventors: 양원준
Original assignee: 트라이픽스주식회사
Priority date: 2019-03-25
Filing date: 2019-04-29
Publication date: 2020-10-07
Also published as: KR102286517B1

Abstract

본 발명의 일실시예는 사용자가 착용하도록 형성되고, 사용자의 양안에 영상을 제공하는 헤드 마운티드 디스플레이; 및 상기 사용자가 상기 헤드 마운티드 디스플레이에서 제공하는 상기 영상을 제어하기 위한 컨트롤러를 포함하고, 상기 헤드 마운티드 디스플레이는, 상기 컨트롤러로부터 회전 구동 신호를 수신하는 통신부; 영상이 관찰자의 입장에서 사용자에게 제공되도록 관전 영상을 촬영하는 카메라부; 상기 카메라부에서 촬영하는 관전 영상을 표시하는 디스플레이부; 상기 디스플레이부에 표시되는 상기 관전 영상의 부하 상태를 확인하는 부하 상태 확인부; 상기 관전 영상의 부하 상태를 기반으로 상기 관전 영상의 부하 상태를 판단하는 판단부; 및 상기 판단부에서 판단한 상기 관전 영상의 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 상기 카메라부의 움직임 및 위치 중 어느 하나를 변경하는 제어부;를 포함하여, 헤드 마운티드 디스플레이의 부하에 의한 멀미를 해소할 수 있고, 출력 영상이 회전됨에 따라 발생되는 화면의 번짐, 지연 및 떨림을 방지하여 사용자의 멀미를 감소시키는, 헤드 마운티드 디스플레이 시스템을 제공한다.

Description

컨트롤러 입력에 따른 회전 구동 제어 방법 및 이를 이용한 헤드 마운티드 디스플레이 시스템{CONTROL METHOD OF ROTATING DRIVE DEPENDIONG ON CONTROLLER INPUT AND HEAD-MOUNTED DISPLAY USING THE SAME}

본 발명은 헤드 마운티드 디스플레이에 관한 것으로, 더욱 상세하게는 컨트롤로의 좌우 회전 이동에 대응하여, 관전 영상의 카메라부의 회전 구동을 제어함으로써 사용자의 멀미를 감소시키는 컨트롤러 입력에 따른 회전 구동 제어 방법 및 이를 이용한 헤드 마운티드 디스플레이 시스템에 관한 것이다.

사용자 인터페이스(User Interface) 기술의 발전에 따라, 사용자에게 다양한 시청각 자극을 제공하기 위한 입출력 장치들도 개발되고 있다. 예를 들어, 종래에 단순히 키보드, 마우스, 조이스틱 등으로만 입력 신호를 제공하던 입력 장치들은, 중력 변화, 가속도 변화 등을 이용하여 다양한 방식으로 입력 신호를 제공하도록 개발되고 있다.

또한, 출력 장치의 경우, 사용자에게 대화면을 제공하거나, 초 고화질의 영상을 제공하는 것을 넘어, 입체감 있는 영상을 제공하고, 보다 실재감 있는 시청각 자극을 제공하도록 개발되고 있다. 예를 들어, 오큘러스 리프트, 갤럭시 VR, HTC 바이브 등과 같이, 머리에 착용하여 가상현실(virtual reality)을 체험하게 하는 출력 장치들이 개발되고 있다.

이러한 가상현실 출력 장치들은, 일반적인 시청각 출력 장치와 다르게, 사용자의 시야를 전체적으로 가린 상태에서 출력 화면에 나타나는 영상에 의해서만 사용자의 시각적 인지가 가능하도록 구성되기 때문에, 사용자가 신체적으로 느끼는 움직임과, 출력 화면에 나타나는 영상의 움직임에 차이가 발생할 경우, 멀미를 느낄 수 있다. 이러한 멀미 증상은 사이버 멀미(cyber sickness)(또는, 가상 멀미)로 불리기도 하는데, 가상 멀미가 누적되는 경우, 출력 장치 자체에 대한 사용 편의성이 현저히 감소될 수 있는 문제점이 있다.

대한민국 등록특허 10-1855863호 (2018.05.09. 공고)

본 발명이 이루고자 하는 기술적 과제는 컨트롤러의 좌우 이동 입력에 대응하여 관전 영상의 회전이 발생되고, 영상의 회전에 의해 사용자에게 멀미가 유발되지 않도록 할 수 있는 컨트롤러 입력에 따른 회전 구동 제어 방법 및 이를 이용한 헤드 마운티드 디스플레이 시스템를 제공하는 것이다.

또한, 컨트롤러의 회전 입력에 따라 영상의 출력 성능에 부하(FPS)가 증가하게 되고, 그에 따라 번짐(출력 지연) 현상이 증가하게 되어 멀미를 유발하는 것을 방지하도록, 부하 단계 별 컨트롤러 입력에 따른 회전 구동 제어 방법의 수치를 제공하는 것이다.

본 발명이 이루고자 하는 기술적 과제는 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상기 기술적 과제를 달성하기 위하여, 사용자가 착용하도록 형성되고, 사용자의 양안에 영상을 제공하는 헤드 마운티드 디스플레이; 및 상기 사용자가 상기 헤드 마운티드 디스플레이에서 제공하는 상기 영상을 제어하기 위한 컨트롤러를 포함하고, 상기 헤드 마운티드 디스플레이는, 상기 컨트롤러로부터 회전 구동 신호를 수신하는 통신부; 영상이 관찰자의 입장에서 사용자에게 제공되도록 관전 영상을 촬영하는 카메라부; 상기 카메라부에서 촬영하는 관전 영상을 표시하는 디스플레이부; 상기 디스플레이부에 표시되는 상기 관전 영상의 부하 상태를 확인하는 부하 상태 확인부; 상기 관전 영상의 부하 상태를 기반으로 상기 관전 영상의 부하 상태를 판단하는 판단부; 및 상기 판단부에서 판단한 상기 관전 영상의 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 상기 카메라부의 움직임 및 위치 중 어느 하나를 변경하는 제어부;를 포함하는 것을 특징으로 하는, 헤드 마운티드 디스플레이 시스템을 제공한다.

본 발명의 실시예에 있어서, 상기 부하 상태 확인부는, 상기 관전 영상의 프레임수 및 상기 카메라부의 중심으로부터 기 설정된 거리 이내의 오브젝트의 수 중 적어도 하나를 이용하여 상기 영상의 부하 상태를 확인할 수 있다.

본 발명의 실시예에 있어서, 상기 판단부는, 상기 부하 상태 확인부에서 확인한 부하 상태를 기초로, 상기 관전 영상이 제1 부하 상태, 제2 부하 상태 및 제3 부하 상태 중 어느 부하 상태인지 판단할 수 있다.

본 발명의 실시예에 있어서, 상기 판단부는, 상기 관전 영상의 초당 프레임수(fps)에 따라 상기 관전 영상의 품질 점수를 결정하고, 기 결정된 기간 동안의 상기 품질 점수의 점수 합계로 상기 관전 영상의 부하 상태를 판단할 수 있다.

본 발명의 실시예에 있어서, 상기 제어부는, 상기 판단부에서 상기 관전 영상에 대해 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 회전 구동 신호에 따라 상기 카메라부의 중심을 후퇴, 저속회전, 전진 및 고속회전 중 적어도 하나의 방법으로 이동시킬 수 있다.

상기 기술적 과제를 달성하기 위하여, 본 발명의 다른 실시예는 헤드 마운티드 디스플레이가, 컨트롤러로부터 회전 구동 신호를 수신하는 단계; 상기 헤드 마운티드 디스플레이가, 영상을 관찰자 입장에서 제공되도록 관전 영상을 촬영하는 단계; 상기 헤드 마운티드 디스플레이가, 상기 관전 영상을 디스플레이부를 통해 디스플레이하는 단계; 상기 헤드 마운티드 디스플레이가, 상기 관전 영상의 부하 상태를 확인하는 단계; 상기 헤드 마운티드 디스플레이가, 확인한 상기 관전 영상의 부하 상태를 판단하는 단계; 및 상기 헤드 마운티드 디스플레이가, 상기 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 관전 영상의 촬영 위치를 변경하는 단계를 포함하는 것을 특징으로 하는, 컨트롤러 입력에 따른 회전 구동 제어 방법을 제공한다.

본 발명의 실시예에 있어서, 상기 부하 상태를 확인하는 단계는, 상기 영상의 프레임수 및 상기 카메라부로부터 기 설정된 거리 이내의 오브젝트의 수 중 적어도 하나를 이용하여 상기 영상의 부하 상태를 확인하는 단계일 수 있다.

본 발명의 실시예에 있어서, 상기 제어가 필요한지 여부를 판단하는 단계는, 상기 확인한 부하 상태를 기초로, 상기 관전 영상이 제1 부하 상태, 제2 부하 상태 및 제3 부하 상태 중 어느 부하 상태인지 판단하는 단계일 수 있다.

본 발명의 실시예에 있어서, 상기 촬영 위치를 변경하는 단계는, 상기 관전 영상에 대해 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 회전 구동 신호에 따라 상기 카메라부의 중심을 후퇴, 저속회전, 전진 및 고속회전 중 적어도 하나의 방법으로 이동시키는 단계일 수 있다.

상기 기술적 과제를 달성하기 위하여, 본 발명의 다른 실시예는 하나 이상의 프로세서; 메모리; 및 하나 이상의 프로그램을 포함하는 장치이고, 상기 하나 이상의 프로그램은 상기 메모리에 저장되고 상기 하나 이상의 프로세서에 의해 실행되도록 구성되며, 상기 프로그램은, 상기 장치로 하여금, 컨트롤러로부터 회전 구동 신호를 수신하는 동작; 영상을 관찰자 입장에서 제공되도록 관전 영상을 촬영하는 동작; 상기 관전 영상을 디스플레이부를 통해 디스플레이하는 동작; 상기 관전 영상의 부하 상태를 확인하는 동작; 확인한 상기 관전 영상의 부하 상태를 판단하는 동작; 및 상기 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 관전 영상의 촬영 위치를 변경하는 동작을 수행하도록 구성되는, 장치를 제공한다.

본 발명의 실시예에 따르면, 헤드 마운티드 디스플레이의 회전 시, 멀미를 해소할 수 있고, 헤드 마운티드 디스플레이에 부하 발생 시, 가중된 멀미를 해소할 수 있게 된다.

또한, 본 발명의 실시예에 따르면, 컨트롤러의 회전 명령에 따라 출력 영상이 이동되고 출력 영상의 이동에 따라 인지부조화와 그를 가중시키는 화면의 번짐, 지연 및 떨림에 의하여 사용자에게 유발되는 멀미를 감소시킬 수 있다.

본 발명의 효과는 상기한 효과로 한정되는 것은 아니며, 본 발명의 상세한 설명 또는 특허청구범위에 기재된 발명의 구성으로부터 추론 가능한 모든 효과를 포함하는 것으로 이해되어야 한다.

도 1은 본 발명의 일 실시예에 따른 헤드 마운티드 디스플레이 시스템을 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 헤드 마운티드 디스플레이의 구성을 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따른 회전 구동에 따른 카메라부의 움직임을 나타낸 도면이다.
도 4는 본 발명의 일 실시예에 따른 컨트롤러 입력에 따른 회전 구동 제어 방법의 순서를 나타낸 도면이다.
도 5는 예시적인 실시예들에서 사용되기에 적합한 예시적인 컴퓨팅 장치를 포함하는 컴퓨팅 환경을 나타내는 도면이다.

이하에서는 첨부한 도면을 참조하여 본 발명을 설명하기로 한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며, 따라서 여기에서 설명하는 실시예로 한정되는 것은 아니다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결(접속, 접촉, 결합)"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 부재를 사이에 두고 "간접적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 구비할 수 있다는 것을 의미한다.

본 명세서에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

이하 첨부된 도면을 참고하여 본 발명의 실시예를 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시예에 따른 헤드 마운티드 디스플레이 시스템을 나타낸 도면이다.

도 1을 참조하면, 헤드 마운티드 디스플레이 시스템(1)은 헤드 마운티드 디스플레이(10) 및 컨트롤러(20)를 포함할 수 있다.

헤드 마운티드 디스플레이(HMD : Head Mounted Display)(10)는 사용자가 안경처럼 착용하고 사용하는 모니터를 의미할 수 있다. 구체적으로, 헤드 마운티드 디스플레이(10)는 안경, 헤드셋 또는 헬멧 등의 형상을 가지며, 사용자의 양안에 영상을 제공할 수 있다. 예를 들어, 헤드 마운티드 디스플레이(10)는 디스플레이를 통해 영상을 디스플레이하여, 사용자의 눈앞에서 영상을 제공할 수 있게 된다. 이 경우, 헤드 마운티드 디스플레이(10)의 후면에는 사용자의 머리에 착용 가능하도록 하는 안경 다리 또는 벤드 등이 형성될 수 있다. 또한, 헤드 마운티드 디스플레이(10)에는 조작용 트랙 패드, 리턴 버튼, 음량 조정 키 등이 탑재될 수 있다.

또는, 헤드 마운티드 디스플레이(10)는 별도의 디스플레이를 필요로 하는 디바이스로 구현될 수도 있다. 예를 들어, 헤드 마운티드 디스플레이(10)는 안경, 헤드셋 또는 헬멧 등의 형상을 갖는 본체(가령, 하우징)이고, 스마트폰 또는 태블릿 등이 본체의 전면에 부착되어 사용자의 양안에 영상을 제공할 수도 있다.

한편, 헤드 마운티드 디스플레이(10)를 머리에 착용하면, 디스플레이에서 사용자의 좌안이 바라보는 영역과 우안이 바라보는 영역은 공간적으로 분리될 수 있다. 이에 따라, 헤드 마운티드 디스플레이(10)는 디스플레이에서 사용자의 좌안이 바라보는 영역과 우안이 바라보는 영역에 서로 다른 영상을 디스플레이하여, 좌안과 우안에 서로 다른 영상이 입사되도록 할 수 있다.

한편, 헤드 마운티드 디스플레이(10)는 사용자의 머리 움직임을 추적하여 시야 영상을 즉각적으로 업데이트할 수 있도록 구현되며, 2D 영상뿐 아니라 3D 영상을 제공할 수 있도록 구현될 수 있다. 예를 들어, 사용자가 헤드 마운티드 디스플레이(10)를 머리에 착용하면 사용자의 시야를 완전히 장악해 360도 입체 영상과 음향을 제공하며, 헤드 마운티드 디스플레이(10)에 구비된 자이로 센서와 가속도 센서 등이 사용자가 고개를 위아래 혹은 좌우로 움직이는 것을 감지해 그방향에 알맞은 시각효과를 내도록 구현될 수 있다. 이에 따라, 사용자는 파노라마 3D 영상 중에서 자신의 시선이 향하는 방향에 존재하는 3D 영상을 제공받을 수 있어, 가상 현실(virtual reality, VR)을 체험할 수 있게 된다.

컨트롤러(20)는 헤드 마운티드 디스플레이(10)를 제어할 수 있다. 구체적으로, 컨트롤러(20)는 사용자의 입력에 따라 헤드 마운티드 디스플레이(10)에서 제공하는 영상을 제어하거나, 관전 영상을 촬영하는 카메라부의 중심을 이동시킬 수 있다.

컨트롤러(20)는 사람의 팔 또는 다리 등의 신체의 일부분에 착용할 수 있는 형태로 구현될 수 있으며, 근전도 센서를 탑재하여 신체의 일부분에 착용된 상태에서 사람이 움직이는 경우 사람의 움직임에 따른 근전도 신호를 측정하고, 측정된 근전도 신호를 기반으로 사람의 움직임 정보를 분석하여 헤드 마운티드 디스플레이(10)를 제어할 수도 있다.

도 2는 본 발명의 일 실시예에 따른 헤드 마운티드 디스플레이의 구성을 나타낸 도면이다.

도 2를 참조하면, 헤드 마운티드 디스플레이(10)는 통신부(100), 카메라부(110), 디스플레이부(120), 부하 상태 확인부(130), 판단부(140), 제어부(150) 및 데이터베이스부(160)를 포함할 수 있다.

통신부(100)는 컨트롤러(20)와 통신할 수 있다. 구체적으로 통신부(100)는 콘트롤러(20)와 로컬 영역 네트워크(Local Area Network: LAN), 광역 네트워크(Wide Area Network: WAN), 셀룰라 네트워크 또는 인터넷 등과 같은 네트워크를 통해 상호 통신 할 수 있다. 또는 통신부(100)는 컨트롤러(20)와 유선으로 연결되어 통신할 수도 있음은 물론이다.

통신부(100)는 컨트롤러(20)의 입력을 수신할 수 있다. 예를 들어, 통신부(100)는 컨트롤러(20)의 회전 구동 신호를 수신할 수 있다. 여기서, 회전 구동 신호란, 사용자가 컨트롤러(20)를 사용하여 좌향 또는 우향으로 회전하기 위한 신호를 의미할 수 있다.

카메라부(110)는 헤드 마운티드 디스플레이(10)에 저장되어 있는 컨텐츠 또는 다른 장치로부터 컨텐츠(이하, 영상이라 함)가 사용자에게 제공되도록 할 수 있다. 구체적으로, 카메라부(110)는 헤드 마운티드 디스플레이(10)에서 사용되는 영상이 관찰자 입장에서 사용자에게 제공되도록 관전 영상을 촬영할 수 있다.

카메라부(110)는 헤드 마운티드 디스플레이(10)에서 사용되는 영상이 관찰자 입장으로 사용자에게 제공되도록 관전 영상을 촬영하되, 제어부(150)의 제어에 따라 상기 영상에서 관전 영상을 촬영하기 위한 카메라부(110)의 중심이 위치 변경될 수 있다. 카메라부(110)의 중심이 위치 변경되는 구체적인 내용은 제어부(150)의 설명에서 후술하도록 한다.

디스플레이부(120)는 상기 카메라부(110)에서 촬영하는 관전 영상을 디스플레이 할 수 있다. 구체적으로, 디스플레이부(120)는 상기 카메라부(110)가 촬영한 관전 영상이 사용자에게 제공되도록 디스플레이 할 수 있다. 또한, 디스플레이부(120)는 컨텐츠의 재생 중에 GUI 등을 오버레이하여 디스플레이 할 수도 있다.

디스플레이부(120)는 제어부(140)의 제어에 의해 디스플레이부(120)의 일 영역의 화면 상태를 변경할 수 있다. 예를 들어, 디스플레이부(120)는 외부 영상을 촬영하여 디스플레이부(120)의 일 영역에 오버레이 할 수 있다. 또는, 디스플레이부(120)는 디스플레이부(120)의 일 영역의 투명도를 증가시킬 수도 있다.

디스플레이부(120)는 LCD(Liquid Crystal Display Panel), OLED(Organic Light Emitting Diodes) 등으로 구현될 수 있으나, 이에 한정되는 것은 아니다. 또한, 디스플레이부(120)는 경우에 따라 플렉서블 디스플레이, 투명 디스플레이 등으로 구현되는 것도 가능하다.

부하 상태 확인부(130)는 디스플레이부(120)에 표시되는 관전 영상의 부하 상태를 확인할 수 있다. 구체적으로, 부하 상태 확인부(130)는 현재 디스플레이부(120)에 표시되는 관전 영상의 초당 프레임 수(FPS : Frame Per Second) 상태, 상기 카메라부(110)의 위치를 중심으로 기 설정된 반경 이내에 오브젝트의 수를 기반으로 관전 영상의 부하 상태를 확인할 수 있다. 예를 들어, 부하 상태 확인부(130)는 상기 카메라부(110)의 위치를 중심으로 10m 내지 30m 반경 이내의 오브젝트의 수를 기반으로 관전 영상의 부하 상태를 확인할 수 있다. 바람직하는게는, 상기 카메라부(110)의 위치를 중심으로 20m 이내의 오브젝트의 수를 기반으로 관전 영상의 부하 상태를 확인할 수 있다.

부하 상태 확인부(130)는 확인한 관전 영상의 부하 상태 정보를 판단부(140)에 전송할 수 있다. 구체적으로, 부하 상태 확인부(130)는 디스플레이부(120)에 표시되는 관전 영상의 초당 프레임 수(FPS), 카메라부(110)의 위치를 중심으로 기 설정된 반경 이내의 오브젝트의 수 중 적어도 하나를 포함하는 부하 상태 정보를 판단부(140)에 전송할 수 있다. 여기서는, 부하 상태 정보가 관전 영상의 초당 프레임 수, 카메라부(110)의 위치를 중심으로 기 설정된 반경 이내의 오브젝트의 수인 것으로 설명하였으나, 이에 한정되는 것은 아니며, 부하 상태 정보는 헤드 마운티드 디스플레이(10)의 CPU, GPU, MEMORY 정보 등과 같이 연산 부하가 급상승하는 것을 확인할 수 있는 요소들을 포함할 수도 있음은 물론이다.

판단부(140)는 부하 상태 확인부(130)에서 전달받은 부하 상태 정보를 기반으로 헤드 마운티드 디스플레이(10)의 부하 감소 제어가 필요한지 여부를 판단할 수 있다. 구체적으로, 판단부(140)는 부하 상태 정보를 기반으로, 현재 헤드 마운티드 디스플레이(10)의 부하 상태가 정상상태, 제1 부하상태, 제2 부하상태 및 제3 부하상태 중 어떠한 상태인지 판단할 수 있다.

판단부(140)는 상기 관전 영상의 초당 프레임수를 기반으로 관전 영상의 부하 상태를 판단할 수 있다. 구체적으로, 판단부(140)는 관전 영상의 초당 프레임수를 기반으로 영상의 초당 품질 점수를 결정하고, 품질 점수를 통해 해당 영상의 부하 상태를 판단할 수 있다. 예를 들어, 판단부(140)는 관전 영상의 초당 프레임수(fps)가 60 이상인 경우, 0점, 초당 프레임수(fps)가 50이상 60 미만인 경우 1점, 초당 프레임수(fps)가 40이상 49미만인 경우 2점, 초당 프레임수(fps)가 30이상 39미만인 경우 3점의 품질 점수를 부여할 수 있다. 이때, 관전 영상의 초당 프레임수(fps)는 그 숫자가 작을수록 관전 영상이 지연되어 나타나게 될 수 있다. 판단부(140)는 관전 영상의 초당 프레임수를 기 설정된 주기마다 갱신할 수 있다. 예를 들어, 판단부(140)는 2초마다 관전 영상의 초당 프레임수(fps)를 확인하여 관전 영상의 품질 점수를 확인할 수 있다. 판단부(140)는 기 설정된 기간 동안의 관전 영상 품질 점수의 점수 합계로 현재 관전 영상의 부하 상태를 판단할 수 있다. 예를 들어, 판단부(140)는 기 설정된 기간이 3회의 품질 점수인 경우, 현재로부터 이전 3회의 초당 품질 점수의 합을 통해 현재 관전 영상의 부하 상태를 판단할 수 있다. 판단부(140)는 기 설정된 기간 동안의 관전 영상의 품질 점수의 합계에 따라, 합계 점수가 0점 ~ 1점인 경우, 쾌적한 상태로 판단하고, 2점인 경우, 제1 부하 상태, 3점~5점인 경우, 제2 부하 상태, 6점~9점인 경우 제3 부하 상태인 것으로 판단할 수 있다.

또한, 판단부(140)는 상기 카메라부(110)의 위치를 중심으로 기 설정된 거리 이내의 오브젝트의 수를 기반으로 관전 영상의 부하 상태를 판단할 수 있다. 예를 들어, 카메라부(110)의 위치를 중심으로 기 설정된 거리가 20m인 경우, 카메라부(110)의 위치를 중심으로 반경 20m 이내에 오브젝트의 수가 10개 이상 20개 미만인 경우, 제1 부하 상태, 오브젝트의 수가 20개 이상 30개 미만인 경우, 제2 부하 상태, 오브젝트의 수가 30개 이상인 경우 제3 부하 상태로 판단할 수 있다.

제어부(150) 상기 판단부(140)에서 판단한 부하 상태 및 상기 컨트롤러(20)로부터 수신한 회전 구동 신호에 따라 카메라부(110)를 움직이거나 위치를 변경할 수 있다. 구체적으로, 제어부(150)는 컨트롤러(20)로부터 수신한 회전 구동 신호를 기초로 카메라부(110)의 중심을 후퇴, 저속회전, 전진 및 고속회전 중 적어도 하나의 방법으로 이동시킬 수 있다. 이때, 제어부(150)는 부하 상태 및 회전 단계(회전의 초기, 중기, 후기)에 따라 카메라부(110)의 이동 속도를 조절할 수 있다.

예를 들어, 제어부(150)는 관전 영상이 제1 부하 상태인 경우, 컨트롤러(20)로부터 회전 구동 신호를 수신하면, 회전 초기(예를 들어, 콘트롤러(20)의 회전 방향 입력 시부터 1초 이내)에는 카메라부(110)의 중심을 비교적 빠르게(예를 들어, 5m/s의 속도로) 3m 후퇴시키고, 등속 저속 회전(예를 들어, 20도/초)으로 카메라부(110)의 중심을 이동시킬 수 있다. 이후, 회전 중기(예를 들어, 초기회전 이후~회전 정지 직전)에는 컨트롤러(20) 지정 지점까지 등속 고속 회전(예를 들어, 40도/초)으로 카메라부(110)의 중심을 이동시킬 수 있다. 이후, 회전 후기(예를 들어, 회전 정지 직후 ~ 2초 내지 3초)에는 회전 초기에 후퇴한 3m를 비교적 느리게(예를 들어, 0.5m/s의 속도로) 원점복원 시킬 수 있다.

즉, 제어부(150)는 컨트롤러(20)의 입력에 따라 초기에는 카메라부(110)의 중심을 일정거리 후퇴시키는 과정에서 회전시 새로 보여지는 화면의 번짐 및 흔들림을 최소화 하고, 이후에 원 위치로 느리게 복귀 시키는 과정을 통해 화면의 번짐, 지연 및 떨림 등에 의한 사용자에게 발생될 수 있는 멀미를 최소화 하면서 다음 회전을 위하여 최초의 위치로 이동시킬 수 있다.

만약, 제어부(150)는 관전 영상이 제2 부하 상태 또는 제3 부하 상태인 경우, 상기 제1 부하 상태에서의 제어 조건보다 더 강화된 조건(예를 들어, 카메라부(110)의 중심을 4m 후퇴 및 전진, 후퇴 이동속도 7m/초, 복귀 이동속도 0.3m/초 등)으로 제어할 수 있다.

데이터베이스부(160)는 헤드 마운티드 디스플레이(10)에서 사용하는 각종 정보를 저장할 수 있다. 구체적으로, 데이터베이스부(160)는 각 부하 상태를 분류하기 위한 기준, 각 부하 상태 및 컨트롤러(20)의 입력에 따른 카메라부(110)의 제어 방법 등을 저장할 수 있다. 여기서는, 데이터베이스부(160)가 저장하고 있는 대표적인 예를 설명한 것일 뿐, 이에 한정하는 것은 아니며, 데이터베이스부(160)는 헤드 마운티드 디스플레이(10)에 저장될 수 있는 모든 정보를 저장할 수 있음은 물론이다.

도 3은 본 발명의 일 실시예에 따른 회전 구동에 따른 카메라부의 움직임을 나타낸 도면이다.

도 3을 참조하면, 헤드 마운티드 디스플레이(10)가 컨트롤러(20)로부터 좌측 이동의 명령을 수신하는 경우, 카메라부(110)의 움직임을 확인할 수 있다.

일반 VR카메라의 회전을 보면 0도에서 90도까지 회전되는 동안 물체의 크기는 일정한 상태로 유지되며 회전되는 것을 확인할 수 있다. 반면, 헤드 마운티드 디스플레이(10)는 회전 구동에 따른 카메라부(110)를 후진되도록 함으로써, 25도 ~ 75도 사이동안 물체의 크기가 작게 보이고, 회전의 민감도가 떨어지게 되며, 90도의 위치에서 카메라부(110)가 전진되도록 함으로써, 원래의 위치에 위치되도록 할 수 있다.

도 4는 본 발명의 일 실시예에 따른 컨트롤러 입력에 따른 회전 구동 제어 방법의 순서를 나타낸 도면이다. 도면에서는 상기 방법을 복수 개의 단계로 나누어 기재하였으나, 적어도 일부의 단계들은 순서를 바꾸어 수행되거나, 다른 단계와 결합되어 함께 수행되거나, 생략되거나, 세부 단계들로 나뉘어 수행되거나, 또는 도시되지 않은 하나 이상의 단계가 부가되어 수행될 수 있다. 또한 실시예에 따라 상기 방법에 도시되지 않은 하나 이상의 단계들이 상기 방법과 함께 수행될 수도 있다.

도 4를 참조하면, 헤드 마운티드 디스플레이(10)는 부하 상태를 확인할 수 있다(S302). 구체적으로, 헤드 마운티드 디스플레이(10)는 헤드 마운티드 디스플레이(10)에 표시되는 관전 영상의 부하 상태를 확인할 수 있다. 구체적으로, 헤드 마운티드 디스플레이(10)는 현재 표시되는 관전 영상의 초당 프레임 수(FPS : Frame Per Second) 상태, 상기 카메라부(110)의 위치를 중심으로 기 설정된 반경 이내에 오브젝트의 수를 기반으로 관전 영상의 부하 상태를 확인할 수 있다.

다음으로, 헤드 마운티드 디스플레이(10)는 현재 헤드 마운티드 디스플레이(10)가 제1 부하 상태인지 여부를 판단한다(S304). 헤드 마운티드 디스플레이(10)가 제1 부하 상태인 경우, 제1 부하 상태에 대응하는 제어 조건으로 카메라부(110)를 제어할 수 있다. 만약, 헤드 마운티드 디스플레이(10)는 현재 제1 부하 상태가 아닌 경우, 제2 부하 상태 또는 제3 부하 상태인지 여부를 판단(S308)하고, 제2 부하 상태 또는 제3 부하 상태인 경우, 그에 대응하는 카메라 이동 제어를 수행할 수 있다.

도 5는 예시적인 실시예들에서 사용되기에 적합한 예시적인 컴퓨팅 장치를 포함하는 컴퓨팅 환경을 도시한다.

도5에 도시된 예시적인 컴퓨팅 환경(400)은 컴퓨팅 장치(410)를 포함한다. 통상적으로, 각 구성은 상이한 기능 및 능력을 가질 수 있고, 이하에 기술되지 않았더라도 그 구성에 적합한 컴포넌트를 추가적으로 포함할 수 있다. 컴퓨팅 장치(410)는 VR 화면을 사용자에게 제공하기 위한 장치(예를 들어, 헤드 마운티드 디스플레이(10)) 또는 헤드 마운티드 디스플레이를 컨트롤 할 수 있는 장치(예를 들어, 컨트롤러(20))일 수 있다.

컴퓨팅 장치(410)는 적어도 하나의 프로세서(412), 컴퓨터 판독 가능 저장 매체(414) 및 버스(460)를 포함한다. 프로세서(412)는 버스(460)와 연결되고, 버스(460)는 컴퓨터 판독 가능 저장 매체(414)를 포함하여 컴퓨팅 장치(410)의 다른 다양한 컴포넌트들을 프로세서(412)에 연결한다.

프로세서(412)는 컴퓨팅 장치(410)로 하여금 앞서 언급된 예시적인 실시예에 따라 동작하도록 할 수 있다. 예컨대, 프로세서(412)는 컴퓨터 판독 가능 저장 매체(414)에 저장된 컴퓨터 실행 가능 명령어를 실행할 수 있고, 컴퓨터 판독 가능 저장 매체(414)에 저장된 컴퓨터 실행 가능 명령어는 프로세서(412)에 의해 실행되는 경우 컴퓨팅 장치(410)로 하여금 소정의 예시적인 실시예에 따른 동작들을 수행하도록 구성될 수 있다.

컴퓨터 판독 가능 저장 매체(414)는 컴퓨터 실행 가능 명령어 내지 프로그램 코드(예컨대, 애플리케이션(430)에 포함되는 명령어), 프로그램 데이터(예컨대, 애플리케이션(430)에 의해 사용되는 데이터) 및/또는 다른 적합한 형태의 정보를 저장하도록 구성된다. 컴퓨터 판독 가능 저장 매체(414)에 저장된 애플리케이션(430)은 프로세서(412)에 의해 실행 가능한 명령어의 소정의 집합을 포함한다.

도 5에 도시된 메모리(416) 및 저장 장치(418)는 컴퓨터 판독 가능 저장 매체(414)의 예이다. 메모리(416)에는 프로세서(412)에 의해 실행될 수 있는 컴퓨터 실행 가능 명령어가 로딩될 수 있다. 또한, 메모리(416)에는 프로그램 데이터가 저장될 수 있다. 예컨대, 이러한 메모리(416)는 랜덤 액세스 메모리와 같은 휘발성 메모리, 비휘발성 메모리, 또는 이들의 적합한 조합일 수 있다. 다른 예로서, 저장 장치(418)는 정보의 저장을 위한 하나 이상의 착탈 가능하거나 착탈 불가능한 컴포넌트를 포함할 수 있다. 예컨대, 저장 장치(418)는 하드 디스크, 플래시 메모리, 자기 디스크, 광 디스크, 컴퓨팅 장치(410)에 의해 액세스되고 원하는 정보를 저장할 수 있는 다른 형태의 저장 매체, 또는 이들의 적합한 조합일 수 있다.

컴퓨팅 장치(410)는 또한 하나 이상의 입출력 장치(470)를 위한 인터페이스를 제공하는 하나 이상의 입출력 인터페이스(420)를 포함할 수 있다. 입출력 인터페이스(420)는 버스(460)에 연결된다. 입출력 장치(470)는 입출력 인터페이스(420)를 통해 컴퓨팅 장치(410)(의 다른 컴포넌트들)에 연결될 수 있다. 입출력 장치(470)는 포인팅 장치, 키보드, 터치 입력 장치, 음성 입력 장치, 센서 장치 및/또는 촬영 장치와 같은 입력 장치 및/또는 디스플레이 장치, 프린터, 스피커 및/또는 네트워크 카드와 같은 출력 장치를 포함할 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 헤드 마운티드 디스플레이
20 : 컨트롤러
100 : 통신부
110 : 카메라부
120 : 디스플레이부
130 : 부하 상태 확인부
140 : 판단부
150 : 제어부
160 : 데이터베이스부

Claims

사용자가 착용하도록 형성되고, 사용자의 양안에 영상을 제공하는 헤드 마운티드 디스플레이; 및
상기 사용자가 상기 헤드 마운티드 디스플레이에서 제공하는 상기 영상을 제어하기 위한 컨트롤러를 포함하고,
상기 헤드 마운티드 디스플레이는,
상기 컨트롤러로부터 회전 구동 신호를 수신하는 통신부;
영상이 관찰자의 입장에서 사용자에게 제공되도록 관전 영상을 촬영하는 카메라부;
상기 카메라부에서 촬영하는 관전 영상을 표시하는 디스플레이부;
상기 디스플레이부에 표시되는 상기 관전 영상의 부하 상태를 확인하는 부하 상태 확인부;
상기 관전 영상의 부하 상태를 기반으로 상기 관전 영상의 부하 상태를 판단하는 판단부; 및
상기 판단부에서 판단한 상기 관전 영상의 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 상기 카메라부의 움직임 및 위치 중 어느 하나를 변경하는 제어부;를 포함하는 것을 특징으로 하는, 헤드 마운티드 디스플레이 시스템.
제1항에 있어서,
상기 부하 상태 확인부는,
상기 관전 영상의 프레임수 및 상기 카메라부의 중심으로부터 기 설정된 거리 이내의 오브젝트의 수 중 적어도 하나를 이용하여 상기 영상의 부하 상태를 확인하는 것을 특징으로 하는, 헤드 마운티드 디스플레이 시스템.
제1항에 있어서,
상기 판단부는,
상기 부하 상태 확인부에서 확인한 부하 상태를 기초로, 상기 관전 영상이 제1 부하 상태, 제2 부하 상태 및 제3 부하 상태 중 어느 부하 상태인지 판단하는 것을 특징으로 하는, 헤드 마운티드 디스플레이 시스템.
제3항에 있어서,
상기 판단부는,
상기 관전 영상의 초당 프레임수(fps)에 따라 상기 관전 영상의 품질 점수를 결정하고, 기 결정된 기간 동안의 상기 품질 점수의 점수 합계로 상기 관전 영상의 부하 상태를 판단하는 것을 특징으로 하는, 헤드 마운티드 디스플레이 시스템.
제1항에 있어서,
상기 제어부는,
상기 판단부에서 상기 관전 영상에 대해 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 회전 구동 신호에 따라 상기 카메라부의 중심을 후퇴, 저속회전, 전진 및 고속회전 중 적어도 하나의 방법으로 이동시키는 것을 특징으로 하는, 헤드 마운티드 디스플레이 시스템.
헤드 마운티드 디스플레이가, 컨트롤러로부터 회전 구동 신호를 수신하는 단계;
상기 헤드 마운티드 디스플레이가, 영상을 관찰자 입장에서 제공되도록 관전 영상을 촬영하는 단계;
상기 헤드 마운티드 디스플레이가, 상기 관전 영상을 디스플레이부를 통해 디스플레이하는 단계;
상기 헤드 마운티드 디스플레이가, 상기 관전 영상의 부하 상태를 확인하는 단계;
상기 헤드 마운티드 디스플레이가, 확인한 상기 관전 영상의 부하 상태를 판단하는 단계; 및
상기 헤드 마운티드 디스플레이가, 상기 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 상기 관전 영상의 촬영 위치를 변경하는 단계를 포함하는 것을 특징으로 하는, 컨트롤러 입력에 따른 회전 구동 제어 방법.
제6항에 있어서,
상기 부하 상태를 확인하는 단계는,
상기 영상의 프레임수 및 상기 카메라부로부터 기 설정된 거리 이내의 오브젝트의 수 중 적어도 하나를 이용하여 상기 영상의 부하 상태를 확인하는 단계인, 컨트롤러 입력에 따른 회전 구동 제어 방법.
제6항에 있어서,
상기 제어가 필요한지 여부를 판단하는 단계는,
상기 확인한 부하 상태를 기초로, 상기 관전 영상이 제1 부하 상태, 제2 부하 상태 및 제3 부하 상태 중 어느 부하 상태인지 판단하는 단계인, 컨트롤러 입력에 따른 회전 구동 제어 방법.
제6항에 있어서,
상기 촬영 위치를 변경하는 단계는,
상기 관전 영상에 대해 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 회전 구동 신호에 따라 상기 카메라부의 중심을 후퇴, 저속회전, 전진 및 고속회전 중 적어도 하나의 방법으로 이동시키는 단계인, 컨트롤러 입력에 따른 회전 구동 제어 방법.
하나 이상의 프로세서;
메모리; 및
하나 이상의 프로그램을 포함하는 장치이고,
상기 하나 이상의 프로그램은 상기 메모리에 저장되고 상기 하나 이상의 프로세서에 의해 실행되도록 구성되며,
상기 프로그램은, 상기 장치로 하여금,
컨트롤러로부터 회전 구동 신호를 수신하는 동작;
영상을 관찰자 입장에서 제공되도록 관전 영상을 촬영하는 동작;
상기 관전 영상을 디스플레이부를 통해 디스플레이하는 동작;
상기 관전 영상의 부하 상태를 확인하는 동작;
확인한 상기 관전 영상의 부하 상태를 판단하는 동작; 및
상기 판단한 부하 상태 및 상기 컨트롤러로부터 수신한 상기 회전 구동 신호에 따라 관전 영상의 촬영 위치를 변경하는 동작을 수행하도록 구성되는, 장치.