KR101945082B1 - 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치 - Google Patents

Abstract

미디어 컨텐츠 수신 방법은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 단계; 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 단계; 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 단계; 상기 요청 정보를 기초로 상기 서비스 데이터를 수신하는 단계; 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 단계; 및 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 단계;를 포함한다.

Description

미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치{METHOD FOR TRANSMITTING MEDIA CONTENTS, APPARATUS FOR TRANSMITTING MEDIA CONTENTS, METHOD FOR RECEIVING MEDIA CONTENTS, APPARATUS FOR RECEIVING MEDIA CONTENTS}

본 발명은 컨텐츠 인지 및 사용자 움직임 기반의 가상 현실, 증강현실, 및/또는 홀로그램을 위한 서비스를 제공하기 위한 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치에 관한 것이다.

최근 가상 현실(Virtual Reality, VR)기술 및 장비의 발달과 함께 여러 기업을 통해 Head-Mounted Display (HMD)와 같은 신체에 착용 가능한 기기가 출시되고 있다. HMD를 통한 서비스 시나리오는 영화 관람, 게임, 원격 수술, 및 화상 회의 등을 포함할 수 있다.

가상 현실 서비스는 특정한 환경이나 상황을 컴퓨터로 만들어서, 사용자가 마치 실제 주변 상황 및 환경과 상호작용을 하고 있는 것처럼 만들어주는 서비스를 말한다.

가상 현실 서비스를 제공하는 장치에서 사용자 움직임을 예측하기 위해서, 미디어 컨텐츠를 인지 하고 분석하는 기술이 필요하다.

본 발명의 목적은 사용자의 움직임에 따라 보여지는 화면의 품질을 다르게 처리하는 방법 및 장치를 제공하는데 있다.

또한, 본 발명의 목적은 미디어 컨텐츠의 제작자의 의도에 따라서 사용자에게 보여지는 화면의 품질을 다르게 처리하는 방법 및 장치를 제공하는데 있다.

또한, 본 발명의 목적은 모션 벡터 통계 정보를 기초로 사용자에게 보여지는 화면의 품질을 다르게 처리하는 방법 및 장치를 제공하는데 있다.

본 발명의 일 실시예에 따른 미디어 컨텐츠 수신 방법은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 단계, 상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 단계, 상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고; 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 단계, 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고; 상기 요청 정보를 기초로 상기 서비스 데이터를 수신하는 단계; 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 단계; 및 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 단계;를 포함할 수 있다.

본 발명의 다른 실시예에 따른 미디어 컨텐츠 송신 방법은 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성하는 단계; 상기 전체 영상을 복수의 타일 영역들로 분할하는 단계; 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩하는 단계; 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 단계, 상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 및 요청 정보를 기초로 상기 서비스 데이터를 송신하는 단계;를 포함하고, 상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고, 상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 할 수 있다.

본 발명의 다른 실시예에 다른 미디어 컨텐츠 수신 장치는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 통신 모듈, 상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 관심 영역 정보 생성부, 상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고; 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 요청 정보 생성부, 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고, 상기 통신 모듈은 상기 요청 정보를 기초로 상기 서비스 데이터를 더 수신하고; 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 디코더; 및 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 영상 결합부;를 포함할 수 있다.

본 발명의 다른 실시예에 따른 미디어 컨텐츠 송신 장치는 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성하는 영상 생성부; 상기 전체 영상을 복수의 타일 영역들로 분할하는 영상 분할부; 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩하는 인코더; 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 통신 모듈, 상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고, 상기 통신 모듈은 요청 정보를 기초로 상기 서비스 데이터를 더 송신하고, 상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고, 상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 할 수 있다.

본 발명은 사용자의 눈동자의 움직임 및 가상현실 공간에서 소리의 움직임을 추출하여 사용자의 의도를 예측할 수 있다.

또한, 본 발명은 가상 현실 및/또는 또는 증강 현실 홀로그램을 활용한 복합 서비스에서 미디어 컨텐츠 제작자의 의도, 사용자 움직임, 및 모션 벡터 통계 정보를 기초로, 선택적 및 적응형 스트리밍 방식으로 고 해상도의 미디어 컨텐츠를 전송할 수 있다.

또한, 본 발명은 선택적 및 적응형 스트리밍 방식을 기초로 고 해상도의 미디어 컨텐츠를 전송하여, 사용자의 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스에 대한 거부감과 불편함을 해소할 수 있다.

또한, 본 발명은 복수개의 타일이 인접으로 접합시 경계의 부자연스러움 효과를 적절히 제거하여, 사용자에게 자연스런 영상을 제공할 수 있다.

도 1은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 전자 장치를 나타내는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 일 실시예에 따른 IP 네트워크를 통한 미디어 컨텐츠 송수신 시스템의 구성을 나타낸 도면이다.
도 5는 본 발명의 일 실시예에 따른 MPEG-DASH 표준에서 정의하는 MPD(Media Presentation Description)의 구조를 나타낸 도면이다.
도 6은 본 발명의 일 실시예에 따른 구형좌표계를 평면좌표계로 변환한 도면 및 전자 시스템을 이용한 서비스를 나타낸 도면이다.
도 7은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.
도 8은 본 발명의 일 실시예에 따른 센서 장치를 나타낸 도면이다.
도 9는 본 발명의 일 실시예에 따른 눈동자 벡터를 생성하는 방법을 나타낸 도면이다.
도 10은 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.
도 11은 본 발명의 일 실시예에 따른 눈동자 제스쳐 정보를 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.
도 13은 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.
도 14는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.
도 15는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.
도 16은 본 발명의 일 실시에에 따른 서버의 구성을 나타낸 도면이다.
도 17은 본 발명의 일 실시예에 따른 MPD를 나타낸 도면이다.
도 18은 본 발명의 일 실시예에 따른 다양한 품질로 인코딩된 전체 영상을 나타낸 도면이다.
도 19는 본 발명의 일 실시예에 따른 모션 벡터 통계 정보, 제작자 의도 정보, 및 관심 영역 순위 정보의 설명을 위한 도면이다.
도 20은 본 발명의 일 실시예에 따른 서로 다른 품질로 인코딩된 타일 영상을 수신하는 개념도이다.
도 21은 본 발명의 일 실시예에 따른 에지 효과(edge effect)를 제거하는 방법을 나타낸 도면이다.
도 22는 본 발명의 일 실시예에 따른 미디어 컨텐츠 송신 방법을 나타낸 도면이다.
도 23은 본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 수신 장치)의 구성을 나타낸 도면이다.
도 24는 본 발명의 일 실시예에 따른 미디어 컨텐츠 수신 방법을 나타낸 도면이다.
도 25는 본 발명의 일 실시예에 따른 전자 시스템의 동작을 나타낸 도면이다.

본 명세서에 개시된 기술은 전자 처리 시스템에 적용될 수 있다. 그러나 본 명세서에 개시된 기술은 이에 한정되지 않고, 상기 기술의 기술적 사상이 적용될 수 있는 모든 암호화 및 복호화 장치 및 방법에도 적용될 수 있다.

본 명세서에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 명세서에 개시된 기술의 사상을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 명세서에서 사용되는 기술적 용어는 본 명세서에서 특별히 다른 의미로 정의되지 않는 한, 본 명세서에 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 명세서에서 사용되는 기술적인 용어가 본 명세서에 개시된 기술의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 본 명세서에 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 명세서에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥 상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.

본 명세서에서 사용되는 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성 요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예들을 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.

또한, 본 명세서에 개시된 기술을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 기술의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 기술의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 그 기술의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.

도 1은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.

도 1을 참조하면, 전자 시스템(100)은 적어도 하나의 전자 장치(101, 102, 104), 서버(106) 및/또는 네트워크(162)를 포함할 수 있다.

본 개시에 따른 전자 장치는, 통신 기능이 포함된 장치일 수 있다. 예를 들어, 전자 장치는 스마트 폰(smart phone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상전화기, 전자북 리더기(ebook reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 전자 안경과 같은 head-mounteddevice(HMD), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 신문, 또는 스마트 와치(smartwatch))중 적어도 하나를 포함할 수 있다.

어떤 실시 예들에 따르면, 전자 장치는 통신 기능을 갖춘 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들자면, 전자 장치는 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), TV 박스(예를 들어, 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(game consoles), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.

어떤 실시 예들에 따르면, 전자 장치는 각종 의료기기(예: MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치 및 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛, 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller? machine) 또는 상점의 POS(point of sales) 중 적어도 하나를 포함할 수 있다.

어떤 실시 예들에 따르면, 전자 장치는 통신 기능을 포함한 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 입력장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 본 개시에 따른 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 또한, 본 개시에 따른 전자 장치는 플렉서블 장치일 수 있다. 또한, 본 개시에 따른 전자 장치는 전술한 기기들에 한정되지 않음은 당업자에게 자명하다.

전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및/또는 통신 인터페이스(170)를 포함할 수 있다.

이때, 네트워크(162)는 유선으로 연결된 LAN 과 케이블채널망, 무선으로 연결된 가능한 모든 방법을 포함할 수 있다.

어떤 실시예에서, 상기 전자 장치(101)는 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.

상기 버스(110)는, 예를 들어, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.

상기 프로세서(120)는 중앙처리장치(Central Processing Unit; CPU), 어플리케이션 프로세서(Application Processor; AP), 또는 커뮤니케이션 프로세서(Communication Processor; CP) 중 하나 또는 그 이상을 포함할 수 있다. 상기 프로세서(120)는, 예를 들어, 상기 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.

상기 메모리(130)는 휘발성(volatile) 및/또는 비휘발성(non-volatile) 메모리를 포함할 수 있다. 상기 메모리(130)는, 예를 들어, 상기 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 상기 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 상기 프로그램(140)은, 예를 들어, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(Application Programming Interface; API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 상기 커널(141), 상기 미들웨어(143), 또는 상기 API(145)의 적어도 일부는, 운영체제 (Operating System; OS)로 지칭될 수 있다.

상기 커널(141)은, 예를 들어, 다른 프로그램들(예: 상기 미들웨어(143), 상기 API(145), 또는 상기 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 상기 버스(110), 상기 프로세서(120), 또는 상기 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널(141)은 상기 미들웨어(143), 상기 API(145), 또는 상기 어플리케이션 프로그램(147)에서 상기 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.

상기 미들웨어(143)는, 예를 들어, 상기 API(145) 또는 상기 어플리케이션 프로그램(147)이 상기 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.

또한, 상기 미들웨어(143)는 상기 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들어, 상기 미들웨어(143)는 상기 어플리케이션 프로그램(147) 중 적어도 하나에 상기 전자 장치(101)의 시스템 리소스(예: 상기 버스(110), 상기 프로세서(120), 또는 상기 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 상기 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.

상기 API(145)는, 예를 들어, 상기 어플리케이션(147)이 상기 커널(141) 또는 상기 미들웨어(143)가 제공하는 기능을 제어하기 위한 인터페이스로, 예를 들어, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.

상기 입출력 인터페이스(150)는, 예를 들어, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 상기 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 상기 입출력 인터페이스(150)은 상기 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.

상기 디스플레이(160)는, 예를 들어, 액정 디스플레이(Liquid Crystal Display; LCD), 발광 다이오드(Light Emitting Diode; LED) 디스플레이, 유기 발광 다이오드(Organic Light-Emitting Diode; OLED) 디스플레이, 또는 마이크로 전자기계 시스템(Micro-Electro-Mechanical Systems; MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 상기 디스플레이(160)는, 예를 들어, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 상기 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들어, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.

상기 통신 인터페이스(170)는, 예를 들어, 상기 전자 장치(101)와 외부 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들어, 상기 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 전자 장치(104) 또는 서버(106))와 통신할 수 있다.

상기 무선 통신은, 예를 들어, 셀룰러 통신을 포함할 수 있다. 상기 셀룰러 통신은, 예를 들어, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 포함할 수 있다. 또한, 상기 무선 통신은, 예를 들어, 근거리 통신(164)을 포함할 수 있다. 상기 근거리 통신(164)은, 예를 들어, Wi-Fi(wireless fidelity), 블루투스(Bluetooth) 또는 NFC(nearfield communication) 등 적어도 하나를 포함할 수 있다. 또한, 상기 무선 통신은 GPS(global positioning system)를 포함할 수 있다.

상기 유선 통신은, 예를 들어, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 상기 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들어, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.

전자 장치(102) 및 전자 장치(104) 각각은 상기 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 상기 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 상기 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))에서 실행될 수 있다. 한 실시예에 따르면, 상기 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 상기 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 외부 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 상기 전자 장치(101)로 전달할 수 있다. 상기 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들어, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.

도 2는 본 발명의 일 실시예에 따른 전자 장치를 나타내는 블록도이다.

상기 전자 장치(201)는, 예를 들어, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 상기 전자 장치(200)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 상기 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298)를 포함할 수 있다.

상기 프로세서(210)는, 예를 들어, 운영 체제 또는 응용 프로그램을 구동하여 상기 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 상기 프로세서(210)는, 예를 들어, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 상기 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 상기 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 상기 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.

상기 통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 상기 통신 모듈(220)은, 예를 들어, 셀룰러 모듈(221), Wi-Fi 모듈(223), 블루투스 모듈(225), GPS 모듈(227), NFC 모듈(228) 및RF(radio frequency) 모듈(229)를 포함할 수 있다.

상기 셀룰러 모듈(221)은, 예를 들어, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 상기 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(221)은 상기 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(221)은 커뮤니케이션 프로세서(Communication Processor; CP)를 포함할 수 있다.

상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228) 각각은, 예를 들어, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 상기 셀룰러 모듈(221), 상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.

상기 RF 모듈(229)은, 예를 들어, 통신 신호(예: RF 신호)를 송수신할 수 있다. 상기 RF 모듈(229)은, 예를 들어, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier) 등을 포함할 수 있다. 또한 상기 RF 모듈(229)은 무선 통신에서 자유 공간 상의 전자파를 송수신하기 위한 부품, 예를 들어, 도체 또는 도선 등을 더 포함할 수 있다. 도 2에서는 상기 셀룰러 모듈(221), 상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228)이 하나의 RF 모듈(229)를 서로 공유하는 것으로 도시되어 있으나, 한 실시예에 따르면, 상기 셀룰러 모듈(221), 상기 Wi-Fi 모듈(223), 상기 블루투스 모듈(225), 상기 GPS 모듈(227) 또는 상기 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.

상기 SIM 카드(224)는, 예를 들어, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예:IMSI(international mobile subscriber identity))를 포함할 수 있다.

상기 메모리(230)(예: 메모리(130))는, 예를 들어, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 상기 내장 메모리(232)는, 예를 들어, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(Solid State Drive; SSD) 중 적어도 하나를 포함할 수 있다.

상기 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(MultiMediaCard) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 상기 외장 메모리(234)는 다양한 인터페이스를 통하여 상기 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.

상기 센서 모듈(240)은, 예를 들어, 물리량을 계측하거나 상기 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈(240)은, 예를 들어, 근접 센서(241), 자이로 센서(242), 조도 센서(243), 마그네틱 센서(244), 가속도 센서(245), 그립 센서(246), 제스처 센서(247), 또는 생체 센서(248) 중 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 상기 센서 모듈(240)은, 예를 들어, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 상기 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 상기 전자 장치(201)는 상기 프로세서(210)의 일부로서 또는 별도로, 상기 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 상기 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 상기 센서 모듈(240)을 제어할 수 있다.

상기 입력 장치(250)는, 예를 들어, 터치 패널(touch panel)(252), (디지털) 펜 센서(pen sensor)(254) 또는 키(key)(256)를 포함할 수 있다. 상기 터치 패널(252)은, 예를 들어, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 상기 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.

상기 펜 센서(254)는, 예를 들어, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 상기 키(256)는, 예를 들어, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다.

상기 디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 상기 패널(262)은, 도 1의 상기 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 상기 패널(262)은, 예를 들어, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 상기 패널(262)은 상기 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체영상을 허공에 보여줄 수 있다. 상기 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들어, 상기 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 상기 디스플레이(260)는 상기 패널(262), 상기 홀로그램 장치(264), 또는 상기 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.

상기 인터페이스(270)는, 예를 들어, HDMI(high-definition multimedia interface), 또는 USB(universal serial bus)를 포함할 수 있다. 상기 인터페이스(270)는, 예를 들어, 도 1에 도시된 상기 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 상기 인터페이스(270)는, 예를 들어, 광 인터페이스(optical interface), D-sub(D-subminiature), MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.

상기 오디오 모듈(280)은, 예를 들어, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들어, 도 1 에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 상기 오디오 모듈(280)은, 예를 들어, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.

상기 카메라 모듈(291)은, 예를 들어, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.

상기 전력 관리 모듈(295)은, 예를 들어, 상기 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 상기 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. 상기 PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들어, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들어, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 상기 배터리 게이지는, 예를 들어, 상기 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 상기 배터리(296)는, 예를 들어, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.

상기 인디케이터(297)는 상기 전자 장치(201) 또는 그 일부(예: 상기 프로세서(210))의 특정 상태, 예를 들어, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 상기 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들어, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(MediaFloTM)등의 규격에 따른 미디어 데이터를 처리할 수 있다.

본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.

도 3은 본 발명의 일 실시예에 따른 프로그램 모듈의 블록도이다.

한 실시예에 따르면, 프로그램 모듈(300)(예: 프로그램(140))은 전자 장치(예: 상기 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(Operating System; OS) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 상기 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들어, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), RTOS(Realtime OS), 리눅스(Linux), 웹오에스(webOS), P2P(Peer to Peer)기반의 특징을 가지는 OS, 또는 타이젠(tizen) 등이 될 수 있다.

상기 프로그램 모듈(300)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 상기 프로그램 모듈(300)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 외부 전자 장치(102, 104), 서버(106)등)로부터 다운로드(download) 가능하다.

상기 커널(320)(예: 상기 커널(141))은, 예를 들어, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 상기 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 상기 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 상기 디바이스 드라이버(323)는, 예를 들어, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, Wi-Fi 드라이버, 오디오 드라이버, 또는 IPC(inter process communication) 드라이버를 포함할 수 있다.

상기 미들웨어(330)는, 예를 들어, 상기 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 상기 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 상기 API(360)를 통해 다양한 기능들을 상기 어플리케이션(370)으로 제공할 수 있다. 한 실시 예에 따르면, 상기 미들웨어(330)(예: 미들웨어(143))는 런타임라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.

상기 런타임 라이브러리(335)는, 예를 들어, 상기 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 상기 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.

상기 어플리케이션 매니저(341)는, 예를 들어, 상기 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(lifecycle)를 관리할 수 있다. 상기 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 상기 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 상기 리소스 매니저(344)는 상기 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.

상기 파워 매니저(345)는, 예를 들어, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 상기 데이터베이스 매니저(346)는 상기 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 상기 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.

상기 연결 매니저(348)는, 예를 들어, Wi-Fi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 상기 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 상기 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 본 발명에서 표현하는 위치정보는 GPS(Global Positioning System) 정보 뿐만아니라, 가속도 센서 정보, 자이로 센서 정보, LBS(Location Based Service)를 위한 실내 좌표 센서 정보, 네트워크 기반으로 추정되는 위치 정보, 통신망을 이용한 위치 정보, 및 그 외 신규 전자 장치로부터 전달받은 움직임과 관련된 위치 정보를 포함할 수 있다. 상기 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 상기 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 상기 전자 장치(101))가 전화 기능을 포함한 경우, 상기 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.

상기 미들웨어(330)는 전술된 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 상기 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 상기 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.

상기 API(360)(예: API(145))는, 예를 들어, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들어, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.

상기 어플리케이션(370)(예: 상기 어플리케이션 프로그램(147))은, 예를 들어, 홈(371), 다이얼러(dialer)(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.

한 실시예에 따르면, 상기 어플리케이션(370)은 전자 장치(예: 상기 전자 장치(101))와 외부 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들어, 외부 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.

예를 들어, 상기 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 상기 알림 전달 어플리케이션은, 예를 들어, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.

상기 장치 관리 어플리케이션은, 예를 들어, 전자 장치와 통신하는 외부 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 장치 자체(또는 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는 해상도) 조절), 외부 장치에서 동작하는 어플리케이션 또는 외부 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.

한 실시예에 따르면, 상기 어플리케이션(370)은 외부 장치(예: 전자 장치(102, 104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 상기 어플리케이션(370)은 외부 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 상기 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 상기 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.

다양한 실시예에 따르면, 상기 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 상기 프로그램 모듈(300)의 적어도 일부는, 예를 들어, 프로세서(예: 상기 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 상기 프로그램 모듈(300)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들어, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.

본 문서에서 사용된 용어 "모듈"은, 예를 들어, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들어, 유닛(unit), 로직(logic), 논리블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들어,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.

다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 상기 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들어, 상기 메모리(130)가 될 수 있다.

컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digitalversatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.

다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술된 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

도 4는 본 발명의 일 실시예에 따른 IP 네트워크를 통한 미디어 컨텐츠 송수신 시스템의 구성을 나타낸 도면이다.

도 4를 참조하면, 본 발명의 일 실시예에 따른 미디어 컨텐츠 송수신 시스템(400)는 컨텐츠 서버(420) 및/또는 DASH 클라이언트(440)를 포함할 수 있다. 예를 들어, 컨텐츠 서버(420)는 도 1의 서버(106)에 포함될 수 있다. 또한, DASH 클라이언트(440)는 도 1 및/또는 도 2의 전자 장치(101)의 프로세서(120, 210)에 포함될 수 있다.

본 발명의 일 실시예에 따른 IP 네트워크를 통한 미디어 컨텐츠의 송수신 시스템(400)은 실제 미디어 컨텐츠를 포함하는 전송 패킷의 송수신과 미디어 컨텐츠 재생 정보의 송수신으로 나뉘어진다. DASH 클라이언트(440)는 미디어 컨텐츠 재생 정보를 수신하고, 미디어 컨텐츠를 포함하는 전송 패킷을 수신한다. 이때 미디어 컨텐츠 재생 정보는 미디어 컨텐츠 재생을 위해 필요한 정보를 나타낸다. 미디어 컨텐츠 재생 정보는 미디어 컨텐츠 재생을 위해 필요한 공간적 정보(spatial information) 및 시간적 정보(temporal information)중 적어도 어느 하나를 포함할 수 있다. DASH 클라이언트(440)는 미디어 컨텐츠 재생 정보에 기초하여 미디어 컨텐츠를 재생한다.

구체적인 실시예에서 MMTP(MPEG Media Transport Protocol) 표준에 따라 미디어 컨텐츠가 IP 네트워크를 통하여 송수신될 수 있다. 이때 컨텐츠 서버(420)는 미디어 컨텐츠 재생 정보를 포함하는 재생 정보 도큐먼트(Presentation Information document, PI document)를 전송한다. 또한 컨텐츠 서버(420)는 DASH 클라이언트(440)의 요청에 기초하여 미디어 컨텐츠를 포함하는 MMT protocol(MMTP) packet을 전송한다. DASH 클라이언트(440)는 PI document를 수신한다. DASH 클라이언트(440)는 미디어 컨텐츠를 포함하는 전송 패킷을 수신한다. DASH 클라이언트(440)는 미디어 컨텐츠를 포함하는 전송 패킷으로부터 미디어 컨텐츠를 추출한다. DASH 클라이언트(440)는 PI document에 기초하여 미디어 컨텐츠를 재생한다.

또 다른 구체적인 실시예에서 MPEG-DASH 표준에 따라 미디어 컨텐츠가 IP 네트워크를 통하여 송수신될 수 있다. 이때, 컨텐츠 서버(420)는 미디어 컨텐츠 재생 정보를 포함하는 미디어 재생 디스크립션(Media Presentation Descriptioon, MPD)을 전송한다. 단 구체적인 실시예에 따라서는 MPD는 컨텐츠 서버(50)가 아닌 다른 외부의 서버가 전송할 수 있다. 예를 들어, 외부의 서버는 CDN(Content Delivery Network)을 위한 서버를 포함할 수 있다. CDN은 대용량 서비스 데이터, 미디어 데이터, 및/또는 시그널링 데이터를 효율적으로 전달하기 위해 여러 노드를 가진 네트워크에 데이터를 저장하여 제공하는 시스템을 의미한다. 또한 컨텐츠 서버(420)는 DASH 클라이언트(440)의 요청에 기초하여 미디어 컨텐츠를 포함하는 세그먼트(segment)들을 전송한다. DASH 클라이언트(440)는 MPD를 수신한다. DASH 클라이언트(440)는 MPD에 기초하여 미디어 컨텐츠를 컨텐츠 서버(420)에 요청한다. DASH 클라이언트(440)는 요청에 기초하여 미디어 컨텐츠를 포함하는 전송 패킷을 수신한다. DASH 클라이언트(440)는 MPD에 기초하여 미디어 컨텐츠를 재생한다.

DASH 클라이언트(440)는 MPD를 파싱(parsing)하는 MPD Parser, Segment를 파싱하는 Segment Parser, 통신 인터페이스(170) 및/또는 통신 모듈(220)를 통하여 HTTP 요청 메시지를 전송하고 HTTP 응답 메시지를 수신하는 HTTP 클라이언트, 미디어를 재생하는 미디어 엔진(engine)을 포함할 수 있다.

도 5는 본 발명의 일 실시예에 따른 MPEG-DASH 표준에서 정의하는 MPD(Media Presentation Description)의 구조를 나타낸 도면이다.

MPD는 피리어드(Period) 엘리먼트, 어뎁테이션 셋(Adaptation Set) 엘리먼트 및 레프리젠테이션 (Representation) 엘리먼트를 포함할 수 있다.

피리어드 엘리먼트는 피리어드에 대한 정보를 포함한다. MPD는 복수의 피리어드에 대한 정보를 포함할 수 있다. 피리어드는 미디어 컨텐츠 재생(presentation)의 연속한 시간 구간을 나타낸다.

어뎁테이션 셋 엘리먼트는 어뎁테이션 셋에 대한 정보를 포함한다. MPD는 복수의 어뎁테이션 셋에 대한 정보를 포함할 수 있다. 어뎁테이션 셋은 상호전환 가능한 하나 또는 그 이상의 미디어 컨텐츠 컴포넌트를 포함하는 미디어 컴포넌트의 집합이다. 어뎁테이션 셋은 하나 또는 그 이상의 레프리젠테이션을 포함할 수 있다. 어뎁테이션 셋 각각은 서로 다른 언어의 오디오를 포함하거나 서로 다른 언어의 자막을 포함할 수 있다.

레프리젠테이션 엘리먼트는 레프리젠테이션에 대한 정보를 포함한다. MPD는 복수의 레프리젠테이션에 대한 정보를 포함할 수 있다. 레프리젠테이션은 하나 또는 그 이상의 미디어 컴포넌트들의 구조화된 모음으로서, 동일한 미디어 컨텐츠 컴포넌트에 대하여 서로 달리 인코딩된 복수의 레프리젠테이션이 존재할 수 있다. 한편, 비트스트림 스위칭(bitstream switching)이 가능한 경우, 전자 장치는 미디어 컨텐츠 재생 도중 업데이트된 정보에 기초하여 수신되는 레프리젠테이션을 다른 레프리젠테이션으로 전환할 수 있다. 특히 전자 장치는 대역폭의 환경에 따라 수신되는 레프리젠테이션을 다른 레프리젠테이션으로 전환할 수 있다. 레프리젠테이션은 복수의 세그먼트들로 분할된다.

세그먼트는 미디어 컨텐츠 데이터의 단위이다. 레프리젠테이션은 HTTP 1.1(RFC 2616)에서 정의된 HTTP GET 또는 HTTP partial GET method를 이용한 전자 장치의 요청에 따라 세그먼트 또는 세그먼트의 일부분으로 전송될 수 있다.

또한, 세그먼트는 복수의 서브 세그먼트들을 포함하여 구성될 수 있다. 서브세그먼트는 세그먼트 레벨에서 인덱스될 수 있는 가장 작은 단위(unit)를 의미할 수 있다. 세그먼트는 초기화 세그먼트(Initialization Segment), 미디어 세그먼트(Media Segment), 인덱스 세그먼트 Index Segment), 비트스트림 스위칭 세그먼트(BitstreamSwitching Segment) 등을 포함할 수 있다.

도 6은 본 발명의 일 실시예에 따른 구형좌표계를 평면좌표계로 변환한 도면 및 전자 시스템을 이용한 서비스를 나타낸 도면이다.

도 (a)를 참조하면, 구형 좌표계에서 가상 공간 및/또는 관심 영역이 나타나 있다.

가상 공간(610)은 사용자를 중심으로 수평 및/또는 수직 방향으로 360도의 구형 공간일 수 있다. 사용자는 가상 공간(610)의 특정 위치(613)에서 관심 영역(615)을 바라볼 수 있다. 관심 영역(615)은 가상 공간(610)에서 사용자의 시선에 대응되는 영역으로서 사용자가 바라보는 영역을 의미한다.

도 (b)를 참조하면, 직교 좌표계로 변환된 전체 영상 및/또는 관심 영역이 나타나 있다.

본 발명의 일 실시예에 따른 전자 시스템은 구형 좌표계의 가상 공간(610)을 직교 좌표계의 전체 영상(640)으로 변환(또는 매핑)할 수 있다. 예를 들어, 도 (a)의 가상 공간(610) 및/또는 관심 영역(615)는 도 (b)의 전체 영상(640) 및/또는 관심 영역(645)로 변환될 수 있다.

사용자(620)는 HMD(630, Head Mounted Display)를 착용하고, HMD(630)을 통하여 관심 영역(645)을 시청할 수 있다. 관심 영역(645)는 전체 영상(640)의 가로 축 및/또는 세로 축을 기준으로 가운데 위치 또는 특정의 위치에 위치할 수 있다.

HMD(630)는 전체 영상(640)을 수신하고, 전체 영상(640) 및/또는 관심 영역(645)을 재생할 수 있다.

전체 영상(640)은 가상 공간의 전체 영역에 대한 영상일 수 있다. 관심 영역(645)은 전체 영상(640)에서 사용자(620)가 바라보는 영역 및/또는 바라볼 것으로 예상되는 영역일 수 있다.

본 발명의 일 실시예에 따른 전자 시스템은 선택형 및/또는 적응형 스트리밍 방식으로 영상을 사용자에게 제공할 수 있다. 예를 들어, 본 발명의 일 실시예에 따른 전자 시스템은 관심 영역(645)에 대한 영상은 고 품질의 영상으로 사용자(620)에게 제공하고, 관심 영역(645) 이외의 영역에 대한 영상은 저 품질의 영상으로 사용자(620)에게 제공할 수 있다.

그 결과, 본 발명의 일 실시예에 따른 전자 시스템은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 서비스 데이터 및/또는 시그널링 데이터를 사용자(620)에게 효율적으로 전송할 수 있고, 사용자(620)에게 고품질의 비디오 영상을 제공할 수 있다.

도 7은 본 발명의 일 실시예에 따른 전자 시스템을 나타낸 도면이다.

도 (a)를 참조하면, 본 발명의 일 실시예에 따른 전자 시스템(710)은 HMD(711) 및/또는 서버(715)를 포함할 수 있다. HMD(711)는 센서 장치(712) 및/또는 전자 장치(713)를 포함할 수 있다. HMD(711)는 센서 장치(712) 및 전자 장치(713)가 결합된 형태일 수도 있고, 분리된 형태일 수도 있다. 센서 장치(712), 전자 장치(713), 및/또는 서버(715)는 서로 간에 유선 및/또는 무선 네트워크를 통하여 연결될 수 있다.

HMD(711)는, 사용자의 머리에 착용된 상태로, 센서 장치(712)를 이용하여 센서 정보를 획득하고, 전자 장치(713)를 이용하여 영상을 재생할 수 있다.

센서 장치(712)는 센서 정보를 획득하고, 이들을 전자 장치(713)로 전송할 수 있다. 예를 들어, 센서 정보는 오디오 정보, 헤드 벡터(사용자 머리의 위치 정보 및/또는 속도 정보), 눈동자 영상, 및/또는 눈동자 벡터를 포함할 수 있다.

전자 장치(713)는 센서 장치(712)로부터 센서 정보를 획득하고, 서버(715)로부터 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 서비스 데이터 및/또는 시그널링 데이터를 수신할 수 있다.

구체적으로, 전자 장치(713)는 센서 정보를 기초로 사용자의 눈동자의 움직임을 서술하는 눈동자 벡터 및/또는 사용자의 머리의 움직임을 서술하는 헤드 벡터를 생성할 수 있다.

그리고 나서, 전자 장치는 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성할 수 있다.

그리고 나서, 전자 장치(713)는 시그널링 데이터 및 관심 영역 정보를 기초로 선택된 타일 영상을 서술하는 요청 정보를 생성할 수 있다.

그리고 나서, 전자 장치(713)는 요청 정보를 기초로 서비스 데이터를 수신할 수 있다. 예를 들어, 서비스 데이터는 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다. 또한, 관심 영역을 위한 선택된 타일 영상의 품질은 관심 영역 이외의 영역을 위한 선택된 타일 영상의 품질보다 높을 수 있다. 즉, 서비스 데이터는 관심 영역에 해당하는 고 품질의 영상 데이터 및/또는 비-관심 영역에 해당하는 저 품질 영상 데이터를 포함할 수 있다.

서버(715)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 서비스 데이터 및/또는 시그널링 데이터를 생성하고, 이들을 전자 장치로 전송할 수 있다.

예를 들어, 서버(715)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 전체 영상을 생성하고, 전체 영상을 적어도 하나의 타일로 분할할 수 있다. 그리고, 서버(715)는 적어도 하나의 타일을 서로 다른 해상도 및/또는 품질로 인코딩할 수 있다.

도 (b)를 참조하면, 본 발명의 일 실시예에 따른 전자 시스템(720)은 HMD(721) 및/또는 서버(725)를 포함할 수 있다. 본 발명의 일 실시예에 따른 전자 시스템(720)은 가상 현실 서비스뿐만 아니라 증강 현실 서비스를 제공할 수 있다. 이를 위하여, HMD(721)는 도 (a)의 센서 장치(712) 및/또는 전자 장치(713)가 결합된 형태일 수 있다. HMD(721)는 전자 장치로 지칭될 수 있다.

예를 들어, HMD(또는 전자 장치, 721)는 카메라 모듈(722), 디스플레이(723), 및/또는 제어부(724)를 포함할 수 있다.

카메라 모듈(722)은 외부의 영상을 촬영할 수 있다. 또한, 카메라 모듈(722)은 깊이 인식 카메라일 수 있고, 상하좌우 120도 정도의 넓은 시야각을 촬영할 수 있다.

디스플레이(723)는 영상을 디스플레이하는 투명한 렌즈일 수 있다. 따라서, 사용자는 디스플레이(723)을 통하여 외부 세계와 영상을 동시에 바라볼 수 있다. 즉, 사용자는 외부 세계에 진짜 홀로그램 영상이 존재하는 것처럼 인식할 수 있다.

제어부(724)는 사용자에게 가상 현실 서비스 및/또는 증강 현실 서비스를 제공하기 위한 HMD(721)의 모든 동작을 제어할 수 있다. 제어부(724)에 대한 내용은 도 (a)에서 설명한 센서 장치(712) 및/또는 전자 장치(713)의 내용을 모두 포함할 수 있다.

도 8은 본 발명의 일 실시예에 따른 센서 장치를 나타낸 도면이다.

본 발명의 일 실시예에 따른 센서 장치(810, 820)는 센서 정보를 획득하고, 이들을 전자 장치로 전송할 수 있다. 예를 들어, 센서 장치(810, 820)는 사용자의 눈동자(좌측 눈동자 및/또는 우측 눈동자) 영상을 촬영할 수 있다. 또한, 센서 장치(810, 820)는 사용자의 눈동자 벡터를 생성할 수 있다. 또한, 센서 장치(810, 820)는 눈동자 영상 및/또는 눈동자 벡터를 전자 장치로 전송할 수 있다.

본 발명의 일 실시예에 따른 센서 장치(810, 820)는 전술한 센서 모듈을 포함할 수 있다. 이하에서는, 센서 모듈에 포함되는 적외선 CCD 및/또는 IR LED를 중심으로 설명한다.

도 (a)를 참조하면, 본 발명의 일 실시예에 따른 센서 장치(810)는 두 쌍의 적외선 LED(Light-Emitting-Diode) 및/또는 적외선 CCD(charge coupled device) 를 포함할 수 있다.

예를 들어, 센서 장치(810)은 좌측 적외선 LED(813), 좌측 적외선 CCD(815), 우측 적외선 LED(817), 및/또는 우측 적외선 CCD(819)를 포함할 수 있다.

좌측 적외선 LED(813) 및/또는 우측 적외선 LED(817)는 적외선 영역의 빛을 방출하는 발광 다이오드이다. 좌측 적외선 CCD(815) 및/또는 우측 적외선 CCD(819)는 적외선 영역의 빛을 감지하는 적외선 이미지 센서이다.

좌측 적외선 CCD(815)는 좌측 적외선 LED(813)에서 방출되는 적외선 영역의 빛을 감지할 수 있다. 우측 적외선 CCD(819)는 우측 적외선 LED(817)에서 방출되는 적외선 영역의 빛을 감지할 수 있다.

센서 장치(810)는 좌측 적외선 LED(813) 및/또는 좌측 적외선 CCD(815)를 이용하여 사용자의 좌측 눈동자 영상을 촬영할 수 있다. 또한, 센서 장치(810)은 우측 적외선 LED(817) 및/또는 우측 적외선 CCD(819)를 이용하여, 사용자의 우측 눈동자 영상을 촬영할 수 있다.

도 (b)를 참조하면, 본 발명의 일 실시예에 따른 센서 장치(820)는 한 쌍의 적외선 LED(823) 및/또는 적외선 CCD(825)를 포함할 수 있다.

센서 장치(820)는 적외선 LED(823) 및/또는 적외선 CCD(825)를 이용하여, 사용자의 좌측 눈동자 영상 및/또는 우측 눈동자 영상을 촬영할 수 있다.

도 9는 본 발명의 일 실시예에 따른 눈동자 벡터를 생성하는 방법을 나타낸 도면이다.

본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 사용자의 눈동자 벡터를 생성할 수 있다. 이하에서는, 센서 장치가 센서 장치의 제어부를 이용하여 눈동자 벡터를 생성하는 방법을 중심으로 설명한다.

센서 장치는 눈 후보 영역을 검출할 수 있다(910).

예를 들어, 센서 장치는 촬영한 영상에 대하여 히스토그램 균일화를 사용하여 영상을 향상시킬 수 있다. 히스토그램 균일화는 영상의 히스토그램이 평탄하게 되도록 명암 값의 재분배를 통해 농도를 조절하는 것이다. 그리고 나서, 센서 장치는 미리 정의된 휴리스틱 규칙을 사용하여 적어도 하나의 눈 후보 영역을 검출할 수 있다.

또한, 센서 장치는 적어도 하나의 눈 후보 영역 중에서 눈 영역을 검출할 수 있다(920).

예를 들어, 센서 장치는 에지 추출 및/또는 세그먼테이션을 기반으로 한 이진화 방법을 이용하여 적어도 하나의 눈 후보 영역에서 눈 영역과 관련된 적어도 하나의 연결 영역을 획득할 수 있다. 그리고 나서, 센서 장치는 휴리스틱 규칙을 적용하여 적어도 하나의 연결 영역 중에서 눈 영역이 될 수 없는 영역들을 제거하여 적어도 하나의 눈 영역 후보를 획득할 수 있다. 그리고 나서, 센서 장치는 눈의 크기, 위치, 및/또는 모양에 기반한 휴리스틱 규칙을 사용하여 적어도 하나의 눈 영역 후보 중에서 적어도 하나의 눈 후보 쌍을 검출할 수 있다. 그리고 나서, 센서 장치는 적어도 하나의 눈 후보 쌍에 대하여 눈 후보 쌍이 될 가능성에 대한 점수를 부여하고, 가장 높은 점수를 갖는 눈 후보 쌍을 눈 영역으로 결정할 수 있다.

또한, 센서 장치는 눈동자 위치를 추출할 수 있다(930). 추가적으로 센서 장치는 눈동자의 동공(Pulpil) 의 위치를 추출할 수 있다.

예를 들어, 센서 장치는, 수학적 모폴리지 연산을 기초로, 눈 영역으로부터 눈동자 위치를 추출할 수 있다. 추가적으로, 센서 장치는 반복적 임계치 설정에 의한 이진화, 가우시안 필터를 사용한 눈동자 위치의 특성 강화, 및/또는 상관 관계를 이용한 눈동자 위치의 검증을 이용하여 더욱 정확한 눈동자 위치를 추출할 수 있다.

이때, 눈동자의 위치가 추출되면, 센서 장치는 더 작은 검색영역에서 동공(Pulpil) 을 찾을 수 있다.

또한, 센서 장치는 눈동자 벡터를 생성할 수 있다(940).

예를 들어, 센서 장치는, 눈 영역 내에서 눈동자 위치의 변화량을 기초로, 눈동자 벡터를 생성할 수 있다. 눈동자 벡터에 대한 구체적인 내용은 이하에서 설명한다.

도 10은 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.

본 발명의 일 실시예에 따른 눈동자 벡터는 사용자의 눈동자에 대한 정보를 포함할 수 있다.

예를 들어, 본 발명의 일 실시예에 따른 눈동자 벡터는 좌측 눈동자 벡터 및/또는 우측 눈동자 벡터를 포함할 수 있다. 좌측 눈동자 벡터는 좌측 눈동자 동공 좌표 벡터(1010) 및/또는 좌측 눈동자 동공 각도 벡터(1030)을 포함할 수 있다. 우측 눈동자 벡터는 우측 눈동자 동공 좌표 벡터(1020) 및/또는 우측 눈동자 동공 각도 벡터(1040)을 포함할 수 있다.

좌측 눈동자 동공 좌표 벡터(1010)는 좌측 동공이 원점(1011)을 기준으로 제1 지점(1013)으로 이동했을 때 제1 지점(1013)의 좌표 정보를 지시할 수 있다.

우측 눈동자 동공 좌표 벡터(1020)는 우측 동공이 원점(1021)을 기준으로 제2 지점(1023)으로 이동했을 때 제2 지점(1023)의 좌표 정보를 지시할 수 있다.

좌측 눈동자 동공 각도 벡터(1030)는 좌측 동공이 원점(1011)을 기준으로 제1 지점(1013)으로 이동했을 때 제1 지점(1013)의 각도 정보를 지시할 수 있다.

우측 눈동자 동공 각도 벡터(1040)는 우측 동공이 원점(1021)을 기준으로 제2 지점(1023)으로 이동했을 때 제2 지점(1023)의 각도 정보를 지시할 수 있다.

눈동자 벡터에 포함되는 정보는 위의 내용에 한정되는 것은 아니고, 이하에서 보다 구체적으로 설명한다.

도 11은 본 발명의 일 실시예에 따른 눈동자 제스쳐 정보를 나타낸 도면이다.

본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 눈동자 제스쳐정보(예를 들어, EyeGesturePacket)를 생성할 수 있다. 그리고, 센서 장치 및/또는 전자 장치는 눈동자 제스쳐 정보를 기초로 사용자의 의도, 감정, 및/또는 동작을 추정할 수 있다. 이하에서는 센서 장치에서 생성된 눈동자 제스쳐 정보를 설명한다. 다만, 눈동자 제스쳐 정보는 상술한 바와 같이 전자 장치에 의해서도 생성될 수 있다.

예를 들어, 눈동자 제스쳐 정보는 MagicNumber 정보, Timestamp 정보, GestureCommand 정보, EyeVectors 정보, ImageLen 정보, 및/또는 Image[ImageLen] 정보 중에서 적어도 하나를 포함할 수 있다.

MagicNumber 정보는 해당 패킷이 눈동자 제스쳐 정보(예를 들어, Eye Tracking gesture)를 포함하는 패킷이라고 지시할 수 있다. 예를 들어, MagicNumber 정보는 “EYEP”를 지시할 수 있다. 이는, 기존에 패킷 및 파일이 존재할 때 포맷의 인식을 위해서 구별되는 값으로 정의하는 것으로서, 현실에서 정의된 값과 구별되는 임의의 값 일수 있다.

Timestamp 정보는 패킷의 캡쳐 타임 스탬프를 지시할 수 있다. Timestamp 정보는 인식 디바이스(예를 들어, 센서 장치)와 동기화된 절대시간 값을 가질 수 있다. 또한, Timestamp 정보는 기본적으로 상대시간 값을 가질 수 있다.

GestureCommand 정보는 눈동자의 패턴에 따른 제스쳐 명령어를 지시할 수 있다.

예를 들어, GestureCommand 정보의 값이 “0” 및/또는 “0xffffffff”이면, 제스쳐 명령어는 정의되지 않을 수 있다. 이 경우, 센서 장치는 눈동자 벡터 및/또는 영상을 전자 장치로 전송할 수 있다.

예를 들어, GestureCommand 정보의 값이 “1” 이면, 제스쳐 명령어는 해당 패킷이 눈동자 벡터는 전송하지만 제스쳐 명령어에 대한 판단은 수신단(예를 들어, 전자 장치)에서 해야 한다는 것을 지시할 수 있다.

예를 들어, GestureCommand 정보의 값이 “2” 이면, 제스쳐 명령어는 정상 상태의 눈동자 벡터의 추출을 지시할 수 있다.

예를 들어, GestureCommand 정보의 값이 “3” 이면, 제스쳐 명령어는 사용자가 졸린 상태라고 지시할 수 있다. 사용자의 눈이 정상 상태였다가, 반쯤 감긴 상태에 대한 눈동자 제스쳐 정보를 포함한 패킷이 5회 이상 감지되면 졸린 상태를 나타낼 수 있다.

예를 들어, GestureCommand 정보의 값이 “4” 이면, 제스쳐 명령어는 좌측 눈 및/또는 우측 눈의 윙크를 지시할 수 있다.

예를 들어, GestureCommand 정보의 값이 “5” 이면, 제스쳐 명령어는 좌측 눈 및/또는 우측 눈에서 눈물이 흐르는 상태를 지시할 수 있다.

예를 들어, GestureCommand 정보의 값이 “6” 이면, 제스쳐 명령어는 특정 위치(또는 벡터)로 이동을 지시할 수 있다. 유사한 눈동자 벡터가 연속적으로 3회 이상 발생한 경우에, 제스처 명령어는 특정 위치(또는 벡터)로 이동을 지시할 수 있다. 이때, 눈동자 벡터의 오차는 5% 이내의 변동 범위에 있는 것으로 가정할 수 있다.

예를 들어, GestureCommand 정보의 값이 “7” 이면, 제스쳐 명령어는 호기심 및/또는 놀람을 지시할 수 있다. 사용자의 동공이 커지는 벡터가 추출되고, 사용자의 눈커풀이 올라가서 머무는 숫자(또는 빈도)가 정상 상태보다 떨어지는 경우, GestureCommand 정보의 값이 “7” 일 수 있다.

예를 들어, GestureCommand 정보의 값이 “8” 이면, 제스쳐 명령어는 일시 정지를 지시할 수 있다. 눈커풀을 3회 이상 감는 눈동자 벡터가 발생할 경우, GestureCommand 정보의 값이 “8” 일 수 있다. 이때, 눈동자 벡터의 오차는 5% 이내의 변동범위에 있을 수 있다. 이 때, 제스쳐 명령어는 사용자가 현재의 컨텐트를 종료하거나, 일시 정지하기 위한 명령어일 수 있다.

예를 들어, GestureCommand 정보의 값이 “9” 이면, 제스쳐 명령어는 추가적인 사용자 지정 패턴이 정의될 수 있다.

EyeVectors 정보는 사용자의 눈동자 벡터에 대한 정보를 포함할 수 있다. 구체적인 내용은 이하에서 설명한다.

ImageLen 정보는 패턴이 추출된 영상의 압축된 데이터의 길이를 지시할 수 있다.

Image[ImageLen]는 ImageLen 정보 만큼의 압축된 이미지 데이터를 지시할 수 있다. Image[ImageLen]는 PNG 및/또는 BMP 등의 파일 포맷의 데이터를 포함할 수 있다.

도 12는 본 발명의 일 실시예에 따른 눈동자 벡터를 나타낸 도면이다.

본 발명의 일 실시예에 따른 눈동자 벡터는 PulpilVect_Left 정보, PulpilVect_Right 정보, LidBlink_LR 정보, PulpilDiameter_LR 정보, EyeDiameter_LR 정보, PulpilDistance 정보, AngleVector_LR 정보, WetEyeDrops_LR 정보, 및/또는 EyeTemperature_LR 정보를 포함할 수 있다.

PulpilVect_Left 정보는 사용자의 좌측 눈동자에 포함된 동공의 좌표(예를 들어, x 좌표 및 y 좌표)를 지시할 수 있다. PulpilVect_Left 정보는 좌측 눈동자 동공 좌표 벡터를 지시할 수 있다.

PulpilVect_Right 정보는 사용자의 우측 눈동자에 포함된 동공의 좌표(예를 들어, x 좌표 및 y 좌표)를 지시할 수 있다. PulpilVect_Right 정보는 우측 눈동자 동공 좌표 벡터를 지시할 수 있다.

LidBlink_LR 정보는 사용자의 좌측 및/또는 우측 눈꺼풀의 깜박임 횟수를 지시할 수 있다. 패킷 전송 인터벌에서 사용자가 두 눈을 감을 경우, 센서 장치는 사용자의 동공을 추출할 수 없다. 사용자의 두 동공이 추출되지 않는 상태가 지속되면, 센서 장치는 사용자가 눈을 감고 있다고 판단할 수 있다. 사용자의 한쪽 동공만 추출될 경우, 센서 장치는 사용자가 한쪽 눈을 감고 있다고 판단할 수 있다. 사용자가 눈을 뜨고 있는 것으로 확인되지만, 눈꺼풀의 움직임 횟수에서 차이가 나는 경우, 센서 장치는 사용자가 어느 한쪽 눈으로 윙크를 하고 있다고 판단할 수 있다.

PulpilDiameter_LR 정보는 사용자의 좌측 및/또는 우측 눈동자에 포함된 동공의 지름을 지시할 수 있다. 지름은 CCD 센서의 픽셀 거리 값으로 표현될 수 있다. 지름에 대한 밀리 미터(mili meter) 및/또는 마이크로 미터(micro meter)로의 변환은 피킷을 수신해서 활용하는 측에서 수행될 수 있다.

EyeDiameter_LR 정보는 사용자의 좌측 및/또는 우측 눈동자의 지름을 지시할 수 있다. 지름은 CCD 센서의 픽셀 거리 값으로 표현될 수 있다. 지름에 대한 밀리 미터(mili meter) 및/또는 마이크로 미터(micro meter)로의 변환은 피킷을 수신해서 활용하는 측에서 수행될 수 있다.

PulpilDistance 정보는 사용자의 좌측 및/또는 우측 동공의 거리를 지시할 수 있다. 동공의 거리는 CCD 센서의 픽셀 거리 값으로 표현될 수 있다. 동공의 거리에 대한 밀리 미터(mili meter) 및/또는 마이크로 미터(micro meter)로의 변환은 피킷을 수신해서 활용하는 측에서 수행될 수 있다.

AngleVector_LR 정보는 원점을 기준으로 좌측 및/또는 우측 눈동자의 각도를 지시할 수 있다. 또는 AngleVector_LR 정보는 원점을 기준으로 좌측 및/또는 우측 눈동자에 포함된 동공의 각도를 지시할 수 있다. 예를 들어, 원점은 사용자의 좌측 및/또는 우측 눈 영역의 중심일 수 있다. 또는, 원점은 좌측 및/또는 우측 눈동자의 중심일 수 있다. AngleVector_LR 정보의 변화 시, 원점을 기준으로 각도의 변화량을 지시할 수 있다. AngleVector_LR 정보는 좌측 눈동자 동공 각도 벡터 및/또는 우측 눈동자 동공 각도 벡터를 지시할 수 있다.

WetEyeDrops_LR 정보는 사용자가 좌측 및/또는 우측 눈에서 눈물을 흘리고 있다는 정보를 지시할 수 있다. 눈꺼풀의 벡터 변화가 없는 상태에서, 동공의 지금이 눈물에 의한 굴절에 의해서 미세하게 변하는 경우, WetEyeDrops_LR 정보는 사용자가 눈물을 흘리고 있다는 정보를 지시할 수 있다.

EyeTemperature_LR 정보는 좌측 및/또는 우측 눈동자의 온도를 지시할 수 있다. EyeTemperature_LR 정보는 적외선 CCD에서 캡쳐된 영상을 기초로 좌측 및/또는 우측 눈동자의 온도를 지시할 수 있다.

도 13은 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.

도면을 참조하면, 본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 사용자의 운동자 움직임을 모스 부호(Morse code)로 변환할 수 있다. 모스 부호는 짧은 발신 전류(1310)와 긴 발신 전류(1320)을 적절히 조합하여 알파벳과 숫자를 표기하는 방법이다.

본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는, 모스 부호 모드에서, 사용자가 눈동자를 두 번 깜빡이면(더블 블링크), 짧은 발신 전류(1310)로 해석할 수 있다.

또한, 센서 장치 및/또는 전자 장치는 사용자의 눈동자가 특정 위치를 고정한 채 2초 이상 응시 후 깜빡이면, 긴 발신 전류(1320)으로 해석할 수 있다.

이때, 2초 라는 시간은 현실적 상황에 맞게 약 수 초안에서 조정 가능하다.

또한, 센서 장치 및/또는 전자 장치는 신호 발신의 사이에 들어가는 해석되지 않은 깜박임은 입력오류로 무시할 수 있다.

따라서, 본 발명의 일 실시예에 따른 센서 장치 및/또는 전자 장치는 사용자의 눈동자 움직임을 기초로 간략한 알파벳 및/또는 숫자를 전달할 수 있다.

도 14는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.

도 (a)를 참조하면, 사용자는 (- ·) 기호 형태로 특정 영역에 입력 메뉴를 표시하는 모드 표현 기호(1410)를 바라볼 수 있다. 예를 들어, (- ·) 기호 형태로 바라보는 것은, 길게 바라본 후, 한번 블링크 이후, 바로 더블 블링크를 하는 것을 나타낼 수 있다. 사용자가 (- ·) 기호 형태로 모드 표현 기호(1410)를 바라보면, 자유 제스처 모드[G], 영어 모드[A], 및/또는 한글 모드[한]가 화면에 나타날 수 있다.

도 (b)를 참조하면, 사용자는 특정 서브 영역(1420)에서 더블 블링크하여 입력 모드를 선택할 수 있다. 예를 들어, 사용자가 영어 입력 모드를 선택하면, 영어 입력을 위한 글자 입력 영역이 활성화 될 수 있다.

도 (c)를 참조하면, 사용자는 글자 입력 영역(1420)에서 글자를 입력할 수 있다. 이 때부터는 글자 입력 모드로 눈동자 명령어가 동작할 수 있다.

사용자가 (- ·) 기호 형태로 글자 입력 영역을 벗어난 지점을 바라보면, 입력 모드를 벗어날 수 있다. 또는, 사용자가 (- ·) 기호 형태로 서브 영역을 바라보면, 이전 모드로 돌아갈 수 있다. 또는, 사용자가 특정 영역을 몇 초 동안 (-) 기호 형태로 바라보거나, 사용자가 글자 입력 영역을 몇 초 동안 바라보지 않으면, 자동으로 입력 모드를 빠져나갈 수 있다.

도 15는 본 발명의 일 실시예에 따른 눈동자 움직임의 활용예를 나타낸 도면이다.

도면을 참조하면, 본 발명의 일 실시예에 따른 전자 시스템은 증강 현실 서비스를 제공할 수 있다. 이를 위하여, 전자 시스템의 HMD는 센서 장치 및/또는 전자 장치가 결합된 형태일 수 있다. 예를 들어, HMD는 영상을 디스플레이하는 투명한 렌즈를 포함할 수 있다.

예를 들어, 사용자는 의사이고, 가상 현실 환경 및/또는 증강 현실 환경에서 수술을 할 수 있다. 즉, 사용자는 HMD의 렌즈를 이용하여 외부 세계를 바라볼 수 있고, 동시에 비디오 영상을 시청할 수 있다.

또한, 본 발명의 일 실시예에 따른 전자 시스템은 관심 영역에 대하여 화질을 변경하여 사용자에게 제공할 수 있다. 즉, 전자 시스템은 사용자가 바라보는 관심 영역에 대하여 고품질의 영상을 제공하고, 관심 영역 이외의 영역에 대하여 저 품질을 영상을 제공할 수 있다.

예를 들어, 사용자가 HMD(예를 들어, 가상현실기기 또는 반투명한 홀로그램 장치)를 착용하고 환자의 심장 수술을 하거나, 수술과정을 배우는 수련의가 HMD를 사용중일때, 사용자 및/또는 수련의가 심장 영역과 같은 관심 영역(1510)을 응시하면, 관심 영역(1510)을 중심으로 화면의 포커스가 이동된다. 이 경우, 전자 시스템은 관심 영역(1510)에 대하여 고품질의 영상을 사용자에게 제공할 수 있다.

또한, 사용자가 관심 영역(1510)을 응시 후 더블 블링크하면, 본 발명의 일 실시예에 따른 전자 시스템은 환자의 심장 수술 영상(1520)을 증강 현실과 연동시켜서 세부적으로 사용자에게 제공할 수 있다.

또한, 본 발명의 일 실시예에 따른 전자 시스템은 환자의 바이탈 사인 정보(1530)를 사용자가 바라보는 화면 및/또는 수술 현황을 모니터링하는 다른 사람들이 바라보는 화면에 중첩 등의 방식으로 실시간으로 제공할 수 있다.

또한, 본 발명의 일 실시예에 다른 전자 시스템은 오디오 정보(예를 들어, 사용자 및/또는 주변 사람의 음성)를 추가적으로 획득하고, 오디오 정보를 기초로 관심 영역을 결정할 수 있다. 전자 시스템은 음성인식기술을 이용하여 오디오 정보를 기초로 관심 영역을 결정할 수 있다.

도 16은 본 발명의 일 실시에에 따른 서버의 구성을 나타낸 도면이다.

본 발명의 일 실시예에 따른 서버(1600)는 미디어 컨텐츠를 품질 별로 다르게 인코딩하고, 선택적으로 전자 장치로 전송할 수 있다. 예를 들어, 서버(1600)는 제어부(1610) 및/또는 통신 모듈(1620) 중에서 적어도 하나를 포함할 수 있다. 제어부(1610)는 전술한 프로세서에 대한 내용을 모두 포함할 수 있다. 또한, 제어부(1610)는 서버(1600)에 포함될 수도 있고, 서버(1600)와 독립적으로 존재할 수도 있다. 통신 모듈(1620)에 대한 구체적인 내용은 전술한 통신 모듈의 내용을 모두 포함할 수 있다. 이하에서는 제어부(1610)를 중심으로 설명한다.

본 발명의 일 실시예에 따른 제어부(1610)는 영상 생성부(1611), 영상 분할부(1613), 인코더(1615), 및/또는 시그널링 데이터 생성부(1617) 중에서 적어도 하나를 포함할 수 있다.

영상 생성부(1611)는 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성할 수 있다. 예를 들어, 영상 생성부(1611)는 적어도 하나의 전자 장치 및/또는 외부 장치로부터 영상 정보를 수신하고, 3차원의 가상 공간을 생성할 수 있다. 또한, 영상 생성부(1611)는 3차원의 가상 공간을 2차원의 평면으로 변환할 수 있다.

영상 분할부(1613)는 전체 영상을 복수의 타일 영역들로 분할할 수 있다. 예를 들어, 타일 영역은 직사각형 모양의 영역일 수 있다. 타일 영상은 전체 영상 내에서 타일 영역에 해당하는 영상을 나타낸다.

인코더(1615)는 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩할수 있다. 예를 들어, 인코더(1615)는 전체 영상 및/또는 타일 영상을 다양한 비트레이트로 인코딩할 수 있다. 또한, 인코더(1615)는 H.264/AVC 및/또는 HEVC를 사용할 수 있고, 기존에 MPEG-DASH에서 참조하는 동영상 포맷 이외에, 신규로 홀로그램 등의 3차원 가상현실, 증강현실용 데이터도 정합하여 전송할 수 있다.

또한, 인코더(1615)는 모션 벡터를 생성할 수 있다. 모션 벡터는 참조 픽처에서 현재 블록과 동일한 위치를 기준으로 참조 블록까지의 이 차원의 상대적인 위치로 표현되는 정보이다. 화면 간 예측에서 인코더는 참조한 블록의 모션 벡터를 디코더로 전송함으로써 인코더와 디코더는 동일한 예측 신호를 생성할 수 있다.

시그널링 데이터 생성부(1617)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 생성할 수 있다.

시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션(MPD)을 포함할 수 있다. 또한, 서비스 데이터는 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.

예를 들어, 미디어 프리젠테이션 디스크립션은 복수의 타일 영역들을 서술하는 복수의 어댑테이션 셋 엘리먼트들을 포함할 수 있다. 또한, 각각의 어댑테이션 셋 엘리먼트는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함할 수 있다. 또한, 각각의 레프리젠테이션 엘리먼트는 타일 영역의 위치 정보, 타일 영상의 품질 정보, 및 타일 영상의 URL 정보 중에서 적어도 하나를 포함할 수 있다.

시그널링 데이터는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 제작자의 의도를 기초로 사용자가 바라볼 것으로 예상되거나 사용자가 반드시 바라보아야 하는 타일 영역의 순위를 지시하는 제작자 의도 정보를 더 포함할 수 있다. 제작자는 관심 영역에 대응되는 타일 영역의 순위는 높게 설정하고, 고 품질로 인코딩된 타일 영상을 전송할 수 있다. 또한, 관심 영역 이외의 영역에 대응되는 타일 영역의 순위는 낮게 설정하고, 저 품질로 인코딩된 타일 영상을 전송할 수 있다.

시그널링 데이터는 각각의 타일 영역에 대한 모션 벡터의 대표값을 지시하는 모션 벡터 통계 정보를 더 포함할 수 있다.

모션 벡터 통계 정보는 미디어 프리젠테이션 디스크립션의 파일 이름에 추가될 수도 있고, 미디어 프리젠테이션 디스크립션에 포함되는 엘리먼트 및/또는 속성에 포함될 수도 있다. 또한, 모션 벡터 통계 정보는 미디어 프리젠테이션 디스크립션과 별도로 존재하는 메타 데이터 테이블의 파일 이름에 추가될 수도 있고, 메타 데이터 테이블에 포함되는 엘리먼트 및/또는 속성에 포함될 수도 있다.

예를 들어, 모션 벡터 통계 정보는 시간대 별 및/또는 매크로 블록(Macro Block) 별로 존재할 수 있다. 또한, 모션 벡터 통계 정보는 [TimeSeconds, Poi_x, Poi_y, DeltaOf(MV)] 와 같은 형식일 수 있다. 여기서, TimeSeconds는 시간 정보를 지시하고, Poi_x 및/또는 Poi_y는 좌표 정보를 지시하고, DeltaOf(MV)는 각 타일 내에서 적어도 하나의 모션 벡터들의 대표값(또는 평균값)을 지시할 수 있다.

통신 모듈(1620)는 적어도 하나의 센서 장치, 전자 장치, 및/또는 외부 장치로 가상 회의 서비스를 위한 서비스 데이터, 시그널링 데이터, 및/또는 부가 데이터를 전송 및/또는 수신할 수 있다. 예를 들어, 통신 모듈(1620)는 요청 정보를 기초로 서비스 데이터를 전송할 수 있다.

예를 들어, 요청 정보는 시그널링 데이터 및 관심 영역 정보를 기초로 선택된 타일 영상을 서술할 수 있다. 또한, 관심 영역 정보는 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시할 수 있다.

도 17은 본 발명의 일 실시예에 따른 MPD를 나타낸 도면이다.

MPD는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술할 수 있다.

도면을 참고하면, 제1 타일 영역(X0, Y0)을 서술하는 제1 어댑테이션 셋 엘리먼트(1710), 제2 타일 영역(X1, Y0)을 서술하는 제2 어댑테이션 셋 엘리먼트(1720), 및/또는 제3 타일 영역(X1, Y1)을 서술하는 제3 어댑테이션 셋 엘리먼트(1730)가 나타나 있다. 이하에서는 제1 어댑테이션 셋 엘리먼트(1710)를 중심으로 설명한다.

제1 어댑테이션 셋 엘리먼트(1710)는 서로 다른 품질로 인코딩된 복수의 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함할 수 있다. 예를 들어, 제1 어댑테이션 셋 엘리먼트(1710)은 제1 레프리젠테이션 엘리먼트 내지 제 5 레프리젠터이션 엘리먼트를 포함할 수 있다.

각각의 레프리젠테이션 엘리먼트는 타일 영역의 위치 정보, 타일 영상의 품질 정보, 및/또는 타일 영상의 URL 정보 중에서 적어도 하나를 포함할 수 있다.

또한, 기존의 MPD 를 보완하기 위해서, 서버는 위의 확장된 MPD 를 별도의 메타데이터로 전자 장치(또는 클라이언트)에게 전송할 수 있다.

이때, 메타데이터의 주요 속성과 포맷은 다음과 같다. 예를 들어, 메타 데이터는 [Xn , Yn] 좌표 , 시간정보 , 해상도, 품질, 파일 URL 을 포함할 수 있다. 또한 메타 데이터는 MPD 포맷, JSON (JavaScript Object Notation), 기타 임의 정의된 이진 포맷, HTML 텍스트 포맷, CSV (Comma Separated Values), 데이터베이스 쿼리 포맷 등의 포맷일 수 있다. 전자 장치는 메타 데이터를 서버에 요청하고, 서버로부터 메타 데이터를 전송받아서 사용할 수 있다.

도 18은 본 발명의 일 실시예에 따른 다양한 품질로 인코딩된 전체 영상을 나타낸 도면이다.

도 (a)를 참조하면, 적어도 하나의 타일 영역으로 분할된 전체 영상(1810)이 나타나 있다.

서버는 영상 분할부를 이용하여 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 위한 전체 영상(1810)을 직사각형 모양의 적어도 하나의 타일 영역으로 분할할 수 있다.

예를 들어, 전체 영상(1810)은 360도 범위를 나타내는 영상일 수 있다. 또한, 타일 영역의 개수 및/또는 크기는 사용자, 전자 장치, 및/또는 서버에 의해서 미리 정의될 수 있다.

도 (b)를 참조하면, 다양한 품질로 인코딩된 전체 영상들이 나타나 있다.

서버는 인코더를 이용하여 전체 영상 및/또는 적어도 하나의 타일 영상을 다양한 품질로 인코딩할 수 있다.

예를 들어, 서버는 전체 영상(1810)을 인코딩하여 저 품질의 제1 전체 영상(1821), 중 품질의 제2 전체 영상(1823), 및/또는 고 품질의 제3 전체 영상(1825)을 생성할 수 있다.

동일한 타일 영역에 포함되는 복수의 타일 영상들은 어댑테이션 셋 엘리먼트에 의해서 서술될 수 있다. 또한, 동일한 타일 영역에 포함되는 각각의 타일 영상은 레프리젠테이션 엘리먼트에 의해서 서술될 수 있다.

본 발명의 일 실시예에 따른 서버는 네트워크 상황 및/또는 사용자의 요청을 기초로 각각의 타일 영역에 대하여 특정의 품질로 인코딩된 타일 영상을 선택적 및/또는 적응적으로 사용자에게 전송할 수 있다.

도 19는 본 발명의 일 실시예에 따른 모션 벡터 통계 정보, 제작자 의도 정보, 및 관심 영역 순위 정보의 설명을 위한 도면이다.

도 (a)를 참조하면, 전체 영상(1910) 및 모션 벡터(1913)가 나타나 있다.

본 발명의 일 실시예에 따른 모션 벡터 통계 정보는 각각의 타일 영역에 대한 모션 벡터(1913)의 대표값을 지시할 수 있다. 예를 들어, 대표값은 각각의 타일 영역에 존재하는 복수의 모션 벡터들의 평균값일 수 있다.

본 발명의 일 실시예에 따른 전자 장치는 모션 벡터 통계 정보를 기초로 각각의 타일 영역에 대하여 특정의 품질로 인코딩된 타일 영상을 선택할 수 있다. 예를 들어, 전자 장치는 모션 벡터 통계 정보의 값이 큰 순서대로 타일 영역들을 정렬하고, 모션 벡터 통계 정보의 값이 큰 타일 영역(1911, 1915, 1917)에 대하여 고 품질로 인코딩된 타일 영상을 수신할 수 있다.

도 (b)를 참조하면, 전체 영상(1920), 사용자가 바라보는 관심 영역(1921), 사용자의 움직임을 기초로 사용자가 바라볼 것으로 예상되는 타일 영역(1923), 미디어 콘텐트의 제작자의 의도를 기초로 사용자가 바라볼 것으로 예상되는 타일 영역(1925)가 나타나 있다.

현재 사용자는 관심 영역(1921)을 바라보고 있지만, 타일 영역(1923)의 방향으로 움직일 수 있다. 이 때, 관심 영역 순위 정보는 사용자의 움직임을 기초로 타일 영역(1923)에 대하여 높은 순위의 값을 가질 수 있다.

또한, 미디어 컨텐츠의 제작자의 의도는 사용자가 타일 영역(1925)를 바라보는 것일 수 있다. 이 때, 제작자 의도 정보는 제작자의 의도를 기초로 타일 영역(1925)에 대하여 높은 순위의 값을 가질 수 있다.

본 발명의 일 실시예에 따른 전자 장치는 관심 영역 순위 정보 및/또는 제작자 의도 정보를 기초로 각각의 타일 영역에 대하여 특정의 품질로 인코딩된 타일 영상을 선택할 수 있다. 예를 들어, 전자 장치는 관심 영역 순위 정보 및/또는 제작자 의도 정보의 값이 큰 순서대로 타일 영역들을 정렬하고, 관심 영역 순위 정보 및/또는 제작자 의도 정보의 값이 큰 타일 영역(1923, 1925)에 대하여 고 품질로 인코딩된 타일 영상을 수신할 수 있다.

도 20은 본 발명의 일 실시예에 따른 서로 다른 품질로 인코딩된 타일 영상을 수신하는 개념도이다.

도면을 참조하면, 저 품질로 인코딩된 전체 영상(2010), 고 품질로 인코딩된 전체 영상(2020), 전자 장치가 수신하는 전체 영상(2030)이 나타나 있다.

관심 영역(2011, 2021, 2031)은 현재 사용자가 바라보고 있는 영역이다. 제1 관심 영역(2013, 2023, 2033)은 관심 영역 순위 정보의 값이 가장 높은 영역이다. 제2 관심 영역(2014, 2024, 2034)은 제작자 의도 정보의 값이 가장 높은 영역이다. 제3 관심 영역(2015, 2025, 2035)은 모션 벡터 통계 정보의 값이 가장 높은 영역이다. 제1 관심 영역, 제2 관심 영역, 및 제3 관심 영역은 모두 관심 영역으로 표현될 수 있다.

본 발명의 일 실시예에 따른 전자 장치는 관심 영역 순위 정보, 제작자 의도 정보, 및/또는 모션 벡터 통계 정보를 기초로 선택적으로 타일 영상을 수신할 수 있다.

예를 들어, 전자 장치는 관심 영역(2031), 제1 관심 영역(2033), 제2 관심 영역(2034), 제3 관심 영역(2035)에 대하여 고 품질로 인코딩된 타일 영상을 수신할 수 있다. 전자 장지는 나머지 영역에 대하여 저 품질로 인코딩된 타일 영상을 수신할 수 있다.

도 21은 본 발명의 일 실시예에 따른 에지 효과(edge effect)를 제거하는 방법을 나타낸 도면이다.

도 (a)를 참조하면, 4 개의 타일 영역(2111, 2112, 2113, 2114) 내에 관심 영역(2115)이 존재할 수 있다. 또한, 4개의 타일 영역은 품질 및/또는 해상도가 모두 같을 수도 있고, 서로 다를 수도 있다.

만약 관심 영역(2115) 내에서 인접하는 두 개의 타일 영역의 품질 및/또는 해상도가 다르면, 경계 부분에서 에지 효과(2116)가 발생할 수 있다. 에지 효과(2116)는 인접한 두 개의 타일 영상 사이의 경계 부분이 부자연스럽거나, 타일 영상들이 연결되지 않고 끊어져 보이는 효과를 의미한다.

이하에서는 본 발명의 일 실시예에 따른 에지 효과(2116)를 제거하는 방법을 설명한다.

도(b)를 참조하면, 타일 영상(2123) 및 오버 스캔 영상(2125)이 나타나 있다.

본 발명의 일 실시예에 따른 적어도 하나의 타일 영상(2123)은 실제로는 타일 영역보다 마진 비율(2127) 만큼 넓게 스캔된 오버 스캔 영상(2125)으로 전송 및/또는 수신될 수 있다. 즉, 오버 스캔 영상(2125)의 영역 내에서는 품질이 동일할 수 있다.

전자 장치는 적어도 하나의 오버 스캔 영상(2125)을 수신하고, 상기 적어도 하나의 오버 스캔 영상(2125)을 결합하여 전체 영상을 생성할 수 있다.

이 경우, 서로 결합되는 오버 스캔 영상(2125)들은 마진 비율(2127) 만큼 서로 중복될 수 있다.

따라서, 전자 장치는 중복되는 부분에 대하여 두 개의 타일 영상이 자연스럽게 이어지도록 처리하고, 에지 효과를 제거할 수 있다.

도 (c)를 참조하면, 경계 부분에 대한 처리가 나타나 있다.

저 품질로 인코딩된 타일 영상(2131)과 고 품질로 인코딩된 타일 영상(2132)가 인접해있다. 고 품질로 인코딩된 타일 영상(2131)에 대한 오버 스캔 영상은 일정 부분(2133) 만큼 저 품질로 인코딩된 타일 영상(2131)과 겹친다. 또한, 저 품질로 인코딩된 타일 영상(2131)에 대한 오버 스캔 영상은 일정 부분(2134) 만큼 고 품질로 인코딩된 타일 영상(2132)과 겹친다.

본 발명의 일 실시예에 따른 전자 장치는 두 개의 오버 스캔 영상이 겹치는 일정 부분(2133, 2134)에 대하여 비례 평균 방법, 로지스틱 모형적용 가중치 평균방법, 및/또는 필터링 방법을 수행할 수 있다

비례 평균 방법은 고 해상도 및/또는 고 품질의 타일 영상을 기준으로 오버 스캔 거리 만큼 픽셀의 가중치를 달리하여 인접하는 구 개의 타일 영상의 픽셀 이미지 값들의 비례 평균 값을 구하는 방법이다. 이 경우, 경계 부분이 연속 적인 값을 가질 수 있고, 두 개의 타일 영상이 자연스럽게 결합될 수 있다.

로지스틱 모형적용 가중치 평균방법은, 고해상도 타일과 저해상도 타일이 겹칠 경우 및/또는 오버스캔으로 일정 거리 만큼 픽셀의 가중치를 적용할 경우에 적용되는, 로지스틱 회귀모형 식(2140)으로 표현되는 회귀방정식 모형이다. 이하에서는 고해상도 타일과 저해상도 타일을 중심으로 설명하지만, 고품질 타일과 저품질 타일에도 동일하게 적용될 수 있다. 그래프(2141) 의 형태는 가장 표준적인 슬로프의 분포 모형이다. 예를 들어, 타일이 고해상도의 타일일 경우에 가중치를 얻는 방법을 설명한다. 먼저, 전자 시스템은 고해상도 픽셀의 %위치에 따른 가중치 값(2142)을 얻을 수 있다. 이때, 전자 시스템은 고해상도의 타일에 겹쳐지는 저해상도의 타일의, 저해상도 픽셀의 %위치에 대칭되는, 저해상도 픽셀의 %위치에 따른 가중치 (2143) 을 파악할 수 있다. 전자 시스템은 고해상도 픽셀의 %위치에 따른 가중치 값 (2142)을 고해상도 오버스캔 거리에 해당하는 픽셀에 곱하고, 저해상도 픽셀의 %위치에 따른 가중치(2143)는 저해상도 오버스캔 거리에 해당하는 픽셀에 곱하여, 둘간의 평균 픽셀값을 구할 수 있다. 이와 같은 방법으로, 저해상도 타일에서 오버스캔 거리에 해당하는 픽셀에서는 저해상도 픽셀의 가중치가 높은 값을 가지고, 고해상도 픽셀의 가중치는 낮은 값을 가진다.

필터링 방법은 두 개의 오버 스캔 영상이 겹치는 일정 부분(2133, 2134)에 대하여 하이패스 필터로 연산 및/또는 보정하는 방법이다. 이 경우, 경계 부분의 해상도 및/또는 품질을 개선할 수 있다.

따라서, 본 발명의 일 실시예에 따른 전자 장치는 두 개의 오버 스캔 영상이 겹치는 일정 부분(2133, 2134)에서 연속적인 해상도 및/또는 품질을 갖도록 처리할 수 있고, 에지 효과를 제거할 수 있다(2135).

도 22는 본 발명의 일 실시예에 따른 미디어 컨텐츠 송신 방법을 나타낸 도면이다.

본 발명의 일 실시예에 따른 서버(또는 미디어 컨텐츠 송신 장치)는 제어부(미도시) 및/또는 통신 모듈(미도시)을 포함할 수 있다. 미디어 컨텐츠 송신 방법에 대한 구체적인 내용은 전술한 서버의 동작에 대한 내용을 모두 포함할 수 있다.

서버는, 제어부를 이용하여, 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성할 수 있다(2210).

또한, 서버는, 제어부를 이용하여, 상기 전체 영상을 복수의 타일 영역들로 분할할 수 있다(2220).

또한, 서버는, 제어부를 이용하여, 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩할 수 있다(2230).

또한, 서버는, 통신 모듈을 이용하여, 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신할 수 있다(2240). 상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함할 수 있다. 또한, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.

또한, 서버는, 통신 모듈을 이용하여, 요청 정보를 기초로 상기 서비스 데이터를 더 송신할 수 있다. 상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술할 수 있다. 또한, 상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시할 수 있다. 또한, 상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높을 수 있다.

도 23은 본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 수신 장치)의 구성을 나타낸 도면이다.

본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 전송 장치)는 제어부(2310), 및/또는 통신 모듈(2320)을 포함할 수 있다. 제어부(2310)은 전술한 프로세서에 대한 내용을 모두 포함할 수 있다. 또한, 통신 모듈(2320)은 전술한 통신 모듈에 대한 내용을 모두 포함할 수 있다. 또한, 제어부(2310)은 관심 영역 정보 생성부(2311), 요청 정보 생성부(2323), 디코더(2325), 및/또는 영상 결합부(2327)을 포함할 수 있다.

통신 모듈(2320)은 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신할 수 있다.

상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함할 수 있다. 또한, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.

관심 영역 정보 생성부(2311)는 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성할 수 있다.

상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시할 수 있다.

요청 정보 생성부(2323)는 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성할 수 있다.

상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높을 수 있다.

통신 모듈(2320)은 상기 요청 정보를 기초로 상기 서비스 데이터를 수신할 수 있다.

디코더(2325)는 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩할 수 있다.

영상 결합부(2327)는 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합할 수 있다.

그리고 나서, 전자 장치(또는 미디어 컨텐츠 수신 장치)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 사용자에게 제공할 수 있다.

상기 미디어 프리젠테이션 디스크립션은 상기 복수의 타일 영역들을 서술하는 복수의 어댑테이션 셋 엘리먼트들을 포함할 수 있다. 또한, 각각의 어댑테이션 셋 엘리먼트는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함할 수 있다. 또한, 각각의 레프리젠테이션 엘리먼트는 상기 타일 영역의 위치 정보, 상기 타일 영상의 품질 정보, 및 상기 타일 영상의 URL 정보 중에서 적어도 하나를 포함할 수 있다.

상기 관심 영역 정보는 사용자의 움직임을 기초로 상기 사용자가 바라보거나바라볼 것으로 예상되는 상기 타일 영역의 순위를 지시하는 관심 영역 순위 정보를 포함할 수 있다. 또한, 상기 관심 영역 순위 정보는 상기 사용자의 눈동자의 움직임을 서술하는 눈동자 벡터 및 상기 사용자의 머리의 움직임을 서술하는 헤드 벡터를 기초로 생성될 수 있다.

상기 눈동자 벡터는 상기 사용자의 좌측 눈동자에 포함된 동공의 좌표를 지시하는 좌측 눈동자 동공 좌표 벡터, 및 상기 사용자의 우측 눈동자에 포함된 동공의 좌표를 지시하는 우측 눈동자 동공 좌표 벡터 중에서 적어도 하나를 포함할 수 있다.

상기 시그널링 데이터는 상기 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 제작자의 의도를 기초로 상기 사용자가 바라볼 것으로 예상되거나 사용자가 반드시 바라보아야 하는 상기 타일 영역의 순위를 지시하는 제작자 의도 정보를 더 포함할 수 있다.

상기 시그널링 데이터는 상기 각각의 타일 영역에 대한 모션 벡터의 대표값을 지시하는 모션 벡터 통계 정보를 더 포함할 수 있다.

상기 선택된 타일 영상은 상기 관심 영역 순위 정보, 상기 제작자 의도 정보, 및 상기 모션 벡터 통계 정보 중에서 적어도 하나를 기초로 상기 각각의 타일 영역에 대하여 선택된 특정의 품질로 인코딩되는 타일 영상을 지시할 수 있다.

상기 요청 정보는 상기 타일 영역의 위치 정보, 상기 선택된 타일 영상의 품질 정보, 및 상기 선택된 타일 영상의 URL 정보를 포함할 수 있다.

상기 각각의 타일 영역에 대한 상기 타일 영상은 미리 정해진 비율로 오버 스캔될 수 있다. 또한, 서로 다른 품질의 타일 영상들 사이의 경계 부분에 포함되는 픽셀 값들은 상기 서로 다른 품질의 타일 영상들의 픽셀 값들에 대한 비례 평균값을 지시할 수 있다.

도 24는 본 발명의 일 실시예에 따른 미디어 컨텐츠 수신 방법을 나타낸 도면이다.

본 발명의 일 실시예에 따른 전자 장치(또는 미디어 컨텐츠 수신 장치)는 제어부(미도시) 및/또는 통신 모듈을 포함할 수 있다. 제어부에 대한 구체적인 내용은 전술한 프로세서에 대한 내용을 모두 포함할 수 있다. 통신 모듈에 대한 구체적인 내용은 전술한 통신 모듈에 대한 내용을 모두 포함할 수 있다.

전자 장치는, 통신 모듈을 이용하여, 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신할 수 있다(2410).

상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함할 수 있다. 또한, 상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다.

전자 장치는, 관심 영역 정보 생성부를 이용하여, 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성할 수 있다(2420).

상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시할 수 있다.

전자 장치는, 요청 정보 생성부를 이용하여, 상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성할 수 있다(2430).

상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높을 수 있다.

전자 장치는, 통신 모듈을 이용하여, 상기 통신 모듈은 상기 요청 정보를 기초로 상기 서비스 데이터를 더 수신할 수 있다(2450).

전자 장치는, 디코더를 이용하여, 상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩할 수 있다(2460).

전자 장치는, 영상 결합부를 이용하여, 복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합할 수 있다.

그리고 나서, 전자 장치(또는 미디어 컨텐츠 수신 장치)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스를 사용자에게 제공할 수 있다.

도 25는 본 발명의 일 실시예에 따른 전자 시스템의 동작을 나타낸 도면이다.

도면을 참조하면, 본 발명의 일 실시예에 따른 전자 시스템(2500)은 서버(2510) 및/또는 HMD(2520)을 포함할 수 있다. 예를 들어, HMD(2520)는 전자 장치일 수 있다. 서버(2510), HMD(2520), 및/또는 전자 장치에 대한 내용은 전술한 서버, HMD, 및/또는 전자 장치에 대한 내용을 모두 포함할 수 있다.

예를 들어, 서버(2510)는 System Manager, MPEG-DASH 서버, 및/또는 메타 데이터 서버로 지칭될 수 있다. HMD(2520)는 MPEG-DASH 재생 단말일 수 있다.

서버(2510)는 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성할 수 있다. 그리고 나서, 서버(2510)는 전체 영상을 복수의 타일 영역들로 분할할 수 있다. 그리고 나서, 서버(2510)는, 인코더(2511, 2512)를 이용하여, 각각의 타일 영역의 타일 영상을 복수의 품질들로 인코딩할 수 있다.

예를 들어, 전체 영상(2514)는 고 해상도 및/또는 고 품질로 인코딩된 영상일 수 있다. 전체 영상(2515)는 고 해상도 및/또는 중 품질로 인코딩된 영상일 수 있다. 전체 영상(2516)는 중 해상도로 인코딩된 영상일 수 있다. 전체 영상(2517)는 저 해상도로 인코딩된 영상일 수 있다.

또한, 서버(2510)는 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 생성할 수 있다. 서버(2510)는 시그널링 데이터의 요청을 기초로 시그널링 데이터를 HMD(2520)으로 전송할 수 있다.

예를 들어, 시그널링 데이터는 각각의 타일 영상의 위치를 지시하는 타일 위치 정보, 모션 벡터 통계 정보, 제작자 의도 정보, 및/또는 미디어 프리젠테이션 디스크립션을 포함할 수 있다(2513).

또한, 서버(2510)는 요청 정보를 기초로 서비스 데이터를 HMD(2520)로 전송할 수 있다.

HMD(2520)는 시그널링 데이터를 요청하고(2521), 서버(2510)으로부터 시그널링 데이터를 수신할 수 있다(2522).

또한, HMD(2520)는, 제어부를 이용하여, 시그널링 데이터를 추출 및/또는 분석할 수 있다(2523). 예를 들어, HMD(2520)는 시그널링 데이터로부터 타일 위치 정보, 모션 벡터 통계 정보, 제작자 의도 정보, 및/또는 미디어 프리젠테이션 디스크립션을 획득할 수 있다.

또한, HMD(2520)는, 제어부 및/또는 관심 영역 정보 생성부를 이용하여, 관심 영역 정보 및/또는 관심 영역 순위 정보를 생성할 수 있다(2524). 예를 들어, 관심 영역 정보 및/또는 관심 영역 순위 정보는 헤드 벡터 및/또는 눈동자 벡터를 기초로 생성될 수 있다.

또한, HMD(2520)는, 제어부 및/또는 요청 정보 생성부를 이용하여, 타일 영역들을 정렬할 수 있다(2525). 예를 들어, HMD(2520)는 모션 벡터 통계 정보를 기초로 타일 영역들을 오름 차순 또는 내림 차순으로 정렬할 수 있다. HMD(2520)는 제작자 의도 정보를 기초로 타일 영역들을 오름 차순 또는 내림 차순으로 정렬할 수 있다. HMD(2520)는 관심 영역 순위 정보를 기초로 타일 영역들을 오름 차순 또는 내림 차순으로 정렬할 수 있다.

또한, HMD(2520)는 정렬된 타일 영역들을 기초로 요청 정보를 생성할 수 있다(2526). 이때, HMD(2520)는 모션 벡터 통계 정보, 제작자 의도 정보, 및/또는 관심 영역 순위 정보 중에서 적어도 하나를 이용하여 타일 영역들을 정렬하고, 요청 정보를 생성할 수 있다.

또한, HMD(2520)는 요청 정보를 서버(2510)로 전송할 수 있다(2527).

또한, HMD(2520)는 요청 정보를 기초로 서비스 데이터를 수신할 수 있다(2528). 예를 들어, 서비스 데이터는 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함할 수 있다. 요청 정보는 선택된 타일 영상에 대한 정보를 포함할 수 있다.

또한, HMD(2520)는 서비스 데이터를 디코딩하고, 영상을 재생할 수 있다(2529).

본 개시에 따른 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 본 개시에 따른 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 본 개시에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.

본 발명의 범위는 본 명세서에 개시된 실시 예들로 한정되지 아니하고, 본 발명은 본 발명의 사상 및 특허청구범위에 기재된 범주 내에서 다양한 형태로 수정, 변경, 또는 개선될 수 있다.

Claims (12)

1. 가상 현실, 증강 현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 단계,
   상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
   상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고;
   전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 단계,
   상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고;
   상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 단계,
   상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고;
   상기 요청 정보를 기초로 상기 서비스 데이터를 수신하는 단계;
   상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로디코딩하는 단계; 및
   복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 단계;를 포함하고,
   상기 각각의 타일 영역에 대한 상기 타일 영상은 인접한 타일 영상과 적어도 일부 영역이 중첩되도록 미리 정해진 비율로 오버 스캔된 타일 영상이고,
   상기 선택된 타일 영상을 전체 영상으로 결합하는 단계는, 서로 다른 품질의 타일 영상들 사이의 경계 부분에 상기 오버 스캔으로 인하여 중첩되어 포함되는 픽셀 값들이 상기 서로 다른 품질의 타일 영상들의 중첩된 영역의 픽셀 값들에 대한 비례 평균값을 지시하는 미디어 컨텐츠 수신 방법.
2. 제1항에서,
   상기 미디어 프리젠테이션 디스크립션은 상기 복수의 타일 영역들을 서술하는 복수의 어댑테이션 셋 엘리먼트들을 포함하고,
   각각의 어댑테이션 셋 엘리먼트는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 복수의 레프리젠테이션 엘리먼트들을 포함하고,
   각각의 레프리젠테이션 엘리먼트는 상기 타일 영역의 위치 정보, 상기 타일 영상의 품질 정보, 및 상기 타일 영상의 URL 정보 중에서 적어도 하나를 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.
3. 제2항에서,
   상기 관심 영역 정보는 사용자의 움직임을 기초로 상기 사용자가 바라보거나바라볼 것으로 예상되는 상기 타일 영역의 순위를 지시하는 관심 영역 순위 정보를 포함하고,
   상기 관심 영역 순위 정보는 상기 사용자의 눈동자의 움직임을 서술하는 눈동자 벡터 및 상기 사용자의 머리의 움직임을 서술하는 헤드 벡터를 기초로 생성되는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.
4. 제3항에서,
   상기 눈동자 벡터는 상기 사용자의 좌측 눈동자에 포함된 동공의 좌표를 지시하는 좌측 눈동자 동공 좌표 벡터, 및 상기 사용자의 우측 눈동자에 포함된 동공의 좌표를 지시하는 우측 눈동자 동공 좌표 벡터 중에서 적어도 하나를 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.
5. 제3항에서,
   상기 시그널링 데이터는 상기 서비스의 제작자의 의도를 기초로 상기 사용자가 바라볼 것으로 예상되거나 사용자가 반드시 보아야 하는 상기 타일 영역의 순위를 지시하는 제작자 의도 정보를 더 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.
6. 제5항에서,
   상기 시그널링 데이터는 상기 각각의 타일 영역에 대한 모션 벡터의 대표값을 지시하는 모션 벡터 통계 정보를 더 포함하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.
7. 제6항에서,
   상기 선택된 타일 영상은 상기 관심 영역 순위 정보, 상기 제작자 의도 정보, 및 상기 모션 벡터 통계 정보 중에서 적어도 하나를 기초로 상기 각각의 타일 영역에 대하여 선택된 특정의 품질로 인코딩되는 타일 영상을 지시하는 것을 특징으로 하는 미디어 컨텐츠 수신 방법.
8. 제4항에서,
   상기 눈동자 벡터에 기반하여 미리 정해진 패턴의 발생을 확인하는 단계; 및
   상기 눈동자 벡터, 상기 미리 정해진 패턴에 기반하여 판단된 커맨드(Command) 및 상기 눈동자 벡터가 획득된 시간 정보를 포함하는 눈동자 제스쳐 정보를 생성하는 단계를 더 포함하고,
   상기 커맨드는 상기 사용자의 감정과 관련된 커맨드 또는 상기 사용자의 명령과 관련된 커맨드 중 어느 하나를 포함하는 미디어 컨텐츠 수신 방법.
9. 제8항에서,
   상기 눈동자 벡터는 눈꺼풀의 깜박임 횟수 정보, 동공의 지름 정보, 눈동자의 지름 정보 및 눈물 여부 정보를 포함하고,
   상기 눈물 여부 정보는 상기 동공의 지름의 변화에 기반하여 판단되고,
   눈꺼풀이 미리 정해진 기준보다 내려온 상태가 5회 이상인 패턴이 발생하는 경우, 상기 사용자의 감정과 관련된 커맨드는 졸림으로 판단되어 생성되고,
   동공의 지름이 확대되고 눈꺼풀이 미리 정해진 기준보다 올라간 상태인 패턴이 발생하는 경우, 상기 사용자의 감정과 관련된 커맨드는 놀람으로 판단되어 생성되는 미디어 컨텐츠 수신 방법.
10. 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성하는 단계;
    상기 전체 영상을 복수의 타일 영역들로 분할하는 단계;
    각각의 타일 영역에 대하여 인접한 타일 영역의 타일 영상과 적어도 일부 영역이 중첩되도록 미리 정해진 비율로 오버 스캔한 타일 영상을 복수의 품질들로 인코딩하는 단계;
    가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 단계,
    상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
    상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고; 및
    요청 정보를 기초로 상기 서비스 데이터를 송신하는 단계;를 포함하고,
    상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고,
    상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및
    상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 하는 미디어 컨텐츠 송신 방법.
11. 가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터의 획득을 위한 시그널링 데이터를 수신하는 통신 모듈,
    상기 시그널링 데이터는 각각의 타일 영역에 대하여 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
    상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고,
    상기 타일 영상은 인접한 타일 영상과 적어도 일부 영역이 중첩되도록 미리 정해진 비율로 오버 스캔된 타일 영상이고,
    전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하는 관심 영역 정보를 생성하는 관심 영역 정보 생성부,
    상기 전체 영상은 3차원의 가상 공간이 2차원의 평면으로 변환된 영상을 지시하고;
    상기 시그널링 데이터 및 상기 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하는 요청 정보를 생성하는 요청 정보 생성부,
    상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높고,
    상기 통신 모듈은 상기 요청 정보를 기초로 상기 서비스 데이터를 더 수신하고;
    상기 서비스 데이터를 상기 각각의 타일 영역의 상기 선택된 타일 영상으로 디코딩하는 디코더; 및
    복수의 타일 영역들의 상기 선택된 타일 영상을 전체 영상으로 결합하는 영상 결합부를 포함하고,
    상기 영상 결합부는 상기 선택된 타일 영상을 전체 영상으로 결합할 때, 서로 다른 품질의 타일 영상들 사이의 경계 부분에 상기 오버스캔으로 인하여 중첩되어 포함되는 픽셀 값들은 상기 서로 다른 품질의 타일 영상들의 중첩된 영역의 픽셀 값들에 대한 비례 평균값을 지시하도록 처리하는 미디어 컨텐츠 수신 장치.
12. 3차원의 가상 공간이 2차원의 평면으로 변환된 전체 영상을 생성하는 영상 생성부;
    상기 전체 영상을 복수의 타일 영역들로 분할하는 영상 분할부;
    각각의 타일 영역에 대하여 인접한 타일 영역의 타일 영상과 적어도 일부 영역이 중첩되도록 미리 정해진 비율로 오버 스캔한 타일 영상을 복수의 품질들로 인코딩하는 인코더;
    가상 현실, 증강현실, 또는 홀로그램을 위한 서비스의 서비스 데이터를 획득하기 위한 시그널링 데이터를 송신하는 통신 모듈; 및
    상기 시그널링 데이터는 상기 각각의 타일 영역에 대하여 상기 복수의 품질들로 인코딩되는 타일 영상들을 서술하는 미디어 프리젠테이션 디스크립션을 포함하고,
    상기 서비스 데이터는 상기 각각의 타일 영역에 대하여 특정의 품질로 인코딩되는 타일 영상에 해당하는 선택된 타일 영상을 포함하고,
    상기 통신 모듈은 요청 정보를 기초로 상기 서비스 데이터를 더 송신하고,
    상기 요청 정보는 상기 시그널링 데이터 및 관심 영역 정보를 기초로 상기 선택된 타일 영상을 서술하고,
    상기 관심 영역 정보는 상기 전체 영상에서 사용자가 바라보거나 바라볼 것으로 예상되는 관심 영역을 지시하고, 및
    상기 관심 영역을 위한 상기 선택된 타일 영상의 품질은 상기 관심 영역 이외의 영역을 위한 상기 선택된 타일 영상의 품질보다 높은 것을 특징으로 하는 미디어 컨텐츠 송신 장치.

Images