KR20220039113A - 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 - Google Patents

엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 Download PDF

Info

Publication number
KR20220039113A
KR20220039113A KR1020200121792A KR20200121792A KR20220039113A KR 20220039113 A KR20220039113 A KR 20220039113A KR 1020200121792 A KR1020200121792 A KR 1020200121792A KR 20200121792 A KR20200121792 A KR 20200121792A KR 20220039113 A KR20220039113 A KR 20220039113A
Authority
KR
South Korea
Prior art keywords
viewing angle
image
extra
electronic device
pupil
Prior art date
Application number
KR1020200121792A
Other languages
English (en)
Inventor
이보영
김관모
김은지
김지원
이재홍
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020200121792A priority Critical patent/KR20220039113A/ko
Priority to US17/603,134 priority patent/US20220312057A1/en
Priority to PCT/KR2021/012837 priority patent/WO2022060175A1/ko
Publication of KR20220039113A publication Critical patent/KR20220039113A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189—Recording image signals; Reproducing recorded image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194—Transmission of image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234381—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the temporal resolution, e.g. decreasing the frame rate by frame skipping
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402—Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities

Abstract

본 개시는, 엣지 컴퓨팅 서비스(예: MEC(multi-access edge computing) 서비스)를 이용한 영상 컨텐츠 전송 방법 및 장치에 관한 것으로, 일 실시 예에 의하면, 엣지 데이터 네트워크가, 엣지 데이터 네트워크와 연결된 전자 장치로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하는 단계; 방위 정보에 대응하는 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하는 단계; 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및 생성된 제1 프레임을 전자 장치로 전송하는 단계;를 포함할 수 있다.

Description

엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 {METHOD AND APPARATUS FOR TRANSMITTING VIDEO CONTENT USING EDGE COMPUTING SERVICE}
본 개시는 엣지 컴퓨팅 서비스(예: MEC(multi-access edge computing) 서비스)를 이용한 영상 컨텐츠 전송 방법 및 장치에 관한 것이다.
최근, 엣지 서버(edge server)를 이용하여 데이터를 전송하는 엣지 컴퓨팅(edge computing) 기술이 논의되고 있다. 엣지 컴퓨팅 기술은, 예를 들어, MEC(Multi-access Edge Computing) 또는 포그 컴퓨팅(fog computing, FOC)을 포함할 수 있다. 엣지 컴퓨팅 기술은 전자 장치와 지리적으로 가까운 위치, 예를 들어, 기지국 내부 또는 기지국 근처에 설치된 별도의 서버(이하, '엣지 데이터 네트워크' 또는 'MEC 서버'라 한다)를 통해 전자 장치로 데이터를 제공하는 기술을 의미할 수 있다. 예를 들어, 전자 장치에 설치된 적어도 하나의 애플리케이션 중 낮은 지연 시간(latency)을 요구하는 애플리케이션은 외부 데이터 네트워크(data network, DN)(예: 인터넷)에 위치한 서버를 통하지 않고, 지리적으로 가까운 위치에 설치된 엣지 서버를 통해 데이터를 송수신할 수 있다.
최근에는 엣지 컴퓨팅 기술을 이용한 서비스(이하, 'MEC 기반 서비스' 또는 'MEC 서비스'라 한다)에 관하여 논의되고 있으며, MEC 기반 서비스를 지원하도록 전자 장치에 관한 연구 및 개발이 진행되고 있다. 예를 들면, 전자 장치의 애플리케이션은 엣지 서버(또는 엣지 서버의 애플리케이션)와 애플리케이션 레이어(application layer) 상에서 엣지 컴퓨팅 기반 데이터를 송수신할 수 있다.
MEC 기반 서비스를 지원하기 위한 연구 및 개발이 진행됨에 따라, MEC를 이용한 고해상도 영상 컨텐츠를 전자 장치로 제공하기 위한 기술들이 논의 되고 있다.
상술한 논의를 바탕으로, 본 개시는 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치에 관한 것이다.
보다 상세하게는, 엣지 데이터 네트워크가 영상 컨텐츠를 전자 장치로 전송하는 방법 및 전자 장치로 영상 컨텐츠를 제공하는 엣지 데이터 네트워크를 제공한다.
또한, 본 개시는 전자 장치가 엣지 데이터 네트워크로부터 영상 컨텐츠를 수신하는 방법 및 엣지 데이터 네트워크로부터 영상 컨텐츠를 수신하는 전자 장치를 제공한다.
일 실시 예에 의하면, 엣지 데이터 네트워크가 영상 컨텐츠를 전송하는 방법은,
상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하는 단계;
상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하는 단계;
상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및
상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함할 수 있다.
상기 사용자 시야각 영상은 상기 방위 정보가 나타내는 VR 영상 내 위치를 기준으로, 상기 전자 장치의 디스플레이의 뷰포트(Viewport) 영역에 관한 정보를 기초로 식별된 사용자 시야각을 갖는 영상일 수 있다.
상기 제1 부분 영상은 복수의 프레임을 포함하는 VR 시퀀스의 소정의 프레임 인덱스를 가지는 제1 VR 영상 내 부분 영상이며, 상기 제1 부분 영상은 부분 영상의 위치를 나타내는 방위 정보와 관련될 수 있다.
상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 상기 눈동자 위치 정보가 나타내는, 기준점 대비 눈동자 위치의 좌표를 기초로 식별된 여분의 시야각을 갖는 영상일 수 있다.
사용자 눈(eye)의 전체 영역 내 중심 좌표 및 상기 눈동자 위치의 좌표로부터 식별된 눈동자 방향 및 눈동자 거리를 기초로 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 여분의 시야각을 갖는 영상일 수 있다.
사용자 눈(eye)의 전체 영역의 너비 및 높이 중 적어도 하나 대비 상기 눈동자 위치의 좌표의 수평 성분 및 수직 성분 중 적어도 하나에 대응하는, 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 여분의 시야각을 갖는 영상일 수 있다.
눈동자 위치의 수평 성분에 대응하는 좌우 제1 여분의 시야각과, 눈동자 위치의 수직 성분에 대응하는 상하 제2 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 좌우 제1 여분의 시야각 및 상하 제2 여분의 시야각을 갖는 영상일 수 있다.
상기 제1 여분의 시야각 중 좌측 또는 우측의 여분의 시야각은 제1 최소 시야각보다 크거나 같고, 상기 제2 여분의 시야각 중 상측 또는 하측의 여분의 시야각은 제2 최소 시야각보다 크거나 같고, 상기 제1 최소 시야각 및 제2 최소 시야각은 미리 설정될 수 있다.
사용자 시야각 기준으로, 상기 눈동자 방향에 대응하는 방향의 여분의 시야각은, 상기 사용자 시야각 기준으로, 상기 눈동자 방향에 대응하는 방향의 반대방향의 여분의 시야각보다 클 수 있다.
상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 이전 눈동자 위치 및 상기 눈동자 위치가 소정의 영역 내에 있는 시간 및 눈동자의 이동 속도 중 적어도 하나를 기초로, 식별된 여분의 시야각을 갖는 영상일 수 있다.
상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 시간에 따른 눈동자의 위치가 극대(local maximum) 또는 극소(local minimum)인 경우의 눈동자 위치 l1과 시간에 따른 상기 전자 장치의 위치가 극대 또는 극소인 경우의 상기 전자 장치의 위치 l2와의 비율을 기초로, 식별된 여분의 시야각을 갖는 영상일 수 있다.
상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 눈동자의 위치 및 상기 전자 장치의 변위 방향을 기초로 한, 소정의 방향의 시야각 가중치를 기초로 식별된 여분의 시야각을 갖는 영상일 수 있다.
상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 시간에 따른 눈동자의 위치가 극대 또는 극소에 위치하는 시간 t1 및 시간에 따른 상기 전자 장치의 위치가 극대 또는 극소에 위치하는 시간 t2의 차이를 기초로 식별된 여분의 시야각을 갖는 영상일 수 있다.
상기 전자 장치로 수신된 제1 부분 영상과 관련된 영상 컨텐츠의 타입에 관한 정보를 기초로, 상기 여분의 시야각의 확장 가중치 및 상기 전자 장치에 포함된 센서의 민감도가 식별되고, 상기 여분의 시야각의 확장 가중치 및 센서의 민감도에 관한 정보가 상기 전자 장치로 전송될 수 있다.
상기 제1 부분 영상은 소정의 시야각 범위의 데이터 단위로 구성되고,
상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계는,
상기 제1 부분 영상 중 상기 사용자의 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제1 데이터 단위 및 상기 제1 부분 영상 중 상기 여분의 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제2 데이터 단위를 부호화하는 단계; 및
상기 부호화된 제1 데이터 단위 및 제2 데이터 단위를 포함하는 상기 제1 프레임을 생성하는 단계를 포함할 수 있다.
일 실시 예에 의하면, 전자 장치로 영상 컨텐츠를 전송하는 엣지 데이터 네트워크는,
네트워크 인터페이스;
하나 이상의 인스트럭션들을 저장하는 메모리;
상기 하나 이상의 인스트럭션들을 실행하는 프로세서;를 포함하고,
상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하고,
상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하고,
상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하고, 상기 생성된 제1 프레임을 상기 전자 장치로 전송한다.
상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 상기 눈동자 위치 정보가 나타내는, 기준점 대비 눈동자 위치의 좌표를 기초로 식별된 여분의 시야각을 갖는 영상일 수 있다.
상기 여분의 시야각 영상은,
눈동자 위치의 수평 성분에 대응하는 좌우 제1 여분의 시야각과, 눈동자 위치의 수직 성분에 대응하는 상하 제2 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 좌우 제1 여분의 시야각 및 상하 제2 여분의 시야각을 갖는 영상일 수 있다.
상기 제1 여분의 시야각 중 좌측 또는 우측의 여분의 시야각은 제1 최소 시야각보다 크거나 같고, 상기 제2 여분의 시야각 중 상측 또는 하측의 여분의 시야각은 제2 최소 시야각보다 크거나 같고, 상기 제1 최소 시야각 및 제2 최소 시야각은 미리 설정될 수 있다.
사용자 시야각 기준으로, 눈동자 방향에 대응하는 방향에 위치하는 여분의 시야각은, 상기 사용자 시야각 기준으로, 상기 눈동자 방향에 대응하는 방향의 반대방향에 위치하는 여분의 시야각보다 클 수 있다.
일 실시에에 의한, 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체는
엣지 데이터 네트워크가
상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하는 단계;
상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하는 단계;
상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및
상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함하는, 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한다.
개시된 실시 예는 엣지 데이터 네트워크 및 전자 장치 사이에서 영상 컨텐츠를 기초로 효과적으로 동작을 수행할 수 있는 방법을 제공한다.
도 1은 본 개시의 일 실시 예에 따른 네트워크 환경에서 MEC(multi-access edge computing) 기술을 설명하기 위해 개략적으로 도시하는 도면이다.
도 2는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 방위 정보 및 눈동자 위치 정보를 고려하여, 여분의 시야각(Fov;Field of View) 영상을 포함하는 확장된(Extended) Fov(Field of View) 영상을 적응적으로 스트리밍하는 방법을 설명하기 위한 도면이다.
도 3는 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 4는 본 개시의 일 실시예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 5는 전자 장치와 엣지 데이터 네트워크(edge data network) 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크가 영상 컨텐츠를 스트리밍 하는 방법을 나타내는 흐름도이다.
도 7은 본 개시의 일 실시 예에 따른 전자 장치가 엣지 데이터 네트워크로부터 획득된 영상 컨텐츠를 스트리밍하는 방법을 나타내는 흐름도이다.
도 8a는 일 실시예예 따라, 눈동자의 위치가 정중앙일 때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8b 는 일 실시예예 따라, 눈동자의 위치가 눈을 바라보는 방향 기준 오른쪽으로 완전히 치우쳐 있을때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8c 는 일 실시예예 따라, 눈동자의 위치가 눈을 바라보는 방향 기준 왼쪽으로 완전히 치우쳐 있을때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8d 는 일 실시예예 따라, 눈을 바라보는 방향 기준 눈동자의 위치가 왼쪽으로 약간 치우쳐 있을때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 9는 본 개시의 일 실시에 따라, 엣지 데이터 네트워크(2000)가 눈동자의 위치 영역을 사용자 시야각 영상 내 영역에 매핑하고, 매핑된 화면 영역을 기초로, 여분의 시야각 영상을 식별하는 과정을 설명하기 위한 도면이다.
도 10은 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 눈동자가 특정 영역에 머무르는 시간 및 눈동자가 이동하는 속도를 기초로, 여분의 시야각 영상을 식별하는 과정을 설명하기 위한 도면이다.
도 11a 내지 11b는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 상하좌우의 확장 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 12는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 사용자의 눈동자와 머리(전자 장치)의 이동 패턴을 기초로, 여분의 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 13은 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 영상 컨텐츠 종류에 따라, 여분의 시야각 및 센서의 감도를 식별하는 과정을 설명하기 위한 도면이다.
도 14는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 여러 조각의 데이터 단위를 기초로, 제1 부분 영상을 전자 장치(1000)로 전송하는 과정을 설명하기 위한 도면이다.
도 15는 전자 장치와 엣지 데이터 네트워크(edge data network) 및 VR 게이밍 인터페이스 장치 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
도 16은 본 개시의 일 실시 예에 따른 전자 장치의 블록도이다.
이하, 본 개시의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.
실시 예를 설명함에 있어서 본 개시가 속하는 기술 분야에 익히 알려져 있고 본 개시와 직접적으로 관련이 없는 기술 내용에 대해서는 설명을 생략한다. 이는 불필요한 설명을 생략함으로써 본 개시의 요지를 흐리지 않고 더욱 명확히 전달하기 위함이다.
마찬가지 이유로 첨부 도면에 있어서 일부 구성요소는 과장되거나 생략되거나 개략적으로 도시되었다. 또한, 각 구성요소의 크기는 실제 크기를 전적으로 반영하는 것이 아니다. 각 도면에서 동일한 또는 대응하는 구성요소에는 동일한 참조 번호를 부여하였다.
본 개시의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 개시는 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 개시가 완전하도록 하고, 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 본 개시의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 개시는 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
이 때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행 예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
이 때, 본 실시예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA또는 ASIC과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다. 또한 실시예에서 ‘~부’는 하나 이상의 프로세서를 포함할 수 있다.
도 1은 본 개시의 일 실시 예에 따른 네트워크 환경에서 MEC(multi-access edge computing) 기술을 설명하기 위해 개략적으로 도시하는 도면이다.
도 1을 참조하면, 본 개시의 네트워크 환경(100)은 전자 장치(1000), 엣지 데이터 네트워크(2000), 클라우드 서버(3000) 및 액세스 네트워크(access network, AN, 1100)를 포함할 수 있다. 다만, 네트워크 환경(100)이 포함하는 구성이 이에 제한되는 것은 아니다.
일 실시예에 따르면, 네트워크 환경(100)에 포함되는 구성요소들 각각은 물리적인 객체(entity) 단위를 의미하거나, 개별적인 기능(function)을 수행할 수 있는 소프트웨어 또는 모듈 단위를 의미할 수 있다.
일 실시예에 따르면, 전자 장치(1000)는 사용자에 의해 사용되는 장치를 의미할 수 있다. 예를 들면, 전자 장치(1000)는 단말(terminal), 사용자 단말(UE, user equipment), 이동국(mobile station), 가입자국(subscriber station), 원격 단말(remote terminal), 무선 단말(wireless terminal), 또는 사용자 장치(user device)를 의미할 수 있다.
또한, 전자 장치(1000)는 가상 현실(Virtual Reality, VR), 증강 현실(Augmented Reality, AR), 또는 혼합 현실(Mixed Reality, MR) 중 적어도 하나를 포함하는 가상 환경에 사용자가 몰입(immersed) 하도록 하기 위한, 컨텐츠를 제공하는 단말일 수 있다. 즉, 일 실시 예에 의하면, 전자 장치(1000)는 가상 현실, 증강 현실 또는 혼합 현실을 위한 컨텐츠를 제공하는 헤드 마운트 디스플레이(Head Mounted Display, HMD) 또는 가상 현실 헤드셋(Virtual Reality Headset, VRH)일 수 있다.
도 1을 참조하면, 전자 장치(1000)는 제1 애플리케이션 클라이언트(또는, 애플리케이션 클라이언트)(122), 제2 애플리케이션 클라이언트(124) 및 엣지 인에이블러 클라이언트(edge enabler client)(또는, MEL(MEC enabling layer))(130)를 포함할 수 있다. 전자 장치(110)는 MEC 서비스의 사용을 위하여 엣지 인에이블러 클라이언트(130)를 이용하여 필요한 작업을 수행할 수 있다. 엣지 인에이블러 클라이언트(130)에 대한 구체적인 설명은 후술된다.
일 실시예에 따르면, 전자 장치(1000)는 복수의 애플리케이션들을 실행할 수 있다. 예를 들면, 전자 장치(1000)는 제1 애플리케이션 클라이언트(122) 및 제2 애플리케이션 클라이언트(124)를 실행할 수 있다. 복수의 애플리케이션들은 요구되는 데이터 전송 속도, 지연 시간(또는 속도)(latency), 신뢰성(reliability), 네트워크에 접속(access)된 전자 장치의 수, 전자 장치(110)의 네트워크 접속 주기, 또는 평균 데이터 사용량 중 적어도 하나에 기반하여 서로 다른 네트워크 서비스를 요구(require)할 수 있다. 서로 다른 네트워크 서비스는, 예를 들어, eMBB(enhanced mobile broadband), URLLC(ultra- reliable and low latency communication), 또는 mMTC(massive machine type communication)를 포함할 수 있다.
전자 장치(1000)의 애플리케이션 클라이언트는 전자 장치(1000)에 미리 설치된 기본 애플리케이션 또는 제 3자가 제공하는 애플리케이션을 의미할 수 있다. 즉, 특정 응용 서비스를 위하여 전자 장치(1000) 내에서 구동되는 클라이언트(client) 응용 프로그램을 의미할 수 있다. 전자 장치(1000) 내에는 여러 애플리케이션 클라이언트들이 구동될 수 있다. 이 애플리케이션 클라이언트들 중 적어도 하나 이상은 엣지 데이터 네트워크(2000)로부터 제공되는 서비스를 사용할 수 있다. 예를 들면, 애플리케이션 클라이언트는 전자 장치(1000)에 설치되어 실행되는 애플리케이션으로서, 엣지 데이터 네트워크(2000)를 통해 데이터를 송수신하는 기능을 제공할 수 있다. 전자 장치(1000)의 애플리케이션 클라이언트는, 하나 이상의 특정 엣지 애플리케이션들에 의해 제공된 기능을 이용하기 위해, 전자 장치(1000) 상에서 실행되는 애플리케이션 소프트웨어를 의미할 수 있다.
일 실시예에 따르면, 전자 장치(1000)의 복수의 애플리케이션들(122, 124)은 요구되는 네트워크 서비스 타입에 기반하여 클라우드 서버(3000)와 데이터 전송을 수행하거나, 또는 엣지 데이터 네트워크(2000)와 엣지 컴퓨팅에 기반한 데이터 전송을 수행할 수 있다. 예를 들어, 제1 애플리케이션 클라이언트(122)가 낮은 지연 시간을 요구하지 않으면, 제1 애플리케이션 클라이언트(122)는 클라우드 서버 (3000)와 데이터 전송을 수행할 수 있다. 다른 예를 들어, 제2 애플리케이션 클라이언트(124)가 낮은 지연 시간을 요구하면, 제2 애플리케이션 클라이언트(124)는 엣지 데이터 네트워크(2000)와 MEC 기반 데이터 전송을 수행할 수 있다.
일 실시예에 따르면, 전자 장치(1000)의 애플리케이션은, 애플리케이션 클라이언트(application client), 클라이언트 애플리케이션(client application, Client App), UE 애플리케이션(UE App)으로 지칭될 수 있다. 편의를 위해, 이하, 본 개시에서는 전자 장치(1000)의 애플리케이션은 애플리케이션 클라이언트로 지칭된다.
일 실시예에 따르면, 엑세스 네트워크(1100)는 전자 장치(1000)와의 무선 통신을 위한 채널(channel)을 제공할 수 있다. 예를 들면, 엑세스 네트워크(1100)는 RAN(radio access network), 기지국(base station), 이노드비(eNB, eNodeB), 5G 노드(5G node), 송수신 포인트(TRP, transmission/reception point), 또는 5GNB(5th generation NodeB)를 의미할 수 있다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)는 전자 장치(1000)가 MEC 서비스를 이용하기 위하여 접속하는 서버를 의미할 수 있다. 엣지 데이터 네트워크(2000)는 전자 장치와 지리적으로 가까운 위치, 예를 들어, 기지국 내부 또는 기지국 근처에 설치될 수 있다. 일 실시예에 따르면, 엣지 데이터 네트워크(2000)는 외부 데이터 네트워크(data network, DN)(예: 인터넷)를 통하지 않고, 전자 장치(1000)와 데이터를 송수신할 수 있다. 일 실시 예에서, MEC는 multi-access edge computing 또는 mobile-edge computing로 지칭될 수 있다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)는, MEC 호스트(host), 엣지 컴퓨팅 서버(edge computing server), 모바일 엣지 호스트(mobile edge host), 엣지 컴퓨팅 플랫폼(edge computing platform), MEC 서버 등으로 지칭될 수 있다. 편의를 위해, 이하, 본 개시에서는 MEC 서버는 엣지 데이터 네트워크(2000)로 지칭된다. 도 1을 참조하면, 엣지 데이터 네트워크(2000)는, 제1 엣지 애플리케이션(edge application)(142), 제2 엣지 애플리케이션(144) 및 엣지 인에이블러 서버(또는, MEP(MEC platform))(146)를 포함할 수 있다. 엣지 인에이블러 서버(146)는 엣지 데이터 네트워크(2000)에서 MEC 서비스를 제공하거나 트래픽 제어 등을 수행하는 구성으로, 엣지 인에이블러 서버(146)에 대한 구체적인 설명은 후술된다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)는 복수의 애플리케이션들을 실행할 수 있다. 예를 들면, 엣지 데이터 네트워크(2000)는 제1 엣지 애플리케이션(142) 및 제2 엣지 애플리케이션(144)을 실행할 수 있다. 일 실시예에 따르면, 엣지 에플리케이션은 MEC 서비스를 제공하는 엣지 데이터 네트워크 내 제 3자가 제공하는 응용 애플리케이션을 의미할 수 있고, 엣지 애플리케이션으로 지칭될 수도 있다. 엣지 애플리케이션은 애플리케이션 클라이언트와 관련된 데이터를 송수신하기 위하여, 애플리케이션 클라이언트와 데이터 세션을 형성하는데 이용될 수 있다. 즉, 엣지 애플리케이션은 애플리케이션 클라이언트와 데이터 세션을 형성할 수 있다. 일 실시예에서, 데이터 세션은, 전자 장치(1000)의 애플리케이션 클라이언트와 엣지 데이터 네트워크(2000)의 엣지 애플리케이션이 데이터를 송수신하기 위하여 형성되는 통신 경로를 의미할 수 있다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)의 애플리케이션은, MEC 애플리케이션(MEC App), ME(MEC) App, 엣지 애플리케이션 서버(edge application server) 및 엣지 애플리케이션으로 지칭될 수 있다. 편의를 위해, 이하, 본 개시에서는 엣지 데이터 네트워크(2000)의 애플리케이션은 엣지 에플리케이션으로 지칭된다. 이때, 애플리케이션으로 기재되었으나, 엣지 애플리케이션은 엣지 데이터 네트워크에 존재하는 애플리케이션 서버를 의미할 수 있다.
일 실시예에 따르면, 클라우드 서버(3000)는 애플리케이션과 관련된 컨텐츠를 제공할 수 있다. 예를 들어, 클라우드 서버(3000)는 컨텐츠 사업자에 의하여 관리될 수 있다. 일 실시예에 따르면, 클라우드 서버(3000)는 외부 데이터 네트워크(data network, DN)(예: 인터넷)를 통해서, 전자 장치(1000)와 데이터를 송수신할 수 있다.
도 1에는 도시되지 아니하였으나, 엑세스 네트워크(1100)와 엣지 데이터 네트워크(2000) 사이에 코어 네트워크(core network, CN) 및 데이터 네트워크(data network, DN)가 존재할 수 있다. 일 실시예에 따르면, 데이터 네트워크는 코어 네트워크 및 엑세스 네트워크(1100)를 통해, 전자 장치(1000)에게 데이터(또는 데이터 패킷)를 송수신함으로써 서비스(예: 인터넷 서비스, IMS(IP multimedia subsystem) 서비스)를 제공할 수 있다. 예를 들어, 데이터 네트워크는 통신 사업자에 의하여 관리될 수 있다. 일 실시 예에서, 엣지 데이터 네트워크(2000)는 데이터 네트워크(예: 로컬(local) DN)를 통해 엑세스 네트워크(1100) 또는 코어 네트워크와 연결될 수 있다.
본 개시의 일 실시예에 따르면, 전자 장치(1000)에서 제1 애플리케이션 클라이언트(122) 또는 제2 애플리케이션 클라이언트(124)가 실행되는 경우, 전자 장치는 엑세스 네트워크(1100)를 통해 엣지 데이터 네트워크(2000)에 접속함으로써, 애플리케이션 클라이언트를 실행시키기 위한 데이터를 송수신할 수 있다.
본 개시에서는, 상술된 전자 장치(1000), 엣지 데이터 네트워크(2000) 및 클라우드 서버(3000) 사이의 영상 컨텐츠를 스트리밍하는 방법이 제공될 수 있다. 보다 상세하게는, 전자 장치(1000)에서 재생되는 영상에 대한 사용자의 인터랙션 정보에 기초하여, 가상 현실, 증강 현실 또는 혼합 현실을 위한 컨텐츠를 사용자에게 효과적으로 제공하기 위한 방법이 설명된다. 이하, 전자 장치(1000)에서 재생된 영상 컨텐츠에 대한 방위 정보 및 눈동자 위치 정보에 기초하여, 엣지 데이터 네트워크(2000)가 영상 컨텐츠를 스트리밍하는 방법의 일 실시 예를 설명한다.
도 2는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 방위 정보 및 눈동자 위치 정보를 고려하여, 여분의 시야각(Fov;Field of View) 영상을 포함하는 확장된(Extended) Fov(Field of View) 영상을 적응적으로 스트리밍하는 방법을 설명하기 위한 도면이다.
도 2를 참조하면, 전자 장치(1000)는 방위 정보 및 눈동자 위치 정보를 센싱하고, 주기적으로, 엣지 데이터 네트워크(2000)의 요청이 있는 경우 또는 그 값에 변화가 있는 경우에, 엣지 데이터 네트워크(2000)로 전송할 수 있다.
이때, 방위 정보는 전자 장치(1000)의 센싱 모듈을 이용하여 측정된, 전자 장치 사용자가 바라보는 시선의 각도 값들을 포함할 수 있다. 예를 들어, 전자 장치(1000)는 센싱 모듈(예컨대 3축 기울기 센서)를 이용하여 VR 영상 내 특정 부분 영상을 응시하는 사용자 시선의 방위 정보(예컨대, Roll, Pitch, Yaw 값)를 센싱하고, 전자 장치(1000)는 센싱된 방위 정보를 엣지 데이터 네트워크(2000)로 전송함으로써, 현재 전자 장치(1000)의 사용자가 VR 영상 내 어떤 부분을 바라보고 있는지에 대한 정보를 엣지 데이터 네트워크(2000)와 공유할 수 있다.
눈동자 위치 정보는 전자 장치(1000)의 카메라 모듈 또는 별도의 눈동자 위치 감지 센싱 모듈을 이용하여 측정된, 눈동자의 위치를 나타내는 정보일 수 있다. 예를 들어, 눈동자가 위치할 수 있는 영역을 NxM 좌표계에 맵핑한 경우, 눈동자 위치 정보는 NxM 좌표계의 눈동자의 위치 좌표를 나타내는 정보일 수 있다. 이때, NxM 좌표계의 기준 좌표(0,0)는 눈동자가 위치할 수 있는 사각형 영역의 좌측 하단 꼭지점 좌표일 수 있으나, 이에 제한되지는 않고, 사각형 영역의 중심 위치 좌표일 수 있고, 또는 사각형 영역의 좌측 상단 꼭지점 좌표일 수 있고, 이외 다양한 위치의 좌표 중 하나일 수 있다.전자 장치(1000)는 눈동자 위치 정보를 엣지 데이터 네트워크(2000)로 전송함으로써, 현재 전자 장치의 사용자의 눈동자의 위치를 식별하고, 식별된 눈동자의 위치를 기초로, 어느 쪽을 이후에 바라볼 것인지를 예측함으로써, 예측 결과에 대응하는, 제1 부분 영상의 시야각(Field of View)을 식별할 수 있다. 여기서 시야각이란, 사용자의 눈으로 볼 수 있는 범위(예를 들어, 각도로 표현되나, 이에 제한되지 않음)를 의미한다. 시야각이 큰 영상의 경우, 사용자의 눈으로 더 넓은 범위를 볼 수 있다.
다만, 사용자가 전자 장치(1000)의 디스플레이를 통해 볼 수 있는 범위는, 전자 장치(1000)의 뷰포트 영역의 크기로 제한될 수 있다. 뷰포트 영역의 크기는 전자 장치(1000)의 디스플레이에서 재생될 수 있는 시야각의 크기(디스플레이 영역의 크기)로, 뷰포트 영역의 크기는 전자 장치(1000)의 캐이퍼빌리티 정보에 따라, 식별될 수 있다. 즉, 뷰포트 영역의 크기는 전자 장치(1000)의 디스플레이에 대한 하드웨어 스펙 중 하나로, 엣지 데이터 네트워크(2000)는 전자 장치(1000)와의 네트워크 연결을 통해 전자 장치(1000)로부터 전자 장치(1000)의 캐이퍼빌리티 정보를 수신하고, 캐이퍼빌리티 정보에 따라, 전자 장치(1000)의 뷰포트 영역의 크기를 식별할 수 있다.
예를 들어, 전자 장치(1000)의 좌우방향의 뷰포트 영역의 크기가 110도, 상하방향의 뷰포트 영역의 크기가 90도인 경우, 전자 장치(1000)는 네트워크 연결을 통해 뷰포트 영역의 크기에 관한 정보를 포함하는 전자 장치(1000)의 캐이퍼빌리티 정보를 엣지 데이터 네트워크(2000)로 전송하고, 엣지 데이터 네트워크(2000)는 캐이퍼빌리터 정보를 기초로, 좌우방향의 뷰포트 영역의 크기가 110도이고, 상하방향의 뷰포트 영역의 크기가 90도임을 식별할 수 있다.
따라서, 사용자 시야각(디폴트 시야각)은 사용자가 전자 장치(1000)의 뷰포트 영역을 통해 볼 수 있는 범위를 의미할 수 있다. 사용자 시야각 영상(디폴트 시야각 영상)은 FOV(Field Of View) 영상이라고 칭할 수 있다. 전자 장치(1000)의 뷰 포트 영역의 크기를 기초로 사용자 시야각이 식별되고, 엣지 데이터 네트워크(2000)는 방위 정보 및 식별된 사용자 시야각을 기초로 VR 영상 중 사용자 시야각 영상을 획득할 수 있다.
여분의 시야각은 시간이 흐름에 따른 사용자의 머리 움직임에 따라 전자 장치(1000)의 방위가 변경됨으로써 사용자가 보고 있는 영상의 범위가 달라지는 경우, 기존 사용자 시야각의 영상만으로는 전자 장치(1000)의 디스플레이를 통해 온전한 영상을 볼 수 없기 때문에, 이러한 점을 고려하여 여분으로 확보(예를 들어, 사용자 시야각 기준 상하좌우 방향으로 여분으로 확보)한 시야각을 의미할 수 있다.
전자 장치(1000)에 디스플레이하기 위해 부호화되는 제1 부분 영상의 시야각은 사용자 시야각(디폴트 시야각)과 여분의 시야각을 포함하는, 확장된(Extended) 시야각일 수 있다. 즉, 제1 부분 영상은 사용자 시야각 영상(디폴트 시야각 영상)과 여분의 시야각 영상을 포함하는, 시야각 영상일 수 있다. 이때, 사용자 시야각 영상과 여분의 시야각 영상을 포함하는 시야각 영상을 Extended FOV(Field Of View) 영상이라고 칭할 수 있다.
엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 수신한 방위 정보에 대응하는 사용자 시야각 영상(210) 및 눈동자 위치 정보에 대응하는, 여분의 시야각 영상(230)을 포함하는 제1 부분 영상(200)을 획득할 수 있다.
이때, 여분의 시야각 영상(230)은 눈동자 위치가 나타내는 눈동자의 방향을 고려하여, 눈동자의 방향에 대응하는 방향의 시야각(220)을 다른 방향의 시야각보다 크게 식별하고, 식별된 시야각을 기초로, 여분의 시야각 영상(230)을 사용자 시야각 영상(210)과 함께 획득할 수 있다.
이때, 전자 장치(1000)의 전술한 뷰포트 영역에 관한 정보를 기초로, 사용자 시야각(디폴트 시야각)이 식별되고, 사용자 시야각 영상(210)은 방위 정보(예를 들어, Roll, Pitch, Yaw 값)가 나타내는 방위 좌표를 중심으로, 사용자 시야각(예를 들어, 110도)을 기초로 획득된, VR 영상 중 일부일 수 있다.
엣지 데이터 네트워크(2000)는 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다. 엣지 데이터 네트워크(2000)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다. 전자 장치(1000)는 엣지 데이터 네트워크(2000)로부터 제1 프레임을 복호화하여 제1 부분 영상을 획득하고, 전자 장치(1000)는 센싱 모듈로부터 획득된 최신 방위 정보를 기초로, 제1 부분 영상 중 제1 사용자 시야각 영상(240)을 획득하고, 이를 전자 장치(1000)의 디스플레이를 통해 표시할 수 있다. 한편, 전자 장치(1000)를 착용한 사용자의 머리 움직임으로 인하여 전자 장치(1000)의 방위 정보는 변화할 수 있다. 전자 장치(1000)는 변화된 방위 정보를 엣지 데이터 네트워크(2000)로 전송함으로써, 새로운 제2 프레임을 수신할 수 있다.
엣지 데이터 네트워크(2000)는 변화된 방위 정보에 기초한 제2 프레임을 수신하기 전까지, 센싱 모듈로부터 획득된 최신 방위 정보를 기초로, 제1 프레임으로부터 획득된 제1 부분 영상(200)으로부터 제2 사용자 시야각 영상(250)을 획득할 수 있다. 따라서, 엣지 데이터 네트워크(2000)는 제2 프레임을 수신하기 전까지의 레이턴시(MTP 레이턴시; Motion to Photon Latency)가 커지더라도, 여분의 시야각 영상을 기초로 하는 로컬 프로세싱(Local Processing)을 통하여 사용자가 블랙 엣지(Black Edge)를 보지 않게 할 수 있고, 따라서, 제2 프레임을 수신하기까지 시간을 길게 확보가능하기 때문에, 실질적으로 MTP 레이턴시를 보장받을 수 있게 된다. 여기서, MTP 레이턴시는 전자 장치(1000)의 센싱 모듈을 통해 획득되고 엣지 데이터 네트워크(2000)로 전송된 센서 정보(예를 들어, 방위 정보)를 기초로 엣지 데이터 네트워크(2000)는 사용자의 움직임(예를 들어, 사용자의 시선의 움직임)을 식별하고, 엣지 데이터 네트워크(2000)는 센서 정보를 기초로, VR 영상 중 부분 영상의 프레임을 제공하고, 전자 장치(1000)가 제공받은 부분 영상의 프레임을 복호화 및 렌더링한 후에 렌더링된 프레임을 디스플레이에 표시하기까지의 시간을 의미할 수 있다.
도 3는 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 3를 참조하면, S300 단계에서, 엣지 데이터 네트워크(2000)는 전자 장치(1000)와 네트워크 연결을 수립하고, 엣지 데이터 네트워크(2000) 및 전자 장치(1000)의 동작에 필요한 상태 정보를 서로 공유할 수 있다. 이때, 상태 정보는 초기에만 공유될 수 있으나, 주기적으로 공유되거나, 비주기적으로 요청에 따라 또는 변화가 있는 경우에만 공유 될 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 전자 장치(1000)의 캐이퍼빌리티 정보를 수신할 수 있다. 예를 들어, 캐이퍼빌리티 정보는 전자 장치(1000)의 뷰포트 영역의 크기에 관한 정보 등과 같은 전자 장치(1000)의 동작 관련 캐이퍼빌리티를 나타내는 정보일 수 있다. 캐이퍼빌리티 정보는 눈동자 위치 감지 기능(예를 들어, 카메라 모듈 또는 별도로 구비된 눈동자 위치 감지 센싱 모듈)의 유무에 관한 정보를 포함할 수 있다. 예를 들어, 눈동자 위치 감지 기능의 유무에 관한 정보는, 카메라 모듈을 통한 눈동자 위치 감지 기능을 지원하는지 여부 또는 별도로 구비된 눈동자 위치 감지 센싱 모듈이 존재하는지 여부에 관한 정보를 포함할 수 있다.
엣지 데이터 네트워크(2000)는 캐이퍼빌리티를 나타내는 정보를 기초로, 전자 장치(1000)에 눈동자 위치 감지 기능이 없다고 식별한 경우, 본 명세서에서 상술하는 눈동자 위치 정보에 기초한 동작을 수행하지 않을 수 있다. 엣지 데이터 네트워크(2000)는 케이퍼빌리티를 나타내는 정보를 기초로, 전자 장치(1000)에 눈동자 위치 감지 기능이 있다고 식별한 경우, 하기 동작을 수행할 수 있다.S302 단계에서, 전자 장치(1000)는 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득할 수 있다. 방위 정보는 각도 성분을 나타내는 정보일 수 있고, 눈동자 위치 정보는, 소정의 좌표계 내의 눈동자 위치를 나타내는 좌표의 값을 포함하는 정보일 수 있다.S304 단계에서, 전자 장치(1000)는 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 전자 장치(1000)는 주기적으로 센서 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있으나, 이에 제한되지 않고, 비주기적으로 전송할 수 있다. 예를 들어, 전자 장치(1000)는 엣지 데이터 네트워크(2000)의 요청이 있거나, 센서 정보의 값에 변화가 있는 경우에만 센서 정보를 전송할 수 있다.S306 단계에서, 엣지 데이터 네트워크(2000)는 방위 정보에 대응하는 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득할 수 있다. 사용자 시야각 영상은, 방위 정보가 나타내는 VR 영상 내 위치를 기준으로, 전자 장치(1000)의 디스플레이의 뷰포트 영역에 관한 정보를 기초로 식별된 사용자 시야각을 갖는 영상일 수 있다. 제1 부분 영상은 복수의 프레임을 포함하는 VR 시퀀스의 소정의 프레임 인덱스를 가지는 제1 VR 영상 내 부분 영상이며, 제1 부분 영상은 부분 영상의 위치를 나타내는 방위 정보와 관련될 수 있다.
한편, 엣지 데이터 네트워크(2000)는 눈동자 위치 정보가 나타내는 기준점 대비 눈동자 위치의 좌표를 기초로, 여분의 시야각을 식별하고, 식별된 여분의 시야각을 갖는 영상을 획득할 수 있다. 여분의 시야각 영상은 사용자 시야각 영상을 기준으로 상하좌우 중 적어도 하나의 방향으로 여분의 시야각을 갖는 영상일 수 있다.
엣지 데이터 네트워크(2000)는 사용자 눈 전체 영역(사용자의 눈동자가 위치할 수 있는 영역) 내 중심 좌표 및 눈동자 위치의 좌표로부터 식별된, 눈동자 방향 및 눈동자 거리를 기초로 여분의 시야각을 식별하고, 식별된 여분의 시야각을 갖는 영상을 획득할 수 있다. 이때, 눈동자 방향은 중심 좌표를 기준으로 눈동자 위치의 좌표가 존재하는 방향을 의미하고, 눈동자 거리는 중심 좌표로부터 눈동자 위치의 좌표까지의 거리를 의미할 수 있다. 사용자 시야각 기준으로, 눈동자 방향에 대응하는 방향에 위치하는 여분의 시야각은, 반대 방향에 위치하는 시야각보다 클 수 있다.
한편, 엣지 데이터 네트워크(2000)는 사용자 눈 전체 영역의 너비 및 높이 중 적어도 하나 대비 눈동자 위치의 좌표의 수평 성분 및 수직 성분 중 적어도 하나에 대응하는, 여분의 시야각을 식별할 수 있다.
엣지 데이터 네트워크(2000)는 식별된 여분의 시야각을 갖는 영상을 획득할 수 있다. 이때, 눈동자 위치의 수평 성분에 대응하는 좌우 제1 여분의 시야각과 눈동자 위치의 수직 성분에 대응하는 상하 제2 여분의 시야각이 식별될 수 있고, 여분의 시야각 영상은 상기 식별된 좌우 제1 여분의 시야각 및 상하 제2 여분의 시야각을 갖는 영상일 수 있다. 제1 여분의 시야각 중 좌측 또는 우측 여분의 시야각은 제1 최소 시야각보다 크거나 같고, 제2 여분의 시야각 중 상측 또는 하측 여분의 시야각은 제2 최소 시야각보다 크거나 같을 수 있다. 이때, 제1 최소 시야각 및 제2 최소 시야각은 미리 설정될 수 있다.
일 실시예에 의하면, 눈동자 위치에 대응하는 여분의 시야각 영상은, 눈동자 위치가 소정의 영역 내에 머무르는 시간 및 눈동자의 이동 속도 중 적어도 하나를 기초로, 식별된 여분의 시야각을 갖는 영상일 수 있다. 이와 관련하여 도 10을 참조하여, 후술하겠다.일 실시예에 의하면, 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 시간에 따른 눈동자의 위치가 극대(local maximum) 또는 극소(local minimum)인 경우의 눈동자 위치 l1과, 시간에 따른 전자 장치의 위치가 극대 또는 극소인 경우의 전자 장치 위치 l2와의 비율를 기초로 식별된 여분의 시야각을 갖는 영상일 수 있다. 예를 들어, l2/l1의 크기가 소정의 제1값보다 큰 경우의 여분의 시야각은 l2/l1의 크기가 소정의 제1값보다 작은 경우의 여분의 시야각보다 더 클 수 있다. 이와 관련하여, 도 12를 참조하여 후술하겠다.일 실시예에 의하면, 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 눈동자의 위치 및 전자 장치(1000)의 변위 방향을 기초로 한 소정의 방향의 시야각 가중치를 기초로 식별된 시야각을 갖는 영상일 수 있다. 예를 들어, 눈의 중심 기준 현재 눈동자의 위치가 변위 방향(예를 들어, 현재 눈동자의 순간 이동 방향)과 반대인 경우, 눈의 중심 기준 눈동자의 위치에 대응하는 방향의 시야각 가중치를 낮출 수 있고, 눈의 중심 기준 눈동자의 위치가 변위 방향이 동일한 경우, 눈의 중심 기준 눈동자의 위치에 대응하는 방향의 시야각 가중치를 높일 수 있다. 이와 관련하여, 도 12를 참조하여 후술하겠다.일 실시예에 의하면, 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 시간에 따른 시간에 따른 눈동자의 위치가 극대 또는 극소에 위치하는 시간 t1 및 시간에 따른 상기 전자 장치의 위치가 극대 또는 극소에 위치하는 시간 t2의 차이을 기초로 식별된 여분의 시야각을 갖는 영상일 수 있다. 예를 들어, 여분의 시야각 영상은 t1과 t2의 차이가 작아질수록, 더 큰 여분의 시야각을 갖고, t1과 t2의 차이가 커질 수록, 더 여분의 시야각을 갖을 수 있다. 이와 관련하여, 도 12를 참조하여 후술하겠다.일 실시예에 의하면, 전자 장치(1000)로 수신된 제1 부분 영상과 관련된 영상 컨텐츠의 타입(type)의 관한 정보로, 여분의 시야각의 확장 가중치 및 전자 장치에 포함된 센서(예를 들어, 3축 기울기 센서, 카메라 센서)의 감도가 식별되고, 여분의 확장 가중치 및 센서의 감도에 관한 정보가 전자 장치(1000)로 전송될 수 있다 엣지 데이터 네트워크(2000)는 여분의 확장 가중치를 기초로, 확장된 여분의 시야각을 식별할 수 있다. 이와 관련하여, 도 13을 참조하여 후술하기로 한다.
S308 단계에서, 엣지 데이터 네트워크(2000)는 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다. 이때, 제1 부분 영상은 적어도 하나의 소정의 시야각 범위의 데이터 단위로 구성될 수 있다. 엣지 데이터 네트워크(2000)는 제1 부분 영상 중 사용자의 시야각 영상에 대응하는 적어도 하나의 제1 데이터 단위 및 제1 부분 영상 중 여분의 시야각 영상에 대응하는 적어도 하나의 제2 데이터 단위를 부호화하고, 부호화된 제1 데이터 단위 및 제2 데이터 단위를 포함하는 제1 프레임을 생성할 수 있다. 소정의 시야각 범위의 데이터 단위와 관련하여, 도 14를 참조하여 후술하겠다.
S310 단계에서, 엣지 데이터 네트워크(2000)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다.S312 단계에서, 전자 장치(1000)는 엣지 데이터 네트워크(2000)으로부터 제1 프레임을 수신하고, 제1 프레임을 복호화하여 제1 부분 영상을 복원할 수 있다. 이때, 복원된 제1 부분 영상은 사용자 시야각 영상 및 여분의 시야각 영상을 포함할 수 있다.
S314 단계에서, 전자 장치(1000)는 복원된 제1 부분 영상을 재생할 수 있다. 이때, 재생 시점의 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부의 영상을 획득하고, 획득된 일부의 영상을 재생할 수 있다.
도 4는 본 개시의 일 실시예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 4를 참조하면, S400 단계에서, 전자 장치(1000)는 방위 정보 및 눈동자 위치 정보를 획득할 수 있다.
S400 단계에서, 전자 장치(1000)는 센싱 모듈을 이용하여 제1 방위 정보 및 제1 눈동자 위치 정보를 획득할 수 있다. 전자 장치(1000)는 3축 기울기 센서를 이용하여 방위 정보를 획득할 수 있다. 전자 장치(1000)는 카메라 모듈 또는 별도의 눈동자 위치 감지 센싱 모듈을 이용하여 눈동자 위치 정보를 획득할 수 있다.
S402 단계에서, 전자 장치(1000)는 제1 방위 정보 및 제1 눈동자 위치 정보를 기초로, 사용자 시야각 영상 및 여분의 시야각 영상을 포함하는 제1 부분 영상을 엣지 데이터 네트워크(2000)로 요청할 수 있다. 즉, 전자 장치(1000)는 제1 방위 정보 및 제1 눈동자 위치 정보를 포함하는, 제1 부분 영상 요청 메시지를 전송할 수 있다.
S404 단계에서, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 수신한 제1 방위 정보(및 전자 장치(1000)의 뷰포트 영역 정보)에 기초하여, VR 영역 내 사용자 시야각 영역을 식별할 수 있다. 예를 들어, 방위 정보가 나타내는 방위(Roll, Pitch, Yaw 값)을 기준 방위(예를 들어, 중심 방위)로 하여, 뷰포트 영역 정보에 따른 좌우방향의 시야각(예를 들어, 110도)을 갖는 사용자 시야각 영역을 식별할 수 있다.
S406 단계에서, 엣지 데이터 네트워크(2000)는 제1 눈동자 위치 정보에 기초하여, 여분의 시야각 영역을 식별할 수 있다. 이때, 눈동자 위치가 특정 방향으로 치우쳐 있는지를 기초로, 좌측 또는 우측의 여분의 시야각 영역과 상측 또는 하측의 여분의 시야각 영역이 식별될 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 사용자 시야각 영역을 기준으로, 사용자 시야각 영역의 좌측의 여분의 시야각(예를 들어, x도) 영역, 우측 여분의 시야각(예를 들어, y도) 영역, 상측 여분의 시야각(예를 들어, z도) 영역 및 하측의 시야각(예를 들어, w도) 영역을 식별할 수 있다.
S408 단계에서, 엣지 데이터 네트워크(2000)는 사용자 시야각 영역 및 여분의 시야각 영역을 기초로, VR 영상 중, 사용자 시야각 영상 및 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득할 수 있다. 이때, 엣지 데이터 네트워크(2000)는 방위 정보가 나타내는 방위를 기준으로, VR 영상에서, 사용자 시야각 영역 및 여분의 시야각 영역의 부분만 크롭(Crop)할 수 있다.
S410 단계에서, 엣지 데이터 네트워크(2000)는 제1 부분 영상을 부호화하여 제1 프레임을 획득할 수 있다.
S412 단계에서, 엣지 데이터 네트워크(2000)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다.
S414 단계에서, 전자 장치(1000)는 제1 프레임을 복호화하여 제1 부분 영상을 복원할 수 있다.
S416 단계에서, 전자 장치(1000)는 복원된 제1 부분 영상을 저장할 수 있다.
S418 단계에서, 전자 장치(1000)는 제2 방위 정보 및 제2 눈동자 위치 정보를 획득할 수 있다.
S420 단계에서, 전자 장치(1000)는 제2 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부를 재생할 수 있다. 예를 들어, 전자 장치(1000)는 복원된 제1 부분 영상 중 제2 방위 정보에 대응하는 사용자 시야각 영상을 와핑(Warping) 및 렌더링(Rendering)한 후에, 전자 장치(1000)의 디스플레이에 표시할 수 있다.
S422 단계에서, 전자 장치(1000)는 제2 방위 정보 및 제2 눈동자 위치 정보를 기초로, 사용자 시야각 영상 및 여분의 시야각 영상을 포함하는 제2 부분 영상을 엣지 데이터 네트워크(2000)로 요청할 수 있다. 전자 장치(1000)는 제2 방위 정보 및 제2 눈동자 위치 정보를 포함하는, 제2 부분 영상 요청 메시지를 전송할 수 있다.
S424 단계에서, 엣지 데이터 네트워크(2000)는 제2 방위 정보에 기초하여, 사용자 시야각 영역을 식별할 수 있다.
S426 단계에서, 엣지 데이터 네트워크(2000)는 제2 눈동자 위치 정보에 기초하여 여분의 시야각 영역을 식별할 수 있다.
S428 단계에서, 엣지 데이터 네트워크(2000)는 제2 방위 정보 및 제2 눈동자 위치 정보를 기초로 식별된, 사용자 시야각 영역 및 여분의 시야각 영역을 기초로, VR 영상 중 사용자 시야각 영상 및 여분의 시야각 영상을 포함하는 제2 부분 영상을 획득할 수 있다.
S430 단계에서, 엣지 데이터 네트워크(2000)는 제2 부분 영상을 부호화하여 제2 프레임을 획득할 수 있다.
S432 단계에서, 엣지 데이터 네트워크(2000)는 제2 프레임을 전자 장치(1000)로 전송할 수 있다.
S434 및 S436 단계에서, 전자 장치(1000)는 사용자 시야각 영상 및 여분의 시야각 영상 요청 후, 제2 프레임을 수신하기 전까지 제3 방위 정보를 획득할 수 있고, 제3 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부를 재생할 수 있다.
이때, 제2 방위 정보를 획득한 시점부터 제2 프레임을 수신하여 재생하기까지의 시간은 MTP 레이턴시로 정의될 수 있다. MTP 레이턴시가 사용자가 인지하지 못할 정도로 작을 경우(예를 들어, 20ms 이하인 경우) 사용자가 영상 재생이 자연스럽다고 느낄 수 있다. 또는, MTP 레이턴시가 다소 크더라도, 여분의 시야각을 포함하는, 기존에 복원된 부분 영상으로부터 현재 방위 정보에 대응하는 사용자 시야각 영상을 재생할 수 있다면, 사용자는 블랙 더미를 보지 않고, 영상 재생이 자연스럽다고 느낄 수 있다. 따라서, 사용자가 전자 장치를 착용한 채로 머리를 움직이는 방향을 미리 예측하여 충분한 시야각을 확보해 둔다면, MTP 레이턴시를 보장할 수 있다. 이때, 사용자의 머리가 움직이는 방향(즉, 전자 장치의 방위 정보의 변화)를 예측하기 위해, 사용자 머리의 이동이 있기 전 눈동자의 이동이 선행되는 점을 고려하여, 눈동자 위치 정보를 방위 정보와 함께 획득하고, 엣지 데이터 네트워크(2000)는 눈동자 위치 정보에 대응하는 여분의 시야각을 식별하고 여분의 시야각 영상을 포함하는 프레임을 전송함으로써, 다음 전자 장치의 움직임에 따른 프레임을 수신하기 전까지 전자 장치(1000)는 이전에 수신한 여분의 시야각 영상을 기초로, 영상을 재생할 수 있고, 따라서, 사용자는 지연없이 자연스럽게 영상이 재생되고 있다고 느낄 수 있기 때문에, MTP 레이턴시가 보장될 수 있다. 즉, 네트워크 및 엣지 데이터 네트워크(2000)의 처리 지연에 내성(tolerance)가 있을 수 있다.
또한, 엣지 데이터 네트워크(2000)는 눈동자 위치 정보의 눈동자 방향을 고려하여, 적절한 방향의 여분의 시야각을 충분히 식별하고, 다른 방향의 여분의 시야각은 최소화함으로써, MTP 레이턴시를 보장하고, 대역폭의 낭비를 최소화하면서도 효과적으로 영상을 전송할 수 있다.
도 5는 전자 장치와 엣지 데이터 네트워크(edge data network) 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
일 실시 예에 의하면, 전자 장치(1000)는 센싱 모듈(510), 네트워크 인터페이스(520), 프로세서(530) 및 메모리(540)를 포함할 수 있다. 그러나, 전자 장치의 구성은 전술한 바에 한정되지 않고, 더 많은 구성을 포함하거나 적은 구성을 포함할 수 있다.
전자 장치(1000)는 엣지 데이터 네트워크(2000) 또는 클라우드 서버(3000)로부터 수신된 영상들을 디코딩하고, 디코딩된 영상들을 전자 장치의 디스플레이에 표시할 수 있다. 또한, 전자 장치(1000)는 센싱 모듈(510)을 이용하여, 재생된 영상들에 대한 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득할 수 있다.
전자 장치(1000)는 네트워크 인터페이스(520)를 이용하여 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 엣지 데이터 네트워크(2000)로 전송한다. 이때, 전자 장치(1000)는 방위 정보와 눈동자 위치 정보가 센싱되었을 때의 프레임 인덱스 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 이에 제한되지 않고, 방위 정보와 눈동자 위치 정보가 센싱되기 전에 복원된 프레임 중 참조 프레임 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 여기서 프레임 인덱스는 프레임의 부/복호화 순서를 나타내는 정보일 수 있으나, 이에 제한되지 않고 프레임의 렌더링 순서를 나타내는 정보일 수 있다.
프로세서(530)는 메모리(540) 내 하나 이상의 인스트럭션을 실행함으로써 전자 장치(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(530)는 메모리(540)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 센싱 모듈(510), 네트워크 인터페이스(520)을 제어할 수 있다. 일 실시 예에 의하면, 프로세서(530)는 방위 정보에 대응하는 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하고, 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다. 이때, 제1 프레임은 I 프레임 또는 P 프레임(또는 B프레임)일 수 있다.
또한, 일 실시예에 의하면, 프로세서(530)는 엣지 데이터 네트워크(2000)로부터 부호화된 프레임(554)를 수신하고, 부호화된 프레임을 기초로 제1 부분 영상을 복호화하여 제1 부분 영상을 복원할 수 있다. 프로세서(530)는 재생 시점의 방위 정보를 획득하고, 획득된 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부를 재생할 수 있다.
일 실시 예에 의하면, 메모리(540)는 엣지 데이터 네트워크(2000)로부터 수신된, 인코딩된 프레임들을 디코딩하기 위한 인스트럭션들을 저장하는 디코더 모듈(542)을 포함할 수 있으나, 이에 한정되는 것은 아니다.
일 실시 예에 의하면, 엣지 데이터 네트워크(2000)는 네트워크 인터페이스(560), 프로세서(570) 및 메모리(580)를 포함할 수 있다. 그러나, 엣지 데이터 네트워크(2000)의 구성은 전술한 바에 한정되지 않고, 더 많은 구성을 포함하거나, 일부 구성이 생략될 수도 있다.
엣지 데이터 네트워크(2000)는 네트워크 인터페이스(560)를 이용하여 전자 장치(1000)로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하고, 센서 정보 등을 기초로 엣지 데이터 네트워크(2000)에서 부호화된 프레임을 전자 장치로 전송할 수 있다.
프로세서(570)는 메모리(580) 내 하나 이상의 인스트럭션을 실행함으로써 엣지 데이터 네트워크(2000)의 전반적인 동작을 제어한다.
예를 들어, 프로세서(570)는 방위 정보에 대응하는 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득할 수 있다. 프로세서(570)는 제1 부분 영상을 부호화하여, 제1 프레임을 생성할 수 있다. 이와 관련하여, 도 4를 참조하여 전술한 바 있으므로, 그 내용은 생략하겠다.
프로세서(570)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다.
일 실시 예에 의하면, 메모리(580)는 엣지 데이터 네트워크(2000)가 전자 장치(1000)로 전송할 영상들을 인코딩하기 위한 인스트럭션들을 저장하는 인코더 모듈(582) 및 시야각 영역 식별 모듈(584)를 포함하고, VR 시퀀스에 대한 전체 영상 데이터를 포함하는 VR 시퀀스(586)를 저장할 수 있으나, 이에 한정되는 것은 아니다.
예를 들어, 엣지 데이터 네트워크(2000)는 전체 프레임을 포함하는 VR 시퀀스를 데이터 베이스(Data Base, DB)에 저장할 수 있다. 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 획득된 방위 정보를 이용하여, 데이터 베이스(DB)에 저장된 VR 시퀀스 중, 사용자 시야각 영상을 식별(identify)할 수 있다.
도 6은 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크가 영상 컨텐츠를 스트리밍 하는 방법을 나타내는 흐름도이다.
도 6를 참조하면, S602 단계에서, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득할 수 있다.
S604 단계에서, 엣지 데이터 네트워크(2000)는 방위 정보에 대응하는 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다. 이와 관련하여 상세한 내용은 도 3 및 4를 참조하여 전술된 바 있다.
S606 단계에서, 엣지 데이터 네트워크(2000)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다.
도 7은 본 개시의 일 실시 예에 따른 전자 장치가 엣지 데이터 네트워크로부터 획득된 영상 컨텐츠를 스트리밍하는 방법을 나타내는 흐름도이다.
S702 단계에서, 전자 장치(1000)는 엣지 데이터 네트워크(2000)로 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 전송할 수 있다.
S704 단계에서, 전자 장치(1000)는 엣지 데이터 네트워크(2000)로부터, 방위 정보에 대응하는 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상에 대하여, 부호화된 제1 프레임을 획득할 수 있다. 이때, 엣지 데이터 네트워크(2000)가 방위 정보에 대응하여 사용자 시야각 영상 및 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상에 대하여, 부호화하여 제1 프레임을 생성하는 내용은 전술한 바 있으므로, 상세한 내용은 생략한다.
S706 단계에서, 전자 장치(1000)는 제1 프레임을 복호화하여 제1 부분 영상을 복원할 수 있다.
S708 단계에서, 전자 장치(1000)는 복원된 제1 부분 영상을 재생할 수 있다. 이때, 전자 장치(1000)는 재생 시점의 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부를 재생할 수 있다.
도 8a는 일 실시예예 따라, 눈동자의 위치가 정중앙일 때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8a를 참조하면, 전자 장치(1000)는 눈을 바라보는 방향(800)을 기준으로, 눈동자(805)가 눈의 정중앙에 위치한다고 식별된 경우, 엣지 데이터 네트워크(2000)는 전자 장치(1000)의 눈동자 위치 정보를 기초로 사용자의 머리(전자 장치)를 회전하지 않고 현재 바라보는 시선을 유지한다고 식별할 수 있다. 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 전송된 방위 정보에 대응하는 사용자 시야각 영상(810) 및 눈동자(805)의 위치에 대응하는, 동일한 크기의, 여분의 좌측 시야각(815)의 영상과 여분의 우측 시야각(820)의 영상을 포함하는 확장된 시야각 영상(825)을 VR 영상으로부터 획득하고, 확장된 시야각 영상(825)를 부호화하여 전자 장치(1000)로 전송할 수 있다.전자 장치(1000)가 방위 정보에 기초하여, 부분 영상을 요청한 후에 부분 영상을 수신하기까지의 시간 동안 좌측 시야각(815) 및 우측 시야각(820)만큼의 전자 장치(1000)의 움직임만 있는 경우는, 전자 장치(1000)에서 복원된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다.
도 8b 는 일 실시예예 따라, 눈동자의 위치가 눈을 바라보는 방향 기준 오른쪽으로 완전히 치우쳐 있을때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8b를 참조하면, 전자 장치(1000)는 눈을 바라보는 방향(800)을 기준으로, 눈동자(805)가 눈의 오른쪽으로 완전히 치우친 것으로 식별된 경우, 엣지 데이터 네트워크(2000)는 전자 장치(1000)의 눈동자 위치 정보를 기초로 전자 장치(1000)의 회전 방향이 반시계 방향(830)일 가능성이 큼을 식별할 수 있다.
엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 전송된 방위 정보에 대응하는 사용자 시야각 영상(835)과 눈동자(805)의 위치에 대응하는 여분의 좌측 시야각(840)의 영상 및 여분의 우측 시야각(845)의 영상을 포함하는 확장된 시야각 영상(850)을 VR 영상으로부터 획득하고, 확장된 시야각 영상(850)을 부호화하여 전자 장치(1000)로 전송할 수 있다. 이때, 좌측 시야각(840)은 우측 시야각(845)보다 더 크게 식별될 수 있다.
전자 장치(1000)가 방위 정보에 기초하여, 부분 영상을 요청한 후에 부분 영상을 수신하기까지의 시간 동안 좌측 시야각(840) 및 우측 시야각(845)만큼의 전자 장치(1000)의 움직임만 있는 경우는, 전자 장치(1000)에서 복원된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다. 특히, 엣지 데이터 네트워크(2000)는 눈동자(805)의 위치를 고려하여 부분 영상을 요청하는 시점 이후의 회전 방향을 예측하여 해당 방향(좌측 방향)으로 더 넓은 시야각을 확보함으로써, 전자 장치(1000)는 눈동자(805)의 위치를 고려하여 여분의 시야각이 확보된 부분 영상을 기초로, 지연없이 사용자 시야각 영상을 디스플레이할 수 있다.
도 8c 는 일 실시예예 따라, 눈동자의 위치가 눈을 바라보는 방향 기준 왼쪽으로 완전히 치우쳐 있을때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8c를 참조하면, 전자 장치(1000)는 눈을 바라보는 방향(800)을 기준으로, 눈동자(805)가 눈의 왼쪽으로 완전히 치우친 것으로 식별된 경우, 엣지 데이터 네트워크(2000)는 전자 장치(1000)의 눈동자 위치 정보를 기초로 전자 장치(1000)의 회전 방향은 시계 방향(855)일 가능성이 큼을 식별할 수 있다.
엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 전송된 방위 정보에 대응하는 사용자 시야각 영상(860)과 눈동자(805)의 위치 정보에 대응하는, 여분의 좌측 시야각(865)의 영상 및 여분의 우측 시야각(870)의 영상을 포함하는 확장된 시야각 영상(875)을 VR 영상으로부터 획득하고, 확장된 시야각 영상(875)를 부호화하여 전자 장치(1000)로 전송할 수 있다. 이때, 우측 시야각(870)은 좌측 시야각(865)보다 더 크게 식별될 수 있다.
전자 장치(1000)가 방위 정보에 기초하여, 부분 영상을 요청한 후에 부분 영상을 수신하기까지의 시간 동안 좌측 시야각(865) 및 우측 시야각(870)만큼의 전자 장치(1000)의 움직임만 있는 경우는, 전자 장치(1000) 내에서 복원된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다. 특히, 엣지 데이터 네트워크(2000)는 눈동자의 위치를 고려하여 부분 영상을 요청하는 시점 이후의 회전 방향을 예측하여 해당 방향(우측 방향)으로 더 넓은 시야각을 확보함으로써, 전자 장치(1000)는 눈동자의 위치를 고려하여 여분의 시야각이 확보된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다.
도 8d 는 일 실시예예 따라, 눈을 바라보는 방향 기준 눈동자의 위치가 왼쪽으로 약간 치우쳐 있을때, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8d를 참조하면, 전자 장치(1000)는 눈을 바라보는 방향(800)을 기준으로, 눈동자(805)가 눈의 오른쪽으로 약간 치우친 것으로 식별된 경우, 엣지 데이터 네트워크(2000)는 전자 장치(1000)의 눈동자 위치 정보를 기초로 전자 장치(1000)의 회전 방향은 시계 방향(880)일 가능성이 크지만, 반시계 방향일 가능성도 약간 있음을 식별할 수 있다.
엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 전송된 방위 정보에 대응하는 사용자 시야각 영상(885)과 여분의 좌측 시야각(890)의 영상 및 여분의 우측 시야각(895)의 영상을 포함하는 확장된 시야각 영상(898)을 VR 영상으로부터 획득하고, 확장된 시야각 영상(898)를 부호화하여 전자 장치(1000)로 전송할 수 있다. 이때, 우측 시야각(895)은 좌측 시야각(890)보다 더 크게 식별될 수 있으나, 좌측 시야각(890)은 최소 시야각보다는 크게 식별될 수 있다.
전자 장치(1000)가 방위 정보에 기초하여, 부분 영상을 요청한 후에 부분 영상을 수신하기까지의 시간 동안 좌측 시야각(890) 및 우측 시야각(895)만큼의 전자 장치(1000)의 움직임만 있는 경우는, 전자 장치(1000) 내에서 복원된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다. 특히, 엣지 데이터 네트워크(2000)는 눈동자의 위치를 고려하여 부분 영상을 요청하는 시점 이후의 회전 방향을 예측하여 해당 방향(우측 방향)으로 더 넓은 시야각을 확보하되 해당 방향의 반대 방향(좌측 방향)으로도 최소 시야각보다는 넓은 시야각을 확보함으로써, 전자 장치(1000)는 눈동자의 위치를 고려하여 여분의 시야각이 확보된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다.
도 9는 본 개시의 일 실시에 따라, 엣지 데이터 네트워크(2000)가 눈동자의 위치 영역을 사용자 시야각 영상 내 영역에 매핑하고, 매핑된 화면 영역을 기초로, 여분의 시야각 영상을 식별하는 과정을 설명하기 위한 도면이다.
도 9를 참조하면, 엣지 데이터 네트워크(2000)는 눈동자(905)의 위치 정보를 기초로, 눈을 바라보는 방향을 기준으로 하는 눈동자(905)의 위치를 식별할 때, 눈동자가 위치할 수 있는 영역을 분할하고, 이중 어느 영역에 위치하는지를 식별할 수 있다. 엣지 데이터 네트워크(2000)는 식별된 영역을 사용자 시야각 영상(910) 내 영역에 매핑할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 눈동자가 위치할 수 있는 영역을 8분할하고, 사용자 시야각 영상(910)을 8분할할 수 있다. 이때, 눈동자 위치의 영역에 매핑된 사용자 시야각 영상(910) 내 영역은, 중심 좌표 기준으로 상대적인 영역의 위치가 서로 수평 대칭되는 영역일 수 있다. 예를 들어, 가장 좌측 상단에 위치하는 눈동자 위치의 영역은 가장 우측 상단에 위치하는 사용자 시야각 영상(910) 내 영역에 매핑될 수 있다.
엣지 데이터 네트워크(2000)는 매핑된 사용자 시야각 영상(910) 내 영역에 대응하는 여분의 시야각을 식별할 수 있다. 이때, 사용자 시야각 영상(910) 내 상대적으로 치우친 방향 및 그 정도에 따라, 여분의 시야각 영상이 식별될 수 있다. 예를 들어, 눈동자 위치의 영역이 사용자 시야각 영상(910) 내 좌측 상단의 영역에 대응되는 경우, 좌측 여분의 시야각 영상이 우측 여분의 시야각 영상보다 크게 식별될 수 있고, 상측 여분의 시야각 영상이 하측 여분의 시야각 영상보다 크게 식별될 수 있다.
다만 이에 제한되지 않고, 엣지 데이터 네트워크(2000)는 눈동자 위치 영역을 화면 영역에 매핑하는 과정을 거치지 않고, 눈동자가 위치할 수 있는 전체 영역의 높이 및 너비를 기준으로, 눈동자 위치의 수평 성분 및 수직 성분의 값을 식별함으로써 상술한 내용과 유사하게 여분의 시야각 영상을 식별할 수 있음을 당업자는 이해할 수 있다. 이와 관련하여, 도 11a 및 도 11b를 참조하여 후술하기로 한다.
도 10은 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 눈동자가 특정 영역에 머무르는 시간 및 눈동자가 이동하는 속도를 기초로, 여분의 시야각 영상을 식별하는 과정을 설명하기 위한 도면이다.
도 10을 참조하면, 엣지 데이터 네트워크(2000)는 눈동자가 특정 영역(예를 들어, 중심을 기준으로 좌측의 영역)에 머무르는 시간이 길수록, 특정 영역에 대응하는 방향의 여분의 시야각(1020)을 반대 방향의 시야각(1030)보다 크게 식별할 수 있다. 한편, 엣지 데이터 네트워크(2000)는 눈동자가 이동하는 속도가 빠를수록, 이동하는 방향에 대응하는 방향의 시야각(1020)을 반대 방향의 시야각(1030)보다 크게 식별할 수 있다. 이때, 엣지 데이터 네트워크(2000)는 현재 눈동자의 위치가 중심 좌표 기준으로 치우친 방향(눈동자 방향)을 고려하여, 눈동자 방향과 눈동자가 이동하는 방향과 일치하는 경우, 해당 방향에 대응하는 여분의 시야각을 그 반대 방향에 대응하는 여분의 시야각보다 크게 식별할 수 있다.
이때, 영역별 좌표에 기반하여, 이전의 눈동자와 현재의 눈동자 사이의 눈동자의 이동거리가 식별될 수 있고, 이동거리를 기초로, 눈동자가 이동하는 속도가 식별될 수 있다. 다만 이에 제한되지 않고, 현재 눈동자의 순간 속도가 별도로 측정되어 식별될 수 있다.
엣지 데이터 네트워크(2000)는 눈동자의 위치 정보와 함께 눈동자가 특정 영역에 머무는 시간 및 눈동자의 이동 속도를 고려하여, 여분의 시야각 영상을 식별함으로써, 보다 정확하게 현재 시점 이후의 전자 장치(1000)의 이동 방향을 예측할 수 있고, 전자 장치(1000)의 이동 방향으로 넓은 여분의 시야각을 확보함으로써, 전자 장치(1000)는 상기 식별된 여분의 시야각이 확보된 부분 영상을 기초로 지연없이 사용자 시야각 영상을 디스플레이할 수 있다.
도 11a 내지 11b는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 상하좌우의 확장 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 8a 내지 8d 및 도 9를 참조하여 설명한 것과 달리, 눈동자의 눈의 위치가 도 8a 내지 8d 및 도 9에서 전술된 기준 방향의 반대 방향을 기준으로 함을 전제로 하여 도 11a 및 도 11b을 참조하여 엣지 데이터 네트워크(2000)가 상하좌우의 확장 시야각을 식별하는 과정을 설명하겠다. 도 11a 내지 11b를 참조하여, 식별된 좌우 방향의 여분의 시야각을 서로 스위칭하면, 도 8a 내지 8d 및 도 9를 참조하여 설명한, 좌우 방향의 여분의 시야각이 식별될 수 있음을 당업자는 이해할 수 있다.
엣지 데이터 네트워크(2000)는 눈동자가 위치할 수 있는 전체 영역을 NxM(N과 M은 1보다 큰 정수)의 좌표계에 매핑할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 눈동자가 위치할 수 있는 전체 영역을 N이 4이고, M이 2인 4x2의 좌표계에 맵핑할 수 있다. 이때, 좌표계의 N과 M에 관한 정보는 엣지 데이터 네트워크(2000)와 전자 장치(1000) 간에 교환되거나, 미리 설정될 수 있다.
엣지 데이터 네트워크(2000)는 전송 여분 시야각의 총 합을 식별할 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 좌우 전송 여분 시야각을 E, 상하 전송 여분 시야각을 F라 할 때, E를 60도로, F를 20도로 식별할 수 있다.
엣지 데이터 네트워크(2000)는 최소 여분의 시야각을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 좌우 최소 여분 시야각을 e, 상하 전송 여분 시야각을 f라 할 때, e를 10도, f를 5도로 식별할 수 있다. 눈동자의 방향과 반대로 전자 장치(1000)를 움직일 수도 있으므로, 눈동자 방향의 반대 방향에 대응하는 여분의 시야각이 0으로 식별되지 않고, 최소 여분의 시야각이 식별될 수 있다.
엣지 데이터 네트워크(2000)는 눈동자의 위치 정보를 기초로, 눈동자의 중심이 위치한 좌표 V(x,y)를 식별할 수 있다. 즉, NxM 좌표계 내 수평 성분의 좌표 x(Vx) 및 수직 성분의 좌표 y(Vy)가 식별될 수 있다.
엣지 데이터 네트워크(2000)는 눈동자의 중심이 위치한 좌표를 기초로, 좌측, 우측, 상측, 하측의 여분의 시야각(L,R,U,B)을 식별할 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 하기 수학식 1에 따라, 좌측, 우측, 상측, 하측의 여분의 시야각(L,R,U,B)을 식별할 수 있다.
[수학식 1]
L = (E - 2e)x(1-Vx/N) + e
R= E - L
U = F - B
B = (F - 2f)x(1-Vy/M) + f
예를 들어, 도 11a를 참조하면, 엣지 데이터 네트워크(2000)는 눈동자 위치 정보를 기초로, 4x2 좌표계에서 눈동자 위치의 수평 성분 및 수직 성분을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 Vx를 1로, Vy를 1로 식별할 수 있다. 이때, 엣지 데이터 네트워크(2000)는 상기 수학식 1에 기초하여, E가 60도, F가 20도, e가 10도, f가 5도인 경우, 하측 시야각 B 를 (20-10)x(1-1/2)+5=10도로 식별할 수 있다. 또한, 엣지 데이터 네트워크(2000)는 상측 시야각 U를 20-10=10도로 식별할 수 있다. 엣지 데이터 네트워크(2000)는 좌측 시야각 L을 (60-20)x(1-1/4)+10=40도 식별할 수 있다. 엣지 데이터 네트워크(2000)는 우측 시야각 R을 60-40=20도로 식별할 수 있다.
한편, 도 11b를 참조하면, 엣지 데이터 네트워크(2000)는 눈동자 위치 정보를 기초로, 4x2 좌표계에서 눈동자 위치의 수평 성분 및 수직 성분을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 Vx를 3로, Vy를 2로 식별할 수 있다. 이때, 엣지 데이터 네트워크(2000)는 상기 수학식에 기초하여, E가 60도, F가 20도, e가 10도, f가 5도인 경우, 하측 시야각 B를 (20-10)x(1-2/2)+5=5도로 식별할 수 있다. 또한, 엣지 데이터 네트워크(2000)는 상측 시야각 U를 20-5=15도로 식별할 수 있다. 엣지 데이터 네트워크(2000)는 좌측 시야각 L을 (60-20)x(1-3/4)+10=20도로 식별할 수 있다. 엣지 데이터 네트워크(2000)는 우측 시야각 R을 60-20=40도로 식별할 수 있다.
도 12는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 사용자의 눈동자와 머리(전자 장치)의 이동 패턴을 기초로, 여분의 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 12를 참조하면, 엣지 데이터 네트워크(2000)는 좌우 전송 여분 시야각 E 및 상하 전송 여분의 시야각 F를 식별하기 위해, 눈동자의 이동거리 l1 당 머리(전자 장치)의 이동거리 l2(l2/l1)을 식별할 수 있다. 이때, 눈동자의 이동거리 l1은 시간에 따른 눈동자의 이동거리가 극대 또는 극소인 경우, 눈동자의 이동거리를 의미할 수 있고, 머리(전자 장치)의 이동거리 l2는 시간에 따른 머리(전자 장치)의 이동거리가 극대 또는 극소인 경우, 머리(전자 장치)의 이동거리를 의미할 수 있다.
엣지 데이터 네트워크(2000)는 l2/l1이 클수록 E 및 F의 값을 크게 식별할 수 있다. 즉, l2/l1이 클수록, 눈동자의 이동에 비하여 머리(전자 장치)의 이동이 큰 사용자의 패턴이 식별될 수 있고, 식별된 사용자의 패턴을 고려하여, 여분의 시야각을 크게 식별할 수 있다.
엣지 데이터 네트워크(2000)는 좌우 전송 여분 시야각 E 및 상하 전송 여분의 시야각 F를 식별하기 위해, 눈동자가 움직인 시간 ti과 머리(전자 장치)가 움직인 시간 ui의 차의 전체 시간 T 동안의 평균값을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 다음 수학식 2에 따라, 눈동자와 머리(전자 장치)의 시간차 평균을 식별할 수 있다.
[수학식 2]
눈동자와 머리의 시간차 평균 =
Figure pat00001
이때, ui은 시간에 따른 눈동자의 이동거리가 극대 또는 극소인 경우의 시간을 의미할 수 있고, ti는 시간에 따른 머리(전자 장치)의 이동거리가 극대 또는 극소인 경우의 시간을 의미할 수 있다.
엣지 데이터 네트워크(2000)는 눈동자와 머리의 시간차 평균값이 짧으면 E 및 F의 값을 크게 식별할 수 있다. 즉, 눈동자와 머리의 시간차 평균값이 짧을 수록, 눈동자의 움직임과 머리의 움직임이 거의 일치하는 사용자의 패턴이 식별될 수 있고, 식별된 사용자의 패턴을 고려하여, 여분의 시야각을 크게 식별할 수 있다.
이때, 엣지 데이터 네트워크(2000)는 범위별로 평균값에 대응하는 확장 시야각을 미리 산출하고, 미리 산출된 결과를 기초로, 평균값에 대응하는 확장 시야각을 식별할 수 있다. 미리 산출된 시야각은 룩업 테이블(Lookup Table;LUT) 형태로 저장될 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 평균값이 0~10msec의 범위(Range 1)에 있는 경우, 이에 대응하는 확장 시야각 170도를 미리 산출할 수 있다. 엣지 데이터 네트워크(2000)는 평균값이 10~20msec의 범위(Range 2)에 있는 경우, 이에 대응하는 확장 시야각 130도를 미리 산출할 수 있다. 엣지 데이터 네트워크(2000)는 평균값이 20~30msec의 범위(Range 3)에 있는 경우, 이에 대응하는 확장 시야각 115도를 미리 산출할 수 있다. 이때, 평균값의 범위에 대응하는 확장 시야각은 다음과 같은 LUT 형태(표 1)로 저장될 수 있다.
범위 평균값 확장 시야각
Range 1 0~10ms 170도
Range 2 10ms~20ms 130도
Range 3 20ms~30ms 115도
엣지 데이터 네트워크(2000)는 좌우방향 중 한쪽 방향(예를 들어, 좌측방향)의 여분의 시야각에 적용되는 가중치 값(W)을 식별할 수 있다. W는 이전 눈동자의 위치(눈동자 방향)와 머리(전자 장치)의 이동 방향의 일치 여부에 따라 커지거나 작아질 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 이전 눈동자의 위치(눈동자 방향)와 반대되는 방향으로 머리(전자 장치)가 이동되는 경우, W를 감소할 수 있고, 이전 눈동자의 위치와 동일한 방향으로 머리(전자 장치)가 이동되는 경우, W를 증가시킬 수 있다.
이때, 엣지 데이터 네트워크(2000)는 하기 수학식 3에 따라 좌측 여분의 시야각 L 및 우측 여분의 시야각 R을 식별할 수 있다.
[수학식 3]
L= {(E-2e)x(1-Vx/N)+e}*W
R=(E-L)*(1-W)
도 13은 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 영상 컨텐츠 종류에 따라, 여분의 시야각 및 센서의 감도를 식별하는 과정을 설명하기 위한 도면이다.
도 13를 참조하면, S1300 단계에서, 전자 장치(1000)는 영상의 컨텐츠 타입 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 예를 들어, 컨텐츠 타입 정보 contentType은 게임(“Game”)을 나타낼 수 있다. 영상 컨텐츠 타입에 관한 정보는 영상 관련 어플리케이션의 실행시와 같이, 네트워크 연결 후 영상 컨텐츠를 전송하기 전에 전송될 수 있다. 다만 이에 제한되지 않고, 영상 컨텐츠가 변경될 때마다 전송될 수 있다.
S1315 단계에서, 엣지 데이터 네트워크(2000)는 미리 설정된 테이블(예를 들어, 룩업 테이블)을 참고하여, 영상의 컨텐츠 타입 정보에 대응하는 센서(카메라 센서, 방위 센서 등) 감도와 확장 가중치를 식별할 수 있다. 예를 들어, 영상의 컨텐츠 타입 정보가 나타내는 Type1은 게임 영상일 수 있고, 컨텐츠 특성상 눈동자와 머리(전자 장치)의 움직임이 많은 경우이므로, 좌우측 여분의 시야각 E 및 상하측 여분의 시야각 F가 상대적으로 크게 식별될 수 있고, 센서 감도를 높일 수 있다. 예를 들어, 영상의 컨텐츠 타입 정보가 나타내는 Type2는 콘서트나 스포츠경기 영상일 수 있고, 해당 영상은 컨텐츠 특성상 앞뒤가 명확히 존재하기 때문에 눈동자 및 머리(전자 장치)이 이동이 별로 없고, 이동하는 시야각이 전면으로 한정될 것으로 예상되는 영상이므로, 좌우측 여분의 시야각 E 및 상하측 여분의 시야각 F가 상대적으로 작게 식별될 수 있고, 센서 감도를 낮출 수 있다. 예를 들어, 영상의 컨텐츠 타입 정보가 나타내는 Type3은 풍경이나 가상 여행 영상일 수 있고, 해당 영상은 컨텐츠 특성상 앞뒤가 구분 없이 모두 사용자에게 고루 보여질 것으로 예상되나, 눈동자 및 머리(전자 장치)이 이동 속도는 느릴 것으로 예상되는 영상이므로, 좌우측 여분의 시야각 E 및 상하측 여분의 시야각 F가 Type1보다는 작게 Type2보다는 상대적으로 크게 식별될 수 있고, 센서 감도는 Type1보다 작고, Type2보다는 크게 식별될 수 있다.
이때, 여분의 시야각의 증감은 확장 가중치의 증감에 따라 조절될 수 있다. 엣지 데이터 네트워크(2000)는 하기 표 2와 같이 영상의 컨텐츠 타입에 대응하는 센서의 감도 및 확장 가중치를 미리 설정할 수 있다.
Type Sensitivity
(times per second)		 Extension Weight
Game 200 1.2
Landscape 100 1.0
Sports 50 0.7
S1310 단계에서, 엣지 데이터 네트워크(2000)는 센서 감도 및 확장 가중치를 전자 장치(1000)로 전송할 수 있다. 예를 들어, 센서 감도(sensitivity)가 200(times per second)임을 나타내고, 확장 가중치(Extension Weight)가 1.2임을 나타내는 정보가 전자 장치(1000)로 전송될 수 있다. 이때, 복수의 후보 센서 감도 또는 후보 확장 가중치 중 하나의 센서 감도 또는 확장 가중치를 나타내는 인덱스 형태로 전송될 수 있으나, 이에 제한되지는 않는다. 이때, 센서 감도 정보만 전송될 수 있고, 확장 가중치 정보는 전송되지 않을 수 있다.
S1315 단계에서, 전자 장치(1000)는 센서 감도 정보를 기초로, 센서 감도를 업데이트할 수 있다. 예를 들어, 센서 감도(sensitivity)가 200(times per second)임을 나타내는 정보에 따라, 센서 감도는 200(times per second)로 업데이트될 수 있다.
S1320 단계에서, 전자 장치(1000)는 센싱 모듈을 통해 감지된 방위 정보 및 눈동자 위치 정보를 기초로, 새로운 프레임 전송 요청을 엣지 데이터 네트워크(2000)로 전송할 수 있다.
S1325 단계에서, 엣지 데이터 네트워크(2000)는 확장 가중치를 기초로 여분의 시야각을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 좌우 여분의 시야각 총합 또는 상하 여분의 시야각 총합을 먼저 식별한 후에, 해당 좌우 또는 상하 여분의 시야각 총합에 확장 가중치를 곱하여 최종 좌우 또는 상하 여분의 시야각 총합을 식별할 수 있다. 예를 들어, 영상의 컨텐츠 타입이 게임인 경우, 확장 가중치는 1.2일 수 있고, 눈동자 위치 정보에 대응하는 좌우 또는 상하 여분의 시야각 총합은 40도로, 상하 여분의 시야각은 20도로 식별될 수 있고, 확장 가중치를 고려한 최종 좌우 여분의 시야각 총합은 48도로, 상하 여분의 시야각은 24도로 식별될 수 있다.
S1330 단계에서, 엣지 데이터 네트워크(2000)는 확장 가중치를 기초로 식별된 좌우 또는 상하 여분의 시야각을 갖는 부분 영상을 전자 장치(1000)로 전송할 수 있다. 이때, 확장 가중치를 기초로 식별된 좌측, 우측 또는 상측 및 하측 여분의 시야각을 나타내는 정보가 전송될 수 있다.
전술한 바와 같이, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 영상의 컨텐츠 타입에 관한 정보를 수신하고, 이를 기초로, 확장 영역의 크기를 식별하기 위한 확장 가중치를 식별 할 수 있다. 따라서, 불필요한 영상의 전송을 막아 대역폭을 절약할 수 있고, 상대적으로 제한된 대역폭 환경에서 전송되는 영상의 화질을 높일 수 있다. 또한, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 영상의 컨텐츠 타입에 관한 정보를 수신하고 이를 기초로, 센서의 감도를 식별할 수 있고, 전자 장치(1000)에서 소모되는 전력을 효과적으로 관리할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 영상의 컨텐츠 타입이 풍경 영상인 경우, 사용자의 시야 이동이 적을 것으로 예상하여 센서의 감도를 낮춤으로써, 센서에서 정보가 획득되는 빈도를 줄여 전자 장치(1000)에서 소모되는 전력을 줄일 수 있다.
도 14는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 여러 조각의 데이터 단위를 기초로, 제1 부분 영상을 전자 장치(1000)로 전송하는 과정을 설명하기 위한 도면이다.
엣지 데이터 네트워크(2000)는 VR 영상(1500)을 세로 방향(경도)으로 나누어 여러 조각의 데이터 단위를 획득하고, 제1 부분 영상을 획득하는 과정에서, 여러 조각의 데이터 단위 중 필요한 시야각만큼의 적어도 하나의 조각의 데이터 단위(①,②,③)를 선택하고 이를 부호화하여 전자 장치(1000)로 전송할 수 있다.
도 15는 전자 장치와 엣지 데이터 네트워크(edge data network) 및 VR 게이밍 인터페이스 장치 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
도 15를 참조하면, 도 5와 달리, VR 게이밍 인터페이스 장치(4000)를 추가로 도시하고 있다. VR 게이밍 분야의 경우, VR 스트리밍 분야와 달리, 사용자의 인터랙션(Interaction)이 존재하고, 따라서, 전자 장치(1000) 외 VR 게이밍 인터페이스 장치(4000)가 이용될 수 있다.
VR 스트리밍 분야에서의 전자 장치와 엣지 데이터 네트워크(edge data network) 간의 동작 절차에 대해서는, 도 5를 참조하여 전술한 바 있는 바, 중복되는 부분은 생략하고, VR 게이밍 분야에서의 전자 장치와 엣지 데이터 네트워크 및 VR 게이밍 인터페이스의 장치의 동작 절차를 설명하겠다.
엣지 데이터 네트워크(2000)는 VR 게임 처리 모듈(1686)의 인스트럭션을 기초로 VR 시퀀스에 포함된 VR 게임 영상(인터랙티브 VR 영상)을 생성할 수 있다.
구체적으로, VR 게임 처리 모듈(1686)은 방위 정보, 회전 속도 정보 및 VR 게이밍 인터페이스 장치 센싱 정보(1652)를 기초로 VR 게임 영상의 제1 부분 영상을 생성하기 위한 인스트럭션을 저장할 수 있다. VR 게임 처리 모듈(1686)은 VR 게이밍 인터페이스 장치 제어 정보(1654)를 출력하기 위한 인스트럭션을 저장할 수 있다.
전자 장치(1000)는 VR 게임 처리를 위해 VR 게이밍 인터페이스 장치 센싱 정보(1652)를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 이때, 전자 장치(1000)는 VR 게이밍 인터페이스 장치(4000)로부터 VR 게이밍 인터페이스 장치 센싱 정보를 수신할 수 있다.
VR 게이밍 인터페이스 장치(4000)는 네트워크 인터페이스(4020), 센싱 모듈(4010), 엑츄에이팅 모듈(4030)을 포함할 수 있다. 네트워크 인터페이스(4020)는 외부와 통신하기 위한 모듈이고, 센싱 모듈(4010)은 사용자의 동작을 감지하기 위한 모듈일 수 있다. 센싱 모듈(4010)은 VR 게이밍 인터페이스 장치 센싱 정보를 획득할 수 있다.
엑츄에이팅 모듈(4030)은 진동 등과 같은 다양한 형태의 출력(햅틱 피드백)을 사용자에게 제공하는 모듈일 수 있다. 엑츄에이팅 모듈(4030)은 VR 게이밍 인터페이스 장치 센싱 제어 정보를 기초로 사용자에게 다양한 형태의 출력을 제공할 수 있다.
VR 게이밍 인터페이스 장치(4000)는 전자 장치(1000)로 VR 게이밍 인터페이스 장치 센싱 정보를 전송할 수 있다. 또한, VR 게이밍 인터페이스 장치(4000)는 전자 장치(1000)로부터 VR 게이밍 인터페이스 장치 제어 정보를 수신할 수 있다.
이상, VR 인터페이스 장치 센싱 정보는 전자 장치(1000)를 거쳐 엣지 데이터 네트워크(2000)로 전송되거나, VR 인터페이스 장치 센싱 정보 및 VR 인터페이스 장치 제어 정보는 전자 장치(1000)를 거쳐 VR 게이밍 인터페이스 장치(4000)로 전송되는 내용을 상술하였으나, 이에 제한되지 않고, 직접 VR 게이밍 인터페이스 장치(4000)와 엣지 데이터 네트워크(2000) 간에 교환될 수 있다. 이때, 전자 장치(1000)와 동기화를 위한 동기화 정보가 함께 전송될 수 있다.
도 15을 참조하여, VR 게이밍 분야에서의 전자 장치와 엣지 데이터 네트워크(edge data network) 및 VR 게이밍 인터페이스 장치 간의 동작 절차를 설명하였으나, 이에 제한되지 않고, 인터랙티브 VR은 주로 시뮬레이션, 훈련 등 사용자가 직접 콘텐츠에 개입해 활동을 할 수 있는 많은 분야에 활용될 수 있음을 당업자는 이해할 수 있다.
도 16은 본 개시의 일 실시 예에 따른 전자 장치의 블록도이다.
도 1 내지 도 15의 엣지 데이터 네트워크에 연결된 전자 장치는 도 17의 전자 장치(110)에 대응될 수 있다. 예를 들어, 네트워크 환경(100)에서 전자 장치(110)는 제1 네트워크(1798)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1702)(여기서 전자 장치는 VR 게이밍 인터페이스 장치를 포함)와 통신하거나, 또는 제2 네트워크(1799)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1704) 또는 서버(1708)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(110)는 서버(1708)를 통하여 전자 장치(1704)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(110)는 프로세서(1720), 메모리(1730), 입력 장치(1750), 음향 출력 장치(1755), 표시 장치(1760), 오디오 모듈(1770), 센서 모듈(1776), 인터페이스(1777), 햅틱 모듈(1779), 카메라 모듈(1780), 전력 관리 모듈(1788), 배터리(1789), 통신 모듈(1790), 가입자 식별 모듈(1796), 또는 안테나 모듈(1797)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(110)에는, 이 구성 요소들 중 적어도 하나(예: 표시 장치(1760) 또는 카메라 모듈(1780))이 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성 요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(1776)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(1760)(예: 디스플레이)에 임베디드(embedded)된 채 구현될 수 있다.
프로세서(1720)는, 예를 들면, 소프트웨어(예: 프로그램(1740))을 실행하여 프로세서(1720)에 연결된 전자 장치(110)의 적어도 하나의 다른 구성 요소(예: 하드웨어 또는 소프트웨어 구성 요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1720)는 다른 구성 요소(예: 센서 모듈(1776) 또는 통신 모듈(1790))로부터 수신된 명령 또는 데이터를 휘발성 메모리(volatile memory)(1732)에 로드(load)하고, 휘발성 메모리(1732)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(non-volatile memory)(1734)에 저장할 수 있다.
일 실시예에 따르면, 프로세서(1720)는, 애플리케이션 클라이언트를 실행할 수 있고, 애플리케이션 클라이언트가 실행됨에 따라, 애플리케이션 클라이언트가 이용할 네트워크 프로토콜을 확인하기 위한 요청 메시지를 엣지 데이터 네트워크(2000)에 전송할 수 있다. 또한, 프로세서(1720)는 애플리케이션 클라이언트가 이용할 네트워크 프로토콜을 나타내는 응답 메시지를 엣지 데이터 네트워크(2000)로부터 수신할 수 있다. 프로세서(1720)는, 응답 메시지에 기초하여 UE 애플리케이션이 이용할 네트워크 프로토콜을 업데이트할 수 있다. 프로세서(1720)는 업데이트된 네트워크 프로토콜에 대응하는 네트워크 소켓을 선택할 수 있다. 프로세서(1720)는 선택된 네트워크 소켓을 이용하여, 엣지 데이터 네트워크(2000)로부터 애플리케이션 클라이언트에 대하여 생성된 데이터를 수신할 수 있다.
일 실시예에 따르면, 프로세서(1720)는 메인 프로세서(1721)(예: 중앙 처리 장치(CPU, central processing unit) 또는 어플리케이션 프로세서(AP, application processor)), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1723)(예: 그래픽 처리 장치(GPU, graphic processing unit), 이미지 시그널 프로세서(ISP, image signal processor), 센서 허브 프로세서(sensor hub processor), 또는 커뮤니케이션 프로세서(CP, communication processor))를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(1723)는 메인 프로세서(1721)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1723)는 메인 프로세서(1721)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(1723)는, 예를 들면, 메인 프로세서(1721)가 인액티브(inactive)(예: 슬립(sleep)) 상태에 있는 동안 메인 프로세서(1721)를 대신하여, 또는 메인 프로세서(1721)가 액티브(active)(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1721)와 함께, 전자 장치(110)의 구성 요소들 중 적어도 하나의 구성 요소(예: 표시 장치(1760), 센서 모듈(1776), 또는 통신 모듈(1790))과 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(1723)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(1780) 또는 통신 모듈(1790))의 일부로서 구현될 수 있다.
메모리(1730)는, 전자 장치(110)의 적어도 하나의 구성 요소(예: 프로세서(1720) 또는 센서 모듈(1776))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1740)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1730)는, 휘발성 메모리(1732) 또는 비휘발성 메모리(1734)를 포함할 수 있다.
프로그램(1740)은 메모리(1730)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(OS, operating system)(1742), 미들웨어(middleware)(1744) 또는 어플리케이션(1746)을 포함할 수 있다. 일 실시예에서, 프로그램(1740)은, 도 1의 제1 애플리케이션 클라이언트(122) 및 제2 애플리케이션 클라이언트(124)를 포함할 수 있다. 그리고, 프로그램(1740)은 도 1의 엣지 인에이블러 클라이언트(130)를 포함할 수 있다.
입력 장치(1750)는, 전자 장치(1710)의 구성 요소(예: 프로세서(1720))에 사용될 명령 또는 데이터를 전자 장치(110)의 외부(예: 사용자)로부터 수신할 수 있다.
음향 출력 장치(1755)는 음향 신호를 전자 장치(110)의 외부로 출력할 수 있다. 음향 출력 장치(1755)는, 예를 들면, 스피커(speaker를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다.
표시 장치(1760)는 전자 장치(110)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(1760)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 표시 장치(1760)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서(pressure sensor))를 포함할 수 있다.
오디오 모듈(1770)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(1770)은, 입력 장치(1750)를 통해 소리를 획득하거나, 음향 출력 장치(1755), 또는 전자 장치(110)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1702))(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(1776)은 전자 장치(110)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(1776)은, 예를 들면, 눈동자 위치 감지 센서(예를 들어, 카메라(이미지) 센서일 수 있으나, 이에 제한되지 않고 별도로 구비된 눈동자 위치 감지 센서일 수 있음; 카메라(이미지) 센서인 경우, 카메라 모듈(1780)과 별도로 구비될 수 있으나, 카메라 모듈(1780)에 포함될 수 있음), 제스처 센서(gesture sensor), 자이로 센서(gyro sensor), 기압 센서(barometer sensor), 마그네틱 센서(magnetic sensor), 가속도 센서(acceleration sensor), 그립 센서(grip sensor), 근접 센서(proximity sensor), 컬러 센서(color sensor)(예: RGB(red, green, blue) 센서), IR(infrared) 센서, 생체 센서(biometric sensor), 온도 센서(temperature sensor), 습도 센서(humidity sensor), 조도 센서(illuminance sensor), 또는 자율 주행차와 관련된 센서들(예: 관성 측정 센서(IMU), GPS(Global Positioning System) 센서, 카메라, LIDAR(Light Imaging Detection and Ranging), RADAR(Radio Detection and Ranging) 등)을 포함하는 센서 모듈을 포함할 수 있다.
인터페이스(1777)는 전자 장치(110)의 외부 전자 장치(예: 전자 장치(1702))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜(protocol)들을 지원할 수 있다.
연결 단자(connection terminal)(1778)는, 그를 통해서 전자 장치(110)가 외부 전자 장치(예: 전자 장치(1702))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다.
햅틱 모듈(haptic module)(1779)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다.
카메라 모듈(1780)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(1780)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(1788)은 전자 장치(1710)에 공급되는 전력을 관리할 수 있다.
배터리(1789)는 전자 장치(1710)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다.
통신 모듈(1790)은 전자 장치(110)와 외부 전자 장치(예: 전자 장치(1702), 전자 장치(1704), 또는 서버(1708)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1790)은 프로세서(1720)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(1790)은 무선 통신 모듈(1792)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1794)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(1798)(예: 블루투스, Wi-Fi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(1799)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN(wide area network))와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다.
무선 통신 모듈(1792)은 가입자 식별 모듈(1796)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI, international mobile subscriber identity))를 이용하여 제1 네트워크(1798) 또는 제2 네트워크(1799)와 같은 통신 네트워크 내에서 전자 장치(110)를 확인 및 인증할 수 있다.
안테나 모듈(1797)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다.
상기 구성 요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고, 신호(예: 명령 또는 데이터)를 상호 간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제2 네트워크(1799)에 연결된 서버(1708)를 통해서 전자 장치(110)와 외부의 전자 장치(1704) 간에 송신 또는 수신될 수 있다. 전자 장치(1702, 1704) 각각은 전자 장치(110)와 동일한 또는 다른 종류의 장치일 수 있다.
일 실시예에 따르면, 전자 장치(110)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(1702, 1704 또는 1708) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(110)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(110)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들(1702, 1704)에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들(1702, 1704)은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(110)로 전달할 수 있다. 전자 장치(110)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅(cloud computing), 분산 컴퓨팅(distributed computing), 또는 클라이언트-서버 컴퓨팅(client-server computing) 기술이 이용될 수 있다.

Claims (20)

  1. 엣지 데이터 네트워크가 영상 컨텐츠를 전송 하는 방법에 있어서,
    상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하는 단계;
    상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하는 단계;
    상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및
    상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함하는 방법.
  2. 제1항에 있어서,
    상기 사용자 시야각 영상은 상기 방위 정보가 나타내는 VR 영상 내 위치를 기준으로, 상기 전자 장치의 디스플레이의 뷰포트(Viewport) 영역에 관한 정보를 기초로 식별된 사용자 시야각을 갖는 영상인 것을 특징으로 하는 방법.
  3. 제1항에 있어서,
    상기 제1 부분 영상은 복수의 프레임을 포함하는 VR 시퀀스의 소정의 프레임 인덱스를 가지는 제1 VR 영상 내 부분 영상이며, 상기 제1 부분 영상은 부분 영상의 위치를 나타내는 방위 정보와 관련되는 것을 특징으로 하는, 방법.
  4. 제1항에 있어서,
    상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 상기 눈동자 위치 정보가 나타내는, 기준점 대비 눈동자 위치의 좌표를 기초로 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  5. 제4항에 있어서,
    사용자 눈(eye)의 전체 영역 내 중심 좌표 및 상기 눈동자 위치의 좌표로부터 식별된 눈동자 방향 및 눈동자 거리를 기초로 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  6. 제4항에 있어서,
    사용자 눈(eye)의 전체 영역의 너비 및 높이 중 적어도 하나 대비 상기 눈동자 위치의 좌표의 수평 성분 및 수직 성분 중 적어도 하나에 대응하는, 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  7. 제6항에 있어서,
    눈동자 위치의 수평 성분에 대응하는 좌우 제1 여분의 시야각과, 눈동자 위치의 수직 성분에 대응하는 상하 제2 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 좌우 제1 여분의 시야각 및 상하 제2 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  8. 제6항에 있어서,
    상기 제1 여분의 시야각 중 좌측 또는 우측의 여분의 시야각은 제1 최소 시야각보다 크거나 같고, 상기 제2 여분의 시야각 중 상측 또는 하측의 여분의 시야각은 제2 최소 시야각보다 크거나 같고, 상기 제1 최소 시야각 및 제2 최소 시야각은 미리 설정된 것을 특징으로 하는, 방법.
  9. 제5항에 있어서,
    사용자 시야각 기준으로, 상기 눈동자 방향에 대응하는 방향의 여분의 시야각은, 상기 사용자 시야각 기준으로, 상기 눈동자 방향에 대응하는 방향의 반대방향의 여분의 시야각보다 큰 것을 특징으로 하는, 방법.
  10. 제1항에 있어서,
    상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 이전 눈동자 위치 및 상기 눈동자 위치가 소정의 영역 내에 있는 시간 및 눈동자의 이동 속도 중 적어도 하나를 기초로, 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  11. 제1항에 있어서,
    상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 시간에 따른 눈동자의 위치가 극대(local maximum) 또는 극소(local minimum)인 경우의 눈동자 위치 l1과 시간에 따른 상기 전자 장치의 위치가 극대 또는 극소인 경우의 상기 전자 장치의 위치 l2와의 비율을 기초로, 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  12. 제1항에 있어서,
    상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 눈동자의 위치 및 상기 전자 장치의 변위 방향을 기초로 한, 소정의 방향의 시야각 가중치를 기초로 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  13. 제1항에 있어서,
    상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 시간에 따른 눈동자의 위치가 극대 또는 극소에 위치하는 시간 t1 및 시간에 따른 상기 전자 장치의 위치가 극대 또는 극소에 위치하는 시간 t2의 차이를 기초로 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 방법.
  14. 제1항에 있어서,
    상기 전자 장치로 수신된 제1 부분 영상과 관련된 영상 컨텐츠의 타입에 관한 정보를 기초로, 상기 여분의 시야각의 확장 가중치 및 상기 전자 장치에 포함된 센서의 민감도가 식별되고, 상기 여분의 시야각의 확장 가중치 및 센서의 민감도에 관한 정보가 상기 전자 장치로 전송되는 것을 특징으로 하는, 방법.
  15. 제1항에 있어서,
    상기 제1 부분 영상은 소정의 시야각 범위의 데이터 단위로 구성되고,
    상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계는,
    상기 제1 부분 영상 중 상기 사용자의 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제1 데이터 단위 및 상기 제1 부분 영상 중 상기 여분의 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제2 데이터 단위를 부호화하는 단계; 및
    상기 부호화된 제1 데이터 단위 및 제2 데이터 단위를 포함하는 상기 제1 프레임을 생성하는 단계를 포함하는 방법.
  16. 전자 장치로 영상 컨텐츠를 전송하는 엣지 데이터 네트워크에 있어서,
    네트워크 인터페이스;
    하나 이상의 인스트럭션들을 저장하는 메모리;
    상기 하나 이상의 인스트럭션들을 실행하는 프로세서;를 포함하고,
    상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
    상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 방위 정보 및 눈동자 위치 정보를 포함하는 센서 정보를 획득하고,
    상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상을 포함하는 제1 부분 영상을 획득하고,
    상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하고, 상기 생성된 제1 프레임을 상기 전자 장치로 전송하는, 엣지 데이터 네트워크.
  17. 제16항에 있어서,
    상기 눈동자 위치 정보에 대응하는 여분의 시야각 영상은, 상기 눈동자 위치 정보가 나타내는, 기준점 대비 눈동자 위치의 좌표를 기초로 식별된 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 엣지 데이터 네트워크.
  18. 제17항에 있어서,
    상기 여분의 시야각 영상은,
    눈동자 위치의 수평 성분에 대응하는 좌우 제1 여분의 시야각과, 눈동자 위치의 수직 성분에 대응하는 상하 제2 여분의 시야각이 식별되고, 상기 여분의 시야각 영상은, 상기 식별된 좌우 제1 여분의 시야각 및 상하 제2 여분의 시야각을 갖는 영상인 것을 특징으로 하는, 엣지 데이터 네트워크.
  19. 제17항에 있어서,
    상기 제1 여분의 시야각 중 좌측 또는 우측의 여분의 시야각은 제1 최소 시야각보다 크거나 같고, 상기 제2 여분의 시야각 중 상측 또는 하측의 여분의 시야각은 제2 최소 시야각보다 크거나 같고, 상기 제1 최소 시야각 및 제2 최소 시야각은 미리 설정된 것을 특징으로 하는, 엣지 데이터 네트워크.
  20. 제16항에 있어서,
    사용자 시야각 기준으로, 눈동자 방향에 대응하는 방향에 위치하는 여분의 시야각은, 상기 사용자 시야각 기준으로, 상기 눈동자 방향에 대응하는 방향의 반대방향에 위치하는 여분의 시야각보다 큰 것을 특징으로 하는, 엣지 데이터 네트워크.
KR1020200121792A 2020-09-21 2020-09-21 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 KR20220039113A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020200121792A KR20220039113A (ko) 2020-09-21 2020-09-21 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
US17/603,134 US20220312057A1 (en) 2020-09-21 2021-09-17 Method and device for transmitting video content by using edge computing service
PCT/KR2021/012837 WO2022060175A1 (ko) 2020-09-21 2021-09-17 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200121792A KR20220039113A (ko) 2020-09-21 2020-09-21 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20220039113A true KR20220039113A (ko) 2022-03-29

Family

ID=80776254

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200121792A KR20220039113A (ko) 2020-09-21 2020-09-21 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치

Country Status (3)

Country Link
US (1) US20220312057A1 (ko)
KR (1) KR20220039113A (ko)
WO (1) WO2022060175A1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11588910B2 (en) * 2022-03-14 2023-02-21 Meta Platforms Technologies, Llc Offloading visual frames to a gateway device
US20220247970A1 (en) * 2022-03-14 2022-08-04 Facebook Technologies, Llc Offloading Visual Frames to a Gateway Device
US11880950B2 (en) 2022-03-14 2024-01-23 Meta Platforms Technologies, Llc Selective offload of workloads to edge devices

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120327116A1 (en) * 2011-06-23 2012-12-27 Microsoft Corporation Total field of view classification for head-mounted display
KR102271198B1 (ko) * 2013-03-15 2021-06-29 매직 립, 인코포레이티드 디스플레이 시스템 및 방법
KR102012254B1 (ko) * 2013-04-23 2019-08-21 한국전자통신연구원 이동 단말기를 이용한 사용자 응시점 추적 방법 및 그 장치
EP3149937A4 (en) * 2014-05-29 2018-01-10 NEXTVR Inc. Methods and apparatus for delivering content and/or playing back content
KR102463169B1 (ko) * 2015-09-07 2022-11-04 삼성전자주식회사 시점 추적 방법 및 장치
GB2555378B (en) * 2016-10-18 2021-06-09 Virtually Live Switzerland Gmbh HMD delivery system and method
US10560660B2 (en) * 2017-01-04 2020-02-11 Intel Corporation Rectilinear viewport extraction from a region of a wide field of view using messaging in video transmission
KR101965746B1 (ko) * 2018-10-02 2019-04-05 주식회사 이노벤터 Vr 콘텐츠 스트리밍 서버 및 방법
KR102166158B1 (ko) * 2018-12-19 2020-10-15 (주)이머시브캐스트 입체 영상 생성 장치, 입체 영상 복원 장치와 이를 포함하는 입체 영상 재생 시스템
US20230011586A1 (en) * 2019-12-09 2023-01-12 Telefonaktiebolaget Lm Ericsson (Publ) Electronic device, server and methods for viewport prediction based on head and eye gaze

Also Published As

Publication number Publication date
WO2022060175A1 (ko) 2022-03-24
US20220312057A1 (en) 2022-09-29

Similar Documents

Publication Publication Date Title
US20210058612A1 (en) Virtual reality display method, device, system and storage medium
US11024083B2 (en) Server, user terminal device, and control method therefor
KR20220039113A (ko) 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
US10554883B2 (en) VR system, communication method, and non-transitory computer-readable medium
US11310459B2 (en) Image capturing device, image capturing system, image processing method, and recording medium
KR102606976B1 (ko) 전자 장치 및 전자 장치의 이미지 데이터 송수신 방법
US20210185294A1 (en) Split rendering between a head-mounted display (hmd) and a host computer
JP7346975B2 (ja) 通信端末、画像通信システム、表示方法、及びプログラム
WO2019099309A1 (en) Mixed reality offload using free space optics
US11776197B2 (en) Method and apparatus for displaying personalized face of three-dimensional character, device, and storage medium
WO2022052620A1 (zh) 图像生成方法及电子设备
US11830147B2 (en) Methods and systems for anchoring objects in augmented or virtual reality
CN111935542A (zh) 视频处理方法、视频播放方法、装置、设备及存储介质
TWI755636B (zh) 虛擬實境影像播放方法及使用其之程式
KR102437276B1 (ko) 바디 움직임 기반의 클라우드 vr 장치 및 방법
KR102140077B1 (ko) 서버, 사용자 단말 장치 및 그 제어 방법
US20230079171A1 (en) Image content transmitting method and device using edge computing service
US20230091348A1 (en) Method and device for transmitting image content using edge computing service
KR20180036359A (ko) 이미지를 표시하기 위한 방법 및 그 전자 장치
KR20210142520A (ko) 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
WO2024031282A1 (zh) 滑动验证方法、图像生成方法、装置、设备和存储介质
US20240144617A1 (en) Methods and systems for anchoring objects in augmented or virtual reality
CN110807826B (zh) 虚拟场景中的地图显示方法、装置、设备及存储介质
CN111353934B (zh) 一种视频合成的方法及装置
KR20230012196A (ko) 가상공간과 현실공간 연결 서비스 서버, 사용자 단말 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination