KR20210142520A - 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 - Google Patents

엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 Download PDF

Info

Publication number
KR20210142520A
KR20210142520A KR1020200121793A KR20200121793A KR20210142520A KR 20210142520 A KR20210142520 A KR 20210142520A KR 1020200121793 A KR1020200121793 A KR 1020200121793A KR 20200121793 A KR20200121793 A KR 20200121793A KR 20210142520 A KR20210142520 A KR 20210142520A
Authority
KR
South Korea
Prior art keywords
partial image
threshold value
rotation speed
information
size
Prior art date
Application number
KR1020200121793A
Other languages
English (en)
Inventor
김은지
김관모
김지원
이보영
이재홍
오준섭
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP21808088.5A priority Critical patent/EP4142292A4/en
Priority to PCT/KR2021/006214 priority patent/WO2021235829A1/ko
Priority to CN202180036437.9A priority patent/CN115668953A/zh
Publication of KR20210142520A publication Critical patent/KR20210142520A/ko
Priority to US17/990,319 priority patent/US20230079171A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • H04N19/194Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive involving only two passes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234381Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the temporal resolution, e.g. decreasing the frame rate by frame skipping
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities

Abstract

본 개시는, 엣지 컴퓨팅 서비스(예: MEC(multi-access edge computing) 서비스)를 이용한 영상 컨텐츠 전송 방법 및 장치에 관한 것으로, 일 실시 예에 의하면, 엣지 데이터 네트워크가 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보를 획득하는 단계;엣지 데이터 네트워크와 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하는 단계; 센서 정보 및 상태 정보를 기초로 제1 부분 영상의 크기 및 위치를 식별하는 단계; 및 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및 생성된 제1 프레임을 전자 장치로 전송하는 단계;를 포함할 수 있다.

Description

엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 {METHOD AND APPARATUS FOR TRANSMITTING VIDEO CONTENT USING EDGE COMPUTING SERVICE}
본 개시는 엣지 컴퓨팅 서비스(예: MEC(multi-access edge computing) 서비스)를 이용한 영상 컨텐츠 전송 방법 및 장치에 관한 것이다.
최근, 엣지 서버(edge server)를 이용하여 데이터를 전송하는 엣지 컴퓨팅(edge computing) 기술이 논의되고 있다. 엣지 컴퓨팅 기술은, 예를 들어, MEC(Multi-access Edge Computing) 또는 포그 컴퓨팅(fog computing, FOC)을 포함할 수 있다. 엣지 컴퓨팅 기술은 전자 장치와 지리적으로 가까운 위치, 예를 들어, 기지국 내부 또는 기지국 근처에 설치된 별도의 서버(이하, '엣지 데이터 네트워크' 또는 'MEC 서버'라 한다)를 통해 전자 장치로 데이터를 제공하는 기술을 의미할 수 있다. 예를 들어, 전자 장치에 설치된 적어도 하나의 애플리케이션 중 낮은 지연 시간(latency)을 요구하는 애플리케이션은 외부 데이터 네트워크(data network, DN)(예: 인터넷)에 위치한 서버를 통하지 않고, 지리적으로 가까운 위치에 설치된 엣지 서버를 통해 데이터를 송수신할 수 있다.
최근에는 엣지 컴퓨팅 기술을 이용한 서비스(이하, 'MEC 기반 서비스' 또는 'MEC 서비스'라 한다)에 관하여 논의되고 있으며, MEC 기반 서비스를 지원하도록 전자 장치에 관한 연구 및 개발이 진행되고 있다. 예를 들면, 전자 장치의 애플리케이션은 엣지 서버(또는 엣지 서버의 애플리케이션)와 애플리케이션 레이어(application layer) 상에서 엣지 컴퓨팅 기반 데이터를 송수신할 수 있다.
MEC 기반 서비스를 지원하기 위한 연구 및 개발이 진행됨에 따라, MEC를 이용한 고해상도 영상 컨텐츠를 전자 장치로 제공하기 위한 기술들이 논의 되고 있다.
상술한 논의를 바탕으로, 본 개시는 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치에 관한 것이다.
보다 상세하게는, 엣지 데이터 네트워크가 영상 컨텐츠를 전자 장치로 전송하는 방법 및 전자 장치로 영상 컨텐츠를 제공하는 엣지 데이터 네트워크를 제공한다.
또한, 본 개시는 전자 장치가 엣지 데이터 네트워크로부터 영상 컨텐츠를 수신하는 방법 및 엣지 데이터 네트워크로부터 영상 컨텐츠를 수신하는 전자 장치를 제공한다.
일 실시 예에 의하면, 엣지 데이터 네트워크가 영상 컨텐츠를 전송하는 방법은, 상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보(sensor information)를 획득하는 단계; 상기 엣지 데이터 네트워크와 상기 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하는 단계; 상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별하는 단계; 상기 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및 상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함한다.
이때, 상기 센서 정보는 회전 속도 정보를 더 포함하고, 상기 상태 정보는 연결 장치 상태 정보를 더 포함하고, 상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 비트레이트 또는 소정의 시간당 프레임 수를 식별하는 단계를 더 포함하고, 상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계는, 상기 식별된 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 상기 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다.
제1 부분 영상은 복수의 프레임을 포함하는 VR 시퀀스의 소정의 프레임 인덱스를 가지는 제1 VR 영상 내 부분 영상이며, 상기 제1 부분 영상은 부분 영상의 위치를 나타내는 방위 정보와 관련될 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate), 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우,
상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 소정의 시간당 프레임 수를 식별하는 단계;
상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우,
상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우, 상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계; 및
상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우, 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작고,
상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 비트레이트는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 비트레이트보다 작을 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
상기 센서 정보에 포함된 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기를 식별하는 단계; 및
상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 클 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
상기 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 단계; 및
상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계; 및
제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계;
중 적어도 하나의 단계를 포함하고,
상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 비트레이트가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 비트레이트를 이전보다 작을 수 있다.
상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자 시야각 영상 및 소정의 시간당 프레임 수에 대응하는 여분의 시야각 영상을 포함할 수 있다.
상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 회전 속도 정보의 회전 속도 및 회전 방향 중 적어도 하나에 대응하는 여분의 시야각 영상을 포함할 수 있다.
상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 회전 속도 정보의 회전 속도 및 회전 방향 중 적어도 하나와 소정의 시간당 프레임 수를 기초로 식별된 여분의 시야각 영상을 포함할 수 있다.
상기 여분의 시야각 영상은 상기 시야각 영상을 기준으로 상기 회전 방향에 위치하는 제1 여분 시야각 영상 및 상기 회전 방향과 반대 방향에 위치하는 제2 여분 시야각 영상을 포함하고,
상기 제1 여분 시야각 영상은 상기 제2 여분 시야각 영상보다 클 수 있다.
상기 제1 부분 영상은 소정의 시야각 범위의 데이터 단위로 구성되고,
상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계는,
상기 제1 부분 영상 중 상기 사용자 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제1 데이터 단위 및 상기 제1 부분 영상 중 상기 여분의 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제2 데이터 단위를 부호화하는 단계; 및
상기 부호화된 제1 데이터 단위 및 제2 데이터 단위를 포함하는 상기 제1 프레임을 생성하는 단계를 포함할 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같고, 상기 회전 속도 정보의 회전 속도가 제3 임계값보다 큰 경우,
상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트 레이트를 식별하고, 상기 제3 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기를 식별하는 단계; 및
상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 크고, 상기 회전 속도 정보의 회전 속도가 제4 임계값보다 작거나 같은 경우,
상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트 레이트를 식별하고, 상기 제4 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기를 식별하는 단계; 중 적어도 하나의 단계를 포함하고,
상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 시간당 프레임 수는, 상기 제2 임계값보다 큰 저겅도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트 레이트는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트 레이트보다 작고, 상기 제3 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기는 상기 제4 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 크고,
상기 제1 부분 영상은 상기 방위 정보에 대응하는 시야각 영상 및 상기 회전 속도에 대응하는 여분의 시야각 영상을 포함하고,
상기 여분의 시야각 영상은 상기 회전 속도를 기초로, LUT 형태(Look Up Table)로 미리 설정된 여분의 시야각을 획득하고, 상기 획득된 시야각을 기초로 식별될 수 있다.
일 실시 예에 의하면, 전자 장치로 영상 컨텐츠를 전송하는 엣지 데이터 네트워크는,
네트워크 인터페이스;
하나 이상의 인스트럭션들을 저장하는 메모리;
상기 하나 이상의 인스트럭션들을 실행하는 프로세서;를 포함하고,
상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보(sensor information)를 획득하고,상기 엣지 데이터 네트워크와 상기 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하고,상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별하고,
상기 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하고, 상기 생성된 제1 프레임을 상기 전자 장치로 전송한다.
상기 센서 정보는 회전 속도 정보를 더 포함하고,
상기 상태 정보는 연결 장치 상태 정보를 더 포함하고,
상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써, 상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 비트레이트 또는 소정의 시간당 프레임 수를 더 식별하고,
상기 제1 부분 영상을 부호화하여 제1 프레임을 생성할 때, 상기 식별된 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 상기 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우,
상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 소정의 시간당 프레임 수를 식별하는 동작; 및
상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우, 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 동작; 중 적어도 하나의 동작을 수행하고,상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 비트 레이트를 식별하는 동작; 및
상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우, 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 동작 중 적어도 하나의 동작을 수행하고,
상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 비트 레이트는 상기 제2 임계값보다 작은 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 클 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
상기 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기를 식별하는 동작; 및
상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기를 식별하는 동작 중 적어도 하나의 동작을 수행하고,
상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기는
상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 클 수 있다.
상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
상기 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 동작; 및
상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 동작 중 적어도 하나의 동작을 수행하고,
상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 비트 레이트는 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 클 수 있다.
상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자의 시야각 영상 및 소정의 시간당 프레임 수에 대응하는 여분의 시야각 영상을 포함할 수 있다.
일 실시에에 의한, 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체는
엣지 데이터 네트워크가
상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보(sensor information)를 획득하는 단계;
상기 엣지 데이터 네트워크와 상기 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하는 단계;
상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별하는 단계;
상기 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및
상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함하는, 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한다.
개시된 실시 예는 엣지 데이터 네트워크 및 전자 장치 사이에서 영상 컨텐츠를 기초로 효과적으로 동작을 수행할 수 있는 방법을 제공한다.
도 1은 본 개시의 일 실시 예에 따른 네트워크 환경에서 MEC(multi-access edge computing) 기술을 설명하기 위해 개략적으로 도시하는 도면이다.
도 2는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 사용자 시점(시야 방향), 상태 파라메터 및 회전 속도를 고려하여, 여분의 시야각 영상을 포함하는 확장된(Extended) Fov(Field of View) 영상을 적응적으로 스트리밍하는 방법을 설명하기 위한 도면이다.
도 3는 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 4는 전자 장치와 엣지 데이터 네트워크(edge data network) 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
도 5a는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크가 영상 컨텐츠를 스트리밍 하는 방법을 나타내는 흐름도이다.
도 5b는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크(2000)가 상태 정보를 기초로 제1 부분 영상의 부호화 프레임 파라메터를 식별하는 방법을 구체적으로 설명하기 위한 도면이다.
도 5c는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크(2000)가 회전 속도 정보를 기초로 제1 부분 영상의 부호화 프레임 파라메터를 식별하는 방법을 구체적으로 설명하기 위한 도면이다.
도 5d는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크(2000)가 상태 정보 및 회전 속도 정보를 기초로 제1 부분 영상의 부호화 프레임 파라메터를 식별하는 방법을 구체적으로 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따른 전자 장치가 엣지 데이터 네트워크로부터 획득된 영상 컨텐츠를 스트리밍하는 방법을 나타내는 흐름도이다.
도 7은 일 실시예에 따라, 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 8a는 일 실시예예 따라, 적어도 하나의 상태 파라메터가 제1 임계값보다 큰 경우에 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8b는 일 실시예예 따라, 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은 경우에 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8c는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은 경우, 부호화 프레임 파라메터를 적응적으로 변경하는 과정을 설명하기 위한 도면이다.
도 8d는 일 실시예에 따라, 상태 파라메터가 제1 임계값보다 큰 경우, 또는 작거나 같은 경우, 스트리밍되는 부호화 프레임의 파라메터를 도시한 도면이다.
도 9는 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 10a는 일 실시예예 따라, 사용자가 착용한 전자 장치(1000)의 회전속도가 제1 임계값보다 작거나 같은 경우, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 10b는 일 실시예예 따라, 사용자의 머리에 착용한 전자 장치(1040)의 회전속도가 제1 임계값보다 큰 경우에 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 11은 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 회전 속력이 제1값(빠른 속력)을 갖는 경우에 부호화 프레임의 좌우 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 12는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 회전 속력이 제2값(느린 속력)인 경우. 좌우 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 13은 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 회전 속도가 제1값(빠른 속력)인 경우, 엣지 데이터 네트워크(2000)가 FPS를 낮게 설정한 후에, 좌우 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 14는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 객체 감지를 기초로 추가 여분의 시야각 영역을 식별하는 과정을 설명하기 위한 도면이다.
도 15는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 여러 조각의 데이터 단위를 기초로, 제1 부분 영상을 전자 장치(1000)로 전송하는 과정을 설명하기 위한 도면이다.
도 16은 전자 장치와 엣지 데이터 네트워크(edge data network) 및 VR 게이밍 인터페이스 장치 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
도 17은 본 개시의 일 실시 예에 따른 전자 장치의 블록도이다.
이하, 본 개시의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.
실시 예를 설명함에 있어서 본 개시가 속하는 기술 분야에 익히 알려져 있고 본 개시와 직접적으로 관련이 없는 기술 내용에 대해서는 설명을 생략한다. 이는 불필요한 설명을 생략함으로써 본 개시의 요지를 흐리지 않고 더욱 명확히 전달하기 위함이다.
마찬가지 이유로 첨부 도면에 있어서 일부 구성요소는 과장되거나 생략되거나 개략적으로 도시되었다. 또한, 각 구성요소의 크기는 실제 크기를 전적으로 반영하는 것이 아니다. 각 도면에서 동일한 또는 대응하는 구성요소에는 동일한 참조 번호를 부여하였다.
본 개시의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 개시는 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 개시가 완전하도록 하고, 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 본 개시의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 개시는 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
이 때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행 예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
이 때, 본 실시예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA또는 ASIC과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다. 또한 실시예에서 ‘~부’는 하나 이상의 프로세서를 포함할 수 있다.
도 1은 본 개시의 일 실시 예에 따른 네트워크 환경에서 MEC(multi-access edge computing) 기술을 설명하기 위해 개략적으로 도시하는 도면이다.
도 1을 참조하면, 본 개시의 네트워크 환경(100)은 전자 장치(1000), 엣지 데이터 네트워크(2000), 클라우드 서버(3000) 및 액세스 네트워크(access network, AN, 1100)를 포함할 수 있다. 다만, 네트워크 환경(100)이 포함하는 구성이 이에 제한되는 것은 아니다.
일 실시예에 따르면, 네트워크 환경(100)에 포함되는 구성요소들 각각은 물리적인 객체(entity) 단위를 의미하거나, 개별적인 기능(function)을 수행할 수 있는 소프트웨어 또는 모듈 단위를 의미할 수 있다.
일 실시예에 따르면, 전자 장치(1000)는 사용자에 의해 사용되는 장치를 의미할 수 있다. 예를 들면, 전자 장치(1000)는 단말(terminal), 사용자 단말(UE, user equipment), 이동국(mobile station), 가입자국(subscriber station), 원격 단말(remote terminal), 무선 단말(wireless terminal), 또는 사용자 장치(user device)를 의미할 수 있다.
또한, 전자 장치(1000)는 가상 현실(Virtual Reality, VR), 증강 현실(Augmented Reality, AR), 또는 혼합 현실(Mixed Reality, MR) 중 적어도 하나를 포함하는 가상 환경에 사용자가 몰입(immersed) 하도록 하기 위한, 컨텐츠를 제공하는 단말일 수 있다. 즉, 일 실시 예에 의하면, 전자 장치(1000)는 가상 현실, 증강 현실 또는 혼합 현실을 위한 컨텐츠를 제공하는 헤드 마운트 디스플레이(Head Mounted Display, HMD) 또는 가상 현실 헤드셋(Virtual Reality Headset, VRH)일 수 있다.
도 1을 참조하면, 전자 장치(1000)는 제1 애플리케이션 클라이언트(또는, 애플리케이션 클라이언트)(122), 제2 애플리케이션 클라이언트(124) 및 엣지 인에이블러 클라이언트(edge enabler client)(또는, MEL(MEC enabling layer))(130)를 포함할 수 있다. 전자 장치(110)는 MEC 서비스의 사용을 위하여 엣지 인에이블러 클라이언트(130)를 이용하여 필요한 작업을 수행할 수 있다. 엣지 인에이블러 클라이언트(130)에 대한 구체적인 설명은 후술된다.
일 실시예에 따르면, 전자 장치(1000)는 복수의 애플리케이션들을 실행할 수 있다. 예를 들면, 전자 장치(1000)는 제1 애플리케이션 클라이언트(122) 및 제2 애플리케이션 클라이언트(124)를 실행할 수 있다. 복수의 애플리케이션들은 요구되는 데이터 전송 속도, 지연 시간(또는 속도)(latency), 신뢰성(reliability), 네트워크에 접속(access)된 전자 장치의 수, 전자 장치(110)의 네트워크 접속 주기, 또는 평균 데이터 사용량 중 적어도 하나에 기반하여 서로 다른 네트워크 서비스를 요구(require)할 수 있다. 서로 다른 네트워크 서비스는, 예를 들어, eMBB(enhanced mobile broadband), URLLC(ultra- reliable and low latency communication), 또는 mMTC(massive machine type communication)를 포함할 수 있다.
전자 장치(1000)의 애플리케이션 클라이언트는 전자 장치(1000)에 미리 설치된 기본 애플리케이션 또는 제 3자가 제공하는 애플리케이션을 의미할 수 있다. 즉, 특정 응용 서비스를 위하여 전자 장치(1000) 내에서 구동되는 클라이언트(client) 응용 프로그램을 의미할 수 있다. 전자 장치(1000) 내에는 여러 애플리케이션 클라이언트들이 구동될 수 있다. 이 애플리케이션 클라이언트들 중 적어도 하나 이상은 엣지 데이터 네트워크(2000)로부터 제공되는 서비스를 사용할 수 있다. 예를 들면, 애플리케이션 클라이언트는 전자 장치(1000)에 설치되어 실행되는 애플리케이션으로서, 엣지 데이터 네트워크(2000)를 통해 데이터를 송수신하는 기능을 제공할 수 있다. 전자 장치(1000)의 애플리케이션 클라이언트는, 하나 이상의 특정 엣지 애플리케이션들에 의해 제공된 기능을 이용하기 위해, 전자 장치(1000) 상에서 실행되는 애플리케이션 소프트웨어를 의미할 수 있다.
일 실시예에 따르면, 전자 장치(1000)의 복수의 애플리케이션들(122, 124)은 요구되는 네트워크 서비스 타입에 기반하여 클라우드 서버(3000)와 데이터 전송을 수행하거나, 또는 엣지 데이터 네트워크(2000)와 엣지 컴퓨팅에 기반한 데이터 전송을 수행할 수 있다. 예를 들어, 제1 애플리케이션 클라이언트(122)가 낮은 지연 시간을 요구하지 않으면, 제1 애플리케이션 클라이언트(122)는 클라우드 서버 (3000)와 데이터 전송을 수행할 수 있다. 다른 예를 들어, 제2 애플리케이션 클라이언트(124)가 낮은 지연 시간을 요구하면, 제2 애플리케이션 클라이언트(124)는 엣지 데이터 네트워크(2000)와 MEC 기반 데이터 전송을 수행할 수 있다.
일 실시예에 따르면, 전자 장치(1000)의 애플리케이션은, 애플리케이션 클라이언트(application client), 클라이언트 애플리케이션(client application, Client App), UE 애플리케이션(UE App)으로 지칭될 수 있다. 편의를 위해, 이하, 본 개시에서는 전자 장치(1000)의 애플리케이션은 애플리케이션 클라이언트로 지칭된다.
일 실시예에 따르면, 엑세스 네트워크(1100)는 전자 장치(1000)와의 무선 통신을 위한 채널(channel)을 제공할 수 있다. 예를 들면, 엑세스 네트워크(1100)는 RAN(radio access network), 기지국(base station), 이노드비(eNB, eNodeB), 5G 노드(5G node), 송수신 포인트(TRP, transmission/reception point), 또는 5GNB(5th generation NodeB)를 의미할 수 있다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)는 전자 장치(1000)가 MEC 서비스를 이용하기 위하여 접속하는 서버를 의미할 수 있다. 엣지 데이터 네트워크(2000)는 전자 장치와 지리적으로 가까운 위치, 예를 들어, 기지국 내부 또는 기지국 근처에 설치될 수 있다. 일 실시예에 따르면, 엣지 데이터 네트워크(2000)는 외부 데이터 네트워크(data network, DN)(예: 인터넷)를 통하지 않고, 전자 장치(1000)와 데이터를 송수신할 수 있다. 일 실시 예에서, MEC는 multi-access edge computing 또는 mobile-edge computing로 지칭될 수 있다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)는, MEC 호스트(host), 엣지 컴퓨팅 서버(edge computing server), 모바일 엣지 호스트(mobile edge host), 엣지 컴퓨팅 플랫폼(edge computing platform), MEC 서버 등으로 지칭될 수 있다. 편의를 위해, 이하, 본 개시에서는 MEC 서버는 엣지 데이터 네트워크(2000)로 지칭된다. 도 1을 참조하면, 엣지 데이터 네트워크(2000)는, 제1 엣지 애플리케이션(edge application)(142), 제2 엣지 애플리케이션(144) 및 엣지 인에이블러 서버(또는, MEP(MEC platform))(146)를 포함할 수 있다. 엣지 인에이블러 서버(146)는 엣지 데이터 네트워크(2000)에서 MEC 서비스를 제공하거나 트래픽 제어 등을 수행하는 구성으로, 엣지 인에이블러 서버(146)에 대한 구체적인 설명은 후술된다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)는 복수의 애플리케이션들을 실행할 수 있다. 예를 들면, 엣지 데이터 네트워크(2000)는 제1 엣지 애플리케이션(142) 및 제2 엣지 애플리케이션(144)을 실행할 수 있다. 일 실시예에 따르면, 엣지 에플리케이션은 MEC 서비스를 제공하는 엣지 데이터 네트워크 내 제 3자가 제공하는 응용 애플리케이션을 의미할 수 있고, 엣지 애플리케이션으로 지칭될 수도 있다. 엣지 애플리케이션은 애플리케이션 클라이언트와 관련된 데이터를 송수신하기 위하여, 애플리케이션 클라이언트와 데이터 세션을 형성하는데 이용될 수 있다. 즉, 엣지 애플리케이션은 애플리케이션 클라이언트와 데이터 세션을 형성할 수 있다. 일 실시예에서, 데이터 세션은, 전자 장치(1000)의 애플리케이션 클라이언트와 엣지 데이터 네트워크(2000)의 엣지 애플리케이션이 데이터를 송수신하기 위하여 형성되는 통신 경로를 의미할 수 있다.
일 실시예에 따르면, 엣지 데이터 네트워크(2000)의 애플리케이션은, MEC 애플리케이션(MEC App), ME(MEC) App, 엣지 애플리케이션 서버(edge application server) 및 엣지 애플리케이션으로 지칭될 수 있다. 편의를 위해, 이하, 본 개시에서는 엣지 데이터 네트워크(2000)의 애플리케이션은 엣지 에플리케이션으로 지칭된다. 이때, 애플리케이션으로 기재되었으나, 엣지 애플리케이션은 엣지 데이터 네트워크에 존재하는 애플리케이션 서버를 의미할 수 있다.
일 실시예에 따르면, 클라우드 서버(3000)는 애플리케이션과 관련된 컨텐츠를 제공할 수 있다. 예를 들어, 클라우드 서버(3000)는 컨텐츠 사업자에 의하여 관리될 수 있다. 일 실시예에 따르면, 클라우드 서버(3000)는 외부 데이터 네트워크(data network, DN)(예: 인터넷)를 통해서, 전자 장치(1000)와 데이터를 송수신할 수 있다.
도 1에는 도시되지 아니하였으나, 엑세스 네트워크(1100)와 엣지 데이터 네트워크(2000) 사이에 코어 네트워크(core network, CN) 및 데이터 네트워크(data network, DN)가 존재할 수 있다. 일 실시예에 따르면, 데이터 네트워크는 코어 네트워크 및 엑세스 네트워크(1100)를 통해, 전자 장치(1000)에게 데이터(또는 데이터 패킷)를 송수신함으로써 서비스(예: 인터넷 서비스, IMS(IP multimedia subsystem) 서비스)를 제공할 수 있다. 예를 들어, 데이터 네트워크는 통신 사업자에 의하여 관리될 수 있다. 일 실시 예에서, 엣지 데이터 네트워크(2000)는 데이터 네트워크(예: 로컬(local) DN)를 통해 엑세스 네트워크(1100) 또는 코어 네트워크와 연결될 수 있다.
본 개시의 일 실시예에 따르면, 전자 장치(1000)에서 제1 애플리케이션 클라이언트(122) 또는 제2 애플리케이션 클라이언트(124)가 실행되는 경우, 전자 장치는 엑세스 네트워크(1100)를 통해 엣지 데이터 네트워크(2000)에 접속함으로써, 애플리케이션 클라이언트를 실행시키기 위한 데이터를 송수신할 수 있다.
본 개시에서는, 상술된 전자 장치(1000), 엣지 데이터 네트워크(2000) 및 클라우드 서버(3000) 사이의 영상 컨텐츠를 스트리밍하는 방법이 제공될 수 있다. 보다 상세하게는, 전자 장치(1000)에서 재생되는 영상에 대한 사용자의 인터랙션 정보에 기초하여, 가상 현실, 증강 현실 또는 혼합 현실을 위한 컨텐츠를 사용자에게 효과적으로 제공하기 위한 방법이 설명된다. 이하, 전자 장치(1000)에서 재생된 영상 컨텐츠에 대한 방위 정보 및 상태 정보 및 회전 속도 정보에 기초하여, 엣지 데이터 네트워크(2000)가 영상 컨텐츠를 스트리밍하는 방법의 일 실시 예를 설명한다.
도 2는 본 개시의 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 사용자 시점(시야 방향), 상태 정보 및 회전 속도를 고려하여, 여분의 시야각 영상을 포함하는 확장된(Extended) Fov(Field of View) 영상을 적응적으로 스트리밍하는 방법을 설명하기 위한 도면이다.
도 2를 참조하면, 전자 장치(1000)는 상태 정보, 전자 장치(1000)의 회전 속도 및 사용자의 시야 방향(시점)에 관한 정보(예를 들어, 방위 정보)를 주기적으로, 엣지 데이터 네트워크(2000)의 요청이 있는 경우 또는 그 값에 변화가 있는 경우에, 엣지 데이터 네트워크(2000)로 전송할 수 있다.
여기서, 상태 정보는 네트워크 상태 정보와 연결 장치 상태 정보 중 적어도 하나를 포함할 수 있다. 또한, 네트워크 상태 정보는 상태 파라메터를 포함할 수 있다.
상태 파라메터는 네트워크의 상황, 엣지 데이터 네트워크(2000)의 상황 또는 전자 장치(1000)의 상황을 고려하여, 네트워크 연결을 통해 데이터의 전송 및 수신 등의 작업 등을 처리할 수 있는 처리량인 쓰루풋(throughput)을 포함할 수 있으나, 이에 제한되지 않는다.
쓰루풋은 앤드-투-앤드(End to End)로 단위 시간당 처리(엣지 데이터 네트워크(2000)의 데이터 관련 작업, 네트워크를 통한 데이터 전송, 전자 장치(1000)의 데이터 관련 작업을 처리)할 수 있는 데이터의 양을 의미할 수 있다. 예를 들어, 쓰루풋은 단위시간당 네트워크에서 전달되는 데이터의 크기나 속도를 의미할 수 있다. 또는 엣지 데이터 네트워크(2000)와 전자 장치(1000)의 작업 처리하는 데이터의 크기나 작업 처리하는 속도를 의미할 수 있다. 쓰루풋은 적어도 하나의 평가 지표(단위시간 당 수신 패킷 수, 바이트 수 또는 비트 수)에 기초하여 식별될 수 있다.
예를 들어, 전자 장치(1000)는 전송 프로토콜을 기반으로 수신 모듈에서 단위 시간당 수신한 데이터 사이즈의 총 합을 측정하고, 측정된 값을 포함하는 쓰루풋 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 다만, 이에 제한되지 않고, 다양한 모듈에서 관련 데이터의 처리량을 측정하고, 이에 관한 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있음을 당업자는 이해할 수 있다.
한편, 연결 장치 상태 정보는 엣지 데이터 네트워크(2000) 및 전자 장치(1000)의 동작(영상 스트리밍)에 필요한 정보일 수 있다. 예를 들어, 연결 장치 상태 정보는 전자 장치(1000)의 캐이퍼빌리티 정보를 포함할 수 있다. 예를 들어, 캐이퍼빌리티 정보는 전자 장치(1000)의 뷰포트 영역의 크기에 관한 정보 등과 같은 전자 장치(1000)의 동작 관련 캐이퍼빌리티를 나타내는 정보일 수 있다.
이때, 방위 정보는 전자 장치(1000)의 센싱 모듈을 이용하여 측정된 전자 장치 사용자가 바라보는 시선의 각도 값들을 포함할 수 있다. 예를 들어, 전자 장치(1000)는 센싱 모듈(예컨대 3축 기울기 센서)를 이용하여 VR 영상 내 특정 부분 영상을 응시하는 사용자 시선의 방위 정보(예컨대, Roll, Pitch, Yaw 값)를 센싱하고, 전자 장치(1000)는 센싱된 방위 정보를 엣지 데이터 네트워크(2000)로 전송함으로써, 현재 전자 장치의 사용자가 VR 영상 내 어떤 부분을 바라보고 있는지에 대한 정보를 엣지 데이터 네트워크(2000)와 공유할 수 있다.
회전 속도 정보는, 전자 장치를 이용하는 사용자 머리의 회전 속도에 관한 정보로, 회전 속력 및 회전 방향에 관한 정보를 포함할 수 있다. 예를 들어, 전자 장치(1000)는 센싱 모듈(예컨데 3축 기울기 센서)를 이용하여 전자 장치의 순간 회전 속도를 센싱할 수 있다. 이때, 회전 속도는 각 각도 성분의 회전 속도에 관한 정보를 포함할 수 있고, 예를 들어, 회전 속도는 Roll, Pitch, Yaw 값의 순간 각속도를 포함할 수 있다.
전자 장치(1000)는 센싱된 회전 속도 정보를 엣지 데이터 네트워크(2000)로 전송함으로써, 현재 전자 장치의 사용자의 머리의 회전 방향 및 회전 속력에 대한 정보(즉, 어느 쪽을 이후에 바라볼 것인지에 대한 사용자의 예측 시선 정보)를 엣지 데이터 네트워크(2000)과 공유할 수 있다.
다만 이에 제한되지 않고, 전자 장치(1000)는 센싱 모듈(예컨데 3축 기울기 센서)를 이용하여 현재 방위 정보를 센싱한 후에, 이전에 측정된 방위 정보와의 차이를 기초로, 전자 장치의 회전 속도를 획득할 수 있다.
한편, 회전 속도 정보는 전자 장치(1000)의 이전 방위 정보를 엣지 데이터 네트워크(2000)와 공유하고 있다면, 전자 장치(1000)는 회전 속도에 관한 정보를 별도로 엣지 데이터 네트워크(2000)에 회전 속도에 관한 정보를 전송하지 않고, 현재 전자 장치의 방위 정보만을 전송할 수 있고, 엣지 데이터 네트워크(2000)는 현재 전자 장치의 방위 정보를 수신하고, 이전에 수신한 전자 장치의 방위 정보와의 차이를 기초로, 현재 전자 장치의 회전 속도 정보를 획득할 수 있다.
엣지 데이터 네트워크(2000)는 상태 파라메터 및 회전 속도에 관한 정보를 기초로, 영상의 비트레이트 및 초당 프레임 수(FPS;Frame Per Second)(240)를 설정하고, 사용자의 시야 방향(시점)에 관한 정보(예를 들어, 방위 정보)를 기초로, 사용자 시야각 영상(250)의 크기 및 위치를 식별하고, 상태 파라메터 및 회전 속도에 관한 정보를 기초로 여분의 시야각 영상(255)의 크기 및 위치를 식별하고, 영상의 비트레이트 및 초당 프레임 수 등과 같은 영상 부호화 파라메터를 기초로, 샤용자 시야각 영상(250) 및 여분의 시야각 영상(255)을 부호화하여 전자 장치(1000)로 전송할 수 있다. 여기서 시야각이란, 사용자의 눈으로 볼 수 있는 범위(예를 들어, 각도로 표현되나, 이에 제한되지 않음)를 의미한다. 시야각이 큰 영상의 경우, 사용자의 눈으로 더 넓은 범위를 볼 수 있다.
다만, 사용자가 전자 장치(1000)의 디스플레이를 통해 볼 수 있는 범위는, 전자 장치(1000)의 뷰포트 영역의 크기로 제한될 수 있다. 뷰포트 영역의 크기는 전자 장치(1000)의 디스플레이에서 재생될 수 있는 시야각의 크기(디스플레이 영역의 크기)로, 뷰포트 영역의 크기는 전자 장치(1000)의 캐이퍼빌리티 정보에 따라, 식별될 수 있다. 즉, 뷰포트 영역의 크기는 전자 장치(1000)의 디스플레이에 대한 하드웨어 스펙 중 하나로, 엣지 데이터 네트워크(2000)는 전자 장치(1000)와의 네트워크 연결을 통해 전자 장치(1000)로부터 전자 장치(1000)의 캐이퍼빌리티 정보를 수신하고, 캐이퍼빌리티 정보에 따라, 전자 장치(1000)의 뷰포트 영역의 크기를 식별할 수 있다.
예를 들어, 전자 장치(1000)의 좌우방향의 뷰포트 영역의 크기가 110도, 상하방향의 뷰포트 영역의 크기가 90도인 경우, 전자 장치(1000)는 네트워크 연결을 통해 뷰포트 영역의 크기에 관한 정보를 포함하는 전자 장치(1000)의 캐이퍼빌리티 정보를 엣지 데이터 네트워크(2000)로 전송하고, 엣지 데이터 네트워크(2000)는 캐이퍼빌리터 정보를 기초로, 좌우방향의 뷰포트 영역의 크기가 110도이고, 상하방향의 뷰포트 영역의 크기가 90도임을 식별할 수 있다.
따라서, 사용자 시야각(디폴트 시야각)은 사용자가 전자 장치(1000)의 뷰포트 영역을 통해 볼 수 있는 범위를 의미할 수 있다.
여분의 시야각은 시간이 흐름에 따른 사용자의 머리 움직임에 따라 전자 장치(1000)의 방위가 변경됨으로써 사용자가 보고 있는 영상의 범위가 달라지는 경우, 기존 사용자 시야각의 영상만으로는 전자 장치(1000)의 디스플레이를 통해 온전한 영상을 볼 수 없기 때문에, 이러한 점을 고려하여 여분으로 확보(예를 들어, 사용자 시야각 기준 상하좌우 방향으로 여분으로 확보)한 시야각을 의미할 수 있다. 전자 장치(1000)가 부호화된 사용자 시야각 영상만을 복호화하는 경우, 재생 시점의 전자 장치(1000)의 최신 방위 정보가 부호화에 이용된 방위 정보와 상이한 경우라면, 사용자가 바라보는 시점의 영상의 일부가 제대로 복호화되지 않을 수 있고, 따라서, 사용자가 블랙 엣지를 보게 되어 사용자의 몰입을 방해하는 문제점이 있기 때문이다.
전자 장치(1000)에 디스플레이하기 위해 부호화되는 제1 부분 영상의 시야각은 사용자 시야각(디폴트 시야각)과 여분의 시야각을 포함하는, 확장된(Extended) 시야각일 수 있다. 즉, 제1 부분 영상은 사용자 시야각 영상(디폴트 시야각 영상)과 여분의 시야각 영상을 포함하는, 확장된 시야각 영상(Extended FOV(Field Of View) 영상)일 수 있다. 즉, 여분의 시야각을 전송하고, 전자 장치(1000)는 사용자 시야각 영상과 함께 여분의 시야각 영상을 복호화하고, 재생 시점의 전자 장치(1000)의 최신 방위 정보를 이용하여 복호화된 영상에서 재생할 시야각 영상을 식별하고, 해당 시야각 영상을 재생함으로써 블랙 엣지가 발생하지 않도록 할 수 있다.
여분의 시야각 영상은 사용자 시야각 영상을 기준으로 디폴트로 설정된 전 방향의 소정의 시야각에 대응하는 영상일 수 있다. 이에 제한되지 않고, 여분의 시야각 영상은 상태 파라메터 및 전자 장치(1000)의 회전 속도를 고려하여 적응적으로 식별된 시야각에 대응되는 영상일 수 있다. 상태 파라메터 및 전자 장치(1000)의 회전 속도를 고려함으로써, 네트워크의 상태(또는 연결 장치의 상태)가 좋지 않은 경우(예를 들어, 전자 장치(1000)의 수신모듈에서 측정된 쓰루풋이 낮은 경우)나, 전자 장치(1000)의 회전 속도가 빠른 경우와 같은 최악의 경우에도 재생이 중지되지 않도록 하거나, 재생되는 경우에 사용자가 블랙 에지를 보지 않도록 할 수 있다.
여기서, 초당 프레임 수는 초당 재생되는 프레임의 수를 의미하고, 그 값이 클수록 영상이 자연스럽게 재생된다고 느낄 수 있고, 작을수록 영상이 부자연스럽게 끊기면서 재생된다고 느낄 수 있다.
영상의 비트 레이트는 영상의 퀄리티(품질)를 나타내는 파라메터 중 하나로, 예를 들어, 초당 부호화되는 영상의 목표 비트 값(또는 바이트, 패킷 값)을 나타낼 수 있다. 영상의 해상도(또는 크기)가 동일할 때, 비트 레이트의 값이 크다면, 부호화된 영상의 퀄리티는 비트레이트의 값이 작을 때보다 상대적으로 좋을 수 있다. 영상을 퀄리티를 조절하기 위해 부호화 모듈에 입력되는 파라메터로 이용될 수 있다.
영상의 해상도는 부호화되는 프레임의 픽셀 수를 의미하고, 픽셀의 크기가 동일한 경우, 해상도의 값이 클수록 영상의 크기가 커질 수 있고, 영상의 퀄리티가 상대적으로 좋을 수 있다. 영상의 해상도는 영상의 크기와 관련되고, 따라서, 부호화 모듈에 입력되는 사용자 시야각 영상의 크기 및 여분의 시야각 영상의 크기 중 적어도 하나가 조절되는 경우, 영상의 해상도가 변경된다고 볼 수 있다.
예를 들어, 사용자 시야각 영상의 크기는 뷰 포트 영역의 크기를 고려하여 고정될 수 있고, 여분의 시야각 영상의 크기는 상태 파라메터, 회전 속도에 관한 정보를 기초로 식별될 수 있고, 결과적으로 여분의 시야각 영상의 크기가 커짐에 따라, 영상의 해상도가 커질 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 상태 파라메터 중 적어도 하나의 값이 소정의 임계값 이상(이전 상태)이다가, 소정의 임계값보다 낮아지는 경우(현재 상태), 렌더링할 프레임을 보장(재생 프레임 보장)하기 위해, 영상의 비트레이트, 초당 프레임 수를 이전 상태보다 낮게 설정하고, 변경된 비트레이트, 초당 프레임 수를 고려하여 추가 여분의 시야각 영상을 전송할 수 있다. 초당 프레임 수가 낮아진다면 표시되는 프레임 간의 간격이 커지게 되므로, 그 동안 전자 장치(1000)의 움직임이 발생할 수 있는 시간이 커지게 되고, 따라서, 전자 장치(1000)의 움직임이 발생할 수 있는 시간을 고려하여, 여분의 시야각 영상의 크기가 더 크게 설정될 수 있다.
따라서, 사용자의 몰입에 영향을 미치지 않을 정도의 MTP(Motion To Photon) 레이턴시를 지속적으로 보장 받을 수 있다.
MTP 레이턴시는 전자 장치(1000)의 센싱 모듈을 통해 획득되고 엣지 데이터 네트워크(2000)로 전송된 센서 정보(예를 들어, 방위 정보)를 기초로 엣지 데이터 네트워크(2000)는 사용자의 움직임(예를 들어, 사용자의 시선의 움직임)을 식별하고, 엣지 데이터 네트워크(2000)는 센서 정보를 기초로, VR 영상 중 부분 영상의 프레임을 제공하고, 전자 장치(1000)가 제공받은 부분 영상의 프레임을 복호화 및 렌더링한 후에 렌더링된 프레임을 디스플레이에 표시하기까지의 시간을 의미할 수 있다.
즉, 네트워크 상태 또는 연결 장치의 상태가 좋지 않은 경우(예를 들어, 네트워크가 혼잡한 경우), 퀄리티가 좋은 영상을 부호화 및 전송하게 되면, 레이턴시가 커지게 되기 때문에, 영상 전송이 지연됨에 따라, 사용자의 몰입에 영향을 미칠 수 있으므로, 레이턴시를 줄이기 위해, 영상의 비트레이트를 낮춤으로써 부호화되는 영상의 퀄리티를 낮추고, 초당 프레임 수를 낮춤으로써 영상의 퀄리티를 낮출 수 있다. 다만, 초당 프레임 수가 변경되었음에도 이전 상태와 동일한 크기의 여분의 시야각 영상을 수신하게 된다면, 재생 시점의 전자 장치(1000)의 최신 방위 정보에 따라 업데이트된 방위 정보가 이전의 방위 정보와 차이가 많이 나게 됨으로 인하여, 블랙 엣지를 보게 될 가능성이 높아질 수 있으므로, 초당 프레임 수를 고려하여 여분의 시야각 영상의 크기가 크게 설정됨으로써, 블랙 엣지를 최소화할 수 있다.
즉, 엣지 데이터 네트워크(2000)는 그 다음 방위 정보에 기초한 그 다음 프레임(예를 들어, 제2 프레임)을 수신하기 전까지, 센싱 모듈로부터 획득된 최신 방위 정보를 기초로, 제1 프레임으로부터 획득된 제1 부분 영상(200)으로부터 최신 사용자 시야각 영상을 획득할 수 있다. 따라서, 엣지 데이터 네트워크(2000)는 제2 프레임을 수신하기 전까지의 레이턴시(MTP 레이턴시; Motion to Photon Latency)가 실질적으로 커지더라도, 여분의 시야각 영상을 기초로 하는 로컬 프로세싱(Local Processing)을 통하여 사용자가 블랙 엣지(Black Edge)를 보지 않게 할 수 있고, 따라서, 제2 프레임을 수신하기까지 시간을 길게 확보가능하기 때문에, 실질적으로 MTP 레이턴시를 보장받을 수 있게 된다.
또는, 예를 들어, 엣지 데이터 네트워크(2000)는 전자 장치(1000)의 회전 속도가 소정의 임계값보다 큰 경우에는, 추가 여분의 시야각 영상을 전송할 수 있다.
즉, 전자 장치(1000)의 회전 속도가 빠른 경우, 재생 시점의 방위 정보와 부분 영상의 부호화 시점에 이용되는 방위 정보의 차이가 커지게 되기 때문에, 여분의 사야각 영상의 크기가 충분히 확보되지 않은 경우, 사용자가 블랙 엣지를 볼 가능성이 높아지므로, 사용자의 몰입을 방해할 수 있다. 이 경우, 엣지 데이터 네트워크(2000)는 여분의 시야각 영상의 크기를 크게 설정함으로써 블랙 엣지의 발생을 최소화할 수 있다. 다만, 여분의 시야각 영상의 크기가 커지는 경우, 부호화되는 데이터의 크기가 커지고, 따라서, MTP 레이턴시가 다소 커지고 대역폭이 커질 수 있다.
MTP 레이턴시를 줄이고, 대역폭을 감소시키기 위해, 영상의 비트레이트를 감소시킬 수 있다. 또한, 영상의 초당 프레임 수를 감소시킬 수 있다. 영상의 초당 프레임 수를 감소시킨 경우, 표시되는 프레임의 간격이 넓어짐에 따라, 재생 시점 직전까지 움직임이 발생할 수 있는 시간이 커질 수 있음을 고려하여, MTP 레이턴시를 보장받기 위해 여분의 시야각 영상의 크기가 추가적으로 크게 설정될 수 있다. 또한, 전자 장치(1000)의 회전 속도를 기초로 현재 이후의 사용자의 시점을 예측할 수 있기 때문에, 회전 방향으로 여분의 시야각 영상을 더 확보함으로써, 블랙 에지의 발생 가능성을 최소화하면서도, 부호화되는 영상의 데이터의 크기가 적절하게 커지게 함으로써, 대역폭(Bandwidth) 및 MTP 레이턴시를 보장받을 수 있다.
도 3는 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 3를 참조하면, S300 단계에서, 엣지 데이터 네트워크(2000)는 전자 장치(1000)와 네트워크 연결을 수립하고, 엣지 데이터 네트워크(2000) 및 전자 장치(1000)의 동작에 필요한 연결 장치 상태 정보를 서로 공유할 수 있다. 이때, 상태 정보는 초기에만 공유될 수 있으나, 주기적으로 공유되거나, 비주기적으로 요청에 따라 또는 변화가 있는 경우에만 공유 될 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 전자 장치(1000)의 캐이퍼빌리티 정보를 수신할 수 있다. 예를 들어, 캐이퍼빌리티 정보는 전자 장치(1000)의 뷰포트 영역의 크기에 관한 정보 등과 같은 전자 장치(1000)의 동작 관련 캐이퍼빌리티를 나타내는 정보일 수 있다.
이에 제한되지 않고, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 쓰루풋 정보를 수신할 수 있다. 예를 들어, 쓰루풋 정보는 수신 모듈에서 단위 시간당 수신하는 데이터의 양에 관한 정보일 수 있다. 또는, 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 레이턴시 정보를 획득할 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 전자 장치(1000)의 요청에 따라 소정의 데이터를 전송하고, 전자 장치(1000)는 소정의 데이터를 수신하고, 이때, 전자 장치(1000)의 수신 모듈에서 네트워크 레이턴시를 측정하고, 전자 장치(1000)는 네트워크 레이턴시에 관한 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다.
S302 단계에서, 전자 장치(1000)는 방위 정보 및 회전 속도 정보 중 적어도 하나를 포함하는 센서 정보를 획득할 수 있다. 방위 정보는, 각도 성분을 나타내는 정보일 수 있다. 회전 속도 정보는 센싱 모듈로부터 직접 획득되거나, 이미 센싱 모듈로부터 획득된 현재 시점의 방위 정보와 이전 시점의 방위 정보와의 차이를 기초로 획득될 수 있다.
S304 단계에서, 전자 장치(1000)는 방위 정보 및 회전 속도 정보 중 적어도 하나를 포함하는 센서 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 전자 장치(1000)는 주기적으로 센서 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있으나, 이에 제한되지 않고, 비주기적으로 전송할 수 있다. 예를 들어, 전자 장치(1000)는 엣지 데이터 네트워크(2000)의 요청이 있거나, 센서 정보의 값에 변화가 있는 경우에만 센서 정보를 전송할 수 있다
S306 단계에서, 엣지 데이터 네트워크(2000)는 방위 정보를 기초로 사용자 시야각 영상을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 수신한 방위 정보를 기초로 사용자 시야각 영상의 위치를 식별할 수 있다.
S308 단계에서, 엣지 데이터 네트워크(2000)는 네트워크 상태 정보 및 연결 장치 상태 정보 중 적어도 하나를 포함하는 상태 정보 및 회전 속도 정보 중 적어도 하나를 기초로, 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 수 있다. 이때, 제1 부분 영상의 기준 좌표 위치는 방위 정보에 대응되고, 사용자 시야각 영상의 기준 좌표 위치도 방위 정보에 대응되므로, 제1 부분 영상의 기준 좌표 위치(예를 들어, 영상 중심 좌표 위치)는 사용자 시야각 영상의 기준 좌표 위치(예를 들어, 영상 중심 좌표 위치)와 동일할 수 있으나, 이에 제한되지 않는다. 예를 들어, 영상의 기준 좌표 위치가 영상의 좌측 상단 위치를 나타내는 경우, 제1 부분 영상의 기준 좌표 위치와 사용자 시야각 영상의 기준 좌표 위치는 달라질 수 있다.
회전 속도 정보는 별도로 회전 속도 정보를 전자 장치(1000)로부터 수신하지 않는 경우에는, 현재 획득된 방위 정보와 이전에 획득된 방위 정보의 차이를 기초로, 획득될 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 네트워크 상태 및 연결 장치 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같은 경우, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 크기 및 소정의 프레임 수를 식별할 수 있다. 이때, 제1 임계값은, 현재 시점 이전의 적어도 하나의 상태 파라메터가 제1 임계값보다 큰 경우를 전제로 설정된 값일 수 있다.
엣지 데이터 네트워크(2000)는 상태 정보에 포함된 적어도 하나의 상태 파라메터 값이 제2 임계값보다 큰 경우, 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 크기 및 소정의 시간당 프레임 수를 식별할 수 있다. 이때, 제2 임계값은, 현재 시점 이전의 적어도 하나의 상태 파라메터가 제2 임계값보다 작거나 같은 경우를 전제로 설정된 값일 수 있다. 제1 임계값은 제2 임계값과 값이 동일할 수 있으나, 이제 제한되지는 않는다.
이때, 제1 임계값보다 작거나 같은, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 크기는 제2 임계값보다 큰, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 크기보다 클 수 있다.
한편, 제1 임계값보다 작거나 같은, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수는 제2 임계값보다 큰, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다.
이때, 제1 부분 영상은 방위 정보에 대응하는 사용자의 시야각 영상과, 소정의 시간당 프레임 수에 대응하는 여분의 시야각 영상을 포함할 수 있다. 사용자 시야각 영상은 전자 장치(1000)의 뷰포트 영역의 크기에 관한 정보를 기초로 획득될 수 있다. 또한, 여분의 시야각 영상은 소정의 시간당 프레임 수에 대응될 수 있고, 소정의 시간당 프레임 수가 소정의 제1값(예를 들어, 60fps)인 경우, 제1 여분 시야각 영상의 크기는, 소정의 시간당 프레임 수가 소정의 제1값보다 작은 소정의 제2값(예를 들어, 30fps)인 경우의 제2 여분의 시야각 영상의 크기보다 작을 수 있다.
한편, 엣지 데이터 네트워크(2000)는 상태 정보를 기초로, 제1 부분 영상의 비트레이트를 추가적으로 식별할 수 있다.
엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같은 경우, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트레이트를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 큰 경우, 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트레이트를 식별할 수 있다.
제1 임계값보다 작거나 같은, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트레이트는 제2 임계값보다 큰, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트레이트보다 작을 수 있다.
엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기를 식별할 수 있다.
한편, 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기를 식별할 수 있다.
이때, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기는 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 클 수 있다.
일 실시예에 의하면, 제1 부분 영상은 방위 정보에 대응하는 (사용자) 시야각 영상 및 회전 속도 정보의 회전 속력 및 회전 방향 중 적어도 하나에 대응하는 여분의 시야각 영상을 포함할 수 있다.
또는, 일 실시에 의하면, 제1 부분 영상은 방위 정보에 대응하는 시야각 영상 및 회전 속도의 회전 속력 및 회전 방향 중 적어도 하나와 소정의 시간당 프레임 수를 기초로 식별된 여분의 시야각 영상을 포함할 수 있다. 이때, 소정의 시간당 프레임 수는 회전 속도를 기초로 식별될 수 있으나, 이에 제한되지 않는다.
한편, 여분의 시야각 영상은 시야각 영상을 기준으로 회전 방향에 위치하는 제1 여분 시야각 영상 및 회전 방향과 반대 방향에 위치하는 제2 여분 시야각 영상을 포함하고, 제1 여분 시야각은 제2 여분의 시야각 영상보다 클 수 있다. 즉, 시야각 영상을 기준으로 회전 방향에 위치하는 시야각 영상의 크기가 반대 방향에 위치하는 시야각 영상의 크기보다 더 크게 식별(즉, 비대칭적으로 시야각 영상이 식별)됨으로써, 여분의 시야각을 적절하게 확보하면서 블랙 엣지가 발생되지 않을 수 있다.
엣지 데이터 네트워크(2000)는 회전 속도 정보를 기초로, LUT 형태(Look Up Table)로 미리 설정된 여분의 시야각을 식별하고, 식별된 시야각을 기초로 여분의 시야각 영상을 식별할 수 있다.
다른 실시예에 의하면, 엣지 데이터 네트워크(2000)는 회전 속도에 따라, 제 1 부분 영상의 크기뿐 아니라, 소정의 시간당 프레임 수를 더 식별할 수 있다.
엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기 및 제1 부분 영상의 소정의 시간당 프레임 수를 식별할 수 있다.
이때, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기는 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 클 수 있다. 또한, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수는 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다.
다른 실시예에 의하면, 엣지 데이터 네트워크(2000)는 회전 속도에 따라, 제1 영상의 비트레이트를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 회전 속도가 제1 임계값보다 큰 경우, 제1 임계값보다 큰 회전 속도에 대응하는 제1 영상의 비트레이트를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 영상의 비트레이트를 식별할 수 있다.
이때, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 비트레이트는 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 비트레이트보다 작을 수 있다.
일 실시에에 의하면, 엣지 데이터 네트워크(2000)는 상태 정보와 회전 속도 정보를 종합적으로 고려하여, 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같고, 회전 속도 정보의 회전 속도가 제3 임계값보다 큰 경우, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트를 식별할 수 있다. 또한, 엣지 데이터 네트워크(2000)는 제3 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 크고, 회전 속도 정보의 회전 속도가 제4 임계값보다 작거나 같은 경우, 제2 임계값보다 큰 적어도 하나의 적어도 하나의 파라메터에 대응하는 소정의 시간당 프레임 수 및 비트레이트를 식별할 수 있다. 또한, 엣지 데이터 네트워크(2000)는 제4 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기를 식별할 수 있다.
이때, 제1 임계값보다 작거나 같은, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트는 제2 임계값보다 큰, 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트보다 작을 수 있다.
이때, 제3 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기는 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 클 수 있다.
이상, 엣지 데이터 네트워크(2000)가 상태 정보에 대응하는 제1 부분 영상의 비트레이트 및 소정의 시간당 프레임 수를 식별하고, 회전 속도 정보에 대응하는 제1 부분 영상의 크기를 식별하는 내용을 설명하였으나, 일 실시예에 불과하고, 이에 제한되지 않고, 상태 정보와 회전 속도 정보를 종합적으로 고려하여, 상태 정보 및 회전 속도 정보에 대응하는 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 수 있음을 이해할 수 있다.
S310 단계에서, 엣지 데이터 네트워크(2000)는 S308 단계에서 식별한 제1 부분 영상의 크기, 위치,비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다.
S312 단계에서, 엣지 데이터 네트워크(2000)는 S310 단계에서 생성된 제1 프레임을 전자 장치(1000)로 전송할 수 있다.
S314 단계에서, 전자 장치(1000)는 엣지 데이터 네트워크(2000)로부터 수신한 제1 프레임을 복호화하여 제1 부분 영상을 복원할 수 있다. 이때, 복원된 제1 부분 영상은 여분의 시야각 영상을 포함할 수 있다.
S316 단계에서, 전자 장치(1000)는 복원된 제1 부분 영상을 재생할 수 있다. 이때, 재생 시점의 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부의 영상을 획득하고, 획득된 일부의 영상을 재생할 수 있다.
도 4는 전자 장치와 엣지 데이터 네트워크(edge data network) 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
일 실시 예에 의하면, 전자 장치(1000)는 센싱 모듈(410), 네트워크 인터페이스(420), 프로세서(430) 및 메모리(440)를 포함할 수 있다. 그러나, 전자 장치의 구성은 전술한 바에 한정되지 않고, 더 많은 구성을 포함하거나 적은 구성을 포함할 수 있다.
전자 장치(1000)는 엣지 데이터 네트워크(2000) 또는 클라우드 서버(3000)로부터 수신된 영상들을 디코딩하고, 디코딩된 영상들을 전자 장치의 디스플레이에 표시할 수 있다. 또한, 전자 장치(1000)는 센싱 모듈(410)을 이용하여, 재생된 영상들에 대한 방위 정보 및 회전 속도 정보 중 적어도 하나를 포함하는 센서 정보를 획득할 수 있다. 방위 정보는 센싱 모듈을 이용하여 측정된 전자 장치 사용자가 바라보는 시선의 각도 값들을 포함할 수 있다. 회전 속도 정보는, 센싱 모듈을 이용하여 측정된 전자 장치 사용자가 바라보는 시선의 각도 값들의 순간 변화량들을 포함할 수 있다.
전자 장치(1000)는 네트워크 인터페이스(420)를 이용하여 방위 정보 및 회전 속도 정보(452) 중 적어도 하나를 포함하는 센서 정보를 엣지 데이터 네트워크(2000)로 전송한다. 이때, 전자 장치(1000)는 방위 정보와 회전 속도 정보가 센싱되었을 때의 프레임 인덱스 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 이에 제한되지 않고, 방위 정보와 회전 속도 정보가 센싱되기 전에 복원된 프레임 중 참조 프레임 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 여기서 프레임 인덱스는 프레임의 부/복호화 순서를 나타내는 정보일 수 있으나, 이에 제한되지 않고 프레임의 렌더링 순서를 나타내는 정보일 수 있다.
프로세서(430)는 메모리(440) 내 하나 이상의 인스트럭션을 실행함으로써 전자 장치(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(430)는 메모리(440)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 센싱 모듈(410), 네트워크 인터페이스(420)을 제어할 수 있다. 일 실시 예에 의하면, 프로세서(430)는 상태 정보 및 회전 속도 정보 중 적어도 하나를 기초로 식별된 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나에 따라, 제1 부분 영상에 대하여 부호화된 제1 프레임을 획득할 수 있다. 이때, 제1 프레임은 I 프레임 또는 P 프레임(또는 B프레임)일 수 있다.
또한, 일 실시예에 의하면, 프로세서(430)는 엣지 데이터 네트워크(2000)로부터 부호화된 프레임(454)를 수신하고, 부호화된 프레임을 기초로 제1 부분 영상을 복호화하여 제1 부분 영상을 복원할 수 있다. 프로세서(430)는 재생 시점의 방위 정보를 획득하고, 획득된 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부를 재생할 수 있다.
일 실시 예에 의하면, 메모리(440)는 엣지 데이터 네트워크(2000)로부터 수신된, 인코딩된 프레임들을 디코딩하기 위한 인스트럭션들을 저장하는 디코더 모듈(442)을 포함할 수 있으나, 이에 한정되는 것은 아니다.
일 실시 예에 의하면, 엣지 데이터 네트워크(2000)는 네트워크 인터페이스(460), 프로세서(470) 및 메모리(480)를 포함할 수 있다. 그러나, 엣지 데이터 네트워크(2000)의 구성은 전술한 바에 한정되지 않고, 더 많은 구성을 포함하거나, 일부 구성이 생략될 수도 있다.
엣지 데이터 네트워크(2000)는 네트워크 인터페이스(460)를 이용하여 전자 장치(1000)로부터 방위 정보 및 회전 속도 정보 중 적어도 하나를 포함하는 센서 정보를 획득하고, 센서 정보 등을 기초로 엣지 데이터 네트워크(2000)에서 부호화된 프레임을 전자 장치로 전송할 수 있다.
프로세서(470)는 메모리(480) 내 하나 이상의 인스트럭션을 실행함으로써 엣지 데이터 네트워크(2000)의 전반적인 동작을 제어한다.
예를 들어, 프로세서(470)는 상태 정보 및 회전 속도 정보 중 적어도 하나를 기초로, 부호화 프레임의 파라메터를 식별할 수 있다. 구체적으로, 프로세서(470)는 상태 정보 및 회전 속도 정보 중 적어도 하나를 기초로, 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 수 있다. 이와 관련하여, 도 4를 참조하여 전술한 바 있으므로, 그 내용은 생략하겠다.
프로세서(470)는 제1 부분 영상의 크기, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 방위 정보에 대응하는 제1 부분 영상을 획득 및 부호화하여, 제1 프레임을 생성할 수 있다.
프로세서(470)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다.
일 실시 예에 의하면, 메모리(480)는 엣지 데이터 네트워크(2000)가 전자 장치(1000)로 전송할 영상들을 인코딩하기 위한 인스트럭션들을 저장하는 인코더 모듈(482) 및 부호화 프레임 파라메터를 식별하기 위한 인스트럭션들을 저장하는 부호화 프레임 파라메터 식별 모듈(484)를 포함하고, VR 시퀀스에 대한 전체 영상 데이터를 포함하는 VR 시퀀스(486)를 저장할 수 있으나, 이에 한정되는 것은 아니다.
예를 들어, 엣지 데이터 네트워크(2000)는 전체 프레임을 포함하는 VR 시퀀스를 데이터 베이스(Data Base, DB)에 저장할 수 있다. 엣지 데이터 네트워크(2000)는 전자 장치(1000)로부터 획득된 방위 정보를 이용하여, 데이터 베이스(DB)에 저장된 VR 시퀀스 중, 사용자 시야각 영상 등을 식별(identify)할 수 있다.
도 5a는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크가 영상 컨텐츠를 스트리밍 하는 방법을 나타내는 흐름도이다.
도 5a를 참조하면, S502 단계에서, 엣지 데이터 네트워크(2000)는 전자 장치로부터 방위 정보를 포함하는 센서 정보를 획득할 수 있다. 센서 정보는 회전 속도 정보를 더 포함할 수 있다.
S503 단계에서, 엣지 데이터 네트워크(2000)는 엣지 데이터 네트워크(2000)와 전자 장치(1000) 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득할 수 있다. 상태 정보는 연결 장치 상태 정보를 더 포함할 수 있다.
S504 단계에서, 엣지 데이터 네트워크(2000)는 센서 정보 및 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별할 수 있다. 엣지 데이터 네트워크(2000)는 센서 정보 및 상태 정보를 기초로, 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 수 있다. 이와 관련하여 상세한 내용은 도 3을 참조하여 전술된 바 있다.
S506 단계에서, 엣지 데이터 네트워크(2000)는 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 방위 정보에 대응하는 제1 부분 영상을 부호화하여 제1 프레임을 생성할 수 있다.
S508 단계에서, 엣지 데이터 네트워크(2000)는 제1 프레임을 전자 장치(1000)로 전송할 수 있다.
도 5b는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크(2000)가 상태 정보를 기초로 제1 부분 영상의 부호화 프레임 파라메터를 식별하는 방법을 구체적으로 설명하기 위한 도면이다.
도 5b를 참조하면, S510 단계에서, 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 네트워크 상태 및 연결 장치 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같은지를 식별할 수 있다.
S512 단계에서, 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같은 경우,
제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트 중 적어도 하나를 식별할 수 있다. 이때, 제1 임계값은 이전의 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 큰 것을 전제로 설정된 값일 수 있고, 결과적으로, 이때, 식별된 제1 부분 영상의 크기는 이전 상태의 제1 부분 영상의 크기보다 클 수 있다. 또한, 식별된 제1 부분 영상의 소정의 시간당 프레임 수는 이전 상태의 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다. 식별된 제1 부분 영상의 비트레이트는 이전 상태의 제1 부분 영상의 비트레이트보다 작을 수 있다.
한편, S514 단계에서, 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 네트워크 상태 및 연결 장치 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 큰지를 식별할 수 있다.
S516 단계에서, 엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 큰 경우,
제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트 중 적어도 하나를 식별할 수 있다.
이때, 제2 임계값은 이전의 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 작거나 같은 것을 전제로 설정된 값일 수 있고, 결과적으로, 이때, 식별된 제1 부분 영상의 크기는 이전 상태의 제1 부분 영상의 크기보다 작을 수 있다. 또한, 식별된 제1 부분 영상의 소정의 시간당 프레임 수는 이전 상태의 제1 부분 영상의 소정의 시간당 프레임 수보다 클 수 있다. 식별된 제1 부분 영상의 비트레이트는 이전 상태의 제1 부분 영상의 비트레이트보다 클 수 있다.
S518 단계에서, 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 네트워크 상태 및 연결 장치 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 큰 경우,
이전 상태와 동일한 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트를 유지할 수 있다.
한편 엣지 데이터 네트워크(2000)는 상태 정보에 포함된 네트워크 상태 및 연결 장치 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 작거나 같은 경우, 이전 상태와 동일한 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트를 유지할 수 있다.
이때, 제1 임계값과 제2 임계값은 상이할 수 있으나, 이에 제한되지 않고, 제1 임계값과 제2 임계값은 동일할 수 있다. 이 경우, S518 단계는 수행되지 않음을 당업자는 이해할 수 있다.
한편, 도 5b를 참조하여, 상기 적어도 하나의 상태 파라메터는 그 값이 커질수록 상태가 좋아지는 파라메터임을 전제로 설명하였으나, 이에 제한되지 않고, 반대의 경우에도, 도 5b를 참조하여 설명한 것과 유사하게 동작할 수 있음을 이해할 수 있다. 예를 들어, BER(Bit Error Rate), Latency와 같은 파라메터들은 그 값이 커질수록 상태가 나빠지는 상태 파라메터일 수 있다.
이때, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 각 부호화 프레임 파라메터들과 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 부호화 프레임 파라메터들 간의 관계가 반대가 될 수 있음을 당업자는 이해할 수 있다.
도 5c는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크(2000)가 회전 속도 정보를 기초로 제1 부분 영상의 부호화 프레임 파라메터를 식별하는 방법을 구체적으로 설명하기 위한 도면이다.
도 5c를 참조하면, S520 단계에서, 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제1 임계값보다 큰지 여부를 식별할 수 있다.
S522 단계에서, 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 제1 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 비트레이트 중 적어도 하나를 식별할 수 있다.
이때, 제1 임계값은 이전의 회전 속도가 제1 임계값보다 작거나 같은 것을 전제로 설정된 값일 수 있고, 식별된 제1 부분 영상의 크기는 이전 상태의 제1 부분 영상의 크기보다 클 수 있다. 또한, 식별된 제1 부분 영상의 소정의 시간당 프레임 수는 이전 상태의 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다. 식별된 제1 부분 영상의 비트레이트는 이전 상태의 제1 부분 영상의 비트레이트보다 작을 수 있다.
S524 단계에서, 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은지 여부를 식별할 수 있다.
S526 단계에서, 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 비트레이트 중 적어도 하나를 식별할 수 있다.
이때, 제2 임계값은 이전의 회전 속도가 제2 임계값보다 큰 것을 전제로 설정된 값일 수 있고, 식별된 제1 부분 영상의 크기는 이전 상태의 제1 부분 영상의 크기보다 작을 수 있다. 또한, 식별된 제1 부분 영상의 소정의 시간당 프레임 수는 이전 상태의 제1 부분 영상의 소정의 시간당 프레임 수보다 클 수 있다. 식별된 제1 부분 영상의 비트레이트는 이전 상태의 제1 부분 영상의 비트레이트보다 클 수 있다.
S528 단계에서, 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제1 임계값보다 작거나 같은 경우, 이전 상태와 동일한 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트를 유지할 수 있다.
한편 엣지 데이터 네트워크(2000)는 회전 속도 정보의 회전 속도가 제2 임계값보다 큰 경우, 이전 상태와 동일한 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트를 유지할 수 있다.
이때, 제1 임계값과 제2 임계값은 상이할 수 있으나, 이에 제한되지 않고, 제1 임계값과 제2 임계값은 동일할 수 있다. 이 경우, S528 단계는 수행되지 않음을 당업자는 이해할 수 있다.
도 5d는 본 개시의 일 실시 예에 따른 엣지 데이터 네트워크(2000)가 상태 정보 및 회전 속도 정보를 기초로 제1 부분 영상의 부호화 프레임 파라메터를 식별하는 방법을 구체적으로 설명하기 위한 도면이다.
도 5d를 참조하면, S530 단계에서, 엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같고, 회전 속도 정보의 회전 속도가 제3 임계값보다 큰 지 여부를 식별할 수 있다.
S532 단계에서, 엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같고, 회전 속도 정보의 회전 속도가 제3 임계값보다 큰 경우, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터 및 제3 임계값보다 큰 회전 속도에 대응하는, 제1 부분 영상의 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트 중 적어도 하나를 식별할 수 있다.
이때, 제1 임계값은 이전의 상태 파라메터 중 적어도 하나의 상태 파라메터의 값이 큰 것을 전제로 설정된 값이고, 제3 임계값은 이전의 회전 속도가 제3 임계값보다 작거나 같은 것을 전제로 설정된 값일 수 있고, 결과적으로, 이때, 식별된 제1 부분 영상의 크기는 이전 상태의 제1 부분 영상의 크기보다 클 수 있다. 또한, 식별된 제1 부분 영상의 소정의 시간당 프레임 수는 이전 상태의 제1 부분 영상의 소정의 시간당 프레임 수보다 작을 수 있다. 식별된 제1 부분 영상의 비트레이트는 이전 상태의 제1 부분 영상의 비트레이트보다 작을 수 있다. 이때, 제1 부분 영상의 크기는 상태 파라메터에 대응하여 식별될 수 있다. 또한, 제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트는 회전 속도에 대응하여 식별될 수 있다. 다만 이에 제한되지 않고, 각 식별 요소들(제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트)은 회전 속도 및 상태 파라메터를 종합적으로 고려하여 식별될 수 있음을 당업자는 이해할 수 있다.
예를 들어, 엣지 데이터 네트워크(2000)는 상태 파라메터 및 회전 속도에 대한 가중치를 부여하고, 가중치를 고려하여, 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트를 식별할 수 있다.
S534 단계에서, 엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 크고, 회전 속도 정보의 회전 속도가 제4 임계값보다 작거나 같은지를 식별할 수 있다.
S536 단계에서, 엣지 데이터 네트워크(2000)는 적어도 하나의 상태 파라메터의 값이 제2 임계값보다 크고, 회전 속도 정보의 회전 속도가 제4 임계값보다 작거나 같은 경우, 제2 임계값보다 큰 적어도 하나의 상태 파라메터 및 제4 임계값보다 작거나 같은 회전 속도에 대응하는, 제1 부분 영상의 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트 중 적어도 하나를 식별할 수 있다.
이때, 제2 임계값은 이전의 적어도 하나의 상태 파라메터의 값이 작거나 같은 것을 전제로 설정된 값이고, 제4 임계값은 이전의 회전 속도가 제4 임계값보다 큰 것을 전제로 설정된 값일 수 있고, 식별된 제1 부분 영상의 크기는 이전 상태의 제1 부분 영상의 크기보다 작을 수 있다. 또한, 식별된 제1 부분 영상의 소정의 시간당 프레임 수는 이전 상태의 제1 부분 영상의 소정의 시간당 프레임 수보다 클 수 있다. 식별된 제1 부분 영상의 비트레이트는 이전 상태의 제1 부분 영상의 비트레이트보다 클 수 있다.
이때, 제1 부분 영상의 크기는 상태 파라메터에 대응하여 식별될 수 있다. 또한, 제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트는 회전 속도에 대응하여 식별될 수 있다. 다만 이에 제한되지 않고, 각 식별 요소들(제1 부분 영상의 소정의 시간당 프레임 수 및 비트레이트)은 회전 속도 및 상태 파라메터를 종합적으로 고려하여 식별될 수 있음을 당업자는 이해할 수 있다.
S538 단계에서, 엣지 데이터 네트워크(2000)는 S530 및 S534 단계의 식별 결과가 No인 경우, 이전 상태와 동일한 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 제1 부분 영상의 비트레이트를 유지할 수 있다. 다만 이에 제한되지 않고, 적어도 하나의 상태 파라메터의 값이 제1 임계값보다 작거나 같은 경우나 회전 속도가 제3 임계값보다 큰 경우에, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는, 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 비트레이트 중 적어도 하나를 식별할 수 있고, 식별되지 않는 나머지 부호화 프레임 파라메터는 이전 상태와 동일하게 유지할 수 있다. 그렇지 않은 경우, 엣지 데이터 네트워크(2000)는 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 비트레이트를 이전과 동일하게 유지할 수 있다.
한편, 제1 임계값과 제2 임계값은 상이하고, 제3 임계값은 제4 임계값과 상이할 수 있으나, 이제 제한되지 않고, 동일한 값을 가질 수 있음을 당업자는 이해할 수 있다.
도 6은 본 개시의 일 실시 예에 따른 전자 장치가 엣지 데이터 네트워크로부터 획득된 영상 컨텐츠를 스트리밍하는 방법을 나타내는 흐름도이다.
S602 단계에서, 전자 장치(1000)는 엣지 데이터 네트워크(2000)로 방위 정보 및 회전 속도 정보 중 적어도 하나를 포함하는 센서 정보를 전송할 수 있다.
S604 단계에서, 전자 장치(1000)는 엣지 데이터 네트워크(2000)로부터, 네트워크 상태 정보 및 장치 상태 정보를 포함하는 상태 정보 및 회전 속도 정보 중 적어도 하나를 기초로 식별된 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나에 따라, 제1 부분 영상에 대하여 부호화된 제1 프레임을 획득할 수 있다.
이때, 엣지 데이터 네트워크(2000)가 상태 정보 및 회전 속도 정보 중 적어도 하나를 기초로 제1 부분 영상의 크기, 위치, 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 내용은 전술한 바 있으므로, 상세한 내용은 생략한다.
S606 단계에서, 전자 장치(1000)는 제1 프레임을 복호화하여 제1 부분 영상을 복원할 수 있다.
S608 단계에서, 전자 장치(1000)는 복원된 제1 부분 영상을 재생할 수 있다. 이때, 전자 장치(1000)는 재생 시점의 방위 정보를 기초로, 복원된 제1 부분 영상 중 일부를 재생할 수 있다.
도 7은 일 실시예에 따라, 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 7을 참조하면, S702 단계에서, 전자 장치(1000)는 방위 정보를 획득할 수 있다. 이때, 전자 장치(1000)는 추가적으로 회전 속도 정보를 획득할 수 있으나, 이에 제한되지 않는다.
S704 단계에서, 전자 장치(1000)는 방위 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 이때, 전자 장치(1000)는 추가적으로 회전 속도 정보를 전송할 수 있다. 방위 정보 및 회전 속도 정보는 주기적으로 획득되어 전송될 수 있으나, 이에 제한되지 않는다.
S706 단계에서, 전자 장치(1000)는 네트워크 상태 및 전자 장치(1000)의 상태 중 적어도 하나의 상태를 포함하는 상태 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 이때, 전송되는 상태 정보는 전자 장치(1000)의 특정 모듈에서 측정된 쓰루풋에 관한 정보일 수 있고, 예를 들어, 수신 모듈에서 측정된 단위 시간당 수신 패킷의 수, 비트의 수와 같은 단위 시간당 수신 데이터의 크기 등에 관한 정보가 엣지 데이터 네트워크(2000)로 전송될 수 있다.
S708 단계에서, 엣지 데이터 네트워크(2000)는 방위 정보를 기초로 사용자 시야각 영상을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 수신된 방위 정보를 기초로 사용자 시야각 영상의 위치를 식별할 수 있다.
S710 단계에서, 엣지 데이터 네트워크(2000)는 상태 정보를 기초로, 제1 부분 영상의 크기, 위치, 비트레이트 제1 부분 영상의 시간당 프레임 수 중 적어도 하나를 식별할 수 있다.
일 실시예에 있어서, 엣지 데이터 네트워크(2000)는 상태 정보를 기초로 비트레이트 또는 시간당 프레임 수를 결정할 수 있다. 예를 들어, 상태 정보에 포함된 적어도 하나의 상태 파라메터가 제1 임계값보다 큰 경우, 비트레이트 또는 시간당 프레임 수가 증가되도록 결정될 수 있다. 이와 달리, 상태 정보에 포함된 적어도 하나의 상태 파라메터가 제2 임계값보다 작은 경우, 비트레이트 또는 시간당 프레임 수가 감소되도록 결정될 수 있다.
이후, 엣지 데이터 네트워크(2000)는 결정된 시간당 프레임 수를 기초로 제1 부분 영상의 크기를 결정할 수 있다. 결정된 시간당 프레임 수가 제1 임계값보다 큰 경우, 제1 부분 영상의 크기는 증가되도록 결정될 수 있다. 이와 달리, 결정된 시간당 프레임 수가 제2 임계값보다 작은 경우, 제1 부분 영상의 크기는 감소되도록 결정될 수 있다. 시간당 프레임 수와 제1 부분 영상의 크기와의 관계는 이하 도 11 및 도 13을 참조로 더 자세히 설명한다.
다른 실시예에 있어서, 엣지 데이터 네트워크(2000)는 상태 정보를 기초로, 제1 부분 영상의 크기 그리고, 비트레이트 제1 부분 영상의 시간당 프레임 수 중 적어도 하나를 결정할 수 있다. 이에 대해서는 이하 도 8을 참조로 더 상세히 설명한다.
나머지 단계는, 도 3에서 전술한 바 있으므로, 상세한 설명은 생략하기로 한다.
도 8a는 일 실시예예 따라, 적어도 하나의 상태 파라메터가 제1 임계값보다 큰 경우에 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8a를 참조하면, 전자 장치(1000)는 엣지 데이터 네트워크(2000)로 적어도 하나의 상태 파라메터에 관한 정보를 전송하고, 엣지 데이터 네트워크(2000)는 정보를 수신하고, 제1 임계값보다 큰 적어도 하나의 상태 파라메터(810)를 식별할 수 있다. 이때, 상태 파라메터는 쓰루풋에 관한 정보일 수 있다. 쓰루풋은 엣지 데이터 네트워크(2000) 내 데이터의 처리량, 전자 장치(1000) 내 데이터의 처리량 또는 네트워크를 통해 송수신되는 데이터의 처리량 중 적어도 하나에 관한 정보일 수 있다. 예를 들어, 전자 장치(1000)는 수신 모듈에서 네트워크를 통해 수신되는 단위 시간당 데이터의 크기를 측정하고, 이에 관한 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다.
엣지 데이터 네트워크(2000)는 제1 임계값보다 큰 적어도 하나의 상태 파라메터를 식별하고, 제1 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 비트레이트를 설정하고, 소정의 회전 속도를 고려한 여분 시야각을 둔 제1 부분 영상(820)을 부호화하여 전자 장치(1000)로 전송할 수 있다.
다만, 이에 제한되지 않고, 엣지 데이터 네트워크(2000)는 초기에 전자 장치(1000)와 연결된 경우, 제1 임계값에 관계없이 디폴트로 상기의 경우와 동일하게 비트레이트 및 여분 시야각을 설정할 수 있음을 당업자는 이해할 수 있다.
도 8b는 일 실시예예 따라, 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은 경우에 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 8b를 참조하면, 전자 장치(1000)는 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은 상태 파라메터(830)인 경우, 엣지 데이터 네트워크(2000)로 적어도 하나의 상태 파라메터에 관한 정보를 전송하고, 엣지 데이터 네트워크(2000)는 해당 정보를 수신하고, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터(830)를 식별할 수 있다. 엣지 데이터 네트워크(2000)는 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터를 식별하고, 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 비트레이트, 시야각 및 FPS이 설정될 수 있다.
이때, 비트레이트는 적어도 하나의 상태 파라메터가 제1 임계값보다 큰 경우보다 낮게 설정될 수 있다. FPS는 적어도 하나의 상태 파라메터가 제 1 임계값이 큰 경우보다 낮게 설정될 수 있다. 여분 시야각은 적어도 하나의 상태 파라메터가 제1 임계값보다 큰 경우보다 넓게 설정될 수 있다.
도 8c는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은 경우, 부호화 프레임 파라메터를 적응적으로 변경하는 과정을 설명하기 위한 도면이다.
도 8c를 참조하면, S840 단게에서, 엣지 데이터 네트워크(2000)는 현재 프레임을 부호화하는 과정에서, 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은지를 식별할 수 있다. 이때, 이전의 상태 파라메터가 제1 임계값보다 크고, 제1 임계값보다 큰 해당 상태 파라메터에 대응하는 비트레이트, FPS, 여분 시야각이 설정된 경우를 전제로 하거나, 전자 장치(1000)와 연결된 후에, 디폴트로 비트레이트, FPS, 여분 시야각이 설정된 경우를 전제로 한다. 디폴트로 설정된 비트레이트, FPS, 여분 시야각은 제1 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 비트레이트, FPS, 여분 시야각과 동일할 수 있다.
엣지 데이터 네트워크(2000)는 현재 프레임을 부호화하는 과정에서, 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같은 경우, 비트레이트를 이전의 비트레이트보다 낮게 설정할 수 있다. 즉, 부호화되는 프레임의 품질을 낮출 수 있다. 따라서, 적어도 하나의 상태 파라메터의 값이 낮아졌음에도 전자 장치(1000)에서 프레임 재생이 멈추는 것을 방지할 수 있다.
또한, 엣지 데이터 네트워크(2000)는 FPS를 이전의 FPS보다 낮게 설정할 수 있다. FPS를 낮게 설정함으로써, 네트워크 대역폭(Bandwidth)을 절약할 수 있고, 프레임을 전송하는 간격이 길어짐에 따라, 상태 파라메터의 값(예를 들어, 전자 장치(1000)의 수신 모듈에서 측정된 쓰루풋)이 낮아졌음에도 전자 장치(1000)에서 프레임 재생이 멈추는 것을 방지할 수 있다.
엣지 데이터 네트워크(2000)는 낮아진 FPS를 고려하여 더 넓은 여분의 시야각을 설정할 수 있다. FPS를 낮추게 되면, 프레임의 전송 간격이 길어지기 때문에 길어진 간격만큼 더 넓은 여분의 시야각을 설정함으로써, MTP 레이턴시를 보장하면서, ATW(Asynchronous TimeWarp)의 적절한 구현을 위한 것이다. 여기서 ATW는 렌더링된 프레임의 렌더링 엔진이 그려낸 이미지를 사용자의 움직임에 따라 수정하여 디스플레이에 표시하는 기법을 의미한다.
예를 들어, 엣지 데이터 네트워크(2000)에서 현재 프레임을 부호화하기 이전 프레임의 부호화 파라메터 중 FPS는 60fps이고, 여분의 시야각은 한 방향 기준으로 0.83도인 경우, 현재 프레임을 부호화하는 과정에서, 적어도 하나의 상태 파라메터가 제1 임계값보다 작거나 같다면, 현재 프레임의 부호화 파라메터 중 FPS는 30fps이고, 여분의 시야각은 한 방향 기준으로 1.67도로 설정할 수 있다.
엣지 데이터 네트워크(2000)는 사람이 전자 장치(1000)를 착용한 채로 100ms 동안 머리를 5도 회전(일반적으로 회전하는 정도의 일 예)한다고 할 때, 60fps 기준으로 16.6ms동안 0.83도 회전할 수 있으므로, 이전 부호화 프레임의 경우 여분의 시야각을 한 방향 기준으로 0.83도로 설정할 수 있고, 30fps로 낮춘 경우, 60fps보다 16.6ms 더 늦게 프레임이 전송되므로, 그 동안 움직일 수 있는 전자 장치(1000)의 회전 각도가 더 커지므로, 여분의 시야각을 한 방향 기준으로 두배인 1.67도로 설정할 수 있다.
즉, 엣지 데이터 네트워크(2000)는 소정의 시간동안 전자 장치(1000)가 몇 도 회전하는지를 식별하고, 하기와 같은 비례식에 기초하여 여분의 시야각을 설정할 수 있다.
[비례식]
소정의 시간: 회전 각도 = 프레임 전송 간격: 여분의 시야각
도 8d는 일 실시예에 따라, 상태 파라메터가 제1 임계값보다 큰 경우, 또는 작거나 같은 경우, 스트리밍되는 부호화 프레임의 파라메터를 도시한 도면이다.
도 8d를 참조하면, 상태 파라메터가 제1 임계값보다 큰 경우, 엣지 데이터 네트워크(2000)로부터 스트리밍되는 부호화 프레임(850)의 너비 및 높이는 2500 픽셀 및 1400 픽셀일 수 있고, 비트레이트는 25Mbps이고, FPS는 60fps일 수 있다.
한편, 상태 파라메터가 제1 임계값보다 작거나 같은 경우, 엣지 데이터 네트워크(2000)로부터, 스트리밍되는 부호화 프레임(860)의 너비 및 높이는 2600 픽셀 및 1500 픽셀일 수 있다. 비트레이트는 15Mbps이고, FPS는 30fps일 수 있다.
다만, 도 8d를 참조하여 상술한 파라메터들의 값은 일 예에 불과하고, 상술한 상태 파라메터가 제1 임계값보다 작거나 같은 경우와 큰 경우의 상대적인 파라메터의 관계를 고려한 다양한 파라메터의 값일 수 있다.
도 7 내지 8d를 참조하여 상술한 바와 같이, 엣지 데이터 네트워크(2000)는 상태 파라메터가 제1 임계값보다 작거나 같은 경우, 비트레이트, 초당 프레임 수 및 여분의 시야각을 적응적으로 식별함으로써, 상태 파라메터의 값이 제1 임계값보다 작거나 같은 상황(예를 들어, 수신 모듈에서 획득된 단위 시간당 수신된 데이터의 양이 제1 임계값보다 작거나 같은 상황)에 대한 내성(Tolerance)을 가질 수 있고, 블랙 에지를 최소화하고, MTP 레이턴시를 지속 보장할 수 있다.
도 9는 본 개시의 일 실시 예에 따른 전자 장치와 엣지 데이터 네트워크 간의 동작 절차를 나타내는 흐름도이다.
도 9를 참조하면, S902 단계에서, 전자 장치(1000)는 방위 정보 및 회전 속도 정보를 획득할 수 있다.
S904 단계에서, 전자 장치(1000)는 방위 정보 및 회전 속도 정보를 포함하는 엣지 데이터 네트워크(2000)로 전송할 수 있다.
S906 단계에서, 엣지 데이터 네트워크(2000)는 수신된 방위 정보를 기초로 사용자 시야각 영상을 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 수신된 방위 정보를 기초로 사용자 시야각 영상의 위치를 식별할 수 있다.
S908 단계에서, 엣지 데이터 네트워크(2000)는 회전 속도 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트 및 시간당 프레임 수 중 적어도 하나를 결정할 수 있다. 이때, 회전 속도 정보는 전자 장치(1000)로부터 수신될 수 있으나, 다만, 이에 제한되지 않고, 전자 장치(1000)로부터 직접 수신되지 않고, 현재 수신된 방위 정보와 이전에 수신된 방위 정보의 차이를 기초로 획득될 수 있다.
일 실시예에 있어서, 엣지 데이터 네트워크(2000)는 회전 속도 정보를 기초로 사용자 시야각 영상과 이를 둘러싼 여분의 시야각 영상을 포함하는 제1 부분 영상의 크기 및 위치를 결정할 수 있다. 이후, 결정된 제1 부분 영상의 크기를 기초로 제1 부분 영상의 비트레이트 및 소정의 시간당 프레임 수 중 적어도 하나를 결정할 수 있다. 예를 들어, 제1 부분 영상의 크기가 제1 임계값보다 큰 경우, 비트레이트 또는 시간당 프레임 수가 감소되도록 결정될 수 있다. 이와 달리, 제1 부분 영상의 크기가 제2 임계값보다 작은 경우, 비트레이트 또는 시간당 프레임 수가 증가되도록 결정될 수 있다.
다른 실시예에 있어서, 회전 속도 정보를 기초로 제1 부분 영상의 크기,위치, 비트레이트, 및 소정의 시간당 프레임 수가 결정될 수 있다. 이에 대해서는 도 10a, 도 10b, 도 11 및 도 12을 참조로 더 상세히 설명한다.
나머지 단계는 도 3에서 전술한 내용과 중복되므로 생략하기로 한다.
도 10a는 일 실시예예 따라, 사용자가 착용한 전자 장치(1000)의 회전속도가 제1 임계값보다 작거나 같은 경우, 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 10a를 참조하면, 전자 장치(1000)는 회전 속도에 관한 정보를 엣지 데이터 네트워크(2000)로 전송하고, 엣지 데이터 네트워크(2000)는 회전 속도에 관한 정보를 수신하고, 회전 속도를 식별할 수 있다. 예를 들어, 전자 장치(1000)는 사용자의 머리에 착용한 전자 장치(1010)의 회전 속도가 제1 임계값보다 작은지(즉, 회전속도가 느리거나, 회전을 멈추는지)를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 현재 회전 속도가 제1 임계값보다 작거나 같은 경우(또는 연결된 직후), 제1 임계값보다 작거나 같은 회전 속도에 대응하는(또는 디폴트로) 비트레이트 및 일정 여분의 시야각(1020)을 설정할 수 있다.
엣지 데이터 네트워크(2000)는 제1 임계값보다 작거나 같은 회전 속도에 대응하는 비트레이트 및 일정 여분의 시야각(1020)이 설정된 제1 부분 영상(1030)을 부호화하여 전자 장치(1000)로 전송할 수 있다.
도 10b는 일 실시예예 따라, 사용자의 머리에 착용한 전자 장치(1040)의 회전속도가 제1 임계값보다 큰 경우에 엣지 데이터 네트워크(2000)가 제1 부분 영상을 스트리밍하는 과정을 설명하기 위한 도면이다.
도 10b를 참조하면, 전자 장치(1000)는 회전 속도에 관한 정보를 엣지 데이터 네트워크(2000)로 전송하고, 엣지 데이터 네트워크(2000)는 회전 속도에 관한 정보를 수신하고, 회전 속도를 식별할 수 있다. 이때, 전자 장치(1000)는 사용자가 머리에 착용한 전자 장치(1040)의 회전 속도가 제1 임계값보다 큰 지(즉, 회전 속도가 빠른지)를 식별할 수 있다.
엣지 데이터 네트워크(2000)는 현재 회전 속도가 제1 임계값보다 큰 경우, 제1 임계값보다 큰 회전 속도에 대응하는 비트레이트 및 여분의 시야각 크기(1055,1056)를 설정할 수 있다. 이때, 회전 방향(1050)을 고려하여, 회전 방향(1050)의 여분의 시야각(1055)을 회전 방향(1050)의 반대방향의 여분의 시야각(1060)보다 더 넓게 설정될 수 있다. 반대방향의 여분의 시야각(1060)은 디폴트로 설정된 여분의 시야각의 크기와 동일할 수 있으나, 이에 제한되지 않고, 클 수 있다.
엣지 데이터 네트워크(2000)는 도 10a를 참조하여 설명한 비트레이트 및 여분의 시야각에 비하여, 낮은 비트레이트로 설정되고, 회전 진행 방향(및 그 반대 방향)으로 더 넓게 여분의 시야각(1055,1060)을 둔 제1 부분 영상(1070)을 부호화하여 전자 장치(1000)로 전송할 수 있다.
도 11은 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 회전 속력이 제1값(빠른 속력)을 갖는 경우에 부호화 프레임의 좌우 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 11을 참조하면, 전자 장치(1000)는 주기적으로, Yaw, Pitch, Roll와 같은 방위 정보와 Velocity와 같은 순간 회전 속도 정보를 포함하는 센서 정보를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 예를 들어, 전자 장치(1000)는 16.6ms마다, 방위 정보 및 회전 속도 정보를 포함하는 센서 정보를 전송할 수 있다.
이때, 전자 장치(1000)가 센서 정보를 보낸 후, 응답(확장된 높이 ext-Height 및 확장된 너비 ext-Width 및 기준 방위 정보 Yaw, Pitch, Roll를 포함하는 응답)을 수신하기까지의 총 처리 시간이 레이턴시(L)로 정의될 수 있다. 레이턴시(L)는, 엣지 데이터 네트워크(2000)의 처리 시간 및 네트워크 지연 시간을 고려한 시간으로, 예를 들어, 33.3ms일 수 있다.
한편, 전자 장치(1000)가 다음 프레임을 수신하기까지의 시간은 프레임 간격(r)으로 정의될 수 있다. 예를 들어, FPS가 60fps인 경우, 프레임 간격(r)은 16.6ms일 수 있다.
전자 장치(1000)의 기본 시야각은 F로 정의될 수 있다. 예를 들어, 전자 장치(1000)의 기본 시야각(F)는 110도일 수 있다. 머리의 회전 속력은 V로 정의될 수 있다. 예를 들어, 회전 속력(V)는 600도/초일 수 있다.
이때, 엣지 데이터 네트워크(2000)는 전송해야 할 프레임의 좌우 시야각 ROI(Region Of Interest)(기본 시야각 + 여분의 시야각)를 다음 수학식에 따라 식별할 수 있다.
[수학식]
ROI=F+(2 x ( V x (L + r) ) )
예를 들어, F는 110도이고, V는 600도/초, L은 33.3ms 및 r은 16.6ms 인 경우, ROI는 170도로 식별될 수 있다.
도 12는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 회전 속력이 제2값(느린 속력)인 경우. 좌우 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 12를 참조하면, 도 11과 달리, 회전 속력이 600도/초에서 200도/초로 변경될 수 있다. 이 경우, 엣지 데이터 네트워크(2000)는 전송해야 할 프레임의 좌우 시야각 ROI를 상기 수학식에 따라 식별할 수 있고, 다른 조건이 동일한 경우, 130도로 식별될 수 있다.
도 13은 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 회전 속도가 제1값(빠른 속력)인 경우, 엣지 데이터 네트워크(2000)가 FPS를 낮게 설정한 후에, 좌우 시야각을 식별하는 과정을 설명하기 위한 도면이다.
도 13를 참조하면, 도 11과 달리, 엣지 데이터 네트워크(2000)가 설정한 FPS는 30fps로 변경될 수 있다.
이 경우, 엣지 데이터 네트워크(2000)는 전송해야 할 프레임의 좌우 시야각 ROI를 상기 수학식에 따라 식별할 수 있고, 다른 조건이 동일한 경우, 170도로 식별될 수 있다.
따라서, 엣지 데이터 네트워크(2000)는 회전 속력에 따라, 소정의 시간당 프레임 수를 식별하고, 소정의 시간당 프레임 수에 따라, 여분의 시야각을 식별하고, 기본 시야각(사용자 시야각) 및 여분의 시야각을 포함한 시야각을 식별할 수 있다. 이때, 소정의 시간당 프레임 수가 감소함에 따라, 프레임 간격 동안의 예상 머리 움직임을 고려하여 식별된 여분의 시야각은 커질 수 있다.
도 11 내지 도 13을 참조하여, 시야각을 식별하는 과정을 상술하였고, 이때, 좌우 여분의 시야각은 동일함을 전제로 설명하였으나, 이에 제한되지 않고, 회전 방향의 시야각과 그 반대 방향의 시야각을 비대칭적으로 식별할 수 있음을 당업자는 이해할 수 있다. 예를 들어, 회전 방향의 여분의 시야각은 V x ( L + r)로 식별될 수 있고, 회전 방향 반대 방향의 여분의 시야각은 디폴트 여분의 시야각으로 식별될 수 있다. 또는, 엣지 데이터 네트워크(2000)는 머리의 회전 속력, 레이턴시 및 프레임 간격에 추가적으로, 회전 방향과 그 반대 방향 간의 가중치를 고려하여 여분의 시야각을 식별할 수 있음을 당업자는 이해할 수 있다.
이하에서는, 일 실시예에 따라, 도 11 및 13을 참조하여, 상술한 좌우 시야각을 식별하는 방법을 기초로, 엣지 데이터 네트워크(2000)가 프레임을 스트리밍하고, 전자 장치(1000)가 프레임을 렌더링하기까지의 과정을 설명하겠다.
엣지 데이터 네트워크(2000)는 좌우방향의 회전 속력의 소정의 범위를 미리 식별할 수 있다. 예를 들어, 엣지 데이터 네트워크(2000)는 0에서 50도/초까지의 범위를 Range 1로 미리 식별할 수 있고, 50도/초에서 200도/초까지의 범위를 Range 2로 미리 식별할 수 있고, 200도/초에서 600도/초까지의 범위를 Range 3로 미리 식별할 수 있다.
전자 장치(1000)와 엣지 데이터 네트워크(2000) 간에 더미 데이터(Dummy Data)를 주고 받아 네트워크 레이턴시를 포함하는 레이턴시를 측정할 수 있다. 예를 들어, 전자 장치(1000)는 방위 정보(Yaw,Pitch,Roll) 및 그 시점의 타임스템프(측정 타임스탬프)를 포함하는 기본 시야각 영상에 대한 요청을 엣지 데이터 네트워크(2000)로 전송하고, 기본 시야각 영상을 엣지 데이터 네트워크(2000)로부터 수신하고, 수신한 시점의 타임스템프(현재 타임스템프)와 측정 타임스탬프의 차이를 산출하고, 타임 스탬프의 차이를 기초로 레이턴시를 측정할 수 있다.
엣지 데이터 네트워크(2000)는 레이턴시 등을 고려하여, 범위 별로 최대 속력에 대한 시야각을 미리 식별할 수 있다. 이때, 각 범위 및 이에 대응하는 시야각은 룩업 테이블 형태로 저장될 수 있다.
전자 장치(1000)는 주기적으로 현재 머리가 향하는 각도(Yaw, Pitch, Roll)과 각각의 순간 회전 속도(Velocity of Yaw, Velocity of Pitch, Velocity of Roll)을 엣지 데이터 네트워크(2000)로 전송할 수 있다. 예를 들어, 전송되는 정보는 {"Yaw":0.125, "Pitch":0.545, "Roll":0.13, "vYaw"=45도/초, "vPictch":20도/초, "vRoll" :5도/초}일 수 있다.
엣지 데이터 네트워크(2000)는 미리 식별된 범위에 대응하는 시야각의 프레임을 부호화하여 전송할 수 있다. 이때, 전송되는 부호화 프레임의 전송 프로토콜 헤더의 페이로드(Payload)에 전송되는 부호화 프레임의 기준 각도 및 확장 시야각 영역의 높이 및 너비가 포함될 수 있다. 예를 들어, 페이로드에 포함되는 정보는 {"Yaw":0.125, "Pitch": 0.545, "Roll": 0.13, "extWidth": 110px, "extHeight":200px}일 수 있다.
전자 장치(1000)는 수신된 데이터의 페이로드를 확인하여 프레임의 위치와 너비 및 높이를 식별하여 프레임을 복호화하고, 복호화된 프레임을 기초로, 전자 장치(1000)의 디스플레이에 복원된 프레임을 표시할 수 있다.
도 14는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 객체 감지를 기초로 추가 여분의 시야각 영역을 식별하는 과정을 설명하기 위한 도면이다.
도 14를 참조하면, 엣지 데이터 네트워크(2000)는 전술한 바와 같이, VR 영상(1400) 내 기본 시야각 영역(1410) 및 여분의 시야각 영역(1420)을 식별할 수 있다. 이때, 엣지 데이터 네트워크(2000)는 객체 감지를 수행하고, 여분의 시야각 영역(1420)이 커버하지 못하는 객체(1455)를 감지할 수 있다. 이때, 감지된 객체를 커버할 수 있도록 여분의 시야각 영역(1420)보다 넓은 여분의 시야각 영역(1430)이 식별될 수 있다.
즉, 사용자는 관심을 가질만한 객체가 시야각 영역에 걸쳐 있는 경우, 객체를 식별하기 위해, 추가적으로 머리를 시야각 영역 바깥 방향으로 움직일 수 있기 때문에, 감지된 객체를 기초로 더 넓은 여분의 시야각 영역을 식별할 수 있다.
도 15는 일 실시예에 따라, 엣지 데이터 네트워크(2000)가 여러 조각의 데이터 단위를 기초로, 제1 부분 영상을 전자 장치(1000)로 전송하는 과정을 설명하기 위한 도면이다.
엣지 데이터 네트워크(2000)는 VR 영상(1500)을 세로 방향(경도)으로 나누어 여러 조각의 데이터 단위를 획득하고, 제1 부분 영상을 획득하는 과정에서, 여러 조각의 데이터 단위 중 필요한 시야각만큼의 적어도 하나의 조각의 데이터 단위(①,②,③)를 선택하고 이를 부호화하여 전자 장치(1000)로 전송할 수 있다.
도 16은 전자 장치와 엣지 데이터 네트워크(edge data network) 및 VR 게이밍 인터페이스 장치 간의 동작 절차를 개략적으로 설명하기 위한 도면이다.
도 16를 참조하면, 도 5와 달리, VR 게이밍 인터페이스 장치(4000)를 추가로 도시하고 있다. VR 게이밍 분야의 경우, VR 스트리밍 분야와 달리, 사용자의 인터랙션(Interaction)이 존재하고, 따라서, 전자 장치(1000) 외 VR 게이밍 인터페이스 장치(4000)가 이용될 수 있다.
VR 스트리밍 분야에서의 전자 장치와 엣지 데이터 네트워크(edge data network) 간의 동작 절차에 대해서는, 도 4 등을 참조하여 전술한 바 있는 바, 중복되는 부분은 생략하고, VR 게이밍 분야에서의 전자 장치와 엣지 데이터 네트워크 및 VR 게이밍 인터페이스의 장치의 동작 절차를 설명하겠다.
엣지 데이터 네트워크(2000)는 VR 게임 처리 모듈(1686)의 인스트럭션을 기초로 VR 시퀀스에 포함된 VR 게임 영상(인터랙티브 VR 영상)을 생성할 수 있다.
구체적으로, VR 게임 처리 모듈(1686)은 방위 정보, 회전 속도 정보 및 VR 게이밍 인터페이스 장치 센싱 정보(1652)를 기초로 VR 게임 영상의 제1 부분 영상을 생성하기 위한 인스트럭션을 저장할 수 있다. VR 게임 처리 모듈(1686)은 VR 게이밍 인터페이스 장치 제어 정보(1654)를 출력하기 위한 인스트럭션을 저장할 수 있다.
전자 장치(1000)는 VR 게임 처리를 위해 VR 게이밍 인터페이스 장치 센싱 정보(1652)를 엣지 데이터 네트워크(2000)로 전송할 수 있다. 이때, 전자 장치(1000)는 VR 게이밍 인터페이스 장치(4000)로부터 VR 게이밍 인터페이스 장치 센싱 정보를 수신할 수 있다.
VR 게이밍 인터페이스 장치(4000)는 네트워크 인터페이스(4020), 센싱 모듈(4010), 엑츄에이팅 모듈(4030)을 포함할 수 있다. 네트워크 인터페이스(4020)는 외부와 통신하기 위한 모듈이고, 센싱 모듈(4010)은 사용자의 동작을 감지하기 위한 모듈일 수 있다. 센싱 모듈(4010)은 VR 게이밍 인터페이스 장치 센싱 정보를 획득할 수 있다.
엑츄에이팅 모듈(4030)은 진동 등과 같은 다양한 형태의 출력(햅틱 피드백)을 사용자에게 제공하는 모듈일 수 있다. 엑츄에이팅 모듈(4030)은 VR 게이밍 인터페이스 장치 센싱 제어 정보를 기초로 사용자에게 다양한 형태의 출력을 제공할 수 있다.
VR 게이밍 인터페이스 장치(4000)는 전자 장치(1000)로 VR 게이밍 인터페이스 장치 센싱 정보를 전송할 수 있다. 또한, VR 게이밍 인터페이스 장치(4000)는 전자 장치(1000)로부터 VR 게이밍 인터페이스 장치 제어 정보를 수신할 수 있다.
이상, VR 인터페이스 장치 센싱 정보는 전자 장치(1000)를 거쳐 엣지 데이터 네트워크(2000)로 전송되거나, VR 인터페이스 장치 센싱 정보 및 VR 인터페이스 장치 제어 정보는 전자 장치(1000)를 거쳐 VR 게이밍 인터페이스 장치(4000)로 전송되는 내용을 상술하였으나, 이에 제한되지 않고, 직접 VR 게이밍 인터페이스 장치(4000)와 엣지 데이터 네트워크(2000) 간에 교환될 수 있다. 이때, 전자 장치(1000)와 동기화를 위한 동기화 정보가 함께 전송될 수 있다.
도 16을 참조하여, VR 게이밍 분야에서의 전자 장치와 엣지 데이터 네트워크(edge data network) 및 VR 게이밍 인터페이스 장치 간의 동작 절차를 설명하였으나, 이에 제한되지 않고, 인터랙티브 VR은 주로 시뮬레이션, 훈련 등 사용자가 직접 콘텐츠에 개입해 활동을 할 수 있는 많은 분야에 활용될 수 있음을 당업자는 이해할 수 있다.
도 17은 본 개시의 일 실시 예에 따른 전자 장치의 블록도이다.
도 1 내지 도 16의 엣지 데이터 네트워크에 연결된 전자 장치는 도 17의 전자 장치(110)에 대응될 수 있다. 예를 들어, 네트워크 환경(100)에서 전자 장치(110)는 제1 네트워크(1798)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1702)(여기서 전자 장치는 VR 게이밍 인터페이스 장치를 포함)와 통신하거나, 또는 제2 네트워크(1799)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1704) 또는 서버(1708)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(110)는 서버(1708)를 통하여 전자 장치(1704)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(110)는 프로세서(1720), 메모리(1730), 입력 장치(1750), 음향 출력 장치(1755), 표시 장치(1760), 오디오 모듈(1770), 센서 모듈(1776), 인터페이스(1777), 햅틱 모듈(1779), 카메라 모듈(1780), 전력 관리 모듈(1788), 배터리(1789), 통신 모듈(1790), 가입자 식별 모듈(1796), 또는 안테나 모듈(1797)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(110)에는, 이 구성 요소들 중 적어도 하나(예: 표시 장치(1760) 또는 카메라 모듈(1780))이 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성 요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(1776)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(1760)(예: 디스플레이)에 임베디드(embedded)된 채 구현될 수 있다.
프로세서(1720)는, 예를 들면, 소프트웨어(예: 프로그램(1740))을 실행하여 프로세서(1720)에 연결된 전자 장치(110)의 적어도 하나의 다른 구성 요소(예: 하드웨어 또는 소프트웨어 구성 요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1720)는 다른 구성 요소(예: 센서 모듈(1776) 또는 통신 모듈(1790))로부터 수신된 명령 또는 데이터를 휘발성 메모리(volatile memory)(1732)에 로드(load)하고, 휘발성 메모리(1732)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(non-volatile memory)(1734)에 저장할 수 있다.
일 실시예에 따르면, 프로세서(1720)는, 애플리케이션 클라이언트를 실행할 수 있고, 애플리케이션 클라이언트가 실행됨에 따라, 애플리케이션 클라이언트가 이용할 네트워크 프로토콜을 확인하기 위한 요청 메시지를 엣지 데이터 네트워크(2000)에 전송할 수 있다. 또한, 프로세서(1720)는 애플리케이션 클라이언트가 이용할 네트워크 프로토콜을 나타내는 응답 메시지를 엣지 데이터 네트워크(2000)로부터 수신할 수 있다. 프로세서(1720)는, 응답 메시지에 기초하여 UE 애플리케이션이 이용할 네트워크 프로토콜을 업데이트할 수 있다. 프로세서(1720)는 업데이트된 네트워크 프로토콜에 대응하는 네트워크 소켓을 선택할 수 있다. 프로세서(1720)는 선택된 네트워크 소켓을 이용하여, 엣지 데이터 네트워크(2000)로부터 애플리케이션 클라이언트에 대하여 생성된 데이터를 수신할 수 있다.
일 실시예에 따르면, 프로세서(1720)는 메인 프로세서(1721)(예: 중앙 처리 장치(CPU, central processing unit) 또는 어플리케이션 프로세서(AP, application processor)), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1723)(예: 그래픽 처리 장치(GPU, graphic processing unit), 이미지 시그널 프로세서(ISP, image signal processor), 센서 허브 프로세서(sensor hub processor), 또는 커뮤니케이션 프로세서(CP, communication processor))를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(1723)는 메인 프로세서(1721)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1723)는 메인 프로세서(1721)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(1723)는, 예를 들면, 메인 프로세서(1721)가 인액티브(inactive)(예: 슬립(sleep)) 상태에 있는 동안 메인 프로세서(1721)를 대신하여, 또는 메인 프로세서(1721)가 액티브(active)(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1721)와 함께, 전자 장치(110)의 구성 요소들 중 적어도 하나의 구성 요소(예: 표시 장치(1760), 센서 모듈(1776), 또는 통신 모듈(1790))과 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(1723)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(1780) 또는 통신 모듈(1790))의 일부로서 구현될 수 있다.
메모리(1730)는, 전자 장치(110)의 적어도 하나의 구성 요소(예: 프로세서(1720) 또는 센서 모듈(1776))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1740)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1730)는, 휘발성 메모리(1732) 또는 비휘발성 메모리(1734)를 포함할 수 있다.
프로그램(1740)은 메모리(1730)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(OS, operating system)(1742), 미들웨어(middleware)(1744) 또는 어플리케이션(1746)을 포함할 수 있다. 일 실시예에서, 프로그램(1740)은, 도 1의 제1 애플리케이션 클라이언트(122) 및 제2 애플리케이션 클라이언트(124)를 포함할 수 있다. 그리고, 프로그램(1740)은 도 1의 엣지 인에이블러 클라이언트(130)를 포함할 수 있다.
입력 장치(1750)는, 전자 장치(1710)의 구성 요소(예: 프로세서(1720))에 사용될 명령 또는 데이터를 전자 장치(110)의 외부(예: 사용자)로부터 수신할 수 있다.
음향 출력 장치(1755)는 음향 신호를 전자 장치(110)의 외부로 출력할 수 있다. 음향 출력 장치(1755)는, 예를 들면, 스피커(speaker를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다.
표시 장치(1760)는 전자 장치(110)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(1760)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 표시 장치(1760)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서(pressure sensor))를 포함할 수 있다.
오디오 모듈(1770)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(1770)은, 입력 장치(1750)를 통해 소리를 획득하거나, 음향 출력 장치(1755), 또는 전자 장치(110)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1702))(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(1776)은 전자 장치(110)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(1776)은, 예를 들면, 제스처 센서(gesture sensor), 자이로 센서(gyro sensor), 기압 센서(barometer sensor), 마그네틱 센서(magnetic sensor), 가속도 센서(acceleration sensor), 그립 센서(grip sensor), 근접 센서(proximity sensor), 컬러 센서(color sensor)(예: RGB(red, green, blue) 센서), IR(infrared) 센서, 생체 센서(biometric sensor), 온도 센서(temperature sensor), 습도 센서(humidity sensor), 조도 센서(illuminance sensor), 또는 자율 주행차와 관련된 센서들(예: 관성 측정 센서(IMU), GPS(Global Positioning System) 센서, 카메라, LIDAR(Light Imaging Detection and Ranging), RADAR(Radio Detection and Ranging) 등)을 포함하는 센서 모듈을 포함할 수 있다.
인터페이스(1777)는 전자 장치(110)의 외부 전자 장치(예: 전자 장치(1702))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜(protocol)들을 지원할 수 있다.
연결 단자(connection terminal)(1778)는, 그를 통해서 전자 장치(110)가 외부 전자 장치(예: 전자 장치(1702))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다.
햅틱 모듈(haptic module)(1779)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다.
카메라 모듈(1780)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(1780)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(1788)은 전자 장치(1710)에 공급되는 전력을 관리할 수 있다.
배터리(1789)는 전자 장치(1710)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다.
통신 모듈(1790)은 전자 장치(110)와 외부 전자 장치(예: 전자 장치(1702), 전자 장치(1704), 또는 서버(1708)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1790)은 프로세서(1720)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(1790)은 무선 통신 모듈(1792)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1794)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(1798)(예: 블루투스, Wi-Fi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(1799)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN(wide area network))와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다.
무선 통신 모듈(1792)은 가입자 식별 모듈(1796)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI, international mobile subscriber identity))를 이용하여 제1 네트워크(1798) 또는 제2 네트워크(1799)와 같은 통신 네트워크 내에서 전자 장치(110)를 확인 및 인증할 수 있다.
안테나 모듈(1797)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다.
상기 구성 요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고, 신호(예: 명령 또는 데이터)를 상호 간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제2 네트워크(1799)에 연결된 서버(1708)를 통해서 전자 장치(110)와 외부의 전자 장치(1704) 간에 송신 또는 수신될 수 있다. 전자 장치(1702, 1704) 각각은 전자 장치(110)와 동일한 또는 다른 종류의 장치일 수 있다.
일 실시예에 따르면, 전자 장치(110)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(1702, 1704 또는 1708) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(110)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(110)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들(1702, 1704)에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들(1702, 1704)은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(110)로 전달할 수 있다. 전자 장치(110)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅(cloud computing), 분산 컴퓨팅(distributed computing), 또는 클라이언트-서버 컴퓨팅(client-server computing) 기술이 이용될 수 있다.

Claims (22)

  1. 엣지 데이터 네트워크가 영상 컨텐츠를 전송 하는 방법에 있어서,
    상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보(sensor information)를 획득하는 단계;
    상기 엣지 데이터 네트워크와 상기 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하는 단계;
    상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별하는 단계;
    상기 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및
    상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함하는 방법.
  2. 제1항에 있어서,
    상기 센서 정보는 회전 속도 정보를 더 포함하고,
    상기 상태 정보는 연결 장치 상태 정보를 더 포함하고,
    상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 비트레이트 또는 소정의 시간당 프레임 수를 식별하는 단계를 더 포함하고,
    상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계는,
    상기 식별된 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 것을 특징으로 하는 방법.
  3. 제1항에 있어서, 제1 부분 영상은 복수의 프레임을 포함하는 VR 시퀀스의 소정의 프레임 인덱스를 가지는 제1 VR 영상 내 부분 영상이며, 상기 제1 부분 영상은 부분 영상의 위치를 나타내는 방위 정보와 관련되는 것을 특징으로 하는 방법.
  4. 제2항에 있어서,
    상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate), 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
    상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우,
    상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 소정의 시간당 프레임 수를 식별하는 단계;
    상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우,
    상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
    상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수보다 작은 것을 특징으로 하는 방법.
  5. 제2항에 있어서,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
    상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우, 상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계; 및
    상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우, 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
    상기 제1 임계값보다 작거나 같은 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 상기 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작고,
    상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 비트레이트는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 비트레이트보다 작은 것을 특징으로 하는 방법.
  6. 제2항에 있어서,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
    상기 센서 정보에 포함된 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기를 식별하는 단계; 및
    상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
    상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 큰 것을 특징으로 하는 방법.
  7. 제2항에 있어서,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
    상기 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 단계; 및
    상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 단계 중 적어도 하나의 단계를 포함하고,
    상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수보다 작은 것을 특징으로 하는 방법.
  8. 제2항에 있어서,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
    제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계; 및
    제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 단계;
    중 적어도 하나의 단계를 포함하고,
    상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 비트레이트가 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 비트레이트를 이전보다 작은 것을 특징으로 하는 방법.
  9. 제4항에 있어서,
    상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자 시야각 영상 및 소정의 시간당 프레임 수에 대응하는 여분의 시야각 영상을 포함하는 것을 특징으로 하는 방법.
  10. 제6항에 있어서,
    상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 회전 속도 정보의 회전 속도 및 회전 방향 중 적어도 하나에 대응하는 여분의 시야각 영상을 포함하는 것을 특징으로 하는 방법.
  11. 제7항에 있어서,
    상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자 시야각 영상 및 상기 회전 속도 정보의 회전 속도 및 회전 방향 중 적어도 하나와 소정의 시간당 프레임 수를 기초로 식별된 여분의 시야각 영상을 포함하는 것을 특징으로 하는 방법.
  12. 제10항에 있어서,
    상기 여분의 시야각 영상은 상기 시야각 영상을 기준으로 상기 회전 방향에 위치하는 제1 여분 시야각 영상 및 상기 회전 방향과 반대 방향에 위치하는 제2 여분 시야각 영상을 포함하고,
    상기 제1 여분 시야각 영상은 상기 제2 여분 시야각 영상보다 큰 것을 특징으로 하는 방법.
  13. 제9항에 있어서,
    상기 제1 부분 영상은 소정의 시야각 범위의 데이터 단위로 구성되고,
    상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계는,
    상기 제1 부분 영상 중 상기 사용자 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제1 데이터 단위 및 상기 제1 부분 영상 중 상기 여분의 시야각 영상에 대응하는 적어도 하나의 소정의 시야각 범위의 제2 데이터 단위를 부호화하는 단계; 및
    상기 부호화된 제1 데이터 단위 및 제2 데이터 단위를 포함하는 상기 제1 프레임을 생성하는 단계를 포함하는 방법.
  14. 제2항에 있어서,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별하는 단계는,
    상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같고, 상기 회전 속도 정보의 회전 속도가 제3 임계값보다 큰 경우,
    상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트 레이트를 식별하고, 상기 제3 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기를 식별하는 단계; 및
    상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 크고, 상기 회전 속도 정보의 회전 속도가 제4 임계값보다 작거나 같은 경우,
    상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트 레이트를 식별하고, 상기 제4 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기를 식별하는 단계; 중 적어도 하나의 단계를 포함하고,
    상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 시간당 프레임 수는, 상기 제2 임계값보다 큰 저겅도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트 레이트는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 비트 레이트보다 작고, 상기 제3 임계값보다 큰 회전 속도에 대응하는 제1 부분 영상의 크기는 상기 제4 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 크고,
    상기 제1 부분 영상은 상기 방위 정보에 대응하는 시야각 영상 및 상기 회전 속도에 대응하는 여분의 시야각 영상을 포함하고,
    상기 여분의 시야각 영상은 상기 회전 속도를 기초로, LUT 형태(Look Up Table)로 미리 설정된 여분의 시야각을 획득하고, 상기 획득된 시야각을 기초로 식별되는 것을 특징으로 하는 방법.
  15. 전자 장치로 영상 컨텐츠를 전송하는 엣지 데이터 네트워크에 있어서,
    네트워크 인터페이스;
    하나 이상의 인스트럭션들을 저장하는 메모리;
    상기 하나 이상의 인스트럭션들을 실행하는 프로세서;를 포함하고,
    상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
    상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보(sensor information)를 획득하고,상기 엣지 데이터 네트워크와 상기 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하고,상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별하고,
    상기 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하고,
    상기 생성된 제1 프레임을 상기 전자 장치로 전송하는, 엣지 데이터 네트워크.
  16. 제15항에 있어서,
    상기 센서 정보는 회전 속도 정보를 더 포함하고,
    상기 상태 정보는 연결 장치 상태 정보를 더 포함하고,
    상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써, 상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 비트레이트 또는 소정의 시간당 프레임 수를 더 식별하고,
    상기 제1 부분 영상을 부호화하여 제1 프레임을 생성할 때, 상기 식별된 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 기초로, 상기 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 것을 특징으로 하는,엣지 데이터 네트워크.
  17. 제16항에 있어서, 상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
    상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우,
    상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 소정의 시간당 프레임 수를 식별하는 동작; 및
    상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우, 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 동작; 중 적어도 하나의 동작을 수행하고,상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작은 것을 특징으로 하는, 엣지 데이터 네트워크.
  18. 제16항에 있어서, 상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
    상기 상태 정보에 포함된 적어도 하나의 네트워크 상태, 상기 엣지 데이터 네트워크의 상태 및 상기 전자 장치의 상태 중 적어도 하나의 상태에 관한 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제1 임계값보다 작거나 같은 경우, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기, 소정의 시간당 프레임 수 및 비트 레이트를 식별하는 동작; 및
    상기 상태 정보에 포함된 적어도 하나의 상태 파라메터의 값이 적어도 하나의 제2 임계값보다 큰 경우, 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기 및 상기 제1 부분 영상의 소정의 시간당 프레임 수를 식별하는 동작 중 적어도 하나의 동작을 수행하고,
    상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 작거나 같은 적어도 하나의 상태 파라메터에 대응하는 비트 레이트는 상기 제2 임계값보다 작은 상기 제2 임계값보다 큰 적어도 하나의 상태 파라메터에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 큰 것을 특징으로 하는, 엣지 데이터 네트워크.
  19. 제16항에 있어서, 상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
    상기 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기를 식별하는 동작; 및
    상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기를 식별하는 동작 중 적어도 하나의 동작을 수행하고,
    상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기는
    상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 크기보다 큰 것을 특징으로 하는, 엣지 데이터 네트워크.
  20. 제16항에 있어서, 상기 프로세서는 하나 이상의 인스트럭션들을 실행함으로써,
    상기 센서 정보 및 상기 상태 정보를 기초로 제1 부분 영상의 크기, 위치, 비트레이트(Bitrate) 및 소정의 시간당 프레임 수 중 적어도 하나를 식별할 때,
    상기 회전 속도 정보의 회전 속도가 제1 임계값보다 큰 경우, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 동작; 및
    상기 회전 속도 정보의 회전 속도가 제2 임계값보다 작거나 같은 경우, 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기, 상기 제1 부분 영상의 소정의 시간당 프레임 수 및 상기 제1 부분 영상의 비트레이트를 식별하는 동작 중 적어도 하나의 동작을 수행하고,
    상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 크기는 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 상기 제1 부분 영상의 크기보다 크고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 상기 제1 부분 영상의 소정의 시간당 프레임 수는 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 작고, 상기 제1 임계값보다 큰 회전 속도에 대응하는 비트 레이트는 상기 제2 임계값보다 작거나 같은 회전 속도에 대응하는 제1 부분 영상의 소정의 시간당 프레임 수보다 큰 것을 특징으로 하는, 엣지 데이터 네트워크.
  21. 제17항에 있어서,
    상기 제1 부분 영상은 상기 방위 정보에 대응하는 사용자의 시야각 영상 및 소정의 시간당 프레임 수에 대응하는 여분의 시야각 영상을 포함하는 것을 특징으로 하는, 엣지 데이터 네트워크.
  22. 엣지 데이터 네트워크가
    상기 엣지 데이터 네트워크와 연결된 전자 장치로부터 감지된 방위 정보를 포함하는 센서 정보(sensor information)를 획득하는 단계;
    상기 엣지 데이터 네트워크와 상기 전자 장치 사이의 네트워크 상태 정보를 포함하는 상태 정보를 획득하는 단계;
    상기 센서 정보 및 상기 상태 정보를 기초로, 제1 부분 영상의 크기 및 위치를 식별하는 단계;
    상기 식별된 제1 부분 영상의 크기 및 위치를 기초로, 제1 부분 영상을 부호화하여 제1 프레임을 생성하는 단계; 및
    상기 생성된 제1 프레임을 상기 전자 장치로 전송하는 단계를 포함하는, 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.
KR1020200121793A 2020-05-18 2020-09-21 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 KR20210142520A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP21808088.5A EP4142292A4 (en) 2020-05-18 2021-05-18 METHOD AND DEVICE FOR TRANSMITTING IMAGE CONTENT USING ON-BOARD CALCULATION SERVICE
PCT/KR2021/006214 WO2021235829A1 (ko) 2020-05-18 2021-05-18 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
CN202180036437.9A CN115668953A (zh) 2020-05-18 2021-05-18 使用边缘计算服务的图像内容传输方法和设备
US17/990,319 US20230079171A1 (en) 2020-05-18 2022-11-18 Image content transmitting method and device using edge computing service

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US202063026312P 2020-05-18 2020-05-18
US63/026,312 2020-05-18

Publications (1)

Publication Number Publication Date
KR20210142520A true KR20210142520A (ko) 2021-11-25

Family

ID=78745986

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200121793A KR20210142520A (ko) 2020-05-18 2020-09-21 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치

Country Status (1)

Country Link
KR (1) KR20210142520A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102559721B1 (ko) * 2022-11-16 2023-07-26 주식회사 지디에프랩 사용자의 시야 영역에 따라 영상을 선택적으로 복원하는 전자 장치의 제어 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102559721B1 (ko) * 2022-11-16 2023-07-26 주식회사 지디에프랩 사용자의 시야 영역에 따라 영상을 선택적으로 복원하는 전자 장치의 제어 방법

Similar Documents

Publication Publication Date Title
US10192516B2 (en) Method for wirelessly transmitting content from a source device to a sink device
EP3606082B1 (en) Panoramic video playback method and client terminal
US10469820B2 (en) Streaming volumetric video for six degrees of freedom virtual reality
US10887600B2 (en) Method and apparatus for packaging and streaming of virtual reality (VR) media content
JP2021103327A (ja) コンテンツを提供及び表示するための装置及び方法
EP3510780B1 (en) Method and apparatus for session control support for field of view virtual reality streaming
US20190246094A1 (en) Switching between Multidirectional and Limited Viewport Video Content
US11310459B2 (en) Image capturing device, image capturing system, image processing method, and recording medium
CN109874043B (zh) 视频流发送方法、播放方法及装置
US20220312057A1 (en) Method and device for transmitting video content by using edge computing service
WO2014115387A1 (ja) 情報処理装置、情報処理方法およびプログラム
KR101716326B1 (ko) 가상현실영상 전송방법, 재생방법 및 이를 이용한 프로그램
CN110856019A (zh) 码率分配的方法、装置、终端及存储介质
KR20210141295A (ko) 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
US20230079171A1 (en) Image content transmitting method and device using edge computing service
KR20210142520A (ko) 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
KR101874111B1 (ko) 가상현실영상 재생방법 및 이를 이용한 프로그램
US20230091348A1 (en) Method and device for transmitting image content using edge computing service
CN116264619A (zh) 资源处理方法、装置、服务器、终端、系统及存储介质
US20230076650A1 (en) Image content transmission method and apparatus using edge computing service
EP4138395A1 (en) Image content transmission method and apparatus using edge computing service
KR20210107409A (ko) 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치
EP4202611A1 (en) Rendering a virtual object in spatial alignment with a pose of an electronic device
KR20230012196A (ko) 가상공간과 현실공간 연결 서비스 서버, 사용자 단말 장치 및 그 제어 방법
CN116132618A (zh) 电子设备的控制方法、装置、终端和存储介质