KR102449878B1 - 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법 - Google Patents

클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법 Download PDF

Info

Publication number
KR102449878B1
KR102449878B1 KR1020180072347A KR20180072347A KR102449878B1 KR 102449878 B1 KR102449878 B1 KR 102449878B1 KR 1020180072347 A KR1020180072347 A KR 1020180072347A KR 20180072347 A KR20180072347 A KR 20180072347A KR 102449878 B1 KR102449878 B1 KR 102449878B1
Authority
KR
South Korea
Prior art keywords
companion screen
client device
screen device
video content
degree video
Prior art date
Application number
KR1020180072347A
Other languages
English (en)
Other versions
KR20190022307A (ko
Inventor
크리스토퍼 알더
리차드 몰턴
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP18847978.6A priority Critical patent/EP3661220B1/en
Priority to ES18847978T priority patent/ES2970259T3/es
Priority to CN201880054658.7A priority patent/CN110999310B/zh
Priority to PCT/KR2018/008475 priority patent/WO2019039748A1/ko
Priority to US16/639,234 priority patent/US11128926B2/en
Publication of KR20190022307A publication Critical patent/KR20190022307A/ko
Application granted granted Critical
Publication of KR102449878B1 publication Critical patent/KR102449878B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/4222—Remote control device emulator integrated into a non-television apparatus, e.g. a PDA, media center or smart toy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/485—End-user interface for client configuration
    • H04N21/4858—End-user interface for client configuration for modifying screen layout parameters, e.g. fonts, size of the windows
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42208—Display device provided on the remote control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/4104—Peripherals receiving signals from specially adapted client devices
    • H04N21/4126—The peripheral being portable, e.g. PDAs or mobile phones
    • H04N21/41265—The peripheral being portable, e.g. PDAs or mobile phones having a remote control device for bidirectional communication between the remote control device and client device
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42224—Touch pad or touch panel provided on the remote control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615—Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363—Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65—Transmission of management data between client and server
    • H04N21/658—Transmission by the client directed to the server
    • H04N21/6587—Control parameters, e.g. trick play commands, viewpoint selection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

실시예들에 따라 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작 방법이 개시된다. 개시된 클라이언트 디바이스는, 통신 인터페이스; 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 360도 비디오 컨텐츠의 적어도 일부를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하고, 상기 식별된 컴패니언 스크린 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하도록 상기 디스플레이를 제어한다.

Description

클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법{Client device, companion screen device and operating method for the same}
다양한 실시예들은 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법에 관한 것으로서, 더욱 상세하게는 360도 비디오 컨텐츠의 제어를 위한 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법에 관한 것이다.
영상표시장치는 사용자가 시청할 수 있는 영상을 표시하는 기능을 갖춘 장치이다. 사용자는 영상표시장치를 통하여 방송을 시청할 수 있다. 영상표시장치는 방송국에서 송출되는 방송신호 중 사용자가 선택한 방송을 디스플레이에 표시한다. 현재 방송은 전세계적으로 아날로그 방송에서 디지털 방송으로 전환하고 있는 추세이다.
디지털 방송 기능에 더하여 다양한 컨텐츠를 제공하는 스마트 티브이가 제공되고 있다. 스마트 티브이는 사용자의 선택에 따라 수동적으로 동작하는 것이 아니라, 사용자의 조작 없이도 사용자가 원하는 것을 분석하여 제공하는 것을 목표로 한다.
360도 영상은 전방향 카메라 또는 복수의 카메라 셋을 이용하여 모든 방향으로의 뷰가 동시에 기록된 영상을 말한다. 360도 영상의 재생 동안 사용자는 뷰의 방향을 제어할 수 있다.
최근의 사용자들은 다양한 스마트 기기 즉, 스마트 폰 이나 태블릿, PC 등을 통해 360도 영상을 경험하고 있으며, 또한 360도 영상을 재생할 수 있는 스마트 티브이도 개발되고 있다.
다양한 실시예들은, 360도 비디오 컨텐츠의 제어를 보다 편리하고 효과적으로 제공할 수 있는 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작 방법을 제공하고자 한다.
일 실시예에 따른 클라이언트 디바이스는, 통신 인터페이스; 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 360도 비디오 컨텐츠의 적어도 일부를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하고, 상기 식별된 컴패니언 스크린 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하도록 상기 디스플레이를 제어한다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 식별된 컴패니언 스크린 디바이스로 상기 360도 비디오 컨텐츠의 표시의 제어 동작을 수행하는 어플리케이션을 실행하도록 요청할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스의 발견을 위한 요청 신호를 전송하고, 상기 컴패니언 스크린 디바이스로부터 상기 컴패니언 스크린 디바이스가 상기 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신함으로써 상기 컴패니언 스크린 디바이스를 식별할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 복수의 컴패니언 스크린 디바이스로부터 수신하고, 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하고, 상기 선택된 적어도 하나의 컴패니언 스크린 디바이스와 연결하도록 상기 통신 인터페이스를 제어할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스와 연관된 사용자 프로파일에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 클라이언트 디바이스와 상기 컴패니언 스크린 디바이스와의 근접도에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 학습 알고리즘에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스의 방위(orientation)에 관한 디바이스 방위 정보를 상기 통신 채널을 통해 수신하고, 상기 디스플레이된 360도 비디오 컨텐츠의 시점이 상기 컴패니언 디바이스의 방위에 따라 회전되도록, 상기 디스플레이된 360도 비디오 컨텐츠의 시점을 상기 디바이스 방위 정보에 응답하여 조정하고, 상기 조정된 시점에 대응하는 360도 비디오 컨텐츠의 영역을 표시하도록 상기 디스플레이를 제어할 수 있다.
일 실시예에 따라 프로세서는, 상기 디바이스 방위 정보는 상기 컴패니언 디바이스의 방위를 검출하도록 배치된 하나 이상의 센서에 의해 측정된 복수의 방위값을 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 평탄화된 방위 데이터를 획득하기 위하여 상기 복수의 방위값을 평탄화하고, 상기 평탄화된 방위 데이터에 기초하여 상기 360도 비디오 콘텐츠의 시점 회전 속도를 결정할 수 있다.
일 실시예에 따른 컴패니언 스크린 디바이스는, 통신 인터페이스; 디스플레이; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 360도 비디오 컨텐츠의 표시 능력을 가지는 클라이언트 디바이스를 식별하고, 상기 식별된 클라이언트 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 클라이언트 디바이스에 표시되는 상기 360도 비디오 컨텐츠의 표시를 제어하는 제어 명령을 상기 클라이언트 디바이스로 전송하도록 상기 통신 인터페이스를 제어한다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 클라이언트 디바이스로부터 상기 클라이언트 디바이스가 상기 360도 비디오 컨텐츠의 표시 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신함으로써 상기 클라이언트 디바이스를 식별할 수 있다.
일 실시예에 따라 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스의 방위(orientation)를 검출하고, 상기 클라이언트 디바이스에 디스플레이된 360도 비디오 컨텐츠의 시점이 상기 컴패니언 스크린 디바이스의 방위에 따라 회전되도록, 상기 컴패니언 스크린 디바이스의 방위에 관한 디바이스 방위 정보를 상기 통신 채널을 통해 상기 클라이언트 디바이스로 전송할 수 있다.
일 실시예에 따른 클라이언트 디바이스의 동작 방법은, 360도 비디오 컨텐츠의 적어도 일부를 표시하는 동작, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하는 동작, 상기 식별된 컴패니언 스크린 디바이스와 통신 채널을 연결하는 동작, 및 상기 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하는 동작을 포함한다.
일 실시예에 따른 클라이언트 스크린 디바이스의 동작 방법은, 360도 비디오 컨텐츠의 표시 능력을 가지는 클라이언트 디바이스를 식별하는 동작, 상기 식별된 클라이언트 디바이스와 통신 채널을 연결하는 동작, 상기 연결된 클라이언트 디바이스에 표시되는 상기 360도 비디오 컨텐츠의 표시를 제어하는 제어 명령을 상기 클라이언트 디바이스로 전송하는 동작을 포함한다.
일 실시예에 따른 클라이언트 디바이스의 동작 방법을 수행하는 하나 이상의 프로그램이 기록된 컴퓨터 판독가능 매체를 포함하는 컴퓨터 프로그램 제품에 있어서, 상기 클라이언트 디바이스의 동작 방법은, 360도 비디오 컨텐츠의 적어도 일부를 표시하는 동작, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하는 동작, 상기 식별된 컴패니언 스크린 디바이스와 통신 채널을 연결하는 동작, 및 상기 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하는 동작을 포함한다.
실시예들에 따라 360도 비디오 컨텐츠의 제어를 보다 편리하고 효율적으로 할 수 있다.
도 1은 일 실시예에 따른 360도 영상을 표시하는 클라이언트 디바이스 100 및 제어 장치를 나타내는 도면이다.
도 2는 360도 영상의 화각을 설명하기 위한 도면이다.
도 3은 일 예에 따라 360도 영상을 표시하는 방법을 나타내는 도면이다.
도 4는 일 실시예에 따라 클라이언트 디바이스와 컴패니언 스크린 디바이스를 나타낸다.
도 5는 일 실시예에 따라 클라이언트 디바이스와 복수의 컴패니언 스크린 디바이스를 나타낸다.
도 6은 일 실시예에 따라 클라이언트 디바이스 100와 컴패니언 스크린 디바이스 400의 개략적인 블록도이다.
도 7은 일 실시예에 따라 클라이언트 디바이스 100에서 360도 비디오 컨텐츠를 표시하는 동작 방법의 흐름도이다.
도 8은 일 실시예에 따라 클라이언트 디바이스 100가 컴패니언 스크린 디바이스 400를 식별하는 동작의 일 예를 나타낸다.
도 9는 일 실시예에 따라 클라이언트 디바이스 100가 복수의 컴패니언 스크린 디바이스 400를 식별하고 이중 하나를 선택하는 동작의 일 예를 나타낸다.
도 10은 일 실시예에 따라　클라이언트 디바이스 100와　컴패니언 스크린 디바이스400　사이 통신 채널을 확립하는 단계를 상세히 설명하는 흐름도이다.　
도 11은 일 실시예에 따라,　클라이언트 디바이스 100　와　컴패니언 스크린 디바이스400　사이에 통신 채널을 확립하기 위한, 컴패니언 스크린 디바이스 400에서의 동작을 설명하는 흐름도이다.
도 12는 일 실시예에 따라 컴패니언 스크린 디바이스 400가 클라이언트 디바이스 100를 식별하는 동작의 일 예를 나타낸다.
도 13은 일 실시예에 따라 클라이언트 디바이스 100a와 컴패니언 스크린 디바이스 400a의 개략도이다.　
도 14는 일 실시예에 따라 클라이언트 디바이스 100a　및　컴패니언 스크린 디바이스 400a의 개략도이다.
도 15는 일 실시예에 따라　컴패니언 스크린 디바이스 400에서 수행될 수 있는 제어 동작의 개략도이다.
도 16은 일 실시예에 따라 컴패니언 스크린 디바이스 400에서 수행될 수 있는 제어 동작의 개략도이다.
도 17은 일 실시예에 따라 컴패니언 스크린 디바이스 400에서 수행될 수 있는 제어 동작의 개략도이다.
도 18은 일 실시예에 따라 클라이언트 디바이스 100　에서 360도 비디오 콘텐츠를 렌더링하기 위해 선택될 수 있는 상이한 광각 모드를 도시한다.　
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.
아래에서는 첨부한 도면을 참고하여 실시예들에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형식으로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
본 명세서의 실시예에서 "사용자"라는 용어는 제어 장치를 이용하여 영상 표시 장치의 기능 또는 동작을 제어하는 사람을 의미하며, 시청자, 관리자 또는 설치 기사를 포함할 수 있다.
도 1은 일 실시예에 따른 360도 영상을 표시하는 클라이언트 디바이스 100 및 제어 장치를 나타내는 도면이다.
도 1을 참조하면, 일 실시예에 따른 클라이언트 디바이스100는 360도 영상을 표시할 수 있다. 일 실시예에 따른 360도 영상은, 360도의 화각(angle of view)을 가지는 영상일 수 있다. 360도 영상은 정지 영상, 동영상, 또는 파노라마 영상일 수 있다. 예를 들어, 360도 영상은 적어도 하나의 카메라를 이용하여 360도 방향으로 촬영된 복수의 영상들에 기초하여, 생성된 영상일 수 있다. 이때, 촬영된 복수의 영상들은 구(sphere)에 맵핑될 수 있으며, 맵핑된 영상들의 접점들이 연결(스티칭(stitching))되어, 구(sphere) 형식의 360도 영상이 생성될 수 있다. 또한, 구(sphere) 형식의 360도 영상은, 다른 디바이스로 전송하거나 저장하기 위해 도 1에 도시된 바와 같이, 평면 형식의 360도 영상 10으로 변환될 수 있다.
일 실시예에 따른 클라이언트 디바이스 100는 평면 형식의 360도 영상10에 그래픽 처리를 하여, 평면 형식의 360도 영상 10을 구 형식의 360도 영상 20으로 변환할 수 있다. 클라이언트 디바이스 100는 변환된 구 형식의 360도 영상 중 어떤 시점, 예를 들어 어떤 화각에 대응하는 일부 영역30을 선택하고, 선택된 영역 30에 대응하는 영상을 디스플레이부에 표시할 수 있다. 이때, 클라이언트 디바이스 100는 선택된 영역30에 대응하는 영상을 디스플레이의 해상도에 따라 스케일링하여 표시할 수 있다. 360도 영상의 화각에 대한 상세한 설명은 도 2를 참조하여 후술하기로 한다.
한편, 일 실시예에 따른 클라이언트 디바이스100는 TV일 수 있으나, 이는 일 실시예에 불과하며, 디스플레이를 포함하는 전자 장치로 구현될 수 있다. 예를 들어, 클라이언트 디바이스100는 휴대폰, 태블릿 PC, 디지털 카메라, 캠코더, 노트북 컴퓨터(laptop computer), 태블릿 PC, 데스크탑, 전자책 단말기, 디지털 방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, MP3 플레이어, 착용형 기기(wearable device) 등과 같은 다양한 전자 장치로 구현될 수 있다. 특히, 실시예들은 TV와 같이 디스플레이가 대형인 디스플레이 장치에서 용이하게 구현될 수 있으나, 이에 한정되는 것은 아니다. 또한, 영상 표시 장치100는 고정형 또는 이동형일 수 있으며, 디지털 방송 수신이 가능한 디지털 방송 수신기일 수 있다.
한편, 클라이언트 디바이스100는 제어 장치50에 의해 제어될 수 있으며, 제어 장치50는 리모컨 또는 휴대폰과 같이 영상 표시 장치100를 제어하기 위한 다양한 형태의 장치로 구현될 수 있다.
또한, 제어 장치 50는 적외선(infrared) 또는 블루투스(bluetooth)를 포함하는 근거리 통신을 이용하여 영상 표시 장치 100를 제어할 수 있다. 제어 장치 50는 구비된 키(버튼을 포함), 터치 패드(touchpad), 사용자의 음성의 수신이 가능한 마이크(도시되지 아니함), 및 제어 장치 50의 모션 인식이 가능한 센서(도시되지 아니함) 중 적어도 하나를 이용하여 영상 표시 장치 100의 기능을 제어할 수 있다.
일 실시예에 따른 제어 장치50는 4방향 키(또는, 4방향 버튼)를 포함할 수 있다. 4방향 키는 360도 영상 내에서 디스플레이부에 표시되는 일부 영역30의 위치를 이동시키는 데 이용될 수 있다.
또한, 제어 장치50는 포인팅 장치일 수 있다. 예를 들어, 제어 장치50는 특정 키 입력을 수신하는 경우에, 포인팅 장치로 동작할 수 있다. 제어 장치50가 포인팅 장치로 동작하는 경우, 영상 표시 장치100는 제어 장치50를 상, 하, 좌, 우로 움직이거나 임의의 방향으로 기울이는 사용자 입력에 의해 제어될 수 있다. 제어 장치50의 센서를 통하여 감지된 제어 장치50의 움직임에 관한 정보는, 클라이언트 디바이스100로 전송될 수 있다. 클라이언트 디바이스100는 제어 장치50의 움직임에 관한 정보에 기초하여, 360도 영상 내에서 디스플레이부에 표시되는 일부 영역30을 이동시킬 수 있다.
또는, 제어 장치50가 터치 패드를 포함하는 경우, 터치 패드 상에서 움직이는 사용자의 손가락과 같은 피사체의 변위 값에 따라 360도 영상 내에서 디스플레이부에 표시되는 일부 영역 30의 위치를 이동시킬 수 있다.
도 2는 360도 영상의 화각을 설명하기 위한 도면이다.
전술한 바와 같이, 360도 영상은 적어도 하나의 카메라를 이용하여 360도 방향으로 촬영된 복수의 영상들에 기초하여 생성된 영상일 수 있다. 이때, 촬영된 복수의 영상들은 구(sphere)에 맵핑될 수 있으며, 맵핑된 영상들의 접점들이 연결(스티칭(stitching))되어, 구(sphere) 형식의 360도 영상이 생성될 수 있다.
그리고, 360도 영상은 360도의 화각(angle of view)을 가지는 영상을 의미할 수 있다. 360도 영상을 구 형식의 영상 200으로 표현할 때, 360도 영상의 화각은, x축 좌표와 y축 좌표로 구성될 수 있다. x축 좌표는 구의 중심을 지나는 세로 평면이 구의 표면을 따라 회전하면서 형성되는 각도를 나타낼 수 있다. y 축 좌표는 구의 중심을 지나는 가로 평면이 구의 표면을 따라 회전하면서 형성되는 각도를 나타낼 수 있다. 예를 들어 x축 좌표는 0도에서 360도 범위를 가질 수 있다. 예를 들어y축 좌표는 -90도 에서 90도 또는 0도에서 180 도의 범위를 가질 수 있다.
예를 들어, 도 2를 참조하면, 구 형식의 영상200에서 구의 표면에 위치하는 소정의 지점 210의 화각 (x,y) 을 (0도, 0도)로 설정할 때, 지점 220의 화각은 (30도, 30도)가 될 수 있다.
도 3은 일 예에 따라 360도 영상을 표시하는 방법을 나타내는 도면이다.
사용자는 360도 영상 중 원하는 각도에 대응하는 영상을 보기 위하여 360도 영상 300을 네비게이션 할 수 있다. 도 3을 참조하면, 예를 들어 사용자가 특정 화각에 대응하는 영역 310에 대응하는 영상311을 보다가 좀 더 오른쪽 방향에 있는 영역의 영상을 보고 싶을 때 사용자는 제어 장치 50를 이용하여 화각을 조정하는 사용자 입력을 선택할 수 있다. 예를 들어 사용자가 화각을 40도로 변경하는 사용자 입력을 선택할 때 클라이언트 디바이스 100는 화각이 40도에 대응하는 영역 320에 대응하는 영역 321을 표시할 수 있다.
일 실시예에 따라 사용자는 제어 장치 50의 4방향 키를 이용하여 360도 영상의 화각을 이동시킬 수 있다. 예를 들어 4방향 키의 좌 우 방향키를 이용하여 360도 영상을 좌우 방향으로 이동시킬 수 있다. 예를 들어 4 방향 키의 상 하 방향키를 이용하여 360도 영상을 상하 방향으로 이동시킬 수 있다.
일 실시예에 따라 사용자는 가속도 센서나 자이로스코프를 포함하는 제어 장치 50를 상하좌우 또는 임의의 방향으로 움직임으로써 360도 영상의 화각을 조정할 수 있다.
일 실시예에 따라 사용자는 제어 장치 50에 마련된 터치패드에 사용자의 손가락을 터치하면서 움직이는 방향에 따라 360도 영상의 화각을 조정할 수 있다.
일 실시예에 따라 클라이언트 디바이스 100가 터치 센서티브 스크린으로 구성된 경우, 사용자는 클라이언트 디바이스 100의 터치 센서티브 스크린 상에서의 사용자의 손가락의 터치 움직임을 이용하여 360도 영상의 화각을 조정할 수 있다.
일 실시예에 따라 사용자는 제어 장치 50의 특정한 키나 버튼 또는 제어 장치 50을 이용한 제스쳐를 통하여 360도 영상을 줌인 하거나 줌 아웃 할 수 있다. 줌 인 입력에 응답해서 클라이언트 디바이스 100는 현재 표시되는 영역을 확대하여 표시할 수 있다. 줌 아웃 입력에 응답해서 클라이언트 디바이스 100는 현재 표시되는 영역을 축소하여 표시할 수 있다. 일 예에 따라 줌 아웃 정도가 미리 정한 임계치를 넘어가면 클라이언트 디바이스 100는 영상을 구 형상으로 표시할 수 있다. 일 예로 줌은 -4 배에서 4 배까지의 범위를 가질 수 있다.
도 4는 일 실시예에 따라 클라이언트 디바이스와 컴패니언 스크린 디바이스를 나타낸다.
도 4를 참조하면, 텔레비전과 같은　클라이언트 디바이스 100는 360도 비디오 콘텐츠의 일부를 표시한다.　 또한 클라이언트 디바이스 100는 360도 비디오 콘텐츠를 제어하여 디스플레이되는 360도 비디오 콘텐츠의 시점을 변경할 수 있다.　　
　일 실시예에 따라 360도 비디오 콘텐츠를 디스플레이하는 클라이언트 디바이스　100 및 360도 비디오 컨텐츠를 제어하는 컴패니언 스크린 디바이스400　사이에 통신 채널을 확립할 수 있다.
클라이언트 디바이스 100는　예를 들면 텔레비전 일 수 있다.　 그러나,　클라이언트 디바이스 100는 임의의 적절한 디스플레이 디바이스일　수 있다.　 클라이언트 디바이스 100는　브로드캐스트 또는 광대역 연결을 통해 비디오 및 오디오 재생을 지원한다. 클라이언트 디바이스　100는　360도 비디오 콘텐츠의 디스플레이 및 제어를 지원하는 애플리케이션을 포함할 수 있다.　이러한 애플리케이션은 미디어 플레이어가 내용을 올바르게 디코딩 할 수 있도록 콘텐츠가 360도 포맷이라는 것을 미디어 플레이어에 알릴 수 있다. 애플리케이션의 예는 HbbTV 애플리케이션이며, 360도 콘텐츠를 지원할 수 있는 임의의 적합한 애플리케이션이 사용될 수 있다.
클라이언트 디바이스 100는　사용자가　특정　시점에서 360도 콘텐츠를 볼 수 있는 시야 윈도우를 제공할　수 있다.　 따라서, 사용자는 360도 컨텐츠의 주어진 각도 범위를 볼 수 있다.　 클라이언트 디바이스 100에 표시된 360도 콘텐츠는 사용자가　클라이언트 디바이스 100　의 시야 윈도우를 통해 360도 콘텐츠를 보는 시점(point of view)을 변경하기 위해 제어될 수 있다.　 제어는 360도 비디오 컨텐츠를 통해 가로 또는 세로 방향으로 시점을 회전시키는 것을 포함할 수 있다.　 360도 비디오 컨텐츠의 시점의 제어는 도 2 및 도 3을 참조하여 설명한 바와 같다. 제어는 360도 컨텐츠에 디스플레이된 객체로부터 사용자가 더 멀리 또는 더 가까이에 있는 것처럼 보이도록 콘텐츠의 감지된 줌 레벨을 변경하는 것을 또한 포함할 수 있다.
360도 비디오 콘텐츠는 서버에서 렌더링되고　클라이언트 디바이스 100로　스트리밍될 수 있다.　 예를 들어,　클라이언트 디바이스 100는 360도 콘텐츠에 관한 위치 정보를 서버에 제공하고, 서버는　클라이언트 디바이스 100에　의해 제공된 위치 정보에 대응하는 시점을 갖는 360도 콘텐츠를 렌더링할 수 있다. 예를 들어, 고해상도는 서버측 렌더링을 활용하여 얻을 수 있다.
　대안적으로, 360도 비디오 컨텐츠는 클라이언트 디바이스 100에서 렌더링 될 수 있다.　 클라이언트 디바이스 100　에서 360도 비디오 렌더링을 할 수 있는 애플리케이션의 예로는　WebGL 및 HbbTV가 있지만 이에 국한되지는 않는다. 본 발명은 서버측 렌더링, 클라이언트측 렌더링 또는 이들 모두를 지원할 수 있는 애플리케이션을 사용할 수 있다.
　컴패니언　스크린 디바이스 400는　예를 들어 휴대 전화, 또는 태블릿일 수 있다.　 컴패니언　스크린 디바이스 400는　클라이언트 디바이스 100　및　컴패니언　스크린 디바이스 400　사이의 상호 작용을 제공할 수 있는 스크린을 구비한 디바이스이다.　 본 개시서에서,　컴패니언 스크린 디바이스 400는 360도 비디오 콘텐츠를 제어할 수 있다.　 컴패니언　스크린 디바이스400는　360도 비디오 콘텐츠의 제어를 지원하는 애플리케이션을 포함 할 수 있다.
　클라이언트 디바이스 100　와　컴패니언 스크린 디바이스 400　간의 통신 채널은　임의의 적절한 방식으로 설정될 수 있다.　일부 실시예에서, 통신 채널은 IP 네트워크를 통해 설정 될 수 있다.　예를 들어,　클라이언트 디바이스 100　및　컴패니언 스크린 디바이스 400 각각은 무선 네트워크에 연결되고, 이를 통해　클라이언트 디바이스 100와 컴패니언 스크린　디바이스 400간의 시그널링이 전송될 수　있다.
　대안적으로, 블루투스는 클라이언트 디바이스 100　와　컴패니언 스크린 디바이스400　사이에서 시그널링이　송신 될 수 있는 통신 채널을 확립하는데 사용될 수 있다.　 그러나, 통신 채널을 설정하기 위한 임의의 적절한 수단이 사용될 수 있다.　 통신 채널을 확립하는 수단은 무선일 수도 있지만, 대안적으로 유선 접속을 통해 확립될 수도 있다.
　실시예에서, 통신 채널은　클라이언트 디바이스 100가 식별한 컴패니언 디바이스에 대해 확립될 수 있다.　예를 들어,　컴패니언 스크린 디바이스400는　자신이 360도　제어할 수 있다는 표시를 클라이언트 디바이스　100에　제공할　수 있다.
도 5는 일 실시예에 따라 클라이언트 디바이스와 복수의 컴패니언 스크린 디바이스를 나타낸다.
　일 실시예에 따라,　클라이언트 디바이스 100는 360도 제어가 가능한　복수의　컴패니언 스크린 디바이스400를 식별할 수 있다.　 이 경우,　클라이언트 디바이스 100는　복수의 컴패니언 스크린 디바이스400　중 적어도 하나를　선택하고 선택된　컴패니언 스크린 디바이스400에　접속할 수 있다. 클라이언트 디바이스 100는　하나 이상의　컴패니언 스크린 디바이스400에　연결할 수 있다.　
도 5를 참조하면, 클라이언트 디바이스 100가 주위에 디스커버리 요청 신호를 보낸 경우에 클라이언트 디바이스 100 주위에 있던 컴패니언 스크린 디바이스 400a, 400b, 400c는 각각 자신이 360도 제어 능력을 가짐을 표시하는 시그널을 클라이언트 디바이스 100으로 전송할 수 있다. 이와 같이 복수의 컴패니언 스크린 디바이스들로부터 360도 제어 능력 표시 시그널을 수신한 경우에 클라이언트 디바이스 100는 자신의 정책에 따라 다양한 방법에 의해 컴패니언 스크린 디바이스를 선택할 수 있다.
일 실시예에 따라 클라이언트 디바이스 100는 하나 이상의 소정의 선택 기준에 따라 컴패니언　스크린 디바이스400를 자동으로 선택할 수 있다. 　
일 실시예에 따라 클라이언트 디바이스 100는 컴패니언 스크린 디바이스400와　연관된 사용자 프로파일에 기초하여 컴패니언　스크린 디바이스400를 선택할 수 있다.
일 실시예에 따라 클라이언트 디바이스 100는 클라이언트 디바이스 100과의 근접도에 따라서 하나 이상의 컴패니언 스크린 디바이스 400를 선택할 수 있다.
　도 6은 일 실시예에 따라 클라이언트 디바이스 100와 컴패니언 스크린 디바이스 400의 개략적인 블록도이다.
도 6을 참조하면, 컴패니언 스크린 디바이스 400는 제어부 410, 통신 인터페이스 420, 비디오 처리부 430, 디스플레이 440, 감지부 450, 메모리 460을 포함한다.
통신 인터페이스 420은 스크린 미러링, DLNA, 블루투스, 미라캐스트, 와이파이 다이렉트 등 다양한 통신 기술을 이용하여 컴패니언 스크린 디바이스 400가 클라이언트 디바이스 100와 통신하는 것을 가능하게 한다.
비디오 처리부 430은 디스플레이 440에 의해 표시될 영상을 신호 처리하며, 비디오 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
디스플레이440는, 비디오 처리부 430에서 처리된 영상 신호, 데이터 신호, OSD 신호, 제어 신호 등을 변환하여 구동 신호를 생성한다. 디스플레이부440는 PDP, LCD, OLED, 플렉시블 디스플레이(flexible display)등으로 구현될 수 있으며, 또한, 3차원 디스플레이(3D display)로 구현될 수 있다. 또한, 디스플레이440는, 터치 스크린으로 구성되어 출력 장치 이외에 입력 장치로 사용되는 것도 가능하다.
감지부450는, 사용자 입력을 감지하여, 감지된 신호를 제어부 410로 전달할 수 있다.
감지부450는 사용자의 음성을 수신하는 마이크, 사용자의 영상을 수신하는 카메라 또는 사용자의 인터랙션을 감지하는 광 수신부나 터치 패드를 포함할 수 있다.
일 실시예에 따른 감지부450는 360도 영상 중 디스플레이640에 표시되는 일부 영역의 위치를 이동시키기 위한 입력, 즉, 360도 영상의 시점을 제어하기 위한 사용자 입력, 디스플레이부에 표시되는 영상을 줌 인 시키거나 줌 아웃시키기 위한 입력, 360도 영상 중 특정 위치의 영역에 대응하는 영상을 표시시키기 위한 입력 등을 감지할 수 있다.
일 실시예에 따른 감지부 450는 방위 센서를 포함하여 컴패니언 스크린 디바이스 400의 방위를 측정할 수 있다.
메모리 460는 오퍼레이팅 시스템, 제어부 410에서 처리되는 데이터, 제어부 410에서 실행되는 하나 이상의 인스트럭션을 포함할 수 있다.
특히 일 실시예에 따른 메모리 460는 360도 비디오 컨텐츠의 표시 능력을 가지는 클라이언트 디바이스를 식별하고, 상기 식별된 클라이언트 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 클라이언트 디바이스에 표시되는 상기 360도 비디오 컨텐츠의 표시를 제어하는 제어 명령을 상기 클라이언트 디바이스로 전송하도록 상기 통신 인터페이스를 제어하는 하나 이상의 인스트럭션을 포함할 수 있다.
일 실시예에서 "메모리"라는 용어는 저장소, 제어부의 롬, 램 또는 컴패니언 스크린 디바이스 400에 장착되는 메모리 카드(예를 들어, micro SD 카드, USB 메모리, 도시되지 아니함)를 포함한다. 또한, 메모리 460는 비휘발성 메모리, 휘발성 메모리, 하드 디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD)를 포함할 수 있다.
제어부 410는 컴패니언 스크린 디바이스 400의 전반적인 동작 및 컴패니언 스크린 디바이스 400의 내부 구성 요소들 사이의 신호 흐름을 제어하고, 데이터를 처리하는 기능을 수행한다. 제어부 410는 사용자의 입력이 있거나 기 설정되어 저장된 조건을 만족하는 경우, 메모리 460에 저장된 OS(Operation System) 및 다양한 애플리케이션을 실행할 수 있다.
제어부 410는 컴패니언 스크린 디바이스 400의 외부에서부터 입력되는 신호 또는 데이터를 저장하거나, 컴패니언 스크린 디바이스 400에서 수행되는 다양한 작업에 대응되는 저장 영역으로 사용되는 램, 컴패니언 스크린 디바이스 400의 제어를 위한 제어 프로그램이 저장된 롬 및 프로세서를 포함할 수 있다.
일 실시예에 따라 제어부 410은 메모리에 저장된 하나 이상의 인스트럭션을 수행함으로써 본 명세서에 개시된 컴패니언 스크린 디바이스 400과 클라이언트 디바이스 간의 통신 동작을 수행할 수 있다.
일 실시예에 따라 제어부 410은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 360도 비디오 컨텐츠의 표시 능력을 가지는 클라이언트 디바이스를 식별하고, 상기 식별된 클라이언트 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 클라이언트 디바이스에 표시되는 상기 360도 비디오 컨텐츠의 표시를 제어하는 제어 명령을 상기 클라이언트 디바이스로 전송하도록 상기 통신 인터페이스를 제어할 수 있다.
일 실시예에 따라 제어부 410은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 클라이언트 디바이스로부터 상기 클라이언트 디바이스가 상기 360도 비디오 컨텐츠의 표시 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신함으로써 상기 클라이언트 디바이스를 식별할 수 있다.
일 실시예에 따라 제어부 410은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스의 방위(orientation)를 검출하고, 상기 클라이언트 디바이스에 디스플레이된 360도 비디오 컨텐츠의 시점이 상기 컴패니언 스크린 디바이스의 방위에 따라 회전되도록, 상기 컴패니언 스크린 디바이스의 방위에 관한 디바이스 방위 정보를 상기 통신 채널을 통해 상기 클라이언트 디바이스로 전송할 수 있다.
컴패니언 스크린 디바이스 400는 도 6에 도시된 구성 외에도 오디오 데이터에 대한 처리를 수행하는 오디오 처리부, 오디오를 출력하는 오디오 출력부, 컴패니언 스크린 디바이스 400의 외부에서부터 비디오, 오디오 및 부가 정보 등을 수신하는 입/출력부를 더 포함할 수 있다.
또한, 컴패니언 스크린 디바이스 400는 그 용어에 한정되지 않고, 프로세서와 메모리를 포함하여 애플리케이션을 실행하는 장치이면, 랩탑, 스마트 폰, 태블릿, 웨어러블 장치, PDA 등 어떤 전자 장치라도 가능하다.
클라이언트 디바이스 100은 제어부 110, 통신 인터페이스 120, 비디오 처리부 130, 디스플레이 140, 메모리 150을 포함한다.
통신 인터페이스 120은 스크린 미러링, DLNA, 블루투스, 미라캐스트, 와이파이 다이렉트 등 다양한 통신 기술을 이용하여 클라이언트 디바이스 100가 컴패니언 스크린 디바이스 400와 통신하는 것을 가능하게 한다.
비디오 처리부 130은 디스플레이 140에 의해 표시될 영상을 신호 처리하며, 비디오 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
디스플레이140는, 비디오 처리부 130에서 처리된 영상 신호, 데이터 신호, OSD 신호, 제어 신호 등을 변환하여 구동 신호를 생성한다. 디스플레이부140는 PDP, LCD, OLED, 플렉시블 디스플레이(flexible display)등으로 구현될 수 있으며, 또한, 3차원 디스플레이(3D display)로 구현될 수 있다. 또한, 디스플레이140는, 터치 스크린으로 구성되어 출력 장치 이외에 입력 장치로 사용되는 것도 가능하다.
메모리 150는 오퍼레이팅 시스템, 제어부 110에서 처리되는 데이터, 제어부 110에서 실행되는 하나 이상의 인스트럭션을 포함할 수 있다.
특히 일 실시예에 따른 메모리 150는 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하고, 상기 식별된 컴패니언 스크린 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하도록 상기 디스플레이를 제어하는 하나 이상의 인스트럭션을 포함할 수 있다.
메모리 150는 오퍼레이팅 시스템, 제어부 110에서 처리되는 데이터, 제어부 110에서 실행되는 하나 이상의 인스트럭션을 포함할 수 있다.
일 실시예에서 "메모리"라는 용어는 저장소, 제어부의 롬, 램 또는 컴패니언 스크린 디바이스 400에 장착되는 메모리 카드(예를 들어, micro SD 카드, USB 메모리, 도시되지 아니함)를 포함한다. 또한, 메모리 150는 비휘발성 메모리, 휘발성 메모리, 하드 디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD)를 포함할 수 있다.
제어부 110는 클라이언트 디바이스 100의 전반적인 동작 및 클라이언트 디바이스 100의 내부 구성 요소들 사이의 신호 흐름을 제어하고, 데이터를 처리하는 기능을 수행한다. 제어부 110는 사용자의 입력이 있거나 기 설정되어 저장된 조건을 만족하는 경우, 메모리 120에 저장된 OS(Operation System) 및 다양한 애플리케이션을 실행할 수 있다.
제어부 110는 클라이언트 디바이스 100의 외부에서부터 입력되는 신호 또는 데이터를 저장하거나, 클라이언트 디바이스 100에서 수행되는 다양한 작업에 대응되는 저장 영역으로 사용되는 램, 클라이언트 디바이스 100의 제어를 위한 제어 프로그램이 저장된 롬 및 프로세서를 포함할 수 있다.
일 실시예에 따라 제어부 110은 메모리에 저장된 하나 이상의 인스트럭션을 수행함으로써, 360도 비디오 컨텐츠의 적어도 일부를 표시하도록 상기 디스플레이를 제어하고, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하고, 상기 식별된 컴패니언 스크린 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고, 상기 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하도록 상기 디스플레이를 제어할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 식별된 컴패니언 스크린 디바이스로 상기 360도 비디오 컨텐츠의 표시의 제어 동작을 수행하는 어플리케이션을 실행하도록 요청할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스의 발견을 위한 요청 신호를 전송하고, 상기 컴패니언 스크린 디바이스로부터 상기 컴패니언 스크린 디바이스가 상기 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신함으로써 상기 컴패니언 스크린 디바이스를 식별할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 복수의 컴패니언 스크린 디바이스로부터 수신하고, 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하고, 상기 선택된 적어도 하나의 컴패니언 스크린 디바이스와 연결하도록 상기 통신 인터페이스를 제어할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스와 연관된 사용자 프로파일에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 클라이언트 디바이스와 상기 컴패니언 스크린 디바이스와의 근접도에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 학습 알고리즘에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
일 실시예에 따라 제어부 110은 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 컴패니언 스크린 디바이스의 방위(orientation)에 관한 디바이스 방위 정보를 상기 통신 채널을 통해 수신하고, 상기 디스플레이된 360도 비디오 컨텐츠의 시점이 상기 컴패니언 디바이스의 방위에 따라 회전되도록, 상기 디스플레이된 360도 비디오 컨텐츠의 시점을 상기 디바이스 방위 정보에 응답하여 조정하고, 상기 조정된 시점에 대응하는 360도 비디오 컨텐츠의 영역을 표시하도록 상기 디스플레이를 제어할 수 있다.
일 실시예에 따라 디바이스 방위 정보는 상기 컴패니언 디바이스의 방위를 검출하도록 배치된 하나 이상의 센서에 의해 측정된 복수의 방위값을 포함하고, 상기 제어부 410은, 상기 하나 이상의 인스트럭션을 실행함으로써, 평탄화된 방위 데이터를 획득하기 위하여 상기 복수의 방위값을 평탄화하고, 상기 평탄화된 방위 데이터에 기초하여 상기 360도 비디오 콘텐츠의 시점 회전 속도를 결정할 수 있다.
클라이언트 디바이스 100는 도 6에 도시된 구성 외에도 오디오 데이터에 대한 처리를 수행하는 오디오 처리부, 오디오를 출력하는 오디오 출력부, 클라이언트 디바이스 100의 외부에서부터 비디오, 오디오 및 부가 정보 등을 수신하는 입/출력부, 방송 신호를 수신하는 튜너부 140, 사용자의 음성, 사용자의 영상, 사용자의 인터랙션을 감지하는 감지부를 더 포함할 수 있다.
한편, 도 6에 도시된 영상표시장치 100나 컴패니언 스크린 디바이스 400의 블록도는 일 실시예를 위한 블록도이다. 블록도의 각 구성요소는 실제 구현되는 영상표시장치100의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다. 또한, 각 블록에서 수행하는 기능은 실시예들을 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.
도 7은 일 실시예에 따라 클라이언트 디바이스 100에서 360도 비디오 컨텐츠를 표시하는 동작 방법의 흐름도이다.
실시예에 따라서는, 본 방법의 모든 단계들은 동일한 장치에서 수행 될 수 있거나, 또는 상이한 단계들이 상이한 장치에서 수행 될 수 있다.　도 7에 도시된 임의의 단계는 특정 실시예에 따라서 소프트웨어 또는 하드웨어로 수행 될 수 있다.　하나 이상의 단계가 소프트웨어로 수행 될 때, 본 방법을 수행하기 위한 장치는 하나 이상의 프로세서를 포함하는 프로세싱 유닛 및 상기 프로세싱 유닛에 의해 실행될 때 각각의 방법을 수행하는 컴퓨터 프로그램 명령을 저장하는 컴퓨터 판독 가능 메모리를 포함 할 수 있다.
도 7을 참조하면, 동작 S710에서, 클라이언트 디바이스 100는 360도 비디오 컨텐츠 이벤트를 획득할 수 있다.
360도 비디오 컨텐츠 이벤트는 다양한 방법에 의해 얻어질 수 있는데, 예를 들어, 사용자로부터 360도 비디오 컨텐츠를 표시하라는 사용자 입력을 수신하거나 또는 클라이언트 디바이스 100 내부의 설정 정보에 의해 360도 비디오 컨텐츠를 표시하는 타이밍이 도달했다거나 또는 360도 비디오 컨텐츠를 담고 있는 외부 장치가 연결되어 360도 비디오 컨텐츠를 클라이언트 디바이스 100가 수신하는 경우 등이 될 수 있다.
클라이언트 디바이스 100는 이와 같은 360도 비디오 컨텐츠 표시 이벤트가 발생한 경우에 360도 비디오 컨텐츠를 디스플레이에 표시할 수 있다. 대안적으로, 클라이언트 디바이스는 도 7에 도시된 동작들의 어느 단계에서 360도 비디오 컨텐츠를 표시할 수 있다.
동작 S720에서, 클라이언트 디바이스 100는 360도 비디오 컨텐츠 이벤트에 따라 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별할 수 있다.
일 실시예에 따라 클라이언트 디바이스 100는 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 찾기 위한 디스커버리 요청 신호를 전송하고, 이러한 디스커버리 요청 신호에 응답하여 360도 제어 능력을 가진다는 표시를 컴패니언 스크린 디바이스로부터 수신함으로써, 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별할 수 있다.
일 실시예에 따라, 클라이언트 디바이스 100는 도 8에 도시된 바와 같이 하나의 컴패니언 스크린 디바이스 400를 식별할 수 있다.
일 실시예에 따라, 클라이언트 디바이스 100는 도 9에 도시된 바와 같이 복수개의 컴패니언 스크린 디바이스 400를 식별하고 이중에서 하나 이상을 선택할 수 있다.
동작 S730에서, 클라이언트 디바이스 100는 식별된 컴패니언 스크린 디바이스 400와 통신 채널을 연결할 수 있다.
동작 S740에서, 클라이언트 디바이스 100는 연결된 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 360도 비디오 컨텐츠의 표시를 제어할 수 있다.
도 1 내지 3에 도시된 바와 같이, 360도 비디오는 수평 및 수직 방향 모두에서 360도 시야를 포함 할 수 있다.　 360도 비디오 콘텐츠의 일부는 도 1에 도시 된 바와 같이,　클라이언트 디바이스 100에 디스플레이될 수 있다. 클라이언트 디바이스 100에 디스플레이된 컨텐츠는 시점을 회전시킴으로써 변경되어 클라이언트 디바이스 100를 통해 디스플레이되는 360도 비디오 컨텐츠의 일부가 변경될 수 있다.　360도 컨텐츠의 디스플레이 된 부분은 360도 비디오 컨텐츠에 대해 주어진 줌 레벨로부터의 시점을 가질 수 있다.　360도 비디오 콘텐츠는 시점의 줌 레벨을 변경하도록 제어 될 수 있다.　360도 비디오 콘텐츠는　컴패니언 스크린 디바이스 400에　의해 제어 될 수 있다.
일부 실시예에서, 클라이언트 디바이스 100와　컴패니언 스크린 디바이스400　사이에 통신 채널이 확립되기 전에　360도 비디오 콘텐츠의 일부가　클라이언트 디바이스 100　상에 디스플레이 될 수 있다.　 예를 들어,　클라이언트 디바이스 100와　컴패니언 스크린 디바이스400　사이에 통신 채널이 확립되기 전에 텔레비전 원격 제어를 사용하여 360도 콘텐츠가 선택되고 제어될 수 있다.　 예를 들어,　360도 컨텐츠를 제어할 수 있는　사용 가능한　컴패니언 스크린 디바이스 400가　없을 수 있다.　 360도 컨텐츠를 제어 할 수　있는　컴패니언 스크린 디바이스400　가 이용 가능하게 될 때, 통신 링크가 확립될 수 있고, 동작 S740이 수행 될 수 있다.
동작 S740에서, 본 방법은 디스플레이된 360도 비디오 콘텐츠의 시점을, 통신 채널을 통해 컴패니언 스크린 디바이스 400으로부터 수신된 시그널링에 응답하여 제어하는 단계를 더 포함한다. 컴패니언 스크린 디바이스로부터 클라이언트 디바이스 100으로 제공되는 시그널링은 360도 비디오 컨텐츠의 시점에 관한 명령을 포함할 수 있다. 사용자는 이 명령을 컴패니언 스크린 디바이스 400에서 입력할 수 있다.
예를 들어, 사용자 인터페이스는　컴패니언 스크린 디바이스400에　디스플레이될 수 있다.　사용자 인터페이스는 사용자가 360도 컨텐츠의 시점 제어에 관한 지시를 입력할 수 있도록 구성 될 수 있다.　컴패니언　스크린 디바이스400는　사용자 인터페이스를 통해 수신된 명령을 상기 통신 채널 상에서 시그널링을 통해　상기　클라이언트 디바이스　100에　제공하도록 구성될　수 있다.　사용자 인터페이스를 통해 입력될 수 있는 제어 명령은 도 15 내지 도 17을 참조하여 상세히 설명된다. 제어 명령은 360도 비디오 콘텐츠의 뷰를 변경하기 위한 네비게이션 명령일 수 있다.　 따라서 클라이언트 디바이스 100에 표시되는 360도 비디오 컨텐츠의 시점은 네비게이션 명령에 따라 조정될 수 있다.
일부 실시예에서, 사용자 인터페이스는 컴패니언 스크린 디바이스의 스크린에 디스플레이될 수 있고, 사용자는 디스플레이된 사용자 인터페이스와 상호 작용하여 360도 컨텐츠를 제어하기 위한 명령을 입력할 수 있다. 예를 들어, 컴패니언 스크린 디바이스는 터치 스크린 전화 또는 태블릿 디바이스이고, 사용자는 컴패니언 스크린 디바이스의 화면을 터치하여 명령을 입력할 수 있다.
　일부 실시예에서,　컴패니언 스크린 디바이스400는 360도 컨텐츠를 전체 화면으로 디스플레이할 수 있다.　 360도 콘텐츠의 영역을 가리키는 사용자 명령은　컴패니언 스크린 디바이스400를　통해 수신될 수 있다.　 360도 비디오 콘텐츠의 시점은　클라이언트 디바이스 100에　디스플레이된 360도 비디오 콘텐츠의 부분이 상기 가리켜진 영역을 포함하도록 제어될 수 있다.　
시점에 관한 명령은 컴패니언 스크린 디바이스의 방위에 대응할 수 있고, 클라이언트 디바이스 100가 통신 채널을 통해　수신하는 시그널링은　컴패니언 스크린 디바이스 400의 방위에 관한 방위 정보를 포함할 수 있다.　360도 비디오 콘텐츠의 시점은　수신된 디바이스 방위 정보에 응답하여 조정되어, 360도 비디오 콘텐츠의 시점이　컴패니언 스크린 디바이스 400의 방위에 기초하여 회전될 수 있다.
　컴패니언 스크린 디바이스　400의　방위를 검출하도록 배열된　컴패니언 스크린 디바이스　400 내 하나 이상의 센서가 복수의　방위 값을 측정할 수 있다.
　복수의 방위 값은 평활화 방위 데이터를 획득하기 위해　클라이언트 디바이스　100에서　평활화될 수　있고,　클라이언트 디바이스　100에서　360도 비디오 콘텐츠 시점의 회전 속도는　평활화된 방위 데이터에 기반하여 결정될 수 있다.
도 8은 일 실시예에 따라 클라이언트 디바이스 100가 컴패니언 스크린 디바이스 400를 식별하는 동작의 일 예를 나타낸다.
도 8을 참조하면, 동작 810에서, 클라이언트 디바이스 100에서 360도 비디오 컨텐츠 이벤트가 발생할 수 있다. 360도 비디오 컨텐츠 이벤트를 360도 비디오 컨텐츠의 재생을 트리거하는 어떠한 형태의 동작도 포함할 수 있다.
동작 820에서, 클라이언트 디바이스 100는 360도 비디오 컨텐츠의 제어를 할 수 있는 컴패니언 스크린 디바이스를 서치하기 위해 디스커버리 요청 신호를 전송할 수 있다.
동작 830에서, 컴패니언 스크린 디바이스 400는 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 시그널을 클라이언트 디바이스 100으로 전송할 수 있다.
동작 840에서, 클라이언트 디바이스 100는 컴패니언 스크린 디바이스 400으로부터 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 시그널을 수신함으로써 컴패니언 스크린 디바이스 400을 식별하고, 이에 따라 클라이언트 디바이스 100과 컴패니언 스크린 디바이스 400 간에 통신 채널을 연결할 수 있다.
동작 850에서, 컴패니언 스크린 디바이스 400는 360도 비디오 컨텐츠를 제어하는 네비게이션 정보를 생성하고 동작 860에 이 생성된 네비게이션 정보를 클라이언트 디바이스 100으로 전송할 수 있다.
동작 870에서, 클라이언트 디바이스 100는 컴패니언 스크린 디바이스 400으로부터 수신된 네비게이션 정보에 따라 360도 비디오 컨텐츠의 표시를 제어할 수 있다.
도 9는 일 실시예에 따라 클라이언트 디바이스 100가 복수의 컴패니언 스크린 디바이스 400를 식별하고 이중 하나를 선택하는 동작의 일 예를 나타낸다.
도 9를 참조하면, 동작 905에서, 클라이언트 디바이스 100에서 360도 비디오 컨텐츠 이벤트가 발생할 수 있다. 360도 비디오 컨텐츠 이벤트를 360도 비디오 컨텐츠의 재생을 트리거하는 어떠한 형태의 동작도 포함할 수 있다.
동작 910 및 915에서, 클라이언트 디바이스 100는 클라이언트 디바이스 100의 주변에 있는 360도 비디오 컨텐츠의 제어를 할 수 있는 컴패니언 스크린 디바이스를 서치하기 위해 디스커버리 요청 신호를 전송할 수 있다.
동작 920, 925에서, 컴패니언 스크린 디바이스 400a와 400b는 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 시그널을 클라이언트 디바이스 100으로 전송할 수 있다.
동작 930에서, 클라이언트 디바이스 100는 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택할 수 있다.
예를 들어, 클라이언트 디바이스 100는 복수의 컴패니언 스크린 디바이스중 하나를 선택할 수도 있고, 두 개 이상을 선택할 수도 있다.
예를 들어, 클라이언트 디바이스 100가 컴패니언 스크린 디바이스 400a를 선택한 경우에 동작 935에서, 클라이언트 디바이스 100는 컴패니언 스크린 디바이스 400a와 통신 채널을 연결할 수 있다.
동작 940에서, 컴패니언 스크린 디바이스 400a는 360도 비디오 컨텐츠를 제어하는 네비게이션 정보를 생성하고 동작 945에 이 생성된 네비게이션 정보를 클라이언트 디바이스 100으로 전송할 수 있다.
동작 950에서, 클라이언트 디바이스 100는 컴패니언 스크린 디바이스 400a으로부터 수신된 네비게이션 정보에 따라 360도 비디오 컨텐츠의 표시를 제어할 수 있다.
도 10은 일 실시예에 따라　클라이언트 디바이스 100와　컴패니언 스크린 디바이스400　사이 통신 채널을 확립하는 단계를 상세히 설명하는 흐름도이다.　실시예에 따라, 본 방법의 모든 단계들은 동일한 장치에서 수행될 수 있거나, 몇몇 단계는 다른 장치에서 수행될 수 있다.　 도 10에 도시된 임의의 단계는 특정 실시예에 따라 소프트웨어 또는 하드웨어로 수행될 수 있다.　하나 이상의 단계가 소프트웨어로 수행될 때, 본 방법을 수행하기 위한 디바이스는 하나 이상의 프로세서를 포함하는 프로세싱 유닛과, 상기 프로세싱 유닛에 의해 실행될 때 각각의 방법 단계를 수행하는 컴퓨터 프로그램 명령을 저장한 컴퓨터 판독 가능 메모리를 포함할 수 있다.
　동작 S1001에서,　클라이언트 디바이스 100는　360도 콘텐츠를 제어할 수 있는　컴패니언 스크린 디바이스400를 검색할 수 있다. 예를 들어, 클라이언트 디바이스 100는 360도 콘텐츠를 제어할 수 있는 컴패니언 스크린 디바이스400를 검색하기 위한 검색 요청을 수행할 수 있다.　적절한 컴패니언 스크린 디바이스400를 찾은 후, 클라이언트 디바이스는　실행 요청(launch request)을　보낼 수 있다.　예를 들어, 실행 요청은　클라이언트 애플리케이션에　의해　클라이언트 디바이스 100로부터　전송될 수 있다.　검색　및　실행　요청은 IP 네트워크를 통해 전송되거나 또는 예를 들어, 통신 채널을 확립하기 위한 임의의 적절한 수단을 통해 전송될 수 있다. 컴패니언 스크린 디바이스400의　발견을 위한 프로토콜은　임의의 적합한 프로토콜일　수 있고,　예를 들어　클라이언트 디바이스 100의 제조자에 의해 설정된 프로토콜을 따를 수 있다.
　검색 및/또는　실행 요청을 전송하기에 적합한 클라이언트 애플리케이션은 예를 들어　HbbTV 애플리케이션일 수 있다.　이 규격은 애플리케이션이　컴패니언 스크린 디바이스400의　발견을 위해 사용할 수 있는 애플리케이션 프로그래밍 인터페이스 (API)를 정의한다.　그러나,　컴패니언 스크린 디바이스400의　발견을 위해 사용되는 애플리케이션은 임의의 적합한 애플리케이션일　수 있다.　예를 들어,　클라이언트 디바이스 100　및/또는　컴패니언 스크린 디바이스400의　제조자는 컴패니언 스크린 디바이스400의　검색을 수행하기 위해 필요한 기능을 제공하는 프로토콜을 정의할　수 있다.
　동작 S1002에서,　클라이언트 디바이스 100는 360도 콘텐츠 제어 능력을 갖는　임의의　컴패니언 스크린 디바이스400가　이용 가능한지를　결정할 수 있다.
　컴패니언　스크린 디바이스400는　런처 애플리케이션(launcher application)을 포함할 수 있다. 런처 애플리케이션은 클라이언트 디바이스 100로부터의 실행 요청을 수신하도록 구성된다. 이러한 런처 애플리케이션은 HbbTV 2.0.1에서 정의된 것과 같은 것일 수 있다.　본 개시의 실시예에서, 클라이언트　디바이스　100로부터의　실행 요청 수신에 응답하여,　클라이언트 디바이스 100의 런처 애플리케이션은 클라이언트 디바이스　100로부터의　요청에 따라 제어 애플리케이션을 실행하도록 구성될　수 있다. 　대안적으로는, 런처 애플리케이션은 클라이언트로부터의　요구에　응답하여　애플리케이션 스토어 또는 웹 사이트를 실행하고, 사용자는 클라이언트 디바이스 100에 디스플레이된 360도 비디오 콘텐츠를 제어할 수 있는 제어 프로그램을 이 스토어 또는 사이트를 통해 다운로드할 수 있다.
런처 애플리케이션은 360도 콘텐츠의 제어를 지원하는 기능을 제공하기 위해 수정될 수 있는 알려진 런처 애플리케이션일 수 있다.
런처 애플리케이션은　클라이언트 디바이스 100로부터 요청을 수신하기 위해　컴패니언 스크린 디바이스400에서 백그라운드로 실행될 수 있다.　클라이언트 디바이스 100로부터 요청의 수신에 응답하여, 런처 애플리케이션은　클라이언트 디바이스 100에 컴패니언 스크린 디바이스가 360도 제어 능력을 갖고 있음을 통지할 수 있다.　그러나, 컴패니언 스크린 디바이스는 자신이 360도 제어 기능을 가지고 있음을 임의의 적절한 방법으로 나타낼 수　있고,　이것은 런처 애플리케이션의 사용에 한정되지 않는다.
　컴패니언 스크린 디바이스400가 360도 제어 능력을 갖는다는 표시는 컴패니언 스크린 디바이스400로부터 클라이언트 디바이스 100로, 클라이언트 디바이스 100로부터의 실행 요청이 송신되는 통신 채널(예를 들어 IP 네트워크)을 통해 송신될 수 있다.
컴패니언 스크린 디바이스 400가 360도 제어 능력을 갖는다는 표시를 컴패니언 스크린 디바이스 400로부터 수신하는 것에 응답하여,　클라이언트 디바이스 100는 적절한 제어 애플리케이션이 이용 가능한지 결정할 수 있다.　클라이언트 디바이스 100　및　컴패니언 스크린 디바이 스400는　그들 사이에 통신 채널을　확립하고, 제어 시그널링 정보를 컴패니언 스크린 디바이 스400로부터　클라이언트 디바이스 100에　전송한다. 예를 들어, 클라이언트 디바이스 100에서 실행중인 클라이언트 애플리케이션은　컴패니언 스크린 디바이 스400　상에서 실행되는 제어 애플리케이션과 app to app 통신을 확립할 수 있다.　이 app to app 통신은 예를 들어 웹 소켓을 통해 확립될 수 있다.
　컴패니언　스크린 디바이스 400는　제로 구성 네트워킹(zero configuration networking)을 사용하여 가용성을 시그널링할 수 있다.　그 후 클라이언트 디바이스 100는 네트워크상에서 디바이스들을 발견하고 그들의 능력을 질의할 수 있다.　 디바이스들의 능력은 컴패니언 스크린 ID 문자열을 통해 발견될 수 있다.　HbbTV에서 상기 문자열은 CS_OS_ID 문자열로 정의될 수 있다.　이러한 문자열은　컴패니언 스크린 디바이스 400상의　애플리케이션이 360도 제어 능력을 갖는다는　것을 클라이언트 애플리케이션에 시그널링하기 위해 확장될 수 있다.　상기 문자열은 360도　콘텐츠를　표시할 수 있는　기능이 없는　클라이언트 디바이스들 100에 영향을 주지 않기 위해 이전 버전과 하위 호환되는 방식으로 연장될 수 있다.
HbbTV CS OS ID 문자열의 예는 다음과 같다.
csoid = launcher WS user_agent_string
launcher = launcher_product [ launcher_comment ]
launcher_product = launcher_name "/" launcher_version
launcher_comment = WS "(" comment_body ")"
comment_body = comment 0*(";" WS comment )
comment = store_info | manufacturer_specific_comment
store_info = "appstore" "/" app_store_is
WS = 1*" "
따라서 360도 제어 기능의 시그널링은 아래와 같이 실행 주석에 추가될 수 있다.
launcher_comment = "("360_control_supported ")"
동작 S1002의 판단에 따라 단일　컴패니언 스크린 디바이스400가 이용 가능한 경우, 동작 S1006으로 진행하여, 단일　컴패니언 스크린 디바이스400와 클라이언트 디바이스 100간에 통신 채널을 확립하고, 단일 컴패니언 스크린 디바이스 400가 360도 비디오 콘텐츠를 제어할 수 있다.
동작 S1002에서, 클라이언트 디바이스 100가　360도 콘텐츠를 제어하기에 적합한　임의의 이용 가능한　컴패니언 스크린 디바이스400가 존재한다고 결정하지 않으면, 동작 S1002a로 진행한다. 　이는　컴패니언 스크린 디바이스400로부터 360도 비디오 콘텐츠를 제어 할 수　있다는 어떠한 표시도 클라이언트 디바이스 100가 수신하지 못할　때 발생할 수 있다.　동작 S1002a에서, 클라이언트 디바이스 100에 디스플레이된 360도 비디오 콘텐츠는 그 클라이언트 디바이스 100를 제어하기 위한 통상의 원격 제어 장치에 의해 제어 될 수 있다. 상기 원격 제어 장치는 예컨대, 클라이언트 디바이스 100가 텔레비전이면, 리모트 콘트롤러가 될 수 있다. 　
예를 들어, 클라이언트 디바이스 100　와 동일한 네트워크에 접속된 복수의 호환 가능한　컴패니언 스크린 디바이스400가 있을　수 있다. 동작 S1002에서, 복수의 컴패니언 스크린 디바이스400 각각으로부터 360도 비디오 콘텐츠를 제어할 수　있는 표시가 각각 수신되면, 동작 S1003으로 진행한다.
　동작 S1003에서,　클라이언트 디바이스 100는　그 클라이언트 디바이스 100의 사용자 구성을 확인할 수 있다.
확인된 사용자 구성에 따라 클라이언트 디바이스 100가 다중 연결을 허용되면, 동작 S1003a가 진행되어, 360도 제어가 가능하다고 표시한 컴패니언 스크린 디바이스400 각각과 클라이언트 디바이스 100 사이에 통신 채널이 확립될 수 있다. 복수의 컴패니언 스크린 디바이스400로의　접속은 예를 들어, 게임 애플리케이션과 같은 다수의 애플리케이션에서 사용될 수 있다.
　복수의　컴패니언 스크린 디바이스400가 이용 가능한 경우, 이들 모두가 클라이언트 디바이스 100　와 동일한 공간에 있지 않을 수 있다. 이 경우,　클라이언트 디바이스 100가　모든 이용 가능한　컴패니언 스크린 디바이스400를　자동으로 선택하고　이들 장치 모두에서 런처 애플리케이션을 시작한　경우, 사용자는 불편할 수 있다. 이것은 동일한 방에 있지 않은 디바이스들이 선택되는 경우 특히 그렇다. 따라서 이러한 문제점을 해결하기 위한 하나의 옵션은　본 방법의 동작 S1003b에서 사용자가 특정 디바이스를 선택할 수 있게 하는　팝업을 클라이언트 디바이스 100상에 디스플레이하는 것이다. 이와 같이 디스플레이된 팝업에 따라 사용자는 하나의 특정 컴패니언 스크린 디바이스를 선택할 수 있다.
　클라이언트 디바이스 100는　복수의　컴패니언 스크린 디바이스400 중 하나의 컴패니언 스크린 디바이스400에서 런처 애플리케이션을 자동으로 실행하도록 구성 될 수 있다. 　이것은 여러 가지 방법으로 수행될 수 있다.
　동작 S1004에서,　자동 런칭 기능이 이용 가능한 경우,　클라이언트 디바이스 100는　이용 가능한　컴패니언 스크린 디바이스400의　근접성을 자신이 검사할 수 있는지 여부를 판단하도록 구성될 수 있다. 근접성 검사가 가능한 경우, 동작 S1004a가 수행된다. 동작 1004a에서,　클라이언트 디바이스 100는　컴패니언 스크린 디바이스400　의 클라이언트 디바이스 100에 대한 근접성에 기초하여 컴패니언 스크린 디바이스400를 선택하도록 구성될 수 있다.
근접 검출은 예를 들어, BLE 비컨을 사용하여 수행될 수 있다.　물리적 근접성에 기초하여　컴패니언 스크린 디바이스400를　선택할 때,　클라이언트 디바이스 100는 물리적으로　클라이언트 디바이스 100에　가장 가까운　컴패니언 스크린 디바이스400를　자동으로 선택할 수 있다.
　어떤 이유로 든 사용자가 근접 검출의 사용을 원하지 않으면,　사용자는 클라이언트 디바이스 100　상의 사용자 인터페이스 옵션을 통해 컴패니언 스크린 디바이스400　의 근접 감지 선택을 디스에이블할 수 있다.　이와 같이 근접 감지 선택이 디스에이블된 경우 또는 근접성 검사가 다른 이유로 사용될 수 없는 경우 동작 S1005가 수행될 수 있다.
　동작 S1005에서,　클라이언트 디바이스 100는　학습 알고리즘에 기초하여　컴패니언 스크린 디바이스400를　선택할 수 있다.
인공지능(Artificial Intelligence, AI) 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템이며, 기존 Rule 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 Rule 기반 스마트 시스템은 점차 딥러닝 기반 인공지능 시스템으로 대체되고 있다.
인공지능 기술은 기계학습(딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
기계학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
클라이언트 디바이스 100는 인공지능 기술이 응용되는 다양한 분야 중 예를 들어, 추론 예측 등을 이용하여 학습할 수 있다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 클라이언트 디바이스 100는, 이전에 클라이언트 디바이스 100에서 수행된 컴패니언 스크린 디바이스 선택 과정 및 결과들을 이용하여 현재 상황에서의 컴패니언 스크린 디바이스를 선택할 수 있다.
　클라이언트 애플리케이션이 복수의 호환 가능한 런처 애플리케이션을 처음 발견하면, 클라이언트 애플리케이션은 팝업을 사용자에게 디스플레이하고, 이 팝업을 통해 사용자는 자신이 접속하고자 하는 선호　컴패니언 스크린 디바이스400를　선택할 수 있다.　시간이 흐름에 따라　클라이언트 디바이스 100는　자신에게 가장 많이 연결되는 컴패니언 스크린 디바이스400를 학습하고, 그 중 가장 많이 사용된 컴패니언 스크린 디바이스400와의 통신 채널을 확립할 수 있다. 예를 들어, 런처 애플리케이션은　클라이언트 디바이스 100에 가장 빈번하게 접속된 것으로 인식되는　컴패니언 스크린 디바이스400　상에서 자동으로 시작될 수 있다.　
예를 들어,　클라이언트 디바이스 100는 이전에　그 클라이언트 디바이스 100에 접속한　모든　컴패니언 스크린 디바이스400의 ID를 기억할 수 있다.　클라이언트 디바이스 100는　이러한 연결의 시간을 기록할 수 있다. 다수의 디바이스가 이용 가능한 경우,　클라이언트 디바이스 100는　일정 기간에 걸쳐 구축될 수 있는 사용자 프로파일에 기초하여　컴패니언 스크린 디바이스400를　선택할　수 있다.　
컴패니언 스크린 디바이스400를 사용자 프로파일에 기초하여 선택함으로써, 클라이언트 디바이스 100는 컨텐츠와 호환되지 않는 사용자 프로파일에 컨텐츠 통지가 자동으로 전송되는 것을 방지할 수 있다. 예를 들어,　클라이언트 디바이스 100는　성인 콘텐츠에 관한 360도 컨텐츠가 클라이언트 디바이스 100에 디스플레이될 때, 아이의 사용자 프로파일을 선택하지 않을 수 있다. 컴패니언 스크린 디바이스400의 사용자 프로파일은 관련 정보를 클라이언트 디바이스 100에 제공하여, 비호환 콘텐츠의 경우에　클라이언트 디바이스 100로의 접속을 방지한다. 또한, 부모 제어(parental control)는 예컨대, 컴패니언 스크린 디바이스 400의 설정을 통해 컴패니언 스크린 디바이스400에　설정될 수 있다.　컴패니언 스크린 디바이스 400는 클라이언트 디바이스 100에 부모 제어를 표시하고, 컴패니언 스크린 디바이스400는 부모 제어에 관한 정보에 기초하여 선택될 수 있다.
　동작 S1006에서, 선택된 컴패니언 스크린 디바이스400와 클라이언트 디바이스 100 사이에 통신 채널이 확립됨으로써, 클라이언트 디바이스 100에 디스플레이된 360도 비디오 콘텐츠는 컴패니언 스크린 디바이스400에서 수신되는 시그널링에 의해 제어될 수 있다.
도 11은 일 실시예에 따라,　클라이언트 디바이스 100　와　컴패니언 스크린 디바이스400　사이에 통신 채널을 확립하기 위한, 컴패니언 스크린 디바이스 400에서의 동작을 설명하는 흐름도이다. 실시예에 따라서는, 본 방법의 모든 단계들은 동일한 디바이스에서 수행되거나, 또는 여러 단계들이 다른 디바이스에서 수행될 수 있다. 도 11에 도시된 모든 단계는 특정 실시예에 따라서 소프트웨어 또는 하드웨어로 수행될 수 있다. 하나 이상의 단계가 소프트웨어로 수행될 때, 본 방법을 수행하기 위한 장치는, 하나 이상의 프로세서를 포함하는 프로세싱 유닛, 및 상기 프로세싱 유닛에 의해 실행될 때 본 방법의 각 단계를 수행하는 컴퓨터 프로그램 명령을 내부에 저장하는 컴퓨터 판독 가능 메모리를 포함할 수 있다.
　본 실시예에서,　컴패니언 스크린 디바이스400는　클라이언트 디바이스 100와　컴패니언 스크린 디바이스400간 통신 채널의 확립을 개시할 수 있다. 예를 들어,　컴패니언 스크린 디바이스400　상에서 실행되는 애플리케이션은　클라이언트 디바이스 100　상에서 360도 비디오 클라이언트를 론칭할 수 있다. 예를 들어, HbbTV에서 컴패니언 스크린 애플리케이션이 HbbTV 애플리케이션을 론칭할 수 있다.
　동작 S1110에서, 컴패니언 스크린 디바이스 400에서 360도 비디오 컨텐츠 이벤트가 발생할 수 있다.
동작 S1120에서, 컴패니언 스크린 디바이스400는 클라이언트 디바이스들 100을 검색하도록 구성된다. 예를 들어, 컴패니언 스크린 디바이스400는 동일한 IP 네트워크상에서 클라이언트 디바이스들 100을 검색하도록 구성될 수 있다. 또한, 컴패니언 스크린 디바이스400는 360도 지원 기능이 있는 클라이언트 디바이스 100를 사용할 수 있는지 여부를 판단할 수 있다. 적합한 클라이언트 디바이스 100가 검출되지 않으면, 컴패니언 스크린 디바이스 40는 360도 비디오 콘텐츠를 자신의 디스플레이만 표시할 수 있다.
동작 S1130에서, 컴패니언 스크린 디바이스 400는 식별된 클라이언트 디바이스와 통신 채널을 연결할 수 있다.
컴패니언 스크린 디바이스400는 클라이언트 디바이스 100를 발견하고 그 클라이언트 디바이스 100 상에서 360도 클라이언트 애플리케이션을 론칭하기 위해 DIAL(Discovery and Launch)을 사용할 수 있다. 예를 들어, 클라이언트 디바이스 100는 자신이 360 도 제어 기능을 가지고 있음을 컴패니언 스크린 디바이스400에 알릴 수 있다. 클라이언트 장치 100가 360도 기능을 갖는다는 표시를 수신하는 것에 응답하여, 컴패니언 스크린 장치 400는 클라이언트 디바이스 100 상의 클라이언트 애플리케이션의 론칭을 요청하도록 구성될 수 있다.
예를 들어, DIAL이 사용된 경우, 본 방법은 URL리소스에서 반환된 XML 문서를 확장하여 아래와 같이 구현할 수 있다.
　<? xml version = "1.0"encoding = "UTF-8"?
<xs : schema
xmlns : xs = "　http://www.w3.org/2001/XMLSchema　"
xmlns = "urn : hbbtv : CompanionScreen : 2014"
targetNamespace = "urn : : CompanionScreen : 2014"
elementFormDefault = "qualified">
<xs : 요소 이름 = "X_HbbTV_360Video"type = "XS : string"/>
</ xs : schema>
　대안적으로, 아래와 같이, 사용자 에이전트 문자열을 확장하여 360도 기능을 시그널링할 수 있다.
　HbbTV / 1.4.1 (+ DRM, Samsung, SmartTV2017, SoftwareVersion ;;)　+ MEDIA360　Chrome
　그러나 360도 기능은 임의의 적절한 방법으로 시그널링될 수 있다.
　동작 S1140에서, 클라이언트 애플리케이션이 클라이언트 디바이스 100에서 론칭되는 것에 응답하여, 컴패니언 스크린 디바이스400는 제어 모드로 들어갈 수 있다. 컴패니언 스크린 디바이스400는 클라이언트 디바이스 100로 하여금 360도 콘텐츠를 디스플레이하게 한다. 그 다음, 컴패니언 스크린 디바이스400는 클라이언트 디바이스 100에 디스플레이된 360도 비디오 콘텐츠의 시점을 제어하기 위해 클라이언트 디바이스 100에 시그널링을 전송할 수 있다.
도 12는 일 실시예에 따라 컴패니언 스크린 디바이스 400가 클라이언트 디바이스 100를 식별하는 동작의 일 예를 나타낸다.
도 12를 참조하면, 동작 1210에서, 컴패니언 스크린 디바이스 400에서 360도 비디오 컨텐츠 이벤트가 발생할 수 있다. 360도 비디오 컨텐츠 이벤트는 360도 비디오 컨텐츠의 재생을 트리거하는 어떠한 형태의 동작도 포함할 수 있다.
동작 1220에서, 클라이언트 디바이스 100는 360도 비디오 컨텐츠의 표시를 할 수 있는 클라이언트 디바이스를 서치하기 위해 디스커버리 요청 신호를 전송할 수 있다.
동작 1230에서, 클라이언트 디바이스 100는 360도 표시 능력을 가짐을 나타내는 정보를 포함하는 시그널을 컴패니언 스크린 디바이스 400으로 전송할 수 있다.
동작 1240에서, 컴패니언 스크린 디바이스 400는 클라이언트 디바이스 100으로부터 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 시그널을 수신함으로써 클라이언트 디바이스 100을 식별하고, 이에 따라 클라이언트 디바이스 100과 컴패니언 스크린 디바이스 400 간에 통신 채널을 연결할 수 있다.
동작 1250에서, 클라이언트 디바이스 100는 360도 비디오 컨텐츠를 표시할 수 있다. 클라이언트 디바이스 100는 360도 비디오 컨텐츠를 다양한 방법으로 획득할 수 있다. 예를 들어 클라이언트 디바이스 100는 360도 비디오 컨텐츠를 서버로부터 직접 수신할 수도 있고 또는 컴패니언 스크린 디바이스 400를 통해서 수신할 수도 있다.
동작 1260에서, 컴패니언 스크린 디바이스 400는 360도 비디오 컨텐츠를 제어하는 네비게이션 정보를 생성하고 동작 1270에 이 생성된 네비게이션 정보를 클라이언트 디바이스 100으로 전송할 수 있다.
동작 1280에서, 클라이언트 디바이스 100는 컴패니언 스크린 디바이스 400으로부터 수신된 네비게이션 정보에 따라 360도 비디오 컨텐츠의 표시를 제어할 수 있다.
도 13은 일 실시예에 따라 클라이언트 디바이스 100a와 컴패니언 스크린 디바이스 400a의 개략도이다.　
360도 비디오 콘텐츠 1310는 TV와 같은　클라이언트 디바이스 100a에 제공될 수 있다. 콘텐츠 1310는 광대역 또는 브로드 캐스트 네트워크를 통한 전송을 위해 서버 1320에 업로드될 수 있다. 컨텐츠 1310는 클라이언트 애플리케이션을 실행하고　있는　클라이언트 디바이스 100a에 제공될 수 있다.　
클라이언트 디바이스 100a는 도 4과 관련하여 상술한 방법에 따라서 컴패니언 스크린 디바이스400a가 제어 애플리케이션을 론칭하게 할 수 있다. 컴패니언 스크린 디바이스400a는 클라이언트 디바이스 100a상에 표시된　360도 비디오 콘텐츠 1310　의 시점을 제어하기 위해 사용자 명령을 수신할 수 있다. 예를 들어, 컴패니언 스크린 디바이스 400a는 터치 스크린과 같은 입력부 24를 포함할 수 있으며, 이 입력부를 통해 사용자 명령이 입력될 수 있다. 입력부24는 명령들이 입력 될 수 있는 버튼들을 또한 포함할 수 있다. 예를 들어, 사용자 명령은 도 15 내지 도 17을 참조하여 상세하게 설명되는 명령들을 포함 할 수 있다.
　컴패니언 스크린 디바이스 400a는 프로세서 21a를 포함하는 프로세싱 유닛 21, 및 비 일시적인 컴퓨터 판독 가능 메모리와 같은 메모리 21b에 저장될 수 있는 컴퓨터 프로그램 코드를 포함할 수 있다. 프로세서 21a에 의해 실행될 때, 메모리 21b상에 저장된 컴퓨터 프로그램 코드는 도 11 내지 도 12를 참조하여 기술된 방법의 단계들을 장치가 수행하도록 할 수 있다.
클라이언트 디바이스 100a는 프로세서 11a를 포함하는 프로세싱 유닛 11, 및 비 일시적인 컴퓨터 판독 가능 메모리와 같은 메모리 11b에 저장될 수 있는 컴퓨터 프로그램 코드를 포함할 수 있다. 프로세서11a에 의해 실행될 때, 메모리11b에 저장된 컴퓨터 프로그램 코드는 도 7 내지 10을 참조하여 기술된 방법의 단계들을 장치가 수행하게 할 수 있다. 컴패니언 스크린 디바이스 400a는 컴패니언 스크린 디바이스의 방위를 측정하기 위해 센서들 22을 포함할 수 있다. 컴패니언 스크린 디바이스400는 클라이언트 디바이스 100a와 시그널링을 송신 및 수신하기 위한 통신 인터페이스 23를 포함할 수 있다. 클라이언트 디바이스 100a는 컴패니언 스크린 디바이스400a와 시그널링을 송신 및 수신하기 위한 통신 인터페이스13를 포함할 수 있다.
도 14는 일 실시예에 따라 클라이언트 디바이스 100a　및　컴패니언 스크린 디바이스 400a의 개략도이다.
360도 콘텐츠 1310는　이동 전화와 같은　컴패니언 스크린 디바이스400a 에 제공된다. 콘텐츠1310는　서버 1320로부터 광대역 또는 브로드 캐스트 네트워크를 통해 컴패니언 스크린 디바이스400a에　제공될 수 있다.　 도 4와 관련하여 설명한 방법에 따라, 컴패니언 스크린 디바이스400a는　클라이언트 디바이스 100a로 하여금　360도 애플리케이션 프로그램을 실행시킬 수 있다. 사용자는　클라이언트 디바이스 100a에 디스플레이 된　360도 컨텐츠1310　의 시점을 제어하기 위한 명령을, 컴패니언 스크린 디바이스400a를 통해 제공 할 수 있다.　　예를 들어, 컴패니언 스크린 디바이스400a는 사용자 명령이 입력될 수 있는 스크린과 같은 입력부 24를 포함할 수 있다.　입력부24는 명령들이 입력될 수 있는 버튼들을 또한 포함할 수 있다.　예를 들어, 사용자 명령은 도15 내지 도 17을 참조하여 상세히 설명한 바와 같은 명령들을 포함할 수 있다.
　컴패니언 스크린 디바이스400a 는 프로세서21a를 포함하는 프로세싱 유닛21 및　비 일시적인 컴퓨터 판독 가능 메모리와 같은　메모리21b에 저장될 수 있는 컴퓨터 프로그램 코드를 포함할 수 있다.　프로세서21a에 의해 실행될 때, 메모리21b에 저장된 컴퓨터 프로그램 코드는 도 11 내지 12를 참조하여 설명한 방법의 단계들을 장치가 수행하도록 할 수 있다. 컴패니언 스크린 디바이스400a는 컴패니언 스크린 디바이스의 방위를 측정하기 위한 센서22를 포함할 수 있다. 컴패니언 스크린 디바이스400a는 클라이언트 디바이스 100와 시그널링을 송신 및 수신하기 위한 통신 인터페이스23를 포함할 수 있다.
　클라이언트 디바이스 100a는 프로세서 11a를 포함하는 프로세싱 유닛 11 및 비 일시적인 컴퓨터 판독 가능 메모리와 같은 메모리11b에 저장될 수 있는 컴퓨터 프로그램 코드를 포함할 수 있다. 프로세서11a에 의해 실행될 때, 메모리11b에 저장된 컴퓨터 프로그램 코드는 도 7 내지 10을 참조하여 설명한 방법의 단계들을 장치가 수행하도록 할 수 있다. 클라이언트 디바이스 100a는 컴패니언 스크린 디바이스400a와 시그널링을 송신 및 수신하기 위한 통신 인터페이스13를 포함할 수 있다.
도 15는 일 실시예에 따라　컴패니언 스크린 디바이스 400에서 수행될 수 있는 제어 동작의 개략도이다.
도 15를 참조하면, 컴패니언 스크린 디바이스 400는 사용자 인터페이스 1510를 디스플레이 할 수 있다. 사용자 인터페이스 1510는 사용자가 선택할 수 있는 탐색 명령에 대응하는 아이콘을 포함한다. 예를 들어, 사용자 인터페이스 1510는 사용자가 콘텐츠 주위를 스크롤할 수 있게 하는 방향 화살표 1511를 포함할 수 있다. 사용자는 방향 화살표 1511를 이용해 콘텐츠에 대하여 수평 및/또는 수직 방향으로 네비게이션할 수 있다. 따라서, 360도 비디오 콘텐츠의 시점은 네비게이션 명령에 따라 조정될 수 있다. 예를 들어, 사용자가 왼쪽 방향 화살표를 선택하면 360도 컨텐츠의 시점이 왼쪽으로 회전하게 될 수 있다.
　사용자 인터페이스 1510는 컨텐츠의 줌 레벨을 조정하기 위한 줌 표시기 1512를 또한 포함할 수 있다. 따라서 사용자는 특정 배율로 콘텐츠의 일부를 볼 수 있다. 클라이언트 디바이스 100의 콘텐츠 뷰잉 윈도우는, 예컨대, 클라이언트 디바이스 100　의 뷰잉 윈도우가 클라이언트 디바이스 100의 전체 화면인　경우, 보여지는 콘텐츠의 각도 범위(angular extent)가 줌 배율에 따라 변경되도록, 일정하게 유지될 수 있다. 하지만, 클라이언트 디바이스 100의 뷰잉 윈도우가 클라이언트 디바이스 100의 전체 화면보다 작은 경우, 뷰잉 윈도우의 크기는 콘텐츠의 각도 범위가 일정하게 유지되도록 줌 레벨에 따라 변할 수 있다. 사용자 인터페이스 1510는 또한 사용자가 상이한 줌 모드(즉, 상이한 광각 렌더링 모드)를 선택할 수 있게 한다. 도18에는 사용자가 선택할 수 있는 광각 렌더링의 다른 예가 도시되어 있다.
도 15에는 도시되지 않았지만, 360도 비디오 컨텐츠는 컴패니언 스크린 디바이스 400에도 표시될 수 있다.
사용자가 선택 가능한 네비게이션 명령은 시그널링을 통해　클라이언트 디바이스 100로 전송될 수 있다.　예를 들어, 네비게이션 명령은 클라이언트 디바이스 100　상에서 실행되는 클라이언트 애플리케이션으로 웹 소켓을 통해 전송될 수 있다.
　컴패니언 스크린 디바이스400로부터 수신된 시그널링에 응답하여,　360도 비디오 콘텐츠의 시점은 네비게이션 명령에 따라 조정될 수 있다.
　도 16은 일 실시예에 따라 컴패니언 스크린 디바이스 400에서 수행될 수 있는 제어 동작의 개략도이다.
도 16을 참조하면, 컴패니언 스크린 디바이스400는 클라이언트 디바이스 100에 시그널링을 통해 방위 정보를 송신하도록 구성될 수 있다. 예를 들어,　컴패니언 스크린 디바이스400는 x 및/또는 y 및/또는 z　축을 중심으로 회전될 수 있다.　 컴패니언 스크린 디바이스400는　디바이스의 방위 또는 그 방위의 변화를 검출하도록 구성된 적어도 하나의 센서를 포함할 수 있다. 그 다음,　컴패니언 스크린 디바이스400는　디바이스의 방위에 대응하는 값을　클라이언트 디바이스 100에　전송할 수 있다.　 예를 들어, X　,　Y　및 Z　회전 벡터는　컴패니언 스크린 디바이스400의 센서에서 판독될 수 있다.
　방위 값은 웹 소켓을 통해 클라이언트 애플리케이션에 전송될 수 있다.　컴패니언 스크린 디바이스400와　클라이언트 디바이스 100　사이에 전용의 웹 소켓 접속이 있을 수 있다.　컴패니언 스크린 디바이스400로부터　클라이언트 디바이스 100로　송신된 데이터의 일부 스로틀링(throttling)은　웹 소켓에 데이터를 오버로딩하는 것을 방지하기 위해 필요할 수 있다.
　예를 들어, 클라이언트 디바이스 100는 자신이 디스플레이하는 360도 비디오 콘텐츠의 시점이 컴패니언 스크린 디바이스400의 방위에 기초하여 회전되도록, 컴패니언 스크린 디바이스400의 디바이스 방위 정보를 수신하는 것에 응답하여 360도 콘텐츠의 시점을 조정하도록 구성된다.
클라이언트 디바이스 100는　사용자에게 향상된 경험을 제공하는데 가장 적합한 방식으로 수신된 위치 데이터를 해석할 수 있다. 예를 들어, 클라이언트 디바이스는　컴패니언 스크린 디바이스400가 정의한 절대 위치들을 수신할 때 그 위치들로 급격히 이동(jump)할 수　있지만, 이것은 360도 컨텐츠의 재생 동안 시점의 급격한 변화로 인해　"급격한" 사용자 경험이 된다. 대안적으로, 클라이언트 애플리케이션은 몇몇 평활화 로직을 적용하여, 360 네비게이션을 컴패니언 스크린 디바이스400로부터 수신된 최종 위치로 일정한 속도로 부드럽게 천이시킬 수 있다. 예를 들어, 방위 값을 평활화하여 평활화된 방위 데이터를 얻을 수 있다. 평활화는 수신된 값의 범위에 걸쳐 균등한 간격을 갖도록 값을 변경하는 작업을 포함할 수 있다. 360도 비디오 콘텐츠 시점의 회전 속도는 평탄화된 방위 데이터에 기초하여 결정될 수 있다.
도 17은 일 실시예에 따라 컴패니언 스크린 디바이스 400에서 수행될 수 있는 제어 동작의 개략도이다.
일부 실시예에서,　컴패니언 스크린 디바이스400는　클라이언트 디바이스 100　상에 디스플레이된 콘텐츠와 동기화된 360도 비디오 콘텐츠를 디스플레이하도록 구성될 수 있다.　 컴패니언 스크린 디바이스400는 클라이언트 디바이스 100　상에 디스플레이되는 비디오 콘텐츠를 그 스크린 디바이스400에 미러링할 수 있다. 다양한 미러링 기술은, 예를 들어, 스크린 미러링, DLNA(Digital Living Network Alliance), 블루투스, 미라캐스트, 와이파이 다이렉트, DMR(Digital Mobile Radio) 등을 포함할 수 있다. 대안적으로, 전체 360도 컨텐츠 30가 컴패니언 스크린 디바이스400상에서 전체　화면으로 렌더링되어, 사용자는 컴패니언 스크린 디바이스 400의 스크린을 통해 비디오의 전체 프레임을 볼 수 있다.　즉, 360도 컨텐츠의 전체 시야를 컴패니언 스크린 디바이스400　상에서 볼 수 있다.　사용자는　컴패니언 스크린 디바이스400의 스크린에서 비디오 영역을 가리킬 수 있다. 비디오 콘텐츠의 영역을 가리키는 시그널링을 수신하는 것에 응답하여,　클라이언트 디바이스 100는 360도 비디오의 시점을 제어할 수 있도록 구성되어, 클라이언트 디바이스 100에 디스플레이된 360도 비디오의 부분은 상기 가리켜진 영역을 포함할 수 있다.
또한, 사용자는　컴패니언 스크린 디바이스400가 전체 시야를 표시할 때　스크린　상에 수신된 가리킴에 응답하여 확대 또는 축소할 수 있다. 예를 들어, 사용자는　클라이언트 디바이스 100에　표시된 콘텐츠를 확대 또는 축소하기 위해　두 개의 손가락을 사용하여　스크린을 잡아 당기거나 늘리거나 탭할 수 있다.
도 17에 도시된 실시예에서와 같이, 미러링 기술을 이용하여 클라이언트 디바이스 100와 컴패니언 스크린 디바이스 400에 360도 영상을 표시하되, 클라이언트 디바이스 100는 360도 영상의 일정한 영역에 대응되는 영상 450을 표시하고, 컴패니언 스크린 디바이스 400는 더 넓은 범위의 360도 영상을 표시함으로써, 사용자는 컴패니언 스크린 디바이스 400에 표시된 영상 으로부터 좀 더 넓은 범위의 영역을 조망할 수 있고 또한 이를 이용하여 360도 영상의 시점을 보다 용이하게 제어할 수 있다.
　도 18은 일 실시예에 따라 클라이언트 디바이스 100　에서 360도 비디오 콘텐츠를 렌더링하기 위해 선택될 수 있는 상이한 광각 모드를 도시한다.　
360도 비디오의 줌잉(zooming)은 비디오의 왜곡을 초래할 수 있으므로, 본 발명은 사용자가 광각 뷰를 제어하도록 하여, 사용자는 컴패니언 스크린 디바이스400를　사용하여 상이한 뷰를 선택할 수 있다.　컴패니언 스크린 디바이스400에서 선택될 수 있는 광각 렌더링 모드는 1800a에 도시된 바와 같이 어안 스테레오 그래픽, 1800b에 도시된 등각 어안(fisheye equisolid), 1800c에 도시된 바와 같이 등거리 어안(fisheye equidistant), 및 1800d에 도시된 직각 어안(fisheye orthographic)을 포함하나, 이들에 한정되지 않는다.
　
실시예들에 따른 클라이언트 디바이스 및 컴패니언 스크린 디바이스의 동작방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
이상에서 실시예들에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속한다.

Claims (20)

  1. 클라이언트 디바이스에 있어서,
    통신 인터페이스;
    디스플레이;
    하나 이상의 인스트럭션을 저장하는 메모리; 및
    상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    360도 비디오 컨텐츠의 적어도 일부를 표시하도록 상기 디스플레이를 제어하고,
    복수의 컴패니언 스크린 디바이스로부터 복수의 컴패니언 스크린 디바이스가 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신하고, 상기 복수의 컴패니언 스크린 디바이스로부터 적어도 하나의 컴패니언 스크린 디바이스를 선택함으로써, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 적어도 하나의 컴패니언 스크린 디바이스를 식별하고,
    상기 식별된 적어도 하나의 컴패니언 스크린 디바이스와 통신 채널을 연결하도록 상기 통신 인터페이스를 제어하고,
    상기 연결된 적어도 하나의 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하도록 상기 디스플레이를 제어하는, 클라이언트 디바이스.
  2. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 식별된 컴패니언 스크린 디바이스로 상기 360도 비디오 컨텐츠의 표시의 제어 동작을 수행하는 어플리케이션을 실행하도록 요청하는, 클라이언트 디바이스.
  3. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 컴패니언 스크린 디바이스의 발견을 위한 요청 신호를 전송하는, 클라이언트 디바이스.
  4. 삭제
  5. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 컴패니언 스크린 디바이스와 연관된 사용자 프로파일이 상기 360도 비디오 컨텐츠와 호환될 수 있는지 여부에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하는, 클라이언트 디바이스.
  6. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 클라이언트 디바이스와 상기 컴패니언 스크린 디바이스와의 근접도에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하는, 클라이언트 디바이스.
  7. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    학습 알고리즘에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하는, 클라이언트 디바이스.
  8. 제1항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 컴패니언 스크린 디바이스의 방위(orientation)에 관한 디바이스 방위 정보를 상기 통신 채널을 통해 수신하고,
    상기 디스플레이된 360도 비디오 컨텐츠의 시점이 상기 컴패니언 스크린 디바이스의 방위에 따라 회전되도록, 상기 디스플레이된 360도 비디오 컨텐츠의 시점을 상기 디바이스 방위 정보에 응답하여 조정하고,
    상기 조정된 시점에 대응하는 360도 비디오 컨텐츠의 영역을 표시하도록 상기 디스플레이를 제어하는, 클라이언트 디바이스.
  9. 제8항에 있어서,
    상기 디바이스 방위 정보는 상기 컴패니언 스크린 디바이스의 방위를 검출하도록 배치된 하나 이상의 센서에 의해 측정된 복수의 방위값을 포함하고,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    평탄화된 방위 데이터를 획득하기 위하여 상기 복수의 방위값을 평탄화하고,
    상기 평탄화된 방위 데이터에 기초하여 상기 360도 비디오 콘텐츠의 시점 회전 속도를 결정하는, 클라이언트 디바이스.
  10. 컴패니언 스크린 디바이스에 있어서,
    통신 인터페이스;
    디스플레이;
    하나 이상의 인스트럭션을 저장하는 메모리; 및
    상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    360도 비디오 컨텐츠 표시 능력을 가지는 클라이언트 디바이스로부터, 360도 비디오 컨텐츠를 제어할 수 있는 컴패니언 스크린 디바이스를 서치하는 디스커버리 요청 신호를 수신하고,
    상기 디스커버리 요청 신호에 기초해서, 컴패니언 스크린 디바이스가 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 전송하고, 상기 컴패니언 스크린 디바이스를 선택하는 상기 클라이언트 디바이스의 선택에 기반해서, 상기 클라이언트 디바이스와 상기 컴패니언 스크린 디바이스 사이에 통신 채널이 연결되고,
    상기 360도 비디오 컨텐츠 제어를 위한 네비게이션 정보를 생성하고,
    상기 360도 비디오 컨텐츠의 표시가 상기 네비게이션 정보에 따라 제어되도록 상기 생성된 네비게이션 정보를 상기 클라이언트 디바이스로 전송하도록 상기 통신 인터페이스를 제어하는, 컴패니언 스크린 디바이스.
  11. 제10항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 클라이언트 디바이스로부터 상기 클라이언트 디바이스가 상기 360도 비디오 컨텐츠의 표시 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신함으로써 상기 클라이언트 디바이스를 식별하는, 컴패니언 스크린 디바이스.
  12. 제10항에 있어서,
    상기 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 컴패니언 스크린 디바이스의 방위(orientation)를 검출하고,
    상기 클라이언트 디바이스에 디스플레이된 360도 비디오 컨텐츠의 시점이 상기 컴패니언 스크린 디바이스의 방위에 따라 회전되도록, 상기 컴패니언 스크린 디바이스의 방위에 관한 디바이스 방위 정보를 상기 통신 채널을 통해 상기 클라이언트 디바이스로 전송하는, 컴패니언 스크린 디바이스.
  13. 클라이언트 디바이스의 동작 방법에 있어서,
    360도 비디오 컨텐츠의 적어도 일부를 표시하는 동작,
    복수의 컴패니언 스크린 디바이스로부터 복수의 컴패니언 스크린 디바이스가 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신하고, 상기 복수의 컴패니언 스크린 디바이스로부터 적어도 하나의 컴패니언 스크린 디바이스를 선택함으로써, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하는 동작,
    상기 식별된 적어도 하나의 컴패니언 스크린 디바이스와 통신 채널을 연결하는 동작, 및
    상기 연결된 적어도 하나의 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하는 동작을 포함하는, 클라이언트 디바이스의 동작 방법.
  14. 제13항에 있어서,
    상기 식별된 컴패니언 스크린 디바이스로 상기 360도 비디오 컨텐츠의 표시의 제어 동작을 수행하는 어플리케이션을 실행하도록 요청하는 동작을 더 포함하는, 클라이언트 디바이스의 동작 방법.
  15. 제13항에 있어서,
    상기 컴패니언 스크린 디바이스의 발견을 위한 요청 신호를 전송하는 동작을 더 포함하는, 클라이언트 디바이스의 동작 방법.
  16. 삭제
  17. 제13항에 있어서,
    상기 컴패니언 스크린 디바이스와 연관된 사용자 프로파일 또는 학습 알고리즘에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하는 동작을 더 포함하는, 클라이언트 디바이스의 동작 방법.
  18. 제13항에 있어서,
    상기 클라이언트 디바이스와 상기 컴패니언 스크린 디바이스와의 근접도에 기초하여 상기 복수의 컴패니언 스크린 디바이스 중 적어도 하나를 선택하는 동작을 더 포함하는, 클라이언트 디바이스의 동작 방법.
  19. 컴패니언 스크린 디바이스의 동작 방법에 있어서,
    360도 비디오 컨텐츠 표시 능력을 가지는 클라이언트 디바이스로부터, 360도 비디오 컨텐츠를 제어할 수 있는 컴패니언 스크린 디바이스를 서치하는 디스커버리 요청 신호를 수신하는 동작,
    상기 디스커버리 요청 신호에 기초해서, 컴패니언 스크린 디바이스가 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 전송하되, 상기 컴패니언 스크린 디바이스를 선택하는 상기 클라이언트 디바이스의 선택에 기반해서, 상기 클라이언트 디바이스와 상기 컴패니언 스크린 디바이스 사이에 통신 채널이 연결되는 동작,
    상기 360도 비디오 컨텐츠 제어를 위한 네비게이션 정보를 생성하는 동작, 및
    상기 360도 비디오 컨텐츠의 표시가 상기 네비게이션 정보에 따라 제어되도록 상기 생성된 네비게이션 정보를 상기 클라이언트 디바이스로 전송하는 동작을 포함하는, 컴패니언 스크린 디바이스의 동작 방법.
  20. 클라이언트 디바이스의 동작 방법을 수행하는 하나 이상의 프로그램이 기록된 컴퓨터 판독가능 매체에 있어서, 상기 클라이언트 디바이스의 동작 방법은,
    360도 비디오 컨텐츠의 적어도 일부를 표시하는 동작,
    복수의 컴패니언 스크린 디바이스로부터 복수의 컴패니언 스크린 디바이스가 360도 제어 능력을 가짐을 나타내는 정보를 포함하는 신호를 수신하고, 상기 복수의 컴패니언 스크린 디바이스로부터 적어도 하나의 컴패니언 스크린 디바이스를 선택함으로써, 상기 360도 비디오 컨텐츠의 360도 제어 능력을 가지는 컴패니언 스크린 디바이스를 식별하는 동작,
    상기 식별된 적어도 하나의 컴패니언 스크린 디바이스와 통신 채널을 연결하는 동작, 및
    상기 연결된 적어도 하나의 컴패니언 스크린 디바이스로부터 수신한 제어 명령에 따라 상기 360도 비디오 컨텐츠의 표시를 제어하는 동작을 포함하는, 컴퓨터 판독가능 매체.


KR1020180072347A 2017-08-23 2018-06-22 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법 KR102449878B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP18847978.6A EP3661220B1 (en) 2017-08-23 2018-07-26 Client device, companion screen device, and operation method therefor
ES18847978T ES2970259T3 (es) 2017-08-23 2018-07-26 Dispositivo cliente, dispositivo de pantalla complementaria, y procedimiento de funcionamiento de los mismos
CN201880054658.7A CN110999310B (zh) 2017-08-23 2018-07-26 客户端设备、伴随屏幕设备及其操作方法
PCT/KR2018/008475 WO2019039748A1 (ko) 2017-08-23 2018-07-26 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법
US16/639,234 US11128926B2 (en) 2017-08-23 2018-07-26 Client device, companion screen device, and operation method therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB1713550.0 2017-08-23
GB1713550.0A GB2565807B (en) 2017-08-23 2017-08-23 Method and apparatus for controlling 360 degree video

Publications (2)

Publication Number Publication Date
KR20190022307A KR20190022307A (ko) 2019-03-06
KR102449878B1 true KR102449878B1 (ko) 2022-09-30

Family

ID=59996818

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180072347A KR102449878B1 (ko) 2017-08-23 2018-06-22 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법

Country Status (5)

Country Link
US (1) US11128926B2 (ko)
EP (1) EP3661220B1 (ko)
KR (1) KR102449878B1 (ko)
CN (1) CN110999310B (ko)
GB (1) GB2565807B (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9953340B1 (en) * 2012-05-22 2018-04-24 Google Llc Companion advertisements on remote control devices
CN111654753B (zh) * 2020-05-22 2022-06-03 青岛海信传媒网络技术有限公司 一种应用程序启动方法及显示设备
CN112954447B (zh) * 2021-01-27 2022-06-03 四川长虹电器股份有限公司 一种Miracast后台常驻下信道跟随的方法
CN114244758B (zh) * 2021-12-13 2024-06-25 武汉斗鱼鱼乐网络科技有限公司 安卓平台的网络诊断方法、存储介质、电子设备及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014183379A (ja) * 2013-03-18 2014-09-29 Nintendo Co Ltd 情報処理装置、動画データのデータ構造、情報処理システム、動画再生プログラム、および、動画の再生方法。
US20150245163A1 (en) * 2014-02-25 2015-08-27 Sony Corporation Proximity detection of candidate companion display device in same room as primary display using wi-fi or bluetooth signal strength
US20170155976A1 (en) * 2015-11-30 2017-06-01 Samsung Electronics Co., Ltd. Electronic device, companion device, and method of operating the electronic device
US20170171592A1 (en) * 2015-12-10 2017-06-15 Le Holdings (Beijing) Co., Ltd. Method and electronic apparatus for adjusting viewing angle of Smart Television playing panorama videos

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3440731B2 (ja) * 1996-11-25 2003-08-25 株式会社ダイフク ボウリング場の映像表示システム
US5949437A (en) * 1997-02-19 1999-09-07 Appian Graphics Corp. Dual video output board with a shared memory interface
DE69810131T2 (de) * 1997-06-25 2003-05-15 Samsung Electronics Co Ltd Browser-basiertes verbessertes internes netzwerk, befehl und kontrolle
CA2233047C (en) * 1998-02-02 2000-09-26 Steve Mann Wearable camera system with viewfinder means
US20030034874A1 (en) * 1998-10-29 2003-02-20 W. Stephen G. Mann System or architecture for secure mail transport and verifiable delivery, or apparatus for mail security
US6873314B1 (en) * 2000-08-29 2005-03-29 International Business Machines Corporation Method and system for the recognition of reading skimming and scanning from eye-gaze patterns
US20160286128A1 (en) 2002-10-01 2016-09-29 Dylan TX ZHOU Amphibious vtol super drone camera in a mobile case (phone case) with multiple aerial and aquatic flight modes for capturing panoramic virtual reality views, selfie and interactive video
JP4355535B2 (ja) 2003-08-07 2009-11-04 株式会社岩根研究所 ３６０度画像変換処理装置
US20100081375A1 (en) * 2008-09-30 2010-04-01 Apple Inc. System and method for simplified control of electronic devices
US20070050253A1 (en) * 2005-08-29 2007-03-01 Microsoft Corporation Automatically generating content for presenting in a preview pane for ADS
US20060256133A1 (en) * 2005-11-05 2006-11-16 Outland Research Gaze-responsive video advertisment display
US7736000B2 (en) * 2008-08-27 2010-06-15 Locarna Systems, Inc. Method and apparatus for tracking eye movement
JP2010081480A (ja) * 2008-09-29 2010-04-08 Fujifilm Corp 携帯型不審者検出装置、不審者検出方法及びプログラム
US9373123B2 (en) * 2009-12-30 2016-06-21 Iheartmedia Management Services, Inc. Wearable advertising ratings methods and systems
US9128281B2 (en) * 2010-09-14 2015-09-08 Microsoft Technology Licensing, Llc Eyepiece with uniformly illuminated reflective display
US8789131B2 (en) * 2010-05-14 2014-07-22 Lg Electronics Inc. Electronic device and method of sharing contents thereof with other devices
KR101733057B1 (ko) 2010-05-14 2017-05-08 엘지전자 주식회사 전자 기기 및 전자 기기의 컨텐츠 공유 방법
US20120050478A1 (en) * 2010-08-27 2012-03-01 Jeyhan Karaoguz Method and System for Utilizing Multiple 3D Source Views for Generating 3D Image
EP2628301A1 (en) 2010-10-14 2013-08-21 Thomson Licensing Remote control device for 3d video system
CN102346594A (zh) * 2011-09-15 2012-02-08 盛乐信息技术（上海）有限公司 电视设备的播放控制方法及系统
CN102625171B (zh) * 2012-03-16 2014-12-03 晨星软件研发(深圳)有限公司 智能电视的远程控制方法、系统及相应的设备
US8893164B1 (en) * 2012-05-16 2014-11-18 Google Inc. Audio system
CN102833525A (zh) 2012-07-19 2012-12-19 中国人民解放军国防科学技术大学 一种360度全景视频的浏览操作方法
JP5745497B2 (ja) 2012-12-04 2015-07-08 任天堂株式会社 表示システム、表示制御装置、情報処理プログラム及び表示方法
KR101988313B1 (ko) * 2013-01-04 2019-06-12 엘지전자 주식회사 이동 단말기 및 이의 제어 방법, 및 이의 기록 매체
CA2900485C (en) 2013-03-19 2018-01-09 Lg Electronics Inc. Signal transmitting apparatus, signal transmitting method, and system for transmitting and receiving signal
KR102067620B1 (ko) * 2013-05-21 2020-01-17 삼성전자주식회사 파노라마 사진의 썸네일 이미지 표시 장치, 방법 및 컴퓨터 판독 가능한 기록 매체
US10367864B2 (en) 2013-11-04 2019-07-30 Lg Electronics Inc. Electronic device and method for controlling electronic device
CN103648006B (zh) 2013-12-20 2018-01-16 深圳创维－Rgb电子有限公司 移动设备和电视的交互方法、系统及计算机可读介质
CA2949460C (en) 2014-05-27 2018-11-06 Sharp Kabushiki Kaisha Companion device
CN104219551A (zh) * 2014-09-29 2014-12-17 武汉诚迈科技有限公司 一种智能设备屏幕共享与远程控制的方法
CN105094317A (zh) * 2015-06-29 2015-11-25 百度在线网络技术（北京）有限公司 一种体感控制方法与装置
US10219026B2 (en) 2015-08-26 2019-02-26 Lg Electronics Inc. Mobile terminal and method for playback of a multi-view video
US20170150212A1 (en) * 2015-11-23 2017-05-25 Le Holdings (Beijing) Co., Ltd. Method and electronic device for adjusting video
KR102449179B1 (ko) * 2015-12-10 2022-09-30 삼성전자주식회사 무선통신시스템에서 전자 장치의 성능 관리 방법 및 장치
KR20170124811A (ko) * 2016-05-03 2017-11-13 삼성전자주식회사 영상 표시 장치 및 그 동작방법
CN106028132A (zh) * 2016-06-30 2016-10-12 四川长虹电器股份有限公司 通过智能移动终端在电视上观看全景视频的系统及方法
CN106210754B (zh) * 2016-07-07 2020-03-03 腾讯科技（深圳）有限公司 一种控制视频直播的方法、服务器、移动终端、系统和存储介质
CN106101741B (zh) 2016-07-26 2020-12-15 武汉斗鱼网络科技有限公司 在网络视频直播平台上观看全景视频的方法及系统
EP3510744B1 (en) * 2016-09-09 2022-05-04 Vid Scale, Inc. Methods and apparatus to reduce latency for 360-degree viewport adaptive streaming
US20180098131A1 (en) * 2016-09-30 2018-04-05 Avago Technologies General Ip (Singapore) Pte. Ltd. Apparatus and methods for adaptive bit-rate streaming of 360 video
CN106454401A (zh) * 2016-10-26 2017-02-22 乐视网信息技术（北京）股份有限公司 一种播放视频的方法及装置
CN106454450B (zh) * 2016-10-31 2019-07-12 努比亚技术有限公司 全景视频播放装置及方法
CN106817625A (zh) * 2016-12-19 2017-06-09 广州视源电子科技股份有限公司 调整全景视频观看视角的方法、装置、系统及控制终端
CN106982335A (zh) * 2017-03-29 2017-07-25 深圳Tcl新技术有限公司 拆解并显示全景视频的方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014183379A (ja) * 2013-03-18 2014-09-29 Nintendo Co Ltd 情報処理装置、動画データのデータ構造、情報処理システム、動画再生プログラム、および、動画の再生方法。
US20150245163A1 (en) * 2014-02-25 2015-08-27 Sony Corporation Proximity detection of candidate companion display device in same room as primary display using wi-fi or bluetooth signal strength
US20170155976A1 (en) * 2015-11-30 2017-06-01 Samsung Electronics Co., Ltd. Electronic device, companion device, and method of operating the electronic device
US20170171592A1 (en) * 2015-12-10 2017-06-15 Le Holdings (Beijing) Co., Ltd. Method and electronic apparatus for adjusting viewing angle of Smart Television playing panorama videos

Also Published As

Publication number Publication date
CN110999310A (zh) 2020-04-10
US11128926B2 (en) 2021-09-21
US20200204870A1 (en) 2020-06-25
KR20190022307A (ko) 2019-03-06
EP3661220A1 (en) 2020-06-03
GB201713550D0 (en) 2017-10-04
EP3661220A4 (en) 2020-06-03
GB2565807B (en) 2022-04-20
CN110999310B (zh) 2023-04-11
EP3661220B1 (en) 2023-11-08
EP3661220C0 (en) 2023-11-08
GB2565807A (en) 2019-02-27

Similar Documents

Publication Publication Date Title
KR102449878B1 (ko) 클라이언트 디바이스, 컴패니언 스크린 디바이스 및 그 동작방법
US10453246B2 (en) Image display apparatus and method of operating the same
KR102354328B1 (ko) 영상 표시 장치 및 그 동작 방법
US10810789B2 (en) Image display apparatus, mobile device, and methods of operating the same
US11500509B2 (en) Image display apparatus and image display method
CN113874828B (zh) 用于通过外部电子装置提供屏幕共享服务的电子装置、方法和计算机可读介质
US10203927B2 (en) Display apparatus and display method
US10095384B2 (en) Method of receiving user input by detecting movement of user and apparatus therefor
KR102325341B1 (ko) 영상 표시 장치 및 그 동작방법
CN106464976B (zh) 显示设备、用户终端设备、服务器及其控制方法
US10742880B2 (en) Image display apparatus and method of displaying image
JP2015130661A (ja) ディスプレイ装置、モバイル装置、これを含むシステム及びその接続制御方法｝
KR102557735B1 (ko) 전자 장치 및 그 동작 방법
US10719147B2 (en) Display apparatus and control method thereof
ES2970259T3 (es) Dispositivo cliente, dispositivo de pantalla complementaria, y procedimiento de funcionamiento de los mismos
KR102407191B1 (ko) 영상 표시 장치 및 영상 표시 방법
EP3319308B1 (en) Spherical image display apparatus and method of displaying spherical image on a planar display

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant