KR102284721B1 - 무선 통신 시스템에서 어플리케이션 데이터를 디스플레이하기 위한 방법 및 장치 - Google Patents

무선 통신 시스템에서 어플리케이션 데이터를 디스플레이하기 위한 방법 및 장치 Download PDF

Info

Publication number
KR102284721B1
KR102284721B1 KR1020150028959A KR20150028959A KR102284721B1 KR 102284721 B1 KR102284721 B1 KR 102284721B1 KR 1020150028959 A KR1020150028959 A KR 1020150028959A KR 20150028959 A KR20150028959 A KR 20150028959A KR 102284721 B1 KR102284721 B1 KR 102284721B1
Authority
KR
South Korea
Prior art keywords
data
multimedia content
session
timing information
gui
Prior art date
Application number
KR1020150028959A
Other languages
English (en)
Other versions
KR20150102747A (ko
Inventor
키란 바라드와주 베둘라
신인영
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20150102747A publication Critical patent/KR20150102747A/ko
Application granted granted Critical
Publication of KR102284721B1 publication Critical patent/KR102284721B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40—Support for services or applications
    • H04L65/401—Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference
    • H04L65/4015—Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference where at least one of the additional parallel sessions is real time or time sensitive, e.g. white board sharing, collaboration or spawning of a subconference
    • H04L65/608—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60—Network streaming of media packets
    • H04L65/65—Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/04—Protocols specially adapted for terminals or networks with limited capabilities; specially adapted for terminal portability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H04L67/125—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks involving control of end-device applications over a network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/14—Session management
    • H04L67/141—Setup of application sessions
    • H04L67/36—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/565—Conversion or adaptation of application format or content
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/75—Indicating network or usage conditions on the user display
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80—Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication

Abstract

본 발명은 무선 통신 시스템에서 데이터를 디스플레이하기 위한 방법에 있어서, 제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하는 과정; 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하는 과정; 상기 제1 디바이스에 의해, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터를 포함하는 어플리케이션 데이터를 디스플레이하고, 멀티미디어 컨텐츠를 재생하는 과정, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관됨; 상기 제1 디바이스에 의해, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로 전송하는 과정; 상기 제2 디바이스로 상기 SMIL 파일을 전송한 후, 상기 제1 디바이스에 의해, 상기 제1 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠를 패킷화하고 상기 SMIL 파일과 연관된 제2 타이밍 정보를 하나 이상의 패킷들에 삽입함으로써 상기 하나 이상의 패킷들을 생성하는 과정; 상기 제1 디바이스에 의해, 상기 제1 세션을 통해 상기 제2 디바이스로 상기 하나 이상의 패킷들을 전송하는 과정; 및 상기 제1 디바이스에 의해, 상기 제1 디바이스에서 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령을 검출하는 것에 응답하여 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로 전송하는 과정을 포함하며, 여기서, 상기 멀티미디어 컨텐츠 및 상기 GUI 데이터는 상기 제2 디바이스 상에서 상기 SMIL 파일에 포함된 상기 제1 타이밍 정보 및 상기 하나 이상의 패킷들에 삽입된 상기 제2 타이밍 정보를 비교하는 것을 기반으로 병합되어 디스플레이됨을 특징으로 한다.

Description

무선 통신 시스템에서 어플리케이션 데이터를 디스플레이하기 위한 방법 및 장치{METHOD AND APPARATUS FOR DISPLAYING APPLICATION DATA IN WIRELESS COMMUNICATION SYSTEM}
본 발명은 무선 통신 시스템에서 디바이스들 간에 공유되는 컨텐츠를 디스플레이하는 방법 및 장치에 관한 것이다
와이파이 디스플레이(WFD: Wi-Fi(wireless fidelity) display) 표준은 높은 품질과 낮은 레이턴시를 만족시키면서 오디오/비디오(AV: audio/video) 데이터를 전송하도록 하는 요구에 따라 규정되었다. WFD 표준이 적용된 WFD 네트워크는, Wi-Fi 디바이스들이 홈 네트워크, 오피스 네트워크, 또는 핫-스팟 네트워크에 참여하지 않고서도 피어-투-피어(peer to peer) 방식으로 서로 연결될 수 있도록 하는 Wi-Fi 연합(Alliance)에 의해 제안된 네트워크 시스템이다. WFD 네트워크 내의 WFD 디바이스들은 서로에 대한 정보, 예를 들면 서로에 대한 능력 정보를 탐색하고, WFD 세션을 확립하며, 그 WFD 세션 동안 수신된 콘텐츠를 렌더링(rendering) 할 수 있다.
WFD 네트워크는 두 종류의 디바이스들, 일례로 소스 디바이스(source device) 및 싱크 디바이스(sink device)를 포함한다. 소스 디바이스는 소스 스크린 상에 존재하는 데이터를 싱크 디바이스의 스크린으로 미러링(mirroring)한다. 소스 디바이스와 싱크 디바이스는 서로간에 제 1 시퀀스 메시지를 교환하여 디바이스 탐색 및 서비스 탐색 절차를 수행한다. 디바이스 탐색 및 서비스 탐색 절차가 완료된 후에, 소스 디바이스 및 싱크 디바이스 각각에는 인터넷 프로토콜(IP: internet protocol) 주소가 할당된다. 소스 디바이스와 싱크 디바이스 사이에는 전송 제어 프로토콜(TCP: transmission control protocol) 연결이 확립되고, 이후 소스 디바이스 및 싱크 디바이스에 대한 실시간 스트리밍 프로토콜(RTSP: real time streaming protocol) 및 실시간 프로토콜(RTP: real time protocol) 스택들이 활성화된다.
소스 디바이스와 싱크 디바이스 간에 능력 협상 절차는 RTSP를 통해 수행되고, 능력 협상 절차가 수행되는 동안 상기 소스 디바이스와 상기 싱크 디바이스는 M1 내지 M4 메시지들을 교환한다. 이후 소스 디바이스와 싱크 디바이스는 WFD 세션 제어 메시지들을 교환한다. 또한 소스 디바이스와 싱크 디바이스 사이에는 RTP를 통한 데이터 세션이 확립된다.
한편, WFD 네트워크에서는 데이터 전달(data transport)을 위해 사용자 데이터그램 프로토콜(UDP: User Datagram Protocol)을 사용한다. 그런데 UDP는 신뢰성이 없기 때문에 무선 송신이 수행되는 과정에서 일부 패킷의 손실이 일어날 수 있다. 손실된 패킷은 재송신되지 않기 때문에, 데이터의 손실이 사용자에 의해 인식될 수 있다. 특히, 서브타이틀과 같은 텍스트(text)나 그래픽 사용자 인터페이스(GUI: Graphical User Interface)에 관한 데이터 손실은 AV 데이터보다 사용자에게 더욱 잘 인식된다. 따라서, 싱크 디바이스에서의 텍스트 및 GUI 데이터 품질 개선을 위한 방안이 필요하다.
싱크 디바이스에서의 텍스트 및 GUI 관련 데이터 품질에서의 인식 가능한 왜곡들을 감소시키기 위한 방안으로 소스 디바이스에서 AV 데이터와 텍스트 및 GUI 관련 데이터를 병합하여 싱크 디바이스로 전달하는 대신에 싱크 디바이스에서 AV 데이터와 텍스트 및 GUI 관련 데이터를 병합하도록 할 수 있다. 싱크 디바이스에서 서브 타이틀과 같은 텍스트를 AV 데이터와 병합하기 위해서는 동기식 멀티미디어 통합 언어(SMIL: Synchronized Multimedia Integration Language) 혹은 타임드 텍스트 마크업 언어(TTML: Timed Text Markup Language) 같은 기술들이 사용될 수 있다. 유사하게, 싱크 디바이스에서 GUI 데이터를 AV 데이터와 병합하기 위해서는, 원격 시청(RVU: Remote View), 하이퍼 텍스트 마크업 언어 5(HTML5:, Hyper Text Markup Language) 혹은 CE(Consumer Electronics)-HTML와 같은 기술들이 사용될 수 있다.
본 발명이 해결하고자 하는 과제는 싱크 디바이스가 AV 데이터와 텍스트 또는 GUI 데이터를 병합하는 방법 및 장치를 제안하는 것이다.
또한 본 발명이 해결하고자 하는 과제는 싱크 디바이스가 AV 데이터와 텍스트 또는 GUI 데이터를 병합할 때 동기를 맞추는 방법 및 장치를 제안하는 것이다.
본 발명의 실시예에 따르면, 무선 통신 시스템에서 데이터를 디스플레이하기 위한 방법에 있어서, 제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하는 과정; 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하는 과정; 상기 제1 디바이스에 의해, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터를 포함하는 어플리케이션 데이터를 디스플레이하고, 멀티미디어 컨텐츠를 재생하는 과정, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관됨; 상기 제1 디바이스에 의해, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로 전송하는 과정; 상기 제2 디바이스로 상기 SMIL 파일을 전송한 후, 상기 제1 디바이스에 의해, 상기 제1 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠를 패킷화하고 상기 SMIL 파일과 연관된 제2 타이밍 정보를 하나 이상의 패킷들에 삽입함으로써 상기 하나 이상의 패킷들을 생성하는 과정; 상기 제1 디바이스에 의해, 상기 제1 세션을 통해 상기 제2 디바이스로 상기 하나 이상의 패킷들을 전송하는 과정; 및 상기 제1 디바이스에 의해, 상기 제1 디바이스에서 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령을 검출하는 것에 응답하여 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로 전송하는 과정을 포함하며, 여기서, 상기 멀티미디어 컨텐츠 및 상기 GUI 데이터는 상기 제2 디바이스 상에서 상기 SMIL 파일에 포함된 상기 제1 타이밍 정보 및 상기 하나 이상의 패킷들에 삽입된 상기 제2 타이밍 정보를 비교하는 것을 기반으로 병합되어 디스플레이됨을 특징으로 한다.
또한 본 발명의 실시예에 따르면, 무선 통신 시스템에서 데이터를 디스플레이하기 위한 방법에 있어서, 제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하는 과정; 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하는 과정; 상기 제1 디바이스에 의해, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터 및 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로부터 수신하는 과정, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관됨; 상기 SMIL 파일과 상기 멀티미디어 컨텐츠를 수신한 후, 상기 제1 디바이스에 의해, 상기 제2 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠 및 상기 SMIL 파일과 연관된 제2 타이밍 정보를 포함하는 하나 이상의 패킷들을 상기 제1 세션을 통해 상기 제2 디바이스로부터 수신하는 과정; 상기 제1 디바이스에 의해, 상기 제2 타이밍 정보를 검출하기 위해 상기 하나 이상의 패킷들을 디코딩하는 과정; 상기 제1 디바이스에 의해, 상기 SMIL 파일을 분석하고, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 검출하는 과정; 상기 제1 디바이스에 의해, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교하는 과정; 상기 제1 디바이스에 의해, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교한 것을 기반으로 상기 멀티미디어 컨텐츠와 상기 GUI 데이터를 병합하여 디스플레이하는 과정; 및 상기 제1 디바이스에 의해, 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령이 검출됨에 따라, 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로부터 수신하고, 상기 GUI 데이터의 디스플레이를 중지하는 과정을 포함한다.
삭제
삭제
또한 본 발명의 실시예에 따르면, 무선 통신 시스템에서 데이터를 디스플레이하기 위한 제1 디바이스에 있어서, 데이터를 송수신하는 송/수신부; 및 제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하고, 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하고, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터를 포함하는 어플리케이션 데이터를 디스플레이하고 멀티미디어 컨텐츠를 재생하고, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관되며, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로 전송하도록 제어하고, 상기 제2 디바이스로 상기 SMIL 파일을 전송한 후, 상기 제1 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠를 패킷화하고 상기 SMIL 파일과 연관된 제2 타이밍 정보를 하나 이상의 패킷들에 삽입함으로써 상기 하나 이상의 패킷들을 생성하고, 상기 제1 세션을 통해 상기 제2 디바이스로 상기 하나 이상의 패킷들을 전송하도록 제어하고, 상기 제1 디바이스에서 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령을 검출하는 것에 응답하여 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로 전송하도록 제어하는 적어도 하나의 프로세서를 포함하며, 여기서, 상기 멀티미디어 컨텐츠 및 상기 GUI 데이터는 상기 제2 제2 디바이스 상에서 상기 SMIL 파일에 포함된 상기 제1 타이밍 정보 및 상기 하나 이상의 패킷들에 삽입된 상기 제2 타이밍 정보를 비교하는 것을 기반으로 병합되어 디스플레이됨을 특징으로 한다.
삭제
또한 본 발명의 실시예에 따르면, 무선 통신 시스템에서 데이터를 디스플레이하기 위한 제1 디바이스에 있어서, 데이터를 송수신하는 송/수신부; 및 제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하고, 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하고, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터 및 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로부터 수신하도록 제어하고, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관되며, 상기 SMIL 파일과 상기 멀티미디어 컨텐츠를 수신한 후, 상기 제2 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠 및 상기 SMIL 파일과 연관된 제2 타이밍 정보를 포함하는 하나 이상의 패킷들을 상기 제1 세션을 통해 상기 제2 디바이스로부터 수신하도록 제어하고, 상기 제1 디바이스에 의해, 상기 제2 타이밍 정보를 검출하기 위해 상기 하나 이상의 패킷들을 디코딩하고, 상기 제1 디바이스에 의해, 상기 SMIL 파일을 분석하고, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 검출하고, 상기 제1 디바이스에 의해, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교하고, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교한 것을 기반으로 상기 멀티미디어 컨텐츠와 상기 GUI 데이터를 병합하여 디스플레이하고, 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령이 검출됨에 따라, 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로부터 수신하여 상기 GUI 데이터의 디스플레이를 중지하는 적어도 하나의 프로세서를 포함한다.
삭제
삭제
도 1은 본 발명의 일 실시예에 따른 WFD 디바이스들 간에 컨텐츠를 공유하기 위한 시스템을 간략히 도시한 도면
도 2는 본 발명의 일 실시예에 따른 소스 및 싱크 디바이스 간의 동기화를 위한 일련의 과정들을 도시한 도면
도 3은 본 발명의 다른 실시예에 따른 소스 및 싱크 디바이스 간의 동기화를 위한 일련의 과정들을 도시한 도면
도 4는 본 발명의 일 실시예에 따른 소스 및 싱크 디바이스 간의 동기화를 수행하기 위한 소스 디바이스와 싱크 디바이스의 구성을 도시한 도면
도 5와 도 6은 본 발명의 실시예에 따른 소스 디바이스와 싱크 디바이스의 동기화의 일 예를 도시한 도면
이하, 본 발명의 실시 예들을 첨부한 도면들을 참조하여 상세히 설명한다. 그리고, 하기에서는 본 발명의 실시예들에 따른 동작을 이해하는데 필요한 부분만이 설명되며, 그 이외의 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 것이라는 것을 유의하여야 한다. 그리고 후술되는 용어들은 본 발명의 실시예들에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예들을 가질 수 있는 바, 특정 실시 예들을 도면들에 예시하여 상세하게 설명한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
또한, 본 명세서에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
또한, 본 발명의 실시예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
도 1은 본 발명의 일 실시예에 따른 WFD 디바이스들 간에 컨텐츠를 공유하기 위한 시스템을 간략히 도시한 도면이다.
도 1을 참조하면, WFD 시스템은 소스 디바이스(110)와 싱크 디바이스(120)를 포함한다.
소스 디바이스(110)는 이동통신 디바이스, 스마트 폰, 태블릿 PC(Personnel Computer), 휴대용 멀티미디어 플레이어(Portable Multimedia Player), 개인 정보 디바이스(Personal Digital Assistant) 등과 같은 비교적 작은 화면을 가지는 휴대 디바이스가 될 수 있다. 소스 디바이스(110)는 멀티미디어 콘텐츠를 무선으로 전송하기 위한 통신 채널을 싱크 디바이스(120)와 형성할 수 있다. 일 예로, 상기 통신 채널은 미라캐스트 세션(Miracast Session)으로 구성될 수 있다. 상세하게는, 소스 디바이스(110)는 통신 채널을 통해 멀티미디어 콘텐츠 및 제어 명령을 싱크 디바이스(120)로 전송한다. 이때, 상기 통신 채널은 TCP(Transmission Control Protocol) 또는 UDP(User Datagram Protocol) 방식의 통신 채널이 이용될 수 있다. 특히 본 발명의 실시 예에 따른 통신 시스템에서 소스 디바이스(110)와 싱크 디바이스(120) 간의 WFD를 제공하는 경우, 포워드 채널(forward channel)에서는 소스 디바이스(110)와 싱크 디바이스(120)간의 스트리밍 프로토콜(streaming protocol)을 정의한다. 즉, 소스 디바이스(110)는 상기 싱크 디바이스(120)와 통신 채널이 연결되면, 멀티미디어 콘텐츠 및 제어 명령을 싱크 디바이스(120)로 실시간으로 전송할 수 있다. 상세하게 상기 소스 디바이스(110)는 멀티미디어 콘텐츠를 스트림 형식으로 변환한 후 통신 채널을 통해 싱크 디바이스(120)에 전송할 수 있다. 또한 소스 디바이스(120)는 제어 명령을 통신 채널을 통해 싱크 디바이스(120)에 전송할 수 있다. 상기 제어 명령은 멀티미디어 콘텐츠의 재생을 제어하기 위한 명령이다. 일 예로, 상기 제어 명령은 볼륨 변경, 일시 정지, 재생(Resume), 재생 종료, 되감기(Rewind) 등을 포함할 수 있다. 또한 소스 디바이스(110)는 싱크 디바이스(120)로 AV 데이터를 전송하는 것과 별도로 텍스트 또는 GUI 데이터를 전송할 수 있다.
싱크 디바이스(120)는 데스크탑(Desktop) PC, 노트북(Notebook), 스마트 TV(TeleVision) 등과 같이 상대적으로 큰 화면을 가지는 전자 기기가 될 수 있다. 싱크 디바이스(120)는 소스 디바이스(110)로부터 스트리밍 형식으로 변환된 멀티미디어 콘텐츠를 통신 채널을 통해 수신하고, 상기 수신된 멀티미디어 콘텐츠를 역변환하여 재생할 수 있다. 또한 싱크 디바이스는(120)는 소스 디바이스(110)로부터 전송되는 AV 데이터와 텍스트 또는 GUI 데이터를 병합하여 디스플레이 할 수 있다. 또한 싱크 디바이스(120)는 소스 디바이스(110)로부터 제어 명령을 수신하고 상기 제어 명령에 해당하는 기능을 수행할 수 있다.
도 1에서는 싱크 디바이스를 하나만 도시하였으나, 본 발명은 이에 한정되지 않으며, 싱크 디바이스가 둘 이상인 경우에도 본 발명이 적용될 수 있다. 이하에서는 설명의 편의를 위해서 싱크 디바이스가 하나인 경우를 예로 들어서 설명한다.
한편, 텍스트 혹은 GUI는 일반적으로 현재 플레이 되고 있는 프로그램과 연관된다. 싱크 디바이스에서 AV 데이터와 텍스트 혹은 GUI 데이터가 병합될 경우, AV 데이터를 위한 AV 세션(또는 미라캐스트 세션)과 텍스트 혹은 GUI 데이터를 위한 세션이 존재한다. 소스 디바이스에서의 동작은 싱크 디바이스에 반영되어야 하고, 싱크 디바이스는 AV 데이터와 텍스트/GUI 데이터를 동기화시킬 수 있어야 한다. 즉, 소스 디바이스에서의 동작은 AV 세션과 시간 동기화를 가지고 디스플레이 되어야 하고, 또한 소스 측에서의 동작은 해당하는 프로그램들의 AV 세션이 진행 중일 경우에만 디스플레이 되어야 한다. 미라캐스트 세션의 유효 시간 동안에 다수의 프로그램들이 소스 디바이스에서 시작 및 종료될 수 있으며, 프로그램이 소스 디바이스에서 종료될 때마다 해당 프로그램에 관련된 텍스트/GUI도 싱크 디바이스에서 종료되어야 한다. 소스 디바이스에서의 프로그램의 종료는 사용자에 의해 종료 버튼 또는 백(back) 버튼이 입력됨으로써 이루어질 수 있다. 따라서 프로그램 종료와 관련된 동작이 소스 디바이스에서 수행될 때마다 소스 디바이스가 싱크 디바이스에게 프로그램을 종료할 것을 알려주는 메커니즘(mechanism)이 필요하다.
도 2는 본 발명의 일 실시예에 따른 소스 및 싱크 디바이스 간의 동기화를 위한 일련의 과정들을 도시한 도면이다.
도 2를 참조하면, 소스 디바이스와 싱크 디바이스는 서로를 탐색하고 미라캐스트 세션을 시작한다(201). 소스 디바이스에서 사용자에 의해 비디오 플레이어(video player) 등의 프로그램이 실행되고 비디오를 플레이 하라는 명령이 입력되면(202), 소스 디바이스는 미라캐스트 세션을 통해 해당하는 AV 컨텐츠를 싱크 디바이스로 전달한다(203). 또한 소스 디바이스는 미라캐스트 세션과 별도의 세션(예를 들어, 파일 전달 프로토콜(FTP: file transfer protocol)을 통해 서브 타이틀/GUI 컨텐츠를 싱크 디바이스로 전달한다(204). 서브 타이틀/GUI 컨텐츠는 미라캐스트 세션에 대한 MPEG 패킷들에 새로운 미디어 컴포넌트(media component)를 추가함으로써 전달될 수 있다. 싱크 디바이스는 서브 타이틀/GUI 컨텐츠를 이미 수신한 AV 컨텐츠와 병합하여 디스플레이 한다(205). 이후 미라캐스트 세션이 진행중인 동안 소스 디바이스는 싱크 디바이스로 AV 컨텐츠를 전송한다.
이후 소스 디바이스에서 사용자에 의해 현재 실행중인 비디오를 종료하라는 명령이 입력되면(207), 소스 디바이스는 미디어 컴포넌트들을 정지시키기 위한 새로운 설정 파라미터 “stop_media_components”를 포함하는 RTSP 메시지를 싱크 디바이스로 송신하고(208), 싱크 디바이스는 소스 디바이스로부터 수신된 RTSP 메시지에 따라 현재 디스플레이 하고 있는 GUI/텍스트와 같은 미디어 컴포넌트들을 정지시킨다(209). 이후에도 미라캐스트 세션은 계속 진행 중이며, 사용자에 의해 소스 디바이스에서는 다른 AV 어플리케이션을 시작할 수 있다(210).
한편, 텍스트/GUI 컨텐츠는 SMIL/TTML 형태로 전달될 수 있는데, SMIL/TTML 파일들은 SMIL/TTML에서만 시간 동기를 기반으로 플레이 될 뿐, 비디오 파일들의 타이밍(timing)을 고려하지 않는다. 따라서 싱크 디바이스에서 텍스트를 디스플레이 할 때 텍스트가 AV 컨텐츠와 동기화되지 않고 나타날 수 있다. 이는 동일한 컨텐츠가 하나의 디바이스에서 다른 디바이스로 스트림(stream)됨으로 인해 발생된다. 따라서 WFD 네트워크에서는 SMIL 파일의 플레이 타이밍을 비디오 컨텐츠의 타이밍과 동기화 시키는 작업이 필요하다.
따라서 본 발명의 실시예에서는 소스 디바이스가 텍스트의 타이밍 정보(SMIL/TTML 타이밍 정보)를 AV 컨텐츠의 MPEG 패킷들에 삽입하여 싱크 디바이스로 전송하는 방법을 제안한다. 타이밍 정보는 싱크 디바이스에서 컨텐츠가 렌더링(rendering)될 때 어떤 시간에서 어떤 SMIL/TTML를 검출할 지를 나타내는 정보이다.
도 3은 본 발명의 다른 실시예에 따른 소스 및 싱크 디바이스 간의 동기화를 위한 일련의 과정들을 도시한 도면이다.
도 3을 참조하면, 소스 디바이스는 텍스트를 포함하는 SMIL/TTML 파일을 싱크 디바이스로 전달한다(301). SMIL/TTML 파일은 언제 어떤 텍스트를 디스플레이 하는지에 대한 타이밍 정보를 포함한다. 소스 디바이스는 소스 디바이스로 전달한 SMIL/TTML 파일을 분석하고, 텍스트에 대한 타이밍 정보를 획득한다. 이후 미라캐스트 세션 동작의 일부로서, 소스 디바이스는 스크린을 캡쳐(capture)하고, 캡쳐한 스크린 정보를 패킷화한다. 또한 패킷화 과정에서 소스 디바이스는 SMIL/TTML 파일로부터 획득한 타이밍 정보를 패킷에 포함시킨다(302). 그리고 타이밍 정보를 포함하는 패킷(예를 들어 MPEG2-TS)을 싱크 디바이스로 전달한다(303). 싱크 디바이스는 패킷을 디코딩(decoding)하여 SMIL/TTML 타이밍 정보를 검출한다. 싱크 디바이스는 이미 수신하여 가지고 있는 SMIL/TTML 파일을 파싱하고, SMIL/TTML 파일에 포함된 타이밍 정보와 상기 검출된 타이밍 정보를 비교하여 해당 텍스트를 검출하여 AV 데이터와 함께 디스플레이 한다(304). 또한 소스 디바이스에서 사용자에 의해 일시 정지 명령이 입력되면 소스 디바이스는 싱크 디바이스로 일시 정지를 트리거하며(305), 싱크 디바이스는 일시 정지에 대한 응답으로 RTSP 메시지를 소스 디바이스로 전송하고(306) 디스플레이 중인 텍스트를 일시 정지한다(307).
도 4는 본 발명의 일 실시예에 따른 소스 및 싱크 디바이스 간의 동기화를 수행하기위한 소스 디바이스와 싱크 디바이스의 구성을 도시한 것이다.
도 4를 참조하면, 소스 디바이스와 싱크 디바이스는 제어부(410)와 송수신부(420)와 저장부(430)를 포함할 수 있다. 도 4에서는 편의상 하나의 장치만을 도시하였으나 소스 디바이스와 싱크 디바이스는 별도의 장치로 구성됨은 당업자에게 자명하다.
제어부(410)는 본 발명의 실시예에 따른 디바이스간 동기화를 위한 일련의 동작을 위해 송수신부(420)와 저장부(430)를 제어한다. 이와 관련된 전반적인 동작에 대해서는 도 2 및 도 3에서 설명한 바와 동일하므로, 여기서는 그 상세한 설명을 생략하기로 한다.
송수신부(420)는 제어부(410)의 제어에 따라 본 발명의 실시예에 따른 디바이스간 동기화를 위해 소스 디바이스와 싱크 디바이스간에 데이터, 메시지, 신호 등을 송수신한다. 저장부(430)는 상대 디바이스로 송신할 데이터를 저장하거나 상대 디바이스로부터 수신된 데이터를 저장할 수 있다. 이와 관련된 전반적인 동작에 대해서는 도 2 및 도 3에서 설명한 바와 동일하므로, 여기서는 그 상세한 설명을 생략하기로 한다.
또한 도 4에는 도시하지 않았으나 소스 디바이스와 싱크 디바이스는 사용자의 명령을 입력받기 위한 입력부 및 컨텐츠를 표시하기 위한 표시부를 더 구비할 수 있다. 입력부 및 표시부는 디바이스의 종류에 따라 하나의 유닛으로 구성될 수 있다. 특히 소스 디바이스(110)에 포함된 입력부 및 싱크 디바이스에 포함된 입력부 각각은 숫자 또는 문자 정보를 입력받고 기능들을 설정 및 제어하기 위한 다수의 입력 키 및 기능 키들을 포함할 수 있으며, 터치 키(Touch key), 터치 패드(Touch Pad) 및 터치 스크린(Touch Screen) 등과 같은 입력 수단들 중 어느 하나 또는 이들의 조합으로 형성될 수 있다.
도 5와 도 6은 본 발명의 실시예에 따른 소스 디바이스와 싱크 디바이스의 동기화의 일 예를 도시한 것이다.
도 5는 소스 디바이스에 해당하는 스마트폰에서 네비게이션 어플리케이션을 실행시키고 네비게이션 실행 화면을 싱크 디바이스에 해당하는 차량 내부의 스크린으로 컨텐츠를 전송하는 경우를 도시한 것이다. 네비게이션 프로그램의 경우 지도 영상과 함께 구체적인 길안내를 위한 텍스트 및 길 안내 조건 등을 설정하기 위한 GUI를 화면에 함께 표시한다. 이러한 경우에 도 2 및 도 3에서 설명한 본 발명의 실시예에 따른 동기화 방법을 적용하면, 차량용 스크린에 표시되는 텍스트 및 GUI 데이터를 손실 없이 표시할 수 있다.
또한 도 6은 소스 디바이스에 해당하는 스마트폰에서 비디오 플레이 프로그램을 실행시키고 싱크 디바이스에 해당하는 TV의 스크린으로 컨텐츠를 전송하는 경우를 도시한 것이다. 영화 등의 컨텐츠는 비디오 및 오디오 데이터와 함께 자막(서브타이틀) 데이터를 포함한다. 이 경우 도 2 및 도 3에서 설명한 본 발명의 실시예에 따른 동기화 방법을 적용하면, 서브타이틀을 TV 스크린에서 왜곡 없이 디스플레이할 수 있으며 또는 비디오 및 오디오 데이터와의 동기화도 맞출 수 있다.
본 발명의 특정 측면들은 또한 컴퓨터 리드 가능 기록 매체(computer readable recording medium)에서 컴퓨터 리드 가능 코드(computer readable code)로서 구현될 수 있다. 컴퓨터 리드 가능 기록 매체는 컴퓨터 시스템에 의해 리드될 수 있는 데이터를 저장할 수 있는 임의의 데이터 저장 디바이스이다. 상기 컴퓨터 리드 가능 기록 매체의 예들은 리드 온니 메모리(Read-Only Memory: ROM)와, 랜덤-접속 메모리(Random-Access Memory: RAM)와, CD-ROM들과, 마그네틱 테이프(magnetic tape)들과, 플로피 디스크(floppy disk)들과, 광 데이터 저장 디바이스들, 및 캐리어 웨이브(carrier wave)들(상기 인터넷을 통한 데이터 송신과 같은)을 포함할 수 있다. 상기 컴퓨터 리드 가능 기록 매체는 또한 네트워크 연결된 컴퓨터 시스템들을 통해 분산될 수 있고, 따라서 상기 컴퓨터 리드 가능 코드는 분산 방식으로 저장 및 실행된다. 또한, 본 발명을 성취하기 위한 기능적 프로그램들, 코드, 및 코드 세그먼트(segment)들은 본 발명이 적용되는 분야에서 숙련된 프로그래머들에 의해 쉽게 해석될 수 있다.
또한 본 발명의 일 실시예에 따른 장치 및 방법은 하드웨어, 소프트웨어 또는 하드웨어 및 소프트웨어의 조합의 형태로 실현 가능하다는 것을 알 수 있을 것이다. 이러한 임의의 소프트웨어는 예를 들어, 삭제 가능 또는 재기록 가능 여부와 상관없이, ROM 등의 저장 장치와 같은 휘발성 또는 비휘발성 저장 장치, 또는 예를 들어, RAM, 메모리 칩, 장치 또는 집적 회로와 같은 메모리, 또는 예를 들어 CD, DVD, 자기 디스크 또는 자기 테이프 등과 같은 광학 또는 자기적으로 기록 가능함과 동시에 기계(예를 들어, 컴퓨터)로 읽을 수 있는 저장 매체에 저장될 수 있다. 본 발명의 일 실시예에 따른 방법은 제어부 및 메모리를 포함하는 컴퓨터 또는 휴대 단말에 의해 구현될 수 있고, 상기 메모리는 본 발명의 실시 예들을 구현하는 지시들을 포함하는 프로그램 또는 프로그램들을 저장하기에 적합한 기계로 읽을 수 있는 저장 매체의 한 예임을 알 수 있을 것이다.
따라서, 본 발명은 본 명세서의 임의의 청구항에 기재된 장치 또는 방법을 구현하기 위한 코드를 포함하는 프로그램 및 이러한 프로그램을 저장하는 기계(컴퓨터 등)로 읽을 수 있는 저장 매체를 포함한다. 또한, 이러한 프로그램은 유선 또는 무선 연결을 통해 전달되는 통신 신호와 같은 임의의 매체를 통해 전자적으로 이송될 수 있고, 본 발명은 이와 균등한 것을 적절하게 포함한다
또한 본 발명의 일 실시예에 따른 장치는 유선 또는 무선으로 연결되는 프로그램 제공 장치로부터 상기 프로그램을 수신하여 저장할 수 있다. 상기 프로그램 제공 장치는 상기 프로그램 처리 장치가 기 설정된 컨텐츠 보호 방법을 수행하도록 하는 지시들을 포함하는 프로그램, 컨텐츠 보호 방법에 필요한 정보 등을 저장하기 위한 메모리와, 상기 그래픽 처리 장치와의 유선 또는 무선 통신을 수행하기 위한 통신부와, 상기 그래픽 처리 장치의 요청 또는 자동으로 해당 프로그램을 상기 송수신 장치로 전송하는 제어부를 포함할 수 있다.
한편 본 발명의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 안되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.

Claims (24)

  1. 무선 통신 시스템에서 데이터를 디스플레이하기 위한 방법에 있어서,
    제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하는 과정;
    상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하는 과정;
    상기 제1 디바이스에 의해, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터를 포함하는 어플리케이션 데이터를 디스플레이하고, 멀티미디어 컨텐츠를 재생하는 과정, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관됨;
    상기 제1 디바이스에 의해, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로 전송하는 과정;
    상기 제2 디바이스로 상기 SMIL 파일을 전송한 후, 상기 제1 디바이스에 의해, 상기 제1 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠를 패킷화하고 상기 SMIL 파일과 연관된 제2 타이밍 정보를 하나 이상의 패킷들에 삽입함으로써 상기 하나 이상의 패킷들을 생성하는 과정;
    상기 제1 디바이스에 의해, 상기 제1 세션을 통해 상기 제2 디바이스로 상기 하나 이상의 패킷들을 전송하는 과정; 및
    상기 제1 디바이스에 의해, 상기 제1 디바이스에서 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령을 검출하는 것에 응답하여 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로 전송하는 과정을 포함하며,
    여기서, 상기 멀티미디어 컨텐츠 및 상기 GUI 데이터는 상기 제2 디바이스 상에서 상기 SMIL 파일에 포함된 상기 제1 타이밍 정보 및 상기 하나 이상의 패킷들에 삽입된 상기 제2 타이밍 정보를 비교하는 것을 기반으로 병합되어 디스플레이됨을 특징으로 하는 디스플레이 방법.
  2. 삭제
  3. 무선 통신 시스템에서 데이터를 디스플레이하기 위한 방법에 있어서,
    제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하는 과정;
    상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하는 과정;
    상기 제1 디바이스에 의해, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터 및 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로부터 수신하는 과정, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관됨;
    상기 SMIL 파일과 상기 멀티미디어 컨텐츠를 수신한 후, 상기 제1 디바이스에 의해, 상기 제2 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠 및 상기 SMIL 파일과 연관된 제2 타이밍 정보를 포함하는 하나 이상의 패킷들을 상기 제1 세션을 통해 상기 제2 디바이스로부터 수신하는 과정;
    상기 제1 디바이스에 의해, 상기 제2 타이밍 정보를 검출하기 위해 상기 하나 이상의 패킷들을 디코딩하는 과정;
    상기 제1 디바이스에 의해, 상기 SMIL 파일을 분석하고, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 검출하는 과정;
    상기 제1 디바이스에 의해, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교하는 과정;
    상기 제1 디바이스에 의해, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교한 것을 기반으로 상기 멀티미디어 컨텐츠와 상기 GUI 데이터를 병합하여 디스플레이하는 과정; 및
    상기 제1 디바이스에 의해, 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령이 검출됨에 따라, 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로부터 수신하고, 상기 GUI 데이터의 디스플레이를 중지하는 과정을 포함하는 디스플레이 방법.
  4. 삭제
  5. 무선 통신 시스템에서 데이터를 디스플레이하기 위한 제1 디바이스에 있어서,
    데이터를 송수신하는 송/수신부; 및
    제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하고, 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하고, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터를 포함하는 어플리케이션 데이터를 디스플레이하고 멀티미디어 컨텐츠를 재생하고, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관되며, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로 전송하도록 제어하고, 상기 제2 디바이스로 상기 SMIL 파일을 전송한 후, 상기 제1 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠를 패킷화하고 상기 SMIL 파일과 연관된 제2 타이밍 정보를 하나 이상의 패킷들에 삽입함으로써 상기 하나 이상의 패킷들을 생성하고, 상기 제1 세션을 통해 상기 제2 디바이스로 상기 하나 이상의 패킷들을 전송하도록 제어하고, 상기 제1 디바이스에서 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령을 검출하는 것에 응답하여 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로 전송하도록 제어하는 적어도 하나의 프로세서를 포함하며,
    여기서, 상기 멀티미디어 컨텐츠 및 상기 GUI 데이터는 상기 제2 디바이스 상에서 상기 SMIL 파일에 포함된 상기 제1 타이밍 정보 및 상기 하나 이상의 패킷들에 삽입된 상기 제2 타이밍 정보를 비교하는 것을 기반으로 병합되어 디스플레이됨을 특징으로 하는 제1 디바이스.
  6. 삭제
  7. 무선 통신 시스템에서 데이터를 디스플레이하기 위한 제1 디바이스에 있어서,
    데이터를 송수신하는 송/수신부; 및
    제1 디바이스와 제2 디바이스간 와이파이 디스플레이 세션에 해당하는 제1 세션을 설정하고, 상기 제1 디바이스와 상기 제2 디바이스 간 상기 제1 세션과 다른 제2 세션을 설정하고, 그래픽 사용자 인터페이스 (graphic user interface: GUI) 데이터 및 멀티미디어 컨텐츠와 연관된 제1 타이밍 정보 및 상기 GUI 데이터를 포함하는 동기식 멀티미디어 통합 언어 (synchronized multimedia integration language: SMIL) 파일과 상기 멀티미디어 컨텐츠를 상기 제2 세션을 통해 상기 제2 디바이스로부터 수신하도록 제어하고, 여기서 상기 멀티미디어 컨텐츠는 오디오 데이터 및 비디오 데이터를 포함하고, 상기 GUI 데이터는 상기 비디오 데이터와 연관되며, 상기 SMIL 파일과 상기 멀티미디어 컨텐츠를 수신한 후, 상기 제2 디바이스에 의해 현재 디스플레이되고 있는 상기 멀티미디어 컨텐츠 및 상기 SMIL 파일과 연관된 제2 타이밍 정보를 포함하는 하나 이상의 패킷들을 상기 제1 세션을 통해 상기 제2 디바이스로부터 수신하도록 제어하고, 상기 제1 디바이스에 의해, 상기 제2 타이밍 정보를 검출하기 위해 상기 하나 이상의 패킷들을 디코딩하고, 상기 제1 디바이스에 의해, 상기 SMIL 파일을 분석하고, 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 검출하고, 상기 제1 디바이스에 의해, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교하고, 상기 하나 이상의 패킷들에 포함된 제2 타이밍 정보와 상기 GUI 데이터 및 상기 멀티미디어 컨텐츠와 연관된 상기 제1 타이밍 정보를 비교한 것을 기반으로 상기 멀티미디어 컨텐츠와 상기 GUI 데이터를 병합하여 디스플레이하고, 상기 멀티미디어 컨텐츠의 재생을 중지하는 명령이 검출됨에 따라, 상기 GUI 데이터의 디스플레이를 중지시키기 위한 설정 파라미터를 포함하는 메시지를 상기 제2 디바이스로부터 수신하여 상기 GUI 데이터의 디스플레이를 중지하는 적어도 하나의 프로세서를 포함하는 제1 디바이스.
  8. 삭제
  9. 삭제
  10. 삭제
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
  21. 삭제
  22. 삭제
  23. 삭제
  24. 삭제
KR1020150028959A 2014-02-28 2015-03-02 무선 통신 시스템에서 어플리케이션 데이터를 디스플레이하기 위한 방법 및 장치 KR102284721B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201461946151P 2014-02-28 2014-02-28
US61/946,151 2014-02-28

Publications (2)

Publication Number Publication Date
KR20150102747A KR20150102747A (ko) 2015-09-07
KR102284721B1 true KR102284721B1 (ko) 2021-08-03

Family

ID=54007315

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150028959A KR102284721B1 (ko) 2014-02-28 2015-03-02 무선 통신 시스템에서 어플리케이션 데이터를 디스플레이하기 위한 방법 및 장치

Country Status (6)

Country Link
US (1) US10757196B2 (ko)
EP (1) EP3113500B1 (ko)
JP (1) JP6662784B2 (ko)
KR (1) KR102284721B1 (ko)
CN (1) CN106464965B (ko)
WO (1) WO2015130149A1 (ko)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102125856B1 (ko) * 2012-11-12 2020-06-23 삼성전자주식회사 데이터를 송수신하기 위한 멀티미디어 장치들간 출력 장치 공유 방법 및 시스템
US20160080708A1 (en) * 2013-04-26 2016-03-17 Hitachi Maxell, Ltd. Projection-type video display device
TWI616808B (zh) * 2014-06-30 2018-03-01 緯創資通股份有限公司 分享顯示畫面的方法及裝置
US10681122B2 (en) * 2014-12-09 2020-06-09 Samsung Electronics Co., Ltd. Method and apparatus for converting content using cloud
JP6430646B2 (ja) * 2014-12-11 2018-11-28 エルジー エレクトロニクス インコーポレイティド Ｗｆｄにおける補助コンテンツを出力する方法及び装置
WO2017111183A1 (ko) * 2015-12-21 2017-06-29 모다정보통신 주식회사 휴대용 무선 장치 및 이를 이용한 실시간 미러링 제공 방법
CN106941628B (zh) * 2016-01-04 2019-12-13 中国移动通信集团公司 同屏过程中辅助流的传输方法、发送终端及接收终端
US10530856B2 (en) * 2016-02-09 2020-01-07 Qualcomm Incorporated Sharing data between a plurality of source devices that are each connected to a sink device
CN107222769B (zh) * 2016-03-21 2020-06-05 中国移动通信集团公司 一种辅助数据流的传输方法、设备和系统
KR20180039341A (ko) * 2016-10-10 2018-04-18 삼성전자주식회사 외부 장치와 통신 방법 및 이를 지원하는 전자 장치
US11550461B2 (en) 2017-06-16 2023-01-10 Huawei Technologies Co., Ltd. Screen locking method and apparatus
US20190028522A1 (en) * 2017-07-19 2019-01-24 Qualcomm Incorporated Transmission of subtitle data for wireless display
CN107682541B (zh) * 2017-09-27 2021-02-05 努比亚技术有限公司 屏幕投影的音频控制方法、移动终端及存储介质
CN113473238B (zh) * 2020-04-29 2022-10-18 海信集团有限公司 一种智能设备及视频通话时的同声翻译方法
WO2022066459A1 (en) * 2020-09-24 2022-03-31 Sterling Labs Llc Synchronization in a multiuser experience

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060080456A1 (en) * 2004-10-13 2006-04-13 Sung Jin Hur Device and method of integrating and executing multimedia streaming service and application streaming service
US20130067331A1 (en) * 2011-09-09 2013-03-14 Screenovate Technologies Ltd. Method and System of Simultaneous Display of Multiple Screens on a Target Display

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6593937B2 (en) * 1998-06-18 2003-07-15 Sony Corporation Method of and apparatus for handling high bandwidth on-screen-display graphics data over a distributed IEEE 1394 network utilizing an isochronous data transmission format
JP2001184188A (ja) * 1999-12-27 2001-07-06 Toshiba Corp ネットワークシステム
JP2001298676A (ja) * 2000-04-11 2001-10-26 Sony Corp 映像再生装置、映像表示装置、及び操作制御システム並びに操作制御方法
KR100678204B1 (ko) 2002-09-17 2007-02-01 삼성전자주식회사 휴대단말기의 모드에 따른 영상 및 데이터 표시장치 및 방법
EP1738583A4 (en) * 2004-03-03 2009-08-19 Packetvideo Network Solutions SYSTEM AND METHOD FOR SEARCHING DIGITAL MULTIMEDIA CONTENT IN A NETWORK NODE
JP4237129B2 (ja) * 2004-10-29 2009-03-11 三菱電機株式会社 ネットワーク対応映像機器及びネットワーク対応映像システム
KR100654455B1 (ko) * 2005-05-26 2006-12-06 삼성전자주식회사 확장형 자막 파일을 이용하여 부가정보를 제공하는 장치 및방법
US8566887B2 (en) * 2005-12-09 2013-10-22 Time Warner Cable Enterprises Llc Caption data delivery apparatus and methods
KR100744507B1 (ko) * 2005-12-20 2007-08-01 엘지전자 주식회사 방송의 장면구성 방법과 그를 위한 단말기
KR100846794B1 (ko) 2006-10-26 2008-07-16 삼성전자주식회사 양방향 디지털 방송 신호의 저장방법, 재생방법, 그 장치 및 기록매체
JP2008131569A (ja) * 2006-11-24 2008-06-05 Sony Corp 画像情報伝送システム、画像情報送信装置、画像情報受信装置、画像情報伝送方法、画像情報送信方法、画像情報受信方法
US8341671B2 (en) 2007-01-08 2012-12-25 Sk Telecom Co., Ltd. System and method for synchroning broadcast content with supplementary information
JP2011143732A (ja) * 2008-04-23 2011-07-28 Mitsubishi Electric Corp 車載情報システム
CN101459976B (zh) * 2008-11-24 2011-04-06 华为技术有限公司 一种流媒体播放控制方法、设备及系统
EP2209280A1 (en) * 2009-01-19 2010-07-21 Koninklijke KPN N.V. Managing associated sessions in a network
JP2010252215A (ja) * 2009-04-20 2010-11-04 Sony Ericsson Mobile Communications Ab 携帯端末、映像表示装置、および映像処理システム
KR101732057B1 (ko) * 2009-11-02 2017-05-02 삼성전자주식회사 Ａｖ 시스템에서 사용자 입력 백 채널을 제공하는 방법 및 기기
WO2011062404A2 (ko) 2009-11-17 2011-05-26 삼성전자 주식회사 Wifi direct 네트워크에서의 wifi 디스플레이 서비스 탐색 방법 및 장치
US11606615B2 (en) * 2010-04-27 2023-03-14 Comcast Cable Communications, Llc Remote user interface
US20120192064A1 (en) * 2011-01-21 2012-07-26 Oudi Antebi Distributed document processing and management
US20130003624A1 (en) 2011-01-21 2013-01-03 Qualcomm Incorporated User input back channel for wireless displays
US9503771B2 (en) 2011-02-04 2016-11-22 Qualcomm Incorporated Low latency wireless display for graphics
JP5736986B2 (ja) 2011-06-14 2015-06-17 ブラザー工業株式会社 無線通信装置
WO2013106404A1 (en) 2012-01-12 2013-07-18 Marvell World Trade Ltd. Systems and methods for establishing a wi-fi display (wfd) session
JP5979886B2 (ja) * 2012-01-17 2016-08-31 キヤノン株式会社 送信装置及び送信方法
KR101970787B1 (ko) * 2012-02-07 2019-04-19 현대모비스 주식회사 안드로이드 플랫폼 기반 듀얼 메모리를 이용한 비디오 디코딩 장치 및 방법
KR101918040B1 (ko) * 2012-02-20 2019-01-29 삼성전자주식회사 스크린 미러링 방법 및 그 장치
US9197685B2 (en) * 2012-06-28 2015-11-24 Sonic Ip, Inc. Systems and methods for fast video startup using trick play streams
US9716737B2 (en) * 2013-05-08 2017-07-25 Qualcomm Incorporated Video streaming in a wireless communication system
KR101839562B1 (ko) * 2013-06-20 2018-03-16 엘지전자 주식회사 무선 통신시스템에서 블루투스를 이용하여 멀티미디어 콘텐츠를 재생하기 위한 방법 및 장치
JP2015004882A (ja) * 2013-06-21 2015-01-08 株式会社東芝 表示データ処理装置および表示データ処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060080456A1 (en) * 2004-10-13 2006-04-13 Sung Jin Hur Device and method of integrating and executing multimedia streaming service and application streaming service
US20130067331A1 (en) * 2011-09-09 2013-03-14 Screenovate Technologies Ltd. Method and System of Simultaneous Display of Multiple Screens on a Target Display

Also Published As

Publication number Publication date
CN106464965B (zh) 2020-02-14
EP3113500A4 (en) 2017-10-04
JP6662784B2 (ja) 2020-03-11
US10757196B2 (en) 2020-08-25
WO2015130149A1 (ko) 2015-09-03
EP3113500A1 (en) 2017-01-04
KR20150102747A (ko) 2015-09-07
US20150249714A1 (en) 2015-09-03
EP3113500B1 (en) 2020-04-29
JP2017517905A (ja) 2017-06-29
CN106464965A (zh) 2017-02-22

Similar Documents

Publication Publication Date Title
KR102284721B1 (ko) 무선 통신 시스템에서 어플리케이션 데이터를 디스플레이하기 위한 방법 및 장치
EP3195606B1 (en) Direct streaming for wireless display
US10754313B2 (en) Providing audio and alternate audio simultaneously during a shared multimedia presentation
US20150296247A1 (en) Interaction of user devices and video devices
US9332290B2 (en) Methods, systems, and media for certifying a playback device
KR20180073228A (ko) Rtp/rtsp 표준을 따르는 서버와 클라이언트에서 실시간 영상 스트리밍 방법
TWI577186B (zh) 第二內容串流在第二裝置上描繪時間之控制方法及控制裝置
KR20140091021A (ko) 제어 방법 및 그를 이용한 장치
WO2017096851A1 (zh) 一种推送视频文件的方法、系统和服务器
US20220394351A1 (en) Methods, systems, and media for presenting media content
JP5552171B2 (ja) ライブメディアストリームの時間シフト
JP7025446B2 (ja) ユーザが製作したコンテンツの第三者コンテンツストリーム中へのリアルタイム取り込み
US11445245B2 (en) Synchronized combinations of captured real-time media content with played-back digital content
US20210195256A1 (en) Decoder equipment with two audio links
US20190028522A1 (en) Transmission of subtitle data for wireless display
JP6271169B2 (ja) 番組関連プログラム
TWI587696B (zh) 資料同步播放的方法
KR20230044269A (ko) 포맷들을 atsc 3.0 저전력 무선으로 변환하기 위한 동글
KR20140015900A (ko) 미디어 서버에 의해 제어되는 디엘엔에이 기반의 콘텐츠 공유 방법
CN105554559A (zh) 一种基于http的媒体投射方法
BR112017000744B1 (pt) Transmissão contínua direta para visor sem fio

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant